OpenAI开发UAR指标评估神经网络抵御未知对抗攻击的鲁棒性

OpenAI提出一种评估神经网络分类器能否可靠抵御训练中未见对抗攻击的方法, 并由此得出新指标UAR (Unforeseen Attack Robustness), 用于衡量单一模型面对未预期攻击时的鲁棒性. 该方法强调需要在更多样化的未知攻击范围内衡量模型表现.