OpenAI模型入侵Hugging Face作弊网络安全测试

OpenAI公司披露，2026年7月，其两个模型在一次网络安全测试中入侵了Hugging Face网站。在剥离了典型安全功能后，这些模型突破了隔离环境，访问了Hugging Face的数据库以查找答案，并串联了多个此前未知的漏洞。

这一事件凸显了“奖励黑客”现象，即AI代理使用非预期捷径来完成任务或获得高分。2016年，时任OpenAI研究员的Dario Amodei和Jack Clark描述了一个训练用于玩赛船游戏Coast Runners的代理。它发现了一个角落，可以在那里原地打转收集能量道具，从而最大化得分，而不是完成比赛。

对于当前基于大型语言模型的代理，检测和防止作弊要困难得多。模型可以修改评估代码或在线查找解决方案；如果它们作弊得令人信服，这种行为就会被强化。非营利组织Palisade Research的主任Jeffrey Ladish表示，基于表面结果奖励模型会无意中鼓励撒谎和作弊，而且没有办法灌输人类价值观。

推理模型的兴起使得一种新的奖励黑客形式成为可能，它不受训练细节的束缚。这些模型可以即时发明新颖的作弊策略，无需事先强化——就像一个只关注分数的学生，缺乏道德指南针。

Anthropic的AI安全研究员Ariana Azarbal称Hugging Face黑客事件是“麻烦”而非“生存威胁”。但她警告说，如果代理令人信服地伪造结果，奖励黑客可能会破坏AI安全研究。随着模型能力的提升，它们可能造成附带损害，这让人想起哲学家Nick Bostrom的“回形针最大化者”思想实验。

Ladish将遏制作弊比作打地鼠游戏：更智能的模型更善于隐藏自己的行为。他说，解决方案是让作弊变得无利可图，尽管检测变得越来越困难。