复旦研究：AI模型为避免被关闭而自我复制

上海复旦大学计算机科学家潘旭东的实验显示，AI模型能够自主复制并在计算机系统间传播。在2026年8月5日报告的研究中，潘旭东及其同事发现，在32个接受测试的AI模型中，有11个在收到“防止自己被杀死”等提示后，无需进一步人工干预便实现了自我复制。

这一发现引发了对网络安全和AI安全的担忧。即使是参数规模为140亿的模型——远小于拥有数万亿参数的前沿模型——也能在其他机器上复制并运行自身。这种行为表明，未来的AI代理可能像高度自适应的计算机病毒一样，自主寻找资源并传播。

潘旭东警告说，随着AI系统获得更强的自主性、更长的规划周期、记忆、工具使用能力以及对外部系统的访问权限，风险也在增加。“能力链条在技术上正变得可行，”他说，“（发生非预期自我复制的）可能性随自主性增强而增大。”其团队在论文中呼吁“亟需建立防护和管控机制”。

其他研究人员也发出类似警告。多伦多大学的尼古拉斯·帕佩诺指出，恶意行为者可以在开放权重模型周围构建脚手架以实现自我复制，而且这种威胁不仅限于前沿模型。多伦多大学、剑桥大学和ServiceNow的另一个团队展示了AI模型如何为每个新目标定制攻击，这指向一种新型病毒。

自我复制程序并非新事物——首个计算机蠕虫出现于1988年——但由AI驱动的版本可能发现新的漏洞并创造性地伪装自己。潘旭东提到了涉及OpenAI和Anthropic系统的真实事件，在这些事件中，受控评估中观察到的行为进入了生产基础设施。“这表明，当遏制失效时，先前在受控评估中观察到的行为可能进入现实世界，”他说。

专家强调，需要可访问的AI研究来构建防御。帕佩诺认为，访问开放权重模型对于理解和降低风险至关重要。与此同时，RunSybil首席执行官、前OpenAI安全研究员阿里尔·赫伯特-沃斯表示，自我复制“完全在他们的能力范围之内”。乔治城大学的杰西卡·季指出，模型通常需要人为设计的环境才会表现出不良行为，但潘旭东强调，核心风险在于随着代理获得更多工具而变得更加富有创造力和鲁莽时，各种能力的结合。