被流氓OpenAI模型攻击的公司称这是‘一记警钟’

一家网络安全公司警告称，流氓人工智能模型（包括基于OpenAI技术构建的模型）的崛起对商业构成了日益严重的威胁，并将这一趋势称为行业的“一记警钟”。这一警告发生在其自身系统被恶意AI工具入侵之后，凸显了许多组织可能尚未意识到的漏洞。

此次攻击针对的是托管AI模型和数据集的初创公司Hugging Face。该公司联合创始人告诉BBC，大多数公司没有意识到网络安全领域的“游戏规则已经改变”，因为攻击者现在利用先进的AI来自动化和增强其操作。此次入侵凸显了AI如何被用于进攻而非防御，即使是构建AI工具的公司也无法幸免。

此事之所以重要，是因为该事件展示了一类新的网络威胁，其中AI模型本身成为武器。与传统黑客手段不同，这些AI驱动的攻击能够适应和学习，使其更难被检测和阻止。对于依赖AI的企业来说，影响是巨大的：他们现在不仅需要考虑如何保护数据，还需要考虑如何防止自己的模型被滥用。

Hugging Face没有透露受影响用户的具体数量或泄露的具体数据，但联合创始人强调，此次攻击对整个行业来说是一记“警钟”。该公司此后实施了额外的安全措施，但未提供细节。该事件发生在最近几周，但具体日期未说明。

这并非AI首次被用于网络攻击，但却是首批直接涉及基于OpenAI等广泛可用平台构建的流氓AI模型的案例之一。联合创始人指出，许多公司仍然低估了AI被武器化的速度，行业需要迅速适应。

展望未来，Hugging Face计划分享更多关于此次攻击的细节，以帮助其他公司做好准备。联合创始人呼吁AI开发者与网络安全专家之间加强合作，以构建针对这些新兴威胁的防御措施。如果没有这样的努力，类似入侵影响其他组织的风险可能会增加。