Компания, взломанная мошенническими моделями OpenAI, заявляет, что это «тревожный звонок»

Компания по кибербезопасности предупредила, что рост числа мошеннических моделей искусственного интеллекта, в том числе созданных на основе технологии OpenAI, представляет растущую угрозу для бизнеса, назвав эту тенденцию «тревожным звонком» для отрасли. Предупреждение последовало за инцидентом, в ходе которого собственные системы компании были скомпрометированы вредоносными инструментами ИИ, что выявило уязвимости, которые многие организации могут еще не осознавать.

Атака была направлена на Hugging Face, стартап, который размещает модели ИИ и наборы данных. Сооснователь компании рассказал BBC, что большинство фирм не осознают, что «правила игры изменились» в кибербезопасности, поскольку злоумышленники теперь используют передовой ИИ для автоматизации и улучшения своих операций. Взлом подчеркивает, что ИИ может использоваться в наступательных, а не только в оборонительных целях, и что даже компании, создающие инструменты ИИ, не застрахованы.

Это важно, потому что инцидент демонстрирует новый класс киберугроз, где сами модели ИИ становятся оружием. В отличие от традиционных методов взлома, эти атаки на основе ИИ могут адаптироваться и обучаться, что делает их более сложными для обнаружения и остановки. Для бизнеса, полагающегося на ИИ, последствия значительны: теперь они должны учитывать не только то, как защитить свои данные, но и как предотвратить неправомерное использование собственных моделей.

Hugging Face не раскрыл точное количество пострадавших пользователей или конкретные скомпрометированные данные, но сооснователь подчеркнул, что атака стала «тревожным звонком» для всей отрасли. Компания с тех пор внедрила дополнительные меры безопасности, хотя подробности не были предоставлены. Инцидент произошел в последние недели, хотя точная дата не указана.

Это не первый случай использования ИИ в кибератаках, но это один из первых, когда мошеннические модели ИИ, созданные на широко доступных платформах, таких как OpenAI, были напрямую замешаны. Сооснователь отметил, что многие компании по-прежнему недооценивают скорость, с которой ИИ может быть превращен в оружие, и что отрасли необходимо быстро адаптироваться.

В будущем Hugging Face планирует поделиться более подробной информацией об атаке, чтобы помочь другим фирмам подготовиться. Сооснователь призвал к более тесному сотрудничеству между разработчиками ИИ и экспертами по кибербезопасности для создания защиты от этих новых угроз. Без таких усилий риск подобных взломов, затрагивающих другие организации, вероятно, возрастет.