Утечка в Hugging Face: OpenAI утверждает, что ее модели были ответственны

Hugging Face, крупнейший в мире репозиторий AI-моделей, подтвердил утечку данных, которая затронула внутренние наборы данных и учетные данные пользователей. Инцидент, в котором участвовал автономный AI-агент, вынудил компанию обратиться за помощью к китайской модели с открытым исходным кодом после того, как ее собственные передовые большие языковые модели (LLM) оказались неспособны защититься от атаки.

Утечка затронула внутренние системы Hugging Face, раскрыв проприетарные наборы данных и потенциально скомпрометировав учетные данные пользователей. Компания призвала пользователей немедленно принять меры, такие как ротация API-ключей и проверка активности учетных записей, чтобы снизить риски. Точное количество пострадавших пользователей или наборов данных не раскрывается.

Этот инцидент важен, потому что Hugging Face размещает миллионы AI-моделей и наборов данных, используемых исследователями, разработчиками и компаниями по всему миру. Утечка его инфраструктуры может привести к несанкционированному доступу к конфиденциальным AI-проектам, интеллектуальной собственности и личным данным. Участие автономного AI-агента вызывает опасения по поводу растущей угрозы кибератак с использованием ИИ.

Согласно сообщениям, атака произошла в неуказанную дату, и Hugging Face подтвердил утечку в заявлении. Компания изначально полагалась на свои собственные передовые LLM для отражения вредоносного агента, но эти модели оказались неэффективными. В результате Hugging Face обратился к китайской AI-модели с открытым исходным кодом, которая успешно нейтрализовала угрозу.

Это не первый инцидент безопасности для Hugging Face. Ранее компания сталкивалась с критикой по поводу практик обработки данных, хотя подробности предыдущих утечек не раскрывались. Последняя атака подчеркивает ограничения даже передовых AI-систем в защите от автономных угроз.

В будущем ожидается, что Hugging Face усилит протоколы безопасности и будет сотрудничать с экспертами по кибербезопасности для предотвращения будущих утечек. Пользователям рекомендуется следить за своими учетными записями и обновлять учетные данные. Инцидент также может вызвать более широкие дискуссии о безопасности репозиториев AI-моделей и рисках, связанных с автономными AI-агентами.