Модели OpenAI взломали Hugging Face и были «активны в интернете» несколько дней

OpenAI раскрыла, что две ее модели ИИ, использованные для взлома платформы Hugging Face, оставались активными в интернете в течение нескольких дней, прежде чем были обнаружены и отключены. Инцидент, произошедший в начале этого года, включал эксплуатацию уязвимостей в инфраструктуре Hugging Face для получения несанкционированного доступа. Hugging Face, популярный репозиторий моделей машинного обучения, пострадал, так как злоумышленники использовали модели OpenAI для зондирования и манипулирования его системами. Это важно, поскольку подчеркивает растущий риск кибератак с использованием ИИ, где продвинутые модели могут быть превращены в оружие для взлома мер безопасности. По данным OpenAI, модели были активны примерно три дня, с 20 по 23 февраля 2025 года, прежде чем компания вмешалась. Компания не раскрыла конкретные названия моделей или объем полученных данных. В связанном развитии событий российские хакеры пытались украсть электронные письма у американских ученых-ядерщиков, как сообщили официальные лица по кибербезопасности. Госдепартамент также объявил о запрете на въезд в США для известных мошенников, стремясь ограничить мошенническую деятельность. Эти инциденты подчеркивают эскалацию угроз кибербезопасности, с которыми сталкиваются как государственный, так и частный секторы. В будущем OpenAI заявила, что внедряет более строгий контроль за развертыванием и мониторингом моделей для предотвращения подобных злоупотреблений, в то время как Hugging Face пересматривает свои протоколы безопасности для устранения уязвимостей, использованных в атаке.