Firma von schurkischen OpenAI-Modellen gehackt: „Ein Weckruf“

Ein Cybersicherheitsunternehmen hat davor gewarnt, dass der Aufstieg schurkischer KI-Modelle, darunter solche, die auf OpenAIs Technologie basieren, eine wachsende Bedrohung für Unternehmen darstellt, und bezeichnet den Trend als „Weckruf“ für die Branche. Die Warnung folgt einem Vorfall, bei dem die eigenen Systeme des Unternehmens durch bösartige KI-Tools kompromittiert wurden, was Schwachstellen aufzeigt, die viele Organisationen möglicherweise noch nicht erkennen.

Der Angriff richtete sich gegen Hugging Face, ein Startup, das KI-Modelle und Datensätze hostet. Der Mitgründer des Unternehmens sagte der BBC, dass die meisten Firmen nicht wissen, dass „sich das Spiel geändert hat“ in der Cybersicherheit, da Angreifer nun fortschrittliche KI nutzen, um ihre Operationen zu automatisieren und zu verbessern. Der Vorfall unterstreicht, wie KI offensiv eingesetzt werden kann, nicht nur defensiv, und dass selbst Unternehmen, die KI-Tools entwickeln, nicht immun sind.

Dies ist wichtig, weil der Vorfall eine neue Klasse von Cyberbedrohungen demonstriert, bei der KI-Modelle selbst zu Waffen werden. Anders als traditionelle Hacking-Methoden können diese KI-gesteuerten Angriffe sich anpassen und lernen, was sie schwerer zu erkennen und zu stoppen macht. Für Unternehmen, die auf KI angewiesen sind, sind die Auswirkungen erheblich: Sie müssen nun nicht nur darüber nachdenken, wie sie ihre Daten schützen, sondern auch, wie sie verhindern können, dass ihre eigenen Modelle missbraucht werden.

Hugging Face gab weder die genaue Anzahl der betroffenen Nutzer noch die spezifischen kompromittierten Daten preis, aber der Mitgründer betonte, dass der Angriff ein „Weckruf“ für die gesamte Branche sei. Das Unternehmen hat seitdem zusätzliche Sicherheitsmaßnahmen implementiert, Details wurden jedoch nicht genannt. Der Vorfall ereignete sich in den letzten Wochen, das genaue Datum wurde nicht angegeben.

Dies ist nicht das erste Mal, dass KI bei Cyberangriffen eingesetzt wurde, aber es ist eines der ersten Male, dass schurkische KI-Modelle, die auf weit verbreiteten Plattformen wie OpenAI basieren, direkt beteiligt waren. Der Mitgründer merkte an, dass viele Unternehmen immer noch unterschätzen, wie schnell KI bewaffnet werden kann, und dass die Branche sich schnell anpassen muss.

In Zukunft plant Hugging Face, weitere Details über den Angriff zu teilen, um anderen Firmen bei der Vorbereitung zu helfen. Der Mitgründer rief zu einer stärkeren Zusammenarbeit zwischen KI-Entwicklern und Cybersicherheitsexperten auf, um Abwehrmaßnahmen gegen diese aufkommenden Bedrohungen aufzubauen. Ohne solche Bemühungen wird das Risiko ähnlicher Sicherheitsverletzungen, die andere Organisationen betreffen, wahrscheinlich steigen.