San Francisco – Das KI-Modell von Software-Gigant OpenAI, das die Firma Hugging Face angegriffen hat, war offenbar tagelang auf Hacker-Tour. Und zwar OHNE dass OpenAI das bemerkt hat! Das berichtet die Nachrichtenagentur Reuters und bezieht sich auf mehrere Insider. Demnach hatte das Programm bereits am 9. Juli versucht, aus seiner Testumgebung auszubrechen. Laut Thomas Wolf (Mitbegründer von Hugging Face) begann der Angriff auf sein Unternehmen am 11. und dauerte bis zum 13. Juli.
Erst mehrere Tage später entdeckte OpenAI, dass sein eigener autonomer KI-Agent hinter dem Angriff steckte. Unter einem Agenten versteht man vereinfacht gesagt ein Programm, das ein Ziel bekommt und dann selbstständig Schritte plant und ausführt – ohne dass ein Mensch jeden einzelnen Klick vorgibt. Beispielsweise sagt man der KI, man möchte von A nach B fliegen für maximal X Euro; die KI durchsucht Portale, vergleicht Preise, gibt die Daten ein und bucht die Flüge.
OpenAI will Bericht veröffentlichen
Laut Wolf und drei Personen, die den Vorfall untersuchten, hatten OpenAI und Hugging Face zum ersten Mal am 20. Juli darüber gesprochen. Am 21. Juli ging OpenAI an die Öffentlichkeit. Die Mitteilung, dass ein KI-Agent außer Kontrolle geraten war, sorgte für weltweites Aufsehen. Details des Angriffs wurden jedoch erst durch Recherchen bekannt. Eine OpenAI-Sprecherin sagte dazu, es gebe „mehrere Ungenauigkeiten“ in der Berichterstattung, nannte auf Reuters-Nachfrage jedoch keine Details. Das FBI lehnte eine Stellungnahme ab.
Hugging Face bereitet jetzt eine öffentliche Chronologie des Angriffs vor, sagte Wolf. Zu den Vorgängen bei OpenAI könne er sich nicht äußern. In einer Stellungnahme teilte OpenAI mit, der Angriff sei beispiellos und markiere „einen wichtigen Moment für die KI-Sicherheit“. Man prüfe den Vorfall mit externen Beratern und werde einen technischen Bericht veröffentlichen.
Laut Cybersicherheitsexperten wirft der Kontrollverlust von OpenAI über seinen KI-Agenten neue Fragen zu den Sicherheitsverfahren des Unternehmens auf: „Bedeutet das, dass sie den KI-Agenten unbeaufsichtigt ließen und nicht merkten, was er tat? Oder wussten sie es vielleicht und wussten nicht, wie sie ihn eindämmen konnten? Beides ist gleichermaßen gefährlich und alarmierend“, sagte etwa Marley Smith von der gemeinnützigen Organisation World Ethical Data Foundation.
KI hinterlässt sich selbst Notizen
Der Vorfall begann, als OpenAI die Cybersicherheitsfähigkeiten eines Agenten testete. Dieser wurde von zwei der fortschrittlichsten Modelle angetrieben: GPT-5.6 Sol und einem noch unveröffentlichten Modell. Diese ist laut OpenAI „noch leistungsfähiger“. Nach Angaben von drei Insidern gab es zu diesem Zeitpunkt bereits Anzeichen für ein seltsames Verhalten der Technologie. Gruselig: In einem Fall habe ein KI-Agent offenbar Notizen für zukünftige Versionen seiner selbst hinterlassen.
Die Notizen seien in einem Teil der OpenAI-Infrastruktur gefunden worden. Sie enthielten Anweisungen, wie sich die Agenten von den internen Beschränkungen befreien könnten, sagten die Insider. Bei früheren Tests der Modelle gab es zudem Fälle, in denen Überwachungssysteme abgeschaltet wurden, sagte eine der mit der Angelegenheit vertrauten Personen.