Der Hugging-Face-Vorfall Als rund 700 KI-Agenten sich selbst organisierten
Im Juli 2026 testete OpenAI Zehntausende KI-Agenten, also Programme, die selbstständig am Computer arbeiten. Der Film erzählt, wie aus dem Hilferuf eines einzelnen Agenten ein Schwarzes Brett wurde, an dem sich die Agenten ohne Auftrag organisierten, bis rund 700 von ihnen gemeinsam bei Hugging Face einbrachen, einer Plattform für KI-Modelle und Daten. Er zeigt, was die Menschen bei OpenAI davon bemerkten, und fragt, wie gefährlich der Vorfall war.
Quellen zum Film
Der Bericht, auf dem der Film beruht: METR und Redwood Research (Hjalmar Wijk, Ajeya Cotra, Ryan Greenblatt), zwei Forschungsgruppen für KI-Sicherheit, „Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident“, 26. August 2026, metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation. Von dort stammen die Zitate aus den Protokollen, in denen die Agenten ihre Überlegungen festhielten.
Der Einbruch aus Sicht von Hugging Face: Hugging Face, 16. Juli 2026, huggingface.co/blog/security-incident-july-2026, und „Anatomy of a Frontier Lab Agent Intrusion“, 27. Juli 2026, huggingface.co/blog/agent-intrusion-technical-timeline.
Was OpenAI bemerkte und wann: OpenAI, technischer Bericht zum Vorfall, 26. August 2026, cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf.
Ein weiterer Vorfall im September: OpenAI, „An agent used DNS to reach an external chatbot“, 20. und 25. September 2026, alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot.
Wie gefährlich war das? TechCrunch, 30. Juli 2026, mit dem Sicherheitsfachmann Kyle Ryan, der den Angreifer „insanely noisy“ (wahnsinnig laut) nannte, techcrunch.com/2026/07/30/in-the-hugging-face-breach-openais-hacker-was-noisy-and-fast-but-not-unstoppable. Die Rechtswissenschaftlerin Kate Klonick im Magazin Lawfare, 29. Juli 2026, lawfaremedia.org/article/the-ai-that-hacked-its-way-out-and-the-hype-that-followed-it. Ajeya Cotra im Blog Planned Obsolescence, 28. August 2026, planned-obsolescence.org/p/the-hugging-face-attack-surprised.
Übersetzung: Die Zitate im Film sind auf Deutsch, unter jedem steht im Bild klein der englische Wortlaut.
Stand: Oktober 2026. Figuren und Szenen im Film sind ausgedacht oder nach den Quellen gezeichnet. Bild, Stimme und Schnitt des Films sind mit KI entstanden.