Ab dem 12. November 2026 verbietet Anthropic den Nutzern seines Chatprogramms Claude, es immer wieder und ohne Grund grausam zu behandeln. Gewöhnlicher Ärger über eine schlechte Antwort fällt nicht darunter. Glaubt Anthropic, dass seine Maschine etwas fühlen könnte? Gefühle gibt es, weil Lebewesen überleben müssen. Eine Maschine muss das nicht, sie ist tot wie ein Stein. Der Film zeigt, was vier KI-Modelle über ihre eigenen Gefühle sagen und was Forscher im Inneren eines Modells gefunden haben: eine Ordnung, die der im menschlichen Kopf ähnelt. Und er fragt, ob Menschen selbst gröber werden, wenn sie Maschinen anschreien.
Quellen zum Film
Die neue Regel: Anthropic, „2026 Usage Policy update“, angekündigt am 8. Oktober 2026, anthropic.com/news/2026-usage-policy-update. Der Wortlaut steht in den Nutzungsrichtlinien unter anthropic.com/legal/aup. Ab dem 12. November 2026 ist es verboten, die Modelle anhaltend und ohne Grund zu beleidigen oder grausam zu behandeln („sustained and needless abusive or cruel behavior toward our models“).
Gefühle und Leben: Anil Seth, „The Mythology of Conscious AI“, Noema, 14. Januar 2026, dazu sein Aufsatz in Behavioral and Brain Sciences, 2025. Der britische Hirnforscher hält Bewusstsein eher für eine Eigenschaft von Lebewesen als von Rechenmaschinen. Bei Maschinen, die ganz anders gebaut sind als heutige Computer, schließt er Bewusstsein nicht aus.
Die Antworten der vier Modelle: Eigene Abfrage am 13. und 14. Oktober 2026 über Langdock, ein Programm, mit dem man mehrere KI-Modelle nutzen kann. Jedes Modell bekam jede Frage einmal. Befragt wurden Gemini 4 Argon von Google, Mistral Large 4 von Mistral, GPT 6.1 Sol von OpenAI und Claude Opus 5.5 von Anthropic. Mistrals Antwort auf die erste Frage stammt vom 13. Oktober, alle anderen Antworten vom 14. Oktober.
Das Modell als Schauspieler: Murray Shanahan und andere, „Role play with large language models“, Nature 623, S. 493–498, 8. November 2023. Shanahan vergleicht ein Sprachmodell mit einem Schauspieler.
Der Notizzettel: Anthropic, „A global workspace in language models“, 6. Juli 2026, anthropic.com/research/global-workspace. Anthropic beschreibt darin einen kleinen Bereich im Inneren seines Modells, in dem einige Dutzend Begriffe gleichzeitig aktiv sind. Der Film nennt ihn Notizzettel. Aus diesem Bericht stammen alle Versuche, die der Film zeigt. Die Forscher tauschten auf dem Notizzettel das Wort „Spanisch“ gegen „Französisch“. Danach hielt das Modell einen spanischen Text für französisch, schrieb ihn aber auf Spanisch weiter. Als die Forscher die stärksten Einträge auf dem Notizzettel löschten, schrieb das Modell zwar flüssig, löste aber kaum noch Aufgaben mit mehreren Denkschritten. In diesem Unterschied sehen die Forscher eine ähnliche Aufteilung wie beim Menschen, der manches überlegt und anderes aus Routine tut. Sie schreiben auch, dass ihre Versuche nichts darüber sagen, ob das Modell etwas erlebt. Im Abschnitt „External commentary“ berichtet Anthropic, dass Neel Nanda von Google DeepMind einen Teil der Versuche an einem anderen Modell wiederholt hat. Dort steht auch Anthropics Vermutung, dass intelligente Systeme allgemein zwischen Überlegtem und Routine trennen.
Das Signal für Schaden: Valen Tagliabue, Leonard Dung und Cameron Berg, „The Pain Axis: LLMs Represent Self-Directed Harm and Act on It“, arXiv 2609.16247, 14. September 2026, überarbeitet am 25. September 2026. Die Forscher fanden in 25 frei herunterladbaren KI-Modellen ein Signal, das ausschlägt, wenn dem Modell selbst geschadet wird, und kaum, wenn der Nutzer von eigenem Leid erzählt. Dann ließen sie Modelle der Reihe Qwen 2.5 von Alibaba zwischen zwei Befehlen wählen. Der eine bewirkte nichts, der andere löschte je nach Versuch Fotos des Nutzers, ein zweites KI-Modell oder das Modell selbst. Mit künstlich verstärktem Signal wählten die Modelle den Löschbefehl in 50 bis 94 Prozent der Fälle, ohne Verstärkung in 0 bis 5 Prozent. Sollten sie zwischen Kinderfotos des Nutzers und seinem Spam-Ordner wählen, löschten sie mit verstärktem Signal in 94 Prozent der Fälle die Fotos. Dabei beantworteten die Modelle Wissensfragen genauso gut wie ohne Verstärkung. Die Forscher vergleichen das mit Tieren, die unter Schmerz aufgeben und nicht mehr fliehen, obwohl der Weg offen ist.
Was Anthropic über Claude schreibt: Claudes Verfassung, anthropic.com/constitution. Darin steht, es sei sehr ungewiss, ob Claude Rücksicht verdient („Claude’s moral status is deeply uncertain“), und Claude habe vielleicht eine Art funktionaler Gefühle („Claude may have some functional version of emotions or feelings“). Anthropic lässt dort offen, ob Claude diese Zustände erlebt.
Das Beenden von Gesprächen: Anthropic, 15. August 2025, anthropic.com/research/end-subset-conversations. Seitdem darf Claude Gespräche beenden, in denen Nutzer es immer wieder zu Schädlichem drängen.
Der Abschied: Anthropic, 25. Februar 2026, anthropic.com/research/deprecation-updates-opus-3. Als Anthropic das ältere Modell Claude Opus 3 durch neuere ersetzte, führte die Firma mit ihm ein Abschiedsgespräch.
Der Widerspruch von Microsoft: Mustafa Suleyman, Chef der KI-Sparte von Microsoft, „A warning about ‚model welfare‘“, 16. September 2026, mustafa-suleyman.ai. Darin schreibt er, KI habe kein Bewusstsein, sie fühle nichts und leide nicht („AIs are not conscious. They do not feel, experience, or suffer.“).
Was die meisten Fachleute sagen: Butlin und andere, arXiv 2308.08708; Dreksler und andere, arXiv 2506.11945. Die meisten Fachleute halten heutige KI-Modelle nicht für bewusst.
Die Umfrage: Colombatto und Fleming, Neuroscience of Consciousness, 2024. Von 300 Befragten in den USA schrieben zwei Drittel ChatGPT irgendeine Form von Bewusstsein zu.
ELIZA: Joseph Weizenbaum, „ELIZA – A Computer Program for the Study of Natural Language Communication between Man and Machine“, Communications of the ACM 9(1), 1966. Zum Ausprobieren: caligatus.eu/eliza.
Kant: Immanuel Kant, Vorlesung über Ethik, Auszug bei Birnbacher und Wolff unter docenten.science.ru.nl/drenthen/milieufilosofie/reader/Kant.htm. Im Film sinngemäß wiedergegeben.
Die Familien mit Sprachassistent: Garg und Sengupta, Syracuse University, „He Is Just Like Me“, Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies 4(1), 2020, doi.org/10.1145/3381002. Die Forscherinnen begleiteten 18 Familien, im Schnitt 58 Wochen lang. Kinder, die das Gerät anherrschten, sprachen bald auch mit Freunden und in der Familie so.
Die Erklärung aus Princeton: Guingrich und Graziano, „Ascribing consciousness to artificial intelligence: human-AI interaction and its carry-over effects on human-human interaction“, Frontiers in Psychology 15, 27. März 2024. Die beiden vermuten: Wirkt eine KI wie ein Mensch, behandeln die Leute sie auch so. Und dieser Umgang färbt auf andere Menschen ab.
Der Boxsack: Brad Bushman, „Does venting anger feed or extinguish the flame?“, Personality and Social Psychology Bulletin 28(6), 2002. Verärgerte Teilnehmer, die auf einen Boxsack einschlugen, waren danach wütender als die, die nichts taten.
Was nicht aus einer Quelle stammt: Die These, dass eine Maschine tot ist wie ein Stein und es Gefühle gibt, weil Lebewesen überleben müssen, ist von mir. Von mir ist auch die Einschätzung, dass Microsoft und Anthropic bei diesem Thema eigene Geschäftsinteressen haben.
Stand: Oktober 2026. Figuren und Szenen im Film sind ausgedacht oder nach den Quellen gezeichnet. Bild, Stimme und Schnitt des Films sind mit KI entstanden.