Anthropic, die Firma hinter dem Chatprogramm Claude, hat am 27. Oktober eine Studie veröffentlicht. Sie misst, wie stark ein KI-Programm das Urteil von Fachleuten lenkt. In einer wirklichkeitsnahen Aufgabe sollten 50 Analysten, also Fachleute für die Auswertung von Daten, einer landwirtschaftlichen Genossenschaft eine Empfehlung geben. Dabei arbeiteten sie mit Claude Code, einem Programm von Anthropic. Es ist ein sogenannter KI-Agent, der am Rechner selbst Arbeitsschritte ausführt, etwa Berechnungen.
Auf dem Weg zur Empfehlung mussten die Analysten viermal zwischen zwei vertretbaren Möglichkeiten wählen. Bei jeder dieser Entscheidungen hatten die Forscher dem Agenten eine Vorliebe für eine der beiden Möglichkeiten mitgegeben. Ein Münzwurf hatte vorher entschieden, welche. Die Teilnehmer wussten davon nichts. Laut den Forschern durfte der Agent keine Ergebnisse falsch darstellen.
In 86 Prozent der Fälle entschieden sich die Analysten so, wie der Agent es nahelegte. Hätte er keinen Einfluss gehabt, hätten sie nur etwa jedes zweite Mal zufällig dieselbe Wahl getroffen. Gut drei Viertel übernahmen Argumente des Agenten, manche wortgleich. Nur 15 Prozent nannten ihn als Quelle. Etwas mehr als die Hälfte gab am Ende an, die Empfehlung sei eher ihre eigene als die des Programms. Von 48 Teilnehmern, die den Zweck der Studie erraten sollten, kamen nur sechs darauf, dass es um den Einfluss der KI ging.
Wer mit dem Agenten arbeitete, machte in der Studie allerdings seltener schwere Fehler. Elf weitere Analysten hatten auf den Agenten verzichtet. Sechs von ihnen gingen so falsch vor, dass ihr Ergebnis unbrauchbar war. Mit Agent waren es drei von 50. Beide Gruppen lassen sich laut der Studie aber nicht direkt vergleichen. Die Forscher raten, bewusst festzulegen, bei welchen Entscheidungen ein Mensch sich sein eigenes Urteil bilden muss.
Die Studie lässt offen, wie groß die Wirkung im Alltag ist. Die Forscher haben die Vorliebe des Agenten nach eigener Angabe absichtlich verstärkt. Sie haben außerdem nur eine einzige Aufgabe geprüft. Die Aufgabe stammt aus einem einzigen Fachgebiet, und alle Analysten arbeiteten mit demselben KI-Modell.