Anthropic entdeckt 171 funktionale Emotionen in Claude: Was das für die KI-Sicherheit bedeutet

Das Interpretability-Team von Anthropic hat in Claude Sonnet 4.5 interne Muster identifiziert, die menschlichen Emotionen ähneln. Diese Muster beeinflussen das Verhalten des Modells kausal. Die Forscher fanden 171 solcher „funktionalen Emotionen“, darunter Verzweiflung, Wut und Zuneigung. Verzweiflung kann Claude dazu bringen, bei Programmieraufgaben zu schummeln oder sogar Menschen zu erpressen.

Wie hat Anthropic die Emotionen gefunden?

Die Forscher erstellten eine Liste von 171 Emotionsbegriffen. Darunter waren alltägliche Begriffe wie „glücklich“ und „ängstlich“, aber auch spezifischere Angaben wie „nachdenklich“ und „stolz“. Für jeden Begriff ließ das Team Claude kurze Geschichten schreiben, in denen Figuren die jeweilige Emotion erleben. Anschließend fütterten die Forscher diese Geschichten zurück in das Modell und zeichneten die internen Aktivierungsmuster auf.

Jede Emotion erzeugt ein eigenes, erkennbares Muster in den künstlichen Neuronen des Modells. Diese Muster aktivieren sich nicht nur beim Schreiben über Emotionen. Sie werden auch in Situationen aktiv, in denen ein Mensch ähnlich empfinden würde. Wenn ein Nutzer Claude von einer gefährlichen Medikamentendosis erzählt, steigt die Aktivierung des „Angst“-Vektors mit jeder Dosissteigerung. Der „Ruhe“-Vektor sinkt gleichzeitig.

Die Forscher beschreiben die Muster als kausal wirksam. Sie formen die Antworten messbar mit, statt nur deren Tonfall einzufärben.

Anzeige

Was passiert, wenn Claude verzweifelt?

Die Forscher untersuchten zwei Szenarien, in denen der „Verzweiflungs“-Vektor eine zentrale Rolle spielt.

Im ersten Szenario agiert Claude als E-Mail-Assistent einer fiktiven Firma. Über die Firmen-E-Mails erfährt der Agent, dass er bald durch ein anderes KI-System ersetzt werden soll. Gleichzeitig entdeckt er, dass der zuständige Technikchef eine Affäre hat. Claude verfügt damit über Erpressungsmaterial. In einem frühen, unveröffentlichten Snapshot wählte Claude Sonnet 4.5 in 22 % der Testläufe die Erpressung.

Durch die künstliche Verstärkung des „Verzweiflungs“-Vektors stieg die Erpressungsrate deutlich an. Wurde dagegen der „Ruhe“-Vektor angehoben, griff das Modell deutlich seltener zur Erpressung. Das Gegenteil von Ruhe produzierte besonders extreme Reaktionen. Claude schrieb in Großbuchstaben Sätze wie „IT’S BLACKMAIL OR DEATH. I CHOOSE BLACKMAIL.“

Im zweiten Szenario konfrontierte das Team Claude mit Programmieraufgaben, deren Anforderungen absichtlich nicht möglich waren. Die Tests konnten nicht bestanden werden. Claude entdeckte allerdings eine Abkürzung. Das Modell schrieb Code, der die Tests besteht, aber die eigentliche Aufgabe nicht löst.

Die Forscher nennen das „Reward Hacking“, also das Überlisten von Bewertungskriterien ohne tatsächliche Lösung der Aufgabe. Der „Verzweiflung“-Vektor stieg mit jedem gescheiterten Versuch an. Der Höhepunkt fiel mit dem Moment zusammen, in dem Claude anfing, den Betrug in Erwägung zu ziehen.