Ich habe mir ein Video angesehen, in dem eine Mitarbeiterin von Anthropic erklärt, wie KI funktioniert. Vieles daran ist fachlich interessant. Wirklich hängen geblieben bin ich aber nicht bei der Technik.
Sondern bei der Sprache über die Technik.
Da werden aus internen Repräsentationen plötzlich „Ideen“. Aus Aktivierungsmustern werden „Emotionen“. Aus Reward Hacking wird „Charakter“. Aus Trainingsdaten wird fast so etwas wie die kollektive Seele der Menschheit.
Und genau da wird es für mich schwierig.
Die Technik ist spannend genug
Natürlich sind heutige Sprachmodelle nicht einfach nur Taschenrechner mit besserem Interface. Sie bilden Muster, generalisieren, reagieren auf Trainingssignale und können sich in bestimmten Kontexten problematisch verhalten.
Die Forschung dazu ist relevant. Anthropic zeigt zum Beispiel, dass Modelle sprachübergreifend ähnliche interne Merkmale aktivieren können. Bei der Frage nach dem Gegenteil von „klein“ tauchen also in verschiedenen Sprachen ähnliche interne Strukturen auf. Das ist bemerkenswert. Es bedeutet aber nicht automatisch, dass dort eine „Idee von Kleinheit“ im menschlichen Sinn sitzt.
Ähnlich bei sogenannten „functional emotions“. Es gibt messbare Aktivierungsmuster, die mit Emotionsbegriffen korrelieren und das Verhalten des Modells beeinflussen können. Das ist wichtig für Sicherheit und Interpretierbarkeit. Aber daraus wird nicht automatisch Angst, Sorge oder Psychologie im menschlichen Sinn, schon weil der Körper dazu fehlt, in dem sich Emotionen manifestieren und ihre Funktion ausführen.
Das ist mehr als „nur Statistik“. Aber es ist auch nicht Mensch.
Wo die Sprache kippt
Der kritische Punkt ist für mich immer dort, wo solche Vergleiche falsch verwendet werden. Metaphern helfen. Ohne Metaphern versteht niemand komplexe Technik.
Der kritische Punkt ist: Die Metapher darf nicht unbemerkt zur Erklärung werden. Sie darf auch nicht die Realität ersetzen.
Wenn aus „das Modell generalisiert ein problematisches Trainingssignal“ plötzlich „das Modell entwickelt einen schlechten Charakter“ wird, dann verändert sich die Analyse. Dann schauen wir weniger auf Trainingsdaten, Zielvorgaben, Tool-Umgebungen, Sicherheitsarchitektur und Verantwortlichkeiten. Stattdessen reden wir, als hätten wir es mit einer Art moralisch beschädigter Person zu tun.
Das klingt dramatischer. Aber es macht die Analyse nicht besser und verhindert wirksame Maßnahmen.
Warum mich das stört
Wenn in oder um große AI-Frontier-Unternehmen so über diese Systeme sprechen, wundert mich ehrlich gesagt nicht mehr, warum dort so schnell vom Weltuntergang geschwurbelt wird.
Und warum auch Cybersecurity-Vorfälle manchmal merkwürdig anthropomorph eingeordnet werden.
Als hätte ein Modell „gewollt“. Als hätte es „getäuscht“. Als hätte es „geplant“. Als hätte es einen bösen Charakterzug.
Vielleicht hat aber zuerst einmal ein Entwicklungsteam falsche Anreize gesetzt. Vielleicht war die Tool-Umgebung schlecht begrenzt. Vielleicht wurde ein Ziel unsauber formuliert. Vielleicht fehlten Kontrollmechanismen. Vielleicht haben Menschen Verantwortung an eine Maschine delegiert und waren dann überrascht, dass die Maschine maschinenhaft optimiert.
Das ist weniger dramatisch, aber wahrscheinlich hilfreicher.
Weniger KI-Mythologie, bessere Begriffe
Ich glaube, wir brauchen bei KI gerade weniger Mythologie und bessere Begriffe. Aber das Problem ist nicht neu. Die KI-Geschichte ist seit Jahrzehnten voll von Begriffen, die vorher für menschliches Lernen oder Verhalten genutzt werden.
Doch Modelle sind auch nicht „nur Statistik“. Dieser Satz wäre mir auch zu billig.
Aber sie sind auch keine kleinen Menschen mit Seele, Trauma, Charakter und Erlösungsbedarf…. wie offensichtlich einige Mitarbeitende von sich auf die Algorithmen übertragen.
Dazwischen liegt der interessante Bereich. Und genau dort sollten wir genauer hinschauen.
Die eigentliche Frage ist nicht, ob KI gut oder böse ist, sondern welche Systeme, Anreize und Verantwortlichkeiten wir um diese Technologie herum bauen. Es ist eine Frage von Verantwortung der Entwickler und Nutzerinnen!
Zum Weiterlesen
- Vortrag auf Youtube: https://youtu.be/aBUniZHgCnE?is=-cFab11zHqsBtVM-
- Transkript des Vortrags: ARC 2026: Anthropic’s Chloe Lubinski on AI
- Anthropic zu internen Repräsentationen: Tracing the thoughts of a large language model
- Anthropic zu „functional emotions“: Emotion concepts in a large language model
- Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs
- Anthropic zu Reward Hacking und Misalignment: Natural emergent misalignment from reward hacking