Rezension zum gleichnamigen Buch von Prof. Dr. Katharina Zweig
Als ich vom #excitingedu – Kongress 2025 zurück war, wartete direkt die nächste inspirierende Überraschung im Briefkasten. Prof. Dr. Katharina Zweig hat mir freundlicherweise ein Exemplar ihres neuen Buches „Weiß die KI, dass sie nichts weiß?“ zukommen lassen (Heyne Verlag) – mit Grüßen und einem kleinen Notizblock.
Ich habe nicht lange gewartet und die ersten Kapitel mit großem Interesse gelesen. Darin führt Katharina Zweig nachvollziehbar und niederschwellig in die aktuellen KI-Systeme ein, erläutert unterhaltsam, was Mensch und Maschine unterscheidet und markiert deutlich, was letztere als regelbasierte Systeme nicht können.
Die Herangehensweise
Dabei geht es ihr um sprachliche Differenzierung und Aufklärung, dass uns die Maschinen nicht wirklich verstehen, dass sie nichts wissen und lernen und dass das auch bei Reasoning-Modellen und agentischer KI so bleibt und bleiben wird.
Spannend finde ich ihren Vorschlag, Maschinen-Tätigkeiten, die menschlichen Tätigkeiten ähneln, mit einer Tilde zu versehen – zum Beispiel, wenn Computer ein Anliegen ~verstehen, Texte ~zusammenfassen, ein Feedback ~schreiben oder etwas aus dem Kontext ~lernen. Definitiv geeigneter als Anführungszeichen.
Worum geht es noch?
Nach den ersten Kapiteln werden die Leser:innen mit in den Maschinenraum der Sprachmodelle genommen. „Dort“ geht es um neuronale Netze, um Lernen in Schichten und um ein tieferes Verständnis des Blackbox-Phänomens. In Teil III stellt die Autorin differenziert dar, was Sprachmodelle können und was sie heute nicht können.
Eine der vielen wichtigen Botschaften des Buches übernehme ich exemplarisch:
“Die Maschine weiß nicht, was sie tut. Sie ist nicht „die KI“ mit einer allumfassenden Intelligenz, sie hat keine kommunikative Absicht, wenn sie Texte generiert, und kein Bewusstsein. (…) Es handelt sich um ein KI-System, das für einige Aufgaben sehr gut geeignet ist und für andere nicht.” (S. 143)
Mein Fazit: Kritisch bleiben
Wer einen realistischen Blick auf heutige Sprachmodelle werfen und deren Möglichkeiten und Grenzen verstehen will, sollte das neue Buch von Katharina Zweig lesen. Sie erklärt technologische Details unterhaltsam und verständlich und ordnet so den aktuellen Hype um KI ein. Ob zum Beispiel KI-Agenten „im Wesentlichen floppen“ werden, das wird wohl erst die Zukunft zeigen. Ich lese ihr Buch in jedem Fall als weiteren Appell, kritisch zu bleiben, sich genau zu informieren und den überzogenen Erwartungen mit ein bisschen mehr „Lasst-die-Kirche-im-Dorf – Sound“ gegenüberzutreten.
P. S.: Die ersten zwei Teile des Buches stehen (wohl bald) als open access auf der Universitätswebsite der Autorin zur Verfügung, so die Ankündigung in der Danksagung!
Veröffentlicht am 26. Oktober 2025