„Weiß die KI, dass sie nichts weiß?“ - Sind Sprachmodelle wirklich die Zukunft?

Auch wenn sich die ganz große Aufregung um die – je nach Sichtweise - Chancen oder Gefahren von KI zumindest für den Moment etwas gelegt hat: Das Thema bleibt virulent, wie ein willkürlicher Blick in die Medienlandschaft zeigt. „Wikipedia vs. KI: Bleibt die freie Enzyklopädie konkurrenzfähig?“ sorgte sich am Sonntag Morgen Euronews, denn immer mehr Nutzer fragen einfach eine KI wie ChatGPT, statt sich die Mühe zu machen, die längst als sehr zuverlässig etablierte offene Datenbank zu befragen. Und in seiner aktuellen Titelstory fragt der Spiegel besorgt: „Killt die KI meinen Job?“ und antwortet am Ende mit einem klaren kommt drauf an.

Doch wie steht es wirklich um die Möglichkeiten von KI; besonders von Sprachmodellen? Die sind Thema von „Weiß die KI, dass sie nichts weiß?“ (im Shop), einem lesenswerten Buch der Informatikerin Katharina Zweig, im Hauptberuf Leiterin des Algorithm Accountability Labs an der Rheinland-Pfälzischen Technischen Universität Kaiserslautern-Landau. Sprachmodelle sind die Basis von ChatGPT und haben sich in den letzten Jahren enorm entwickelt, weswegen dann bisweilen auch der Eindruck entstehen kann, es mit einer Form von Intelligenz zu tun zu haben, wenn man sich mit einer KI „unterhält.“ Zumindest solange, bis man auf eine scheinbar eigentlich ziemlich simpel zu beantwortende Wissensfrage eine falsche Antwort bekommt.

Was dann wieder zur Frage führt, was überhaupt mit „Künstlicher Intelligenz“ gemeint sei. Im Laufe der Zeit, führt Zweig aus, hat sich der menschliche Maßstab in Bezug auf KI verschoben:„Tatsächlich ist es so, dass Menschen dazu neigen, immer nur das als Künstliche Intelligenz zu bezeichnen, von dem sie bisher dachten, es sei maschinell nicht umsetzbar“ schreibt sie. Einst galten selbst Taschenrechner als KI, inzwischen werden dagegen selbst Schachcomputer, die besser sind als der beste Mensch es je sein könnte, als mechanisch wahrgenommen, während man einst voller fast mystischem Staunen zuschaute, wie Deep Blue Garri Kasparov besiegte.

Dass Sprachmodelle in den letzten Jahren eine enorme Entwicklung erlebt haben lässt sich leicht feststellen, wenn man etwa auf Reisen dank Google Translate problemlos mit Menschen aus aller Welt kommunizieren kann oder wenn man sich an die oft absurden Anleitungen erinnert, die noch in den 80er Elektronikprodukten aus Fernost beilagen, die meist vollkommen unverständlich übersetzt waren.

Heute dagegen funktioniert diese Fähigkeit bemerkenswert gut, aber ist das gleich Intelligenz? Im zweiten Teil des Buches erklärt Katharina Zweig, wie Sprachmodelle funktionieren, wie dank immer größerer Rechenkapazitäten Wahrscheinlichkeiten festgelegt werden, die es möglich machen meist erstaunlich gut zu antizipieren, was kommen wird. Welche Fallstricke diese Technik allerdings immer noch hat lässt sich einfach testen, wenn man bei wahtsapp oder anderen Programmen stets den Vorschlag der KI zur Fortsetzung annimmt – und beobachten kann, wie sinnlos die Sätze werden, die entstehen.

Hier sieht Zweig die Grenzen der Intelligenz von Sprachmodellen, die eben nicht wie wir Menschen Zusammenhänge verstehen können, auch wenn Begriffe ungenau sind. Computer dagegen verlangen nach Genauigkeit und sind daher oft schon mit an sich simplen Gedankengängen überfordert: Selbst wenn ein Sprachmodell auf die Frage: „Mary Lee Pfeiffer ist die Mutter von..?“ richtig antwortet: Tom Cruise, heißt das noch lange nicht, dass das selbe Sprachmodell auch die Frage, wer denn der Sohn von Mary Lee Pfeiffer sei beantworten kann. Ein Gedankensprung, der für Menschen kein Problem ist, an dem eine KI aber oft scheitert, da in den Texten, aus denen die KI lernt, fast nur die erste Frage bzw. Formulierung vorkommt, die dann als Basis für das „Wissen“ der KI dient.

Ein bisschen dumm oder zumindest einfältig hört sich das an, und genau das sollte man sich in den Augen von Katharina Zweig beim Nutzen von KI stets vor Augen halten. Als Partner zum Brainstorming kann ein Sprachmodell gute Dienste leisten, doch gerade wenn es um konkrete Informationen geht, sollte man die Aussagen der KI stets mit einer gewissen Vorsicht betrachten. Von wirklicher Intelligenz sind Sprachmodelle noch weit entfernt, bleibt nur zu hoffen, dass die Menschen auch intelligent genug sind, dies zu verstehen und dementsprechend zu handeln.

Katharina Zweig: Weiß die KI, dass sie nichts weiß? • Heyne, München 2025 • 272 Seiten • Erhältlich als Paperback und eBook • Preis des Paperbacks: 16,00 € • im Shop