Utopie oder Dystopie?

Künstliche Intelligenz und die damit verbundende Effizienz sind der Stoff, aus dem zahlreiche der utopischen Träume gemacht sind, die mehr Wohlstand, soziales Gleichgewicht, Harmonie und Verminderung von Gefahren in Aussicht stellen. Mindestens genauso groß ist aber auch die Anzahl an Horrorszenarien, deren gemeinsamer Kern die Vorstellung einer außer Kontrolle geratenen künstlichen Intelligenuz darstellt. 

Dabei geht es jedoch nicht nur um die wohlbekannte fiktionale Ebene in Literatur, Musik, Film, etc., sondern mittlerweile auch um die tatsächliche Realität, über deren Zukunft sich im Hinblick auf intelligente Maschinen bereits namhafte Persönlichkeiten wie Bill Gates und Stephen Hawking äußerst bedacht geäußert haben. So wurden bereits Risiken aufgezeigt und Warnungen ausgesprochen, die für viele noch wie reine Fiktion anmuten. Doch auch wenn viele der beschriebenen Szenarien noch in weiter Ferne zu sein scheinen, wäre JETZT der richtige Moment, um es nicht zu weit mit übereifrigen Computern kommen zu lassen.

Dieser Meinung ist zumindest Nick Bostrom, ein Experte für existenzielle Risiken, Ethik, die menschliche Erweiterung durch Technik, etc. und ganz nebenbei der Mann, der Elon Musk zu seiner regen Tätigkeit im Kampf gegen eben jene zukünftigen Horrordystopien inspiriert hat. Der wichtigste Aspekt, der darüber entscheiden wird, ob sich künstliche Intelligenz als Fluch oder Segen herausstellt, ist - Bostroms Meinung zufolge - der Aspekt der menschlichen Kontrolle: Sollte man einer künstlichen Intelligenz einen bestimmten Befehl geben, beispielsweise den Menschen glücklich zu machen, so wird diese Maschine alles daran setzen, diesen Befehl auch umzusetzen. Vielleicht wird jene Maschine erkennen, dass die effizienteste Methode hierfür darin besteht, bestimmten Hirnregionen elektrische Impulse zu senden. Alle anderen Faktoren könnte sie dabei jedoch genauso gut ignorieren, was letztendlich in mehr Schaden als Nutzen resultieren könnte. Vor allem dann, wenn das Konzept „glücklich sein“ lediglich auf die Stimulierung gewisser Nervennetze reduziert werden würde.

Die Problematik bestünde demnach darin, dass - selbst wenn besagte Maschine erkennen würde, dass ihre Methode nicht das ist, was sich ihr Programmierer gedacht hat - dies lediglich eine gleichgültige Information für sie wäre. Immerhin ist es ihr oberstes Ziel, Menschen glücklich zu machen, was sie de facto aus rational biologischer Sicht auch tut. Derlei Probleme können nur durch frühzeitige Forschung vermieden werden, doch der Wettlauf zwischen technologischem Fortschritt und menschlicher Erkenntnis ist bisher noch ziemlich unausgeglichen, wie Bostrom meint.

Ein Interview mit dem schwedischen Experten, in dem die hier kurz angerissenen Beispiele und Theorien näher erläutert werden, findet ihr hier.