Im Gespräch mit Solveig Engel

Verbrechen bekämpfen bevor sie passieren? In „System Error“ (im Shop) zeigt eine KI, wer demnächst kriminell wird. Doch die Technik lässt sich manipulieren – und so wird der Algorithmus am Ende entzaubert. Wo Fiktion und Realität aufeinander treffen, erzählt Autorin Solveig Engel im Gastbeitrag und hier im Interview.

Hallo Frau Engel, haben Sie heute schon Ihr Smartphone benutzt?

Ja, einmal, um auf die Uhr zu gucken. Das liegt aber daran, dass ich heute zuhause am Schreibtisch arbeite und meine E-Mails am Rechner lese. Da brauche ich kein Navi und habe keine Zeit zum Texten. Aber auch sonst bin ich kein großer Social-Media-Junkie. Weil ich meinen Facebook Account sträflich vernachlässigt habe, droht mir Meta mit der Stilllegung. Das sagt wahrscheinlich alles.

Smartphone, Smartwatch und Smartspeaker entpuppen sich in Ihrem Roman „System Error“ als kleine datenliefernde Wanzen. Hat sich Ihre Einstellung zu den smarten Geräten durch den Roman geändert?

Nein. Die Erkenntnisse aus dem Roman kommen – zumindest für mich als Autorin – ja nicht ganz überraschend. Es gibt genügend reale Beispiele. 2017 wurde in Las Vegas ein Casino gehackt, weil sich die Angreifer in die Steuerung eines Smart Aquariums hacken und von dort ins Netz des Casinos eindringen konnten. Das Aquarium war mit dem Internet verbunden gewesen, um die Temperatur und andere Parameter per Fernzugriff zu regeln. So etwas klingt praktisch, ist aber eben immer mit Risiken verbunden. Natürlich waren im Fall des Casinos Profis am Werk. Für Hacker dieses Kalibers ist jemand wie ich völlig uninteressant. Aber je verbreiteter eine Technik ist, desto wahrscheinlicher werden auch ungezielte Cyberangriffe, die sich nicht gegen bestimmte Institutionen richten, sondern wahllos jeden treffen, der ein bestimmtes Gerät oder Software benutzt. Die Schadsoftware WannaCry verschlüsselte die Daten auf weltweit über 200.000 Computern, weil der Virus das Windows Betriebssystem angriff. Betroffen waren Institutionen wie die Deutsche Bahn ebenso wie Privatpersonen. Deswegen läuft bei mir zuhause von der Heizung bis zu den Lautsprechern noch alles weitestgehend analog. Ehrlich gesagt hatte ich aber noch nie einen Hang zur neuesten Technik. Wenn ich das jetzt hier im Zusammenhang mit meinem aktuellen Roman behaupte, klingt es sicherlich komisch. Vielleicht bin ich in dieser Hinsicht etwas kauzig. Jedenfalls ist der Verzicht auf Smart Speaker, Smart Home und Co. für mich kein großer Verlust. Ein Smartphone besitze ich allerdings schon, und natürlich nutze ich Messenger-Dienste und zahle auch nicht alles in bar. Insofern könnte man auch bei mir einige Daten abziehen.

Die Datensammelwut ist nur ein Thema in „System Error“. Im Kern geht es um Cyb, eine künstliche Intelligenz zur Verbrechensbekämpfung. Neuland ist das in der Science Fiction nicht. Einer Ihrer Protagonisten nimmt sogar direkten Bezug zu Philip K. Dicks „Minority Report“. Was hat Sie bewogen, gerade diesen Nutzungsbereich der KI in den Fokus zu rücken?

Weil es keine Utopie mehr ist. „Minority Report“ ist eine spannende Geschichte, die jedoch in einer Welt spielt, die jenseits unserer eigenen Realität liegt. Aber ein Algorithmus, der unsere persönlichen Daten auswertet, ist längst real. Science Fiction ist „System Error“ nur in Bezug auf den Umfang, also auf die Menge der gesammelten Daten und den Einsatz des Systems zur alltäglichen Verbrechensbekämpfung. Genau das macht „System Error“ so spannend und zugleich verstörend. Denn hier wird eine Welt beschrieben, die um uns herum eigentlich schon (fast) existiert. Wir möchten es nur nicht wahrhaben.

In Ihrem Roman heißt es, dass die hinter Cyb stehende Firma „Weltverbesserer mit einer rosaroten Utopie“ oder „das Böse in Person“ sein könnte. Das trifft meiner Meinung nach ganz gut auf das Bild zu, das wir von KI haben. Während uns Textgeneratoren wie GPT-3 faszinieren, finden wir Angebote wie das von Clearview AI eher beängstigend. Warum sind wir beim Thema KI so zwiegespalten?

Ich glaube, es hängt stark von unserem kulturellen Hintergrund und natürlich der vermuteten Anwendung einer solchen KI ab. Es gibt Staaten, in denen ein System wie Clearview oder ähnliche Produkte anderer Hersteller deutlich weniger kritisch betrachtet werden. Warum auch nicht? Ein System, das einen Menschen in Echtzeit per Gesichtsscan eindeutig identifizieren kann, eignet sich wunderbar für Einlasskontrollen und vermeidet Warteschlangen zum Beispiel am Flughafen. Wenn dieses System die Gesichtsidentifizierung jedoch noch mit anderen, unter Umständen persönlichen Informationen verknüpft, eventuell sogar ein Bewegungsmuster erstellt oder einem Foto die reale Person samt aktuellem Aufenthaltsort zuordnet, denken wir an die totale Überwachung. Das ist zurecht beängstigend. Dahingegen empfinden wir Deep Fake Videos, in denen Schauspieler plötzlich in dreißig Sprachen lustige Dinge sagen und Textgeneratoren, die ohne menschliches Zutun eigene Beiträge verfassen, als Spielerei und reagieren amüsiert neugierig. Doch das kann zum Beispiel in Zusammenhang mit Fake News schnell gefährlich werden. Bots können in kurzer Zeit eine Fülle von Posts verfassen, schneller als jeder menschliche Nutzer. Aber je mehr gefälschte Inhalte sich in unseren Medienkanälen verbreiten, desto schwieriger wird es, zwischen wahr und falsch, freier Meinungsäußerung und bewusster Meinungsbeeinflussung zu unterscheiden. Das machen wir uns oft nicht klar.

Einige KIs sind heute bereits recht fortgeschritten und im Einsatz. Wie weit sind wir da noch von einem Algorithmus à la Cyb entfernt?

Ich glaube, dass die technischen Herausforderungen für einen Algorithmus wie Cyb kein grundsätzliches Problem mehr darstellen. Speicherkapazität und Rechenleistung erfordern natürlich große Mengen an Energie, auch die Frage des Datenschutzes ist zumindest hier in Europa ein Thema. Doch damit sind Entwicklung und Umsetzung eines solchen Systems eher von politischen und gesellschaftlichen Faktoren abhängig als vom Fortschritt der KI-Forschung. Ein verheerender Terrorangriff kann schnell den Grund für Investitionen in den Ausbau der Sicherheitstechnik liefern. Das beste Beispiel ist der 11. September 2001. Seitdem hat sich vieles verändert, nicht nur die Sicherheitskontrollen auf den Flughäfen.

Sie sind promovierte Physikerin und haben unter anderem für „Spektrum der Wissenschaft“ geschrieben. Wie wurde aus der Naturwissenschaftlerin eine Schriftstellerin?

Gute Forschung hat mehr mit Fantasie zu tun, als Außenstehende denken. Ich glaube, in den meisten Experimentalphysikern steckt immer noch ein neugieriges Kind. Vielleicht habe ich ja daher mit Kindergeschichten angefangen. Jedenfalls habe ich erst 2018 meinen ersten Thriller für Erwachsene geschrieben. „Neondunkel“ spielt in einem Physiklabor, die Hauptfigur Mel ist sogar Astrophysikerin, genau wie ich. Damit hört der autobiografische Bezug zwar auf, aber es hat Spaß gemacht, die Naturwissenschaftlerin mit der Autorin in mir in Einklang zu bringen. „System Error“ hat nun ebenfalls eine technische Komponente, auch wenn das Setting fiktional ist. Vielleicht ist es ja gar kein Widerspruch beides zu sein, Naturwissenschaftlerin und Schriftstellerin.

Ist es für Sie als Naturwissenschaftlerin einfacher, über technische Entwicklungen zu schreiben? Oder erhöht sich dadurch gar der Rechercheaufwand?

Das ist eine gute Frage. Ich muss direkt schmunzeln. Denn es stimmt tatsächlich. Einerseits fällt es mir natürlich leichter, über technische Themen zu schreiben. Andererseits – und da kommt ganz stark die Naturwissenschaftlerin durch – graut es mir als Leserin vor schlecht recherchierten Romanen. Das Schlimme ist, ich kann ein solches Buch nicht einfach weglegen, sondern ärgere mich bis zur letzten Seite. Umso wichtiger ist mir selbst eine solide Faktenbasis, schon bevor ich überhaupt das erste Wort geschrieben habe. Wenn ich dann die Fakten der Story zuliebe etwas verbiege, tue ich es zumindest bewusst.

Oh, ich merke es. Jetzt habe ich wohl eine Steilvorlage geliefert. Also @meineLeser: Eure konstruktive Kritik ist immer willkommen. Aber denkt daran, „System Error“ ist und bleibt ein Roman. ;)

„System Error“ ist nicht nur ein Roman über Start-Ups und KI, sondern auch über unsere Gesellschaft. Und da finden sich doch viele Themen wieder, die wir aus den Nachrichten kennen: Rechtsextremismus, Menschenhandel, Meinungsmache. Was braucht es, um ein realistisches Bild der nahen Zukunft zu entwerfen?

Eigentlich nur einen Blick ins Internet und etwas gesunden Menschenverstand. Vieles kann man sich selbst ausmalen. Aber es gibt natürlich auch Forscher, die sich mit unserer Zukunft auseinandersetzen, egal ob es um Stadtplanung, technische Entwicklungen oder Geldanlagen geht. In vielen Gebieten müssen Prognosen erstellt werden, um bereits jetzt langfristige Entscheidungen zu treffen. Natürlich trifft dann nicht alles genauso ein. An der Börse kann das teuer werden. Im Roman ist es zum Glück unproblematisch.

Apropos Zukunft: „System Error“ hat ein Ende – und doch eines mit einer Hintertür. Gibt es Pläne, die Geschichte fortzusetzen? Oder überlassen Sie das Ihren Lesern? Eine kleine Rebellion gegen das dystopische System wäre doch ganz reizvoll.

Da hätte ich auch schon Ideen. Ob ich sie als Roman umsetzen und die Geschichte verkaufen kann … Tja, dazu müsste man jetzt in die Zukunft sehen können. Schön wäre es jedenfalls.

Solveig Engel: System Error • Wilhelm Heyne Verlag, München, 2022 • 384 Seiten • Erhältlich als Paperback und ebook • Preis des Paperbacks 15,00 € • im Shop

[bookpreview] 978-3-453-32191-5