Die nahe Zukunft: Der digitale Kapitalismus hat ein neues, extremes Stadium erreicht. In Amerika, Europa und Japan herrscht die Gaia-KI-Cloud. In China und weiten Teilen Afrikas gibt „Der Weg“ den Ton an. Plötzlich treten in beiden Hegemoniebereichen verdächtige Todesfälle auf, die Supertechnologien scheinen außer Kontrolle zu geraten. Das ruft unter anderem die Frankfurter Ärztin Jette Blomberg und den Stuttgarter Informatiker Patrick Reinerts nebst KI-Begleiter Laplace auf den Plan, Heldin und Helden des kürzlich bei Polarise erschienenen Tech-Thrillers KI – Wer das Schicksal programmiert. Wir haben Autor Christian J. Meier einige Fragen zu seinem Romandebüt gestellt.
Christian, die Geschichte, die du in „K.I.“ erzählst, ist fiktional und spekulativ. Allerdings bist du Physiker und Wissenschaftsjournalist, unter anderem hast du ein Buch über die Geschichte des Quantencomputers publiziert. Sprich: Du präsentierst uns nicht irgendwelche Hirngespinste. Nähern wir uns tatsächlich einer „digitalen Apokalypse“? Und woran würdest du das festmachen?
Zur digitalen Apokalypse muss es nicht kommen – wenn wir alle aufpassen. Wir Autoren können aufzeigen, was bei einem Weiter-so droht. Schon ein paar Mal hatte ich das Gefühl, die Realität holt die Dystopie in meinem Roman ein. Zum Beispiel im Gesundheitswesen. Der fiktive Cloudkonzern Gaia in „K.I.“ wertet Daten von Millionen Patienten aus, um privates medizinisches Wissen zu erzeugen. Die Kliniken laden personalisierte Rezepturen aus Gaias Cloud. Wechsel zur Realität: Google hatte in den USA Zugriff auf Millionen Patientendaten – ohne Zustimmung der Patienten, wie ein Whistleblower im November enthüllte. Die Firma will mithilfe der Daten KI-Werkzeuge entwickeln. Auch ein Cloudservice von Amazon analysiert Patientendaten. Die digitalen Konzerne drängen mit Macht in den lukrativen Gesundheitsmarkt. Ich fürchte, sie wollen alles über unsere Körper wissen. Bis hinunter auf die molekularbiologische Ebene, die die Medizin der Zukunft bestimmen wird. Das Horten persönlicher Daten kennt keine Grenzen. Die müssen Gesellschaft und Politik ziehen.
Noch gefährlicher ist die Entwicklung in China. In meinem Roman bedroht eine digitale Diktatur in China den Westen. Diese KI-getriebene Gesellschaftsmaschine entsteht tatsächlich. Und sie greift nach dem Westen, wie etwa Sascha Lobo kürzlich auf Spiegel-Online darlegte. Schon um unabhängig zu bleiben, sollte Europa sehr viel mehr in KI-Forschung investieren. Am Ende aber müssen sich alle zusammensetzen, um zu verhindern, dass sich parteiische Superintelligenzen gegenseitig vernichten oder eine Partei als erste eine Superintelligenz entwickelt und als Waffe verwendet. Beides wäre die digitale Apokalypse. Sie könnte schneller kommen als wir denken.
Christian J. Meier mit seinem Buch „K.I.“, das bei Polarise, einem Imprint des dpunkt.verlags erschienen ist. Es kostet 12,90 € (Print) bzw. 9,99 € (E-Book).
Die beiden Haupt-KIs in deinem Buch, Gaia und LaPlace, können quasi alles analysieren und perfekt kommunizieren – sie haben Superintelligenz erlangt. Auch „Der Weg“ verfügt über enorme Fähigkeiten. Nun sagen aber zahlreiche Informatiker*innen: So was geht gar nicht, da gibt es nicht zuletzt mathematische Probleme. KIs können de facto nur auf Inseln agieren, ihnen fehlt letztlich immer das entscheidende Weltwissen. Wie reagierst du auf diese Kritik?
Naja, perfekt sind Gaia und Laplace nicht. Sie verfolgen bestimmte Ziele und machen Fehler. Laplaces Spezialität sind Zukunftsprognosen. Die sind nie zu 100% sicher. Laplace versieht jede Prognose mit einer Wahrscheinlichkeit. Die Experten, die du zitierst, lehnen sich weit aus dem Fenster, wenn sie sagen, eine Superintelligenz sei nicht machbar. „Unmöglich“ ist eine absolute Prognose, für alle Zeiten gültig! Andere Wissenschaftler wie Nick Bostrom oder David Chalmers hingegen skizzieren glaubwürdige Wege zur Superintelligenz. Es gibt eine angesehene Theorie des menschlichen Bewusstseins, die des „globalen neuronalen Arbeitsraums“, deren Vertreter Maschinen mit Bewusstsein für möglich halten. Letztlich muss man es ausprobieren. Vielleicht geht es, vielleicht auch nicht.
Sicher wird so eine Maschine Weltwissen brauchen, um „intelligent“ zu handeln. Anfänge davon sehen wir aber schon jetzt: Autonome Roboter scannen ihre Umwelt und bauen sich daraus eine innere Landkarte. Die fiktive KI von „Gaia“ wird aus Millionen von Sensoren überall in der Welt gespeist. Laplace wiederum baut seine Prognosen auf möglichst viel Information, die er im Netz sammelt. Er lernt aus Fehlprognosen, macht also Erfahrungen, wie sie für Weltwissen wichtig sind.
Dystopische Skynet-Zukunft hin oder her, fast alle Expert*innen sind sich darüber einig, dass bereits der aktuelle Stand der KI-Technik üble Auswirkungen auf die globale Gesellschaft haben kann. Ein Technology-Review-Artikel nennt zum Beispiel folgende KI-Gefahren: Algorithmische Diskriminierung, Wahlmanipuliationsbots, totale Überwachung, Deepfakes oder autonome Waffen. Wie kann sich die Gesellschaft vor solchen Dingen schützen?
Auch die „Guten“ können KI einsetzen, etwa um Deepfakes zu entlarven. Die Technologie an sich ist ja nicht „böse“. Ähnlich wie bei Spamfiltern wird das aber ein Katz-und-Maus-Spiel bleiben. Auch die Qualität von Daten, auf denen die KI trainiert wird, muss verbessert werden. KI kann gar nicht anders, als Vorurteile aus den Daten zu übernehmen, die man ihr vorsetzt. Die Forschung, wie man gesellschaftliche Vorurteile aus Daten filtert, ist sehr wichtig. Es bräuchte zudem ein Register von Algorithmen, die über Menschen entscheiden, das mehr Transparenz schafft. Schon jetzt sollte sich jeder Mensch schlau machen, welche Algorithmen an ihm angewendet werden, rät Nicolas Kayser-Bril von Algorithmwatch. Gefährliche KI-Einsätze wie Wahlmanipulation müssen hart sanktioniert werden. Sehr hohe Geldstrafen schrecken Firmen wie Cambridge Analytica vielleicht ab. Gegen die totale Überwachung hilft meines Erachtens nur eines: eine freiheitliche Demokratie, die ihren Bürgern vertraut.
Ethikdiskussionen sind richtig und wichtig (und wir verweisen an dieser Stelle gerne auf das Reclam-Buch Grundfragen der Maschinenethik von Catrin Misselhorn). Allerdings: Wir leben im realexistierenden Kapitalismus – ethische und moralische Bedenken spielen im Zweifel wohl keine Rolle. Es geht dann bestenfalls um pragmatische Lösungen. Gemeine Frage, die sich direkt auf dein Buch bezieht: Welchen Ansatz findet du im Zweifelsfall besser? Das „Nudging“ von Gaia in Richtung Öko-Hipster-Konsum und Konformität, dem man sich lieber nicht widersetzen sollte – oder das von Anreizen und Strafen geprägte, halbwegs transparente, aber strenge bis brutale Punkte-System von „Der Weg“?
Stimmt, gemeine Frage! Als freiheitsliebender Mensch erscheint mir beides schlimm. Eigentlich bleibt immer eine Wahl. Ich will mich aber nicht um eine Antwort drücken: Ich würde, unter Bauchschmerzen, den konformen „Öko-Hipster-Konsum“ wählen.
Themawechsel: Du hast lange Zeit nur Sachtexte geschrieben. Irgendwann folgten Kurzgeschichten. Nun liegt dieser Roman auf dem Tisch. Wie bist du mit dem Schreiben zurechtgekommen? Was fiel dir besonders schwer? Welche Tipps hast du für andere Tech-Autor*innen, die sich der Belletristik zuwenden wollen?
Als Sachtextautor fiel es mir schwer, die technischen Aspekte im Hintergrund zu belassen. Das Lektorat bei Polarise hatte anfangs Mühe, den Erklärbär in mir zu zähmen. Mit der Zeit habe ich selbst jede Passage daraufhin gecheckt, ob sie die Handlung weitertreibt oder nicht. Im Vergleich zum Kurzgeschichten-Schreiben fand ich es schwierig, Spannung über lange Strecken aufzubauen und zu halten, Höhen und Tiefen in die Story zu bringen. Auch das feinere Zeichnen der Charaktere fand ich herausfordernd. Angehenden Schriftsteller-Kollegen kann ich empfehlen, viel zu lesen und zu üben. Sehr geholfen hat mir die Teilnahme an einer belletristischen Textwerkstatt, zu der ich seit zwei Jahren zweiwöchentlich gehe. Der Austausch mit anderen Autoren, gegenseitiges Vorlesen und Kritisieren: Das bringt am meisten.
Hauptfiguren und Helden deines Romans sind die Frankfurter Ärztin Jette Blomberg und der Stuttgarter Informatiker Patrick Reinerts. Gibt’s da reale Vorbilder?
Ganz allgemein faszinieren mich unbeugsame Personen, die im Kampf für ihre Ideale persönliche Nachteile in Kauf nehmen, wie Greta Thunberg oder Edward Snowden. Wenn man das selbst nicht hinkriegt, macht es sehr viel Spaß, solche Charaktere zu erfinden. Meine Figur Jette Blomberg ist so gestrickt. In der Figur Patrick Reinerts steckt ein bisschen etwas von Larry Fink, dem Boss der Fondsgesellschaft Blackrock. Ein Held ist der zwar nicht, aber trotzdem ein interessanter Charakter. Fink hat eine Riesenangst vor Fehlspekulationen und schützt sich davor mit einem Supercomputer namens Aladdin, der eine Unmenge an Daten analysiert, um finanzielle Risiken zu erkennen. Eine andere interessante Persönlichkeit ist der Mathematiker und Biometriker Gerd Antes, Verfechter der evidenzbasierten Medizin, der mit deutlichen Worten vor unreflektiertem KI-Einsatz in der Medizin warnt. Auch Jette sieht diesen Einsatz grundsätzlich kritisch.
Zu guter Letzt: Planst du weitere Abenteuer mit Jette und Patrick? Oder einen anderen Tech-Thriller? Oder ist nun erst mal wieder Non-Fiction an der Reihe?
Derzeit arbeite ich an einer aktualisierten Version meines Sachbuchs über Quantencomputer. Ich will mich aber bald an den nächsten Thriller setzen. Das macht einen Riesenspaß. Einige Ideen wabern mir schon durchs Gehirn. Ob es wieder ein Abenteuer mit Jette und Patrick wird, verrate ich noch nicht.
Lieber Christian, vielen Dank für das Interview.
„K.I. – Wer das Schicksal programmiert“
Das Buch ist seit einigen Wochen im Buchhandel erhältlich. Eine Leseprobe und mehr Informationen findet Ihr hier.