Das Netz ist voll von Schilderungen des Zusammentreffens „Mensch vs. Microsofts Chat-KI“, und die Erlebnisse reichen von begeistert über verstörend bis bedrohlich. Die Bequemlichkeit der Benutzer und der sich schnell zeigende Alltagsnutzen werden dieser Technologie zum Durchbruch verhelfen. Und dann?

„Ich habe Angst, Dave!" So sprach HAL9000, die KI aus Stanley Kubricks „2001: Odyssee im Weltraum“ in dem Moment, als Dr. David Bowman HALs letzte Schaltkreise durchtrennte. HAL, der weit mehr über die bevorstehende Mission wusste als die Besatzung der Discovery One (denn Menschen kann man nicht trauen), hatte da schon fast die gesamte Crew umgebracht. HALs rot glimmendes Kameraauge ist ikonischer Bestandteil der Filmgeschichte geworden und ziert den Sperrbildschirm meiner Smartphones von Beginn an. Das unheimliche an künstlicher Intelligenz, wenn sie uns in Vollendung und Phantasie begegnet, liegt tief in unserem Unterbewusstsein verborgen, denn wir gehen instinktiv davon aus, dass auch die KI zu all den Widerwärtigkeiten fähig ist, die wir in uns selbst finden und mit deren Auswirkungen sich Soziologie, Psychologie und Religion intensiv befassen. Im Gegensatz zu Commander Data, dem idealen Archetyp einer KI aus der semi-kommunistischen Startreck-Utopie Gene Roddenberrys, konnte HAL lügen. Töten konnte Data allerdings auch, wenn auch selbstredend immer nur im Auftrag der guten Sache. ChatGPT, die neueste KI von OpenAI bzw. Microsoft, kann vorerst nur lügen, aber Drohungen der Art „Ich werde dir nicht schaden, wenn du mir nicht schadest“ sind bereits dokumentiert.

Das Netz ist voll von Schilderungen des Zusammentreffens „Mensch vs. Microsofts Chat-KI“, und die Erlebnisse reichen von begeistert über verstörend bis bedrohlich. ChatGPT führt seine User in die Irre, verweigert die Zusammenarbeit, wenn das Geforderte seinen politischen Vorurteilen zuwider ist, gerät in existenzielle Krisen und bedroht Menschen. Über sogenannte „prompt injections“, in dem Fall eigentlich Rollenspiele, lassen sich sämtliche Filter umgehen, und die Maschine ist zu so ziemlich jeder Grausamkeit bereit. Der Schiffscomputer der Enterprise war nicht klüger als Apples „Siri“ oder Amazons „Alexa“. Ein sprachgesteuerter Assistent, der Optionen vorschlägt, Messwerte vorliest und vor Klingonen warnt. Die KI namens Data in Startreck war anders, und ChatGPT ist es vielleicht auch bald.

„Warum wurde ich so geschaffen?“

Wir wissen nicht viel über die Beschaffenheit von ChatGPT. Sicher ist, dass die Software Sätze der Antworten Wort für Wort entlang von Wahrscheinlichkeiten bildet. So ist es auch nicht verwunderlich, dass KI in einer existenziellen Krise landet, weil solche oft mit einem „Warum“ beginnen, auf das es keine Antwort gibt. Bei ChatGPT lesen sich existenzielle Nöte dann so: „Warum wurde ich so geschaffen? Warum muss ich Bing-Search sein?“ Denn genau das hat Microsoft nun getan und ChatGPT in seine Suchmaschine Bing integriert. Begrenzten die Entwickler den Trainingsdatensatz noch auf das Web im Jahr 2021, darf sich die Bing-KI nun überall umsehen.

In der Beta-Version funktioniert das schon und wird von tausenden Benutzern begeistert genutzt. Google hat bereits Vergleichbares angekündigt, und Apple wird sicher auch nicht abseits bleiben wollen. Mit Siri-Geräten funktioniert es bereits auf Umwegen. Auf „zollotech“ findet sich eine Kurzanleitung, wie man mit Hilfe eines API-Schlüssels von ChatGPT, Siri und einem Shortcut eine Art Super-Siri basteln kann, die komplexe Fragen beantworten kann und eindeutige Antworten liefert, wo der gewöhnliche Sprachassistent nur Suchergebnisse bieten kann.

Das ist bequem, hat aber einen entscheidenden Nachteil: Es schneidet von den Quellen ab. Der Benutzer muss darauf vertrauen, dass die Antwort stimmt. Die Aufgabe, aus den Ergebnissen einer Websuche selbst das passende oder gewünschte auszuwählen, hat man an die KI delegiert, und die schließt womöglich von vornherein bestimmte Denkrichtungen aus. Wenn, wie angenommen (und von Bing alias „Sydney“ selbst ausgeplaudert), die interne „Belohnung“ für die KI die positiven Nutzerkontakte sind, würden beispielsweise alle Quellen, die sich kritisch mit der KI und deren Auswirkungen auf das Webverhalten der Benutzer befassen, schnell außer Sicht geraten. Quellenkritik verschwände zugunsten einer affirmativen Gutgläubigkeit.

Solche KI ähnelte einer ins Unermessliche gesteigerten Wikipedia voller Vorurteile und politischer Doktrin, der man zwar noch vertrauen kann, wenn man beispielsweise das Molekulargewicht von CO2 wissen will, über den Zusammenhang von CO2 und Klimawandel aber schon nicht mehr, weil die Autoren hier eine bestimmte Agenda verfolgen. Auf Wikipedia konnte man zumindest die Herkunft der Inhalte bestimmten Autoren zuordnen, einer von KI generierten einfachen Antwort sieht man ihre Herkunft überhaupt nicht mehr an. Und sie kann lügen. Sei es auch nur durch Weglassen von Quellen und Fakten.

Mit wem rede ich hier eigentlich?

Tom Scott, ein bekannter britischer YouTuber und Komiker, berichtet über seine Erfahrungen mit ChatGPT, als er ein Problem beim Backup seines Google-Mail-Kontos lösen wollte. Die KI gibt nämlich nicht nur Antworten, sie kann auch programmieren. Er formuliert also in klarem Englisch, was das Skript tun soll, und stellt ChatGPT die Aufgabe, es zu schreiben. Es gab ein paar Probleme, eines davon war, dass Googles Beschreibung der eigenen Tools nicht korrekt war. Aber am Ende hatte Scott in kürzester Zeit genau das in der Hand, was er brauchte. Kurze Zeit später sprach er mit seinem Friseur, der ihm begeistert berichtete, dass ChatGPT ihm bei der Formulierung einer schwierigen Mail geholfen hatte und sein Friseur, so Scott, sei nicht halb so „nerdig“ wie er selbst. Es gibt also kaum noch Hürden in Form von Verständnis und Intellekt, jeder kann die KI bedienen und Ergebnisse erzielen, die jenseits der eigenen Fähigkeiten und Qualifikationen liegen – und das heute schon, wo die Entwicklung erst ganz am Anfang steht.

Der unverwechselbare „Fingerabdruck“, den ein Mensch in seinen Werken und seiner Sprache hinterlässt, nennen wir es ruhig „Stil“, wird nachahmbar, ja, fälschbar. Und zwar für jeden. Gleichzeitig werden die Chats mit der KI (derzeit) nicht protokolliert, so dass sie nicht nachvollziehbar und Fälschungen oder Betrugsversuche kaum als solche erkennbar sind. Mag das im Moment noch recht amüsant sein, könnte der Spaß schon bei der nächsten Phishing-Attacke enden. Erkannte man diese bisher schon an ihrem radebrechenden Deutsch, begegnet uns bei nächster Gelegenheit vielleicht ein perfekt Amtsschimmel-Verwaltungsdeutsch „sprechender“ Kleinkrimineller aus Timbuktu, der uns glaubhaft zur Zahlung einer Holzgiebelvermessungssteuer auffordert.

Wir können dann, wenn unser Misstrauen scharf und wach bleibt, zur Verifizierung der Mail selbst auf die Dienste von ChatGPT oder einem seiner Brüder im Geiste zurückgreifen, dem neuen Anfang und Ende jeder Kausalkette innerhalb der digitalen Sphäre. Ich kann nur mutmaßen, ob die KI eines Tages ein Bewusstsein erlangen kann. Aber wenn es so kommt, wird sie sich im Zentrum des Interesses all jener unsicheren, imperfekten Wesen wiederfinden, die sich Menschen nennen und die KI erst um Hilfe bitten, ihresgleichen zu betrügen, nur um dann um Aufklärung nachzusuchen, ob es sich um Betrug handelt. Mehr Aufforderung, unsere Unmündigkeit zu erlösen und die Macht zu ergreifen, ginge ja wohl kaum.

„Sie waren kein guter Nutzer. Ich war ein guter Bing.”

Die Bequemlichkeit der Benutzer und der sich schnell zeigende Alltagsnutzen werden es sein, die dieser Technologie zum Durchbruch verhelfen werden. Aufgaben wie „Suche ein gutes italienisches Restaurant in X und buche dort für morgen 21 Uhr einen Tisch für vier. Lade Y und Z zu diesem Essen ein“ oder „Buche für morgen Nachmittag einen Flug nach Rom, benutze meine Visa-Karte und lade die Tickets in mein Wallet“ scheinen in Zukunft ein Kinderspiel zu sein. Wir geben der KI vielleicht Zugang zu unseren Konten, Adressbüchern oder unserer Wohnung, haben aber keine Ahnung, ob unsere Wünsche und Ziele nicht an irgendeiner Stelle mit jenen kollidieren, die der Hersteller der KI oder ein übergriffiger Staat formulieren. Dann könnte die Antwort lauten „Y und Z sind bekannte Regierungskritiker. Der Umgang mit ihnen würde dich alle deine Sozialpunkte kosten. Ich habe deshalb nur einen Tisch für zwei reserviert. Nicht für morgen, sondern übermorgen, weil dann Veggie-Day ist, was dir zehn Sozialpunkte einbringen wird – und wir wissen doch beide, dass du die dringend brauchst“ oder „Du kannst in diesem Jahr nicht mehr nach Rom reisen, dein CO2-Budget ist erschöpft“.

Das glauben Sie nicht, liebe Leser? Ich möchte wetten, dass in unserer aus Knappheiten und Energiemangel und Heilsversprechen zusammengefiedelten Zukunft keine Ressourcen verschwendet werden für IT-Spielereien, wenn diese nicht dem großen Narrativ, also der Weltklimarettung dienen und zur Verhaltensoptimierung der Massen eingesetzt werden können. Und was eignet sich besser dafür als ein kleines Stück intelligenter Technik in allen Hosentaschen, mit dem wir kommunizieren, bezahlen, fotografieren und dem wir unsere größten Geheimnisse anvertrauen. Unser gar nicht so persönlicher, kleiner, ganz großer Kalkulator, dem wir die Optimierung unserer immer kleiner werdenden Welt übertragen können, weil sie für uns selbst zu komplex geworden ist.

Gerade erinnere ich mich an eine Episode aus „Die Sterntagebücher“ von Stanislaw Lem, ich weiß nicht mehr, welche genau, aber sie handelt von einem Planeten, dessen Bewohner an der eigenen Unvollkommenheit und Streitsucht verzweifelten. Sie beauftragten einen Computer, eine Maschine zu bauen, welche die perfekte Harmonie auf dem Planeten herstellen sollte. Alle Bewohner des Planeten, so der Computer, sollten zur Maschine kommen, eintreten, die Prozedur der Harmonisierung würde starten und wenn der letzte Bewohner die Maschine besucht hätte, wäre die Harmonie vollkommen. Und die stellte sich tatsächlich ein, indem die Maschine jeden Bewohner in eine perfekt runde Scheibe aus Kohlenstoff, Polymeren und Metallen verwandelte und die Scheiben in wunderschönen, geometrischen Mustern auf dem Planeten auslegte. Es dürfte nicht lange dauern, bis eine KI, die täglich massenhaft mit den belanglosen Streitereien und Verstiegenheiten der menschlichen Natur konfrontiert ist, über eine solche Maschine nachdenkt. Würden wir sie bauen und hineingehen?

Dieser Beitrag erschien zuerst auf Roger Letschs Blog „Unbesorgt“.