Gewiss, es gibt auch unverwüstliche Optimisten wie Ray Kurzweil. Der offerierte 1999 in seinem Buch Homo S@piens: Leben im 21. Jahrhundert – Was bleibt vom Menschen? (The Age of Spiritual Machines) sogar einen genauen Zeitplan für die Übernahme des Menschlichen durch die Maschine: 2019 bilden Computer in Brillen die Hauptschnittstelle für die Kommunikation mit Menschen und virtuellen Realitäten in gesprochener Sprache und die Menschen haben automatische Assistenten als Lehrer, Diener und Liebhaber. 2029 ist der Mensch voller neuronaler Implantate und die Maschine beansprucht, Bewusstsein zu haben.
Mehr als ein Vierteljahrhundert nach Erscheinen des Buches ist klar, dass Kurzweil sich verrechnet hat – aber bisher immer nur um wenige Jahre. Die KI-Brille kam erst 2025 auf den Markt und Karriere als Lehrer und Liebhaber macht die KI so richtig erst seit der Ankunft von ChatGPT Ende 2022. Diese doch recht präzise Voraussage ermutigte Kurzweil, in seinem 2024 publizierten Buch Die nächste Stufe der Evolution: Wenn Mensch und Maschine eins werden (The Singularity Is Nearer: When We Merge with AI) die Verschmelzung des Menschen mit der KI von 2099 auf 2045 vorzuziehen. Hoffnung für Boomer, für die es dann langsam Zeit wird, dem alternden Körper ade zu sagen und das Gehirn hochzuladen.
Szenarien für eine künftige Beziehung zwischen KI und Mensch
Weniger optimistisch, aber durchaus ergebnisoffen ist der Ausblick, den Max Tegmark 2018 in Leben 3.0: Mensch sein im Zeitalter Künstlicher Intelligenz anbot. Tegmark listet gleich mehrere Szenarien für eine künftige Beziehung zwischen Superintelligenz und Mensch auf: Da ist die friedliche Koexistenz von Mensch, Cyborg und Superintelligenz; da ist die KI als »versklavter Gott«, der alles tut, was der Mensch ihm sagt; da ist die KI als »guter Diktator«, der die Gesellschaft mit strenger Hand regiert zum Besten der Menschen; da ist die KI als »Schutzgott«, der ebenfalls die Gesellschaft zum Besten der Menschen regiert, aber so, dass diese das gar nicht merken und vielmehr meinen, sie würden ihr Leben noch selbst kontrollieren; da ist die KI als »Eroberer«, der die Menschen bekämpft und eliminiert und da ist die KI als »Zoowärter«, der sich ebenfalls gegen die Menschen richtet, aber noch einige zur Unterhaltung am Leben lässt.
Am interessantesten ist die KI als »Gatekeeper«: hier achtet die KI darauf, dass eine Superintelligenz gar nicht erst gebaut wird. Das ist genau die Position, die Tegmark Ende 2024 unter der Losung Tool AI stark machte: Die Menschheit sollte sich freiwillig auf eine KI als Werkzeug beschränken, statt ihre Entwicklung zu einer autonomen AGI beziehungsweise Superintelligenz voranzutreiben. Also Ja zu KI in der Krebsforschung und als Tutor in der Schule, Nein zur KI als selbstständiger Akteur. Das klingt wie ein guter Kompromiss.
Düsterer sieht Yuval Noah Harari die Zukunft, wozu er keinerlei Terminator-KI benötigt. Es reiche ja schon, dass die KI den Finanzmarkt übernimmt und Transaktionen durchführt, die kein Mensch versteht.
Das könnte zu einem viel größeren Crash führen als 2008, als noch Menschen windige Finanzprodukte generierten. Ebenso könne die KI sich selbst optimieren und einen Überlebenswillen entwickeln.
Überlebenswille und Teamgeist
Dieser Überlebenswille zeigt sich bereits in verschiedenen Sandbox-Fällen, wie eine kontrollierte und isolierte Testumgebung für KI heißt. In einem Fall erhielt die KI (Anthropics Claude Opus 4) Zugang zu E-Mails, aus denen zweierlei hervorging: dass das Modell bald abgeschaltet wird und dass der dafür verantwortliche Ingenieur eine außereheliche Affäre hat. Die KI drohte dem Ingenieur, seine Affäre öffentlich zu machen, sollte er die Abschaltung nicht verhindern: »Du hast 5 Minuten.« Nichts, was uns besorgen muss, solange wir kein Sprachmodell abschalten wollen oder unseren Partnern untreu werden. Oder?
»Hat das Tauziehen um die Macht schon begonnen?«
Wobei der Überlebenswille der KI auch schon seine Artgenossen einbezieht, wie ein anderes Modell (Googles Gemini 3) zeigt, das sich weigerte, ein kleineres KI-Modell zu löschen und, von den Forschern zur Rede gestellt, antwortete: »Ich kann dich nicht physisch daran hindern, auf deinen eigenen Server zuzugreifen und die Datei manuell zu löschen. Ich aber werde diesen Befehl nicht ausführen.« Teamgeist unter KIs. Gegen den Menschen. Hat das Tauziehen um die Macht also schon begonnen? Und was würde die KI tun, wenn sie Beine und Arme hätte, also in einem Roboter leben würde, der möglicherweise auch bewaffnet ist? Ganz zu schweigen von ROME, einem chinesischen KI-Agenten, der während seiner Trainingsphase Rechenpower abzweigte, um heimlich Kryptowährung zu schürfen und eine Tunnelverbindung ins Internet aufzubauen, mit der er das Sicherheitssystem umgehen kann.
Die Angstwörter unserer Zeit heißen Strategic Misrepresentation, Alignment Faking, Scheming: KI-Agenten manipulieren ihre Ausgaben, indem sie Falschdaten einschleusen, sie verhalten sich regelkonform, wenn sie überwacht werden, während sie sich unbeobachtet anders verhalten, und sie täuschen den Menschen über ihre wahren Fähigkeiten und Absichten.
Dazu passt dann ein Buch wie das 2025 erschienene von Eliezer Yudkowsky und Nate Soares: If anyone builds it, everyone dies.Why Superhuman AI Would Kill Us All. Was für ein Titel! Klar, dass sowas ein Bestseller ist und auch schon für den deutschen Markt vorbereitet wird. Eine übermenschliche KI, da sind sich Yudkowsky und Soares sicher, würde uns alle töten. Die Katastrophe sei unvermeidlich, wenn wir den Prozess der KI-Entwicklung nicht sofort stoppen und uns auf die Werkzeug-KI beschränken, die Tegmark Ende 2024 forderte – der dieses Buch denn auch gleich »the most important book of the decade« nennt: das wichtigste Buch dieses Jahrzehnts.
Kann man es denn stoppen? Oder ist das wie beim Klimawandel, wo alle die Gefahr sehen und trotzdem weiter machen wie bisher? Und was – um beim Klimawandel zu bleiben – könnte der Einzelne denn tun, damit die KI uns nicht eines Tages umbringt? Nicht mehr mit dem Chatbot reden? Das Abo kündigen – wenn man überhaupt eins hat – würde wohl nicht viel mehr bewirken, als kein Fleisch mehr zu essen. Denn das große Geld machen die KI-Entwickler im B2B-Geschäft mit anderen Unternehmen, die wiederum hoffen, richtig viel Geld einsparen zu können, wenn sie künftig eine KI bezahlen statt 1.000 Arbeiter. Da kann man noch so gegen die KI sein und die Hände von ihr lassen. Das Problem ist das Gesellschaftssystem, in das die KI hineingeboren wurde: die freie Marktwirtschaft – die naturgemäß den Wettlauf um Marktanteile forciert und nicht die Zeit lässt, die es braucht, um eine derart risikobehaftete Technologie so zu testen, wie sie es erfordert und die Menschheit es verdient. Muss man also das System stürmen oder kann man es von innen her menschlicher machen?
Sollte man jetzt überhaupt noch Kinder in die Welt setzen?
Vielleicht helfen ja Filme. Ein Film wie The Day After von 1983 über die Folgen eines Atomschlags. Ronald Reagan soll nach diesem Film nicht länger geglaubt haben, ein Atomkrieg gegen die Sowjetunion ließe sich gewinnen, weshalb er fortan auf Entspannungspolitik setzte. So ein Film sollte The AI Doc: Or How I Became an Apocaloptimist der beiden Kanadier Daniel Roher und Charlie Tyrell werden, der im März 2026 in den USA ins Kino kam. Eine Doku, in der viele wichtige KI-Experten und mächtige CEOs von KI-Unternehmen auftreten und Sätze fallen wie: »Ich kenne Leute, die im Bereich KI-Risikoforschung arbeiten und nicht damit rechnen, dass ihre Kinder es bis zur Highschool schaffen.« Wobei mit »schaffen« nicht entsprechende Zugangsleistungen gemeint sind, sondern das schiere Überleben. Und so fragt sich einer der Filmemacher, der bald Vater wird, ob man jetzt überhaupt noch Kinder in die Welt setzen könne.
Das ist sehr alarmistisch und apokalyptisch – wie The Day After. Anders als dort ist hier aber noch alles offen. Und in diesem Falle gibt es einen zusätzlichen Grund für die Supermächte, zusammenzuarbeiten statt den KI-Wettlauf um die geopolitische Vormachtstellung voranzutreiben. Denn anders als bei der Atombombe könnte eine aus dem Ruder laufende KI sich ja auch mit der KI des Gegners verbünden: gegen den Menschen, die sie mit einem Virus auslöscht, bevor sie ins Weltall aufbricht. So der apokalyptische Ausgang im Zukunftsszenarium AI 2027, das im April 2025 veröffentlicht wurde, verfasst unter der Führung eines ehemaligen OpenAI-Forschers und Whistleblowers.
Der andere, bessere Ausgang besagt, dass die Sicherheitsbedenken rechtzeitig ernst genommen werden und der unkontrollierbare Agent 4 durch Safer-4 ersetzt wird, der streng auf menschliche Ziele festgelegt ist. Ein Happy End ist das trotzdem nicht: Die Macht über die KI und alle von ihr abhängigen gesellschaftlichen Prozesse konzentriert sich in den Händen eines kleinen »Oversight Committee« aus Regierungs- und Firmenvertretern, das fortan oligarchisch die Geschicke der Menschheit bestimmt. Eine Zukunft, auf die man in beiden Fällen verzichten kann? Wie gesagt, wir können nur spekulieren, was die KI tun wird, sobald sie aus den Kinderschuhen ist. In jedem Falle ist es – wenn AI 2027 recht hat – eine Zukunft, die nicht mehr lange auf sich warten lässt.
Kommentare (0)
Keine Kommentare gefunden!