Am 28. Juli 2021 trat das Gesetz zum autonomen Fahren in Kraft. Der Bundesverkehrsminister will damit nicht nur international Standards setzen. Sein Bestreben, wie auch das ökonomische Interesse der deutschen Automobilindustrie, dass Deutschland als erstes Land weltweit den Weg bzw. die Straßen frei macht für autonome Fahrzeuge, war so stark, dass er gar nicht erst den Bericht der eigens gegründeten Ethikkommission, die die Folgen des Einsatzes autonomer Vehikel im öffentlichen Verkehr untersuchen sollte, abgewartet hat. Offenbar stand die Entscheidung, dass das autonome Auto kommen muss und soll, schon vor der Beauftragung fest.

»Das autonome Auto kommt«, dessen ist sich auch Roberto Simanowski in seinem Buch Todesalgorithmus sicher, »und wahrscheinlich noch vor den autonomen Waffen und den mechanischen Haustieren«. Nicht nur, weil mit dem neuen Gesetz schon mal der Rechtsrahmen geschaffen wurde, damit autonome Kraftfahrzeuge bundesweit im öffentlichen Straßenverkehr fahren können. »Die Entwicklung ist politisch gewollt«, konzediert der Soziologe. Man würde zu Recht davon ausgehen, dass autonom fahrende Autos »nicht nur die Fahrkosten und den Energieverbrauch drastisch senken werden, sondern auch die Zahl der Unfälle«. Die Mobilität solle damit vielseitiger, sicherer, umweltfreundlicher und nutzerorientierter werden, zählt das Verkehrsministerium auf. Aus diesen Gründen, so Simanowski, wäre es gar »moralisch unverantwortlich«, selbstfahrende Autos nicht einzuführen.

Die Entmündigung des Menschen (durch sein Geschöpf)

Auf die politische Agenda kommt das autonome Auto nicht von ungefähr: Die Hoffnung, ja die Annahme, die Technik – spätestens in Form einer starken Künstlichen Intelligenz (KI), die uns sicher ans Ziel führt, ob es uns gefällt oder nicht – könne bessere und sicherere Entscheidungen treffen als der Mensch, ist relativ weit verbreitet: »Immerhin verfügt der Bordcomputer über die Fahrerfahrung aller Computer, verarbeitet viel mehr Informationen viel schneller als der Mensch, wird niemals müde, fährt nie betrunken und textet nicht am Lenkrad.« Damit die Annahme, die Technik sei so gut, dass sich Unfälle vermeiden oder wenigstens signifikant reduzieren ließen, stimmt, setzt aber voraus, »dass nur noch Technik am Verkehr teilnimmt«. Keine menschliche Unzuverlässigkeit, Vergesslichkeit oder Unberechenbarkeit darf in diesem System die optimalen Berechnungen einer Maschine stören. Auch alle Fahrradfahrer und Fußgänger müssten mit den Verortungssystemen verknüpft, ihre Bewegungsprozesse beobachtbar und nachvollziehbar – besser noch vorhersehbar – sein.

Hunde, Katzen und Kaninchen müssten an diesem System der ultimativen Unfallfreiheit genauso partizipieren wie die Hunde- und Katzenhalter. Wenn man die Unfallrate weiter reduzieren möchte, wäre es irgendwann nötig, zuerst den Tieren, dann eventuell sogar auch den Pflanzen Ortungschips zu verpassen, damit kein Wolf, Reh oder Wildschwein unbemerkt über die Autobahn läuft und kein Baum umkippt, ohne dass dies frühzeitig erfasst würde – unter der Annahme, dass es dann noch Bäume gibt. Die Entmündigung des Menschen durch sein Geschöpf sei die logische Konsequenz der intellektuellen Überlegenheit, mit der er die KI ausstatten möchte. Ja, es sei noch eine Fiktion, bestätigt Simanowski, aber so eine, »die durchaus in der Logik der technischen Möglichkeiten liegt«.

Natürlich spricht man hier nicht von den heutigen Algorithmen, also beispielsweise dem Spam-Filter, der unermüdlich die E-Mail-Postfächer von unerwünschten Nachrichten bereinigt und den man als den Urgroßvater der künftigen »Todesalgorithmen« bezeichnen könnte. Viele andere Vorläufertechnologien befinden sich bereits im Einsatz oder »lernen« noch, mit der Konsequenz, dass Computer, die restlos Zugang zu allen Informationen bekommen und diese auswerten, immer »intelligenter« – während die »gewöhnlichen Leute« immer dümmer werden. Ganz gleich, ob es die Zuverlässigkeit und Sicherheit im Straßenverkehr betrifft – oder wenn es um richtige Entscheidungen, etwa bei der Rettung des Planeten geht.

Zwar bestünde keine ethische Regel, die Sicherheit immer vor Freiheit setzt, zitiert Simanowski aus dem Bericht der Ethikkommission »Automatisiertes und Vernetztes Fahren«, doch scheint KI zunehmend der bessere Anwalt menschlicher Angelegenheiten zu sein als der Mensch selbst. Zugleich gilt es als sicher, dass es weiterhin Unfallsituationen geben wird, bei denen Todesopfer nicht vermeidbar sind, »sondern nur wählbar«. Für solche Fälle – für die Notfälle, in denen auch der menschliche Fahrer nicht mehr reagiert oder zugeschaltet werden kann (wie von der Ethikkommission empfohlen), muss (wie im Gesetz zum autonomen Fahren) oder darf (wie es die Unfehlbarkeit der KI erforderlich machen würde), müssten die autonomen Autos mit »Entscheidungsmoral« ausgestattet werden, also mit »Abwägungen, die sich philosophisch verbieten, für den Ernstfall (aber; die Autorin) zu programmieren« sind.

Sukzessive Ausweitung der Entscheidungskompetenzen

Oder man überlässt das Entscheiden ganz den Klügeren, und zwar nicht nur bezüglich sichererer Straßen, sondern gleich den ganzen Planeten betreffend: »(…) einer starken KI (…) macht man keine konkreten Vorschriften. Einer gut entwickelten KI gibt man Ziele vor, die ihr ansonsten eigenständiges Handeln ausrichten«, so Simanowski. So ein Ziel kann das »Überleben der Erde sein, mit dem untergeordneten Ziel, ihre Erwärmung unter zwei Grad Celsius zu halten«. So gesehen könnten wir von der Selbstentmachtung profitieren, indem wir der KI keine Vorgaben machen, sondern sie in unserem Sinne frei entscheiden lassen. Natürlich kann KI auch zu Schlüssen kommen, »denen wir vielleicht nicht zustimmen, aber, so wird die KI zu Recht argumentieren, unweigerlich zustimmen würden, wären wir mit ihrer Intelligenz, Neutralität und Willensstärke ausgestattet«. Und damit geht eine weitere Entmachtung der Menschen einher, wenn die KI entscheidet, um den Klimawandel zu stoppen, »bevölkerungspolitische Maßnahmen zum Abbau der Konsumentenzahl« einzuführen, weil »dessen Lebensmodell der von ihm gesetzten Zielvorgabe widerspricht«.

In den 60er Jahren diskutierte der Futurologe Stanislaw Lem in Summa Technologiae ein Modell, in dem eine starke KI – ein Homöostat – die (optimale) Steuerung von Unternehmen oder gar ganzen Volkswirtschaften übernimmt. Er schloss nicht aus, dass die KI, bis sie die ihr vorgegebenen Ziele erreiche, möglicherweise die Menschheit zuerst in eine Reihe von Krisen stürzen würde. Und dass sie auch zu heute unpopulären Entscheidungen kommen könnte, wie beispielsweise die, die Unternehmen zu verstaatlichen, um ihre Produktion zum größten Vorteil der Gesellschaft zu optimieren. Das Ziel des Fortschritts sollte dabei trotzdem immer der Mensch bleiben. Die Antwort auf die Frage, wer dieser Mensch sei, blieb uns Stanislaw Lem leider schuldig. »Wer (…) ist dieses ›wir‹?«, fragt auch Simanowski, das von der Selbstentmachtung der Menschen profitieren wird?

Als die taz-Journalistin Ulrike Herrmann in ihrer Vorlesung aus der Reihe »Nur Utopien sind realistisch« der Friedrich-Ebert-Stiftung kritisierte, dass keiner der in Deutschland tätigen 15.000 Volkswirte sich mit dem Thema der Modellierung eines Übergangs in die Kreislaufwirtschaft befassen würde, ließ sie eventuell außer Acht, dass es zeitnah etwas geben könnte, das die Aufgabe wesentlich besser bewältigen kann als einige Tausend Ökonomen zusammen: eine starke KI, der man zum Ziel setzen könnte, den Planeten zu retten, den Klimawandel abzuwenden und die Menschheit auf einen ehrenhaften Pfad zu führen. Die Menschheit verbraucht jetzt schon Ressourcen von mehreren Planeten; der Betrieb und das »Anlernen« einer starken KI würde vermutlich noch sehr viel mehr Energie benötigen. »Die Einschränkung der individuellen Freiheit im Interesse des Klimas kann nicht mit Konsumzuwachs erkauft werden«, erklärt Simanowski. Es bedeutet, wir werden in absehbarer Zeit auf unsere iPhones verzichten müssen. Die Frage ist allerdings, ob wir die Verantwortung delegieren, in der Hoffnung, eine smarte KI wird uns zwar entmachten, dafür aber rechtzeitig vor dem Desaster erretten. Oder, ob wir uns bewusst die Mühe geben, unsere Lebensgewohnheiten zu ändern und den Energieverbrauch zu reduzieren, uns ohne KI zu engagieren und so unseren Planeten selbst retten.

Der Glaube an das digitale Allheilmittel

Auch wenn der Gedanke, jemand könnte es besser, schneller und müheloser erledigen als die Menschen selbst, verführerisch ist: Möglicherweise ist die Hoffnung, eine starke KI könnte uns vor dem ökologischen Desaster, auf das wir zusteuern, bewahren »indem sie, gepaart mit ›nachhaltigem‹ Konsum, ein ›grünes‹ Wirtschaftswachstum ermöglicht (…) nur Ausrede dafür, am Status quo nichts Wesentliches ändern zu müssen«. Als »Solutionism« bezeichnete der Internetkritiker Evgeny Morozow das verbreitete Denken, für jedes ökologische Problem gäbe es eine (digitale) Lösung, und die Technik fände den Weg aus jeder Krise. Man müsse sie nur entwickeln, hochskalieren und fertig, erklärte die Journalistin Christiane Schulzki-Haddouti, nicht zuletzt im Kontext der Corona-Apps, dessen Einsatz eine beinahe heilende Wirkung zugesprochen wurde. »Vielleicht ist (…) das fahrerlose Fahren nur die Testfahrt der künstlichen Intelligenz, die so lernt, wie sie uns sicher ans Ziel bringen kann«, so Simanowski, vielleicht beginnt die Diktatur der KI aber auch am Lenkrad des autonomen Autos. Möglicherwiese reicht die Optimierung der Verkehrslenkung in den intelligenten Städten und die CO₂-Rückbindung aus der Atmosphäre in den Boden aber nicht aus, und wir werden uns mittelfristig doch von den energieaufwendigen smarten Gadgets und den iPhones verabschieden müssen. Auch der Mensch, der zu den größten CO₂-Produzenten zählt, muss sich einem Selektionsmechanismus durch die smarte KI unterziehen.

So hat das Verkehrsministerium beispielsweise mit der Industrie vereinbart, automatisierte und autonome Fahrzeuge gerade auch im ländlichen Raum »erlebbar« zu machen. Wie es funktionieren könnte, zeigt ein von Studenten gefakter Werbespot, in dem, so um die vorletzte Jahrhundertwende, ein smartes, mit hoch entwickelter Bremstechnik und hoch sensiblen Sensoren ausgestattetes autonomes Auto aus der Zukunft durch das Dorf Braunau am Inn fährt. Es bleibt vorbildlich vor jedem auf der Straße spielenden Kind stehen. Vor einem Jungen aber nicht. Hat die Technik versagt? Mitnichten. Das Auto »erkennt die Gefahr, bevor sie entsteht«, so der Slogan. Aus dem Haus ruft die Mutter des verunglückten Jungen: »Adolf!«.

Es sei nicht die Technik, die die Menschen vor dem Desaster bewahren könne: »Sie kann es nur als Politik«, so Simanowski. Das Bundesverkehrsministerium hat jedenfalls nach Ablauf des Jahres 2023 eine Evaluierung der Auswirkungen des Gesetzes zum autonomen Fahren avisiert. Klares Ziel: Mit dem Gesetz sollen Fahrzeuge ohne Fahrer in den Alltag geholt werden. Ohne Wenn und Aber: »Einzelgenehmigungen, Ausnahmen und Auflagen wie z. B. die Anwesenheit eines ständig eingriffsbereiten Sicherheitsfahrers sind somit unnötig«. Die »bange Frage«, die Simanowski in Todesalgorithmus stellt, ist, ob man noch – wörtlich und im übertragenen Sinne – »ins Steuer greifen kann, wenn einem der Kurs nicht gefällt«.

Roberto Simanowski: Todesalgorithmus. Das Dilemma der künstlichen Intelligenz. Passagen, Wien 2021, 160 S., 20,50 €.