Der Generalsekretär der Vereinten Nationen ernannte im Oktober 2023 ein UN-Beratungsgremium für Künstliche Intelligenz. Dieses wird den Beauftragten für Technologie der UN (»UN Tech Envoy«), den indischen Botschafter und Wissenschaftler Amandeep Gill, bei seiner Arbeit unterstützen, eine internationale »Governance« der Künstlichen Intelligenz zu entwickeln. Aus Deutschland ist die grüne Bundestagsabgeordnete und Koordinatorin für Raumfahrtpolitik im Bundeswirtschaftsministerium Anna Christmann Mitglied dieses Gremiums.  

Die Vereinten Nationen erkennen mit der Einrichtung dieses Gremiums an, dass die Weltgemeinschaft es nicht allein den privaten Megakonzernen wie Google, Amazon, Facebook, Apple und Microsoft (GAFAM) oder gar den Unternehmen von Elon Musk oder den Chinesischen Giganten wie Tencent, Alibaba und Baidu überlassen kann, die Künstliche Intelligenz (KI) zu entwickeln, zu regulieren und zu verbreiten. Weil die KI als Allzwecktechnologie allgegenwärtig sein wird und global über das Internet verbreitet und mittels des globalen Internets weiter entwickelt wird, kann die Entwicklung und Regulierung dieser Technologie auch nicht den einzelnen Staaten allein überlassen werden.

Die Künstliche Intelligenz hat ein grenzüberschreitendes Potenzial wie die Atomkraft. Sie kann im öffentlichen Interesse und zum allgemeinen Nutzen der Menschheit sicher entwickelt und eingesetzt werden. Das allerdings erfordert strenge Regeln, die dies garantieren. Der Markt allein wird dies nicht leisten. KI kann aber auch gewaltige Zerstörungen und Katastrophen herbeiführen und, wie es der in Oxford lehrende schwedische Philosoph Nick Bostrom sagte, die letzte Erfindung der Menschheit sein. 

Es besteht deshalb ein gemeinsames Interesse der Weltgemeinschaft, sich auf Regeln und Institutionen für eine internationale »Governance« für die KI zu einigen. Dies gilt schon heute, und nicht erst, wenn es bereits eine generelle oder sogenannte starke Künstliche Intelligenz gibt, die den Menschen in jeder der acht Formen der menschlichen Intelligenz nach Gardner übertrifft.

Auch institutionelle Entwicklungen sind erforderlich.

Die Vereinten Nationen beginnen mit ihrem neuen Beratungsgremium zur KI nun eine Arbeit, die dringend nötig ist. Es geht einerseits darum, das Vorsorgeprinzip nach Hans Jonas voll zur Anwendung zu bringen, und dabei gleichzeitig die positiven Potenziale dieser Technologie konkret so in ihrer Entwicklung zu steuern, dass die Weltgemeinschaft insgesamt profitiert. Konkret wird letzteres auch institutionelle Entwicklungen erfordern, wie die Errichtung eines durch die Weltgemeinschaft gemeinsam finanzierten und im öffentlichen Interesse betriebenen Entwicklungslaboratoriums, ähnlich etwa dem International Thermonuclear Experimental Reactor (ITER) oder der Europäischen Organisation für Kernforschung (CERN).

Warum Regeln für ein Risikomanagement der KI?

Es gibt eine ganze Reihe von Gründen, die dafür sprechen, recht bald internationale, verbindliche Regeln für das Risikomanagement der KI auf UN-Ebene zu verabschieden und auch ein schlagkräftiges System zur Durchsetzung der Regeln zu errichten.

Erstens ist die Zeit des Glaubens an ein Internet und eine Digitalisierung, die dem Guten in der Welt dienen, ohne durch Recht und Gesetz reguliert werden zu müssen, endgültig vorbei. Auch die überzeugtesten Neoliberalen mussten einsehen, dass die Unterregulierung des Internets nach den Vorgaben von John Perry Barlows Declaration on the Independence of Cyberspace von 1996 und das rechtliche um die Jahrtausendwende in den USA und der EU verankerte Prinzip der Freistellung der Internet-Plattformen von den Prinzipien der Verantwortlichkeit für die Inhalte, die sie verbreiten, wie sie im Medienrecht existiert, ein schwerer Fehler war. Die Europäische Union hat daraus mit dem Digital Services Act Konsequenzen gezogen, soweit dies angesichts der politischen Konstellationen in EU-Kommission, Ministerrat und Europäischem Parlament möglich war.

Was zweitens und spezieller die Künstliche Intelligenz betrifft, so hatten zunächst, noch unter dem Einfluss der durch Barlow geprägten kalifornischen Ideologie sowohl die EU also auch die Bundesregierung hochrangige KI-Ethikgruppen eingesetzt. Bereits mit Mandatsantritt 2019 verkündete jedoch Kommissionspräsidentin von der Leyen, die Kommission werde in 100 Tagen nach ihrem Dienstantritt einen Vorschlag zur rechtlichen Regulierung der KI vorlegen. Die Kommission präsentierte dann 2021 einen derartigen Vorschlag. Heute stehen die Verhandlungen zwischen Rat und Parlament kurz vor dem Abschluss.

»Innovation kann und muss nicht nur in der Technik, sondern auch im politischen System der Demokratie erfolgen.«

Die EU legt damit die erste gesetzliche Regelung weltweit für KI vor, nachdem sie auch mit der Datenschutz-Grundverordnung von 2016 weltweit einen Präzedenzfall geschaffen hat. An beiden Instrumenten zeigt sich, dass Innovation nicht nur in der Technik, sondern auch im politischen System der Demokratie erfolgen kann und erfolgen muss. Einer technischen Innovation, die Risiken für die Rechte der Einzelnen, die Demokratie und staatliche Souveränität schafft, droht ohne Begleitung durch demokratische innovative und verbindliche Regulierung der Verlust der gesellschaftlichen Akzeptanz. Außerdem kann nur das Recht mit seiner Verbindlichkeit und Durchsetzbarkeit Wettbewerbsgleichheit und Grundrechtsschutz garantieren. Ethik, Selbstregulierung und politische Erklärungen, die gegenüber Privaten rechtlich unverbindlich sind, können dies nicht.

Drittens gibt es bereits im Europarat Verhandlungen über ein multilaterales Abkommen zur Regulierung der KI. An diesen Verhandlungen nehmen auch die USA und viele andere nicht-europäische Staaten teil, die den Konventionen des Europarates auch beitreten können.

Viertens zeigen immer mehr multilaterale und bilaterale Konsensdokumente, dass Einigung in Fragen der Regeln für KI möglich ist. Auch wenn diese Dokumente nicht den Status von internationalem Recht haben, so beinhalten sie doch Elemente der Einigung, auf die in den zukünftigen Arbeiten an einer »UN Convention on AI« zurückgegriffen werden kann. Die UNESCO, die OECD, die G7 und G20 haben entsprechende Dokumente vorgelegt. Darüber hinaus gibt es über 80 Ethikkodexe zur Künstlichen Intelligenz sowie die Konsens Manifestos der multidisziplinären »Transatlantic Reflection Group on Democracy and the Rule of Law in the Age of Artificial Intelligence«.

Die Präsidentin der EU-Kommission hat in ihrer State-of-the-Union-Rede im September 2023 angeregt, zunächst ein internationales Wissenschaftspanel zur Risikobewertung der KI einzurichten, nach dem Muster des International Panel on Climate Change, das 1988, also 27 Jahre vor dem Abschluss des Klimaschutzabkommens von Paris, eingerichtet wurde.

Es ist heute wichtig, uns daran zu erinnern, dass technologische Innovation und ihre Regulierung durch Recht und ihre Beaufsichtigung durch Behörden nichts Ungewöhnliches sind, wie es im Diskurs über digitale Innovation und Künstliche Intelligenz oft verzerrend dargestellt wird. Sowohl im nationalen als auch im internationalen Kontext ist die Atomkraft ein wichtiger und relevanter Präzedenzfall.

Umgang mit Atomkraft als Vorbild

Denn die Überväter der Entwicklung der KI in den USA vergleichen sie gerne mit der Atomkraft. Bevor allerdings Atomreaktoren weltweit zur kommerziellen Nutzung ans Netz gingen, wurden internationale und nationale Aufsichtsbehörden errichtet und in Deutschland das Gesetz zum Schutz gegen die Gefahren der Atomkraft erlassen. Wir erinnern uns: 1951 lieferte ein Forschungsreaktor in Idaho erstmals elektrischen Strom. Am 8. Dezember 1953 hielt US-Präsident Dwight D. Eisenhower vor der UN-Generalversammlung seine berühmte Rede »Atoms for Peace« in der er die friedliche Nutzung der Kernkraft als Menschheitsaufgabe und Zukunftsversprechen darstellte, gleichzeitig aber auch die Einrichtung einer internationalen UN-Aufsichtsbehörde zur Beaufsichtigung der friedlichen Nutzung der Atomkraft und zum Schutz vor ihren Gefahren vorschlug.

1954 nahm die UdSSR bei Moskau das erste Kernkraftwerk der Welt in Betrieb. Die International Atomic Energy Agency (IAEA) wurde mit der Ratifizierung ihres Statutes durch Eisenhower im Namen der USA am 29. Juli 1957 gegründet. Über 80 Staaten ratifizierten die Statuten. Mit Gesetz vom 23. Dezember 1959 wurde das Grundgesetz um eine Bundeskompetenz für die Regulierung der friedlichen Nutzung der Atomkraft ergänzt. Am gleichen Tag erging das Atomgesetz, das Gesetz zur friedlichen Nutzung der Atomenergie und dem Schutz vor ihren Gefahren. In Deutschland gab es seit 1957 einen Forschungsreaktor. Ein Versuchsatomkraftwerk in Kahl produzierte 1961 erstmals Atomstrom für das Stromnetz.

Innerhalb von 10 Jahren nach der ersten Stromproduktion durch den Versuchsreaktor in den USA waren somit sowohl national als auch international in Recht und Verwaltung Strukturen zum Schutz vor den Risiken der Atomkraft geschaffen. Innerhalb von weniger als vier Jahren nach der Rede von Eisenho­wer gelang es der UN, die IAEA als Aufsichtsbehörde mit heute weitgehenden Inspektionsrechten zu errichten.

Für die Künstliche Intelligenz, deren Risiken und Potenziale umfassend beschrieben wurden, ist ein ähnliches Tempo notwendig. Denn weil die Risiken dieser Technologie global sind, wird ihre Anwendung auf globaler Ebene in nachhaltiger Weise nur möglich sein, wenn es wirksame internationale Strukturen des Risikomanagements gibt, die mindestens denen für die Atomkraft gleichen. Und die KI wird weiterhin in rasanter Geschwindigkeit entwickelt, mit gewaltig steigenden Risken.

Gleichzeitig ist die Atomkraft und die Physik aber auch ein Präzedenzfall für die Einrichtung gemeinsamer Entwicklungslabore durch die Weltgemeinschaft. Der Teilchenbeschleuniger CERN in Genf, wo Tim Berners Lee das World Wide Web erfand, und der globale Forschungsverbund ITER sind Modelle für ein zukünftiges KI-Entwicklungslabor, das im öffentlichen Interesse durch Staaten der Weltgemeinschaft gemeinsam errichtet und betrieben wird.

»Keine Regierung kann ein Interesse daran haben, nicht selbst die mächtigste Technologie des 21 Jahrhunderts vollständig verstehen und weiterentwickeln zu können.«

Es besteht ein gemeinsames Interesse der Staaten, die Risiken dieser Technologie zu minimieren und ihre Potenziale zu nutzen. KI allein in privater Hand hat das Potenzial, die Regierbarkeit und Souveränität von Staaten zu untergraben. Dies zu verhindern, ist der erste und kleinste gemeinsame Nenner, von dem die Staatengemeinschaft bei der Suche nach gemeinsamen Interessen ausgehen kann, wenn es um verbindliche Regeln für die zukünftige internationale Governance der KI geht.

Die Ambitionen sollten pragmatisch bleiben, auch wenn der Gedanke, dass der menschliche Geist und die menschliche Selbstbestimmung als gemeinsames Erbe der Menschheit genauso des Schutzes durch eine UN-Konvention bedürfen wie die Gebiete außerhalb staatlicher Jurisdiktion auf den Weltmeeren durch die UN-Seerechtskonvention geschützt werden, sicher zum Nachdenken anregt. Dass die UN-Seerechtskonvention als größtes multilaterales Abkommen der UN, mit eigenem Gerichtshof und einer Behörde für Lizenzerteilung und Gewinnverteilung für Tiefseebergbau Elemente enthält, die für ein zukünftiges UN-Abkommen über KI eine Inspiration sein können, steht dabei außer Frage.

Die nun beginnenden Arbeiten der UN werden für alle Staaten fruchtbar sein, wenn sie mit einem Informationsaustausch über den Stand der KI-Forschung, der KI-Anwendungen und der KI-Risikoforschung beginnen, um alle Parteien auf einen ähnlichen Wissensstand zu bringen. Schon dabei wird sich zeigen, ob die großen Konzerne, die die Entwicklung der KI ganz wesentlich dominieren, zu einer echten Kooperation im öffentlichen Interesse bereit sind.

Davon ausgehend wird die Arbeit des Gremiums in eine Definition von gemeinsamen Interessen der Staaten münden, die sowohl die gemeinsame Entwicklung von KI im öffentlichen Interesse und damit die dauerhafte, solidarische Verteilung von Herrschaftswissen unter den Staaten als auch ein gemeinsames, verbindliches Risikomanagement enthalten, das letztlich auch Private in die Pflicht nimmt (oder die Staaten verpflichtet, Private in die Pflicht zu nehmen) und gegenüber ihnen durchsetzbar ist. Das erfordert die Souveränität von Staaten und einzelnen sowie das Prinzip der Vorsorge im Zeitalter der KI.