» Read the English version of this article

Joseph Schumpeter prägte seinerzeit den Begriff der »schöpferischen Zerstörung«, der die Marktverdrängungen von Unternehmen auf Basis neuer Innovationen beschreibt. Für die einen bedeutete dies eine Art Verjüngungskur und Modernisierung der Wirtschaft, für die anderen Arbeitsplatzverluste und Insolvenz. Kein Wunder also, dass über Künstliche Intelligenz (KI) ebenso kontrovers diskutiert wird – erschließt sie nicht in beeindruckender Geschwindigkeit nahezu alle gesellschaftlichen Bereiche und gilt als die nächste große Basisinnovation des 21. Jahrhunderts?

Gerade im wissenschaftlichen, kreativen und künstlerischen Bereich wächst die Sorge vor der Redundanz menschlicher Arbeitskraft, gar ihrer Ablösung. Dabei ist die Technologie hinter KI das Ergebnis von innovativen, wissenschaftlichen Prozessen. Wie also ist das Verhältnis von KI und Wissenschaft einzuordnen? Fallen die »Eltern« ihrem eigenen »Kind« bald zum Opfer?

Darauf lässt sich mit einer Gegenthese antworten. Die Eltern werden mehr denn je gebraucht, um die Entwicklung ihres Kindes zu begleiten und dieses nicht auf die »schiefe Bahn« geraten zu lassen. Anders ausgedrückt: Wissenschaft ist in Zeiten von KI wichtiger denn je und muss als zentrales Korrektiv dienen, um die potenziellen Gefahren zu benennen.

Der Begriff »Intelligenz« ist eher metaphorisch zu verstehen.

Zunächst einmal ist es aber erforderlich den hier verwendeten Begriff der KI zu klären. Wir bedienen uns hierfür der Definition von Carl Friedrich Gethmann und anderen von 2022, nach der KI die Fähigkeit von Computersystemen beschreibt, Aufgaben zu übernehmen, die normalerweise menschlicher Intelligenz bedürfen. Wichtig ist darüber hinaus, starke und schwache KI voneinander abzugrenzen. Während erstere der Intelligenz von Menschen gleichkommt oder diese gar übertrifft und eigenständig handeln kann, ist schwache KI auf einen bestimmten Anwendungszweck ausgerichtet. KI, wie wir sie derzeit kennen, entspricht letztgenannter Kategorie. Auch mahnt der Deutsche Ethikrat in seiner aktuellen Stellungnahme an, den Begriff der »Intelligenz« im Falle der KI eher metaphorisch zu verstehen, da die bloße Simulation von Verständnis im Kern nicht für eine echte Intelligenz ausreiche und an weitere mentale Fähigkeiten gebunden sei.

Von der Zuschreibung als schwache KI sollte man sich jedoch nicht täuschen lassen. Denn auch diese umfasst sehr leistungsstarke, innovative Anwendungen, deren Voraussagekraft unter anderem im Bereich der Medizin ausgebildeten Ärzt:innen voraus ist und allein durch ihre Kapazität zur Datenverarbeitung sehr viel effizienter zu Ergebnissen kommen kann. Um sich dieser Werkzeuge zu besserer Forschung zu bedienen, hält die KI immer häufiger Einzug in die Arbeit von Wissenschaftler:innen aller Disziplinen.

Möglichkeiten und Gefahren

Besonders weit verbreitet ist die Anwendung von KI im Bereich der Informatik und Naturwissenschaften, aber auch in den Sozialwissenschaften steigt die Nutzung deutlich an. In der Klimaforschung ermöglicht KI beispielsweise die Untersuchung komplexer Zusammenhänge unter zahlreichen sich stetig ändernden Variablen unter Einbeziehung großer Datenmengen. Dieses KI-gestützte Screening schafft enorme Arbeitsentlastung für den Forschenden und somit Kapazitäten für weitere Fragestellungen. In diesem Zusammenhang darf auch das Kostenargument nicht unerwähnt bleiben. Während bahnbrechende Innovationen immer aufwendiger und kostspieliger werden, spart KI Ressourcen und schafft Beschleunigung.

Darüber hinaus kann die disziplinübergreifende Zusammenarbeit von For­schenden mithilfe von KI noch effizienter ermöglicht und mediiert werden. Auch können wissenschaftliche Gütekriterien wie die Replizierbarkeit von Ergebnissen durch KI hochgehalten werden. Während Forschende ihren Fokus eher auf eigene, neue Projekte richten, statt bereits existierende Forschungsergebnisse zu überprüfen und zu replizieren, kann dies nun von der KI übernommen werden. Ein weiterer Nutzen kann in der Erweiterung des hermeneutischen Zirkels liegen. Ich kann nur dann ein Problem verstehen und erklären wollen, wenn ich es überhaupt sehen kann. KI kann helfen, dass Probleme und mögliche Verzerrungen überhaupt erkannt werden und somit helfen den Hypothesenspielraum von Forschenden zu erweitern.

Eine der größten Schwachstellen von KI: fehlende Reflexion.

Allerdings darf die Begeisterung über die neuen technischen Möglichkeiten nicht zur Verklärung potenzieller Risiken führen. KI bietet ungekannte Möglichkeiten für gesellschaftliche Innovation und kann zur Arbeitserleichterung im Wissenschaftssystem führen. Sie darf aber nicht zum Einfallstor für Kompetenzabbau sowie unwissenschaftliche und unethische Studienergebnisse verkommen. Denn um die Wissenschaft durch KI nicht zu gefährden, muss die Wissenschaftlichkeit gestärkt werden. Gute Wissenschaft erfordert ein hohes Maß an Transparenz und Reflexion. Das jedoch ist eine der größten Schwachstellen von KI, die das, was sie tut, weder erklärt noch kritisch reflektiert. Wenn sich Forschungsergebnisse so nicht mehr nachvollziehen lassen, können bestehende wissenschaftliche Standards nicht aufrechterhalten werden.

Unersetzbarkeit der Wissenschaft

Deshalb müssen Wissenschaftler:innen ein Korrektiv für KI-generierte Ergebnisse darstellen, Korrelationen kritisch hinterfragen und kausale Schlüsse ziehen. Sie müssen ihr eigenes Berufsethos hochhalten, um mithilfe neuer technologischer Möglichkeiten zu noch besserer wissenschaftlicher Erkenntnis zu gelangen – anstelle diese unkritisch zu übernehmen. Denn genau hier manifestiert die Wissenschaft ihre eigene Unersetzbarkeit. Indem erklärt, hinterfragt und analysiert wird, indem ethische Grundsätze hochgehalten werden und Diskriminierungen und Verzerrungen erkannt werden.

Dabei kann es nicht um ein Gegeneinander – KI oder Wissenschaft – gehen. Das Kind braucht seine Eltern, um die notwendige Reife zu erlangen – und die Eltern können vom eigenen Kind lernen den Horizont zu erweitern und Innovationen mitzugestalten. So lernt KI anhand der Traniningsdaten aus der Wissenschaft und Wissenschaftler:innen können mithilfe von KI ungleich größere Datenmengen erschließen, unliebsame Arbeiten outsourcen und ihre Effizienz erheblich steigern. Es geht also um ein Upgrade der Wissenschaft – mit KI – in enger wissenschaftlicher Begleitung.

Mit der Ausbreitung der KI werden auch die Rufe nach politischer Regulierung lauter. Dabei scheint der wissenschaftspolitische Handlungsrahmen in diesem Kontext zunächst begrenzt. Schließlich werden wissenschaftliche Standards nicht von der Politik definiert. Das heißt aber nicht, dass sich die Wissenschaftspolitik aus der Verantwortung nehmen darf.

Dazu gehört die Forschungsförderung rund um das Thema KI, denn wir sind weit davon entfernt, dass KI den wissenschaftlichen Fragestellungen entwachsen ist. Förderprogramme, wie die Förderinitiative »Künstliche Intelligenz« der Deutschen Forschungsgemeinschaft (DFG), können hier einen Beitrag leisten und Standards setzen. Auch muss weiter in Forschung investiert werden, die darauf abzielt, KI-Anwendungen transparenter und nachvollziehbarer zu gestalten. Nur so können wir sicherstellen, dass Forschungsergebnisse, die mithilfe von KI-Anwendungen erzielt wurden, auf einer wissenschaftlich soliden Grundlage stehen.

Ein großes Potenzial von KI in der Forschung liegt in der Zusammenführung und Analyse einer großen Menge von Daten. Damit dieses Potenzial aber von Wissenschaftlerinnen und Wissenschaftlern besser genutzt werden kann, muss der Zugang zu diesen Daten verbessert werden. Im Koalitionsvertrag hat man sich zu diesem Zweck auf ein Forschungsdatengesetz und sogenannte Forschungsklauseln geeinigt, die einen gesetzlichen Anspruch auf Zugang zu Daten manifestieren, vorausgesetzt ihre Nutzung für die Forschung steht im Interesse des Gemeinwohls. Jedoch haben die parlamentarischen Beratungen hierzu noch nicht begonnen, obwohl die rasante Entwicklung von KI-basierter Forschung die Notwendigkeit schneller gesetzlicher Regelungen zeigt, um im internationalen Wettbewerb nicht weiter hinterherzuhinken.

So könnte ein nationales Forschungsdatengesetz auch beim Thema Datenschutz Erleichterungen bringen. Der Konflikt zwischen Wissenschaftsfreiheit auf der einen und Datenschutz auf der anderen Seite wird durch die Nutzung von KI-Anwendungen und großen Datenmengen in der Wissenschaft deutlich verschärft. Es muss unsere Priorität sein, dass der erleichterte Zugang zu Daten und die Verknüpfung von Daten nach wie vor datenschutzkonform sichergestellt wird. Das stellen bisher die Bundesländer, Datenschutzbeauftragten und sogar Wissenschaftsinstitutionen jeweils selbst fest. Mit dem Forschungsdatengesetz kann ein nationaler Rahmen mit mehr Verlässlichkeit und Rechtssicherheit entstehen.

Letztendlich braucht es aber immer auch Menschen, die verantwortungsvoll mit KI umgehen können. Hier spielen die Bildungseinrichtungen eine zentrale Rolle. Bund und Länder sind gemeinsam gefordert, die Weichenstellungen an Schulen und Hochschulen so zu stellen, dass junge Menschen KI verstehen, anwenden und sogar selbst entwickeln können, um sie sich somit zunutze zu machen. Dazu gehört nicht nur die Überarbeitung der schulischen und hochschulischen Curricula, sondern selbstverständlich auch eine adäquate technische Ausstattung der verschiedenen Bildungseinrichtungen und die entsprechende Aus- und Weiterbildung von Lehrpersonen aller Fachgruppen.

Um die Risiken im Wissenschaftssystem nachhaltig im Blick zu halten, muss folglich auch der wissenschaftliche Nachwuchs von Beginn an mit den Möglichkeiten, aber auch Gefahren und Grenzen von KI vertraut gemacht werden. Die Lehre wird sich verändern, wie sich auch die Prüfungsformate werden verändern müssen. Nicht mehr die Lösung allein wird ausschlaggebend sein, sondern insbesondere der Weg dahin. Wichtig ist der transparente Umgang mit KI. Dieser gehört von den Hochschuldozent:innen nicht verteufelt, sondern moderiert und sinnvoll integriert. Denn nur so können sich die Eltern davor schützen, nicht eines Tages doch von ihrem Kind gefressen zu werden.