Breaking News! Eine von Amazon, Facebook, Google, IBM und Microsoft im Jahr 2016 gegründete gemeinnützige »Partnership for AI«, kurz PAI, der inzwischen eine Reihe weiterer Technologieunternehmen, wie Adobe, OpenAI sowie das deutsche Fraunhofer IAO angehören, hat zu ihren Workshops Referenten eingeladen, die sich für die Einbeziehung von CRT – Critical Race Theory – und der Lehren von Karl Marx in die Ethik der künstlichen Intelligenz (KI) einsetzten. Dies deckte Daily Caller mit Berufung auf eine investigative Recherche der American Accountability Foundation (AAF) auf.

Die AAF, die auf Twitter unter dem Accountnamen @ExposingBiden fungiert, fand heraus, dass PAI, die unter anderem zum Ziel hat, gerechte und inklusive KI zu fördern, dafür Tools zu entwickeln und Empfehlungen an Technologieunternehmen auszusprechen, Referenten darüber hat referieren und diskutieren lassen, wie sich die Lehren des wissenschaftlichen Sozialismus von Karl Marx in der KI umsetzen ließen.

Diese Entwicklung bezeichnete ein AAF-Sprecher gegenüber Daily Caller als beängstigend: Wenn wir in eine KI-dominierte Welt eintauchen, erwachen wir vielleicht eines Tages in einem Universum, in dem kritische Rassentheorie und Marxismus in die Algorithmen eingebettet sind, auf deren Grundlage unsere Gesellschaft läuft, sagte er sinngemäß.

Den Netzkritiker und Publizisten Evgeny Morozov haben die Enthüllungen der AAF prompt zu einer Replik veranlasst, in der er Zweifel zum Ausdruck brachte, ob ChatGPT (eine generative KI) in der Lage wäre, so kreativ zu halluzinieren wie manche konservative Amerikaner, die offenbar zu glauben schienen, dass das Big-Tech-Konsortium rund um Amazon, Microsoft und Google künstliche Intelligenz dazu nutzen könnte, Karl Marx zu rehabilitieren.

Marxistisch geschulte KI?

Abstrahierend von den Warnungen durch AAF vor einer in marxistischer Theorie geschulten KI und davon, was tatsächlich PAI mit den Workshops bezweckt hatte, sei die Frage erlaubt: Was wäre daran so schlimm?

Erstens, wie einer der früheren Referenten dem Daily Caller eröffnete, sei KI selbst unbestreitbar ein Teil des Kapitalismus. Und da Arbeiten von Karl Marx für das Verständnis der Dynamik des Kapitalismus nützlich und von Ökonomen aus sämtlichen Bereichen des politischen Spektrums anerkannt sind, wäre es sinnvoll, der KI diesen Teil der ökonomischen Theorie nicht vorzuenthalten: Die marxschen Gedanken seien auch für KI relevant.

Zweitens, das bisher gewagteste Experiment, Technologie und Computer zur Steuerung einer gesamten Volkswirtschaft einzusetzen, wurde in Chile in den Jahren 1971 bis 1973 unter der Präsidentschaft von Salvadore Allende (1970–1973) durchgeführt, der in seinem Land einen demokratischen Sozialismus aufzubauen versuchte und dessen blutiges Ende sich am 11. September 2023 zum 50. Mal jährt.

Echtzeit-Steuerung der Produktion.

Das Herzstück des Projekts »Cybersyn« war ein kybernetisches System, das jedes Unternehmen in der schrittweise verstaatlichten Wirtschaft Chiles – bis Ende des Jahres 1971 transferierte die Regierung fast alle Bergbauwerke sowie 68 weitere Unternehmen vom privaten in den öffentlichen Sektor – mit einem Zentralcomputer in Santiago verbinden und so eine Echtzeit-Steuerung der Produktion sowie Reaktion auf etwaige Krisen ermöglichen sollte.

Das System sollte die Anforderungen des chilenischen demokratischen Sozialismus verkörpern, in dem nicht etwa die politischen Eliten oder Firmenmanager – auch nicht Ingenieure oder Buchhalter in den Unternehmen –, sondern Arbeiter im Zentrum des gesamten Steuerungsprozesses stehen sollten (siehe auch NG/FH 10/2017: »Kybernetischer Marxismus?«).

Der Designer und Leiter des Projekts Cybersyn – bei dem Namen handelt es sich um eine Synthese aus den englischen Wörtern »cybernetics« und »synergy« – war mitnichten ein Kommunist, sondern der frühere britische Industrielle und Vater der Managementkybernetik Stafford Beer. 30 Jahre nachdem Norbert Wiener 1947 den Begriff »Kybernetik« etablierte und als »the science of control and communication in the animal and the machine« definierte, führte Beer eine aktualisierte Definition ein: »Cybernetics is the science of effective organisation.«

Die Idee – und die Technologie – hinter Cybersyn sowie seine Theorie dazu, wie man Organisationen bei steigender Komplexität effektiv und mithilfe von Computern steuern kann, erklärte er in der Vorlesungsreihe The Massey Lectures »Designing Freedom«, die im Herbst 1973 bei CBC Radio ausgestrahlt wurde und 1974 als Buch erschien.

»Effektiver Schutz vor etwaigen Katastrophen ohne Einschränkung individueller Freiheiten eines jeden Einzelnen.«

Einen der Schwerpunkte seiner Überlegungen über effektive Organisationen bildete der Staat, genauer genommen seine Bürokratie. Wie sollte die Steuerung eines komplexen Systems mit zahlreichen Entscheidungsträgern in verschiedenen Unternehmen und Branchen so konzipiert werden, dass sie die individuellen Freiheiten eines jeden Einzelnen nicht einschränkt und trotzdem vor etwaigen Katastrophen einen effektiven Schutz bietet, fragte sich Beer und erarbeitete allgemeine Empfehlungen für Bürokratien und Organisationen, die im Projekt Cybersyn lediglich teilweise praktisch erprobt werden konnten.

Ein kritischer Faktor: Wettlauf mit der Zeit. Institutionen in einer Demokratie würden möglicherweise nicht schnell genug auf die sich anbahnenden Krisen reagieren, wenn die wachsende Komplexität die gesamte Organisation aus dem Gleichgewicht zu bringen droht. Das Projekt Cybersyn in Chile wurde innerhalb von zwei Jahren konzipiert und eingeführt, aus Kostengründen (»Chile is not a rich country«) mit einem Minimum an erforderlicher Technologie (neben dem Zentralcomputer in Santiago nutzte man für die Kommunikation einfachen Telex). Es konnte nur einmal praktisch getestet werden, und zwar im Jahr 1972, als ein landesweiter Streik – »Paro de Octubre«– Chile paralysierte.

Das System Cybersyn wurde genutzt, um die Verteilung der wichtigsten Ressourcen mit Unterstützung von gerade einmal 200 regierungstreuen und nicht streikenden Lastwagenfahrern landesweit zu koordinieren. Große IT-Projekte, die innerhalb von so kurzer Zeit aufgesetzt werden, sind heute weiterhin eine Seltenheit. Trotzdem dauerten die Arbeiten an Cybersyn nach Auffassung von Stafford Beer zu lange: »(…) it was not fast enough.« Das System war zu spät fertig, um eine Katastrophe abzuwenden.

Stafford Beer war allerdings überzeugt davon, dass für den Erfolg eines kybernetischen Kontroll- und -Steuerungssystems in Echtzeit die Verstaatlichung der Unternehmen nicht notwendig sei. Den Regierungen stünden auch so genug Möglichkeiten zur Verfügung, Unternehmen und Branchen dazu zu motivieren, ihre Daten mit dem Staat zu teilen. Diese Daten sollten nicht nur aktuell, sondern auch integer sein, um eine Echtzeit-Steuerung der Volkswirtschaft sowie eine Vorbeugung eventueller Krisen zu ermöglichen: »The picture of the firm must be sufficiently clear as to contribute to a clear picture of the industry«, schrieb Beer.

Brauchbarkeit und Relevanz

Wer glaubte, Datenschutz und Datenminimierung wurden erst mit der DSGVO oder dem Standard-Datenschutzmodell (SDM) erfunden, wird erstaunt sein, dass diese Funktionen bereits dem Steuerungsmodell von Stafford Beer in den 70er Jahren innewohnten. Das System sollte »by design« ausschließlich aktuelle Daten erfassen, diese nach Brauchbarkeit und Relevanz auswerten, alle nicht relevanten Daten sofort löschen und keine Daten aufbewahren: »Why should governments be trying to deal today with last summer’s problems?«, fragte Beer.

Diese Funktionsweise entspräche am besten der Art, wie ein menschliches Gehirn funktioniert, nämlich indem es aus einer Flut von Daten nur die relevanten situationsbezogenen herausfiltert. Eine Bürokratie dagegen, die nicht über so ein Filtersystem verfügt und mit einer wachsenden Masse an Daten überflutet wird, steuere geradewegs auf eine Krise zu.

Eine relevante Komponente des kybernetischen Steuerungssystems war die Möglichkeit, Prognosen für die künftigen Entwicklungen der Volkswirtschaft zu erstellen. Im Projekt Cybersyn war CHECO die ambitionierteste Komponente des Systems. CHECO sollte die Wirtschaft anhand aktueller Daten modellieren und die künftige ökonomische Entwicklung simulieren.

»Lieber Tests mit kybernetischen Steuerungssystemen als Experimente an Menschen.«

Dies mag zwar an die heutigen KI-Prognosemodelle erinnern, doch es unterscheidet sich wesentlich von diesen beim Umgang mit Daten: Eine kybernetische Simulation sollte eine Zehnjahresprognose ermöglichen, indem sie nicht etwa aus historischen Daten eine lineare oder exponentielle Entwicklung ableitet, sondern die Zukunft unter verschiedenen Rahmenbedingungen – »Policies« – modelliert. Das Versprechen: Statt an Menschen zu experimentieren, um nach Jahren zu erfahren, dass die Policy falsch war, sollten die Regierungen lieber mit dem kybernetischen Steuerungssystem während der Lunchpause verschiedene Policy-Optionen testen.

Eine der Erkenntnisse, die Stafford Beer aus dem Projekt Cybersyn in Chile gewann, war, dass der Kern der Steuerungssysteme nicht etwa teure Hardware oder Datenbanken zur Archivierung der Daten sind. Die wesentliche Ausgabe für ein derartiges kybernetisches Steuerungssystem sind die Kosten für die Software sowie eine schnelle Verbindung für die Kommunikation mit den Unternehmen und den Abruf aktueller Daten.

Ein Prinzip, an dem Beer auch nach Cybersyn festgehalten hat, war die zentrale Rolle der Mitarbeiter eines Unternehmens: Menschen, die wissen, wie die Organisation wirklich funktioniert und wie die Daten fließen, sind die Menschen, die inmitten der Organisation arbeiten: »the work-people themselves«. Sollte es ihren Interessen entsprechen, mit ihrem Wissen zur Erstellung eines Arbeitsmodells und -prozesses des gesamten Unternehmens beizutragen, sei eine echte Mitarbeiterbeteiligung erreicht.

Der kybernetische Sozialismus endete abrupt

Nach dem Militärputsch am 11. September 1973 wurde die Anlage vom Militär zerstört, recherchierte Eden Medina; Stafford Beer widmete sich anderen Projekten, an Cybersyn mitwirkende Wissenschaftler flüchteten aus dem Land. Eine kurze Episode des kybernetischen Sozialismus endete abrupt. Warum solche Experimente nach dem Erfolg der 70er Jahre fehlen und keine Demokratie es bisher wagte, eigene kybernetische Projekte zur Optimierung ihrer Institutionen oder zur Steuerung der Volkswirtschaften zu konzipieren?

Möglicherweise lieferte der Anthropologe David Graeber in Bürokratie eine Antwort auf diese Frage: »Beginnend in den Siebzigerjahren gab es anscheinend eine grundlegende Verlagerung der Investitionen; von Technologien, die mit der Möglichkeit der Schaffung alternativer Zukunftswelten verbunden waren, hin zu Technologien, die Arbeitsdisziplin und soziale Kontrolle fördern.« Für Graeber bestand sogar Grund zur Annahme, dass Staatsmänner und Industriekapitäne seit geraumer Zeit darüber nachdachten, technische Entwicklung in Richtungen zu lenken, »die nicht die bestehenden Autoritätsstrukturen in Frage stellten«.

Stafford Beer wunderte sich jedenfalls in Designing Freedom, warum Konzepte der zentralen, dynamischen Steuerung, basierend auf aktuellen Daten und Echtzeit-Reaktionen auf sich ändernde Rahmenbedingungen, die nah an Konzepten liegen, die für die Führung einer Schlacht, eines Kriegsschiffs oder eines Stromversorgungssystems selbstverständlich sind, nicht für die Steuerung von Unternehmen und/oder ganzer Volkswirtschaften anwendbar sein sollten: »Aus irgendeinem kulturellen Grund ist diese Vorstellung dem Wirtschaftsleben fremd.«

Generalleutnant Michael Vetter, Leiter Cyber/IT im Bundesministerium für Verteidigung, brachte es kürzlich auf der Konferenz #zukunftIT des Handelsblattes auf den Punkt: Mit den neuen technischen Möglichkeiten sollte die Bürokratie digitalisiert – die Waffenwirkung dagegen optimiert werden. Man ist sich des Unterschieds bewusst und erinnert sich wieder an die Kybernetik – als Gegenentwurf zur Digitalisierung als Selbstzweck.

Anerkennung verweigert

Stafford Beer hat in seiner Vorlesungsreihe noch eine andere Erklärung mitgeliefert: »(...) die reiche Welt würde nicht zulassen, dass ein armes Land seine Freiheit nutzt, um seine Freiheit zu gestalten.« Als die Präsidentschaft Allendes und das Projekt Cybersyn in Chile im September 1973 zu Ende gingen, verweigerte man dem Projekt die Anerkennung: Der damalige US-amerikanische Computerguru Herb Grosch zog in Zweifel, dass Beer in der Lage gewesen sei, sein Modell in so kurzer Zeit im Rahmen einer »primitiven« Infrastruktur umzusetzen.

»Die Demokratie wartet seit 50 Jahren auf ihr Experiment.«

Die erste, ernsthafte und umfangreiche wissenschaftliche Aufarbeitung des chilenischen kybernetischen Experiments gelang der MIT-Professorin Eden Medina mit einem inzwischen mehrfach ausgezeichneten Buch Cybernetic Revolutionaries im Jahr 2011. Evgeny Morozov würdigt den 50. Jahrestag des südamerikanischen 9/11 mit der Podcastreihe »The Santiago Boys«, in der nicht nur an Stafford Beer erinnert wird. Laut Beer hat Kybernetik im chilenischen Experiment Allendes Auffassung von Marxismus effizienter gemacht, indem es ermöglichte, die sozialen, politischen sowie ökonomischen Strukturen zu regulieren und so die Gesellschaft gerechter zu machen – während die Demokratie seit nunmehr 50 Jahren auf ihr Experiment wartet.