Algorithmen-Faschismus?

Der nachfolgende Beitrag stammt aus dem Aprilheft der anthroposophischen Monatszeitschrift “Die Drei” mit dem inhaltlichen Schwerpunkt auf Digitalisierung/Neue Mobilfunkstandards/5G etc. Wir veröffentlichen diesen Text mit freundlicher Genehmigung der Redaktion und des Autors.

Wie unbemerkt – durch unsere Mithilfe – ein neues totalitäres Herrschaftssystem entstehen könnte
von Otto Ulrich
Zugegeben, es wirkt zunächst befremdlich, den Aufstieg, den bisherigen Verlauf und die Struktur der aktuellen Debatte um »Künstliche Intelligenz«, die »Digitale Revolution« und die »Gesellschaft 4.0« einmal durch eine ganz spezielle Brille, nämlich unter faschismustheroretischen Vorzeichen, zu betrachten – es ist aber dringend geboten. Denn es geht um nichts geringeres als den Schutz unserer Demokratie, unserer Freiheit und unserer Rechtsstaatlichkeit. Die anwachsende Herrschaft »intelligenter« Maschinen, die uns zunehmend abschaffen, gängeln und kontrollieren, bedroht alles, was unsere Gesellschaft menschlich macht.
Leider wollen viele Zeitgenossen diese Gefahr nicht zur Kenntnis nehmen. Das ist verständlich, denn für das bloße Auge bleibt vorerst noch verborgen, was dem Blick durch die entsprechende theoretische Brille jetzt schon offenbar wird: Dass sich als Konsequenz des durch die Digitalisierung angestoßenen Wandels Stück für Stück ein »faschistisches Minimum« anhäuft. Außerdem hat es in bürgerlichen Kreisen durchaus Tradition, den Gedanken, dass eine Revolution »von oben« unterwegs ist, die Menschenrechte und Demokratie beseitigen soll, instinktiv abzuwehren. Von den tonangebenden Protagonisten und Propagandisten der Digitalisierung wird diese Gefahr jedenfalls nicht ernsthaft erwogen. Doch historisch gesehen hat gerade eine solche Blindheit den zeitweiligen Siegeszug des Faschismus begünstigt.
Allzu selten sind kritische Stimmen wie die von Carolin Emcke, die neulich in der ›Süddeutschen Zeitung‹ unter dem Titel: ›Facebook macht Moral zum netten Accessoire‹ bemerkte: »Algorithmen beinflussen nicht nur das Kaufverhalten von Konsumentinnen und Konsumenten, sie entscheiden mitunter auch darüber, welche Studierende an welchen Hochschulen angenommenen werden, welche Menstruationszyklen als gesund oder ungesund gelten oder wem ein Kredit gewährt wird und wem nicht oder ob ein nächster Pflegegrad erreicht ist. Welche rassistischen Vorannahmen, welche Körperbilder, welcher Klassendünkel sich als unreflektierte Normen in die Programme eingeschrieben haben und systematische Diskriminierung betreiben, bleibt intransparent.« 1
Die Frage lautet also, ob sich die Anhäufung eines »faschistischen Minimums« innerhalb der digitalen Revolution nachweisen lässt. Mit den beim Wort »Faschismus« sofort aufsteigenden Bildern von Führerkult, Massenkundgebungen, uniformierten Schergen und Konzentrationslagern hat das Gemeinte selbstverständlich nichts zu tun. Der althergebrachte Faschismus- Begriff, den die ehemalige US-Außenministerin Madelaine Albright in ihrem Buch ›Faschismus – Eine Warnung‹ ausgesprochen hat, hilft uns deshalb nicht weiter: »Für mich ist ein Faschist jemand, der mit allen Mitteln versucht, Macht zu erlangen, diese auf sich zu vereinen und zu behalten – notfalls mit Gewalt. Jemand, der weder an die regulative Kraft demokratischer Institutionen glaubt noch an die Pressefreiheit.«2 Ich möchte demgegenüber die These aufstellen, dass wir es heute mit einem nicht mehr personalisierbaren, rein technologisch erzeugten Faschismus zu tun haben, der sich gerade, als Folge systemischer Notwendigkeiten und Erfordernisse, wie nebenbei »einschleift«.
Hannah Arendt hat einmal bemerkt: »Über der Sinnlosigkeit der totalitären Gesellschaft thront der Suprasinn der Ideologien, die behaupten, den Schlüssel der Geschichte oder die Lösung aller Rätsel gefunden zu haben.«3 Eine solche Heilserwartung richtet sich heute auf die Digitalisierung. Doch mit der schleichenden Integration algorithmischer Entscheidungsprozesse in den Alltag und der Einrichtung einer entsprechenden Infrastruktur wird notwendig die allmähliche Unterwerfung des Menschen unter eine Herrschaft der Maschinen betrieben.
Für Arendt ist es außerdem ein Merkmal totalitärer Herrschaft, »wenn das radikal Böse im Zusammenhang eines Systems aufgetreten ist, welches in der Lage ist oder es versucht zu erreichen, dass alle Menschen gleichermaßen überflüssig werden. […] Die ungeheure Gefahr der totalitären Erfindungen, Menschen überflüssig zu machen, ist, dass dauernd Massen von Menschen ›überflüssig‹ werden. Es ist, als ob alle entscheidenden politischen, gesellschaftlichen und wirtschaftlichen Tendenzen der Zeit in einer heimlichen Verschwörung mit den Institutionen sind, die dazu dienen könnten, den Menschen wirklich als Überflüssige zu behandeln und zu handhaben.4 Genau dieses Zusammenspiel politischer, gesellschaftlicher und wirtschaftlicher Tendenzen, die den Menschen zunehmend überflüssig machen, ist bei der Digitalisierung am Werk.
Dass mit der Künstlichen Intelligenz eine Meta-Maschine heranwächst, die sich menschlicher Kontrolle und Korrektur zu entziehen droht, erkennt auch ein Experte wie Wolfgang Wahlster vom ›Deutschen Forschungszentrum für Künstliche Intelligenz‹ (DFKI) in Saarbrücken:
»Ich finde es beunruhigend, dass wir nicht immer genau wissen, wie neuronale Netze ein bestimmtes Resultat erzielen.« Gerade deshalb müsse man »den Nutzen für den Menschen im- mer in den Mittelpunkt der KI-Forschung stellen«.5 Die Anwendung Künstlicher Intelligenz müsste also unbedingt unter demokratische Kontrolle gestellt werden, um diesen Nutzen zu gewährleisten. Insofern weist die von dem Philosophen Richard David Precht geforderte Ethikdebatte zum Problem der Künstlichen Intelligenz in die richtige Richtung.6 Doch sie wird nicht genügen, um den weltweiten Hype um die Digitalisierung zu brechen. Und unser politisches System steht strukturell auf Seiten der Macher und Umsetzer, die schon dabei sind, dem Durchschnittsbürger eine Herrschaftstechnologie überzustülpen, die dieser – meist ahnungslos und inzwischen fast alternativlos – selbst mit seinen Daten in Gang hält.
QR-Code als Identität
Welche Entwürdigung des Menschen mit der Digitalisierung einhergeht, lässt sich besonders deutlich in China beobachte, wo z.B. die Abschaffung des Bargeldes kräftig voranschreitet.
»Selbst Pekinger Bettler akzeptierten Almosen per QR-Code«7, vermeldete begeistert ein Artikel in der ›Welt‹ – als ob es begrüßenswert sei, dass Bettler dadurch wie Waren im Supermarkt abgescannt werden, eine informationelle Kaste der Unberührbaren, die nur noch eine gesellschaftliche Identität haben, wenn ihre Daten mit einem Smartphone auslesbar sind. (Und sie offenbar über ein Bankkonto verfügen.) Dennoch könnte man es für übertrieben halten, solche Erscheinungen als faschistoid zu bezeichnen. Doch unbestreitbar ist die Geschichte des Faschismus 1945 nicht zu Ende gegangen. Auf der ganzen Welt existieren bis heute Gruppen und Strömungen, die sich am faschistischen Leitbild orientieren. Diese ungebrochene Aktualität bestätigt eine Grundannahme der Faschismustheorie, wonach dieser ein Produkt der kapitalistischen Verhältnisse bzw. der von ihm verursachten sozialen Krisen ist, woraus die Suche nach anderen Gesellschaftsmodellen als dem der Demokratie erwächst, das mit dem Kapitalismus identifiziert wird. Die angestrebte integrierte Gemeinschaft hingegen ist streng hierarchisch strukturiert, mit einer kleinen Funktionselite an der Spitze, die ungehindert durchregiert. Diese muss aber nicht unbedingt aus Offizieren oder Parteikadern bestehen. Es könnten genauso gut Technokraten sein.
Zugleich verspricht das faschistische Kollektiv die Aufhebung der durch Klassenunterschiede und Konkurrenz verschärften Entfremdung der Menschen, die Überwindung der Unübersichtlichkeit und Unberechenbarkeit der gesellschaftlichen Verhältnisse im Kapitalismus. Das geschieht durch einen alle Bereiche der Gesellschaft durchdringenden Prozess der Vereinheitlichung, der im Nationalsozialismus als »Gleichschaltung« bezeichnet wurde – übrigens ein Begriff aus der Elektrotechnik. Dass eine solche Gleichschaltung mit den heutigen technischen Möglichkeiten noch viel umfassender und zugleich wesentlich subtiler möglich wäre, leuchtet unmittelbar ein.
Blicken wir noch einmal nach China: »Kamera-Überwachung auf der Grundlage von KI«, berichtete unlängst die ›Gesellschaft für bedrohte Völker‹ »wird auch in Xinjiang in den Umerzie- hungslagern eingesetzt, in denen rund 1,1 Millionen Uiguren, Kasachen und Kirgisen gegen ihren Willen festgehalten werden.«8 Die Unterdrückung kann aber auch weniger offenkundig ausfallen. Bekanntlich wird in China mithilfe Künstlicher Intelligenz und Data Mining ein »Sozialkreditsystem« aufgebaut, das der Verhaltenssteuerung dient. Alle verfügbaren Informationen über eine Person – sei es aus Kamera- oder Tonaufzeichnungen, Berichten von Nachbarschaftskomitees, dem Verhalten im Internet, aus Kaufentscheidungen und finanziellen Transaktionen usw. – werden gesammelt, je nach politischer Erwünschtheit mit Bonus- bzw. Maluspunkten bewertet und zu einem »Sozialrating« verdichtet. Dieses wird dann mit Erleichterungen bzw. Erschwernissen etwa bei Kreditaufnahme, Wohnungsverkauf, Jobsuche, Schul- oder Autozulassung usw. verknüpft.9 Wer da nicht zu den Verlierern gehören will, muss sich sozusagen selbst gleichschalten.
Wie also verhindern wir, dass wir dem Beispiel Chinas folgen und die Künstliche Intelligenz zu einer Herrschaftstechnologie wird? Zunächst einmal muss diese Gefahr, die Verwundbarkeit unserer Demokratie im allgemeinen Bewusstsein einen solchen Stellenwert einnehmen wie heute schon die Gefährdung unseres Planeten durch den Klimawandel. Dann müssen Gegenstrategien formuliert werden, die dem Datenhunger der Technologie-Konzerne, aber auch dem staatlicher Institutionen entgegenwirken. Ein Schritt könnte z.B. sein, den Datenschutz zum Grundrecht zu erheben. Wir sind schon kurz davor, dass ein Leben ohne Smartphone mit schweren Nachteilen ökonomischer und sonstiger Art verbunden ist. Wenn aber die Digitalisierung dazu führt, dass ein analoges Leben, zumal ein Leben außerhalb des Internets und der Mobilfunknetze, nur noch außerhalb unserer Gesellschaft möglich ist, dann hat diese die Schwelle zum Totalitarismus bereits überschritten. Dann bedarf es erst recht höchster Wachsamkeit, um die der Digitalisierung inhärente Tendenz zur Ablösung des menschlichen Geistes durch künstliche Intelligenz entgegenzuwirken und die Errichtung eines Algorithmen-Faschismus zu verhindern.

1 Vgl. Carolin Emcke: ›Facebook macht Moral zum netten Accessoire‹, in: ›Süddeutsche Zeitung‹ vom 16. Februar 2019.
2 Vgl. Madeleine Albright: ›Faschismus. Eine War- nung‹, Köln 2018, S. 21.
3 Hannah Arendt: ›Denken ohne Geländer‹, Mün- chen 2017, S. 126.
4 A.a.O., S, 129.
5 Vgl:. Wolfgang Wahlster: ›Ein autonom fahrendes Auto erkennt bei Nacht kein Wildschwein‹, in: ›Die Zeit‹ vom 26. Juli 2018.
6 Vgl. Richard David Precht: ›Maschinen ohne Moral‹, in ›Der Spiegel‹ 48/2018
7 www.welt.de/sonderthemen/noahberlin/article176965303/Bargeldloses-Bezahlen-gehoert-in-China-zum-Lebensalltag.html
8 www.gfbv.de/de/news/china-microsoft-soll-ver- bindungen-zu-chinesischem-ki-entwickler-abbre- chen-9595/
9 Vgl. Stefan Baron & Guangyan Yin-Baron: ›Die Chinesen. Psychogramm einer Weltmacht‹, Berlin 2018 S. 327ff.

Menü