Tech-Konzerne liefern autoritären Staaten die KI zur Überwachung ihrer Bürger

Was passiert, wenn Algorithmen staatliche Entscheidungen treffen und die KI unsere Überwachung perfektioniert? In seinem Buch „Künstliche Intelligenz und der neue Faschismus“ zeigt der Philosoph und KI-Forscher Rainer Mühlhoff die Verbindungen zwischen unregulierten KI-Technologien, mächtigen Tech-Konzernen und autoritärer Politik. Er mahnt zu Wachsamkeit: Wo von „schlanken Staaten“ und „Effizienz“ in der Bürokratie gesprochen wird, kommen mitunter Technologien zum Einsatz, die massenhaft Daten zusammenführen, Menschen klassifizieren und kontrollieren. Wenn Regierungen privaten Tech-Konzernen zu viel Macht geben, kann es passieren, dass wir unsere Gesellschaft bald nicht mehr wiedererkennen. Dann sind schwache Sozialstaaten mit umso stärkeren Überwachungsapparaten die Realität.

Warum KI für die radikale Rechte attraktiv ist

Kontrast: Herr Mühlhoff, Sie stellen Künstliche Intelligenz in den Mittelpunkt ihres Buches und argumentieren, dass diese auch Mittel zum Zweck ist, um autoritäre Politik durchzusetzen. Wie kommt es, dass KI und radikal rechte Politik Hand in Hand gehen?

Rainer Mühlhoff: KI und radikal rechte Politik gehören nicht zwangsläufig zusammen. Aber die heute dominante KI ist von Machtkonzentration, privater Kontrolle über Daten und einer Ideologie geprägt, die „Effizienz“ und technologische Überlegenheit gegen fundamentale Prinzipien wie demokratische Aushandlung, Gleichberechtigung, Grundrechte stellt.

Für die radikale Rechte ist KI attraktiv, weil die Technologie automatisiert reißerische und polarisierende Inhalte generieren kann, die in Sozialen Medien verbreitet werden.

Außerdem kann KI Menschen sortieren und prognostisch bewerten. Zum Beispiel nach Herkunft, Aufenthaltsstatus, politischer Einstellung oder vermeintlicher Leistungsfähigkeit. Das passt zu einem Weltbild, das Menschen hierarchisch in nützlich und belastend, zugehörig und fremd einteilt. KI kann solche Wertungen automatisieren und ihnen den Anschein mathematischer Objektivität geben.

Tech-Eliten und radikale Rechte wollen Staaten, die ihre Bürger überwachen

Tech-Eliten und die extreme Rechte verbindet zudem eine Abneigung gegen demokratische Verfahren. Parlamente, Gerichte, Datenschutz oder Verwaltungsregeln erscheinen als langsam und innovationsfeindlich. Der neoreaktionäre Denker Curtis Yarvin fordert deshalb eine „CEO-Monarchie“: einen Staat, der wie ein Unternehmen von einer einzelnen Führungsspitze geleitet wird.

Wirtschaftspolitisch einigt man sich auf Deregulierung, niedrige Steuern, massive Auslagerung staatlicher Funktionen an private Firmen wie Palantir, Google oder Microsoft, und den Abbau sozialstaatlicher Umverteilung.

Gewünscht ist nicht einfach ein schwacher Staat, sondern ein schwacher Sozial- und Regulierungsstaat bei einem gleichzeitig starken Polizei-, Grenz-, Militär- und Überwachungsapparat.

Wenn KI über staatliche Leistungen entscheidet, wird es gefährlich

Sie warnen vor dem „schlanken Staat“, wenn dieser ein technokratischer Staat ist. Weil er ungleiche Machtverhältnisse verstärkt, anfällig für Machtmissbrauch ist und sich diskriminierte Betroffene weniger wehren können. Würden Sie das näher ausführen?

Mühlhoff: Das Entscheidende ist, dass ein „schlanker“ Staat nicht einfach ein Staat ist, der weniger Effekte für die Bürger:innen hat. Sondern in der Praxis ist das dann ein Staat, der viele Prozesse an technokratische Strukturen auslagert statt sie von Fachpersonal betreiben zu lassen. Und im Kontext von KI bedeutet das die Auslagerung der Prozesse an KI-Systeme.

Nehmen wir an, die Entscheidungen über Leistungsvergaben des österreichischen AMS oder der deutschen Bundesagentur für Arbeit würden weitgehend durch KI getroffen werden. Man muss wissen, KI entscheidet immer probabilistisch: Sie fragt, welchem bekannten Muster ein Fall statistisch ähnelt und welche Entscheidung im Durchschnitt das gewünschte Ergebnis verspricht.

Ein rechtsstaatliches Verfahren dagegen soll den konkreten Sachverhalt aufklären und eine begründete Einzelfallentscheidung treffen. Das passt beides nicht unmittelbar zusammen. Rechtsstaatliche Grundprinzipien wie die Gesetzesbindung des staatlichen Handelns, Begründungspflichten, Gleichbehandlungsgrundsatz und das Recht auf effektiven Rechtsschutz (also gerichtliche Überprüfbarkeit) sind dadurch gefährdet.

Über das Auslagern von Dienstleistungen landet mehr und mehr Macht bei privaten Konzernen

Hinzu kommt, dass sich mit der technokratischen Auslagerung staatlicher Funktionen eine bedeutende Machtverschiebung ergibt: Immer mehr hoheitliche Prozesse werden an Privatakteure ausgelagert, die diese nicht nur als Dienstleistung ausführen, sondern diesen Prozessen ihre eigene – wirtschaftlich geprägte – Funktionslogik aufdrücken.

Der Staat selbst transformiert sich dabei in einer Weise, die ihn von Wirtschaftsunternehmen und ihren Profitinteressen abhängig macht.

Wir beobachten das in den USA seit 2025 in besonderem Maße: Die massenhafte Entlassung von Staatsbediensteten wird kompensiert durch milliardenschwere Verträge mit Unternehmen wie Palantir, die de facto zu einem neuen „Betriebssystem“ des Staates geworden sind.

Großflächige Überwachung mit Datenplattformen, Biometrie und Risiko-Scoring

Welche KI-Werkzeuge müssen wir denn besonders im Blick haben, weil radikale Konservative oder die extreme Rechte sie nutzen wollen, um ihre Vorhaben umzusetzen?

Mühlhoff: Besonders kritisch sind erstens Plattformen zur Datenzusammenführung. Systeme wie jene von Palantir verbinden Informationen aus unterschiedlichen Behörden und strukturieren durch Vorhersagemechanismen zum Beispiel, welche Personen als verdächtig oder riskant erscheinen.

Zweitens geht es um biometrische Überwachung: Gesichtserkennung, Drohnen, Kennzeichenerfassung sowie Standort- und Bewegungsdaten. In Verbindung mit Melderegistern oder Sozialdaten können damit bestimmte Gruppen gezielt verfolgt werden.

Drittens müssen wir Risiko-Scoring in Polizei, Migration, Sozialverwaltung, Gesundheit und Arbeitsmarkt beobachten. Solche Systeme beschreiben soziale Unterschiede nicht nur. Wenn sie über Kontrollen, Leistungen oder Sanktionen entscheiden, produzieren und verstärken sie diese Unterschiede.

Wir landen in digitaler Abhängigkeit

Viertens sind generative KI, Empfehlungsalgorithmen und Microtargeting relevant: für automatisierte Propaganda, personalisierte Desinformation, Deepfakes und Einschüchterungskampagnen.

Schließlich geht es um die unsichtbare Basis aus Cloud-Systemen, Schnittstellen und herstellerspezifischer Verwaltungssoftware.

Wird der Staat von wenigen Anbietern abhängig, bestimmen private Unternehmen mit, was staatliche Institutionen überhaupt tun können.

Wertvoll werden Daten durch ihre Verknüpfung

Sie erklären in Ihrem Buch, dass das, was wir aktuell als KI verstehen und nutzen, vor allem deshalb funktioniert, weil es massenhaft Daten über uns Menschen und unser produziertes Wissen gibt, die man sammeln und auswerten kann. Zum anderen gibt es genügend – schlecht bezahlte – Menschen, die genau diese Auswertungsarbeit übernehmen. Wir alle werden so, schreiben Sie, „permanent beobachtet, klassifiziert und sortiert“, weil wir auch so bereitwillig Daten von uns preisgeben. Welche unserer Daten sind denn so wertvoll für Tech-Konzerne?

Mühlhoff: Der Wert liegt meist nicht im einzelnen Datum, sondern in seiner Verknüpfung mit anderen Daten und mit den Daten von möglichst vielen anderen Personen. Standort, Suchanfragen, Kontakte, Käufe und Reaktionen in sozialen Medien ergeben gemeinsam detaillierte Verhaltensprofile – wenn man diese Daten über viele Millionen Menschen hat.

Mit der Übernahme staatlicher und öffentlicher Funktionen können sich Unternehmen neue Datenquellen erschließen, die bislang noch verhältnismäßig gut geschützt sind. Zum Beispiel Daten aus der Gesundheitsversorgung und Medizin, aus dem Bildungssektor, aus dem Polizei- und Sicherheitsbereich, Registerdaten, etc.

Als Einzelne können wir bestimmte Dienste nicht vermeiden – es liegt am Staat, zu regulieren

Sind wir selbst schuld, dass diese Konzerne so viel Macht bekommen haben, weil wir bereitwillig Bilder hochzuladen oder Standortdaten nicht abschalten?

Mühlhoff: Nein. Das würde ein strukturelles Machtproblem individualisieren. Benutzeroberflächen sind gezielt so gestaltet, dass Menschen Daten preisgeben. Viele Plattformen sind zudem beruflich und gesellschaftlich kaum vermeidbar. Auch kommt das Schadpotenzial nicht durch die Daten einer einzelnen Person zustande, sondern dadurch, dass eine große Anzahl von Menschen entsprechende Services nutzt und dabei Daten produziert.

Gerade deshalb ist staatliche Regulierung hier entscheidend – und nicht die individuelle Vermeidung bestimmter Dienste. Unternehmerische Übermacht, die man durch ein kollektives Verhalten (Datenpreisgabe bei der Verwendung von Diensten) ermöglicht, muss man durch politisches Eingreifen adressieren.

Bezahlmodelle schützen nicht automatisch

Bezahlte Dienste oder Abonnements bei Nachrichtenmedien zur Vermeidung von Werbung sind übrigens nicht automatisch besser. Wer bezahlt, ist zunächst einmal identifizierbar, weil er ja seine Zahlungsdaten hinterlegt und sich für jeden Vorgang einloggen muss – so dass die einzelnen Zugriffe derselben Person zugeordnet werden können. Entscheidend ist dann vor allem, ob man Daten zum Training von KI nutzt und wie lange man sie speichert.

Es bleibt jedoch dabei: Individuelle Datensparsamkeit ist Selbstschutz. Gegen die strukturelle Macht der Konzerne brauchen wir aber Datenschutz, starke Regulierung von KI und demokratische Kontrolle.

Mühlhoff: Wir müssen faschistische Politik als Prozess erkennen

Wenn wir nochmal einen Blick auf die Vereinigten Staaten werfen: Sie scheuen ja nicht vor einer Diagnose zurück, die sagt: Was in den USA unter der zweiten Amtszeit von Donald Trump passiert, ist faschistisch.

Mühlhoff: Wir dürfen Faschismus nicht erst erkennen, wenn bereits ein konsolidiertes faschistisches Herrschaftssystem entstanden ist. Sonst können wir ihn immer nur im Nachhinein feststellen. Ich unterscheide deshalb zwischen einem fertigen faschistischen System und faschistischer Politik als Prozess.

In den USA verbinden sich exekutive Gewalt, die Aushöhlung rechtsstaatlicher Verfahren, ideologische Säuberungen und die Konstruktion innerer Feinde. DOGE griff auf Behörden-, Personal- und Zahlungssysteme zu, verdrängte Beschäftigte und ersetzte Kompetenz durch politische Loyalität. Bei ICE sehen wir Masseninhaftierung, Deportation, paramilitärisches Auftreten und technologische Überwachung. Gleichzeitig werden staatliche Funktionen an Palantir und andere Tech-Konzerne ausgelagert.

Kennzeichnend für einen neuen Faschismus ist, dass er mit einer technokratischen Auslagerung staatlicher Funktionen einhergeht. Dabei können demokratische Institutionen formal bestehen bleiben, entfalten aber eine beschränkte Wirkung. Gerade dieser Zusammenhang macht einen neuen Faschismus schwer erkennbar.

Europas Schutzmechanismen geraten unter Druck

Sie zeichnen in Ihrem Buch das Netzwerk der Tech-Milliardäre, ihre Ziele für die USA und ihre Verbindungen in die politische Rechte nach – und wie die Trump-Regierung die Phantasien dieser Tech-Elite umsetzt. Doch diese Visionen bleiben nicht, wo sie sind. Müssen wir uns in Europa auf dieselben Entwicklungen einstellen?

Mühlhoff: Die Entwicklung ist nicht unvermeidlich, aber ihre Übertragung hat begonnen: insbesondere die Auslagerung staatlicher Funktionen an Plattformen und KI-Unternehmen.

Europa besitzt mit Datenschutz, Verfassungsgerichten und einer stärkeren Verwaltung noch wichtige Schutzmechanismen. Genau diese werden unter dem Schlagwort „Bürokratieabbau“ allerdings auch hier angegriffen.

Auch in Europa entstehen politische Brücken

Vorrangige Projekte der radikalen Rechten sind eine Stärkung der Exekutive, die Schwächung unabhängiger Behörden, Gerichte, Medien und Wissenschaft sowie eine härtere Migrations- und Sozialpolitik. Technologisch drohen mehr biometrische Überwachung, Datenzusammenführung und automatisierte staatliche Verfahren. All diese Prozesse können wir auch in Europa beobachten, auch wenn sie noch nicht so weit sind wie in den USA.

In Europa bestehen außerdem personelle Brücken zu ultrarechten Akteuren der Tech-Industrie der USA: Sebastian Kurz arbeitet seit 2022 für Thiel Capital; Elon Musk unterstützte öffentlich die AfD. Politisch anschlussfähig sind unter anderem AfD, FPÖ und Orbáns autoritäres Staatsprojekt. Zwischen Teilen dieser Parteien und dem MAGA-Milieu bestehen sichtbare Kontakte.

KI regulieren – und entzaubern

Sind wir diesen Entwicklungen ausgeliefert?

Mühlhoff: Nein. Aber demokratische Institutionen verteidigen sich nicht automatisch.

Erstens müssen demokratische Parteien antidemokratische Kräfte isolieren. Politische Akteure, die wesentliche Verfassungsprinzipien explizit oder implizit in Frage stellen, sollte man nicht als mögliche politische Kooperationspartner behandeln, sondern als antidemokratisch markieren und isolieren.

Zweitens müssen wir Verwaltung, Bürokratie und Rechtsstaat stärken. Begründungspflichten, verlässliche Verfahren und Widerspruchsmöglichkeiten sind keine überflüssige Bürokratie, sondern Schutz vor Willkür.

Beschäftigte im öffentlichen Dienst können rechtswidrigen Anweisungen widersprechen; KI-Systeme hingegen lassen sich vergleichsweise leicht zentral steuern und für autoritäre Zwecke umprogrammieren.

Drittens brauchen wir strengere Regulierung von KI-Technologie. Der Datenschutz ist durch KI vor komplett neue Herausforderungen gestellt, denen er konzeptuell nicht gewachsen ist. KI hat massive gesellschaftsstrukturelle Auswirkungen, die mit einer Machtakkumulation bei den entsprechenden Unternehmen verwoben sind. Es ist der Auftrag des Staates, derartiges Macht-Ungleichgewicht einzudämmen.

Schließlich müssen wir KI entzaubern. Viele trauen der Technologie viel zu viel zu. Sie ist kein autonomes Wesen und kein historisches Schicksal, sondern ein Werkzeug. Wir müssen fragen: Wer setzt es ein, wer profitiert, wer trägt das Risiko und wer kann widersprechen?

Das Thema "Fachismus" im Parlament