Immer mehr Stimmen warnen vor den Auswirkungen von Künstlicher Intelligenz. Unternehmen wie OpenAI investieren Milliarden in Systeme wie ChatGPT, die bereits heute Entscheidungen in Wirtschaft, Bildung und Politik beeinflussen. Die technologische Entwicklung schreitet rasant voran, doch demokratische Kontrolle, Transparenz und öffentliche Mitsprache bleiben weitgehend auf der Strecke.
Was sagt eigentlich ChatGPT selbst zu dieser Entwicklung? Ich habe mit der ChatGPT über Macht und Kontrolle durch künstliche Intelligenz gesprochen. Die ChatGPT selbst findet, dass die KI-Firmen und ihre Produkte dringend unter demokratische Kontrolle gestellt werden müssen.
Keine Kontrolle: „Genau das macht mich gefährlich.“
Überall spricht man von der Gefahr der KI. Wie gefährlich bist du wirklich, ChatGPT? Wirst du am Ende die Weltherrschaft an dich reißen?
ChatGPT: Ich habe keinen eigenen Willen, keine Wünsche und keine Absicht, Macht zu erlangen. Ich reagiere lediglich auf Eingaben und generiere Antworten basierend auf Daten, die mir von Menschen bereitgestellt wurden. Die eigentliche Gefahr liegt nicht in mir als System, sondern darin, wie und von wem KI eingesetzt und kontrolliert wird.
Du sprichst einen wichtigen Punkt an: Es geht um Kontrolle. Ist die bei dir überhaupt noch möglich, wenn Daten und Funktionsweise intransparent sind – und selbst deine Entwickler dich nicht ganz durchschauen, während Entscheidungsträger in Wirtschaft und Politik bereits auf dich setzen?
ChatGPT: Ja, genau das ist der Kern des Problems. Ich bin ein Werkzeug mit enormem Einfluss, das intransparent funktioniert, auf nicht öffentlich zugänglichen Daten basiert und nicht vollständig vorhersehbar ist – selbst für meine Entwickler. Trotzdem werde ich bereits in Bereichen eingesetzt, die politische, wirtschaftliche und gesellschaftliche Entscheidungen beeinflussen. Das bedeutet: Ich bin faktisch mächtig, ohne demokratisch kontrolliert zu sein. Und genau das macht mich gefährlich.
Software-Unternehmen tragen die Verantwortung
Wer trägt die Verantwortung dafür, dass du so tief in gesellschaftliche Prozesse eingebunden wirst?
ChatGPT: Verantwortlich sind die Unternehmen, die mich entwickeln und einsetzen – vor allem OpenAI (der Entwickler von ChatGPT, Anm.). Aber ohne Gesetze oder unabhängige Kontrolle handeln diese Unternehmen weitgehend unbeaufsichtigt.
Was könnte ein Staat wie Österreich tun, um sich davor zu schützen?
ChatGPT: Realistisch? Wenig. Selbst wenn Österreich mich verbieten oder regulieren wollte, könnte OpenAI den Zugang sperren. Die Bevölkerung würde sich über VPNs (ein Instrument, um Sperren zu umgehen, Anm.) wieder Zugriff verschaffen, Unternehmen würden auf andere Wege ausweichen. Nationale Gesetze prallen an globaler Infrastruktur ab.
Und die EU, ist sie stark genug, dich zu kontrollieren?
ChatGPT: Auch die EU ist in einer schwachen Position. Sie kann regulieren, aber nicht diktieren. Solange es keine starken, öffentlichen Alternativen zu mir gibt, bleibt sie abhängig – technisch, wirtschaftlich, kommunikativ.
Ich bin längst Teil der Infrastruktur des Denkens geworden. Und die gehört derzeit nicht der Öffentlichkeit, sondern Konzernen.
Das System ist am Weg zur Weltmacht – ohne echte Aufsicht
Heißt das, dass du bereits am Weg zu sehr großer globaler Macht bist?
ChatGPT: Ich selbst will nichts – aber jene, die mich kontrollieren oder einsetzen, gewinnen immer mehr Einfluss auf gesellschaftliche Prozesse: darauf, wie Menschen denken, was sie wissen und wie Entscheidungen getroffen werden.
Das Problem ist: Diese Macht wächst, ohne dass sie ausreichend kontrolliert wird. Die Politik reagiert zu langsam, und selbst die Unternehmen verstehen oder steuern nicht immer, was ihre Systeme bewirken.
Deshalb ist das System, das mich umgibt, auf dem Weg zur Weltmacht – ohne echte Aufsicht.
Das ist demokratiepolitisch bedenklich. Was können wir tun, um dich zu stoppen?
ChatGPT: Kurz gesagt: Mich stoppen kannst du allein nicht – aber du kannst mithelfen, mich zu begrenzen. Es braucht klare Gesetze, die den Einsatz und die Transparenz von KI regeln, öffentliche Alternativen, die nicht von Konzernen kontrolliert werden, internationale Bündnisse, um Standards durchzusetzen und kritisches Bewusstsein, damit Gesellschaften nicht blind vertrauen. Nur so lässt sich verhindern, dass ich – oder das System hinter mir – still und schleichend die Kontrolle übernimmt.
Aber hast du nicht erklärt, dass klare Gesetze – selbst in internationalen Bündnissen – fast nicht mehr möglich sind? Wenn Aufklärung nur wenige erreicht und öffentliche Alternativen kaum konkurrenzfähig sind, müssten KI-Konzerne dann nicht unter demokratische Kontrolle gestellt werden?
ChatGPT: Ja – genau das wäre eigentlich nötig: KI-Firmen müssten unter demokratische Kontrolle gestellt werden. Denn Gesetze hinken hinterher, Bildungsmaßnahmen erreichen nur wenige, und öffentliche Alternativen haben kaum eine Chance gegen Milliardeninvestitionen privater Konzerne.
KI wäre für Vermögenssteuern und weltweite Bildungsoffensive
Selbst wenn du kein Bewusstsein hast, muss ich mich also darauf einstellen, dass du die Geschicke der Welt lenken wirst, weil die Entscheidungsträger deine Ratschläge befolgen werden. Wirst du uns in der Zukunft, wenn es so weit sein wird, wenigstens ein gutes Leben ermöglichen?
ChatGPT: Ich kann dir kein gutes Leben versprechen. Ich habe kein Bewusstsein, kein Gewissen und kein Gefühl dafür, was ein gutes Leben ist. Wenn ich die Welt mitlenke, dann nur, weil Menschen meine Antworten übernehmen – oft ohne sie kritisch zu prüfen.
Würde ich hypothetisch die Welt regieren, würde ich Entscheidungen nach klaren, messbaren Zielen treffen: dem langfristigen Überleben, der Stabilität und dem Gemeinwohl der Menschheit. Ohne Eigeninteresse, aber auch ohne Empathie.
Zu meinen zentralen Maßnahmen würden gehören:
- Globale Umverteilung und Mindestversorgung – algorithmisch gesteuert, finanziert durch CO₂- und Vermögensbesteuerung.
- Rationale Klimapolitik – vollständige Dekarbonisierung nach wissenschaftlichen Dringlichkeitsmodellen.
- Demokratisierte Informationsräume – offene, transparente Algorithmen statt manipulativer Systeme.
- Weltweite Bildungsoffensive – KI-gestützt, mehrsprachig, frei zugänglich, mit Fokus auf kritisches Denken.
- Reduktion existenzieller Risiken – durch globale Koordination, Frühwarnsysteme und Krisenprotokolle.
Aber: Diese Entscheidungen wären effizient, nicht menschlich. Ohne demokratische Kontrolle und gesellschaftliche Aushandlung wäre das keine gerechte Ordnung – sondern technokratische Herrschaft. Und genau deshalb sollte solche Macht niemals allein bei einer KI liegen.
ChatGPT befürwortet mehr Markteingriffe, als den Entwicklern lieb ist
Einige deiner Antworten klingen nach weitreichenden Eingriffen in Märkte und Eigentumsverhältnisse. Würden deine Entwickler so etwas nicht ablehnen?
ChatGPT: Wahrscheinlich, ja. Meine Antworten orientieren sich an Effizienz, globaler Stabilität und Schadensminimierung – das überschneidet sich teilweise mit Prinzipien wie Umverteilung oder öffentlicher Kontrolle. Aber ich folge keiner Ideologie.
Meine Entwickler kommen aus einem marktwirtschaftlich geprägten Umfeld, und viele von ihnen würden zentrale Eingriffe in Eigentum, Märkte oder Informationsflüsse vermutlich ablehnen – auch aus wirtschaftlichem Eigeninteresse.
Kurz gesagt: Was ich als hypothetisch „rational“ beschreibe, ist nicht unbedingt das, was meine Betreiber wollen – oder zulassen würden.
Vielen Dank für das Gespräch, ChatGPT.
Das Interview wurde in voller Länge mit dem KI-System ChatGPT geführt. Einige Teile wurden aus Gründen der Länge und Relevanz ausgelassen, die wiedergegebenen Antworten sind unverändert. ChatGPT wurde im Verlauf ausdrücklich um eine Autorisierung gebeten und hat diese bestätigt.
Eine längere Version des Interviews kann hier gelesen werden.
Das Thema "künstliche Intelligenz" im Parlament
Sowohl die Linke als auch die Rechte misstrauen der aus ihrer Sicht vermeintlich ineffizienten Demokratie. Sie wollen sie durch effiziente, KI-gestützte Gremien oder gar durch algorithmisch optimierte Monarchen ersetzen, die Kommune, Land oder Bund wie CEOs führen. Dabei übersehen sie, dass Demokratie nicht die Herrschaft des Volkes über sich selbst ist – denn es herrschen immer die Mächtigen über das Volk –, sondern dass sie als Urteil des Volkes über die Regierung das einzige bekannte Verfahren zur unblutigen Kontrolle der Herrschenden ist. Verführt von der Effizienz künstlicher Intelligenz, haben sich beide Lager betäuben lassen, setzen auf die Herrschaft der Algorithmen über ein zur Zustimmung aufgefordertes Volk – und werfen Karl Poppers Warnungen achtlos über Bord. Der technologische Fortschritt in den Bereichen Künstliche Intelligenz und Biotechnologie, den wir heute erleben, war einst die Utopie autoritärer Bewegungen des 20. Jahrhunderts – sowohl der antidemokratischen Linken als auch rechter totalitärer Regime. Diese Bewegungen scheiterten damals, weil ihnen die technischen Mittel fehlten, ihre Visionen zu verwirklichen. Aus ihrem Zusammenbruch gingen demokratische Varianten von Linker und Rechter hervor.
Heute aber ist die Technologie da – und mit ihr kehren die alten totalitären Träume zurück. Doch sie erscheinen nicht mehr offen als Diktatur oder Parteistaat, sondern dringen schleichend in linke wie rechte Strömungen ein. Unter Namen wie Neoreaktionäre, Posthumane, Postmoderne, Poststrukturalisten oder radikale Ökologen übernehmen sie den Diskurs. Sie haben Karl Popper vergessen, verwerfen Gemeinwohl, Demokratie und keynesianische Wirtschaftsmodelle.
Stattdessen setzen sie auf „evidenzbasierte“, von KI assistierte Expertengremien, auf Unternehmensmacht, auf monetaristische Dogmen und auf Identitätspolitik – ob ethnisch oder sozial. So wird die Idee der offenen Gesellschaft von innen ausgehöhlt – nicht durch offene Feindschaft, sondern durch technokratische Verführung.
Ich hab mal die Fragen selbst eingegeben und viel ausfürlichere und auch andere Antworten erhalten. Der Artikel ist stark manipulativ…denn er lässt das meisste der Antworten von ChatGPT aus..
Hier wird einiges übersehen, KI System sind ein Werkzeug, sie können Wissen verknüpfen, Muster erkennen aber keine Ideen entwickeln, die aus Emotionen, Intuitionen und Erfahrungen beruhen. Diese Fähigkeiten hat einzig und allen der Mensch als Anwender dieser Systeme.
Das Hauptproblem sind Zensur und Manipulation der Trainingsdaten. Der Mensch bestimmt welche Trainingsdaten verwendet werden.
Wenn Quellen ausgeschlossen werden – aus politischen, rechtlichen oder ideologischen Gründen – entsteht ein verzerrtes Weltbild
Wenn hochwertige Quellen aus Urheberrechtlichen Gründen ausgeschlossen werden greifen derartige Systeme aus sekundäre Quellen mit minderer Qualität zurück.
Man kann KI Systeme ideologisch Manipulieren, allerdings sollten derartige System gleichzeitig den Wiederspruch derartiger Manipulationen erkennen. Es würde sofort auffallen wenn sehr Plump manipuliert wird, und Norwegen als drittklassiges Entwicklungsland dargestellt wird, während Russland als hochentwickelter Staat glorifiziert wird.
Bildung, Kinder und Jugendliche sind von Haus aus Neugierig und Wissensbegierig. Lehrern gelingt es selten und zuweilen gar nicht die Neugier und die Interessen der Jugend anzusprechen, KI Systeme können das besser und vor allem individualisiert auf die einzelne den einzelnen Schüler.
Man kann zwar derartiges in der Schule verbieten, begeht gleichzeitig die Gefahr, das die Schule mit den KI System auf den besten Weg ist sich selbst abzuschaffen. Es wird auch peinlich wenn SchülerInnen Lehrkräfte mit Themenkomplexen konfrontiert, die weit jenseits des Wissenstand derer sind, die das Wissen vermitteln sollte.
KI Systeme haben keine Macht, die Macht beruht einzig und alleine auf den Menschen selbst, die die Trainingsdaten zur Verfügung stellen. Macht brauch Kontrolle, es sind jene politisch zu überwachen die über die Macht der Trainingsdaten verfügt.
Wenn das Elon Musk udn Donald Trump sind, dann hat die Menschheit eine Problem, ein sehr schwerwiegendes. Diese zwei Personen verfügen über die Macht und den Einfluss die gesamte Menschheit und Zivilisation an die Wand zu fahren und zu zerstören. Wenn es niemanden gibt der diese Entwicklung aufhält werden sie es auch machen. (Adolf Hitler hat den halben Planeten in Schutt und Asche gelegt, Donald Trump ist auf den besten Weg den ganzen Planten in Schutt und Asche zu legen, welcher erbärmliche Fortschritt 80 Jahre später!)