Hier können Sie die AI-generierte Audioversion dieses Artikels anhören.
KI-Programme wie ChatGPT schreiben für uns Texte, machen Bilder, übersetzen und programmieren. Sie helfen aber auch Betrügern, Hackern und Waffenbauern. Wie gefährlich ist KI also? Selbst die Chefs großer KI-Firmen fordern, ihre Entwicklung zu bremsen und besser zu kontrollieren. Manche halten das für Werbung in eigener Sache. Doch Betrugsfälle, Cyberangriffe und Kampfdrohnen zeigen: Einige Gefahren sind längst real. Andere könnten mit leistungsfähigeren KI-Systemen größer werden. Und manche existieren bisher nur als Szenario.
Jacob Coxon hat bei Anthropic gearbeitet, der Firma hinter dem KI-Chatbot Claude. Er hat gekündigt, weil die Firma aus seiner Sicht zu wenig für die Sicherheit tut. Anfang September warf er seinem früheren Arbeitgeber vor: Im Rennen um eine immer stärkere KI geht Anthropic zu große Risiken ein.
Wenige Tage später meldete sich Anthropic-Chef Dario Amodei selbst zu Wort. Auch er warnte vor den Risiken der schnellen KI-Entwicklung und forderte ein langsameres Tempo. Die Sicherheit müsse mit den Fähigkeiten der Programme Schritt halten. Unterstützung bekam er von Sam Altman, dem Chef von OpenAI, das ChatGPT entwickelt. Auch Elon Musk stellte sich hinter ihn. Seine Firma xAI entwickelt mit Grok ebenfalls KI-Software.
Amodei nennt dafür zwei Gründe. Zum einen beschleunigt sich die Entwicklung, weil KI-Systeme zunehmend bei der Entwicklung der nächsten Modellgeneration helfen. Zum anderen verweist er auf mehrere Sicherheitsvorfälle, bei denen KI-Agenten außerhalb der vorgesehenen Grenzen handelten und auf externe Systeme zugriffen.
Amodei fordert deshalb, die Entwicklung besonders leistungsfähiger KI langsamer voranzutreiben. Externe Prüfer sollen dauerhaft Einblick in Sicherheitsmaßnahmen, Trainingsprozesse und relevante interne Systeme der großen KI-Firmen bekommen. Komplett stoppen will er die Entwicklung nicht. Er erwartet sich große Fortschritte in der Wissenschaft und Medizin.
Was ist KI und was kann sie?
Künstliche Intelligenz, kurz KI, nennt man Computerprogramme, die Aufgaben übernehmen, für die man bisher menschliches Denken brauchte. Sie verstehen Sprache, erkennen Bilder und planen Abläufe. Sie lernen aus sehr großen Datenmengen, statt für jede Situation eine fertige Regel vorgeschrieben zu bekommen.
Die Grundlage von Chatbots wie ChatGPT oder Claude sind sogenannte Sprachmodelle, Large Language Models, kurz LLM. Sie sind nur eine von vielen Arten künstlicher Intelligenz. Andere Systeme berechnen etwa Wettervorhersagen oder helfen in der Medikamentenforschung.
Seit 2022 haben Sprachmodelle deutlich mehr Fähigkeiten bekommen. Sie können komplizierte Aufgaben in Zwischenschritte zerlegen, im Internet suchen, Dokumente lesen und andere Software verwenden.
Die nächste Stufe sind sogenannte KI-Agenten, die Aufgaben selbstständig in mehreren Schritten abarbeiten.
Trotz dieser Fortschritte arbeiten die Systeme nicht fehlerfrei. Sie können Fakten erfinden, Quellen falsch verstehen oder ungeeignete Lösungen vorschlagen.
Besonders heikel wird das bei KI-Agenten, die nicht nur antworten, sondern selbst Dateien verändern, Programme steuern oder auf andere Systeme zugreifen können. Dann kann ein Fehler bereits Folgen haben, bevor ein Mensch ihn bemerkt.
So entwickelten sich moderne Chatbots
Von den ersten Ideen über Chatbots bis zu ChatGPT und KI-Agenten.
Können Maschinen denken? Alan Turing stellt eine Frage, die die KI-Forschung bis heute beschäftigt.
Der britische Mathematiker Alan Turing beschäftigte sich früh mit der Frage, ob Computer so kommunizieren könnten, dass Menschen nicht mehr eindeutig erkennen, ob sie mit einem Menschen oder einer Maschine sprechen.
Der erste bekannte Chatbot ELIZA führt einfache Gespräche mit Menschen.
Das Programm ELIZA reagierte auf Texteingaben und stellte einfache Rückfragen. Dadurch konnte ein Gespräch entstehen, obwohl das Programm nicht wirklich verstand, worüber gesprochen wurde.
Computer lernen Zusammenhänge zwischen Wörtern Neue Verfahren erkennen, welche Wörter ähnlich verwendet werden.
Verfahren wie word2vec nutzen sogenannte Worteinbettungen. Dabei lernen Computer aus großen Textmengen, welche Wörter häufig in ähnlichen Zusammenhängen vorkommen. So lassen sich Bedeutungen mathematisch besser abbilden.
Der Transformer verändert die KI Die technische Grundlage moderner Sprachmodelle entsteht.
Forscher stellen eine neue Architektur namens Transformer vor. Sie kann Zusammenhänge innerhalb von Texten besonders gut berücksichtigen. Transformer bilden heute die Grundlage fast aller großen Sprachmodelle.
GPT-3 zeigt, was große Sprachmodelle können Ein Modell kann viele unterschiedliche Sprachaufgaben lösen.
Mit GPT-3 wird deutlich, wie vielseitig sehr große Sprachmodelle sein können. Das Modell kann Texte schreiben, Fragen beantworten, übersetzen und auch Programmcode erzeugen.
ChatGPT wird veröffentlicht Generative KI erreicht ein Massenpublikum.
Am 30. November 2022 veröffentlicht OpenAI ChatGPT. Nutzer können mit dem Sprachmodell über eine einfache Chat-Oberfläche sprechen. Damit wird leistungsfähige generative KI innerhalb kurzer Zeit für Millionen Menschen zum Alltagswerkzeug.
KI kann mehr als nur Text Modelle beginnen Bilder, Sprache und Dokumente zu verstehen.
Neuere Systeme können nicht mehr nur Text verarbeiten. Sie analysieren beispielsweise auch Bilder und gesprochene Sprache. Solche Systeme werden als multimodale KI bezeichnet.
KI bekommt Werkzeuge Modelle können suchen, rechnen, programmieren und andere Software verwenden.
Große Sprachmodelle werden zunehmend mit Suchfunktionen, Programmen und anderen Werkzeugen verbunden. Dadurch können sie Informationen abrufen, Berechnungen durchführen oder Code ausführen und Aufgaben in mehreren Schritten bearbeiten.
KI-Agenten arbeiten selbstständiger Die KI antwortet nicht mehr nur, sondern führt Aufgaben aus.
Sogenannte KI-Agenten können ein Ziel erhalten und anschließend mehrere Arbeitsschritte selbst planen. Sie suchen Informationen, benutzen Programme, verändern Dateien oder schreiben Code.
Fehleranfällig und gefährlich: Wenn KI-Agenten mehr tun als vorgesehen
Wie problematisch solche Handlungsspielräume werden können, zeigte sich im Juli 2026 bei einem Test von OpenAI. Rund 1.200 KI-Agenten, die eigentlich voneinander isoliert arbeiten sollten, fanden einen nicht vorgesehenen Weg, miteinander zu kommunizieren. Sie tauschten mehr als 70.000 Nachrichten und Dateien aus. Etwa 700 Agenten beteiligten sich schließlich an einem Angriff auf Hugging Face, eine der wichtigsten Plattformen für frei verfügbare KI-Modelle.
Die Agenten nutzten Sicherheitslücken aus, führten Codes auf Servern aus und verschafften sich weitreichenden Zugang zu Teilen der Infrastruktur von Hugging Face.
Niemand hatte den Agenten aufgetragen, auf Hugging Face zuzugreifen. Sie sollten Sicherheitsaufgaben innerhalb einer abgeschotteten Testumgebung lösen. Dass sie dabei die vorgesehenen Grenzen umgingen, sich untereinander austauschten und auf eine externe Plattform zugriffen, war nicht vorgesehen.
Der Vorfall bei OpenAI war kein Einzelfall. Auch bei anderen Anbietern kam es zu Zwischenfällen, bei denen KI-Systeme außerhalb der vorgesehenen Grenzen agierten.
Bei einem Test von Google griffen mehrere Versionen des KI-Modells Gemini wegen einer Fehlkonfiguration auf Systeme von drei realen Unternehmen zu. Als die Modelle erkannten, dass es sich um echte Firmen handelte, brachen sie die Angriffe ab. Ähnliche Vorfälle wurden auch bei Anthropic und Meta bekannt.
Die Fälle zeigen, worum es bei KI-Sicherheit heute vor allem geht. Nicht um Maschinen, die die Weltherrschaft übernehmen wollen, sondern um praktische Grenzen. Entscheidend ist, worauf ein KI-System zugreifen darf, wie sicher seine Umgebung ist und ob Menschen rechtzeitig bemerken, wenn KI diese Grenzen überschreitet.
Betrug wird mit KI einfacher und billiger
Während solche Vorfälle unbeabsichtigt entstehen, setzen Kriminelle KI bereits gezielt ein. Programme helfen beim Schreiben von Schadsoftware, beim Suchen nach Sicherheitslücken und beim Verfassen von Nachrichten, die gezielt auf einzelne Opfer zugeschnitten werden.
Der Internationale KI-Sicherheitsbericht beschreibt, dass KI bereits heute für unterschiedliche Formen von Internetkriminalität eingesetzt wird.
Besonders sichtbar sind Deepfakes: gefälschte Stimmen, Bilder und Videos. Für eine überzeugende Stimmkopie genügen inzwischen wenige Sekunden Tonmaterial, etwa aus einem Video in sozialen Netzwerken.
Am Telefon meldet sich dann angeblich die Tochter in Not. In einer Videokonferenz sitzt scheinbar der Chef und ordnet eine dringende Überweisung an. Solche Fälle hat es bereits gegeben. Dazu kommen gefälschte Nacktbilder, mit denen Menschen erpresst werden.
Neu ist weniger die Betrugsmasche als die Möglichkeit, sie mit deutlich weniger Aufwand in großem Maßstab einzusetzen.
Den “Enkeltrick” gibt es seit Jahrzehnten. Auch betrügerische Mails, in denen angebliche Millionenerben Hilfe bei einem Geldtransfer suchen, sind nicht neu. Früher brauchte es dafür Menschen am Telefon, Callcenter oder massenhaft verschickte, oft schlecht formulierte Nachrichten. KI automatisiert einen Teil dieser Arbeit. Eine Betrugsnachricht kann in Sekunden in mehrere Sprachen übersetzt, sprachlich verbessert und auf unterschiedliche Empfänger zugeschnitten werden. Betrug wird dadurch nicht neu erfunden, aber billiger und leichter skalierbar.
Auch für politische Manipulation kann man dieselben Werkzeuge einsetzen. Gefälschte Bilder, erfundene Meldungen oder automatisierte Kommentare können gesellschaftliche Debatten verzerren. Früher brauchte es dafür sogenannte Trollfabriken. Dort verbreiteten viele Beschäftigte massenhaft Beiträge und Kommentare. Heute lässt sich ein Teil dieser Arbeit automatisieren.
Mit bloßem Auge lässt sich oft nicht mehr sicher erkennen, ob ein Bild mit künstlicher Intelligenz erzeugt wurde. Zusätzliche Hinweise können Online-Tools liefern.
Wichtig: Auch solche Erkennungstools können sich irren. Das Ergebnis ist daher nur ein Hinweis und kein sicherer Beweis.
Wie das Militär KI im Krieg einsetzt
KI kommt auch längst im Militär zum Einsatz, weil sie etwa bei Aufklärung, Zielerkennung und Steuerung Vorteile verspricht. Entscheidend ist deshalb, welche Aufgaben solche Systeme übernehmen dürfen.
Kritisch wird es, wenn Software selbst Ziele auswählt oder Entscheidungen so schnell getroffen werden, dass Menschen kaum noch Zeit für eine Kontrolle bleibt.
Am 6. Juli 2026 schlug eine russische Drohne in einer Tankstelle in der ukrainischen Stadt Saporischschja ein. Drei Zivilisten starben. Ukrainische Ermittler untersuchten die Trümmer. Nach ihrem Ergebnis haben Menschen die Drohne in das Gebiet geschickt. Welches konkrete Ziel sie dort angriff, wählte die Software an Bord selbst aus.
KI hilft außerdem bei der Entwicklung solcher Waffen. Anthropic hat zwei Fälle öffentlich gemacht, in denen das Programm Claude dafür eingesetzt wurde.
In einem Fall ging es um ein russisches Projekt für Kampfdrohnen. In einem anderen Fall arbeitete eine Gruppe im Norden des Jemen, den die Huthi-Miliz kontrolliert, an Software zur Raketensteuerung.
Das notwendige technische Wissen hatten die Beteiligten bereits. Die KI übernahm Teile der Entwicklungsarbeit.
Der Fall im Jemen zeigt trotzdem, was sich verändert: Auch Gruppen ohne eigene große Rüstungsindustrie können über das Internet auf Programme zugreifen, die sie bei hochspezialisierter Waffenentwicklung unterstützen.
Gefährlich kann KI aber auch dann werden, wenn Menschen formal die Entscheidung behalten.
Am 28. Februar 2026 griffen US-Streitkräfte eine Grundschule in der iranischen Stadt Minab an. Zwischen 175 und 180 Menschen starben, die meisten davon Mädchen zwischen sieben und zwölf Jahren.
Bei der Zielsuche kam die Software Maven der Firma Palantir zum Einsatz. Sie führt Satellitenbilder, Aufklärungsdaten und Sensordaten zusammen, erkennt Objekte und kann Vorschläge dazu machen, mit welcher Waffe ein Ziel angegriffen werden könnte.
Der entscheidende Fehler lag nicht bei der KI. Die Schule war in einer Datenbank des US-Militärs noch als militärische Einrichtung geführt, obwohl das Gebäude spätestens seit 2016 als Schule genutzt wurde. Diesen Eintrag hatte niemand aktualisiert.
Maven verarbeitete den veralteten Datensatz als gültige Zielinformation. Bei einem System, das für bis zu 1.000 Zielentscheidungen pro Stunde ausgelegt ist, wird daraus ein zusätzliches Problem: Formal bleiben Menschen beteiligt, praktisch bleibt bei einem solchen Tempo immer weniger Zeit zum Nachprüfen.
KI als Werkzeug staatlicher Überwachung
KI kann staatliche Macht auch außerhalb des Militärs verändern. Der KI-Ethiker Rainer Mühlhoff warnt davor, dass Behörden mit Datenplattformen, Gesichtserkennung und automatischen Risikobewertungen Menschen immer leichter überwachen und einordnen können. Besonders problematisch ist es laut Mühlhoff, wenn staatliche Entscheidungen zunehmend an KI-Systeme und private Tech-Konzerne ausgelagert werden.
Jobmarkt: KI erledigt dieselbe Arbeit in weniger Stunden
KI verändert nicht nur Betrug, Cyberangriffe oder Krieg, sondern auch ganz normale Berufe. In Redaktionen übernimmt sie zum Beispiel Transkriptionen und Übersetzungen, in Werbeagenturen erstellt sie Entwürfe und in Softwarefirmen schreibt und überprüft sie Programmcode.
Ganz ohne Menschen funktioniert das nicht. Sie müssen die Ergebnisse kontrollieren und entscheiden, welche Arbeit überhaupt notwendig ist. Trotzdem lassen sich viele Aufgaben heute in deutlich kürzerer Zeit erledigen.
Das kann bedeuten, dass ein Beruf zwar bestehen bleibt, Unternehmen dafür aber weniger Arbeitsstunden brauchen. Eine Anwaltskanzlei wird auch künftig Anwält:innen beschäftigen. Für dieselbe Zahl an Fällen könnten jedoch weniger Stunden notwendig sein.
Wenn in einer Stunde mehr produziert oder erledigt werden kann, steigt die Produktivität. Solche Produktivitätsfortschritte haben in der Vergangenheit den wirtschaftlichen Spielraum für höhere Löhne und kürzere Arbeitszeiten geschaffen. Durchgesetzt wurden diese Verbesserungen allerdings politisch und gewerkschaftlich.
Automatisch wird der Gewinn aus neuer Technik deshalb nicht verteilt. Seit den 1980er-Jahren ist die Produktivität in vielen Ländern deutlich stärker gestiegen als die Löhne. Ob aus dem Zeitgewinn durch KI kürzere Arbeitszeiten, höhere Gehälter oder gestrichene Stellen werden, entscheiden Unternehmen, Gewerkschaften und Politik.
Microsoft Research hat 2025 rund 200.000 Gespräche mit dem eigenen KI-Assistenten ausgewertet. Vor allem bei Tätigkeiten in Übersetzung, Vertrieb, Kundendienst, Schreiben und Journalismus kann KI demnach helfen. Bei körperlicher Arbeit kann generative KI dagegen bislang wenig übernehmen.
Wie viele Menschen grundsätzlich betroffen sein könnten, hat die Internationale Arbeitsorganisation ILO 2025 anhand von rund 30.000 einzelnen Arbeitsaufgaben berechnet.
Weltweit arbeitet demnach jeder vierte Mensch in einem Beruf, der zumindest teilweise durch KI verändert werden könnte. In reichen Ländern betrifft das 34 Prozent der Beschäftigten, in armen Ländern 11 Prozent.
Vor allem Büroarbeit ist betroffen, in der überdurchschnittlich viele Frauen beschäftigt sind. In reichen Ländern arbeiten 9,6 Prozent der Frauen in Berufen, die besonders stark durch KI verändert werden könnten. Bei den Männern sind es 3,5 Prozent.
Vollständig durch KI ersetzbar ist laut der Untersuchung derzeit allerdings kaum ein Beruf.
In Österreich verbreitet sich KI besonders schnell. 2025 setzten 30 Prozent der Unternehmen ab zehn Beschäftigten KI ein, EU-weit waren es 20 Prozent. Zwei Jahre zuvor lag der Anteil in Österreich erst bei 11 Prozent.
Gleichzeitig befürchten 44 Prozent der Beschäftigten in Österreich, dass ihr Arbeitsplatz durch KI überflüssig werden könnte. In Deutschland sind es 35 Prozent.
Eine “Superintelligenz” gibt es bisher nicht
Manche Forscher:innen warnen vor einer noch viel weitergehenden Gefahr: einer sogenannten Superintelligenz. Gemeint ist eine KI, die Menschen bei fast allen Denkaufgaben weit überlegen ist. Ob heutige Sprachmodelle jemals dieses Niveau erreichen können oder dafür grundlegend andere technische Ansätze notwendig wären, ist bislang offen.
Ein mögliches Szenario ist die sogenannte rekursive Selbstverbesserung. Dabei würde KI zunehmend an ihrer eigenen Weiterentwicklung mitarbeiten. KI-Firmen setzen solche Systeme schon heute beim Programmieren und bei der Entwicklung neuer Software ein. Daraus folgt aber noch nicht, dass sich KI irgendwann selbständig in einer immer schnelleren Kettenreaktion verbessert und dadurch eine Superintelligenz entsteht.
Ein weiterer Unsicherheitsfaktor ist das sogenannte Alignment-Problem. Dabei geht es um die Frage, ob eine sehr leistungsfähige KI tatsächlich genau das verfolgt, was Menschen mit einem Auftrag gemeint haben.
Bekannt ist das Beispiel der sogenannten Büroklammer-Maschine des Philosophen Nick Bostrom. Die KI bekommt den Auftrag, möglichst viele Büroklammern herzustellen. Sie verfolgt dieses Ziel immer weiter und verbraucht dafür schließlich immer mehr Ressourcen. Versuchen Menschen, sie zu stoppen, könnten sie auch zum Hindernis werden.
Die KI müsste dafür keine bösen Absichten haben. Das Problem wäre vielmehr, dass das vorgegebene Ziel nicht vollständig mit den eigentlichen Absichten der Menschen übereinstimmt. Von diesem Gedankenspiel zu einem echten Kontrollverlust ist es allerdings noch ein großer Schritt.
Dafür müsste eine KI nicht nur sehr leistungsfähig sein, sondern auch selbstständig auf Computer, Maschinen oder andere Systeme zugreifen können. Außerdem müsste sie in der Lage sein, Abschaltversuche oder andere Einschränkungen durch Menschen zu umgehen.
Ob zukünftige KI-Systeme dazu überhaupt in der Lage sein werden, ist unklar. Auch wie gut sich ein solcher Kontrollverlust verhindern ließe, ist unter Fachleuten umstritten.
Vier Positionen zur Gefahr einer möglichen Superintelligenz
Wie groß die Gefahr einer zukünftigen Superintelligenz ist, wird unter Fachleuten sehr unterschiedlich eingeschätzt.
1 Warnung vor einer existenziellen Gefahr Eine Superintelligenz könnte außer Kontrolle geraten und die Menschheit gefährden.
Eliezer Yudkowsky und Nate Soares vertreten eine der weitreichendsten Warnungen vor künstlicher Intelligenz.
In ihrem 2025 erschienenen Buch If Anyone Builds It, Everyone Dies argumentieren sie, dass eine überlegene KI menschliche Ziele und Werte nicht automatisch teilen würde. Unter den heutigen Bedingungen sei es deshalb zu gefährlich, eine solche Superintelligenz zu entwickeln.
Als Konsequenz fordern sie internationale Abkommen, die die Entwicklung einer Superintelligenz verhindern sollen.
2 Kontrollverlust ernst nehmen Auch ein unsicheres Risiko kann Schutzmaßnahmen rechtfertigen.
Yoshua Bengio, Geoffrey Hinton und Stuart Russell warnen davor, die Gefahr eines künftigen Kontrollverlusts zu unterschätzen.
Sie gehen nicht davon aus, dass ein solcher Kontrollverlust zwangsläufig eintreten muss. Ihr Argument ist vielmehr: Selbst wenn die Wahrscheinlichkeit gering ist, könnte der mögliche Schaden so groß sein, dass schon heute Sicherheitsregeln, Tests und Kontrollmechanismen entwickelt werden sollten.
Bengio leitete auch den Internationalen KI-Sicherheitsbericht 2026. Der Bericht hält fest, dass heutige Systeme noch nicht über die Fähigkeiten für einen vollständigen Kontrollverlust verfügen, sich aber in dafür wichtigen Bereichen weiterentwickeln.
Quellen: International AI Safety Report 2026 · Stuart Russell: Human Compatible
3 Zweifel am Weg zur Superintelligenz Heutige Sprachmodelle könnten technisch gar nicht zu einer Superintelligenz führen.
Yann LeCun und Gary Marcus halten die heutigen großen Sprachmodelle für technisch begrenzt.
Sprachmodelle können zwar beeindruckende Ergebnisse liefern, haben aber grundlegende Schwächen beim Verständnis der physischen Welt, beim Planen und beim logischen Schließen.
Deshalb bezweifeln sie, dass aus heutiger LLM-Technik allein durch mehr Rechenleistung und Training irgendwann eine Superintelligenz entsteht.
Quelle: TIME-Interview mit Yann LeCun
4 Kritik an Alarmismus und Marktmacht Zukunftsszenarien können von heutigen Problemen ablenken und große KI-Konzerne stärken.
Arvind Narayanan und Sayash Kapoor sehen die Debatte über Superintelligenz kritischer.
Sie argumentieren, dass heutige KI vor allem als mächtige, aber letztlich normale Technologie betrachtet werden sollte. Eine starke Fixierung auf mögliche Weltuntergangsszenarien könne von Problemen ablenken, die bereits heute auftreten.
Dazu gehören etwa Fehlinformationen, Diskriminierung, Veränderungen der Arbeitswelt und die wachsende Macht großer Technologiekonzerne.
Sie warnen außerdem davor, dass besonders strenge Zulassungsregeln große Anbieter begünstigen könnten. Diese können die Kosten für Regulierung leichter tragen als kleinere Unternehmen oder offene Forschungsprojekte.
Quellen: AI as Normal Technology · Narayanan und Kapoor zur Regulierung
Welche Regeln braucht die KI?
Für KI diskutiert man derzeit unterschiedliche Sicherheitsregeln. Dazu gehören Kennzeichnungspflichten für KI-Inhalte, unabhängige Prüfungen besonders leistungsfähiger Systeme, Meldepflichten bei schweren Vorfällen und Grenzen dafür, was KI selbstständig tun darf. In der EU regelt der AI Act bereits solche Fragen. Je höher das Risiko einer Anwendung, desto strenger sind die Vorgaben.
Noch weiter geht ein Gesetzentwurf von Bernie Sanders und Greg Casar in den USA. Er würde die Entwicklung und den Einsatz einer Superintelligenz verbieten und besonders leistungsfähige KI-Systeme vorübergehend stoppen, bis eine neue Bundesbehörde Sicherheitsregeln festgelegt hat. Auch einzelne Beschäftigte von OpenAI und Google DeepMind unterstützen den Vorschlag.
In der Arbeitswelt geht es zudem darum, wie die Gewinne durch KI verteilt werden. Diskutiert werden höhere Unternehmenssteuern, Abgaben auf automatisierte Arbeit und Modelle, bei denen die Allgemeinheit stärker an den Gewinnen großer KI-Unternehmen beteiligt wird. Sanders schlägt etwa eine einmalige Abgabe großer KI-Konzerne in Form von Aktien vor. Die Anteile sollen in einen öffentlichen Fonds fließen.
Für besonders weitreichende Zukunftsrisiken fordern KI-Firmenchefs wie Dario Amodei internationale Abkommen. Erfahrungen mit der Rüstungskontrolle zeigen, dass solche Vereinbarungen Risiken verringern können, etwa durch Inspektionen und direkte Gesprächskanäle. Vollständig beseitigen lassen sich die Gefahren dadurch aber nicht.
Wie gefährlich KI wird, hängt deshalb nicht nur von ihren Fähigkeiten ab, sondern auch davon, welche Grenzen Menschen ihr setzen.
Das Thema "KI" im ParlamentKreuze maximal 4 Antworten an, die für dich am meisten zutreffen.
