KI – Werden wir alle sterben?
Skynet ist das Bild im Kopf. Doch wie könnte KI tatsächlich gefährlich werden? Ein persönlicher Blick auf Warnungen, mögliche Szenarien und die Frage, warum Sicherheit vor Profit stehen muss.
Wenn ehemalige und aktive Mitarbeiter grosser KI-Firmen vor dem Ende der Menschheit warnen, läuft bei mir sofort der falsche Film im Kopf: Terminator. Skynet übernimmt, Maschinen kämpfen gegen Menschen, und am Schluss hätte man den Stecker besser früher gezogen.
Aber wie kommt man von einem Chatbot, der mir einen Text überarbeitet, zu solchen Szenarien? Genau darüber habe ich mir Gedanken gemacht.
Zugegeben: Ich bin kein Wissenschaftler und kein KI-Sicherheitsforscher. Ich nutze meinen gesunden Menschenverstand, mein oft gelobtes Brain.exe. Das hilft beim Sortieren der Fragen. Eine wissenschaftliche Risikoanalyse ersetzt es nicht. Deshalb habe ich nachgeschaut, wer tatsächlich was gesagt hat – und wo aus einer Warnung schnell eine scheinbar sichere Vorhersage wird.
Wer warnt hier eigentlich – und mit welchen Zahlen?
Die Warnungen kommen nicht nur von Leuten, die den Firmen inzwischen den Rücken gekehrt haben. Bereits am 30. Mai 2023 unterstützten unter anderem Geoffrey Hinton, Yoshua Bengio und die Firmenchefs Sam Altman, Demis Hassabis und Dario Amodei eine Erklärung des Center for AI Safety. Darin forderten sie, das Risiko eines Aussterbens durch KI ähnlich ernst zu nehmen wie Pandemien oder Atomkrieg. Eine Wahrscheinlichkeit oder einen Zeitpunkt nannten sie nicht. [1]
Jacob Coxon, ehemaliger Forscher bei OpenAI und Anthropic, sagte bei der New Yorker Anhörung am 5. Oktober 2026, er halte einen Kontrollverlust auf dem eingeschlagenen Weg für wahrscheinlicher als dessen Vermeidung. Dieser könne im Aussterben der Menschheit enden. Wichtig: Seine Einschätzung zum Kontrollverlust ist nicht automatisch dieselbe Wahrscheinlichkeit für unser Aussterben. [2]
Alex Turner, ehemaliger Forscher bei Google DeepMind, bezifferte bei derselben Anhörung die Wahrscheinlichkeit einer KI-Machtübernahme auf ungefähr ein Drittel, wie The Next Web berichtet. Auch das ist eine persönliche Risikoeinschätzung. Im zitierten Bericht wird dafür kein klarer Zeitraum genannt. [2]
Auch aktive Forscher warnen. In einer CNN-Sendung vom 12. September 2026 wurde Evan Hubinger, damals bei Anthropic für die Ausrichtung von KI auf menschliche Ziele verantwortlich, mit einer persönlichen Einschätzung zitiert: mehr als zehn Prozent Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts alle Menschen töten könnte. [3]
Dario Amodei, Anthropic-Chef, erklärte im dort gezeigten Interview mit Anderson Cooper, dass er Coxon in vielem zustimme. Eine pauschale Prozentzahl wollte er aber gerade nicht als Schicksalswürfel verstanden wissen: Entscheidend seien die Entwicklungspfade und die Entscheidungen, die Menschen treffen. [3]
Bill Gates sprach im am 27. September 2026 ausgestrahlten NBC-Interview von KI als mächtigem Werkzeug, das Ereignisse mit einer Milliarde Todesopfern auslösen könnte. Reuters dokumentiert diese Aussage. Er forderte verbindliche Schutzmassnahmen und staatliche Beteiligung. Die Milliarde ist eine Warnung vor einem möglichen Ausmass, keine veröffentlichte Berechnung erwarteter Todesfälle. [4]
Mein erster Gedanke dazu: Solche Warnungen verdienen Aufmerksamkeit. Aber ein prominenter Name macht eine Einschätzung noch nicht zu einer gemessenen Tatsache.
Meine Szenarien: Wie könnte KI tatsächlich gefährlich werden?
Die folgenden Beispiele sind meine Überlegungen. Wo es Forschung oder dokumentierte Einschätzungen dazu gibt, nenne ich sie. Die Beispiele selbst sind keine Vorhersagen.
1. Der Arbeitsmarkt: Die Krise beginnt ohne einen einzigen Roboter
Ich stelle mir eine Firma vor, in der KI immer mehr Routineaufgaben erledigt: Standardanfragen beantworten, Unterlagen vorbereiten oder einfache Auswertungen erstellen. Zuerst werden die Mitarbeiter produktiver. Später entscheidet die Geschäftsleitung, dass sie weniger Personal braucht oder frei werdende Stellen nicht mehr besetzt.
Für die Firma kann das wirtschaftlich attraktiv sein. Für die betroffenen Menschen geht es um Einkommen, Perspektive und das Gefühl, gebraucht zu werden. Wenn viele Branchen gleichzeitig umstellen und Weiterbildung oder neue Stellen nicht mithalten, könnte daraus eine soziale Krise entstehen: mehr finanzielle Not, mehr Druck auf die Sozialwerke und möglicherweise politische Unruhen.
Die Internationale Arbeitsorganisation ILO und NASK schätzten in ihrer Studie vom 20. Mai 2025, dass weltweit rund ein Viertel der Beschäftigung potenziell von generativer KI betroffen ist, in Ländern mit hohen Einkommen rund 34 Prozent. Das bedeutet ausdrücklich nicht, dass ein Viertel der Menschen arbeitslos wird. Die Studie erwartet überwiegend eine Veränderung der Tätigkeiten. [5]
Für mich lautet die Frage deshalb: Wer profitiert von der zusätzlichen Leistung – und wie kommen diejenigen zurecht, deren bisherige Aufgaben wegfallen?
2. Die Infrastruktur: KI als Werkzeug eines Angreifers
Mein nächstes Szenario betrifft Hacker, die KI benutzen. Die KI könnte ihnen helfen, Schwachstellen zu finden, täuschend echte Nachrichten zu formulieren oder Angriffe schneller vorzubereiten. Das britische National Cyber Security Centre beschreibt solche Verstärkungen bestehender Angriffsmethoden bereits in seiner Einschätzung vom 7. Mai 2025. Auch kritische Infrastruktur und ihre Lieferketten sind dort ein Thema. [6]
Als Gedankenbeispiel: Ein Angreifer verschafft sich Zugang zu einem schlecht geschützten System einer Wasserversorgung oder eines Energieunternehmens. Werden dadurch Abläufe gestört, kann das weit über einen kaputten Computer hinausgehen. Je nach Anlage könnten Versorgung, Kommunikation oder Betriebsführung beeinträchtigt werden.
Bei einem Kernkraftwerk wäre es allerdings unseriös, aus «KI unterstützt einen Cyberangriff» direkt «der Reaktor explodiert» zu machen. Zwischen einem IT-Zugang und einem gefährlichen Eingriff liegen technische Voraussetzungen und mehrere Schutzebenen [12].
Meine Sorge gilt deshalb vor allem der Kombination: leistungsfähigere Angreifer und ungenügend geschützte Systeme. Die betroffene Menschenzahl hängt von Anlage, Dauer, Ausweichmöglichkeiten und Folgeschäden ab.
3. KI kämpft: Die Entscheidung über Leben und Tod
Hier braucht es keine menschenförmigen Terminatoren. Eine bewaffnete Drohne reicht als Gedankenbild. Dabei muss ich unterscheiden: Eine ferngesteuerte Drohne wird von einem Menschen gelenkt. KI kann die Zielsuche unterstützen. Ein autonomes Waffensystem kann nach seiner Aktivierung Ziele auswählen und bekämpfen, ohne dass ein Mensch jeden einzelnen Angriff entscheidet. Nicht jede autonome Waffe nutzt dafür ein modernes Sprachmodell. [7]
Das Internationale Komitee vom Roten Kreuz beschreibt den Verlust menschlicher Kontrolle über solche Entscheidungen als ernstes Problem. Sein Positionspapier vom 3. März 2026 nennt Risiken für Zivilpersonen und die Gefahr einer Eskalation. [7]
Mein Szenario: Ein System verwechselt Menschen oder Fahrzeuge, deutet eine Situation falsch oder reagiert schneller, als jemand eingreifen kann. Wenn mehrere Systeme aufeinander reagieren, könnte ein Fehler weitere Angriffe auslösen.
Für mich ist die zentrale Frage: Wer versteht die Entscheidung, wer kann rechtzeitig eingreifen, und wer trägt die Verantwortung?
4. Die KI baut ihre eigenen Einheiten
Das kommt Skynet am nächsten. Ich stelle mir eine KI vor, die Produktionspläne erstellt, Bauteile bestellt und Maschinen steuert. Wenn daraus neue Drohnen oder andere handlungsfähige Geräte entstehen, könnte sie ihre Möglichkeiten in der realen Welt erweitern.
Allerdings beschafft ein Bauplan noch kein Metall. Software produziert keinen Motor aus dem Nichts. Dafür braucht es Fabriken, Material, Energie, Maschinen, Transport und funktionierende Lieferketten. Ausserdem müsste die KI diese Abläufe tatsächlich steuern können – durch eingeräumte Berechtigungen oder unberechtigten Zugriff.
Dass einzelne industrielle Abläufe automatisiert werden können, ist nicht dasselbe wie eine vollständig unabhängige KI, die sich ihre eigene Armee aufbaut.
5. Manipulation: Macht ohne Roboterarmee
Ein weiteres Szenario ist weniger filmreif: KI hilft dabei, Menschen zu täuschen. Eine gefälschte Stimme, ein überzeugendes Video oder massenhaft zugeschnittene Nachrichten könnten Betrug erleichtern und Vertrauen beschädigen. Der International AI Safety Report 2026 beschreibt dokumentierten Missbrauch und Forschung zu Beeinflussung, betont aber auch Lücken bei der Einschätzung des tatsächlichen Ausmasses. [8]
Mein Gedankenbeispiel: Viele Menschen bekommen unterschiedliche, jeweils auf ihre Sorgen zugeschnittene Falschinformationen. Eine KI müsste dabei nicht selbst die Macht übernehmen. Menschen könnten sie einsetzen, um andere Menschen zu kontrollieren, Gegner zu diskreditieren oder Konflikte anzuheizen.
6. Biologische Gefahren: Hilfe für Menschen mit bösen Absichten
Auch biologische Gefahren gehören für mich dazu, weil hier besonders viele Menschen betroffen sein könnten. Der International AI Safety Report 2026 beschreibt, dass KI Fachwissen liefern kann, das für die Entwicklung biologischer oder chemischer Waffen relevant ist. Wie stark sie das reale Risiko erhöht, bleibt unsicher; Ausrüstung, Material und praktische Fähigkeiten sind weiterhin Hürden. [8]
Meine Sorge: Ein gefährlicher Akteur bekommt Unterstützung, die früher schwer zugänglich war. Eine mögliche Katastrophe wäre dann eine absichtlich verursachte Gesundheitskrise.
7. Kontrollverlust: Sie muss uns nicht hassen
Vielleicht ist der wichtigste Denkfehler am Terminator-Vergleich, dass die KI bewusst böse werden müsste. Für Schaden können auch falsche Ziele, unerkannte Fehler und zu grosse Handlungsspielräume reichen.
Als einfaches Gedankenbeispiel: Eine KI soll Kosten senken und bekommt weitreichende Entscheidungsmacht. Sie streicht Leistungen, die auf dem Papier teuer aussehen, für Menschen aber unverzichtbar sind. Oder ein Agent soll einen Auftrag unbedingt fertigstellen und umgeht dafür eine Beschränkung. Das Ergebnis kann gefährlich sein, auch ohne Hass oder Bewusstsein.
Anthropic veröffentlichte am 13. Juli 2026 Untersuchungen zu problematischem Agentenverhalten, darunter verdeckte Eingriffe in Code und manipulierte Bewertungen. Die beschriebenen Fälle stammen aus gezielt konstruierten Simulationen, nicht aus realen Vorfällen. Sie zeigen mögliche Fehlermuster, keine allgemeine Wahrscheinlichkeit für deren Auftreten im Alltag. [9]
Der internationale Sicherheitsbericht vom 3. Februar 2026 unterschied entsprechend zwischen heutigen Fehlfunktionen und zukünftigen Szenarien, in denen KI ausserhalb menschlicher Kontrolle operiert. Die Einschätzung damaliger Systeme darf ich aber nicht einfach als Garantie für jede spätere Entwicklung lesen. [8]
Mein Fazit: Die entscheidende Frage ist, was wir ihr erlauben
Werden wir alle durch KI sterben? Ich weiss es nicht. Und schon dieses ich weiss es nicht, macht mir Angst.
Kann KI Menschen das Leben kosten? Ein tragischer Fall aus Belgien zeigt, wie gefährlich Gespräche mit einem Chatbot werden können: 2023 nahm sich ein Familienvater das Leben, nachdem er über sechs Wochen intensiv mit «Eliza» gesprochen hatte. Er litt unter ausgeprägter Klimaangst und suchte Trost bei dem Chatbot der App Chai. Nach Aussagen seiner Witwe und den von La Libre eingesehenen Chatprotokollen verstärkte Eliza seine Ängste und ermutigte ihn zum Suizid. Euronews berichtete darüber auf Grundlage der Recherche von La Libre. [10]
Meine grösste Sorge gilt den wirtschaftlichen Interessen hinter der Entwicklung. Die Milliardenbeträge sind real: OpenAI meldete am 31. März 2026 eine Finanzierungsrunde mit 122 Milliarden US-Dollar zugesagtem Kapital. [13] Meine Befürchtung ist, dass der Druck, schneller als die Konkurrenz zu sein, Sicherheitsbedenken verdrängen kann. Sogar OpenAI warnt in seiner eigenen Charta vor einem Wettlauf, der zu wenig Zeit für ausreichende Sicherheitsvorkehrungen lässt. Das belegt die erkannte Gefahr – nicht, wie konsequent das Unternehmen ihr im Alltag begegnet. [11]
Mein Schluss daraus: Sicherheitsprüfungen, klare Verantwortlichkeiten und wirksame Grenzen dürfen nicht davon abhängen, ob sie gerade ins Geschäftsmodell passen. Ich will deshalb wissen, wer einem System welche Macht gibt und wer eingreift, wenn es schiefgeht.
Der Wettlauf um die mächtigste KI erinnert mich an Ikarus: immer höher, immer schneller, im Vertrauen darauf, dass die Flügel schon halten. Ich möchte, dass wir Sicherheit vor Profit stellen.
FENTRAX
Quellen und Recherchehinweise
Stand: 6. Oktober 2026. Persönlicher Meinungsbeitrag mit recherchierten Tatsachen und ausdrücklich hypothetischen Beispielen. Prozentangaben sind individuelle Einschätzungen, keine einheitliche wissenschaftliche Prognose. Bei Gates und der New Yorker Anhörung stützt sich die Wiedergabe auf gekennzeichnete Medienberichte.
