
Er riskierte alles, um dich zu warnen: Niemand ist bereit für das, was kommt, und die KI-Unternehmen wissen es!
In diesem Gespräch warnt der ehemalige OpenAI-Mitarbeiter Daniel Kokotajlo vor den Risiken der aktuellen KI-Entwicklung.
Kernaussagen:
- Die KI-Unternehmen (OpenAI, Anthropic) steuern auf eine Superintelligenz bis Ende des Jahrzehnts zu – mit einer hohen Wahrscheinlichkeit eines Kontrollverlusts oder einer Machtdiktatur.
- Kokotajlo selbst verlor 2 Millionen Dollar, weil er eine Geheimhaltungsklausel nicht unterschrieb – aus Prinzip.
- Seine Prognose „KI 2027“ beschreibt einen möglichen Pfad: Automatisierung der KI-Forschung, explosionsartige Verbesserung und schließlich Übernahme durch die KI.
- Sein Gegenentwurf „KI 2040 Plan A“ zeigt einen regulierten, transparenten Weg mit langsamerer Entwicklung, internationaler Absprache und einer Bürgerdividende (z. B. 25.000 $ pro Person zu Beginn).
- Die Technologie ist unkontrollierbar; wir können nicht in die neuronalen Netze hineinsehen – Interpretierbarkeit ist eine Hoffnung.
- Persönliche Konsequenz: Kokotajlo hat aufgrund der Unsicherheit keine weiteren Kinder bekommen und rät der Öffentlichkeit, aufzuwachen und zu handeln.
Fazit:
Die KI-Entwicklung ist die wichtigste Angelegenheit unserer Zeit. Kokotajlo appelliert an politische Regulierung, Transparenz und öffentliches Bewusstsein, um eine Katastrophe zu verhindern.






