KI gehört nicht in private Hände
Medienbeitrag vom 6. Oktober 2026
Die Instrumente der Ökonomik sind kontraproduktiv, um gegen die existenziellen Risiken der Künstlichen Intelligenz anzugehen.
Künstliche Intelligenz (KI) kann die Welt zum Besseren verändern wie keine Technologie zuvor. Gleichzeitig ist sie dabei, zur größten existenziellen Bedrohung zu werden, die die Menschheit je erfahren hat. Die derzeit kursierenden Vorschläge, diese Gefahr zu reduzieren, sind völlig unzureichend. Selbst Wirtschaftswissenschaftler wie der amerikanische Wirtschaftsnobelpreisträger Joseph Stiglitz setzen mit ihrer „progressiven KI-Agenda“ auf klassische Instrumente der Ökonomik. Doch genau diese könnten sich bei hochentwickelter KI als kontraproduktiv erweisen.
Dieser Gastbeitrag von Marcel Fratzscher ist am 5. Oktober 2026 in der Frankfurter Allgemeinen Zeitung erschienen.
Die „progressive KI-Agenda“ enthält im Kern drei Elemente. Das erste ist mehr Wettbewerb: Neue Anbieter sollen Marktmacht begrenzen, Konsumenten stärken und Übergewinne reduzieren. Hinzu kommt als zweites Element eine stärkere Umverteilung der durch KI entstehenden Gewinne durch höhere Steuern und Transferzahlungen. Auch ein bedingungsloses Grundeinkommen wird als Antwort auf mögliche Verwerfungen am Arbeitsmarkt genannt. Das dritte Element folgt ebenfalls der klassischen Lehre der Ökonomik: bessere Regulierung, klar definierte Eigentumsrechte und staatliche Regeln sollen Marktmissbrauch verhindern und fairen Wettbewerb gewährleisten. Eine solche KI-Agenda wäre die falsche Antwort auf die existenziellen Gefahren durch KI. Das Kernproblem ist nicht zu wenig Wettbewerb, sondern zu viel Wettbewerb um immer mächtigere und autonomere Systeme. Die Gewinne werden privatisiert, die existenziellen Risiken sozialisiert. Genauso wie bei Atomwaffen wollen wir keinen privaten Wettlauf um Technologien, die die Existenz der Menschheit gefährden – etwa um KI-Modelle, die biologische Waffen entwickeln, hybride Kriege führen oder kritische Infrastruktur lahmlegen können.
Natürlich wollen wir den intellektuellen und wirtschaftlichen Wettbewerb um KI für Klimaschutz, Medizin oder Produktivität. Die Schwierigkeit liegt darin, zwischen dem guten und dem gefährlichen Nutzen der KI zu unterscheiden. Agentische Modelle sind prinzipiell zu beidem fähig. Wir sollten nicht einigen wenigen Unternehmern die Macht geben, für Milliarden Menschen darüber zu entscheiden, welche Risiken akzeptabel sind. Der fundamentale Interessenkonflikt bleibt bestehen, solange das private Unternehmen selbst über Entwicklungsgeschwindigkeit und Investitionen entscheidet. Auch die Regulierung privater Unternehmen durch den Staat ist dafür unzureichend. Niemand würde private Unternehmen Atomwaffen entwickeln lassen und anschließend darauf vertrauen, dass der Staat die Risiken schon richtig reguliert. Regulierung funktioniert zudem nur, wenn der Regulierer die Risiken beobachten und rechtzeitig eingreifen kann. Genau das ist bei KI nicht gewährleistet. Die Unternehmen kennen ihre Systeme besser als Behörden und entwickeln sie schneller, als Regeln angepasst werden können.
Wollen wir einigen wenigen Menschen so viel Macht geben?
Schon die globale Finanzkrise 2008/09 hat gezeigt, wie Gewinne privatisiert und Risiken sozialisiert werden können. Bei KI wären mögliche Schäden ungleich größer. Auch Haftung kann dieses Marktversagen nicht lösen. Kein KI-Unternehmen kann für Schäden haften, die seinen eigenen Wert um ein Vielfaches übersteigen.
Deshalb braucht eine Sicherheitsagenda öffentliche Kontrolle über Unternehmen, die die leistungsfähigsten Modelle entwickeln. Solange private Eigentümer allein über den Kurs entscheiden, bleibt der fundamentale Interessenkonflikt. Wollen wir einigen wenigen Menschen so viel Macht geben?
Es geht dabei nicht um die persönlichen Absichten dieser Männer. Kein privater Unternehmer sollte das Recht haben, Risiken einzugehen, deren mögliche Kosten die gesamte Menschheit trägt. Eigentum bedeutet Kontrolle. Wer die mächtigsten KI-Systeme besitzt, besitzt damit zunehmend auch die Macht zu entscheiden, welche Risiken mit ihnen eingegangen werden. Das heißt nicht, dass der Staat KI-Unternehmen selbst führen sollte. Staatseigentum kann Innovation bremsen. Modelle öffentlich-privater Partnerschaften aber sind eine kluge Antwort: ein hybrides Eigentums- und Kontrollmodell mit privater Innovation und Wettbewerb, aber gesellschaftlicher Kontrolle über kritische Inputs und Sicherheitsstandards.
Die ultimative Kontrolle muss bei öffentlichen Institutionen liegen. Öffentliche Kontrolle löst das technische Sicherheitsproblem nicht, entschärft aber den Interessenkonflikt und ermöglicht es hoffentlich, rechtzeitig die Notbremse zu ziehen. Diese Kontrolle muss international koordiniert werden. Sonst ersetzen wir den Wettlauf zwischen Unternehmen durch einen Wettlauf zwischen Staaten. Eine internationale Institution sollte Unternehmen und Rechenzentren überwachen, die neuesten Modelle trainieren, gemeinsame Standards setzen und bei gefährlichen Fähigkeiten eingreifen. Das dritte Element einer Sicherheitsagenda iststaatliche Kontrolle über kritische Ressourcen: Energie, Daten, Rechenzentren, Hochleistungschips und digitale Infrastruktur. Gerade weil KI-Modelle schwer zu kontrollieren sind, ist die Kontrolle dieser Ressourcen entscheidend. Modelle lassen sich replizieren, gigantische Rechenzentren weniger schnell.
Donald Trump setzt auf einen schnellen Ausbau amerikanischer KI und technologische Dominanz. Die entscheidende Frage lautet: Wo bleibt Europa? Wir diskutieren über KI vor allem als Wachstumschance und als Frage der Wettbewerbsfähigkeit. Aber dies ist zweitrangig, wenn die Technologie zugleich Risiken schafft, die wir nicht mehr kontrollieren können.
Es ist höchste Zeit zu handeln. Wir geben Hunderte Milliarden Euro aus, um Deutschland und Europa militärisch – meist noch auf traditionelle Art und Weise durch Panzer, Flugzeuge und Raketen – zu schützen. Gleichzeitig überlassen wir Entwicklung und Risiken einer fundamentalen Technologie, die auch für die militärische Sicherheit bereits essenziell ist, weitgehend wenigen privaten Unternehmen. Das ist ein Widerspruch, den wir uns nicht länger leisten können.
Themen: Digitalisierung , Unternehmen , Wettbewerb und Regulierung
