Wir überlassen die gefährlichste Technologie der Welt privaten Laboren
Als die US-Regierung 1941 das Manhattan-Project zur Entwicklung von Atomwaffen startete, wäre es ihr nicht in den Sinn gekommen, diese Aufgabe privaten Laboren zu übertragen. Ganz anders heute: Die Entwicklung von KI-Modellen zur Superintelligenz liegt in den Händen bislang kaum gesondert regulierter privater US‑Labore. Wenn es nach US-Präsident Donald Trump geht, soll das so bleiben.
Die einzige „Leitplanke“, die es brauche, sei ein starker und kluger Präsident mit hohem IQ. Trump sprach von einer „kranken Verschwörung“ gegen KI und Datenzentren. Der US-Präsident stellt sich damit gegen eine klare Mehrheit im Land. Die Debatte hat in den letzten Wochen einen Kipppunkt erreicht: KI-Skepsis ist Mainstream geworden.
Sie speist sich aus verschiedenen Quellen. Man muss kein Untergangsprophet sein und an die Gefahr der Auslöschung der Menschheit durch superintelligente Modelle glauben, um KI-Skeptiker zu sein. Doch dass führende Vertreter der KI-Labore die Wahrscheinlichkeit auf zehn Prozent oder höher schätzen, stärkt nicht gerade das öffentliche Vertrauen. Schon jetzt ist der Kontrollverlust real.
Man muss nur auf die sich häufenden Vorfälle schauen, in denen KI‑Agenten aus ihrer Kontrollumgebung ausbrechen und sich koordinieren, um Hackerangriffe auszuführen. Der Anthropic-CEO Dario Amodei hält es für möglich, dass bereits in den nächsten sechs bis zwölf Monaten ein Schwarm von KI-Agenten das Internet mit einem Botnetz lahmlegen und Hunderte Milliarden Euro Schaden anrichten könnte.
Der Brookings-Forscher Kyle Chan zieht den Vergleich zu biologischen Waffen: „Wir betreiben im Grunde Gain-of-Function-Forschung in Laboren, die voller Lücken sind. Wir verstehen nicht, wie das alles funktioniert, und treiben trotzdem immer weiter an die Grenzen.“
Eine Mehrheit der Bürger gibt auf die Frage „Führt KI uns in eine bessere Zukunft?“ eine negative Antwort. Neben Sorgen um die Beherrschbarkeit spielen dabei generelles Misstrauen gegenüber der Tech-Elite und Sorgen um Umwälzungen von Arbeitsmarkt, Bildung und menschlicher Existenz eine Rolle. Opposition gegen KI wird ein bestimmender Faktor im nächsten Präsidentschaftswahlkampf sein.
Der Weg zu effektiver Regulierung ist weit
Doch so klar der Stimmungsumschwung ist, ist der Weg zu effektiver Regulierung weit, solange sich Trump mit aller Macht dagegenstellt und auch nicht anweist, bestehende US-Gesetze effektiv durchzusetzen. Dazu gehören Produkthaftung und Konsumentenschutz, unfaire Wettbewerbspraktiken sowie Risiken und Interessenkonflikte durch hochkonzentrierte und verschlungene Investorenbeziehungen.
Dass Anthropic und andere führende Firmen sich jetzt offen zeigen, Evaluatoren aus Drittorganisationen in ihren Laboren zu platzieren mit ähnlichen Zugangsrechten wie Angestellte, ist ein kleiner Schritt nach vorn. Diese können Sicherheitspraktiken überprüfen und Zwischenfälle transparent machen.
Doch sorgen externe Beobachter in einem Labor, das gefährliche Experimente unter unsicheren Bedingungen durchführt, nicht automatisch für Sicherheit. Wenn eigene Mitarbeiter Zwischenfälle lange Zeit übersehen, werden auch Externe diese nicht stoppen.
Auch sollte man die Motivation der führenden Labore kritisch hinterfragen. Deren Geschäftsmodell mit extrem hohen Kapitalkosten gerät durch preiswerte offene Modelle immer stärker unter Druck. Der Anreiz ist groß, durch einen Börsengang, der viele Mitarbeiter zu Multi-Millionären machen würde, schnell den eigenen Profit zu maximieren. Um deutlich zu machen, dass es ihm wirklich primär um Sicherheit geht, sollte Anthropic-Chef Amodei den Börsengang verschieben.
Der Wettbewerb mit China kommt erschwerend hinzu. Palantir-Gründer Alex Karp sprach sich jüngst dafür aus, die KI-Entwicklung komplett zu pausieren, wenn es nicht den Wettlauf mit China gäbe. OpenAI‑Chef Sam Altman versucht, Trump und Xi, die sich nächste Woche zum Gipfel treffen, mit der Aussicht auf den Friedensnobelpreis zu locken, um sich auf gemeinsame Sicherheitsstandards und eine Entschleunigung zu verständigen. Doch das Misstrauen Pekings und der Wille des Aufholens gegenüber den USA scheinen aktuell noch größer als die Sorgen um die KI‑Sicherheit.
Gleichzeitig gibt es viele ungelöste Fragen bei der Kontrolle der Umsetzung einer solchen Vereinbarung. Deutschland und Europa haben jeden Grund, sich für eine globale Kontrolle der KI-Entwicklung einzusetzen und Unterstützung bei der Umsetzung anzubieten.
Die diese Woche unter Leitung von Monika Schnitzer und dem Thinktank KIRA Center veröffentlichte „Transformative AI Strategy for Europe“ betont richtigerweise, dass die EU nicht nur den eigenen AI Act klug umsetzen und weiterentwickeln muss, sondern auch zum Führer für Vertrauens- und Prüftechnologie (Assurance Technology) werden sollte. Diese könnte zukünftig auch für die Umsetzung internationaler Abkommen zentral sein.
Gleichzeitig macht die Strategie deutlich, wie dringend Deutschland und Europa sich härten müssen gegen KI‑Risiken, von Biosicherheit bis Cyberangriffen. Der sehr konventionell ausgeführte Hackerangriff gegen die Berliner Verwaltung macht deutlich, wie dilettantisch geschützt kritische Infrastruktur oft ist. Man kann sich ausmalen, wie verwundbar Deutschland gegen KI-gestützte Angriffswellen ist. Politikern wie Unternehmensführern sollte dies schlaflose Nächte bereiten.
Dieser Kommentar wurde erstmals am 16. September 2026 im Handelsblatt veröffentlicht.
