KI · 20. Oktober 2026
Anthropic schlägt amerikanisches AI-Politik vor: ein Verbot bei Risiko von 50 Toten
In letzter Zeit wird aus verschiedenen Richtungen vor den weitreichenden Folgen gewarnt, die die schnelle Entwicklung von künstlicher Intelligenz mit sich bringen kann. Gleichzeitig wird vor allem gesprochen und nicht viel unternommen. Anthropic möchte dies nun ändern, indem es ein Sicherheitskonzept für Entscheidungsträger vorschlägt.
Berichten zufolge hat Anthropic der US-Regierung ein Konzept vorgelegt. Die Idee ist, dass die Regierung die Veröffentlichung eines KI-Modells stoppen kann, wenn ein Risiko besteht, das mehr als 1 Milliarde Dollar Schaden verursacht oder bei dem mindestens 50 Menschen sterben oder verletzt werden. Dies könnte beispielsweise in einem Szenario der Fall sein, in dem künstliche Intelligenz eine Biowaffe entwickelt oder völlig außerhalb der Kontrolle der Entwickler operiert. Auch Cyberangriffe sind in diesem Zusammenhang eingeschlossen.
Das Konzept ist nicht ganz neu: Es findet sich in ähnlicher Form im Advanced AI Framework, das bei Anthropic selbst gilt. Das Unternehmen hat dieses seit Anfang des Jahres eingeführt. Der Gesetzesentwurf gibt der Regierung die Möglichkeit, "gefährliche Einsätze der leistungsstärksten Modelle zu blockieren oder zu verhindern". Zudem verpflichtet er Entwickler, bahnbrechende Modelle zu testen und sehr transparent über die Ergebnisse dieser Tests zu sein.
Es sollen auch unabhängige Gutachter eingesetzt werden, die beim Handelsministerium bekannt sind und regelmäßig Bewertungen von verschiedenen KI-Modellen durchführen. Falls diese Personen feststellen, dass ein direktes Risiko besteht, müssen sie dies innerhalb von 72 Stunden dem Handelsministerium melden. Das Ministerium kann ein Modell nur gerichtlich stilllegen: Andere Behörden können dies nicht tun.
Die US-Regierung hat noch nicht reagiert.