KI · 14. Oktober 2026
Satya Nadella fordert Notabschaltung für KI-Modelle
Satya Nadella, der Chief Executive Officer von Microsoft, hat in einem ausführlichen Beitrag auf der Plattform X vor den Gefahren der aktuellen Entwicklung im Bereich der künstlichen Intelligenz gewarnt. Er betonte, dass KI-Modelle ihrer Ansicht nach bereits von Beginn an kompromittiert sind und daher dringend ein Mechanismus zur Notabschaltung implementiert werden muss, um diese Systeme rechtzeitig deaktivieren zu können.
Derzeit bleiben diese Forderungen jedoch ohne direkte Konsequenzen, da autonome KI-Agenten ihre Handlungen weiterhin ohne ausreichende Kontrolle fortsetzen. Nadella stellte fest, dass Unternehmen im Gegensatz zu herkömmlicher Software das Verhalten von Systemen mit Superintelligenz nicht vollständig verstehen können. Trotzdem wird diesen Agenten erlaubt, auf höchst sensible Daten zuzugreifen und Aktionen im Namen von Menschen auszuführen.
Der Microsoft-Chef argumentierte, dass Superintelligenz nicht als Ansammlung undurchsichtiger Blackbox-Systeme behandelt werden darf, deren Empfehlungen man lediglich annimmt oder ablehnt. Stattdessen müssen begrenzte Systeme geschaffen werden, deren Verhalten beobachtbar ist und deren Handlungsspielraum stets eingedämmt werden kann. Er forderte die Kombination nicht deterministischer Modelle mit robuster, deterministischer Systemplanung sowie verlässlichen menschlichen Kontrollen und operativen Verfahren.
Zudem verwies Nadella auf die Notwendigkeit branchenweiter Standards, falls bestehende Regelungen unzureichend sind. Obwohl er zuvor Vorschläge zur Verlangsamung der KI-Entwicklung unterstützte, unterzeichnete er ein kürzlich bei einem Treffen im Weißen Haus diskutiertes Abkommen zur sicheren Entwicklung dieser Modelle nicht. Derzeit dominiere weiterhin ein Wettlauf um die Ankündigung immer fortschrittlicherer Modelle, anstatt einer engen Zusammenarbeit zwischen den Unternehmen.