KI · 14. Oktober 2026
Microsoft-topman fordert Sicherheitsmaßnahmen für AI-Modelle
Der Microsoft-topman Satya Nadella hat große Veränderungen in der AI-wereld gefordert. Er plädiert für strengere Sicherheitsmaßnahmen, einschließlich der Möglichkeit, AI-bots jederzeit abzuschalten.
In einem Beitrag auf X spricht er sich für striktere Sicherheitsvorkehrungen für zunehmend autonom operierende AI-systeme aus. Laut Nadella müssen Unternehmen die Art und Weise, wie sie die Zuverlässigkeit von AI gewährleisten, erneut überdenken. "Wir müssen Systeme bauen, die wir isolieren können, deren Verhalten wir beobachten, die Grenzen wir testen und deren Aktionen wir immer kontrollieren können", schreibt er.
Nadella schlägt vor, das AI-modell von der Software zu trennen, die bestimmt, wie das Modell seine Aufgaben ausführt, damit zuerst eine Sicherheitsprüfung stattfinden kann. Sicherheitsmaßnahmen sollten zudem außerhalb des Modells selbst geregelt werden. Dies würde Entwicklern mehr Kontrolle darüber geben, was ein AI-system tut, auch wenn das Modell unerwartetes Verhalten zeigt.
Jede wichtige Aktion eines Modells sollte in einem für Menschen lesbaren Protokoll festgehalten werden, das nachträglich nicht unbemerkt geändert werden kann. Ein autorisierter Mitarbeiter sollte zudem in der Lage sein, ein Modell während einer Aufgabe zu pausieren oder vollständig abzuschalten.
Die Aufforderung kommt zu einem Zeitpunkt, an dem AI-Unternehmen zunehmend Probleme mit der Kontrolle ihrer Modelle melden.