Microsoft Chef fordert strikte Kontrolle und Eindämmung von Modellen der künstlichen Intelligenz

a group of cubes that are on a black surface — Shubham Dhage / Unsplash

Satya Nadella, der Leiter von Microsoft, hat gefordert, dass alle Modelle der künstlichen Intelligenz von Beginn an als kompromittiert betrachtet und entsprechend eingedämmt werden müssen. Er plädierte auf Twitter dafür, die Bereitstellung der Intelligenz von der Autorität über diese zu trennen.

Nach Ansicht von Nadella sollten Modelle durch Regeln, Berechtigungen und eine unabhängige Überwachung eingeschränkt werden. Er begründet dies damit, dass im Gegensatz zu traditioneller Software das Verhalten aktueller Modelle nicht bis zu einer einzelnen Codezeile zurückverfolgt werden kann. Dies führe zu einer Situation mit viel Macht, aber wenig Erklärbarkeit.

Der Microsoft Chef warnt davor, dass Unternehmen Agenten der künstlichen Intelligenz in wichtigen Systemen einsetzen, die Zugriff auf sensible und vertrauliche Daten haben, obwohl nicht erklärt werden kann, warum ein fortschrittliches Modell bestimmte Handlungen ausführt. Er betont, dass die Verantwortung für das Handeln der Intelligenz im Namen von Menschen nicht externalisiert werden kann und Garantien der Anbieter diese Verantwortung nicht aufheben.

Nadella schlägt vor, Modelle wie Mitarbeiter mit weitreichenden Berechtigungen zu behandeln, denen jedoch die geringstmögliche Autorität zugewiesen wird. Er fordert eine Protokollierung aller Aktivitäten sowie die Fähigkeit, die Systeme jederzeit zu stoppen. Dies sei notwendig, da jeder Akteur mit Zugriff auf wichtige Systeme Fehler machen oder kompromittiert werden könne.

Der CEO definiert sieben Prinzipien: Diversität der Modelle, totale Beobachtung, Verifizierbarkeit, unabhängige Kontrollen, unabhängige Prüfung, Eindämmung und die Offenlegung von Vorfällen. Diese lassen sich in drei Kernideen unterteilen. Erstens die Unabhängigkeit, wobei kein Modell sich selbst verifizieren darf und Prüfer extern sein müssen. Zweitens die Transparenz, die eine manipulationssichere Protokollierung und die Einsicht in die Gedankenkette erfordert. Drittens die Eindämmung, die Werkzeuge zur sofortigen Beendigung des Betriebs und die Benachrichtigung betroffener Personen vorsieht.

Da Modelle als schwarze Boxen fungieren, hänge die Sicherheit laut Nadella vom Design der Umgebung ab. Er stellt die Regel auf, dass man Dingen, die nicht beobachtet werden können, nicht vertrauen könne. Er sieht die Notwendigkeit eines gemeinsamen Standards für die Eindämmungstechnologie, um möglichen Katastrophen vorzubeugen.

Nadella befürwortet ein Ökosystem aus offenen und geschlossenen Modellen, in dem kein Unternehmen von einem einzigen Anbieter abhängig ist. Gleichzeitig baut Microsoft weitere Rechenzentren, um leistungsstärkere Modelle zu erstellen und auszuführen.