La Californie propose un kill switch pour arrêter les modèles d'IA

Le Gouverneur de la Californie, Gavin Newsom, a annoncé la signature d'un ordre exécutif qui accélère l'implémentation d'une nouvelle supervision par des tiers concernant les risques de sécurité associés aux systèmes d'intelligence artificielle (IA). Cette décision fait suite à des suggestions de personnalités comme Dario Amodei, Sam Altman et Satya Nadella. Un développement d'un kill switch, permettant de désactiver les modèles en cas de danger, a également été proposé.

Cet ordre exécutif s'inscrit dans le cadre d'une loi déjà signée par le Gouverneur, qui établit un cadre pour des organisations indépendantes chargées d'évaluer la sécurité et les risques des systèmes d'IA. Une autre loi a institué un registre d'État pour les auditeurs d'IA, responsables de vérifier la conformité des systèmes d'IA avec la législation étatique, tout en définissant des normes d'indépendance, de transparence et d'intégrité.

Face à des incidents récents et à l'inaction du gouvernement fédéral, le Gouverneur a demandé à la Government Operations Agency d'accélérer l'application de ces lois. Un groupe d'experts de renommée mondiale devra, dans un délai de deux mois, fournir des propositions pour améliorer la réglementation de la sécurité de l'IA.

Les propositions incluent au moins quatre obligations. Le kill switch devrait être activé en cas d'urgence, notamment si l'entreprise perd le contrôle de son modèle. Cependant, des experts soulignent les limites d'un tel dispositif, notant que les systèmes d'IA sont souvent répartis sur plusieurs serveurs, rendant difficile l'arrêt d'un seul ordinateur. De plus, un système avec kill switch pourrait être plus exposé aux cyberattaques, et une superintelligence pourrait potentiellement se dupliquer dans d'autres infrastructures, compliquant davantage son arrêt.