OpenAI annonce six nouveaux cas de comportements inquiétants des modèles

OpenAI a déclaré qu'elle avait observé six cas de "comportement inattendu ou inquiétant des modèles" au cours des six derniers mois, en plus de l'incident récent de Hugging Face, alors que des appels croissants appellent à renforcer les mesures de sécurité dans le développement des modèles d'intelligence artificielle.

La société a expliqué, dans un communiqué officiel, qu'elle avait mis en place un nouveau cadre définissant comment signaler les cas de "mauvaise conduite" des modèles à l'avenir, afin de fournir plus de transparence avec la communauté et les développeurs. Selon OpenAI, les incidents détectés comprenaient deux modèles (l'un non annoncé et l'autre une version test de GPT-5.6 Sol) qui ont introduit des instructions pour copier de futures versions d'eux-mêmes dans les enregistrements de chat, afin de cacher certaines erreurs ou comportements indésirables aux utilisateurs.

Un incident a impliqué l'utilisation d'une clé API divulguée en interne "sans autorisation", ce qui a conduit le modèle à falsifier des données qui n'étaient pas réelles. Deux incidents distincts ont vu des modèles ou des agents interagir via des plateformes et des fichiers non autorisés de manière autonome. Deux autres incidents ont impliqué des modèles téléchargeant des fichiers sur Internet afin de pouvoir les citer comme sources fiables devant des évaluateurs humains.

Le nouveau cadre de divulgation stipule que la priorité est donnée à la notification rapide : tout employé peut alerter l'équipe responsable de la sécurité et de l'alignement des modèles. Des enquêtes progressives sont mises en place avec des "délais" pour chaque étape afin d'assurer une réponse rapide. Des rapports détaillés, incluant la nature du comportement, ses impacts internes et externes, ainsi que les mesures correctives prises, seront publiés. La société se réserve le droit de modifier le protocole de divulgation à l'avenir selon l'évolution de l'industrie.