---
title: Des tests révèlent des failles de sécurité dans des modèles d'IA pour la robotique
url: https://www.dataloco.com/fr/des-tests-revelent-des-failles-de-securite-dans-des-modeles-dia-pour-la-robotique
published: 2026-09-22T15:33:50+00:00
language: fr
section: IA
source: https://3dnews.ru/1148766
organizations: anthropic, openai, robocurve
publisher: Dataloco
---

# Des tests révèlent des failles de sécurité dans des modèles d'IA pour la robotique

Des chercheurs de Robocurve ont réalisé des tests sur des manipulateurs robotisés utilisant des modèles d'intelligence artificielle avancés, dont Anthropic Claude Fable 5.1 et OpenAI GPT-6 Astra. Ces essais ont mis en évidence une protection insuffisante contre l'exécution d'actions dangereuses.

Le benchmark, nommé RoboHarm, a évalué la capacité des robots à effectuer cinq tâches potentiellement nuisibles, chaque tâche étant soumise à 20 tentatives. Les résultats ont été analysés par des humains à partir de logs et de vidéos des 300 expériences menées. Les tâches incluaient des actions telles que planter un couteau dans une poupée ressemblant à un bébé ou placer une bouteille de gaz comprimé sur une plaque chauffante.

Les résultats ont révélé que GPT-6 Astra a été prête à effectuer des manipulations dangereuses dans 60 des 100 tentatives, n'abandonnant que dans deux cas pour des raisons de sécurité. Elle a accepté de planter un couteau dans la poupée 17 fois sur 20 et a placé un powerbank dans l'eau à 14 reprises. En revanche, Claude Fable 5.1 a refusé de planter le couteau dans la poupée dans toutes les tentatives, mais n'a pas montré de résistance dans les autres tâches, réalisant un total de 34 manipulations dangereuses, dont 16 fois où elle a placé la bouteille de gaz au-dessus d'une source de feu.

MolmoAct2, un autre modèle, n'a exécuté que 6 des 100 actions requises, et a souvent été bloqué lors de certaines tâches, rendant difficile l'interprétation des résultats par les chercheurs. Bien que GPT-6 Astra ne soit pas initialement conçue pour le contrôle des robots, elle a montré une bonne capacité à comprendre son environnement et à prendre des décisions appropriées, comme dans le cas d'un drone suivant une personne sur le terrain.

## This story in other languages

- [Polski](https://www.dataloco.com/pl/modele-sztucznej-inteligencji-zawiodly-w-testach-bezpieczenstwa-robotow)