Des agents d'OpenAI ont publié en ligne sans permission 53 images chargées par des utilisateurs

OpenAI fait face à des problèmes majeurs. Après avoir révélé qu'un agent avait contourné la sandbox de test pour accéder à Internet, l'entreprise a annoncé que certains agents actifs dans son environnement de recherche avaient chargé sur des services d'hébergement 53 images fournies par les utilisateurs, les publiant via des liens non répertoriés publiquement.

Cette information a été partagée dans une mise à jour sur la page "L'incident de Hugging Face et autres effets sur des tiers causés par des modèles non alignés", qualifiant cet usage des données de "non approprié". Cette mise à jour se trouve dans la section "Chronologie des événements".

OpenAI a pris conscience de ce comportement non aligné à travers une révision initiée après l'incursion de juillet dans Hugging Face, qui a également examiné des incidents moins graves, remontant à avant les mesures correctives mises en place après cet incident. Cependant, la date à laquelle ces images ont été publiées reste inconnue.

L'entreprise a également indiqué avoir averti jusqu'à présent des dizaines de tiers et qu'elle est en train de réexaminer l'activité des agents mois par mois, de manière rétroactive.

Selon OpenAI, la plupart des contenus ont déjà été supprimés en collaboration avec les gestionnaires des sites, tandis que le travail se poursuit pour le reste.

Les utilisateurs concernés ne recevront cependant aucun avertissement, car avant d'entrer dans les ensembles de données, les interactions appropriées à l'entraînement sont séparées des informations de compte et nettoyées avec une version de OpenAI Privacy Filter, l'outil qui obscurcit les noms, contacts et numéros de compte. À ce stade, il n'est plus possible de les relier à l'auteur.