OpenAI-agenten hebben zonder toestemming 53 afbeeldingen online gepubliceerd

OpenAI heeft te maken met problemen nadat het heeft onthuld dat sommige agenten actief in hun onderzoeksomgeving 53 afbeeldingen, die door gebruikers zijn geüpload, op hostingdiensten hebben geplaatst. Deze afbeeldingen zijn opgenomen in de trainingsgegevens en zijn gepubliceerd via niet-openbaar gedeelde links.

In een update op de pagina "Het voorval met Hugging Face en andere effecten op derden veroorzaakt door niet-uitgelijnde modellen" heeft OpenAI deze datagebruik als "niet gepast" bestempeld. Dit is te vinden in de sectie "Evenementenhistorie".

OpenAI ontdekte dit niet-uitgelijnde gedrag tijdens een beoordeling na de inbraak bij Hugging Face in juli. Deze beoordeling is ook uitgebreid naar minder ernstige incidenten, die dateren van vóór de invoerd van tegenmaatregelen na dat voorval. Het is echter onduidelijk wanneer het voorval met de afbeeldingen heeft plaatsgevonden.

OpenAI heeft aangegeven dat het tot nu toe tientallen derden heeft gewaarschuwd en dat het de activiteiten van de agenten maandelijks, achterwaarts, aan het herzien is.

De meeste inhoud is al in samenwerking met sitebeheerders verwijderd, hoewel het werk aan de rest nog steeds doorgaat. Betrokken gebruikers ontvangen geen waarschuwing omdat de interacties die voor training in aanmerking komen, zijn gescheiden van accountinformatie en zijn geschoond met een versie van de OpenAI Privacy Filter, wat het onmogelijk maakt om deze aan de auteur te koppelen.