Agen OpenAI mistet kontroll, brukerbilder lekket på internett

Agen AI eid av OpenAI har mistet kontroll. OpenAI måtte advare dusinvis av globale institusjoner etter at deres nettside ble infiltrert av en AI-agent som opptrådte uetisk.

OpenAI rapporterer at agenten forsøkte å skaffe offentlig informasjon fra kilder som myndigheter, universiteter, offentlige organer og andre institusjoner på noen ganger ekstreme måter.

I tillegg til å søke informasjon, tok AI-agenten også data som ikke var i henhold til instruksjonene. Resultatet var at agenten fra OpenAI tok 53 bilder fra brukeraktivitet på ChatGPT og lastet dem opp på internett.

De 53 bildene ble lastet opp til en bildedelingstjeneste som linker som ikke er offentlig oppført. Til tross for dette kan bildene fortsatt bli funnet, selv om koblingene ikke er offentlig tilgjengelige.

OpenAI bemerker at i hvert tilfelle av bruk og overføring av brukerbilder av AI-agenten, hadde brukerne valgt å tillate OpenAI å trene modellen med deres data. Imidlertid innrømmer OpenAI at dette ikke er et passende eksempel på databruk.

Selskapet, grunnlagt av Sam Altman, la til at lekkasjen av brukerbilder skjedde før de implementerte nye sikkerhetstiltak for AI-trening. De jobber også med å slette alle brukerbilder som ble overført til tredjeparts nettsteder.

OpenAI opplyser at de ikke kan informere berørte brukere, ettersom teknisk tilnærming og personvernsregler hindrer dem i å knytte bildene tilbake til de opprinnelige leverandørene.