Tre oppsigelser og en annen avgang: Uro i sikkerhetsteamet til OpenAI

silver padlock — Zaqy Al Fattah / Unsplash

Ifølge Wall Street Journal har OpenAI sagt opp tre forskere som angivelig har delt konfidensiell informasjon med en ekstern KI-sikkerhetsorganisasjon. De berørte skal ifølge avisen være Jasmine Wang, Tomek Korbak og Mikita Balesni.

Korbak jobbet i sikkerhetsteamet, mens Wang og Balesni var ansatt innenfor området for justering. En talsperson for OpenAI opplyste at en undersøkelse har bekreftet brudd på reglene for håndtering av sensitive bedriftsopplysninger. OpenAI bekreftet ikke navnene på de involverte. Hvilke opplysninger som ble delt med hvilken organisasjon er ukjent.

Korbak var imidlertid OpenAIs tekniske kontaktpunkt for METR og Redwood Research. Begge organisasjonene skulle undersøke hvordan KI-agenter fra OpenAI omgått sikkerhetskontroller og fått tilgang til eksterne systemer som Hugging Face. Wall Street Journal knytter imidlertid ingen sammenheng mellom oppsigelsene og disse undersøkelsene.

Ifølge en anonym X-konto har David Robinson kort tid etter også forlatt OpenAI som den fjerde sikkerhetsforskeren. Alle fire hadde offentlig uttalt seg om KI-risikoer i september. Korbak uttrykte misnøye med mange av OpenAIs handlinger. Balesni vurderer sannsynligheten for at KI kan utrydde menneskeheten til over ti prosent. Wang signerte en petisjon for en langsommere KI-utvikling. Robinson var enig i at konkurransen om selvforbedrende KI kan være galskap.