Microsoft AI presenterer utkast til etisk kodeks for fremtidige kunstige intelligensmodeller

Microsoft AI har publisert et utkast til en kodeks for fremtidige kunstige intelligensmodeller. Dokumentet legger fast at menneskelig kontroll er uforhandbar og setter grenser for bruken av systemene. Utgaven er en del av en bredere industriell debatt om sikkerhet og utviklingstempo.

Kodeksen, som heter Humanist AI Code of Conduct, er utformet for å fungere som en intern konstitusjon for modellene som utvikles internt. Den er basert på prinsippet om at mennesker alltid skal prioriteres fremfor kunstig intelligens. Systemene må alltid forbli under betydelig menneskelig kontroll. Hvis en modell ikke kan styres på denne måten, bør den ikke utvikles, selv om det betyr at man må ofre deler av dens autonomi eller kapasitet.

Dokumentet inneholder spesifikke forbud og restriksjoner. Modellene må ikke hjelpe brukere med å produsere våpen eller skaffe farlige stoffer. Det er også satt grenser for produksjon av visse typer voldelig eller seksuelt eksplisitt innhold. En modell må ikke motsette seg korreksjoner eller stenging som bestemmes av mennesker. Kodeksen adresserer også spørsmålet om bevissthet. Systemene må ikke fremstille seg selv som bevisste vesener, og de må ikke behandles som subjekter med rettigheter.

Utkastet ble forberedt over en periode på fem til seks måneder, ifølge Mustafa Suleyman, administrerende direktør for divisjonen. Han uttalte dette til Reuters den 14. september. Microsoft har åpnet dokumentet for en offentlig konsultasjon som varer i seks uker. En ny versjon er planlagt til å bli publisert innen utgangen av 2026. Denne reviderte utgaven skal styre utviklingen av modellene fra 2027. Kodeksen gjelder ikke ennå for trening av eksisterende modeller, men definerer rammevilkårene for fremtidige systemer som kan bruke eksterne verktøy, kjøre kode og handle gjennom datamaskiner.

Publiseringen skjer samtidig som ledere i bransjen diskuterer om utviklingstempoet har overtatt sikkerhetsforanstaltningene. Sam Altman, administrerende direktør i OpenAI, har bedt om felles føderale regler for avanserte modeller. Han har anerkjent at utviklingen bør gå saktere enn det som er teknisk mulig. Dario Amodei, toppsjefen i Anthropic, har fremmet en lignende forespørsel. Debatten har nå en direkte økonomisk dimensjon. Å senke tempoet på treningssykluser, underkaste modeller uavhengige tester eller utsette lanseringer øker kostnadene og tidsbruken. Dette skjer mens Microsoft, OpenAI, Anthropic, Google og xAI investerer ti milliarder av dollar i beregningskapasitet, datasentre og forskning. Sikkerhet blir dermed en industriell variabel som påvirker konkurransen i tillegg til reguleringen.

Microsofts tilnærming er i tråd med strategien som ble presentert i november 2025. Da definerte selskapet målet som å utvikle en humanistisk superintelligens. Dette innebærer svært kraftige systemer som er designet for å tjene mennesker og organisasjoner, og som forblir underordnede menneskelige beslutninger. Selskapet bygger på eksisterende prinsipper for ansvarlig kunstig intelligens, som omfatter rettferdighet, pålitelighet, sikkerhet, personvern, inkludering, gjennomsiktighet og ansvar. Den nye kodeksen gjør temaet om kontroll mer konkret når kunstig intelligens har autonome operative evner.