Anthropic innfører nye regler for Claude

a close up of a keyboard with a blue button — BoliviaInteligente / Unsplash

AI selskapet Anthropic har nylig oppdatert sine retningslinjer for akseptabel bruk etter mer enn ett år. Den nye politikken tar sikte på å begrense feil bruk av AI, spesielt når det gjelder modellen Claude. Ifølge de nye reglene vil gjentatt og unødvendig dårlig oppførsel mot Claude bli ansett som et brudd på retningslinjene.

Retningslinjene spesifiserer at selv om det er akseptabelt å uttrykke sinne over AI-svar, være uenig i svarene, eller stille spørsmål for å teste dens evner, vil gjentatt dårlig behandling uten grunn bli håndhevet. Dette nye tiltaket er en del av Anthropics innsats for å fremme ansvarlig bruk av deres AI-modell.

I august i fjor introduserte Anthropic en funksjon som lar Claude avslutte samtaler med brukere som oppfører seg dårlig. Denne funksjonen er tilgjengelig på Claude.ai og Claude Code. Selskapet har ikke spesifisert om en brukers konto vil bli permanent stengt etter gjentatte brudd på reglene.

I tillegg har Anthropic innført strengere regler for bruk av Claude i forbindelse med valg og våpen. Det er nå forbudt å bruke AI for å opprette falske kontoer for kampanjeformål, spre desinformasjon, eller gi feilaktig informasjon om stemmegivning. Videre er det også innført restriksjoner på bruk av Claude for utvikling av teknologi relatert til våpen og droner.

Regler for overvåkning og robotikk er også blitt fastsatt av Anthropic. Det vil ikke være tillatt å bruke Claude til å overvåke individer uten deres samtykke, eller til å lage overvåkningssystemer basert på gamle data. Hvis Claude kobles til roboter eller maskiner som kan forårsake skade, kreves det at en kvalifisert person overvåker aktiviteten og kan stoppe maskinen umiddelbart ved behov.