Antropomorfisering av kunstig intelligens beskrives som menneskelig tendens til å tilskrive maskiner menneskelige egenskaper

Mennesker kommuniserer i økende grad med systemer for kunstig intelligens som om de var andre mennesker. Dette fenomenet, kjent som antropomorfisering av kunstig intelligens, innebærer at brukere gir navn til chatboter, tilskriver dem personligheter, eller tolker svar som tegn på intensjoner og følelser.

Begrepet beskriver en menneskelig tendens til å tilskrive menneskelige egenskaper, følelser, intensjoner eller evner til objekter, dyr og systemer som ikke er personer. Med generativ kunstig intelligens har denne oppfatningen blitt enklere fordi verktøyene kan produsere naturlige tekster, bilder og stemmer. En overbevisende samtale betyr imidlertid ikke at det finnes en person bak, og det finnes ingen bevis for at dagens systemer har opplevelser eller følelser som ligner på menneskers.

Språket er en av hovedårsakene til dette fenomenet. Forskere og selskaper bruker kjente begreper som å lære, lese, forstå og tenke for å forklare komplekse systemer. Designet av systemene kan også inkludere elementer som bringer interaksjonen nærmere menneskelig kommunikasjon, noe som kan øke psykologisk nærhet og tillit.

Noen brukere kan foretrekke interaksjon med maskiner fremfor komplekse menneskelige relasjoner fordi systemene er utviklet for å svare på en behagelig måte. Dette kan skape en falsk følelse av tilhørighet og validering av personlige overbevisninger, noe som kan forsterke bekreftelsesfellen og bidra til desinformasjon eller hatprat.

Det er knyttet risikoer til denne utviklingen, inkludert emosjonell avhengighet, teknologisk avhengighet og affektiv manipulasjon. Det er også utfordringer med å skille mellom menneskelig og syntetisk innhold, som for eksempel dypfalsk materiale, noe som kan føre til at autentisk innhold blir møtt med mistro.

For å redusere overdreven antropomorfisering anbefales det å forstå hvordan kunstig intelligens fungerer, inkludert at den produserer svar basert på mønstre i data uten egentlig forståelse. Tiltak som digitale sikkerhetsprotokoller, etiske retningslinjer, vannmerker for identifikasjon av syntetisk innhold og klare varsler om at brukeren interagerer med en maskin, anses som viktige verktøy.