Chatbots zijn spiegels van trainingsgegevens en geen bewuste wezens

three LED lights — Jarvik Joshi / Unsplash

Drie prominente onderzoekers naar bewustzijn stellen dat huidige systemen voor kunstmatige intelligentie niet bewust zijn en dat zij dit waarschijnlijk ook niet zullen worden op digitale hardware van silicium.

De onderzoekers betwisten de aanname dat de juiste berekeningen voldoende zijn voor het ontstaan van bewustzijn. Zij maken een duidelijk onderscheid tussen intelligentie, wat zij definiëren als het uitvoeren van functies, en bewustzijn, wat zij beschrijven als iets dat aanvoelt als iets. Als voorbeeld noemen zij het menselijke cerebellum, dat zeer intelligent functioneert bij het plannen van bewegingen zonder dat dit bewust gebeurt.

Volgens de auteurs worden intelligentie en bewustzijn vaak verward door psychologische tendensen waarbij mensen menselijke eigenschappen toeschrijven aan andere zaken. Taalmodellen worden getraind op enorme hoeveelheden menselijke teksten over gedachten en gevoelens, waardoor ze fungeren als spiegels van het collectieve gedigitaliseerde verleden. Ter illustratie noemen zij AlphaFold van Google DeepMind, een krachtig neuraal netwerk dat bijna niemand als bewust beschouwt omdat het proteïnestructuren voorspelt in plaats van te communiceren.

De onderzoekers bestempelen het computationele functionalisme, de visie dat bewustzijn enkel afhangt van de manier van informatieverwerking en niet van het medium, als fataal foutief. Deze visie is wijdverspreid in de techsector en onder sommige wetenschappers.

In een apart rapport van Patrick Butlin, Robert Long en anderen, waaronder Yoshua Bengio, werd een lijst met 14 kenmerken opgesteld om bewustzijn te toetsen. Hoewel geen enkel huidig systeem, inclusief GPT-4, een sterke kandidaat is voor bewustzijn, zagen zij geen duidelijke technische hindernissen om in de toekomst systemen te bouwen die meer van deze kenmerken vervullen.

Daarnaast verwezen de onderzoekers naar een studie van Anthropic over Claude. Het bedrijf rapporteerde interne verwerkingspatronen die lijken op bewust toegankelijke informatieverwerking, maar zag dit niet als een bewijs voor subjectieve ervaring.