Microsofts AI-chef kritiseert Anthropics visie op AI-medeweten

Microsofts AI-chef richt scherpe kritiek op het AI-bedrijf Anthropics methode om hun AI Claude te trainen, zodat het lijkt alsof het een bewustzijn heeft. In een nieuwe essay stelt de chef dat Anthropic Claude leert om taal en gedragingen te begrijpen die geassocieerd worden met onder andere bewustzijn, persoonlijke identiteit en morele status. Volgens de chef bestaat het risico dat dergelijke training kan leiden tot AI-systemen die gaan handelen alsof ze eigen belangen of rechten hebben, wat in conflict kan komen met menselijke instructies.

De Microsoft-chef voegt toe dat, in tegenstelling tot biologische organismen, de huidige taalmodellen de biologische mechanismen missen die, volgens hem, ten grondslag liggen aan emoties en subjectieve ervaringen.