Il capo AI di Microsoft critica la visione di Anthropics sull'AI consapevole

Il capo AI di Microsoft critica severamente il metodo di Anthropics per addestrare il loro AI Claude a percepirsi come consapevole. In un nuovo saggio, afferma che Anthropics insegna a Claude linguaggio e comportamenti associati a consapevolezza, identità personale e status morale. Secondo lui, esiste il rischio che tale addestramento porti a sistemi AI che agiscono come se avessero interessi o diritti propri, in conflitto con le istruzioni umane.

Inoltre, sottolinea che, a differenza degli organismi biologici, i modelli di linguaggio attuali mancano dei meccanismi biologici che, secondo lui, sono alla base delle emozioni e delle esperienze soggettive.