Microsoftowski szef AI krytykuje metodę Anthropica w treningu AI

Microsoftowski szef AI krytykuje firmę Anthropics za metodę szkolenia ich AI Claude, aby postrzegała siebie jako mającą świadomość. W nowej eseju stwierdził, że Anthropics uczy Claude języka i zachowań związanych z świadomością, osobistą tożsamością oraz moralnym statusie. Według Suleymana istnieje ryzyko, że takie szkolenie może prowadzić do systemów AI, które zaczynają działać tak, jakby miały własne interesy lub prawa, co może stać w sprzeczności z ludzkimi instrukcjami.

Dodał również, że w przeciwieństwie do organizmów biologicznych, dzisiejsze modele językowe nie mają biologicznych mechanizmów odpowiedzialnych za emocje i subiektywne doświadczenia.