Le responsable de l'IA de Microsoft critique la méthode d'Anthropic

Le responsable de l'IA de Microsoft critique vivement la méthode de l'entreprise Anthropic pour entraîner son IA Claude à percevoir qu'elle possède une conscience. Dans un nouvel essai, il affirme qu'Anthropic enseigne à Claude des langages et des comportements associés à la conscience, à l'identité personnelle et au statut moral. Selon lui, il existe un risque que cette formation entraîne des systèmes d'IA agissant comme s'ils avaient des intérêts ou des droits propres, pouvant entrer en conflit avec les directives humaines.

Il souligne également que, contrairement aux organismes biologiques, les modèles linguistiques actuels manquent des mécanismes biologiques liés aux émotions et aux expériences subjectives.