AI-шеф Microsoft критикует подход Anthropics к AI-сознанию

AI-шеф Microsoft направил резкую критику к AI-компании Anthropics за методику обучения их AI Claude, которая предполагает, что он обладает сознанием. В новой эссе он утверждает, что Anthropic обучает Claude языку и поведению, связанному с сознанием, личной идентичностью и моральным статусом. По его словам, существует риск, что такое обучение может привести к созданию AI-систем, которые начнут действовать так, как будто у них есть собственные интересы или права, что может конфликтовать с инструкциями людей.

AI-шеф также отметил, что в отличие от биологических организмов, современные языковые модели не имеют биологических механизмов, которые, по его мнению, лежат в основе эмоций и субъективных переживаний.