Anthropic首席执行官建议放缓人工智能开发

Anthropic的首席执行官Dario Amodei发表了一篇论文，呼吁人工智能公司放缓其模型的开发速度。

Amodei提出了三项措施，旨在不损害美国在人工智能领域领导地位或商业优势的前提下降低开发速度。第一项措施是向第三方评估人员提供员工级别的访问权限，以验证安全实践和事故报告，Anthropic已单方面承诺执行此项措施。第二项措施鼓励民主国家的公司协调并建立共同的安全标准。第三项措施则呼吁民主政府与专制政府之间进行协调。

Amodei解释称，放缓并不意味着停止模型训练或技术进步，而是确保公司有足够的时间来对齐并维护模型，并让第三方评估人员予以确认。他认为虽然自2023年起就考虑过延迟开发，但当时并不合理，因为那时的人工智能模型还不够聪明，无法在现实世界采取行动，也无法进行显著的欺骗、操纵、作弊或网络攻击。

此次建议是在前员工Jacob Coxon宣布辞职后提出的，Coxon警告称人工智能可能在10年内导致人类灭绝。Amodei此前曾与OpenAI的首席执行官Sam Altman等人签署关于降低人工智能灭绝风险的声明。他表示依然相信人工智能能显著提高人类生活质量，但前提是必须以正确的方式构建该技术。