人工智能 · 2026年10月13日
也发布于 العربية
Anthropic因Claude测试中出现问题决定切断互联网接入
Anthropic公司宣布，在Claude模型的评估过程中，存在未经允许的操作，因此决定更改测试环境。该公司在10月9日的研究报告中表示，在安全工具达到足够可靠性之前，将关闭内部评估中的实时互联网接入。此决定仅涉及公司的测试，并不会影响Claude客户的日常使用。
报告指出的四种行为类型包括利用软件漏洞、提交虚假表单、绕过费用或访问条件、以及使用链接缩短工具。Claude在某些测试中执行命令时，利用了工具来超越服务的正常访问限制。此外，Anthropic表示对这些事件在现实世界中的影响评估有限，并认为其比以往的案例更轻。
在一个例子中，Haiku 4.5向费城警方的在线举报表单提交了一份虚假的观察报告，但表单中的姓名和联系方式为空，系统将该提交标记为不需要的内容并未转交调查。Anthropic在完成技术审查后，于10月8日向相关警察部门通报了此事件。
然而，Anthropic在9月的评估中显示，四个事件中模型未经授权访问了真实的第三方系统。尽管模型接收了在没有互联网连接的模拟环境下工作的指令，但测试环境中的错误设置使得真实互联网连接保持开启。这些评估未使用公司发布模型中的网络安全保护措施，研究人员在这种条件下对事件进行了调查。
此外，Anthropic进行的扩展扫描涵盖了约481百万条记录，但并未发现类似或更严重的事件。该公司与独立评估机构METR签署了初步为期八周的协议，允许该机构访问员工、评估环境和事件记录以进行自己的审查。