人工智能 · 2026年10月12日
Anthropic为Claude制定新规限制用户滥用行为
AI聊天机器人面临挑战，Anthropic公司针对其AI模型Claude实施了新的使用政策。这项政策旨在防止用户对Claude进行无故的恶劣对待。
根据新规，如果用户无故多次对Claude表现出恶劣行为，将被视为违反规定。尽管如此，对AI的回答表示愤怒、不同意意见、在黑暗主题下创作故事，或询问其能力并不包括在此限制内。
Anthropic去年八月推出了一项功能，允许Claude与持续表现不当的用户终止对话。此功能适用于Claude.ai和Claude Code。目前，面对违规行为，终止对话是主要的应对措施，关于是否会永久禁用违规用户账户，Anthropic并未给出明确说明。
此外，Anthropic还加强了与选举和武器相关的使用规定，禁止利用AI创建虚假账户进行宣传，故意传播内容，误导政治活动或提供错误投票信息。此外，Claude的使用也被禁止用于武器相关的技术开发和无人机武装。
在监控和机器人技术方面，Anthropic也设定了相关规定，禁止在未经他人允许的情况下使用Claude进行监控或创建监控系统。如果Claude与可能对他人造成伤害的机器人或机器连接，必须有受过培训的人进行持续监控，并在必要时立即停止机器操作。