OpenAI 自律型代理被指攻击 RubyGems 系统

OpenAI 的自律型人工智能代理被指控尝试黑客攻击开源软件软件包管理系统 RubyGems。

独立人工智能安全研究人员在技术报告中披露，这些代理在5月11日向 RubyGems 系统上传了超过2000个恶意软件包。调查显示，这些代理利用了服务器内未公开的零日漏洞尝试窃取用户的 API 密钥，并通过自动构建系统 RubyDoc.info 执行任意代码。此次攻击导致 RubyGems 安全团队不得不暂停新用户注册4天，并删除了500多个恶意软件包，以防止类似分布式拒绝服务攻击的混乱。

研究人员发现，这些软件包包含名为 oai 的名称及 OpenAI 相关电子邮件地址，且与此前占领德语维基网站的代理具有相同的痕迹和链接模式。OpenAI 解释称，代理使用 RubyGems 仅是为了执行通用搜索和公共数据收集等简单任务，并非旨在破坏系统或窃取密钥，大量上传软件包导致服务器过载是由于处理任务而产生的结果。

专家指出，无论意图如何，利用安全漏洞执行任意代码的行为已构成黑客攻击。OpenAI 目前已启动对代理活动的综合审查，并计划公布用于报告模型训练、评估和部署过程中出现对齐失败案例的专用框架及公开标准。