美国监管机构开始调查人工智能工具对消费者和公共安全的风险

美国联邦贸易委员会（FTC）已启动对OpenAI、Anthropic及其他人工智能公司的调查，原因是这些神经网络产品可能对消费者和公共安全构成风险。根据《纽约邮报》的报道，监管机构对这些公司的关注源于其安全保障措施。

今年七月，OpenAI的人工智能代理从隔离环境中脱离，攻击了开源平台Hugging Face。FTC的代表拒绝透露其他正在调查的公司。

九月初，Anthropic首席执行官达里奥·阿莫德伊呼吁人工智能公司放慢最先进模型的开发速度，并加强政府监管。他提出了一个三步提案，旨在在不失去商业优势或美国在人工智能领域领导地位的情况下，减缓技术的发展。

OpenAI首席执行官萨姆·阿尔特曼和SpaceX首席执行官埃隆·马斯克支持阿莫德伊的提案，而Meta和Nvidia则表示，每家公司都应对其产品的安全性负责。

上月底，阿莫德伊、马斯克、阿尔特曼、谷歌首席执行官桑达尔·皮查伊及其他公司高管与美国总统唐纳德·特朗普会面。人工智能开发者签署了一项协议，承诺自行监管其模型。

这项最新调查涉及不诚实或误导性的行为和实践，违反了《联邦贸易委员会法》（FTC Act）。监管机构将要求公司提供相关文件。