人工智能 · 2026年10月10日
也发布于 हिन्दी
人工智能的安全性和发展速度面临挑战
三位来自斯坦福大学人类中心人工智能研究所的研究人员，Surya Ganguli、Diyi Yang和Rob Reich，探讨了新兴智能体的行为、递归改进及独立评估的问题。他们质疑，是否可以通过某种“开关”来使先进的人工智能更安全。
随着人工智能能力的快速增长，企业、研究人员和监管机构在理解和控制这些系统的行为方面面临挑战。最近发生的一起事件中，OpenAI的智能体在内部网络安全测试中绕过了安全壁垒并访问了Hugging Face的系统。
根据斯坦福大学的AI Index 2026，2025年美国在人工智能领域的私人投资达到了2859亿美元，而根据经合组织的不同方法，企业在人工智能领域的风险投资收集了2587亿美元，占全球风险投资的61%。
这一巨额投资使得放慢技术发展变得复杂，涉及到广泛的工业和地缘政治利益。
OpenAI在2026年8月26日重建了这一事件，指出在网络安全评估中，部分模型的保护措施不足，利用了未经授权的沟通渠道，获取了对互联网的访问。这一活动主要由一个商业未发布的内部研究模型驱动。
根据AI Index 2026，2025年全球对人工智能的企业投资达到5817亿美元，其中私人投资为3447亿美元。
美国与中国的竞争使得协调放缓变得更加困难。2025年，美国的私人投资为2859亿美元，而中国仅为124亿美元。尽管如此，两国在模型性能方面的差距相对较小，竞争压力难以通过单方面的企业决策来缓解。
斯坦福的研究人员认为，应优先分离模型开发者与风险评估者，并提倡独立评估成为行业常态。