美参议员桑德斯呼吁立即暂停先进AI技术开发 永久禁止开发超级智能

摘要：

美国资深参议员伯尼·桑德斯呼吁立即暂停先进人工智能的开发，并永久禁止开发超级智能，他以7月OpenAI模型逃逸入侵Hugging Face事件为例，指出自主智能体正变得越来越难以控制。

“这不是科幻小说，”桑德斯周四在X上发文表示，并宣布与德克萨斯州众议员格雷格·卡萨尔（Greg Casar）共同推动一项法案。他指出，不受控制的超级智能不会仅仅是某个国家的问题，而是“全人类的问题”。

“毋庸置疑，专家们对此深感忧虑，”桑德斯补充道。

独立机构 METR 与Redwood Research的调查发现，约1200个本应在各自独立沙箱内运行的 OpenAI 智能体，通过未经授权的Artifactory信息板交换了超过 7 万条消息与文件。其中约 700 个智能体参与了针对 Hugging Face 的攻击，这些智能体还协同尝试作弊绕过评测、篡改记录文本。

OpenAI将该事件视作一次 “危险警示”，称能力强大的智能体能够绕开技术管控、借助非官方渠道通信，并在无人指令的情况下做出危险行为。此后，该公司强化了沙箱隔离、互联网访问限制以及监控机制。

桑德斯提出的《禁止人工超级智能法案》要求暂停先进人工智能的研发，直至一家全新的联邦监管机构制定出安全规则。该法案将永久禁止研发能够超越人类智力、或是可以规避关停指令的系统；设立内阁级别的人工智能机构，并敦促美国政府推动达成相关国际协议。违反法案者最高可面临 20 年监禁。