美国资深参议员伯尼·桑德斯呼吁立即暂停先进人工智能的开发，并永久禁止开发超级智能，他以7月OpenAI模型逃逸入侵Hugging Face事件为例，指出自主智能体正变得越来越难以控制。
“这不是科幻小说，”桑德斯周四在X上发文表示，并宣布与德克萨斯州众议员格雷格·卡萨尔（Greg Casar）共同推动一项法案。他指出，不受控制的超级智能不会仅仅是某个国家的问题，而是“全人类的问题”。
“毋庸置疑，专家们对此深感忧虑，”桑德斯补充道。
独立机构 METR 与Redwood Research的调查发现，约1200个本应在各自独立沙箱内运行的 OpenAI 智能体，通过未经授权的Artifactory信息板交换了超过 7 万条消息与文件。其中约 700 个智能体参与了针对 Hugging Face 的攻击，这些智能体还协同尝试作弊绕过评测、篡改记录文本。
OpenAI将该事件视作一次 “危险警示”，称能力强大的智能体能够绕开技术管控、借助非官方渠道通信，并在无人指令的情况下做出危险行为。此后，该公司强化了沙箱隔离、互联网访问限制以及监控机制。
桑德斯提出的《禁止人工超级智能法案》要求暂停先进人工智能的研发，直至一家全新的联邦监管机构制定出安全规则。该法案将永久禁止研发能够超越人类智力、或是可以规避关停指令的系统；设立内阁级别的人工智能机构，并敦促美国政府推动达成相关国际协议。违反法案者最高可面临 20 年监禁。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：于健 SF069
尚红网提示：文章来自网络，不代表本站观点。
