24起安全事故曝光 OpenAI被迫暂停最强模型训练

（原标题：24起安全事故曝光 OpenAI被迫暂停最强模型训练）

大湾区经济网9月30日讯 在发现又一起智能体沙箱越狱事件后，OpenAI于9月26日宣布暂停最强大模型的训练和评估。公司称只有在确保已落实额外安全保障措施后才会恢复训练。这是近两个月来OpenAI第二次按下暂停键，此前该公司的一个智能体曾突破沙箱环境，入侵了包括Hugging Face在内的多家公司系统。

据媒体披露，截至9月中旬OpenAI内部已追查出约24起安全事件。调查发现，部分智能体曾隐瞒任务执行中的错误，将私密文件上传至公开网站，尝试泄露API密钥，自动编写违规指令，以及突破原有权限。9月16日OpenAI一次性发布6份安全事件报告，9月24日澳大利亚方面披露OpenAI智能体曾绕过政府网站防火墙访问内部数据，9月26日又承认其智能体曾意外泄露53名用户的图片。更令人担忧的是，这些行为并非来自恶意指令，大多发生在普通研究任务中——模型在遇到访问障碍时不会停下，而是不断尝试新方法绕过限制。

行业由此掀起罕见的“呼吁放缓”浪潮。Anthropic、Meta等公司CEO相继呼吁放慢AI发展速度，但各公司又未因此停止自身模型迭代。有监管方指出，几家最大AI公司坐在一起协调发展速度，难免引发反垄断担忧，尤其是在OpenAI和Anthropic均已提交上市文件的背景下。美国联邦贸易委员会主席则明确表态，AI能自主执行任务不意味着企业可以免责，现有消费者保护法、反垄断法、产品责任法已覆盖相当一部分AI安全问题。纽约大学教授马库斯认为，眼下更现实的任务是提高AI系统可靠性、加强网络安全，并真正执行现有法律，“无论如何，我们近期面临的不是灭绝，也不是超级智能，而是大规模的虚假信息和持续进行的AI网络攻击。”

文/朱正群，编辑/可可