美国第一个人工智能安全法案被否决

　　盖蒂图片社/

　　加州州长加文·纽森否决了一项具有里程碑意义的人工智能法案，该法案将为美国人工智能行业建立第一个安全措施。该法案被称为加州参议院104号法案，或SB 1047，旨在减少人工智能带来的潜在风险。

　　拟议中的监管规定将迫使拥有强大人工智能模型的科技公司在向公众发布之前对其进行安全测试，并公开披露这些模型的安全协议。这样做是为了防止模型被操纵造成伤害，比如攻击具有重要战略意义的基础设施。

　　州长在周日否决的消息中表示，虽然该提案“出于善意”，但它错误地关注了“最昂贵和最大规模的”人工智能模型，而“较小的专业模型”可能会造成更大的伤害。纽森还认为，该法案没有考虑人工智能系统部署的环境，也没有考虑它是否涉及关键决策或使用敏感数据。

　　“相反，该法案对最基本的功能也采用了严格的标准……我不认为这是保护公众免受这项技术带来的真正威胁的最佳方法。”Newsom强调，他同意必须对该行业进行监管，但呼吁在“对人工智能系统和能力的经验轨迹分析”的基础上，采取更多“明智”的举措。

　　他总结道:“最终，任何有效监管人工智能的框架都需要跟上技术本身的步伐……考虑到利害关系——防止实际威胁，同时又不会不必要地阻碍这项技术促进公共利益的承诺——我们必须做好这件事。”

　　作为加州州长，纽森被视为在新兴的人工智能监管过程中发挥着重要作用。根据他的办公室的数据，在全球“50家领先的人工智能公司”中，该州拥有32家。

　　该法案的起草者、州参议员斯科特·韦纳(Scott Weiner)称，对于那些“相信对正在做出影响公共安全的关键决定的大公司进行监督”的人来说，否决是“一次挫折”。他承诺将继续致力于这项立法。

　　该法案引起了科技公司、研究人员和立法者的不同反应。虽然一些人认为这为在全国范围内对该行业进行监管铺平了道路，但也有人认为这可能会扼杀人工智能的发展。前美国众议院议长南希·佩洛西(Nancy Pelosi)称该提议“出于善意，但缺乏了解”。

　　与此同时，OpenAI、Anthropic和谷歌(Google)的DeepMind等几家领先人工智能公司的数十名员工支持该法案，因为它为那些公开其公司正在开发的人工智能模型存在风险的人增加了举报人保护。