编译 | 尹明顺

编辑 | 漠影

9月30日消息，据路透社报道，美国加利福尼亚州参议员（Scott Wiene）于今年2月7日拟定的《SB-1047前沿AI大模型安全创新法案》（简称SB-1047法案）于今日凌晨，被加州州长Gavin Newsom彻底否决。其认为，该法案可能会将AI公司赶出加州，并对科技创新造成阻碍。

据悉，SB-1047法案主要用于增强大模型安全性、透明性、完善AI使用规范条例，该法案一经提出就引发极大争议。

法案要求对许多最先进的AI模型进行安全测试，这些模型的开发成本超过1亿美元，需要特定数量的计算能力。此外，法案还将通过设立一个州级机构，负责监督所谓“前沿模型”的开发。

对此，多家科技公司对SB-1047法案都表达了抗拒态度。meta认为该法案有可能对AI在加州的开发和部署产生不利作用。Facebook母公司的首席科学家Yann LeCun曾在社交媒体X的一篇帖子中称该法案可能对研究工作产生负面影响。

OpenAI的ChatGPT也认为AI应该由联邦政府监管，但SB-1047创造了一个充满不确定的法律环境。它认为该法案将对AI发展构成威胁，并可能导致企业家和工程师离开该州。

一、AI发展迅速，SB-1047法案提出利弊交加

生成式AI可以根据提示创建文本、照片和视频，这令人兴奋，也让人担忧。因为AI的使用可能会使得一些工作岗位不那么被需要，会对选举造成颠覆性影响，还可能在某些方面因超越人类而造成灾难性影响。

Wiener称，在AI的发展变得难以驾驭或无法控制之前，有必要通过立法来保护公众。

但一些领导人对此发出了质疑，如今AI产业在加利福尼亚州快速发展，如果该法案通过，确立为正式法律条例，可能会使那些AI公司在该州未来的发展受到影响。

Newsom认为：“我们不能等到发生重大灾难后才采取行动来保护公众”，但他同样觉得，该法案目前尚待完善，将其正式立法可能会对AI公司在加州的发展造成阻力，不利于科技创新。

▲美国加州州长Gavin Newsom（图源：X平台个人社交帐号）

科技行业联盟“进步商会”（Chamber of Progress）对Newsom的否决意见表达了赞赏，称“加利福尼亚州的科技与经济一直依赖于竞争和开放的环境才得以蓬勃发展。”

对于Newsom的否决，Wiener回应称，此行会使得加利福尼亚州的安全性降低，这意味着“那些想要创造极其强大技术的公司不会面临任何强制性限制”。他补充说：“行业的自愿承诺是缺少执行性的，对公众来说几乎没什么好结果。”

二、SB-1047“BUG”众多，急需打造AI风险科学分析体系

Newsom出面彻底否决了该法案，除去认为该法案不利科技创新与AI发展外，他还给出了这样的一个原因：“我并不认为我们应该遵循那些没有基于AI系统和能力的实际发展轨迹进行实证分析所得出的解决方案。”

他补充道，该法案没有考虑到AI模型是否部署在高风险环境中。这一点很关键，因为在低风险环境中并不需要如此严格的监管措施。

另外，Newsom还解释称，法案对于AI对关键决策的影响也未进行说明，也没有定义何为敏感数据。这一点的模糊界定会使得法案难以对隐私以及数据进行有效保护。

Newsom称自己已经请了生成式AI的领先专家帮助加州开发“护栏”，并将专注于开发一种基于经验与科学的AI轨迹分析模型。他还命令美国各州机构完善对与AI使用相关的潜在灾难性事件的风险评估体系。

此处的护栏，意指一套机制或者系统，主要是用于保护技术使用安全并预防可能存在的风险。而AI轨迹分析模型，则是对AI未来发展路径进行预测的一种科学分析手段。

Newsom还签署了另一项法案，要求该州评估生成式AI对加利福尼亚州关键基础设施构成的潜在威胁。

Newsom说，他将在下一届立法会议期间与立法机构合作，推动AI立法。

这一行动恰好发生在这样一个时刻，美国国会关于设立人AI保障措施的立法工作陷入了停滞状态，而与此同时，拜登政府正在积极推动关于人工智能监管监督的提案。

结语：SB-1047法案在过去的半年里争议良多

众多团体强烈反对SB-1047法案的提出与落实。其中包括谷歌（旗下的Alphabet）、微软支持的OpenAI和meta Platforms在内的公司都在开发生成式AI模型，它们都对该提案表达了担忧。众议院议长南希·佩洛西（Nancy Pelosi）在内的一些美国国会民主党人也反对过该法案。

但该法案也有很多的支持者，其中包括特斯拉首席执行官埃隆·马斯克（Elon Musk），他经营着一家名为xAI的AI公司。亚马逊支持的Anthropic认为，该法案的益处可能大于成本，但也补充说，仍有一些方面含混不清，令人担忧。

路透社、X