Scott Wiener 接替 Nancy Pelosi 后准备推动联邦 AI 监管

作为加州州参议员，Scott Wiener 起草了旨在降低先进人工智能风险的法案。如今，在赢得一场势均力敌的国会选举、接替前众议院议长 Nancy Pelosi 在旧金山留下的席位后，他可能在制定联邦人工智能政策方面发挥关键作用。 

周五，也就是他被宣布胜选仅几个小时后，我采访了 Wiener。但此时他已经在思考人工智能风险了。前一天，非营利人工智能机构 METR 发布了一份报告，外界广泛将其解读为 Anthropic 已实现递归式自我改进的证据。所谓递归式自我改进，是指人工智能对自身发展作出实质性贡献，进而可能令进展失控的现象。

“这非常令人担忧，”Wiener 说。他援引这份报告，称其证明我们正迅速失去监管人工智能的时间窗口。“我原本希望国会在今年年底前采取果断行动，”他说，“但情况看起来并非如此。”

近年来，Wiener 越来越关注人工智能，也把人工智能安全运动所担忧的许多问题纳入自己的关注范围。在我们 20 分钟的交谈中，他六次提到“递归式自我改进”，比如说：“我们必须让这一进程慢下来。因为它发展得太快了，我们可能在睡梦中走进一场灾难。”

Wiener 对人工智能政策已经产生了实际影响。他于 2024 年起草的 SB 1047 法案，原本有望成为美国首部真正涉及前沿人工智能的法律，但遭加州州长 Gavin Newsom 否决；此后，他又提出力度较轻的 SB 53 法案，并获 Newsom 签署。两项法案都启发了联邦层面的立法提案。 

Wiener 的国会竞选获得了非营利组织 Public First Action 超过 300 万美元的资助。该组织支持监管人工智能，并从 Anthropic 获得大量资金。这笔资助让反对者批评他与人工智能行业关系过于密切，但 Wiener 表示，情况恰恰相反。 

“Public First 支持我，是因为我是全国第一位提出人工智能监管法案的议员，也是第一位通过并落实此类监管的议员。”他在采访结束后发消息写道。“他们因为我得到 [Public First] 的支持而对我发起的攻击，卑劣得令人震惊——他们攻击的明明是一名真正无视大型科技公司反对、对人工智能实施监管的候选人，却还谎称这位候选人与大型科技公司关系过于密切。”

Wiener 表示，如果国会成立人工智能特别委员会——民主党自 9 月以来一直在讨论此事——他会积极争取加入。他也对国会内部提出的许多政策构想充满热情。“我认为，设立一个强大、获充分授权且行动灵活的联邦监管机构非常重要，”他说。他提到，来自加州的民主党众议员 Ro Khanna 已提出立法建议，主张设立这样的监管机构。 

他还强调要重视举报人保护、测试与审计要求，以及设置紧急停止开关的要求，并希望国会运用监督权，追究各人工智能实验室的责任。“这关系到人类的未来，我们必须确保公众有发言权，也让公众知道正在发生什么，”他说。

作为一名长期任职的州议员，他反对联邦政府全面推翻各州人工智能法律，而部分拟议中的联邦立法将要求这样做。他指出：“正如布兰迪斯所说，各州是实验室。你希望各州能够继续以国会有时做不到的方式灵活应对问题。”

威纳最希望看到的是，国会通过真正具有约束力的政策。他说：“国会采取行动时，至关重要的是，我们要做出一项切切实实有意义、能够回应当前形势的行动。”这意味着必须认真对待人工智能可能引发灾难的可能性，他也以人工智能安全专家常用的措辞来讨论这一点。他对我说：“眼下这个时刻，从人工智能失控的风险来看非常危险。我们必须应对递归式自我改进。一旦进入这种领域，就可能真的成为彻底失去控制的条件。”

在对抗灾难性人工智能风险的斗争中，他也会得到一些盟友。例如，参议员伯尼·桑德斯曾与人工智能安全运动中许多最具影响力的人物会面，也多次谈论人工智能与生存风险。不过，威纳的湾区视角满是对通用人工智能的乐观期待，而全国对人工智能的主流情绪仍以反对数据中心为中心。周二选民通过了41项反数据中心投票倡议中的40项，这似乎对威纳等支持人工智能监管的人是个利好，但威纳认为，这股运动与地方关切的联系远比与人工智能风险等宏观问题紧密得多。

他说：“真正反对人工智能发展方向的人，在这个领域确实可以有所作为。但在我看来，数据中心反抗运动更多是因为，人们不满自己的社区可能会出现这种设施——它会影响居民住宅周边，推高电费，还会消耗水资源。就我观察，绝大多数 people 关心的其实是这个更大的问题。”

鉴于国会在监管科技行业方面表现不佳，威纳将自己对国会遏制人工智能能力的前景描述为只有“谨慎乐观”。他也担心，相关立法能否获得唐纳德·特朗普总统的通过。特朗普曾在9月称有关灾难性人工智能风险的担忧是骗局，并明确表现出不愿与中国合作的立场。威纳认为，这种合作对于避免人工智能的最坏后果至关重要。

不过他说，特朗普的不可预测性也带来了一线希望，尽管这种希望充满风险。威纳说：“到目前为止，我们看到了一些令人担忧的情况，但还没有酿成彻底的灾难。我希望不需要等灾难发生，才会促使总统采取行动。我也希望，如果真的需要灾难才能推动他行动——就像我说的，我希望不需要——那么灾难的规模越小越好。”