一份把“灾难”量化的草案
围绕 AI 监管的争论长期停留在原则层面，而 Anthropic 正在尝试把它变成可执行的条文。据公开信息，这家 AI 实验室已向政策圈传阅一份 AI 安全法案草案，希望美国国会考虑采纳。草案的核心思路是：在特定高风险场景下，监管机构应有权在模型正式发布前按下暂停键。
草案设定的触发门槛相当具体——如果模型存在“可预见且迫在眉睫”的风险，可能导致超过 50 人死亡，或造成超过 10 亿美元的财产损失，就落入需要干预的范围。这些风险必须源于三类情形：生物武器的制造或释放、模型绕过开发者控制，以及网络攻击。值得注意的是，这组数字与加州近期通过的一部法律所采用的“灾难性风险”定义高度接近，说明州层面的量化思路正在向联邦层面外溢。
评估、通报与司法审查的三段式流程
草案没有把判断权直接交给政府机构，而是设计了一条带有制衡色彩的链路：
- 独立评估人：由在美国商务部注册的第三方评估机构对模型进行风险分析。这些评估人可由 AI 实验室自行付费，但前提是报酬不得与评估结果挂钩。
- 72 小时通报：一旦评估人认定存在迫在眉睫的灾难性风险，须在 72 小时内向商务部报告。
- 法院裁决：商务部随后需向华盛顿特区法官申请，由法院决定是否阻止该模型发布。
草案还明确禁止任何联邦机构自行裁量、单方面叫停模型分发。这一设计显然是为了回应业界对“监管俘获”与行政权力扩张的担忧，但同时也把最终决定权交给了司法系统。
| 环节 | 主体 | 关键约束 |
| 风险评估 | 商务部注册的独立评估人 | 可由实验室付费，但不得与结果挂钩 |
| 风险通报 | 评估人 → 商务部 | 72 小时内完成 |
| 发布拦截 | 商务部 → 特区法官 | 联邦机构不得自行决定 |
为什么“付费评估”是最大争议点
草案最容易被质疑的地方，是评估人与被评估企业之间的资金关系。允许实验室为评估付费，在现实中几乎是不可避免的安排——独立评估机构需要收入来源，而目前唯一有动力买单的就是模型开发者。但“付费不影响结论”这一约束如何验证，草案并未给出机制。评估标准、评估人资质审核、利益冲突披露、违规后果，这些配套设计如果缺位，“独立性”就容易停留在纸面。
另一个值得关注的细节是风险类型的选取。草案聚焦生物武器、失控与网络攻击，而当前业界更频繁讨论的是智能体越权操作、自动化入侵网站等现实事件。把监管焦点放在低概率、高破坏的极端场景，固然有助于避免扼杀常规创新，但也可能让规则与正在发生的风险错位。
行业立场正在分化
这份草案的意义不止于条文本身。长期以来，头部实验室一边公开警告技术可能带来文明级风险，一边对强制性政府监管保持距离，更倾向于自愿承诺与内部评估。Anthropic 提出具体立法文本，等于把“自愿”往前推了一步。与之形成对照的是，英伟达管理层近期公开表示 AI 行业不需要新法律。两种姿态的差异，预示着行业在监管议题上不再是单一声音。
对政策制定者而言，这份草案提供了一个可讨论的起点：风险阈值如何设定、评估人如何认证、司法审查是否会成为瓶颈、州法与联邦法如何衔接。对 AI 企业而言，更现实的启示是提前建立可审计的风险评估档案——包括模型能力测试记录、滥用场景推演、控制措施说明，因为无论法案是否落地，这类材料在未来的合规对话中都会成为基础筹码。
接下来值得盯的三件事
第一，草案是否会被正式提交国会，以及阈值数字在讨论中是否被调整。第二，独立评估人的资质与利益冲突规则会不会补充细化，这决定了整套机制的可信度。第三，加州已生效的同类法律在实施中会遇到哪些操作难题，这些经验很可能反过来影响联邦层面的设计。对关注 AI 治理的团队来说，现在就可以着手梳理自身模型的高风险能力边界，并留存评估痕迹，而不是等到规则落地再补课。