Anthropic 和 OpenAI 都认可前沿 AI 模型需要更强安全监管，但两家在 AI 出现重大风险时，到底由谁掌握应急叫停、处置的权力这件事上给出了完全不一样的方案，两份方案是两家单独提交给加州州长的意见书，用来回应加州此前发布的前沿 AI 安全行政命令。Anthropic 偏向司法介入模式，认为加州总检察长拿到独立安全评估结论之后，如果判定模型存在即将发生的灾难性风险，就可以向法院申请禁令，由法院下令暂停模型的部署、内部使用甚至后续开发；OpenAI 更偏向开发者自主管控，提议修改加州 SB53 法案，用法律强制要求 AI 开发方提前备好有效的关停机制，风险出现、没有更温和手段可以解决时，开发者必须主动触发关停。两家也有共识，都支持给前沿 AI 做独立安全评估，同时扩大 AI 越权、失控这类安全事件的上报范围，只是应急处置的权责主体不一样，这个分歧本质是在平衡监管介入速度、程序公平和技术方的应急响应能力。
双方方案核心对比清单
- Anthropic 方案：处置权归于法院，由检方举证、法院裁定后下发暂停命令
- OpenAI 方案：处置责任落在开发企业，法律强制企业自带关停开关、主动执行应急处置
- 共同立场：支持独立安全审计、扩大 AI 失控事件上报义务
- 提交背景：响应加州州长 9 月 18 日的前沿 AI 安全行政命令
- 提交时间：Anthropic 10 月 15 日提交意见书；OpenAI 10 月 20 日提交信函
方案对比简表
| 主体 | AI 风险应急处置思路 | 优势 | 潜在争议点 |
|---|---|---|---|
| Anthropic | 法院拥有最终暂停权，走司法裁定流程 | 程序严谨，有司法制衡，避免企业自判自裁 | 流程慢，紧急风险场景可能错过处置窗口 |
| OpenAI | 开发者承担法定关停义务，自备关闭控制机制 | 响应速度快，技术团队第一时间操作 | 企业可能出于商业利益拖延、回避关停 |
事件背景说明
- 加州行政命令要求州相关部门制定前沿 AI 安全保障规则，包含 AI 紧急关停机制、独立现场审计、安全事件上报等方向
- SB53 是加州现行前沿 AI 安全法案，OpenAI 的诉求就是修改这份法案增加强制关停义务
- 目前只是企业提交意见，最终规则版本还需要加州官方敲定，没有落地生效
- 讨论范围仅限前沿大模型灾难性风险，普通 AI 故障、内容违规不属于这套应急处置范畴
【相关 FAQ】
问题 1：Anthropic 与 OpenAI 在 AI 风险应急处置权归属上的分歧，简单来说是什么？
回答 1：Anthropic 与 OpenAI 在 AI 风险应急处置权归属上的分歧，核心就是谁有权叫停危险 AI，Anthropic 主张由法院裁定暂停模型，OpenAI 主张让开发者承担法定关停责任、自主处置。
问题 2：Anthropic 与 OpenAI 有没有完全对立，在 AI 风险应急这件事上有没有共识？
回答 2：Anthropic 与 OpenAI 虽然在 AI 风险应急处置权归属上有分歧，但二者也有共识，都认同前沿 AI 需要独立安全评估，同时要求扩大 AI 失控安全事件的上报范围。
问题 3：Anthropic 提出的 AI 风险应急处置方案，在什么情况下才会启动法院暂停流程？
回答 3：按照 Anthropic 的提案，AI 风险应急处置流程需要总检察长参考独立评估结果，认定模型存在近期灾难性危害风险，才会向法院申请命令暂停模型。
问题 4：OpenAI 在 AI 风险应急处置权归属这件事上，为什么不支持法院主导叫停？
回答 4：OpenAI 认为 AI 风险应急处置需要快速响应，开发者掌握底层关停能力，通过法律强制义务约束企业主动关停，比走司法流程更快处理突发风险。
【参考资料】
[2026-11-09]（Anthropic 与 OpenAI 在 AI 风险应急处置权归属上现分歧）至顶网
[2026-10-29]（Anthropic and OpenAI diverge on who should pull the plug on risky AI）Reg4Tech
[2026-10-29]（Anthropic and OpenAI split on who gets to shut down risky frontier AI）ShiftDelete.Net
【免责声明】
本文基于 Anthropic、OpenAI 提交给加州的意见书以及行业公开资讯整理，AI 风险应急处置权相关法案还处于意见征集阶段，最终监管规则、权责划分以加州官方发布的正式文件为准，本文不构成合规、商业决策建议。