Anthropic 提议以司法审查限制高风险 AI 模型发布
Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
Anthropic 提出的法案看似旨在防范 AI 失控，但据报道，它也会禁止联邦机构在未经法官许可的情况下阻止模型发布。
TechCrunch 报道，Anthropic 正推动一项 AI 安全法案。现有材料指出，提案表面上为防范 AI 造成严重伤害提供保护，但其约束设计会使联邦机构无法在没有法官许可时阻止模型发布。报道标题提及可能造成 50 人以上死亡的情形，当前提供的正文未进一步说明具体门槛、审查程序或法案文本。
对 AI 行业的影响
若提案确实把阻止模型发布的权限交由司法审查，监管机构应对高风险模型采取预防性措施的空间可能收窄，企业则可能获得更明确的发布程序；实际影响取决于法案原文及适用门槛，现有摘要不足以判定其最终效果。
原文参考
来源：TechCrunch AI · 2026-10-20
The proposed policy seems to offer protections against AI run amok but actually forbids federal agencies from blocking a model’s release without the permission of a judge.