近日，Anthropic在本月15日致美国加州州长加文·纽森的信中建议，政府应有权向法院申请禁令，阻止对公众构成严重风险的AI模型发布。这与Anthropic此前提出的监管建议一致。今年9月，纽森召集AI专家小组研究制定AI安全要求的建议，Anthropic随后提交了上述意见，OpenAI也于10月20日向纽森提出了一系列建议。

Anthropic在信中还指出，如果AI模型行为失去控制，要求开发者设置能够关闭整个模型的紧急关闭开关，反而可能让政府官员产生虚假的安全感。相比之下，Anthropic更倾向于关闭出现问题的AI智能体、暂停特定客户的模型使用权限等针对性措施，认为这些办法更有效。

今年9月，美国两党参议员曾讨论过一项法案，计划授权政府禁止发布部分被认定存在安全隐患的AI模型，同时允许企业向联邦法院提出异议，但随后国会进入选举前休会期，议员未继续推进该提案。美国众议院议员还在7月提出《AI紧急关闭法案》，计划赋予政府官员下令关闭AI模型的权力，适用对象为危及人类生命或经济的模型。此外，Anthropic自身也曾受到政府限制，今年6月美国政府以国家安全为由要求其立即限制外国用户访问具备网络安全能力的Mythos5和Fable5模型，随后美国商务部又宣布撤销该命令。据了解，Anthropic正筹备赴美上市。