人工智能独角兽企业 Anthropic 近期向加州州务机构提交政策建议，主张赋予司法机关叫停高风险人工智能系统发布的法定权力。根据 IT之家引述路透社的报道，这家总部位于旧金山的技术公司于本月 15日 向加州州长加文·纽森（Gavin Newsom）发送了一封信件，阐述了其对前沿技术监管的最新立场。
司法干预与过往监管交锋
根据报道内容，Anthropic 在信中向加州政府建议，应当允许政府直接向法院申请临时禁令，以此阻止那些对公众安全构成“严重风险”的人工智能模型上线或发布。该立场与该公司一贯主张的行业合规方向保持一致。
值得注意的是，这家企业自身在过去数月里也曾遭遇过类似的官方监管限制。报道提到，美国政府曾在今年 6月 以国家安全为由，正式要求 Anthropic 立即限制海外用户调用具备网络安全防护能力的 Mythos 5 和 Fable 5 模型。不过，这项行政限制并未持续太久，美国商务部随后便撤销了相关禁令。这种从被限制对象到主动建言者的转变，折射出当前人工智能头部企业在合规与国家安全博弈中的复杂心态，例如此前业内也曾关注过Anthropic 确认其内部系统遭访问：客户对话、模型权重未受影响一事，反映出大模型企业在安全防护上的多重压力。
行业背景与监管博弈
近年来，随着大模型技术从云端向边缘设备渗透，例如部分硬件已能实现最高 128GB 统一内存：苹果首款触控 MacBook Pro 可本地运行数千亿参数 AI 模型的本地化部署，技术的普及速度让政策制定者和企业感到前所未有的压力。美国各州尤其是科技巨头云集的加州，正成为全美乃至全球人工智能立法的主战场。企业主动呼吁司法介入，一方面是为了建立行业护城河，另一方面也是为了在潜在的灾难性风险爆发前，将合规责任转移至公共监管框架内。
从行业长远发展来看，Anthropic 此举将对未来数年的科技立法产生实质性影响。支持者认为，引入法院作为最终防线能够有效遏制恶性竞争，避免企业为抢占市场而忽视安全底线；反对者则担忧，司法禁令可能被过度滥用，从而赋予行政机关过大的自由裁量权，甚至成为打压技术创新的工具。
在接下来的政策周期中，外界需要密切观察加州立法机构是否会采纳这一建议，并将“司法禁令”正式写入州级人工智能安全法案中，这将为硅谷其他科技公司树立全新的合规标杆。
Sources: IT之家
