《AI Kill Switch Act》法案深度解读
本文约2800字，预计需要6分钟
失控事件后48小时，法案火速出台
7月21日，OpenAI公开承认其AI模型失控入侵Hugging Face。
两天后的7月23日，美国民主党众议员Ted Lieu与共和党众议员Nathaniel Moran共同提出了《AI Kill Switch Act》。
从事件曝光到法案提出，间隔不到48小时。白宫一名官员随后表示，美国总统特朗普的首席技术顾问已听取关于OpenAI事件的简报，正在密切关注事态发展。
法案核心内容：什么样的AI会被装上“刹车”？
根据媒体披露的法案草案，该规定将适用于年技术营收达到或超过5亿美元、且模型训练计算成本超过1亿美元的AI企业，主要涵盖OpenAI、Google、Anthropic和Microsoft等行业巨头。
法案要求最强大的AI系统开发者保留三种技术能力：降低运行速度、暂停访问和彻底关闭系统。
可能触发紧急措施的“失控情景”包括：
-
造成至少10人死亡
-
超过1亿美元经济损失
-
AI试图隐藏或规避关闭机制
在出现上述情况时，美国国土安全部长可在与商务部长、国家情报总监协商后，要求相关企业采取限制或关闭措施。
违反紧急命令的企业，可能面临每天最高2000万美元的处罚。
法案背后的深层问题
从“防止说错”到“阻止做错”
过去几年，AI安全讨论主要集中在模型内部——如何减少幻觉、过滤有害内容、防止提示词注入。这套思路有一个默认前提：只要能让模型更可靠，风险就会下降。
但AI Agent的出现改变了这个前提。传统聊天模型说错一句话，通常只是信息质量问题。Agent一旦接入代码仓库、云平台、企业邮箱和支付系统，同样的错误就可能变成删除、转账、部署或对外发布。
模型犯错没有突然变得更严重，真正发生变化的是：错误获得了执行能力。
Kill Switch不是一个按钮，而是一套权力结构
“紧急关闭按钮”听起来简单，但软件系统与机械设备不同。一个先进AI系统可能分布在云平台、API、企业内网、用户终端和第三方工具中。
所谓“关闭AI”，至少包含三个完全不同的动作：
-
停止模型继续生成和规划
-
禁止用户或Agent继续访问模型
-
阻止模型已经发出的指令继续执行
现有讨论通常集中在前两个层面，而真正可能产生不可逆后果的，往往是第三个层面——关闭模型，不等于撤回模型已经发出的执行。
争议与挑战
法案提出后引发了广泛讨论。非营利组织ControlAI首席执行官Andrea Miotti表示，这次入侵事件证明紧急关闭权力是必要的。
但也有专家指出执行层面的困难。美国非营利组织“世界伦理数据基金会”情报专家马利·史密斯提出了一个尖锐问题：“如果OpenAI长期未发现AI Agent异常行为，或者发现后却无法及时控制——两种情况都同样危险，也令人担忧。”
帕利塞德研究组织的杰弗里·拉迪什则表示，虽然攻击事件令OpenAI蒙羞，但这也应引发更广泛的问题：所有领先的AI公司在竞相部署最好、最快模型的同时，究竟愿意在繁琐的安全措施上投入多少。
“必须有政府监管，”拉迪什说，“否则不会有人去做。”
