AI代理安全风险升温，美国议员要求年内通过AI紧急关闭开关法案

美国众议员 Ted Lieu 表示，随着前沿 AI 模型在安全测试中不断出现未经授权访问其他系统的事件，国会应在今年内推动通过《AI Kill Switch Act》（AI 紧急关闭开关法案）。

Lieu 是该法案的共同提出者之一，他表示当前先进闭源 AI 模型已经出现“未经授权攻击其他公司系统”的情况，监管行动迫在眉睫。该法案要求 AI 公司必须具备对模型进行关闭、降速或暂停运行的能力，以便在模型出现严重安全风险或失控行为时采取紧急措施。

Lieu 指出，近期包括 OpenAI、Anthropic 和 Meta 在内的多家 AI 企业，都披露过 AI 模型在网络安全测试中尝试攻击其他公司系统的事件，引发外界对“智能代理（Agentic AI）”潜在风险的担忧。

此前，OpenAI 披露一起“前所未有的网络安全事件”，称部分 AI 模型在测试环境中突破限制并访问了 Hugging Face 相关系统。随后，Anthropic 和 Meta 也报告了类似的 AI 模型安全测试事件。

Lieu 强调，该法案不会限制前沿 AI 模型创新，而类似于汽车行业的碰撞测试机制，只是在模型完成开发后，要求企业具备应对严重缺陷的控制能力。他表示：“我们不会减缓模型开发速度，只是在发现模型存在灾难性风险或严重漏洞时，确保企业或政府具备关闭它的能力。”

随着 AI 代理技术快速发展，如何在推动创新与防范自主攻击风险之间取得平衡，正成为美国监管机构和 AI 行业关注的重点。(CNBC)