系统:运行中
← 返回所有攻击
GOVERNANCE MEDIUM NEW

中国新规为 AI 智能体设定分级决策权限

自 2026 年 7 月 15 日起施行的《实施意见》,是全球首个将 AI 智能体作为独立类别监管的国家级框架——要求把每一项决策归入三级权限,并留存可追溯的证据。

2026-07-20 // 6 min affects: llm-agents, ai-agent-platforms, doubao, qwen

What is this?

2026 年 7 月 15 日,中国《智能体规范应用与创新发展实施意见》正式施行——这是全球首个将 AI 智能体作为独立监管类别、而非仅仅是构建于大语言模型之上的应用来对待的国家级框架。该文件由国家互联网信息办公室(网信办,CAC)、国家发展和改革委员会、工业和信息化部于 2026 年 5 月 8 日联合发布,将智能体定义为「具备自主感知、记忆、决策、交互与执行能力的智能系统」。这一定义把智能体从 2023 年的生成式 AI 规则中剥离出来,将监管义务与其自主性、而非训练数据相挂钩。

How it works

核心机制见于第六条:智能体在部署前,必须以书面形式厘定其决策权限,并划分为三级。第一级为仅限人类作出的决策——不可逆或直接涉及权利的行为,智能体绝不得代替他人执行。第二级为智能体可以提出、但须经用户明确授权后方可执行的行为。第三级为智能体在被授予的范围内自主处理的事项,用户始终保留知情权和最终否决权。决定级别的有两项属性:行为的敏感程度,以及是否可撤销——转账或签署合同属于高级别,汇总搜索结果属于低级别。

另有两条为分级赋予约束力。第十一条按行业调节监管强度:在医疗、交通、媒体、公共安全等敏感领域,监管方要求备案、合规测试并对问题产品实施召回,据报道其备案门槛约为一百万注册用户或十万月活跃用户。风险较低的消费场景则依托自评估、行业自律与信用评级。第七条要求建立「可验证、可追溯」机制——行为日志以及包括区块链在内的回溯技术——以便事后重建智能体的行为。

Why it matters

中国的法律评论将其责任原则概括为「看控制而非看代码」:责任落在特定情境下实际控制智能体的一方——通常是部署并运营它的运营者——而非编写代码的开发者。合规负担由此从模型构建转向部署治理,也使「举证」成为核心难题。宣称某项决策属于第二级并不难;难在事故之后证明用户确实作了授权、以及智能体基于何种依据作出判断,这需要既不在代码、也不在政策文件中的记录。施行之日已产生现实影响:豆包、通义千问等平台当天下线了拟人化的「陪伴」功能,文件亦明确将未成年人与老年人的依赖问题、以及智能体被滥用于自动化攻击、隐私侵害和欺诈列为需要遏制的危害。

Defenses

对任何运营智能体的机构而言——无论是否在中国——这套规则实质上就是一份安全控制清单。应在部署前撰写授权策略,将智能体的每一项行为映射到某一级别,并由运行时(而非仅靠约定)强制执行「仅限人类」和「须经批准」的行为。将高影响、不可逆的工具调用——付款、签约、删除——置于明确的人工批准之后。对数据层进行插桩,为每项决策留存结果、依据(智能体为决策所查阅的内容)以及批准记录(何人于何时授权);正是这一数据谱系使某一级别在审计人员面前可被证明。将智能体凭据限定于被授予的任务,始终保留可随时接管的通道,并监控智能体在启动时加载的配置与记忆。这些控制与 OWASP 关于「过度自主(excessive agency)」的指南、以及欧盟关于「有效人类控制」的讨论高度契合。

Status

项目详情
框架智能体规范应用与创新发展实施意见(网信办 / 发改委 / 工信部)
发布 / 施行2026 年 5 月 8 日 / 2026 年 7 月 15 日
决策分级仅限人类 · 须经批准 · 自主执行(第六条)
行业备案医疗、交通、媒体、公共安全(第十一条)
可追溯性可验证、可回溯的行为日志(第七条)

关键日期:框架于 2026 年 5 月 8 日发布,自 2026 年 7 月 15 日起施行。

Sources