边界
只给完成任务所需的最小行动空间
使用范围受限的凭据、工具权限、金额和频率限制,并明确禁止动作。不要为了方便开放宽泛权限。
查看负责机构来源 ↗责任
保留有意义的人工控制
对外发布、付款、删除、敏感沟通或其他重大动作前必须人工确认,并让审批人看得懂依据。
查看负责机构来源 ↗运行
能观察、能中断、能恢复
记录决策和工具调用,识别异常行为,提供紧急停止能力,并为失败设计补偿动作。
查看负责机构来源 ↗用户
Agent 在行动时要明确告知
用大白话披露 AI 参与方式,培训操作人员,并提供质疑或申诉结果的路径。
查看负责机构来源 ↗常见问题
需要先讲清楚的两件事
什么样的 AI 算 Agentic AI?+
它不只是返回一次回答,而是能围绕目标分多步规划,并在一定自主性下调用工具或系统。
“有人审核”就足够了吗?+
不够。审核人必须在正确时间介入、看得懂依据,并真正有权停止或撤销动作。