微软计划从9月开始,为Copilot Studio推送一项看似平淡、实则关键的能力:AI智能体在调用某些工具前,必须经过人工批准。

具体来说,开发者可以针对每个工具、每个智能体单独开启审批开关。一旦开启,智能体执行发送邮件、关闭工单、处理付款等动作前,会暂停执行并向用户弹出审批请求,说明自己的意图,等待用户批准、会话级批准或拒绝。

这个功能背后,是AI智能体从“聊天工具”走向“能真正干活的数字员工”过程中,一个绕不开的治理难题。过去一年,智能体被吹得天花乱坠:能自动回邮件、能自动关工单、能自动处理支付。但能力越强,失控的风险就越大——一封群发错对象的邮件、一笔未经核对的付款,都可能在几秒钟内造成真金白银的损失。企业真正需要的,从来不是“全自动”,而是“可控的自动”。

微软把审批权限做成细粒度的开关,相当于给智能体装上了一道可调节的刹车:高风险动作必须人来拍板,低风险动作仍可全自动流转。这种“人在回路”(Human-in-the-Loop)的思路,正逐渐成为企业级AI落地的共识。

当然,这也带来一个新问题:如果智能体动辄要人审批,效率优势还剩多少?答案在于分层。把审批配置在最容易出错、责任最重的环节,而不是事无巨细都要人点头,才能在安全与效率之间找到平衡。

可以预见,随着Copilot、Salesforce Agentforce等平台相继引入类似机制,“AI智能体需要被监管”将不再是口号,而是企业采购时的硬性门槛。谁能把信任机制做得更细致、更透明,谁就更可能赢得下一阶段的智能体市场。