智能体在采购场景中常因信息缺失而“编造”数据,导致工具调用风险。本文以Haoee平台搭建的采购申请校验助手为例,详细拆解如何通过字段提取、参数预检和人工确认流程,确保智能体不越权、不臆测,为产品经理提供可落地的设计思路。 科技新闻。
BLOCKED,禁止调用。
一个好的智能体,有时应该明确告诉用户:
么解背景与起因
READY_FOR_HUMAN_CONFIRMATION,等待人工确认。
后续可以重点关注:
我在 Haoee 上搭建了一个“采购申请提交前校验助手”。
么解事件经过
很多产品经理在设计智能体时,都会遇到三个问题:
其中,“工具调用次数”不是越多越好。
只有全部字段通过校验后,才允许进入:
么解各方回应
首期目标不是自动下单,而是先完成:
当前信息不足,暂时不能调用工具。
例如,采购人员说:
么解影响分析
因此,这次只演示参数预检,不执行真实提交。
最终报告不直接说“采购成功”,而是区分三种状态:
本文由 @我叫小米粒 原创发布于人人都是产品经理。未经作者许可,禁止转载
这里最重要的规则是:
这些内容没有确认之前,直接调用工具反而会放大风险。
如果条件不满足,工具状态应该是:
这一步的产品价值在于,智能体不会直接把“不确定”包装成“已完成”。
帮我采购 A4 纸 10 箱,下周送到办公室,价格按行业动向价。
随后检查:
这类问题不能靠一句“请不要编造信息”解决,而应该在产品流程上增加校验环节。
只提取用户明确提供的内容,不对缺失字段进行猜测。
如果一开端就接采购系统,产品经理还需要先确认:
如果智能体直接把这句话交给采购系统,至少有几个字段无法确定:
智能体先把自然语言拆成结构化字段:
智能体结构已经完成配置并发布,但今天的发布对话测试受到模型路由问题影响,尚未完成端到端验收。
因为当前只是最小 Demo。
因此,当前版本可以作为产品流程 Demo,不能直接宣传为已经完成采购系统接入或生产验证。
比如用户说“下周送到”,系统不能自行填成某个具体日期。
题图来自Unsplash,基于CC0协议