不同工具,处理不同的不确定性
传统工作流自动化依照明确的触发条件和规则运行。AI 助手用于理解语言、检索资料和准备草稿。Agent 则可能在规定范围内选择工具,建议或执行动作。这些名称在实践中会重叠,项目应定义具体行为,而不只是选一个标签。
先问路径是否已知。确认状态后发送内部通知不一定需要 AI;非结构化客服消息可能适合意图分类。多步骤任务可能需要协调,但不代表应授予不受限制的自主权。
决策清楚时,优先使用规则
输入结构化、下一步可表达为条件时,确定性自动化通常更容易测试和维护。例如将服务分类映射至负责人、校验记录,或发送经过批准的内部更新。
规则系统同样需要权限、重试、限流、去重和监控。没有模型,也仍需核实实际条件下的集成是否可靠。
把 AI 放在具体的理解步骤中
AI 可以辅助摘要、分类请求、查找相关资料或准备回复草稿。需要明确输入、允许使用的来源、输出格式,以及哪些情况下必须转交人工。
检索到文档意味着找到一份证据,并不保证正确。文档可能过时、不完整或不相关。实现时应展示引用、限制访问,并用资料没有覆盖的问题一起评估。
把操作权限单独设计
起草回复的助手和直接发送回复的 Agent,风险不同。应区分读取、草稿、建议操作和批准执行,只提供商定任务所需的权限。
启用操作前,确认授权、记录、重试,以及可行时的撤销方式。接口支持不可逆动作,不代表应该开放给 AI。听起来肯定的回答,也不等于批准。
混合方案往往更实用
一套咨询流程可以结合固定规则校验、AI 辅助分类、固定负责人映射和人工批准。每一部分处理适合自己的任务,整体流程仍然能够检查。
选择满足验收标准的最简单系统,测试正常情况、未知请求、资料缺失和工具不可用。合适的架构应让团队能够评估、运行和改进,而不是拥有最多令人印象深刻的标签。
