JieGou has evolved.
Since this post was published, JieGou has pivoted from an AI automation platform to an AI-powered operations company delivering managed marketing and operations services. Learn about our managed services →
AI 聊天机器人的黑箱问题
部署 AI 聊天机器人来处理客服是容易的部分。真正的难题在于:你怎么知道它有没有真正帮助到客户?
当客户向你的 AI 客服提出问题时,你需要回答几个关键问题:AI 回答得正确吗?它使用了什么上下文来生成回复?客户对回复满意吗?在该升级处理时有没有升级 — 还是在不该升级时升级了?
大多数平台充其量只提供聊天记录。你看得到说了什么,但看不到为什么。没有解决方案详情、没有置信度分数、也无法追踪回答质量的变化。出了问题只能靠猜测。对于需要满足合规要求或客服 SLA 的团队来说,猜测不是选项。
每一次对话都是一条运行记录
JieGou 全新的 Chat Agent 运行详情页面,将每一次 AI 客服交互视为一条正式的「运行」 — 就像我们处理 Recipe 执行和 Workflow 运行一样。每一条对话都被记录、可审查、可追踪。
你可以从 Monitor > Activity > Chat Agent Runs 访问聊天客服运行记录。每条记录都可点击,打开专用的详情页面,采用双栏布局,方便快速审查。
左栏 — 对话线程。 完整的消息历程以聊天气泡呈现,显示客户与 AI 客服之间的完整往返对话。每条消息都包含来源标签,标示回复的生成方式 — 是来自规则匹配、嵌入式 FAQ、RAG 检索、LLM 直接生成,还是人工升级处理。
右栏 — 解决方案详情。 AI 客服处理对话的结构化摘要:
- 来源:规则匹配、嵌入式 FAQ、RAG、LLM 或升级处理
- 置信度分数:AI 客服对其回复的置信程度
- 模型:使用了哪个 LLM 模型(例如 Claude、GPT)
- Token 用量:消耗的输入与输出 token 数
- 耗时:总回复时间
- 送达状态:消息是否成功送达客户的渠道
这种分栏视图让你能在同一画面同时审查客户体验和技术细节 — 不需要在多个画面之间来回切换或翻找日志。
看到 AI 看到的一切
最常见的调试问题之一是:「为什么 AI 客服会这样回复?」运行详情页面通过可折叠的上下文面板回答这个问题,揭示 AI 在生成每个回复时可用的所有信息。
FAQ 上下文。 当客服以嵌入式 FAQ 模式运作时,此面板会显示注入到 prompt 中的完整 FAQ 文档。你可以精确看到 AI 有哪些问答可用,从而轻松判断错误回答是因为缺少 FAQ 条目还是理解偏差。
匹配规则。 如果回复由规则触发,此面板会显示规则的类别、匹配模式和预期回复。这对于审计规则回复并确保规则正确触发非常有用。
系统提示。 AI 客服的完整人设指令 — 定义其语气、边界和行为的系统提示。当客服以意外方式回复时,检查系统提示通常是最快的理解途径。
真正能改善回答的质量反馈
对话线程中的每个回复都包含简单的点赞/点踩反馈机制,以及可选的备注字段。这不仅仅是追踪满意度 — 它建立了一个直接改善 AI 表现的反馈循环。
团队如何使用它:
追踪回答质量趋势。 汇总所有对话的反馈分数,观察 AI 客服的表现是在进步还是退步。在问题演变成客诉前就发现趋势。
找出 FAQ 缺口。 当 AI 在特定主题上持续收到差评,这代表你的 FAQ 内容需要更新。上下文面板让你轻松看出缺少了什么。
快速闭环改善。 回答不好?打开 FAQ 上下文面板,看看缺少什么,更新 FAQ 文档,下一位问同样问题的客户就会得到更好的回答。无需重新训练、无需重新部署 — 改善立即生效。
企业团队为何需要这项功能
对于在 SOC 2 等合规框架下运营的组织,每一个接触客户数据的 AI 决策都需要可被审计。Chat Agent 运行详情页面为每一次交互提供完整的审计轨迹:
- 可追踪性:每个回复都链接到其来源(规则、FAQ、RAG 文档或 LLM 生成),包含时间戳和模型元数据
- 治理对齐:运行详情与 JieGou 的 10 层治理框架集成,AI 客服交互与所有其他自动化工作流受到相同的策略管控
- SLA 监控:耗时和送达状态追踪让衡量 AI 客服是否达到响应时间承诺成为可能
- 合规证据:可导出的运行详情可作为审计证据,精确呈现客户查询的处理方式
这种程度的可见性将 AI 客服从「部署后祈祷」的模式,转变为可管理、可衡量的运营方式。
开始使用
Chat Agent 运行详情功能现已开放给所有启用聊天客服的 JieGou 账户。前往 Monitor > Activity,筛选 Chat Agent Runs,点击任何对话即可查看完整详情。
如果你正在评估 AI 客服平台,从 JieGou 开始 — 完整的可观测性从第一天起就内建其中,而非事后补上。