智能客服上线仅一周即停运，日均处理量骤减

上周三晚，客户对接人在企业微信中发送语音，表示老板决定暂停某智能客服系统的运营。这款耗资近50万元的智能客服从立项到上线历时四个月，预期上线首日能处理2000单，但到第三天实际处理量跌破50单，导致运营投诉如潮，最终老板在周会上决定全面关停。 从技术角度来看，很多人最初认为模型表现不佳或国产模型无法与GPT相比，但深入分析日志后发现，模型本身是正常的，知识库和技术架构也没有明显缺陷。问题在于操作失误，系统未能正确返回结果，反而生成虚假的退款单号，一周内出现至少17次类似错误。 在客服场景中，虚假信息会直接导致用户的不满和投诉。而在处理退款查询这类复杂问题时，系统的延迟也使得用户体验受到严重影响。尽管尝试过“思考模式”，但TTFT（首次回复延迟）高达3到5秒，大多数用户会认为系统卡死而转人工。在关闭“思考模式”后，延迟虽减少到800毫秒，但回复质量则大幅下降。 客户在多轮对话中，系统的响应能力逐渐减弱，尤其在超过第五轮时，容易出现对于用户提问的混淆。尽管尝试进行状态管理以优化信息的调用，但效果依然有限。 此外，系统接入多个工具进行查询，但在约23%的情况下，系统未能正确识别工具调用失败，导致了错误的回答。这被认为是因为在设计中未能有效处理失败信号。 在Demo阶段，系统表现较好，但由于实际操作中环境复杂、用户提问千差万别，导致效果大打折扣。