当 AI 降本增效的故事一遍遍刷屏，很多企业都在憧憬：用人工智能替代大量人力，压缩成本，拿到更亮眼的经营数据。瑞典金融科技公司 Klarna 就曾上演过这样一场近乎完美的实验。

AI 接管大部分客服工作，人力大幅缩减，成本显著优化，各项运营指标一路向好。可仅仅一年多之后，曾经的高光叙事急转直下。公司不得不重启客服招聘，CEO 公开反思战略失误。

这并不是 AI 技术的失败，而是管理层面一次极具警示意义的教训。古德哈特定律再一次应验：一旦考核指标本身成为终极目标，这个指标就失去了参考价值。只盯着可以量化的数据，那些无法被统计的代价，终会找上门。

一、一场看上去无比成功的 AI 客服实验

Klarna，全球头部先买后付（BNPL）金融科技企业，坐拥上亿规模用户，客服咨询体量巨大。为了优化服务成本与响应效率，2024 年初，企业选择和 OpenAI 合作，上线大规模 AI 客服体系。

上线之后的业务表现，几乎满足企业对于 AI 的全部想象。

海量标准化咨询全部交由 AI 自动处理，累计完成 230 万次用户对话，覆盖公司三分之二的客服业务量，大致等同于 700 名全职人员的工作负荷。用户咨询的平均处理时长，从原先 11 分钟直接压缩至 2 分钟以内。根据内部测算，这套 AI 每年可以为企业创造约 4000 万美元的利润改善。

效率跃升、人力成本下降，一组组亮眼的数据，成为对外宣传、面向投资人展示的核心筹码。

基于这份成绩单，管理层做出判断：AI 已经足以承接绝大多数人的工作。公司宣布停止对外招聘，员工总人数从 4500 逐步缩减到 3500 人。在彭博的公开采访中，CEO 十分乐观地对外输出观点，AI 有能力完成人类的各类工作。

所有的决策，都建立在可视化监控看板之上。对话数量、响应时长、成本节约额，每一项数字都无可挑剔。

但光鲜的数据之下，裂痕已经悄悄滋生。时隔一年左右，还是同一位 CEO，在同样的媒体镜头前，推翻了此前的判断。

他坦言，企业过度追逐成本目标，直接造成客户服务质量滑坡。对于一家面向消费者的企业而言，必须保证用户随时能够对接真人客服。随之而来，Klarna 重新开启客服岗位招聘。

值得注意的是，当初那一系列引以为傲的数据并没有造假。AI 确实处理了海量会话，响应速度得到提升，成本优化效果也基本落地。问题不在于数据本身，而在于**数据只能记录它能够看见的东西**。

二、报表看不到的情绪，正在悄悄消耗品牌

客服工作，从来都不是单纯的问答流转。

大量用户的诉求简单清晰：查订单状态、修改收货地址、申请退款、核对账户余额。面对这类流程化问题，AI 优势十足，全天候待命，反馈迅速，输出结果稳定，甚至比普通人工处理更加高效。

可现实的客服场景里，永远存在一部分脱离标准模板的复杂诉求，夹杂着个人处境、负面情绪和时间压力。

举一个很有代表性的场景：消费者长时间没有收到商品，多次求助客服却得不到实质进展，这件货品还是送给至亲的生日礼物，临近截止日期，用户内心充满焦虑。

AI 可以识别 “未收到货” 关键词，自动触发退款工单，快速输出一套标准化回复，把本次会话的处理时长压到极低。但算法无法读懂文字背后的焦灼、反复求助后的失望，更无法共情用户的现实困境。用户想要的不只是一个流程工单，而是被理解、被重视。

一通模板化回复，不仅没有消解矛盾，反而进一步激化用户不满。对话结束，监控面板依旧标记这是一次高效办结的会话。可用户对品牌的信任感，已经被损耗。

用户情绪、品牌好感、客户内心的失望，这些关键要素，没办法统计进仪表盘。

这正是古德哈特定律的现实投射。企业把会话处理量、平均解决时长定为核心考核目标，团队就会想尽一切办法把这两项指标做到最优。那些无法量化的用户体验，则被摆在次要位置。

三、AI 没有消灭难题，只是把矛盾向后转移

很多人会理所当然地认为：AI 接手简单咨询，人工只需要处理少量疑难问题，真人团队的工作压力会持续降低。Klarna 的实际运营结果，给出完全相反的答案。

AI 只是充当了一道前置过滤器，把简单问题快速消化，**复杂问题并不会凭空消失，只会全部堆积到人工环节，同时原有缓冲机制被一并拆除。

在全面 AI 化之前，富有经验的人工客服，可以通过用户的只言片语快速分辨棘手案例。不用走完完整流程，就提前向上升级流转，将矛盾消解在早期，避免用户反复周旋。

AI 没有这种基于人性的甄别能力。它会严格走完预设的全部流程，穷尽所有模板方案，实在无力解决，才会将工单转交人工。

管理层看着报表：三分之二的咨询都由 AI 承接，人工负载大幅下降。既然 AI 表现如此出色，就不再需要维持原有的客服人员规模，进一步缩减团队。

最终形成一种恶性循环：流转到真人手上的全部是疑难杂症。用户在此之前已经和机器人来回拉扯，接收一堆毫无帮助的标准答案，情绪已经处于爆发边缘。人工接手之后，处理难度不降反升。

这里也暴露出平均数指标巨大的迷惑性。

整体平均解决时长大幅缩短，主要得益于海量简单咨询被极速处理。少数复杂个案，沟通耗时、情绪处理成本反而在上涨。一个平均数字，掩盖了两种截然不同的真实业务现状。

企业管理层更愿意信赖看板数据，因为成本、会话量、处理时长都可以实时查看，可以写进季度财报。但客户流失、好感下降，很难在短期财报周期体现。

被忽略的风险不会凭空消散，只是暂时隐匿。等到集中爆发的时候，代价已经无法回避：用户默默流失、复购下滑、品牌口碑受损，迫使企业做出战略调整。

纵观各行各业，同类教训并不少见。英国医疗体系曾将平均住院天数作为核心考核，医院为了美化数据，提前让病人出院，造成复诊入院率走高；部分呼叫中心考核通话数量，客服一味快速结束对话，不在乎用户问题是否真正解决。

考核指标变得功利，实际业务就会发生变形。

 四、AI 是工具，而不是全盘替代的标准答案

经历这次教训之后，Klarna 并没有彻底放弃 AI 客服，而是转向 “AI + 人工” 协同的模式。

AI 继续承担大量标准化、重复性的咨询工作，充分发挥它效率高、不间断工作的优势。但企业重新确立底线：复杂、带有强烈个人情绪的案例，必须交给真人介入处理。

AI 可以高效处理可标准化的工作，却很难承接人的处境、共情与灵活的例外判断。AI 能把显性指标做到尽善尽美，但那些隐性的体验，依然需要人来兜底。

如今，各类 AI 降本案例层出不穷。看到 AI 节省多少成本、效率提升多少倍的宣传时，我们应当多一层思考：这套体系重点在衡量什么？又有哪些重要的东西，没有被纳入衡量体系？

大众一直在争论 AI 会不会取代人类工作。或许更有价值的思考角度是：一份工作中，哪些内容可以标准化、可以被量化统计，这部分最容易被 AI 赋能甚至替代。

而那些无法被数字度量的部分：共情理解、复杂权衡、对特殊现实场景的判断，不会因为没有报表统计就不复存在。它只是不再体现在亮眼的 KPI 之中，沉淀为客户的感受，最终决定一家企业长期的生命力。

AI 是一把强大的工具，但企业经营，从来不是只看仪表盘上的数字。