林深坐在工位前，盯着屏幕上密密麻麻的代码流，感觉太阳穴突突直跳。他已经在这个工位上坐了整整十一个小时，中间只去了一趟洗手间，吃了一份外卖。公司的中央空调吹出的风带着一股霉味，像某种迟钝的麻醉剂，让他整个人都昏沉沉的。
下午六点零三分，系统预警的提示音再次响起。
那是一段被标记为红色的对话记录，来自某电商平台的客服系统。AI客服“小蜜”在与一位用户连续对话三十七分钟后，突然开始重复输出同样的句子：“我很抱歉您不满意，请问还有什么可以帮您的吗？”这句话被循环了四十二次，用户从愤怒到崩溃，最后留下一句“你们根本没有活人”便退出了对话。
林深揉了揉眼睛，把这段对话从头到尾看了一遍。AI的逻辑没有错，它的训练数据告诉它，当用户情绪激动时，要保持礼貌和耐心，不断询问对方的诉求。但问题是，这种礼貌在第三十七分钟的时候已经不再是服务，而是一种折磨。用户要的是一个能说“我明白你为什么生气”的真人，而不是一个永远在道歉却什么也解决不了的机器。
他调出AI的决策树，发现问题的根源在于一个非常微妙的参数设置——AI被要求在不确定用户意图的情况下，保持“最高级别的服务态度”。这个设定看似合理，但在实际运行中，当用户已经明确表达了不满，AI却无法识别“不满”本身就是一种需要被特殊处理的意图。
林深打开代码编辑器，在决策树的第三层增加了一个分支节点。他敲下一行注释：“当用户情绪评分低于-0.7且对话轮次超过20轮时，触发人工转接建议。”然后他又删掉了“建议”两个字，改成“强制转接”。做AI伦理调解员的第三年，他学到的最重要的一件事就是：在某个临界点之后，给AI留选择的余地，就是给用户添堵。
这是今晚处理的第四起案例了。
上午是一个教育平台的AI助教，在批改一名中学生的作文时，反复给出一段关于“尊重师长”的模板化评语，完全无视那篇作文其实在讨论校园霸凌。中午是一个招聘网站的AI面试官，因为求职者在自我介绍中提到“曾做过两年自由职业”，便自动将其标记为“职业稳定性存疑”。下午三点是一个社交媒体平台的AI审核员，把一篇讨论罕见病用药问题的科普文章判定为“传播负面情绪”并予以限流。
每一桩案例都不算严重，没有哪件事会单独登上热搜。但它们就像无数根细微的刺，扎在日常生活的肌理里，不致命，却让越来越多的人感到某种隐隐的不对劲——AI怎么越来越蠢了？为什么每次跟机器人说话都像在撞墙？那些公司不是号称AI很先进吗？
没有人知道，在这些公司内部，林深这样的人正试图在一行行代码和一段段对话中，替那些永远不会开口说话的AI回答一个最朴素的问题：你到底明不明白，你在跟活生生的人说话？
他的手机震了一下。是一条来自技术总监老周的私信，只有一句话：“明天上午十点，来我办公室，有个新项目。”
林深盯着这条消息看了几秒，没有立刻回复。三年前他刚来这家公司的时候，老周是技术部最年轻的组长，每天凌晨两点还在代码仓库里提交更新，大家都叫他周铁人。后来公司在b轮融资后估值翻了四倍，老周升了总监，开始穿西装来上班，办公室的门上贴了“技术研发中心总监”的铭牌。再后来，公司引进了AI驱动的项目管理系统，老周每周的KpI被拆解成四十七个可量化指标，精确到每个组的代码提交频率、bug修复时长、甚至员工在办公软件上的活跃时间段。
从那以后，老周就很少在晚上十一点前离开公司了。他的私信通常意味着有一件麻烦事要落到林深头上。