窗外的霓虹在凌晨四点的雨幕里晕成一片模糊的橘红，林深从第七版审计报告里抬起头，后颈的僵直感已经麻木到觉不出疼了。他摘下眼镜，用拇指和食指掐住鼻梁，指腹下是长期睡眠不足留下的青灰色阴影。桌面上三块屏幕同时亮着，左边是某银行信贷模型的原始训练数据集，中间是正在跑偏差检测的python代码，右边是客户发来的第七封邮件——措辞从最初的“全力配合”已经升级为“希望贵司在商业可行性与伦理原则间取得合理平衡”。
合理平衡。林深咀嚼着这四个字，就像嚼一颗裹着糖衣的苦药。他把眼镜重新架回鼻梁，指尖划过触控板，调出这次审计的核心争议点：模型对某新一线城市青年男性的信用评分普遍低于实际还款能力基准线。表面上的特征是“夜间消费频次”和“社交账号活跃度”，但深层关联指向了区域经济转型期的阵痛——那里有大量从传统制造业溢出的灵活就业群体，他们的收入流水不规则，却在模型的特征工程中被粗暴地打上了“稳定性不足”的标签。
他起身走到茶水间，咖啡机嗡嗡作响，黑色的液体滴进玻璃壶的声音像某种倒计时。林深想起三个月前接这个案子时，合伙人陈默在立项会上拍着他的肩膀说：“深哥，银行那边压力大，监管新规下来头一拨必须过审，咱们把报告写得漂亮点，偏差系数控制在阈值内就行，剩下的——”陈默做了个“你懂的”手势，“业务逻辑那边会自己调权重。”
林深当时没接话。他入行三年，从最初的算法工程师转来做AI伦理审计，见过的“漂亮报告”能摞满半个书架。那些报告里充斥着“建议优化数据采样策略”“推荐增加公平性约束项”之类的温和措辞，像给一座倾斜的大厦贴上几片创可贴。但这次不一样，他跟踪这个信贷模型已经两个月，跑完了全部七类公平性指标，在交叉性维度上发现了惊人的累积歧视系数——当“新一线城市”叠加“25-35岁男性”再叠加“无房产”时，模型给出的违约概率预测比实际历史数据高出了整整三十七个百分点。
这不是噪声，不是偶然，这是算法在复刻社会偏见的同时，用自己的黑箱逻辑把它放大了。
林深端着咖啡回到工位，窗外天边泛起蟹壳青。他调出模型的可解释性分析模块，试图追踪那个“社交账号活跃度”特征的决策路径。ShAp值显示，这个特征在子群体中的贡献度异常高，但追溯数据来源才发现，训练集里关于该城市的社交数据主要采集自某几个头部短视频平台的用户公开信息，而这些平台的用户画像天然偏向高频消费、高互动、高展示欲的群体。那些一天只发两条微信、从不更新朋友圈的制造业转型者，在数据世界里几乎是透明的，他们的低活跃度被模型解读为“社会关系薄弱”，进而推导出“偿债意愿存疑”。
荒谬。林深在空白文档里敲下第一行审计结论。他想起大学时读福柯，说权力通过分类和排序来规训人群，而现在算法的权力更隐蔽——它甚至不需要理解你是什么人，只需要你留下足够多的数字脚印，然后把你放进最邻近的那个统计笼子里。笼子的栅栏是特征向量，锁是损失函数。
上午九点，视频会议准时开始。银行那边的风控总监姓周，五十岁上下，头发梳得一丝不苟，背景是一间挂着书法条幅的办公室。周总监的开场白客气而疏远：“林工，我们仔细研读了贵司前一阶段的中间报告，坦率讲，部分结论可能过于——怎么说呢——社会学导向了。我们关心的是坏账率，是监管合规，至于模型是不是‘理解’了某个群体的生活方式，这不是金融科技该解决的问题吧？”