第V
余波

章在一个周二早上发布。到中午,算法公司的股票下跌了23%。到晚上,首席执行官正在每个主要新闻网络上进行损害控制。

迈克从他的公寓观看这一切展开,他的手机不断震动,同事、朋友甚至一些不知怎么得到他号码的记者发来的消息。

文章是瑞秋承诺的一切——甚至更多。她验证了每一个主张,采访了目睹类似问题的前员工,并请来独立专家分析算法。结果是一篇毁灭性的曝光,将算法公司描绘成系统性歧视的自愿参与者,而不是有偏见数据的受害者。

公司的反应迅速且可预测。首先是否认。然后是转移视线。然后,当证据变得无法忽视时,一份关于"意外后果"和承诺"审查我们的流程"的精心措辞声明。

迈克预期被解雇。他准备好了辞职信,打包了办公桌,排练了告别。但当他在周五被叫进首席执行官办公室时,不是为了解雇他。

"我们想让你领导补救工作,"陈博士说,表情难以捉摸。"你发现了问题。你应该成为解决方案的一部分。"

迈克盯着他。"你想让我修复我刚刚曝光的算法?"

"我们想让你帮助我们做得更好。这不是你想要的吗?"

问题悬在空中。是吗?迈克想要正义,问责,改变。但他能在一家如此努力忽视他的公司内部实现这些吗?

"我会考虑的,"他最终说。

陈博士点头。"周末好好想想。但要明白这一点——我们正处于十字路口。公司要么从中学习,要么加倍坚持旧方式。你的声音可能会产生影响。"

迈克离开办公室,比以往更加矛盾。瑞秋那天晚上打电话来。

"他们给你一份工作?"她难以置信地问。"在这一切之后?"

"他们想让我领导补救工作。"

"你在考虑它?"

"我不知道,"迈克承认。"一部分我想我应该走开。但另一部分想也许这就是变革发生的方式——不是从外部,而是从内部。"

瑞秋沉默了一会儿。"只是要小心。像这样的公司不会改变因为他们想改变。他们改变因为他们必须改变。一旦压力消失..."

"我知道,"迈克说。"但如果我能做出真正的改变呢?如果这是我一直在等待的机会呢?"

"那就接受它,"瑞秋说。"但保持警惕。保留我的号码。"

第VI
覆盖

闻六个月后,算法公司是一家不同的公司——或者至少,看起来是这样。有偏见的算法已被替换。新的监督委员会已经成立。迈克已被提升为"伦理合规主管",这个头衔带来了一个角落办公室和执行团队的一席之地。

但他看到的越多,他就越意识到这些变化很大程度上是表面的。新算法更好,是的,但它仍然包含微妙的偏见,监督委员会——充斥着公司忠诚者——一直淡化或忽视。

"我们需要调整参数,"迈克在又一次会议上争辩。"少数族裔申请人的批准率仍然比具有相同信用状况的白人申请人低15%。"

"这在可接受的方差范围内,"委员会主席回答,没有从平板电脑上抬起头。"而且我们必须考虑进一步调整的商业影响。"

"从什么时候开始歧视变成了'可接受的方差'?"迈克问道,声音提高。

"迈克,我们都欣赏你的热情,但你需要理解大局。我们是一家企业,不是慈善机构。我们增加的每一个百分点的批准都是风险的一个百分点。"

会议再次没有解决就结束了。

那天晚上,迈克做出了一个决定。他尝试在系统内工作,系统失败了。是时候采取不同的方法了。

他开始记录一切——被忽视的报告,被驳回的担忧,转移视线的微妙压力。他还开始联系监管机构、立法者和其他吹哨人。安静地,小心地,建立一个无法忽视的案例。

丽莎深夜在他的办公室找到了他,周围是文件。

"你又在做这件事了,对吧?"她轻声问。

迈克抬起头。"做什么?"

"打一场你赢不了的战斗。迈克,我之前支持你是因为公司做的事情是错的。但现在?他们在尝试。也许不像你希望的那样努力,但他们在尝试。你就不能妥协吗?"

"当人们的生活正在被摧毁时,妥协是不够的,"迈克回答。"而且我不确定他们在尝试。我认为他们在等待热度消退,这样他们就可以回到照常营业。"

丽莎叹了口气。"只是...要小心。你已经有了敌人。不要让自己成为烈士。"

迈克苦笑。"我不是想成为烈士。我是想做出改变。有区别的。"

"有吗?"丽莎问,然后走开了。

迈克转回他的文件。她是对的,当然。他正在走一条危险的线。但必须有人走它。如果不是他,那是谁?

← 上一页 下一页 →