第VI
覆盖

闻六个月后,算法公司是一家不同的公司——或者至少,看起来是这样。有偏见的算法已被替换。新的监督委员会已经成立。迈克已被提升为"伦理合规主管",这个头衔带来了一个角落办公室和执行团队的一席之地。

但他看到的越多,他就越意识到这些变化很大程度上是表面的。新算法更好,是的,但它仍然包含微妙的偏见,监督委员会——充斥着公司忠诚者——一直淡化或忽视。

"我们需要调整参数,"迈克在又一次会议上争辩。"少数族裔申请人的批准率仍然比具有相同信用状况的白人申请人低15%。"

"这在可接受的方差范围内,"委员会主席回答,没有从平板电脑上抬起头。"而且我们必须考虑进一步调整的商业影响。"

"从什么时候开始歧视变成了'可接受的方差'?"迈克问道,声音提高。

"迈克,我们都欣赏你的热情,但你需要理解大局。我们是一家企业,不是慈善机构。我们增加的每一个百分点的批准都是风险的一个百分点。"

会议再次没有解决就结束了。

那天晚上,迈克做出了一个决定。他尝试在系统内工作,系统失败了。是时候采取不同的方法了。

他开始记录一切——被忽视的报告,被驳回的担忧,转移视线的微妙压力。他还开始联系监管机构、立法者和其他吹哨人。安静地,小心地,建立一个无法忽视的案例。

丽莎深夜在他的办公室找到了他,周围是文件。

"你又在做这件事了,对吧?"她轻声问。

迈克抬起头。"做什么?"

"打一场你赢不了的战斗。迈克,我之前支持你是因为公司做的事情是错的。但现在?他们在尝试。也许不像你希望的那样努力,但他们在尝试。你就不能妥协吗?"

"当人们的生活正在被摧毁时,妥协是不够的,"迈克回答。"而且我不确定他们在尝试。我认为他们在等待热度消退,这样他们就可以回到照常营业。"

丽莎叹了口气。"只是...要小心。你已经有了敌人。不要让自己成为烈士。"

迈克苦笑。"我不是想成为烈士。我是想做出改变。有区别的。"

"有吗?"丽莎问,然后走开了。

迈克转回他的文件。她是对的,当然。他正在走一条危险的线。但必须有人走它。如果不是他,那是谁?

— 未完待续 —

← 上一页 下一页 →