算法霸权 数学性的威胁与不公

揭示算法如何隐秘操纵我们我们生活在一个依赖“算法”的时代，它对我们生活的影响越来越大，我们去哪里上学，我是不是应该贷款买车，我们应该花多少钱来买健康保险，这些都不是由人来决定的，而是由大数据模型来决定的。从理论上来说，这一模型应该让社会更加公平，每一个人的衡量标准都是一样的，偏见是不存在的。但是，正如凯西·奥尼尔书里所揭示的那样，事实并非如此。我们今天所使用的这些数学模型是不透明的、未经调节的、极富争议的，有的甚至还是错误的。最糟糕的是，数学模型和大数据算法加剧了偏见与不公。例如，一个贫困学生想申请贷款交付学费，但是银行大数据算法根据他居住地的邮政编码判断将钱带给他存在风险，因此，拒绝给他提供贷款。他因此失去了受教育的机会，而这个机会可能帮助他摆脱贫困。大数据算法做的常常只是锦上添花的事儿，有时甚至是落井下石。通过个案追踪，凯西·奥尼尔揭示了大数据是如何影响我们将来的，它不仅影响着个人，也影响着整个社会。这些数据评价着我们的老师、学生，筛选着我们的简历，审核着我们的贷款资格，衡量着员工的工作态度，监视着投票者，监控着我们的健康。