大数据可以帮助人们解决很多对于个人来说非常困难的问题。例如它可以帮助企业降低成本,帮助城市进行规划,帮助情报机构发现恐怖分子之间的联系,协助卫生官员预测疫情,以及帮助警察提前预知犯罪等。政策制定者会越来越倾向于根据数据做出决策,并且参考通过复杂算法得出的建议来做出决定。但是,如果这些数据是关于个人,尤其是没有太多话语权的普通百姓时,这些算法就会成为一种「压迫」。对于美国的很多穷人来说,每一次关于这些数据的收集都会将他们试图逃离贫困的努力变为泡影。
低收入用户是美国社会中被监视最严重的一部分民众。据巴尔的摩大学(University of Baltimore)法律教授Michele Gilman介绍,这并不是说警察随时都在盯着他们,而是说像公共福利项目、儿童福利系统等都在收集大量的用户数据,尤其是穷人。在一些特定的区域,为了能够将公共福利进行量化,申请者需要进行指纹采集和药物测试。一旦人们开始接受这些福利,政府将会开始监测他们如何花费这些资金,并且有时候也会在其家中进行检查。通过这些方式收集的数据最终会反馈到警察系统,从而形成了一个监测循环。「这些项目成为了大数据信息流的一个部分,而大多数人都没有意识到这一点,而这些最终都会对他们的机会产生影响。」Gilman说。一旦某人的某一次不当行为出现在了档案上,那么他将很难再找到另外一份工作、贷款或者租房。信贷员或者公司人事经理会检查申请人的个人记录,从而来确定这个人是否有一些不良行为。
渥太华大学教授Ian Kerr介绍,大数据系统不仅会预测一个人的机会大小,同时他们也可以违反无罪推定的法律原则。在法院系统之外,「无罪推定」是一项基本原则,也是人的基本权利。Kerr说,「申辩权(有权发表意见)、知情权、参加听证会的权利以及质疑信息的权利是基本权利。」但是如果我们采用大数据来帮助我们做决定,即Kerr所称的「算法正义」,那么我们的很多权利都将不复存在。
小编推荐阅读