数字化工具常被称颂为透明、民主化的“颠覆者”(disrupter)。两本新书主张，这种乐观的看法是错误的，就现在使用的算法来说，它们对边缘群体的人权构成了重大威胁。
加州大学洛杉矶分校(University of California, Los Angeles)信息学研究助理教授萨菲娅•乌莫亚•诺布尔(Safiya Umoja Noble)在介绍她研究的主题的时候，讲述了促使她写作《压迫性算法》(Algorithms of Oppression)的一件事。2011年9月，诺布尔想了解她十岁出头的继女和来家里玩的侄女们会喜欢什么，为了找灵感，她在谷歌(Google)上搜索了关键词“黑人女孩”。她原本是想查黑人女孩这个群体可能感兴趣的东西；相反，搜索出的结果页面充斥着色情内容。诺布尔幽默地评论道：“按照搜索结果排名罗列出来的最佳信息，对我或者我爱的孩子们来说显然不是最佳信息。”
诺布尔承认，任何搜索结果很快都会变成历史：一年后她又搜索了这个关键词，发现色情内容得到了控制。但诺布尔主张，这种事情应该被视为系统性问题，而不是一次性的“小故障”。尽管诺布尔并未以提供种族主义内容或性别歧视内容为由状告谷歌，但她不肯苟同一种看法，即谷歌搜索结果反映其用户的民主倾向，尽管这种倾向可能令人遗憾。她质疑谷歌对其算法产生的结果存在失职。
您已阅读20%（564字），剩余80%（2281字）包含更多重要信息，订阅以继续探索完整内容，并享受更多专属服务。