威廉姆斯(Robert Williams)住在底特律郊外，今年6月某天在家被警方逮捕，理由是脸部识别软件认为他涉嫌一起偷窃案——一名黑人闯入珠宝店，偷走了一些手表。闭路电视摄像头只拍到一点点嫌犯，而且非常不清楚。虽然警方知道，他们所使用的脸部识别软件有高达96%的错误率，而且软件也显示，对威廉姆斯只有六七成的把握，警方依旧去逮捕他，而且将之拘留了30个小时，直到他被证明无辜。这个事件曝露了AI的偏差，认为大多数的嫌犯可能是宽鼻梁、低眉毛，从偏见出发，导致脸部识别软件错误百出。
AI怎么可能有偏见？麦克阿瑟“天才奖”得主Trevor Paglen 今年9月在伦敦佩斯画廊(Pace)的个展直接面对这个问题。从AI的训练过程出发，探讨“受训过”的AI如何反映并延续了种族主义、父权制和阶级分化等社会不平等。不论是治安单位，还是大型企业，利用AI做脸部识别以及监控可能导致什么危险。
被Artnet 称为“超级英雄式的实证主义艺术家”，Paglen的专长是透过看得见，来调查看不见的。他不但为了亲眼看到埋在海底的网路电缆而去学潜水，还由于对美国公安局的“深入观察”，参与斯诺登纪录片《第四公民》（Citizenfour）的拍摄。 他在佩斯画廊展览的主题是《盛开》。“这是我在今年春天，当世界充满危机，充满了恐惧悲伤时创作的。疫情不但揭露生命的脆弱，也揭露出制度的脆弱。”Paglen在越洋电话中解释，他所住的纽约虽然像个空城，但春天的花朵压倒性地绽放，呈现出大自然的爆发力。“在艺术史上，花朵代表了多层的意义，既可能象征脆弱，生命的短暂，也能够代表生命的降临。”然而，不像在公园所看到的，展览中花朵看起来相当不自然，尤其是它的颜色。Paglen 解释，花朵的颜色是AI分析了不同的图像之后所生成的，是AI眼中而不是现实生活中的颜色。