2018年2月，布拉姆維尼和蒂姆尼特·格布魯發(fā)表了一篇論文，一經(jīng)發(fā)表就在學術界和媒體中引起了廣泛反響，而不久前亞馬遜決定對警方使用其面部識別技術實行一年禁令，更是驗證了該論文的預見性，新一輪熱議就此展開。

該論文名為“性別陰影”，作者通過嚴謹?shù)臄?shù)據(jù)分析表明，像微軟和IBM這樣的大型公司在人工智能研究和開發(fā)項目上投資了數(shù)十億元，但以人工智能為基礎的面部識別技術在女性和膚色較深的人身上卻表現(xiàn)得差強人意。

布拉姆維尼的研究得到了美國公民自由聯(lián)盟的認可，他們通過亞馬遜的Rekognition系統(tǒng)對國會議員進行面部識別，結果有28名議員被錯誤匹配成了犯罪者的照片。結論顯而易見：如果國會議員可能被面部識別系統(tǒng)誤認，那么他們的選民也有同樣的可能。

布拉姆維尼和伊尼盧瓦·德博拉·拉吉繼續(xù)對此話題進行進一步研究。在2019年，兩人發(fā)表了名為“可操作的審計”的研究報告，此后亞馬遜的面部識別系統(tǒng)受到審查，因為在提高面部識別對于有色女性的有效性上，亞馬遜遠遠落后于其他公司。

但事情出現(xiàn)了轉折。曾經(jīng)為其面部識別產(chǎn)品辯護的公司，開始認真地重新評估自己的產(chǎn)品。IBM宣布將不再提供面部識別技術；亞馬遜表示將暫停向警方出售面部識別技術，時長為一年；微軟也宣布將不再向警方出售面部識別技術，“除非有聯(lián)邦法律規(guī)范該技術”。據(jù)《華盛頓郵報》報道，數(shù)百名微軟員工就要求公司領導重新考慮其執(zhí)法合同。

亞馬遜暫停對警方出售面部識別對于反對面部識別的人來說是一場巨大的勝利，該公司此前曾對其抗議活動施加巨大阻力。它發(fā)布了多篇博客文章，試圖質(zhì)疑審核員的工作，阻礙相關立法的制定。

由此可見，即使是像亞馬遜、IBM和Google這樣的科技巨頭，早先也已決定不提供面部識別API，他們也不認為這項技術可供警方使用。

布拉姆維尼在推特上寫道：“這不僅是研究人員的共同努力，也是公民自由組織、激進人士、員工和股東不斷施加的壓力，再加上喬治·弗洛伊德的不幸，以及公司對‘#黑人的命也是命’相關抗議活動遲來的認同”。

這種勝利在很大程度上是象征性的。但正如激進主義者指出的那樣，現(xiàn)在我們有了推動人臉識別立法的機會。

莫納什大學新興技術實驗室的研究員詹森?薩多夫斯基在推特上寫道：“在我看來，這并不是贏了一場戰(zhàn)役，而是贏得了一個乘勝追擊的時機來大獲全勝。我們所有人都抗擊得很辛苦，只是為了獲得足夠的反擊空間?，F(xiàn)在我終于感到踏實一點了?！?/p>

但請務必記住，在面部識別領域，像IBM和Amazon這樣的公司只是冰山一角。在美國，許多警察部門不從大型科技公司購買這些面部識別產(chǎn)品，而是從一些像NEC、Rank One和Cognitec等小型承包商那里購買聲稱使用了“法醫(yī)”面部識別算法的產(chǎn)品。

例如，DataWorks Plus開發(fā)了數(shù)據(jù)庫技術來分析警方存檔的照片和其他面部照片，然后批準NEC、Rank One和Cognitec使用其面部識別算法。

NEC將其面部識別和指紋識別技術銷售給包括美國20多個州在內(nèi)的全球1500多個執(zhí)法機構。自1983年在美國首次使用指紋識別技術以來，該公司就一直與生物識別技術的執(zhí)法部門有著合作關系。

人臉識別技術在法律方面的監(jiān)管尚未完善，這些公司利用其漏洞，在加利福尼亞州和馬薩諸塞州部分地區(qū)等完全缺乏聯(lián)邦法規(guī)的地方進行銷售。

至于大型科技公司，亞馬遜、微軟、IBM和Google，他們競爭的是人工智能在軍事和云計算領域的合同。除了IBM以外，所有這些科技公司都對聯(lián)邦合同保持沉默。亞馬遜還擁有智能門鈴公司Ring，據(jù)稱該公司已與美國1,000個警察部門建立了合作關系。

但毫無疑問，這些科技巨頭的舉措意味著，我們向著最終勝利邁出了重要的一步。