記者 | 吳洋洋 編輯 | 陳 銳 上周，IBM、亞馬遜和微軟相繼發(fā)表聲明，宣布不再向警方提供人臉識(shí)別技術(shù)。其中，亞馬遜表示將對(duì)向警察出售人臉識(shí)別工具的業(yè)務(wù)暫停一年；微軟把禁售期設(shè)置在了“監(jiān)管人臉識(shí)別技術(shù)的聯(lián)邦法律出臺(tái)之前”；IBM最先表態(tài)也最徹底，聲稱將永久停止提供其人臉識(shí)別軟件作“大規(guī)模監(jiān)控或種族歸納”之用。 對(duì)包括人臉識(shí)別在內(nèi)的AI侵犯隱私的聲討由來(lái)已久，但它并不是這些技術(shù)公司此次表態(tài)的直接原因。 5月25日，非裔美國(guó)人喬治·弗洛伊德（George Floyd）在明尼蘇達(dá)州涉嫌使用假鈔被捕，并被警察以壓頸執(zhí)法致死。事件引發(fā)美國(guó)社會(huì)以“BLM（Black Lives Matter，黑人的命也是命）”為口號(hào)的反種族歧視運(yùn)動(dòng)。 美國(guó)民眾抗議警察暴力執(zhí)法。| 圖片來(lái)源：視覺(jué)中國(guó)  在美國(guó)，IBM、亞馬遜、微軟等公司都曾不同程度地向美國(guó)執(zhí)法機(jī)構(gòu)交付過(guò)人臉識(shí)別工具。通過(guò)這類工具，警察可以在街頭巡邏時(shí)快速比對(duì)他們手機(jī)攝像頭中的圖片，還能將其與警察數(shù)據(jù)庫(kù)中的數(shù)十萬(wàn)張照片做匹配。這種人臉識(shí)別工具強(qiáng)化了警察的能力，也自帶偏見(jiàn)。 在科技公司站出來(lái)之前，以價(jià)值觀著稱的Nike、星巴克等消費(fèi)品公司都已發(fā)聲，Nike在一支廣告片中將其品牌口號(hào)“Just do it”臨時(shí)性地改成了“Don’t do it”；星巴克也從6月12日起允許員工穿戴BLM相關(guān)的服飾，并發(fā)放了25萬(wàn)件相關(guān)配飾給員工。 為什么是IBM開(kāi)了這個(gè)頭？ 在寫給國(guó)會(huì)議員的那封信中，CEO克里什納的具體表述為，IBM將不再提供基于通用目的的人臉識(shí)別技術(shù)和分析軟件。 這一表述被認(rèn)為模棱兩可，比如位于倫敦的名為國(guó)際隱私（Privacy International）的NGO在接受BBC采訪時(shí)，對(duì)其的一種解讀就是：那么是否還可以繼續(xù)提供基于定制的人臉識(shí)別技術(shù)和分析軟件？ IBM在該領(lǐng)域的行業(yè)地位是外界質(zhì)疑其出發(fā)點(diǎn)的主要原因——在人臉識(shí)別領(lǐng)域，IBM的市場(chǎng)份額其實(shí)很小。  準(zhǔn)確說(shuō)，包括人臉識(shí)別在內(nèi)的人工智能技術(shù)本身并不是獨(dú)立的產(chǎn)品，只是一種底層技術(shù)——其前端需要諸如智能攝像頭、智能手機(jī)、智慧門鈴等終端設(shè)備，后端需要云計(jì)算設(shè)施存儲(chǔ)和處理數(shù)據(jù)。 在美國(guó)，擁有這項(xiàng)技術(shù)的技術(shù)公司比如亞馬遜、微軟等之所以出售這項(xiàng)技術(shù)，主要是為了銷售它們的終端產(chǎn)品和輔助的云計(jì)算服務(wù)，而IBM在這兩個(gè)場(chǎng)景中的市場(chǎng)份額都很小。IBM 的人臉識(shí)別主打產(chǎn)品Watson visual detection的主要使用場(chǎng)景為安防領(lǐng)域，主要客戶則是政府安保部門或其他安防機(jī)構(gòu)。 根據(jù)市場(chǎng)研究機(jī)構(gòu)Gartner的數(shù)據(jù)，2019年，全球云計(jì)算市場(chǎng)中份額最高的公司是亞馬遜（45%），其次是微軟（17.9%）和阿里云（9.1%），Google擁有5.3%的份額，剩余23.7%的份額由“其他”數(shù)家公司共享——IBM屬于“其他”這部分。 IBM在這一領(lǐng)域其實(shí)失意已久，盡管它原本算得上人工智能時(shí)代的領(lǐng)頭羊。早在2008年，時(shí)任CEO彭明盛就提出了“智慧地球”這一概念，并建議當(dāng)時(shí)的奧巴馬政府投資新一代的智慧型基礎(chǔ)設(shè)施。這個(gè)概念成為后來(lái)“智慧城市”的雛形，其標(biāo)配就是智能攝像頭、傳感器、圖像識(shí)別以及人臉識(shí)別。 而在更早的1997 年，IBM的人工智能程序“深藍(lán)”就戰(zhàn)勝了國(guó)際象棋冠軍卡斯帕洛夫。 但I(xiàn)BM一直缺乏為這些技術(shù)尋找落地場(chǎng)景、將它們進(jìn)一步商業(yè)化的能力。 與其對(duì)照，亞馬遜通過(guò)不斷在新拓展的場(chǎng)景中應(yīng)用新技術(shù)，拿到了從云計(jì)算到人工智能的實(shí)際市場(chǎng)份額。就人工智能而言，這個(gè)零售商除了可以直接向警察銷售的人臉識(shí)別軟件Rekognition，還有面向普通消費(fèi)者的智慧門鈴Ring、智能音箱Echo等。 被回避的問(wèn)題： AI濫用及其對(duì)隱私的侵犯 IBM在信中呼吁對(duì)用于執(zhí)法的人工智能系統(tǒng)做“偏見(jiàn)測(cè)試（bias test）”。不過(guò)，尚沒(méi)有證據(jù)表明5月25日當(dāng)天警察之所以執(zhí)法過(guò)當(dāng)，跟George Floyd曾有的犯罪記錄或者警察是否使用了相應(yīng)的AI工具有什么關(guān)聯(lián)。 IBM下了一步險(xiǎn)棋。它表現(xiàn)了一家老牌技術(shù)公司在消除歧視方面的社會(huì)責(zé)任，將反思之火燒到比人臉識(shí)別、比偏見(jiàn)更深遠(yuǎn)的領(lǐng)域，直到到達(dá)問(wèn)題的核心——人們對(duì)AI濫用及其侵犯隱私的擔(dān)憂。 當(dāng)今美國(guó)最嚴(yán)厲的隱私法是《加利福尼亞消費(fèi)者隱私法》（California Consumer Privacy Act），這項(xiàng)法律剛剛于2020年1月1日生效。根據(jù)法律，加利福尼亞的消費(fèi)者不僅有權(quán)知道自己的數(shù)據(jù)是出售還是轉(zhuǎn)讓給第三方，而且他們還有權(quán)阻止交易。 但是交易只是數(shù)據(jù)價(jià)值的一部分，即使這項(xiàng)“最嚴(yán)厲”的法律也沒(méi)有對(duì)技術(shù)公司可以如何獲取數(shù)據(jù)、使用用戶數(shù)據(jù)做出規(guī)定。更遑論執(zhí)法上的難度，技術(shù)作者Charlie Warzel在《紐約時(shí)報(bào)》今年1月的一份評(píng)論中稱：有關(guān)公司只是虛假地聲稱他們遵守隱私法，因?yàn)樗麄冎辣O(jiān)管機(jī)構(gòu)根本不會(huì)對(duì)其審查。 并不中立的AI 在BLM運(yùn)動(dòng)爆發(fā)前，有關(guān)AI偏見(jiàn)、AI歧視的研究和討論已持續(xù)數(shù)年。 AI并不像外界料想的那般中立，“它能增強(qiáng)現(xiàn)有偏見(jiàn)和歧視�！逼杖A永道咨詢公司的AI道德專家（AI ethics expert）Maria Axente說(shuō)。 這種被強(qiáng)化的偏見(jiàn)危害深遠(yuǎn)。 使用AI推薦Spotify上的歌曲或Netflix上的電影，即使推薦不合口味也不會(huì)有多糟糕的后果，但如果一個(gè)AI可以決定貸款給誰(shuí)、或者對(duì)患者究竟患了何種疾病做出診斷，那它是否有偏見(jiàn)就事關(guān)生存和生命。 2017年，算法正義聯(lián)盟（Algorithmic Justice League）創(chuàng)始人Joy Buolamwini 對(duì)IBM、微軟、曠視3家公司的人臉識(shí)別算法做了偏見(jiàn)測(cè)試。他收集了來(lái)自3個(gè)非洲國(guó)家和3個(gè)歐洲國(guó)家的1270張人臉照片，交給三家公司的產(chǎn)品識(shí)別，結(jié)果顯示，三個(gè)產(chǎn)品對(duì)女性的識(shí)別率低于男性、對(duì)深色人種的識(shí)別準(zhǔn)確率遠(yuǎn)低于白種人。其中，IBM的算法準(zhǔn)確率誤差最大，其對(duì)淺膚色男性和深膚色女性的錯(cuò)誤率相差達(dá)到了34.4%。 造成算法“偏見(jiàn)”的原因很簡(jiǎn)單——主要是由數(shù)據(jù)量不足造成的。美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究所和德克薩斯大學(xué)達(dá)拉斯分校的研究人員在2010年發(fā)表的一項(xiàng)研究就指出，東亞設(shè)計(jì)和測(cè)試的算法在識(shí)別東亞人方面更好，而西方國(guó)家設(shè)計(jì)的算法在發(fā)現(xiàn)高加索人方面更準(zhǔn)確。造成這種結(jié)果的直接原因是它們能收集到的數(shù)據(jù)種類及其規(guī)模。 但算法偏見(jiàn)也不純粹是個(gè)技術(shù)問(wèn)題。2017年，微軟旗下的人工智能聊天機(jī)器人Tay在Twitter上線，這款機(jī)器人推出的目標(biāo)是與18-24歲的年輕人互動(dòng)，并通過(guò)這種互動(dòng)學(xué)習(xí)、訓(xùn)練。然而24個(gè)小時(shí)后，Tay就因辱罵用戶、發(fā)表種族主義評(píng)論等表現(xiàn)被迅速撤下。事故之后，微軟換上了經(jīng)過(guò)內(nèi)容審查的版本Zo，但它并沒(méi)有找到根本性地解決問(wèn)題的辦法。  機(jī)器人Tay的賬號(hào)已經(jīng)被撤銷 。 不會(huì)停止的博弈： 激進(jìn)分子、道德主義與技術(shù)中立者的博弈 對(duì)于究竟哪些數(shù)據(jù)算隱私、哪些可以被冒犯而哪些又可以妥協(xié)，社會(huì)并沒(méi)有一致意見(jiàn)。 如果將對(duì)隱私的態(tài)度畫出一條光譜，技術(shù)極客和激進(jìn)的人權(quán)組織、保守的立法者會(huì)分立這條光譜的兩端，技術(shù)公司則居于中間——他們大部分都是技術(shù)中立者。 歐盟市場(chǎng)競(jìng)爭(zhēng)事務(wù)與反壟斷委員維斯塔格（Margrethe Vestager） 認(rèn)為，在人臉識(shí)別技術(shù)變得“無(wú)處不在”之前，政府需要對(duì)這項(xiàng)技術(shù)做出限制。 2018年5月，歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR)開(kāi)始實(shí)施。根據(jù)條例，凡在歐盟運(yùn)營(yíng)或處理歐盟數(shù)據(jù)的公司，都必須在收集數(shù)據(jù)之前獲得用戶同意。同時(shí)，公司還必須向用戶提供“被遺忘的權(quán)利”——根據(jù)要求刪除其信息。 亞馬遜網(wǎng)絡(luò)服務(wù)部的一位負(fù)責(zé)人曾對(duì)BBC稱，應(yīng)該由政治家決定是否應(yīng)該對(duì)AI實(shí)施限制措施。這種說(shuō)法代表了絕大多數(shù)技術(shù)公司及其股東的立場(chǎng)。 亞馬遜的部分股東曾試圖反對(duì)亞馬遜向警方出售人臉識(shí)別技術(shù)，但在2019年5月舉行的一次股東大會(huì)上，股東們就該議題投票，希望禁止政府使用Rekognition軟件的提案獲得了將近830萬(wàn)張選票，但支持既有業(yè)務(wù)維持下去的票數(shù)達(dá)到3.27億張，另有大約550萬(wàn)棄權(quán)——反對(duì)向警方出售Rekognition軟件的股東僅有2.4％。 無(wú)論接受與否，隱私在消逝。商業(yè)就是這樣。 |
免責(zé)聲明：本站部分文章和圖片均來(lái)自用戶投稿和網(wǎng)絡(luò)收集，旨在傳播知識(shí)，文章和圖片版權(quán)歸原作者及原出處所有，僅供學(xué)習(xí)與參考，請(qǐng)勿用于商業(yè)用途，如果損害了您的權(quán)利，請(qǐng)聯(lián)系我們及時(shí)修正或刪除。謝謝！
始終以前瞻性的眼光聚焦站長(zhǎng)、創(chuàng)業(yè)、互聯(lián)網(wǎng)等領(lǐng)域，為您提供最新最全的互聯(lián)網(wǎng)資訊，幫助站長(zhǎng)轉(zhuǎn)型升級(jí)，為互聯(lián)網(wǎng)創(chuàng)業(yè)者提供更加優(yōu)質(zhì)的創(chuàng)業(yè)信息和品牌營(yíng)銷服務(wù)，與站長(zhǎng)一起進(jìn)步！讓互聯(lián)網(wǎng)創(chuàng)業(yè)者不再孤獨(dú)！
掃一掃，關(guān)注站長(zhǎng)網(wǎng)微信
大家都在看
