記者 | 吳洋洋 編輯 | 陳 銳 上周，IBM、亞馬遜和微軟相繼發(fā)表聲明，宣布不再向警方提供人臉識別技術(shù)。其中，亞馬遜表示將對向警察出售人臉識別工具的業(yè)務(wù)暫停一年；微軟把禁售期設(shè)置在了“監(jiān)管人臉識別技術(shù)的聯(lián)邦法律出臺之前”；IBM最先表態(tài)也最徹底，聲稱將永久停止提供其人臉識別軟件作“大規(guī)模監(jiān)控或種族歸納”之用。 對包括人臉識別在內(nèi)的AI侵犯隱私的聲討由來已久，但它并不是這些技術(shù)公司此次表態(tài)的直接原因。 5月25日，非裔美國人喬治·弗洛伊德（George Floyd）在明尼蘇達(dá)州涉嫌使用假鈔被捕，并被警察以壓頸執(zhí)法致死。事件引發(fā)美國社會以“BLM（Black Lives Matter，黑人的命也是命）”為口號的反種族歧視運動。 美國民眾抗議警察暴力執(zhí)法。| 圖片來源：視覺中國  在美國，IBM、亞馬遜、微軟等公司都曾不同程度地向美國執(zhí)法機(jī)構(gòu)交付過人臉識別工具。通過這類工具，警察可以在街頭巡邏時快速比對他們手機(jī)攝像頭中的圖片，還能將其與警察數(shù)據(jù)庫中的數(shù)十萬張照片做匹配。這種人臉識別工具強(qiáng)化了警察的能力，也自帶偏見。 在科技公司站出來之前，以價值觀著稱的Nike、星巴克等消費品公司都已發(fā)聲，Nike在一支廣告片中將其品牌口號“Just do it”臨時性地改成了“Don’t do it”；星巴克也從6月12日起允許員工穿戴BLM相關(guān)的服飾，并發(fā)放了25萬件相關(guān)配飾給員工。 為什么是IBM開了這個頭？ 在寫給國會議員的那封信中，CEO克里什納的具體表述為，IBM將不再提供基于通用目的的人臉識別技術(shù)和分析軟件。 這一表述被認(rèn)為模棱兩可，比如位于倫敦的名為國際隱私（Privacy International）的NGO在接受BBC采訪時，對其的一種解讀就是：那么是否還可以繼續(xù)提供基于定制的人臉識別技術(shù)和分析軟件？ IBM在該領(lǐng)域的行業(yè)地位是外界質(zhì)疑其出發(fā)點的主要原因——在人臉識別領(lǐng)域，IBM的市場份額其實很小。  準(zhǔn)確說，包括人臉識別在內(nèi)的人工智能技術(shù)本身并不是獨立的產(chǎn)品，只是一種底層技術(shù)——其前端需要諸如智能攝像頭、智能手機(jī)、智慧門鈴等終端設(shè)備，后端需要云計算設(shè)施存儲和處理數(shù)據(jù)。 在美國，擁有這項技術(shù)的技術(shù)公司比如亞馬遜、微軟等之所以出售這項技術(shù)，主要是為了銷售它們的終端產(chǎn)品和輔助的云計算服務(wù)，而IBM在這兩個場景中的市場份額都很小。IBM 的人臉識別主打產(chǎn)品Watson visual detection的主要使用場景為安防領(lǐng)域，主要客戶則是政府安保部門或其他安防機(jī)構(gòu)。 根據(jù)市場研究機(jī)構(gòu)Gartner的數(shù)據(jù)，2019年，全球云計算市場中份額最高的公司是亞馬遜（45%），其次是微軟（17.9%）和阿里云（9.1%），Google擁有5.3%的份額，剩余23.7%的份額由“其他”數(shù)家公司共享——IBM屬于“其他”這部分。 IBM在這一領(lǐng)域其實失意已久，盡管它原本算得上人工智能時代的領(lǐng)頭羊。早在2008年，時任CEO彭明盛就提出了“智慧地球”這一概念，并建議當(dāng)時的奧巴馬政府投資新一代的智慧型基礎(chǔ)設(shè)施。這個概念成為后來“智慧城市”的雛形，其標(biāo)配就是智能攝像頭、傳感器、圖像識別以及人臉識別。 而在更早的1997 年，IBM的人工智能程序“深藍(lán)”就戰(zhàn)勝了國際象棋冠軍卡斯帕洛夫。 但I(xiàn)BM一直缺乏為這些技術(shù)尋找落地場景、將它們進(jìn)一步商業(yè)化的能力。 與其對照，亞馬遜通過不斷在新拓展的場景中應(yīng)用新技術(shù)，拿到了從云計算到人工智能的實際市場份額。就人工智能而言，這個零售商除了可以直接向警察銷售的人臉識別軟件Rekognition，還有面向普通消費者的智慧門鈴Ring、智能音箱Echo等。 被回避的問題： AI濫用及其對隱私的侵犯 IBM在信中呼吁對用于執(zhí)法的人工智能系統(tǒng)做“偏見測試（bias test）”。不過，尚沒有證據(jù)表明5月25日當(dāng)天警察之所以執(zhí)法過當(dāng)，跟George Floyd曾有的犯罪記錄或者警察是否使用了相應(yīng)的AI工具有什么關(guān)聯(lián)。 IBM下了一步險棋。它表現(xiàn)了一家老牌技術(shù)公司在消除歧視方面的社會責(zé)任，將反思之火燒到比人臉識別、比偏見更深遠(yuǎn)的領(lǐng)域，直到到達(dá)問題的核心——人們對AI濫用及其侵犯隱私的擔(dān)憂。 當(dāng)今美國最嚴(yán)厲的隱私法是《加利福尼亞消費者隱私法》（California Consumer Privacy Act），這項法律剛剛于2020年1月1日生效。根據(jù)法律，加利福尼亞的消費者不僅有權(quán)知道自己的數(shù)據(jù)是出售還是轉(zhuǎn)讓給第三方，而且他們還有權(quán)阻止交易。 但是交易只是數(shù)據(jù)價值的一部分，即使這項“最嚴(yán)厲”的法律也沒有對技術(shù)公司可以如何獲取數(shù)據(jù)、使用用戶數(shù)據(jù)做出規(guī)定。更遑論執(zhí)法上的難度，技術(shù)作者Charlie Warzel在《紐約時報》今年1月的一份評論中稱：有關(guān)公司只是虛假地聲稱他們遵守隱私法，因為他們知道監(jiān)管機(jī)構(gòu)根本不會對其審查。 并不中立的AI 在BLM運動爆發(fā)前，有關(guān)AI偏見、AI歧視的研究和討論已持續(xù)數(shù)年。 AI并不像外界料想的那般中立，“它能增強(qiáng)現(xiàn)有偏見和歧視�！逼杖A永道咨詢公司的AI道德專家（AI ethics expert）Maria Axente說。 這種被強(qiáng)化的偏見危害深遠(yuǎn)。 使用AI推薦Spotify上的歌曲或Netflix上的電影，即使推薦不合口味也不會有多糟糕的后果，但如果一個AI可以決定貸款給誰、或者對患者究竟患了何種疾病做出診斷，那它是否有偏見就事關(guān)生存和生命。 2017年，算法正義聯(lián)盟（Algorithmic Justice League）創(chuàng)始人Joy Buolamwini 對IBM、微軟、曠視3家公司的人臉識別算法做了偏見測試。他收集了來自3個非洲國家和3個歐洲國家的1270張人臉照片，交給三家公司的產(chǎn)品識別，結(jié)果顯示，三個產(chǎn)品對女性的識別率低于男性、對深色人種的識別準(zhǔn)確率遠(yuǎn)低于白種人。其中，IBM的算法準(zhǔn)確率誤差最大，其對淺膚色男性和深膚色女性的錯誤率相差達(dá)到了34.4%。 造成算法“偏見”的原因很簡單——主要是由數(shù)據(jù)量不足造成的。美國國家標(biāo)準(zhǔn)技術(shù)研究所和德克薩斯大學(xué)達(dá)拉斯分校的研究人員在2010年發(fā)表的一項研究就指出，東亞設(shè)計和測試的算法在識別東亞人方面更好，而西方國家設(shè)計的算法在發(fā)現(xiàn)高加索人方面更準(zhǔn)確。造成這種結(jié)果的直接原因是它們能收集到的數(shù)據(jù)種類及其規(guī)模。 但算法偏見也不純粹是個技術(shù)問題。2017年，微軟旗下的人工智能聊天機(jī)器人Tay在Twitter上線，這款機(jī)器人推出的目標(biāo)是與18-24歲的年輕人互動，并通過這種互動學(xué)習(xí)、訓(xùn)練。然而24個小時后，Tay就因辱罵用戶、發(fā)表種族主義評論等表現(xiàn)被迅速撤下。事故之后，微軟換上了經(jīng)過內(nèi)容審查的版本Zo，但它并沒有找到根本性地解決問題的辦法。  機(jī)器人Tay的賬號已經(jīng)被撤銷 。 不會停止的博弈： 激進(jìn)分子、道德主義與技術(shù)中立者的博弈 對于究竟哪些數(shù)據(jù)算隱私、哪些可以被冒犯而哪些又可以妥協(xié)，社會并沒有一致意見。 如果將對隱私的態(tài)度畫出一條光譜，技術(shù)極客和激進(jìn)的人權(quán)組織、保守的立法者會分立這條光譜的兩端，技術(shù)公司則居于中間——他們大部分都是技術(shù)中立者。 歐盟市場競爭事務(wù)與反壟斷委員維斯塔格（Margrethe Vestager） 認(rèn)為，在人臉識別技術(shù)變得“無處不在”之前，政府需要對這項技術(shù)做出限制。 2018年5月，歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR)開始實施。根據(jù)條例，凡在歐盟運營或處理歐盟數(shù)據(jù)的公司，都必須在收集數(shù)據(jù)之前獲得用戶同意。同時，公司還必須向用戶提供“被遺忘的權(quán)利”——根據(jù)要求刪除其信息。 亞馬遜網(wǎng)絡(luò)服務(wù)部的一位負(fù)責(zé)人曾對BBC稱，應(yīng)該由政治家決定是否應(yīng)該對AI實施限制措施。這種說法代表了絕大多數(shù)技術(shù)公司及其股東的立場。 亞馬遜的部分股東曾試圖反對亞馬遜向警方出售人臉識別技術(shù)，但在2019年5月舉行的一次股東大會上，股東們就該議題投票，希望禁止政府使用Rekognition軟件的提案獲得了將近830萬張選票，但支持既有業(yè)務(wù)維持下去的票數(shù)達(dá)到3.27億張，另有大約550萬棄權(quán)——反對向警方出售Rekognition軟件的股東僅有2.4％。 無論接受與否，隱私在消逝。商業(yè)就是這樣。 |
免責(zé)聲明：本站部分文章和圖片均來自用戶投稿和網(wǎng)絡(luò)收集，旨在傳播知識，文章和圖片版權(quán)歸原作者及原出處所有，僅供學(xué)習(xí)與參考，請勿用于商業(yè)用途，如果損害了您的權(quán)利，請聯(lián)系我們及時修正或刪除。謝謝！
始終以前瞻性的眼光聚焦站長、創(chuàng)業(yè)、互聯(lián)網(wǎng)等領(lǐng)域，為您提供最新最全的互聯(lián)網(wǎng)資訊，幫助站長轉(zhuǎn)型升級，為互聯(lián)網(wǎng)創(chuàng)業(yè)者提供更加優(yōu)質(zhì)的創(chuàng)業(yè)信息和品牌營銷服務(wù)，與站長一起進(jìn)步！讓互聯(lián)網(wǎng)創(chuàng)業(yè)者不再孤獨！
掃一掃，關(guān)注站長網(wǎng)微信
大家都在看
