塞维利亚vs桑坦德竞技:“知人知面”的技術能走多遠? - 塞维利亚足球队厉害吗|皇马vs塞维利亚
瞭望智庫

2016年5月12日   星期四   丙申年   四月初六

設為首頁 | 加入收藏夾           塞维利亚足球队厉害吗 | EN

塞维利亚vs桑坦德竞技:“知人知面”的技術能走多遠?

塞维利亚足球队厉害吗 www.uorwyt.com.cn 云賀 | 瞭望智庫副研究員

發布日期:2019-08-27

以目前的技術水平,人臉識別技術還遠未達到大規模普及的程度,特別是在公共服務領域,一旦濫用或誤用很容易引發一系列風險。

在今年美國拉斯維加斯舉辦的CES消費電子展上,人臉識別技術可謂大放異彩。特別是在出行領域,這個“知人知面”的技術成為了諸多汽車廠商概念車型的“殺手锏”之一:無需鑰匙,車輛上配備的人臉識別功能將自動識別駕駛員身份并開啟車門。

具體來說,人臉識別系統通過判定眼睛、鼻子、顴骨和下巴等面部特征的相對位置、大小和形狀,來辨別出目標人物的真實身份。

實際上,人臉識別技術最初主要應用在軍事和刑偵領域,它曾在伊拉克和阿富汗戰場上為美軍提供了關鍵技術支持。然而,隨著這項技術在近年逐步投入民用,公眾對其潛在風險的爭議也越來越多:失誤率過高、侵犯隱私權、種族和性別偏見等弊端,屢見報端。

今年8月,查塔姆學會的兩位研究員林賽·杰斐遜(Lyndsey Jefferson)和艾米莉·泰勒(Emily Taylor)聯名發布了題為《人臉識別技術的功與過》的文章,系統闡釋了該技術的發展潛能與應用風險。文章認為,以目前的技術水平,人臉識別技術還遠未達到大規模普及的程度,特別是在公共服務領域,一旦濫用或誤用很容易引發一系列風險。

舊金山首發“禁令”

今年5月,美國舊金山監事會通過了一條禁令,禁止全市所有機構使用人臉識別技術,其中包括警察局和市政府等執法部門。至此,舊金山成為美國首個頒布人臉識別禁令的城市。

支持頒布禁令的一方認為,人臉識別技術雖然能在警務等領域發揮不少作用,但隨著該項技術的民用普及化趨勢愈加明顯,技術門檻不斷降低,在實際應用過程中很容易超越法律與道德紅線,變成侵犯人權隱私的工具。從這一角度來考慮,人臉識別技術弊大于利,應該予以禁止。

查塔姆學會的兩名研究員表示,相比舊金山市對于人臉識別技術的極度恐慌,全球其他城市的反應雖沒有如此強烈,但也或多或少地意識到了該技術的潛在風險。

美國馬薩諸塞州的薩默維爾市議會,也決定禁止市政府及各下屬部門在公共場所使用人臉識別軟件。奧克蘭、紐約等城市,也都在考慮出臺類似的禁令。

在極為重視隱私權的歐洲,以人臉識別技術為代表的人工智能系統也受到了來自許多機構的質疑。近日,歐盟人工智能高級別專家組就公開提議,歐洲應禁止人工智能系統深度參與到大規模監視和社會信用評分過程中。專家組認為,人工智能系統只有在充分尊重現有法律和公民基本權利,并符合社會倫理原則的基礎上,才能進行大規模推廣。而政府應承諾只采購和部署“值得信賴”的人工智能系統。

不過,也有一部分人并不看好舊金山市對人臉識別技術的“全面封鎖令”。美國信息技術與創新基金會數據創新中心主任丹尼爾·卡斯特羅就認為,舊金山市頒布的這條禁令是“非常糟糕的榜樣”。他表示,全面禁止使用人臉識別技術的做法未免過于極端,畢竟該項技術在找尋走失老人、打擊性行為犯罪、快速識別恐怖襲擊嫌疑人等許多社會安全領域都有巨大的應用潛能。

舊金山市居民安全維護組織——Stop Crime SF的副主席喬爾·恩加迪奧則認為,僅就目前的技術水平而言,人臉識別技術的失誤率很高,應該暫時予以禁止;但同時,該禁令不該意味著“永遠禁止”,而是應為技術的改善“留一條后路”。

在社會接受層面下功夫

雖然很少有人能徹底否認人臉識別技術的廣闊應用前景,但如果僅從目前該項技術本身的成熟度來看,大規模普及應用的確會產生一系列問題,其根源在于:識別錯誤率過高。

此前,英國埃塞克斯大學的研究人員曾發布一份調查報告稱,倫敦大都會警察局在甄別目標人物時所用人臉識別技術的準確率只有19%。研究人員在使用這套技術系統時,篩選出的42張“匹配人臉”中只有8張臉屬于目標人物,錯誤率高達81%。

據悉,倫敦大都會警察局最早使用人臉識別技術是在2016年8月的諾丁山狂歡節上,該技術幫助警方實時監測人群動態,以備在突發情況時快速采取行動、鎖定目標人物。隨后,倫敦大都會警察局又于2017年的陣亡將士紀念日當天,在倫敦的10個人群聚集點部署了人臉識別系統。

實際上,埃塞克斯大學發布的這份報告已不是英國警方第一次被公眾質疑了。2018年,英國南威爾士警方在使用人臉識別技術時,曾將2300名民眾誤認為是潛在犯罪分子。

更值得關注的是,人臉識別技術的失誤率還是“因人而異”的。麻省理工學院媒體實驗室和微軟合作發布的一項研究顯示,人臉識別的準確度與膚色有關。當被識別圖像中為白人時,正確率超過90%;而對于膚色較深的女性,準確率僅為65%。

機器技術的“種族歧視”,并非空穴來風。眾所周知,人工智能的學習能力來源于人類提供的數據。如果人臉識別系統的訓練數據中白人居多,那么系統對白人的鑒別能力就會越強。

因此可以說,人臉識別“選擇性失誤”的背后,是人類社會中無處不在的偏見和資源的不平衡分布。

查塔姆學會的文章提出,人臉識別技術是由社會中的極少一部分人研發完成的,而這部分人與整個社會的人口結構并不相匹配。這意味著,少數族裔、年長者和女性等高科技從業人數較少的人群,并沒有平等的機會將自己的意愿融入到研發過程中,而這也是導致人臉識別技術會出現“選擇性失誤”的主要原因。

可無論如何,人臉識別技術已經深深嵌入到很多地區、諸多領域之中,其市場價值和社會價值仍然很大,全面禁止該項技術的使用并不適合于大多數地區。

根據卡托研究所的調查數據,僅是美國政府所應用的面部生物識別技術,其市場規模預計會從2018年的1.369億美元增長到2025年的3.75億美元。

查塔姆學會的兩位研究員認為,要消除人臉識別技術所帶來的弊端,不單單需要不斷提高技術水平和加強監管力度,更應在社會接受層面上下功夫。

比如,相對于人類發出的指令,普通人更傾向于聽從計算機的指令,而這恰恰是導致包括人臉識別等技術被濫用的原因所在。因此,加強民眾對前沿技術的認知,也是?;て淙ɡ皇芮址傅鬧匾方?。(完)

來源:瞭望智庫

版權所有,未經授權不得轉載

瞭望智庫緊扣“國家政策研究、評估和執行反饋”這一核心業務定位,利用新華社內外智力資源, 連接全球主要智庫,服務中央決策和新華社調查研究,發揮政治建言、理論創新、輿論引導、社會服務、公共外交等功能, 在社會上形成廣泛的知名度和影響力。

學術合作:韋薇 [email protected]

商務合作:陳晶 13910894987 趙沁珩 15201538826

通訊地址:北京市東城區永定門西濱河路8號中海地產廣場東塔16層.100077

客服郵箱:[email protected]

?2015 瞭望智庫(北京)科技發展有限公司 京ICP備10031607號-3