當地時間2019年5月22日,英國警方首次因使用自動化人臉識別系統被告上了法庭。英國警方在法庭上稱,人臉識別技術可以預防犯罪、保護公眾,并且不會破壞無辜人士的隱私。但將英國警方告上法庭的布里奇斯(Ed Bridges)認為,警方在未經本人同意的情況下使用自動化人臉識別技術對他進行掃描,侵犯了他的隱私權。據BBC采訪顯示,布里奇斯第一次被人臉識別技術掃描時,他近距離發現自己的臉出現在警方面包車的人臉識別系統中。布里奇斯認為,自己當時沒有犯罪嫌疑,也沒有被列入任何犯罪“監視名單”。幾個月后,他在反武器貿易抗議活動上再次意識到自己被人臉識別攝像頭所監視。布里奇斯在給《衛報》的信中寫道,警方這種大規模捕捉生物特征的行為侵犯了公民的隱私權,這項技術也會對公民行使言論自由等權利起到威懾作用。同時,這項技術對少數族裔和女性有歧視性。
之前幾日,舊金山市剛剛對人臉識別技術發出了禁令,禁止該技術在政府機關和執法機關中使用,從而成為全球首個對人臉識別技術發出禁令的城市。馬薩諸塞州和加州奧克蘭市也正在考慮禁止使用人臉識別技術。不論是英國的事件還是美國的禁令,都直指政府,特別是警方對人臉識別技術的應用,讓人們不禁好奇,究竟這些應用都涉及哪些方面,可能會帶來哪些困擾,又有什么深層次的問題?
深圳市公安局南山分局在一篇經驗介紹中提到,相較于傳統視頻偵查需要人工進行視頻接力、由人工肉眼進行排查、梳理嫌疑人軌跡線索、偵查效率不高時效性不佳的情況,通過人臉識別技術可以從海量視頻中快速刻畫出嫌疑人的時空軌跡,分析嫌疑人的出發點、落腳點、同行人員等,并進行實時布控,為警務視頻偵查帶來巨大的發展機遇。深圳市公安局南山分局自2016年建設“深目”動態人像識別系統,創建了多達數十種技戰法模型,為公安刑偵、技偵、反恐、交通、出入境等場景提供技術支撐。其中有三個方面尤為突出:一是區域精準布控,針對在逃、涉案等布控人員,通過實時抓拍照片比對檢測,實現實時報警提醒。二是出入境管控,對出入境人員實時拍攝并進行人臉圖像對比,輔助打擊外籍人員非法從業、外籍人員非法居留、偷渡等違法犯罪行為。三是社區綜合治理,建設社區虛擬防護圍欄,加強流動人員管理,提升街面巡查效率。
從深圳市公安局南山分局的做法中,我們就可以對人臉識別技術在警務方面的應用有一個基本而直觀的了解。必須明確,人臉識別技術在警務方面的應用,首要前提是視頻監控,而人臉識別則是建立在視頻監控和其他數據庫基礎上,通過人工智能技術手段實現的特殊應用。如果說英國警方被告上法庭案例還不能特別突出于相對狹義的人臉識別,那么美國的禁令則非常明確的將視角鎖定在了狹義的人臉識別上。
那么為何美國、英國的民眾對警方運用人臉識別技術如此排斥?據分析,美國民眾認為,將人臉識別技術應用到前端的視頻監控上,可能會打破隱私及實用性之間的平衡。假設美國警方有若干臺這樣的安防攝像機,同時擁有可疑人員的“黑名單”照片庫,那么其他任何人如果與這些可疑人員有一些相像,一旦進入警察的安防攝像機的鏡頭之內,都有可能受到警務人員的盤問。并且,人臉識別技術往往在人們不知情的情況下就被使用,保留下人們的生物隱私信息;有的沒有履行向公眾采納意見的法定程序,甚至有些突破了法律界限,這讓人們為自己的權利和隱私產生了擔憂。同時,人臉識別技術帶來的警方對少數族裔的騷擾也是其中的重要因素。我們可以明顯感到,在傳統的視頻監控技術條件下,雖然人們也有對隱私的擔憂,但是人們遭到騷擾、隱私數據被更實時完整監控的可能性還是相對較低的,正是因為人臉識別技術的應用,使量變達到了質變,引起了人們更大規模、更深入的思考。而在這背后,存在著這樣一些矛盾。
一是隱蔽性與公共性的矛盾。一方面,警方使用人臉識別技術無需對象配合,只要人臉進入攝像頭采集范圍,人臉即可自動被攝像頭拍照,并用作后期識別及其他應用。可以說,我們被拍還是沒被拍,被拍了以后接下來還會遭受什么樣的對待,我們完全無從知曉。另一方面,警方作為國家機關,為維護公共安全而存在,帶有明顯的公共屬性,其力量來自于公眾,而公眾反過來卻要遭受其隱蔽對待。
二是特定性與普遍性的矛盾。警方所針對的是犯罪分子或者犯罪,具有其特殊性,而有時在應用人臉識別技術時更是針對特定的人和事。但是在應用過程中,卻總是要通過大面積覆蓋、廣范圍撒網,才能在眾多人臉中,識別出這些特定的人和事。也就是說,在應用人臉識別技術的最初階段,也即在視頻監控中,普通公眾和犯罪分子并沒有被區別對待,使普通公眾也存在被監視的感覺。
三是公共安全與個人權利的矛盾。毫無疑問,公眾需要隱私,但也同樣需要公共安全。人們都希望既能享有絕對的安全,又享有絕對的隱私。在當前情況下,這幾乎是不可能的。當每個人都享有絕對的隱私時,就談不上公共安全,沒有公共安全的保障,享有隱私只能是奢望。同樣,當需要絕對的公共安全時,就要在很大程度上放棄隱私。在不同的國家、文化中,對隱私和公共安全的重視程度不盡相同。
四是提前預防與事后打擊的矛盾。無疑,人臉識別以及軌跡追蹤,在搜捕犯罪嫌疑人方面具有其獨特優勢。但畢竟是在案件已經發生后的事后追責,有時因為抓捕效率的提高,起到了一定的預防連續犯罪作用,但很多時候談不上補救,更談不上預防。而當要把人臉識別系統應用到預防中,則必然帶有一定的歧視性和不確定性,比如我國加強對流動人口,有犯罪前科人員的管理;比如國外對非洲裔、阿拉伯裔、特定穿著的女性的關注等。這些人群中確實可能犯罪率較高,但是也并非符合這些條件的就一定會犯罪。因此,對他們加強管理本身就帶有歧視性,借助人臉識別系統進行分析,進而對他們開展盤查等活動,更是對他們正常生活的騷擾。同時,人臉識別技術具有聚光燈效應,有研究表明當該技術特別關注某一人群后,該人群的犯罪率會飆升,然后人臉識別的數據庫對該人群的監督加強,提升對該人群的警惕性,形成了惡性循環,無疑這會造成對某一人群的歧視。
上述矛盾在警務實踐中是普遍存在的,也很難得到徹底根除,其中最為根本的還是公共安全和個人權利的矛盾,因為無論是被監控還是被騷擾,最終指向的都是個人隱私和正常生活不被侵犯。隱私的問題,在不同國家、不同文化中所處的地位和關注度具有較為明顯的差異,因此關于警務人臉識別技術的應用還需要更多地結合實際加以探討。其中,美國對人臉識別技術的禁令,正是結合自身背景的一個有益探索,可能在未來、在其他地方,未必采取同樣的禁令,在其他地方也有可能對禁令有所細化、深化,我們確實可以這樣說,禁止也是一種探索,禁止為了更好地探索。
雖然我們主張在實踐中加以解決,也并不意味著對人臉識別技術在警務中的應用完全沒有原則可言。一是適度公開,人們應該知道,或者部分知道人臉識別技術被應用于什么方面、什么地方,也應該有權利決定人臉識別技術的應用,就像社會已經普遍同意不在衛生間安裝視頻監控一樣。二是不斷完善,一些錯誤的盤查,有時就是因為技術本身存在問題而導致的,因此人臉識別技術本身必須不斷完善;同時人們關于隱私被監控、被擴散的擔憂,則需要通過不斷完善后臺數據庫、完善管理措施進行改進。
回到本文開始的案例,禁止和反對只是個案,其實也是一種探索。在禁止和探索之間,相信我們一定能夠找到人臉識別技術在公共安全領域最適合的發展方向和各種矛盾的平衡點。
(本文作者李倫、李廣松, 為瑪娜基金會數據倫理課題組研究員)
掃一掃在手機上閱讀本文章