南都訊 記者馮群星 當(dāng)?shù)貢r間7月22日，紐約州立法機(jī)構(gòu)投票通過了一項針對人臉識別的新禁令：在2022年之前，紐約州的學(xué)校均不得使用人臉識別等生物識別技術(shù)。
這則禁令的背景，是去年發(fā)生的一場有關(guān)校園應(yīng)用的爭議。
2019年5月，紐約州西部城市洛克波特市開始在全市校園部署人臉識別設(shè)備，主要目的是增強(qiáng)學(xué)校的安全性。洛克波特市學(xué)區(qū)負(fù)責(zé)人米歇爾·布拉德利（Michelle Bradley）在接受外媒采訪時說，“這是使學(xué)生、員工和訪客更加安全的又一措施”。
洛克波特市官方信息顯示，人臉識別系統(tǒng)將識別“學(xué)校不允許出現(xiàn)的人員”，并在識別到異常情況時發(fā)出警報提醒。系統(tǒng)重點識別的人員包括二級或三級性犯罪者、被停職的學(xué)校員工、法院判決未經(jīng)批準(zhǔn)禁止進(jìn)入學(xué)校的人員、執(zhí)法部門信息顯示會構(gòu)成威脅的人員，等等。
由于隱私等問題的存在，人臉識別應(yīng)用在美國向來爭議頗多。因此，洛克波特市也在紐約州教育廳等部門的監(jiān)督下反復(fù)修改了系統(tǒng)設(shè)置，最終決定只讓系統(tǒng)記錄人員比對的情況，不收集或存儲任何個人信息，學(xué)生的照片等個人信息也不會被添加到系統(tǒng)中。根據(jù)當(dāng)?shù)胤梢螅O(jiān)控視頻保存60天后將從服務(wù)器上刪除。
2020年1月，這一系統(tǒng)在洛克波特市正式投入運營。然而，還是有一些民間團(tuán)體認(rèn)為人臉識別系統(tǒng)太有侵入性，不該在學(xué)校這樣的場所部署。萬一系統(tǒng)對學(xué)生出現(xiàn)了誤報，更是會給學(xué)生帶來種種傷害，比如影響學(xué)生上課、給學(xué)生扣上莫須有的犯罪記錄。
今年6月，紐約公民自由聯(lián)盟提起訴訟，要求洛克波特市停用系統(tǒng)。
這一起訴得到了當(dāng)?shù)夭糠止賳T的支持。當(dāng)?shù)貢r間6月23日，紐約州議會眾議員莫妮卡·華萊士（Monica Wallace）和參議員布萊恩·卡瓦納（Brian Kavanagh）發(fā)表聯(lián)合聲明，重申了對隱私問題的擔(dān)憂：“我們擔(dān)心該技術(shù)的使用可能侵犯學(xué)生、教職員工和訪客的隱私權(quán)及其他公民權(quán)利。這是一種無效的維護(hù)校園安全的形式，并且可能無法安全地存儲學(xué)生數(shù)據(jù)。 ”
此前，美國國家標(biāo)準(zhǔn)技術(shù)研究院曾發(fā)現(xiàn)，美國目前主要的人臉識別算法在識別非裔、亞裔美國人時，錯誤率遠(yuǎn)超白人。華萊士和卡瓦納據(jù)此指出，人臉識別的準(zhǔn)確性也令人擔(dān)心。在年輕的學(xué)生因為這種侵入性的監(jiān)控形式受到傷害之前，紐約州教育廳應(yīng)該仔細(xì)考慮相關(guān)問題，并就人臉識別應(yīng)用制定詳細(xì)的指導(dǎo)規(guī)則。
紐約州參眾兩院剛剛投票通過的新禁令，正是由華萊士提出。接下來，禁令將被提交給紐約州州長。如果紐約州州長也簽字通過，禁令就將成為正式的法律。
據(jù)南都·AI前哨站梳理，去年以來，美國的舊金山、薩默維爾、奧克蘭、波士頓等多個城市通過了人臉識別禁令，但這些城市主要是禁止政府部門使用人臉識別技術(shù)。如果禁令成為正式法律，那它也將是全美國首個專門針對學(xué)校人臉識別應(yīng)用的法律。
從歐美此前的執(zhí)法案例看，涉及到學(xué)校和未成年人個人信息的科技應(yīng)用往往受到會更多的限制。例如在2019年，瑞典一所高中使用人臉識別系統(tǒng)來記錄學(xué)生的出勤率，瑞典數(shù)據(jù)監(jiān)管機(jī)構(gòu)調(diào)查認(rèn)為此舉侵犯學(xué)生的隱私，便依據(jù)歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）處罰了該高中20萬瑞典克朗（約合人民幣14.8萬元）。
南都·AI前哨站此前相關(guān)報道：
舊金山擬禁止市政機(jī)關(guān)使用人臉識別技術(shù) 負(fù)責(zé)官員稱擔(dān)心技術(shù)濫用
意外！舊金山政府員工使用帶刷臉功能的蘋果手機(jī)是違法的
美國第二個城市通過人臉識別禁令：不得將人臉數(shù)據(jù)作為法律證據(jù)
第三個美國城市出臺人臉識別禁令！奧克蘭：政府不得收集人臉信息
擔(dān)心人臉監(jiān)控加劇種族歧視 美國波士頓禁止市政機(jī)關(guān)使用人臉識別
IBM宣布退出人臉識別業(yè)務(wù)：響應(yīng)弗洛伊德事件，反對種族歧視
責(zé)任編輯：
