亚洲全黄无码一级在线看_国产剧情久久久性色_无码av一区二区三区无码_亚洲成a×人片在线观看

當前位置: 首頁 > 科技新聞 >

波士頓禁用人臉識別:該技術導致嚴重的種族歧

時間:2020-06-29 15:23來源:網(wǎng)絡整理 瀏覽:
波士頓也宣布禁用人臉識別技術了。6月24日,美國馬薩諸塞州的首府和最大城市波士頓的市議會以13票贊成、0票反對的結(jié)果通過了《波士頓禁止人臉

波士頓也宣布禁用人臉識別技術了。

6月24日,美國馬薩諸塞州的首府和最大城市波士頓的市議會以13票贊成、0票反對的結(jié)果通過了《波士頓禁止人臉監(jiān)控技術條例(Ordinance Banning Face Surveillance Technology in Boston)》。

條例規(guī)定,波士頓市的任何市政機關和公務員均不得獲取、保留、擁有、使用人臉監(jiān)控系統(tǒng)及通過此類系統(tǒng)獲得的信息,而且不能通過與第三方合作繞過條例。違反條例規(guī)定獲取的人臉監(jiān)控數(shù)據(jù)將被視為違法數(shù)據(jù),一經(jīng)發(fā)現(xiàn)會被刪除。

市政府官員表示,波士頓警察局此前并未使用過該技術,但警局目前使用的一款名為BriefCam的視頻分析軟件,它的升級版確實有人臉識別功能。波士頓警方在市議會的工作會議上表示,他們不會注冊這部分軟件更新。

此次條例通過,等于從源頭掐滅該項技術在波士頓的使用。

目前,在禁用人臉識別的城市里,波士頓城市規(guī)模排第二,僅次于舊金山。

而舊金山和波士頓,一個是推特、愛彼迎和優(yōu)步的總部所在地;一個是哈佛、MIT等知名高校的所在地。都是充滿了科技活力的地區(qū),為什么會自己禁止人臉識別這種先進的人工智能相關技術?

反對者們提出了兩個原因:

第一,他們認為這項技術將威脅到公民權利,第二,他們認為面部識別技術存在缺陷,將導致嚴重的種族問題。

在種族抗議活動愈演愈烈的當下,第二條原因更為重要。

提出了該法案的波士頓市議員里卡多·阿羅約(Ricardo Arroyo)與市議員吳弭(Michelle Wu)指出,這項技術對于有色人種來說是非常不準確的。

"它有明顯的種族偏見,這很危險,"阿羅約在聽證會前說。

法案中稱,“已有證據(jù)表明,人臉識別技術在識別非裔和亞裔人群體時準確率更低。人臉識別監(jiān)控中的種族偏見有可能傷害有色人種群體,而有色人種本身就已經(jīng)受到更多的監(jiān)控和騷擾。”

在周三的會議上和投票前,吳弭表示,波士頓不應該使用種族歧視的技術。"我們正在努力結(jié)束系統(tǒng)性的種族主義,所以,結(jié)束對有色人種社區(qū)的過度監(jiān)視需要成為其中的一部分。"

值得一提的是,吳弭是美籍華裔議員,父母從臺灣移民至美國,她也是波士頓第一個當上市議員的亞裔女性。

紐約時報曾在一篇文章中提到,人臉識別在針對有色皮膚時錯誤率明顯增大。

MIT媒體實驗室(MIT Media Lab)研究員Joy Buolamwini與來自微軟的科學家Timnit Gebru合作的一篇研究論文《性別圖譜:商用性別分類技術中的種族準確率差異》(Gender Shades: Intersectional Accuracy Disparitiesin Commercia lGender Classification)中,作者將微軟、IBM和曠視科技三家人臉識別技術進行對比,結(jié)果顯示,AI應用人臉識別針對黑人女性的錯誤率高達21%-35%,而針對白人男性的錯誤率則低于1%,不同種族的準確率差異巨大。

紐約時報稱,該項研究也引發(fā)了關于“AI是否存在社會不公甚至種族歧視問題”的探討,但顯然并不是。膚色較深女性較難識別,除了天然人臉特征更難提取之外,可供訓練的數(shù)據(jù)集較少也是影響因素之一。

文章表示,當下的人工智能是數(shù)據(jù)為王,數(shù)據(jù)的好壞和多少會影響AI的智能程度。因而,如果用來訓練AI模型的數(shù)據(jù)集中,白人男性的數(shù)據(jù)多于黑人女性,那么系統(tǒng)對后者的識別能力就會不如前者。

現(xiàn)有的數(shù)據(jù)集中存在這一現(xiàn)象,比如根據(jù)另一項研究的發(fā)現(xiàn),一個被廣泛使用的人臉識別數(shù)據(jù)集中,75%都是男性,同時80%是白人。

曠視回應表示,深色人種數(shù)據(jù)集比較難獲得,所以會差一些;另外,使用RGB攝像頭進行人臉識別時,深膚色人的人臉特征比較難找,特別是在暗光條件下,這也是一方面的原因。

圖源紐約時報圖源紐約時報

也是因為如此,今年6月初,IBM致信美國國會議員,宣布公司將退出通用的面部識別業(yè)務,并表示反對將這種技術用于大規(guī)模監(jiān)控和種族定性分析。

在本月早些時候的聽證會上,波士頓警察局長威廉·格羅斯說,目前的技術并不可靠,而且該部門也沒有使用這項技術。

"在這項技術100%準確之前,我對它不感興趣,"他說。"我沒有忘記我是非洲裔美國人,我也會被誤認。"他補充道。

不過,波士頓的禁令并不會影響私人公司或聯(lián)邦機構(gòu)(如FBI)使用該技術。

除了波士頓和舊金山外,馬薩諸塞州的其他五個社區(qū)——薩默維爾,布魯克林,北安普頓,斯普林菲爾德和劍橋也有此條禁令。美國公民自由聯(lián)盟馬薩諸塞州分會推動了這些地方的禁令,并正在游說州立法者采取行動。

目前還沒有全州范圍內(nèi)的禁令,不過一項暫停使用人臉識別系統(tǒng)的法案目前正在馬薩諸塞州聯(lián)合司法委員會待審。

推薦內(nèi)容