歡迎關(guān)注“創(chuàng)事記”微信訂閱號(hào)：sinachuangshiji
文/乾明 魚(yú)羊
來(lái)源：量子位（ID:QbitAI）
教室之內(nèi)，你做什么AI都有記錄？！
為此曠視不得不回應(yīng)了。
昨天，一張帶有“MEGVII曠視”圖標(biāo)的視頻監(jiān)控圖像在社交網(wǎng)絡(luò)上瘋傳。
圖中顯示，兩名在教室中的女生身邊，顯示出了相應(yīng)的課堂行為數(shù)據(jù)，比如趴桌子、玩手機(jī)、睡覺(jué)、聽(tīng)講、閱讀、舉手等等。
伴隨這張圖，還有大量網(wǎng)友嚴(yán)厲的指責(zé)與質(zhì)疑，認(rèn)為這樣的技術(shù)不應(yīng)該出現(xiàn)在課堂中。加之變臉AI應(yīng)用ZAO引發(fā)的關(guān)注，隱私話題再次被談及。
不過(guò)相比起來(lái)，曠視對(duì)這些批評(píng)感覺(jué)有些冤，按照其官方回應(yīng)，“這只是技術(shù)場(chǎng)景化概念演示”。
但引發(fā)的關(guān)注還在繼續(xù)，更多教育場(chǎng)景內(nèi)的AI應(yīng)用，也引起前所未有的重新審視。
攝像頭盯著你上課
事情跟剛剛進(jìn)入的開(kāi)學(xué)季有關(guān)。
九月新學(xué)期開(kāi)始后，不少學(xué)生就發(fā)現(xiàn)，自己熟悉的校園中出現(xiàn)了人臉識(shí)別系統(tǒng)。
比如位于南京的中國(guó)藥科大學(xué)，在校門(mén)、圖書(shū)館和宿舍都安裝了人臉識(shí)別門(mén)禁。
對(duì)于智能門(mén)禁，學(xué)生們的接受度倒是很高。有人認(rèn)為這套系統(tǒng)識(shí)別準(zhǔn)確，速度也很快；有人表示不再擔(dān)心忘帶校園卡，確實(shí)很方便。
學(xué)校保衛(wèi)處負(fù)責(zé)人也表示，比起從前實(shí)行的校園卡刷卡通行，人臉識(shí)別系統(tǒng)的引入解決了過(guò)去師生忘帶校園卡的麻煩，也解決了代刷卡、復(fù)制卡等校園安保問(wèn)題。
但這套來(lái)自“刷臉之王”曠視Face++的系統(tǒng)，可能不止是人臉識(shí)別刷門(mén)禁。
在梨視頻的采訪中，校方介紹，這套系統(tǒng)不僅能對(duì)進(jìn)入教室的學(xué)生進(jìn)行全程人臉識(shí)別，還能監(jiān)測(cè)到學(xué)生抬頭低頭，是否玩手機(jī)，是否發(fā)呆等行為細(xì)節(jié)。
關(guān)于這類系統(tǒng)，曠視也早有過(guò)相關(guān)介紹，目標(biāo)所指是輔助教育：
“在課堂教學(xué)評(píng)價(jià)系統(tǒng)中，曠視科技將自主研發(fā)的人臉識(shí)別、行為識(shí)別、表情識(shí)別等技術(shù)，集成在考勤及行為分析攝像機(jī)MegEye-C3V-920和行為分析服務(wù)器中。
通過(guò)對(duì)課堂視頻數(shù)據(jù)進(jìn)行實(shí)時(shí)的結(jié)構(gòu)化分析，反饋學(xué)生行為、表情、專注度、前排上座率等多維度課堂數(shù)據(jù)，輔助教學(xué)評(píng)估評(píng)價(jià)。”
沒(méi)想到，竟然在社交媒體上引發(fā)大討論。
曠視在官方回應(yīng)中說(shuō)，自己在教育領(lǐng)域的產(chǎn)品專注于保護(hù)孩子在校園的安全。
相應(yīng)的解決方案，可以協(xié)助學(xué)校管理人員提升效率并保障學(xué)生安全，主要用于智能校門(mén)、教室門(mén)及宿舍的出入，方便學(xué)生安全出入校園。
至于引發(fā)討論的課堂行為分析圖片，是技術(shù)場(chǎng)景化概念演示。
但根據(jù)校方說(shuō)法，相關(guān)系統(tǒng)已在兩間教室中進(jìn)行試點(diǎn)，如果效果好，會(huì)進(jìn)行全校推廣。
其實(shí)，這樣的技術(shù)和應(yīng)用并不算稀奇。有網(wǎng)友表示，這種校園分析的新聞去年前年就有了，現(xiàn)在竟然來(lái)了個(gè)大爆發(fā)……而且成為熱搜事件，著實(shí)意料之外。
教育場(chǎng)景正成為AI落地跑馬場(chǎng)
但不容忽視的事實(shí)是，這幾年來(lái)AI賦能落地千行百業(yè)的聲勢(shì)越來(lái)越大，在這樣的大趨勢(shì)面前，教育場(chǎng)景可以說(shuō)是藍(lán)海一片。
《2019年中國(guó)智慧教育行業(yè)市場(chǎng)發(fā)展及趨勢(shì)研究報(bào)告》數(shù)據(jù)顯示，2010-2018年中國(guó)智慧教育行業(yè)規(guī)模持續(xù)擴(kuò)大，增速保持在10%以上，2018年市場(chǎng)規(guī)模超過(guò)5000億元。
眾多AI技術(shù)公司、教育場(chǎng)景公司，都紛紛加入戰(zhàn)局，加入新紅利的爭(zhēng)奪中。
而且作為AI領(lǐng)域最為成熟的技術(shù)方向，各種計(jì)算機(jī)視覺(jué)/人臉識(shí)別方案早已見(jiàn)怪不怪。在校園中采用人臉識(shí)別技術(shù)，也都已經(jīng)不稀罕。
但沒(méi)有哪家公司的方案，止步于門(mén)閘刷臉。
閘機(jī)只是切入點(diǎn)，更多方案提供商希望的是用AI來(lái)重構(gòu)整個(gè)教育全流程，課堂自然是一個(gè)能夠大展拳腳的地方。
當(dāng)然，水大魚(yú)大，競(jìng)爭(zhēng)者也多。提供這樣方案的，遠(yuǎn)不止曠視一家。
打開(kāi)搜索引擎搜索“課堂人臉識(shí)別”，能夠得到621萬(wàn)條結(jié)果，各種大大小小的公司，都有相應(yīng)方案。
其中甚至不乏更為驚人的“黑科技”方案。
比如掌門(mén)1對(duì)1，已經(jīng)與商湯達(dá)成戰(zhàn)略合作，在情緒智能識(shí)別等領(lǐng)域進(jìn)行研究，目的就是通過(guò)在線輔導(dǎo)的情緒識(shí)別，看學(xué)生是否處于認(rèn)真上課的狀態(tài)。
創(chuàng)始人兼CEO張翼還分享過(guò)用“腦電波”的設(shè)想：
“腦機(jī)交互的可穿戴智能設(shè)備可以實(shí)時(shí)監(jiān)測(cè)學(xué)生的腦電波數(shù)據(jù)，通過(guò)腦電動(dòng)態(tài)數(shù)據(jù)采集分析，對(duì)學(xué)生在學(xué)習(xí)過(guò)程中進(jìn)行情緒識(shí)別、疲勞度識(shí)別，分析判斷學(xué)生在學(xué)習(xí)過(guò)程中的精神狀態(tài)、思維活躍度和學(xué)習(xí)專注力。”
此外，還有英特爾、K12在線教育機(jī)構(gòu)海風(fēng)教育，少兒英語(yǔ)教育結(jié)構(gòu)VIPKID等等都有相應(yīng)系統(tǒng)與解決方案提供。
總體來(lái)說(shuō)，之前“一塊屏教育”的故事延續(xù)，就是AI可以幫助教學(xué)過(guò)程實(shí)現(xiàn)數(shù)據(jù)化、機(jī)器學(xué)習(xí)化。
而且談到AI落地傳統(tǒng)學(xué)校，也不是只有這次引發(fā)關(guān)注的中國(guó)藥科大學(xué)。
隨手一查，案例新聞非常豐富：
比如2018年5月，浙江省重點(diǎn)杭州第十一中學(xué)（阿里云之父王堅(jiān)母校），將名為“智慧課堂行為管理系統(tǒng)”的科技應(yīng)用于課堂教學(xué)。
新京報(bào)報(bào)道中表示，這一系統(tǒng)也可以對(duì)課堂上學(xué)生的行為進(jìn)行分析，并對(duì)異常行為實(shí)時(shí)反饋，工作流程是這樣的：
“系統(tǒng)每隔30秒會(huì)進(jìn)行一次掃描，針對(duì)學(xué)生們閱讀、舉手、書(shū)寫(xiě)、起立、聽(tīng)講、趴桌子等6種行為，再結(jié)合面部表情是高興、傷心，還是憤怒、反感，分析出學(xué)生們?cè)谡n堂上的狀態(tài)。
目前僅趴桌子一項(xiàng)為負(fù)分行為。若此類不專注行為達(dá)到一定分值，系統(tǒng)就會(huì)向顯示屏推送提醒，任課教師可根據(jù)提醒進(jìn)行教學(xué)管理，而顯示屏僅任課教師可見(jiàn)。”
不過(guò)，校方也給出了回應(yīng)，在系統(tǒng)設(shè)計(jì)伊始，便考慮到了隱私問(wèn)題，系統(tǒng)只采集代碼，并非學(xué)生面部影像。
此外借AI落地之名進(jìn)入校園，也不僅僅只是基于人臉識(shí)別的解決方案，還有基于各種傳感器的“智慧校服”。
去年12月底，貴州10多所中小學(xué)的學(xué)生穿上“智能校服”引起大量關(guān)注。
供應(yīng)商介紹稱，這套智能校服，能精準(zhǔn)、及時(shí)記錄他們的出勤和活動(dòng)。只要身著這套校服，學(xué)生進(jìn)出校門(mén)的準(zhǔn)確時(shí)間就會(huì)自動(dòng)發(fā)送給學(xué)校老師和家長(zhǎng)。
而且如果未經(jīng)許可出校門(mén)，那也會(huì)激活自動(dòng)語(yǔ)音報(bào)警器。校服還會(huì)配合校門(mén)口的智能攝像頭一起使用，假如學(xué)生互換校服，警報(bào)也會(huì)響起。甚至它也能發(fā)送準(zhǔn)確的具體位置，幫助學(xué)校和家長(zhǎng)快速定位。
但類似方案，也不是中國(guó)專利，全球同此涼熱。
早在2012年3月份，巴西也推出了類似智能校服，引發(fā)了媒體廣泛關(guān)注。
巴西維多利亞達(dá)孔基斯塔市最早推出一款智能T恤，這條T恤內(nèi)置了芯片，可以讓家長(zhǎng)知道孩子究竟有沒(méi)有逃課了。
還有瑞典（真歐洲國(guó)家）一中學(xué)，使用人臉識(shí)別等技術(shù)對(duì)22名學(xué)生進(jìn)行了為期三周的跟蹤調(diào)查，記錄下他們每次進(jìn)入教室的情況。
毫無(wú)疑問(wèn)，這樣的人工智能入校、AI+教育，也同樣引起了爭(zhēng)議與廣泛的討論。
爭(zhēng)議四起：隱私何在？
核心熱議焦點(diǎn)，依然是AI技術(shù)落地中的技術(shù)。
有抖機(jī)靈的網(wǎng)友說(shuō)，學(xué)霸們研發(fā)的AI，正在不斷壓縮學(xué)渣摸魚(yú)的空間。
但更多網(wǎng)友，關(guān)注的還是技術(shù)價(jià)值觀的話題：技術(shù)本身無(wú)罪，但這并不代表技術(shù)的落地，不需要多方面權(quán)衡考量。
而且日常工作學(xué)習(xí)為攝像頭所監(jiān)控，監(jiān)控背后的AI還要分析量化你的一舉一動(dòng)，未免讓人有些毛骨悚然。
另外在這場(chǎng)突然掀起的風(fēng)暴之中，AI落地帶來(lái)的“隱私”邊界，也令人深思。
有微博網(wǎng)友認(rèn)為，這種無(wú)死角全過(guò)程的AI監(jiān)控，是在扼殺情感。
有人表示絕對(duì)不會(huì)讓自己的孩子處在這種環(huán)境之中。
也有人指出，這是對(duì)教育的本末倒置，學(xué)校應(yīng)用這種技術(shù)，不是在培養(yǎng)人，而是在培養(yǎng)升學(xué)率。
“技術(shù)再好，用的地方不對(duì)有什么意義呢？”
這種評(píng)論也代表了很多吃瓜網(wǎng)友的心聲。就像《黑鏡》中描述的未來(lái)科技，誕生之初哪有正邪之分呢？
除了隱私、自由，教育場(chǎng)景中令人擔(dān)心的還有數(shù)據(jù)安全問(wèn)題。
2018年8月的一則判決文書(shū)中，就披露了一起非法出售學(xué)生信息的案例。
當(dāng)時(shí)負(fù)責(zé)管理維護(hù)安徽全省學(xué)籍管理系統(tǒng)的張某，利用職務(wù)之便，以每條1毛錢(qián)的價(jià)格，出售了4萬(wàn)名學(xué)生的隱私信息。據(jù)新浪財(cái)經(jīng)報(bào)道，張某任職的公司正是科大訊飛。
前沿技術(shù)的發(fā)展，有時(shí)候遠(yuǎn)超公眾的想象。當(dāng)一項(xiàng)技術(shù)真正走向落地，就不再是小眾的狂歡，而要接受大眾的審視。
如何選擇更合適的技術(shù)落地場(chǎng)景，如何兼顧科技與社會(huì)人文，或許是AI賦能，必須要去面對(duì)和思考的問(wèn)題。
國(guó)內(nèi)國(guó)外，也開(kāi)始越來(lái)越多傳遞出這樣的風(fēng)向。
比如谷歌開(kāi)始越來(lái)越多科普利于隱私的“聯(lián)邦學(xué)習(xí)”，騰訊在創(chuàng)辦20周年時(shí)將“科技向善”寫(xiě)入公司使命和愿景，而即將IPO上市的曠視實(shí)際也在招股書(shū)中明確建立“AI道德委員會(huì)”。
掌舵微軟AI的沈向洋還呼吁，應(yīng)該每一項(xiàng)AI技術(shù)和產(chǎn)品應(yīng)用前，都要通過(guò)倫理道德委員會(huì)審查。
雖然人類在發(fā)明汽車80年后才發(fā)明安全帶，但AI時(shí)代里，我們需要現(xiàn)在就為AI技術(shù)系上安全帶了。
總而言之，AI和隱私安全的話題，一切還不會(huì)就此終止，還會(huì)有更多事件、更多應(yīng)用被放在聚光燈下審視。
你覺(jué)得呢？
