圖片來(lái)源：unsplash

近日，中國(guó)藥科大學(xué)在教室試點(diǎn)安裝人臉識(shí)別系統(tǒng)，除了能自動(dòng)識(shí)別學(xué)生的出勤情況外，還能夠?qū)崿F(xiàn)對(duì)學(xué)生課堂聽(tīng)講情況的全程監(jiān)控。校方認(rèn)為這是在督促學(xué)習(xí)，網(wǎng)友卻不買賬，你怎么看？

上學(xué)時(shí)害怕老師的火眼金睛，現(xiàn)在人臉識(shí)別教室來(lái)了。

近日，位于江蘇南京的中國(guó)藥科大學(xué)被推到了輿論風(fēng)口浪尖，原因就是在教室使用人臉識(shí)別系統(tǒng)。

蹺課、玩手機(jī)都逃不過(guò)它的“法眼”，南京高校試水“人臉識(shí)別教室”

據(jù)報(bào)道，中國(guó)藥科大學(xué)在兩間教室試點(diǎn)安裝的人臉識(shí)別系統(tǒng)，除了能自動(dòng)識(shí)別學(xué)生的出勤情況外，還能夠?qū)崿F(xiàn)對(duì)學(xué)生課堂聽(tīng)講情況的全程監(jiān)控。

學(xué)生是否認(rèn)真聽(tīng)講、課堂上是否抬頭低頭、抬頭低頭了幾次、抬頭低頭了多長(zhǎng)時(shí)間、低頭是否在玩手機(jī)、是否閉眼打瞌睡……都逃不過(guò)這個(gè)人臉識(shí)別系統(tǒng)的“法眼”。

中國(guó)藥科大學(xué)圖書(shū)與信息中心主任許建真表示：傳統(tǒng)點(diǎn)名浪費(fèi)時(shí)間、準(zhǔn)確率不高，但是有人臉識(shí)別就沒(méi)問(wèn)題了。

據(jù)悉，此舉是學(xué)校教務(wù)部門的要求，意在減少學(xué)生逃課、早退、花錢找人代課以及上課不認(rèn)真聽(tīng)講等行為，提高學(xué)生到課率，嚴(yán)肅課堂紀(jì)律。

然而，也有一些學(xué)生認(rèn)為這樣做會(huì)侵犯?jìng)€(gè)人隱私。

“為了（敦促）你學(xué)習(xí)，你還抱怨，請(qǐng)問(wèn)你還是學(xué)生嗎？”對(duì)于教室安裝人臉識(shí)別系統(tǒng)侵犯學(xué)生隱私的說(shuō)法，許建真表示，學(xué)校之前已向公安部門和法務(wù)部門咨詢，由于教室屬于公開(kāi)場(chǎng)所，因此不存在“侵犯隱私”的說(shuō)法。

除了教室，中國(guó)藥科大學(xué)在校門口、學(xué)生宿舍大門口、圖書(shū)館、實(shí)驗(yàn)樓等場(chǎng)所均安裝了人臉識(shí)別門禁。

人臉識(shí)別教室引發(fā)微博網(wǎng)友熱議，大部分網(wǎng)友表示反對(duì)，認(rèn)為這侵犯了學(xué)生隱私，不過(guò)一些人表示支持。

這位本校生表示自己沒(méi)覺(jué)得隱私受到侵犯

這位網(wǎng)友認(rèn)為刷臉進(jìn)出相對(duì)安全，對(duì)學(xué)生來(lái)說(shuō)是好事

這位藥大學(xué)生認(rèn)為沒(méi)什么，刷臉進(jìn)門挺方便。人臉識(shí)別教室只是一兩個(gè)在試用，也沒(méi)說(shuō)都裝。

孩子的微笑都要被監(jiān)控？上海小學(xué)用AI 評(píng)估學(xué)生上課

在教室裝攝像頭并不是什么新鮮事，但教室采用人臉識(shí)別技術(shù)分析學(xué)生的上課情況還是最近才開(kāi)始的。

上個(gè)月，上海中醫(yī)藥大學(xué)附屬閔行薔薇小學(xué)將人臉識(shí)別帶入校園，通過(guò)智能課堂評(píng)價(jià)系統(tǒng)、智能環(huán)境分析與控制系統(tǒng)和智能教師培訓(xùn)系統(tǒng)這三套“AI+學(xué)校”系統(tǒng)，對(duì)學(xué)生和教師進(jìn)行監(jiān)控。此舉同樣引發(fā)了不小的爭(zhēng)議。

根據(jù)宣傳，進(jìn)入教室的這套“智能課堂評(píng)價(jià)系統(tǒng)”可以在真實(shí)課堂的樣本數(shù)據(jù)基礎(chǔ)上，實(shí)現(xiàn)對(duì)師生行為與情感的自動(dòng)檢測(cè)，通過(guò)智能算法分析，給出基于課堂表現(xiàn)的評(píng)價(jià)和改進(jìn)建議。

針對(duì)學(xué)生，系統(tǒng)可自動(dòng)檢測(cè)到學(xué)生舉手、站立、坐姿不端等行為，通過(guò)記錄分析形成對(duì)課堂效果的總體評(píng)價(jià)?？梢哉f(shuō)和南京高校使用的“人臉識(shí)別教室”有“異曲同工之妙”。

據(jù)悉，使用了這套系統(tǒng)后，學(xué)生在日常生活中有無(wú)微笑、有無(wú)跟老師問(wèn)好、有無(wú)主動(dòng)撿垃圾、隊(duì)列是否整齊等細(xì)節(jié)都會(huì)被AI捕捉，反饋到總控中心。

根據(jù)“中國(guó)新聞周刊”的報(bào)道，一位上海某小學(xué)二年級(jí)學(xué)生的家長(zhǎng)何女士聽(tīng)聞此消息后，立刻致電相關(guān)部門問(wèn)詢，她認(rèn)為AI進(jìn)入小學(xué)，必須通知家長(zhǎng)，并且需要家長(zhǎng)的聯(lián)名同意，“這件事如果有一個(gè)家長(zhǎng)反對(duì)，學(xué)校就不該實(shí)施。”她認(rèn)為，“給學(xué)校裝AI，家長(zhǎng)必須簽字?！?/p>

不過(guò)，也有人表示支持，因?yàn)檫@樣可以預(yù)防危險(xiǎn)發(fā)生、降低校園霸凌、提高教學(xué)質(zhì)量。

瑞典一所高中用人臉識(shí)別監(jiān)測(cè)學(xué)生出勤，被控違反隱私法挨罰15萬(wàn)

人臉識(shí)別走入教室并非中國(guó)獨(dú)有，近日，瑞典一所高中用人臉識(shí)別監(jiān)測(cè)學(xué)生出勤，被罰款20萬(wàn)瑞典克朗。此案引發(fā)了關(guān)于在教育機(jī)構(gòu)中進(jìn)一步應(yīng)用AI技術(shù)問(wèn)題的討論。

位于瑞典北部城市Skellefte?的一家當(dāng)?shù)亟逃龣C(jī)構(gòu)被瑞典數(shù)據(jù)保護(hù)局處以20萬(wàn)瑞典克朗（約合人民幣15萬(wàn)元）的罰款，因?yàn)樵撔Ｍㄟ^(guò)面部識(shí)別技術(shù)來(lái)監(jiān)控高中生的出勤情況。

在該校的實(shí)驗(yàn)計(jì)劃中，一共在三周時(shí)間內(nèi)跟蹤監(jiān)測(cè)了22名學(xué)生的出勤情況，這些學(xué)生每次進(jìn)入教室時(shí)都會(huì)錄制面部信息。

在這項(xiàng)測(cè)試任務(wù)進(jìn)行之前，確實(shí)獲得了學(xué)生自己以及他們父母的許可。但是，瑞典數(shù)據(jù)保護(hù)局（DPA）的結(jié)論是，該計(jì)劃仍然違反了歐盟隱私法規(guī)“通用數(shù)據(jù)保護(hù)條例”（GDPR）的若干條款，因此會(huì)對(duì)非法收集數(shù)據(jù)的校方處以罰款。

“Skellefte?的這所高中違反了數(shù)據(jù)保護(hù)條例的若干條款，因此我們對(duì)該校處以罰款。”DPA總干事Lena Lindgren Schelin在一份聲明中說(shuō)。

DPA做出結(jié)論，面部識(shí)別技術(shù)侵犯了學(xué)生的隱私，同時(shí)強(qiáng)調(diào)，監(jiān)控學(xué)生出勤率可以采用不侵犯隱私的方式，使用一些不涉及攝像監(jiān)控的方法。

“面部識(shí)別技術(shù)尚處于起步階段，但發(fā)展很快。因此，我們非常需要明確可以適用于所有人的技術(shù)應(yīng)用?！癝chelin解釋道。

Skellefte?市政委員會(huì)的Felicia Lundmark強(qiáng)調(diào)，我們需要評(píng)估用于監(jiān)控出勤率的AI技術(shù)的未來(lái)，不僅是在Skellefte?市，而且是在整個(gè)瑞典來(lái)做這件事。

安德斯托普高中校長(zhǎng)約根·馬爾姆對(duì)罰款的結(jié)果表示驚訝。

“這個(gè)結(jié)果并不好。而且這個(gè)決定很有意思，因?yàn)槲覀兲幚硇畔⒌姆绞?、以及如何在學(xué)校的環(huán)境下開(kāi)發(fā)IT技術(shù)是一個(gè)很大的問(wèn)題?！?/p>

參與這項(xiàng)實(shí)驗(yàn)的學(xué)生哈里認(rèn)為，罰款是“不公正的”。

這是瑞典首次根據(jù)GDPR實(shí)施罰款，該協(xié)議于去年生效，旨在加強(qiáng)包括面部圖像數(shù)據(jù)在內(nèi)的個(gè)人數(shù)據(jù)和隱私保護(hù)。

技術(shù)的發(fā)展沒(méi)有邊界，但技術(shù)的使用必須有邊界

科技飛速發(fā)展，人臉識(shí)別作為人工智能的一個(gè)重要領(lǐng)域，已經(jīng)大量出現(xiàn)在我們的生活中，從手機(jī)解鎖到刷臉支付，甚至上下班都要用人臉識(shí)別打卡、進(jìn)出……那么對(duì)于這項(xiàng)技術(shù)，我們需要有所敬畏嗎？

美國(guó)多個(gè)城市禁用人臉識(shí)別，微軟刪除全球最大公開(kāi)面部識(shí)別數(shù)據(jù)庫(kù)

西方國(guó)家似乎對(duì)于技術(shù)的使用更加保守。比如在美國(guó)，面部識(shí)別的推進(jìn)就困難重重。今年5月，舊金山成為美國(guó)第一個(gè)禁止面部識(shí)別監(jiān)控的城市。

一個(gè)月后，美國(guó)國(guó)會(huì)兩黨在一場(chǎng)國(guó)會(huì)聽(tīng)證會(huì)上正式討論了對(duì)執(zhí)法部門使用面部識(shí)別軟件所帶來(lái)的日益擔(dān)憂。兩黨一致認(rèn)為面部識(shí)別軟件有侵犯公民隱私權(quán)和抗議權(quán)的隱憂，尋求立法暫停此類工具的使用。包括面部識(shí)別軟件專家在內(nèi)的團(tuán)隊(duì)認(rèn)為，在更完善的監(jiān)管出臺(tái)或技術(shù)充分成熟之前，此類面部識(shí)別工具應(yīng)由國(guó)家叫停。

國(guó)會(huì)兩黨共同提案，尋求立法對(duì)面部識(shí)別進(jìn)行監(jiān)管

7月，美國(guó)又一城市通過(guò)了禁止在公共場(chǎng)所使用面部識(shí)別軟件的法令，成為繼舊金山之后全美第二個(gè)禁止面部識(shí)別技術(shù)的城市。新政策生效后，馬薩諸塞州的薩默維爾市各機(jī)構(gòu)、分局或下屬部門，均不得在公共場(chǎng)所使用面部識(shí)別技術(shù)。

除了立法的監(jiān)管，科技巨頭在技術(shù)的使用上也需要謹(jǐn)慎。今年6月，微軟刪除了包含1000萬(wàn)張人臉圖像的全球最大公開(kāi)面部識(shí)別數(shù)據(jù)庫(kù)MS Celeb。該數(shù)據(jù)庫(kù)最初于2016年發(fā)布，被微軟描述為世界上最大的公開(kāi)面部識(shí)別數(shù)據(jù)庫(kù)，并用于培訓(xùn)全球科技公司和軍事研究人員的面部識(shí)別系統(tǒng)。

史上最嚴(yán)數(shù)據(jù)保護(hù)條例，歐盟GDPR最高開(kāi)出2億美元罰單

《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，GDPR）是在歐盟法律中對(duì)所有歐盟個(gè)人關(guān)于數(shù)據(jù)保護(hù)和隱私的規(guī)范，涉及了歐洲境外的個(gè)人資料出口。GDPR 主要目標(biāo)為取回公民以及住民對(duì)于個(gè)人資料的控制，以及為了國(guó)際商務(wù)而簡(jiǎn)化在歐盟內(nèi)的統(tǒng)一規(guī)范。

GDPR取代了歐盟在1995年推出的歐盟個(gè)人資料《數(shù)據(jù)保護(hù)指令》（Data Protection Directive），該條例包含有關(guān)處理歐盟內(nèi)部數(shù)據(jù)主體的個(gè)人可識(shí)別資訊的條款和要求，適用于與歐洲做生意的所有企業(yè)。

本法案在2016年4月27日通過(guò)，緩沖期為兩年，于2018年5月25日起強(qiáng)制執(zhí)行。

截至目前，歐盟各國(guó)以及英國(guó)已經(jīng)根據(jù)GDPR對(duì)多個(gè)企業(yè)進(jìn)行了處罰，其中罰款額度最高的超過(guò)2億美元，被處罰的企業(yè)涉及各個(gè)行業(yè)。

2019年7月8日，英國(guó)監(jiān)管機(jī)構(gòu)信息委員會(huì)辦公室（ICO）決定對(duì)英國(guó)航空公司做出高達(dá)1.83億英鎊的罰款，原因是該公司的大量用戶信息被轉(zhuǎn)移至欺詐網(wǎng)站上，攻擊者通過(guò)虛假的英國(guó)航空公司網(wǎng)站收集了大約50萬(wàn)乘客的個(gè)人信息。此次信息泄露已經(jīng)持續(xù)了一年有余，航空公司方面負(fù)有不可推卸的安全責(zé)任。

其實(shí)我國(guó)也有相關(guān)的標(biāo)準(zhǔn)來(lái)規(guī)范數(shù)據(jù)保護(hù)的。2018年5月1日，《信息安全技術(shù)個(gè)人信息安全規(guī)范》（GB/T 35273—2017），其中明確規(guī)定：

收集個(gè)人信息前，應(yīng)向個(gè)人信息主體明確告知所提供產(chǎn)品或服務(wù)的不同業(yè)務(wù)功能分別收集的個(gè)人信息類型，以及收集、使用個(gè)人信息的規(guī)則（例如收集和使用個(gè)人信息的目的、收集方式和頻率、存放地域、存儲(chǔ)期限、自身的數(shù)據(jù)安全能力、對(duì)外共享、轉(zhuǎn)讓、公開(kāi)披露的有關(guān)情況等），并獲得個(gè)人信息主體的授權(quán)同意。

有規(guī)范是第一步，具體的落實(shí)需要各方共同的努力。最近AI換臉應(yīng)用“ZAO”一夜爆紅被推到輿論風(fēng)暴的中心再次印證了大家對(duì)于隱私保護(hù)的擔(dān)憂。在這個(gè)AI時(shí)代，如何權(quán)衡技術(shù)的發(fā)展與隱私的保護(hù)是值得我們深思的問(wèn)題。

本文轉(zhuǎn)載自微信公眾號(hào)“新智元”。原標(biāo)題《開(kāi)學(xué)AI登場(chǎng)！南京高校用人臉識(shí)別查考勤管理學(xué)生，還敢逃課、玩手機(jī)？》文章為作者獨(dú)立觀點(diǎn)，不代表芥末堆立場(chǎng)，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。