AI 班主任上線監(jiān)視學(xué)生一舉一動，網(wǎng)友熱議：侵犯隱私

安全、便利不應(yīng)成為侵犯隱私的借口，何況這個借口還經(jīng)不起推敲。在不能解決問題之前，也請不要帶來更多的問題。當(dāng)然這不是某一家科技公司的問題，這是整個行業(yè)都在“規(guī)避”的問題。

趴桌子 2 次，玩手機 2 次，睡覺 1 次，聽講 0 次，閱讀 0 次，舉手 0 次，笑了 0 次，厭惡表情出現(xiàn)了 10 次，這是南京某高校安裝的教室人臉識別系統(tǒng)獲取的學(xué)生上課數(shù)據(jù)。也就是說，學(xué)生上課期間的一言一行，一個表情、一個眼神都會被識別系統(tǒng)記錄下來。

此舉引起了網(wǎng)友的熱議，大部分網(wǎng)友表示反對，認(rèn)為這侵犯了學(xué)生隱私，不過另一些人卻表示支持。而對于是否侵犯隱私，該校領(lǐng)導(dǎo)表示，學(xué)校之前已向公安部門和法務(wù)部門咨詢，由于教室屬于公開場所，因此不存在“侵犯隱私”的說法。
 
首先我們來看一下隱私的概念，根據(jù)“百度百科”給出的說法，隱私是一種與公共利益、群體利益無關(guān)，當(dāng)事人不愿他人知道或他人不便知道的個人信息，（只能公開于有保密義務(wù)的人）當(dāng)事人不愿他人干涉或他人不便干涉的個人私事，以及當(dāng)事人不愿他人侵入或他人不便侵入的個人領(lǐng)域。隱私是個人的自然權(quán)利。
 
其次，我們再來看一下公共場所的定義，按照我們大眾的理解，公眾場所應(yīng)該是可以面向大眾開放的場所。而根據(jù)根據(jù)國務(wù)院發(fā)布實施的《公共場所衛(wèi)生管理條例》，我國公共場所共有 7 類 28 種，具體如下：（1）賓館、飯館、旅店、招待所、停車場、咖啡館、酒吧、茶座；（2）公共浴室、理發(fā)店、美容廳等；（3）影劇院、錄像廳（室）游藝廳（室）、舞廳、音樂廳等；（4）體育場（館）、游泳場（館）、公園；（5）展覽館、博物館、美術(shù)館、圖書館；（6）商場（店）、書店；（7）候診室、候車室、公共交通工具。教室均不屬于以上種類。

隱私換安全

在這張廣為流傳的圖片上，明顯印有“MEGVII 曠視”的 LOGO，因此這也被認(rèn)定是曠視的視覺 AI 系統(tǒng)。

此前，曠視曾對外介紹過視覺 AI 在教育場景中的應(yīng)用，稱“曠視科技將自主研發(fā)的人臉識別、行為識別、表情識別等技術(shù)，集成在考勤及行為分析攝像機 MegEye-C3V-920 和行為分析服務(wù)器中。通過對課堂視頻數(shù)據(jù)進(jìn)行實時的結(jié)構(gòu)化分析，反饋學(xué)生行為、表情、專注度、前排上座率等多維度課堂數(shù)據(jù)，從而輔助教學(xué)評估評價”。

隨著網(wǎng)上的討伐之聲此起彼伏，曠視科技很快便發(fā)布了一則正式聲明，表示網(wǎng)上出現(xiàn)的圖片僅僅是技術(shù)場景概念演示，公司在教育領(lǐng)域的產(chǎn)品專注于保護(hù)孩子在校園的安全。
 
按照曠視科技的說法，他們的出發(fā)點是為了維護(hù)校園安全。但是，這種維度的監(jiān)控顯然已經(jīng)超出了相關(guān)范疇。有教育人士表示，如果僅用來輔助教學(xué)，用數(shù)據(jù)來量化考察授課效果，那么這套系統(tǒng)是有意義的。但從反饋的信息來看，這已經(jīng)變成了對學(xué)生行為的監(jiān)控。如果被濫用于學(xué)生管理，甚至將數(shù)據(jù)共享給家長，對于學(xué)生的教育成長可能產(chǎn)生負(fù)面效果。當(dāng)前的數(shù)據(jù)安全問題還沒解決又如何應(yīng)對新的數(shù)據(jù)隱患。
 
從教育的層面來看，學(xué)生還沒有走出校園就已經(jīng)受到了監(jiān)控，這其實是教育形式的一種倒退，也是教育管理工作的一種無能的體現(xiàn)。本質(zhì)上，這與趴在門口、窗邊監(jiān)視學(xué)生上課狀態(tài)的班主任的工作并沒有有什么區(qū)別，只不過監(jiān)控的能力成幾何倍增長了。

從維護(hù)學(xué)生安全的角度來看，要解決孩子的人身安全，需要我們?nèi)シ治鏊硕嗌俅斡X，舉了多少次手以及瞟了同桌多少眼的問題嗎？據(jù)有關(guān)調(diào)查顯示，2015-2017 年，我國校園意外傷亡的人數(shù)平均每天就有四十多人，事故災(zāi)害和社會安全事件占比最大。而在事故災(zāi)難中，溺水、落水，交通事故的數(shù)量又是最多的。可以看出，真正的校園安全問題大多發(fā)生在校外。所以，為了學(xué)生的安全，真的有必要在教室安裝人臉識別系統(tǒng)嗎？

 
曠視科技可以通過將學(xué)生行為數(shù)據(jù)化來幫助高校提高教育管理工作的效率，這也是大數(shù)據(jù)時代數(shù)據(jù)服務(wù)、數(shù)據(jù)變現(xiàn)一種方式。大數(shù)據(jù)給我們帶來了很大的便利，但你也付出了隱私的代價。微軟中國首席技術(shù)官韋青在曾表示，目前大數(shù)據(jù)的發(fā)展仍然面臨著許多挑戰(zhàn)，最重要的是用戶隱私的挑戰(zhàn)。萬物互聯(lián)的時代，每個人都變成了透明人，安全隱患也隨之而來。同時，他還強調(diào)，不要隨便把小孩的照片傳到網(wǎng)上去。
 
從遭受的經(jīng)濟損失來看，根據(jù)中國互聯(lián)網(wǎng)協(xié)會發(fā)布的《中國網(wǎng)民權(quán)益保護(hù)調(diào)查報告 2016》，我國網(wǎng)民一年間因為垃圾信息、詐騙信息、個人信息泄露等遭受的經(jīng)濟損失達(dá) 915 億元，人均損失 123 元。
 
隱私換便利

前有隱私換便利，后有隱私換安全。2018 年 3 月，百度 CEO 李彥宏曾表示，中國的消費者在隱私保護(hù)的前提下，很多時候是愿意以一定的個人數(shù)據(jù)授權(quán)使用，去換取更加便捷的服務(wù)。不過，我相信絕大多數(shù)人都不喜歡沒完沒了的垃圾短信和各類推銷電話。
 
最近，AI 換臉軟件“ZAO”刷爆了朋友圈也同時引發(fā)了外界關(guān)于隱私安全的探討，工信部還就“ZAO”App 用戶隱私數(shù)據(jù)安全問題問詢約談陌陌科技。根據(jù) ZAO 最初的用戶協(xié)議內(nèi)容中的必要授權(quán)協(xié)議：用戶上傳發(fā)布內(nèi)容后，意味著同意授予 ZAO 及其關(guān)聯(lián)公司以及 ZAO 用戶在“全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”，“包括但不限于可以對用戶內(nèi)容進(jìn)行全部或部分的修改與編輯（如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等）以及對修改前后的用戶內(nèi)容進(jìn)行信息網(wǎng)絡(luò)傳播以及《著作權(quán)法》規(guī)定的由著作權(quán)人享有的全部著作財產(chǎn)權(quán)利及鄰接權(quán)利”。
 
雖然目前 ZAO 修改了其用戶協(xié)議內(nèi)容，在用戶協(xié)議的開頭部分增加了“特別提示”。但這仍不足以打消用戶的擔(dān)憂。

不得不提的歐盟 GDPR

談到隱私問題，不得不提歐盟的 GDPR 條例。2018 年 5 月，歐盟全面實施了號稱史上最嚴(yán)的數(shù)據(jù)監(jiān)管條例——GDPR （General Data Protection Regulation，通用數(shù)據(jù)保護(hù)條例 ）。而 GDPR 法案的前身是歐盟在 1995 年制定的《計算機數(shù)據(jù)保護(hù)法》。彼時互聯(lián)網(wǎng)才剛形成雛形，那時候的法律自然跟不上現(xiàn)在的互聯(lián)網(wǎng)新形勢。而隨著大數(shù)據(jù)時代的到來，相關(guān)的法律更新也是必然。
 

GDPR 立法時間軸（來源：埃森哲）
 

該條例極為嚴(yán)苛，從數(shù)據(jù)收集、數(shù)據(jù)存儲、數(shù)據(jù)處理、數(shù)據(jù)跨境傳輸（向歐盟境外的傳輸）等各個環(huán)節(jié)都進(jìn)行了系統(tǒng)的規(guī)范，只要一家企業(yè)向歐盟境內(nèi)的個人提供了商品或服務(wù)、并收集或處理了個人數(shù)據(jù)，不管該企業(yè)是否在歐盟境內(nèi)設(shè)有機構(gòu)，都適用于 GDPR 。
 
舉例而言，如果一家中國在線銷售公司的網(wǎng)站上，使用“面向歐洲的特惠產(chǎn)品”、“歐洲區(qū)包郵”的字樣，或者標(biāo)注了商品的歐元價格，就可以被視為在歐盟市場提供商品或服務(wù)，并受到管轄。所以我想，那些以安全、便利為由的公司想要打開歐洲的市場會非常難。
 
該法案重點保護(hù)的是自然人的“個人數(shù)據(jù)”，例如姓名、地址、電子郵件地址、電話號碼、生日、銀行賬戶、汽車牌照、IP 地址以及 cookies 等。
 
對于違法者，條例也有詳細(xì)的規(guī)定，輕者處以 1000 萬歐元或者上一年度全球營收的 2%（兩者取其高）的罰款；重者處以 2000 萬歐元或者企業(yè)上一年度全球營收的 4%（兩者取其高）的罰款。
 
此外，GDPR 強調(diào)數(shù)據(jù)所有者的知情權(quán)，規(guī)定數(shù)據(jù)使用必須事先征得數(shù)據(jù)主體的同意，而且“同意”必須是具體的、清晰的，是用戶在充分知情的前提下自由做出的。
 
安全、便利不應(yīng)成為侵犯隱私的借口，何況這個借口還經(jīng)不起推敲。在不能解決問題之前，也請不要帶來更多的問題。在此，我們引用知乎上一位回答“如何看待曠視科技新產(chǎn)品監(jiān)視學(xué)生上課？”得到最高贊的匿名人士的一段感概作為結(jié)語：這不是產(chǎn)品經(jīng)理或者程序員的問題，不是一家公司的問題，甚至不是一個技術(shù)問題，這是我們社會的價值觀的問題，是我們怎么看待自身權(quán)益的問題。