加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

AI 班主任上線監(jiān)視學(xué)生一舉一動(dòng),網(wǎng)友熱議:侵犯隱私

2019/09/05
94
閱讀需 31 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

安全、便利不應(yīng)成為侵犯隱私的借口,何況這個(gè)借口還經(jīng)不起推敲。在不能解決問(wèn)題之前,也請(qǐng)不要帶來(lái)更多的問(wèn)題。當(dāng)然這不是某一家科技公司的問(wèn)題,這是整個(gè)行業(yè)都在“規(guī)避”的問(wèn)題。

趴桌子 2 次,玩手機(jī) 2 次,睡覺(jué) 1 次,聽講 0 次,閱讀 0 次,舉手 0 次,笑了 0 次,厭惡表情出現(xiàn)了 10 次,這是南京某高校安裝的教室人臉識(shí)別系統(tǒng)獲取的學(xué)生上課數(shù)據(jù)。也就是說(shuō),學(xué)生上課期間的一言一行,一個(gè)表情、一個(gè)眼神都會(huì)被識(shí)別系統(tǒng)記錄下來(lái)。

此舉引起了網(wǎng)友的熱議,大部分網(wǎng)友表示反對(duì),認(rèn)為這侵犯了學(xué)生隱私,不過(guò)另一些人卻表示支持。而對(duì)于是否侵犯隱私,該校領(lǐng)導(dǎo)表示,學(xué)校之前已向公安部門和法務(wù)部門咨詢,由于教室屬于公開場(chǎng)所,因此不存在“侵犯隱私”的說(shuō)法。
 
首先我們來(lái)看一下隱私的概念,根據(jù)“百度百科”給出的說(shuō)法,隱私是一種與公共利益、群體利益無(wú)關(guān),當(dāng)事人不愿他人知道或他人不便知道的個(gè)人信息,(只能公開于有保密義務(wù)的人)當(dāng)事人不愿他人干涉或他人不便干涉的個(gè)人私事,以及當(dāng)事人不愿他人侵入或他人不便侵入的個(gè)人領(lǐng)域。隱私是個(gè)人的自然權(quán)利。
 
其次,我們?cè)賮?lái)看一下公共場(chǎng)所的定義,按照我們大眾的理解,公眾場(chǎng)所應(yīng)該是可以面向大眾開放的場(chǎng)所。而根據(jù)根據(jù)國(guó)務(wù)院發(fā)布實(shí)施的《公共場(chǎng)所衛(wèi)生管理?xiàng)l例》,我國(guó)公共場(chǎng)所共有 7 類 28 種,具體如下:(1)賓館、飯館、旅店、招待所、停車場(chǎng)、咖啡館、酒吧、茶座;(2)公共浴室、理發(fā)店、美容廳等;(3)影劇院、錄像廳(室)游藝廳(室)、舞廳、音樂(lè)廳等;(4)體育場(chǎng)(館)、游泳場(chǎng)(館)、公園;(5)展覽館、博物館、美術(shù)館、圖書館;(6)商場(chǎng)(店)、書店;(7)候診室、候車室、公共交通工具。教室均不屬于以上種類。

隱私換安全

在這張廣為流傳的圖片上,明顯印有“MEGVII 曠視”的 LOGO,因此這也被認(rèn)定是曠視的視覺(jué) AI 系統(tǒng)。

此前,曠視曾對(duì)外介紹過(guò)視覺(jué) AI 在教育場(chǎng)景中的應(yīng)用,稱“曠視科技將自主研發(fā)的人臉識(shí)別、行為識(shí)別、表情識(shí)別等技術(shù),集成在考勤及行為分析攝像機(jī) MegEye-C3V-920 和行為分析服務(wù)器中。通過(guò)對(duì)課堂視頻數(shù)據(jù)進(jìn)行實(shí)時(shí)的結(jié)構(gòu)化分析,反饋學(xué)生行為、表情、專注度、前排上座率等多維度課堂數(shù)據(jù),從而輔助教學(xué)評(píng)估評(píng)價(jià)”。

隨著網(wǎng)上的討伐之聲此起彼伏,曠視科技很快便發(fā)布了一則正式聲明,表示網(wǎng)上出現(xiàn)的圖片僅僅是技術(shù)場(chǎng)景概念演示,公司在教育領(lǐng)域的產(chǎn)品專注于保護(hù)孩子在校園的安全。
 
按照曠視科技的說(shuō)法,他們的出發(fā)點(diǎn)是為了維護(hù)校園安全。但是,這種維度的監(jiān)控顯然已經(jīng)超出了相關(guān)范疇。有教育人士表示,如果僅用來(lái)輔助教學(xué),用數(shù)據(jù)來(lái)量化考察授課效果,那么這套系統(tǒng)是有意義的。但從反饋的信息來(lái)看,這已經(jīng)變成了對(duì)學(xué)生行為的監(jiān)控。如果被濫用于學(xué)生管理,甚至將數(shù)據(jù)共享給家長(zhǎng),對(duì)于學(xué)生的教育成長(zhǎng)可能產(chǎn)生負(fù)面效果。當(dāng)前的數(shù)據(jù)安全問(wèn)題還沒(méi)解決又如何應(yīng)對(duì)新的數(shù)據(jù)隱患。
 
從教育的層面來(lái)看,學(xué)生還沒(méi)有走出校園就已經(jīng)受到了監(jiān)控,這其實(shí)是教育形式的一種倒退,也是教育管理工作的一種無(wú)能的體現(xiàn)。本質(zhì)上,這與趴在門口、窗邊監(jiān)視學(xué)生上課狀態(tài)的班主任的工作并沒(méi)有有什么區(qū)別,只不過(guò)監(jiān)控的能力成幾何倍增長(zhǎng)了。

從維護(hù)學(xué)生安全的角度來(lái)看,要解決孩子的人身安全,需要我們?nèi)シ治鏊硕嗌俅斡X(jué),舉了多少次手以及瞟了同桌多少眼的問(wèn)題嗎?據(jù)有關(guān)調(diào)查顯示,2015-2017 年,我國(guó)校園意外傷亡的人數(shù)平均每天就有四十多人,事故災(zāi)害和社會(huì)安全事件占比最大。而在事故災(zāi)難中,溺水、落水,交通事故的數(shù)量又是最多的??梢钥闯?,真正的校園安全問(wèn)題大多發(fā)生在校外。所以,為了學(xué)生的安全,真的有必要在教室安裝人臉識(shí)別系統(tǒng)嗎?

 

 
曠視科技可以通過(guò)將學(xué)生行為數(shù)據(jù)化來(lái)幫助高校提高教育管理工作的效率,這也是大數(shù)據(jù)時(shí)代數(shù)據(jù)服務(wù)、數(shù)據(jù)變現(xiàn)一種方式。大數(shù)據(jù)給我們帶來(lái)了很大的便利,但你也付出了隱私的代價(jià)。微軟中國(guó)首席技術(shù)官韋青在曾表示,目前大數(shù)據(jù)的發(fā)展仍然面臨著許多挑戰(zhàn),最重要的是用戶隱私的挑戰(zhàn)。萬(wàn)物互聯(lián)的時(shí)代,每個(gè)人都變成了透明人,安全隱患也隨之而來(lái)。同時(shí),他還強(qiáng)調(diào),不要隨便把小孩的照片傳到網(wǎng)上去。
 
從遭受的經(jīng)濟(jì)損失來(lái)看,根據(jù)中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)布的《中國(guó)網(wǎng)民權(quán)益保護(hù)調(diào)查報(bào)告 2016》,我國(guó)網(wǎng)民一年間因?yàn)槔畔?、詐騙信息、個(gè)人信息泄露等遭受的經(jīng)濟(jì)損失達(dá) 915 億元,人均損失 123 元。
 
隱私換便利

前有隱私換便利,后有隱私換安全。2018 年 3 月,百度 CEO 李彥宏曾表示,中國(guó)的消費(fèi)者在隱私保護(hù)的前提下,很多時(shí)候是愿意以一定的個(gè)人數(shù)據(jù)授權(quán)使用,去換取更加便捷的服務(wù)。不過(guò),我相信絕大多數(shù)人都不喜歡沒(méi)完沒(méi)了的垃圾短信和各類推銷電話。
 
最近,AI 換臉軟件“ZAO”刷爆了朋友圈也同時(shí)引發(fā)了外界關(guān)于隱私安全的探討,工信部還就“ZAO”App 用戶隱私數(shù)據(jù)安全問(wèn)題問(wèn)詢約談陌陌科技。根據(jù) ZAO 最初的用戶協(xié)議內(nèi)容中的必要授權(quán)協(xié)議:用戶上傳發(fā)布內(nèi)容后,意味著同意授予 ZAO 及其關(guān)聯(lián)公司以及 ZAO 用戶在“全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利”,“包括但不限于可以對(duì)用戶內(nèi)容進(jìn)行全部或部分的修改與編輯(如將短視頻中的人臉或者聲音換成另一個(gè)人的人臉或者聲音等)以及對(duì)修改前后的用戶內(nèi)容進(jìn)行信息網(wǎng)絡(luò)傳播以及《著作權(quán)法》規(guī)定的由著作權(quán)人享有的全部著作財(cái)產(chǎn)權(quán)利及鄰接權(quán)利”。
 
雖然目前 ZAO 修改了其用戶協(xié)議內(nèi)容,在用戶協(xié)議的開頭部分增加了“特別提示”。但這仍不足以打消用戶的擔(dān)憂。

不得不提的歐盟 GDPR

談到隱私問(wèn)題,不得不提歐盟的 GDPR 條例。2018 年 5 月,歐盟全面實(shí)施了號(hào)稱史上最嚴(yán)的數(shù)據(jù)監(jiān)管條例——GDPR (General Data Protection Regulation,通用數(shù)據(jù)保護(hù)條例 )。而 GDPR 法案的前身是歐盟在 1995 年制定的《計(jì)算機(jī)數(shù)據(jù)保護(hù)法》。彼時(shí)互聯(lián)網(wǎng)才剛形成雛形,那時(shí)候的法律自然跟不上現(xiàn)在的互聯(lián)網(wǎng)新形勢(shì)。而隨著大數(shù)據(jù)時(shí)代的到來(lái),相關(guān)的法律更新也是必然。
 

GDPR 立法時(shí)間軸(來(lái)源:埃森哲)
 

該條例極為嚴(yán)苛,從數(shù)據(jù)收集、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)處理、數(shù)據(jù)跨境傳輸(向歐盟境外的傳輸)等各個(gè)環(huán)節(jié)都進(jìn)行了系統(tǒng)的規(guī)范,只要一家企業(yè)向歐盟境內(nèi)的個(gè)人提供了商品或服務(wù)、并收集或處理了個(gè)人數(shù)據(jù),不管該企業(yè)是否在歐盟境內(nèi)設(shè)有機(jī)構(gòu),都適用于 GDPR 。
 
舉例而言,如果一家中國(guó)在線銷售公司的網(wǎng)站上,使用“面向歐洲的特惠產(chǎn)品”、“歐洲區(qū)包郵”的字樣,或者標(biāo)注了商品的歐元價(jià)格,就可以被視為在歐盟市場(chǎng)提供商品或服務(wù),并受到管轄。所以我想,那些以安全、便利為由的公司想要打開歐洲的市場(chǎng)會(huì)非常難。
 
該法案重點(diǎn)保護(hù)的是自然人的“個(gè)人數(shù)據(jù)”,例如姓名、地址、電子郵件地址、電話號(hào)碼、生日、銀行賬戶、汽車牌照、IP 地址以及 cookies 等。
 
對(duì)于違法者,條例也有詳細(xì)的規(guī)定,輕者處以 1000 萬(wàn)歐元或者上一年度全球營(yíng)收的 2%(兩者取其高)的罰款;重者處以 2000 萬(wàn)歐元或者企業(yè)上一年度全球營(yíng)收的 4%(兩者取其高)的罰款。
 
此外,GDPR 強(qiáng)調(diào)數(shù)據(jù)所有者的知情權(quán),規(guī)定數(shù)據(jù)使用必須事先征得數(shù)據(jù)主體的同意,而且“同意”必須是具體的、清晰的,是用戶在充分知情的前提下自由做出的。
 
安全、便利不應(yīng)成為侵犯隱私的借口,何況這個(gè)借口還經(jīng)不起推敲。在不能解決問(wèn)題之前,也請(qǐng)不要帶來(lái)更多的問(wèn)題。在此,我們引用知乎上一位回答“如何看待曠視科技新產(chǎn)品監(jiān)視學(xué)生上課?”得到最高贊的匿名人士的一段感概作為結(jié)語(yǔ):這不是產(chǎn)品經(jīng)理或者程序員的問(wèn)題,不是一家公司的問(wèn)題,甚至不是一個(gè)技術(shù)問(wèn)題,這是我們社會(huì)的價(jià)值觀的問(wèn)題,是我們?cè)趺纯创陨頇?quán)益的問(wèn)題。
 

相關(guān)推薦

電子產(chǎn)業(yè)圖譜