人臉識別技術應用范圍越來越廣，但其潛在的一些安全隱患也令許多業(yè)內專家、學者對其使用、推廣持審慎態(tài)度。

近日，寧夏銀川市興慶區(qū)回民二小觀湖校區(qū)（以下簡稱“回二觀湖校區(qū)”）將在學校內安裝人臉識別系統(tǒng)的事情引發(fā)討論。對此有該校家長質疑，人臉識別系統(tǒng)是否會侵犯學生隱私，存在泄露學生個人信息的安全隱患。

對此，全國政協(xié)委員、上海市信息安全行業(yè)協(xié)會名譽會長談劍鋒認為，學校要講清楚數(shù)據(jù)怎么采集、怎么存儲、怎么使用、怎么銷毀。說清楚后，征得家長同意的情況下可以做。

中國人民大學法學院副教授、哈佛大學法學博士郭銳表示，人工智能在教育場景下的使用需特別謹慎。而在學校推廣使用人臉識別技術，則需征得每一位家長的書面同意。

4月12日，銀川市興慶區(qū)教育局一位相關負責人就此事向澎湃新聞表示，人臉識別系統(tǒng)僅為確保孩子在校安全，目前還在前期籌備階段，最終使用需家長同意。不過澎湃新聞近日采訪多位該校家長發(fā)現(xiàn)，家長們只接到學校關于提交照片的通知，并未簽署任何與人臉識別系統(tǒng)使用相關的書面知情同意書。

學校門口已經安裝好人臉識別系統(tǒng)。本文圖片 新消息報

區(qū)教育局：暫時在前期籌備階段

多位回二觀湖校區(qū)的家長向澎湃新聞表示，近日接到學校通知，為方便出入校門“刷臉”通行，要求提交一張孩子的近期免冠證件照電子版。但學校并沒有就使用人臉識別系統(tǒng)一事向他們征求意見，只是通知在規(guī)定時間內，盡快提交學生的電子版照片和學籍號。

對此，中國人民大學法學院副教授、哈佛大學法學博士郭銳表示，根據(jù)《民法典》和《網絡安全法》的相關規(guī)定，需要有家長明確的書面同意書，學校方可使用學生的人臉識別數(shù)據(jù)。

寧夏本地媒體《新消息報》4月12日也報道了這一事件，一篇題為《銀川一小學實行“刷臉”通行！家長擔心泄露學生信息》的文章中寫道：銀川市興慶區(qū)回民二小信息中心主任段帥介紹，該校觀湖校區(qū)目前有4500多名學生，學校規(guī)模逐漸擴大，如何保障在校師生的安全顯得尤為重要。2020年8月，學校圍繞智能化校園安全管理建設的“智管中心”項目啟動，目前，已進入最后的信息錄入與調試階段。

上述報道提到，該項目建設完成后，學校師生進出校門將實現(xiàn)無感化人臉認證，校內公共開放區(qū)域及教學區(qū)域都將實現(xiàn)安防覆蓋。該系統(tǒng)還可對孩子可能存在的推搡、打架等風險進行預警，如密度超標報警、語音提示、遠程喊話等。系統(tǒng)運行后，一旦某位學生出現(xiàn)意外情況，只要輸入學生的班級及名字，系統(tǒng)就會自動生成該學生一天的軌跡記錄，有利于快速追溯到異常情況。在輔助教學方面，電子班牌、課堂人臉點名、巡課督導、考試管理都可以達到智能管理的目的。

多位家長表示，學校并未知會此次人臉采集的具體使用情況等信息。上述《新消息報》報道中提到的推搡、打架等風險預警、輔助教學功能等，他們也不曾從學校方面獲悉、了解過。

4月12日，澎湃新聞致電銀川市興慶區(qū)教育局，一位相關負責人表示，這套人臉識別系統(tǒng)是智能安防的一部分，學校是個公益性質的地方，主要為孩子安全著想。教育部門不會拿孩子的信息牟利。

這位負責人提到，對使用人臉識別系統(tǒng)的安全問題教育部門也做了充分考量，回二觀湖校區(qū)建立的網絡是一個密閉的內網，不允許接入互聯(lián)網。人臉識別系統(tǒng)就是為了確保孩子在校安全，沒有別的用途。但人臉識別系統(tǒng)是否會識別孩子上課時的面部表情和動作等，這位負責人表示尚不清楚，沒有聽到這樣的說法。

這位負責人還表示，目前人臉識別系統(tǒng)是否使用也在征求家長意見，建立在家長同意的基礎上，不是教育行政部門想咋干就咋干，暫時在前期籌備階段。

專家：學校需清楚告知家長數(shù)據(jù)如何采集等

4月12日，全國政協(xié)委員、上海市信息安全行業(yè)協(xié)會名譽會長談劍鋒就此事接受澎湃新聞采訪時表示，作為學校安全場景，將“刷臉”作為監(jiān)管手段和方式都可以理解，“但數(shù)據(jù)怎么采集、怎么存儲、怎么使用、怎么銷毀，這是一套機制，應該說清楚。說清楚后，征得家長同意的情況下學校可以做。”

談劍鋒表示，數(shù)據(jù)采集是否僅是用在安全保衛(wèi)方面？如果數(shù)據(jù)被第三方公司獲取，學校應該承擔什么樣的責任？學生畢業(yè)了人臉數(shù)據(jù)還要留存嗎？數(shù)據(jù)怎樣銷毀？這幾個問題要問清楚，學校不是不能用，而是看學校怎么用。

在學校北門房的監(jiān)控中心，段帥介紹各方位監(jiān)控攝像機的運行情況。針對上述興慶區(qū)教育局相關負責人提到的，人臉識別系統(tǒng)運行依靠一個“密閉的內網”這一說法。談劍鋒則認為，信息是否存在泄露風險和內網、外網無關，很多內網也有受到攻擊的。而且數(shù)據(jù)泄露不一定是靠外網，很多數(shù)據(jù)泄露是內部職員出賣數(shù)據(jù)，只要采集就有泄露風險。

“關鍵要說清楚，出問題后校方承擔什么責任，不是說數(shù)據(jù)出不出的去，而是一旦泄露后造成損失，誰來承擔這個責任。”談劍鋒說，“人臉是生物特征數(shù)據(jù)，生物特征數(shù)據(jù)有個特點，不可再生性、唯一性。”這意味著，人臉信息一旦泄露，損失不可逆。

而在郭銳看來，學校和教育這個場景，是保護個人信息很敏感的場景，任何人工智能技術的使用，包括人臉識別在內，都要特別謹慎。任何使用都需家長同意，教育主管部門也要審查使用用途。這些用途如果不是學生和家長一起決定同意的，學校的做法就不妥當。

對學校提及的“該系統(tǒng)還可以對孩子可能存在的推搡、打架等風險進行預警，如密度超標報警、語音提示、遠程喊話”這一用途。同時也是全國標準化委員會人工智能總體組社會倫理研究負責人的郭銳認為，如涉及校園霸凌問題，用新的技術能幫助解決這一問題當然是好事。但這背后其實體現(xiàn)的是深層次的矛盾，比如學校是否資源不夠，很少的老師要管很多的學生，當然很多地方就管不到。技術當然能彌補資源不足的短板，但把它當做一個完全的解決方案，可能會比較表面，反倒產生這些問題的深層矛盾就不會有更多關注。

“很多霸凌都在攝像頭看不到的地方發(fā)生，甚至在學校外面發(fā)生。有時互相瞪一眼就表明了想要霸凌的意向，但技術無論如何是監(jiān)控不到的。不去解決深層矛盾，想要依靠一個技術，表面化的把問題解決了，這個做法不可取。”郭銳表示。

也有家長擔心，該校提及的人臉識別“智管中心”項目在輔助教學方面的功能，如“電子班牌、課堂人臉點名、巡課督導、考試管理”等，是否意味著學校會用人臉識別系統(tǒng)監(jiān)控學生課堂表現(xiàn)呢？

對此，郭銳認為家長的擔心有其道理，比如小孩上課打瞌睡，其實是整體學習的一部分。要把上課表現(xiàn)這一項拎出來，恐怕是把人當做機器對待。“一個真正的教育者不會這樣想問題。這都不能真正幫助教育，而且會侵犯學生隱私，不客氣地說這都是外行做法。”

郭銳表示，總的來說，在教育里使用人工智能技術，很多人都想用它來達到一個比較簡單、直接、明確的目標。但在教育里，很多需要解決的問題是互相關聯(lián)的，很少有一些事情是只需解決這一個問題。想要追求用技術解決一個老大難問題，這個思路其實不太對。