近日,網絡上一張“課堂行為分析”的圖片引發網民疑慮和警惕。據媒體報道,南京一高校在部分試點教室安裝了人臉識別系統,用于日常考勤和課堂紀律管理。學生是否出勤、是否認真聽講、課堂上是否抬頭低頭、是否閉眼打瞌睡等行為,均能被智能識別。一些網民認為,它侵犯了學生的隱私權,是一種濫用技術的行為。對此,涉事高校回應稱,該系統在校園只是“試點”“規劃”,且教室屬于公開場所,不存在“侵犯隱私”。教育部科學技術司相關人員在接受媒體采訪時表示,校園推廣人臉識別技術應謹慎,要加以限制和管理。開發該系統的曠視科技也發布聲明稱,該圖片只是為技術場景化概念演示。

 相關爭議不斷發酵,截至9月17日,僅微博話題#高校試水教室人臉識別#閱讀量達1.1億次,討論量達2.5萬條。輿論場除擔憂此舉有侵犯個人隱私之嫌外,數據安全、科技倫理及防范人工智能新技術帶來的風險等,成為輿論焦點并引發深度探討。

 人工智能風險引起普遍擔憂

 人工智能一般是指“包括機器學習,基于收集、處理和適應來自現實世界的數據的算法。”近年來,我國人工智能產業呈現出蓬勃發展的良好態勢,智能語音、智能網聯汽車、智能視頻圖像身份識別等技術的發展及其所帶來的日趨豐富的應用場景,正在深刻改變人們的生產生活方式,為經濟社會發展注入了新動能。然而,人工智能帶來的風險也引發輿論擔憂。

 7月13日,在第四屆全球金融科技峰會上,央行科技司司長李偉警示AI人臉識別等新技術帶來的新風險,強調要引導信息技術在金融領域合理的運用,不能濫用技術。他說,“前段時間在‘3·15’講到‘隔空盜刷’的問題,支付場景沒有表達出個人主觀支付意愿。而人臉支付的時候,一刷臉錢就沒了,其實更可怕。銀行卡可能還揣在兜里,臉卻是平常露在外面的,識別出來非常容易,現在有的技術在3公里之外識別你的人臉,沒有表達客戶主觀意愿去刷臉是多么可怕的一件事情”。

 8月30日,一款名為“ZAO”的人工智能換臉軟件在社交媒體成為爆款。網民只需提供一張人臉照片,就可以將選定視頻中的人物面部替換掉,從而生成新的視頻片段。ZAO給網民帶來新奇體驗的同時,其存在的個人信息安全保護、肖像權、版權等安全隱患,也引發擔憂。

 9月3日,工業和信息化部網絡安全管理局對ZAO運營企業陌陌公司相關負責人進行問詢約談,要求其組織開展自查整改,強化網絡數據和用戶個人信息安全保護。對此,ZAO運營團隊回應稱,將嚴格按照法律法規和各主管部門的要求,以更加嚴格的標準,全面加強內容管理、完善各項管理機制,確保用戶個人信息安全和數據安全。

 人工智能帶來的輿情風險

 關于人工智能帶來的技術風險一直是輿論熱議話題。習近平總書記1月25日在中共中央政治局集體學習中指出:“要全面提升技術治網能力和水平,規范數據資源利用,防范大數據等新技術帶來的風險。”

 人工智能在給人類生活、社會經濟帶來新變化的同時,對于相關部門輿情處置與網絡治理工作,也帶來前所未有的挑戰。

 一是虛假新聞問題。

 人工智能可以改變影像中物體的運動軌跡或者重塑人物形象,這讓虛假新聞更難被識別,導致謠言的迅速擴散,甚至影響輿論走向。

 二是“人工智能+網絡平臺”帶來的復雜的信息管理難題。

 當前媒介融合方興未艾,人工智能成為提升生產力、傳播力與影響力的重要手段。互聯網商業平臺與主流媒體上主要用于進行算法精準推送、個性化內容定制、機器人寫稿與“中央廚房”建設等,未來應用場景將進一步擴展。同時,“人工智能+網絡平臺”也蘊含著諸多風險因素,值得研究和關注。比如人工智能算法主導的新聞生產與信息分發,帶來了信息繭房效應與算法偏見等問題,沖擊網絡輿論生態。

 三是輿論操控與數據濫用問題。

 2018年3月,外媒報道臉書公司5000萬用戶信息被第三方公司“劍橋分析”用于大數據分析,根據用戶的興趣特點、行為動態精準投放廣告和資訊內容,甚至被懷疑利用數據預測用戶政治傾向,成為間接影響總統大選的力量。再如,一些互聯網公司采用大數據技術“殺熟”,都為人工智能時代規范數據運用、加強隱私保護敲響了警鐘。

 相關建議

 在人工智能飛速發展的時代,其帶來的風險與挑戰值得重視。需要政府相關部門、業界和公眾深入討論,加強對潛在風險的研判和防范,讓新技術更好地為我所用。有聲音認為,人工智能技術治理關鍵是抓住三個核心關鍵問題:算法、數據和算力,要在相關方面來立法和監督。

 第一,要高度重視人工智能給網絡輿論帶來的風險。

 要充分評估人工智能給網絡安全、國家安全等構成的威脅,加快人工智能前瞻性研究。

 第二,確保算法公開透明、可監督。

 當前,為規避人工智能帶來的虛假新聞,一個行之有效的辦法即要求公開商業平臺機器算法的源代碼,提升算法透明度。此外,人工智能技術目前被廣泛運用于追蹤和識別虛假新聞。今年4月,某互聯網公司發布“AI謠言粉碎機”。據稱,這款人工智能程序目前在特定場景中對網絡謠言和假新聞的識別準確率已經達到81%,是應對虛假新聞的重要幫手。因此,要進一步規避人工智能輿情應對的風險,也需要加強技術運用,把握技術“制空權”

 最后,要健全人工智能技術方面的法律法規以及行業自律制度,加強數據安全與隱私保護。

 當前,包括人臉識別在內的人工智能的廣泛應用已是大勢所趨,更要安全地使用人工智能。比如網絡數據收集,需要保障用戶的數據安全,不得以犧牲用戶隱私為代價,需要加強數據保護立法,不斷強化人工智能應用中的用戶隱私保護。