圖片來源:中國網信網

人民網北京7月13日電 (記者申佳平)據中國網信網消息,近日,國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》(以下簡稱《辦法》),自2023年8月15日起施行。

近年來,生成式人工智能技術快速發展,為經濟社會發展帶來新機遇的同時,也產生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題,如何統籌生成式人工智能發展和安全引起各方關注。

國家互聯網信息辦公室有關負責人表示,出臺《辦法》,旨在促進生成式人工智能健康發展和規范應用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權益。這既是促進生成式人工智能健康發展的重要要求,也是防范生成式人工智能服務風險的現實需要。

《辦法》指出, 利用生成式人工智能技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務(以下簡稱“生成式人工智能服務”),適用本辦法。

《辦法》提出國家堅持發展和安全并重、促進創新和依法治理相結合的原則,采取有效措施鼓勵生成式人工智能創新發展,對生成式人工智能服務實行包容審慎和分類分級監管,明確了提供和使用生成式人工智能服務總體要求。提出了促進生成式人工智能技術發展的具體措施,明確了訓練數據處理活動和數據標注等要求。規定了生成式人工智能服務規范,明確生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務,按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識,發現違法內容應當及時采取處置措施等。此外,還規定了安全評估、算法備案、投訴舉報等制度,明確了法律責任。

其中,《辦法》要求,生成式人工智能服務提供者應當依法開展預訓練、優化訓練等訓練數據處理活動,遵守以下規定。

一是使用具有合法來源的數據和基礎模型;

二是涉及知識產權的,不得侵害他人依法享有的知識產權;

三是涉及個人信息的,應當取得個人同意或者符合法律、行政法規規定的其他情形;

四是采取有效措施提高訓練數據質量,增強訓練數據的真實性、準確性、客觀性、多樣性;

五是《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。

同時,在生成式人工智能技術研發過程中進行數據標注的,提供者應當制定符合本辦法要求的清晰、具體、可操作的標注規則;開展數據標注質量評估,抽樣核驗標注內容的準確性;對標注人員進行必要培訓,提升尊法守法意識,監督指導標注人員規范開展標注工作。

國家互聯網信息辦公室有關負責人指出,生成式人工智能服務的發展與治理需要政府、企業、社會、網民等多方參與,共同促進生成式人工智能健康發展,讓生成式人工智能技術更好地造福人民。