據7月13日國家網信辦官網消息,近日,國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》(以下簡稱《辦法》),自2023年8月15日起施行。

 國家網信辦有關負責人表示,出臺《辦法》,旨在促進生成式人工智能健康發展和規范應用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權益。

 近年來,生成式人工智能技術快速發展,為經濟社會發展帶來新機遇的同時,也產生了傳播虛假信息、侵害個人信息權益、數據安全等問題,如何統籌生成式人工智能發展和安全,成了各方關注的問題。出臺《辦法》,既有利于促進生成式人工智能健康發展,也是防范生成式人工智能服務風險的現實需要。

 在此背景下,《辦法》明確了提供和使用生成式人工智能服務的總體要求,提出國家堅持發展和安全并重、促進創新和依法治理相結合的原則,采取有效措施鼓勵生成式人工智能創新發展,對生成式人工智能服務實行包容審慎和分類分級監管。

 此外,《辦法》圍繞促進生成式人工智能技術發展提出了具體措施:一是明確鼓勵生成式人工智能技術在各行業、各領域的創新應用,生成積極健康、向上向善的優質內容,探索優化應用場景,構建應用生態體系。二是支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防范等方面開展協作。三是鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創新,平等互利開展國際交流與合作,參與生成式人工智能相關國際規則制定。四是提出推動生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進算力資源協同共享,提升算力資源利用效能。推動公共數據分類分級有序開放,擴展高質量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。

 同時,《辦法》明確了訓練數據處理活動和數據標注等要求。在生成式人工智能技術研發過程中進行數據標注的,提供者應當制定符合本辦法要求的清晰、具體、可操作的標注規則;開展數據標注質量評估,抽樣核驗標注內容的準確性;對標注人員進行必要培訓,提升尊法守法意識,監督指導標注人員規范開展標注工作。

 圍繞服務規范,《辦法》明確,生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務,按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識,發現違法內容應當及時采取處置措施等。《辦法》還規定了安全評估、算法備案、投訴舉報等制度,明確了法律責任。

 國家網信辦有關負責人指出,生成式人工智能服務的發展與治理需要政府、企業、社會、網民等多方參與,共同促進生成式人工智能健康發展,讓生成式人工智能技術更好地造福人民。