國家互聯網信息辦公室

中華人民共和國工業和信息化部

中華人民共和國公安部

令

第12號

《互聯(lian)網信(xin)息(xi)服務(wu)深(shen)度合成管理(li)規定》已經2022年(nian)11月3日(ri)國家(jia)互聯(lian)網信(xin)息(xi)辦(ban)公室2022年(nian)第21次(ci)室務(wu)會議(yi)(yi)審議(yi)(yi)通過，并(bing)經工業和信息化部、公(gong)安部同意，現予公(gong)布，自(zi)2023年1月(yue)10日起施行。

國家互聯網信息辦公室主任 莊榮文
工業和信息化部部長 金壯龍
公安部部長 王小洪
2022年(nian)11月25日

 

互聯網信息服務深度合成管理規定

第一章 總則

第一條(tiao) 為(wei)了加強(qiang)互(hu)聯網(wang)信息服務(wu)深(shen)度合(he)成(cheng)管(guan)理(li)，弘揚社會主義核心價值(zhi)觀，維護(hu)國家安全(quan)和社會公共利益，保(bao)護(hu)公民(min)、法(fa)人(ren)和其他組(zu)織的合(he)法(fa)權益，根據《中(zhong)(zhong)華人(ren)民(min)共和國網(wang)絡(luo)安全(quan)法(fa)》、《中(zhong)(zhong)華人(ren)民(min)共和國數據安全(quan)法(fa)》、《中(zhong)(zhong)華人(ren)民(min)共和國個人(ren)信息保(bao)護(hu)法(fa)》、《互(hu)聯網(wang)信息服務(wu)管(guan)理(li)辦(ban)法(fa)》等法(fa)律(lv)、行政法(fa)規，制(zhi)定(ding)本(ben)規定(ding)。

第二條 在(zai)中(zhong)華人民共和國境(jing)內(nei)應(ying)用深度合成技術提供互聯網信息服務(wu)（以下(xia)簡稱深度合成服務(wu)），適用本規(gui)定(ding)。法律、行政法規(gui)另有(you)規(gui)定(ding)的，依照其規(gui)定(ding)。

第(di)三條 國(guo)家網信部(bu)門負責統籌協調全國(guo)深度合成服務(wu)的(de)(de)治理(li)和(he)相關監(jian)督(du)管理(li)工作。國(guo)務(wu)院電信主(zhu)管部(bu)門、公安部(bu)門依據各(ge)自職責負責深度合成服務(wu)的(de)(de)監(jian)督(du)管理(li)工作。

地(di)方網信(xin)部(bu)門負責統籌協調(diao)本(ben)行(xing)政區域內(nei)的(de)深度(du)合(he)成(cheng)服務(wu)的(de)治理(li)和相(xiang)關監督(du)管(guan)(guan)理(li)工(gong)作。地(di)方電信(xin)主管(guan)(guan)部(bu)門、公安(an)部(bu)門依據(ju)各自(zi)職責負責本(ben)行(xing)政區域內(nei)的(de)深度(du)合(he)成(cheng)服務(wu)的(de)監督(du)管(guan)(guan)理(li)工(gong)作。

第四條 提供深度(du)合成(cheng)(cheng)服(fu)務(wu)，應當遵(zun)守法律法規，尊重社會(hui)公(gong)德(de)(de)和倫理道德(de)(de)，堅持正確政治方向(xiang)、輿論導向(xiang)、價值取(qu)向(xiang)，促進深度(du)合成(cheng)(cheng)服(fu)務(wu)向(xiang)上向(xiang)善(shan)。

第五條 鼓勵相(xiang)關行業(ye)組織加強行業(ye)自律(lv)，建(jian)立(li)健全(quan)行業(ye)標準、行業(ye)準則(ze)和自律(lv)管理制(zhi)度(du)，督促指導深(shen)度(du)合成服務(wu)提供者和技術(shu)支持者制(zhi)定完善業(ye)務(wu)規范、依法開展業(ye)務(wu)和接受社會監督。

第二章 一般規定

第六(liu)條 任(ren)何組織和(he)個(ge)人(ren)不(bu)得利(li)用(yong)深度合(he)成(cheng)服(fu)務制作、復(fu)制、發(fa)布、傳播法(fa)律(lv)、行政法(fa)規(gui)禁(jin)止的信息，不(bu)得利(li)用(yong)深度合(he)成(cheng)服(fu)務從事(shi)危害國(guo)(guo)家安全(quan)和(he)利(li)益、損害國(guo)(guo)家形象(xiang)、侵害社會公共(gong)利(li)益、擾亂(luan)經濟和(he)社會秩序、侵犯他(ta)人(ren)合(he)法(fa)權益等法(fa)律(lv)、行政法(fa)規(gui)禁(jin)止的活(huo)動。

深(shen)度(du)合(he)(he)成服(fu)務(wu)提供者和使(shi)用(yong)者不得利用(yong)深(shen)度(du)合(he)(he)成服(fu)務(wu)制作(zuo)、復制、發(fa)布、傳播虛(xu)假新聞(wen)(wen)(wen)信(xin)息(xi)。轉載(zai)(zai)基于深(shen)度(du)合(he)(he)成服(fu)務(wu)制作(zuo)發(fa)布的(de)新聞(wen)(wen)(wen)信(xin)息(xi)的(de)，應當依法轉載(zai)(zai)互聯(lian)網新聞(wen)(wen)(wen)信(xin)息(xi)稿(gao)源(yuan)單(dan)位發(fa)布的(de)新聞(wen)(wen)(wen)信(xin)息(xi)。

第(di)七條 深度合成服(fu)務提供者應當落實信息(xi)安全(quan)(quan)主體責任(ren)，建立健全(quan)(quan)用戶注冊、算(suan)法機制(zhi)機理(li)審(shen)核、科技(ji)倫理(li)審(shen)查、信息(xi)發布(bu)審(shen)核、數據安全(quan)(quan)、個人信息(xi)保護(hu)、反電信網(wang)絡詐(zha)騙、應急處置等管理(li)制(zhi)度，具有(you)安全(quan)(quan)可控的技(ji)術保障措施(shi)。

第八條 深度(du)合成(cheng)服(fu)(fu)務提(ti)供者應當制(zhi)定和(he)公開管(guan)理(li)(li)規則、平臺公約，完(wan)善服(fu)(fu)務協議，依(yi)法(fa)依(yi)約履行管(guan)理(li)(li)責任，以顯(xian)著方(fang)式提(ti)示深度(du)合成(cheng)服(fu)(fu)務技術支持者和(he)使(shi)用者承擔(dan)信(xin)息安全(quan)義(yi)務。

第九條(tiao) 深度(du)合(he)成服(fu)務(wu)提(ti)供者應當基于(yu)移動電話號碼(ma)、身(shen)份(fen)證(zheng)件號碼(ma)、統一社會(hui)信用(yong)代(dai)碼(ma)或者國家網(wang)絡身(shen)份(fen)認(ren)證(zheng)公(gong)共服(fu)務(wu)等方(fang)式，依法(fa)對(dui)深度(du)合(he)成服(fu)務(wu)使用(yong)者進行真實身(shen)份(fen)信息認(ren)證(zheng)，不得向(xiang)未進行真實身(shen)份(fen)信息認(ren)證(zheng)的深度(du)合(he)成服(fu)務(wu)使用(yong)者提(ti)供信息發布服(fu)務(wu)。

第十(shi)條 深(shen)度合成(cheng)服(fu)務提供者(zhe)應當加強深(shen)度合成(cheng)內容管理(li)，采取技術或者(zhe)人工方式對深(shen)度合成(cheng)服(fu)務使用者(zhe)的輸入(ru)數據(ju)和合成(cheng)結果進行審核。

深(shen)度(du)合成服務提(ti)供者應當建立健全用(yong)于(yu)識別違法(fa)和不良(liang)信息的特征庫(ku)，完善入庫(ku)標準(zhun)、規則(ze)和程序，記錄并留存相關網絡日志。

深度合成服務(wu)提(ti)供(gong)者發現違法和不良信息的，應當(dang)依法采(cai)取(qu)處(chu)置措施，保存有關記(ji)錄，及時(shi)向網信部(bu)(bu)門和有關主管部(bu)(bu)門報告(gao)；對相關深度合成服務(wu)使用(yong)者依法依約采(cai)取(qu)警示、限制(zhi)功能、暫停服務(wu)、關閉賬號(hao)等處(chu)置措施。

第十(shi)一(yi)條 深(shen)度(du)合成服務(wu)(wu)提(ti)供者(zhe)應當(dang)建立健(jian)全辟謠機制，發現利用深(shen)度(du)合成服務(wu)(wu)制作、復制、發布(bu)、傳播虛(xu)假(jia)信息的，應當(dang)及時采取辟謠措施，保存有關(guan)記(ji)錄(lu)，并向(xiang)網信部(bu)(bu)門(men)和有關(guan)主管(guan)部(bu)(bu)門(men)報告。

第(di)十二條(tiao) 深度(du)合成服務提供者應當(dang)設(she)置便捷的用(yong)戶(hu)申(shen)訴和(he)公眾(zhong)投訴、舉報入口，公布(bu)處(chu)理(li)流程和(he)反饋(kui)時限，及時受理(li)、處(chu)理(li)和(he)反饋(kui)處(chu)理(li)結(jie)果。

第(di)十三條(tiao) 互(hu)聯網應用(yong)商店(dian)等(deng)(deng)(deng)應用(yong)程序(xu)分發平(ping)臺(tai)應當落實(shi)上架審核、日常管理(li)、應急處(chu)(chu)置(zhi)等(deng)(deng)(deng)安(an)(an)全管理(li)責任，核驗深度合成(cheng)類應用(yong)程序(xu)的安(an)(an)全評估、備案等(deng)(deng)(deng)情況；對違(wei)反(fan)國家(jia)有關規定的，應當及(ji)時采取不(bu)予上架、警示、暫停服務或者下架等(deng)(deng)(deng)處(chu)(chu)置(zhi)措施(shi)。

第(di)三章 數據和技(ji)術(shu)管(guan)理(li)規范

第十(shi)四條 深度合成服務提(ti)供者(zhe)和(he)技(ji)術支(zhi)持者(zhe)應當(dang)加強訓(xun)練(lian)數據管理，采取必要措(cuo)施(shi)保(bao)障訓(xun)練(lian)數據安全(quan)；訓(xun)練(lian)數據包含個(ge)(ge)人信息(xi)的，應當(dang)遵守個(ge)(ge)人信息(xi)保(bao)護的有關規(gui)定。

深(shen)度合(he)成(cheng)服務提供(gong)者(zhe)和技術支持者(zhe)提供(gong)人臉、人聲等生物識別信息編輯(ji)(ji)功能的，應當提示深(shen)度合(he)成(cheng)服務使用者(zhe)依法告知被編輯(ji)(ji)的個人，并取(qu)得其單獨同意(yi)。

第(di)十五條 深度合成服(fu)務提(ti)供者(zhe)和技術(shu)(shu)支持者(zhe)應當加強技術(shu)(shu)管理(li)，定期(qi)審核、評估、驗證生成合成類(lei)算(suan)法機制機理(li)。

深(shen)度合成服務提供者和技術支持(chi)者提供具有(you)以下功能的模(mo)型、模(mo)板(ban)等工(gong)具的，應當(dang)依法自行或者委托專(zhuan)業(ye)機(ji)構(gou)開展安全評(ping)估(gu)：

（一）生成或(huo)者編輯人臉(lian)、人聲等(deng)生物識別信息的(de)；

（二）生(sheng)成或者編輯可能(neng)涉及國家(jia)安(an)全、國家(jia)形(xing)象、國家(jia)利益(yi)和社會公共利益(yi)的特殊(shu)物體、場景等非生(sheng)物識別信(xin)息的。

第十(shi)六條 深度(du)合成服務提(ti)供者對使用其服務生成或者編輯的信息(xi)內容，應當采取技術措施添加不影響用戶(hu)使用的標(biao)識，并依照法律、行(xing)政法規和(he)國家有關規定保存日志(zhi)信息(xi)。

第十七條 深度(du)合(he)成(cheng)服(fu)務提(ti)供(gong)者提(ti)供(gong)以下深度(du)合(he)成(cheng)服(fu)務，可能導致公眾(zhong)(zhong)混淆或(huo)者誤認(ren)的(de)，應當(dang)在生成(cheng)或(huo)者編輯的(de)信息內容(rong)的(de)合(he)理位置、區域進行顯著標識，向公眾(zhong)(zhong)提(ti)示深度(du)合(he)成(cheng)情況(kuang)：

（一）智(zhi)能(neng)對(dui)話、智(zhi)能(neng)寫(xie)作等模擬(ni)自(zi)然人進行文本的生成或(huo)者編輯(ji)服(fu)務；

（二）合成人聲(sheng)、仿聲(sheng)等語音生成或(huo)者(zhe)顯著改變個(ge)人身份特(te)征的(de)編(bian)輯服務；

（三）人臉生(sheng)成(cheng)(cheng)、人臉替換、人臉操控、姿態操控等人物圖像(xiang)、視頻(pin)生(sheng)成(cheng)(cheng)或者顯著改變個人身份特征的編輯服務；

（四）沉浸式擬真場景等生(sheng)成或者編(bian)輯服務(wu)；

（五(wu)）其他具(ju)有生(sheng)成或(huo)者顯著改變信息內容功能的服務。

深度(du)(du)合(he)成(cheng)服務提供(gong)者提供(gong)前款規(gui)定之外的深度(du)(du)合(he)成(cheng)服務的，應當提供(gong)顯(xian)著(zhu)標識功(gong)能，并提示深度(du)(du)合(he)成(cheng)服務使(shi)用(yong)者可以(yi)進行顯(xian)著(zhu)標識。

第十八條 任(ren)何組織和個人(ren)不得采用技(ji)術手段刪(shan)除、篡改、隱匿本(ben)規定(ding)第十六條和第十七(qi)條規定(ding)的深度合成(cheng)標(biao)識。

第四章 監督檢查與法律責任

第十九條 具有輿論屬性或(huo)者社會(hui)動(dong)員能力的深度合成服(fu)務提供者，應當按照(zhao)《互聯網信息服(fu)務算法推薦管理規定》履行備案(an)和變更、注銷備案(an)手續。

深(shen)度合成服(fu)務技術支持者應(ying)當參照前(qian)款規定履行備案和變更、注銷備案手續。

完成(cheng)備案(an)的深度(du)合成(cheng)服務提供(gong)(gong)者和技(ji)術支持者應當(dang)在其對外提供(gong)(gong)服務的網站、應用程(cheng)序等的顯(xian)著位置(zhi)標(biao)明其備案(an)編號并提供(gong)(gong)公(gong)示信息鏈接(jie)。

第(di)二十條(tiao) 深度合成服(fu)務(wu)提供者(zhe)開發上(shang)線具有輿論屬性或者(zhe)社(she)會(hui)動員能(neng)(neng)力的新(xin)產品(pin)、新(xin)應用(yong)、新(xin)功能(neng)(neng)的，應當按照國家有關規定開展安全評估。

第二十一條 網(wang)信部門(men)和電信主管部門(men)、公(gong)安(an)部門(men)依據職責對深(shen)度合(he)(he)成服(fu)務(wu)開展監督檢查。深(shen)度合(he)(he)成服(fu)務(wu)提供(gong)者和技術(shu)支(zhi)持者應(ying)當依法(fa)予以(yi)配(pei)合(he)(he)，并提供(gong)必要的技術(shu)、數據等支(zhi)持和協助(zhu)。

網(wang)信(xin)部門(men)和有關(guan)主(zhu)管(guan)部門(men)發現深度合(he)成(cheng)服務(wu)存(cun)在較大(da)信(xin)息安全風險的，可以按照職責依法(fa)要求深度合(he)成(cheng)服務(wu)提供者(zhe)和技(ji)術(shu)支(zhi)持者(zhe)采(cai)取(qu)暫停信(xin)息更新(xin)、用戶賬號注冊或者(zhe)其他相關(guan)服務(wu)等措施。深度合(he)成(cheng)服務(wu)提供者(zhe)和技(ji)術(shu)支(zhi)持者(zhe)應當按照要求采(cai)取(qu)措施，進(jin)行整改(gai)，消除隱患。

第二十二條 深度合成服務提供者和技(ji)術(shu)支(zhi)持者違(wei)反本規(gui)(gui)定的，依照有關法(fa)律(lv)、行政法(fa)規(gui)(gui)的規(gui)(gui)定處(chu)罰；造(zao)成嚴重(zhong)后(hou)果(guo)的，依法(fa)從(cong)重(zhong)處(chu)罰。

構(gou)成違反治安(an)管理行為(wei)的，由公(gong)安(an)機關依法給(gei)予治安(an)管理處罰；構(gou)成犯罪的，依法追究刑事責任。

第五章 附則

第二十(shi)三條 本規(gui)定(ding)中下(xia)列用語的(de)含(han)義：

深度(du)合成(cheng)技(ji)術(shu)，是指(zhi)利用(yong)深度(du)學習(xi)、虛擬現(xian)實等生成(cheng)合成(cheng)類算法制(zhi)作文本、圖像、音頻、視頻、虛擬場景等網(wang)絡信息的(de)技(ji)術(shu)，包括但不限于：

（一）篇(pian)章生(sheng)成、文本風格轉換、問答對話等生(sheng)成或(huo)者編輯文本內容的(de)技(ji)術(shu)；

（二）文本轉(zhuan)語(yu)音、語(yu)音轉(zhuan)換、語(yu)音屬性編輯等(deng)生成或者(zhe)編輯語(yu)音內容的(de)技術；

（三）音樂生成(cheng)、場景聲(sheng)編(bian)輯等生成(cheng)或者編(bian)輯非語音內容(rong)的技術；

（四(si)）人(ren)(ren)臉(lian)(lian)生成、人(ren)(ren)臉(lian)(lian)替換、人(ren)(ren)物屬(shu)性編輯(ji)、人(ren)(ren)臉(lian)(lian)操控、姿(zi)態(tai)操控等生成或者編輯(ji)圖像、視頻內容中生物特征(zheng)的(de)技術；

（五(wu)）圖(tu)像(xiang)生(sheng)成、圖(tu)像(xiang)增強、圖(tu)像(xiang)修復等(deng)生(sheng)成或者編輯圖(tu)像(xiang)、視頻內容中非生(sheng)物(wu)特征的技術；

（六）三維重建(jian)、數(shu)字(zi)仿真等生(sheng)成(cheng)或者(zhe)編輯數(shu)字(zi)人物、虛擬場(chang)景的技術。

深度合(he)成服務提供(gong)者，是指提供(gong)深度合(he)成服務的組織、個(ge)人。

深度合(he)成(cheng)服(fu)務(wu)技(ji)術支持(chi)(chi)者，是指為深度合(he)成(cheng)服(fu)務(wu)提供技(ji)術支持(chi)(chi)的(de)組織(zhi)、個人。

深度(du)合成服務使(shi)用者(zhe)，是指使(shi)用深度(du)合成服務制作、復制、發布、傳播信(xin)息的組(zu)織、個人。

訓(xun)練數(shu)據，是指(zhi)被用(yong)于(yu)訓(xun)練機器學習模型的(de)標注或(huo)者基(ji)準數(shu)據集。

沉浸(jin)式(shi)擬真場(chang)景，是指應用深度(du)合成技術(shu)生成或者編輯的(de)、可供參(can)與者體驗或者互動的(de)、具有高(gao)度(du)真實(shi)感(gan)的(de)虛擬場(chang)景。

第二十(shi)四條(tiao) 深度合(he)成服(fu)(fu)務提供(gong)者和(he)技術支持(chi)者從事網絡出版服(fu)(fu)務、網絡文(wen)化活動和(he)網絡視(shi)聽節目服(fu)(fu)務的，應(ying)當同(tong)時符(fu)合(he)新聞出版、文(wen)化和(he)旅游、廣播電視(shi)主管部門的規定(ding)。

第二十(shi)五(wu)條 本規定自(zi)2023年1月10日起施行。

封面圖片來源：攝圖網-500668549