國家互聯(lián)網(wǎng)信息辦公室等三部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），自2023年1月10日起正式施行。這是繼《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》之后，網(wǎng)信辦在人工智能治理領(lǐng)域推出的又一重要法規(guī)，標(biāo)志著我國對生成式人工智能等深度合成技術(shù)的監(jiān)管進(jìn)入新階段。廣大互聯(lián)網(wǎng)信息服務(wù)提供者，特別是涉及AI內(nèi)容生成、語音合成、圖像/視頻處理等業(yè)務(wù)的企業(yè)和平臺，需要及時調(diào)整合規(guī)策略，重點(diǎn)關(guān)注以下核心要求。

一、 明確適用范圍與責(zé)任主體

《規(guī)定》明確指出，其適用于利用生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)和服務(wù)的提供者、使用者。這涵蓋了當(dāng)前市場上主流的AIGC（人工智能生成內(nèi)容）應(yīng)用、虛擬主播、數(shù)字人、換臉軟件、智能對話機(jī)器人等。提供者需承擔(dān)主體責(zé)任，建立健全管理制度和技術(shù)保障措施。

二、 強(qiáng)化內(nèi)容安全與標(biāo)識義務(wù)

《規(guī)定》的核心要求之一是“以顯著方式對深度合成信息內(nèi)容進(jìn)行標(biāo)識”。這意味著，凡是利用深度合成技術(shù)生成的，有可能造成公眾混淆或者誤認(rèn)的圖片、視頻、語音等內(nèi)容，都必須在合理位置、區(qū)域進(jìn)行顯著標(biāo)識，例如標(biāo)注“AI生成”或“虛擬形象”等。此舉旨在維護(hù)網(wǎng)絡(luò)信息真實(shí)性，防止虛假信息傳播，保護(hù)公眾知情權(quán)。

三、 建立健全管理制度與安全評估

互聯(lián)網(wǎng)信息服務(wù)提供者，尤其是具有“輿論屬性或者社會動員能力”的深度合成服務(wù)提供者，應(yīng)當(dāng)按照《規(guī)定》履行備案手續(xù)。需建立健全以下制度：

1. 用戶實(shí)名注冊制度：對深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認(rèn)證。
2. 信息內(nèi)容管理規(guī)范：建立完善的內(nèi)容審核機(jī)制，及時發(fā)現(xiàn)和處置違法不良信息。
3. 辟謠機(jī)制：對利用深度合成技術(shù)制作、傳播虛假信息的，應(yīng)及時采取辟謠措施。
4. 安全評估機(jī)制：在具有特定屬性（如生成人臉、人聲等生物識別信息）的功能上線前，應(yīng)開展安全評估。

四、 保障個人信息權(quán)益與禁止行為

《規(guī)定》強(qiáng)調(diào)，深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理，采取必要措施保障數(shù)據(jù)安全和個人信息保護(hù)。未經(jīng)個人單獨(dú)同意，不得利用其個人信息制作深度合成內(nèi)容。明確禁止利用深度合成技術(shù)從事以下活動：

• 制作、復(fù)制、發(fā)布、傳播法律法規(guī)禁止的信息內(nèi)容；
• 制作、復(fù)制、發(fā)布、傳播虛假新聞信息；
• 實(shí)施侵犯他人肖像權(quán)、名譽(yù)權(quán)、隱私權(quán)、知識產(chǎn)權(quán)等合法權(quán)益的行為。

五、 對企業(yè)的合規(guī)建議

面對新規(guī)，相關(guān)互聯(lián)網(wǎng)企業(yè)應(yīng)采取積極應(yīng)對措施：

1. 自查自糾，全面梳理業(yè)務(wù)：立即排查旗下產(chǎn)品或服務(wù)是否涉及深度合成技術(shù)，明確自身屬于“提供者”還是“技術(shù)支持者”角色。
2. 技術(shù)升級，落實(shí)標(biāo)識要求：研發(fā)或接入能夠?qū)I生成內(nèi)容進(jìn)行自動化、標(biāo)準(zhǔn)化標(biāo)識的技術(shù)方案，確保標(biāo)識清晰、不易去除。
3. 完善內(nèi)部治理體系：更新用戶協(xié)議、隱私政策，建立健全從數(shù)據(jù)采集、模型訓(xùn)練、內(nèi)容生成到發(fā)布審核的全流程管理制度。
4. 加強(qiáng)人員培訓(xùn)與應(yīng)急響應(yīng)：對運(yùn)營、審核、法務(wù)團(tuán)隊(duì)進(jìn)行專項(xiàng)培訓(xùn)，制定應(yīng)對深度合成內(nèi)容引發(fā)風(fēng)險的應(yīng)急預(yù)案。

---

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的出臺，是我國在新技術(shù)浪潮下平衡創(chuàng)新發(fā)展與安全風(fēng)險的必要之舉，為深度合成技術(shù)的健康發(fā)展劃定了“安全線”和“倫理線”。它不僅是對技術(shù)提供方的約束，更是對整個行業(yè)生態(tài)的規(guī)范與引導(dǎo)。互聯(lián)網(wǎng)信息服務(wù)提供者唯有主動擁抱監(jiān)管，將合規(guī)要求內(nèi)化為技術(shù)研發(fā)和產(chǎn)品設(shè)計(jì)的核心準(zhǔn)則，才能在人工智能的新賽道上行穩(wěn)致遠(yuǎn)，共同營造清朗、可信的網(wǎng)絡(luò)空間。