國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部近日聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）。這部旨在規(guī)范深度合成技術(shù)應(yīng)用、維護網(wǎng)絡(luò)空間清朗的重要法規(guī)，將于2023年1月10日起正式施行。它的出臺，標志著我國在快速發(fā)展的生成式人工智能領(lǐng)域，邁出了關(guān)鍵性的立法監(jiān)管步伐，為“互聯(lián)網(wǎng)信息服務(wù)”的健康發(fā)展提供了明確指引和堅實保障。

《規(guī)定》聚焦于利用深度學習、虛擬現(xiàn)實等生成或顯著改變信息內(nèi)容的合成技術(shù)，即公眾熟知的“深度合成”或“深度偽造”（Deepfake）技術(shù)。這類技術(shù)能夠生成逼真的圖像、音頻、視頻、文本等內(nèi)容，在娛樂、教育、創(chuàng)意等領(lǐng)域展現(xiàn)出巨大潛力，但同時也帶來了虛假信息傳播、人格權(quán)侵害、詐騙等一系列嚴峻的社會風險和安全隱患。

《規(guī)定》的核心在于構(gòu)建一套貫穿深度合成服務(wù)全流程的治理框架，明確了主體責任、技術(shù)標準與用戶權(quán)益。其主要內(nèi)容包括：

1. 明確責任主體：強調(diào)深度合成服務(wù)提供者（即技術(shù)支持者）和深度合成服務(wù)使用者均應(yīng)承擔相應(yīng)責任。提供者需落實信息安全主體責任，建立健全管理制度；使用者則需遵守法律法規(guī)，尊重社會公德和倫理，不得利用深度合成服務(wù)從事違法和不良信息的制作、復(fù)制、發(fā)布和傳播。

1. 強化標識管理：這是《規(guī)定》的一大亮點。要求深度合成服務(wù)提供者對生成或編輯的、可能引發(fā)公眾混淆或誤解的信息內(nèi)容，進行顯著標識。例如，AI生成的新聞播報視頻、換臉的公眾人物影像等，都必須明確標注為“合成”。這有助于提升信息透明度，保障公眾的知情權(quán)和選擇權(quán)。

1. 健全技術(shù)保障：要求提供者采取技術(shù)措施，確保深度合成服務(wù)安全可控。這包括對生成內(nèi)容進行審核、建立辟謠機制、防范信息內(nèi)容被用于違法犯罪等。提供者還需加強訓(xùn)練數(shù)據(jù)管理，確保數(shù)據(jù)來源合法，并采取措施防止生成違法和不良信息。

1. 注重用戶權(quán)益保護：規(guī)定提供者應(yīng)依法保護用戶個人信息，不得非法處理用戶個人信息。對于具有生成或編輯人臉、人聲等生物識別信息功能的模型、模板等工具，應(yīng)要求使用者進行真實身份信息認證。這有效回應(yīng)了社會對“AI換臉”可能侵犯肖像權(quán)、隱私權(quán)的普遍擔憂。

1. 劃清安全底線：明確禁止利用深度合成服務(wù)從事危害國家安全、損害國家利益、擾亂經(jīng)濟社會秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動。這為技術(shù)應(yīng)用劃定了清晰的“紅線”。

《規(guī)定》的發(fā)布與實施，具有重要而深遠的意義：

• 回應(yīng)技術(shù)挑戰(zhàn)，填補監(jiān)管空白：面對深度合成技術(shù)帶來的新問題、新挑戰(zhàn)，《規(guī)定》及時出臺，填補了我國在該領(lǐng)域的專項法規(guī)空白，使監(jiān)管有法可依，為產(chǎn)業(yè)健康發(fā)展提供了穩(wěn)定預(yù)期。
• 促進行業(yè)自律與規(guī)范發(fā)展：通過設(shè)定明確規(guī)則，引導(dǎo)和督促相關(guān)企業(yè)將安全、倫理和責任內(nèi)置于技術(shù)研發(fā)與應(yīng)用的全過程，推動行業(yè)從“野蠻生長”走向“有序創(chuàng)新”。
• 維護網(wǎng)絡(luò)空間秩序與公民權(quán)益：通過標識義務(wù)、內(nèi)容審核、數(shù)據(jù)管理等要求，有效遏制深度偽造技術(shù)濫用于造謠、誹謗、詐騙等行為，保護公民個人信息、肖像權(quán)、名譽權(quán)等合法權(quán)益，維護清朗網(wǎng)絡(luò)空間。
• 提升公眾信息素養(yǎng)與辨別能力：強制性的內(nèi)容標識，有助于公眾在面對海量信息時，提高對合成內(nèi)容的警惕性和辨別力，培養(yǎng)更加理性的信息消費習慣。

隨著2023年1月10日施行日期的臨近，相關(guān)互聯(lián)網(wǎng)信息服務(wù)提供者需盡快對照《規(guī)定》要求，完成技術(shù)升級、制度完善與合規(guī)調(diào)整。監(jiān)管部門也將依法開展監(jiān)督執(zhí)法，確保《規(guī)定》落到實處。可以預(yù)見，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》將與《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護法》等共同構(gòu)成我國網(wǎng)絡(luò)空間治理的法律基石，為人工智能時代的“互聯(lián)網(wǎng)信息服務(wù)”保駕護航，推動技術(shù)向善，造福社會。這是一個平衡技術(shù)創(chuàng)新與安全治理的積極嘗試，對中國乃至全球的數(shù)字治理都具有重要的參考價值。