(相關資料圖)

近年來，多地警方破獲“變臉”詐騙案，有的不法分子用AI換臉技術，冒充被害人在社交平臺上進行詐騙；有的將一張張靜態(tài)照片制作為人臉動態(tài)視頻，甚至還能逼真地點頭、眨眼、皺眉……這些新型詐騙的出現(xiàn)，與深度合成技術的濫用有關。近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，自2023年1月10日起施行，劃定了深度合成服務的“底線”和“紅線”，維護網(wǎng)絡空間良好生態(tài)。

技術發(fā)展與風險挑戰(zhàn)往往相伴而生。深度合成技術，是指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡信息的技術。從生成虛擬主播到搭建元宇宙場景，從影視中的特效制作到社交媒體上的美顏美妝，深度合成技術的迅猛發(fā)展催生了大量應用，在教育、影視、傳媒等領域扮演著日益重要的角色。然而，能夠“以假亂真”的深度合成技術，也帶來了深度偽造的風險——一些不法人員將其用于制作、復制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，影響傳播秩序和社會秩序，損害人民群眾合法權益，危害國家安全和社會穩(wěn)定。

網(wǎng)絡空間不是法外之地，真實與虛假的邊界更模糊不得。《法治社會建設實施綱要（2020—2025年）》就制定完善“算法推薦、深度偽造等新技術應用的規(guī)范管理辦法”提出了明確要求。特別是隨著深度合成技術門檻大幅降低，普通人都可能利用一些軟件或工具，制作出真假難辨的合成內(nèi)容。這種技術普及化的趨勢，讓加快推進其依法合理有效利用顯得尤為迫切。對此，近年來，一系列法律法規(guī)相繼將其納入監(jiān)管，如今通過對應用深度合成技術提供互聯(lián)網(wǎng)信息服務制定系統(tǒng)性、專門性規(guī)定，明確各類主體的信息安全義務，進一步為促進深度合成服務規(guī)范發(fā)展提供了有力法治保障。

明確“底線”“紅線”，才能為長遠發(fā)展留足空間。人工智能和大數(shù)據(jù)技術的飛速發(fā)展，讓深度合成技術在未來的應用前景愈發(fā)廣闊。安全是發(fā)展的前提，對技術的善用為良性發(fā)展、造福社會提供了基礎，而不加約束的濫用注定只能結出阻礙自身發(fā)展的“毒瘤”。我國擁有海量數(shù)據(jù)資源、巨大應用需求、深厚市場潛力，讓技術實現(xiàn)向上向善，才能充分發(fā)揮這些得天獨厚的發(fā)展優(yōu)勢，最大程度使技術進步趨利避害，提升廣大人民群眾在網(wǎng)絡空間的獲得感、幸福感、安全感。

黨的二十大報告明確提出：“健全網(wǎng)絡綜合治理體系，推動形成良好網(wǎng)絡生態(tài)?！奔夹g進步不會等待我們準備萬全才出現(xiàn)，面對日新月異的數(shù)字化浪潮，相關治理既不能因噎廢食，更不能放任自流。從完善制度、加強監(jiān)管，更好發(fā)揮法治固根本、穩(wěn)預期、利長遠的保障作用，到以技術對技術，以技術管技術，做到魔高一尺、道高一丈，再到鼓勵相關行業(yè)組織加強行業(yè)自律，建立健全行業(yè)標準、行業(yè)準則和自律管理制度……統(tǒng)籌發(fā)展與安全，既是在守正創(chuàng)新中不斷探索新技術、新應用、新業(yè)態(tài)的治理路徑，更是立足自身實踐為全球相關科技治理提供中國方案、貢獻中國智慧。

關鍵詞： 金臺銳評