(相關資料圖)

題：“AI換臉”等深度合成服務應用要守住安全底線

作者 陳兵 南開大學法學院副院長、教授

近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》(簡稱《規(guī)定》)，要求深度合成服務提供者和技術支持者加強訓練數(shù)據(jù)管理和技術管理，保障數(shù)據(jù)安全，不得非法處理個人信息，定期審核、評估、驗證算法機制機理等。

首先，應當明確的是，深度合成服務屬于算法推薦服務的一種，應用場景十分廣泛。其被應用于視頻制作等場景，往往可以提升視頻特效的真實性，達到以假亂真的效果。隨著相關技術的不斷進步，深度合成服務的技術應用門檻不斷降低。用戶往往僅需要進行上傳照片等簡單操作，就可以輕松獲得極為逼真的視覺效果。

不過，在帶來逼真視覺效果的同時，深度合成服務技術也存在一定的法律風險和侵權糾紛。比如，一些“AI換臉”軟件正走紅網(wǎng)絡，用戶在操作人臉替換軟件時，僅需上傳個人照片就可生成新視頻，但其他內容均與原視頻保持一致。這種“換臉”軟件的走紅，不僅對于他人的肖像權帶來了侵害，對于他人對個人信息享有的權利、他人對原視頻享有的著作權同樣存在負面影響，在一定程度上還會影響相關視頻平臺所享有的信息網(wǎng)絡傳播權，引發(fā)算法濫用糾紛?！睹穹ǖ洹访鞔_，未經(jīng)肖像權人同意，不得制作、使用、公開肖像權人的肖像；《個人信息保護法》明確，個人對其個人信息的處理享有知情權、決定權，有權限制或者拒絕他人對其個人信息進行處理。而人臉替換軟件的應用很有可能涉及對他人個人信息的處理。而且，他人對原視頻的制作享有著作權，使用人臉替換軟件生成新視頻可能對著作權也構成了侵犯。

《規(guī)定》的出臺，主要正是為了解決在人臉生成場景中可能存在的侵犯公民對個人信息享有的權利、侵害個人名譽權、危害國家和社會安全穩(wěn)定等問題，為深度合成服務的規(guī)范發(fā)展樹立了安全底線。

具體而言，首先，《規(guī)定》明確深度合成服務的應用不得侵犯國家、社會、個人的合法權益。盡管技術具有中立性，但技術的應用應當堅持積極向上的價值觀。其次，《規(guī)定》明確深度合成服務提供者應落實信息安全主體責任。履行在數(shù)據(jù)、個人信息、算法、信息發(fā)布、科技倫理等方面的安全保障義務，提供相應的技術措施進行保障。再次，深度合成服務提供者應加強深度合成內容管理，采取技術或者人工方式對深度合成服務使用者的輸入數(shù)據(jù)和合成結果進行審核，同時應當制定和公開管理規(guī)則、平臺公約，完善服務協(xié)議，依法依約履行管理責任，以顯著方式提示深度合成服務技術支持者和使用者承擔信息安全義務。加強深度合成服務提供者的行業(yè)自治，鼓勵自主合規(guī)、積極合規(guī)，形成“有效市場+有為政府”的更好結合。最后，《規(guī)定》提出深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發(fā)布、傳播虛假新聞信息，有助于保證互聯(lián)網(wǎng)空間的清朗秩序。

整體來看，《規(guī)定》聚焦于深度合成服務技術，統(tǒng)籌安全與發(fā)展。發(fā)展是安全的前提，安全是發(fā)展的保障。在人工智能的其他技術與場景中，同樣需要秉持發(fā)展與安全并重的理念，確保各項技術行穩(wěn)致遠。第一，可以充分發(fā)揮監(jiān)管部門、行業(yè)協(xié)會、相關企業(yè)、人民群眾等不同主體在治理中的不同優(yōu)勢，形成“有效市場+有為政府”的更好結合，構建多元主體共治的治理模式；第二，推動相關企業(yè)進行高質量發(fā)展。在保障安全的基礎上，促進各企業(yè)創(chuàng)新驅動，形成人工智能領域的新技術、新模式、新業(yè)態(tài)；第三，以各種政策措施，服務保障人工智能領域數(shù)據(jù)和算法產(chǎn)品和產(chǎn)業(yè)的高質量發(fā)展，形成公平有序的競爭環(huán)境，推動各企業(yè)積極出海競爭，構建人工智能領域發(fā)展的新格局。(中新經(jīng)緯APP)

本文由中新經(jīng)緯研究院選編，因選編產(chǎn)生的作品中新經(jīng)緯版權所有，未經(jīng)書面授權，任何單位及個人不得轉載、摘編或以其它方式使用。選編內容涉及的觀點僅代表原作者，不代表中新經(jīng)緯觀點。

責任編輯：張芷菡