每日商報訊 只需要上傳一張自己的照片，就能把別的圖片和視頻里的人臉變成自己的，能妥妥體驗當主角的感覺，這就是AI換臉技術。最近幾年,“AI換臉”火了，各類換臉APP層出不窮。但是，要小心了，換臉游戲的背后可能藏著陷阱，個人信息安全問題不容小覷。
25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

這不，前段時間，杭州互聯(lián)網(wǎng)法院就審理了一起因“AI換臉”APP利用深度合成算法侵害他人肖像權的案件，最終，APP開發(fā)者被判賠禮道歉并賠償損失共5000元。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

發(fā)布在網(wǎng)上的視頻莫名成了換臉模板25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

漢服模特與“AI換臉”APP對簿公堂25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

樓某某是國內(nèi)一位古風漢服模特，經(jīng)常在網(wǎng)上發(fā)布一些自己穿漢服的照片和視頻。今年3月份，她在某短視頻平臺發(fā)布了一段短視頻。視頻中，樓某某化了清晰的古風妝容，穿了漢服。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

沒過多久，樓某某發(fā)現(xiàn)有一款“AI換臉”APP中的模板，就有她拍攝的這套古風造型視頻。用戶可通過上傳個人照片，將視頻模板中樓某某的臉替換成自己的臉。除了五官發(fā)生實質(zhì)性變化之外，其余內(nèi)容都與原視頻保持一致。軟件生成換臉后的古風造型視頻，用戶可以將其保存并分享到其他平臺。如果用戶支付68元至198元不等的會員費，就能使用APP上全部“換臉”視頻模板。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

樓某某認為，這款APP侵害其肖像權，于是將APP運營主體上海某公司告上法庭，請求法院判令該公司承擔停止侵權、賠禮道歉并賠償損失。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

杭州互聯(lián)網(wǎng)法院經(jīng)審理認為，本案中，樓某某對案涉要素模板視頻及替換后視頻中所載對應形象的人物肖像均享有肖像權。對于換臉后的視頻，樓某某僅留存身體形象，但對比原視頻素材，普通人仍能通過未被修改的相應場景和細節(jié)識別出身體形象對應主體為樓某某。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

被告公司未經(jīng)樓某某同意，通過技術手段提取涉案古風肖像視頻，并擅自上傳至其運營的換臉App中供用戶選擇使用，該行為本身已侵害樓某某肖像權。同時，涉案視頻模板已被用戶多次使用和收藏，可以認定該公司利用深度合成技術將其他用戶提供的人臉替換至涉案視頻中的身體形象之上，并生成了形象逼真、畫面流暢的偽造肖像視頻，可供用戶進行下載保存、發(fā)布共享等不當使用。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

因此，被告公司未經(jīng)樓某某同意，利用深度合成技術使用其肖像制作了偽造視頻，依法應認定為構(gòu)成對樓某某肖像權的侵害。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

普通人玩“AI換臉”有風險嗎？還真有！25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

國家已出臺相關政策監(jiān)管25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

AI換臉黑科技的背后是技術與風險的博弈。國家有關部門也已經(jīng)出臺了多項法律法規(guī)對它進行監(jiān)管。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

2019年11月，國家網(wǎng)信辦等部門聯(lián)合印發(fā)《網(wǎng)絡音視頻信息服務管理規(guī)定》，要求利用新技術新應用制作、發(fā)布、傳播非真實音視頻信息的，應當以顯著方式予以標識。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

在2021年1月正式實施的民法典中，還有不少關于“AI換臉”的內(nèi)容。比如民法典中“不得利用信息技術手段偽造等方式侵害他人的肖像權”“未經(jīng)肖像權人同意，不得制作、使用、公開肖像權人的肖像”的規(guī)定，被視為將AI換臉納入到肖像權的保護范圍。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

使用以后，有一部分理智的用戶開始反思：我上傳的照片會不會被APP平臺私自保存？會不會被亂用？25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

杭州互聯(lián)網(wǎng)法院互聯(lián)網(wǎng)審判第一庭副庭長肖芄表示，如果遇到運營不規(guī)范的APP平臺，還真有可能。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

一般來說，用戶在上傳肖像照片時，運營規(guī)范的APP方會告知用戶該照片的用途，并申請獲得用戶的授權。如果沒有告知書，那么用戶的個人信息會存在被不正當使用的情況。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

另外，當用戶上傳的照片進行“AI換臉”成功后，平臺應該提供刪除的選項或通道。 “很多用戶意識不到，照片上傳以后，會保存在平臺方的數(shù)據(jù)庫里。如果自己沒有把平臺上的照片，或者平臺方并沒有刪除通道，那也會成為一個風險隱患�！毙ねラL說，當然也不能排除有些無良的平臺方，利用技術手段，把用戶已經(jīng)刪除的照片繼續(xù)儲存在后臺的可能性。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)

除了AI換臉類的軟件外，肖庭長稱需要上傳照片的軟件都應該小心些�！艾F(xiàn)在的人物照片面部都很清晰，精度也很高，不排除有些黑灰產(chǎn)業(yè)鏈通過這種方式收集用戶個人信息，將照片用于非法行當。所以，玩這類軟件的時候還是要小心謹慎。”他提醒道。25R新江南網(wǎng)|江南區(qū)域知名綜合門戶網(wǎng)