AI換臉APP才火幾天就“涼” 這些風險需要注意

新聞眼|來源:北部灣在線綜合整理2019-09-10 09:05:00|網絡編輯:黃業欽

\

圖片來源于網絡,如有侵權請聯系刪除

  8月31日,一個叫“ZAO”的AI換臉App一夜之間火爆全網。代替萊昂納多給你的Rose來一句深情告白;一秒鐘和“現男友”李現同框,讓他給你遮太陽;變身吳彥祖……“僅需一張照片,出演天下好戲”,通過AI換臉技術,你僅需上傳一張照片,就可以成為夢寐以求的“戲中人”。一夜之間,“ZAO”便迅速刷屏了朋友圈。

\

“ZAO”一經推出,就在App Store免費App排行榜中登頂。

\

“ZAO”有很多可供換臉的視頻素材。

  沒想到,火得快,涼得更快。9月4日,工信部官方發布消息:9月3日,針對媒體公開報道和用戶曝光的“ZAO”App用戶隱私協議不規范,存在數據泄露風險等網絡數據安全問題,工信部對北京陌陌科技有限公司相關負責人進行了問詢約談,要求開展自查整改。

工信部約談“ZAO”:要求自查整改,依法依規收集使用個人信息(來源:梨視頻)

  不到一周,從爆紅刷屏社交圈到深陷輿論旋渦,AI換臉App“ZAO”經歷了大起大落。在這背后,被稱為霸王條款的用戶協議或許并不是問題的重點。有業內人士指出,真正應該擔憂的是:當人工智能強大到可以以假亂真,當深度學習的操作門檻越來越低,當技術突破底線,用戶該如何保護自己的隱私和個人信息安全?由此引出的一系列問題隨之而來:人臉等視頻素材是否擁有合法版權?刷臉支付還安全嗎?利用AI換臉行騙的案件會不會因此猖獗……

   什么是“AI換臉”? 

  AI換臉是基于人工智能的人體圖像合成技術生成的“假臉”。就是將目標人物各個角度的人臉照片一幀幀貼在被換對象的視頻畫面上,生成假臉視頻。

  AI換臉并不是新鮮事。2017年底,國外一位ID為“deepfakes”的網友,利用業余時間創造了一個AI換臉算法,后來這個算法被廣泛稱為deepfakes。

  deepfakes首先在科技社區中流行起來。一開始只是技術愛好者的隨性試玩,后來有人用它將色情作品中的主角換成明星臉,這種做法在科技社區引發大量爭議,最后被徹底關掉。但AI換臉技術,一直進化至今。今年年初,B站UP主“換臉哥”,使用這個技術將94版《射雕》里扮演黃蓉的朱茵換成楊冪的臉,看過的人都驚嘆“神乎其神”。

\

演員楊冪曾被網友用來“換臉”到朱茵曾飾演的黃蓉身上。

  “ZAO”這款App之所以一夜爆紅,正是因為其將“換臉技術”的門檻降得極低。“ZAO”內含有大量視頻素材,用戶不必會PS,甚至連美圖秀秀級別的美顏都省略了,直接上傳頭像照片就可以將原視頻片段換臉,一鍵生成就可分享到朋友圈。

  其實,“ZAO”的本質還是滿足用戶的獵奇與虛榮心。對比之前給照片加上貼紙特效的“Faceu臉萌”、預覽你老后模樣的“FaceApp”等簡單功能就火爆一時的在線美顏、換臉變裝App,一部手機,一張自拍,“ZAO”直接把你放入經典大片中做主角,怎能不火?

   “AI換臉”有何潛在風險? 

  AI換臉功能帶來的潛在風險,立即就能被察覺到。像前面提到的“黃蓉”被換臉事件,在一眾微博大V的侵權抗議后,UP主“換臉哥”趕緊下架了相關視頻,并呼吁大家尊重版權與肖像權,專注于技術本身。

  有此先例后,不少用戶在使用“ZAO”的時候,就特別關注了其用戶服務及隱私保護協議,一下子就揪出了其中的大問題。

\

“ZAO”的用戶協議被指出侵犯隱私。

  該條款直指“ZAO”及其關聯公司將獲得用戶上傳內容的著作權利,包括其中的人臉肖像照。這引爆了公眾對“ZAO”的廣泛質疑:“ZAO的用戶協議太離譜了”“有手機號,有面部畫像,通過技術合成,犯罪分子可以替你和你的家人通話了”……這樣的AI換臉,可能會導致“丟臉”,丟掉的是自己的隱私和個人信息安全。

\

有網友表示出對“ZAO”泄露隱私的擔心。

  “丟臉”會不會導致“丟錢”?

  當前,大部分銀行等金融機構開設了人臉識別登錄App功能,“刷臉”支付、遠程簽約等場景也越來越多見,例如今年“3·15”晚會上,就演示過用“活”照片成功突破某款手機的“刷臉”登錄系統。

  此外,通過3D打印等技術,“人臉面具”可以獲得較高仿真度,此前也已有人使用3D打印面具通過某知名網絡支付平臺的面部驗證。

  除此之外,目前不少網貸機構進行“活體檢測”時仍使用人工審核或技術含量偏低的機器審核(如“點點頭”“搖搖頭”“張張嘴”等),一旦公眾的面部識別信息被不法分子掌握,很可能用這些黑科技讓用戶無辜“被網貸”,背上巨額債務。

  “丟臉”可能導致“丟清白”?

  當前,換臉技術被用在一些涉嫌違法犯罪領域的情況并不少見。一些網站用“AI換臉”“換臉視頻”等方式提供用知名藝人“面孔”“嫁接”出的視頻,這些視頻往往涉嫌色情淫穢,且難辨真假,往往讓被害人有口難辯、名譽受損。

有律師談到AI換臉軟件“ZAO”風險:你無法控制你的頭像會被用于何處(來源:新京報)

   面對“換臉”帶來的信息安全問題,該如何防范? 

  識別AI假臉”小妙招

  多數“假臉”都是使用睜眼照片合成,“假臉”極少甚至不會眨眼,關注眨眼是判斷一個視頻真假的小方法。

  進行多重驗證

  遇到需要轉賬的情形時,不要僅僅依托視頻這一個憑證予以確認,還可通過電話等其他方式進行多重驗證。同時,可將到賬時間設置為“2小時到賬”或“24小時到賬”以預留處理時間。

  保護個人信息提前預防

  切勿將個人信息暴露在網絡上,以免不法分子利用AI技術,實施針對性詐騙。同時,接到陌生電話、短信時,均不理睬,以免被騙。

  拒絕誘惑

  避免占便宜心理,警惕陌生人提供好處誘騙。

  來源:新快報、人民日報、新民周刊、梨視頻、新京報

網友評論

網站簡介 | About BBRTV | 廣告服務 | 聯系我們 | 招聘信息 | 會員注冊 | 中文簡體 | English | ti?ng Vi?t Nam | ???????

廣西廣播電視臺 版權所有

九九热www.99re15.com ,怎么在幻灯片插入下一级幻灯片