AI合成視頻以假亂真，F(xiàn)B、微軟、亞馬遜眾籌求解

deepfake技術(shù)利用AI算法，可以“扣出”影片、圖片和音頻中的特定人物，將他人取而代之。而根據(jù)阿姆斯特丹網(wǎng)絡(luò)安全初創(chuàng)公司Deeptrace的最新統(tǒng)計，基于該技術(shù)的影像制品數(shù)目，正在網(wǎng)絡(luò)上迅速增加。該公司在6月和7月的統(tǒng)計中發(fā)現(xiàn)了14698個deepfake視頻，而這一數(shù)字在去年12月時只有7964。僅僅7個月過去，deepfake視頻就爆炸般增長了84%。這一增長趨勢引起了大眾的不安，不僅僅是因為deepfake視頻可以用來操縱、搖擺民意，甚至影響選舉，又或是將莫須有的罪行栽贓給某個人。他們更擔(dān)心的是由此產(chǎn)生的大量色情視頻和敲詐案件。

為了應(yīng)對deepfake的迅猛增長，F(xiàn)acebook牽手亞馬遜云服務(wù)(AWS)、微軟以及AI合作伙伴關(guān)系(the Partnership on AI)，舉辦了deepfake檢測挑戰(zhàn)賽。來自康奈爾理工學(xué)院、麻省理工學(xué)院、牛津大學(xué)、加州伯克利分校等院校的眾多專家學(xué)者們加入比賽，在deepfake檢測技術(shù)的研究道路上帶頭沖鋒。該賽事將在溫哥華NeurIPS 2019會議上向全球發(fā)布，力圖促進(jìn)開源檢測工具的開發(fā)。

截止至今，F(xiàn)acebook已經(jīng)貢獻(xiàn)了超過一千萬美元，用以鼓勵人們參與獎金的角逐;亞馬遜云服務(wù)則貢獻(xiàn)了價值一百多萬美元的積分，并為參賽者提供了備選模型;谷歌旗下Kaggle數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)平臺將負(fù)責(zé)該挑戰(zhàn)賽的主辦。

Facebook首席技術(shù)官Mike Schroepfer指出，deepfake技術(shù)產(chǎn)生的“真人”影音材料嚴(yán)重影響了人們對于網(wǎng)絡(luò)信息的信任，而行業(yè)中卻沒有工具來檢測它們。我們希望開發(fā)出一些技術(shù)，讓這些被偽造的視頻無處遁形。”

▲檢測挑戰(zhàn)賽所提供的數(shù)據(jù)集展示了原始視頻(左)和被篡改視頻(右)。

deepfake檢測挑戰(zhàn)包括了巨額獎金和一個訓(xùn)練數(shù)據(jù)集。針對視頻造假，多種檢測工具幾經(jīng)面試，其中，由加州大學(xué)伯克利分校和南加州大學(xué)研究人員開發(fā)的工具最為優(yōu)秀，它的識別準(zhǔn)確率能超過90%。但與此同時，deepfake又是一項在不斷變化和發(fā)展中的技術(shù)?？梢哉f這項檢測挑戰(zhàn)任重而道遠(yuǎn)。在最近的采訪中，Pinscreen公司首席執(zhí)行官Hao Li指出，人工智能合成技術(shù)演化不斷，在某種程度上，合成贗品幾乎不可能從現(xiàn)實中辨別出來。

deepfake檢測挑戰(zhàn)中，群眾演員們受雇拍攝了許多的視頻訓(xùn)練材料。這些視頻中的背景、動作、場景設(shè)計各不相同，可以說是五花八門。在這之后，基于這些真實的視頻，偽造的視頻被加工出來，它們或人臉被調(diào)換，或聲音被修改。

“deepfake探測技術(shù)的前沿研究需要結(jié)合大規(guī)模、貼近現(xiàn)實、有用且免費的數(shù)據(jù)集。既然這種資源不存在，我們便不得不從頭開始創(chuàng)造它。”Facebook人工智能研究經(jīng)理Christian Ferrer表示，為了避免法律和政策掣肘，這份數(shù)據(jù)集，只涉及那些簽訂使用協(xié)議的參與者，不涉及其他用戶的任何信息。此外，F(xiàn)errer還說，對數(shù)據(jù)集的訪問是封閉的，因此只有簽訂了許可協(xié)議的團(tuán)隊才能訪問和使用它。

即日起，參賽者可以下載語料來訓(xùn)練自己的deepfake識別模型。在完成了設(shè)計后，他們需要將代碼提交到一個黑盒環(huán)境中接受驗證，獲得評分。參賽者不需要分享他們的模型，但必須同意將模型開源以獲得贏取巨額獎金的資格。

deepfake檢測挑戰(zhàn)由一個專業(yè)的委員會推動和監(jiān)督，該委員會包括Facebook、微軟以及媒體、學(xué)術(shù)團(tuán)體等。該競賽計劃運行到2020年3月底。

“跨行業(yè)領(lǐng)域的各界團(tuán)體一起努力，在幾個月的時間里共同創(chuàng)造了該挑戰(zhàn)，這樣的團(tuán)結(jié)一致無疑的是鼓舞人心的。”Facebook人工智能總監(jiān)、負(fù)責(zé)管理這項挑戰(zhàn)的業(yè)務(wù)主管Irina Kofman說道，“每個人都帶來了各自領(lǐng)域的見解，這讓我們得以接觸到了廣泛的觀點。”

谷歌副總裁AI Jerome Pesenti認(rèn)為，“我們知道解決這些難題不會容易。但是，我相信，開源開放的研究方法終將孵化有效的工具，幫助人們識別deepfake詐騙。”

關(guān)鍵詞：