朱克伯格話「一切歸功惡靈」?深度偽造影音後患無窮

蘋果日報 2019/06/12 16:30


(北美通訊)現今影音科技已進步到可以無中生有、移花接木的境界。以色列一間公司日前以「影像對白置換(video dialogue replacement)」技術,製作出一條看似Facebook行政總裁朱克伯格(Mark Zuckerberg)正在受訪的影片,並上傳至網絡。光看嘴型幾乎找不出破綻,再次觸發公眾對於假新聞、假資訊的疑慮。
記者 : 林宜萱
 
由CannyAI製作的這條影片中,朱克伯格似乎正在談論Facebook的影響力,但口中說出的句子卻是「我將一切歸功於惡靈,惡靈向我揭示,凡能操縱數據者,即能操縱未來。」
 
這段訪談畫面,「改編」自朱克伯格於2017年對於俄羅斯干擾美國總統大選的談話。利用影像置換技術(deepfake),重製朱克伯格說話時的嘴型,剪接訪問內容,讓朱克伯格說出當時根本沒說的字句;輸入數據越全面,嘴型變化越自然。影片中,朱克伯格的聲線高低並未調整,是唯一破綻。
 
但要置換音源,亦非難事。CannyAI製作了一系列假談話影片,被改編的名人包含美國總統特朗普、知名演員摩根費曼(Morgan Freeman)等,聲音近乎原音重現。CannyAI拒絕將影片下架,創辦人之一的奧瑪(Omer Ben-Ami)表示,這是一個教育大眾認識科技的機會,想像未來科技能夠如何進化,終使人類透過數據獲得永生。
 
然而,這也令人擔憂假資訊將更容易流傳,有心人士能夠冒用名人臉孔和聲音散播假訊息,而社交平台如Facebook、Instagram要如何審查這類虛假影片,也將成為大挑戰。