科技潮知識

Deepfake,眼見不為憑的時代

By 03/19/21 FridayNo Comments

在2020年愚人節,台灣知名Youtuber小玉,使用在QQ群上花費150元人民幣購入的AI換臉軟體,藉著當時政治人物的熱議聲量並搭配配音員的聲音仿佛看到實際的人物出現在影片內,諷刺當時的台灣媒體並提醒民眾獨立思考的重要性,單支影片成功引起討論截至目前已逼近180萬觀看次數。
時隔不到一年,韓國爆紅的Youtuber美女Rui,對外表較無自信的「Rui」本人證實頻道中實際露臉的面貌,皆是由南韓軟體技術公司dob Studio (디오비스튜디)以人工智慧技術打造,希望在南韓重視外貌的演藝界可憑藉實力脫穎而出一圓明星夢,其中Deepfake逼真的效果讓消息一出後瞬間轟炸韓國網路與論。

(圖/翻攝自 YouTube 頻道「RuiCovery」)

何謂Deepfake?

Deepfake是透過人工智慧(AI)中的Deep Learning(深度學習)技術所創造出擬真的影像及聲音。

深度學習是機器對資料進行表徵學習的演算法,透過多種神經網路框架從實例中建立更好的模型,像是表情偽造即是提供欲仿造對象的多方角度影音素材,加長對機器學習的訓練時間,並結合語音合成和轉換技術來製作虛假語音,即能製造出精準效果且唯妙唯肖的假影片,更可套用生成對抗網絡(Generative Adversarial Network, GAN),以產生者產出Deepfake影像搭配鑑別者判斷真偽,相互對抗使成品趨近於完美。

攻佔熱搜的韓國Youtuber Rui更善用機器學習中的臉部數據,統整了大眾普遍認為討人喜歡、感到好感的容貌,以人臉合成影像創造嶄新面容並加以套用,AI技術打造的「虛擬偶像」再次刷新了大眾的既定印象。

技術普及帶來憂患?

隨著技術發展的成熟,各產業不免都可發現Deepfake的蹤跡,小則日常生活大則遍及國家經濟都廣泛使用,如同美國電影公司運用此技術將已逝世的電影明星重返螢幕,又或是動作電影中模擬出更多的臨時演員已達震撼感、甚至加州警察與校方合作,從模糊的車牌運用Deepfake技術將罪犯繩之以法,更進階網路有眾多自行生成Deepfake的軟體可供下載,普及化到每個人。

然而技術的門檻降低同時衍生出許多負面風險,大量的女性公眾人物被有心人士合成至色情片,更在非洲流傳總統的假影片差點引發政變,假資訊造成的與論衝擊著震盪的時局,極可能導致國家邁向岌岌可危的懸崖,讓我們更不容小覷Deepfake遍及後隨之而來的正負面影響。

獨立思考、探求真相

與AI共生的世界,大眾在真相與虛假中逐漸產生混淆,好與壞在心中拉鋸,未來有可能將傾向於用低廉的成本和時間接受修正過的真相、甚至是假象,相對真實的價值將增加,導致相關真實的表演、影片或是文字取得成本將日趨高昂,儘管有大企業相繼開發判別Deepfake影像及內容變造的技術,但更需要是大眾擁有獨立思考能力分辨文字、聲音、影像的真偽,雖所見不一定為真,但比真相更有意義的,是探求真相的决心。

參考連結

[1]https://udn.com/news/story/7088/5320340

[2]https://www.netadmin.com.tw/netadmin/zh-tw/technology/DCF13461B4D24363A7BBE6CE61A19788

[3]https://www.youtube.com/watch?v=zS2iaHSwg1c

作者介紹
Julie Chien  
優聘專案企劃

若有工商需求或想要了解更多,可在文章留言處留言,或投信至:marketing@talfin.ai

發表評論