Deepfakes現在指代利用機器學習技術制作的換臉視頻。讓其名噪一時的神奇女俠扮演者蓋爾· 加朵的臉被移植到色情片的事件。Reddit 上一位名為deepfakes 的網友利用開源的TensorFlow 機器學習工具偽造出了很多女性的色情電影，其中包括蓋爾· 加朵。此后該開發工具包泄露到網上，被有心者利用制作報復性色情視頻。這些民間制作者的技術水平有限，用于機器學習輸入的素材量并不大，導致有些畫面人臉拼接并不自然，但是經過剪輯，視頻內容仍能以假亂真。
更為嚴重的是，不法分子可以利用該工具制作假新聞。外媒舉例說，如果人們打開電視觀看到的是美國總統宣示核戰爭全面開打，將造成不可想象的恐慌。開發人員制作的一個演示視頻中就利用美國前總統奧巴馬的形象生動講解了這項技術的危害性。
京公網安備 11010502049343號