美國總統喬·拜登宣布針對烏克蘭戰爭的全國草案的一段視頻在網上瘋傳。該視頻是使用深度偽造技術的人工智能偽造的。
發佈於 推特，短視頻顯示拜登總統謊稱美國全國征兵。徵兵是一項強制性的軍事登記，自 1973 年越南戰爭的最後幾年以來在美國一直被暫停。
使用深度偽造技術，該視頻讓拜登宣布恢復草案，以對抗烏克蘭的俄羅斯軍隊。這是在現實生活中宣布美國將額外提供 5 億美元支持烏克蘭之後發布的。
通過 Verify，一個事實核查網站，病毒視頻被曝光是假的。報告顯示，該視頻是由保守黨媒體網站 Turning Point USA 使用 2021 年 12 月的白宮官方鏡頭製作的。
除了逼真的視頻片段外，拜登的聲音已被完全克隆，以進一步推銷虛假公告。最近幾週，這項技術已被用於製作不同總統一起玩電子遊戲的喜劇視頻。然而，這段視頻證明該技術可以而且將會被用於散佈恐懼和虛假信息。
在病毒式傳播帖子的評論中，許多人完全相信喬·拜登的假聲明。多位評論者分享瞭如何避免草案的提示，而其他人則指責“覺醒”的民主黨人恢復了草案。
這不是我們看到的第一個 deepfake俄羅斯入侵烏克蘭。在殘酷的戰爭早期，俄羅斯黑客製作了烏克蘭總統沃洛德米爾·澤連斯基向俄羅斯軍隊投降的假視頻。
Deepfake 技術已被用於製作許多有趣的娛樂視頻，包括主要係列視頻，例如曼達洛人。然而，這種操縱技術也被用於政治破壞，以及在未經女性名人同意的情況下製作露骨的女性名人視頻。
該技術已被證明極具爭議性，以至於深度偽造研究已被 Google Collab 等服務禁止.雖然它在娛樂領域確實佔有一席之地，但谷歌認為普通大眾不可信。
在撰寫本文時，深度造假被認為處於起步階段。然而，如果現代深度造假技術可以做到這一點——在短短幾個小時內造成公眾恐慌——那麼未來的迭代會做什麼?