2018年，一部由喬登．皮爾(Jordan Peele)和歐巴馬演出的「公共服務宣導(PSA)」影片《關於偽造科技的警告》在網路上瘋傳。這種機器學習最夯的生成對抗網絡（Generative Adversarial Network) ，可以技術偽造騙過每個人網路上的的所見所聞，對國家安全、自由民主威脅很大。
波士頓大學法學院教授丹尼爾·西特倫(Danielle Citron) 在TED的演講《深度偽造如何傷害事實並威脅民主How deepfakes undermine truth and threaten democracy》，針對深度偽造(deepfakes)如何影響個人的名聲與生活，並可能威脅到政治人物的聲譽而影響選舉，提出她個人的研究心得與建議。她是一名法學教授，也是網路民權倡議的副總裁。他把自己對公民權利的承諾付諸行動，打擊侵犯隱私的網路濫權，避免破壞公民權利和公民自由。她一直與立法者、執法人員和科技公司合作，為所有人提供線上空間和工具。
她談到印度的一名女調查記者拉娜·阿尤布(Rana Ayyub)，因為揭露政府腐敗和侵犯人權的行為(法外處決、宗教暴力)，特別是2015年「古吉拉特暴動」中官員的黑幕，拉娜成為印度教民族主義者(印度總理莫迪及其領導的印度人民黨)的攻擊目標，2018年4月20日一些社交媒體炮製和發佈了許多精心策劃的帖子，指摘她支持兒童強姦犯，並稱印度境內的穆斯林人口不再安全。在推文發佈之後，拉娜·阿尤布收到一堆充滿仇恨的資訊，其中一些人甚至呼籲將其輪奸和謀殺，並多次提到她的穆斯林信仰。她的電話號碼和家庭住址都被人肉搜索，公佈在社交網路上。儘管她已澄清這些推文是假的，但惡毒攻擊與威脅仍在繼續。
才過兩天，她正和一個朋友坐在咖啡館裡，突然看到一段2分鐘20秒關於她性愛的錄影，她簡直不敢相信自己的眼睛，因為她從來沒有拍過性愛視頻。但是沒人會相信那不是她，這段偽造的色情短片還有許多用她的頭像進行換臉的色情圖片，在48小時內傳播開來，她所有的網路帳戶都充斥著視頻的截圖，還有強姦和死亡威脅的暗示，以及關於她穆斯林信仰的污衊。她的家庭住址和手機號碼在互聯網上傳播，該視頻被分享了超過40,000次。
儘管警方在拉娜提出申訴10天後開始對這些威脅展開調查，但她並未得到任何警方保護。成為這種網路攻擊的目標時，危害是深遠的。拉娜的生活完全顛倒了。幾個月內，她不敢出門。她停止寫作並關閉了所有社交媒體帳戶，做為一名記者，這是很困難的事。
拉娜面對的是一個深度偽造：利用AI學習技術操縱或偽造音訊和視頻錄音，偽造你從來沒有做過或說過的事情。深度偽造做得天衣無縫，但他們完全是假的。
2018年初，有人在紅迪網站(Reddit) 上發佈了一個工具，允許使用者在色情視頻中置換人臉。接下來網路上充斥著一連串的假色情短片，這些視頻以人們最喜歡的女性名人為對象。現在您可以在 YouTube上學習任何課程，並逐步瞭解如何在桌面應用程式上做深度操作。很快地，我們甚至能夠用手機製作。
我們人對音訊和視頻的內在反應讓我們相信他們是真實的，基本上，你當然可以相信你的眼睛和耳朵，但是這種機制可能破壞我們共同的現實感。儘管我們相信「深度偽造」是真，但事實並非如此。我們被這種淫穢的、挑釁性的訊息(salacious fabrications)吸引，而傾向於相信並分享負面和新穎的資訊。研究人員發現，網上惡作劇的傳播速度比真實的故事快10倍。現在，我們也被符合我們觀點的資訊所吸引。心理學家稱這種傾向為「確認偏見」。社交媒體平台藉由讓我們即時而廣泛地分享和我們觀點一致的資訊，來增進這樣的趨勢。
深度偽造有可能造成嚴重的個人和社會傷害。如果一個深度偽造顯示美國士兵在阿富汗焚燒可蘭經。你可以想像這種偽造會激起對這些士兵的暴力。
深度偽造也有可能腐蝕我們對民主體制的信任。所以，如果選舉前的晚上，有一個假訊息顯示一個主要政黨候選人生了重病。這種假訊息可能變成頭條，動搖我們關於選舉的合法性。試想如果在全球一家大型銀行首次公開發行（IPO）的前一天晚上，有一個假訊息顯示該銀行的執行長醉酒說出陰謀論。這樣子可能動搖我們金融市場穩定感，甚至會讓市場崩潰。
深度偽造可以利用並放大我們對政治家、商界領袖和其他有影響力的領導人存在的不信任。
我們不僅可能相信偽造，而且可能開始不相信真相。我們已經看到政客利用偽造現象來質疑他們不法行為的真實證據。德州大學法學院教授羅伯特·切斯尼(Robert Chesney)教授和我稱之為「騙子的紅利」 (liar's dividend)：騙子利用深度偽造的風險來規避避他們犯錯的責任。
我們需要來自科技公司、立法者、執法人員和媒體的主動解決方案。我們需要一個健康的社會復原力。所以，現在我們正在進行一個非常公開的談話，關於科技公司的責任。我對社交媒體平臺的建議是改變他們的服務條款和社區準則，以禁止造成危害的深度偽造。
法律是我們的教育者。它告訴我們什麼是有害的，什麼是錯誤的。它通過懲罰犯罪者和為受害者爭取補救來塑造它所震懾的行為。目前，法律不能應對深度偽造的挑戰。在全球範圍內，我們缺乏經過精心設計的法律，這些法律將針對侵犯性隱私、損害聲譽和造成情緒困擾的數位冒名頂替行為。拉娜的遭遇越來越普遍。然而，當她去德里要求執法時，她被告知什麼也做不了。可悲的事實是，美國和歐洲的情況也是如此。
美國學者正在起草一份聯邦法案，立法禁止惡意深度偽造，與發佈有害視頻是犯罪活動。但法律也不是萬能的。它還有一些實際障礙。你不能利用法律來對付你無法識別和發現的人。如果犯罪人居住在受害者居住的國外，那麼你可能無法堅持讓犯罪者到當地法院接受審判。因此，我們需要一個協調的國際反應。教育也必須是我們對策的一部分。執法者不會執行他們不了解的法律，也不會提出他們不理解的問題。在關於網路跟蹤的研究中，我發現執法部門缺乏瞭解他們可用的法律和網路濫用問題的培訓。他們經常告訴受害者，「關掉電腦就是了！忽略它，它會消失。」
教育也應當以媒體為目標。記者需要對深度偽造現象進行教育，以免放大和傳播。這是我們參與的部分。我們每個人都需要教育。我們按讚、我們分享、我們喜歡，我們甚至沒有深思熟慮。我們需要做得更好。我們需要更好的雷達來監視假訊息。
關於深度偽造也發生在美國歐巴馬總統和民主黨眾議院院長的公開發言上，台灣的網路上也常看到中共網軍製造的深度偽造的影片，污衊台灣執政黨和本土派的政治人物，這是很可怕的刻意操作，影響到的層面非常廣大而深遠。最近2020總統選舉接近了，網路上越來越多的深度偽造影片，造謠並污辱領先的總統候選人。如果我們不正視這樣的問題，其實真正傷害的是我們自己，最後是我們的國家和社會，甚至我們的未來和下一代的幸福！
延伸閱讀：