什麼是 Deep Fake？
所謂的 Deep Fake，是透過人工智慧技術，將影片、影像以及音頻進行合成，生成與原本素材不同的內容。這項技術近來被廣泛應用於影像製作領域，例如計算機生成影像（CGI）以及 AI 新聞主播朗讀新聞稿等方面，具有開拓創意及緩解人力不足的優點。然而，近年來Deep Fake也被不法分子用於詐騙等不法行為。
由於Deep Fake的濫用對企業構成了潛在風險，因此瞭解其機制、實例及防範措施尤為重要。本篇文章將會解析Deep Fake的運作原理、應用場景、潛在風險、實際案例以及相應的策略。
Deep Fake 的運作機制
Deep Fake 主要使用了一種稱為「生成對抗網絡 (Generative Adversarial Networks, GANs)」的技術。GANs 的構造包含兩個網絡部分：生成網絡（Generator）和辨別網絡（Discriminator）。
- 生成網絡 (Generator): 負責生成假數據。
- 辨別網絡 (Discriminator): 負責判斷生成數據的真偽，並與真的數據進行比較。
透過不斷重複生成與判斷的過程，生成網絡和辨別網絡得以提升精度，使得生成網絡能夠產生更接近真實的數據。這個過程中，生成網絡能夠提取目標特徵並將其數字化，從而精確地改變特定數據，如顏色和樣式。
Deep Fake 技術的應用場景
Deep Fake 在各個行業中都有重要應用，特別是在電影及影像製作領域，可以大幅減少CGI製作負擔和避免重新拍攝的需要。另外，它也能用於 AI 新聞主播，利用虛擬形象代替真人進行新聞播報。
影像與CGI製作
在娛樂行業中，Deep Fake 技術被用來簡化影像生成過程。例如2018年的《復仇者聯盟: 無限戰爭》中，反派角色Thanos的臉部表情通過AI技術被高解析度地表現出來，增加了角色的真實感。
AI 新聞主播
Deep Fake 技術還能用於創建虛擬新聞主播，這在中國的國營廣播電視網已經開始應用了。這種技術可以在突發新聞事件中迅速應對，並實現24小時不間斷播報。
Deep Fake 可能對企業帶來的風險
詐騙與社會工程學
利用Deep Fake 技術模仿企業高層或員工的聲音進行詐騙是一種常見的社會工程學攻擊手法。強化對員工的安全教育和落實雙重認證等措施是防範的關鍵。
偽造認証
Deep Fake 還可能被用於破解臉部認證系統，這將對企業的數據安全構成威脅。實施多因素認證（Multi-Factor Authentication, MFA）和加強異常行為檢測系統能有效減低風險。
偽廣告
透過Deep Fake 技術偽造的廣告可能會損害企業品牌形象。企業需要持續提供準確的資訊，並建立偵測偽廣告的監控機制。
偽資訊的散布
Deep Fake 還可製造企業的虛假資訊，迅速透過社群媒體擴散，影響企業的股價和信譽。企業須建立偽資訊監控及迅速應對計畫，以保持資訊透明度應對這類風險。
Deep Fake的濫用實例
AI語音詐騙
透過Deep Fake技術模仿名人的語音進行騙取金錢或涉及機密資訊的詐騙事件時有發生。海外已經有企業高管的聲音被仿造從而造成巨額損失的實例。預防這類詐騙需要強化對語音數據的保護及落實相關安全措施。
偽造視頻會議詐騙
Deep Fake 技術還能被用於模擬企業高層進行的視頻會議。曾有香港企業的財務主管因Deep Fake視訊會議而受騙向不法分子匯款2,500多萬美元。
企業應對 Deep Fake 的措施
實施事實查證
企業應進行事實查證，以確保內外部流通的資訊真實性。可以利用現有的查證工具及設立專門的查證團隊，定期進行資訊審核。
導入Deep Fake檢測工具
採用先進的Deep Fake檢測工具，可有效識別和阻止虛假視頻、影像和音頻的使用。企業應選擇高精度的檢測工具，並定期更新以應對技術演進。
使用C2PA技術
透過C2PA技術，企業可以追溯數位內容的起源及變更過程，確保資訊真實性。這不僅可幫助企業證明其發布內容的可靠性，也有助於傳遞透明的資訊給消費者。
結論
Deep Fake 技術雖然能為影視娛樂行業帶來便利，但被濫用時則會對企業構成重大風險。企業需採取有效措施，如事實查證、導入檢測工具和使用C2PA技術，以防範Deep Fake 帶來的潛在威脅。保持資訊透明和建立快速應對偽資訊的能力，對於維護企業信譽至關重要。