當香港金融從業員在視訊會議中被AI生成的深度偽造影像騙走2500萬美元的那一刻，全球對於AI詐騙的警覺達到空前的高度。根據顧問公司德勤（Deloitte）2024年的報告，使用生成式AI的詐騙預計到明年僅在美國就會造成400億美元的損失。
表象：超真實的AI臉孔
澳洲國立大學（ANU）心理學副教授艾美·道爾（Amy Dawel）指出，我們現在辨認AI臉孔的能力真的很差，研究顯示我們的表現不比五五開的猜測好，甚至更差。這意味著，即使是最聰明的金融從業員也可能成為AI詐騙的受害者。
「超真實」的AI臉孔成為新的挑戰。道爾博士解釋，AI生成的臉孔被判定為真人的頻率，比實際人類臉孔還高。因為AI演算法傾向於取其訓練的數萬張臉孔的數學平均值，使得AI臉孔看起來更平均，更值得信任、更有吸引力，也更熟悉。
真相：人類辨識能力的缺陷
道爾博士今年6月發表於《美國國家科學院院刊》（PNAS）的一項研究中，提出了一種新的訓練方法。研究人員並非教人去尋找不匹配的耳環或扭曲特徵等明顯破綻，而是訓練他們對每張臉孔整體做出直覺判斷。
「問題之一是，我們預期AI臉孔會看起來很奇怪，這是基於過去的經驗，但實際上是人類臉孔才不完全對稱、有點怪異，所以整個邏輯已經顛倒了，」道爾博士說。
各方角力：技術進步與防範手段
研究團隊首先檢測了45名成年人一開始辨識AI生成臉孔的能力。在一項測試中，他們被展示一系列三張臉孔，並被要求挑出AI那一張。道爾博士表示，訓練內容包括展示約100張臉孔——一半真實、一半AI生成——並要求他們針對六項整體特徵評分：獨特性、可記憶性、表情豐富度、對稱性、比例協調性與吸引力。
「人類臉孔往往更獨特、更易記憶、表情更豐富；而AI生成的臉孔則通常更對稱、比例更協調、更有吸引力，」道爾博士說。經過訓練後，參與者的準確率大致翻倍，達到81%。
深層影響：未來的挑戰
英國伯恩茅斯大學的心理學家埃斯圖迪略博士（Dr Alejandro Estudillo）並未參與這項研究，但他對這種新方法感到驚訝。「這種新方法的美妙之處在於它利用了我們的自然本能。人類並不是靠聚焦個別特徵來處理臉孔。相反，我們使用的是所謂的整體處理，」他解釋道。
然而，道爾博士指出，這套訓練仍需在其他AI模型上進行測試，特別是對於兒童和老年人的有效性。此外，人類現在正與不斷進步的AI系統賽跑，這是一場「貓捉老鼠」的遊戲。
未解之問：如何保持人類的核心角色
儘管如此，道爾博士認為這些研究結果提供了「令人抱持希望的充分理由」。她建議，未來或許可以開發類似的訓練，幫助人們辨識AI生成的語音和影片，而不只是靜態臉孔。這樣一來，我們或許都能更有效地判斷，自己是否正與真實的同事通話，還是面對AI深度偽造影像。
從產業面來看，AI生成的臉孔已經成為金融詐騙的新工具，這不僅威脅到個人財產安全，也影響到企業的運營。未來，我們需要更多跨學科的合作，才能有效應對這一挑戰。
面對日益精進的AI技術，我們不能坐以待斃。學習辨識AI生成的臉孔，不僅是保護自己的財產，更是維護社會的信任和秩序。現在，就是開始學習的最佳時機。
本文改寫整理自公開新聞來源，原始報導由BBC中文發布。
常見問題 FAQ
如何辨識AI生成的臉孔？
通過整體處理的方式，注意臉孔的獨特性、可記憶性、表情豐富度、對稱性、比例協調性和吸引力等特徵。
AI生成的臉孔有哪些特點？
AI生成的臉孔通常更對稱、比例更協調、更有吸引力，但缺乏真實人類臉孔的獨特性和表情豐富度。
如何提高辨識AI生成臉孔的能力？
參加專門的訓練課程，通過大量練習，逐步提高對AI生成臉孔的辨識能力。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
About the Author
