當視訊會議畫面上的財務長開口要求匯出 2500 萬美元時，香港金融從業員並沒有起疑。直到交易完成，他們才發現自己被騙了——視訊中的其他人，包括那個看似財務長的男子，全是 AI 生成的深度偽造影像。根據顧問公司德勤（Deloitte）2024 年的報告，使用生成式 AI 的詐騙預計到明年僅在美國就會造成 400 億美元的損失。
表象：超真實的 AI 脸孔
「超真實」的 AI 脸孔讓人難以辨別真假。澳洲國立大學（ANU）心理學副教授艾美·道爾（Amy Dawel）指出，我們現在辨認 AI 脸孔的能力真的很差，研究顯示我們的表現不比五五開的猜測好，甚至更差。
「難以辨識 AI 脸孔會帶來真實世界的後果，影響我們所有人，無論是網路釣魚、交友網站，還是針對我們的銀行帳戶。」
真相：AI 脸孔的超真實感
AI 生成的臉孔之所以難以辨別，是因为它們看起來比真實人類的脸孔更加完美。道爾博士的實驗室先前的研究發現，AI 生成的臉孔被判定為真人的頻率，比實際人類臉孔還高——他們將此現象稱為「AI 超真實感」（AI hyperrealism）。
「AI 脸孔實際上看起來比人類脸孔更平均，或是『超平均』，這讓它們感覺更值得信任、看起來更有吸引力，也感覺更熟悉。」
各方角力：訓練與對抗
今年 6 月發表於《美國國家科學院院刊》（PNAS）的一項研究中，道爾博士與澳洲、加拿大和蘇格蘭的同事測試了一種新的訓練方法。研究人員並非教人去尋找不匹配的耳環或扭曲特徵等明顯破綻，而是訓練他們對每张脸孔整體做出直觉判断。
「問題之一是，我們預期 AI 脸孔會看起來很奇怪，這是基于过去的经验，但实际上是人类脸孔才不完全对称、有点怪异，所以整个逻辑已经颠倒了。」
研究結果顯示，參與者在訓練後的準確率大致翻倍，達到 81%。
深層影響：心理學與本能
英國伯恩茅斯大學的心理學家埃斯圖迪略博士（Dr Alejandro Estudillo）表示，這種新方法的美妙之處在於它利用了我們的自然本能。「人類並不是靠聚焦個別特徵來處理脸孔。相反，我们使用的是所谓整体处理，也就是把所有特徵整合成一个整体，以便有效辨识。」
「没有人想过，或许最好的方法其实是告诉参与者，用他们日常生活中自然处理脸孔的方式来进行。」
未解之問：與 AI 的賽跑
然而，這場「貓捉老鼠」的遊戲仍在繼續。道爾博士表示，這套訓練已證明对目前最逼真的 AI 脸孔生成器之一 StyleGAN3 高度有效，但仍需在其他 AI 模型上进行测试。此外，真正的挑戰在於人类现在正与不断进步的 AI 系统赛跑。
「这是一场猫捉老鼠的游戏，就像电脑病毒一样，它们不断变化，我们也必须不断调整才能跟上。」
儘管如此，她认为这些研究结果提供了「令人抱持希望的充分理由」。未来或许可以开发类似的训练，帮助人们辨识 AI 生成的语音和影片，而不仅仅是静态脸孔——如此一来，我们或许都能更有效地判断，自己是否正与真实的同事通话，还是面对 AI 深度伪造影像。
如果你對 AI 詐騙感到擔憂，不妨開始學習辨識這些超真實的臉孔，提升自己的防範能力。
本文改寫整理自公開新聞來源，原始報導由BBC中文發布。
常見問題 FAQ
如何辨識 AI 生成的臉孔？
辨識 AI 生成的臉孔需要訓練。研究顯示，通過對脸孔的整体特徵进行评估，如獨特性、可记憶性、表情丰富度、对称性、比例协调性和吸引力，可以提高辨识准确性。
AI 詐騙有哪些常見手法？
AI 詐騙常見的手法包括使用深度偽造影像進行視訊會議、社交媒體上的假帳號、以及在網路上進行釣魚攻擊。
有哪些工具可以幫助辨識 AI 生成的內容？
目前有一些使用演算法偵測 AI 生成内容的自动化工具，但这些工具也有局限性，可能只对特定 AI 产品有效，且当新模型出现或影像被编辑时，可能会难以应对。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
