當「眼見為實」不再可靠：AI 驅動詐騙對數碼時代資訊判別能力的挑戰
劉慧慧 資深特許管理會計師、反詐騙聯盟（教育）主席
一、 前言
隨着人工智能（AI）技術進入快速發展階段，人類社會正經歷一場深刻的數碼轉型。生成式人工智能能夠根據大量資料學習並生成文字、圖片、聲音及影片，其應用範圍涵蓋教育教學、創意設計、客戶服務及知識管理等領域。然而，技術本身具有雙面性，在促進社會進步的同時，亦可能被不法分子利用於欺詐活動。
近年來，人工智能驅動的詐騙案件於全球急速增加。與傳統網絡詐騙相比，新一代AI 詐騙具有更強的模仿能力、更低的製作成本及更高的欺騙性。詐騙者不再需要複雜的技術背景，即可利用現成工具生成擬真的人物影像、語音及影片內容，藉此冒充公眾人物、政府官員、企業主管甚至親友身份進行欺詐。這一現象不僅威脅個人財產安全，更對社會信任體系及公共資訊環境帶來深遠影響。
二、 人工智能如何重塑詐騙模式
人工智能最顯著的影響，在於大幅提升欺詐內容的真實感與說服力。
傳統網絡詐騙往往存在語法錯誤、圖片解像度低劣、影片動作不自然或語音機械化等明顯破綻，因此相對容易被識別。然而，現代生成式人工智能已能有效克服這些問題。透過深度學習模型及海量數據訓練，人工智能能夠模擬真實人物的面部表情、語音特徵及語言風格，使偽造內容與真實內容之間的差異大幅縮小。
尤其值得關注的是深度偽造技術的發展。所謂「深度偽造」，是指利用人工智能演算法生成或修改影音內容，使觀看者誤以為相關人物曾經說過或做過某些事情。過去被視為辨識深度偽造的重要線索，例如不自然的眨眼動作、異常光影效果、面部扭曲或機械式語調，正隨着技術進步而逐步消失。
換言之，詐騙活動的核心已從「製造虛假內容」演變為「模擬真實內容」，而這種轉變使傳統辨識策略面臨新的挑戰。
三、 深度偽造內容的辨識困境
目前，數碼鑑證專家仍能透過部份細微特徵辨識人工智能生成內容。例如，人物口部動作與語音同步程度、牙齒及口腔細節的清晰度，以及語音中的呼吸節奏與情感變化等，都可能暴露技術生成的痕跡。
其中，涉及雙唇完全閉合的發音，例如「b」、「p」及「m」等聲母，往往是深度偽造系統較容易出現誤差的位置。此外，部份人工智能生成語音雖然具備高度流暢性，但在情緒表達、語調起伏及停頓安排方面，仍可能欠缺真人的自然特徵。
在靜態圖像方面，研究人員亦會觀察畫面中的光線方向、陰影投射及反射效果是否符合物理規律。然而，這些特徵僅屬於輔助性判斷方法，而非可靠的真偽證據。事實上，生成式人工智能模型正在持續克服上述限制，使得許多過往有效的檢測指標逐漸失效。
因此，深度偽造辨識正面臨一項根本性的困境：當技術不斷進步時，人類依靠感官觀察所建立的判斷基礎亦將逐漸被削弱。
四、 從技術辨識走向來源驗證
在人工智能快速演進的背景下，學者與數碼安全專家普遍認為，未來資訊真偽判斷的重心不應放在尋找技術瑕疵，而應轉向資訊來源的驗證。
換言之，問題不再是「這段影片看起來是否真實」，而是「這段影片究竟來自何處」。
當高質素深度偽造內容已達到近乎以假亂真的程度時，即使專業人士亦未必能夠僅依靠肉眼作出準確判斷。因此，驗證資訊來源、檢查發佈渠道、比對多方資料及確認原始出處，將成為維護資訊可信度的重要方法。
這一發展標誌着數碼社會正在由「感官信任」逐步轉向「來源信任」。在未來的資訊環境中，個人對訊息來源的查證能力，可能比辨識影像真假的能力更為重要。
五、 人工智能時代的教育使命
面對人工智能驅動詐騙所帶來的挑戰，教育機構肩負着培養學生數碼公民素養的重要責任。
首先，學校應加強資訊素養教育（Information Literacy）。學生必須理解資訊生產、傳播及驗證的基本原理，掌握搜尋、比較及評估資訊來源的方法，避免因資訊過載而陷入錯誤判斷。
其次，媒體素養教育（Media Literacy）亦應成為課程的重要組成部份。學生需要認識常見的人工智能生成內容及詐騙手法，了解影像操控、語音克隆及虛假新聞的形成過程，從而建立理性分析能力。
第三，批判思維能力（Critical Thinking）在人工智能時代顯得尤為重要。面對具有強烈情緒煽動性、極端立場或高度戲劇化的資訊內容，學生應學會保持審慎態度，透過證據分析與邏輯推理進行判斷，而非憑直覺作出結論。
最後，數碼安全教育應與日常生活緊密結合。學生應認識人工智能詐騙在金融、社交媒體及即時通訊平台上的實際應用情況，了解個人資料保護的重要性，以及發現可疑訊息後的應對策略。
六、 結論
人工智能正在重新塑造詐騙活動的運作模式，也正在改變人類辨識真偽資訊的方式。當生成式人工智能與深度偽造技術不斷提升擬真程度，傳統依靠視覺及聽覺判斷真實性的做法將愈來愈不可靠。未來資訊安全的關鍵，已不僅在於辨識技術上的破綻，而在於建立查證來源、驗證證據及理性分析的能力。
因此，資訊素養、媒體素養與批判思維教育不應被視為附屬能力，而應成為數碼公民教育的核心內容。只有當公眾具備持續求證的習慣與科學思辨的態度，方能在人工智能高度發展的資訊環境中維護個人安全、社會信任及公共利益。
在人工智能時代，「相信所見」已不足以保障個人免受欺詐；唯有「求證後才相信」，方能成為抵禦智能詐騙的重要防線。
