深度偽造偵測技術曝重大漏洞，專家呼籲急待改進

一項由國際研究團隊進行的最新研究揭露，現行廣泛使用的深度偽造（Deepfake）偵測工具存在重大缺陷，呼籲相關技術亟需改進。這項研究由澳洲國家科學機構CSIRO與韓國成均館大學（SKKU）共同進行，評估了16款主流偵測工具，結果發現無一能可靠辨識真實世界中的深度偽造內容。研究結果已發表於arXiv預印本伺服器。

深度偽造是一種透過人工智慧（AI）生成的合成媒體，能夠操縱影像、影片或音訊，創造出超逼真但虛假的內容，引發了對假訊息、詐騙和隱私侵害的擔憂。CSIRO網路安全專家Sharif Abuadbba博士指出，生成式AI的普及助長了深度偽造的快速崛起，其製作成本更低且更容易生成。

「深度偽造越來越具欺騙性，並能散播假訊息，因此迫切需要更具適應性和韌性的解決方案來偵測它們，」Abuadbba博士表示。「隨著深度偽造變得更加逼真，偵測必須聚焦於意義和上下文，而非僅依賴外觀。透過將偵測方法分解為基本元件，並以真實世界的深度偽造進行嚴格測試，我們正在推動開發更能應對各種情境的工具。」

研究團隊開發了一個五步驟框架，根據深度偽造型別、偵測方法、資料準備、模型訓練和驗證來評估偵測工具。該框架識別出影響準確性的18個因素，從資料處理方式到模型訓練和測試方法皆涵蓋其中。

SKKU教授Simon S. Woo表示，CSIRO與SKKU的合作提升了該領域對偵測模型漏洞的理解。「這項研究深化了我們對深度偽造偵測器在真實條件下表現的理解，揭露了重大漏洞，並為更具韌性的解決方案鋪路，」他說。

研究還發現，許多現行偵測工具在面對超出其訓練資料範圍的深度偽造時表現不佳。例如，以名人臉部訓練的ICT（Identity Consistent Transformer）偵測器，在辨識非名人深度偽造時效果顯著降低。

CSIRO網路安全專家Kristen Moore博士解釋，使用多種偵測工具和多樣化的資料來源能強化深度偽造偵測。「我們正在開發整合音訊、文字、影像和後設資料的偵測模型，以獲得更可靠的結果，」Moore博士表示。「主動策略，例如追蹤深度偽造來源的指紋技術，能增強偵測和緩解工作。」

「為了跟上不斷演進的深度偽造技術，偵測模型也應納入多樣化的資料集、合成資料和上下文分析，超越僅依賴影像或音訊的範疇，」她補充道。