詐騙集團利用AI詐騙寂寞尋愛者

Meta於週三警告網路使用者，要提防那些在網路上承諾浪漫愛情，實則尋求金錢的陌生人。如今詐騙集團運用深度偽造技術，盯上了那些尋找愛情的人。

Meta全球威脅干擾政策主管大衛・阿格拉諾維奇（David Agranovich）在簡報中向記者表示：「這是詐騙集團工具包裡的新手段。這些詐騙者不斷演變，我們也得跟上，才能把事情處理好。」

據阿格拉諾維奇所言，Meta旗下包括Instagram和WhatsApp在內的應用程式偵測系統，主要依靠行為模式和技術信號，而非影像來識別詐騙。這意味著即便有AI詐術，系統仍能察覺詐騙活動。他還提到：「這讓我們的偵測和執法對生成式AI更具抵抗力。」

他舉例說，近期破獲了一個顯然源自柬埔寨、針對中文和日文使用者的詐騙計畫。Meta指出，OpenAI的研究人員發現，這個「詐騙集團」似乎在使用這家舊金山人工智慧公司的工具來生成和翻譯內容。

「道德黑客」兼SocialProof Security執行長瑞秋・托巴克（Rachel Tobac）在簡報中表示，生成式AI技術已經問世一年多，但近幾個月來，詐騙集團對它的使用大幅增加。各大公司免費提供的生成式AI工具，讓詐騙者在視訊通話時能改變自己的臉部和聲音，偽裝成他人。托巴克說：「他們還能使用深度偽造機器人，打造一個虛擬角色，或用聲音克隆技術打電話，甚至不需要真人參與。他們稱之為『代理人』，但這些並非用於客戶服務，而是自動化的詐騙手段。」

托巴克敦促人們，當網上認識的人試圖發展浪漫關係時，要「適度多疑」，尤其是對方以處理所謂的緊急情況或商機為由索要金錢時。冬季的孤寂和鬱悶情緒，加上情人節的氛圍，被視為詐騙集團的良機。托巴克說：「在寒冬時節，我們確實看到大量詐騙者盯上了人們的寂寞。」

托巴克指出，詐騙者的主要目標是錢，他們先迅速建立信任，然後編造理由索要現金或個人資料，以便獲取銀行帳戶資訊。她還強調：「適度多疑很重要，要核實對方身份。」

阿格拉諾維奇表示，詐騙者活躍於各種社交應用程式，Meta只能察覺到部分活動。這家科技巨頭透露，去年Meta封停了西非國家超過40.8萬個帳號，這些帳號被詐騙者用來偽裝成軍人或商人，與澳洲、英國、歐洲、美國等地的人發展浪漫關係。除了打擊惡意網路，Meta還在測試面部識別技術，以核實系統檢測到或使用者舉報的潛在網路冒名者。