AI深偽技術淪為詐騙工具 假名人代言壯陽藥橫行社群

近期TikTok上出現大量AI生成的詭異影片：一名肌肉男手持巨型紅蘿蔔，赤裸上身推銷號稱能增大男性生殖器的保健食品。這只是冰山一角，生成式AI的興起讓這類詐騙影片能大規模生產，成本低廉卻獲利驚人，更常偽造名人背書來推銷可能有害的偽劣產品。

值得注意的是，這些影片刻意用「紅蘿蔔」作為男性生殖器的代稱，顯然是為了規避平臺對露骨內容的審查。在典型話術中，AI生成的肌肉男會用機械音說：「你會發現你的紅蘿蔔長大了」，並引導觀眾點選購買連結，聲稱產品含有「能讓睪酮素爆表」的神奇草藥，卻完全提不出科學證據。

總部位於矽谷的Resemble AI公司透過其最新開發的深偽檢測服務證實，這類影片確實是AI生成。執行長Zohaib Ahmed向法新社表示：「這些誤導性內容用誇大不實的宣傳推銷保健食品，可能危及消費者健康。我們正目睹AI內容被武器化來散播虛假資訊。」

此現象凸顯AI技術快速發展已催生出研究人員所謂的「AI反烏託邦」——充斥欺騙的網路世界，專門誘騙使用者購買可疑商品。從未經驗證的減肥產品到壯陽偏方，詐騙手法不斷翻新。假訊息研究專家Abbie Richards指出：「對騙徒來說，AI能以極低成本大量生產垃圾內容，是最廉價的廣告手段。」

康乃爾理工學院安全信任計畫主任Alexios Mantzarlis觀察到，TikTok上湧現大量自稱「AI醫生」的虛擬角色，推銷成分可疑的壯陽偏方，有些影片甚至獲得數百萬次觀看。更令人憂心的是，AI技術已能偽造像亞曼達塞佛瑞、勞勃狄尼洛等巨星的形象。曾有深偽影片假冒美國防疫專家佛奇，推銷前列腺保健食品。

Mantzarlis警告：「這類冒名影片特別有害，會進一步削弱我們辨識網路真實資訊的能力。」他去年就在YouTube發現數百則廣告，利用阿諾史瓦辛格等明星的深偽影像推銷壯陽藥。即便平臺下架問題內容，幾乎相同的版本又會立刻出現，讓審查淪為打地鼠遊戲。

法新社事實查核團隊多次揭穿臉書上的詐騙廣告，包括冒用前美國內閣成員班卡森名義推銷壯陽療法。但許多使用者仍信以為真，顯示深偽技術的迷惑性。Mantzarlis強調：「網路詐騙和問題性產品由來已久，但生成式AI讓這些惡意行為變得更便宜、更快速且更容易大規模部署。」

[end]