AI生成「假裸照」氾濫！專家警告：任何人都可能成為受害者

佛羅裡達大學電腦與資訊科學工程系教授Kevin Butler博士帶領的研究團隊，近日針對AI技術遭濫用的現象提出嚴正警告。他們發現，一種能將普通照片轉換成逼真裸照的AI工具正在網路上快速擴散，這些工具操作簡單、成本低廉，且幾乎不受任何監管。

研究團隊將這類惡意行為命名為「SNEACI」（合成非自願AI生成色情影像），這個縮寫讀音類似「偷偷摸摸」，恰如其分地反映了這種行為的隱蔽性與欺騙本質。佛羅裡達大學網路安全研究所所長Butler強調：「任何人都能輕易使用這些工具，過程完全匿名，而且沒有任何有效的年齡或同意驗證機制。」

研究團隊系統性分析了20個提供「AI脫衣」服務的網站，發現這些平臺讓使用者能在幾秒鐘內生成逼真的色情圖片。與傳統的Photoshop等工具不同，這些AI服務幾乎沒有任何使用門檻。Butler指出：「這些網站操作快速、價格低廉（甚至免費至每張圖片僅需6美分），且完全不需要專業技能。」

令人憂心的是，研究發現女性特別容易成為攻擊目標，但這項技術實際上可以應用於任何人，包括未成年人。雖然基於法律和道德考量，研究人員並未實際測試針對未成年人的圖片，但他們確認「沒有任何技術障礙能阻止這種行為」。更糟的是，在調查的20個網站中，僅有7個要求圖片主角必須年滿18歲，且幾乎沒有任何平臺會確實執行年齡驗證。

這些平臺運作極不透明，通常使用加密貨幣進行交易，並託管在主流雲端服務上。研究發現，有7個網站使用亞馬遜網路服務，12個使用Cloudflare，顯示這些正當的服務商無意間助長了這類惡意行為的蔓延。

Butler團隊更發現，這些網站對於生成圖片的儲存和使用方式幾乎沒有任何說明。他擔憂地表示：「我們無法得知這些生成器會如何處理使用者上傳的圖片，而且看起來沒有任何資料會被刪除。」

事實上，這類AI生成的假裸照已經造成多起嚴重事件。從泰勒絲到梅蘭妮亞·川普等名人，都曾成為受害者。更令人震驚的是，佛羅裡達南部就曾發生一起市議員因AI生成的假裸照在網路流傳而被迫辭職的案例。Butler強調：「這些圖片不僅僅是為了娛樂，它們被用來羞辱、恐嚇甚至勒索受害者，對心理健康造成的傷害難以估量。」

研究人員指出，這些被濫用的技術原本是為提升電腦視覺或支援學術研究等有益目的而開發，且經常在AI社群中公開分享。Butler呼籲：「我們需要重新思考開源技術的分享和使用方式，機器學習社群也開始討論是否應該限制某些工具的流通。」

這份由Butler和Traynor教授指導、博士生Cassidy Gibson完成的研究論文，將在今年夏天的USENIX安全研討會上發表。研究團隊近期更與美國眾議員Kat Cammack會面，討論如何遏止這股危險趨勢。Cammack在宣告中強調，瞭解這些圖片的生成方式及其對各年齡層心理健康的影響，是終結此現象的首要之務。

Butler表示：「我們希望透過網路安全研究的專業知識，協助立法者制定更明智的監管政策，並促使相關人士承擔更多責任。最終目標是運用我們的技能解決現實問題，真正幫助需要保護的人們。」

[end]