研究驚爆：可公開下載的Deepfake生成工具數量暴增

牛津大學網路研究所(OII)最新研究發現，專門用於製作特定人物深度偽造(deepfake)影像的AI工具正呈現驚人增長。研究團隊在一個全球知名平臺上，就發現近3.5萬個這類工具可供公眾免費下載。

這項由OII博士生Will Hawkins主導的研究已獲ACM公平性、問責性與透明度(FAccT)會議採納。資料顯示，自2022年底以來，這些deepfake生成器已被下載近1500萬次，且主要針對女性。這也反映出未經同意的親密影像(AI-generated NCII)正快速增加。

研究主要作者Hawkins強調：「我們迫切需要更完善的技術防護措施、更明確且主動執行的平臺政策，以及新的監管方式來應對這些有害AI模型的製作與散播。」

值得注意的是，英國已於2023年4月透過《網路安全法》修正案，將分享色情deepfake影像列為刑事犯罪。目前政府更計劃透過《犯罪與警務法案》，將製作這類影像也納入犯罪行為。

研究團隊警告，這可能只是冰山一角。由於分析僅針對知名平臺上的公開模型，加上製作成本低廉，更惡劣的deepfake內容（如兒童性虐待素材）可能已廣泛流傳，只是未公開在主流平臺上。

這篇名為《Deepfakes on Demand》的研究論文將於5月7日發布在arXiv預印本平臺，並於6月23-26日在希臘雅典舉行的ACM FAccT會議上正式發表。該會議所有論文均經過同儕審查。

[end]