AI生成兒童性虐待影像：黑暗網路中的新威脅

英國正積極成為全球首個針對AI生成性虐待內容制定新法規的國家。根據新法，持有、製作或散佈用於生成兒童性虐待影像（CSAM）的AI工具將被視為犯罪，最高可判處五年監禁。此外，任何持有所謂「戀童癖手冊」的行為也將被視為非法，這些手冊教導人們如何利用AI技術對兒童進行性虐待。

在過去幾十年中，網路對兒童的性虐待威脅以驚人的速度增長。根據致力於追蹤並移除網路虐待內容的「網路觀察基金會」統計，自2014年以來，網路上的兒童性虐待影像數量已激增830%。而AI影像生成工具的普及，更進一步助長了這一趨勢。

去年，我們在安格利亞魯斯金大學的國際警務與保護研究所發表了一份報告，探討了網路上對AI生成兒童性虐待影像日益增長的需求。研究人員分析了過去12個月內在黑暗網路論壇中的對話，發現了對這項技術的興趣不斷上升的證據，以及網路犯罪者希望更多人學習並製作虐待影像的意圖。

令人震驚的是，論壇成員將這些製作AI影像的人稱為「藝術家」。這項技術為犯罪者創造了一個全新的世界，讓他們能夠製作並分享最墮落的兒童虐待內容。我們的分析顯示，這些論壇成員利用現有的非AI生成影像和影片來學習並訓練他們使用的軟體，以製作這些影像。許多人表達了對技術進步的期望，希望未來能更容易地製作這類內容。

黑暗網路空間隱蔽且只能透過特殊軟體訪問，這為犯罪者提供了匿名性和隱私，使執法部門難以識別和起訴他們。網路觀察基金會記錄了AI生成影像數量快速增加的令人擔憂的資料。雖然與非AI影像的規模相比，AI生成影像的數量仍然相對較少，但其增長速度卻令人震驚。

2023年10月，該慈善機構報告稱，一個黑暗網路論壇在一個月內上傳了多達20,254張AI生成的影像。在這份報告發布之前，人們對這一威脅知之甚少。犯罪者普遍認為，AI生成的兒童性虐待影像是「無受害者的犯罪」，因為這些影像並非「真實」。然而，這種行為絕非無害，因為這些影像可能來自兒童的真實照片，包括完全無辜的影像。

儘管我們對AI生成虐待影像的具體影響仍有很多未知之處，但已有大量研究探討了網路兒童性虐待的危害，以及技術如何被用來延續或加劇線下虐待的影響。例如，受害者可能因為照片或影片的永久性而持續遭受創傷，僅僅知道這些影像存在就足以造成心理傷害。犯罪者也可能利用這些影像（無論真實或偽造）來恐嚇或勒索受害者。

這些問題在關於深度偽造色情內容的討論中也同樣存在，而英國政府也計劃將製作這類內容定為犯罪。AI技術可能會加劇所有這些問題。此外，審查員和調查人員在詳細檢視虐待影像以判斷其是否為「真實」或「生成」時，也可能遭受創傷性影響。

目前，英國法律已將拍攝、製作、散佈和持有兒童不雅影像或偽造照片（數位創作的逼真影像）定為犯罪。然而，現行法律並未將持有用於製作AI兒童性虐待影像的技術定為犯罪。新法規應確保警方能夠針對那些使用或考慮使用AI生成這類內容的犯罪者採取行動，即使他們在被調查時並未持有相關影像。

在技術方面，我們總是落後於犯罪者，全球執法機構很快就會不堪重負。他們需要法律來幫助識別和起訴那些試圖在網路上剝削兒童和青少年的犯罪者。政府承諾採取行動是好訊息，但必須迅速行動。立法越慢，兒童面臨的虐待風險就越大。

應對這一全球威脅，僅靠一個國家的法律是不夠的。我們需要一個全系統的回應，從新技術設計之初就開始。許多AI產品和工具最初是為了完全正當、誠實且無害的目的而開發的，但它們很容易被犯罪者改編並用於製作有害或非法的內容。法律需要理解並回應這一點，以確保技術不會被用來助長虐待，並能區分那些利用技術作惡的人與那些善用技術的人。