AI模型遭「投毒」恐引發真實世界混亂！最新研究揭防堵關鍵

人工智慧對資料的貪婪渴求，可能成為其致命弱點——這正是駭客發動「資料投毒」攻擊的最佳突破口。最新研究顯示，網路攻擊者正透過在AI訓練資料中混入微量虛假資訊，企圖讓原本可靠的模型產生嚴重偏差。

當今我們使用的AI系統，從ChatGPT到Netflix的推薦演算法，其「智慧」表現完全仰賴海量訓練資料。一旦這些珍貴資料遭汙染，AI行為就會開始失控。這不僅會導致聊天機器人胡言亂語，更可能造成自駕車無視紅燈，甚至引發大規模電網故障等嚴重後果。

為抵禦資料投毒威脅，佛羅裡達國際大學的網路安全團隊開創性地結合「聯邦學習」與「區塊鏈」兩項新興技術。發表於《IEEE Access》的研究證實，這套系統能在問題資料汙染訓練集前，就成功將其識別並剔除。

研究主持人Hadi Amini教授強調：「這項技術在關鍵基礎設施防護、交通網路安全、醫療等領域都具有廣泛應用前景。」團隊採用的聯邦學習技術，讓AI模型直接在使用者裝置上進行訓練，僅上傳引數更新而非原始資料，既保護隱私又提升效率。

不過該技術仍存在漏洞，研究主要作者Ervin Moore博士解釋：「聯邦學習難以在資料送達模型前驗證其真偽，因此我們引入區塊鏈機制來彌補這個缺陷。」區塊鏈的不可篡改特性，讓系統能比對資料更新紀錄，及時過濾潛在的惡意資料。

研究團隊正與美國國家交通網路安全中心合作，將量子加密技術應用於資料保護。Amini教授表示：「我們致力在發揮AI優勢的同時，確保美國交通基礎設施的安全。」這項突破性研究，將持續為關鍵基礎設施安全提供更強大的AI防護方案。

[end]