AI學會「猶豫不決」？新技術讓神經網路更懂自我懷疑

俄羅斯斯科爾科沃科技學院（Skoltech）人工智慧研究中心與俄羅斯科學院資訊傳輸問題研究所合作，開發出一套創新方法，能讓神經網路更精準評估自身預測結果的「可信度」。這項技術特別適用於醫療診斷與工業製造等高風險領域，可大幅提升AI模型的可靠性。研究成果已發表於2025年國際電腦視覺冬季會議（WACV-2025）及會議論文集。

現今的神經網路模型雖然準確度高，卻經常在資料模糊或含有雜訊時仍表現過度自信。這種特性在醫療、工安或自動駕駛等關鍵領域可能造成嚴重後果。研究團隊透過特殊設計的「信心感知」訓練資料集，讓AI學會在複雜情境下更謹慎判斷，甚至主動標記需要人工覆核的預測案例。

有別於傳統訓練僅使用0或1的二進位標籤，新方法引入0到1之間的「軟性標籤」，這些數值反映專家對資料標註準確度的信心水平。實際測試顯示，這項技術在血型分類等醫療診斷任務中，能顯著提升模型對不確定性的評估能力。

研究工程師亞歷山大·尤蓋指出：「我們的技術讓AI懂得何時該保持謹慎。實測證明，這能有效降低系統在處理邊界案例時的過度自信風險。」該方法能同時處理兩種不確定性：源自訓練資料不足的「認知不確定性」，以及來自資料本身雜訊的「隨機不確定性」。

斯科爾科沃科技學院副教授阿列克謝·扎伊採夫強調：「我們不只教模型做決策，更讓它學會辨識高風險情境。這種結合信心標註的技術，在醫療等錯誤成本極高的領域特別關鍵。」這項突破可應用於醫療診斷系統、工業自動化、技術監控與自主決策系統等關鍵領域，為AI可靠性樹立新標準。