揭開AI不平等面紗：研究挑戰偏見是技術缺陷的迷思

研究人員挑戰了普遍認為AI引發的偏見是技術缺陷的觀點，相反地，他們認為AI深受社會權力動態的影響。AI從由人類偏見塑造的歷史資料中學習，吸收並延續了歧視。這意味著，AI並非創造不平等，而是複製並強化它。這項研究發表在《技術預測與社會變遷》期刊上。

「我們的研究強調了AI在現實世界中強化現有偏見的例子，」Bircan教授說道。「一個引人注目的案例是亞馬遜的AI驅動招聘工具，該工具被發現傾向於男性候選人，最終加劇了就業市場中的性別差距。」

「同樣地，政府的AI詐騙檢測系統錯誤地指控家庭，特別是移民，進行詐騙，導致受影響者面臨嚴重後果。這些案例表明，AI在未受監管的情況下，不僅未能消除偏見，反而可能放大歧視。」

「如果缺乏透明度和問責制，AI有可能成為鞏固現有社會階層的工具，而非挑戰它們。」

AI是在一個更廣泛的生態系統中開發的，在這個系統中，公司、開發人員和政策制定者對其設計和使用做出關鍵決策。這些選擇決定了AI是減少還是加劇不平等。當AI系統在反映社會偏見的資料上進行訓練時，它們會在招聘、警務和福利分配等高風險領域複製歧視。

Bircan教授的研究強調，AI治理必須超越科技公司和開發人員。鑑於AI依賴於使用者生成的資料，必須在其設計、部署和監管方面提高透明度和包容性。否則，AI將繼續加深數位鴻溝並擴大社會經濟差距。

儘管面臨挑戰，這項研究也帶來了希望。「我們的工作主張採取積極的政策和框架，確保AI服務於社會正義，而非削弱它，而不是接受AI的缺陷為不可避免的。透過從一開始就將公平和問責制嵌入AI，我們可以發揮其促進積極變革的潛力，而不是讓它強化系統性的不平等，」Bircan教授總結道。