國際報告警示：AI失控危機迫在眉睫

在科學家們迎來巴黎全球人工智慧技術峰會之際，知名研究學者約書亞・本吉奧（Yoshua Bengio）於週四發出警告，科技巨頭們瘋狂競相開發更強大的人工智慧（AI），可能會產生「有害」影響。

這位電腦科學家、2018年享有盛譽的圖靈獎得主，在巴黎高等師範學校（ENS）釋出了有史以來首份《國際AI安全報告》，該報告是在他的指導下編撰而成。本吉奧指出，AI的風險早已被廣泛認知，例如它被用於在網路上製造假資訊或具有誤導性的內容。

此外，這位蒙特婁大學教授還表示，「越來越多的證據顯示出其他風險，例如生物攻擊或網路攻擊」。從長遠來看，他擔心人類可能會「失去」對AI系統的控制，而這些AI系統可能會出於「自我生存意志」而產生不可預測的行為。

本吉奧還提到，上個月中國推出的低成本、高效能AI模型DeepSeek，「加速了這場競賽，這對安全而言並非好事」。他呼籲加強國際監管，並對AI安全進行更深入的研究。目前，在該領域的巨額投資中，AI安全研究僅佔「極小的一部分」。

本吉奧強調：「如果沒有政府的幹預，我不知道我們該如何度過難關。」目前仍是全球AI領先國家的美國，自川普（Donald Trump）就職以來，擱置了前總統拜登（Joe Biden）試圖對AI發展施加規範的計畫。

回顧兩年前OpenAI的ChatGPT橫空出世時，本吉奧在釋出報告時表示：「當時我就深感思考AI安全問題的急迫性。」這份報告的設計理念，參照了政府間氣候變化專門委員會（IPCC）的相關報告。

他還直言：「最讓我害怕的是，人類有可能在10年內滅絕。這太可怕了，我不明白為什麼更多人還沒意識到這一點。」

這份由本吉奧牽頭的報告於1月底釋出，來自30個國家、聯合國、歐盟和經濟合作與發展組織（OECD）的約100位專家參與了報告的編撰工作。相關工作於2023年11月在英國舉行的上一屆AI安全峰會上啟動。