AI操弄加劇社群平臺對立 研究揭演演算法脆弱性
科技
04-16
你是否發現，無論什麼議題，網路輿論總會分裂成兩個水火不容的陣營？這其實是社群平臺設計導致的必然結果。平臺演演算法會將使用者引導至同溫層，形成封閉的「回聲室效應」，讓立場對立更加激化。
更令人憂心的是，這些平臺極易受到外部操弄。加拿大康考迪亞大學最新發表在《IEEE Xplore》期刊的研究指出，駭客只需掌握少量關鍵帳號，就能透過AI技術最大化網路對立效應。研究團隊運用強化學習技術，精準鎖定最能引發爭議的入侵帳號。
「我們整合心理學界20年來發展的意見動態模型，」論文共同作者、電機工程系教授Rastko Selmic解釋，「創新之處在於將這些模型應用於大規模群體，並透過AI計算最佳化的機器人部署策略。」
研究主要作者Mohamed Zareer強調，這項研究旨在提升偵測機制，凸顯社群媒體的潛在風險。團隊分析約400萬個推特（現為X平臺）帳號，這些帳號都曾就疫苗議題表態。研究人員運用「雙重深度Q學習」技術，讓AI機器人在極少人為幹預下，就能在複雜的社群環境中執行任務。
實驗設計相當精簡卻極具影響力：AI機器人僅需掌握帳號持有者的當前立場與追蹤者數量，就能在由20個代理者組成的模擬網路中運作。研究結果證實，這種方法能有效強化立場對立，製造社會分歧。
這類實驗模擬了現實中的惡意威脅，如機器人大軍或協同造假行動。研究團隊期盼能促使政策制定者與平臺業者正視問題，建立更完善的防護機制，推動AI技術的透明化與倫理規範。
[end]
