AI晶片革命！新型晶片讓大型語言模型耗電量砍半

美國奧勒岡州立大學工程學院的研究團隊最近開發出一款革命性晶片，能有效解決像Gemini和GPT-4這類大型語言模型AI應用耗電驚人的問題。這項突破性技術已在波士頓舉行的IEEE客製化積體電路會議上發表。

主導這項研究的電機工程系副教授Tejasvi Anand與博士生Ramin Javadi表示：「我們設計並製造的新型晶片，相較傳統設計可節省50%的能源消耗。」Anand教授同時也是混合訊號電路與系統實驗室的負責人。

Anand教授指出關鍵問題：「現今資料傳輸速率需求不斷攀升，但單一位元的傳輸能耗卻未能同步降低，這正是資料中心用電量居高不下的主因。」

Javadi進一步解釋：「大型語言模型需要在資料中心透過銅纜進行海量資料傳輸，這過程耗費大量電力。我們的解決方案是開發更高效的線路通訊晶片。」這款創新晶片運用AI原理，大幅降低訊號處理所需的電力。

研究團隊採用獨特方法解決高速傳輸時的資料失真問題。傳統線路通訊系統多使用等化器來修正錯誤，但這種做法相當耗電。Javadi說明：「我們直接在晶片上運用AI技術，透過訓練晶片內建的分類器來智慧識別並修正錯誤，實現更聰明、更節能的資料恢復方式。」

目前Javadi和Anand教授正著手開發下一代晶片，預計將進一步提升能源效率，為AI運算帶來更多突破性進展。

[end]