AI微型化革命：4KB記憶體就能跑的人工智慧，讓物聯網裝置更聰明

人工智慧一向被認為需要強大的運算能力和耗費大量能源，這對物聯網(IoT)裝置來說是個巨大挑戰。畢竟這些嵌入式感測器通常只有有限的運算資源、少量記憶體和小型電池。但在E-MINDS計畫中，來自Pro²Future研究中心、格拉茨科技大學(TU Graz)和聖加侖大學的研究團隊，成功找到了讓AI能在微型裝置上本地高效運作的方法，完全不需要依賴外部運算資源。

舉例來說，研究團隊已經能在僅有4KB記憶體的超寬頻(UWB)定位裝置上執行專業化AI模型，即時計算定位資料中的幹擾來源。Pro²Future計畫主持人、同時也是TU Graz技術資訊研究所科學家的Michael Krisper解釋：「這些微型裝置當然無法執行大型語言模型，而是執行非常特定任務的小型模型，例如距離估算。但要讓這些模型足夠精簡，需要一些特殊技巧，這正是我們在計畫中重點研究的部分。」

研究團隊開發出一套模組化系統，由多種方法組合而成。其中一個關鍵技術是模型分割與協調管理，這意味著不再使用單一通用模型，而是採用多個小型專用模型。以E-MINDS研究的定位技術為例，當遇到金屬牆面幹擾時會啟動特定模型，遇到人員移動幹擾或貨架幹擾時則會使用其他對應模型。

晶片上的協調管理模型能在約100毫秒內識別當前幹擾型別，並從伺服器載入合適的AI模型來計算幹擾因素，這樣的速度足以滿足倉儲等工業應用的需求。另一項創新技術是「子空間可配置網路(SCNs)」，這種模型能根據輸入資料自動調整，而不需要為每種輸入變體準備獨立模型。在影象識別任務(如物件分類)中，SCNs展現出極高的效率。

研究顯示，在測試影象變更或水果分類任務時，即便使用更小型、更節能的模型，運算速度仍可比依賴外部資源快上7.8倍。團隊還透過折疊模型的數學結構進一步縮小體積，同時保持足夠的準確度。量化技術和剪枝技術也是關鍵突破：量化技術將模型使用的浮點數簡化為整數，在可接受的準確度損失下大幅節省能源和運算時間；剪枝技術則會審視已完成模型，移除對核心任務不重要的部分。

除了成功的微型化成果，團隊也研究如何更有效率地部署AI模型，加快它們在微型裝置上的移植速度。雖然E-MINDS計畫主要聚焦於無線超寬頻定位技術，用以在工業自動化中精確追蹤無人機、自動化運輸車或機器人的位置，但研究人員認為這項技術還有許多潛在應用場景。

例如，可作為無鑰匙車門開啟系統的額外安全措施，準確判斷鑰匙是否真的在車輛附近，而非只是無線電訊號被複製。高效能AI模型也能讓智慧家庭遙控器的電池壽命大幅延長，或是協助圖書館追蹤書籍位置。Krisper總結道：「透過E-MINDS計畫，我們運用新的專業知識和方法為未來產品和應用奠定了基礎。這個跨機構團隊完美互補，各自貢獻關鍵技術。」

[end]