AI打造軟體時代：信任與風險並存的未來

軟體已成為我們生活中不可或缺的一部分，幾乎每個領域都依賴它的運作。以汽車為例，光是其中的電腦系統就包含了數千萬行的程式碼。隨著社會數位化轉型的加速，未來對更多、更好軟體的需求只會持續增長。

然而，現實的困境是，全球的程式設計師數量遠遠不足以應付如此龐大的需求。這意味著，我們日常使用的軟體，越來越多是由人工智慧（AI）協助開發的。程式開發者對GitHub Copilot這類工具已不陌生，它就像是程式設計師專用的ChatGPT，透過智慧自動補全功能來提升開發效率。

但現在，我們正見證一場更為激進的革命：AI「代理人」即將取代人類程式設計師，執行多種型別的開發任務。這些代理人是一種利用AI來完成任務並達成特定目標的程式。雖然目前仍在人類的監督之下，但AI代理人已具備一定程度的自主學習與決策能力。

我們預測，在不久的將來，許多軟體應用程式將完全由AI代理人打造。所謂的「代理人系統」是由多個AI代理人組成的社群，每個代理人專精於解決特定型別的任務。透過這種系統，使用者只需用簡單的英文描述需求，就能生成一個完整的軟體應用程式。

這種技術帶來潛在的正面影響，例如讓沒有程式設計技能的使用者也能根據需求打造或調整軟體。然而，負面影響也不容忽視。AI代理人並非完美無缺，它們可能生成容易遭受攻擊、效率低下，或對特定群體帶有偏見的程式碼。舉例來說，若用於開發招聘軟體，代理人可能因訓練資料的偏見而傾向選擇男性候選人，而非女性。

為此，我們需要建立機制來最小化這些風險，這也符合歐盟AI法案等法規的要求。研究人員正積極測試作為代理人核心的大型語言模型（LLM），這些模型經過大量資料訓練，能夠預測並生成最佳回應。透過評估LLM在準確性、安全漏洞與偏見等方面的表現，開發者可以根據任務需求選擇最合適的LLM。

為了確保AI代理人理解並遵循我們的指令，我們提出從軟體藍圖（設計）著手的解決方案。就像非建築師也能大致理解房屋藍圖一樣，若我們讓軟體藍圖盡可能簡單易懂，即使沒有進階開發技能的使用者也能掌握其概念並進行修改。

從使用者的初始描述出發，AI代理人會提出詳細的解決方案藍圖，並以淺顯的英文解釋給使用者。使用者可以驗證或要求改進，最終確認後，軟體應用程式將自動從藍圖生成。這種開發方式被稱為低程式碼或無程式碼開發，因為大部分（甚至全部）的程式碼是由電腦從藍圖生成，而非由人類從頭編寫。

正如科幻作家亞瑟·克拉克所言：「任何足夠先進的技術都與魔法無異。」很快，這種「魔法」將成為我們日常生活的一部分。但我們必須謹慎，確保這股力量不會變成破壞而非改善的「巫術」。我們與許多研究人員正致力於為AI代理人設定防護機制，讓每位公民都能成為有能力開發者，自主打造理想的軟體解決方案。