Zoom創新AI訓練法：Chain of Draft大幅節省資源

Zoom Communications的一群AI工程師最近開發出一種全新的AI系統訓練方法，這種方法相較於目前普遍使用的標準方法，能夠大幅減少資源的消耗。該團隊已將研究成果發表在arXiv預印本伺服器上。

這項新方法被命名為「Chain of Draft」（CoD），是對現行「Chain of Thought」（CoT）方法的一種更新。CoT採用逐步解決問題的方式，與人類解決問題的過程有許多相似之處。然而，研究團隊發現，CoT在解決問題時往往會產生過多的步驟，並找到了一種減少這些步驟的方法。

人類在解決問題時，通常不會考慮每一個步驟，特別是當他們在寫下這些步驟時，因為有些步驟被視為基本知識。相反，他們會跳過或合併一些步驟，最終形成一個包含關鍵步驟的清單。研究人員認為，這就是CoD的核心所在。

在實踐中，研究人員透過限制提示引擎最多隻能使用五個字來實現這一點。這種限制迫使引擎更加簡潔明瞭，並減少了描述如何解決問題所需的步驟數量。

為了驗證他們的想法，研究人員修改了測試AI模型（如Claude 3.5 Sonnet），強制它們使用CoD而不是CoT。結果發現，解決問題所需的token數量大幅減少。例如，在一系列與體育相關的問題中，系統使用的token從189.4減少到僅14.3，而準確率則從93.2%提升到97.35%。這種方法使得大型語言模型（LLMs）能夠用更少的字數提供答案，在某些情況下，僅使用傳統CoT模型所需字數的7.6%，同時還提高了準確性。

在許多應用中，如數學、程式設計或其他邏輯問題，使用CoD而非CoT可以大幅減少計算資源的使用，這意味著處理時間和相關成本都會降低。該團隊聲稱，使用基於CoT的AI應用的組織可以輕鬆轉換到CoD。

相關的程式碼和資料已釋出在GitHub上，供有興趣的研究人員和開發者參考。