「新AI模型:效能高、耗能低的智能革命」

Ai

英國AI初創Literal Labs:廉價系統板上實現性能和能耗突破

英國的AI初創公司Literal Labs正致力於透過其Tseltin Machine令基於GPU的訓練過時。這種機器學習模型利用邏輯學習來分類數據。

Tseltin Machine通過Tsetlin自動機運作,建立輸入數據特徵與分類規則之間的邏輯連接。根據決策的正確與否,機器會使用獎勵或懲罰來調整這些連接。

這種方法由蘇聯數學家Mikhail Tsetlin於1960年代開發,與神經網絡不同,它專注於學習自動機,而非模擬生物神經元,以完成分類和模式識別等任務。

能源高效設計

Literal Labs在Arm的支持下,開發了一個使用Tseltin Machines的模型,雖然僅有7.29KB的緊湊尺寸,卻能在邊緣AI和物聯網部署中大幅提高異常檢測任務的準確性。

Literal Labs使用MLPerf Inference: Tiny套件對該模型進行基準測試,並在一塊價值30美元的NUCLEO-H7A3ZI-Q開發板上測試。該開發板搭載280MHz ARM Cortex-M7處理器,且不包含AI加速器。結果顯示,Literal Labs的模型推理速度比傳統神經網絡快54倍,同時能耗減少52倍。

與業界最佳模型相比,Literal Labs的模型展示了延遲改善和能源高效設計,適合用於低功耗設備如傳感器。其性能使其在工業物聯網、預測性維護和健康診斷等需要快速準確檢測異常的應用中具有可行性。

這種緊湊且低能耗的模型使用,能幫助在多個行業中擴展AI部署,降低成本並提高AI技術的可及性。

Literal Labs表示:「較小的模型在這類部署中特別有利,因為它們需要較少的內存和處理能力,可以在更經濟、規格較低的硬件上運行。這不僅降低了成本,還擴大了支援先進AI功能的設備範圍,使得在資源有限的環境中大規模部署AI解決方案成為可能。」

編者評論

Literal Labs的突破展示了如何在有限的硬件資源上實現高效能AI模型,這對於推動AI技術的普及意義重大。這種創新的方法不僅改變了我們對AI硬件需求的認知,還為資源受限地區的技術應用提供了新的可能性。未來,隨著這類技術的進一步發展,更多行業將能夠以低成本獲得高效的AI解決方案,這將對全球技術生態系統產生深遠影響。Literal Labs的努力值得業界的高度關注和期待。

以上文章由特價GPT API KEY所翻譯

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *