邊緣AI時代來臨 手機PC智能大革新

花旗研究揭示首批邊緣AI架構，開啟「個人AI伺服器」時代

花旗研究（Citi Research）最新發佈了首批邊緣AI架構，分析師形容這標誌著「個人AI伺服器」時代的開始。該行指出，隨著AI模型效能和半導體設計的突破，便攜式、設備端的AI系統將成為智能手機、個人電腦及其他消費電子裝置的核心基石。

花旗的論點核心在於三大架構轉變，目的是將AI運算從集中式伺服器推送至邊緣裝置：

第一種方案是在傳統馮·諾伊曼（Von Neumann）系統中，透過PCIe接口加入AI模組，提供一個過渡性的解決方案，無需改動現有裝置架構。

第二種則是將記憶體，特別是LPDDR6，靠近神經網絡或張量處理單元，提升帶寬和效率。

第三種也是最先進的做法，是將LPW或LLW DRAM直接置於AI處理器旁邊，模仿Nvidia的伺服器級設計，以高成本換取極致效能。

這種演變得益於模型壓縮技術的進步。花旗特別提及DeepSeek運用蒸餾法、強化學習及混合專家架構，大幅減少模型大小和硬件需求，同時保持性能不受損害。這些效率提升使得直接在邊緣裝置運行AI成為可能，從而推動對設備端AI系統的需求加速增長。

硬件創新同樣是轉型關鍵。花旗預期台積電開發的SoIC（System on Integrated Chip）封裝技術會被更廣泛採用，以實現高密度異構整合。在記憶體方面，LPDDR6預計將於2026年進入旗艦裝置市場，而被形容為適合行動裝置的HBM替代品LPW DRAM則會在2028年普及。利用混合鍵合技術的晶片間整合也將扮演重要角色，儘管成本較高，但能帶來更佳的連接性和效能。

邊緣AI推動AI專用DRAM需求激增

邊緣AI的興起將刺激AI專用DRAM需求大幅提升。花旗預測，AI DRAM使用量將從2024年的350億顆（1Gb等效）增長至2028年的3310億顆，年複合成長率達75%。其中，AI智能手機市場預計年增198%，AI個人電腦增104%，機械人領域更高達239%。

花旗亦點名多家將受惠企業，包括記憶體巨頭SK海力士、三星、Micron；代工廠台積電；晶片製造商Nvidia與聯發科；以及先進封裝及測試設備供應商，如Lam Research、Besi、ASMPT、KLA和Advantest。

分析師強調，這標誌著計算架構正從集中式AI基礎設施，轉向分散式、個人化的設備端AI。隨著軟件和半導體技術的同步進步，邊緣AI將成為下一代資訊科技裝置的標誌性特色。

編輯觀點：邊緣AI技術革新與市場潛力的深層啟示

花旗這份報告揭示的邊緣AI架構轉型，不僅是技術層面的演進，更象徵著AI應用從「雲端至端」的根本變革。過去AI運算依賴龐大數據中心，受限於網絡延遲和隱私問題；而隨著模型壓縮及硬件整合技術提升，AI將真正「落地」到用戶的手機、電腦甚至機械人，實現即時、私密且高效的智能體驗。

這種趨勢將催生更多定制化、個性化的AI應用，從智能助理、健康監測到自動駕駛，無需頻繁依賴遠端伺服器，提升用戶體驗和安全保障。硬件方面，SoIC封裝和高效記憶體的推廣，顯示產業鏈各環節正加速協同，打破性能與功耗的瓶頸。

然而，成本仍是邊緣AI普及的挑戰，尤其是高階DRAM和先進封裝技術。市場競爭將促使廠商持續尋求性價比平衡，並可能催生新型態的硬件創新與商業模式，如租賃或AI硬件即服務。

從投資角度看，花旗點名的受惠企業涵蓋半導體、封裝、記憶體乃至AI晶片設計，反映出邊緣AI生態系統的多元與複雜。投資者應關注這些企業如何在技術領先與市場需求間找到突破口，尤其是在中美科技競爭和供應鏈重塑的大背景下。

總括而言，邊緣AI不僅是技術升級，更是智能時代的基石轉折。未來5年，隨著硬件與軟件的協同演進，個人AI伺服器或將成為我們日常生活不可或缺的一部分，改寫人機互動與數字經濟的格局。

以上文章由特價GPT API KEY所翻譯及撰寫。