Nvidia推3千蚊個人AI超算 Digits,桌面級勁到爆!

Ai

Nvidia 宣布推出 $3,000 個人 AI 超級電腦 Digits

如果你在尋找自己的個人 AI 超級電腦,Nvidia 已經為你準備好了。

在 CES 展會上,這家芯片製造商宣布將於 5 月推出名為 Project Digits 的個人 AI 超級電腦。Project Digits 的核心是全新的 GB10 Grace Blackwell 超級芯片,具備運行複雜 AI 模型的足夠處理能力,同時其緊湊的設計使其能夠放在桌面上,並使用標準電源插座供電(這種處理能力過去需要更大且耗電的系統)。這款桌面大小的系統能夠處理最多 2000 億個參數的 AI 模型,起價為 $3,000。該產品的外觀與 Mac Mini 類似。

Nvidia CEO 黃仁勳在新聞稿中表示:“AI 將在每個行業的每個應用中成為主流。透過 Project Digits,Grace Blackwell 超級芯片將惠及數以百萬計的開發者。將 AI 超級電腦放置在每位數據科學家、AI 研究員和學生的桌面上,使他們能夠參與並塑造 AI 時代。”

每台 Project Digits 系統都配備 128GB 的統一一致性內存(相比之下,一台好的筆記本電腦可能只有 16GB 或 32GB 的 RAM)和高達 4TB 的 NVMe 存儲。對於更高要求的應用,兩台 Project Digits 系統可以連接在一起,以處理最多 4050 億個參數的模型(Meta 的最佳模型 Llama 3.1 擁有 4050 億個參數)。

GB10 芯片提供高達 1 petaflop 的 AI 性能(這意味著它每秒可以執行 1 千兆次的 AI 計算),在 FP4 精度下(這有助於通過近似加快計算速度),該系統配備了 Nvidia 最新一代的 CUDA 核心和第五代 Tensor 核心,通過 NVLink-C2C 連接到包含 20 個高效能 Arm 核心的 Grace CPU。以 Arm 為基礎的芯片設計公司 MediaTek 參與了 GB10 的開發,旨在優化其功耗和性能。

用戶還將獲得 Nvidia 的 AI 軟件庫的訪問權,包括開發工具包、編排工具和可通過 Nvidia NGC 目錄獲得的預訓練模型。該系統運行在基於 Linux 的 Nvidia DGX OS 上,並支持如 PyTorch、Python 和 Jupyter notebooks 等流行框架。開發者可以使用 Nvidia NeMo 框架微調模型,並利用 Nvidia RAPIDS 庫加速數據科學工作流程。

用戶可以在 Project Digits 上本地開發和測試他們的 AI 模型,然後使用相同的 Grace Blackwell 架構和 Nvidia AI Enterprise 軟件平台將其部署到雲服務或數據中心基礎設施。

Nvidia 還推出了一系列類似的設備,旨在提高可及性——在 12 月,它推出了一款 $249 的 Jetson 電腦,專為 AI 應用而設,面向愛好者和初創企業,名為 Jetson Orin Nano Super(可處理最多 80 億個參數)。

這項新技術的推出不僅是對硬件性能的一次重大提升,更是對 AI 開發者社群的一次重要激勵。Nvidia 透過 Project Digits,希望能使更多的開發者進入 AI 的世界,並在各自的領域中創造出能夠影響未來的應用。這不僅是技術的進步,也是對教育和創新的投資。隨著 AI 技術的普及,未來將會出現更多創新的應用,這也將推動整個行業的發展。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。

Chat Icon