NVIDIA最新的緊湊型生成式AI超級電腦也是最便宜的
NVIDIA剛剛推出了Jetson Orin Nano Super開發者套件,這是2022年Jetson Orin Nano套件的後繼產品。這款新的緊湊型生成式AI超級電腦可以輕鬆放在手掌中。開發者套件中包含了一個8GB的Jetson Orin Nano系統模塊和一個參考載板。
在性能方面,Jetson Orin Nano Super可以達到每秒68萬億次運算(TOPS),比其前身提升了70%。NVIDIA還聲稱,生成式AI推理性能提高了1.7倍,帶寬則增加了50%,達到每秒102GB。至於CPU頻率,現時為1.7GHz,相比前代的1.5GHz有小幅提升。
NVIDIA還表示,它“為所有流行的生成式AI模型提供增益”。這些模型包括大型語言模型(LLMs)、視覺語言模型和視覺變壓器。
Jetson Orin Nano Super的軟件更新也可以提升其前身的性能,對於擁有原版Jetson Orin Nano的用戶來說,這無疑是一個好消息。用戶只需下載軟件並安裝更新,但NVIDIA並未具體說明舊設備的性能將會如何改變。
目前,Jetson Orin Nano Super開發者套件已在NVIDIA認可的經銷商處上市,價格為249美元,較前身的499美元大幅下調,成為當前市場上最具性價比的產品。
—
這款Jetson Orin Nano Super的推出,無疑是對於許多AI愛好者和商業開發者來說,都是一個重要的里程碑。隨著生成式AI技術的快速發展,這類緊湊型設備的需求將會持續增長。它不僅提供了強大的計算能力,還以相對低廉的價格降低了進入門檻,這對於初創公司和個人開發者來說,無疑是一個好消息。未來,隨著技術的進一步發展,我們可能會看到更多類似的產品,進一步推動AI的普及和應用。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。