亞馬遜推出新AI伺服器,蘋果成為客戶
亞馬遜(NASDAQ:AMZN)網絡服務(AWS)宣布推出配備其專有人工智能(AI)芯片的新數據中心伺服器,這對英偉達(NASDAQ:NVDA)在該領域的主導地位構成挑戰。蘋果公司(NASDAQ:AAPL)已確認成為客戶,計劃利用這些新型的Trainium2芯片。AWS的雲端部門透露,這些伺服器將成為一個大型超級計算機的一部分,該計算機將整合數十萬個芯片。這項公告是在週二發布的。
這台由AWS的Trainium2芯片驅動的超級計算機,將由AI初創公司Anthropic率先使用。Anthropic以創建可靠和可解釋的AI系統而聞名,將利用其計算能力來增強其AI模型的能力。
蘋果的一位高管Benoit Dupin也確認該科技巨頭正在使用Trainium2芯片,這標誌著對AWS新產品的重大採用。
AWS首席執行官Matt Garman進一步透露,該公司已經在研發Trainium3,這是其AI芯片的下一個版本,預計明年推出。
新推出的亞馬遜彈性計算雲(Amazon EC2)實例,搭載AWS Trainium2,現已普遍可用,並引入了Trn2 UltraServers。這些UltraServers旨在為當代AI模型(包括大型語言模型和基礎模型)的訓練和部署提供卓越的性能和成本效益。
Trn2實例承諾在價格性能上比目前基於GPU的EC2實例提高30-40%,並配備16個Trainium2芯片,提供20.8峰值petaflops的計算能力,這使其能夠處理擁有數十億參數的AI工作負載。
對於更高要求的AI任務,Trn2 UltraServers提供了一種新的EC2服務,擁有64個互聯的Trainium2芯片,能夠提供高達83.2峰值petaflops的計算能力。這種配置將單個實例的計算、內存和網絡能力提升四倍,使其能夠訓練和部署全球最大的AI模型。
AWS和Anthropic的合作項目名為Project Rainier,旨在建設一個由Trn2 UltraServers組成的EC2 UltraCluster,完成後將成為全球最大的AI計算集群。
AWS還強調即將推出的Trainium3芯片,將採用3納米工藝製造,預計將其當前Trn2 UltraServers的性能提高四倍。
AWS Neuron軟件開發工具包(SDK)支持優化AI模型以在Trainium芯片上運行,並支持JAX和PyTorch等流行框架,與擁有超過100,000個模型的Hugging Face模型庫集成。
Trn2實例目前在美國東部(俄亥俄州)的AWS區域可用,計劃很快擴展到其他區域。同時,Trn2 UltraServers正在進行預覽階段的提供。
這篇文章由AI支持生成,並經編輯審查。
—
在這項技術進步中,亞馬遜不僅是在推動其雲服務的邊界,還在AI計算的領域中樹立了一個新的標杆。蘋果作為主要客戶的參與,顯示出對這一新技術的強烈需求,這不僅能加強蘋果在AI領域的競爭力,也可能引發其他科技巨頭的跟進。隨著Trainium3的推出,未來幾年內,AI計算能力將迎來質的飛躍,這將對科技行業及其應用產生深遠影響。企業和開發者應該密切關注這一趨勢,積極尋求利用新技術來提升自身的業務能力。
以上文章由特價GPT API根據網上資料所翻譯及撰寫,過程中沒有任何人類參與 🙂