
Nvidia的新工具讓在電腦上運行AI變得輕而易舉
根據Nvidia在周二的博客文章中所述,該公司推出了一套新的AI工具,讓擁有RTX硬件的用戶能夠更輕鬆地在本地運行AI模型。這些工具被稱為Nvidia NIM微服務,適用於包括最近推出的50系列在內的RTX顯示卡,用戶可以在自己的設備上輕鬆安裝AI應用,以協助文本、圖像和代碼生成。其他用途還包括語音處理、PDF提取和計算機視覺。其目標是讓使用過程變得盡可能簡單。如果你擁有一台搭載RTX的電腦,只需下載所需的NIM應用並運行即可。例如,如果你想轉錄一堂課的講座,只需下載parakeet;如果你錄製的歌曲的聲音不清晰,只需下載studiovoice。這些本地AI模型還應該能在即將推出的Nvidia DGX專用AI電腦上運行。
在本地運行模型的好處在於從長遠來看可以節省開支。使用像OpenAI的ChatGPT或Google的Gemini等服務時,用戶在生成內容的數量上有一定限制,超過後需要付費。對於一般任務,大多數人不會達到這些限制,但在某些特定情況下,成本可能會累積。相比之下,本地模型對生成內容的類型限制較少,數據也保留在設備上,這對於處理敏感資料時非常方便。
Nvidia在這方面並未立即回應評論請求。
Nvidia在AI領域中是一家極為重要的公司。其芯片助力了新AI模型的開發,包括來自OpenAI、Google和DeepSeek的模型。由於每家主要科技公司都依賴Nvidia的硬件來推進AI的進步,這使得Nvidia的市值達到了天文數字。去年,Nvidia的市值達到3兆美元,現在回落至更“謙虛”的2.8兆美元。
然而,通過數千英里外的伺服器運行所有AI服務也是一項艱鉅的任務。這就是為什麼許多公司開始在本地設備上實施小型AI功能的原因。例如,iPhone 16和Google Pixel 9可以在不依賴雲端GPU集群的情況下生成圖像、編輯照片或總結文本。這使得過程更快、更高效。PlayStation 5 Pro也利用AI來提升圖像質量,並且據傳Nintendo Switch 2也會這樣做。Nvidia、AMD和Qualcomm等芯片製造商都在努力製造能夠處理更多AI任務的硬件,以持續吸引大型科技公司的投資。
雖然與NIM無關,但Nvidia還為遊戲玩家提供了一些新消息。Nvidia應用中推出了一款名為Project G-Assist的實驗性AI助手。G-Assist可以幫助用戶優化其應用和遊戲,並提供實時診斷和性能優化建議。因此,如果你想要在《刺客教條:暗影》中榨取每一幀畫面,G-Assist將會提供幫助。此外,G-Assist還有一個Google Gemini插件,這意味著如果你對在《Apex Legends》中使用何種角色或者玩《暗黑破壞神4》的技巧有疑問,可以立即獲得答案。
—
這篇文章清楚地展示了Nvidia如何透過其新推出的NIM微服務來簡化本地AI模型的使用,這不僅有助於降低用戶的成本,還能提高數據的安全性。隨著AI技術的快速發展,越來越多的公司選擇將AI功能本地化,這不僅提升了用戶體驗,也促進了硬件技術的進步。值得注意的是,這種趨勢可能會引發對數據隱私和安全性的更多關注,因為用戶將更多敏感信息存儲在本地設備中。這為未來的科技發展提出了新的挑戰和機遇,我們需要持續關注這一領域的變化及其對社會的影響。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。