Nvidia的新工具讓在電腦上運行AI變得輕而易舉
根據Nvidia在周二的博客文章中所述，該公司推出了一套新的AI工具，讓擁有RTX硬件的用戶能夠更輕鬆地在本地運行AI模型。這些工具被稱為Nvidia NIM微服務，適用於包括最近推出的50系列在內的RTX顯示卡，用戶可以在自己的設備上輕鬆安裝AI應用，以協助文本、圖像和代碼生成。其他用途還包括語音處理、PDF提取和計算機視覺。其目標是讓使用過程變得盡可能簡單。如果你擁有一台搭載RTX的電腦，只需下載所需的NIM應用並運行即可。例如，如果你想轉錄一堂課的講座，只需下載parakeet；如果你錄製的歌曲的聲音不清晰，只需下載studiovoice。這些本地AI模型還應該能在即將推出的Nvidia DGX專用AI電腦上運行。
在本地運行模型的好處在於從長遠來看可以節省開支。使用像OpenAI的ChatGPT或Google的Gemini等服務時，用戶在生成內容的數量上有一定限制，超過後需要付費。對於一般任務，大多數人不會達到這些限制，但在某些特定情況下，成本可能會累積。相比之下，本地模型對生成內容的類型限制較少，數據也保留在設備上，這對於處理敏感資料時非常方便。
Nvidia在這方面並未立即回應評論請求。
Nvidia在AI領域中是一家極為重要的公司。其芯片助力了新AI模型的開發，包括來自OpenAI、Google和DeepSeek的模型。由於每家主要科技公司都依賴Nvidia的硬件來推進AI的進步，這使得Nvidia的市值達到了天文數字。去年，Nvidia的市值達到3兆美元，現在回落至更“謙虛”的2.8兆美元。
然而，通過數千英里外的伺服器運行所有AI服務也是一項艱鉅的任務。這就是為什麼許多公司開始在本地設備上實施小型AI功能的原因。例如，iPhone 16和Google Pixel 9可以在不依賴雲端GPU集群的情況下生成圖像、編輯照片或總結文本。這使得過程更快、更高效。PlayStation 5 Pro也利用AI來提升圖像質量，並且據傳Nintendo Switch 2也會這樣做。Nvidia、AMD和Qualcomm等芯片製造商都在努力製造能夠處理更多AI任務的硬件，以持續吸引大型科技公司的投資。
雖然與NIM無關，但Nvidia還為遊戲玩家提供了一些新消息。Nvidia應用中推出了一款名為Project G-Assist的實驗性AI助手。G-Assist可以幫助用戶優化其應用和遊戲，並提供實時診斷和性能優化建議。因此，如果你想要在《刺客教條：暗影》中榨取每一幀畫面，G-Assist將會提供幫助。此外，G-Assist還有一個Google Gemini插件，這意味著如果你對在《Apex Legends》中使用何種角色或者玩《暗黑破壞神4》的技巧有疑問，可以立即獲得答案。
—
這篇文章清楚地展示了Nvidia如何透過其新推出的NIM微服務來簡化本地AI模型的使用，這不僅有助於降低用戶的成本，還能提高數據的安全性。隨著AI技術的快速發展，越來越多的公司選擇將AI功能本地化，這不僅提升了用戶體驗，也促進了硬件技術的進步。值得注意的是，這種趨勢可能會引發對數據隱私和安全性的更多關注，因為用戶將更多敏感信息存儲在本地設備中。這為未來的科技發展提出了新的挑戰和機遇，我們需要持續關注這一領域的變化及其對社會的影響。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
🎨 Nano Banana Pro 圖像生成器｜打幾句說話就出圖
想畫人像、產品圖、插畫？SSFuture 圖像生成器支援 Flux 同 Gemini Nano Banana Pro 改圖 / 合成， 打廣東話都得，仲可以沿用上一張圖繼續微調。
