Mac機本地運行DeepSeek攻略:私隱、速度、慳錢全攻略!

Ai

🎨 Nano Banana Pro 圖像生成器|打幾句說話就出圖

想畫人像、產品圖、插畫?SSFuture 圖像生成器支援
Flux Gemini Nano Banana Pro 改圖 / 合成
打廣東話都得,仲可以沿用上一張圖繼續微調。

🆓 Flux 模型即玩,不用登入
🤖 登入後解鎖 Gemini 改圖
📷 支援上載參考圖再生成
⚡ 每天免費額度任你玩

✨ 即刻玩 AI 畫圖

Generate an ultra-realistic, highly ultra-detailed, 8k resolution with 1080x1080 pixel portrait of me using the uploaded image for reference (preserved the likeness and the original face for reference) of a striking, ultra-sharp black and white studio portrait of a young woman with a powerful, direct gaze. She is seated gracefully on a seamless bright white floor, her legs crossed in a stylized, almost sculptural pose, with one knee raised and her hands clasped firmly over it. Her posture exudes a blend of strength and quiet contemplation. Her long, sleek, dark brown hair is meticulously parted down the middle, falling evenly over her shoulders, framing her face with elegant precision. Her makeup is refined and impactful, featuring intensely defined eyes with dark eyeliner, subtle shading, and prominent, well-groomed eyebrows. Her lips are natural, complementing her smooth, matte complexion. She is dressed in a simple, form-fitting black long-sleeved bodysuit, which accentuates the natural contours of her body without distraction. There are no accessories, maintaining a pure and minimalist aesthetic. *** The lighting is soft, even, and highly diffused, creating subtle, sculptural shadows that define her form and facial features without any harshness. The seamless pure white background provides an expansive, ethereal setting, isolating the subject and enhancing the monochromatic palette. The composition is a perfectly balanced medium full shot, centering the model and emphasizing the strong, symmetrical lines of her pose. The image is rendered with exquisite detail and clarity, from the individual strands of her hair to the subtle textures of her skin. The overall style is minimalist fine art portraiture, blending classic elegance with a contemporary edge, focusing on form, emotional depth, and timeless beauty.
add lotso and hamm
Drone photo near Christ the Redeemer in Rio. Include a close-up of the tourist using {reference_image} as the face, standing at the viewpoint. He wears a casual t-shirt, shorts, and sneakers. Drone hovers slightly in front and above him, capturing both his face clearly and the giant statue towering behind.

如何在你的Mac上本地運行DeepSeek及其他大型語言模型
作者:Rajesh Pandey • 2025年4月10日 上午6:00

如何運行DeepSeek或Meta的Llama在你的Mac上!
圖像來源:Rajesh Pandey/CultOfMac
ChatGPT、Google的Gemini和Apple Intelligence等大型語言模型(LLM)雖然功能強大,但它們都有一個主要缺點——需要持續接入互聯網。如果你重視隱私並希望獲得更好的性能,則在你的Mac上本地運行像DeepSeek、Google的Gemma或Meta的Llama這樣的LLM是一個不錯的選擇。

覺得這聽起來很複雜?其實比你想像中簡單。只要有合適的工具,你就能輕鬆地在Mac上本地運行DeepSeek或其他流行的LLM,幾乎不費吹灰之力。

為什麼要在你的Mac上本地運行DeepSeek或其他LLM?
隱私和安全是本地運行LLM的最大理由。這樣可以確保模型不會與外部伺服器共享數據,讓你在處理私密和敏感信息時擁有完全的控制權。

同時,本地運行AI模型更快且更便宜,避免了重複的API費用。此外,通過本地運行LLM,你可以使用專有數據進行訓練,調整其反應以更好地滿足你的需求。如果你打算將DeepSeek或其他LLM用於工作,這種方法長遠來看也會節省寶貴的時間。

如果你是開發者,可能希望本地運行LLM並進行一些實驗,以了解它們如何幫助你的工作。只要具備必要的技術知識,你還可以利用可用的AI模型為你的工作構建代理工具。

如何在你的Mac上本地運行DeepSeek和Llama等LLM
你可能會認為本地運行LLM需要高端的Mac和大量RAM,但事實並非如此。如果你擁有一台至少有16GB系統內存的Apple Silicon Mac,就可以本地運行LLM。即使是8GB的內存也可以運行,但系統性能會受到影響。

需要注意的是,LLM有多種變體和不同的參數。參數越高,LLM的複雜性和智能程度就越高,這也意味著AI模型需要更多的空間和資源來運行。例如,Meta的Llama有多種變體,其中一個擁有700億參數。但要運行這個模型,你必須使用一台擁有超過40GB可用存儲和超過48GB系統內存的Mac。

理想情況下,嘗試在擁有16GB系統內存的Mac上運行一個7億或8億參數的LLM。這應該能夠順利運行。如果你能使用更強大的Mac,則可以選擇任何適合你需求的模型。

根據你的使用情況,下載合適的模型非常重要。有些LLM在推理方面表現良好,而有些則在解決編碼問題時更好。有些LLM適合STEM對話和任務,而另一些則在多輪對話和長上下文連貫性方面表現更佳。

LM Studio是本地運行LLM的最簡單方法
LM Studio使在你的Mac上運行LLM變得簡單。
截圖:Rajesh Pandey/CultOfMac
如果你想在Mac上本地運行像DeepSeek和Llama這樣的LLM,LM Studio是最簡單的入門方式。這個軟件對個人使用是免費的。

以下是開始的步驟:

1. 在你的Mac上下載並安裝LM Studio,然後啟動應用程序。
2. 如果你的主要目標是本地運行DeepSeek,請完成入門過程並下載模型。否則,你可以跳過這一步。
3. 在LM Studio的頂部,你會看到一個搜索框,要求你選擇要加載的模型。點擊它,搜索你想下載和安裝的LLM。
4. 或者,通過點擊LM Studio右下角的設置圖標,瀏覽可用的LLM列表。在打開的窗口中,從左側選擇模型搜索標籤。你也可以使用Command + Shift + M鍵盤快捷鍵直接打開這個窗口。
5. 你會在這裡看到所有可下載的AI模型。右側的窗口會提供對特定模型的簡要描述及其令牌限制。
6. 選擇DeepSeek、Meta的Llama、Qwen、phi-4或其他可用的LLM。然後點擊右下角的下載按鈕。
注意:雖然你可以下載多個LLM,但LM Studio一次只能加載和運行一個模型。

使用你下載的LLM
在加載之前,自定義LLM的上下文長度和資源使用。
截圖:Rajesh Pandey/CultOfMac
在LLM下載完成後,關閉LM Studio的任務控制窗口。然後,點擊頂部搜索框,加載最近下載的LLM。在加載AI模型時,LM Studio會讓你配置其上下文長度、CPU線程池大小等關鍵設置。如果你不確定這些設置的作用,可以將其保持為默認值。

現在你可以隨意提問或使用LLM了。

LM Studio允許你與LLM進行多個獨立的聊天。要開始新的對話,請點擊工具欄頂部的+圖標。這是一個方便的選項,適合你同時使用LLM來處理多個項目。你還可以創建文件夾並將聊天進行分類。

如何避免佔用你Mac的所有資源
LM Studio可以確保AI模型不會耗盡你Mac的系統資源。
截圖:Rajesh Pandey/CultOfMac
如果你擔心AI模型會佔用你Mac的所有系統資源,使用Command + ,鍵盤快捷鍵打開LM Studio的設置。然後,確保模型加載保護設置為嚴格。這樣可以確保LLM不會超載你的Mac。

你可以在底部工具欄查看LM Studio和你下載的LLM的資源使用情況。如果CPU或內存使用過高,可以考慮切換到參數較低的AI模型,以減少資源使用。

在過去的幾周裡,我一直在使用LM Studio在我的Mac上本地運行Llama和DeepSeek LLMs,對於擁有16GB RAM的M1 Mac mini的性能印象深刻。它輕鬆應對這些工作負載。是的,LLM在我的M1 Pro MacBook Pro上運行得更順暢。對於配備更高系統內存的M2、M3或M4的Mac,性能應該會更好。

不過,即使你擁有一台較舊的Apple Silicon Mac,也不要認為它無法順利運行LLM。你會對它的性能感到驚訝。

確保刪除你Mac上不需要的LLM以釋放空間。否則,如果你下載幾個來試用,很快就會用完空間。

在當前數位化的時代,許多人對於數據隱私和安全的關注日益增加。這篇文章提供了一個非常實用的指導,幫助用戶在本地運行大型語言模型,這不僅能保護個人隱私,還能提升性能和效率。特別是對於開發者來說,能夠在本地環境中自由試驗和調整模型,無疑將提升他們的工作效率。

此外,LM Studio作為一個免費的工具,降低了入門的門檻,讓更多用戶能夠體驗到LLM的好處。這不僅是對於技術愛好者的一次機會,也是對企業和個人用戶的一次重要福利。隨著科技的進步,未來我們可能會看到更多類似的工具出現,進一步促進了AI技術的普及和應用。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。

🎬 YouTube Premium 家庭 Plan成員一位 只需 HK$148/年

不用提供密碼、不用VPN、無需轉區
直接升級你的香港帳號 ➜ 即享 YouTube + YouTube Music 無廣告播放

立即升級 🔗