Mac 用家必學:輕鬆安裝本地 LLM,保護私隱!

Ai

明天屬於今天擁抱它的人

如何在MacOS上安裝LLM(大型語言模型)及其原因

如果你喜歡人工智能的概念,但又不想將自己的內容或資料分享給第三方,那麼你可以選擇在你的Apple桌面或筆記本電腦上安裝LLM。你會驚訝於這個過程是多麼簡單。

撰文:Jack Wallen,特約作者
日期:2025年1月8日上午9:21(太平洋時間)
審核:Elyse Betters Picaro

目錄
如何在你的MacOS設備上安裝Ollama
1. 下載安裝文件
2. 運行安裝程序
3. 安裝Ollama
如何使用Ollama
1. 運行Ollama
2. 發出你的第一個查詢
3. 退出Ollama

你是否喜歡人工智能的概念,但又不希望第三方有機會接觸到你的內容和數據?我本身就避免任何可能接觸到我所寫小說的AI,因此我不再使用Google Drive來存儲這些內容,也不使用內建AI的文字處理器。

如果這聽起來像是你的立場(但你仍然希望能夠使用這個工具),那麼讓我來介紹你Ollama。

Ollama是一個可以安裝在本地機器上的LLM,這樣你就不必擔心任何人會將你的內容、查詢或信息用於其他目的。

聽起來很難,是不是?

其實並不難。

實際上,比你想像的要簡單得多。

我可以告訴你:你最終將獲得一個通過命令行訪問的AI。雖然有一個可以安裝的GUI,但它是基於網絡的,而且其他大多數GUI要麼安裝起來非常困難,要麼不值得信賴。別擔心。如果你會使用聊天應用,你就能使用Ollama終端。

讓我們開始安裝吧。

如何在你的MacOS設備上安裝Ollama
你需要的條件:要安裝Ollama,你需要一台運行MacOS 11(Big Sur)或更高版本的Apple設備。就這麼簡單。

1. 下載安裝文件
首先,打開你的默認網頁瀏覽器,下載適用於MacOS的Ollama安裝程序。

2. 運行安裝程序
安裝程序下載完成後,雙擊該文件,當提示出現時,點擊“打開”。然後你會被告知Ollama在“應用程序”目錄中運行效果最佳。在彈出窗口中點擊“移動到應用程序”,然後等待安裝向導打開。

3. 安裝Ollama
在向導的第一頁,點擊“下一步”,然後點擊“安裝”。系統會提示你輸入用戶密碼。輸入密碼並點擊“確定”。當安裝完成後,點擊“完成”以關閉向導。

現在你已經準備好在MacOS設備上安裝Ollama了!
Jack Wallen/ZDNET

就是這樣。Ollama已經安裝完畢。

如何使用Ollama
1. 運行Ollama
打開終端應用程序,然後輸入命令:

ollama run llama3.2

這將下載最新的Ollama LLM。根據你的網絡連接速度,這可能需要1到5分鐘。完成後,終端提示符將變為:

>>> 發送消息(/? 獲取幫助)

2. 發出你的第一個查詢
現在你可以使用Ollama發出第一個查詢。輸入類似以下內容:

人工智能的好處是什麼?

Ollama將打印出你的查詢結果。

問吧,你就會得到答案。
Jack Wallen/ZDNET

3. 退出Ollama
當你完成使用Ollama後,可以使用/bye命令退出應用程序。任何時候你想開始新會話,只需打開終端應用程序並輸入ollama run llama3.2即可。

你還可以為Ollama下載其他LLM。要查看可用的模型,請查看Ollama庫。當你找到想要安裝的LLM時,運行ollama run MODEL_NAME命令(其中MODEL_NAME是你想安裝的LLM的名稱)。請記住,模型越大,佔用的空間和資源就越多。例如,llama3.2模型僅為2.0 GB,而llama3.3模型則高達43 GB,因此請謹慎選擇。

安裝Ollama在你的MacOS設備上的所有步驟就是這樣。我會持續關注適合的GUI,確保它易於安裝且值得信賴,敬請關注。

在當今數字化時代,個人數據的安全性變得越來越重要。安裝本地LLM如Ollama,不僅讓用戶能夠使用強大的AI工具,還能保障他們的隱私。這對於創作者尤其重要,因為他們的作品和靈感需要受到保護。整體而言,Ollama的出現讓更多人能夠在不妥協安全的情況下,享受人工智能的便利,這無疑是科技進步的一個重要里程碑。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。

Chat Icon