全球Ollama部署詳解：中美AI模型大比拼

zero comment

Ai Finance Tech

全球Ollama部署趨勢報告：美國和中國領跑，雲端平台成主流

由Ryan編譯，數據截至2025年4月24日

Ollama是一款流行的開源工具，使開發人員和研究人員能夠在自己的電腦或服務器上輕鬆運行、創建和共享大型語言模型（LLMs）。本報告深入研究了全球超過174,590個Ollama實例的數據，以揭示其部署趨勢、用戶偏好的模型、主要使用地區和網絡特性。

快速總結：主要發現

* 在識別出的約174,590個Ollama實例中，41,021個具有公開可訪問的API，佔約24.18%。
* 美國和中國在Ollama部署中領跑。
* 大多數Ollama實例託管在雲平台上，尤其是AWS、阿里雲和騰訊雲。
* 熱門模型包括llama3、deepseek-r1、mistral和qwen系列模型，其中llama3:latest和deepseek-r1:latest部署最多。
* 模型大小方面，7億至8億參數的模型最為常見。
* 在效率方面，4位量化模型（如Q4_K_M和Q4_0）因其性能和資源節省的平衡而被廣泛使用。
* 網絡方面，大多數實例使用默認端口11434，並通過HTTP暴露。

Ollama的全球佈局

Ollama具有全球影響力，但某些地區的部署密度更高。

Ollama部署前20個國家

前20個國家：美國（29,195個唯一IP地址）和中國（16,464個唯一IP地址）遙遙領先。其他國家包括日本、德國、英國、印度和新加坡。

前幾大城市：Ashburn（美國）、波特蘭（美國）、新加坡、法蘭克福（德國）和北京（中國）。

美國熱點：Ashburn、波特蘭和哥倫布。

中國熱點：北京、杭州和上海。

部署通常集中在科技中心和數據中心基礎設施強勁的地區。

用戶正在使用哪些AI模型？

Ollama用戶可以訪問多種開源LLM。以下是用戶偏好的模型：

模型名稱：

* llama3:latest（12,659個唯一IP地址部署）
* deepseek-r1:latest（12,572個唯一IP地址部署）
* mistral:latest（11,163個唯一IP地址部署）
* qwen:latest（9,868個唯一IP地址部署）
* llama3:8b-text-q4_K_S（9,845個唯一IP地址部署）

:latest標籤很常見，表明用戶通常希望使用最新版本。中國模型如DeepSeek和Qwen也非常受歡迎。

模型家族：

* llama家族（來自Meta AI）絕對佔據主導地位。
* qwen2（來自阿里巴巴）是第二大最受歡迎的模型。
* 嵌入模型如nomic-bert和bert也被廣泛使用，可能因為Ollama將其用於默認嵌入任務。

模型大小（參數）：

* 7億至8億參數的模型（例如“8.0B”、“7.6B”、“7.2B”、“7B”）最為常見。
* 小型模型（例如“134.52M”、“137M”）也被廣泛使用，可能用於嵌入任務或輕量級應用。

量化（模型效率）：

* 4位量化（例如Q4_K_M、Q4_0、Q4_K_S）是明顯的贏家，在性能和大小之間提供了良好的折衷。
* F16（16位，壓縮程度較低）也受到用戶的歡迎，他們希望更高的保真度或更強大的硬件。

中國與美國的模型大小比較

* 美國：對中等大小的模型（1B至<10B參數）有強烈的偏好。
* 中國：也廣泛使用中等大小的模型，但小型模型（=50B）方面也表現出更多的活動。

網絡設置洞察

* 端口：大多數使用默認端口11434。其他常見的網絡端口如80和8080也被看到，通常指示反向代理設置。
* 協議：大多數實例通過HTTP（未加密）提供服務，較小但顯著的數量使用HTTPS（加密）。
* 託管提供商：雲提供商佔主導地位。
* AWS（AMAZON-02、AMAZON-AES）是最大的託管提供商。
* 中國電信、阿里雲和騰訊雲緊隨其後。

大量通過HTTP暴露的Ollama實例是一個安全隱憂。與這些模型的通信可能會被攔截。建議使用HTTPS，通常通過設置反向代理。

本報告基於具有公開可訪問的/api/tags的實例。實際的Ollama部署數量可能更高，其中許多運行在私有網絡中。

結論

Ollama顯然是全球開發人員和AI愛好者的熱門工具，使其更容易使用強大的語言模型。

* 全球部署但集中：使用範圍廣泛，但主要集中在美國和中國，特別是在科技中心。
* llama領跑：llama模型家族最受歡迎，7億至8億參數的模型和4位量化成為常見的選擇，以平衡性能和資源使用。
* 雲驅動：大多數用戶在主要的雲平台上運行Ollama。
* 開源活躍：模型和配置的多樣性凸顯了一個蓬勃發展的開源AI生態系統。
* 安全事項：用戶應注意保護其Ollama實例，特別是如果暴露在互聯網上。

作為一名編輯，我認為這份報告揭示了Ollama在全球範圍內的部署趨勢和用戶偏好，特別是在美國和中國。雲平台的採用和對開源模型的重視表明了AI領域的快速發展。然而，安全隱憂也需要引起重視，特別是對於通過HTTP暴露的實例。未來，Ollama可能會在橋接尖端AI模型與更廣泛的社區之間發揮關鍵作用，隨著模型的效率提高，其採用率也將進一步增長。