先講結論
- 接得起來,而且不用任何 API key。裝好 Ollama、抓一個模型,再跑一行設定指令,5 秒就接好。
- 沒有顯卡會很慢。我用 4 核心的主機跑 3B 的小模型,第一句話等了 8 分 29 秒,之後每句大約 40 秒。
- 小模型不太可靠。五句裡有一句完全沒回,還有一句自作主張多建了一個檔案。官方自己也不太建議用小的本地模型。
養龍蝦最花錢的是模型。所以很多人裝好 OpenClaw 之後第一個念頭是:接 Ollama,用自己機器上的免費模型,不就不用付 API 的錢了?
接得起來。我實際接了一次,也真的跟它講了幾句話。
先講結論:能動,但在沒有顯卡的機器上慢到不實用,而且小模型會出一些你想不到的狀況。下面是完整的過程。
我用的是一台雲端測試機,4 核心、8 GB 記憶體、沒有顯卡,日期是 2026 年 10 月 12 日。OpenClaw 是 2026.10.2,Ollama 是 0.40.3。
怎麼接:三個步驟
第一步,裝 Ollama。Linux 是一行指令,我這邊 5 秒裝完。Ollama 本身怎麼用,我另外寫了Ollama 教學:
curl -fsSL https://ollama.com/install.sh | sh
第二步,抓一個模型。OpenClaw 官方文件開了兩個條件:模型要支援工具呼叫,context 至少要 16K。我挑的是 qwen2.5 的 3B 版本,1.9 GB:
ollama pull qwen2.5:3b
ollama show qwen2.5:3b
第二行是用來確認的。它印出來的資料裡有 context length 32768,能力那一欄有 tools,兩個條件都符合。
我後來另外拿十個小模型比過中文的表現,哪幾個支援工具呼叫也列在裡面,寫在Ollama 模型推薦。那一篇只測一問一答,沒有測它們接上 OpenClaw 之後的表現。
第三步,告訴 OpenClaw 用它。可以走設定精靈,官方文件說在選模型供應商的地方選 Ollama。我用的是一行到底的寫法,不用一題一題選:
openclaw onboard --non-interactive --accept-risk --skip-health \
--auth-choice ollama \
--custom-base-url http://127.0.0.1:11434 \
--custom-model-id qwen2.5:3b
5 秒結束,畫面顯示 Default Ollama model: qwen2.5:3b。全程沒有要我輸入任何金鑰。
這裡官方文件有一個警告:網址後面不要加 /v1。加了會讓工具呼叫壞掉,模型會把本來該執行的東西當成文字吐出來。
接好之後,啟動 OpenClaw 的核心程式,就可以傳訊息了。我沒有接聊天軟體,是直接在終端機傳的:
openclaw agent --agent main -m "用一句話介紹你自己,用繁體中文。"
第一句話:等了 8 分 29 秒
它回的是:「我是一個用中文對話的數位助理,隨時準備協助您。」
這十幾個字,我等了 8 分 29 秒。
慢的原因不是它想很久。我去看 Ollama 的紀錄,產生回答只花了 5 秒,其他 8 分 12 秒都在讀。讀什麼?OpenClaw 每次都會先送一大包東西給模型,我量到的是 11,661 個 token。
這一大包裡面有三類東西。最大的是工作區裡的五份說明檔,像是告訴它怎麼做事的 AGENTS.md、描述它個性的 SOUL.md。再來是它可以用的技能清單,全新安裝就列了 19 個。最後是工具的定義。
沒有顯卡的機器,一秒只能讀二十幾個 token。一萬多個就是八分鐘。
順帶一提,OpenClaw 對本地模型其實已經手下留情了。啟動的時候我看到它的紀錄寫,有 56 個工具被收在「工具搜尋」後面,沒有一開始就全部塞給模型。
第二句之後:快了,但開始出狀況
讀過一次的內容會留在快取裡,所以後面每一句只花 20 到 40 秒。但回答的品質就精彩了。
| 我傳的 | 結果 | 花多久 |
|---|---|---|
| 用一句話介紹你自己 | 正常回答 | 8 分 29 秒 |
| 1+1 等於多少?只回答數字 | 沒有回答,顯示錯誤 | 42 秒 |
| 台灣最高的山是哪一座? | 答對,但多做了別的事 | 41 秒 |
| 在工作區建立 hello.txt,內容寫 hi | 做到了,檔案真的在 | 44 秒 |
| 請用一句話跟我說晚安 | 正常回答 | 22 秒 |
第二句最讓我意外。我問 1+1,它什麼都沒回,OpenClaw 顯示的是 Agent couldn't generate a response. Please try again.
第三句我換了一個問題,它回:「1+1 等於 2。台灣最高的山是玉山。」把上一題一起補答了。但我事後去看它的工作區,裡面多了一個我沒有要求的 response.txt,打開來只有一個字:2。它把 1+1 的答案寫進了檔案。
這就是小模型的問題。它有時候分不清楚「回答你」和「去做一件事」。這次只是多一個沒用的檔案。換成一個有權限寄信、刪檔案的 OpenClaw,就不是好笑的事了。
第四句是我故意考它的,叫它在工作區建一個檔案。這次它做對了,而且我確認過,hello.txt 真的在那裡,內容是 hi。所以它不是不能動手,是不穩定。
它吃多少資源
跑模型的那支程式佔了 3.3 GB 記憶體,OpenClaw 自己的核心程式在對話中漲到 1.4 GB,還在紀錄裡發了一則記憶體壓力的警告。整台 8 GB 的機器用掉五點多 GB。
硬碟的部分,Ollama 本身 2.1 GB,我抓的兩個模型 2.8 GB。
模型在算的時候,跑模型的那支程式佔用大約兩個核心。
還有一個設定要知道。我啟動 Ollama 的時候,把模型留在記憶體裡的時間調成了 40 分鐘。Ollama 的預設是 5 分鐘沒人用就把模型卸掉。照預設值,你隔幾分鐘才講一句話的話,很可能每一句都要重新等一次。這個情況我沒有實測。
官方怎麼看本地模型
OpenClaw 的官方文件在常見問題裡直接回答過「拿本地模型來聊天可以嗎」,答案是通常不建議。
理由有兩個。它需要很大的 context,小模型放不下。還有安全性,小模型和壓縮過的模型比較容易被外部內容裡夾帶的指令牽著走。
文件給的建議是:真的要用,就跑你的機器撐得住的最大那一個。
那什麼時候值得接
算一下就知道,省錢不是好理由。
同樣那句自我介紹,如果丟給 Claude 最便宜的 Haiku 5.5,照官方價目是送進去每一百萬個 token 0.1 美元。11,661 個 token 大約是 0.001 美元,台幣不到四分錢。我為了省這幾分錢,等了八分鐘。
我覺得值得接的情況有三種。
你有一張夠力的顯卡,或是一台記憶體很大的 Mac。這兩種我都沒有實測,但瓶頸就是讀那一萬多個 token 的速度,這正是顯卡擅長的事。
你在意的是資料不能離開自己的機器。那慢一點也認了。
你只是想先看看 OpenClaw 實際上怎麼動,還不想綁信用卡、也不想把任何帳號交給它。我這次就是這樣,本地模型是唯一不用登入任何東西就能跟它對話的方法。
不值得的情況很明確:專程租一台沒有顯卡的主機來跑本地模型。我測的就是這種機器。
順便量到的:心跳一次送多少
OpenClaw 會定時自己醒來,官方叫心跳,預設 30 分鐘一次。用本地模型的人要特別留意,因為每一次醒來都是一次完整的模型呼叫。
我手動觸發了一次來量。它送了 10,291 個 token,在這台機器上跑了 7 分 8 秒。
不過有一個好消息。我的測試機沒有接任何聊天軟體,排程的那一次心跳其實自己跳過了,紀錄寫的是 heartbeat skipped: no-route,沒有去動模型。官方文件也是這樣說的:它找不到可以回報的對象,就不會跑。等你接上 Telegram 或 LINE,它才會開始定時呼叫模型。
錢的算法我寫在OpenClaw 費用怎麼算。還沒裝 OpenClaw 的話,從安裝怎麼選開始。
常見問題
OpenClaw 接 Ollama 要錢嗎?
模型這一邊不用。Ollama 和它的開源模型都免費,跑在自己的機器上也不需要 API key。要付的是機器和電費,還有你等它的時間。
要選哪一個模型?
OpenClaw 官方文件開的條件有兩個:模型要支援工具呼叫,而且 context 至少 16K。用 ollama show 加上模型名稱可以查。我測的 qwen2.5:3b 兩項都符合,但它太小,會出狀況。機器撐得住的話,選大一點的。
為什麼第一句話特別慢?
因為 OpenClaw 每次都會把一大包說明一起送給模型。我量到的是 11,661 個 token,沒有顯卡的機器每秒只能讀二十幾個。讀過一次之後有快取,第二句開始就快很多。
用本地模型是不是比較安全?
你的對話不會離開自己的機器,這點是真的。但 OpenClaw 官方提醒,小模型比較容易被外部內容裡夾帶的指令騙,所以它反而建議要用就用機器跑得動的最大那一個。
這篇怎麼查證的
文中的指令在 2026/10/12 實際執行過(OpenClaw 2026.10.2、Ollama 0.40.3、模型 qwen2.5:3b;雲端測試機,Ubuntu 26.04、4 核心 Intel Xeon、8 GB 記憶體、沒有顯卡。有顯卡的機器、Mac、LM Studio 沒有測)。價格與方案以官方頁面為準,工具改版後內容可能過期。