Ollama 是什麼?在自己電腦上跑 AI 模型的工具,免不免費、要什麼電腦一次講清楚
Ollama 是免費、開源的工具,讓你在自己的電腦上下載並執行 AI 模型,不用帳號,對話也不會離開你的電腦。這篇用白話講它是什麼、不是什麼、要什麼樣的電腦、哪些部分要錢,還有我實際跑過之後看到的限制。
不想把資料送到雲端,或想省 API 費用,可以在自己的電腦上跑模型。這裡整理硬體需求、安裝步驟和實際跑起來的速度;想要像 ChatGPT 那樣的聊天畫面,Open WebUI、LibreChat、LobeChat、SillyTavern 這四個自架介面我都實際裝過,量了各要多少記憶體。
照順序讀最省力;已經會的可以直接跳。
Ollama 是免費、開源的工具,讓你在自己的電腦上下載並執行 AI 模型,不用帳號,對話也不會離開你的電腦。這篇用白話講它是什麼、不是什麼、要什麼樣的電腦、哪些部分要錢,還有我實際跑過之後看到的限制。
想在自己電腦上跑 AI 模型,最常被拿來比的就是 LM Studio 和 Ollama。這篇先講 LM Studio 是什麼、免費嗎、適合誰,再把兩個裝在同一台 4 核心、8 GB 的雲端測試機上,跑同一個 Gemma 3 1B 模型、問同樣三題:安裝多久、佔多少空間、吃多少記憶體、每秒產生幾個字,以及兩邊的 API 能不能互換。2026 年 10 月 15 日實測。
第一次打開 LM Studio 不知道從哪裡開始,照這篇一步一步做:電腦跑不跑得動、去哪下載、介面怎麼改成中文、在「探索」裡挑哪個模型、Q4 和 Q8 選哪個、怎麼載入聊天、把 PDF 丟進去問、怎麼開本機 API 給其他程式用。中文按鈕名稱對照官方翻譯檔,下載模型、載入和 API 我實際跑過。2026 年 10 月 15 日整理。
Ollama 讓你在自己的電腦上跑 AI 模型,不用帳號、不用 API key。這篇從安裝一路走到用 API 呼叫,指令我都在一台 2 核心、4 GB、沒有顯卡的機器上跑過,附上實際的回答和速度。小模型答錯、回簡體的例子也一起給你看。
想要一個像 ChatGPT 的聊天畫面,接自己的 Ollama 或各家 API,常見的自架選擇有 Open WebUI、LibreChat、LobeChat(LobeHub)、SillyTavern。這四個我都在測試機上照官方方式裝過、量過記憶體,這篇把數字、各自適合的人,和放到主機上之前一定要改的預設值放在一起比。2026 年 10 月 16 日整理。
Open WebUI 是裝在自己電腦或主機上的 AI 聊天介面,接上 Ollama 之後,就能在瀏覽器裡跟本地模型對話,不用再對著終端機打字。這篇是我在一台 Linux 測試機上用 Docker 實際裝的紀錄:兩種映像檔差多少、啟動要多久、吃多少記憶體,還有照官方指令裝完卻連不到 Ollama 的原因和兩種解法。2026 年 10 月 14 日在 Open WebUI 0.12.0 上跑的。測試機沒有瀏覽器,所以畫面本身我沒有看到。
LibreChat 是開源的自架 AI 聊天介面,一個畫面接 OpenAI、Anthropic、Google、Ollama 等多家模型,適合想給家人或團隊一個自己的 ChatGPT 的人。這篇是我在雲端測試機上照官方文件用 Docker 裝 v0.8.8 的紀錄:要跑幾個容器、佔多少硬碟和記憶體、預設設定會卡在哪、裝好之後一定要改的兩個設定,以及要選多大的主機。2026 年 10 月 15 日實測。
LobeChat 現在改名叫 LobeHub,從多模型聊天介面變成主打幫你管一整組 AI 代理的平台。這篇講它跟以前差在哪、雲端版免費給多少、授權能不能商用,以及我在雲端測試機上照官方一鍵腳本自架 2.2.19 的紀錄:拉了哪些東西、佔多少硬碟和記憶體、預設誰都能註冊要怎麼關、要選多大的主機。2026 年 10 月 15 日實測。
SillyTavern 是裝在自己電腦上的 AI 聊天介面,本身不帶模型,要接 OpenAI、Claude、Gemini 或本機的 Ollama 才能聊。這篇講它是什麼、有沒有繁體中文、Windows 和 Mac 怎麼裝、角色卡怎麼匯入,以及想放到 VPS 上用手機連時的連線保護。我照官方步驟在 Linux 測試機實際裝起來,量了時間和記憶體,也試了它預設會擋掉哪些連線。2026 年 10 月 15 日查證。
想用 Docker 跑 Ollama,官方指令只有一行,但實際用會碰到幾個問題:映像檔多大、模型存在哪、更新會不會不見、n8n 和 Open WebUI 這些容器怎麼連進來、顯卡怎麼開。我在一台 4 核心、沒有顯卡的測試機上從頭跑一遍,包括更新、docker compose 和四種容器連線寫法,結果都附在文中。2026 年 10 月 15 日實測。
Ollama 要怎麼更新、怎麼看現在是哪一版、為什麼打 ollama serve 會出現 address already in use、怎麼改 port、怎麼讓別台電腦連進來。我在 Linux 測試機上從 0.40.3 實際更新到 0.40.4,把版本、serve、port、OLLAMA_HOST 每一種情況都跑過,輸出原文貼在文中;Mac 和 Windows 的做法依官方文件。2026 年 10 月 15 日實測。
Ollama 裝好之後,要怎麼從自己的程式、n8n 或別的工具呼叫它?這篇把本機 API 最常用的幾個端點走一遍:generate、chat、串流、指定 JSON 格式、工具呼叫、向量、OpenAI 相容介面和 Python 函式庫。每一個請求我都實際送過,回應是原樣貼上來的,包括它格式完全正確、內容卻寫錯的那一次。
Ollama 的模型庫裡模型多到看不完,到底要抓哪一個?我在一台沒有顯卡、8 GB 記憶體的機器上,拿十個參數量 5B 以下的小模型問同樣六題,題目都跟台灣有關:最高的山、面積最大的縣市、翻譯會寫「影片」還是「視頻」。這篇有每一題的原始回答、速度和記憶體用量,還有會「思考」的模型讓我多等一分半鐘的過程。
TAIDE 是國科會推動、國研院開發的繁體中文 AI 模型,最新的是 2026 年 2 月釋出的 Gemma-3-TAIDE-12b-Chat-2602。這篇整理官方資料:有哪些模型、用了哪些台灣的訓練資料、評測分數比 Google 原版高多少、授權能不能商用、要去哪裡下載、檔案多大、能不能用 Ollama 或 LM Studio 在自己電腦上跑。2026 年 10 月 15 日整理。
Gemma 4 有 E2B、E4B、12B、26B、31B 五個大小。Google 官方的表格寫 E2B 只要 2.9 GB,我用 Ollama 在一台 8 GB、沒有顯卡的機器上實際量到的是將近 5 GB。這篇是五個大小一個一個抓下來試的紀錄:哪些跑得動、吃多少記憶體、速度多快,還有 12B 載入失敗時那句會誤導人的錯誤訊息。
Qwen3 有 0.6b 到 235b,Qwen3.5 有 0.8b 到 122b,還各有 instruct、thinking 的版本。我把 8 GB、沒有顯卡的機器跑得動的九個版本都抓下來,問同樣六題台灣題目。結果最大的不是最準的,預設的 qwen3:4b 思考怎麼關都關不掉,要換成 instruct 版。這篇有每個版本的成績、速度、記憶體,還有關思考的三種寫法哪個有效。