本地 AI

不想把資料送到雲端,或想省 API 費用,可以在自己的電腦上跑模型。這裡整理硬體需求、安裝步驟和實際跑起來的速度;想要像 ChatGPT 那樣的聊天畫面,Open WebUI、LibreChat、LobeChat、SillyTavern 這四個自架介面我都實際裝過,量了各要多少記憶體。

學習路線

照順序讀最省力;已經會的可以直接跳。

LM Studio 是什麼?跟 Ollama 差在哪:同一台電腦跑同一個模型,我實測安裝、速度和記憶體

想在自己電腦上跑 AI 模型,最常被拿來比的就是 LM Studio 和 Ollama。這篇先講 LM Studio 是什麼、免費嗎、適合誰,再把兩個裝在同一台 4 核心、8 GB 的雲端測試機上,跑同一個 Gemma 3 1B 模型、問同樣三題:安裝多久、佔多少空間、吃多少記憶體、每秒產生幾個字,以及兩邊的 API 能不能互換。2026 年 10 月 15 日實測。

部分實測・2026/10/15

LM Studio 教學:下載安裝、改成中文、挑模型和版本、聊天、讀文件、開本機 API

第一次打開 LM Studio 不知道從哪裡開始,照這篇一步一步做:電腦跑不跑得動、去哪下載、介面怎麼改成中文、在「探索」裡挑哪個模型、Q4 和 Q8 選哪個、怎麼載入聊天、把 PDF 丟進去問、怎麼開本機 API 給其他程式用。中文按鈕名稱對照官方翻譯檔,下載模型、載入和 API 我實際跑過。2026 年 10 月 15 日整理。

部分實測・2026/10/15

自架 AI 聊天介面怎麼選?Open WebUI、LibreChat、LobeChat、SillyTavern 我都裝過:記憶體、適合誰、放上網路前要改什麼

想要一個像 ChatGPT 的聊天畫面,接自己的 Ollama 或各家 API,常見的自架選擇有 Open WebUI、LibreChat、LobeChat(LobeHub)、SillyTavern。這四個我都在測試機上照官方方式裝過、量過記憶體,這篇把數字、各自適合的人,和放到主機上之前一定要改的預設值放在一起比。2026 年 10 月 16 日整理。

已實測・2026/10/15

Open WebUI 是什麼?幫 Ollama 加一個聊天介面:Docker 安裝實測、連不到模型怎麼辦

Open WebUI 是裝在自己電腦或主機上的 AI 聊天介面,接上 Ollama 之後,就能在瀏覽器裡跟本地模型對話,不用再對著終端機打字。這篇是我在一台 Linux 測試機上用 Docker 實際裝的紀錄:兩種映像檔差多少、啟動要多久、吃多少記憶體,還有照官方指令裝完卻連不到 Ollama 的原因和兩種解法。2026 年 10 月 14 日在 Open WebUI 0.12.0 上跑的。測試機沒有瀏覽器,所以畫面本身我沒有看到。

部分實測・2026/10/14

LibreChat 是什麼?自架多模型 AI 聊天介面,我用官方 Docker 裝起來量了要多大的主機

LibreChat 是開源的自架 AI 聊天介面,一個畫面接 OpenAI、Anthropic、Google、Ollama 等多家模型,適合想給家人或團隊一個自己的 ChatGPT 的人。這篇是我在雲端測試機上照官方文件用 Docker 裝 v0.8.8 的紀錄:要跑幾個容器、佔多少硬碟和記憶體、預設設定會卡在哪、裝好之後一定要改的兩個設定,以及要選多大的主機。2026 年 10 月 15 日實測。

部分實測・2026/10/15

LobeChat(LobeHub)是什麼?雲端版多少錢、自架要多大主機,我用官方一鍵腳本裝起來量了

LobeChat 現在改名叫 LobeHub,從多模型聊天介面變成主打幫你管一整組 AI 代理的平台。這篇講它跟以前差在哪、雲端版免費給多少、授權能不能商用,以及我在雲端測試機上照官方一鍵腳本自架 2.2.19 的紀錄:拉了哪些東西、佔多少硬碟和記憶體、預設誰都能註冊要怎麼關、要選多大的主機。2026 年 10 月 15 日實測。

部分實測・2026/10/15

SillyTavern 是什麼?中文介面在哪、安裝教學、角色卡怎麼匯入,放上主機前要先懂的連線保護

SillyTavern 是裝在自己電腦上的 AI 聊天介面,本身不帶模型,要接 OpenAI、Claude、Gemini 或本機的 Ollama 才能聊。這篇講它是什麼、有沒有繁體中文、Windows 和 Mac 怎麼裝、角色卡怎麼匯入,以及想放到 VPS 上用手機連時的連線保護。我照官方步驟在 Linux 測試機實際裝起來,量了時間和記憶體,也試了它預設會擋掉哪些連線。2026 年 10 月 15 日查證。

部分實測・2026/10/15

Ollama Docker 教學:一行指令跑起來、模型存在哪、怎麼更新、compose 寫法和 GPU 設定

想用 Docker 跑 Ollama,官方指令只有一行,但實際用會碰到幾個問題:映像檔多大、模型存在哪、更新會不會不見、n8n 和 Open WebUI 這些容器怎麼連進來、顯卡怎麼開。我在一台 4 核心、沒有顯卡的測試機上從頭跑一遍,包括更新、docker compose 和四種容器連線寫法,結果都附在文中。2026 年 10 月 15 日實測。

部分實測・2026/10/15

Ollama 怎麼更新、看版本、改 port?ollama serve 報錯和 OLLAMA_HOST 設定,我實際跑一次

Ollama 要怎麼更新、怎麼看現在是哪一版、為什麼打 ollama serve 會出現 address already in use、怎麼改 port、怎麼讓別台電腦連進來。我在 Linux 測試機上從 0.40.3 實際更新到 0.40.4,把版本、serve、port、OLLAMA_HOST 每一種情況都跑過,輸出原文貼在文中;Mac 和 Windows 的做法依官方文件。2026 年 10 月 15 日實測。

部分實測・2026/10/15

Ollama API 教學:對話、串流、JSON 輸出到工具呼叫,附實際跑出來的回應

Ollama 裝好之後,要怎麼從自己的程式、n8n 或別的工具呼叫它?這篇把本機 API 最常用的幾個端點走一遍:generate、chat、串流、指定 JSON 格式、工具呼叫、向量、OpenAI 相容介面和 Python 函式庫。每一個請求我都實際送過,回應是原樣貼上來的,包括它格式完全正確、內容卻寫錯的那一次。

已實測・2026/10/13

Ollama 模型推薦:繁體中文哪個好?我拿十個小模型問同樣六題台灣題目,只有一個全對

Ollama 的模型庫裡模型多到看不完,到底要抓哪一個?我在一台沒有顯卡、8 GB 記憶體的機器上,拿十個參數量 5B 以下的小模型問同樣六題,題目都跟台灣有關:最高的山、面積最大的縣市、翻譯會寫「影片」還是「視頻」。這篇有每一題的原始回答、速度和記憶體用量,還有會「思考」的模型讓我多等一分半鐘的過程。

已實測・2026/10/12

TAIDE 是什麼?台灣自己的繁體中文 AI 模型:有哪些版本、能不能商用、怎麼下載、電腦跑不跑得動

TAIDE 是國科會推動、國研院開發的繁體中文 AI 模型,最新的是 2026 年 2 月釋出的 Gemma-3-TAIDE-12b-Chat-2602。這篇整理官方資料:有哪些模型、用了哪些台灣的訓練資料、評測分數比 Google 原版高多少、授權能不能商用、要去哪裡下載、檔案多大、能不能用 Ollama 或 LM Studio 在自己電腦上跑。2026 年 10 月 15 日整理。

依官方文件・2026/10/15

Gemma 4 硬體需求:E2B 到 31B 各要多少記憶體?我用 8 GB 的機器一個一個試

Gemma 4 有 E2B、E4B、12B、26B、31B 五個大小。Google 官方的表格寫 E2B 只要 2.9 GB,我用 Ollama 在一台 8 GB、沒有顯卡的機器上實際量到的是將近 5 GB。這篇是五個大小一個一個抓下來試的紀錄:哪些跑得動、吃多少記憶體、速度多快,還有 12B 載入失敗時那句會誤導人的錯誤訊息。

部分實測・2026/10/12

Qwen3 和 Qwen3.5 用 Ollama 怎麼選?九個版本實測,4b 的思考關不掉

Qwen3 有 0.6b 到 235b,Qwen3.5 有 0.8b 到 122b,還各有 instruct、thinking 的版本。我把 8 GB、沒有顯卡的機器跑得動的九個版本都抓下來,問同樣六題台灣題目。結果最大的不是最準的,預設的 qwen3:4b 思考怎麼關都關不掉,要換成 instruct 版。這篇有每個版本的成績、速度、記憶體,還有關思考的三種寫法哪個有效。

部分實測・2026/10/12