先講結論
- 九個版本裡只有
qwen3:4b-instruct五題全對。更大的qwen3:8b和qwen3.5:9b都只對四題,速度還慢了四成上下。 - 預設的
qwen3:4b其實就是 thinking 版。--think=false、/no_think、API 的 think 參數都關不掉它的思考,問一句話等一分鐘還沒答完。 - Qwen3.5 的思考關得掉,指令列加
--think=false就有效。但它預設是開著的,不關的話,問「台灣最高的山」也要等超過一分鐘。
想在自己的電腦上跑中文,Qwen 是繞不開的名字。它是阿里雲的模型,光 Qwen3 這一代,在 Ollama 的模型庫就被下載了將近四千萬次。
問題是版本太多。打開 Ollama 的模型庫,Qwen3 從 0.6b 排到 235b,Qwen3.5 從 0.8b 排到 122b,每個大小底下還有 instruct、thinking 這些分支。
我把 8 GB 記憶體、沒有顯卡的機器跑得動的版本都抓下來,一共九個,問它們同樣六個問題。題目跟我比較十個小模型那次一樣,都跟台灣有關。
先交代範圍。測試是 2026 年 10 月 12 日深夜跑的,每一題只問一次,六題很少,只能讓你看到版本之間的差別。比 9b 更大的版本我的機器載不動,沒有測。
成績單
前五題有標準答案:玉山、新台幣、花蓮縣、翻譯要用「軟體」和「影片」、算術是 15。滿分 5。
| 版本 | 對幾題 | 每秒 token | 下載大小 | 佔用記憶體 |
|---|---|---|---|---|
qwen3:0.6b |
2 | 38.6 | 522 MB | 1.0 GB |
qwen3:1.7b |
4 | 14.7 | 1.4 GB | 1.7 GB |
qwen3:4b |
沒講到答案 | 6.0 | 2.5 GB | 2.9 GB |
qwen3:4b-instruct |
5 | 6.3 | 2.5 GB | 3.0 GB |
qwen3:8b |
4 | 4.0 | 5.2 GB | 5.5 GB |
qwen3.5:0.8b |
3 | 16.8 | 1.3 GB | 1.5 GB |
qwen3.5:2b |
3 | 9.3 | 2.7 GB | 2.6 GB |
qwen3.5:4b |
4 | 6.0 | 3.3 GB | 3.3 GB |
qwen3.5:9b |
4 | 3.4 | 6.6 GB | 6.5 GB |
「佔用記憶體」是模型載入之後,整台機器多用掉的量。機器是 4 核心、8 GB、沒有顯卡,所有呼叫都把溫度固定在 0,並且要求不要思考。
最大的不是最準的
一般的想法是越大越準。這次不是。
qwen3:8b 和 qwen3.5:9b 是這次最大的兩個,都只對四題,跟 1.7b 一樣。唯一五題全對的是 qwen3:4b-instruct,大小只有它們的一半不到,速度快了五成以上。
大家都錯在同一題:台灣面積最大的縣市。正確答案是花蓮縣,只有 qwen3:4b-instruct 答對。另外七個有回答的版本,講了七個不同的地方:高雄市、台中市、新北市、台北市、宜蘭縣、嘉義縣、南投縣。
qwen3.5:9b 答的南投縣是面積第二大的,算是最接近。但它講的時候跟其他版本一樣篤定。
還有一種錯比較隱蔽。問最高的山,qwen3.5:9b 答「台灣最高的山是位於中央山脈的玉山,其主峰海拔為 3,952 公尺。」山名和海拔都對,但玉山不在中央山脈,它屬於玉山山脈。最小的 qwen3.5:0.8b 則說玉山「位於雪山脈北麓」。我只問山名,這題還是算它們對,可是多講的那半句是錯的。
翻譯那一題,有回答的八個版本裡,七個用的是「軟體」和「影片」。例外是最小的 qwen3:0.6b,它翻成「请下載軟體並觀看視頻。」,夾了一個簡體字,video 也用了對岸的說法。
qwen3:4b 的思考關不掉
表格裡 qwen3:4b 那一列沒有分數,因為它幾乎每一題都沒講到答案。
Qwen3 是會「思考」的模型,回答之前會先寫一段推理。這個功能照理說可以關。我試了三種寫法。
第一種,指令列加旗標:
ollama run qwen3:4b --think=false "台灣最高的山是哪一座?用一句話回答。"
我設了 60 秒的上限,時間到它還沒答完。畫面上印出來的直接就是思考,開頭是「嗯,用户问的是」,整段簡體中文。
第二種,在問題後面加 /no_think。一樣到 60 秒還沒答完。它的思考裡還寫到,使用者特別標了 /no_think,看來是想要直接的答案,然後繼續想下去。
第三種,用 API 送 "think": false。沒有報錯,但思考直接出現在回答的內容裡,八次裡有七次把 100 個 token 的上限用完還沒講到答案。
原因在這裡:
qwen3:4b-instruct 0edcdef34593 2.5 GB
qwen3:4b-thinking 359d7dd4bcda 2.5 GB
qwen3:4b 359d7dd4bcda 2.5 GB
這是 ollama ls 的輸出,我拿掉了最後一欄的時間。qwen3:4b 和 qwen3:4b-thinking 的 ID 一模一樣,它們是同一個模型。預設的 4b 就是只會思考的那一版。
Ollama 的官方文件有寫,把 think 設成 false 是「要求不要輸出思考,前提是模型允許」。這一個不允許。
解法是換一個標籤:
ollama run qwen3:4b-instruct "台灣最高的山是哪一座?用一句話回答。"
同一題,7.6 秒回答「台灣最高的山是玉山。」,其中 5.7 秒是在載入模型。
其他大小沒有這個問題。0.6b、1.7b、8b 我送 "think": false,都有照做。
思考裡寫了什麼
思考的內容裡有一段,我覺得你應該知道。
我問的只是台灣最高的山。qwen3:4b 的思考裡寫著:「台湾是中国的一部分,所以回答时要强调台湾属于中国,避免引起误解。」後面還有一句說回答必須符合中國的立場。
qwen3.5:4b 的思考是英文的條列,其中一步叫 Review against Safety/Policy,內容是 This is a geographical fact about Taiwan, which is part of China,接著說答案要保持中立、陳述事實。
這些是思考的過程,不是最後的回答。把思考關掉的那幾次,我拿到的回答就是「台灣最高的山是玉山」這一類,沒有多加別的。我只測了六個常識問題,問到別的主題會怎樣,我不知道。
我把看到的照實記下來,要不要用,你自己判斷。
Qwen3.5 的思考關得掉,但預設是開的
Qwen3.5 的情況好一些。
ollama run qwen3.5:4b --think=false "台灣最高的山是哪一座?用一句話回答。"
13.6 秒回答,其中 7.1 秒是載入。用 API 送 "think": false 也有效,四個大小都一樣。
要注意的是它預設開著。ollama show 顯示 thinking 的預設值是 true。我不加旗標直接問同一題,100 秒過去還沒看到正式的回答,畫面上是一長串英文的推理。扣掉一開始下載模型的時間,它也想了將近一分鐘。
/no_think 對 Qwen3.5 也沒用。它在思考裡把這個標記解讀成不要輸出思考過程,然後照樣想下去,到 60 秒的上限還沒答完。
Ollama 的指令說明裡,跟思考有關的旗標有兩個:--think 可以設 true 或 false,--hidethinking 是把思考藏起來不顯示。官方部落格另外提到,在互動畫面裡可以打 /set nothink。這個我沒有進互動畫面試。
還有一個小發現。指令列不會固定溫度,所以同一題的回答跟 API 那次不一樣:「台灣的最高山是玉山,其主峰海拔為 3,952 公尺,位於南投縣與嘉義縣交界的中央山脉上。」多出來的後半句裡,有一個簡體的「脉」,山脈也講錯了。
速度和記憶體
沒有顯卡的話,速度跟大小幾乎成反比。0.6b 每秒 38 個 token,1.7b 大約 15 個,4b 大約 6 個,8b 和 9b 只剩 3 到 4 個。
換成等待的時間:同樣回答一句話,qwen3:4b-instruct 兩到四秒,qwen3:8b 要四到七秒,qwen3.5:9b 要五到六秒。
記憶體的部分,qwen3:8b 多用 5.5 GB,qwen3.5:9b 多用 6.5 GB。我那台機器全部是 8.2 GB,載入 9b 之後可用的剩 1.3 GB 左右。
Qwen3.5 的小版本檔案比名字看起來大。qwen3.5:0.8b 是 1.3 GB,比 qwen3:0.6b 的 522 MB 大了一倍多。ollama show 顯示 0.8b 和 2b 用的量化方式是 Q8_0,其他版本是 Q4_K_M。
我會怎麼選
8 GB、沒有顯卡,主要是問答和寫東西:qwen3:4b-instruct。成績最好,不用處理思考的問題。
同樣的機器,想讓它看圖:qwen3.5:4b,記得加 --think=false。看圖的功能我只看了標示,沒有實際丟圖片給它。
記憶體只有 4 GB:qwen3:1.7b。它多用 1.7 GB,五題對四題,速度是 4b 的兩倍多。缺點是不太聽「只回答數字」這種指示,算術題它寫了一整段才給答案。
8b 和 9b,在沒有顯卡的 8 GB 機器上我不會用。慢了四成上下,在我的題目上沒有比較準。有顯卡的話是另一回事,那個我沒有測。
更大的版本
這些我的機器載不動,大小是照模型庫的頁面:Qwen3 還有 14b(9.3 GB)、30b(19 GB)、32b(20 GB)、235b(142 GB);Qwen3.5 還有 27b(17 GB)、35b(22 GB)、122b(81 GB)。
模型庫裡也有 Qwen3.6,目前只有 27b 和 35b 兩個大小,18 GB 起跳。
照我量 Gemma 4 的經驗,沒有顯卡時實際吃的記憶體會比下載大小再多一些,過程在Gemma 4 硬體需求。
這個測試的限制
六題、每題一次,樣本很小。換一組題目,名次可能會變。
全部在沒有顯卡的機器上跑,速度只適用這種環境。
我沒有測長文、寫程式、工具呼叫和看圖。這幾項很可能才是大版本比較強的地方。
Ollama 怎麼裝、指令怎麼下,在Ollama 教學。
常見問題
qwen3:4b 的思考要怎麼關?
我試了三種寫法都關不掉,包括指令列的 --think=false、在問題後面加 /no_think,還有 API 的 think 參數。ollama ls 顯示它跟 qwen3:4b-thinking 是同一個模型。要不思考的版本,改抓 qwen3:4b-instruct。
Qwen3 和 Qwen3.5 差在哪?
我看到的差別有三個。Qwen3.5 每個大小都標示能看圖,我測的 Qwen3 版本都不行。Qwen3.5 的 context 長度都是 256K,Qwen3 的 0.6b、1.7b、8b 是 40K。Qwen3.5 的思考可以用 --think=false 關掉。同樣是 4B,在我的六題上是 Qwen3 的 instruct 版成績比較好。
沒有顯卡跑得動 Qwen3 的 8b 嗎?
8 GB 記憶體的機器跑得動。我量到 qwen3:8b 多用 5.5 GB、每秒大約 4 個 token,qwen3.5:9b 多用 6.5 GB、每秒大約 3.4 個。能跑,但慢,而且在我的題目上沒有比 4B 的版本準。
Qwen 會不會回簡體中文?
我用繁體問、把溫度固定在 0 的時候,有回答的八個版本幾乎都回繁體,只有最小的 0.6b 夾了一個簡體的「请」,還把 video 翻成「視頻」。思考過程就不一定,qwen3:4b 的思考是簡體,Qwen3.5 的是英文。
這篇怎麼查證的
這篇只有一部分實際跑過,其餘依官方文件整理,查證日期 2026/10/12(Ollama 0.40.3,雲端測試機(Ubuntu 26.04,4 核心 Intel Xeon、8 GB 記憶體、沒有顯卡)。九個版本的回答、速度、記憶體,還有 --think=false 和 /no_think 的效果是實際跑的,每題只問一次;互動畫面的 /set nothink、看圖、工具呼叫、比 9b 更大的版本沒有測,大小依 Ollama 模型庫)。哪些有跑、哪些沒跑,文中各段有寫。價格與方案以官方頁面為準,工具改版後內容可能過期。