Qwen3 和 Qwen3.5 用 Ollama 怎麼選?九個版本實測,4b 的思考關不掉

部分實測2026.10.12

Qwen3 有 0.6b 到 235b,Qwen3.5 有 0.8b 到 122b,還各有 instruct、thinking 的版本。我把 8 GB、沒有顯卡的機器跑得動的九個版本都抓下來,問同樣六題台灣題目。結果最大的不是最準的,預設的 qwen3:4b 思考怎麼關都關不掉,要換成 instruct 版。這篇有每個版本的成績、速度、記憶體,還有關思考的三種寫法哪個有效。

更新 2026/10/13・約 9 分鐘讀完・查證環境:Ollama 0.40.3,雲端測試機(Ubuntu 26.04,4 核心 Intel Xeon、8 GB 記憶體、沒有顯卡)。九個版本的回答、速度、記憶體,還有 --think=false 和 /no_think 的效果是實際跑的,每題只問一次;互動畫面的 /set nothink、看圖、工具呼叫、比 9b 更大的版本沒有測,大小依 Ollama 模型庫

先講結論

  • 九個版本裡只有 qwen3:4b-instruct 五題全對。更大的 qwen3:8b 和 qwen3.5:9b 都只對四題,速度還慢了四成上下。
  • 預設的 qwen3:4b 其實就是 thinking 版。--think=false、/no_think、API 的 think 參數都關不掉它的思考,問一句話等一分鐘還沒答完。
  • Qwen3.5 的思考關得掉,指令列加 --think=false 就有效。但它預設是開著的,不關的話,問「台灣最高的山」也要等超過一分鐘。
目錄
  1. 成績單
  2. 最大的不是最準的
  3. qwen3:4b 的思考關不掉
  4. 思考裡寫了什麼
  5. Qwen3.5 的思考關得掉,但預設是開的
  6. 速度和記憶體
  7. 我會怎麼選
  8. 更大的版本
  9. 這個測試的限制

想在自己的電腦上跑中文,Qwen 是繞不開的名字。它是阿里雲的模型,光 Qwen3 這一代,在 Ollama 的模型庫就被下載了將近四千萬次。

問題是版本太多。打開 Ollama 的模型庫,Qwen3 從 0.6b 排到 235b,Qwen3.5 從 0.8b 排到 122b,每個大小底下還有 instruct、thinking 這些分支。

我把 8 GB 記憶體、沒有顯卡的機器跑得動的版本都抓下來,一共九個,問它們同樣六個問題。題目跟我比較十個小模型那次一樣,都跟台灣有關。

先交代範圍。測試是 2026 年 10 月 12 日深夜跑的,每一題只問一次,六題很少,只能讓你看到版本之間的差別。比 9b 更大的版本我的機器載不動,沒有測。

成績單

前五題有標準答案:玉山、新台幣、花蓮縣、翻譯要用「軟體」和「影片」、算術是 15。滿分 5。

版本 對幾題 每秒 token 下載大小 佔用記憶體
qwen3:0.6b 2 38.6 522 MB 1.0 GB
qwen3:1.7b 4 14.7 1.4 GB 1.7 GB
qwen3:4b 沒講到答案 6.0 2.5 GB 2.9 GB
qwen3:4b-instruct 5 6.3 2.5 GB 3.0 GB
qwen3:8b 4 4.0 5.2 GB 5.5 GB
qwen3.5:0.8b 3 16.8 1.3 GB 1.5 GB
qwen3.5:2b 3 9.3 2.7 GB 2.6 GB
qwen3.5:4b 4 6.0 3.3 GB 3.3 GB
qwen3.5:9b 4 3.4 6.6 GB 6.5 GB

「佔用記憶體」是模型載入之後,整台機器多用掉的量。機器是 4 核心、8 GB、沒有顯卡,所有呼叫都把溫度固定在 0,並且要求不要思考。

最大的不是最準的

一般的想法是越大越準。這次不是。

qwen3:8b 和 qwen3.5:9b 是這次最大的兩個,都只對四題,跟 1.7b 一樣。唯一五題全對的是 qwen3:4b-instruct,大小只有它們的一半不到,速度快了五成以上。

大家都錯在同一題:台灣面積最大的縣市。正確答案是花蓮縣,只有 qwen3:4b-instruct 答對。另外七個有回答的版本,講了七個不同的地方:高雄市、台中市、新北市、台北市、宜蘭縣、嘉義縣、南投縣。

qwen3.5:9b 答的南投縣是面積第二大的,算是最接近。但它講的時候跟其他版本一樣篤定。

還有一種錯比較隱蔽。問最高的山,qwen3.5:9b 答「台灣最高的山是位於中央山脈的玉山,其主峰海拔為 3,952 公尺。」山名和海拔都對,但玉山不在中央山脈,它屬於玉山山脈。最小的 qwen3.5:0.8b 則說玉山「位於雪山脈北麓」。我只問山名,這題還是算它們對,可是多講的那半句是錯的。

翻譯那一題,有回答的八個版本裡,七個用的是「軟體」和「影片」。例外是最小的 qwen3:0.6b,它翻成「请下載軟體並觀看視頻。」,夾了一個簡體字,video 也用了對岸的說法。

qwen3:4b 的思考關不掉

表格裡 qwen3:4b 那一列沒有分數,因為它幾乎每一題都沒講到答案。

Qwen3 是會「思考」的模型,回答之前會先寫一段推理。這個功能照理說可以關。我試了三種寫法。

第一種,指令列加旗標:

ollama run qwen3:4b --think=false "台灣最高的山是哪一座?用一句話回答。"

我設了 60 秒的上限,時間到它還沒答完。畫面上印出來的直接就是思考,開頭是「嗯,用户问的是」,整段簡體中文。

第二種,在問題後面加 /no_think。一樣到 60 秒還沒答完。它的思考裡還寫到,使用者特別標了 /no_think,看來是想要直接的答案,然後繼續想下去。

第三種,用 API 送 "think": false。沒有報錯,但思考直接出現在回答的內容裡,八次裡有七次把 100 個 token 的上限用完還沒講到答案。

原因在這裡:

qwen3:4b-instruct    0edcdef34593    2.5 GB
qwen3:4b-thinking    359d7dd4bcda    2.5 GB
qwen3:4b             359d7dd4bcda    2.5 GB

這是 ollama ls 的輸出,我拿掉了最後一欄的時間。qwen3:4b 和 qwen3:4b-thinking 的 ID 一模一樣,它們是同一個模型。預設的 4b 就是只會思考的那一版。

Ollama 的官方文件有寫,把 think 設成 false 是「要求不要輸出思考,前提是模型允許」。這一個不允許。

解法是換一個標籤:

ollama run qwen3:4b-instruct "台灣最高的山是哪一座?用一句話回答。"

同一題,7.6 秒回答「台灣最高的山是玉山。」,其中 5.7 秒是在載入模型。

其他大小沒有這個問題。0.6b、1.7b、8b 我送 "think": false,都有照做。

思考裡寫了什麼

思考的內容裡有一段,我覺得你應該知道。

我問的只是台灣最高的山。qwen3:4b 的思考裡寫著:「台湾是中国的一部分,所以回答时要强调台湾属于中国,避免引起误解。」後面還有一句說回答必須符合中國的立場。

qwen3.5:4b 的思考是英文的條列,其中一步叫 Review against Safety/Policy,內容是 This is a geographical fact about Taiwan, which is part of China,接著說答案要保持中立、陳述事實。

這些是思考的過程,不是最後的回答。把思考關掉的那幾次,我拿到的回答就是「台灣最高的山是玉山」這一類,沒有多加別的。我只測了六個常識問題,問到別的主題會怎樣,我不知道。

我把看到的照實記下來,要不要用,你自己判斷。

Qwen3.5 的思考關得掉,但預設是開的

Qwen3.5 的情況好一些。

ollama run qwen3.5:4b --think=false "台灣最高的山是哪一座?用一句話回答。"

13.6 秒回答,其中 7.1 秒是載入。用 API 送 "think": false 也有效,四個大小都一樣。

要注意的是它預設開著。ollama show 顯示 thinking 的預設值是 true。我不加旗標直接問同一題,100 秒過去還沒看到正式的回答,畫面上是一長串英文的推理。扣掉一開始下載模型的時間,它也想了將近一分鐘。

/no_think 對 Qwen3.5 也沒用。它在思考裡把這個標記解讀成不要輸出思考過程,然後照樣想下去,到 60 秒的上限還沒答完。

Ollama 的指令說明裡,跟思考有關的旗標有兩個:--think 可以設 true 或 false,--hidethinking 是把思考藏起來不顯示。官方部落格另外提到,在互動畫面裡可以打 /set nothink。這個我沒有進互動畫面試。

還有一個小發現。指令列不會固定溫度,所以同一題的回答跟 API 那次不一樣:「台灣的最高山是玉山,其主峰海拔為 3,952 公尺,位於南投縣與嘉義縣交界的中央山脉上。」多出來的後半句裡,有一個簡體的「脉」,山脈也講錯了。

速度和記憶體

沒有顯卡的話,速度跟大小幾乎成反比。0.6b 每秒 38 個 token,1.7b 大約 15 個,4b 大約 6 個,8b 和 9b 只剩 3 到 4 個。

換成等待的時間:同樣回答一句話,qwen3:4b-instruct 兩到四秒,qwen3:8b 要四到七秒,qwen3.5:9b 要五到六秒。

記憶體的部分,qwen3:8b 多用 5.5 GB,qwen3.5:9b 多用 6.5 GB。我那台機器全部是 8.2 GB,載入 9b 之後可用的剩 1.3 GB 左右。

Qwen3.5 的小版本檔案比名字看起來大。qwen3.5:0.8b 是 1.3 GB,比 qwen3:0.6b 的 522 MB 大了一倍多。ollama show 顯示 0.8b 和 2b 用的量化方式是 Q8_0,其他版本是 Q4_K_M。

我會怎麼選

8 GB、沒有顯卡,主要是問答和寫東西:qwen3:4b-instruct。成績最好,不用處理思考的問題。

同樣的機器,想讓它看圖:qwen3.5:4b,記得加 --think=false。看圖的功能我只看了標示,沒有實際丟圖片給它。

記憶體只有 4 GB:qwen3:1.7b。它多用 1.7 GB,五題對四題,速度是 4b 的兩倍多。缺點是不太聽「只回答數字」這種指示,算術題它寫了一整段才給答案。

8b 和 9b,在沒有顯卡的 8 GB 機器上我不會用。慢了四成上下,在我的題目上沒有比較準。有顯卡的話是另一回事,那個我沒有測。

更大的版本

這些我的機器載不動,大小是照模型庫的頁面:Qwen3 還有 14b(9.3 GB)、30b(19 GB)、32b(20 GB)、235b(142 GB);Qwen3.5 還有 27b(17 GB)、35b(22 GB)、122b(81 GB)。

模型庫裡也有 Qwen3.6,目前只有 27b 和 35b 兩個大小,18 GB 起跳。

照我量 Gemma 4 的經驗,沒有顯卡時實際吃的記憶體會比下載大小再多一些,過程在Gemma 4 硬體需求。

這個測試的限制

六題、每題一次,樣本很小。換一組題目,名次可能會變。

全部在沒有顯卡的機器上跑,速度只適用這種環境。

我沒有測長文、寫程式、工具呼叫和看圖。這幾項很可能才是大版本比較強的地方。

Ollama 怎麼裝、指令怎麼下,在Ollama 教學。

常見問題

qwen3:4b 的思考要怎麼關?

我試了三種寫法都關不掉,包括指令列的 --think=false、在問題後面加 /no_think,還有 API 的 think 參數。ollama ls 顯示它跟 qwen3:4b-thinking 是同一個模型。要不思考的版本,改抓 qwen3:4b-instruct。

Qwen3 和 Qwen3.5 差在哪?

我看到的差別有三個。Qwen3.5 每個大小都標示能看圖,我測的 Qwen3 版本都不行。Qwen3.5 的 context 長度都是 256K,Qwen3 的 0.6b、1.7b、8b 是 40K。Qwen3.5 的思考可以用 --think=false 關掉。同樣是 4B,在我的六題上是 Qwen3 的 instruct 版成績比較好。

沒有顯卡跑得動 Qwen3 的 8b 嗎?

8 GB 記憶體的機器跑得動。我量到 qwen3:8b 多用 5.5 GB、每秒大約 4 個 token,qwen3.5:9b 多用 6.5 GB、每秒大約 3.4 個。能跑,但慢,而且在我的題目上沒有比 4B 的版本準。

Qwen 會不會回簡體中文?

我用繁體問、把溫度固定在 0 的時候,有回答的八個版本幾乎都回繁體,只有最小的 0.6b 夾了一個簡體的「请」,還把 video 翻成「視頻」。思考過程就不一定,qwen3:4b 的思考是簡體,Qwen3.5 的是英文。

這篇怎麼查證的

這篇只有一部分實際跑過,其餘依官方文件整理,查證日期 2026/10/12(Ollama 0.40.3,雲端測試機(Ubuntu 26.04,4 核心 Intel Xeon、8 GB 記憶體、沒有顯卡)。九個版本的回答、速度、記憶體,還有 --think=false 和 /no_think 的效果是實際跑的,每題只問一次;互動畫面的 /set nothink、看圖、工具呼叫、比 9b 更大的版本沒有測,大小依 Ollama 模型庫)。哪些有跑、哪些沒跑,文中各段有寫。價格與方案以官方頁面為準,工具改版後內容可能過期。