Qwen 3 通義千問 — 阿里開源模型家族怎麼選
選擇 Qwen 3 模型時,關鍵不是「參數越大越好」,而是看「每次推論實際啟用多少參數」。Qwen3-30B-A3B 總參數 300 億,但每個 token 只啟用約 30 億,官方測試中表現超過啟用參數多 10 倍的 QwQ-32B,所以只有一張消費級顯示卡的使用者,第一個該試的通常是它,不是 32B 稠密模型。 Q
選擇 Qwen 3 模型時,關鍵不是「參數越大越好」,而是看「每次推論實際啟用多少參數」。Qwen3-30B-A3B 總參數 300 億,但每個 token 只啟用約 30 億,官方測試中表現超過啟用參數多 10 倍的 QwQ-32B,所以只有一張消費級顯示卡的使用者,第一個該試的通常是它,不是 32B 稠密模型。 Qwen 3 家族有哪些成員 Qwen 3 是阿里巴巴通義千問團隊在 2025 年 4 月 29 日發布的開源大型語言模型系列,所有開源權重都以 Apache 2.0 授權釋出,可以商用。整個家族分成兩種架構:稠密(Dense)模型與混合專家(MoE)模型。完整發布說明見 Qwen3 官方部落格 。 稠密模型:6 種尺寸 Qwen3-0.6B、1.7B、4B :原生上下文 32K tokens,適合手機、樹莓派、瀏覽器端推論。 Qwen3-8B、14B、32B :上下文 128K tokens,是本機部署與微調最常用的尺寸。 MoE 模型:2 種尺寸 Qwen3-30B-A3B :總參數 30B,每次啟用 3B,推論速度接近 3B 模型,品質接近 30B 等級。 Qwen3-235B-A22B :旗艦開源模型,總參數 235B,啟用 22B,需要多卡伺服器。 預訓練資料規模是 Qwen 3 相對前代最大的差異。 「Qwen3 預訓練使用約 36 兆 tokens,是 Qwen2.5 的 18 兆 tokens 的兩倍」(來源:Qwen 官方部落格,2025 年 4 月) ,並且 「支援 119 種語言與方言」(來源:Qwen 官方部落格,2025 年 4 月) ,涵蓋繁體中文、泰文、印尼文、越南文等東南亞語言。 混合思考模式:同一個模型兩種用法 Qwen 3 的核心設計是把「思考模式」與「非思考模式」放進同一個模型,由使用者決定每次要不要推理。思考模式會先輸出 <think> 區塊內的推理過程再回答,適合數學、程式除錯、多步驟規劃;非思考模式直接回答,適合聊天、翻譯、摘要。 切換方式有兩種。第一種是在 chat template 設定 enable_thinking=True 或 False ;第二種是在對話中加入 /think 或 /no_think 指令,逐輪切換。這個設計讓「思考預算」變成可控成本:同一個部署可以讓客服問答走非思考模式節省 token,技術問題才開思考模式。 2025 年 7 月起,官方改變策略,推出 2507 版本 ,把 Instruct(非思考)與 Thinking(思考)拆成兩個獨立模型,例如 Qwen3-235B-A22B-Instruct-2507 與 Qwen3-235B-A22B-Thinking-2507,原生上下文拉到 256K tokens。拆分的原因是官方測試發現單一混合模型在兩種模式下都有品質折損。因此,新專案建議優先選 2507 版本,依用途選 Instruct 或 Thinking。 效能數據:各尺寸實際落在哪裡 Qwen 3 小尺寸模型的效能提升比旗艦模型更有實用意義。官方部落格指出, 「Qwen3-4B 的表現可與 Qwen2.5-72B-Instruct 相當」(來源:Qwen 官方部落格,2025 年 4 月) ,也就是用約 1/18 的參數量達到上一代旗艦等級。這代表筆電上跑的 4B 模型,已經能處理過去需要伺服器的任務。 旗艦模型方面, 「Qwen3-235B-A22B 在思考模式下 AIME'24 得分 85.7、AIME'25 得分 81.5」(來源:Qwen3 Technical Report,arXiv,2025 年 5 月) ,數學推理與 DeepSeek-R1、o3-mini 同一級距。程式能力上,同一模型 LiveCodeBench v5 得分 70.7、CodeForces Elo 評分 2056。 需要注意的是,基準分數不等於實際任務表現。繁體中文寫作、台灣在地用語、特定領域術語,建議用自己的 20-50 筆真實樣本做盲測,再決定尺寸。 依硬體與用途選型 選型的第一個限制是顯示記憶體(VRAM),第二個才是任務類型。以下以 4-bit 量化(Q4_K_M)的大約記憶體需求為準,實際數字會隨上下文長度與推論框架變動。 依硬體選擇 8GB VRAM 或 16GB 統一記憶體的 Mac :Qwen3-8B(約 5GB)或 Qwen3-4B(約 2.5GB)。 12-16GB VRAM :Qwen3-14B(約 9GB),留空間給長上下文。 24GB VRAM(RTX 3090/4090)或 32GB Mac :Qwen3-30B-A3B(約 18GB)首選,推論速度明顯快於 Qwen3-32B(約 20GB),因為每個 token
相關工具書
由 FeiYueh 親自審稿驗證 · 最後更新於 2026-10-20. Independently maintained — not AI-generated boilerplate.
← Back to Blog