Qwen
部署难度：中等Qwen2.5Qwen3Qwen CoderQwen VLQwen OmniQwen Embedding
适合用途
中文问答、代码生成、多模态理解、企业知识库和本地智能体。
适合机器
高内存 Mac、RTX 工作站、DGX Spark、多卡服务器。
型号和分支很多，适合按中文能力、代码能力、视觉能力和上下文需求来选。
主流精选
先按模型系列理解差异。
这里的“适合机器”是选型方向，不是固定承诺。同一个模型在 FP16、FP8、Q8、Q4 等不同格式下，对硬件要求会明显不同。
Gemma 4
部署难度：中等Gemma 4 E2BGemma 4 E4BGemma 4 26BGemma 4 31B
适合用途
轻量边缘部署、个人电脑本地推理、代码助手和多语言应用。
适合机器
消费级 GPU、DGX Spark、高内存工作站和边缘设备。
Google DeepMind 官方开放模型系列，适合强调效率和本机运行的场景。
Llama
部署难度：中等Llama 3.1Llama 3.2Llama 4
适合用途
通用问答、英文任务、企业内部助手和私有化应用底座。
适合机器
RTX 4090/5090 工作站、RTX PRO 工作站、多卡服务器。
生态成熟，工具链和量化版本多，适合通用本地部署。
DeepSeek
部署难度：较高DeepSeek-R1DeepSeek-V3DeepSeek Coder
适合用途
推理、代码、数学和复杂任务拆解。
适合机器
高显存工作站、多卡服务器、按需选用蒸馏或量化版本。
大模型版本对硬件要求高，部署前需要明确是跑完整模型、蒸馏模型还是量化模型。
Mistral / Mixtral
部署难度：较高Mistral 7BMixtral 8x7BMixtral 8x22B
适合用途
英文任务、工具调用、轻量服务和 MoE 架构体验。
适合机器
RTX 工作站、RTX PRO 工作站、多卡服务器。
MoE 模型需要额外关注推理框架、显存和吞吐配置。
GLM
部署难度：中等GLM-4GLM-4.5CodeGeeX
适合用途
中文问答、智能体、代码辅助和企业内部应用。
适合机器
高内存 Mac、RTX 工作站、多卡服务器。
适合中文业务场景，部署时需要确认具体开源权重和运行框架。
Yi
部署难度：轻量Yi-1.5Yi-34BYi-VL
适合用途
中文和英文通用问答、视觉理解和轻量私有助手。
适合机器
消费级 GPU、高内存 Mac、常规工作站。
适合作为中小规模本地模型候选，部署复杂度相对低。
Phi
部署难度：轻量Phi-3Phi-4Phi Vision
适合用途
小模型推理、边缘设备、低成本本机助手和简单任务自动化。
适合机器
笔记本、高内存 Mac、Jetson、低显存 GPU。
适合轻量场景，不适合替代大参数模型处理复杂业务推理。
Qwen 分支
Qwen 型号很多，先按分支看。
如果你主要做中文、本地知识库、代码助手或多模态，Qwen 往往是第一批会被拿来评估的模型系列。
Qwen2.5
0.5B、1.5B、3B、7B、14B、32B、72B 等常见尺寸
通用中文问答、知识库、企业助手和本地推理。
Qwen3
0.6B、4B、8B、14B、30B-A3B、32B 等常见版本
推理、中文任务、长上下文和更强通用能力。
Qwen Coder
Qwen2.5-Coder、Qwen3-Coder 等
代码生成、代码解释、脚本自动化和本地编程助手。
Qwen VL
Qwen2.5-VL、Qwen3-VL 等
图片理解、文档识别、图表分析和多模态问答。
Qwen Omni
Qwen2.5-Omni、Qwen3-Omni 等
音频、视觉、文本等多模态交互场景。
Qwen Embedding
Qwen3-Embedding 等
知识库检索、语义搜索、RAG 和相似度匹配。
选型提醒
模型越大，不一定越适合你的机器。
本地部署要同时看模型能力、显存或统一内存、推理速度、上下文长度、是否需要视觉/音频、是否多人使用。第一步通常不是追最大参数，而是先让一个合适模型稳定跑起来。
微信客服
不知道选哪个模型？扫码微信发你的机器配置。
告诉我们显卡、内存、系统和目标用途，我们会先判断 Qwen、Gemma 4、Llama、DeepSeek 等模型里哪些更适合你。
