GoForum › 🌐 V2EX
30B 尺寸哪个小模型编码能力会好一些
summerLast ·
2026-01-29 10:42 ·
0 次点赞 · 2 条回复
很久没本地跑小模型了,之前用的 QWen3-30B-A3B 2507 效果最佳,现在想咨询下哪个模型效果会更好些
2 条回复
summerLast · 2026-01-29 10:52
@xtreme1 用量化后的,32G 还有 10G 左右给上下文
添加回复
你还需要 登录
后发表回复
卡死 32G 显存么, 还得留点给上下文吧.