GoForum🌐 V2EX

30B 尺寸哪个小模型编码能力会好一些

summerLast · 2026-01-29 10:42 · 0 次点赞 · 2 条回复

很久没本地跑小模型了,之前用的 QWen3-30B-A3B 2507 效果最佳,现在想咨询下哪个模型效果会更好些

2 条回复
xtreme1 · 2026-01-29 10:47
#1

卡死 32G 显存么, 还得留点给上下文吧.

summerLast · 2026-01-29 10:52
#2

@xtreme1 用量化后的,32G 还有 10G 左右给上下文

添加回复
你还需要 登录 后发表回复

登录后可发帖和回复

登录 注册
主题信息
作者: summerLast
发布: 2026-01-29
点赞: 0
回复: 0