GoForum🌐 V2EX

pro6000 部署 Qwen 3.8 flash next nvfp4

zzutmebwd · 2026-09-03 20:33 · 0 次点赞 · 8 条回复

速度飞快,智力够用,十分好用,唯一的问题是占用了 60G 内存和 92G 显存,影响跑 ocr tts 和 asr 。

https://i.v2ex.co/o20mH2lU.jpeg

https://i.v2ex.co/PQ53WWQA.jpeg

https://i.v2ex.co/Hb4HKtaw.jpeg

https://i.v2ex.co/5lG7X20N.jpeg

https://i.v2ex.co/OyWtb4ai.jpeg

https://i.v2ex.co/e2O250nv.jpeg

用了 12 年 V2EX 今天刚知道传一张图居然要收 20 币…

8 条回复
JasonYip · 2026-09-03 20:38
#1

好羡慕 现在这个卡好贵啊 token 自由了

piapia · 2026-09-03 20:48
#2

这卡年初才 6w 多吧

kekxv · 2026-09-03 20:48
#3

ocr 直接让 qwen 识别按照格式返回就好了啊

SiWXie · 2026-09-03 20:48
#4

羡慕,好奇能部署 glm 5.3 flash 吗?

honjow · 2026-09-03 20:53
#5

羡慕死了

zzutmebwd · 2026-09-03 21:03
#6

@kekxv 通用模型执行 pdf 转 xls 一类的任务不如 mineru 的。

zzutmebwd · 2026-09-03 21:08
#7

@SiWXie 至少需要两张(好像也很紧张,四张比较稳)

marvin520 · 2026-09-03 21:38
#8

羡慕 token 自由

添加回复
你还需要 登录 后发表回复

登录后可发帖和回复

登录 注册
主题信息
作者: zzutmebwd
发布: 2026-09-03
点赞: 0
回复: 0