本地机器能跑 DeepSeek v4.1flash 或者 Qwen3.8 得多少钱？

RTX 6000 48G *8, 免强能跑 4.1, context 只能稳定在 256K

哈哈哈哈，那可以跑个 qwen3.8-27b 4bit 量化。。。 你随便一张 5090 都多少钱了？ 4090 那些 22g 的 2080ti ，也能跑，但是就相对慢一点，而且上下文不太够

bilibili 搜本地部署有很多视频讲本地部署这个事. 本地部署恼火.

3 万看买内存够不够

本地玩说实话没十几万别折腾没意义, 尤其你还想靠这个赚钱的话

比如配一个专业显卡, 至少 72G, 这卡可能现在就要十万, 再加几万买内存, 至少 256G

新出的 NVIDIA RTX Spark 能跑 4.1 吗？

3 万内可以买那个 amd ai max 495 或者 395, 395 稍微便宜点，跑 qwen3.8 27B 还是挺流畅，40tps ，v4.1 flash 吃点力，参数量大，跑个量化版也能跑

一张 rtx pro 6000 都十几万了，几万预算建议去租机器玩，或者玩玩 qwen 3.8 27b 这种图一乐让它写写黄书还是可以的

https://github.com/Niko1221/Strata/issues?q=is%3Aissue+benchmark 挑个顺眼的配置

搁这做梦呢？？你加两个 0 都不够

@faker5276 不能 也只能跑 qwen 3.8 27b 这种

我现在 m2max 96G 就能跑 q2 量化的 deepseek v4 flash ，4.1 变大了很多，qwen 3.8 flash 能跑 q4 量化的

13 万啊，得是 Mac Studio M5 Ultra 256G 16T(30+64 核)台式机 Z1U5000DG ；就这也不到 100 tok 吞吐啊，你再低配就只有 20-35 tok 了

qwen 3.8 27b 这种小模型，雷霆大思考，思考过程能占满上下文…根本没法用 https://i.imgur.com/krir4IG.png