首页注册登录

GoForum › 用户主页

sentinelK

加入时间: 2025-12-27 (9个月前) 当前积分: 100 Lv0

发帖 (16) 回复 (153) 积分流水

你好 NVFP4： strata-0.1.44.1， qwen3.8-flash-next， rtx pro 5000 48GB + 64GB RAM， decode 130t/s， prefill2600 t/s

🌐 V2EX 8天前 0 回复

strata 极致优化指南（参数篇）64GB RAM + RTX pro 5000 48GB， IQ3_XXS 量化， prefill 4500t/s， decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill

🌐 V2EX 14天前 0 回复

“马鞍税”，一篇非常有意思的 harness 横比文章

🌐 V2EX 1个月前 0 回复

很好奇小米开放的这个实时训练监控器，其中成本（cost）的组成： https://mimo.xiaomi.com/rl/#overview

🌐 V2EX 1个月前 0 回复

deepseek-flash 的第三方跑分趣闻

🌐 V2EX 1个月前 0 回复

Hermes Agent 9 月更新纪实： bot 机制补全了 hermes 的最后一块基石，产品功能设计逐渐向 GUI 倾斜。

🌐 V2EX 1个月前 0 回复

mac m5 ultra 上线中国官网。1.2T 显存带宽， 256GB 版本 8.6 万

🌐 V2EX 1个月前 0 回复

RTX PRO 5000（或其他 48GB 显存）的 Qwen3.8-27B-FP8 配置交流（prefill 5000+t/s， decode 60+t/s）

🌐 V2EX 2个月前 0 回复

我开源了一个 deepseek harness 插件，解决挂接 sglang/vllm 时，角色冲突的问题

🌐 V2EX 2个月前 0 回复

OpenCode go 订阅开始区分模型提供额度， kimi-k3、deepseek-v4-pro 等只有 15$的额度，请各位注意用量。

🌐 V2EX 3个月前 0 回复

第 1 / 2 页下一页 →

登录后可发帖和回复

登录注册

用户统计

16

发帖

153

回复

加入于 2025-12-27 (9个月前)