sentinelK
经此配置后,strata + qwen3.8-flash-next IQ3 这套组合,在驱动 harness 这个领域,除了并发效率以外,已经完美吊打 sglang+qwen3.8-27B-nvfp4 这套传统的全量显存组合。
首先,strata 因为基于 llama.cpp ,所以不存在 m…
opencode 也是,名义上 60$永久,但本质上从官方中转换成了自部署。
tg 只有不到 100t/s ,缓存命中率 95%。更恶心的是上了一些莫名其妙的限制。比如同 session 只能最大 30 张图片。
工具的核心就是得省精力。
目前所有的 Agent 其实本质上都是一件事上的注意力和精度之间的取舍。 你越选择少分担注意力(越多的交给 Agent 定夺),结果精度就越差。
然而现实生活中其实很少有那种需要占用巨大注意力,且可以接受低精度结果的场景。(毕竟你不可能把你所有的数据都交出来)…
@niubilewodev 好奇的就是这个常数,5.71$/秒,其实是可以根据商电(暂定 1 人民币/千瓦时)、卡租金( 5090 4 美金/小时)反推的。大概是等效 5000 张 5090 ,感觉少了点……
决定最终产出倾向和格式的是后训练以及微调。 所以其实理论上讲,只要是开放权重的模型,有硬件,任何人都可以做到楼主说的效果。
但是工程学要讲究性价比。作为一个闭源模型,作恶没必要搞这么复杂。
@Haku 这不光是配套工具那么简单。
1 、你没有官方的运行环境,所以你的显卡利用率一定不如官方。
2 、你没有配套生态,比如 Minimax H3 是有对应的 designer 工具免费提供的。能通过摆 3D 小人精准控制走台和运镜。还能自动生成分镜和剧本。多媒体模型还要缓存素材、生…
LLM 不赚钱。你看各大服务商哪个价格能做到比官网便宜就知道了。尤其是 deepseek 这类。
视频模型自部署的问题是官网其实是一整套流程,但 Minimax H3 只开源了视频生成部分。 如果从工作量上讲,H3 开源的生态只占大概 40%左右。
参加工作 15 年了,我的习惯一直是所有的工作交流全部留痕。 口头交流可以,但我一定会留痕做二次确认。
“Alibaba also used Claude to advance its AI R&D efforts. Alibaba used Claude to help develop its internal infrastructure for model development. Claude…
省流:
你进入了一个餐馆,餐馆需要预储值。 然后,你进去有没有座位,上了座位吃什么,能不能吃饱,什么时候吃饱,最终吃了多少钱,都跟你没关系,餐馆帮你决定。