GoForum › 用户主页

lynn1su

加入时间: 2026-01-13 (9个月前) 当前积分: 100 Lv0

我发现输入大于 256k 以后,反应速度暴降。。目前发现 900k 的时候只有 1t/s 了,950k 只有 0.5t/s 了。。

852K token 的 prompt 被完整接受,而且首尾两个暗号都答对了——说明不是”只取头部”的截断式处理,是真·全上下文注意力,我觉得

查看完整回复 →

@FawkesV #2 但是不是 2.5 pro ,因为我刚测试了,这个模型支持多模态

模型思考链像 mimo 的。

目前,我这边测试发现应该是中国模型,模型参数不大,速度又 60t/s

回复了帖子 mac 本地部署 llm 不是最佳选择 · 1个月前

mac 没法做到 1m 上下文把? api 是可以的

6K 没高刷把?没高刷不得难受死

@v2gba #1 我突然想到 M6 芯片好像不支持雷电 5.。。。

登录后可发帖和回复

登录 注册
用户统计
69
发帖
103
回复
加入于 2026-01-13 (9个月前)