GoForum › 用户主页

canyue7897

加入时间: 2026-01-09 (5个月前) 当前积分: 100 Lv0
回复了帖子 自建网络节点的方案选择 · 8天前

用的阿里云,这货不是保证最低多少速度,而是用的多了直接丢包,丢的惨不忍睹。

我们学校涉密的内容,也有部署的私有大模型。虽然不能上网,但是还是可以用私有部署的。

硬件的性能,软件永远可以吃满。token 总有地方把他消耗光。这也是为什么很多巨头拼命造数据中心,因为从长远来看,算力永远不会浪费。如果算力足够,大家各自开发自己的操作系统玩儿都行。别的不多说,但凡有算力,可以并行测试几个大模型,成功率更高。

查看完整回复 →

这么傲娇,A\就自己作吧!

@jinsongzhaocn 我没有开倍速,基本都是五分钟。网络应该不至于,网络用了多年了。

@w568w 你是不是写的东西太多了?本来上下文就 258K ,你如果用了 sub2api 之类的,而不是原生的话,真实推理没有多少 K ,那就只剩压缩了。工具调用都占用几十 K 的上下文。

查看完整回复 →

我咋感觉你的降智了,你看看你的思考时间是多久?我的思考很少低于 5 分钟的。

op 是直接用追求目标模式还是开的 plan 模式?如果直接追求目标,可能会出现这种情况,遇到过跳过指令的情况,不过也没那么夸张。但是开了计划,按道理来说,不应该。

查看完整回复 →

gpt 中转站,主打一个量大管饱不掺假。

登录后可发帖和回复

登录 注册
用户统计
3
发帖
46
回复
加入于 2026-01-09 (5个月前)