GoForum › 用户主页
sentinelK
加入时间: 2025-12-27 (7个月前)
当前积分: 100
Lv0
1 、这个模型真的能符合你的需求吗？ 2 、这个设备是统一内存，所以速度非常感人。你能忍受你每轮对话 1 分钟 AI 才吐字，10 分钟给你改一行代码吗？如果能忍你就可以冲。
回复了帖子 lama.cpp 目前有重大性能 bug： checkpoint 的巡回逻辑对于混合模型（比如 qwen3.6-27B）无效，从而导致大概率每次对话都要 prefill 全文，严重拖慢速度
· 2个月前
@zzutmebwd 不错的思路，反过来确实听上去也合理，回头尝试下
回复了帖子 lama.cpp 目前有重大性能 bug： checkpoint 的巡回逻辑对于混合模型（比如 qwen3.6-27B）无效，从而导致大概率每次对话都要 prefill 全文，严重拖慢速度
· 2个月前
@zzutmebwd 肯定不是性能最优解，只是 all in one 的一个玩具妥协产物，不过确实如此，用 windows+wsl 掣肘太多。
回复了帖子 lama.cpp 目前有重大性能 bug： checkpoint 的巡回逻辑对于混合模型（比如 qwen3.6-27B）无效，从而导致大概率每次对话都要 prefill 全文，严重拖慢速度
· 2个月前
@quickfox 确实，我的疏漏，感谢指证
回复了帖子 lama.cpp 目前有重大性能 bug： checkpoint 的巡回逻辑对于混合模型（比如 qwen3.6-27B）无效，从而导致大概率每次对话都要 prefill 全文，严重拖慢速度
· 2个月前
@zzutmebwd 本人用 vllm 运行 nvfp4 ，不知为何总是启动的时候直接拉崩整个 wsl……日志能看到的都是 OOM ，不清楚 vLLm 到底在干什么……
回复了帖子 不懂就问-AI 开发
· 2个月前
“不怕代码泄露吗” 怕的公司不会让用的。而且目前 AI Coding 的用量，在大公司整体有缩紧趋势。
相当于之前的半年到一年属于野蛮生长的探索阶段。现在逐渐趋于冷静了。
“还是说找 openai 、anthropic 这些公司合作的呢，比如签了签企业版合同，更强的数据隔离保障等？”没有…
回复了帖子 问个关于 vibe coding 的问题
· 2个月前
1 、你是一口气迁移还是分模块/功能迁移？是否提示 AI 进行充分的功能一致性测试？ 2 、无逻辑相关的代码本来就无法被梳理，是否给了充足的上下文能体现其逻辑？ 3 、不太懂楼主的“迁移至 Vibe Coding 项目”的概念，楼主既想 Vibe Coding ，又想不丢失“不规范的既定分层规范…
回复了帖子 站里没人看老黄的新电脑吗
· 2个月前
问题一直是 windows on ARM 的生态起不来，十五年前就是如此。 苹果的 ARM 是利用自己的生态优势强行绑架厂商转换的。厂商不跟进你就跟苹果生态说拜拜了。
回复了帖子 AI 写的代码你们是怎么保证质量的？
· 2个月前
简单回答就是，你的公司是如何保证你的代码质量的？不可能再雇一个你吧？ 你公司怎么解决你的代码质量，你就怎么解决 AI 的代码质量。
如果从广义的人才筛选角度上讲，普遍都是这样的。这是劳动人口供给关系决定的。