GoForum › 用户主页
sentinelK
加入时间: 2025-12-27 (7个月前)
当前积分: 100
Lv0
回复了帖子 有一台 16 寸 m1max 64g+1T 满 GPU 的 MacBook Pro 适合部署哪个本地模型
· 3个月前
mlx 的 qwen3.6-35B-A3B 试试看
因为 LLM 的工程实践有个自证陷阱。
你没法证明你的 Agent 流程,或者说工程化产品相比裸模型/竞品是更优、更有效的。 所有人都在吹自己对于 LLM 落地的思路有多么高大上。但聊到实际产出又都阳痿了,因为他们没法对实际产出负责。
但是有一些思想还是有一定的启发作用。
比如任…
回复了帖子 我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现
· 4个月前
这个机制和 llama.cpp 的 – fit on 区别是?
回复了帖子 我发现程序员这个群体很大部分其实挺抠的
· 4个月前
因为开发程序的特性就是认理性参数,不认感性价值。
显得更“抠”是因为很多领域的消费品,感型价值比重实在太大。甚至部分领域会出现倒挂(实际性能更差的产品,因为品牌、营销策略等原因更贵)
回复了帖子 现在小程序开发的价格大概是多少
· 4个月前
要看你功能的。
1 、接不接收银厨打? 2 、能不能线上支付? 3 、能不能支持多人同点?拼桌? 4 、接不接库存?
以上都决定最终价格和成本。
回复了帖子 AI 时代,开源项目安全性如何保证
· 4个月前
反过来讲,不管是什么项目,以后都应该用 AI 产品先进行一遍 review 。
常言道,道高一尺魔高一丈。
回复了帖子 使用 ai 编程后的感想和困惑
· 4个月前
0 、这是趋势,解放生产力,核心就是要解放。但是前提是你要知道什么该解放,什么该攥在手里。资本家从来不会解放自己的人脉和渠道。
1 、所以在使用中应该合理的优化上下文。给 AI 一个明确的任务目标与界限。目前网上用 token 去砸 AI 许愿的风气追不得。最后要么大炮打蚊子,要么产出的内容全…
回复了帖子 龙虾还没玩明白,爱马仕又来了
· 4个月前
再反转一下,以上是基于消费者视角。基于 LLM 模型提供者的视角来看,他们立于不败之地。
市面上有更好的工程化实践,就吸纳到自己的嫡系 app 中。 市面上有不利于自己利益的工程化实践,就禁掉。 市场出现了现象级产品?换个模型版本。直接负优化废掉他,自己在做一个。
“知道了工具怎么用,然后探索把工具用起来和用好。 那么人类本能对未知的神秘感和焦虑感也就自然消除”
不会的。 因为目前 LLM 的模式对于消费者而言是全黑盒模式。消费者唯一只知道,调用了某个公司的一个 API 服务。
数据输入输出是否被污染?不知道。 数据究竟被什么模型加工?不知道。…