碎碎念：什么时候硬件+llm 的发展能让码农像部署 nas 一样部署一个家用 llm

现在就可以啊。mac studio m3 ultra 四台联机，2T 内存，轻松部署 kimi k2.5 ，你要是日常用的话 mac mini 部署个小模型就行了

完全有可能, 而且这个需求会被极大的推动. 因为不想数据泄露, 不管是个人还是公司, 都有私有部署大模型的需求.

@sagnitude #1 我觉得主要还得等小模型的性能上来了以后才行吧。现在小模型的性能有点一言难尽。大模型本地部署的话算力需求又太高了

顶尖模型需要非常高的成本来训练 如果顶尖模型开源，谁来付高昂的训练费用 没有资金的支持，模型怎么保持在顶尖位置 得等到了模型瓶颈期了，很难提高了，没有发展了，泡沫破裂了，大批公司倒闭了，那有机会。