GoForum › 用户主页

cwcc

加入时间: 2026-01-15 (3个月前) 当前积分: 100 Lv0

不是算力的问题,是显存太紧张了,只能跑个 7b 左右的才能达到每秒 70-100tok 的速度,跑更大模型受限的情况瓶颈基本全在 PCIe 带宽和显存上。

真要横向比较的话,我自己的 36G 的 MacBook Pro 能跑 qwen3.6035b-a3b 模型,每秒能到 30token ,但…

查看完整回复 →
回复了帖子 对象躺得太平了怎么办? · 4天前

+1 。

https://github.com/ggml-org/llama.cpp/discussions/4167

Mac 跑大模型天梯图。

目前我自己用下来兼顾速度和效果的感觉也就最新的 qwen3.6-35b-a3b 了,需要微调一下模型的参数。

查看完整回复 →
回复了帖子 求助, Fortify 漏扫问题解决 · 1个月前

Fortify 有很大概率误报的,还有一些情况对于边界判断不在那一层的地方产生误报,很大概率要么对方没有人工标记,要么就是故意为难。

查看完整回复 →

Intel 都是无脑升就行了,任何一款都是隔代差距。

回复了帖子 我发现个有意思的事儿 · 1个月前

是不是不小心切换首页的分区到仅“技术”里面了。

回复了帖子 快被 WSL 整麻了 · 1个月前

WSL 黑我又来了。它压根不是一个子系统(在我看来),而只是一个比传统虚拟机更容易安装的轻量虚拟机,涉及到跨操作系统的交互、硬件虚拟化、端口映射、文件系统交互等等诸多问题。

我的解法就是用正经 Linux ,或者正经虚拟机,老老实实把控边界。它不是一个合适的 C 端软件载体,它更适合 Wind…

查看完整回复 →

说难听点就是给人上标签的,强行把人们划分为 16 类,说好听点就是可以让双方有个话题。还有个很重要的原因就是潮,说“内向且经常靠直觉还带着一点理想情感的人”比 INFP 直接打个标签既不酷又冗余。

当然这个东西和星座一样,总体来说都是偏中性的,没有什么特别的贬义,在当今互联网和流行语普遍有贬义…

查看完整回复 →
回复了帖子 你们公司允许在办公电脑养龙虾吗? · 1个月前

个人性质也不行啊,这玩意比木马病毒复杂,比木马病毒安装简单,比木马病毒更容易传播,比木马病毒更容易免杀。

查看完整回复 →

我一直都是原生 Terminal+ssh 党,好处就是随便换电脑也不会影响我的习惯,坏处就是得自己手敲 ssh 命令。

登录后可发帖和回复

登录 注册
用户统计
2
发帖
14
回复
加入于 2026-01-15 (3个月前)