各位推荐一个 32G Macbook air M5 可以跑的 moe 模型

能用的太慢，快得太蠢

我是 M1Pro 32G ，实际测下来主要还是内存都不太够。 moe 测下来 gemma4-26b 也就差不多了，qwen3.6-35b 内存就很极限了，上下文拉不大，还不能开多了东西。 dense 模型我跑不动，速度太慢了。

本地模型没啥用，跑的起的太蠢，不蠢的本地跑成本更高。等 AI 模型相对成熟后 AI ASIC 普及吧

不是降智，是 32G 也不太够，本地模型要带起来内存还得上，能带起来的，要么很拉，要么很慢

air：你饶了我吧

没风扇，咋跑

32G 跑起来的模型太拉了

https://github.com/ggml-org/llama.cpp/discussions/4167

Mac 跑大模型天梯图。

目前我自己用下来兼顾速度和效果的感觉也就最新的 qwen3.6-35b-a3b 了，需要微调一下模型的参数。

本地能跑起来的，只有弱智，你看不上。 不弱智的，本地根本跑不起来。

本地能跑起来的模型，只有一些方向特化的，比如某些模型，只能做分类，只能做某种识别，这种特化过的模型，本地才有可能跑起来，且有意义。