25GB 内存就能跑 GLM-5.2？我在 RTX 3060 上实测了 744B MoE
先说结论:能跑是真的，能不能用是另一回事，别抱太大期待。 在我的 RTX 3060 开发机上，GLM-5.2 744B 最终跑到了约 0.44 tok/s。工程上挺有意思，但离正常聊天还差得远。 这里的“25GB”是项目宣称的最低量级，不是我的整机占用。本次 Linux 可见约 39GiB，进程 RSS 约 27GB；它适合验证 MoE 路由、缓存和磁盘流式推理，不适合交互聊天或 Agent。 ...
先说结论:能跑是真的，能不能用是另一回事，别抱太大期待。 在我的 RTX 3060 开发机上，GLM-5.2 744B 最终跑到了约 0.44 tok/s。工程上挺有意思，但离正常聊天还差得远。 这里的“25GB”是项目宣称的最低量级，不是我的整机占用。本次 Linux 可见约 39GiB，进程 RSS 约 27GB；它适合验证 MoE 路由、缓存和磁盘流式推理，不适合交互聊天或 Agent。 ...