[旧巴黎]最近的动态
16GB 显存跑 Agent:从 Ollama 换到 llama.cpp 部署 Qwen3.6-35B 全记录
Qwen3.8-27B 的 KV 成本 260 KiB/token,16GB 卡被锁死在 16K 上下文,跑不了 agent。换成 GatedDeltaNet 架构的 Qwen3.6-35B-A3B,KV 降到 20 KiB/token,l…
参与讨论{{item.data.meta.comment}}条讨论