@realJamespond udq6kl,kvq8,mtp3,c64k 这个配置你主要是用在什么场景？ 我这里的话 c64k 太小了，写代码一直在那 compact ，然后 kvq8 100tok/s 的 prefill 速度我写代码平均 ttft 都要 100 多秒，有点难受。
@jhytxy 是 gemma4-31B 吗？我看 AA 上面的 Intelligence Index 还蛮低的，满血才 30 分，上一代的 qwen3.6-27B 满血都有 38 分了。他的 Q4 的会比 Qwen3.8-27B 的 Q8 量化还厉害吗？ 上一代的 Qwen3.6-27B-Q4 对我来说也是不可用的状态。3.8 我这几天用下来感觉是达到可用水平了。
@GuardX 12G 能跑 q2 吧，上下文应该能到 128k ，不行就将降低到 64k ，kv 应该也只能跑 q4 （ q8 理论占用就要 8G 显存了），但我觉得 q2 写代码的话还是不太行的，你日常对话玩玩还行。
