Qwen3 4B 在 6GB 显存上完成近满上下文 15 次测试

Reddit 用户在 6GB GTX 1660 Ti 上用 llama.cpp b11429 运行 Qwen3 4B Q4_K_M，完成 15 次近满上下文测试，全部未发生截断。单会话显存占用 576 MiB，双会话 1152 MiB，模型常驻显存，每个对话独立维护 KV 缓存。 测试覆盖 2K、4K、8K 三个上下文槽位，提示词长度均设为在生成 128 token 后刚好比槽位上限少 1 token，验证了在极限边界下的稳定性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。