GPUFits
English

大模型显存计算器

精确计算任意大模型的显存需求：按量化档位与上下文长度分解权重、KV 缓存与系统开销。免费、数据可溯源、无需注册。

大模型显存计算器
总需求
3.9GB
Llama 3.2 3.21B · Q4_K_M · 4K
权重
2.0 GB 50%
KV 缓存
0.5 GB 12%
系统开销
1.5 GB 38%

许多运行时的默认上下文小于模型上限（例如 Ollama 默认仅 2048 token），实际占用以你的配置为准。