ai Generator
LLM 显存计算器
估算 7B/14B/32B/70B 模型在不同量化精度和上下文长度下的显存需求。
生成结果
{
"weightsGb": 3.85,
"kvCacheGb": 0.98,
"overheadGb": 1.2,
"totalGb": 6.03,
"recommendedGpu": "推荐 8GB 显卡"
}使用建议
生成结果适合作为起点。上线前请根据实际端口、路径、用户权限、证书位置和安全策略人工确认。
Pre-launch Checklist
LLM 显存部署上线前 checklist
预估显存只是起点，上线前还要确认量化精度、上下文、并发和显存余量。
0/7已完成