LLM 权重文件大小计算器
输入模型参数量与权重精度,估算模型权重需要多大存储 / 显存。适合快速判断某个模型能否装进你的显卡。
常见模型(点击填入参数量)
M = 百万,B = 十亿,T = 万亿。例如 Llama 3 70B 即 70 B。
权重精度
半精度 float16
权重文件大小(约)
130 GiB
70 B 参数 × FP16(16-bit)
- 比特数(bit)
- 1,120,000,000,000bit
- 字节数(Byte)
- 140,000,000,000B
- GB(十进制)
- 140GB
- GiB(二进制)
- 130.385GiB
1 GB = 10⁹ 字节
1 GiB = 2³⁰ 字节
70B × 16 bit ÷ 8 = 140,000,000,000 字节
计算说明
- 权重大小 = 参数量 × 每参数比特数 ÷ 8。这是纯权重的理论体积。
- 量化格式(GGUF 的 Q4_K_M、GPTQ 等)会附带缩放系数与零点,实际文件通常比理论值大约 5–10%。
- 推理时除权重外还需 KV cache、激活值与框架开销,实际显存占用通常再高 10–20%,长上下文会更多。
- MoE 模型(如 Mixtral、DeepSeek-V3)按总参数量计算磁盘大小;实际激活参数更少。