LLM 权重文件大小计算器

输入模型参数量与权重精度,估算模型权重需要多大存储 / 显存。适合快速判断某个模型能否装进你的显卡。

常见模型(点击填入参数量)

M = 百万,B = 十亿,T = 万亿。例如 Llama 3 70B 即 70 B。

权重精度

半精度 float16

权重文件大小(约)

130 GiB

70 B 参数 × FP1616-bit)

比特数(bit)
1,120,000,000,000bit
字节数(Byte)
140,000,000,000B
GB(十进制)
140GB

1 GB = 10⁹ 字节

GiB(二进制)
130.385GiB

1 GiB = 2³⁰ 字节

70B × 16 bit ÷ 8 = 140,000,000,000 字节

计算说明

  • 权重大小 = 参数量 × 每参数比特数 ÷ 8。这是纯权重的理论体积。
  • 量化格式(GGUF 的 Q4_K_M、GPTQ 等)会附带缩放系数与零点,实际文件通常比理论值大约 5–10%。
  • 推理时除权重外还需 KV cache、激活值与框架开销,实际显存占用通常再高 10–20%,长上下文会更多。
  • MoE 模型(如 Mixtral、DeepSeek-V3)按总参数量计算磁盘大小;实际激活参数更少。