AI硬件商店
浏览迷你电脑、NAS、工作站、服务器和边缘AI硬件——每个系统都可搭配⏻ On Intelligence提供的安装服务和软件创新。
| 图片 | 产品 | 价格 | 容量 |
|---|
了解模型容量
模型容量指AI模型包含的参数数量（例如70B=700亿参数）。更大的模型通常需要更多内存和计算能力，但能提供更强的推理能力和输出质量。
精度（FP16/FP8/FP4）影响模型容量的内存需求：每降低一级精度（FP16→FP8→FP4），内存需求约减半，但会降低输出精度。
| 模型大小 | 标准内存 (FP16) | 标准内存 (FP4) |
|---|---|---|
| ~70B | ~140GB | ~40GB |
| ~120B | ~240GB | ~65GB |
| ~405B | ~810GB | ~220GB |
| ~700B | ~1.4TB | ~380GB |