芯元一
芯元一技术架构
EN

TECHNICAL BRIEF · 对照 NVIDIA CMX

存算加速超大缓存池

溢出显存的 KV Cache 不重算,落到 G2.5 上下文存储层。CMX 与 FX 补的都是这一层。

算力机柜:上部为 GPU 算力节点,下部为芯元一 FX 存储服务器GPU 算力节点芯元一 FX 存储服务器
10–30%
有效计算

即使部署一百万张 GPU,真正用于计算的时间大概也只有 10% 到 30%。

金正浩(Joungho Kim)· KAIST · 行业称「HBM 之父」 · 《东亚日报》专访 · 2026-07 转述

公开趋势:算力 vs 存储

  • 算力 FLOP/s
  • 存储带宽
  • 存储容量
×1×4×16201620182020202220242026×3.8
×20.4算力 · 2.3 年×5.4带宽 · 4.1 年×3.8剪刀差 · 十年

两边都补 G2.5。都不替代 HBM。

带宽:HBM/DRAM 为厂商峰值;G2.5 为 R1 实测;本地盘为 PCIe Gen4 单盘级;NFS 由 R9 加载时推算。GPU 利用率 46.7%→62.8% 为 R1(20 次/小时切换)。

KV Cache 下沉,不重算 RDMA直连存储 命中即预取回显存

同一层。不同绑定。

5× 与 Token 产量翻倍分母不同,不能横比。

NVIDIA CMX

公开 / 厂商口径报道 2026 下半年
最高约 5×相对「传统存储」· 基线未公开

芯元一 FX

签字实测在售
Token 产量翻倍相对无外存重算 · R2
全 NVIDIA Rubin先评估原厂 CMX
国产 / 异构算力FX 已实测、现可交付
现在就要联测十周门禁,不达标即止损

NVIDIA 数字为厂商公开口径,基线未披露。芯元一数字全部附报告编号(R1–R9),接受复验。不构成贬损或替代承诺。金正浩原话为行业公开判断,不是芯元一实测;利用率 46.7%→62.8% 才是 R1。 NVIDIA CMX 产品页 · NVIDIA Technical Blog · T客邦转述《东亚日报》金正浩专访 · Epoch AI · Trends in ML hardware(2023)

可核验材料

验收报告全文免费下载。下面两张表是厂商公开规格,用来对照卡型,不是我方实测吞吐。

多模型 Token 供给能力与性能验收测试报告(对外正式版 V2.3)全文免费。与证据库 R1–R9 的付费 PDF 不是同一套文件。

MI308X 与 H20 的厂商规格对照表
MI308X、MI325X、MI350、MI355 与对应 NVIDIA 型号的厂商规格对照表

厂商公开规格对照,不是我方实测吞吐,也不是相对英伟达的成交倍数。