芯元一

芯元一 · 存储加速项目

同一批 GPU,多产出可计费推理

不先扩卡。全闪 NVMe-oF 阵列加上 KV Cache 分层,把长上下文里被重算浪费的算力还回去。数字全部带分母,报告可下载;先免费联测,用贵司自己的负载验收。

对方能拿到什么

大模型 / Token 厂

同一批卡更多有效吞吐,先联测再扩卡。

+29–40% 吞吐、TTFT ↓26–32%。分母:Qwen3-Coder-480B-FP8、TP=8、长上下文冷恢复,相对本地 NVMe 单盘(R2/R3 实测)。

MaaS / 多模型平台

冷启动与切模型更快,同样的 GPU 池承载更多租户。

6.2–9.3× 模型加载。分母:华为 Atlas 910B 平台,相对 NFS 基线(DeepSeek-32B 691s→112s、70B 1399s→150s;R9 实测,昇腾平台如实标注)。

智算中心 / IDC

租户可核验的差异化;存储投入远小于 GPU。

吞吐与加载数字同上。存储投入约占 GPU 一成内(联测口径,非报价承诺)。FX100 / FX200 / FX300 量产在售;FX400 不得计入在售。

签字级实测(带分母)

下列四条均出自签字级 / 正式版报告,可在证据库下载原件。没有带宽的形容词不出现在本页。

+29–40%
KV 分层加速推理吞吐提升

480B 生产部署形态长上下文冷恢复负载:并发 8 档 +29%(下界)、最优工作点并发 16 档 +40%(上界)、TP4×2 全机口径 +35–36%

实测· R2/R3 实测
TTFT ↓26–32%
首 token 延迟降低

480B·TP8 三档并发:TTFT p50 从 10.17–35.73s 降至 7.53–26.35s

实测· R2 实测
8.6–20×
对无外存重算的加速倍数

重算基线 TTFT p50 149.5s(conc16)对比 FX100 11.85s;吞吐 4.1 对 74.9 tok/s

实测· R2 实测
6.2–9.3×
模型推理加载加速(vs NFS)

华为 Atlas 910B 平台:DeepSeek-32B 服务加载 691s → 112s(6.2×)、DeepSeek-70B 1399s → 150s(9.3×)

实测· R9 实测(昇腾平台)

测试平台与对照基线

GPU
8 × AMD Instinct MI308X(每卡 192 GB HBM,gfx942)
推理栈
vLLM 0.20.1+rocm721 · LMCache(上游主线 2026-06-29 源码编译)
被测件
芯元一 FX100 全闪 NVMe-oF 阵列:4 盘 RAID0(14 TB, XFS),RoCEv2,单口 100 GbE
基线
本地 NVMe 单盘(PCIe Gen4, 2 TB);无外存重算
模型
Qwen3-Coder-480B-FP8(MoE,权重 ≈450 GB)

产品边界

加速能力来自我方自有产品线而非转售第三方方案:FX 系列全闪 NVMe-oF 阵列量产在售,配套 KV Cache 分层软件栈由我方完成 vLLM + LMCache 源码级适配(含并行读补丁)。规格为厂商口径;正式价格以采购合同为准。

FX100

量产在售

量产在售 · 本轮 MI308X/910B 实测平台

FX200

量产在售

量产在售 · 三档中每 TB 成本最低

FX300

量产在售

量产在售 · PCIe 5.0 性能档(含 DPU×6)

FX400

2026-08 初出测试机,2026 年底量产

FX400 为 2026-08 测试机、预计 2026 年底量产,不得计入在售型号,也不得写入本轮联测交付清单。

FX 系列规格与参考价 →

下一步:免费 PoC / 门禁化联测

先联测、后决策:门禁化验收,不达标即止损。主门禁与实测带对齐:TTFT 降幅 ≥25%、吞吐提升落在 +29–40% 实测带内;不达标即止损。联测数据与报告归贵司。

  1. G1 · 第 2 周
    到货验收

    全部物料到货点验合格;阵列单台上电自检通过、盘全识别(24/24)

  2. G2 · 第 4 周
    单机基线

    单节点 8 卡推理基线复现(R1 口径 ±10%);单阵列本地压测达实测锚 83% 线效口径

  3. G3 · 第 7 周
    联测主门禁

    KV 分层加速:TTFT 降幅 ≥25%、吞吐提升落在 +29–40% 实测带内;8 节点共享单阵列回读逼近网卡上限

  4. G4 · 第 10 周
    稳定性与验收

    72h 连续压测无中断;单盘/单链路故障注入业务无感;出具签字版联测报告

证据库

R2 / R3 覆盖 480B 吞吐与 TTFT;R9 覆盖相对 NFS 的模型加载(昇腾平台)。R8 为可复现代码与原始数据,应要求提供。

联系人:王利民 · 13161818898 · mingxin@agentmail.to

本站内容为商务合作信息展示,不构成投资要约或任何收益承诺。实测数据均出自签字级/正式版测试报告(见证据库);厂商口径、公开口径、估算口径均如实标注。