大模型 / Token 厂
同一批卡更多有效吞吐,先联测再扩卡。
+29–40% 吞吐、TTFT ↓26–32%。分母:Qwen3-Coder-480B-FP8、TP=8、长上下文冷恢复,相对本地 NVMe 单盘(R2/R3 实测)。
芯元一 · 存储加速项目
不先扩卡。全闪 NVMe-oF 阵列加上 KV Cache 分层,把长上下文里被重算浪费的算力还回去。数字全部带分母,报告可下载;先免费联测,用贵司自己的负载验收。
同一批卡更多有效吞吐,先联测再扩卡。
+29–40% 吞吐、TTFT ↓26–32%。分母:Qwen3-Coder-480B-FP8、TP=8、长上下文冷恢复,相对本地 NVMe 单盘(R2/R3 实测)。
冷启动与切模型更快,同样的 GPU 池承载更多租户。
6.2–9.3× 模型加载。分母:华为 Atlas 910B 平台,相对 NFS 基线(DeepSeek-32B 691s→112s、70B 1399s→150s;R9 实测,昇腾平台如实标注)。
租户可核验的差异化;存储投入远小于 GPU。
吞吐与加载数字同上。存储投入约占 GPU 一成内(联测口径,非报价承诺)。FX100 / FX200 / FX300 量产在售;FX400 不得计入在售。
下列四条均出自签字级 / 正式版报告,可在证据库下载原件。没有带宽的形容词不出现在本页。
480B 生产部署形态长上下文冷恢复负载:并发 8 档 +29%(下界)、最优工作点并发 16 档 +40%(上界)、TP4×2 全机口径 +35–36%
480B·TP8 三档并发:TTFT p50 从 10.17–35.73s 降至 7.53–26.35s
重算基线 TTFT p50 149.5s(conc16)对比 FX100 11.85s;吞吐 4.1 对 74.9 tok/s
华为 Atlas 910B 平台:DeepSeek-32B 服务加载 691s → 112s(6.2×)、DeepSeek-70B 1399s → 150s(9.3×)
加速能力来自我方自有产品线而非转售第三方方案:FX 系列全闪 NVMe-oF 阵列量产在售,配套 KV Cache 分层软件栈由我方完成 vLLM + LMCache 源码级适配(含并行读补丁)。规格为厂商口径;正式价格以采购合同为准。
量产在售 · 本轮 MI308X/910B 实测平台
量产在售 · 三档中每 TB 成本最低
量产在售 · PCIe 5.0 性能档(含 DPU×6)
FX400 为 2026-08 测试机、预计 2026 年底量产,不得计入在售型号,也不得写入本轮联测交付清单。
先联测、后决策:门禁化验收,不达标即止损。主门禁与实测带对齐:TTFT 降幅 ≥25%、吞吐提升落在 +29–40% 实测带内;不达标即止损。联测数据与报告归贵司。
全部物料到货点验合格;阵列单台上电自检通过、盘全识别(24/24)
单节点 8 卡推理基线复现(R1 口径 ±10%);单阵列本地压测达实测锚 83% 线效口径
KV 分层加速:TTFT 降幅 ≥25%、吞吐提升落在 +29–40% 实测带内;8 节点共享单阵列回读逼近网卡上限
72h 连续压测无中断;单盘/单链路故障注入业务无感;出具签字版联测报告
R2 / R3 覆盖 480B 吞吐与 TTFT;R9 覆盖相对 NFS 的模型加载(昇腾平台)。R8 为可复现代码与原始数据,应要求提供。
本站内容为商务合作信息展示,不构成投资要约或任何收益承诺。实测数据均出自签字级/正式版测试报告(见证据库);厂商口径、公开口径、估算口径均如实标注。