专题对比目录

每篇以"对比/拆解"视角切入:同一模型/组件在 NVIDIA、AMD、Ascend 三个平台上的实现差异, 或新架构机制的逐层拆解与性能机会分析。 与按模块"从上往下"的讲解(detailed/panorama)、按需求讲述的故事(stories/)互补。

DeepSeek V4.1-Flash 的 CED/CSA2 架构 × vllm-ascend 性能协助点

DeepSeek V4.1-Flash 架构拆解 性能机会点 ×7

CED(20 层因果编码器 + 20 层解码器、KV 由编码器末端投影)与 CSA2(Full/Reindex/Reuse 三模式 + 分层稀疏索引器 + FP4 KV 890B/token)机制拆解,逐条映射到 vllm-ascend 真实代码(a71b766ce); 给出 7 个性能协助机会点:融合 Compressor 扩展、FP4 main KV、A5 CSA 特化、Engram 异步查表、 DSpark 元数据复用、decode 双流深化、CED×PD 分离。

Kimi K3 三平台架构对比解读

Kimi K3 模型对比 源码级

上游 vLLM(NVIDIA/AMD 内建实现)vs vLLM-Ascend 插件:整体架构与平台路由、组件级对比(Attention/KDA/MoE/attn_res)、 继承与替换策略、设计哲学;第 9 章函数级调用链(vs AMD 对照)、第 10 章软件栈分层(Python → CANN → NPU 硬件)。 大图支持一键下载 SVG。

首页