Goal Plan · 半年计划索引

昇腾研发支撑半年个人目标建议书

推理性能导向 · 模型适配部 → 昇腾研发部门（vllm-ascend 组织，GLM 研发线）

日期：2026-09-23 支撑周期：半年依据：vllm-ascend main（a71b766ce）

〇、总纲（可直接改写进绩效系统的一句话目标）

半年内成为 vllm-ascend 性能调优与问题定位的一线支撑力量：交付 1 本调优手册、1 套分析 playbook、1 套 GLM 系性能基线；完成 ≥6 篇行业演进调研并推动 ≥1 个性能优化点立项、≥1 个 PoC 出数；个人合入 ≥2 个性能类 PR——从“会调参”走到“能定位、能改码、能合入”。

依据：vllm-ascend main 代码（a71b766ce）、ascend_config.py 全量参数、GLM/DS 两案精度定位积累、近期 390 提交热点（PD 分离/层间 KV/双流/融合算子/投机解码/Engram）、SGLang 与 vLLM 上游公开演进。

一

方向一细化：性能调优参数/配置策略 + 性能与精度问题分析手段

O1 · KR1.1 - KR1.4

目标 O1

独立支撑 GLM 系模型在 A3/A5 上的性能调优与达标，并具备性能/精度不达标的系统化定位能力。

KR1.1 参数体系地图 M1-M2

吃透 ascend_config.py（AscendConfig，L226 起）全量参数，按八组建立地图：

①调度

enable_balance_scheduling（调度均衡，GLM-5.1 prefix 案相关）、recompute_scheduler_enable、short_request_first_config（长短请求队列，threshold=256 / 防饿死 long_max_wait_ms）；dyntra_lb_config 内的 bubble_threshold / long_req_block_threshold（气泡控制）；顶层 mega_moe_max_tokens（MoE 融合算子缓冲容量申报）与 enable_reduce_sample（采样去重）。源码教学：params-01 调度类

②多流

ascend_scheduler_config（多流调度）、multistream_dsv4_dsa_overlap、multistream_overlap_shared_expert、enable_cpu_binding

③算子融合

ascend_fusion_config（fuse_qknorm_rope / fuse_norm_quant / fuse_muls_add / fusion_ops_gmmswigluquant）、enable_mlapo + mlapo_keep_prefill_weights（MLAPO 预填充算子融合）、enable_fused_mc2 / enable_mc2_hierarchy_comm / enable_prefill_mc2（通信融合）

④KV 与稀疏

enable_sparse_sfa_c8 / enable_sparse_li_c8（稀疏注意力 C8 打包，GLM-5.1 198k 核心开关）、c8_enable_reshape_optim、enable_kv_nz、enable_transpose_kv_cache_by_block、sparse_kv_offload_config / keep_device_kv_cache / reserve_margin_blocks / reserve_max_blocks

⑤并行与负载均衡

finegrained_tp_config（mlp/qkv/oproj/lmhead/embedding 细粒度分张量，注意与 reduce_sample 的互斥校验）、enable_shared_expert_dp、eplb_config（dynamic_eplb、expert_heat_collection 系列）、dyntra_lb_config

⑥图模式

ascend_compilation_config（enable_npugraph_ex、xlite_graph_config、pa_shape_list、full_mode）、enable_static_kernel

⑦投机解码

rejection_sampler_config、enable_block_verify、enable_entropy_verify、dynamic_spec_config、draft_window_size、posterior_alpha/threshold

⑧精度一致性

enable_training_consistency、enable_batch_invariant

产出：《vllm-ascend 性能调优手册》v1（每参数五要素：机制 + 代码位置 + 默认值 + 调优场景 + 精度关联与生效前提；已有 59 张参数讲解卡打底，升级为可发放部门的手册）

验收：手册覆盖 ≥59 参数；部门内评审一次；GLM 组实际使用反馈 ≥2 条并修订

KR1.2 对照实验矩阵 M2-M3

固定基准：GLM-5.3-Flash（KDA 注意力）/ GLM-5.1-198k（sfa_c8）/ DeepSeek-V4.1-Flash，A3 组网（教程启动参数），aisbench 固定数据集与判分
对关键开关做 A/B：多流调度、balance_scheduling、mlapo、prefix cache、图模式、fusion_config、sfa_c8（×c8_enable_reshape_optim）、细粒度 TP——≥12 组对照

产出：每组吞吐/TPOT/TTFT 数据 + 结论（哪个场景开哪个），进手册“调优场景”栏

KR1.3 分析手段工具化 M1-M3 滚动

性能侧闭环：torch_npu profiler / msprof / MindStudio Insight 采 Timeline → Cube/Vector/通信占比分解 → 定位 top 算子与流间隙 → 对照代码（attention/ops/distributed）→ 给出调参或改码建议
精度侧闭环（方法论已沉淀，内化即可）：CI 取证链（jobs API→job 日志 curl 取证→工件解包→判分行）；先全局对照矩阵（组网×日期）、再双变量对照（开关×版本 2×2 表）；得分形态判读：全零=系统性机制、中间分=渐进/波动机制；phenomena/analysis/suspects 三页分离写报告；每结论必须带日志入口链接

产出：《性能/精度问题定位 playbook》（checklist + 脚本工具包）+ 内化 GLM-5.1 sfa_c8 回归案作为样板（三页报告已有）

KR1.4 实战闭环全程

支撑 ≥4 次真实问题（CI 回归/现网/客户适配）并出复盘；性能回归 24-48h 内给归因或排除项清单

二

方向二细化：行业性能加速演进调研 → 可落地优化点

O2 · KR2.1 - KR2.4

目标 O2

建立行业推理性能演进的持续跟踪机制，识别可在昇腾落地的优化点，推动 ≥1 个立项 + ≥1 个 PoC 出数。

KR2.1 调研矩阵 M2-M4，双周一篇

六条线，每项输出四段式：

1机制

2昇腾适配性（算子/通信/图模式缺口）

3收益预估

4落地代价

调度与执行：SGLang zero-overhead scheduler、TBO 双批重叠（two-batch overlap）、vLLM v1 异步调度；图模式深度（对照我们 ACL Graph 与 UpdatableGraph #16798 的 host 侧参数更新设计）
注意力稀疏化：NSA/DSA/CSA2（DeepSeek V4.1 三模式共享索引）、FlashMLA 类内核、GLM KDA 门控线性注意力——对照 vllm-ascend 的 DSA/SFA/QLI 现状
KV 工程：Mooncake/3FS 式分层 KV 与传输引擎、FP8/FP4 KV（对照 SparseFlashMla 现状仅 BF16）、prefix 全局命中（D2RH #15912、层间 KV pool #16320）
投机解码：EAGLE-3 / MTP / DSpark 多草稿链路、块验证与熵验证（参数已有）——草稿-目标协同的昇腾优化空间
MoE：大 EP 与低时延 all-to-all（DeepEP 风格）、EPLB 动态均衡（参数已有 dynamic_eplb）
编译与算子：torch.compile/TorchAir/AOT、Super Kernel（#16885）、融合算子覆盖面（对照 QLI 开发者指南的编译矩阵裁剪经验）