从理论学习到实践验证，探索大模型推理加速技术的前沿领域

11
学习笔记
5
技术领域
3
加速技术
2
实验类型
技术领域
覆盖AI推理优化的核心技术方向
Hardware
GPU与NPU架构
深入分析GPU/NPU的计算单元、内存层次结构，理解硬件对推理性能的影响
GPU架构 → NPU架构 →
Acceleration
推理加速技术
投机解码、动态草稿树等前沿加速方案，显著提升推理吞吐量
投机解码 → EAGLE-2 →
Optimization
算子与编程
融合算子优化、Triton编程实战，从底层提升推理效率
融合算子 → Triton →
学习笔记
系统化的AI推理优化技术学习记录
实验项目
复现前沿论文效果，在此基础上探索更优的推理优化方案
复现
优化
推理优化的核心在于：用更少的计算资源，更快地获得更好的结果。从硬件架构理解计算本质，从算法设计突破性能瓶颈，从工程实践落地优化方案。