补丁模块 (patch/)

一、模块概述

patch目录包含对上游vLLM的补丁，用于适配NPU特性和优化性能。

graph TD
    A[引擎启动] --> B[adapt_patch]
    B --> C[加载平台补丁]
    C --> D[加载Worker补丁]
    D --> E[完成适配]
                

二、文件结构

patch/
├── __init__.py
├── patch_utils.py       # 补丁工具
├── platform/            # 平台级补丁
│   ├── __init__.py
│   └── patch_*.py      # 各种平台补丁
└── worker/              # 工作节点补丁
    ├── __init__.py
    └── patch_*.py      # 各种Worker补丁

三、补丁分类

四、补丁代码示例

graph TD
    A[原始类] --> B[补丁函数]
    B --> C[修改类方法]
    C --> D[新类行为]
                

from vllm.model_executor.models.deepseek_v2 import DeepseekV2Model

def forward(self, input_ids, positions, ...):
    # NPU优化的forward实现
    ...

# 应用补丁
DeepseekV2Model.forward = forward