sglang-plugin-FL 概述# sglang-plugin-FL 是 SGLang 的树外(OOT)插件,构建于 FlagOS 的统一多芯片后端之上——包括统一算子库 FlagGems 和统一通信库 FlagCX。它将 SGLang 的推理能力扩展到多种硬件平台。无需更改 SGLang 的原始接口或使用方式,同一命令即可在不同芯片上运行模型推理。 功能特性 第一层 — ATen 算子 第二层 — SGLang 融合内核 第三层 — 分布式通信 插件工作原理 加载插件 调度钩子 调度架构(与 vllm-plugin-FL 共享) ATen 替换 项目结构