跳转至主要内容
回到顶部
Ctrl
+
K
← 返回 FlagOS 文档
← 返回 FlagOS 文档
搜索
Ctrl
+
K
vllm-plugin-FL 文档
📑 发布说明
发布说明
📚 指南
vllm-plugin-FL 概览
特性
算子调度机制
快速入门
要求
安装运行推理任务所需的软件
运行推理任务
Qwen2.5-1.5B 在 Iluvatar BI-V150 上的推理
算子调度用户指南
快速开始
配置后端选择
策略上下文管理
添加新算子和厂商后端
📖 参考文档
调度 API 参考
索引
