要求#
本节包含硬件平台和模型的相关信息。
硬件平台#
FlagScale 设计为与 FlagOS 插件协同工作。虽然 FlagScale 本身没有硬件平台要求,但您应查看计划使用的具体 FlagOS 插件的硬件要求。有关更多信息,请参见 Megatron-LM-FL、TransformerEngine-FL、VeRL-FL 和 vllm-plugin-FL。
支持的模型#
训练#
服务 / 推理#
模型 |
示例配置文件 |
|---|---|
完整列表请参见 https://github.com/flagos-ai/FlagScale/tree/main/examples