要求#

支持的硬件#

平台

设备

描述

NVIDIA

CUDA GPU

完整功能支持(默认)

MetaX

MetaX GPU

MetaX 平台

Moore Threads

MUSA GPU

Moore Threads MUSA 平台

TXDA

Tsingmicro GPU

Tsingmicro TXDA 平台

NPU

Ascend NPU

Ascend 910B / CANN 8.0+

操作系统#

Linux(官方),WSL2(有限支持)

软件#

  • Python >= 3.10(推荐 3.12)

  • PyTorch >= 2.3

  • CUDA >= 12.1(NVIDIA GPU),或 MUSA SDK(Moore Threads / MetaX),或 CANN 8.0+(NPU)

  • TransformerEngine(可选,用于 TE 加速层)

源码构建要求#

  • CMake 3.18+

  • Git 2.17+