系统要求#

本节包含使用 FlagTree 的要求,包括支持的平台和依赖项。只有在满足所有要求的情况下,FlagTree 才能成功安装和运行。

系统软件要求#

您可能需要以下系统软件:

  • Ubuntu

  • Python 3.x

后端、Triton 版本和分支#

每个后端基于不同版本的 Triton,因此位于不同的受保护分支中。所有这些受保护分支具有同等地位。表中列出的每个后端都配备了 CI/CD 运行器。

分支

厂商

后端

Triton 版本

main

NVIDIA
AMD
x86_64 cpu
天数智芯
摩尔线程
KLX
沐曦股份
海光信息

nvidia
amd
triton-shared
iluvatar
mthreads
xpu
metax
hcu

3.1
3.1
3.1
3.1
3.1
3.0
3.0
3.1

triton_v3.2.x

NVIDIA
AMD
华为昇腾
摩尔线程
寒武纪

nvidia
amd
ascend
mthreads
cambricon

3.2

triton_v3.3.x

NVIDIA
AMD
x86_64 cpu
安谋科技
清微智能
燧原
ARM64 cpu

nvidia
amd
triton-shared
aipu
tsingmicro
enflame
cpu

3.3

triton_v3.4.x

NVIDIA
AMD
曦望芯科

nvidia
amd
sunrise

3.4

triton_v3.5.x

NVIDIA
AMD
燧原

nvidia
amd
enflame

3.5

triton_v3.6.x

NVIDIA
AMD
燧原
海光信息
摩尔线程
Thrive

nvidia
amd
enflame
hcu
mthreads
damoacademy

3.6

不同分支上的功能特性#

FlagTree 的扩展组件目前在某些后端上可用:

分支

后端

Triton 版本

扩展组件

triton_v3.6.x

nvidia
enflame

3.6

TLE-Lite
TLE-Struct GPU
TLE-Raw
HINTS

triton_v3.6.x

mthreads

3.6

TLE-Lite
TLE-Struct GPU

triton_v3.2.x

ascend

3.2

TLE-Struct DSA
FLIR
HINTS

triton_v3.3.x

tsingmicro

3.3

TLE-Lite
TLE-Struct DSA
FLIR

triton_v3.3.x

aipu

3.3

FLIR
HINTS

后端集成#

以下后端已集成到 FlagTree 中。对于新厂商,您可以参考以下代码链接进行集成: