1. 算子支持列表

本节介绍 AX620A/U 对 ONNX 算子的支持情况.

Operator	CPU or NPU	算子约束	ONNX OpSet
Abs	NPU		v13
Add	NPU	只支持两个输入, shape 需要一致, 支持自动 Boardcast	v13
ArgMax	NPU	输入仅支持四维 tensor, 需要接在 Conv 算子后	v13
ArgMin	NPU	输入仅支持四维 tensor, 需要接在 Conv 算子后	v13
AveragePool	NPU	不支持配置 auto_pad /count_include_pad 属性, 且 pad 必须对称
BatchNormalization	NPU	需要接在 Conv 算子之后
Clip	NPU
Concat	NPU
Conv	NPU	in_channels % groups == 0
		out_channels % groups == 0
		Kernel Size 支持 [1, 18]
		strides 一般取 [[1, 1], [1, 2], [2, 1], [2, 2], [3, 3]], 当 strides = kernel_size, 支持 (n, n) or (n, 1) or (1, n) 的 pattern, (n, 1), (1, n) 的情况下, 要求 n 不等于 2 或者 3
		padding 前的 feature map 的 width <= 8191, 而上下左右, padding top <= 16384
		dilation 后的 kernel_size 也需要小于等于 18, 否则很容易报错
		output_shape 中的 width 要整除 stride_w, 即 output_shape_width % stride_w == 0
		kernel_size_width * kernel_size_height * input_channel <= 65535
ConvTranspose	NPU	不支持 auto_pad 属性, pad 必须对称, dilation 目前只支持配置为 1
DepthToSpace	NPU
Div	NPU	只支持两个输入, shape 需要一致, 支持自动 Boardcast
Flatten	NPU	Flatten 一般搭配 Linear 使用
GRU	CPU
Gemm	NPU
GlobalAveragePool	NPU
GlobalMaxPool	NPU
HardSigmoid	NPU	仅支持接在 Conv 算子之后
Identity	NPU
LRN	CPU
LSTM	CPU / NPU
LeakyRelu	NPU
MatMul	NPU
MaxPool	NPU	不支持配置 storage_order 属性, 且 dilation 目前只支持配置为 1
MaxRoiPool	NPU
Mul	NPU	只支持两个输入, shape 需要一致, 支持自动 Boardcast
PRelu	NPU
Pad	NPU	仅支持 Constant 模式, 可以配置 0 和 -inf, 不支持 reflect、edge 模式
ReduceL2	NPU	仅支持输入为 4D Tensor 的情况
ReduceMax	CPU / NPU	仅支持输入为 4D Tensor 的情况
ReduceMean	CPU / NPU	仅支持输入为 4D Tensor 的情况
ReduceSum	CPU / NPU	仅支持输入为 4D Tensor 的情况
ReLU	NPU
Reshape	NPU	仅支持输入为 3D 或 4D Tensor 的情况
Resize	CPU / NPU
Shape	CPU / NPU
Sigmoid	NPU
Slice	NPU	仅支持步长为 1 的操作
Softmax	CPU / NPU
Softplus	CPU / NPU	仅支持接在 Conv 算子之后
SpaceToDepth	NPU
Sub	NPU	只支持两个输入, shape 需要一致, 支持自动 Boardcast
Tanh	NPU
Tile	CPU / NPU
Transpose	CPU / NPU
Unsqueeze	CPU / NPU