콘텐츠로 이동

NPU 연산 지원 범위

아래 표는 aries-rb, regulus-ra, regulus-rb의 연산 지원 범위를 보여줍니다. regulus-rb-usb의 연산 지원 범위와 장치별 조건은 regulus-rb와 같습니다. 원본 모델의 연산자는 파싱 과정에서 Mobilint IR 연산으로 변환될 수 있습니다.

표기: ✅ 지원, ❌ 해당 NPU에서 미지원.

지원 연산이라도 모델의 그래프가 공통 입력 조건(4차원 NHWC, 정적 배치 크기 1, bool이 아닌 입력)이나 지원 데이터 형상·속성 범위를 벗어나면 컴파일되지 않을 수 있습니다. 인접 연산과 그래프 변환·제거 결과도 지원 여부에 영향을 줍니다. 모델별 컴파일로 확인하세요. CPU 실행 범위는 CPU 오프로딩을 참조하세요.

ONNX

연산자 aries-rb regulus-ra regulus-rb
Add ✅ ✅ ✅
AveragePool ✅ ✅ ✅
BatchNormalization ✅ ✅ ✅
Celu ✅ ✅ ✅
Clip ✅ ✅ ✅
Concat ✅ ✅ ✅
Conv ✅ ✅ ✅
ConvTranspose ✅ ✅ ✅
Cos ✅ ❌ ✅
DepthToSpace ✅ ✅ ✅
Div ✅ ✅ ✅
Elu ✅ ✅ ✅
Erf ✅ ✅ ✅
Exp ✅ ✅ ✅
Flatten ✅ ✅ ✅
Gelu ✅ ✅ ✅
Gemm ✅ ✅ ✅
GroupNormalization ✅ ✅ ✅
GRU ✅ ✅ ✅
HardSigmoid ✅ ✅ ✅
HardSwish ✅ ✅ ✅
InstanceNormalization ✅ ✅ ✅
LayerNormalization ✅ ✅ ✅
LeakyRelu ✅ ✅ ✅
Log ✅ ✅ ✅
LSTM ✅ ✅ ✅
MatMul ✅ ✅ ✅
Max ✅ ✅ ✅
MaxPool ✅ ✅ ✅
Mul ✅ ✅ ✅
Pow ✅ ✅ ✅
PRelu ✅ ✅ ✅
QuickGelu ✅ ✅ ✅
Reciprocal ✅ ✅ ✅
ReduceMax ✅ ✅ ✅
ReduceMean ✅ ✅ ✅
ReduceMin ✅ ✅ ✅
ReduceSum ✅ ✅ ✅
Relu ✅ ✅ ✅
Reshape ✅ ✅ ✅
Resize ✅ ✅ ✅
RNN ✅ ✅ ✅
Sigmoid ✅ ✅ ✅
Sin ✅ ❌ ✅
Slice ✅ ✅ ✅
Softmax ✅ ❌ ✅
Softplus ✅ ✅ ✅
SpaceToDepth ✅ ✅ ✅
Split ✅ ✅ ✅
Sqrt ✅ ✅ ✅
Squeeze ✅ ✅ ✅
Sub ✅ ✅ ✅
swish ✅ ✅ ✅
Tanh ✅ ✅ ✅
Transpose ✅ ✅ ✅
Unsqueeze ✅ ✅ ✅
Upsample ✅ ✅ ✅

TensorFlow

연산자 aries-rb regulus-ra regulus-rb
Add ✅ ✅ ✅
AddN ✅ ✅ ✅
AddV2 ✅ ✅ ✅
AvgPool ✅ ✅ ✅
BatchMatMul ✅ ✅ ✅
BatchMatMulV2 ✅ ✅ ✅
BatchMatMulV3 ✅ ✅ ✅
BiasAdd ✅ ✅ ✅
ClipByValue ✅ ✅ ✅
Concat ✅ ✅ ✅
ConcatV2 ✅ ✅ ✅
Conv2D ✅ ✅ ✅
Conv2DBackpropInput ✅ ✅ ✅
Cos ✅ ❌ ✅
DepthwiseConv2dNative ✅ ✅ ✅
Div ✅ ✅ ✅
Elu ✅ ✅ ✅
Erf ✅ ✅ ✅
Erfc ✅ ✅ ✅
Exp ✅ ✅ ✅
ExpandDims ✅ ✅ ✅
FusedBatchNorm ✅ ✅ ✅
FusedBatchNormV2 ✅ ✅ ✅
FusedBatchNormV3 ✅ ✅ ✅
Inv ✅ ✅ ✅
LeakyRelu ✅ ✅ ✅
Log ✅ ✅ ✅
MatMul ✅ ✅ ✅
Max ✅ ✅ ✅
Maximum ✅ ✅ ✅
MaxPool ✅ ✅ ✅
Mean ✅ ✅ ✅
Min ✅ ✅ ✅
Minimum ✅ ✅ ✅
Mul ✅ ✅ ✅
Pow ✅ ✅ ✅
RealDiv ✅ ✅ ✅
Reciprocal ✅ ✅ ✅
Relu ✅ ✅ ✅
Relu6 ✅ ✅ ✅
Reshape ✅ ✅ ✅
ResizeBilinear ✅ ✅ ✅
ResizeNearestNeighbor ✅ ✅ ✅
Sigmoid ✅ ✅ ✅
Sin ✅ ❌ ✅
Slice ✅ ✅ ✅
Softmax ✅ ❌ ✅
Softplus ✅ ✅ ✅
Split ✅ ✅ ✅
SplitV ✅ ✅ ✅
Sqrt ✅ ✅ ✅
Square ✅ ✅ ✅
SquaredDifference ✅ ✅ ✅
Squeeze ✅ ✅ ✅
StridedSlice ✅ ✅ ✅
Sub ✅ ✅ ✅
Sum ✅ ✅ ✅
Tanh ✅ ✅ ✅
Transpose ✅ ✅ ✅

TFLite

연산자 aries-rb regulus-ra regulus-rb
ADD ✅ ✅ ✅
AVERAGE_POOL_2D ✅ ✅ ✅
BATCH_MATMUL ✅ ✅ ✅
CONCATENATION ✅ ✅ ✅
CONV_2D ✅ ✅ ✅
COS ✅ ❌ ✅
DEPTHWISE_CONV_2D ✅ ✅ ✅
DIV ✅ ✅ ✅
ELU ✅ ✅ ✅
EXP ✅ ✅ ✅
EXPAND_DIMS ✅ ✅ ✅
FULLY_CONNECTED ✅ ✅ ✅
GELU ✅ ✅ ✅
HARD_SWISH ✅ ✅ ✅
LEAKY_RELU ✅ ✅ ✅
LOG ✅ ✅ ✅
LOGISTIC ✅ ✅ ✅
MAX_POOL_2D ✅ ✅ ✅
MAXIMUM ✅ ✅ ✅
MEAN ✅ ✅ ✅
MINIMUM ✅ ✅ ✅
MUL ✅ ✅ ✅
POW ✅ ✅ ✅
PRELU ✅ ✅ ✅
REDUCE_MAX ✅ ✅ ✅
REDUCE_MIN ✅ ✅ ✅
RELU ✅ ✅ ✅
RELU6 ✅ ✅ ✅
RELU_0_TO_1 ✅ ✅ ✅
RELU_N1_TO_1 ✅ ✅ ✅
RESHAPE ✅ ✅ ✅
RESIZE_BILINEAR ✅ ✅ ✅
RESIZE_NEAREST_NEIGHBOR ✅ ✅ ✅
SIN ✅ ❌ ✅
SLICE ✅ ✅ ✅
SOFTMAX ✅ ❌ ✅
SPLIT ✅ ✅ ✅
SPLIT_V ✅ ✅ ✅
SQRT ✅ ✅ ✅
SQUARE ✅ ✅ ✅
SQUARED_DIFFERENCE ✅ ✅ ✅
SQUEEZE ✅ ✅ ✅
STRIDED_SLICE ✅ ✅ ✅
SUB ✅ ✅ ✅
SUM ✅ ✅ ✅
TANH ✅ ✅ ✅
TRANSPOSE ✅ ✅ ✅
TRANSPOSE_CONV ✅ ✅ ✅

Mobilint IR

연산자 aries-rb regulus-ra regulus-rb
Adding ✅ ✅ ✅
AddingConstant ✅ ✅ ✅
Batchnorm ✅ ✅ ✅
Celu ✅ ✅ ✅
Clip ✅ ✅ ✅
Concatenate ✅ ✅ ✅
Convolution ✅ ✅ ✅
Cos ✅ ❌ ✅
DepthwiseConvolution ✅ ✅ ✅
Div ✅ ✅ ✅
DivConstant ✅ ✅ ✅
Elu ✅ ✅ ✅
Erf ✅ ✅ ✅
Exp ✅ ✅ ✅
Gelu ✅ ✅ ✅
GroupConvolution ✅ ✅ ✅
GroupNormalization ✅ ✅ ✅
HardSigmoid ✅ ✅ ✅
HardSwish ✅ ✅ ✅
HeaderView ✅ ✅ ✅
HeaderViewRevert ✅ ✅ ✅
Input ✅ ✅ ✅
InputConstant ✅ ✅ ✅
InstanceNormalization ✅ ✅ ✅
InverseSigmoid ✅ ✅ ✅
L1Normalization ✅ ✅ ✅
L2Normalization ✅ ✅ ✅
LayerNormalization ✅ ✅ ✅
LeakyRelu ✅ ✅ ✅
Log ✅ ✅ ✅
MatMul ✅ ✅ ✅
Mish ✅ ✅ ✅
Multiply ✅ ✅ ✅
MultiplyConstant ✅ ✅ ✅
OrderedPatchify ✅ ✅ ✅
Output ✅ ✅ ✅
Pad ✅ ✅ ✅
Pooling ✅ ✅ ✅
Pow ✅ ✅ ✅
PRelu ✅ ✅ ✅
QuickGelu ✅ ✅ ✅
ReduceMax ✅ ✅ ✅
ReduceMean ✅ ✅ ✅
ReduceMin ✅ ✅ ✅
ReduceSum ✅ ✅ ✅
RelShift ✅ ✅ ✅
Relu ✅ ✅ ✅
Reshape ✅ ✅ ✅
Resize ✅ ✅ ✅
RmsNormalization ✅ ✅ ✅
Sigmoid ✅ ✅ ✅
Sin ✅ ❌ ✅
Slice ✅ ✅ ✅
Softmax ✅ ❌ ✅
Softplus ✅ ✅ ✅
Sqrt ✅ ✅ ✅
StaggeredPadding ✅ ✅ ✅
StatefulAttentionMaskWrapper ✅ ✅ ✅
StatefulCachedStack ✅ ✅ ✅
StatefulGRUWrapper ✅ ✅ ✅
StatefulKVCacheWrapper ✅ ✅ ✅
StatefulLSTMWrapper ✅ ✅ ✅
StatefulRNNWrapper ✅ ✅ ✅
StatefulRoPEWrapper ✅ ✅ ✅
Sub ✅ ✅ ✅
SubConstant ✅ ✅ ✅
Swish ✅ ✅ ✅
Tan ✅ ✅ ✅
Tanh ✅ ✅ ✅
Transpose ✅ ✅ ✅
TransposeConvolution ✅ ✅ ✅

Mobilint IR 연산의 입력, 속성, 출력과 동작식은 Mobilint IR 연산 형식을 참조하세요.