用于机器学习工作负载的专用加速器。

设备在单核或多核 CPU 上运行 NNAPI 模型。

设备可以运行 NNAPI 模型，也可以加速图形 API（如 OpenGL ES 和 Vulkan）。

设备不属于以下任何类别。

无法提供设备类型。

Android O-MR1 中可用的 NNAPI 规范，Android NNAPI 功能级别 1。

Android P 中可用的 NNAPI 规范，Android NNAPI 功能级别 2。

Android Q 中可用的 NNAPI 规范，Android NNAPI 功能级别 3。

Android R 中可用的 NNAPI 规范，Android NNAPI 功能级别 4。

Android S 中可用的 NNAPI 规范，Android NNAPI 功能级别 5。

在 Android S 之后，NNAPI 规范可以在 Android API 版本之间更新。

Android NNAPI 功能级别 6。

Android NNAPI 功能级别 7。

Android NNAPI 功能级别 8。

无融合激活函数。

融合 ReLU 激活函数。

融合 ReLU1 激活函数。

融合 ReLU6 激活函数。

一个 8 位布尔标量值。

此操作数类型的值为 true 或 false。零值表示 false；任何其他值表示 true。

自 NNAPI 功能级别 3 起可用。

一个 IEEE 754 16 位浮点标量值。

自 NNAPI 功能级别 3 起可用。

一个 32 位浮点标量值。

一个带符号的 32 位整数标量值。

对模型的引用。

设置此类型操作数的值时必须使用 ANeuralNetworksModel_setOperandValueFromModel。

自 NNAPI 功能级别 4 起可用。

一个 8 位布尔值张量。

此操作数类型的值为 true 或 false。零值表示 false；任何其他值表示 true。

自 NNAPI 功能级别 3 起可用。

一个 IEEE 754 16 位浮点值张量。

自 NNAPI 功能级别 3 起可用。

一个 32 位浮点值张量。

一个 32 位整数值张量。

一个表示实数的 16 位无符号整数张量。

此张量附加了两个数字，可用于将 16 位整数转换为实值，反之亦然。这两个数字是

• scale：一个大于零的 32 位浮点值。
• zeroPoint：一个 32 位整数，范围为 [0, 65535]。

公式为：real_value = (integer_value - zeroPoint) * scale。

自 NNAPI 功能级别 3 起可用。

一个表示实数的 16 位有符号整数张量。

此张量附加了一个表示实值比例的数字，用于通过以下方式将 16 位数字转换为实值：realValue = integerValue * scale。

scale 是一个大于零的 32 位浮点值。

自 NNAPI 功能级别 3 起可用。

一个表示实数的 8 位无符号整数张量。

此张量附加了两个数字，可用于将 8 位整数转换为实值，反之亦然。这两个数字是

• scale：一个大于零的 32 位浮点值。
• zeroPoint：一个 32 位整数，范围为 [0, 255]。

公式为：real_value = (integer_value - zeroPoint) * scale。

一个表示实数的 8 位有符号整数张量。

此张量附加了两个数字，可用于将 8 位整数转换为实值，反之亦然。这两个数字是

• scale：一个大于零的 32 位浮点值。
• zeroPoint：一个 32 位整数，范围为 [-128, 127]。

公式为：real_value = (integer_value - zeroPoint) * scale。

自 NNAPI 功能级别 4 起可用。

一个表示实数的 8 位有符号整数张量。

此张量附加了一个表示实值比例的数字，用于通过以下方式将 8 位数字转换为实值：realValue = integerValue * scale。

scale 是一个大于零的 32 位浮点值。

自 NNAPI 功能级别 3 起可用。

一个表示实数的 8 位有符号整数张量。

此张量关联了附加字段，可用于将 8 位有符号整数转换为实值，反之亦然。这些字段是

• channelDim：一个指示通道维度的 32 位无符号整数。
• scales：正 32 位浮点值数组。scales 数组的大小必须等于 dimensions[channelDim]。

设置此类型操作数的参数时必须使用 ANeuralNetworksModel_setOperandSymmPerChannelQuantParams。

此张量的通道维度不能是未知（dimensions[channelDim] != 0）。

公式为：realValue[..., C, ...] = integerValue[..., C, ...] * scales[C]，其中 C 是通道维度的索引。

自 NNAPI 功能级别 3 起可用。

一个无符号的 32 位整数标量值。

逐元素计算张量的绝对值。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起。

输入

• 0：一个张量。

输出

• 0：与 input0 形状相同的输出张量。

自 NNAPI 功能级别 3 起可用。

逐元素添加两个张量。

接受两个具有相同 OperandCode 和兼容维度的输入张量。输出是两个输入张量之和，可选择通过激活函数进行修改。

当两个维度满足以下条件之一时兼容

1. 它们相等，或者
2. 其中一个为 1

输出的大小是输入操作数沿每个维度的最大大小。它从尾部维度开始，向前推进。

示例

input1.dimension = {4, 1, 2}
input2.dimension = {5, 4, 3, 1}
output.dimension = {5, 4, 3, 2}

自 NNAPI 功能级别 3 起，支持泛型零大小输入张量。零维度仅与 0 或 1 兼容。如果任一对应输入维度为零，则输出维度的大小为零。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）
• ANEURALNETWORKS_TENSOR_INT32（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0：一个张量。
• 1：一个与 input0 具有相同 OperandCode 和兼容维度的张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scales 和 zeroPoint 可以与 input0 的 scale 和 zeroPoint 不同。
• 2：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。对于 ANEURALNETWORKS_TENSOR_INT32 张量，FuseCode 必须为“NONE”。

输出

• 0：总和，一个与 input0 具有相同 OperandCode 的张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 可以与输入张量的 scale 和 zeroPoint 不同。

自 NNAPI 功能级别 1 起可用。

返回沿轴的最小元素的索引。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

输入

• 0：一个 n 维张量，指定输入。不能为空。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定要缩减的轴。负索引用于指定从末尾开始的轴（例如，-1 表示最后一个轴）。必须在 [-n, n) 范围内。

输出

• 0：一个 (n - 1) 维 ANEURALNETWORKS_TENSOR_INT32 张量。如果输入是一维的，则输出形状为 [1]。

自 NNAPI 功能级别 3 起可用。

返回沿轴的最大元素的索引。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

输入

• 0：一个 n 维张量，指定输入。不能为空。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定要缩减的轴。负索引用于指定从末尾开始的轴（例如，-1 表示最后一个轴）。必须在 [-n, n) 范围内。

输出

• 0：一个 (n - 1) 维 ANEURALNETWORKS_TENSOR_INT32 张量。如果输入是一维的，则输出形状为 [1]。

自 NNAPI 功能级别 3 起可用。

执行二维平均池化操作。

输出维度是滤波器维度、步幅和填充的函数。

输出张量中的值计算如下

output[b, i, j, channel] =
    sum_{di, dj}(
        input[b, strides[1] * i + di, strides[2] * j + dj, channel]
    ) / sum(1)

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：4，采用“NHWC”或“NCHW”数据布局。默认数据布局 NHWC 的数据存储顺序为：[批次，高度，宽度，通道]。或者，数据布局可以是 NCHW，数据存储顺序为：[批次，通道，高度，宽度]。NCHW 自 NNAPI 功能级别 3 起受支持。

显式填充和隐式填充都受支持。

输入（显式填充）

• 0：一个 4 维张量，形状为 [批次，高度，宽度，深度]，指定输入。自 NNAPI 功能级别 3 起，此张量支持零批次。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度上的左侧填充。
• 2：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度上的右侧填充。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度上的顶部填充。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度上的底部填充。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入的步幅。
• 6：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入的步幅。
• 7：一个 ANEURALNETWORKS_INT32 标量，指定滤波器宽度。
• 8：一个 ANEURALNETWORKS_INT32 标量，指定滤波器高度。
• 9：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 10：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 功能级别 3 起可用。

输入（隐式填充）

• 0：一个 4 维张量，形状为 [批次，高度，宽度，深度]，指定输入。自 NNAPI 功能级别 3 起，此张量支持零批次。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定隐式填充方案，必须是 PaddingCode 值之一。
• 2：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入的步幅。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入的步幅。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定滤波器宽度。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定滤波器高度。
• 6：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 7：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 功能级别 3 起可用。

输出

• 0：输出 4 维张量，形状为 [批次，out_height，out_width，深度]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 1 起可用。

使用边界框增量转换轴对齐的边界框提案。

给定边界框提案的位置和每个类别的相应边界框增量，返回细化的边界框区域。结果边界框会裁剪到图像的边缘。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT16_ASYMM

输入

• 0：一个 2 维张量，形状为 [num_rois, 4]，指定边界框提案的位置，每行格式为 [x1, y1, x2, y2]。对于 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 类型的张量，zeroPoint 必须为 0，scale 必须为 0.125。此张量支持零 num_rois。
• 1：一个 2 维张量，形状为 [num_rois, num_classes * 4]，指定每个感兴趣区域和每个类别的边界框增量。边界框增量的组织顺序为 [dx, dy, dw, dh]，其中 dx 和 dy 是边界框中心位置相对于宽度和高度的相对校正因子，dw 和 dh 是宽度和高度的对数比例相对校正因子。对于类型为 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 的 input0，此张量应为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 或 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED。此张量支持零 num_rois。
• 2：一个 1 维 ANEURALNETWORKS_TENSOR_INT32 张量，形状为 [num_rois]，指定每个框的批次索引。具有相同批次索引的框将分组在一起。此张量支持零 num_rois。
• 3：一个 2 维张量，形状为 [batches, 2]，指定批次中每张图像的信息，每行格式为 [image_height, image_width]。

输出

• 0：一个与 input0 具有相同 OperandCode 的张量，形状为 [num_rois, num_classes * 4]，指定每个类别每个输出边界框的坐标，格式为 [x1, y1, x2, y2]。对于 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 类型，scale 必须为 0.125，zero point 必须为 0。

自 NNAPI 功能级别 3 起可用。

成批执行两个张量的乘法。

将两个输入张量的所有切片相乘，并将各个结果排列在同一批次大小的单个输出张量中。同一批次中的每对切片具有相同的 OperandCode。每个切片在乘法之前都可以选择进行伴随 (转置和共轭)。

两个输入张量和输出张量必须是二维或更高维度，并具有相同的批次大小。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED
• ANEURALNETWORKS_TENSOR_INT32

支持的张量维度：至少 2 且最多 4

输入

• 0：一个具有二维或更高维度形状 [..., r_x, c_x] 的张量。
• 1：一个具有二维或更高维度形状 [..., r_y, c_y] 的张量。它与 input0 具有相同的 OperandCode 和批次大小。
• 2：一个可选的 ANEURALNETWORKS_BOOL 标量 adj_x，默认为 false。设置为 true 以伴随 input0 的切片。
• 3：一个可选的 ANEURALNETWORKS_BOOL 标量 adj_y，默认为 false。设置为 true 以伴随 input1 的切片。

输出

• 0：一个具有二维或更高维度形状 [..., r_o, c_o] 的张量，其中 r_o = c_x 如果 adj_x 为 true 否则为 r_x，c_o = r_y 如果 adj_y 为 true 否则为 c_y。

自 NNAPI 功能级别 6 起可用。

N 维张量的 BatchToSpace。

此操作将批次维度（维度 0）重塑为 M + 1 个维度，形状为 block_shape + [batch]，然后将这些块交织回空间维度 [1, ..., M] 定义的网格中，从而获得与输入具有相同维度的结果。

这是 SpaceToBatch 的反向操作。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：4，采用“NHWC”或“NCHW”数据布局。默认数据布局 NHWC 的数据存储顺序为：[批次，高度，宽度，通道]。或者，数据布局可以是 NCHW，数据存储顺序为：[批次，通道，高度，宽度]。NCHW 自 NNAPI 功能级别 3 起受支持。

输入

• 0：一个 n 维张量，指定要重塑的张量。
• 1：一个 ANEURALNETWORKS_TENSOR_INT32 的 1 维张量，输入张量每个空间维度的块大小。所有值必须 >= 1。
• 2：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 API 级别 29 起可用。

输出

• 0：一个与 input0 具有相同 OperandCode 的张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 2 起可用。

一种循环神经网络层，以正向和反向方向将 LSTM 单元应用于输入序列。

该操作支持通过辅助输入进行交叉链接。常规单元将一个输入馈送到两个 RNN 单元，方式如下：

  INPUT  (INPUT_REVERSED)
    |         |

| FW_LSTM BW_LSTM |

| | FW_OUT BW_OUT

带有交叉链接的操作接受两个输入，并以前馈到 RNN 单元的方式馈送它们：

  AUX_INPUT   (AUX_INPUT_REVERSED)
      |             |
INPUT | (INPUT_R'D.)|
  |   |       |     |

| FW_LSTM BW_LSTM |

| | FW_OUT BW_OUT

仅当存在辅助输入和辅助权重时，才会启用交叉链接模式。将此操作堆叠在其自身之上时，这允许将先前单元的正向和反向输出连接到下一个单元的输入。

由于支持 NNAPI 特性级别 4 的并行链接模式，当辅助输入存在但辅助权重被省略时，该模式启用。在这种情况下，单元格以下列方式将输入馈送到 RNN 中：

  INPUT (AUX_INPUT_REVERSED)
    |         |

| FW_LSTM BW_LSTM |

| | FW_OUT BW_OUT

将此操作堆叠在自身之上时，这允许将前一单元格的正向和反向输出都连接到下一单元格的相应输入。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量秩：3，可以是时间优先 (time-major) 或批量优先 (batch-major)。

所有输入和输出张量必须具有相同的类型。

输入

• 0：输入。一个 3-D 张量，形状为：如果时间优先：[max_time, batch_size, input_size]；如果批量优先：[batch_size, max_time, input_size]。其中“max_time”是时间步数（序列长度），“batch_size”对应于批量维度，“input_size”是输入的大小。
• 1：正向输入到输入权重。可选。一个 2-D 张量，形状为 [fw_num_units, input_size]，其中“fw_num_units”对应于正向单元格的数量。
• 2：正向输入到遗忘门权重。一个 2-D 张量，形状为 [fw_num_units, input_size]。
• 3：正向输入到单元格权重。一个 2-D 张量，形状为 [fw_num_units, input_size]。
• 4：正向输入到输出权重。一个 2-D 张量，形状为 [fw_num_units, input_size]。
• 5：正向循环到输入权重。可选。一个 2-D 张量，形状为 [fw_num_units, fw_output_size]，其中“fw_output_size”对应于单元格数量（即 fw_num_units），或者如果定义了“fw_projection_weights”，则对应于“fw_projection_weights”的第二个维度。
• 6：正向循环到遗忘门权重。一个 2-D 张量，形状为 [fw_num_units, fw_output_size]。
• 7：正向循环到单元格权重。一个 2-D 张量，形状为 [fw_num_units, fw_output_size]。
• 8：正向循环到输出权重。一个 2-D 张量，形状为 [fw_num_units, fw_output_size]。
• 9：正向单元格到输入权重。可选。一个 1-D 张量，形状为 [fw_num_units]。
• 10：正向单元格到遗忘门权重。可选。一个 1-D 张量，形状为 [fw_num_units]。
• 11：正向单元格到输出权重。可选。一个 1-D 张量，形状为 [fw_num_units]。
• 12：正向输入门偏置。可选。一个 1-D 张量，形状为 [fw_num_units]。
• 13：正向遗忘门偏置。一个 1-D 张量，形状为 [fw_num_units]。
• 14：正向单元格门偏置。一个 1-D 张量，形状为 [fw_num_units]。
• 15：正向输出门偏置。一个 1-D 张量，形状为 [fw_num_units]。
• 16：正向投影权重。可选。一个 2-D 张量，形状为 [fw_output_size, fw_num_units]。
• 17：正向投影偏置。可选。一个 1-D 张量，形状为 [fw_output_size]。
• 18：反向输入到输入权重。可选。一个 2-D 张量，形状为 [bw_num_units, input_size]，其中“bw_num_units”对应于反向单元格的数量。
• 19：反向输入到遗忘门权重。一个 2-D 张量，形状为 [bw_num_units, input_size]。
• 20：反向输入到单元格权重。一个 2-D 张量，形状为 [bw_num_units, input_size]。
• 21：反向输入到输出权重。一个 2-D 张量，形状为 [bw_num_units, input_size]。
• 22：反向循环到输入权重。可选。一个 2-D 张量，形状为 [bw_num_units, bw_output_size]，其中“bw_output_size”对应于单元格数量（即“bw_num_units”），或者如果定义了“bw_projection_weights”，则对应于“bw_projection_weights”的第二个维度。
• 23：反向循环到遗忘门权重。一个 2-D 张量，形状为 [bw_num_units, bw_output_size]。
• 24：反向循环到单元格权重。一个 2-D 张量，形状为 [bw_num_units, bw_output_size]。
• 25：反向循环到输出权重。一个 2-D 张量，形状为 [bw_num_units, bw_output_size]。
• 26：反向单元格到输入权重。可选。一个 1-D 张量，形状为 [bw_num_units]。
• 27：反向单元格到遗忘门权重。可选。一个 1-D 张量，形状为 [bw_num_units]。
• 28：反向单元格到输出权重。可选。一个 1-D 张量，形状为 [bw_num_units]。
• 29：反向输入门偏置。可选。一个 1-D 张量，形状为 [bw_num_units]。
• 30：反向遗忘门偏置。一个 1-D 张量，形状为 [bw_num_units]。
• 31：反向单元格门偏置。一个 1-D 张量，形状为 [bw_num_units]。
• 32：反向输出门偏置。一个 1-D 张量，形状为 [bw_num_units]。
• 33：反向投影权重。可选。一个 2-D 张量，形状为 [bw_output_size, bw_num_units]。
• 34：反向投影偏置。可选。一个 1-D 张量，形状为 [bw_output_size]。
• 35：正向输入激活状态。一个 2-D 张量，形状为 [batch_size, bw_output_size]。
• 36：正向输入单元格状态。一个 2-D 张量，形状为 [batch_size, bw_num_units]。
• 37：反向输入激活状态。一个 2-D 张量，形状为 [batch_size, bw_output_size]。
• 38：反向输入单元格状态。一个 2-D 张量，形状为 [batch_size, bw_num_units]。
• 39：辅助输入。可选。一个 3-D 张量，形状为 [max_time, batch_size, aux_input_size]，其中“batch_size”对应于批量维度，“aux_input_size”是辅助输入的大小。可选。使用模式说明请参阅上面的文档。
• 40：正向辅助输入到输入权重。可选。使用模式说明请参阅上面的文档。一个 2-D 张量，形状为 [fw_num_units, aux_input_size]。
• 41：正向辅助输入到遗忘门权重。可选。使用模式说明请参阅上面的文档。一个 2-D 张量，形状为 [fw_num_units, aux_input_size]。
• 42：正向辅助输入到单元格权重。可选。使用模式说明请参阅上面的文档。一个 2-D 张量，形状为 [fw_num_units, aux_input_size]。
• 43：正向辅助输入到输出权重。可选。使用模式说明请参阅上面的文档。一个 2-D 张量，形状为 [fw_num_units, aux_input_size]。
• 44：反向辅助输入到输入权重。可选。使用模式说明请参阅上面的文档。一个 2-D 张量，形状为 [bw_num_units, aux_input_size]。
• 45：反向辅助输入到遗忘门权重。可选。使用模式说明请参阅上面的文档。一个 2-D 张量，形状为 [bw_num_units, aux_input_size]。
• 46：反向辅助输入到单元格权重。可选。使用模式说明请参阅上面的文档。一个 2-D 张量，形状为 [bw_num_units, aux_input_size]。
• 47：反向辅助输入到输出权重。可选。使用模式说明请参阅上面的文档。一个 2-D 张量，形状为 [bw_num_units, aux_input_size]。
• 48：激活函数。一个表示激活函数的值
  • 0：无；
  • 1：Relu；
  • 3：Relu6；
  • 4：Tanh；
  • 6：Sigmoid。
• 49：单元格状态的裁剪阈值，使值限制在 [-cell_clip, cell_clip] 范围内。如果设置为 0.0，则禁用裁剪。如果所有输入张量的类型为 ANEURALNETWORKS_TENSOR_FLOAT32，此标量必须为 ANEURALNETWORKS_FLOAT32 类型，否则，如果所有输入张量的类型为 ANEURALNETWORKS_TENSOR_FLOAT16，此标量必须为 ANEURALNETWORKS_FLOAT16 类型。
• 50：投影层输出的裁剪阈值，使值限制在 [-proj_clip, proj_clip] 范围内。如果设置为 0.0，则禁用裁剪。如果所有输入张量的类型为 ANEURALNETWORKS_TENSOR_FLOAT32，此标量必须为 ANEURALNETWORKS_FLOAT32 类型，否则，如果所有输入张量的类型为 ANEURALNETWORKS_TENSOR_FLOAT16，此标量必须为 ANEURALNETWORKS_FLOAT16 类型。
• 51：merge_outputs。一个 ANEURALNETWORKS_BOOL 标量，指定是否合并正向和反向单元格的输出。
• 52：time_major。一个 ANEURALNETWORKS_BOOL 标量，指定输入和输出张量的形状格式。
• 53：正向输入层归一化权重。可选。一个 1-D 张量，形状为 [fw_num_units]。用于重新缩放输入门激活的归一化输入。
• 54：正向遗忘门层归一化权重。可选。一个 1-D 张量，形状为 [fw_num_units]。用于重新缩放遗忘门激活的归一化输入。
• 55：正向单元格层归一化权重。可选。一个 1-D 张量，形状为 [fw_num_units]。用于重新缩放单元格门激活的归一化输入。
• 56：正向输出门层归一化权重。可选。一个 1-D 张量，形状为 [fw_num_units]。用于重新缩放输出门激活的归一化输入。
• 57：反向输入层归一化权重。可选。一个 1-D 张量，形状为 [bw_num_units]。用于重新缩放输入门激活的归一化输入。
• 58：反向遗忘门层归一化权重。可选。一个 1-D 张量，形状为 [bw_num_units]。用于重新缩放遗忘门激活的归一化输入。
• 59：反向单元格层归一化权重。可选。一个 1-D 张量，形状为 [bw_num_units]。用于重新缩放单元格门激活的归一化输入。
• 60：反向输出门层归一化权重。可选。一个 1-D 张量，形状为 [bw_num_units]。用于重新缩放输出门激活的归一化输入。

输出

• 0：正向输出。一个 3-D 张量，形状为：如果时间优先且不合并输出：[max_time, batch_size, fw_output_size]；如果时间优先且合并输出：[max_time, batch_size, fw_output_size + bw_output_size]；如果批量优先且不合并输出：[batch_size, max_time, fw_output_size]；如果批量优先且合并输出：[batch_size, max_time, fw_output_size + bw_output_size]。
• 1：反向输出。如果 merge_outputs 为 true，则未使用。一个 3-D 张量，形状为：如果时间优先：[max_time, batch_size, bw_output_size]；如果批量优先：[batch_size, max_time, bw_output_size]。
• 2：正向激活状态输出。一个 2-D 张量，形状为 [batch_size, fw_output_size]，包含序列中最后一个时间步的激活状态。此输出是可选的，可以省略。如果此输出存在，则输出 3-5 也必须存在。自 NNAPI 特性级别 4 起可用。
• 3：正向单元格状态输出。一个张量，形状为 [batch_size, fw_cell_size]，包含序列中最后一个时间步的单元格状态。此输出是可选的，可以省略。如果此输出存在，则输出 2、4、5 也必须存在。自 NNAPI 特性级别 4 起可用。
• 4：反向激活状态输出。一个 2-D 张量，形状为 [batch_size, bw_output_size]，包含序列中最后一个时间步的激活状态。此输出是可选的，可以省略。如果此输出存在，则输出 2、3、5 也必须存在。自 NNAPI 特性级别 4 起可用。
• 5：反向单元格状态输出。一个张量，形状为 [batch_size, bw_cell_size]，包含序列中最后一个时间步的单元格状态。此输出是可选的，可以省略。如果此输出存在，则输出 2-4 也必须存在。自 NNAPI 特性级别 4 起可用。

自 NNAPI 功能级别 3 起可用。

重要提示：截至 NNAPI 特性级别 3，无法获取输出状态张量，NNAPI 也不维护内部状态。此操作不支持多单元格链式连接并传播状态张量的使用模式。

一个循环神经网络层，对前向和反向输入序列应用基本 RNN 单元格。

此 Op 沿序列维度展开输入，并为序列中的每个元素 s = 1...sequence_length 实现以下操作：fw_outputs[s] = fw_state = activation(inputs[s] * fw_input_weights’ + fw_state * fw_recurrent_weights’ + fw_bias)

并为序列中的每个元素 t = sequence_length : 1 实现以下操作：bw_outputs[t] = bw_state = activation(inputs[t] * bw_input_weights’ + bw_state * bw_recurrent_weights’ + bw_bias)

其中：

• “{fw,bw}_input_weights”是与输入相乘的权重矩阵；
• “{fw,bw}_recurrent_weights”是与当前“状态”相乘的权重矩阵，“状态”本身是前一个时间步计算的输出；
• “{fw,bw}_bias”是偏置向量（添加到批次中的每个输出向量）；
• “activation”是作为“fused_activation_function”参数传入的函数（如果不是“NONE”）。

该操作支持通过辅助输入进行交叉链接。常规单元将一个输入馈送到两个 RNN 单元，方式如下：

  INPUT  (INPUT_REVERSED)
    |         |

| FW_RNN BW_RNN |

| | FW_OUT BW_OUT

带有交叉链接的操作接受两个输入，并以前馈到 RNN 单元的方式馈送它们：

  AUX_INPUT   (AUX_INPUT_REVERSED)
      |             |
INPUT | (INPUT_R'D.)|
  |   |       |     |

| FW_RNN BW_RNN |

| | FW_OUT BW_OUT

仅当存在辅助输入和辅助权重时，才会启用交叉链接模式。将此操作堆叠在其自身之上时，这允许将先前单元的正向和反向输出连接到下一个单元的输入。

由于支持 NNAPI 特性级别 4 的并行链接模式，当辅助输入存在但辅助权重被省略时，该模式启用。在这种情况下，单元格以下列方式将输入馈送到 RNN 中：

  INPUT (AUX_INPUT_REVERSED)
    |         |

| FW_RNN BW_RNN |

| | FW_OUT BW_OUT

将此操作堆叠在自身之上时，这允许将前一单元格的正向和反向输出都连接到下一单元格的相应输入。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

所有输入张量必须具有相同的类型。

输入

• 0：输入。一个 3-D 张量。形状由输入 6 (timeMajor) 定义。如果设置为 true，则输入形状为 [maxTime, batchSize, inputSize]，否则输入形状为 [batchSize, maxTime, inputSize]。
• 1：fwWeights。一个 2-D 张量，形状为 [fwNumUnits, inputSize]。
• 2：fwRecurrentWeights。一个 2-D 张量，形状为 [fwNumUnits, fwNumUnits]。
• 3：fwBias。一个 1-D 张量，形状为 [fwNumUnits]。
• 4：fwHiddenState。一个 2-D 张量，形状为 [batchSize, fwNumUnits]。指定计算的第一个时间步的隐藏状态输入。
• 5：bwWeights。一个 2-D 张量，形状为 [bwNumUnits, inputSize]。
• 6：bwRecurrentWeights。一个 2-D 张量，形状为 [bwNumUnits, bwNumUnits]。
• 7：bwBias。一个 1-D 张量，形状为 [bwNumUnits]。
• 8：bwHiddenState。一个 2-D 张量，形状为 [batchSize, bwNumUnits]。指定计算的第一个时间步的隐藏状态输入。
• 9：auxInput。一个 3-D 张量。形状由输入 6 (timeMajor) 定义。如果设置为 true，则输入形状为 [maxTime, batchSize, auxInputSize]，否则输入形状为 [batchSize, maxTime, auxInputSize]。可以省略。使用模式说明请参阅上面的文档。
• 10：fwAuxWeights。一个 2-D 张量，形状为 [fwNumUnits, auxInputSize]。可以省略。使用模式说明请参阅上面的文档。
• 11：bwAuxWeights。一个 2-D 张量，形状为 [bwNumUnits, auxInputSize]。可以省略。使用模式说明请参阅上面的文档。
• 12：fusedActivationFunction。一个 FuseCode 值，表示激活函数。如果指定为“NONE”，则结果为线性激活。
• 13：timeMajor。一个 ANEURALNETWORKS_BOOL 标量，指定输入和输出张量的形状格式。
• 14：mergeOutputs。一个 ANEURALNETWORKS_BOOL 标量，指定正向和反向单元格的输出是分开的（如果设置为 false）还是连接在一起的（如果设置为 true）。输出
• 0：fwOutput。一个 3-D 张量。形状的前两个维度由输入 6 (timeMajor) 定义，第三个维度由输入 14 (mergeOutputs) 定义。如果 timeMajor 设置为 true，则前两个维度为 [maxTime, batchSize]，否则为 [batchSize, maxTime]。如果 mergeOutputs 设置为 true，则第三个维度等于 (fwNumUnits + bwNumUnits)，否则设置为 fwNumUnits。
• 1：bwOutput。一个 3-D 张量。如果输入 14 (mergeOutputs) 设置为 true，则不生成此张量。形状由输入 6 (timeMajor) 定义。如果设置为 true，则形状为 [maxTime, batchSize, bwNumUnits]，否则形状为 [batchSize, maxTime, bwNumUnits]。
• 2：正向隐藏状态输出。一个 2-D 张量，形状为 [batchSize, fwNumUnits]，包含序列中最后一个时间步的隐藏状态。此输出是可选的，可以省略。如果此输出存在，则输出 3 也必须存在。自 NNAPI 特性级别 4 起可用。
• 3：反向隐藏状态输出。一个 2-D 张量，形状为 [batchSize, bwNumUnits]，包含序列中最后一个时间步的隐藏状态。此输出是可选的，可以省略。如果此输出存在，则输出 2 也必须存在。自 NNAPI 特性级别 4 起可用。

自 NNAPI 功能级别 3 起可用。

重要提示：截至 NNAPI 特性级别 3，无法获取输出状态张量，NNAPI 也不维护内部状态。此操作不支持多单元格链式连接并传播状态张量的使用模式。

按得分降序贪婪选择边界框子集。

此操作对每个类别应用 NMS 算法。在每次执行循环中，选择得分最高的框并将其从待处理集合中移除。根据与先前选择的框的交并比 (IOU) 重叠以及指定的 NMS 核方法降低其余框的得分。任何得分低于阈值的框都将从待处理集合中移除。

支持三种 NMS 核：

• 硬 NMS (Hard): score_new = score_old * (如果 IoU < 阈值则为 1，否则为 0)
• 线性 NMS (Linear): score_new = score_old * (如果 IoU < 阈值则为 1，否则为 1 - IoU)
• 高斯 NMS (Gaussian): score_new = score_old * exp(- IoU^2 / sigma)

轴对齐边界框由其左上角坐标 (x1,y1) 和右下角坐标 (x2,y2) 表示。有效的边界框应满足 x1 <= x2 且 y1 <= y2。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

输入

• 0：一个 2-D 张量，形状为 [num_rois, num_classes]，指定每个边界框提议的得分。框在第一维度按批次分组。此张量支持 num_rois 为零。
• 1：一个 2-D 张量，指定边界框，形状为 [num_rois, num_classes * 4]，按 [x1, y1, x2, y2] 的顺序组织。框在第一维度按批次分组。框的顺序与 input0 对应。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 的 input0，此张量应为 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 类型，零点为 0，比例为 0.125。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 的 input0，此张量应为 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 类型，零点为 -128，比例为 0.125。此张量支持 num_rois 为零。
• 2：一个 1-D ANEURALNETWORKS_TENSOR_INT32 张量，形状为 [num_rois]，指定每个框的批次索引。具有相同批次索引的框被分组在一起。
• 3：一个 ANEURALNETWORKS_FLOAT32 标量，score_threshold。得分低于此阈值的框在发送到 NMS 算法之前会被过滤。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定每个图像选定的最大边界框数量。设置为负值表示输出边界框数量无限制。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定 NMS 核方法，选项包括 0:硬 (hard)，1:线性 (linear)，2:高斯 (gaussian)。
• 6：一个 ANEURALNETWORKS_FLOAT32 标量，指定硬核和线性 NMS 核中的 IoU 阈值。如果选择了高斯核，则忽略此字段。
• 7：一个 ANEURALNETWORKS_FLOAT32 标量，指定高斯 NMS 核中的 sigma。如果未选择高斯核，则忽略此字段。
• 8：一个 ANEURALNETWORKS_FLOAT32 标量，nms_score_threshold。在软 NMS 的得分更新阶段，得分低于此阈值的框会被丢弃。

输出

• 0：一个 1-D 张量，与 input0 具有相同的 OperandCode，形状为 [num_output_rois]，指定每个输出框的得分。框按批次分组，但每个批次内的顺序不保证。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 或 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型，比例和零点必须与 input0 相同。
• 1：一个 2-D 张量，与 input1 具有相同的 OperandCode，形状为 [num_output_rois, 4]，指定每个输出边界框的坐标，格式与 input1 相同。框的顺序与 output0 对应。对于 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 类型，比例必须为 0.125，零点必须为 0。
• 2：一个 1-D ANEURALNETWORKS_TENSOR_INT32 张量，形状为 [num_output_rois]，指定每个输出框的类别。框的顺序与 output0 对应。
• 3：一个 1-D ANEURALNETWORKS_TENSOR_INT32 张量，形状为 [batches]，指定每个批次的有效输出检测数量。具有相同批次索引的框被分组在一起。

自 NNAPI 功能级别 3 起可用。

将张量强制转换为某种类型。

此操作忽略量化张量的比例 (scale) 和零点 (zeroPoint)，例如，它将类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 的输入视为 uint8 值的张量。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• 自 NNAPI 特性级别 4 起，支持将以下 OperandCode 类型的张量强制转换为相同的 OperandCode 类型：ANEURALNETWORKS_TENSOR_QUANT8_ASYMM。
• ANEURALNETWORKS_TENSOR_BOOL8
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT16_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT16_SYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED
• ANEURALNETWORKS_TENSOR_QUANT8_SYMM

支持的张量维度：从 1 起

输入

• 0：一个张量。

输出

• 0：与 input0 形状相同的张量。

自 NNAPI 功能级别 3 起可用。

打乱输入张量的通道。

给定输入张量和一个整数值 num_groups，CHANNEL_SHUFFLE 将通道维度分成 num_groups 组，并通过将每组中具有相同索引的通道组合在一起来重新组织通道。

沿通道维度，输出使用以下公式计算：

output_channel[k * num_groups + g] = input_channel[g * group_size + k]

其中 group_size = num_channels / num_groups。

通道数必须可被 num_groups 整除。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量，指定要打乱的张量。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定组数。
• 2：一个 ANEURALNETWORKS_INT32 标量，指定将执行通道打乱的维度。负索引用于指定从末尾开始的轴（例如，-1 表示最后一个轴）。必须在 [-n, n) 范围内。

输出

• 0：与 input0 具有相同 OperandCode 和相同形状的张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，比例和零点必须与 input0 相同。

自 NNAPI 功能级别 3 起可用。

沿给定维度连接输入张量。

输入张量必须具有相同的 OperandCode 和除连接轴外的相同维度。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• 支持的张量类型：ANEURALNETWORKS_TENSOR_QUANT8_ASYMM（自 NNAPI 特性级别 3 起完全支持，参见输入部分）
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0 ~ n-1：n 个输入张量的列表，形状为 [D0, D1, ..., Daxis(i), ..., Dm]。在 NNAPI 特性级别 3 之前，所有 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型的输入张量必须与输出张量具有相同的比例和零点。允许 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型的输入张量具有不同的比例和零点。自 NNAPI 特性级别 3 起，支持零尺寸张量。
• n：一个 ANEURALNETWORKS_INT32 标量，指定连接轴。

输出

• 0：输出，与输入张量具有相同 OperandCode 的张量。输出形状为 [D0, D1, ..., sum(Daxis(i)), ..., Dm]。自 NNAPI 特性级别 3 起，对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 张量，比例和零点值可以与输入张量不同。在 NNAPI 特性级别 3 之前，它们必须与输入张量相同。

自 NNAPI 功能级别 1 起可用。

执行 2-D 卷积操作。

CONV_2D 操作会扫过一个可以将通道混合在一起的 2-D 滤波器，将其应用于一批图像，对每个图像的适当大小的每个窗口应用滤波器。

输出维度是滤波器维度、步幅和填充的函数。

输出张量中的值计算如下

output[b, i, j, channel] =
    sum_{di, dj, k} (
        input[b, strides[1] * i + di, strides[2] * j + dj, k] *
        filter[channel, di, dj, k]
    ) + bias[channel]

支持的张量 OperandCode 配置：

• 32 位浮点：
• * ANEURALNETWORKS_TENSOR_FLOAT32 用于输入、滤波器、输出和偏置。
• 量化：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 用于输入、滤波器和输出。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 input.scale * filter.scale）。
• * input.scale * filter.scale)。

自 NNAPI 特性级别 3 起可用

• 16 位浮点：
• * ANEURALNETWORKS_TENSOR_FLOAT16 用于输入、滤波器、输出和偏置。
• 对滤波器使用对称逐通道量化进行量化：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 用于输入和输出。
• * ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 用于滤波器。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 0.0，每个值的比例单独设置，等于 input.scale * filter.scales[channel]）。
• * 每个值的缩放是独立的，等于 input.scale * filter.scales[channel])。

自 NNAPI 特性级别 4 起可用

• 量化有符号（自 NNAPI 特性级别 4 起）：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 用于输入、滤波器和输出。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 input.scale * filter.scale）。
• * input.scale * filter.scale)。
• 带滤波器对称逐通道量化的量化有符号（自 NNAPI 特性级别 4 起）：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 用于输入和输出。
• * ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 用于滤波器。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 0.0，每个值的比例单独设置，等于 input.scale * filter.scales[channel]）。
• * 每个值的缩放是独立的，等于 input.scale * filter.scales[channel])。

支持的张量维度：4，采用“NHWC”或“NCHW”数据布局。默认数据布局 NHWC 的数据存储顺序为：[批次，高度，宽度，通道]。或者，数据布局可以是 NCHW，数据存储顺序为：[批次，通道，高度，宽度]。NCHW 自 NNAPI 功能级别 3 起受支持。

显式填充和隐式填充都受支持。

输入（显式填充）

• 0：一个 4-D 张量，形状为 [batches, height, width, depth_in]，指定输入。自 NNAPI 特性级别 3 起，此张量支持零批次。
• 1：一个 4-D 张量，形状为 [depth_out, filter_height, filter_width, depth_in]，指定滤波器。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 的张量，通道维度 (ANeuralNetworksSymmPerChannelQuantParams::channelDim) 必须设置为 0。
• 2：一个 1-D 张量，形状为 [depth_out]，指定偏置。对于类型为 ANEURALNETWORKS_TENSOR_FLOAT32 或 ANEURALNETWORKS_TENSOR_FLOAT16 的输入张量，偏置必须是相同类型。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32，零点为 0，bias_scale == input_scale * filter_scale。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32，零点为 0，bias_scale 为 0。每个值“i”的实际比例等于 bias_scale[i] = input_scale * filter_scale[i]。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定“宽度”维度左侧的填充。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定“宽度”维度右侧的填充。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定“高度”维度顶部的填充。
• 6：一个 ANEURALNETWORKS_INT32 标量，指定“高度”维度底部的填充。
• 7：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入时的步长。
• 8：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入时的步长。
• 9：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 10：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 功能级别 3 起可用。
• 11：一个可选的 ANEURALNETWORKS_INT32 标量，指定宽度的膨胀因子。默认为 1。如果设置为 k > 1，则宽度维度上每个滤波器元素之间将跳过 k-1 个单元格。如果设置了此输入，则输入 12（高度的膨胀因子）也必须指定。自 NNAPI 特性级别 3 起可用。
• 12：一个可选的 ANEURALNETWORKS_INT32 标量，指定高度的膨胀因子。默认为 1。如果设置为 k > 1，则高度维度上每个滤波器元素之间将跳过 k-1 个单元格。如果设置了此输入，则输入 11（宽度的膨胀因子）也必须指定。自 NNAPI 特性级别 3 起可用。

输入（隐式填充）

• 0：一个 4-D 张量，形状为 [batches, height, width, depth_in]，指定输入。自 NNAPI 特性级别 3 起，此张量支持零批次。
• 1：一个 4-D 张量，形状为 [depth_out, filter_height, filter_width, depth_in]，指定滤波器。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 的张量，通道维度 (ANeuralNetworksSymmPerChannelQuantParams::channelDim) 必须设置为 0。
• 2：一个 1-D 张量，形状为 [depth_out]，指定偏置。对于类型为 ANEURALNETWORKS_TENSOR_FLOAT32 或 ANEURALNETWORKS_TENSOR_FLOAT16 的输入张量，偏置必须是相同类型。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32，零点为 0，bias_scale == input_scale * filter_scale。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32，零点为 0，bias_scale 为 0。每个值“i”的实际比例等于 bias_scale[i] = input_scale * filter_scale[i]。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定隐式填充方案，必须是 PaddingCode 值之一。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入时的步长。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入时的步长。
• 6：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 7：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 功能级别 3 起可用。
• 8：一个可选的 ANEURALNETWORKS_INT32 标量，指定宽度的膨胀因子。默认为 1。如果设置为 k > 1，则宽度维度上每个滤波器元素之间将跳过 k-1 个单元格。如果设置了此输入，则输入 9（高度的膨胀因子）也必须指定。自 NNAPI 特性级别 3 起可用。
• 9：一个可选的 ANEURALNETWORKS_INT32 标量，指定高度的膨胀因子。默认为 1。如果设置为 k > 1，则高度维度上每个滤波器元素之间将跳过 k-1 个单元格。如果设置了此输入，则输入 8（宽度的膨胀因子）也必须指定。自 NNAPI 特性级别 3 起可用。

输出

• 0：输出 4-D 张量，形状为 [batches, out_height, out_width, depth_out]。在 NNAPI 特性级别 3 之前，对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型的输出张量，必须满足以下条件：output_scale > input_scale * filter_scale。

自 NNAPI 功能级别 1 起可用。

执行逐深度 2-D 卷积操作。

给定一个形状为 [batches, height, width, depth_in] 的输入张量和一个形状为 [1, filter_height, filter_width, depth_out] 包含 depth_out 个深度为 1 的卷积滤波器的滤波器张量，DEPTHWISE_CONV 对每个输入通道应用不同的滤波器（从 1 个通道扩展到每个通道 channel_multiplier 个通道），然后将结果连接在一起。

输出的深度为 depth_out = depth_in * depth_multiplier 通道。输出维度是滤波器维度、步长和填充的函数。

输出张量中的值计算如下

output[b, i, j, k * channel_multiplier + q] =
    sum_{di, dj} (
        input[b, strides[1] * i + di, strides[2] * j + dj, k] *
        filter[1, di, dj, k * channel_multiplier + q]
    ) + bias[k * channel_multiplier + q]

支持的张量 OperandCode 配置：

• 32 位浮点：
• * ANEURALNETWORKS_TENSOR_FLOAT32 用于输入、滤波器、输出和偏置。
• 量化：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 用于输入、滤波器和输出。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 input.scale * filter.scale）。
• * input.scale * filter.scale)。

自 NNAPI 特性级别 3 起可用

• 16 位浮点：
• * ANEURALNETWORKS_TENSOR_FLOAT16 用于输入、滤波器、输出和偏置。
• 对滤波器使用对称逐通道量化进行量化：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 用于输入和输出。
• * ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 用于滤波器。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 0.0，每个值的比例单独设置，等于 input.scale * filter.scales[channel]）。
• * 每个值的缩放是独立的，等于 input.scale * filter.scales[channel])。

自 NNAPI 特性级别 4 起可用

• 量化有符号（自 NNAPI 特性级别 4 起）：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 用于输入、滤波器和输出。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 input.scale * filter.scale）。
• * input.scale * filter.scale)。
• 带滤波器对称逐通道量化的量化有符号（自 NNAPI 特性级别 4 起）：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 用于输入和输出。
• * ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 用于滤波器。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 0.0，每个值的比例单独设置，等于 input.scale * filter.scales[channel]）。
• * 每个值的缩放是独立的，等于 input.scale * filter.scales[channel])。

支持的张量维度：4，采用“NHWC”或“NCHW”数据布局。默认数据布局 NHWC 的数据存储顺序为：[批次，高度，宽度，通道]。或者，数据布局可以是 NCHW，数据存储顺序为：[批次，通道，高度，宽度]。NCHW 自 NNAPI 功能级别 3 起受支持。

显式填充和隐式填充都受支持。

输入（显式填充）

• 0：一个 4-D 张量，形状为 [batches, height, width, depth_in]，指定输入。
• 1：一个 4-D 张量，形状为 [1, filter_height, filter_width, depth_out]，指定滤波器。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 的张量，通道维度 (ANeuralNetworksSymmPerChannelQuantParams::channelDim) 必须设置为 3。
• 2：一个 1-D 张量，形状为 [depth_out]，指定偏置。对于类型为 ANEURALNETWORKS_TENSOR_FLOAT32 或 ANEURALNETWORKS_TENSOR_FLOAT16 的输入张量，偏置必须是相同类型。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32，零点为 0，bias_scale == input_scale * filter_scale。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32，零点为 0，bias_scale 为 0。每个值“i”的实际比例等于 bias_scale[i] = input_scale * filter_scale[i]。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定“宽度”维度左侧的填充。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定“宽度”维度右侧的填充。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定“高度”维度顶部的填充。
• 6：一个 ANEURALNETWORKS_INT32 标量，指定“高度”维度底部的填充。
• 7：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入时的步长。
• 8：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入时的步长。
• 9：一个 ANEURALNETWORKS_INT32 标量，指定逐深度乘数。
• 10：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 11：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 特性级别 3 起可用。
• 12：一个可选的 ANEURALNETWORKS_INT32 标量，指定宽度的膨胀因子。默认为 1。如果设置为 k > 1，则宽度维度上每个滤波器元素之间将跳过 k-1 个单元格。如果设置了此输入，则输入 13（高度的膨胀因子）也必须指定。自 NNAPI 特性级别 3 起可用。
• 13：一个可选的 ANEURALNETWORKS_INT32 标量，指定高度的膨胀因子。默认为 1。如果设置为 k > 1，则高度维度上每个滤波器元素之间将跳过 k-1 个单元格。如果设置了此输入，则输入 12（宽度的膨胀因子）也必须指定。自 NNAPI 特性级别 3 起可用。

输入（隐式填充）

• 0：一个 4-D 张量，形状为 [batches, height, width, depth_in]，指定输入。
• 1：一个 4-D 张量，形状为 [1, filter_height, filter_width, depth_out]，指定滤波器。
• 2：一个 1-D 张量，形状为 [depth_out]，指定偏置。对于类型为 ANEURALNETWORKS_TENSOR_FLOAT32 或 ANEURALNETWORKS_TENSOR_FLOAT16 的输入张量，偏置必须是相同类型。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32，零点为 0，bias_scale == input_scale * filter_scale。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32，零点为 0，bias_scale 为 0。每个值“i”的实际比例等于 bias_scale[i] = input_scale * filter_scale[i]。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定隐式填充方案，必须是 PaddingCode 值之一。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入时的步长。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入时的步长。
• 6：一个 ANEURALNETWORKS_INT32 标量，指定逐深度乘数。
• 7：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 8：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 特性级别 3 起可用。
• 9：一个可选的 ANEURALNETWORKS_INT32 标量，指定宽度的膨胀因子。默认为 1。如果设置为 k > 1，则宽度维度上每个滤波器元素之间将跳过 k-1 个单元格。如果设置了此输入，则输入 10（高度的膨胀因子）也必须指定。自 NNAPI 特性级别 3 起可用。
• 10：一个可选的 ANEURALNETWORKS_INT32 标量，指定高度的膨胀因子。默认为 1。如果设置为 k > 1，则高度维度上每个滤波器元素之间将跳过 k-1 个单元格。如果设置了此输入，则输入 9（宽度的膨胀因子）也必须指定。自 NNAPI 特性级别 3 起可用。

输出

• 0：输出 4-D 张量，形状为 [batches, out_height, out_width, depth_out]。在 NNAPI 特性级别 3 之前，对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型的输出张量，必须满足以下条件：output_scale > input_scale * filter_scale。

自 NNAPI 功能级别 1 起可用。

将数据从深度重新排列到空间数据块中。

更具体地说，此操作输出输入张量的一个副本，其中来自深度维度的值在空间块中移动到高度和宽度维度。值 block_size 表示输入块大小以及数据如何移动。

大小为 block_size * block_size 的数据块从深度维度重新排列到大小为 block_size x block_size 的非重叠块中。

输出张量的宽度是 input_depth * block_size，而高度是 input_height * block_size。输入张量的深度必须可被 block_size * block_size 整除。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：4，采用“NHWC”或“NCHW”数据布局。默认数据布局 NHWC 的数据存储顺序为：[批次，高度，宽度，通道]。或者，数据布局可以是 NCHW，数据存储顺序为：[批次，通道，高度，宽度]。NCHW 自 NNAPI 功能级别 3 起受支持。

输入

• 0：一个 4-D 张量，形状为 [batches, height, width, depth_in]，指定输入。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定 block_size。block_size 必须 >= 1，并且 block_size * block_size 必须是输入深度的约数。
• 2：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 特性级别 3 起可用。

输出

• 0：输出 4-D 张量，形状为 [batch, height*block_size, width*block_size, depth/(block_size*block_size)]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，比例和零点必须与 input0 相同。

自 NNAPI 功能级别 1 起可用。

对输入张量进行反量化。

公式为：

output = (input - zeroPoint) * scale.

支持的输入张量 OperandCode：

• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_SYMM（自 NNAPI 特性级别 3 起）
• ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL（自 NNAPI 特性级别 3 起）
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的输出张量 OperandCode：

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32.

支持的张量维度：最多 4

输入

• 0：一个张量。自 NNAPI 特性级别 3 起，此张量可以是零尺寸。

输出

• 0：与 input0 形状相同的张量。

自 NNAPI 功能级别 1 起可用。

对边界框检测应用后处理步骤。

边界框检测是通过对一组预定义的锚点应用变换，并结合边界框回归产生的边界框 delta 来生成的。最后应用硬 NMS 步骤来限制返回的框的数量。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

输入

• 0：一个 3-D 张量，形状为 [batches, num_anchors, num_classes]，指定每个锚点在每个类别上的得分。每个 [batches, num_anchors, 0] 位置的类别 0 是背景，将被忽略。
• 1：一个 3-D 张量，形状为 [batches, num_anchors, length_box_encoding]，其中 length_box_encoding 中的前四个值指定边界框 delta。框 delta 按 [dy, dx, dh, dw] 的顺序编码，其中 dy 和 dx 是边界框中心位置相对于宽度和高度的线性比例校正因子，dh 和 dw 是宽度和高度的对数比例校正因子。此操作会忽略 length_box_encoding 中前四个值之后的所有条目。
• 2：一个 2-D 张量，形状为 [num_anchors, 4]，指定每个预定义锚点的形状，格式为 [ctr_y, ctr_x, h, w]，其中 ctr_y 和 ctr_x 是框的中心位置，h 和 w 是高度和宽度。
• 3：一个 ANEURALNETWORKS_FLOAT32 标量，指定边界框 delta 中 dy 的比例因子。
• 4：一个 ANEURALNETWORKS_FLOAT32 标量，指定边界框 delta 中 dx 的比例因子。
• 5：一个 ANEURALNETWORKS_FLOAT32 标量，指定边界框 delta 中 dh 的比例因子。
• 6：一个 ANEURALNETWORKS_FLOAT32 标量，指定边界框 delta 中 dw 的比例因子。
• 7：一个 ANEURALNETWORKS_BOOL 标量，设置为 true 以使用常规多类 NMS 算法（对每个类别单独执行 NMS），设置为 false 则使用更快的算法（仅使用最高类别得分执行一次 NMS）。
• 8：一个 ANEURALNETWORKS_INT32 标量，max_num_detections，指定每个批次输出的最大框数量。丢弃得分最低的框以满足限制。
• 9：一个 ANEURALNETWORKS_INT32 标量，仅当 input7 设置为 false 时使用，指定每次检测的最大类别数量。
• 10：一个 ANEURALNETWORKS_INT32 标量，仅当 input7 设置为 true 时使用，指定对每个单个类别应用 NMS 算法时的最大检测数量。
• 11：一个标量，score_threshold。得分低于此阈值的框在发送到 NMS 算法之前会被过滤。如果 input0 是 ANEURALNETWORKS_TENSOR_FLOAT16 类型，则标量必须是 ANEURALNETWORKS_FLOAT16 类型；如果 input0 是 ANEURALNETWORKS_TENSOR_FLOAT32 类型，则标量必须是 ANEURALNETWORKS_FLOAT32 类型。
• 12：一个标量，指定硬 NMS 的 IoU 阈值。如果 input0 是 ANEURALNETWORKS_TENSOR_FLOAT16 类型，则标量必须是 ANEURALNETWORKS_FLOAT16 类型；如果 input0 是 ANEURALNETWORKS_TENSOR_FLOAT32 类型，则标量必须是 ANEURALNETWORKS_FLOAT32 类型。
• 13：一个 ANEURALNETWORKS_BOOL 标量，设置为 true 以在输出标签映射列表中包含背景类别，设置为 false 则不包含背景。包含背景类别时，其标签为 0，输出类别从标签映射中的 1 开始；否则，输出类别从 0 开始。

输出

• 0：一个 2-D 张量，与 input0 具有相同的 OperandCode，形状为 [batches, max_num_detections]，指定每个输出检测的得分。
• 1：一个 3-D 张量，形状为 [batches, max_num_detections, 4]，指定每个输出边界框的坐标，格式为 [y1, x1, y2, x2]。
• 2：一个 2-D ANEURALNETWORKS_TENSOR_INT32 张量，形状为 [batches, max_num_detections]，指定每个输出检测的类别标签。
• 3：一个 1-D ANEURALNETWORKS_TENSOR_INT32 张量，形状为 [batches]，指定每个批次的有效输出检测数量。

自 NNAPI 功能级别 3 起可用。

两个张量的逐元素相除。

接收两个具有相同 OperandCode 和兼容维度的输入张量。输出是将第一个输入张量除以第二个张量的结果，可选择通过激活函数进行修改。

对于 ANEURALNETWORKS_TENSOR_INT32 类型的输入，执行“整除”（Python 中的“//”）。例如，5 // 2 = 2，-5 // 2 = -3。

当两个维度满足以下条件之一时兼容

1. 它们相等，或者
2. 其中一个为 1

输出的大小是输入操作数沿每个维度的最大大小。它从尾部维度开始，向前推进。

示例：input1.dimension = {4, 1, 2}，input2.dimension = {5, 4, 3, 1}，output.dimension = {5, 4, 3, 2}

自 NNAPI 功能级别 3 起，支持泛型零大小输入张量。零维度仅与 0 或 1 兼容。如果任一对应输入维度为零，则输出维度的大小为零。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量，指定第一个输入。
• 1：一个张量，与 input0 具有相同的 OperandCode 和兼容维度。
• 2：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。对于 ANEURALNETWORKS_TENSOR_INT32 张量，FuseCode 必须为“NONE”。

输出

• 0：一个张量，与 input0 具有相同的 OperandCode。

自 NNAPI 功能级别 2 起可用。

逐元素计算输入张量的指数线性激活。

输出使用以下公式计算：

ELU(x) = max(0, x) + min(0, alpha * (exp(x) - 1))

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量维度：从 1 起。

输入

• 0：一个张量，指定输入。可以是零尺寸。
• 1：一个标量，指定 alpha 参数。对于 ANEURALNETWORKS_TENSOR_FLOAT16 类型的输入张量，alpha 值必须是 ANEURALNETWORKS_FLOAT16 类型。对于 ANEURALNETWORKS_TENSOR_FLOAT32 类型的输入张量，alpha 值必须是 ANEURALNETWORKS_FLOAT32 类型。

输出

• 0：输出张量，与 input0 具有相同形状和类型。

自 NNAPI 功能级别 4 起可用。

在输入张量中查找子张量。

此操作接收一个值张量 (Values) 和一个一维选择索引张量 (Lookups) 作为输入。输出张量是 Values 中由 Lookups 选择的子张量的串联。

可以将 Values 沿其第一个维度切片：Lookups 中的条目选择哪些切片被串联在一起以创建输出张量。

例如，如果 Values 的形状为 [40, 200, 300]，Lookups 的形状为 [3]，则 Lookups 中的所有三个值都应在 0 到 39 之间。结果张量的形状必须为 [3, 200, 300]。

如果 Lookups 中的某个值超出范围，操作必须失败并报告错误。

支持的值张量 OperandCode：

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 特性级别 4 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32（自 NNAPI 特性级别 3 起）
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM（自 NNAPI 特性级别 3 起）
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的值张量秩：从 2 开始

输入

• 0：Lookups。一个 1-D ANEURALNETWORKS_TENSOR_INT32 张量。这些值是 Values 第一个维度的索引。
• 1：Values。一个 n-D 张量，其中 n >= 2，从中提取子张量。

输出

• 0：一个 n-D 张量，与 Values 张量具有相同的秩和形状，但第一个维度的大小与 Lookups 的唯一维度大小相同。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，比例和零点必须与 input1 相同。

自 NNAPI 功能级别 1 起可用。

对于输入张量 x 和 y，计算 x == y（逐元素）。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_BOOL8
• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

此操作支持广播。

输入

• 0：一个张量。
• 1：一个张量，与 input0 具有相同的 OperandCode 和兼容维度。

输出

• 0：一个 ANEURALNETWORKS_TENSOR_BOOL8 张量。

自 NNAPI 功能级别 3 起可用。

逐元素计算 x 的指数。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量维度：从 1 起。

输入

• 0：一个张量。

输出

• 0：与 input0 形状相同的输出张量。

自 NNAPI 功能级别 3 起可用。

在张量的形状中插入一个大小为 1 的维度。

给定输入张量 input，此操作在 input 形状的给定维度索引处插入一个大小为 1 的维度。维度索引从零开始；如果指定负维度索引，则从末尾向后计数。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

输入

• 0：一个 n-D 张量。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定要展开的维度索引。必须在 [-(n + 1), (n + 1)) 范围内。

输出

• 0：一个 (n + 1)-D 张量，与 input0 具有相同的 OperandCode 和数据。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，比例和零点必须与 input0 相同。

自 NNAPI 功能级别 3 起可用。

创建一个填充标量值的张量。

支持的输出张量 OperandCode：

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32

支持的张量维度：从 1 起。

输入

• 0：一个 1-D 张量，指定所需的输出张量形状。
• 1：一个标量，指定用于填充输出张量的值。对于 ANEURALNETWORKS_TENSOR_FLOAT16 类型的输出张量，标量必须是 ANEURALNETWORKS_FLOAT16 类型。对于 ANEURALNETWORKS_TENSOR_FLOAT32 类型的输出张量，标量必须是 ANEURALNETWORKS_FLOAT32 类型。对于 ANEURALNETWORKS_TENSOR_INT32 类型的输出张量，标量必须是 ANEURALNETWORKS_INT32 类型。

输出

• 0：输出张量。

自 NNAPI 功能级别 4 起可用。

逐元素计算输入张量的 floor()。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量维度：最多 4

输入

• 0：一个张量。

输出

• 0：输出张量，与输入张量具有相同的 OperandCode 和维度。

自 NNAPI 功能级别 1 起可用。

表示一个全连接（密集）层，它将输入张量中的所有元素与输出张量中的每个元素连接起来。

此层实现以下操作：

outputs = activation(inputs * weights’ + bias)

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：最高 4。

输入

• 0：一个至少秩为 2 的张量，指定输入。如果秩大于 2，则将其展平为 2-D 张量。展平后的 2-D 张量（如果需要）重塑为 [batch_size, input_size]，其中“input_size”对应于层输入的数量，匹配权重的第二个维度，“batch_size”通过将元素数量除以“input_size”计算。自 NNAPI 特性级别 3 起，此张量支持零 batch_size。
• 1：一个 2-D 张量，形状为 [num_units, input_size]，指定权重，其中“num_units”对应于输出节点数量。
• 2：一个 1-D 张量，形状为 [num_units]，指定偏置。对于 ANEURALNETWORKS_TENSOR_FLOAT32 类型的输入张量，偏置也应为 ANEURALNETWORKS_TENSOR_FLOAT32 类型。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型的输入张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32，零点为 0，bias_scale == input_scale * filter_scale。
• 3：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。

输出

• 0：输出张量，形状为 [batch_size, num_units]。在 NNAPI 特性级别 3 之前，对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型的输出张量，必须满足以下条件：output_scale > input_scale * filter_scale。

自 NNAPI 功能级别 1 起可用。

沿轴收集值。

生成一个输出张量，其形状为 input0.dimension[:axis] + indices.dimension + input0.dimension[axis + 1:]，其中：

向量索引（输出秩为 rank(input0)）。

output[a_0, ..., a_n, i, b_0, ..., b_n] = input0[a_0, ..., a_n, indices[i], b_0, ..., b_n]

更高秩索引（输出秩为 rank(input0) + rank(indices) - 1）。

output[a_0, ..., a_n, i, ..., j, b_0, ... b_n] = input0[a_0, ..., a_n, indices[i, ..., j], b_0, ..., b_n]

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

输入

• 0：一个 n-D 张量，从中收集值。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定轴。负索引用于指定从末尾开始的轴（例如，-1 表示最后一个轴）。必须在 [-n, n) 范围内。
• 2：一个 k-D ANEURALNETWORKS_TENSOR_INT32 索引张量。值必须在 input0 相应维度的范围内。

输出

• 0: 一个 (n + k - 1) 维张量，其 OperandCode 与 input0 相同。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 3 起可用。

生成轴对齐的边界框提议。

通过对一组预定义锚点应用变换，并结合边界框回归得到的边界框偏移量，生成边界框提议。最后应用硬非极大值抑制 (NMS) 步骤来限制返回的边界框数量。

轴对齐边界框由其左上角坐标 (x1,y1) 和右下角坐标 (x2,y2) 表示。有效的边界框应满足 x1 <= x2 且 y1 <= y2。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

输入

• 0: 一个 4 维张量，指定每个位置上每个锚点的得分。使用 "NHWC" 数据布局时，张量形状为 [batches, height, width, num_anchors]。使用 "NCHW" 数据布局时，张量形状为 [batches, num_anchors, height, width]。
• 1: 一个 4 维张量，指定边界框偏移量。使用 "NHWC" 数据布局时，张量形状为 [batches, height, width, num_anchors * 4]。使用 "NCHW" 数据布局时，张量形状为 [batches, num_anchors * 4, height, width]。边界框偏移量按 [dx, dy, dw, dh] 的顺序编码，其中 dx 和 dy 是边界框中心位置相对于宽度和高度的线性缩放校正因子，dw 和 dh 是宽度和高度的对数缩放校正因子。最后一个维度是通道维度。
• 2: 一个形状为 [num_anchors, 4] 的 2 维张量，指定每个预定义锚点的形状，格式为 [x1, y1, x2, y2]。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 或 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 的 input0，此张量应为 ANEURALNETWORKS_TENSOR_QUANT16_SYMM 类型，scale 为 0.125。
• 3: 一个形状为 [batches, 2] 的 2 维张量，指定批次中每张图片的大小，格式为 [image_height, image_width]。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 或 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 的 input0，此张量应为 ANEURALNETWORKS_TENSOR_QUANT16_SYMM 类型，scale 为 0.125。
• 4: 一个 ANEURALNETWORKS_FLOAT32 标量，指定原始图片高度与特征图高度的比例。
• 5: 一个 ANEURALNETWORKS_FLOAT32 标量，指定原始图片宽度与特征图宽度的比例。
• 6: 一个 ANEURALNETWORKS_INT32 标量，指定在进入硬非极大值抑制 (NMS) 算法之前的最大边界框数量。分数最低的边界框将被丢弃以满足此限制。设置为非正值表示数量不受限制。
• 7: 一个 ANEURALNETWORKS_INT32 标量，指定硬非极大值抑制 (NMS) 算法返回的最大边界框数量。分数最低的边界框将被丢弃以满足此限制。设置为非正值表示数量不受限制。
• 8: 一个 ANEURALNETWORKS_FLOAT32 标量，指定硬非极大值抑制 (NMS) 的 IoU 阈值。
• 9: 一个 ANEURALNETWORKS_FLOAT32 标量，min_size。将高度或宽度低于绝对阈值的边界框过滤掉。
• 10: 一个 ANEURALNETWORKS_BOOL 标量，设置为 true 表示 input0 和 input1 使用 NCHW 数据布局。设置为 false 表示使用 NHWC。

输出

• 0: 一个 OperandCode 与 input0 相同的张量，形状为 [num_output_rois]，指定每个输出边界框的得分。边界框按批次分组，但不保证每个批次内的顺序。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 或 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型，scale 和 zero point 必须与 input0 相同。
• 1: 一个 OperandCode 与 input3 相同的张量，形状为 [num_output_rois, 4]，指定每个类别中每个输出边界框的坐标，格式为 [x1, y1, x2, y2]。边界框的顺序与 output0 对应。对于 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 类型，scale 必须为 0.125，zero point 必须为 0。
• 2: 一个 1 维 ANEURALNETWORKS_TENSOR_INT32 张量，形状为 [num_output_rois]，指定每个边界框所属的批次索引。具有相同批次索引的边界框将被分组。

自 NNAPI 功能级别 3 起可用。

对于输入张量 x 和 y，逐元素计算 x > y。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_BOOL8
• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

此操作支持广播。

输入

• 0：一个张量。
• 1：一个张量，与 input0 具有相同的 OperandCode 和兼容维度。

输出

• 0：一个 ANEURALNETWORKS_TENSOR_BOOL8 张量。

自 NNAPI 功能级别 3 起可用。

对于输入张量 x 和 y，逐元素计算 x >= y。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_BOOL8
• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

此操作支持广播。

输入

• 0：一个张量。
• 1：一个张量，与 input0 具有相同的 OperandCode 和兼容维度。

输出

• 0：一个 ANEURALNETWORKS_TENSOR_BOOL8 张量。

自 NNAPI 功能级别 3 起可用。

执行分组二维卷积操作。

给定一个形状为 [batches, height, width, depth_in] 的输入张量和一个形状为 [depth_out, filter_height, filter_width, depth_group] 的滤波器张量（其中包含 depth_out 个深度为 depth_group 的卷积滤波器），GROUPED_CONV 将一组不同的滤波器应用于每个输入通道组，然后将结果连接在一起。

具体来说，输入通道被分成 num_groups 组，每组深度为 depth_group，即 depth_in = num_groups * depth_group。卷积滤波器也被分成 num_groups 组，即 depth_out 可被 num_groups 整除。GROUPED_CONV 将每组滤波器应用于相应的输入通道组，并将结果连接在一起。

输出维度是滤波器维度、步幅和填充的函数。

输出张量中的值计算如下

output[b, i, j, g * channel_multiplier + q] =
    sum_{di, dj, dk} (
        input[b, strides[1] * i + di, strides[2] * j + dj,
              g * depth_group + dk] *
        filter[g * channel_multiplier + q, di, dj, dk]
    ) + bias[channel]

其中 channel_multiplier = depth_out / num_groups

支持的张量 OperandCode 配置：

• 16 位浮点：
• * ANEURALNETWORKS_TENSOR_FLOAT16 用于输入、滤波器、输出和偏置。
• 32 位浮点：
• * ANEURALNETWORKS_TENSOR_FLOAT32 用于输入、滤波器、输出和偏置。
• 量化：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 用于输入、滤波器和输出。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 input.scale * filter.scale）。
• * input.scale * filter.scale)。
• 量化有符号（自 NNAPI 特性级别 4 起）：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 用于输入、滤波器和输出。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 input.scale * filter.scale）。
• * input.scale * filter.scale)。
• 对滤波器使用对称逐通道量化进行量化：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 用于输入和输出。
• * ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 用于滤波器。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 0.0，每个值的比例单独设置，等于 input.scale * filter.scales[channel]）。
• * 每个值的缩放是独立的，等于 input.scale * filter.scales[channel])。
• 带滤波器对称逐通道量化的量化有符号（自 NNAPI 特性级别 4 起）：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 用于输入和输出。
• * ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 用于滤波器。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 0.0，每个值的比例单独设置，等于 input.scale * filter.scales[channel]）。
• * 每个值的缩放是独立的，等于 input.scale * filter.scales[channel])。

支持的张量秩：4，数据布局为 "NHWC" 或 "NCHW"。默认数据布局为 NHWC，数据按以下顺序存储：[batch, height, width, channels]。或者，数据布局可以是 NCHW，数据存储顺序为：[batch, channels, height, width]。

显式填充和隐式填充都受支持。

输入（显式填充）

• 0: 一个 4 维张量，形状为 [batches, height, width, depth_in]，指定输入，其中 depth_in = num_groups * depth_group。
• 1: 一个 4 维张量，形状为 [depth_out, filter_height, filter_width, depth_group]，指定滤波器，其中 depth_out 必须可被 num_groups 整除。对于 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 类型的张量，通道维度 (ANeuralNetworksSymmPerChannelQuantParams 中的 channelDim) 必须设置为 0。
• 2: 一个 1 维张量，形状为 [depth_out]，指定偏置。对于 ANEURALNETWORKS_TENSOR_FLOAT32 或 ANEURALNETWORKS_TENSOR_FLOAT16 类型的输入张量，偏置必须具有相同的类型。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32 类型，zeroPoint 为 0，bias_scale == input_scale * filter_scale。对于 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 类型的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32 类型，zeroPoint 为 0，bias_scale 为 0。每个值 'i' 的实际 scale 等于 bias_scale[i] = input_scale * filter_scale[i]。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定“宽度”维度左侧的填充。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定“宽度”维度右侧的填充。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定“高度”维度顶部的填充。
• 6：一个 ANEURALNETWORKS_INT32 标量，指定“高度”维度底部的填充。
• 7：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入时的步长。
• 8：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入时的步长。
• 9: 一个 ANEURALNETWORKS_INT32 标量，指定分组数量。
• 10：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 11: 一个 ANEURALNETWORKS_BOOL 标量，设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。设置为 false 表示使用 NHWC。

输入（隐式填充）

• 0: 一个 4 维张量，形状为 [batches, height, width, depth_in]，指定输入，其中 depth_in = num_groups * depth_group。
• 1: 一个 4 维张量，形状为 [depth_out, filter_height, filter_width, depth_group]，指定滤波器，其中 depth_out 必须可被 num_groups 整除。对于 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 类型的张量，通道维度 (ANeuralNetworksSymmPerChannelQuantParams::channelDim) 必须设置为 0。
• 2: 一个 1 维张量，形状为 [depth_out]，指定偏置。对于 ANEURALNETWORKS_TENSOR_FLOAT32 或 ANEURALNETWORKS_TENSOR_FLOAT16 类型的输入张量，偏置必须与 ANEURALNETWORKS_TENSOR_FLOAT16 具有相同的类型，偏置必须具有相同的类型。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32 类型，zeroPoint 为 0，bias_scale == input_scale * filter_scale。对于 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 类型的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32 类型，zeroPoint 为 0，bias_scale 为 0。每个值 'i' 的实际 scale 等于 bias_scale[i] = input_scale * filter_scale[i]。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定隐式填充方案，必须是 PaddingCode 值之一。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入时的步长。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入时的步长。
• 6: 一个 ANEURALNETWORKS_INT32 标量，指定分组数量。
• 7：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 8: 一个 ANEURALNETWORKS_BOOL 标量，设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。设置为 false 表示使用 NHWC。

输出

• 0: 输出的 4 维张量，形状为 [batches, out_height, out_width, depth_out]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 可以与输入的 scale 和 zeroPoint 不同。

自 NNAPI 功能级别 3 起可用。

对输入张量逐元素计算 hard-swish 激活函数。

Hard swish 激活函数在 https://arxiv.org/pdf/1905.02244.pdf 中引入。

输出使用以下公式计算：

h-swish(x) = x * max(0, min(6, (x + 3))) / 6

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED

支持的张量维度：从 1 起。

输入

• 0：一个张量，指定输入。可以是零尺寸。

输出

• 0: 输出张量，与 input0 具有相同的形状和类型。此张量的 scale 和 zero point 可能与输入张量的参数不同。

自 NNAPI 功能级别 4 起可用。

使用键值映射在输入张量中查找子张量。

此操作符的输入是一个值张量 (Values)、一个一维选择值张量 (Lookups) 和一个将这些值映射到 Values 索引的一维张量 (Keys)。输出张量是根据 Lookups 通过 Keys 选择的 Values 子张量的串联。

可以将 Values 视为沿其最外层维度切片。输出是选定切片的串联，Lookups 的每个条目对应一个切片。选定的切片是与 Lookups 中值匹配的 Keys 条目具有相同索引的切片。

对于匹配（命中），相应的 Values 子张量包含在输出张量中。对于不匹配（未命中），输出中相应的子张量必须具有零值。

例如，如果 Values 的形状为 [40, 200, 300]，则 Keys 的形状应为 [40]。如果 Lookups 张量的形状为 [3]，则将串联三个切片，因此结果张量的形状必须为 [3, 200, 300]。如果 Lookups 中的第一个条目值为 123456，则该值必须位于 Keys 张量中。如果 Keys 的第六个条目包含 123456，则必须选择 Values 的第六个切片。如果 Keys 中没有条目包含 123456，则必须串联一个零值切片。

支持的值张量 OperandCode：

• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM

支持的值张量秩：从 2 开始

输入

• 0: Lookups。一个形状为 [ k ] 的 1 维 ANEURALNETWORKS_TENSOR_INT32 张量。
• 1: Keys。一个形状为 [ n ] 的 1 维 ANEURALNETWORKS_TENSOR_INT32 张量；Keys 和 Values 对表示一个映射，即 Keys 中的第 i 个元素 (Keys[i]) 是用于选择 Values 中第 i 个子张量 (Values[i]) 的键，其中 0 <= i <= n-1。Keys 张量必须按升序排序。
• 2: Values。一个形状为 [ n, … ] 的张量；即，第一个维度必须是 n。

输出

• 0: 输出 (Output)。一个形状为 [ k … ] 的张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 张量，scale 和 zeroPoint 必须与 input2 相同。
• 1: 命中 (Hits)。一个形状为 [ k ] 的布尔张量，指示查找是否命中 (True) 或未命中 (False)。存储为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型，偏移量为 0，scale 为 1.0f。非零字节表示 True（命中）。零表示未命中。

自 NNAPI 功能级别 1 起可用。

从热力图中定位最大关键点。

此操作通过使用高达二次项的泰勒展开式，在双三次插值上采样后近似精确的最大关键点得分和索引。

边界框由其在原始图像中的左上角坐标 (x1,y1) 和右下角坐标 (x2,y2) 表示。有效的边界框应满足 x1 <= x2 和 y1 <= y2。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：4，数据布局为 "NHWC" 或 "NCHW"。默认数据布局为 NHWC，数据按以下顺序存储：[batch, height, width, channels]。或者，数据布局可以是 NCHW，数据存储顺序为：[batch, channels, height, width]。

输入

• 0: 一个形状为 [num_boxes, heatmap_size, heatmap_size, num_keypoints] 的 4 维张量，指定热力图，热力图的高度和宽度应相同，且必须大于或等于 2。
• 1: 一个形状为 [num_boxes, 4] 的 2 维张量，指定边界框，每个边界框的格式为 [x1, y1, x2, y2]。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 的 input0，此张量应为 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 类型，zeroPoint 为 0，scale 为 0.125。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 的 input0，此张量应为 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 类型，zeroPoint 为 -128，scale 为 0.125。
• 2: 一个 ANEURALNETWORKS_BOOL 标量，设置为 true 表示 input0 使用 NCHW 数据布局。设置为 false 表示使用 NHWC。

输出

• 0: 一个 OperandCode 与 input0 相同的张量，形状为 [num_boxes, num_keypoints]，指定关键点的得分。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 或 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 可以与 input0 的 scale 和 zeroPoint 不同。
• 1: 一个 OperandCode 与 input1 相同的张量，形状为 [num_boxes, num_keypoints, 2]，指定关键点的位置，第二个维度组织为 [keypoint_x, keypoint_y]。对于 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 类型，scale 必须为 0.125，zero point 必须为 0。

自 NNAPI 功能级别 3 起可用。

根据布尔值确定执行两个引用模型中的一个。

两个引用模型的输入和输出必须与此操作的签名一致。也就是说，如果操作有 (3 + n) 个输入和 m 个输出，则两个模型都必须有 n 个输入和 m 个输出，并且具有与相应操作输入和输出相同的类型、秩（如果指定）、维度（如果指定）、scales、zeroPoints 和其他操作数参数。

输入

• 0: 一个类型为 ANEURALNETWORKS_TENSOR_BOOL8、形状为 [1] 的值，用于确定执行两个引用模型中的哪一个。该操作数必须具有完全指定的维度。
• 1: 一个 ANEURALNETWORKS_MODEL 引用，指向在条件为 true 时执行的模型。
• 2: 一个 ANEURALNETWORKS_MODEL 引用，指向在条件为 false 时执行的模型。
• 3 ~ (n + 2): 将传递给选定模型执行的输入。

输出

• 0 ~ (m - 1): 由选定模型产生的输出。

自 NNAPI 功能级别 4 起可用。

对输入张量应用实例归一化。

输出张量中的值计算如下

output[b, h, w, c] =
    (input[b, h, w, c] - mean[b, c]) * gamma /
    sqrt(var[b, c] + epsilon) + beta

其中均值和方差是在空间维度上计算的

mean[b, c] =
    sum_{h, w}(input[b, h, w, c]) / sum(1)

var[b, c] =
    sum_{h, w}(pow(input[b, h, w, c] - mean[b, c], 2)) / sum(1)

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量秩：4，数据布局为 "NHWC" 或 "NCHW"。默认数据布局为 NHWC，数据按以下顺序存储：[batch, height, width, channels]。或者，数据布局可以是 NCHW，数据存储顺序为：[batch, channels, height, width]。

输入

• 0: 一个 n 维张量，指定要归一化的张量。
• 1: 一个标量，指定 gamma，应用于归一化张量的 scale。如果 input0 类型为 ANEURALNETWORKS_TENSOR_FLOAT16，则此标量必须为 ANEURALNETWORKS_FLOAT16 类型；如果 input0 类型为 ANEURALNETWORKS_TENSOR_FLOAT32，则此标量必须为 ANEURALNETWORKS_FLOAT32 类型。
• 2: 一个标量，指定 beta，应用于归一化张量的 offset。如果 input0 类型为 ANEURALNETWORKS_TENSOR_FLOAT16，则此标量必须为 ANEURALNETWORKS_FLOAT16 类型；如果 input0 类型为 ANEURALNETWORKS_TENSOR_FLOAT32，则此标量必须为 ANEURALNETWORKS_FLOAT32 类型。
• 3: 一个标量，指定 epsilon，添加到方差中的小值，以避免除以零。如果 input0 类型为 ANEURALNETWORKS_TENSOR_FLOAT16，则此标量必须为 ANEURALNETWORKS_FLOAT16 类型；如果 input0 类型为 ANEURALNETWORKS_TENSOR_FLOAT32，则此标量必须为 ANEURALNETWORKS_FLOAT32 类型。
• 4: 一个 ANEURALNETWORKS_BOOL 标量，设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。设置为 false 表示使用 NHWC。

输出

• 0: 一个张量，与 input0 具有相同的 OperandCode 和形状。

自 NNAPI 功能级别 3 起可用。

沿轴维度应用 L2 归一化。

输出张量中的值计算如下

output[batch, row, col, channel] =
    input[batch, row, col, channel] /
    sqrt(sum_{c} pow(input[batch, row, col, c], 2))

默认情况下，轴维度是输入张量的最后一个维度。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM（自 NNAPI 特性级别 3 起）
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：最高 4。秩小于 4 的张量仅从 NNAPI feature level 3 开始支持。

输入

• 0: 一个 n 维张量，指定要归一化的张量。
• 1: 一个可选的 ANEURALNETWORKS_INT32 标量，默认值为 -1，指定进行归一化的维度。负索引用于从末尾指定轴（例如，-1 表示最后一个轴）。必须在 [-n, n) 范围内。从 NNAPI feature level 3 开始可用。

输出

• 0: 一个张量，与 input0 具有相同的 OperandCode 和形状。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM，scale 必须为 1.f / 128，zeroPoint 必须为 128。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED，scale 必须为 1.f / 128，zeroPoint 必须为 0。注意：在 NNAPI feature level 4 之前，如果沿一个轴的元素全为零，结果是未定义的。从 NNAPI feature level 4 开始，如果沿一个轴的元素全为零，结果是逻辑零。

自 NNAPI 功能级别 1 起可用。

执行二维 L2 池化操作。

输出维度是滤波器维度、步幅和填充的函数。

输出张量中的值计算如下

output[b, i, j, c] =
    sqrt(sum_{di, dj} pow(input[b, strides[1] * i + di, strides[2] * j + dj, c], 2) /
         sum(1))

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量维度：4，采用“NHWC”或“NCHW”数据布局。默认数据布局 NHWC 的数据存储顺序为：[批次，高度，宽度，通道]。或者，数据布局可以是 NCHW，数据存储顺序为：[批次，通道，高度，宽度]。NCHW 自 NNAPI 功能级别 3 起受支持。

显式填充和隐式填充都受支持。

输入（显式填充）

• 0：一个 4 维张量，形状为 [批次，高度，宽度，深度]，指定输入。自 NNAPI 功能级别 3 起，此张量支持零批次。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度上的左侧填充。
• 2：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度上的右侧填充。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度上的顶部填充。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度上的底部填充。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入的步幅。
• 6：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入的步幅。
• 7：一个 ANEURALNETWORKS_INT32 标量，指定滤波器宽度。
• 8：一个 ANEURALNETWORKS_INT32 标量，指定滤波器高度。
• 9：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 10：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 功能级别 3 起可用。

输入（隐式填充）

• 0：一个 4 维张量，形状为 [批次，高度，宽度，深度]，指定输入。自 NNAPI 功能级别 3 起，此张量支持零批次。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定隐式填充方案，必须是 PaddingCode 值之一。
• 2：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入的步幅。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入的步幅。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定滤波器宽度。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定滤波器高度。
• 6：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 7：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 功能级别 3 起可用。

输出

• 0: 输出的 4 维张量，形状为 [batches, out_height, out_width, depth]。

自 NNAPI 功能级别 1 起可用。

对于输入张量 x 和 y，逐元素计算 x < y。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_BOOL8
• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

此操作支持广播。

输入

• 0：一个张量。
• 1：一个张量，与 input0 具有相同的 OperandCode 和兼容维度。

输出

• 0：一个 ANEURALNETWORKS_TENSOR_BOOL8 张量。

自 NNAPI 功能级别 3 起可用。

对于输入张量 x 和 y，逐元素计算 x <= y。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_BOOL8
• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

此操作支持广播。

输入

• 0：一个张量。
• 1：一个张量，与 input0 具有相同的 OperandCode 和兼容维度。

输出

• 0：一个 ANEURALNETWORKS_TENSOR_BOOL8 张量。

自 NNAPI 功能级别 3 起可用。

沿深度维度应用局部响应归一化。

四维输入张量被视为由一维向量（沿最后一个维度）组成的三维数组，每个向量独立进行归一化。在给定的向量中，每个分量除以 depth_radius 范围内的输入加权平方和。

输出使用此公式计算

sqr_sum[a, b, c, d] = sum(
    pow(input[a, b, c, d - depth_radius : d + depth_radius + 1], 2))
output = input / pow((bias + alpha * sqr_sum), beta)

对于秩小于 4 的输入张量，独立地沿指定维度对每个一维切片进行归一化。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量秩：最高 4。秩小于 4 的张量仅从 NNAPI feature level 3 开始支持。

输入

• 0: 一个 4 维张量，形状为 [batches, height, width, depth]，指定输入。
• 1: 一个 ANEURALNETWORKS_INT32 标量，指定归一化窗口的半径。
• 2: 一个标量，指定偏置，必须不为零。对于 ANEURALNETWORKS_TENSOR_FLOAT16 类型的输入张量，偏置值必须为 ANEURALNETWORKS_FLOAT16 类型。对于 ANEURALNETWORKS_TENSOR_FLOAT32 类型的输入张量，偏置值必须为 ANEURALNETWORKS_FLOAT32 类型。
• 3: 一个标量，指定 scale 因子 alpha。对于 ANEURALNETWORKS_TENSOR_FLOAT16 类型的输入张量，alpha 值必须为 ANEURALNETWORKS_FLOAT16 类型。对于 ANEURALNETWORKS_TENSOR_FLOAT32 类型的输入张量，alpha 值必须为 ANEURALNETWORKS_FLOAT32 类型。
• 4: 一个标量，指定指数 beta。对于 ANEURALNETWORKS_TENSOR_FLOAT16 类型的输入张量，beta 值必须为 ANEURALNETWORKS_FLOAT16 类型。对于 ANEURALNETWORKS_TENSOR_FLOAT32 类型的输入张量，beta 值必须为 ANEURALNETWORKS_FLOAT32 类型。
• 5: 一个可选的 ANEURALNETWORKS_INT32 标量，默认值为 -1，指定进行归一化的维度。负索引用于从末尾指定轴（例如，-1 表示最后一个轴）。必须在 [-n, n) 范围内。从 NNAPI feature level 3 开始可用。

输出

• 0：与 input0 形状相同的输出张量。

自 NNAPI 功能级别 1 起可用。

逐元素计算 x 的自然对数。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量维度：从 1 起。

输入

• 0：一个张量。

输出

• 0：与 input0 形状相同的输出张量。

自 NNAPI 功能级别 3 起可用。

逐元素返回 x AND y 的真值。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_BOOL8

支持的张量维度：从 1 起

此操作支持广播。

输入

• 0：一个 ANEURALNETWORKS_TENSOR_BOOL8 张量。
• 1: 一个类型为 ANEURALNETWORKS_TENSOR_BOOL8 且维度与 input0 兼容的张量。

输出

• 0：一个 ANEURALNETWORKS_TENSOR_BOOL8 张量。

自 NNAPI 功能级别 3 起可用。

逐元素计算 NOT x 的真值。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_BOOL8

支持的张量维度：从 1 起。

输入

• 0：一个张量。

输出

• 0：与 input0 形状相同的输出张量。

自 NNAPI 功能级别 3 起可用。

逐元素返回 x OR y 的真值。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_BOOL8

支持的张量维度：从 1 起

此操作支持广播。

输入

• 0：一个 ANEURALNETWORKS_TENSOR_BOOL8 张量。
• 1: 一个类型为 ANEURALNETWORKS_TENSOR_BOOL8 且维度与 input0 兼容的张量。

输出

• 0：一个 ANEURALNETWORKS_TENSOR_BOOL8 张量。

自 NNAPI 功能级别 3 起可用。

对输入张量逐元素计算 sigmoid 激活函数。

输出使用此公式计算

output = 1 / (1 + exp(-input))

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：最高 4。

输入

• 0: 一个张量，指定输入。从 NNAPI feature level 3 开始，此张量可能大小为零。

输出

• 0: 输出张量，与 input0 具有相同的形状。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM，scale 必须为 1.f / 256，zeroPoint 必须为 0。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED，scale 必须为 1.f / 256，zeroPoint 必须为 -128。

自 NNAPI 功能级别 1 起可用。

计算给定 logits 的 log softmax 激活值。

输出使用此公式计算

output = logits * beta - log(reduce_sum(exp(logits * beta), axis))

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量维度：从 1 起。

输入

• 0: 一个张量，指定输入 logits。
• 1: 一个标量，指定指数的正缩放因子 beta。对于 ANEURALNETWORKS_TENSOR_FLOAT16 类型的输入张量，beta 值必须为 ANEURALNETWORKS_FLOAT16 类型。对于 ANEURALNETWORKS_TENSOR_FLOAT32 类型的输入张量，beta 值必须为 ANEURALNETWORKS_FLOAT32 类型。
• 2: 一个 ANEURALNETWORKS_INT32 标量，指定要跨哪个轴进行归约。负索引用于从末尾指定轴（例如，-1 表示最后一个轴）。必须在 [-n, n) 范围内。

输出

• 0: 输出张量，与 input0 具有相同的 OperandCode 和形状。

自 NNAPI 功能级别 3 起可用。

通过局部敏感哈希将输入投影到位向量。

支持的输入张量 OperandCode：

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM

支持的输入张量秩：从 1 开始

输入

• 0: 哈希函数。Dim.size == 2，DataType: Float。Tensor[0].Dim[0]：哈希函数数量。Tensor[0].Dim[1]：每个哈希函数生成的投影输出位数。如果投影类型是 Sparse：Tensor[0].Dim[1] + ceil(log2(Tensor[0].Dim[0])) <= 32
• 1: 输入。Dim.size >= 1，DataType 无限制。
• 2: 权重。可选。Dim.size == 1，DataType: Float。如果未设置，则每个输入元素被视为具有相同的权重 1.0。Tensor[1].Dim[0] == Tensor[2].Dim[0]
• 3: 类型：Sparse: 值 LSHProjectionType_SPARSE(=3) (自 NNAPI feature level 3 起)。计算的位向量被视为稀疏。每个输出元素是一个 int32，由哈希函数计算出的多个位组成。注意：为了避免哈希函数之间的冲突，将向每个签名添加一个偏移值 k * (1 << Tensor[0].Dim[1])，其中 k 是哈希函数的索引。值 LSHProjectionType_SPARSE_DEPRECATED(=1)。不包含偏移值的旧行为。Dense: 值 LSHProjectionType_DENSE(=2)。计算的位向量被视为密集。每个输出元素表示一个位，可以取 0 或 1。

输出

• 0: 如果投影类型是 Sparse：Output.Dim == { Tensor[0].Dim[0] } 一个表示哈希签名的 int32 张量。如果投影类型是 Dense：Output.Dim == { Tensor[0].Dim[0] * Tensor[0].Dim[1] } 一个表示投影位向量的展平张量。

从 NNAPI feature level 1 开始可用。稀疏投影的偏移值在 NNAPI feature level 3 中添加。

在长短期记忆 (LSTM) 层中执行单个时间步。

LSTM 操作由以下公式描述。

\begin{eqnarray*} i_t =& \sigma(W_{xi}x_t+W_{hi}h_{t-1}+W_{ci}C_{t-1}+b_i) & \\ f_t =& \sigma(W_{xf}x_t+W_{hf}h_{t-1}+W_{cf}C_{t-1}+b_f) & \\ C_t =& clip(f_t \odot C_{t-1} + i_t \odot g(W_{xc}x_t+W_{hc}h_{t-1}+b_c),\ t_{cell}) & \\ o_t =& \sigma(W_{xo}x_t+W_{ho}h_{t-1}+W_{co}C_t+b_o) & \\ & & \\ & clip(W_{proj}(o_t \odot g(C_t))+b_{proj},\ t_{proj}) & if\ there\ is\ a\ projection; \\ h_t =& & \\ & o_t \odot g(C_t) & otherwise. \\ \end{eqnarray*} 其中

• $x_t$ 是输入，
• $i_t$ 是输入门，
• $f_t$ 是遗忘门，
• $C_t$ 是细胞状态，
• $o_t$ 是输出，
• $h_t$ 是输出状态，
• $\sigma$ 是逻辑 sigmoid 函数，
• $g$ 是细胞输入和细胞输出激活函数，通常是 $tahn$，
• $W_{xi}$ 是输入到输入权重矩阵，
• $W_{hi}$ 是循环到输入权重矩阵，
• $W_{ci}$ 是细胞到输入权重矩阵，
• $b_i$ 是输入门偏置，
• $W_{xf}$ 是输入到遗忘权重矩阵，
• $W_{hf}$ 是循环到遗忘权重矩阵，
• $W_{cf}$ 是细胞到遗忘权重矩阵，
• $b_f$ 是遗忘门偏置，
• $W_{xc}$ 是输入到细胞权重矩阵，
• $W_{hc}$ 是循环到细胞权重矩阵，
• $b_c$ 是细胞偏置，
• $W_{xo}$ 是输入到输出权重矩阵，
• $W_{ho}$ 是循环到输出权重矩阵，
• $W_{co}$ 是细胞到输出权重矩阵，
• $b_o$ 是输出门偏置，
• $W_{proj}$ 是投影权重矩阵，
• $b_{proj}$ 是投影偏置，
• $t_{cell}$ 是用于裁剪细胞状态的阈值，并且
• $t_{proj}$ 是用于裁剪投影输出的阈值。
• $\odot$ 是 Hadamard 乘积，它接受两个矩阵并产生另一个矩阵，其每个元素是输入矩阵对应元素的乘积。

自 NNAPI feature level 3 起，LSTM 支持层归一化。如果使用层归一化，则内部激活函数（sigmoid 和 $g$）的输入将按照 https://arxiv.org/pdf/1607.06450.pdf 第 3.1 节的方法进行归一化、重新缩放和重新定中心。

该操作具有以下独立可选输入

• 细胞到输入权重 ( $W_{ci}$)、细胞到遗忘权重 ( $W_{cf}$) 和细胞到输出权重 ( $W_{co}$) 要么都有值，要么都没有值（即，都设置为 null）。如果它们有值，则使用 peephole 优化。
• 输入到输入权重 ( $W_{xi}$)、循环到输入权重 ( $W_{hi}$) 和输入门偏置 ( $b_i$) 要么都有值，要么都没有值。如果它们没有值，则使用输入门和遗忘门耦合 (CIFG)，在这种情况下，输入门 ( $i_t$) 将改用以下公式计算。 \begin{eqnarray*} i_t = 1 - f_t \end{eqnarray*} 如果使用 peephole 优化且不使用 CIFG，则细胞到输入 ( $W_{ci}$) 权重必须存在。否则，细胞到输入权重必须没有值。
• 投影权重 ( $W_{proj}$) 仅在存在循环投影层时需要，否则不应有值。
• 如果存在循环投影层，投影偏置 ( $b_{proj}$) 可能有值（但非必需），否则不应有值。
• （NNAPI feature level 3 或更高版本）四个层归一化权重要么都有值，要么都没有值。此外，如果使用 CIFG，则省略输入层归一化权重张量，其他层归一化权重要么都有值，要么都没有值。当所有层归一化权重都有值时，使用层归一化。

参考资料

默认的非 peephole、非 CIFG 实现基于：http://www.bioinf.jku.at/publications/older/2604.pdf S. Hochreiter 和 J. Schmidhuber。"Long Short-Term Memory"。Neural Computation, 9(8):1735-1780, 1997。

peephole 实现和投影层基于：https://research.google.com/pubs/archive/43905.pdf Hasim Sak, Andrew Senior, and Francoise Beaufays。"用于大规模声学建模的长短期记忆循环神经网络架构"。INTERSPEECH, 2014。(然而，peephole 优化的概念在此论文之前的工作中已被引入。)

输入门和遗忘门耦合 (CIFG) 基于：http://arxiv.org/pdf/1503.04069.pdf Greff et al. "LSTM: A Search Space Odyssey"

层归一化基于：https://arxiv.org/pdf/1607.06450.pdf Jimmy Ba et al. "Layer Normalization"

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32

所有输入和输出张量必须具有相同的类型。

输入

• 0: 输入 ( $x_t$)。一个形状为 [batch_size, input_size] 的 2 维张量，其中“batch_size”对应于批处理维度，“input_size”是输入的大小。
• 1: 输入到输入权重 ( $W_{xi}$)。可选。一个形状为 [num_units, input_size] 的 2 维张量，其中“num_units”对应于细胞单元的数量。
• 2: 输入到遗忘权重 ( $W_{xf}$)。一个形状为 [num_units, input_size] 的 2 维张量。
• 3: 输入到细胞权重 ( $W_{xc}$)。一个形状为 [num_units, input_size] 的 2 维张量。
• 4: 输入到输出权重 ( $W_{xo}$)。一个形状为 [num_units, input_size] 的 2 维张量。
• 5: 循环到输入权重 ( $W_{hi}$)。可选。一个形状为 [num_units, output_size] 的 2 维张量，其中“output_size”对应于细胞单元数量（即“num_units”），或者如果定义了“projection_weights”，则为其第二个维度。
• 6: 循环到遗忘权重 ( $W_{hf}$)。一个形状为 [num_units, output_size] 的 2 维张量。
• 7: 循环到细胞权重 ( $W_{hc}$)。一个形状为 [num_units, output_size] 的 2 维张量。
• 8: 循环到输出权重 ( $W_{ho}$)。一个形状为 [num_units, output_size] 的 2 维张量。
• 9: 细胞到输入权重 ( $W_{ci}$)。可选。一个形状为 [num_units] 的 1 维张量。
• 10: 细胞到遗忘权重 ( $W_{cf}$)。可选。一个形状为 [num_units] 的 1 维张量。
• 11: 细胞到输出权重 ( $W_{co}$)。可选。一个形状为 [num_units] 的 1 维张量。
• 12: 输入门偏置 ( $b_i$)。可选。一个形状为 [num_units] 的 1 维张量。
• 13: 遗忘门偏置 ( $b_f$)。一个形状为 [num_units] 的 1 维张量。
• 14: 细胞偏置 ( $b_c$)。一个形状为 [num_units] 的 1 维张量。
• 15: 输出门偏置 ( $b_o$)。一个形状为 [num_units] 的 1 维张量。
• 16: 投影权重 ( $W_{proj}$)。可选。一个形状为 [output_size, num_units] 的 2 维张量。
• 17: 投影偏置 ( $b_{proj}$)。可选。一个形状为 [output_size] 的 1 维张量。
• 18: 输出状态 (in) ( $h_{t-1}$)。一个形状为 [batch_size, output_size] 的 2 维张量。
• 19: 细胞状态 (in) ( $C_{t-1}$)。一个形状为 [batch_size, num_units] 的 2 维张量。
• 20: 激活函数 ( $g$)。指示激活函数的值
  • 0：无；
  • 1：Relu；
  • 3：Relu6；
  • 4：Tanh；
  • 6：Sigmoid。
• 21: 用于细胞状态的裁剪阈值 ( $t_{cell}$)，使得值被限制在 [-cell_clip, cell_clip] 范围内。如果设置为 0.0，则禁用裁剪。在 NNAPI feature level 3 之前，此标量必须是 ANEURALNETWORKS_FLOAT32 类型。自 NNAPI feature level 3 起，如果所有输入张量的类型都是 ANEURALNETWORKS_TENSOR_FLOAT32，则此标量必须是 ANEURALNETWORKS_FLOAT32 类型；否则，如果所有输入张量的类型都是 ANEURALNETWORKS_TENSOR_FLOAT16，则此标量必须是 ANEURALNETWORKS_FLOAT16 类型。
• 22: 用于投影层输出的裁剪阈值 ( $t_{proj}$)，使得值被限制在 [-proj_clip, proj_clip] 范围内。如果设置为 0.0，则禁用裁剪。在 NNAPI feature level 3 之前，此标量必须是 ANEURALNETWORKS_FLOAT32 类型。自 NNAPI feature level 3 起，如果所有输入张量的类型都是 ANEURALNETWORKS_TENSOR_FLOAT32，则此标量必须是 ANEURALNETWORKS_FLOAT32 类型；否则，如果所有输入张量的类型都是 ANEURALNETWORKS_TENSOR_FLOAT16，则此标量必须是 ANEURALNETWORKS_FLOAT16 类型。自 NNAPI feature level 3 起，此操作还有额外的输入
• 23: 输入层归一化权重。一个形状为 [num_units] 的 1 维张量。用于重新缩放输入门的归一化输入以进行激活。
• 24: 遗忘层归一化权重。一个形状为 [num_units] 的 1 维张量。用于重新缩放遗忘门的归一化输入以进行激活。
• 25: 细胞层归一化权重。一个形状为 [num_units] 的 1 维张量。用于重新缩放细胞门的归一化输入以进行激活。
• 26: 输出层归一化权重。一个形状为 [num_units] 的 1 维张量。用于重新缩放输出门的归一化输入以进行激活。

输出

• 0: 暂存缓冲区。如果使用 CIFG，形状为 [batch_size, num_units * 3] 的 2 维张量；如果不使用 CIFG，形状为 [batch_size, num_units * 4]。
• 1: 输出状态 (out) ( $h_t$)。一个形状为 [batch_size, output_size] 的 2 维张量。
• 2: 细胞状态 (out) ( $C_t$)。一个形状为 [batch_size, num_units] 的 2 维张量。
• 3: 输出 ( $o_t$)。一个形状为 [batch_size, output_size] 的 2 维张量。这实际上与当前的“输出状态 (out)”值相同。

自 NNAPI 功能级别 1 起可用。

返回两个张量的逐元素最大值。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起。

输入

• 0：一个张量。
• 1: 一个张量，与 input0 具有相同的 OperandCode 和兼容的维度。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 张量，scales 和 zeroPoint 可以与 input0 的 scale 和 zeroPoint 不同。

输出

• 0: 一个张量，与 input0 具有相同的 OperandCode。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 张量，scale 和 zeroPoint 可以与输入的 scale 和 zeroPoint 不同。

自 NNAPI 功能级别 3 起可用。

执行二维最大池化操作。

输出维度是滤波器维度、步幅和填充的函数。

输出张量中的值计算如下

output[b, i, j, channel] =
    max_{di, dj} (
        input[b, strides[1] * i + di, strides[2] * j + dj, channel]
    )

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：4，采用“NHWC”或“NCHW”数据布局。默认数据布局 NHWC 的数据存储顺序为：[批次，高度，宽度，通道]。或者，数据布局可以是 NCHW，数据存储顺序为：[批次，通道，高度，宽度]。NCHW 自 NNAPI 功能级别 3 起受支持。

显式填充和隐式填充都受支持。

输入（显式填充）

• 0：一个 4 维张量，形状为 [批次，高度，宽度，深度]，指定输入。自 NNAPI 功能级别 3 起，此张量支持零批次。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度上的左侧填充。
• 2：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度上的右侧填充。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度上的顶部填充。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度上的底部填充。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入的步幅。
• 6：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入的步幅。
• 7：一个 ANEURALNETWORKS_INT32 标量，指定滤波器宽度。
• 8：一个 ANEURALNETWORKS_INT32 标量，指定滤波器高度。
• 9：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 10：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 功能级别 3 起可用。

输入（隐式填充）

• 0：一个 4 维张量，形状为 [批次，高度，宽度，深度]，指定输入。自 NNAPI 功能级别 3 起，此张量支持零批次。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定隐式填充方案，必须是 PaddingCode 值之一。
• 2：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入的步幅。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入的步幅。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定滤波器宽度。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定滤波器高度。
• 6：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 7：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 功能级别 3 起可用。

输出

• 0：输出 4 维张量，形状为 [批次，out_height，out_width，深度]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 1 起可用。

计算张量元素在维度上的均值。

沿给定的维度对输入张量进行归约。除非 keep_dims 为 true，否则张量的秩将为 axis 中每个条目减少 1。如果 keep_dims 为 true，则归约的维度将保留长度为 1。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0: 一个张量，指定输入。
• 1: 一个 1 维 ANEURALNETWORKS_TENSOR_INT32 张量。要归约的维度。必须在 [-rank(input_tensor), rank(input_tensor)) 范围内。注意：在引入此操作时，文档错误地指出如果维度为空，操作将跨所有维度进行归约。此行为从未实现。
• 2: 一个 ANEURALNETWORKS_INT32 标量，keep_dims。如果为正，则保留长度为 1 的归约维度。

输出

• 0: 一个张量，与 input0 具有相同的 OperandCode。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。如果所有维度都已归约且 keep_dims 为 false，则输出形状为 [1]。

自 NNAPI 功能级别 2 起可用。

返回两个张量的逐元素最小值。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起。

输入

• 0：一个张量。
• 1: 一个张量，与 input0 具有相同的 OperandCode 和兼容的维度。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 张量，scales 和 zeroPoint 可以与 input0 的 scale 和 zeroPoint 不同。

输出

• 0: 一个张量，与 input0 具有相同的 OperandCode。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 张量，scale 和 zeroPoint 可以与输入的 scale 和 zeroPoint 不同。

自 NNAPI 功能级别 3 起可用。

使用镜像值对张量进行填充。

此操作符指定两种填充模式之一：REFLECT 或 SYMMETRIC。在 REFLECT 模式下，镜像不包括填充侧的边界元素。在 SYMMETRIC 模式下，镜像包括填充侧的边界元素。

例如，如果输入是一维张量 [1, 2, 3]，填充为 [0, 2]（即，在第一个（也是唯一一个）维度之前不填充元素，在第一个（也是唯一一个）维度之后填充两个元素），则

• REFLECT 模式产生输出 [1, 2, 3, 2, 1]
• SYMMETRIC 模式产生输出 [1, 2, 3, 3, 2]

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED
• ANEURALNETWORKS_TENSOR_INT32

支持的张量维度：从 1 起。

输入

• 0: 一个 n 维张量，指定要填充的张量。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的 2 维张量，指定输入张量每个空间维度的填充。张量的形状必须为 {rank(input0), 2}。padding[i, 0] 指定在维度 i 前部填充的元素数量。padding[i, 1] 指定在维度 i 末尾后部填充的元素数量。每个填充值必须是非负的。在 REFLECT 模式下，每个填充值必须小于相应维度。在 SYMMETRIC 模式下，每个填充值必须小于或等于相应维度。
• 2: 一个 ANEURALNETWORKS_INT32 标量，指定模式。选项有 0:REFLECT 和 1:SYMMETRIC。

输出

• 0: 一个张量，与 input0 具有相同的 OperandCode。输出张量与 input0 具有相同的秩，输出张量的每个维度的大小等于输入张量的相应维度大小加上填充大小：output0.dimension[i] = padding[i, 0] + input0.dimension[i] + padding[i, 1]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。

从 NNAPI feature level 7 开始可用。

逐元素乘以两个张量。

接受两个具有相同 OperandCode 和兼容维度的输入张量。输出是两个输入张量的乘积，可选地由激活函数修改。

当两个维度满足以下条件之一时兼容

1. 它们相等，或者
2. 其中一个为 1

结果输出的大小是沿输入操作数每个维度的最大大小。它从末尾维度开始，向前推进。

自 NNAPI 功能级别 3 起，支持泛型零大小输入张量。零维度仅与 0 或 1 兼容。如果任一对应输入维度为零，则输出维度的大小为零。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）
• ANEURALNETWORKS_TENSOR_INT32（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0：一个张量。
• 1：一个张量，与 input0 具有相同的 OperandCode 和兼容维度。
• 2：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。对于 ANEURALNETWORKS_TENSOR_INT32 张量，FuseCode 必须为“NONE”。

输出

• 0: 积，一个与 input0 具有相同 OperandCode 的张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型的输出张量，必须满足以下条件：output_scale > input1_scale * input2_scale。

自 NNAPI 功能级别 1 起可用。

按元素计算数值负值。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32

支持的张量维度：从 1 起。

输入

• 0：一个张量。

输出

• 0：与 input0 形状相同的输出张量。

自 NNAPI 功能级别 3 起可用。

对于输入张量 x 和 y，按元素计算 x != y。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_BOOL8
• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

此操作支持广播。

输入

• 0：一个张量。
• 1：一个张量，与 input0 具有相同的 OperandCode 和兼容维度。

输出

• 0：一个 ANEURALNETWORKS_TENSOR_BOOL8 张量。

自 NNAPI 功能级别 3 起可用。

将 N 个秩为 R 的输入张量（N >= 1）打包成一个秩为 R+1 的输出张量。

沿着给定的轴打包张量。

输入张量必须具有相同的 OperandCode 和维度。

例如，假设有 N 个形状为 (A, B, C) 的输入张量。如果轴为 0，则输出张量的形状将为 (N, A, B, C)。如果轴为 1，则输出张量的形状将为 (A, N, B, C)。

通过轴维度计算的所有维度决定了输出块的数量；剩余的维度决定了块的形状。

回到形状为 (A, B, C) 的 N 个输入张量的例子。如果轴为 0，则输出中有 N 个块，每个块的形状为 (A, B, C)。如果轴为 1，则输出中有 A*N 个块，每个块的形状为 (B, C)。

输出张量中一个块的坐标是 (t[0],...,t[axis])。输入张量中一个块的坐标是 (t[0],...,t[axis-1])。（如果轴为 0，输入张量由单个块组成。）如果我们从 0 开始索引输入张量（而不是按操作数编号），则 output_tile[t[0],...,t[axis]] = input_tile[t[axis]][t[0],...,t[axis-1]]。也就是说，除了轴坐标之外的所有输出块坐标都选择某个输入张量内的相应位置；而轴坐标选择输入张量。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED
• ANEURALNETWORKS_TENSOR_INT32

支持的输入张量秩：从 1 开始

输入

• 0: 一个 ANEURALNETWORKS_INT32 类型的标量，指定打包的轴。有效范围是 [0, R+1)。
• 1 ~ N: 要打包在一起的输入张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，所有输入张量的 scale 和 zeroPoint 必须相同，并且输出张量的 scale 和 zeroPoint 也将相同。

输出

• 0: 打包后的张量。

自 NNAPI 功能级别 6 起可用。

填充张量。

此操作根据指定的填充来填充张量。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED (自 NNAPI 功能级别 4 起) (自 NNAPI 功能级别 3 起完全支持，请参阅输出部分)

支持的张量维度：最多 4

输入

• 0: 一个 n 维张量，指定要填充的张量。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的二维张量，表示输入张量每个空间维度的填充。该张量的形状必须是 {rank(input0), 2}。padding[i, 0] 指定维度 i 前面要填充的元素数量。padding[i, 1] 指定维度 i 末尾之后要填充的元素数量。

输出

• 0: 一个与 input0 具有相同 OperandCode 的张量。输出张量的秩与 input0 相同，并且输出张量的每个维度的尺寸等于输入张量相应维度的尺寸加上填充的尺寸：output0.dimension[i] = padding[i, 0] + input0.dimension[i] + padding[i, 1] 对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 必须与 input0 相同。注意：在 NNAPI 功能级别 3 之前，ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 的填充值未定义。自 NNAPI 功能级别 3 起，填充值始终为逻辑零。

自 NNAPI 功能级别 2 起可用。

根据指定的填充，使用给定的常数值填充张量。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0: 一个 n 维张量，指定要填充的张量。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的二维张量，表示输入张量每个空间维度的填充。该张量的形状必须是 {rank(input0), 2}。padding[i, 0] 指定维度 i 前面要填充的元素数量。padding[i, 1] 指定维度 i 末尾之后要填充的元素数量。
• 2: 一个标量，指定用于填充 input0 的值。对于 ANEURALNETWORKS_TENSOR_FLOAT16 类型的输入张量，填充值必须为 ANEURALNETWORKS_FLOAT16 类型。对于 ANEURALNETWORKS_TENSOR_FLOAT32 类型的输入张量，填充值必须为 ANEURALNETWORKS_FLOAT32 类型。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型的输入张量，填充值必须为 ANEURALNETWORKS_INT32 类型。假定其 scale 和 zeroPoint 与 input0 相同。

输出

• 0: 一个张量，与 input0 具有相同的 OperandCode。输出张量与 input0 具有相同的秩，输出张量的每个维度的大小等于输入张量的相应维度大小加上填充大小：output0.dimension[i] = padding[i, 0] + input0.dimension[i] + padding[i, 1]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 3 起可用。

计算一个值的幂。

给定一个张量 base 和一个张量 exponent，此操作按元素计算 base^exponent。

此操作支持广播。输出的尺寸是输入操作数每个维度的最大尺寸。它从尾部维度开始，向前推进。

For example: base.dimension = {4, 1, 2} exponent.dimension = {5, 4, 3, 1} output.dimension = {5, 4, 3, 2}

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量维度：从 1 起

输入

• 0: 指定 base 的张量。
• 1: 指定 exponent 的张量。

输出

• 0: 输出张量。

自 NNAPI 功能级别 3 起可用。

参数化修正线性单元。

其遵循：f(x) = alpha * x 当 x < 0 时，f(x) = x 当 x >= 0 时，其中 alpha 是一个与输入 x 具有相同 OperandCode 和兼容维度的学习数组。

当两个维度满足以下条件之一时兼容

1. 它们相等，或者
2. 其中一个为 1

输出的大小是输入操作数沿每个维度的最大大小。它从尾部维度开始，向前推进。

Example: input.dimension = {4, 1, 2} alpha.dimension = {5, 4, 3, 1} output.dimension = {5, 4, 3, 2}

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

输入

• 0: 一个张量，指定输入。
• 1: 一个与 input0 具有相同 OperandCode 和兼容维度的张量，指定 alpha。

输出

• 0: 一个与 input0 具有相同 OperandCode 的张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scales 和 zeroPoint 可以与 input0 的 scale 和 zeroPoint 不同。

自 NNAPI 功能级别 3 起可用。

对输入张量进行量化。

ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 输出张量的公式为

output = max(0, min(255, round(input / scale) + zeroPoint)

ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 输出张量的公式为

output = max(-128, min(127, round(input / scale) + zeroPoint)

支持的输入张量 OperandCode：

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的输出张量 OperandCode：

• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

输入

• 0: 一个张量，可能为零尺寸。

输出

• 0: 形状与 input0 相同的输出张量，但类型为 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 或 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED。

自 NNAPI 功能级别 3 起可用。

一种量化 LSTM 的版本，使用 16 位量化处理内部状态。

没有投影层，因此单元状态大小等于输出大小。

输入

• 0: 一个 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型、形状为 [numBatches, inputSize] 的二维张量，指定 LSTM 单元的输入。张量使用固定的量化范围 -1, 127/128 进行量化。
• 1: 输入到输入的权重。一个 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型、形状为 [outputSize, inputSize] 的二维张量，指定 LSTM 单元内全连接层的输入到输入部分的权重。所有权重的量化 zero point 和 scale 必须相同。
• 2: 输入到遗忘的权重。一个 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型、形状为 [outputSize, inputSize] 的二维张量，指定 LSTM 单元内全连接层的输入到遗忘部分的权重。所有权重的量化 zero point 和 scale 必须相同。
• 3: 输入到 cell 的权重。一个 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型、形状为 [outputSize, inputSize] 的二维张量，指定 LSTM 单元内全连接层的输入到 cell 部分的权重。所有权重的量化 zero point 和 scale 必须相同。
• 4: 输入到输出的权重。一个 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型、形状为 [outputSize, inputSize] 的二维张量，指定 LSTM 单元内全连接层的输入到输出部分的权重。所有权重的量化 zero point 和 scale 必须相同。
• 5: 循环到输入的权重。一个 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型、形状为 [outputSize, outputSize] 的二维张量，指定 LSTM 单元内全连接层的循环到输入部分的权重。所有权重的量化 zero point 和 scale 必须相同。
• 6: 循环到遗忘的权重。一个 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型、形状为 [outputSize, outputSize] 的二维张量，指定 LSTM 单元内全连接层的循环到遗忘部分的权重。所有权重的量化 zero point 和 scale 必须相同。
• 7: 循环到 cell 的权重。一个 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型、形状为 [outputSize, outputSize] 的二维张量，指定 LSTM 单元内全连接层的循环到 cell 部分的权重。所有权重的量化 zero point 和 scale 必须相同。
• 8: 循环到输出的权重。一个 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型、形状为 [outputSize, outputSize] 的二维张量，指定 LSTM 单元内全连接层的循环到输出部分的权重。所有权重的量化 zero point 和 scale 必须相同。
• 9: 输入门偏置。一个 ANEURALNETWORKS_TENSOR_INT32 类型、形状为 [outputSize] 的一维张量，指定 LSTM 单元内全连接层的偏置。偏置通过 scale 为输入和权重 scale 的乘积、zeroPoint 为 0 进行量化。
• 10: 遗忘门偏置。一个 ANEURALNETWORKS_TENSOR_INT32 类型、形状为 [outputSize] 的一维张量，指定 LSTM 单元内全连接层的偏置。偏置通过 scale 为输入和权重 scale 的乘积、zeroPoint 为 0 进行量化。
• 11: Cell 偏置。一个 ANEURALNETWORKS_TENSOR_INT32 类型、形状为 [outputSize] 的一维张量，指定 LSTM 单元内全连接层的偏置。偏置通过 scale 为输入和权重 scale 的乘积、zeroPoint 为 0 进行量化。
• 12: 输出门偏置。一个 ANEURALNETWORKS_TENSOR_INT32 类型、形状为 [outputSize] 的一维张量，指定 LSTM 单元内全连接层的偏置。偏置通过 scale 为输入和权重 scale 的乘积、zeroPoint 为 0 进行量化。
• 13: 一个 ANEURALNETWORKS_TENSOR_QUANT16_SYMM 类型、形状为 [numBatches, outputSize] 的二维张量，指定 LSTM 单元前一时间步的 cell 状态。它使用 -2^4, 2^4 * 32767/32768 的量化范围进行量化。
• 14: 一个 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型、形状为 [numBathes, outputSize] 的二维张量，指定 LSTM 单元前一时间步的输出。张量使用固定的量化范围 -1, 127/128 进行量化。

输出

• 0: 一个 ANEURALNETWORKS_TENSOR_QUANT16_SYMM 类型、形状为 [numBatches, outputSize] 的二维张量，包含当前时间步的 cell 状态。张量使用 -2^4, 2^4 * 32767/32768 的量化范围进行量化。
• 1: 一个 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型、形状为 [numBathes, outputSize] 的二维张量，包含输出值。张量使用固定的量化范围 -1, 127/128 进行量化。

ANEURALNETWORKS_LSTM 的量化版本。

输入和输出使用非对称量化类型，而其余部分使用对称量化类型。

输入

• 0: LSTM 单元的输入。类型：ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 形状：[batchSize, inputSize]
• 1: 输入到输入的权重。可选。类型：ANEURALNETWORKS_TENSOR_QUANT8_SYMM 形状：[numUnits, inputSize]
• 2: 输入到遗忘的权重。类型：ANEURALNETWORKS_TENSOR_QUANT8_SYMM 形状：[numUnits, inputSize]
• 3: 输入到 cell 的权重。类型：ANEURALNETWORKS_TENSOR_QUANT8_SYMM 形状：[numUnits, inputSize]
• 4: 输入到输出的权重。类型：ANEURALNETWORKS_TENSOR_QUANT8_SYMM 形状：[numUnits, inputSize]
• 5: 循环到输入的权重。可选。类型：ANEURALNETWORKS_TENSOR_QUANT8_SYMM 形状：[numUnits, outputSize]
• 6: 循环到遗忘的权重。类型：ANEURALNETWORKS_TENSOR_QUANT8_SYMM 形状：[numUnits, outputSize]
• 7: 循环到 cell 的权重。类型：ANEURALNETWORKS_TENSOR_QUANT8_SYMM 形状：[numUnits, outputSize]
• 8: 循环到输出的权重。类型：ANEURALNETWORKS_TENSOR_QUANT8_SYMM 形状：[numUnits, outputSize]
• 9: cell 到输入的权重（用于窥孔）。可选。类型：ANEURALNETWORKS_TENSOR_QUANT16_SYMM 形状：[numUnits]
• 10: cell 到遗忘的权重（用于窥孔）。可选。类型：ANEURALNETWORKS_TENSOR_QUANT16_SYMM 形状：[numUnits]
• 11: cell 到输出的权重（用于窥孔）。可选。类型：ANEURALNETWORKS_TENSOR_QUANT16_SYMM 形状：[numUnits]
• 12: 输入门偏置。量化时 scale 为输入和权重 scale 的乘积，zeroPoint 为 0。可选。类型：ANEURALNETWORKS_TENSOR_INT32 形状：[numUnits]
• 13: 遗忘门偏置。量化时 scale 为输入和权重 scale 的乘积，zeroPoint 为 0。类型：ANEURALNETWORKS_TENSOR_INT32 形状：[numUnits]
• 14: Cell 偏置。量化时 scale 为输入和权重 scale 的乘积，zeroPoint 为 0。类型：ANEURALNETWORKS_TENSOR_INT32 形状：[numUnits]
• 15: 输出门偏置。量化时 scale 为输入和权重 scale 的乘积，zeroPoint 为 0。类型：ANEURALNETWORKS_TENSOR_INT32 形状：[numUnits]
• 16: 投影权重。可选。类型：ANEURALNETWORKS_TENSOR_QUANT8_SYMM 形状：[outputSize, numUnits]
• 17: 投影偏置。量化时 scale 为输入和权重 scale 的乘积，zeroPoint 为 0。可选。类型：ANEURALNETWORKS_TENSOR_INT32 形状：[outputSize]
• 18: 前一时间步的输出。类型：ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 形状：[batchSize, outputSize]
• 19: 前一时间步的 cell 状态。类型：ANEURALNETWORKS_TENSOR_QUANT16_SYMM 形状：[batchSize, numUnits]
• 20: 输入层归一化权重。用于将归一化输入重新缩放到输入门的激活。可选。类型：ANEURALNETWORKS_TENSOR_QUANT16_SYMM 形状：[numUnits]
• 21: 遗忘层归一化权重。用于将归一化输入重新缩放到遗忘门的激活。可选。类型：ANEURALNETWORKS_TENSOR_QUANT16_SYMM 形状：[numUnits]
• 22: cell 层归一化权重。用于将归一化输入重新缩放到 cell 门的激活。可选。类型：ANEURALNETWORKS_TENSOR_QUANT16_SYMM 形状：[numUnits]
• 23: 输出层归一化权重。用于将归一化输入重新缩放到输出门的激活。可选。类型：ANEURALNETWORKS_TENSOR_QUANT16_SYMM 形状：[numUnits]
• 24: cell 剪切值。如果提供，则 cell 状态在 cell 输出激活前会根据此值进行剪切。可选。类型：ANEURALNETWORKS_FLOAT32。
• 25: 投影剪切值。如果提供并启用了投影，则用于剪切投影值。可选。类型：ANEURALNETWORKS_FLOAT32。
• 26: 输入门处 matmul 中间结果（即层归一化输入）的 scale。类型：ANEURALNETWORKS_FLOAT32。
• 27: 遗忘门处 matmul 中间结果（即层归一化输入）的 scale。类型：ANEURALNETWORKS_FLOAT32。
• 28: cell 门处 matmul 中间结果（即层归一化输入）的 scale。类型：ANEURALNETWORKS_FLOAT32。
• 29: 输出门处 matmul 中间结果（即层归一化输入）的 scale。类型：ANEURALNETWORKS_FLOAT32。
• 30: 隐藏状态（即投影输入）的 zero point。类型：ANEURALNETWORKS_INT32。
• 31: 隐藏状态（即投影输入）的 scale。类型：ANEURALNETWORKS_FLOAT32。

输出

• 0: 输出状态 (out)。类型：ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 形状：[batchSize, outputSize]
• 1: cell 状态 (out)。类型：ANEURALNETWORKS_TENSOR_QUANT16_SYMM 形状：[batchSize, numUnits]
• 2: 输出。这实际上与当前的“输出状态 (out)”值相同。类型：ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 形状：[batchSize, outputSize]

自 NNAPI 功能级别 4 起可用。

从多项分布中抽取样本。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

输入

• 0: 一个形状为 [batches, classes] 的二维张量，指定所有类别的未归一化对数概率。
• 1: 一个 ANEURALNETWORKS_INT32 标量，指定为每个行切片抽取的独立样本数量。
• 2: 一个形状为 [2] 的一维 ANEURALNETWORKS_TENSOR_INT32 张量，指定用于初始化随机分布的种子。如果提供的两个种子都是 0，则都会随机生成。输出
• 0: 一个形状为 [batches, samples] 的二维 ANEURALNETWORKS_TENSOR_INT32 张量，包含抽取的样本。

自 NNAPI 功能级别 3 起可用。

返回张量的秩。

张量的秩是其维度的数量。也称为“阶”（order）、“度”（degree）、“维数”（ndims）。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT16_SYMM
• ANEURALNETWORKS_TENSOR_BOOL8
• ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL
• ANEURALNETWORKS_TENSOR_QUANT16_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_SYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED

支持的张量维度：从 1 起。

输入

• 0: 输入张量。

输出

• 0: 一个 ANEURALNETWORKS_INT32 标量，指定输入张量的秩。

自 NNAPI 功能级别 4 起可用。

通过计算给定维度上元素的“逻辑与”来缩减张量。

如果 keep_dims 为 true，则保留被缩减的维度，其长度为 1。否则，张量的秩会因 dimensions 中的每个条目而减小 1。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_BOOL8

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的一维张量。要缩减的维度。维度值必须在 [-n, n) 范围内。
• 2: 一个 ANEURALNETWORKS_BOOL 标量，keep_dims。如果为 true，则保留被缩减的维度，其长度为 1。

输出

• 0: 一个与 input0 具有相同 OperandCode 的张量。如果所有维度都被缩减且 keep_dims 为 false，则输出形状为 [1]。

自 NNAPI 功能级别 3 起可用。

通过计算给定维度上元素的“逻辑或”来缩减张量。

如果 keep_dims 为 true，则保留被缩减的维度，其长度为 1。否则，张量的秩会因 dimensions 中的每个条目而减小 1。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_BOOL8

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的一维张量。要缩减的维度。维度值必须在 [-n, n) 范围内。
• 2: 一个 ANEURALNETWORKS_BOOL 标量，keep_dims。如果为 true，则保留被缩减的维度，其长度为 1。

输出

• 0: 一个与 input0 具有相同 OperandCode 的张量。如果所有维度都被缩减且 keep_dims 为 false，则输出形状为 [1]。

自 NNAPI 功能级别 3 起可用。

通过计算给定维度上元素的最大值来缩减张量。

如果 keep_dims 为 true，则保留被缩减的维度，其长度为 1。否则，张量的秩会因 dimensions 中的每个条目而减小 1。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的一维张量。要缩减的维度。维度值必须在 [-n, n) 范围内。
• 2: 一个 ANEURALNETWORKS_BOOL 标量，keep_dims。如果为 true，则保留被缩减的维度，其长度为 1。

输出

• 0: 一个与 input0 具有相同 OperandCode 的张量。如果所有维度都被缩减且 keep_dims 为 false，则输出形状为 [1]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 3 起可用。

通过计算给定维度上元素的最小值来缩减张量。

如果 keep_dims 为 true，则保留被缩减的维度，其长度为 1。否则，张量的秩会因 dimensions 中的每个条目而减小 1。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的一维张量。要缩减的维度。维度值必须在 [-n, n) 范围内。
• 2: 一个 ANEURALNETWORKS_BOOL 标量，keep_dims。如果为 true，则保留被缩减的维度，其长度为 1。

输出

• 0: 一个与 input0 具有相同 OperandCode 的张量。如果所有维度都被缩减且 keep_dims 为 false，则输出形状为 [1]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 3 起可用。

通过将给定维度上元素相乘来缩减张量。

如果 keep_dims 为 true，则保留被缩减的维度，其长度为 1。否则，张量的秩会因 dimensions 中的每个条目而减小 1。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的一维张量。要缩减的维度。维度值必须在 [-n, n) 范围内。
• 2: 一个 ANEURALNETWORKS_BOOL 标量，keep_dims。如果为 true，则保留被缩减的维度，其长度为 1。

输出

• 0: 一个与 input0 具有相同 OperandCode 的张量。如果所有维度都被缩减且 keep_dims 为 false，则输出形状为 [1]。

自 NNAPI 功能级别 3 起可用。

通过对给定维度上元素求和来缩减张量。

如果 keep_dims 为 true，则保留被缩减的维度，其长度为 1。否则，张量的秩会因 dimensions 中的每个条目而减小 1。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的一维张量。要缩减的维度。维度值必须在 [-n, n) 范围内。
• 2: 一个 ANEURALNETWORKS_BOOL 标量，keep_dims。如果为 true，则保留被缩减的维度，其长度为 1。

输出

• 0: 一个与 input0 具有相同 OperandCode 的张量。如果所有维度都被缩减且 keep_dims 为 false，则输出形状为 [1]。

自 NNAPI 功能级别 3 起可用。

对输入张量按元素计算修正线性激活。

输出使用此公式计算

output = max(0, input)

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：最高 4。

输入

• 0: 一个张量，指定输入。从 NNAPI feature level 3 开始，此张量可能大小为零。

输出

• 0: 形状与 input0 相同的输出张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 1 起可用。

对输入张量按元素计算修正线性 1 激活。

输出使用此公式计算

output = min(1.f, max(-1.f, input))

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：最高 4。

输入

• 0: 一个张量，指定输入。从 NNAPI feature level 3 开始，此张量可能大小为零。

输出

• 0: 形状与 input0 相同的输出张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 1 起可用。

对输入张量按元素计算修正线性 6 激活。

输出使用此公式计算

output = min(6, max(0, input))

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：最高 4。

输入

• 0: 一个张量，指定输入。从 NNAPI feature level 3 开始，此张量可能大小为零。

输出

• 0: 形状与 input0 相同的输出张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 1 起可用。

重塑张量。

给定一个张量，此操作返回一个与该张量具有相同值但形状新指定的张量。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）
• ANEURALNETWORKS_TENSOR_INT32 (自 NNAPI 功能级别 6 起)

支持的张量秩：最高 4。

输入

• 0: 一个张量，指定要重塑的张量。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的一维张量，定义输出张量的形状。由 shape 推断的元素数量必须与输入张量中的元素数量相同。如果 shape 的一个分量是特殊值 -1，则计算该维度的尺寸以使总尺寸保持不变。特别是，形状为 [-1] 会展平为一维。shape 中最多只能有一个分量为 -1。

输出

• 0: 输出张量，形状由输入 shape 指定。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 1 起可用。

使用双线性插值将图像大小调整为给定尺寸。

如果调整大小后的图像输出宽高比与输入宽高比不同，则图像可能会失真。输出的角像素可能与输入的角像素不同。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM（自 NNAPI 特性级别 3 起）
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：4，采用“NHWC”或“NCHW”数据布局。默认数据布局 NHWC 的数据存储顺序为：[批次，高度，宽度，通道]。或者，数据布局可以是 NCHW，数据存储顺序为：[批次，通道，高度，宽度]。NCHW 自 NNAPI 功能级别 3 起受支持。

支持按形状调整大小和按比例调整大小两种方式。

输入 (按形状调整大小)

• 0：一个 4 维张量，形状为 [批次，高度，宽度，深度]，指定输入。自 NNAPI 功能级别 3 起，此张量支持零批次。
• 1: 一个 ANEURALNETWORKS_INT32 标量，指定输出张量的输出宽度。
• 2: 一个 ANEURALNETWORKS_INT32 标量，指定输出张量的输出高度。
• 3: 一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。自 NNAPI 功能级别 3 起可用。
• 4: 对齐角点。一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。如果为 True，则对齐输入和输出张量的 4 个角像素的中心，保留角像素处的值。自 NNAPI 功能级别 4 起可用。
• 5: 半像素中心。一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。如果为 True，则假定像素中心位于 (0.5, 0.5)。这是 TF 2.0 中 image.resize 的默认行为。如果此参数为 True，则 align_corners 参数必须为 False。自 NNAPI 功能级别 4 起可用。

输入 (按比例调整大小，自 NNAPI 功能级别 3 起)

• 0: 一个四维张量，形状为 [batches, height, width, depth]，指定输入。此张量支持零批次。
• 1: 一个标量，指定 width_scale，即宽度维度从输入张量到输出张量的缩放因子。输出宽度计算为 new_width = floor(width * width_scale)。如果 input0 为 ANEURALNETWORKS_TENSOR_FLOAT16 类型，则该标量必须为 ANEURALNETWORKS_FLOAT16 类型；否则必须为 ANEURALNETWORKS_FLOAT32 类型。
• 2: 一个标量，指定 height_scale，即高度维度从输入张量到输出张量的缩放因子。输出高度计算为 new_height = floor(height * height_scale)。如果 input0 为 ANEURALNETWORKS_TENSOR_FLOAT16 类型，则该标量必须为 ANEURALNETWORKS_FLOAT16 类型；否则必须为 ANEURALNETWORKS_FLOAT32 类型。
• 3: 一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。
• 4: 对齐角点。一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。如果为 True，则对齐输入和输出张量的 4 个角像素的中心，保留角像素处的值。自 NNAPI 功能级别 4 起可用。
• 5: 半像素中心。一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。如果为 True，则假定像素中心位于 (0.5, 0.5)。这是 TF 2.0 中 image.resize 的默认行为。如果此参数为 True，则 align_corners 参数必须为 False。自 NNAPI 功能级别 4 起可用。

输出

• 0: 输出的四维张量，形状为 [batches, new_height, new_width, depth]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 必须与 input0 相同。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 张量，其 scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 1 起可用。

使用最近邻插值将图像大小调整为给定尺寸。

如果调整大小后的图像输出宽高比与输入宽高比不同，则图像可能会失真。输出的角像素可能与输入的角像素不同。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：4，数据布局为 "NHWC" 或 "NCHW"。默认数据布局为 NHWC，数据按以下顺序存储：[batch, height, width, channels]。或者，数据布局可以是 NCHW，数据存储顺序为：[batch, channels, height, width]。

支持按形状调整大小和按比例调整大小两种方式。

输入 (按形状调整大小)

• 0: 一个四维张量，形状为 [batches, height, width, depth]，指定输入。此张量支持零批次。
• 1: 一个 ANEURALNETWORKS_INT32 标量，指定输出张量的输出宽度。
• 2: 一个 ANEURALNETWORKS_INT32 标量，指定输出张量的输出高度。
• 3: 一个 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。
• 4: 对齐角点。一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。如果为 True，则对齐输入和输出张量的 4 个角像素的中心，保留角像素处的值。自 NNAPI 功能级别 4 起可用。
• 5: 半像素中心。一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。如果为 True，则假定像素中心位于 (0.5, 0.5)。这是 TF 2.0 中 image.resize 的默认行为。如果此参数为 True，则 align_corners 参数必须为 False。自 NNAPI 功能级别 4 起可用。

输入 (按比例调整大小)

• 0: 一个四维张量，形状为 [batches, height, width, depth]，指定输入。此张量支持零批次。
• 1: 一个标量，指定 width_scale，即宽度维度从输入张量到输出张量的缩放因子。输出宽度计算为 new_width = floor(width * width_scale)。如果 input0 为 ANEURALNETWORKS_TENSOR_FLOAT16 类型，则该标量必须为 ANEURALNETWORKS_FLOAT16 类型；否则必须为 ANEURALNETWORKS_FLOAT32 类型。
• 2: 一个标量，指定 height_scale，即高度维度从输入张量到输出张量的缩放因子。输出高度计算为 new_height = floor(height * height_scale)。如果 input0 为 ANEURALNETWORKS_TENSOR_FLOAT16 类型，则该标量必须为 ANEURALNETWORKS_FLOAT16 类型；否则必须为 ANEURALNETWORKS_FLOAT32 类型。
• 3: 一个 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。
• 4: 对齐角点。一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。如果为 True，则对齐输入和输出张量的 4 个角像素的中心，保留角像素处的值。自 NNAPI 功能级别 4 起可用。
• 5: 半像素中心。一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。如果为 True，则假定像素中心位于 (0.5, 0.5)。这是 TF 2.0 中 image.resize 的默认行为。如果此参数为 True，则 align_corners 参数必须为 False。自 NNAPI 功能级别 4 起可用。

输出

• 0: 输出的四维张量，形状为 [batches, new_height, new_width, depth]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 3 起可用。

反转张量的指定维度。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED
• ANEURALNETWORKS_TENSOR_INT32

支持的张量秩：最高 8。

输入

• 0: 秩为 n 的输入张量。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的轴张量，形状为 [1]，指定要反转的输入张量维度。该维度必须在 [0, n) 范围内。

输出

• 0: 形状与输入张量相同的反转张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scales 和 zeroPoint 必须与 input0 相同。

从 NNAPI feature level 7 开始可用。

一个基本循环神经网络层。

此层实现操作：outputs = state = activation(inputs * input_weights + state * recurrent_weights + bias)

其中：

• “input_weights” 是与输入相乘的权重矩阵；
• “recurrent_weights” 是与当前“state”相乘的权重矩阵，“state”本身是前一时间步计算的输出；
• “bias” 是一个偏置向量（添加到批次中的每个输出向量）；
• “activation”是作为“fused_activation_function”参数传入的函数（如果不是“NONE”）。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32

所有输入张量必须具有相同的类型。

输入

• 0: input。一个形状为 [batch_size, input_size] 的二维张量，其中“batch_size”对应于批次维度，“input_size”是输入的大小。
• 1: weights。一个形状为 [num_units, input_size] 的二维张量，其中“num_units”对应于单元数量。
• 2: recurrent_weights。一个形状为 [num_units, num_units] 的二维张量，其中列对应于每个单元的权重。
• 3: bias。一个形状为 [num_units] 的一维张量。
• 4: 隐藏状态 (in)。一个形状为 [batch_size, num_units] 的二维张量。
• 5: fused_activation_function。一个可选的 FuseCode 值，指示激活函数。如果指定为“NONE”，则表示线性激活。

输出

• 0: 隐藏状态 (out)。一个形状为 [batch_size, num_units] 的二维张量。
• 1: output。一个形状为 [batch_size, num_units] 的二维张量。这实际上与当前状态值相同。

自 NNAPI 功能级别 1 起可用。

通过对双线性插值获得的采样点进行平均池化，选择并缩放每个感兴趣区域的特征图到统一的输出尺寸。

感兴趣区域由其在原始图像中的左上角坐标 (x1,y1) 和右下角坐标 (x2,y2) 表示。应用空间缩放因子以映射到特征图坐标。有效的感兴趣区域应满足 x1 <= x2 和 y1 <= y2。

此操作不应用舍入。采样点在池化 bin 中均匀分布，其值通过双线性插值计算。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：4，数据布局为 "NHWC" 或 "NCHW"。默认数据布局为 NHWC，数据按以下顺序存储：[batch, height, width, channels]。或者，数据布局可以是 NCHW，数据存储顺序为：[batch, channels, height, width]。

输入

• 0: 一个四维张量，指定特征图。
• 1: 一个形状为 [num_rois, 4] 的二维张量，指定感兴趣区域的位置，每行格式为 [x1, y1, x2, y2]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 类型的 input0，此张量应为 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 类型，zeroPoint 为 0，scale 为 0.125。此张量支持零 num_rois。
• 2：一个 1 维 ANEURALNETWORKS_TENSOR_INT32 张量，形状为 [num_rois]，指定每个框的批次索引。具有相同批次索引的框将分组在一起。此张量支持零 num_rois。
• 3: 一个 ANEURALNETWORKS_INT32 标量，指定输出张量的输出高度。
• 4: 一个 ANEURALNETWORKS_INT32 标量，指定输出张量的输出宽度。
• 5: 一个 ANEURALNETWORKS_FLOAT32 标量，指定原始图像高度与特征图高度之比。
• 6: 一个 ANEURALNETWORKS_FLOAT32 标量，指定原始图像宽度与特征图宽度之比。
• 7: 一个 ANEURALNETWORKS_INT32 标量，指定用于计算输出的高度维度采样点数量。设置为 0 表示自适应值 ceil(roi_height/out_height)。
• 8: 一个 ANEURALNETWORKS_INT32 标量，指定用于计算输出的宽度维度采样点数量。设置为 0 表示自适应值 ceil(roi_width/out_width)。
• 9: 一个 ANEURALNETWORKS_BOOL 标量，设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。设置为 false 表示 NHWC。

输出

• 0: 一个与 input0 具有相同 OperandCode 的张量。输出形状为 [num_rois, out_height, out_width, depth]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 可以与 input0 的 scale 和 zeroPoint 不同。

自 NNAPI 功能级别 3 起可用。

通过最大池化，选择并缩放每个感兴趣区域的特征图到统一的输出尺寸。

感兴趣区域由其在原始图像中的左上角坐标 (x1,y1) 和右下角坐标 (x2,y2) 表示。应用空间缩放因子以映射到特征图坐标。有效的感兴趣区域应满足 x1 <= x2 和 y1 <= y2。

此操作应用舍入以确保感兴趣区域和池化 bin 的整数边界。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：4，数据布局为 "NHWC" 或 "NCHW"。默认数据布局为 NHWC，数据按以下顺序存储：[batch, height, width, channels]。或者，数据布局可以是 NCHW，数据存储顺序为：[batch, channels, height, width]。

输入

• 0: 一个四维张量，指定特征图。
• 1: 一个形状为 [num_rois, 4] 的二维张量，指定感兴趣区域的位置，每行格式为 [x1, y1, x2, y2]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型的 input0 张量，此张量应为 ANEURALNETWORKS_TENSOR_QUANT16_ASYMM 类型，zeroPoint 为 0，scale 为 0.125。
• 2: 一个形状为 [num_rois] 的一维 ANEURALNETWORKS_TENSOR_INT32 张量，指定每个 box 的批次索引。具有相同批次索引的 box 会被分组在一起。
• 3: 一个 ANEURALNETWORKS_INT32 标量，指定输出张量的输出高度。
• 4: 一个 ANEURALNETWORKS_INT32 标量，指定输出张量的输出宽度。
• 5: 一个 ANEURALNETWORKS_FLOAT32 标量，指定原始图像高度与特征图高度之比。
• 6: 一个 ANEURALNETWORKS_FLOAT32 标量，指定原始图像宽度与特征图宽度之比。
• 7: 一个 ANEURALNETWORKS_BOOL 标量，设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。设置为 false 表示 NHWC。

输出

• 0: 一个与 input0 具有相同 OperandCode 的张量。输出形状为 [num_rois, out_height, out_width, depth]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型的 input0 张量，其 scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 3 起可用。

按元素计算 x 的平方根的倒数。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM (自 NNAPI 功能级别 7 起)
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED (自 NNAPI 功能级别 7 起)

支持的张量维度：从 1 起。

输入

• 0：一个张量。

输出

• 0: 形状与 input0 相同的输出张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 可以与输入张量的 scale 和 zeroPoint 不同。

自 NNAPI 功能级别 3 起可用。

使用布尔张量 c 和输入张量 x 和 y 按元素从两个输入张量中选择值

O[i] = C[i] ? x[i] : y[i].

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

输入

• 0: 一个 ANEURALNETWORKS_TENSOR_BOOL8 类型的张量，作为掩码，根据每个元素的值来选择输出中的对应元素应取自 input1（如果为 true）还是 input2（如果为 false）。
• 1: 形状与 input0 相同的输入张量。
• 2: 形状和类型与 input1 相同的输入张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scales 和 zeroPoint 可以与 input1 的 scale 和 zeroPoint 不同。

输出

• 0: 类型和形状与 input1 和 input2 相同的张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 张量，其 scale 和 zeroPoint 可以与输入张量的 scale 和 zeroPoint 不同。

自 NNAPI 功能级别 3 起可用。

按元素计算 x 的 sin。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量维度：从 1 起。

输入

• 0：一个张量。

输出

• 0：与 input0 形状相同的输出张量。

自 NNAPI 功能级别 3 起可用。

从指定位置开始，从输入张量中提取指定尺寸的切片。

起始位置指定为一个一维张量，包含每个维度的偏移量。尺寸指定为一个一维张量，包含相应维度上切片的尺寸或 -1。在后一种情况下，该维度的所有剩余元素都包含在切片中。

开始偏移量和切片尺寸之和不能超过相应维度的尺寸。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

输入

• 0: 一个 n 维张量，用于提取切片，可能为零尺寸。
• 1: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的一维张量，指定切片在每个维度中的起始索引。
• 2: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的一维张量，指定切片在每个维度中的尺寸。

输出

• 0: 一个与输入类型相同的 n 维张量，包含切片。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 必须与 input0 的 scale 和 zeroPoint 相同。

自 NNAPI 功能级别 3 起可用。

通过对输入向量进行归一化，使最大系数为零，从而按元素、按批次计算输入张量的 Softmax 激活。

输出使用此公式计算

output[batch, i] =
    exp((input[batch, i] - max(input[batch, :])) * beta) /
    sum_{k}{exp((input[batch, k] - max(input[batch, :])) * beta)}

对于秩非 2 的输入张量，激活将沿指定维度独立应用于每个一维切片。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：最高 4。自 NNAPI 功能级别 3 起，仅支持秩非 2 或 4 的张量。

输入

• 0: 一个二维或四维张量，指定输入张量。自 NNAPI 功能级别 3 起，此张量可能为零尺寸。
• 1: 一个标量，指定指数的正缩放因子 beta。如果 input0 是 ANEURALNETWORKS_TENSOR_FLOAT32、ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 或 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型，则该标量必须为 ANEURALNETWORKS_FLOAT32 类型。如果 input0 是 ANEURALNETWORKS_TENSOR_FLOAT16 类型，则该标量必须为 ANEURALNETWORKS_FLOAT16 类型。
• 2: 一个可选的 ANEURALNETWORKS_INT32 标量，默认为 -1，指定执行激活的维度。负索引用于指定从末尾开始的轴（例如，-1 表示最后一个轴）。必须在 [-n, n) 范围内。自 NNAPI 功能级别 3 起可用。

输出

• 0: 输出张量，与 input0 具有相同的形状。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM，scale 必须为 1.f / 256，zeroPoint 必须为 0。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED，scale 必须为 1.f / 256，zeroPoint 必须为 -128。

自 NNAPI 功能级别 1 起可用。

N 维张量的 SpaceToBatch 操作。

此操作将输入的空间维度 [1, ..., M] 分割为形状为 block_shape 的块网格，并将这些块与批次维度 (0) 交错，以便在输出中，空间维度 [1, ..., M] 对应于网格内的位置，而批次维度则结合了空间块内的位置和原始批次位置。在分割成块之前，输入的空间维度可以选择根据 paddings 进行零填充。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED (自 NNAPI 功能级别 4 起) (自 NNAPI 功能级别 3 起完全支持，请参阅输出部分)

支持的张量维度：4，采用“NHWC”或“NCHW”数据布局。默认数据布局 NHWC 的数据存储顺序为：[批次，高度，宽度，通道]。或者，数据布局可以是 NCHW，数据存储顺序为：[批次，通道，高度，宽度]。NCHW 自 NNAPI 功能级别 3 起受支持。

输入

• 0: 一个 n 维张量，指定输入。
• 1：一个 ANEURALNETWORKS_TENSOR_INT32 的 1 维张量，输入张量每个空间维度的块大小。所有值必须 >= 1。
• 2: 一个 ANEURALNETWORKS_TENSOR_INT32 类型的二维张量，表示输入张量每个空间维度的填充。所有值必须 >= 0。该张量的形状必须是 {M, 2}，其中 M 是空间维度的数量。padding[i, 0] 指定维度 i 前面要填充的元素数量。padding[i, 1] 指定维度 i 末尾之后要填充的元素数量。
• 3: 一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。自 NNAPI 功能级别 3 起可用。

输出

• 0: 一个与 input0 具有相同 OperandCode 的张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，其 scale 和 zeroPoint 必须与 input0 相同。注意：在 NNAPI 功能级别 3 之前，ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 的填充值未定义。自 NNAPI 功能级别 3 起，填充值始终为逻辑零。

自 NNAPI 功能级别 2 起可用。

将空间数据的块重新排列到深度。

更具体地说，此操作输出输入张量的副本，其中来自高度和宽度维度中的值被移到深度维度。block_size 值指示输入块大小以及数据移动的方式。

大小为 block_size * block_size 的数据块从深度维度重新排列到大小为 block_size x block_size 的非重叠块中。

输出张量的深度是 input_depth * block_size * block_size。输入张量的高度和宽度必须能被 block_size 整除。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：4，采用“NHWC”或“NCHW”数据布局。默认数据布局 NHWC 的数据存储顺序为：[批次，高度，宽度，通道]。或者，数据布局可以是 NCHW，数据存储顺序为：[批次，通道，高度，宽度]。NCHW 自 NNAPI 功能级别 3 起受支持。

输入

• 0：一个 4-D 张量，形状为 [batches, height, width, depth_in]，指定输入。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定 block_size。block_size 必须 >=1 且必须是输入高度和宽度的除数。
• 2：一个可选的 ANEURALNETWORKS_BOOL 标量，默认为 false。设置为 true 以指定 input0 和 output0 的 NCHW 数据布局。自 NNAPI 特性级别 3 起可用。

输出

• 0：输出 4-D 张量，形状为 [batches, height/block_size, width/block_size, depth_in*block_size*block_size]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 1 起可用。

沿给定轴将张量分成 num_splits 个子张量。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

输入

• 0：要分割的 n-D 张量。
• 1：一个 ANEURALNETWORKS_INT32 标量，指定沿哪个轴分割。
• 2：一个 ANEURALNETWORKS_INT32 标量，指示沿给定轴的分割数量。必须能整除轴的大小。

输出

• 0 ~ (num_splits - 1)：结果子张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 3 起可用。

计算 x 的逐元素平方根。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量维度：从 1 起。

输入

• 0：一个张量。

输出

• 0：与 input0 形状相同的输出张量。

自 NNAPI 功能级别 3 起可用。

从张量形状中移除大小为 1 的维度。

给定一个输入张量，此操作返回一个具有相同 OperandCode 的张量，并移除所有大小为 1 的维度。如果您不想移除所有大小为 1 的维度，可以通过指定轴 (input1) 来移除特定的尺寸为 1 的维度。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量，即要挤压的张量。
• 1：一个可选的 ANEURALNETWORKS_TENSOR_INT32 类型的 1-D 张量。要挤压的维度。如果指定了维度，则只挤压列出的维度。否则，挤压所有维度。维度索引从 0 开始。如果挤压大小不为 1 的维度，必须报告错误。

输出

• 0：一个与 input0 具有相同 OperandCode 的张量。包含与输入相同的数据，但已移除一个或多个大小为 1 的维度。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。如果所有输入维度都等于 1 且将被挤压，则输出形状为 [1]。

自 NNAPI 功能级别 2 起可用。

提取张量的带步长切片。

大致来说，此操作从给定输入张量中提取大小为 (end - begin) / stride 的切片。从由 begin 指定的位置开始，通过向索引添加 stride 继续切片，直到所有维度都不小于 end。请注意，步长可以是负数，这会导致反向切片。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量，指定要切片的张量。
• 1：begin，一个 ANEURALNETWORKS_TENSOR_INT32 类型的 1-D 张量。要切片的输入张量的维度的起始。长度必须是 rank(input0)。
• 2：end，一个 ANEURALNETWORKS_TENSOR_INT32 类型的 1-D 张量。要切片的输入张量的维度的结束。长度必须是 rank(input0)。
• 3：strides，一个 ANEURALNETWORKS_TENSOR_INT32 类型的 1-D 张量。要切片的输入张量的维度的步长。长度必须是 rank(input0)。条目必须非零。
• 4：begin_mask，一个 ANEURALNETWORKS_INT32 标量。如果 begin_mask 的第 i 位被设置，begin[i] 将被忽略，并改为使用该维度中的最大可能范围。
• 5：end_mask，一个 ANEURALNETWORKS_INT32 标量。如果 end_mask 的第 i 位被设置，end[i] 将被忽略，并改为使用该维度中的最大可能范围。
• 6：shrink_axis_mask，一个 ANEURALNETWORKS_INT32 标量。如果 shrink_axis_mask 的第 i 位被设置，则第 i 个维度规范会将维度减少 1，取 begin[i] 索引处的值。在这种情况下，第 i 个规范必须定义大小为 1 的切片，例如 begin[i] = x, end[i] = x + 1。

输出

• 0：一个与 input0 具有相同 OperandCode 的张量，其秩为 (n - k)，其中 k 是在 shrink_axis_mask 中设置的位数。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。如果 shrink_axis_mask 对于所有输入维度都为 true，则输出形状为 [1]。

自 NNAPI 功能级别 2 起可用。

两个张量的逐元素相减。

接受两个具有相同 OperandCode 和兼容维度的输入张量。输出是将第二个输入张量从第一个张量中减去的结果，可选择通过激活函数进行修改。

当两个维度满足以下条件之一时兼容

1. 它们相等，或者
2. 其中一个为 1

输出的大小是输入操作数沿每个维度的最大大小。它从尾部维度开始，向前推进。

示例：input1.dimension = {4, 1, 2}，input2.dimension = {5, 4, 3, 1}，output.dimension = {5, 4, 3, 2}

自 NNAPI 功能级别 3 起，支持泛型零大小输入张量。零维度仅与 0 或 1 兼容。如果任一对应输入维度为零，则输出维度的大小为零。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM（自 NNAPI 特性级别 3 起）
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）
• ANEURALNETWORKS_TENSOR_INT32（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量，指定第一个输入。
• 1：一个张量，与 input0 具有相同的 OperandCode 和兼容维度。
• 2：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。对于 ANEURALNETWORKS_TENSOR_INT32 张量，FuseCode 必须为“NONE”。

输出

• 0：一个与 input0 具有相同 OperandCode 的张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 可以与输入的 scale 和 zeroPoint 不同。

自 NNAPI 功能级别 2 起可用。

SVDF 操作是一种有状态层，其概念源自：一个处理输入帧序列的密集连接层可以通过对其每个节点的奇异值分解来近似。

实现基于

https://research.google.com/pubs/archive/43813.pdf

P. Nakkiran, R. Alvarez, R. Prabhavalkar, C. Parada. “Compressing Deep Neural Networks using a Rank-Constrained Topology”. INTERSPEECH, 2015.

它使用两阶段过滤机制处理传入的输入

• 第一阶段在“特征”维度上执行过滤，其输出被推入固定大小 memory_size 的内存中。
• 第二阶段对第一阶段 memory_size 记忆化输出的“时间”维度执行过滤。

具体来说，对于 rank 1，此层实现以下操作

memory = push(conv1d(inputs, weights_feature, feature_dim,
                     "ANEURALNETWORKS_PADDING_VALID"));
outputs = activation(memory * weights_time + bias);

其中：

• “weights_feature”是一个权重矩阵，用于处理输入（通过将输入与每个“特征滤波器”进行卷积），并且其输出按顺序堆叠推入固定大小的“内存”（最旧的条目将被丢弃）；
• “weights_time”是一个权重矩阵，用于处理“内存”（通过对 num_units 执行批处理矩阵乘法）；
• “bias”是一个可选的偏置向量（添加到批处理中的每个输出向量）；并且
• “activation”是作为“fused_activation_function”参数传入的函数（如果不是“NONE”）。

每个 rank 通过堆叠滤波器向权重矩阵添加一个维度。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32

所有输入张量必须是相同的类型。

输入

• 0: input。一个形状为 [batch_size, input_size] 的二维张量，其中“batch_size”对应于批次维度，“input_size”是输入的大小。
• 1：weights_feature。一个形状为 [num_units, input_size] 的 2-D 张量，其中“num_units”对应于单元数量。
• 2：weights_time。一个形状为 [num_units, memory_size] 的 2-D 张量，其中“memory_size”对应于内存的固定大小。
• 3：bias。一个可选的形状为 [num_units] 的 1-D 张量。
• 4：state (in)。一个形状为 [batch_size, (memory_size - 1) * num_units * rank] 的 2-D 张量。
• 5：rank。SVD 近似的秩。
• 6：fused_activation_function。一个可选的 FuseCode 值，指示激活函数。如果指定为“NONE”，则结果为线性激活。

输出

• 0：state (out)。一个与输入具有相同 OperandCode 的 2-D 张量，形状为 [batch_size, (memory_size - 1) * num_units * rank]。
• 1：output。一个与输入具有相同 OperandCode 的 2-D 张量，形状为 [batch_size, num_units]。

自 NNAPI 功能级别 1 起可用。

计算输入张量的逐元素双曲正切。

输出使用此公式计算

output = tanh(input)

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM（自 NNAPI 特性级别 3 起）
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量秩：最高 4。

输入

• 0: 一个张量，指定输入。从 NNAPI feature level 3 开始，此张量可能大小为零。

输出

• 0：与 input0 形状相同的输出张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM，scale 必须是 1.f / 128，zeroPoint 必须是 128。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED，scale 必须是 1.f / 128，zeroPoint 必须是 0。

自 NNAPI 功能级别 1 起可用。

通过平铺给定张量来构造张量。

此操作通过将 input 复制 multiples 次来创建一个新张量。输出张量的第 i 个维度包含 input.dims(i) * multiples[i] 个元素，并且 input 的值沿第 i 个维度复制了 multiples[i] 次。例如，将 [a b c d] 按 [2] 平铺会生成 [a b c d a b c d]。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

输入

• 0：input，一个 n-D 张量，指定输入。
• 1：multiples，一个 ANEURALNETWORKS_TENSOR_INT32 类型的 1-D 张量。multiples 的长度必须为 n。

输出

• 0：一个与 input 具有相同 OperandCode 和秩的平铺张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 3 起可用。

查找最后一个维度的 k 个最大条目的值和索引。

每个维度的结果值按降序排序。如果两个值相等，则索引较大的那个先出现。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_INT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：从 1 起

输入

• 0：input，一个 n-D 张量，指定输入。
• 1：k，一个 ANEURALNETWORKS_INT32 标量，指定沿最后一个维度查找的顶部元素的数量。

输出

• 0：一个与输入具有相同类型的 n-D 张量，包含沿每个最后一个维度切片的 k 个最大元素。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。
• 1：一个 ANEURALNETWORKS_TENSOR_INT32 类型的 n-D 张量，包含输入最后一个维度中值的索引。

自 NNAPI 功能级别 3 起可用。

根据 perm 张量对输入张量进行转置，重新排列维度。

返回张量的维度 i 对应于输入维度的 perm[i]。如果未给出 perm，则默认为 (n-1...0)，其中 n 是输入张量的秩。因此，默认情况下，此操作对 2-D 输入张量执行常规矩阵转置。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16（自 NNAPI 功能级别 3 起）
• ANEURALNETWORKS_TENSOR_FLOAT32
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM
• ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED（自 NNAPI 功能级别 4 起）

支持的张量维度：最多 4

输入

• 0：一个 n-D 张量，指定要转置的张量。自 NNAPI 功能级别 3 起，此张量可以是零大小的。
• 1：一个可选的 ANEURALNETWORKS_TENSOR_INT32 类型的 1-D 张量，表示输入张量维度的置换。

输出

• 0：一个与 input0 具有相同 OperandCode 的张量。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 必须与 input0 相同。

自 NNAPI 功能级别 2 起可用。

执行 2-D 卷积操作的转置。

此操作有时在反卷积网络之后被称为“反卷积”，但实际上是 ANEURALNETWORKS_CONV_2D 的转置（梯度），而不是实际的反卷积。

输出维度是滤波器维度、步幅和填充的函数。

支持的张量 OperandCode 配置：

• 16 位浮点：
• * ANEURALNETWORKS_TENSOR_FLOAT16 用于输入、滤波器、输出和偏置。
• 32 位浮点：
• * ANEURALNETWORKS_TENSOR_FLOAT32 用于输入、滤波器、输出和偏置。
• 量化：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 用于输入、滤波器和输出。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 input.scale * filter.scale）。
• * input.scale * filter.scale)。
• 对滤波器使用对称逐通道量化进行量化：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 用于输入和输出。
• * ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 用于滤波器。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 0.0，每个值的比例单独设置，等于 input.scale * filter.scales[channel]）。
• * 每个值的缩放是独立的，等于 input.scale * filter.scales[channel])。

自 NNAPI 特性级别 4 起可用

• 量化有符号（自 NNAPI 特性级别 4 起）：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 用于输入、滤波器和输出。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 input.scale * filter.scale）。
• * input.scale * filter.scale)。
• 带滤波器对称逐通道量化的量化有符号（自 NNAPI 特性级别 4 起）：
• * ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 用于输入和输出。
• * ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 用于滤波器。
• * ANEURALNETWORKS_TENSOR_INT32 用于偏置（比例设置为 0.0，每个值的比例单独设置，等于 input.scale * filter.scales[channel]）。
• * 每个值的缩放是独立的，等于 input.scale * filter.scales[channel])。

支持的张量秩：4，数据布局为 "NHWC" 或 "NCHW"。默认数据布局为 NHWC，数据按以下顺序存储：[batch, height, width, channels]。或者，数据布局可以是 NCHW，数据存储顺序为：[batch, channels, height, width]。

显式填充和隐式填充都受支持。

输入（显式填充）

• 0：一个形状为 [batches, height, width, depth_in] 的 4-D 张量，指定输入。自 API 级别 29 起，此张量支持零批次。
• 1：一个 4-D 张量，形状为 [depth_out, filter_height, filter_width, depth_in]，指定滤波器。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 的张量，通道维度 (ANeuralNetworksSymmPerChannelQuantParams::channelDim) 必须设置为 0。
• 2：一个形状为 [depth_out] 的 1-D 张量，指定偏置。对于 ANEURALNETWORKS_TENSOR_FLOAT32 或 ANEURALNETWORKS_TENSOR_FLOAT16 类型的输入张量，偏置必须是相同类型。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32 类型，zeroPoint 为 0，bias_scale == input_scale * filter_scale。对于 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 类型的滤波器张量，偏置必须为 ANEURALNETWORKS_TENSOR_INT32 类型，zeroPoint 为 0，bias_scale 为 0。每个值 'i' 的实际 scale 等于 bias_scale[i] = input_scale * filter_scale[i]。
• 3：一个 ANEURALNETWORKS_INT32 标量，指定“宽度”维度左侧的填充。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定“宽度”维度右侧的填充。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定“高度”维度顶部的填充。
• 6：一个 ANEURALNETWORKS_INT32 标量，指定“高度”维度底部的填充。
• 7：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入时的步长。
• 8：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入时的步长。
• 9：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 10：一个 ANEURALNETWORKS_BOOL 标量，设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。设置为 false 表示 NHWC。

输入（隐式填充）

• 0：一个形状为 [batches, height, width, depth_in] 的 4-D 张量，指定输入。自 API 级别 29 起，此张量支持零批次。
• 1：一个 4-D 张量，形状为 [depth_out, filter_height, filter_width, depth_in]，指定滤波器。对于类型为 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 的张量，通道维度 (ANeuralNetworksSymmPerChannelQuantParams::channelDim) 必须设置为 0。
• 2：一个形状为 [depth_out] 的 1-D 张量，指定偏置。对于 ANEURALNETWORKS_TENSOR_FLOAT32 或 ANEURALNETWORKS_TENSOR_FLOAT16 类型的输入张量，偏置应为相同类型。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 类型的滤波器张量，偏置应为 ANEURALNETWORKS_TENSOR_INT32 类型，zeroPoint 为 0，bias_scale == input_scale * filter_scale。对于 ANEURALNETWORKS_TENSOR_QUANT8_SYMM_PER_CHANNEL 类型的滤波器张量，偏置必须为 ANEURALNETWORKS_TENSOR_INT32 类型，zeroPoint 为 0，bias_scale 为 0。每个值 'i' 的实际 scale 等于 bias_scale[i] = input_scale * filter_scale[i]。
• 3：一个 ANEURALNETWORKS_TENSOR_INT32 张量，指定输出张量形状。
• 4：一个 ANEURALNETWORKS_INT32 标量，指定隐式填充方案，必须是 PaddingCode 值之一。
• 5：一个 ANEURALNETWORKS_INT32 标量，指定在“宽度”维度中遍历输入的步幅。
• 6：一个 ANEURALNETWORKS_INT32 标量，指定在“高度”维度中遍历输入的步幅。
• 7：一个 ANEURALNETWORKS_INT32 标量，必须是 FuseCode 值之一。指定对结果调用的激活函数。
• 8: 一个 ANEURALNETWORKS_BOOL 标量，设置为 true 表示 input0 和 output0 使用 NCHW 数据布局。设置为 false 表示使用 NHWC。

输出

• 0: 输出的 4 维张量，形状为 [batches, out_height, out_width, depth_out]。对于 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM 和 ANEURALNETWORKS_TENSOR_QUANT8_ASYMM_SIGNED 张量，scale 和 zeroPoint 可以与输入的 scale 和 zeroPoint 不同。

自 NNAPI 功能级别 3 起可用。

由 LSTM 单元指定的循环神经网络。

执行输入的（完全）动态展开。

此操作沿时间维度展开输入，并对序列中的每个元素 s = 1...sequence_length 实现以下操作：outputs[s] = projection(state = activation(LSTMOp(inputs[s])))

其中 LSTMOp 是 ANEURALNETWORKS_LSTM 中的 LSTM 操作，“projection”是从状态和输出进行的可选投影层，“activation”是作为“fused_activation_function”参数传递的函数（如果不是“NONE”）。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

支持的张量秩：3，可以是时间优先 (time-major) 或批量优先 (batch-major)。

所有输入和输出张量必须具有相同的类型。

输入

• 0：输入（ $x_t$）。一个 3-D 张量，形状为：如果 time-major：[max_time, batch_size, input_size] 如果 batch-major：[batch_size, max_time, input_size] 其中“max_time”是时间步数（序列长度），“batch_size”对应于批处理维度，“input_size”是输入的大小。
• 1: 输入到输入权重 ( $W_{xi}$)。可选。一个形状为 [num_units, input_size] 的 2 维张量，其中“num_units”对应于细胞单元的数量。
• 2: 输入到遗忘权重 ( $W_{xf}$)。一个形状为 [num_units, input_size] 的 2 维张量。
• 3: 输入到细胞权重 ( $W_{xc}$)。一个形状为 [num_units, input_size] 的 2 维张量。
• 4: 输入到输出权重 ( $W_{xo}$)。一个形状为 [num_units, input_size] 的 2 维张量。
• 5: 循环到输入权重 ( $W_{hi}$)。可选。一个形状为 [num_units, output_size] 的 2 维张量，其中“output_size”对应于细胞单元数量（即“num_units”），或者如果定义了“projection_weights”，则为其第二个维度。
• 6: 循环到遗忘权重 ( $W_{hf}$)。一个形状为 [num_units, output_size] 的 2 维张量。
• 7: 循环到细胞权重 ( $W_{hc}$)。一个形状为 [num_units, output_size] 的 2 维张量。
• 8: 循环到输出权重 ( $W_{ho}$)。一个形状为 [num_units, output_size] 的 2 维张量。
• 9: 细胞到输入权重 ( $W_{ci}$)。可选。一个形状为 [num_units] 的 1 维张量。
• 10: 细胞到遗忘权重 ( $W_{cf}$)。可选。一个形状为 [num_units] 的 1 维张量。
• 11: 细胞到输出权重 ( $W_{co}$)。可选。一个形状为 [num_units] 的 1 维张量。
• 12: 输入门偏置 ( $b_i$)。可选。一个形状为 [num_units] 的 1 维张量。
• 13: 遗忘门偏置 ( $b_f$)。一个形状为 [num_units] 的 1 维张量。
• 14: 细胞偏置 ( $b_c$)。一个形状为 [num_units] 的 1 维张量。
• 15: 输出门偏置 ( $b_o$)。一个形状为 [num_units] 的 1 维张量。
• 16: 投影权重 ( $W_{proj}$)。可选。一个形状为 [output_size, num_units] 的 2 维张量。
• 17: 投影偏置 ( $b_{proj}$)。可选。一个形状为 [output_size] 的 1 维张量。
• 18: 输出状态 (in) ( $h_{t-1}$)。一个形状为 [batch_size, output_size] 的 2 维张量。
• 19: 细胞状态 (in) ( $C_{t-1}$)。一个形状为 [batch_size, num_units] 的 2 维张量。
• 20: 激活函数 ( $g$)。指示激活函数的值
  • 0：无；
  • 1：Relu；
  • 3：Relu6；
  • 4：Tanh；
  • 6：Sigmoid。
• 21：单元状态的裁剪阈值（ $t_{cell}$），使得值被限制在 [-cell_clip, cell_clip] 范围内。如果设置为 0.0，则禁用裁剪。
• 22：来自投影层输出的裁剪阈值（ $t_{proj}$），使得值被限制在 [-proj_clip, proj_clip] 范围内。如果设置为 0.0，则禁用裁剪。
• 23：如果为 true 则 time-major，如果为 false 则 batch-major。
• 24：输入层归一化权重。可选。一个形状为 [num_units] 的 1-D 张量。用于重新缩放输入门激活的归一化输入。
• 25：遗忘层归一化权重。可选。一个形状为 [num_units] 的 1-D 张量。用于重新缩放遗忘门激活的归一化输入。
• 26：单元层归一化权重。可选。一个形状为 [num_units] 的 1-D 张量。用于重新缩放单元门激活的归一化输入。
• 27：输出层归一化权重。可选。一个形状为 [num_units] 的 1-D 张量。用于重新缩放输出门激活的归一化输入。

输出

• 0：输出（ $o_t$）。一个 3-D 张量，形状为：如果 time-major：[max_time, batch_size, output_size] 如果 batch-major：[batch_size, max_time, output_size]
• 1：一个形状为 [batch_size, output_size] 的张量，包含序列中最后一个时间步的隐藏状态。此输出是可选的，可以省略。如果此输出存在，则输出 #2 也必须存在。自 NNAPI 功能级别 4 起可用。
• 2：一个形状为 [batch_size, cell_size] 的张量，包含序列中最后一个时间步的单元状态。此输出是可选的，可以省略。自 NNAPI 功能级别 4 起可用。

自 NNAPI 功能级别 3 起可用。

重要提示：截至 NNAPI 特性级别 3，无法获取输出状态张量，NNAPI 也不维护内部状态。此操作不支持多单元格链式连接并传播状态张量的使用模式。

一个循环神经网络层，将基本 RNN 单元应用于输入序列。

此层沿序列维度展开输入，并对序列中的每个元素 s = 1...sequence_length 实现以下操作：outputs[s] = state = activation(inputs[s] * input_weights’ + state * recurrent_weights’ + bias)

其中：

• “input_weights” 是与输入相乘的权重矩阵；
• “recurrent_weights” 是与当前“state”相乘的权重矩阵，“state”本身是前一时间步计算的输出；
• “bias” 是一个偏置向量（添加到批次中的每个输出向量）；
• “activation”是作为“fused_activation_function”参数传入的函数（如果不是“NONE”）。

支持的张量 OperandCode

• ANEURALNETWORKS_TENSOR_FLOAT16
• ANEURALNETWORKS_TENSOR_FLOAT32

所有输入张量必须具有相同的类型。

输入

• 0：input。一个 3-D 张量。形状由输入 6 (timeMajor) 定义。如果设置为 1，则输入形状为 [maxTime, batchSize, inputSize]，否则输入形状为 [batchSize, maxTime, inputSize]。
• 1：weights。一个形状为 [numUnits, inputSize] 的 2-D 张量。
• 2：recurrent_weights。一个形状为 [numUnits, numUnits] 的 2-D 张量。
• 3：bias。一个形状为 [numUnits] 的 1-D 张量。
• 4：hidden state。一个形状为 [batchSize, numUnits] 的 2-D 张量。指定计算的第一个时间步的隐藏状态输入。
• 5：fusedActivationFunction。一个 FuseCode 值，指示激活函数。如果指定为“NONE”，则结果为线性激活。
• 6：timeMajor。一个 ANEURALNETWORKS_INT32 标量，指定输入和输出张量的形状格式。必须设置为 0 或 1。输出
• 0：output。一个 3-D 张量。形状由输入 6 (timeMajor) 定义。如果设置为 1，则输出形状为 [maxTime, batchSize, numUnits]，否则输出形状为 [batchSize, maxTime, numUnits]。
• 1：一个形状为 [batchSize, numUnits] 的张量，包含序列中最后一个时间步的隐藏状态。此输出是可选的，可以省略。自 NNAPI 功能级别 4 起可用。

自 NNAPI 功能级别 3 起可用。

重要提示：截至 NNAPI 特性级别 3，无法获取输出状态张量，NNAPI 也不维护内部状态。此操作不支持多单元格链式连接并传播状态张量的使用模式。

执行 body 模型直到 condition 模型输出 false。

此操作的输入是 condition 模型、body 模型以及循环第一次迭代的操作数的值。这些值被隐式地分为三组：输入-输出值、仅状态值和仅输入值，如下所述。

此操作的输出是输入-输出操作数的最终值。

condition 模型和 body 模型都接收 (m + k + n) 个输入。

• 前 m 个 (m >= 1) 输入是输入-输出操作数。对于第一次迭代，它们从 WHILE 操作的相应输入进行初始化。在后续迭代中，它们的值来自 body 模型在前一次迭代中产生的相应输出。
• 接下来的 k 个 (k >= 0) 输入是仅状态操作数。它们类似于输入-输出操作数，只是它们的值在循环终止后不再可用。
• 最后 n 个 (n >= 0) 输入是仅输入操作数。它们的值来自 WHILE 操作的相应输入。

body 模型产生 (m + k) 个输出。

• 前 m 个输出是输入-输出操作数。当达到终止条件时，它们成为 WHILE 操作的输出。
• 最后 k 个输出是仅状态操作数。它们的值在循环终止后不再可用。

运行时推断 m, k, n 的数量如下：m = (WHILE 操作输出计数) k = (body 模型输出计数) - m n = (body 模型输入计数) - m - k

下面的伪代码说明了输入为 condition, body, initial_input_output, initial_state, input_only 的 WHILE 操作流程 (m = 1, k = 1, n = 1)。

input_output = initial_input_output
state = initial_state
while condition(input_output, state, input_only):
    input_output, state = body(input_output, state, input_only)
return input_output

为防止无限循环，每个循环都有一个隐式执行超时（“循环超时时长”）。请参阅 ANeuralNetworksExecution_setLoopTimeout。

输入

• 0：指向 condition 模型的 ANEURALNETWORKS_MODEL 引用。该模型必须具有 (m + k + n) 个输入，其类型、秩（如果指定）、维度（如果指定）、scales、zeroPoints 和其他操作数参数与 WHILE 操作的相应输入相同，并且只有一个 ANEURALNETWORKS_TENSOR_BOOL8 类型的输出，形状为 [1]。输出操作数必须具有完全指定的维度。
• 1：指向 body 模型的 ANEURALNETWORKS_MODEL 引用。该模型必须具有 (m + k + n) 个输入和 (m + k) 个输出，其类型、秩（如果指定）、维度（如果指定）、scales、zeroPoints 和其他操作数参数与 WHILE 操作的相应输入和输出相同。
• (m 个输入)：输入-输出操作数的初始值。
• (k 个输入)：仅状态操作数的初始值。
• (n 个输入)：仅输入操作数的值。

输出

• 0 ~ (m - 1)：循环产生的输出。

自 NNAPI 功能级别 4 起可用。

SAME 填充。

两端的填充是“相同的”：padding_to_beginning = total_padding / 2，padding_to_end = (total_padding + 1)/2。也就是说，对于偶数填充，两端的填充完全相同；对于奇数填充，末端的填充比起始端多 1。

total_padding 是输入、步长、膨胀和滤波器大小的函数。它可以计算如下：out_size = (input + stride - 1) / stride effective_filter_size = (filter_size - 1) * dilation + 1 needed_input = (out_size - 1) * stride + effective_filter_size total_padding = max(0, needed_input - input_size) 水平和垂直方向的计算相同。

VALID 填充。

无填充。当输入大小不能被滤波器大小整除时，末端无法填充整个滤波器图块的输入将被直接忽略。

优先尽快返回单个答案，即使这会增加功耗。

优先以最小化电池消耗的方式执行。

对于经常执行的编译，这是期望的。

优先最大化连续帧的吞吐量，例如处理来自相机的连续帧时。

由无效函数参数、无效模型定义、无效执行定义或执行时数据无效引起的失败。

由对象处于错误状态引起的失败。

指示对象处于死亡状态的失败。

自 NNAPI 功能级别 4 起可用。

因为任务未能达到截止时间而导致的失败，并且即使经过短暂延迟，将来同一任务也可能无法达到截止时间。

自 NNAPI 功能级别 4 起可用。

因为任务未能达到截止时间而导致的失败，但在短暂延迟后，将来同一任务可能仍能达到截止时间。

自 NNAPI 功能级别 4 起可用。

操作成功。

由模型执行失败引起的失败。

由提供给模型输出的缓冲区大小不足引起的失败。

由可用内存不足引起的失败。

由于驱动程序内的资源限制而导致的失败，并且即使经过短暂延迟，将来对同一任务的调用也可能失败。

自 NNAPI 功能级别 4 起可用。

由于驱动程序内的资源限制而导致的失败，但在短暂延迟后，将来对同一任务的调用可能仍会成功。

自 NNAPI 功能级别 4 起可用。

由设备不可用引起的失败。

由意外的 null 参数引起的失败。

由于无法将文件映射到内存而导致的失败。

这可能是由于文件描述符无法映射，或者设备不支持 AHardwareBuffer 引起的。可以通过将其内容读入内存来缓解。