NeuralNetworkRuntime

提供Neural Network Runtime加速模型推理的相关接口。

@Syscap SystemCapability.Ai.NeuralNetworkRuntime

起始版本：

9

汇总

文件

结构体

类型定义

枚举

函数

类型定义说明

OH_NN_Memory

typedef struct OH_NN_Memory OH_NN_Memory

描述：

内存结构体。

OH_NN_QuantParam

typedef struct OH_NN_QuantParam OH_NN_QuantParam

描述：

量化信息。

在量化的场景中，32位浮点型数据根据以下公式量化为定点数据：

其中s和z是量化参数，在OH_NN_QuanParam中通过scale和zeroPoint保存，r是浮点数，q是量化后的结果，q_min是量化后下界，q_max是量化后的上界，计算方式如下：

clamp函数定义如下：

OH_NN_Tensor

typedef struct OH_NN_Tensor OH_NN_Tensor

描述：

张量结构体。

通常用于构造模型图中的数据节点和算子参数，在构造张量时需要明确数据类型、维数、维度信息和量化信息。

OH_NN_UInt32Array

typedef struct OH_NN_UInt32Array OH_NN_UInt32Array

描述：

自定义的32位无符号整型数组类型。

OH_NNCompilation

typedef struct OH_NNCompilation OH_NNCompilation

描述：

Neural Network Runtime的编译器句柄。

OH_NNExecutor

typedef struct OH_NNExecutor OH_NNExecutor

描述：

Neural Network Runtime的执行器句柄。

OH_NNModel

typedef struct OH_NNModel OH_NNModel

描述：

Neural Network Runtime的模型句柄。

枚举类型说明

OH_NN_DataType

enum OH_NN_DataType

描述：

Neural Network Runtime支持的数据类型。

OH_NN_DeviceType

enum OH_NN_DeviceType

描述：

Neural Network Runtime支持的设备类型。

OH_NN_Format

enum OH_NN_Format

描述：

张量数据的排布类型。

OH_NN_FuseType

enum OH_NN_FuseType : int8_t

描述：

Neural Network Runtime融合算子中激活函数的类型。

OH_NN_OperationType

enum OH_NN_OperationType

描述：

Neural Network Runtime支持算子的类型。

OH_NN_PerformanceMode

enum OH_NN_PerformanceMode

描述：

硬件的性能模式。

OH_NN_Priority

enum OH_NN_Priority

描述：

模型推理任务优先级。

OH_NN_ReturnCode

enum OH_NN_ReturnCode

描述：

Neural Network Runtime定义的错误码类型。

OH_NN_TensorType

enum OH_NN_TensorType

描述：

张量的类型。

张量通常用于设置模型的输入、输出和算子参数。

作为模型（或算子）的输入和输出时，需要将张量类型设置为OH_NN_TENSOR；当张量作为算子参数时，需要选择除OH_NN_TENSOR以外合适的枚举值，作为张量的类型。

假设正在设置OH_NN_OPS_CONV2D算子的pad参数，则需要将 OH_NN_Tensor实例的type属性设置为OH_NN_CONV2D_PAD。

其他算子参数的设置以此类推，枚举值的命名遵守OH_NN_{算子名称}_{属性名}的格式。

函数说明

OH_NNCompilation_Build()

OH_NN_ReturnCode OH_NNCompilation_Build (OH_NNCompilation * compilation)

描述：

进行模型编译。

完成编译配置后，调用本方法指示模型编译已完成。编译实例将模型和编译选项推送至硬件设备进行编译。

在调用本方法后，无法进行额外的编译操作，调用 OH_NNCompilation_SetDevice、OH_NNCompilation_SetCache、 OH_NNCompilation_SetPerformanceMode、 OH_NNCompilation_SetPriority和OH_NNCompilation_EnableFloat16 方法将返回OH_NN_OPERATION_FORBIDDEN。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNCompilation_Construct()

OH_NNCompilation* OH_NNCompilation_Construct (const OH_NNModel * model)

描述：

创建OH_NNCompilation类型的编译实例。

使用OH_NNModel模块完成模型的构造后，借助OH_NNCompilation模块提供的接口，将模型传递到底层硬件完成编译。本方法接受一个 OH_NNModel实例，创建出OH_NNCompilation实例；通过 OH_NNCompilation_SetDevice方法，设置编译的设备，最后调用 OH_NNCompilation_Build完成编译。

除了计算硬件的选择，OH_NNCompilation模块支持模型缓存、性能偏好、优先级设置、float16计算等特性，参考以下方法：

• OH_NNCompilation_SetCache

• OH_NNCompilation_SetPerformanceMode

• OH_NNCompilation_SetPriority

• OH_NNCompilation_EnableFloat16

调用本方法创建OH_NNCompilation后，OH_NNModel实例可以释放。

参数:

返回:

返回一个指向OH_NNCompilation实例的指针。

OH_NNCompilation_Destroy()

void OH_NNCompilation_Destroy (OH_NNCompilation ** compilation)

描述：

释放Compilation对象。

调用OH_NNCompilation_Construct创建的编译实例需要调用本方法主动释放，否则将造成内存泄漏。

如果compilation为空指针或者*compilation为空指针，本方法只打印warning日志，不执行释放逻辑。

参数:

OH_NNCompilation_EnableFloat16()

OH_NN_ReturnCode OH_NNCompilation_EnableFloat16 (OH_NNCompilation * compilation, bool enableFloat16 )

描述：

是否以float16的浮点数精度计算。

Neural Network Runtime目前仅支持构造float32浮点模型和int8量化模型。在支持float16精度的硬件上调用本方法， float32浮点数精度的模型将以float16的精度执行计算，以减少内存占用和执行时间。

在不支持float16精度计算的硬件上调用本方法，将返回OH_NN_UNAVALIDABLE_DEVICE错误码。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNCompilation_SetCache()

OH_NN_ReturnCode OH_NNCompilation_SetCache (OH_NNCompilation * compilation, const char * cachePath, uint32_t version )

描述：

设置编译后的模型缓存路径和缓存版本。

在支持缓存的硬件上，模型在硬件驱动层编译后可以保存为缓存文件，下次编译时直接从缓存文件读取模型，减少重新编译的耗时。本方法接受缓存路径和版本，根据缓存 路径中和版本的不同情况，本方法采取不同的行为：

• 缓存路径指定的目录下没有文件： 将编译后的模型缓存到目录下，设置缓存版本等于version。

• 缓存路径指定的目录下存在完整的缓存文件，且版本号 == version： 读取路径下的缓存文件，传递到底层硬件中转换为可以执行的模型实例。

• 缓存路径指定的目录下存在完整的缓存文件，但版本号 < version： 路径下的缓存文件需要更新，模型在底层硬件完成编译后，覆写路径下的缓存文件，将版本号更新为version。

• 缓存路径指定的目录下存在完整的缓存文件，但版本号 > version： 路径下的缓存文件版本高于version，不读取缓存文件，同时返回OH_NN_INVALID_PARAMETER错误码。

• 缓存路径指定的目录下的缓存文件不完整或没有缓存文件的访问权限： 返回OH_NN_INVALID_FILE错误码。

• 缓存目录不存在，或者没有访问权限： 返回OH_NN_INVALID_PATH错误码。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNCompilation_SetDevice()

OH_NN_ReturnCode OH_NNCompilation_SetDevice (OH_NNCompilation * compilation, size_t deviceID )

描述：

指定模型编译和计算的硬件。

编译阶段，需要指定模型编译和执行计算的硬件设备。先调用OH_NNDevice_GetAllDevicesID获取可用的设备ID，通过OH_NNDevice_GetType和OH_NNDevice_GetType获取设备信息后，将期望编译执行的设备ID传入本方法进行设置。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNCompilation_SetPerformanceMode()

OH_NN_ReturnCode OH_NNCompilation_SetPerformanceMode (OH_NNCompilation * compilation, OH_NN_PerformanceMode performanceMode )

描述：

设置模型计算的性能模式。

Neural Network Runtime支持为模型计算设置性能模式，满足低功耗到极致性能的需求。

如果编译阶段没有调用本方法设置性能模式， 编译实例为模型默认分配OH_NN_PERFORMANCE_NONE模式。

在OH_NN_PERFORMANCE_NONE 模式下，硬件按默认的性能模式执行计算。

在不支持性能模式设置的硬件上调用本方法，将返回OH_NN_UNAVALIDABLE_DEVICE错误码。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNCompilation_SetPriority()

OH_NN_ReturnCode OH_NNCompilation_SetPriority (OH_NNCompilation * compilation, OH_NN_Priority priority )

描述：

设置模型计算的优先级。

Neural Network Runtime 支持为模型设置计算优先级，优先级仅作用于相同uid进程创建的模型，不同uid进程、不同设备的优先级不会 相互影响。

在不支持优先级设置的硬件上调用本方法，将返回OH_NN_UNAVALIDABLE_DEVICE错误码。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNDevice_GetAllDevicesID()

OH_NN_ReturnCode OH_NNDevice_GetAllDevicesID (const size_t ** allDevicesID, uint32_t * deviceCount )

描述：

获取对接到 Neural Network Runtime 的硬件ID。

每个硬件在 Neural Network Runtime 中存在唯一且固定ID，本方法通过uin32_t数组返回当前设备上已经对接的硬件ID。

硬件ID通过size_t数组返回，数组的每个元素是单个硬件的ID值。数组内存由Neural Network Runtime管理。在下次调用本方法前， 数据指针有效。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNDevice_GetName()

OH_NN_ReturnCode OH_NNDevice_GetName (size_t deviceID, const char ** name )

描述：

获取指定硬件的类型信息。

通过deviceID指定计算硬件，获取硬件的名称。硬件ID需要调用OH_NNDevice_GetAllDevicesID获取。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNDevice_GetType()

OH_NN_ReturnCode OH_NNDevice_GetType (size_t deviceID, OH_NN_DeviceType * deviceType )

描述：

获取指定硬件的类别信息。

通过deviceID指定计算硬件，获取硬件的类别。目前 Neural Network Runtime 支持的设备类型有：

• CPU设备：OH_NN_CPU

• GPU设备：OH_NN_GPU

• 机器学习专用加速器：OH_NN_ACCELERATOR

• 不属于以上类型的其他硬件类型：OH_NN_OTHERS

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNExecutor_AllocateInputMemory()

OH_NN_Memory* OH_NNExecutor_AllocateInputMemory (OH_NNExecutor * executor, uint32_t inputIndex, size_t length )

描述：

在硬件上为单个输入申请共享内存。

Neural Network Runtime 提供主动申请硬件共享内存的方法。通过指定执行器和输入索引值，本方法在单个输入关联的硬件 上，申请大小为length的共享内存，通过OH_NN_Memory实例返回。

参数:

返回:

指向OH_NN_Memory实例的指针。

OH_NNExecutor_AllocateOutputMemory()

OH_NN_Memory* OH_NNExecutor_AllocateOutputMemory (OH_NNExecutor * executor, uint32_t outputIndex, size_t length )

描述：

在硬件上为单个输出申请共享内存。

Neural Network Runtime提供主动申请硬件共享内存的方法。通过指定执行器和输出索引值，本方法在单个输出关联的硬件上，申请大小为length的共享内存，通过OH_NN_Memory实例返回。

参数:

返回:

指向OH_NN_Memory实例的指针。

OH_NNExecutor_Construct()

OH_NNExecutor* OH_NNExecutor_Construct (OH_NNCompilation * compilation)

描述：

创建OH_NNExecutor类型的执行器实例

本方法接受一个编译器，构造一个与硬件关联的模型推理执行器。通过OH_NNExecutor_SetInput设置模型输入数据， 设置输入数据后，调用OH_NNExecutor_Run方法执行推理，最后通过 OH_NNExecutor_SetOutput获取计算结果。

调用本方法创建OH_NNExecutor实例后，如果不需要创建其他执行器，可以安全释放OH_NNCompilation实例。

参数:

返回:

返回指向OH_NNExecutor实例的指针。

OH_NNExecutor_Destroy()

void OH_NNExecutor_Destroy (OH_NNExecutor ** executor)

描述：

销毁执行器实例，释放执行器占用的内存。

调用OH_NNExecutor_Construct创建的执行器实例需要调用本方法主动释放，否则将造成内存泄漏。

如果executor为空指针或者*executor为空指针，本方法只打印warning日志，不执行释放逻辑。

参数:

OH_NNExecutor_DestroyInputMemory()

void OH_NNExecutor_DestroyInputMemory (OH_NNExecutor * executor, uint32_t inputIndex, OH_NN_Memory ** memory )

描述：

释放OH_NN_Memory实例指向的输入内存。

调用OH_NNExecutor_AllocateInputMemory创建的内存实例，需要主动调用本方法进行释放，否则将造成内存泄漏。 inputIndex和memory的对应关系需要和创建内存实例时保持一致。

如果memory或*memory为空指针，本方法只打印warning日志，不执行释放逻辑。

参数:

OH_NNExecutor_DestroyOutputMemory()

void OH_NNExecutor_DestroyOutputMemory (OH_NNExecutor * executor, uint32_t outputIndex, OH_NN_Memory ** memory )

描述：

释放OH_NN_Memory实例指向的输出内存。

调用OH_NNExecutor_AllocateOutputMemory创建的内存实例，需要主动调用本方法进行释放，否则将造成内存泄漏。 outputIndex和memory的对应关系需要和创建内存实例时保持一致。

如果memory或*memory为空指针，本方法只打印warning日志，不执行释放逻辑。

参数:

OH_NNExecutor_GetOutputShape()

OH_NN_ReturnCode OH_NNExecutor_GetOutputShape (OH_NNExecutor * executor, uint32_t outputIndex, int32_t ** shape, uint32_t * shapeLength )

描述：

获取输出张量的维度信息。

调用OH_NNExecutor_Run完成单次推理后，本方法获取指定输出的维度信息和维数。在动态形状输入、输出的场景中常用。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNExecutor_Run()

OH_NN_ReturnCode OH_NNExecutor_Run (OH_NNExecutor * executor)

描述：

执行推理。

在执行器关联的硬件上，执行模型的端到端推理计算。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNExecutor_SetInput()

OH_NN_ReturnCode OH_NNExecutor_SetInput (OH_NNExecutor * executor, uint32_t inputIndex, const OH_NN_Tensor * tensor, const void * dataBuffer, size_t length )

描述：

设置模型单个输入的数据。

本方法将dataBuffer中，长度为length个字节的数据，拷贝到底层硬件的共享内存。inputIndex指定设置的输入，tensor用于设置输入的 形状、类型、量化参数等信息。

由于Neural Network Runtime支持动态输入形状的模型，在固定形状输入和动态形状输入的场景下，本方法采取不同的处理策略：

• 固定形状输入的场景：tensor各属性必须和构图阶段调用OH_NNModel_AddTensor添加的张量保持一致；

• 动态形状输入的场景：在构图阶段，由于动态输入的形状不确定，调用本方法时，要求tensor.dimensions中的每个值必须大于0， 以确定执行计算阶段输入的形状。设置形状时，只允许调整数值为-1的维度。假设在构图阶段，输入A的维度为 [-1, 224, 224, 3]，调用本方法时，只能调整第一个维度的尺寸，如：[3, 224, 224, 3]。调整其他维度将返回OH_NN_INVALID_PARAMETER。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNExecutor_SetInputWithMemory()

OH_NN_ReturnCode OH_NNExecutor_SetInputWithMemory (OH_NNExecutor * executor, uint32_t inputIndex, const OH_NN_Tensor * tensor, const OH_NN_Memory * memory )

描述：

将OH_NN_Memory实例指向的硬件共享内存，指定为单个输入使用的共享内存。

在需要自行管理内存的场景下，本方法将执行输入和OH_NN_Memory内存实例绑定。执行计算时，底层硬件从内存实例指向的共享内存中读取 输入数据。通过本方法，可以实现设置输入、执行计算、读取输出的并发执行，提升数据流的推理效率。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNExecutor_SetOutput()

OH_NN_ReturnCode OH_NNExecutor_SetOutput (OH_NNExecutor * executor, uint32_t outputIndex, void * dataBuffer, size_t length )

描述：

设置模型单个输出的缓冲区。

本方法将dataBuffer指向的缓冲区与outputIndex指定的输出绑定，缓冲区的长度由length指定。

调用OH_NNExecutor_Run完成单次模型推理后，Neural Network Runtime将比对dataBuffer指向的缓冲区与 输出数据的长度，根据不同情况，返回不同结果：

• 如果缓冲区大于或等于数据长度：则推理后的结果将拷贝至缓冲区，并返回OH_NN_SUCCESS，可以通过访问dataBuffer读取推理结果。

• 如果缓冲区小于数据长度：则OH_NNExecutor_Run将返回OH_NN_INVALID_PARAMETER， 并输出日志告知缓冲区太小的信息。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNExecutor_SetOutputWithMemory()

OH_NN_ReturnCode OH_NNExecutor_SetOutputWithMemory (OH_NNExecutor * executor, uint32_t outputIndex, const OH_NN_Memory * memory )

描述：

将OH_NN_Memory实例指向的硬件共享内存，指定为单个输出使用的共享内存。

在需要自行管理内存的场景下，本方法将执行输出和OH_NN_Memory内存实例绑定。执行计算时，底层硬件将计算结果直接写入内存实例指向 的共享内存。通过本方法，可以实现设置输入、执行计算、读取输出的并发执行，提升数据流的推理效率。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNModel_AddOperation()

OH_NN_ReturnCode OH_NNModel_AddOperation (OH_NNModel * model, OH_NN_OperationType op, const OH_NN_UInt32Array * paramIndices, const OH_NN_UInt32Array * inputIndices, const OH_NN_UInt32Array * outputIndices )

描述：

向模型实例中添加算子。

本方法向模型实例中添加算子，算子类型由op指定，算子的参数、输入和输出由paramIndices、inputIndices和 outputIndices指定。本方法将对算子参数的属性和输入输出的数量进行校验，这些属性需要在调用 OH_NNModel_AddTensor添加张量的时候正确设置。每个算子期望的参数、输入和输出属性请参考 OH_NN_OperationType。

paramIndices、inputIndices和outputIndices中存储的是张量的索引值，每个索引值根据张量添加进模型的顺序决定，正确 设置并添加算子要求准确设置每个张量的索引值。张量的添加参考OH_NNModel_AddTensor。

如果添加算子时，添加了额外的参数（非算子需要的参数），本方法返回OH_NN_INVALID_PARAMETER；如果没有设置算子参数， 则算子按默认值设置缺省的参数，默认值请参考OH_NN_OperationType。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNModel_AddTensor()

OH_NN_ReturnCode OH_NNModel_AddTensor (OH_NNModel * model, const OH_NN_Tensor * tensor )

描述：

向模型实例中添加张量。

Neural Network Runtime模型中的数据节点和算子参数均由模型的张量构成。本方法根据tensor，向model实 例中添加张量。张量添加的顺序是模型中记录张量的索引值，OH_NNModel_SetTensorData、 OH_NNModel_AddOperation和OH_NNModel_SpecifyInputsAndOutputs 方法根据该索引值，指定不同的张量。

Neural Network Runtime支持动态形状输入和输出。在添加动态形状的数据节点时，需要将tensor.dimensions中支持动态 变化的维度设置为-1。例如：一个四维tensor，将tensor.dimensions设置为[1, -1, 2, 2]，表示其第二个维度支持 动态变化。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNModel_Construct()

OH_NNModel* OH_NNModel_Construct (void )

描述：

创建OH_NNModel类型的模型实例，搭配OH_NNModel模块提供的其他接口，完成模型实例的构造。

在开始构图前，先调用OH_NNModel_Construct创建模型实例，根据模型的拓扑结构，调用 OH_NNModel_AddTensor、OH_NNModel_AddOperation和 OH_NNModel_SetTensorData方法，填充模型的数据节点和算子节点；然后调用 OH_NNModel_SpecifyInputsAndOutputs指定模型的输入和输出；当构造完模型的拓扑结构，调用 OH_NNModel_Finish完成模型的构建。

模型实例使用完毕后，需要调用OH_NNModel_Destroy销毁模型实例，避免内存泄漏。

返回:

返回一个指向OH_NNModel实例的指针。

OH_NNModel_Destroy()

void OH_NNModel_Destroy (OH_NNModel ** model)

描述：

释放模型实例。

调用OH_NNModel_Construct创建的模型实例需要调用本方法主动释放，否则将造成内存泄漏。

如果model为空指针或者*model为空指针，本方法只打印warning日志，不执行释放逻辑。

参数:

OH_NNModel_Finish()

OH_NN_ReturnCode OH_NNModel_Finish (OH_NNModel * model)

描述：

完成模型构图。

完成模型拓扑结构的搭建后，调用本方法指示构图已完成。

在调用本方法后，无法进行额外的构图操作，调用 OH_NNModel_AddTensor、OH_NNModel_AddOperation、 OH_NNModel_SetTensorData和 OH_NNModel_SpecifyInputsAndOutputs将返回OH_NN_OPERATION_FORBIDDEN。

在调用OH_NNModel_GetAvailableOperations和OH_NNCompilation_Construct 之前，必须先调用本方法完成构图。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNModel_GetAvailableOperations()

OH_NN_ReturnCode OH_NNModel_GetAvailableOperations (OH_NNModel * model, size_t deviceID, const bool ** isSupported, uint32_t * opCount )

描述：

查询硬件对模型内所有算子的支持情况，通过布尔值序列指示支持情况。

查询底层硬件对模型实例内每个算子的支持情况，硬件由deviceID指定，结果将通过isSupported指向的数组表示。如果支持第i个算子，则 (*isSupported)[i] == true，否则为 false。

本方法成功执行后，(*isSupported)将指向记录算子支持情况的bool数组，数组长度和模型实例的算子数量相等。该数组对应的内存由 Neural Network Runtime管理，在模型实例销毁或再次调用本方法后自动销毁。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNModel_SetTensorData()

OH_NN_ReturnCode OH_NNModel_SetTensorData (OH_NNModel * model, uint32_t index, const void * dataBuffer, size_t length )

描述：

设置张量的数值。

对于具有常量值的张量（如模型的权重），需要在构图阶段使用本方法设置数值。张量的索引值根据张量添加进模型的顺序决定，张量的添加参考 OH_NNModel_AddTensor。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。

OH_NNModel_SpecifyInputsAndOutputs()

OH_NN_ReturnCode OH_NNModel_SpecifyInputsAndOutputs (OH_NNModel * model, const OH_NN_UInt32Array * inputIndices, const OH_NN_UInt32Array * outputIndices )

描述：

指定模型的输入输出。

模型实例需要指定张量作为端到端的输入和输出，设置为输入和输出的张量不能使用OH_NNModel_SetTensorData设置 数值，需要在执行阶段调用OH_NNExecutor的方法设置输入、输出数据。

张量的索引值根据张量添加进模型的顺序决定，张量的添加参考 OH_NNModel_AddTensor。

暂时不支持异步设置模型输入输出。

参数:

返回:

函数执行的结果状态。执行成功返回OH_NN_SUCCESS；失败返回具体错误码，具体失败错误码可参考OH_NN_ReturnCode。