MindSpore

概述

提供MindSpore Lite的模型推理相关接口。

起始版本： 9

汇总

文件

结构体

宏定义

类型定义

枚举

函数

宏定义说明

OH_AI_MAX_SHAPE_NUM

#define OH_AI_MAX_SHAPE_NUM   32

描述

维度信息，最大的维度为MS_MAX_SHAPE_NUM。

起始版本： 9

类型定义说明

NNRTDeviceDesc

typedef struct NNRTDeviceDesc NNRTDeviceDesc

描述

NNRT设备信息描述，包含设备ID，设备名称等信息。

起始版本： 10

OH_AI_CallBackParam

typedef struct OH_AI_CallBackParamOH_AI_CallBackParam

描述

回调函数中传入的算子信息。

起始版本： 9

OH_AI_ContextHandle

typedef void* OH_AI_ContextHandle

描述

Mindspore的上下文信息的指针，该指针会指向Context。

起始版本： 9

OH_AI_DataType

typedef enum OH_AI_DataTypeOH_AI_DataType

描述

MSTensor保存的数据支持的类型。

起始版本： 9

OH_AI_DeviceInfoHandle

typedef void* OH_AI_DeviceInfoHandle

描述

Mindspore的运行设备信息的指针。

起始版本： 9

OH_AI_DeviceType

typedef enum OH_AI_DeviceTypeOH_AI_DeviceType

描述

设备类型信息，包含了目前支持的设备类型。

起始版本： 9

OH_AI_Format

typedef enum OH_AI_FormatOH_AI_Format

描述

MSTensor保存的数据支持的排列格式。

起始版本： 9

OH_AI_KernelCallBack

typedef bool(* OH_AI_KernelCallBack) (const OH_AI_TensorHandleArray inputs, const OH_AI_TensorHandleArray outputs, const OH_AI_CallBackParam kernel_Info)

描述

回调函数指针。

该函数指针是用于设置OH_AI_ModelPredict函数参数中的两个回调函数。 该指针指向的函数需要包含三个参数，其中inputs和outputs对应了算子的输入和输出张量，kernel_Info表示当前算子的信息。 可以通过回调函数监控算子执行的情况，例如统计算子的执行时间，校验算子的正确性等等。

起始版本： 9

OH_AI_ModelHandle

typedef void* OH_AI_ModelHandle

描述

指向模型对象的指针。

起始版本： 9

OH_AI_ModelType

typedef enum OH_AI_ModelTypeOH_AI_ModelType

描述

模型文件的类型

起始版本： 9

OH_AI_NNRTDeviceType

typedef enum OH_AI_NNRTDeviceTypeOH_AI_NNRTDeviceType

描述

NNRT管理的硬件设备类型

起始版本： 10

OH_AI_PerformanceMode

typedef enum OH_AI_PerformanceModeOH_AI_PerformanceMode

描述

NNRT硬件的工作性能模式

起始版本： 10

OH_AI_Priority

typedef enum OH_AI_PriorityOH_AI_Priority

描述

NNRT推理任务优先级

起始版本： 10

OH_AI_Status

typedef enum OH_AI_StatusOH_AI_Status

描述

Minspore的状态码

起始版本： 9

OH_AI_TensorHandle

typedef void* OH_AI_TensorHandle

描述

指向张量对象句柄

起始版本： 9

OH_AI_TensorHandleArray

typedef struct OH_AI_TensorHandleArrayOH_AI_TensorHandleArray

描述

张量数组结构体，用于存储张量数组指针和张量数组长度

起始版本： 9

OH_AI_TrainCfgHandle

typedef void* OH_AI_TrainCfgHandle

描述

指向训练配置对象的指针。

起始版本： 11

枚举类型说明

OH_AI_CompCode

enum OH_AI_CompCode

描述

Minspore不同组件的代码

起始版本： 9

OH_AI_DataType

enum OH_AI_DataType

描述

MSTensor保存的数据支持的类型。

起始版本： 9

OH_AI_DeviceType

enum OH_AI_DeviceType

描述

设备类型信息，包含了目前支持的设备类型。

起始版本： 9

OH_AI_Format

enum OH_AI_Format

描述

MSTensor保存的数据支持的排列格式。

起始版本： 9

OH_AI_ModelType

enum OH_AI_ModelType

描述

模型文件的类型

起始版本： 9

OH_AI_NNRTDeviceType

enum OH_AI_NNRTDeviceType

描述

NNRT管理的硬件设备类型

起始版本： 10

OH_AI_OptimizationLevel

enum OH_AI_OptimizationLevel

描述：

训练优化等级。

起始版本：

11

OH_AI_PerformanceMode

enum OH_AI_PerformanceMode

描述

NNRT硬件的工作性能模式

起始版本： 10

OH_AI_Priority

enum OH_AI_Priority

描述

NNRT推理任务优先级

起始版本： 10

OH_AI_QuantizationType

enum OH_AI_QuantizationType

描述：

量化类型信息。

起始版本：

11

OH_AI_Status

enum OH_AI_Status

描述

Minspore的状态码

起始版本： 9

函数说明

OH_AI_ContextAddDeviceInfo()

OH_AI_API void OH_AI_ContextAddDeviceInfo (OH_AI_ContextHandle context, OH_AI_DeviceInfoHandle device_info )

描述

将一个用户定义的运行设备信息附加到推理上下文中。

起始版本： 9

参数:

OH_AI_ContextCreate()

OH_AI_API OH_AI_ContextHandle OH_AI_ContextCreate ()

描述

创建一个上下文的对象。

起始版本： 9

返回：

指向上下文信息的OH_AI_ContextHandle。

OH_AI_ContextDestroy()

OH_AI_API void OH_AI_ContextDestroy (OH_AI_ContextHandle * context)

描述

释放上下文对象。

起始版本： 9

参数:

OH_AI_ContextGetEnableParallel()

OH_AI_API bool OH_AI_ContextGetEnableParallel (const OH_AI_ContextHandle context)

描述

获取是否支持算子间并行。

起始版本： 9

参数:

返回：

是否支持并行。true 为支持并行, false 为不支持并行。

OH_AI_ContextGetThreadAffinityCoreList()

OH_AI_API const int32_t* OH_AI_ContextGetThreadAffinityCoreList (const OH_AI_ContextHandle context, size_t * core_num )

描述

获取CPU绑核列表。

起始版本： 9

参数:

返回：

CPU绑核列表。此列表对象由OH_AI_ContextHandle管理，调用者无须手动释放。

OH_AI_ContextGetThreadAffinityMode()

OH_AI_API int OH_AI_ContextGetThreadAffinityMode (const OH_AI_ContextHandle context)

描述

获取运行时线程绑定CPU核心的策略。

起始版本： 9

参数:

返回：

绑核策略。一共有三种策略，0为不绑核, 1为大核优先, 2为中核优先。

OH_AI_ContextGetThreadNum()

OH_AI_API int32_t OH_AI_ContextGetThreadNum (const OH_AI_ContextHandle context)

描述

获取线程数量。

起始版本： 9

参数:

返回：

当前的线程数量。

OH_AI_ContextSetEnableParallel()

OH_AI_API void OH_AI_ContextSetEnableParallel (OH_AI_ContextHandle context, bool is_parallel )

描述

设置运行时是否支持并行。此接口特性当前未开启，设置无效。

起始版本： 9

参数:

OH_AI_ContextSetThreadAffinityCoreList()

OH_AI_API void OH_AI_ContextSetThreadAffinityCoreList (OH_AI_ContextHandle context, const int32_t * core_list, size_t core_num )

描述

设置运行时线程绑定CPU核心的列表。

例如：当core_list=[2,6,8]时，则线程会在CPU的第2,6,8个核心上运行。 如果对于同一个上下文对象，调用了OH_AI_ContextSetThreadAffinityMode和OH_AI_ContextSetThreadAffinityCoreList 这两个函数，则仅OH_AI_ContextSetThreadAffinityCoreList的core_list参数生效，而OH_AI_ContextSetThreadAffinityMode的 mode参数不生效。

起始版本： 9

参数:

OH_AI_ContextSetThreadAffinityMode()

OH_AI_API void OH_AI_ContextSetThreadAffinityMode (OH_AI_ContextHandle context, int mode )

描述

设置运行时线程绑定CPU核心的策略，按照CPU物理核频率分为大、中、小三种类型的核心，并且仅需绑大核或者绑中核，不需要绑小核。

起始版本： 9

参数:

OH_AI_ContextSetThreadNum()

OH_AI_API void OH_AI_ContextSetThreadNum (OH_AI_ContextHandle context, int32_t thread_num )

描述

设置运行时的线程数量。

起始版本： 9

参数:

OH_AI_CreateNNRTDeviceInfoByName()

OH_AI_API OH_AI_DeviceInfoHandle OH_AI_CreateNNRTDeviceInfoByName (const char * name)

描述

查找指定名称的NNRT设备，根据找到的第一个设备信息，创建NNRT设备信息。

起始版本： 10

参数:

返回：

指向设备信息实例的OH_AI_DeviceInfoHandle。

OH_AI_CreateNNRTDeviceInfoByType()

OH_AI_API OH_AI_DeviceInfoHandle OH_AI_CreateNNRTDeviceInfoByType (OH_AI_NNRTDeviceType type)

描述

查找指定类型的NNRT设备，根据找到的第一个设备信息，创建NNRT设备信息。

起始版本： 10

参数:

返回：

指向设备信息实例的OH_AI_DeviceInfoHandle。

OH_AI_DestroyAllNNRTDeviceDescs()

OH_AI_API void OH_AI_DestroyAllNNRTDeviceDescs (NNRTDeviceDesc ** desc)

描述

销毁从OH_AI_GetAllNNRTDeviceDescs获取的NNRT描写信息实例数组。

起始版本： 10

参数:

OH_AI_DeviceInfoAddExtension()

OH_AI_API OH_AI_Status OH_AI_DeviceInfoAddExtension (OH_AI_DeviceInfoHandle device_info, const char * name, const char * value, size_t value_size )

描述

向设备信息中添加键/值对形式的扩展配置。只对NNRT设备信息有效。

注意：当前仅支持{"CachePath": "YourCachePath"}，{"CacheVersion": "YouCacheVersion"}， {"QuantParam": "YourQuantConfig"} 三种键值对配置，用户根据使用情况替换具体的值。

起始版本： 10

参数:

返回：

OH_AI_Status 执行状态码，若成功返回OH_AI_STATUS_SUCCESS，失败则返回具体错误码。

OH_AI_DeviceInfoCreate()

OH_AI_API OH_AI_DeviceInfoHandle OH_AI_DeviceInfoCreate (OH_AI_DeviceType device_type)

描述

创建一个设备信息对象。

起始版本： 9

参数:

返回：

指向设备信息实例的OH_AI_DeviceInfoHandle。

OH_AI_DeviceInfoDestroy()

OH_AI_API void OH_AI_DeviceInfoDestroy (OH_AI_DeviceInfoHandle * device_info)

描述

释放设备信息实例。注意：设备信息实例被添加到context后，无须调用者手动释放。

起始版本： 9

参数:

OH_AI_DeviceInfoGetDeviceId()

OH_AI_API size_t OH_AI_DeviceInfoGetDeviceId (const OH_AI_DeviceInfoHandle device_info)

描述

获取NNRT设备ID，仅NNRT设备可用。

起始版本： 10

参数:

返回：

NNRT设备ID。

OH_AI_DeviceInfoGetDeviceType()

OH_AI_API OH_AI_DeviceType OH_AI_DeviceInfoGetDeviceType (const OH_AI_DeviceInfoHandle device_info)

描述

获取设备的类型。

起始版本： 9

参数:

返回：

生产商设备类型。

OH_AI_DeviceInfoGetEnableFP16()

OH_AI_API bool OH_AI_DeviceInfoGetEnableFP16 (const OH_AI_DeviceInfoHandle device_info)

描述

获取是否开启float16推理模式, 仅CPU/GPU设备可用。

起始版本： 9

参数:

返回：

设置是否开启float16推理模式。

OH_AI_DeviceInfoGetFrequency()

OH_AI_API int OH_AI_DeviceInfoGetFrequency (const OH_AI_DeviceInfoHandle device_info)

描述

获取NPU的频率类型，仅NPU设备可用。

起始版本： 9

参数:

返回：

NPU的频率类型。取值范围为0-4，1表示低功耗，2表示平衡，3表示高性能，4表示超高性能。

OH_AI_DeviceInfoGetPerformanceMode()

OH_AI_API OH_AI_PerformanceMode OH_AI_DeviceInfoGetPerformanceMode (const OH_AI_DeviceInfoHandle device_info)

描述

获取NNRT性能模式，仅NNRT设备可用。

起始版本： 10

参数:

返回：

OH_AI_PerformanceMode NNRT性能模式。

OH_AI_DeviceInfoGetPriority()

OH_AI_API OH_AI_Priority OH_AI_DeviceInfoGetPriority (const OH_AI_DeviceInfoHandle device_info)

描述

获取NNRT任务优先级，仅NNRT设备可用。

起始版本： 10

参数:

返回：

OH_AI_Priority NNRT任务优先级。

OH_AI_DeviceInfoGetProvider()

OH_AI_API const char* OH_AI_DeviceInfoGetProvider (const OH_AI_DeviceInfoHandle device_info)

描述

获取生产商的名称。

起始版本： 9

参数:

返回：

生产商的名称。

OH_AI_DeviceInfoGetProviderDevice()

OH_AI_API const char* OH_AI_DeviceInfoGetProviderDevice (const OH_AI_DeviceInfoHandle device_info)

描述

获取生产商设备的名称。

起始版本： 9

参数:

返回：

生产商设备的名称。

OH_AI_DeviceInfoSetDeviceId()

OH_AI_API void OH_AI_DeviceInfoSetDeviceId (OH_AI_DeviceInfoHandle device_info, size_t device_id )

描述

设置NNRT设备ID，仅NNRT设备可用。

起始版本： 10

参数:

OH_AI_DeviceInfoSetEnableFP16()

OH_AI_API void OH_AI_DeviceInfoSetEnableFP16 (OH_AI_DeviceInfoHandle device_info, bool is_fp16 )

描述

设置是否开启float16推理模式，仅CPU/GPU设备可用。

起始版本： 9

参数:

OH_AI_DeviceInfoSetFrequency()

OH_AI_API void OH_AI_DeviceInfoSetFrequency (OH_AI_DeviceInfoHandle device_info, int frequency )

描述

设置NPU的频率，仅NPU设备可用。

起始版本： 9

参数:

OH_AI_DeviceInfoSetPerformanceMode()

OH_AI_API void OH_AI_DeviceInfoSetPerformanceMode (OH_AI_DeviceInfoHandle device_info, OH_AI_PerformanceMode mode )

描述

设置NNRT性能模式，仅NNRT设备可用。

起始版本： 10

参数:

OH_AI_DeviceInfoSetPriority()

OH_AI_API void OH_AI_DeviceInfoSetPriority (OH_AI_DeviceInfoHandle device_info, OH_AI_Priority priority )

描述

设置NNRT任务优先级，仅NNRT设备可用。

起始版本： 10

参数:

OH_AI_DeviceInfoSetProvider()

OH_AI_API void OH_AI_DeviceInfoSetProvider (OH_AI_DeviceInfoHandle device_info, const char * provider )

描述

设置生产商的名称。

起始版本： 9

参数:

OH_AI_DeviceInfoSetProviderDevice()

OH_AI_API void OH_AI_DeviceInfoSetProviderDevice (OH_AI_DeviceInfoHandle device_info, const char * device )

描述

设置生产商设备的名称。

起始版本： 9

参数:

OH_AI_ExportModel()

OH_AI_API OH_AI_Status OH_AI_ExportModel (OH_AI_ModelHandle model, OH_AI_ModelType model_type, const char * model_file, OH_AI_QuantizationType quantization_type, bool export_inference_only, char ** output_tensor_name, size_t num )

描述

导出训练模型，仅用于端侧训练。

起始版本： 11

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回OH_AI_Status::OH_AI_STATUS_SUCCESS则证明创建成功。

OH_AI_ExportModelBuffer()

OH_AI_API OH_AI_Status OH_AI_ExportModelBuffer (OH_AI_ModelHandle model, OH_AI_ModelType model_type, char ** model_data, size_t * data_size, OH_AI_QuantizationType quantization_type, bool export_inference_only, char ** output_tensor_name, size_t num )

描述 导出训练模型内存缓存，仅用于端侧训练。

起始版本： 11

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回OH_AI_Status::OH_AI_STATUS_SUCCESS则证明创建成功。

OH_AI_ExportWeightsCollaborateWithMicro()

OH_AI_API OH_AI_Status OH_AI_ExportWeightsCollaborateWithMicro (OH_AI_ModelHandle model, OH_AI_ModelType model_type, const char * weight_file, bool is_inference, bool enable_fp16, char ** changeable_weights_name, size_t num )

描述

导出模型权重,只能用于micro推理，仅用于端侧训练。

起始版本： 11

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回OH_AI_Status::OH_AI_STATUS_SUCCESS则证明创建成功。

OH_AI_GetAllNNRTDeviceDescs()

OH_AI_API NNRTDeviceDesc* OH_AI_GetAllNNRTDeviceDescs (size_t * num)

描述

获取系统中所有NNRT硬件设备的描述信息。

起始版本： 10

参数:

返回：

指向NNRT设备描述信息实例数组的指针。当获取失败时，返回NULL。

OH_AI_GetDeviceIdFromNNRTDeviceDesc()

OH_AI_API size_t OH_AI_GetDeviceIdFromNNRTDeviceDesc (const NNRTDeviceDesc * desc)

描述

从特定的NNRT设备描述信息实例获取NNRT设备ID。注意，此ID只对NNRT有效。

起始版本： 10

参数:

返回：

NNRT设备ID。

OH_AI_GetElementOfNNRTDeviceDescs()

OH_AI_API NNRTDeviceDesc* OH_AI_GetElementOfNNRTDeviceDescs (NNRTDeviceDesc * descs, size_t index )

描述

获取NNRT设备描述信息数组中的元素指针。

起始版本： 10

参数:

返回：

NNRT设备描述信息类型指针。

OH_AI_GetNameFromNNRTDeviceDesc()

OH_AI_API const char* OH_AI_GetNameFromNNRTDeviceDesc (const NNRTDeviceDesc * desc)

描述

从特定的NNRT设备描述信息实例获取NNRT设备名称。

起始版本： 10

参数:

返回：

NNRT设备名称，指向一个常量字符串的指针，该常量字符串由desc持有，调用者无需单独释放此指针。

OH_AI_GetTypeFromNNRTDeviceDesc()

OH_AI_API OH_AI_NNRTDeviceType OH_AI_GetTypeFromNNRTDeviceDesc (const NNRTDeviceDesc * desc)

描述

从特定的NNRT设备描述信息实例获取NNRT设备类型。

起始版本： 10

参数:

返回：

OH_AI_NNRTDeviceType NNRT设备类型。

OH_AI_ModelBuild()

OH_AI_API OH_AI_Status OH_AI_ModelBuild (OH_AI_ModelHandle model, const void * model_data, size_t data_size, OH_AI_ModelType model_type, const OH_AI_ContextHandle model_context )

描述

从内存缓冲区加载并编译MindSpore模型。

注意，同一个OH_AI_ContextHandle对象仅能传递给OH_AI_ModelBuild或者OH_AI_ModelBuildFromFile一次， 如果多次调用该函数需要创建多个不同的OH_AI_ContextHandle。

起始版本： 9

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回MSStatus::kMSStatusSuccess则证明创建成功。

OH_AI_ModelBuildFromFile()

OH_AI_API OH_AI_Status OH_AI_ModelBuildFromFile (OH_AI_ModelHandle model, const char * model_path, OH_AI_ModelType model_type, const OH_AI_ContextHandle model_context )

描述

通过模型文件加载并编译MindSpore模型。

注意，同一个OH_AI_ContextHandle对象仅能传递给OH_AI_ModelBuild或者OH_AI_ModelBuildFromFile一次， 如果多次调用该函数需要创建多个不同的OH_AI_ContextHandle。

起始版本： 9

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回MSStatus::kMSStatusSuccess则证明创建成功。

OH_AI_ModelCreate()

OH_AI_API OH_AI_ModelHandle OH_AI_ModelCreate ()

描述

创建一个模型对象。

起始版本： 9

返回：

模型对象指针。

OH_AI_ModelDestroy()

OH_AI_API void OH_AI_ModelDestroy (OH_AI_ModelHandle * model)

描述

释放一个模型对象。

起始版本： 9

参数:

OH_AI_ModelGetInputByTensorName()

OH_AI_API OH_AI_TensorHandle OH_AI_ModelGetInputByTensorName (const OH_AI_ModelHandle model, const char * tensor_name )

描述

通过张量名获取模型的输入张量。

起始版本： 9

参数:

返回：

tensor_name所对应的输入张量的张量指针，如果输入中没有该张量则返回空。

OH_AI_ModelGetInputs()

OH_AI_API OH_AI_TensorHandleArray OH_AI_ModelGetInputs (const OH_AI_ModelHandle model)

描述

获取模型的输入张量数组结构体。

起始版本： 9

参数:

返回：

模型输入对应的张量数组结构体。

OH_AI_ModelGetLearningRate()

OH_AI_API float OH_AI_ModelGetLearningRate (OH_AI_ModelHandle model)

描述

获取训练的学习率，仅用于端侧训练。

起始版本： 11

参数:

返回：

学习率，没有设置优化器时为0.0。

OH_AI_ModelGetOutputByTensorName()

OH_AI_API OH_AI_TensorHandle OH_AI_ModelGetOutputByTensorName (const OH_AI_ModelHandle model, const char * tensor_name )

描述

通过张量名获取模型的输出张量。

起始版本： 9

参数:

返回：

tensor_name所对应的输入张量的张量指针，如果输出中没有该张量则返回空。

OH_AI_ModelGetOutputs()

OH_AI_API OH_AI_TensorHandleArray OH_AI_ModelGetOutputs (const OH_AI_ModelHandle model)

描述

获取模型的输出张量数组结构体。

起始版本： 9

参数:

返回：

模型输出对应的张量数组结构体。

OH_AI_ModelGetTrainMode()

OH_AI_API bool OH_AI_ModelGetTrainMode (OH_AI_ModelHandle model)

描述

获取训练模式。

起始版本： 11

参数:

返回：

表示是否是训练模式。

OH_AI_ModelGetWeights()

OH_AI_API OH_AI_TensorHandleArray OH_AI_ModelGetWeights (OH_AI_ModelHandle model)

描述

获取模型的所有权重Tensors，仅用于端侧训练。

起始版本： 11

参数:

返回：

模型的所有权重Tensor。

OH_AI_ModelPredict()

OH_AI_API OH_AI_Status OH_AI_ModelPredict (OH_AI_ModelHandle model, const OH_AI_TensorHandleArray inputs, OH_AI_TensorHandleArray * outputs, const OH_AI_KernelCallBack before, const OH_AI_KernelCallBack after )

描述

执行模型推理。

起始版本： 9

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回MSStatus::kMSStatusSuccess则证明创建成功。

OH_AI_ModelResize()

OH_AI_API OH_AI_Status OH_AI_ModelResize (OH_AI_ModelHandle model, const OH_AI_TensorHandleArray inputs, OH_AI_ShapeInfo * shape_infos, size_t shape_info_num )

描述

调整已编译模型的输入形状。

起始版本： 9

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回MSStatus::kMSStatusSuccess则证明创建成功。

OH_AI_ModelSetLearningRate()

OH_AI_API OH_AI_Status OH_AI_ModelSetLearningRate (OH_AI_ModelHandle model, float learning_rate )

描述

设置训练的学习率，仅用于端侧训练。

起始版本： 11

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回OH_AI_Status::OH_AI_STATUS_SUCCESS则证明创建成功。

OH_AI_ModelSetTrainMode()

OH_AI_API OH_AI_Status OH_AI_ModelSetTrainMode (OH_AI_ModelHandle model, bool train )

描述

设置训练模式，仅用于端侧训练。

起始版本： 11

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回OH_AI_Status::OH_AI_STATUS_SUCCESS则证明创建成功。

OH_AI_ModelSetupVirtualBatch()

OH_AI_API OH_AI_Status OH_AI_ModelSetupVirtualBatch (OH_AI_ModelHandle model, int virtual_batch_multiplier, float lr, float momentum )

描述

设置虚拟batch用于训练，仅用于端侧训练。

起始版本： 11

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回OH_AI_Status::OH_AI_STATUS_SUCCESS则证明创建成功。

OH_AI_ModelUpdateWeights()

OH_AI_API OH_AI_Status OH_AI_ModelUpdateWeights (OH_AI_ModelHandle model, const OH_AI_TensorHandleArray new_weights )

描述

更新模型的权重Tensor内容，仅用于端侧训练。

起始版本： 11

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回OH_AI_Status::OH_AI_STATUS_SUCCESS则证明创建成功。

OH_AI_RunStep()

OH_AI_API OH_AI_Status OH_AI_RunStep (OH_AI_ModelHandle model, const OH_AI_KernelCallBack before, const OH_AI_KernelCallBack after )

描述

单步训练模型，仅用于端侧训练。

起始版本： 11

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回OH_AI_Status::OH_AI_STATUS_SUCCESS则证明创建成功。

OH_AI_TensorClone()

OH_AI_API OH_AI_TensorHandle OH_AI_TensorClone (OH_AI_TensorHandle tensor)

描述

深拷贝一个张量。

起始版本： 9

参数:

返回：

指向新张量对象句柄。

OH_AI_TensorCreate()

OH_AI_API OH_AI_TensorHandle OH_AI_TensorCreate (const char * name, OH_AI_DataType type, const int64_t * shape, size_t shape_num, const void * data, size_t data_len )

描述

创建一个张量对象。

起始版本： 9

参数:

返回：

指向张量对象句柄。

OH_AI_TensorDestroy()

OH_AI_API void OH_AI_TensorDestroy (OH_AI_TensorHandle * tensor)

描述

释放张量对象。

起始版本： 9

参数:

OH_AI_TensorGetData()

OH_AI_API const void* OH_AI_TensorGetData (const OH_AI_TensorHandle tensor)

描述

获取张量数据的指针。

起始版本： 9

参数:

返回：

张量数据的指针。

OH_AI_TensorGetDataSize()

OH_AI_API size_t OH_AI_TensorGetDataSize (const OH_AI_TensorHandle tensor)

描述

获取张量中的数据的字节数大小。

起始版本： 9

参数:

返回：

张量数据的字节数大小。

OH_AI_TensorGetDataType()

OH_AI_API OH_AI_DataType OH_AI_TensorGetDataType (const OH_AI_TensorHandle tensor)

描述

获取张量类型。

起始版本： 9

参数:

返回：

张量的数据类型。

OH_AI_TensorGetElementNum()

OH_AI_API int64_t OH_AI_TensorGetElementNum (const OH_AI_TensorHandle tensor)

描述

获取张量元素数量。

起始版本： 9

参数:

返回：

张量的元素数量。

OH_AI_TensorGetFormat()

OH_AI_API OH_AI_Format OH_AI_TensorGetFormat (const OH_AI_TensorHandle tensor)

描述

获取张量数据的排列方式。

起始版本： 9

参数:

返回：

张量数据的排列方式。

OH_AI_TensorGetMutableData()

OH_AI_API void* OH_AI_TensorGetMutableData (const OH_AI_TensorHandle tensor)

描述

获取可变的张量数据指针。如果数据为空则会开辟内存。

起始版本： 9

参数:

返回：

张量数据的指针。

OH_AI_TensorGetName()

OH_AI_API const char* OH_AI_TensorGetName (const OH_AI_TensorHandle tensor)

描述

获取张量的名称。

起始版本： 9

参数:

返回：

张量的名称。

OH_AI_TensorGetShape()

OH_AI_API const int64_t* OH_AI_TensorGetShape (const OH_AI_TensorHandle tensor, size_t * shape_num )

描述

获取张量的形状。

起始版本： 9

参数:

返回：

形状数组。

OH_AI_TensorSetData()

OH_AI_API void OH_AI_TensorSetData (OH_AI_TensorHandle tensor, void * data )

描述

设置张量的数据。

起始版本： 9

参数:

OH_AI_TensorSetDataType()

OH_AI_API void OH_AI_TensorSetDataType (OH_AI_TensorHandle tensor, OH_AI_DataType type )

描述

设置张量的数据类型。

起始版本： 9

参数:

OH_AI_TensorSetFormat()

OH_AI_API void OH_AI_TensorSetFormat (OH_AI_TensorHandle tensor, OH_AI_Format format )

描述

设置张量数据的排列方式。

起始版本： 9

参数:

OH_AI_TensorSetName()

OH_AI_API void OH_AI_TensorSetName (OH_AI_TensorHandle tensor, const char * name )

描述

设置张量的名称。

起始版本： 9

参数:

OH_AI_TensorSetShape()

OH_AI_API void OH_AI_TensorSetShape (OH_AI_TensorHandle tensor, const int64_t * shape, size_t shape_num )

描述

设置张量的形状。

起始版本： 9

参数:

OH_AI_TensorSetUserData()

OH_AI_API OH_AI_Status OH_AI_TensorSetUserData (OH_AI_TensorHandle tensor, void * data, size_t data_size )

描述

设置张量为用户自行管理的数据。此接口常用于复用用户数据作为模型输入，可减少一次数据拷贝。 注意：此数据对于张量来说是外部数据，张量销毁时不会主动释放，由调用者负责释放。另外，在此张量 使用过程中，调用者须确保此数据有效。

起始版本： 10

参数:

返回：

执行状态码。若成功返回OH_AI_STATUS_SUCCESS，否则返回具体错误码。

OH_AI_TrainCfgCreate()

OH_AI_API OH_AI_TrainCfgHandle OH_AI_TrainCfgCreate ()

描述

创建训练配置对象指针，仅用于端侧训练。

起始版本： 11

返回：

训练配置对象指针。

OH_AI_TrainCfgDestroy()

OH_AI_API void OH_AI_TrainCfgDestroy (OH_AI_TrainCfgHandle * train_cfg)

描述

销毁训练配置对象指针，仅用于端侧训练。

起始版本： 11

参数:

OH_AI_TrainCfgGetLossName()

OH_AI_API char** OH_AI_TrainCfgGetLossName (OH_AI_TrainCfgHandle train_cfg, size_t * num )

描述

获取损失函数的名称列表，仅用于端侧训练。

起始版本： 11

参数:

返回：

损失函数的名称列表。

OH_AI_TrainCfgGetOptimizationLevel()

OH_AI_API OH_AI_OptimizationLevel OH_AI_TrainCfgGetOptimizationLevel (OH_AI_TrainCfgHandle train_cfg)

描述

获取训练配置的优化等级，仅用于端侧训练。

起始版本： 11

参数:

返回：

优化等级。

OH_AI_TrainCfgSetLossName()

OH_AI_API void OH_AI_TrainCfgSetLossName (OH_AI_TrainCfgHandle train_cfg, const char ** loss_name, size_t num )

描述

设置损失函数的名称列表，仅用于端侧训练。

起始版本： 11

参数:

OH_AI_TrainCfgSetOptimizationLevel()

OH_AI_API void OH_AI_TrainCfgSetOptimizationLevel (OH_AI_TrainCfgHandle train_cfg, OH_AI_OptimizationLevel level )

描述

设置训练配置的优化等级，仅用于端侧训练。

起始版本： 11

参数:

OH_AI_TrainModelBuild()

OH_AI_API OH_AI_Status OH_AI_TrainModelBuild (OH_AI_ModelHandle model, const void * model_data, size_t data_size, OH_AI_ModelType model_type, const OH_AI_ContextHandle model_context, const OH_AI_TrainCfgHandle train_cfg )

描述

从内存缓冲区加载训练模型，并将模型编译至可在Device上运行的状态，仅用于端侧训练。

起始版本： 11

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回OH_AI_Status::OH_AI_STATUS_SUCCESS则证明创建成功。

OH_AI_TrainModelBuildFromFile()

OH_AI_API OH_AI_Status OH_AI_TrainModelBuildFromFile (OH_AI_ModelHandle model, const char * model_path, OH_AI_ModelType model_type, const OH_AI_ContextHandle model_context, const OH_AI_TrainCfgHandle train_cfg )

描述

根据路径读取加载训练模型，并将模型编译至可在Device上运行的状态，仅用于端侧训练。

起始版本： 11

参数:

返回：

枚举类型的状态码OH_AI_Status，若返回OH_AI_Status::OH_AI_STATUS_SUCCESS则证明创建成功。