ModelTypes.idl

概述

该文件定义AI模型相关的结构体。

PrepareModel阶段,需要解析Model并将其转换为用于推理的模型结构,在Run阶段则会执行模型推理。大致流程如下:

  1. 编写NodeAttrTypes.idl文件中每一个算子的函数,并将函数与NodeType进行关联;

  2. 遍历Model的subGraph参数,然后从子图的nodeIndecies中获得该子图包含的算子节点以及算子的输入输出张量和整个Model的输入输出张量。

  3. 通过Node的nodeType参数找到算子函数,并构建用于运行时的模型结构。

  4. 执行模型推理时,通过用户输入张量传递给模型并执行模型推理,最终输出模型推理的结果。

模块包路径:ohos.hdi.nnrt.v2_0

引用:ohos.hdi.nnrt.v2_0.NnrtTypes

起始版本: 3.2

相关模块:NNRt

汇总

名称 描述
struct  Tensor 张量结构体。
struct  Node 算子节点结构体。
struct  SubGraph 子图结构体。
struct  Model 模型结构体。