ModelTypes.idl
概述
该文件定义AI模型相关的结构体。
在PrepareModel阶段,需要解析Model并将其转换为用于推理的模型结构,在Run阶段则会执行模型推理。大致流程如下:
-
编写NodeAttrTypes.idl文件中每一个算子的函数,并将函数与NodeType进行关联;
-
遍历Model的subGraph参数,然后从子图的nodeIndecies中获得该子图包含的算子节点以及算子的输入输出张量和整个Model的输入输出张量。
-
通过Node的nodeType参数找到算子函数,并构建用于运行时的模型结构。
-
执行模型推理时,通过用户输入张量传递给模型并执行模型推理,最终输出模型推理的结果。
模块包路径:ohos.hdi.nnrt.v1_0
引用:ohos.hdi.nnrt.v1_0.NnrtTypes
起始版本: 3.2
相关模块:NNRt
汇总
类
名称 | 描述 |
---|---|
struct Tensor | 张量结构体。 |
struct Node | 算子节点结构体。 |
struct SubGraph | 子图结构体。 |
struct Model | 模型结构体。 |