跳到主要内容
版本:4.x

Taro.createInferenceSession(option)

创建 AI 推理 Session

支持情况:

参考文档

类型

(option: Option) => InferenceSession

参数

参数类型
optionOption

Option

参数类型必填说明
modelstring模型文件路径,目前只执行后缀为.onnx格式(支持代码包路径,和本地文件系统路径)
precesionLevelPrecesionLevel推理精度,有效值为 0 - 4。
一般来说,使用的precesionLevel等级越低,推理速度越快,但可能会损失精度。
推荐开发者在开发时,在效果满足需求时优先使用更低精度以提高推理速度,节约能耗。
allowQuantizeboolean是否生成量化模型推理
allowNPUboolean是否使用NPU推理,仅对IOS有效
typicalShapeboolean输入典型分辨率

PrecesionLevel

参数说明
0使用fp16 存储浮点,fp16计算,Winograd 算法也采取fp16 计算,开启近似math计算
1使用fp16 存储浮点,fp16计算,禁用 Winograd 算法,开启近似math计算
2使用fp16 存储浮点,fp32计算,开启 Winograd,开启近似math计算
3使用fp32 存储浮点,fp32计算,开启 Winograd,开启近似math计算
4使用fp32 存储浮点,fp32计算,开启 Winograd,关闭近似math计算