一种虹膜算法模型的部署方法及装置制造方法及图纸

本申请实施例公开了一种虹膜算法模型的部署方法及装置，其中，方法包括：将

【技术实现步骤摘要】
一种虹膜算法模型的部署方法及装置


[0001]本申请涉及技术人工智能算法的边缘计算领域，更具体的说，是涉及一种
IRIS
算法模型的部署方法及装置
。

技术介绍

[0002]IRIS
算法，即虹膜算法，是实现虹膜检测的多阶段算法，其中包括三个神经网络模型
。IRIS
算法中各模型的参数量较少
、
且采用的算子大多通用性较强，适合部署到边缘
AI
设备
。TDA4
为一种嵌入式平台，具有优秀的神经网络模型推理性能，并拥有相对成熟的开发工具链
。
目前暂无将
IRIS
算法的模型部署到
TDA4
平台上的具体方法
。

技术实现思路

[0003]有鉴于此，本申请提供如下技术方案：
[0004]一种
IRIS
算法模型的部署方法，包括：
[0005]将
IRIS
算法模型中的所有模型均转换为第一格式的模型，所述第一格式的模型为可编辑处理的模型；
[0006]将所述第一格式的模型中经过第一平台的工具链处理后误差超过设定值的算子或工具链不支持的第一类型的算子进行算子替换，替换的算子与被替换算子能够实现相同功能；
[0007]将所述第一格式的模型中所述第一平台的工具链不支持的第二类型的算子删除；
[0008]将处理后的第一格式的模型进行量化处理，并部署到所述第一平台
。
[0009]可选地，所述第一类型的算子包括
Pad
算子，将所述第一格式的模型中所述第一平台的工具链不支持的第一类型的算子进行算子替换，包括：
[0010]将所有的所述第一格式的模型中的
Pad
算子使用
Conv
算子进行替换
。
[0011]可选地，所述将所有的所述第一格式的模型中的
Pad
算子使用
Conv
算子进行替换，包括：
[0012]构造
Conv
算子的权重
w
con0
和偏置
B
con0
，包括：构造形状为
[D
pad_out
,D
pad_in
,1,1]的权重
w
con0
，令其中所有索引为
[i,i,0,0]的值大小为1，并使其余值为0；构造形状为
[D
pad_out
]的偏执
B
con0
，令其中所有值大小为0，其中
D
pad_in
和
D
pad_out
分别为
Pad
算子的输入特征图通道数和输出特征图通道数；
[0013]将构造好权重和偏置的
Conv
算子替换所有的所述第一格式的模型中的
Pad
算子
。
[0014]可选地，将所述第一格式的模型中经过所述第一平台的工具链处理后误差超过设定值的算子进行算子替换，包括：
[0015]将所述第一格式的模型中的
PRelu
算子使用第一替换模块替换，所述第一替换模块包括两个
Relu
算子
、
两个
Mul
算子和一个
Add
算子
。
[0016]可选地，所述第一替换模块包括第一分支和第二分支，所述第一分支上包括一个
Relu
算子，所述第二分支上依次串接有
Mul
算子
、Relu
算子和另一个
Mul
算子，所述对一分支
和所述第二分支的输出端连接
Add
算子
。
[0017]可选地，所述第一格式的模型包括面部标定模型，将所述第一格式的模型中经过所述第一平台的工具链处理后误差超过设定值的算子进行算子替换，包括：
[0018]在所述面部标定模型的输出维度为
[1,1,1,1]的分支中，使用第二替换模块替换接收
MaxPool
算子输出和
Conv
算子输出的
Add
算子，所述第二替换模块包括三个
Conv
算子和一个
Add
算子
。
[0019]可选地，所述第二替换模块包括第一分支和第二分支，所述第一分支连接所述
Conv
算子输出，包括第一
Conv
算子，所述第二分支连接所述
MaxPool
算子输出，包括第二
Conv
算子，所述第一
Conv
算子和所述第二
Conv
算子的输出连接到一个
Add
算子，该
Add
算子输出端连接第三
Conv
算子
。
[0020]可选地，所述第一格式的模型包括面部标定模型，将所述第一格式的模型中经过所述第一平台的工具链处理后误差超过设定值的算子进行算子替换，包括：
[0021]将所述面部标定模块模型分支末端输出维度为
[1,1,1,1]的
Conv
算子替换为
Mul
算子，并以所述
Mul
算子的输出作为其所在分支的输出，其中，所述
Mul
算子的权重与所述
Conv
算子的权重相同
。
[0022]可选地，所述第二类型的算子包括
Transpose
算子，将所述第一格式的模型中第一平台的工具链不支持的第二类型的算子删除，包括：
[0023]将所述第一格式的模型中的
Transpose
算子的相关结构删除，所述
Transpose
算子的相关结构为所述
Transpose
算子本身或包括所述
Transpose
算子和其它算子的结构
。
[0024]本申请还公开了一种
IRIS
算法模型的部署装置，包括：
[0025]格式转换模块，用于将
IRIS
算法模型中的所有模型均转换为第一格式的模型，所述第一格式的模型为可编辑处理的模型；
[0026]算子替换模块，用于将所述第一格式的模型中经过第一平台的工具链处理后误差超过设定值的算子或工具链不支持的第一类型的算子进行算子替换，替换的算子与被替换算子能够实现相同功能；
[0027]算子修剪模块，用于将所述第一格式的模型中所述第一平台的工具链不支持的第二类型的算子删除；
[0028]模型部署模块，用于将处理后的第一格式的模型进行量化处理，并部署到所述第一平台
。
[0029]经由上述的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种
IRIS
算法模型的部署方法，其特征在于，包括：将
IRIS
算法模型中的所有模型均转换为第一格式的模型，所述第一格式的模型为可编辑处理的模型；将所述第一格式的模型中经过第一平台的工具链处理后误差超过设定值的算子或工具链不支持的第一类型的算子进行算子替换，替换的算子与被替换算子能够实现相同功能；将所述第一格式的模型中所述第一平台的工具链不支持的第二类型的算子删除；将处理后的所述第一格式的模型进行量化处理，并部署到所述第一平台
。2.
根据权利要求1所述的
IRIS
算法模型的部署方法，其特征在于，所述第一类型的算子包括
Pad
算子，将所述第一格式的模型中所述第一平台的工具链不支持的第一类型的算子进行算子替换，包括：将所有的所述第一格式的模型中的
Pad
算子使用
Conv
算子进行替换
。3.
根据权利要求2所述的
IRIS
算法模型的部署方法，其特征在于，所述将所有的所述第一格式的模型中的
Pad
算子使用
Conv
算子进行替换，包括：构造
Conv
算子的权重
w
con0
和偏置
B
con0
，包括：构造形状为
[D
pad_out
,D
pad_in
,1,1]
的权重
w
con0
，令其中所有索引为
[i,i,0,0]
的值大小为1，并使其余值为0；构造形状为
[D
pad_out
]
的偏执
B
con0
，令其中所有值大小为0，其中
D
pad_in
和
D
pad_out
分别为
Pad
算子的输入特征图通道数和输出特征图通道数；将构造好权重和偏置的
Conv
算子替换所有的所述第一格式的模型中的
Pad
算子
。4.
根据权利要求1所述的
IRIS
算法模型的部署方法，其特征在于，将所述第一格式的模型中经过所述第一平台的工具链处理后误差超过设定值的算子进行算子替换，包括：将所述第一格式的模型中的
PRelu
算子使用第一替换模块替换，所述第一替换模块包括两个
Relu
算子
、
两个
Mul
算子和一个
Add
算子
。5.
根据权利要求4所述的
IRIS
算法模型的部署方法，其特征在于，所述第一替换模块包括第一分支和第二分支，所述第一分支上包括一个
Relu
算子，所述第二分支上依次串接有
Mul
算子
、Relu
算子和另一个
Mul
算子，所述对一分支和所述第二分支的输出端连接
Add
算子

【专利技术属性】
技术研发人员：吴宜衡，邓佳林，付永星，郭港，
申请(专利权)人：北京经纬恒润科技股份有限公司，
类型：发明
国别省市：