验证部署框架下模型转换正确性的方法及计算设备技术

本申请提供一种验证部署框架下模型转换正确性的方法及计算设备。所述验证部署框架下模型转换正确性的方法包括：在训练框架下，获取待转化的训练模型；获取所述待转化的训练模型的第一中间结果作为对照数据；将所述待转化的训练模型转换为部署模型；在部署框架下加载所述部署模型；执行所述部署模型并获取第二中间结果；将所述部署模型的第二中间结果与所述训练模型的所述对照数据进行比对，从而在所述部署模型执行完毕之前对所述部署模型的正确性问题进行定位。根据本申请的技术方案可快速精确定位问题节点。精确定位问题节点。精确定位问题节点。

【技术实现步骤摘要】
验证部署框架下模型转换正确性的方法及计算设备


[0001]本专利技术涉及人工智能
，具体涉及一种验证部署框架下模型转换正确性的方法及计算设备。

技术介绍

[0002]模型转换是为了模型能在不同框架间流转。在实际应用时，模型转换几乎都用于工业部署，负责模型从训练框架到部署推理框架的连接。这是因为随着AI深度学习应用和技术的演进，训练框架和推理框架的职能已经逐渐分化。训练框架往往围绕着易用性，面向设计算法的研究员，以研究员能更快地生产高性能模型为目标。推理框架往往围绕着硬件平台的极致优化加速，面向工业落地，以模型能更快执行为目标。
[0003]在深度学习领域中，深度学习模型的训练和部署通常放在不同的深度学习框架中。由于职能和侧重点不同，没有一个深度学习框架能面面俱到，完全一统训练侧和推理侧，而模型在各个框架内部的表示方式又千差万别。训练要求使用的框架便于开发，可快速验证想法，而部署要求使用的框架轻量、高效、稳定。因此，在训练框架下生成的模型几乎无法直接在部署使用的框架下工作，此时就需要进行模型的转换。
[0004]进行模型转换本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种验证部署框架下模型转换正确性的方法，其特征在于，包括：在训练框架下，获取待转化的训练模型；获取所述待转化的训练模型的第一中间结果作为对照数据；将所述待转化的训练模型转换为部署模型；在部署框架下加载所述部署模型；执行所述部署模型并获取第二中间结果；将所述部署模型的第二中间结果与所述训练模型的所述对照数据进行比对，从而在所述部署模型执行完毕之前对所述部署模型的正确性问题进行定位。2.根据权利要求1所述的方法，其特征在于，获取所述训练模型的第一中间结果包括获取预设节点的结果数据；将所述训练模型转换为部署模型后，所述方法还包括：设定转换后各类型节点的输出名称对应规则表；加载所述部署模型，构建部署模型执行图；根据所述输出名称对应规则表，生成所述部署模型执行图的对照图；执行所述部署模型并获取第二中间结果包括：逐节点执行所述部署模型执行图，并获取各节点的执行结果；将所述部署模型的第二中间结果与所述训练模型的所述对照数据进行比对，包括：根据所述对照图将所述各节点的执行结果与所述对照数据比对。3.根据权利要求2所述的方法，其特征在于，设定转换后各类型节点的输出名称对应规则表，包括：对于直接对应节点，根据模型转换时输出名称的修改规则生成所述输出名称对应规则表；和/或对于拆分和/或合并的节点，根据不同节点自己的名称转换规则生成所述输出名称对应规则表。4.根据权利要求2所述的方法，其特征在于，构建部署模型执行图，包括：解析所述部署模型的拓扑信息；应用所述拓扑信息，构建所述部署模型执行图，所述部署模型执行图包括多个节点。5.根据权利要求2所述的方法，其特征在于，根据名称对应规则，生成所述部署模型执行图的对照图，包括：根据所述输...

【专利技术属性】
技术研发人员：蔡权雄，牛昕宇，
申请(专利权)人：深圳鲲云信息科技有限公司，
类型：发明
国别省市：