基于TrustZone的可信量化模型推理方法技术

本发明专利技术公开了一种基于TrustZone的可信量化模型推理方法，首先将执行人工智能模型推理的物联网终端设备采用TrustZone技术划分为安全世界和普通世界，在安全世界中对人工智能模型进行解析与数据量化，将计算节点划分为简单计算节点和复杂计算节点，将简单计算节点部署至安全世界，复杂计算节点部署至安全世界的共享内存，在进行人工智能模型推理时，将简单计算节点在安全世界中运行，将复杂计算节点通过共享内存发送至普通世界中运行并将运算结果返回至安全世界，物联网终端设备对复杂计算节点的运算结果进行校验后与简单计算节点的运算结果进行整合，得到人工智能模型推理结果。本发明专利技术通过将简单计算节点部署和复杂计算节点分别部署，提高人工智能模型推理效率。提高人工智能模型推理效率。提高人工智能模型推理效率。

【技术实现步骤摘要】
基于TrustZone的可信量化模型推理方法


[0001]本专利技术属于物联网
，更为具体地讲，涉及一种基于TrustZone的可信量化模型推理方法。

技术介绍

[0002]随着物联网技术的发展，人们对硬件设备的安全化和智能化方面提出了更高的要求。得益于提供计算服务的硬件平台以及并行计算技术的发展，物联网设备的智能化得到巨大的提高。人工智能模型在设备端上的推理流程可以分为两个部分。一部分为非运行态的服务部分，即对模型管理的部分，其中包括网络模型解析、量化功能、优化网络模型等功能。另一部分为运行态相关的部分，其中包括计算库和硬件计算资源提供计算服务。而计算库中往往集成量化计算、Neon指令技术、计算算法优化、并行计算等技术。图1是物联网人工智能模型推理的流程示意图。
[0003]由于对抗攻击技术的发展以及物联网设备面向的环境复杂多样，物联网设备的智能化过程面临着巨大的安全问题。因此物联网设备上的人工智能引擎如何能提供安全的计算环境服务，逐渐成为物联网中人工智能应用落地的一个研究发展的方向。而物联网中的设备终端，是安全保护的重点。Tr本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于TrustZone的可信量化模型推理方法，其特征在于，包括以下步骤：S1：对于执行人工智能模型推理的物联网终端设备，采用TrustZone将CPU划分为两个执行环境：安全世界和普通世界；S2：预先对人工智能模型进行量化规则设置，并生成量化模型保存至物联网终端设备的安全世界中；S3：物联网终端设备对人工智能模型进行解析：将人工智能模型从原有格式转换为ONNX模型，然后进行Protobuf反序列化，提取出人工智能模型的数据，将得到的数据划分为张量数据和计算节点数据，张量数据为人工智能模型推理各个计算节点的输入数据和输出数据，计算节点数据为人工智能模型中各个计算节点的数据和相关参数数据；然后根据步骤S2中设置的量化规则对张...

【专利技术属性】
技术研发人员：肖堃，金宙贤，陈丽蓉，罗蕾，李允，
申请(专利权)人：电子科技大学，
类型：发明
国别省市：