模型推理方法、模型加密方法、电子设备和存储介质技术

本申请公开了一种模型推理方法、模型加密方法、电子设备和存储介质，属于人工智能技术领域。该方法包括：主控芯片接收服务端发送的模型加密包；主控芯片调用安全芯片解密出对称密钥；安全芯片使用对称密钥对模型加密包进行解密得到模型明文文件、模型配置文件和签名值，并存储在存储装置中；主控芯片对模型明文文件和模型配置文件进行验签，在验签通过的情况下对终端设备身份标识进行校验；在终端设备身份标识校验通过的情况下，加载所述模型明文文件进行推理。本申请降低了模型被篡改或滥用的风险，实现了对模型的有效保护，从而提高了模型推理结果的可靠性，可用于多种应用场景，通用性强。

【技术实现步骤摘要】

本申请属于人工智能，尤其涉及一种模型推理方法、模型加密方法、电子设备和存储介质。

技术介绍

1、随着人工智能技术在自动驾驶、医疗诊断等关键领域的广泛应用，人工智能模型的安全性已成为至关重要的问题。恶意篡改、窃取或滥用模型不仅侵犯了模型所有者的知识产权，还可能引发严重的安全问题。目前，虽然出现了多种模型保护方案，但这些方案仍存在一定的局限性。例如，基于访问权限控制器与内存控制器的方案需要对硬件进行设计调整，通用性受限；基于可信执行环境(trusted execution environment，tee)的方案受限于算力资源，难以满足大型模型对高性能计算的需求；而在富执行环境(rich executionenvironment，ree)中对模型及输出进行混淆处理的方案则存在计算成本高和实施复杂性高的问题。

技术实现思路

1、本申请旨在至少解决相关技术中存在的技术问题之一。为此，本申请提出一种模型推理方法、模型加密方法、电子设备和存储介质，降低了模型被篡改或滥用的风险，实现了对模型的有效保护，从而提高了模型推理结果本文档来自技高网...

【技术保护点】

1.一种模型推理方法，其特征在于，应用于终端设备，所述终端设备包括主控芯片、安全芯片和存储装置，所述模型推理方法包括：

2.根据权利要求1所述的模型推理方法，其特征在于，所述在验签通过的情况下，所述主控芯片根据终端设备身份校验逻辑对所述终端设备身份标识进行校验，包括：

3.根据权利要求1或2所述的模型推理方法，其特征在于，在所述主控芯片接收服务端发送的模型加密包之前，所述方法还包括：

4.根据权利要求3所述的模型推理方法，其特征在于，所述方法还包括：

5.一种模型加密方法，其特征在于，应用于服务端，包括：

6.根据权利要求5所述...

【技术特征摘要】

1.一种模型推理方法，其特征在于，应用于终端设备，所述终端设备包括主控芯片、安全芯片和存储装置，所述模型推理方法包括：

2.根据权利要求1所述的模型推理方法，其特征在于，所述在验签通过的情况下，所述主控芯片根据终端设备身份校验逻辑对所述终端设备身份标识进行校验，包括：

3.根据权利要求1或2所述的模型推理方法，其特征在于，在所述主控芯片接收服务端发送的模型加密包之前，所述方法还包括：

4.根据权利要求3所述的模型推理方法，其特征在于，所述方法还包括：

5.一种模型加密方法，其特征在于，应用于服务端，包括：

6.根据权利要求5所述的模型加密方法，其特征在于，在所述根据终端设备身份标识生成模型配置文件之前，所述方法还包括：

7.根据权利要求5或6所述的模型加密方法，其特征在于，在所述根据第二私钥对模型明...

【专利技术属性】
技术研发人员：郑显义，单进勇，李延，刘志远，侯瑞，史磊，胡晓波，刘然，涂因子，李建强，
申请(专利权)人：北京智芯微电子科技有限公司，
类型：发明
国别省市：