【技术实现步骤摘要】
模型保护系统以及非暂态机器可读介质
[0001]本专利技术涉及人工智能(artificial intelligence,AI)领域。
技术介绍
[0002]对于人工智能(artificial intelligence,AI)领域,重要的是开发一种保护方案来保护被攻击的AI模型。传统上,AI模型可以被注入到操作系统(OS;例如Android系统)的内核(例如Linux内核)中用于推理,并且AI模型可以在内核中被驱动。但是,由于操作系统上运行的所有不同应用程序(application,APP)的AI模型都是在内核中驱动的,因此AI模型在被注入内核时或在内核中被驱动时会暴露出来。加密的AI模型可以被解密并在隔离的执行环境(例如可信执行环境(trusted execution environment,TEE))被执行,这需要安全操作系统的支持,并且通常具有较大的延迟和较差的灵活性,会给量产(mass production)带来问题。因此,迫切需要一种新的模型保护架构。
技术实现思路
[0003]因此,本专利技术的一个 ...
【技术保护点】
【技术特征摘要】
1.一种模型保护系统,其特征在于,包括:处理器,用于执行:客户虚拟机VM,其中,所述客户VM包括模型,并且所述客户VM用于将至少一个命令发送到命令集线器;主VM,其中所述主VM用于接收从所述命令集线器发送的所述至少一个命令,并参考所述至少一个命令来管理和配置用于受保护模型的保护设置;其中所述受保护模型是从模型得到的;以及管理程序,用于接收所述主VM发送的安全设置命令,根据所述安全设置命令管理和配置安全保护组件,以设置所述受保护模型的只读模式。2.如权利要求1所述的系统,其特征在于,所述处理器用于执行所述命令集线器,所述命令集线器是集成在所述管理程序中的软件模块。3.如权利要求1所述的系统,其特征在于,还包括:所述命令集线器;其中,所述命令集线器是在所述处理器上执行的管理程序外部的硬件组件。4.如权利要求1所述的系统,其特征在于,还包括:传输接口,用于将所述主VM与所述管理程序绑定,并执行所述主VM与所述管理程序之间的通信。5.如权利要求1所述的系统,其特征在于,所述模型被注入到在所述客户VM上运行的操作系统的内核中,并且所述受保护模型是从注入到所述内核中的所述模型得到的。6.如权利要求1所述的系统,其特征在于,所述模型被注入到在所述客户VM上运行的操作系统和所述操作系统的内核的共享存储区中,并且所述受保护模型是从注入到所述共享存储区中的所述模型得到的。7.如权利要求1所述的系统,其特征在于,所述处理器还用于执行:隔离的执行环境,用于检验所述受保护模型的签名,以在直接存储器访问DMA电路执行所述受保护模型上的计算之前确保所述受保护模型的安全。8.根据权利要求7或者1所述的系统,其特征在于,所述管理程序还用于通过根据所述安全设置命令管理和配置所述安全保护组件来设置所述受保护模型的不可读/写模式。9.根据权利要求1所述的系统,其特征在于,所述至少一个命令包括用于模型保护的第一命令和用于模型检验的第二命令,并且所述主VM还包括:检验器,用于根据所述第二命令检验所述受保护模型的签名,以在直接存储器访问DMA电路执行所述受保护模型上的计算之前确保所述受保护模型的安全。10.如权利要求1所述的系统,其特征在于,所述模型是加密模型,并且所述处理器还用于执行:隔离的执行环境,用于对所述加密模型执行解密以生成所述受保护模型。11.根据权利要求1所述的系统,其特征在于,所述模型是加密模型,所述至少一个命令包括用于模型保护的第一命令和用于模型解密的第...
【专利技术属性】
技术研发人员:萧志祥,隋培伦,许育淇,
申请(专利权)人:联发科技股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。