AI模型部署方法、装置、计算设备及计算机存储介质制造方法及图纸

技术编号:40983856 阅读:30 留言:0更新日期:2024-04-18 21:28
本申请公开了一种AI模型部署方法、装置、计算设备及计算机存储介质。该方法包括:对AI模型按层级进行分拆,得到各层的权重文件、偏移量数据文件以及各层参数;对各层的权重文件及偏移量数据文件进行随机分片加密处理,得到分片加密后的权重文件、分片加密后的偏移量数据文件;将分片信息以及各层参数写入至描述文件;对所述描述文件进行加密处理,将加密后的描述文件、分片加密后的权重文件及偏移量数据文件、未分片加密的权重文件及偏移量数据文件部署至CDN,通过对模型分拆及模型部分加密,有效提升了模型的安全性,避免了完整的模型加解密耗时长且易失败的问题,提高了模型传输成功率及传输效率。

【技术实现步骤摘要】

本申请涉及计算机,具体涉及一种ai模型部署方法、装置、计算设备及计算机存储介质。


技术介绍

1、随着ai技术的发展和客户端芯片性能的不断增强,越来越多的ai模型开始在客户端上部署和运行,比如相机特效、实时翻译等,端上运行ai模型有节省带宽、保护用户隐私、实时响应等优点,但同时存在如下问题:ai模型作为非常机密的资产,部署在端上容易被破解盗取,一旦被盗取对公司业务产生巨大影响,另外ai模型一般比较大,完整的模型的传输和加解密都十分耗时且容易失败。


技术实现思路

1、本申请的目的是提供一种ai模型部署方法、装置、计算设备及计算机存储介质,以解决现有技术存在的ai模型部署在客户端容易被破解盗取,及完整的模型的传输和加解密都十分耗时且容易失败等问题。

2、根据本申请实施例的一个方面,提供了一种ai模型部署方法,包括:

3、对ai模型按层级进行分拆,得到各层的权重文件、偏移量数据文件以及各层参数;

4、对各层的权重文件及偏移量数据文件进行随机分片加密处理,得到分片加密后的权重文件、分本文档来自技高网...

【技术保护点】

1.一种AI模型部署方法,包括:

2.根据权利要求1所述的方法,其中,所述对各层的权重文件及偏移量数据文件进行随机分片加密处理进一步包括:

3.根据权利要求1或2所述的方法,其中,所述方法还包括:

4.根据权利要求3所述的方法,其中,在根据所述AI模型进行预测,得到对应的预测结果之后,所述方法还包括:

5.根据权利要求1-4中任一项所述的方法,其中,所述根据所述分片信息对分片加密后的权重文件及偏移量数据文件进行解密进一步包括:

6.根据权利要求5所述的方法,其中,所述方法还包括:若客户端不包含安全元件,则判断客户端是否支持可信执...

【技术特征摘要】

1.一种ai模型部署方法,包括:

2.根据权利要求1所述的方法,其中,所述对各层的权重文件及偏移量数据文件进行随机分片加密处理进一步包括:

3.根据权利要求1或2所述的方法,其中,所述方法还包括:

4.根据权利要求3所述的方法,其中,在根据所述ai模型进行预测,得到对应的预测结果之后,所述方法还包括:

5.根据权利要求1-4中任一项所述的方法,其中,所述根据所述分片信息对分片加密后的权重文件及偏移量数据文件进行解密进一步包括:

6.根据权利要求5所述的方法,其中,所述方法还包括:若客户端不包含安全元件,则判断客户端是否支持可信执行环境;

7.根据权利要求6所述的方法,其中,所...

【专利技术属性】
技术研发人员:周振雷
申请(专利权)人:上海哔哩哔哩科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1