一种测试集压缩方法、系统、装置及存储介质制造方法及图纸

技术编号:41723205 阅读:16 留言:0更新日期:2024-06-19 12:47
本发明专利技术公开了一种测试集压缩方法、系统、装置及存储介质,属于深度学习和数据压缩技术领域。其中方法包括:获取测试集,采用HAST模型从测试集中抽取样本;采用GHM来计算抽取的样本x的复杂度d;根据复杂度d将样本划分为复杂样本和简单样本,获得复杂样本集和简单样本集;按照预设的比例分别从复杂样本集和简单样本集中抽取样本,组成压缩后的测试集。本发明专利技术通过利用HAST模型设计的复杂样本抽取的压缩算法,能够有效地对完整测试集进行压缩,保留最具代表性和挑战性的样本,并能快速、准确的完成在不同混合精度的压缩比量化来优化预训练模型的推理。

【技术实现步骤摘要】

本专利技术涉及深度学习和数据压缩,尤其涉及一种测试集压缩方法、系统、装置及存储介质


技术介绍

1、在实际应用中,尤其是在嵌入式设备、移动设备或边缘计算环境中,深度学习模型的推理效率成为一个关键问题。由于硬件设备的限制,模型在板卡上的推理速度较慢,加载大量测试数据困难。虽然可以通过gpu进行仿真,但是难以确保gpu上的仿真和板卡上实际推理完全一致。

2、另外,由于硬件设备的限制,往往需要对某些预训练的模型进行裁剪和量化,不同的量化方法、不同的混合精度位宽分配,可获得多个量化后的模型。如何能够给快速地、有效地评估出这些量化后的模型在板卡上的性能,目前尚有待解决。


技术实现思路

1、为至少一定程度上解决现有技术中存在的技术问题之一,本专利技术的目的在于提供一种测试集压缩方法、系统、装置及存储介质。

2、本专利技术所采用的第一技术方案是:

3、一种测试集压缩方法,包括以下步骤:

4、获取测试集,采用hast模型从测试集中抽取样本;

5、采用ghm来计算抽取本文档来自技高网...

【技术保护点】

1.一种测试集压缩方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种测试集压缩方法,其特征在于,所述复杂度d的计算公式为:

3.根据权利要求1所述的一种测试集压缩方法,其特征在于,所述根据复杂度d将样本划分为复杂样本和简单样本,包括:

4.根据权利要求3所述的一种测试集压缩方法,其特征在于,所述加权精度的计算公式为:

5.根据权利要求1所述的一种测试集压缩方法,其特征在于,所述测试集压缩方法还包括以下步骤:

6.根据权利要求5所述的一种测试集压缩方法,其特征在于,所述量化后的模型通过以下方式获得:

7.根...

【技术特征摘要】

1.一种测试集压缩方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种测试集压缩方法,其特征在于,所述复杂度d的计算公式为:

3.根据权利要求1所述的一种测试集压缩方法,其特征在于,所述根据复杂度d将样本划分为复杂样本和简单样本,包括:

4.根据权利要求3所述的一种测试集压缩方法,其特征在于,所述加权精度的计算公式为:

5.根据权利要求1所述的一种测试集压缩方法,其特征在于,所述测试集压缩方法还包括以下步骤:

6.根据权利...

【专利技术属性】
技术研发人员:谭明奎高玉鑫陈卓琨黎浩坤杜卿王晓明
申请(专利权)人:华南理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1