数据运算装置及其算子性能提升方法制造方法及图纸

技术编号:43505965 阅读:19 留言:0更新日期:2024-11-29 17:09
本发明专利技术提供一种数据运算装置及其算子性能提升方法。提供多个问题规模以及多个模板参数。针对各问题规模基于先验知识排除部分模板参数。遍历剩余模板参数获得性能数据,以获得训练集。提供多个实际模型。基于各实际模型的问题规模排除部分模板参数。遍历剩余模板参数获得性能数据,以获得验证集。将训练集以及验证集输入机器学习算法,以进行模型训练而得到最佳模型。如此可使最佳模型面对于不同问题规模的输入数据时具有良好的泛化性,而对应硬件配置以及算子类型产生最佳模板参数,有效地提高算子性能。

【技术实现步骤摘要】

本专利技术涉及集成电路领域,尤其涉及一种数据运算装置及其算子性能提升方法


技术介绍

1、在使用模坂编程时,可通过使用不同的模板参数来提高代码的重用性和通用性。例如张量核心(tensor core)算子可使用tiling、stage和splitk等模板参数来进行编程,由于模板参数的组合一般非常复杂,如何选择合适的模板参数以提高算法的性能和效率是十分重要的课题。


技术实现思路

1、本专利技术提供一种数据运算装置及其算子性能提升方法,可有效提高算子性能。

2、本专利技术的算子性能提升方法包括下列步骤。提供多个问题规模以及多个模板参数。针对各问题规模基于先验知识排除部分模板参数。遍历剩余模板参数获得性能数据,以获得训练集。提供多个实际模型。基于各实际模型的问题规模排除各实际模型的部分模板参数。遍历剩余模板参数获得性能数据,以获得验证集。将训练集以及验证集输入机器学习算法,以进行模型训练而得到最佳模型。

3、在本专利技术的一实施例中,上述的算子性能提升方法包括,对应硬件配置与算子选择对应的最佳本文档来自技高网...

【技术保护点】

1.一种算子性能提升方法,其特征在于,包括:

2.根据权利要求1所述的算子性能提升方法,其特征在于,还包括:

3.根据权利要求1所述的算子性能提升方法,其特征在于,还包括:

4.根据权利要求1所述的算子性能提升方法,其特征在于,所述针对各问题规模基于先验排除部分模板参数的步骤包括:

5.根据权利要求1所述的算子性能提升方法,其特征在于,所述机器学习算法包括随机森林算法。

6.一种数据运算装置,其特征在于,包括:

7.根据权利要求1所述的数据运算装置,其特征在于,所述处理器对应硬件配置与算子选择对应的最佳模型,并基于输...

【技术特征摘要】

1.一种算子性能提升方法,其特征在于,包括:

2.根据权利要求1所述的算子性能提升方法,其特征在于,还包括:

3.根据权利要求1所述的算子性能提升方法,其特征在于,还包括:

4.根据权利要求1所述的算子性能提升方法,其特征在于,所述针对各问题规模基于先验排除部分模板参数的步骤包括:

5.根据权利要求1所述的算子性能提升方法,其特征在于,所述机器学习算法包括随机森林算法。

6.一种数据运算装置,其特征在于,包括:

7.根据...

【专利技术属性】
技术研发人员:请求不公布姓名请求不公布姓名
申请(专利权)人:上海壁仞科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1