改进在异构系统上执行的软件的运行时性能的方法和设备技术方案

本申请涉及改进在异构系统上执行的软件的运行时性能的方法和设备。公开了方法、设备、系统和制品以改进在异构系统上执行的软件的运行时性能。一种示例设备包括：反馈接口，用于在第一运行时收集异构系统的与代码块的经编译版本相关联的性能特性，所述经编译版本根据指定所述经编译版本在所述异构系统上的成功执行的函数来执行，所述异构系统包括第一处理元件和与所述第一处理元件不同的第二处理元件；性能分析器，用于基于所述性能特性和所述函数来确定性能差别；以及机器学习建模器，用于在第二运行时之前，基于所述性能差别来调整所述第一处理元件的成本模型，调整后的成本模型使得所述性能差别减少以改进所述异构系统的运行时性能。

【技术实现步骤摘要】
改进在异构系统上执行的软件的运行时性能的方法和设备
本公开一般地涉及处理，并且更具体地涉及改进在异构系统上执行的软件的运行时性能的方法和设备。
技术介绍
计算机硬件制造商开发用于在计算机平台的各种组件中使用的硬件组件。例如，计算机硬件制造商开发母板、母板用芯片组、中央处理单元(CPU)、图形处理单元(GPU)、视觉处理单元(VPU)、现场可编程门阵列(FPGA)、硬盘驱动器(HDD)、固态驱动器(SSD)和其他计算机组件。许多计算机硬件制造商开发用于编译要在具体处理平台上运行的算法和/或其他代码的程序和/或其他方法。
技术实现思路
根据本申请的一方面，提供了一种用于改进在异构系统上执行的软件的运行时性能的设备，所述设备包括：反馈接口，所述反馈接口用于在第一运行时收集与代码块的经编译版本相关联的所述异构系统的性能特性，所述经编译版本根据函数来执行，所述函数指定所述经编译版本在所述异构系统上的成功执行，所述异构系统包括第一处理元件和与所述第一处理元件不同的第二处理元件；性能分析器，所述性能分析器用于基于所述性能特性和所述函数来确定性能差本文档来自技高网...

【技术保护点】
1.一种用于改进在异构系统上执行的软件的运行时性能的设备，所述设备包括：/n反馈接口，所述反馈接口用于在第一运行时收集与代码块的经编译版本相关联的所述异构系统的性能特性，所述经编译版本根据函数来执行，所述函数指定所述经编译版本在所述异构系统上的成功执行，所述异构系统包括第一处理元件和与所述第一处理元件不同的第二处理元件；/n性能分析器，所述性能分析器用于基于所述性能特性和所述函数来确定性能差别；以及/n机器学习建模器，所述机器学习建模器用于在第二运行时之前，基于所述性能差别来调整所述第一处理元件的成本模型，调整后的成本模型使得所述性能差别减少以改进所述异构系统的运行时性能。/n

【技术特征摘要】
20190627 US 16/455,4861.一种用于改进在异构系统上执行的软件的运行时性能的设备，所述设备包括：
反馈接口，所述反馈接口用于在第一运行时收集与代码块的经编译版本相关联的所述异构系统的性能特性，所述经编译版本根据函数来执行，所述函数指定所述经编译版本在所述异构系统上的成功执行，所述异构系统包括第一处理元件和与所述第一处理元件不同的第二处理元件；
性能分析器，所述性能分析器用于基于所述性能特性和所述函数来确定性能差别；以及
机器学习建模器，所述机器学习建模器用于在第二运行时之前，基于所述性能差别来调整所述第一处理元件的成本模型，调整后的成本模型使得所述性能差别减少以改进所述异构系统的运行时性能。


2.根据权利要求1所述的设备，其中，所述成本模型是基于第一神经网络而生成的第一成本模型，所述机器学习建模器用于在所述第二运行时之前基于所述性能差别来调整所述第二处理元件的第二成本模型，所述第二成本模型是基于第二神经网络而生成的。


3.根据权利要求1所述的设备，其中，所述经编译版本是第一经编译版本，所述设备进一步包括：编译器，所述编译器用于在所述第二运行时之前将所述代码块编译成所述代码块的第二经编译版本，所述第二经编译版本将在所述异构系统上执行。


4.根据权利要求1所述的设备，其中，所述反馈接口用于从运行时调度器以胖二进制文件的方式收集所述性能特性。


5.根据权利要求4所述的设备，其中，所述性能特性被存储在所述胖二进制文件的数据段中。


6.根据权利要求1所述的设备，其中，所述性能特性包括与所述代码块的所述经编译版本的执行相关联的元数据和度量信息。


7.根据权利要求1所述的设备，其中，所述性能分析器用于将所述性能差别确定为在所述第一运行时实现的性能与由所述函数定义的性能之间的差异，所述函数指定所述经编译版本在所述异构系统上的成功执行。


8.一种包括指令的计算机可读存储介质，所述指令当被执行时，使至少一个处理器至少用于：
在第一运行时收集异构系统的与代码块的经编译版本相关联的性能特性，所述经编译版本根据函数来执行，所述函数指定所述经编译版本在所述异构系统上的成功执行，所述异构系统包括第一处理元件和与所述第一处理元件不同的第二处理元件；
基于所述性能特性和所述函数来确定性能差别；并且
在第二运行时之前，基于所述性能差别来调整所述第一处理元件的成本模型，调整后的成本模型使得所述性能差别减少以改进所述异构系统的运行时性能。


9.根据权利要求8所述的计算机可读存储介质，其中，所述成本模型是基于第一神经网络而生成的第一成本模型，并且其中，所述指令当被执行时使所述至少一个处理器在所述第二运行时之前基于所述性能差别来调整所述第二处理元件的第二成本模型，所述第二成本模型是基于第二神经网络而生成的。


10.根据权利要求8所述的计算机可读存储介质，其中，所述经编译版本是第一经编译版本，并且其中，所述指令当被执行时使所述至少一个处理器在所述第二运行时之前将所述代码块编译成所述代码块的第二经编译版本，所述第二经编译版本将在所述异构系统上执行。


11.根据权利要求8所述的计算机可读存储介质，其中，所述指令当被执行时使所述至少一个处理器从运行时调度器以胖二进制文件的方式收集所述性能特性。


12.根据权利要求11所述的计算机可读存储介质，其中，所述性能特性被存储在所述胖二进制文件的数据段中。


13.根据权利要求8所述的计算机可读存储介质，其中，所述性能...

【专利技术属性】
技术研发人员：亚当·赫尔，斯里达尔·夏尔马，米卡尔·保尔戈斯赛维尼尔，德里克·格斯特曼，贾斯汀·戈特施利希，
申请(专利权)人：英特尔公司，
类型：发明
国别省市：美国;US