一种实现间接转移关联软件预测的方法及装置制造方法及图纸

本发明专利技术公开了一种实现间接转移关联软件预测的方法及装置，包括：对每条间接转移指令进行软件预测，确定该间接转移指令为难预测的热点间接转移指令后，对该指令的控制流图进行宽度遍历，获取到达该指令的路径；当获取到达该指令的路径满足预设的路径数时，为到达该指令的每一路径复制相应的代码副本；为每一代码副本在预测槽中填入相应的预测目标，以形成相应的软件预测链。本发明专利技术通过对间接转移指令进行代码复制，设置多个代码副本，为每一代码副本建立相应的软件预测链，并使不同路径的程序控制流进入到不同的代码副本，实现了低开销、高预测准确率的预测过程，实现了无需改造平台硬件，就降低了处理间接转移指令所需的开销，改善了系统性能。

【技术实现步骤摘要】
一种实现间接转移关联软件预测的方法及装置
本专利技术涉及动态翻译技术，尤指一种动态翻译系统中实现间接转移关联软件预测的方法及装置。
技术介绍
动态二进制翻译技术(dynamictranslation)广泛应用于指令系统模拟、二进制插桩、动态优化、程序行为分析等领域。在多种应用场景下，性能是翻译系统需考虑的重要指标。其中，控制转移指令的处理方法是影响动态翻译系统性能的重要因素。当控制转移指令执行时，其获取到的转移目标是一个源程序计数器地址(SPC，SourceProgramCounter，简称为源地址)，需要将其转换为相应的目标程序计数器地址(TPC，TargetProgramCounter，简称为目标地址)，翻译系统才可正常执行。控制转移指令一般可分为条件转移指令、直接跳转指令与间接转移指令(IB，IndirectBranch)。对于转移目标固定的条件转移指令与直接跳转指令，翻译系统可使用代码块链接技术来降低开销；而间接转移指令的转移目标在运行时才可以确定，且转移目标不固定，因此每次执行时均需进行一次源地址(SPC)到目标地址(TPC)的地址转换操作。图1为现有翻译系统处理间接转移指令的流程示意图，如图1所示，由于间接转移指令在每次执行时都需根据其当前的转移目标进行地址转换，因此进行大量的地址转换操作导致了巨大的性能开销，使得间接转移指令的处理过程成为主要的系统性能开销。动态二进制翻译系统一般会维护一个SPC-TPC的映射表，在源地址产生后，运行一个哈希(Hash)查表例程来进行地址转换，然后再跳转至相应的目标地址。但进行一次哈希查表需要10条以上指令，导致较大的开销。软件预测法可以在一定程度上避免哈希查表带来的额外开销，即在转移目标的SPC产生后，进入一条软件预测链与预设的若干目标进行匹配，若匹配成功则直接跳转，称为预测成功。但是，软件预测法的预测准确率一般较低，从而制约了其对整体性能的提升。图2为现有软件预测的方法示意图，如图2所示，在获取到间接转移指令的转移目标的源地址后，需要进行若干次的比较-跳转的预测操作。其中，每一个比较跳转语句称为一个预测槽(PredictionSlot)，所比较的目标称为预设目标，多个串行比较的预测槽称为一条“预测链”。若预测成功，则直接跳转到相应的目标代码块，如果预测失败，则按照图1所示的现有的翻译系统处理间接转移指令的方法进行处理。现有软件预测法的主要问题是预测准确率较低，直接增加软件预测链上的预测槽个数可一定程度上提升准确率，但同时增加了预测时需进行的“比较”操作的次数，导致单次预测开销上升，无法提升性能。此外，目前还出现了一些软硬件协同的优化方案，如在CPU流水线中新增一个跳转地址查找表，或者新增一个按内容访问的相联存储器(CAM，Content-AssociatedMemory)，但这些方案均需改动硬件或指令系统，通用性较差，无法直接在已有平台上实现。综上所述，在现有的动态翻译系统中，间接转移指令往往占用大量的系统性能开销，现有的处理方法存在指令开销过大、预测准确率低及平台应用的通用性较差等问题，间接转移指令占用主要系统开销的问题依旧未得到有效处理。
技术实现思路
为了解决上述技术问题，本专利技术提供一种实现间接转移关联软件预测的方法及装置，能够简单、有效的降低间接转移指令对系统性能开销的占用。为了达到上述专利技术目的，本专利技术公开了一种实现间接转移关联软件预测的方法，包括：对每条间接转移指令进行软件预测，当软件预测失败次数大于热点指令阈值时，确定该间接转移指令为难预测的热点间接转移指令；对所述难预测的热点间接转移指令的控制流图进行宽度遍历，获取到达该热点间接转移指令的路径；当获取到达热点间接转移指令的路径满足预先设置的路径条数时，为到达所述热点间接转移指令的每一路径复制相应的代码副本；为每一代码副本在预测槽中填入相应的预测目标，以形成相应的软件预测链。进一步地，为每一代码副本在预测槽中填入相应的预测目标具体包括：为每一代码副本的热点间接转移指令，统计其转移目标，当转移目标出现的次数大于热点目标阈值时，在每一代码副本的预测槽填入相应的预测目标。进一步地，当软件预测链形成后，该方法还包括：在软件预测失败时，进入哈希Hash查表例程。另一方面，本申请还提供一种实现间接转移关联软件预测的装置，包括：预测判断单元、路径获取单元、代码复制单元及预测链单元；其中，预测判断单元，用于对每条间接转移指令进行软件预测，当预测失败次数大于热点指令阈值时，确定所述间接转移指令为难预测的热点间接转移指令。路径获取单元，用于当所述间接转移指令为难预测的热点间接转移指令时，对该热点间接转移指令的控制流图进行宽度遍历，获取到达该热点间接转移指令的路径；代码复制单元，用于当获取到达所述热点间接转移指令的路径满足预先设置的路径条数时，为到达热点间接转移指令的每一路径复制相应的代码副本；预测链单元，用于为每一代码副本在预测槽中填入相应的预测目标，以形成相应的软件预测链。进一步地，预测链单元具体用于，为每一代码副本的热点间接转移指令，统计其转移目标，当转移目标出现的次数大于热点目标阈值时，在每一代码副本的预测槽填入相应的预测目标，以形成相应的软件预测链。进一步地，该装置还包括查表单元，用于当软件预测链形成后，在软件预测失败时，进入哈希查表例程。本申请技术方案包括：对每条间接转移指令进行软件预测，对每条间接转移指令进行软件预测，当软件预测失败次数大于热点指令阈值时，确定该间接转移指令为难预测的热点间接转移指令；对难预测的热点间接转移指令的控制流图进行宽度遍历，获取到达该热点间接转移指令的路径；当获取到达热点间接转移指令的路径满足预先设置的路径条数时，为到达热点间接转移指令的每一路径复制相应的代码副本；为每一代码副本在预测槽中填入相应的预测目标，以形成相应的软件预测链。本专利技术通过对间接转移指令进行代码复制，设置多个代码副本，为每一代码副本建立相应的软件预测链，并使来自于不同路径的程序控制流进入到不同的代码副本，实现了低开销、高预测准确率的关联软件预测过程。从而在不需要对平台进行硬件改造下，降低了处理间接转移指令所需的开销，改善了系统性能。附图说明此处所说明的附图用来提供对本专利技术的进一步理解，构成本申请的一部分，本专利技术的示意性实施例及其说明用于解释本专利技术，并不构成对本专利技术的不当限定。在附图中：图1为现有翻译系统处理间接转移指令的流程示意图；图2为现有软件预测的方法示意图；图3为本专利技术实现间接转移关联软件预测的方法的流程图；图4为本专利技术实现间接转移关联软件预测的装置的结构框图；图5为本专利技术实现代码副本复制前后间接转移关联软件预测的实施例的示意图；图6为本专利技术实现间接转移关联软件预测的实施例方法的示意图。具体实施方式图3为本专利技术实现间接转移关联软件预测的方法的流程图，如图1所示，包括：步骤300、对每条间接转移指令进行软件预测，当软件预测失败次数大于热点指令阈值时，确定该间接转移指令为难预测的热点间接转移指令。需要说明的是，采用首次命中法选取预测目标，进行软件预测失败次数统计，首次命中法为本领域技术人员熟知的一种方法，即将第一个出现的转移目标作为预测目标。另外，间接转移指令在实际应用过程中，运行次数可能达到上亿本文档来自技高网...

【技术保护点】
一种实现间接转移关联软件预测的方法，其特征在于，包括：对每条间接转移指令进行软件预测，当软件预测失败次数大于热点指令阈值时，确定该间接转移指令为难预测的热点间接转移指令；对所述难预测的热点间接转移指令的控制流图进行宽度遍历，获取到达该热点间接转移指令的路径；当所述获取到达热点间接转移指令的路径满足预先设置的路径条数时，为到达所述热点间接转移指令的每一路径复制相应的代码副本；为每一代码副本在预测槽中填入相应的预测目标，以形成相应的软件预测链。

【技术特征摘要】
1.一种实现间接转移关联软件预测的方法，其特征在于，包括：对每条间接转移指令进行软件预测，当软件预测失败次数大于热点指令阈值时，确定该间接转移指令为难预测的热点间接转移指令；对所述难预测的热点间接转移指令的控制流图进行宽度遍历，获取到达该热点间接转移指令的路径；当所述获取到达热点间接转移指令的路径满足预先设置的路径条数时，为到达所述热点间接转移指令的每一路径复制相应的代码副本；为每一代码副本在预测槽中填入相应的预测目标，以形成相应的软件预测链。2.根据权利要求1所述的方法，其特征在于，所述为每一代码副本在预测槽中填入相应的预测目标具体包括：为每一代码副本的热点间接转移指令，统计其转移目标，当转移目标出现的次数大于热点目标阈值时，在每一代码副本的预测槽填入相应的预测目标。3.根据权利要求1或2所述的方法，其特征在于，当软件预测链形成后，该方法还包括：在软件预测失败时，进入哈希Hash查表例程。4.一种实现间接转移关联软件预测的装置，其特征在于，包括：预测判断单元、路径获...

【专利技术属性】
技术研发人员：程旭，黄明凯，刘先华，
申请(专利权)人：北京北大众志微系统科技有限责任公司，
类型：发明
国别省市：北京,11