一种协同加速计算的方法、装置、设备及可读介质制造方法及图纸

技术编号:33042120 阅读:16 留言:0更新日期:2022-04-15 09:23
本发明专利技术提供了一种协同加速计算的方法、装置、设备及可读介质,该方法包括:系统应用根据需要的服务构建消息并将构建的消息发送到系统的DDS域中;DDS域中的加速服务获取消息并根据消息中的操作索引字段获取操作信息;加速服务根据获取到的操作信息依次进行数据处理;响应于数据处理完成,向系统应用反馈数据处理结果。通过使用本发明专利技术的方案,能够将所有的加速计算服务抽象为话题,统一了加速计算的接口,对数据的一系列处理由加速服务完成调度,能够简化系统应用的复杂度与开发难度。简化系统应用的复杂度与开发难度。简化系统应用的复杂度与开发难度。

【技术实现步骤摘要】
一种协同加速计算的方法、装置、设备及可读介质


[0001]本专利技术涉及计算机领域,并且更具体地涉及一种协同加速计算的方法、装置、设备及可读介质。

技术介绍

[0002]近年来,随着移动互联网和人工智能等新兴技术的发展,大数据的规模、互联网应用的规模正在呈指数级增长。数据中心需要处理的业务也同样增长,而数据中心使用的通用处理器的计算能力已经达到瓶颈。为了解决这个问题,各种基于FPGA(现场可编程逻辑门阵列)、ASIC(专用集成电路)的专用计算加速的PCIe板卡应运而生,如压缩解压缩卡、RAID(独立磁盘构成的具有冗余能力的阵列)存储卡以及我们熟知的用于神经网络训练推导的GPGPU(通用图形处理器)等。
[0003]对同一数据的处理往往需要多种加速计算,这就要求这些加速计算服务可以并行或串行协同处理数据。但是由于不同的加速卡使用不同的驱动接口,针对数据的每一步计算处理都需要系统应用的调度,增加了系统应用的设计和开发复杂度。

技术实现思路

[0004]有鉴于此,本专利技术实施例的目的在于提出一种协同加速计算的方法、装置、设备及可读介质,通过使用本专利技术的技术方案,能够将所有的加速计算服务抽象为话题,统一了加速计算的接口,对数据的一系列处理由加速服务完成调度,能够简化系统应用的复杂度与开发难度。
[0005]基于上述目的,本专利技术的实施例的一个方面提供了一种协同加速计算的方法,包括以下步骤:
[0006]系统应用根据需要的服务构建消息并将构建的消息发送到系统的DDS域(Data Distribution Service,数据分发服务,是一个中间件协议和API标准,采用发布/订阅体系架构,强调以数据为中心,DDS域代表一个通信平面,只有在同一个域内的通信实体才可以通信)中;
[0007]DDS域中的加速服务获取消息并根据消息中的操作索引字段获取操作信息;
[0008]加速服务根据获取到的操作信息依次进行数据处理;
[0009]响应于数据处理完成,向系统应用反馈数据处理结果。
[0010]根据本专利技术的一个实施例,消息的结构中包括:
[0011]任务号,任务号用于索引系统应用发起的操作,方便系统应用进行状态监控和错误处理,每个由系统应用发起的任务拥有不同的任务号;
[0012]反馈话题名,反馈话题名用于通知加速计算服务用来反馈结果的话题;
[0013]当前操作索引,当前操作索引提供加速计算服务所需参数在操作信息链中的位置;
[0014]操作信息链,操作信息链用于标识对数据要进行串行操作或并行操作及操作需要
的参数;
[0015]数据,数据为当前要进行加速计算的数据,如果是并行操作,加速服务直接转发当前数据,如果是串行操作,加速服务将用本次处理结果替换当前数据。
[0016]根据本专利技术的一个实施例,加速服务根据获取到的操作信息依次进行数据处理包括:
[0017]根据消息中的当前操作索引字段从操作链中获取当前操作信息;
[0018]判断并行处理话题名是否为空;
[0019]响应于并行处理话题名不为空,将消息中的当前操作索引设置为并行处理索引并将消息发布到并行处理话题;
[0020]根据并行处理中的操作参数对需要并行处理的操作进行并行的数据处理。
[0021]根据本专利技术的一个实施例,响应于数据处理完成,向系统应用反馈数据处理结果包括:
[0022]响应于数据处理完成,判断是否需要发布结果到反馈话题;
[0023]响应于需要发布结果到反馈话题,将数据处理结果发布到反馈话题中以通知系统应用处理结果。
[0024]本专利技术的实施例的另一个方面,还提供了一种协同加速计算的装置,装置包括:
[0025]构建模块,构建模块配置为系统应用根据需要的服务构建消息并将构建的消息发送到系统的DDS域中;
[0026]获取模块,获取模块配置为DDS域中的加速服务获取消息并根据消息中的操作索引字段获取操作信息;
[0027]处理模块,处理模块配置为加速服务根据获取到的操作信息依次进行数据处理;
[0028]反馈模块,反馈模块配置为响应于数据处理完成,向系统应用反馈数据处理结果。
[0029]根据本专利技术的一个实施例,消息的结构中包括:
[0030]任务号,任务号用于索引系统应用发起的操作,方便系统应用进行状态监控和错误处理,每个由系统应用发起的任务拥有不同的任务号;
[0031]反馈话题名,反馈话题名用于通知加速计算服务用来反馈结果的话题;
[0032]当前操作索引,当前操作索引提供加速计算服务所需参数在操作信息链中的位置;
[0033]操作信息链,操作信息链用于标识对数据要进行串行操作或并行操作及操作需要的参数;
[0034]数据,数据为当前要进行加速计算的数据,如果是并行操作,加速服务直接转发当前数据,如果是串行操作,加速服务将用本次处理结果替换当前数据。
[0035]根据本专利技术的一个实施例,处理模块还配置为:
[0036]根据消息中的当前操作索引字段从操作链中获取当前操作信息;
[0037]判断并行处理话题名是否为空;
[0038]响应于并行处理话题名不为空,将消息中的当前操作索引设置为并行处理索引并将消息发布到并行处理话题;
[0039]根据并行处理中的操作参数对需要并行处理的操作进行并行的数据处理。
[0040]根据本专利技术的一个实施例,反馈模块还配置为:
[0041]响应于数据处理完成,判断是否需要发布结果到反馈话题;
[0042]响应于需要发布结果到反馈话题,将数据处理结果发布到反馈话题中以通知系统应用处理结果。
[0043]本专利技术的实施例的另一个方面,还提供了一种计算机设备,该计算机设备包括:
[0044]至少一个处理器;以及
[0045]存储器,存储器存储有可在处理器上运行的计算机指令,指令由处理器执行时实现上述任意一项方法的步骤。
[0046]本专利技术的实施例的另一个方面,还提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时实现上述任意一项方法的步骤。
[0047]本专利技术具有以下有益技术效果:本专利技术实施例提供的协同加速计算的方法,通过系统应用根据需要的服务构建消息并将构建的消息发送到系统的DDS域中;DDS域中的加速服务获取消息并根据消息中的操作索引字段获取操作信息;加速服务根据获取到的操作信息依次进行数据处理;响应于数据处理完成,向系统应用反馈数据处理结果的技术方案,能够将所有的加速计算服务抽象为话题,统一了加速计算的接口,对数据的一系列处理由加速服务完成调度,能够简化系统应用的复杂度与开发难度。
附图说明
[0048]为了更清楚地说明本专利技术实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种协同加速计算的方法,其特征在于,包括以下步骤:系统应用根据需要的服务构建消息并将构建的消息发送到系统的DDS域中;所述DDS域中的加速服务获取所述消息并根据所述消息中的操作索引字段获取操作信息;加速服务根据获取到的操作信息依次进行数据处理;响应于数据处理完成,向所述系统应用反馈数据处理结果。2.根据权利要求1所述的方法,其特征在于,所述消息的结构中包括:任务号,所述任务号用于索引系统应用发起的操作,方便系统应用进行状态监控和错误处理,每个由系统应用发起的任务拥有不同的任务号;反馈话题名,所述反馈话题名用于通知加速计算服务用来反馈结果的话题;当前操作索引,所述当前操作索引提供加速计算服务所需参数在操作信息链中的位置;操作信息链,所述操作信息链用于标识对数据要进行串行操作或并行操作及操作需要的参数;数据,所述数据为当前要进行加速计算的数据,如果是并行操作,加速服务直接转发当前数据,如果是串行操作,加速服务将用本次处理结果替换当前数据。3.根据权利要求1所述的方法,其特征在于,加速服务根据获取到的操作信息依次进行数据处理包括:根据消息中的当前操作索引字段从操作链中获取当前操作信息;判断并行处理话题名是否为空;响应于并行处理话题名不为空,将消息中的当前操作索引设置为并行处理索引并将消息发布到并行处理话题;根据并行处理中的操作参数对需要并行处理的操作进行并行的数据处理。4.根据权利要求1所述的方法,其特征在于,响应于数据处理完成,向所述系统应用反馈数据处理结果包括:响应于数据处理完成,判断是否需要发布结果到反馈话题;响应于需要发布结果到反馈话题,将数据处理结果发布到反馈话题中以通知所述系统应用处理结果。5.一种协同加速计算的装置,其特征在于,所述装置包括:构建模块,所述构建模块配置为系统应用根据需要的服务构建消息并将构建的消息发送到系统的DDS域中;获取模块,所述获取模块配置为所述DDS域中的加速服务获取所述消息并根据所述消息中的操...

【专利技术属性】
技术研发人员:徐江波母文道崔健吴睿振
申请(专利权)人:山东云海国创云计算装备产业创新中心有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1