一种跨平台通信方法、系统、装置、设备及介质制造方法及图纸

本申请涉及通信技术领域，公开了一种跨平台通信方法、系统、装置、设备及介质，包括：控制服务器端的第一通信层向服务器端的第一上层提供跨平台通信接口；跨平台通信接口由第一通信层对物理传输层的PCIE驱动接口进行封装得到；控制第一上层对跨平台通信接口进行调用以基于物理传输层的直接存储器访问机制将操作请求发送至加速卡端；控制加速卡端的第二通信层从物理传输层的直接存储器访问控制器获取操作请求，并将操作请求发送至加速卡端的第二上层，以利用第二上层对操作请求进行响应。本申请对上层开发者来说实现了数据通明化传递，无需关心跨平台传递的任何细节，同时能够极大节省数据传递时间，提高通信效率。提高通信效率。提高通信效率。

【技术实现步骤摘要】
一种跨平台通信方法、系统、装置、设备及介质


[0001]本专利技术涉及通信
，特别涉及一种跨平台通信方法、系统、装置、设备及介质。

技术介绍

[0002]人工智能加速卡是专门用于深度学习算法加速的板卡，加速卡通过PCIE插槽与服务器相连进行神经网络加速。一般来讲加速卡和服务器通常采用Linux作为操作系统，Linux系统通过线程或进程完成具体的逻辑功能，各个进程和线程之间可以通过信号、消息队列、共享内存等方式实现通信，如何在Linux系统下实现多用户跨平台通信是重点所在。
[0003]目前尚没有针对人工智能加速板卡跨平台通信的公开框架或方案，相关方案有如下两种：（1）按照板卡内部模块来划分，各个模块开发工程师各自负责跨平台的通信，通过自己约定好的数据格式进行跨平台数据传输，数据的传递一般通过PCIE驱动提供的接口以及中断或者遍历内存方式完成。这种方式需要开发人员对PCIE技术有一定的了解，增加了中间层开发人员对底层驱动的技术要求，且当多用户或多模块同时处于数据获取状态时，造成过多的进程或线程同时访问某一固定内存区域以判断是否有自己本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种跨平台通信方法，其特征在于，包括：控制服务器端的第一通信层向所述服务器端的第一上层提供跨平台通信接口；其中，所述跨平台通信接口由所述第一通信层对物理传输层的PCIE驱动接口进行封装得到；控制所述第一上层对所述跨平台通信接口进行调用以基于所述物理传输层的直接存储器访问机制将操作请求发送至加速卡端；控制所述加速卡端的第二通信层从所述物理传输层的直接存储器访问控制器获取所述操作请求，并将所述操作请求发送至所述加速卡端的第二上层，以利用所述第二上层对所述操作请求进行响应。2.根据权利要求1所述的跨平台通信方法，其特征在于，所述第一上层包括所述服务器端的第一应用层和第一运行时层；所述控制服务器端的第一通信层向所述服务器端的第一上层提供跨平台通信接口，包括：控制所述第一通信层将所述跨平台通信接口发送至所述第一运行时层，并经由所述第一运行时层将所述跨平台通信接口转发至所述第一应用层。3.根据权利要求2所述的跨平台通信方法，其特征在于，所述控制所述第一上层对所述跨平台通信接口进行调用以基于所述物理传输层的直接存储器访问机制将操作请求发送至加速卡端，包括：控制所述第一应用层对所述跨平台通信接口进行调用以基于所述物理传输层的直接存储器访问机制将所述操作请求发送至所述加速卡端。4.根据权利要求1所述的跨平台通信方法，其特征在于，所述控制所述第一上层对所述跨平台通信接口进行调用以基于所述物理传输层的直接存储器访问机制将操作请求发送至加速卡端，包括：控制所述第一上层对所述跨平台通信接口进行调用以对所述操作请求进行序列化操作，并基于所述物理传输层的直接存储器访问机制将序列化操作后的所述操作请求发送至所述加速卡端；所述控制所述加速卡端的第二通信层从所述物理传输层的直接存储器访问控制器获取所述操作请求之后，还包括：控制所述第二通信层对获取到序列化操作后的所述操作请求进行反序列化操作，并将反序列化操作后的所述操作请求发送至所述第二上层。5.根据权利要求4所述的跨平台通信方法，其特征在于，序列化操作和反序列化操作的过程，包括：利用flatbuffers工具对所述操作请求进行序列化和反序列化操作。6.根据权利要求1所述的跨平台通信方法，其特征在于，所述第二上层包括所述加速卡端的第二应用层和第二运行时层；所述将所述操作请求发送至所述加速卡端的第二上层，包括：将所述操作请求发送至所述第二运行时层，并经由所述第二运行时层将所述操作请求转发至所述第二应用层。7.根据权利要求6所述的跨平台通信方法，其特征在于，所述控制所述加速卡端的第二通信层从所述物理传输层的直接存储器访问控制器获取所述操作请求之前，还包括：
控制所述物理传输层的PCIE驱动生成中断信号；将所述中断信号发送至所述第二通信层，并经由所述第二通信层将所述中断信号转发至所述第二应用层，以便所述第二应用层根据所述中断信号控制所述第二通信层从所述物理传输层的直接存储器访问控制器获取所述操作请求。8.根据权利要求6所述的跨平台通信方法，其特征在于，所述利用所述第二上层对所述操作请求进行响应，包括：控制所述第二应用层对所述操作请求进行解析，得到包含目标子进程标识的函数参数；确定出与所述目标子进程标识具有绑定关系的目标子进程；其中，所述目标子进程与发送所述操作请求的所述第一上层运行的目标业务进程具有对应关系；利用所述目标子进程对所述操作请求进行响应。9.根据权利要求8所述的跨平台通信方法，其特征在于，所述目标子进程标识为目标子进程句柄。10.根据权利要求9所述的跨平台通信方法，其特征在于，所述控制所述第二应用层对所述操作请求进行解析，包括：控制所述第二应用层对所述操作请求进行解析，得到操作函数类型；所述利用所述目标子进程对所述操作请求进行响应，包括：控制所述第二应用层从所述第二运行时层...

【专利技术属性】
技术研发人员：刘辉，
申请(专利权)人：苏州浪潮智能科技有限公司，
类型：发明
国别省市：