通信代理中转模块、带宽增强处理方法、装置、芯片、设备、介质及程序制造方法及图纸

本发明专利技术实施例公开了一种通信代理中转模块、带宽增强处理方法、装置、芯片、设备、介质及程序，通信代理中转模块配置于目标芯片内部，其第一输入端口与目标芯片的第一绑定端口的数据输入通道通信连接，第二输入端口与目标芯片的第二绑定端口的数据输入通道通信连接，且输出端口与第二绑定端口的数据输出通道通信连接，用于：接收第一绑定端口通过数据输入通道发送的中转通信数据并发送至第二绑定端口的数据输出通道，以将中转通信数据发送至第二绑定端口绑定的非通信组芯片；中转通信数据由第一绑定端口绑定的非通信组芯片发送至第一绑定端口。本发明专利技术实施例的技术方案能够提高多处理器芯片之间的通信带宽利用率和通信效率。

【技术实现步骤摘要】

本专利技术实施例涉及芯片、通信以及人工智能，尤其涉及一种通信代理中转模块、带宽增强处理方法、装置、芯片、设备、介质及程序。

技术介绍

1、在当前的人工智能服务器中，经常使用full mesh方法用作处理器芯片如gpu（graphics processing unit，图像处理器）或dpu（deep learning processing unit，深度学习处理器）之间的scale-up互联（纵向扩展）。full mesh（全网状）是一种网络连接形式，指所有节点之间均直接连接的拓扑结构。scale-up互联是一种通过提升单个计算节点的性能来实现系统扩展的技术路径，其核心是通过优化硬件配置或升级现有设备来提升整体性能。

2、图1是现有技术中人工智能服务器内处理器芯片的scale-up互联的效果示意图。在一个具体的例子中，如图1所示，当前人工智能服务器的主流应用，常采用8卡gpu配置，每个gpu会使用7个通信链路来直接与其他gpu点到点互联。图1中各gpu之间的每条线代表一条通信链路，设每条通信链路的带宽为bw，则每个gpu在full mesh状态下本文档来自技高网...

【技术保护点】

1.一种通信代理中转模块，其特征在于，所述通信代理中转模块配置于目标芯片内部；所述通信代理中转模块的第一输入端口与目标芯片的第一绑定端口的数据输入通道通信连接，所述通信代理中转模块的第二输入端口与所述目标芯片的第二绑定端口的数据输入通道通信连接，且所述通信代理中转模块的输出端口与所述第二绑定端口的数据输出通道通信连接；所述第一绑定端口和第二绑定端口为芯片的通信端口；所述通信代理中转模块用于：

2.根据权利要求1所述的通信代理中转模块，其特征在于，每个芯片中所述通信代理中转模块的数量通过以下方式确定：

3.根据权利要求2所述的通信代理中转模块，其特征在于，所述芯片的...

【技术特征摘要】

1.一种通信代理中转模块，其特征在于，所述通信代理中转模块配置于目标芯片内部；所述通信代理中转模块的第一输入端口与目标芯片的第一绑定端口的数据输入通道通信连接，所述通信代理中转模块的第二输入端口与所述目标芯片的第二绑定端口的数据输入通道通信连接，且所述通信代理中转模块的输出端口与所述第二绑定端口的数据输出通道通信连接；所述第一绑定端口和第二绑定端口为芯片的通信端口；所述通信代理中转模块用于：

2.根据权利要求1所述的通信代理中转模块，其特征在于，每个芯片中所述通信代理中转模块的数量通过以下方式确定：

3.根据权利要求2所述的通信代理中转模块，其特征在于，所述芯片的数量为8个，所述芯片通信组规模为2或4。

4.一种带宽增强处理方法，其特征在于，应用于通信代理中转模块，所述通信代理中转模块配置于目标芯片内部；所述通信代理中转模块的第一输入端口与目标芯片的第一绑定端口的数据输入通道通信连接，所述通信代理中转模块的第二输入端口与所述目标芯片的第二绑定端口的数据输入通道通信连接，且所述通信代理中转模块的输出端口与所述第二绑定端口的数据输出通道通信连接；所述第一绑定端口和第二绑定端口为芯片的通信端口；所述方法包括：

5.根据权利要求4所述的方法，其特征在...

【专利技术属性】
技术研发人员：王建国，柴菁，张亚林，
申请(专利权)人：上海云燧科技有限公司，
类型：发明
国别省市：