数据同步方法及装置以及相关产品制造方法及图纸

本公开涉及一种数据同步方法及装置以及相关产品，所述产品包括控制模块，所述控制模块包括：指令缓存单元、指令处理单元和存储队列单元；所述指令缓存单元，用于存储所述人工神经网络运算关联的计算指令；所述指令处理单元，用于对所述计算指令解析得到多个运算指令；所述存储队列单元，用于存储指令队列，该指令队列包括：按该队列的前后顺序待执行的多个运算指令或计算指令。通过以上方法，本公开可以提高相关产品在进行神经网络模型的运算时的运算效率。的运算效率。的运算效率。

【技术实现步骤摘要】
数据同步方法及装置以及相关产品


[0001]本公开涉及计算机
，尤其涉及一种数据同步方法及装置以及相关产品。

技术介绍

[0002]随着人工智能技术的不断发展，其应用领域越来越广泛，在图像识别、语音识别、自然语言处理等领域中都得到了良好的应用。然而，随着人工智能算法的复杂度提高，需要处理的数据量和数据维度都在不断增大，通常需要多核和/或多芯片进行数据处理。在进行核间或芯片间的数据同步时，采用相关技术的同步方式的同步开销较大，处理效率较低。

技术实现思路

[0003]有鉴于此，本公开提出了一种数据同步技术方案。
[0004]根据本公开的一方面，提供了一种数据同步方法，所述方法应用于第一处理器，包括：根据待同步的张量数据的描述符，生成状态查询指令，其中，所述描述符用于指示待同步的张量数据的形状，所述状态查询指令用于指示第二处理器确定针对所述张量数据的可同步数据量并生成同步状态指令，所述状态查询指令包括所述描述符的标识和/或所述描述符的内容；向第二处理器发送所述状态查询指令。
[0005]根据本公开的另一方面，提供了一种数据同步方法，所述方法应用于第二处理器，包括：在接收到来自第一处理器的状态查询指令时，确定待同步的张量数据的描述符，所述描述符用于指示待同步的张量数据的形状；根据所述张量数据的描述符，确定针对所述张量数据的可同步数据量；根据所述张量数据的描述符及所述可同步数据量，生成同步状态指令，所述同步状态指令用于指示所述第一处理器确定所述张量数据的第一子数据，所述第一子数据的数据量与所述可同步数据量相对应；向所述第一处理器发送所述同步状态指令。
[0006]根据本公开的另一方面，提供了一种数据同步装置，所述装置应用于第一处理器，包括：查询指令生成模块，用于根据待同步的张量数据的描述符，生成状态查询指令，其中，所述描述符用于指示待同步的张量数据的形状，所述状态查询指令用于指示第二处理器确定针对所述张量数据的可同步数据量并生成同步状态指令，所述状态查询指令包括所述描述符的标识和/或所述描述符的内容；查询指令发送模块，用于向第二处理器发送所述状态查询指令。
[0007]根据本公开的另一方面，提供了一种数据同步装置，所述装置应用于第二处理器，包括：查询指令接收模块，用于在接收到来自第一处理器的状态查询指令时，确定待同步的张量数据的描述符，所述描述符用于指示待同步的张量数据的形状；数据量确定模块，用于根据所述张量数据的描述符，确定针对所述张量数据的可同步数据量；状态指令生成模块，用于根据所述张量数据的描述符及所述可同步数据量，生成同步状态指令，所述同步状态指令用于指示所述第一处理器确定所述张量数据的第一子数据，所述第一子数据的数据量与所述可同步数据量相对应；状态指令发送模块，用于向所述第一处理器发送所述同步状
态指令。
[0008]根据本公开的另一方面，提供了一种人工智能芯片，所述芯片包括如上所述的数据同步装置。
[0009]根据本公开的另一方面，提供了一种电子设备，所述电子设备包括如上所述的人工智能芯片。
[0010]根据本公开的另一方面，提供了一种板卡，所述板卡包括：存储器件、接口装置和控制器件以及如上所述的人工智能芯片；其中，所述人工智能芯片与所述存储器件、所述控制器件以及所述接口装置分别连接；所述存储器件，用于存储数据；所述接口装置，用于实现所述人工智能芯片与外部设备之间的数据传输；所述控制器件，用于对所述人工智能芯片的状态进行监控。
[0011]根据本公开的实施例，通过设定指示张量数据的形状的描述符，由数据同步的发送方根据描述符主动查询接收方的状态，以便实现发送方与接收方之间的部分数据同步，从而减少同步开销，提高数据同步的效率。
[0012]通过权要中的技术特征进行推导，能够达到对应
技术介绍
中的技术问题的有益效果。根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。
附图说明
[0013]包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面，并且用于解释本公开的原理。
[0014]图1示出根据本公开实施例的数据同步方法的处理系统的示意图。
[0015]图2示出根据本公开实施例的数据同步方法的流程图。
[0016]图3示出根据本公开实施例的数据同步方法的流程图。
[0017]图4示出根据本公开实施例的数据同步方法的数据存储空间的示意图。
[0018]图5示出根据本公开实施例的数据同步装置的框图。
[0019]图6示出根据本公开实施例的数据同步装置的框图。
[0020]图7示出根据本公开实施例的板卡的结构框图。
具体实施方式
[0021]下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。
[0022]应当理解，本公开的权利要求、说明书及附图中的术语“第一”、“第二”、和“第三”等是用于区别不同对象，而不是用于描述特定顺序。本公开的说明书和权利要求书中使用的术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
[0023]还应当理解，在此本公开说明书中所使用的术语仅仅是出于描述特定实施例的目的，而并不意在限定本公开。如在本公开说明书和权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。还应当进一
步理解，在本公开说明书和权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
[0024]如在本说明书和权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
[0025]根据本公开实施例的数据同步方法可应用于包括多个处理器(多核)的处理系统(例如人工智能芯片)的任意一个处理器中。该处理器可以是通用处理器，例如CPU(Central Processing Unit，中央处理器)，也可以是用于执行人工智能运算的人工智能处理器(IPU)。人工智能运算可包括机器学习运算，类脑运算等。其中，机器学习运算包括神经网络运算、k-means运算、支持向量机运算等。该人工智能处理器可例如包括GPU(Graphics Processing Unit，图形处理单元)、NPU(Neural-Network Processin本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据同步方法，其特征在于，所述方法应用于第一处理器，包括：根据待同步的张量数据的描述符，生成状态查询指令，其中，所述描述符用于指示待同步的张量数据的形状，所述状态查询指令用于指示第二处理器确定针对所述张量数据的可同步数据量并生成同步状态指令，所述状态查询指令包括所述描述符的标识和/或所述描述符的内容；向第二处理器发送所述状态查询指令。2.根据权利要求1所述的方法，其特征在于，所述方法还包括：在接收到来自所述第二处理器的同步状态指令时，根据所述同步状态指令中的张量数据的描述符及可同步数据量，确定所述张量数据的第一子数据，所述第一子数据的数据量与所述可同步数据量相对应；根据所述第一子数据，生成描述符同步指令并向所述第二处理器发送所述描述符同步指令，以指示所述第二处理器获取所述第一子数据。3.根据权利要求2所述的方法，其特征在于，所述同步状态指令包括描述符的标识，其中，在接收到来自所述第二处理器的同步状态指令时，根据所述同步状态指令中的张量数据的描述符及可同步数据量，确定所述张量数据的第一子数据，包括：解析所述同步状态指令，获得所述描述符的标识及可同步数据量；根据所述描述符的标识，确定所述待同步的张量数据的描述符。4.根据权利要求2或3所述的方法，其特征在于，在接收到来自所述第二处理器的同步状态指令时，根据所述同步状态指令中的张量数据的描述符及可同步数据量，确定所述张量数据的第一子数据，包括：根据所述张量数据的描述符，确定所述张量数据以及所述张量数据中处于待同步状态的第二子数据；根据所述第二子数据及所述同步状态指令中的可同步数据量，确定第一子数据。5.一种数据同步方法，其特征在于，所述方法应用于第二处理器，包括：在接收到来自第一处理器的状态查询指令时，确定待同步的张量数据的描述符，所述描述符用于指示待同步的张量数据的形状；根据所述张量数据的描述符，确定针对所述张量数据的可同步数据量；根据所述张量数据的描述符...

【专利技术属性】
技术研发人员：ꢀ七四专利代理机构，
申请(专利权)人：安徽寒武纪信息科技有限公司，
类型：发明
国别省市：