地址转换装置、人工智能芯片及电子设备制造方法及图纸

本公开涉及一种地址转换装置、人工智能芯片及电子设备，板卡包括：存储器件、接口装置和控制器件以及所述的人工智能芯片；其中，所述人工智能芯片与所述存储器件、所述控制器件以及所述接口装置分别连接；所述存储器件，用于存储数据；所述接口装置，用于实现所述人工智能芯片与外部设备之间的数据传输；所述控制器件，用于对所述人工智能芯片的状态进行监控。本公开所述的地址转换装置，可以适用于多核心、大数据量的场景，并提高数据读取的效率，增加适应性及灵活性。

Address conversion device, artificial intelligence chip and electronic equipment

【技术实现步骤摘要】
地址转换装置、人工智能芯片及电子设备
本公开涉及计算机
，特别是涉及一种地址转换装置、人工智能芯片及电子设备。
技术介绍
随着计算机技术的发展，为了加快数据的读取，相关技术采用系统内存管理单元(SMMU，SystemMemoryManagementUnit)完成IO设备虚拟地址到物理地址的转换功能。然而，相关技术的SMMU在完成虚拟地址到物理地址的转换时延迟大、效率低，无法适用于大数据量、多核心并行访问的情况。
技术实现思路
基于此，有必要针对上述技术问题，根据本公开的一个方面，提供一种地址转换装置，所述装置通过总线接收至少一个数据读取或写入请求，所述数据读取或写入请求中包括虚拟地址，所述装置包括：翻译缓存模块，包括：数据分配单元、多个内容寻址单元、缓存单元；所述数据分配单元，用于确定每一个数据读取或写入请求对应的内容寻址单元，并将所述每一个数据读取或写入请求传输到所述对应的内容寻址单元；所述内容寻址单元，用于在本身存储有所述虚拟地址的情况下，通过所述缓存单元确定与所述虚拟地址对应的物理地址。根据本公开的另一方面，提出了一种人工智能芯片，所述芯片包括所述的地址转换装置。根据本公开的另一方面，提出了一种电子设备，所述电子设备包括所述的人工智能芯片。根据本公开的另一方面，提出了一种板卡，所述板卡包括：存储器件、接口装置和控制器件以及所述的人工智能芯片；其中，所述人工智能芯片与所述存储器件、所述控制器件以及所述接口装置分别连接；所述存储器件，用于存储数据；所述接口装置，用于实现所述人工智能芯片与外部设备之间的数据传输；所述控制器件，用于对所述人工智能芯片的状态进行监控。本公开各个方面可以将多个数据读取或写入请求通过数据分配单元分配给对应的内容寻址单元，从而实现对各个数据读取或写入请求的独立处理，每个内容寻址单元根据数据读取或写入请求适应性地在缓存单元中确定对应的物理地址。本公开所述的地址转换装置，可以适用于多核心、大数据量的场景，并提高数据读取的效率，增加适应性及灵活性。通过权要中的技术特征进行推导，能够达到对应
技术介绍
中的技术问题的有益效果。根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。附图说明包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面，并且用于解释本公开的原理。图1示出了根据本公开一实施方式的地址转换装置的框图。图2示出了根据本公开一实施方式的地址转换装置的框图。图3示出根据本公开一实施方式的板卡的结构框图具体实施方式下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。应当理解，本公开的权利要求、说明书及附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象，而不是用于描述特定顺序。本公开的说明书和权利要求书中使用的术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。还应当理解，在此本公开说明书中所使用的术语仅仅是出于描述特定实施例的目的，而并不意在限定本公开。如在本公开说明书和权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。还应当进一步理解，在本公开说明书和权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。如在本说明书和权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。相关技术中的SMMU在应用到人工智能(AI)芯片中时，由于AI芯片具有多核心、大数据量的特性，因此相关技术的SMMU在进行虚拟地址到物理地址的转换时，延迟大、效率低，并且不能针对多数据流的访问特性制定TLB(TranslationLookasideBuffer)的实现策略以加速TLB查找效率。有鉴于此，本公开提出一种新的技术方案，以克服相关技术存在的缺陷。请参阅图1，图1示出了根据本公开一实施方式的地址转换装置的框图。如图1所示，所述装置通过输入总线接收至少一个数据读取或写入请求，所述数据读取或写入请求中包括虚拟地址，所述装置包括：翻译缓存模块1，包括：数据分配单元10、多个内容寻址单元(ContentAddressableUnit，CAU)20、缓存单元30；所述数据分配单元10，用于确定每一个数据读取或写入请求对应的内容寻址单元20，并将所述每一个数据读取或写入请求传输到所述对应的内容寻址单元20；所述内容寻址单元20，用于在本身存储有所述虚拟地址的情况下，通过所述缓存单元30确定与所述虚拟地址对应的物理地址。通过以上装置，本公开可以将多个数据读取或写入请求通过数据分配单元分配给对应的内容寻址单元，从而实现对各个数据读取或写入请求的独立处理，每个内容寻址单元可以根据数据读取或写入请求适应性地通过缓存单元确定对应的物理地址。本公开所述的地址转换装置，可以适用于多核心、大数据量的场景，并提高数据读取的效率，增加适应性及灵活性。在一种可能的实施方式中，输入总线可以连接到一个IO设备，IO设备可以包括多个直接内存存取单元(DMA,DirectMemoryAccess)，每个DMA可以发出数据读取或写入请求，并通过输入总线传输到地址转换装置。本公开对每一个IO设备可以配置单独的地址转换装置，在具有多个IO设备的芯片(例如人工智能芯片)中，每个IO设备的IO接口连接到对应的地址转换装置，可以实现对该IO设备发出的数据读取或写入请求的快速响应，提高地址转换的效率，从而提高数据读取或写入的速度。对具有多个IO设备的芯片来说，根据本公开可能的实施方式，对每个IO设备设置对应的地址转换装置，可以提高芯片的地址转换效率，从而提高芯片的工作效率。本公开对数据读取或写入请求包括的具体信息不做限定，每个DMA发出的数据读取或写入请求根据要读取或写入数据的要求不同，可以包括不同的虚拟地址、不同的数据量大小等。在一种可能的实施方式中，输入总线例如可以为AXI、ACE等，对于输入总线的具体类型，本公开不做限定。在一种可能的实施方式中，可以将输入总线及输出总线的类型设置为相同，例如，当输入总线为AXI时，可以设置输出总线也为AXI。这样，可以使得地址转换装本文档来自技高网...

【技术保护点】
1.一种地址转换装置，其特征在于，所述装置通过总线接收至少一个数据读取或写入请求，所述数据读取或写入请求中包括虚拟地址，所述装置包括：/n翻译缓存模块，包括：数据分配单元、多个内容寻址单元、缓存单元；/n所述数据分配单元，用于确定每一个数据读取或写入请求对应的内容寻址单元，并将所述每一个数据读取或写入请求传输到所述对应的内容寻址单元；/n所述内容寻址单元，用于在本身存储有所述虚拟地址的情况下，通过所述缓存单元确定与所述虚拟地址对应的物理地址。/n

【技术特征摘要】
1.一种地址转换装置，其特征在于，所述装置通过总线接收至少一个数据读取或写入请求，所述数据读取或写入请求中包括虚拟地址，所述装置包括：
翻译缓存模块，包括：数据分配单元、多个内容寻址单元、缓存单元；
所述数据分配单元，用于确定每一个数据读取或写入请求对应的内容寻址单元，并将所述每一个数据读取或写入请求传输到所述对应的内容寻址单元；
所述内容寻址单元，用于在本身存储有所述虚拟地址的情况下，通过所述缓存单元确定与所述虚拟地址对应的物理地址。


2.根据权利要求1所述的装置，其特征在于，所述数据读取或写入请求中还包括数据标识，所述确定每一个数据读取或写入请求对应的内容寻址单元，包括：
根据所述数据读取或写入请求中的数据标识及预设对应关系确定所述对应的内容寻址单元，
其中，所述预设对应关系包括数据标识与内容寻址单元的对应关系。


3.根据权利要求1或2所述的装置，其特征在于，所述数据分配单元包括数据分配器。


4.根据权利要求1所述的装置，其特征在于，每个内容寻址单元配置有不同的页面替换策略及预取策略，所述确定每一个数据读取或写入请求对应的内容寻址单元，包括：
根据所述虚拟地址确定匹配的页面替换策略及预取策略；
根据匹配的页面替换策略及预取策略确定所述对应的内容寻址单元。


5.根据权利要求1-4任一项所述的装置，其特征在于，所述翻译缓存模块还包括：
第一数据选择单元，电连接于所述多个内容寻址单元，用于按照时间顺序或内容寻址单元的编号大小顺序或预设优先级顺序依次输出所述多个内容寻址单元的数据。


6.根据权利要求1-4任一项所述的装置，其特征在于，所述内容寻址单元还用于：
在本身没有存储所述虚拟地址的情况下，利用配置的页面替换策略进行页面替换，以缓存所述虚拟地址在所述内容寻址单元；

【专利技术属性】
技术研发人员：不公告发明人，
申请(专利权)人：北京中科寒武纪科技有限公司，
类型：发明
国别省市：北京;11