【技术实现步骤摘要】
高速缓存的访问方法以及相关图神经网络系统
[0001]本申请涉及一种高速缓存，尤其涉及一种高速缓存的访问方法以及相关图神经网络系统。
技术介绍
[0002]在对图神经网络(GNN)进行训练时，对图神经网络的访问过程是非常离散、随机的。因此，在图神经网络系统中，使用通用的高速缓存访问方法无法得到很高的效率，造成整体训练及推理时间大幅地增加。因此，如何规划图神经网络系统中的高速缓存，以及优化其访问方法，已成为本领域亟需解决的问题之一。
技术实现思路
[0003]本申请的目的之一在于公开一种高速缓存的访问方法以及相关图神经网络系统，来解决上述问题。
[0004]本申请的一实施例公开了一种高速缓存的访问方法，所述高速缓存用于减少图神经网络处理器访问内存的平均时间，所述图神经网络处理器用于针对图神经网络进行运算，所述图神经网络以压缩稀疏行格式存储于所述内存中，所述方法包括：接收所述图神经网络中的一节点对应的地址及所述地址的类型；当所述类型为第一类型以及第二类型的其中之一，依据所述地址比对度查找表中的标记栏位来进...
【技术保护点】
【技术特征摘要】
1.一种高速缓存的访问方法，所述高速缓存用于减少图神经网络处理器访问内存的平均时间，所述图神经网络处理器用于针对图神经网络进行运算，其特征在于，所述图神经网络以压缩稀疏行格式存储于所述内存中，所述方法包括：接收所述图神经网络中的一节点对应的地址及所述地址的类型；当所述类型为第一类型以及第二类型的其中之一，依据所述地址比对度查找表中的标记栏位来进行查找，以至少得到所述节点的度，其中所述度为所述节点的边的数目；判断所述度是否大于预设值并得到判断结果；以及依据所述判断结果，决定是否在所述高速缓存中对应所述类型的区域中进行查找，其中所述高速缓存至少包含第一区域以及第二区域，其中所述第一区域对应所述第一类型，所述第二区域对应所述第二类型，所述第一区域用来存放和边相关的信息，所述第二区域用来存放和属性相关的信息；其中所述第一类型表示所欲取得的是所述节点的边相关的信息，所述第二类型表示所欲取得的是所述节点的属性相关的信息。2.如权利要求1所述的方法，其特征在于，所述类型为所述第一类型，且依据所述地址比对所述度查找表中的所述标记栏位来进行查找，以得到所述节点的度的步骤包括：当所述度查找表命中时，从所述度查找表中得到所述节点的度以及偏移量，其中所述偏移量相关于所述节点的边在所述内存中的起始位置。3.如权利要求2所述的方法，其特征在于，依据所述判断结果，决定是否在所述高速缓存中对应所述类型的区域中进行查找的步骤包括：当所述判断结果指出对应所述地址的度大于所述预设值时，在所述高速缓存中，依据所述偏移量比对所述第一区域中的标记栏位来进行查找。4.如权利要求3所述的方法，其特征在于，还包括：当所述第一区域命中时，从所述第一区域中得到对应所述偏移量的第一指标，所述第一指标用来指向所述高速缓存的数据阵列中，存放所述节点的边的信息的位置；以及依据所述第一指标，从所述数据阵列读取出所述节点的边的信息。5.如权利要求3所述的方法，其特征在于，还包括：当所述第一区域缺失时，访问所述内存以得到所述节点的边的信息。6.如权利要求2所述的方法，其特征在于，其中所述高速缓存还包括第三区域，其中所述第三区域用来存放和聚结的边相关的信息，以及依据所述判断结果，决定是否在所述高速缓存中对应所述类型的区域中进行查找的步骤包括：当所述判断结果指出对应所述地址的度不大于所述预设值时，在所述高速缓存中，依据所述偏移量比对所述第三区域中的标记栏位来进行查找；以及所述方法还包括：当所述第三区域命中时，从所述第三区域中得到对应所述偏移量的第三指标，所述第三指标用来指向所述高速缓存的数据阵列中，存放所述节点的边的信息的位置；以及依据所述第三指标，从所述数据阵列读取出所述节点的边的信息。7.如权利要求6所述的方法，其特征在于，还包括：当所述第三区域缺失时，访问所述内存以得到所述节点的边的信息。8.如权利要求1所述的方法，其特征在于，所述类型为所述第一类型，且所述方法还包
括：当所述度查找表缺失时，访问所述内存以得到所述节点的偏移量，其中所述偏移量相关于所述节点的边在所述内存中的起始位置。9.如权利要求1所述的方法，其特征在于，所述类型为...
【专利技术属性】
技术研发人员：张喆，李双辰，郑宏忠，
申请(专利权)人：平头哥上海半导体技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。