读取寄存器中数据的方法、装置、计算机设备及存储介质制造方法及图纸

技术编号:43314219 阅读:27 留言:0更新日期:2024-11-15 20:16
本申请公开一种读取寄存器中数据的方法、装置、计算机设备及存储介质,属于人工智能技术领域,该方法中,获取目标TLR在人工智能芯片上TLR阵列中的遍历坐标,其中,TLR阵列用于存储一个数据块,遍历坐标是根据存储数据块时配置的单个TLR中多个单位数据的数据排列尺寸确定的,根据遍历坐标、单个TLR对应的数据排列尺寸,以及数据块中单个子块的TLR排列描述信息,确定目标TLR的索引,进而根据索引从TLR阵列中读取目标TLR中的数据,从而提供了一种根据数据块所对应TLR阵列的排布信息读取TLR中数据的通用技术方案。

【技术实现步骤摘要】

本申请涉及人工智能,尤其涉及一种读取寄存器中数据的方法、装置、计算机设备及存储介质


技术介绍

1、实际应用中,当将数据块如张量(tensor)加载到人工智能芯片的线程本地寄存器(thread local register,tlr)阵列中时,可设置tlr阵列的排布信息。

2、由于同一场景下,tlr阵列的排布信息已经确定,tlr阵列中tlr 的索引也随之固定,所以可直接通过tlr的索引读取tlr中的数据。而不同场景下,tlr阵列的排布信息是不同的,这导致tlr阵列中tlr 的索引也无法再固定,而是随排布信息的变化而变化,这种情况下,如何根据数据块所对应tlr阵列的排布信息读取tlr中的数据成为了亟待解决的技术问题。


技术实现思路

1、本申请实施例提供一种读取寄存器中数据的方法、装置、计算机设备及存储介质,用以提供一种根据数据块所对应 tlr阵列的排布信息读取tlr中数据的方案。

2、第一方面,本申请实施例提供一种读取寄存器中数据的方法,包括:

3、获取目标线程本地寄存器tlr本文档来自技高网...

【技术保护点】

1.一种读取寄存器中数据的方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,所述TLR排列描述信息包括TLR排列尺寸,根据所述遍历坐标、单个TLR对应的数据排列尺寸,以及存储所述数据块时配置的所述数据块中单个子块的TLR排列描述信息,确定所述目标TLR的索引,包括:

3.如权利要求2所述的方法,其特征在于,所述TLR排列描述信息还包括TLR索引顺序,根据所述寄存器坐标、所述子块坐标和所述TLR排列描述信息,确定所述目标TLR的索引,包括:

4.如权利要求3所述的方法,其特征在于,根据所述寄存器坐标、所述子块坐标和所述TLR排列描述信息,...

【技术特征摘要】

1.一种读取寄存器中数据的方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,所述tlr排列描述信息包括tlr排列尺寸,根据所述遍历坐标、单个tlr对应的数据排列尺寸,以及存储所述数据块时配置的所述数据块中单个子块的tlr排列描述信息,确定所述目标tlr的索引,包括:

3.如权利要求2所述的方法,其特征在于,所述tlr排列描述信息还包括tlr索引顺序,根据所述寄存器坐标、所述子块坐标和所述tlr排列描述信息,确定所述目标tlr的索引,包括:

4.如权利要求3所述的方法,其特征在于,根据所述寄存器坐标、所述子块坐标和所述tlr排列描述信息,确定所述目标tlr在所述目标子块内的索引偏移量,包括:

5.如权利要求4所述的方法,其特征在于,根据所述tlr排列描述信息,以及所述目标tlr在所述目标子块内的高度偏移量和宽度...

【专利技术属性】
技术研发人员:请求不公布姓名请求不公布姓名请求不公布姓名请求不公布姓名请求不公布姓名
申请(专利权)人:北京壁仞科技开发有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1