System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 指令装置、集成电路装置及板卡制造方法及图纸_技高网

指令装置、集成电路装置及板卡制造方法及图纸

技术编号:40008159 阅读:7 留言:0更新日期:2024-01-16 14:51
本发明专利技术涉及一种板卡,所述板卡包括:存储器件、接口装置和控制器件以及人工智能芯片;其中,所述人工智能芯片与所述存储器件、所述控制器件以及所述接口装置分别连接;所述存储器件,用于存储数据;所述接口装置,用于实现所述人工智能芯片与外部设备之间的数据传输;所述控制器件,用于对所述人工智能芯片的状态进行监控。所述板卡可以用于执行人工智能运算。

【技术实现步骤摘要】

本专利技术涉及芯片,尤其涉及一种指令装置、集成电路装置及板卡


技术介绍

1、随着人工智能技术的发展,神经网络模型的实现依赖于各层级的指令。指令可以是指令集或是指令集的一部分,即抽象汇编语句、中间表示(ir)语句或与特定处理单元的特定指令集架构(isa)相关联的汇编语言指令。例如,该指令可以是在安装时转换为目标硬件指令集的指令,即指令可以是目标硬件指令集的一部分,该目标硬件指令集无需翻译的情况下配置处理器的本机硬件。该指令可用于配置不同类型的处理器,如并行处理器或串行处理器。另外,指令可以是抽象汇编语句或其他伪汇编语言。各等级的指令通过被解析并分解为下一层级的指令,直至在人工智能处理器内部被分解为微指令后,由处理器执行并完成指定的操作。

2、在指令的设计中,清晰明确的指令术语可以使得指令的作用和含义更加明确,指令系统的整体设计也要做全面覆盖设计需求,全面完备、具有一定的可扩展性和灵活性,并应考虑其执行的时间和空间效率,具有可检测性等。因此,设计灵活、表达简练且具有更好的兼容性、可修改余地大的指令的设计,一直是人工智能
亟待解决的问题。


技术实现思路

1、为了至少部分地解决
技术介绍
中提到的技术问题,本专利技术的方案提供了一种指数装置、集成电路装置及板卡。

2、在一个方面中,本专利技术提供一种装置,包括:指令解析电路,用于接收并解析指令,所述指令包括第一位域和第二位域,所述第一位域给出所述指令的操作码,所述第二位域给出数据包的存储地址,所述数据包包括操作数的数据信息和与所述数据信息对应的至少一个操作数;指令执行电路,用于根据所述数据包中的数据信息和操作数执行所述操作码指定的操作;

3、存储电路,用于存储所述数据包和所述指令的执行结果。

4、在一个方面中,本专利技术提供的装置,所述数据包还包括所述操作码被执行时所使用的操作信息,所述指令执行电路还用于根据所述数据包中的数据信息、操作信息和所述操作数执行所述操作码指示的操作。

5、在一个方面中,本专利技术提供的装置,至少一个所述操作信息和至少一个所述数据信息组成模式信息,所述数据包包括至少一个模式信息和与所述模式信息对应的至少一个操作数。

6、在一个方面中,本专利技术提供的装置,所述数据信息包括数据类型、量化参数、共享指数、稀疏索引、压缩编码中的至少一个。

7、在一个方面中,本专利技术提供的装置,所述操作信息包括转数、掩码、步长、迭代次数、循环值中的至少一个。

8、在一个方面中,本专利技术提供的装置,所述共享指数为多个操作数的指数的最大值,所述数据包中存储的操作数是将原始操作数转换为以所述共享指数为指数的数据。

9、在一个方面中,本专利技术提供的装置,使用共享指数的所述多个操作数为稀疏后的数据。

10、在一个方面中,本专利技术提供的装置,所述数据包的数据信息中存储的是进行压缩或编码后的共享指数。

11、在一个方面中,本专利技术提供的装置,所述指令执行电路在所述存储电路中提取以所述共享指数为指数的数据,并将以所述共享指数为指数的数据转换为原始数据后执行操作。

12、在一个方面中,本专利技术提供的装置,所述数据类型包括最小值偏置数,所述最小值偏置数为多个操作数各自偏移最小值后得到的数据,其中所述最小值为所述多个操作数中的最小值。

13、在一个方面中,本专利技术提供的一种方法,包括:接收并解析指令,所述指令包括第一位域和第二位域,所述第一位域给出所述指令的操作码,所述第二位域给出数据包的存储地址,所述数据包包括操作数的数据信息和与所述数据信息对应的至少一个操作数;根据所述数据包中的数据信息和操作数执行所述操作码指定的操作;存储所述数据包和所述指令的执行结果。

14、在一个方面中,本专利技术提供的方法,所述数据包还包括所述操作码被执行时所使用的操作信息,所述根据所述数据包中的数据信息和操作数执行所述操作码指定的操作还包括:根据所述数据包中的数据信息、操作信息和所述操作数执行所述操作码指示的操作。

15、在一个方面中,本专利技术提供的方法,至少一个所述操作信息和至少一个所述数据信息组成模式信息,所述数据包包括至少一个模式信息和与所述模式信息对应的至少一个操作数。

16、在一个方面中,本专利技术提供的方法,所述数据信息包括数据类型、量化参数、共享指数、稀疏索引、压缩编码中的至少一个。

17、在一个方面中,本专利技术提供的方法,所述操作信息包括转数、掩码、步长、迭代次数、循环值中的至少一个。

18、在一个方面中,本专利技术提供的方法,所述共享指数为多个操作数的指数的最大值,所述数据包中存储的操作数是将原始操作数转换为以所述共享指数为指数的数据。

19、在一个方面中,本专利技术提供的方法,使用共享指数的所述多个操作数为稀疏后的数据。

20、在一个方面中,本专利技术提供的方法,所述数据包的数据信息中存储的是进行压缩或编码后的共享指数。

21、在一个方面中,本专利技术提供的方法,所述根据所述数据包中的数据信息和操作数执行所述操作码指定的操作,包括将以所述共享指数为指数的数据转换为原始操作数后执行操作。

22、在一个方面中,本专利技术提供的方法,所述数据类型包括最小值偏置数,所述最小值偏置数为多个操作数各自偏移最小值后得到的数据,其中所述最小值为所述多个操作数中的最小值。

23、在一个方面中,本专利技术提供的一种集成电路装置,包括上述任一项所述的装置。

24、在一个方面中,本专利技术提供的一种板卡,包括上述的集成电路装置。

25、在一个方面中,本专利技术提供的一种计算机程序产品,所述计算机程序被处理器执行时实现上述任一项所述方法的步骤。

26、在一个方面中,本专利技术提供的一种计算机装置,包括存储器、处理器及存储在存储器上的计算机程序,所述处理器执行所述计算机程序以实现上述任一项所述方法的步骤。

27、本专利技术实施例提供的指令装置、方法、集成电路装置及板卡,操作数的数据信息以及指令的操作信息不在指令中单独占据位域,指令的格式非常简洁高效,便于指令的向上向下兼容以及版本更新或兼容。当操作数的数据信息发生变化时,也不需要重新生成指令,只需要在数据包中将数据信息进行更改即可,提高了指令的适用范围,提高了指令的执行效率。除了数据信息,操作信息也放入数据包中,使得指令的形式更加简洁高效。操作数的数据信息无论是否有变化,或操作信息无论是否有变化,都无需重新生成相应的指令,提高了指令的兼容性和执行效率。

本文档来自技高网...

【技术保护点】

1.一种装置,包括:

2.根据权利要求1所述的装置,其中,所述数据包还包括所述操作码被执行时所使用的操作信息,所述指令执行电路还用于根据所述数据包中的数据信息、操作信息和所述操作数执行所述操作码指示的操作。

3.根据权利要求2所述的装置,其中,至少一个所述操作信息和至少一个所述数据信息组成模式信息,所述数据包包括至少一个模式信息和与所述模式信息对应的至少一个操作数。

4.根据权利要求1所述的装置,其中,所述数据信息包括数据类型、量化参数、共享指数、稀疏索引、压缩编码中的至少一个。

5.根据权利要求1所述的装置,其中,所述操作信息包括转数、掩码、步长、迭代次数、循环值中的至少一个。

6.根据权利要求4所述的装置,其中,所述共享指数为多个操作数的指数的最大值,所述数据包中存储的操作数是将原始操作数转换为以所述共享指数为指数的数据。

7.根据权利要求6所述的装置,其中,使用共享指数的所述多个操作数为稀疏后的数据。

8.根据权利要求6所述的装置,其中,所述数据包的数据信息中存储的是进行压缩或编码后的共享指数。

9.根据权利要求6所述的装置,其中,所述指令执行电路在所述存储电路中提取以所述共享指数为指数的数据,并将以所述共享指数为指数的数据转换为原始数据后执行操作。

10.根据权利要求4所述的装置,其中,所述数据类型包括最小值偏置数,所述最小值偏置数为多个操作数各自偏移最小值后得到的数据,其中所述最小值为所述多个操作数中的最小值。

11.一种方法,包括:

12.根据权利要求11所述的方法,其中,所述数据包还包括所述操作码被执行时所使用的操作信息,所述根据所述数据包中的数据信息和操作数执行所述操作码指定的操作还包括:

13.根据权利要求12所述的方法,其中,至少一个所述操作信息和至少一个所述数据信息组成模式信息,所述数据包包括至少一个模式信息和与所述模式信息对应的至少一个操作数。

14.根据权利要求11所述的方法,其中,所述数据信息包括数据类型、量化参数、共享指数、稀疏索引、压缩编码中的至少一个。

15.根据权利要求11所述的方法,其中,所述操作信息包括转数、掩码、步长、迭代次数、循环值中的至少一个。

16.根据权利要求14所述的方法,其中,所述共享指数为多个操作数的指数的最大值,所述数据包中存储的操作数是将原始操作数转换为以所述共享指数为指数的数据。

17.根据权利要求16所述的方法,其中,使用共享指数的所述多个操作数为稀疏后的数据。

18.根据权利要求16所述的方法,其中,所述数据包的数据信息中存储的是进行压缩或编码后的共享指数。

19.根据权利要求16所述的方法,其中,所述根据所述数据包中的数据信息和操作数执行所述操作码指定的操作,包括将以所述共享指数为指数的数据转换为原始操作数后执行操作。

20.根据权利要求14所述的方法,其中,所述数据类型包括最小值偏置数,所述最小值偏置数为多个操作数各自偏移最小值后得到的数据,其中所述最小值为所述多个操作数中的最小值。

21.一种集成电路装置,包括根据权利要求1至10任一项所述的装置。

22.一种板卡,包括根据权利要求21所述的集成电路装置。

23.一种计算机程序产品,所述计算机程序被处理器执行时实现权利要求11至20任一项所述方法的步骤。

24.一种计算机装置,包括存储器、处理器及存储在存储器上的计算机程序,所述处理器执行所述计算机程序以实现权利要求11至20任一项所述方法的步骤。

...

【技术特征摘要】

1.一种装置,包括:

2.根据权利要求1所述的装置,其中,所述数据包还包括所述操作码被执行时所使用的操作信息,所述指令执行电路还用于根据所述数据包中的数据信息、操作信息和所述操作数执行所述操作码指示的操作。

3.根据权利要求2所述的装置,其中,至少一个所述操作信息和至少一个所述数据信息组成模式信息,所述数据包包括至少一个模式信息和与所述模式信息对应的至少一个操作数。

4.根据权利要求1所述的装置,其中,所述数据信息包括数据类型、量化参数、共享指数、稀疏索引、压缩编码中的至少一个。

5.根据权利要求1所述的装置,其中,所述操作信息包括转数、掩码、步长、迭代次数、循环值中的至少一个。

6.根据权利要求4所述的装置,其中,所述共享指数为多个操作数的指数的最大值,所述数据包中存储的操作数是将原始操作数转换为以所述共享指数为指数的数据。

7.根据权利要求6所述的装置,其中,使用共享指数的所述多个操作数为稀疏后的数据。

8.根据权利要求6所述的装置,其中,所述数据包的数据信息中存储的是进行压缩或编码后的共享指数。

9.根据权利要求6所述的装置,其中,所述指令执行电路在所述存储电路中提取以所述共享指数为指数的数据,并将以所述共享指数为指数的数据转换为原始数据后执行操作。

10.根据权利要求4所述的装置,其中,所述数据类型包括最小值偏置数,所述最小值偏置数为多个操作数各自偏移最小值后得到的数据,其中所述最小值为所述多个操作数中的最小值。

11.一种方法,包括:

12.根据权利要求11所述的方法,其中,所述数据包还包括所述操作码被执行时所使用的操作信息,所述根据所述数据包中的数据信息和操作数执行所述操作码指定的操作还包括:

【专利技术属性】
技术研发人员:请求不公布姓名
申请(专利权)人:上海寒武纪信息科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1