一种AI芯片控制方法、电子设备及AI芯片技术

技术编号:31824373 阅读:18 留言:0更新日期:2022-01-12 12:48
本申请适用于计算机技术领域,提供了一种AI芯片控制方法、电子设备及AI芯片。该方法包括:根据待计算任务的参数信息及AI芯片的架构参数信息,生成寄存器配置信息,AI芯片用于执行待计算任务;将寄存器配置信息写入AI芯片,以使AI芯片根据寄存器配置信息进行运算,能够将AI芯片运行过程简单化,从而提高运算效率,并且AI芯片根据寄存器配置信息进行运算的控制方法,能够解决AI芯片时序收敛困难的问题,从而提高工作频率;及使得AI芯片完成当前运算后能够立即切换至下一个运算,从而提高AI芯片的运行性能。的运行性能。的运行性能。

【技术实现步骤摘要】
一种AI芯片控制方法、电子设备及AI芯片


[0001]本申请属于计算机
,尤其涉及一种AI芯片控制方法、电子设备及AI芯片。

技术介绍

[0002]随着深度学习算法能力的提高,深度学习算法的应用越来越广泛,进而催生了大量AI芯片,用于对深度学习算法进行硬件加速。当前的AI芯片采用的是指令集的架构,运行方式是指令控制方式,工作流程包括取指、译码、执行、写回寄存器或存储器等操作。
[0003]而通过指令方式控制AI芯片运行,会使得AI芯片运行过程复杂,影响运算效率,及使得AI芯片时序收敛困难,工作频率受制约。

技术实现思路

[0004]本申请实施例提供了一种AI芯片控制方法、电子设备及AI芯片,可以解决AI芯片运行过程复杂,运算效率受限,AI芯片时序收敛困难,工作频率受制约的问题。
[0005]第一方面,本申请实施例提供了一种AI芯片控制方法,包括:
[0006]获取待计算任务的参数信息以及AI芯片的架构参数信息;
[0007]根据所述待计算任务的参数信息及所述AI芯片的架构参数信息,生成寄存器配置信息,所述AI芯片用于执行所述待计算任务;
[0008]将所述寄存器配置信息写入所述AI芯片,以使所述AI芯片根据所述寄存器配置信息进行运算。
[0009]进一步的,所述待计算任务的参数信息包括数据信息、算法信息及对应所述算法信息的算法类型,所述AI芯片的架构参数信息包括缓存单元信息及运算单元信息;
[0010]根据所述待计算任务的参数信息及所述AI芯片的架构参数信息,生成寄存器配置信息,包括:
[0011]根据所述数据信息及所述缓存单元信息,确定缓存任务;
[0012]根据所述算法类型及所述运算单元信息,确定所述AI芯片的运算模式及数据流路径,或,根据所述数据信息、所述算法类型及所述运算单元信息,确定所述AI芯片的运算模式及数据流路径;
[0013]根据输入信息及生成信息,生成寄存器配置信息,所述输入信息包括所述待计算任务的参数信息及所述AI芯片的架构参数信息,所述生成信息包括所述缓存任务、所述运算模式及所述数据流路径。
[0014]进一步的,所述数据信息包括数据量信息及数据类型;
[0015]根据所述数据信息及所述缓存单元信息确定缓存任务,包括:
[0016]根据所述数据量信息,计算总数据量;
[0017]根据所述总数据量及所述缓存单元信息判断是否分配缓存空间。
[0018]进一步的,所述运算单元信息包括运算并行度及运算类型;
[0019]根据所述算法类型及所述运算单元信息确定所述AI芯片的运算模式及数据流路
径,包括:
[0020]根据算法类型、所述运算并行度及所述运算类型,确定所述运算模式及所述数据流路径。
[0021]进一步的,所述运算单元信息包括运算并行度及运算类型;
[0022]根据所述数据信息、所述算法类型及所述运算单元信息,确定所述AI芯片的运算模式及数据流路径,包括:
[0023]根据判断结果、所述算法类型、所述运算并行度及所述运算类型确定所述运算模式及所述数据流路径,所述判断结果为判断是否分配缓存单元的缓存空间的结果。
[0024]进一步的,所述AI芯片包括至少一个执行模块;
[0025]根据输入信息及生成信息,生成寄存器配置信息,包括:
[0026]根据所述运算模式及所述数据流路径,确定每个所述执行模块对应的所述输入信息及所述生成信息;
[0027]将所述输入信息及所述生成信息进行运算,得到对应所述执行模块的寄存器配置信息。
[0028]第二方面,本申请实施例提供了一种AI芯片控制方法,包括:
[0029]AI芯片包括至少一个执行模块,所述方法包括:
[0030]接收来自外部设备的寄存器配置信息;
[0031]根据所述寄存器配置信息,将每个所述执行模块进行初始化;
[0032]获取待处理数据,所述待处理数据存储于外部存储设备;
[0033]初始化后的所述执行模块对所述待处理数据进行运算,得到运算结果;
[0034]向所述外部设备或所述外部存储设备传输所述运算结果。
[0035]进一步的,所述执行模块包括缓存单元及计算单元;
[0036]根据所述寄存器配置信息,将每个所述执行模块进行数据流初始化,包括:
[0037]根据所述寄存器配置信息,确定每个所述缓存单元对应的寻址方式及读取次数;
[0038]根据所述寄存器配置信息,确定每个计算单元的数据流路径。
[0039]第三方面,本申请实施例提供了一种电子设备,包括:存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面中或第二方面中任一项所述的方法。
[0040]第四方面,本申请实施例提供了一种AI芯片,包括至少一个执行模块,所述执行模块执行时实现如第二方面中任一项所述的方法。
[0041]可以理解的是,上述第二方面至第四方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
[0042]本申请实施例与现有技术相比存在的有益效果是:
[0043]本申请实施例通过根据待计算任务的参数信息及AI芯片的架构参数信息,生成寄存器配置信息,AI芯片用于执行待计算任务;将寄存器配置信息写入AI芯片,以使AI芯片根据寄存器配置信息进行运算,能够将AI芯片运行过程简单化,从而提高运算效率,并且AI芯片根据寄存器配置信息进行运算的控制方法,能够解决AI芯片时序收敛困难的问题,从而提高工作频率;及使得AI芯片完成当前运算后能够立即切换至下一个运算,从而提高AI芯片的运行性能。
附图说明
[0044]为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0045]图1是本申请一实施例提供的AI芯片控制方法的流程示意图;
[0046]图2是本申请另一实施例提供的AI芯片控制方法的流程示意图;
[0047]图3是本申请实施例提供的电子设备的结构示意图;
[0048]图4是本申请实施例提供的AI芯片的结构示意图。
具体实施方式
[0049]以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
[0050]应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种AI芯片控制方法,其特征在于,包括:获取待计算任务的参数信息以及AI芯片的架构参数信息;根据所述待计算任务的参数信息及所述AI芯片的架构参数信息,生成寄存器配置信息,所述AI芯片用于执行所述待计算任务;将所述寄存器配置信息写入所述AI芯片,以使所述AI芯片根据所述寄存器配置信息进行运算。2.如权利要求1所述的方法,其特征在于,所述待计算任务的参数信息包括数据信息、算法信息及对应所述算法信息的算法类型,所述AI芯片的架构参数信息包括缓存单元信息及运算单元信息;根据所述待计算任务的参数信息及所述AI芯片的架构参数信息,生成寄存器配置信息,包括:根据所述数据信息及所述缓存单元信息,确定缓存任务;根据所述算法类型及所述运算单元信息,确定所述AI芯片的运算模式及数据流路径,或,根据所述数据信息、所述算法类型及所述运算单元信息,确定所述AI芯片的运算模式及数据流路径;根据输入信息及生成信息,生成寄存器配置信息,所述输入信息包括所述待计算任务的参数信息及所述AI芯片的架构参数信息,所述生成信息包括所述缓存任务、所述运算模式及所述数据流路径。3.如权利要求2所述的方法,其特征在于,所述数据信息包括数据量信息及数据类型;根据所述数据信息及所述缓存单元信息确定缓存任务,包括:根据所述数据量信息,计算总数据量;根据所述总数据量及所述缓存单元信息判断是否分配缓存空间。4.如权利要求2所述的方法,其特征在于,所述运算单元信息包括运算并行度及运算类型;根据所述算法类型及所述运算单元信息确定所述AI芯片的运算模式及数据流路径,包括:根据算法类型、所述运算并行度及所述运算类型,确定所述运算模式及所述数据流路径。5.如权利要求3所述的方法,其特征在于,所述运算单元信...

【专利技术属性】
技术研发人员:焦黎蔡权雄牛昕宇
申请(专利权)人:山东产研鲲云人工智能研究院有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1