当前位置: 首页 > 专利查询>王凯涛专利>正文

一种多线程人工智能资源分配方法及装置制造方法及图纸

技术编号:30330495 阅读:25 留言:0更新日期:2021-10-10 00:34
本发明专利技术属于人工智能技术领域,具体涉及一种多线程人工智能资源分配方法及装置。所述方法执行以下步骤:构建人工智能计算矩阵,所述人工智能计算矩阵中包括多个人工智能计算单元,所有人工智能计算单元以矩阵形式排列,并对每个人工智能计算单元进行编号。本发明专利技术通过将多个人工智能计算单元以矩阵行驶排列构建人工智能计算矩阵,以实现人工智能的并行运算,在运算过程中,将待处理目标分割成多个子目标,从而调用每个人工智能计算单元进行计算,提升处理效率,同时,使用资源分配权值来利用空置资源,以提升资源利用率,相较于传统技术,本发明专利技术在的处理速度有显著提升。本发明专利技术在的处理速度有显著提升。本发明专利技术在的处理速度有显著提升。

【技术实现步骤摘要】
一种多线程人工智能资源分配方法及装置


[0001]本专利技术属于人工智能
,具体涉及一种多线程人工智能资源分配方法及装置。

技术介绍

[0002]人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。
[0003]人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞生以来,理论和技术日益成熟,应用领域也不断扩大,可以设想,未来人工智能带来的科技产品,将会是人类智慧的“容器”。人工智能可以对人的意识、思维的信息过程的模拟。人工智能不是人的智能,但能像人那样思考、也可能超过人的智能。
[0004]人工智能目前被大量引用于大型计算领域,包括:大数据和并行处理等领域。但人工智能因为对系统资源占用高,尤其在大型计算领域,因为需要处理的目标更大,往往会需要巨量资源来支撑。若能够对人工智能进行优化,保证人工智能能够以并行的方式处理,且能够将并行处理时,系统资源最大化利用,将答复提升人工智能的运算效率。
[0005]专利号为PCT/CN2018/072663的专利提供了一种人工智能并行处理方法,应用于处理模块,所述方法包括:令数据传输模块按照预设数据尺寸从外部存储模块中取出多个通道数据;令所述数据传输模块将取出的通道数据传输至卷积模块,供与多个卷积核矩阵进行并行卷积运算。
[0006]该专利技术通过实现并行卷积运算,无需等待一个卷积核矩阵的卷积运算结束之后再进行下一个卷积核矩阵的卷积运算,且通过卷积运算电路等硬件设备实现并行卷积运算,特别是面对大量的数据计算,相比于软件计算更能提升了卷积运算效率,但对系统资源的利用,并没有相对较好的办法,导致资源利用率较低。

技术实现思路

[0007]有鉴于此,本专利技术的主要目的在于提供一种多线程人工智能资源分配方法及装置,本专利技术通过将多个人工智能计算单元以矩阵行驶排列构建人工智能计算矩阵,以实现人工智能的并行运算,在运算过程中,将待处理目标分割成多个子目标,从而调用每个人工智能计算单元进行计算,提升处理效率,同时,使用资源分配权值来利用空置资源,以提升资源利用率,相较于传统技术,本专利技术在的处理速度有显著提升。
[0008]为达到上述目的,本专利技术的技术方案是这样实现的:一种多线程人工智能资源分配方法,所述方法执行以下步骤:步骤1:构建人工智能计算矩阵,所述人工智能计算矩阵中包括多个人工智能计算单元,所有人工智能计算单元以矩阵形式排列,并对每个人工智能计算单元进行编号;
步骤2:对完整待处理目标进行分块,得到多个分割后待处理目标,将每个分割后待处理目标进行编号;并为每个分割后待处理目标分配处理优先级;步骤3:将编号相同的分割后待处理目标和人工智能计算单元进行关联,构成待分割后待处理目标和人工智能计算单元一一对应的映射关系;按照处理优先级,以固定的时延依次启动人工智能计算单元处理其对应的分割后待处理目标;同一优先级的分割后待处理目标所对应的人工智能计算单元同时启动;步骤4:实时统计人工智能计算单元运行时的运行数据;基于得到的运行数据和同一优先级的其他人工智能计算单元的运行数据,确定当前正在处理的分割后待处理目标的资源分配权值;步骤5:将空置资源提取出来,重新分配给人工智能计算矩阵中尚未启动的人工智能计算单元,并进行启动,按照资源分配权值从高到底,依次将新启动的人工智能计算单元,分配给分割后待处理目标;步骤6:循环执行步骤4至步骤5;直到所有的分割后待处理目标处理完毕。
[0009]进一步的,所述运行数据包括:占用资源数据和空置资源数据。
[0010]进一步的,所述步骤2中对完整待处理目标进行分块,得到多个分割后待处理目标的方法包括:获取人工智能计算单元的本征参数;所述本征参数包括:处理速度、资源数量和负载上限;根据所述人工智能计算单元的处理速度、资源数量和负载上限将所述完整待处理目标分割为多个分割后待处理目标,所述分割后待处理目标的数目与所述人工智能计算单元的数目相同;建立所述人工智能计算单元与所述分割后待处理目标的一对一映射关系;根据所述映射关系将所述分割后待处理目标分配给相应的人工智能计算单元。
[0011]进一步的,所述人工智能计算单元的处理速度根据如下方式获得:获取各人工智能计算单元在历次任务中的处理速度;将每个处理历次任务处理过程中处理速度的平均值作为各人工智能计算单元的处理速度。
[0012]进一步的,所述根据所述人工智能计算单元的处理速度将所述完整待处理目标分割为多个分割后待处理目标,包括:根据计算每个人工智能计算单元的处理速度与所有人工智能计算单元的总处理速度的比值得到多个第一分割阈值;根据所述多个第一分割阈值将所述完整待处理目标分割为多个分割后待处理目标,所述分割后待处理目标的任务复杂度与所述完整待处理目标的任务复杂度的第二分割阈值与所述第一分割阈值一一对应。
[0013]进一步的,所述建立所述人工智能计算单元与所述分割后待处理目标的一对一映射关系,包括:建立所述第一分割阈值对应的人工智能计算单元和与所述第一分割阈值相同的第二分割阈值对应的分割后待处理目标的映射关系。
[0014]进一步的,所述步骤4中基于得到的运行数据和同一优先级的其他人工智能计算单元的运行数据,确定当前正在处理的分割后待处理目标的资源分配权值的方法包括:使用如下公式计算正在处理的分割后代处理目标的资源分配权值:;其中,为当前正在处理的分割后待处理目标的资源分配权值;为占用资源数据,为空置资源数据;、、和均为调整系数,取值范围为:1~5;取值范围为:2~6;取值范围
为:3~7;取值范围为:4~8;且需要满足:;为所有的人工智能计算单元的总的资源数据;为所有的人工智能计算单元的空置资源数据。
[0015]进一步的,所述调整系数、、和均为整数;同时,当所有的人工智能计算单元,均处于满载状态时,须满足、、和相等。
[0016]进一步的,当每个人工智能计算单元完成对分割后待处理目标的后,将得到处理结果;所述处理结果将按照处理优先级从高到低进行传递,从高处理优先级的分割后待处理目标对应的人工智能计算单元传递至低处理优先级的分割后处理目标对应的人工智能计算单元;同时,同一处理优先级的分割后处理目标之间的处理结果也将在对应的同一处理优先级的分割后处理目标对应的人工智能计算单元之间进行传递。
[0017]多线程人工智能资源分配装置。
[0018]本专利技术的多线程人工智能资源分配方法及装置,具有如下有益效果:1.计算效率高:本专利技术通过将多个人工智能计算单元组合成一个人工智能计算矩阵,然后将待处理的目标或任务分割成多个子目标或任务,再通过建立映射关系,使得每个人工智能计算单元和每个子目标或任务建立联系,以此来实现大规模并行的人工智能处理计算,提升了计算的效率,相较于传统的顺本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种多线程人工智能资源分配方法,其特征在于,所述方法执行以下步骤:步骤1:构建人工智能计算矩阵,所述人工智能计算矩阵中包括多个人工智能计算单元,所有人工智能计算单元以矩阵形式排列,并对每个人工智能计算单元进行编号;步骤2:对完整待处理目标进行分块,得到多个分割后待处理目标,将每个分割后待处理目标进行编号;并为每个分割后待处理目标分配处理优先级;步骤3:将编号相同的分割后待处理目标和人工智能计算单元进行关联,构成待分割后待处理目标和人工智能计算单元一一对应的映射关系;按照处理优先级,以固定的时延依次启动人工智能计算单元处理其对应的分割后待处理目标;同一优先级的分割后待处理目标所对应的人工智能计算单元同时启动;步骤4:实时统计人工智能计算单元运行时的运行数据;基于得到的运行数据和同一优先级的其他人工智能计算单元的运行数据,确定当前正在处理的分割后待处理目标的资源分配权值;步骤5:将空置资源提取出来,重新分配给人工智能计算矩阵中尚未启动的人工智能计算单元,并进行启动,按照资源分配权值从高到底,依次将新启动的人工智能计算单元,分配给分割后待处理目标;步骤6:循环执行步骤4至步骤5;直到所有的分割后待处理目标处理完毕。2.如权利要求1所述的方法,其特征在于,所述运行数据包括:占用资源数据和空置资源数据。3.如权利要求2所述的方法,其特征在于,所述步骤2中对完整待处理目标进行分块,得到多个分割后待处理目标的方法包括:获取人工智能计算单元的本征参数;所述本征参数包括:处理速度、资源数量和负载上限;根据所述人工智能计算单元的处理速度、资源数量和负载上限将所述完整待处理目标分割为多个分割后待处理目标,所述分割后待处理目标的数目与所述人工智能计算单元的数目相同;建立所述人工智能计算单元与所述分割后待处理目标的一对一映射关系;根据所述映射关系将所述分割后待处理目标分配给相应的人工智能计算单元。4.如权利要求3所述的方法,其特征在于,所述人工智能计算单元的处理速度根据如下方式获得:获取各人工智能计算单元在历次任务中的处理速度;将每个处理历次任务处理过程中处理速度的平均值作为各人工智能计...

【专利技术属性】
技术研发人员:王凯涛
申请(专利权)人:王凯涛
类型:发明
国别省市:

相关技术
    暂无相关专利
网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1