System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种电压自调整及充放电补充的人工智能芯片架构方案制造技术_技高网

一种电压自调整及充放电补充的人工智能芯片架构方案制造技术

技术编号:41011352 阅读:3 留言:0更新日期:2024-04-18 21:47
本发明专利技术公开了一种面向人工智能芯片的实现方法及电路,该方法包括:所提出的人工智能芯片由一个计算阵列作为核心,计算阵列内部包含多个计算单元,计算单元可以支持不同的工作电压以实现自身工作工作电压的灵活调整,所述计算单元可以根据任务和配置需要灵活切换自身工作电压,以实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配,如部分高算力需求任务可以执行在电压范围以获得快速相应,部分低算力需求任务可以执行在低电压范围,以更好的支持多电压操作等应用。进一步的,所提出的计算单元之间包含充放电补充模块,以实现跨电压数据的整合和拉高操作,以及计算任务的灵活电压分配和调整。

【技术实现步骤摘要】

本专利技术实施例涉及数据处理,尤其涉及一种面向人工智能芯片的实现方法及电路。


技术介绍

1、现有技术中,传统的芯片设计中,由于各个部件的电压一般是固定的,因此很难实现能效比的最大化,同时也很难灵活适应不同的应用场景。在不同电压范围内进行数据传输,需要考虑如何处理电压不匹配的问题,保证数据传输的可靠性和效率。传统的人工神经网络处理器中,面临着算力不足、功耗过大、时延较长等问题,严重影响人工智能芯片在更多场景中的普及和使用,同时人工神经网络处理器往往训练和推理相分离。因此,如何进一步提升人工智能芯片计算能力,成为智能计算芯片架构设计面临的重要挑战。

2、现有的人工智能芯片技术方案中,传统芯片设计往往采用固定电压的方式来供电,这样不同部件的工作电压就无法灵活调整,因此难以实现最佳的能效比。在传统芯片设计中,各个模块通常使用同样的电压,这会导致一些部件浪费能量,降低了整个系统的能效。同时,传统芯片设计往往无法适应不同的负载和工作环境,导致能效比低。传统的芯片设计往往只能适用于某些特定的应用场景,如不能灵活适应不同的工作电压需求和计算任务。


技术实现思路

1、本专利技术实施例提供一种面向人工智能芯片的实现方法及电路,用以实现多电压自分配及调整,并且具有更好的适应性和灵活性。

2、第一方面,一种面向人工智能芯片的实现方法及电路,其特征在于,包括:

3、电路包含一个或多个计算阵列,计算阵列内部包含多个计算单元,计算单元可以支持不同的工作电压以实现自身工作工作电压的灵活调整;

4、其中,所述计算单元可以根据任务和配置需要灵活切换自身工作电压,以实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配;

5、其中,本权利要求提出的计算单元可以根据任务和配置需要灵活切换升高电压或者降低电压,即在第一时间段内执行第一工作电压,在第二时间段内执行第二工作电压,第一工作电压和第二工作电压不同,以更好的支持电压调整等应用;

6、其中,通过上述方法,实现在当前计算设备内不同的工作电压进行且可以进行灵活的自分配自调整。

7、在一种可能的设计中,其特征在于,所述计算单元可以分别根据任务和配置需要升高电压或者降低电压。在该计算单元陈列中,部分承载高算力需求任务的计算单元可以执行在高电压范围,部分承载低算力需求任务的计算单元可以执行在电压范围。

8、所述计算任务类型包括训练任务、推理任务和训练推理同步进行任务。根据不同的任务和配置需要,不同的计算单元可以实现不同的工作电压调整,以实现自身工作频率的全局化自动调整,以及在当前计算设备内实现不同计算单元分别的升高电压或者降低电压且可以进行灵活的自分配。

9、在一种可能的设计中,其特征在于,所述计算单元之间包含充放电补充模块,实现跨电压数据的整合和拉高操作,以及计算任务的灵活电压分配和调整。在该充放电补充模块中,具体而言,该模块可以根据不同计算单元的电压差异,对传输的数据进行充电或放电操作,以达到合适的电压差异范围。在计算任务执行过程中,该模块可以实时对数据进行补充和调整,以保证整个计算过程的稳定性和准确性。

10、计算单元获取当前需要执行的任务序列,然后通过控制器对计算单元的工作电压进行切换和配置。所述计算任务序列包括第一任务、第二任务、第三任务等。根据不同的任务和配置需要,计算单元可以实现不同的时钟工作电压以实现自身工作电压的调整,以实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配。

11、在一种可能的设计中,其特征在于,所提出的计算单元内部传递信息通过目标模块电压预期值和充放电速率信息,确定指定模块的预期达到电压和充放电速率。具体来讲,当计算阵列需要提高部分计算单元的电压时,它将控制信息发送到指定计算单元,并设指定目标模块的电压预期值和充放电速率信息。进一步的,指定计算单元通过读取内部传递信息中的电压预期值和充放电速率,进行电压处理。

12、其中,通过上述方法,实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配。

13、在一种可能的设计中,其特征在于,所提出的计算单元内部采用电压应答允许机制,即计算阵列向指定计算单元发送电压调节请求,指定计算单元收到请求后再发送应答允许响应,再进行对应的电压调节,以确保电压的可自控性。进一步的,指定计算单元收到请求后也可以发送应答不允许响应,仍以原电压进行计算。

14、其中,本权利要求提出的计算单元电压应答允许机制,其特征在于根据任务和配置需要灵活决定自身是否执行阵列下发的电压控制,即如果当前计算单元仍有需要快速计算完成的计算任务,则倾向于保持高电压负载状态,反之亦然。

15、其中,通过上述方法,实现在当前计算设备内更为精准的升高电压或者降低电压且可以进行灵活的自分配。

16、在一种可能的设计中,其特征在于,所提出的计算单元内部包括中间电压计算机制。具体来讲,指定计算单元在进行电压调整时,由于充放电时间限制,本专利技术支持一种工作在中间状态仍旧进行计算任务运算,以确保计算不中断。在进行中间电压计算时,计算单元仍执行前有计算任务,以实现更加精准的电压调整和分配。

17、所述中间电压计算机制包括计算参数和或计算任务本身,第一参数为第一任务在第一电压下所需参数,第二参数为第二任务在第三电压下所需参数,所述第一参数向第二参数转换时,先执行第三参数再执行第二参数,第三参数为第三任务在第三电压下所需参数。第一任务、第二任务和第三任务属于不同的计算需求,以更好的支持多任务调度;第一电压、第二电压、第三电压不相同。

18、其中,通过上述方法,实现在当前计算设备内不同的任务的参数运算进行不同电压变换下的灵活的自分配自调整。

19、在一种可能的设计中,其特征在于,该芯片的计算流程如下:s1输入数据。输入数据可以来自各种传感器、网络或其他设备,包括图像、语音、文字、数值等多种类型的数据。

20、s2数据预处理。对输入数据进行预处理,包括图像处理、语音识别、自然语言处理等操作,以便后续的计算处理。

21、s3计算阵列的计算处理。计算单元可以根据任务和配置需要灵活切换自身工作电压,以实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配,以更好的支持多电压操作等应用。

22、s4充放电补充模块的操作。计算单元之间包含充放电补充模块,可以实现跨电压数据的整合和拉高操作,以及计算任务的灵活电压分配和调整。

23、s5输出结果。计算完成后,输出结果可以是分类、回归、聚类、推荐等多种形式,可以直接输出到显示器、存储器、网络等设备中。

24、计算单元的处理流程会根据任务的类型和计算单元的类型进行优化和调整,以保证计算效率和准确性。

25、在一种可能的设计中,其特征在于,所述计算任务包括训练任务、推理任务和训练推理同步任务的至少一项;

26、在一种可能的设计中,其特征本文档来自技高网...

【技术保护点】

1.一种面向人工智能芯片的实现方法及电路,其特征在于,包括:

2.如权利要求1所述的电路,其特征在于,所述计算单元可以分别根据任务和配置需要升高电压或者降低电压。在该计算单元陈列中,部分承载高算力需求任务的计算单元可以执行在高电压范围,部分承载低算力需求任务的计算单元可以执行在电压范围。所述计算任务类型包括训练任务、推理任务和训练推理同步进行任务。根据不同的任务和配置需要,不同的计算单元可以实现不同的工作电压调整,以实现自身工作频率的全局化自动调整,以及在当前计算设备内实现不同计算单元分别的升高电压或者降低电压且可以进行灵活的自分配。

3.如权利要求1所述的电路,其特征在于,所述计算单元之间包含充放电补充模块,实现跨电压数据的整合和拉高操作,以及计算任务的灵活电压分配和调整。在该充放电补充模块中,具体而言,该模块可以根据不同计算单元的电压差异,对传输的数据进行充电或放电操作,以达到合适的电压差异范围。在计算任务执行过程中,该模块可以实时对数据进行补充和调整,以保证整个计算过程的稳定性和准确性。计算单元获取当前需要执行的任务序列,然后通过控制器对计算单元的工作电压进行切换和配置。所述计算任务序列包括第一任务、第二任务、第三任务等。根据不同的任务和配置需要,计算单元可以实现不同的时钟工作电压以实现自身工作电压的调整,以实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配。

4.如权利要求1所述的电路,其特征在于,所提出的计算单元内部传递信息通过目标模块电压预期值和充放电速率信息,确定指定模块的预期达到电压和充放电速率。具体来讲,当计算阵列需要提高部分计算单元的电压时,它将控制信息发送到指定计算单元,并设指定目标模块的电压预期值和充放电速率信息。进一步的,指定计算单元通过读取内部传递信息中的电压预期值和充放电速率,进行电压处理。其中,通过上述方法,实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配。

5.如权利要求1所述的电路,其特征在于,所提出的计算单元内部采用电压应答允许机制,即计算阵列向指定计算单元发送电压调节请求,指定计算单元收到请求后再发送应答允许响应,再进行对应的电压调节,以确保电压的可自控性。进一步的,指定计算单元收到请求后也可以发送应答不允许响应,仍以原电压进行计算。其中,本权利要求提出的计算单元电压应答允许机制,其特征在于根据任务和配置需要灵活决定自身是否执行阵列下发的电压控制,即如果当前计算单元仍有需要快速计算完成的计算任务,则倾向于保持高电压负载状态,反之亦然。其中,通过上述方法,实现在当前计算设备内更为精准的升高电压或者降低电压且可以进行灵活的自分配。

6.如权利要求1所述的电路,其特征在于,所提出的计算单元内部包括中间电压计算机制。具体来讲,指定计算单元在进行电压调整时,由于充放电时间限制,本专利技术支持一种工作在中间状态仍旧进行计算任务运算,以确保计算不中断。在进行中间电压计算时,计算单元仍执行前有计算任务,以实现更加精准的电压调整和分配。所述中间电压计算机制包括计算参数和或计算任务本身,第一参数为第一任务在第一电压下所需参数,第二参数为第二任务在第三电压下所需参数,所述第一参数向第二参数转换时,先执行第三参数再执行第二参数,第三参数为第三任务在第三电压下所需参数。第一任务、第二任务和第三任务属于不同的计算需求,以更好的支持多任务调度;第一电压、第二电压、第三电压不相同。其中,通过上述方法,实现在当前计算设备内不同的任务的参数运算进行不同电压变换下的灵活的自分配自调整。

7.如权利要求1所述的电路,其特征在于,该芯片的计算流程如下:S1输入数据。输入数据可以来自各种传感器、网络或其他设备,包括图像、语音、文字、数值等多种类型的数据。S2数据预处理。对输入数据进行预处理,包括图像处理、语音识别、自然语言处理等操作,以便后续的计算处理。S3计算阵列的计算处理。计算单元可以根据任务和配置需要灵活切换自身工作电压,以实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配,以更好的支持多电压操作等应用。S4充放电补充模块的操作。计算单元之间包含充放电补充模块,可以实现跨电压数据的整合和拉高操作,以及计算任务的灵活电压分配和调整。S5输出结果。计算完成后,输出结果可以是分类、回归、聚类、推荐等多种形式,可以直接输出到显示器、存储器、网络等设备中。计算单元的处理流程会根据任务的类型和计算单元的类型进行优化和调整,以保证计算效率和准确性。

8.如权利要求1所述的电路,其特征在于,所述计算任务包括训练任务、推理任务和训练推理同步任务的至少一项。

9.如权利要求1所述的电路,其特征在于,所述计算任务...

【技术特征摘要】

1.一种面向人工智能芯片的实现方法及电路,其特征在于,包括:

2.如权利要求1所述的电路,其特征在于,所述计算单元可以分别根据任务和配置需要升高电压或者降低电压。在该计算单元陈列中,部分承载高算力需求任务的计算单元可以执行在高电压范围,部分承载低算力需求任务的计算单元可以执行在电压范围。所述计算任务类型包括训练任务、推理任务和训练推理同步进行任务。根据不同的任务和配置需要,不同的计算单元可以实现不同的工作电压调整,以实现自身工作频率的全局化自动调整,以及在当前计算设备内实现不同计算单元分别的升高电压或者降低电压且可以进行灵活的自分配。

3.如权利要求1所述的电路,其特征在于,所述计算单元之间包含充放电补充模块,实现跨电压数据的整合和拉高操作,以及计算任务的灵活电压分配和调整。在该充放电补充模块中,具体而言,该模块可以根据不同计算单元的电压差异,对传输的数据进行充电或放电操作,以达到合适的电压差异范围。在计算任务执行过程中,该模块可以实时对数据进行补充和调整,以保证整个计算过程的稳定性和准确性。计算单元获取当前需要执行的任务序列,然后通过控制器对计算单元的工作电压进行切换和配置。所述计算任务序列包括第一任务、第二任务、第三任务等。根据不同的任务和配置需要,计算单元可以实现不同的时钟工作电压以实现自身工作电压的调整,以实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配。

4.如权利要求1所述的电路,其特征在于,所提出的计算单元内部传递信息通过目标模块电压预期值和充放电速率信息,确定指定模块的预期达到电压和充放电速率。具体来讲,当计算阵列需要提高部分计算单元的电压时,它将控制信息发送到指定计算单元,并设指定目标模块的电压预期值和充放电速率信息。进一步的,指定计算单元通过读取内部传递信息中的电压预期值和充放电速率,进行电压处理。其中,通过上述方法,实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配。

5.如权利要求1所述的电路,其特征在于,所提出的计算单元内部采用电压应答允许机制,即计算阵列向指定计算单元发送电压调节请求,指定计算单元收到请求后再发送应答允许响应,再进行对应的电压调节,以确保电压的可自控性。进一步的,指定计算单元收到请求后也可以发送应答不允许响应,仍以原电压进行计算。其中,本权利要求提出的计算单元电压应答允许机制,其特征在于根据任务和配置需要灵活决定...

【专利技术属性】
技术研发人员:岳文王春祥王洲王雅婷巴宁
申请(专利权)人:北京冠邦开源技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1