一种电压自调整及充放电补充的人工智能芯片架构方案制造技术

技术编号:41011352 阅读:22 留言:0更新日期:2024-04-18 21:47
本发明专利技术公开了一种面向人工智能芯片的实现方法及电路,该方法包括:所提出的人工智能芯片由一个计算阵列作为核心,计算阵列内部包含多个计算单元,计算单元可以支持不同的工作电压以实现自身工作工作电压的灵活调整,所述计算单元可以根据任务和配置需要灵活切换自身工作电压,以实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配,如部分高算力需求任务可以执行在电压范围以获得快速相应,部分低算力需求任务可以执行在低电压范围,以更好的支持多电压操作等应用。进一步的,所提出的计算单元之间包含充放电补充模块,以实现跨电压数据的整合和拉高操作,以及计算任务的灵活电压分配和调整。

【技术实现步骤摘要】

本专利技术实施例涉及数据处理,尤其涉及一种面向人工智能芯片的实现方法及电路。


技术介绍

1、现有技术中,传统的芯片设计中,由于各个部件的电压一般是固定的,因此很难实现能效比的最大化,同时也很难灵活适应不同的应用场景。在不同电压范围内进行数据传输,需要考虑如何处理电压不匹配的问题,保证数据传输的可靠性和效率。传统的人工神经网络处理器中,面临着算力不足、功耗过大、时延较长等问题,严重影响人工智能芯片在更多场景中的普及和使用,同时人工神经网络处理器往往训练和推理相分离。因此,如何进一步提升人工智能芯片计算能力,成为智能计算芯片架构设计面临的重要挑战。

2、现有的人工智能芯片技术方案中,传统芯片设计往往采用固定电压的方式来供电,这样不同部件的工作电压就无法灵活调整,因此难以实现最佳的能效比。在传统芯片设计中,各个模块通常使用同样的电压,这会导致一些部件浪费能量,降低了整个系统的能效。同时,传统芯片设计往往无法适应不同的负载和工作环境,导致能效比低。传统的芯片设计往往只能适用于某些特定的应用场景,如不能灵活适应不同的工作电压需求和计算任务。

...

【技术保护点】

1.一种面向人工智能芯片的实现方法及电路,其特征在于,包括:

2.如权利要求1所述的电路,其特征在于,所述计算单元可以分别根据任务和配置需要升高电压或者降低电压。在该计算单元陈列中,部分承载高算力需求任务的计算单元可以执行在高电压范围,部分承载低算力需求任务的计算单元可以执行在电压范围。所述计算任务类型包括训练任务、推理任务和训练推理同步进行任务。根据不同的任务和配置需要,不同的计算单元可以实现不同的工作电压调整,以实现自身工作频率的全局化自动调整,以及在当前计算设备内实现不同计算单元分别的升高电压或者降低电压且可以进行灵活的自分配。

3.如权利要求1所述的电路,...

【技术特征摘要】

1.一种面向人工智能芯片的实现方法及电路,其特征在于,包括:

2.如权利要求1所述的电路,其特征在于,所述计算单元可以分别根据任务和配置需要升高电压或者降低电压。在该计算单元陈列中,部分承载高算力需求任务的计算单元可以执行在高电压范围,部分承载低算力需求任务的计算单元可以执行在电压范围。所述计算任务类型包括训练任务、推理任务和训练推理同步进行任务。根据不同的任务和配置需要,不同的计算单元可以实现不同的工作电压调整,以实现自身工作频率的全局化自动调整,以及在当前计算设备内实现不同计算单元分别的升高电压或者降低电压且可以进行灵活的自分配。

3.如权利要求1所述的电路,其特征在于,所述计算单元之间包含充放电补充模块,实现跨电压数据的整合和拉高操作,以及计算任务的灵活电压分配和调整。在该充放电补充模块中,具体而言,该模块可以根据不同计算单元的电压差异,对传输的数据进行充电或放电操作,以达到合适的电压差异范围。在计算任务执行过程中,该模块可以实时对数据进行补充和调整,以保证整个计算过程的稳定性和准确性。计算单元获取当前需要执行的任务序列,然后通过控制器对计算单元的工作电压进行切换和配置。所述计算任务序列包括第一任务、第二任务、第三任务等。根据不同的任务和配置需要,计算单元可以实现不同的时钟工作电压以实现自身工作电压的调整,以实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配。

4.如权利要求1所述的电路,其特征在于,所提出的计算单元内部传递信息通过目标模块电压预期值和充放电速率信息,确定指定模块的预期达到电压和充放电速率。具体来讲,当计算阵列需要提高部分计算单元的电压时,它将控制信息发送到指定计算单元,并设指定目标模块的电压预期值和充放电速率信息。进一步的,指定计算单元通过读取内部传递信息中的电压预期值和充放电速率,进行电压处理。其中,通过上述方法,实现在当前计算设备内升高电压或者降低电压且可以进行灵活的自分配。

5.如权利要求1所述的电路,其特征在于,所提出的计算单元内部采用电压应答允许机制,即计算阵列向指定计算单元发送电压调节请求,指定计算单元收到请求后再发送应答允许响应,再进行对应的电压调节,以确保电压的可自控性。进一步的,指定计算单元收到请求后也可以发送应答不允许响应,仍以原电压进行计算。其中,本权利要求提出的计算单元电压应答允许机制,其特征在于根据任务和配置需要灵活决定...

【专利技术属性】
技术研发人员:岳文王春祥王洲王雅婷巴宁
申请(专利权)人:北京冠邦开源技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1