【技术实现步骤摘要】
数据的循环缓冲存储方法、装置、计算机设备及介质
[0001]本专利技术涉及数据存储
,尤其涉及一种数据的循环缓冲存储方法、装置、计算机设备及介质。
技术介绍
[0002]目前,随着人工智能的快速发展,人工智能模型已逐步应用于多种场景下,然而,由于人工智能模型通常有大批量数据的存储需求,大批量数据例如模型权重参数、中间特征参数以及所处理的数据,导致在常规应用场景下,难以提供具备足够存储容量的设备支持人工智能模型,人工智能模型的应用范围受到极大限制。
[0003]针对上述问题,通常需要人工智能模型的部署端进行设备更新,采用更高存储量的设备来保证人工智能模型的正常运行,但是,高存储量的设备无疑会使人工智能模型的部署成本提升,进而导致人工智能模型无法广泛地在各种场景下实现落地,因此,如何提高数据的存储效率,进而降低存储需求成为亟待解决的问题。
技术实现思路
[0004]有鉴于此,本专利技术实施例提供了一种数据的循环缓冲存储方法、装置、计算机设备及介质,以解决数据存储效率较低的问题。
[0005] ...
【技术保护点】
【技术特征摘要】
1.一种数据的循环缓冲存储方法,其特征在于,所述循环缓冲存储方法应用于缓存系统,所述缓存系统包括上游写入模块、下游执行模块、握手寄存器、释放空间寄存器和存储器;所述循环缓冲存储方法包括:在单次数据运算过程中,从所述下游执行模块中获取本次数据运算过程的运算数据量,检测所述握手寄存器统计得到的握手数据总量,若所述握手数据总量小于所述运算数据量,则使用所述下游执行模块向所述上游写入模块发送获取握手数据的握手请求,其中,所述握手数据总量为使用所述握手寄存器对已发送的握手请求对应握手数据的握手数据量累加计算得到;在接收到所述握手请求后,使用所述上游写入模块将单次握手请求对应数据量的握手数据写入所述存储器,向所述下游执行模块发送握手指令;在所述下游执行模块接收到所述握手指令时,使用所述下游执行模块读取所述存储器中存储的握手数据,对读取到的握手数据进行运算;使用所述释放空间寄存器统计已完成运算的握手数据的数据量,得到可释放数据量,在所述可释放数据量大于预设的预备释放数据量时,根据所述存储器的存储顺序,将在先存储的对应所述释放空间数据量的握手数据清除。2.根据权利要求1所述的循环缓冲存储方法,其特征在于,所述循环缓冲存储方法还包括:在所述单次数据运算过程开启时,使用所述下游执行模块向所述存储器发送释放空间请求;在所述存储器接收到所述释放空间请求时,在所述存储器内为所述上游写入模块分配初始空间;相应地,所述在接收到所述握手请求后,使用所述上游写入模块将单次握手请求对应数据量的握手数据写入所述存储器包括:在接收到所述握手请求后,使用所述上游写入模块将单次握手请求对应数据量的握手数据写入所述存储器中的所述初始空间中。3.根据权利要求1所述的循环缓冲存储方法,其特征在于,所述在接收到所述握手请求后,使用所述上游写入模块将单次握手请求对应数据量的握手数据写入所述存储器,包括:配置单次握手请求所对应的握手数据量,所述上游写入模块将所述数据运算过程所需的待处理数据按照所述握手数据量进行数据切分,得到至少一个符合所述握手数据量的握手数据,所有握手数据满足预设的写入顺序;在接收到所述握手请求后,使用所述上游写入模块,按照所述写入顺序,将对应所述握手数据量的握手数据写入所述存储器。4.根据权利要求1所述的循环缓冲存储方法,其特征在于,所述握手寄存器包括下游通道数寄存器、下游第一行数寄存器和下游第二行数寄存器,所述下游通道数寄存器的值、所述下游第一行数寄存器的值和所述下游第二行数寄存器的值均初始化为零;所述检测所述握手寄存器统计得到的握手数据总量,若所述握手数据总量小于所述运算数据量,则使用所述下游执行模块向所述上游写入模块发送获取握手数据的握手请求,包括:获取单个握手数据的握手通道数和握手行数,将所述握手通道数和所述下游通道数寄
存器的值相加,以相加结果更新所述下游通道数寄存器的值,当所述下游第一行数寄存器的值为零时,以所述握手行数更新所述下游第一行数寄存器的值;当检测到所述下游通道数寄存器的值与预设的最大通道数相同时,将所述下游通道数寄存器的值置零,将所述握手行数和所述下游第一行数寄存器的值相加,以相加结果更新所述下游第一行数寄存器的值,将所述下游第二行数寄存器对应的预设通道计数值设置为所述最大通道数,将所述握手行数和所述下游第二行数寄存器的值相加,以相加结果更新所述下游第二行数寄存器的值;若所述运算数据量中的运算行数大于所述下游第二行数寄存器的值,且所述运算数据量中的运算通道数大于所述下游通道数寄存器的值和/或所述运算数据量中的运算行数大于所述下游第一行数寄存器的值,则向所述上游写入模块发送所述握手请求。5.根据权利要求1所述的循环缓冲存储方法,其特征在于,所述释放空间寄存器包括可释放通道数寄存器、可释放...
【专利技术属性】
技术研发人员:蒋文,王和国,易羽,周高财,陈宁,
申请(专利权)人:深圳云天励飞技术股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。