访问请求的处理方法、装置、设备及存储介质制造方法及图纸

技术编号:27225831 阅读:24 留言:0更新日期:2021-02-04 11:47
本申请提供了一种访问请求的处理方法、装置、设备及存储介质,属于存储技术领域。本申请实施例中,在数据迁移的场景下,通过将旧的存储设备的数据以及旧的存储设备训练出的AI模型,均从旧的存储设备迁移到新的存储设备上,新的存储设备如果接收到访问请求,通过复用旧的存储设备训练好的AI模型,即可得到AI模型针对访问请求的预测结果,从而免去新的存储设备重新进行模型训练带来的时间开销,提高了新的存储设备利用AI模型提供功能的效率。存储设备利用AI模型提供功能的效率。存储设备利用AI模型提供功能的效率。

【技术实现步骤摘要】
访问请求的处理方法、装置、设备及存储介质


[0001]本申请涉及存储
,特别涉及一种访问请求的处理方法、装置、设备及存储介质。

技术介绍

[0002]随着存储技术以及人工智能(artificial intelligence,AI)技术的发展,可以使用AI模型学习出上层应用对存储设备中存储的数据的访问模式,当存储设备接收到访问请求时,存储设备可以根据访问请求,利用AI模型来预测出将要使用的指令或数据,从而进行缓存(cache)预取,或者利用AI模型来预测出发送访问请求的工作负载(workload),从而实现工作负载识别功能,或者利用AI模型来预测出需要分配多少资源来处理访问请求,从而实现智能调度功能。
[0003]存储设备会在运行过程中,基于输入输出(input output,IO)请求进行模型训练,得到AI模型。具体而言,在存储设备初始化的过程中,存储设备会创建AI模型,将该AI模型的参数置为预设初始值,得到初始AI模型。之后,存储设备启动,每当接收到对存储的数据的IO请求,存储设备会根据IO请求,获取初始AI模型的预测结果,再根据预测结果的误差,对初始AI模型的参数进行调整,直至预测结果的误差小于误差阈值为止,将初始AI模型作为训练完成的AI模型。
[0004]相关技术中,在数据迁移的场景下,比如需要将数据从在旧的存储设备上存储,改为将数据在新的存储设备上存储时,旧的存储设备和新的存储设备均需要为数据执行模型训练流程。具体地,旧的存储设备在历史运行过程中,客户端会向旧的存储设备发送历史IO请求,旧的存储设备会接收到历史IO请求,历史IO请求用于请求读取数据或写入数据。旧的存储设备会根据历史IO请求进行模型训练,得到AI模型。当需要迁移数据时,旧的存储设备会向新的存储设备发送数据,新的存储设备会从旧的存储设备接收数据,存储数据,从而完成数据迁移。此后,客户端会向新的存储设备发送IO请求,新的存储设备接收到IO请求后,会基于IO请求,重新执行模型训练的流程,来重新得到AI模型。
[0005]采用上述方法时,新的存储设备需要重新进行模型训练,才能得到AI模型,而重新进行模型训练会耗费很长的时间,影响了新的存储设备利用AI模型来提供缓存预取、负载识别、智能调度等功能的效率。

技术实现思路

[0006]本申请实施例提供了一种访问请求的处理方法、装置、设备及存储介质,能够免去新的存储设备重新进行模型训练带来的时间开销,提高新的存储设备利用AI模型提供功能的效率。
[0007]第一方面,提供了一种访问请求的处理方法,应用于第一存储设备,所述方法包括:接收来自第二存储设备的数据以及人工智能AI模型,所述AI模型由所述第二存储设备在历史运行过程中,基于对所述数据的历史输入输出IO请求训练得到;存储所述数据以及
所述AI模型;接收对所述数据的访问请求;根据所述访问请求,获取所述AI模型的预测结果。
[0008]在数据从第二存储设备迁移至第一存储设备的场景下,通过将AI模型也从第二存储设备迁移至第一存储设备,第一存储设备可以复用第二存储设备已训练的AI模型,来得到AI模型的预测结果,从而免去了第一存储设备重新进行模型训练的流程,进而免去了第一存储设备重新训练AI模型带来的时间开销。由于第一存储设备得到AI模型的速度更快,第一存储设备根据AI模型来得到预测结果的速度也就更快,因此根据预测结果来提供缓存预取、负载识别、智能调度等功能的速度也就更快,从而极大地提高了第一存储设备进行缓存预取、负载识别以及智能调度的效率。
[0009]可选地,所述数据属于所述第二存储设备的第一逻辑存储单元LUN,所述AI模型为所述第一LUN对应的目标AI模型。
[0010]考虑到同一存储设备的不同LUN通常会存储不同工作负载的数据,而不同工作负载对数据的访问模式通常不同,导致不同工作负载对相应的LUN发送的IO请求的规律也会产生区别。因此,通过以LUN为粒度,针对属于第一LUN的数据的IO请求,复用第一LUN对应的AI模型,来得到预测结果,灵活性高。并且,由于AI模型是根据属于第一LUN的数据的IO请求训练得到的,AI模型的参数能够与第一LUN匹配,因此AI模型的复用程度更加精细化,提高了AI模型的预测结果的精确性。
[0011]可选地,所述接收来自第二存储设备的数据以及人工智能AI模型之后,所述方法包括:创建第二LUN;根据所述第一LUN对应的AI模型,获取所述第二LUN对应的AI模型。
[0012]在存储设备新建LUN的场景下,通过复用已有的LUN对应的AI模型,来得到新建的LUN对应的AI模型,从而免去了为新建的LUN进行模型训练的流程,进而免去了为新建的LUN进行模型训练带来的时间成本。由于得到新建的LUN对应的AI模型的速度更快,根据AI模型得到预测结果的速度也就更快,因此根据预测结果来为新建的LUN提供缓存预取、负载识别、智能调度等功能的速度也就更快,从而极大地提高了为新建的LUN进行缓存预取、负载识别以及智能调度的效率。
[0013]可选地,所述根据所述第一LUN对应的AI模型,获取所述第二LUN对应的AI模型,包括下述任意一项:从一个或多个所述第一LUN对应的AI模型中,选择一个AI模型,作为所述第二LUN对应的AI模型;对一个或多个所述第一LUN对应的AI模型进行加权平均,得到所述第二LUN对应的AI模型。
[0014]通过这种可选方式,提供了多种复用历史创建的LUN对应的AI模型的方式,提高了灵活性。
[0015]可选地,每个第一LUN的权重相同;或者,每个第一LUN的权重与对应的应用标识在所有第一LUN对应的应用标识中所占的比例正相关,或者,每个第一LUN的权重与对应的用户标识在所有第一LUN对应的用户标识中所占的比例正相关。
[0016]通过这种可选方式,考虑到在所有的第一LUN中,针对应用标识或用户标识所占的比例较大的LUN的访问规律更具有普适性和代表性,因此这些LUN对应的AI模型能够更准确地反映出新建的LUN的访问规律,那么通过为这些LUN设置较高的权重,结合每个LUN的权重以及AI模型,来为新建的LUN获取AI模型,可以提高新建的LUN对应的AI模型的准确性。
[0017]可选地,所述创建第二LUN之前,所述方法还包括:分配共享存储空间,所述共享存
储空间用于存储每个LUN对应的AI模型;所述存储所述数据以及所述AI模型,包括:将所述第一LUN对应的AI模型写入所述共享存储空间;所述根据历史创建的第二LUN的人工智能AI模型,获取所述第一LUN对应的AI模型之前,所述根据所述第一LUN对应的AI模型,获取所述第二LUN对应的AI模型之后,所述方法还包括:将所述第二LUN对应的AI模型写入所述共享存储空间。
[0018]通过这种可选方式,将每个LUN对应的AI模型均存储在共享存储空间,便于统一地管理每个LUN对应的AI模型。
[0019]可选地,所述根据所述访问请求,获取所述AI模型的预测结果之后,所本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种访问请求的处理方法,其特征在于,应用于第一存储设备,所述方法包括:接收来自第二存储设备的数据以及人工智能AI模型,所述AI模型由所述第二存储设备在历史运行过程中,基于对所述数据的历史输入输出IO请求训练得到;存储所述数据以及所述AI模型;接收对所述数据的访问请求;根据所述访问请求,获取所述AI模型的预测结果。2.根据权利要求1所述的方法,其特征在于,所述数据属于所述第二存储设备的第一逻辑存储单元LUN,所述AI模型为所述第一LUN对应的AI模型。3.根据权利要求2所述的方法,其特征在于,所述接收来自第二存储设备的数据以及人工智能AI模型之后,所述方法还包括:创建第二LUN;根据所述第一LUN对应的AI模型,获取所述第二LUN对应的AI模型。4.根据权利要求3所述的方法,其特征在于,所述第一LUN的数量为一个或多个,所述根据所述第一LUN对应的AI模型,获取所述第二LUN对应的AI模型,包括下述任意一项:从一个或多个所述第一LUN对应的AI模型中,选择一个AI模型,作为所述第二LUN对应的AI模型;对一个或多个所述第一LUN对应的AI模型进行加权平均,得到所述第二LUN对应的AI模型。5.根据权利要求4所述的方法,其特征在于,每个第一LUN的权重相同;或者,每个第一LUN的权重与对应的应用标识在所有第一LUN对应的应用标识中所占的比例正相关,或者,每个第一LUN的权重与对应的用户标识在所有第一LUN对应的用户标识中所占的比例正相关。6.根据权利要求1至5中任一项所述的方法,其特征在于,所述AI模型包括第一AI模型,所述根据所述访问请求,获取所述AI模型的预测结果,包括:将所述访问请求输入所述第一AI模型,输出目标访问请求,所述目标访问请求表示所述第一存储设备的处理器将要使用的指令或数据;所述根据所述访问请求,获取所述AI模型的预测结果之后,所述方法还包括:将所述指令或数据写入所述第一存储设备的缓存。7.根据权利要求1至5中任一项所述的方法,其特征在于,所述AI模型包括第二AI模型,所述根据所述访问请求,获取所述AI模型的预测结果,包括:对当前时间段的所述访问请求进行统计,得到访问特征;将所述访问特征输入所述第二AI模型,输出工作负载信息,所述工作负载信息表示发送所述访问请求的工作负载。8.根据权利要求1至5中任一项所述的方法,其特征在于,所述AI模型包括第三AI模型,所述根据所述访问请求,获取所述AI模型的预测结果,包括:将所述访问请求以及第一分配信息输入所述第三AI模型,输出第二分配信息,所述第一分配信息表示当前为每个任务分配的处理资源、存储资源或网络资源中的至少一项;
所述根据所述访问请求,获取所述AI模型的预测结果之后,所述方法还包括:根据所述第二分配信息,为所述每个任务分配处理资源、存储资源或网络资源中的至少一项。9.一种访问请求的处理装置,其特征在于,应用于第一存储设备,所述装置包括:接收模块,用于接收来自第二存储设备的...

【专利技术属性】
技术研发人员:鲁鹏刘金虎杜晓东
申请(专利权)人:华为技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1
相关领域技术
  • 暂无相关专利