缓存分配方法、装置、设备、介质及程序产品制造方法及图纸

本申请实施例公开了一种缓存分配方法、装置、设备、介质及程序产品。本申请方法，通过获取第一时间周期结束时每个租户对应的缓存状态的目标描述信息，目标描述信息包括：工作集信息、强制性未命中率和缓存大小；对目标描述信息进行特征提取，得到目标缓存状态特征；将目标缓存状态特征输入至训练好的目标策略模型中，输出目标缓存分配信息；基于目标缓存分配信息，在第二时间周期为每个租户重新分配缓存空间。本方案中，可以根据内容分发网络服务中实时的系统缓存和租户的请求情况，动态地调整系统的缓存分配，从而提高了缓存服务器的整体命中率；将对象存储在边缘缓存服务器中，减少了源服务器的响应时间。少了源服务器的响应时间。少了源服务器的响应时间。

【技术实现步骤摘要】
缓存分配方法、装置、设备、介质及程序产品


[0001]本申请涉及信息处理
，具体涉及一种缓存分配方法、装置、电子设备、计算机存储介质及计算机程序产品。

技术介绍

[0002]内容分发网络(Content Delivery Network，CDN)是一种新型网络内容服务体系，其基于IP网络而构建，基于内容访问与应用的效率要求、质量要求和内容秩序而提供内容的分发和服务，是一种非常重要的网络加速和负载均衡技术。随着互联网的发展，内容分发网络已被广泛用于在网络上有效地分发内容。
[0003]缓存系统是在CDN服务中的一个关键组件，通过将需要频繁访问的网络内容存放在离用户较近、访问速度更快的系统中，可以降低CDN服务器产生的流量，有效减少终端用户的访问延迟和上游流量到源服务器。边缘缓存服务器(Edge Cache Server)是用于存放频繁访问内容的服务器，通常由多个租户(即互联网供应商(Internet Content Provider，ICP))共享。然而，目前的缓存分区方法效率不高，导致缓存的低命中率和分配不均衡。

技术实现思路

[0004]本申请实施例提供一种缓存分配方法、装置、电子设备、计算机可读存储介质及计算机程序产品，可以提高缓存服务器的整体命中率。
[0005]一种缓存分配方法，包括：
[0006]获取第一时间周期结束时每个租户对应的缓存状态的目标描述信息，所述目标描述信息包括：工作集信息、强制性未命中率和缓存大小；
[0007]对所述目标描述信息进行特征提取，得到目标缓存状态特征；
[0008]将所述目标缓存状态特征输入至训练好的目标策略模型中，输出目标缓存分配信息；
[0009]基于所述目标缓存分配信息，在第二时间周期为每个租户重新分配缓存空间，其中，所述第一时间周期和所述第二时间周期时间上连续。
[0010]相应的，本申请实施例还提供一种缓存分配装置，包括：
[0011]第一获取单元，用于获取第一时间周期结束时每个租户对应的缓存状态的目标描述信息，所述目标描述信息包括：工作集信息、强制性未命中率和缓存大小；
[0012]提取单元，用于对所述目标描述信息进行特征提取，得到目标缓存状态特征；
[0013]决策单元，用于将所述目标缓存状态特征输入至训练好的目标策略模型中，输出目标缓存分配信息；
[0014]分配单元，用于基于所述目标缓存分配信息，在第二时间周期为每个租户重新分配缓存空间，其中，所述第一时间周期和所述第二时间周期时间上连续。
[0015]可选的，在一些实施方式中，在获取所述强制性未命中率时，所述第一获取单元用于：
[0016]根据每个租户对应的工作集信息确定强制性未命中流量；
[0017]确定每个租户在所述第一时间周期的总未命中流量；
[0018]根据所述强制性未命中流量和所述总未命中流量的比值，确定所述强制性未命中率。
[0019]可选的，在一些实施方式中，在获取第一时间周期结束时每个租户对应的缓存状态的目标描述信息时，所述第一获取单元用于：
[0020]确定在所述第一时间周期内，访问各租户对应缓存的目标用户；
[0021]获取所述目标用户在所述第一时间周期内的访问信息；
[0022]根据所述访问信息确定每个租户对应的缓存状态的目标描述信息
[0023]可选的，在一些实施方式中，所述目标缓存分配信息包括：每个租户对应的缓存分配比例；在基于所述目标缓存分配信息，在第二时间周期为每个租户重新分配缓存空间时，所述分配单元用于：
[0024]获取缓存中块总量和租户数量T；
[0025]基于所述缓存中块总量和所述缓存分配比例，确定前T
‑
1个租户各自所需分配缓存中块的第一目标数量；
[0026]获取所述缓存中块总量与前T
‑
1个租户所需缓存中块的总量之间的差值，并根据所述差值确定第T个租户所需分配缓存中块的第二目标数量；
[0027]根据每个租户的当前缓存中块占用数量、所述第一目标数量和所述第二目标数量，为每个租户重新分配缓存空间。
[0028]可选的，在一些实施方式中，所述缓存分配装置还包括：
[0029]第二获取单元，用于在获取第一时间周期结束时每个租户对应的缓存状态的目标描述信息之前，在线性时间内获取连续的多个时间周期对应的训练数据，所述训练数据包括：缓存状态特征、缓存分配信息和缓存命中流量，其中，所述缓存命中流量为：所有租户在同一时间周期的命中流量的总和；
[0030]第一构建单元，用于根据所述多个训练数据构建训练集；
[0031]第一训练单元，用于在所述训练集上训练目标策略模型；
[0032]调整单元，用于调整所述目标策略模型的模型参数，使得总缓存命中流量最大化，得到训练好的目标策略模型，其中，所述总缓存命中流量为所述多个时间周期的缓存命中流量的总和。
[0033]可选的，在一些实施方式中，在线性时间内获取单一时间周期对应的训练数据时，第二获取单元用于：
[0034]获取当前时间周期结束时每个租户对应的缓存状态的当前描述信息，所述当前描述信息包括：工作集信息、强制性未命中率和缓存大小；
[0035]对所述当前描述信息进行特征提取，得到当前时间周期的缓存状态特征；
[0036]将当前时间周期的缓存状态特征输入到所述目标策略模型中，输出缓存分配信息的正态分布；
[0037]对所述正态分布进行采样，得到下一时间周期的缓存分配信息；
[0038]在下一时间周期结束后，获取所有租户在下一时间周期的命中流量的总和，得到下一时间周期的缓存命中流量；
[0039]基于当前时间周期的缓存状态特征、下一时间周期的缓存分配信息、下一时间周期的缓存命中流量，得到所述训练数据。
[0040]可选的，在一些实施方式中，所述缓存分配装置还包括：
[0041]第一确定单元，用于在线性时间内获取连续的多个时间周期对应的训练数据之后，根据所述多个训练数据构建训练集之前，确定所有租户在同一时间周期的总缓存访问流量；
[0042]第二确定单元，用于根据所述缓存命中流量和所述总缓存访问流量的比值，确定缓存命中率；
[0043]处理单元，用于将所述缓存命中率归一化为[
‑
1,1]。
[0044]可选的，在一些实施方式中，所述缓存分配装置还包括：
[0045]第三获取单元，用于在线性时间内获取连续的多个时间周期对应的训练数据之前，获取多个状态
‑
策略数据对，所述状态
‑
策略数据对由历史时间周期内，所有租户对应的缓存状态的历史描述信息，与相应的历史缓存分配信息构成，其中，所述历史描述信息包括：工作集信息、强制性未命中率和缓存大小；
[0046]第二构建单元，用于根据所述多个状态
‑
策略数据对，构建专家数据集本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种缓存分配方法，包括：获取第一时间周期结束时每个租户对应的缓存状态的目标描述信息，所述目标描述信息包括：工作集信息、强制性未命中率和缓存大小；对所述目标描述信息进行特征提取，得到目标缓存状态特征；将所述目标缓存状态特征输入至训练好的目标策略模型中，输出目标缓存分配信息；基于所述目标缓存分配信息，在第二时间周期为每个租户重新分配缓存空间，其中，所述第一时间周期和所述第二时间周期时间上连续。2.根据权利要求1所述的缓存分配方法，其特征在于，所述强制性未命中率的获取步骤，包括：根据每个租户对应的工作集信息确定强制性未命中流量；确定每个租户在所述第一时间周期的总未命中流量；根据所述强制性未命中流量和所述总未命中流量的比值，确定所述强制性未命中率。3.根据权利要求1所述的缓存分配方法，其特征在于，获取第一时间周期结束时每个租户对应的缓存状态的目标描述信息，包括：确定在所述第一时间周期内，访问各租户对应缓存的目标用户；获取所述目标用户在所述第一时间周期内的访问信息；根据所述访问信息确定每个租户对应的缓存状态的目标描述信息。4.根据权利要求1所述的缓存分配方法，其特征在于，所述目标缓存分配信息包括：每个租户对应的缓存分配比例；基于所述目标缓存分配信息，在第二时间周期为每个租户重新分配缓存空间，包括：获取缓存中块总量和租户数量T；基于所述缓存中块总量和所述缓存分配比例，确定前T
‑
1个租户各自所需分配缓存中块的第一目标数量；获取所述缓存中块总量与前T
‑
1个租户所需缓存中块的总量之间的差值，并根据所述差值确定第T个租户所需分配缓存中块的目标数量；根据每个租户的当前缓存中块占用数量、所述第一目标数量和所述第二目标数量，为每个租户重新分配缓存空间。5.根据权利要求1
‑
4任一项所述的缓存分配方法，其特征在于，在获取第一时间周期结束时每个租户对应的缓存状态的目标描述信息之前，还包括：在线性时间内获取连续的多个时间周期对应的训练数据，所述训练数据包括：缓存状态特征、缓存分配信息和缓存命中流量
，
其中，所述缓存命中流量为：所有租户在同一时间周期的命中流量的总和；根据所述多个训练数据构建训练集；在所述训练集上训练目标策略模型；调整所述目标策略模型的模型参数，使得总缓存命中流量最大化，得到训练好的目标策略模型，其中，所述总缓存命中流量为所述多个时间周期的缓存命中流量的总和。6.根据权利要求5所述的缓存分配方法，其特征在于，在线性时间内获取单一时间周期对应的训练数据，包括：获取当前时间周期结束时每个租户对应的缓存状态的当前描述信息，所述当前描述信
息包括：工作集信息、强制性未命中率和缓存大小；对所述当前描述信息进行特征提取，得到当前时间周期的缓存状态特征；将当前时间周期的缓存状态特征输入到所述目标策略模型中，输出缓存分配信息的正态分布；对所述正态分布进行采样，得到下一时间周期的缓存分配信息；在下一时间周期结束后，获取所有租户在下一时间周期的命中流量的总和，得到下一时间周期的缓存命中流量；基于当前时间周期的缓存状态特征、下一时间周期的缓存分配信息、下一时间周期的缓存命中流量，得到所述训练数据。7.根据权利要求5所述的缓存分配方法，其特征在于，在线性时间内获取连续的多个时间周期对应的训练数据之后，根据所述多个训练数据构建训练集之前，还包括：确定所有租户在同一时间周期的总缓存访问流量；根据所述缓存命中流量和所述总缓存访问流量的比值，确定缓存命中率；将所述缓存命中率归一化为[
‑
...

【专利技术属性】
技术研发人员：吴晨涛，贾冉昊，陈子啸，黄宏文，
申请(专利权)人：深圳市腾讯计算机系统有限公司，
类型：发明
国别省市：