一种缓存准入方法及装置制造方法及图纸

本发明专利技术涉及一种缓存准入方法及装置，所述方法包括：接收针对用户请求的响应内容；根据预先计算的所述响应内容的统计信息，计算所述响应内容的缓存价值分，所述缓存价值分反映所述响应内容被用户请求的概率；以及将所述缓存价值分与缓存准入阈值分进行比较，如果所述缓存价值分高于所述缓存准入阈值分，则对所述响应内容进行缓存。优选地，根据当前的系统负载动态地计算所述缓存准入阈值分。本发明专利技术通过对用户请求进行统计，基于待缓存内容的流行度对其进行价值评分，并且根据当前的系统负载动态地设置缓存准入门槛，提高了缓存命中率，增强了系统的性能和稳定性。

【技术实现步骤摘要】

本专利技术涉及缓存技术，尤其涉及一种缓存准入方法及装置。
技术介绍
传统的web缓存处理方式是对新的缓存文件无条件地进行存储。当没有空间存放新的缓存文件时，再通过缓存替换机制删除部分缓存文件，以获得足够的空间，然后保存新的缓存对象。由于无条件的存储缓存文件，当缓存文件较多时，会导致系统磁盘I/O操作频繁。 进一步，由于大量需要缓存的文件将导致磁盘空间很快被占满，从而需要频繁地删除磁盘上的缓存文件，这样将对系统磁盘形成巨大的压力，以致影响到系统的性能和稳定性。在实际环境中，有很多缓存文件的访问频率是比较低的。在这类缓存文件从保存到磁盘上直至最后被替换出去这一段时间内，有可能都不会再被访问或者被访问的次数非常少。因此，缓存这些文件不仅没有带来收益，反而浪费了存储空间并增加了很多无谓的磁盘操作。如果能通过某种方式获得缓存文件的价值(即，在未来时间内被重复请求的次数越多，则其价值越大)，进而对于价值较低的缓存文件不进行写磁盘操作，那么将减少很多无谓的磁盘I/o操作。进一步，由于保存的都是高价值缓存文件，所以能够保持较高的缓存命中率。
技术实现思路
本专利技术的目的是提供一种能够克服上述缺陷的缓存准入方法及装置。在本专利技术的第一方面，提供了一种缓存准入方法，包括接收针对用户请求的响应内容；根据预先计算的所述响应内容的统计信息，计算所述响应内容的缓存价值分，所述缓存价值分反映所述响应内容被用户请求的概率；以及将所述缓存价值分与缓存准入阈值分进行比较，如果所述缓存价值分高于所述缓存准入阈值分，则对所述响应内容进行缓存。在本专利技术的第二方面，提供了一种缓存准入装置，包括统计模块，用于对用户请求的响应内容进行统计，得出所述响应内容的统计信息；缓存价值计算模块，用于根据所述统计信息，对接收到的响应内容的缓存价值分进行计算，所述缓存价值分反映所述响应内容被用户请求的概率；准入判断模块，用于将所述缓存价值分与缓存准入阈值分进行比较， 如果所述缓存价值分高于缓存准入阈值分，则对所述响应内容进行缓存；以及缓存存储器， 用于对所述响应内容进行缓冲存储。在第三方面，本专利技术提供了一种代理服务器，所述代理服务器通过网络接收用户对服务器提出的用户请求，将所述用户请求发送到服务器，并且通过网络接收服务器针对所述用户请求返回的响应内容，所述代理服务器包括统计模块，用于对用户请求的响应内容进行统计，得出所述响应内容的统计信息；缓存价值计算模块，用于根据所述统计信息， 对接收到的响应内容的缓存价值分进行 计算，所述缓存价值分反映所述响应内容被用户请求的概率；准入判断模块，用于将所述缓存价值分与缓存准入阈值分进行比较，如果所述缓存价值分高于缓存准入阈值分，则对所述响应内容进行缓存；以及缓存存储器，用于对所述响应内容进行缓冲存储。在第四方面，本专利技术提供了一种用户终端，所述用户终端通过网络与服务器相连接并且向服务器提出用户请求并且接受来自所述服务器的响应内容，所述客户终端包括统计模块，用于对用户请求的响应内容进行统计，得出所述响应内容的统计信息；缓存价值计算模块，用于根据所述统计信息，对接收到的响应内容的缓存价值分进行计算，所述缓存价值分反映所述响应内容被用户请求的概率；准入判断模块，用于将所述缓存价值分与缓存准入阈值分进行比较，如果所述缓存价值分高于缓存准入阈值分，则对所述响应内容进行缓存；以及缓存存储器，用于对所述响应内容进行缓冲存储。本专利技术通过对用户请求进行统计，基于待缓存内容的流行度对其进行价值评分，并且根据当前的系统负载动态地设置缓存准入门槛，提高了缓存命中率，增强了系统的性能和稳定性。附图说明图1是根据本专利技术实施例的基于缓存流行度的缓存准入控制的功能示意图；以及图2是根据本专利技术实施例的基于缓存流行度的缓存准入控制的方法流程具体实施例方式下面通过附图和实施例，对本专利技术的技术方案做进一步的详细描述。图1是根据本专利技术实施例的基于缓存流行度的缓存准入控制的功能示意图。用户和服务 器之间通过代理服务器进行交互，代理服务器通过网络分别于用户/用户终端和服务器相连接。用户在用户终端上通过网络向代理服务器发出请求，请求处理模块接收用户请求并对其进行处理。如果用户请求的文件存在于缓存存储器中，则直接从缓存存储器中提取将该文件并将其发送给用户。如果用户请求的文件不存在于缓存存储器中，则将该请求发送到服务器。此外，代理服务器中的统计模块根据用户请求对所请求的文件进行统计，得出统计信息。服务器接收到用户请求后做出响应，将请求的文件发送到代理服务器。缓存价值计算模块根据服务器发送来的文件，根据统计信息计算该文件的缓存价值。除了计算文件的缓存价值之外，缓存准入阈值计算模块根据代理服务器的系统负载计算出缓存准入阈值。优选地，代理服务器包括CPU占用率获取模块和磁盘I/O值获取模块，用于分别通过调用系统接口获取所述CPU占用率和所述磁盘I/O值，所述缓存准入阈值计算模块根据所述CPU占用率和/或所述磁盘I/O值来计算所述当前的系统负载值。接下来，缓存准入判断模块(图中未示出)将该文件的缓存价值与当前的缓存准入阈值进行比较，以判断是否准入，即是否允许对该文件进行缓冲存储。如果该文件的缓存价值高于当前的缓存准入阈值，则将该文件存入缓存存储器，同时通过请求处理模块将该文件发送给用户。如果该文件的缓存价值低于当前的缓存准入阈值，则不将该文件存入缓存存储器，直接通过请求处理模块将该文件发送给用户。应当理解，可以预先设置缓存准入阈值，直接将服务器响应的文件的缓存价值与之进行比较来判断是否要将其缓存。然而，采用根据当前系统负载动态地计算缓存准入阈值的方式更加灵活，能够随系统负载状况灵活调整策略，是一种优选的方式。还应当理解，该代理服务器的上述功能可以直接由用户终端来执行，用户终端例如可以包括台式计算机、个人数字助理、便携式计算机、手机等设备。相应地，服务器直接与用户终端进行交互，并且上述的系统负载是指用户终端的系统负载。然而，在采用代理服务器作为用户终端与服务器之间的连接控制机构时，多个用户/用户终端可以共享缓存存储器中的缓存内容，是一种优选的方式。图2是根据本专利技术实施例的基于缓存流行度的缓存准入控制的方法流程图。用户向代理服务器发出请求，请求处理模块接收用户请求并对其进行处理。如果用户请求的文件存在于缓存存储器中，则直接从缓存存储器中提取将该文件并将其发送给用户。如果用户请求的文件不存在于缓存存储器中，则将该请求发送到服务器。此外，代理服务器中的统计模块根据用户请求对所请求的文件进行统计，得出统计信息。服务器接收到用户请求后做出响应，将请求的文件发送到代理服务器。在步骤201，接收来自服务器的响应内容。在步骤202，判断是否需要缓存该响应内容，可以根据预定的简单规则进行初步判断。如果不需要缓存该响应内容，在流程进行到步骤207，不缓存该响应内容；否则流程进行到步骤203。在步骤203，根据系统负载计算该当前的缓存准入阈值，并按照预设的评分标准， 得到缓存准入阈值分。在步骤204，根据预先得出的统计信息计算该文件的缓存价值，并按照预设的评分标准，得到缓存价值分。在步骤205，判断是否准入。换言之，是将该响应内容的缓存价值分与当前的缓存准入阈值分进行比较。如果该文件的缓存价值分高于当前的本文档来自技高网...

【技术保护点】
一种缓存准入方法，包括：接收针对用户请求的响应内容；根据预先计算的所述响应内容的统计信息，计算所述响应内容的缓存价值分，所述缓存价值分反映所述响应内容被用户请求的概率；以及将所述缓存价值分与缓存准入阈值分进行比较，如果所述缓存价值分高于所述缓存准入阈值分，则对所述响应内容进行缓存。

【技术特征摘要】
1.一种缓存准入方法，包括接收针对用户请求的响应内容；根据预先计算的所述响应内容的统计信息，计算所述响应内容的缓存价值分，所述缓存价值分反映所述响应内容被用户请求的概率；以及将所述缓存价值分与缓存准入阈值分进行比较，如果所述缓存价值分高于所述缓存准入阈值分，则对所述响应内容进行缓存。2.根据权利要求1所述的方法，还包括计算当前的系统负载值；以及根据所述当前的系统负载值和预先设定的评分规则，计算所述缓存准入阈值分。3.根据权利要求2所述的方法，其中，所述系统负载值是根据CPU占用率和磁盘I/O值来计算的。4.根据权利要求1所述的方法，其中，所述缓存准入阈值分是预先设定的。5.根据权利要求1所述的方法，其中，所述根据预先计算的所述响应内容的统计信息， 计算所述响应内容的缓存价值分的步骤包括根据所述统计信息，计算所述响应内容在之前的一个或多个统计周期内的流行度，所述流行度表示所述响应内容在所述之前的一个或多个统计周期内被客户请求的概率；根据所述响应内容当前的流行度，利用回归分析模型预测所述响应内容在下一个统计周期内的流行度；以及根据预测得到的流行度和预先设定的评分规则，计算所述响应内容的缓存价值分。6.一种缓存准入装置，包括统计模块，用于对用户请求的响应内容进行统计，得出所述响应内容...

【专利技术属性】
技术研发人员：李继明，刘怡臻，
申请(专利权)人：北京网康科技有限公司，
类型：发明
国别省市：