高速缓冲存储器系统及其操作方法技术方案

公开了一种高速缓冲存储器系统及其操作方法。所述高速缓冲存储器设备包括：标签比较器，被配置为将包括在由接收到的组地址所指示的组中的多条标签数据中的每条标签数据的较高的位与接收到的标签地址的较高的位进行比较，将所述多条标签数据中的每条标签数据的其他位与标签地址的其他位进行比较，并且基于比较的结果确定存在高速缓存命中还是高速缓存未命中；更新控制器，被配置为响应于高速缓存未命中被确定，基于所述多条标签数据中的每条标签数据的较高的位和标签地址的较高的位之间的比较结果，将包括在所述组中且与所述多条标签数据对应的多个高速缓存数据中的一个高速缓存数据确定为更新候选，并用新数据对更新候选进行更新。

【技术实现步骤摘要】
本申请要求于2014年9月17日提交到韩国知识产权局的第10-2014-0123704号韩国专利申请的权益，其全部公开出于所有目的通过引用包含于此。
下面的描述涉及一种高速缓冲存储器系统及其操作方法。
技术介绍
通常，诸如中央处理单元(CPU)和图形处理单元(GPU)的处理单元访问和处理存储在大容量外部存储器中的命令和数据。由于大多数大容量外部存储器的处理速度比处理单元的处理速度慢得多，因此采用高速缓冲存储器系统来提高操作速度。高速缓冲存储器系统存储由处理单元最近访问过的数据。当处理单元再次请求相同数据时，高速缓冲存储器系统访问高速缓冲存储器，而不是访问外部存储器，从而提高了数据传输率。如果由处理单元请求的数据被加载到高速缓冲存储器系统的数据存储器上(高速缓存命中(cache hit))，则数据被传输到处理单元。如果由处理单元请求的数据不存在(高速缓存未命中(cache miss))，则从外部存储器读出数据。此外，高速缓冲存储器系统擦除存储在数据存储器中的任意条高速缓存数据，用读取的数据对擦除的高速缓存数据进行更新，并将读取的数据传输到处理单元。根据映射方法，高速缓冲存储器系统可实施在使用组相联(set-associative)映射方法的组相联高速缓冲存储器和使用直接映射方法的直接映射高速缓冲存储器中。组相联高速缓冲存储器具有多条路。对于高速缓存未命中，根据替换状态，用从外部存储器读取的新数据对与任意一条路对应的高速缓存数据进行更新。
技术实现思路
提供本
技术实现思路
来以简化的形式引入在以下具体实施方式中进一步描述的构思的选择。本
技术实现思路
不旨在确定所要求保护的主题的关键特征或必要特征，也不旨在用来帮助确定所要求保护的主题的范围。在一个总体方面，提供了一种高速缓冲存储器设备，包括：数据存储器，被配置为存储与存储在主存储器中的多条数据对应的多条高速缓存数据；标签存储器，包括组，并且被配置为将与所述多条高速缓存数据分别对应的多条标签数据存储为所述组，所述多条标签数据均包括N位。所述设备还包括：标签比较器，被配置为将包括在由接收到的组地址所指示的组中的所述多条标签数据中的每条标签数据的较高的K位(其中，1≤K<N)与接收到的标签地址的较高的K位进行比较，所述标签地址包括N位，将所述多条标签数据中的每条标签数据的其他(N-K)位与标签地址的其他(N-K)位进行比较，并且基于比较的结果确定存在高速缓存命中还是高速缓存未命中。所述设备还包括：更新控制器，被配置为响应于高速缓存未命中被确定，基于所述多条标签数据中的每条标签数据的较高的K位和标签地址的较高的K位之间的比较结果来将所述多条高速缓存数据中的一条高速缓存数据确定为更新候选，并用新数据对更新候选进行更新。更新控制器可被配置为响应于与一条高速缓存数据对应的一条标签数据的较高的K位与标签地址的较高的K位不匹配，将该条高速缓存数据确定为更新候选。标签比较器可被配置为响应于所述多条标签数据中的任何一条都与标签地址不匹配，确定存在高速缓存未命中，并将每条标签数据的较高的K位与标签地址的较高的K位之间的比较结果输出到更新控制器。标签比较器可被配置为响应于所述多条标签数据中的任何一条与标签地址匹配，确定存在高速缓存命中。所述高速缓冲存储器设备还可包括：数据输出部，被配置为响应于高速缓存命中被确定，读取所述多条高速缓存数据中与所述多条标签数据中的和标签地址匹配的标签数据对应的一条高速缓存数据，并输出读取的一条高速缓存数据。更新控制器可被配置为响应于高速缓冲存储器设备接收到均具有相同的组地址的多个数据请求，基于针对所述多条数据中的每条数据接收到的标签
地址的较高的K位与所述多条标签数据中的每条标签数据的较高的K位之间的比较结果，针对所述多个数据请求的多条数据中的每条数据将一条高速缓存数据确定为更新候选，并用新数据对在所述多条高速缓存数据中被最频繁地确定为更新候选的一条高速缓存数据进行更新。标签比较器还可被配置为输出与所述多条数据分别对应的多个比较矢量，其中，所述多个比较矢量中的每个包括的分量的数量与所述组的路的数量相同，响应于所述多条数据中的每条数据的标签地址的较高的K位与所述多条标签数据中的每条标签数据的较高的K位彼此匹配，所述分量指示第一值，响应于所述多条数据中的每条数据的标签地址的较高的K位与所述多条标签数据中的每条标签数据的较高的K位彼此不匹配，所述分量指示第二值，并且更新控制器可被配置为针对所述组的多条路中的每条路对比较矢量的分量值进行求和，并基于求和的分量值，用新数据对与所述多条路中的任意一条路对应的高速缓存数据进行更新。第一值可以是1，第二值可以是0，更新控制器可被配置为用新数据对与所述多条路中具有最小的求和的分量值的路对应的高速缓存数据进行更新。在另一个总体方面，提供了一种高速缓冲存储器设备，包括：数据存储器，被配置为存储与存储在主存储器中的多条数据对应的多条高速缓存数据；标签存储器，包括组，并且被配置为将与所述多条高速缓存数据分别对应的多条标签数据存储为所述组，所述多条标签数据均包括N位。所述设备还可包括：标签比较器，被配置为计算包括在由接收到的组地址所指示的组中的所述多条标签数据中的每条标签数据的较高的K位(其中，1≤K<N)与接收到的标签地址的较高的K位之间的差，所述标签地址包括N位，将标签地址与所述多条标签数据中的每条标签数据进行比较，并且基于比较的结果确定存在高速缓存命中还是高速缓存未命中。所述设备还可包括：更新控制器，被配置为响应于高速缓存未命中被确定，基于所述差将所述多条高速缓存数据中的一条高速缓存数据确定为更新候选，并用新数据对更新候选进行更新。更新控制器可被配置为响应于所述差大于或等于预定值，将一条高速缓存数据确定为更新候选。标签比较器可被配置为响应于所述多条标签数据中的任何一条都与标签地址不匹配，确定存在高速缓存未命中，并将所述差输出到更新控制器。更新控制器可被配置为响应于高速缓冲存储器设备接收到均具有相同的
组地址的多个数据请求，基于所述差，针对所述多个数据请求的多条数据中的每条数据将一条高速缓存数据确定为更新候选，并用新数据对在所述多条高速缓存数据中被最频繁地确定为更新候选的一条高速缓存数据进行更新。在另一个总体方面，提供了一种操作高速缓冲存储器设备的方法，所述方法包括：将包括在由接收到的组地址所指示的组中的多条标签数据中的每条标签数据的较高的K位(其中，1≤K<N)与接收到的标签地址的较高的K位进行比较，与多条高速缓存数据分别对应的所述多条标签数据作为所述组，所述多条标签数据均包括N位，所述标签地址包括N位，所述多条高速缓存数据与多条数据对应。所述方法还包括：将所述多条标签数据中的每条标签数据的其他(N-K)位与标签地址的其他(N-K)位进行比较，并且基于比较的结果确定存在高速缓存命中还是高速缓存未命中。所述方法还包括：响应于高速缓存未命中被确定，基于所述多条标签数据中的每条标签数据的较高的K位和标签地址的较高的K位之间的比较结果来将所述多条高速缓存数据中的一条高速缓存数据确定为更新候选，并用新数据对更新候选进行更新。将一条高速缓存数据确定为更新候选的步骤可包括：响应于与一条高速缓存数据对应的本文档来自技高网...

【技术保护点】
一种高速缓冲存储器设备，包括：数据存储器，被配置为存储与存储在主存储器中的多条数据对应的多条高速缓存数据；标签存储器，包括组，并且被配置为将与所述多条高速缓存数据分别对应的多条标签数据存储为所述组，其中，所述多条标签数据均包括N位；标签比较器，被配置为进行以下操作：将包括在由接收到的组地址所指示的组中的所述多条标签数据中的每条标签数据的较高的K位与接收到的标签地址的较高的K位进行比较，其中，1≤K<N，标签地址包括N位，将所述多条标签数据中的每条标签数据的其他(N‑K)位与标签地址的其他(N‑K)位进行比较，基于比较的结果确定存在高速缓存命中还是高速缓存未命中；更新控制器，被配置为响应于高速缓存未命中被确定，基于所述多条标签数据中的每条标签数据的较高的K位和标签地址的较高的K位之间的比较结果来将所述多条高速缓存数据中的一条高速缓存数据确定为更新候选，并用新数据对更新候选进行更新。

【技术特征摘要】
2014.09.17 KR 10-2014-01237041.一种高速缓冲存储器设备，包括：数据存储器，被配置为存储与存储在主存储器中的多条数据对应的多条高速缓存数据；标签存储器，包括组，并且被配置为将与所述多条高速缓存数据分别对应的多条标签数据存储为所述组，其中，所述多条标签数据均包括N位；标签比较器，被配置为进行以下操作：将包括在由接收到的组地址所指示的组中的所述多条标签数据中的每条标签数据的较高的K位与接收到的标签地址的较高的K位进行比较，其中，1≤K<N，标签地址包括N位，将所述多条标签数据中的每条标签数据的其他(N-K)位与标签地址的其他(N-K)位进行比较，基于比较的结果确定存在高速缓存命中还是高速缓存未命中；更新控制器，被配置为响应于高速缓存未命中被确定，基于所述多条标签数据中的每条标签数据的较高的K位和标签地址的较高的K位之间的比较结果来将所述多条高速缓存数据中的一条高速缓存数据确定为更新候选，并用新数据对更新候选进行更新。2.如权利要求1所述的高速缓冲存储器设备，其中，更新控制器被配置为：响应于与一条高速缓存数据对应的一条标签数据的较高的K位与标签地址的较高的K位不匹配，将该条高速缓存数据确定为更新候选。3.如权利要求1所述的高速缓冲存储器设备，其中，标签比较器被配置为：响应于所述多条标签数据中的任何一条都与标签地址不匹配，确定存在高速缓存未命中，并将每条标签数据的较高的K位与标签地址的较高的K位之间的比较结果输出到更新控制器。4.如权利要求1所述的高速缓冲存储器设备，其中，标签比较器被配置为：响应于所述多条标签数据中的任何一条与标签地址匹配，确定存在高速缓存命中。5.如权利要求1所述的高速缓冲存储器设备，还包括：数据输出部，被配置为响应于高速缓存命中被确定，在所述多条高速缓存数据中读取与所述多条标签数据中的和标签地址匹配的标签数据对应的一条高速缓存数据，并输出读取的一条高速缓存数据。6.如权利要求1所述的高速缓冲存储器设备，其中，更新控制器被配置为响应于高速缓冲存储器设备接收到均具有相同的组地址的多个数据请求而执行如下操作：基于针对所述多条数据中的每条数据接收到的标签地址的较高的K位与所述多条标签数据中的每条标签数据的较高的K位之间的比较结果，针对所述多个数据请求的多条数据中的每条数据将一条高速缓存数据确定为更新候选；用新数据对所述多条高速缓存数据中被最频繁地确定为更新候选的一条高速缓存数据进行更新。7.如权利要求6所述的高速缓冲存储器设备，其中，标签比较器还被配置为输出与所述多条数据分别对应的多个比较矢量，其中，所述多个比较矢量中的每个包括的分量的数量与所述组的路的数量相同，响应于所述多条数据中的每条数据的标签地址的较高的K位与所述多条标签数据中的每条标签数据的较高的K位彼此匹配，所述分量指示第一值，响应于所述多条数据中的每条数据的标签地址的较高的K位与所述多条标签数据中的每条标签数据的较高的K位彼此不匹配，所述分量指示第二值；更新控制器被配置为针对所述组的多条路中的每条路对比较矢量的分量值进行求和，并基于求和的分量值，用新数据对与所述多条路中的任意一条路对应的高速缓存数据进行更新。8.如权利要求7所述的高速缓冲存储器设备，其中，第一值为1，第二值为0；更新控制器被配置为用新数据对与所述多条路中具有最小的求和的分量值的路对应的高速缓存数据进行更新。9.一种高速缓冲存储器设备，包括：数据存储器，被配置为存储与存储在主存储器中的多条数据对应的多条高速缓存数据；标签存储器，包括组，并且被配置为将与所述多条高速缓存数据分别对
\t应的多条标签数据存储为所述组，其中，所述多条标签数据均包括N位；标签比较器，被配置为进行以下操作：计算包括在由接收到的组地址所指示的组中的所述多条标签数据中的每条标签数据的较高的K位与接收到的标签地址的较高的K位之间的差，其中，标签地址包括N位，1≤K<N，将标签地址与所述多条标签数据中的每条标签数据进行比较，并且基于比较的结果确定存在高速缓存命中还是高速缓存未命中；更新控制器，被配置为响应于高速缓存未命中被确定，基于所述差将所述多条高速缓存数据中的一条高速缓存数据确定为更新候选，并用新数据对更新候选进行更新。10.如权利要求9所述的高速缓冲存储器设备，其中，更新控制器被配置为：响应于所述差大于或等于预定值，将一条高速缓存数据确定为更新候选。11.如权利要求9所述的高速缓冲存储器设备，其中，标签比较器被配置为：响应于所述多条标签数据中的任何一条都与标签地址不匹配，确定存在高速缓存未命中，并将所述差输出到更新控制器。12.如权利要求9所述的高速缓冲存储器设备，其中，更新控制器被配置为响应于高速缓冲存储器设备接收到均具有相同的组地址的多个数据请求而执行如下操作：基于所述差，针对所述多个数据请求的多条数据中的每条数据，将一条高速缓存数据确定为更新候选；用新数据对所述多条高速缓存数据中被最频繁地确定为更新候选的一条高速缓存数据进行更新。13.一种操作高速缓冲存储器设备的方法，所述方法包括：将包括在由接收到的组地址所指示的组中的多条标签数据中的每条标签数据的较高的K位与接收到的标签地址的较高的K位进行比较，其中，与多条高速缓存数据分别对应的所述多条标签数据作为所述组，所述多条标签数据均包括N位，标签地址包括N位，所述多条高速缓存数据与多条数据对应，其中，1≤K<...

【专利技术属性】
技术研发人员：徐雄，李尚宪，柳秀晶，赵渊坤，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：韩国;KR