CN101221538A - 实现对缓存中数据快速查找的系统和方法 - Google Patents

Abstract

本发明公开了一种实现对Cache中数据快速查找的系统。本发明在系统中设置了CAM，处理器提取出接收到的数据请求中的特征值，并将此特征值输出至CAM；由于CAM中存储了Cache中每一链表项的特征值、且每一链表项的特征值存储于CAM中的位置为该链表项的索引所表示的位置，因而能够将处理器输出的特征值与内部存储的特征值进行比较，并将匹配的特征值所对应的索引输出至处理器。这样，处理器即可按照CAM输出的索引在Cache中读出对应链表项内容字段中的数据而无需处理器运行相关的软件进行链表项的查找和匹配，从而在很大程度上减少对处理器的占用，相比于现有技术提高了查找效率。本发明还公开了一种Cache中数据的快速查找方法。

Description

实现对缓存中数据快速查找的系统和方法

技术领域

本发明涉及缓存(Cache)中的数据查找技术，特别涉及一种实现对Cache中数据快速查找的系统、以及一种Cache中数据的快速查找方法。

背景技术

在存储系统或计算机、服务器系统中，大量的数据存储在磁盘中。为了提高整个系统的性能，一般会将常用的数据先从磁盘中读出并存放到Cache中。这样，只有需要访问的数据不在Cache中时，才会到磁盘中去取数据。

其中，Cache可以是各种静态存储器(SRAM)或动态存储器(SDRAM)。如果在Cache中查找到需要访问的数据，则称之为命中(hit)；如果在Cache中未查找到需要访问的数据，则称之为非命中(miss)，需要直接在磁盘中查找。

Cache的大小在一定程度上决定了系统的性能。Cache越大，可缓存的数据越多，hit的概率越大，对磁盘的访问次数就越少，因而系统性能越高；反之，Cache越小，可缓存的数据越少、miss的概率越大，对磁盘的访问次数就越多，因而系统性能越低。

因此，为了提供较大的Cache，现有技术中通常会利用系统中的部分内存作为Cache。图1为现有利用内存作为Cache的系统结构示意图。如图1所示，桥片中集成了内存控制器，处理器通过桥片中的内存控制器与作为Cache的内存相连。由处理器通过内存控制器在Cache中查找数据。当然，内存控制器也可以集成于处理器中，这样，处理器无需通过桥片而是直接与作为Cache的内存相连。

如图1所示的处理器所能够支持较大的内存，因而Cache也可以很大，以尽可能多地缓存数据从而提高系统性能。对需要更高性能的系统，现有内存的大小也无法满足对Cache容量的要求，因此如图1所示的系统中还可以设置扩展内存来用作Cache。

在上述系统中，数据以链表的形式存放在Cache中，每一链表项通常至少包含如下各字段：用于表示在Cache中位置的索引、用于表示链表项特征的特征值、以及用于存放数据的内容。处理器中运行了用于在Cache中查找数据的软件，并通过该软件所基于的某种算法对Cache中的数据进行查找。

其中，数据请求可以为读请求或写请求，以读请求为例，最简单最常用的一种算法如下：当接收到一个读请求时，处理器提取数据请求中的特征值，然后通过内存控制器并按照索引在Cache中遍历所有链表项，对提取的特征值和遍历到的链表项的特征值进行匹配，如果二者匹配，则认为hit并读出该链表项的内容字段中的数据，然后返回读取的数据；如果遍历了所有链表项后，均未能找到匹配的特征值，则认为miss，处理器会到该Cache的后级缓存或磁盘中查找数据。

由于上述查找过程均是通过处理器所运行的软件来实现的，因而或多或少地都需要占用处理器的处理能力。在Cache越来越大、链表项越来越多的情况下，查找所占用的处理器的处理能力也会越来越多，即便可以通过优化算法来简化查找的处理过程，但仍会由于处理器的负担较大而使得查找效率较低。而且，设计优化算法的难度较大，因而会增加系统的设计难度。

发明内容

有鉴于此，本发明提供了一种实现对Cache中数据快速查找的系统、以及一种Cache中数据的快速查找方法，能够提高查找效率。

本发明提供的一种实现对Cache中数据快速查找的系统，该系统包括：处理器、内存控制器、Cache，

该系统还包括：与所述处理器相连的逻辑器件、与所述逻辑器件相连的内容寻址存储器CAM，其中，

所述处理器提取出接收到的数据请求中的特征值并通过所述逻辑器件输出至所述CAM；按照所述CAM输出的索引，通过所述内存控制器在所述Cache中读出对应链表项内容字段中的数据；

所述CAM存储Cache中每一链表项的特征值，且每一链表项的特征值存储于CAM中的位置为该链表项的索引所表示的位置；接收所述处理器输出的特征值，并将该特征值在CAM中的位置所对应的索引，通过所述逻辑器件输出至所述处理器。

所述处理器在Cache中生成了新的链表项后，进一步将此链表项的特征值通过所述逻辑器件，写入所述CAM中由该链表项的索引所表示的位置；在Cache中的链表项被清除后，进一步通过所述逻辑器件将此链表项的特征值从所述CAM中清除。

所述内存控制器集成于所述处理器中。

所述逻辑器件与所述处理器的外设部件互连标准PCI接口、或PCI-X接口、或PCI-E接口、或串行快速输入输出SRIO接口、或Infinitband接口相连。

该系统进一步包括桥片，所述逻辑器件通过所述桥片与所述处理器相连。

所述内存控制器集成于所述桥片。

所述逻辑器件与所述桥片的PCI接口、或PCI-X接口、或PCI-E接口、或SRIO接口、或Infinitband接口相连。

所述CAM集成于所述逻辑器件中。

本发明提供的一种Cache中数据的快速查找方法，设置一内容寻址存储器CAM，通过逻辑器件与处理器相连，所述CAM中存储所述Cache中每一链表项的特征值，且每一链表项的特征值存储于CAM中的位置为该链表项的索引所表示的位置，该方法包括：

处理器提取出接收到的数据请求中的特征值并通过所述逻辑器件输出至CAM；

CAM接收所述处理器输出的特征值，并将表示该特征值在CAM中的位置所对应的索引通过所述逻辑器件输出至所述处理器；

处理器按照所述CAM输出的索引，通过所述内存控制器在所述Cache中读出对应链表项内容字段中的数据。

每当Cache中生成新的链表项后，该方法进一步包括：处理器将此链表项的特征值，通过所述逻辑器件写入所述CAM中由该链表项的索引所表示的位置；

每当Cache中的链表项被清除，该方法进一步包括：处理器通过所述逻辑器件将此链表项的特征值从所述CAM中清除。

由上述技术方案可见，本发明在系统中设置了CAM，处理器提取出接收到的数据请求中的特征值，并通过逻辑器件输出至CAM；由于CAM中存储了Cache中每一链表项的特征值、且每一链表项的特征值存储于CAM中的位置为该链表项的索引所表示的位置，因而能够将处理器输出的特征值与内部存储的特征值进行比较，并将匹配的特征值所对应的索引通过逻辑器件输出至处理器。这样，处理器即可按照CAM输出的索引，并通过内存控制器在Cache中读出对应链表项内容字段中的数据而无需处理器运行相关的软件进行链表项的查找和匹配，从而不会占用处理器的处理能力，即便Cache较大、链表项较多，也不会降低查找效率，因而相比于现有技术，提高了查找效率。

附图说明

图1为现有利用内存作为Cache的系统结构示意图。

图2a和2b为本发明实施例中实现对Cache中数据快速查找的系统。

图3为本发明实施例中Cache中数据的快速查找方法的示例性流程图。

图4为本发明实施例中读访问过程中Cache的数据快速查找流程图。

图5为本发明实施例中写访问过程中Cache的数据快速查找流程图。

具体实施方式

为使本发明的目的、技术方案及优点更加清楚明白，以下参照附图并举实施例，对本发明进一步详细说明。

本发明在系统中引入了内容寻址存储器(CAM)，替代运行在处理器中用于在Cache中查找数据的软件。其中，CAM的工作原理是接收输入的“内容”，如果CAM中存储了该“内容”，则输出该“内容”在CAM中对应的“地址”。

在Cache中每生成一新的链表项之后，将该链表项的特征值作为“内容”并写入到CAM中由该链表项的索引所表示的位置，这样，链表项的索引即对应如上所述的CAM中存储“内容”的“地址”。当有数据请求到来时，处理器提取出数据请求中的特征值并输入至CAM的比较输入接口，由于CAM中存储了各链表项的特征值，因而特征值即为CAM中存储的“内容”，然后由CAM将输入的“内容”与内部存储的所有“内容”逐一进行比较，如果存在匹配的特征值，即CAM中已存储了输入的“内容”，则将表示该特征值在CAM中位置的索引输出，即输出“内容”对应的“地址”。这样，处理器即可按照CAM输出的索引在Cache中读出对应链表项内容字段中的数据。

可见，本发明在Cache中查找数据无需处理器运行相关的软件进行链表项的查找和匹配，从而不会占用处理器的处理能力，即便Cache较大、链表项较多，也不会降低查找效率，因而相比于现有技术，提高了查找效率。

图2a和2b为本发明实施例中实现对Cache中数据快速查找的系统。如图2所示，本实施例中实现对Cache中数据快速查找的系统，包括如图1所示的处理器、内存控制器、桥片、作为Cache的内存，但不同于图1之处在于该系统还包括CAM。

在如图2a所示的系统中，桥片中集成了内存控制器，因而处理器通过桥片中的内存控制器与Cache相连。

由于CAM的比较输入接口一般不能直接与内存控制器连接，因此如图2a所示的系统中还包括一逻辑器件，该逻辑器件与桥片提供的接口相连接，比如外设部件互连标准(PCI)接口、或PCI-X接口、或PCI-E接口、或串行快速输入输出(SRIO)接口、或Infinitband接口等并行或串行接口，然后通过桥片与处理器相连。当然，CAM可以集成在逻辑器件中。需要说明的是，虽然目前比较流行的CAM一般不能直接与内存控制器连接，但很显然本领域技术人员很清楚，随着硬件技术的发展，这一限制有可能被突破。另外，虽然本发明描述的较佳实施方式推荐硬件的CAM，然而随着通用硬件性能的不断提高，CAM的实现方式有可能以软件+通用硬件的方式实现，本发明在此将CAM从逻辑意义上定义为“命中查找模块”(Hit SearchModule)，其可以分担处理工作；或者进一步提供高Cache查找速度。

处理器，在接收到数据请求后，提取出接收到的数据请求中的特征值并通过桥片输出至逻辑器件，由逻辑器件来实现如前所述的串行或并行接口与CAM比较输入接口之间的转换和地址映射，并将实现接口转换后的特征值输出至CAM。

CAM，存储Cache中每一链表项的特征值，且每一链表项的特征值存储于CAM中的位置为该链表项的索引所表示的位置；接收处理器输出的特征值，并将该特征值与内部存储的各特征值进行比较，如果存在匹配的特征值，则将表示该特征值在CAM中的位置所对应的索引输出至逻辑器件，由逻辑器件来实现CAM的输出接口与如前所述的串行或并行接口之间的转换和地址映射，并将实现接口转换后的索引输出至处理器。

其中，特征值的类型往往不是动态改变的，而是固定的，例如数据在磁盘中的磁盘扇区地址，通常为32位或64位。

这样，处理器接收到CAM输出的索引后，则认为hit，按照CAM输出的索引，通过内存控制器在Cache中查找到对应链表项内容字段中的数据，而无需运行相关的软件；如果CAM中不存在匹配的特征值，则认为miss，由处理器直接从磁盘中查找数据。

上述系统中，为了保证CAM中存储Cache中每一链表项的特征值及其对应的索引，处理器每当Cache中生成了新的链表项后，就将此链表项的特征值，通过逻辑器件写入CAM中由该链表项的索引所表示的位置。较佳地，Cache中每一链表项是按照索引顺序逐一建立的，则处理器可以按照索引顺序将对应特征值写入CAM。

假设，磁盘中的数据1被存放至Cache中索引1所表示的位置，从而建立了链表项1，以备后续的读取，则处理器将数据1在磁盘中的磁盘扇区地址1作为特征值1，并按照索引顺序写入至CAM中索引1所表示的存储位置。此后，数据2由外部写入至Cache中的索引2所对应的位置，从而建立了链表项2，以备后续将数据2刷新至磁盘中的磁盘扇区地址2所对应的存储空间，则处理器将数据2在磁盘中的磁盘扇区地址2作为特征值2，并按照索引顺序写入至CAM中索引2所表示的存储位置。再之后，如果还有其他数据从磁盘读取至Cache中或有外部数据写入至Cache中索引i所表示的位置，从而建立链表项i，则也按照上述方式顺序将链表项i的特征值i写入CAM中索引i所表示的存储位置，其中，i为大于2的正整数。

当处理器认为Cache中某些表项的使用率较低时，可以将这些表项从Cache中删除，以留出空间给被更加频繁使用的数据。所以当Cache中的链表项被清除，则处理器也会清除CAM中该链表项的索引所表示的特征值。

如图2a所示的系统结构仅为一实施例，实际应用中还可以采用如图2b所示的系统结构替换。参见图2b，内存控制器集成在处理器中，这样，处理器可以直接与Cache相连而无需通过桥片，且逻辑器件也可直接与处理器提供的PCI、PCI-X、PCI-E、SRIO、Infinitband等并行或串行接口相连，也无需通过桥片与处理器相连。

实际应用中，作为Cache的内存可以为多个、或进一步设置扩展内存也作为Cache，从而构成多级缓存。这种情况下，可以为每个Cache分别设置一个对应的CAM，然后在第一级Cache对应的CAM未找到匹配的特征值之后，还可以将从数据请求中提取的特征值输入至下一级Cache对应的CAM，由该CAM再次进行特征值匹配，依此类推，在每一级Cache对应的CAM中均没有匹配的特征值之后，处理器再从磁盘中查找。

以上是对本发明中实现对Cache中数据快速查找的系统的说明，下面，再对本发明中Cache中数据的快速查找方法进行详细说明。

图3为本发明实施例中Cache中数据的快速查找方法的示例性流程图。预先设置一CAM，通过逻辑器件与处理器相连，此处所述的相连可以使逻辑器件直接与处理器提供的接口相连、也可以是通过桥片提供的接口间接地与处理器相连，CAM中存储Cache中每一链表项的特征值，且每一链表项的特征值存储于CAM中的位置为该链表项的索引所表示的位置，如图3所示，该方法包括：

步骤301，处理器提取出接收到的数据请求中的特征值并通过逻辑器件输出至CAM。

步骤302，CAM接收处理器输出的特征值，并将表示该特征值在CAM中的位置所对应的索引，通过逻辑器件输出至处理器。

步骤303，处理器按照CAM输出的索引，通过内存控制器在Cache中读出对应链表项内容字段中的数据。

至此，本流程结束。

由上述流程可见，处理器在Cache中查找数据无需运行相关的软件，从而不会占用处理器的处理能力，即便Cache较大、链表项较多，也不会降低查找效率，因而相比于现有技术，提高了查找效率。

为了保证CAM中存储Cache中每一链表项的特征值及其对应的索引，在上述执行上述流程之前同时，每当Cache中生成了新的链表项后，处理器就将此链表项的特征值，通过逻辑器件写入CAM中由该链表项的索引所表示的位置；每当Cache中的链表项被清除，处理器通过逻辑器件将此链表项的特征值从CAM中清除。

下面，分别以数据请求为读请求和写请求为例，对上述方法进行进一步说明。

图4为本发明实施例中读访问过程中Cache的数据快速查找流程图。如图4所示，基于如图2a所示的系统，在处理器接收到读请求之后，该过程包括：

步骤401，处理器从接收到的读请求中提取特征值，并通过桥片和逻辑器件输出至CAM。

步骤402，CAM将接收到的特征值与内部存储的Cache中所有链表项特征值进行匹配，如果找到匹配的特征值，则执行步骤403，否则，执行步骤405。

步骤403，将表示匹配的特征值在CAM中的位置所对应的索引通过逻辑器件和桥片输出至处理器，并执行步骤404。

步骤404，处理器按照CAM输出的索引，通过内存控制器在Cache中查找到对应链表项内容字段中的数据，读取该数据并返回给发送读请求的请求方，然后结束本流程。

步骤405，处理器根据提取出的特征值所表示的磁盘扇区地址，直接在磁盘中查找并读取读请求所需数据，并返回给发送读请求的请求方，然后结束本流程。

至此，本流程结束。

图5为本发明实施例中写访问过程中Cache的数据快速查找流程图。如图5所示，基于如图2a所示的系统，在处理器接收到写请求之后，该过程包括：

步骤501，处理器从接收到的写请求中提取特征值，并通过桥片和逻辑器件输出至CAM。

步骤502，CAM将接收到的特征值与内部存储的Cache中所有链表项特征值进行匹配，如果找到匹配的特征值，则执行步骤503，否则，执行步骤505。

步骤503，将表示匹配的特征值在CAM中的位置所对应的索引通过逻辑器件和桥片输出至处理器，并执行步骤504。

步骤504，处理器按照CAM输出的索引，通过内存控制器在Cache中查找到对应链表项内容字段中的数据，并将查找到的数据替换为待写入的写数据，然后结束本流程。

步骤505，处理器根据提取出的特征值所表示的磁盘扇区地址，直接在磁盘中查找，并将查找到的数据替换为待写入的写数据，然后结束本流程。

至此，本流程结束。

由上述实施例可见，本发明中无需在处理器中运行软件进行链表项的查找和匹配，因而会减少对处理器的占用，并且能够进一步提高了查找速度，且无需设计软件所基于的各种算法，降低了系统设计的复杂性。

根据以上的介绍，本领域从逻辑意义上根据上面披露的实施方式，可以轻易设计相应的网络存储设备，用于磁盘阵列与主机之间以处理来自主机的数据请求，这样的网络存储设备其他设计可参考现有技术，基于本发明实现的部分至少包括以下部件：主处理程序，缓存以及命中查找模块。其中所述主处理程序，用以响应主机向磁盘阵列发起的数据请求，输出数据请求的特征，并用以根据命中查找模块输出的缓存命中信息从缓存中或者磁盘阵列中读出数据；所述命中查找模块，保存有数据请求的特征与缓存命中信息的对应关系，并用以根据所述数据请求的特征输出缓存命中信息，其中所述命中信息表征缓存中数据存放位置或数据是否在缓存中。

以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内，所作的任何修改、等同替换以及改进等，均应包含在本发明的保护范围之内。

Claims (11)

1.一种实现对缓存Cache中数据快速查找的系统，该系统包括：处理器、内存控制器、Cache，其特征在于，

该系统还包括：与所述处理器相连的逻辑器件、与所述逻辑器件相连的内容寻址存储器CAM，其中，

所述处理器提取出接收到的数据请求中的特征值并通过所述逻辑器件输出至所述CAM；按照所述CAM输出的索引，通过所述内存控制器在所述Cache中读出对应链表项内容字段中的数据；

所述CAM存储Cache中链表项的特征值，且链表项的特征值存储于CAM中的位置为该链表项的索引所表示的位置；接收所述处理器输出的特征值，并将该特征值在CAM中的位置所对应的索引，通过所述逻辑器件输出至所述处理器。

2.如权利要求1所述的系统，其特征在于，

所述处理器在Cache中生成了新的链表项后，进一步将此链表项的特征值通过所述逻辑器件，写入所述CAM中由该链表项的索引所表示的位置；在Cache中的链表项被清除后，进一步通过所述逻辑器件将此链表项的特征值从所述CAM中清除。

3.如权利要求2所述的系统，其特征在于，所述内存控制器集成于所述处理器中。

4.如权利要求3所述的系统，其特征在于，所述逻辑器件与所述处理器的外设部件互连标准PCI接口、或PCI-X接口、或PCI-E接口、或串行快速输入输出SRIO接口、或Infinitband接口相连。

5.如权利要求2所述的系统，其特征在于，该系统进一步包括桥片，所述逻辑器件通过所述桥片与所述处理器相连。

6.如权利要求5所述的系统，其特征在于，所述内存控制器集成于所述桥片。

7.如权利要求5所述的系统，其特征在于，所述逻辑器件与所述桥片的PCI接口、或PCI-X接口、或PCI-E接口、或SRIO接口、或Infinitband接口相连。

8.如权利要求1至6中任意一项所述的系统，其特征在于，所述CAM集成于所述逻辑器件中。

9.一种缓存Cache中数据的快速查找方法，其特征在于，设置一内容寻址存储器CAM，通过逻辑器件与处理器相连，所述CAM中存储所述Cache中每一链表项的特征值，且每一链表项的特征值存储于CAM中的位置为该链表项的索引所表示的位置，该方法包括：

处理器提取出接收到的数据请求中的特征值并通过所述逻辑器件输出至CAM；

CAM接收所述处理器输出的特征值，并将表示该特征值在CAM中的位置所对应的索引通过所述逻辑器件输出至所述处理器；

处理器按照所述CAM输出的索引，通过所述内存控制器在所述Cache中读出对应链表项内容字段中的数据。

10.如权利要求9所述的方法，其特征在于，

每当Cache中生成新的链表项后，该方法进一步包括：处理器将此链表项的特征值，通过所述逻辑器件写入所述CAM中由该链表项的索引所表示的位置；

每当Cache中的链表项被清除，该方法进一步包括：处理器通过所述逻辑器件将此链表项的特征值从所述CAM中清除。

11.一种网络存储设备，位于磁盘阵列与主机之间，用以处理来自主机的数据请求，包括：主处理程序，缓存以及命中查找模块；

主处理程序，用以响应主机向磁盘阵列发起的数据请求，输出数据请求的特征，并用以根据命中查找模块输出的缓存命中信息从缓存中或者磁盘阵列中读出数据；

命中查找模块，保存有数据请求的特征与缓存命中信息的对应关系，并用以根据所述数据请求的特征输出缓存命中信息，其中所述命中信息表征缓存中数据存放位置或数据是否在缓存中。

Images