CN102270180A - 一种多核处理器高速缓存及其管理方法 - Google Patents

Abstract

本发明涉及计算机系统结构技术领域，提出了一种多核处理器高速缓存及其管理方法。本发明中通过对多核处理器的处理器核进行分组，在每个分组中增加组标签部件，实现了组内一级高速缓存的共享，可以从组内直接获得数据，减少了对二级高速缓存的访问次数，降低了多核处理器访问存储系统的平均延迟，同时也减少了多核处理器片上网络的流量，提高了多核处理器的整体性能；此外，本发明中的二级高速缓存的目录中只需要维护每个组的访问情况，节省了目录存储空间，降低了对目录的访问和维护操作所需的延迟，更利于多核处理器规模的扩展。

Description

一种多核处理器高速缓存及其管理方法

技术领域

本发明涉及计算机系统结构技术领域，特别涉及一种多核处理器高速缓存及其管理方法。

背景技术

传统的单核处理器通过提高运行频率来提高计算性能，然而，单纯增加晶体管数目不仅耗用大量晶体管资源，而且随着时钟频率不断攀升，微处理器的功耗也迅速增加。提高芯片性能和减少能耗成为矛盾，单核处理器的性能提升已遇到瓶颈。为解决这一问题，多核处理器的设计思想应运而生。通过在单个芯片上集成多个高效内核，就可以在保持工作频率的条件下实现性能的提升，以获得更高的能效。

在多核处理器中，分片式片上多核处理器是一种较为通用的结构，在多核处理器的体系结构研究中被广泛采用。其中，每个节点(分片)由处理器核(包含一级高速缓存)、二级高速缓存和片上网络路由器等模块构成，各节点间通过片上2D mesh网络连接，构成一个分片式多核处理器(Tiled Multicore Processors)。分片式多核处理器可以使设计人员集中在单片(Tile)的设计上，随后将单片的设计复制到整个芯片，简化了设计和制造过程。这样的结构具有很好的扩展性，可以应用在大规模的多核处理器中。

根据摩尔定律，计算机处理器的性能每18至24个月增加一倍，然而，内存的访问速度仅以每年7％-10％的速度增长，远远落后于处理器的增长速度。相对于处理器来说，内存访问延迟以每十年5倍的速度增长，处理器与存储器的差距不断增加，造成了系统结构的失衡，形成了阻碍性能提升的“存储墙”，多核处理器中数据处理速度和存储器访问速度之间的不匹配会导致多核处理器资源利用的不平衡，阻碍多核处理器系统吞吐率的提高，从而使得对存储系统的访问成为整个计算机系统的性能瓶颈。

为解决“存储墙”问题，进一步提高多核处理器的性能，片上高速缓存的管理成为多核处理器研究中的一个重要问题。高速缓存管理技术的目的是降低访问延迟和减少片外访问次数。在高速缓存管理技术中，有两种主要的方法：一种是改变高速缓存的组织方式，采用私有高速缓存和共享高速缓存混合的组织结构，这种方法扩展性差，无法应用在大规模多核处理器中；另一种是通过复制和迁移技术，在共享二级高速缓存结构的基础上，减少远程高速缓存访问，降低访问延迟，或者在私有二级高速缓存结构的基础上，增加片上高速缓存的有效容量，降低片外存储器访问延迟。这些方法的共同点是对二级高速缓存的复制和迁移，由此造成了在二级高速缓存中查找时的高延迟，结构复杂，扩展性差，减少了二级高速缓存的有效容量，增加了面积和功耗，有的方法还需要修改操作系统。

发明内容

(一)要解决的技术问题

针对现有技术的缺点，本发明为了解决现有技术中片上高速缓存管理时在二级高速缓存中查找效率低的问题，提出了一种多核处理器高速缓存及其管理方法，通过对多核处理器的核进行分组，在每个分组中增加组标签部件，实现了组内一级高速缓存的共享，减少了对二级高速缓存的访问次数，提高了多核处理器的整体性能。

(二)技术方案

为实现上述目的，本发明采用如下技术方案：

一种多核处理器高速缓存，所述多核处理器包括至少四个节点，所述多核处理器高速缓存中：

一级高速缓存为每个处理器核私有，二级高速缓存为所有处理器核分布式共享，每个节点由包含一级高速缓存的处理器核、二级高速缓存和片上网络路由器构成，各节点间通过所述片上网络路由器连接形成2D mesh网络；

其中，每相邻的四个节点构成一个分组，每个分组设置有一个组标签单元，所述组标签单元中复制了相应分组中四个处理器核的一级高速缓存的标签和状态，用于在组内实现一级高速缓存数据的共享。

优选地，所述组标签单元的每一行由组内四个一级高速缓存中相应行的标签和状态部分依次组成。

优选地，在所述二级高速缓存中以行为单位维护高速缓存的一致性，每一行包括地址标签、数据、状态和共享目录，其中，共享目录是一个宽度为所述多核处理器中分组数目的位向量，用来标识分组对此高速缓存行的访问情况。

更进一步地，本发明还同时提供一种多核处理器高速缓存的管理方法，应用于如上所述的多核处理器高速缓存中，所述方法包括步骤：

S1，第一处理器核请求访问数据x；

S2，首先在所述第一处理器核的一级高速缓存中查找，当所述数据x在一级高速缓存中命中时，转到步骤S10进行本地读或写；当所述数据x在一级高速缓存中未命中时，所述第一处理器核访问其所在分组的组标签单元，执行步骤S3；

S3，当所述数据x在组标签中命中时，继续执行步骤S4；当所述数据x在组标签中未命中时，转到步骤S6；

S4，由组标签单元向分组内拥有所述数据x的第二处理器核请求所述数据x进行组内读或写；

S5，所述第二处理器核收到组标签单元的组内读或写请求后，处理该请求并向所述第一处理器核的一级高速缓存传送数据x，继续执行步骤S10；

S6，所述第一处理器核向二级高速缓存请求所述数据x，当二级高速缓存中包含所述数据x时，转到步骤S9；当二级高速缓存中未包含所述数据x时，向其它分组或内存请求所述数据x，继续执行步骤S7；

S7，当所述数据x在某个分组中的一级高速缓存中时，二级高速缓存向包含所述数据x的分组转发请求进行组外读或写，继续执行步骤S8；当所述数据x未在任何分组的一级高速缓存中时，二级高速缓存从内存中取得所述数据x，转到步骤S9；

S8，包含所述数据x的分组收到组外读或写请求后，处理该请求并向请求所述数据x的所述第一处理器核的一级高速缓存传送数据，转到步骤S10；

S9，二级高速缓存向所述第一处理器核的一级高速缓存传送数据x；

S10，所述第一处理器核的一级高速缓存将数据x传送给所述第一处理器核进行本地读或写。

优选地，步骤S4-S5中，当进行组内读或写时执行以下一种或多种处理：

若所述第二处理器核拥有独占状态的数据x，当同分组中的所述第一处理器核请求读数据x时，所述第二处理器核收到请求后向所述第一处理器核发送数据x并将所述第二处理器核中数据x的状态转换为组独占状态，所述第一处理器核收到数据x后，将数据x的状态设定为组独占状态；

若所述第二处理器核拥有修改状态的数据x，当同分组中所述第一处理器核请求读数据x时，所述第二处理器核收到请求后向所述第一处理器核发送数据x并将所述第二处理器核中数据x的状态转换为组修改状态，所述第一处理器核收到数据x后，将数据x的状态设定为组修改状态；

若所述第二处理器核拥有独占或修改状态的数据x，当同分组中的所述第一处理器核请求写数据x时，所述第二处理器核收到请求后向所述第一处理器核发送数据x并将所述第二处理器核中数据x的状态转换为无效状态，所述第一处理器核收到数据x后，将数据x的状态设定为修改状态；

若一个分组内一个或多个处理器核拥有组独占状态的数据x，当同分组中的所述第一处理器核请求读数据x时，向拥有数据x的某个第二处理器核发送读请求，所述第二处理器核收到请求后向所述第一处理器核发送数据x，所述第一处理器核收到数据x后，将数据x的状态设定为组独占状态；

若一个分组内一个或多个处理器核拥有组修改状态的数据x，当同分组中的所述第一处理器核请求读数据x时，向拥有数据x的某个第二处理器核发送读请求，所述第二处理器核收到请求后向所述第一处理器核发送数据x，所述第一处理器核收到数据x后，将数据x的状态设定为组修改状态；

若一个分组内一个或多个处理器核拥有组独占或组修改状态的数据x，当同分组中的所述第一处理器核请求写数据x时，所述第一处理器核向拥有数据x的某个第二处理器核发送写请求，同时向其它拥有数据x的核发送无效消息，所述第二处理器核收到请求后向所述第一处理器核发送数据x并将所述第二处理器核中数据x的状态转换为无效状态，组内其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态，所述第一处理器核收到数据x和无效消息应答后，将数据x的状态设定为修改状态；

若一个分组内一个或多个核拥有共享状态的数据x，当同分组中的所述第一处理器核读数据x时，所述第一处理器核向拥有数据x的某个所述第二处理器核发送读请求，所述第二处理器核收到请求后向所述第一处理器核发送数据x，所述第一处理器核收到数据x后，将数据x的状态设定为共享状态；

若一个分组内一个或多个核拥有共享状态的数据x，当同分组中的所述第一处理器核写数据x时，所述第一处理器核向拥有数据x的某个所述第二处理器核发送写请求，同时向组内其它拥有数据x的核发送无效消息，向宿主节点发送数据更新消息，所述第二处理器核收到请求后向所述第一处理器核发送数据x并将数据x的状态转换为无效状态，其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态，宿主节点收到数据更新消息后会给其它共享数据x的组发送无效消息，所述第一处理器核收到数据x、更新消息和无效消息的应答后，将数据x的状态设定为修改状态。

优选地，步骤S7-S8中，当进行组外读或写时执行以下一种或多种处理：

若一个分组内拥有独占、组独占、修改或组修改状态的数据x，当分组外的所述第一处理器核读数据x时，所述第一处理器核向宿主节点发送读请求，宿主节点将所述第一处理器核的请求转发给拥有数据x的分组，分组收到请求后将数据x发送给所述第一处理器核并且组内的所有拥有数据x的核将数据x的状态转换为共享状态，所述第一处理器核收到数据x后，将数据x的状态设定为共享状态；

若一个分组内拥有独占、组独占、修改或组修改状态的数据x，当分组外的所述第一处理器核写数据x时，所述第一处理器核向宿主节点发送写请求，宿主节点将所述第一处理器核的请求转发给拥有数据x的分组，该分组收到请求后将数据x发送给所述第一处理器核并且组内的所有拥有数据x的核将数据x的状态转换为无效状态，所述第一处理器核收到数据x后，将数据x的状态设定为修改状态。

优选地，步骤S10中，当进行本地读或写时执行以下一种或多种处理：

若一个分组内一个或多个核拥有独占、组独占、修改、组修改或共享状态的数据x，当分组中某个拥有数据x的所述第一处理器核读数据时可以直接从其一级高速缓存中得到数据，数据x的状态不变；

若一个分组内拥有独占状态的数据x，当分组中拥有数据x的所述第一处理器核写数据时可以直接写其一级高速缓存中的数据x，并将数据x的状态修改为修改状态；

若一个分组内拥有修改状态的数据x，当分组中拥有数据x的所述第一处理器核写数据时可以直接写其一级高速缓存中的数据x，数据x的状态不变；

若一个分组内拥有组独占或组修改状态的数据x，当分组中某个拥有数据x的所述第一处理器核写数据时，向组内其它拥有数据x的核发送无效消息，组内其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态，所述第一处理器核收到无效消息应答后，将数据x的状态设定为修改状态；

若一个分组内一个或多个核拥有共享状态的数据x，当分组中某个拥有数据x的所述第一处理器核写数据时，所述第一处理器核向宿主节点发送数据更新消息，同时向组内其它拥有数据x的核发送无效消息，其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态，宿主节点收到数据更新消息后会给其它共享数据x的组发送无效消息，所述第一处理器核收到更新消息和无效消息的应答后，将数据x的状态转换为修改状态。

其中，上述各处理中的宿主节点指存储数据x的二级高速缓存节点。

优选地，当收到涉及数据x的无效消息时，执行以下处理：

一个核或一个分组收到涉及数据x的无效消息时，将数据x无效后，给无效消息请求者发无效消息的应答。

(三)有益效果

本发明提供的多核处理器高速缓存及其管理方法通过对多核处理器的核进行分组，在每个分组中增加组标签部件，实现了组内一级高速缓存的共享，可以从组内直接获得数据，减少了对二级高速缓存的访问次数，降低了多核处理器访问存储系统的平均延迟，同时也减少了多核处理器片上网络的流量，提高了多核处理器的整体性能；此外，本发明中的二级高速缓存的目录中只需要维护每个组的访问情况，节省了目录存储空间，降低了对目录的访问和维护操作所需的延迟，更利于多核处理器规模的扩展。

附图说明

图1是本发明的多核处理器高速缓存的结构示意图；

图2是本发明中组标签的组织结构示意图；

图3是本发明中二级高速缓存行目录与现有技术中二级高速缓存的结构对比示意图；

图4是本发明中某处理器核对多核处理器高速缓存进行数据访问时的高速缓存管理方法流程图；

图5是本发明中基于分组管理的多核处理器高速缓存一致性协议状态转换的示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其它实施例，都属于本发明保护的范围。

本发明首先提出了一种具有特定高速缓存组织结构的多核处理器高速缓存，以多核处理器为基础架构，其片上高速缓存由两级构成，一级高速缓存为每个核私有，二级高速缓存为分布式共享，使用基于目录管理的高速缓存一致性协议。其中，如图1所示，各附图标记表示的含义为：R，路由器；CPU，处理器核；L1$，一级高速缓存；L2$，二级高速缓存；Group Tag，组标签；在图1中，虚线框表示了一个分组。

可以看出，在本发明的多核处理器高速缓存中，将相邻的四个节点定义为一个分组，每个分组中增加一个称为组标签的单元，组标签中复制了分组中四个核的一级高速缓存的标签和状态部分。处理器核访问数据时，在其一级高速缓存未命中的情况下，若该数据的地址标签在组标签中存在且为有效状态，即所访问的数据在分组内的其它核的一级高速缓存中存在，称为组标签命中，反之，若该数据的地址标签在组标签中不存在，即所访问的数据在分组内的其它核的一级高速缓存中不存在，称为组标签未命中。

具体地，如图2所示，其给出了本发明中一级高速缓存中每行的构成以及组标签中每行的构成，各附图标记表示的含义为：R，路由器；CPU，处理器核；L1$，一级高速缓存；L2$，二级高速缓存；Group Tag，组标签；L1 Tag，一级高速缓存中一行的标签；L1 State，一级高速缓存中一行的状态；L1 Data，一级高速缓存中一行的数据。可以看出，在每个分组所述组标签单元中，组标签的每一行由组内四个一级高速缓存中相应行的标签(Tag)和状态(State)部分组成，通过对组标签的访问实现组内一级高速缓存的共享，减少了对二级高速缓存的访问次数，降低了多核处理器访问存储系统的平均延迟，减少了多核处理器片上网络的流量。

此外，如图3所示，本发明还对二级高速缓存的每行构成进行了优化，图3中各附图标记表示的含义为：Tag，二级高速缓存中一行的标签；S，二级高速缓存中一行的状态；Data，二级高速缓存中一行的数据；Dir，二级高速缓存中一行的目录。可以看出，本发明更进一步地优化了目录向量：在二级高速缓存中以行为单位维护一致性，每一行包括地址标签、数据、状态和共享目录，其中共享目录是一个宽度为系统中分组数目的位向量，用来标识分组对此高速缓存行的访问情况。设多核处理器中有p个处理器核，每个二级高速缓存块有n个行，则一块二级高速缓存中维护共享信息的目录向量需要(n×p)/4位，整个片上二级高速缓存中共需要(n×p²)/4位。相对于现有技术的二级高速缓存，本发明中的二级高速缓存可以节省3/4的目录存储空间；且二级高速缓存向一级高速缓存发送无效消息时以组为单位，而不是以核为单位，这种方式进一步降低了对目录的访问和维护操作所需的延迟，更利于多核处理器规模的扩展。

在本发明中，某处理器核对多核处理器高速缓存进行数据访问时的高速缓存管理方法如图4所示，具体包括步骤：

S1，第一处理器核请求访问数据x；

S2，首先在所述第一处理器核的一级高速缓存中查找，当所述数据x在一级高速缓存中命中时，转到步骤S10进行本地读或写；当所述数据x在一级高速缓存中未命中时，所述第一处理器核访问其所在分组的组标签单元，执行步骤S3；

S3，当所述数据x在组标签中命中时，继续执行步骤S4；当所述数据x在组标签中未命中时，转到步骤S6；

S4，由组标签单元向分组内拥有所述数据x的第二处理器核请求所述数据x进行组内读或写；

S5，所述第二处理器核收到组标签单元的组内读或写请求后，处理该请求并向所述第一处理器核的一级高速缓存传送数据x，继续执行步骤S10；

S6，所述第一处理器核向二级高速缓存请求所述数据x，当二级高速缓存中包含所述数据x时，转到步骤S9；当二级高速缓存中未包含所述数据x时，向其它分组或内存请求所述数据x，继续执行步骤S7；

S7，当所述数据x在某个分组中的一级高速缓存中时，二级高速缓存向包含所述数据x的分组转发请求进行组外读或写，继续执行步骤S8；当所述数据x未在任何分组的一级高速缓存中时，二级高速缓存从内存中取得所述数据x，转到步骤S9；

S8，包含所述数据x的分组收到组外读或写请求后，处理该请求并向请求所述数据x的所述第一处理器核的一级高速缓存传送数据，转到步骤S10；

S9，二级高速缓存向所述第一处理器核的一级高速缓存传送数据x；

S10，所述第一处理器核的一级高速缓存将数据x传送给所述第一处理器核进行本地读或写。

多核处理器中多个核之间数据的一致性由高速缓存一致性协议保证，MESI协议是目前常用的高速缓存一致性协议，一级高速缓存中有修改(Modified)，独占(Exclusive)，共享(Shared)，无效(Invalid)四个稳定状态。在本发明中，对MESI一致性协议进行了优化，形成基于分组管理的MESI协议(GMESI协议)。与MESI相比，GMESI协议中，在一级高速缓存中增加组独占(Group Exclusive)和组修改(Group Modified)两个稳定状态。组独占指一个数据仅在一个分组中拥有，可能在组内的一个或多个核中存在，分组中的数据与二级高速缓存中的数据是一致的，组内核对该数据的读写访问均不需要到二级高速缓存取数据；组修改是指该组拥有被修改过数据，该数据可能在组内的一个或多个核中存在，分组中的数据是唯一正确的数据，二级高速缓存中的数据是不正确的数据，组内核对该数据的读写访问均不需要到二级高速缓存中取数据。

在本发明中新的多核处理器高速缓存结构下，对一级高速缓存中数据的访问分为六种情况，包括本地读、本地写、组内读、组内写、组外读、组外写：本地读、本地写分别指一个核对自己的一级高速缓存中数据的读写访问；组内读、组内写分别指一个分组内的其它核对本核数据的读写访问；组外读、组外写分别指分组外的核对本组数据的读写访问。

具体地，如图5所示，其表示了在本发明的方法中进一步提出的GMESI协议的状态转换拓扑图，其中各节点表示数据所处状态，各有向边表示从一种状态向另一种状态转换时可能进行的操作。各附图标记表示的具体含义为：I，无效状态；S，共享状态；M，修改状态；E，独占状态；GE，组独占状态；GM，组修改状态；R_l，本地核的读访问；W_l，本地核的写访问；R_g，组内其它核的读访问；W_g，组内其它核的写访问；R_r，组外其它核的读访问；W_r，组外其它核的写访问；R_l(S′)，从二级高速缓存或组内其它核的一级高速缓存中得到数据，且该数据是共享状态；R_l(～S′)，从二级高速缓存中得到数据，且该数据在二级高速缓存中不是共享状态；R_l(E′)，从组内其它核的一级高速缓存中得到数据，且该数据在分组内的其它核中为E状态或GE状态；R_l(M′)，从组内其它核的一级高速缓存中得到数据，且该数据在分组内的其它核中为M状态或GM状态；Inv，无效消息。

可以看出，在本发明中，根据对共享数据的具体操作，可能进行的状态转换过程有以下几种情况(在下述处理中，将存储数据x的二级高速缓存节点称为宿主节点)：

(2-1)若核A拥有独占、组独占、修改、组修改或共享状态的数据x，当核A读数据时可以直接从其一级高速缓存中得到数据，数据x的状态不变；

(2-2)若核A拥有独占状态的数据x，当核A写数据时可以直接写其一级高速缓存中的数据x，并将数据x的状态修改为修改状态；

(2-3)若核A拥有修改状态的数据x，当核A写数据时可以直接写其一级高速缓存中的数据x，数据x的状态不变；

(2-4)若核A拥有组独占或组修改状态的数据x，当若核A写数据时，向组内其它拥有数据x的核发送无效消息，组内其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态，核A收到无效消息应答后，将数据x的状态设定为修改状态；

(2-5)若核A拥有共享状态的数据x，当核A写数据时，向宿主节点发送数据更新消息，同时向其它拥有数据x的核发送无效消息，其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态，宿主节点收到数据更新消息后给其它共享数据x的组发送无效消息，核A收到更新消息和无效消息的应答后，将数据x的状态转换为修改状态；

(2-6)若核A拥有独占状态的数据x，当同组中的核B读数据x时，核B向核A发送读请求。核A收到请求后向核B发送数据x并将核A中数据x的状态转换为组独占状态。核B收到数据x后，将数据x的状态设定为组独占状态；

(2-7)若核A拥有修改状态的数据x，当同组中核B读数据x时，核B向核A发送读请求。核A收到请求后向核B发送数据x并将核A中数据x的状态转换为组修改状态。核B收到数据x后，将数据x的状态设定为组修改状态；

(2-8)若核A拥有独占或修改状态的数据x，当同组中核B写数据x时，核B向核A发送写请求。核A收到请求后向核B发送数据x并将核A中数据x的状态转换为无效状态。核B收到数据x后，将数据x的状态设定为修改状态；

(2-9)若一个分组内一个或多个核拥有组独占状态的数据x，当同组中的核B读数据x时，核B向拥有数据x的某个核A发送读请求。核A收到请求后向核B发送数据x。核B收到数据x后，将数据x的状态设定为组独占状态；

(2-10)若一个分组内一个或多个核拥有组修改状态的数据x，当同分组中的核B读数据，核B向某个拥有数据x的核A发送读请求。核A收到请求后向核B发送数据x。核B收到数据x后，将数据x的状态设定为组修改状态；

(2-11)若一个分组内一个或多个核拥有组独占或组修改状态的数据x，当同组中的核B写数据x时，核B向拥有该数据的某个核A发送写请求，同时向其它拥有数据x的核发送无效消息。核A收到请求后向核B发送数据x并将核A中数据x的状态转换为无效状态，组内其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态。核B收到数据x和无效消息应答后，将数据x的状态设定为修改状态；

(2-12)若一个分组内一个或多个核拥有共享状态的数据x，当同组中的核B读数据x时，核B向拥有数据x的某个核A发送读请求。核A收到请求后向核B发送数据x。核B收到数据x后，将数据x的状态设定为共享状态；

(2-13)若一个分组内一个或多个核拥有共享状态的数据x，当同组中的核B写数据x时，核B向拥有数据x的某个核A发送写请求，同时向组内其它拥有数据x的核发送无效消息，向宿主节点发送数据更新消息。核A收到请求后向核B发送数据x并将数据x的状态转换为无效状态，其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态，宿主节点收到数据更新消息后会给其它共享数据x的组发送无效消息。核B收到数据x、更新消息和无效消息的应答后，将数据x的状态设定为修改状态。

(2-14)若一个分组内拥有独占、组独占、修改或组修改状态的数据x，当分组外的核C读数据x时，核C向宿主节点发送读请求，宿主节点将核C的请求转发给拥有数据的分组。该分组收到请求后将数据x发送给C并且组内的所有拥有数据x的核将数据x的状态转换为共享状态。核C收到数据x后，将数据x的状态设定为共享状态；

(2-15)若一个分组内拥有独占、组独占、修改或组修改状态的数据x，当分组外的核C写数据x时，核C向宿主节点发送写请求，宿主节点将核C的请求转发给拥有数据的分组。该分组收到请求后将数据发送给核C并且组内的所有拥有数据x的核将数据x的状态转换为无效状态。核C收到数据x后，将数据x的状态设定为修改状态；

(2-16)一个分组收到来自分组外的无效数据x的请求消息时，将组内所有拥有数据x的核中的数据x无效后，给无效消息请求者发无效消息的应答；

(2-17)一个核收到来自分组内的无效数据x的请求消息时，将数据x无效后，给无效消息请求者发无效消息的应答。

综上所述，本发明提供的多核处理器高速缓存及其管理方法中实现了多核处理器上一个分组内的处理器核共享一级高速缓存内的数据，在处理器核对数据的访问中，一部分数据可以直接从组内的一级高速缓存中获得，减少了对二级高速缓存的访问次数，降低了数据在高速缓存中的查找时间和在网络中的传输时间，减少了多核处理器片上网络的流量。

此外，本发明还进一步改进了二级高速缓存的行结构，减少了二级高速缓存的目录存储空间，降低了对目录的访问和维护的延迟，降低了多核处理器访问存储系统的平均延迟，提高了多核处理器访问存储系统的整体性能，更利于多核处理器规模的扩展。

以上实施方式仅用于说明本发明，而并非对本发明的限制，有关技术领域的普通技术人员，在不脱离本发明的精神和范围的情况下，还可以做出各种变化和变型，因此所有等同的技术方案也属于本发明的范畴，本发明的专利保护范围应由权利要求限定。

Claims (8)

1.一种多核处理器高速缓存，所述多核处理器包括至少四个节点，其特征在于，所述多核处理器高速缓存中：

一级高速缓存为每个处理器核私有，二级高速缓存为所有处理器核分布式共享，每个节点由包含一级高速缓存的处理器核、二级高速缓存和片上网络路由器构成，各节点间通过所述片上网络路由器连接形成2D mesh网络；

其中，每相邻的四个节点构成一个分组，每个分组设置有一个组标签单元，所述组标签单元中复制了相应分组中四个处理器核的一级高速缓存的标签和状态，用于在组内实现一级高速缓存数据的共享。

2.根据权利要求1所述的多核处理器高速缓存，其特征在于，所述组标签单元的每一行由组内四个一级高速缓存中相应行的标签和状态部分依次组成。

3.根据权利要求1所述的多核处理器高速缓存，其特征在于，在所述二级高速缓存中以行为单位维护高速缓存的一致性，每一行包括地址标签、数据、状态和共享目录，其中，共享目录是一个宽度为所述多核处理器中分组数目的位向量，用来标识分组对此高速缓存行的访问情况。

4.一种多核处理器高速缓存的管理方法，应用于如权利要求1-3任一项所述的多核处理器高速缓存中，其特征在于，所述方法包括步骤：

S1，第一处理器核请求访问数据x；

S2，首先在所述第一处理器核的一级高速缓存中查找，当所述数据x在一级高速缓存中命中时，转到步骤S10进行本地读或写；当所述数据x在一级高速缓存中未命中时，所述第一处理器核访问其所在分组的组标签单元，执行步骤S3；

S3，当所述数据x在组标签中命中时，继续执行步骤S4；当所述数据x在组标签中未命中时，转到步骤S6；

S4，由组标签单元向分组内拥有所述数据x的第二处理器核请求所述数据x进行组内读或写；

S5，所述第二处理器核收到组标签单元的组内读或写请求后，处理该请求并向所述第一处理器核的一级高速缓存传送数据x，继续执行步骤S10；

S6，所述第一处理器核向二级高速缓存请求所述数据x，当二级高速缓存中包含所述数据x时，转到步骤S9；当二级高速缓存中未包含所述数据x时，向其它分组或内存请求所述数据x，继续执行步骤S7；

S7，当所述数据x在某个分组中的一级高速缓存中时，二级高速缓存向包含所述数据x的分组转发请求进行组外读或写，继续执行步骤S8；当所述数据x未在任何分组的一级高速缓存中时，二级高速缓存从内存中取得所述数据x，转到步骤S9；

S8，包含所述数据x的分组收到组外读或写请求后，处理该请求并向请求所述数据x的所述第一处理器核的一级高速缓存传送数据，转到步骤S10；

S9，二级高速缓存向所述第一处理器核的一级高速缓存传送数据x；

S10，所述第一处理器核的一级高速缓存将数据x传送给所述第一处理器核进行本地读或写。

5.根据权利要求4所述的方法，其特征在于，步骤S4-S5中，当进行组内读或写时执行以下一种或多种处理：

若所述第二处理器核拥有独占状态的数据x，当同分组中的所述第一处理器核请求读数据x时，所述第二处理器核收到请求后向所述第一处理器核发送数据x并将所述第二处理器核中数据x的状态转换为组独占状态，所述第一处理器核收到数据x后，将数据x的状态设定为组独占状态；

若所述第二处理器核拥有修改状态的数据x，当同分组中所述第一处理器核请求读数据x时，所述第二处理器核收到请求后向所述第一处理器核发送数据x并将所述第二处理器核中数据x的状态转换为组修改状态，所述第一处理器核收到数据x后，将数据x的状态设定为组修改状态；

若所述第二处理器核拥有独占或修改状态的数据x，当同分组中的所述第一处理器核请求写数据x时，所述第二处理器核收到请求后向所述第一处理器核发送数据x并将所述第二处理器核中数据x的状态转换为无效状态，所述第一处理器核收到数据x后，将数据x的状态设定为修改状态；

若一个分组内一个或多个处理器核拥有组独占状态的数据x，当同分组中的所述第一处理器核请求读数据x时，向拥有数据x的某个第二处理器核发送读请求，所述第二处理器核收到请求后向所述第一处理器核发送数据x，所述第一处理器核收到数据x后，将数据x的状态设定为组独占状态；

若一个分组内一个或多个处理器核拥有组修改状态的数据x，当同分组中的所述第一处理器核请求读数据x时，向拥有数据x的某个第二处理器核发送读请求，所述第二处理器核收到请求后向所述第一处理器核发送数据x，所述第一处理器核收到数据x后，将数据x的状态设定为组修改状态；

若一个分组内一个或多个处理器核拥有组独占或组修改状态的数据x，当同分组中的所述第一处理器核请求写数据x时，所述第一处理器核向拥有数据x的某个第二处理器核发送写请求，同时向其它拥有数据x的核发送无效消息，所述第二处理器核收到请求后向所述第一处理器核发送数据x并将所述第二处理器核中数据x的状态转换为无效状态，组内其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态，所述第一处理器核收到数据x和无效消息应答后，将数据x的状态设定为修改状态；

若一个分组内一个或多个核拥有共享状态的数据x，当同分组中的所述第一处理器核读数据x时，所述第一处理器核向拥有数据x的某个所述第二处理器核发送读请求，所述第二处理器核收到请求后向所述第一处理器核发送数据x，所述第一处理器核收到数据x后，将数据x的状态设定为共享状态；

若一个分组内一个或多个核拥有共享状态的数据x，当同分组中的所述第一处理器核写数据x时，所述第一处理器核向拥有数据x的某个所述第二处理器核发送写请求，同时向组内其它拥有数据x的核发送无效消息，向宿主节点发送数据更新消息，所述第二处理器核收到请求后向所述第一处理器核发送数据x并将数据x的状态转换为无效状态，其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态，宿主节点收到数据更新消息后会给其它共享数据x的组发送无效消息，所述第一处理器核收到数据x、更新消息和无效消息的应答后，将数据x的状态设定为修改状态；

其中，上述各处理中的宿主节点指存储数据x的二级高速缓存节点。

6.根据权利要求4所述的方法，其特征在于，步骤S7-S8中，当进行组外读或写时执行以下一种或多种处理：

若一个分组内拥有独占、组独占、修改或组修改状态的数据x，当分组外的所述第一处理器核读数据x时，所述第一处理器核向宿主节点发送读请求，宿主节点将所述第一处理器核的请求转发给拥有数据x的分组，分组收到请求后将数据x发送给所述第一处理器核并且组内的所有拥有数据x的核将数据x的状态转换为共享状态，所述第一处理器核收到数据x后，将数据x的状态设定为共享状态；

若一个分组内拥有独占、组独占、修改或组修改状态的数据x，当分组外的所述第一处理器核写数据x时，所述第一处理器核向宿主节点发送写请求，宿主节点将所述第一处理器核的请求转发给拥有数据x的分组，该分组收到请求后将数据x发送给所述第一处理器核并且组内的所有拥有数据x的核将数据x的状态转换为无效状态，所述第一处理器核收到数据x后，将数据x的状态设定为修改状态；

其中，上述各处理中的宿主节点指存储数据x的二级高速缓存节点。

7.根据权利要求4所述的方法，其特征在于，步骤S10中，当进行本地读或写时执行以下一种或多种处理：

若一个分组内一个或多个核拥有独占、组独占、修改、组修改或共享状态的数据x，当分组中某个拥有数据x的所述第一处理器核读数据时可以直接从其一级高速缓存中得到数据，数据x的状态不变；

若一个分组内拥有独占状态的数据x，当分组中拥有数据x的所述第一处理器核写数据时可以直接写其一级高速缓存中的数据x，并将数据x的状态修改为修改状态；

若一个分组内拥有修改状态的数据x，当分组中拥有数据x的所述第一处理器核写数据时可以直接写其一级高速缓存中的数据x，数据x的状态不变；

若一个分组内拥有组独占或组修改状态的数据x，当分组中某个拥有数据x的所述第一处理器核写数据时，向组内其它拥有数据x的核发送无效消息，组内其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态，所述第一处理器核收到无效消息应答后，将数据x的状态设定为修改状态；

若一个分组内一个或多个核拥有共享状态的数据x，当分组中某个拥有数据x的所述第一处理器核写数据时，所述第一处理器核向宿主节点发送数据更新消息，同时向组内其它拥有数据x的核发送无效消息，其它拥有数据x的核收到无效消息后将数据x的状态转换为无效状态，宿主节点收到数据更新消息后会给其它共享数据x的组发送无效消息，所述第一处理器核收到更新消息和无效消息的应答后，将数据x的状态转换为修改状态；

其中，上述各处理中的宿主节点指存储数据x的二级高速缓存节点。

8.根据权利要求5-7任一项所述的方法，其特征在于，当收到涉及数据x的无效消息时，执行以下处理：

一个核或一个分组收到涉及数据x的无效消息时，将数据x无效后，给无效消息请求者发无效消息的应答。

Images