CN104049955A - Cache一致性多级流水线处理方法及装置 - Google Patents

Abstract

本发明提供了一种Cache一致性多级流水线处理方法和装置，其中方法包括获取当前调度的待处理报文的报文信息，报文信息中包含地址信息；根据报文信息判断待处理报文是否是有效报文，如果判断出待处理报文是有效报文，根据报文信息中的地址信息，判断是否存在未处理完成的与待处理报文同地址的有效报文；如果判断出存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行阻塞；如果判断出不存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行Cache一致性处理。通过对同地址待处理报文进行阻塞，在进行Cache一致性处理时，节约了资源，且时序有序，从而提升系统的性能。

Description

Cache一致性多级流水线处理方法及装置

技术领域

本发明涉及计算机技术领域，尤其涉及一种高速缓冲存储器(Cache)一致性多级流水线处理方法及装置。

背景技术

在计算机技术发展过程中，主存储器存取速度一直比中央处理器(CPU，Central Processing Unit)操作速度慢得多，使中央处理器的高速处理能力不能充分发挥。Cache是在计算机存储系统的层次结构中，介于CPU和主存储器之间的高速小容量存储器，它的容量一般只有主存储器的几百分之一，但它的存取速度能与CPU相匹配。根据程序局部性原理，正在使用的主存储器某一单元邻近的那些单元将被用到的可能性很大。因而，当CPU存取主存储器某一单元时，计算机硬件就自动地将包括该单元在内的那一组单元内容调入Cache，于是CPU就可以直接对Cache进行存取，使得计算机系统处理速度得到了提高。

在多处理器系统中，由于多个处理器可能对同一数据块进行读写操作，当某个处理器对共享的数据块进行写操作时，其它处理器的Cache中该数据块的副本将成为过时的数据，造成Cache一致性问题。随着云计算、大数据等新型技术的发展，Cache一致性互联芯片性能成为制约多路服务器系统，例如非统一内存访问(NUMA，Non Uniform Memory Access)系统性能的关键因素。

为了提高芯片的处理性能，可以将多种报文类型和通道进行解耦合处理，采用多级流水线处理机制。多级流水线处理机制是一种将指令分解为多步，并让不同指令的各步操作重叠，从而实现几条指令并行处理，以加速程序运行过程的技术。采用流水线技术，并没有加速单条指令的执行，只是多条指令的不同操作步骤同时执行，缩短程序执行时间。

通常，流水线上处理的报文类型和请求地址是随机的。为了保持多处理器系统Cache数据的一致性，要求数据在某些时刻需要将复杂的处理放在同一拍完成，并且某些情况下也需要进行数据的实时刷新。此外，Cache一致性维护过程中也可能会存在资源和地址冲突，因此会出现芯片资源占用量大和时序不佳的情况。如果存在连续时间内的同地址请求出现，而要对流水线上处理的所有报文进行解耦合处理，将进一步占用芯片资源和造成时序不佳，制约了芯片系统时钟频率的提升，从而影响了系统的性能。

发明内容

为了解决上述技术问题，本发明提供一种Cache一致性多级流水线处理方法及装置，能够实现处理效率高、资源占用少和时序有序，从而提升系统的性能。

为了达到本发明目的，本发明提供了一种Cache一致性多级流水线处理方法，包括：获取当前调度的待处理报文的报文信息，报文信息中包含地址信息；根据报文信息，判断待处理报文是否是有效报文，如果判断出待处理报文是有效报文，根据报文信息中的地址信息，判断是否存在未处理完成的与待处理报文同地址的有效报文；如果判断出存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行阻塞；如果判断出不存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行Cache一致性处理。

进一步地，方法还包括：预先设置调度策略；获取当前调度的待处理报文之前还包括：按照预先设置的调度策略对待处理报文进行调度。

进一步地，如果判断出述待处理报文是无效报文，方法还包括：存储无效报文的地址信息为无效地址信息，对待处理报文不做处理或者做丢弃处理。

进一步地，该方法之前还包括：存储未处理完成的有效报文的地址信息；判断是否存在未处理完成的与待处理报文同地址的有效报文包括：将待处理报文的地址信息和已存储的未处理完成的有效报文的地址信息进行比对，如果存在相同的地址信息，则判断出存在未处理完成的与待处理报文同地址的有效报文；如果不存在相同的地址信息，则判断出不存在未处理完成的与待处理报文同地址的有效报文。

进一步地，对待处理报文进行阻塞包括：发送流水线停顿指示信号并存储无效空包，停止传送待处理报文。

进一步地，判断出不存在未处理完成的与待处理报文同地址的有效报文，该方法还包括：存储待处理报文的地址信息为无效地址信息，传送待处理报文，并根据待处理报文的报文信息查询预先存储的Cache目录信息；对待处理报文进行Cache一致性处理包括：如果待处理报文的报文信息命中预先存储的Cache目录信息，保存对应Cache目录信息的新报文信息。

一种Cache一致性多级流水线处理装置，包括：流水线调度模块和流水线处理模块；所述流水线调度模块，用于将当前调度的待处理报文传送给流水线处理模块；所述流水线处理模块，用于获取当前调度的待处理报文的报文信息，该报文信息中包含地址信息；根据报文信息判断出待处理报文是有效报文，若存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行阻塞；若不存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行Cache一致性处理。

进一步地，装置还包括目录存储模块，用于接收待处理报文的报文信息，并查询所述报文信息是否命中Cache目录信息；流水线处理模块包括流水线前级处理单元、流水线判断单元和流水线后级处理单元，其中，流水线前级处理单元，用于获取来自流水线调度模块的待处理报文的报文信息，并将获得的报文信息传送给流水线判断单元；所述流水线判断单元，用于根据所述报文信息判断待处理报文是否是有效报文，如果是，判断在流水线后级处理单元中是否存在未处理完成的与待处理报文同地址的有效报文，如果存在，对待处理报文进行阻塞，如果不存在，将待处理报文发送给后级处理单元；所述流水线后级处理单元，用于接收所述流水线判断单元传送来的待处理报文，根据待处理报文的报文信息在目录存储模块的Cache目录信息中的查询结果，进行Cache一致性处理。

进一步地，流水线判断单元包括移位存储子单元，移位存储子单元用于存储处理报文的地址信息；流水线判断单元还用于，如果判断出待处理报文是无效报文，流水线判断单元在移位存储子单元中存储无效地址信息，对待处理报文不做处理或者做丢弃处理。

进一步地，水线处理单元判断是否存在未处理完成的与待处理报文同地址的有效报文包括：所流水线判断单元将待处理报文的地址信息和所述移位存储子单元中存储的报文的地址信息进行比对，如果存在相同的地址信息，则判断存在未处理完成的与待处理报文同地址的有效报文；如果不存在相同的地址信息，则判断不存在未处理完成的与待处理报文同地址的有效报文。

进一步地，流水线处理单元对所述待处理报文进行阻塞包括：流水线判断单元向流水线调度模块和流水线前级处理单元发出前级流水线停顿指示信号，向流水线后级处理单元和目录存储模块插入无效空包，停止传送所述待处理报文。

进一步地，流水线处理模块还包括解耦合报文存取单元；若不存在未处理完成的与待处理报文同地址的有效报文，流水线处理模块对待处理报文进行Cache一致性处理包括：如果判断出不存在未处理完成的与待处理报文同地址的有效报文，所述流水线判断单元在移位存储子单元存储无效地址信息，向流水线后级处理单元发送待处理报文，并将报文信息保存在解耦合报文存取单元中；如果所述待处理报文的报文信息命中目录存储模块中的Cache目录信息，所述流水线后级处理单元将对应Cache目录信息的新报文信息保存在所述解耦合报文存取单元。

与现有技术相比，本发明包括：获取当前调度的待处理报文的报文信息，报文信息中包含地址信息；根据报文信息判断待处理报文是否是有效报文，如果判断出待处理报文是有效报文，根据报文信息中的地址信息，判断是否存在未处理完成的与待处理报文同地址的有效报文；如果判断出存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行阻塞；如果判断出不存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行Cache一致性处理。本发明通过采用多级流水线处理机制，提高了对待处理报文的处理效率。此外，通过对同地址待处理报文进行阻塞，在进行Cache一致性处理时，节约了因处理同地址待处理报文而需要占用的资源，且有效提升了待处理报文的时序，从而提升系统的性能。。

附图说明

图1是本发明Cache一致性多级流水线处理装置的结构示意图。

图2是本发明Cache一致性多级流水线处理方法的流程示意图。

具体实施方式

以下将结合附图所示的具体实施方式对本发明进行详细描述。

本发明Cache一致性多级流水线处理的方法和装置，适用于前级流水信息与后级流水信息处理存在一定的依赖关系且这种依赖关系成为系统关键路径的场景。在本发明中，主要采用多级流水及同地址报文阻塞的流水线处理机制，解决Cache一致性过程中同地址报文冲突所造成的问题。

图1是本发明Cache一致性多级流水线处理装置的结构示意图，如图1所示，包括流水线调度模块11、流水线处理模块12、目录存储模块13和报文调度模块14。

流水线调度模块11，用于将当前调度的待处理报文传送给流水线处理模块12；

具体地，流水线调度模块11按照预先设置的调度规则对待处理报文进行调度，并将当前调度的待处理报文传送给流水线处理模块12，其中调度规则可以是轮询或具有报文通道优先级的规则。

流水线处理模块12，用于获取当前调度的待处理报文的报文信息，该报文信息中包含地址信息；根据报文信息判断出待处理报文是有效报文，若存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行阻塞；若不存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行Cache一致性处理。

流水线处理模块12的流水线前级处理单元121，用于获取来自流水线调度模块11的待处理报文的报文信息，并将待处理报文和获得的报文信息传送给流水线判断单元122。

具体地，流水线处理模块12包括流水线前级处理单元121、流水线判断单元122、流水线后级处理单元123和解耦合报文存取单元124。其中，

流水线前级处理单元121，用于对来自流水线调度模块11的待处理报文进行解析，并根据解析后的结果来读取解耦合报文存取单元124中与待处理报文同地址的原始报文信息，从而获得待处理报文的报文信息，如地址信息和各类ID(包括源ID、目的ID、冲突ID、转发ID、序列ID、响应ID、入口协议ID等)等特征信息，并将待处理报文和待处理报文的报文信息发送给流水线判断单元122。

流水线处理模块12的流水线判断单元122，用于根据报文信息判断待处理报文是否是有效报文，如果是，判断在流水线后级处理单元123中是否存在未处理完成的与待处理报文同地址的有效报文，如果存在，对待处理报文进行阻塞，如果不存在，将待处理报文发送给后级处理单元123。

具体地，流水线判断单元122包括判断子单元和移位存储子单元。流水线判断单元122的判断子单元可以根据报文信息中的地址信息是否合法，或者源ID和目的ID是否合法，来判断待处理报文是否是有效报文。如果判断出待处理报文是有效报文，判断子单元判断流水线后级处理单元123中是否存在未处理完成的与待处理报文同地址的有效报文。

无论待处理报文是否有效，在移位存储子单元中都会存储处理报文的地址信息，所以该移位存储子单元包含有流水线后级处理单元123中未处理完成的有效报文的地址信息。因此，判断子单元可以将待处理报文的地址信息和从移位存储子单元中报文的地址信息进行比对，如果存在相同的地址信息，则存在未处理完成的与待处理报文同地址的有效报文，如果不存在相同的地址信息，则不存在未处理完成的与待处理报文同地址的有效报文。

如果在流水线后级处理单元123中存在未处理完成的与待处理报文同地址的有效报文，流水线判断单元122向流水线调度模块11和流水线前级处理单元121发出前级流水线停顿指示信号，向流水线后级处理单元123和目录存储模块13插入无效空包，停止传送待处理报文，以便对待处理报文进行阻塞。如此，流水线调度模块11和流水线前级处理单元121停止新报文请求进入流水线，并保持待处理报文，直到流水线后级处理单元123中不存在与待处理报文同地址的有效报文，流水线判断单元122通知流水线调度模块11和流水线前级处理单元121前级流水线停顿指示信号失效。

如果判断出待处理报文是无效报文，或者在流水线后级处理单元123中不存在未处理完成的与待处理报文同地址的有效报文，流水线判断单元122在移位存储子单元存储无效地址信息。若待处理报文是无效报文，流水线判断单元122对待处理报文不做处理或者丢弃。若待处理报文是在流水线后级处理单元123中不存在未处理完成的与待处理报文同地址的有效报文，流水线判断单元122向流水线后级处理单元123发送待处理报文，并将报文信息根据序列ID保存在解耦合报文存取单元124中。

流水线处理模块12的流水线后级处理单元123，用于接收流水线判断单元122传送来的待处理报文，根据待处理报文的报文信息在目录存储模块13的预先存储的Cache目录信息中的查询结果，进行Cache一致性处理。

具体地，流水线判断单元122将待处理报文的报文信息发送给目录存储模块13，目录存储模块13查询该报文信息是否命中Cache目录信息。流水线后级处理单元123接收流水线判断单元122传送来的待处理报文，如果待处理报文的报文信息命中Cache目录信息，流水线后级处理单元123将对应Cache目录信息的新报文信息保存在解耦合报文存取单元124，完成Cache一致性处理；如果待处理报文的报文信息没有命中Cache目录信息，报文调度模块14将待处理报文返回流水线调度模块11，重新申请进入流水线进行处理。

流水线处理模块12的解耦合报文存取单元124，用于存储流水线后级处理单元123待处理的有效报文的报文信息。

具体地，如果流水线后级处理单元123接收来自流水线判断单元122的待处理报文，解耦合报文存取单元124将存储该待处理报文的报文信息。如果流水线后级处理单元123中待处理报文的报文信息命中目录存储模块13的Cache目录信息，解耦合报文存取单元124存储该待处理报文的新报文信息。解耦合报文存取单元124中的报文信息可以按照序列ID进行存储。

目录存储模块13，用于接收待处理报文的报文信息，并查询该报文信息是否命中Cache目录信息。

具体地，目录存储模块13基于目录的形式保存Cache信息，若接收待处理报文的报文信息，并查询该报文信息是否命中Cache目录信息。

本发明Cache一致性多级流水线处理装置，通过采用多级流水线处理机制，提高了对待处理报文的处理效率。此外，通过对同地址待处理报文进行阻塞，在进行Cache一致性处理时，节约了因处理同地址待处理报文而需要占用的资源，且有效提升了待处理报文的时序，从而提升系统的性能。

图2是本发明Cache一致性多级流水线处理方法的流程示意图，如图2所示，该方法具体包括以下步骤：

步骤21：获取当前调度的待处理报文的报文信息，该报文信息中包含地址信息。

在本步骤之前，预先设置调度策略；按照预先设置的调度策略对待处理报文进行调度，其中调度策略可以是轮询或具有报文通道优先级的规则。

在本步骤中，接收当前调度的待处理报文，并获取待处理报文的报文信息。具体地，对当前调度的待处理报文进行解析，并根据解析后的结果来读取与待处理报文对应的原始报文信息，从而获得待处理报文的报文信息，如地址信息和各类ID(包括源ID、目的ID、冲突ID、转发ID、序列ID、响应ID、入口协议ID等)等特征信息。

步骤22、根据报文信息，判断待处理报文是否是有效报文，如果是，进入步骤23；如果否，对待处理报文不做处理或者丢弃。

在本步骤中，根据报文信息判断待处理报文是否是有效报文，例如可以根据报文信息中的地址信息是否合法，或者源ID和目的ID是否合法，来判断待处理报文是否是有效报文。

若判断出待处理报文是无效报文，存储所述无效报文的地址信息为无效地址信息，对待处理报文不做处理或者做丢弃处理。

步骤23、根据报文信息中的地址信息，判断是否存在未处理完成的与待处理报文同地址的有效报文，如果是，进入步骤24；如果否，进入步骤25。；

在本步骤之前，存储未处理完成的有效报文的地址信息。

在本步骤中，将待处理报文的地址信息和已存储的未处理完成的有效报文的地址信息进行比对，如果存在相同的地址信息，则存在未处理完成的与待处理报文同地址的有效报文，如果不存在相同的地址信息，则不存在未处理完成的与待处理报文同地址的有效报文。

步骤24、对待处理报文进行阻塞；

在本步骤中，如果存在未处理完成的与待处理报文同地址的有效报文，发送流水线停顿指示信号并存储无效空包，停止传送所述待处理报文，以对待处理报文进行阻塞。如此，保持当前调度的待处理报文，直到不存在未处理完成的与待处理报文同地址的有效报文。

步骤25、对待处理报文进行Cache一致性处理。

在本步骤中，如果判断出不存在未处理完成的与待处理报文同地址的有效报文，存储待处理报文的地址信息为无效地址信息，传送待处理报文，并根据待处理报文的报文信息查询预先存储的Cache目录信息。

如果待处理报文的报文信息命中Cache目录信息，保存对应Cache目录信息的新报文信息，完成Cache一致性处理。

如果待处理报文的报文信息没有命中Cache目录信息，将对待处理报文进行重新申请处理。

本发明Cache一致性多级流水线处理的方法，通过对同地址待处理报文进行阻塞，在进行Cache一致性处理时，节约了因处理同地址待处理报文而需要占用的资源，且有效提升了待处理报文的时序，从而提升系统的性能。

应当理解，虽然本说明书根据实施方式加以描述，但并非每个实施方式仅包含一个独立的技术方案，说明书的这种叙述方式仅仅是为清楚起见，本领域技术人员应当将说明书作为一个整体，各实施方式中的技术方案也可以经适当组合，形成本领域技术人员可以理解的其他实施方式。

上文所列出的一系列的详细说明仅仅是针对本发明的可行性实施方式的具体说明，它们并非用于限制本发明的保护范围，凡未脱离本发明技艺精神所作的等效实施方式或变更均应包含在本发明的保护范围之内。

Claims (12)

1.一种Cache一致性多级流水线处理方法，其特征在于，包括：

获取当前调度的待处理报文的报文信息，所述报文信息中包含地址信息；

根据所述报文信息，判断所述待处理报文是否是有效报文，如果判断出所述待处理报文是有效报文，根据所述报文信息中的地址信息，判断是否存在未处理完成的与待处理报文同地址的有效报文；

如果判断出存在未处理完成的与待处理报文同地址的有效报文，对所述待处理报文进行阻塞；

如果判断出不存在未处理完成的与待处理报文同地址的有效报文，对所述待处理报文进行Cache一致性处理。

2.如权利要求1所述的Cache一致性多级流水线处理方法，其特征在于，预先设置调度策略；所述获取当前调度的待处理报文之前还包括：

按照预先设置的调度策略对所述待处理报文进行调度。

3.如权利要求1或2所述的Cache一致性多级流水线处理方法，如果判断出所述待处理报文是无效报文，其特征在于，所述方法还包括：

存储所述无效报文的地址信息为无效地址信息，对所述待处理报文不做处理或者做丢弃处理。

4.如权利要求1或2所述的Cache一致性多级流水线处理方法，其特征在于，该方法之前还包括：存储未处理完成的有效报文的地址信息；

所述判断是否存在未处理完成的与待处理报文同地址的有效报文包括：

将所述待处理报文的地址信息和已存储的未处理完成的有效报文的地址信息进行比对，如果存在相同的地址信息，则判断出存在未处理完成的与待处理报文同地址的有效报文；如果不存在相同的地址信息，则判断出不存在未处理完成的与待处理报文同地址的有效报文。

5.如权利要求1所述的Cache一致性多级流水线处理方法，其特征在于，对所述待处理报文进行阻塞包括：

发送流水线停顿指示信号并存储无效空包，停止传送所述待处理报文。

6.如权利要求1或2所述的Cache一致性多级流水线处理方法，其特征在于，所述判断出不存在未处理完成的与待处理报文同地址的有效报文，该方法还包括：存储所述待处理报文的地址信息为无效地址信息，传送所述待处理报文，并根据所述待处理报文的报文信息查询预先存储的Cache目录信息；

所述对待处理报文进行Cache一致性处理包括：

如果所述待处理报文的报文信息命中预先存储的Cache目录信息，保存对应Cache目录信息的新报文信息。

7.一种Cache一致性多级流水线处理装置，其特征在于，包括：流水线调度模块和流水线处理模块；

所述流水线调度模块，用于将当前调度的待处理报文传送给流水线处理模块；

所述流水线处理模块，用于获取当前调度的待处理报文的报文信息，该报文信息中包含地址信息；根据报文信息判断出待处理报文是有效报文，若存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行阻塞；若不存在未处理完成的与待处理报文同地址的有效报文，对待处理报文进行Cache一致性处理。

8.如权利要求7所述的Cache一致性多级流水线处理装置，其特征在于，所述装置还包括目录存储模块，用于接收待处理报文的报文信息，并查询所述报文信息是否命中Cache目录信息；

所述流水线处理模块包括流水线前级处理单元、流水线判断单元和流水线后级处理单元，其中，

所述流水线前级处理单元，用于获取来自流水线调度模块的待处理报文的报文信息，并将获得的报文信息传送给流水线判断单元；

所述流水线判断单元，用于根据所述报文信息判断待处理报文是否是有效报文，如果是，判断在流水线后级处理单元中是否存在未处理完成的与待处理报文同地址的有效报文，如果存在，对待处理报文进行阻塞，如果不存在，将待处理报文发送给后级处理单元；

所述流水线后级处理单元，用于接收所述流水线判断单元传送来的待处理报文，根据待处理报文的报文信息在目录存储模块的Cache目录信息中的查询结果，进行Cache一致性处理。

9.如权利要求8所述的Cache一致性多级流水线处理装置，其特征在于，所述流水线判断单元包括移位存储子单元，所述移位存储子单元用于存储处理报文的地址信息；

所述流水线判断单元还用于，如果判断出所述待处理报文是无效报文，所述流水线判断单元在移位存储子单元中存储无效地址信息，对所述待处理报文不做处理或者做丢弃处理。

10.如权利要求9所述的Cache一致性多级流水线处理装置，其特征在于：所述流水线处理单元判断是否存在未处理完成的与待处理报文同地址的有效报文包括：

所述流水线判断单元将待处理报文的地址信息和所述移位存储子单元中存储的报文的地址信息进行比对，如果存在相同的地址信息，则判断存在未处理完成的与待处理报文同地址的有效报文；如果不存在相同的地址信息，则判断不存在未处理完成的与待处理报文同地址的有效报文。

11.如权利要求10所述的Cache一致性多级流水线处理装置，其特征在于：所述流水线处理单元对所述待处理报文进行阻塞包括：

所述流水线判断单元向流水线调度模块和流水线前级处理单元发出前级流水线停顿指示信号，向流水线后级处理单元和目录存储模块插入无效空包，停止传送所述待处理报文。

12.如权利要求11所述的Cache一致性多级流水线处理装置，其特征在于，所述流水线处理模块还包括解耦合报文存取单元；

所述若不存在未处理完成的与待处理报文同地址的有效报文，流水线处理模块对待处理报文进行Cache一致性处理包括：

如果判断出不存在未处理完成的与待处理报文同地址的有效报文，所述流水线判断单元在移位存储子单元存储无效地址信息，向流水线后级处理单元发送待处理报文，并将报文信息保存在解耦合报文存取单元中；

如果所述待处理报文的报文信息命中目录存储模块中的Cache目录信息，所述流水线后级处理单元将对应Cache目录信息的新报文信息保存在所述解耦合报文存取单元。