CN110647357B - 同步多线程处理器 - Google Patents

Abstract

一种同步多线程处理器，包括：索引RAM、存储缓存器、数据高速缓存器以及至少两条流水线，其中：所述至少两条流水线，分别与所述索引RAM、所述存储缓存器以及所述数据高速缓存器均连接，适于访问所述数据高速缓存器；每一条流水线对应一个独立的线程，且至少一条流水线为可中断流水线，至少一条流水线为非可中断流水线，其中：所述可中断流水线适于在接收到数据存储指令时停止当前所执行的非数据存储指令，并执行所述数据存储指令。上述方案能够实现实时地进行数据存储操作。

Description

同步多线程处理器

技术领域

本发明涉及处理器领域，尤其涉及一种同步多线程处理器。

背景技术

高速缓存器是内存子系统中的一个组成部分。高速缓存器可以临时存储内存数据，从而为处理器提供快速访问。高速缓存器的缓存结构可以是多层的，例如一级高速缓存和二级高速缓存。在现有技术中，高速缓存器根据存储的数据不同，又可以分为数据高速缓存器和指令高速缓存器。

同步多线程(Simultaneous Multi-Threading，SMT)是一种优化片上资源利用效率的技术。在SMT处理器中，存储资源可以被不同的硬件线程复用，例如浮点单元、算术逻辑单元和高速缓存等的计算资源被多个线程共享。

在现有技术中，处理器在进行流水线操作时，若此时并发有数据存储操作，则通常需要在流水线上的操作指令完成之后再进行数据存储操作，无法在流水线繁忙时实现实时的数据存储。

发明内容

本发明实施例解决的是如何实现实时地进行数据存储操作。

为解决上述技术问题，本发明实施例提供一种同步多线程处理器，包括：索引RAM、存储缓存器、数据高速缓存器以及至少两条流水线，其中：所述至少两条流水线，分别与所述索引RAM、所述存储缓存器以及所述数据高速缓存器均连接，适于访问所述数据高速缓存器；每一条流水线对应一个独立的线程，且至少一条流水线为可中断流水线，至少一条流水线为非可中断流水线，其中：所述可中断流水线适于在接收到数据存储指令时停止当前所执行的非数据存储指令，并执行所述数据存储指令。

可选的，所述同步多线程处理器还包括：与每一条流水线一一对应设置的分级缓存器组，其中：第i条流水线对应的分级缓存器组中的每一个分级缓存器，适于缓存所述第i条流水线执行相应指令时所对应的中间数据，1＜i≤N，N为流水线总数。

可选的，所述可中断流水线对应的分级缓存器组，还适于存储所述非可中断流水线执行相应指令时所对应的中间数据。

可选的，所述非可中断流水线在执行相应指令时对应的输出结果为：所述非可中断流水线在执行相应指令时对应的中间数据，与所述可中断流水线所存储的所述非可中断流水线执行相应指令时所对应的中间数据的合并结果。

可选的，所述可中断流水线对应的分级缓存器组包括：定时清除单元，适于在定时时长达到预设时长时，清除所述可中断流水线上的非加载指令。

可选的，所述可中断流水线，还适于在未执行操作指令且不存在缓存冲突时，监听外部请求。

可选的，所述同步多线程处理器还包括：仲裁单元，与所有流水线均耦接，适于当检测到任意两条流水线上的访问指令冲突时，对发生冲突的流水线上的访问指令进行排序，以使得所述发生冲突的流水线上的访问指令按顺序访问。

可选的，所述索引RAM与每一条流水线一一对应。

可选的，所述存储缓存器与每一条流水线一一对应。

可选的，所有流水线均为支持同步多线程的流水线。

与现有技术相比，本发明实施例的技术方案具有以下有益效果：

在同步多线程处理器中设置有至少两条流水线，且其中至少一条流水线为可中断流水线。可中断流水线在接收到数据存储指令时停止当前所执行的非数据存储指令，转而执行接收到的数据存储指令。因此，当接收到数据存储指令时，存在至少一条流水线可以执行接收到的数据存储指令，从而实现实时地进行数据存储操作。

进一步，通过仲裁单元检查不同流水线上的访问指令是否发生冲突。当仲裁单元检测到任意两条流水线上的的访问指令冲突时，对发生访问冲突的流水线上的访问指令进行排序，使得发生冲突的流水线上的访问指令按顺序进行访问。

附图说明

图1是现有的一种处理器的结构示意图；

图2是本发明实施例中的一种同步多线程处理器的结构示意图；

图3是本发明实施例中的一种流水线的简化示意图。

具体实施方式

参照图1，给出了现有的一种处理器的结构示意图。图1中，流水线(Pipeline)101分别与索引RAM(Tag RAM)102、存储缓存器(Store Buffer)103、数据高速RAM(Data RAM)104以及指令管理单元(Request Management)105连接。索引RAM 102、存储缓存器103以及数据高速RAM 104均为存储单元。

数据加载指令可以通过指令管理单元105输出至流水线101。当图1中的处理器进行数据加载处理时，所有的加载指令都会经过流水线101。当流水线101上有数据加载指令时，先检查索引RAM 102中是否存在与数据加载指令对应的地址，也即判断数据加载指令是否在索引RAM 102中命中。当索引RAM 102中存在数据加载指令对应的地址时，可以直接从数据高速RAM 104中读取数据加载指令对应的数据，并将读取到的数据返回至流水线101。

当图1中的处理器进行数据存储时，待存储的数据直接被存储到存储缓存器103中。当流水线101处于空闲阶段时，存储缓存器103中存储的数据经由流水线101发送至数据高速RAM 104。

由上可见，现有技术中的处理器，当流水线处于繁忙状态时，无法实现实时的数据存储。

在本发明实施例中，在同步多线程处理器中设置有至少两条流水线，且其中至少一条流水线为可中断流水线。可中断流水线在接收到数据存储指令时停止当前所执行的非数据存储指令，转而执行接收到的数据存储指令。因此，当接收到数据存储指令时，存在至少一条流水线可以执行接收到的数据存储指令，从而实现实时地进行数据存储操作。

为使本发明的上述目的、特征和有益效果能够更为明显易懂，下面结合附图对本发明的具体实施例做详细的说明。

本发明实施例提供了一种同步多线程处理器，包括：索引RAM、存储缓存器、数据高速缓存器以及至少两条流水线。在本发明实施例中，同步多线程处理器中的流水线均可以为支持同步多线程的流水线。

在实际应用中可知，索引RAM可以用于存储高速缓存数据索引地址，其主要功能是辅助高速缓存、CPU的通信与存取寻址数据。

在具体实施中，所有的流水线均分别与索引RAM、存储缓存器以及数据高速缓存器连接。所有的流水线均能够访问数据高速缓存器，且每一条流水线均可以对应一个独立的线程。

在本发明实施例中，在所有的流水线中，存在至少一条流水线为可中断流水线，至少一条流水线为非可中断流水线，其中，可中断流水线可以为实现如下功能的流水线：在接收到数据存储指令时停止执行当前所执行的非数据存储指令，并执行接收到的数据存储指令；非可中断流水线可以为实现如下功能的流水线：在接收到数据存储指令时，先继续执行当前所执行的操作指令，并在完成当前所执行的操作指令后，执行接收到的数据存储指令。

在本发明实施例中，同步多线程处理器所包括的流水线的个数可以为2个，也可以为更多个。当同步多线程处理器所包括的流水线的个数为2个时，其中一个流水线为非可中断流水线，另一个为可中断流水线。当同步多线程处理器所包括的流水线的个数为3个以上时，可中断流水线的个数可以仍为一个，其他的流水线均为非可中断流水线；或者，非可中断流水线的个数为一个，其他的流水线均为可中断流水线；或者，非可中断流水线的个数与可中断流水线的个数均为多个。

在具体实施中，同步多线程处理器中还可以设置有分级存储器组。针对每一个流水线，可以设置与之一一对应的分级存储器组。例如，对于第i条流水线，可以设置与之一一对应的第i分级缓存器组。

每一条分级缓存器组可以包括多级缓存器。当第i条流水线在执行相应指令时，分级缓存器组中的缓存器可以缓存第i条流水线在执行相应指令时对应的中间数据。

例如，针对第1条流水线，对应设置有第1分级缓存器组。假设第1条流水线上的操作指令经过a、b、c三个步骤，则在第1分级缓存器组中，第1个缓存器可以存储步骤a对应的中间数据，第2个缓存器可以存储步骤b对应的中间数据，第3个缓存器可以存储步骤c对应的中间数据。

在具体实施中，不同的流水线可以共用同一个索引RAM以及共用同一个存储缓存器，不同的流水线也可以存在一一对应的索引RAM以及一一对应的存储缓存器。在本发明一实施例中，针对不同的流水线，存在与之一一对应的索引RAM以及一一对应的存储缓存器。

下面以同步多线程处理器包括2个流水线为例，对本发明上述实施例中提供的同步多线程处理器进行详细说明。

参照图2，给出了本发明实施例中的一种同步多线程处理器的结构示意图。图2中，同步多线程处理器包括两条流水线：第一流水线201、第二流水线207，第一流水线201为非可中断流水线，第二流水线207为可中断流水线。

针对第一流水线201，设置有与之对应的第一索引RAM 202、第一存储缓存器203以及第一分级缓存寄存器组209；相应地，针对第二流水线207，设置有与之对应的第二索引RAM 205、第二存储缓存器206以及第二分级缓存寄存器组210。

第一流水线201可以与第一索引RAM 202、第一存储缓存器203以及第一分级缓存寄存器组209进行通信。第二流水线207可以与第二索引RAM205、第二存储缓存器206以及第二分级缓存寄存器组210进行通信。

下面对本发明上述实施例中提供的同步多线程处理器的工作过程进行说明。

当第一流水线201上有数据加载指令时，先检查第一索引RAM 202中是否存在与数据加载指令对应的地址，也即判断数据加载指令是否在第一索引RAM 202中命中。当检测到第一索引RAM 202中存在数据加载指令对应的地址时，可以直接从数据高速RAM 204中读取数据加载指令对应的数据，并将读取到的数据返回至第一流水线201。

当检测到第一索引RAM 202中不存在数据加载指令对应的地址时，则从数据高速RAM 204中找到数据加载指令对应的数据并读取，经由第一流水线201输出，并将读取出的数据存储到第一索引RAM 202中。

若第一流水线201处于繁忙状态的同时检测到数据存储指令，则可以获取第二流水线207的当前状态。当第二流水线207处于空闲状态时，则可以直接将数据存储指令输出至第二流水线207。第二流水线207在接收到数据存储指令后，可以将需要存储的数据存储至第二存储缓存器206，或者将需要存储的数据存储至数据高速RAM 204中。

当第二流水线207处于繁忙状态时，则可以先判断第二流水线207上当前执行的操作指令是否为数据存储指令。若第二流水线207上当前执行的操作指令是数据存储指令，则当前接收到的数据存储指令可以在之前的数据存储指令执行完成后执行；若第二流水线207上当前执行的操作指令不是数据存储指令，则可以将第二流水线207上当前执行的操作指令停止，并执行接收到的数据存储指令。在将接收到的数据存储指令执行完成后，可以继续执行之前没有执行完成的操作指令。由于之前执行的操作指令对应中间数据仍存储在第二分级缓存寄存器组210中，因此无需从头开始执行之前没有执行完成的操作指令，而是可以从中断执行的步骤开始继续执行。

例如，第二流水线207在接收到数据存储指令之前，执行数据加载指令，且执行到第三个步骤。当第二流水线207在接收到数据存储指令时，停止执行数据加载指令，并执行数据存储指令。当完成数据存储指令的执行后，从第三个步骤开始继续执行数据加载指令。

由此可见，在本发明实施例中，在同步多线程处理器中设置有至少两条流水线，且其中至少一条流水线为可中断流水线。可中断流水线在接收到数据存储指令时停止当前所执行的非数据存储指令，转而执行接收到的数据存储指令。因此，当接收到数据存储指令时，存在至少一条流水线可以执行接收到的数据存储指令，从而实现实时地进行数据存储操作。

在具体实施中，可中断流水线对应的分级缓存器组，还可以存储非可中断流水线执行相应指令时对应的中间数据。此时，非可中断流水线在执行相应指令时对应的输出结果包括：非可中断流水线在执行相应指令时对应的中间数据，以及可中断流水线所存储的非可中断流水线执行相应指令时所对应的中间数据。

换而言之，非可中断流水线在执行相应指令时对应的输出结果是由：非可中断流水线在执行相应指令时对应的中间数据，与可中断流水线所存储的非可中断流水线执行相应指令时所对应的中间数据的合并结果。

例如，同步多线程处理器包括两个流水线：流水线1，流水线2，流水线1为非可中断流水线，流水线2为可中断流水线，流水线1对应第1分级缓存器组，流水线2对应第2分级缓存器组。当流水线1在执行相应的操作指令时，生成的中间数据除了存放在第1分级缓存器组中之外，还可以存放在第2分级缓存器组中，且第1分级缓存器组中存储的中间数据与第2分级缓存器组中存储的中间数据相同。

在输出流水线1上的操作指令对应的结果时，输出结果为：第1分级缓存器组中存储的中间数据与第2分级缓存器组中存储的中间数据的合并。通过数据合并，可以保障流水线1上的输出结果的正确性。

在具体实施中，当可中断流水线上没有执行相应的操作指令，且与其他非可中断流水线不存在缓存冲突时，可中断流水线可以实时监听外部请求。可中断流水线监听到的外部请求可以是数据访问指令，也可以为数据存储指令或其他指令。

在本发明实施例中，同步多线程处理器还可以包括仲裁单元，仲裁单元可以与所有的流水线均耦接。当仲裁单元检测到任意两条流水线上的访问指令冲突时，可以对发生冲突的流水线上的访问指令进行排序并依次访问，以使得发生冲突的流水线上的访问指令按顺序访问。

参照图2，同步多线程处理器包括两条流水线：第一流水线201和第二流水线207。当仲裁单元208检测到第一流水线201上的访问指令1与第二流水线207上的访问指令2发生冲突时，则可以随机对访问指令1和访问指令2进行排序，以使得访问指令1与访问指令2先后依次执行，从而避免冲突。

在实际应用中，任意两条流水线上的访问指令发生冲突可以是指：两条流水线上的访问指令对应的访问地址相同，也可以是指被访问地址不能够被同时访问。可以理解的是，访问指令发生冲突还可以为其他的场景，此处不做赘述。

在具体实施中，在可中断流水线对应的分级缓存器组中，还可以包括定时清除单元。定时清除单元可以在定时时长达到预设时长时，清除相应可中断流水线上的非加载指令。

在实际应用中，定时时长可以根据具体的应用场景自行设定，本发明实施例对此不做赘述。

参照图3，给出了本发明实施例中的一种流水线的简化示意图。图3中，第一流水线301执行的操作命令以S1、S2、S3三个步骤为一个周期，且步骤S1对应的分级缓存器为R1，步骤S2对应的分级缓存器为R2，步骤S3对应的分级缓存器为R3。R1、R2、R3分别存储步骤S1、S2、S3对应的中间数据。

第二流水线302执行的操作命令以S1’、S2’、S3’、S4’四个步骤为一个周期，且步骤S1’对应的分级缓存器为R1’，步骤S2’对应的分级缓存器为R2’，步骤S3’对应的分级缓存器为R3’，步骤S4’对应的分级缓存器为R4’。

当第一流水线执行操作命令时，步骤S1对应的中间数据存储在对应的中间数据分别存储至分级缓存器R1和分级缓存器R1’中，步骤S2对应的中间数据存储在对应的中间数据分别存储至分级缓存器R2和分级缓存器R2’中，步骤S3对应的中间数据存储在对应的中间数据分别存储至分级缓存器R3和分级缓存器R3’中。

虽然本发明披露如上，但本发明并非限定于此。任何本领域技术人员，在不脱离本发明的精神和范围内，均可作各种更动与修改，因此本发明的保护范围应当以权利要求所限定的范围为准。

Claims (10)

1.一种同步多线程处理器，其特征在于，包括：索引RAM、存储缓存器、数据高速缓存器以及至少两条流水线，其中：

所述至少两条流水线，分别与所述索引RAM、所述存储缓存器以及所述数据高速缓存器均连接，适于访问所述数据高速缓存器；每一条流水线对应一个独立的线程，且至少一条流水线为可中断流水线，至少一条流水线为非可中断流水线，其中：当所述非可中断流水线处于繁忙状态且同时检测到数据存储指令时，将所述数据存储指令发送至所述可中断流水线；所述可中断流水线适于在接收到数据存储指令时处于繁忙状态，则停止当前所执行的非数据存储指令，并执行所述数据存储指令。

2.如权利要求1所述的同步多线程处理器，其特征在于，还包括：与每一条流水线一一对应设置的分级缓存器组，其中：第i条流水线对应的分级缓存器组中的每一个分级缓存器，适于缓存所述第i条流水线执行相应指令时所对应的中间数据，1＜i≤N，N为流水线总数。

3.如权利要求2所述的同步多线程处理器，其特征在于，所述可中断流水线对应的分级缓存器组，还适于存储所述非可中断流水线执行相应指令时所对应的中间数据。

4.如权利要求3所述的同步多线程处理器，其特征在于，所述非可中断流水线在执行相应指令时对应的输出结果包括：所述非可中断流水线在执行相应指令时对应的中间数据，以及所述可中断流水线所存储的所述非可中断流水线执行相应指令时所对应的中间数据的合并结果。

5.如权利要求2所述的同步多线程处理器，其特征在于，所述可中断流水线对应的分级缓存器组包括：定时清除单元，适于在定时时长达到预设时长时，清除所述可中断流水线上的非加载指令。

6.如权利要求1所述的同步多线程处理器，其特征在于，所述可中断流水线，还适于在未执行操作指令且不存在缓存冲突时，监听外部请求。

7.如权利要求1所述的同步多线程处理器，其特征在于，还包括：仲裁单元，与所有流水线均耦接，适于当检测到任意两条流水线上的访问指令冲突时，对发生冲突的流水线上的访问指令进行排序，以使得所述发生冲突的流水线上的访问指令按顺序访问。

8.如权利要求1所述的同步多线程处理器，其特征在于，所述索引RAM与每一条流水线一一对应。

9.如权利要求1所述的同步多线程处理器，其特征在于，所述存储缓存器与每一条流水线一一对应。

10.如权利要求1～9任一项所述的同步多线程处理器，其特征在于，所有流水线均为支持同步多线程的流水线。

Images