CN109308270B

CN109308270B - 一种加速虚实地址转换的方法及装置

Info

Publication number: CN109308270B
Application number: CN201811025563.0A
Authority: CN
Inventors: 丁哲; 高军; 赵天磊; 袁媛; 王玉姣; 邹小立; 孙龙鹏; 刘晓燕; 李文哲; 王小岛
Original assignee: Feiteng Technology Changsha Co ltd; Phytium Technology Co Ltd
Current assignee: Feiteng Technology Changsha Co ltd; Phytium Technology Co Ltd
Priority date: 2018-09-04
Filing date: 2018-09-04
Publication date: 2021-07-23
Anticipated expiration: 2038-09-04
Also published as: CN109308270A

Abstract

本发明公开了一种虚实地址转换的加速方法及装置，方法步骤如下：MMU请求发送器发出MMU请求，如果其他请求，则进行正常查找，如果是Cache维护操作请求，则记录Cache维持操作状态，提供旁路控制，提前返回完成信号；如果是LD/ST（Load/Store）查找请求，则判断内部状态，进行旁路选择，加速LD/ST（Load/Store）查找请求执行；装置包括用于处理MMU查找请求的虚实地址转换部件，所述虚实地址转换部件被编程以执行前述加速虚实地址转换加速的方法的步骤。本发明能够加速LD/ST表项缺失查速度、查找请求与Cache维护操作冲突情况下的加速查找过程，以简单控制逻辑得到较大的加速比，使芯片性能有较大的提升。

Description

一种加速虚实地址转换的方法及装置

技术领域

本发明涉及微处理器的虚实地址转换领域，具体涉及一种加速虚实地址转换的方法及装置。

背景技术

在现代处理器中基本都包含了存储管理单元（MMU，Memory Management Unit）负责虚拟地址到物理地址的转换管理，为了加速虚实地址转换过程，在MMU中会根据数据的局部性原理实现一个类似于Cache的TLB和用硬件实现的查找算法，用于提升虚实地址的转换速度，提供处理器的性能。

如图1所示，现有的指令执行流包括Cache维护指令、数据同步指令和LD/ST数据指令。现代处理器为了灵活的使用内存空间，一般会采用多粒度多级页表的管理方式，根据应用程序的大小灵活使用不同粒度和不同层级页表实现内存的合理使用，因此程序在进行数据访问或指令获取时，如图2所示，针对MMU请求发送器发出的各类MMU请求首先根据优先级进行请求仲裁，然后针对仲裁的请求进行使用虚拟地址在MMU中的TLB进行查找，并判断是否命中，如果命中则将命中的物理地址数据返回；否则，则通过预设的硬件查找算法查找对应的物理地址数据返回。其中，使用虚拟地址在MMU中的TLB进行查找时，可能要使用不同粒度进行多次查找才能匹配到表项得到物理地址，如果在TLB中没有命中表项就通过硬件查找算法部件进行查找，由于是多级页表管理的形式，在硬件查找算法部件中会根据级数实现多个尺寸很小的Cache加速查找，如果这些Cache中也没命中，就只能通过硬件查找算法进行查找。但是，现在的应用程序存在大量的数据LD/ST操作指令，同时涉及到应用程序切换时，程序会通过维护指令将MMU中存储体信息进行无效，保证数据的正确性，由于MMU中的存储体的维护时间有时候比较长，所以后续的数据LD/ST指令需要等待Cache维护结束才能进行发送，这样就存在时间的浪费。

发明内容

本发明要解决的技术问题：针对现有技术的上述问题，提供一种加速虚实地址转换的方法，本发明通过简单逻辑控制，加速LD/ST指令执行，解决LD/ST请求等待Cache维护操作的问题，实现虚实地址转换的加速，能够加速LD/ST表项缺失查速度、查找请求与Cache维护操作冲突情况下的加速查找过程，以简单控制逻辑得到较大的加速比，使芯片性能有较大的提升。

为了解决上述技术问题，本发明采用的技术方案为：

一种加速虚实地址转换的方法，实施步骤包括：

1）接收MMU请求发送器发出的MMU查找请求，如果MMU查找请求为Cache维护请求则跳转执行步骤2）；否则，跳转执行步骤3）；

2）进行Cache维护操作，记录Cache维护操作状态，提前返回完成信号给MMU请求发送器；跳转执行步骤1）；

3）判断MMU查找请求的类型，如果MMU查找请求为LD/ST查找请求则跳转执行步骤4）；否则，判定MMU查找请求为普通查找请求，执行普通查找获取普通查找请求的虚拟地址对应的物理地址并输出，跳转执行步骤1）；

4）判断当前是否有其他MMU查找请求，如果没有其他MMU查找请求，则判定当前的MMU查找请求满足提前发射条件，直接将当前的MMU查找请求跳过仲裁环节，通过旁路通路提前发射，然后如果在Cache维护操作状态下则直接通过硬件算法查找模块查找当前的MMU查找请求的虚拟地址对应的物理地址；否则如果在非Cache维护操作状态下，先通过旁路转换缓冲TLB查找当前的MMU查找请求的虚拟地址对应的物理地址，查找失败则进一步通过硬件算法查找模块查找当前的MMU查找请求的虚拟地址对应的物理地址；如果有其他MMU查找请求，则跳转执行步骤5）；

5）对当前的MMU查找请求进行仲裁，如果仲裁失败，则生成提前发射数据作废信号作废步骤4）提前发射得到的物理地址，并开始执行其他仲裁成功的MMU查找请求；如果仲裁成功，则继续对当前的MMU查找请求进行查找，如果在Cache维护操作状态下则直接通过硬件算法查找模块查找当前的MMU查找请求的虚拟地址对应的物理地址；否则如果在非Cache维护操作状态下，先通过旁路转换缓冲TLB查找当前的MMU查找请求的虚拟地址对应的物理地址，查找失败则进一步通过硬件算法查找模块查找当前的MMU查找请求的虚拟地址对应的物理地址。

优选地，步骤2）的详细步骤包括：

2.1）进行Cache维护操作，并在MMU中的Cache维护操作记录器中记录Cache维护操作状态，并提供查找请求的查找通路控制；

2.2）在Cache维护操作还在进行时，提前返回给MMU请求发送器一个“完成”信号，允许MMU请求发送器发送其他的MMU查找请求。

优选地，步骤3）中执行普通查找获取普通查找请求的虚拟地址对应的物理地址的详细步骤包括：如果在Cache维护操作状态下则直接通过硬件算法查找模块查找普通查找请求的虚拟地址对应的物理地址；否则，先通过旁路转换缓冲TLB查找普通查找请求的虚拟地址对应的物理地址，查找失败则进一步通过硬件算法查找模块查找普通查找请求的虚拟地址对应的物理地址。

本发明还提供一种加速虚实地址转换的装置，包括用于处理MMU查找请求的虚实地址转换部件，所述虚实地址转换部件被编程以执行本发明前述加速虚实地址转换的方法的步骤。

和现有技术相比，本发明具有下述优点：

1、本发明加速了LD/ST查找。由于程序中存在大量数据LD/ST指令，加上查找TLB时可能需要切换多种粒度进行TLB查找，提前发射LD/ST查找加速了粒度遍历时间，缩短了LD/ST查找的时间，提高了程序执行速度。

2、本发明解决了LD/ST查找等待Cache维护操作的问题。在硬件程序进行切换过程中，程序会通过维护指令将MMU中的表项进行无效，保证数据的正确，但维护操作的时间相对较长，使得接下来的LD/ST指令需要等待，通过MMU增加Cache维护操作记录器的记录状态，使得LD/ST指令在Cache维护操作还在进行时就能发射，LD/ST查找直接通过硬件查找算法进行，缩短了等待时间，加速了虚实地址的转换。

附图说明

图1为现有MMU查找请求的指令执行流示意图。

图2为现有MMU查找请求的执行流程示意图。

图3为本发明实施例方法的基本流程示意图。

图4为本发明实施例装置的基本结构示意图。

具体实施方式

如图3所示，本实施例加速虚实地址转换的方法实施步骤包括：

本实施例中，步骤2）的详细步骤包括：

本实施例中，步骤3）中执行普通查找获取普通查找请求的虚拟地址对应的物理地址的详细步骤包括：如果在Cache维护操作状态下则直接通过硬件算法查找模块查找普通查找请求的虚拟地址对应的物理地址；否则，先通过旁路转换缓冲TLB查找普通查找请求的虚拟地址对应的物理地址，查找失败则进一步通过硬件算法查找模块查找普通查找请求的虚拟地址对应的物理地址。

综上所述，本实施例加速虚实地址转换的方法能够加速LD/ST表项缺失查速度、查找请求与Cache维护操作冲突情况下的加速查找过程，以简单控制逻辑得到较大的加速比，使芯片性能有较大的提升。本实施例加速虚实地址转换的方法允许LD/ST查找请求提前发送，加速了数据LD/ST指令查找遍历表项粒度的时间，同时数据LD/ST查找请求等待Cache维护指令操作的问题，通过简单的控制逻辑实现旁路的选择，针对大量使用的真实场景进行了加速，这对程序频繁切换数据访存有很好的应用价值。

此外，本实施例还提供一种加速虚实地址转换的装置，包括用于处理MMU查找请求的虚实地址转换部件，该虚实地址转换部件被编程以执行本实施例前述加速虚实地址转换的方法的步骤。如图4所示，该虚实地址转换部件包括：MMU请求发生器1、LD/ST请求提前发送判断器2、内部请求发生器3、请求仲裁器4、提前操作数据作废控制器5、旁路转换缓冲TLB6、Cache维护操作状态记录器7、命中判断器8、数据处理模块9和硬件算法查找模块10。其主要工作原理如下：

S1）请求仲裁器4接收MMU请求发送器1发出的MMU查找请求，如果MMU查找请求为Cache维护请求则跳转执行步骤2）；否则，跳转执行步骤3）；

S2）进行Cache维护操作，通过Cache维护操作状态记录器7记录Cache维护操作状态，提前返回完成信号给MMU请求发送器1；跳转执行步骤1）；

S3）LD/ST请求提前发送判断器2判断MMU查找请求的类型，如果MMU查找请求为LD/ST查找请求则跳转执行步骤4）；否则，判定MMU查找请求为普通查找请求，执行普通查找获取普通查找请求的虚拟地址对应的物理地址并输出，跳转执行步骤1）；

S4）LD/ST请求提前发送判断器2判断当前是否有其他MMU查找请求，如果没有其他MMU查找请求，则判定当前的MMU查找请求满足提前发射条件，直接将当前的MMU查找请求跳过仲裁环节，通过旁路通路提前发射，然后如果在Cache维护操作状态下则直接通过硬件算法查找模块查找当前的MMU查找请求的虚拟地址对应的物理地址；否则如果在非Cache维护操作状态下，先通过旁路转换缓冲TLB 6查找当前的MMU查找请求的虚拟地址对应的物理地址，查找失败则进一步通过硬件算法查找模块查找当前的MMU查找请求的虚拟地址对应的物理地址；如果有其他MMU查找请求，则跳转执行步骤5）；

S5）请求仲裁器4对当前的MMU查找请求进行仲裁，如果仲裁失败，则生成提前发射数据作废信号给提前操作数据作废控制器5作废步骤4）提前发射得到的物理地址，并开始执行其他仲裁成功的MMU查找请求；如果仲裁成功，则继续对当前的MMU查找请求进行查找，如果在Cache维护操作状态下则直接通过硬件算法查找模块查找当前的MMU查找请求的虚拟地址对应的物理地址；否则如果在非Cache维护操作状态下，先通过旁路转换缓冲TLB 6查找当前的MMU查找请求的虚拟地址对应的物理地址，查找失败则进一步通过硬件算法查找模块查找当前的MMU查找请求的虚拟地址对应的物理地址。图4中，旁路转换缓冲TLB 6用于基于旁路转换缓冲TLB判断是否命中（Hit）当前的MMU查找请求/普通查找请求，如果命中则直接将命中的数据发送给数据处理模块9；如果未能命中，则进一步通过命中判断器8调用硬件算法查找模块10，通过硬件算法查找模块查找当前的MMU查找请求的虚拟地址对应的物理地址并返回给数据处理模块9。最终，数据处理模块9输出两种数据/信号：1、MMU查找请求的虚拟地址对应的物理地址；2、提前发射数据作废信号。其中提前发射数据作废信号仅仅是在LD/ST查找请求在不具备提前发射条件时才会有。

和现有的虚实地址转换部件相比，本实施例中的虚实地址转换部件增加了下述部件：

（1）LD/ST请求提前发送判断器2，用于对大量特定期间进行加速，判断当前MMU内部是否存在请求，内部如果没有请求，如果MMU请求发送器发出的请求中包含LD/ST查找请求就提前发送，如果后续LD/ST查找请求仲裁失败，则作废提前发送的LD/ST查找请求即可，如果LD/ST查找请求仲裁成功，则成功加速。MMU中的Cache维护操作记录器根据仲裁器的结果更新记录Cache维护操作，如果Cache维护操作仲裁成功，则更新Cache维护操作记录器中的状态，同时向MMU请求发送器发出完成操作，让MMU请求发送器中的查找请求能够发送出来；当发送过来的请求中包含LD/ST（Load/Store）查找请求，LD/ST查找请求提前发送判断器判断当前MMU内部是否存在请求，如果没有，则通过旁路控制使得LD/ST查找请求通过旁路绕过中仲裁器提前发送请求，在仲裁器后的信号对于Cache维护操作记录器而言都是查找请求，通过Cache维护操作记录器选择查找通路，使得查找通过正确的通路进行查找，如果请求通过仲裁器后，LD/ST（Load/Store）查找请求没有仲裁成功，则通过数据作废控制器将提前发送的LD/ST（Load/Store）查找请求返回的数据进行作废即可。

LD/ST请求提前发送判断器2需要MMU提供内部全部请求，输出LD/ST查找请求是否可以提前发射的信号。MMU中判断当前内部没有请求指导上一阶段的请求是否全部处理完，MMU中LD/ST查找请求为MMU处理最多的请求，所以可以预测：如果当前的LD/ST查找请求上一阶段的LD/ST请求全部完成，则下一阶段的仲裁结构很大可能为当前的LD/ST查找请求，可以通过这个经验来加速LD/ST查找请求的发射，输出LD/ST查找请求提前发射信号指明当前的LD/ST查找请求是否可以提前发射。

（2）提前操作数据作废控制器5，用于作废提前操作数据。提前操作数据作废控制器5需要请求仲裁器4的仲裁结果输入，并输出提前操作数据作废信号，通过该信号确定提前返回的提前操作数据是否需要被作废，如果当前的请求包括LD/ST查找请求和其他请求，且LD/ST查找请求被提前发射，但是后续的仲裁结果是其他请求，为了保证MMU功能的正确性，就需要利用提前操作数据作废控制器5根据仲裁结果判断是否对提前发生的LD/ST查找请求的提前操作数据进行无效操作，通过作废信号保证MMU功能的正确性。

（3）Cache维护操作状态记录器7，用于记录MMU内部正在进行的Cache维护操作，记录Cache维护操作状态后，可以使MMU提前发出Cache维护操作完成信号，加速下个查找请求的发送；根据记录器的状态可以对查找请求的查找通路进行选择。Cache维护操作状态记录器7通过仲裁结果和Cache维护操作是否完成来改变记录状态，然后根据Cache维护操作状态记录器7中的状态输出一个维护操作提前完成信号和LD/ST查找旁路控制信号，根据图4中的指令执行流可以看到，在Cache维护操作没有完成以前，数据同步指令会阻止LD/ST查找请求的发射，这是为了防止LD/ST查找请求到了需要作废但是还没作废的Cache表项，但是如果LD/ST查找请求直接通过硬件查找算法模块可以提前向MMU请求产生器1发送一个Cache维护操作状态信号让后续的LD/ST查找指令可以提前发射，提前发送的LD/ST查找请求根据Cache维护操作状态记录器7的状态进行查找通路选择，Cache维护操作没有完成就不通过Cache（TLB）、而是直接通过硬件算法模块进行查找，Cache维护操作完成后则可以通过正常查找（先查Cache、后通过硬件算法模块查）。为了实现LD/ST请求转换加速，本实施例在存储管理单元（MMU）记录内部是否有查找进行，LD/ST请求提前发送判断器根据记录进行判断，同时对输入请求进行解码归类，确定当前多个请求中是否存在LD/ST查找请求，如果满足LD/ST提前发射的条件就通过旁路使得LD/ST请求先不通过仲裁器提前发射，如果后续仲裁结果为LD/ST请求，则进行LD/ST查找，如果后续仲裁结果不是LD/ST请求，则将后续回来的结果作废；为了解决LD/ST查找等待Cache维护操作，加速转换查找，在存储管理单元（MMU）接收到Cache维护操作并获得仲裁时在MMU内部的Cache维护操作记录器中记录Cache维护操作正在进行的状态，同时通知MMU请求发生器可以将在MMU请求发生器中的查找请求（LD/ST请求和指令查找请求）发出，当查找请求获得仲裁或LD/ST提前发送查找，MMU会根据Cache维护操作记录器的状态进行旁路控制，让查找请求或LD/ST提前发送查找通过旁路直接使用硬件查找算法进行查找，保证了查找的正确性，同时解决了等待时间。

综上所述，本实施例加速虚实地址转换的方法1.分析软件应用，针对LD/ST（load/Store）数据指令进行加速，以较小的设计代价获得较大的性能提升；2.通过记录Cache维护操作信息，解决了查找请求（LD/ST查找和指令查找）等待Cache维护操作问题。通过简单逻辑控制，加速LD/ST指令执行，解决LD/ST请求等待Cache维护操作的问题，实现虚实地址转换的加速，能够加速LD/ST表项缺失查速度、查找请求与Cache维护操作冲突情况下的加速查找过程，以简单控制逻辑得到较大的加速比，使芯片性能有较大的提升。

以上所述仅是本发明的优选实施方式，本发明的保护范围并不仅局限于上述实施例，凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理前提下的若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims

1.一种加速虚实地址转换的方法，其特征在于实施步骤包括：

2.根据权利要求1所述的加速虚实地址转换的方法，其特征在于，步骤2）的详细步骤包括：

3.根据权利要求1所述的加速虚实地址转换的方法，其特征在于，步骤3）中执行普通查找获取普通查找请求的虚拟地址对应的物理地址的详细步骤包括：如果在Cache维护操作状态下则直接通过硬件算法查找模块查找普通查找请求的虚拟地址对应的物理地址；否则，先通过旁路转换缓冲TLB查找普通查找请求的虚拟地址对应的物理地址，查找失败则进一步通过硬件算法查找模块查找普通查找请求的虚拟地址对应的物理地址。

4.一种加速虚实地址转换的装置，包括用于处理MMU查找请求的虚实地址转换部件，其特征在于：所述虚实地址转换部件被编程以执行权利要求1～3中任意一项所述加速虚实地址转换的方法的步骤。