CN101419579A - 一种在动态随机存储器上提供服务质量的装置和方法 - Google Patents

Abstract

本发明涉及一种在动态随机存储器上提供服务质量的装置和方法。该方法包括：步骤1，配置前端仲裁器的各个请求端口的端口类型；初始化调度资源计数器，用于设置调度周期、计算可用资源、以及前端仲裁器的各个请求端口的分配资源；步骤2，依据前端仲裁器的各个请求端口的端口类型以及前端仲裁器的各个请求端口的分配资源计算前端仲裁器的各个请求端口的优先级；步骤3，将优先级最高的请求端口上的请求发送到内存控制器，用于提供服务质量。本发明根据不同的服务质量策略，对各个设备发出的请求按照对应优先级排序。当某一个设备所分配的资源已经达到上限，或者要求固定带宽的设备所分配的资源处于临界状态时，修改优先级配置。

Description

一种在动态随机存储器上提供服务质量的装置和方法

技术领域

本发明涉及计算机领域，尤其涉及在动态随机存储器上提供服务质量的装置和方法。

背景技术

计算机系统中存储子系统通常是最大的共享资源，需要为多种类型的设备服务。当内存控制器共享时，来自不同设备的请求在到达内存控制器前必须要经过仲裁，选出获胜的请求转发到内存控制器。现有的存储子系统如图1所示。

为了让整个系统的行为以及性能可控，存储子系统需要能为不同的设备提供特定的服务质量。服务质量要求通常分为三类：低延迟、保证带宽和无关型。比如中央处理器性能依赖于访存速度，它希望尽可能小的访问延迟，属于低延迟类型；显示控制器需要定时取屏幕数据，必须保证它的带宽能够被满足，否则显示图像就要出错，属于保证带宽型；硬盘DMA速度远小于内存速度，不需要特别的质量保证，属于无关型。其中有些要求是指导性的(如处理器)，有些则是强制性的(如显示控制器)。

现代动态随机存储器的记忆单元采用体(Bank)、页(row/page)和列(column)地址构成的三维地址索引。当读写一个单元时，首先要求其所在页已经处于打开状态。如果当前打开的是另外一页，则还要先关闭当前页方可打开目的页。这些操作会引入额外开销，使实际可用带宽依赖于具体的访存序列。特别地，处理器发出的请求与所运行程序相关，可能发出对动态随机存储器很不友好的请求，不停地换页，使可用带宽急剧下降，从而损害有强制性质量要求的设备的服务质量。

发明内容

为了解决上述的技术问题，提供了在动态随机存储器上确保服务质量的装置和方法，其目的在于，为访问存储器的多种类型设备进行调度，使有强制性带宽要求的设备以及延迟敏感的设备能够很好地共存于计算机系统中发挥动态随机存储器的最大潜力。

本发明提供了一种在动态随机存储器上提供服务质量的方法，包括：

步骤1，配置前端仲裁器的各个请求端口的端口类型；初始化调度资源计数器，用于设置调度周期、计算可用资源、以及前端仲裁器的各个请求端口的分配资源；

步骤2，依据前端仲裁器的各个请求端口的端口类型以及前端仲裁器的各个请求端口的分配资源计算前端仲裁器的各个请求端口的优先级；

步骤3，将优先级最高的请求端口上的请求发送到内存控制器，用于提供服务质量。

调度资源计数器包括调度周期计数器、可用资源计数器、前端仲裁器的各个请求端口的分配资源计数器。

步骤2包括：

步骤21，根据前端仲裁器的各个请求端口的端口类型及该请求端口的分配资源计算前端仲裁器的各个请求端口的服务类型；

步骤22，根据所述各个请求端口的服务类型、带宽型端口总分配资源以及可用资源计算前端仲裁器的各个请求端口的优先级。

前端仲裁器的各个请求端口的端口类型为延迟型请求端口、带宽型请求端口或无关型请求端口；前端仲裁器的各个请求端口的服务类型为延迟型请求端口、带宽型请求端口或无关型请求端口。

步骤22中，如果带宽型端口总分配资源大于或等于可用资源，则带宽型端口分配到第一优先级、延迟型端口分配到第二优先级；否则延迟型端口分配到第一优先级、带宽型端口分配到第二优先级；

步骤22中，将无关型端口分配到第三优先级。

步骤21中：

如果请求端口是延迟型请求端口并且其分配资源未用完则该请求端口为延迟型请求端口，否则该请求端口降为无关型请求端口；

如果请求端口是带宽型请求端口且其分配资源未用完则该请求端口为带宽型请求端口，否则该请求端口降为无关型请求端口。

步骤3中，将处于第一优先级的带宽型端口或延迟型端口发送到内存控制器；如果存在多个第一优先级的带宽型端口或延迟型端口，则按照预设的规则选择一处于第一优先级的带宽型端口或延迟型端口发送到内存控制器。

步骤3中，还从可用资源中减去在当前请求端口上的请求所消耗的资源数目。

步骤3中，还计算送到内存控制器的请求所需要的额外开销，并从可用资源中减去。

执行步骤1、步骤2、步骤3之后，将调度周期计数器减一；若调度周期计数器为零则回到步骤1，否则回到步骤2。

本发明提供了一种在动态随机存储器上提供服务质量的装置，包括：

配置模块，用于配置前端仲裁器的各个请求端口的端口类型，初始化调度资源计数器；

调度资源计数器，用于设置调度周期、计算可用资源、以及前端仲裁器的各个请求端口的分配资源；

前端仲裁器，用于计算前端仲裁器的各个请求端口的优先级，用于将优先级最高的请求端口上的请求发送到内存控制器，以提供服务质量。

调度资源计数器包括调度周期计数器、可用资源计数器、前端仲裁器的各个请求端口的分配资源计数器。

前端仲裁器，根据前端仲裁器的各个请求端口的端口类型及该请求端口的分配资源计算前端仲裁器的各个请求端口的服务类型，并根据该服务类型以及带宽型端口总分配资源和前端仲裁器的各个请求端口的分配资源计算各个请求端口的优先级。

前端仲裁器的各个请求端口的端口类型为延迟型请求端口、带宽型请求端口或无关型请求端口；前端仲裁器的各个请求端口的服务类型为延迟型请求端口、带宽型请求端口或无关型请求端口。

如果带宽型端口总分配资源大于或等于可用资源，则前端仲裁器将带宽型端口分配到第一优先级、延迟型端口分配到第二优先级；否则前端仲裁器将延迟型端口分配到第一优先级、带宽型端口分配到第二优先级；

前端仲裁器将无关型端口分配到第三优先级。

如果请求端口是延迟型请求端口并且其分配资源未用完则该请求端口设置为延迟型请求端口，否则前端仲裁器将该请求端口降为无关型请求端口；

如果请求端口是带宽型请求端口且其分配资源未用完则前端仲裁器将该请求端口设置为带宽型请求端口，否则前端仲裁器将该请求端口降为无关型请求端口。

前端仲裁器将处于第一优先级的带宽型端口或延迟型端口发送到内存控制器；如果存在多个第一优先级的带宽型端口或延迟型端口，则按照配置模块预设的规则选择一处于第一优先级的带宽型端口或延迟型端口发送到内存控制器。

还包括访问开销分析器，用于从可用资源中减去在当前请求端口上的请求所消耗的资源数目。

访问开销分析器，还计算送到内存控制器的请求所需要的额外开销，并从可用资源中减去；额外开销的数值由配置模块预先配置。

调用配置模块、调度资源计数器、前端仲裁器之后，将调度周期计数器减一，若调度周期计数器为零则调用配置模块、调度资源计数器、前端仲裁器，否则调用调度资源计数器、前端仲裁器。

本发明中，根据不同的服务质量策略，各个设备发出的请求按照对应优先级排序。当某一个设备所分配的资源已经达到上限，或者要求固定带宽的设备所分配的资源处于临界状态时，修改优先级配置。在资源的评估时加入决策反馈，精确跟踪动态随机存储器的可用资源。

附图说明

图1是现有技术中的存储子系统；

图2是本发明提供的服务质量调度装置；

图3是本发明提供的在动态随机存储器上提供服务质量的方法流程图。

具体实施方式

本发明提供的服务质量调度装置如图2所示，包括配置模块、前端仲裁器、调度资源计数器、访问开销分析器：

所述配置模块提供系统配置，可以由用户针对不同的需要修改。所述前端仲裁器有若干个请求端口，与设备请求总线相连。其根据当前的资源分配情况，选择一种优先级排列方式，从当前请求中选出优先者，送到内存控制器。

所述调度资源计数器监测每个请求通道的流量，计算该通道是否已经耗尽其所分配的资源，并将结果送往前端仲裁器。

所述访问开销分析器监测送到动态随机存储器的请求，计算每个请求所带来的开销，反馈到调度资源计数器。

所述调度资源计数器可以包括一个调度周期计数器、可用资源计数器和每个端口分配资源计数器。

为实现本发明目的还提供一种调度算法，包括下列步骤：

步骤A，开始新调度周期，根据配置模块的参数配置初始化调度周期计数器、可用资源计数器、每端口分配资源计数器。

步骤B，根据各个请求端口所配置的端口类型和分配资源以及当前状态计算(见步骤B1、步骤B2)各个端口的服务类型。

步骤C，计算带宽型端口总分配资源。如果大于或等于可用资源，则带宽型端口分配到第一优先级、延迟型端口分配到第二优先级；否则延迟型端口分配到第一优先级、带宽型端口分配到第二优先级。

步骤D，无关型端口分配到第三优先级。

步骤E，根据优先级分配，从当前请求中选出优先者送到存储控制器，并从可用资源中减去该请求所消耗的资源数目。

步骤F，计算送到存储控制器的请求所需要的额外开销，并从可用资源中减去。

步骤G，调度周期计数器减一，若为零则回到步骤A，否则回到步骤B。

步骤B具体包括：

步骤B1，如果该端口是延迟型且其分配资源未用完则为延迟型，否则降为无关型；

步骤B2，如果该端口是带宽型且其分配资源未用完则为带宽型，否则降为无关型。

本发明提出的调度器，通过把连续的时间划分为等长的调度周期，实时监测每个请求通道在当前周期中的资源消耗量，保证带宽类型的设备所需要的访存带宽；在此基础上，延迟类型的设备在所许可的资源利用率下得到优先服务；其它即没有带宽要求也没有延迟要求的设备归到无关型，提供尽力而为的策略。这样就能区分各种不同的设备需求，并保证系统性能以及功能正常。

配置模块提供系统配置，由一组软件可配置寄存器组成。包括调度周期长度寄存器、每周期可用资源数寄存器、每端口类型配置寄存器、每端口分配资源寄存器。

前端仲裁器根据当前的资源分配情况，选择一种优先级排列方式，从当前请求中选出优先者，送到内存控制器。优先级分为三个大组：第一优先级、第二优先级和第三优先级。各端口请求先按端口类型配置和当前的资源分配情况送到某一个优先级组中，同一优先组内部采用固定优先级(由配置模块配置)。多设备同时请求时，先从第一优先级组找起，然后第二、第三优先级组。如此，从第一个有请求的优先级组中选出优先者。

调度资源计数器由调度周期计数器、可用资源计数器、每端口分配资源计数器组成。监测每个请求通道的流量，当一个请求被选出送到内存控制器时便更新可用资源计数和对应端口的计数器。其输出为延迟或带宽端口是否耗尽其带宽的信息和带宽端口所需要的总带宽。这些信息送往前端仲裁器，作为其判断的依据。

访问开销分析器监测送到动态随机存储器的请求，计算每个请求所带来的开销。精确计算开销需要知道动态随机存储器当前的状态和既有访存流水线对该状态将带来的影响，实现略微复杂。作为一种简单的实现方式，可以假设动态随机存储器中的所有体都已经打开，记录打开的页号到活页表中。当新进入的请求访问这个体时与保存的页号比较，如果一致则认为不会有额外开销，否则将引入换页开销(具体数值由配置模块提供)。此外有另一个方向寄存器保存最后一个访问的方向(读或者写)，如果新进入请求与之同向则不会有换向开销，否则有换向开销(具体数值由配置模块提供)。处理完一个请求后更新活页表和方向寄存器。由于访存序列所带来的开销主要为换页和换向开销，使用这种方法已经可以逼近实际的访问开销。

本发明提供的一种在动态随机存储器上提供服务质量的方法如图3所示，包括：

步骤1，配置前端仲裁器的各个请求端口的端口类型；初始化调度资源计数器，用于设置调度周期、计算可用资源、以及前端仲裁器的各个请求端口的分配资源；

步骤2，依据前端仲裁器的各个请求端口的端口类型以及前端仲裁器的各个请求端口的分配资源计算前端仲裁器的各个请求端口的优先级；

步骤3，将优先级最高的请求端口上的请求发送到内存控制器，用于提供服务质量。

本领域的技术人员在不脱离权利要求书确定的本发明的精神和范围的条件下，还可以对以上内容进行各种各样的修改。因此本发明的范围并不仅限于以上的说明，而是由权利要求书的范围来确定的。

Claims (20)

1.一种在动态随机存储器上提供服务质量的方法，其特征在于，包括：

步骤1，配置前端仲裁器的各个请求端口的端口类型；初始化调度资源计数器，用于设置调度周期、计算可用资源、以及前端仲裁器的各个请求端口的分配资源；

步骤2，依据前端仲裁器的各个请求端口的端口类型以及前端仲裁器的各个请求端口的分配资源计算前端仲裁器的各个请求端口的优先级；

步骤3，将优先级最高的请求端口上的请求发送到内存控制器，用于提供服务质量。

2.如权利要求1所述的在动态随机存储器上提供服务质量的方法，其特征在于，调度资源计数器包括调度周期计数器、可用资源计数器、前端仲裁器的各个请求端口的分配资源计数器。

3.如权利要求1所述的在动态随机存储器上提供服务质量的方法，其特征在于，步骤2包括：

步骤21，根据前端仲裁器的各个请求端口的端口类型及该请求端口的分配资源计算前端仲裁器的各个请求端口的服务类型；

步骤22，根据所述各个请求端口的服务类型、带宽型端口总分配资源以及可用资源计算前端仲裁器的各个请求端口的优先级。

4.如权利要求3所述的在动态随机存储器上提供服务质量的方法，其特征在于，前端仲裁器的各个请求端口的端口类型为延迟型请求端口、带宽型请求端口或无关型请求端口；前端仲裁器的各个请求端口的服务类型为延迟型请求端口、带宽型请求端口或无关型请求端口。

5.如权利要求4所述的在动态随机存储器上提供服务质量的方法，其特征在于，步骤22中，如果带宽型端口总分配资源大于或等于可用资源，则带宽型端口分配到第一优先级、延迟型端口分配到第二优先级；否则延迟型端口分配到第一优先级、带宽型端口分配到第二优先级；

步骤22中，将无关型端口分配到第三优先级。

6.如权利要求4所述的在动态随机存储器上提供服务质量的方法，其特征在于，步骤21中：

如果请求端口是延迟型请求端口并且其分配资源未用完则该请求端口为延迟型请求端口，否则该请求端口降为无关型请求端口；

如果请求端口是带宽型请求端口且其分配资源未用完则该请求端口为带宽型请求端口，否则该请求端口降为无关型请求端口。

7.如权利要求5所述的在动态随机存储器上提供服务质量的方法，其特征在于，步骤3中，将处于第一优先级的带宽型端口或延迟型端口发送到内存控制器；如果存在多个第一优先级的带宽型端口或延迟型端口，则按照预设的规则选择一处于第一优先级的带宽型端口或延迟型端口发送到内存控制器。

8.如权利要求1所述的在动态随机存储器上提供服务质量的方法，其特征在于，步骤3中，还从可用资源中减去在当前请求端口上的请求所消耗的资源数目。

9.如权利要求8所述的在动态随机存储器上提供服务质量的方法，其特征在于，步骤3中，还计算送到内存控制器的请求所需要的额外开销，并从可用资源中减去。

10.如权利要求2所述的在动态随机存储器上提供服务质量的方法，其特征在于，执行步骤1、步骤2、步骤3之后，将调度周期计数器减一；若调度周期计数器为零则回到步骤1，否则回到步骤2。

11.一种在动态随机存储器上提供服务质量的装置，其特征在于，包括：

配置模块，用于配置前端仲裁器的各个请求端口的端口类型，初始化调度资源计数器；

调度资源计数器，用于设置调度周期、计算可用资源、以及前端仲裁器的各个请求端口的分配资源；

前端仲裁器，用于计算前端仲裁器的各个请求端口的优先级，用于将优先级最高的请求端口上的请求发送到内存控制器，以提供服务质量。

12.如权利要求11所述的在动态随机存储器上提供服务质量的装置，其特征在于，调度资源计数器包括调度周期计数器、可用资源计数器、前端仲裁器的各个请求端口的分配资源计数器。

13.如权利要求11所述的在动态随机存储器上提供服务质量的装置，其特征在于，前端仲裁器，根据前端仲裁器的各个请求端口的端口类型及该请求端口的分配资源计算前端仲裁器的各个请求端口的服务类型，并根据该服务类型以及带宽型端口总分配资源和前端仲裁器的各个请求端口的分配资源计算各个请求端口的优先级。

14.如权利要求13所述的在动态随机存储器上提供服务质量的装置，其特征在于，前端仲裁器的各个请求端口的端口类型为延迟型请求端口、带宽型请求端口或无关型请求端口；前端仲裁器的各个请求端口的服务类型为延迟型请求端口、带宽型请求端口或无关型请求端口。

15.如权利要求14所述的在动态随机存储器上提供服务质量的装置，其特征在于，如果带宽型端口总分配资源大于或等于可用资源，则前端仲裁器将带宽型端口分配到第一优先级、延迟型端口分配到第二优先级；否则前端仲裁器将延迟型端口分配到第一优先级、带宽型端口分配到第二优先级；

前端仲裁器将无关型端口分配到第三优先级。

16.如权利要求14所述的在动态随机存储器上提供服务质量的装置，其特征在于，

如果请求端口是延迟型请求端口并且其分配资源未用完则该请求端口设置为延迟型请求端口，否则前端仲裁器将该请求端口降为无关型请求端口；

如果请求端口是带宽型请求端口且其分配资源未用完则前端仲裁器将该请求端口设置为带宽型请求端口，否则前端仲裁器将该请求端口降为无关型请求端口。

17.如权利要求15所述的在动态随机存储器上提供服务质量的装置，其特征在于，前端仲裁器将处于第一优先级的带宽型端口或延迟型端口发送到内存控制器；如果存在多个第一优先级的带宽型端口或延迟型端口，则按照配置模块预设的规则选择一处于第一优先级的带宽型端口或延迟型端口发送到内存控制器。

18.如权利要求11所述的在动态随机存储器上提供服务质量的装置，其特征在于，还包括访问开销分析器，用于从可用资源中减去在当前请求端口上的请求所消耗的资源数目。

19.如权利要求18所述的在动态随机存储器上提供服务质量的装置，其特征在于，访问开销分析器，还计算送到内存控制器的请求所需要的额外开销，并从可用资源中减去；额外开销的数值由配置模块预先配置。

20.如权利要求12所述的在动态随机存储器上提供服务质量的装置，其特征在于，调用配置模块、调度资源计数器、前端仲裁器之后，将调度周期计数器减一，若调度周期计数器为零则调用配置模块、调度资源计数器、前端仲裁器，否则调用调度资源计数器、前端仲裁器。

Images