CN102298440A - 经由动态存储器操作状态的存储器功率管理 - Google Patents

Abstract

本文描述的是用于加强现有的存储器功率管理技术并且进一步改善存储器功率效率的动态的存储器频率/电压调节技术。每个操作点被定义为存储器的操作状态。

Description

经由动态存储器操作状态的存储器功率管理

技术领域

本发明的实施例涉及电子设备的操作管理。更具体地，本发明的实施例涉及用于适应性地调整电子设备的操作状态的技术。

背景技术

最近几年，企业服务器系统和其它电子系统对能量效率和能量比例计算(energy proportional computing)的关注日益增加。在给定了服务器处理器和工作负荷的容量和带宽要求的这些平台中，管理存储器功率对于总体效率是至关重要的。

随着处理核心数量持续增加以及吞吐量计算和输入/输出(I/O)能力的集成加速，预期该趋势会使存储器功率管理越来越成为平台能量效率的一个关键要素。一种方法是关注于通过积极支持导致存储器功率效率显著改善的断电和自刷新状态来减少空闲存储器功率。

附图说明

通过示例而非限制的方式示出了本发明的实施例，在附图中，相同的附图标记表示相同的元件。

图1是针对具有四个存储器功率状态和两个存储器模块的实施例的示例性存储器功率/性能表。

图2提供了以800MHz、1066MHz和1333MHz进行操作的示例性存储器子系统的示例性带宽-延迟曲线。

图3是电子系统的一个实施例的框图。

图4是用于存储器操作状态的动态选择和修改的技术的一个实施例的流程图。

具体实施方式

在下面的描述中，阐述了许多具体的细节。然而，可以在没有这些具体细节的情况下实现本发明的实施例。在其它情况中，没有详细示出公知的电路、结构和技术，以免模糊对本描述的理解。

本文描述的是用于增加现有功率状态并且进一步改善存储器功率效率的动态存储器频率/电压调节技术。每个频率/电压操作点被定义为与处理器P-状态相似的H-状态。在一个实施例中，用硬件实现H-状态控制策略。本文描述的是在存储器控制器内获得存储器调节因子的技术，该存储器调节因子动态地捕获对存储器延迟的工作负荷敏感性并指导H-状态转换决定。

在一个实施例中，可以容忍较高的存储器延迟的工作负荷以改善平台能量效率的较低的频率运行，而对存储器延迟敏感的工作负荷以充分利用了平台中可用的性能能力的较高的速度运行。在存储器控制器内，可以周期性地调度一个处理来访问存储器操作状况并且为下一个时间间隔选择适当的H-状态。例如，可以以1ms的粒度来执行该处理。

例如，可以通过定义具有不同的预取策略、断电策略和断电深度的H-状态来将H-状态的概念应用到频率/电压之外。在替代实施例中，可以针对操作系统交互提供一种技术，来支持“硬件管理的/操作系统指导的”功率管理范例。

本文描述的技术可以被认为是：定义具体的存储器操作状态(H-状态)，基于给定的一组观察为下一个时间间隔选择最好的操作状态，以及根据新的操作状态重新配置存储器参数。此外，可以提供用于与操作系统进行交互的接口，以获得策略信息并提供服务质量(QoS)反馈。可以以例如1ms的时间节拍或者取决于特定需求以不同的节拍(更高或者更低)来执行存储器管理/配置处理(观察、选择、重配置)。

图1是针对具有四个存储器功率状态和两个存储器模块的实施例的示例性存储器功率/性能表。图1中给出了一个针对每通道(例如，DDR3)两个双列直插式存储器模块(DIMM)的H-状态定义的例子。H-状态的具体集合并不限于该示例中的四个，并且它们的具体配置将是取决于平台的，并且可以通过例如架构设计阶段期间的优化学习来确定。

参考图1描述的技术提供了用于确定工作负荷存储器调节的方法，该工作负荷存储器调节也被称为存储器调节因子(MSF)，其可以用于控制存储器频率和电压调节。存储器子系统的两个性能特征是其带宽能力和延迟。对于没有任何断电的闭页操作，下列的排队等式很好地描述了带宽和延迟之间的关系：

$\mathrm{Latency}=\mathrm{Idlelatency}+\mathrm{slope}*\frac{\mathrm{Bandwidth}}{\mathrm{PeakSustainedBandwidth}-\mathrm{Bandwidth}}$

其中，IdleLatency表示在空闲存储器子系统上观察到的延迟，Bandwidth表示当前的存储器带宽使用，以及PeakSustainedBandwidth表示存储器设备的最高支持带宽。只要存储器子系统能够给予应用程序所需要的带宽，则最关键的性能因素就是延迟。

图2提供了以800MHz、1066MHz和1333MHz操作的示例性存储器子系统的示例性带宽-延迟曲线。在图2的示例中，以1333MHz运行的存储器具有比以1066MHz运行的存储器更低的延迟，而以1066MHz运行的存储器具有比以800MHz运行的存储器低的延迟。

在一个实施例中，针对存储器可以操作的每个频率来计算作为带宽的函数的延迟，并且存储该结果用于以后使用。随着存储器延迟增加，处理器核心的每指令时钟数(CPI)也增加。CPI通过下式与存储器延迟相关：

CPI＝CPI_core+MPI*BlockingFactor*MemoryLatency

其中，MPI表示每指令缺失数，BlockingFactor是位于0和1之间的，对应于使处理器核心停滞的缺失的百分比的数值。

存储器调节因子(MSF)可以用于存储器操作状态选择的目的。MPF可以被定义为：

$\mathrm{MSF}=\frac{\%\mathrm{\ΔCPI}}{\%\mathrm{\ΔMemoryLatency}}$

或者被定义为：

$\mathrm{MSF}=\frac{({\mathrm{CPI}}_N-{\mathrm{CPI}}_{\mathrm{MaxFreq}})/{\mathrm{CPI}}_{\mathrm{MaxFreq}}}{({\mathrm{Latency}}_N-{\mathrm{Latency}}_{\mathrm{MaxFreq}})/{\mathrm{Latency}}_{\mathrm{MaxFreq}}}$

小MSF值意味着高CPI_core、低MPI和/或低阻止因子，以及对存储器延迟相对不敏感的应用程序。高MSF意味着低CPI_core、高MPI和/或高阻止因子，以及对存储器延迟敏感的应用程序。

可以用不同的方式来确定MSF。在一个实施例中，经由延迟路径中存储器定时参数的小扰动来实时地(或者，近似实时地)确定MSF。在一个实施例中，这可以通过每10ms将tRCD的值向上和向下改变两个时钟周期来完成。例如，如果DIMM的tRCD被指定为9个时钟周期，则tRCD可以在8和10个时钟周期之间变化。该存储器延迟的周期性变化在线程的CPI中提供了信号。在一个实施例中，通过使用滤波和加权移动平均，可以提取MSF。

在一个实施例中，可以将“读取往返延迟”向上和向下改变例如一个或两个时钟周期。这对于“存储器闭页”和“存储器开页”策略可以都是有效的。在其中“核心存储器停滞计数器”除以“核心运行时钟计数器”的另一实施例中，可以直接为核心确定MSF。该最后一个实施例不需要定时参数的切换。

在各个实施例中，针对第N个采样和线程0到M的公式是：

${\mathrm{MSF}}_N=\frac{\mathrm{CPI}\_\mathrm{high}\_\mathrm{tR}{\mathrm{CD}}_{N-1}-\mathrm{average}(\mathrm{CPI}\_\mathrm{low}\_\mathrm{tR}{\mathrm{CD}}_{n-2},\mathrm{CPI}\_\mathrm{low}\_\mathrm{tR}{\mathrm{CD}}_N)}{(2\mathrm{clock}*1.5\mathrm{ns}/\mathrm{clock})/\mathrm{MeasuredLatency}}$

其中，项“1.5ns”取决于时钟频率，并且可以针对不同的频率而改变。可以使用的另一公式是：

${\mathrm{MSF}}_{{\max }_N}=\max ({\mathrm{MSFthread}}_{N,\mathrm{threa}{d}_0}*{\mathrm{Util}}_{N,\mathrm{threa}{d}_0},...,\mathrm{MSFthrea}{d}_{N,{\mathrm{thread}}_M}*{\mathrm{Util}}_{N,\mathrm{threa}{d}_M})$

其中，MSFthread指示特定线程的MSF，Util指示该线程的存储器使用。

可以通过下式来概述以不同存储器频率运行的性能影响：

％CPI_impact＝MSF*％Latency_impact

其中，％Latency_impact表示通过以较低的频率或者H-状态运行而引起的CPI的百分比增加。％Latency_impact是通过以较低的频率或者H-状态运行而引起的存储器读取延迟的百分比增加。

在一个实施例中，选择最大性能损失(performance hit)(MPH)参数，该参数可以用于选择满足所选择的MPH的存储器工作频率。在使用800MHz、1066MHz和1333MHz存储器设备的一个实施例中，可以根据如上述方式存储的与所观察的带宽对应的延迟，来将延迟影响确定为：

％Latency_impact_1066＝Latency_1066/Latency_1333

％Latency_impact_800＝Latency_800/Latency_1333

在一个实施例中，存储器控制器(或者其它系统组件)可以选择满足下式的最低的H-状态：

％CPI_impact≤MPH

之前，对于主动式存储器，仅支持单一的存储器状态。也就是说，在引导时间，BIOS代码根据所选择的BIOS选项将所有的存储器参数设置为固定值。因此，在这些之前的存储器子系统中，存储器频率和电压、断电状态和策略以及预取策略是静态的。一般地，存储器被配置为提供最高的性能而不管能量开销。利用本文描述的技术和机制，可以动态定制存储器操作，以在没有过度性能损失的情况下提供降低的能量消耗，这是目标为节省功率的静态配置所需要的。

返回图1，可以利用上述参数来为存储器系统选择操作状态(H-状态)。图1的参数示出了四种示例性操作状态(H0、H1、H2和H3)110，该四种示例性操作状态提供了工作频率120、列(rank)空闲时间值130和列断电策略140的不同组合。表中更靠上的行(较低数字表示的H-状态值)提供了更高的存储器系统性能，而表中更靠下的行(较大数字表示的H-状态值)提供了较低的存储器系统性能。

图3是电子系统的一个实施例的框图。图3中所示的电子系统旨在表示一系列的电子系统(有线的或者无线的)，包括例如服务器、台式计算机系统、膝上型计算机系统、蜂窝电话、个人数字助理(PDA)(包括支持蜂窝的PDA)、机顶盒。替代的电子系统可以包括更多、更少和/或不同的组件。

电子系统300包括用于传送信息的总线305或者其它通信设备，以及可以处理信息的耦合至总线305的处理器310。虽然示出了具有单个处理器的电子系统300，但是电子系统300可以包括多个处理器和/或协处理器和/或多个处理核心。

电子系统300还可以包括耦合至总线305并且可以存储可以由处理器310执行的信息和指令的随机存取存储器(RAM)或者其它动态存储设备320(称为存储器)。存储器320还可以用于存储在处理器310执行指令期间的临时变量或者其它中间信息。在一个实施例中，处理器310可以包括处理器核心和存储器控制器。在替代实施例中，处理器核心和存储器控制器可以是不同组件的部分。

存储器320包括存储器系统，可以适应性地控制该存储器系统以基于系统状况和/或策略，利用各种操作参数来如上面所述的一样工作。系统状况可以由处理器310和/或存储器控制器来监控。存储器控制器可以是处理器310、存储器320或者其它系统组件的部分。

电子系统300还可以包括耦合至总线305的、可以存储用于处理器310的静态信息和指令的只读存储器(ROM)和/或其它静态存储设备330。数据存储设备340可以耦合至总线305，以存储信息和指令。诸如磁盘或者光碟的数据存储设备340以及对应的驱动器可以耦合至电子系统300。

电子系统300还可以经由总线305而耦合至显示设备350以向用户显示信息，所述显示设备350诸如是阴极射线管(CRT)或者液晶显示器(LCD)。包括字母数字和其它键的字母数字输入设备360可以耦合至总线305，以向处理器310传送信息和命令选择。另一类型的用户输入设备是用于向处理器310传送方向信息和命令选择，并且控制显示器350上的光标移动的光标控制器370，诸如鼠标、跟踪球或者光标方向键。

电子系统300还可以包括网络接口380，以提供对诸如局域网的网络的访问。网络接口380可以包括例如具有可以表示一个或多个天线的天线385的无线网络接口。网络接口380还可以包括例如有线网络接口，以经由网络电缆387与远程设备进行通信，该网络电缆387可以是例如以太网电缆、同轴电缆、光纤电缆、串行电缆或者并行电缆。

在一个实施例中，网络接口380可以例如通过遵守IEEE 802.11b和/或IEEE 802.11g标准来提供对局域网的访问，和/或无线网络接口可以例如通过遵守蓝牙标准来提供对个人局域网的访问。还可以支持其它无线网络接口和/或协议。

IEEE 802.11b对应于1999年9月16日通过的标题为“Local andMetropolitan Area Networks，Part 11：Wireless LAN Medium Access Control(MAC)and Physical Layer(PHY)Specifications：Higher-Speed Physical LayerExtension in the 2.4GHz Band”的IEEE Std.802.11b-1999以及相关文档。IEEE 802.11g对应于2003年6月27日通过的标题为“Local and MetropolitanArea Networks，Part 11：Wireless LAN Medium Access Control(MAC)andPhysical Layer(PHY)Specifications，Amendment 4：Further Higher RateExtension in the 2.4GHz Band”的IEEE Std.802.11g-2003以及相关文档。在蓝牙技术联盟公司2001年2月22日公布的“Specification of the BluetoothSystem：Core，Version 1.1”中描述了蓝牙协议。还可以支持蓝牙标准的相关联的以及之前的或者随后的版本。

除了经由无线LAN标准进行通信之外，或者取代经由无线LAN标准进行通信，网络接口380可以提供使用例如时分多址(TDMA)协议、全球移动通信系统(GSM)协议、码分多址(CDMA)协议和/或任意其它类型的无线通信协议的无线通信。

图4是用于存储器操作状态的动态选择和修改的技术的一个实施例的流程图。图4的流程图包括可选的操作系统参与。一些实施例包括操作系统参与，其它实施例可以在没有操作系统参与的情况下进行操作。因此，图4的操作系统组件是可选的。

在400处，观察当前的操作状况。这些操作状况可以包括上面描述的状况中的一个或多个，例如，存储器带宽使用、当前存储器操作状态、存储器调节因子等。

在410处，使用当前的操作状况来为存储器系统选择下一个操作状态。在420处，存储器的下一个操作状态的选择还可以包括操作系统指导。操作系统指导可以包括例如性能偏差值、功率偏差值和/或其它策略信息。

在一个实施例中，可以从例如参考图1所描述的四个操作状态中的一个来选择下一个操作状态。在替代实施例中，可以支持存储器系统的不同数量的操作状态。

在430处，存储器系统转换到新的操作状态。在一些条件下，例如，如果所监控的状况没有显著的变化，则新的操作状态可以与旧的操作状态相同。然后，重复该循环。在一个实施例中，大约每1ms就更新/改变操作状态；然而，可以使用其它周期。

在一个实施例中，在选择操作状态之后，将与新的操作状态的选择有关的信息提供给操作系统。在一个实施例中，在450处，这被称为对操作系统的服务质量(QoS)反馈。

本说明书中对“一个实施例”或者“实施例”的引用指的是结合该实施例描述的特定的特征、结构或者特性包括在本发明的至少一个实施例中。在本说明书各个位置中出现的短语“在一个实施例中”并不必然都指同一实施例。

虽然参考多个实施例描述了本发明，但是本领域技术人员将认识到，本发明不限于所描述的实施例，而是可以以在所附权利要求的精神和范围内的修改和改变来实现本发明。因此，本描述被认为是说明性的而不是限制性的。

Claims (26)

1.一种系统，包括：

处理核心，用于执行应用程序；

存储器子系统；以及

存储器控制器，其与所述处理核心和所述存储器子系统耦合，所述存储器控制器用于监控所述存储器子系统的操作，将所监控的操作与一个或更多个性能阈值进行比较，以及至少基于所述存储器子系统的所监控的性能特征来修改所述存储器子系统的工作电压和/或工作频率参数。

2.根据权利要求1所述的系统，其中，所述存储器控制器还至少基于所述存储器子系统的所监控的性能特征来修改存储器断电策略和存储器预取策略。

3.根据权利要求1所述的系统，其中，所述存储器控制器还至少基于所述应用程序的检测的延迟敏感性来修改所述存储器子系统的所述工作电压和/或所述工作频率参数。

4.根据权利要求1所述的系统，其中，所述存储器控制器还至少基于所述存储器子系统的所监控的性能特征来修改预取策略。

5.根据权利要求1所述的系统，其中，所述存储器控制器和所述存储器子系统互操作，以使所述存储器子系统在由所述工作电压和所述工作频率参数定义的四个操作状态中的一个中进行操作。

6.根据权利要求1所述的系统，其中，所述处理核心还执行操作系统，所述操作系统用于提供由所述存储器控制器用来修改所述存储器子系统的所述工作电压和/或所述工作频率参数的反馈。

7.根据权利要求6所述的系统，其中，所述操作系统反馈至少包括修改所述一个或多个性能阈值。

8.根据权利要求1所述的系统，其中，所述存储器子系统的所监控的性能特征至少包括存储器子系统延迟使所述处理核心停滞的时间量。

9.根据权利要求1所述的系统，其中，所述存储器子系统的所监控的性能特征至少包括存储器子系统带宽使用。

10.一种方法，包括：

监控电子设备内的存储器子系统的操作特征；

将所述存储器子系统的所监控的操作特征与多个性能阈值进行比较；以及

至少基于对所监控的操作特征和所述多个阈值的所述比较来修改所述存储器子系统的工作电压和工作频率。

11.根据权利要求10所述的方法，还包括至少基于所述存储器子系统的所监控的性能特征来修改存储器断电策略和存储器预取策略。

12.根据权利要求10所述的方法，其中，至少基于所述应用程序的检测的延迟敏感性来修改所述存储器子系统的所述工作电压和所述工作频率参数。

13.根据权利要求10所述的方法，其中，还包括至少基于所述存储器子系统的所监控的性能特征来修改预取策略。

14.根据权利要求10所述的方法，其中，存储器控制器和存储器子系统互操作，以使所述存储器子系统在由所述工作电压和所述工作频率参数定义的至少四个操作状态中的一个中进行操作。

15.根据权利要求10所述的方法，还包括执行操作系统，所述操作系统用于提供由所述存储器控制器用来修改所述存储器子系统的所述工作电压和/或所述工作频率参数的反馈。

16.根据权利要求15所述的方法，其中，所述操作系统反馈至少包括修改所述一个或多个性能阈值。

17.根据权利要求10所述的方法，其中，所述存储器子系统的所监控的性能特征至少包括存储器子系统延迟使所述处理核心停滞的时间量。

18.根据权利要求10所述的方法，其中，所述存储器子系统的所监控的性能特征至少包括存储器子系统带宽使用。

19.一种装置，包括：

接口，用于与存储器子系统进行通信；

性能阈值存储设备，用于存储一个或多个性能阈值；以及

存储器控制器电路，其与所述接口和所述性能阈值存储设备耦合，所述存储器控制器电路用于监控所述存储器子系统的操作，将所监控的操作与所述一个或多个性能阈值进行比较，以及至少基于所述存储器子系统的所监控的性能特征来修改所述存储器子系统的工作电压和/或工作频率参数。

20.根据权利要求19所述的装置，其中，所述存储器控制器还至少基于所述存储器子系统的所监控的性能特征来修改存储器断电策略和存储器预取策略。

21.根据权利要求19所述的装置，其中，所述存储器控制器电路还至少基于所述应用程序的检测的延迟敏感性来修改所述存储器子系统的所述工作电压和/或所述工作频率参数。

22.根据权利要求19所述的装置，其中，所述存储器控制器电路还至少基于所述存储器子系统的所监控的性能特征来修改预取策略。

23.根据权利要求19所述的装置，其中，所述存储器控制器电路和所述存储器子系统互操作，以使所述存储器子系统在由所述工作电压和所述工作频率参数定义的四个操作状态中的一个中进行操作。

24.根据权利要求19所述的装置，其中，所述存储器子系统的所监控的性能特征至少包括存储器子系统延迟使所述处理核心停滞的时间量。

25.根据权利要求19所述的装置，其中，所述存储器子系统的所监控的性能特征至少包括存储器子系统带宽使用。

26.一种方法，包括：

监控主机系统中的一个或更多个处理核心的存储器调节因子(MSF)、来自存储器控制器的总计通道带宽以及操作系统性能与功率偏差的比值；

将所述MSF、总计通道带宽和操作系统性能与功率偏差的比值与多个性能阈值进行比较；以及

至少基于所述MSF、总计通道带宽和操作系统性能与功率偏差的比值与多个性能阈值的比较来修改所述主机系统的存储器子系统的存储器工作频率、存储器工作电压、断电策略和预取策略中的一个或多个。

Images