CN105094985A - 一种共享内存池的低功耗数据中心及其工作方法 - Google Patents

Abstract

本发明提供一种共享内存池的低功耗数据中心及其工作方法，该数据中心包括多个服务器和内存池，内存池与服务器连接，用以充当服务器的内存；一个或多个服务器向内存池申请使用至少一个内存资源；服务器向外部大容量存储设备发出数据和/或应用程序调用命令；外部大容量存储设备接收数据和/或应用程序调用命令，将数据和/或应用程序存储至所申请的内存资源中；将内存资源中的数据和/或应用程序导入至片外混合高速缓存器中。这种数据中心结构能够以最小的硬件成本达到较高的性能要求，而且能够有效降低数据中心的功耗。

Description

一种共享内存池的低功耗数据中心及其工作方法

技术领域

本发明涉及数据中心领域，尤其涉及一种共享内存池的低功耗数据中心及其工作方法。

背景技术

随着集成电路技术的发展和3D新型存储技术的出现，一种新型的数据中心服务器结构如图1所示，通过采用多芯片封装(MultiChipPackage)技术，将处理器芯片、片外易失性高速缓存器以及3D新型非易失性存储器封装在一个封装体内，大大提高集成度。片外易失性高速缓存器作为片外最后一级易失性高速缓存，可以是嵌入式动态随机存储器(eDRAM)，与3D新型非易失性存储器共同构成了片外混合高速缓存，即将嵌入式动态随机存储器和3D新型非易失性存储器混合在一起作为处理器最后一级缓存，从而提高了缓存的存储密度，可以将更多的数据存储在缓存中，从而减小处理器读写数据的延迟，降低计算机读写数据的功耗。同时在最后一级混合缓存器中加入一自学习模块，自学习模块经过一定时间的定期检查学习，将特定用户某段时间最频繁使用的应用程序或数据存储在3D新型非易失性存储器中，减小了处理器执行和/或处理这些应用程序或数据的延迟和功耗。随着3D新型非易失性存储器技术的不断成熟，其容量也在不断提高，芯片的存储容量可以达到128Gb或者256Gb，在不远的将来甚至更高，比如达到Tb量级。因此，图1中所示的片外混合高速缓存器中的部分或者全部完全可以替代传统计算机系统中的内存(DRAM)，因此整个计算机系统的架构可以简化，如附图2所示。相比需要不断刷新的内存来说，系统功耗也会大大降低。而且，3D新型存储器是非易失性的，掉电后数据也不会丢失。

但是上述服务器构成的数据中心会遇到以下问题，上述系统在启动执行用户程序时，会经历两个过程：(1)自学习过程；(2)高性能执行客户应用程序过程。假设如图3所示的数据中心中的服务器均采用上述计算机架构，其中模块A包括服务器A、服务器B和服务器C，模块B包括服务器D、服务器E和服务器F。将模块A租赁给客户A，，并处在高性能执行客户A的应用程序过程，此时，系统已通过自学习过程，智能地了解到租赁客户A的使用习惯，并将其最频繁使用的应用程序和数据保存到了片外混合缓存器上的3D大容量非易失性新型存储器上，在接下来的使用时间内，处理器将不再频繁需要从外部大容量存储设备向内存和/或片外混合缓存器导入大量用户数据，因而用户体验非常好，更能够大大节省数据中心的功耗。将模块B租赁给客户B，对租赁给客户B的服务器来说，尚处在对客户B应用使用习惯的自学习过程，因而需要不断从外部大容量存储设备中导入客户B的应用程序和数据至片外混合缓存器中，最后至片内高速缓存器中被处理器使用。假设片外混合缓存器中的易失性部分容量为M，3D新型非易失性存储器部分的容量为N，而M必然远小于N。易失性存储器为了保存数据会不断刷新，因而功耗非常高，因此容量不会太大，否则刷新功耗会非常高。在性能上，片外混合缓存器中的易失性存储器要远大于3D新型非易失性存储器，所以在自学习过程中3D新型非易失性存储器拖累了整体片外高速缓存器的性能。服务器在自学习过程中，3D新型非易失性存储器中刚开始是没有用户B的客户应用程序和数据的，而片外高速缓存器中的易失性部分容量M又很小，因而导致在自学习过程服务器的性能很低。相对于传统在片外高速缓存和内存中没有非易失性部分的数据中心(如图1)来说，片外混合缓存器中的易失性部分容量太小，因而此时用户B的体验感要差得多，自学习模块只有在一段时间的自学习过程之后才能将了解到租赁客户B的使用习惯，再将其最频繁使用的应用程序和数据保存到片外混合高速缓存中的3D非易失性存储器中。可见，如何提高上述系统在自学习过程中的性能和用户体验，是目前需要解决的问题。

发明内容

鉴于上述问题，本申请记载了一种共享内存池的低功耗数据中心，包括多个服务器和内存池，所述内存池与所述服务器连接，用以给所述服务器分配内存资源。

较佳的，所述内存池包括多个内存资源，每个内存资源由若干内存芯片组成。

较佳的，所述服务器包括处理器和片外混合高速缓存器，所述处理器与所述片外高速混合缓存器通过多芯片封装技术封装在一起，所述片外混合高速缓存器包括：

相连的片外易失性存储器和3D新型非易失性存储器，所述片外易失性存储器和所述3D新型非易失性存储器作为处理器的片外最后一级高速缓存，用以数据的缓存或存储；以及

自学习模块，分别与所述片外易失性存储器和所述3D新型非易失性存储器连接，以用于定期检查学习并统计计算机用户的操作数据和/或应用程序的使用习惯，获取学习结果。

较佳的，所述3D新型非易失性存储器为3D相变存储器。

较佳的，所述服务器中的内存或混合内存的至少部分存储空间由所述片外混合高速缓存器替代。

本发明还提供了一种共享内存池的低功耗数据中心的工作方法，包括步骤：

一个或多个服务器向内存池申请使用至少一个内存资源；

所述服务器向外部大容量存储设备发出数据和/或应用程序调用命令；

外部大容量存储设备接收所述数据和/或所述应用程序调用命令，将所述数据和/或所述应用程序存储至所申请的所述内存资源中；

将所述内存资源中的所述数据和/或所述应用程序导入至片外混合高速缓存器中。

较佳的，其特征在于，当所述内存资源被所述服务器申请使用时不能被其他服务器申请使用。

较佳的，还包括步骤：

释放所述服务器向所述内存池申请的所述内存资源；

判断被释放的所述内存资源是否继续为其他服务器所使用，如果没有，关闭所述内存资源的电源。

较佳的，在步骤释放所述服务器向所述内存池申请的所述内存资源后还包括步骤：

片外高速混合存储器存储至少部分内存或混合内存中的数据和/或应用程序。

上述技术方案具有如下优点或有益效果：使处于自学习阶段的服务器能够申请使用内存池中的内存，达到性能要求，当处于高性能执行用户应用程序阶段时又能够重新释放内存池中的内存，以供其他服务器使用或者直接关闭该内存池中的内存电源，因此本发明这种数据中心结构能够以最小的硬件成本达到较高的性能要求，而且能够有效降低数据中心的功耗。

附图说明

参考所附附图，以更加充分的描述本发明的实施例。然而，所附附图仅用于说明和阐述，并不构成对本发明范围的限制。

图1为现有技术中一种数据中心的结构示意图一；

图2为现有技术中一种数据中心的结构示意图二；

图3为现有技术中一种数据中心的使用示意图；

图4A为本发明一种共享内存池的低功耗数据中心的结构示意图一；

图4B为本发明一种共享内存池的低功耗数据中心的结构示意图二；

图5为现有技术中用于解决在自学阶段导入数据慢和性能不足的数据中心的结构示意图；

图6为本发明一种共享内存池的低功耗数据中心的使用示意图一；

图7为本发明一种共享内存池的低功耗数据中心的使用示意图二。

具体实施方式

下面结合附图和具体实施例对本发明一种共享内存池的低功耗数据中心及其工作方法进行详细说明。

实施例一

本发明提出一种共享内存池的超低功耗数据中心结构，如图4所示，该数据中心由M(M>1)个服务器构成的。本发明数据中心中的服务器均采用多芯片封装技术将处理器芯片、片外易失性存储器、3D新型非易失性存储器封装在同一颗封装体内，即多芯片封装模块内。所述片外易失性存储器可以作为处理器的片外最后一级高速缓存的易失性部分，其构成可以是嵌入式动态随机访问存储器(eDRAM)。所述片外易失性存储器中的部分或者全部替代了部分或者全部的传统系统内存或者混合内存中的易失性部分。所述3D新型非易失性存储器可以为技术逐渐成熟的3D相变存储器(3DPCM)，也可以为其他3D新型非易失性存储器，采用的是3D垂直堆叠工艺制成。所述3D新型非易失性存储器可作为处理器的片外最后一级高速缓存的非易失性部分，并且其部分或者全部替代了部分或者全部的传统系统中混合内存的非易失性部分。所述片外易失性存储器和所述3D新型非易失性存储器共同构成了片外混合高速缓存器，用以作为处理器的片外最后一级混合高速缓存。所述片外混合高速缓存器的部分或者全部存储空间可替代部分或者全部的传统系统内存或者混合内存：如图4A所示，如果替代了全部的传统系统内存或者混合内存，那么整个服务器系统架构中就没有了内存或混合内存模块，系统结构更加简单；如果仅替代了部分的传统系统内存或者混合内存，那么整个服务器系统架构中依然保留内存或混合内存模块，但对其容量需求会降低，如图4B所示，其中，所述内存还可以为混合内存。所述片外混合高速缓存器中的自学习模块可以用硬件实现，也可以用软件实现，其作用是在一段时间内，对特定用户的行为或者使用习惯进行学习和统计，并决定将所述特定用户最频繁使用的应用程序和/或数据存储在所述3D新型非易失性存储器中，从而提高系统性能。本发明内存池是由N(N>1)个内存资源构成的内存阵列，每个内存资源都是由若干内存芯片组成，且都是易失性的，比如DRAM。所述内存池连接至每个服务器并可以为之使用，充当其系统内存。当某个或多个服务器处在自学习阶段时，处理器需要不断从外部大容量存储设备向内存和高速缓存(包括片内高速缓存和片外高速缓存)导入大量数据，由于服务器系统中内存或片外高速混合缓存器中的易失性部分容量太低导致系统性能较低，此时该服务器系统可向内存池申请若干个内存资源使用，以充当该服务器的系统内存从而提高系统性能，并且此时片外混合高速缓存器可以全部作为处理器片外的最后一级缓存使用；当该服务器经过一段时间的自学习过程后处于高性能执行客户应用程序过程时，无需再多次频繁从外部大容量存储设备向内存和高速缓存(包括片内高速缓存和片外高速缓存)导入大量数据，因而不需要额外的系统内存，因而可以释放出内存池中使用的内存资源，以供其他服务器使用或者关闭该内存资源的电源以降低功耗，并且将片外混合高速缓存器从全部充当处理器的最后一级高速缓存用途恢复成部分或者全部替代混合内存用途。可见，本发明这种共享内存池的数据中心能够降低硬件成本，真正实现物尽其用，而且能够极大的降低数据中心的功耗。

本发明提出了一种共享内存池的数据中心结构，使处于自学习阶段的服务器能够申请使用内存池中的内存，达到性能要求，当处于高性能执行用户应用程序阶段时又能够重新释放内存池中的内存，以供其他服务器使用或者直接关闭该内存池中的内存电源。因此本发明这种数据中心结构能够以最小的硬件成本达到较高的性能要求，而且能够有效降低数据中心的功耗。

实施例二

根据上述实施例提出的一种共享内存池的低功耗数据中心，本实施例提出了一种基于该数据中心的工作方法。

本发明这种共享内存池的超低功耗数据中心中的服务器可分为两种工作阶段：

(1)自学习阶段。当某个或多个服务器第一次或前几次启动或者更换了租赁客户时，该服务器就会开始一段时间的自学习过程，学习某个特定客户的行为和使用习惯，此时系统需要不断从外部大容量存储设备向多芯片封装模块内的片外混合高速缓存器中导入大量数据，由于系统中内存或片外高速混合缓存器中的易失性部分容量较低因而系统性能较低，此时系统可向内存池申请使用若干内存资源，该内存资源充当或者扩展了系统内存或片外高速混合缓存器中的易失性部分，外部大容量存储设备中的数据会先导入至内存池中申请到的指定内存资源中，然后再导入至片外混合高速缓存器中。此时，片外混合高速缓存器可以全部作为处理器片外的最后一级缓存使用。自学习模块不断通过统计和学习，将该特定用户最频繁使用的应用程序和/或数据存储在所述3D新型非易失性存储器中，当处理器下次再使用该应用程序和/或数据时，就无需再从外部内存池中的指定内存中导入，直接从3D新型非易失性存储器读取。通过不断统计和学习，更多的客户应用和数据会被直接存储在3D新型非易失性存储器，因而从外部大容量存储器中导入的数据量也会越来越少，对内存池中的内存需求也会也会越来越低。需要指出的是，当内存池中的一个或若干个内存资源被某个服务器申请使用时，该内存资源就不能再被其他服务器申请使用。

具体而言，当数据中心中一个或者多个服务器第一次或者前几次启动或者更换了租赁客户时，这些服务器处于自学阶段，在自学阶段，所述服务器的工作方法包括步骤：

服务器向内存池申请使用至少一个内存资源；

服务器向外部大容量存储设备发出数据和/或应用程序调用命令；

所述外部大容量存储设备接收所述数据和/或应用程序调用命令，将数据和/或应用程序存储至所申请的内存资源中；

将内存资源中的所述数据和/或应用程序导入至片外混合高速缓存器中，此时，该内存资源不能再被其它服务器申请使用。

在所述服务器的工作过程中，还包括步骤：

自学习模块不断的进行统计和学习，获取学习结果；

根据所述学习结果，将用户最频繁使用的数据和/或应用程序从所诉内存资源中存储至所述3D新型非易失性存储器中。

(2)高性能执行客户应用程序阶段。当某个服务器经过一段时间的自学习过程后，系统将该特定客户的最频繁使用的客户应用程序和/或数据存储在所述3D新型非易失性存储器中，因而不再需要频繁的、大量的从外部存储设备中导入数据，因而对内存资源的需求降低，那么可释放在自学习阶段向内存池中申请的内存资源。此时，片外混合高速缓存器不仅可充当处理器的片外最后一级高速缓存器，其部分或者全部也充当了部分或者全部的系统内存。此阶段释放的内存池中的内存资源可以供其他服务器继续使用，在没有被其他服务器使用时可直接关闭其电源，进一步降低数据中心的功耗。

具体而言，当数据中心中的一个或者多个服务器经过一定时间的自学过程且对内存资源的需求降低后，所述服务器的工作方法包括步骤：

释放所述服务器向内存池申请的所述内存资源；

判断被释放的内存资源是否继续为其他服务器所使用，如果没有，关闭所述内存资源的电源。

实施例三

根据上述实施例提出的一种共享内存池的低功耗数据中心及其工作方法，本实施例根据实际应用，进行进一步阐述。

以服务器系统中没有内存模块为例，即片外混合高速缓存器的部分或者全部存储空间替代了全部的系统内存或者混合内存。为了解决上述服务器在自学习阶段导入数据慢和性能不足的问题，传统的办法会在每个服务器系统中增加额外内存资源以满足性能要求，这样虽然能够解决系统性能问题，但是每个服务器均增加大量内存资源，如附图5所示，构建成本会提高，而且内存功耗非常大(需要不断刷新以保证数据不丢失)，因此对整个数据中心来说成本和功耗都会明显增加。对于没有3D新型非易失性存储器的服务器来说，为了提高系统性能也需要增加额外的内存资源才能提高系统性能，如附图6所示，但是当不需要数据中心高性能运行时，大量内存资源的使用就会造成的成本浪费和功耗浪费。采用本发明这种共享内存池的超低功耗数据中心结构，某个服务器需要使用内存的时候向内存池申请，不需要的时候就可以释放出来，以供其他服务器使用或者直接断电，因此从成本和功耗上都会大大降低。如图7所示的是采用本发明共享内存池的超低功耗数据中心，假设内部有十个服务器。如果按照传统方法，若每个机器配置3个内存资源，那么整个数据中心需要购买30个内存资源；而采用本发明共享内存池的方法，仅配置了9个内存资源就可以供整个数据中心使用。可见数据中心从成本上和功耗上都会大大降低。如图7所示，假设服务器1-3租赁给客户A使用，服务器4-7租赁给客户B使用，并且服务器1-7均工作在高性能执行客户应用程序阶段，因而没有服务器使用内存池中的内存资源，整个内存池的内存资源全部关闭电源。若某一时刻，服务器8-10租赁给客户C使用，那么服务器8-10就处于对用户C的自学习阶段，为了提高服务器8-10的性能，需要申请内存池中的内存资源，比如将内存资源1-6提供给服务器8-10使用。经过一段时间的学习过程后，服务器8-10进入高性能执行客户应用程序阶段，因而不再需要额外的内存资源，那么释放内存池中的内存资源，关闭电源以节约功耗。假设在另一个时刻，数据中心与客户A租赁合同结束，重新将服务器1-3租赁给客户D，那么服务器1-3也将进入对客户D行为和使用习惯的学习阶段，也需要从内存池中申请内存资源以满足性能要求，比如将内存中的内存资源1-3和7-9提供给服务器1-3使用。经过一段时间的学习过程后，服务器1-3进入高性能执行客户应用程序阶段，因而不再需要额外的内存资源，那么释放内存池中的内存资源，关闭电源以节约功耗。

对于本领域的技术人员而言，阅读上述说明后，各种变化和修正无疑将显而易见。因此，所附的权利要求书应看作是涵盖本发明的真实意图和范围的全部变化和修正。在权利要求书范围内任何和所有等价的范围与内容，都应认为仍属本发明的意图和范围内。

Claims (9)

1.一种共享内存池的低功耗数据中心，其特征在于，包括多个服务器和内存池，所述内存池与所述服务器连接，用以给所述服务器分配内存资源。

2.根据权利要求1所述的共享内存池的低功耗数据中心，其特征在于，所述内存池包括多个所述内存资源，每个所述内存资源由若干内存芯片组成。

3.根据权利要求1所述的共享内存池的低功耗数据中心，其特征在于，所述服务器包括处理器和片外混合高速缓存器，所述处理器与所述片外高速混合缓存器通过多芯片封装技术封装在一起，所述片外混合高速缓存器包括：

相连的片外易失性存储器和3D新型非易失性存储器，所述片外易失性存储器和所述3D新型非易失性存储器作为处理器的片外最后一级高速缓存，用以数据的缓存或存储；以及

自学习模块，分别与所述片外易失性存储器和所述3D新型非易失性存储器连接，以用于定期检查学习并统计计算机用户的操作数据和/或应用程序的使用习惯，获取学习结果。

4.根据权利要求3所述的共享内存池的低功耗数据中心，其特征在于，所述3D新型非易失性存储器为3D相变存储器。

5.根据权利要求3所述的共享内存池的低功耗数据中心，其特征在于，所述服务器中的内存或混合内存的至少部分存储空间由所述片外混合高速缓存器替代。

6.一种共享内存池的低功耗数据中心的工作方法，其特征在于，包括步骤：

一个或多个服务器向内存池申请使用至少一个内存资源；

所述服务器向外部大容量存储设备发出数据和/或应用程序调用命令；

外部大容量存储设备接收所述数据和/或所述应用程序调用命令，将所述数据和/或所述应用程序存储至所申请的所述内存资源中；

将所述内存资源中的所述数据和/或所述应用程序导入至片外混合高速缓存器中。

7.根据权利要求6所述的共享内存池的低功耗数据中心的工作方法，其特征在于，当所述内存资源被所述服务器申请使用时不能被其他服务器申请使用。

8.根据权利要求6所述的共享内存池的低功耗数据中心的工作方法，其特征在于，还包括步骤：

释放所述服务器向所述内存池申请的所述内存资源；

判断被释放的所述内存资源是否继续为其他服务器所使用，如果没有，关闭所述内存资源的电源。

9.根据权利要求8所述的共享内存池的低功耗数据中心的工作方法，其特征在于，在步骤释放所述服务器向所述内存池申请的所述内存资源后还包括步骤：

片外高速混合存储器存储至少部分内存或混合内存中的数据和/或应用程序。