CN102662853A - 实现使用存储级并行的内存管理方法及装置 - Google Patents

Abstract

本发明涉及一种实现使用存储级并行的内存管理方法及装置，将bank的概念引入内存分配器，通过bank分组建立地址与bank间的关联，使分配器能根据地址范围标识不同的bank。数据划分为多个大小不一的数据单元，并将数据散布到主存的所有bank组中，以提高访存的并行度和减少行缓存冲突。同时，本发明完全工作在操作系统层，利用编译器和操作系统提供的信息来分析数据单元间的冲突开销，并根据主存的实际配置扩展内存分配器，既不用修改应用程序，也不依赖特殊的底层硬件。

Description

实现使用存储级并行的内存管理方法及装置

技术领域

本发明涉及到计算机系统的内存管理方法，尤其涉及实现使用存储级并行的内存管理方法及装置。

背景技术

处理器和主存之间存在较大的性能差距。Cache能减少处理器访问主存的次数，但大容量Cache难以在片上集成，并且Cache单一的替换策略也难以满足应用访存行为的多样性。处理器仍会耗费大量的时间用于访问主存，因此需要主存更加快速地响应处理器的访存请求。

访存地址中包含了行地址和列地址，用于定位存储阵列中的存储单元。当前主存采用高位交叉的方式来构造，使得行选和列选复用地址线和译码器，以节省成本。但单个存储阵列的数据宽度有限，为了与数据总线的宽度匹配，内存控制器会同时选中一组存储阵列，并且各个存储阵列来自不同的DRAM芯片。同时被选中的存储阵列成为bank。这就是内存芯片寻址的基本原理。

RAM被称为随机存储器，但从当前存储器的设计来看，每条指令访问存储器的延迟并不一致。从主存的组成来看，访问主存需要选中对应的存储体(bank)，使连续多条访存指令分别访问不同的bank，是保证存储级并行的重要手段。数据在主存中的分布决定着并行度的高低。如果分配给程序的页帧都来自不同的bank，则前后两次访存定位到不同的bank。在等待第一个访存请求的结果时，就可以开始响应第二个访存请求。前后两次访存的过程相叠加，进而提高访存的性能。因此，数据在主存中的布局越分散，则更容易发挥多bank结构提供的并行访问能力，这里的分散是指数据分布在不同的bank中。特别是随着主存的集成度不断提高，主存的生产成本逐步降低，bank数与主存的容量同步增长。一旦数据聚簇在主存的部分bank中，应用执行时只会有部分bank处于工作状态，从而限制了大容量主存潜在的性能。

因此，针对目前使用大容量主存的内存管理所存在的一系列问题，需要提供一种改进的内存管理方法，根据应用的访存行为充分利用bank资源，同时兼顾优化方法的灵活性和通用性，从而实现对系统性能的优化。

发明内容

本发明要解决的技术问题是：提出一种实现使用存储级并行的内存管理方法及装置，能够减少应用数据聚簇在主存的部分bank中，导致主存潜在的性能被低估。

本发明所采用的技术方案为：一种实现使用存储级并行的内存管理方法，以所述的bank组为单位分配内存，并确定划分的bank组与数据间的映射关系。并为应用的数据分配符合所述bank组的映射条件的物理页帧。

本发明以所述应用的数据为单位划分使用主存的bank，并确定划分的bank的映射条件，具体包括：将与所述主存的高位片选地址对主存的bank进行划分，并以所述划分的bank组号作为所述数据的染色条件。

为冲突开销较大的数据分配来自不同bank组的物理页帧，具体包括：当所述应用申请物理内存时，根据数据间的冲突开销将数据散步到不同的bank组。确保冲突开销较大的数据使用不同的bank资源；判断新申请的内存与已申请内存之间的开销，如果开销较大，则为新申请的内存染色，保证最大的前n个内存区域被着以不同的颜色；如果开销较小，则将新的内存区域着以第n个内存区域的颜色。

同时，本发明还提供了一种使用大容量高速缓存的内存管理装置，包括bank分组模块，数据染色模块和内存分配模块，其中：

Bank分组模块，用于将bank的概念引入内存分配器。通过bank分组建立地址与bank间的关联，使分配器能根据地址范围标识不同的bank；Bank的分组信息输出给数据染色模块和内存分配模块。

数据染色模块，用于判断变量间的冲突开销；变量占用的存储单元越多，越难在Cache中驻留；当处理器同时操作多个变量时，使用变量大小的乘积表示变量间的冲突开销；冲突的开销越大，则需要将这些数据散布到不同的bank组；数据的染色结果输出给内存分配模块；

内存分配模块，用于为被染色的数据分配对应的物理页帧。

具体的说，本发明所述数据染色模块包括静态数据染色单元和动态数据染色单元，其中：

静态数据染色单元，在应用申请BSS段时，将符号表中的变量描述作为染色依据，并将染色结果输出给动态数据染色单元；

动态数据染色单元，用于将操作系统捕获的内存分配请求，将符合染色条件的动态内存插入链表，根据用户的输入动态调整染色结果；

而所述内存分配模块包括依次连接的染色数据判断单元和页帧分配单元，其中：

染色数据判断单元，用于根据数据类型判断是否使用染色数据专用的内存分配接口，根据染色结果调用与bank组对应的内存分配接口，向页帧分配单元输出物理页帧分配指令；

页帧分配单元，用于根据物理页帧分配指令，分配映射到相应bank组中的物理页帧，或提示分配失败。

本发明的有益效果是：将bank的概念引入内存分配器，通过bank分组建立地址与bank间的关联，使分配器能根据地址范围标识不同的bank。数据划分为多个大小不一的数据单元，并将数据散布到主存的所有bank组中，以提高访存的并行度和减少行缓存冲突。同时，本发明完全工作在操作系统层，利用编译器和操作系统提供的信息来分析数据单元间的冲突开销，并根据主存的实际配置扩展内存分配器，既不用修改应用程序，也不依赖特殊的底层硬件。

附图说明

下面结合附图和实施例对本发明进一步说明。

图1为大容量主存中的数据分布示意图；

图2为本发明对bank分组及其与bank组和物理地址映射关系示意图；

图3是本发明的标识数据染色的过程，包括对动态/静态数据染色；

图4是本发明的内存分配流程示意；

图5是本发明的使用存储级并行的内存管理装置实施例的结构示意图。

具体实施方式

现在结合附图和优选实施例对本发明作进一步详细的说明。这些附图均为简化的示意图，仅以示意方式说明本发明的基本结构，因此其仅显示与本发明有关的构成。

本发明利用大容量主存含有多个bank的结构特点，根据地址中的高位片选地址，将主存划分为不同的组。同时，将冲突开销较大的数据映射到不同的bank租，因此减少应用执行时的访存冲突。

本发明提供的使用大容量高速缓存的内存管理方法，其流程如图2所示，包括如下步骤：

110：根据bank对地址空间划分，使内存分配器根据地址标识主存中的不同bank。

为了使数据的布局分散，需要将bank的概念引入内存分配器。通过bank分组建立地址与bank间的关联，使分配器能根据地址范围标识不同的bank。如果同时被访问的数据位于不同的地址范围，可以避免冲突，从而保证访存效率。同时，分组的结果为后续的数据染色提供依据，因为其决定了数据被染色时的颜色种类。

图3描述了物理地址和bank间的映射关系。主存中单个阵列的数据宽度有限，为与数据总线的位宽匹配，内存控制器会同时选中一组阵列，同时被选中的阵列组成bank。此外，DRAM芯片中的阵列数量有限，通常为8。为扩大容量，主存中集成了更多的DRAM芯片，需要联合片选地址和bank地址对bank进行选择。

例如，利用高位片选地址将bank划分为多个组，组数为bank_groups＝2^{chip_sel_bits}。当片选地址为1位，bank被分为2组；片选地址为2位，bank被分为4组。例如，2GB的主存中包含16个bank，阵列的数据宽度为8，并且总线的位宽为64，所有bank被分为两组，其中地址0～1GB对应组0，1GB～2GB对应组1。

120：分别对静态数据和动态数据进行染色，根据各种变量的大小来判断冲突开销。

本发明在虚拟存储系统的基础上，改进对物理内存的管理方法，用于标识冲突开销较高的数据。

数据染色被用于标识数据间的冲突开销。这包含两个方面的原因：1)由于Cache的作用，并非所有对数据的操作都会频繁访问主存；2)数据由大小不一的多个变量组成，但bank组数有限，无法将所有变量都分布到独立的bank组中。为尽可能提高访存并行度，需要确定变量间的冲突开销，然后将冲突开销最大的变量散布到不同的bank组中。

本发明利用变量的大小来判断冲突开销，因为变量占用的存储单元越多，越难在Cache中驻留。当处理器同时操作多个变量时，使用变量大小的乘积表示变量间的冲突开销。冲突的开销越大，则需要将这些数据散布到不同的bank组。

如图4所示，表示了对图2所示的方法中各步骤的具体实施步骤，包括：

210：根据符号表的描述和操作系统捕获的内存申请操作，挑选大于last_level_cache_size/2(last_level_cache_size为最后一级cache容量)的变量；

本发明通过变量的大小来判断冲突开销，因为变量占用的存储单元越多，越难在Cache中驻留。当处理器同时操作多个变量时，使用变量大小的乘积表示变量间的冲突开销。冲突的开销越大，则需要将这些数据散布到不同的bank组；

220：对变量的地址进行取整操作，起始地址和结束地址分别以基页为大小向下、向上取整，避免同一页帧被染成不同的颜色；然后，以变量的起始地址和结束地址组成结点，将结点置为未被染色状态，插入各个进程独有的单向链表中；

230：按结点所表示地址范围的大小对链表递减排序；

240：链表中前bank_groups个结点占用的内存最多，这些结点所表示的数据之间的冲突开销也越大。因此，前bank_groups个结点的颜色各不相同，剩余结点与第bank_groups-1个结点同色，避免冲突开销较大的变量被染成相同的颜色；

250：为每个bank组添加对应的分配函数。操作系统捕获到缺页异常，根据异常地址查询进程独有的链表。如果地址无法与链表中的结点匹配，说明是未染色的数据，调用默认分配函数；否则，根据链表记录的染色结果，调用对应的分配函数。

本发明通过使用编译和操作系统提供的信息，将数据划分为多个数据单元，并依据数据单元的大小判断冲突开销。在考虑主存实际配置的情况下，将数据散布到不同的bank中，以提高处理器的访存效率。此外，采用该发明不需要添加额外的硬件部件，并且能根据主存的实际配置和程序的访存行为对数据进行划分，更具灵活性，实现简单。

本发明根据上述方法实施例，相应地还提供了一种开发存储级并行的内存管理装置实施例，包括相互连接的bank分组模块，数据染色模块和内存分配模块，其中：

Bank分组模块，用于将bank的概念引入内存分配器。通过bank分组建立地址与bank间的关联，使分配器能根据地址范围标识不同的bank。Bank的分组信息输出给数据染色模块和内存分配模块。

数据染色模块，用于判断变量间的冲突开销。变量占用的存储单元越多，越难在Cache中驻留。当处理器同时操作多个变量时，使用变量大小的乘积表示变量间的冲突开销。冲突的开销越大，则需要将这些数据散布到不同的bank组。数据的染色结果输出给内存分配模块。

内存分配模块，用于为被染色的数据分配对应的物理页帧。

在上述装置实施例中，数据染色模块包括静态数据染色单元和动态数据染色单元，内存分配模块包括依次连接的染色数据判断单元和页帧分配单元；其中：

静态数据染色单元，在应用申请BSS段时，将符号表中的变量描述作为染色依据，并将染色结果输出给动态数据染色单元；

动态数据染色单元，用于将操作系统捕获的内存分配请求，将符合染色条件的动态内存插入链表，根据用户的输入动态调整染色结果；

染色数据判断单元，用于根据数据类型判断是否使用染色数据专用的内存分配接口，根据染色结果调用与bank组对应的内存分配接口，向页帧分配单元输出物理页帧分配指令；

页帧分配单元，用于根据物理页帧分配指令，分配映射到相应bank组中的物理页桢，或提示分配失败。

以上说明书中描述的只是本发明的具体实施方式，各种举例说明不对本发明的实质内容构成限制，所属技术领域的普通技术人员在阅读了说明书后可以对以前所述的具体实施方式做修改或变形，而不背离发明的实质和范围。

Claims (7)

1.一种实现使用存储级并行的内存管理方法，其特征在于，包括：

以所述的bank组为单位分配内存，并确定划分的bank组与数据间的映射关系。

2.按照权利要求1所述的内存管理方法，其特征在于，还包括：

为应用的数据分配符合所述bank组的映射条件的物理页帧。

3.按照权利要求1或2所述的内存管理方法，其特征在于：以所述应用的数据为单位划分使用主存的bank，并确定划分的bank的映射条件，具体包括：

将与所述主存的高位片选地址对主存的bank进行划分，并以所述划分的bank组号作为所述数据的染色条件。

4.按照权利要求3所述的内存管理方法，其特征在于：为冲突开销较大的数据分配来自不同bank组的物理页帧，具体包括：

当所述为应用申请物理内存时，根据数据间的冲突开销将数据染色，在分配物理内存时根据染色结果散布数据到不同的bank组；确保冲突开销较大的数据使用不同的bank资源；

判断新申请的内存与已申请内存之间的开销，如果开销较大，则为新申请的内存染色，保证最大的前n个内存区域被着以不同的颜色；如果开销较小，则将新的内存区域着以第n个内存区域的颜色。

5.一种使用大容量高速缓存的内存管理装置，其特征在于：包括bank分组模块，数据染色模块和内存分配模块，其中：

Bank分组模块，用于将bank的概念引入内存分配器。通过bank分组建立地址与bank间的关联，使分配器能根据地址范围标识不同的bank；Bank的分组信息输出给数据染色模块和内存分配模块。

数据染色模块，用于判断变量间的冲突开销；变量占用的存储单元越多， 越难在Cache中驻留；当处理器同时操作多个变量时，使用变量大小的乘积表示变量间的冲突开销；冲突的开销越大，则需要将这些数据散布到不同的bank组；数据的染色结果输出给内存分配模块；

内存分配模块，用于为被染色的数据分配对应的物理页帧。

6.按照权利要求5所述的内存管理装置，其特征在于：所述数据染色模块包括静态数据染色单元和动态数据染色单元，其中：

静态数据染色单元，在应用申请BSS段时，将符号表中的变量描述作为染色依据，并将染色结果输出给动态数据染色单元；

动态数据染色单元，用于将操作系统捕获的内存分配请求，将符合染色条件的动态内存插入链表，根据用户的输入动态调整染色结果。

7.按照权利要求5所述的内存管理装置，其特征在于，所述内存分配模块包括依次连接的染色数据判断单元和页帧分配单元，其中：

染色数据判断单元，用于根据数据类型判断是否使用染色数据专用的内存分配接口，根据染色结果调用与bank组对应的内存分配接口，向页帧分配单元输出物理页帧分配指令；

页帧分配单元，用于根据物理页帧分配指令，分配映射到相应bank组中的物理页帧，或提示分配失败。 

Images