CN114564150B - 动态链接模式片上存储器空间分配方法 - Google Patents

Abstract

本发明公开一种动态链接模式片上存储器空间分配方法，包括以下步骤：在程序源文件中为需要优化的数据添加动态链接模式局部存储器数据关键字__ldm；编译器判断该局部存储器变量是否位于动态库中；对于动态库中的局部存储器变量，在链接脚本中为其设置单独的PT_LOAD段；对于动态库中的局部存储器变量，在动态链接器中修正局部存储器数据地址。本发明能够有效避免动态库中LDM变量地址相互冲突的问题，显著提升了异构众核AI处理器的好用性。

Description

动态链接模式片上存储器空间分配方法

技术领域

本发明涉及一种动态链接模式片上存储器空间分配方法，属于编译优化技术领域。

背景技术

AI处理器是专门用于处理人工智能应用中的大量计算任务的模块。不同于传统芯片，AI处理器规模更大，结构更加复杂，运算能力更强，目前已经广泛应用于图像识别、智能安防、智能驾驶、语音识别等领域。随着AI算法研究的不断深入，AI模型越来越复杂，计算数据量暴增，访存逐渐成为限制AI处理器运算速度的瓶颈。

业界通常采用高速片上存储器弥补片外存储器与处理器核心的速度差距；片上存储器一般包括高速缓冲存储器(Cache)和局部存储器(Local Device Memory，LDM)，两者各具优势且存在互补性。异构众核AI处理器采用局部存储器(LDM)来弥补片外存储器和处理器的速度差距、提升访存性能；相比主存，LDM具有较高的访问速度，能够显著提升AI处理器训练和推理应用的性能；不同于高速缓冲存储器(Cache)，局部存储器使用方式灵活，但是需要由编译器对其中的数据进行分配和管理。

传统科学计算应用通常采用静态链接方式，LDM数据从固定基址开始分配，管理方式较为简单，而新兴AI应用为了追求灵活性，通常采用动态链接方式构建，各动态库中都可能存在LDM变量，因此无法采用固定基址分配方式进行管理。

发明内容

本发明的目的是提供一种动态链接模式片上存储器空间分配方法，基于异构众核AI处理器，能够有效避免动态库中LDM变量地址相互冲突的问题，显著提升了异构众核AI处理器的好用性。

为达到上述目的，本发明提供一种动态链接模式片上存储器空间分配方法，包括以下步骤：

S1、在程序源文件中为需要优化的数据添加动态链接模式局部存储器数据关键字__ldm，具体如下：

S11、分析程序行为，找到程序运行过程中频繁访问的热点数据；

S12、对于S11中找到的热点数据，为其添加局部存储器数据关键字__ldm，该关键字位于头文件slave.h中；

S2、编译器判断该局部存储器变量是否位于动态库中，具体如下：

S21、编译器根据编译选项中是否包含-fPIC，确定S1中的局部存储器数据是否位于动态库中；

S22、若编译选项中包含-fPIC，表明该局部存储器变量位于动态库中，为该局部存储器变量设置.dl_ldm段属性；

S23、若编译选项中不包含-fPIC，表明该局部存储器变量位于静态库或可执行文件中，为该局部存储器变量设置.ldm段属性；

S3、对于动态库中的局部存储器变量，在链接脚本中为其设置单独的PT_LOAD段，具体为：对于具有.dl_ldm段属性的变量，链接脚本中为其设置单独的PT_LOAD段；

S4、对于动态库中的局部存储器变量，在动态链接器中修正局部存储器数据地址，具体如下：

S41、对于.dl_ldm段，动态链接器在加载动态库的过程中，通过mmap系统调用为其分配私有段空间地址；

S42、对于.dl_ldm段中的变量，动态链接器在重定位回填的过程中，修正其地址；

S43、对于非动态链接模式的局部存储变量，按照静态链接方式对其进行管理。

由于上述技术方案的运用，本发明与现有技术相比具有下列优点：

本发明提供了一种动态链接模式片上存储器空间分配方法，其在基于异构众核AI处理器的编译器中实现空间分配，为多个动态库中的LDM变量分配不同的地址空间，能够有效避免动态库中LDM变量地址相互冲突的问题，显著提升了异构众核AI处理器的好用性。

附图说明

附图1为本发明片存储器空间分配方法流程图。

具体实施方式

实施例：本发明提供一种动态链接模式片上存储器空间分配方法，流程如图1所示，主要包括：在源文件中添加局部存储器数据关键字__ldm，判断局部存储器变量是否位于动态库中，在链接脚本中为局部存储器数据设置单独的PT_LOAD段，在动态链接器中修正局部存储器数据地址四个步骤，具体为：

S1、在程序源文件中为需要优化的数据添加动态链接模式局部存储器数据关键字__ldm，具体如下：

S11、分析程序行为，找到程序运行过程中频繁访问的热点数据；

S12、对于S11中找到的热点数据，为其添加局部存储器数据关键字__ldm，该关键字位于头文件slave.h中，具体定义如下：

#define__ldm__attribute__((section(".ldm")))；

S2、编译器判断该局部存储器变量是否位于动态库中，具体如下：

S21、编译器根据编译选项中是否包含-fPIC，确定S1中的局部存储器数据是否位于动态库中，具体代码如下：

S22、若编译选项中包含-fPIC，表明该局部存储器变量位于动态库中，为该局部存储器变量设置.dl_ldm段属性；

S23、若编译选项中不包含-fPIC，表明该局部存储器变量位于静态库或可执行文件中，为该局部存储器变量设置.ldm段属性；

S3、对于动态库中的局部存储器变量，在链接脚本中为其设置单独的PT_LOAD段，具体如下：

S31、对于具有.dl_ldm段属性的变量，链接脚本中为其设置单独的PT_LOAD段，具体代码如下：

S4、对于动态库中的局部存储器变量，在动态链接器中修正局部存储器数据地址，具体如下：

S41、对于.dl_ldm段，动态链接器在加载动态库的过程中，通过mmap系统调用为其分配私有段空间地址，具体代码如下：

S42、对于.dl_ldm段中的变量，动态链接器在重定位回填的过程中，修正其地址，具体代码如下：

S43、对于非动态链接模式的局部存储变量，按照静态链接方式对其进行管理。

为了便于更好的理解本发明，下面将对本文中使用的术语进行简要的解释：

AI处理器：专门用于处理人工智能应用中的大量计算任务的处理器；

动态链接：在可执行文件装载时或运行时，由操作系统的装载程序加载库；

异构众核：采用新型的片上异构融合体系结构；

深度神经网络：有很多隐藏层的神经网络，又称为深度前馈网络或多层感知机；

局部存储器：Local Device Memory，简称为局存，片上存储器的一种，位于主存和CPU之间，由SRAM组成，容量小但速度快，需要由编译器进行空间分配和管理。

采用上述动态链接模式片上存储器空间分配方法时，其在基于异构众核AI处理器的编译器中实现空间分配，为多个动态库中的LDM变量分配不同的地址空间，能够有效避免动态库中LDM变量地址相互冲突的问题，显著提升了异构众核AI处理器的好用性。

上述实施例只为说明本发明的技术构思及特点，其目的在于让熟悉此项技术的人士能够了解本发明的内容并据以实施，并不能以此限制本发明的保护范围。凡根据本发明精神实质所作的等效变化或修饰，都应涵盖在本发明的保护范围之内。

Claims (1)

1.一种动态链接模式片上存储器空间分配方法，其特征在于：包括以下步骤：

S1、在程序源文件中为需要优化的数据添加动态链接模式局部存储器数据关键字__ldm，具体如下：

S11、分析程序行为，找到程序运行过程中频繁访问的热点数据；

S12、对于S11中找到的热点数据，为其添加局部存储器数据关键字__ldm，该关键字位于头文件slave.h中；

S2、编译器判断该局部存储器变量是否位于动态库中，具体如下：

S21、编译器根据编译选项中是否包含-fPIC，确定S1中的局部存储器数据是否位于动态库中；

S22、若编译选项中包含-fPIC，表明该局部存储器变量位于动态库中，为该局部存储器变量设置.dl_ldm段属性；

S23、若编译选项中不包含-fPIC，表明该局部存储器变量位于静态库或可执行文件中，为该局部存储器变量设置.ldm段属性；

S3、对于动态库中的局部存储器变量，在链接脚本中为其设置单独的PT_LOAD段，具体为：对于具有.dl_ldm段属性的变量，链接脚本中为其设置单独的PT_LOAD段；

S4、对于动态库中的局部存储器变量，在动态链接器中修正局部存储器数据地址，具体如下：

S41、对于.dl_ldm段，动态链接器在加载动态库的过程中，通过mmap系统调用为其分配私有段空间地址；

S42、对于.dl_ldm段中的变量，动态链接器在重定位回填的过程中，修正其地址；

S43、对于非动态链接模式的局部存储变量，按照静态链接方式对其进行管理。