CN114546401A - 基于循环折叠的二进制程序体积优化器 - Google Patents

基于循环折叠的二进制程序体积优化器 Download PDF

Info

Publication number
CN114546401A
CN114546401A CN202210154571.5A CN202210154571A CN114546401A CN 114546401 A CN114546401 A CN 114546401A CN 202210154571 A CN202210154571 A CN 202210154571A CN 114546401 A CN114546401 A CN 114546401A
Authority
CN
China
Prior art keywords
loop
folding
optimizer
program
cycle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210154571.5A
Other languages
English (en)
Inventor
葛天傲
张献伟
莫泽威
卢宇彤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sun Yat Sen University
Original Assignee
Sun Yat Sen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sun Yat Sen University filed Critical Sun Yat Sen University
Priority to CN202210154571.5A priority Critical patent/CN114546401A/zh
Publication of CN114546401A publication Critical patent/CN114546401A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/40—Transformation of program code
    • G06F8/41—Compilation
    • G06F8/44—Encoding
    • G06F8/443—Optimisation
    • G06F8/4434—Reducing the memory space required by the program code
    • G06F8/4435—Detection or removal of dead or redundant code
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/40—Transformation of program code
    • G06F8/41—Compilation
    • G06F8/44—Encoding
    • G06F8/443—Optimisation
    • G06F8/4434—Reducing the memory space required by the program code
    • G06F8/4436—Exlining; Procedural abstraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/40—Transformation of program code
    • G06F8/53—Decompilation; Disassembly
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Devices For Executing Special Programs (AREA)

Abstract

本发明公开了基于循环折叠的二进制程序体积优化器，包括以下步骤：步骤1、运行程序，收集性能剖析数据；步骤2、将二进制程序和性能剖析数据输入优化器；步骤3、输出得到优化后的程序。对比现有代码大小优化方法，本发明在二进制层面进行优化，降低优化门槛，同时利用程序的性能剖析数据，针对现有循环展开策略的不足，设计实现了更精细控制的优化策略。对比现有的二进制优化器，本发明关注了程序体积的优化，在不影响原有性能的前提下优化程序体积。

Description

基于循环折叠的二进制程序体积优化器
技术领域
本发明涉及计算机技术领域，尤其涉及基于循环折叠的二进制程序体积优化器。
背景技术
现在程序体积(code size，也称为代码大小)正在变得越来越大，一个原因是程序功能更加复杂，另一个原因是程序所需的依赖库和依赖环境越来越多，同时许多程序都采用了迭代软件开发模式，新的功能会被不停的添加到程序中，这些都使得程序体积过大的现象变的十分常见。而各种平台往往对程序所需的磁盘空间、内存大小有一定的限制，体积过大的程序不光会占用有限的存储资源，还会影响程序运行效率，甚至导致系统无法正常运行。例如，嵌入式设备拥有的存储空间十分宝贵并且不易扩展，软件常常会被针对嵌入式平台做特定的优化以减少包大小；在服务器、超算系统上，大规模的程序的的代码体积往往更大，Facebook服务器上运行的一个千万行代码的PHP程序会被编译为数百兆的机器代码，一个使用OpenMP实现的并行版本的程序要远大于它的串行版本，大文件不光占用的了大量存储空间，而且它们在服务器或超级计算机节点之间的传输会更加困难。然而，简单的在这些平台上增加存储空间或增加带宽往往是很困难的，这一方面是因为高度集成的芯片上空间十分的有限，另一方面是因为高昂的晶体管价格导致成本的快速上升。此外，小体积的程序意味着更少的指令将会被执行，这可以减少L1指令缓存和指令TLB的压力，从而提高程序性能并减少能耗。
编译器提供了一系列默认的优化级别以满足不同的需求。提高性能的优化会导致代码大小的增加，减少代码大小的优化同时也会损害性能。循环展开通常被认为是会增加代码大小的性能优化方法，它作为编译器中经常使用的方法，循环展开将循环体复制若干次以减少迭代次数，这可以减少循环的开销。在更大的循环体中，循环展开可以从指令并行、寄存器分配、内存分层中受获得性能提升，并且可以利用硬件特性来组合指令。但是同时，通过循环展开产生的代码可能引入了大量的中间变量，这可能导致寄存器溢出、不连续的内存访问和指令缓存溢出。同时也存在对性能的影响不大的关于代码大小的优化。常见的解决方案是减少公共或死代码段。公共子表达式消除法搜索相同表达式的实例，并分析是否值得用一个持有计算值的单一变量来取代它们。死代码消除试图删除那些不影响程序结果的代码。这些方法都是删除无用的代码或多余的计算，以缩小程序的大小。
循环展开是影响程序体积的重要因素，不同的编译器对循环展开有不同的策略。GCC甚至在-03的优化等级时也不会展开大多数循环，除非用户指定-funroll-loops或使用性能剖析的优化。默认情况下，GCC只选择的进行完全展开循环，这些循环要求具有较小且编译时已知循环数。相反，即使使用-O1优化等级，LLVM也会进行展开循环。尽管在现代编译系统中可以接受这样激进的循环展开策略，因为这通常可以提高性能，但很难说哪种策略在现有程序中更好，因为单个函数的优化情况可能会因最终编译成的应用程序而异。但是这样激进的展开策略使得代码大小问题愈加严重。那些很少被执行的循环被全部展开，增大了代码大小，但是这对性能并没有任何帮助。
尽管大多数现代编译器都支持性能剖析指导优化(PGO)，但现在它也有一些限制和缺点。性能数据的准确性对于PGO非常重要，严重影响最终效果。不仅是收集数据的真实环境，如何将性能数据映射到代码也很重要。GCC、LLVM和其他优化器将性能数据映射回编译器的中间表示(IR)或源代码。但测试性能时的二进制代码与原始源代码相比往往存在差异，可能无法准确映射性能数据。
发明内容
有鉴于现有技术的上述缺陷，本发明所要解决的技术问题是提供基于循环折叠的二进制程序体积优化器，解决激进的循环展开策略导致代码大小过大的问题，可以在对原有程序性能影响很小的情况下减少代码大小，使用性能剖析数据来精细控制优化策略，并且不需要从源代码重新编译，就可以对二进制程序进行优化。
为实现上述目的，本发明提供了基于循环折叠的二进制程序体积优化器，其执行包括以下步骤：
步骤1、运行程序，收集性能剖析数据；
步骤2、将二进制程序和性能剖析数据输入优化器；
步骤3、输出得到优化后的程序。
进一步的，所述将二进制程序和性能剖析数据输入优化器后，优化器的优化步骤包括：
步骤1-1、解析性能剖析数据，获得关于循环代码的时间和指令信息；
步骤1-2、计算每个循环的循环折叠等级；
步骤1-3、进行循环折叠，包括对连续内存访问的循环折叠和对迭代的循环折叠；
步骤1-4、生成优化的可执行文件。
进一步的，所述计算每个循环的循环折叠等级具体包括：计算三级循环折叠等级，高等级的完全折叠循环体仅包含一次迭代的循环，中层将展开因子减半，最低等级保持原有循环不变，具体使用以下策略来判断循环对应的的折叠等级：
S＝0.5*time/total_loop_time+0.5*exec_num/total_exe_num
其中，S为最后的折叠分数，time为该循环的墙上运行时间，total_loop_time为所有循环运行的总时间，exec_num为该循环执行次数、total_exe_num为所有循环的总执行次数；如果分数小于0.25，将其折叠在最高级别，如果分数大于0.25且小于0.5，将其折叠在中间级别；如果分数大于0.5，不折叠。
进一步的，所述对连续内存访问的循环折叠包括：
步骤2-1、反汇编二进制文件，识别所有循环，寻找连续内存访问的迭代寄存器；
步骤2-2、调度迭代寄存器更新指令，更新与迭代寄存器相关的内存地址；
步骤2-3、计算循环展开系数和步长，然后进行相关性分析和指令替换。
进一步的，所述对迭代的循环折叠包括：
步骤3-1、反汇编二进制文件，识别所有循环，识别完全重复的代码结构，去掉除头尾的其他代码片段；
步骤3-2、识别循环之后，优化器解析循环体中是否存在连续的完全相同的指令序列，所述指令序列拥有一致的操作符和操作数；
步骤3-3、将除头尾的其他代码删除，替换为最后的循环体代码。
进一步的，所述对迭代的循环折叠中，如果在识别和替换的过程中发生了异常，则跳过该循环并恢复原指令。
本发明的有益效果是：
对比现有代码大小优化方法，本发明在二进制层面进行优化，降低优化门槛，同时利用程序的性能剖析数据，针对现有循环展开策略的不足，设计实现了更精细控制的优化策略。对比现有的二进制优化器，本发明关注了程序体积的优化，在不影响原有性能的前提下优化程序体积。
以下将结合附图对本发明的构思、具体结构及产生的技术效果作进一步说明，以充分地了解本发明的目的、特征和效果。
附图说明
图1是本发明中基于循环折叠的二进制程序体积优化器的使用流程图。
图2是本发明中优化器具体实施的优化流程图。
图3是本发明对连续内存访问的循环折叠的过程流程图。
图4是本发明对连续内存访问的循环折叠的过程寄存器代码截图。
图5是本发明对迭代的循环折叠过程流程图。
具体实施方式
如图1所示，本发明提供了基于循环折叠的二进制程序体积优化器，其执行包括以下步骤：步骤1、运行程序，收集性能剖析数据；步骤2、将二进制程序和性能剖析数据输入优化器；步骤3、输出得到优化后的程序。对于已有的二进制文件，首先需要收集它的性能剖析数据，使用Linux perf工具在真实环境和真实数据下运行目标程序，可以得到peri.data文件，包含了程序的cpu数据、指令数据、分支预测情况等数据。然后将该性能剖析文件和对应的二进制文件作为优化器输入，优化器会自动分析并优化，最后得到有更小体积的、同时保持相近性能的优化后的二进制文件。
如图2所示，将二进制程序和性能剖析数据输入优化器后，优化器的优化步骤包括：步骤1-1、解析性能剖析数据；步骤1-2、计算每个循环的循环折叠等级；步骤1-3、进行循环折叠，包括对连续内存访问的循环折叠和对迭代的循环折叠；步骤1-4、生成优化的可执行文件。
首先需要解析性能剖析数据，并从中获得关于循环代码的时间和指令相关信息。然后计算每个循环的折叠等级。从性能剖析数据中，可以知道每个循环的执行次数和迭代次数。提供有三级循环折叠等级可应用于每个循环。高等级的完全折叠循环体仅包含一次迭代的循环。它可以最多可以节省空间，但也会影响性能。中层将展开因子减半，最低等级保持原有循环不变。使用以下策略来判断循环对应的的折叠等级，具体为：
S＝0.5*time/total_loop_time+0.5*exec_num/total_exe_mum
其中，S为最后的折叠分数，time为该循环的墙上运行时间，total_loop_time为所有循环运行的总时间，exec_num为该循环执行次数、total_exe_num为所有循环的总执行次数。如果分数小于0.25，将其折叠在最高级别，如果分数大于0.25且小于0.5，将其折叠在中间级别。如果分数大于0.5，不折叠它。
然后就可以根据确定的折叠等级实施循环折叠。循环折叠之后，由于缩减了代码的程度，会在程序中留下空洞，也就是空白的代码段。为了减小最终的程序大小，必须将空白的代码段删去。重新解析整个程序，使用双指针来记录程序中的空白代码，当识别带空白代码时，其中一个指针跳过空白区域，记录下一段代码的开始地址，并调整后面代码的偏移量，从而生成最后的优化程序。
如图3所示，上述对连续内存访问的循环折叠包括：步骤2-1、反汇编二进制文件，识别所有循环，寻找连续内存访问的迭代寄存器；步骤2-2、调度迭代寄存器更新指令，更新与迭代寄存器相关的内存地址；步骤2-3、计算循环展开系数和步长，然后进行相关性分析和指令替换。首先先反汇编二进制文件，循环嵌套中最内层的循环往往的编译器进行循环展开的主要目标，它往往只有一个基本块(basic block)，识别、过滤其中所有最内层循环并检查它是否已展开。由于长度为4、8或更大数的连续内存访问是展开循环的显着特征，所以找到连续内存访问的迭代寄存器对于计算展开因子和步长很重要。对于每个循环，迭代器寄存器必须在每次迭代中更新，因此必须有一条加法指令，将立即数添加到寄存器中。如果有连续的内存访问，将检查每个立即数加法指令中的寄存器。图4(a)中地址0x0000001e处指令所操作的寄存器是迭代器寄存器。由于指令调度，这条更新指令可能出现循环体中的任何地方。所以它应该移动到循环的顶部或底部，以便可以顺利找到展开因子。选择将此指令移到底部，因为这也是大多数编译器默认行为。因为改变了更新指令的位置，所以需要为所有与此寄存器相关的指令增加一个偏移量来更新所有相关的内存地址。然后我根据迭代寄存器的所有内存偏移量来进行相关性分析。这些偏移量会被分成几组，每组中的偏移量形成一个子序列。当所有子序列具有相同的长度(即展开因子)时，该循环可以是展开循环。如果该因子大于1，则意味着可以折叠循环。接下来尝试移除循环的展开部分并根据想要的折叠级别修改更新指令中的立即数。如果只想完全折叠循环，只保留原始部分并移除展开循环的所有其他部分。最后用的新指令替换原来的循环。由于循环折叠的每个阶段都可能发生失败，所以可以捕捉异常并跳过该循环。
如图5所示，上述对迭代的循环折叠包括：步骤3-1、反汇编二进制文件，识别所有循环，识别完全重复的代码结构，去掉除头尾的其他代码片段；步骤3-2、识别循环之后，优化器解析循环体中是否存在连续的完全相同的指令序列，指令序列拥有一致的操作符和操作数；步骤3-3、将除头尾的其他代码删除，替换为最后的循环体代码。对于一些没有序列内存访问的展开循环，例如迭代，这些循环只在几个寄存器中进行计算。这些情况往往很难识别，但如果重复部分是规则的，即重复部分拥有完全相同的代码结构，保留头尾部分，去掉其他部分。在识别循环之后，优化器会解析循环体中是否存在连续的完全相同的指令序列，这些指令序列拥有一致的操作符和操作数，然后将除头尾的其他代码删除，替换为最后的循环体代码。类似的，如果在识别和替换的过程中发生了异常，则跳过该循环并恢复原指令。
对比现有代码大小优化方法，本发明在二进制层面进行优化，降低优化门槛，同时利用程序的性能剖析数据，针对现有循环展开策略的不足，设计实现了更精细控制的优化策略。对比现有的二进制优化器，本发明关注了程序体积的优化，在不影响原有性能的前提下优化程序体积。
以上详细描述了本发明的较佳具体实施例。应当理解，本领域的普通技术人员无需创造性劳动就可以根据本发明的构思做出诸多修改和变化。因此，凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。

Claims (6)

1.基于循环折叠的二进制程序体积优化器，其特征在于，所述优化器执行时包括以下步骤：
步骤1、运行程序，收集性能剖析数据；
步骤2、将二进制程序和性能剖析数据输入优化器；
步骤3、输出得到优化后的程序。
2.如权利要求1所述的基于循环折叠的二进制程序体积优化器，其特征在于，所述将二进制程序和性能剖析数据输入优化器后，优化器的优化步骤包括：
步骤1-1、解析性能剖析数据，获得关于循环代码的时间和指令信息；
步骤1-2、计算每个循环的循环折叠等级；
步骤1-3、进行循环折叠，包括对连续内存访问的循环折叠和对迭代的循环折叠；
步骤1-4、生成优化的可执行文件。
3.如权利要求2所述的基于循环折叠的二进制程序体积优化器，其特征在于，所述计算每个循环的循环折叠等级具体包括：计算三级循环折叠等级，高等级的完全折叠循环体仅包含一次迭代的循环，中层将展开因子减半，最低等级保持原有循环不变，具体使用以下策略来判断循环对应的的折叠等级：
5＝0.5*time/total_loop_time+0.5*exec_num/total_exe_num
其中，S为最后的折叠分数，time为该循环的墙上运行时间，total_loop_time为所有循环运行的总时间，exec_num为该循环执行次数、total_exe_num为所有循环的总执行次数；如果分数小于0.25，将其折叠在最高级别，如果分数大于0.25且小于0.5，将其折叠在中间级别；如果分数大于0.5，不折叠。
4.如权利要求2所述的基于循环折叠的二进制程序体积优化器，其特征在于，所述对连续内存访问的循环折叠包括：
步骤2-1、反汇编二进制文件，识别所有循环，寻找连续内存访问的迭代寄存器；
步骤2-2、调度迭代寄存器更新指令，更新与迭代寄存器相关的内存地址；
步骤2-3、计算循环展开系数和步长，然后进行相关性分析和指令替换。
5.如权利要求2所述的基于循环折叠的二进制程序体积优化器，其特征在于，所述对迭代的循环折叠包括：
步骤3-1、反汇编二进制文件，识别所有循环，识别完全重复的代码结构，去掉除头尾的其他代码片段；
步骤3-2、识别循环之后，优化器解析循环体中是否存在连续的完全相同的指令序列，所述指令序列拥有一致的操作符和操作数；
步骤3-3、将除头尾的其他代码删除，替换为最后的循环体代码。
6.如权利要求5所述的基于循环折叠的二进制程序体积优化器，其特征在于：所述对迭代的循环折叠中，如果在识别和替换的过程中发生了异常，则跳过该循环并恢复原指令。
CN202210154571.5A 2022-02-21 2022-02-21 基于循环折叠的二进制程序体积优化器 Pending CN114546401A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210154571.5A CN114546401A (zh) 2022-02-21 2022-02-21 基于循环折叠的二进制程序体积优化器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210154571.5A CN114546401A (zh) 2022-02-21 2022-02-21 基于循环折叠的二进制程序体积优化器

Publications (1)

Publication Number Publication Date
CN114546401A true CN114546401A (zh) 2022-05-27

Family

ID=81675427

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210154571.5A Pending CN114546401A (zh) 2022-02-21 2022-02-21 基于循环折叠的二进制程序体积优化器

Country Status (1)

Country Link
CN (1) CN114546401A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117472388A (zh) * 2023-12-28 2024-01-30 睿思芯科(深圳)技术有限公司 一种优化程序性能的方法、系统及相关设备

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117472388A (zh) * 2023-12-28 2024-01-30 睿思芯科(深圳)技术有限公司 一种优化程序性能的方法、系统及相关设备
CN117472388B (zh) * 2023-12-28 2024-04-05 睿思芯科(深圳)技术有限公司 一种优化程序性能的方法、系统及相关设备

Similar Documents

Publication Publication Date Title
US8645935B2 (en) Automatic parallelization using binary rewriting
Wang et al. Bmat-a binary matching tool for stale profile propagation
Sarkar Automatic selection of high-order transformations in the IBM XL FORTRAN compilers
US7603546B2 (en) System, method and apparatus for dependency chain processing
CN109863473B (zh) 用于样本驱动简档引导优化的方法、电子设备及电子系统
US9015690B2 (en) Proactive loop fusion of non-adjacent loops with intervening control flow instructions
US5537620A (en) Redundant load elimination on optimizing compilers
JP4844971B2 (ja) インタープリタの最適化をプログラム・コード変換の間に実行する方法及び装置
US9823911B2 (en) Method and apparatus for compiling code based on a dependency tree
US8886887B2 (en) Uniform external and internal interfaces for delinquent memory operations to facilitate cache optimization
US20060048122A1 (en) Method, system and computer program product for hierarchical loop optimization of machine executable code
JPH096627A (ja) 最適化装置
JP2018510445A (ja) プログラム性能を向上させる領域特化システムおよび方法
Mendis et al. Revec: program rejuvenation through revectorization
CN114546401A (zh) 基于循环折叠的二进制程序体积优化器
Berlin et al. High-level loop optimizations for GCC
US9182960B2 (en) Loop distribution detection program and loop distribution detection method
CN117472388A (zh) 一种优化程序性能的方法、系统及相关设备
Elphick et al. Partial evaluation of MATLAB
Shin et al. Exploiting superword-level locality in multimedia extension architectures
Wolf et al. Hybrid cache analysis in running time verification of embedded software
JPH10320212A (ja) キャッシュ向け最適化方法
van der Spek et al. A compile/run-time environment for the automatic transformation of linked list data structures
JP2677482B2 (ja) 計算機言語処理方法
Engelke et al. Compile-Time Analysis of Compiler Frameworks for Query Compilation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination