CN115688893A - 内存调度方法及装置、电子设备和存储介质 - Google Patents

Abstract

本公开提供了一种内存调度方法及装置、电子设备和存储介质，涉及人工智能技术领域，尤其涉及深度学习和分布式计算技术领域。实现方案为：获取待训练的第一模型，第一模型包括多个前向算子；在执行多个前向算子中的任一前向算子之前，获取当前的可用内存量和该前向算子输出的中间计算结果的内存占用量；以及基于可用内存量和内存占用量，确定是否将中间计算结果保留于内存中。

Description

内存调度方法及装置、电子设备和存储介质

技术领域

本公开涉及人工智能技术领域，尤其涉及深度学习和分布式计算技术领域，具体涉及一种内存调度方法及装置、电子设备、计算机可读存储介质和计算机程序产品。

背景技术

人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

随着人工智能技术的发展，人工智能所涉及的数据规模和模型规模越来越大。大数据和大模型的双重挑战导致人工智能模型的训练耗时较长。

在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明，否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地，除非另有指明，否则此部分中提及的问题不应认为在任何现有技术中已被公认。

发明内容

本公开提供了一种内存调度方法及装置、电子设备、计算机可读存储介质和计算机程序产品。

根据本公开的一方面，提供了一种内存调度方法，包括：获取待训练的第一模型，其中，所述第一模型包括多个前向算子；在执行所述多个前向算子中的任一前向算子之前，获取当前的可用内存量和该前向算子输出的中间计算结果的内存占用量；以及基于所述可用内存量和所述内存占用量，确定是否将所述中间计算结果保留于内存中。

根据本公开的一方面，提供了一种内存调度装置，包括：第一获取模块，被配置为获取待训练的第一模型，其中，所述第一模型包括多个前向算子；第二获取模块，被配置为在执行所述多个前向算子中的任一前向算子之前，获取当前的可用内存量和该前向算子输出的中间计算结果的内存占用量；以及确定模块，被配置为基于所述可用内存量和所述内存占用量，确定是否将所述中间计算结果保留于内存中。

根据本公开的一方面，提供了一种电子设备，包括：至少一个处理器；以及与上述至少一个处理器通信连接的存储器，该存储器存储有可被上述至少一个处理器执行的指令，该指令被上述至少一个处理器执行，以使上述至少一个处理器能够执行上述内存调度方法。

根据本公开的一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行上述内存调度方法。

根据本公开的一方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现上述内存调度方法。

根据本公开的一个或多个实施例，能够实现模型训练过程中的内存的动态、自适应调度，提高内存的利用效率和模型的训练效率。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图示例性地示出了实施例并且构成说明书的一部分，与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的，并不限制权利要求的范围。在所有附图中，相同的附图标记指代类似但不一定相同的要素。

图1示出了根据本公开一些实施例的内存调度方法的流程图；

图2示出了根据本公开一些实施例的流水线并行的模型训练模式的示意图；

图3示出了根据本公开一些实施例的1F1B流水线并行的计算过程及其内存占用情况的示意图；

图4示出了根据本公开一些实施例的模型训练过程的示意图；

图5示出了根据本公开一些实施例的内存调度装置的结构框图；以及

图6示出了能够用于实现本公开的一些实施例的示例性电子设备的结构框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

在本公开中，除非另有说明，否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系，这种术语只是用于将一个元件与另一元件区分开。在一些示例中，第一要素和第二要素可以指向该要素的同一实例，而在某些情况下，基于上下文的描述，它们也可以指代不同实例。

在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的，而并非旨在进行限制。除非上下文另外明确地表明，如果不特意限定要素的数量，则该要素可以是一个也可以是多个。此外，本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。

人工智能模型的一次训练迭代包括三个步骤：

1、前向计算：执行前向算子(Operator)来得到中间计算结果(即，中间隐层变量，Variable)；

2、反向计算：执行反向算子来计算模型参数(Parameter)的梯度；

3、优化更新：应用优化算法以更新模型参数的值。

在前向计算过程中，前向算子会输出大量的中间计算结果。有些中间计算结果是反向算子的输入，这些中间计算结果需要被存储在内存中，直到相应的反向算子计算完毕。当模型的规模较大、层数较多时，需要存储的中间计算结果可达成千上万个，占据了大量的内存。

前向重计算(Forward Re-computation Backpropagation，FRB)的思想是：在前向计算时，除了少部分必须存储在内存中的中间计算结果之外，其他中间计算结果都将被删除；在反向计算中，首先重新计算一遍前向算子，以获得被删除的中间计算结果，再运行反向算子。简而言之，FRB和普通的训练迭代相比，多计算了一遍前向算子。

相关技术中，各个前向算子的中间计算结果是否被从内存中删除(即，前向算子是否被重计算)是由开发者手动设置的。这种内存调度策略依赖于开发者的经验，并且一经设置便固定不变，内存的利用效率和模型的训练效率无法保证。

为此，本公开的实施例提供一种内存调度方法，能够实现模型训练过程中的内存的动态、自适应调度，提高内存的利用效率和模型的训练效率。

下面将结合附图详细描述本公开的实施例。

图1示出了根据本公开一些实施例的内存调度方法100的流程图。如图1所示，方法100包括S110-S130。

在步骤S110中，获取待训练的第一模型，第一模型包括多个前向算子。

在步骤S120中，在执行多个前向算子中的任一前向算子之前，获取当前的可用内存量和该前向算子输出的中间计算结果的内存占用量。

在步骤S130中，基于可用内存量和内存占用量，确定是否将中间计算结果保留于内存中。

根据本公开的实施例，在模型的训练过程中，实时获取当前的可用内存量，判断接下来的前向算子输出的中间计算结果是否需要在内存中保留，由此能够实现内存的动态、自适应调度，提高内存利用效率和模型的训练效率。

方法100的执行主体可以是能够用于模型训练的任意计算设备，例如CPU(CentralProcessing Unit，中央处理器)、GPU(Graphics Processing Unit，图形处理器)、TPU(Tensor Processing Unit，张量处理器)、NPU(Neural network Processing Unit，神经网络处理器)、DPU(Deep learning Processing Unit，深度学习处理器)等。

以下详细介绍方法100的各个步骤。

在步骤S110中，获取待训练的第一模型，第一训练模型包括多个前向算子。

根据一些实施例，第一模型可以是用于处理某种任务(例如，图像分类、语音识别、语句生成等)的完整的模型。

根据一些实施例，第一模型也可以是用于处理某种任务的完整的模型的一部分。例如，将用于处理某种任务的完整的模型记为第二模型。通过对待训练的第二模型进行切分，可以得到第二模型的多个子模型。第一模型可以是多个子模型中的任一子模型。

前向算子例如可以是卷积算子、池化算子、激活算子等。

根据一些实施例，在第一模型是第二模型的子模型的情况下，方法100可以应用于流水线并行的训练模式中。在流水线并行的训练模式中，待训练的第二模型可以被拆分为多个子模型。多个子模型分别被放置到多个不同的计算设备，每个计算设备执行相应子模型的计算过程，多个计算设备组成流水线，实现第二模型的训练。在流水线并行的训练模式中，每个计算设备均可以作为本公开实施例的方法100的执行主体，该计算设备所训练的子模型即为待训练的第一模型。

图2示出了流水线并行的训练模式的示意图。如图2所示，第二模型200包括处理层201-209，其被切分为三个子模型210、220、230。子模型210包括处理层201-203，子模型220包括处理层204-205，子模型230包括处理层206-209。子模型210、220、230分别被分配至计算设备240、250、260。计算设备240可以执行本公开实施例的方法100，实现子模型210(即，第一模型)的训练过程中的内存调度。计算设备250可以执行本公开实施例的方法100，实现子模型220(即，第一模型)的训练过程中的内存调度。计算设备260可以执行本公开实施例的方法100，实现子模型230(即，第一模型)的训练过程中的内存调度。

第二模型200的整体训练过程如下：在前向计算过程中，计算设备240基于子模型210对输入数据进行处理，得到第一中间结果并将其传输给计算设备250。计算设备250基于子模型220对第一中间结果进行处理，得到第二中间结果并将其传输给计算设备260。计算设备260基于子模型230对第二中间结果进行处理，得到前向计算结果。反向计算过程与前向计算过程类似。最后，计算设备240-260会使用反向计算过程计算得到的梯度来更新第二模型200的参数。

根据一些实施例，在采用流水线并行的训练模式的情况下，在第一模型的训练过程中，前向计算可以和反向计算交叉进行，即，采用1F1B(1Forward1Backward)的流水线并行方式。由此能够及时释放不必要的中间计算结果，节省内存。

图3示出了根据本公开一些实施例的1F1B流水线并行的计算过程及其内存占用情况的示意图。在图3所示的实施例中，计算设备1-3组成模型训练的流水线。F_ij表示计算设备i对训练数据j的前向计算，B_ij表示计算设备i对训练数据j的反向计算(在图3中用阴影表示)。由于前向计算需要记录中间计算结果，因此内存占用增加；反向计算后可以释放相应的中间计算结果，因此内存占用减少。由图3可见，在流水线并行中，不同计算设备的内存占用情况是不均衡的，其中计算设备1的内存占用最多。并且，在不同的时间段下，同一个计算设备的内存占用也会发生变化。如果手动设置各个计算设备的内存调度策略，可能导致单个计算设备的内存得不到充分利用、计算性能降低、以及各计算设备之间的训练进度不匹配(某些计算设备可能需要等待其他计算设备完成计算)。基于本公开实施例的方法100，能够动态地、自适应地对流水线并行中的每个计算设备进行内存调度，实现内存的有效利用，提高模型的训练效率。

需要说明的是，虽然本说明书以1F1B流水线并行的训练模式为例来阐明方法100，但应当理解，本公开实施例的方法100可以应用于任意的模型训练模式，包括单机训练、数据并行、F-then-B(先前向计算，再反向计算)的流水线并行等。本公开实施例的方法100能够在任意训练模式的模型训练过程中，实现计算设备的动态内存调度。

在步骤S120中，针对第一模型的前向计算过程，在执行多个前向算子中的任一前向算子之前，获取当前的可用内存量和该前向算子输出的中间计算结果的内存占用量。

前向算子输出的中间计算结果的内存占用量可以根据训练数据的大小和前向算子本身的属性(例如卷积核的大小、数量等)确定。

根据一些实施例，为了减少模型训练过程中的计算量、提高模型训练效率，可以在对第一模型进行训练之前，计算出每个前向算子输出的中间计算结果的内存占用量。相应地，在步骤S120中，可以直接获取预先计算好的内存占用量。可用内存量则需要基于当前的内存占用情况实时获取。

在步骤S130中，基于步骤S120获取的可用内存量和内存占用量，确定是否将中间计算结果保留于内存中。

根据一些实施例，响应于可用内存量大于或等于内存占用量，将前向算子的中间计算结果保留于内存中。相应地，在反向计算过程中，可以直接从内存中获取该中间计算结果，而无需进行重计算。根据该实施例，能够在满足内存约束的条件下尽量减少重计算，从而提高计算效率和计算速度，减少模型训练的耗时。

根据一些实施例，响应于可用内存量小于内存占用量，将前向算子的中间计算结果从内存中删除。相应地，在反向计算过程中，需要对该前向算子进行重计算，以得到其中间计算结果。根据该实施例，能够避免模型训练过程中发生内存溢出。

根据一些实施例，在响应于可用内存量小于内存占用量，确定该前向算子需要采用重计算策略(即，在反向计算过程中需要对该前向算子进行重计算)之后，进一步地，可以对该前向算子进行标记。由此，在反向计算过程中，能够基于所设置的标记快速确定该前向算子是否需要进行重计算，提高计算效率。

可以理解地，第一模型还包括多个反向算子。相应地，方法100还包括：在多个反向算子中的任一反向算子之前，响应于内存中不存在执行该反向算子所需要的目标中间计算结果，获取检查点计算结果，其中，检查点计算结果为位于目标中间计算结果之前的最新的中间计算结果；以及基于检查点计算结果进行前向重计算，以得到目标中间计算结果。

可以理解地，第一模型的训练过程包括多次迭代(iteration)。

根据一些实施例，方法100可以在多次迭代的每次迭代中执行，从而对每次迭代进行动态、自适应地内存调度，具有良好的通用性。

根据另一些实施例，方法100可以在多次迭代中的首次迭代和变化迭代中执行。变化迭代为训练数据量(batchsize)发生变化的迭代。根据该实施例，仅在训练数据量发生变化的情况下执行方法100，重新确定内存调度策略。在训练数据量相较于上一次迭代未发生变化的情况下，可以直接复用上一次迭代的内存调度结果，从而避免不必要的计算，提高计算效率。

图4示出了根据本公开实施例的模型训练过程400的示意图。如图4所示，过程400包括步骤S410-S490。

在步骤S410中，将待训练的模型M切分为N个子模型M_1，M_2，…，M_N，将子模型M_1，M_2，…，M_N分别分配给计算设备D_1，D_2，…，D_N。模型M相当于上文所述的第二模型，子模型M_i(i＝1，2，…，N)相当于上文所述的第一模型。

在步骤S420中，计算每个子模型M_i的各个前向算子输出的中间计算结果的内存占用量K。

在步骤S430中，按照流水线并行的1F1B调度方式训练模型M。

在步骤S440中，对于每个计算设备D_i(i＝1，2，…，N)，在执行每个前向算子之前，获取当前的可用内存量P。

在步骤S450中，判断是否P≥K。步骤S450用于判断该前向算子是否需要采用重计算策略(即，在反向计算过程中，是否需要对其进行重计算)。若步骤S450的判断结果为否，则表示当前的内存不能满足该前向算子的中间计算结果的存储需求，需要执行步骤S460，确定对该前向算子采用重计算策略，并对该前向算子进行标记，以便在反向计算过程中对其进行重计算。若步骤S450的判断结果为是，则表示当前的内存能够满足该前向算子的中间计算结果的存储需求，因此无需对该前向算子采用重计算策略，即无需对该前向算子进行标记。

在步骤S470中，执行该前向算子，得到该前向算子输出的中间计算结果。若该前向算子被标记为采用重计算策略，则将该中间计算结果从内存中删除；若该前向算子未被标记，则其不需要采用重计算策略，将该中间计算结果保留在内存中。

在步骤S480中，基于1F1B的调度策略，执行反向算子。

步骤S430-S480可以循环执行多次，直至完成一次迭代后，执行步骤S490，调用优化器更新模型M的参数。

根据本公开的实施例，还提供了一种内存调度装置。图5示出了根据本公开一些实施例的内存调度装置500的结构框图。如图5所示，装置500包括第一获取模块510、第二获取模块520和确定模块530。

第一获取模块510被配置为获取待训练的第一模型，其中，所述第一模型包括多个前向算子。

第二获取模块520被配置为在执行所述多个前向算子中的任一前向算子之前，获取当前的可用内存量和该前向算子输出的中间计算结果的内存占用量。

确定模块530被配置为基于所述可用内存量和所述内存占用量，确定是否将所述中间计算结果保留于内存中。

根据本公开的实施例，在模型的训练过程中，实时获取当前的可用内存量，判断接下来的前向算子输出的中间计算结果是否需要在内存中保留，由此能够实现内存的动态、自适应调度，提高内存利用效率和模型的训练效率。

根据一些实施例，确定模块530进一步被配置为：响应于所述可用内存量大于或等于所述内存占用量，将所述中间计算结果保留于内存中。

根据一些实施例，确定模块530进一步被配置为：响应于所述可用内存量小于所述内存占用量，将所述中间计算结果从内存中删除。

根据一些实施例，第一模型还包括多个反向算子；装置500还包括：第三获取模块，被配置为在执行所述多个反向算子中的任一反向算子之前，响应于内存中不存在执行该反向算子所需要的目标中间计算结果，获取检查点计算结果，其中，所述检查点计算结果为位于所述目标中间计算结果之前的最新的中间计算结果；以及重计算模块，被配置为基于所述检查点计算结果进行前向重计算，以得到所述目标中间计算结果。

根据一些实施例，所述第一模型为多个子模型中的任一子模型，所述多个子模型通过对待训练的第二模型进行切分得到，在所述第一模型的训练过程中，前向计算和反向计算交叉进行。

应当理解，图5中所示装置500的各个模块可以与参考图1描述的方法100中的各个步骤相对应。由此，上面针对方法100描述的操作、特征和优点同样适用于装置500及其包括的模块。为了简洁起见，某些操作、特征和优点在此不再赘述。

虽然上面参考特定模块讨论了特定功能，但是应当注意，本文讨论的各个模块的功能可以分为多个模块，和/或多个模块的至少一些功能可以组合成单个模块。例如，上面描述的第二获取模块520和确定模块530在一些实施例中可以组合成单个模块。

还应当理解，本文可以在软件硬件元件或程序模块的一般上下文中描述各种技术。上面关于图5描述的各个模块可以在硬件中或在结合软件和/或固件的硬件中实现。例如，这些模块可以被实现为计算机程序代码/指令，该计算机程序代码/指令被配置为在一个或多个处理器中执行并存储在计算机可读存储介质中。可替换地，这些模块可以被实现为硬件逻辑/电路。例如，在一些实施例中，模块510-530中的一个或多个可以一起被实现在片上系统(System on Chip,SoC)中。SoC可以包括集成电路芯片(其包括处理器(例如，中央处理单元(Central Processing Unit,CPU)、微控制器、微处理器、数字信号处理器(Digital Signal Processor,DSP)等)、存储器、一个或多个通信接口、和/或其他电路中的一个或多个部件)，并且可以可选地执行所接收的程序代码和/或包括嵌入式固件以执行功能。

根据本公开的实施例，提供了一种电子设备，包括：至少一个处理器；以及与上述至少一个处理器通信连接的存储器，该存储器存储有可被上述至少一个处理器执行的指令，该指令被上述至少一个处理器执行，以使上述至少一个处理器能够执行根据本公开实施例的内存调度方法。

根据本公开的一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行根据本公开实施例的内存调度方法。

根据本公开的一方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现根据本公开实施例的内存调度方法。

参考图6，现将描述可以作为本公开的服务器或客户端的电子设备600的结构框图，其是可以应用于本公开的各方面的硬件设备的示例。电子设备旨在表示各种形式的数字电子的计算机设备，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字助理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图6所示，电子设备600包括计算单元601，其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序，来执行各种适当的动作和处理。在RAM603中，还可存储设备600操作所需的各种程序和数据。计算单元601、ROM602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

电子设备600中的多个部件连接至I/O接口605，包括：输入单元606、输出单元607、存储单元608以及通信单元609。输入单元606可以是能向设备600输入信息的任何类型的设备，输入单元606可以接收输入的数字或字符信息，以及产生与电子设备的用户设置和/或功能控制有关的键信号输入，并且可以包括但不限于鼠标、键盘、触摸屏、轨迹板、轨迹球、操作杆、麦克风和/或遥控器。输出单元607可以是能呈现信息的任何类型的设备，并且可以包括但不限于显示器、扬声器、视频/音频输出终端、振动器和/或打印机。存储单元608可以包括但不限于磁盘、光盘。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据，并且可以包括但不限于调制解调器、网卡、红外通信设备、无线通信收发机和/或芯片组，例如蓝牙^TM设备、802.11设备、Wi-Fi设备、WiMAX设备、蜂窝通信设备和/或类似物。

计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如方法100。例如，在一些实施例中，方法100可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM603并由计算单元601执行时，可以执行上文描述的方法100的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行方法100。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行、也可以顺序地或以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

虽然已经参照附图描述了本公开的实施例或示例，但应理解，上述的方法、系统和设备仅仅是示例性的实施例或示例，本发明的范围并不由这些实施例或示例限制，而是仅由授权后的权利要求书及其等同范围来限定。实施例或示例中的各种要素可以被省略或者可由其等同要素替代。此外，可以通过不同于本公开中描述的次序来执行各步骤。进一步地，可以以各种方式组合实施例或示例中的各种要素。重要的是随着技术的演进，在此描述的很多要素可以由本公开之后出现的等同要素进行替换。

Claims (15)

1.一种内存调度方法，包括：

获取待训练的第一模型，其中，所述第一模型包括多个前向算子；

在执行所述多个前向算子中的任一前向算子之前，获取当前的可用内存量和该前向算子输出的中间计算结果的内存占用量；以及

基于所述可用内存量和所述内存占用量，确定是否将所述中间计算结果保留于内存中。

2.根据权利要求1所述的方法，其中，所述基于所述可用内存量和所述内存占用量，确定是否将所述中间计算结果保留于内存中包括：

响应于所述可用内存量大于或等于所述内存占用量，将所述中间计算结果保留于内存中。

3.根据权利要求1或2所述的方法，其中，所述基于所述可用内存量和所述内存占用量，确定是否存储所述中间计算结果包括：

响应于所述可用内存量小于所述内存占用量，将所述中间计算结果从内存中删除。

4.根据权利要求1-3中任一项所述的方法，其中，所述第一模型还包括多个反向算子；

所述方法还包括：

在执行所述多个反向算子中的任一反向算子之前，响应于内存中不存在执行该反向算子所需要的目标中间计算结果，获取检查点计算结果，其中，所述检查点计算结果为位于所述目标中间计算结果之前的最新的中间计算结果；以及

基于所述检查点计算结果进行前向重计算，以得到所述目标中间计算结果。

5.根据权利要求1-4中任一项所述的方法，其中，所述第一模型为多个子模型中的任一子模型，所述多个子模型通过对待训练的第二模型进行切分得到，在所述第一模型的训练过程中，前向计算和反向计算交叉进行。

6.根据权利要求1-5中任一项所述的方法，其中，所述第一模型的训练过程包括多次迭代，所述方法在所述多次迭代的每次迭代中执行。

7.根据权利要求1-5中任一项所述的方法，其中，所述第一模型的训练过程包括多次迭代，所述方法在所述多次迭代中的首次迭代和变化迭代中执行，所述变化迭代为训练数据量发生变化的迭代。

8.一种内存调度装置，包括：

第一获取模块，被配置为获取待训练的第一模型，其中，所述第一模型包括多个前向算子；

第二获取模块，被配置为在执行所述多个前向算子中的任一前向算子之前，获取当前的可用内存量和该前向算子输出的中间计算结果的内存占用量；以及

确定模块，被配置为基于所述可用内存量和所述内存占用量，确定是否将所述中间计算结果保留于内存中。

9.根据权利要求8所述的装置，其中，所述确定模块进一步被配置为：

响应于所述可用内存量大于或等于所述内存占用量，将所述中间计算结果保留于内存中。

10.根据权利要求8或9所述的装置，其中，所述确定模块进一步被配置为：

响应于所述可用内存量小于所述内存占用量，将所述中间计算结果从内存中删除。

11.根据权利要求8-10中任一项所述的装置，其中，所述第一模型还包括多个反向算子；

所述装置还包括：

第三获取模块，被配置为在执行所述多个反向算子中的任一反向算子之前，响应于内存中不存在执行该反向算子所需要的目标中间计算结果，获取检查点计算结果，其中，所述检查点计算结果为位于所述目标中间计算结果之前的最新的中间计算结果；以及

重计算模块，被配置为基于所述检查点计算结果进行前向重计算，以得到所述目标中间计算结果。

12.根据权利要求8-11中任一项所述的装置，其中，所述第一模型为多个子模型中的任一子模型，所述多个子模型通过对待训练的第二模型进行切分得到，在所述第一模型的训练过程中，前向计算和反向计算交叉进行。

13.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。

14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行根据权利要求1-7中任一项所述的方法。

15.一种计算机程序产品，包括计算机程序，其中，所述计算机程序在被处理器执行时实现权利要求1-7中任一项所述的方法。

Images