CN1195812A - 利用程序地址非连续历史记录的预测超高速缓存装入 - Google Patents

Abstract

向包括处理由多任务操作系统控制的指令程序中的多个任务的处理器的信息处理系统中装入超高速缓冲存储器的方法和装置。通过监测以前处理的任务的顺序以及它们运行的时间开发的一个任务队列存储按从当前任务到下一任务的时间顺序排列的一个任务列表。当处理器完成当前任务的处理之前。下一任务应该被装入到超高速缓冲存储器中时,用这个任务列表来进行预测以防止由任务切换导致的处理器停顿。

Description

利用程序地址非连续历史记录的预测超高速缓存装入

本发明涉及信息处理系统和操作信息处理系统的方法，特别涉及向具有多任务操作系统的信息处理系统中装入超高速缓冲存储器的装置和方法。

由于微处理器或中央处理单元(CPU)操作系统开始依靠多任务作为标准操作手段，因此外部数据总线带宽，即联接CPU和信息处理系统中其它单元的数据总线，成为任务切换期间的系统性能瓶颈。所以在下文中所用的术语“任务”指的是任何单独的程序序列或指令集。典型的，一个任务被认为是当前i个操作页之外的任何单独的指令序列。例如，i可以是2或3页。

任务是一个操作系统(OS)可调度工作单元或计算活动。通过执行多任务或在任务间切换，OS可以以交互式以及成批访问为基础分配CPU访问并提高CPU吞吐量和应用。

每个应用程序在CPU上运行时是由一个或多个OS任务来表现的。也就是说，OS分配和调度一定数量的任务来对应由一个或几个应用程序指定的功能。通常，任务数目远小于同时执行的几个应用程序所查找的功能数目。

一项任务，也称为一个进程，是一个执行的程序。在一项任务或进程执行时，它将改变它的状态。任务的状态是由它当前的活动(新的、活动的、等待或暂停)定义的。相对的，任务的状态向量显示是被命名为“任务控制块”(TCB)的一个结构。

为了最大化提高CPU的应用，有些任务应该在所有时间一直运行。在串行机中，这是通过排成队列的访问来完成的。也就是说，已准备等待执行的任务被保持在一个称为工作或任务就绪队列的列表中。OS调度分配程序循环地确定下一步CPU将访问就绪队列中的哪项任务。因此，正运行的任务将继续执行直到它也结束、进入等待状态(例如因执行I/O所导致)、已超过可用时间或者被预占。

多任务是通过循环方法每次运行或处理每个任务的一小部分来完成的。在任务切换时，新代码被装入到一个指令超高速缓冲存储器中。如果在上一次初始指令的运行之后已经完成了足够的任务切换，初始任务的代码将不再驻留在超高速缓冲存储器中。当进行任务切换时，初始任务的代码必须重新装入到超高速缓冲存储器中，就象初次开始任务一样。这意味着每次任务切换时，外部数据总线都需要装入超高速缓存。也就是说，对应于初始任务的代码通过外部数据总线被从系统存储器中转移到位于微处理器内部的超高速缓冲存储器中。

由于这一外部总线以小于内部处理器的速度运行，因此从外部总线到内部超高速缓存的数据速率是饱和的，而处理器可能陷入停顿。这一问题需要设置相关和完全相关的超高速缓存。这一问题当前还不可能由常规的预取机制来处理，因为微处理器到问题实际已经发生之前不知道由每次任务切换所导致的程序流中的这一不连续什么时候发生以及需要什么新代码。

本发明提供的解决方案通过应用恰在任务切换之前应用可用的总线带宽解决由任务切换所导致的处理器停顿。本发明利用的是，在处理当前任务期间，处理器定位自己的内部超高速缓存时的可用外部总线带宽。本发明预测内部超高速缓存所需的下一个任务并在处理器完成当前任务的处理之前预装入此任务。

因此，本发明提供了一个信息处理系统，它包括处理一个指令程序中的多个任务的处理器，存储预定数目任务的超高速缓冲存储器以及存储按照从当前任务到下一任务的时间处理顺序排列的任务列表的一个任务队列。系统的特征在于提供了一种装置，用于在处理器完成当前任务的处理之前，在下一个任务应该被装入到超高速缓冲存储器中时利用任务列表进行预测。

本发明还提供向包括处理一个指令程序中的多个任务的处理器及存储预定数目所述任务的超高速缓冲存储器的一个信息处理系统中装入超高速缓冲存储器的方法。此方法包括在处理器完成当前任务的处理之前，在下一个任务应该被装入到超高速缓冲存储器中时存储按从当前任务到下一任务的时间处理顺序排列的任务列表以及利用任务列表进行预测的步骤。

本发明具有恰在任务切换之前利用可用的总线带宽来防止处理器停顿的优点。

本发明具有预测下一要处理的任务以便下一任务在任务执行之前可以被装入到超高速缓冲存储器中的优点。

图1是具体表现本发明的一个信息处理系统。

图2图示的是指令程序中的不连续。

图3是本发明的框图。

图4A-4C表示本发明操作的一个流程图。

图1所示为实现本发明的一个典型硬件环境，它图示的是一个根据本发明的具有多任务操作系统的一个信息处理系统的典型硬件配置，它包括至少一个处理器或中央处理单元(CPU)10及一个或多个集成数据传送单元11、一级或多级超高速缓冲存储器13以及一个或多个执行单元(图中没有画出)或存储器管理单元(图中没有画出)等其它单元。CPU 10通过系统总线12与随机存取存储器(RAM)14，只读存储器(ROM)16以及联接磁盘单元20和磁带装置40等外围装置和总线12的输入/输出(I/O)适配器18，联接键盘24、鼠标26、扬声器28、麦克风32和/或触摸屏装置(图中没有画出)等其它用户接口装置和总线12的用户接口适配器22，联接信息处理系统和数据处理网络的通讯适配器34以及联接总线12和显示装置38的显示适配器36相联接。

超高速缓冲存储器13是将速度较快但较不密集的存储器放在离CPU 10较近的位置并由速度较慢但较密集或较大的存储器来支持它们的整个存储层次概念的一部分。超高速缓冲存储器13可以具有一级或多级存储层次，其中CPU 10最频繁请求的数据存储在一级超高速缓冲存储器，次最频繁请求的数据存储在二级超高速缓冲存储器，而最不常请求的数据存储在RAM 14或ROM 16等位于CPU 10外部的主存储器中。当CPU 10需要从存储器中请求数据或指令时，数据传送单元11将在超高速缓冲存储器13中查找所需数据或指令的地址。如果数据或指令可用，将产生一次命中并且数据或指令将被传送。如果数据或指令不在超高速缓冲存储器13中，将产生未命中，有时也称为一次超高速缓存故障。如果超高速缓冲存储器13有多级，每次都要对每级查找一次，直到产生命中。

一般来说，本发明利用的是多任务中，每个任务都按循环方式每次处理一小部分这一事实。这意味着循环任务列表可以通过查看在它们的当前序列中运行的任务来确定。本发明跟踪按时间处理顺序排列的任务列表中的不同任务来预测接下来在什么时候应该将什么任务装入到超高速缓冲存储器中。本发明是通过从任务列表中查看序列中的下一任务并在当前任务几乎将要完成时装入下一任务来完成这一操作的。

现在参考图2所示的一个程序流程图。图2图示了第一个或当前指令或程序任务12以及第二个或下一个指令或程序任务14。在执行或处理任务12时，在任务12的段I 16产生任务切换或跳转命令。跳转命令或任务切换命令使指令流跳转到存在于段AA 18的任务14的开始。这样，在指令或程序的处理顺序中就产生了不连续，因为指令程序已经跳过段J 20并跳转到了指令程序的一个新段中。如果指令程序中的每个段或指令都是按顺序进行处理的，那么在指令程序的处理中就不会产生不连续。

本发明检测指令中的跳转大小，例如从段I 16跳转到段AA 18，并根据跳转大小来确定任务切换是否已经产生，即从第一个任务12的处理切换到第二个任务14。

现在参考图3，图中用框图形式给出了CPU 10的进一步的详细内容来介绍本发明的特征。由于在现有技术中CPU 10的其它部件已众所周知并且这些细节对描述本发明来说并不必要，因此在图中没有画出。

CPU 10与总线12相联接，用于在CPU 10和如图1所示的RAM存储器14或ROM存储器16等信息处理系统的其它单元之间传送数据和指令等信息。CPU 10包括一个前面所述的内部超高速缓冲存储器13。根据发明，CPU 10还包括一个任务队列42。任务队列42包括多个任务寄存器44、46、48、50、52，用于存储按从当前任务到下一任务时间处理顺序排列的一个任务列表。在此，时间处理顺序指的是CPU 10处理任务的顺序。如前所述，CPU10按循环形式每次处理每个任务的一小部分，这表示任务的处理顺序可以通过查看它们在当前序列，即时间处理顺序中运行的任务来确定。

任务队列42中的每个入口都由一组寄存器组成，它们包括标识具体任务的一个任务ID 54、标识在由任务ID 54标识的具体任务之前处理的任务的前一ID 56、标识在由任务ID 54标识的具体任务之后处理的下一个任务的下一ID 58以及表示处理由任务ID 54标识的任务所需的时间的一个计时器值60。

CPU 10还包括一个程序计数器62和一个程序地址生成器64。CPU 10还包括可操作地联接到任务队列42、超高速缓存13、程序计数器62、程序地址生成器64以及总线控制器68的控制逻辑66，它控制通过总线12发送到CPU 10或从CPU 10接收的信息。

控制逻辑66监测程序计数器62和由程序地址生成器64产生的地址来确定是否有不连续产生。如果确认有不连续，控制逻辑66将查看任务队列42来确定任务是否为新任务。如果确认是新任务，控制逻辑将分配一个新任务位置。如果任务是已经存在的任务，任务控制逻辑66的一个任务控制序列生成器66a将被激发。任务控制逻辑66保持任务队列42的时间处理顺序并通过任务列表利用命中比较逻辑检查超高速缓冲存储器中是否有数据或指令来控制把新数据或指令装入到超高速缓存13中。如果超高速缓冲存储器13中无数据，那么任务控制逻辑66b将激发总线控制器68，通过总线12预装入数据或指令到超高速缓冲存储器13中，以确保将来在当前任务结束之前期间的超高速缓存命中。

现在参考图4A-4C，图中的流程图表示了本发明的方法和操作。方法从步骤100开始。需要下面三个步骤对方法进行初始化。在步骤102复位一个指令循环计数器或计时器，所有任务寄存器被复位，所有循环计数被设置为最大值，指针被置为零。指针是任务开始位置的地址。在步骤104，当前指针被移到第一个可用或空任务寄存器。在步骤106，来自程序计数器62的上一物理指令地址被置位为当前物理指令地址。在步骤108，把当前指令物理地址与上一指令物理地址进行比较。在步骤110，确定指令中是否有大于n个字节的跳转发生。步骤110用来检测指令程序中的不连续以便随后标识任务。如果跳转并不大于n个字节，即没检测到不连续，进程将沿处理路径112来查看当前任务是否已接近结束。如果当前任务已接近结束，进程将查看下一任务的指令和数据是否已经存在于超高速缓存中。如果超高速缓存中还没有下一任务的指令和数据，它将首先访问上一个被用地址，开始预取这些指令和数据。

如果在步骤110确定跳转大于n个字节，即检测到不连续，进程将沿处理路径114来记录上一个指令地址以及已结束任务的结束时间。接着逻辑将确定被标识的任务是否为前面已确认的任务。如果被标识的任务是前面已确认的任务，逻辑将重建与循环列表，即任务队列中的任务列表的联接。如果被标识的任务是一新任务，进程将提供一种方法来重同步或重建任务列表中排列的时间处理顺序。

如果跳转没被确定为是不连续并且进程沿路径112进行，进程将进行到步骤116。在步骤116，将确定下一指针是否是活动的。如果下一指针不是活动的，那么进程将返回到步骤108。如果下一指针是活动的，进程将执行到步骤118，在此指令循环计数器的内容将与当前任务寄存器中存储的计数进行比较。

在步骤120，将确定循环计数是否大于“count”减k。如果循环不大于“count”减k，处理将返回到步骤108。如果循环计数大于“count”减k，处理将执行到步骤122。

在步骤122，将确定下一任务的最后一页地址是否存储在超高速缓冲存储器中。如果下一任务的最后一页地址没有存储在超高速缓冲存储器中，进程将执行到步骤124，在此将从下一任务寄存器中预取最后一个指令页，然后进程返回到步骤108。

如果下一任务的最后一页地址存储在超高速缓冲存储器中，进程将从步骤122执行到步骤126。在步骤126，将确定最后一页是否存储在超高速缓冲存储器中。如果最后一页没有存储在超高速缓冲存储器中，进程将执行到步骤128，在此将从下一任务寄存器中预取最后一页，然后进程返回到步骤108。如果最后一页地址没有存储在超高速缓冲存储器中，进程将从步骤126直接到步骤108。

如果在步骤110确定跳转大于n个字节，即有不连续发生并沿路径114执行进程，碰到的第一步是步骤130。在步骤130，上一个物理地址和指令循环计数器的内容被存储在当前的任务寄存器中。进程然后执行到步骤132，在此上一指针被移到当前任务寄存器。进程然后执行到步骤134，在此指令循环计数器被复位。在步骤136，将确定当前指令是否位于某个任务寄存器中地址的m个字节之内。步骤136用来确定当前任务是否已经在任务列表中。

如果当前指令不在任何任务寄存器中地址的m个字节之内，则任务列表中没有当前任务，进程将执行到步骤138。在步骤138，如果下一指针是活动的，进程将执行到步骤140。如果下一指针不是活动的，进程将返回到步骤108。在步骤140，下一任务寄存器的内容被删掉，进程执行到步骤142，在此下一指针被复位为零。在步骤144，当前指针被移到第一个可用的空任务寄存器，进程执行到步骤146，联接被存储到任务队列中的上一个任务寄存器。

如果当前指令在某个任务寄存器中地址的m个字节之内，则任务列表中已有此任务，进程将执行步骤148，在此当前指针将移到被标识的任务寄存器。接下来进程执行步骤150，在此下一指针被移动来联接当前任务寄存器，进程执行步骤146，在此联接被存储在上一个任务寄存器中。在完成了步骤146之后，进程返回到步骤108。

尽管本发明及其优点已经加以详细描述，但在不偏离所附的权利要求中限定的本发明的精神和范围的情况下，可以理解对其进行各种改变、替代和替换。

Claims (22)

1、一个信息处理系统，包括：

处理一个指令程序中多个任务的处理器；

存储预定数目的所述任务的超高速缓冲存储器；

存储按从当前任务到下一任务的时间处理顺序排列的一个任务列表的任务队列；以及

当所述下一任务应该被装入到所述超高速缓冲存储器时，在所述处理器完成所述当前任务的处理之前利用所述任务列表来进行预测的装置。

2、权利要求1中所述的信息处理系统，其特征在于还包括通过为每一个所述任务分配一个任务ID来标识所述任务的装置。

3、权利要求2中所述的信息处理系统，其特征在于还包括控制将所述任务装入到所述超高速缓冲存储器中的一个任务控制器，所述任务控制器包括确定在所述处理器完成所述当前任务的处理之前所述下一任务是否存储在所述超高速缓冲存储器中的装置，所述任务控制器还包括：

查看所述任务列表来确定所述列表是否包括对应于所述下一任务的一个入口的装置；以及

对所述下一任务的所述任务ID与已分配的所述任务ID进行比较以确定所述下一任务的所述任务ID是否在已分配的所述任务ID的m个字节之内的装置。

4、权利要求1中所述的信息处理系统，其特征在于还包括向所述任务列表中加入与所述下一任务对应的入口的装置以及当所述下一任务的所述任务ID不在已分配的所述任务ID的n个字节之内时向所述超高速缓冲存储器中装入所述下一任务的装置。

5、权利要求2中所述的信息处理系统，其特征在于标识所述任务的所述装置还包括一个程序计数器和从所述程序计数器向所述任务分配任务ID的装置。

6、权利要求5中所述的信息处理系统，其特征在于所述分配装置还包括：

监测所述程序计数器以确定在所述指令程序的处理过程中超过n个字节的不连续情况的装置；

在所述指令程序的处理过程中当发生第一个不连续时，向第一个任务分配来自所述程序计数器的第一个程序计数器值的装置；以及

在所述第一个不连续之后所述指令程序的处理过程中，当发生下一个不连续时，向第二个任务分配来自所述程序计数器的第二个程序计数器值的装置。

7、权利要求6中所述的信息处理系统，其特征在于还包括：

一个计时器；

当发生所述第一个不连续时启动所述计时器的装置；以及

在所述第一个不连续之后当发生下一个不连续时停止所述计时器并存储计时器值的装置。

8、权利要求1中所述的信息处理系统，其特征在于所述任务列表包括对应于所述任务的入口，所述入口包括标识具体任务的一个任务ID以及表示处理此具体任务所需时间的一个计时器值。

9、权利要求8中所述的信息处理系统，其特征在于所述入口还包括标识在所述具体任务之前处理的任务的一个前一ID以及标识在所述具体任务之后处理的下一任务的一个下一ID。

10、权利要求1中所述的信息处理系统，其特征在于还包括控制向所述超高速缓冲存储器中装入所述任务的一个任务控制器。

11、权利要求1中所述的信息处理系统，其特征在于还包括确定在所述处理器完成所述当前任务的处理之前，所述下一任务是否存储在所述超高速缓冲存储器中的装置。

12、向包括处理指令程序中的多个任务的处理器以及存储预定数目任务的超高速缓冲存储器的一个信息处理系统中装入超高速缓冲存储器的一种方法，所述方法包括以下步骤：

存储按从当前任务到下一任务的时间处理顺序排列的一个任务列表；以及

在处理器完成当前任务的处理之前，下一任务应该被装入到超高速缓冲存储器中时，利用任务列表进行预测。

13、权利要求12中所述的方法，其特征在于还包括通过给每一任务分配一个任务ID来标识任务的步骤。

14、权利要求13中所述的方法，其特征在于还包括从一个程序计数器中给任务分配任务ID的步骤。

15、权利要求14中所述的方法，还包括以下步骤：

提供控制向超高速缓冲存储器中装入任务的一个任务控制器；

在处理器完成当前任务的处理之前通过执行以下步骤来确定下一任务是否已经存储在超高速缓冲存储器中：

查看任务列表来确定列表是否包括与下一任务对应的一个入口；以及

将下一任务的任务ID与已经分配的任务ID进行比较以确定下一任务的任务ID是否在已经分配的任务ID的m个字节内。

16、权利要求15中所述的方法，其特征在于还包括以下步骤：

向任务列表中加入与下一任务对应的一个入口；以及

如果下一任务的任务ID不在已经分配的任务ID的m个字节内，把下一任务装入到超高速缓冲存储器中。

17、权利要求14中所述的方法，其特征在于还包括以下步骤：

监测程序计数器以确定在指令程序的处理过程中超过n个字节的不连续情况；

在指令程序的处理过程中当发生第一个不连续时，向第一个任务分配来自程序计数器的第一个程序计数器值；以及

在第一个不连续之后指令程序的处理过程中当发生下一个不连续时，向第二个任务分配来自程序计数器的第二个程序计数器值。

18、权利要求17中所述的方法，其特征在于还包括以下步骤：

提供一个计时器；

当发生所述第一个不连续时启动计时器；以及

在第一个不连续之后当发生下一个不连续时停止计时器并存储计时器值。

19、权利要求12中所述的方法，其特征在于还包括提供控制向超高速缓冲存储器中装入任务的一个任务控制器的步骤。

20、权利要求12中所述的方法，其特征在于还包括确定在处理器完成当前任务的处理之前，下一任务是否已存储在超高速缓冲存储器中的步骤。

21、权利要求12中所述的方法，其特征在于任务列表包括与任务对应的入口，其中入口包括标识具体任务的一个任务ID以及表示处理具体任务所需时间的一个计时器值。

22、权利要求21中所述的方法，其特征在于入口还包括标识在具体任务之前处理的任务的一个前一ID和标识在具体任务之后处理的下一任务的一个下一ID。

Images