CN104838355B - 用于在多线程计算机系统中提供高性能和公平的机制 - Google Patents

Abstract

根据一个实施例，处理器包括执行流水线，其用于执行多个线程，包括第一线程和第二线程。该处理器进一步包括多线程控制器(MTC)，其耦合至执行流水线，该多线程控制器用于：基于线程切换策略，确定是否在第一线程和第二线程之间切换线程，该线程切换策略是从基于第一线程和第二线程的不公平等级的多个线程切换策略的列表中选出的；以及响应于确定切换线程，从执行第一线程切换到执行第二线程。

Description

用于在多线程计算机系统中提供高性能和公平的机制

技术领域

本发明的多个实施例总体涉及处理器架构，更具体地说，涉及用于在在多线程计算机系统中提供高性能和公平的技术。

背景技术

许多现代计算机系统能够执行多于一个的不同软件程序或“线程”，而不必显式地保存一个线程的状态并且恢复另一线程的状态。出于该原因，它们被称为“多线程”计算机系统。按照被称为顺序多线程操作的一种常规方式，操作系统或其他控制机制通过允许作为执行的候选的每一个线程在处理器上顺序地操作来允许若干线程共享资源。可将在线程之间改变称为线程切换。按照这些常规方法中的一些方法，在当前正在执行的线程(即，前台线程)执行了某段时期或达到其不能继续的时刻(例如，等待存储器访问或输入/输出(I/O)传输完成或仅仅为了确保多个任务间的公平)时，这些线程被切换。可基于严格的优先级，选择将被切入(被允许使用执行资源)的下一线程。按照其他方法，轮循方法可用于线程切换。

多线程操作(MT)通过允许两个(或更多)软件进程同时使用共享的系统资源来增加总的系统吞吐量。当共享资源不完全由任何单个进程利用并可由另一进程同时有利地使用时，增加了系统吞吐量。使系统吞吐量最大化等同于使共享资源的利用最大化。

在时效性的多线程操作中，在任意给定时间，仅一个线程可利用主执行流水线，因此系统必须显式地将该流水线切换到其他线程，以便通过那个线程执行指令。每一个线程被分配给各自保持单独的架构状态的不同的硬件线程。应当以使系统吞吐量最大化(或等效地，使利用最大化)的目标来引导线程切换策略。这包括诸如此类策略：在当前的前台线程不能取得比后台线程更多的进展时切换线程，或者使由任何线程使用的关键资源的时间最小化。注意，此类策略应当考虑切换线程的开销(当传入和传出进程都不能取得进展时)。

虽然系统资源增加的总利用是多线程化操作的主要动机，但是，完全忽视系统上硬件线程之间的公平概念会导致客户可见的性能问题，包括拒绝服务和系统崩溃。

例如，如果线程“A”完全受计算约束并且多线程策略仅关注使总利用最大化，则将没有理由切换到线程“B”。可行的线程切换策略需要从使总利用最大化中作出足够的退让，以便保证所有线程的向前进展，并且满足所有线程的期望的服务质量(QoS)度量。

当两个线程共享资源时，给予每一个线程公平的访问意味着什么呢？一些公平概念建立在给予全部请求者(线程)对共享资源的相同量的访问的基础上。对应于该理念的MT公平策略能以聪明的方式(Solomon-style)划分该资源，并且给予两个线程中的每一个线程恰好该资源的一半。在主流水线的情况下，这意味着给予每一个线程一半时间来独占使用该流水线。

虽然该方法对同类的工作负荷很有作用，但总体来说它是浪费的。假设线程“A”在75％的时间需要该主流水线，但是线程“B”仅在20％的时间需要该主流水线，则总资源需求为95％。如果精确地给予每一个线程该流水线的50％，则该流水线的总利用仅为70％。线程“A”使用50％的全部分配，而线程“B”仅消耗其需要的那20％。

该“全都平等”的公平概念可能导致使由每一个线程因多线程操作而经历的放缓相等的MT策略。当每一个线程的资源需求不同时，该策略也有类似问题。如果在程序执行期间每一个线程的资源需求发生变化，则使放缓相等会导致严重的低效率并损害总利用，进而限制源自多线程操作的性能增益。

继续上述示例，留意流水线专用于线程“B”而那时线程“B”不能利用它的那30％的时间。忽略次级效应，使线程“A”除了利用其已经拥有的50％的流水线之外，还利用那30％并不影响线程“B”的性能。在这种情况下，流水线利用得以最大化，并且相比单线程性能，没有一个线程经历大于2X的放缓(在该示例中，没有一个线程经历放缓)。在线程“B”不能使用主流水线的时候拒绝线程“A”访问主流水线不会帮助线程“B”执行得更快，它只放缓线程“A”并减小总吞吐量。

附图说明

在所附附图的多个图中，以示例方式而非限制方式说明本发明的多个实施例，在附图中，同样的参考标号指示类似的元件。

图1是根据本发明的一个实施例的处理器或处理器核的执行流水线的框图。

图2是多线程控制器的实施例的框图。

图3是示出用于线程切换的方法的流程图。

图4是示出用于更新公平计数器的方法的流程图。

图5是示出用于基于线程切换策略选择用于执行的线程的方法的流程图。

图6A是公平计的框图。

图6B是策略选择单元的框图。

图7是线程状态单元的框图。

图8是示出用于基于线程优先级等级选择用于执行的线程的方法的流程图。

图9A示出根据本发明的一个实施例的示例性高级向量扩展(AVX)指令格式。

图9B示出根据本发明的另一实施例的示例性高级向量扩展(AVX)指令格式。

图9C示出根据本发明的又一个实施例的示例性高级向量扩展(AVX)指令格式。

图10A是示出根据本发明的多个实施例的通用向量友好指令格式及其A类指令模板的框图。

图10B是示出根据本发明的多个实施例的通用向量友好指令格式及其B类指令模板的框图。

图11A是示出根据本发明的一个实施例的示例性专用向量友好指令格式的框图。

图11B是示出根据本发明的另一实施例的通用向量友好指令格式的框图。

图11C是示出根据本发明的另一实施例的通用向量友好指令格式的框图。

图11D是示出根据本发明的另一实施例的通用向量友好指令格式的框图。

图12是根据本发明的一个实施例的寄存器架构的框图。

图13A是示出根据本发明的多个实施例的示例性有序流水线和示例性的寄存器重命名的无序发布/执行流水线的框图。

图13B是示出根据本发明的多个实施例的要包括在处理器中的有序架构核的示例性实施例和示例性的寄存器重命名的无序发布/执行架构核的框图。

图14A是根据本发明的一个实施例的处理器的框图。

图14B是根据本发明的另一实施例的处理器的框图。

图15是根据本发明的多个实施例的处理器的框图。

图16是根据本发明的一个实施例的系统的框图；

图17是根据本发明的实施例的更具体的示例性系统的框图。

图18是根据本发明的另一实施例的更具体的示例性系统的框图。

图19是根据本发明的实施例的SoC的框图。

图20是根据本发明的多个实施例的、对照使用软件指令转换器将源指令集中的二进制指令转换成目标指令集中的二进制指令的框图。

具体实施方式

将参考以下所讨论的细节来描述本发明的各实施例和方面，并且所附附图将说明各实施例。下列描述和附图是说明本发明的，并且不应当被解释为限制本发明。描述许多具体的细节以提供对本发明的各实施例的透彻理解。然而，在某些实例中，不描述公知的或常规的细节，以便提供本发明的实施例的简洁讨论。

说明书中提到“一个实施例”或“实施例”意思是结合实施例所描述的特定的特征、结构或特性能够被包括在本发明的至少一个实施例中。在本说明书的多处出现的短语“在一个实施例中”不一定全部都指相同的实施例。

根据本发明的一些实施例，提供架构和机制集以提高多线程系统中的性能和公平。当由软件发起第一线程时，由系统执行该第一线程，该第一线程使用系统的一个或多个共享资源(例如，处理器核的主执行流水线或存储器流水线，在本文中将被统称为流水线)。在执行该第一线程期间，软件(SW)发起第二线程。对于本说明书的其余部分，当前正由流水线执行的线程将被称为“前台”线程，而正等待被执行的线程将被称为“后台”线程。因此，在该命名法下，当系统执行线程切换时，线程可从前台切换到后台，反之亦然。

根据本发明的一个实施例，系统根据若干因素作出线程切换的决定。在一个实施例中，系统根据当前所选择的线程切换策略执行线程切换。在一个实施例中，从可被理解为滑动尺(sliding scale)的一组策略中选择线程切换策略。在该尺中的、实现了线程间公平的中间区域中，策略被移向最大系统利用。在该尺的每一端上，策略被移向为受害线程(即，已被不公平地拒绝访问流水线的线程)提供最大公平。

在一个实施例中，系统也根据每一个线程的信息来作出线程切换的决定。根据本发明的一个方面，该信息包括每一个线程的软件分配的优先级等级。在一个实施例中，系统也考虑线程的执行状态，例如，该线程在给定循环期间是否能够充分利用流水线。在本发明的一个实施例中，系统根据诸如计时器期满、外部中断等之类的触发事件来作出线程切换决定。

将会理解，可由系统在确定是否应当执行线程切换时单独地或共同地考虑上述因素(线程切换策略、线程信息和外部事件)，或考虑上述因素的任意组合。还将理解，以上所讨论的因素仅仅旨在出于说明目的，并且系统不限于用于确定是否切换线程的上述因素。此外，贯穿本申请的通篇，将在两个线程之间描述线程切换技术。然而，这并不是受限的，线程切换技术也可应用于在多于两个线程之间的切换。

图1是根据本发明的一个实施例的处理器或处理器核的框图。处理器100可以是SMT或可从加利福尼亚州圣克拉拉市的英特尔公司获得的、能够进行随事件切换多线程操作(Switch on Event Multi-Threading(SoEMT))的处理器。参考图1，处理器100可表示任何种类的指令处理装置或处理元件。处理元件是指线程、进程、上下文、逻辑处理器、硬件线程、核和/或共享对处理器的其他共享资源(例如，预留单元、执行单元、流水线和更高层级的高速缓存/存储器)的访问的任何处理元件。物理处理器通常指的是集成电路，其可能包括诸如核或硬件线程之类的任意数量的其他处理元件。核通常是指位于集成电路上的、能够维持独立架构状态的逻辑，其中，每一个被独立地维持的架构状态与至少一些专用执行资源相关联。在一个实施例中，处理器100可以是通用处理器。处理器100可以是各种复杂指令集计算(CISC)处理器、各种精简指令集计算(RISC)处理器、各种超长指令字(VLIW)处理器中的任何处理器，可以是上述处理器的混合或者可以完全是其他类型的处理器。处理器100也可表示一个或多个处理器核。

可在不同的处理器中，出于不同的目的，以不同的方式来实现处理器核。例如，此类核的实现可包括：1)旨在用于通用计算的通用有序核；2)旨在用于通用计算的高性能通用无序核；3)旨在主要用于图形和/或科学(吞吐量)计算的专用核。不同处理器的实现可包括：1)中央处理单元(CPU)，其包括旨在用于通用计算的一个或多个通用有序核和/或旨在用于通用计算的一个或多个通用无序核的；以及2)协处理器，其包括旨在主要用于图形和/或科学(吞吐量)的一个或多个专用核。此类不同处理器导致不同的计算机系统架构，其可包括：1)在与CPU分开的芯片上的协处理器；2)在与CPU相同的封装中但分开的管芯上的协处理器；3)与CPU在相同管芯上的协处理器(在该情况下，此类协处理器有时被称为诸如集成图形和/或科学(吞吐量)逻辑之类的专用逻辑，或被称为专用核)；以及4)可以将所描述的CPU(有时被称为应用核或应用处理器)、以上描述的协处理器和附加功能包括在同一管芯上的芯片上系统。接着描述示例性核架构，随后描述示例性处理器和计算机架构。

在一个实施例中，处理器100包括但不限于形成处理器流水线的指令取出单元101、指令解码器102、重命名/分配器103、一个或多个执行单元104和引退单元105。可由多个线程共享流水线或流水线的部分(例如，流水线的前端或指令解码部分102)。复制架构状态寄存器(未示出)，因此能够存储单独的架构状态/上下文以用于不同的逻辑处理器。也可复制其他更小的资源(例如，重命名分配器逻辑103中的指令指针和重命名逻辑)以用于多个线程。可通过分区操作来共享诸如重排序/引退单元105中的重排序缓冲器、加载/存储缓冲器和队列之类的一些资源。而可以潜在地完全共享诸如通用内部寄存器(例如，寄存器106)、页表基寄存器、低层级数据高速缓存(例如，高速缓存107)和数据转换缓冲器(TLB)、执行单元104和无序单元(未示出)之类的资源。

在一个实施例中，指令解码器102用于对从指令取出单元101接收到的指令进行解码。这些指令可以是从集成在处理器100之内或与处理器100紧密关联的高速缓存存储器107中取出的宏指令，或者可以经由系统总线从外部存储器中检索到。指令解码器102可对这些宏指令进行解码，并且生成或输出反映指令或从指令导出的一个或多个微操作、微代码、进入点、微指令、其他指令或其他控制信号。指令解码器102可使用各种不同的机制来实现。合适的机制的示例包括但不仅限于，微代码只读存储器(ROM)、查找表、硬件实现、可编程逻辑阵列(PLA)等。

在一个实施例中，分配器和重命名单元103包括用于预留资源的分配器，诸如用于存储指令处理结果的寄存器组。然而，线程可能能够无序执行，其中，分配器和重命名单元103也预留其他资源(例如，用于追踪指令结果的重排序缓冲器)。单元130也可包括寄存器重命名器，其用于将程序/指令引用寄存器重命名为处理器内部的其他寄存器。在此类重命名级期间，将对外部或逻辑寄存器的引用转换为内部的或物理寄存器引用以消除由寄存器重新使用而导致的依赖关系。

执行单元104可包括算术逻辑单元或能够基于指令执行操作的另一类型的逻辑单元。作为指令解码器102对指令进行解码的结果，执行单元104可接收反映这些指令或从这些指令导出的一个或多个微操作、微代码进入点、微指令、其他指令或其他控制信号。执行单元104可由于指示一个或多个源操作数(SRC)的指令而操作，并且用于将结果存储在指令所指示的寄存器集合中的一个或多个目的地操作数(DEST)中。执行单元104可包括可用于执行指令或从指令导出的其他控制信号并相应地执行操作的电路或其他执行逻辑(例如，与硬件和/或固件相结合的软件)。执行单元104可表示诸如逻辑单元、算术逻辑单元(ALU)、算术单元、整数单元等之类的任何种类的执行单元。

处理器100进一步包括调度器和分派单元(未示出)，其用于将指令调度并分派到执行单元104，以便执行。事实上，根据指令/操作的类型可用性，在执行单元104上潜在地调度这些指令/操作。例如，在具有可用的浮点执行单元的执行单元的端口上调度浮点指令。执行单元的示例包括浮点执行单元、整数执行单元、跳转执行单元、加载执行单元、存储执行单元以及其他已知的执行单元。在一个实施例中，重排序/引退单元105包括诸如上述的重排序缓冲器、加载缓冲器和存储缓冲器之类的组件，这些组件用于支持被无序执行的指令的无序执行和稍后的有序引退。

可将源操作数和目的地操作数中的一些或全部存储在存储资源106(例如，寄存器集合中的寄存器或存储器)中。寄存器集合可以是寄存器组以及潜在的诸如状态寄存器、标志寄存器等之类的其他寄存器的部分。寄存器可以是能用于存储数据的存储位置或设备。寄存器集合常常可在物理上与执行单元一起位于管芯上。寄存器可以从处理器的外部或从编程者的角度可见。例如，指令可指定存储在寄存器中的操作数。各种不同类型的寄存器都是合适的，只要它们能够如本文中所述存储和提供数据。寄存器可以被重命名，也可以不被重命名。合适寄存器的示例包括但不限于，专用物理寄存器、使用寄存器重命名的动态分配的物理寄存器以及专用物理寄存器和动态分配物理寄存器的组合等。或者，可将源操作数和目的地操作数中的一个或多个存储在除寄存器之外的，诸如系统存储器中的位置之类的存储位置中。

在一个实施例中，高速缓存107包括诸如高层级和/或低层级高速缓存之类的各种高速缓存。较高层级或进一步远离的高速缓存用于对近期被取出和/或操作的元素进行高速缓存操作。注意，较高层级或进一步远离指的是高速缓存层级增加或进一步远离执行单元。在一个实施例中，较高层级的高速缓存是第二级数据高速缓存。然而，较高层级的高速缓存并不限于此，因为其可以是或可包括可被称为追踪高速缓存的指令高速缓存。可转而在解码器之后耦合追踪高速缓存以存储最近被解码的指令。追踪高速缓存也潜在地包括用于预测要执行/采用的分支的分支目标缓冲器和用于存储指令的地址转换条目的指令转换缓冲器(I-TLB)。

较低层级的数据高速缓存和数据转换缓冲器(D-TLB)可耦合至执行单元。数据高速缓存用于存储最近被使用/操作的元素(例如，数据操作数)，这些元素在存储器一致性状态(例如，修改状态、排他状态和无效(MESI)状态)下潜在地被保持。D-TLB用于存储最近的虚拟/线性至物理地址转换。之前，D-TLB条目包括用于向最近使用的虚拟存储器地址提供代价不高的转换的虚拟地址、物理地址和其他信息(例如，偏移)。

处理器100进一步包括总线接口单元(未示出)。总线接口单元用于与处理器外部的，诸如系统存储器、芯片组、北桥或其他集成电路之类的设备通信。该存储器可专用于该处理器，或与系统中的其他设备一起被共享。存储器的示例包括动态随机存取存储器(DRAM)、静态RAM(SRAM)、非易失性存储器(NV存储器)和长期存储设备。通常，总线接口单元包括用于在互连上传送和接收总线信号的输入/输出(I/O)缓冲器。互连的示例包括射电收发机逻辑(GTL)总线、GTL+总线、双数据速率(DDR)总线、泵式(bumped)总线、差分总线、高速缓存一致性总线、点对点总线、多分支总线或实现任何已知总线协议的其他已知的互连。总线接口单元也可与更高层级的高速缓存通信。

在一个实施例中，可将上述各个级组织成三个阶段。可将第一阶段称为有序前端，其包括取出级101、解码级102和分配重命名级103。在该有序前端阶段，这些指令按照其原始的程序顺序，经过流水线100继续进行。可将第二阶段称为无序执行阶段，其包括调度/分派级(未示出)和执行级104。在此阶段，一确定每条指令的数据依赖关系并且执行单元可用时，就调度、分派并执行每条指令，而不管在原始程序中指令的顺序位置。第三阶段被称为有序引退阶段，其包括引退级105，在该引退级105中，按照指令原始的、顺序的程序顺序来引退指令以保持该程序的完整性和语义，并且提供精确的中断模型。

在一个实施例中，处理器100进一步包括多线程控制器(MTC)106，其用于基于公平和向前进展信息来确定是否切换线程。在一个实施例中，MTC 106将执行流水线从执行前台线程切换到执行后台线程。根据一个实施例，MTC 106可在多个线程选择点处切换流水线。例如，可在指令取出单元101处、在指令取出单元101和重命名/分配器103之间、在重命名/分配器103和执行单元104之间、在执行单元104和引退单元105之间等处切换流水线。

根据一个实施例，MTC 106包括线程选择逻辑(TSL)120，其基于由线程状态单元(TSU)110-111提供的信息来决定是否切换线程。根据一个实施例，当发起线程时，SW(例如，OS调度器)将该线程关联/分配到硬件线程(即，一组硬件资源，包括例如TSU)。例如，TSU110可与第一线程相关联，而TSU 111可与第二线程相关联。在一个实施例中，TSU110-111向TSL 120提供诸如线程优先级等级之类的、每一个各自线程的信息。在一个实施例中，TSU110和111也可提供每一个各自线程的执行状态，例如，各自线程在当前循环和在不久的将来的循环中使用流水线的能力。

如图1所示，MTC 106包括TSU 110-111，因此，MTC 106能够支持多至两个线程。然而，将会理解，仅出于说明目的提供TSU 110-111，并且MTC 106不限于包括仅两个TSU。MTC106可包括更多TSU以支持更多线程的多线程操作。

在一个实施例中，TSL 120配置成用于基于由策略选择单元(PSU)115提供的线程切换策略来确定是否切换线程。根据一个实施例，PSU 115从一组线程切换策略140中选择被优化用于硬件资源的最大利用的默认线程切换策略。然而，当随着时间的推移执行线程时，一个线程可能被不公平地拒绝访问流水线，则PSU 115通过选择被更多地移向对该线程的“公平”而不是使系统利用最大化的另一线程切换策略来响应。

在一个实施例中，由对应的访问监测器单元(AMU)监测每一个线程对流水线的公平访问。例如，AMU 125-126可分别监测第一和第二线程多频繁地被拒绝访问流水线。在一个实施例中，AMU 125-126根据由对应的TSU 110-111提供的线程状态来确定线程是否已被不公平地拒绝访问流水线。例如，如果对应的TSU 110指示线程处于其能够使用流水线的状态，则AMU 125可向FM 120指示对应的线程被不公平地拒绝访问流水线。另一方面，如果TSU110指示该线程没准备好使用流水线(例如，由于受阻，其正等待来自另一硬件资源的数据)，则AMU 125可不向FM 120指示该线程正被不公平地拒绝访问流水线。换言之，根据一个实施例，仅当线程准备好使用流水线时，其才被认为被不公平地拒绝访问流水线。

在一个实施例中，向公平计(FM)120提供不公平信息，该公平计(FM)120利用该信息以确定哪个线程是“受害”线程(如果存在任何“受害”线程)(即，已被不公平地拒绝访问流水线的线程)。在一个实施例中，除了向PSU 115提供哪个线程是受害线程的信息之外，FM120还向PSU 115提供关于不公平等级的信息。在一个实施例中，该不公平等级被用作PSU115从一组线程切换策略140中确定线程切换策略时的因素。

图2是示出图1中的MTC 106的一个实施例的框图。现在参考图2，MTC 106包括但不限于耦合至PSU 115以及TSU 110和111的TSL 120。根据一个实施例，TSL 120通过在每个时钟周期或执行周期上或在每预定数目个时钟或执行周期上，直接或间接地取样/评价每个线程的各种信息来确定是否切换线程。在一个实施例中，TSL 120可实现为查找表，该查找表根据由PSU 115、TSU 110和111提供的信息和/或外部事件230来返回关于是否切换线程的布尔值。TSU 110和111可提供线程的各种信息，例如，线程执行状态、线程优先级和/或由一个或多个超时计数器提供的超时值。可由监测器基于线程的对应执行来设置线程的线程状态。线程的线程状态可包括但不限于未被停止状态、受阻状态和被停止状态。线程可被分派或可关联于鉴于处理器内当前正在被执行或待处理的其他线程的优先级。在一个实施例中，线程可处于高优先级、标称优先级和低优先级中的一个。然而，将会理解，仅出于说明目的列出这些优先级，并且线程不限于这三个优先级。在另一实施例中，线程可与少于三个优先级相关联。在又一实施例中，线程可与多于三个优先级相关联。可由软件和/或硬件设置此类优先级。在一个实施例中，与线程相关联的软件程序可指示硬件例如经由指令(例如，提示指令)向该线程分配特定的优先级。基于线程的优先级和/或执行状态，TSL 120可作出是否从当前正被执行的第一线程切换到待被执行的第二线程的智能决定。此外，TSL 120进一步选择由策略选择单元115确定的线程切换策略(未示出)中的、在时间中的给定时刻最合适的一个策略。可基于各种因素(例如，由公平计120提供的线程间的线程公平值)预先配置可用的线程切换策略的列表。基于对应的线程相比于其他线程是否接收到对执行资源使用的公平共享来确定线程公平。基于可由AMU125-126监测的、线程被拒绝或被允许请求执行资源的循环数目，可确定线程公平。在一个实施例中，对于线程中的每一个有一个监测单元，或者可以有用于多个线程的单个或共享监测单元。基于由线程状态单元110-111提供的执行状态、优先级和/或超时值，可进一步确定线程公平。

图3是示出用于确定是否切换线程的方法300的流程图。可由图2中的MTC 106(例如，MTC 106的TSL 120)执行方法300。现在参考图3，在框305处，TSL基于线程切换策略来确定是否切换线程，该线程切换策略是基于第一和第二线程的不公平等级从线程策略列表中选择出的。在一个实施例中，由PSU 115提供线程切换策略，该PSU 115根据图2中的不公平计(FM)120提供的线程的不公平等级来选择策略。

在框310处，响应于确定切换线程，TSL从执行第一线程切换到执行第二线程。在一个实施例中，TSL通过向上文所讨论的流水线的多个线程切换选择点提供一个或多个切换线程命令以从执行第一线程切换到执行第二线程。

往回参考图2，MTC 106包括用于选择线程切换策略的PSU 115，该线程策略由上文所讨论的TSL 120使用。在一个实施例中，PSU 115根据由FM 120提供的不公平信息来选择线程切换策略。在一个实施例中，这包括指示哪个线程是受害线程以及该线程对应的不公平等级的信息。在一个实施例中，FM 120通过比较每一个对应线程的不公平计数器来确定受害线程的不公平等级。

在一个实施例中，当线程的不公平计数器递增时，其反映在那个循环中，该线程想要使用流水线但不能使用该流水线，因为该流水线被分配给另一线程。因此，每一个不公平计数器的值反映其中线程被拒绝访问流水线的循环的运行合计。然而，当线程对于一个循环确实获取了对流水线的访问时，硬件(例如，FM 120)通过递减其对应的不公平计数器来补偿流水线循环的较早的拒绝。因此，在一个实施例中，具有零计数的不公平计数器意味着该线程已补足了其先前已被拒绝的所有循环。在一个实施例中，不公平计数器在零处饱和，即它不翻转到负值。换言之，没有负公平的概念——每一个线程仅跟踪其中它被拒绝访问流水线的循环。

仍然参考图2，在一个实施例中，根据由监测每个对应的线程对流水线的可访问性的访问监测器单元(AMU)125和126提供的信息来更新每一个线程的不公平计数器。在一个实施例中，由每一个AMU提供的信息包括包含{+1,0,-1}的指令集，其中“+1”指示对应的线程需要访问流水线并且其被拒绝访问流水线；“-1”指示对应的线程需要访问流水线并且其被允许访问流水线；而“0”指示由于对应的线程正在等待其他资源(例如，来自高速缓存的数据返回)，因此其不需要或不能够使用流水线。

虽然图2示出FM 120根据由两个AMU提供的信息来更新其不公平计数器，但是将会理解，图2中所示的AMU的数量仅用于说明目的。将会理解，可实现更多AMU以向FM 120提供用于跟踪多于两个不公平计数器的信息，这进而使得MTC 106能够支持更多线程。

图4是示出用于保持不公平计数器的方法400的流程图。可由图2中的AMU 125、126和FM 120的组合来执行方法400。因此，在讨论方法400的文本中所作的所有引用是参考图2进行的。此外，下列讨论假定AMU 125与线程A相关联，并且AMU 126与线程B相关联。

在框405处，确定线程需要访问流水线。例如，FM 120可确定线程A需要访问流水线，因为对应的AMU 125发布“+1”或“-1”指令。同样，FM 120可确定线程B需要访问流水线，因为对应的AMU 126发布“+1”或“-1”指令。

在框410处，确定请求线程是否被允许访问流水线。如果是，则在框415处，使对应于请求线程的不公平计数器递减。根据一个实施例，这被实现为当AMU 125发布“-1”指令时，FM 120使对应于线程A的不公平计数器递减。同样，当AMU 126发布“-1”指令时，FM 120可使对应于线程B的不公平计数器递减。

在框420处，确定被拒绝访问流水线的线程是否处于被停止状态。在一个实施例中，由以下详述的对应的线程状态单元(TSU)110和111提供该状态信息。

在框425处，在确定被拒绝的线程处于被停止状态后，使对应于该被拒绝线程的不公平计数器递增。根据一个实施例，这被实现为当AMU 125发布“+1”指令时，FM 120使对应于线程A的不公平计数器递增。同样，当AMU 126发布“+1”指令时，FM 120可使对应于线程B的不公平计数器递增。

在框430处，在确定被拒绝的线程不处于被停止状态后，对应于该被拒绝线程的不公平计数器保持不变。根据一个实施例，这被实现为FM 120从AMU 125或126接收到“0”指令。

根据本发明的一个实施例，可在每个循环上评价方法400。因此，可在每个循环上更新不公平计数器。在一个实施例中，实现方法400，使得可在每一个循环上更新每一个不公平计数器。因此，可在系统中多次复制例如方法400，每次对应于一个线程。

图5是示出用于基于线程切换策略选择线程的方法500的流程图。可由图2中的TSL120、PSU 115和FM 120实现方法500。因此，在讨论以下方法500中所作的所有引用是参考图2进行的。

在框505处，接收分别对应于第一和第二线程的第一和第二不公平计数器的值。在一个实施例中，第一和第二不公平计数器被实现为FM 120的部分。

在框510处，将第一不公平计数器的值与第二不公平计数器的值进行比较。在一个实施例中，由FM 120执行该比较。

在框515处，基于该比较，标识线程切换策略。在一个实施例中，由PSU 115根据框510中的比较结果来标识线程切换策略。

在框520处，基于框515处被标识的线程切换策略，选择线程以供执行。在一个实施例中，基于由PSU 115选择的线程切换策略，由TSL 120执行线程选择。

图6A是示出图2中的FM 120的一个实施例的框图。在一个实施例中，FM 120包括但不限于各自对应于线程的两个不公平计数器605和610。例如，不公平计数器605可与线程A相关联，而不公平计数器610可与线程B相关联。在一个实施例中，根据上文所讨论的、来自图2中的对应的AMU125和AMU 126的信息来更新不公平计数器605和610。

在一个实施例中，FM 120通过比较不公平计数器的值来确定受害线程及其对应的不公平等级。在一个实施例中，通过从另一个不公平计数器中减去一个不公平计数器的值来执行该比较。作为示例，通过从(对应于线程A的)不公平计数器605的值中比较(例如，减去)(对应于线程B的)不公平计数器610的值，如果得到的差是正数，则FM 120确定线程A是受害线程。或者，如果得到的差是负数，则FM 120确定线程B是受害线程。在一个实施例中，差的量值是受害线程的不公平等级，该不公平等级用于影响由图2中的PSU 115执行的线程切换策略选择过程。

虽然图6A示出不公平等级被实现为各自对应于不同线程的两个不公平计数器的减法，但是将会理解，能以其他方式实现该不公平等级。例如，可使用单个计数器来实现不公平等级。在此类实施例中，可取决于哪个线程被允许或拒绝访问流水线来更新计数器(例如，递增、递减一或递增、递减某个因子)。作为示例，每当线程A被拒绝访问流水线时，可使该单个计数器递增，而每当线程B被拒绝访问流水线时，可使该单个计数器递减。因此，正计数值指示线程A是受害线程，而负计数值指示线程B是受害线程。在此类实施例中，该单个计数器的量值指示对应的受害线程的不公平等级。

图6B是示出图2中的PSU 115的实施例的框图。在一个实施例中，PSU 115被实现为分级的不公平响应系统。如图6B所示，PSU 115包括表示四个不同的线程切换策略的四个区。

在一个实施例中，PSU 115默认为被优化用于最大利用的线程切换策略(即，区0)。然而，当来自FM 120的不公平等级落入这四个区中的一个区中时，对应的线程切换策略被激活以向受害线程提供公平。在一个实施例中，不公平等级的极性(即，正或负)指示哪个线程是受害者。例如，正的不公平等级可指示线程A是受害者，而负的不公平等级指示线程B是受害者。在一个实施例中，由于不公平计数器之间增加的差的量值表示线程之间的增加的不公平程度，因此，相关联的策略相比利用和吞吐量将愈加偏向公平的快速恢复。换言之，区域4中的不公平策略是最强的公平策略，而区域0中的策略是最弱的。该分级的响应方案确保了在交换以恢复线程的公平时，牺牲了最少的必要性能。在一个实施例中，区域及其各自的线程切换策略定义如下：

当不公平等级跨入特定区域的触发阈值(即，L1、L2、L3或L4)时，公平策略触发。在一个实施例中，当特定的线程切换策略参与时，该策略被保持到恢复公平为止，在一个实施例中，当公平等级达到零时，恢复公平发生。该滞后使得不公平响应策略是稳健的。例如，它通过在连续的不公平区域(其中，较强的策略为要参与的较弱的策略恢复足够的公平，该较弱的策略太弱而不足以导致另一个不公平升级)之间振荡来确保线程不会永久地保持为受害者。

在一个实施例中，提供用于有意向特定线程偏置资源分配的机制。考虑其中期望在向线程A和线程B分配流水线时具有N:M偏置的情况。N和M将在本文中被称为对应线程的公平标记(FairTick)。例如，通过设置N＝4以及M＝1，硬件被通知线程A应当具有相比于线程B的4倍的更多流水线时间。在一个实施例中，该偏置被实现为图6A中的FM 120的部分。根据一个实施例，在被应用到不公平计数器之前，将流水线拒绝或访问的每个循环乘以该公平标记。例如，将线程所遭受的流水线拒绝的每个循环乘以该线程的公平标记，并将该结果加到该线程的不公平计数器中。在一个实施例中，在从已被给予对流水线的访问权的线程的不公平计数器中递减允许线程访问流水线的循环之前，将该允许线程访问流水线的每一个循环乘以对等线程的公平标记。

现在往回参考图2，图2示出TSL 120从对应的TSU中接收每一个线程的线程状态信息，以便作出关于是否切换线程的信息更详尽的决定。

图7是示出诸如图2中的TSU 110和111之类的线程状态单元的实施例的框图。当SW发起线程时，该SW将该线程分配给TSU，在一个实施例中，该TSU保持各自线程的信息。在一个实施例中，每个各自线程的信息用于影响被实现为图2中的TSL 120的部分的决策过程。

现在参考图7，根据一个实施例，为了使利用最大化，每个线程携带关于其使用流水线的能力的状态信息。在一个实施例中，该状态信息可被实现为有线状态机(FSM)710，其包括下列状态：未被停止的、被停止的和受阻的。

根据一个实施例，当线程处于未被停止状态时，其能够利用流水线；其不等待任何事物。在一个实施例中，被停止状态向TSL 120指示线程不能够在当前循环中使用流水线，但是不久可能能够使用该流水线(即，切换到其他线程的利用效益可能小于线程切换自身的开销)。根据一个实施例，受阻状态向TSL 120指示线程不能够在当前循环中使用该资源，并且切换的益处可能大于切换的开销。作为示例，线程可开始处于被停止状态中，指示其准备利用流水线。假定该线程被允许访问流水线，则在执行期间的一个时刻，可能需要该线程等待(例如，等待数据从高速缓存返回)。在此类场景中，该线程可进入被停止状态。取决于在该被停止状态中等待的时间以及诸如来自各个高速缓存的命中/未命中指示之类的其他信息，可由该线程作出从被停止状态转换到受阻状态的决定，该受阻状态反映切换到未被停止的后台线程将获得更多利用的可能性。

在一个实施例中，为了在FSM 710的状态转换期间提供进一步的灵活性和控制，TSU 110和111可与软件可配置寄存器相关联，该软件可配置寄存器可作为在状态转换可能或必须发生之前，事件的发生必须达到或超过的阈值。例如，可提供允许SW指示线程在被允许转换到被停止状态之前必须保持在未被停止状态中的循环的最小数量的寄存器。这允许使SW确保特定线程不放弃其优先级，除非预期的等待时间超过某个可编程时期为止。在一个实施例中，也可提供允许SW能够指示线程可保持在受阻状态中的循环的最大数量的寄存器。这允许SW确保特定的线程不被困在低优先级中过久。仅出于说明目的讨论这些寄存器，并且FSM 710不限于使用这些可配置寄存器。将会理解，可实现可影响FSM 710的行为的其他可配置寄存器。

根据本发明的一个实施例，TSU 110和111监测流水线中各种元件的状态以确定合适的状态转换，包括例如，图1中的处理器流水线100的指令取出单元101、指令解码器102、重命名/分配器103、执行单元104和/或引退单元105的状态。例如，基于由执行单元104提供的信息，TSU 110或111可确定对应线程的执行是被临时地停止的，因为执行单元104正在等待来自高速缓存107的数据。在此类场景中，对应的TSU可选择从未被停止状态转换到被停止状态，从而允许给予TSL 120切换到对等后台线程的自由。

以上所讨论的基于硬件的切换策略在大多数情形下是有效的。然而，当SW能够向硬件传达某些情形适用时，可增加这些策略的有效性。例如，在一个实施例中，SW可传达线程的优先级等级以确保该线程能被及时地执行，或者通知硬件该线程不是时间关键的，并且流水线可专用于较高优先级的线程。在本发明的一个实施例中，TSU 110和111包括优先级管理器(PM)720，其用于保持线程优先级等级的信息，该信息被提供给TSL 120以帮助其作出关于是否将切换线程的、信息更详尽的决定。在一个实施例中，线程优先级等级是可由SW配置的。在一个实施例中，优先级等级包括：高、标称和低。在一个实施例中，PM 720也可包括超时计数器721，该超时计数器721可由SW配置以确保线程不被困在特定的优先级等级中过久。在一个实施例中，超时计数器721的期满可用于影响上文所讨论的由PSU 115执行的策略选择过程。

图8是示出用于选择线程以供执行的方法800的流程图。可由图2中的TSU 100、111和TSL 120执行方法800。因此，除非另外指出，在关于方法800的文本中作出的引用是参考图2进行的。

在框805中，将线程的优先级设置为标称。例如，TSU 110可设置图7中的其PM 720以指示线程具有标称优先级。

在框810处，接收来自SW的提示指令。在框815处，确定该提示指令是否是提示暂停(hint@pause)指令，在一个实施例中，该提示暂停指令通知硬件线程在之后一段时间内没有事情要做。作为示例，可在操作系统(OS)中的空闲循环内发布该指令，因为在该循环内被执行的指令不完成任何实际工作。在由提示暂停发起的时间间隔期间，硬件将允许其他线程能够被执行而不对发布该提示暂停指令的线程产生任何不公平。如果该指令是提示暂停指令，则在框820处，将线程优先级设置为低。例如，TSU 110可设置图7中的其PM 720以指示线程具有低优先级。

在框825处，确定该提示指令是否是提示公平(hint@fair)指令，该提示公平指令通知硬件上下文切换在进行中，并且通知该硬件根据需要改变线程切换策略以使两个线程的不公平计数最小化。作为示例，当已由OS决定在线程上切换进程时，通常该指令将被发布。尽管经过优化，但是该进程切换例程必定存储许多状态，并且可能遭遇许多高速缓存未命中。这向硬件提供了在选择线程切换策略时的一些自由，以便在传出进程的上下文已经被保存时使两个线程的不公平计数最小化。如果该指令是提示公平指令，则在框830处，将线程优先级设置为标称。例如，TSU 110可设置图7中的其PM 720以指示线程具有低优先级。

在框835处，确定该提示指令是否是提示优先级指令，该提示优先级指令通知硬件在该情形有效时不切换线程。这在其中关键代码部分对系统性能重要的协作进程中是尤其重要的。作为示例，当在关键代码部分中获取锁定时，可发布提示优先级指令。这允许线程尽可能快地执行该代码，从而拒绝其他线程访问流水线。如果该指令是提示优先级指令，则在框840处，将线程优先级设置为高。例如，TSU 110可设置图7中的其PM 720以指示线程具有高优先级。

上文参照TSU 110讨论了线程优先级的设置。然而，将会理解，上述操作中的每一个用于针对每一个线程而被执行。因此，例如这些操作也适用于TSU 111或系统可包括以支持更多线程的任何其他的附加TSU。

在框845处，鉴于线程的执行状态，基于线程优先级，选择线程以供执行。在一个实施例中，由TSL 120基于TSU 110和111提供的线程优先级来选择线程。在一个实施例中，也根据线程的执行状态来选择线程。在一个实施例中，由图7所示的每一个对应的TSU的FSM710指示执行状态。

上文中将方法800描述为操作序列。然而，将会理解，方法800不一定旨在由单个单元或进程顺序地执行。事实上，方法800中的一些操作可由一个单元/进程执行，而方法800的其他操作可由另一单元/进程执行。此外，执行这些操作的各种单元/进程可并行地或按不同序列来执行这些操作。此外，方法800中的一些操作可针对每一个线程而被执行，但是其他操作并不如此。作为示例，如上文所讨论的那样，可由TSU 110和TSU 111两者执行框805-840中的操作；可由TSU 110和TSU 111并行地或顺序地执行这些操作。此外，可由诸如TSL 120之类的不同单元/进程执行框845中的操作。再一次地，该操作可并行于框805-840中的操作被执行。事实上，即便框805到840不被执行，也可执行框845。例如，即便优先级等级没有被更新(即，没有执行框805到840)，也可基于线程的优先级等级，继续在每个循环上选择线程以供执行。

再次往回参考图2，图2示出TSL 120部分地基于外部事件230，作出线程切换决定。在一些实例中，即便线程是完全计算约束的，并且可在每个循环使用流水线，在可由SW配置的超时计数器期满之后，线程切换也是强制的。从概念上说，这与图7所示的每一个TSU的超时计数器721相同，但是这是用不同的超时值配置的。

外部中断是向处理器通知需要及时处理的条件的重要方法。因此，根据一个实施例，TSL 120也配置成用于根据此类外部中断作出线程切换决定。

在复杂的流水线化的SMT处理器中，可能存在的其中线程在被切出之前不能够引退指令的情形。执行其他线程会使该情形永久保持，从而使得尽管线程有对流水线的访问权，但是它永远不向前进展，这种情况是可能的。因此，根据一个实施例，MTC 106包括向前进展机制，其用于检测此类条件，并通知TSL 120根据需要切换线程以保证向前进展。

可实现上文中所讨论的线程切换机制以切换诸如图1中的处理器流水线100之类的主执行流水线。然而，将会理解，可扩展该机制以涵盖比仅仅该主执行流水线更多的流水线。在一个实施例中，上述线程切换机制也可适用于存储器流水线，该存储器流水线保持存储器事务队列，并且可在任何时候发布用于任何线程的存储器操作。例如，存在其中线程A有对主流水线的访问权，但是由于存储器事务队列被来自线程B的事务填充而使线程A不能够发布存储器事务的情形。在这种情况下，由于来自线程B的资源的在先拥有权，线程A在浪费主流水线循环，因此符合不公平循环的定义。因此，在一个实施例中，可扩展不公平计数器以对这些情形中的不公平循环进行计数，以便以非常合理的代价来防止另一形式的不公平。

指令集或指令集架构(ISA)是计算机架构中与编程有关的部分，并且可包括原生数据类型、指令、寄存器架构、寻址模式、存储器架构、中断和异常处理以及外部输入和输出(I/O)。术语“指令”在本申请中一般表示宏指令，宏指令是被提供给处理器(或指令转换器，该指令转换器(例如使用静态二进制转换、包括动态编译的动态二进制转换)转换、变形、仿真或以其他方式将指令转换成将由处理器处理的一条或多条其他指令)以供执行的指令——宏指令是与微指令或微操作(微op)截然相反的，微指令或微操作(微op)是处理器的解码器解码宏指令的结果。

ISA与微架构不同，微架构是实现指令集的处理器的内部设计。具有不同的微架构的处理器可共享共同的指令集。例如，奔腾四(Pentium 4)处理器、酷睿(Core^TM)处理器、以及来自加利福尼亚州桑尼威尔(Sunnyvale)的超微半导体有限公司(Advanced Micro Devices,Inc.)的诸多处理器执行几乎相同版本的x86指令集(在更新的版本中加入了一些扩展)，但具有不同的内部设计。例如，可使用公知技术，在不同的微架构中，以不同的方式来实现ISA的相同寄存器架构，包括专用物理寄存器、使用寄存器重命名机制(诸如，使用寄存器别名表(RAT)、重排序缓冲器(ROB)以及引退寄存器组；使用多个映射和寄存器池)的一个或多个动态分配物理寄存器等。除非另作说明，否则短语“寄存器架构”、“寄存器组”和“寄存器”在本文中用于指代对软件/编程者以及对指令指定寄存器的方式可见的寄存器。在需要专用性的情况下，形容词“逻辑的”、“架构的”、或“软件可见的”将用于指示寄存器架构中的寄存器/寄存器组，而不同的形容词将用于指定给定微架构中的寄存器(例如，物理寄存器、重排序缓冲器、引退寄存器、寄存器池)。

指令集包括一个或多个指令格式。给定的指令格式定义多个字段(位的数目、位的位置等)以指定将要被执行的操作(操作码)以及将要被执行的操作的操作数等。通过指令模板(或子格式)的定义来进一步分解一些指令格式。例如，可将给定指令格式的指令模板定义为具有指令格式字段(所包括的字段通常按照相同顺序，但是至少一些字段具有不同的位位置，因为存在更少的、被包括的字段)的不同子集，和/或定义为具有以不同方式进行解释的给定字段。由此，使用给定的指令格式(并且如果经定义，则以该指令格式的指令模板中给定的一个格式)来表达ISA的每条指令，并且ISA的每条指令包括用于指定操作和操作数的字段。例如，示例性ADD指令具有特定的操作码和指令格式(该指令格式包括用于指定该操作码的操作码字段和用于选择操作数的操作数字段(源1/目的地以及源2))，并且该ADD指令在指令流中出现将使得在选择特定操作数的操作数字段中具有特定的内容。

科学应用、金融应用、自动向量化通用应用、RMS(识别、挖掘和合成)应用以及视觉和多媒体应用(诸如，2D/3D图形、图像处理、视频压缩/解压缩、语音识别算法和音频处理)通常需要对大量数据项执行相同的操作。单指令多数据(SIMD)是指使处理器对多个数据项执行一个操作的指令类型。SIMD技术尤其适用于将寄存器中的多个位逻辑地划分成多个固定尺寸的数据元素(其中，每个数据元素表示单独的值)的处理器中。例如，可将256位寄存器中的多个位指定为将以下列形式被操作的源操作数：四个单独的64位紧缩数据元素(四字(Q)尺寸数据元素)、八个单独的32位紧缩数据元素(双字(D)尺寸数据元素)、十六个单独的16位紧缩数据元素(字(W)尺寸数据元素)或三十二个单独的8位数据元素(字节(B)尺寸数据元素)。该数据类型被称为紧缩数据类型或向量数据类型，并且该数据类型的操作数被称为紧缩数据操作数或向量操作数。换言之，紧缩数据项或向量是指紧缩数据元素的序列，并且紧缩数据操作数或向量操作数是SIMD指令(也被称为紧缩数据指令或向量指令)的源操作数或目的地操作数。

作为示例，一种类型的SIMD指令指定了将以垂直方式对两个源向量操作数执行以生成具有相同尺寸的、具有相同数量的数据元素的以及按照相同数据元素的顺序的目标向量操作数(也被称为结果向量操作数)的单个向量操作。源向量操作数中的数据元素被称为源数据元素，而目的地向量操作数中的数据元素被称为目的地或结果数据元素。这些源向量操作数具有相同的尺寸，并包含相同宽度的数据元素，因此它们包含相同数量的数据元素。两个源向量操作数中的相同的位的位置中的源数据元素形成数据元素对(也称为对应的数据元素；即，每个源操作数的数据元素位置0中的数据元素相对应，每个源操作数的数据元素位置1中的数据元素相对应，以此类推)。分别地对这些源数据元素对中的每一对执行由该SIMD指令所指定的操作，以生成匹配数量的结果数据元素，如此，每一对源数据元素都具有对应的结果数据元素。由于操作是纵向的，并且由于结果向量操作数尺寸相同、具有相同数量的数据元素、并且结果数据元素以与源向量操作数相同的数据元素顺序来存储，因此，结果数据元素处于与其对应的源数据元素对在源向量操作数中的位置相同的、结果向量操作数的位的位置处。除此示例性类型的SIMD指令之外，还有各种其他类型的SIMD指令(例如，仅有一个或具有多于两个的源向量操作数的SIMD指令；以水平方式操作的SIMD指令；生成不同尺寸的结果向量操作数的SIMD指令；具有不同尺寸的数据元素的SIMD指令；和/或具有不同的数据元素顺序的SIMD指令)。应当理解，术语“目的地向量操作数(或目的地操作数)”被定义为执行指令所指定的操作的直接结果，包括将该目的地操作数存储在某位置(其是寄存器或位于由该指令所指定的存储器地址处)，以便可由另一指令将其作为源操作数来访问(通过由另一指令指定该同一个位置)。

诸如由具有包括x86、MMX^TM、流式SIMD扩展(SSE)、SSE2、SSE3、SSE4.1以及SSE4.2指令的指令集的Core^TM处理器使用的SIMD技术之类的SIMD技术在应用性能方面实现了显著的改善。已经发布和/或公布了涉及高级向量扩展(AVX)(AVX1和AVX2)且使用向量扩展(VEX)编码方案的附加SIMD扩展集(例如，参见2011年10月的64和IA-32架构软件开发手册；并且参见2011年6月的高级向量扩展编程参考)。

能以不同的格式使本文所述的指令的多个实施例具体化。另外，在下文中详述示例性系统、架构和流水线。指令的实施例可在此类系统、架构和及流水线上执行，但是不限于详述的系统、架构和流水线。

VEX编码允许指令具有多于两个的操作数，并且允许SIMD向量寄存器比128位长。VEX前缀的使用提供了三个操作数(或者更多)句法。例如，先前的两操作数指令执行执行的操作(例如，A＝A+B)覆写源操作数。VEX前缀的使用使操作数能够执行非破坏性操作，诸如A＝B+C。

图9A示出示例性AVX指令格式，包括VEX前缀2102、实操作码字段2130、Mod R/M字节2140、SIB字节2150、位移字段2162以及IMM82172。图9B示出来自图9A的哪些字段构成完整操作码字段2174和基础操作字段2142。图9C示出来自图9A的哪些字段构成寄存器索引字段2144。

VEX前缀(字节0-2)2102以三字节形式进行编码。第一字节是格式字段2140(VEX字节0，位[7:0])，该格式字段2140包含显式的C4字节值(用于区分C4指令格式的唯一值)。第二-第三字节(VEX字节1-2)包括提供专用能力的多个位字段。具体而言，REX字段2105(VEX字节1，位[7-5])由VEX.R位字段(VEX字节1，位[7]–R)、VEX.X位字段(VEX字节1，位[6]–X)以及VEX.B位字段(VEX字节1，位[5]–B)组成。这些指令的其他字段对如在本领域中已知的寄存器索引的较低的三个位(rrr、xxx以及bbb)进行编码，由此可通过增加VEX.R、VEX.X以及VEX.B来形成Rrrr、Xxxx以及Bbbb。操作码映射字段2115(VEX字节1，位[4:0]–mmmmm)包括对隐含的前导操作码字节进行编码的内容。W字段2164(VEX字节2，位[7]–W)由记号VEX.W表示，并且提供取决于该指令而不同的功能。VEX.vvvv 2120(VEX字节2，位[6:3]-vvvv)的作用可包括如下：1)以反转(1补码)形式被指定并且对具有2个或更多源操作数的指令有效VEX.vvvv对第一源寄存器操作数进行编码；2)针对某些向量偏移以1补码形式被指定的VEX.vvvv对目的地寄存器操作数进行编码；或者3)VEX.vvvv不对任何操作数进行编码，保留该字段，并且该字段应当包含1111b。如果VEX.L 2168尺寸字段(VEX字节2，位[2]-L)＝0，则它指示128位向量；如果VEX.L＝1，则它指示256位向量。前缀编码字段2125(VEX字节2，位[1:0]-pp)提供了用于基础操作字段的附加位。

实操作码字段2130(字节3)也被称为操作码字节。在该字段中指定操作码的部分。MOD R/M字段2140(字节4)包括MOD字段2142(位[7-6])、Reg字段2144(位[5-3])以及R/M字段2146(位[2-0])。Reg字段2144的作用可包括如下：对目的地寄存器操作数或源寄存器操作数(Rrrr中的rrr)进行编码；或者被视为操作码扩展且不用于对任何指令操作数进行编码。R/M字段2146的作用可包括如下：对引用存储器地址的指令操作数进行编码；或者对目的地寄存器操作数或源寄存器操作数进行编码。

比例、索引、基址(SIB)－比例字段2150(字节5)的内容包括用于存储器地址生成的SS2152(位[7-6])。先前已经针对寄存器索引Xxxx和Bbbb参考了SIB.xxx 2154(位[5-3])和SIB.bbb 2156(位[2-0])的内容。位移字段2162和立即数字段(IMM8)2172包含地址数据。

向量友好指令格式是适于向量指令(例如，存在专用于向量操作的某些字段)的指令格式。尽管描述了其中通过向量友好指令格式支持向量和标量操作两者的实施例，但是替代实施例仅使用通过向量友好指令格式的向量操作。

图10A、10B和图10C是示出根据本发明的多个实施例的通用向量友好指令格式及其指令模板的框图。图10A是示出根据本发明的多个实施例的通用向量友好指令格式及其A类指令模板的框图；而图10B是示出根据本发明的多个实施例的通用向量友好指令格式及其B类指令模板的框图。具体而言，针对通用向量友好指令格式2200定义A类和B类指令模板，两者都包括无存储器访问2205的指令模板和存储器访问2220的指令模板。在向量友好指令格式的上下文中的术语“通用”是指不束缚于任何特定指令集的指令格式。

尽管将描述其中向量友好指令格式支持以下情况的本发明的实施例，但是替代实施例可支持更大、更小、和/或不同的向量操作数尺寸(例如，256字节向量操作数)与更大、更小或不同的数据元素宽度(例如，128位(16字节)数据元素宽度)：64字节向量操作数长度(或尺寸)与32位(4字节)或64位(8字节)数据元素宽度(或尺寸)(并且由此，64字节向量由16个双字尺寸的元素或者替代地8个四字尺寸的元素组成)、64字节向量操作数长度(或尺寸)与16位(2字节)或8位(1字节)数据元素宽度(或尺寸)、32字节向量操作数长度(或尺寸)与32位(4字节)、64位(8字节)、16位(2字节)、或8位(1字节)数据元素宽度(或尺寸)、以及16字节向量操作数长度(或尺寸)与32位(4字节)、64位(8字节)、16位(2字节)、或8位(1字节)数据元素宽度(或尺寸)，但是替代实施例可支持更大、更小、和/或不同的向量操作数尺寸(例如，256字节向量操作数)与更大、更小或不同的数据元素宽度(例如，128位(16字节)数据元素宽度)。

图10A中的A类指令模板包括：1)在无存储器访问2205的指令模板内，示出无存储器访问的完全舍入控制型操作2210的指令模板以及无存储器访问的数据变换型操作2215的指令模板；以及2)在存储器访问2220的指令模板内，示出存储器访问的时效性2225的指令模板和存储器访问的非时效性2230的指令模板。图10B中的B类指令模板包括：1)在无存储器访问2205的指令模板内，示出无存储器访问的写掩码控制的部分舍入控制型操作2212的指令模板以及无存储器访问的写掩码控制的vsize型操作2217的指令模板；以及2)在存储器访问2220的指令模板内，示出存储器访问的写掩码控制2227的指令模板。

通用向量友好指令格式2200包括以下列出的按照在图10A和图10B中示出的顺序的如下字段。格式字段2240－该字段中的特定值(指令格式标识符值)唯一地标识向量友好指令格式，并且由此标识指令在指令流中以向量友好指令格式出现。由此，该字段对于仅具有通用向量友好指令格式的指令集是不需要的，在这个意义上该字段是可选的。基础操作字段2242－其内容区分不同的基础操作。

寄存器索引字段2244-其内容直接或者通过地址生成来指定源或目的地操作数在寄存器中或者在存储器中的位置。这些字段包括从PxQ(例如，32x512、16x128、32x1024、64x1024)寄存器组中选择N个寄存器的足够数量的位。尽管在一个实施例中N可多至三个源和一个目的地寄存器，但是替代实施例可支持更多或更少的源和目的地寄存器(例如，可支持多至两个源(其中，这些源中的一个源还用作目的地)，可支持多至三个源(其中，这些源中的一个源还用作目的地)，可支持多至两个源和一个目的地)。

修饰符(modifier)字段2246－其内容将指定存储器访问的以通用向量指令格式出现的指令与不指定存储器访问的以通用向量指令格式出现的指令区分开；也就是说，在无存储器访问2205的指令模板与存储器访问2220的指令模板之间进行区分。存储器访问操作读取和/或写入到存储器层次结构(在一些情况下，使用寄存器中的值来指定源和/或目的地地址)，而非存储器访问操作不这样(例如，源和/或目的地是寄存器)。尽管在一个实施例中，该字段还在三种不同的方式之间选择以执行存储器地址计算，但是替代实施例可支持更多、更少或不同的方式来执行存储器地址计算。

扩充操作字段2250－其内容区分除基础操作以外还要执行各种不同操作中的哪一个操作。该字段是针对上下文的。在本发明的一个实施例中，该字段被划分成类字段2268、α字段2252、以及β字段2254。扩充操作字段2250允许在单条指令而非2、3或4条指令中执行多组共同的操作。比例字段2260－其内容允许用于存储器地址生成(例如，用于使用2^比例*索引+基址的地址生成)的索引字段的内容按比例缩放。

位移字段2262A－其内容用作存储器地址生成的部分(例如，用于使用2^比例*索引+基址+位移的地址生成)。位移因数字段2262B(注意，位移字段2262A直接在位移因数字段2262B上的并置指示使用一个或另一个)－其内容用作地址生成的一部分，它指定通过存储器访问的尺寸(N)按比例缩放的位移因数，其中N是存储器访问中的字节数量(例如，用于使用2^比例*索引+基址+按比例缩放的位移的地址生成)。忽略冗余的低阶位，并且因此将位移因数字段的内容乘以存储器操作数总尺寸(N)以生成在计算有效地址中使用的最终位移。N的值由处理器硬件在运行时基于完整操作码字段2274(稍后在本文中描述)和数据操纵字段2254C确定。位移字段2262A和位移因数字段2262B可以不用于无存储器访问2205的指令模板，并且/或者不同的实施例可实现两者中的仅一个或不实现两者中的任一个，在这个意义上，位移字段2262A和位移因数字段2262B是可选的。

数据元素宽度字段2264－其内容区分将使用多个数据元素宽度中的哪一个(在一些实施例中用于所有指令，在其他实施例中仅用于指令中的一些)。如果支持仅一个数据元素宽度，并且/或者使用操作码的某一方面来支持数据元素宽度，则该字段是不需要的，在这个意义上该字段是可选的。

写掩码字段2270－其内容在每一数据元素位置的基础上控制目的地向量操作数中的数据元素位置是否反映基础操作和扩充操作的结果。A类指令模板支持合并-写掩码操作，而B类指令模板支持合并写掩码操作和归零写掩码操作两者。当合并时，向量掩码允许在执行(由基础操作和扩充操作指定的)任何操作期间保护目的地中的任何元素集免于更新；在其他实施例中，保持其中对应掩码位具有0的目的地的每一元素的旧值。相反，当归零时，向量掩码允许在执行(由基础操作和扩充操作指定的)任何操作期间，使目的地中的任何元素集归零；在一个实施例中，当对应掩码位具有0值时，将目的地的元素设置为0。该功能的子集是控制正在被执行的操作的向量长度的能力(即，从第一个到最后一个被修改的元素的跨度)，然而，被修改的元素不一定要是连续的。由此，写掩码字段2270允许部分向量操作，这包括加载、存储、算术、逻辑等。尽管描述了其中写掩码字段2270的内容选择多个写掩码寄存器中的、包含要使用的写掩码的一个写掩码寄存器(并且由此，写掩码字段2270的内容间接地标识要执行的掩码操作)的本发明的实施例，但是替代实施例相反或另外允许掩码写字段2270的内容直接地指定要执行的掩码操作。

立即数字段2272－其内容允许对立即数的指定。该字段在不支持立即数的通用向量友好格式的实现中不存在，并且在不使用立即数的指令中不存在，在这个意义上该字段是可选的。类字段2268－其内容在不同类的指令之间进行区分。参考图10A和图10B，该字段的内容在A类和B类指令之间进行选择。在图10A和图10B中，圆角方形用于指示专用值存在于字段中(例如，在图10A和图10B中分别用于类字段2268的A类2268A和B类2268B)。

在A类非存储器访问2205的指令模板的情况下，α字段2252被解释为其内容区分要执行不同扩充操作类型中的哪一种(例如，针对无存储器访问的舍入型操作2210和无存储器访问的数据变换型操作2215的指令模板，分别指定舍入2252A.1和数据变换2252A.2)的RS字段2252A，而β字段2254区分要执行指定类型的操作中的哪一种。在无存储器访问2205指令模板中，比例字段2260、位移字段2262A以及位移比例字段2262B不存在。

在无存储器访问的完全舍入控制型操作2210的指令模板中，β字段2254被解释为其内容提供静态舍入的舍入控制字段2254A。尽管在本发明的所述实施例中，舍入控制字段2254A包括抑制所有浮点异常(SAE)字段2256和舍入操作控制字段2258，但是替代实施例可支持这两个概念，并且可将这两个概念都编码成相同的字段，或者仅具有这些概念/字段中的一个或另一个(例如，可仅具有舍入操作控制字段2258)。

SAE字段2256－其内容区分是否禁用异常事件报告；当SAE字段2256的内容指示启用抑制时，给定的指令不报告任何种类的浮点异常标志，并且不唤起任何浮点异常处理程序。

舍入操作控制字段2258－其内容区分要执行一组舍入操作中的哪一个(例如，向上舍入、向下舍入、向零舍入以及就近舍入)。由此，舍入操作控制字段2258允许逐指令地改变舍入模式。在其中处理器包括用于指定舍入模式的控制寄存器的本发明的一个实施例中，舍入操作控制字段2250的内容覆盖该寄存器值。

在无存储器访问的数据变换型操作2215的指令模板中，β字段2254被解释为数据变换字段2254B，其内容区分要执行多个数据变换中的哪一个(例如，无数据变换、混合、广播)。

在A类存储器访问2220的指令模板的情况下，α字段2252被解释为驱逐提示字段2252B，其内容区分要使用驱逐提示中的哪一个(在图10A中，对于存储器访问时效性2225的指令模板和存储器访问非时效性2230的指令模板分别指定时效性的2252B.1和非时效性的2252B.2)，而β字段2254被解释为数据操纵字段2254C，其内容区分要执行多个数据操纵操作(也称为基元(primitive))中的哪一个(例如，无操纵、广播、源的向上转换以及目的地的向下转换)。存储器访问2220的指令模板包括比例字段2260，并可选地包括位移字段2262A或位移比例字段2262B。

向量存储器指令使用转换支持来执行来自存储器的向量加载和去往存储器的向量存储。如同寻常的向量指令，向量存储器指令以数据元素式的方式往返于存储器传输数据，其中，实际传输的元素由被选为写掩码的向量掩码的内容规定。

时效性的数据是可能足够快地被重新使用以从高速缓存操作中受益的数据。然而，这是提示，且不同的处理器能以不同的方式实现它，包括完全忽略该提示。非时效性的数据是不可能被足够快地重新使用以从第一级高速缓存中的高速缓存操作中受益且应当被给予驱逐优先级的数据。然而，这是提示，且不同的处理器能以不同的方式实现它，包括完全忽略该提示。

在B类指令模板的情况下，α字段2252被解释为写掩码控制(Z)字段2252C，其内容区分由写掩码字段2270控制的写掩码操作应当是合并还是归零。

在B类非存储器访问2205的指令模板的情况下，β字段2254的部分被解释为RL字段2257A，其内容区分要执行不同扩充操作类型中的哪一种(例如，针对无存储器访问的写掩码控制部分舍入控制类型操作2212的指令模板和无存储器访问的写掩码控制VSIZE型操作2217的指令模板，分别指定舍入2257A.1和向量长度(VSIZE)2257A.2)，而β字段2254的其余部分区分要执行指定类型的操作中的哪一种。在无存储器访问2205指令模板中，比例字段2260、位移字段2262A以及位移比例字段2262B不存在。

在无存储器访问的写掩码控制的部分舍入控制型操作2210的指令模板中，β字段2254的其余部分被解释为舍入操作字段2259A，并且禁用异常事件报告(给定的指令不报告任何种类的浮点异常标志，并且不唤起任何浮点异常处理程序)。

舍入操作控制字段2259A－就如同舍入操作控制字段2258，其内容区分一组舍入操作中的哪一个(例如，向上舍入、向下舍入、向零舍入、以及就近舍入)要执行。由此，舍入操作控制字段2259A允许逐指令地改变舍入模式。在其中处理器包括用于指定舍入模式的控制寄存器的本发明的一个实施例中，舍入操作控制字段2250的内容覆盖该寄存器值。

在无存储器访问的写掩码控制VSIZE型操作2217的指令模板中，β字段2254的其余部分被解释为向量长度字段2259B，其内容区分要执行多个数据向量长度中的哪一个(例如，128字节、256字节或512字节)。

在B类存储器访问2220的指令模板的情况下，β字段2254的部分被解释为广播字段2257B，其内容区分是否要执行广播型数据操纵操作，而β字段2254的其余部分被解释为向量长度字段2259B。存储器访问2220的指令模板包括比例字段2260，并可选地包括位移字段2262A或位移比例字段2262B。

针对通用向量友好指令格式2200，示出完整操作码字段2274包括格式字段2240、基础操作字段2242以及数据元素宽度字段2264。尽管示出了其中完整操作码字段2274包括所有这些字段的一个实施例，但是在不支持所有这些字段的实施例中，完整操作码字段2274包括少于所有这些字段的字段。完整操作码字段2274提供操作码(opcode)。

扩充操作字段2250、数据元素宽度字段2264以及写掩码字段2270允许以通用向量友好指令格式逐指令地指定这些特征。写掩码字段和数据元素宽度字段的组合创建类型化的指令，因为它们允许基于不同的数据元素宽度应用该掩码。

在A类和B类内出现的各种指令模板在不同的情形下是有益的。在本发明的一些实施例中，不同处理器或者处理器内的不同核可支持仅A类、仅B类或者可支持两类。举例而言，旨在用于通用计算的高性能通用无序核可仅支持B类，旨在主要用于图形和/或科学(吞吐量)计算的核可仅支持A类，并且旨在用于两者的核可支持两者(当然，具有来自两类的模板和指令的一些混合、但是并非来自两类的所有模板和指令的核在本发明的范围内)。同样，单一处理器可包括多个核，所有核支持相同的类，或者其中不同的核支持不同的类。举例而言，在具有单独的图形和通用核的处理器中，旨在主要用于图形和/或科学计算的图形核中的一个核可仅支持A类，而通用核中的一个或多个可以是具有旨在用于通用计算的、仅支持B类的无序执行和寄存器重命名的高性能通用核。不具有单独的图形核的另一处理器可包括既支持A类又支持B类的一个或多个通用有序或无序核。当然，在本发明的不同实施例中，来自一类的特征也可在其他类中实现。可使以高级语言撰写的程序成为(例如，恰被及时编译或静态编译)各种不同的可执行形式，包括：1)仅具有由用于执行的目标处理器支持的类的指令的形式；或者2)具有使用所有类的指令的不同组合而编写的替代例程且具有选择这些例程以基于由当前正在执行代码的处理器支持的指令而执行的控制流代码的形式。

图11是示出根据本发明的多个实施例的示例性专用向量友好指令格式的框图。图11示出专用向量友好指令格式2300，其指定位置、尺寸、解释和字段的次序以及那些字段中的一些字段的值，在这个意义上向量友好指令格式2300是专用的。专用向量友好指令格式2300可用于扩展x86指令集，并且由此这些字段中的一些与现有x86指令集及其扩展(例如，AVX)中使用的那些字段类似或相同。该格式保持与具有扩展的现有x86指令集的前缀编码字段、实操作码字节字段、MOD R/M字段、SIB字段、位移字段、以及立即数字段一致。示出来自图10的、将来自图11的字段映射到其的字段。

应当理解，虽然出于说明的目的，在通用向量友好指令格式2200的上下文中参考专用向量友好指令格式2300描述了本发明的多个实施例，但是本发明不限于专用向量友好指令格式2300，除非另有声明。例如，通用向量友好指令格式2200构想各种字段的各种可能的尺寸，而专用向量友好指令格式2300被示出为具有特定尺寸的字段。作为具体示例，尽管在专用向量友好指令格式2300中，数据元素宽度字段2264被示出为一位的字段，但是本发明不限于此(也就是说，通用向量友好指令格式2200构想数据元素宽度字段2264的其他尺寸)。

通用向量友好指令格式2200包括以下按照图11A中示出的顺序列出的下列字段。EVEX前缀(字节0-3)2302－以四字节形式进行编码。格式字段2240(EVEX字节0，位[7:0])－第一字节(EVEX字节0)是格式字段2240，并且它包含0x62(在本发明的一个实施例中用于区分向量友好指令格式的唯一值)。第二－第四字节(EVEX字节1-3)包括提供专用能力的多个位字段。

REX字段2305(EVEX字节1，位[7-5])－由EVEX.R位字段(EVEX字节1，位[7]–R)、EVEX.X位字段(EVEX字节1，位[6]–X)以及2257BEX字节1，位[5]–B)组成。EVEX.R、EVEX.X和EVEX.B位字段提供与对应VEX位字段相同的功能，并且使用1补码的形式进行编码，即ZMM0被编码为1111B，ZMM15被编码为0000B。这些指令的其他字段对如在本领域中已知的寄存器索引的较低三个位(rrr、xxx以及bbb)进行编码，由此可通过增加EVEX.R、EVEX.X以及EVEX.B来形成Rrrr、Xxxx以及Bbbb。

REX’字段2210－这是REX’字段2210的第一部分，并且是用于对扩展的32个寄存器集合的较高16个或较低16个寄存器进行编码的EVEX.R’位字段(EVEX字节1，位[4]–R’)。在本发明的一个实施例中，该位与以下指示的其他位一起以位反转的格式被存储以(在公知x86的32位模式下)与实操作码字节是62的BOUND指令进行区分，但是在MOD R/M字段(在下文中描述)中不接受MOD字段中的值11；本发明的替代实施例不以反转的格式存储该以下其他被指示的位。值1用于对较低16个寄存器进行编码。换句话说，通过组合EVEX.R’、EVEX.R和来自其他字段的其他RRR来形成R’Rrrr。

操作码映射字段2315(EVEX字节1，位[3:0]–mmmm)–其内容对隐含的前导操作码字节(0F、0F 38、或0F 3)进行编码。数据元素宽度字段2264(EVEX字节2，位[7]–W)－由记号EVEX.W表示。EVEX.W用于定义数据类型(32位数据元素或64位数据元素)的粒度(尺寸)。EVEX.vvvv2320(EVEX字节2，位[6:3]-vvvv)－EVEX.vvvv的作用可包括如下：1)以反转(1补码)形式被指定并且对具有2个或更多源操作数的指令有效VEX.vvvv对第一源寄存器操作数进行编码；2)针对某些向量偏移以1补码形式被指定的VEX.vvvv对目的地寄存器操作数进行编码；或者3)VEX.vvvv不对任何操作数进行编码，保留该字段，并且该字段应当包含1111b。由此，EVEX.vvvv字段2320对以反转(1补码)的形式存储的第一源寄存器指定符的4个低阶位进行编码。取决于该指令，附加的不同的EVEX位字段用于将指定符尺寸扩展到32个寄存器。EVEX.U 2268类字段(EVEX字节2，位[2]-U)－如果EVEX.U＝0，则它指示A类或EVEX.U0；如果EVEX.U＝1，则它指示B类或EVEX.U1。

前缀编码字段2325(EVEX字节2，位[1:0]-pp)－提供用于基础操作字段的附加位。除了对以EVEX前缀格式的传统SSE指令提供支持以外，这也具有压缩SIMD前缀的益处(EVEX前缀只需要2位，而不是需要字节来表达SIMD前缀)。在一个实施例中，为了支持使用以传统格式和以EVEX前缀格式两者的SIMD前缀(66H、F2H、F3H)的传统SSE指令，将这些传统SIMD前缀编码为SIMD前缀编码字段；在提供给解码器的PLA之前，在运行时可被扩展为传统SIMD前缀(因此，PLA可执行传统和EVEX格式的这些传统指令，而无需修改)。虽然较新的指令可将EVEX前缀编码字段的内容直接用作操作码扩展，但是为了一致性，某些实施例以类似的方式扩展，但允许由这些传统SIMD前缀指定不同的含义。替代实施例可重新设计PLA以支持2位SIMD前缀编码，并且因此不需要扩展。

α字段2252(EVEX字节3，位[7]–EH，也称为EVEX.EH、EVEX.rs、EVEX.RL、EVEX.写掩码控制以及EVEX.N；也以α示出)－如先前所述，该字段是针对上下文的。β字段2254(EVEX字节3，位[6:4]-SSS，也称为EVEX.s_2-0、EVEX.r_2-0、EVEX.rr1、EVEX.LL0、EVEX.LLB；也以βββ示出)－如先前所述，该字段是针对上下文的。

REX’字段2210－这是REX’字段的其余部分，并且是可用于对扩展的32个寄存器集合的较高16个或较低16个寄存器进行编码的EVEX.V’位字段(EVEX字节3，位[3]–V’)。该位以位反转的格式存储。值1用于对较低16个寄存器进行编码。换句话说，通过组合EVEX.V’、EVEX.vvvv来形成V’VVVV。

写掩码字段2270(EVEX字节3，位[2:0]-kkk)－其内容指定写掩码寄存器中的寄存器索引，如先前所述。在本发明的一个实施例中，特定值EVEX.kkk＝000具有暗示没有写掩码用于特定指令的特殊行为(这能以各种方式实现，包括使用硬连线到所有的写掩码或者绕过掩码硬件的硬件来实现)。

实操作码字段2330(字节4)也被称为操作码字节。在该字段中指定操作码的部分。MOD R/M字段2340(字节5)包括MOD字段2342、Reg字段2344以及R/M字段2346。如先前所述，MOD字段2342的内容在存储器访问和非存储器访问操作之间进行区分。Reg字段2344的作用可被归结为两种情形：对目的地寄存器操作数或源寄存器操作数进行编码；或者被视为操作码扩展且不用于对任何指令操作数进行编码。R/M字段2346的作用可包括如下：对引用存储器地址的指令操作数进行编码；或者对目的地寄存器操作数或源寄存器操作数进行编码。

比例、索引、基址(SIB)字节(字节6)－如先前所述，比例字段2250的内容用于存储器地址生成。SIB.xxx 2354和SIB.bbb 2356－先前已经针对寄存器索引Xxxx和Bbbb提及了这些字段的内容。位移字段2262A(字节7-10)－当MOD字段2342包含10时，字节7-10是位移字段2262A，并且它以与传统32位位移(disp32)相同的方式工作，以字节粒度工作。

位移因数字段2262B(字节7)－当MOD字段2342包含01时，字节7是位移因数字段2262B。该字段的位置与以字节粒度工作的传统x86指令集8位位移(disp8)的位置相同。由于disp8是符号扩展的，因此它仅能在-128和127字节偏移量之间寻址；在64字节高速缓存行的方面，disp8使用可被设为仅四个真正有用的值-128、-64、0和64的8位；由于常常需要更大的范围，所以使用disp32；然而，disp32需要4个字节。与disp8和disp32对比，位移因数字段2262B是对disp8的重新解释；当使用位移因数字段2262B时，通过将位移因数字段的内容乘以存储器操作数访问的尺寸(N)来确定实际位移。该类型的位移被称为disp8*N。这减小了平均指令长度(单个字节用于位移，但具有大得多的范围)。此类压缩位移基于有效位移是存储器访问的粒度的倍数的假设，并且由此，不需要对地址偏移量的冗余低阶位进行编码。换句话说，位移因数字段2262B替代传统x86指令集的8位位移。由此，以与x86指令集的8位位移相同的方式对位移因数字段2262B进行编码(因此，在ModRM/SIB编码规则中没有变化)，唯一的例外在于，将disp8超载至disp8*N。换句话说，编码规则或编码长度中不存在变化，而仅在通过硬件对位移值的解释中存在变化(这需要通过存储器操作数的尺寸按比例缩放位移量以获得字节式地址偏移量)。立即数字段2272按先前所述进行操作。

图11B是示出根据本发明的一个实施例的、专用向量友好指令格式2300中构成完整操作码字段2274字段的框图。具体而言，完整操作码字段2274包括格式字段2240、基础操作字段2242以及数据元素宽度(W)字段2264。基础操作字段2242包括前缀编码字段2325、操作码映射字段2315以及实操作码字段2330。

图11C是示出根据本发明的一个实施例的、专用向量友好指令格式2300中构成寄存器索引字段2244的字段的框图。具体而言，寄存器索引字段2244包括REX字段2305、REX’字段2310、MODR/M.reg字段2344、MODR/M.r/m字段2346、VVVV字段2320、xxx字段2354以及bbb字段2356。

图11D是示出根据本发明的一个实施例、专用向量友好指令格式2300中构成扩充操作字段2250的字段的框图。当类(U)字段2268包含0时，它表明EVEX.U0(A类2268A)；当它包含1时，它表明EVEX.U1(B类2268B)。当U＝0且MOD字段2342包含11(表明无存储器访问操作)时，á字段2252(EVEX字节3，位[7]–EH)被解释为rs字段2252A。当rs字段2252A包含1(舍入2252A.1)时，β字段2254(EVEX字节3，位[6:4]–SSS)被解释为舍入控制字段2254A。舍入控制字段2254A包括一位的SAE字段2256和两位的舍入操作字段2258。当rs字段2252A包含0(数据变换2252A.2)时，β字段2254(EVEX字节3，位[6:4]–SSS)被解释为三位的数据变换字段2254B。当U＝0且MOD字段2342包含00、01或10(表明存储器访问操作)时，α字段2252(EVEX字节3，位[7]–EH)被解释为驱逐提示(EH)字段2252B且β字段2254(EVEX字节3，位[6:4]–SSS)被解释为三位的数据操纵字段2254C。

当U＝1时，α字段2252(EVEX字节3，位[7]–EH)被解释为写掩码控制(Z)字段2252C。当U＝1且MOD字段2342包含11(表明无存储器访问操作)时，β字段2254的部分(EVEX字节3，位[4]–S₀)被解释为RL字段2257A；当它包含1(舍入2257A.1)时，β字段2254的其余部分(EVEX字节3，位[6-5]–S_2-1)被解释为舍入操作字段2259A，而当RL字段2257A包含0(VSIZE2257.A2)时，β字段2254的其余部分(EVEX字节3，位[6-5]-S_2-1)被解释为向量长度字段2259B(EVEX字节3，位[6-5]–L_1-0)。当U＝1且MOD字段2342包含00、01或10(表明存储器访问操作)时，β字段2254(EVEX字节3，位[6:4]–SSS)被解释为向量长度字段2259B(EVEX字节3，位[6-5]–L_1-0)和广播字段2257B(EVEX字节3，位[4]–B)。

图12是根据本发明的一个实施例的寄存器架构2400的框图。在所示出的实施例中，有32个512位宽的向量寄存器2410；这些寄存器被引用为zmm0到zmm31。较低的16个zmm寄存器的较低阶256个位覆盖在寄存器ymm0-16上。较低的16个zmm寄存器的较低阶128个位(ymm寄存器的较低阶128个位)覆盖在寄存器xmm0-15上。专用向量友好指令格式2300按下表所示，对这些覆盖的寄存器组进行操作。

换句话说，向量长度字段2259B在最大长度与一个或多个其他较短长度(其中，此类较短长度的长度是前一个长度的一半)之间进行选择；不具有向量长度字段2259B的指令模板对最大向量长度进行操作。此外，在一个实施例中，专用向量友好指令格式2300的B类指令模板对紧缩或标量单/双精度浮点数据以及紧缩或标量整数数据进行操作。标量操作是对zmm/ymm/xmm寄存器中的最低阶数据元素位置执行的操作；取决于本实施例，较高阶数据元素位置保持与在指令之前相同或者归零。

写掩码寄存器2415－在所示的实施例中，存在8个写掩码寄存器(k0至k7)，每一个写掩码寄存器的尺寸为64位。在替代实施例中，写掩码寄存器2415的尺寸为16位。如先前所述的，在本发明的一个实施例中，向量掩码寄存器k0不能用作写掩码；当正常指示k0的编码用作写掩码时，它选择硬连线的写掩码0xFFFF，从而有效地禁用该指令的写掩码操作。

通用寄存器2425——在所示出的实施例中，有十六个64位通用寄存器，这些寄存器结合现有的x86寻址模式，用于寻址存储器操作数。这些寄存器通过名称RAX、RBX、RCX、RDX、RBP、RSI、RDI、RSP以及R8到R15来引用。

标量浮点堆栈寄存器组(x87堆栈)2445，在其上面重叠了MMX紧缩整数平坦寄存器组2450——在所示出的实施例中，x87堆栈是用于使用x87指令集扩展来对32/64/80位浮点数据执行标量浮点操作的八元素堆栈；而将MMX寄存器用于64位紧缩整数数据执行操作，以及用于为在MMX和XMM寄存器之间执行的一些操作保存操作数。

本发明的替代实施例可以使用更宽的或更窄的寄存器。另外，本发明的替代实施例可使用更多、更少或不同的寄存器组和寄存器。

可在不同的处理器中，出于不同的目的，以不同的方式来实现处理器核。例如，此类核的实现可以包括：1)旨在用于通用计算的通用有序核；2)旨在用于通用计算的高性能通用无序核；3)旨在主要用于图形和/或科学(吞吐量)计算的专用核。不同处理器的实现可包括：1)CPU，其包括旨在用于通用计算的一个或多个通用有序核和/或旨在用于通用计算的一个或多个通用无序核；以及2)协处理器，其包括旨在主要用于图形和/或科学(吞吐量)的一个或多个专用核。这样的不同处理器导致不同的计算机系统架构，其可包括：1)在与CPU分开的芯片上的协处理器；2)在与CPU相同的封装中但分开的管芯上的协处理器；3)与CPU在相同管芯上的协处理器(在该情况下，有时将此类协处理器称为专用逻辑(例如，集成图形和/或科学(吞吐量)逻辑)或专用核；以及4)芯片上系统，其可将所描述的CPU(有时被称为应用核或应用处理器)、以上描述的协处理器和附加功能包括在同一管芯上。接着描述示例性核架构，随后描述示例性处理器和计算机架构。

图13A是示出根据本发明的多个实施例的示例性有序流水线和示例性的寄存器重命名的无序发布/执行流水线的框图。图13B是示出根据本发明的多个实施例的要包括在处理器中的有序架构核的示例性实施例和示例性的寄存器重命名的无序发布/执行架构核的框图。实线框示出了有序流水线和有序核，而可选增加的虚线框示出了寄存器重命名的、无序发布/执行流水线和核。考虑到有序方面是无序方面的子集，将描述无序方面。

在图13A中，处理器流水线2500包括取出级2502、长度解码级2504、解码级2506、分配级2508、重命名级2510、调度(也被称为分派或发布)级2512、寄存器读取/存储器读取级2514、执行级2516、写回/存储器写入级2518、异常处理级2522和提交级2524。

图13B示出处理器核2590，其包括耦合到执行引擎单元2550的前端单元2530，且执行引擎单元和前端单元两者都耦合到存储器单元2570。核2590可以是精简指令集计算(RISC)核、复杂指令集计算(CISC)核、超长指令字(VLIW)核或混合或替代核类型。作为又一选项，核2590可以是专用核，诸如例如，网络或通信核、压缩引擎、协处理器核、通用计算图形处理单元(GPGPU)核、图形核等。

前端单元2530包括耦合到指令高速缓存单元2534的分支预测单元2532，该指令高速缓存单元耦合到指令转换后备缓冲器(TLB)2536，该指令转换后备缓冲器耦合到指令取出单元2538，指令取出单元耦合到解码单元2540。解码单元2540(或解码器)可解码指令，并生成从原始指令解码出的、或以其他方式反映原始指令的、或从原始指令导出的一个或多个微操作、微代码进入点、微指令、其他指令或其他控制信号作为输出。解码单元2540可使用各种不同的机制来实现。合适的机制的示例包括但不限于，查找表、硬件实现、可编程逻辑阵列(PLA)、微代码只读存储器(ROM)等。在一个实施例中，核2590包括(例如，在解码单元2540中或以其他方式在前端单元2530中)存储针对某些宏指令的微代码的微代码ROM或其他介质。解码单元2540耦合至执行引擎单元2550中的重命名/分配器单元2552。

执行引擎单元2550包括耦合到引退单元2554和一个或多个调度器单元的集合2556的重命名/分配器单元2552。调度器单元2556表示任意数量的不同调度器，包括预留站、中央指令窗等。调度器单元2556耦合到物理寄存器组单元2558。物理寄存器组单元2558中的每一个表示一个或多个物理寄存器组，其中不同的物理寄存器组存储一个或多个不同的数据类型，例如，标量整数、标量浮点、紧缩整数、紧缩浮点、向量整数、向量浮点，状态(例如，作为要被执行的下一条指令的地址的指令指针)等。

在一个实施例中，物理寄存器组单元2558包括向量寄存器单元、写掩码寄存器单元和标量寄存器单元。这些寄存器单元可以提供架构向量寄存器、向量掩码寄存器、和通用寄存器。物理寄存器组单元2558被引退单元2554覆盖，以示出可实现寄存器重命名和无序执行的各种方式(例如，使用重排序缓冲器和引退寄存器组；使用未来文件(future file)、历史缓冲器、引退寄存器组；使用寄存器映射和寄存器池等)。引退单元2554和物理寄存器组单元2558耦合至执行群集2560。

执行群集2560包括一个或多个执行单元的集合2562以及一个或多个存储器访问单元的集合2564。执行单元2562可执行多种操作(例如，移位、加法、减法、乘法)，并且可对多种数据类型(例如，标量浮点、紧缩整数、紧缩浮点、向量整数、向量浮点)执行操作。尽管一些实施例可以包括专用于特定功能或功能集的多个执行单元，但其他实施例可包括全部执行所有功能的仅一个执行单元或多个执行单元。

调度器单元2556、物理寄存器组单元2558和执行群集2560被示为可能有多个，因为某些实施例为某些类型的数据/操作创建分开的流水线(例如，标量整数流水线、标量浮点/紧缩整数/紧缩浮点/向量整数/向量浮点流水线和/或各自具有其自身的调度器单元、物理寄存器组单元和/或执行群集的存储器访问流水线——以及在分开的存储器访问流水线的情况下，实现其中仅该流水线的执行群集具有存储器访问单元2564的某些实施例)。还应当理解，在使用分开的流水线的情况下，这些流水线中的一个或多个可以是无序发布/执行的，并且其余流水线可以是有序发布/执行的。

存储器访问单元的集合2564耦合到存储器单元2570，该存储器单元包括耦合到数据高速缓存单元2574的数据TLB单元2572，其中，数据高速缓存单元耦合到第二级(L2)高速缓存单元2576。在一个示例性实施例中，存储器访问单元2564可包括加载单元、存储地址单元和存储数据单元，其中的每一个均耦合至存储器单元2570中的数据TLB单元2572。指令高速缓存单元2534还耦合到存储器单元2570中的第二级(L2)高速缓存单元2576。L2高速缓存单元2576耦合至一个或多个其他层级的高速缓存，并最终耦合至主存储器。

作为示例，示例性的寄存器重命名的、无序发布/执行核架构可按如下方式实现流水线2500：1)指令取出2538执行取出和长度解码级2502和2504；2)解码单元2540执行解码级2506；3)重命名/分配器单元2552执行分配级2508和重命名级2510；4)调度器单元2556执行调度级2512；5)物理寄存器组单元2558和存储器单元2570执行寄存器读取/存储器读取级2514；执行群集2560执行执行级2516；6)存储器单元2570和物理寄存器组单元2558执行写回/存储器写入级2518；7)各单元可牵涉到异常处理级2522；以及8)引退单元2554和物理寄存器组单元2558执行提交级2524。

核2590可支持一个或多个指令集(例如，x86指令集(在更新的版本中加入了一些扩展)；加利福尼亚州桑尼维尔市的MIPS技术公司的MIPS指令集；加利福尼州桑尼维尔市的ARM控股公司的ARM指令集(具有诸如NEON之类的可选附加扩展))，其中包括本文中描述的各指令。在一个实施例中，核2590包括用于支持紧缩数据指令集扩展(例如，AVX1、AVX2和/或先前描述的一些形式的一般向量友好指令格式(U＝0和/或U＝1))的逻辑，从而允许由许多多媒体应用使用的操作能够使用紧缩数据来执行。

应当理解，核可支持多线程操作(执行两个或更多个并行的操作或线程的集合)，并且可以按各种方式来完成该多线程操作，各种方式包括时分多线程操作、同步多线程操作(其中，单个物理核为物理核正在同步进行多线程操作的多个线程中的每一个线程提供逻辑核)或其组合(例如，时分取出和解码以及此后诸如利用超线程技术的同步多线程操作)。

尽管在无序执行的情境中描述了寄存器重命名，但应当理解，可在有序架构中使用寄存器重命名。尽管所示出的处理器的多实施例也包括分开的指令和数据高速缓存单元2534/2574以及共享L2高速缓存单元2576，但替代实施例可具有用于指令和数据两者的单个内部高速缓存，诸如例如，第一级(L1)内部高速缓存或多个层级的内部高速缓存。在一些实施例中，该系统可包括内部高速缓存和在核和/或处理器外部的外部的高速缓存的组合。或者，所有高速缓存都可在核和/或处理器的外部。

图14A和图14B示出更具体的示例性有序核架构的框图，该核将是芯片中的若干逻辑块之一(包括相同类型和/或不同类型的其他核)。取决于应用，这些逻辑块通过高带宽的互连网络(例如，环形网络)与某个固定的功能逻辑、存储器I/O接口和其他必要的I/O逻辑通信。

图14A是根据本发明的多个实施例的单个处理器核以及它与管芯上互连网络2602的连接及其第二级(L2)高速缓存的本地子集2604的框图。在一个实施例中，指令解码器2600支持具有紧缩数据指令集扩展的x86指令集。L1高速缓存2606允许对进入标量和向量单元中的高速缓存存储器的低等待时间访问。尽管在一个实施例中(为了简化设计)，标量单元2608和向量单元2610使用分开的寄存器集合(分别为标量寄存器2612和向量寄存器2614)，并且在这些寄存器之间转移的数据被写入到存储器，并随后从第一级(L1)高速缓存2606读回，但是本发明的替代实施例可使用不同的方法(例如，使用单个寄存器集合或包括允许数据在这两个寄存器组之间传输而无需被写入和读回的通信路径)。

L2高速缓存的本地子集2604是全局L2高速缓存的部分，该全局L2高速缓存被划分成多个分开的本地子集，针对每一个处理器核由有一个本地子集。每个处理器核具有去往其自身的L2高速缓存2604的本地子集的直接访问路径。将由处理器核读取的数据存储在其L2高速缓存子集2604中，并且可以与其他处理器核访问其自身的本地L2高速缓存子集一起，并行地快速访问这些数据。将由处理器核写入的数据存储在其自身的L2高速缓存子集2604中，并在必要的情况下从其他子集中转储清除这些数据。环形网络确保共享数据的一致性。环形网络是双向的，以允许诸如处理器核、L2高速缓存和其他逻辑块之类的代理在芯片内彼此通信。每个环形数据路径为每个方向1012位宽。

图14B是根据本发明的多个实施例的、图14A中的处理器核的部分的展开图。图14B包括L1高速缓存2604的L1数据高速缓存2606A部分，以及关于向量单元2610和向量寄存器2614的更多细节。具体而言，向量单元2610是16宽向量处理单元(VPU)(见16宽ALU 2628)，该单元执行整数、单精度浮点以及双精度浮点指令中的一个或多个。该VPU利用混合单元2620支持对寄存器输入的混合，利用数值转换单元2622A-B支持数值转换，并且利用复制单元2624支持对存储器输入的复制。写掩码寄存器2626允许预测所得的向量写入。

图15是根据本发明的多个实施例的、可能具有多于一个的核、可能具有集成存储器控制器、并且可能具有集成图形器件的处理器2700的框图。图13中的实线框示出具有单个核2702A、系统代理2710、一个或多个总线控制器单元的集合2716的处理器2700，而虚线框的可选附加示出具有多个核2702A-N、系统代理单元2710中的一个或多个集成存储器控制器单元的结合2714以及专用逻辑2708的替代处理器2700。

因此，处理器2700的不同实现可包括：1)CPU，其中专用逻辑2708是集成图形和/或科学(吞吐量)逻辑(其可包括一个或多个核)，并且核2702A-N是一个或多个通用核(例如，通用有序核、通用无序核、这两者的组合)；2)协处理器，其中核2702A-N是旨在主要用于图形和/或科学(吞吐量)的大量专用核；以及3)协处理器，其中核2702A-N是大量通用有序核。因此，处理器2700可以是通用处理器、协处理器或专用处理器，该专用处理器诸如例如，网络或通信处理器、压缩引擎、图形处理器、GPGPU(通用图形处理单元)、高吞吐量的集成众核(MIC)协处理器(包括30个或更多核)、嵌入式处理器等。该处理器可以被实现在一个或多个芯片上。处理器2700可以是一个或多个基板的一部分，并且/或者可使用多种工艺技术(诸如，BiCMOS、CMOS、或NMOS)中的任意技术被实现在一个或多个基板上。

存储器层次结构包括核内的一个或多个层级的高速缓存、一组或一个或多个共享高速缓存单元2706以及耦合至集成存储器控制器单元的集合2714的外部存储器(未示出)。共享高速缓存单元的集合2706可包括一个或多个中级高速缓存，诸如，第二级(L2)、第三级(L3)、第四级(L4)或其他层级的高速缓存、末级高速缓存(LLC)和/或以上的组合。尽管在一个实施例中，基于环的互连单元2712将集成图形逻辑2708、共享高速缓存单元的集合2706以及系统代理单元2710/集成存储器控制器单元2714互连，但替代实施例可使用任何数量的公知技术来将此类单元互连。在一个实施例中，可维护一个或多个高速缓存单元2706和核2702A-N之间的一致性(coherency)。

在一些实施例中，一个或多个核2702A-N能够进行多线程操作。系统代理2710包括协调并操作核2702A-N的那些组件。系统代理单元2710可包括例如功率控制单元(PCU)和显示单元。PCU可以是或可包括调节核2702A-N和集成图形逻辑2708的功率状态所需的逻辑和组件。显示单元用于驱动一个或多个外部连接的显示器。

核2702A-N在架构指令集方面可以是同构的或异构的；也就是说，这些核2702A-N中的两个或更多个核可能能够执行相同的指令集，而其他核可能能够执行该指令集的仅仅子集或不同的指令集。

图16到图20是示例性计算机架构的框图。本领域已知的对膝上型计算机、台式机、手持PC、个人数字助理、工程工作站、服务器、网络设备、网络集线器、交换机、嵌入式处理器、数字信号处理器(DSP)、图形设备、视频游戏设备、机顶盒、微控制器、蜂窝电话、便携式媒体播放器、手持设备以及各种其他电子设备的其他系统设计和配置也是合适的。一般地，能够包含本文中所公开的处理器和/或其他执行逻辑的多个系统和电子设备通常都是合适的。

现在参考图16，所示出的是根据本发明一个实施例的系统2800的框图。系统2800可包括一个或多个处理器2810、2815，这些处理器耦合到控制器中枢2820。在一个实施例中，控制器中枢2820包括图形存储器控制器中枢(GMCH)2890和输入/输出中枢(IOH)2850(其可在分开的芯片上)；GMCH 2890包括存储器和图形控制器，存储器2840和协处理器2845耦合到该存储器和图形控制器；IOH 2850将输入/输出(I/O)设备2860耦合到GMCH 2890。或者，存储器和图形控制器中的一个或两者可以被集成在处理器内(如本文中所描述的)，存储器2840和协处理器2845直接耦合到处理器2810以及控制器中枢2820，控制器中枢2820与IOH 2850处于单个芯片中。

附加的处理器2815的可选性质在图16中通过虚线来表示。每个处理器2810、2815可包括本文中描述的处理核中的一个或多个，并且可以是处理器2700的某一版本。

存储器2840可以是例如动态随机存取存储器(DRAM)、相变存储器(PCM)或这两者的组合。对于至少一个实施例，控制器中枢2820经由诸如前端总线(FSB)之类的多分支总线、诸如快速通道互连(QPI)之类的点对点接口、或者类似的连接2895与处理器2810、2815进行通信。

在一个实施例中，协处理器2845是专用处理器，诸如例如，高吞吐量MIC处理器、网络或通信处理器、压缩引擎、图形处理器、GPGPU、嵌入式处理器等。在一个实施例中，控制器中枢2820可以包括集成图形加速器。

在物理资源2810、2815之间可存在包括架构、微架构、热和功耗特征等的一系列品质度量方面的各种差异。

在一个实施例中，处理器2810执行控制一般类型的数据处理操作的指令。协处理器指令可嵌入在这些指令中。处理器2810将这些协处理器指令识别为应当由附连的协处理器2845执行的类型。因此，处理器2810在协处理器总线或者其他互连上将这些协处理器指令(或者表示协处理器指令的控制信号)发布到协处理器2845。协处理器2845接受并执行所接收的协处理器指令。

现在参考图17，所示为根据本发明的实施例的更具体的第一示例性系统2900的框图。如图17所示，多处理器系统2900是点对点互连系统，并且包括经由点对点互连2950耦合的第一处理器2970和第二处理器2980。处理器2970和2980中的每一个都可以是处理器2700的某一版本。在本发明的一个实施例中，处理器2970和2980分别是处理器2810和2815，而协处理器2938是协处理器2945。在另一实施例中，处理器2970和2980分别是处理器2810和协处理器2845。

处理器2970和2980被示出为分别包括集成存储器控制器(IMC)单元2972和2982。处理器2970也包括作为其总线控制器单元的部分的点对点(P-P)接口2976和2978；类似地，第二处理器2980包括P-P接口2986和2988。处理器2970、2980可以经由使用点对点(P-P)接口电路2978、2988的P-P接口2950来交换信息。如图17所示，IMC 2972和2982将处理器耦合到各自的存储器，即存储器2932和存储器2934，这些存储器可以是本地附连到各自处理器的主存储器的部分。

处理器2970、2980可各自经由使用点对点接口电路2976、2994、2986、2998的各个P-P接口2952、2954与芯片组2990交换信息。芯片组2990可以可选地经由高性能接口2939与协处理器2938交换信息。在一个实施例中，协处理器2938是专用处理器，诸如例如，高吞吐量MIC处理器、网络或通信处理器、压缩引擎、图形处理器、GPGPU、嵌入式处理器等。

可将共享高速缓存(未示出)包括在任一处理器中，或包括在两个处理器的外部但经由P-P互连与这些处理器连接，使得如果将处理器置于低功率模式，则可将这两个处理器中的任意一个或两个的本地高速缓存信息存储在该共享的高速缓存中。芯片组2990可以经由接口2996耦合至第一总线2916。在一个实施例中，第一总线2916可以是外围组件互连(PCI)总线或诸如PCI高速总线或另一第三代I/O互连总线之类的总线，但是本发明的范围不限于此。

如图17所示，各种I/O设备2914可连同总线桥2918一起耦合到第一总线2916，总线桥2918将第一总线2916耦合到第二总线2920。在一个实施例中，诸如协处理器、高吞吐量MIC处理器、GPGPU的处理器、加速器(诸如例如，图形加速器或数字信号处理(DSP)单元)、现场可编程门阵列或任何其他处理器之类的一个或多个附加处理器2915耦合到第一总线2916。在一个实施例中，第二总线2920可以是低引脚计数(LPC)总线。各种设备可以被耦合至第二总线2920，在一个实施例中，这些设备包括例如，键盘/鼠标2922、通信设备2927以及诸如可包括指令/代码和数据2930的盘驱动器或其他大容量存储设备之类的存储单元2928。此外，音频I/O2924可以被耦合至第二总线2920。注意，其他架构是可能的。例如，代替图17中的点对点架构，系统可以实现多分支总线或其他此类架构。

现在参考图18，所示为根据本发明的实施例的更具体的第二示例性系统3000的框图。图18和图19中的类似元件使用类似附图标记，且在图17中省略了图18的某些方面以避免使图18的其他方面模糊。图18示出处理器2970、2980可分别包括集成存储器和I/O控制逻辑(”CL”)2972和2982。因此，CL 2972、2982包括集成存储器控制器单元并包括I/O控制逻辑。图16示出不仅存储器2932、2934耦合至CL 2972、2982，而且I/O设备3014也耦合至控制逻辑2972、2982。传统I/O设备3015被耦合至芯片组2990。

现在参考图19，所示出的是根据本发明的实施例的SoC 3100的框图。图15中的相似组件具有相同的标号。另外，虚线框是更先进的SoC上的可选特征。在图19中，互连单元3102被耦合至：应用处理器3110，其包括一个或多个核的集合202A-N以及共享高速缓存单元2706；系统代理单元2710；总线控制器单元2716；集成存储器控制器单元2714；一组或一个或多个协处理器3120，其可包括集成图形逻辑、图像处理器、音频处理器和视频处理器；静态随机存取存储器(SRAM)单元3130；直接存储器存取(DMA)单元3132；显示单元3140，其以及用于耦合至一个或多个外部显示器。在一个实施例中，协处理器3120包括专用处理器，诸如例如，网络或通信处理器、压缩引擎、GPGPU、高吞吐量MIC处理器、嵌入式处理器等。

本文公开的机制的各实施例可以被实现在硬件、软件、固件或此类实现方式的组合中。可将本发明的多个实施例实现为在可编程系统上执行的计算机程序或程序代码，该可编程系统包括至少一个处理器、存储系统(包括易失性和非易失性存储器和/或存储元件)、至少一个输入设备以及至少一个输出设备。

可将程序代码(诸如图17中示出的代码2930)应用于输入指令，以执行本文描述的多个功能并生成输出信息。可以按已知方式将输出信息应用于一个或多个输出设备。为了本申请的目的，处理系统包括具有诸如例如数字信号处理器(DSP)、微控制器、专用集成电路(ASIC)或微处理器之类的处理器的任何系统。

程序代码可以用高级程序化语言或面向对象的编程语言来实现，以便与处理系统通信。在需要时，也可用汇编语言或机器语言来实现程序代码。事实上，本文中描述的机制不限于任何特定编程语言的范围。在任何情况下，该语言可以是编译语言或解释语言。

至少一个实施例的一个或多个方面可由存储在表示处理器中的各种逻辑的机器可读介质上的表示性指令来实现，当由机器读取这些表示性指令时，这些指令使该机器制作用于执行本文所述的技术的逻辑。可将被称为“IP核”的此类表示存储在有形的机器可读介质上，并将其提供给各种客户或生产设施，以便加载到实际制造该逻辑或处理器的制造机器中。

此类机器可读存储介质可以包括但不限于通过机器或设备制造或形成的物品的非瞬态的有形安排，其包括存储介质，诸如：硬盘；任何其他类型的盘，包括软盘、光盘、紧致盘只读存储器(CD-ROM)、紧致盘可重写(CD-RW)以及磁光盘；半导体器件，例如只读存储器(ROM)、诸如动态随机存取存储器(DRAM)和静态随机存取存储器(SRAM)之类的随机存取存储器(RAM)、可擦除可编程只读存储器(EPROM)、闪存、电可擦除可编程只读存储器(EEPROM)；相变存储器(PCM)；磁卡或光卡；或适于存储电子指令的任何其他类型的介质。

相应地，本发明的多个实施例也包括非瞬态的有形机器可读介质，该介质包含指令或包含定义本文中描述的结构、电路、装置、处理器和/或系统特征的设计数据(例如，硬件描述语言(HDL))。也将此类实施例称为程序产品。

在一些情况下，指令转换器可用来将指令从源指令集转换至目标指令集。例如，指令转换器可变换(例如，使用静态二进制变换、包括动态编译的动态二进制变换)、变形、仿真指令或以其他方式将指令转换成将由核来处理的一条或多条其他指令。可在软件、硬件、固件或其组合中实现该指令转换器。指令转换器可在处理器上、在处理器外、或者部分在处理器上且部分在处理器外。

图20是根据本发明的多个实施例的对照使用软件指令转换器将源指令集中的二进制指令转换成目标指令集中的二进制指令的框图。在所示的实施例中，指令转换器是软件指令转换器，但也可替代地在软件、固件、硬件或其各种组合中实现该指令转换器。图20示出可使用x86编译器3204来编译利用高级语言3202的程序，以生成可由具有至少一个x86指令集核的处理器3216原生地执行的x86二进制代码3206。具有至少一个x86指令集核的处理器3216表示能通过兼容地执行或以其他方式处理以下内容来执行与具有至少一个x86指令集核的英特尔处理器基本相同功能的任何处理器：1)英特尔x86指令集核的指令集的本质部分，或2)目标为在具有至少一个x86指令集核的英特尔处理器上运行以取得与具有至少一个x86指令集核的英特尔处理器基本相同的结果的应用或其他软件的目标代码版本。x86编译器3204表示用于生成x86二进制代码3206(例如，目标代码)的编译器，该二进制代码可通过或不通过附加的链接处理在具有至少一个x86指令集核的处理器3216上被执行。类似地，图20示出可使用替代的指令集编译器3208来编译利用高级语言3202的程序，以生成可以由不具有至少一个x86指令集核的处理器3214(例如，具有执行加利福尼亚州桑尼维尔市的MIPS技术公司的MIPS指令集和/或执行加利福尼亚州桑尼维尔市的ARM控股公司的ARM指令集的核的处理器)原生地执行的替代指令集二进制代码3210。指令转换器3212被用来将x86二进制代码3206转换成可以由不具有x86指令集核的处理器3214原生地执行的代码。该被转换的代码不大可能与替代的指令集二进制代码3210相同，因为能够这样做的指令转换器难以制造；然而，被转换的代码将完成一般操作，并且由来自替代指令集中的指令构成。因此，指令转换器3212通过仿真、模拟或任何其他过程来表示允许不具有x86指令集处理器或核的处理器或其他电子设备执行x86二进制代码3206的软件、固件、硬件或其组合。

根据一个实施例，处理器包括执行流水线，其用于执行多个线程，包括第一线程和第二线程。该处理器进一步包括多线程控制器(MTC)，其耦合至执行流水线，该多线程控制器用于：基于线程切换策略，确定是否在第一线程和第二线程之间切换线程，该线程切换策略是从基于第一线程和第二线程的不公平等级的多个线程切换策略的列表中选出的；以及响应于确定切换线程，从执行第一线程切换到执行第二线程。根据一个实施例，不公平等级是基于分别与第一线程和第二线程相关联的第一计数器和第二计数器而被确定的。在一个实施例中，第一计数器包括第一线程被拒绝访问所述执行流水线的循环的数目，第二计数器包括第二线程被拒绝访问所述执行流水线的循环的数目。在一个实施例中，针对第一线程被拒绝访问执行流水线的每一个循环，使第一计数器递增第一预定值，针对第二线程被拒绝访问执行流水线的每一个循环，使第二计数器递增第二预定值。根据一个实施例，当第一线程被允许访问所述执行流水线的循环数目匹配第三预定阈值时，使第一计数器递减，当第二线程被允许访问执行流水线的循环数目匹配第四预定阈值时，使第二计数器递减。在一个实施例中，在第一线程和第二线程之间的切换是分别基于第一线程和第二线程的优先级等级和执行状态而确定的。在一个实施例中，线程的优先级是经由从与线程相关联的软件程序发布的指令而被设置的。

已在对计算机存储器中的数据位的算法和符号表示方面呈现了前述具体实施方式的一些部分。这些算法描述及表示是由数据处理领域的技术人员用于向本领域的其他技术人员最有效地传达其工作实质的方式。算法在此一般被理解为导致所需结果的自洽的操作序列。这些操作是需要对物理量进行物理操控的操作。

然而，应当记住，所有这些和/或类似的术语用于与适当的物理量关联，并且仅仅是应用于这些量的方便的标记。除非特别声明，否则根据上述讨论显而易见的是，会理解在本说明书的通篇中，利用诸如所附权利要求中陈述的那些术语之类的术语的讨论是指计算机系统或类似电子计算设备的动作和过程，该计算机系统或类似的电子计算设备操纵被表示为计算机系统的寄存器和存储器中的物理(电子)量的数据，并将这些数据变换为类似地被表示为计算机系统存储器或寄存器或其他此类信息存储、传输或显示设备中的物理量的其他数据。

可使用存储在一个或多个电子设备并且在一个或多个电子设备上执行的代码和数据来实现图中所示的多种技术。此类电子设备使用计算机可读介质存储并传递(内部地和/或在网络上与其他电子设备进行)代码和数据，计算机可读介质例如，非瞬态计算机可读取的存储介质(例如，磁盘；光盘；随机存取存储器；只读存储器；闪存设备；相变存储器)和瞬态计算机可读传输介质(例如，电、光、声或其他形式的传播的信号——诸如载波，红外信号、数字信号等)。

前述附图中所描绘的过程或方法可通过包括硬件(例如，电路、专用逻辑等)、固件、软件(例如，被具体化在非瞬态计算机可读介质上的软件)或两者的组合的处理逻辑来执行。虽然上文按照一些顺序操作描述了过程或方法，但是，应当理解，能以不同的顺序来执行所描述的操作中的一些。此外，可并行地而非顺序地执行一些操作。

在前述的说明书中，已本发明的特定示例性实施例描述了本发明的多个实施例。显然，可对这些实施例作出各种修改，而不背离所附权利要求所陈述的本发明的更广泛的精神和范围。相应地，应当将说明书和附图应认为是说明性的而不是限制性的。

Claims (23)

1.一种处理器，包括：

执行流水线，用于执行多个线程，所述多个线程包括第一线程和第二线程；

多线程控制器MTC，耦合至所述执行流水线，所述多线程控制器用于：基于线程切换策略，确定是否在所述第一线程和所述第二线程之间切换线程，所述线程切换策略是从基于所述第一线程和所述第二线程的不公平等级的多个线程切换策略的列表中选出的；以及响应于确定切换线程，从执行所述第一线程切换到执行所述第二线程，其中，所述线程切换策略在滑动尺上，使得在所述滑动尺的中间区域中实现了所述第一线程与所述第二线程之间的公平，并且在所述滑动尺的每一端上，相应的线程切换策略被移向为受害者线程提供最大公平。

2.如权利要求1所述的处理器，其特征在于，所述不公平等级是基于分别与所述第一线程和所述第二线程相关联的第一计数器和第二计数器而被确定的。

3.如权利要求2所述的处理器，其特征在于，所述第一计数器包括所述第一线程被拒绝访问所述执行流水线的循环的数目，并且所述第二计数器包括所述第二线程被拒绝访问所述执行流水线的循环的数目。

4.如权利要求2所述的处理器，其特征在于，针对所述第一线程被拒绝访问所述执行流水线的每一个循环，使所述第一计数器递增第一预定值，并且针对所述第二线程被拒绝访问所述执行流水线的每一个循环，使所述第二计数器递增第二预定值。

5.如权利要求2所述的处理器，其特征在于，当所述第一线程被允许访问所述执行流水线的循环数目匹配第三预定阈值时，使所述第一计数器递减，并且当所述第二线程被允许访问所述执行流水线的循环数目匹配第四预定阈值时，使所述第二计数器递减。

6.如权利要求1所述的处理器，其特征在于，在所述第一线程和所述第二线程之间的切换是分别基于所述第一线程和所述第二线程的优先级等级和执行状态而确定的。

7.如权利要求6所述的处理器，其特征在于，线程的优先级是经由从与所述线程相关联的软件程序发布的指令而被设置的。

8.一种方法，包括：

执行多个线程，所述多个线程包括第一线程和第二线程；

基于线程切换策略，确定是否在所述第一线程和所述第二线程之间切换线程，所述线程切换策略是从基于所述第一线程和所述第二线程的不公平等级的多个线程切换策略的列表中选出的，其中，所述线程切换策略在滑动尺上，使得在所述滑动尺的中间区域中实现了所述第一线程与所述第二线程之间的公平，并且在所述滑动尺的每一端上，相应的线程切换策略被移向为受害者线程提供最大公平；以及

响应于确定切换线程，从执行所述第一线程切换到执行所述第二线程。

9.如权利要求8所述的方法，其特征在于，所述不公平等级是基于分别与所述第一线程和所述第二线程相关联的第一计数器和第二计数器而被确定的。

10.如权利要求9所述的方法，其特征在于，所述第一计数器包括所述第一线程被拒绝访问所述执行流水线的循环的数目，并且所述第二计数器包括所述第二线程被拒绝访问所述执行流水线的循环的数目。

11.如权利要求9所述的方法，其特征在于，针对所述第一线程被拒绝访问所述执行流水线的每一个循环，使所述第一计数器递增第一预定值，并且针对所述第二线程被拒绝访问所述执行流水线的每一个循环，使所述第二计数器递增第二预定值。

12.如权利要求9所述的方法，其特征在于，当所述第一线程被允许访问所述执行流水线的循环数目匹配第三预定阈值时，使所述第一计数器递减，并且当所述第二线程被允许访问所述执行流水线的循环数目匹配第四预定阈值时，使所述第二计数器递减。

13.如权利要求8所述的方法，其特征在于，在所述第一线程和所述第二线程之间的切换是分别基于所述第一线程和所述第二线程的优先级等级和执行状态而确定的。

14.如权利要求13所述的方法，其特征在于，线程的优先级是经由从与所述线程相关联的软件程序发布的指令而被设置的。

15.一种系统，包括：

互连；

动态随机存取存储器DRAM，耦合至所述互连；

处理器，耦合至所述互连，所述处理器包括：

执行流水线，用于执行多个线程，所述多个线程包括第一线程和第二线程；

多线程控制器MTC，耦合至所述执行流水线，所述多线程控制器用于：基于线程切换策略，确定是否在所述第一线程和所述第二线程之间切换线程，所述线程切换策略是从基于所述第一线程和所述第二线程的不公平等级的多个线程切换策略的列表中选出的；以及响应于确定切换线程，从执行所述第一线程切换到执行所述第二线程，其中，所述线程切换策略在滑动尺上，使得在所述滑动尺的中间区域中实现了所述第一线程与所述第二线程之间的公平，并且在所述滑动尺的每一端上，相应的线程切换策略被移向为受害者线程提供最大公平。

16.如权利要求15所述的系统，其特征在于，所述不公平等级是基于分别与所述第一线程和所述第二线程相关联的第一计数器和第二计数器而被确定的。

17.如权利要求16所述的系统，其特征在于，所述第一计数器包括所述第一线程被拒绝访问所述执行流水线的循环的数目，并且所述第二计数器包括所述第二线程被拒绝访问所述执行流水线的循环的数目。

18.如权利要求16所述的系统，其特征在于，针对所述第一线程被拒绝访问所述执行流水线的每一个循环，使所述第一计数器递增第一预定值，并且针对所述第二线程被拒绝访问所述执行流水线的每一个循环，使所述第二计数器递增第二预定值。

19.如权利要求16所述的系统，其特征在于，当所述第一线程被允许访问所述执行流水线的循环数目匹配第三预定阈值时，使所述第一计数器递减，并且当所述第二线程被允许访问所述执行流水线的循环数目匹配第四预定阈值时，使所述第二计数器递减。

20.如权利要求15所述的系统，其特征在于，在所述第一线程和所述第二线程之间的切换是分别基于所述第一线程和所述第二线程的优先级等级和执行状态而确定的。

21.如权利要求20所述的系统，其特征在于，线程的优先级是经由从与所述线程相关联的软件程序发布的指令而被设置的。

22.一种设备，包括用于执行权利要求8-14中任意一项所述的方法的装置。

23.一种机器可读介质，包括存储在所述机器可读介质上的多条指令，所述多条指令当被执行时使计算设备执行如权利要求8-14中任一项所述的方法。