CN104813277A - 用于处理器的功率效率的向量掩码驱动时钟门控 - Google Patents
用于处理器的功率效率的向量掩码驱动时钟门控 Download PDFInfo
- Publication number
- CN104813277A CN104813277A CN201280077162.4A CN201280077162A CN104813277A CN 104813277 A CN104813277 A CN 104813277A CN 201280077162 A CN201280077162 A CN 201280077162A CN 104813277 A CN104813277 A CN 104813277A
- Authority
- CN
- China
- Prior art keywords
- instruction
- data element
- processor
- field
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 239000013598 vector Substances 0.000 title claims abstract description 130
- 238000000034 method Methods 0.000 claims abstract description 56
- 230000008569 process Effects 0.000 claims abstract description 35
- 238000012545 processing Methods 0.000 claims abstract description 28
- 244000045947 parasite Species 0.000 claims description 19
- 238000003860 storage Methods 0.000 abstract description 23
- VOXZDWNPVJITMN-ZBRFXRBCSA-N 17β-estradiol Chemical compound OC1=CC=C2[C@H]3CC[C@](C)([C@H](CC4)O)[C@@H]4[C@@H]3CCC2=C1 VOXZDWNPVJITMN-ZBRFXRBCSA-N 0.000 description 71
- 238000010586 diagram Methods 0.000 description 46
- 238000006073 displacement reaction Methods 0.000 description 39
- 238000007726 management method Methods 0.000 description 18
- 239000000872 buffer Substances 0.000 description 13
- 230000006870 function Effects 0.000 description 13
- 210000004027 cell Anatomy 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 12
- 238000013501 data transformation Methods 0.000 description 11
- 238000006243 chemical reaction Methods 0.000 description 9
- 230000006835 compression Effects 0.000 description 8
- 238000007906 compression Methods 0.000 description 8
- 210000004940 nucleus Anatomy 0.000 description 8
- 230000032683 aging Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 7
- 238000007667 floating Methods 0.000 description 7
- 230000007246 mechanism Effects 0.000 description 7
- 230000003068 static effect Effects 0.000 description 7
- 239000003795 chemical substances by application Substances 0.000 description 6
- 230000000295 complement effect Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000013461 design Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 238000002156 mixing Methods 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 230000001052 transient effect Effects 0.000 description 5
- 238000013519 translation Methods 0.000 description 5
- 230000014616 translation Effects 0.000 description 5
- 230000005856 abnormality Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- GOLXNESZZPUPJE-UHFFFAOYSA-N spiromesifen Chemical compound CC1=CC(C)=CC(C)=C1C(C(O1)=O)=C(OC(=O)CC(C)(C)C)C11CCCC1 GOLXNESZZPUPJE-UHFFFAOYSA-N 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 230000000712 assembly Effects 0.000 description 2
- 238000000429 assembly Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000005538 encapsulation Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 230000005055 memory storage Effects 0.000 description 2
- 239000003607 modifier Substances 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 241001269238 Data Species 0.000 description 1
- 101100285899 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) SSE2 gene Proteins 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000001816 cooling Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000006837 decompression Effects 0.000 description 1
- 230000001066 destructive effect Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000001693 membrane extraction with a sorbent interface Methods 0.000 description 1
- 229910052754 neon Inorganic materials 0.000 description 1
- GKAOGPIIYCISHV-UHFFFAOYSA-N neon atom Chemical compound [Ne] GKAOGPIIYCISHV-UHFFFAOYSA-N 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000013442 quality metrics Methods 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001568 sexual effect Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 241000894007 species Species 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/38—Concurrent instruction execution, e.g. pipeline or look ahead
- G06F9/3836—Instruction issuing, e.g. dynamic instruction scheduling or out of order instruction execution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/26—Power supply means, e.g. regulation thereof
- G06F1/32—Means for saving power
- G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
- G06F1/3234—Power saving characterised by the action undertaken
- G06F1/3243—Power saving in microcontroller unit
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/26—Power supply means, e.g. regulation thereof
- G06F1/32—Means for saving power
- G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
- G06F1/3234—Power saving characterised by the action undertaken
- G06F1/329—Power saving characterised by the action undertaken by task scheduling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
- G06F9/3001—Arithmetic instructions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
- G06F9/30036—Instructions to perform operations on packed data, e.g. vector, tile or matrix operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
- G06F9/30036—Instructions to perform operations on packed data, e.g. vector, tile or matrix operations
- G06F9/30038—Instructions to perform operations on packed data, e.g. vector, tile or matrix operations using a mask
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/50—Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Advance Control (AREA)
- Executing Machine-Instructions (AREA)
Abstract
处理器包括指令调度和分派(调度/分派)单元,其用于接收单指令多数据(SIMD)指令,该SIMD指令用于对存储在由第一源操作数指示的存储位置中的多个数据元素执行操作。该指令调度/分派单元用于基于第二源操作数确定数据元素中的第一数据元素,该第一数据元素将不被操作而生成被写入到目的地操作数中的结果。该处理器进一步包括:多个处理元件,耦合至指令调度/分派单元,这些处理元件用于以向量方式处理SIMD指令的数据元素;以及功率管理单元,耦合至指令调度/分派单元,该功率管理单元用于减少多个处理元件中的配置为用于处理第一数据元素的第一处理元件的功耗。
Description
技术领域
本发明的多个实施例总体涉及微处理器。更具体地说,本发明的多个实施例涉及微处理器的功率管理。
背景技术
功耗是现代电子器件和基于处理器的设备中的主要顾虑。近几年中,将膝上型计算机和笔记本计算机用于移动计算已变得常见。同样,移动设备正变成忙碌的专业人员的标准配件。此外,如今的移动设备中的许多设备包括作为标准特征的功能,从而使得用户可在移动时访问email、玩电脑游戏或访问互联网。在所有这些示例中,电子设备依赖于诸如电池之类的有限的电源。因此,减少功耗并进而增加电池寿命是投放对市场有吸引力的产品并因此有经济利益可图的重要因素。
减少基于处理器的设备中的功耗的一种方法是减少该处理器的功耗。通常的技术是基于在给定时刻正在被执行的操作或操作集,禁用该处理器内不被使用的功能块。此外,启用和禁用功能块的过程固有地是动态的,因为这些块应当被启用以便不引进任何处理等待时间,但是应当被迅速地禁用以便使过度的当前使用最小化。
诸如英特尔的高级向量扩展(AVX)之类的更先进的处理器能以向量方式处理单指令多数据(SIMD)指令。这些指令中的一些基于掩码操作数,对多个数据元素执行多个操作。图1是示出向量执行规则的框图。例如,指令VADDPS ZMM1{k1},ZMM2,ZMM3对512位寄存器中的32位数据元素执行多至16个单精度(SP)加法操作,这些操作全部并行地执行。掩码k1是16位寄存器,该16位寄存器的每一位与将以该向量指令被处理的每一个数据元素有关。如果掩码位是一,则数据元素被处理,并且被写入到目的地中。如果掩码位是零,则处理器写入零或保持目的地不变(取决于写掩码操作模式)。在硬件中,全部16个元素总是在作为单个实体的向量算术逻辑单元(ALU)内被操作。遗憾的是,由于在向量ALU内被执行的一定百分比的操作将由于其相关的掩码位被设置为零而被丢弃,因此存在功率效率损失。图2是示出掩码驱动AVX操作的示例的伪代码。
附图说明
在所附附图的多个图中,以示例方式而非限制方式说明本发明的多个实施例,在附图中,同样的参考标号指示类似的元件。
图1是示出向量执行规则的框图。
图2是示出掩码驱动AVX操作的示例的伪代码。
图3是根据本发明的一个实施例的处理器或处理器核的执行流水线的框图。
图4是示出根据本发明的一个实施例的掩码驱动SIMD指令的操作的框图。
图5是根据本发明的另一实施例的处理器或处理器核的框图。
图6是示出根据本发明的一个实施例的、由处理器执行的方法的流程图。
图7A示出根据本发明的一个实施例的示例性高级向量扩展(AVX)指令格式。
图7B示出根据本发明的另一实施例的示例性高级向量扩展(AVX)指令格式。
图7C示出根据本发明的又一实施例的示例性高级向量扩展(AVX)指令格式。
图8A是示出根据本发明的多个实施例的通用向量友好指令格式及其A类指令模板的框图。
图8B是示出根据本发明的多个实施例的通用向量友好指令格式及其B类指令模板的框图。
图9A是示出根据本发明的一个实施例的示例性专用向量友好指令格式的框图。
图9B是示出根据本发明的另一实施例的通用向量友好指令格式的框图。
图9C是示出根据本发明的另一实施例的通用向量友好指令格式的框图。
图9D是示出根据本发明的另一实施例的通用向量友好指令格式的框图。
图10是根据本发明的一个实施例的寄存器架构的框图。
图11A是示出根据本发明的多个实施例的示例性有序流水线和示例性的寄存器重命名的无序发布/执行流水线的框图。
图11B是示出根据本发明的多个实施例的要包括在处理器中的有序架构核的示例性实施例和示例性的寄存器重命名的无序发布/执行架构核的框图。
图12A是根据本发明的一个实施例的处理器核的框图。
图12B是根据本发明的另一实施例的处理器核的框图。
图13是根据本发明的多个实施例的处理器的框图。
图14是根据本发明的一个实施例的系统的框图;
图15是根据本发明的实施例的更具体的示例性系统的框图。
图16是根据本发明的另一实施例的更具体的示例性系统的框图。
图17是根据本发明的实施例的SoC的框图。
图18是根据本发明的多个实施例的、对照使用软件指令转换器将源指令集中的二进制指令转换成目标指令集中的二进制指令的框图。
具体实施方式
将参考以下所讨论的细节来描述本发明的各实施例和方面,并且所附附图将说明各实施例。下列描述和附图是说明本发明的,并且不应当被解释为限制本发明。描述许多具体的细节以提供对本发明的各实施例的透彻理解。然而,在某些实例中,不描述公知的或常规的细节,以便提供本发明实施例的简洁讨论。
在本说明书中提到“一个实施例”或“实施例”,意思是指结合该实施例所描述的特定特征、结构或特性可以被包括在本发明的至少一个实施例中。在本说明书中的不同位置出现短语“在一个实施例中”不一定都是指同一个实施例。
根据一些实施例,SIMD指令的掩码值可用于确定特定的数据元素是否将由将向目的地写入值的对应的ALU处理。如果确定了数据元素将不被处理,则对应的向量通道(例如,处理该数据元素的处理元件(包括ALU)、寄存器组、数据总线分派路径、引退单元中的写回路径等)的功耗可减少或被关闭。
在一个实施例中,可在向量指令的分派开始时读取掩码值,使得可在向量ALU流水线中,在数据元素层级上执行时钟门控,从而避免因对将不会在目的地上被更新的数据元素的值进行的不必要的位切换而造成的动态功耗浪费。时钟门控可应用于多个流水线级,包括向量寄存器读取、数据总线分派、混洗和数据变换、ALU执行和写回等。
图3是根据本发明的一个实施例的处理器或处理器核的框图。参考图3,处理器100可表示任何种类的指令处理装置或处理元件。处理元件是指线程、进程、上下文、逻辑处理器、硬件线程、核和/或共享对处理器的其他共享资源(例如,预留单元、执行单元、流水线和更高层级的高速缓存/存储器)的访问的任何处理元件。物理处理器通常是指潜在地包括诸如核或硬件线程之类的任意数量的其他处理元件的集成电路。核通常是指位于集成电路上的、能够维持独立架构状态的逻辑,其中,每一个被独立地维持的架构状态与至少一些专用执行资源相关联。在一个实施例中,处理器100可以是通用处理器。处理器100可以是各种复杂指令集计算(CISC)处理器、各种精简指令集计算(RISC)处理器、各种超长指令字(VLIW)处理器中的任何处理器,可以是上述处理器的各种混合,或者可以完全是其他类型的处理器。处理器100也可表示一个或多个处理器核。
可在不同的处理器中,出于不同的目的,以不同的方式来实现处理器核。例如,此类核的实现可包括:1)旨在用于通用计算的通用有序核;2)旨在用于通用计算的高性能通用无序核;3)旨在主要用于图形和/或科学(吞吐量)计算的专用核。不同处理器的实现可包括:1)中央处理单元(CPU),其包括旨在用于通用计算的一个或多个通用有序核和/或旨在用于通用计算的一个或多个通用无序核;以及2)协处理器,其包括旨在主要用于图形和/或科学(吞吐量)的一个或多个专用核。此类不同处理器导致不同的计算机系统架构,其可包括:1)在与CPU分开的芯片上的协处理器;2)在与CPU相同的封装中但分开的管芯上的协处理器;3)与CPU在相同管芯上的协处理器(在该情况下,此类协处理器有时被称为诸如集成图形和/或科学(吞吐量)逻辑之类的专用逻辑,或被称为专用核);以及4)可以将所描述的CPU(有时被称为应用核或应用处理器)、以上描述的协处理器和附加功能包括在同一管芯上的芯片上系统。接着描述示例性核架构,随后描述示例性处理器和计算机架构。
在一个实施例中,处理器100包括但不限于形成处理器流水线的指令取出单元101、指令解码器102、重命名/分配器103、调度器/分派器104、一个或多个执行单元105和引退单元106。可由多个线程共享流水线或流水线的部分(例如,流水线的前端或指令解码部分102)。复制架构状态寄存器(没有示出),因此能够存储单独的架构状态/上下文以用于不同的逻辑处理器。也可复制其他更小的资源(例如,重命名分配器逻辑103中的指令指针和重命名逻辑)以用于多个线程。可通过分区操作来共享诸如重排序/引退单元106中的重排序缓冲器、加载/存储缓冲器和队列之类的一些资源。而可以潜在地完全共享诸如通用内部寄存器(例如,寄存器108)、页表基寄存器、低层级数据高速缓存(例如,高速缓存107)和数据转换缓冲器(TLB)、执行单元104和无序单元(没有示出)之类的资源。
在一个实施例中,指令解码器102用于对从指令取出单元101接收到的指令进行解码。这些指令可以是从集成在处理器100之内或与处理器100紧密关联的高速缓存存储器107中取出的宏指令,或者可以经由系统总线从外部存储器中检索到。指令解码器102可对这些宏指令进行解码,并且生成或输出反映这些指令或从这些指令导出的一个或多个微操作、微代码、进入点、微指令、其他指令或其他控制信号。指令解码器102可使用各种不同的机制来实现。合适的机制的示例包括但不仅限于,微代码只读存储器(ROM)、查找表、硬件实现、可编程逻辑阵列(PLA)等。
在一个实施例中,分配器和重命名单元103包括用于预留资源的分配器,诸如用于存储指令处理结果的寄存器组。然而,线程可能能够无序执行,其中,分配器和重命名单元103也预留其他资源(例如,用于追踪指令结果的重排序缓冲器)。单元130也可包括寄存器重命名器,其用于将程序/指令引用寄存器重命名为处理器内部的其他寄存器。在此类重命名级期间,将对外部或逻辑寄存器的引用转换为内部的或物理寄存器引用以消除由寄存器重新使用而导致的依赖关系。
调度器和分派单元104用于向执行单元105调度和分派指令,以供执行。事实上,根据指令/操作的类型可用性,在执行单元105上潜在地调度这些指令/操作。例如,在具有可用的浮点执行单元的执行单元的端口上调度浮点指令。执行单元的示例包括浮点执行单元、整数执行单元、跳转执行单元、加载执行单元、存储执行单元以及其他已知的执行单元。
执行单元105可包括算术逻辑单元或能够基于指令执行操作的另一类型的逻辑单元。作为指令解码器102对指令进行解码的结果,执行单元105可接收反映这些指令或从这些指令导出的一个或多个微操作、微代码进入点、微指令、其他指令或其他控制信号。执行单元105可由于指示一个或多个源操作数(SRC)的指令而操作,并且用于将结果存储在指令所指示的寄存器集合中的一个或多个目的地操作数(DEST)中。执行单元105可包括可用于执行指令或从指令导出的其他控制信号并相应地执行操作的电路或其他执行逻辑(例如,与硬件和/或固件相结合的软件)。执行单元105可表示诸如逻辑单元、算术逻辑单元(ALU)、算术单元、整数单元等之类的任何种类的执行单元。
在一个实施例中,重排序/引退单元105包括诸如上述的重排序缓冲器、加载缓冲器和存储缓冲器之类的组件,这些组件用于支持被无序执行的指令的无序执行和稍后的有序引退。
可将源操作数和目的地操作数中的一些或全部存储在存储资源108(例如,寄存器集合中的寄存器或存储器)中。寄存器集合可以是寄存器组以及潜在的诸如状态寄存器、标志寄存器等之类的其他寄存器的部分。寄存器可以是能用于存储数据的存储位置或设备。寄存器集合常常可在物理上与执行单元一起位于管芯上。寄存器可以从处理器的外部或从编程者的角度可见。例如,指令可指定存储在寄存器中的操作数。各种不同类型的寄存器都是合适的,只要它们能够如本文中所述存储和提供数据。寄存器可以被重命名,也可以不被重命名。合适寄存器的示例包括但不限于,专用物理寄存器、使用寄存器重命名的动态分配的物理寄存器以及专用物理寄存器和动态分配物理寄存器的组合等。或者,可将源操作数和目的地操作数中的一个或多个存储在除寄存器之外的,诸如系统存储器中的位置之类的存储位置中。
在一个实施例中,高速缓存107包括诸如高层级和/或低层级高速缓存之类的各种高速缓存。较高层级或进一步远离的高速缓存用于对近期被取出和/或操作的元素进行高速缓存操作。注意,较高层级或进一步远离指的是高速缓存层级增加或进一步远离执行单元。在一个实施例中,较高层级的高速缓存是第二级数据高速缓存。然而,较高层级的高速缓存并不限于此,因为其可以是或可包括也可被称为追踪高速缓存的指令高速缓存。可转而在解码器之后耦合追踪高速缓存以存储最近被解码的指令。追踪高速缓存也潜在地包括用于预测要执行或采用的分支的分支目标缓冲器和用于存储指令的地址转换条目的指令转换缓冲器(I-TLB)。
较低层级的数据高速缓存和数据转换缓冲器(D-TLB)可耦合至执行单元。数据高速缓存用于存储最近被使用/操作的元素(例如,数据操作数),这些元素被潜在地保持在存储器一致性状态(例如,修改状态、排他状态和无效(MESI)状态)下。D-TLB用于存储最近的虚拟/线性至物理地址转换。之前,D-TLB条目包括用于向最近使用的虚拟存储器地址提供代价不高的转换的虚拟地址、物理地址和其他信息(例如,偏移)。
处理器100进一步包括总线接口单元(没有示出)。总线接口单元用于与处理器外部的,诸如系统存储器、芯片组、北桥或其他集成电路之类的设备通信。该存储器可专用于该处理器,或与系统中的其他设备一起被共享。存储器的示例包括动态随机存取存储器(DRAM)、静态RAM(SRAM)、非易失性存储器(NV存储器)和长期存储设备。通常,总线接口单元包括用于在互连上传送和接收总线信号的输入/输出(I/O)缓冲器。互连的示例包括射电收发机逻辑(GTL)总线、GTL+总线、双数据速率(DDR)总线、泵式(bumped)总线、差分总线、高速缓存一致性总线、点对点总线、多分支总线或实现任何已知总线协议的其他已知的互连。总线接口单元也可与更高层级的高速缓存通信。
在一个实施例中,可将上述各个级组织成三个阶段。可将第一阶段称为有序前端,其包括取出级101、解码级102和分配重命名级103。在该有序前端阶段,这些指令按照其原始的程序顺序,经过流水线100继续进行。可将第二阶段称为无序执行阶段,其包括调度/分派级104和执行级105。在此阶段期间,一确定每条指令的数据依赖关系并且执行单元可用时,就调度、分派并执行每条指令,而不管在原始程序中指令的顺序位置。第三阶段被称为有序引退阶段,其包括引退级106,在该引退级106中,按照指令原始的、顺序的程序顺序来引退指令以保持该程序的完整性和语义,并且提供精确的中断模型。
往回参考图3,在一个实施例中,调度器/分派器104包括不活动元素检测逻辑120,该不活动元素检测逻辑120用于检测SIMD指令的操作数112中的、将不由向量处理单元(VPU)111操作并且/或者其结果将不被写入到目的地存储位置中的多个数据元素中的任何数据元素。此类数据元素被称为不活动数据元素。可由多个处理元件以向量方式处理SIMD指令的数据元素。可在不活动元素指示器113中指示一个或多个不活动数据元素,该不活动元素指示器113可被存储在寄存器或存储器位置中。在一个实施例中,基于不活动元素指示器113,功率管理单元114用于减少处理元件的、对应于不活动数据元素的功耗。在一个实施例中,功率管理单元114用于减小时钟频率或关闭去往对应于每一个不活动数据元素的处理元件的时钟信号。处理元件可以是ALU、寄存器组、数据总线分派路径、引退单元中的写回路径等中的一个或多个的组合。注意,也可在指令取出单元101、指令解码器102和/或重命名/分配器103中的任何一个中实现不活动元素检测器120。
在一个实施例中,不活动元素检测器120检查SIMD指令以确定该SIMD指令的多个数据元素中的哪些将不被操作,并且/或者哪些的结果将不被写入到目的地中。具体而言,不活动元素检测器120可检查指令的操作数以确定不活动数据元素。例如,对于诸如VADDPS ZMM1,{k1},ZMM2,ZMM3之类的用于向量加法的掩码驱动指令,不活动元素检测器120检查操作数以确定数据元素中的哪些是不活动的。在该示例中,VADDPS指令用于基于掩码k1将被存储在源操作数ZMM2和ZMM3中对应的数据元素相加,并且将对应的加法结果存储在目的地ZMM1中。在此具体实施例中,不活动元素检测器120检查掩码“k1”以确定ZMM2和ZMM3中的数据元素中的哪些将不被操作,并且将不被写入到目的地寄存器ZMM1中。对于那些不活动数据元素,不活动指示被存储在不活动元素指示器113中。然后,功率管理单元114基于不活动元素指示器113来减少对应的处理元件或向量通道的功耗。
图4是示出根据本发明的一个实施例的掩码驱动SIMD指令的操作的框图。参考图4,在此示例中,SIMD指令包括将由处理资源404基于掩码403处理的第一源操作数401和第二源操作数402。具体而言,源操作数401包括多个数据元素411-414,而源操作数402包括数据元素421-424。分别由处理元件441-444基于掩码位431-434,对数据元素411-414与数据元素421-424中的对应数据元素一起进行操作。这些结果被存储在对应的目的地存储位置(没有示出)中。掩码位中的每一位具有逻辑值一或零,用于指示对应的数据元素是否将作为不活动数据元素被操作。此类指示信息被存储作为不活动元素指示器113的部分。然后,由时钟门逻辑451-454利用不活动元素指示器113以分别配置处理元件441-444的功耗。例如,如果掩码位432具有逻辑值“一”,则将由处理元件442处理数据元素412和数据元素422。然而,如果掩码位433具有逻辑值“零”,则处理元件443将不处理数据元素413和数据元素423,并且其结果也不被写入到对应的目的地中。在这种情形下,可减小或关闭去往处理元件443的功率或时钟信号,以便减少处理器的总功耗。
图5是根据本发明的另一实施例的处理器或处理器核的框图。处理器500可实现为图3中的处理器100的部分。参考图5,当调度器502从执行队列501接收SIMD指令的操作码时,调度器502检查操作数(例如,掩码)以确定或预测源和目的地操作数中的、指示数据元素中的哪些是不活动元素的归零的指示。具体而言,调度器502确定不活动元素,并经由路径506在寄存器归零指示器(RZI)504中标记这些不活动元素。多泵复用器(MPM)509用于选择物理寄存器组(PRF)503的端口以例如在执行宽度小于寄存器宽度时供执行单元505执行。在窄宽度多泵向量处理实现的特定情况下,假如连续的目的地元素被归零,则调度器502将保存冗余的泵。如果仅很少的元素被归零,则可例如经由路径507,对匹配被归零元素的向量通道进行时钟门控。预测零元素的示例可包括具有两个零源的SUB/ADD、具有至少一个零源的MUL和具有一个零源的数据移动。
因此,紧缩寄存器处的每一个元素都被标记为具有零值还是非零值,并且在目的地元素的调度操作之前,经由路径508的检查应当提前为零。在零预测的情况下,不使用常规执行来计算元素值,并且提前将该元素值标记为零。由于不计算零值,因此该方案节省功耗,并且在不需要一个或很少执行阶段的情况下可节省多泵微架构上的执行循环。使用用于标量计算的紧缩操作码的编译器通常仅使用紧缩寄存器的最低有效字节(LSB)元素;因此,在多泵处,所有的更高部分执行已经被保存。
图6是示出根据本发明的一个实施例的、由处理器执行的方法的流程图。方法600可由处理逻辑执行,该处理逻辑可包括硬件、软件或它们的组合。例如,方法600可由图3中的处理器100来执行。参考图6,在框601处,处理逻辑接收具有多个源操作数的指令(例如,SIMD指令),每一个源操作数具有将被处理的多个数据元素。在框602处,处理逻辑检查操作数中的一个以确定数据元素中的哪些将被处理。在框603处,基于该检查,处理逻辑减少不处理任何数据元素或具有将被写入到目的地中的零输出的一个或多个处理元件的功耗。在框604处,随后,将指令调度或分派给处理元件,以供执行。
指令集或指令集架构(ISA)是计算机架构中与编程有关的部分,并且可包括原生数据类型、指令、寄存器架构、寻址模式、存储器架构、中断和异常处理以及外部输入和输出(I/O)。术语“指令”在本申请中一般表示宏指令,宏指令是被提供给处理器(或指令转换器,该指令转换器(例如使用静态二进制转换、包括动态编译的动态二进制转换)转换、变形、仿真或以其他方式将指令转换成将由处理器处理的一条或多条其他指令)以供执行的指令——宏指令是与微指令或微操作(微op)截然相反的,微指令或微操作(微op)是处理器的解码器解码宏指令的结果。
ISA与微架构不同,微架构是实现指令集的处理器的内部设计。具有不同的微架构的处理器可共享共同的指令集。例如,奔腾四(Pentium 4)处理器、酷睿(CoreTM)处理器、以及来自加利福尼亚州桑尼威尔(Sunnyvale)的超微半导体有限公司(Advanced Micro Devices,Inc.)的诸多处理器执行几乎相同版本的x86指令集(在更新的版本中加入了一些扩展),但具有不同的内部设计。例如,可使用公知技术,在不同的微架构中,以不同的方式来实现ISA的相同寄存器架构,包括专用物理寄存器、使用寄存器重命名机制(诸如,使用寄存器别名表(RAT)、重排序缓冲器(ROB)以及引退寄存器组;使用多个映射和寄存器池)的一个或多个动态分配物理寄存器等。除非另作说明,否则短语“寄存器架构”、“寄存器组”和“寄存器”在本文中用于指代对软件/编程者以及对指令指定寄存器的方式可见的寄存器。在需要专用性的情况下,形容词“逻辑的”、“架构的”、或“软件可见的”将用于指示寄存器架构中的寄存器/寄存器组,而不同的形容词将用于指定给定微架构中的寄存器(例如,物理寄存器、重排序缓冲器、引退寄存器、寄存器池)。
指令集包括一个或多个指令格式。给定的指令格式定义多个字段(位的数目、位的位置等)以指定将要被执行的操作(操作码)以及将要被执行的操作的操作数等。通过指令模板(或子格式)的定义来进一步分解一些指令格式。例如,可将给定指令格式的指令模板定义为具有指令格式字段(所包括的字段通常按照相同顺序,但是至少一些字段具有不同的位位置,因为存在更少的、被包括的字段)的不同子集,和/或定义为具有以不同方式进行解释的给定字段。由此,使用给定的指令格式(并且如果经定义,则以该指令格式的指令模板中给定的一个格式)来表达ISA的每条指令,并且ISA的每条指令包括用于指定操作和操作数的字段。例如,示例性ADD指令具有特定的操作码和指令格式(该指令格式包括用于指定该操作码的操作码字段和用于选择操作数的操作数字段(源1/目的地以及源2)),并且该ADD指令在指令流中出现将使得在选择特定操作数的操作数字段中具有特定的内容。
科学应用、金融应用、自动向量化通用应用、RMS(识别、挖掘和合成)应用以及视觉和多媒体应用(诸如,2D/3D图形、图像处理、视频压缩/解压缩、语音识别算法和音频处理)通常需要对大量数据项执行相同的操作。单指令多数据(SIMD)是指使处理器对多个数据项执行一个操作的指令类型。SIMD技术尤其适用于将寄存器中的多个位逻辑地划分成多个固定尺寸的数据元素(其中,每个数据元素表示单独的值)的处理器中。例如,可将256位寄存器中的多个位指定为将以下列形式被操作的源操作数:四个单独的64位紧缩数据元素(四字(Q)尺寸数据元素)、八个单独的32位紧缩数据元素(双字(D)尺寸数据元素)、十六个单独的16位紧缩数据元素(字(W)尺寸数据元素)或三十二个单独的8位数据元素(字节(B)尺寸数据元素)。该数据类型被称为紧缩数据类型或向量数据类型,并且该数据类型的操作数被称为紧缩数据操作数或向量操作数。换言之,紧缩数据项或向量是指紧缩数据元素的序列,并且紧缩数据操作数或向量操作数是SIMD指令(也被称为紧缩数据指令或向量指令)的源操作数或目的地操作数。
作为示例,一种类型的SIMD指令指定了将以垂直方式对两个源向量操作数执行以生成具有相同尺寸的、具有相同数量的数据元素的以及按照相同数据元素的顺序的目标向量操作数(也被称为结果向量操作数)的单个向量操作。源向量操作数中的数据元素被称为源数据元素,而目的地向量操作数中的数据元素被称为目的地或结果数据元素。这些源向量操作数具有相同的尺寸,并包含相同宽度的数据元素,因此它们包含相同数量的数据元素。两个源向量操作数中的相同的位的位置中的源数据元素形成数据元素对(也称为对应的数据元素;即,每个源操作数的数据元素位置0中的数据元素相对应,每个源操作数的数据元素位置1中的数据元素相对应,以此类推)。分别地对这些源数据元素对中的每一对执行由该SIMD指令所指定的操作,以生成匹配数量的结果数据元素,如此,每一对源数据元素都具有对应的结果数据元素。由于操作是纵向的,并且由于结果向量操作数尺寸相同、具有相同数量的数据元素、并且结果数据元素以与源向量操作数相同的数据元素顺序来存储,因此,结果数据元素处于与其对应的源数据元素对在源向量操作数中的位置相同的、结果向量操作数的位的位置处。除此示例性类型的SIMD指令之外,还有各种其他类型的SIMD指令(例如,仅有一个或具有多于两个的源向量操作数的SIMD指令;以水平方式操作的SIMD指令;生成不同尺寸的结果向量操作数的SIMD指令;具有不同尺寸的数据元素的SIMD指令;和/或具有不同的数据元素顺序的SIMD指令)。应当理解,术语“目的地向量操作数(或目的地操作数)”被定义为执行指令所指定的操作的直接结果,包括将该目的地操作数存储在某位置(其是寄存器或位于由该指令所指定的存储器地址处),以便可由另一指令将其作为源操作数来访问(通过由另一指令指定该同一个位置)。
诸如由具有包括x86、MMXTM、流式SIMD扩展(SSE)、SSE2、SSE3、SSE4.1以及SSE4.2指令的指令集的CoreTM处理器使用的SIMD技术之类的SIMD技术在应用性能方面实现了显著的改善。已经发布和/或公布了涉及高级向量扩展(AVX)(AVX1和AVX2)且使用向量扩展(VEX)编码方案的附加SIMD扩展集(例如,参见2011年10月的64和IA-32架构软件开发手册;并且参见2011年6月的高级向量扩展编程参考)。
能以不同的格式使本文所述的指令的多个实施例具体化。另外,在下文中详述示例性系统、架构和流水线。指令的实施例可在此类系统、架构和及流水线上执行,但是不限于详述的系统、架构和流水线。
VEX编码允许指令具有多于两个的操作数,并且允许SIMD向量寄存器比128位长。VEX前缀的使用提供了三个操作数(或者更多)句法。例如,先前的两操作数指令执行的操作(例如,A=A+B)覆写源操作数。VEX前缀的使用使操作数能够执行非破坏性操作,诸如A=B+C。
图7A示出示例性AVX指令格式,包括VEX前缀2102、实操作码字段2130、Mod R/M字节2140、SIB字节2150、位移字段2162以及IMM82172。图7B示出来自图7A的哪些字段构成完整操作码字段2174和基础操作字段2142。图7C示出来自图7A的哪些字段构成寄存器索引字段2144。
VEX前缀(字节0-2)2102以三字节形式进行编码。第一字节是格式字段2140(VEX字节0,位[7:0]),该格式字段2140包含显式的C4字节值(用于区分C4指令格式的唯一值)。第二-第三字节(VEX字节1-2)包括提供专用能力的多个位字段。具体而言,REX字段2105(VEX字节1,位[7-5])由VEX.R位字段(VEX字节1,位[7]–R)、VEX.X位字段(VEX字节1,位[6]–X)以及VEX.B位字段(VEX字节1,位[5]–B)组成。这些指令的其他字段对如在本领域中已知的寄存器索引的较低的三个位(rrr、xxx以及bbb)进行编码,由此可通过增加VEX.R、VEX.X以及VEX.B来形成Rrrr、Xxxx以及Bbbb。操作码映射字段2115(VEX字节1,位[4:0]–mmmmm)包括对隐含的前导操作码字节进行编码的内容。W字段2164(VEX字节2,位[7]–W)由记号VEX.W表示,并且提供取决于该指令而不同的功能。VEX.vvvv 2120(VEX字节2,位[6:3]-vvvv)的作用可包括如下:1)以反转(1补码)形式被指定并且对具有2个或更多源操作数的指令有效VEX.vvvv对第一源寄存器操作数进行编码;2)针对某些向量偏移以1补码形式被指定的VEX.vvvv对目的地寄存器操作数进行编码;或者3)VEX.vvvv不对任何操作数进行编码,保留该字段,并且该字段应当包含1111b。如果VEX.L 2168尺寸字段(VEX字节2,位[2]-L)=0,则它指示128位向量;如果VEX.L=1,则它指示256位向量。前缀编码字段2125(VEX字节2,位[1:0]-pp)提供了用于基础操作字段的附加位。
实操作码字段2130(字节3)也被称为操作码字节。在该字段中指定操作码的部分。MOD R/M字段2140(字节4)包括MOD字段2142(位[7-6])、Reg字段2144(位[5-3])以及R/M字段2146(位[2-0])。Reg字段2144的作用可包括如下:对目的地寄存器操作数或源寄存器操作数(Rrrr中的rrr)进行编码;或者被视为操作码扩展且不用于对任何指令操作数进行编码。R/M字段2146的作用可包括如下:对引用存储器地址的指令操作数进行编码;或者对目的地寄存器操作数或源寄存器操作数进行编码。
比例、索引、基址(SIB)-比例字段2150(字节5)的内容包括用于存储器地址生成的SS2152(位[7-6])。先前已经针对寄存器索引Xxxx和Bbbb参考了SIB.xxx 2154(位[5-3])和SIB.bbb 2156(位[2-0])的内容。位移字段2162和立即数字段(IMM8)2172包含地址数据。
向量友好指令格式是适于向量指令(例如,存在专用于向量操作的某些字段)的指令格式。尽管描述了其中通过向量友好指令格式支持向量和标量操作两者的实施例,但是替代实施例仅使用通过向量友好指令格式的向量操作。
图8A、图8B和图8C是示出根据本发明的多个实施例的通用向量友好指令格式及其指令模板的框图。图8A是示出根据本发明的多个实施例的通用向量友好指令格式及其A类指令模板的框图;而图8B是示出根据本发明的多个实施例的通用向量友好指令格式及其B类指令模板的框图。具体而言,针对通用向量友好指令格式2200定义A类和B类指令模板,两者都包括无存储器访问2205的指令模板和存储器访问2220的指令模板。在向量友好指令格式的上下文中的术语“通用”是指不束缚于任何特定指令集的指令格式。
尽管将描述其中向量友好指令格式支持以下情况的本发明的实施例,但是替代实施例可支持更大、更小、和/或不同的向量操作数尺寸(例如,256字节向量操作数)与更大、更小或不同的数据元素宽度(例如,128位(16字节)数据元素宽度):64字节向量操作数长度(或尺寸)与32位(4字节)或64位(8字节)数据元素宽度(或尺寸)(并且由此,64字节向量由16个双字尺寸的元素或者替代地8个四字尺寸的元素组成)、64字节向量操作数长度(或尺寸)与16位(2字节)或8位(1字节)数据元素宽度(或尺寸)、32字节向量操作数长度(或尺寸)与32位(4字节)、64位(8字节)、16位(2字节)、或8位(1字节)数据元素宽度(或尺寸)、以及16字节向量操作数长度(或尺寸)与32位(4字节)、64位(8字节)、16位(2字节)、或8位(1字节)数据元素宽度(或尺寸),但是替代实施例可支持更大、更小、和/或不同的向量操作数尺寸(例如,256字节向量操作数)与更大、更小或不同的数据元素宽度(例如,128位(16字节)数据元素宽度)。
图8A中的A类指令模板包括:1)在无存储器访问2205的指令模板内,示出无存储器访问的完全舍入控制型操作2210的指令模板以及无存储器访问的数据变换型操作2215的指令模板;以及2)在存储器访问2220的指令模板内,示出存储器访问的时效性2225的指令模板和存储器访问的非时效性2230的指令模板。图8B中的B类指令模板包括:1)在无存储器访问2205的指令模板内,示出无存储器访问的写掩码控制的部分舍入控制型操作2212的指令模板以及无存储器访问的写掩码控制的vsize型操作2217的指令模板;以及2)在存储器访问2220的指令模板内,示出存储器访问的写掩码控制2227的指令模板。
通用向量友好指令格式2200包括以下列出的按照在图8A和图8B中示出的顺序的如下字段。格式字段2240-该字段中的特定值(指令格式标识符值)唯一地标识向量友好指令格式,并且由此标识指令在指令流中以向量友好指令格式出现。由此,该字段对于仅具有通用向量友好指令格式的指令集是不需要的,在这个意义上该字段是可选的。基础操作字段2242-其内容区分不同的基础操作。
寄存器索引字段2244-其内容直接或者通过地址生成来指定源或目的地操作数在寄存器中或者在存储器中的位置。这些字段包括从PxQ(例如,32x512、16x128、32x1024、64x1024)寄存器组中选择N个寄存器的足够数量的位。尽管在一个实施例中N可多至三个源和一个目的地寄存器,但是替代实施例可支持更多或更少的源和目的地寄存器(例如,可支持多至两个源(其中,这些源中的一个源还用作目的地),可支持多至三个源(其中,这些源中的一个源还用作目的地),可支持多至两个源和一个目的地)。
修饰符(modifier)字段2246-其内容将指定存储器访问的以通用向量指令格式出现的指令与不指定存储器访问的以通用向量指令格式出现的指令区分开;也就是说,在无存储器访问2205的指令模板与存储器访问2220的指令模板之间进行区分。存储器访问操作读取和/或写入到存储器层次结构(在一些情况下,使用寄存器中的值来指定源和/或目的地地址),而非存储器访问操作不这样(例如,源和/或目的地是寄存器)。尽管在一个实施例中,该字段还在三种不同的方式之间选择以执行存储器地址计算,但是替代实施例可支持更多、更少或不同的方式来执行存储器地址计算。
扩充操作字段2250-其内容区分除基础操作以外还要执行各种不同操作中的哪一个操作。该字段是针对上下文的。在本发明的一个实施例中,该字段被划分成类字段2268、α字段2252、以及β字段2254。扩充操作字段2250允许在单条指令而非2、3或4条指令中执行多组共同的操作。比例字段2260-其内容允许用于存储器地址生成(例如,用于使用2比例*索引+基址的地址生成)的索引字段的内容按比例缩放。
位移字段2262A-其内容用作存储器地址生成的部分(例如,用于使用2比例*索引+基址+位移的地址生成)。位移因数字段2262B(注意,位移字段2262A直接在位移因数字段2262B上的并置指示使用一个或另一个)-其内容用作地址生成的一部分,它指定通过存储器访问的尺寸(N)按比例缩放的位移因数,其中N是存储器访问中的字节数量(例如,用于使用2比例*索引+基址+按比例缩放的位移的地址生成)。忽略冗余的低阶位,并且因此将位移因数字段的内容乘以存储器操作数总尺寸(N)以生成在计算有效地址中使用的最终位移。N的值由处理器硬件在运行时基于完整操作码字段2274(稍后在本文中描述)和数据操纵字段2254C确定。位移字段2262A和位移因数字段2262B可以不用于无存储器访问2205的指令模板,并且/或者不同的实施例可实现两者中的仅一个或不实现两者中的任一个,在这个意义上,位移字段2262A和位移因数字段2262B是可选的。
数据元素宽度字段2264-其内容区分将使用多个数据元素宽度中的哪一个(在一些实施例中用于所有指令,在其他实施例中仅用于指令中的一些)。如果支持仅一个数据元素宽度,并且/或者使用操作码的某一方面来支持数据元素宽度,则该字段是不需要的,在这个意义上该字段是可选的。
写掩码字段2270-其内容在每一数据元素位置的基础上控制目的地向量操作数中的数据元素位置是否反映基础操作和扩充操作的结果。A类指令模板支持合并-写掩码操作,而B类指令模板支持合并写掩码操作和归零写掩码操作两者。当合并时,向量掩码允许在执行(由基础操作和扩充操作指定的)任何操作期间保护目的地中的任何元素集免于更新;在其他实施例中,保持其中对应掩码位具有0的目的地的每一元素的旧值。相反,当归零时,向量掩码允许在执行(由基础操作和扩充操作指定的)任何操作期间,使目的地中的任何元素集归零;在一个实施例中,当对应掩码位具有0值时,将目的地的元素设置为0。该功能的子集是控制正在被执行的操作的向量长度的能力(即,从第一个到最后一个被修改的元素的跨度),然而,被修改的元素不一定要是连续的。由此,写掩码字段2270允许部分向量操作,这包括加载、存储、算术、逻辑等。尽管描述了其中写掩码字段2270的内容选择多个写掩码寄存器中的、包含要使用的写掩码的一个写掩码寄存器(并且由此,写掩码字段2270的内容间接地标识要执行的掩码操作)的本发明的实施例,但是替代实施例相反或另外允许掩码写字段2270的内容直接地指定要执行的掩码操作。
立即数字段2272-其内容允许对立即数的指定。该字段在不支持立即数的通用向量友好格式的实现中不存在,并且在不使用立即数的指令中不存在,在这个意义上该字段是可选的。类字段2268-其内容在不同类的指令之间进行区分。参考图8A和图B,该字段的内容在A类和B类指令之间进行选择。在图8A和图8B中,圆角方形用于指示专用值存在于字段中(例如,在图8A和图B中分别用于类字段2268的A类2268A和B类2268B)。
在A类非存储器访问2205的指令模板的情况下,α字段2252被解释为其内容区分要执行不同扩充操作类型中的哪一种(例如,针对无存储器访问的舍入型操作2210和无存储器访问的数据变换型操作2215的指令模板,分别指定舍入2252A.1和数据变换2252A.2)的RS字段2252A,而β字段2254区分要执行指定类型的操作中的哪一种。在无存储器访问2205指令模板中,比例字段2260、位移字段2262A以及位移比例字段2262B不存在。
在无存储器访问的完全舍入控制型操作2210的指令模板中,β字段2254被解释为其内容提供静态舍入的舍入控制字段2254A。尽管在本发明的所述实施例中,舍入控制字段2254A包括抑制所有浮点异常(SAE)字段2256和舍入操作控制字段2258,但是替代实施例可支持这两个概念,并且可将这两个概念都编码成相同的字段,或者仅具有这些概念/字段中的一个或另一个(例如,可仅具有舍入操作控制字段2258)。
SAE字段2256-其内容区分是否禁用异常事件报告;当SAE字段2256的内容指示启用抑制时,给定的指令不报告任何种类的浮点异常标志,并且不唤起任何浮点异常处理程序。
舍入操作控制字段2258-其内容区分要执行一组舍入操作中的哪一个(例如,向上舍入、向下舍入、向零舍入以及就近舍入)。由此,舍入操作控制字段2258允许逐指令地改变舍入模式。在其中处理器包括用于指定舍入模式的控制寄存器的本发明的一个实施例中,舍入操作控制字段2250的内容覆盖该寄存器值。
在无存储器访问的数据变换型操作2215的指令模板中,β字段2254被解释为数据变换字段2254B,其内容区分要执行多个数据变换中的哪一个(例如,无数据变换、混合、广播)。
在A类存储器访问2220的指令模板的情况下,α字段2252被解释为驱逐提示字段2252B,其内容区分要使用驱逐提示中的哪一个(在图8A中,对于存储器访问时效性2225的指令模板和存储器访问非时效性2230的指令模板分别指定时效性的2252B.1和非时效性的2252B.2),而β字段2254被解释为数据操纵字段2254C,其内容区分要执行多个数据操纵操作(也称为基元(primitive))中的哪一个(例如,无操纵、广播、源的向上转换以及目的地的向下转换)。存储器访问2220的指令模板包括比例字段2260,并可选地包括位移字段2262A或位移比例字段2262B。
向量存储器指令使用转换支持来执行来自存储器的向量加载和去往存储器的向量存储。如同寻常的向量指令,向量存储器指令以数据元素式的方式往返于存储器传输数据,其中,实际传输的元素由被选为写掩码的向量掩码的内容规定。
时效性的数据是可能足够快地被重新使用以从高速缓存操作中受益的数据。然而,这是提示,且不同的处理器能以不同的方式实现它,包括完全忽略该提示。非时效性的数据是不可能被足够快地重新使用以从第一级高速缓存中的高速缓存操作中受益且应当被给予驱逐优先级的数据。然而,这是提示,且不同的处理器能以不同的方式实现它,包括完全忽略该提示。
在B类指令模板的情况下,α字段2252被解释为写掩码控制(Z)字段2252C,其内容区分由写掩码字段2270控制的写掩码操作应当是合并还是归零。
在B类非存储器访问2205的指令模板的情况下,β字段2254的部分被解释为RL字段2257A,其内容区分要执行不同扩充操作类型中的哪一种(例如,针对无存储器访问的写掩码控制部分舍入控制类型操作2212的指令模板和无存储器访问的写掩码控制VSIZE型操作2217的指令模板,分别指定舍入2257A.1和向量长度(VSIZE)2257A.2),而β字段2254的其余部分区分要执行指定类型的操作中的哪一种。在无存储器访问2205指令模板中,比例字段2260、位移字段2262A以及位移比例字段2262B不存在。
在无存储器访问的写掩码控制的部分舍入控制型操作2210的指令模板中,β字段2254的其余部分被解释为舍入操作字段2259A,并且禁用异常事件报告(给定的指令不报告任何种类的浮点异常标志,并且不唤起任何浮点异常处理程序)。
舍入操作控制字段2259A-就如同舍入操作控制字段2258,其内容区分一组舍入操作中的哪一个(例如,向上舍入、向下舍入、向零舍入、以及就近舍入)要执行。由此,舍入操作控制字段2259A允许逐指令地改变舍入模式。在其中处理器包括用于指定舍入模式的控制寄存器的本发明的一个实施例中,舍入操作控制字段2250的内容覆盖该寄存器值。
在无存储器访问的写掩码控制VSIZE型操作2217的指令模板中,β字段2254的其余部分被解释为向量长度字段2259B,其内容区分要执行多个数据向量长度中的哪一个(例如,128字节、256字节或512字节)。
在B类存储器访问2220的指令模板的情况下,β字段2254的部分被解释为广播字段2257B,其内容区分是否要执行广播型数据操纵操作,而β字段2254的其余部分被解释为向量长度字段2259B。存储器访问2220的指令模板包括比例字段2260,并可选地包括位移字段2262A或位移比例字段2262B。
针对通用向量友好指令格式2200,示出完整操作码字段2274包括格式字段2240、基础操作字段2242以及数据元素宽度字段2264。尽管示出了其中完整操作码字段2274包括所有这些字段的一个实施例,但是在不支持所有这些字段的实施例中,完整操作码字段2274包括少于所有这些字段的字段。完整操作码字段2274提供操作码(opcode)。
扩充操作字段2250、数据元素宽度字段2264以及写掩码字段2270允许以通用向量友好指令格式逐指令地指定这些特征。写掩码字段和数据元素宽度字段的组合创建类型化的指令,因为它们允许基于不同的数据元素宽度应用该掩码。
在A类和B类内出现的各种指令模板在不同的情形下是有益的。在本发明的一些实施例中,不同处理器或者处理器内的不同核可支持仅A类、仅B类或者可支持两类。举例而言,旨在用于通用计算的高性能通用无序核可仅支持B类,旨在主要用于图形和/或科学(吞吐量)计算的核可仅支持A类,并且旨在用于两者的核可支持两者(当然,具有来自两类的模板和指令的一些混合、但是并非来自两类的所有模板和指令的核在本发明的范围内)。同样,单一处理器可包括多个核,所有核支持相同的类,或者其中不同的核支持不同的类。举例而言,在具有单独的图形和通用核的处理器中,旨在主要用于图形和/或科学计算的图形核中的一个核可仅支持A类,而通用核中的一个或多个可以是具有旨在用于通用计算的、仅支持B类的无序执行和寄存器重命名的高性能通用核。不具有单独的图形核的另一处理器可包括既支持A类又支持B类的一个或多个通用有序或无序核。当然,在本发明的不同实施例中,来自一类的特征也可在其他类中实现。可使以高级语言撰写的程序成为(例如,恰被及时编译或静态编译)各种不同的可执行形式,包括:1)仅具有由用于执行的目标处理器支持的类的指令的形式;或者2)具有使用所有类的指令的不同组合而编写的替代例程且具有选择这些例程以基于由当前正在执行代码的处理器支持的指令而执行的控制流代码的形式。
图9是示出根据本发明的多个实施例的示例性专用向量友好指令格式的框图。图9示出专用向量友好指令格式2300,其指定位置、尺寸、解释和字段的次序以及那些字段中的一些字段的值,在这个意义上向量友好指令格式2300是专用的。专用向量友好指令格式2300可用于扩展x86指令集,并且由此这些字段中的一些与现有x86指令集及其扩展(例如,AVX)中使用的那些字段类似或相同。该格式保持与具有扩展的现有x86指令集的前缀编码字段、实操作码字节字段、MOD R/M字段、SIB字段、位移字段、以及立即数字段一致。示出来自图8的、将来自图9的字段映射到其的字段。
应当理解,虽然出于说明的目的,在通用向量友好指令格式2200的上下文中参考专用向量友好指令格式2300描述了本发明的多个实施例,但是本发明不限于专用向量友好指令格式2300,除非另有声明。例如,通用向量友好指令格式2200构想各种字段的各种可能的尺寸,而专用向量友好指令格式2300被示出为具有特定尺寸的字段。作为具体示例,尽管在专用向量友好指令格式2300中,数据元素宽度字段2264被示出为一位的字段,但是本发明不限于此(也就是说,通用向量友好指令格式2200构想数据元素宽度字段2264的其他尺寸)。
通用向量友好指令格式2200包括以下按照图9A中示出的顺序列出的下列字段。EVEX前缀(字节0-3)2302-以四字节形式进行编码。格式字段2240(EVEX字节0,位[7:0])-第一字节(EVEX字节0)是格式字段2240,并且它包含0x62(在本发明的一个实施例中用于区分向量友好指令格式的唯一值)。第二-第四字节(EVEX字节1-3)包括提供专用能力的多个位字段。
REX字段2305(EVEX字节1,位[7-5])-由EVEX.R位字段(EVEX字节1,位[7]–R)、EVEX.X位字段(EVEX字节1,位[6]–X)以及2257BEX字节1,位[5]–B)组成。EVEX.R、EVEX.X和EVEX.B位字段提供与对应VEX位字段相同的功能,并且使用1补码的形式进行编码,即ZMM0被编码为1111B,ZMM15被编码为0000B。这些指令的其他字段对如在本领域中已知的寄存器索引的较低三个位(rrr、xxx以及bbb)进行编码,由此可通过增加EVEX.R、EVEX.X以及EVEX.B来形成Rrrr、Xxxx以及Bbbb。
REX’字段2210-这是REX’字段2210的第一部分,并且是用于对扩展的32个寄存器集合的较高16个或较低16个寄存器进行编码的EVEX.R’位字段(EVEX字节1,位[4]–R’)。在本发明的一个实施例中,该位与以下指示的其他位一起以位反转的格式被存储以(在公知x86的32位模式下)与实操作码字节是62的BOUND指令进行区分,但是在MOD R/M字段(在下文中描述)中不接受MOD字段中的值11;本发明的替代实施例不以反转的格式存储该以下其他被指示的位。值1用于对较低16个寄存器进行编码。换句话说,通过组合EVEX.R’、EVEX.R和来自其他字段的其他RRR来形成R’Rrrr。
操作码映射字段2315(EVEX字节1,位[3:0]–mmmm)–其内容对隐含的前导操作码字节(0F、0F 38、或0F 3)进行编码。数据元素宽度字段2264(EVEX字节2,位[7]–W)-由记号EVEX.W表示。EVEX.W用于定义数据类型(32位数据元素或64位数据元素)的粒度(尺寸)。EVEX.vvvv2320(EVEX字节2,位[6:3]-vvvv)-EVEX.vvvv的作用可包括如下:1)以反转(1补码)形式被指定并且对具有2个或更多源操作数的指令有效VEX.vvvv对第一源寄存器操作数进行编码;2)针对某些向量偏移以1补码形式被指定的VEX.vvvv对目的地寄存器操作数进行编码;或者3)VEX.vvvv不对任何操作数进行编码,保留该字段,并且该字段应当包含1111b。由此,EVEX.vvvv字段2320对以反转(1补码)的形式存储的第一源寄存器指定符的4个低阶位进行编码。取决于该指令,附加的不同的EVEX位字段用于将指定符尺寸扩展到32个寄存器。EVEX.U 2268类字段(EVEX字节2,位[2]-U)-如果EVEX.U=0,则它指示A类或EVEX.U0;如果EVEX.U=1,则它指示B类或EVEX.U1。
前缀编码字段2325(EVEX字节2,位[1:0]-pp)-提供用于基础操作字段的附加位。除了对以EVEX前缀格式的传统SSE指令提供支持以外,这也具有压缩SIMD前缀的益处(EVEX前缀只需要2位,而不是需要字节来表达SIMD前缀)。在一个实施例中,为了支持使用以传统格式和以EVEX前缀格式两者的SIMD前缀(66H、F2H、F3H)的传统SSE指令,将这些传统SIMD前缀编码为SIMD前缀编码字段;在提供给解码器的PLA之前,在运行时可被扩展为传统SIMD前缀(因此,PLA可执行传统和EVEX格式的这些传统指令,而无需修改)。虽然较新的指令可将EVEX前缀编码字段的内容直接用作操作码扩展,但是为了一致性,某些实施例以类似的方式扩展,但允许由这些传统SIMD前缀指定不同的含义。替代实施例可重新设计PLA以支持2位SIMD前缀编码,并且因此不需要扩展。
α字段2252(EVEX字节3,位[7]–EH,也称为EVEX.EH、EVEX.rs、EVEX.RL、EVEX.写掩码控制以及EVEX.N;也以α示出)-如先前所述,该字段是针对上下文的。β字段2254(EVEX字节3,位[6:4]-SSS,也称为EVEX.s2-0、EVEX.r2-0、EVEX.rr1、EVEX.LL0、EVEX.LLB;也以βββ示出)-如先前所述,该字段是针对上下文的。
REX’字段2210-这是REX’字段的其余部分,并且是可用于对扩展的32个寄存器集合的较高16个或较低16个寄存器进行编码的EVEX.V’位字段(EVEX字节3,位[3]–V’)。该位以位反转的格式存储。值1用于对较低16个寄存器进行编码。换句话说,通过组合EVEX.V’、EVEX.vvvv来形成V’VVVV。
写掩码字段2270(EVEX字节3,位[2:0]-kkk)-其内容指定写掩码寄存器中的寄存器索引,如先前所述。在本发明的一个实施例中,特定值EVEX.kkk=000具有暗示没有写掩码用于特定指令的特殊行为(这能以各种方式实现,包括使用硬连线到所有的写掩码或者绕过掩码硬件的硬件来实现)。
实操作码字段2330(字节4)也被称为操作码字节。在该字段中指定操作码的部分。MOD R/M字段2340(字节5)包括MOD字段2342、Reg字段2344以及R/M字段2346。如先前所述,MOD字段2342的内容在存储器访问和非存储器访问操作之间进行区分。Reg字段2344的作用可被归结为两种情形:对目的地寄存器操作数或源寄存器操作数进行编码;或者被视为操作码扩展且不用于对任何指令操作数进行编码。R/M字段2346的作用可包括如下:对引用存储器地址的指令操作数进行编码;或者对目的地寄存器操作数或源寄存器操作数进行编码。
比例、索引、基址(SIB)字节(字节6)-如先前所述,比例字段2250的内容用于存储器地址生成。SIB.xxx 2354和SIB.bbb 2356-先前已经针对寄存器索引Xxxx和Bbbb提及了这些字段的内容。位移字段2262A(字节7-10)-当MOD字段2342包含10时,字节7-10是位移字段2262A,并且它以与传统32位位移(disp32)相同的方式工作,以字节粒度工作。
位移因数字段2262B(字节7)-当MOD字段2342包含01时,字节7是位移因数字段2262B。该字段的位置与以字节粒度工作的传统x86指令集8位位移(disp8)的位置相同。由于disp8是符号扩展的,因此它仅能在-128和127字节偏移量之间寻址;在64字节高速缓存行的方面,disp8使用可被设为仅四个真正有用的值-128、-64、0和64的8位;由于常常需要更大的范围,所以使用disp32;然而,disp32需要4个字节。与disp8和disp32对比,位移因数字段2262B是对disp8的重新解释;当使用位移因数字段2262B时,通过将位移因数字段的内容乘以存储器操作数访问的尺寸(N)来确定实际位移。该类型的位移被称为disp8*N。这减小了平均指令长度(单个字节用于位移,但具有大得多的范围)。此类压缩位移基于有效位移是存储器访问的粒度的倍数的假设,并且由此,不需要对地址偏移量的冗余低阶位进行编码。换句话说,位移因数字段2262B替代传统x86指令集的8位位移。由此,以与x86指令集的8位位移相同的方式对位移因数字段2262B进行编码(因此,在ModRM/SIB编码规则中没有变化),唯一的例外在于,将disp8超载至disp8*N。换句话说,编码规则或编码长度中不存在变化,而仅在通过硬件对位移值的解释中存在变化(这需要通过存储器操作数的尺寸按比例缩放位移量以获得字节式地址偏移量)。立即数字段2272按先前所述进行操作。
图9B是示出根据本发明的一个实施例的、专用向量友好指令格式2300中构成完整操作码字段2274字段的框图。具体而言,完整操作码字段2274包括格式字段2240、基础操作字段2242以及数据元素宽度(W)字段2264。基础操作字段2242包括前缀编码字段2325、操作码映射字段2315以及实操作码字段2330。
图9C是示出根据本发明的一个实施例的、专用向量友好指令格式2300中构成寄存器索引字段2244的字段的框图。具体而言,寄存器索引字段2244包括REX字段2305、REX’字段2310、MODR/M.reg字段2344、MODR/M.r/m字段2346、VVVV字段2320、xxx字段2354以及bbb字段2356。
图9D是示出根据本发明的一个实施例、专用向量友好指令格式2300中构成扩充操作字段2250的字段的框图。当类(U)字段2268包含0时,它表明EVEX.U0(A类2268A);当它包含1时,它表明EVEX.U1(B类2268B)。当U=0且MOD字段2342包含11(表明无存储器访问操作)时,α字段2252(EVEX字节3,位[7]–EH)被解释为rs字段2252A。当rs字段2252A包含1(舍入2252A.1)时,β字段2254(EVEX字节3,位[6:4]–SSS)被解释为舍入控制字段2254A。舍入控制字段2254A包括一位的SAE字段2256和两位的舍入操作字段2258。当rs字段2252A包含0(数据变换2252A.2)时,β字段2254(EVEX字节3,位[6:4]–SSS)被解释为三位的数据变换字段2254B。当U=0且MOD字段2342包含00、01或10(表明存储器访问操作)时,α字段2252(EVEX字节3,位[7]–EH)被解释为驱逐提示(EH)字段2252B且β字段2254(EVEX字节3,位[6:4]–SSS)被解释为三位的数据操纵字段2254C。
当U=1时,α字段2252(EVEX字节3,位[7]–EH)被解释为写掩码控制(Z)字段2252C。当U=1且MOD字段2342包含11(表明无存储器访问操作)时,β字段2254的部分(EVEX字节3,位[4]–S0)被解释为RL字段2257A;当它包含1(舍入2257A.1)时,β字段2254的其余部分(EVEX字节3,位[6-5]–S2-1)被解释为舍入操作字段2259A,而当RL字段2257A包含0(VSIZE 2257.A2)时,β字段2254的其余部分(EVEX字节3,位[6-5]-S2-1)被解释为向量长度字段2259B(EVEX字节3,位[6-5]–L1-0)。当U=1且MOD字段2342包含00、01或10(表明存储器访问操作)时,β字段2254(EVEX字节3,位[6:4]–SSS)被解释为向量长度字段2259B(EVEX字节3,位[6-5]–L1-0)和广播字段2257B(EVEX字节3,位[4]–B)。
图10是根据本发明的一个实施例的寄存器架构2400的框图。在所示出的实施例中,有32个512位宽的向量寄存器2410;这些寄存器被引用为zmm0到zmm31。较低的16个zmm寄存器的较低阶256个位覆盖在寄存器ymm0-16上。较低的16个zmm寄存器的较低阶128个位(ymm寄存器的较低阶128个位)覆盖在寄存器xmm0-15上。专用向量友好指令格式2300按下表所示,对这些覆盖的寄存器组进行操作。
换句话说,向量长度字段2259B在最大长度与一个或多个其他较短长度(其中,此类较短长度的长度是前一个长度的一半)之间进行选择;不具有向量长度字段2259B的指令模板对最大向量长度进行操作。此外,在一个实施例中,专用向量友好指令格式2300的B类指令模板对紧缩或标量单/双精度浮点数据以及紧缩或标量整数数据进行操作。标量操作是对zmm/ymm/xmm寄存器中的最低阶数据元素位置执行的操作;取决于本实施例,较高阶数据元素位置保持与在指令之前相同或者归零。
写掩码寄存器2415-在所示的实施例中,存在8个写掩码寄存器(k0至k7),每一个写掩码寄存器的尺寸为64位。在替代实施例中,写掩码寄存器2415的尺寸为16位。如先前所述的,在本发明的一个实施例中,向量掩码寄存器k0不能用作写掩码;当正常指示k0的编码用作写掩码时,它选择硬连线的写掩码0xFFFF,从而有效地禁用该指令的写掩码操作。
通用寄存器2425——在所示出的实施例中,有十六个64位通用寄存器,这些寄存器结合现有的x86寻址模式,用于寻址存储器操作数。这些寄存器通过名称RAX、RBX、RCX、RDX、RBP、RSI、RDI、RSP以及R8到R15来引用。
标量浮点堆栈寄存器组(x87堆栈)2445,在其上面重叠了MMX紧缩整数平坦寄存器组2450——在所示出的实施例中,x87堆栈是用于使用x87指令集扩展来对32/64/80位浮点数据执行标量浮点操作的八元素堆栈;而将MMX寄存器用于64位紧缩整数数据执行操作,以及用于为在MMX和XMM寄存器之间执行的一些操作保存操作数。
本发明的替代实施例可以使用更宽的或更窄的寄存器。另外,本发明的替代实施例可使用更多、更少或不同的寄存器组和寄存器。
可在不同的处理器中,出于不同的目的,以不同的方式来实现处理器核。例如,此类核的实现可以包括:1)旨在用于通用计算的通用有序核;2)旨在用于通用计算的高性能通用无序核;3)旨在主要用于图形和/或科学(吞吐量)计算的专用核。不同处理器的实现可包括:1)CPU,其包括旨在用于通用计算的一个或多个通用有序核和/或旨在用于通用计算的一个或多个通用无序核;以及2)协处理器,其包括旨在主要用于图形和/或科学(吞吐量)的一个或多个专用核。这样的不同处理器导致不同的计算机系统架构,其可包括:1)在与CPU分开的芯片上的协处理器;2)在与CPU相同的封装中但分开的管芯上的协处理器;3)与CPU在相同管芯上的协处理器(在该情况下,有时将此类协处理器称为专用逻辑(例如,集成图形和/或科学(吞吐量)逻辑)或专用核;以及4)芯片上系统,其可将所描述的CPU(有时被称为应用核或应用处理器)、以上描述的协处理器和附加功能包括在同一管芯上。接着描述示例性核架构,随后描述示例性处理器和计算机架构。
图11A是示出根据本发明的多个实施例的示例性有序流水线和示例性的寄存器重命名的无序发布/执行流水线的框图。图11B是示出根据本发明的多个实施例的要包括在处理器中的有序架构核的示例性实施例和示例性的寄存器重命名的无序发布/执行架构核的框图。实线框示出了有序流水线和有序核,而可选增加的虚线框示出了寄存器重命名的、无序发布/执行流水线和核。考虑到有序方面是无序方面的子集,将描述无序方面。
在图11A中,处理器流水线2500包括取出级2502、长度解码级2504、解码级2506、分配级2508、重命名级2510、调度(也被称为分派或发布)级2512、寄存器读取/存储器读取级2514、执行级2516、写回/存储器写入级2518、异常处理级2522和提交级2524。
图11B示出处理器核2590,其包括耦合到执行引擎单元2550的前端单元2530,且执行引擎单元和前端单元两者都耦合到存储器单元2570。核2590可以是精简指令集计算(RISC)核、复杂指令集计算(CISC)核、超长指令字(VLIW)核或混合或替代核类型。作为又一选项,核2590可以是专用核,诸如例如,网络或通信核、压缩引擎、协处理器核、通用计算图形处理单元(GPGPU)核、图形核等。
前端单元2530包括耦合到指令高速缓存单元2534的分支预测单元2532,该指令高速缓存单元耦合到指令转换后备缓冲器(TLB)2536,该指令转换后备缓冲器耦合到指令取出单元2538,指令取出单元耦合到解码单元2540。解码单元2540(或解码器)可解码指令,并生成从原始指令解码出的、或以其他方式反映原始指令的、或从原始指令导出的一个或多个微操作、微代码进入点、微指令、其他指令或其他控制信号作为输出。解码单元2540可使用各种不同的机制来实现。合适的机制的示例包括但不限于,查找表、硬件实现、可编程逻辑阵列(PLA)、微代码只读存储器(ROM)等。在一个实施例中,核2590包括(例如,在解码单元2540中或以其他方式在前端单元2530中)存储针对某些宏指令的微代码的微代码ROM或其他介质。解码单元2540耦合至执行引擎单元2550中的重命名/分配器单元2552。
执行引擎单元2550包括耦合到引退单元2554和一个或多个调度器单元的集合2556的重命名/分配器单元2552。调度器单元2556表示任意数量的不同调度器,包括预留站、中央指令窗等。调度器单元2556耦合到物理寄存器组单元2558。物理寄存器组单元2558中的每一个表示一个或多个物理寄存器组,其中不同的物理寄存器组存储一个或多个不同的数据类型,例如,标量整数、标量浮点、紧缩整数、紧缩浮点、向量整数、向量浮点,状态(例如,作为要被执行的下一条指令的地址的指令指针)等。
在一个实施例中,物理寄存器组单元2558包括向量寄存器单元、写掩码寄存器单元和标量寄存器单元。这些寄存器单元可以提供架构向量寄存器、向量掩码寄存器、和通用寄存器。物理寄存器组单元2558被引退单元2554覆盖,以示出可实现寄存器重命名和无序执行的各种方式(例如,使用重排序缓冲器和引退寄存器组;使用未来文件(future file)、历史缓冲器、引退寄存器组;使用寄存器映射和寄存器池等)。引退单元2554和物理寄存器组单元2558耦合至执行群集2560。
执行群集2560包括一个或多个执行单元的集合2562以及一个或多个存储器访问单元的集合2564。执行单元2562可执行多种操作(例如,移位、加法、减法、乘法),并且可对多种数据类型(例如,标量浮点、紧缩整数、紧缩浮点、向量整数、向量浮点)执行操作。尽管一些实施例可以包括专用于特定功能或功能集的多个执行单元,但其他实施例可包括全部执行所有功能的仅一个执行单元或多个执行单元。
调度器单元2556、物理寄存器组单元2558和执行群集2560被示为可能有多个,因为某些实施例为某些类型的数据/操作创建分开的流水线(例如,标量整数流水线、标量浮点/紧缩整数/紧缩浮点/向量整数/向量浮点流水线和/或各自具有其自身的调度器单元、物理寄存器组单元和/或执行群集的存储器访问流水线——以及在分开的存储器访问流水线的情况下,实现其中仅该流水线的执行群集具有存储器访问单元2564的某些实施例)。还应当理解,在使用分开的流水线的情况下,这些流水线中的一个或多个可以是无序发布/执行的,并且其余流水线可以是有序发布/执行的。
存储器访问单元的集合2564耦合到存储器单元2570,该存储器单元包括耦合到数据高速缓存单元2574的数据TLB单元2572,其中,数据高速缓存单元耦合到第二级(L2)高速缓存单元2576。在一个示例性实施例中,存储器访问单元2564可包括加载单元、存储地址单元和存储数据单元,其中的每一个均耦合至存储器单元2570中的数据TLB单元2572。指令高速缓存单元2534还耦合到存储器单元2570中的第二级(L2)高速缓存单元2576。L2高速缓存单元2576耦合至一个或多个其他层级的高速缓存,并最终耦合至主存储器。
作为示例,示例性的寄存器重命名的、无序发布/执行核架构可按如下方式实现流水线2500:1)指令取出2538执行取出和长度解码级2502和2504;2)解码单元2540执行解码级2506;3)重命名/分配器单元2552执行分配级2508和重命名级2510;4)调度器单元2556执行调度级2512;5)物理寄存器组单元2558和存储器单元2570执行寄存器读取/存储器读取级2514;执行群集2560执行执行级2516;6)存储器单元2570和物理寄存器组单元2558执行写回/存储器写入级2518;7)各单元可牵涉到异常处理级2522;以及8)引退单元2554和物理寄存器组单元2558执行提交级2524。
核2590可支持一个或多个指令集(例如,x86指令集(在更新的版本中加入了一些扩展);加利福尼亚州桑尼维尔市的MIPS技术公司的MIPS指令集;加利福尼州桑尼维尔市的ARM控股公司的ARM指令集(具有诸如NEON之类的可选附加扩展)),其中包括本文中描述的各指令。在一个实施例中,核2590包括用于支持紧缩数据指令集扩展(例如,AVX1、AVX2和/或先前描述的一些形式的一般向量友好指令格式(U=0和/或U=1))的逻辑,从而允许由许多多媒体应用使用的操作能够使用紧缩数据来执行。
应当理解,核可支持多线程操作(执行两个或更多个并行的操作或线程的集合),并且可以按各种方式来完成该多线程操作,各种方式包括时分多线程操作、同步多线程操作(其中,单个物理核为物理核正在同步进行多线程操作的多个线程中的每一个线程提供逻辑核)或其组合(例如,时分取出和解码以及此后诸如利用超线程技术的同步多线程操作)。
尽管在无序执行的情境中描述了寄存器重命名,但应当理解,可在有序架构中使用寄存器重命名。尽管所示出的处理器的多实施例也包括分开的指令和数据高速缓存单元2534/2574以及共享L2高速缓存单元2576,但替代实施例可具有用于指令和数据两者的单个内部高速缓存,诸如例如,第一级(L1)内部高速缓存或多个层级的内部高速缓存。在一些实施例中,该系统可包括内部高速缓存和在核和/或处理器外部的高速缓存的组合。或者,所有高速缓存都可在核和/或处理器的外部。
图12A和图12B示出更具体的示例性有序核架构的框图,该核将是芯片中的若干逻辑块之一(包括相同类型和/或不同类型的其他核)。取决于应用,这些逻辑块通过高带宽的互连网络(例如,环形网络)与某个固定的功能逻辑、存储器I/O接口和其他必要的I/O逻辑通信。
图12A是根据本发明的多个实施例的单个处理器核以及它与管芯上互连网络2602的连接及其第二级(L2)高速缓存的本地子集2604的框图。在一个实施例中,指令解码器2600支持具有紧缩数据指令集扩展的x86指令集。L1高速缓存2606允许对进入标量和向量单元中的高速缓存存储器的低等待时间访问。尽管在一个实施例中(为了简化设计),标量单元2608和向量单元2610使用分开的寄存器集合(分别为标量寄存器2612和向量寄存器2614),并且在这些寄存器之间转移的数据被写入到存储器,并随后从第一级(L1)高速缓存2606读回,但是本发明的替代实施例可使用不同的方法(例如,使用单个寄存器集合或包括允许数据在这两个寄存器组之间传输而无需被写入和读回的通信路径)。
L2高速缓存的本地子集2604是全局L2高速缓存的部分,该全局L2高速缓存被划分成多个分开的本地子集,针对每一个处理器核由有一个本地子集。每个处理器核具有去往其自身的L2高速缓存2604的本地子集的直接访问路径。将由处理器核读取的数据存储在其L2高速缓存子集2604中,并且可以与其他处理器核访问其自身的本地L2高速缓存子集一起,并行地快速访问这些数据。将由处理器核写入的数据存储在其自身的L2高速缓存子集2604中,并在必要的情况下从其他子集中转储清除这些数据。环形网络确保共享数据的一致性。环形网络是双向的,以允许诸如处理器核、L2高速缓存和其他逻辑块之类的代理在芯片内彼此通信。每个环形数据路径为每个方向1012位宽。
图12B是根据本发明的多个实施例的、图12A中的处理器核的部分的展开图。图12B包括L1高速缓存2604的L1数据高速缓存2606A部分,以及关于向量单元2610和向量寄存器2614的更多细节。具体而言,向量单元2610是16宽向量处理单元(VPU)(见16宽ALU 2628),该单元执行整数、单精度浮点以及双精度浮点指令中的一个或多个。该VPU利用混合单元2620支持对寄存器输入的混合,利用数值转换单元2622A-B支持数值转换,并且利用复制单元2624支持对存储器输入的复制。写掩码寄存器2626允许预测所得的向量写入。
图13是根据本发明的多个实施例的、可能具有多于一个的核、可能具有集成存储器控制器、并且可能具有集成图形器件的处理器2700的框图。图13中的实线框示出具有单个核2702A、系统代理2710、一个或多个总线控制器单元的集合2716的处理器2700,而虚线框的可选附加示出具有多个核2702A-N、系统代理单元2710中的一个或多个集成存储器控制器单元的结合2714以及专用逻辑2708的替代处理器2700。
因此,处理器2700的不同实现可包括:1)CPU,其中专用逻辑2708是集成图形和/或科学(吞吐量)逻辑(其可包括一个或多个核),并且核2702A-N是一个或多个通用核(例如,通用有序核、通用无序核、这两者的组合);2)协处理器,其中核2702A-N是旨在主要用于图形和/或科学(吞吐量)的大量专用核;以及3)协处理器,其中核2702A-N是大量通用有序核。因此,处理器2700可以是通用处理器、协处理器或专用处理器,该专用处理器诸如例如,网络或通信处理器、压缩引擎、图形处理器、GPGPU(通用图形处理单元)、高吞吐量的集成众核(MIC)协处理器(包括30个或更多核)、嵌入式处理器等。该处理器可以被实现在一个或多个芯片上。处理器2700可以是一个或多个基板的一部分,并且/或者可使用多种工艺技术(诸如,BiCMOS、CMOS、或NMOS)中的任意技术被实现在一个或多个基板上。
存储器层次结构包括核内的一个或多个层级的高速缓存、一组或一个或多个共享高速缓存单元2706以及耦合至集成存储器控制器单元的集合2714的外部存储器(未示出)。共享高速缓存单元的集合2706可包括一个或多个中级高速缓存,诸如,第二级(L2)、第三级(L3)、第四级(L4)或其他层级的高速缓存、末级高速缓存(LLC)和/或以上的组合。尽管在一个实施例中,基于环的互连单元2712将集成图形逻辑2708、共享高速缓存单元的集合2706以及系统代理单元2710/集成存储器控制器单元2714互连,但替代实施例可使用任何数量的公知技术来将此类单元互连。在一个实施例中,可维护一个或多个高速缓存单元2706和核2702A-N之间的一致性(coherency)。
在一些实施例中,一个或多个核2702A-N能够进行多线程操作。系统代理2710包括协调并操作核2702A-N的那些组件。系统代理单元2710可包括例如功率控制单元(PCU)和显示单元。PCU可以是或可包括调节核2702A-N和集成图形逻辑2708的功率状态所需的逻辑和组件。显示单元用于驱动一个或多个外部连接的显示器。
核2702A-N在架构指令集方面可以是同构的或异构的;也就是说,这些核2702A-N中的两个或更多个核可能能够执行相同的指令集,而其他核可能能够执行该指令集的仅仅子集或不同的指令集。
图14到图18是示例性计算机架构的框图。本领域已知的对膝上型计算机、台式机、手持PC、个人数字助理、工程工作站、服务器、网络设备、网络集线器、交换机、嵌入式处理器、数字信号处理器(DSP)、图形设备、视频游戏设备、机顶盒、微控制器、蜂窝电话、便携式媒体播放器、手持设备以及各种其他电子设备的其他系统设计和配置也是合适的。一般地,能够包含本文中所公开的处理器和/或其他执行逻辑的多个系统和电子设备通常都是合适的。
现在参考图14,所示出的是根据本发明一个实施例的系统2800的框图。系统2800可包括一个或多个处理器2810、2815,这些处理器耦合到控制器中枢2820。在一个实施例中,控制器中枢2820包括图形存储器控制器中枢(GMCH)2890和输入/输出中枢(IOH)2850(其可在分开的芯片上);GMCH 2890包括存储器和图形控制器,存储器2840和协处理器2845耦合到该存储器和图形控制器;IOH 2850将输入/输出(I/O)设备2860耦合到GMCH 2890。或者,存储器和图形控制器中的一个或两者可以被集成在处理器内(如本文中所描述的),存储器2840和协处理器2845直接耦合到处理器2810以及控制器中枢2820,控制器中枢2820与IOH 2850处于单个芯片中。
附加的处理器2815的可选性质在图14中通过虚线来表示。每个处理器2810、2815可包括本文中描述的处理核中的一个或多个,并且可以是处理器2700的某一版本。
存储器2840可以是例如动态随机存取存储器(DRAM)、相变存储器(PCM)或这两者的组合。对于至少一个实施例,控制器中枢2820经由诸如前端总线(FSB)之类的多分支总线、诸如快速通道互连(QPI)之类的点对点接口、或者类似的连接2895与处理器2810、2815进行通信。
在一个实施例中,协处理器2845是专用处理器,诸如例如,高吞吐量MIC处理器、网络或通信处理器、压缩引擎、图形处理器、GPGPU、嵌入式处理器等。在一个实施例中,控制器中枢2820可以包括集成图形加速器。
在物理资源2810、2815之间可存在包括架构、微架构、热和功耗特征等的一系列品质度量方面的各种差异。
在一个实施例中,处理器2810执行控制一般类型的数据处理操作的指令。协处理器指令可嵌入在这些指令中。处理器2810将这些协处理器指令识别为应当由附连的协处理器2845执行的类型。因此,处理器2810在协处理器总线或者其他互连上将这些协处理器指令(或者表示协处理器指令的控制信号)发布到协处理器2845。协处理器2845接受并执行所接收的协处理器指令。
现在参考图15,所示为根据本发明的实施例的更具体的第一示例性系统2900的框图。如图15所示,多处理器系统2900是点对点互连系统,并且包括经由点对点互连2950耦合的第一处理器2970和第二处理器2980。处理器2970和2980中的每一个都可以是处理器2700的某一版本。在本发明的一个实施例中,处理器2970和2980分别是处理器2810和2815,而协处理器2938是协处理器2945。在另一实施例中,处理器2970和2980分别是处理器2810和协处理器2845。
处理器2970和2980被示出为分别包括集成存储器控制器(IMC)单元2972和2982。处理器2970也包括作为其总线控制器单元的部分的点对点(P-P)接口2976和2978;类似地,第二处理器2980包括P-P接口2986和2988。处理器2970、2980可以经由使用点对点(P-P)接口电路2978、2988的P-P接口2950来交换信息。如图15所示,IMC 2972和2982将处理器耦合到各自的存储器,即存储器2932和存储器2934,这些存储器可以是本地附连到各自处理器的主存储器的部分。
处理器2970、2980可各自经由使用点对点接口电路2976、2994、2986、2998的各个P-P接口2952、2954与芯片组2990交换信息。芯片组2990可以可选地经由高性能接口2939与协处理器2938交换信息。在一个实施例中,协处理器2938是专用处理器,诸如例如,高吞吐量MIC处理器、网络或通信处理器、压缩引擎、图形处理器、GPGPU、嵌入式处理器等。
可将共享高速缓存(未示出)包括在任一处理器中,或包括在两个处理器的外部但经由P-P互连与这些处理器连接,使得如果将处理器置于低功率模式,则可将这两个处理器中的任意一个或两个的本地高速缓存信息存储在该共享的高速缓存中。芯片组2990可以经由接口2996耦合至第一总线2916。在一个实施例中,第一总线2916可以是外围组件互连(PCI)总线或诸如PCI高速总线或另一第三代I/O互连总线之类的总线,但是本发明的范围不限于此。
如图15所示,各种I/O设备2914可连同总线桥2918一起耦合到第一总线2916,总线桥2918将第一总线2916耦合到第二总线2920。在一个实施例中,诸如协处理器、高吞吐量MIC处理器、GPGPU的处理器、加速器(诸如例如,图形加速器或数字信号处理(DSP)单元)、现场可编程门阵列或任何其他处理器之类的一个或多个附加处理器2915耦合到第一总线2916。在一个实施例中,第二总线2920可以是低引脚计数(LPC)总线。各种设备可以被耦合至第二总线2920,在一个实施例中,这些设备包括例如,键盘/鼠标2922、通信设备2927以及诸如可包括指令/代码和数据2930的盘驱动器或其他大容量存储设备之类的存储单元2928。此外,音频I/O2924可以被耦合至第二总线2920。注意,其他架构是可能的。例如,代替图15中的点对点架构,系统可以实现多分支总线或其他此类架构。
现在参考图16,所示为根据本发明的实施例的更具体的第二示例性系统3000的框图。图16和图17中的类似元件使用类似附图标记,且在图16中省略了图15的某些方面以避免使图16的其他方面模糊。图16示出处理器2970、2980可分别包括集成存储器和I/O控制逻辑(”CL”)2972和2982。因此,CL 2972、2982包括集成存储器控制器单元并包括I/O控制逻辑。图16示出不仅存储器2932、2934耦合至CL 2972、2982,而且I/O设备3014也耦合至控制逻辑2972、2982。传统I/O设备3015被耦合至芯片组2990。
现在参考图17,所示出的是根据本发明的实施例的SoC 3100的框图。图13中的相似组件具有相同的标号。另外,虚线框是更先进的SoC上的可选特征。在图17中,互连单元3102被耦合至:应用处理器3110,其包括一个或多个核的集合202A-N以及共享高速缓存单元2706;系统代理单元2710;总线控制器单元2716;集成存储器控制器单元2714;一组或一个或多个协处理器3120,其可包括集成图形逻辑、图像处理器、音频处理器和视频处理器;静态随机存取存储器(SRAM)单元3130;直接存储器存取(DMA)单元3132;显示单元3140,其以及用于耦合至一个或多个外部显示器。在一个实施例中,协处理器3120包括专用处理器,诸如例如,网络或通信处理器、压缩引擎、GPGPU、高吞吐量MIC处理器、嵌入式处理器等。
本文公开的机制的各实施例可以被实现在硬件、软件、固件或此类实现方式的组合中。可将本发明的多个实施例实现为在可编程系统上执行的计算机程序或程序代码,该可编程系统包括至少一个处理器、存储系统(包括易失性和非易失性存储器和/或存储元件)、至少一个输入设备以及至少一个输出设备。
可将程序代码(诸如图15中示出的代码2930)应用于输入指令,以执行本文描述的多个功能并生成输出信息。可以按已知方式将输出信息应用于一个或多个输出设备。为了本申请的目的,处理系统包括具有诸如例如数字信号处理器(DSP)、微控制器、专用集成电路(ASIC)或微处理器之类的处理器的任何系统。
程序代码可以用高级程序化语言或面向对象的编程语言来实现,以便与处理系统通信。在需要时,也可用汇编语言或机器语言来实现程序代码。事实上,本文中描述的机制不限于任何特定编程语言的范围。在任何情况下,该语言可以是编译语言或解释语言。
至少一个实施例的一个或多个方面可由存储在表示处理器中的各种逻辑的机器可读介质上的表示性指令来实现,当由机器读取这些表示性指令时,这些指令使该机器制作用于执行本文所述的技术的逻辑。可将被称为“IP核”的此类表示存储在有形的机器可读介质上,并将其提供给各种客户或生产设施,以便加载到实际制造该逻辑或处理器的制造机器中。
此类机器可读存储介质可以包括但不限于通过机器或设备制造或形成的物品的非瞬态的有形安排,其包括存储介质,诸如:硬盘;任何其他类型的盘,包括软盘、光盘、紧致盘只读存储器(CD-ROM)、紧致盘可重写(CD-RW)以及磁光盘;半导体器件,例如只读存储器(ROM)、诸如动态随机存取存储器(DRAM)和静态随机存取存储器(SRAM)之类的随机存取存储器(RAM)、可擦除可编程只读存储器(EPROM)、闪存、电可擦除可编程只读存储器(EEPROM);相变存储器(PCM);磁卡或光卡;或适于存储电子指令的任何其他类型的介质。
相应地,本发明的多个实施例也包括非瞬态的有形机器可读介质,该介质包含指令或包含定义本文中描述的结构、电路、装置、处理器和/或系统特征的设计数据(例如,硬件描述语言(HDL))。也将此类实施例称为程序产品。
在一些情况下,指令转换器可用来将指令从源指令集转换至目标指令集。例如,指令转换器可变换(例如,使用静态二进制变换、包括动态编译的动态二进制变换)、变形、仿真指令或以其他方式将指令转换成将由核来处理的一条或多条其他指令。可在软件、硬件、固件或其组合中实现该指令转换器。指令转换器可在处理器上、在处理器外、或者部分在处理器上且部分在处理器外。
图18是根据本发明的多个实施例的对照使用软件指令转换器将源指令集中的二进制指令转换成目标指令集中的二进制指令的框图。在所示的实施例中,指令转换器是软件指令转换器,但也可替代地在软件、固件、硬件或其各种组合中实现该指令转换器。图18示出可使用x86编译器3204来编译利用高级语言3202的程序,以生成可由具有至少一个x86指令集核的处理器3216原生地执行的x86二进制代码3206。具有至少一个x86指令集核的处理器3216表示能通过兼容地执行或以其他方式处理以下内容来执行与具有至少一个x86指令集核的英特尔处理器基本相同功能的任何处理器:1)英特尔x86指令集核的指令集的本质部分,或2)目标为在具有至少一个x86指令集核的英特尔处理器上运行以取得与具有至少一个x86指令集核的英特尔处理器基本相同的结果的应用或其他软件的目标代码版本。x86编译器3204表示用于生成x86二进制代码3206(例如,目标代码)的编译器,该二进制代码可通过或不通过附加的链接处理在具有至少一个x86指令集核的处理器3216上被执行。类似地,图18示出可使用替代的指令集编译器3208来编译利用高级语言3202的程序,以生成可以由不具有至少一个x86指令集核的处理器3214(例如,具有执行加利福尼亚州桑尼维尔市的MIPS技术公司的MIPS指令集和/或执行加利福尼亚州桑尼维尔市的ARM控股公司的ARM指令集的核的处理器)原生地执行的替代指令集二进制代码3210。指令转换器3212被用来将x86二进制代码3206转换成可以由不具有x86指令集核的处理器3214原生地执行的代码。该被转换的代码不大可能与替代的指令集二进制代码3210相同,因为能够这样做的指令转换器难以制造;然而,被转换的代码将完成一般操作,并且由来自替代指令集中的指令构成。因此,指令转换器3212通过仿真、模拟或任何其他过程来表示允许不具有x86指令集处理器或核的处理器或其他电子设备执行x86二进制代码3206的软件、固件、硬件或其组合。
根据一个实施例,处理器包括:指令调度和分派(调度/分派)单元,用于接收单指令多数据(SIMD)指令,该SIMD指令用于对存储在由第一源操作数指示的存储位置中的多个数据元素执行操作,该指令调度/分派单元用于基于第二源操作数确定数据元素中的第一数据元素,该第一数据元素将不被操作而生成被写入到目的地操作数中的结果;多个处理元件,耦合至指令调度/分派单元,这些处理元件用于以向量方式处理SIMD指令的数据元素;以及功率管理单元,耦合至指令调度/分派单元,该功率管理单元用于减少多个处理元件中的配置为用于处理第一数据元素的第一处理元件的功耗。
功率管理单元包括时钟门控逻辑,其用于减小去往第一处理元件的时钟信号的时钟频率。该时钟门控逻辑配置成用于关闭去往第一处理元件的时钟信号。功率管理单元配置成用于减小配置成用于处理第一数据元素的第一处理元件的算术逻辑单元(ALU)的时钟频率。功率管理单元配置成用于减少与第一数据元素相关联的寄存器组的功耗。功率管理单元配置成用于减少与第一数据元素相关联的引退单元的写回路径的功耗。功率管理单元配置成用于减少去往与第一数据元素相关联的存储器位置的数据总线分派路径的功耗。第二源操作数包括对应于数据元素的多个位,其中,每一位存储指示对应的数据元素是否应当被操作的逻辑值。
根据一些方面,处理器包括:指令调度和分派(调度/分派)单元,用于接收单指令多数据(SIMD)指令,该SIMD指令用于对存储在由第一源操作数指示的存储位置中的多个数据元素执行操作,该指令调度/分派单元用于基于第二源操作数确定数据元素中的第一数据元素,该第一数据元素将不被操作而生成被写入到目的地操作数中的结果;多个处理元件,耦合至指令调度/分派单元,这些处理元件用于以向量方式处理所述SIMD指令的数据元素;以及功率管理单元,耦合至指令调度/分派单元,该功率管理单元用于减少多个处理元件中的、配置为用于处理第一数据元素的第一处理元件的功耗。功率管理单元包括时钟门控逻辑,其用于减小去往第一处理元件的时钟信号的时钟频率。该时钟门控逻辑配置成用于关闭去往第一处理元件的时钟信号。功率管理单元配置成用于减小配置成用于处理第一数据元素的第一处理元件的算术逻辑单元(ALU)的时钟频率。功率管理单元配置成用于减少与第一数据元素相关联的寄存器组的功耗。功率管理单元配置成用于减少与第一数据元素相关联的引退单元的写回路径的功耗。功率管理单元配置成用于减少去往与第一数据元素相关联的存储器位置的数据总线分派路径的功耗。第二源操作数包括对应于数据元素的多个位,其中,每一位存储指示对应的数据元素是否应当被操作的逻辑值。
已在对计算机存储器中的数据位的算法和符号表示方面呈现了前述具体实施方式的一些部分。这些算法描述及表示是由数据处理领域的技术人员用于向本领域的其他技术人员最有效地传达其工作实质的方式。算法在此一般被理解为导致所需结果的自洽的操作序列。这些操作是需要对物理量进行物理操控的操作。
然而,应当记住,所有这些和/或类似的术语用于与适当的物理量关联,并且仅仅是应用于这些量的方便的标记。除非特别声明,否则根据上述讨论显而易见的是,会理解在本说明书的通篇中,利用诸如所附权利要求中陈述的那些术语之类的术语的讨论是指计算机系统或类似电子计算设备的动作和过程,该计算机系统或类似的电子计算设备操纵被表示为计算机系统的寄存器和存储器中的物理(电子)量的数据,并将这些数据变换为类似地被表示为计算机系统存储器或寄存器或其他此类信息存储、传输或显示设备中的物理量的其他数据。
可使用存储在一个或多个电子设备并且在一个或多个电子设备上执行的代码和数据来实现图中所示的多种技术。此类电子设备使用计算机可读介质存储并传递(内部地和/或在网络上与其他电子设备进行)代码和数据,计算机可读介质例如,非瞬态计算机可读取的存储介质(例如,磁盘;光盘;随机存取存储器;只读存储器;闪存设备;相变存储器)和瞬态计算机可读传输介质(例如,电、光、声或其他形式的传播的信号——诸如载波,红外信号、数字信号等)。
前述附图中所描绘的过程或方法可通过包括硬件(例如,电路、专用逻辑等)、固件、软件(例如,被具体化在非瞬态计算机可读介质上的软件)或两者的组合的处理逻辑来执行。虽然上文按照一些顺序操作描述了过程或方法,但是,应当理解,能以不同的顺序来执行所描述的操作中的一些。此外,可并行地而非顺序地执行一些操作。
在前述的说明书中,已本发明的特定示例性实施例描述了本发明的多个实施例。显然,可对这些实施例作出各种修改,而不背离所附权利要求所陈述的本发明的更广泛的精神和范围。相应地,应当将说明书和附图应认为是说明性的而不是限制性的。
Claims (24)
1.一种处理器,包括:
指令调度和分派(调度/分派)单元,用于接收单指令多数据(SIMD)指令,所述SIMD指令用于对存储在由第一源操作数指示的存储位置中的多个数据元素执行操作,所述指令调度/分派单元用于基于第二源操作数确定所述数据元素中的第一数据元素,所述第一数据元素将不被操作而生成被写入到目的地操作数中的结果;
多个处理元件,耦合至所述指令调度/分派单元,所述多个处理元件用于以向量方式处理所述SIMD指令的所述数据元素;以及
功率管理单元,耦合至所述指令调度/分派单元,所述功率管理单元用于减少所述多个处理元件中的配置为用于处理所述第一数据元素的第一处理元件的功耗。
2.如权利要求1所述的处理器,其特征在于,所述功率管理单元包括时钟门控逻辑,所述时钟门控逻辑用于减小去往所述第一处理元件的时钟信号的时钟频率。
3.如权利要求2所述的处理器,其特征在于,所述时钟门控逻辑配置成用于关闭去往所述第一处理元件的时钟信号。
4.如权利要求2所述的处理器,其特征在于,所述功率管理单元配置成用于减少配置成用于处理所述第一数据元素的所述第一处理元件的算术逻辑单元(ALU)的时钟频率。
5.如权利要求2所述的处理器,其特征在于,所述功率管理单元配置成用于减少与所述第一数据元素相关联的寄存器组的功耗。
6.如权利要求2所述的处理器,其特征在于,所述功率管理单元配置成用于减少与所述第一数据元素相关联的引退单元的写回路径的功耗。
7.如权利要求2所述的处理器,其特征在于,所述功率管理单元配置成用于减少去往与所述第一数据元素相关联的存储器位置的数据总线分派路径的功耗。
8.如权利要求1所述的处理器,其特征在于,所述第二源操作数包括对应于所述数据元素的多个位,其中,每一位存储指示对应的数据元素是否应当被操作的逻辑值。
9.一种方法,包括:
在处理器的指令调度和分派(调度/分派)单元处,接收单指令多数据(SIMD)指令,所述SIMD指令用于对存储在由第一源操作数指示的存储位置中的多个数据元素执行操作,所述指令调度/分派单元用于基于第二源操作数确定所述数据元素中的第一数据元素,所述第一数据元素将不被操作而生成被写入到目的地操作数中的结果;
由耦合至所述指令调度/分派单元的多个处理元件以向量方式处理所述SIMD指令的所述数据元素;以及
由耦合至所述指令调度/分派单元的功率管理单元减少所述多个处理元件中的配置成用于处理所述第一数据元素的第一处理元件的功耗。
10.如权利要求9所述的方法,其特征在于,所述功率管理单元包括时钟门控逻辑,所述时钟门控逻辑用于减小去往所述第一处理元件的时钟信号的时钟频率。
11.如权利要求2所述的方法,其特征在于,所述时钟门控逻辑配置成用于关闭去往所述第一处理元件的时钟信号。
12.如权利要求10所述的方法,其特征在于,所述功率管理单元配置成用于减小配置成用于处理所述第一数据元素的所述第一处理元件的算术逻辑单元(ALU)的时钟频率。
13.如权利要求10所述的方法,其特征在于,所述功率管理单元配置成用于减少与所述第一数据元素相关联的寄存器组的功耗。
14.如权利要求10所述的方法,其特征在于,所述功率管理单元配置成用于减少与所述第一数据元素相关联的引退单元的写回路径的功耗。
15.如权利要求10所述的方法,其特征在于,所述功率管理单元配置成用于减少去往与所述第一数据元素相关联的存储器位置的数据总线分派路径的功耗。
16.如权利要求9所述的方法,其特征在于,所述第二源操作数包括对应于所述数据元素的多个位,其中,每一位存储指示对应的数据元素是否应当被操作的逻辑值。
17.一种系统,包括:
互连;
动态随机存取存储器(DRAM),耦合至所述互连;以及
处理器,耦合至所述互连,所述处理器包括:
指令调度和分派(调度/分派)单元,用于接收单指令多数据(SIMD)指令,所述SIMD指令用于对存储在由第一源操作数指示的存储位置中的多个数据元素执行操作,所述指令调度/分派单元用于基于第二源操作数确定所述数据元素中的第一数据元素,所述第一数据元素将不被操作而生成被写入到目的地操作数中的结果,
多个处理元件,耦合至所述指令调度/分派单元,所述多个处理元件用于以向量方式处理所述SIMD指令的所述数据元素,以及
功率管理单元,耦合至指令调度/分派单元,所述功率管理单元用于减少所述多个处理元件中的配置为用于处理所述第一数据元素的第一处理元件的功耗。
18.如权利要求17所述的系统,其特征在于,所述功率管理单元包括时钟门控逻辑,所述时钟门控逻辑用于减小去往所述第一处理元件的时钟信号的时钟频率。
19.如权利要求18所述的系统,其特征在于,所述时钟门控逻辑配置成用于关闭去往所述第一处理元件的时钟信号。
20.如权利要求18所述的系统,其特征在于,所述功率管理单元配置成用于减小配置成用于处理所述第一数据元素的所述第一处理元件的算术逻辑单元(ALU)的时钟频率。
21.如权利要求18所述的系统,其特征在于,所述功率管理单元配置成用于减少与所述第一数据元素相关联的寄存器组的功耗。
22.如权利要求18所述的系统,其特征在于,所述功率管理单元配置成用于减少与所述第一数据元素相关联的引退单元的写回路径的功耗。
23.如权利要求18所述的系统,其特征在于,所述功率管理单元配置成用于减少去往与所述第一数据元素相关联的存储器位置的数据总线分派路径的功耗。
24.如权利要求17所述的系统,其特征在于,所述第二源操作数具有对应于所述数据元素的多个位,其中,每一位存储指示对应的数据元素是否应当被操作的逻辑值。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/US2012/070628 WO2014098845A1 (en) | 2012-12-19 | 2012-12-19 | Vector mask driven clock gating for power efficiency of a processor |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104813277A true CN104813277A (zh) | 2015-07-29 |
CN104813277B CN104813277B (zh) | 2019-06-28 |
Family
ID=50978933
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201280077162.4A Active CN104813277B (zh) | 2012-12-19 | 2012-12-19 | 用于处理器的功率效率的向量掩码驱动时钟门控 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10133577B2 (zh) |
CN (1) | CN104813277B (zh) |
DE (1) | DE112012007058T5 (zh) |
WO (1) | WO2014098845A1 (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107851016A (zh) * | 2015-07-31 | 2018-03-27 | Arm 有限公司 | 向量算术指令 |
CN107977227A (zh) * | 2016-10-21 | 2018-05-01 | 超威半导体公司 | 包括不同指令类型的独立硬件数据路径的管线 |
CN108227896A (zh) * | 2016-12-09 | 2018-06-29 | 英特尔公司 | 用于并行多步骤功率管理流程的指令和逻辑 |
CN108369509A (zh) * | 2015-12-21 | 2018-08-03 | 英特尔公司 | 用于基于通道的跨步分散操作的指令和逻辑 |
CN109564459A (zh) * | 2016-08-29 | 2019-04-02 | 英特尔公司 | 用于自动自适应电压控制的方法和设备 |
CN110764823A (zh) * | 2019-09-02 | 2020-02-07 | 芯创智(北京)微电子有限公司 | 一种指令流水线的回路控制系统及方法 |
CN111737186A (zh) * | 2016-10-10 | 2020-10-02 | 英特尔公司 | 多管芯硬件处理器和方法 |
Families Citing this family (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10157060B2 (en) | 2011-12-29 | 2018-12-18 | Intel Corporation | Method, device and system for control signaling in a data path module of a data stream processing engine |
US10732689B2 (en) | 2013-07-09 | 2020-08-04 | Texas Instruments Incorporated | Controlling the number of powered vector lanes via a register field |
US10331583B2 (en) | 2013-09-26 | 2019-06-25 | Intel Corporation | Executing distributed memory operations using processing elements connected by distributed channels |
US10102002B2 (en) * | 2014-09-30 | 2018-10-16 | International Business Machines Corporation | Dynamic issue masks for processor hang prevention |
US9927862B2 (en) | 2015-05-21 | 2018-03-27 | Microsoft Technology Licensing, Llc | Variable precision in hardware pipelines for power conservation |
US9977680B2 (en) | 2016-09-30 | 2018-05-22 | International Business Machines Corporation | Clock-gating for multicycle instructions |
US10558575B2 (en) | 2016-12-30 | 2020-02-11 | Intel Corporation | Processors, methods, and systems with a configurable spatial accelerator |
US10572376B2 (en) | 2016-12-30 | 2020-02-25 | Intel Corporation | Memory ordering in acceleration hardware |
KR102343652B1 (ko) * | 2017-05-25 | 2021-12-24 | 삼성전자주식회사 | 벡터 프로세서의 서열 정렬 방법 |
US11086816B2 (en) | 2017-09-28 | 2021-08-10 | Intel Corporation | Processors, methods, and systems for debugging a configurable spatial accelerator |
US20190101952A1 (en) * | 2017-09-30 | 2019-04-04 | Intel Corporation | Processors and methods for configurable clock gating in a spatial array |
US10565134B2 (en) | 2017-12-30 | 2020-02-18 | Intel Corporation | Apparatus, methods, and systems for multicast in a configurable spatial accelerator |
CN108268349B (zh) * | 2018-01-08 | 2021-05-18 | 青岛雷神科技股份有限公司 | 一种基于intel avx指令集的浮点峰值计算吞吐测试方法 |
US11307873B2 (en) | 2018-04-03 | 2022-04-19 | Intel Corporation | Apparatus, methods, and systems for unstructured data flow in a configurable spatial accelerator with predicate propagation and merging |
US10564980B2 (en) | 2018-04-03 | 2020-02-18 | Intel Corporation | Apparatus, methods, and systems for conditional queues in a configurable spatial accelerator |
US10891240B2 (en) | 2018-06-30 | 2021-01-12 | Intel Corporation | Apparatus, methods, and systems for low latency communication in a configurable spatial accelerator |
US11200186B2 (en) | 2018-06-30 | 2021-12-14 | Intel Corporation | Apparatuses, methods, and systems for operations in a configurable spatial accelerator |
CN110716750A (zh) * | 2018-07-11 | 2020-01-21 | 超威半导体公司 | 用于部分波前合并的方法和系统 |
US10678724B1 (en) | 2018-12-29 | 2020-06-09 | Intel Corporation | Apparatuses, methods, and systems for in-network storage in a configurable spatial accelerator |
US10965536B2 (en) | 2019-03-30 | 2021-03-30 | Intel Corporation | Methods and apparatus to insert buffers in a dataflow graph |
US11029927B2 (en) | 2019-03-30 | 2021-06-08 | Intel Corporation | Methods and apparatus to detect and annotate backedges in a dataflow graph |
US10915471B2 (en) | 2019-03-30 | 2021-02-09 | Intel Corporation | Apparatuses, methods, and systems for memory interface circuit allocation in a configurable spatial accelerator |
US10817291B2 (en) | 2019-03-30 | 2020-10-27 | Intel Corporation | Apparatuses, methods, and systems for swizzle operations in a configurable spatial accelerator |
US11037050B2 (en) | 2019-06-29 | 2021-06-15 | Intel Corporation | Apparatuses, methods, and systems for memory interface circuit arbitration in a configurable spatial accelerator |
US11074213B2 (en) * | 2019-06-29 | 2021-07-27 | Intel Corporation | Apparatuses, methods, and systems for vector processor architecture having an array of identical circuit blocks |
US11907713B2 (en) | 2019-12-28 | 2024-02-20 | Intel Corporation | Apparatuses, methods, and systems for fused operations using sign modification in a processing element of a configurable spatial accelerator |
US11327760B2 (en) * | 2020-04-09 | 2022-05-10 | Huawei Technologies Co., Ltd. | Method and apparatus for balancing binary instruction burstization and chaining |
US11775298B2 (en) * | 2020-04-24 | 2023-10-03 | Intel Corporation | Frequency scaling for per-core accelerator assignments |
US11816488B2 (en) * | 2021-11-10 | 2023-11-14 | Huawei Technologies Co., Ltd. | Method and apparatus for dynamically simplifying processor instructions |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101458558A (zh) * | 2007-12-10 | 2009-06-17 | 英特尔公司 | 将处理器封装转换到低功率状态 |
US7644255B2 (en) * | 2005-01-13 | 2010-01-05 | Sony Computer Entertainment Inc. | Method and apparatus for enable/disable control of SIMD processor slices |
CN101833475A (zh) * | 2005-06-23 | 2010-09-15 | 英特尔公司 | 用于增强线程级推测的原语 |
US20110154079A1 (en) * | 2009-12-18 | 2011-06-23 | Dixon Martin G | Instruction For Enabling A Procesor Wait State |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5262973A (en) * | 1992-03-13 | 1993-11-16 | Sun Microsystems, Inc. | Method and apparatus for optimizing complex arithmetic units for trivial operands |
US6745336B1 (en) * | 1999-05-20 | 2004-06-01 | Princeton University | System and method of operand value based processor optimization by detecting a condition of pre-determined number of bits and selectively disabling pre-determined bit-fields by clock gating |
KR100598010B1 (ko) * | 2004-08-06 | 2006-07-06 | 삼성전자주식회사 | 클럭 분배기, 클럭 분배기를 포함한 시스템, 클럭 분배방법 및 클럭 분배를 이용한 데이터 읽기 및 쓰기 방법 |
US7779287B2 (en) * | 2005-08-22 | 2010-08-17 | Intel Corporation | Reducing power consumption in multiprocessor systems |
US7279950B2 (en) * | 2005-09-27 | 2007-10-09 | International Business Machines Corporation | Method and system for high frequency clock signal gating |
US7624253B2 (en) * | 2006-10-25 | 2009-11-24 | Arm Limited | Determining register availability for register renaming |
JP4729007B2 (ja) | 2007-06-20 | 2011-07-20 | 株式会社東芝 | 消費電力解析装置および消費電力解析方法 |
US8225245B2 (en) * | 2009-10-30 | 2012-07-17 | Oracle America, Inc. | Method of implementing physically realizable and power-efficient clock gating in microprocessor circuits |
US9110802B2 (en) * | 2010-11-05 | 2015-08-18 | Advanced Micro Devices, Inc. | Processor and method implemented by a processor to implement mask load and store instructions |
US9430243B2 (en) * | 2012-04-30 | 2016-08-30 | Apple Inc. | Optimizing register initialization operations |
US9569211B2 (en) * | 2012-08-03 | 2017-02-14 | International Business Machines Corporation | Predication in a vector processor |
-
2012
- 2012-12-19 CN CN201280077162.4A patent/CN104813277B/zh active Active
- 2012-12-19 WO PCT/US2012/070628 patent/WO2014098845A1/en active Application Filing
- 2012-12-19 US US13/997,791 patent/US10133577B2/en active Active
- 2012-12-19 DE DE112012007058.5T patent/DE112012007058T5/de active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7644255B2 (en) * | 2005-01-13 | 2010-01-05 | Sony Computer Entertainment Inc. | Method and apparatus for enable/disable control of SIMD processor slices |
CN101833475A (zh) * | 2005-06-23 | 2010-09-15 | 英特尔公司 | 用于增强线程级推测的原语 |
CN101458558A (zh) * | 2007-12-10 | 2009-06-17 | 英特尔公司 | 将处理器封装转换到低功率状态 |
US20110154079A1 (en) * | 2009-12-18 | 2011-06-23 | Dixon Martin G | Instruction For Enabling A Procesor Wait State |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107851016A (zh) * | 2015-07-31 | 2018-03-27 | Arm 有限公司 | 向量算术指令 |
CN107851016B (zh) * | 2015-07-31 | 2022-05-17 | Arm 有限公司 | 向量算术指令 |
CN108369509A (zh) * | 2015-12-21 | 2018-08-03 | 英特尔公司 | 用于基于通道的跨步分散操作的指令和逻辑 |
CN108369509B (zh) * | 2015-12-21 | 2024-03-08 | 英特尔公司 | 用于基于通道的跨步分散操作的指令和逻辑 |
CN109564459A (zh) * | 2016-08-29 | 2019-04-02 | 英特尔公司 | 用于自动自适应电压控制的方法和设备 |
CN109564459B (zh) * | 2016-08-29 | 2024-02-13 | 英特尔公司 | 用于自动自适应电压控制的方法和设备 |
CN111737186A (zh) * | 2016-10-10 | 2020-10-02 | 英特尔公司 | 多管芯硬件处理器和方法 |
CN107977227A (zh) * | 2016-10-21 | 2018-05-01 | 超威半导体公司 | 包括不同指令类型的独立硬件数据路径的管线 |
CN108227896A (zh) * | 2016-12-09 | 2018-06-29 | 英特尔公司 | 用于并行多步骤功率管理流程的指令和逻辑 |
CN108227896B (zh) * | 2016-12-09 | 2024-03-12 | 英特尔公司 | 用于并行多步骤功率管理流程的指令和逻辑 |
CN110764823A (zh) * | 2019-09-02 | 2020-02-07 | 芯创智(北京)微电子有限公司 | 一种指令流水线的回路控制系统及方法 |
CN110764823B (zh) * | 2019-09-02 | 2021-11-16 | 芯创智(北京)微电子有限公司 | 一种指令流水线的回路控制系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN104813277B (zh) | 2019-06-28 |
US20150220345A1 (en) | 2015-08-06 |
US10133577B2 (en) | 2018-11-20 |
WO2014098845A1 (en) | 2014-06-26 |
DE112012007058T5 (de) | 2015-08-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104813277A (zh) | 用于处理器的功率效率的向量掩码驱动时钟门控 | |
CN104011670B (zh) | 用于基于向量写掩码的内容而在通用寄存器中存储两个标量常数之一的指令 | |
CN104781803A (zh) | 用于架构不同核的线程迁移支持 | |
CN104756068A (zh) | 合并相邻的聚集/分散操作 | |
CN104335166A (zh) | 用于执行混洗和操作(混洗-操作)的系统、装置和方法 | |
CN104838355A (zh) | 用于在多线程计算机系统中提供高性能和公平的机制 | |
CN104094218A (zh) | 用于执行写掩码寄存器到向量寄存器中的一系列索引值的转换的系统、装置和方法 | |
CN104126166A (zh) | 用于执行使用掩码的向量打包一元编码的系统、装置和方法 | |
CN104011672A (zh) | 转置指令 | |
CN104583958A (zh) | 用于sha256算法的消息调度的指令集 | |
CN104350492A (zh) | 在大寄存器空间中利用累加的向量乘法 | |
CN104011657A (zh) | 用于向量计算和累计的装置和方法 | |
CN103999037A (zh) | 用于响应于单个指令来执行横向相加或相减的系统、装置和方法 | |
CN105278917A (zh) | 无局部性提示的向量存储器访问处理器、方法、系统和指令 | |
CN104011649A (zh) | 用于在simd/向量执行中传播有条件估算值的装置和方法 | |
CN104137054A (zh) | 用于执行从索引值列表向掩码值的转换的系统、装置和方法 | |
CN104509026A (zh) | 用于处理sha-2安全散列算法的方法和设备 | |
CN104040482A (zh) | 用于在打包数据元素上执行增量解码的系统、装置和方法 | |
CN104011673A (zh) | 向量频率压缩指令 | |
CN104025040A (zh) | 用于混洗浮点或整数值的装置和方法 | |
CN104137059A (zh) | 多寄存器分散指令 | |
CN104040489A (zh) | 多寄存器收集指令 | |
CN104137060A (zh) | 高速缓存协处理单元 | |
CN104040488A (zh) | 用于给出相应复数的复共轭的矢量指令 | |
CN104040487A (zh) | 用于合并掩码模式的指令 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
EXSB | Decision made by sipo to initiate substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |