KR20170097008A - 벡터 요소 세트에 대해 축소 연산을 수행하기 위한 방법 및 장치 - Google Patents
벡터 요소 세트에 대해 축소 연산을 수행하기 위한 방법 및 장치 Download PDFInfo
- Publication number
- KR20170097008A KR20170097008A KR1020177013503A KR20177013503A KR20170097008A KR 20170097008 A KR20170097008 A KR 20170097008A KR 1020177013503 A KR1020177013503 A KR 1020177013503A KR 20177013503 A KR20177013503 A KR 20177013503A KR 20170097008 A KR20170097008 A KR 20170097008A
- Authority
- KR
- South Korea
- Prior art keywords
- children
- register
- field
- index value
- data element
- Prior art date
Links
- 239000013598 vector Substances 0.000 title claims abstract description 182
- 238000000034 method Methods 0.000 title claims abstract description 48
- 230000009467 reduction Effects 0.000 title claims abstract description 32
- 230000001186 cumulative effect Effects 0.000 claims abstract description 4
- 238000009825 accumulation Methods 0.000 claims description 5
- 230000015654 memory Effects 0.000 description 120
- VOXZDWNPVJITMN-ZBRFXRBCSA-N 17β-estradiol Chemical compound OC1=CC=C2[C@H]3CC[C@](C)([C@H](CC4)O)[C@@H]4[C@@H]3CCC2=C1 VOXZDWNPVJITMN-ZBRFXRBCSA-N 0.000 description 74
- 238000006073 displacement reaction Methods 0.000 description 39
- 238000010586 diagram Methods 0.000 description 32
- 238000003860 storage Methods 0.000 description 15
- 238000007667 floating Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 11
- 238000001514 detection method Methods 0.000 description 9
- 238000012856 packing Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 230000003416 augmentation Effects 0.000 description 7
- 239000003795 chemical substances by application Substances 0.000 description 7
- 238000013459 approach Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 6
- 230000000873 masking effect Effects 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000006835 compression Effects 0.000 description 5
- 238000007906 compression Methods 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000003068 static effect Effects 0.000 description 5
- 238000013519 translation Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 230000000295 complement effect Effects 0.000 description 4
- 238000013501 data transformation Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000001052 transient effect Effects 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010367 cloning Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000003607 modifier Substances 0.000 description 1
- 229910052754 neon Inorganic materials 0.000 description 1
- GKAOGPIIYCISHV-UHFFFAOYSA-N neon atom Chemical compound [Ne] GKAOGPIIYCISHV-UHFFFAOYSA-N 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000009966 trimming Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
- G06F9/30036—Instructions to perform operations on packed data, e.g. vector, tile or matrix operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
- G06F9/3001—Arithmetic instructions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
- G06F9/30018—Bit or string instructions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
- G06F9/30021—Compare instructions, e.g. Greater-Than, Equal-To, MINMAX
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30098—Register arrangements
- G06F9/30101—Special purpose registers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/38—Concurrent instruction execution, e.g. pipeline or look ahead
- G06F9/3824—Operand accessing
- G06F9/3834—Maintaining memory consistency
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/38—Concurrent instruction execution, e.g. pipeline or look ahead
- G06F9/3836—Instruction issuing, e.g. dynamic instruction scheduling or out of order instruction execution
- G06F9/3838—Dependency mechanisms, e.g. register scoreboarding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/76—Architectures of general purpose stored program computers
- G06F15/80—Architectures of general purpose stored program computers comprising an array of processing units with common control, e.g. single instruction multiple data processors
- G06F15/8007—Architectures of general purpose stored program computers comprising an array of processing units with common control, e.g. single instruction multiple data processors single instruction multiple data [SIMD] multiprocessors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/76—Architectures of general purpose stored program computers
- G06F15/80—Architectures of general purpose stored program computers comprising an array of processing units with common control, e.g. single instruction multiple data processors
- G06F15/8053—Vector processors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
- G06F9/30029—Logical and Boolean instructions, e.g. XOR, NOT
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/38—Concurrent instruction execution, e.g. pipeline or look ahead
- G06F9/3885—Concurrent instruction execution, e.g. pipeline or look ahead using a plurality of independent parallel functional units
- G06F9/3887—Concurrent instruction execution, e.g. pipeline or look ahead using a plurality of independent parallel functional units controlled by a single instruction for multiple data lanes [SIMD]
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Advance Control (AREA)
- Executing Machine-Instructions (AREA)
- Complex Calculations (AREA)
Abstract
SIMD 축소 연산을 수행하기 위한 장치 및 방법이 설명된다. 예를 들어, 프로세서의 일 실시예는 감소될 복수의 데이터 요소 값을 포함하는 값 벡터 레지스터; 값 벡터 레지스터 내의 어느 값들이 서로 관련되는지를 지시하는 복수의 인덱스 값을 저장하기 위한 인덱스 벡터 레지스터; 인덱스 벡터 레지스터 내의 인덱스 값들에 의해 지시되는 바와 같이 서로 관련되는 값 벡터 레지스터로부터의 데이터 요소 값들을 결합함으로써 값 벡터 레지스터 내의 데이터 요소 값들에 대해 축소 연산을 수행하기 위한 SIMD(single instruction multiple data) 축소 로직; 및 SIMD 축소 로직에 의해 생성되는 축소 연산의 결과를 저장하기 위한 누적 벡터 레지스터를 포함한다.
Description
본 발명은 일반적으로 컴퓨터 프로세서의 분야에 관한 것이다. 구체적으로, 본 발명은 벡터 요소 세트에 대해 축소 연산을 수행하기 위한 방법 및 장치에 관한 것이다.
명령어 세트 또는 명령어 세트 아키텍처(ISA: instruction set architecture)는 고유 데이터 유형들, 명령어들, 레지스터 아키텍처, 어드레싱 모드들, 메모리 아키텍처, 인터럽트 및 예외 처리(exception handling), 및 외부 입력 및 출력(I/O)을 포함하여, 프로그래밍에 관련되는 컴퓨터 아키텍처의 일부이다. 본 명세서에서 "명령어(instruction)"란 용어는 일반적으로 실행을 위해 프로세서에 제공되는 명령어들인 매크로 명령어들을 말하며, 이는 매크로 명령어들을 디코드하는 프로세서의 디코더의 결과인 마이크로 명령어들 또는 마이크로 오피들(micro-ops)과는 대조적이라는 점에 유의하여야 한다. 마이크로 명령어들 또는 마이크로 오피들은 매크로 명령어와 관련된 로직을 구현하기 위한 연산을 수행하도록 프로세서 상의 실행 유닛에 지시하도록 구성될 수 있다.
ISA는 마이크로아키텍처와 구별되며, 이는 명령어 세트를 구현하는데 사용되는 프로세서 설계 기술들의 세트이다. 상이한 마이크로아키텍처들을 갖는 프로세서들은 공통의 명령어 세트를 공유할 수 있다. 예를 들어, Intel® Pentium 4 프로세서, Intel® Core™ 프로세서, 및 캘리포니아주 서니베일의 Advanced Micro Devices, Inc.의 프로세서는 (더 새로운 버전에 추가된 일부 확장을 갖는) x86 명령어 세트의 거의 동일한 버전을 구현하지만, 상이한 내부 설계를 갖는다. 예를 들어, 동일한 레지스터 아키텍처의 ISA가 공지된 기술들을 사용하는 상이한 마이크로아키텍처들에서 상이한 방식들로 구현될 수 있으며, 전용 물리적 레지스터들, 레지스터 리네이밍 메커니즘을 사용하는(예를 들어, RAT(Register Alias Table), ROB(Reorder Buffer) 및 리타이어먼트 레지스터 파일의 사용) 하나 이상의 동적으로 할당된 물리적 레지스터들을 포함한다. 달리 특정되지 않는 한, 레지스터 아키텍처, 레지스터 파일 및 레지스터라는 어구들은, 본 명세서에서, 소프트웨어/프로그래머에 가시화되는 것, 및 명령어들이 레지스터들을 지정하는 방식을 지칭하기 위해 이용된다. 구별이 필요한 경우에는, "논리적", "아키텍처의", 또는 "소프트웨어가 볼 수 있는(software visible)과 같은 형용사가 레지스터 아키텍처에서의 레지스터들/파일들을 나타내는데 사용될 것인 반면, 주어진 마이크로아키텍처에서의 레지스터들을 지정하는데 상이한 형용사들이 사용될 것이다(예를 들어, 물리적 레지스터, 재정렬 버퍼, 리타이어먼트 레지스터, 레지스터 풀).
명령어 세트는 하나 이상의 명령어 포맷을 포함한다. 주어진 명령어 포맷은, 다양한 필드들(비트 수, 비트들의 위치)을 정의하여, 다른 것들 중에서, 수행될 연산, 및 그 연산이 수행되어야 하는 피연산자(들)를 지정한다. 일부 명령어 포맷들은 명령어 템플릿들(또는 서브포맷들)의 정의를 통해 추가로 세분된다. 예를 들어, 주어진 명령어 포맷의 명령어 템플릿은 명령어 포맷의 필드의 상이한 서브세트를 갖도록 정의될 수 있고(포함된 필드는 전형적으로 동일 순서에 있지만, 적어도 일부는 더 적은 필드가 포함되기 때문에 상이한 비트 위치를 가짐)/있거나 상이하게 해석되는 주어진 필드를 갖도록 정의될 수 있다. 주어진 명령어는 주어진 명령어 포맷을 이용하여(그리고 정의되는 경우에 그 명령어 포맷의 명령어 템플릿들 중 주어진 명령어 템플릿으로) 표현되고, 연산 및 피연산자들을 지정한다. 명령어 스트림은 명령어들의 특정 시퀀스인데, 이 시퀀스에서의 각각의 명령어는 명령어 포맷의(그리고 정의되는 경우에 그 명령어 포맷의 명령어 템플릿들 중 주어진 명령어 템플릿의) 명령어의 출현이다.
아래의 도면과 관련된 아래의 상세한 설명으로부터 본 발명의 더 나은 이해가 얻어질 수 있다. 도면에서:
도 1a 및 1b는 본 발명의 실시예에 따른 일반적 벡터 친화적 명령어 포맷 및 그의 명령어 템플릿을 나타내는 블록도이다.
도 2a-d는 본 발명의 실시예에 따른 예시적인 특정적 벡터 친화적 명령어 포맷을 도시하는 블록도이다.
도 3은 본 발명의 일 실시예에 따른 레지스터 아키텍처의 블록도이다.
도 4a는 본 발명의 실시예에 따른 예시적인 순차적 페치, 디코드, 리타이어먼트 파이프라인 및 예시적인 레지스터 리네이밍 비순차적 발행/실행 파이프라인 양자를 도시하는 블록도이다.
도 4b는 본 발명의 실시예에 따른, 프로세서에 포함되는 순차적 페치, 디코드, 리타이어먼트 코어의 예시적인 실시예 및 예시적인 레지스터 리네이밍, 비순차적 발생/실행 아키텍처 코어 양자를 도시하는 블록도이다.
도 5a는 단일 프로세서 코어 및 온-다이 인터커넥트 네트워크에 대한 그의 접속의 블록도이다.
도 5b는 본 발명의 실시예에 따른 도 5a의 프로세서 코어의 일부의 확대도를 나타낸다.
도 6은 본 발명의 실시예에 따른 통합 메모리 제어기 및 그래픽을 갖는 단일 코어 프로세서 및 멀티 코어 프로세서의 블록도이다.
도 7은 본 발명의 일 실시예에 따른 시스템의 블록도를 나타낸다.
도 8은 본 발명의 실시예에 따른 제2 시스템의 블록도를 나타낸다.
도 9는 본 발명의 실시예에 따른 제3 시스템의 블록도를 나타낸다.
도 10은 본 발명의 실시예에 따른 시스템 온 칩(SoC)의 블록도를 나타낸다.
도 11은 본 발명의 실시예에 따른 소스 명령어 세트 내의 바이너리 명령어를 타겟 명령어 세트 내의 바이너리 명령어로 변환하기 위한 소프트웨어 명령어 변환기의 사용을 대조하는 블록도를 나타낸다.
도 12는 본 발명의 일 실시예에 따른, 충돌 검출 연산이 어떻게 수행될 수 있는지를 나타낸다.
도 13은 값 벡터 레지스터 내의 데이터 요소에 대해 축소 연산을 수행하기 위한 본 발명의 일 실시예를 도시한다.
도 14는 충돌이 어떻게 인덱스 값을 사용하여 검출되고 벡터 레지스터 내에 저장되는지에 대한 추가적인 상세를 나타낸다.
도 15는 본 발명의 일 실시예에 따른 축소 연산의 수행과 관련된 추가적인 상세를 나타낸다.
도 16은 본 발명의 일 실시예에 따른 방법을 나타낸다.
도 1a 및 1b는 본 발명의 실시예에 따른 일반적 벡터 친화적 명령어 포맷 및 그의 명령어 템플릿을 나타내는 블록도이다.
도 2a-d는 본 발명의 실시예에 따른 예시적인 특정적 벡터 친화적 명령어 포맷을 도시하는 블록도이다.
도 3은 본 발명의 일 실시예에 따른 레지스터 아키텍처의 블록도이다.
도 4a는 본 발명의 실시예에 따른 예시적인 순차적 페치, 디코드, 리타이어먼트 파이프라인 및 예시적인 레지스터 리네이밍 비순차적 발행/실행 파이프라인 양자를 도시하는 블록도이다.
도 4b는 본 발명의 실시예에 따른, 프로세서에 포함되는 순차적 페치, 디코드, 리타이어먼트 코어의 예시적인 실시예 및 예시적인 레지스터 리네이밍, 비순차적 발생/실행 아키텍처 코어 양자를 도시하는 블록도이다.
도 5a는 단일 프로세서 코어 및 온-다이 인터커넥트 네트워크에 대한 그의 접속의 블록도이다.
도 5b는 본 발명의 실시예에 따른 도 5a의 프로세서 코어의 일부의 확대도를 나타낸다.
도 6은 본 발명의 실시예에 따른 통합 메모리 제어기 및 그래픽을 갖는 단일 코어 프로세서 및 멀티 코어 프로세서의 블록도이다.
도 7은 본 발명의 일 실시예에 따른 시스템의 블록도를 나타낸다.
도 8은 본 발명의 실시예에 따른 제2 시스템의 블록도를 나타낸다.
도 9는 본 발명의 실시예에 따른 제3 시스템의 블록도를 나타낸다.
도 10은 본 발명의 실시예에 따른 시스템 온 칩(SoC)의 블록도를 나타낸다.
도 11은 본 발명의 실시예에 따른 소스 명령어 세트 내의 바이너리 명령어를 타겟 명령어 세트 내의 바이너리 명령어로 변환하기 위한 소프트웨어 명령어 변환기의 사용을 대조하는 블록도를 나타낸다.
도 12는 본 발명의 일 실시예에 따른, 충돌 검출 연산이 어떻게 수행될 수 있는지를 나타낸다.
도 13은 값 벡터 레지스터 내의 데이터 요소에 대해 축소 연산을 수행하기 위한 본 발명의 일 실시예를 도시한다.
도 14는 충돌이 어떻게 인덱스 값을 사용하여 검출되고 벡터 레지스터 내에 저장되는지에 대한 추가적인 상세를 나타낸다.
도 15는 본 발명의 일 실시예에 따른 축소 연산의 수행과 관련된 추가적인 상세를 나타낸다.
도 16은 본 발명의 일 실시예에 따른 방법을 나타낸다.
아래의 설명에서는 설명의 목적으로, 후술하는 본 발명의 실시예들의 충분한 이해를 제공하기 위해 다수의 특정 상세가 설명된다. 그러나, 본 발명의 실시예들은 이러한 특정 상세들 중 일부 없이도 실시될 수 있다는 것이 본 기술분야의 통상의 기술자에게 명백할 것이다. 다른 예들에서는 본 발명의 실시예들의 기본 원리들을 불명확하게 하는 것을 방지하기 위해 공지 구조들 및 디바이스들은 블록도 형태로 도시된다.
예시적인 프로세서 아키텍처 및 데이터 유형
명령어 세트는 하나 이상의 명령어 포맷을 포함한다. 주어진 명령어 포맷은 다양한 필드들(비트 수, 비트들의 위치)을 정의하여, 다른 것들 중에서, 수행될 연산(opcode), 및 그 연산이 수행되어야 하는 피연산자(들)를 지정한다. 일부 명령어 포맷들은 명령어 템플릿들(또는 서브포맷들)의 정의를 통해 추가로 세분된다. 예를 들어, 주어진 명령어 포맷의 명령어 템플릿은 명령어 포맷의 필드의 상이한 서브세트를 갖도록 정의될 수 있고(포함된 필드는 전형적으로 동일 순서에 있지만, 적어도 일부는 더 적은 필드가 포함되기 때문에 상이한 비트 위치를 가짐)/있거나 상이하게 해석되는 주어진 필드를 갖도록 정의될 수 있다. 따라서, ISA의 각각의 명령어는 주어진 명령어 포맷을 이용하여(정의된 경우, 그 명령어 포맷의 명령어 템플릿들 중 주어진 템플릿에서) 표현되고, 연산 및 피연산자들을 지정하기 위한 필드들을 포함한다. 예를 들어, 예시적인 ADD 명령어는 특정 opcode, 및 그 opcode를 지정하는 opcode 필드 및 피연산자들(소스 1/목적지 및 소스 2)을 선택하는 피연산자 필드들을 포함하는 명령어 포맷을 갖고; 명령어 스트림에서 이러한 ADD 명령어의 출현(occurrence)은 특정 피연산자들을 선택하는 피연산자 필드들에서 특정 콘텐츠를 가질 것이다. 고급 벡터 확장(AVX)(AVX1 및 AVX2)으로서 지칭되고 벡터 확장(VEX) 코딩 스킴을 이용하는 SIMD 확장 세트가 존재했고, 발표되었고/되었거나 공개되었다(예로서, Intel® 64 and IA-32 Architectures Software Developers Manual, October 2011; 및 Intel® Advanced Vector Extensions Programming Reference, June 2011 참조).
예시적인 명령어 포맷
본 명세서에 설명되는 명령어(들)의 실시예들은 상이한 포맷들로 구현될 수 있다. 추가적으로, 예시적인 시스템들, 아키텍처들, 및 파이프라인들이 아래에 상세하게 설명된다. 명령어(들)의 실시예들은 그러한 시스템들, 아키텍처들, 및 파이프라인들 상에서 실행될 수 있지만, 이들 상세에 한정되지는 않는다.
A.
일반적 벡터 친화적 명령어 포맷
벡터 친화적 명령어 포맷은 벡터 명령어들에 적합한 명령어 포맷이다(예를 들어, 벡터 연산들에 특정적인 소정 필드들이 존재함). 벡터 및 스칼라 연산들 양쪽 모두가 벡터 친화적 명령어 포맷을 통해 지원되는 실시예들이 설명되지만, 대안적인 실시예들은 벡터 친화적 명령어 포맷의 벡터 연산들만을 사용한다.
도 1a-1b는 본 발명의 실시예들에 따른 일반적 벡터 친화적 명령어 포맷 및 이것의 명령어 템플릿들을 도시하는 블록도들이다. 도 1a는 본 발명의 실시예들에 따른 일반적 벡터 친화적 명령어 포맷 및 이것의 클래스 A 명령어 템플릿들을 도시하는 블록도인 한편; 도 1b는 본 발명의 실시예들에 따른 일반적 벡터 친화적 명령어 포맷 및 이것의 클래스 B 명령어 템플릿들을 도시하는 블록도이다. 구체적으로, 일반적 벡터 친화적 명령어 포맷(100)에 대해 클래스 A 및 클래스 B 명령어 템플릿들이 정의되고, 이 양자는 메모리 액세스 없음(no memory access)(105) 명령어 템플릿들 및 메모리 액세스(120) 명령어 템플릿들을 포함한다. 벡터 친화적 명령어 포맷의 상황에서 일반적(generic)이라는 용어는 임의의 특정 명령어 세트에 얽매이지 않는 명령어 포맷을 지칭한다.
벡터 친화적 명령어 포맷이 다음의 것을 지원하는 본 발명의 실시예들이 설명될 것이지만: 데이터 요소 폭들(또는 크기들)이 32 비트(4 바이트) 또는 64 비트(8 바이트)인 64 바이트 벡터 피연산자 길이(또는 크기)(따라서, 64 바이트 벡터는 16개의 더블워드-크기의 요소들 또는 대안적으로 8개의 쿼드워드-크기의 요소들로 구성됨); 데이터 요소 폭들(또는 크기들)이 16 비트(2 바이트) 또는 8 비트(1 바이트)인 64 바이트 벡터 피연산자 길이(또는 크기); 데이터 요소 폭들(또는 크기들)이 32 비트(4 바이트), 64 비트(8 바이트), 16 비트(2 바이트) 또는 8 비트(1 바이트)인 32 바이트 벡터 피연산자 길이(또는 크기); 및 데이터 요소 폭들(또는 크기들)이 32 비트(4 바이트), 64 비트(8 바이트), 16 비트(2 바이트) 또는 8 비트(1 바이트)인 16 바이트 벡터 피연산자 길이(또는 크기); 대안적인 실시예들은, 더 크거나, 더 작거나 또는 상이한 데이터 요소 폭들(예를 들어, 128 비트(16 바이트)의 데이터 요소 폭들)을 갖는 더 크거나, 더 작거나 그리고/또는 상이한 벡터 피연산자 크기들(예를 들어, 256 바이트 벡터 피연산자들)을 지원할 수 있다.
도 1a의 클래스 A 명령어 템플릿들은: 1) 메모리 액세스 없음(105) 명령어 템플릿들 내에 메모리 액세스 없음, 풀 라운드 제어형 연산(110) 명령어 템플릿 및 메모리 액세스 없음, 데이터 변환형 연산(115) 명령어 템플릿이 도시되어 있고; 2) 메모리 액세스(120) 명령어 템플릿들 내에 메모리 액세스, 일시적(125) 명령어 템플릿 및 메모리 액세스, 비일시적(130) 명령어 템플릿이 도시되는 것을 포함한다. 도 1b의 클래스 B 명령어 템플릿들은: 1) 메모리 액세스 없음(105) 명령어 템플릿들 내에 메모리 액세스 없음, 기입 마스크 제어, 부분 라운드 제어형 연산(112) 명령어 템플릿 및 메모리 액세스 없음, 기입 마스크 제어, vsize 유형 연산(117) 명령어 템플릿이 도시되어 있고; 2) 메모리 액세스(120) 명령어 템플릿들 내에 메모리 액세스, 기입 마스크 제어(127) 명령어 템플릿이 도시되어 있는 것을 포함한다.
일반적 벡터 친화적 명령어 포맷(100)은 도 1a-1b에 도시된 순서로 아래 나열된 다음의 필드들을 포함한다.
포맷 필드(140) - 이 필드 내의 특정 값(명령어 포맷 식별자 값)은 벡터 친화적 명령어 포맷, 및 따라서 명령어 스트림들 내의 벡터 친화적 명령어 포맷에서의 명령어들의 발생들을 고유하게 식별한다. 이와 같이, 이런 필드는 이것이 일반적 벡터 친화적 명령어 포맷만을 갖는 명령어 세트를 필요로 하지 않는다는 점에서 선택적이다.
베이스 연산 필드(142) - 그의 내용은 상이한 베이스 연산들을 구별한다.
레지스터 인덱스 필드(144) - 그의 내용은, 직접 또는 어드레스 생성을 통해, 그것들이 레지스터들 내에 있든지 메모리 내에 있든지, 소스 및 목적지 피연산자들의 위치들을 지정한다. 이들은 PxQ(예를 들어, 32x512, 16x128, 32x1024, 64x1024) 레지스터 파일로부터 N개의 레지스터를 선택하기에 충분한 비트 수를 포함한다. 일 실시예에서 N은 최대 3개의 소스 및 1개의 목적지 레지스터일 수 있지만, 대안적인 실시예들은 더 많거나 더 적은 소스들 및 목적지 레지스터들을 지원할 수 있다(예를 들어, 이러한 소스들 중 하나가 또한 목적지의 역할을 하는 경우에 최대 2개의 소스까지 지원할 수 있고, 이러한 소스들 중 하나가 또한 목적지의 역할을 하는 경우에 최대 3개의 소스를 지원할 수 있고, 최대 2개의 소스 및 1개의 목적지까지를 지원할 수 있다).
변경자 필드(Modifier field)(146) - 그의 내용은 메모리 액세스하지 않는 것들로부터 메모리 액세스를 지정하는 일반적 벡터 명령어 포맷 내의 명령어들의 발생들을 구별하는데, 즉, 메모리 액세스 없음(105) 명령어 템플릿들과 메모리 액세스(120) 명령어 템플릿들 사이에서 구별한다. 메모리 액세스 연산들은(일부 경우에서 레지스터들 내의 값들을 사용하여 소스 및/또는 목적지 어드레스들을 지정하는) 메모리 계층구조에 대해 판독 및/또는 기입하는 반면에, 메모리 액세스 없음 연산들은 그렇게 하지 않는다(예를 들어, 소스 및 목적지들이 레지스터들임). 일 실시예에서 이 필드는 메모리 어드레스 계산들을 수행하는 3가지 상이한 방식들 사이에서 또한 선택하지만, 대안적인 실시예들은 메모리 어드레스 계산들을 수행하는 더 많거나, 더 적거나 또는 상이한 방식들을 지원할 수 있다.
증강(Augmentation) 연산 필드(150) - 그의 내용은 베이스 연산 이외에 수행될 다양한 상이한 연산들 중 어느 하나를 구별한다. 이 필드는 상황에 고유하다. 본 발명의 일 실시예에서, 이 필드는 클래스 필드(168), 알파 필드(152), 및 베타 필드(154)로 분할된다. 증강 연산 필드(150)는 연산들의 공통 그룹들이 2, 3, 또는 4개의 명령어보다는 단일 명령어에서 수행될 수 있게 한다.
스케일 필드(160) - 그의 내용은 메모리 어드레스 생성을 위한(예를 들어, 2scale * index + base를 이용하는 어드레스 생성을 위한) 인덱스 필드의 내용의 스케일링(scaling)을 허용한다.
변위 필드(162A) - 그의 내용은 (예를 들어, 2scale * index + base + displacement를 이용하는 어드레스 생성을 위한) 메모리 어드레스 생성의 부분으로서 이용된다.
변위 인자 필드(Displacement Factor Field)(162B)(변위 인자 필드(162B) 바로 위의 변위 필드(162A)의 병치(juxtaposition)는 하나 또는 다른 것이 이용됨을 나타낸다는 것에 주목한다) - 그의 내용은 어드레스 생성의 부분으로서 이용되고, 그것은 메모리 액세스의 크기(N)에 의해 스케일링될 변위 인자를 지정하며, 여기서 N은(예를 들어, 2scale * index + base + scaled displacement를 이용하는 어드레스 생성을 위한) 메모리 액세스에서의 바이트들의 수이다. 잉여 하위 비트들(redundant low-order bits)은 무시되고, 따라서 변위 인자 필드의 내용은 유효 어드레스를 계산하는데 이용될 최종 변위를 생성하기 위해서 메모리 피연산자 총 크기(N)로 곱해진다. N의 값은 풀 opcode 필드(full opcode field; 174)(본 명세서에서 나중에 설명됨) 및 데이터 조작 필드(154C)에 기초하여 실행시간에 프로세서 하드웨어에 의해 결정된다. 변위 필드(162A) 및 변위 인자 필드(162B)는 그것들이 메모리 액세스 없음(105) 명령어 템플릿들을 위해 이용되지 않고 및/또는 상이한 실시예들은 둘 중 하나만 구현하거나 또는 아무것도 구현하지 않을 수 있다는 점에서 선택적이다.
데이터 요소 폭 필드(164) - 그의 내용은 이용될 다수의 데이터 요소 폭들 중 하나를 구별한다(일부 실시예에서 모든 명령어들에 대해; 다른 실시예들에서 명령어들 중 일부만에 대해). 이 필드는, 단 하나의 데이터 요소 폭만이 지원되고/되거나 데이터 요소 폭들이 opcode들의 일부 양태를 이용하여 지원되는 경우에 필요하지 않는다는 점에서 선택적이다.
기입 마스크 필드(170) - 그의 내용은, 데이터 요소 위치 기초로, 목적지 벡터 피연산자 내의 그 데이터 요소 위치가 베이스 연산 및 증강 연산의 결과를 반영하는지를 제어한다. 클래스 A 명령어 템플릿들은 병합-기입마스킹(merging-writemasking)을 지원하는 반면에, 클래스 B 명령어 템플릿들은 병합-기입마스킹 및 제로화-기입마스킹(zeroing-writemasking) 양쪽 모두를 지원한다. 병합할 때에, 벡터 마스크들은 목적지 내의 임의의 세트의 요소들이(베이스 연산 및 증강 연산에 의해 특정되는) 임의의 연산의 실행 동안 업데이트들로부터 보호될 수 있게 해주고; 다른 일 실시예에서는, 대응하는 마스크 비트가 0을 갖는 경우에 목적지의 각각의 요소의 이전의 값을 보존할 수 있게 해준다. 이에 반해, 제로화할 때에, 벡터 마스크들은 목적지 내의 임의의 세트의 요소들이(베이스 연산 및 증강 연산에 의해 특정되는) 임의의 연산의 실행 동안 제로화될 수 있게 하고; 일 실시예에서는, 목적지의 요소는 대응하는 마스크 비트가 0 값을 가질 때에 0으로 설정된다. 이러한 기능성의 서브세트는 수행되는 연산의 벡터 길이를 제어하는 능력이지만(즉, 요소들의 범위(span)는 첫 번째 것으로부터 마지막 것까지 변경됨); 변경되는 요소들이 연속적인 것은 필요하지 않는다. 따라서, 기입 마스크 필드(170)는 로드, 저장, 산술, 로직 등을 포함한 부분 벡터 연산들을 허용한다. 기입 마스크 필드(170)의 내용이 이용될 기입 마스크를 포함하는 다수의 기입 마스크 레지스터들 중 하나를 선택하는(및 따라서 기입 마스크 필드(170)의 내용은 수행될 마스킹을 간접적으로 식별하는) 본 발명의 실시예들이 설명되지만, 대안적인 실시예들은 그 대신에 또는 추가적으로 마스크 기입 필드(170)의 내용이 수행될 마스킹을 직접 특정할 수 있게 한다.
즉치 필드(172) - 그의 내용은 즉치의 명시(specification)를 허용한다. 이 필드는, 이것이 즉치를 지원하지 않는 일반적 벡터 친화적 포맷의 구현에 존재하지 않으며, 즉치를 이용하지 않는 명령어들에 존재하지 않는다는 점에서 선택적이다.
클래스 필드(168) - 그의 내용은 명령어들의 상이한 클래스들 간을 구별한다. 도 1a-b를 참조하면, 이 필드의 내용들은 클래스 A 및 클래스 B 명령어들 간을 선택한다. 도 1a-b에서, 라운딩된 코너 정사각형들(rounded corner squares)을 이용하여 특정 값이 필드(예를 들어, 도 1a-b에서 클래스 필드(168)에 대해 각각 클래스 A(168A) 및 클래스 B(168B))에 존재함을 나타낸다.
클래스 A의 명령어 템플릿
클래스 A의 메모리 액세스 없음(105) 명령어 템플릿들의 경우, 알파 필드(152)는 RS 필드(152A)로서 해석되고, 그 내용은 상이한 증강 연산 유형들 중 어느 것이 수행되어야 하는지를 구별하고(예를 들어, 라운드(152A.1) 및 데이터 변환(152A.2)은 각각 메모리 액세스 없음, 라운드 유형 연산(110) 및 메모리 액세스 없음, 데이터 변환형 연산(115) 명령어 템플릿들에 대해 지정되고), 베타 필드(154)는 지정된 유형의 연산들 중 어느 것이 수행되어야 하는지를 구별한다. 메모리 액세스 없음(105) 명령어 템플릿들에서, 스케일 필드(160), 변위 필드(162A), 및 변위 스케일 필드(162B)는 존재하지 않는다.
메모리 액세스 없음 명령어 템플릿 - 풀 라운드 제어형 연산
메모리 액세스 없음 풀 라운드 제어형 연산(110) 명령어 템플릿에서, 베타 필드(154)는 라운드 제어 필드(154A)로서 해석되고, 그 내용(들)은 정적 라운딩을 제공한다. 본 발명의 설명된 실시예들에서, 라운드 제어 필드(154A)는 SAE(suppress all floating point exceptions) 필드(156) 및 라운드 연산 제어 필드(158)를 포함하지만, 대안적인 실시예들은 이러한 개념들 양자를 동일한 필드에 인코딩하거나 오직 이러한 개념들/필드들 중 하나 또는 다른 하나만을 갖는 것(예를 들어, 오직 라운드 연산 제어 필드(158)를 가질 수 있다)을 지원할 수 있다.
SAE 필드(156) - 그의 내용은 예외 이벤트 보고를 디스에이블할 것인지 여부를 구별하고; SAE 필드(156)의 내용이 억제가 인에이블됨을 나타낼 때, 주어진 명령어는 임의의 종류의 부동 소수점 예외 플래그를 보고하지 않고, 임의의 부동 소수점 예외 핸들러를 발생시키지 않는다.
라운드 연산 제어 필드(158) - 그의 내용은 수행할 라운딩 연산들(예를 들어, 라운드-업, 라운드-다운, 제로를 향해 라운드(Round-towards-zero) 및 근사치로 라운드(Round-to-nearest))의 그룹 중 하나를 구별한다. 따라서, 라운드 연산 제어 필드(158)는 명령어당 기초로 라운딩 모드의 변경을 허용한다. 프로세서가 라운딩 모드들을 지정하기 위한 제어 레지스터를 포함하는 본 발명의 일 실시예에서, 라운드 연산 제어 필드(150)의 내용은 그 레지스터 값을 무효로 한다.
메모리 액세스 없음 명령어 템플릿 - 데이터 변환형 연산
메모리 액세스 없음 데이터 변환형 연산(115) 명령어 템플릿에서, 베타 필드(154)는 데이터 변환 필드(154B)로서 해석되고, 그 내용은 다수의 데이터 변환(예를 들어, 데이터 변환 없음, 스위즐(swizzle), 브로드캐스트) 중 어느 것이 수행되어야 하는지를 구별한다.
클래스 A의 메모리 액세스(120) 명령어 템플릿의 경우에서, 알파 필드(152)는 축출 힌트 필드(152B)로서 해석되고, 그 내용은 이용될 축출 힌트들 중 하나를 구별하지만(도 1a에서, 일시적(152B.1) 및 비일시적(152B.2)이 각각 메모리 액세스, 일시적(125) 명령어 템플릿 및 메모리 액세스, 비일시적(130) 명령어 템플릿에 대해 특정된다), 베타 필드(154)는 데이터 조작 필드(154C)로서 해석되고, 그 내용은 수행될 다수의 데이터 조작 연산들(프리미티브들(primitives)이라고도 알려짐)(예를 들어, 조작 없음, 브로드캐스트, 소스의 상향 변환, 및 목적지의 하향 변환) 중 하나를 구별한다. 메모리 액세스(120) 명령어 템플릿들은 스케일 필드(160), 및 선택적으로 변위 필드(162A) 또는 변위 스케일 필드(162B)를 포함한다.
벡터 메모리 명령어들은 변환 지원으로 메모리로부터의 벡터 로드들 및 메모리로의 벡터 스토어들을 수행한다. 정규 벡터 명령어들에서와 같이, 벡터 메모리 명령어들은 데이터 요소-관련 방식으로 메모리로부터/로 데이터를 전달하고, 실제로 전달되는 요소들은 기입 마스크로서 선택되는 벡터 마스크의 내용에 의해 지시된다.
메모리 액세스 명령어 템플릿 - 일시적
일시적 데이터는 캐싱으로부터 이익을 얻기에 충분할 만큼 빨리 재사용될 가능성이 있는 데이터이다. 그러나 이것은 힌트이며, 상이한 프로세서는 힌트를 완전히 무시하는 것을 포함하는 상이한 방식으로 그것을 구현할 수 있다.
메모리 액세스 명령어 템플릿 - 비일시적
비일시적 데이터는 제1 레벨 캐시 내의 캐싱으로부터 이익을 얻기에 충분할 만큼 빨리 재사용될 가능성이 없는 데이터이고, 축출에 대한 우선순위가 주어져야 한다. 그러나 이것은 힌트이고, 상이한 프로세서는 힌트를 완전히 무시하는 것을 포함하는 상이한 방식으로 그것을 구현할 수 있다.
클래스 B의 명령어 템플릿
클래스 B의 명령어 템플릿의 경우에, 알파 필드(152)는 기입 마스크 제어(Z) 필드(152C)로서 해석되고, 그 내용은 기입 마스크 필드(170)에 의해 제어된 기입 마스킹이 병합 또는 제로화이어야 하는지를 구별한다.
클래스 B의 메모리 액세스 없음(105) 명령어 템플릿들의 경우에, 베타 필드(154)의 부분은 RL 필드(157A)로서 해석되고, 그 내용은 수행될 상이한 증강 연산 유형들 중 하나를 구별하지만(예를 들어, 라운드(157A.1) 및 벡터 길이(VSIZE)(157A.2)는 각각 메모리 액세스 없음, 기입 마스크 제어, 부분 라운드 제어형 연산(112) 명령어 템플릿 및 메모리 액세스 없음, 기입 마스크 제어, VSIZE 유형 연산(117) 명령어 템플릿에 대해 특정된다), 베타 필드(154)의 나머지는 수행될 특정된 유형의 연산들 중 어느 하나를 구별한다. 메모리 액세스 없음(105) 명령어 템플릿들에서, 스케일 필드(160), 변위 필드(162A), 및 변위 스케일 필드(162B)는 존재하지 않는다.
메모리 액세스 없음, 기입 마스크 제어, 부분 라운드 제어형 연산(110) 명령어 템플릿에서, 베타 필드(154)의 나머지는 라운드 연산 필드(159A)로서 해석되고, 예외 이벤트 보고는 디스에이블된다(주어진 명령어는 임의의 종류의 부동 소수점 예외 플래그를 보고하지 않고, 임의의 부동 소수점 예외 핸들러를 발생시키지 않는다).
라운드 연산 제어 필드(159A) - 단지 라운드 연산 제어 필드(158)로서, 그의 내용은 수행될 라운딩 연산들(예를 들어, 라운드-업, 라운드-다운, 제로를 향해 라운드 및 근사치로 라운드)의 그룹 중 하나를 구별한다. 따라서, 라운드 연산 제어 필드(159A)는 명령어별로 라운딩 모드의 변경을 허용한다. 프로세서가 라운딩 모드들을 지정하기 위한 제어 레지스터를 포함하는 본 발명의 일 실시예에서, 라운드 연산 제어 필드(150)의 내용은 그 레지스터 값을 무효로 한다.
메모리 액세스 없음, 기입 마스크 제어, VSIZE 유형 연산(117) 명령어 템플릿에서, 베타 필드(154)의 나머지는 벡터 길이 필드(159B)로서 해석되고, 그 내용은 수행될 다수의 데이터 벡터 길이들(예를 들어, 128, 256, 또는 512 바이트) 중 하나를 구별한다.
클래스 B의 메모리 액세스(120) 명령어 템플릿의 경우에, 베타 필드(154)의 부분은 브로드캐스트 필드(157B)로서 해석되고, 그 내용은 브로드캐스트 유형 데이터 조작 연산이 수행될 것인지 여부를 구별하지만, 베타 필드(154)의 나머지는 벡터 길이 필드(159B)로서 해석된다. 메모리 액세스(120) 명령어 템플릿들은 스케일 필드(160), 및 선택적으로 변위 필드(162A) 또는 변위 스케일 필드(162B)를 포함한다.
일반적 벡터 친화적 명령어 포맷(100)과 관련하여, 포맷 필드(140), 베이스 연산 필드(142), 및 데이터 요소 폭 필드(164)를 포함하는 풀 opcode 필드(174)가 도시된다. 풀 opcode 필드(174)가 이들 필드들 전부를 포함하는 일 실시예가 도시되지만, 풀 opcode 필드(174)는 그것들 전부를 지원하지 않는 실시예들에 있어서 이들 필드들 전부보다 적게 포함한다. 풀 opcode 필드(174)는 연산 코드(operation code)(opcode)를 제공한다.
증강 연산 필드(150), 데이터 요소 폭 필드(164), 및 기입 마스크 필드(170)는 이러한 특징들이 일반적 벡터 친화적 명령어 포맷에서 명령어당 기초로 특정될 수 있게 한다.
기입 마스크 필드와 데이터 요소 폭 필드의 조합들은, 마스크가 상이한 데이터 요소 폭들에 기초하여 적용되는 것을 그것들이 허용한다는 점에서 타이핑된 명령어들(typed instructions)을 생성한다.
클래스 A 및 클래스 B 내에서 발견되는 다양한 명령어 템플릿들은 상이한 상황들에서 이롭다. 본 발명의 일부 실시예에서, 상이한 프로세서들 또는 프로세서 내의 상이한 코어들은 클래스 A만을, 클래스 B만을, 또는 양자의 클래스들을 지원할 수 있다. 예를 들어, 범용 컴퓨팅에 대해 의도된 고성능 범용 비순차적 코어는 클래스 B만을 지원할 수 있고, 주로 그래픽 및/또는 과학적(쓰루풋) 컴퓨팅에 대해 의도된 코어는 클래스 A만을 지원할 수 있고, 양쪽 모두를 위해 의도된 코어는 양쪽 모두를 지원할 수 있다(물론, 양자의 클래스들로부터의 명령어들 및 템플릿들의 소정의 혼합을 갖지만 양자의 클래스들로부터의 명령어들 및 템플릿들 전부를 갖지는 않는 코어는 본 발명의 범위 내에 있다). 또한, 단일 프로세서가 복수의 코어를 포함할 수 있는데, 이들 모두는 동일한 클래스를 지원하거나 또는 상이한 코어들이 상이한 클래스를 지원한다. 예를 들어, 별개의 그래픽 및 범용 코어들을 갖는 프로세서에서, 주로 그래픽 및/또는 과학적 컴퓨팅에 대해 의도된 그래픽 코어들 중 하나는 클래스 A만을 지원할 수 있는 반면에, 범용 코어들 중 하나 이상은, 클래스 B만을 지원하는, 범용 컴퓨팅에 대해 의도된 비순차적 실행 및 레지스터 리네이밍을 갖는 고성능 범용 코어들일 수 있다. 별개의 그래픽 코어를 갖지 않는 다른 프로세서는 클래스 A 및 클래스 B 양쪽 모두를 지원하는 하나 이상의 범용 순차적 또는 비순차적 코어를 포함할 수 있다. 물론, 하나의 클래스로부터의 피처들은 본 발명의 상이한 실시예들에 있어서 다른 클래스에서 또한 구현될 수 있다. 하이 레벨 언어로 작성되는 프로그램은 1) 실행을 위한 타겟 프로세서에 의해 지원되는 클래스(들)의 명령어만을 갖는 형태; 또는 2) 모든 클래스의 명령어의 상이한 조합을 이용하여 작성된 대안 루틴을 갖고, 현재 코드를 실행하고 있는 프로세서에 의해 지원되는 명령어에 기초하여 실행할 루틴을 선택하는 제어 흐름 코드를 갖는 형태를 포함하는 다양한 상이한 실행 가능 형태가 될 것이다(예로서, 적시(just in time) 컴파일링 또는 정적 컴파일링될 것이다).
B.
예시적인 특정적 벡터 친화적 명령어 포맷
도 2는 본 발명의 실시예에 따른 예시적인 특정적 벡터 친화적 명령어 포맷을 나타내는 블록도이다. 도 2는 필드들의 위치, 크기, 해석 및 순서뿐만 아니라, 이들 필드의 일부에 대한 값들을 지정한다는 점에서 특정적인 특정적 벡터 친화적 명령어 포맷(200)을 도시한다. 특정적 벡터 친화적 명령어 포맷(200)은 x86 명령어 세트를 확장하는 데 이용될 수 있고, 따라서 필드들 중 일부는 기존의 x86 명령어 세트 및 그의 확장(예를 들어, AVX)에서 이용된 것들과 유사하거나 동일하다. 이 포맷은 확장들을 갖는 기존의 x86 명령어 세트의 프리픽스 인코딩 필드, 실제 opcode 바이트 필드(real opcode byte field), MOD R/M 필드, SIB 필드, 변위 필드 및 즉치 필드들과 일관되게 유지된다. 도 2로부터의 필드들이 매핑하는 도 1으로부터의 필드들이 예시된다.
본 발명의 실시예들은 예시의 목적으로 일반적 벡터 친화적 명령어 포맷(100)의 문맥에서 특정적 벡터 친화적 명령어 포맷(200)을 참조하여 설명되지만, 본 발명은 청구되는 경우를 제외하고 특정적 벡터 친화적 명령어 포맷(200)으로 한정되지 않는다는 것을 이해해야 한다. 예를 들어, 일반적 벡터 친화적 명령어 포맷(100)은 다양한 필드에 대한 다양한 가능한 크기들을 고려하지만, 특정적 벡터 친화적 명령어 포맷(200)은 특정 크기들의 필드들을 갖는 것으로서 도시된다. 특정 예에 의해, 데이터 요소 폭 필드(164)는 특정적 벡터 친화적 명령어 포맷(200)에서 1 비트 필드로서 도시되지만, 본 발명은 그것으로 한정되지 않는다(즉, 일반적 벡터 친화적 명령어 포맷(100)은 데이터 요소 폭 필드(164)의 다른 크기들을 고려한다).
일반적 벡터 친화적 명령어 포맷(100)은 도 2a에 도시된 순서로 아래에 나열된 다음의 필드들을 포함한다.
EVEX 프리픽스(바이트 0-3)(202) - 4 바이트 형태로 인코딩된다.
포맷 필드(140)(EVEX 바이트 0, 비트들 [7:0]) - 제1 바이트(EVEX 바이트 0)는 포맷 필드(140)이고, 그것은 0x62(본 발명의 일 실시예에서 벡터 친화적 명령어 포맷을 구별하는 데 이용되는 고유 값)을 포함한다.
제2 내지 제4 바이트(EVEX 바이트 1-3)는 특정 능력을 제공하는 다수의 비트 필드를 포함한다.
REX 필드(205)(EVEX 바이트 1, 비트 [7-5]) - EVEX.R 비트 필드(EVEX 바이트 1, 비트 [7]-R), EVEX.X 비트 필드(EVEX 바이트 1, 비트 [6]-X), 및 157BEX 바이트 1, 비트 [5]-B로 이루어진다. EVEX.R, EVEX.X 및 EVEX.B 비트 필드들은 대응하는 VEX 비트 필드들과 동일한 기능성을 제공하고, 1의 보수 형태(1s complement form)를 이용하여 인코딩되는데, 즉 ZMM0은 1111B로 인코딩되고, ZMM15는 0000B로 인코딩된다. 명령어들의 다른 필드들은 관련 기술분야에 공지된 바와 같이 레지스터 인덱스들의 하위 3 비트를 인코딩하여(rrr, xxx, 및 bbb), EVEX.R, EVEX.X 및 EVEX.B를 추가함으로써 Rrrr, Xxxx, 및 Bbbb가 형성될 수 있다.
REX' 필드(110) - 이것은 REX' 필드(110)의 제1 부분이고, 확장된 32개의 레지스터 세트의 상위 16 또는 하위 16을 인코딩하는 데 이용되는 EVEX.R' 비트 필드(EVEX 바이트 1, 비트 [4]-R')이다. 본 발명의 일 실시예에서, 이 비트는, 아래에 표시되는 바와 같은 다른 것들과 함께, (잘 알려진 x86 32-비트 모드에서) BOUND 명령어와 구분하기 위해 비트 반전된 포맷으로 저장되고, 그것의 실제 opcode 바이트는 62이지만, (후술되는) MOD R/M 필드에서 MOD 필드 내의 11의 값을 수락하지 않으며; 본 발명의 대안적인 실시예들은 반전된 포맷으로 이것 및 아래에 표시되는 다른 비트들을 저장하지 않는다. 하위 16개의 레지스터를 인코딩하는 데 1의 값이 이용된다. 다시 말해서, R'Rrrr는 다른 필드들로부터의 EVEX.R', EVEX.R, 및 다른 RRR를 결합시킴으로써 형성된다.
opcode 맵 필드(215)(EVEX 바이트 1, 비트[3:0] - mmmm) - 그의 내용은 암시적인 선단 opcode 바이트(implied leading opcode byte)(0F, 0F 38 또는 0F 3)를 인코딩한다.
데이터 요소 폭 필드(164)(EVEX 바이트 2, 비트 [7]-W) - 표기법 EVEX.W에 의해 표현된다. EVEX.W는 데이터형(32 비트 데이터 요소 또는 64비트 데이터 요소)의 입도(크기)를 정의하는 데 사용된다.
EVEX.vvvv(220)(EVEX 바이트 2, 비트 [6:3]-vvvv) - EVEX.vvvv의 역할은 다음을 포함할 수 있는데, 즉 1) EVEX.vvvv는 반전된 (1의 보수) 형태로 지정된 제1 소스 레지스터 피연산자를 인코딩하고, 2개 이상의 소스 피연산자를 갖는 명령어에 대해 유효하거나; 2) EVEX.vvvv는 특정 벡터 시프트를 위해 1의 보수 형태로 지정된 목적지 레지스터 피연산자를 인코딩하거나; 3) EVEX.vvvv는 어떠한 피연산자도 인코딩하지 않고, 필드는 예약되고, 1111b를 포함해야 한다. 따라서, EVEX.vvvv 필드(220)는 반전된 (1의 보수) 형태로 저장되는 제1 소스 레지스터 지정자의 4개의 낮은 순서 비트를 인코딩한다. 명령어에 따라, 추가의 상이한 EVEX 비트 필드가 지정자 크기를 32개의 레지스터로 확장하기 위해 이용된다.
EVEX.U 클래스 필드(168)(EVEX 바이트 2, 비트 [2]-U)-EVEX.U = 0이면, 그것은 클래스 A 또는 EVEX.U0을 나타내고, EVEX.U = 1이면, 그것은 클래스 B 또는 EVEX.U1을 나타낸다.
프리픽스 인코딩 필드(225)(EVEX 바이트 2, 비트[1:0]-pp) - 베이스 연산 필드에 대한 추가적인 비트들을 제공한다. EVEX 프리픽스 포맷의 레거시 SSE 명령어들에 대한 지원을 제공하는 것에 외에, 이것은 또한 SIMD 프리픽스를 간소화하는 이득을 갖는다(SIMD 프리픽스를 표현하기 위해 바이트를 요구하는 것이 아니라, EVEX 프리픽스는 2 비트만을 요구함). 일 실시예에서, 레거시 포맷 및 EVEX 프리픽스 포맷 양자에서 SIMD 프리픽스(66H, F2H, F3H)를 이용하는 레거시 SSE 명령어를 지원하기 위해, 이들 레거시 SIMD 프리픽스는 SIMD 프리픽스 인코딩 필드에 인코딩되고; 런타임에서 디코더의 PLA에 제공되기 전에 레거시 SIMD 프리픽스 내로 확장된다(그래서, PLA는 변경 없이 레거시와, 이들 레거시 명령어의 EVEX 포맷 양자를 실행할 수 있다). 더 새로운 명령어들이 opcode 확장으로서 직접 EVEX 프리픽스 인코딩 필드의 내용을 이용할 수 있지만, 소정 실시예들은 일관성을 위해 유사한 방식으로 확장되고, 오히려 상이한 의미들이 이들 레거시 SIMD 프리픽스들에 의해 특정되는 것을 허용한다. 대안적인 실시예는 2 비트 SIMD 프리픽스 인코딩들을 지원하도록 PLA를 재설계할 수 있고, 따라서 확장을 요구하지 않는다.
알파 필드(152)(EVEX 바이트 3, 비트[7] - EH; EVEX.EH, EVEX.rs, EVEX.RL, EVEX.기입 마스크 제어, 및 EVEX.N으로도 알려짐; 또한 α로 예시됨) - 앞서 설명된 바와 같이, 이 필드는 상황에 고유하다.
베타 필드(154)(EVEX 바이트 3, 비트들[6:4]-SSS, EVEX.s2-0, EVEX.r2-0, EVEX.rr1, EVEX.LL0, EVEX.LLB라고도 함; 또한 βββ로 예시되어 있음) - 앞서 설명된 바와 같이, 이 필드는 상황에 고유하다.
REX' 필드(110) - 이것은 REX' 필드의 나머지이고, 확장된 32 레지스터 세트의 상위 16 또는 하위 16 중 어느 하나를 인코딩하는 데 이용될 수 있는 EVEX.V' 비트 필드(EVEX 바이트 3, 비트 [3]-V')이다. 이 비트는 비트 반전된 포맷으로 저장된다. 하위 16개의 레지스터를 인코딩하기 위해 1의 값이 이용된다. 다시 말해서, V'VVVV는 EVEX.V', EVEX.vvvv를 결합함으로써 형성된다.
기입 마스크 필드(170)(EVEX 바이트 3, 비트들 [2:0]-kkk) - 그의 내용은 전술한 바와 같은 기입 마스크 레지스터들에 레지스터의 인덱스를 지정한다. 본 발명의 일 실시예에서, 특정 값 EVEX.kkk=000은 특정 명령어에 대해 어떤 기입 마스크도 이용되지 않음을 암시하는 특정한 거동을 갖는다(이것은 모든 것들에 하드와이어드된 기입 마스크 또는 마스킹 하드웨어를 바이패스하는 하드웨어의 이용을 포함하는 각종 방식들로 구현될 수 있음).
실제 opcode 필드(230)(바이트 4)는 또한 opcode 바이트로 알려진다. opcode의 일부는 이 필드에서 특정된다.
MOD R/M 필드(240)(바이트 5)는 MOD 필드(242), Reg 필드(244), 및 R/M 필드(246)를 포함한다. 전술한 바와 같이, MOD 필드(242)의 내용은 메모리 액세스와 메모리 액세스 없음 연산들 사이를 구별한다. Reg 필드(244)의 역할은 두 가지 상황으로 요약될 수 있는데, 즉 목적지 레지스터 피연산자 또는 소스 레지스터 피연산자를 인코딩하거나, opcode 확장으로서 간주되고, 임의의 명령어 피연산자를 인코딩하는 데 사용되지 않는다. R/M 필드(246)의 역할은 메모리 어드레스를 참조하는 명령어 피연산자를 인코딩하거나, 목적지 레지스터 피연산자 또는 소스 레지스터 피연산자를 인코딩하는 것을 포함할 수 있다.
SIB(Scale, Index, Base) 바이트(바이트 6) - 전술한 바와 같이, 스케일 필드(150)의 내용은 메모리 어드레스 생성을 위해 이용된다. SIB.xxx(254) 및 SIB.bbb(256) - 이 필드들의 내용들은 레지스터 인덱스들 Xxxx 및 Bbbb과 관련하여 앞서 언급하였다.
변위 필드(162A)(바이트들 7-10) - MOD 필드(242)가 10을 포함할 때, 바이트들 7-10은 변위 필드(162A)이고, 그것은 레거시 32-비트 변위(disp32)와 동일하게 작용하고, 바이트 입도에서 작용한다.
변위 인자 필드(162B)(바이트 7) - MOD 필드(242)가 01을 포함할 때, 바이트 7은 변위 인자 필드(162B)이다. 이 필드의 위치는 바이트 입도로 작용하는 레거시 x86 명령어 세트 8 비트 변위(disp8)의 위치와 동일하다. disp8이 부호 확장되기(sign extended) 때문에, 이것은 단지 -128과 127바이트 오프셋들 사이를 어드레싱할 수 있고; 64바이트 캐시 라인들에 관하여, disp8은 4개의 실제 유용한 값들인 -128, -64, 0, 64로만 설정될 수 있는 8 비트를 이용하며; 더 큰 범위가 종종 필요하기 때문에, disp32가 이용되지만; disp32는 4바이트를 요구한다. disp8 및 disp32와 반대로, 변위 인자 필드(162B)는 disp8의 재해석이고; 변위 인자 필드(162B)를 이용할 때, 실제 변위는 메모리 피연산자 액세스의 크기(N)로 곱해진 변위 인자 필드의 내용에 의해 결정된다. 이러한 유형의 변위는 disp8*N으로 지칭된다. 이것은 평균 명령어 길이를 감소시킨다(단일 바이트가 그 변위에 사용되지만 훨씬 더 큰 범위를 갖는다). 이러한 압축된 변위는, 유효 변위가 메모리 액세스의 입도의 배수이고, 그에 따라 어드레스 오프셋의 잉여 하위 비트들이 인코딩될 필요가 없다는 가정에 기초한다. 다시 말해, 변위 인자 필드(162B)는 레거시 x86 명령어 세트 8-비트 변위를 대체한다. 따라서, 변위 인자 필드(162B)는 disp8이 disp8*N으로 오버로드된다는 것만 제외하고 x86 명령어 세트 8 비트 변위와 동일한 방식으로 인코딩된다(그래서 ModRM/SIB 인코딩 규칙들에서 어떠한 것도 변하지 않는다). 다시 말하면, 인코딩 규칙들 또는 인코딩 길이들에서 어떤 변경도 존재하지 않지만, (바이트-관련 어드레스 오프셋(byte-wise address offset)을 획득하기 위해 메모리 피연산자의 크기에 의해 변위를 스케일링할 필요가 있는) 하드웨어에 의한 변위 값의 해석에서만 변경이 존재한다.
즉치 필드(172)는 전술한 바와 같이 동작한다.
풀
opcode
필드
도 2b는 본 발명의 일 실시예에 따른 풀 opcode 필드(174)를 구성하는 특정적 벡터 친화적 명령어 포맷(200)의 필드들을 도시하는 블록도이다. 구체적으로, 풀 opcode 필드(174)는 포맷 필드(140), 베이스 연산 필드(142), 및 데이터 요소 폭(W) 필드(164)를 포함한다. 베이스 연산 필드(142)는 프리픽스 인코딩 필드(225), opcode 맵 필드(215), 및 실제 opcode 필드(230)를 포함한다.
레지스터 인덱스 필드
도 2c는 본 발명의 일 실시예에 따른 레지스터 인덱스 필드(144)를 구성하는 특정적 벡터 친화적 명령어 포맷(200)의 필드들을 도시하는 블록도이다. 구체적으로, 레지스터 인덱스 필드(144)는 REX 필드(205), REX' 필드(210), MODR/M.reg 필드(244), MODR/M.r/m 필드(246), VVVV 필드(220), xxx 필드(254), 및 bbb 필드(256)를 포함한다.
증강 연산 필드
도 2d는 본 발명의 일 실시예에 따른 증강 연산 필드(150)를 구성하는 특정적 벡터 친화적 명령어 포맷(200)의 필드들을 도시하는 블록도이다. 클래스(U) 필드(168)가 0을 포함할 때, 그것은 EVEX.U0(클래스 A(168A))을 의미하고; 그것이 1을 포함할 때, 그것은 EVEX.U1(클래스 B(168B))를 의미한다. U=0이고 MOD 필드(242)가 11을 포함할 때(메모리 액세스 없음 연산을 의미함), 알파 필드(152)(EVEX 바이트 3, 비트 [7]-EH)는 rs 필드(152A)로서 해석된다. rs 필드(152A)가 1을 포함할 때(라운드 152A.1), 베타 필드(154)(EVEX 바이트 3, 비트들 [6:4]- SSS)는 라운드 제어 필드(154A)로서 해석된다. 라운드 제어 필드(154A)는 1 비트 SAE 필드(156) 및 2 비트 라운드 연산 필드(158)를 포함한다. rs 필드(152A)가 0을 포함할 때(데이터 변환 152A.2), 베타 필드(154)(EVEX 바이트 3, 비트들 [6:4]- SSS)는 3 비트 데이터 변환 필드(154B)로서 해석된다. U=0이고 MOD 필드(242)가 00, 01, 또는 10을 포함할 때(메모리 액세스 연산을 의미함), 알파 필드(152)(EVEX 바이트 3, 비트 [7]-EH)는 축출 힌트(EH) 필드(152B)로서 해석되고, 베타 필드(154)(EVEX 바이트 3, 비트들 [6:4]- SSS)는 3 비트 데이터 조작 필드(154C)로서 해석된다.
U=1일 때, 알파 필드(152)(EVEX 바이트 3, 비트 [7]-EH)는 기입 마스크 제어(Z) 필드(152C)로서 해석된다. U=1이고 MOD 필드(242)가 11을 포함할 때(메모리 액세스 없음 연산을 의미함), 베타 필드(154)의 부분(EVEX 바이트 3, 비트 [4]- S0)은 RL 필드(157A)로서 해석되고; 그것이 1을 포함할 때(라운드 157A.1), 베타 필드(154)의 나머지(EVEX 바이트 3, 비트 [6-5]-S2- 1)는 라운드 연산 필드(159A)로서 해석되고, RL 필드(157A)가 0을 포함할 때(VSIZE 157.A2), 베타 필드(154)의 나머지(EVEX 바이트 3, 비트 [6-5]-S2- 1)는 벡터 길이 필드(159B)(EVEX 바이트 3, 비트 [6-5]-L1-0)로서 해석된다. U=1이고 MOD 필드(242)가 00, 01, 또는 10을 포함할 때(메모리 액세스 연산을 의미함), 베타 필드(154)(EVEX 바이트 3, 비트들 [6:4]-SSS)는 벡터 길이 필드(159B)(EVEX 바이트 3, 비트 [6-5]-L1-0) 및 브로드캐스트 필드(157B)(EVEX 바이트 3, 비트 [4]-B)로서 해석된다.
C.
예시적인 레지스터 아키텍처
도 3은 본 발명의 일 실시예에 따른 레지스터 아키텍처(300)의 블록도이다. 도시된 실시예에서, 폭이 512 비트인 32개의 벡터 레지스터들(310)이 존재하고; 이들 레지스터들은 zmm0 내지 zmm31로서 참조된다. 하위 16개의 zmm 레지스터들의 하위 256 비트는 레지스터들 ymm0-16에 오버레이된다. 하위 16개의 zmm 레지스터들의 하위 128 비트(ymm 레지스터들의 하위 128 비트)는 레지스터들 xmm0-15에 오버레이된다. 특정적 벡터 친화적 명령어 포맷(200)은 아래 표에 예시된 바와 같이 이들 오버레이된 레지스터 파일에 대해 동작한다.
다시 말해, 벡터 길이 필드(159B)는 최대 길이와 하나 이상의 다른 더 짧은 길이들 사이에서 선택하고, 각각의 그러한 더 짧은 길이는 선행 길이의 절반 길이이고; 벡터 길이 필드(159B)를 갖지 않는 명령어 템플릿들은 최대 벡터 길이에 대해 동작한다. 또한, 일 실시예에서, 특정적 벡터 친화적 명령어 포맷(200)의 클래스 B 명령어 템플릿들은 패킹 또는 스칼라 단/배 정밀도 부동 소수점 데이터 및 패킹 또는 스칼라 정수 데이터에 대해 동작한다. 스칼라 연산들은 zmm/ymm/xmm 레지스터 내의 최하위 데이터 요소 위치에서 수행되는 연산들이고; 상위 데이터 요소 위치들은 실시예에 따라 명령어 이전에 이들이 있었던 것과 동일하게 남겨지거나 또는 제로화된다.
기입 마스크 레지스터들(315) - 도시된 실시예에서, 각각 64 비트 크기인 8개의 기입 마스크 레지스터(k0 내지 k7)가 존재한다. 대안적인 실시예에서, 기입 마스크 레지스터들(315)은 16 비트 크기이다. 전술한 바와 같이, 본 발명의 일 실시예에서, 벡터 마스크 레지스터 k0은 기입 마스크로서 이용될 수 없고; 통상적으로 k0을 나타내는 인코딩이 기입 마스크에 이용될 때, 이것은 0xFFFF의 하드와이어드 기입 마스크(hardwired write mask)를 선택하여, 그 명령어에 대한 기입 마스킹을 효과적으로 디스에이블한다.
범용 레지스터들(325) - 예시된 실시예에서, 메모리 피연산자들을 어드레싱하기 위해 기존의 x86 어드레싱 모드들과 함께 이용되는 16개의 64-비트 범용 레지스터들이 존재한다. 이들 레지스터들은 RAX, RBX, RCX, RDX, RBP, RSI, RDI, RSP 및 R8 내지 R15라는 이름들로 참조된다.
MMX 패킹 정수 플랫 레지스터 파일(350)이 에일리어싱되는 스칼라 부동 소수점 스택 레지스터 파일(x87 스택)(345)-예시된 실시예에서, x87 스택은 x87 명령어 세트 확장을 이용하여 32/64/80-비트 부동 소수점 데이터에 대해 스칼라 부동 소수점 연산들을 수행하는 데 이용된 8-요소 스택이고; MMX 레지스터들을 이용하여 64-비트 패킹 정수 데이터에 대해 연산들을 수행하고, 또한 MMX 및 XMM 레지스터들 사이에서 수행되는 일부 연산들에 대한 피연산자들을 유지한다.
본 발명의 대안적인 실시예들은 더 넓거나 더 좁은 레지스터들을 이용할 수 있다. 추가적으로, 본 발명의 대안적인 실시예들은 더 많거나, 더 적거나 또는 상이한 레지스터 파일들 및 레지스터들을 이용할 수 있다.
D.
예시적인 코어 아키텍처, 프로세서 및 컴퓨터 아키텍처
프로세서 코어는 상이한 방식으로, 상이한 목적을 위해, 상이한 프로세서에서 구현될 수 있다. 예를 들어, 그러한 코어의 구현은 1) 범용 컴퓨팅을 위해 의도된 범용 순차적 코어; 2) 범용 컴퓨팅을 위해 의도된 고성능 범용 비순차적 코어; 3) 주로 그래픽 및/또는 과학적(쓰루풋) 컴퓨팅을 위해 의도된 특수 목적 코어를 포함할 수 있다. 상이한 프로세서의 구현은: 1) 범용 컴퓨팅을 위해 의도된 하나 이상의 범용 순차적 코어 및/또는 범용 컴퓨팅을 위해 의도된 하나 이상의 범용 비순차적 코어를 포함하는 CPU; 및 2) 주로 그래픽 및/또는 과학적(쓰루풋) 컴퓨팅을 위해 의도된 하나 이상의 특수 목적 코어를 포함하는 코프로세서를 포함할 수 있다. 이러한 상이한 프로세서들은 상이한 컴퓨터 시스템 아키텍처들을 초래하고, 이들 아키텍처들은, 1) CPU와는 별개의 칩 상의 코프로세서; 2) CPU와 동일한 패키지에서의 별개의 다이 상의 코프로세서; 3) CPU와 동일한 다이 상의 코프로세서(이 경우, 이러한 코프로세서는 때때로 통합 그래픽 및/또는 과학적(쓰루풋) 로직과 같은 특수 목적 로직 또는 특수 목적 코어로 지칭됨); 및 4) 추가적인 기능성, 전술한 코프로세서 및 설명된 CPU(때때로 애플리케이션 코어(들) 또는 애플리케이션 프로세서(들)로 지칭됨)를 동일한 다이 상에 포함할 수 있는 시스템 온 칩을 포함할 수 있다. 예시적인 코어 아키텍처들이 다음에 설명되고, 예시적인 프로세서들 및 컴퓨터 아키텍처들의 설명들이 후속된다.
도 4a는 본 발명의 실시예들에 따른 예시적인 순차적 파이프라인과 예시적인 레지스터 리네이밍, 비순차적 발행/실행 파이프라인 양자를 도시하는 블록도이다. 도 4b는 본 발명의 실시예들에 따른 프로세서에 포함되는 순차적 아키텍처 코어와 예시적인 레지스터 리네이밍, 비순차적 발행/실행 아키텍처 코어의 예시적인 실시예 양자를 도시하는 블록도이다. 도 4a-b의 실선 상자들은 순차적 파이프라인 및 순차적 코어를 도시하고, 점선 상자들의 선택적인 추가는 레지스터 리네이밍, 비순차적 발행/실행 파이프라인 및 코어를 도시한다. 순차적 양태가 비순차적 양태의 서브세트인 것을 고려하여, 비순차적 양태가 설명될 것이다.
도 4a에서, 프로세서 파이프라인(400)은 페치 스테이지(402), 길이 디코드 스테이지(404), 디코드 스테이지(406), 할당 스테이지(408), 리네이밍 스테이지(410), 스케줄링(디스패치 또는 발행이라고도 알려짐) 스테이지(412), 레지스터 판독/메모리 판독 스테이지(414), 실행 스테이지(416), 라이트백(write back)/메모리 기입 스테이지(418), 예외 처리 스테이지(422), 및 커밋 스테이지(424)를 포함한다.
도 4b는 실행 엔진 유닛(450)에 결합된 프런트엔드 유닛(430)을 포함하는 프로세서 코어(490)를 도시하고, 양자가 메모리 유닛(470)에 결합되어 있다. 코어(490)는 RISC(reduced instruction set computing) 코어, CISC(complex instruction set computing) 코어, VLIW(very long instruction word) 코어, 또는 하이브리드 또는 대안적인 코어 유형일 수 있다. 또 다른 선택 사항으로서, 코어(490)는 예를 들어, 네트워크 또는 통신 코어, 압축 엔진, 코프로세서 코어, 범용 컴퓨팅 그래픽 프로세싱 유닛(general purpose computing graphics processing unit)(GPGPU) 코어, 그래픽 코어 등과 같은 특수 목적 코어일 수 있다.
프런트엔드 유닛(430)은 명령어 캐시 유닛(434)에 결합된 분기 예측 유닛(432)을 포함하고, 명령어 캐시 유닛(434)은 명령어 변환 색인 버퍼(TLB)(436)에 결합되고, 명령어 변환 색인 버퍼(TLB)(436)는 명령어 페치 유닛(438)에 결합되고, 명령어 페치 유닛(438)은 디코드 유닛(440)에 결합된다. 디코드 유닛(440)(또는 디코더)은 명령어들을 디코딩하고, 오리지널 명령어들로부터 디코딩되거나, 다른 방식으로 오리지널 명령어들을 반영하거나, 오리지널 명령어들로부터 도출되는, 하나 이상의 마이크로 연산들, 마이크로-코드 엔트리 포인트들, 마이크로명령어들, 다른 명령어들, 또는 다른 제어 신호들을 출력으로서 생성할 수 있다. 디코드 유닛(440)은 다양한 상이한 메커니즘들을 이용하여 구현될 수 있다. 적절한 메커니즘의 예는 탐색표, 하드웨어 구현, 프로그램 가능 로직 어레이(PLA), 마이크로코드 판독 전용 메모리(ROM) 등을 포함하지만 이에 한정되지 않는다. 일 실시예에서, 코어(490)는 (예를 들어, 디코드 유닛(440)에 또는 그렇지 않으면 프런트엔드 유닛(430) 내에) 특정 매크로 명령어들에 대한 마이크로코드를 저장하는 마이크로코드 ROM 또는 다른 매체를 포함한다. 디코드 유닛(440)은 실행 엔진 유닛(450)의 리네이밍/할당기 유닛(452)에 결합된다.
실행 엔진 유닛(450)은 리타이어먼트 유닛(454) 및 하나 이상의 스케줄러 유닛(들)(456)의 세트에 결합되는 리네이밍/할당기 유닛(452)을 포함한다. 스케줄러 유닛(들)(456)은 예비 스테이션들, 중앙 명령어 윈도우 등을 포함하는 임의의 수의 상이한 스케줄러들을 나타낸다. 스케줄러 유닛(들)(456)은 물리적 레지스터 파일(들) 유닛(들)(458)에 결합된다. 물리적 레지스터 파일(들) 유닛(들)(458) 각각은 하나 이상의 물리적 레지스터 파일들을 나타내고, 이들 중 상이한 것들이 스칼라 정수, 스칼라 부동 소수점, 패킹 정수, 패킹 부동 소수점, 벡터 정수, 벡터 부동 소수점, 상태(예를 들어, 실행될 다음 명령어의 어드레스인 명령어 포인터) 등과 같은 하나 이상의 상이한 데이터 유형들을 저장한다. 일 실시예에서, 물리적 레지스터 파일(들) 유닛(458)은 벡터 레지스터 유닛, 기입 마스크 레지스터 유닛, 및 스칼라 레지스터 유닛을 포함한다. 이들 레지스터 유닛들은 아키텍처 벡터 레지스터들, 벡터 마스크 레지스터들 및 범용 레지스터들을 제공할 수 있다. 물리적 레지스터 파일(들) 유닛(들)(458)은(예를 들어, 재정렬 버퍼(들) 및 리타이어먼트 레지스터 파일(들)을 이용하여; 미래의 파일(들), 히스토리 버퍼(들), 및 리타이어먼트 레지스터 파일(들)을 이용하여; 레지스터 맵 및 레지스터들의 풀(pool)을 이용하여; 등등) 레지스터 리네이밍 및 비순차적 실행이 구현될 수 있는 다양한 방식을 예시하기 위해 리타이어먼트 유닛(454)에 의해 오버랩된다. 리타이어먼트 유닛(454)과 물리적 레지스터 파일(들) 유닛(들)(458)은 실행 클러스터(들)(460)에 결합된다. 실행 클러스터(들)(460)는 하나 이상의 실행 유닛들(462)의 세트 및 하나 이상의 메모리 액세스 유닛들(464)의 세트를 포함한다. 실행 유닛들(462)은 다양한 유형의 데이터(예를 들어, 스칼라 부동 소수점, 패킹 정수, 패킹 부동 소수점, 벡터 정수, 벡터 부동 소수점)에 대해 다양한 연산들(예를 들어, 시프트, 덧셈, 뺄셈, 곱셈)을 수행할 수 있다. 일부 실시예는 특정 기능들이나 기능들의 세트들에 전용의 복수의 실행 유닛들을 포함할 수 있지만, 다른 실시예들은 단 하나의 실행 유닛, 또는 모두가 모든 기능들을 수행하는 복수의 실행 유닛을 포함할 수 있다. 스케줄러 유닛(들)(456), 물리적 레지스터 파일(들) 유닛(들)(458), 및 실행 클러스터(들)(460)는 가능하게는 복수 개인 것으로 도시되는데, 그것은 특정 실시예들이 특정 유형의 데이터/연산들에 대해 별개의 파이프라인들(예를 들어, 각각이 그들 자신의 스케줄러 유닛, 물리적 레지스터 파일(들) 유닛, 및/또는 실행 클러스터를 갖는 스칼라 정수 파이프라인, 스칼라 부동 소수점/패킹 정수/패킹 부동 소수점/벡터 정수/벡터 부동 소수점 파이프라인, 및/또는 메모리 액세스 파이프라인-별개의 메모리 액세스 파이프라인의 경우에, 이 파이프라인의 실행 클러스터만이 메모리 액세스 유닛(들)(464)을 갖는 특정 실시예들이 구현됨)을 생성하기 때문이다. 개별 파이프라인들이 사용되는 경우, 이들 파이프라인 중 하나 이상은 비순차적 발행/실행일 수 있고 나머지는 순차적일 수 있다는 점도 이해해야 한다.
메모리 액세스 유닛들(464)의 세트는 레벨 2(L2) 캐시 유닛(476)에 결합된 데이터 캐시 유닛(474)에 결합된 데이터 TLB 유닛(472)을 포함하는 메모리 유닛(470)에 결합된다. 일 예시적인 실시예에서, 메모리 액세스 유닛들(464)은 로드 유닛, 저장 어드레스 유닛, 및 저장 데이터 유닛을 포함할 수 있고, 이들 각각은 메모리 유닛(470)의 데이터 TLB 유닛(472)에 결합된다. 명령어 캐시 유닛(434)은 또한 메모리 유닛(470)의 레벨 2(L2) 캐시 유닛(476)에 결합된다. L2 캐시 유닛(476)은 하나 이상의 다른 레벨의 캐시 및 최종적으로 메인 메모리에 결합된다.
예로서, 예시적인 레지스터 리네이밍, 비순차적 발행/실행 코어 아키텍처는 다음과 같이 파이프라인(400)을 구현할 수 있는데: 1) 명령어 페치(438)가 페치 및 길이 디코딩 스테이지들(402 및 404)을 수행하고; 2) 디코드 유닛(440)이 디코드 스테이지(406)를 수행하고; 3) 리네임/할당기 유닛(452)이 할당 스테이지(408) 및 리네이밍 스테이지(410)를 수행하고; 4) 스케줄러 유닛(들)(456)이 스케줄 스테이지(412)를 수행하고; 5) 물리 레지스터 파일(들) 유닛(들)(458) 및 메모리 유닛(470)이 레지스터 판독/메모리 판독 스테이지(414)를 수행하고; 실행 클러스터(460)가 실행 스테이지(416)를 수행하고; 6) 메모리 유닛(470) 및 물리 레지스터 파일(들) 유닛(들)(458)이 라이트백/메모리 기입 스테이지(418)를 수행하고; 7) 다양한 유닛들이 예외 처리 스테이지(422)에 수반될 수 있고; 8) 리타이어먼트 유닛(454) 및 물리 레지스터 파일(들) 유닛(들)(458)이 커밋 스테이지(424)를 수행한다.
코어(490)는 본 명세서에 설명된 명령어(들)를 포함한 하나 이상의 명령어 세트들(예를 들어, x86 명령어 세트(및 더 새로운 버전들이 추가된 그의 일부 확장들); 캘리포니아주 서니베일의 MIPS Technologies의 MIPS 명령어 세트; 캘리포니아주 서니베일의 ARM Holdings의 ARM 명령어 세트(및 NEON과 같은 선택적인 추가적인 확장들))을 지원할 수 있다. 일 실시예에서, 코어(490)는 패킹 데이터 명령어 세트 확장(예를 들어, AVX1, AVX2)을 지원하는 로직을 포함함으로써, 많은 멀티미디어 애플리케이션에 의해 이용되는 연산들이 패킹 데이터를 이용하여 수행될 수 있게 한다.
코어가 (연산들 또는 쓰레드들의 2개 이상의 병렬 세트를 실행하는) 멀티쓰레딩을 지원할 수 있고, 시간 슬라이싱된 멀티쓰레딩, 동시 멀티쓰레딩을 포함하는 다양한 방식으로(이 경우 단일 물리적 코어는 물리적 코어가 동시에 멀티쓰레딩하는 각각의 쓰레드에 대한 논리적 코어를 제공함), 또는 이들의 조합(예를 들어, Intel® 하이퍼쓰레딩 기술에서와 같은 시간 슬라이싱된 페치 및 디코딩 및 그 후의 동시 멀티쓰레딩)으로 지원할 수 있음을 이해해야 한다.
레지스터 리네이밍이 비순차적 실행의 맥락에서 설명되었지만, 레지스터 리네이밍은 순차적 아키텍처에서 사용될 수도 있다는 점을 이해해야 한다. 프로세서의 예시된 실시예가 또한 개별적인 명령어 및 데이터 캐시 유닛들(434/474)과 공유 L2 캐시 유닛(476)을 포함하고 있지만, 대안의 실시예들은, 예를 들어, 레벨 1(L1) 내부 캐시, 또는 다수의 레벨의 내부 캐시와 같은, 명령어들 및 데이터 둘 다에 대한 단일 내부 캐시를 가질 수 있다. 일부 실시예에서, 시스템은 내부 캐시와, 코어 및/또는 프로세서에 대해 외부에 있는 외부 캐시의 조합을 포함할 수 있다. 대안적으로, 캐시 모두가 코어 및/또는 프로세서에 대해 외부적일 수 있다.
도 5a-b는 더 특정한 예시적인 순차적 코어 아키텍처의 블록도를 도시하며, 이 코어는 칩 내의(동일한 유형 및/또는 상이한 유형들의 다른 코어들을 포함하는) 여러 개의 로직 블록 중 하나이다. 로직 블록들은 애플리케이션에 따라, 일부 고정 기능 로직, 메모리 I/O 인터페이스들, 및 다른 필요한 I/O 로직을 갖는 고 대역폭 인터커넥트 네트워크(예를 들어, 링 네트워크)를 통해 통신한다.
도 5a는 본 발명의 실시예들에 따른 온-다이 인터커넥트 네트워크(502)에 대한 접속 및 레벨 2(L2) 캐시(504)의 로컬 서브세트와 함께, 단일 프로세서 코어의 블록도이다. 일 실시예에서, 명령어 디코더(500)는 패킹 데이터 명령어 세트 확장을 갖는 x86 명령어 세트를 지원한다. L1 캐시(506)는 스칼라 유닛 및 벡터 유닛에 대한 캐시 메모리로의 낮은 레이턴시 액세스들을 허용한다. (설계를 단순화하기 위해) 일 실시예에서 스칼라 유닛(508) 및 벡터 유닛(510)은 별개의 레지스터 세트들(각각 스칼라 레지스터들(512) 및 벡터 레지스터들(514))을 이용하고, 이들 사이에 전달되는 데이터는 메모리에 기입된 다음, 레벨 1(L1) 캐시(506)로부터 다시 판독되지만, 본 발명의 대안적인 실시예들은 상이한 접근법을 이용할 수 있다(예를 들어, 단일의 레지스터 세트를 이용하거나, 또는 기입 및 다시 판독되지 않고 2개의 레지스터 파일 사이에서 데이터가 전달되는 것을 허용하는 통신 경로를 포함함).
L2 캐시(504)의 로컬 서브세트는 프로세서 코어당 하나씩, 별개의 로컬 서브세트들로 분할되는 글로벌 L2 캐시의 부분이다. 각 프로세서 코어는 L2 캐시(504)의 그 자신의 로컬 서브세트에 대한 직접 액세스 경로를 갖는다. 프로세서 코어에 의해 판독된 데이터는 그의 L2 캐시 서브세트(504)에 저장되고, 그 자신의 로컬 L2 캐시 서브세트들에 액세스하는 다른 프로세서 코어들과 병렬로, 신속히 액세스될 수 있다. 프로세서 코어에 의해 기입된 데이터는 그 자신의 L2 캐시 서브세트(504)에 저장되고, 필요한 경우 다른 서브세트들로부터 플러싱된다. 링 네트워크는 공유 데이터에 대한 코히런시(coherency)를 보장한다. 링 네트워크는 양방향성이어서, 프로세서 코어들, L2 캐시들 및 다른 로직 블록들과 같은 에이전트들이 칩 내에서 상호 통신하는 것을 허용한다. 각각의 링 데이터-경로는 방향당 1012 비트 폭이다.
도 5b는 본 발명의 실시예들에 따른 도 5a의 프로세서 코어의 부분의 확대도이다. 도 5b는 벡터 유닛(510) 및 벡터 레지스터들(514)에 관한 추가적인 상세뿐만 아니라, L1 캐시(504)의 L1 데이터 캐시(506A) 부분을 포함한다. 구체적으로, 벡터 유닛(510)은 16-폭 벡터 프로세싱 유닛(VPU)(16-폭 ALU(528) 참조)이고, 이것은 정수, 단정밀도 부동, 및 배정밀도 부동 명령어들 중 하나 이상을 실행한다. VPU는 스위즐 유닛(520)에 의한 레지스터 입력들의 스위즐링, 수치적 변환 유닛들(522A-B)에 의한 수치적 변환, 및 메모리 입력에 대한 복제 유닛(524)에 의한 복제를 지원한다. 기입 마스크 레지스터들(526)은 결과적인 벡터 기입들의 서술을 허용한다.
도 6은 본 발명의 실시예들에 따라, 2개 이상의 코어를 가질 수 있고, 통합 메모리 제어기를 가질 수 있고, 및 통합 그래픽을 가질 수 있는 프로세서(600)의 블록도다. 도 6의 실선 박스들은 단일 코어(602A), 시스템 에이전트(610), 하나 이상의 버스 제어기 유닛(616)의 세트를 갖는 프로세서(600)를 도시하는 한편, 옵션인 점선 박스들의 추가는 다수의 코어들(602A-N), 시스템 에이전트 유닛(610) 내의 하나 이상의 통합 메모리 제어기 유닛(들)(614)의 세트, 및 특수 목적 로직(608)을 갖는 대안적인 프로세서(600)를 도시한다.
따라서, 프로세서(600)의 상이한 구현들은 다음을 포함할 수 있다: 1)(하나 이상의 코어를 포함할 수 있는) 통합 그래픽 및/또는 과학적(쓰루풋) 로직인 특수 목적 로직(608), 및 하나 이상의 범용 코어인 코어들(602A-N)(예를 들어, 범용 순차적 코어들, 범용 비순차적 코어들, 이 둘의 조합)을 갖는 CPU; 2) 그래픽 및/또는 과학적(쓰루풋)을 위해 주로 의도된 다수의 특수 목적 코어들인 코어들(602A-N)을 갖는 코프로세서; 및 3) 다수의 범용 순차적 코어들인 코어들(602A-N)을 갖는 코프로세서. 따라서, 프로세서(600)는 범용 프로세서, 코프로세서, 또는, 예를 들어, 네트워크 또는 통신 프로세서, 압축 엔진, 그래픽 프로세서, GPGPU(general purpose graphics processing unit), 하이 쓰루풋 MIC(many integrated core) 코프로세서(30개 이상의 코어를 포함함), 임베디드 프로세서 등과 같은 특수 목적 프로세서일 수 있다. 프로세서는 하나 이상의 칩 상에 구현될 수 있다. 프로세서(600)는, 예를 들어, BiCMOS, CMOS, 또는 NMOS와 같은 다수의 프로세스 기술들 중 임의의 것을 사용하여 하나 이상의 기판의 일부가될 수 있고 및/또는 이들 기판 상에 구현될 수 있다.
메모리 계층구조는 코어들 내의 하나 이상의 레벨들의 캐시, 세트 또는 하나 이상의 공유 캐시 유닛들(606), 및 통합 메모리 제어기 유닛들(614)의 세트에 연결되는 외부 메모리(도시되지 않음)를 포함한다. 공유 캐시 유닛들(606)의 세트는 레벨 2(L2), 레벨 3(L3), 레벨 4(L4), 또는 기타 레벨들의 캐시와 같은 하나 이상의 중간 레벨 캐시들, LLC(last level cache), 및/또는 이들의 조합을 포함할 수 있다. 일 실시예에서 링 기반 인터커넥트 유닛(612)은 통합 그래픽 로직(608), 공유 캐시 유닛들(606)의 세트, 및 시스템 에이전트 유닛(610)/통합 메모리 제어기 유닛(들)(614)을 상호접속하지만, 대안적인 실시예들은 이러한 유닛들을 상호접속하기 위한 잘 알려진 기술들 중 임의의 것을 사용할 수 있다. 일 실시예에서는, 하나 이상의 캐시 유닛들(606)과 코어들(602A-N) 사이에 코히런시가 유지된다.
일부 실시예들에서, 코어들(602A-N) 중 하나 이상은 멀티쓰레딩을 할 수 있다. 시스템 에이전트(610)는 코어들(602A-N)을 조정하고 동작시키는 컴포넌트들을 포함한다. 시스템 에이전트 유닛(610)은 예를 들어 PCU(power control unit) 및 디스플레이 유닛을 포함할 수 있다. PCU는 코어들(602A-N) 및 통합 그래픽 로직(608)의 전원 상태를 조절하기 위해 필요한 로직과 컴포넌트들일 수 있거나 이들을 포함할 수 있다. 디스플레이 유닛은 하나 이상의 외부 접속된 디스플레이들을 구동하기 위한 것이다.
코어들(602A-N)은 아키텍처 명령어 세트와 관련하여 동종 또는 이종일 수 있다; 즉, 코어들(602A-N) 중 2개 이상은 동일 명령어 세트를 실행할 수 있는 반면, 다른 것들은 그 명령어 세트의 서브세트 또는 상이한 명령어 세트만을 실행할 수 있다.
도 7 내지 도 10은 예시적인 컴퓨터 아키텍처들의 블록도들이다. 랩톱들, 데스크톱들, 핸드헬드 PC들, 퍼스널 디지털 어시스턴트들, 엔지니어링 워크스테이션들, 서버들, 네트워크 디바이스들, 네트워크 허브들, 스위치들, 임베디드 프로세서들, DSP(digital signal processor)들, 그래픽 디바이스들, 비디오 게임 디바이스들, 셋톱 박스들, 마이크로컨트롤러들, 휴대 전화들, 휴대용 미디어 플레이어들, 핸드헬드 디바이스들, 및 다양한 다른 전자 디바이스들에 대해 본 기술분야에 알려진 다른 시스템 설계들 및 구성들도 적합하다. 일반적으로, 본 명세서에 개시되는 바와 같은 프로세서 및/또는 다른 실행 로직을 통합할 수 있는 매우 다양한 시스템들 또는 전자 디바이스들이 일반적으로 적합하다.
이제 도 7을 참조하면, 본 발명의 일 실시예에 따른 시스템(700)의 블록도가 도시된다. 시스템(700)은 하나 이상 프로세서들(710, 715)을 포함할 수 있고, 이는 제어기 허브(720)에 연결된다. 일 실시예에서, 제어기 허브(720)는, GMCH(graphics memory controller Hub)(790) 및 IOH(Input/Output Hub)(750)(개별 칩들 상에 있을 수 있음)를 포함하고; GMCH(790)는 메모리 및 메모리(740)와 코프로세서(745)에 연결되는 그래픽 제어기들을 포함하고; IOH(750)는 GMCH(790)에 입력/출력(I/O) 디바이스들(760)을 연결한다. 대안적으로, 메모리 및 그래픽 제어기들 중 하나 또는 둘 다는(본 명세서에서 설명되는 바와 같이) 프로세서 내에 통합되고, 메모리(740) 및 코프로세서(745)는 프로세서(710) 및 IOH(750)와 단일 칩에 있는 제어기 허브(720)에 직접 연결된다.
추가적인 프로세서들(715)의 옵션 특성은 도 7에서 파선으로 표기된다. 각각의 프로세서(710, 715)는, 본 명세서에 설명되는 처리 코어들 중 하나 이상을 포함할 수 있고, 프로세서(600)의 일부 버전일 수 있다.
메모리(740)는, 예를 들어, DRAM(dynamic random access memory), PCM(phase change memory), 또는 이 둘의 조합일 수 있다. 적어도 하나의 실시예에 대해, 제어기 허브(720)는, FSB(frontside bus)와 같은 멀티-드롭 버스, QPI(QuickPath Interconnect)와 같은 포인트 투 포인트 인터페이스, 또는 유사한 접속(795)을 통해 프로세서(들)(710, 715)와 통신한다.
일 실시예에서, 코프로세서(745)는, 예를 들어, 하이 쓰루풋 MIC 프로세서, 네트워크 또는 통신 프로세서, 압축 엔진, 그래픽 프로세서, GPGPU, 임베디드 프로세서 등과 같은 특수 목적 프로세서이다. 일 실시예에서, 제어기 허브(720)는 통합 그래픽 가속기를 포함할 수 있다.
아키텍처 특성, 마이크로아키텍처 특성, 열적 특성, 전력 소비 특성 등을 포함하는 장점 기준들의 스펙트럼과 관련하여 물리적 리소스들(710, 715) 사이에는 다양한 상이함이 존재할 수 있다.
일 실시예에서, 프로세서(710)는 일반적인 유형의 데이터 처리 연산들을 제어하는 명령어들을 실행한다. 명령어들 내에는 코프로세서 명령어들이 임베딩될 수 있다. 프로세서(710)는 이러한 코프로세서 명령어들을 부속된 코프로세서(745)에 의해 실행되어야 하는 유형의 것으로 인식한다. 따라서, 프로세서(710)는 이러한 코프로세서 명령어들(또는 코프로세서 명령어들을 나타내는 제어 신호들)을 코프로세서 버스 또는 다른 인터커넥트 상에서 코프로세서(745)에 발행한다. 코프로세서(들)(745)는 수신된 코프로세서 명령어들을 수락 및 실행한다.
이제 도 8을 참조하면, 본 발명의 일 실시예에 따른 제1의 더 구체적인 예시적인 시스템(800)의 블록도가 도시된다. 도 8에 도시된 바와 같이, 멀티프로세서 시스템(800)은 포인트 투 포인트 인터커넥트 시스템이고, 포인트 투 포인트 인터커넥트(850)를 통해 연결되는 제1 프로세서(870) 및 제2 프로세서(880)를 포함한다. 프로세서들(870 및 880) 각각은 프로세서(600)의 일부 버전일 수 있다. 본 발명의 일 실시예에서, 프로세서들(870 및 880)은 각각 프로세서들(710 및 715)이고, 코프로세서(838)은 코프로세서(745)이다. 또 다른 실시예에서, 프로세서들(870 및 880)은 각각 프로세서(710) 및 코프로세서(745)이다.
프로세서들(870 및 880)은 각각 IMC(integrated memory controller) 유닛들(872 및 882)을 포함하는 것으로 도시된다. 프로세서(870)는 또한 자신의 버스 제어기 유닛들의 일부로서 포인트 투 포인트(P-P) 인터페이스들(876, 878)을 포함하고; 유사하게, 제2 프로세서(880)는 P-P 인터페이스들(886, 888)을 포함한다. 프로세서들(870, 880)은 P-P 인터페이스 회로들(878, 888)을 사용하는 포인트 투 포인트(P-P) 인터페이스(850)를 통해 정보를 교환할 수 있다. 도 8에 도시된 바와 같이, IMC들(872 및 882)은 프로세서들을 각각의 메모리, 즉 메모리(832) 및 메모리(834)에 연결하며, 이는 각각의 프로세서들에 로컬로 부속되는 주 메모리의 일부들일 수 있다.
프로세서들(870, 880)은 각각 포인트 투 포인트 인터페이스 회로들(876, 894, 886, 898)을 사용하여 개별 P-P 인터페이스들(852, 854)을 통해 칩셋(890)과 정보를 교환할 수 있다. 칩셋(890)은 옵션으로 고성능 인터페이스(839)를 통해 코프로세서(838)와 정보를 교환할 수 있다. 일 실시예에서, 코프로세서(838)는, 예를 들어, 하이 쓰루풋 MIC 프로세서, 네트워크 또는 통신 프로세서, 압축 엔진, 그래픽 프로세서, GPGPU, 임베디드 프로세서 등과 같은 특수 목적 프로세서이다.
공유 캐시(도시되지 않음)는 어느 하나의 프로세서에 포함되거나, 둘 다의 프로세서의 외부이지만 여전히 P-P 인터커넥트를 통해 프로세서들과 접속될 수 있어서, 프로세서가 저전력 모드에 놓이는 경우 어느 하나 또는 둘 다의 프로세서의 로컬 캐시 정보가 공유된 캐시에 저장될 수 있다.
칩셋(890)은 인터페이스(896)를 통해 제1 버스(816)에 연결될 수 있다. 일 실시예에서, 제1 버스(816)는 PCI(Peripheral Component Interconnect) 버스이거나, 또는 PCI Express 버스 또는 또 다른 제3 세대 I/O 인터커넥트 버스와 같은 버스일 수 있지만, 본 발명의 범위는 이에 제한되지는 않는다.
도 8에 도시된 바와 같이, 다양한 I/O 디바이스들(814)이 제1 버스(816)를 제2 버스(820)에 연결하는 버스 브리지(818)와 함께 제1 버스(816)에 연결될 수 있다. 일 실시예에서, 코프로세서, 하이 쓰루풋 MIC 프로세서, GPGPU, 가속기(예를 들어, 그래픽 가속기 또는 디지털 신호 처리(DSP) 유닛 등), 필드 프로그래머블 게이트 어레이 또는 임의의 다른 프로세서와 같은 하나 이상의 추가적인 프로세서(들)(815)가 제1 버스(816)에 연결된다. 일 실시예에서, 제2 버스(820)는 LPC(low pin count) 버스일 수 있다. 일 실시예에서는, 예를 들어, 키보드 및/또는 마우스(822), 통신 디바이스들(827) 및 명령어들/코드 및 데이터(830)를 포함할 수 있는 디스크 드라이브 또는 기타 대용량 저장 디바이스와 같은 저장 유닛(828)을 포함하는 다양한 디바이스들이 제2 버스(820)에 연결될 수 있다. 또한, 오디오 I/O(824)가 제2 버스(820)에 연결될 수 있다. 다른 아키텍처들도 가능하다는 점에 유의한다. 예를 들어, 도 8의 포인트 투 포인트 아키텍처 대신에, 시스템은 멀티드롭 버스 또는 다른 이러한 아키텍처를 구현할 수 있다.
이제 도 9를 참조하면, 본 발명의 실시예에 따른 제2의 더 구체적인 예시적인 시스템(900)의 블록도가 도시된다. 도 8 및 도 9에서 동일한 요소들은 동일한 참조 번호들을 가지며, 도 8의 특정 양태들은 도 9의 다른 양태들을 불명료하게 하는 것을 회피하기 위해 도 9로부터 생략되었다.
도 9는 프로세서들(870, 880)이 통합 메모리 및 I/O 제어 로직("CL")(872 및 882)을 각각 포함할 수 있다는 점을 도시한다. 따라서, CL(872, 882)는 통합 메모리 제어기 유닛들 및 I/O 제어 로직을 포함한다. 도 9는 CL(872, 882)에 메모리들(832, 834)만이 연결되는 것이 아니라, 제어 로직(872, 882)에 I/O 디바이스들(914)도 연결된다는 점을 도시한다. 레거시 I/O 디바이스들(915)은 칩셋(890)에 연결된다.
이제, 도 10을 참조하면, 본 발명의 일 실시예에 따른 SoC(1000)의 블록도가 도시된다. 도 6에서의 유사한 요소들은 동일한 참조 번호를 갖는다. 또한, 파선 박스들은 더 진보된 SoC들에 대한 옵션 특징들이다. 도 10에서, 인터커넥트 유닛(들)(1002)은 다음에 연결된다: 하나 이상의 코어(202A-N)의 세트 및 공유 캐시 유닛(들)(606)을 포함하는 애플리케이션 프로세서(1010); 시스템 에이전트 유닛(610); 버스 제어기 유닛(들)(616); 통합 메모리 제어기 유닛(들)(614); 통합 그래픽 로직, 이미지 프로세서, 오디오 프로세서, 및 비디오 프로세서를 포함할 수 있는 하나 이상의 코프로세서들(1020) 또는 그 세트; SRAM(static random access memory) 유닛(1030); DMA(direct memory access) 유닛(1032); 및 하나 이상의 외부 디스플레이에 연결하기 위한 디스플레이 유닛(1040). 일 실시예에서, 코프로세서(들)(1020)는, 예를 들어, 네트워크 또는 통신 프로세서, 압축 엔진, GPGPU, 하이 쓰루풋 MIC 프로세서, 임베디드 프로세서와 같은 특수 목적 프로세서를 포함한다.
본 명세서에 개시된 메커니즘들의 실시예들은 하드웨어, 소프트웨어, 펌웨어, 또는 이러한 구현 접근법들의 조합으로 구현될 수 있다. 본 발명의 실시예들은, 적어도 하나의 프로세서, 저장 시스템(휘발성 및 비휘발성 메모리 및/또는 저장 요소들을 포함함), 적어도 하나의 입력 디바이스 및 적어도 하나의 출력 디바이스를 포함하는 프로그램가능 시스템들 상에서 실행되는 컴퓨터 프로그램들 또는 프로그램 코드로서 구현될 수 있다.
도 8에 도시된 코드(830)과 같은 프로그램 코드는 본 명세서에 설명되는 기능들을 수행하고 출력 정보를 생성하도록 입력 명령어들에 적용될 수 있다. 출력 정보는 공지된 방식으로 하나 이상의 출력 디바이스에 적용될 수 있다. 이 애플리케이션을 위해, 처리 시스템은, 예를 들어, 디지털 신호 프로세서(DSP), 마이크로컨트롤러, 주문형 집적 회로(ASIC) 또는 마이크로프로세서와 같은 프로세서를 갖는 임의의 시스템을 포함한다.
프로그램 코드는 처리 시스템과 통신하기 위해 하이 레벨 절차형 또는 객체 지향형 프로그래밍 언어로 구현될 수 있다. 또한, 프로그램 코드는 요구되는 경우에 어셈블리 또는 기계 언어로 구현될 수 있다. 사실상, 본 명세서에 설명된 메커니즘들은 임의의 특정 프로그래밍 언어로 범위가 제한되지는 않는다. 임의의 경우에, 이 언어는 컴파일형 또는 해석형 언어일 수 있다.
적어도 하나의 실시예의 하나 이상의 양태는, 머신에 의해 판독될 때에 이 머신으로 하여금 본 명세서에 설명된 기술들을 수행하는 로직을 제조하게 하는, 프로세서 내의 다양한 로직을 나타내는 머신 판독가능 매체 상에 저장된 대표적인 명령어들에 의해 구현될 수 있다. "IP 코어들"로서 알려진 이러한 표현들은 유형(tangible) 머신 판독가능 매체 상에 저장되고, 다양한 고객들 또는 제조 설비들에 공급되어, 로직 또는 프로세서를 실제로 제조하는 제조 머신들로 로딩될 수 있다.
이러한 머신 판독가능 저장 매체는, 하드 디스크들, 플로피 디스크들, 광학 디스크들, CD-ROM들(compact disk read-only memories), CD-RW들(compact disk rewritable's) 및 광자기 디스크들을 포함하는 임의의 다른 유형의 디스크, ROM들(read-only memories), RAM들(random access memories), 예를 들어 DRAM들(dynamic random access memories), SRAM들(static random access memories), EPROM들(erasable programmable read-only memories), 플래시 메모리들, EEPROM들(electrically erasable programmable read-only memories), 상변화 메모리(PCM)와 같은 반도체 디바이스들, 자기 또는 광학 카드들, 또는 전자 명령어들을 저장하기에 적합한 임의의 다른 유형의 매체와 같은 저장 매체를 비롯하여, 머신 또는 디바이스에 의해 제조되거나 형성되는 제조물들의 비일시적인 유형 배열들을 포함할 수 있지만, 이에 제한되지는 않는다.
따라서, 본 발명의 실시예들은, 명령어들을 포함하거나, 또는 본 명세서에 설명된 구조들, 회로들, 장치들, 프로세서들 및/또는 시스템 피처들을 정의하는 HDL(Hardware Description Language)과 같은 설계 데이터를 포함하는 비일시적인 유형의 머신 판독가능 매체를 또한 포함한다. 이러한 실시예들은 프로그램 제품들로 또한 언급될 수 있다.
일부 경우에, 소스 명령어 세트로부터 타겟 명령어 세트로 명령어를 변환하기 위해 명령어 변환기가 이용될 수 있다. 예를 들어, 명령어 변환기는 명령어를 코어에 의해 처리될 하나 이상의 다른 명령어로(예를 들어, 정적 바이너리 번역, 동적 번역(dynamic compilation)을 포함하는 동적 바이너리 번역을 이용하여) 번역하거나, 모핑하거나, 에뮬레이트하거나, 또는 다른 방식으로 변환할 수 있다. 명령어 변환기는 소프트웨어, 하드웨어, 펌웨어 또는 이들의 조합으로 구현될 수 있다. 명령어 변환기는 온 프로세서(on processor), 오프 프로세서(off processor), 또는 부분 온 및 부분 오프 프로세서(part on and part off processor)일 수 있다.
도 11은 본 발명의 실시예들에 따라 소스 명령어 세트 내의 바이너리 명령어들을 타겟 명령어 세트 내의 바이너리 명령어들로 변환하는 소프트웨어 명령어 변환기의 사용을 대조하는 블록도다. 도시된 실시예에서, 명령어 변환기는 소프트웨어 명령어 변환기이지만, 대안적으로 명령어 변환기는 소프트웨어, 펌웨어, 하드웨어 또는 이들의 다양한 조합으로 구현될 수 있다. 도 11은 하이 레벨 언어(1102)의 프로그램을 x86 컴파일러(1104)를 사용하여 컴파일하여, 적어도 하나의 x86 명령어 세트 코어를 갖는 프로세서(1116)에 의해 원천적으로 실행될 수 있는 x86 바이너리 코드(1106)를 생성할 수 있다는 것을 도시한다. 적어도 하나의 x86 명령어 세트 코어를 갖는 프로세서(1116)는, 적어도 하나의 x86 명령어 세트 코어를 갖는 Intel 프로세서와 실질적으로 동일한 결과를 달성하기 위해,(1) Intel x86 명령어 세트 코어의 명령어 세트의 상당 부분 또는(2) 적어도 하나의 x86 명령어 세트 코어를 갖는 Intel 프로세서 상에서 실행되도록 되어 있는 애플리케이션들 또는 다른 소프트웨어의 오브젝트 코드 버전들을, 호환가능하게 실행하거나 다른 방식으로 처리함으로써 적어도 하나의 x86 명령어 세트 코어를 갖는 Intel 프로세서와 실질적으로 동일한 기능들을 수행할 수 있는 임의의 프로세서를 나타낸다. x86 컴파일러(1104)는 추가적인 링크 처리 유무와 무관하게 적어도 하나의 x86 명령어 세트 코어를 갖는 프로세서(1116)에서 실행될 수 있는 x86 바이너리 코드(1106)(예를 들어, 오브젝트 코드)를 생성하도록 동작될 수 있는 컴파일러를 나타낸다. 유사하게, 도 11은, 하이 레벨 언어(1102)에서의 프로그램이 대안 명령어 세트 컴파일러(1108)를 사용하여 컴파일되어, 적어도 하나의 x86 명령어 세트 코어가 없는 프로세서(1114)(예를 들어, 캘리포니아주 서니베일의 MIPS Technologies의 MIPS 명령어 세트를 실행하는 및/또는 캘리포니아주 서니베일의 ARM Holdings의 ARM 명령어 세트를 실행하는 코어들이 없는 프로세서)에 의해 원천적으로 실행될 수 있는 대안 명령어 세트 바이너리 코드(1110)을 생성할 수 있다는 점을 보여준다. 명령어 변환기(1112)는 x86 바이너리 코드(1106)를 x86 명령어 세트 코어가 없는 프로세서(1114)에 의해 원천적으로 실행될 수 있는 코드로 변환하는데 사용된다. 이러한 변환된 코드는 대안 명령어 세트 바이너리 코드(1110)와 동일할 가능성이 없는데, 그 이유는 이를 행할 수 있는 명령어 변환기를 제조하기 어렵기 때문이다; 그러나, 변환된 코드는 일반적인 연산을 달성할 것이며, 대안 명령어 세트로부터의 명령어들로 이루어질 것이다. 따라서, 명령어 변환기(1112)는, 에뮬레이션, 시뮬레이션 또는 임의의 다른 프로세스를 통해, x86 명령어 세트 프로세서 또는 코어를 갖지 않는 프로세서 또는 기타 전자 디바이스가 x86 바이너리 코드(1106)를 실행할 수 있게 해주는 소프트웨어, 펌웨어, 하드웨어, 또는 이들의 조합을 나타낸다.
벡터 요소들의 세트에 대한 축소 연산을 수행하기 위한 방법 및 장치
"희소 업데이트(sparse updates)"는 벡터화가 유익할 중요한 알고리즘 패턴이다. 여기서, 간접적으로 어드레싱된 메모리 위치에 대해 판독-수정-기입(read-modify-write) 동작이 수행될 수 있다(예를 들어, A[B[i] 로딩, 그것에 무언가를 추가, 및 그 값을 다시 A[B[i]]에 저장]. 이러한 유형의 동작을 벡터화하는 것은 수집-수정-분산(gather-modify-scatter) 동작을 수행하는 것을 수반한다. 예로서, 이러한 동작은 수집 동작을 통해 i의 16개의 연속 값들에 대해 A[B[i]] 형태의 16 간접 로딩을 수행하는 것, SIMD(single instruction multiple data) 계산을 수행하는 것, 및 새로운 값을 다시 메모리에 분산하는 것을 수반할 수 있다. 그러나, 이 벡터화는 단일 수집/분산 명령어가 각각의 메모리 위치에 한 번만 액세스할 것임을 가정한다. 예를 들어, B[i]의 2개의 연속 값이 동일하다면, 두 번째 것에 대한 판독-수정-기입은 첫 번째 것에 종속한다. 따라서, SIMD 방식으로 이들을 동시에 수행하는 것은 이러한 종속성을 위반하고 잘못된 결과를 야기할 수 있다.
본 발명의 일 실시예는 벡터 레지스터 내의 요소들을 비교하여 중복을 검출하는 VPCONFLICT와 같은 충돌 검출 명령어를 이용한다. 특히, 이 명령어는 그의 벡터 레지스터 입력의 각각의 요소를 해당 입력의 모든 이전 요소(예를 들어, 최하위 비트(LSB)에 더 가까운 모든 요소)와 동일한지에 대해 테스트하며, 이러한 비교의 결과를 비트 벡터들의 세트로서 출력할 수 있다. 충돌 검출 명령어는 요소가 동일한 SIMD 레지스터 내의 다른 요소를 수반하는 데이터 종속성을 갖는지 여부를 결정하는 방법을 제공한다.
도 12는 데이터 요소들(1200-1203)의 세트를 포함하는 입력 벡터 레지스터(1220) 및 충돌 검출 명령어의 결과(1210-1213)를 저장하기 위한 출력 레지스터(1230)를 갖는 예를 도시한다. 동작시, 충돌 검출 명령어는 데이터 요소(1200-1203) 각각을 그에 선행하는 데이터 요소와 비교한다. 제1 요소(1200)는 (그에 선행하는 요소가 없기 때문에) 또 다른 요소와 비교되지 않으며, 그 결과는 출력 벡터 레지스터(1230)의 제1 요소에 0000으로서 저장되어 충돌이 없음을 지시한다. 제2 요소(1201)는 제1 요소(1200)와 비교된다. 그 요소들이 동일하지 않기 때문에, 그 결과도 출력 벡터 레지스터(1211)의 제2 위치(1211)에 저장된 0000(충돌 없음)이다. 제3 요소(1202)는 제1 요소(1200)와 동일하기 때문에, 0001의 결과가 출력 벡터 레지스터(1230)의 제3 출력 위치(1212)에 저장된다. 일 실시예에서, 0001은 바이너리 값이고, 결과의 제1 위치의 1은 제3 요소(1202)가 입력 벡터 레지스터(1220)의 제1 요소(1200)와 동일함을 지시한다. 마지막으로, 제4 요소(1203)는 제1 요소(1200) 및 제3 요소(1202) 둘 다와 동일하기 때문에, 0101의 값이 출력 벡터 레지스터(1230)의 제4 위치(1213)에 설정된다(제1 비트 위치의 첫 번째 1은 제1 데이터 요소(1200)와 동일함을 지시하고 제3 비트 위치의 두 번째 1은 제3 데이터 요소(1202)와 동일함을 지시한다).
SIMD 레지스터의 개별 요소들 내의 중복 값을 식별하는 능력은 SIMD 레지스터 요소들에 걸쳐 가능한 데이터 종속성이 벡터화를 방해할 수도 있는 경우 스칼라 코드가 벡터화되게 할 수 있다. 예를 들어, 고유 인덱스를 가진 요소들의 서브세트를 결정하고, SIMD 방식으로 그것들을 계산한 다음, 나머지 요소들을 재시도하기 위해 루프백하여, 동일한 인덱스를 갖는 요소들에 대한 계산을 직렬화함으로써 종속성이 적용될 수 있다. 상기 예에서, 처음 2개의 요소는 동시에 계산되고, 이어서 제3 요소는 그 자체로 계산되고(제1 요소의 출력 값으로부터 입력 값을 검색), 마지막 요소는 그 자체로 계산될 것이다(제3 요소의 출력 값으로부터 입력 값을 검색). 이 접근법은 N개의 데이터 요소의 어레이에 대한 연산("계산")을 수행하고 반복마다 SIMD_WIDTH 요소에 대해 연산하도록 벡터화되는 다음의 예시적인 루프에서 표현된다.
간략화를 위해 Compute_Mask_of_Unique_Remaining_Indices 함수에 대한 설명은 생략되었다.
상기 코드 예는 벡터화되어 있지만, 루프의 벡터화된 버전은 때때로 그의 스칼라 등가물보다 더 낮은 성능을 야기할 수 있어, 벡터화가 유익할 것인지 여부를 예측하기 어렵다. 특히, 벡터화가 제공하는 성능 향상은 인덱스 SIMD 레지스터 내의 몇 개의 요소('Indices')가 중복 값을 갖는지에 따라 달라진다. 이 접근법은 임의의 주어진 인덱스의 인스턴스가 몇 개 있을 때, 즉 공통의 경우가 while 루프의 몇 회 반복을 가져야 하는 경우에 효과적이다. 그러나, 동일한 인덱스의 인스턴스가 많은 경우, 'while' 루프 반복의 최대 수가 SIMD 폭과 같기 때문에 실행 시간은 스칼라 실행보다 나쁠 수 있다.
이러한 문제를 해결하기 위해, 아래에서 설명되는 본 발명의 실시예들은 SIMD 레지스터 내의 요소들에 대해, 고유 인덱스 값마다 하나의 축소로, 병렬로 다수의 트리 축소를 수행하는 기법들을 포함한다. 이 접근법은 기껏해야 log2SIMD_WIDTH개의 계산 단계를 갖는다. 특히, 본 발명의 특정 실시예들은 SIMD 레지스터 내에서 임의의 순서화를 갖는 값들의 세트에 걸쳐 병렬로 임의의 수의 바이너리 트리 축소를 수행할 수 있다. VPCONFLICT와 같은 충돌 검출 명령어의 정보가 풍부한 출력은 동일한 인덱스를 갖는 SIMD 요소들의 쌍들로부터의 부분 결과들을 반복적으로 식별하고 결합하는 데 사용될 수 있다. 새로운 명령어인 VPOPCNT가 이 접근법에 사용될 수 있는데, 그 이유는 그것은 인덱스를 공유하는 요소들 각각이 순서화되는 것을 가능하게 하기 때문이다. VPOPCNT 명령어의 일 실시예는 각각의 SIMD 요소에서 세트 비트(즉, 1)의 수를 카운팅한다.
단일 SIMD 레지스터 내에는, 하나 이상의 축소 패턴을 통해 결합될 필요가 있는 다수의 값이 있을 수 있다. 예를 들어, 애플리케이션은 단일 SIMD 레지스터 내에 값들 {a0, b0, a1, a2, b1, a3, a4, b2}의 세트를 가질 수 있으며, 이들은 모든 'a' 값들이 합산되고 모든 'b' 값들이 합산되어, 단지 2개의 값 {a0+a1+a2+a3+a4, b0+b1+b2}을 산출하도록 결합될 필요가 있다. 이것을 행하는 다수의 방법이 있지만, 단지 2개의 입력을 갖는 축소 연산(예를 들어, 프로세서에서의 가산 명령어)을 가정한 가장 효율적인 방법은 SIMD 레지스터의 요소들에 걸쳐 병렬로 다수의 바이너리 트리 축소를 수행하는 것이다.
본 발명의 실시예는 (A) 독립적인 축소들 각각에 대해 축소 연산을 직렬화하거나 또는 (B) 관련 "인덱스" 벡터 내의 각각의 고유 인덱스 값의 인스턴스의 수를 카운팅할 필요 없이 벡터 레지스터의 레인들에 걸쳐 다수의 레지스터 내 축소를 수행하는 문제를 해결한다. 이것은 아래에서 상세히 설명되는 바와 같이 독립적인 축소를 식별하는 제1 출력을 생성하고 바이너리 축소 트리에서 좌측 대 우측 자식들을 식별하는 데 사용될 수 있는 제2 출력을 생성함으로써 달성될 수 있다. 일 실시예에서, 제1 출력은 VPCONFLICT 명령어를 사용하여 생성되고, 제2 출력은 VPOPCNT 명령어를 사용하여 생성된다.
도 13에 도시된 바와 같이, SIMD 트리 축소 로직(1305)의 일 실시예는 다음과 같은 2개의 벡터 레지스터를 입력으로 취한다: 축소될(예를 들어, 합산될) 값들을 포함하는 "값" 벡터 레지스터(1302) 및 "값" 벡터 내의 어느 값들(또는 레인들)이 서로 관련되는지를 지시하는 "인덱스" 벡터 레지스터(1301). "인덱스" 벡터 레지스터(1301) 내의 2개의 레인이 동일한 값을 갖는다면, 이들은 동일한 트리 축소에 수반된다. "인덱스" 벡터 레지스터(1302) 내의 2개의 레인이 상이한 값을 갖는다면, 이들은 별개의 축소들에 수반된다. SIMD 트리 축소 로직(1305)의 출력은 그 축소와 관련된 인덱스 값의 인스턴스를 포함하는 최좌측 레인(즉, 최상위 바이트에 가장 가까운)에 각각의 축소의 결과를 포함하는 누적 벡터 레지스터(1303)이다.
본 명세서에 개시된 실시예들은 각각의 레지스터의 최상위 비트/바이트가 "좌측"에 있고 최하위 비트/바이트가 "우측"인 배열을 이용하지만, 본 발명의 기본 원리는 그러한 배열로 제한되지 않는다. 예를 들어, 대안적인 실시예에서, 최하위 비트/바이트는 "좌측"이고 최상위 비트/바이트는 "우측"이다. 이 실시예의 경우, 본 개시에서의 "좌측" 또는 "최좌측"에 대한 임의의 언급은 "우측" 또는 "최우측"으로 대체될 수 있고 그 반대도 마찬가지이다.
도 13의 예에서, 인덱스 벡터 레지스터(1301) 내의 값 A, B, C, 및 D는 임의의 (고유) 정수 값을 나타낸다. 도 13은 또한 각각의 반복(반복 0 내지 반복 2가 도시됨)과 함께, 값 벡터(1302)로부터의 값들의 상이한 세트가 SIMD 트리 축소 로직에 의해 합산되어 축소 연산을 수행하는 방법을 도시한다. 예를 들어, 인덱스 벡터 레지스터(1301) 내의 A의 각각의 인스턴스는 축소될 값 벡터 레지스터 내의 값들의 세트를 식별한다: d15, d14, d8, d3, 및 d0. 최종 반복 후에, 이들 값은 합산되어 단일 값 α를 형성하며, 이는 누적 벡터(1303)의 최좌측 데이터 요소 위치(인덱스 벡터에서 최좌측 A의 위치와 일치함)에 저장된다. β에 대한 값은 인덱스 벡터(d13, d11, d10, d9, d6, d5, d4, 및 d1)로부터의 B의 각각의 인스턴스와 관련된 값들을 사용하여 동일한 방식으로 형성되며 β의 최종 값은 누적 벡터 레지스터(1303) 내의 좌측으로부터의 제3 데이터 요소 위치(인덱스 벡터에서 최좌측 B의 위치와 일치함)에 저장된다.
다음의 의사 코드는 인덱스 값들에 기초하여 SIMD 트리 축소 로직(1305)에 의해 수행될 수 있는 레지스터 내 트리 축소를 나타낸다:
동작시, 벡터 레지스터 "value_vec"(값 벡터 레지스터(1302))는 축소될 값들을 포함하고, 벡터 레지스터 "index_vec"(인덱스 벡터 레지스터(1301))는 이들 값의 인덱스들 또는 관련들을 포함한다. 예를 들어, 일 실시예에서, "index_vec" 내의 동일한 값들은 "value_vec" 내의 대응하는 값들이 동일한 축소에 속함을 의미한다. VEC_OP 함수는 통상적으로 축소에서 사용될 임의의 연산을 나타내며, 이는 전형적으로 정수 가산과 같은 교환(commutative) 및 결합(associative) 수학 연산이다. 대괄호가 있는 좌측 값들(예를 들어, "cnt_vec{eo_mask}")은 마스크 아래에서 수행되는 벡터 연산을 나타낸다. "i_vec{eo_mask}" 연산의 경우, 임의의 비활성 레인은 0으로 되어야 한다. "accum_vec{eo_mask}" 연산의 경우, 임의의 비활성 레인은 "accum_vec"의 이전 값을 유지해야 한다.
완료되면 "accum_vec" 벡터는 "index_vec"에 포함된 각각의 고유 값에 대해 하나씩, 병렬로 발생한 모든 축소의 결과를 포함한다. 각각의 축소의 결과는 (도 13에 도시된 바와 같이) "index_vec"의 축소와 관련된 인덱스 값을 가진 "accum_vec" 레지스터(1303)의 최좌측 레인(MSB에 가장 가까운)에 있을 것이다.
"인덱스" 벡터의 모든 값이 고유한 경우(즉 "충돌 없음"의 경우), 이러한 기법들의 비용은 상당히 적다(VPCONFLICT 비용 및 거짓이 될 초기 "while" 루프 조건 테스트, 및 루프백 분기). "인덱스" 벡터의 모든 값이 동일한 경우(즉, "가장 많이 충돌하는" 경우), 이러한 기법들은 'log2N'회 반복할 것이며, 여기서 N은 벡터 폭이다. 이는 각각의 축소가 효과적으로 직렬화되기 때문에(예를 들어, 각각의 축소에서 한 번에 하나의 값/레인을 누적함), 대신 N회 반복을 실행할 전술한 이전 구현들과는 대조적이다. 일반적으로, 본 발명의 실시예들은 "값" 벡터(1302)에 걸쳐 병렬로 임의의 수의 축소를 수행하기 위해 'O(log2N)'회 반복을 실행하며, 여기서 N은 가장 많은 인스턴스를 갖는 "인덱스" 벡터(1301) 내의 값들의 인스턴스의 수이다. 예를 들어, 도 13에서, 값 "B"는 "인덱스" 벡터에서 가장 많은 인스턴스를 가지며, 총 N=8개의 인스턴스가 있다(A의 인스턴스가 5개, C의 인스턴스가 1개, D의 인스턴스가 2개 있다). 이 예의 경우, 본 명세서에 설명된 기법들은 3×(log2 N)회 반복하는 반면, 이전 알고리즘은 8×(N)회 반복할 것이다.
이제 구체적인 예에 대해 도 14 및 도 15를 참조하여 설명한다. 명확성을 위해, 이 상세한 예시적인 실행은 도 13에 도시된 예에 따른다. 본 명세서에서 사용되는, 최하위 비트(LSB) 및 최하위 레인(LSL)은 도시된 최우측 값들이다(예를 들어, 벡터 레지스터 = {레인 15, 레인 14, … , 레인 0}). 마스크 값들의 경우, 명확성을 위해, 비트들을 시각적으로 그룹화하기 위해 밑줄 표시가 사용된다.
제1 충돌 검출 연산(예를 들어, VPCONFLICT)의 결과와 함께 입력 값들은 다음과 같으며, 여기서 A, B, C, 및 D는 고유한 임의의 정수 값을 나타내고, d0 내지 d15는 축소들에 수반된 값들을 나타낸다:
도 14는 출력 벡터 레지스터(1402) 내의 초기 "vc_vec" 값을 생성하는 충돌 검출 연산(예를 들어, VPCONFLICT로 구현됨)을 도시한다. 도시된 실시예에서, 출력 벡터 레지스터(1402)는 16개의 데이터 요소를 저장하며, 이들 각각은 인덱스 데이터 레지스터 내에 저장된 인덱스 데이터 요소들 중 하나와 관련되며, 요소의 값은 대응하는 레인과 관련된 이전 충돌들을 나타낸다. 전술한 바와 같이, 인덱스 벡터 레지스터(1301) 내의 각각의 요소는 최하위 레인/비트에 더 가까운 다른 모든 요소와 비교된다. 따라서, 위치 # 4의 인덱스 데이터 요소(이 예에서 B)는 위치 # 3(A), 위치 # 2(D), 위치 # 1(B), 및 위치 # 0(A)의 데이터 요소들과 비교된다. 데이터 요소가 최하위 레인에 더 가까운 데이터 요소들 중 임의의 요소와 동일한 경우, 대응하는 비트가 출력 벡터 레지스터(1402) 내에 설정된다. 따라서, 예를 들어, 인덱스 벡터 레지스터(1301)의 좌측으로부터 두 번째 B는 출력 11001110010을 생성하며, 여기서 1들은 인덱스 벡터 레지스터(1301) 내의 다른 B들의 위치를 지시한다. 그 후 이 값은 도시된 바와 같이, 출력 벡터 레지스터(1402)에(이 예에서는 16진 값 0x0672로 표현됨), 비교가 수행되는 B의 위치에 대응하는 위치에 저장된다. 인덱스 벡터 레지스터(1301)에 저장된 각각의 인덱스 값에 대해 유사한 동작이 수행된다.
다음으로, 출력 벡터 레지스터(1302)의 "vc_vec" 값에 적어도 하나의 비트가 설정되어 있는 한, 전술한 "while" 루프가 반복된다. 도시된 예에서, 축소 연산은 가산이다(예를 들어, VEC_OP = vpadd). 결과적으로, 반복 0의 결과들은 다음과 같다:
도 15는 pc_vec 값이 반복 0에 대해 결정되고 벡터 레지스터(1501) 내에 데이터 요소로서 저장되는 방법을 도시한다. 특히, pc_vec 벡터 레지스터(1501)의 각각의 데이터 요소는 인덱스 벡터 레지스터(1301) 내의 인덱스에 대응하고, 최하위 레인/비트에 더 가까운 인덱스 벡터 레지스터(1301)에 저장되는 인덱스 값의 인스턴스의 수와 동일한 값을 갖는다. 예를 들어, pc_vec 벡터 레지스터(1501)에서 4의 최좌측 값은 인덱스 벡터 레지스터(1301)에서 인덱스 A의 최좌측 인스턴스와 관련되고, 인덱스 벡터 레지스터(1301)에 인덱스 A의 4개의 다른 인스턴스가 있음을 지시한다(즉, A의 최좌측 인스턴스의 우측에). 유사하게, pc_vec 벡터 레지스터(1501) 내의 7의 값은 인덱스 벡터 레지스터 내의 대응하는 위치(즉, 도시된 예에서 좌측으로부터 2개의 위치)에 위치하는 인덱스 B의 인스턴스와 관련된다. 7의 값은 인덱스 벡터 레지스터(1301)의 우측에 저장된 인덱스 B의 7개의 인스턴스가 있음을 지시한다.
또한, 도 15는 eo_mask 레지스터(1502) 내의 비트들이 업데이트되는 방법을 도시한다. 특히, 각각의 인덱스 값과 관련된 비트는 인덱스 벡터 레지스터(1301) 내의 우측에 해당 인덱스 값의 홀수의 다른 인스턴스들을 지시하기 위해 1로 설정된다. 따라서, 주어진 인덱스 값에 대해, 해당 인덱스와 관련된 비트들은 eo_mask 레지스터(1502) 내에서 1과 0 사이에 번갈아 나타날 것이다.
반복 0에 이어서, 출력 벡터 레지스터(1402)의 "vc_vec" 값에 설정된 비트가 여전히 있기 때문에 또 다른 반복이 수행된다("반복 1"):
반복 1에 이어서, 출력 벡터 레지스터(1402)의 "vc_vec" 값에 설정된 비트가 여전히 있기 때문에, 또 다른 반복이 수행된다:
출력 벡터 레지스터(1402) 내의 "vc_vec"는 이제 모든 0을 포함하기 때문에, 루프는 종료한다. 루프의 결과는 다음과 같고, 입력이 참고로 반복된다:
어느 레인이 최종 축소 결과를 나타내는지를 강조하기 위해 index_vec에서 값들이 볼드체로 표시되고 index_vec의 볼드체와 매칭되도록 accum_vec에서 값들이 볼드체로 표시된다. 각각의 축소의 결과는 해당 축소와 관련된 인덱스 값을 갖는 최좌측 레인에 있음에 주목한다. 이 예에서, 최좌측 인덱스 값 "A"는 결과 "d15+d14+d8+d3+d0"(레인 15)과 관련되고 최좌측 인덱스 값 "B"는 결과 "d13+d11+d10+d9+d6+d5+d4+d1"(레인 13)과 관련되고 최좌측 인덱스 값 "C"는 결과 "d12"(레인 12)와 관련되고, 최좌측 인덱스 값 "D"는 결과 "d7+d2"(레인 7)와 관련된다. 이는 도 13에 제시된, "반복 2 이후"로 표시된 최종 상태와 매칭된다.
최좌측 레인(또는 최상위 레인(MSL))에 결과를 갖는 것은 분산 명령어 정의 때문에 (예를 들어, I A와 같은) 일부 아키텍처에서 유리하다. 분산에서 다수의 요소가 동일한 인덱스를 갖는 경우(즉, 동일한 메모리 위치에 기입), 최좌측 레인의 (MSL) 값은 다른 모든 것을 덮어쓴다. 최좌측이 이러한 특정 실시예에 대해 선호되지만, 본 발명의 기본 원리는 결과를 위해 최좌측 레인을 사용하는 것으로 제한되지 않는다. 주어진 인덱스 값에 대한 결과는 해당 인덱스 값과 관련된 최좌측 또는 최우측의 레인에 저장될 수 있는데, 그 이유는 분산 명령어는 중복이 발생할 때 해당 인덱스 값과 관련된 최좌측 또는 최우측 값을 선호함으로써 결정적인 결과를 제공하도록 종종 정의되기 때문이다. 위에 제시된 예시적인 코드에서, 주어진 인덱스 값과 관련된 최좌측 레인이 선호된다.
본 발명의 일 실시예에 따른 방법이 도 16에 도시되어 있다. 이 방법은 전술한 아키텍처의 컨텍스트 내에서 구현될 수 있지만, 임의의 특정 시스템 또는 프로세서 아키텍처로 제한되지 않는다.
1601에서, 인덱스 레인들에 걸쳐 충돌이 검출되고(예를 들어, 최하위 비트/레인에 덧붙여 동일한 인덱스 값) 결과는 VC_VEC 레지스터에 저장된다. 예를 들어, 일 실시예에서, 충돌은 VPCONFLICT와 같은 충돌 검출 명령어를 사용하여 검출된다(예를 들어, 도 12 및 관련 텍스트 참조).
임의의 충돌이 존재하는지에 대한 결정이 1602에서 이루어진다. 이것은, 예를 들어, VC_VEC가 현재 설정된 임의의 비트를 갖는지를 체크함으로써 결정될 수 있다. 그렇지 않으면, 프로세스는 종료된다. 그렇다면, 1603에서, 동일한 인덱스 값을 갖는 레인들이 그 각각의 축소 트리들에서 좌측 및 우측 자식들로 표시된다. 일 실시예에서, 이것은 VPOPCNT(VC_VEC) & 0x1에 의해 달성된다(전술한 바와 같이). 일 실시예에서, 이 비트 시퀀스는 좌측 자식들을 활성으로 표시하는 마스크(레인 당 LSB)로서 사용된다(예를 들어, 좌측 자식들은 우측에 홀수의 충돌을 갖는 반면 우측 자식들은 짝수를 갖는다).
1604에서, 각각의 레인에 대하여, 이 레인(LSL)의 우측에 동일한 인덱스 값을 갖는 최좌측 레인(MSL)을 지시하는 최상위 1에 대해 비트 인덱스가 계산된다. 1605에서, 우측 자식들을 좌측 자식들과 정렬하도록 이동시켜, 결과를 임시 위치에 배치한다. 일 실시예에서, 이는 벡터 치환/셔플(vector permute/shuffle) 명령어를 사용하여 달성된다.
1606에서, 좌측 및 우측 자식들을 결합하도록 원본 데이터와 함께 1605로부터의 임시 결과에 축소 연산을 적용하여, 결과를 좌측 자식의 레인에 배치한다. 1607에서, 1603에서 생성된 마스크를 브로드캐스트하고 VC-VEC 레지스터 내의 현재 값들과 비트 AND 연산하여, VC-VEC 레지스터를 업데이트함으로써 우측 자식들과 관련된 VC_VEC 레지스터 내의 비트들을 클리어한다(즉, 그 자식들을 향후 반복에서의 고려에서 제거함). 그 후 프로세스는 1602로 복귀하여 임의의 충돌이 남아 있는지를 결정한다(예를 들어, VC_VEC가 1로 설정된 임의의 비트를 갖는지를 체크함). 그렇지 않으면, 프로세스가 종료되고; 그렇다면, 1603-1607을 통한 또 다른 반복이 수행된다.
상기 기법들의 하나의 애플리케이션은 "히스토그램" 스타일 연산에 있으며, 그에 대한 일례가 아래에 제시된다. 히스토그램 연산은 이미지 처리를 포함한, 다양한 애플리케이션들에서 일반적이다.
상기 "히스토그램" 루프와 같은 루프에서, 이 루프의 단순한 벡터화를 방해하는 복잡화 인자는 "b[j]" 및 "b[k]"의 값들이 동일하여, 하나의 간단한 벡터화된 루프 반복 내에서 "a"의 동일한 요소에 대한 경합 조건을 야기할 수 있다는 점이다. 이를 "충돌"이라고 한다. 상기 기법들의 사용은 먼저 임의의 충돌하는 값들을 고유 인덱스 값 당 하나의 값으로 결합함(축소시킴)으로써 임의의 충돌을 제거한다.
상기 간단한 히스토그램의 경우, "인덱스" 벡터는 벡터 폭 "b[i]" 값일 것이고 "값" 벡터는 모든 레인에서 "1" 값을 가질 것이다. "+=" 연산의 우변이 단지 "1"의 상수가 아니라 계산의 결과라면, "값" 벡터는 벡터화된 계산의 결과를 보유할 것이다. 그 후 우리의 축소 루프를 수집 및 분산 명령어와 함께 사용하여 상기 히스토그램 루프를 벡터화할 수 있다.
전술한 명세서에서는, 본 발명의 실시예들이 그의 특정한 예시적인 실시예들을 참조하여 설명되었다. 그러나, 첨부된 청구항들에서 제시된 바와 같은 본 발명의 더 넓은 사상 및 범위를 벗어나지 않고 그에 대해 다양한 수정 및 변경들이 행해질 수 있다는 것은 명백할 것이다. 따라서, 명세서 및 도면은 제한적인 의미가 아닌 예시적인 의미로 간주되어야 한다.
본 발명의 실시예들은 전술한 다양한 단계들을 포함할 수 있다. 이들 단계들은, 범용 또는 특수 목적 프로세서가 이들 단계들을 수행하게 하는 데 사용될 수 있는 머신 실행가능 명령어들로 구현될 수 있다. 대안적으로, 이들 단계들은, 그 단계들을 수행하기 위한 하드와이어드 로직을 포함하는 특정 하드웨어 컴포넌트들에 의해, 또는 프로그램된 컴퓨터 컴포넌트들과 사용자 지정 하드웨어 컴포넌트들의 임의의 조합에 의해 수행될 수 있다.
본 명세서에서 설명된 바와 같은, 명령어들은 비일시적인 컴퓨터 판독가능 매체로 구현된 메모리에 저장되는 소프트웨어 명령어들, 또는 미리 결정된 기능성을 갖거나 특정 연산들을 수행하도록 구성된 주문형 집적 회로(ASIC)들과 같은 하드웨어의 특정 구성들을 언급할 수 있다. 따라서, 도면들에 도시된 기법들은, 하나 이상의 전자 디바이스(예를 들어, 종단국, 네트워크 요소 등) 상에 저장되어 실행되는 데이터 및 코드를 사용하여 구현될 수 있다. 이러한 전자 디바이스들은, 비일시적인 컴퓨터 머신 판독가능 저장 매체(예를 들어, 자기 디스크; 광학 디스크; 랜덤 액세스 메모리; 판독 전용 메모리; 플래시 메모리 디바이스; 상변화 메모리) 및 일시적인 컴퓨터 머신 판독가능 통신 매체(예를 들어, 전기, 광학, 음향 또는 다른 형태의 전파 신호 - 예를 들어, 반송파, 적외선 신호, 디지털 신호 등)와 같은 컴퓨터 머신 판독가능 매체를 사용하여 코드 및 데이터를 저장 및 통신한다(내부적으로 그리고/또는 네트워크를 통해 다른 전자 디바이스들과). 또한, 이러한 전자 디바이스들은, 하나 이상의 저장 디바이스(비일시적인 머신 판독가능 저장 매체), 사용자 입력/출력 디바이스(예를 들어, 키보드, 터치스크린 및/또는 디스플레이) 및 네트워크 접속과 같은 하나 이상의 다른 컴포넌트에 연결된 하나 이상의 프로세서의 세트를 전형적으로 포함한다. 프로세서들의 세트와 다른 컴포넌트들의 연결은 전형적으로 하나 이상의 버스 및 브리지(버스 제어기라고도 불림)를 통해 이루어진다. 저장 디바이스, 및 네트워크 트래픽을 반송하는 신호들은 하나 이상의 머신 판독가능 저장 매체 및 머신 판독가능 통신 매체를 각각 나타낸다. 따라서, 주어진 전자 디바이스의 저장 디바이스는 전형적으로 그 전자 디바이스의 하나 이상의 프로세서의 세트 상에서 실행될 코드 및/또는 데이터를 저장한다. 물론, 본 발명의 실시예의 하나 이상의 부분은 소프트웨어, 펌웨어 및/또는 하드웨어의 상이한 조합들을 사용하여 구현될 수 있다. 이 상세한 설명 전체에 걸쳐, 설명의 목적으로, 본 발명의 철저한 이해를 제공하기 위해서 다수의 특정 상세가 제시되었다. 그러나, 본 발명은 이들 특정 상세 중 일부가 없이도 실시될 수 있다는 것이 본 기술분야의 통상의 기술자에게 명백할 것이다. 특정 경우에, 본 발명의 주제를 모호하게 하는 것을 회피하기 위해서 잘 알려진 구조들 및 기능들은 상세하게 설명되지 않았다. 따라서, 본 발명의 범위 및 사상은 이하의 청구항들에 관하여 판단되어야 한다.
Claims (25)
- 프로세서로서,
축소될 복수의 데이터 요소 값을 저장하는 값 벡터 레지스터;
상기 값 벡터 레지스터 내의 어느 값들이 서로 관련되는지를 지시하는 복수의 인덱스 값을 저장하는 인덱스 벡터 레지스터;
상기 인덱스 벡터 레지스터 내의 상기 인덱스 값들에 의해 지시된 바와 같이 서로 관련되는 상기 값 벡터 레지스터로부터의 데이터 요소 값들을 결합함으로써 상기 값 벡터 레지스터 내의 상기 데이터 요소 값들에 대해 축소 연산들을 수행하는 SIMD(single instruction multiple data) 축소 로직; 및
상기 SIMD 축소 로직에 의해 생성된 상기 축소 연산들의 결과들을 저장하는 누적 벡터 레지스터를 포함하는, 프로세서. - 제1항에 있어서,
상기 축소 연산들을 수행하기 위해, 상기 SIMD 축소 로직은 동일한 인덱스 값을 갖는 데이터 요소 값들의 그룹을 결정하고 동일한 인덱스 값을 갖는 데이터 요소들을 결합하여 복수의 결과를 생성하는 것이고, 상기 복수의 결과 각각은 동일한 인덱스 값을 공유하는 데이터 요소 값들의 그룹의 산술 조합을 포함하는, 프로세서. - 제2항에 있어서,
상기 SIMD 축소 로직은 상기 누적 벡터 레지스터의 특정된 데이터 요소 위치 내에 각각의 결과를 저장하는 것인, 프로세서. - 제3항에 있어서,
상기 SIMD 축소 로직은 동일한 인덱스 값을 공유하는 요소 값들에 대해 복수의 조합 반복을 수행함으로써 상기 축소 연산들을 수행하는 것이고, 상기 조합 반복들 각각은 최종 반복에서 최종 결과에 도달할 때까지 데이터 요소 값들의 쌍들을 결합하는, 프로세서. - 제3항에 있어서,
상기 누적 레지스터 내의 각각의 특정된 데이터 요소 위치는 상기 인덱스 벡터 레지스터 내의 동일한 인덱스 값의 다른 것들에 관련하여 최상위 위치(most significant location)를 갖는 관련 인덱스 값의 위치에 대응하는 위치 또는 상기 인덱스 벡터 레지스터 내의 동일한 인덱스 값의 다른 것들에 관련하여 최하위 위치(least significant location)를 갖는 관련 인덱스 값의 위치에 대응하는 위치를 포함하는, 프로세서. - 제1항에 있어서,
상기 값 벡터 레지스터 내의 상기 데이터 요소 값들 각각은 상기 프로세서 내의 SIMD 레인과 관련되고, 상기 축소 연산들을 수행하는 것은:
상기 레인들 각각에 걸쳐 충돌들을 계산하여 충돌 결과들을 생성하고 상기 충돌 결과들을 충돌 목적지 레지스터에 저장하는 것을 추가로 포함하는, 프로세서. - 제6항에 있어서,
상기 축소 연산들을 수행하는 것은:
그 각각의 축소 트리들에서 좌측 및 우측 자식들(children)과 동일한 인덱스 값을 갖는 각각의 레인을 표시하여 비트 시퀀스를 생성하는 것을 추가로 포함하는, 프로세서. - 제7항에 있어서,
상기 축소 연산들을 수행하는 것은:
상기 비트 시퀀스를 상기 좌측 자식들을 활성으로 표시하는 또는 상기 우측 자식들을 활성으로 표시하는 마스크로서 사용하는 것을 추가로 포함하는, 프로세서. - 제8항에 있어서,
상기 축소 연산들은, 각각의 레인에 대해, 상기 마스크가 상기 좌측 자식들을 활성으로 표시한다면 우측에 동일한 인덱스 값을 갖는 최좌측 레인을 지시하는 또는 상기 마스크가 상기 우측 자식들을 활성으로 표시한다면 좌측에 동일한 인덱스 값을 갖는 최우측 레인을 지시하는 최상위 1의 비트-인덱스를 계산하는 것을 추가로 포함하는, 프로세서. - 제9항에 있어서,
상기 축소 연산들은 상기 마스크가 상기 좌측 자식들을 활성으로 표시한다면 좌측 자식들과 정렬하도록 우측 자식들을 이동시켜 또는 상기 마스크가 상기 우측 자식들을 활성으로 표시한다면 우측 자식들과 정렬하도록 좌측 자식들을 이동시켜 임시 결과를 생성하고 상기 임시 결과를 임시 위치에 배치하는 것을 추가로 포함하는, 프로세서. - 제10항에 있어서,
좌측 및 우측 자식들을 결합하도록 원본 데이터와 함께 상기 임시 결과에 축소 연산을 적용하여 새로운 결과를 생성하고, 상기 마스크가 상기 좌측 자식들을 활성으로 표시한다면 상기 좌측 자식과 관련된 레인에 상기 새로운 결과를 배치하는 것 또는 상기 마스크가 상기 우측 자식들을 활성으로 표시한다면 상기 우측 자식과 관련된 레인에 상기 새로운 결과를 배치하는 것을 추가로 포함하는, 프로세서. - 제10항에 있어서,
상기 축소 연산들을 수행하는 것은:
상기 마스크가 상기 좌측 자식들을 활성으로 표시한다면, 상기 마스크와 상기 충돌 결과들의 비트 AND 연산을 수행함으로써 하나 이상의 우측 자식과 관련된 상기 충돌 목적지 레지스터 내의 비트들을 클리어하고 그 우측 자식들을 향후 반복들에서의 고려에서 제거하는 것, 또는 상기 마스크가 상기 우측 자식들을 활성으로 표시한다면, 상기 마스크와 상기 충돌 결과들의 비트 AND 연산을 수행함으로써 하나 이상의 좌측 자식과 관련된 상기 충돌 목적지 레지스터 내의 비트들을 클리어하고 그 좌측 자식들을 향후 반복들에서의 고려에서 제거하는 것을 추가로 포함하는, 프로세서. - 제2항에 있어서,
상기 SIMD 축소 로직은 동일한 인덱스 값을 갖는 데이터 요소 값들의 그룹을 결정하고, 동일한 인덱스 값을 갖는 상기 데이터 요소들을 가산함으로써 상기 데이터 요소들을 결합하여 복수의 결과를 생성하는 것이고, 상기 복수의 결과의 각각은 동일한 인덱스 값을 공유하는 데이터 요소 값들의 그룹의 합계를 포함하는, 프로세서. - 방법으로서,
축소될 복수의 데이터 요소 값을 값 벡터 레지스터에 저장하는 단계;
상기 값 벡터 레지스터 내의 어느 값들이 서로 관련되는지를 지시하는 복수의 인덱스 값을 인덱스 벡터 레지스터에 저장하는 단계;
상기 인덱스 벡터 레지스터 내의 상기 인덱스 값들에 의해 지시된 바와 같이 서로 관련되는 상기 값 벡터 레지스터로부터의 데이터 요소 값들을 결합함으로써 상기 값 벡터 레지스터 내의 상기 데이터 요소 값들에 대해 축소 연산들을 수행하는 단계; 및
상기 축소 연산들의 결과들을 누적 벡터 레지스터에 저장하는 단계를 포함하는, 방법. - 제14항에 있어서,
상기 축소 연산들을 수행하기 위해, 동일한 인덱스 값을 갖는 데이터 요소 값들의 그룹을 결정하고 동일한 인덱스 값을 갖는 데이터 요소들을 결합하여 복수의 결과를 생성하고, 상기 복수의 결과의 각각은 동일한 인덱스 값을 공유하는 데이터 요소 값들의 그룹의 산술 조합을 포함하는, 방법. - 제15항에 있어서,
상기 누적 벡터 레지스터의 특정된 데이터 요소 위치 내에 각각의 결과를 저장하는 단계를 추가로 포함하는, 방법. - 제16항에 있어서,
동일한 인덱스 값을 공유하는 요소 값들에 대해 복수의 조합 반복을 수행함으로써 상기 축소 연산들을 수행하는 단계를 추가로 포함하고, 상기 조합 반복들 각각은 최종 반복에서 최종 결과에 도달할 때까지 데이터 요소 값들의 쌍들을 결합하는, 방법. - 제16항에 있어서,
상기 누적 레지스터 내의 각각의 특정된 데이터 요소 위치는 상기 인덱스 벡터 레지스터 내의 동일한 인덱스 값의 다른 것들에 관련하여 최상위 위치를 갖는 관련 인덱스 값의 위치에 대응하는 위치 또는 상기 인덱스 벡터 레지스터 내의 동일한 인덱스 값의 다른 것들에 관련하여 최하위 위치를 갖는 관련 인덱스 값의 위치에 대응하는 위치를 포함하는, 방법. - 제14항에 있어서,
상기 값 벡터 레지스터 내의 상기 데이터 요소 값들 각각은 프로세서 내의 SIMD 레인과 관련되고, 상기 축소 연산들을 수행하는 단계는:
상기 레인들 각각에 걸쳐 충돌들을 계산하여 충돌 결과들을 생성하고 상기 충돌 결과들을 충돌 목적지 레지스터에 저장하는 단계를 추가로 포함하는, 방법. - 제19항에 있어서,
상기 축소 연산들을 수행하는 단계는:
그 각각의 축소 트리들에서 좌측 및 우측 자식들과 동일한 인덱스 값을 갖는 각각의 레인을 표시하여 비트 시퀀스를 생성하는 단계를 추가로 포함하는, 방법. - 제20항에 있어서,
상기 축소 연산들을 수행하는 단계는:
상기 비트 시퀀스를 상기 좌측 자식들을 활성으로 표시하는 또는 상기 우측 자식들을 활성으로 표시하는 마스크로서 사용하는 단계를 추가로 포함하는, 방법. - 제21항에 있어서,
상기 축소 연산들은, 각각의 레인에 대해, 상기 마스크가 상기 좌측 자식들을 활성으로 표시한다면 우측에 동일한 인덱스 값을 갖는 최좌측 레인을 지시하는 또는 상기 마스크가 상기 우측 자식들을 활성으로 표시한다면 좌측에 동일한 인덱스 값을 갖는 최우측 레인을 지시하는 최상위 1의 비트-인덱스를 계산하는 단계를 추가로 포함하는, 방법. - 제22항에 있어서,
상기 축소 연산들은 상기 마스크가 상기 좌측 자식들을 활성으로 표시한다면 좌측 자식들과 정렬하도록 우측 자식들을 이동시켜 또는 상기 마스크가 상기 우측 자식들을 활성으로 표시한다면 우측 자식들과 정렬하도록 좌측 자식들을 이동시켜 임시 결과를 생성하고 상기 임시 결과를 임시 위치에 배치하는 단계를 추가로 포함하는, 방법. - 제23항에 있어서,
좌측 및 우측 자식들을 결합하도록 원본 데이터와 함께 상기 임시 결과에 축소 연산을 적용하여 새로운 결과를 생성하고, 상기 마스크가 상기 좌측 자식들을 활성으로 표시한다면 상기 좌측 자식과 관련된 레인에 상기 새로운 결과를 배치하는 단계 또는 상기 마스크가 상기 우측 자식들을 활성으로 표시한다면 상기 우측 자식과 관련된 레인에 상기 새로운 결과를 배치하는 단계를 추가로 포함하는, 방법. - 제23항에 있어서,
상기 축소 연산들을 수행하는 단계는:
상기 마스크가 상기 좌측 자식들을 활성으로 표시한다면, 상기 마스크와 상기 충돌 결과들의 비트 AND 연산을 수행함으로써 하나 이상의 우측 자식과 관련된 상기 충돌 목적지 레지스터 내의 비트들을 클리어하고 그 우측 자식들을 향후 반복들에서의 고려에서 제거하는 단계, 또는 상기 마스크가 상기 우측 자식들을 활성으로 표시한다면, 상기 마스크와 상기 충돌 결과들의 비트 AND 연산을 수행함으로써 하나 이상의 좌측 자식과 관련된 상기 충돌 목적지 레지스터 내의 비트들을 클리어하고 그 좌측 자식들을 향후 반복들에서의 고려에서 제거하는 단계를 추가로 포함하는, 방법.
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US14/581,478 | 2014-12-23 | ||
| US14/581,478 US9851970B2 (en) | 2014-12-23 | 2014-12-23 | Method and apparatus for performing reduction operations on a set of vector elements |
| PCT/US2015/062074 WO2016105764A1 (en) | 2014-12-23 | 2015-11-23 | Method and apparatus for performing reduction operations on a set of vector elements |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20170097008A true KR20170097008A (ko) | 2017-08-25 |
| KR102449616B1 KR102449616B1 (ko) | 2022-10-04 |
Family
ID=56129476
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020177013503A KR102449616B1 (ko) | 2014-12-23 | 2015-11-23 | 벡터 요소 세트에 대해 축소 연산을 수행하기 위한 방법 및 장치 |
Country Status (7)
| Country | Link |
|---|---|
| US (1) | US9851970B2 (ko) |
| EP (1) | EP3238044A4 (ko) |
| JP (1) | JP6699845B2 (ko) |
| KR (1) | KR102449616B1 (ko) |
| CN (1) | CN107003843B (ko) |
| TW (2) | TWI575454B (ko) |
| WO (1) | WO2016105764A1 (ko) |
Families Citing this family (28)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10996959B2 (en) * | 2015-01-08 | 2021-05-04 | Technion Research And Development Foundation Ltd. | Hybrid processor |
| US10162603B2 (en) * | 2016-09-10 | 2018-12-25 | Sap Se | Loading data for iterative evaluation through SIMD registers |
| EP3336692B1 (en) * | 2016-12-13 | 2020-04-29 | Arm Ltd | Replicate partition instruction |
| US10846087B2 (en) * | 2016-12-30 | 2020-11-24 | Intel Corporation | Systems, apparatuses, and methods for broadcast arithmetic operations |
| US10268479B2 (en) * | 2016-12-30 | 2019-04-23 | Intel Corporation | Systems, apparatuses, and methods for broadcast compare addition |
| US10275217B2 (en) * | 2017-03-14 | 2019-04-30 | Samsung Electronics Co., Ltd. | Memory load and arithmetic load unit (ALU) fusing |
| US10108581B1 (en) * | 2017-04-03 | 2018-10-23 | Google Llc | Vector reduction processor |
| US11436010B2 (en) | 2017-06-30 | 2022-09-06 | Intel Corporation | Method and apparatus for vectorizing indirect update loops |
| CN107895191B (zh) | 2017-10-30 | 2022-02-22 | 上海寒武纪信息科技有限公司 | 一种信息处理方法及相关产品 |
| US11277455B2 (en) | 2018-06-07 | 2022-03-15 | Mellanox Technologies, Ltd. | Streaming system |
| GB2574817B (en) * | 2018-06-18 | 2021-01-06 | Advanced Risc Mach Ltd | Data processing systems |
| US11996105B2 (en) | 2018-09-13 | 2024-05-28 | Shanghai Cambricon Information Technology Co., Ltd. | Information processing method and terminal device |
| US11579883B2 (en) | 2018-09-14 | 2023-02-14 | Intel Corporation | Systems and methods for performing horizontal tile operations |
| US20200106828A1 (en) * | 2018-10-02 | 2020-04-02 | Mellanox Technologies, Ltd. | Parallel Computation Network Device |
| US11625393B2 (en) * | 2019-02-19 | 2023-04-11 | Mellanox Technologies, Ltd. | High performance computing system |
| EP3699770A1 (en) | 2019-02-25 | 2020-08-26 | Mellanox Technologies TLV Ltd. | Collective communication system and methods |
| US11294670B2 (en) * | 2019-03-27 | 2022-04-05 | Intel Corporation | Method and apparatus for performing reduction operations on a plurality of associated data element values |
| US11507374B2 (en) | 2019-05-20 | 2022-11-22 | Micron Technology, Inc. | True/false vector index registers and methods of populating thereof |
| US11340904B2 (en) | 2019-05-20 | 2022-05-24 | Micron Technology, Inc. | Vector index registers |
| US11403256B2 (en) | 2019-05-20 | 2022-08-02 | Micron Technology, Inc. | Conditional operations in a vector processor having true and false vector index registers |
| US11327862B2 (en) | 2019-05-20 | 2022-05-10 | Micron Technology, Inc. | Multi-lane solutions for addressing vector elements using vector index registers |
| US11750699B2 (en) | 2020-01-15 | 2023-09-05 | Mellanox Technologies, Ltd. | Small message aggregation |
| US11252027B2 (en) | 2020-01-23 | 2022-02-15 | Mellanox Technologies, Ltd. | Network element supporting flexible data reduction operations |
| US11876885B2 (en) | 2020-07-02 | 2024-01-16 | Mellanox Technologies, Ltd. | Clock queue with arming and/or self-arming features |
| US11556378B2 (en) | 2020-12-14 | 2023-01-17 | Mellanox Technologies, Ltd. | Offloading execution of a multi-task parameter-dependent operation to a network device |
| CN115220789B (zh) * | 2022-06-24 | 2023-02-07 | 北京联盛德微电子有限责任公司 | 一种用于多寄存器的操作命令触发调度方法及单元 |
| US20240004647A1 (en) * | 2022-07-01 | 2024-01-04 | Andes Technology Corporation | Vector processor with vector and element reduction method |
| US11922237B1 (en) | 2022-09-12 | 2024-03-05 | Mellanox Technologies, Ltd. | Single-step collective operations |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005174292A (ja) * | 2003-12-09 | 2005-06-30 | Arm Ltd | データシフト操作 |
| JP2014505916A (ja) * | 2010-11-18 | 2014-03-06 | 日本テキサス・インスツルメンツ株式会社 | Ｓｉｍｄレジスタファイルから汎用レジスタファイルへデータを移動させるための方法及び装置 |
Family Cites Families (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5845112A (en) * | 1997-03-06 | 1998-12-01 | Samsung Electronics Co., Ltd. | Method for performing dead-zone quantization in a single processor instruction |
| US7506135B1 (en) | 2002-06-03 | 2009-03-17 | Mimar Tibet | Histogram generation with vector operations in SIMD and VLIW processor by consolidating LUTs storing parallel update incremented count values for vector data elements |
| GB2409068A (en) * | 2003-12-09 | 2005-06-15 | Advanced Risc Mach Ltd | Data element size control within parallel lanes of processing |
| US7330964B2 (en) * | 2005-11-14 | 2008-02-12 | Texas Instruments Incorporated | Microprocessor with independent SIMD loop buffer |
| US7991987B2 (en) * | 2007-05-10 | 2011-08-02 | Intel Corporation | Comparing text strings |
| US8447962B2 (en) * | 2009-12-22 | 2013-05-21 | Intel Corporation | Gathering and scattering multiple data elements |
| US20110302394A1 (en) | 2010-06-08 | 2011-12-08 | International Business Machines Corporation | System and method for processing regular expressions using simd and parallel streams |
| CN103959237B (zh) * | 2011-11-30 | 2016-09-28 | 英特尔公司 | 用于提供向量横向比较功能的指令和逻辑 |
| CN103999037B (zh) * | 2011-12-23 | 2020-03-06 | 英特尔公司 | 用于响应于单个指令来执行横向相加或相减的系统、装置和方法 |
| WO2013095608A1 (en) * | 2011-12-23 | 2013-06-27 | Intel Corporation | Apparatus and method for vectorization with speculation support |
| US9678751B2 (en) * | 2011-12-23 | 2017-06-13 | Intel Corporation | Systems, apparatuses, and methods for performing a horizontal partial sum in response to a single instruction |
| CN104137053B (zh) * | 2011-12-23 | 2018-06-26 | 英特尔公司 | 用于响应于单个指令来执行蝴蝶横向和交叉加法或减法的系统、装置和方法 |
| WO2013101198A1 (en) * | 2011-12-30 | 2013-07-04 | Intel Corporation | Simd variable shift and rotate using control manipulation |
| CN104204989B (zh) | 2012-03-30 | 2017-10-13 | 英特尔公司 | 用于选择向量计算的元素的装置和方法 |
| US9378182B2 (en) * | 2012-09-28 | 2016-06-28 | Intel Corporation | Vector move instruction controlled by read and write masks |
| US9588766B2 (en) | 2012-09-28 | 2017-03-07 | Intel Corporation | Accelerated interlane vector reduction instructions |
| KR101772299B1 (ko) | 2012-12-28 | 2017-08-28 | 인텔 코포레이션 | 스트라이딩된 액세스 패턴을 가진 벡터 레지스터에서 성분들을 축소하기 위한 명령어 |
| US9411592B2 (en) | 2012-12-29 | 2016-08-09 | Intel Corporation | Vector address conflict resolution with vector population count functionality |
| US9372692B2 (en) | 2012-12-29 | 2016-06-21 | Intel Corporation | Methods, apparatus, instructions, and logic to provide permute controls with leading zero count functionality |
| US9411584B2 (en) | 2012-12-29 | 2016-08-09 | Intel Corporation | Methods, apparatus, instructions, and logic to provide vector address conflict detection functionality |
-
2014
- 2014-12-23 US US14/581,478 patent/US9851970B2/en active Active
-
2015
- 2015-11-23 KR KR1020177013503A patent/KR102449616B1/ko active IP Right Grant
- 2015-11-23 CN CN201580063820.8A patent/CN107003843B/zh active Active
- 2015-11-23 JP JP2017527586A patent/JP6699845B2/ja active Active
- 2015-11-23 TW TW104138807A patent/TWI575454B/zh active
- 2015-11-23 TW TW105142765A patent/TWI616817B/zh not_active IP Right Cessation
- 2015-11-23 WO PCT/US2015/062074 patent/WO2016105764A1/en active Application Filing
- 2015-11-23 EP EP15873971.4A patent/EP3238044A4/en not_active Withdrawn
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005174292A (ja) * | 2003-12-09 | 2005-06-30 | Arm Ltd | データシフト操作 |
| JP2014505916A (ja) * | 2010-11-18 | 2014-03-06 | 日本テキサス・インスツルメンツ株式会社 | Ｓｉｍｄレジスタファイルから汎用レジスタファイルへデータを移動させるための方法及び装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| EP3238044A1 (en) | 2017-11-01 |
| JP2018500656A (ja) | 2018-01-11 |
| CN107003843B (zh) | 2021-03-30 |
| KR102449616B1 (ko) | 2022-10-04 |
| EP3238044A4 (en) | 2018-08-22 |
| TWI575454B (zh) | 2017-03-21 |
| US9851970B2 (en) | 2017-12-26 |
| TWI616817B (zh) | 2018-03-01 |
| WO2016105764A1 (en) | 2016-06-30 |
| CN107003843A (zh) | 2017-08-01 |
| TW201737062A (zh) | 2017-10-16 |
| TW201643705A (zh) | 2016-12-16 |
| JP6699845B2 (ja) | 2020-05-27 |
| US20160179537A1 (en) | 2016-06-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102449616B1 (ko) | 벡터 요소 세트에 대해 축소 연산을 수행하기 위한 방법 및 장치 | |
| JP6711480B2 (ja) | ベクトルインデックスロードおよびストアのための方法および装置 | |
| KR102508075B1 (ko) | 인덱스 및 즉치로 벡터 치환을 수행하기 위한 방법 및 장치 | |
| JP6419205B2 (ja) | プロセッサ、方法、システム、コンピュータシステム、およびコンピュータ可読記憶媒体 | |
| KR102462174B1 (ko) | 벡터 비트 셔플을 수행하기 위한 방법 및 장치 | |
| JP6741006B2 (ja) | マスクレジスタとベクトルレジスタとの間で可変に拡張するための方法および装置 | |
| JP6745021B2 (ja) | 競合検出を実行するための方法および装置 | |
| JP6778375B2 (ja) | ベクトルビット反転を実行するためのプロセッサ、方法、およびシステム | |
| KR20170097011A (ko) | 벡터 비트 반전 및 크로싱을 수행하기 위한 방법 및 장치 | |
| CN107257955B (zh) | 快速向量动态存储器冲突检测 | |
| KR20170096101A (ko) | 실행을 위해 데이터 성분들을 로딩하는데 있어서 공간 구역성을 고려하기 위한 장치 및 방법 | |
| KR20170097015A (ko) | 마스크를 마스크 값들의 벡터로 확장하기 위한 방법 및 장치 | |
| CN108292228B (zh) | 用于基于通道的步进收集的系统、设备和方法 | |
| KR20170097617A (ko) | 명령어 흐름을 최적화하기 위한 체크를 수행하는 장치 및 방법 | |
| KR101826707B1 (ko) | 마스킹된 결과 요소들로의 전파를 이용하여 연속 소스 요소들을 마스킹되지 않은 결과 요소들에 저장하기 위한 프로세서, 방법, 시스템 및 명령어 | |
| KR20170099860A (ko) | 벡터 포화된 더블워드/쿼드워드 덧셈을 수행하기 위한 명령어 및 로직 | |
| JP2018500629A (ja) | ３ｄ座標から３ｄのｚ曲線インデックスを計算するための機械レベル命令 | |
| CN107077333B (zh) | 用于实行向量位聚集的方法和装置 | |
| KR20170099864A (ko) | 마스크 값을 압축하기 위한 방법 및 장치 | |
| KR20170094147A (ko) | 스핀-루프 점프를 수행하기 위한 장치 및 방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |