KR20200014426A

KR20200014426A - 가상화된 가속 처리 디바이스를 위한 조기 가상화 컨텍스트 전환

Info

Publication number: KR20200014426A
Application number: KR1020207001390A
Authority: KR
Inventors: 공시안 제프리 쳉; 루이스 레그니어; 안소니 아사로
Original assignee: 어드밴스드 마이크로 디바이시즈, 인코포레이티드; 에이티아이 테크놀로지스 유엘씨
Priority date: 2017-06-29
Filing date: 2018-06-13
Publication date: 2020-02-10
Also published as: JP2020525913A; KR102605313B1; CN110832457A; EP3646177A1; US20190004839A1; EP3646177A4; CN110832457B; JP7253507B2; EP3646177B1; US10474490B2; WO2019005485A1

Abstract

가상화 가속 처리 디바이스("APD")에서 자원의 효율적인 시분할을 위한 기술이 제공된다. APD에 구현된 가상화 스킴에서, 상이한 가상 머신에는 APD를 사용할 상이한 "시간 슬라이스"가 할당된다. 시간-슬라이스가 만료되었을 때, APD는 현재 가상 머신("VM")에 대한 동작을 중지하고 또 다른 VM에 대한 동작을 시작함으로써 가상화 컨텍스트 전환을 수행한다. 전형적으로, 각 VM에는 고정된 길이의 시간이 할당되고, 이 후 가상화 컨텍스트 전환이 수행된다. 이 고정된 시간길이는 비효율을 초래할 수 있다. 따라서, 일부 상황에서, VM이 APD에서 수행할 작업이 더 이상 갖고 있지 않고 APD가 아이들인 것에 응답하여, 가상화 컨텍스트 전환이 "조기에" 수행된다. 이 가상화 컨텍스트 전환은 가상화 컨텍스트 전환이 시간-슬라이스에 대한 고정 시간길이가 만료되기 전에 수행되는 점에서 "조기"이다.

Description

가상화된 가속 처리 디바이스를 위한 조기 가상화 컨텍스트 전환

관련 출원에 대한 상호 참조

이 출원은 2017년 6월 29일에 출원된 미국의 일반 출원 15/637,800의 우선권을 주장하며, 그 내용은 본원에 완전히 개시된 것처럼 참조로 포함된다.

컴퓨터 가상화는 단일의 한 세트의 하드웨어가 컴퓨터 시스템의 상이한 가상 인스턴스들 사이에서 공유되는 기술이다. 각 인스턴스 -가상 머신("VM")- 는 이것이 전체 하드웨어 컴퓨터 시스템을 소유하고 있다고 생각하지만, 실제로 컴퓨터 시스템의 하드웨어 자원은 상이한 VM들 간에 공유된다. CPU, 시스템 메모리, 등 이외의 디바이스에 대한 가상화의 진보를 포함하여 가상화의 진보는 계속되고 있다.

첨부 도면과 함께 예로서 주어진 다음의 설명으로부터 보다 상세한 이해가 이루어질 수 있다.
도 1은 본 개시의 하나 이상의 특징이 구현될 수 있는 예시적 디바이스의 블록도이다.
도 2는 예에 따라, 가상화와 관련된 디바이스 및 가속 처리 디바이스의 세부 사항을 도시한다.
도 3은 도 2에 도시된 그래픽 처리 파이프라인의 추가 세부 사항을 도시하는 블록도이다.
도 4는 예에 따라, 조기 가상화 컨텍스트 전환을 수행하는 것과 관련된 도 1의 디바이스의 특징을 도시하는 블록도이다.
도 5는 예에 따라, 조기 가상화 컨텍스트 전환을 수행하기 위한 방법의 흐름도이다.

가상화된 가속 처리 디바이스("APD")에서 자원의 효율적인 시분할 기술이 제공된다. APD에 구현된 가상화 스킴에서, 상이한 가상 머신에는 APD를 사용할 상이한 "시간-슬라이스"가 할당된다. 시간-슬라이스가 만료되었을 때, APD는 현재 가상 머신("VM")에 대한 동작을 중지하고 또 다른 VM에 대한 동작을 시작함으로써 가상화 컨텍스트 전환을 수행한다. 상이한 시간-슬라이스는 상이한 기능(예를 들어, 가상 기능 -주변 성분 상호연결 익스프레스("PCIe") 어드레싱 파라미터)과 관련된다.

전형적으로, 각 VM에는 고정된 길이의 시간이 할당되고 이 후에 가상화 컨텍스트 전환이 수행된다. 이 고정된 시간 길이는 비효율에 이르게 할 수 있다. 예를 들어, 일부 상황에서, VM은 더 이상 수행할 작업이 없고 아이들이지만 이 VM에 대한 현재 시간-슬라이스에 일부 시간이 여전히 남아 있다. 따라서, 일부 상황에서, APD에 대해 수행할 작업이 더 이상 없고 APD가 아이들인 VM에 응답하여, 가상화 컨텍스트 전환이 "조기에" 수행된다. 이 가상화 컨텍스트 전환은 시간 슬라이스의 고정된 시간 길이가 만료되기 전에 가상화 컨텍스트 전환이 수행되는 점에서 "조기" 이다.

일부 구현에서, APD는 APD가 아이들이라는 것과 조기 가상화 컨텍스트 전환을 수행하기 전에 수행할 작업이 더 이상 없다는 것을 검출한 후 타임아웃 기간 동안 대기한다. 이 타임아웃 기간 동안 추가 작업이 수신되고 현재 시간-슬라이스에 남아 있는 충분한 시간이 있다면, 조기 가상화 컨텍스트 전환은 수행되지 않는다. 대신, APD는 새로운 작업을 페치(fetch)하여 이 작업을 수행하는 것이 허용된다. 이 타임아웃 기간 동안 추가 작업이 수신되지 않는다면, 조기 가상화 컨텍스트 전환이 수행된다.

일부 구현에서, 기능에 대해 조기 가상화 컨텍스트 전환이 수행된 후, 조기 가상화 컨텍스트 전환이 수행된 이후 어떠한 작업도 수신되지 않았다면 APD는 APD에서 그 기능을 재-스케줄링하지 않는다. 일부 예에서, 메모리 매핑 "도어벨" 어드레스가 기입되었을 때, 작업이 특정 기능에 대한 준비가 되었음이 APD에 통지하게 하는 도어벨 메커니즘이 구현된다. 상이한 도어벨(따라서 상이한 도어벨 어드레스)은 상이한 가상 기능에 연관된다. 따라서, 특정 기능에 대한 어떠한 도어벨도 이 기능에 대해 조기 가상화 컨텍스트 전환이 발생한 후에 수신되지 않으면, APD는 다음에 APD에 대한 가상화 시간-슬라이싱 스킴에서 "턴"이 발생할 때에 그 기능에 대한 작업을 실행하지 않는다.

도 1은 본 개시의 하나 이상의 특징이 구현될 수 있는 예시적 디바이스(100)의 블록도이다. 디바이스(100)는 예를 들어 컴퓨터, 게이밍 디바이스, 핸드헬드 디바이스, 셋톱 박스, 텔레비전, 모바일 전화, 또는 태블릿 컴퓨터를 포함할 수 있다. 디바이스(100)는 프로세서(102)("호스트 프로세서"라고도 함), 메모리(104), 저장장치(106), 하나 이상의 입력 디바이스(108), 및 하나 이상의 출력 디바이스(110)를 포함할 수 있다. 디바이스(100)는 선택적으로 입력 드라이버(112) 및 출력 드라이버(114)를 포함할 수 있다. 디바이스(100)는 도 1에 도시되지 않은 추가 성분을 포함할 수 있음이 이해된다.

다양한 대안에서, 프로세서(102)는 중앙 처리 유닛(CPU), 그래픽 처리 유닛(GPU), 동일한 다이 상에 위치된 CPU 및 GPU, 또는 하나 이상의 프로세서 코어를 포함하며, 각각의 프로세서 코어는 CPU 또는 GPU일 수 있다. 다양한 대안에서, 메모리(104)는 프로세서(102)와 동일한 다이 상에 위치되거나 프로세서(102)와는 별도로 위치된다. 메모리(104)는 휘발성 또는 비휘발성 메모리, 예를 들어, 랜덤 액세스 메모리(RAM), 동적 RAM, 또는 캐시를 포함한다.

저장장치(106)는 고정 또는 탈착가능 저장장치, 예를 들어 하드 디스크 드라이브, 솔리드 스테이트 드라이브, 광학 디스크, 또는 플래시 드라이브를 포함한다. 입력 디바이스(108)는, 제한없이, 키보드, 키패드, 터치 스크린, 터치 패드, 검출기, 마이크로폰, 가속도계, 자이로스코프, 생체인식 스캐너, 또는 네트워크 연결(예를 들어, 무선 IEEE 802 신호의 전송 및/또는 수신을 위한 무선 근거리 네트워크 카드)을 포함한다. 출력 디바이스(110)는, 제한없이, 디스플레이, 스피커, 프린터, 햅틱 피드백 디바이스, 하나 이상의 조명, 안테나, 또는 네트워크 연결(예를 들어, 무선 IEEE 802 신호의 송신 및/또는 수신을 위한 무선 근거리 네트워크 카드)을 포함한다

입력 드라이버(112)는 프로세서(102) 및 입력 디바이스(108)와 통신하고, 프로세서(102)가 입력 디바이스(108)로부터 입력을 수신할 수 있게 한다. 출력 드라이버(114)는 프로세서(102) 및 출력 디바이스(110)와 통신하고, 프로세서(102)가 출력 디바이스(110)에 출력을 보낼 수 있게 한다. 입력 드라이버(112) 및 출력 드라이버(114)는 선택적인 성분이며, 입력 드라이버(112) 및 출력 드라이버(114)가 존재하지 않으면 디바이스(100)는 동일한 방식으로 동작할 것임에 유의한다. 출력 드라이버(114)는 디스플레이 디바이스(118)에 결합된 가속 처리 디바이스("APD")(116)를 포함한다. APD는 프로세서(102)로부터 계산 커맨드 및 그래픽 렌더링 커맨드를 수용하고, 이들 계산 및 그래픽 렌더링 커맨드를 처리하고, 디스플레이를 위해 디스플레이 디바이스(118)에 픽셀 출력을 제공하도록 구성된다. 아래에 더 상세히 설명되는 바와 같이, APD(116)는 단일-명령-다중-데이터("SIMD") 패러다임에 따라 계산을 수행하도록 구성된 하나 이상의 병렬 처리 유닛을 포함한다. 따라서, 본원에서 다양한 기능이 APD(116)에 의해 또는 이와 함께 수행되는 것으로 설명되지만, 다양한 대안에서, APD(116)에 의해 수행되는 것으로서 설명된 기능은, 부가적으로 또는 대안적으로, 호스트 프로세서(예를 들어, 프로세서(102))에 의해 구동되지 않고 그래픽 출력을 디스플레이 디바이스(118)에 제공하도록 구성된 유사한 능력을 갖는 다른 계산 디바이스에 의해 수행된다. 예를 들어, SIMD 패러다임에 따라 처리 타스크를 수행하는 임의의 처리 시스템은 본원에 설명된 기능을 수행하도록 구성될 수 있음이 고려된다. 대안적으로, SIMD 패러다임에 따라 처리 타스크를 수행하지 않는 계산 시스템은 본원에 기술된 기능을 수행하는 것이 고려된다.

프로세서(102)는 다수의 가상 머신이 프로세서(102)에서 실행하는 가상화 스킴을 지원하도록 구성된다. 각각의 가상 머신("VM")은 이 VM에서 실행되는 소프트웨어에 대해 완전히 "실제" 하드웨어 컴퓨터 시스템으로서 "나타나는데", 그러나 실제로는 디바이스(100)를 다른 가상 머신과 공유할 수 있는 가상화된 계산 환경을 포함한다. 가상화는 완전히 소프트웨어로, 또는 부분적으로 하드웨어 및 부분적으로 소프트웨어로, 또는 완전히 하드웨어로 지원될 수 있다. APD(116)는 가상화를 지원하는데, 이는 APD(116)가 프로세서(102) 상에서 실행되는 다수의 가상 머신 간에 공유될 수 있다는 것을 의미하며, 각각의 VM은 VM이 실제 하드웨어 APD(116)의 완전한 소유권을 갖는다고 "믿는다".

도 2는 예에 따라, 가상화와 관련된 디바이스(100) 및 APD(116)의 세부사항을 도시한다. 프로세서(102)는 다수의 가상 머신을 지원한다. 전용 호스트 가상 머신(202)은 게스트 VM(204)처럼 "범용" VM이 아니라 대신에 게스트 VM(204)에 의한 사용을 위한 APD(116)의 가상화에 대한 지원을 수행한다. 하이퍼바이저(206)는 가상 머신에 대한 가상화 지원을 제공하는데, 이는 가상 머신에 할당된 자원 관리, 가상 머신 스포닝(spawning) 및 킬링, 시스템 호출 취급, 주변 디바이스에의 액세스를 관리, 메모리 및 페이지 테이블 관리, 및 다른 다양한 기능과 같은, 다양한 기능이 포함한다.

APD(116)는 가상 머신 간에 APD(116)의 시간-기반 공유를 허용함으로써 가상화를 지원한다. APD(116)에서, 호스트 VM(202)은 물리적 기능(208)에 매핑되고 게스트 VM(204)은 가상 기능(210)에 매핑된다. "물리적 기능"은 본질적으로 주변 성분 상호연결 익스프레스("PCIe") 표준에서 어드레싱 파라미터이다. 보다 구체적으로, 물리적 기능은 디바이스가 물리적 기능에 특정하게 할당된 기능에 따라 통신을 취급할 수 있도록 PCIe 상호연결 패브릭에 결합된 디바이스를 수반하는 통신이 디바이스의 특정 물리적 기능을 특정할 수 있게 한다. 일 예에서, 물리적 기능은 APD(116)와 같은 그래픽 처리 디바이스 상의 정규 그래픽 렌더링과 관련된다. 여기에서, 단일 물리적 기능이 설명되지만, 본 개시의 교시는 하나 이상의 물리적 기능이 활성된 APD(116)에 적용한다.

가상 기능은, 하드웨어 가상화를 용이하게 하며 PCIe 표준에서 어드레싱 파라미터로서 작용하는 PCIe 표준의 특징이다. 전형적으로, 한 세트의 가상 기능은 특정 물리적 기능과 연관된다. 각각의 가상 머신에는 상이한 가상 기능이 할당되고, 하이퍼바이저(206)는 VM과 가상 기능 간의 상관을 관리한다. 가상 기능과 가상 머신(202) 간에 이러한 상관은 호스트 VM(202)이 상이한 가상 기능(210) 중 임의의 기능 뿐만 아니라 물리적 기능(208)에 액세스할 수 있다는 것을 제외하고는 도 2의 시스템에서 대부분 사실이다. 이러한 점에서, 호스트 VM(202)는 APD 가상화를 위한 일종의 "마스터 가상 머신" 역할을 한다. 일부 시스템에서, 호스트 VM(202)은 존재하지 않으며, 여기서 설명된 호스트 VM(202)의 기능은 대신에 하이퍼바이저(206)에 의해 수행된다(GPU 가상화 드라이버(121)가 하이퍼바이저(206)에서 점선으로 도시된 이유이다). 본원에서 가상 기능이 가상 머신과 관련되는 것으로 때때로 설명되지만, 물리적 기능이 하나 이상의 가상 머신과 관련되는 것도 가능함에 유의한다. 전형적으로, 호스트 VM(202)은 물리적 기능과 "연관된" 것으로 간주되고, 게스트 VM(204)은 가상 기능과 연관된다. 가상 및 물리적 기능이 일부 맥락에서 유사한 방식으로 동작하는 것이 가능하기 때문에, 지정자 "가상" 또는 "물리적" 내에서 "기능"이라는 용어는 가상 기능 또는 물리적 기능 또는 집합적으로 가상 기능과 물리적 기능 둘 다를 지칭한다. 예를 들어, 일부 경우에, APD(116)가 기능들 간에 동작들을 시분할한다고 할 수도 있는데, 이는 APD(116)가 상이한 가상 기능들과, APD(116)에서 시분할에 적극적으로 참여한다면, 물리적 기능 간에 시분할됨을 의미한다. 이 시간 공유에 물리적 기능이 참여할 필요는 없지만, 이러한 물리적 기능이 참여하는 것은 가능하다.

위에서 설명한 바와 같이, 물리적 기능과 가상 기능은 PCIe에서 어드레싱 파라미터이다. PCIe를 통한 트랜잭션은 물리적 기능에 그리고 선택적으로, 부가적으로, 가상 기능에 연관된다. PCIe를 통한 어드레싱은 버스-디바이스-기능 번호 패러다임을 통해 명시적으로 이루어질 수 있지만, 이 어드레싱 패러다임은 일반적으로 디바이스 구성(예를 들어 PCIe 디바이스 목록) 또는 다른 상황을 위해 예약되어 있다. 보다 일반적으로, 그리고 표준 동작에서, PCIe를 통한 트랜잭션은 메모리 어드레스에 의해 이루어지며, PCIe 패브릭은 트랜잭션을 메모리 맵에 기초하여 적절한 디바이스 및 물리적 기능 및/또는 가상 기능으로 라우팅한다. 이 시나리오에서, VM은 메모리 어드레스에 액세스할 것이며 하이퍼바이저 또는 트랜슬레이트 층은 게스트 물리적메모리 어드레스 공간에 있는 제공된 메모리 어드레스를 APD(116)에 매핑되는 시스템 물리적메모리 어드레스 공간의 어드레스로 트랜슬레이트할 것이다. 이 트랜슬레이트된 어드레스는 가상 기능의 표시를 명시적으로 포함하지 않지만 메모리 맵을 통해 특정 가상 기능에 매핑되고 PCIe 패브릭의 라우팅 기능에 의해 그 가상 기능에 라우팅된다. 메모리 매핑 어드레스를 통해 행해진 PCIe를 통한 트랜잭션은 가상 또는 물리적 기능 번호를 명시적으로 특정하지 않는다.

본 개시는 게스트 및 시스템 물리적어드레스 공간에 대한 언급을 포함한다. 이들 어드레스 공간 간의 관계에 대해 설명한다. 시스템 물리적 어드레스 공간은 디바이스(100)의 "진정한" 물리적 어드레스 공간이다. 하이퍼바이저(206)는 이 어드레스 공간에 액세스할 수 있지만, 이 어드레스 공간은 VM으로부터 숨겨져 있다. 게스트 물리적 어드레스 공간은 특정 게스트 VM(204)에 의해 "보여지는" 가상화된 "물리" 어드레스 공간이다. 즉, 게스트 VM(204)에게, 게스트 물리적 어드레스 공간은 실제 물리적 어드레스 공간인 것으로 보인다. 제3 어드레스 공간 -게스트 가상 메모리- 은 컴퓨터 시스템에는 있지만 VM의 가상화된 환경에서 존재하는 전형적인 가상 메모리 어드레스 공간을 나타낸다. 디바이스(100)의 다른 부분(예를 들어 하드웨어-기반 페이지 테이블 워커(walker), 트랜슬레이트 캐시, 또는 다른 요소)이 상이한 어드레스 공간 간에 매핑을 관리하는 것에 연루될 수 있을지라도, 시스템 물리적 어드레스 공간과 게스트 물리적 어드레스 공간 간에 매핑은 하이퍼바이저(206)에 의해 관리되고 게스트 가상 어드레스 공간과 게스트 물리적 어드레스 공간 간에 매핑은 운영 체제(120)에 의해 관리된다.

상이한 가상 머신 간에 APD(116)를 공유하는 것은 상이한 가상 머신 간에 APD(116)의 동작들을 시분할함으로써 달성되고, 상이한 가상 기능(또는 물리적 기능)은 상이한 가상 머신에 할당된다. 가상화 스케줄러(212)는 APD(116)를 시분할하는 것에 관계된 작업을 수행하는데, 이 가상 머신에 할당된 실행 시간이 경과되었을 때 현재 가상 머신에 대한 작업으로부터 전환함으로써 동작에 대해 새로운 가상 머신을 스케줄링한다. APD(116)가 상이한 가상 머신 간에 공유될지라도, 각각의 가상 머신은 이것이 실제 하드웨어 APD(116)의 개별 인스턴스를 갖는 것을 인식한다.

"가상 기능" 및 "물리적 기능"이라는 용어가 PCIe 표준의 어드레싱 파라미터를 지칭할지라도, 이들 기능은 상이한 VM에 매핑되기 때문에, 특정 가상 머신에 할당된 APD(116)의 논리적 인스턴스는 본원에서 가상 기능 또는 물리적 기능이라 지칭될 것이다. 즉, 이 개시는 "가상 기능이 타스크를 수행한다"(또는 물리적 기능) 또는 "가상 기능에 대해 또는 이에 동작이 수행된다"(또는 물리적 기능)와 같은 용어를 사용할 수 있고, 이 용어는 APD(116)가 이 타스크를 이 특정 가상 또는 물리적 기능과 연관된 VM에 할당된 시간-슬라이스 동안 또는 이 가상 또는 물리적 기능과 연관된 VM을 대신하여 수행함을 의미하는 것으로 읽혀져야 한다.

호스트 VM(202) 및 게스트 VM(204)은 운영 체제(120)을 갖는다. 호스트 VM(202)은 관리 애플리케이션(123) 및 GPU 가상화 드라이버(121)를 갖는다. 게스트 VM(204)은 애플리케이션(126), 운영 체제(120), 및 GPU 드라이버(122)를 갖는다. 이들 요소는 프로세서(102) 및 APD(116)의 동작의 다양한 특징을 제어한다.

전술한 바와 같이, 호스트 VM(202)은 게스트 VM(204)에 대한 APD(116)에서의 가상화의 측면들을 구성한다. 따라서 호스트 VM(202)은 관리 애플리케이션(123) 및 GPU 가상화 드라이버(121)와 같은 다른 요소의 실행을 지원하는 운영 체제(120)를 포함한다. GPU 가상화 드라이버(121)는 APD(116)의 가상화의 측면을 이해하지 않고 단순히 그래픽 렌더링(또는 다른) 커맨드를 APD(116)에 전달하고 보내는 통상적인 그래픽 드라이버가 아니다. 대신에, GPU 가상화 드라이버(121)는 가상화를 위해 APD(116)의 다양한 측면들을 구성하기 위해 APD(116)와 통신한다. 일예에서, GPU 가상화 드라이버(121)는 상이한 VM 간에 APD(116)를 공유하기 위한 시간-슬라이싱 메커니즘과 관련된 파라미터를 관리하여, 각각의 시간-슬라이스에서 얼마나 많은 시간이 있는지, 상이한 가상 기능 간에 전환이 어떻게 수행되는지, 및 기타 측면과 같은 파라미터를 제어한다. GPU 가상화 드라이버(121)는 또한 통상적인 그래픽 렌더링 커맨드를 APD(116)에 발행하거나 APD(116)의 구성과 직접 관계되지 않은 다른 타스크를 수행할 수 있는 것에 유의한다. 관리 애플리케이션(123)은 가상화를 관리하기 위한 및/또는 2 이상의 상이한 게스트 VM(204)으로부터의 데이터를 수반하는 하나 이상의 타스크를 수행한다. 일예에서, 호스트 VM(202)은 관리 애플리케이션(123)을 통해 데스크탑 합성 기능을 수행하는데, 여기서 데스크탑 합성 기능은 상이한 게스트 VM(204)으로부터의 렌더링된 프레임에 액세스하여 이들 프레임을 단일 출력 뷰로 합성한다.

게스트 VM(204)은 운영 체제(120), GPU 드라이버(122), 및 애플리케이션(126)을 포함한다. 운영 체제(120)는 프로세서(102)에서 실행될 수도 있을 임의의 유형의 운영 체제가다. GPU 드라이버(122)는 GPU 드라이버(122)가 GPU 드라이버(122)가 실행중인 게스트 VM(204)에 대한 APD(116)의 동작을 제어하여, 그래픽 렌더링 타스크 또는 다른 작업과 같은 타스크를 처리를 위해 APD(116)에 전송하는 점에서 APD(116)를 위한 "네이티브" 드라이버이다. 네이티브 드라이버는 배어-본(bare-bone) 비-가상화 계산 시스템에 존재하는 GPU용 디바이스 드라이버의 수정되지 않은 또는 약간 수정된 버전일 수 있다.

GPU 가상화 드라이버(121)가 호스트 VM(202) 내에 포함되는 것으로서 설명되었지만, 다른 구현에서, GPU 가상화 드라이버(121)는 대신에 하이퍼바이저(206)에 포함된다. 이러한 구현에서, 호스트 VM(202)은 존재하지 않을 수 있고 호스트 VM(202)의 기능은 하이퍼바이저(206)에 의해 수행될 수 있다.

호스트 VM(202) 및 게스트 VM(204)의 운영 체제(120)은 하드웨어와의 통신, 자원 및 파일 시스템 관리, 가상 메모리 관리, 네트워크 스택 관리, 및 많은 다른 기능과 같은 가상화된 환경에서 운영 체제에 대한 표준 기능을 수행한다. GPU 드라이버(122)는 예를 들어 APD(116)의 다양한 기능에 액세스하기 위해 소프트웨어(예를 들어, 애플리케이션(126))에 대한 애플리케이션 프로그래밍 인터페이스("API")를 제공함으로써 임의의 특정 게스트 VM(204)에 대한 APD(116)의 동작을 제어한다. 또한, 드라이버(122)는 APD(116)의 처리 성분(예를 들어, 이하에서 더 상세히 논의되는 SIMD 유닛(138)과 같은)에 의한 실행을 위한 프로그램을 컴파일하는 JIT(Just-In-Time) 컴파일러를 포함한다. 임의의 특정 게스트 VM(204)에 대해, GPU 드라이버(122)는 다른 VM에 대해서가 아니라 그 게스트 VM(204)와 관련된 APD(116) 상의 기능을 제어한다.

APD(116)는 병렬 처리에 적합할 수 있는한 그래픽 동작 및 비-그래픽 동작과 같은 선택된 기능에 대한 커맨드 및 프로그램을 실행한다. APD(116)는 픽셀 동작, 기하학적 계산과 같은 그래픽 파이프라인 동작을 실행하고, 프로세서(102)로부터 수신된 커맨드에 기초하여 디스플레이 디바이스(118)에 이미지를 렌더링하기 위해 사용될 수 있다. APD(116)는 또한 프로세서(102)로부터 수신된 커맨드에 기초하여 비디오, 물리적 시뮬레이션, 계산 유체 역학, 또는 다른 타스크에 관계된 동작과 같은, 그래픽 동작에 직접 관련되지 않은 계산 처리 동작을 실행한다. 커맨드 프로세서(213)는 프로세서(102)(또는 또 다른 소스)로부터의 커맨드를 받아들이고, 이들 커맨드에 연관된 타스크를 그래픽 처리 파이프라인(134) 및 계산 유닛(132)과 같은 APD(116)의 다양한 요소에 위임한다. VM은 도어벨 메모리(214)를 사용하여, 도어벨 메커니즘을 통한 실행을 위한 새로운 타스크에 대해 APD(116)에 알린다.

APD(116)는 SIMD 패러다임에 따라 프로세서(102)의 요청에서 병렬 방식으로 동작을 수행하도록 구성된 하나 이상의 SIMD 유닛(138)을 포함하는 계산 유닛(132)을 포함한다. SIMD 패러다임은 다수의 처리 요소가 단일의 프로그램 제어 흐름 유닛 및 프로그램 카운터를 공유하여 이에 따라 동일한 프로그램을 실행하지만 상이한 데이터로 그 프로그램을 실행할 수 있는 것이다. 일예에서, 각각의 SIMD 유닛(138)은 16개의 레인(lane)을 포함하고, 각 레인은 SIMD 유닛(138)의 다른 레인과 동시에 동일 명령을 실행하지만 상이한 데이터로 그 명령을 실행할 수 있다. 레인은 모든 레인이 주어진 명령을 실행할 필요가 있지 않다면 프리디케이트(predication)로 오프로 전환될 수 있다. 프리디케이트는 또한 분기 제어 흐름으로 프로그램을 실행하기 위해 사용될 수 있다. 보다 구체적으로, 제어 흐름이 개별 레인에 의해 수행되는 계산에 기초하는 조건부 분지 또는 다른 명령을 가진 프로그램에 대해서, 현재 실행되고 있지 않은 제어 흐름 경로에 대응하는 레인의 프리디케이트, 및 상이한 제어 흐름 경로의 일련의 실행은 임의의 제어 흐름이 가능하게 한다.

계산 유닛(132)에서의 실행의 기본 유닛은 작업-항목이다. 각 작업-항목은 특정 레인에서 병렬로 실행될 프로그램의 단일 인스턴스화를 나타낸다. 작업-항목들은 단일 SIMD 처리 유닛(138)에서 "웨이브프론트"로서 동시에 실행될 수 있다. 하나 이상의 웨이브프론트는 "작업 그룹"에 포함되는데, 이는 동일한 프로그램을 실행하도록 지정된 일단의 작업-항목을 포함한다. 작업 그룹은 작업 그룹을 구성하는 각 웨이브프론트를 실행함으로써 실행될 수 있다. 대안적으로, 웨이브프론트는 단일 SIMD 유닛(138)에서 순차적으로 또는 상이한 SIMD 유닛(138)에서 부분적으로 또는 완전히 병렬로 실행된다. 웨이브프론트는 단일 SIMD 유닛(138)에서 동시에 실행될 수 있는 가장 큰 일단의 작업-항목으로서 간주될 수 있다. 따라서, 프로세서(102)로부터 수신된 커맨드가 특정 프로그램이 단일 SIMD 유닛(138)에서 동시에 실행될 수 없는 정도로 병렬화되어야 한다는 것을 나타내면, 그 프로그램은 2 이상의 SIMD 유닛(138)에서 병렬화되거나 동일 SIMD 유닛(138)에서 직렬화된(또는 필요시 병렬화 및 직렬화되는) 웨이브프론트로 분할된다. 스케줄러(136)는 상이한 계산 유닛(132) 및 SIMD 유닛(138) 상에서 다양한 웨이브프론트를 스케줄링하는 것과 관련된 동작을 수행하도록 구성된다.

계산 유닛(132)에 의해 제공되는 병렬성은 픽셀 값 계산, 버텍스 변환, 및 다른 그래픽 동작과 같은 그래픽 관련 동작에 적합하다. 따라서, 일부 경우에, 프로세서(102)로부터 그래픽 처리 커맨드를 받아들이는 그래픽 파이프라인(134)은 병렬로 실행을 위해 계산 타스크를 계산 유닛(132)에 제공한다.

또한 계산 유닛(132)은 그래픽과 관련되지 않거나 그래픽 파이프라인(134)의 "정상적인" 동작의 일부로서 수행되지 않는(예를 들어, 그래픽 파이프라인(134)의 동작을 위해 수행되는 처리를 보충하기 위해 수행되는 커스텀 동작) 계산 타스크를 수행하지 않기 위해 사용된다. 프로세서(102)에서 실행되는 애플리케이션(126) 또는 다른 소프트웨어는 이러한 계산 타스크를 정의하는 프로그램을 실행을 위해 APD(116)로 전송한다.

APD(116)에서 새로운 작업이 수행될 준비가 되었다는 통지는 도어벨 메커니즘을 통해 이루어진다. 보다 구체적으로, 새로운 작업이 준비되었음을 APD(116)에 통지하기 위해, 엔티티(예를 들어, 프로세서(102))는 도어벨을 도어벨 메모리(214)에 기입한다. 도어벨은 페치되어 처리될 커맨드의 메모리 어드레스를 나타내는 커맨드 버퍼로의 포인터를 포함한다.

일 구현에서, 도어벨은 원형(circular) 버퍼의 헤드의 어드레스를 포함한다. 테일(tail)의 어드레스는 APD(116)에 의해 별도로 유지된다. 헤드 포인터와 테일 포인터가 동일할 때, 어떠한 새로운 커맨드도 페치될 수 없다. 엔티티가 테일 포인터보다 큰 헤드를 포함하는 도어벨을 기입할 때, 페치될 커맨드는 헤드와 테일 사이의 어드레스에서 발견된다. APD(116)는 커맨드가 페치될 때 테일 포인터를 조정하여 커맨드 버퍼 내 커맨드를 소비한다. 헤드 및 테일 포인터가 다시 동일할 때, 커맨드 버퍼에서 가용한 새로운 커맨드는 없다. 이 구현에서, 도어벨은 작업이 수행될 준비가 되었음을 통지로서 그리고 커맨드가 발견될 메모리 어드레스의 표시로서 작용한다. 선택적으로, 도어벨 메모리(214)에 기입된 도어벨은 이 도어벨에 의해 표시된 작업이 완료될 때 또는 새로운 도어벨이 도어벨 메모리(214)에 기입될 때 처리된 것으로서 마크된다. 다른 구현에서, 도어벨은 작업이 페치되어 실행될 준비가 되었다는 표시로서만 작용할 수 있고, 이 작업의 위치의 표시는 도어벨에 의해 제공된 값과는 별도로 결정된다. 또 다른 구현에서, 도어벨은 임의의 대안적 또는 추가 목적에 사용될 수 있다.

도어벨 메커니즘은 현재 어떤 가상 머신이 APD(116)에서 작업하도록 스케쥴링되어 있는지에 대해 비동기식으로 동작한다. 이것은 특정 가상 머신이 도어벨 메모리(214)에 도어벨을 놓은 VM 이외의 VM에 대한 타스크가 APD(116)에서 실행되고 있을 때 도어벨 메모리(214)에 도어벨을 놓을 수 있음을 의미한다. 이 비동기 동작은 APD(116) 상의 시간-슬라이스된 작업과 비교하여 독립적으로 스케줄링되기 되는, 프로세서(102)에서 실행되는 소프트웨어(예를 들어, VM 상에서 실행되는 소프트웨어)에 의해 실행되기 때문에 행해진다.

전술한 바와 같이, 가상화 스케줄러(212)는 상이한 가상 머신들 간에 APD(116)의 시분할을 관리한다. 각각의 시간-슬라이스에서, 가상화 스케줄러(212)는 이 시간-슬라이스와 연관된 가상 머신에 대한 작업이 APD(116)에서 속행하는 것을 허용한다. 가상화 스케줄러(212)는 APD(116)를 공유하는 VM(호스트 VM(202) 및 게스트 VM(204) 모두)에 대해 APD(116) 상에서 시간-슬라이스를 관리한다. 가상화 스케줄러(212)는 시간-슬라이스를 추적하고, 특정 VM에 대한 시간-슬라이스가 만료되었을 때 APD(116) 상에 작업을 중지하고, 다음 시간 슬라이스를 갖는 VM에 대한 작업을 시작한다. 따라서, 가상화 스케줄러(212)는 APD(116) 상에서 실행될 작업을 갖는 상이한 VM들 간에 전환한다. 상이한 VM들 간에 전환 행위는 본원에서 "가상화 컨텍스트 전환"이라 지칭된다. 가상화 스케줄러는 스케줄링 스킴을 기반으로 작업을 수행하기 위해 상이한 VM을 선택한다. 일예에서, 스케줄링 스킴은 라운드 로빈 스킴이다. 이러한 스킴에서, 각각의 VM에는 APD(116) 상에서 턴이 주어지며, VM에 주어지는 순서는 반복된다. 다른 기술적으로 가능한 스케줄링 스킴도 물론 가능하다.

특정 VM과 관련된 특정 시간-슬라이스 동안 작업을 시작하기 위해, 가상화 스케줄러(212)는 커맨드 프로세서(213)로 하여금 그래픽 처리 파이프라인(134)를 위한 및/또는 범용 계산 작업을 위한 커맨드를 특정 VM에 대해 도어벨 메모리(214)에 의해 지정된 어드레스로부터 페치하게 한다. 이어 커맨드 프로세서(213)는 APD(116)로 하여금 이들 커맨드를 실행하게 한다. 페치된 커맨드는 도어벨 메모리(214)에 저장된 도어벨에 의해 포인트된다.

가상화 스케줄러(212)가 현재 APD(116) 상에서 실행되는 작업을 갖는 VM에 대한 시간-슬라이스가 만료된 것으로 결정하였을 때, 가상화 스케줄러(212)는 APD(116)로 하여금 어떠한 새로운 작업도 받아들이지 않고 그 작업을 완료하게 한다(예를 들어, 도어벨 메모리(214)에 저장된 도어벨에 의해 포인팅된 새로운 작업을 수락하지 않고 그래픽 처리 파이프라인(134) 및/또는 계산 유닛(138)에서 이미 "진행중인(in flight)" 타스크를 완료한다. 작업을 완료하는 것은 현재 APD(116)에서 진행중인 작업이 완료되고 최종 출력 값이 타겟 메모리 위치에 기입되게 하는 것을 수반한다. 예를 들어, 그래픽 렌더링에 있어, 출력 픽셀은 프레임 버퍼(또는 다른 렌더링 타겟)에 기입되어질 것이다. 대안적으로 또는 일부 상황에서, 타스크를 완료하는 대신, 기능/VM이 APD(116)에서 "턴"을 다시 받았을 때 진행중인 타스크에 대한 상태는 저장되고 다시 복원될 수 있다.

특정 VM에 대해 작업이 완료된 후, 가상화 스케줄러(212)는 다음 VM를 위한 시간-슬라이스로 이동하여, 커맨드 프로세서(213)가 도어벨 메모리(214)의 콘텐트에 기초하여 그 VM에 대한 타스크를 페치하고 이들 타스크를 그래픽 처리 파이프라인(134) 및/또는 계산 유닛(132)에서 직접(예를 들어, 범용 계산을 위해) 실행하게 한다. 만료된 시간-슬라이스에 대한 작업 실행을 중지하고 다음 VM에 대한 작업을 시작하는 이러한 프로세스는, 상이한 VM에 APD(116)의 시분할을 제공하기 위해, 반복적으로 수행된다.

한 VM에 대한 작업을 중지하고 또 다른 VM에 대한 작업을 시작하는 것 외에도, 가상화 컨텍스트 전환은 전환되는 VM에 대한 상태를 저장하고 전환할 VM에 대한 상태를 로딩하는 것을 수반한다. 일반적으로, 상태는 APD(116)에 대해 실행된 워크플로우의 양상들을 관리하는 APD(116) 전체에 걸쳐 또는 이에 대해 저장된 값을 포함한다. 다양한 예에서, 상태는 어떻게 그래픽이 렌더링될지, 어떻게 SIMD 작업이 실행될지, 어떻게 쉐이더가 실쟁되지를 제어하며 APD(116) 상에 동작의 다른 다양한 양상들을 제어하는 레지스터에 저장된 값을 포함할 수 있다. 상태를 저장하는 것은 사용중 위치(상태 값이 실제로 APD(116)의 동작에 영향을 미치는)로부터 상태를 VM를 위한 저장 상태 위치에 기입하는 것을 수반한다. 상태를 로딩하는 것은 VM를 위한 저장 상태 위치에서 상태를 사용중인 위치로 로드하는 것이다. 일부 구현에서, 저장 상태 위치는 메모리에 있고(APD(116) 상의 범용 메모리와 같은), 사용중 위치는 APD(116) 내의 레지스터, 전용 메모리, 등과 같은 다양한 메모리 요소를 포함한다.

APD(116)의 다른 부분은 이의 기능이 전술한 바와 같이 가상화 작업 맥락에서 그리고 커맨드 프로세서(213)에 의해 페치된 커맨드를 실행하기 위해 가상화가 발생하지 않은 것처럼 구체적으로 설명되지 않은 것에 유의한다. 예를 들어, 그래픽 처리 파이프라인(134)은 커맨드 프로세서(213)에 의해 페치된 그래픽 렌더링 커맨드에 응답하여 그래픽 렌더링과 관련된 동작을 수행한다. 그래픽 처리 파이프라인(134)과 관련된 그래픽 렌더링 커맨드 중 적어도 일부에 대해 및/또는 범용 계산 동작에 대해, SIMD 스케줄러(136)는 커맨드 프로세서(213)에 의해 처리된 커맨드에 따라 계산 유닛(132)의 SIMD 유닛(138) 상에서 실행하기 위한 웨이브프론트를 발생하고 관리한다. 예에서, 커맨드는 그래픽 처리 파이프라인(134)의 다른 퍼실리티(facility) 중에서도, 특정 픽셀 쉐이더 프로그램을 사용하여 특정한 하나의 기하학을 렌더링하는 커맨드이다. 그래픽 처리 파이프라인(134)은 입력 어셈블러 스테이지(302), 헐 쉐이더 스테이지(306), 테셀레이터 스테이지(308), 등과 같은 그래픽 처리 파이프라인(134)의 다양한 스테이지를 통해 기하학을 처리하고, 픽셀 쉐이더 스테이지(316)에서, 기하학이 SIMD 유닛(138)에서 특정 픽셀 쉐이더로 처리되게 한다. SIMD 스케줄러(136)는 실행을 위해 픽셀 쉐이더에 대한 웨이브프론트를 관리하고 스케줄링한다.

도 3은 도 2에 도시된 그래픽 처리 파이프라인(134)의 추가 세부사항을 도시하는 블록도이다. 그래픽 처리 파이프라인(134)은 각각 특정 기능을 수행하는 스테이지를 포함한다. 스테이지는 그래픽 처리 파이프라인(134)의 기능의 세분화를 나타낸다. 각 스테이지는 계산 유닛(132)에서 실행되는 쉐이더 프로그램으로서 부분적으로 또는 완전히 구현되거나, 또는 계산 유닛(132) 외부에서 고정 기능의 비-프로그래밍가능 하드웨어로서 부분적으로 또는 완전히 구현된다.

입력 어셈블러 스테이지(302)는 사용자에 의해 채워지는 버퍼(예를 들어, 애플리케이션(126)과 같은, 프로세서(102)에 의해 실행되는 소프트웨어의 요청으로 채워지는 버퍼)로부터 프리미티브 데이터를 판독하고, 파이프라인의 나머지에 의해 사용하기 위해 데이터를 프리미티브로 어셈블한다. 입력 어셈블러 스테이지(302)는 사용자에 의해 채워지는 버퍼에 포함된 프리미티브 데이터에 기초하여 상이한 유형의 프리미티브를 생성할 수 있다. 입력 어셈블러 스테이지(302)는 나머지 파이프라인에 의한 사용을 위해 어셈블된 프리미티브를 포맷한다.

버텍스 쉐이더 스테이지(304)는 입력 어셈블러 스테이지(302)에 의해 어셈블된 프리미티브의 버텍스를 처리한다. 버텍스 쉐이더 스테이지(304)는 변환, 스키닝, 모핑, 및 버텍스당 조명과 같은 다양한 버텍스당 동작을 수행한다. 변환 동작은 버텍스의 좌표를 변환하는 다양한 동작을 포함한다. 이들 동작은 모델링 변환, 뷰잉 변환, 투영 변환, 원근 분할, 및 뷰포트 변환 중 하나 이상을 포함한다. 여기에서, 이러한 변환은 변환이 수행되는 버텍스의 좌표 또는 "위치"를 수정하는 것으로 간주된다. 버텍스 쉐이더 스테이지(304)의 다른 동작은 좌표 이외의 속성을 수정한다.

버텍스 쉐이더 스테이지(304)는 하나 이상의 계산 유닛(132)에서 실행될 버텍스 쉐이더 프로그램으로서 부분적으로 또는 완전히 구현된다. 버텍스 쉐이더 프로그램은 프로세서(102)에 의해 제공되며 컴퓨터 프로그래머에 의해 미리 작성된 프로그램에 기초한다. 드라이버(122)는 이러한 컴퓨터 프로그램을 컴파일하여 계산 유닛(132) 내에서 실행하기에 적합한 포맷을 갖는 버텍스 쉐이더 프로그램을 생성한다.

헐 쉐이더 스테이지(306), 테셀레이터 스테이지(308), 및 도메인 쉐이더 스테이지(310)는 프리미티브를 세분화함으로써 단순 프리미티브를 보다 복잡한 프리미티브로 바꾸는 테셀레이션을 구현하기 위해 함께 작업한다. 헐 쉐이더 스테이지(306)는 입력 프리미티브에 기초하여 테셀레이션을 위한 패치를 생성한다. 테셀레이터 스테이지(308)는 패치를 위한 샘플 세트를 생성한다. 도메인 쉐이더 스테이지(310)는 패치를 위한 샘플에 대응하는 버텍스에 대한 버텍스 위치를 계산한다. 헐 쉐이더 스테이지(306) 및 도메인 쉐이더 스테이지(310)는 계산 유닛(132)에서 실행될 쉐이더 프로그램으로서 구현될 수 있다.

기하학 쉐이더 스테이지(312)는 프리미티브마다 버텍스 동작을 수행한다. 포인트 스프린트 확장, 다이내믹 파티클 시스템 동작, 퍼-핀 생성, 쉐도우 볼륨 생성, 단일 패스 렌더-큐브 맵, 프리미티브당 자료 스와핑, 및 프리미티브당 자료 셋업과 같은 동작을 포함하는, 다양한 상이한 유형의 동작이 기하학 쉐이더 스테이지(312)에 의해 수행될 수 있다. 일부 경우에, 계산 유닛(132)에서 실행되는 쉐이더 프로그램은 기하학 쉐이더 스테이지(312)를 위한 동작을 수행한다.

래스터라이저 스테이지(314)는 단순 프리미티브를 수용하고 래스터화하여 업스트림으로 생성된다. 래스터화는 어느 스크린 픽셀(또는 서브-픽셀 샘플)이 특정 프리미티브에 의해 커버될 것인지를 결정하는 것으로 구성된다. 래스터화는 고정 기능 하드웨어에 의해 수행된다.

픽셀 쉐이더 스테이지(316)는 업스트림으로 생성된 프리미티브 및 래스터화의 결과에 기초하여 스크린 픽셀에 대한 출력 값을 계산한다. 픽셀 쉐이더 스테이지(316)는 텍스처 메모리로부터 텍스처를 적용할 수 있다. 픽셀 쉐이더 스테이지(316)에 대한 동작은 계산 유닛(132)에서 실행되는 쉐이더 프로그램에 의해 수행된다.

출력 병합 스테이지(318)는 픽셀 쉐이더 스테이지(316)로부터의 출력을 받아들이고 이들 출력을 병합하여, 스크린 픽셀을 위한최종 색상을 결정하기 위해 z-테스트 및 알파 블렌딩과 같은 동작을 수행한다.

도 2를 다시 참조하면, 일부 경우에, 현재 기능은 그 기능을 위한 시간-슬라이스에 할당된 시간량이 만료되기 전에 작업을 종료하고 "아이들"이 된다. 이 시나리오에서 일부 상황에서, 가상화 스케줄러(212)는 "조기에" 가상화 컨텍스트 전환을 수행한다. 보다 구체적으로, 아이들을 학습한 후 및 시간-슬라이스가 끝나기 전에, 가상화 스케줄러(212)는 가상화 컨텍스트 전환을 현재 기능으로부터 다음 기능으로 전환시킨다. 조기에 가상화 컨텍스트 전환을 수행하는 목적은 현재 기능이 더 이상 수행할 작업이 없을 때 다른 기능이 작업을 수행하도록 허용하는 것이다. 현재 기능에 대한 나머지 시간-슬라이스 동안 APD(116)을 아이들링하는 대신, 후속 기능으로 가상화 컨텍스트 전환을 수행함으로써, APD(116)의 자원은 아이들되는 대신에 유용한 작업을 수행하기 위해 사용된다. 현재 기능이 아이들인 것을 학습하였을 때 가상화 컨텍스트 전환을 조기에 수행하는 것에 더하여, 가상화 스케줄러(212)는 또한 조기 가상화 컨텍스트 전환이 수행된 이후에 그 기능이 어떠한 작업도 수신하지 않았다면 후속의 다음 턴을 건너 뛸 수 있다. 기능이 작업을 수신했는지의 여부는 이 개시 전반에 걸쳐 설명된 도어벨 메커니즘을 통해 결정된다.

도 4는 예에 따라, 조기 가상화 컨텍스트 전환을 수행하는 것과 관련된 디바이스(100)의 특징을 나타내는 블록도이다. 디바이스(100)의 많은 요소들이 도 4에 도시되어 있는데, 이는 가상화 스케줄러(212) 내에 포함되는 것으로 도시된 조기 가상화 컨텍스트 전환 유닛(402)을 도시한다. 조기 가상화 컨텍스트 전환 유닛(402)은 하드웨어, 소프트웨어 또는 이들의 임의의 조합으로 구현될 수 있다. 또한, 조기 가상화 컨텍스트 전환 유닛(402)이 가상화 스케줄러(212) 내에 도시되어 있지만, 본 개시는 조기 가상화 컨텍스트 전환 유닛(402)의 기능을 수행하는 성분의 물리적 배치를 제한하는 것으로서 하려는 것이 아님에 유의한다. 도 5는 예에 따라, 조기 가상화 컨텍스트 전환을 수행하기 위한 방법의 흐름도이다. 도 5의 동작이 도 1-4의 시스템과 관련하여 설명되었지만, 임의의 시스템에 의해, 도시된 바와 같이 단계로 또는 임의의 다른 기술적으로 가능한 순서로 수행되는 방법(500)은 본 개시의 범위 내에 속하는 것으로 이해되어야 한다. 도 4 및 도 5는 아래에서 함께 논의된다.

조기 가상화 컨텍스트 전환 유닛(402)은 "조기 가상화 컨텍스트 전환"을 수행하는 것이 언제 적절한지를, 그래픽 프로세서 파이프라인(134)의 상태, 또는 계산 전용 작업을 위해, SIMD 스케쥴러(136) 및 계산 유닛(134)의 상태에 기초하여, 결정하기 위해 커맨드 프로세서(213)와 통신하고 조정한다. 그래픽 파이프라인(134)의 상태는 적어도 일부 경우에 SIMD 스케줄러(136)의 상태를 포함하지만, 비-그래픽 계산 작업이 미결이라면, 조기 가상화 컨텍스트 전환을 수행할지 여부에 대한 결정은 대안적으로 또는 그래픽 처리 파이프라인(134)의 상태에 더하여 SIMD 스케줄러(136) 및 계산 유닛(134)의 상태에 의존한다.

커맨드 프로세서(213)는 APD(116)에서 작업을 수행하기 위한 요청을 수신하고 그래픽 처리 파이프라인(134) 및/또는 SIMD 스케줄러(136)에 작업을 디스패치하는 엔티티이다. 보다 광범위하게, 커맨드 프로세서(213)는 그래픽 처리 파이프라인(134) 및 SIMD 스케줄러(136) 상의 높은 수준에서 워크플로우를 제어한다. 이 워크플로우 제어의 부분으로서, 커맨드 프로세서(213)는 그래픽 처리 파이프라인(134) 및 SIMD 스케줄러(136)의 다양한 서브-유닛으로부터 작업 완료 보고를 수신한다. 보다 구체적으로, 그래픽 처리 파이프라인(134) 또는 SIMD 스케줄러(136) 상에 미결 작업에 대해서, 커맨드 프로세서(213)는 이러한 작업이 완료될 때 통지를 수신한다. 또한, 커맨드 프로세서(213)는 그래픽 처리 파이프라인(134) 및 SIMD 스케줄러(136)에서 어떤 작업이 미결인지 추적한다. 작업 완료 보고를 미결 작업 추적과 상관시킴으로써, 커맨드 프로세서(213)는 그래픽 처리 파이프라인(134) 및 SIMD 스케줄러(136)가 아이들인지 아니면 작업을 수행하고 있는지를 나타내는 정보를 추적한다. SIMD 스케줄러(136)는 계산 유닛(132) 상에 미결 작업이 없다면 아이들인 것으로 간주된다. 따라서, "SIMD 스케줄러(136)가 아이들이다"라는 어구에서, 계산 유닛(132)에서 기능의 조정자로서 SIMD 스케줄러(136)의 역할에 기인하여, SIMD 스케줄러(136)는 계산 유닛(132)에 대한 프록시로서 작용한다. 일예에서, 모든 미결 작업이 그래픽 처리 파이프라인(134) 및 SIMD 스케줄러(136)에서 완료되면, 커맨드 프로세서(213)는 그래픽 처리 파이프라인(134) 및 SIMD 스케줄러(136)를 아이들인 것으로 간주한다.

그래픽 처리 파이프라인(134) 및 SIMD 스케줄러(136)가 아이들일 때에도, 커맨드 프로세서(213)가 처리하는 작업이 있을 수 있다. 예를 들어, 그래픽 처리 파이프라인(134) 및 SIMD 스케줄러(136)는 커맨드 프로세서(213)가 처리할 새로운 도어벨이 있음을 검출할 때 아이들이 될 수 있다. 따라서, APD(116)는 그래픽 처리 파이프라인(134) 및 SIMD 스케줄러(136)가 아이들이고 처리되기를 기다리거나 현재 처리중인 도어벨이 없을 때까지 완전히 아이들이 되는 것으로 간주되지 않는다. 커맨드 프로세서(213)가 이러한 상태가 발생하는 것을 검출할 때, 커맨드 프로세서(213)는 도 5의 단계(502)로서 나타낸, "아이들 결정"을 한 것으로 간주된다.

"아이들 결정"을 행할 때, 커맨드 프로세서(213)는 이 아이들 결정의 표시를 가상화 스케줄러(212)에 제공한다. 이 통지를 수신하였을 때, 가상화 스케줄러(212)는 조기 가상화 컨텍스트 전환 결정 시퀀스를 개시한다. 조기 가상화 컨텍스트 전환 결정 시퀀스는 조기 가상화 컨텍스트 전환(현재 기능에 대해 시간-슬라이스에 할당된 시간 이전의 가상화 컨텍스트 전환)가 발생하여야할지 여부를 결정하고 이어 조기 가상화 컨텍스트 전환이 발생해야 한다면 조기 가상화 컨텍스트 전환을 수행하기 위해 몇 가지 기능을 수행한다.

일 구현에서, 조기 가상화 컨텍스트 전환 결정은 커맨드 프로세서(213)로부터 아이들 표시를 수신한 후 타임아웃 기간 동안 대기하고 이 타임아웃 기간 내에 도어벨이 수신되는지를 결정하는 것을 포함한다(이 결정은 도 5의 단계(504)로서 도시되었다). 이 타임아웃 기간 동안 현재 기능에 대한 어떠한 도어벨도 APD(116)에 도달하지 않으면, 가상화 스케줄러는 조기 가상화 컨텍스트 전환을 개시한다(단계(508)). 조기 가상화 컨텍스트 전환은, 현재 기능에 대한 저장 상태를 저장하고, 다음 기능에 대한 상태를 로딩하고, 다음 기능에 대한 작업이 수행되기 하는 것을 포함하여 본 개시의 다른 곳에서 설명된, 실질적으로 "정규" 가상화 컨텍스트 전환으로서 수행된다.

조기 가상화 컨텍스트 전환을 개시하는 것은 또한 타임아웃 기간이 종료된 후에 수신된 도어벨 메모리(214) 내의 도어벨에 기초하여 작업을 페치하는 것을 중지하기 위해 커맨드를 커맨드 프로세서(213)에 전송하는 단계를 포함한다. 가상화 스케줄러(212)가 타임아웃 기간 내에 어떠한 도어벨도 수신되지 않았다고 결정하고 작업을 페치하는 것을 중지하기 위해 커맨드 프로세서(213)에 커맨드를 전송하는 시간과 커맨드 프로세서(213)가 작업을 페치하는 것을 중지하기 위한 커맨드를 수신하는 시간 사이에는 약간의 지연이 있다. 이 지연 기간 동안 도어벨이 수신되면, 커맨드 프로세서(213)는 도어벨을 무시하거나, 또는 커맨드 프로세서(213)가 도어벨에 기초하여 작업을 페치하기 시작하였다면, 이러한 페치하는 것을 중단한다. 이 중단은 커맨드 프로세서(213)와 관련된 상태를 커맨드 프로세서(213)가 이러한 도어벨을 처리하기 시작하기 전의 상태로 재설정하는 것을 포함할 것이다. 예를 들어, 도어벨에 의해 포인팅된 커맨드 버퍼에의 포인터(예를 들어, 테일 포인터)가 도어벨을 처리하기 위해 업데이트되면, 커맨드 프로세서(213)는 이러한 포인터를 도어벨을 처리하기 전에 값으로 재설정한다.

단계(504)를 다시 참조하면, 타임아웃 기간 동안 APD(116)에 의해 도어벨이 수신되면, 방법(500)은 단계(506)로 진행한다. 단계(506)에서, 가상화 스케줄러(212)는 현재 기능을 위한 시간-슬라이스에 "현저한" 시간량이 남아 있는지를 결정한다. "현저한" 시간량은 임계 이상의 시간량이다. 구현에서, 임계는 커맨드 프로세서(213)가 APD(116)가 아이들이 된 후에 도어벨이 수신되는지를 결정하는 지연 기간과 동일하다(또는 대략 동일하다). 현재 시간-슬라이스에 남은 임계 지연 기간보다 많은 시간이 남아 있다면, 방법(500)은 단계(510)로 진행하여, 가상화 스케줄러(212)는 조기 가상화 컨텍스트 전환을 발생시키지 않고 대신에 APD(116)가 도어벨에 의해 참조된 작업을 처리하는 것을 허용한다. 단계(506)를 다시 참조하여, 현재 시간 슬라이스에 임계보다 큰 시간량이 남아 있지 않으면, 방법(500)은 단계(508)로 진행하여, 가상화 스케줄러(212)는 조기 가상화 컨텍스트 전환을 수행한다.

기능에 대한 가상화 컨텍스트 전환을 수행한 후, 기능에 대한 턴이 되었으나 도어벨이 수신되지 않았다면, 가상화 스케줄러(212)는 이 기능을 스킵하고, 다른 기능(예를 들어 스케쥴링 스킴에서 "다음" 기능)에 대한 작업을 스케쥴링한다.

위에 논의에서, "조기 가상화 컨텍스트 전환"이라는 용어에서 "조기"라는 단어는 현재 기능에 할당된 시간량이 만료되기 전에 가상화 컨텍스트가 전환이 행해짐을 나타내는 것을 의미한다.

본원에 개시에 기초하여 많은 변형이 가능하다는 것이 이해되어야 한다. 예를 들어, PCIe가 본원에서 특정 상호연결 패브릭으로서 설명되었지만, 임의의 다른 기술적으로 가능한 상호연결 패브릭이 대안적으로 사용될 수 있다. 특징 및 요소가 특정 조합으로 상술되었지만, 각각의 특징 또는 요소는 다른 특징 및 요소없이 단독으로 또는 다른 특징 및 요소와 함께 또는 이들 없이 다양한 조합으로 사용될 수 있다.

제공되는 방법은 범용 컴퓨터, 프로세서, 또는 프로세서 코어에서 구현될 수 있다. 적합한 프로세서는, 예로서, 범용 프로세서, 전용 프로세서, 통상의 프로세서, 디지털 신호 프로세서(DSP), 복수의 마이크로프로세서, DSP 코어와 관련된 하나 이상의 마이크로프로세서, 제어기, 마이크로컨트롤러, ASIC(Application Specific Integrated Circuits), FPGA(Field Programmable Gate Arrays) 회로, 임의의 다른 유형의 집적회로(IC), 및/또는 상태 머신을 포함한다. 이러한 프로세서는 처리된 하드웨어 디스크립션 언어(HDL) 명령 및 넷리스트(컴퓨터 판독가능 매체에 저장될 수 있는 이러한 명령)를 포함하는 다른 중간 데이터의 결과를 사용하여 제조 프로세스를 구성함으로써 제조될 수 있다. 이러한 처리의 결과는 본 개시의 특징을 구현하는 프로세서를 제조하기 위해 반도체 제조 프로세스에서 사용되는 마스크워크일 수 있다.

본원에 제공된 방법 또는 흐름도는 범용 컴퓨터 또는 프로세서에 의한 실행을 위해 비일시적 컴퓨터 판독가능 저장 매체에 통합된 컴퓨터 프로그램, 소프트웨어, 또는 펌웨어로 구현될 수 있다. 비일시적 컴퓨터 판독가능 저장 매체의 예는 판독 전용 메모리(ROM), 랜덤 액세스 메모리(RAM), 레지스터, 캐시 메모리, 반도체 메모리 디바이스, 내부 하드 디스크 및 착탈가능 디스크와 같은 자기 매체, 자기-광학 매체, 및 CD-ROM 및 디지털 다용도 디스크(DVD)디스크와 같은 광학 매체를 포함한다.

Claims

가상화된 가속 처리 디바이스("APD")에서 조기 가상화 컨텍스트 전환을 수행하는 방법으로서,
상기 가상화된 APD 상에서 가상 머신에 대한 작업을 수행하는 것과 관련된 현재 기능을 위한 시간-슬라이스의 완료 전에, 상기 APD가 아이들인 것으로 결정하는 단계;
상기 결정에 응답하여, 후속 기능으로 조기 가상화 컨텍스트 전환을 수행하는 단계를 포함하고, 상기 조기 가상화 컨텍스트 전환은:
상기 현재 기능에 대해 상기 APD에 상태를 저장하는 단계;
상기 APD에서 상기 후속 기능에 대한 상태를 로딩하는 단계; 및
상기 APD에서 상기 후속 기능에 대한 작업을 시작하는 단계를 포함하는, 방법.
청구항 1에 있어서, 상기 후속 기능에 대한 작업을 시작하는 단계는:
상기 후속 기능에 대한 도어벨들에 기초하여 커맨드들을 페치하는 단계; 및
상기 후속 기능에 대한 상기 커맨드들을 실행하는 단계를 포함하는, 방법.
청구항 1에 있어서, 상기 APD가 아이들인 것으로 결정하는 단계는:
상기 APD의 그래픽 처리 파이프라인에 대한 미결 작업이 없고 상기 APD의 계산 유닛들에 대한 미결 작업이 없는 것으로 결정하는 단계를 포함하는, 방법.
청구항 3에 있어서, 상기 APD가 아이들인 것으로 결정하는 단계는 상기 APD의 그래픽 처리 파이프라인에 대한 미결 작업이 없고 상기 APD의 계산 유닛들에 대한 미결 작업이 없는 동안, 어떠한 도어벨도 처리되거나 수신되지 않는 것으로 결정하는 단계를 더 포함하는, 방법.
청구항 1에 있어서, 상기 APD가 아이들임을 결정하는 단계는 상기 APD가 아이들이 된 후 타임아웃 기간 동안 어떠한 도어벨도 수신되지 않는 것으로 결정하는 단계를 더 포함하는, 방법.
청구항 1에 있어서, 상기 APD가 아이들이지 않고 완료하는 제2 기능을 위한 제2 시간-슬라이스가 타임아웃 기간보다 더 긴 것에 응답하여, 상기 제2 시간-슬라이스가 조기 가상화 컨텍스트 전환을 수행하지 않고 상기 제2 기능에 대해 완료하도록 하는 단계를 더 포함하는, 방법.
청구항 1에 있어서,
제2 기능을 위해 제2 시간-슬라이스 동안 상기 APD가 아이들이 된 것으로 결정하는 단계;
상기 제2 기능을 위한 상기 제2 시간-슬라이스 동안 상기 APD가 아이들이 된 후 타임아웃 기간 동안 도어벨이 수신된 것으로 결정하는 단계; 및
조기 가상화 컨텍스트 전환을 수행하는 대신 상기 도어벨과 관련된 작업을 수행하는 단계를 더 포함하는, 방법.
청구항 1에 있어서,
제2 기능을 위한 제2 시간-슬라이스 동안 상기 APD가 아이들이 된 것으로 결정하는 단계;
상기 제2 기능을 위한 상기 제2 시간-슬라이스 동안 상기 APD가 아이들이 된 후 타임아웃 기간 동안 도어벨을 수신하는 단계; 및
임계 시간량 미만이 상기 제2 시간-슬라이스에 남아 있다는 결정에 응답하여, 상기 도어벨을 수신함에도 불구하고 조기 가상화 컨텍스트 전환을 수행하는 단계를 더 포함하는, 방법.
청구항 1에 있어서,
상기 가상화 컨텍스트 전환을 수행한 후, 스케줄링 스킴에 기초하여, 상기 가상 머신에 다시 상기 APD 상에 턴이 주어질 것으로 결정하는 단계; 및
상기 가상화 컨텍스트 전환을 수행한 이후에 상기 가상 머신에 대한 어떠한 도어벨도 수신되지 않았다는 결정에 응답하여, 상기 가상 머신에 대한 상기 턴을 스킵하는 단계를 더 포함하는, 방법.
조기 가상화 컨텍스트 전환을 수행할 수 있는 가속 처리 디바이스("APD")로서,
작업을 수행하도록 구성된 것인 복수의 계산 유닛들 및 그래픽 처리 파이프라인;
상기 작업과 관련된 커맨드들을 상기 복수의 계산 유닛들 및 상기 그래픽 처리 파이프라인에 발행하도록 구성된 커맨드 프로세서; 및
가상화 스케줄러로서,
상기 APD에서 가상 머신에 대한 작업을 수행하는 것에 연관된 현재 기능에 대한 시간-슬라이스의 완료에 앞서, 상기 APD가 아이들인 것을 결정하도록;
상기 결정한 것에 응답하여, 후속 기능으로 조기 가상화 컨텍스트 전환을 수행하도록 구성된, 상기 가상화 스케줄러를 포함하며, 상기 조기 가상화 컨텍스트 전환은:
상기 현재 기능에 대한 상태를 상기 APD에 저장하는 단계;
상기 APD에서 상기 후속 기능에 대한 상태를 로딩하는 단계; 및
상기 APD에서 상기 후속 기능에 대한 작업을 시작하는 단계를 포함하는, 가속 처리 디바이스.
청구항 10에 있어서, 상기 가상화 스케줄러는:
상기 후속 기능에 대한 도어벨들에 기초하여 커맨드들을 페치함으로써; 그리고
상기 후속 기능에 대한 상기 커맨드들을 실행함으로써 상기 후속 기능에 대한 작업을 시작하도록 구성된, 가속 처리 디바이스.
청구항 10에 있어서, 상기 가상화 스케줄러는:
상기 APD의 그래픽 처리 파이프라인에 대한 미결 작업이 없고 상기 APD의 계산 유닛들에 대한 미결 작업이 없는 것으로 결정함으로써 상기 APD가 아이들인 것으로 결정하도록 구성된, 가속 처리 디바이스.
청구항 12에 있어서, 상기 가상화 스케줄러는:
상기 APD의 그래픽 처리 파이프라인에 대한 미결 작업이 없고 상기 APD의 계산 유닛들에 대한 미결 작업이 없는 동안, 어떠한 도어벨도 처리되거나 수신되지 않는 것으로 결정함으로써 상기 APD가 아이들인 것으로 결정하도록 더 구성된, 가속 처리 디바이스.
청구항 10에 있어서, 상기 가상화 스케줄러는:
상기 APD가 아이들이 된 후 타임아웃 기간 동안 어떠한 도어벨도 수신되지 않는 것으로 결정함으로써 상기 APD가 아이들인 것으로 결정하도록 구성된, 가속 처리 디바이스.
청구항 10에 있어서, 상기 가상화 스케줄러는:
상기 APD가 아이들이지 않고 완료하는 제2 기능을 위한 제2 시간-슬라이스가 타임아웃 기간보다 더 긴 것에 응답하여, 상기 제2 시간-슬라이스가 조기 가상화 컨텍스트 전환을 수행하지 않고 상기 제2 기능에 대해 완료하도록 더 구성된, 가속 처리 디바이스.
청구항 10에 있어서, 상기 가상화 스케줄러는:
제2 기능을 위해 제2 시간-슬라이스 동안 상기 APD가 아이들이 된 것으로 결정하도록;
상기 제2 기능을 위한 상기 제2 시간-슬라이스 동안 상기 APD가 아이들이 된 후 타임아웃 기간 동안 도어벨이 수신된 것으로 결정하도록; 그리고
조기 가상화 컨텍스트 전환을 수행하는 대신 상기 도어벨과 관련된 작업을 상기 APD가 수행하도록 더 구성된, 가속 처리 디바이스.
청구항 10에 있어서, 상기 가상화 스케줄러는:
제2 기능을 위한 제2 시간-슬라이스 동안 상기 APD가 아이들이 된 것으로 결정하도록;
상기 제2 기능을 위한 상기 제2 시간-슬라이스 동안 상기 APD가 아이들이 된 후 타임아웃 기간 동안 도어벨을 검출하도록; 그리고
임계 시간량 미만이 상기 제2 시간-슬라이스에 남아 있다는 결정에 응답하여, 상기 도어벨을 수신함에도 불구하고 조기 가상화 컨텍스트 전환을 수행하도록 더 구성된, 가속 처리 디바이스.
청구항 10에 있어서, 상기 가상화 스케줄러는
상기 가상화 컨텍스트 전환을 수행한 후, 스케줄링 스킴에 기초하여, 상기 가상 머신에 다시 상기 APD 상에 턴이 주어질 것으로 결정하도록; 그리고
상기 가상화 컨텍스트 전환을 수행한 이후에 상기 가상 머신에 대한 어떠한 도어벨도 수신되지 않았다는 결정에 응답하여, 상기 가상 머신에 대한 상기 턴을 스킵하도록 더 구성된, 가속 처리 디바이스.
디바이스로서,
복수의 가상 머신들을 실행하도록 구성된 프로세서; 및
조기 가상화 컨텍스트 전환을 수행할 수 있는 가속 처리 디바이스("APD")를 포함하고, 상기 APD는:
상기 복수의 가상 머신들의 요청으로 작업을 수행하도록 구성된 복수의 계산 유닛들 및 그래픽 처리 파이프라인;
상기 작업과 관련된 커맨드들을 상기 복수의 계산 유닛들 및 상기 그래픽 처리 파이프라인에 발행하도록 구성된 커맨드 프로세서; 및
가상화 스케줄러로서,
상기 APD에서 가상 머신에 대한 작업을 수행하는 것에 연관된 현재 기능을 위한 시간-슬라이스의 완료에 앞서, 상기 APD가 아이들인 것을 결정하도록;
상기 결정한 것에 응답하여, 후속 기능으로 조기 가상화 컨텍스트 전환을 수행하도록 구성된, 상기 가상화 스케줄러를 포함하며, 상기 조기 가상화 컨텍스트 전환은:
상기 현재 기능에 대한 상태를 상기 APD에 저장하는 단계;
상기 APD에서 상기 후속 기능에 대한 상태를 로딩하는 단계; 및
상기 APD에서 상기 후속 기능에 대한 작업을 시작하는 단계를 포함하는, 디바이스.
청구항 19에 있어서, 상기 가상화 스케줄러는:
상기 후속 기능에 대한 도어벨들에 기초하여 커맨드들을 페치함으로써; 그리고
상기 후속 기능에 대한 상기 커맨드들을 실행함으로써 상기 후속 기능에 대한 작업을 시작하도록 구성된, 디바이스.