KR102373921B1 - ３６０ 도 비디오에 대한 렌즈 왜곡 보정을 갖는 어안 렌더링 - Google Patents

Abstract

다양한 실시형태들에서, 어안 이미지에 존재하는 왜곡을 보정하고, 360 도 비디오로서의 디스플레이를 위해 이미지를 렌더링하기 위한 시스템들 및 방법들이 제공된다. 다양한 실시형태들에서, 컴퓨팅 디바이스는 전방위 카메라에 의해 캡처된 2 차원 비디오 데이터를 수신할 수도 있다. 컴퓨팅 디바이스는 각각의 비디오 프레임으로부터의 이미지를 3 차원 반구면 표현에 매핑할 수 있다. 다양한 구현들에서, 이러한 매핑은 다항식 모델을 사용하여 실행될 수도 있다. 3 차원 반구면 표현을 그 후 360 도 비디오 프레젠테이션에서 사용되어, 가상 현실 경험을 제공할 수 있다.

Description

３６０ 도 비디오에 대한 렌즈 왜곡 보정을 갖는 어안 렌더링

360 도 비디오는 뷰어들에게 몰입되는 경험을 제공할 수 있다. 예를 들어, 360 도 비디오는 뷰어에게 가상 현실 경험을 제공하여, 뷰어를 가상적으로 상이한 시간 및/또는 장소에 놓을 수 있다. 다른 예로서, 360 도 비디오는 뷰어에게 원격 디바이스 (예를 들어, 무인 항공기, 또는 다른 디바이스) 에 의해 캡처되는 비디오 콘텐츠의 일 인칭 뷰를 제공할 수 있다. 360 도 비디오를 캡처하기 위한 하나의 방법은 전방위 카메라 (omnidirectional camera) 를 사용하는 것이다. 전방위 카메라들은 단지 몇 개의 렌즈들만으로 넓은 시야를 캡처할 수 있다. 결과의 이미지들은 어안 효과를 나타낸다.

다양한 구현들에서, 어안 이미지들에 내재하는 왜곡을 보정하면서, 360 도 비디오 프레젠테이션을 위해 어안 이미지들을 렌더링하기 위한 시스템들, 방법들 및 컴퓨터 판독가능 매체가 제공된다. 360 도 비디오는 카타디옵틱 (catadioptic) 시스템들 및/또는 어안 렌즈들을 사용하는 전방위 카메라들에 의해 캡처될 수 있다. 이러한 카메라들은 하나 또는 둘만큼 적은 이미지에서 장면을 캡처할 수 있다. 이 이미지들은 180 도 또는 심지어 360 도 시야와 같은 많은 양의 정보를 캡처할 수 있지만, 장면이 이미지로 압축되어서 인간의 눈에 왜곡되어 보인다. 또한, 이미지들은 2 차원이고, 360 도 비디오 시스템에 의해 디스플레이되기 위해 3 차원 표현에 매핑될 필요가 있다.

적어도 하나의 예에 따라, 360 도 비디오 데이터를 프로세싱하기 위한 방법이 제공된다. 방법은 전방위 카메라에 의해 캡처된 2 차원 비디오 데이터를 획득하는 단계를 포함한다. 2 차원 비디오 데이터는 장면의 이미지를 포함할 수 있다. 이미지에서, 장면은 이미지의 원형 영역으로 워핑되었다. 방법은, 3 차원 반구면 표현에 이미지를 매핑하는 단계를 더 포함한다. 이미지를 매핑하는 것은 3 차원 반구면 표현 상의 대응 위치들에 이미지의 원형 영역에서의 픽셀들을 매핑하는 것을 포함할 수 있다. 이미지를 매핑하는 것은 장면의 워핑 (warping) 을 보정할 수 있다. 방법은 360 도 비디오 프레젠테이션에서 3 차원 반구면 표현을 사용하는 단계를 더 포함한다.

다른 예에서, 360 도 비디오 데이터를 프로세싱하도록 구성된 메모리 및 프로세서를 포함하는 장치가 제공된다. 프로세서는 전방위 카메라에 의해 캡처된 2 차원 비디오 데이터를 획득하도록 구성되며 이를 획득할 수 있다. 2 차원 비디오 데이터는 장면의 이미지를 포함할 수 있다. 이미지에서, 장면은 이미지의 원형 영역으로 워핑되었다. 프로세서는 또한, 3 차원 반구면 표현에 이미지를 매핑하도록 구성되고 이를 매핑할 수 있다. 이미지를 매핑하는 것은 3 차원 반구면 표현 상의 대응 위치들에 이미지의 원형 영역에서의 픽셀들을 매핑하는 것을 포함할 수 있다. 이미지를 매핑하는 것은 장면의 워핑을 보정할 수 있다. 프로세서는 또한, 360 도 비디오 프레젠테이션에서 3 차원 반구면 표현을 사용하도록 구성되고 이를 사용할 수 있다.

다른 예에서, 명령들이 저장된 컴퓨터 판독가능 매체가 제공되며, 명령들은 프로세서에 의해 실행될 때, 전방위 카메라에 의해 캡처된 2 차원 비디오 데이터를 획득하는 단계를 포함하는 방법을 수행한다. 2 차원 비디오 데이터는 장면의 이미지를 포함할 수 있다. 이미지에서, 장면은 이미지의 원형 영역으로 워핑되었다. 방법은 3 차원 반구면 표현에 이미지를 매핑하는 단계를 더 포함한다. 이미지를 매핑하는 것은 3 차원 반구면 표현 상의 대응 위치들에 이미지의 원형 영역에서의 픽셀들을 매핑하는 것을 포함할 수 있다. 이미지를 매핑하는 것은 장면의 워핑을 보정할 수 있다. 방법은 360 도 비디오 프레젠테이션에서 3 차원 반구면 표현을 사용하는 단계를 더 포함한다.

다른 예에서, 전방위 카메라에 의해 캡처된 2 차원 비디오 데이터를 획득하는 수단을 포함하는 장치가 제공된다. 2 차원 비디오 데이터는 장면의 이미지를 포함할 수 있다. 이미지에서, 장면은 이미지의 원형 영역으로 워핑되었다. 장치는 3 차원 반구면 표현에 이미지를 매핑하는 수단을 더 포함한다. 이미지를 매핑하는 것은 3 차원 반구면 표현 상의 대응 위치들에 이미지의 원형 영역에서의 픽셀들을 매핑하는 것을 포함할 수 있다. 이미지를 매핑하는 것은 장면의 워핑을 보정할 수 있다. 장치는 360 도 비디오 프레젠테이션에서 3 차원 반구면 표현을 사용하는 수단을 더 포함한다.

일부 양태들에서, 이미지를 매핑하는 것은 3 차원 반구면 표현 상의 대응 지점에 이미지에서의 지점을 투영하기 위해 다항식 방정식을 사용하는 것을 포함한다. 이미지에서의 지점은 3 차원 반구면 표현 상의 지점에 매핑하도록 픽셀을 제공할 수 있다.

일부 양태들에서, 워핑은 비선형이다. 이러한 양태들에서, 위에 기재된 방법들, 장치들, 및 컴퓨터 판독가능 매체는, 2 차원 이미지에서의 픽셀에 대해 좌표들을 결정하는 것을 더 포함한다. 좌표들은 조정된 반경 값을 사용하여 결정될 수 있고, 조정된 반경 값은 워핑의 비선형성에 대응한다. 이들 양태들은 정규화된 좌표들을 매핑에서 사용하는 것을 더 포함한다.

일부 양태들에서, 이미지는 180 도보다 큰 시야를 포함한다. 이러한 양태들에서, 위에 기재된 방법들, 장치들, 및 컴퓨터 판독가능 매체는, 2 차원 이미지에서의 픽셀에 대해 좌표들을 조정하는 것을 더 포함하며, 좌표들은 시야에 따라 스케일링된 반경 값을 사용하여 조정된다. 이들 양태들은 조정된 좌표들을 매핑에서 사용하는 것을 더 포함한다.

일부 양태들에서, 이미지는 적어도 180 도의 시야를 포함한다.

일부 양태들에서, 전방위 카메라는 어안 렌즈를 포함한다.

일부 양태들에서, 비디오 데이터는 인코딩된 비트스트림으로부터 획득되고, 인코딩된 비트스트림은 워핑을 기술하는 하나 이상의 파라미터들을 포함한다. 이러한 양태들에서, 이미지를 매핑하는 것은 하나 이상의 파라미터들을 사용하는 것을 포함한다. 일부 양태들에서, 하나 이상의 파라미터들은 인코딩된 비트스트림에서 보충 강화 정보 (supplemental enhancement information; SEI) 메시지로 인코딩된다. 일부 양태들에서, 인코딩된 비트스트림은 ISO 기반 미디어 파일 포맷에 따라 포맷된 파일에 포함되고, 하나 이상의 파라미터들은 파일에서의 구조로 인코딩된다. 일부 양태들에서, 하나 이상의 파라미터들은 다항식 차수, 다항식 계수, 다항식 스케일링 파라미터, 또는 매핑 스케일링 파라미터 중 적어도 하나 이상을 포함한다.

일부 양태들에서, 위에 기재된 바와 같은 장치는 모바일 디바이스를 포함할 수 있다. 일부 구현들에서, 모바일 디바이스는 전방위 카메라를 포함한다. 일부 구현들에서, 모바일 디바이스는 360 도 비디오 프레젠테이션을 디스플레이하기 위한 디스플레이를 포함한다.

이 개요는 청구된 청구물의 핵심적인 또는 본질적인 특징들을 식별하기 위해 의도되는 것도 아니고, 청구된 청구물의 범위를 결정하는데 단독으로 사용되도록 의도되는 것도 아니다. 청구물은 이 특허의 전체 명세서, 임의의 또는 모든 도면들, 및 각각의 청구항의 적절한 부분들을 참조하여 이해되어야 한다.

상술한 것은, 다른 특징들 및 실시형태들과 함께, 다음의 명세서, 청구항들, 및 첨부 도면들을 참조하면 더 명확해질 것이다.

본 출원의 예시적인 실시형태들이 다음의 도면들을 참조하여 하기에서 상세히 설명된다:
도 1 은 어안 렌즈를 사용하여 캡처된 픽처의 일 예를 도시한다.
도 2a 및 도 2b 는 본 명세서에서 논의된 기법들의 일 예의 적용을 도시한다.
도 3 은 반구면 표현의 일 예의 사용을 도시한다.
도 4 는 180 도 각도 (angular) 어안 렌즈, 및 그 렌즈에 대한 대응 이미지 평면의 횡단면의 일 예를 도시한다.
도 5 는 반구면 어안 렌즈, 및 그 반구면 어안 렌즈에 대한 대응 이미지 평면의 일 예를 도시한다.
도 6a 는 전방위 카메라에 의해 캡처될 수 있는 이미지의 일 예를 도시한다.
도 6b 는 도 6a 의 이미지에서 캡처된 장면이 매핑될 반구면 표현의 일 예를 도시한다.
도 7a 및 도 7b 는 보정으로 또는 보정 없이 렌더링된 이미지의 예들을 도시한다.
도 8 은 360 도 비디오 프레젠테이션에서의 디스플레이를 위해 3 차원, 반구면 표현에 2 차원 어안 이미지를 매핑하기 위한 프로세스의 일 예를 도시한다.
도 9 는 인코딩 디바이스와 디코딩 디바이스를 포함하는 시스템의 일 예를 도시하는 블록 다이어그램이다.
도 10 은 일 예의 인코딩 디바이스를 도시하는 블록 다이어그램이다.
도 11 은 일 예의 디코딩 디바이스를 도시하는 블록 다이어그램이다.

본 개시물의 소정의 양태들 및 실시형태들이 하기에 제공된다. 이들 양태들 및 실시형태들의 일부는 독립적으로 적용될 수도 있고 이들 중 일부는 당업자들에게 명확하게 될 바와 같이 조합하여 적용될 수도 있다. 다음의 기재에서, 설명의 목적으로, 특정 상세들이 본 개시물의 실시형태들의 철저한 이해를 제공하기 위해 기술된다. 하지만, 다양한 실시형태들은 이들 특정 상세들 없이도 실시될 수도 있다는 것이 명백할 것이다. 도면들 및 설명은 한정되는 것으로 의도되지 않는다.

뒤이은 설명은 예시적인 실시형태들만을 제공하고, 본 개시물의 범위, 적용 가능성, 또는 구성을 제한하도록 의도되지 않는다. 오히려, 예시적인 실시형태들의 뒤이은 설명은 당업자들에게 예시적인 실시형태를 구현하기 위해 가능한 설명을 제공할 것이다. 첨부된 청구항들에서 기술되는 본 개시물의 사상 및 범위로부터 벗어나지 않으면서 엘리먼트들의 기능 및 배열로 다양한 변경들이 이루어질 수도 있음을 이해되어야 한다.

특정 상세들이 실시형태들의 철저한 이해를 제공하기 위해 다음의 설명에서 주어진다. 하지만, 실시형태들은 이들 특정 상세들 없이 실시될 수도 있음이 당업자에 의해 이해될 것이다. 예를 들어, 회로들, 시스템들, 네트워크들, 프로세스들, 및 다른 컴포넌트들은 불필요한 상세로 실시형태들을 모호하게 하지 않도록 블록 다이어그램 형태의 컴포넌트들로서 나타낼 수도 있다. 다른 경우들에서, 잘 알려진 회로들, 프로세스들, 알고리즘들, 구조들, 및 기법들은 실시형태들을 모호하게 하는 것을 회피하도록 불필요한 상세 없이 나타낼 수도 있다.

또한, 개개의 실시형태들은 플로우 차트, 플로우 다이어그램, 데이터 플로우 다이어그램, 구조 다이어그램, 또는 블록 다이어그램로서 도시되는 프로세서로서 설명될 수도 있음을 유의한다. 플로우 차트가 순차적 프로세스로서 동작들을 설명할 수도 있지만, 많은 동작들은 병렬로 또는 동시에 수행될 수 있다. 또한, 동작들의 순서는 재배열될 수도 있다. 프로세스는 그 동작들이 완료될 때 종료되지만, 도면에 포함되지 않은 부가 단계들을 가질 수 있다. 프로세스는 메소드, 함수, 프로시저, 서브루틴, 서브프로그램 등에 대응할 수도 있다. 프로세스가 함수에 대응할 때, 그 종료는 호출 함수 또는 메인 함수로의 함수의 리턴에 대응할 수 있다.

용어 "컴퓨터 판독가능 매체" 는, 명령(들)및/또는 데이터를 저장, 포함, 또는 반송할 수 있는 휴대용 또는 비-휴대용 저장 디바이스들, 광학적 저장 디바이스들, 및 다양한 다른 매체들을 포함하지만 이에 제한되지 않는다. 컴퓨터 판독가능 매체는 데이터가 저장될 수 있는 그리고 무선으로 또는 유선 접속들을 통해 전파하는 반송파들 및/또는 일시적 전자 신호들을 포함하지 않는 비일시적 매체를 포함할 수도 있다. 비일시적 매체의 예들은 자기 디스크 또는 테이프, 콤팩트 디스크 (CD) 또는 디지털 다기능 디스크 (DVD) 와 같은 광학 저장 매체들, 플래시 메모리, 메모리 또는 메모리 디바이스들을 포함하지만, 이에 제한되지 않는다. 컴퓨터 판독가능 매체는 프로시저, 함수, 서브프로그램, 프로그램, 루틴, 서브루틴, 모듈, 소프트웨어 패키지, 클래스, 또는 명령들, 데이터 구조들, 또는 프로그램 스테이트먼트들의 임의의 조합을 나타낼 수도 있는 코드 및/또는 머신 실행가능 명령들을 저장하고 있을 수도 있다. 코드 세그먼트는 정보, 데이터, 인수들 (arguments), 파라미터들, 또는 메모리 콘텐츠들을 패싱 (passing) 및/또는 수신하는 것에 의해 다른 코드 세그먼트 또는 하드웨어 회로에 커플링될 수도 있다. 정보, 인수들, 파라미터들, 데이터 등은, 메모리 공유, 메시지 패싱, 토큰 패싱, 네트워크 송신 등을 포함하는 임의의 적합한 수단을 경유하여 패싱되거나, 포워딩되거나, 또는 송신될 수도 있다.

더욱이, 실시형태들은 하드웨어, 소프트웨어, 펌웨어, 미들웨어, 마이크로코드, 하드웨어 디스크립션 언어들 또는 이들의 임의의 조합에 의해 구현될 수도 있다. 소프트웨어, 펌웨어, 미들웨어 또는 마이크로코드로 구현될 때, 필요한 태스크들을 수행하는 프로그램 코드 또는 코드 세그먼트들 (예컨대, 컴퓨터 프로그램 제품) 은 컴퓨터 판독가능 또는 머신 판독가능 매체에 저장될 수도 있다. 프로세서(들)은 필요한 태스크들을 수행할 수도 있다.

가상 현실은 외견상으로 실제 또는 물리적 방식으로 상호작용할 수 있는 3 차원 환경을 설명한다. 일부 경우들에서, 가상 현실 환경을 경험하는 사용자가, 가상 환경과 상호작용하기 위해, 전자 장비, 예컨대 헤드 마운트 디스플레이 (head-mounted display)(HMD) 와 선택적으로 또한 의류 (예를 들어, 센서들로 맞춰진 장갑) 을 사용한다. 사용자가 현실 세계에서 이동함에 따라, 가상 환경에서 렌더링되는 이미지들이 또한 변화하여, 사용자가 가상 환경 내에서 이동하고 있다는 인식을 사용자에게 제공한다. 일부 경우들에서, 가상 환경은 사용자의 움직임들과 상관되는 사운드를 포함하여, 사용자에게 사운드들이 특정 방향 또는 소스로부터 유래한다는 인상을 준다. 가상 현실 비디오는 매우 고품질로 캡처되고 렌더링되어, 진정으로 몰입형 가상 현실 경험을 잠재적으로 제공한다. 가상 현실 어플리케이션들은 특히, 게이밍, 훈련, 교육, 스포츠 비디오, 및 온라인 소핑을 포함한다.

360 도 비디오는 가상 현실 환경에서 디스플레이를 위해 캡처된 비디오이다. 일부 어플리케이션들에서, 현실 세계로부터의 비디오는, 게이밍 및 가상 세계들에서 발견될 수도 있는 바와 같은 컴퓨터 생성된 그래픽스와는 대조적으로, 가상 현실 환경의 프레젠테이션에서 사용될 수 있다. 이들 어플리케이션들에서, 사용자가 그녀의 현재 위치를 경험할 수 있는 동일한 방식으로 사용자는 다른 위치를 경험할 수 있다. 예를 들어, 사용자가 샌프란시스코에 위치되는 360 도 비디오 시스템을 사용하면서 베를린의 도보 여행을 경험할 수 있다.

360 도 비디오 시스템은 비디오 캡처 디바이스 및 비디오 디스플레이 디바이스, 그리고 아마도 또한 서버들, 데이터 스토리지, 및 데이터 송신 장비와 같은 다른 중간 디바이스들을 통상적으로 포함한다. 비디오 캡처 디바이스는 카메라 세트, 즉 각각이 상이한 방향으로 배향되고 상이한 뷰를 캡처하는 다수의 카메라들의 세트를 포함할 수도 있다. 일부 어플리케이션들에서, 6 개의 카메라들이 카메라 세트의 위치를 중심으로 전체 360 도 뷰를 캡처하는데 사용될 수 있다. 일부 비디오 캡처 디바이스들은 더 적은 카메라들, 이를테면 예를 들어, 주로 좌우 (side-to-side) 뷰들을 캡처하거나 또는 넓은 시야를 갖는 렌즈들을 사용하는 비디오 캡처 디바이스들을 사용할 수도 있다. 비디오는 일반적으로 프레임들을 포함하는데, 여기서 프레임은 장면의 전자적으로 코딩된 스틸 (still) 이미지이다. 카메라들은 초당 소정 수의 프레임들을 캡처하며, 이는 보통 카메라의 프레임 레이트로 지칭된다.

일부 경우들에서, 무결절성 360 도 뷰를 제공하기 위해, 이미지 스티칭이 카메라 세트에서 카메라들의 각각에 의해 캡처되는 비디오 상에서 수행될 수 있다. 360 도 비디오 생성의 경우에서의 이미지 스티칭은 비디오 프레임들이 오버랩하거나 또는 그렇지 않으면 접속하는 영역에서 인접한 카메라들로부터의 비디오 프레임들을 결합 또는 병합하는 것을 수반한다. 그 결과는 대략 구면 프레임이게 되지만, 메르카토르 투영 (Mercator projection) 과 유사하게, 병합된 데이터는 통상적으로 평면 방식으로 표현된다. 예를 들어, 병합된 비디오 프레임에서의 픽셀들은 큐브 형상의 평면들, 또는 일부 다른 3 차원, 평면 형상 (예를 들어, 피라미드, 팔면체, 십면체 등) 상으로 매핑될 수도 있다. 비디오 캡처 및 비디오 디스플레이 디바이스들은 래스터 원리 - 비디오 프레임이 픽셀들의 그리드로서 취급되는 것을 의미함 - 으로 동작할 수 있으며, 그 경우 정사각형 평면들, 직사각형 평면들, 또는 다른 적합한 형상의 평면들이 구면 환경을 표현하는데 사용될 수 있다.

평면 표현에 매핑된 360 도 비디오 프레임들은, 저장 및/또는 송신을 위해 인코딩 및/또는 압축될 수 있다. 인코딩 및/또는 압축은 비디오 코덱 (예를 들어, H.265/HEVC 컴플라이언트 코덱, H.264/AVC 컴플라이언트 코덱, 또는 다른 적절한 코덱) 을 사용하여 달성될 수 있고 압축된 비디오 비트스트림 (또는 인코딩된 비디오 비트스트림) 또는 비트스트림들의 그룹을 야기한다. 비디오 코덱을 사용한 비디오 데이터의 인코딩은 하기에서 더 상세히 설명된다.

일부 구현들에서, 인코딩된 비디오 비트스트림(들)은 미디어 포맷 또는 파일 포맷으로 저장 및/또는 캡슐화될 수 있다. 저장된 비트스트림(들)은, 예를 들어, 네트워크를 통해, 비디오를 디스플레이를 위해 디코딩하고 렌더링할 수 있는 수신기 디바이스에 송신될 수 있다. 이러한 수신기 디바이스는 본 명세서에서 비디오 디스플레이 디바이스로 지칭될 수도 있다. 예를 들어, 360 도 비디오 시스템이 인코딩된 비디오 데이터로부터 캡슐화된 파일들을 (예컨대, 국제 표준화 기구 (International Standards Organization; ISO) 기반 미디어 파일 포맷 및/또는 파생된 파일 포맷들을 사용하여) 생성할 수 있다. 예를 들면, 비디오 코덱은 비디오 데이터를 인코딩할 수 있고 캡슐화 엔진이 하나 이상의 ISO 포맷 미디어 파일들에 비디오 데이터를 캡슐화함으로써 미디어 파일들을 생성할 수 있다. 대안으로 또는 부가적으로, 저장된 비트스트림(들)은 저장 매체로부터 수신기 디바이스로 직접 제공될 수 있다.

수신기 디바이스는 또한 인코딩된 비디오 비트스트림을 디코딩 및/또는 압축해제하도록 코덱을 구현할 수 있다. 인코딩된 비디오 비트스트림(들)이 미디어 포맷 또는 파일 포맷으로 저장 및/또는 캡슐화되는 경우들에서, 수신기 디바이스는 비디오 비트스트림을 파일 (또는 파일들) 로 패킹하는데 사용되었던 미디어 또는 파일 포맷을 지원할 수 있고, 인코딩된 비디오 데이터를 생성하기 위해 비디오 (및 아마도 또한 오디오) 데이터를 추출할 수 있다. 예를 들어, 수신기 디바이스는 캡슐화된 비디오 데이터를 갖는 미디어 파일들을 파싱하여 인코딩된 비디오 데이터를 생성할 수 있고, 수신기 디바이스에서의 코덱은 인코딩된 비디오 데이터를 디코딩할 수 있다.

수신기 디바이스는 그 후 디코딩된 비디오 신호를 렌더링 디바이스 (예를 들어, 비디오 디스플레이 디바이스, 플레이어 디바이스, 또는 다른 적합한 렌더링 디바이스) 에 전송할 수 있다. 렌더링 디바이스들은, 예를 들어, 헤드 마운트 디스플레이들, 가상 현실 텔레비전들, 및 다른 180 또는 360 도 디스플레이 디바이스들을 포함한다. 일반적으로, 헤드 마운트 디스플레이는 착용자의 헤드의 움직임 및/또는 착용자의 눈의 움직임을 추적할 수 있다. 헤드 마운트 디스플레이는 추적 정보를 사용하여 착용자가 바라보는 방향에 대응하는 360 도 비디오의 일부를 렌더링할 수 있어서, 착용자는 그녀가 현실 세계를 경험하게 되는 것과 동일한 방식으로 가상 환경을 경험한다. 렌더링 디바이스는 비디오가 캡처되었던 동일한 프레임 레이트로 또는 상이한 프레임 레이트로 비디오를 렌더링할 수도 있다.

360 도 비디오를 캡처하기 위한 카메라 세트들은 다양한 전방위 카메라들, 카타디옵트릭 카메라들 (렌즈들 및 만곡형 거울들을 사용하는 카메라), 및/또는 어안 렌즈들이 장착된 카메라들을 포함할 수 있다. 전방위 카메라의 하나의 예는 리코 세타-S (Ricoh Theta-S) 이며, 이는 반대 방향들에서 포커싱하는 2 개의 어안 렌즈들을 사용한다.

전방위 카메라들, 예컨대 카타디옵트릭 카메라들 및 어안 렌즈들을 갖는 카메라들은 통상적으로 상당한 양의 왜곡을 갖는 이미지들을 캡처한다. 도 1 은 어안 렌즈를 사용하여 캡처된 픽처 (100) 의 일 예를 나타낸다. 어안 렌즈는 180 도 이상까지의 시야를 가질 수 있는 광각 렌즈이다. 따라서, 잇따라 포지셔닝된 2 개의 그러한 렌즈가 장착된 카메라는 함께 360 도 뷰 (또는 그 이상) 를 제공하는 2 개의 이미지를 캡처할 수 있다.

하지만, 그러한 광 시야를 가능하게 하는 렌즈의 극도의 곡률은 이미지가 왜곡되게 한다. 도 1 의 에에 도시된 바와 같이, 픽처 (100) 에서 캡처되는 장면 (102) 은 형상이 원형이고, 렌즈의 곡률에 따라 워핑된다. 카메라 센서들은 통상적으로 직사각형이기 때문에, 픽처 (100) 가 직사각형이며, 픽셀들이 캡처되지 않았던 코너들 (104) 은 보통 블랭크 또는 흑색이다. 이 예에서, 장면 (102) 의 상부 및 하부는 크롭되었다. 장면 (102) 의 상부 및 하부는 다양한 이유들로 크롭될 수 있다. 하나의 예시적인 예에서, 장면 (102) 의 상부 및 하부는 카메라 센서의 형상 및/또는 렌즈의 형상으로 인해 크롭될 수 있다.

예시의 이미지 (100) 는 많은 양의 정보, 이 경우 180 도 시야를 캡처한다. 다른 이미지들은 270 도 뷰와 같은, 180 도 보다 큰 뷰를 캡처할 수 있다. 하지만, 장면 (102) 의 왜곡은 뷰어에게 매우 현실적인 프레젠테이션을 제공하지 않는다. 또한, 이미지 (100) 는 3 차원 장면의 평탄한, 2 차원 표현이다. 360 도 비디오로서의 프레젠테이션을 위해, 이미지 (100) 는 구면의, 3 차원 (3-D) 표현에 매핑될 필요가 있다.

다양한 구현들에서, 어안 이미지에 존재하는 왜곡을 보정하고, 360 도 비디오로서의 디스플레이를 위해 이미지를 렌더링하기 위한 시스템들 및 방법들이 제공된다. 다양한 구현들에서, 컴퓨팅 디바이스는 전방위 카메라에 의해 캡처된 2 차원 비디오 데이터를 수신할 수 있다. 컴퓨팅 디바이스는 3 차원 반구면 표현에 각각의 비디오 프레임으로부터의 이미지를 매핑할 수 있다. 다양한 구현들에서, 이러한 매핑은 다항식 모델을 사용하여 실행될 수 있다. 3 차원 반구면 표현은 그 후 360 도 비디오 프레젠테이션에서 사용되어, 가상 현실 경험을 제공할 수 있다.

도 2a 및 도 2b 는 본 명세서에서 논의된 기법들의 일 예의 적용을 도시한다. 도 2a 의 예는 전방위 카메라에 의해 캡처될 수 있는 이미지 (200) 를 도시한다. 위에 논의된 바와 같이, 이미지 (200) 는 형상이 직사각형이며, 여기서 직사각형 형상은 카메라의 이미지 캡처 센서의 사이즈 및 형상에 대응한다. 이미지 (200) 는 장면을 캡처하는 픽셀들을 포함하는 원형 영역 (202) 을 포함한다. 픽셀들이 캡처되지 않았던, 이미지 (200) 의 코너들 (204) 은 좌측 블랭크일 수 있거나 또는 흑색 픽셀들 (예컨대, 픽셀 값이 0 또는 255 임) 을 포함할 수 있다.

원형 영역 (202) 에 캡처된 픽셀들은 소정의 시야를 포함하며, 여기서 시야는 렌즈 및/또는 카메라에 의해 좌우된다. 예를 들어, 원형 영역 (202) 은 카메라의 렌즈, 거울(들), 및/또는 센서의 구성에 의존하여, 90 도 시야, 180 도 시야, 270 도 시야, 또는 일부 다른 각도의 시야를 포함할 수 있다. 하기에서 추가로 논의되는 바와 같이, 시야를 이미지 (200) 에 맞추기 위해, 픽셀들은 원형 영역 (202) 에 선형 또는 비선형 방식으로 워핑된다.

다양한 구현들에서, 하기에서 설명되는 기법들은 원형 영역 (202) 에서의 픽셀들을 반구면 표현 (210) 에 매핑하며, 그 일 예가 도 2b 에 도시된다. 반구면 표현 (210) 은 그 후 가상 현실 렌더링 디바이스를 사용하여 뷰어에게 이미지 (200) 를 제시하는데 사용될 수 있다. 반구면 표현 (210) 은 구의 절반 (이는 180 도의 뷰로 표현됨), 구의 절반 미만 (예컨대, 이미지 (200) 가 180 도 미만의 뷰를 캡처할 때임), 또는 구의 절반을 초과 (예컨대, 이미지 (200) 가 180 도를 초과하는 뷰를 캡처할 때임) 일 수 있다.

다양한 구현들에서, 하기에 논의된 기법들은 원형 영역 (202) 에서의 픽셀들을 반구면 형상으로 신장 (stretching) 하는 효과를 가질 수 있다. 예를 들어, 원형 영역 (202) 의 중심 (212) 은 반구면 표현 (210) 의 중심 (222) 또는 정점 (apex) 에 대응할 수 있다. 추가의 예로서, 원형 영역 (202) 의 최상부 지점 (214a) 은 반구면 표현 (210) 의 최상부 지점 (224a) (예컨대, 북극) 에 대응할 수 있고, 원형 영역 (202) 의 최하단 지점 (214b) 은 반구면 표현 (210) 의 최하단 지점 (224b) (예컨대, 남극) 에 대응할 수 있다. 마찬가지로, 원형 영역 (202) 의 먼 우측 (far right)(214c) 및 먼 좌측 (far left)(214d) 은 이 예에서 반구면 표현 (210) 의 먼 우측 (224c) 및 비시각적인 먼 좌측 (224d) 인 것에 대응할 수 있다. 원형 영역 (202) 의 중심 (212) 과 에지들 사이의 픽셀들은 또한 반구면 표현 (210) 의 표면 전체에 걸쳐 고르게 분산될 수 있다.

결과적인 반구면 표현 (210) 은 평평한 이미지 (200) 를 360 도 디스플레이에 제시하는데 사용될 수 있다. 도 3 은 구면 표현 (310) 의 일 예의 사용을 도시한다. 360 도 비디오 디스플레이 디바이스를 사용하면, 반구면 표현 (310) 은 뷰어 (320) 에게 반구면 표현 (310) 에 의해 캡처된 픽셀들에 의해 표현되는 장면의 내부에 그가 있다는 몰입이 주어지도록 렌더링될 수 있다. 일부 경우들에서, 반구면 표현 (310) 의 정점은 뷰어의 시야의 중심에 있도록 배향될 수 있다. 다양한 구현들에서, 뷰어 뒤에 있게 되는 뷰를 위해 부가적인 반구면 표현이 제공될 수 있다.

어안 렌즈의 다양한 유형들이 있으며, 이들의 각각은 상이한 방식으로 이미지 평면에 광각 시야를 매핑한다. 하나의 예가 각도 (anglular) 어안 렌즈인데, 이는 또한 f-세타 (theta) 렌즈로도 불린다. 각도 어안 렌즈에 의하면, 이미지의 중심으로부터의 거리가 카메라 뷰 방향으로부터의 각도에 비례한다. 그 결과, 해상도가 전체 이미지에 걸쳐 대략 동일하다. 각도 어안 렌즈는 풀 360 도까지 모든 각도에 대해 사용될 수 있다.

도 4 는 180 도 각도 어안 렌즈 (420), 및 그 렌즈 (420) 에 대한 대응 이미지 평면 (402) 의 횡단면의 일 예를 도시한다. 예시는 렌즈의 이미지 평면 (402) 에 수직인, 측면으로부터 보여지는 바와 같은 렌즈 (420) 를 도시한다. 예시된 뷰는 또한 렌즈 (420) 의 상부 뷰, 또는 렌즈의 이미지 평면 (402) 에 수직인 임의의 다른 각도로부터의 뷰일 수 있지만, 이러한 예시를 위해 도 4 는 측면 뷰를 도시하는 것으로 가정될 것이다. 도 4 의 좌측 측면 상에는 렌즈의 이미지 평면 (402) 의 전방 뷰가 도시된다.

각도 렌즈의 구축은 제로로부터 임의의 각도에 대해, 그 각도에서 캡처된 공간에서의 지점이 이미지 평면 (402) 에서의 지점

에 선형으로 대응하도록 하는 것이며, 여기서 제로는 렌즈 (420) 의 중심이다 (이는 또한 카메라 포지션 (406) 를 고려한다). 즉, 예를 들어 제로로부터 α = 45 도에서, 렌즈 (420) 에 진입하는 광은 이미지 평면 (402) 의 중심과 이미지 평면 (402) 의 상부 사이의 중간 지점에서 캡처될 것이다. 이미지 평면 (402) 의 상부는 α = 90 도 배 스케일링 또는 배율 팩터에 대응한다. 유사하게, 제로로부터 α = 22.5 에서, 렌즈에 진입하는 광은

= 제로와 45 도로서 캡처된 픽셀들 사이의 중간의 이미지 평면 (402) 에서 캡처될 것이며, 제로로부터 67.5 도에서, 광은 45 도와 이미지 평면 (402) 의 상부 사이의 중간의 이미지 평면 (402) 에서 캡처될 것이다. 이러한 예에서 렌즈 (420) 는 측면으로부터 보여지고 있는 것으로 가정되기 때문에, 이미지 평면 (402) 의 중심으로부터

의 거리는 수직 방향에서만 변화할 것이다.

도 4 의 예시의 렌즈 (420) 에 의해 생성된 이미지 평면 (402) 은 절반 구면에 매핑될 수 있고, 여기서 절반 구면은 3 차원 메시를 사용하여 컴퓨팅 디바이스에서 표현될 수 있다. 예를 들어, 이미지 평면 (402) 으로부터의 원형 이미지는 그래픽스 프로세싱 유닛 (GPU) 를 사용하여 렌더링될 수 있다. 절반 구면에 이미지를 매핑하는 것은 렌즈 (420) 가 생성하는 자연적인 왜곡을 정류할 수 있다. 이러한 매핑을 위한 기법들은 하기에서 추가로 논의된다.

다른 유형의 어안 렌즈는 렌즈의 중심으로부터 이미지의 외부 에지로 비선형 왜곡을 생성한다. 도 5 는 반구면 어안 렌즈 (520) 의 일 예를 도시한다. 렌즈 (520) 의 측면 뷰는 도면의 우측에 도시되며, 렌즈에 대한 이미지 평면 (502) 의 전방 뷰는 도면의 좌측에 도시된다.

반구면 렌즈는 이미지 평면 (502) 상으로 반구면의 병렬 투영을 생성한다. 이러한 예 및 다른 예에서, 이미지는 방사상으로 압축되고, 더 많은 압축이 렌즈의 외부 에지를 향해 발생한다. 즉, 각도 α 는 제로로부터 증가하며, 여기서 제로는 렌즈 (520) 의 중심이며 (이는 또한 카메라 포지션 (506) 을 고려함), 이미지 평면 (502) 에서 캡처된 이미지는 비선형 방식으로 점점 더 압축된다. 이러한 유형의 렌즈에 의해 캡처된 이미지들은 왜곡의 비선형성이 보정될 것을 요구한다.

다양한 구현들에서, 하기에서 논의되는 기법들은 어안 투영이 캡처된 이미지로 도입될 수 있는 비선형 왜곡을 보정하는데 사용될 수 있다. 다양한 구현들에서, 이러한 기법들은 전방위 카메라 교정 (calibration) 기법을 사용하는 것을 포함하며, 이는 다항식 모델을 채용한다. 전방위 카메라 교정 기법은 Davide Scaramuzza 등의 "A Flexible Technique for Accurate Omnidirectional Camera Calibration and Structure from Motion" 에서 논의되며, 이는 그 전부가 참조로서 본 명세서에 통합된다. 전방위 카메라 (카타디옵트릭 및 디옵트릭 카메라들을 포함) 가 이러한 기법에 따라 일단 교정되면, 현실 세계에서의 지점이 카메라의 센서에 의해 캡처된 각각의 픽셀에 대해 결정될 수 있다.

도 6a 는 전방위 카메라에 의해 캡처될 수 있는 이미지 (602) 의 일 예를 도시한다. 위에 논의된 바와 같이, 이미지 (602) 는 이미지에서 캡처된 장면이 원형 형상으로 워핑된, 어안 왜곡을 가질 수 있다. 반구면 표현 (610) 에 이미지 (602) 를 매핑하기 위해, 이미지의 수평 축은 u 로 표시되고 수직 축은 v 로 표시되었다. 수평 및 수직 치수들 양자 모두에 대해, 제로는 이미지 (602) 의 중심에 위치된다. 이러한 예에서,

는 이미지 (602) 에 의해 형성된 원의 반경에 따른 지점으로서 정의된다. 이러한 지점 (604) 은 좌표들 (u, v) 을 가질 수 있다.

도 6b 는 이미지 (602) 에서 캡처된 장면이 매핑될 반구면 표현 (610) 의 일 예를 도시한다. 이러한 매핑을 위해, 직교하는 X 및 Y 축들이 정의되었다. 다양한 구현들에서, X 축은 예를 들어, 현실 세계에서 위 아래에 대응할 수 있고 Y 축은 좌우에 대응할 수 있다. Z 축은 카메라의 이미지 센서에 수직인 것으로 정의되었다. 반구면 표현 (610) 의 표면 상의 지점 (614) 은 좌표들 (x, y, z) 을 사용하여 기술된다. 지점 (614) 은 또한 X 축과 Y 축 사이에서 지점의 회전을 기술하는 대응 각도 값 Φ 을 가질 수 있다. 지점 (614) 은 또한, X 축 및 Y 축에 의해 형성된 평면과 Z 축 사이에서 지점의 회전을 기술하는, 각도 값 r 을 가질 수 있다.

다양한 구현들에서, 위에 언급된 전방위 카메라 교정 방법은 다음의 다항식을 사용하여 센서 축에 대한 (즉, 도 6b 에 도시된 Z 축에 대한) 지점 (614) 에 이미지 (602) 에서의 지점 (604) 의 포지션 (u, v) 을 관련시킨다.

위의 방정식에서, 계수들 a_i (i = 0, 1, 2, … N), 및 다항식 정도 N 은 교정에 의해 결정된 모델 파라미터들이고, 위에 논의된 바와 같이,

는 반경 값으로 지칭될 수도 있는 센서 축으로부터의 거리이다.

카메라 교정은 일반적으로 특정 카메라에 대한 내재적 및 외재적 파라미터들을 결정하는 것을 수반한다. 카메라의 내재적 파라미터들은 카메라의 초점 길이 및 광학적 중심을 포함한다. 위의 방정식에서, 계수들 a_i 은 이미지 (602) 의 형상을 기술하는 내재적 파라미터들이다. 외재적 파라미터들은 그라운드에 대한 회전의 정도 (예를 들어, 피치, 요, 및/또는 롤), 및 카메라의 3 차원 현실 세계 위치 (카메라의 "병진 (translation)" 으로 지칭됨) 을 포함할 수 있다. 외재적 파라미터들은 일반적으로 카메라의 센서의 중심으로부터 측정된다. 카메라 교정은 일반적으로 카메라의 내재적 및 외재적 파라미터들을 결정하는 것을 수반한다. 다양한 구현들에서, 이것은 교정 패턴들을 캡처하는 이미지들의 도움으로 및/또는 자동화된 방식으로 달성될 수 있다.

위의 함수

는, 이미지 (602) 가 회전적으로 균일한 것을 가정하며, 이는 이미지 (602) 의 중심으로부터 주어진 거리에 대해, 그 거리의 이미지 (602) 에서의 모든 지점들이 카메라 센서로부터 등거리인 공간에서의 지점들을 캡처하는 것을 의미한다. 이것은 카메라 렌즈들이 통상적으로 정확하게 대칭이도록 제조되기 때문에 타당한 가정이다. 따라서, 함수는 반구면 표현 (610) 상으로 원형 어안 이미지 (602) 를 매핑하는데 사용될 수 있다. 위에 언급된 바와 같이, 함수는 이미지 (602) 에서의 좌표들을 반구면 표현 (610) 의 Z 축에 대한 대응 지점들에 관련시킨다. 따라서, 반구면 표현 (610) 상의 임의의 지점 (614) 에 대해, 함수는 이미지 (602) 에서 대응 지점 (604) 을 찾는데 사용될 수 있다. 픽셀은 그 후 이미지 (602) 에서의 지점 (604) 으로부터 취해질 수 있고, 대응 지점 (614) 에서의 반구면 표현 (614) 에 배치될 수 있다.

도 6a 에서 이미지 (602) 가 반구면 표현 (610)(회전 좌표들 (r, Φ) 을 갖는 좌표들 (x, y, z) 을 가짐) 에서의 지점 (614) 에 대해 (도 4 의 예에 기재된 바와 같은) 선형 왜곡을 포함할 때, 대응 지점 (604)(이미지 평면 (602) 에서 좌표들 (u, v) 을 가짐) 이 다음의 방정식들을 사용하여 결정될 수 있다.

위의 방정식들에서, u 및 v 는 정규화되며, 이는 u 및 v 가 각각 0 과 1 사이에서 달라지는 것을 의미한다.

회전 좌표들 (r, Φ) 은 함수,

를 사용하여 결정될 수 있다.

함수는 2 개의 인수를 갖는 아크탄젠트 함수이다. 임의의 실수에 대해 인수들 x 및 y 양자 모두가 제로와 동일하지 않은 경우,

는 평면의 양의 x 축과 좌표들 (x, y) 에 의해 주어진 그 평면 상의 지점 사이에서, 라디안으로, 각도를 리턴한다. 각도는 반시계방향 각도들 (예를 들어, 평면의 상부 절반, 여기서 y > 0) 에 대해서는 양이고, 시계방향 각도들 (예를 들어, 평면의 하부 절반, 여기서 y < 0) 에 대해서는 음이다.

를 사용하여, r 및 Φ 가 다음과 같이 계산된다.

위의 방정식들에서, r 은 0 내지 1 의 범위일 것이고, Φ 는 0 내지 2π 의 범위일 것이다.

위의 방정식들을 사용하여, 이미지 (602) 로부터의 픽셀들이 반구면 표현 (610) 에 매핑될 수 있다. 구체적으로, 좌표들 (x, y, z) 을 갖는 주어진 지점 (614) 에 대해, 이미지 (602) 에서, 좌표들 (u, v) 을 갖는 대응 지점 (604) 이 계산될 수 있다. 픽셀은 그 후 이미지 (602) 에서의 지점 (604) 으로부터 취해지고 (x, y, z) 에서 반구면 표현에 배치될 수 있다.

이미지 (602) 가 (도 5 의 예에 기재된 바와 같은) 비선형 왜곡을 포함할 때, 다음의 부가 및/또는 대안의 계산들이 사용되어 (도 6a 에 도시된 바와 같은) 이미지 (602) 를 반구면 표현 (610) 에 매핑하는데 사용될 수 있다. 이러한 방정식들은 비선형 왜곡에 대해 보정할 수 있다. 다음의 논의에서, 비선형 왜곡을 포함하는 이미지 (602) 에서의 지점들에 대해, 보정된 정규화 좌표들로서 지칭될 수도 있는 u' 및 v' 는, 이러한 지점들에 대한 좌표들을 기술하는데 사용될 것이다.

위에 논의된 바와 같이, 이미지 (602) 의 중심으로부터의 거리

는 비선형으로 변화한다.

의 값은 다음과 같이 표현될 수 있다.

위의 방정식에서, 각도 값 r 은 상술한 바와 같이 계산될 수 있다.

함수

는 추가로 다음과 같이 수정될 수 있다.

위의 2 개의 방정식들에서, k₀ 및 k₁ 은 스케일링 파라미터들이고, a_i 는 위에 논의된 바와 같이, 카메라 교정에 의해 결정된 계수들이다. 함수

는 센서 축, Z 상으로, 좌표들 (x, y, z) 을 갖는 지점 (614) 의 투영을 제공한다. 따라서, 함수

의 결과는 z 좌표를 제공한다.

파라미터 k₀ 는 r 을

로 스케일링한다; 즉, k₀ 는

의 비선형 변동에 따라 r 을 조정한다. 따라서, 파라미터 k₀ 는 도 5 에 관하여 위에 논의된 바와 같은, 어안 이미지에서의 비선형 압축을 위해 다항식 방정식을 조정하는데 사용될 수 있다. k₀ 에 대한 값은 r 및 함수

로부터 도출될 수 있다. 구체적으로, k₀ 는 r = 1 이면,

이도록 결정될 수 있다. 도 6b 에 도시된 바와 같이, r = 1 은 이미지 (602) 가 매핑되고 있는, 반구면 표현 (610) 의 극도의 에지이다. 반구면 표현 (610) 의 에지에서, z 좌표는 제로이고, 이로써 (z 좌표를 제공하는)

가 또한 제로이다.

파라미터 k₁ 은 z 로

를 스케일링한다. 함수

를 도출하는데 사용된 카메라 교정 방법은 반구면 투영을 가정하며, 여기서

. 이로써, k₁ 은 -1 과 같은 음의 값으로 설정될 수 있어서,

는 양의 값들을 생성한다. 대안으로, 계수들 a_i 의 부호는 변경될 수 있다. 대안으로, 일부 경우들에서, 부호 변경은 하기에 논의된 식들에 포함될 수도 있다.

이미지 평면 (602) 에서의 지점 (u', v') 에 대한 좌표들은 다음의 방정식들을 사용하여 결정될 수 있다.

위의 식들에서, u' 및 v' 는 정규화되고, 0 과 1 사이에서 달라진다.

위의 식들에 대해, r' 는 다음과 같이 계산될 수 있다.

위의 방정식들을 사용하여, 이미지가 반구면 표현(610) 에 매핑될 때, 반경 왜곡 ― 여기서, 이미지 (602) 는 이미지의 중심으로부터의 거리가 증가함에 따라 점점 더 많은 압축을 결정한다 ― 이 보정될 수 있다. 구체적으로, 반구면 표현 (610) 상의 지점 (614)(x, y, z) 에 대해, 이미지에서 좌표들 (u', v') 을 갖는 지점이 결정될 수 있다. 그 후 지점 (u', v') 으로부터의 픽셀이 지점 (614)(x, y, z) 에 배치될 수 있다.

일부 경우들에서, 부가 스케일링 팩터가 필요할 수도 있다. 예를 들어, 이미지가 180 도 초과 또는 미만인 시야를 포함하고, 및/또는 시야의 일부가 크롭되었을 때, 스케일링 팩터들 α 및 β 가 도입되어 시야 및/또는 크롭 (예를 들어, 크롭된 어안 이미지의 일 예, 도 1 참조) 을 수용할 수 있다. 시야가 예를 들어 모든 방향들에서 220 도와 같은 대칭이면, α 및 β 는 동일 (예를 들어, 양자 모두 180/220 과 동일) 할 수 있다. 시야가 비대칭일 때, α 및/또는 β 는 비대칭을 수용하는 값들로 설정될 수 있다. 예를 들어, 도 1 의 예에서, 시야가 180 도인 것을 가정하면, β 는 1 로 설정될 수 있고, α 는 180/n 으로 설정될 수 있으며, 여기서 n 은 이미지의 중심으로부터 프레임의 크롭된 상부 또는 하부 에지까지의 거리이다.

α 및 β 에 의해, (u", v") 로서 표현된, 이미지 (602) 에서의 지점을 결정하기 위한 방정식들이 다음의 방정식들을 사용하여 결정될 수 있다:

위의 방정식들에서, r' 은 위에 논의된 바와 같이 결정될 수 있다.

도 7a 및 도 7b 는 보정으로 또는 보정 없이 렌더링된 이미지의 예들을 도시한다. 도 7a 의 예에서, 이미지 (702) 는 카메라에 의해 야기된 왜곡들에 대해 어떠한 보정도 없이, 전방위 카메라에 의해 캡처될 때 렌더링된다. 이러한 예에 의해 도시된 바와 같이, 이미지 (702) 가 워핑되어, 장면에서의 빌딩 및 경로들이 직선인 대신, 소멸 지점을 향해 구부러진다.

도 7b 의 예에서, 이미지 (710) 는 위에 논의된 기법들을 사용하여 렌더링된다. 이 예에서, 이미지 (710), 빌딩의 에지들, 및 빌딩의 전방에서의 경로들은, 현실 세계에서 보여지게 되는 바와 같이, 직선이다. 예시의 이미지 (710) 는 이해를 용이하고 명료하게 하기 위해 여기에서 2 차원이고 형상이 직사각형인 것으로 도시된다. 예시의 이미지 (710) 는 위에 예시된 바와 같이, 3 차원 반구면 표현으로 렌더링되었고, 여기에서 예시된 보정들을 획득하였다.

다양한 구현들에서, 위에 논의된 다항식 모델과 연관된 파라미터들의 일부 또는 전부는 전방위 카메라를 사용하여 캡처된 이미지 데이터와 함께 전달될 수 있다. 이 파라미터들은 특히 다항식 계수들 a_i (i = 0, 1, 2, … N), 다항식 차수 N, 스케일링 파라미터들 k₀, k₁, 및/또는 스케일링 파라미터들 α 및 β 를 포함한다. 비디오 데이터와 함께 포함되면, 이 파라미터들은 360 도 비디오 표현에 대해, 반구면 표현으로 비디오 프레임들에서의 어안 이미지들을 렌더링하는데 사용될 수 있다. 일부 구현들에서, 파라미터들은 3 차원 표현에 카메라에 의해 캡처된 2 차원 이미지를 매핑하기 위해 비디오 캡처 디바이스에서 사용될 수 있다. 3 차원 표현은 그 후 저장 및/또는 송신을 위해 인코딩될 수 있다. 일부 구현들에서, 2 차원 이미지들은 저장 및/또는 송신을 위해 인코딩될 수 있고, 수신기 디바이스는 이미지들을 디코딩하고 파라미터들을 사용하여 360 도 비디오 표현을 위해 이미지들을 렌더링할 수 있다.

다양한 방법들이 모델 파라미터들을 전달하는데 사용될 수 있다. 예를 들어, 파라미터들은 비트스트림의 구문 구조들을 사용하여 비디오 비트스트림에 포함될 수 있다 예를 들어, 파라미터들은 하나 이상의 보충 강화 정보 (SEI) 메시지들에 포함될 수 있다. 다른 예로서, 파라미터들은 360 도 비디오를 저장하는데 사용된 파일 포맷으로 통합될 수 있다. 다른 예로서, 파라미터들은 특수 네트워크 프로토콜 확장들로 통합될 수 있다.

다양한 구현들에서, 위에 논의된 다항식 모델에 대한 대안들이 동일한 결과를 달성하기 위해 사용될 수 있다. 예를 들어, 구간적 선형 모델 (piecewise linear model) 과 같은 다항식 모델의 근사화가 또한 대안의 파라미터들을 사용하여 사용될 수 있다.

도 8 은 360 도 비디오 표현에서의 디스플레이를 위해 3 차원, 반구면 표현에 2 차원 어안 이미지를 매핑하기 위한 프로세스 (800) 의 일 예를 도시하는 플로우챠트이다. 802 에서, 프로세스 (800) 는 전방위 카메라에 의해 캡처된 2 차원 비디오 데이터를 획득하는 것을 포함하고, 2 차원 비디오 데이터는 장면의 이미지를 포함하며, 이미지에서, 장면은 이미지의 원형 영역으로 워핑되었다. 일부 구현들에서, 워핑은 방사상으로 선형일 수도 있다; 즉 이미지가 원형 영역의 중심으로부터 외부 에지까지 균일하게 워핑된다. 일부 경우들에서, 워핑은 비선형일 수도 있어서, 이미지는 중심에 존재하는 원형 영역의 외부 에지를 향해 더 많은 압축을 포함한다.

일부 구현들에서, 비디오 데이터는 인코딩된 비트스트림으로부터 획득된다. 이러한 구현들에서는, 인코딩된 비트스트림이 이미지의 워핑을 기술하는 파라미터들을 포함할 수 있다. 이 파라미터들은 특히, 예를 들어, 다항식 차수, 다항식 계수, 다항식 스케일링 파라미터, 또는 매핑 스케일링 파라미터를 포함할 수 있다. 일부 구현들에서, 파라미터들은 인코딩된 비트스트림에서 SEI 메시지로부터 획득될 수 있다. 일부 구현들에서, 파라미터들은 인코딩된 비트스트림을 포함하는 파일에 포함될 수 있다. 이러한 구현들에서는, 파일이 파라미터들을 저장하기 위해 데이터 구조들을 포함할 수 있다.

804 에서, 프로세스 (800) 는 3 차원 반구면 표현에 이미지를 매핑하는 것을 포함하고, 이미지를 매핑하는 것은 3 차원 반구면 표현 상의 대응 위치들에 이미지의 원형 영역에서의 픽셀들을 매핑하는 것을 포함하며, 이미지를 매핑하는 것은 장면의 워핑을 보정한다. 일부 구현들에서, 이미지를 매핑하는 것은 다항식 방정식을 사용하여 3 차원 반구면 표현 상의 대응 지점에 이미지에서의 지점을 투영하는 것을 포함한다. 이미지에서의 지점은 3 차원 반구면 표현 상의 지점에 매핑하도록 픽셀을 제공한다.

일부 구현들에서, 원형 영역으로의 이미지의 워핑은 비선형일 수도 있다. 이러한 구현들에서, 3 차원 반구면 표현에 이미지를 매핑하는 것은 조정된 반경 값을 사용하여 2 차원 이미지에서의 픽셀에 대해 좌표들을 결정하는 것을 포함할 수 있다. 조정된 반경 값은 워핑의 비선형성에 대응할 수 있다. 예를 들어, 조정된 반경 값은 이미지의 중심으로부터 외부 에지까지 비선형성을 증가시킨다. 그 후 조정된 반경 값을 사용하여 결정된 좌표들은 이미지로부터 반구면 표현까지 픽셀을 매핑하는데 사용될 수 있다.

일부 구현들에서, 이미지는 180 도 보다 큰 시야를 포함한다. 이러한 구현들에서는, 프로세스 (800) 가 시야에 따라 스케일링된 반경 값을 사용하여 2 차원 이미지에서의 픽셀에 대해 좌표들을 조정하는 것을 더 포함한다. 좌표들은 그 후 이미지로부터 반구면 표현까지 픽셀을 매핑하는데 사용될 수 있다. 일부 구현들에서, 이미지는 180 도 이하의 시야를 포함한다.

806 에서, 프로세스는 360 도 비디오 프레젠테이션에서 3 차원 반구면 표현을 사용하는 것을 포함한다. 예를 들어, 3 차원 반구면 표현은 비디오 디스플레이 디바이스에 의한 디스플레이를 위해 렌더링될 수 있다. 대안으로 또는 부가적으로, 3 차원 반구면 표현은 저장 및/또는 송신을 위해 인코딩될 수 있고, 여기서 인코딩된 데이터는 나중에 디코딩되고 디스플레이될 수 있다.

일부 구현들에서, 프로세스 (800) 는 모바일 디바이스, 예컨대 스마트 폰, 태블릿 컴퓨터, 랩톱 컴퓨터, 개인 정보 단말기, 또는 네트워크에 무선 접속할 수 있는 그리고/또는 쉽게 운반될 만큼 충분히 작고 가벼운 임의의 다른 종류의 컴퓨팅 디바이스로 구현될 수 있다. 이들 구현들에서, 모바일 디바이스는 360 도 비디오를 캡처하기 위한 전방위 카메라를 포함할 수 있다. 일부 구현들에서, 모바일 디바이스는 360 도 비디오를 디스플레이하기 위한 디스플레이를 포함할 수 있다.

일부 예들에서, 프로세스 (800) 는 컴퓨팅 디바이스 또는 장치, 예컨대 도 9 에 관하여 하기에서 논의되는 시스템에 의해 수행될 수도 있다. 예를 들어, 프로세스 (800) 는 도 9 에 나타낸 시스템 (900) 및/또는 스토리지 (908) 또는 출력 (910) 에 의해 수행될 수 있다. 일부 경우들에서, 컴퓨팅 디바이스 또는 장치는 도 8 의 프로세스 (800) 의 단계들을 수행하도록 구성되는 프로세서, 마이크로프로세서, 마이크로컴퓨터, 또는 디바이스의 다른 컴포넌트를 포함할 수도 있다. 일부 예들에서, 컴퓨팅 디바이스 또는 장치는 비디오 프레임들을 포함하는 비디오 데이터 (예컨대, 비디오 시퀀스) 를 캡처하도록 구성되는 카메라를 포함할 수도 있다. 예를 들어, 컴퓨팅 디바이스는 비디오 코덱을 포함할 수도 있는 카메라 디바이스 (예컨대, 전방위 카메라, 또는 다른 유형의 카메라 디바이스) 를 포함할 수도 있다. 일부 예들에서, 비디오 데이터를 캡처하는 카메라 또는 다른 캡처 디바이스는 컴퓨팅 디바이스와는 별도이며, 그 경우 컴퓨팅 디바이스는 캡처된 비디오 데이터를 수신한다. 컴퓨팅 디바이스는 비디오 데이터를 통신하도록 구성된 네트워크 인터페이스를 더 포함할 수도 있다. 네트워크 인터페이스는 인터넷 프로토콜 (IP) 기반 데이터 또는 임의의 다른 적합한 유형의 데이터를 통신하도록 구성될 수도 있다.

프로세스 (800) 는 논리적 플로우 다이어그램들로서 예시되며, 그 동작은 하드웨어, 컴퓨터 명령들, 또는 이들의 조합으로 구현될 수 있는 동작들의 시퀀스를 나타낸다. 컴퓨터 명령들의 맥락에서, 동작들은, 하나 이상의 프로세서들에 의해 실행될 때, 언급된 동작들을 수행하는, 하나 이상의 컴퓨터 판독가능 저장 매체들 상에 저장된 컴퓨터 실행가능 명령들을 나타낸다. 일반적으로, 컴퓨터 실행가능 명령들은 특정 기능들을 수행하거나 또는 특정 데이터 유형들을 구현하는 루틴들, 프로그램들, 오브젝트들, 컴포넌트들, 데이터 구조들 등을 포함한다. 동작들이 기술되는 순서는 제한으로서 해석되도록 의도되지 않으며, 임의의 수의 기술된 동작들은 그 프로세스들을 구현하기 위해 임의의 순서로 및/또는 병렬로 조합될 수 있다.

또한, 프로세스 (800) 는 실행가능 명령들로 구성되는 하나 이상의 컴퓨터 시스템들의 제어 하에 수행될 수도 있고, 하나 이상의 프로세서들 상에서, 하드웨어, 또는 그 조합들에 의해 집단적으로 실행하는 코드 (예컨대, 실행가능 명령들, 하나 이상의 컴퓨터 프로그램들, 또는 하나 이상의 어플리케이션들) 로서 구현될 수도 있다. 위에서 언급된 바와 같이, 코드는, 예를 들어 하나 이상의 프로세서들에 의해 실행가능한 복수의 명령들을 포함하는 컴퓨터 프로그램 형태로, 컴퓨터 판독가능 또는 머신 판독가능 저장 매체 상에 저장될 수도 있다. 컴퓨터 판독가능 또는 머신 판독가능 저장 매체는 비-일시적일 수도 있다.

도 9 는 인코딩 디바이스 (904) 및 디코딩 디바이스 (912) 를 포함하는 시스템 (900) 의 일 예를 도시하는 블록 다이어그램이다. 인코딩 디바이스 (904) 는 소스 디바이스의 일부일 수도 있고, 디코딩 디바이스 (912) 는 수신 디바이스의 일부일 수도 있다. 소스 디바이스 및/또는 수신 디바이스는 전자 디바이스, 예컨대 모바일 또는 정지식 전화 핸드셋 (예컨대, 스마트폰, 셀룰러폰 등), 데스크탑 컴퓨터, 랩톱 또는 노트북 컴퓨터, 태블릿 컴퓨터, 셋톱 박스, 텔레비전, 카메라, 디스플레이 디바이스, 디지털 미디어 플레이어, 비디오 게이밍 콘솔, 비디오 스트리밍 디바이스, 또는 임의의 다른 적합한 전자 디바이스를 포함할 수도 있다. 일부 예들에서, 소스 디바이스 및 수신 디바이스는 무선 통신들을 위한 하나 이상의 무선 트랜시버들을 포함할 수도 있다. 본 명세서에 기재된 코딩 기법들은, 스트리밍 비디오 송신들 (예컨대, 인터넷을 통함), 텔레비전 브로드캐스트들 또는 송신들, 데이터 저장 매체 상의 저장을 위한 디지털 비디오의 인코딩, 데이터 저장 매체 상에 저장되는 디지털 비디오의 디코딩, 또는 다른 어플리케이션들을 포함하는, 다양한 멀티미디어 어플리케이션들에서의 비디오 코딩에 적용 가능하다. 일부 예들에서, 시스템 (900) 은 비디오 컨퍼런싱, 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 게이밍, 및/또는 비디오 텔레포니와 같은 어플리케이션들을 지원하기 위해 일방향 또는 양방향 비디오 송신을 지원할 수 있다.

인코딩 디바이스 (904) (또는 인코더) 는 인코딩된 비디오 비트스트림을 생성하는 비디오 코딩 표준 또는 프로토콜을 사용하여, 가상 현실 비디오 데이터를 포함한 비디오 데이터를 인코딩하는데 사용될 수 있다. 비디오 코딩 표준들은 ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 그리고 각각 SVC 및 MVC 로서 알려진 스케일러블 비디오 코딩 및 멀티뷰 비디오 코딩 확장들을 포함한 ITU-T H.264 (또한 ISO/IEC MPEG-4 AVC로 알려짐) 를 포함한다. 최신 비디오 코딩 표준인 고 효율 비디오 코딩 (HEVC) 이 ITU-T 비디오 코딩 전문가 그룹 (Video Coding Experts Group, VCEG) 및 ISO/IEC 무빙 픽처 전문가 그룹 (Moving Picture Expert Group; MPEG) 의 JCT-VC (Joint Collaboration Team on Video Coding) 에 의해 완결되었다. MV-HEVC 로 불리는 HEVC 에 대한 멀티뷰 확장과, SHVC 로 불리는 HEVC 에 대한 스케일러블 확장, 또는 임의의 다른 적합한 코딩 프로토콜을 포함하여, HEVC에 대한 다양한 확장들이 멀티 계층 비디오 코딩을 다루고 JCT-VC 에 의해 또한 개발되고 있다.

본 명세서에 기재된 구현들은 HEVC 표준, 또는 그 확장들을 사용하여 예들을 설명한다. 하지만, 본 명세서에 기재된 기법들 및 시스템들은 다른 코딩 표준들, 예컨대 AVC, MPEG, 그 확장들, 또는 이미 이용 가능하거나 또는 아직 이용 가능하지 않거나 또는 개발되고 있는 다른 적합한 코딩 표준들에 또한 적용 가능할 수도 있다. 따라서, 본 명세서에 기재된 기법들 및 시스템들은 특정 비디오 코딩 표준을 참조하여 설명될 수도 있지만, 당업자는 그 설명이 특정 표준에만 적용되는 것으로 해석되지 않아야 함을 알 것이다.

비디오 소스 (902) 는 비디오 데이터를 인코딩 디바이스 (904) 에 제공할 수도 있다. 비디오 소스 (902) 는 소스 디바이스의 일부일 수도 있거나, 또는 소스 디바이스와는 다른 디바이스의 일부일 수도 있다. 비디오 소스 (902) 는 비디오 캡처 디바이스 (예컨대, 비디오 카메라, 카메라 폰, 비디오 폰 등), 저장된 비디오를 포함하는 비디오 아카이브, 비디오 데이터를 제공하는 비디오 서버 또는 콘텐츠 제공자, 비디오 서버 또는 콘텐츠 제공자로부터 비디오를 수신하는 비디오 피드 인터페이스, 컴퓨터 그래픽 비디오 데이터를 생성하는 컴퓨터 그래픽스 시스템, 이러한 소스들의 조합, 또는 임의의 다른 적합한 비디오 소스를 포함할 수도 있다. 비디오 소스 (902) 의 하나의 예는 인터넷 프로토콜 카메라 (IP 카메라) 를 포함할 수 있다. IP 카메라가 감시, 홈 보안, 또는 다른 적합한 어플리케이션을 위해 사용될 수 있는 디지털 비디오 카메라의 유형이다. 아날로그 폐쇄 회로 텔레비전 (CCTV) 카메라들과는 달리, IP 카메라가 컴퓨터 네트워크 및 인터넷을 통해 데이터를 전송 및 수신할 수 있다.

비디오 소스 (902) 로부터의 비디오 데이터는 하나 이상의 입력 픽처들 또는 프레임들을 포함할 수도 있다. 픽처 또는 프레임은 비디오의 일부인 스틸 이미지이다. 인코딩 디바이스 (904) 의 인코더 엔진 (906) (또는 인코더) 는 인코딩된 비디오 비트스트림을 생성하기 위해 비디오 데이터를 인코딩한다. 일부 예들에서, 인코딩된 비디오 비트스트림 (또는 "비디오 비트스트림" 또는 "비트스트림") 이 일련의 하나 이상의 코딩된 비디오 시퀀스들이다. 코딩된 비디오 시퀀스 (CVS) 는 베이스 계층에 랜덤 액세스 포인트 픽처를 갖고 소정의 특성들을 갖는 AU 로 시작하고 베이스 계층에 랜덤 액세스 포인트 픽처를 갖고 소정의 특성들을 갖는 다음의 AU 까지 그리고 이 AU 를 포함하지 않는 일련의 액세스 유닛들 (AU들) 을 포함한다. 예를 들어, CVS 를 시작하는 랜덤 액세스 포인트 픽처의 소정의 특성들은 1 과 동일한 RASL 플래그 (예를 들어, NoRaslOutputFlag) 를 포함할 수도 있다. 그렇지 않으면, 랜덤 액세스 포인트 픽처 (0 과 동일한 RASL 플래그를 가짐) 가 CVS 를 시작하지 않는다. 액세스 유닛 (AU) 은 동일한 출력 시간을 공유하는 하나 이상의 코딩된 픽처들 및 코딩된 픽처들에 대응하는 제어 정보를 포함한다. 픽처들의 코딩된 슬라이스들은 비트스트림 레벨에서 네트워크 추상화 계층 (NAL) 유닛들이라 불리는 데이터 유닛들로 캡슐화된다. 예를 들어, HEVC 비디오 비트스트림이 NAL 유닛들을 포함하여 하나 이상의 CVS들을 포함할 수도 있다. 비디오 코딩 계층 (VCL) NAL 유닛들 및 비-VCL NAL 유닛들을 포함한, NAL 유닛들의 2 가지 클래스들이 HEVC 표준에 존재한다. VCL NAL 유닛은 코딩된 픽처 데이터의 하나의 슬라이스 또는 슬라이스 세그먼트 (하기에 기재됨) 를 포함하고, 비-VCL NAL 유닛은 하나 이상의 코딩된 픽처들에 관련되는 제어 정보를 포함한다.

NAL 유닛들은 비디오 데이터의 코딩된 표현 (예컨대, 인코딩된 비디오 비트스트림, 비트스트림의 CVS 등), 예컨대 비디오에서의 픽처들의 코딩된 표현들을 형성하는 비트들의 시퀀스를 포함할 수도 있다. 인코더 엔진 (906) 은 각각의 픽처를 다수의 슬라이스들로 파티셔닝함으로써 픽처들의 코딩된 표현들을 생성한다. 슬라이스들은 그 후 루마 샘플들 및 크로마 샘플들의 코딩 트리 블록들 (CTB들) 로 파티셔닝된다. 루마 샘플들의 CTB 및 크로마 샘플들의 하나 이상의 CTB들은 그 샘플들을 위한 신택스와 함께, 코딩 트리 유닛 (CTU) 이라고 지칭된다. CTU 는 HEVC 인코딩을 위한 기본 프로세싱 유닛이다. CTU 는 가변하는 사이즈들의 다수의 코딩 유닛들 (CU들) 로 분할될 수 있다. CU 는 코딩 블록들 (CB들) 로 지칭 지칭되는 루마 및 크로마 샘플 어레이들을 포함한다.

루마 및 크로마 CB들은 예측 블록들 (PB들) 로 추가로 분할될 수 있다. PB 는 인터 예측을 위해 동일한 모션 파라미터들을 사용하는 루마 또는 크로마 컴포넌트의 샘플들의 블록이다. 루마 PB 및 하나 이상의 크로마 PB들은, 연관된 신택스와 함께, 예측 유닛 (PU) 을 형성한다. 모션 파라미터들의 세트는 각각의 PU 에 대한 비트스트림에서 시그널링되고 루마 PB 및 하나 이상의 크로마 PB들의 인터 예측을 위해 사용된다. CB 는 하나 이상의 변환 블록들 (TB들) 로 또한 파티셔닝될 수 있다. TB 는 예측 잔차 신호를 코딩하기 위해 동일한 2 차원 변환이 적용되는 컬러 컴포넌트의 샘플들의 정사각형 블록을 나타낸다. 변환 유닛 (TU) 은 루마 및 크로마 샘플들의 TB들과, 대응 신택스 엘리먼트들을 나타낸다.

CU 의 사이즈는 코딩 노드의 사이즈에 대응하고 형상이 정사각형일 수도 있다. 예를 들어, CU 의 사이즈가 8 x 8 샘플들, 16 x 16 샘플들, 32 x 32 샘플들, 64 x 64 샘플들, 또는 대응 CTU 의 사이즈까지의 임의의 다른 적절한 사이즈일 수도 있다. 구절 "N x N" 은 수직 및 수평 치수들 (예컨대, 8 픽셀들 x 8 픽셀들) 에 관하여 비디오 블록의 픽셀 치수들을 지칭하기 위해 본 명세서에서 사용된다. 블록에서의 픽셀들은 행들 및 열들로 배열될 수도 있다. 일부 실시형태들에서, 블록들은 수직 방향에서와 동일한 수의 픽셀들을 수평 방향에서 가지지 않을 수도 있다. CU 와 연관된 신택스 데이터는, 예를 들어 CU 의 하나 이상의 PU들로의 파티셔닝을 기술할 수도 있다. 파티셔닝 모드들은 CU 가 인트라 예측 모드 인코딩되든지, 또는 인터 예측 모드 인코딩되든지 간에 상이할 수도 있다. PU들은 형상이 비-정사각형이도록 파티셔닝될 수도 있다. CU 와 연관된 신택스 데이터는, 예를 들어 CTU 에 따라 하나 이상의 TU들로의 CU 의 파티셔닝을 또한 기술할 수도 있다. TU 는 형상이 정사각형이거나 또는 정사각형이 아닐 수 있다.

HEVC 표준에 따르면, 변환들은 변환 유닛들 (TU들) 을 사용하여 변환될 수도 있다. TU들은 상이한 CU들에 대해 가변할 수도 있다. TU들은 주어진 CU 내의 PU들의 사이즈에 기초하여 사이징될 수도 있다. TU들은 PU들과 동일한 사이즈이거나 또는 이들보다 작을 수도 있다. 일부 예들에서, CU 에 대응하는 잔차 샘플들은 잔차 쿼드 트리 (RQT) 로서 알려진 쿼드트리 구조를 사용하여 더 작은 유닛들로 세분될 수도 있다. RQT 의 리프 노드들은 TU들에 대응할 수도 있다. TU들과 연관된 픽셀 차이 값들은 변환 계수들을 생성하도록 변환될 수도 있다. 변환 계수들은 그 후 인코더 엔진 (906) 에 의해 양자화될 수도 있다.

일단 비디오 데이터의 픽처들이 CU들로 파티셔닝되면, 인코더 엔진 (906) 은 예측 모드를 사용하여 각각의 PU 를 예측한다. 예측은 그 후 잔차들 (하기에서 설명됨) 을 얻기 위해 원래의 비디오 데이터로부터 감산된다. 각각의 CU 에 대해, 예측 모드가 신택스 데이터를 사용하여 비트스트림 내부에서 시그널링될 수도 있다. 예측 모드는 인트라 예측 (또는 인트라 픽처 예측) 또는 인터 예측 (또는 인터 픽처 예측) 을 포함할 수도 있다. 인트라 예측을 사용하여, 각각의 PU 가, 예를 들어 PU 에 대한 평균값을 찾기 위한 DC 예측, 평면 표면을 PU 에 맞추기 위한 평면 예측, 이웃한 데이터로부터의 외삽을 위한 방향 예측, 또는 임의의 다른 적합한 유형들의 예측을 사용하여, 동일한 픽처에서의 이웃한 이미지 데이터로부터 예측된다. 인터 예측을 사용하여, 각각의 PU 가 하나 이상의 참조 픽처들에서의 이미지 데이터 (출력 순서에서 현재 픽처 전 또는 후) 로부터 모션 보상 예측을 사용하여 예측된다. 픽처 영역을 인터 픽처 예측을 사용하여 코딩할지 또는 인트라 픽처 예측을 사용하여 코딩할지의 결정은, 예를 들어 CU 레벨에서 이루어질 수도 있다. 일부 예들에서, 픽처의 하나 이상의 슬라이스들에는 슬라이스 유형이 배정된다. 슬라이스 유형들은 I 슬라이스, P 슬라이스, 및 B 슬라이스를 포함한다. I 슬라이스 (인트라-프레임들, 독립적으로 디코딩 가능함) 는 인트라 예측에 의해서만 코딩되는 픽처의 슬라이스이고, 따라서 I 슬라이스는 슬라이스의 임의의 블록을 예측하기 위해 프레임 내의 데이터만을 요구하기 때문에 독립적으로 디코딩 가능하다. P 슬라이스 (단방향 예측된 프레임들) 는 인트라 예측 및 단방향 인터 예측으로 코딩될 수도 있는 픽처의 슬라이스이다. P 슬라이스 내의 각각의 블록은 인트라 예측 또는 인터 예측 중 어느 하나로 코딩된다. 인터 예측이 적용될 때, 블록은 하나의 참조 픽처에 의해서만 예측되고, 따라서 참조 샘플들은 하나의 프레임의 하나의 참조 영역으로부터만의 것들이다. B 슬라이스 (양방향 예측 프레임들) 는 인트라 예측 및 인터 예측으로 코딩될 수도 있는 픽처의 슬라이스이다. B 슬라이스의 블록은 2 개의 참조 픽처들로부터 양방향 예측될 수도 있으며, 각각의 픽처는 하나의 참조 영역에 기여하고 2 개의 참조 영역들의 샘플 세트들은 양방향 예측된 블록의 예측 신호를 생성하기 위해 (예컨대, 동일한 가중치들로) 가중된다. 위에서 설명된 바와 같이, 하나의 픽처의 슬라이스들은 독립적으로 코딩된다. 일부 경우들에서, 픽처는 단지 하나의 슬라이스로서 코딩될 수 있다.

PU 가 예측 프로세스에 관련된 데이터를 포함할 수도 있다. 예를 들어, PU 가 인트라 예측을 사용하여 인코딩될 때, PU 는 PU 에 대한 인트라 예측 모드를 기술하는 데이터를 포함할 수도 있다. 다른 예로서, PU 가 인터 예측을 사용하여 인코딩될 때, PU 는 PU 에 대한 모션 벡터를 정의하는 데이터를 포함할 수도 있다. PU 에 대한 모션 벡터를 정의하는 데이터는, 예를 들어, 모션 벡터의 수평 컴포넌트, 모션 벡터의 수직 컴포넌트, 모션 벡터에 대한 분해능 (예컨대, 1/4 픽셀 정밀도 또는 1/8 픽셀 정밀도), 모션 벡터가 가리키는 참조 픽처, 및/또는 모션 벡터에 대한 참조 픽처 리스트 (예컨대, List 0, List 1, 또는 List C) 를 기술할 수도 있다.

인코딩 디바이스 (904) 는 그 후 변환 및 양자화를 수행할 수도 있다. 예를 들어, 예측에 후속하여, 인코더 엔진 (906) 은 PU 에 대응하는 잔차 값들을 산출할 수도 있다. 잔차 값들은 픽셀 차이 값들을 포함할 수도 있다. 예측이 수행된 후에 남아 있을 수도 있는 임의의 잔차 데이터가 블록 변환을 사용하여 변환되는데, 블록 변환은 이산 코사인 변환, 이산 사인 변환, 정수 변환, 웨이브릿 변환, 또는 다른 적합한 변환 함수에 기초할 수도 있다. 일부 경우들에서, 하나 이상의 블록 변환들 (예컨대, 사이즈 32 x 32, 16 x 16, 8 x 8, 4 x 4 등) 은 각각의 CU 에서의 잔차 데이터에 적용될 수도 있다. 일부 실시형태들에서, TU 는 인코더 엔진 (906) 에 의해 구현되는 변환 및 양자화 프로세스들을 위해 사용될 수도 있다. 하나 이상의 PU들을 갖는 주어진 CU 는 또한 하나 이상의 TU들을 포함할 수도 있다. 하기에서 더 상세히 설명되는 바와 같이, 잔차 값들은 블록 변환들을 사용하여 변환 계수들로 변환될 수도 있고, 그 후 엔트로피 코딩을 위한 직렬화된 변환 계수들을 생성하기 위해 TU들을 사용하여 양자화되고 스캐닝될 수도 있다.

일부 경우들에서, CU 의 PU들을 사용한 인트라 예측 또는 인터 예측 코딩에 후속하여, 인코더 엔진 (906) 은 CU 의 TU들에 대한 잔차 데이터를 산출할 수도 있다. PU들은 공간 도메인 (또는 픽셀 도메인) 에서의 픽셀 데이터를 포함할 수도 있다. TU들은 블록 변환의 적용에 후속하는 변환 도메인에서의 계수들을 포함할 수도 있다. 이전에 언급된 바와 같이, 잔차 데이터는 인코딩되지 않은 픽처의 픽셀들과 PU들에 대응하는 예측 값들 사이의 픽셀 차이 값들에 대응할 수도 있다. 인코더 엔진 (906) 은 CU 에 대한 잔차 데이터를 포함하는 TU들을 형성할 수도 있고, 그 후 TU들을 변환항 CU 에 대한 변환 계수들을 생성할 수도 있다.

인코더 엔진 (906) 은 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 계수들을 표현하는데 사용되는 데이터의 양을 감소시키기 위해 변환 계수들을 양자화함으로써 추가의 압축을 제공한다. 예를 들어, 양자화는 계수들의 일부 또는 전부와 연관된 비트 깊이를 감소시킬 수도 있다. 하나의 예에서, n-비트 값을 갖는 계수가 양자화 동안 n 이 m 보다 더 큰 m-비트 값으로 버림될 수도 있다.

일단 양자화가 수행되면, 코딩된 비디오 비트스트림은 양자화된 변환 계수들, 예측 정보 (예를 들어, 예측 모드들, 모션 벡터들 등), 파티셔닝 정보, 및 임의의 다른 적합한 데이터, 예컨대 다른 신택스 데이터를 포함한다. 코딩된 비디오 비트스트림의 상이한 엘리먼트들은 그 후 인코더 엔진 (906) 에 의해 엔트로피 인코딩될 수도 있다. 일부 예들에서, 인코더 엔진 (906) 은 엔트로피 인코딩될 수 있는 직렬화된 벡터를 생성하기 위해 미리 정의된 스캔 순서를 이용하여 양자화된 변환 계수들을 스캔할 수도 있다. 일부 예들에서, 인코더 엔진 (906) 은 적응적 스캔을 수행할 수도 있다. 벡터 (예컨대, 1 차원 벡터) 를 형성하기 위해 양자화된 변환 계수들을 스캐닝한 후, 인코더 엔진 (906) 은 그 벡터를 엔트로피 인코딩할 수도 있다. 예를 들어, 인코더 엔진 (906) 은 콘텍스트 적응적 가변 길이 코딩, 콘텍스트 적응적 이진 산술 코딩, 신택스 기반 콘텍스트 적응적 이진 산술 코딩, 확률 간격 파티셔닝 엔트로피 코딩, 또는 다른 적합한 엔트로피 인코딩 기법을 사용할 수도 있다.

인코딩 디바이스 (904) 의 출력 (910) 은 인코딩된 비디오 비트스트림 데이터를 구성하는 NAL 유닛들을 통신 링크 (920) 를 통해 수신 디바이스의 디코딩 디바이스 (912) 에 전송할 수도 있다. 디코딩 디바이스 (912) 의 입력 (914) 은 NAL 유닛들을 수신할 수도 있다. 통신 링크 (920) 는 무선 네트워크, 유선 네트워크, 또는 유선 및 무선 네트워크의 조합에 의해 제공되는 채널을 포함할 수도 있다. 무선 네트워크는 임의의 무선 인터페이스 또는 무선 인터페이스들의 조합을 포함할 수도 있고, 임의의 적합한 무선 네트워크 (예컨대, 인터넷 또는 다른 광역 네트워크, 패킷 기반 네트워크, WiFi^TM, 무선 주파수 (RF), UWB, WiFi-Direct, 셀룰러, 롱텀 에볼루션 (Long-Term Evolution; LTE), WiMax^TM 등) 를 포함할 수도 있다. 유선 네트워크는 임의의 유선 인터페이스 (예컨대, 섬유, 이더넷, 전력선 이더넷, 동축 케이블을 통한 이더넷, 디지털 신호 라인 (DSL) 등) 를 포함할 수도 있다. 유선 및/또는 무선 네트워크들은 다양한 장비, 예컨대 기지국들, 라우터들, 액세스 포인트들, 브릿지들, 게이트웨이들, 스위치들 등을 사용하여 구현될 수도 있다. 인코딩된 비디오 비트스트림 데이터는 통신 표준, 예컨대 무선 통신 프로토콜에 따라 변조되고 수신 디바이스로 송신될 수도 있다.

일부 예들에서, 인코딩 디바이스 (904) 는 인코딩된 비디오 비트스트림 데이터를 스토리지 (908) 에 저장할 수도 있다. 출력 (910) 은 인코더 엔진 (906) 으로부터 또는 스토리지 (908) 로부터 인코딩된 비디오 비트스트림 데이터를 취출할 수도 있다. 스토리지 (908) 는 여러 분산된 또는 국부적으로 액세스되는 데이터 저장 매체들 중 임의의 것을 포함할 수도 있다. 예를 들어, 스토리지 (908) 는 하드 드라이브, 저장 디스크, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체들을 포함할 수도 있다.

디코딩 디바이스 (912) 의 입력 (914) 은 인코딩된 비디오 비트스트림 데이터를 수신하고 디코더 엔진 (916) 에 의한 나중의 사용을 위해 비디오 비트스트림 데이터를 디코더 엔진 (916) 에, 또는 스토리지 (918) 에 제공할 수도 있다. 디코더 엔진 (916) 은 인코딩된 비디오 데이터를 구성하는 하나 이상의 코딩된 비디오 시퀀스들의 엘리먼트들을 (예컨대, 엔트로피 디코더를 사용하여) 엔트로피 디코딩하고 추출함으로써 인코딩된 비디오 비트스트림 데이터를 디코딩할 수도 있다. 디코더 엔진 (916) 은 그 후 인코딩된 비디오 비트스트림 데이터에 대한 스케일링 및 역 변환을 수행할 수도 있다. 잔차 데이터는 그 후 디코더 엔진 (916) 의 예측 스테이지에 전달된다. 디코더 엔진 (916) 은 그 후 픽셀들의 블록 (예컨대, PU) 를 예측한다. 일부 예들에서, 예측은 역 변환의 출력 (잔차 데이터) 에 가산된다.

디코딩 디바이스 (912) 는 디코딩된 비디오를 비디오 목적지 디바이스 (922) 에 출력할 수도 있으며, 비디오 목적지 디바이스는 디코딩된 비디오 데이터를 콘텐츠의 소비자에게 디스플레이하기 위한 디스플레이 또는 다른 출력 디바이스를 포함할 수도 있다. 일부 양태들에서, 비디오 목적지 디바이스 (922) 는 디코딩 디바이스 (912) 를 포함하는 수신 디바이스의 일부일 수도 있다. 일부 양태들에서, 비디오 목적지 디바이스 (922) 는 수신 디바이스 이외의 별도의 디바이스의 일부일 수도 있다.

보충 강화 정보 (SEI) 메시지들이 비디오 비트스트림들에 포함될 수 있다. 예를 들어, SEI 메시지들은 디코딩 디바이스 (912) 에 의해 비트스트림을 디코딩하기 위하여 필수적이지 않은 정보 (예컨대, 메타데이터) 를 반송하는데 사용될 수도 있다. 이 정보는 디코딩된 출력의 디스플레이 또는 프로세싱을 개선하는데 유용하다 (예를 들어, 이러한 정보는 콘텐츠의 가시성을 개선하기 위해 디코더 측 엔티티들에 의해 사용될 수 있다).

일부 실시형태들에서, 비디오 인코딩 디바이스 (904) 및/또는 비디오 디코딩 디바이스 (912) 는 각각 오디오 인코딩 디바이스 및 오디오 디코딩 디바이스와 통합될 수도 있다. 비디오 인코딩 디바이스 (904) 및/또는 비디오 디코딩 디바이스 (912) 는 위에 설명된 코딩 기법들을 구현하는데 필요한 다른 하드웨어 또는 소프트웨어, 예컨대 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (DSP들), 주문형 집적회로들 (ASIC들), 필드 프로그램가능 게이트 어레이들 (FPGA들), 이산 로직, 소프트웨어, 하드웨어, 펌웨어 또는 이들의 임의의 조합들을 또한 포함할 수도 있다. 비디오 인코딩 디바이스 (904) 및 비디오 디코딩 디바이스 (912) 는 개개의 디바이스에서 조합된 인코더/디코더 (코덱) 의 일부로서 통합될 수도 있다.

HEVC 표준에 대한 확장들은 MV-HEVC 로 지칭되는 멀티뷰 비디오 코딩 확장, 및 SHVC 로 지칭되는 스케일러블 비디오 코딩 확장을 포함한다. MV-HEVC 및 SHVC 확장들은 상이한 계층들이 인코딩된 비디오 비트스트림에 포함되어 있는 계층화된 코딩의 개념을 공유한다. 코딩된 비디오 시퀀스에서의 각각의 계층은 고유 계층 식별자 (ID) 에 의해 어드레싱된다. 계층 ID 가 NAL 유닛이 연관되는 계층을 식별하기 위해 NAL 유닛의 헤더에 존재할 수도 있다. MV-HEVC 에서, 상이한 계층들이 비디오 비트스트림에서의 동일한 장면의 상이한 뷰들을 나타낼 수 있다. SHVC 에서, 상이한 공간적 해상도들 (또는 픽처 해상도) 로 또는 상이한 재구성 충실도들로 비디오 비트스트림을 나타내는 상이한 스케일러블 계층들이 제공된다. 스케일러블 계층들은 베이스 계층 (계층 ID = 0 을 가짐) 과 하나 이상의 인핸스먼트 계층들 (계층 ID들 = 1, 2, ... n 을 가짐) 을 포함할 수도 있다. 베이스 계층은 HEVC 의 첫 번째 버전의 프로파일을 준수할 수도 있고, 비트스트림에서 최저 이용가능 계층을 표현한다. 인핸스먼트 계층들은 베이스 계층과 비교하여 증가된 공간적 해상도, 시간적 해상도 또는 프레임 레이트, 및/또는 재구성 충실도 (또는 품질) 를 가진다. 인핸스먼트 계층들은 계층적으로 조직화되고 하위 계층들에 따라 의존할 수도 있다 (또는 의존하지 않을 수도 있다). 일부 예들에서, 상이한 계층들은 단일 표준 코덱을 사용하여 코딩될 수도 있다 (예를 들어, 모든 계층들은 HEVC, SHVC, 또는 다른 코딩 표준을 사용하여 인코딩된다). 일부 예들에서, 상이한 계층들은 멀티-표준 코덱을 사용하여 코딩될 수도 있다. 예를 들어, 베이스 계층은 AVC 를 사용하여 코딩될 수도 있는 한편, 하나 이상의 인핸스먼트 계층들은 HEVC 표준에 대한 SHVC 및/또는 MV-HEVC 확장들을 사용하여 코딩될 수도 있다. 일반적으로, 계층은 VCL NAL 유닛들의 세트 및 비-VCL NAL 유닛들의 대응 세트를 포함한다. NAL 유닛들에는 특정 계층 ID 값이 할당된다. 계층들은 계층이 하위 계층에 의존할 수도 있다는 의미에서 계위적일 수 있다.

일반적으로, 계층은 VCL NAL 유닛들의 세트 및 비-VCL NAL 유닛들의 대응 세트를 포함한다. NAL 유닛들에는 특정 계층 ID 값이 할당된다. 계층들은 계층이 하위 계층에 의존할 수도 있는 의미로 계위적일 수 있다. 계층 세트는 자립 (self-contained) 비트스트림 내에서 표현되는 계층들의 세트를 지칭하며, 이는 계층 세트 내의 계층들이 디코딩 프로세스에서 계층 세트의 다른 계층들에 의존할 수 있만, 디코딩을 위한 임의의 다른 계층들에 의존하지 않는다는 것을 의미한다. 따라서, 계층 세트에서의 계층들은 비디오 콘텐츠를 표현할 수 있는 독립적인 비트스트림을 형성할 수 있다. 계층 세트에서의 계층들의 세트는 서브-비트스트림 추출 프로세스의 동작에 의해 다른 비트스트림으로부터 획득될 수도 있다. 계층 세트는 디코더가 소정의 파라미터들에 따라 동작하기를 원할 때 디코딩될 계층들의 세트에 대응할 수도 있다.

카메라 (예컨대, 어안 카메라 또는 다른 전방위 카메라) 에 의해 캡처된 비디오 데이터는 송신 및 저장을 위해 필요한 데이터의 양을 감소시키기 위해 코딩될 수 있다. 코딩 기법들은 예시적인 비디오 인코딩 및 디코딩 시스템 (예컨대, 시스템 (900)) 에서 구현될 수도 있다. 일부 예들에서, 시스템은 목적지 디바이스에 의해 나중에 디코딩될 인코딩된 비디오 데이터를 제공하는 소스 디바이스를 포함한다. 특히, 소스 디바이스는 컴퓨터 판독가능 매체를 통해 목적지 디바이스에 비디오 데이터를 제공한다. 소스 디바이스와 목적지 디바이스는 데스크톱 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 박스들, 이른바 "스마트" 폰들과 같은 전화기 핸드셋들, 이른바 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 비디오 스트리밍 디바이스 등을 포함한 매우 다양한 디바이스들 중 임의의 것을 포함할 수도 있다. 일부 경우들에서, 소스 디바이스 및 목적지 디바이스는 무선 통신을 위해 장착될 수도 있다.

인코딩 디바이스 (1004) 및 디코딩 디바이스 (1112) 의 특정 상세들이 도 10 및 도 11 에 각각 나타난다. 도 10 은 본 개시물에 기재된 기법들 중 하나 이상을 구현할 수도 있는 예시적인 인코딩 디바이스 (1004) 를 도시하는 블록 다이어그램이다. 인코딩 디바이스 (1004) 는, 예를 들어 본 명세서에 기재된 신택스 구조들 (예컨대, VPS, SPS, PPS, 또는 다른 신택스 엘리먼트들의 신택스 구조들) 을 생성할 수도 있다. 인코딩 디바이스 (1004) 는 비디오 슬라이스들 내의 비디오 블록들의 인트라 예측 및 인터 예측 코딩을 수행할 수도 있다. 이전에 설명된 바와 같이, 인트라 코딩은 주어진 비디오 프레임 또는 픽처 내에서 공간적 리던던시를 감소시키거나 또는 제거하기 위해 공간적 예측에 적어도 부분적으로 의존한다. 인터 코딩은, 비디오 시퀀스의 인접한 또는 주위의 프레임들 내의 시간적 리던던시를 감소시키거나 또는 제거하기 위해 시간적 예측에 적어도 부분적으로 의존한다. 인트라 모드 (I 모드) 는 여러 공간 기반 압축 모드들 중 임의의 것을 지칭할 수도 있다. 단방향 예측 (P 모드) 또는 양예측 (B 모드) 과 같은 인터 모드들은 여러 시간 기반 압축 모드들 중 임의의 것을 지칭할 수도 있다.

인코딩 디바이스 (1004) 는 파티셔닝 유닛 (35), 예측 프로세싱 유닛 (41), 필터 유닛 (63), 픽처 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 예측 프로세싱 유닛 (41) 은 모션 추정 유닛 (42), 모션 보상 유닛 (44), 및 인트라 예측 프로세싱 유닛 (46) 을 포함한다. 비디오 블록 재구성을 위해, 인코딩 디바이스 (1004) 는 역 양자화 유닛 (58), 역 변환 유닛 (60), 및 합산기 (62) 를 또한 포함한다. 필터 유닛 (63) 은 디블록킹 필터, 적응적 루프 필터 (ALF), 및 샘플 적응적 오프셋 (SAO) 필터와 같은 하나 이상의 루프 필터들을 표현하도록 의도된다. 도 10 에는 필터 유닛 (63) 이 인 루프 filter (in loop filter) 것으로 나타나 있지만, 다른 구성들에서, 필터 유닛 (63) 은 포스트 루프 필터로서 구현될 수도 있다. 포스트 프로세싱 디바이스 (57) 는 인코딩 디바이스 (1004) 에 의해 생성되는 인코딩된 비디오 데이터에 대한 부가 프로세싱을 수행할 수도 있다. 본 개시물의 기법들은 일부 경우들에서 인코딩 디바이스 (1004) 에 의해 구현될 수도 있다. 하지만, 다른 경우들에서, 본 개시물의 기법들 중 하나 이상은 포스트 프로세싱 디바이스 (57) 에 의해 구현될 수도 있다.

도 10 에 나타낸 바와 같이, 인코딩 디바이스 (1004) 는 비디오 데이터를 수신하고 파티셔닝 유닛 (35) 은 그 데이터를 비디오 블록들로 파티셔닝한다. 파티셔닝은 슬라이스들, 슬라이스 세그먼트들, 타일들, 또는 다른 더 큰 유닛들로의 파티셔닝뿐만 아니라, 예를 들어 LCU들 및 CU들의 쿼드트리 구조에 따른, 비디오 블록 파티셔닝을 또한 포함할 수도 있다. 인코딩 디바이스 (1004) 는 인코딩될 비디오 슬라이스 내의 비디오 블록들을 인코딩하는 컴포넌트들을 일반적으로 예시한다. 슬라이스는 다수의 비디오 블록들로 (그리고 아마도 타일들로 지칭되는 비디오 블록들의 세트들로) 나누어질 수도 있다. 예측 프로세싱 유닛 (41) 은 복수의 가능한 코딩 모드들 중 하나, 예컨대 복수의 인트라 코딩 모드들 중 하나 또는 복수의 인터 예측 코딩 모드들 중 하나를 에러 결과들 (예컨대, 코딩 레이트와 왜곡 레벨 등) 에 기초하여 현재 비디오 블록에 대해 선택할 수도 있다. 예측 프로세싱 유닛 (41) 은 결과적인 인트라 또는 인터 코딩된 블록을 잔차 블록 데이터를 생성하는 합산기 (50) 및 참조 픽처로서 사용하기 위해 인코딩된 블록을 재구성하는 합산기 (62) 에 제공할 수도 있다.

예측 프로세싱 유닛 (41) 내의 인트라 예측 프로세싱 유닛 (46) 은 코딩될 현재 블록과 동일한 프레임 또는 슬라이스에서의 하나 이상의 이웃한 블록들에 대해 현재 비디오 블록의 인트라 예측 코딩을 수행하여 공간적 압축을 제공할 수도 있다. 예측 프로세싱 유닛 (41) 내의 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 는 하나 이상의 참조 픽처들에서의 하나 이상의 예측성 블록들을 기준으로 현재 비디오 블록의 인터 예측 코딩을 수행하여 시간적 압축을 제공한다.

모션 추정 유닛 (42) 은 비디오 시퀀스에 대한 미리 결정된 패턴에 따라 비디오 슬라이스에 대해 인터 예측 모드를 결정하도록 구성될 수도 있다. 미리 결정된 패턴은 시퀀스에서의 비디오 슬라이스들을 P 슬라이스들, B 슬라이스들 또는 GPB 슬라이스들로서 지정할 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 고도로 통합될 수도 있지만, 개념적 목적들을 위해 별도로 예시된다. 모션 추정 유닛 (42) 에 의해 수행되는 모션 추정은 비디오 블록들에 대한 모션을 추정하는 모션 벡터들을 생성하는 프로세스이다. 모션 벡터는, 예를 들어 참조 픽처 내의 예측성 블록에 대한 현재 비디오 프레임 또는 픽처 내의 비디오 블록의 예측 유닛 (PU) 의 변위를 나타낼 수도 있다.

예측성 블록은 절대 차의 합 (sum of absolute difference, SAD), 제곱 차의 합 (sum of square difference, SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있는, 픽셀 차이에 관하여 코딩될 비디오 블록의 PU 에 근접하게 매칭하는 것으로 발견되는 블록이다. 일부 예들에서, 인코딩 디바이스 (1004) 는 픽처 메모리 (64) 에 저장된 참조 픽처들의 서브정수 픽셀 포지션들에 대한 값들을 산출할 수도 있다. 예를 들어, 인코딩 디바이스 (1004) 는 참조 픽처의 1/4 픽셀 포지션들, 1/8 픽셀 포지션들, 또는 다른 분수 픽셀 포지션들의 값들을 보간할 수도 있다. 따라서, 모션 추정 유닛 (42) 은 풀 (full) 픽셀 포지션들 및 분수 픽셀 포지션들에 대한 모션 검색을 수행하여 분수 픽셀 정밀도를 갖는 모션 벡터를 출력할 수도 있다.

모션 추정 유닛 (42) 은 PU 의 포지션 및 참조 픽처의 예측성 블록의 포지션을 비교함으로써 인터 코딩된 슬라이스에서의 비디오 블록의 PU 에 대한 모션 벡터를 산출한다. 참조 픽처는, 각각이 픽처 메모리 (64) 에 저장된 하나 이상의 참조 픽처들을 식별하는 제 1 참조 픽처 리스트 (List 0) 또는 제 2 참조 픽처 리스트 (List 1) 로부터 선택될 수도 있다. 모션 추정 유닛 (42) 은 산출된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 으로 전송한다.

모션 보상 유닛 (44) 에 의해 수행되는 모션 보상은 모션 추정에 의해 결정된 모션 벡터에 기초하여 예측성 블록을 페치하는 것 또는 생성하는 것, 아마도 서브 픽셀 정밀도로 보간들을 수행하는 것을 수반할 수도 있다. 현재 비디오 블록의 PU 에 대한 모션 벡터를 수신 시, 모션 보상 유닛 (44) 은 참조 픽처 리스트에서 모션 벡터가 가리키는 예측성 블록을 로케이팅할 수도 있다. 인코딩 디바이스 (1004) 는, 코딩되고 있는 현재 비디오 블록의 픽셀 값들로부터 예측성 블록의 픽셀 값들을 감산하여 픽셀 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 픽셀 차이 값들은 블록에 대한 잔차 데이터를 형성하고, 루마 및 크로마 차이 컴포넌트들 양자 모두를 포함할 수도 있다. 합산기 (50) 는 이 감산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 모션 보상 유닛 (44) 은 비디오 슬라이스의 비디오 블록들을 디코딩하는데 있어서 도 11 의 디코딩 디바이스 (1112) 에 의한 사용을 위해 비디오 블록들 및 비디오 슬라이스와 연관된 신택스 엘리먼트들을 또한 생성할 수도 있다.

도 10 의 인트라 예측 프로세싱 유닛 (46) 은, 상술한 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터 예측에 대한 대안으로서 현재 블록을 인트라 예측할 수도 있다. 특히, 인트라 예측 프로세싱 유닛 (46) 은 현재 블록을 인코딩하는데 사용하기 위한 인트라 예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라 예측 프로세싱 유닛 (46) 은 예를 들어, 별도의 인코딩 과정들 동안에 다양한 인트라 예측 모드들을 사용하여 현재 블록을 인코딩할 수도 있고, 인트라 예측 프로세싱 유닛 (46) (또는 일부 예들에서, 모드 선택 유닛 (40)) 은 테스트된 모드들로부터 사용할 적절한 인트라 예측 모드를 선택할 수도 있다. 예를 들어, 인트라 예측 프로세싱 유닛 (46) 은 다양한 테스트된 인트라 예측 모드들에 대한 레이트 왜곡 분석을 사용하여 레이트 왜곡 값들을 산출하고, 테스트된 모드들 중에서 최상의 레이트 왜곡 특성들을 갖는 인트라 예측 모드를 선택할 수도 있다. 레이트 왜곡 분석은 일반적으로, 인코딩된 블록과 이 인코딩된 블록을 생성하기 위해 인코딩되었던 원래의 인코딩되지 않은 블록 사이의 왜곡 (또는 에러) 의 양뿐만 아니라 인코딩된 블록을 생성하는데 사용된 비트 레이트 (다시 말하면, 비트들의 수) 를 결정한다. 인트라 예측 프로세싱 유닛 (46) 은 어느 인트라 예측 모드가 그 블록에 대한 최상의 레이트 왜곡 값을 나타내는지를 결정하기 위해 다양한 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터 비율들을 산출할 수도 있다.

어느 경우에나, 블록에 대한 인트라 예측 모드를 선택한 후, 인트라 예측 프로세싱 유닛 (46) 은 그 블록에 대한 선택된 인트라 예측 모드를 나타내는 정보를 엔트로피 인코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 인코딩 유닛 (56) 은 선택된 인트라 예측 모드를 나타내는 정보를 인코딩할 수도 있다. 인코딩 디바이스 (1004) 는 다양한 블록들에 대한 콘텍스트들을 인코딩하는 구성 데이터 정의들 뿐만 아니라 콘텍스트들의 각각을 위해 사용할 가장 가능성 있는 인트라 예측 모드, 인트라 예측 모드 인덱스 테이블, 및 수정된 인트라 예측 모드 인덱스 테이블의 표시들을 송신되는 비트스트림에 포함시킬 수도 있다. 비트스트림 구성 데이터는 복수의 인트라 예측 모드 인덱스 테이블들과 복수의 수정된 인트라 예측 모드 인덱스 테이블들 (코드워드 매핑 테이블들이라고 또한 지칭됨) 을 포함할 수도 있다.

예측 프로세싱 유닛 (41) 이 인터 예측 또는 인트라 예측 중 어느 하나를 통해 현재 비디오 블록에 대한 예측성 블록을 생성한 후, 인코딩 디바이스 (1004) 는 현재 비디오 블록으로부터 예측성 블록을 감산함으로써 잔차 비디오 블록을 형성한다. 잔차 블록에서의 잔차 비디오 데이터는, 하나 이상의 TU들에 포함되고 변환 프로세싱 유닛 (52) 에 인가될 수도 있다. 변환 프로세싱 유닛 (52) 은 이산 코사인 변환 (DCT) 또는 개념적으로 유사한 변환과 같은 변환을 사용하여 잔차 비디오 데이터를 잔차 변환 계수들로 변환시킨다. 변환 프로세싱 유닛 (52) 은 잔차 비디오 데이터를 픽셀 도메인으로부터 변환 도메인, 예컨대 주파수 도메인으로 변환할 수도 있다.

변환 프로세싱 유닛 (52) 은 결과적인 변환 계수들을 양자화 유닛 (54) 에 전송할 수도 있다. 양자화 유닛 (54) 은 변환 계수들을 양자화하여 비트 레이트를 더욱 감소시킨다. 양자화 프로세스는 그 계수들의 일부 또는 전부와 연관된 비트 깊이를 감소시킬 수도 있다. 양자화 정도는 양자화 파라미터를 조정함으로써 수정될 수도 있다. 일부 예들에서, 양자화 유닛 (54) 은 그 후, 양자화된 변환 계수들을 포함하는 행렬의 스캔을 수행할 수도 있다. 대안으로, 엔트로피 인코딩 유닛 (56) 이 그 스캔을 수행할 수도 있다.

양자화에 후속하여, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 콘텍스트 적응적 가변 길이 코딩 (CAVLC), 콘텍스트 적응적 이진 산술 코딩 (CABAC), 신택스 기반 콘텍스트 적응적 이진 산술 코딩 (SBAC), 확률 간격 파티셔닝 엔트로피 (PIPE) 코딩 또는 다른 엔트로피 인코딩 기법을 수행할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 인코딩에 후속하여, 인코딩된 비트스트림은 디코딩 디바이스 (1112) 로 송신되거나 또는 나중의 송신 또는 디코딩 디바이스 (1112) 에 의한 취출을 위해 아카이브될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 코딩되고 있는 현재 비디오 슬라이스에 대한 모션 벡터들 및 다른 신택스 엘리먼트들을 또한 엔트로피 인코딩할 수도 있다.

역 양자화 유닛 (58) 및 역 변환 프로세싱 유닛 (60) 은 각각 역 양자화 및 역 변환을 적용하여, 참조 픽처의 참조 블록으로서 나중에 사용하기 위해 픽셀 도메인에서 잔차 블록을 재구성한다. 모션 보상 유닛 (44) 은 참조 픽처 리스트 내의 참조 픽처들 중 하나의 참조 픽처의 예측성 블록에 잔차 블록을 가산함으로써 참조 블록을 산출할 수도 있다. 모션 보상 유닛 (44) 은 또한 하나 이상의 보간 필터들을 재구성된 잔차 블록에 적용하여 모션 추정에서의 사용을 위한 서브정수 픽셀 값들을 산출할 수도 있다. 합산기 (62) 는 재구성된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 가산하여, 픽처 메모리 (64) 에서의 저장을 위한 참조 블록을 생성한다. 참조 블록은 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 후속 비디오 프레임 또는 픽처에서의 블록을 인터 예측하기 위한 참조 블록으로서 사용될 수도 있다.

이러한 방식으로, 도 10 의 인코딩 디바이스 (1004) 는 인코딩된 비디오 비트스트림에 대한 신택스를 생성하도록 구성된 비디오 인코더의 일 예를 나타낸다. 인코딩 디바이스 (1004) 는, 예를 들어, 상술한 바와 같은 VPS, SPS, 및 PPS 파라미터 세트들을 생성할 수도 있다. 인코딩 디바이스 (1004) 는 도 10 및 도 11 을 참조하여 상술한 프로세스들을 포함하는 본 명세서에 기재된 기법들의 임의의 것을 수행할 수도 있다. 본 개시물의 기법들은 일반적으로 인코딩 디바이스 (1004) 에 관하여 설명되었지만, 위에 언급된 바와 같이, 본 개시물의 기법들 중 일부는 포스트 프로세싱 디바이스 (57) 에 의해 또한 구현될 수도 있다.

도 11 은 일 예의 비디오 인코더 (1112) 를 도시하는 블록 다이어그램이다. 디코딩 디바이스 (1112) 는 엔트로피 디코딩 유닛 (80), 예측 프로세싱 유닛 (81), 역 양자화 유닛 (86), 역 변환 프로세싱 유닛 (88), 합산기 (90), 필터 유닛 (91), 및 픽처 메모리 (92) 를 포함한다. 예측 프로세싱 유닛 (81) 은 모션 보상 유닛 (82) 및 인트라 예측 프로세싱 유닛 (84) 을 포함한다. 디코딩 디바이스 (1112) 는, 일부 예들에서, 도 10 으로부터 인코딩 디바이스 (1004) 에 관하여 기재된 인코딩 패스에 일반적으로 상반되는 디코딩 패스를 수행할 수도 있다.

디코딩 프로세스 동안, 도 11 의 디코딩 디바이스 (1112) 는 도 10 의 인코딩 디바이스 (1004) 에 의해 전송된 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관된 신택스 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림을 수신한다. 일부 실시형태들에서, 도 11 의 디코딩 디바이스 (1112) 는 인코딩 디바이스 (1004) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 일부 실시형태들에서, 디코딩 디바이스 (1112) 는, 예컨대 위에서 설명된 기법들 중 하나 이상을 구현하도록 구성되는 서버, 미디어 인식 네트워크 엘리먼트 (MANE), 비디오 에디터/스플라이서, 또는 다른 그러한 디바이스와 같은 네트워크 엔티티 (79) 로부터 인코딩된 비디오 비트스트림을 수신할 수도 있다. 네트워크 엔티티 (79) 는 인코딩 디바이스 (1004) 를 포함할 수도 있거나 또는 포함하지 않을 수도 있다. 본 개시물에 기재된 기법들 중 일부는 네트워크 (79) 가 인코딩된 비디오 비트스트림을 디코딩 디바이스 (1112) 로 송신하기 전에 네트워크 엔티티 (79) 에 의해 구현될 수도 있다. 일부 비디오 디코딩 시스템들에서, 네트워크 엔티티 (79) 와 디코딩 디바이스 (1112) 는 별개의 디바이스들의 부분들일 수도 있지만, 다른 경우들에서, 네트워크 엔티티 (79) 에 관하여 설명된 기능은 디코딩 디바이스 (1112) 를 포함하는 동일한 디바이스에 의해 구현될 수도 있다.

디코딩 디바이스 (1112) 의 엔트로피 디코딩 유닛 (80) 은 그 비트스트림을 엔트로피 디코딩하여 양자화된 계수들, 모션 벡터들, 및 다른 신택스 엘리먼트들을 생성한다. 엔트로피 디코딩 유닛 (80) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 예측 프로세싱 유닛 (81) 에 포워딩한다. 디코딩 디바이스 (1112) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다. 엔트로피 디코딩 유닛 (80) 은 VPS, SPS, 및 PPS 세트들과 같은 하나 이상의 파라미터 세트들에서의 고정 길이 신택스 엘리먼트들과 가변 길이 신택스 엘리먼트들 양자 모두를 프로세싱하고 파싱할 수도 있다.

비디오 슬라이스가 인트라 코딩된 (I) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (81) 의 인트라 예측 프로세싱 유닛 (84) 은 현재 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 현재 프레임 또는 픽처의 이전에 디코딩된 블록들로부터의 시그널링된 인트라 예측 모드 및 데이터에 기초하여 생성할 수도 있다. 비디오 프레임이 인터 코딩된 (즉, B, P, 또는 GPB) 슬라이스로서 코딩되는 경우, 예측 프로세싱 유닛 (81) 의 모션 보상 유닛 (82) 은 엔트로피 디코딩 유닛 (80) 으로부터 수신된 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여, 현재 비디오 슬라이스의 비디오 블록에 대한 예측성 블록들을 생성한다. 예측성 블록들은 참조 픽처 리스트들 중 하나 내의 참조 픽처들 중 하나로부터 생성될 수도 있다. 디코딩 디바이스 (1112) 는 픽처 메모리 (92) 에 저장된 참조 픽처들에 기초하여 디폴트 구축 기법들을 사용하여, 참조 프레임 리스트들 (List 0 및 List 1) 을 구축할 수도 있다.

모션 보상 유닛 (82) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱함으로써 현재 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 그 예측 정보를 사용하여 디코딩되고 있는 현재 비디오 블록에 대한 예측성 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (82) 은 파라미터 세트에서의 하나 이상의 신택스 엘리먼트들을 사용하여, 비디오 슬라이스의 비디오 블록들을 코딩하는데 사용된 예측 모드 (예컨대, 인트라 예측 또는 인터 예측), 인터 예측 슬라이스 유형 (예컨대, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 하나 이상의 참조 픽처 리스트들에 대한 구축 정보, 슬라이스의 각각의 인터 인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터 코딩된 비디오 블록에 대한 인터 예측 스테이터스, 및 현재 비디오 슬라이스에서의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정할 수도 있다.

모션 보상 유닛 (82) 은 보간 필터들에 기초하여 보간을 또한 수행할 수도 있다. 모션 보상 유닛 (82) 은 비디오 블록들의 인코딩 동안에 인코딩 디바이스 (1004) 에 의해 사용된 바와 같은 보간 필터들을 사용하여 참조 블록들의 부정수 픽셀들에 대한 보간된 값들을 산출할 수도 있다. 이 경우, 모션 보상 유닛 (82) 은 수신된 신택스 엘리먼트들로부터 인코딩 디바이스 (1004) 에 의해 사용된 보간 필터들을 결정할 수도 있고, 그 보간 필터들을 사용하여 예측성 블록들을 생성할 수도 있다.

역 양자화 유닛 (86) 은 비트스트림에서 제공되고 엔트로피 디코딩 유닛 (80) 에 의해 디코딩된 양자화된 변환 계수들을 역 양자화, 즉, 양자화해제한다. 역 양자화 프로세스는 양자화 정도와, 마찬가지로 적용되어야 할 역 양자화의 정도를 결정하기 위해, 비디오 슬라이스에서의 각각의 비디오 블록에 대해 인코딩 디바이스 (1004) 에 의해 산출된 양자화 파라미터의 사용을 포함할 수도 있다. 역 변환 프로세싱 유닛 (88) 은 픽셀 도메인에서 잔차 블록들을 생성하기 위하여 역 변환 (예컨대, 역 DCT 또는 다른 적합한 역 변환), 역 정수 변환, 또는 개념적으로 유사한 역 변환 프로세스를 변환 계수들에 적용한다.

모션 보상 유닛 (82) 이 현재 비디오 블록에 대한 예측성 블록을 모션 벡터들 및 다른 신택스 엘리먼트들에 기초하여 생성한 후, 디코딩 디바이스 (1112) 가 역 변환 프로세싱 유닛 (88) 으로부터의 잔차 블록들을 모션 보상 유닛 (82) 에 의해 생성된 대응하는 예측성 블록들과 합산함으로써 디코딩된 비디오 블록을 형성한다. 합산기 (90) 는 이 합산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다. 원한다면, 루프 필터들이 (코딩 루프에서 또는 코딩 루프 후에 중 어느 하나에서) 픽셀 트랜지션 (transition) 들을 평활화 하기 위해, 또는 그렇지 않으면 비디오 품질을 개선하기 위해 또한 사용될 수도 있다. 필터 유닛 (91) 은 블록화제거 필터, 적응적 루프 필터 (ALF), 및 샘플 적응 오프셋 (SAO) 필터와 같은 하나 이상의 루프 필터들을 표현하도록 의도된다. 도 11 에서는 필터 유닛 (91) 이 인 루프 필터인 것으로 나타나 있지만, 다른 구성들에서, 필터 유닛 (91) 은 포스트 루프 필터로서 구현될 수도 있다. 주어진 프레임 또는 픽처에서의 디코딩된 비디오 블록들은 그 후 픽처 메모리 (92) 에 저장되며, 그 픽처 메모리는 후속 모션 보상을 위해 사용되는 참조 픽처들을 저장한다. 픽처 메모리 (92) 는 디스플레이 디바이스, 예컨대 도 9 에 나타낸 비디오 목적지 디바이스 (922) 상의 나중의 프레젠테이션을 위해 디코딩된 비디오를 또한 저장한다.

상술한 기재에서, 본 출원의 양태들이 그 특정 실시형태들을 참조하여 설명되지만, 당업자들은 본 개시물이 그렇게 제한되지 않은 것임을 인식할 것이다. 따라서, 본 출원의 예시적인 실시형태들이 본 명세서에 상세히 기재되었지만, 발명적 개념들은 달리 다양하게 실시되고 채용될 수도 있다는 것과, 첨부된 청구항들은 종래 기술에 의해 제한된 것을 제외하고, 이러한 변경들을 포함하도록 해석되는 것으로 의도된 것임이 이해될 것이다. 상술한 개시물의 다양한 특징들 및 양태들은 개별적으로 또는 공동으로 사용될 수도 있다. 게다가, 실시형태들은 명세서의 더 넓은 사상 및 범위로부터 벗어나지 않으면서 본 명세서에서 기재된 것들을 넘어서는 임의의 수의 환경들 및 어플리케이션들에서 활용될 수 있다. 따라서, 명세서 및 도면들은 한정적이기 보다는 예시적인 것으로 간주되어야 한다. 예시 목적으로, 방법들은 특정 순서로 설명되었다. 대안의 실시형태들에서, 방법들은 설명된 것과 상이한 순서로 수행될 수도 있다.

컴포넌트들이 소정의 동작들을 수행 "하도록 구성되는" 것으로서 설명되는 경우, 이러한 구성은, 예를 들어, 전자 회로들 또는 다른 하드웨어를 동작을 수행하도록 설계함으로써, 프로그램가능 전자 회로들 (예컨대, 마이크로프로세서들, 또는 다른 적합한 전자 회로들) 을 동작을 수행하도록 프로그래밍함으로써, 또는 그것들의 임의의 조합으로 달성될 수 있다.

본 명세서에 개시된 실시형태들과 관련하여 설명되는 다양한 예시적인 논리 블록들, 모듈들, 회로들, 및 알고리즘 단계들은 전자 하드웨어, 컴퓨터 소프트웨어, 또는 양자의 조합들로 구현될 수도 있다. 하드웨어 및 소프트웨어의 이러한 상호교환성을 명확히 예시하기 위하여, 다양한 예시적인 컴포넌트들, 블록들, 모듈들, 회로들, 및 단계들이 일반적으로 이들의 기능의 관점에서 상술되었다. 이러한 기능이 하드웨어 또는 소프트웨어 중 어느 것으로 구현되는지는 전체 시스템에 부과되는 특정 어플리케이션 및 설계 제약들에 의존한다. 당업자들은 설명된 기능성을 각각의 특정 어플리케이션에 대하여 다양한 방식들로 구현할 수도 있지만, 이러한 구현 결정들은 본 개시물의 범위로부터의 벗어남을 야기하는 것으로서 해석되지 않아야 한다.

본 명세서에서 설명된 기법들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수도 있다. 이러한 기법들은 범용 컴퓨터들, 무선 통신 디바이스 핸드셋들, 또는 무선 통신 디바이스 핸드셋들 및 다른 디바이스들에서의 어플리케이션을 포함한 다수의 용도들을 갖는 집적회로 디바이스들과 같은 다양한 디바이스들 중 임의의 것으로 구현될 수도 있다. 모듈들 또는 컴포넌트들로서 설명되는 임의의 특징부들은 통합형 로직 디바이스에 함께 또는 별개이지만 상호작용가능한 로직 디바이스들로서 별도로 구현될 수도 있다. 소프트웨어로 구현된다면, 이 기법들은, 실행될 때 상술한 방법들 중의 하나 이상을 수행하는 명령들을 포함한 프로그램 코드를 포함하는 컴퓨터 판독가능 데이터 저장 매체에 의해 적어도 부분적으로 실현될 수도 있다. 컴퓨터 판독가능 데이터 저장 매체는 패키징 머티리얼 (material) 들을 포함할 수도 있는 컴퓨터 프로그램 제품의 부분을 형성할 수도 있다. 컴퓨터 판독가능 매체는 메모리 또는 데이터 저장 매체, 예컨대 동기식 동적 랜덤 액세스 메모리 (SDRAM) 와 같은 랜덤 액세스 메모리 (RAM), 판독전용 메모리 (ROM), 비휘발성 랜덤 액세스 메모리 (NVRAM), 전기적 소거가능 프로그램가능 판독전용 메모리 (EEPROM), 플래시 메모리, 자기 또는 광학적 데이터 저장 매체 등을 포함할 수도 있다. 기법들은 부가하여 또는 대안으로, 컴퓨터에 의해 액세스, 판독, 및/또는 실행될 수 있는 명령들 또는 데이터 구조들의 형태로 프로그램 코드를 반송하거나 또는 통신하는 컴퓨터 판독가능 통신 매체, 예컨대 전파되는 신호들 또는 파들에 의해 적어도 부분적으로 실현될 수도 있다.

프로그램 코드는 하나 이상의 프로세서들, 예컨대 하나 이상의 디지털 신호 프로세서들 (DSP들), 범용 마이크로프로세서들, 주문형 집적회로들 (ASIC들), 필드 프로그램가능 로직 어레이들 (FPGA들), 또는 다른 동등한 집적 또는 이산 로직 회로를 포함할 수도 있는 프로세서에 의해 실행될 수도 있다. 이러한 프로세서는 본 개시물에 기재된 기법들 중 임의의 것을 수행하도록 구성될 수도 있다. 범용 프로세서는 마이크로프로세서일 수도 있지만, 대안으로 프로세서는 기존의 임의의 프로세서, 제어기, 마이크로제어기, 또는 상태 머신일 수도 있다. 프로세서는 컴퓨팅 디바이스들의 조합, 예컨대, DSP 및 마이크로프로세서의 조합, 복수의 마이크로프로세서들, DSP 코어와 협력하는 하나 이상의 마이크로프로세서들, 또는 임의의 다른 이러한 구성으로 또한 구현될 수도 있다. 따라서, 본 명세서에서 사용된는 바와 같은 용어 "프로세서" 는 상기 구조, 상기 구조의 임의의 조합, 또는 본원에서 설명된 기법들의 구현에 적합한 임의의 다른 구조 또는 장치 중 임의의 것을 지칭할 수도 있다. 또한, 일부 양태들에서, 본원에 기재된 기능은 인코딩 및 디코딩을 위해 구성된 전용 소프트웨어 모듈들 또는 하드웨어 모듈들 내에 제공될 수도 있거나, 또는 결합형 비디오 인코더-디코더 (CODEC) 에 통합될 수도 있다.

본 명세서에 논의된 코딩 기법들은 일 예의 비디오 인코딩 및 디코딩 시스템에서 실시될 수도 있다. 시스템은 목적지 디바이스에 의해 나중에 디코딩될 인코딩된 비디오 데이터를 제공하는 소스 디바이스를 포함한다. 특히, 소스 디바이스는 비디오 데이터를 목적지 디바이스에 컴퓨터 판독가능 매체를 통해 제공한다. 소스 디바이스와 목적지 디바이스는 데스크톱 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 박스들, 이른바 "스마트" 폰들과 같은 전화기 핸드셋들, 이른바 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 비디오 스트리밍 디바이스들 등을 포함한 매우 다양한 디바이스들 중 임의의 것을 포함할 수도 있다. 일부 경우들에서, 소스 디바이스와 목적지 디바이스는 무선 통신을 위해 장착될 수도 있다.

목적지 디바이스는 컴퓨터 판독가능 매체를 통해 디코딩될 인코딩된 비디오 데이터를 수신할 수도 있다. 컴퓨터 판독가능 매체는 소스 디바이스로부터 목적지 디바이스로 인코딩된 비디오 데이터를 이동시킬 수 있는 임의 유형의 매체 또는 디바이스를 포함할 수도 있다. 일 예에서, 컴퓨터 판독가능 매체는, 소스 디바이스가 인코딩된 비디오 데이터를 직접적으로 목적지 디바이스에 실시간으로 송신하는 것을 가능하게 하는 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 통신 표준, 예컨대 무선 통신 프로토콜에 따라 변조되고 목적지 디바이스로 송신될 수도 있다. 통신 매체는 임의의 무선 또는 유선 통신 매체, 예컨대 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들을 포함할 수도 있다. 통신 매체는 패킷 기반 네트워크, 예컨대 국부 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크의 부분을 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스로부터 목적지 디바이스로의 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.

일부 예들에서, 인코딩된 데이터는 출력 인터페이스로부터 저장 디바이스로 출력될 수도 있다. 마찬가지로, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스로부터 액세스될 수도 있다. 저장 디바이스는 하드 드라이브, 블루-레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체들과 같은 다양한 분산형 또는 국부적으로 액세스되는 데이터 저장 매체들 중 임의의 것을 포함할 수도 있다. 추가의 예에서, 저장 디바이스는 소스 디바이스에 의해 생성된 인코딩된 비디오를 저장할 수도 있는 파일 서버 또는 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스는 저장 디바이스로부터의 저장된 비디오 데이터에 스트리밍 또는 다운로드를 통해 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스로 송신할 수 있는 임의의 유형의 서버일 수도 있다. 예시적인 파일 서버들은 웹 서버 (예컨대, 웹사이트용), FTP 서버, 네트워크 부속 스토리지 (NAS) 디바이스들, 또는 국부 디스크 드라이브를 포함한다. 목적지 디바이스는 인터넷 접속을 포함하는 임의의 표준 데이터 접속을 통해 인코딩된 비디오 데이터에 액세스할 수도 있다. 이는 무선 채널 (예컨대, Wi-Fi 접속), 유선 접속 (예컨대, DSL, 케이블 모뎀 등), 또는 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하기에 적합한 양자 모두의 조합을 포함할 수도 있다. 저장 디바이스로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 그 조합일 수도 있다.

본 개시물의 기법들은 무선 어플리케이션들 또는 셋팅들로 반드시 제한되지는 않는다. 그 기법들은 다양한 멀티미디어 어플리케이션들 중 임의의 것, 예컨대 OTA (over-the-air) 텔레비전 브로드캐스트, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, 인터넷 스트리밍 비디오 송신들, 예컨대 HTTP 를 통한 동적 적응적 스트리밍 (DASH), 데이터 저장 매체 상에 인코딩된 디지털 비디오, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 어플리케이션들의 지원으로 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 시스템은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 비디오 텔레포니와 같은 어플리케이션들을 지원하기 위해 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.

하나의 예에서 소스 디바이스는 비디오 소스, 비디오 인코더, 및 출력 인터페이스를 포함한다. 목적지 디바이스는 입력 인터페이스, 비디오 디코더, 및 디스플레이 디바이스를 포함할 수도 있다. 소스 디바이스의 비디오 인코더는 본 명세서에서 개시된 기법들을 적용하도록 구성될 수도 있다. 다른 예들에서, 소스 디바이스 및 목적지 디바이스는 다른 컴포넌트들 또는 배열들을 포함할 수도 있다. 예를 들어, 소스 디바이스는 외부 비디오 소스, 예컨대 외부 카메라로부터 비디오 데이터를 수신할 수도 있다. 마찬가지로, 목적지 디바이스는, 통합형 디스플레이 디바이스를 포함하는 것이 아니라, 외부 디스플레이 디바이스와 인터페이싱할 수도 있다.

위의 예시의 시스템은 단지 하나의 예이다. 비디오 데이터를 병렬로 프로세싱하기 위한 기법들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 디바이스에 의해 수행될 수도 있다. 본 개시물의 기법들은 일반적으로 비디오 인코딩 디바이스에 의해 수행되지만, 그 기법들은 통상 "코덱 (CODEC)" 이라고 지칭되는 비디오 인코더/디코더에 의해 또한 수행될 수도 있다. 또한, 본 개시물의 기법들은 비디오 프리프로세서 (preprocessor) 에 의해 또한 수행될 수도 있다. 소스 디바이스 및 목적지 디바이스는, 소스 디바이스가 목적지 디바이스로의 송신을 위해 코딩된 비디오 데이터를 생성하는 그러한 코딩 디바이스들의 예들일 뿐이다. 일부 예들에서, 소스 및 목적지 디바이스들은 그 디바이스들의 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하도록 실질적으로 대칭적 방식으로 동작할 수도 있다. 따라서, 예시적인 시스템들은, 예컨대 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 또는 비디오 텔레포니를 위해 비디오 디바이스들 사이의 일방향 또는 양방향 비디오 송신을 지원할 수도 있다.

비디오 소스는 비디오 캡처 디바이스, 예컨대 비디오 카메라, 이전에 캡처된 비디오를 포함하는 비디오 아카이브, 및/또는 비디오 콘텐츠 제공자로부터의 비디오를 수신하는 비디오 피드 인터페이스를 포함할 수도 있다. 추가의 대안으로서, 비디오 소스는 컴퓨터 그래픽 기반 데이터를, 소스 비디오, 또는 라이브 비디오, 아카이브된 비디오, 및 컴퓨터 생성 비디오의 조합으로서 생성할 수도 있다. 일부 경우들에서, 비디오 소스가 비디오 카메라이면, 소스 디바이스와 목적지 디바이스가 이른바 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 하지만, 위에 언급된 바와 같이, 본 개시물에서 설명되는 기법들은 일반적으로 비디오 코딩에 적용가능할 수도 있고, 무선 및/또는 유선 어플리케이션들에 적용될 수도 있다. 각각의 경우에서, 캡처된, 사전-캡처된 (pre-captured), 또는 컴퓨터 생성된 비디오는 비디오 인코더에 의해 인코딩될 수도 있다. 인코딩된 비디오 정보는 그러면 출력 인터페이스에 의해 컴퓨터 판독가능 매체 상으로 출력될 수도 있다.

언급된 바와 같이, 컴퓨터 판독가능 매체는 일시적인 매체들, 예컨대 무선 브로드캐스트 또는 유선 네트워크 송신, 또는 저장 매체들 (다시 말하면, 비일시적 (non-transitory) 저장 매체들), 예컨대 하드 디스크, 플래시 드라이브, 콤팩트 디스크, 디지털 비디오 디스크, 블루레이 디스크, 또는 다른 컴퓨터 판독가능 매체들을 포함할 수도 있다. 일부 예들에서, 네트워크 서버 (도시되지 않음) 는 소스 디바이스로부터 인코딩된 비디오 데이터를 수신하고 그 인코딩된 비디오 데이터를 목적지 디바이스에, 예컨대, 네트워크 송신을 통해 제공할 수도 있다. 유사하게, 매체 생산 설비, 예컨대 디스크 스탬핑 설비의 컴퓨팅 디바이스는, 소스 디바이스로부터 인코딩된 비디오 데이터를 수신하고 그 인코딩된 비디오 데이터를 포함하는 디스크를 생산할 수도 있다. 따라서, 컴퓨터 판독가능 매체는 다양한 예들에서, 다양한 형태들의 하나 이상의 컴퓨터 판독가능 매체들을 포함한다고 이해될 수도 있다.

목적지 디바이스의 입력 인터페이스는 컴퓨터 판독가능 매체로부터 정보를 수신한다. 컴퓨터 판독가능 매체의 정보는, 블록들 및 다른 코딩된 유닛들, 예컨대, 픽처들의 그룹 (GOP) 의 특성들 및/또는 프로세싱을 기술하는 신택스 엘리먼트들을 포함하는, 비디오 디코더에 의해 또한 사용되는, 비디오 인코더에 의해 정의된 신택스 정보를 포함할 수도 있다. 디스플레이 디바이스가 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 캐소드 레이 튜브 (CRT), 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 다른 유형의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 임의의 것을 포함할 수도 있다. 어플리케이션의 다양한 실시형태들이 설명되어 있다.

Claims (35)

1. 360 도 비디오 데이터를 프로세싱하는 방법으로서,
   전방위 카메라에 의해 캡처된 2 차원 비디오 데이터를 획득하는 단계로서, 상기 2 차원 비디오 데이터는 장면의 이미지를 포함하고, 상기 이미지에서, 상기 장면은 상기 이미지의 원형 영역으로 워핑된, 상기 2 차원 비디오 데이터를 획득하는 단계;
   3 차원 반구면 표현에 상기 이미지를 매핑하는 단계로서, 상기 이미지를 매핑하는 것은 상기 3 차원 반구면 표현 상의 대응 위치들에 상기 이미지의 원형 영역에서의 픽셀들을 매핑하는 것으로서, 상기 이미지를 매핑하는 것은 상기 워핑의 비선형성을 사용하여 2 차원 이미지에서의 픽셀에 대해 좌표들을 결정하는 것에 의해 상기 장면의 워핑을 보정하는, 상기 픽셀들을 매핑하는 것, 및 결정된 상기 좌표들을 상기 매핑에서 사용하는 것을 포함하고; 상기 비디오 데이터는 인코딩된 비트스트림으로부터 획득되고, 상기 인코딩된 비트스트림은 상기 워핑을 기술하는 하나 이상의 파라미터들을 포함하고, 상기 이미지를 매핑하는 것은 상기 하나 이상의 파라미터들을 사용하는 것을 포함하는, 상기 이미지를 매핑하는 단계; 및
   360 도 비디오 프레젠테이션에서 상기 3 차원 반구면 표현을 사용하는 단계를 포함하는, 360 도 비디오 데이터를 프로세싱하는 방법.
2. 제 1 항에 있어서,
   상기 이미지를 매핑하는 것은 상기 3 차원 반구면 표현 상의 대응 지점에 상기 이미지에서의 지점을 투영하기 위해 다항식 방정식을 사용하는 것을 포함하고, 상기 이미지에서의 지점은 상기 3 차원 반구면 표현 상의 상기 지점에 매핑하도록 픽셀을 제공하는, 360 도 비디오 데이터를 프로세싱하는 방법.
3. 제 1 항에 있어서,
   상기 이미지는 180 도보다 큰 시야를 포함하고,
   상기 시야에 따라 스케일링된 반경 값을 사용하여 상기 2 차원 이미지에서의 픽셀에 대해 좌표들을 조정하는 단계; 및
   조정된 상기 좌표들을 상기 매핑에서 사용하는 단계를 더 포함하는, 360 도 비디오 데이터를 프로세싱하는 방법.
4. 제 1 항에 있어서,
   상기 이미지는 적어도 180 도의 시야를 포함하는, 360 도 비디오 데이터를 프로세싱하는 방법.
5. 제 1 항에 있어서,
   상기 전방위 카메라는 어안 렌즈를 포함하는, 360 도 비디오 데이터를 프로세싱하는 방법.
6. 제 1 항에 있어서,
   상기 하나 이상의 파라미터들은 상기 인코딩된 비트스트림에서 보충 강화 정보 (supplemental enhancement information; SEI) 메시지로 인코딩되는, 360 도 비디오 데이터를 프로세싱하는 방법.
7. 제 1 항에 있어서,
   상기 인코딩된 비트스트림은 ISO 기반 미디어 파일 포맷에 따라 포맷된 파일에 포함되고, 상기 하나 이상의 파라미터들은 상기 파일에서의 구조로 인코딩되는, 360 도 비디오 데이터를 프로세싱하는 방법.
8. 제 1 항에 있어서,
   상기 하나 이상의 파라미터들은 다항식 차수, 다항식 계수, 다항식 스케일링 파라미터, 또는 매핑 스케일링 파라미터 중 적어도 하나 이상을 포함하는, 360 도 비디오 데이터를 프로세싱하는 방법.
9. 인코딩된 360 도 비디오 데이터를 프로세싱하기 위한 장치로서,
   전방위 카메라에 의해 캡처된 2 차원 비디오 데이터를 저장하도록 구성된 메모리; 및
   프로세서를 포함하고,
   상기 프로세서는,
   상기 2 차원 비디오 데이터를 획득하는 것으로서, 상기 2 차원 비디오 데이터는 장면의 이미지를 포함하고, 상기 이미지에서, 상기 장면은 상기 이미지의 원형 영역으로 워핑된, 상기 2 차원 비디오 데이터를 획득하고;
   3 차원 반구면 표현에 상기 이미지를 매핑하는 것으로서, 상기 이미지를 매핑하는 것은 상기 3 차원 반구면 표현 상의 대응 위치들에 상기 이미지의 원형 영역에서의 픽셀들을 매핑하는 것으로서, 상기 이미지를 매핑하는 것은 상기 워핑의 비선형성을 사용하여 2 차원 이미지에서의 픽셀에 대해 좌표들을 결정하는 것에 의해 상기 장면의 워핑을 보정하는, 상기 픽셀들을 매핑하는 것, 및 결정된 상기 좌표들을 상기 매핑에서 사용하는 것을 포함하고; 상기 비디오 데이터는 인코딩된 비트스트림으로부터 획득되고, 상기 인코딩된 비트스트림은 상기 워핑을 기술하는 하나 이상의 파라미터들을 포함하고, 상기 이미지를 매핑하는 것은 상기 하나 이상의 파라미터들을 사용하는 것을 포함하는, 상기 이미지를 매핑하며; 그리고
   360 도 비디오 프레젠테이션에서 상기 3 차원 반구면 표현을 사용하도록 구성되는, 인코딩된 360 도 비디오 데이터를 프로세싱하기 위한 장치.
10. 제 9 항에 있어서,
    상기 이미지를 매핑하는 것은 상기 3 차원 반구면 표현 상의 대응 지점에 상기 이미지에서의 지점을 투영하기 위해 다항식 방정식을 사용하는 것을 포함하고, 상기 이미지에서의 지점은 상기 3 차원 반구면 표현 상의 상기 지점에 매핑하도록 픽셀을 제공하는, 인코딩된 360 도 비디오 데이터를 프로세싱하기 위한 장치.
11. 제 9 항에 있어서,
    상기 이미지는 180 도보다 큰 시야를 포함하고, 상기 프로세서는 또한,
    상기 시야에 따라 스케일링된 반경 값을 사용하여 상기 2 차원 이미지에서의 픽셀에 대해 좌표들을 조정하고; 그리고
    조정된 상기 좌표들을 상기 매핑에서 사용하도록 구성되는, 인코딩된 360 도 비디오 데이터를 프로세싱하기 위한 장치.
12. 제 9 항에 있어서,
    상기 하나 이상의 파라미터들은 상기 인코딩된 비트스트림에서 보충 강화 정보 (SEI) 메시지로 인코딩되는, 인코딩된 360 도 비디오 데이터를 프로세싱하기 위한 장치.
13. 제 9 항에 있어서,
    상기 인코딩된 비트스트림은 ISO 기반 미디어 파일 포맷에 따라 포맷된 파일에 포함되고, 상기 하나 이상의 파라미터들은 상기 파일에서의 구조로 인코딩되는, 인코딩된 360 도 비디오 데이터를 프로세싱하기 위한 장치.
14. 제 9 항에 있어서,
    모바일 디바이스를 더 포함하고,
    상기 모바일 디바이스는 상기 전방위 카메라를 포함하는, 인코딩된 360 도 비디오 데이터를 프로세싱하기 위한 장치.
15. 명령들이 저장된 비일시적 컴퓨터 판독가능 저장 매체로서,
    상기 명령들은 하나 이상의 프로세서들에 의해 실행될 때, 상기 하나 이상의 프로세서들로 하여금, 제 1 항 내지 제 8 항 중 어느 한 항의 방법을 착수하게 하는, 비일시적 컴퓨터 판독가능 저장 매체.
16. 삭제
17. 삭제
18. 삭제
19. 삭제
20. 삭제
21. 삭제
22. 삭제
23. 삭제
24. 삭제
25. 삭제
26. 삭제
27. 삭제
28. 삭제
29. 삭제
30. 삭제
31. 삭제
32. 삭제
33. 삭제
34. 삭제
35. 삭제

Images