KR20220028162A - 비디오 코딩 및 디코딩 - Google Patents

Abstract

본 발명은 인코딩된 비디오 스트림에서 아핀 모드를 시그널링하는 것에 관한 것으로; 특히 현재 블록에 이웃하는 블록들에 대응하는 병합 후보들의 리스트를 결정하는 단계; 및 상기 현재 블록에 대한 아핀 모드를 시그널링하는 단계를 포함하고; 상기 아핀 모드를 시그널링하는 단계는 데이터 스트림으로부터 컨텍스트 인코딩된 플래그를 디코딩하는 단계를 포함하고, 상기 플래그에 대한 컨텍스트 변수는 상기 이웃하는 블록들이 아핀 모드를 사용하는지의 여부에 기초하여 결정된다. 관련된 인코딩 및 디코딩 방법들과 디바이스들이 또한 개시된다.

Description

비디오 코딩 및 디코딩 {VIDEO CODING AND DECODING}

본 발명은 비디오 코딩 및 디코딩에 관한 것이다.

최근에, JVET(Joint Video Experts Team), MPEG 및 ITU-T Study Group 16's VCEG에 의해 형성된 협력 팀은 VVC(Versatile Video Coding)로서 지칭되는 새로운 비디오 코딩 표준에 대한 작업을 시작했다. VVC의 목표는 기존의 HEVC 표준에 비해 압축 성능의 상당한 개선(즉, 통상적으로 이전보다 2배 많음)을 제공하고 2020에 완료하는 것이다. 주요 대상 애플리케이션들 및 서비스들은 360도 및 높은 동적 범위(HDR) 비디오들을 포함하지만, 이들에 제한되지 않는다. 전체적으로, JVET는 독립적인 테스트 랩들에 의해 수행된 공식적인 주관적 테스트들을 사용하여 32개의 조직으로부터의 응답들을 평가했다. 일부 제안들에서는 HEVC를 사용하는 것과 비교할 때 통상적으로 40% 이상의 압축 효율 이득을 보여주었다. UHD(ultra-high definition) 비디오 테스트 자료에서 특별한 효과가 나타났다. 따라서, 최종 표준의 목표 50%를 훨씬 넘은 압축 효율 이득을 기대할 수 있다.

JVET 탐사 모델(JEM)은 모든 HEVC 툴을 사용한다. HEVC에 존재하지 않는 추가의 툴은 모션 보상을 적용할 때 '아핀 모션 모드(affine motion mode)'를 사용하는 것이다. HEVC에서의 모션 보상은 병진들로 제한되지만, 실제로는 많은 종류의 모션, 예를 들어, 줌 인/아웃, 회전, 원근 모션들 및 다른 불규칙한 모션들이 존재한다. 아핀 모션 모드를 사용할 때, 이러한 형태의 모션을 보다 정확하게 예측하기 위해 블록에 보다 복잡한 변환이 적용된다. 그러나, 아핀 모션 모드의 사용은 인코딩/디코딩 프로세스의 복잡도를 증가시킬 수 있고, 또한 신호 오버헤드를 증가시킬 수 있다.

따라서, 전술된 문제점들 중 적어도 하나에 대한 해결책이 바람직하다.

본 발명의 제1 양태에서는 비트스트림의 일부에 대한 모션 예측 모드를 시그널링하는 방법이 제공되는데, 이 방법은: 상기 비트스트림의 상기 일부에 사용되는 인터 예측 모드를 결정하는 단계; 및 상기 비트스트림의 상기 일부에서 이용된 상기 인터 예측 모드에 따라 아핀 모션 모드를 시그널링하는 단계를 포함한다.

선택적으로, 사용되는 인터 예측 모드는 상기 비트스트림의 상기 일부에서의 스킵 플래그의 상태에 기초하여 결정된다.

선택적으로, 상기 스킵 플래그가 존재하는 경우 아핀 모드는 인에이블되지 않는다.

선택적으로, 본 방법은 상기 아핀 모드가 인에이블될 때 병합 모드를 인에이블하는 단계를 추가로 포함한다.

선택적으로, 아핀 모드는 상기 인터 예측 모드가 AMVP(Advanced Motion Vector Predictor)인 경우 인에이블된다.

선택적으로, 상기 결정하는 단계는 하이 레벨 신택스 플래그에 기초하여 수행되고, 상기 하이 레벨 신택스 플래그는 슬라이스 레벨, 프레임 레벨, 시퀀스 레벨 및 코딩 트리 유닛(CTU) 레벨 중 적어도 하나를 처리하는 것을 나타낸다.

선택적으로, 인터 예측 모드를 결정하는 단계는 현재 블록에 이웃하는 하나 이상의 블록의 모드를 결정하는 단계를 포함한다.

본 발명의 제2 양태에서는 비트스트림에서 모션 예측 모드를 시그널링하는 방법이 제공되는데, 이 방법은: 현재 블록에 대한 하나 이상의 이웃하는 블록의 모드를 결정하는 단계; 및 상기 모드(들)에 따라, 현재 블록에 대한 아핀 모션 모드를 시그널링하는 단계를 포함한다.

선택적으로, 상기 이웃하는 블록들은 블록 A1과 B1만으로 구성된다.

대안적으로, 상기 이웃하는 블록들은 블록 A2와 B3을 포함하고; 바람직하게는 블록 A2와 블록 B3만으로 구성된다.

선택적으로, 본 방법은 상기 이웃하는 블록들 중 하나 또는 둘 다가 아핀 모션 모드를 사용하는 경우 아핀 모션 모드를 인에이블하는 단계를 포함한다.

선택적으로, 상기 이웃하는 블록들은 B0, A0 및 B2를 추가로 포함한다.

선택적으로, 상기 이웃하는 블록들에서의 아핀 모드의 사용은 연속적으로 결정되고, 상기 이웃하는 블록들 중 하나가 아핀 모드를 사용하는 경우, 아핀 모드는 현재 블록에 대해 인에이블된다. 바람직하게는, 일련의 이웃하는 블록들은 A2, B3, B0, A0, B2이다.

본 발명의 제3 양태에서는 비트스트림의 일부에 대한 모션 예측 모드를 시그널링하는 방법이 제공되는데, 이 방법은: 현재 블록에 이웃하는 블록들에 대응하는 병합 후보들의 리스트를 결정하는 단계; 및 상기 병합 후보들 중 하나 이상이 아핀 모드를 사용하는 경우, 상기 현재 블록에 대한 아핀 모드를 인에이블하는 단계를 포함한다.

선택적으로, 상기 리스트는 상기 블록에 관련된 컨텍스트 변수를 결정하는데 사용된 블록들로 시작한다.

선택적으로, 리스트는 순서대로 블록 A2와 블록 B3로 시작한다.

선택적으로, 리스트는 순서대로 A2, B3, B0 또는 A0 또는 B2이다.

선택적으로, 상기 이웃하는 블록(들)이 병합 모드를 사용하지 않는 경우, 현재 블록에 대해 아핀 모드가 인에이블된다.

선택적으로, 상기 이웃하는 블록(들)이 병합 스킵 모드를 사용하지 않는 경우, 현재 블록에 대해 아핀 모드가 인에이블된다.

선택적으로, 아핀 모드를 시그널링하는 단계는 컨텍스트 인코딩된 플래그를 데이터 스트림에 삽입하는 단계를 포함하고, 상기 플래그에 대한 컨텍스트 변수는 이웃하는 블록들이 아핀 모드를 사용하는지의 여부에 기초하여 결정된다.

본 발명의 추가 양태에서는, 비트스트림 내에 코딩된 블록에 대한 모션 예측 모드를 시그널링하는 방법이 제공되는데, 이 방법은: 비트스트림 내에 코딩된 상기 블록에 이웃하는 블록들이 아핀 모드를 사용하는지의 여부를 결정하는 단계; 및 컨텍스트 인코딩된 플래그를 비트스트림에 삽입하는 단계를 포함하고; 상기 컨텍스트 인코딩된 플래그에 대한 컨텍스트 변수는 비트스트림 내에서 코딩된 상기 블록에 이웃하는 블록들이 아핀 모드를 사용하는지의 여부를 결정하는 것에 의존한다.

선택적으로, 이웃하는 블록들은 블록 A1과 블록 B1을 포함한다.

선택적으로, 모션 예측 모드가 인에이블되는 블록의 모드가 병합 모드인 경우, 상기 이웃하는 블록들은 블록 A1과 블록 B1을 포함한다.

선택적으로, 아핀 플래그에 대한 컨텍스트는 다음의 공식: Ctx = IsAffine(A1) + IsAffine(B1)에 따라 획득되고, 여기서 Ctx는 아핀 플래그에 대한 컨텍스트 변수이고 IsAffine은 블록이 아핀 블록이 아닌 경우 0을 반환하고 블록이 아핀인 경우 1을 반환하는 함수이다.

본 발명의 제4 양태에서는, 이웃하는 블록들이 병합 모드 및/또는 병합 스킵 모드를 사용하는지의 여부에 따라 비트스트림 내에 코딩된 블록에 대한 모션 예측 모드를 시그널링하는 방법이 제공된다.

본 발명의 제5 양태에서는, 비트스트림에서 모션 예측 모드를 시그널링하는 방법이 제공되는데, 이 방법은: 후보 모션 예측자들의 리스트를 컴파일하는 단계; 및 아핀 병합 모드를 병합 후보로서 삽입하는 단계를 포함한다.

선택적으로, 아핀 병합 모드 후보는 병합 후보들의 리스트에서 이웃하는 블록 모션 벡터들 이후에 있다.

선택적으로, 아핀 병합 모드 후보는 병합 후보들의 리스트에서 ATMVP(Alternative Temporal Motion Vector Predictor) 후보 이전에 있다.

선택적으로, 상기 후보들의 리스트 내의 아핀 병합 모드 후보의 위치(병합 인덱스)는 고정된다.

선택적으로, 상기 후보들의 리스트 내의 아핀 병합 모드 후보의 위치는 가변적이다.

선택적으로, 아핀 병합 모드 후보의 위치는: a) 스킵 플래그의 상태; b) 이웃하는 블록들의 모션 정보; c) ATMVP(Alternative Temporal Motion Vector Predictor) 후보; 및 d) 이웃하는 블록들이 아핀 모드를 사용하는지의 여부 중 하나 이상에 기초하여 결정된다.

선택적으로, 아핀 병합 모드는 다음의 조건들: a) 스킵 플래그가 존재하는 경우; b) 이웃하는 블록들의 모션 정보가 동일한 경우; c) ATMVP 후보가 하나의 모션 정보만을 포함하는 경우; 및 d) 하나보다 많은 이웃하는 블록이 아핀 모드를 사용하는 경우 중 하나 이상이 충족되면 상기 후보들의 리스트에서 아핀 병합 모드가 더 낮게 위치된다(더 높은 병합 인덱스를 할당받음).

선택적으로, 상기 이웃하는 블록들은 블록 A1과 블록 B1을 포함한다.

선택적으로, 아핀 병합 모드는 상기 조건들 a) 내지 d) 중 하나 이상이 충족되는 경우 상기 후보들의 리스트에서 공간적 모션 벡터 후보보다 더 낮게 위치된다(더 높은 병합 인덱스를 할당받음).

선택적으로, 아핀 병합 모드는 상기 조건들 a) 내지 d) 중 하나 이상이 충족되는 경우 시간적 모션 벡터 후보보다 더 낮게 위치된다(더 높은 병합 인덱스를 할당받음).

선택적으로, 아핀 병합 모드는 아핀 모드를 사용하는 이웃하는 블록들의 수와 관련된 병합 인덱스를 할당받는다.

선택적으로, 아핀 병합 모드에는 5와 동일한 병합 인덱스에서 5개의 A1, B1, B0, A0, B2 중에서 아핀 모드를 사용하는 이웃하는 블록들의 수량을 뺀 것이 할당된다.

본 발명의 다른 양태에 따르면, 비트스트림에서 아핀 모션 모드를 시그널링하는 방법이 제공되는데, 이 방법은: 현재 블록에 아핀 모드가 사용될 가능성이 있는지를 결정하는 단계; 후보 모션 예측자들의 리스트를 컴파일하는 단계; 및 상기 현재 블록에 대한 아핀 모드의 가능성 결정에 따라 아핀 병합 모드를 병합 후보로서 삽입하는 단계를 포함한다.

선택적으로, 상기 가능성은: a) 스킵 플래그의 상태; b) 이웃하는 블록들의 모션 정보; 및 c) ATMVP 후보 중 적어도 하나에 기초하여 결정된다.

선택적으로, 아핀 병합 모드는 다음 조건들: a) 스킵 플래그의 상태; b) 이웃하는 블록들의 모션 정보가 동일한 경우; c) ATMVP 후보가 하나의 모션 정보만을 포함하는 경우 중 하나 이상이 충족되는 경우 병합 후보로서 삽입되지 않는다.

선택적으로, 상기 이웃하는 블록들은 블록 A1과 블록 B1을 포함한다.

선택적으로, 아핀 모드는 인코딩되는 비트스트림에 대응하는 비디오를 녹화하는데 사용되는 디바이스의 특징에 따라 시그널링된다.

본 발명의 양태들은 기존의 코딩 표준들 또는 제안들에 비해 코딩 효율성의 향상 및/또는 코딩 복잡도의 감소를 제공한다. 이러한 방식으로, 더 효율적이고 더 빠른 비디오 인코딩 및/또는 디코딩 방법 및 시스템이 제공된다.

본 발명의 추가 양태들은 상기 양태들 중 임의의 양태의 방법들을 사용하는 인코딩 및 디코딩 방법들에 관한 것이다.

본 발명의 또 다른 양태들은 청구항 14에 의해 정의된 바와 같은 인코딩된 비디오를 나타내는 비트스트림에서 아핀 모드의 사용을 시그널링하기 위한 디바이스에 관한 것이다.

본 발명의 또 다른 양태들은 청구항 17 및 18에 의해 각각 정의된 바와 같은 인코더 및 디코더에 관한 것이다.

본 발명의 또 다른 양태들은 청구항 19에 의해 정의된 바와 같은 프로그램에 관한 것이다. 프로그램은 자체적으로 제공될 수 있거나, 또는 캐리어 매체 상에서, 캐리어 매체에 의해 또는 캐리어 매체 내에서 운반될 수 있다. 캐리어 매체는 비-일시적, 예를 들어, 저장 매체, 특히 컴퓨터-판독가능 저장 매체일 수 있다. 캐리어 매체는 또한 일시적인, 예를 들어, 신호 또는 다른 송신 매체일 수 있다. 신호는 인터넷을 포함하는, 임의의 적절한 네트워크를 통해 송신될 수 있다.

본 발명의 또 다른 양태들은 청구항 15 및 청구항 16에 의해 정의된 바와 같은 카메라 또는 모바일 디바이스 등의 주변 디바이스에 관한 것이다.

선택적으로, 카메라는 주밍 수단(zooming means)을 추가로 포함하고, 주밍 수단이 동작하고 있는 때를 표시하고, 주밍 수단이 동작한다는 상기 표시에 따라 아핀 모드를 시그널링하도록 적응될 수 있다.

선택적으로, 카메라는 패닝 수단(panning means)을 추가로 포함하고, 상기 패닝 수단이 동작할 때를 표시하고, 패닝 수단이 동작한다는 상기 표시에 따라 아핀 모드를 시그널링하도록 적응될 수 있다.

선택적으로, 모바일 디바이스는 모바일 디바이스의 방위의 변화를 감지하도록 적응되는 적어도 하나의 위치 센서를 추가로 포함하고, 모바일 디바이스의 방위의 변화를 감지하는 것에 따라 아핀 모드를 시그널링하도록 적응될 수 있다.

본 발명의 추가 특징들은 다른 독립 청구항 및 종속 청구항에 의해 특징지어진다.

본 발명의 일 양태에서의 임의의 특징은 임의의 적절한 조합으로 본 발명의 다른 양태들에 적용될 수도 있다. 특히, 방법 양태들은 장치 양태들에 적용될 수도 있고, 그 반대의 경우도 가능하다.

또한, 하드웨어에서 구현된 특징들은 소프트웨어에서 구현될 수도 있고, 그 반대의 경우도 가능하다. 본 명세서에서 소프트웨어 및 하드웨어 특징들에 대한 임의의 언급은 이에 따라 해석되어야 한다.

본 명세서에 설명된 임의의 장치 특징은 또한 방법 특징으로서 제공될 수 있고, 그 반대의 경우도 가능하다. 본 명세서에서 사용되는 바와 같이, 수단 플러스 기능 특징들은 적절히 프로그램된 프로세서 및 연관된 메모리와 같은 그들의 대응하는 구조 면에서 대안적으로 표현될 수 있다.

본 발명의 임의의 양태들에서 설명되고 정의된 다양한 특징들의 특정 조합들은 독립적으로 구현 및/또는 공급 및/또는 사용될 수 있다는 것이 또한 이해되어야 한다.

이제, 예로서 첨부 도면들을 참조할 것이다:
도 1은 HEVC에서 사용되는 코딩 구조를 설명하는데 사용하기 위한 도면이고;
도 2는 본 발명의 하나 이상의 실시예가 구현될 수 있는 데이터 통신 시스템을 개략적으로 나타낸 블록도이고;
도 3은 본 발명의 하나 이상의 실시예가 구현될 수 있는 처리 디바이스의 컴포넌트들을 나타낸 블록도이고;
도 4는 본 발명의 실시예들에 따른 인코딩 방법의 단계들을 나타낸 흐름도이고;
도 5는 본 발명의 실시예들에 따른 디코딩 방법의 단계들을 나타낸 흐름도이고;
도 6a 및 도 6b는 모션 벡터 예측자를 생성하는데 사용될 수 있는 공간적 및 시간적 블록을 나타내고;
도 7은 AMVP 예측자 세트 도출의 프로세스의 간략화된 단계들을 도시하고;
도 8은 병합 모드들의 모션 벡터 도출 프로세스의 개략도이고;
도 9는 현재 블록의 분할 및 시간적 모션 벡터 예측을 도시하고;
도 10의 (a)는 HEVC에 대한, 또는 ATMVP가 SPS 레벨에서 인에이블되지 않을 때의 병합 인덱스의 코딩을 나타내고;
도 10의 (b)은 ATMVP가 SPS 레벨에서 인에이블될 때의 병합 인덱스의 코딩을 나타내고;
도 11의 (a)는 간단한 아핀 모션 필드를 나타내고;
도 11의 (b)는 보다 복잡한 아핀 모션 필드를 나타내고;
도 12는 코딩 모드와 관련된 일부 신택스 요소들의 부분 디코딩 프로세스의 흐름도이고;
도 13은 병합 후보 도출을 나타내는 흐름도이고;
도 14는 본 발명의 제1 실시예를 나타내는 흐름도이고;
도 15는 본 발명의 제2 실시예를 나타내는 흐름도이고;
도 16은 본 발명의 제3 실시예를 나타내는 흐름도이고;
도 17은 본 발명의 제4 실시예를 나타내는 흐름도이고;
도 18은 본 발명의 제5 실시예를 나타내는 흐름도이고;
도 19는 본 발명의 하나 이상의 실시예의 구현을 위한 컴퓨팅 디바이스의 개략적인 블록도이고;
도 20은 컴퓨팅 디바이스의 개략적인 블록도이고;
도 21은 네트워크 카메라 시스템을 나타내는 도면이고;
도 22는 스마트폰을 나타내는 도면이다.

본 발명은 아핀 모션 모드의 개선된 시그널링-특히 아핀 모드가 코딩 효율의 개선을 가져올 가능성이 있는 경우들을 결정하고 아핀 모드가 그에 따라 사용 및/또는 우선처리되는 것을 보장하는 것에 관한 것이다.

도 1은 HEVC(High Efficiency Video Coding) 비디오 표준에서 사용되는 코딩 구조에 관한 것이다. 비디오 시퀀스(1)는 일련의 디지털 이미지 i로 구성된다. 각각의 이러한 디지털 이미지는 하나 이상의 매트릭스에 의해 표현된다. 매트릭스 계수들은 픽셀들을 나타낸다.

시퀀스의 이미지(2)는 슬라이스(3)로 분할될 수 있다. 슬라이스는 일부 경우들에서 전체 이미지를 구성할 수 있다. 이러한 슬라이스들은 비중첩 CTU들(Coding Tree Units)로 분할된다. CTU(Coding Tree Unit)는 HEVC(High Efficiency Video Coding) 비디오 표준의 기본 처리 유닛이며, 개념적으로 몇몇 이전 비디오 표준들에서 사용되었던 매크로블록 유닛들에 대한 구조에 대응한다. CTU는 또한 때때로 LCU(Largest Coding Unit)로 지칭된다. CTU는 루마 및 크로마 성분 부분들을 가지며, 이러한 성분 부분들 각각은 CTB(Coding Tree Block)이라고 불린다. 이러한 상이한 컬러 성분들은 도 1에 도시되지 않는다.

CTU는 일반적으로 HEVC의 경우 64 픽셀 x 64 픽셀의 크기를 갖지만, VVC의 경우 이 크기는 128 픽셀 x 128 픽셀일 수 있다. 각각의 CTU는 차례로 쿼드트리 분해를 사용하여 더 작은 가변-크기 CU(Coding Unit)들(5)로 반복적으로 분할될 수 있다.

코딩 유닛들은 기본 코딩 요소들이고 PU(Prediction Unit) 및 TU(Transform Unit)라고 불리는 2가지 종류의 서브-유닛에 의해 구성된다. PU 또는 TU의 최대 크기는 CU 크기와 동일하다. 예측 유닛은 픽셀 값들의 예측을 위한 CU의 파티션에 대응한다. 4개의 정사각형 PU로의 파티션 및 2개의 직사각형 PU로의 2개의 상이한 파티션을 포함하는 606으로 도시된 바와 같이 CU의 PU로의 다양한 상이한 파티션이 가능하다. 변환 유닛은 DCT를 사용하여 공간적 변환된 기본 유닛이다. CU는 쿼드트리 표현(607)에 기초하여 TU들로 분할될 수 있다.

각각의 슬라이스는 하나의 NAL(Network Abstraction Layer) 유닛에 내장된다. 또한, 비디오 시퀀스의 코딩 파라미터는 파라미터 세트라고 불리는 전용 NAL 유닛에 저장될 수 있다. HEVC 및 H.264/AVC에서, 2 종류의 파라미터 세트 NAL 유닛들이 사용된다: 첫째로, 전체 비디오 시퀀스 동안에 변하지 않은 모든 파라미터들을 모은 시퀀스 파라미터 세트(SPS) NAL 유닛. 통상적으로, 이는 코딩 프로파일, 비디오 프레임들의 크기 및 기타의 파라미터들을 취급한다. 둘째로, PPS(Picture Parameter Set) NAL 유닛은 시퀀스의 하나의 이미지(또는 프레임)로부터 다른 이미지로 변경될 수 있는 파라미터들을 포함한다. HEVC는 또한 비트스트림의 전체 구조를 기술하는 파라미터들을 포함하는 VPS(Video Parameter Set) NAL 유닛을 포함한다. VPS는 HEVC에서 정의된 새로운 타입의 파라미터 세트이고, 비트스트림의 계층들 모두에 적용된다. 계층은 다수의 시간적 서브-계층들을 포함할 수 있고, 모든 버전 1 비트스트림은 단일 계층으로 제한된다. HEVC는 확장성 및 멀티뷰에 대한 특정의 계층화된 확장을 가지며, 이들은 역호환성이 있는 버전 1 베이스 계층으로 다수의 계층을 인에이블할 것이다.

도 2는 본 발명의 하나 이상의 실시예가 구현될 수 있는 데이터 통신 시스템을 나타낸 것이다. 데이터 통신 시스템은 데이터 통신 네트워크(200)를 통해 데이터 스트림의 데이터 패킷들을 수신 디바이스, 이 경우에, 클라이언트 단말기(202)로 송신하는 동작을 하는 송신 디바이스, 이 경우에, 서버(201)를 포함한다. 데이터 통신 네트워크(200)는 WAN(Wide Area Network) 또는 LAN(Local Area Network)일 수 있다. 이러한 네트워크는, 예를 들어, 무선 네트워크(Wifi/802.11a 또는 b 또는 g), 이더넷 네트워크, 인터넷 네트워크, 또는 몇개의 상이한 네트워크들로 이루어진 혼합 네트워크일 수 있다. 본 발명의 특정의 실시예에서, 데이터 통신 시스템은 서버(201)가 동일한 데이터 콘텐츠를 다수의 클라이언트로 전송하는 디지털 텔레비전 방송 시스템일 수 있다.

서버(201)에 의해 제공되는 데이터 스트림(204)은 비디오 및 오디오 데이터를 나타내는 멀티미디어 데이터로 이루어져 있을 수 있다. 본 발명의 일부 실시예들에서, 오디오 및 비디오 데이터 스트림은, 각각, 마이크 및 카메라를 사용하여 서버(201)에 의해 포착될 수 있다. 일부 실시예들에서, 데이터 스트림은 다른 데이터 제공자로부터 서버(201)에 저장되거나 서버(201)에 의해 수신될 수 있거나, 또는 서버(201)에서 발생될 수 있다. 서버(201)는 특히 인코더에 입력으로서 제시되는 데이터의 보다 콤팩트한 표현인 송신을 위한 압축된 비트스트림을 제공하기 위해 비디오 및 오디오 스트림을 인코딩하는 인코더를 구비하고 있다.

송신된 데이터의 품질 대 송신된 데이터의 양에 대한 보다 나은 비를 획득하기 위해, 비디오 데이터의 압축은, 예를 들어, HEVC 포맷 또는 H.264/AVC 포맷을 따를 수 있다.

클라이언트(202)는 송신된 비트스트림을 수신하고, 디스플레이 디바이스 상에서 비디오 이미지를 그리고 확성기에 의해 오디오 데이터를 재생하기 위해 재구성된 비트스트림을 디코딩한다.

도 2의 예에서 스트리밍 시나리오가 고려되고 있지만, 본 발명의 일부 실시예들에서, 인코더와 디코더 사이의 데이터 통신이, 예를 들어, 광 디스크 등의 미디어 저장 디바이스를 사용하여 수행될 수 있다는 것을 알 수 있을 것이다.

본 발명의 하나 이상의 실시예에서, 비디오 이미지가 최종 이미지에 필터링된 픽셀들을 제공하기 위해 이미지의 재구성된 픽셀들에 적용하기 위한 보상 오프셋들을 나타내는 데이터와 함께 송신된다.

도 3은 본 발명의 하나 이상의 실시예를 구현하도록 구성되는 처리 디바이스(300)를 개략적으로 나타낸다. 처리 디바이스(300)는 마이크로컴퓨터, 워크스테이션, 또는 경량 휴대용 디바이스 등의 디바이스일 수 있다. 디바이스(300)는:

CPU로 표시된 마이크로프로세서 등의 중앙 처리 유닛(311);

본 발명을 구현하는 컴퓨터 프로그램들을 저장하는, ROM으로 표시된 판독 전용 메모리(306);

본 발명의 실시예들의 방법의 실행가능한 코드, 및 디지털 이미지들의 시퀀스를 인코딩하는 방법 및/또는 본 발명의 실시예들에 따른 비트스트림을 디코딩하는 방법을 구현하기 위해 필요한 변수들 및 파라미터들을 레코딩하도록 적응되는 레지스터들을 저장하기 위한, RAM으로 표시된 랜덤 액세스 메모리(312); 및

통신 네트워크(303)(처리될 디지털 데이터가 이를 통해 송신되거나 수신됨)에 접속되어 있는 통신 인터페이스(302)에 접속된 통신 버스(313)를 포함한다.

선택적으로, 장치(300)는 또한 다음과 같은 컴포넌트들을 포함할 수 있다:

본 발명의 하나 이상의 실시예의 방법들을 구현하기 위한 컴퓨터 프로그램들 및 본 발명의 하나 이상의 실시예의 구현동안 사용되거나 생성되는 데이터를 저장하기 위한, 하드 디스크와 같은 데이터 저장 수단(304);

디스크(306)로부터 데이터를 판독하거나 그 디스크에 데이터를 기입하도록 적응되는, 디스크(306)를 위한 디스크 드라이브(305);

키보드(310) 또는 임의의 다른 포인팅 수단에 의해, 데이터를 표시하고 및/또는 사용자와의 그래픽 인터페이스로서 역할을 하기 위한 스크린(309).

장치(300)는, 예를 들어, 디지털 카메라(320) 또는 마이크(308) 등의 다양한 주변 장치들에 접속될 수 있고, 각각은 멀티미디어 데이터를 장치(300)에 공급하기 위해 입출력 카드(도시 생략)에 접속되어 있다.

통신 버스는 장치(300)에 포함되거나 이에 접속되는 다양한 요소들 사이에 통신 및 상호운용성을 제공한다. 버스의 표현은 제한하는 것이 아니며, 특히, 중앙 처리 유닛은 명령어들을 직접 또는 장치(300)의 다른 요소에 의해 장치(300)의 임의의 요소로 전달하는 동작을 한다.

디스크(306)는, 예를 들어, 콤팩트 디스크(CD-ROM)(재기입가능하거나 그렇지 않음), ZIP 디스크 또는 메모리 카드 등의 임의의 정보 매체로, 그리고, 일반적인 표현으로, 마이크로컴퓨터에 의해 또는 마이크로프로세서에 의해 판독될 수 있고, 장치 내에 통합되어 있거나 그렇지 않으며, 어쩌면 이동식이고 하나 이상의 프로그램- 그의 실행은 구현될 본 발명에 따른 디지털 이미지 시퀀스를 인코딩하는 방법 및/또는 비트스트림을 디코딩하는 방법을 가능하게 함 -을 저장하도록 적응된 정보 저장 수단으로 대체될 수 있다.

실행가능한 코드는 상술한 바와 같이 판독 전용 메모리(306), 하드 디스크(304) 또는 디스크(306) 등의 이동식 디지털 매체 상에 저장될 수 있다. 변형에 따르면, 프로그램의 실행가능 코드는, 실행 전에 장치(300)의 저장 수단 중의 하나, 예를 들어, 하드 디스크(304)에 저장되도록, 인터페이스(302)를 통해 통신 네트워크(303)에 의해 수신될 수 있다.

중앙 처리 유닛(311)은 본 발명에 따르는 프로그램 또는 프로그램들의 명령어들 또는 소프트웨어 코드의 일부분, 전술된 저장 수단 중 하나에 저장된 명령어들의 실행을 제어하거나 지시하도록 적응된다. 파워업시, 비휘발성 메모리, 예를 들어, 하드 디스크(304) 및 판독 전용 메모리(306)에 저장되는 프로그램 또는 프로그램들이 본 발명을 구현하는데 필요한 변수들 및 파라미터들을 저장하는 레지스터 뿐만 아니라 프로그램 또는 프로그램들의 실행가능 코드를 포함하는 랜덤 액세스 메모리(312)로 송신된다.

이 실시예에서, 장치는 본 발명을 구현하기 위해서 소프트웨어를 사용하는 프로그램가능한 장치이다. 그러나, 대안적으로, 본 발명은 하드웨어로(예를 들어, 주문형 집적회로 또는 ASIC의 형태로) 구현될 수 있다.

도 4는 본 발명의 적어도 하나의 실시예에 따른 인코더의 블록도를 나타낸다. 인코더는 접속된 모듈들로 표현되며, 각각의 모듈은, 예를 들어, 디바이스(300)의 CPU(311)에 의해 실행될 프로그래밍 명령어들의 형태로 구현되도록 적응되고, 방법의 적어도 하나의 대응하는 단계는 본 발명의 하나 이상의 실시예에 따라 이미지들의 시퀀스의 이미지를 인코딩하는 적어도 하나의 실시예를 구현한다.

디지털 이미지들 i0 내지 in(401)의 원래 시퀀스는 인코더(400)에 의해 입력으로서 수신된다. 각각의 디지털 이미지는 픽셀이라고 하는 샘플 세트로 표현된다.

비트스트림(410)은 인코딩 프로세스의 구현 후에 인코더(400)에 의해 출력된다. 비트스트림(410)은 복수의 인코딩 유닛들 또는 슬라이스들을 포함하고, 각각의 슬라이스는 슬라이스를 인코딩하기 위해 사용되는 인코딩 파라미터들의 인코딩 값들을 송신하는 슬라이스 헤더(slice header), 및 인코딩된 비디오 데이터를 포함하는 슬라이스 보디(slice body)를 포함한다.

입력 디지털 이미지들 i0 내지 in(401)은 모듈(402)에 의해 픽셀들의 블록들로 분할된다. 블록들은 이미지 부분들에 대응하고 가변 크기들을 가질 수 있다(예를 들어, 4x4, 8x8, 16x16, 32x32, 64x64, 128x128 픽셀들 및 몇몇 직사각형 블록 크기들이 또한 고려될 수 있음). 각각의 입력 블록에 대해 코딩 모드가 선택된다. 2가지 계열의 코딩 모드: 공간적 예측 코딩에 기초한 코딩 모드(인트라 예측), 및 시간적 예측에 기초한 코딩 모드[인터 코딩, 병합, 스킵]가 제공된다. 가능한 코딩 모드들이 테스트된다.

모듈(403)은 인트라 예측 프로세스를 구현하고, 여기서 인코딩될 주어진 블록이 인코딩될 상기 블록의 이웃의 픽셀들로부터 계산되는 예측자에 의해 예측된다. 인트라 코딩이 선택되는 경우 잔차를 제공하기 위해, 선택된 인트라 예측자의 표시 및 주어진 블록과 그의 예측자 간의 차가 인코딩된다.

시간적 예측은 모션 추정 모듈(404) 및 모션 보상 모듈(405)에 의해 구현된다. 먼저, 참조 이미지들(416)의 세트로부터의 참조 이미지가 선택되고, 인코딩될 주어진 블록에 가장 가까운 영역인, 또한 참조 영역 또는 이미지 부분으로 명명된 참조 이미지의 일부분이 모션 추정 모듈(404)에 의해 선택된다. 모션 보상 모듈(405)은 이후 선택된 영역을 사용하여 인코딩될 블록을 예측한다. 선택된 참조 영역 및 또한 잔차 블록으로 명명되는 주어진 블록 사이의 차이는 모션 보상 모듈(405)에 의해 계산된다. 선택된 참조 영역은 모션 벡터로 표시된다.

따라서, 이러한 경우(공간적 예측 및 시간적 예측) 둘 다에서, 잔차는 원래의 블록으로부터 예측을 차감함으로써 계산된다.

모듈(403)에 의해 구현되는 인트라 예측에서, 예측 방향이 인코딩된다. 시간적 예측에서는, 적어도 하나의 모션 벡터가 인코딩된다.

인터 예측이 선택되는 경우, 모션 벡터에 대한 정보 및 잔차 블록이 인코딩된다. 비트레이트를 추가로 감소시키기 위해, 모션이 균질하다고 가정하여, 모션 벡터가 모션 벡터 예측자에 대한 차에 의해 인코딩된다. 모션 정보 예측자들의 세트의 모션 벡터 예측자는 모션 벡터 예측 및 코딩 모듈(417)에 의해 모션 벡터 필드(418)로부터 획득된다.

인코더(400)는 레이트 왜곡 기준(rate-distortion criterion) 등의 인코딩 비용 기준을 적용함으로써 코딩 모드를 선택하는 선택 모듈(406)을 추가로 포함한다. 중복성을 추가로 감소시키기 위해, 변환 모듈(407)에 의해 변환(DCT 등)이 잔차 블록에 적용되고, 획득되는 변환된 데이터는 이어서 양자화 모듈(408)에 의해 양자화되고, 엔트로피 인코딩 모듈(409)에 의해 엔트로피 인코딩된다. 마지막으로, 인코딩되고 있는 현재 블록의 인코딩된 잔차 블록이 비트스트림(410)에 삽입된다.

인코더(400)는 또한, 후속 이미지의 모션 추정을 위한 참조 이미지를 생성하기 위해, 인코딩된 이미지의 디코딩을 수행한다. 이것은 비트스트림을 수신하는 인코더 및 디코더가 동일한 참조 프레임을 가질 수 있게 해준다. 역양자화 모듈(411)은, 역변환 모듈(412)에 의한 역변환에 선행하여, 양자화된 데이터의 역양자화를 수행한다. 역 인트라 예측(reverse intra prediction) 모듈(413)은 주어진 블록에 대해 어느 예측자를 사용할지를 결정하기 위해 예측 정보를 사용하고, 역 모션 보상(reverse motion compensation) 모듈(414)은 실제로 모듈(412)에 의해 획득된 잔차를 참조 이미지 세트(416)로부터 획득된 참조 영역에 가산한다.

재구성된 픽셀 프레임을 필터링하기 위해 사후 필터링이 이어서 모듈(415)에 의해 적용된다. 본 발명의 실시예들에서, 보상 오프셋이 재구성된 이미지의 재구성된 픽셀의 픽셀 값에 가산되는 SAO 루프 필터가 사용된다.

도 5는 본 발명의 일 실시예에 따른, 인코더로부터 데이터를 수신하기 위해 사용될 수 있는 디코더(60)의 블록도를 나타낸 것이다. 디코더는 접속된 모듈들로 표현되며, 각각의 모듈은, 예를 들어, 디바이스(300)의 CPU(311)에 의해 실행될 프로그래밍 명령어들의 형태로, 디코더(60)에 의해 구현되는 방법의 대응하는 단계를 구현하도록 적응된다.

디코더(60)는 각각이 인코딩 파라미터에 대한 정보를 포함하는 헤더 및 인코딩된 비디오 데이터를 포함하는 바디로 구성된 인코딩 유닛들을 포함하는 비트스트림(61)을 수신한다. 도 4에 대해 설명된 바와 같이, 인코딩된 비디오 데이터가 엔트로피 인코딩되고, 모션 벡터 예측자들의 인덱스들은, 미리 결정된 비트 수들 상에서, 주어진 블록에 대해, 인코딩된다. 수신된 인코딩된 비디오 데이터는 모듈(62)에 의해 엔트로피 디코딩된다. 잔차 데이터가 이어서 모듈(63)에 의해 역양자화되고, 픽셀 값을 획득하기 위해 모듈(64)에 의해 역변환이 적용된다.

코딩 모드를 나타내는 모드 데이터가 또한 엔트로피 디코딩되고, 모드에 기초하여, 인트라 타입 디코딩 또는 인터 타입 디코딩이 인코딩된 이미지 데이터 블록에 대해 수행된다.

인트라 모드의 경우에, 비트스트림에 명시된 인트라 예측 모드에 기초하여 역 인트라 예측 모듈(65)에 의해 인트라 예측자가 결정된다.

모드가 인터인 경우, 인코더에 의해 사용되는 참조 영역을 찾아내기 위해 모션 예측 정보가 비트스트림으로부터 추출된다. 모션 예측 정보는 참조 프레임 인덱스 및 모션 벡터 잔차로 이루어져 있다. 모션 벡터 디코딩 모듈(70)에 의해 모션 벡터를 획득하기 위해 모션 벡터 예측자가 모션 벡터 잔차에 가산된다.

모션 벡터 디코딩 모듈(70)은 모션 예측에 의해 인코딩된 각각의 현재 블록에 대해 모션 벡터 디코딩을 적용한다. 현재 블록에 대한 모션 벡터 예측자의 인덱스가 획득되면, 현재 블록과 연관되어 있는 모션 벡터의 실제 값이 디코딩되고 모듈(66)에 의해 역 모션 보상을 적용하기 위해 사용될 수 있다. 역 모션 보상(66)을 적용하기 위해, 디코딩된 모션 벡터에 의해 표시되는 참조 이미지 부분이 참조 이미지(68)로부터 추출된다. 후속하는 디코딩된 모션 벡터의 역 예측에 사용되기 위해, 모션 벡터 필드 데이터(71)가 디코딩된 모션 벡터로 업데이트된다.

마지막으로, 디코딩된 블록이 획득된다. 사후 필터링은 사후 필터링 모듈(67)에 의해 적용된다. 디코딩된 비디오 신호(69)는 디코더(60)에 의해 최종적으로 제공된다.

CABAC

HEVC는, 컨텍스트 기반 적응 바이너리 산술 코딩(CABAC)(Context based Adaptive Binary Arithmetic Coding), 골롬-라이스 코드(Golomb-rice code) 또는 고정 길이 코딩으로 불리는 단순한 2진수 표현과 같은 여러 타입의 엔트로피 코딩을 사용한다. 대부분, 바이너리 인코딩 프로세스는 상이한 신택스 요소들을 나타내기 위해 수행된다. 이런 바이너리 인코딩 프로세스는 또한 매우 특정적이고, 상이한 신택스 요소에 종속한다. 산술 코딩은 현재 확률들에 따른 신택스 요소를 나타낸다. CABAC은 컨텍스트 변수에 의해 정의된 '컨텍스트'에 따라 신택스 요소의 확률을 분리하는 산술 코딩의 확장이다. 이것은 조건부 확률에 대응한다. 컨텍스트 변수는 이미 디코딩된 좌측 상단 블록(도 6b의 A2) 및 좌측 위 블록(도 6b의 B3)의 현재 신택스의 값으로부터 도출될 수 있다.

인터 코딩

HEVC는 3개의 상이한 인터 모드를 사용한다: 인터(Inter) 모드, 병합(Merge) 모드 및 병합 스킵(Merge Skip) 모드. 이들 모드들 사이의 주요 차이점은 비트스트림의 데이터 시그널링이다. 모션 벡터 코딩의 경우, 현재 HEVC 표준은 표준의 이전 버전들에 존재하지 않는 모션 벡터 예측을 위한 경쟁 기반 스킴을 포함한다. 이것은, 여러 후보들이 인터 또는 병합 모드 각각에 대한 최상의 모션 벡터 예측자 또는 최상의 모션 정보를 찾아내기 위하여 인코더측의 레이트 왜곡 기준과 더불어 경쟁하고 있음을 의미한다. 모션 정보의 최상의 예측자 또는 최상의 후보에 대응하는 인덱스가 비트스트림에 삽입된다. 디코더는 동일한 세트의 예측자들 또는 후보들을 도출할 수 있고 디코딩된 인덱스에 따라 최상의 것을 사용한다. HEVC의 스크린 콘텐츠 확장(Screen Content Extension)에서, 인트라 블록 카피(Intra Block Copy)라고 불리는 새로운 코딩 툴은 이러한 3개의 인터 모드들 중 어느 하나로서 시그널링되며, IBC와 등가 인터 모드 사이의 차이는 참조 프레임이 현재 프레임인지를 체크함으로써 이루어진다. 이것은 예를 들면 리스트 L0의 참조 인덱스를 체크하고, 이것이 그 리스트 내의 마지막 프레임인 경우에 인트라 블록 카피라고 추론함으로써 구현될 수 있다. 그렇게 하는 다른 방법은 현재 및 참조 프레임의 픽처 오더 카운트(Picture Order Count)를 비교하는 것이다: 동일하면, 이것은 인트라 블록 카피이다.

예측자들 및 후보들의 도출의 설계는 복잡도에 대한 불균형적인 영향없이 최상의 코딩 효율을 달성하는 데 중요하다. HEVC에서, 2개의 모션 벡터 도출이 사용된다: 하나는 인터 모드(Advanced Motion Vector Prediction(AMVP))에 대한 것이고 또 하나는 병합 모드(Merge derivation process)에 대한 것이다. 이하에서는 이러한 프로세스들을 설명한다.

도 6a와 도 6b는 HEVC 코딩 및 디코딩 시스템의 AMVP(Advanced Motion Vector Prediction) 및 병합 모드들에서 모션 벡터 예측자들을 생성하는데 사용될 수 있는 공간적 및 시간적 블록들을 나타내고, 도 7은 AMVP 예측자 세트 도출의 프로세스의 단순화된 단계들을 나타낸다.

2개의 예측자, 즉, AMVP 모드의 2개의 공간적 모션 벡터는 상부 코너 블록들(블록 B2)과 좌측 코너 블록(블록 A0)을 포함하는 상부 블록들(문자 'B'로 표시됨) 및 좌측 블록들(문자 'A'로 표시됨) 중에서 선택되고, 하나의 예측자는 도 6a에 표현된 바와 같이 병치된 블록의 하부 우측 블록(H)과 중심 블록(중심) 중에서 선택된다.

아래의 표 1은 도 6a 및 도 6b에 도시된 바와 같이 현재 블록과 관련하여 블록들을 참조할 때 사용되는 명명법을 약술한다. 이 명명법은 약칭(shorthand)으로서 사용되지만, 라벨링의 다른 시스템들이, 특히 표준의 향후 버전들에서 사용될 수 있다는 것을 이해해야 한다.

블록 라벨	이웃하는 블록의 상대적 위치 설명
A0	'좌측 코너' - 현재 블록의 좌측 대각선 아래
A1	'좌측' 또는 '좌측 하단' - 현재 블록의 하단의 좌측
A2	'좌측 상단' - 현재 블록의 상부의 좌측
B0	'우측 위' - 현재 블록의 우측 대각선 위
B1	'위' - 현재 블록의 우측 상단 위
B2	'좌측 위' - 현재 블록의 좌측 대각선 위
B3	'업(up)' - 현재 블록의 좌측 상단 위
H	참조 프레임의 병치된 블록의 우측 하단
중심	참조 프레임의 병치된 블록 내의 블록

표 1

'현재 블록'은 크기가 가변적일 수 있는데, 예를 들어, 4x4, 16x16, 32x32, 64x64, 128x128 또는 그 사이의 임의의 크기일 수 있다는 점에 유의해야 한다. 블록의 치수들은 2의 인수(즉, 2^n x 2^m, 여기서 n과 m은 양의 정수임)가 바람직하며, 그 이유는 이것이 이진 인코딩을 사용할 때 비트들을 보다 효율적으로 사용하기 때문이다. 현재 블록은 정사각형일 필요는 없지만, 이것은 종종 코딩 복잡도에 바람직한 실시예이다.

도 7로 되돌아가서, 제1 단계는 좌측 하단 블록들 A0 및 A1 중에서, 공간적 위치들이 도 6에 나타나 있는 제1 공간적 예측자(Cand 1, 706)를 선택하는 것을 목표로 한다. 이를 위해, 이러한 블록들은 주어진 순서로 차례로 선택되고(700, 702), 각각의 선택된 블록에 대해, 다음 조건들이 주어진 순서로 평가되며(704), 조건들이 충족되는 제1 블록은 예측자로서 설정된다:

- 동일한 참조 리스트 및 동일한 참조 이미지로부터의 모션 벡터;

- 다른 참조 리스트 및 동일한 참조 이미지로부터의 모션 벡터;

- 동일한 참조 리스트 및 상이한 참조 이미지로부터의 스케일링된 모션 벡터; 또는

- 다른 참조 리스트 및 다른 참조 이미지로부터의 스케일링된 모션 벡터.

어떠한 값도 발견되지 않는 경우, 좌측 예측자는 이용불가능한 것으로서 간주된다. 이 경우, 이는 관련된 블록들이 인트라 코딩되었거나 해당 블록들이 존재하지 않음을 표시한다.

다음의 단계는, 우측 위 블록 B0, 위 블록 B1, 및 좌측 위 블록 B2 중에서, 공간적 위치들이 도 6에 나타나 있는 제2 공간적 예측자(Cand 2, 716)를 선택하는 것을 목표로 한다. 이를 위해, 이러한 블록들은 주어진 순서로 차례로 선택되고(708, 710, 712), 각각의 선택된 블록에 대해, 위에서 언급된 조건들은 주어진 순서로 평가되고(714), 위에서 언급된 조건들이 충족되는 제1 블록은 예측자로서 설정된다.

다시, 어떠한 값도 발견되지 않는 경우, 상단 예측자는 이용불가능한 것으로 간주된다. 이 경우, 이는 관련된 블록들이 인트라 코딩되었거나 해당 블록들이 존재하지 않음을 표시한다.

다음 단계(718)에서, 2개의 예측자는, 둘 다 이용가능한 경우에, 이들이 동일한 경우(즉, 동일한 모션 벡터 값, 동일한 참조 리스트, 동일한 참조 인덱스 및 동일한 방향 타입) 이들 중 하나를 제거하기 위해 서로 비교된다. 하나의 공간적 예측자만이 이용가능한 경우, 알고리즘은 다음 단계에서 시간적 예측자를 찾고 있다.

시간적 모션 예측자(Cand 3, 726)는 다음과 같이 도출된다: 이전 프레임의 병치된 블록의 우측 하단(H, 720) 위치가 먼저 이용가능성 체크 모듈(722)에서 고려된다. 존재하지 않는 경우 또는 모션 벡터 예측자가 이용가능하지 않은 경우, 병치된 블록의 중심(중심, 724)이 체크되도록 선택된다. 이들 시간적 위치(중심 및 H)는 도 6에 도시되어 있다. 어쨌든, 스케일링(723)은 참조 리스트 내의 현재 프레임과 제1 프레임 사이의 시간적 거리를 매칭시키기 위해 이들 후보에 적용된다.

모션 예측자 값은 이후 예측자들의 세트에 추가된다. 다음으로, 예측자들의 수(Nb_Cand)는 예측자들의 최대 수(Max_Cand)와 비교된다(728). 앞서 언급된 바와 같이, AMVP의 도출 프로세스가 생성할 필요가 있는 모션 벡터 예측자들의 최대 수(Max_Cand)는 HEVC 표준의 현재 버전에서 2이다.

이 최대 수에 도달하면, AMVP 예측자들의 최종 리스트 또는 세트(732)가 구축된다. 그렇지 않으면, 제로 예측자가 리스트에 추가된다(730). 제로 예측자는 (0, 0)과 같은 모션 벡터이다.

도 7에 나타낸 바와 같이, AMVP 예측자들의 최종 리스트 또는 세트(732)는 공간적 모션 예측자들의 서브세트(700 내지 712) 및 시간적 모션 예측자들의 서브세트(720, 724)로부터 구축된다.

앞서 언급된 바와 같이, 병합 모드 또는 병합 스킵 모드의 모션 예측자 후보는 모든 요구된 모션 정보: 방향, 리스트, 참조 프레임 인덱스, 및 모션 벡터들을 나타낸다. 여러 후보들의 인덱싱된 리스트가 병합 도출 프로세스에 의해 생성된다. 현재의 HEVC 설계에서, 양쪽 병합 모드들에 대한 후보들의 최대 수는 5(4개의 공간적 후보와 1개의 시간적 후보)와 동일하다.

도 8은 병합 모드들의 모션 벡터 도출 프로세스의 개략도이다. 도출 프로세스의 제1 단계에서, 5개의 블록 위치가 고려된다(800 내지 808). 이러한 위치들은 도 3에 도시된, A1, B1, B0, A0 및 B2를 참조한 공간적 위치들이다. 다음 단계에서, 공간적 모션 벡터의 이용가능성이 체크되고 최대 5개의 모션 벡터가 선택된다(810). 예측자는 존재하는 경우 그리고 블록이 인트라 코딩되지 않은 경우 이용가능한 것으로 간주된다. 따라서, 후보들로서 5개의 블록에 대응하는 모션 벡터들을 선택하는 것은 다음의 조건들에 따라 행해진다:

"좌측" A1 모션 벡터(800)가 이용가능한 경우(810), 즉, 존재하는 경우 그리고 이 블록이 인트라 코딩되지 않은 경우, "좌측" 블록의 모션 벡터가 선택되어 후보의 리스트 내의 제1 후보로서 사용된다(814);

"위" B1 모션 벡터(802)가 이용가능한 경우(810), 후보 "위" 블록 모션 벡터는, 존재하는 경우, "좌측" A1 모션 벡터와 비교된다(812). B1 모션 벡터가 A1 모션 벡터와 동일한 경우, B1은 공간적 후보들의 리스트에 추가되지 않는다(814). 반대로, B1 모션 벡터가 A1 모션 벡터와 동일하지 않으면, B1이 공간적 후보들의 리스트(814)에 추가된다;

"우측 위" B0 모션 벡터(804)가 이용가능한 경우(810), "우측 위"의 모션 벡터가 B1 모션 벡터와 비교된다(812). B0 모션 벡터가 B1 모션 벡터와 동일한 경우, B0 모션 벡터는 공간적 후보들의 리스트(814)에 추가되지 않는다. 반대로, B0 모션 벡터가 B1 모션 벡터와 동일하지 않으면, B0 모션 벡터가 공간적 후보들의 리스트(814)에 추가된다;

"좌측 아래" A0 모션 벡터(806)가 이용가능한 경우(810), "좌측 아래"의 모션 벡터가 A1 모션 벡터와 비교된다(812). A0 모션 벡터가 A1 모션 벡터와 동일한 경우, A0 모션 벡터는 공간적 후보들의 리스트에 추가되지 않는다(814). 반대로, A0 모션 벡터가 A1 모션 벡터와 동일하지 않으면, A0 모션 벡터가 공간적 후보들의 리스트에 추가된다(814); 및

공간적 후보들의 리스트가 4개의 후보를 포함하지 않는 경우, "좌측 위" B2 모션 벡터(808)의 이용가능성이 체크된다(810). 이용가능한 경우, 이것은 A1 모션 벡터 및 B1 모션 벡터와 비교된다. B2 모션 벡터가 A1 모션 벡터 또는 B1 모션 벡터와 동일하면, B2 모션 벡터는 공간적 후보들의 리스트에 추가되지 않는다(814). 반대로, B2 모션 벡터가 A1 모션 벡터 또는 B1 모션 벡터와 동일하지 않으면, B2 모션 벡터가 공간적 후보들의 리스트에 추가된다(814).

이 스테이지의 끝에서, 공간적 후보들의 리스트는 최대 4개의 후보를 포함한다.

시간적 후보에 대해, 2개의 위치: 병치된 블록의 우측 하단 위치(816, 도 6에서 H로 표시됨)와 병치된 블록의 중심(818)이 사용될 수 있다. 이들 위치는 도 6에 도시되어 있다.

AMVP 모션 벡터 도출 프로세스에 대해, 제1 단계는 H 위치에 있는 블록의 이용가능성을 체크하는 것(820)을 목표로 한다. 다음으로, 이용가능하지 않다면, 중심 위치에 있는 블록의 이용가능성이 체크된다(820). 이러한 위치들의 적어도 하나의 모션 벡터가 이용가능한 경우, 병합 모션 벡터 예측자 후보들의 리스트에 추가되는 시간적 후보(824)를 생성하기 위해, 필요한 경우, 리스트 L0 및 L1 둘 다에 대해 인덱스 0을 갖는 참조 프레임으로 시간적 모션 벡터가 스케일링(822)될 수 있다. 이것은 리스트 내의 공간적 후보들 이후에 위치된다. 리스트 L0 및 L1은 제로, 하나 이상의 참조 프레임을 포함하는 2개의 참조 프레임 리스트이다.

후보들의 수(Nb_Cand)가 후보들의 최대 수(값이 비트-스트림 슬라이스 헤더에서 시그널링되고 현재 HEVC 설계에서 5와 동일한 Max_Cand)보다 절대적으로 더 적은 경우(826), 그리고 현재 프레임이 B 타입인 경우, 조합된 후보들이 생성된다(828). 병합 모션 벡터 예측자 후보들의 리스트의 이용가능한 후보들에 기초하여 조합된 후보들이 생성된다. 이것은 주로 리스트 L0의 하나의 후보의 모션 벡터와 리스트 L1의 하나의 후보의 모션 벡터를 조합하는 것으로 구성된다.

후보들의 수(Nb_Cand)가 후보들의 최대 수(Max_Cand)보다 절대적으로 적게 유지되면(830), 병합 모션 벡터 예측자 후보들의 리스트의 후보들의 수가 후보들의 최대 수에 도달할 때까지 제로 모션 후보들이 생성된다(832).

이 프로세스의 끝에서, 병합 모션 벡터 예측자 후보들의 리스트 또는 세트가 구축된다(834). 도 8에 나타낸 바와 같이, 병합 모션 벡터 예측자 후보들의 리스트 또는 세트는 공간적 후보들의 서브세트(800 내지 808) 및 시간적 후보들의 서브세트(816, 818)로부터 구축된다(834).

ATMVP(Alternative Temporal Motion Vector Prediction)

ATMVP(alternative temporal motion vector prediction)은 특정 모션 보상이다. 시간적 참조 프레임으로부터 현재 블록에 대한 하나의 모션 정보만을 고려하는 대신에, 각각의 병치된 블록의 각각의 모션 정보가 고려된다. 따라서, 이러한 시간적 모션 벡터 예측은 도 9에 도시된 바와 같이 각각의 서브-블록의 관련 모션 정보와 함께 현재 블록의 세그먼테이션을 제공한다.

현재의 VTM 참조 소프트웨어에서, ATMVP는 병합 후보들의 리스트에 삽입된 병합 후보로서 시그널링된다. ATMVP가 SPS 레벨에서 인에이블될 때, 병합 후보들의 최대 수는 1만큼 증가된다. 따라서 이 모드가 디스에이블될 때 6개의 후보가 5 대신 고려된다.

또한, 이러한 예측이 SPS 레벨에서 인에이블될 때, 병합 인덱스의 모든 빈들은 CABAC에 의해 컨텍스트 코딩된다. HEVC에서 또는 ATMVP가 SPS 레벨에서 인에이블되지 않을 때, 첫번째 빈만이 컨텍스트 코딩되고, 나머지 빈들은 컨텍스트 바이패스 코딩된다. 도 10의 (a)는 HEVC에 대한, 또는 ATMVP가 SPS 레벨에서 인에이블되지 않을 때의 병합 인덱스의 코딩을 나타낸다. 이것은 단항 최대 코딩에 대응한다. 또한, 제1 비트는 CABAC 코딩되고, 다른 비트들은 바이패스 CABAC 코딩된다.

도 10의 (b)는 SPS 레벨에서 ATMVP가 인에이블될 때의 병합 인덱스의 코딩을 나타낸다. 또한, 모든 비트(첫번째 비트부터 5번째 비트까지)는 CABAC 코딩된다. 각각의 인덱스는 그 자신의 컨텍스트를 갖는데, 즉 그들의 확률이 분리된다는 점에 유의해야 한다.

아핀 모드

HEVC에서, 병진 모션 모델만이 모션 보상 예측(MCP)에 적용된다. 현실 세계에 있는 동안, 많은 종류의 모션, 예를 들어, 줌 인/아웃, 회전, 원근(perspective) 모션들 및 다른 비정규 모션들이 있다.

JEM에서는, 단순화된 아핀 변환 모션 보상 예측이 적용되고 아핀 모드의 일반적인 원리는 2017년 7월 13-21일에 토리노에서의 JVET 미팅에서 제시된 문서 JVET-G1001의 추출에 기초하여 아래에 설명된다. 이 전체 문서는 JEM에서 사용되는 다른 알고리즘들을 기술하는 한 본 명세서에 참조로 포함된다.

도 11의 (a)에 나타낸 바와 같이, 블록의 아핀 모션 필드는 2개의 제어 포인트 모션 벡터들에 의해 기술된다.

블록의 모션 벡터 필드(MVF)는 다음의 수학식에 의해 기술된다:

여기서(v_0x, v_0y)는 좌측 상단 코너 제어 포인트의 모션 벡터이고, (v_1x, v_1y)는 우측 상단 코너 제어 포인트의 모션 벡터이다.

모션 보상 예측을 더 단순화하기 위해, 서브-블록 기반 아핀 변환 예측이 적용된다. 서브-블록 크기 M×N은 수학식 2에서와 같이 도출되며, 여기서 MvPre는 모션 벡터 분수 정확도(JEM에서 1/16)이고, (v_2x, v_2y)는 수학식 1에 따라 계산된 좌측 하단 제어 포인트의 모션 벡터이다.

수학식 2에 의해 도출된 후에, M과 N은 필요하다면 그것을 w 및 h의 제수(divisor)로 각각 만들기 위해 하향 조정되어야 한다.

각각의 M×N 서브-블록의 모션 벡터를 도출하기 위해, 도 6a에 도시된 바와 같이, 각각의 서브-블록의 중심 샘플의 모션 벡터는 수학식 1에 따라 계산되고, 1/16 분수 정확도로 라운딩된다. 이어서, 모션 보상 보간 필터를 적용하여 도출된 모션 벡터를 갖는 각각의 서브-블록의 예측을 생성한다.

아핀 모드는 인터 모드들(AMVP, 병합, 병합 스킵)로서의 모션 보상 모드이다. 그것의 원리는 2 또는 3개의 이웃하는 모션 정보에 따라 픽셀마다 하나의 모션 정보를 생성하는 것이다. 현재의 VTM 참조 소프트웨어에서, 아핀 모드는 도 11의 (a)에 도시된 바와 같이 각각의 4x4 블록에 대해 하나의 모션 정보를 도출한다. 이 모드는 AMVP에 이용가능하고, 두 병합 모드는 플래그 덕분에 인에이블된다. 이 플래그는 CABAC 코딩된다. 일 실시예에서, 컨텍스트는 좌측 블록(도 6b의 위치 A2) 및 좌측 위 블록(도 6b의 위치 B3)의 아핀 플래그들의 합에 의존한다.

따라서, JEM에서 다음의 공식에 의해 주어진 아핀 플래그에 대해 3개의 컨텍스트 변수(0, 1 또는 2)가 가능하다:

Ctx = IsAffine(A2) + IsAffine(B3)

여기서 IsAffine(block)는 블록이 아핀 블록이 아닌 경우 0을 반환하고 블록이 아핀인 경우 1을 반환하는 함수이다.

아핀 병합 후보 도출

JEM에서, 아핀 병합 모드(병합 또는 병합 스킵)는 위치 A1, B1, B0, A0, B2에 있는 블록들 중에서 아핀인 첫번째 이웃하는 블록으로부터 도출된다. 이러한 위치들은 도 6a 및 도 6b에 도시되어 있다. 그러나, 아핀 파라미터가 어떻게 도출되는지는 완전히 정의되어 있지 않으며, 본 발명은 적어도 이러한 양태를 개선하는 것을 목표로 한다.

아핀 병합 시그널링

도 12는 코딩 모드와 관련된 몇몇 신택스 요소의 부분 디코딩 프로세스의 흐름도이다. 이 도면에서는, 스킵 플래그(1201), 예측 모드(1211), 병합 플래그(1203), 병합 인덱스(1208) 및 아핀 플래그(1207)가 디코딩될 수 있다.

인터 슬라이스 내의 모든 CU에 대해, 스킵 플래그가 디코딩된다(1201). CU가 스킵이 아닌 경우(1202), 예측 모드(Prediction mode)가 디코딩된다(1211). 이 신택스 요소는 현재 CU가 인터 모드 또는 인트라 모드인지를 표시한다. CU가 스킵인 경우(1202), 그의 현재 모드는 인터 모드라는 점에 유의한다. CU(1212)의 경우, CU는 AMVP 또는 병합 모드에서 코딩된다. CU가 인터인 경우(1212), 병합 플래그가 디코딩된다(1203). CU가 병합인 경우(1204) 또는 CU가 스킵(1202)인 경우, 아핀 플래그(1206)가 디코딩될 필요가 있는지가 검증된다(1205). 이 플래그는 현재 CU가 2Nx2N CU인 경우 디코딩되며, 이는 현재 VVC에서 CU의 높이 및 폭이 동일해야 함을 의미한다. 또한, 적어도 하나의 이웃하는 CU A1 또는 B1 또는 B0 또는 A0 또는 B2는 아핀 모드(병합 또는 AMVP)로 코딩되어야 한다. 결국 현재 CU는 4x4 CU가 아니라 디폴트로 CU 4x4는 VTM 참조 소프트웨어에서 디스에이블된다. 이 조건(1205)이 거짓이면, 현재 CU가 고전적인 병합 모드 또는 병합 스킵 모드로 코딩되고 병합 인덱스가 디코딩되는 것(1208)이 확실하다. 아핀 플래그(1206)가 1과 동일하게 설정되면(1207), CU는 병합 아핀 CU 또는 병합 스킵 아핀 CU이고 병합 인덱스(1208)는 디코딩될 필요가 없다. 그렇지 않으면, 현재 CU는 고전적인(기본) 병합 또는 병합 스킵 CU이고 병합 인덱스 후보(1208)가 디코딩된다.

본 명세서에서 '시그널링'은 모드 다른 정보의 인에이블 또는 디스에이블을 나타내는 하나 이상의 신택스 요소를 비트스트림에 삽입하거나 비트스트림으로부터 추출하는 것을 지칭할 수 있다.

병합 후보 도출

도 13은 병합 후보 도출을 나타내는 흐름도이다. 이 도출은 도 8에 표현된 HEVC의 병합 리스트 도출의 상단에 구축되었다. HEVC에 비해 주요 변경들은 ATMVP 후보(1319, 1321, 1323)의 추가, 후보들의 전체 중복 체크들(1320, 1325) 및 새로운 후보들의 순서이다. ATMVP 예측은 그것이 현재 CU의 몇몇 모션 정보를 나타내기 때문에 특별한 후보로서 설정된다. 제1 서브-블록(좌측 상단)의 값은 시간적 후보와 비교되고, 시간적 후보는 이들이 동일한 경우 병합의 리스트에 추가되지 않는다(1320). ATMVP 후보는 다른 공간적 후보들과 비교되지 않는다. 리스트(1325) 내의 각각의 공간적 후보와 비교되고 중복 후보이면 병합 후보 리스트에 추가되지 않는 시간적 후보와 반대이다.

공간적 후보가 리스트에 추가될 때, 그것은 HEVC의 최종 버전에서의 경우가 아닌 리스트(1310) 내의 다른 공간적 후보들과 비교된다.

현재의 VTM 버전에서, 병합 후보들의 리스트는 코딩 테스트 조건들에 대해 최상의 결과들을 제공하는 것으로 결정되었으므로 다음의 순서로서 설정된다:

· A1

· B1

· B0

· A0

· ATMVP

· B2

· 시간적

· 조합된

· Zero_MV

공간적 후보 B2가 ATMVP 후보 후에 설정된다는 것에 주목하는 것이 중요하다.

또한, ATMVP가 슬라이스 레벨에서 인에이블될 때, 후보들의 리스트 내의 최대 수는 5 대신에 6이다.

본 발명의 목적은 코딩 효율 및 복잡도를 고려하여 효율적인 방식으로 비트스트림의 일부에서 아핀 모드를 시그널링하는 것이다. 또한, 본 발명의 목적은 기존의 비디오 코딩 프레임워크에 대한 최소량의 구조적 수정을 요구하는 방식으로 아핀 모드를 시그널링하는 것이다.

본 발명의 예시적인 실시예들이 이제 도 13 내지 도 21을 참조하여 설명될 것이다. 실시예들은 달리 명시적으로 언급되지 않는 한 조합될 수 있다는 점에 유의해야 한다; 예를 들어, 실시예들의 특정 조합들은 증가된 복잡도로 코딩 효율을 개선할 수 있지만, 이는 특정 사용 경우들에서 수용가능할 수 있다.

개괄적으로, 개선된 모션 보상을 제공할 가능성이 더 클 때 아핀 모드를 이용하도록 모션 예측자 모드들을 시그널링하는 신택스를 수정함으로써 코딩 복잡도의 수용가능한 증가로 코딩 효율을 개선하는 것이 가능하다.

제1 실시예

제1 실시예에서, 아핀 모션 예측 모드는 적어도 하나의 인터 모드에 대한 비트스트림의 일부에 대해 시그널링(예를 들어, 인에이블 또는 디스에이블)될 수 있다. 상기 비트스트림의 일부에 사용되는 인터 예측 모드가 결정되고, 비트스트림의 그 부분에서 사용되는 인터 예측 모드에 따라 아핀 모션 모드가 시그널링(인에이블 또는 디스에이블)된다.

이 실시예의 이점은 미사용 신택스를 제거함으로써 더 나은 코딩 효율이다. 또한, 평가될 필요가 없는 일부 인터 코딩 가능성들을 회피함으로써 인코더 복잡도를 감소시킨다. 결국, 디코더 측에서 CABAC 코딩된 일부 아핀 플래그들은 디코딩 프로세스의 효율을 증가시는 비트스트림으로부터 추출될 필요가 없다.

제1 실시예의 예로서, 아핀 모드에 대해 스킵 모드가 인에이블되지 않는다. 이것은 CU가 (데이터스트림 내의 스킵 플래그의 상태 또는 존재에 기초하여) 스킵된 CU일 때, 아핀 플래그는 비트스트림으로부터 추출될 필요가 없다는 것을 의미한다. (도 12와 동일한 구조를 공유하고 여기에 대응하는 설명이 적용되는) 도 14는 이 예를 도시한다. 도 14에서, CU가 스킵(1402)일 때, 아핀 플래그(1406)는 디코딩되지 않고 1405의 조건은 평가되지 않는다. CU가 스킵되면, 병합 인덱스가 디코딩된다(1406).

이 예의 이점은 소량의 모션을 갖는 시퀀스들에 대한 코딩 효율 개선이고, 더 많은 모션을 갖는 시퀀스들에 대한 코딩 효율의 감소가 없다는 것이다. 이것은 전형적으로 모션이 거의 없거나 전혀 없을 때 스킵 모드가 사용되기 때문이며, 따라서 아핀 모드가 적절하지 않을 것이다. 위에서 설명된 바와 같이, 인코딩 및 디코딩 프로세스의 복잡도 또한 감소된다.

추가적인 예에서, 아핀 병합 스킵 모드는 하이 레벨- 예를 들어, 슬라이스, 프레임, 시퀀스 또는 CTU 레벨 -에서 인에이블 또는 디스에이블될 수 있다. 이것은 하이 레벨 신택스 플래그에 기초하여 결정될 수 있다. 그러한 경우에, 아핀 병합 스킵은 작은 양의 모션을 갖는 시퀀스에 대해 또는 프레임에 대해 디스에이블될 수 있고, 모션 양이 증가될 때 인에이블될 수 있다. 이 추가적인 예의 이점은 아핀 병합 스킵의 사용에 대한 유연성이다.

일 실시예에서, 아핀 병합 스킵 모드는 인코더 측에서 결코 평가되지 않으며, 결과적으로 어떠한 비트스트림도 아핀 병합 스킵 모드를 포함하지 않는다. 이점은 코딩 효율이 관찰될 수 있지만 제1 실시예보다는 더 작을 수 있다는 것이다.

병합 및 스킵 모드는 아핀에 대해 인에이블되지 않을 수 있다(또는 아핀은 AMVP에 대해서만 인에이블된다). 추가 예에서, 병합 및 병합 스킵 모드는 아핀 모드에 대해 인에이블되지 않는다. 이는 CU가 스킵 또는 병합일 때, 아핀 플래그가 비트스트림으로부터 추출될 필요가 없다는 것을 의미한다. 도 14와 비교하여, 이 실시예에서는, 모듈(1405, 1406 및 1407)이 제거된다.

이 예의 이점은 바로 위의 예와 유사하다. 이점은 소량의 모션을 갖는 시퀀스에 대한 코딩 효율 개선 및 더 많은 모션을 갖는 시퀀스들에 대한 동일한 코딩 효율이다. 위에서 설명된 바와 같이, 인코딩 및 디코딩 프로세스들의 복잡도가 감소된다.

하이 레벨 신택스 요소는 아핀 병합이 인에이블될 수 있다는 것을 시그널링한다. 또 다른 예에서, 아핀 병합 모드 및 병합 스킵 모드는 하나의 플래그를 갖는 슬라이스, 프레임, 시퀀스 또는 CTU 레벨로서 하이 레벨에서 인에이블 또는 디스에이블될 수 있다. 그 경우, 아핀 병합은 소량의 모션을 갖는 시퀀스에 대해 또는 프레임에 대해 디스에이블될 수 있고, 모션 양이 증가될 때 인에이블될 수 있다. 이 추가적인 실시예의 이점은 아핀 스킵의 사용에 대한 유연성이다.

대안적인 예에서, 하나의 플래그는 병합 스킵 모드에 대해 시그널링되고, 하나의 플래그는 병합 모드에 대해 시그널링된다.

다른 예에서, 아핀 병합 스킵 모드 및 병합 모드는 인코더 측에서 결코 평가되지 않는다. 결과적으로, 어떠한 비트스트림도 아핀 병합 스킵 모드를 포함하지 않는다. 이점은 코딩 효율이 관찰될 수 있다는 것이다.

제2 실시예

제2 실시예에서, 현재 블록에 대한 아핀 모드를 시그널링하는 것은 하나 이상의 이웃하는 블록의 모드에 의존한다. 코딩 효율을 개선하기 위해 활용될 수 있는 이웃하는 블록들이 어떻게 인코딩되는지에 상관이 있을 가능성이 있다. 특히, 특정 이웃하는 블록들 중 하나 이상이 아핀 모드를 사용하는 경우, 아핀 모드가 현재 모드에 적절할 가능성이 더 크다.

일 실시예에서, 아핀 병합 또는 아핀 병합 스킵 모드에 대한 후보들의 수는 단지 2개의 후보로 감소된다. 이 실시예의 이점은 디코더 측에서의 복잡도 감소인데, 그 이유는 더 적은 아핀 플래그들이 병합 모드에 대해 디코딩되고, 더 적은 비교 및 메모리 버퍼 액세스가 아핀 병합 체크 조건에 필요하기 때문이다(1205). 인코더 측에서, 더 적은 수의 아핀 병합 모드가 평가될 필요가 있다.

제2 실시예의 일례에서, 좌측의 하나의 이웃하는 블록 및 현재 블록 위의 하나의 이웃하는 블록(예를 들어, 도 6에 도시된 바와 같은 후보들 A1 및 B1)은 아핀 플래그가 디코딩될 필요가 있는지 및 아핀 병합 후보의 도출에 대해 알기 위해 평가된다. 아핀 병합을 위해 이러한 2개의 위치만을 취하는 이점은 복잡도가 감소된 현재의 VTM 구현으로 5개의 후보를 유지하는 것과 유사한 코딩 효율을 갖는 것이다. 도 15는 이 실시예를 도시한다. 이 도면에서는, 도 12와 비교하여 모듈(1505)이 A1 및 B1 위치만을 체크함으로써 변경되었다.

제2 실시예의 추가 예에서는, 도 6b에 도시된 바와 같은 후보들 A2 및 B3만이 평가되어, 아핀 플래그가 디코딩될 필요가 있는지의 여부 및 아핀 병합 후보의 도출을 결정한다. 이 예의 이점은 이전의 예와 동일하지만, 이전의 예와 비교하여 '최악의 경우'에서의 메모리 액세스도 감소시킨다. 실제로 위치 A2 및 B3의 위치는 아핀 플래그 컨텍스트 도출에 사용되는 것들과 동일하다. 실제로 아핀 플래그의 경우, 컨텍스트 도출은 도 6b의 위치 A2 및 B3에 있는 이웃하는 블록에 의존한다. 결과적으로, 아핀 플래그가 디코딩될 필요가 있는 경우, A2 및 B3의 아핀 플래그 값은 현재 아핀 플래그의 컨텍스트 도출을 위해 이미 메모리에 있고, 따라서 추가적인 메모리 액세스는 필요하지 않다.

제3 실시예

제3 실시예에서, 현재 블록에 대한 아핀 모드를 시그널링하는 것은 현재 블록에 이웃하는 블록들에 대응하는 병합 후보들의 리스트에 의존한다.

제3 실시예의 일례에서, 리스트는 상기 블록과 관련된 컨텍스트 변수를 결정하기 위해 사용된 블록들로 시작하는데, 그 이유는 그러한 블록들에 대한 아핀 플래그 값들이 현재 아핀 플래그의 컨텍스트 도출을 위해 이미 메모리에 있기 때문이며, 따라서 추가적인 메모리 액세스가 필요하지 않다. 예를 들어, 가능한 아핀 병합 후보들은 도 6b에 도시된 바와 같이 (A1 또는 B1 또는 B0 또는 A0 또는 B2 대신에) A2 또는 B3 또는 B0 또는 A0 또는 B2이다. 이것은 현재의 VTM에 비해 코딩 효율 개선을 제공한다. 그리고, 이는 최악의 경우의 시나리오에 대한 아핀 플래그의 디코딩을 위해 액세스될 필요가 있는 아핀 플래그들의 양을 또한 제한한다. 현재 버전에서는, 모듈(1205)에 대해서는 5 그리고 아핀 플래그 컨텍스트 도출에 대해서는 2 그리고 본 실시예에서는, A2 및 B3의 아핀 플래그 값으로 5만이 이미 현재 아핀 플래그의 컨텍스트 도출을 위한 메모리 내에 있고 따라서 추가적인 메모리 액세스는 필요하지 않다.

제3 실시예에 대한 변형은 컨텍스트 정렬에 관한 것이다. 아핀 모드를 시그널링하는 것은 컨텍스트 인코딩된 플래그를 데이터 스트림에 삽입하는 것을 포함할 수 있고, 여기서 상기 플래그에 대한 컨텍스트 변수는 이웃하는 블록들이 아핀 모드를 사용하는지의 여부에 기초하여 결정된다.

제3 실시예의 대안적인 예에서, 아핀 플래그의 컨텍스트 도출에 대해 고려되는 위치들은 도 6b에 도시된 바와 같이 위치들 A2 및 B3 대신에 위치들 A1 및 B1이다. 그 경우, 이전 예의 동일한 이점들이 획득된다. 이것은 컨텍스트와 아핀 병합 도출 사이의 다른 정렬이다. 그 경우, 아핀 플래그에 대한 컨텍스트 변수는 다음의 공식에 따라 획득된다:

Ctx = IsAffine(A1) + IsAffine(B1)

여기서 Ctx는 아핀 플래그에 대한 컨텍스트이고 IsAffine는 블록이 아핀 블록이 아닌 경우 0을 반환하고 블록이 아핀 블록인 경우 1을 반환하는 함수이다. 이 예에서, A1 및 B1의 아핀 플래그 값이 현재 아핀 플래그의 컨텍스트 도출을 위해 메모리에 저장되고, 따라서 추가적인 메모리 액세스가 필요하지 않다.

추가의 대안적인 예에서, 아핀 플래그의 컨텍스트 도출에 대해 고려되는 위치들은, 현재 블록이 병합 모드(병합 모드들 둘 다)일 때, 위치들 A2 및 B3 대신에 위치들 A1 및 B1이다. 이전의 예와 비교하여 추가의 이점은 더 나은 코딩 효율이다. 실제로, AMVP에 대해, 컨텍스트 도출이 모션 벡터의 도출에 맞춰 정렬될 필요가 없는데, 그 이유는 AMVP에 대해 아핀 블록들이 이 도출에 대해 고려되지 않기 때문이다.

제4 실시예

제4 실시예에서, 아핀 모드를 시그널링하는 것은 이웃하는 블록들이 병합 모드인지의 여부에 따라 수행된다.

제4 실시예의 일 예에서, 아핀 병합(병합 및 스킵)에 대한 후보는 아핀 AMVP 후보만일 수 있다. 도 17은 이 실시예를 도시한다. 이 실시예의 이점은 코딩 복잡도 감소인데, 그 이유는 코딩 효율에 영향을 주지 않고 보다 적은 아핀 플래그들이 디코딩될 필요가 있기 때문이다.

제4 실시예의 추가 예에서, 아핀 병합(병합 및 스킵)에 대한 후보는 아핀 병합 스킵이 아니라 아핀 AMVP 후보 또는 병합 아핀 후보만일 수 있다.

이전의 예에서와 같이, 이 예의 이점은 코딩 복잡도 감소인데, 그 이유는 코딩 효율에 영향을 주지 않고 보다 적은 아핀 플래그들이 디코딩될 필요가 있기 때문이다.

제5 실시예

제5 실시예에서, 아핀 모드를 시그널링하는 것은 후보 모션 예측자로서 아핀 모드를 삽입하는 것을 포함한다.

제5 실시예의 일례에서, 아핀 병합(및 병합 스킵)은 병합 후보로서 시그널링된다. 그 경우, 도 12의 모듈들(1205, 1206, 1207)이 제거된다. 또한, 병합 모드의 코딩 효율에 영향을 주지 않기 위해, 병합 후보들의 최대 가능한 수가 증분된다. 예를 들어, 현재의 VTM 버전에서 이 값은 6으로 설정되므로, 이 실시예를 VTM의 현재의 버전에 적용하면 이 값은 7이 된다.

이점은, 더 적은 신택스 요소가 디코딩될 필요가 있기 때문에, 병합 모드의 신택스 요소의 설계 단순화이다. 일부 상황에서, 코딩 효율이 관찰될 수 있다.

이제 이 예를 구현할 수 있는 2가지 가능성에 대해 설명할 것이다:

아핀 병합 인덱스는 다른 병합 MV의 값이 무엇이든 리스트 내에서 항상 동일한 위치를 갖는다. 후보 모션 예측자의 위치는 그의 선택 가능성을 나타내며, 따라서 리스트의 위쪽에 배치하면(더 낮은 인덱스 값), 모션 벡터 예측자가 선택될 가능성이 더 높다.

제1 예에서, 아핀 병합 인덱스는 병합 후보들의 리스트 내에서 항상 동일한 위치를 갖는다. 이것은 그것이 고정된 병합 인덱스 값을 갖는다는 것을 의미한다. 예를 들어, 아핀 병합 모드가 가장 가능성있는 콘텐츠가 아닌 복잡한 모션을 표현해야 하므로, 이 값은 5로 설정될 수 있다. 이 실시예의 추가적인 이점은, 현재 블록이 파싱될 때(데이터 자체를 디코딩하지 않고 신택스 요소를 디코딩/판독할 때), 현재 블록이 아핀 블록으로서 설정될 수 있다는 것이다. 결과적으로, 이 값은 AMVP에 사용되는 아핀 플래그에 대한 CABAC 컨텍스트를 결정하기 위해 사용될 수 있다. 따라서, 이 아핀 플래그에 대해 조건부 확률들이 개선되어야 하고 코딩 효율이 더 양호해야 한다.

제2 예에서, 아핀 병합 후보는 다른 병합 후보들과 함께 도출된다. 이 예에서, 새로운 아핀 병합 후보가 병합 후보들의 리스트에 추가된다. 도 18은 이 예를 도시한다. 도 13과 비교하여, 아핀 후보는 첫번째 아핀 이웃하는 블록 A1, B1, B0, A0, B2(1917)이다. 도 12의 1205와 동일한 조건이 유효한 경우(1927), 아핀 후보를 획득하기 위해 아핀 파라미터들로 생성된 모션 벡터 필드가 생성된다(1929). 초기 후보들의 리스트는 ATMVP, 시간적 및 아핀 후보들의 사용에 따라 4, 5, 6 또는 7개의 후보를 가질 수 있다.

모든 이러한 후보들 사이의 순서는 더 많은 가능성있는 후보들이 모션 벡터 후보들의 컷(cut)을 만들 가능성이 더 많은 것을 보장하기 위해 먼저 처리되어야 하므로 중요하다 - 바람직한 순서는 다음과 같다:

A1

B1

B0

A0

아핀 병합

ATMVP

B2

시간적

조합된

Zero_MV

아핀 병합은 ATMVP 모드보다는 앞에 있지만 4개의 메인인 이웃하는 블록들 뒤에 있다는 것에 유의하는 것이 중요하다. ATMVP 후보 이전에 아핀 병합을 설정하는 이점은, ATMVP 및 시간적 예측자 이후에 설정하는 것과 비교하여, 코딩 효율을 증가시킨다. 이러한 코딩 효율 증가는 GOP(group of pictures) 구조 및 GOP 내의 각각의 픽처의 양자화 파라미터(QP) 설정에 의존한다. 그러나, 가장 많이 사용되는 GOP 및 QP 설정의 경우, 이 순서는 코딩 효율을 증가시킨다.

이 해결책의 추가의 이점은 신택스 및 도출 둘 다에 대한 병합 및 병합 스킵의 깨끗한 설계이다. 또한, 아핀 후보 병합 인덱스는 리스트 내의 이전 후보들의 이용가능성 또는 값(중복 체크)에 따라 변할 수 있다. 결과적으로, 효율적인 시그널링이 획득될 수 있다.

추가 예에서, 아핀 병합 인덱스는 하나 또는 여러 조건에 따라 가변적이다.

예를 들어, 아핀 후보와 연관된 리스트 내에서 병합 인덱스 또는 위치는 기준에 따라 변한다. 원리는 아핀 병합이 선택될 높은 확률을 가질 때 아핀 병합에 대응하는 병합 인덱스에 대해 낮은 값(및 선택될 낮은 확률이 있을 때 더 높은 값)을 설정하는 것이다.

이 예의 이점은 병합 인덱스가 사용될 가능성이 가장 클 때 최적의 적응 덕택에 코딩 효율이 증가한다는 것이다.

병합 후보들의 리스트 내의 아핀 모드의 위치를 선택하기 위한 기준은 다음을 포함한다:

a) 스킵 모드가 인에이블되는 경우(스킵 플래그의 상태)

이 기준을 적용하는 일례에서, 아핀 병합 인덱스는 높은 값(예를 들어, 5)으로 설정된 값을 갖거나, 또는 현재 병합이 병합 스킵 모드인 경우 공간적 및 시간적 MV 이후에 설정된다.

제1 실시예에 대해 설명된 바와 같이, 아핀 모드가 임의의 중요한(또는 복잡한) 모션이 있을 가능성이 거의 없기 때문에 스킵 모드에 대해 선택될 가능성이 낮다.

b) 이웃하는 블록들의 모션 정보

이 기준을 적용하는 일례에서, 아핀 병합 인덱스는 높은 값으로 설정된 값을 갖거나, 또는 좌측의 하나의 블록 및 위의 하나의 블록(예를 들어, 블록들 A1 및 B1)의 모션 정보가 유사하거나 동일하다면 공간적 및 시간적 MV 이후에 설정된다.

A1이 B1과 동일한 모션 정보를 가질 때, 모션 정보가 현재 블록에 대해 일정할 확률이 높다. 따라서, 아핀 병합은 선택될 낮은 확률을 갖는다.

c) ATMVP 후보

이 기준을 적용하는 일례에서, 아핀 병합 인덱스는 높은 값으로 설정된 값을 갖거나, 또는 ATMVP 후보가 하나의 모션 정보만을 포함하는 경우 공간적 및 시간적 MV 이후에 설정된다. 그 경우, 병치된 블록의 이전 프레임에 세분이 없다.

따라서, 현재 블록 콘텐츠가 일정하지 않은 모션 내에 있을 가능성이 작으므로, 병합 리스트 내에서 더 높은 위치에 아핀을 설정하지 않는 것이 바람직하다.

d) 이웃하는 블록이 아핀 모드를 이용하는 경우

이 기준을 적용하는 일례에서, 아핀 병합 인덱스는 낮은 값으로 설정된 값을 갖거나, 또는 하나보다 많은 이웃하는 블록이 아핀인 경우 시간적 예측 전에 공간적 예측자로부터 멀리 떨어져 설정된다.

이 기준을 적용하는 추가적인 예에서, 아핀 병합 인덱스 또는 아핀 위치(idx)는 idx=P-N과 동일하게 설정되며, 여기서 P는 아핀 병합 인덱스에 대해 가능한 가장 낮은 위치이고 N은 아핀 이웃하는 블록들의 수이다. 한 예에서, P는 5이고 N은 5이며, 이웃하는 블록들은 A1, B1, B0, A0, B2이다. 이 표기에서 가장 높은 위치는 0의 인덱스 값을 갖는다는 점에 유의해야 한다.

이 예에서, 병합 후보 위치의 아핀 병합 인덱스는 그의 이웃하는 블록과 관련된 확률에 따라 설정된다. 따라서, 모든 이웃하는 위치가 아핀일 때의 첫번째 위치에서 그리고 하나의 이웃하는 블록만이 아핀일 때의 4번째 위치에서.

예시적인 값 '5'는 유사한 코딩 효율을 획득하기 위해 6 또는 7로 설정될 수 있다는 점이 이해되어야 한다.

이러한 기준들의 조합이 가능하다는 것도 이해되어야 한다.

제5 실시예의 다른 예에서, 상기 현재 블록에 대한 아핀 모드의 가능성을 결정하는 것에 따라 아핀 모드가 시그널링된다. 특정 예에서, 아핀 병합 후보는 후보들의 리스트 내에 추가되지 않거나, 어떠한 인덱스도 기준에 따라 아핀 병합에 대응하지 않는다. 이 예의 원리는 유용할 가능성이 없는 아핀 모드를 디스에이블하는 것이다.

이 예의 이점은 병합 인덱스 비트들의 최적의 사용 덕택에 코딩 효율이 증가한다는 것이다.

아핀 모드가 유용할 가능성을 결정하기 위한 기준은 다음을 포함한다:

a) 스킵 플래그의 상태

이 기준을 적용하는 일례에서, 현재 병합이 병합 스킵 모드일 때 아핀 병합 후보가 추가되지 않는다. 제1 실시예에 대해 설명된 바와 같이, 아핀 모드가 스킵 모드를 위해 선택될 가능성은 낮다.

b) 이웃하는 블록들의 모션 정보

이 기준을 적용하는 일 실시예에서, 좌측의 하나의 블록 및 위의 하나의 블록(예를 들어, 블록들 A1 및 B1)의 모션 정보가 유사하거나 동일하다면 아핀 병합 후보가 추가되지 않는다.

좌측의 하나의 블록 및 위의 하나의 블록(예를 들어, 블록들 A1 및 B1)이 동일한 모션 정보를 가질 때, 모션 정보가 현재 블록에 대해 일정할 확률이 높다. 따라서, 아핀 병합은 디스에이블되어야 한다.

c) ATMVP 후보

이 기준을 적용하는 일 실시예에서, ATMVP 후보가 하나의 모션 정보만을 포함하는 경우 아핀 병합 후보가 추가되지 않는다.

이러한 예에서, 현재 블록 콘텐츠가 일정하지 않은 모션 내에 있을 가능성이 작으므로, 병합 리스트 내의 더 높은 위치에서 아핀을 디스에이블하는 것이 바람직하다.

이 기준들의 조합이 가능하다는 것을 이해해야 한다.

본 발명의 실시예들의 구현

도 20은 본 발명의 하나 이상의 실시예의 구현을 위한 컴퓨팅 디바이스(1300)의 개략적인 블록도이다. 컴퓨팅 디바이스(1300)는 마이크로 컴퓨터(micro-computer), 워크스테이션 또는 경량 휴대용 디바이스(light portable device)와 같은 디바이스일 수 있다. 컴퓨팅 디바이스(1300)는: - 마이크로프로세서와 같은 중앙 처리 유닛(CPU)(1301); 본 발명의 실시예들의 방법의 실행가능한 코드를 저장하기 위한 랜덤 액세스 메모리(RAM)(1302) 뿐만 아니라 본 발명의 실시예들에 따른 이미지의 적어도 일부를 인코딩 또는 디코딩하기 위한 방법을 구현하는데 필요한 변수들 및 파라미터들을 기록하도록 적응된 레지스터들, 그것의 메모리 용량은 예를 들어, 확장 포트에 접속된 선택적인 RAM에 의해 확장될 수 있음 -; - 본 발명의 실시예들을 구현하기 위한 컴퓨터 프로그램들을 저장하기 위한 판독 전용 메모리(ROM)(1303); - 네트워크 인터페이스(NET)(1304)는 통상적으로 통신 네트워크에 접속되고, 이를 통해 처리될 디지털 데이터가 송신 또는 수신됨 -에 접속되는 통신 버스를 포함한다. 네트워크 인터페이스(NET)(1304)는 단일 네트워크 인터페이스이거나, 또는 상이한 네트워크 인터페이스의 세트로 이루어질 수 있다(예를 들어, 유선 및 무선 인터페이스, 또는 상이한 종류의 유선 또는 무선 인터페이스). 데이터 패킷은 송신을 위해 네트워크 인터페이스에 기입되거나 CPU(1301)에서 실행되는 소프트웨어 애플리케이션의 제어하에 수신을 위해 네트워크 인터페이스로부터 판독된다; - 사용자 인터페이스(UI)(1305)는 사용자로부터 입력을 수신하거나 사용자에게 정보를 표시하는데 사용될 수 있다; - 하드 디스크(HD)(1306)는 대용량 저장 디바이스로서 제공될 수 있다; 입출력 모듈(IO)(1307)은 비디오 소스 또는 디스플레이와 같은 외부 디바이스들로부터/로 데이터를 송수신하기 위해 사용될 수 있다. 실행가능 코드는 ROM(1303)에, HD(1306) 상에 또는, 예를 들어, 디스크와 같은 이동식 디지털 매체 상에 저장될 수 있다. 변형에 따르면, 프로그램들의 실행가능 코드는 실행되기 전에 HD(1306)와 같은 통신 디바이스(1300)의 저장 수단 중 하나에 저장되기 위해 NET(1304)를 통해 통신 네트워크에 의해 수신될 수 있다. CPU(1301)는 본 발명의 실시예들에 따른 프로그램 또는 프로그램들의 소프트웨어 코드의 명령어들 - 이 명령어들은 전술한 저장 수단 중 하나에 저장되어 있다 - 또는 그 일부를 제어하고 그 실행을 지시하도록 적응된다. 전원이 켜진 후에, CPU(1301)는 소프트웨어 애플리케이션에 관련된 주 RAM 메모리(1302)로부터의 명령어들을, 그 명령어들이, 예를 들어, 프로그램 ROM(1303) 또는 HD(1306)로부터 로딩된 후에 실행할 수 있다. 이러한 소프트웨어 애플리케이션은 CPU(1301)에 의해 실행될 때, 본 발명에 따른 방법의 단계들이 수행되게 한다.

또한, 본 발명의 다른 실시예에 따르면, 전술한 실시예에 따른 디코더는 사용자에게 콘텐츠를 제공/표시할 수 있는 컴퓨터, 모바일 폰(셀룰러 폰), 테이블 또는 임의의 다른 타입의 디바이스(예를 들어, 디스플레이 장치)와 같은 사용자 단말기에 제공된다는 것이 이해된다. 또 다른 실시예에 따르면, 전술한 실시예에 따른 인코더는 인코더가 인코딩할 콘텐츠를 포착하고 제공하는 카메라, 비디오 카메라 또는 네트워크 카메라(예를 들어, 폐회로 텔레비전 또는 비디오 감시 카메라)를 또한 포함하는 촬상 장치에 제공된다. 2개의 이러한 예가 도 21 및 도 22를 참조하여 이하에서 제공된다.

도 21은 네트워크 카메라(2102) 및 클라이언트 장치(2104)를 포함하는 네트워크 카메라 시스템(2100)을 나타내는 도면이다.

네트워크 카메라(2102)는 촬상 유닛(2106), 인코딩 유닛(2108), 통신 유닛(2110) 및 제어 유닛(2112)을 포함한다.

네트워크 카메라(2102)와 클라이언트 장치(2104)는 네트워크(200)를 통해 서로 통신할 수 있도록 상호 접속된다.

촬상 유닛(2106)은 렌즈 및 이미지 센서(예를 들어, CCD(charge coupled device) 또는 CMOS(complementary metal oxide semiconductor))를 포함하고, 오브젝트의 이미지를 포착하고 그 이미지에 기초하여 이미지 데이터를 생성한다. 이 이미지는 정지 이미지 또는 비디오 이미지일 수 있다. 촬상 유닛은 또한 각각 줌 또는 패닝(광학적으로 또는 디지털적으로)하도록 적응된 줌 수단 및/또는 패닝 수단을 포함할 수 있다.

인코딩 유닛(2108)은 제1 내지 제5 실시예에서 설명된 상기 인코딩 방법을 사용하여 이미지 데이터를 인코딩한다. 인코딩 유닛(2108)은 제1 내지 제5 실시예에서 설명된 인코딩 방법들 중 적어도 하나를 사용한다. 다른 예로서, 인코딩 유닛(2108)은 제1 내지 제5 실시예에서 설명된 인코딩 방법의 조합을 사용할 수 있다.

네트워크 카메라(2102)의 통신 유닛(2110)은 인코딩 유닛(2108)에 의해 인코딩된 이미지 데이터를 클라이언트 장치(2104)에 송신한다.

또한, 통신 유닛(2110)은 클라이언트 장치(2104)로부터 커맨드들을 수신한다. 커맨드들은 인코딩 유닛(2108)의 인코딩을 위한 파라미터들을 설정하기 위한 커맨드들을 포함한다.

제어 유닛(2112)은 통신 유닛(2110)에 의해 수신된 커맨드들에 따라 네트워크 카메라(2102) 내의 다른 유닛들을 제어한다.

클라이언트 장치(2104)는 통신 유닛(2114), 디코딩 유닛(2116), 및 제어 유닛(2118)을 포함한다.

클라이언트 장치(2104)의 통신 유닛(2118)은 커맨드들을 네트워크 카메라(2102)에 송신한다.

또한, 클라이언트 장치(2104)의 통신 유닛(2118)은 네트워크 카메라(2102)로부터 인코딩된 이미지 데이터를 수신한다.

디코딩 유닛(2116)은 제1 내지 제5 실시예 중 임의의 실시예에서 설명된 상기 디코딩 방법을 사용하여 인코딩된 이미지 데이터를 디코딩한다. 다른 예로서, 디코딩 유닛(2116)은 제1 내지 제5 실시예에서 설명된 디코딩 방법들의 조합을 사용할 수 있다.

클라이언트 장치(2104)의 제어 유닛(2118)은 통신 유닛(2114)에 의해 수신된 사용자 조작 또는 커맨드들에 따라 클라이언트 장치(2104) 내의 다른 유닛들을 제어한다.

클라이언트 장치(2104)의 제어 유닛(2118)은 디코딩 유닛(2116)에 의해 디코딩된 이미지를 표시하도록 디스플레이 장치(2120)를 제어한다.

클라이언트 장치(2104)의 제어 유닛(2118)은 또한 GUI(Graphical User Interface)를 표시하여 네트워크 카메라(2102)에 대한 파라미터들의 값들을 지정하도록 디스플레이 장치(2120)를 제어하고 인코딩 유닛(2108)의 인코딩을 위한 파라미터들을 포함한다.

클라이언트 장치(2104)의 제어 유닛(2118)은 또한 디스플레이 장치(2120)에 의해 표시된 GUI에 입력되는 사용자 조작에 따라 클라이언트 장치(2104) 내의 다른 유닛들을 제어한다.

클라이언트 장치(2104)의 제어 유닛(2118)은 디스플레이 장치(2120)에 의해 표시된 GUI에 입력되는 사용자 조작에 따라, 네트워크 카메라(2102)에 대한 파라미터의 값들을 지정하는 커맨드들을 네트워크 카메라(2102)에 송신하도록 클라이언트 장치(2104)의 통신 유닛(2114)을 제어한다.

네트워크 카메라 시스템(2100)은 카메라(2102)가 비디오의 녹화 동안 줌 또는 패닝을 이용하는지를 결정할 수 있고, 이러한 정보는 비디오 스트림을 인코딩할 때 사용될 수 있는데, 그 이유는 촬영동안 주밍 또는 패닝이 (특히 렌즈가 '어안(fish eye)' 렌즈인 경우 패닝의 부작용일 수 있는) 주밍, 회전 및/또는 신장과 같은 복잡한 모션을 코딩하는데 아주 적합한 아핀 모드의 사용으로부터 이익을 얻을 수 있기 때문이다.

도 22는 스마트폰(2200)을 나타낸 도면이다.

스마트폰(2200)은 통신 유닛(2202), 디코딩/인코딩 유닛(2204), 제어 유닛(2206) 및 디스플레이 유닛(2208)을 포함한다.

통신 유닛(2202)은 인코딩된 이미지 데이터를 네트워크를 통해 수신한다.

디코딩 유닛(2204)은 통신 유닛(2202)에 의해 수신된 인코딩된 이미지 데이터를 디코딩한다.

디코딩 유닛(2204)은 제1 내지 제5 실시예에서 설명된 상기 디코딩 방법을 사용하여 인코딩된 이미지 데이터를 디코딩한다. 디코딩 유닛(2204)은 제1 내지 제5 실시예에서 설명된 디코딩 방법들 중 적어도 하나를 사용할 수 있다. 다른 예로서, 인코딩 유닛(2202)은 제1 내지 제5 실시예에서 설명된 디코딩 방법들의 조합을 사용할 수 있다.

제어 유닛(2206)은 통신 유닛(2202)에 의해 수신된 사용자 조작 또는 커맨드들에 따라 스마트폰(2200) 내의 다른 유닛들을 제어한다.

예를 들어, 제어 유닛(2206)은 디코딩 유닛(2204)에 의해 디코딩된 이미지를 표시하도록 디스플레이 장치(2208)를 제어한다.

스마트폰은 이미지들 또는 비디오들을 기록하기 위한 이미지 기록 디바이스(2210)(예를 들어, 연관된 회로의 디지털 카메라)를 추가로 포함할 수 있다. 이러한 기록된 이미지들 또는 비디오들은 제어 유닛(2206)의 명령어 하에 디코딩/인코딩 유닛(2204)에 의해 인코딩될 수 있다.

스마트폰은 모바일 디바이스의 배향을 감지하도록 적응된 센서들(2212)을 추가로 포함할 수 있다. 이러한 센서들은 가속도계, 자이로스코프, 나침반, GPS(global positioning) 유닛 또는 유사한 위치 센서들을 포함할 수 있다. 그러한 센서들(2212)은 스마트폰이 배향을 변경하는지를 결정할 수 있고, 그러한 정보는 비디오 스트림을 인코딩할 때 사용될 수 있는데, 그 이유는 촬영동안의 배향의 변화가 회전과 같은 복잡한 모션을 코딩하는데 아주 적합한 아핀 모드의 사용으로부터 이익을 얻을 수 있기 때문이다.

대안 및 변경

본 발명의 목적은 아핀 모드가 가장 효율적인 방식으로 이용되도록 보장하는 것이고, 전술한 특정 예들은 아핀 모드가 유용하다는 인지된 가능성에 따라 아핀 모드의 사용을 시그널링하는 것에 관한 것임을 이해할 것이다. 이것의 추가적인 예는 복잡한 모션(아핀 변환이 특히 효율적일 수 있음)이 인코딩되고 있는 것으로 알려질 때 인코더들에 적용될 수 있다. 이러한 경우들의 예들은 다음을 포함한다:

a) 카메라 줌인/줌아웃

b) 휴대용 카메라(예를 들어, 모바일 폰)는 촬영동안 배향(즉, 회전 이동)을 변경한다.

c) '어안' 렌즈 카메라 패닝(예를 들어, 이미지의 일부분의 신장/왜곡)

이와 같이, 복잡한 모션의 표시는 기록 프로세스동안 상승될 수 있으며, 따라서 아핀 모드는 슬라이스, 프레임들의 시퀀스 또는 실제로 전체 비디오 스트림에 사용될 가능성이 더 높을 수 있다.

추가적인 예에서, 아핀 모드는 비디오를 녹화하는데 사용되는 디바이스의 특징 또는 기능에 따라 사용될 가능성이 더 높을 수 있다. 예를 들어, 모바일 디바이스는 (말하자면) 고정된 보안 카메라보다 배향을 변경할 가능성이 더 클 수 있으므로 아핀 모드는 전자로부터의 비디오를 인코딩하는데 더 적절할 수 있다. 특징 또는 기능의 예는: 주밍 수단의 존재/사용, 위치 센서의 존재/사용, 패닝 수단의 존재/사용, 디바이스가 휴대용인지의 여부, 또는 디바이스 상의 사용자-선택을 포함한다.

본 발명은 실시예들을 참고하여 설명되었지만, 본 발명이 개시된 실시예들에 한정되지 않는다는 것을 이해해야 한다. 첨부된 청구항들에 정의된 바와 같이, 본 발명의 범위를 벗어나지 않고 다양한 변경 및 수정이 이루어질 수 있다는 것을 본 기술분야의 통상의 기술자는 이해할 것이다. 본 명세서(임의의 첨부된 청구범위, 요약서 및 도면 포함)에 개시된 모든 특징, 및/또는 그렇게 개시된 임의의 방법 또는 프로세스의 단계 모두는, 적어도 일부의 이러한 특징 및/또는 단계가 상호 배타적인 조합을 제외하고, 임의의 조합으로 조합될 수 있다. 본 명세서(임의의 첨부된 청구범위, 요약서 및 도면 포함)에 개시된 각 특징은 달리 명백하게 언급되지 않는 한, 동일한, 등가인, 또는 유사한 목적의 대안적 특징에 의해 대체될 수 있다. 따라서, 달리 명백하게 언급되지 않는 한, 개시된 각각의 특징은 동등하거나 유사한 포괄적인 계열의 특징들 중의 단지 일례이다.

위에 설명된 비교, 결정, 평가, 선택, 실행, 수행, 또는 고려의 임의의 결과, 예를 들어, 인코딩 또는 필터링 프로세스 동안 이루어진 선택은 비트스트림 내의 데이터, 예를 들어, 결과를 나타내는 플래그 또는 데이터로부터 표시되거나 결정가능/추론가능할 수 있어서, 예를 들어, 디코딩 프로세스 동안, 비교, 결정, 평가, 선택, 실행, 수행, 또는 고려를 실제로 수행하는 대신에, 표시되거나 결정된/추론된 결과가 처리에서 사용될 수 있다는 것이 또한 이해된다.

청구범위에서, 단어 "포함하는(comprising)"은 다른 요소들 또는 단계들을 배제하지 않고, 부정 관사("a" 또는 "an")는 복수를 배제하지 않는다. 상이한 특징들이 서로 다른 종속 청구항에 언급되어 있다는 단순한 사실이 이러한 특징의 조합이 유리하게 사용될 수 없다는 것을 나타내는 것은 아니다.

청구범위에 나타나는 참조 번호들은 오직 예시에 의한 것이며, 청구범위의 범주에 대한 제한적인 영향을 가지지 않을 것이다.

Claims (8)

1. 모션 예측을 사용하여 인코딩된 비트스트림으로부터 이미지를 디코딩하는 방법으로서,
   후보 모션 예측자들의 리스트를 컴파일링하는 단계; 및
   서브블록 아핀 예측을 위한 후보를 병합 후보로서 삽입하는 단계를 포함하고;
   상기 후보 모션 예측자들의 리스트 내의 상기 서브블록 아핀 예측을 위한 후보의 위치는 서브블록 병치된 시간적 예측을 위한 후보에 기초하여 가변적인, 방법.
2. 모션 예측을 사용하여 이미지를 비트스트림으로 인코딩하는 방법으로서,
   후보 모션 예측자들의 리스트를 컴파일링하는 단계; 및
   서브블록 아핀 예측을 위한 후보를 병합 후보로서 삽입하는 단계를 포함하고,
   상기 후보 모션 예측자들의 리스트 내의 상기 서브블록 아핀 예측을 위한 후보의 위치는 서브블록 병치된 시간적 예측을 위한 후보에 기초하여 가변적인, 방법.
3. 제1항 또는 제2항에 있어서,
   상기 서브블록 아핀 예측을 위한 후보의 위치는 이웃하는 블록들이 서브블록 아핀 예측을 사용하는지의 여부에 기초하여 결정되는, 방법.
4. 제3항에 있어서,
   상기 이웃하는 블록들은 블록 A1과 블록 B1을 포함하는, 방법.
5. 모션 예측을 사용하여 이미지를 비트스트림으로 인코딩하기 위한 인코더로서,
   후보 모션 예측자들의 리스트를 컴파일링하기 위한 수단; 및
   서브블록 아핀 예측을 위한 후보를 병합 후보로서 삽입하기 위한 수단을 포함하고,
   상기 후보 모션 예측자들의 리스트 내의 상기 서브블록 아핀 예측을 위한 후보의 위치는 서브블록 병치된 시간적 예측을 위한 후보에 기초하여 가변적인, 인코더.
6. 모션 예측을 사용하여 인코딩된 비트스트림으로부터 이미지를 디코딩하기 위한 디코더로서,
   후보 모션 예측자들의 리스트를 컴파일링하기 위한 수단; 및
   서브블록 아핀 예측을 위한 후보를 병합 후보로서 삽입하기 위한 수단을 포함하고,
   상기 후보 모션 예측자들의 리스트 내의 상기 서브블록 아핀 예측을 위한 후보의 위치는 서브블록 병치된 시간적 예측을 위한 후보에 기초하여 가변적인, 디코더.
7. 컴퓨터로 하여금 모션 예측을 사용하여 인코딩된 비트스트림으로부터 이미지를 디코딩하는 방법을 실행하게 하기 위한 프로그램을 저장하는 컴퓨터 판독가능 저장 매체로서,
   상기 방법은:
   후보 모션 예측자들의 리스트를 컴파일링하는 단계; 및
   서브블록 아핀 예측을 위한 후보를 병합 후보로서 삽입하는 단계를 포함하고;
   상기 후보 모션 예측자들의 리스트 내의 상기 서브블록 아핀 예측을 위한 후보의 위치는 서브블록 병치된 시간적 예측을 위한 후보에 기초하여 가변적인, 컴퓨터 판독가능 저장 매체.
8. 컴퓨터로 하여금 모션 예측을 사용하여 이미지를 비트스트림으로 인코딩하는 방법을 실행하게 하기 위한 프로그램을 저장하는 컴퓨터 판독가능 저장 매체로서,
   상기 방법은:
   후보 모션 예측자들의 리스트를 컴파일링하는 단계; 및
   서브블록 아핀 예측을 위한 후보를 병합 후보로서 삽입하는 단계를 포함하고,
   상기 후보 모션 예측자들의 리스트 내의 상기 서브블록 아핀 예측을 위한 후보의 위치는 서브블록 병치된 시간적 예측을 위한 후보에 기초하여 가변적인, 컴퓨터 판독가능 저장 매체.

Images