KR20180041774A - 비디오 코딩에서 예측 잔차 블록들의 재배치 - Google Patents

Abstract

변환이 스킵되거나 또는 바이패스되는, 손실 또는 무손실 코딩 모드에서 예측 잔차 블록의 잔차 데이터를 코딩하는 기법들이 설명된다. 본 개시물의 기법들은 잔차 블록의 잔차 데이터를 코딩하기 전에 잔차 블록의 잔차 데이터를 재배치할지, 예컨대, 회전시키거나 또는 플리핑할지 여부를 결정하는 것을 포함한다. 손실 및 무손실 코딩 모드들 양쪽에 대해, 비디오 코딩 디바이스는 잔차 블록의 예측 모드 및 잔차 블록의 사이즈에 기초하여, 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정한다. 일부 예들에서, 본 기법들은 인터-예측 모드 및 인트라 블록 복사 예측 모드에서 모든 잔차 블록들에 대한 재배치를 디스에이블하고, 그리고, 잔차 블록들이 임계 사이즈 이하인 블록 사이즈들을 가질 때 인트라-예측 모드에서 잔차 블록들을 재배치하도록 결정한다.

Description

비디오 코딩에서 예측 잔차 블록들의 재배치{REPOSITIONING OF PREDICTION RESIDUAL BLOCKS IN VIDEO CODING}

본 출원은 2013년 7월 10일자에 출원된 미국 출원번호 제 13/939,037호의 일부 계속출원이며, 2012년 7월 11일자에 출원된 미국 가출원 번호 제 61/670,569호; 2013년 4월 23일자에 출원된 미국 가출원 번호 제 61/815,148호; 및 2013년 6월 11일자에 출원된 미국 가출원 번호 제 61/833,781호의 이익을 주장하며, 이의 각각의 전체 내용이 참조로 포함된다. 본 출원은 또한 2013년 10월 11일자에 출원된 미국 가특허 출원번호 제 61/890,102호의 이익을 주장하며, 이의 전체 내용이 본원에 참고로 포함된다.

기술 분야

본 개시물은 비디오 코딩 (즉, 비디오 인코딩 및 비디오 디코딩), 특히, 무손실 비디오 코딩에 관한 것이다.

디지털 비디오 능력들은, 디지털 텔레비전들, 디지털 직접 브로드캐스트 시스템들, 무선 브로드캐스트 시스템들, 개인 휴대정보 단말기들 (PDAs), 랩탑 또는 데스크탑 컴퓨터들, 태블릿 컴퓨터들, e-북 리더들, 디지털 카메라들, 디지털 리코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화기들, 소위 "스마트폰들", 원격 화상회의 디바이스들, 비디오 스트리밍 디바이스들 등을 포함한, 광범위한 디바이스들에 포함될 수 있다. 디지털 비디오 디바이스들은 MPEG-2, MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, 파트 10, AVC (Advanced Video Coding), 현재 개발중인 HEVC (High Efficiency Video Coding) 표준, 및 이런 표준들의 확장판들에 의해 정의된 표준들에서 설명되는 비디오 코딩 기법들과 같은, 비디오 압축 기법들을 구현한다. 비디오 디바이스들은 이런 비디오 압축 기법들을 구현함으로써, 디지털 비디오 정보를 좀더 효율적으로 송신, 수신, 인코딩, 디코딩, 및/또는 저장할 수도 있다.

비디오 압축 기법들은 비디오 시퀀스들에 고유한 리던던시를 감소시키거나 또는 제거하기 위해 공간 (인트라-화상) 예측 및/또는 시간 (인터-화상) 예측을 수행한다. 블록-기반 비디오 코딩에 있어, 비디오 슬라이스 (즉, 비디오 프레임 또는 비디오 프레임의 부분) 은 비디오 블록들로 파티셔닝될 수도 있으며, 이 비디오 블록들은 또한 트리블록들, 코딩 유닛들 (CU들) 및/또는 코딩 노드들로서 지칭될 수도 있다. 화상의 인트라-코딩된 (I) 슬라이스에서 비디오 블록들은 동일한 화상에서 이웃하는 블록들에서의 참조 샘플들에 대한 공간 예측을 이용하여 인코딩된다. 화상의 인터-코딩된 (P 또는 B) 슬라이스에서 비디오 블록들은 동일한 화상에서 이웃하는 블록들에서의 참조 샘플들에 대한 공간 예측, 또는 다른 참조 화상들에서의 참조 샘플들에 대한 시간 예측을 이용할 수도 있다. 화상들은 프레임들로 지칭될 수 있으며, 참조 화상들은 참조 프레임들로서 지칭될 수도 있다.

공간 또는 시간 예측은 코딩되는 블록에 대한 예측 블록을 초래한다. 잔차 데이터는 코딩되는 원래 블록과 예측 블록 사이의 픽셀 차이들을 나타낸다. 인터-예측 블록은 이전에 디코딩된 참조 화상 내 예측 블록을 형성하는 참조 샘플들의 블록을 가리키는 모션 벡터, 및 코딩된 블록과 예측 블록의 픽셀들 사이의 차이를 표시하는 잔차 데이터에 따라서 인코딩된다. 인트라-코딩된 블록은 인트라-예측 모드 및 잔차 데이터에 따라서 인코딩된다. 추가적인 압축을 위해, 잔차 데이터는 픽셀 도메인으로부터 변환 도메인으로 변환되어, 잔차 변환 계수들을 초래할 수도 있으며, 이 잔차 변환 계수는 그후 양자화될 수도 있다. 처음에 2차원 어레이로 배열된, 양자화된 변환 계수들은 변환 계수들의 1차원 벡터를 생성하기 위해 스캐닝될 수도 있으며, 더욱 더 많은 압축을 달성하기 위해 엔트로피 코딩이 적용될 수도 있다.

일반적으로, 본 개시물은 변환이 스킵 (skip) 되거나 또는 바이패스 (bypass) 되는, 손실 코딩 모드 또는 무손실 코딩 모드에서 예측 잔차 블록의 잔차 데이터를 코딩하는 기법들을 기술한다. 예컨대, 무손실 코딩 모드 또는 손실 코딩 모드에서, 변환 스킵 모드를 이용하여 잔차 블록에 변환이 적용되지 않을 때, 평균보다 더 높은 에너지를 갖는 잔차 데이터, 즉, 더 큰 픽셀 차이 값들은 엔트로피 코딩에 대해 예상되는, 잔차 블록의 상부 좌측 모서리에 배치되지 않을 수도 있다. 본 개시물의 기법들은 잔차 블록의 잔차 데이터를 코딩하기 전에 잔차 블록의 잔차 데이터를 재배치할지, 예컨대, 회전시키거나 또는 플리핑할지 여부를 결정하는 것을 포함한다.

HEVC (High Efficiency Video Coding) 의 범위 확장들과 같은, 예시적인 비디오 코딩 표준에 따르면, 손실 코딩 모드에서는, 임의의 사이즈의 잔차 블록들에 변환 스킵 모드가 적용될 수도 있으며, 그리고, 무손실 코딩 모드에서는, 모든 잔차 블록들에 대해 변환 및 양자화 프로시저들이 바이패스된다. 본 개시물의 기법들에 따르면, 손실 코딩 모드 또는 무손실 코딩 모드에서 잔차 블록에 변환이 적용되지 않을 때, 잔차 블록의 잔차 데이터의 재배치가 어떤 예측 모드들 및 어떤 블록 사이즈들에 제한될 수도 있다. 예를 들어, 비디오 인코더 또는 비디오 디코더는 잔차 블록의 예측 모드, 예컨대, 인트라-예측 모드, 인터-예측, 또는 인트라 블록 복사 예측 모드, 및 잔차 블록의 사이즈에 기초하여, 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정할 수도 있다. 일부 예들에서, 본 기법들은 인터-예측 모드 및 인트라 블록 복사 예측 모드에서 모든 잔차 블록들에 대한 잔차 데이터의 재배치를 디스에이블한다. 다른 예들에서, 본 기법들은 잔차 블록들이 임계 사이즈 이하인 블록 사이즈들을 가질 때 인트라-예측 모드에서 잔차 블록들을 재배치하도록 결정한다.

일 예에서, 본 개시물은 비디오 데이터를 디코딩하는 방법에 관한 것으로, 본 방법은 변환이 잔차 비디오 블록에 적용되지 않는다는 것을 표시하는 하나 이상의 구문 엘리먼트들에 기초하여, 손실 코딩 모드 또는 무손실 코딩 모드에서 비디오 데이터의 잔차 블록을 디코딩하는 단계, 및 잔차 블록의 예측 모드 및 잔차 블록의 사이즈에 기초하여, 잔차 블록의 잔차 데이터로부터 비디오 블록을 재구성하기 전에 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정하는 단계를 포함하며, 여기서, 잔차 데이터를 재배치하는 것은 잔차 블록의 잔차 데이터를 회전시키는 것 또는 플리핑하는 것 중 하나를 포함한다.

또 다른 예에서, 본 개시물은 비디오 데이터를 인코딩하는 방법에 관한 것으로, 본 방법은 손실 코딩 모드 또는 무손실 코딩 모드에서 비디오 데이터의 잔차 블록을 인코딩하는 단계로서, 상기 변환이 잔차 비디오 블록에 적용되지 않는, 상기 비디오 데이터의 잔차 블록을 인코딩하는 단계; 및 잔차 블록의 예측 모드 및 잔차 블록의 사이즈에 기초하여, 잔차 블록의 잔차 데이터를 인코딩하기 전에 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정하는 단계를 포함하며, 잔차 데이터를 재배치하는 것은 잔차 블록의 잔차 데이터를 회전시키는 것 또는 플리핑하는 것 중 하나를 포함한다.

추가적인 예에서, 본 개시물은 비디오 데이터를 코딩하는 비디오 코딩 디바이스에 관한 것으로, 상기 디바이스는, 비디오 데이터를 저장하도록 구성된 메모리; 및 하나 이상의 프로세서들을 포함하고, 상기 하나 이상의 프로세서들은, 손실 코딩 모드 또는 무손실 코딩 모드에서 비디오 데이터의 잔차 블록을 코딩하는 것으로서, 변환은 무손실 코딩 모드에서 잔차 비디오 블록에 적용되지 않는, 상기 비디오 데이터의 잔차 블록을 코딩하고, 잔차 블록의 예측 모드 및 잔차 블록의 사이즈에 기초하여, 잔차 블록의 잔차 데이터를 코딩하기 전에 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정하도록 구성되고, 잔차 데이터를 재배치하는 것은 잔차 블록의 잔차 데이터를 회전시키는 것 또는 플리핑하는 것 중 하나를 포함한다.

또 다른 예에서, 본 개시물은 비디오 데이터를 코딩하기 위한 명령들을 포함하는 컴퓨터 판독가능 매체에 관한 것으로, 상기 명령들은, 실행될 때, 하나 이상의 프로그램가능 프로세서들로 하여금, 손실 코딩 모드 또는 무손실 코딩 모드에서 비디오 데이터의 잔차 블록을 코딩하게 하는 것으로서, 변환은 무손실 코딩 모드에서 잔차 비디오 블록에 적용되지 않는, 상기 비디오 데이터의 잔차 블록을 코딩하게 하고; 잔차 블록의 예측 모드 및 잔차 블록의 사이즈에 기초하여, 잔차 블록의 잔차 데이터를 코딩하기 전에 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정하게 하고, 잔차 데이터를 재배치하는 것은 잔차 블록의 잔차 데이터를 회전시키는 것 또는 플리핑하는 것 중 하나를 포함한다.

하나 이상의 예들의 세부 사항들이 첨부도면 및 아래의 상세한 설명에서 개시된다. 다른 특성들, 목적들, 및 이점들은 설명 및 도면들로부터, 그리고 청구항들로부터 명백히 알 수 있을 것이다.

도 1 은 변환 스킵핑에 의해 잔차 데이터를 코딩하기 위하여 본 개시물에서 설명하는 기법들을 이용할 수도 있는 예시적인 비디오 인코딩 및 디코딩 시스템을 예시하는 블록도이다.
도 2 는 잔차 블록의 잔차 데이터를 인코딩하기 전에 잔차 블록을 회전시킬지 여부를 결정하기 위하여 본 개시물에서 설명하는 기법들을 구현할 수도 있는 예시적인 비디오 인코더를 예시하는 블록도이다.
도 3 은 잔차 블록의 잔차 데이터로부터 비디오 블록을 재구성하기 전에 잔차 블록을 회전시킬지 여부를 결정하기 위하여 본 개시물에서 설명하는 기법들을 구현할 수도 있는 예시적인 비디오 디코더를 예시하는 블록도이다.
도 4 는 모션 예측 모드에 따라서 하나 이상의 예측 유닛들 (PU들) 로, 그리고, 쿼드-트리 데이터 구조에 따라서 다수의 변환 유닛들 (TU들) 로 파티셔닝되는 잔차 블록의 코딩 유닛 (CU) 를 예시하는 블록도이다.
도 5 는 잔차 블록의 잔차 데이터를 인코딩하기 전에 잔차 블록을 회전시킬지 여부를 결정하는 비디오 인코더의 예시적인 동작을 예시하는 플로우차트이다.
도 6 은 잔차 블록의 잔차 데이터로부터 비디오 블록을 재구성하기 전에 잔차 블록을 회전시킬지 여부를 결정하는 비디오 디코더의 예시적인 동작을 예시하는 플로우차트이다.
도 7 은 잔차 블록의 에지들에서의 경계의 유형에 기초하여, 미리 결정된 회전 값 만큼 잔차 블록을 회전시킬지 여부를 결정하는 하나의 예시적인 동작을 예시하는 플로우차트이다.
도 8 은 2개 이상의 가능한 회전 값들의 각각에 대해 잔차 블록의 에지들에서의 경계의 유형에 기초하여 잔차 블록에 대한 회전 값을 결정하는 것을 포함하여, 잔차 블록을 회전시킬지 여부를 결정하는 또 다른 예시적인 동작을 예시하는 플로우차트이다.
도 9 는 잔차 블록들에 변환이 적용되지 않을 때 회전이 수행될 수 있는 잔차 블록들의 블록 사이즈들을 제한하는 예시적인 동작을 예시하는 플로우차트이다.
도 10 은 잔차 블록들에 변환이 적용되지 않을 때 대각선을 따른 잔차 데이터 샘플 값들의 플리핑이 수행될 수 있는 잔차 블록들의 블록 사이즈들을 제한하는 예시적인 동작을 예시하는 플로우차트이다.
도 11a 및 도 11b 는 잔차 차분 펄스 부호 변조 (RDPCM) 을 이용하여 코딩되는 잔차 블록들을 예시하는 개념도들이다.
도 12 는 인트라 블록 복사 예측 모드를 이용하여 동일한 화상에서의 이전에 코딩된 블록에 기초하여 예측되는 현재의 블록을 포함하는 현재의 화상을 예시하는 개념도이다.
도 13 은 잔차 블록의 예측 모드 및 잔차 블록의 사이즈에 기초하여, 변환이 적용되지 않은 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정하는 예시적인 동작을 예시하는 플로우차트이다.

본 개시물은 변환 스킵핑에 의해 예측 잔차 블록의 잔차 데이터를 코딩하는 기법들을 기술한다. 잔차 블록의 잔차 데이터는 코딩될 비디오 블록의 픽셀들과, 코딩되는 블록에 대해 생성되는 예측 블록의 대응하는 픽셀들 사이의 픽셀 차이 값들을 포함한다. 잔차 블록이 변환 스킵 모드에서 손실 코딩 모드 또는 무손실 코딩 모드를 이용하여 코딩될 때 잔차 블록에 대해 변환이 스킵될 수도 있다. 잔차 블록에 변환이 적용되지 않을 때, 평균보다 더 높은 에너지를 갖는 잔차 데이터, 즉, 더 큰 픽셀 차이 값들은, 엔트로피 코딩에 대해 예상되는, 잔차 블록의 상부 좌측 모서리에 배치되지 않을 수도 있다.

잔차 블록에 대해 변환이 스킵될 때, 인코딩 동안 잔차 블록을 회전시켜, 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터를 배치함으로써 엔트로피 코딩 효율이 향상될 수도 있다. 디코딩 동안, 잔차 블록 및 예측 블록으로부터 원래 비디오 블록을 재구성하기 위해, 인코딩 동안에 수행된 회전이 반전될 필요가 있다.

인트라-예측 모드에서, 잔차 블록에 대해 변환이 스킵될 때, 평균보다 더 높은 에너지를 갖는 잔차 데이터는 일반적으로 잔차 블록의 우하측 모서리에 배치된다. 일부의 경우, 인트라-예측 잔차 블록은 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터를 배치하기 위해 잔차 블록을 코딩하기 전에 180 도 만큼 자동적으로 회전될 수도 있다. 그러나, 인터-예측 모드에서는, 잔차 블록을 180 도 만큼 자동적으로 회전시키는 것이 항상 바람직하지는 않을 수도 있다.

본 개시물의 기법들에 따르면, 잔차 블록에 대해 스킵되는 변환에 기초하여, 비디오 인코더 또는 비디오 디코더에 포함된 재배치 유닛은 잔차 블록의 잔차 데이터를 코딩하기 전에 잔차 블록을 회전시킬지 여부를 결정한다. 일부 예들에서, 회전 값이 비디오 인코더와 비디오 디코더 사이에 명시적으로 시그널링될 수도 있다. 다른 예들에서, 비디오 인코더 및 비디오 디코더는 잔차 블록의 2개 이상의 에지들에서의 경계의 유형에 기초하여 잔차 블록을 회전시킬지 여부를 독립적으로 각각 결정할 수도 있다.

인터-예측 모드에서, 잔차 블록의 변환 유닛 (TU) 경계, 즉, 동일한 예측 유닛 (PU) 에 속하는 2개의 TU들 사이의 경계에서의 잔차 데이터는 일반적으로 잔차 블록에서의 평균 잔차 데이터보다 더 낮은 에너지를 갖는다. 또, 잔차 블록의 PU 경계, 즉, 상이한 PU들에 속하는 2개의 TU들 사이의 경계에서의 잔차 데이터는 일반적으로 잔차 블록에서의 평균 잔차 데이터보다 더 높은 에너지를 갖는다. 이 관찰에 기초하여, 본 개시물의 기법들은 잔차 블록의 2개 이상의 에지들에서의 경계의 유형에 기초하여, 변환 스킵핑에 의해 인터-예측 잔차 블록을 회전시키는 것을 포함한다. 예를 들어, 재배치 유닛은 잔차 데이터를 재배치하기 위해, 잔차 블록의 2개 이상의 에지들에서의 경계의 유형을 결정하고, 그후 에지들에서의 경계의 유형에 기초하여, 잔차 블록을 회전시킬지 여부를 결정할 수도 있다.

일부 예들에서, 재배치 유닛은 잔차 블록을 미리 결정된 회전 값, 예컨대, 180 도 만큼 회전시키거나, 또는 잔차 블록을 회전시키지 않기로 결정한다. 다른 예들에서, 재배치 유닛은 2개 이상의 회전 값들, 예컨대, 0 도 또는 무회전, 180 도, 90 도 또는 270 도로부터, 잔차 블록을 회전시킬 회전 값을 결정한다.

인코딩 측에서, 그 회전은 엔트로피 코딩 효율을 향상시키기 위해, 잔차 블록의 잔차 데이터를 인코딩하기 전에 그 회전된 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터를 배치시킨다. 디코딩 측에서, 회전은 예측 블록을 이용하여 잔차 블록으로부터 비디오 블록을 재구성하기 위해, 인코딩 동안 수행된 회전을 반전시키고, 평균보다 더 높은 에너지를 갖는 잔차 데이터를 원래 잔차 블록에서의 그의 원래 위치로 복귀시킨다.

본 개시물은 또한 변환이 스킵되거나 또는 바이패스되는, 손실 코딩 모드 또는 무손실 코딩 모드에서 예측 잔차 블록의 잔차 데이터를 코딩하는 기법들을 기술한다. 본 개시물의 기법들은 잔차 블록의 잔차 데이터를 코딩하기 전에 잔차 블록의 잔차 데이터를 재배치할지, 예컨대, 회전시키거나 또는 플리핑할지 여부를 결정하는 것을 포함한다. 일부 예들에서, 잔차 블록의 잔차 데이터는 위에서 설명한 바와 같이 회전될 수도 있다. 다른 예들에서, 잔차 블록의 잔차 데이터는 잔차 블록의 주 대각선 또는 반대-대각선 중 하나를 따라서 플리핑될 수도 있으며, 이것은 잔차 블록의 대각선의 제 1 면 상의 잔차 데이터를 잔차 블록의 대각선의 제 2 면 상에서 대응하는 거울 이미지 로케이션들에서의 잔차 데이터와 교환하여 잔차 데이터를 플리핑하는 것을 포함한다.

예시적인 비디오 코딩 표준, HEVC (High Efficiency Video Coding) 의 범위 확장에 따르면, 손실 코딩 모드에서, 임의의 사이즈의 잔차 블록들에 변환 스킵 모드가 적용될 수도 있으며, 그리고, 무손실 코딩 모드에서는, 모든 잔차 블록들에 대해 변환 및 양자화 프로시저들이 바이패스된다. 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서, 따라서, 모든 블록 사이즈들에 대해 변환이 스킵되거나 또는 바이패스될 수도 있으며; 따라서, 인트라-예측 모드 및 인터-예측 모드 양쪽에서 모든 블록 사이즈들에 회전이 적용될 수도 있다. 일부 예들에서, 손실 코딩 모드에서, 변환 스킵 모드는 최대 블록 사이즈, 예컨대, 4×4 또는 8×8 까지의 사이즈들을 갖는 잔차 블록들에만 단지 적용하도록 제한될 수도 있다. 손실 코딩 모드에서 변환이 스킵되도록 허용되는 최대 블록 사이즈는 잔차 블록과 연관되는 시퀀스 파라미터 세트 (SPS) 및 화상 파라미터 세트 (PPS) 중 하나에 표시될 수도 있다.

본 개시물의 기법들에 따르면, 손실 코딩 모드 또는 무손실 코딩 모드에서 잔차 블록에 변환이 적용되지 않을 때, 잔차 블록의 잔차 데이터의 재배치는 어떤 예측 모드들 및 어떤 블록 사이즈들에 제한될 수도 있다. 예를 들어, 비디오 인코더 또는 비디오 디코더는 잔차 블록의 예측 모드, 예컨대, 인트라-예측 모드, 인터-예측, 또는 인트라 블록 복사 예측 모드, 및 잔차 블록의 사이즈에 기초하여, 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정할 수도 있다. 일부 예들에서, 본 기법들은 인터-예측 모드 및 인트라 블록 복사 예측 모드에서 모든 잔차 블록들에 대해 잔차 데이터의 재배치를 디스에이블한다. 다른 예들에서, 본 기법들은 잔차 블록들이 임계 사이즈 이하인 블록 사이즈들을 가질 때 인트라-예측 모드에서 잔차 블록들을 재배치하도록 결정한다. 일부의 경우, 임계 사이즈는 4×4 또는 8×8 과 동일할 수도 있다. 다른 경우, 임계 사이즈는 손실 코딩 모드에서 변환 스킵핑이 허용되는 최대 블록 사이즈 미만이거나 또는 동일할 수도 있다. 이렇게 하여, 인트라-예측 모드 잔차 블록들에 회전이 적용될 수도 있는 블록 사이즈들은 변환 스킵 모드를 이용하는 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 동일하다.

도 1 은 변환 스킵핑으로 잔차 데이터를 코딩하기 위하여 본 개시물에서 설명하는 기법들을 활용할 수도 있는 예시적인 비디오 인코딩 및 디코딩 시스템 (10) 을 예시하는 블록도이다. 도 1 에 나타낸 바와 같이, 시스템 (10) 은 목적지 디바이스 (14) 에 의해, 예컨대 추후, 디코딩될 인코딩된 비디오 데이터를 생성하는 소스 디바이스 (12) 를 포함한다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 데스크탑 컴퓨터들, 노트북 (즉, 랩탑) 컴퓨터들, 태블릿 컴퓨터들, 셋-탑 박스들, 소위 "스마트" 폰들과 같은 전화기 핸드셋들, 소위 "스마트" 패드들, 텔레비전, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 비디오 스트리밍 디바이스 등을 포함한, 광범위한 디바이스들 중 임의의 디바이스를 포함할 수도 있다. 일부의 경우, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 무선 통신을 위해 갖추어질 수도 있다.

목적지 디바이스 (14) 는 디코딩될 인코딩된 비디오 데이터를 링크 (16) 를 통해서 수신할 수도 있다. 링크 (16) 는 인코딩된 비디오 데이터를 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 이동시킬 수 있는 임의 종류의 매체 또는 디바이스를 포함할 수도 있다. 일 예에서, 링크 (16) 는 소스 디바이스 (12) 로 하여금, 인코딩된 비디오 데이터를 직접 목적지 디바이스 (14) 로 실시간으로 송신할 수 있게 하는 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라서 변조되어 목적지 디바이스 (14) 로 송신될 수도 있다. 통신 매체는 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적인 송신 라인들과 같은, 임의의 무선 또는 유선 통신 매체를 포함할 수도 있다. 통신 매체는 근거리 네트워크, 광역 네트워크, 또는 글로벌 네트워크, 예컨대 인터넷과 같은 패킷-기반 네트워크의 일부를 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.

대안적으로, 인코딩된 데이터는 출력 인터페이스 (22) 로부터 저장 디바이스 (34) 로 출력될 수도 있다. 이와 유사하게, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스 (34) 로부터 액세스될 수도 있다. 저장 디바이스 (34) 는 하드 드라이브, Blu-ray 디스크들, DVDs, CD-ROMs, 플래시 메모리, 휘발성 또는 비-휘발성 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체들과 같은 다양한 분산된 또는 로컬 액세스되는 데이터 저장 매체들 중 임의의 데이터 저장 매체를 포함할 수도 있다. 추가 예에서, 저장 디바이스 (34) 는 소스 디바이스 (12) 에 의해 생성된 인코딩된 비디오를 유지할 수도 있는 파일 서버 또는 또 다른 중간 저장 디바이스에 대응할 수도 있다. 목적지 디바이스 (14) 는 스트리밍 또는 다운로드를 통해서 저장 디바이스 (34) 로부터 저장된 비디오 데이터에 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 송신하는 것이 가능한 임의 종류의 서버일 수도 있다. 예시적인 파일 서버들은 웹 서버 (예컨대, 웹사이트용), FTP 서버, NAS (network attached storage) 디바이스들, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스 (14) 는 인터넷 접속을 포함한, 임의의 표준 데이터 접속을 통해서, 인코딩된 비디오 데이터에 액세스할 수도 있다. 이것은 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하는데 적합한, 무선 채널 (예컨대, Wi-Fi 접속), 유선 접속 (예컨대, DSL, 케이블 모뎀 등), 또는 양자의 조합을 포함할 수도 있다. 저장 디바이스 (34) 로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 이 양쪽의 조합일 수도 있다.

본 개시물의 기법들은 반드시 무선 애플리케이션들 또는 설정들에 한정되지는 않는다. 이 기법들은 오버-디-에어 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, 예컨대, 인터넷을 통한 스트리밍 비디오 송신들, 데이터 저장 매체 상에의 저장을 위한 디지털 비디오의 인코딩, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩, 또는 다른 애플리케이션들과 같은, 다양한 멀티미디어 애플리케이션들 중 임의의 애플리케이션의 지원 하에 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 시스템 (10) 은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 비디오 전화 통신과 같은, 지원 애플리케이션들로의 단방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.

도 1 의 예에서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20) 및 출력 인터페이스 (22) 를 포함한다. 일부의 경우, 출력 인터페이스 (22) 는 변조기/복조기 (모뎀) 및/또는 송신기를 포함할 수도 있다. 소스 디바이스 (12) 에서, 비디오 소스 (18) 는 비디오 캡쳐 디바이스, 예컨대, 비디오 카메라, 이전에 캡쳐된 비디오를 포함하는 비디오 아카이브, 비디오 콘텐츠 제공자로부터 비디오를 수신하는 비디오 공급 인터페이스, 및/또는 컴퓨터 그래픽스 데이터를 소스 비디오로서 생성하는 컴퓨터 그래픽스 시스템과 같은 소스, 또는 이런 소스들의 조합을 포함할 수도 있다. 일 예로서, 비디오 소스 (18) 가 비디오 카메라이면, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 그러나, 본 개시물에서 설명하는 기법들은 비디오 코딩에 일반적으로 적용가능할 수도 있으며, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다.

캡쳐되거나, 사전-캡쳐되거나, 또는 컴퓨터-생성된 비디오는 비디오 인코더 (12) 에 의해 인코딩될 수도 있다. 인코딩된 비디오 데이터는 소스 디바이스 (20) 의 출력 인터페이스 (22) 를 통해서 목적지 디바이스 (14) 로 바로 송신될 수도 있다. 인코딩된 비디오 데이터는 또한 (또는, 대안적으로) 디코딩 및/또는 플레이백을 위한, 목적지 디바이스 (14) 또는 다른 디바이스들에 의한 추후 액세스를 위해, 저장 디바이스 (34) 상에 저장될 수도 있다.

목적지 디바이스 (14) 는 입력 인터페이스 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 포함한다. 일부의 경우, 입력 인터페이스 (28) 은 수신기 및/또는 모뎀을 포함할 수도 있다. 목적지 디바이스 (14) 의 입력 인터페이스 (28) 은 인코딩된 비디오 데이터를 링크 (16) 을 통해서 수신한다. 링크 (16) 을 통해서 통신되거나, 또는 저장 디바이스 (34) 상에 제공되는 인코딩된 비디오 데이터는, 비디오 데이터를 디코딩할 때에, 비디오 디코더 (30) 과 같은 비디오 디코더에 의해 사용하기 위한, 비디오 인코더 (20) 에 의해 생성되는 다양한 구문 엘리먼트들을 포함할 수도 있다. 이런 구문 엘리먼트들은 통신 매체 상으로 송신되거나, 저장 매체 상에 저장되거나, 또는 파일 서버에 저장된 인코딩된 비디오 데이터와 함께 포함될 수도 있다.

디스플레이 디바이스 (32) 는 목적지 디바이스 (14) 와 통합되거나 또는 그 외부에 있을 수도 있다. 일부 예들에서, 목적지 디바이스 (14) 는 통합된 디스플레이 디바이스를 포함하며, 또한 외부 디스플레이 디바이스와 인터페이스하도록 구성될 수도 있다. 다른 예들에서, 목적지 디바이스 (14) 는 디스플레이 디바이스일 수도 있다. 일반적으로, 디스플레이 디바이스 (32) 는 그 디코딩된 비디오 데이터를 사용자에게 디스플레이하며, 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 또 다른 유형의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 임의의 디바이스를 포함할 수도 있다.

디지털 비디오 디바이스들은 디지털 비디오 정보를 좀더 효율적으로 인코딩하고 디코딩하는 비디오 압축 기법들을 구현한다. 비디오 압축은 비디오 시퀀스들에 고유한 리던던시를 감소시키거나 또는 제거하기 위해 공간 (인트라-프레임) 예측 및/또는 시간 (인터-프레임) 예측 기법들을 적용할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 은 현재 개발중인 HEVC (High Efficiency Video Coding) 표준과 같은 비디오 코딩 표준에 따라서 동작할 수도 있으며, HEVC 테스트 모델 (HM) 을 따를 수도 있다. 대안적으로, 비디오 인코더 (20) 및 비디오 디코더 (30) 은 다른 독점 또는 산업 비디오 코딩 표준들에 따라서 동작할 수도 있다. 본 개시물의 기법들은, 그러나, 임의의 특정의 코딩 표준에 한정되지 않는다.

비디오 코딩 표준들은 ITU-T H.261, ISO/IEC MPEG-1 Visual, ITU-T H.262 또는 ISO/IEC MPEG-2 Visual, ITU-T H.263, ISO/IEC MPEG-4 Visual 및 그의 스케일러블 비디오 코딩 (SVC) 및 멀티뷰 비디오 코딩 (MVC) 확장판들을 포함한, (또한, ISO/IEC MPEG-4 AVC 로서 알려진) ITU-T H.264 를 포함한다. 게다가, 새로운 비디오 코딩 표준, 즉 HEVC 가 ITU-T 비디오 코딩 전문가 그룹 (VCEG) 와 ISO/IEC 동화상 전문가 그룹 (MPEG) 의 비디오 코딩에 관한 합동 연구팀 (JCT-VC) 에 의해 개발되고 있다.

차기 HEVC 표준의 "작업 초안 7", 또는 "WD7" 는 ITU-T SG16 WP3 과 ISO/IEC JTC1/SC29/WG11 의 JCT-VC (Joint Collaborative Team on Video Coding), 9차 회의: 2012년 4월 27일 내지 2012년 5월 7일, 스위스, 제네바, 문서 HCTVC-I1003, Bross 등, "High Efficiency Video Coding (HEVC) Text Specification Draft 7" 에 설명되어 있으며, 이 문서는 http://phenix.it-sudparis.eu/jct/doc_end_user/documents/9_Geneva/wg11/JCTVC-I1003-v6.zip 로부터 다운로드가능하다. 게다가, HEVC 표준의 "작업 초안 8" 또는 "WD8" 은 ITU-T SG16 WP3 과 ISO/IEC JTC1/SC29/WG11 의 JCT-VC (Joint Collaborative Team on Video Coding), 10차 회의: 2012년 7월 11-20일, 스웨덴, 스톡홀름, 문서 JCTVC-J1003_d7, Bross 등, "High Efficiency Video Coding (HEVC) Text Specification Draft 8" 에 설명되어 있으며, 이 문서는 http://phenix.int-evry.fr/jct/doc_end_user/documents/10_Stockholm/wg11/JCTVC-J1003-v8.zip 로부터 입수가능하다.

ITU-T SG16 WP3 과 ISO/IEC JTC1/SC29/WG11 의 JCT-VC (Joint Collaborative Team on Video Coding), 12차 회의: 2013년 1월 14-23일, 스위스, 제네바, 문서 JCTVC-L1003v34, Bross 등, "High efficiency video coding (HEVC) text specification draft 10" 에서의 HEVC 표준의 초안은, http://phenix.int-evry.fr/jct/doc_end_user/documents/12_Geneva/wg11/JCTVC-L1003-v34.zip 로부터 입수가능하다. HEVC 표준의 범위 확장판들은 ITU-T SG16 WP3 과 ISO/IEC JTC1/SC29/WG11 의 JCT-VC (Joint Collaborative Team on Video Coding), 14차 회의: 2013년 7월 25일 - 8월 02일, 오스트리아, 비엔나, 문서 JCTVC-N1005, Flynn, 등, "High Efficiency Video Coding (HEVC) Range Extensions text specification: Draft 4" 에 설명되어 있으며, 이 문서는 http://phenix.int-evry.fr/jct/doc_end_user/documents/14_Vienna/wg11/JCTVC-N1005-v3.zip 로부터 입수가능하다.

도 1 에 나타내지는 않지만, 일부 양태들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 은 오디오 인코더 및 디코더와 각각 통합될 수도 있으며, 오디오 및 비디오 양쪽의 인코딩을 공통 데이터 스트림 또는 별개의 데이터 스트림들로 처리하기에 적합한 MUX-DEMUX 유닛들, 또는 다른 하드웨어 및 소프트웨어를 포함할 수도 있다. 적용가능한 경우, 일부 예들에서, MUX-DEMUX 유닛들은 ITU H.223 멀티플렉서 프로토콜, 또는 다른 프로토콜들, 예컨대, 사용자 데이터그램 프로토콜 (UDP) 를 따를 수도 있다.

비디오 인코더 (20) 및 비디오 디코더 (30) 각각은 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (DSPs), 주문형 집적회로들 (ASICs), 필드 프로그램가능 게이트 어레이들 (FPGAs), 이산 로직, 소프트웨어, 하드웨어, 펌웨어 또는 임의의 이들의 조합들과 같은, 다양한 적합한 인코더 회로 중 임의의 회로로 구현될 수도 있다. 이 기법들이 소프트웨어로 부분적으로 구현되는 경우, 디바이스는 본 개시물의 기법들을 수행하기 위해 소프트웨어용 명령들을 적합한 비일시성 컴퓨터-판독가능 매체에 저장하고, 그 명령들을 하드웨어에서 하나 이상의 프로세서들을 이용하여 실행할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 각각은 하나 이상의 인코더들 또는 디코더들에 포함될 수도 있으며, 이들 중 어느 쪽이든 각각 디바이스에서 결합된 인코더/디코더 (CODEC) 의 부분으로서 통합될 수도 있다.

JCT-VC 는 HEVC 표준의 개발에 노력을 들이고 있다. HEVC 표준화 노력들은 HEVC 테스트 모델 (HM) 으로서 지칭되는 비디오 코딩 디바이스의 진화 모델 (evolving model) 에 기초한다. HM 은 예컨대, ITU-T H.264/AVC 에 따른 기존 디바이스들에 관련된 비디오 코딩 디바이스들의 여러 추가적인 능력들을 가정한다. 예를 들어, H.264 는 9개의 인트라-예측 인코딩 모드들을 제공하는 반면, HM 은 34개의 만큼이나 많은 인트라-예측 인코딩 모드들을 제공할 수도 있다.

일반적으로, HM 의 작업 모델은, 비디오 프레임 또는 화상이 하나 이상의 슬라이스들로 파티셔닝될 수도 있으며 그 슬라이스들이 트리블록들 또는 최대 코딩 유닛들 (LCU) 의 시퀀스로 추가로 파티셔닝될 수도 있으며 그 시퀀스가 코딩 유닛들 (CU들) 로 추가로 파티셔닝될 수도 있다고 기술한다. CU 는 일반적으로 여러 코딩 툴들이 비디오 압축을 위해 제공되는 기본적인 유닛으로서 역할을 하는 이미지 영역을 지칭한다. CU 는 대개 Y 로 표기되는 휘도 성분, 및 U 와 V 로 표기되는 2개의 크로마 성분들을 갖는다. 비디오 샘플링 포맷에 따라서, U 및 V 성분들의 사이즈는, 샘플들의 개수의 관점에서, Y 성분의 사이즈와 동일하거나 또는 상이할 수도 있다. CU 는 일반적으로 정사각형이며, 예컨대, ITU-T H.264 와 같은, 다른 비디오 코딩 표준들 하에서 소위 매크로블록과 유사한 것으로 간주될 수도 있다. 개발중인 HEVC 표준의 현재 제안된 양태들의 일부에 따른 코딩이 본 출원 예시의 목적을 위해 설명될 것이다. 그러나, 본 개시물에서 설명하는 기법들은 H.264 또는 다른 표준 또는 사유 비디오 코딩 프로세스들에 따라 정의된 것들과 같은, 다른 비디오 코딩 프로세스들에 유용할 수도 있다.

HM 에 따르면, CU 는 코딩 노드, 및 그 코딩 노드와 연관되는 하나 이상의 예측 유닛들 (PU들) 및/또는 하나 이상의 변환 유닛들 (TU들) 을 포함한다. 비트스트림 내 구문 데이터는 트리블록, 또는 픽셀들의 개수의 관점에서 최대 CU 인 LCU 를 정의할 수도 있다. 일반적으로, CU 가 사이즈 구별을 갖지 않는다는 점을 제외하고는, CU 는 H.264 의 매크로블록과 유사한 목적을 갖는다. 따라서, CU 는 서브-CU들로 분할될 수도 있다. 일반적으로, 본 개시물에서 CU 에 대한 언급들은 화상의 최대 코딩 유닛 또는 LCU 의 서브-CU 를 지칭할 수도 있다. LCU 는 서브-CU들로 분할될 수도 있으며, 각각의 서브-CU 는 서브-CU들로 추가로 분할될 수도 있다. 비트스트림에 대한 구문 데이터는 LCU 가 분할되는 최대 횟수를 정의할 수도 있으며, 이는 CU 깊이로 지칭된다. 따라서, 비트스트림은 또한 최소 코딩 유닛 (SCU) 를 정의할 수도 있다. 본 개시물은 또한 CU, PU, 또는 TU 중 임의의 것을 지칭하기 위해 용어 "블록" 또는 "부분" 을 사용한다. 일반적으로, "부분" 은 비디오 프레임의 임의의 서브-세트를 지칭할 수도 있다.

LCU 는 쿼드트리 데이터 구조와 연관될 수도 있다. 일반적으로, 쿼드트리 데이터 구조는 CU 당 하나의 노드를 포함하며, 여기서, 루트 노드는 LCU 에 대응한다. CU 가 4개의 서브-CU들로 분할되면, CU 에 대응하는 노드는 4개의 리프 또는 자식 노드들을 포함하며, 각각의 리프 노드는 서브-CU들 중 하나에 대응한다. 쿼드트리 데이터 구조의 각각의 노드는 대응하는 CU 에 대한 구문 데이터를 제공할 수도 있다. 예를 들어, 쿼드트리에서 노드는 그 노드에 대응하는 CU 가 서브-CU들로 분할되는지의 여부를 나타내는 분할 플래그를 포함할 수도 있다. CU 에 대한 구문 엘리먼트들은 회귀적으로 정의될 수도 있으며, CU 가 서브-CU들로 분할되는지의 여부에 의존할 수도 있다. CU 가 추가로 분할되지 않으면, CU 는 리프-CU 로서 지칭될 수도 있다.

더욱이, 리프-CU들의 TU들은 또한 잔차 쿼드트리 (RQT) 와 같은, 각각의 쿼드트리 데이터 구조들과 연관될 수도 있다. 즉, 리프-CU 는 리프-CU 가 어떻게 TU들로 파티셔닝되는 지를 나타내는 쿼드트리를 포함할 수도 있다. 본 개시물은 어떻게 LCU 가 CU 쿼드트리로서 파티셔닝되는지를 나타내는 쿼드트리, 및 어떻게 리프-CU 가 TU들에 TU 쿼드트리로서 파티셔닝되는지를 나타내는 쿼드트리를 인용한다. TU 쿼드트리의 루트 노드는 일반적으로 리프-CU 에 대응하는 반면, CU 쿼드트리의 루트 노드는 일반적으로 LCU 에 대응한다. 분할되지 않은 TU 쿼드트리의 TU들은 리프-TU들로서 지칭된다. TU 는 정사각형 또는 비-정사각형의 형태일 수도 있다.

리프-CU 는 하나 이상의 PU들을 포함할 수도 있다. 일반적으로, PU 는 대응하는 CU 의 모두 또는 부분을 나타내며, PU 에 대한 참조 샘플을 취출하기 위한 데이터를 포함할 수도 있다. 예를 들어, PU 가 인트라-모드 인코딩될 때, PU 는 그 PU 에 대한 인트라-예측 모드를 기술하는 데이터를 포함할 수도 있다. 또 다른 예로서, PU 가 인터-모드 인코딩될 때, PU 는 그 PU 에 대한 모션 벡터를 정의하는 데이터를 포함할 수도 있다. 모션 벡터를 정의하는 데이터는 예를 들어, 모션 벡터의 수평 성분, 모션 벡터의 수직 성분, 모션 벡터에 대한 해상도 (예컨대, 1/4 픽셀 정밀도 또는 1/8 픽셀 정밀도), 모션 벡터가 가리키는 참조 프레임, 및/또는 모션 벡터에 대한 참조 리스트 (예컨대, 리스트 0 또는 리스트 1) 을 기술할 수도 있다. PU들을 정의하는 리프-CU 에 대한 데이터는 또한 예를 들어, 하나 이상의 PU들로의 CU 의 파티셔닝을 기술할 수도 있다. 파티셔닝 모드들은 CU 가 코딩되지 않는지, 인트라-예측 모드 코딩되는지, 또는 인터-예측 모드 코딩되는지 여부에 따라서 상이할 수도 있다. 인트라 코딩에 있어, PU 는 리프-TU 와 동일하게 취급될 수도 있다. PU들은 정사각형 또는 비-정사각형의 형태로 파티셔닝될 수도 있다.

일반적으로, TU 는 변환 및 양자화 프로세스들에 사용된다. 예측 이후, 잔차 데이터 값들은 예측 블록을 이용하여 코딩 노드에 의해 식별되는 비디오 블록에 대해 계산된다. 코딩 노드는 그후 원래 비디오 블록 대신, 잔차 값들을 참조하기 위해 업데이트된다. 잔차 값들은 엔트로피 코딩을 위한 직렬화된 변환 계수들을 생성하기 위해 변환 계수들로 변환되고, 양자화되고, 그리고 스캐닝될 수도 있는 픽셀 차이 값들을 포함한다. 코딩 노드는 또 다시 이들 직렬화된 변환 계수들을 참조하기 위해 업데이트될 수도 있다.

비디오 시퀀스는 일반적으로 비디오 프레임들 또는 화상들의 시리즈를 포함한다. 화상들의 그룹 (GOP) 는 일반적으로 하나 이상의 비디오 화상들의 시리즈를 포함한다. GOP 는 GOP 의 헤더, 화상들의 하나 이상의 헤더, 또는 다른 곳에, GOP 에 포함된 다수의 화상들을 기술하는 구문 데이터를 포함할 수도 있다. 화상의 각각의 슬라이스는 각각의 슬라이스에 대한 인코딩 모드를 기술하는 슬라이스 구문 데이터를 포함할 수도 있다. 각각의 슬라이스는 비디오 데이터를 인코딩하는데 사용되는 비디오 블록들로 추가로 파티셔닝된다. 비디오 블록은 CU 내 코딩 노드에 대응할 수도 있다. 비디오 블록들은 고정 또는 가변 사이즈들을 가질 수도 있으며, 규정된 코딩 표준에 따라서 사이즈가 상이할 수도 있다.

일 예로서, HM 은 여러 PU 사이즈들에서 예측을 지원한다. 특정의 CU 의 사이즈가 2Nx2N 이라고 가정하면, HM 은 2Nx2N 또는 NxN 의 PU 사이즈들에서는 인트라-예측을, 그리고 2Nx2N, 2NxN, Nx2N, 또는 NxN 의 대칭적인 PU 사이즈들에서는 인터-예측을 지원한다. HM 은 또한 2NxnU, 2NxnD, nLx2N, 및 nRx2N 의 PU 사이즈들에서 인터-예측에 대해 비대칭적인 파티셔닝을 지원한다. 비대칭적인 파티셔닝에서, CU 의 하나의 방향은 파티셔닝되지 않지만, 다른 방향은 25% 및 75% 로 파티셔닝된다. 25% 파티션에 대응하는 CU 의 부분은 "상부 (Up)", "하부 (Down)", "좌측 (Left)", 또는 "우측 (Right)" 의 표시가 뒤따르는 "n" 으로 표시된다. 따라서, 예를 들어, "2NxnU" 는 상부에서 2Nx0.5N PU 로 그리고 하부에서 2Nx1.5N PU 로 수평으로 파티셔닝된 2Nx2N CU 를 지칭한다.

본 개시물에서, "NxN" 및 "N 곱하기 N" 은 수직 및 수평 치수들의 관점에서 비디오 블록의 픽셀 치수들, 예컨대, 16x16 픽셀들 또는 16 곱하기 16 픽셀들을 지칭하기 위해 상호교환가능하게 사용될 수도 있다. 일반적으로, 16x16 블록은 수직 방향으로 16개의 픽셀들 (y = 16) 및 수평 방향으로 16개의 픽셀들 (x = 16) 을 가질 것이다. 이와 유사하게, NxN 블록은 일반적으로 수직 방향으로 N 개의 픽셀들 및 수평 방향으로 N 개의 픽셀들을 가지며, 여기서 N 은 음이 아닌 정수 값을 나타낸다. 블록에서 픽셀들은 로우들 및 칼럼들로 배열될 수도 있다. 더욱이, 블록들은 수직 방향에서와 같이 수평 방향에서 동일한 픽셀들의 개수를 반드시 가질 필요는 없다. 예를 들어, 블록들은 NxM 픽셀들을 포함할 수도 있으며, 여기서 M 은 반드시 N 과 같을 필요는 없다.

블록 (예컨대, 비디오 데이터의 PU) 를 코딩하기 위해, 그 블록에 대한 예측자가 먼저 유도된다. 예측 블록으로 또한 지칭되는 예측자는 인트라 (I) 예측 (즉, 공간 예측) 또는 인터 (P 또는 B) 예측 (즉, 시간 예측) 을 통해서 유도될 수 있다. 그러므로, 일부 예측 유닛들은 동일한 프레임 (또는, 슬라이스) 에서 이웃하는 참조 블록들에서의 참조 샘플들에 대해 공간 예측을 이용하여 인트라-코딩될 수도 있으며 (I), 다른 예측 유닛들은 다른 이전에-코딩된 프레임들 (또는, 슬라이스들) 에서의 참조 샘플들의 블록들에 대해 단방향 인터-코딩되거나 (P) 또는 양방향 인터-코딩될 수도 있다 (B). 각 경우에, 참조 샘플들은 코딩되는 블록에 대한 예측 블록을 형성하는데 사용될 수도 있다.

예측 블록의 식별 시, 원래 비디오 데이터 블록과 그의 예측 블록 사이의 차이가 결정된다. 이 차이는 예측 잔차 데이터로서 지칭될 수도 있으며, 코딩될 블록에서의 픽셀 값들과, 코딩된 블록을 표현하기 위해 선택되는 예측 블록에서의 픽셀 샘플 값들 사이의 픽셀 차이들을 표시한다. 더 나은 압축을 달성하기 위해, 예측 잔차 데이터는 예컨대, 이산 코사인 변환 (DCT), 정수 변환, Karhunen-Loeve (K-L) 변환, 또는 또 다른 변환을 이용하여 변환될 수도 있다.

TU 와 같은 변환 블록에서의 잔차 데이터는 공간, 픽셀 도메인에 존재하는 픽셀 차이 값들의 2차원 (2D) 어레이로 배열될 수도 있다. 변환은 잔차 픽셀 값들을 주파수 도메인과 같은 변환 도메인에서의 변환 계수들의 2차원 어레이로 변환한다. 추가적인 압축을 위해, 변환 계수들은 엔트로피 코딩 이전에 양자화될 수도 있다. 양자화는 일반적으로 계수들을 나타내는데 사용되는 데이터의 양을 가능한 한 감축하기 위해 변환 계수들이 양자화되는 프로세스를 지칭한다. 양자화 프로세스는 그 계수들의 일부 또는 모두와 연관되는 비트 심도를 감소시킬 수도 있다. 예를 들어, n-비트 값은 양자화 동안 m-비트 값까지 절사될 수도 있으며, 여기서, n 은 m 보다 더 크다.

양자화된 변환 계수들의 블록을 엔트로피 코딩하기 위해, 스캐닝 프로세스는 블록에서의 양자화된 변환 계수들의 2차원 (2D) 어레이가 특정의 스캐닝 순서에 따라서, 변환 계수들의 순서정렬된, 1차원 (1D) 어레이, 즉, 벡터로 재정렬되도록, 대개 수행된다. 일부 예들에서, 미리 정의된 스캐닝 순서가 엔트로피 인코딩될 수 있는 직렬화된 벡터를 생성하기 위해 양자화된 변환 계수들을 스캐닝하는데 사용된다. 다른 예들에서, 적응적 스캐닝이 수행될 수 있다.

엔트로피 코딩이 그후 변환 계수들의 벡터에 적용된다. 변환 유닛에서의 양자화된 변환 계수들의 스캐닝은 엔트로피 코더에 대한 변환 계수들의 2D 어레이를 직렬화한다. 유의도 맵은 유의한 (즉, 비-제로) 계수들의 위치들을 나타내기 위해 생성될 수도 있다. 스캐닝은 유의 (즉, 비제로) 계수들의 레벨들을 스캐닝하거나, 및/또는 유의 계수들의 부호들을 코딩하는데 적용될 수도 있다. 엔트로피 코더는 컨텍스트 적응 가변 길이 코딩 (CAVLC), 컨텍스트 적응 2진 산술 코딩 (CABAC), 확률 간격 파티셔닝 엔트로피 코딩 (파이프), 또는 기타 등등과 같은, 엔트로피 코딩을, 스캐닝된 양자화된 변환 계수들의 1차원 벡터에 적용한다.

CABAC 를 수행하기 위해, 컨텍스트 모델 내 컨텍스트가 송신될 심볼에 할당된다. 컨텍스트는 예를 들어, 심볼의 이웃하는 값들이 비-제로인지 여부에 관련될 수도 있다. CAVLC 를 수행하기 위해, 가변 길이 코드가 송신될 심볼에 대해 선택된다. VLC 에서의 코드워드들은 상대적으로 더 짧은 코드들이 더 가능성 있는 심볼들에 대응하지만, 더 긴 코드들이 덜 가능성 있는 심볼들에 대응하도록, 구성될 수도 있다. 이와 같이, VLC 의 사용은 예를 들어, 송신되는 각각의 심볼에 대해 동일-길이 코드워드들을 사용하는 것을 넘어서 비트 절감을 달성할 수도 있다. 확률 결정은 그 심볼에 할당된 컨텍스트에 기초할 수도 있다.

일부의 경우, 변환은 잔차 블록의 코딩 잔차 데이터를 예측하기 전에 스킵될 수도 있다. 일 예에서, 잔차 블록은 잔차 블록의 잔차 데이터를 코딩하기 전에, 변환이 잔차 블록에 적용되지 않은 변환 스킵 모드에서의 손실 코딩 모드를 이용하여 코딩될 수도 있다. 이 경우, 양자화가 여전히 잔차 블록의 잔차 데이터 상에서 수행될 수도 있다. 예를 들어, HEVC 는 TU 에 대한 변환 스킵 모드를 표시하는 구문 엘리먼트, 즉, transform_skip_flag 구문 엘리먼트를 이용한다. 또 다른 예에서, 잔차 블록은 잔차 블록에서 잔차 데이터의 무손실 코딩을 달성하기 위해 변환 및 양자화 양쪽이 스킵되는 무손실 코딩 모드를 이용하여 코딩될 수도 있다. 예를 들어, HEVC 는 CU 에 대한 무손실 코딩 모드를 표시하는 구문 엘리먼트, 즉, cu_transquant_bypass_flag 구문 엘리먼트를 이용한다.

JCTVC-J0093 (ITU-T SG16 WP3 과 ISO/IEC JTC1/SC29/WG11 의 JCT-VC (Joint Collaborative Team on Video Coding), 10차 회의: 2012년 7월 11-20일, 스웨덴, 스톡홀름, He, D. 등, "Rotation of Residual Block for Transform Skipping") 에서는, 인트라-예측 모드에서 잔차 블록에 대해 변환이 스킵될 때, 잔차 블록이 잔차 데이터의 엔트로피 코딩을 적용하기 전에 180 도 만큼 자동적으로 회전된다고 제안되어 있다. 유사한 아이디어가 JCTVC-J0053 (ITU-T SG16 WP3 과 ISO/IEC JTC1/SC29/WG11 의 JCT-VC (Joint Collaborative Team on Video Coding), 10차 회의: 2012년 7월 11-20일, 스웨덴, 스톡홀름, An, J. 등, "Residue Scan for Intra Transform Skip Mode") 에 제안되어 있으며, 여기서, 엔트로피 코딩을 위해 인트라-예측 잔차 블록에서의 잔차 데이터 (즉, 픽셀 차이 값들) 을 스캐닝하는 방향이 동일한 목적을 달성하기 위해 자동적으로 변경된다. 이와 유사하게, JCTVC-K0294 (ITU-T SG16 WP3 과 ISO/IEC JTC1/SC29/WG11 의 JCT-VC (Joint Collaborative Team on Video Coding), 11차 회의: 2012년 10월 10-19일, 중국, 상하이, Weerakkody, R. 등, "Mirroring of Coefficients for Transform Skipping") 에서는, 사용되는 스캐닝에 따라서, 인트라-예측 잔차 블록의 잔차 데이터가 잔차 블록의 주 대각선 또는 반대-대각선을 따라서 자동적으로 플리핑된다고 제안되어 있다.

더욱이, 무손실 코딩 모드에서, 변환은 잔차 블록에 대해 항상 스킵된다. JCTVC-J0093 은 예측 잔차 블록의 자동적인 180 도 회전을 인트라-예측 및 인터-예측 모드들 양쪽에 대한 무손실 코딩 모드로 확장할 것을 제안한다. 이들 아이디어들 중 일부가 또한 JCTVC-J0468 (ITU-T SG 16 WP 3 과 ISO/IEC JTC 1/SC 29/WG 11 의 JCT-VC (Joint Collaborative Team on Video Coding), 10차 회의, 2012년 7월, 스웨덴, 스톡홀름, Tsukuba 등, "Combination of JCTVC-J0069 and JCTVC-J0093"), 및 JCTVC-M0333 (ITU-T SG 16 WP 3 과 ISO/IEC JTC 1/SC 29/WG 11 의 JCT-VC (Joint Collaborative Team on Video Coding), 13차 회의, 2013년 4월, 대한민국, 인천, Sole 등, "AhG8: Residual rotation and significance map context for screen content coding") 에서 논의되어 있다. JCTVC-J0053 및 JCTVC-K0294 에서 제안된 방법들은 또한 인트라-예측 및 인터-예측 모드들 양쪽에 대해 무손실 코딩 모드로 확장될 수 있다.

인트라-코딩에서, 예측이 수행되는 샘플들은 비디오 블록의 좌측면 또는 상부측에 배치된다. 상부측 및 좌측면으로부터의 예측된 샘플들의 거리가 증가함에 따라, 예측 에러가 증가하는 경향이 있다. 이러한 이유로, 잔차 블록의 우하측 모서리에서의 잔차 데이터 샘플 값들은 일반적으로 상부 좌측 모서리에서의 절대 크기들에 비해 더 높은 절대 크기들을 갖는다. 변환 계수 코딩, 즉, 엔트로피 코딩은, 더 높은 에너지 잔차 데이터가 상부 좌측 모서리에 집중된다고 가정하에 설계된다. 인트라-예측 잔차 블록들에 대해, 따라서, 잔차 비디오 블록의 자동적인 180 도 회전이 변환 스킵 모드에서의 손실 코딩 모드가 사용될 때 엔트로피 코딩 효율을 향상시키는데 효과적이다.

무손실 모드에서 코딩되는 잔차 블록들은, 그러나, 인트라-예측 잔차 블록들 또는 인터-예측 잔차 블록들을 이용할 수도 있다. 인터-예측 잔차 블록들에 대해, 잔차 데이터는 인트라-예측 잔차 블록들에 대해 위에서 설명한 성질을 소유하지 않는다. 인터-예측 잔차 블록들에 대해 자동적인 180 도 회전을 수행하는 것이 항상 바람직하지는 않을 수도 있다.

본 개시물의 기법들은 잔차 블록의 잔차 데이터를 코딩하기 전에, 잔차 블록에 대해 스킵되는 변환에 기초하여, 잔차 블록을 회전시킬지 여부를 결정하는 것을 포함한다. 일부 예들에서, 잔차 블록에 대한 회전 값은 비디오 인코더 (20) 과 비디오 디코더 (30) 사이에 비트스트림으로 명시적으로 시그널링될 수도 있다. 다른 예들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 은 잔차 블록의 2개 이상의 에지들에서의 경계의 유형에 기초하여 잔차 블록을 회전시킬지 여부를 독립적으로 각각 결정할 수도 있다.

JCTVC-G281 (ITU-T SG16 WP3 과 ISO/IEC JTC1/SC29/WG11 의 JCT-VC (Joint Collaborative Team on Video Coding), 7차 회의: 2011년 11월 21-30일, 스위스, 제네바, An, J. 등, "Non-CE7: Boundary-Dependent Transform for Inter-Predicted Residue") 에서는, 다음 관찰이 인터-예측된 잔차 데이터의 에너지에 관하여 이루어졌다. TU 를 잔차 블록에 대해, 잔차 블록의 특정의 에지 (상부, 하부, 좌측 또는 우측) 에서의 이웃하는 블록이 잔차 블록과 동일한 PU 에 속하면, 즉, 이웃하는 블록이 동일한 PU 에 속하는 TU 이면, 특정의 에지는 TU 경계이며 TU 경계에서의 잔차 데이터는 일반적으로 잔차 블록의 평균 잔차 데이터보다 더 낮은 에너지를 갖는다. 한편, 잔차 비디오 블록의 특정의 에지에서의 이웃하는 블록이 잔차 블록과는 상이한 PU 에 속하면, 즉, 이웃하는 블록이 상이한 PU 에 속하는 TU 이면, 특정의 에지는 PU 경계이며 TU 경계에서의 잔차 데이터는 일반적으로 잔차 블록의 평균 잔차 데이터보다 더 높은 에너지를 갖는다. 본 개시물에서, 잔차 블록의 에지에서의 잔차 데이터의 에너지의 레벨은 잔차 데이터의 사이즈, 즉, 잔차 비디오 블록의 에지에서의 잔차 데이터 샘플 값들에 대한 픽셀 차이들의 절대 크기에 비례한다.

상기 관찰에 기초하여, 본 개시물의 기법들은 잔차 블록의 2개 이상의 에지들에서의 경계의 유형에 기초하여 변환 스킵핑에 의해 인터-예측 잔차 블록을 회전시키는 것을 포함한다. 본 기법들에 따르면, 비디오 인코더 또는 비디오 디코더에 포함된 재배치 유닛은, 원래 잔차 블록의 PU 경계들에서의 잔차 데이터를 그 회전된 잔차 블록의 상부 좌측 모서리에 배치하기 위해, 잔차 블록의 2개 이상의 에지들에서의 경계의 유형을 결정하고, 그후 에지들에서의 경계의 유형에 기초하여, 잔차 블록을 회전시킬지 여부를 결정한다. 이 기법들은 비디오 인코더 (20) 또는 비디오 디코더 (30) 과 같은, 비디오 코더에 의해 수행될 수도 있다.

일부 예들에서, 재배치 유닛은 잔차 블록을 미리 결정된 회전 값, 예컨대, 180 도 만큼 회전시키거나, 또는 잔차 블록을 회전시키지 않기로 결정한다. 다른 예들에서, 재배치 유닛은 2개 이상의 회전 값들, 예컨대, 0 도 또는 무회전, 180 도, 90 도 또는 270 도로부터, 잔차 블록을 회전시킬 회전 값을 결정한다. 인코딩 측에서, 회전은 잔차 블록의 잔차 데이터를 인코딩하기 전에, 평균보다 더 높은 에너지를 갖는 잔차 데이터를 회전된 잔차 블록의 상부 좌측 모서리에 배치시켜 엔트로피 코딩 효율을 향상시키기 위해 선택된다. 디코딩 측에서, 회전은 예측 블록을 이용하여 잔차 블록으로부터 비디오 블록을 재구성하기 위해, 인코딩 동안 수행된 회전을 반전시키고, 평균보다 더 높은 에너지를 갖는 잔차 데이터를 원래 잔차 블록에서의 그의 원래 위치로 복귀시킨다.

도 2 는 잔차 블록의 잔차 데이터를 인코딩하기 전에 잔차 블록을 회전시킬지 여부를 결정하는 본 개시물에서 설명하는 기법들을 구현할 수도 있는 예시적인 비디오 인코더 (20) 을 예시하는 블록도이다. 비디오 인코더 (20) 은 비디오 슬라이스들 내 비디오 블록들의 인트라-코딩 및 인터-코딩을 수행할 수도 있다. 인트라 코딩은 주어진 비디오 프레임 또는 화상 내 비디오에서 공간 리던던시를 감소시키거나 또는 제거하기 위해, 공간 예측에 의존한다. 인터-코딩은 비디오 시퀀스의 인접 프레임들 또는 화상들 내 비디오에서 시간 리던던시를 감소시키거나 또는 제거하기 위해, 시간 예측에 의존한다. 인트라-모드 (I 모드) 는 여러 공간 기반의 압축 모드들 중 임의의 압축 모드를 지칭할 수도 있다. 단방향 예측 (P 모드) 또는 양방향-예측 (B 모드) 과 같은 인터-모드들은 여러 시간-기반의 압축 모드들 중 임의의 모드를 지칭할 수도 있다.

도 2 의 예에서, 비디오 인코더 (20) 은 파티셔닝 유닛 (35), 예측 프로세싱 유닛 (41), 참조 화상 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54), 재배치 유닛 (66) 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 예측 프로세싱 유닛 (41) 은 모션 추정 유닛 (42), 모션 보상 유닛 (44), 및 인트라 예측 프로세싱 유닛 (46) 을 포함한다. 비디오 블록 재구성을 위해, 비디오 인코더 (20) 은 또한 역양자화 유닛 (58), 역변환 프로세싱 유닛 (60), 및 합산기 (62) 를 포함한다. 디블록킹 필터 (도 2 에 미도시) 가 또한 블록 경계들을 필터링하여 재구성된 비디오로부터 블록킹 현상 아티팩트들을 제거하기 위해 포함될 수도 있다. 원할 경우, 디블록킹 필터는 일반적으로 합산기 (62) 의 출력을 필터링할 것이다. 추가적인 루프 필터들 (인 루프 또는 사후 루프) 이 또한 디블록킹 필터에 추가하여 사용될 수도 있다.

도 2 에 나타낸 바와 같이, 비디오 인코더 (20) 은 비디오 데이터를 수신하고, 파티셔닝 유닛 (35) 는 데이터를 비디오 블록들로 파티셔닝한다. 이 파티셔닝은 또한 슬라이스들, 타일들, 또는 다른 더 큰 유닛들 뿐만 아니라, 예컨대, LCU들 및 CU들의 쿼드트리 구조에 따라서 파티셔닝하는 비디오 블록으로 파티셔닝하는 것을 포함할 수도 있다. 비디오 인코더 (20) 은 일반적으로 인코딩되는 비디오 슬라이스 내 비디오 블록들을 인코딩하는 구성요소들을 예시한다. 슬라이스는 다수의 비디오 블록들로 (그리고, 아마도, 타일들로서 지칭되는 비디오 블록들의 세트들로) 분할될 수도 있다. 예측 프로세싱 유닛 (41) 은 에러 결과들 (예컨대, 코딩 레이트 및 왜곡의 레벨) 에 기초하여, 현재의 비디오 블록에 대해, 복수의 인트라 코딩 모드들 중 하나 또는 복수의 인터 코딩 모드들 중 하나와 같은, 복수의 가능한 코딩 모드들 중 하나를 선택할 수도 있다. 예측 프로세싱 유닛 (41) 은 최종 인트라- 또는 인터-코딩된 블록을, 합산기 (50) 에 제공하여 잔차 블록 데이터를 생성하고, 그리고 합산기 (62) 에 제공하여, 참조 화상으로서 사용하기 위한 인코딩된 블록을 재구성할 수도 있다.

예측 프로세싱 유닛 (41) 내의 인트라 예측 프로세싱 유닛 (46) 은 코딩되는 현재의 블록과 동일한 프레임 또는 슬라이스에서의 하나 이상의 이웃하는 블록들에 대해, 현재의 비디오 블록의 인트라-예측 코딩을 수행하여, 공간 압축을 제공할 수도 있다. 예측 프로세싱 유닛 (41) 내 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 는 하나 이상의 참조 화상들에서의 하나 이상의 예측 블록들에 대해, 현재의 비디오 블록의 인터-예측 코딩을 수행하여, 시간 압축을 제공한다.

모션 추정 유닛 (42) 는 비디오 시퀀스에 대한 미리 결정된 패턴에 따라서 비디오 슬라이스에 대한 인터-예측 모드를 결정하도록 구성될 수도 있다. 미리 결정된 패턴은 그 시퀀스에서의 비디오 슬라이스들을 P 슬라이스들 또는 B 슬라이스들로서 지시할 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 는 고도로 통합될 수도 있지만, 개념적인 목적들을 위해 별개로 예시된다. 모션 추정 유닛 (42) 에 의해 수행되는 모션 추정은 모션 벡터들을 생성하는 프로세스이며, 이 프로세스는 비디오 블록들에 대한 모션을 추정한다. 모션 벡터는, 예를 들어, 참조 화상 내 예측 블록에 대한, 현재의 비디오 프레임 또는 화상 내 비디오 블록의 PU 의 변위를 나타낼 수도 있다.

예측 블록은 픽셀 차이의 관점에서 코딩되는 비디오 블록의 PU 에 가깝게 매칭하는 것으로 발견되는 블록이며, SAD, SSD, 또는 다른 차이 메트릭들에 의해 결정될 수도 있다. 일부 예들에서, 비디오 인코더 (20) 은 참조 화상 메모리 (64) 에 저장된 참조 화상들의 서브-정수 픽셀 위치들에 대한 값들을 계산할 수도 있다. 예를 들어, 비디오 인코더 (20) 은 참조 화상의 1/4 픽셀 위치들, 1/8 픽셀 위치들, 또는 다른 분수 픽셀 위치들의 값들을 내삽할 수도 있다. 따라서, 모션 추정 유닛 (42) 는 풀 픽셀 위치들 및 분수 픽셀 위치들에 대해, 모션 탐색을 수행하고, 분수 픽셀 정밀도를 가진 모션 벡터를 출력할 수도 있다.

모션 추정 유닛 (42) 는 PU 의 위치를 참조 화상의 예측 블록의 위치와 비교함으로써 인터-코딩된 슬라이스에서의 비디오 블록의 PU 에 대한 모션 벡터를 계산한다. 참조 화상은 제 1 참조 화상 리스트 (리스트 0) 또는 제 2 참조 화상 리스트 (리스트 1) 로부터 선택될 수도 있으며, 이 리스트 각각은 하나 이상의 참조 화상 메모리 (64) 에 저장된 참조 화상들을 식별한다. 모션 추정 유닛 (42) 는 그 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 및 모션 보상 유닛 (44) 로 전송한다.

모션 보상 유닛 (44) 에 의해 수행되는 모션 보상은 가능한 한, 서브-픽셀 정밀도까지 내삽들을 수행함으로써, 모션 추정에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페칭하거나 또는 생성시키는 것을 수반할 수도 있다. 현재의 비디오 블록의 PU 에 대한 모션 벡터를 수신하자 마자, 모션 보상 유닛 (44) 는 모션 벡터가 참조 화상 리스트들 중 하나에서 가리키는 예측 블록을 로케이트할 수도 있다. 비디오 인코더 (20) 은 코딩중인 현재의 비디오 블록의 픽셀 값들로부터 예측 블록의 픽셀 값들을 감산하여 픽셀 차이 값들을 형성함으로써 잔차 비디오 블록을 형성한다. 픽셀 차이 값들은 블록에 대한 잔차 데이터를 형성하며, 루마 및 크로마 차이 성분들 양쪽을 포함할 수도 있다. 합산기 (50) 은 이 감산 동작을 수행하는 구성요소 또는 구성요소들을 나타낸다. 모션 보상 유닛 (44) 는 또한 비디오 슬라이스의 비디오 블록들을 디코딩할 때에 비디오 디코더 (30) 에 의한 사용을 위해 비디오 블록들 및 비디오 슬라이스와 연관되는 구문 엘리먼트들을 생성시킬 수도 있다.

인트라-예측 프로세싱 유닛 (46) 은 위에서 설명한 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행되는 인터-예측에 대한 대안으로서, 현재의 블록을 인트라-예측할 수도 있다. 특히, 인트라-예측 프로세싱 유닛 (46) 은 현재의 블록을 인코딩하는데 사용할 인트라-예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라-예측 프로세싱 유닛 (46) 은 예컨대, 별개의 인코딩 과정들 동안 여러 인트라-예측 모드들을 이용하여 현재의 블록을 인코딩할 수도 있으며, 인트라-예측 프로세싱 유닛 (46) 은 테스트된 모드들로부터 사용할 적합한 인트라-예측 모드를 선택할 수도 있다. 예를 들어, 인트라-예측 프로세싱 유닛 (46) 은 여러 테스트된 인트라-예측 모드들에 대한 레이트-왜곡 분석을 이용하여 레이트-왜곡 값들을 계산하고, 그 테스트된 모드들 중에서 최상의 레이트-왜곡 특성들을 갖는 인트라-예측 모드를 선택할 수도 있다. 레이트-왜곡 분석은 일반적으로 인코딩된 블록과 그 인코딩된 블록을 생성하기 위해 인코딩되었던 원래의 미인코딩된 블록 사이의 왜곡의 양 (또는, 에러) 뿐만 아니라, 그 인코딩된 블록을 생성하는데 사용되는 비트 레이트 (즉, 비트수) 를 결정한다. 인트라-예측 프로세싱 유닛 (46) 은 여러 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터 비율들 (ratios) 을 계산하여, 어느 인트라-예측 모드가 그 블록에 대해 최상의 레이트-왜곡 값을 나타내는 지를 결정할 수도 있다.

어쨌든, 블록에 대한 인트라-예측 모드를 선택한 후, 인트라-예측 프로세싱 유닛 (46) 은 그 블록에 대한 선택된 인트라-예측 모드를 나타내는 정보를 엔트로피 코딩 유닛 (56) 에 제공할 수도 있다. 엔트로피 코딩 유닛 (56) 은 본 개시물의 기법에 따라서 그 선택된 인트라-예측 모드를 나타내는 정보를 인코딩할 수도 있다. 비디오 인코더 (20) 은 복수의 인트라-예측 모드 인덱스 테이블들 및 복수의 수정된 인트라-예측 모드 인덱스 테이블들 (또한, 코드워드 맵핑 테이블들로서 지칭됨) 을 포함할 수도 있는 그 송신되는 비트스트림 구성 데이터에, 여러 블록들에 대한 인코딩 컨텍스트들의 정의들, 및 가장 가능성있는 인트라-예측 모드, 인트라-예측 모드 인덱스 테이블 및 컨텍스트들의 각각에 사용할 수정된 인트라-예측 모드 인덱스 테이블의 표시들을 포함할 수도 있다.

예측 프로세싱 유닛 (41) 이 현재의 비디오 블록에 대한 예측 블록을 인터-예측 또는 인트라-예측을 통해서 생성한 후, 비디오 인코더 (20) 은 현재의 비디오 블록으로부터 예측 블록을 감산함으로써 잔차 비디오 블록들을 형성한다. 잔차 비디오 블록들에서의 잔차 데이터는 코딩될 현재의 비디오 블록과 예측 블록 사이의 픽셀 차이 값들을 포함한다. 잔차 비디오 블록들은 비디오 블록에 대한 잔차 데이터 중 적어도 일부분을 포함하는 하나 이상의 TU들을 포함할 수도 있다. 비디오 블록이 손실 코딩 모드를 이용하여 코딩될 때, 잔차 블록들의 각각이 변환 프로세싱 유닛 (52) 에 제공된다. 변환 프로세싱 유닛 (52) 는 이산 코사인 변환 (DCT) 또는 개념적으로 유사한 변환과 같은 변환을 이용하여 잔차 데이터를 잔차 변환 계수들로 변환한다. 변환 프로세싱 유닛 (52) 는 잔차 비디오 데이터를 픽셀 도메인으로부터 주파수 도메인과 같은 변환 도메인으로 변환할 수도 있다.

변환 프로세싱 유닛 (52) 는 최종 변환 계수들을 양자화 유닛 (54) 로 전송할 수도 있다. 양자화 유닛 (54) 는 비트 레이트를 추가로 감소시키기 위해 변환 계수들을 양자화한다. 양자화 프로세스는 그 계수들의 일부 또는 모두와 연관되는 비트 심도를 감소시킬 수도 있다. 양자화의 정도는 양자화 파라미터를 조정함으로써 변경될 수도 있다. 일부 예들에서, 양자화 유닛 (54) 는 그후 양자화된 변환 계수들을 포함하는 매트릭스의 스캐닝을 수행할 수도 있다. 이의 대안으로, 엔트로피 인코딩 유닛 (56) 이 그 스캐닝을 수행할 수도 있다.

비디오 블록이 변환 스킵 모드에서의 손실 코딩 모드를 이용하여 코딩될 때, 잔차 블록들에 변환이 적용되지 않는다. 더욱이, 비디오 블록이 무손실 코딩 모드를 이용하여 코딩될 때, 변환도 양자화도 잔차 블록들에 적용되지 않는다. 본 개시물의 기법들에 따르면, 잔차 블록에 대해 변환이 스킵될 때, 잔차 블록이 재배치 유닛 (66) 에 제공된다. 이 경우, 잔차 데이터는 픽셀 도메인에서 유지하며, 공간 픽셀 위치들에서의 픽셀 차이 값들을 포함한다. 이것은, 변환 프로세싱 유닛 (52) 를 이용하여 주파수 성분들에 대응하는 위치들에서의 변환 계수들로서 잔차 데이터를 변환 도메인으로 변환하는 것에 반대된다.

재배치 유닛 (66) 은 평균보다 더 높은 에너지를 갖는 잔차 데이터, 즉, 더 큰 픽셀 차이 값들을 잔차 블록의 상부 좌측 모서리에 배치하기 위해 잔차 블록을 회전시킬지 여부를 결정한다. 높은 에너지 잔차 데이터의 전이 (shifting) 는 일반적으로 변환 프로세싱 유닛 (52) 에 의해 수행되는 변환 프로세스의 결과로서 생성한다. 그러나, 변환이 스킵될 때, 높은 에너지 잔차 데이터가 변환된 잔차 블록의 상부 좌측 모서리에 집중될 것이라는 가정에 기초하여, 엔트로피 인코딩 유닛 (56) 이 설계되었기 때문에, 잔차 블록을 회전시키는 것이 바람직할 수도 있다.

인트라-예측 잔차 블록들의 경우, 재배치 유닛 (66) 은 평균보다 더 높은 에너지를 갖는 잔차 데이터를 잔차 블록의 상부 좌측 모서리에 배치하기 위해 잔차 블록들을 180 도 만큼 자동적으로 회전시킬 수도 있다. 인트라-예측 잔차 블록들에 대해 변환이 스킵될 때, 높은 에너지 잔차 데이터가 일반적으로 180 도 회전이 엔트로피 코딩 효율을 향상시킬 수 있도록, 우하측 모서리에 집중한다. 인터-예측 잔차 블록들의 경우, 높은 에너지 잔차 데이터가 잔차 블록들 내 임의의 위치에 집중될 수도 있다. 그 경우, 재배치 유닛 (66) 은 잔차 블록을 회전시킬지 여부를 먼저 결정하고, 그후, 그 결정에 기초하여, 잔차 블록을 결정된 회전 값 만큼 회전시키거나 또는 잔차 블록을 회전시키지 않을 수도 있다. 일부 예들에서, 재배치 유닛 (66) 은 결정된 회전 값을 잔차 블록에 반시계 방향으로 적용할 수도 있다. 인터-예측 잔차 블록을 회전시킬지 여부를 결정하는 예시적인 동작들은 도 5 내지 도 8 에 대하여 아래에서 좀더 자세하게 설명된다.

변환 스킵 모드에서의 손실 코딩 모드에 대해, 재배치 유닛 (66) 은 엔트로피 인코딩 유닛 (56) 에 의해 엔트로피 인코딩하기 전에, 추가적인 압축을 위해, 회전된 잔차 블록을 양자화 유닛 (54) 로 전송한다. 일부의 경우, 잔차 블록은 재배치 유닛 (66) 에 의해 잔차 블록을 회전시킬지 여부를 결정하기 전에 양자화 유닛 (54) 로 전송될 수도 있다. 무손실 코딩 모드에 대해, 재배치 유닛 (66) 은 엔트로피 인코딩을 위해, 임의의 추가적인 압축 없이, 회전된 잔차 블록을 엔트로피 인코딩 유닛 (56) 으로 직접 전송한다.

엔트로피 인코딩 유닛 (56) 은 잔차 계수들, 예컨대, 양자화된 변환 계수들, 양자화된 잔차 계수들 또는 비압축된 잔차 계수들을 엔트로피 인코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 컨텍스트 적응 가변 길이 코딩 (CAVLC), 컨텍스트 적응 2진 산술 코딩 (CABAC), 구문-기반 컨텍스트-적응 2진 산술 코딩 (SBAC), 확률 간격 파티셔닝 엔트로피 (PIPE) 코딩 또는 또 다른 엔트로피 인코딩 방법론 또는 기법을 수행할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 인코딩에 이어서, 인코딩된 비트스트림은 비디오 디코더, 예컨대, 비디오 디코더 (30) 으로 송신되거나, 또는 비디오 디코더에 의한 추후 송신 또는 취출을 위해 아카이브될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 또한 코딩중인 현재의 비디오 슬라이스에 대한 모션 벡터들 및 다른 구문 엘리먼트들을 엔트로피 인코딩할 수도 있다.

역양자화 유닛 (58) 및 역변환 프로세싱 유닛 (60) 은 참조 화상의 참조 블록으로 추후 사용을 위해 픽셀 도메인에서 잔차 블록을 재구성하기 위해 양자화된 변환 계수들에 역양자화 및 역변환을 각각 적용한다. 변환 스킵 모드에서의 손실 코딩 모드에 대해, 역양자화 유닛 (58) 은 역양자화를 양자화된 잔차 계수들에 적용하고, 재배치 유닛 (66) 은 잔차 블록을 재구성하기 위해 역방향 회전을 수행하여 높은 에너지 잔차 데이터를 그의 원래 위치로 다시 복귀시킨다. 일부의 경우, 양자화된 잔차 계수들은 역양자화 유닛 (58) 에 의해 역양자화를 수행하기 전에 역방향 회전을 수행하기 위해 재배치 유닛 (66) 으로 전송될 수도 있다. 무손실 코딩 모드에 대해, 재배치 유닛 (66) 은 잔차 블록을 재구성하기 위해, 잔차 계수들의 역방향 회전을 수행하여, 높은 에너지 잔차 데이터를 그의 원래 위치로 다시 복귀시킨다.

모션 보상 유닛 (44) 는 그후 재구성된 잔차 블록을 참조 화상 리스트들 중 하나 내 참조 화상들 중 하나의 예측 블록에 가산함으로써 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 는 또한 하나 이상의 내삽 필터들을 그 재구성된 잔차 블록에 적용하여, 모션 추정에 사용하기 위한 서브-정수 픽셀 값들을 계산할 수도 있다. 합산기 (62) 는 재구성된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성되는 모션 보상된 예측 블록에 가산하여, 참조 화상 메모리 (64) 에의 저장을 위한 참조 블록을 생성한다. 참조 블록은 후속 비디오 프레임 또는 화상에서 블록을 인터-예측하기 위해 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 참조 블록으로서 사용될 수도 있다.

비디오 인코더 (20) 은 잔차 블록에 대한 변환을 스킵하는 것, 그리고 잔차 블록을 회전시킬지 여부를 결정하는 것을 포함한, 본 개시물의 기법들을 수행하도록 구성될 수도 있다. 비디오 인코더 (20) 의 재배치 유닛 (66) 은 잔차 블록을 회전시킬지 여부를 결정할 수도 있다. 일부 예들에서, 재배치 유닛 (66) 은 잔차 블록을 엔트로피 인코딩하는데 요구되는 비트수에 기초하여, 잔차 블록을 회전시킬지 여부를 결정한다. 예를 들어, 재배치 유닛 (66) 은 엔트로피 인코딩을 위한 최저 비트수를 초래하는 회전 값에 기초하여, 잔차 블록을 회전시킬지 여부를 결정할 수도 있다. 다른 예들에서, 재배치 유닛 (66) 은 잔차 블록의 2개 이상의 에지들에서의 경계의 유형에 기초하여 잔차 블록을 회전시킬지 여부를 결정할 수도 있다.

잔차 블록이 회전될 때, 비디오 인코더 (20) 의 재배치 유닛 (66) 은 미리 결정된 회전 값 만큼 잔차 블록을 회전시키기로 결정할 수도 있거나, 또는 잔차 블록을 회전시킬 회전 값을 결정할 수도 있다. 어느 경우에나, 비디오 인코더 (20) 은 그후 엔트로피 인코딩 유닛 (56) 에 의해 잔차 블록의 잔차 데이터를 인코딩하기 전에 잔차 블록을 결정된 회전 값 만큼 회전시킨다. 잔차 블록의 에지들에서의 경계의 유형에 기초하여 인터-예측 잔차 블록을 회전시킬지 여부를 결정하는 예시적인 동작들은 도 5 내지 도 8 에 대하여 아래에서 좀더 자세하게 설명된다.

일부 예들에서, 비디오 인코더 (20) 은 변환 스킵핑이 잔차 블록에 대해 이용되는지 여부, 즉, 잔차 블록이 무손실 코딩 모드를 이용하여 또는 변환 스킵 모드에서의 손실 코딩 모드를 이용하여 인코딩되는지 여부를 단지 시그널링할 수도 있다. 이 경우, 비디오 디코더는 잔차 블록으로부터 비디오 블록을 재구성하기 위해, 잔차 블록의 에지들에서의 경계의 유형을 결정하는 동일한 동작을 이용하여, 잔차 블록을 회전시킬지 여부를 결정하여 인코딩 동안 수행된 회전을 반전시킬 수도 있다. 다른 예들에서, 비디오 인코더 (20) 은 인코딩 동안 잔차 블록에 적용된 회전의 회전 값을 비디오 디코더로 시그널링할 수도 있다. 이 경우, 비디오 디코더는 잔차 블록으로부터 비디오 블록을 재구성하기 위해, 시그널링된 회전 값에 기초하여 잔차 블록을 회전시켜 인코딩 동안 수행된 회전을 반전시킬 수도 있다.

일부 추가적인 예들에서, 비디오 인코더 (20) 은 잔차 블록에 대한 변환을 스킵하는 것 및 잔차 블록의 사이즈가 임계 블록 사이즈 미만이거나 또는 동일할 때 잔차 블록을 회전시키는 것을 포함한, 본 개시물의 기법들을 수행하도록 구성된다. 임계 블록 사이즈는 변환 스킵핑 및 회전이 손실 코딩 모드에서 허용되는 블록 사이즈와 동일할 수도 있다. 이러한 방법으로, 회전이 수행될 수도 있는 블록 사이즈들은 변환 스킵 모드에서의 손실 코딩 모드 또는 무손실 코딩 모드 양쪽을 이용하여 코딩되는 잔차 블록들에 대해, 정렬된다, 즉, 동일하다. 이 기법은 인터-예측 잔차 블록들 및 인트라-예측 잔차 블록 양쪽에 적용가능할 수도 있다.

더욱이, 비디오 인코더 (20) 은 잔차 블록에 대한 변환을 스킵하는 것, 및 잔차 블록의 사이즈가 임계 블록 사이즈 미만이거나 또는 동일할 때 잔차 블록의 대각선을 따라서 잔차 데이터 샘플 값들을 플리핑하는 것을 포함한, 본 개시물의 기법들을 수행하도록 구성될 수도 있다. 잔차 블록의 잔차 데이터 샘플 값들을 플리핑하는 것은 대각선의 일측 (one side) 상에서의 잔차 데이터 샘플 값들을, 잔차 블록의 대각선의 다른 측면 상에서 대응하는 거울 이미지 로케이션들에서의 잔차 데이터 샘플 값들로 교환하는 것을 포함한다. 이 기법은 또한 인터-예측 잔차 블록들 및 인트라-예측 잔차 블록 양쪽에 적용가능할 수도 있다.

일부 예들에서, 무손실 코딩 모드의 경우, 회전 또는 플리핑은 임계 블록 사이즈 이하인 사이즈들을 가진 인트라-예측 잔차 블록들에 단지 적용될 수도 있다. 다른 예들에서, 회전 또는 플리핑은 임계 블록 사이즈 이하인 사이즈들을 가진 모든 잔차 블록들, 즉, 인트라-예측 및 인터-예측 잔차 블록들에 적용될 수도 있다. 추가 예들에서, 변환 스킵 모드에서의 손실 코딩 모드의 경우, 회전 또는 플리핑은 인트라-예측 잔차 블록들에만 단지 적용될 수도 있거나, 또는 인트라-예측 및 인터-예측 잔차 블록들 양쪽에 적용될 수도 있다.

도 3 은 잔차 블록의 잔차 데이터로부터 비디오 블록을 재구성하기 전에 잔차 블록을 회전시킬지 여부를 결정하는 본 개시물에서 설명하는 기법들을 구현할 수도 있는 예시적인 비디오 디코더 (30) 을 예시하는 블록도이다. 도 3 의 예에서, 비디오 디코더 (30) 은 엔트로피 디코딩 유닛 (80), 예측 프로세싱 유닛 (81), 역양자화 유닛 (86), 역변환 유닛 (88), 재배치 유닛 (94), 합산기 (90), 및 참조 화상 메모리 (92) 를 포함한다. 예측 프로세싱 유닛 (81) 은 모션 보상 유닛 (82) 및 인트라 예측 프로세싱 유닛 (84) 를 포함한다. 비디오 디코더 (30) 은 일부 예들에서, 도 2 의 비디오 인코더 (20) 에 대해 설명된 인코딩 과정과는 일반적으로 반대인 디코딩 과정을 수행할 수도 있다.

디코딩 프로세스 동안, 비디오 디코더 (30) 은 인코딩된 비디오 슬라이스의 비디오 블록들 및 연관되는 구문 엘리먼트들을 나타내는 인코딩된 비디오 비트스트림을 비디오 인코더 (20) 과 같은, 비디오 인코더로부터 수신한다. 비디오 디코더 (30) 의 엔트로피 디코딩 유닛 (80) 은 비트스트림을 엔트로피 디코딩하여, 잔차 계수들, 모션 벡터들, 및 다른 구문 엘리먼트들을 생성시킨다. 엔트로피 디코딩 유닛 (80) 은 모션 벡터들 및 다른 구문 엘리먼트들을 예측 프로세싱 유닛 (81) 로 포워딩한다. 비디오 디코더 (30) 은 구문 엘리먼트들을 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 수신할 수도 있다.

비디오 슬라이스가 인트라-코딩된 (I) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (81) 의 인트라 예측 프로세싱 유닛 (84) 는 시그널링된 인트라 예측 모드 및 현재의 프레임 또는 화상의 이전에 디코딩된 블록들로부터의 데이터에 기초하여, 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 생성할 수도 있다. 비디오 프레임이 인터-코딩된 (즉, B 또는 P) 슬라이스로서 코딩될 때, 예측 프로세싱 유닛 (81) 의 모션 보상 유닛 (82) 는 엔트로피 디코딩 유닛 (80) 으로부터 수신된 모션 벡터들 및 다른 구문 엘리먼트들에 기초하여 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 블록들을 생성한다. 예측 블록들은 참조 화상 리스트들 중 하나 내 참조 화상들 중 하나로부터 생성될 수도 있다. 비디오 디코더 (30) 은 디폴트 구성 기법들을 이용하여, 참조 화상 메모리 (92) 에 저장된 참조 화상들에 기초하여, 참조 프레임 리스트들, 즉, 리스트 0 및 리스트 1 을 구성할 수도 있다.

모션 보상 유닛 (82) 는 모션 벡터들 및 다른 구문 엘리먼트들을 파싱하여 현재의 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 그리고, 그 예측 정보를 이용하여, 디코딩중인 현재의 비디오 블록에 대한 예측 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (82) 는 그 수신된 구문 엘리먼트들 중 일부를 이용하여, 비디오 슬라이스의 비디오 블록들을 코딩하는 사용되는 예측 모드 (예컨대, 인트라- 또는 인터-예측), 인터-예측 슬라이스 유형 (예컨대, B 슬라이스 또는 P 슬라이스), 슬라이스에 대한 참조 화상 리스트들 중 하나 이상에 대한 구성 정보, 슬라이스의 각각의 인터-인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터-코딩된 비디오 블록에 대한 인터-예측 상태, 및 다른 정보를 결정하여, 현재의 비디오 슬라이스에서의 비디오 블록들을 디코딩한다.

모션 보상 유닛 (82) 는 또한 내삽 필터들에 기초하여 내삽을 수행할 수도 있다. 모션 보상 유닛 (82) 는 비디오 블록들의 인코딩 동안 비디오 인코더 (20) 에 의해 사용되는 것과 같은 내삽 필터들을 이용하여, 참조 블록들의 서브-정수 픽셀들에 대해 내삽된 값들을 계산할 수도 있다. 이 경우, 모션 보상 유닛 (82) 는 수신된 구문 엘리먼트들로부터 비디오 인코더 (20) 에 의해 사용되는 내삽 필터들을 결정하고 그 내삽 필터들을 이용하여 예측 블록들을 생성할 수도 있다.

위에서 설명한 바와 같이, 엔트로피 디코딩 유닛 (80) 은 비트스트림을 엔트로피 디코딩하여, 비디오 블록의 잔차 계수들, 예컨대, 양자화된 변환 계수들, 양자화된 잔차 계수들 또는 비압축된 잔차 계수들을 생성시킨다. 비디오 블록이 손실 코딩 모드를 이용하여 코딩될 때, 역양자화 유닛 (86) 은 비트스트림으로 제공되는 잔차 블록의 양자화된 변환 계수들을 역양자화한다, 즉, 양자화 해제한다. 역양자화 프로세스는 양자화의 정도와, 마찬가지로, 적용되어야 하는 역양자화의 정도를 결정하기 위해, 비디오 슬라이스에서의 각각의 비디오 블록에 대해 계산된 양자화 파라미터의 사용을 포함할 수도 있다. 역변환 프로세싱 유닛 (88) 은 역 DCT, 역 정수 변환, 또는 개념적으로 유사한 역변환 프로세스와 같은 역변환을 변환 계수들에 적용하여, 픽셀 도메인에서 잔차 블록들을 재구성한다.

비디오 블록이 변환 스킵 모드에서의 손실 코딩 모드를 이용하여 코딩될 때, 역변환이 잔차 블록들에 적용되지 않는다. 더욱이, 비디오 블록이 무손실 코딩 모드를 이용하여 코딩될 때, 역변환도 역양자화도 잔차 블록들에 적용되지 않는다. 본 개시물의 기법들에 따르면, 잔차 블록의 잔차 계수들에 대해 역변환이 스킵될 때, 잔차 블록이 재배치 유닛 (94) 에 제공된다. 이 경우, 잔차 데이터는 픽셀 도메인에서 유지하며, 공간 픽셀 위치들에서의 픽셀 차이 값들을 포함한다. 이것은, 역변환 프로세싱 유닛 (88) 을 이용하여 주파수 성분들에 대응하는 위치들에서의 변환 계수들로서 변환 도메인으로부터 잔차 데이터를 변환하는 것에 반대된다.

재배치 유닛 (94) 는 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터, 즉, 더 큰 픽셀 차이 값들을 배치한 인코딩 동안 수행된 회전을 반전시키기 위해 잔차 블록을 회전시킬 수도 있다. 그의 원래 위치로의 높은 에너지 잔차 데이터의 되전이는 일반적으로 역변환 프로세싱 유닛 (88) 에 의해 수행되는 역변환 프로세스의 결과로서 생성한다. 역변환이 스킵될 때, 그러나, 예측 블록을 이용하여 비디오 블록을 적절히 재구성하기 위해 잔차 블록을 회전시키는 것이 필요할 수도 있다.

변환 스킵 모드에서의 손실 코딩 모드에 대해, 역양자화 유닛 (86) 은 압축해제를 위해 비트스트림으로 제공되는 잔차 블록의 양자화된 잔차 계수들에 역양자화를 적용한다. 재배치 유닛 (94) 는 그후 잔차 블록을 재구성하기 위해, 회전을 수행하여, 인코딩 동안 수행된 회전을 반전시키고, 높은 에너지 잔차 데이터를 그의 원래 위치로 다시 복귀시킨다. 일부의 경우, 양자화된 잔차 계수들은 역양자화 유닛 (86) 에 의해 역양자화를 수행하기 전에 역방향 회전을 수행하기 위해 재배치 유닛 (94) 로 전송될 수도 있다. 무손실 코딩 모드에 대해, 재배치 유닛 (94) 는 임의의 압축해제 없이 비트스트림으로 제공되는 잔차 블록의 잔차 계수들을 직접 수신한다. 재배치 유닛 (94) 는 그후 잔차 블록을 재구성하기 위해, 회전을 수행하여, 인코딩 동안 수행된 회전을 반전시키고, 높은 에너지 잔차 데이터를 그의 원래 위치로 다시 복귀시킨다. 이와 같이, 픽셀 차이 값들은 대응하는 픽셀들의 원래 공간 위치들로 다시 회전된다.

변환 스킵핑에 의한 인트라-예측 잔차 블록들의 경우, 높은 에너지 잔차 데이터는 일반적으로, 인코딩 동안 180-도 회전이 엔트로피 코딩 효율을 향상시킬 수 있도록, 우하측 모서리에 집중한다. 이 경우, 재배치 유닛 (94) 는 인트라-예측 잔차 블록들을 180 도 만큼 자동적으로 회전시켜, 평균보다 더 높은 에너지를 갖는 잔차 데이터를 원래 잔차 블록의 우하측 모서리에서의 그의 위치로 복귀시킬 수도 있다.

인터-예측 잔차 블록들의 경우, 높은 에너지 잔차 데이터는 잔차 블록들 내 임의의 위치에 집중될 수도 있다. 이 경우, 재배치 유닛 (94) 는 잔차 블록을 회전시킬지 여부를 먼저 결정하고, 그후, 그 결정에 기초하여, 잔차 블록을 결정된 회전 값 만큼 회전시키거나 또는 잔차 블록을 회전시키지 않는다. 인코딩 동안 잔차 블록 상에서 수행되는 회전을 반전시키기 위해, 재배치 유닛 (94) 는 잔차 블록을 회전시킬지 여부를 결정하지만, 결정된 회전 값을 도 2 의 비디오 인코더 (20) 의 재배치 유닛 (66) 과는 반대 방향으로, 예컨대, 반시계 방향과는 반대인 시계 방향으로 적용한다.

모션 보상 유닛 (82) 가 모션 벡터들 및 다른 구문 엘리먼트들에 기초하여 현재의 비디오 블록에 대한 예측 블록을 생성한 후, 비디오 디코더 (30) 은 재구성된 잔차 블록들을 모션 보상 유닛 (82) 에 의해 생성된 대응하는 예측 블록들과 합산함으로써, 디코딩된 비디오 블록을 형성한다. 좀더 구체적으로, 잔차 블록의 픽셀 차이 값들은 대응하는 예측 블록들의 대응하는 예측 픽셀 값들과 합산된다. 이 합계 프로세스는 전체 비디오 블록을 재구성하기 위해 루마 및 크로마 블록들 양쪽에 대해 수행된다. 합산기 (90) 은 이 합산 동작을 수행하는 구성요소 또는 구성요소들을 나타낸다. 원할 경우, 블록킹 현상 아티팩트들 (blockiness artifacts) 를 제거하기 위해 디블록킹 필터가 또한 그 디코딩된 블록들을 필터링하는데 적용될 수도 있다. (코딩 루프 중에 또는 코딩 루프 이후에) 다른 루프 필터들이 또한 픽셀 천이들 (pixel transitions) 를 평활화하거나 또는 아니면 비디오 품질을 향상시키기 위해 사용될 수도 있다. 주어진 프레임 또는 화상에서 디코딩된 비디오 블록들은 그후 참조 화상 메모리 (92) 에 저장되며, 이 메모리는 후속 모션 보상을 위해 사용되는 참조 화상들을 저장한다. 참조 화상 메모리 (92) 는 또한 도 1 의 디스플레이 디바이스 (32) 와 같은 디스플레이 디바이스 상에의 추후 프리젠테이션을 위해, 디코딩된 비디오를 저장한다.

비디오 디코더 (30) 은 잔차 블록에 대한 역변환을 스킵하는 것, 그리고 잔차 블록을 회전시킬지 여부를 결정하는 것을 포함한, 본 개시물의 기법들을 수행하도록 구성될 수도 있다. 비디오 디코더 (30) 의 재배치 유닛 (94) 는 잔차 블록을 회전시킬지 여부를 결정할 수도 있다. 일부 예들에서, 재배치 유닛 (94) 는 비디오 인코더 (20) 에서 사용되는 잔차 블록에 대한 회전 값을 표시하는, 비트스트림에서의 구문 엘리먼트들에 기초하여, 잔차 블록을 회전시킬지 여부를 결정한다. 다른 예들에서, 재배치 유닛 (94) 는 잔차 블록의 2개 이상의 에지들에서의 경계의 유형에 기초하여 잔차 블록을 회전시킬지 여부를 결정할 수도 있다.

잔차 블록이 회전될 때, 비디오 디코더 (30) 의 재배치 유닛 (94) 는 미리 결정된 회전 값 만큼 잔차 블록을 회전시키기로 결정할 수도 있거나, 또는 잔차 블록을 회전시킬 회전 값을 결정할 수도 있다. 어느 경우에나, 비디오 디코더 (30) 은 그후, 예측 블록을 이용하여 잔차 블록으로부터 비디오 블록을 재구성하기 전에 잔차 블록을 결정된 회전 값 만큼 회전시킨다. 잔차 블록의 에지들에서의 경계의 유형에 기초하여 인터-예측 잔차 블록을 회전시킬지 여부를 결정하는 예시적인 동작들은 도 5 내지 도 8 에 대하여 아래에서 좀더 자세하게 설명된다.

일부 예들에서, 비디오 디코더 (30) 은 변환 스킵핑이 잔차 블록에 대해 이용되는지 여부, 즉, 잔차 블록이 무손실 코딩 모드를 이용하여 또는 변환 스킵 모드에서의 손실 코딩 모드를 이용하여 인코딩되는지 여부를 단지 표시하는 구문 엘리먼트들을 수신할 수도 있다. 이 경우, 재배치 유닛 (94) 는 잔차 블록으로부터 비디오 블록을 재구성하기 위해, 잔차 블록의 에지들에서의 경계의 유형을 결정하는 비디오 인코더 (20) 과 동일한 동작을 이용하여, 잔차 블록을 회전시킬지 여부를 결정하여, 인코딩 동안 수행된 회전을 반전시킨다. 다른 예들에서, 비디오 디코더 (30) 은 인코딩 동안 잔차 블록에 적용된 회전의 회전 값, 예컨대, 0, 90, 180 또는 270 도를 표시하는 구문 엘리먼트들을 수신할 수도 있다. 이 경우, 재배치 유닛 (94) 는 잔차 블록으로부터 비디오 블록을 재구성하기 위해, 시그널링된 회전 값에 기초하여 잔차 블록을 회전시켜, 예컨대, 0, 90, 180 또는 270 도 반대 방향으로 회전시킴으로써, 인코딩 동안 수행된 회전을 반전시킬 수도 있다. 인터-예측 잔차 블록을 회전시킬지 여부를 결정하는 예시적인 동작들은 도 5 내지 도 8 에 대하여 아래에서 좀더 자세하게 설명된다.

일부 추가적인 예들에서, 비디오 디코더 (30) 은 잔차 블록에 대한 변환을 스킵하는 것 및 잔차 블록의 사이즈가 임계 블록 사이즈 미만이거나 또는 동일할 때 잔차 블록을 회전시키는 것을 포함한, 본 개시물의 기법들을 수행하도록 구성된다. 임계 블록 사이즈는 변환 스킵핑 및 회전이 손실 코딩 모드에서 허용되는 블록 사이즈와 동일할 수도 있다. 이렇게 하여, 회전이 수행될 수도 있는 블록 사이즈들은 변환 스킵 모드에서의 손실 코딩 모드 또는 무손실 코딩 모드 양쪽을 이용하여 코딩되는 잔차 블록들에 대해, 정렬된다, 즉, 동일하다. 이 기법은 인터-예측 잔차 블록들 및 인트라-예측 잔차 블록 양쪽에 적용가능할 수도 있다.

더욱이, 비디오 디코더 (30) 은 잔차 블록에 대한 변환을 스킵하는 것, 및 잔차 블록의 사이즈가 임계 블록 사이즈 미만이거나 또는 동일할 때 잔차 블록의 대각선을 따라서 잔차 데이터 샘플 값들을 플리핑하는 것을 포함한, 본 개시물의 기법들을 수행하도록 구성될 수도 있다. 잔차 블록의 잔차 데이터 샘플 값들을 플리핑하는 것은 대각선의 일측에서의 잔차 데이터 샘플 값들을, 잔차 블록의 대각선의 다른 측면 상에서 대응하는 거울 이미지 로케이션들에서의 잔차 데이터 샘플 값들로 교환하는 것을 포함한다. 이 기법은 인터-예측 잔차 블록들 및 인트라-예측 잔차 블록 양쪽에 적용가능할 수도 있다.

일부 예들에서, 무손실 코딩 모드의 경우, 회전 또는 플리핑은 임계 블록 사이즈 이하인 사이즈들을 가진 인트라-예측 잔차 블록들에만 단지 적용될 수도 있다. 다른 예들에서, 회전 또는 플리핑은 임계 블록 사이즈 이하인 사이즈들을 가진 모든 잔차 블록들, 즉, 인트라-예측 및 인터-예측 잔차 블록들에 적용될 수도 있다. 추가 예들에서, 변환 스킵 모드에서의 손실 코딩 모드의 경우, 회전 또는 플리핑은 인트라-예측 잔차 블록들에만 단지 적용될 수도 있거나, 또는 인트라-예측 및 인터-예측 잔차 블록들 양쪽에 적용될 수도 있다.

도 4 는 잔차 블록이 모션 예측 모드에 따라 하나 이상의 PU들 (102, 104) 및 쿼드-트리 데이터 구조에 따라서 다수의 TU들 (110, 112, 114, 116) 로 파티셔닝되는 CU (100) 을 예시하는 블록도이다. 도 4 에서, PU 경계들은 PU들 (102 및 104) 의 에지 주변에, 굵은 실선들으로서 예시된다. PU 경계는 상이한 PU들에 속하는 2개의 TU들 사이의 경계, 예컨대, PU (102) 내 TU (110) 과 PU (104) 내 TU (114) 사이의 경계를 포함한다. 도 4 에서, TU 경계들은 PU (102) 내 TU (110) 과 TU (112) 사이에, 그리고 PU (104) 내 TU (114) 와 TU (116) 사이에 굵은 파선들로서 예시된다. TU 경계는 동일한 PU 에 속하는 2개의 TU들 사이의 경계, 예컨대, PU (102) 내 TU (110) 과 TU (112) 사이의 경계를 포함한다.

일반적으로, 본 개시물은 변환 스킵핑에 의해 예측 잔차 블록, 예컨대, TU (112) 의 잔차 데이터를 코딩하는 기법들을 기술한다. TU (112) 의 잔차 데이터는 비디오 블록과, 연관된 예측 블록의 일부 사이의 픽셀 차이 값들을 포함한다. TU (112) 가 변환 스킵 모드에서의 손실 코딩 모드 또는 무손실 코딩 모드를 이용하여 코딩될 때, TU (112) 에 대해 변환이 스킵될 수도 있다. TU (112) 에 변환을 적용함이 없이, 평균보다 더 높은 에너지를 갖는 잔차 데이터, 즉, 더 큰 픽셀 차이 값들은 엔트로피 코딩에 대해 예상되는, TU (112) 의 상부 좌측 모서리에 배치되지 않을 수도 있다.

인트라-예측 모드에서, 잔차 블록에 대해 변환이 스킵될 때, 평균보다 더 높은 에너지를 갖는 잔차 데이터는 인트라-예측 잔차 블록의 우하측 모서리에 일반적으로 배치된다. 일부의 경우, 인트라-예측 잔차 블록은 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터를 배치하기 위해, 잔차 블록을 코딩하기 전에 180 도 만큼 자동적으로 회전될 수도 있다. 인터-예측 모드에서, 그러나, 잔차 블록을 180 도 만큼 자동적으로 회전시키는 것은 항상 바람직하지는 않을 수도 있다.

다음 관찰이 인터-예측 잔차 블록의 잔차 데이터의 에너지에 관하여 이루어졌다. 인터-예측 잔차 블록의 TU 경계에서의 잔차 데이터는 일반적으로 잔차 블록에서의 평균 잔차 데이터보다 더 낮은 에너지를 갖는다. 또, 인터-예측 잔차 블록의 PU 경계에서의 잔차 데이터는 일반적으로 잔차 블록에서의 평균 잔차 데이터보다 더 높은 에너지를 갖는다. 이 관찰에 기초하여, 본 개시물의 기법들은 TU (112) 의 2개 이상의 에지들에서의 경계의 유형에 기초하여, 변환 스킵핑에 의해 인터-예측 잔차 블록, 예컨대, TU (112) 를 회전시키는 것을 포함한다.

본 개시물의 기법들에 따르면, TU (112) 에 대해 변환이 스킵될 때, 재배치 유닛 (예컨대, 도 2 의 비디오 인코더 (20) 의 재배치 유닛 (66) 또는 도 3 의 비디오 디코더 (30) 의 재배치 유닛 (94)) 는 TU (112) 의 원래-버전의 PU 경계들에서의 잔차 데이터를 TU (112) 의 회전된-버전의 상부 좌측 모서리에 배치하기 위해, TU (112) 의 2개 이상의 에지들에서의 경계의 유형을 결정하고, 그후, TU (112) 를 회전시킬지 여부를 결정할 수도 있다. 일부의 경우, 이 기법들은 변환 스킵 모드에서의 손실 코딩 모드 또는 무손실 코딩 모드를 이용하여 코딩되는 인터-예측 잔차 블록들에만 단지 적용될 수도 있다. 그 경우, 변환 스킵 모드에서의 손실 코딩 모드 또는 무손실 코딩 모드를 이용하여 코딩되는 인트라-예측된 잔차 블록들은 잔차 비디오 블록들에서의 잔차 데이터를 코딩하기 전에 180 도 만큼 자동적으로 회전될 수도 있다. 다른 경우, 이 기법들은 또한 변환 스킵 모드에서의 손실 코딩 모드 또는 무손실 코딩 모드를 이용하여 코딩되는 인터-예측 및 인트라-예측 잔차 블록들 양쪽에 적용될 수도 있다.

일부 예들에서, 본 기법들은 TU (112) 를 미리 결정된 회전 값, 예컨대, 180 도 만큼 회전시키거나, 또는 TU (112) 를 회전시키지 않기로 결정하는 것을 포함한다. 다른 예들에서, 본 기법들은 TU (112) 를 회전시킬 회전 값을, 2개 이상의 회전 값들, 예컨대, 0 도 또는 무회전, 180 도, 90 도 또는 270 도로부터 결정하는 것을 포함한다. 인코딩 측에서, 회전은 엔트로피 코딩 효율을 향상시키기 위해, TU (112) 의 잔차 데이터를 인코딩하기 전에, 평균보다 더 높은 에너지를 갖는 잔차 데이터를 TU (112) 의 회전된-버전의 상부 좌측 모서리에 배치하도록 수행된다. 일부의 경우, 회전들은 인코딩 측에서는 반시계 방향으로 수행될 수도 있다. 디코딩 측에서, 회전은 예측 블록을 이용하여 TU (112) 로부터 비디오 블록을 재구성하기 위해, 인코딩 동안 수행된 회전을 반전시켜, 평균보다 더 높은 에너지를 갖는 잔차 데이터를 TU (112) 에서의 그의 원래 위치로 복귀시키도록, 수행된다. 일부의 경우, 회전들은 디코딩 측에서는 시계 방향으로 수행될 수도 있다.

본 개시물의 기법들의 제 1 예에서, 변환이 스킵되는 인트라-예측 잔차 블록은 잔차 블록들의 잔차 데이터를 코딩하기 전에 180 도 만큼 자동적으로 회전된다. 반대로, 변환이 스킵되는지 여부에 관계 없이, 무회전이 인터-예측 잔차 블록들, 예컨대, TU (112) 에 적용된다.

본 개시물의 기법들의 제 2 예에서, 잔차 블록은 잔차 블록의 에지들에서의 경계의 유형에 따라서, 180 도 만큼 회전되거나 또는 회전되지 않을 수도 있다. 전치 (transpose) 버퍼를 필요로 할 수도 있어 90 도 또는 270 도 회전을 하드웨어로 구현하기가 어렵기 때문에, 회전을 0 또는 180 도로 제한하는 것이, 바람직할 수도 있다. 일반적으로, 잔차 블록의 좌측 및 상부 에지들이 PU 경계들, 예컨대, TU (110) 이면, 상부 좌측 모서리에서의 잔차 데이터는 TU (110) 에서의 평균 잔차 데이터보다 더 높은 에너지를 가질 가능성이 있다. 그 경우, 높은 에너지 잔차 데이터가 TU (110) 의 상부 좌측 모서리에 이미 집중되어 있기 때문에, 180도 TU (110) 의 회전이 바람직하지 않을 수도 있다. 따라서, 비디오 코딩 디바이스는 TU (110) 의 회전을 수행하지 않기로 결정할 수도 있다. 그러나, 잔차 블록의 좌측 및 상부 에지들이 TU 경계들이고 잔차 비디오 블록의 우측 및 하부 에지들이 PU 경계들이면, 잔차 블록의 회전된-버전의 상부 좌측 모서리에 높은 에너지 잔차 데이터를 배치하기 위해 180 도 회전이 바람직할 수도 있다. 따라서, 비디오 코딩 디바이스는 그 잔차 블록을 180 도 만큼 회전시키기로 결정할 수도 있다.

본 개시물의 기법들에 따르면, 비디오 코딩 디바이스의 재배치는 잔차 블록의 각각의 에지를 PU 경계 또는 TU 경계로서 분류할 수도 있다. 재배치 유닛은 그후 180 도 만큼 잔차 블록을 회전시킬지 여부를 결정하는 규칙을 적용한다. 잔차 블록의 우측 및 하부 에지들 상에서의 PU 경계들의 개수가 잔차 블록의 좌측 및 상부 에지들 상에서의 PU 경계들의 개수보다 더 크면, 재배치 유닛은 잔차 블록을 180 도 만큼 회전시키기로 결정한다. 아래 표 1 은, 180 도 회전이 수행될 에지 분류들의 조합들을 나타낸다. 나머지 조합들에 대해, 비디오 코딩 디바이스의 재배치 유닛은 잔차 블록에 대해 회전을 수행하지 않기로 결정한다. 좌측 및 상부 에지들에 대한 PU 경계들의 개수가 잔차 블록의 하부 및 우측 에지들에서의 PU 경계들의 개수와 동일한 경우, 비디오 코딩 디바이스의 재배치 유닛은 잔차 블록을 180 도 만큼 회전시키거나 또는 잔차 블록을 회전시키지 않기로 결정할 수도 있다.

표 1

일 예로서, 비디오 코딩 디바이스의 재배치 유닛은 TU (112) 의 각각의 에지에서의 경계의 유형에 기초하여, TU (112) 의 잔차 블록을, 예를 들어, 180 도 만큼 회전시킬지 여부를 결정할 수도 있다. 재배치 유닛은 TU (112) 의 좌측 에지 및 상부 에지에서의 PU 경계들의 제 1 개수를 하나의 PU 경계, 즉, 상부 에지와 동일하게 결정한다. 재배치 유닛은 또한 TU (112) 의 우측 에지 및 하부 에지에서의 PU 경계들의 제 2 개수를 2개의 PU 경계들, 즉, 우측 에지 및 하부 에지 양쪽과 동일하게 결정한다. 이 경우, PU 경계들의 제 2 개수는 PU 경계들의 제 1 개수보다 더 크며, 따라서, 재배치 유닛은 TU (112) 의 잔차 데이터를 코딩하기 전에 TU (112) 를 180 도 만큼 회전시키기로 결정한다.

본 개시물의 기법들의 제 3 예에서, 비디오 코딩 디바이스의 재배치 유닛은 각각의 잔차 비디오 블록에 대해 최고 4개의 가능한 회전 값들, 즉, 0 도 또는 무회전, 180 도, 90 도, 및 270 도를 고려할 수도 있다. 일부의 경우, 재배치 유닛은, 90 도 또는 270 도 만큼 회전을 하드웨어로 구현하는 것이 전치 (transpose) 버퍼를 필요로 할 수도 있어 어렵기 때문에, 단지 회전 값들 중 2개, 예컨대, 0 도 및 180 도를 고려할 수도 있다. 이 예에서, 따라서, 단지 무회전 또는 180 도 회전이 고려된다.

회전 값들 (0, 180, 90, 및 270 도) 의 각각을 적용한 후, 재배치 유닛은 회전 값들의 각각의 하나에 대해 잔차 블록의 좌측 및 상부 에지들에서의 PU 경계들의 개수를 계산한다. 이들 PU 경계들의 개수들을 n₀, n₁₈₀, n₉₀, 및 n₂₇₀ 으로 표시한다고 하자. 이와 유사하게, 회전 값들 (0, 180, 90, 및 270 도) 의 각각을 적용한 후, 재배치 유닛은 회전 값들의 각각의 하나에 대해 잔차 블록의 우측 및 하부 에지들에서의 PU 경계들의 개수를 계산한다. 이들 PU 경계들의 개수들을 m₀, m₁₈₀, m₉₀, 및 m₂₇₀ 으로 표시한다고 하자. 회전들은 인코딩 측에서는 반시계 방향으로 수행될 수도 있으며, 회전들은 디코딩 측에서는 시계 방향으로 수행될 수도 있다.

이들 기법들에 따르면, 비디오 코딩 디바이스의 재배치 유닛은 그후 회전 값들의 각각에 대해, 잔차 블록의 좌측 및 상부 에지들과 잔차 블록의 우측 및 하부 에지들에서의 PU 경계들의 개수 사이의 차이 값들, 즉, d₀ = (n₀ - m₀), d₉₀ = (n₉₀ - m₉₀), d₁₈₀ = (n₁₈₀ - m₁₈₀), 및 d₂₇₀ = (n₂₇₀ - m₂₇₀) 을 계산한다. 재배치 유닛은 모든 회전 값들에 대해 차이 값들 d₀, d₉₀, d₁₈₀, 및 d₂₇₀ 으로부터 최대 차이 값을 결정한다. 비디오 코딩 디바이스의 재배치 유닛은 그후 잔차 블록을 최대 차이 값에 대응하는 회전 값 만큼 회전시키기로 결정한다.

차이 값들 중 2개 이상이 최대 차이 값과 동일하면, 재배치 유닛은 미리 결정된 순서에 따라서, 잔차 블록에 적용될 회전 값을 선택할 수도 있다. 미리 결정된 순서의 일 예는 무회전, 180 도 회전, 90 도 회전, 및 270 도 회전이다. 이 예에서, d₀, d₉₀, 및 d₁₈₀ 이 모두 최대 차이 값과 동일하면, 무회전이 잔차 블록에 적용된다. d₉₀ 및 d₁₈₀ 이 양쪽 다 최대 차이 값과 동일하면, 180 도의 회전 값이 잔차 블록에 적용된다. 다른 예들에서, 최대 값 타이의 경우, 회전을 선택하는 상이한 순서들이 사용될 수도 있다. 아래 표 2 는 원래 잔차 블록에 대한 경계 유형들 및 잔차 블록에 대한 최종 회전 값들의 2개의 조합들을 나타낸다.

표 2

일 예로서, 비디오 코더의 재배치 유닛은 TU (112) 의 각각의 에지에서의 경계의 유형에 기초하여, TU (112) 의 잔차 비디오 블록을, 예를 들어, 0 도, 180 도, 반시계 방향 90 도, 또는 반시계 방향 270 도 만큼, 회전시킬지 여부를 결정할 수도 있다. 재배치 유닛은 n₀ = 1, n₁₈₀ = 2, n₉₀ = 2, 및 n₂₇₀ = 1 인 경우, 회전 값들의 각각에 대해 TU (112) 의 좌측 에지 및 상부 에지에서의 PU 경계들의 제 1 개수를 결정한다. 재배치 유닛은 그후 m₀ = 2, n₁₈₀ = 1, n₉₀ = 1, 및 n₂₇₀ = 2 인 경우, 회전 값들의 각각에 대해 TU (112) 의 우측 에지 및 하부 에지에서의 PU 경계들의 제 2 개수를 결정한다.

재배치 유닛은 그후 d₀ = -1, d₁₈₀ = 1, d₉₀ = 1, 및 d₂₇₀ = -1 인 경우, 회전 값들의 각각에 대해 PU 경계들의 제 1 개수와 PU 경계들의 제 2 개수 사이의 차이 값을 계산한다. 재배치 유닛은 그 다음에, TU (112) 의 모든 회전 값들에 대한 차이 값들로부터, 최대 차이 값을, 양쪽 다 1 과 동일한 d₁₈₀ 및 d₉₀ 과 동일하게 결정한다. 타이 (tie) 의 경우, 위에서 설명된 미리 결정된 순서에 따라서, 90 도를 넘어서 180 도의 회전 값이 선택된다. 비디오 코딩 디바이스의 재배치 유닛은 그후 잔차 비디오 블록에서의 잔차 데이터를 코딩하기 전에, 이 경우 180 도인 최대 차이 값을 가진 회전 값 만큼, 잔차 블록을 회전시키기로 결정한다.

도 5 는 잔차 블록의 잔차 데이터를 인코딩하기 전에 잔차 블록을 회전시킬지 여부를 결정하는 비디오 인코더의 예시적인 동작을 예시하는 플로우차트이다. 도 2 의 비디오 인코더 (20) 과 관련하여 동작이 설명된다. 비디오 인코더 (20) 은 인터-예측 모드에서 모션 보상 유닛 (44) 로부터의 예측 블록을 이용하여 비디오 블록으로부터 잔차 블록을 계산한다 (120). 일부 예들에서, 잔차 블록은 변환 및 양자화 양쪽이 잔차 블록에 대해 항상 스킵되는 무손실 코딩 모드를 이용하여 코딩될 수도 있다. 다른 예들에서, 잔차 블록은 단지 변환이 잔차 블록에 대해 스킵되는 변환 스킵 모드에서의 손실 코딩 모드를 이용하여 코딩될 수도 있다.

변환 스킵핑을 이용하여 잔차 블록을 코딩하도록 선택하는 것에 응답하여, 비디오 인코더 (20) 은 변환 프로세싱 유닛 (52) 에서 잔차 블록에 대해 변환을 수행하는 것을 스킵한다 (122). 일 예로서, 비디오 인코더 (20) 은 변환 및 양자화 양쪽이 잔차 블록에 대해 항상 스킵되는 무손실 코딩 모드를 이용하여 잔차 블록이 코딩되는지 여부를 표시하는 구문 엘리먼트, 즉, cu_transquant_bypass_flag 를 인코딩할 수도 있다. 또 다른 예에서, 비디오 인코더 (20) 은 손실 코딩 모드를 이용하는 잔차 블록의 코딩 동안, 단지 변환이 스킵되는, 변환 스킵 모드가 사용되는지 여부를 표시하는 구문 엘리먼트, 즉, transform_skip_flag 를 인코딩할 수도 있다.

본 기법들에 따르면, 잔차 블록에 대해 변환이 스킵될 때, 비디오 인코더 (20) 의 재배치 유닛 (66) 은 잔차 블록의 각각의 에지에서의 경계의 유형을 결정한다 (124). 잔차 블록의 특정의 에지에서의 경계의 유형은 잔차 블록의 특정의 에지에서 일반적으로 발견되는 잔차 데이터의 에너지의 레벨을 표시한다. 재배치 유닛 (66) 은 그후 각각의 에지에서의 경계의 유형에 기초하여, 잔차 블록을 회전시킬지 여부를 결정한다 (126). 재배치 유닛 (66) 은 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터를 배치시켜 엔트로피 코딩 효율을 향상시키기 위해, 잔차 블록을 회전시키기로 결정할 수도 있다.

재배치 유닛 (66) 이 잔차 블록을 회전시키기로 결정할 때 (128 의 예 분기), 재배치 유닛 (66) 은 잔차 블록을 결정된 회전 값 만큼 회전시킨다 (130). 도 7 에 관하여 좀더 자세히 설명된, 일부의 경우, 결정된 회전 값은 정적인, 미리 결정된 회전 값, 예컨대, 180 도일 수도 있다. 도 8 에 관하여 좀더 자세히 설명된, 다른 경우, 재배치 유닛 (66) 은 복수의 회전 값들로부터 잔차 블록을 회전시킬 회전 값을 결정할 수도 있다. 복수의 회전 값들은 180 도, 반시계 방향 90 도 또는 반시계 방향 270 도를 포함할 수도 있다.

재배치 유닛 (66) 이 잔차 블록을 회전시키지 않기로 결정할 때 (128 의 아니오 분기), 재배치 유닛 (66) 은 잔차 블록을 회전시키지 않는다. 재배치 유닛 (66) 이 잔차 블록을 회전시킬지 여부에 관계없이, 엔트로피 인코딩 유닛 (56) 은 잔차 블록의 잔차 데이터를 인코딩한다 (132). 일부의 경우, 예컨대, 변환 스킵 모드에서의 손실 코딩 모드, 잔차 블록의 잔차 데이터는 엔트로피 인코딩 유닛 (56) 에 의해 엔트로피 인코딩하기 전에 양자화 유닛 (54) 를 이용하여 양자화될 수도 있다. 또한, 재배치 유닛 (66) 에 의해 잔차 블록을 회전시킬지 여부를 결정하기 전에 양자화 유닛 (54) 를 이용하여 잔차 블록의 잔차 데이터를 양자화하는 것이 가능할 수도 있다. 다른 경우, 예컨대, 무손실 코딩 모드, 변환 및 양자화 양쪽이 스킵되며 잔차 블록의 잔차 데이터가 임의의 추가적인 압축 없이 엔트로피 인코딩 유닛 (56) 에 의해 직접 엔트로피 인코딩된다.

대안적으로, 잔차 블록의 에지들의 각각에서의 경계의 유형을 결정하는 것, 그리고 회전시킬지를 에지들에서의 경계의 유형에 기초하여 결정하는 것 대신, 재배치 유닛 (66) 은 잔차 블록을 엔트로피 인코딩하는데 요구되는 비트수에 기초하여 잔차 블록을 회전시킬지 여부를 결정할 수도 있다. 이 경우, 재배치 유닛 (66) 은 하나 이상의 회전 값들을 잔차 블록에 적용하고 각각의 회전 값에 대해, 회전된 잔차 블록에 포함된 양자화된 잔차 계수들을 엔트로피 인코딩하는데 요구되는 비트수를 결정할 수도 있다. 재배치 유닛 (66) 은 그후 엔트로피 인코딩을 위한 최저 비트수를 초래하는 회전 값에 기초하여, 잔차 블록을 회전시킬지 여부를 결정할 수도 있다.

이 대안 예에서, 엔트로피 인코딩 유닛 (56) 은 잔차 블록을 회전시킬지 여부를 표시하는 구문 엘리먼트들을 인코딩할 수도 있다. 비디오 디코더는 회전시킬지 여부 또는 잔차 블록에 대한 회전 값을 결정하기 위해 동일한 정보에 액세스하지 않는다. 따라서, 회전 값은, 비트스트림으로 명시적으로 시그널링될 필요가 있다. 단지 2개의 가능한 회전 값들, 즉, 0 도 또는 무회전 및 180 도의 경우, 1 비트가 회전 값을 시그널링하는데 충분하다. 엔트로피 인코딩 유닛 (56) 은 비트를 컨텍스트를 이용하여 또는 바이패스 모드에서 CABAC 코딩할 수도 있다. 4개의 가능한 회전 값, 즉, 0 도, 180 도, 반시계방향 90 도, 또는 반시계 방향 270 도의 경우, 회전 값을 시그널링하기 위해 2 비트가 사용될 수도 있다. 엔트로피 인코딩 유닛 (56) 은 그 2 비트를 컨텍스트를 이용하여 또는 바이패스 모드에서 CABAC 코딩할 수도 있다.

도 6 은 잔차 블록의 잔차 데이터로부터 비디오 블록을 재구성하기 전에 잔차 블록을 회전시킬지 여부를 결정하는 비디오 디코더의 예시적인 동작을 예시하는 플로우차트이다. 도 3 의 비디오 디코더 (30) 에 관하여 동작이 설명된다. 비디오 디코더 (30) 의 엔트로피 디코딩 유닛 (80) 은 비디오 인코더로부터 수신된 비디오 블록에 대한 비트스트림으로부터 잔차 블록의 잔차 데이터 및 연관된 구문 엘리먼트들을 디코딩한다 (140). 일 예로서, 구문 엘리먼트, 즉, cu_transquant_bypass_flag 는, 변환 및 양자화 양쪽이 잔차 블록에 대해 항상 스킵되는 무손실 코딩 모드를 이용하여 잔차 블록이 코딩되는지 여부를 표시한다. 또 다른 예에서, 구문 엘리먼트, 즉, transform_skip_flag 는, 손실 코딩 모드를 이용하는 잔차 블록의 코딩 동안, 단지 변환이 스킵되는, 변환 스킵 모드가 사용되는지 여부를 표시한다.

일부의 경우, 예컨대, 변환 스킵 모드에서의 손실 코딩 모드, 잔차 블록의 잔차 데이터는 잔차 블록을 회전시켜 잔차 블록의 잔차 데이터로부터 비디오 블록을 재구성하기 전에 역양자화 유닛 (86) 을 이용하여 역양자화된다. 또한, 역양자화 유닛 (86) 을 이용하여 잔차 블록의 잔차 데이터를 역양자화하기 전에 재배치 유닛 (94) 에 의해 잔차 블록을 회전시킬지 여부를 결정하는 것이 가능할 수도 있다. 다른 경우, 예컨대, 무손실 코딩 모드, 역양자화 및 역변환 양쪽이 스킵되며, 잔차 블록의 잔차 데이터가 임의의 추가적인 압축해제 없이 비디오 블록을 직접 재구성하기 위해 사용된다.

비디오 디코더 (30) 은 연관되는 구문 엘리먼트들에 의해 표시되는 변환 스킵핑에 기초하여, 역변환 프로세싱 유닛 (88) 에서 잔차 블록에 대해 역변환을 수행하는 것을 스킵한다 (142). 본 기법들에 따르면, 잔차 블록에 대해 역변환이 스킵될 때, 비디오 디코더 (30) 의 재배치 유닛 (94) 는 잔차 블록의 각각의 에지에서의 경계의 유형을 결정한다 (144). 재배치 유닛 (94) 은 그후 각각의 에지에서의 경계의 유형에 기초하여, 잔차 블록을 회전시킬지 여부를 결정한다 (146). 재배치 유닛 (94) 는 평균보다 더 높은 에너지를 갖는 잔차 데이터를 잔차 블록의 상부 좌측 모서리에 배치시키는, 인코딩 동안 수행된 잔차 블록의 회전을 반전시켜 엔트로피 코딩 효율을 향상시키기 위해, 잔차 블록을 회전시키기로 결정할 수도 있다.

재배치 유닛 (94) 가 잔차 블록을 회전시키기로 결정할 때 (148 의 예 분기), 재배치 유닛 (94) 는 잔차 블록을 결정된 회전 값 만큼 회전시킨다 (150). 도 7 에 관하여 좀더 자세히 설명된, 일부의 경우, 결정된 회전 값은 정적인, 미리 결정된 회전 값, 예컨대, 180 도일 수도 있다. 도 8 에 관하여 좀더 자세히 설명된, 다른 경우, 재배치 유닛 (94) 은 복수의 회전 값들로부터 잔차 블록을 회전시킬 회전 값을 결정할 수도 있다. 복수의 회전 값들은 예컨대, 비디오 인코더가 반시계 방향으로 회전을 수행한 경우에, 180 도, 시계방향 90 도 또는 시계방향 270 도를 포함할 수도 있다.

재배치 유닛 (94) 가 잔차 블록을 회전시키지 않기로 결정할 때 (148 의 아니오 분기), 재배치 유닛 (94) 는 잔차 블록을 회전시키지 않는다. 재배치 유닛 (94) 가 잔차 블록을 회전시키는지 여부에 관계없이, 비디오 디코더 (30) 은 인터-예측 모드에서 모션 보상 유닛 (82) 으로부터의 예측 블록에 기초하여 잔차 블록으로부터 비디오 블록을 재구성한다 (152).

대안적으로, 잔차 블록의 에지들의 각각에서의 경계의 유형을 결정하는 것, 그리고 회전시킬지를 에지들에서의 경계의 유형에 기초하여 결정하는 것 대신, 재배치 유닛 (94) 는 명시적으로 시그널링된 회전 값 만큼 잔차 블록을 회전시킬지 여부를 표시하는 구문 엘리먼트들에 기초하여, 잔차 블록을 회전시킬지 여부를 결정할 수도 있다. 이 경우, 비디오 인코더는 잔차 블록을 엔트로피 인코딩하는데 요구되는 비트수에 기초하여 잔차 블록을 회전시킬지 여부를 결정할 수도 있다. 예를 들어, 비디오 인코더는 엔트로피 인코딩을 위한 최저 비트수를 초래하는 회전 값에 기초하여 잔차 블록을 회전시킬지 여부를 결정하고, 그리고 그 회전 값을 비디오 디코더 (30) 으로 명시적으로 시그널링할 수도 있다.

이 대안 예에서, 엔트로피 디코딩 유닛 (80) 은 잔차 블록을 회전시킬지 여부를 표시하는 구문 엘리먼트들을 디코딩할 수도 있다. 비디오 디코더 (30) 은 회전시킬지 여부 또는 잔차 블록에 대한 회전 값을 결정하기 위해 비디오 인코더와 동일한 정보에 액세스하지 않는다. 따라서, 회전 값은, 비트스트림으로 명시적으로 시그널링될 필요가 있다. 단지 2개의 가능한 회전 값들, 즉, 0 도 또는 무회전 및 180 도의 경우, 1 비트가 회전 값을 시그널링하는데 충분하다. 엔트로피 디코딩 유닛 (80) 은 비트를 컨텍스트를 이용하여 또는 바이패스 모드에서 CABAC 코딩할 수도 있다. 4개의 가능한 회전 값, 즉, 0 도, 180 도, 시계방향 90 도, 또는 시계방향 270 도의 경우, 2 비트가 회전 값을 시그널링하기 위해 사용될 수도 있다. 엔트로피 디코딩 유닛 (80) 은 그 2 비트를, 컨텍스트를 이용하여 또는 바이패스 모드에서 CABAC 코딩할 수도 있다.

도 7 은 잔차 블록의 에지들에서의 경계의 유형에 기초하여, 미리 결정된 회전 값 만큼 잔차 블록을 회전시킬지 여부를 결정하는 하나의 예시적인 동작을 예시하는 플로우차트이다. 예시된 동작은 에지들에서의 경계의 유형에 기초하여 잔차 블록을 회전시킬지 여부를 결정하는, 도 5 의 단계 126 및 도 6 의 단계 146 의 좀더 상세한 예이다.

잔차 블록에 대해 변환이 스킵될 때, 예컨대, 변환 스킵 모드에서의 손실 코딩 모드 또는 무손실 코딩 모드일 때, 엔트로피 코딩 효율은 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터를 배치하기 위해, 인코딩 동안 잔차 블록을 회전시킴으로써 향상될 수도 있다. 디코딩 동안, 인코딩 동안 수행된 회전은 인터-예측 모드에서 예측 블록을 이용하여 잔차 블록으로부터 비디오 블록을 적절히 재구성하기 위해, 반전될 필요가 있다.

인터-예측 모드에서, 잔차 블록의 특정의 에지가 동일한 PU 내 2개의 TU들 사이의 TU 경계이면, 잔차 블록의 TU 경계에서의 잔차 데이터는 일반적으로 잔차 블록에서의 평균 잔차 데이터보다 더 낮은 에너지를 갖는다. 또, 잔차 블록의 특정의 에지가 상이한 PU들에서의 2개의 TU들 사이의 PU 경계이면, 잔차 블록의 PU 경계에서의 잔차 데이터는 일반적으로 잔차 블록에서의 평균 잔차 데이터보다 더 높은 에너지를 갖는다. 이 관찰에 기초하여, 도 7 에 예시된 기법들은 잔차 블록의 에지들에서의 경계의 유형을 이용하여, 미리 결정된 회전 값, 예컨대, 180 도 만큼, 잔차 블록을 회전시킬지 여부를 결정하여 원래 잔차 블록의 PU 경계들에서의 잔차 데이터를 그 회전된 잔차 블록의 상부 좌측 모서리에 배치시킨다. 인코딩 측에서, 이 회전은 엔트로피 코딩 효율을 향상시키기 위해, 회전된 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터를 배치시킨다. 디코딩 측에서, 이 회전은 인코딩 동안 수행된 회전을 반전시키고, 평균보다 더 높은 에너지를 갖는 잔차 데이터를 원래 잔차 블록에서의 그의 원래 위치로 복귀시킨다.

도 7 에 예시된 동작은 도 2 의 비디오 인코더 (20) 의 재배치 유닛 (66) 에 관하여 설명될 것이다. 다른 예들에서, 동일한 동작이 또한 도 3 의 비디오 디코더 (30) 의 재배치 유닛 (94) 에 의해 수행될 수도 있다. 예시된 동작에서, 재배치 유닛 (66) 은 잔차 블록을 미리 결정된 회전 값, 예컨대, 180 도 만큼 회전시키거나, 또는 잔차 블록을 회전시키지 않을 수도 있다. 잔차 블록을 회전시킬지 여부를 결정하기 위해, 재배치 유닛 (66) 이 잔차 블록의 좌측 에지 및 상부 에지에서의 PU 경계들의 제 1 개수를 결정한다 (160). 재배치 유닛 (66) 은 또한 잔차 블록의 우측 에지 및 하부 에지에서의 PU 경계들의 제 2 개수를 결정한다 (162).

PU 경계들의 제 2 개수가 PU 경계들의 제 1 개수보다 크면 (164 의 예 분기), 평균보다 더 높은 에너지를 갖는 잔차 데이터가 잔차 블록의 우하측 모서리에 아마 집중될 것이다. 이 경우, 재배치 유닛 (66) 은 잔차 블록을 미리 결정된 회전 값 만큼 회전시킨다 (168). 잔차 블록을 예를 들어, 180 도 만큼 회전시키는 것은, 평균보다 더 높은 에너지를 갖는 잔차 데이터를 그 회전된 잔차 블록의 상부 좌측 모서리에 배치시킬 것이다. 한편, PU 경계들의 제 2 개수가 PU 경계들의 제 1 개수이하이면 (164 의 아니오 분기), 평균보다 더 높은 에너지를 갖는 잔차 데이터는 잔차 블록의 상부 좌측 모서리에 이미 아마 집중될 것이다. 그 경우, 재배치 유닛 (66) 은 잔차 블록을 회전시키지 않는다 (166).

도 8 은 2개 이상의 가능한 회전 값들의 각각에 대해 잔차 블록의 에지들에서의 경계의 유형에 기초하여 잔차 블록에 대한 회전 값을 결정하는 것을 포함하여, 잔차 블록을 회전시킬지 여부를 결정하는 또 다른 예시적인 동작을 예시하는 플로우차트이다. 예시된 동작은 또 다른 에지들에서의 경계의 유형에 기초하여 잔차 블록을 회전시킬지 여부를 결정하는, 도 5 의 단계 (126) 및 도 6 의 단계 (146) 의 좀더 상세한 예이다.

잔차 블록에 대해 변환이 스킵될 때, 예컨대, 변환 스킵 모드에서의 손실 코딩 모드 또는 무손실 코딩 모드일 때, 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터를 배치하기 위해, 인코딩 동안 잔차 블록을 회전시킴으로써 엔트로피 코딩 효율이 향상될 수도 있다. 디코딩 동안, 인터-예측 모드에서 예측 블록을 이용하여 잔차 블록으로부터 비디오 블록을 적절히 재구성하기 위해, 인코딩 동안 수행된 회전이 반전될 필요가 있다.

인터-예측 모드에서, 잔차 블록의 특정의 에지가 동일한 PU 내 2개의 TU들 사이의 TU 경계이면, 잔차 블록의 TU 경계에서의 잔차 데이터는 일반적으로 잔차 블록에서의 평균 잔차 데이터보다 더 낮은 에너지를 갖는다. 또, 잔차 블록의 특정의 에지가 상이한 PU들에서의 2개의 TU들 사이의 PU 경계이면, 잔차 블록의 PU 경계에서의 잔차 데이터는 일반적으로 잔차 블록에서의 평균 잔차 데이터보다 더 높은 에너지를 갖는다. 이 관찰에 기초하여, 도 8 에 예시된 기법들은, 원래 잔차 블록의 PU 경계들에서의 잔차 데이터를 그 회전된 잔차 블록의 상부 좌측 모서리에 배치하기 위해, 잔차 블록의 에지들에서의 경계의 유형을 이용하여 잔차 블록을 회전시킬 회전 값, 예컨대, 0, 180, 90 또는 270 도를 결정한다. 인코딩 측에서, 이 회전은 엔트로피 코딩 효율을 향상시키기 위해, 회전된 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터를 배치시킨다. 디코딩 측에서, 이 회전은 인코딩 동안 수행된 회전을 반전시키고, 평균보다 더 높은 에너지를 갖는 잔차 데이터를 원래 잔차 블록에서의 그의 원래 위치로 복귀시킨다.

도 8 에 예시된 동작은 도 2 의 비디오 인코더 (20) 의 재배치 유닛 (66) 에 관하여 설명될 것이다. 다른 예들에서, 동일한 동작이 또한 도 3 의 비디오 디코더 (30) 의 재배치 유닛 (94) 에 의해 수행될 수도 있다. 예시된 동작에서, 재배치 유닛 (66) 은 복수의 회전 값들로부터 선택된 회전 값 만큼 잔차 블록을 회전시킬 수도 있다. 일부의 경우, 회전 값들은 0 도, 즉, 무회전, 및 180 도를 포함할 수도 있다. 다른 경우, 회전 값들은 0 도, 180 도, 90 도 및 270 도를 포함할 수도 있다. 일 예로서, 인코딩 측에서, 회전 값들은 반시계 방향일 수도 있으며, 디코딩 측에서, 회전 값들은 시계 방향일 수도 있다.

잔차 블록을 회전시킬 회전 값을 결정하기 위해, 재배치 유닛 (66) 은 회전 값들의 각각에 대해 잔차 블록의 좌측 에지 및 상부 에지에서의 PU 경계들의 제 1 개수를 결정한다 (170). 재배치 유닛 (66) 은 또한 잔차 블록의 우측 에지 및 하부 에지에서의 PU 경계들의 제 2 개수를 결정한다 (172). 재배치 유닛 (66) 은, 따라서, 잔차 블록의 가능한 회전들의 각각을 수행하고, 회전들의 각각에서의 PU 경계들의 로케이션 및 개수를 결정한다.

재배치 유닛 (66) 은 회전 값들의 각각에 대해 제 1 개수와 제 2 개수 사이의 차이 값을 계산한다 (174). 이러한 방법으로, 재배치 유닛 (66) 은, 회전들의 각각이 수행된 후 평균보다 더 높은 에너지를 갖는 잔차 데이터가 잔차 블록에 아마 집중되는 경우를 결정한다. 재배치 유닛 (66) 은 그후 회전 값들의 모두에 대해, 계산된 차이 값들로부터 최대 차이 값을 결정한다 (176). 잔차 블록의 상부 좌측 모서리에서 평균보다 더 높은 에너지를 가진 잔차 데이터의 집중을 최대화하기 위해, 회전 유닛 (66) 은 최대 차이 값과 연관되는 회전 값들 중 하나를 선택한다. 재배치 유닛 (94) 는 그후 최대 차이 값을 가진 회전 값 만큼 잔차 블록을 회전시킨다 (178).

도 9 는 잔차 블록들에 변환이 적용되지 않을 때 회전이 수행될 수 있는 잔차 블록들의 블록 사이즈들을 제한하는 예시적인 동작을 예시하는 플로우차트이다. 도 9 에 예시된 동작은 도 2 의 비디오 인코더 (20) 의 재배치 유닛 (66) 에 관하여 설명될 것이다. 다른 예들에서, 동일한 동작이 또한 도 3 의 비디오 디코더 (30) 의 재배치 유닛 (94) 에 의해 수행될 수도 있다. 예시된 동작은 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 인트라-예측 잔차 블록들 및 인터-예측 잔차 블록들 양쪽에 적용될 수도 있다.

위에서 설명된 기법들은 변환이 잔차 블록에 대해 스킵되거나 또는 바이패스될 때 잔차 블록을 결정된 회전 값 만큼 회전시키는 것을 포함한다. 상기 기법들은 변환 스킵 모드에 의한 손실 코딩 모드 또는 변환 및 양자화 프로세스들 양쪽이 바이패스되는 무손실 코딩 모드를 이용하여 코딩되는 인트라-예측 잔차 블록들 및 인터-예측 잔차 블록들 양쪽에 대해 회전을 수행하는 것을 기술한다.

손실 코딩 모드에서, 변환 스킵 모드가 모든 잔차 블록 사이즈들에 적용될 수도 있다. 무손실 코딩 모드에서, 모든 잔차 블록 사이즈들에 대해 변환이 바이패스된다. 따라서, 인트라-예측 모드 및 인터-예측 모드 양쪽에서 모든 잔차 블록 사이즈들에 대해 회전이 수행될 수도 있다. 그러나, 16×16 또는 32×32 블록들과 같은, 큰 사이즈 잔차 블록들에 대해 회전을 수행하는 것은, 하드웨어 구현들에 어려울 수도 있다. 본 개시물의 기법들에 따르면, 변환이 적용되지 않은 잔차 블록들의 잔차 데이터를 회전시키는 것은 임계 사이즈 이하인 잔차 블록 사이즈들에 제한될 수도 있다. 따라서, 잔차 블록을 회전시킬지 여부를 결정하는 것은, 무손실 코딩 모드를 표시하는 cu_transquant_bypass_flag, 손실 코딩 모드에서의 변환 스킵 모드를 표시하는 변환 스킵 플래그, 및 잔차 블록의 사이즈에 의존할 수도 있다.

도 9 에 예시된 동작에서, 재배치 유닛 (66) 은 변환이 잔차 블록에 적용되지 않을 때, 즉, 잔차 블록이 변환 스킵 모드에서의 손실 코딩 모드 또는 무손실 코딩 모드를 이용하여 코딩될 때 잔차 블록을 수신한다. 본 개시물의 기법들은 회전이 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 수행될 수 있는 잔차 블록들의 사이즈를 제한하는 것을 포함한다.

이 경우, 잔차 블록을 회전시킬지 여부를 결정하기 위해, 재배치 유닛 (66) 은 변환이 적용되지 않은 잔차 블록의 사이즈를 결정한다 (180). 잔차 블록의 사이즈가 임계 블록 사이즈 이하이면 (182 의 예 분기), 재배치 유닛 (66) 은 결정된 회전 값 만큼 잔차 블록을 회전시킬지 여부를 결정한다 (186). 잔차 블록의 사이즈가 임계 사이즈보다 크면 (182 의 아니오 분기), 재배치 유닛 (66) 은 회전을 디스에이블하고 잔차 블록을 회전시키지 않는다 (184). 회전 결정은 아래에서 좀더 자세히 설명되는 동작들 중 하나에 의해 수행될 수도 있다. 일부 예들에서, 잔차 블록이 인트라-예측 잔차 블록이면, 회전은 잔차 블록의 블록 사이즈가 임계 블록 사이즈 기준을 만족할 때 항상 적용될 것이다. 일부의 경우, 잔차 블록의 회전은 180 도로 제한될 수도 있다. 다른 경우, 잔차 블록의 회전은 위에서 설명된 기법들에 따라서, 0 도, 90 도, 180 도 또는 270 도 중 하나로 결정될 수도 있다. 다른 예들에서, 잔차 블록이 인터-예측 잔차 블록 또는 인트라 블록 복사 (BC) 예측 잔차 블록이면, 회전은 디스에이블될 수도 있다.

일 예에서, 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 잔차 블록들의 회전을 수행하기 위한 임계 사이즈는 8×8 이다. 다른 예들에서, 임계 사이즈는 4×4 와 동일할 수도 있다. 일부의 경우, 단지 임계 블록 사이즈 기준을 만족하는 무손실 코딩 모드 또는 손실 코딩 모드에서는 인트라-예측 잔차 블록들에 회전이 적용될 수도 있으며, 블록 사이즈에 관계없이 인터-예측 잔차 블록들에 대해서는 회전이 디스에이블될 수도 있다. 일부의 경우, 또한 블록 사이즈에 관계없이 인트라 BC 예측 잔차 블록들에 대해서는 회전이 디스에이블될 수도 있다. 다른 경우, 임계 블록 사이즈 기준을 만족하는 (즉, 잔차 블록 사이즈가 임계 블록 사이즈 이하인) 무손실 코딩 모드 또는 손실 코딩 모드에서는 인트라-예측 및 인터-예측 잔차 블록들 양쪽에 회전이 적용될 수도 있다. 또 다른 경우, 임계 블록 사이즈 기준을 만족하는 변환 스킵핑에 의한 손실 코딩 모드에서는 단지 인트라-예측 잔차 블록들에, 그리고, 임계 블록 사이즈 기준을 만족하는 무손실 코딩 모드에서는 인트라-예측 및 인터-예측 잔차 블록들 양쪽에 회전이 적용될 수도 있다.

또 다른 예에서, 변환 스킵 모드는 최대 블록 사이즈, 예컨대, 4×4 또는 8×8 까지의 사이즈들을 갖는, 손실 코딩 모드에서의 잔차 블록들에 단지 적용하도록 제한될 수도 있다. 손실 코딩 모드에서 변환이 스킵되도록 허용되는 최대 블록 사이즈는 잔차 블록과 연관되는 SPS 및 PPS 중 하나에 표시될 수도 있다. 이 경우, 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 잔차 블록들의 회전을 수행하기 위한 임계 사이즈는 변환이 손실 코딩 모드에서 스킵될 수 있는 최대 블록 사이즈, 예컨대, 4×4 또는 8×8 이하이다. 손실 코딩 모드에서 변환이 스킵될 수 있는 최대 블록 사이즈 이하로 임계 블록 사이즈를 설정하는 것은 무손실 및 손실 코딩 모드 경우들 양쪽에 대해 회전이 수행될 수 있는 블록 사이즈들을 정렬 (align) 시킨다.

일부의 경우, 단지 임계 블록 사이즈 기준을 만족하는 무손실 코딩 모드 또는 손실 코딩 모드에서는 인트라-예측 잔차 블록들에 회전이 적용될 수도 있으며, 블록 사이즈에 관계없이 인터-예측 잔차 블록들에 대해서는 회전이 디스에이블될 수도 있다. 일부의 경우, 또한 블록 사이즈에 관계없이 인트라 BC 예측 잔차 블록들에 대해서는 회전이 디스에이블될 수도 있다. 다른 경우, 임계 블록 사이즈 기준을 만족하는 무손실 코딩 모드 또는 손실 코딩 모드에서 인트라-예측 및 인터-예측 잔차 블록들 양쪽에 회전이 적용될 수도 있다. 또 다른 경우, 임계 블록 사이즈 기준을 만족하는 변환 스킵핑에 의한 손실 코딩 모드에서는 단지 인트라-예측 잔차 블록들에, 그리고, 임계 블록 사이즈 기준을 만족하는 무손실 코딩 모드에서는 인트라-예측 및 인터-예측 잔차 블록들 양쪽에 회전이 적용될 수도 있다.

도 10 은 잔차 블록들에 변환이 적용되지 않을 때 대각선을 따른 잔차 데이터 샘플 값들의 플리핑이 수행될 수 있는 잔차 블록들의 블록 사이즈들을 제한하는 예시적인 동작을 예시하는 플로우차트이다. 도 10 에 예시된 동작은 도 2 의 비디오 인코더 (20) 의 재배치 유닛 (66) 에 관하여 설명될 것이다. 다른 예들에서, 동일한 동작이 또한 도 3 의 비디오 디코더 (30) 의 재배치 유닛 (94) 에 의해 수행될 수도 있다. 예시된 동작은 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 인트라-예측 잔차 블록들 및 인터-예측 잔차 블록들 양쪽에 적용될 수도 있다.

잔차 블록의 회전에 적용하는 위에서 설명된 기법들은 또한 플리핑 잔차 블록의 잔차 데이터 샘플 값들에 적용할 수도 있다. 위에서 설명한 바와 같이, JCTVC-K0294 는, 사용되는 스캐닝에 따라서, 인트라 예측 잔차 블록의 샘플 값들은 잔차 블록에 대해 변환이 스킵될 때 잔차 블록의 주 대각선 또는 반대-대각선을 따라서 플리핑될 수도 있다고 제안하였다. 도 9 에 관하여 위에서 설명된, 잔차 블록에 대해 회전이 수행될 수 있는 때에 대한 기준은 또한 예측 잔차 값들의 플리핑이 수행될 수 있는 때를 결정하기 위해 적용될 수 있다.

잔차 블록의 잔차 데이터 샘플 값들이 플리핑될 때, 대각선의 일측에서의 샘플 값들은 잔차 블록의 대각선의 다른 측면 상에서 대응하는 거울 이미지 로케이션들에서의 샘플 값들과 위치를 바꾼다. 일부 예들에서, 잔차 블록의 샘플 값들을 플리핑하는 것은 잔차 블록의 주 대각선, 즉, 잔차 블록의 좌상부 모서리로부터 우하측 모서리까지의 대각선 라인을 가로질러 샘플 값들을 미러링하는 것을 포함할 수도 있다. 다른 예들에서, 잔차 블록의 샘플 값을 플리핑하는 것은 잔차 블록의 반대-대각선, 즉, 잔차 블록의 좌하단 모서리로부터 우상부 모서리까지의 대각선 라인을 가로질러, 샘플 값들을 미러링하는 것을 포함할 수도 있다. 일부의 경우, 잔차 블록의 샘플 값들은 수평 또는 수직 스캐닝 모드가 변환-스킵된 잔차 블록에 대해 선택될 때 주 대각선에 대해 플리핑될 것이다. 다른 경우, 잔차 블록의 샘플 값들은 대각선 스캐닝 모드가 변환-스킵된 잔차 블록에 대해 선택될 때 반대-대각선에 대해 플리핑될 것이다.

손실 코딩 모드에서, 변환 스킵 모드가 모든 잔차 블록 사이즈들에 적용될 수도 있다. 무손실 코딩 모드에서, 모든 잔차 블록 사이즈들에 대해 변환이 바이패스된다. 따라서, 인트라-예측 모드 및 인터-예측 모드 양쪽에서 모든 잔차 블록 사이즈들에 대해 플리핑이 수행될 수도 있다. 본 개시물의 기법들에 따르면, 변환이 적용되지 않은 잔차 블록들의 잔차 데이터를 플리핑하는 것은 임계 사이즈 이하인 잔차 블록 사이즈들에 제한될 수도 있다. 잔차 블록을 플리핑할지 여부를 결정하는 것은, 따라서, 무손실 코딩 모드를 표시하는 cu_transquant_bypass_flag, 손실 코딩 모드에서의 변환 스킵 모드를 표시하는 변환 스킵 플래그, 및 잔차 블록의 사이즈에 의존할 수도 있다.

도 10 에 예시된 동작에서, 재배치 유닛 (66) 은 잔차 블록에 대해 변환이 스킵될 때, 즉, 잔차 블록이 변환 스킵 모드에서의 손실 코딩 모드 또는 무손실 코딩 모드를 이용하여 코딩될 때 잔차 블록을 수신한다. 본 개시물의 기법들은 플리핑이 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 수행될 수 있는 잔차 블록들의 사이즈를 제한하는 것을 포함한다.

이 경우, 잔차 블록을 플리핑할지 여부를 결정하기 위해, 재배치 유닛 (66) 은 변환이 적용되지 않은 잔차 블록의 사이즈를 결정한다 (190). 잔차 블록의 사이즈가 임계 블록 사이즈 이하이면 (192 의 예 분기), 재배치 유닛 (66) 은 잔차 블록의 대각선을 따라서 잔차 데이터 샘플 값들을 플리핑할지 여부를 결정한다 (196). 잔차 블록의 사이즈가 임계 사이즈보다 크면 (192 의 아니오 분기), 재배치 유닛 (66) 은 플리핑을 디스에이블하고, 잔차 블록의 잔차 데이터 샘플 값들을 플리핑하지 않는다 (194). 잔차 데이터 샘플 값들은 주 대각선을 따라서, 즉, 잔차 블록의, 좌상부에서 우하측으로, 또는 반대-대각선을 따라서, 즉, 좌하단으로부터 우상부로, 플리핑될 수도 있다.

일 예에서, 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 잔차 블록들의 잔차 데이터를 플리핑하기 위한 임계 사이즈는 8×8 이다. 다른 예들에서, 임계 사이즈는 4×4 와 동일할 수도 있다. 일부의 경우, 단지 임계 블록 사이즈 기준을 만족하는 무손실 코딩 모드 또는 손실 코딩 모드에서는 인트라-예측 잔차 블록들에 플리핑이 적용될 수도 있으며, 인터-예측 잔차 블록들에 대해서는 블록 사이즈에 관계없이 회전이 디스에이블될 수도 있다. 일부의 경우, 또한 인트라 BC 예측 잔차 블록들에 대해서는 블록 사이즈에 관계없이 플리핑이 디스에이블될 수도 있다. 다른 경우, 임계 블록 사이즈 기준을 만족하는 (즉, 잔차 블록 사이즈가 임계 블록 사이즈 이하인) 무손실 코딩 모드 또는 손실 코딩 모드에서는 인트라-예측 및 인터-예측 잔차 블록들 양쪽에 플리핑이 적용될 수도 있다. 또 다른 경우, 임계 블록 사이즈 기준을 만족하는 변환 스킵핑에 의한 손실 코딩 모드에서는 단지 인트라-예측 잔차 블록들에, 그리고, 임계 블록 사이즈 기준을 만족하는 무손실 코딩 모드에서는 인트라-예측 및 인터-예측 잔차 블록들 양쪽에 플리핑이 적용될 수도 있다.

또 다른 예에서, 변환 스킵 모드는 최대 블록 사이즈, 예컨대, 4×4 또는 8×8 까지의 사이즈들을 갖는, 손실 코딩 모드에서의 잔차 블록들에 단지 적용하도록 제한될 수도 있다. 손실 코딩 모드에서 변환이 스킵되도록 허용되는 최대 블록 사이즈는 잔차 블록과 연관되는 SPS 및 PPS 중 하나에 표시될 수도 있다. 이 경우, 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 잔차 블록들의 잔차 데이터를 플리핑하기 위한 임계 사이즈는 손실 코딩 모드에서 변환이 스킵될 수 있는 최대 블록 사이즈, 예컨대, 4×4 또는 8×8 이하이다. 손실 코딩 모드에서 변환이 스킵될 수 있는 최대 블록 사이즈 이하로 임계 블록 사이즈를 설정하는 것은 무손실 및 손실 코딩 모드 경우들 양쪽에 대해 플리핑이 수행될 수 있는 블록 사이즈들을 정렬시킨다.

일부의 경우, 단지 임계 블록 사이즈 기준을 만족하는 무손실 코딩 모드 또는 손실 코딩 모드에서는 인트라-예측 잔차 블록들에 플리핑이 적용될 수도 있으며, 인터-예측 잔차 블록들에 대해서는 블록 사이즈에 관계없이 회전이 디스에이블될 수도 있다. 일부의 경우, 또한 인트라 BC 예측 잔차 블록들에 대해서는 블록 사이즈에 관계없이 플리핑이 디스에이블될 수도 있다. 다른 경우, 임계 블록 사이즈 기준을 만족하는 무손실 코딩 모드 또는 손실 코딩 모드에서 인트라-예측 및 인터-예측 잔차 블록들 양쪽에 플리핑이 적용될 수도 있다. 또 다른 경우, 임계 블록 사이즈 기준을 만족하는 변환 스킵핑에 의한 손실 코딩 모드에서는 단지 인트라-예측 잔차 블록들에, 그리고, 임계 블록 사이즈 기준을 만족하는 무손실 코딩 모드에서는 인트라-예측 및 인터-예측 잔차 블록들 양쪽에 플리핑이 적용될 수도 있다.

도 11a 및 도 11b 는 잔차 차분 펄스 부호 변조 (RDPCM) 을 이용하여 각각 코딩되는 잔차 블록들 (200 및 202) 를 예시하는 개념도들이다. 일 예에서, 비디오 코딩 표준은 수평 또는 수직 방향에서의 잔차 차분 펄스 부호 변조 (RDPCM) 을 이용하여 변환 스킵 인트라-예측 블록들 및 변환 스킵 인터-예측 블록들을 지원할 수도 있다. RDPCM 뒤에 숨은 기본적인 아이디어는, DPCM 기법들을 이용하여, 수직 모드에서 현재의 픽셀을 예측하는데 상부 로우 픽셀을 이용하고 수평 모드에서 현재의 픽셀을 예측하는데 좌측 칼럼 픽셀을 이용함으로써, 잔차 블록을 가진 잔차 데이터를 예측하는 것이다. 잔차 블록들 (200 및 202) 의 각각은 사이즈 M (로우들) × N (칼럼들) 이며, 잔차 데이터 픽셀들 r_i,j 를 포함하며, 여기서, 0 ≤ i ≤ (M-1) 및 0 ≤ j ≤ (N-1) 이다.

RDPCM 을 이용하여 손실 코딩 모드에서 잔차 블록들을 디코딩할 때, 다음 동작들의 순서가 도 3 의 비디오 디코더 (30) 에서 뒤따라질 수도 있다: 재배치 유닛 (94) 에 의해 수행되는 회전 또는 플리핑, 역양자화 유닛 (86) 에 의해 수행되는 역양자화, 역변환 스킵핑, 및 역 RDPCM. RDPCM 을 이용하여 손실 코딩 모드에서 잔차 블록들을 인코딩할 때, 다음 동작들의 순서가 도 2 의 비디오 인코더 (20) 에서 뒤따라질 수도 있다: RDPCM, 변환 스킵핑, 양자화 유닛 (54) 에 의해 수행되는 양자화, 및 재배치 유닛 (66) 에 의해 수행되는 회전 또는 플리핑. RDPCM 을 이용하여 무손실 코딩 모드에서 잔차 블록들을 디코딩할 때, 다음 동작들의 순서가 도 3 의 비디오 디코더 (30) 에서 뒤따라질 수도 있다: 재배치 유닛 (94) 에 의해 수행되는 회전 또는 플리핑, 역양자화 및 역변환 바이패스, 및 역 RDPCM. RDPCM 을 이용하여 무손실 코딩 모드에서 잔차 블록들을 인코딩할 때, 다음 동작들의 순서가 도 2 의 비디오 인코더 (20) 에서 뒤따라질 수도 있다: RDPCM, 변환 및 양자화 바이패스, 및 재배치 유닛 (66) 에 의해 수행되는 회전 또는 플리핑.

도 11a 는 잔차 블록 (200) 에 적용되는 수직 인터 RDPCM 모드를 예시한다. 수직 인터 RDPCM 모드에서, 잔차 블록 (200) 의 제 1 로우 (201) 에서의 잔차 데이터는 변경되지 않으며 (즉, 임의의 다른 로우로부터 예측되지 않으며), 반면 잔차 블록 (200) 의 잔차 데이터의 이후 로우들은 상부에 있는 로우로부터 예측된다. 수직 인터 RDPCM 이후, 제 1 로우 (201) 에서의 잔차 데이터는 잔차 블록 (200) 에서의 잔차 데이터의 다른 로우들에 비해 더 많거나 또는 더 높은 에너지를 가지는 경향이 있다. 잔차 블록 (200) 이 예컨대, 180 도 만큼 회전되면, 수직 인터 RDPCM 이후, 잔차 블록 (200) 의 잔차 데이터의 최하부 로우는 잔차 데이터의 다른 로우들보다 더 많거나 또는 더 높은 에너지/크기를 가지는 경향이 있다.

도 11b 는 잔차 블록 (202) 에 적용되는 수평 인터 RDPCM 모드를 예시한다. 수평 인터 RDPCM 모드에서, 잔차 블록 (202) 의 최좌측 칼럼 (203) 에서의 잔차 데이터는 변경되지 않으며 (즉, 임의의 다른 칼럼으로부터 예측되지 않으며), 반면 잔차 블록 (202) 의 잔차 데이터의 이후 칼럼들은 좌측 칼럼으로부터 예측된다. 수평 인터 RDPCM 이후, 최좌측 칼럼 (203) 에서의 잔차 데이터는 잔차 블록 (202) 에서의 잔차 데이터의 다른 칼럼들에 비해 더 많거나 또는 더 높은 에너지를 가지는 경향이 있다. 잔차 블록 (202) 가 예컨대, 180 도 만큼 회전되면, 수평 인터 RDPCM 이후, 잔차 블록 (202) 의 잔차 데이터의 최우측 로우는 잔차 데이터의 다른 로우들보다 더 많거나 또는 더 높은 에너지/크기를 가지는 경향이 있다.

인터 RDPCM 에 대해, 예측 방향 (RDPCM 없음, 수평, 수직) 이 비디오 디코더 (30) 으로 명시적으로 시그널링될 수도 있다. 예를 들어, 비디오 인코더 (20) 은 비디오 데이터의 특정의 블록 (또는, 블록들) 에 대한 RDPCM 모드를 표시하는 하나 이상의 구문 엘리먼트들을 인코딩된 비트스트림에 포함시킬 수도 있다. 비디오 디코더 (30) 은 하나 이상의 구문 엘리먼트들을 수신하고, RDPCM 을 반대 방법으로 수행할 수도 있다.

위에서 설명한 바와 같이, HEVC 에서, 엔트로피 코딩은 변환 코딩을 위해 설계된다. 낮은 빈도의 변환 계수들은 일반적으로 더 높은 에너지를 갖는다. 변환 계수들은 비디오 블록의 우하측으로부터 좌상부로 스캐닝되어 엔트로피 코딩된다. 따라서, 비디오 인코더 또는 비디오 디코더는, 비디오 블록의 우하측 모서리에서의 스캐닝에서의 초기 계수들을, 스캐닝 순서에서 이후 계수들보다 더 작은 에너지를 가질 것으로 예측한다. 인터 RDPCM 블록이 회전된 후, 그러나, 비디오 블록의 우하측 모서리에서의 스캐닝에서의 초기 계수들은 스캐닝 순서에서 이후 계수들보다 더 많거나 또는 더 높은 에너지를 갖는 경향이 있으며, 이에 의해 더 나쁜 코딩 성능을 초래한다 (즉, 더 많은 비트들이 엔트로피 코딩에 요구된다).

본 개시물의 기법들은 인터 RDPCM 잔차 블록들에 대한 잔차 데이터의 재배치를 선택적으로 디스에이블하는 (즉, 적용하지 않는) 것을 포함한다. 좀더 구체적으로, 인터-예측 모드 또는 인트라-예측 모드에서 수평 또는 수직 방향에서의 RDPCM 을 이용한 잔차 블록에 대해, 잔차 블록은 잔차 블록의 잔차 데이터를 코딩하기 전에 회전되지 않을 수도 있다. 일부 예들에서, 어떤 예측 모드들에 대해, 회전을 디스에이블하는, 즉, 잔차 데이터를 코딩하기 전에 잔차 블록을 회전시키지 않는 기법들이, 단지 하나의 변환 스킵핑에 의한 손실 코딩, 단지 하나의 무손실 코딩, 또는 변환 스킵핑에 의한 손실 코딩 및 무손실 코딩 양쪽에 적용될 수도 있다.

도 12 는 인트라 블록 복사 (인트라 BC) 예측 모드를 이용하여 동일한 화상 (210) 에서의 이전에 코딩된 블록 (214) 에 기초하여 예측되는 현재의 블록 (212) 를 포함하는 현재의 화상 (210) 을 예시하는 개념도이다. 일 예에서, 비디오 코딩 표준은 예측 모드들 중 하나로서 인트라 BC 예측 모드를 포함할 수도 있다. 원격 데스크탑, 원격 게이밍, 무선 디스플레이들, 자동차 인포테인먼트, 클라우드 컴퓨팅, 및 기타 등등과 같은, 어떤 애플리케이션들에서의 비디오 콘텐츠는 일반적으로 자연적 콘텐츠 및 스크린 콘텐츠의 조합을 포함하며, 여기서, 스크린 콘텐츠는 예를 들어, 텍스트 및 인공적인 그래픽스를 포함할 수도 있다. 스크린 콘텐츠 영역들에서, (문자들 (characters), 아이콘들, 심볼들, 등과 같은) 반복된 패턴들이 종종 존재한다. 인트라 BC 예측 모드는 이러한 종류의 리던던시를 제거하고 스크린 콘텐츠에 대한 인트라-예측 코딩 효율을 향상시키는 전용 기법이다.

도 12 에 예시된 바와 같이, 인트라 BC 예측 모드를 이용하는 현재의 비디오 블록 (212) 에 대해, 현재의 화상 (210) 의 재구성된 영역 (213) 에서 이전에 코딩된 비디오 블록 (214) 로부터 예측 신호들이 획득된다. 오프셋 또는 변위 벡터 (즉, 모션 벡터) (216) 은 현재의 비디오 블록 (212) 에서의 예측될 샘플의 위치로부터 변위된, 이전에 코딩된 비디오 블록 (214) 에서의 예측 신호들의 위치를 표시한다. 일 예로서, 비디오 인코더 (20) 은 모션 벡터 (216) 을, 현재의 비디오 블록 (212) 와 비디오 블록 (214) 의 예측 신호들 사이의 차이로서의 잔차 신호들과 함께 인코딩할 수도 있다. 비디오 디코더 (30) 은 그후 비디오 인코더 (20) 로부터의 모션 벡터 (216) 및 잔차 신호들에 기초하여 현재의 비디오 블록 (212) 를 디코딩할 수도 있다.

일부 예들에서, 인터 RDPCM 은 인트라 BC 예측 모드를 이용하여 코딩되는 블록들에 적용될 수도 있다. 인터 RDPCM 의 경우와 같이, 비디오 인코더 (20) 또는 비디오 디코더 (30) 은 RDPCM-오프(off), RDPCM-수평 및 RDPCM-수직을 포함한, 3개의 모드들을 이용하여, 인트라 BC 예측 블록들로부터 잔차 데이터를 예측할 수도 있다. 이 확장판은 무손실 및 손실 경우들 양쪽에 적용될 수도 있다.

본 개시물의 기법들은 인트라 BC 예측 모드에서의 잔차 블록들의 잔차 데이터의 재배치를 선택적으로 디스에이블하는 (즉, 적용하지 않는) 것을 포함한다. 게다가, 수평 또는 수직 방향에서의 RDPCM 을 이용하여 인터-예측 모드, 인트라-예측 모드 또는 인트라 BC 예측 모드 중 임의의 모드에서의 잔차 블록에 대해, 잔차 블록은 잔차 블록의 잔차 데이터를 코딩하기 전에 회전되지 않을 수도 있다.

일부 예들에서, 어떤 예측 모드들에 대해 재배치를 디스에이블하는 기법들이 단지 하나의 변환 스킵핑에 의한 손실 코딩, 단지 하나의 무손실 코딩, 또는 변환 스킵핑에 의한 손실 코딩 및 무손실 코딩 양쪽에 적용될 수도 있다. 또 다른 예에서, 재배치는 모든 인터-예측 모드 블록들 및 모든 인트라 BC 예측 모드 블록들에 대해 디스에이블될 (즉, 적용되지 않을) 수도 있다. 이 기준들은, 재배치가 적용될 수도 있는지 여부를 결정하기 위해, 코딩이 변환 스킵핑에 의한 손실인지 또는 무손실인지 여부의 다른 기준들과 결합될 수도 있다.

본 개시물은 일반적으로 변환이 스킵되거나 또는 바이패스되는, 손실 코딩 모드 또는 무손실 코딩 모드에서 예측 잔차 블록의 잔차 데이터를 코딩하는 기법들을 기술한다. 본 개시물의 기법들에 따르면, 비디오 인코더 (20) 또는 비디오 디코더 (30) 은 잔차 블록의 예측 모드, 예컨대, 인트라-예측 모드, 인터-예측, 또는 인트라 블록 복사 예측 모드, 및 잔차 블록의 사이즈에 기초하여, 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정한다. 일부 예들에서, 본 기법들은 인터-예측 모드 및 인트라 BC 예측 모드에서 모든 잔차 블록들에 대해 잔차 데이터의 재배치를 디스에이블한다. 다른 예들에서, 본 기법들은 위에서 설명한 바와 같이, 손실 코딩 모드 및 무손실 코딩 모드 양쪽에 대해 잔차 블록들이 임계 사이즈 이하인 블록 사이즈들을 가질 때 인트라-예측 모드에서 잔차 블록들을 재배치하도록 결정한다.

도 13 은 잔차 블록의 예측 모드 및 잔차 블록의 사이즈에 기초하여, 변환이 적용되지 않은 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정하는 예시적인 동작을 예시하는 플로우차트이다. 도 13 에 예시된 동작은 도 2 의 비디오 인코더 (20) 의 재배치 유닛 (66) 에 관하여 설명될 것이다. 다른 예들에서, 동일한 동작이 또한 도 3 의 비디오 디코더 (30) 의 재배치 유닛 (94) 에 의해 수행될 수도 있다. 예시된 동작은 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 모든 잔차 블록들에 적용될 수도 있다.

위에서 설명된 기법들은 변환이 잔차 블록에 적용되지 않을 때 잔차 블록을 결정된 회전 값 만큼 회전시키는 것 또는 잔차 데이터를 잔차 블록의 대각선을 따라서 플리핑하는 것을 포함한다. 상기 기법들은 변환 스킵 모드에서의 손실 코딩 모드 또는 변환 및 양자화 프로세스들 양쪽이 바이패스되는 무손실 코딩 모드를 이용하여 코딩되는 인터-예측 잔차 블록들 및 인트라-예측 잔차 블록들 양쪽에 대해 잔차 데이터를 재배치하는 것을 기술한다.

HEVC 의 범위 확장판들 (Range Extensions) 과 같은, 예시적인 비디오 코딩 표준에 따르면, 손실 코딩 모드에서, 변환 스킵 모드가 임의의 사이즈의 잔차 블록들에 적용될 수도 있다. 무손실 코딩 모드에서, 변환 및 양자화 프로시저들이 모든 잔차 블록들에 대해 바이패스된다. 따라서, 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서, 모든 블록 사이즈들에 대해 변환이 스킵되거나 또는 바이패스될 수도 있다. 따라서, 재배치하는 것, 예컨대, 회전시키는 것 또는 플리핑하는 것이, 인트라-예측 모드 및 인터-예측 모드 양쪽에서 모든 잔차 블록 사이즈들에 대해 수행될 수도 있다. 일부 예들에서, 손실 코딩 모드에서, 변환 스킵 모드는 최대 블록 사이즈, 예컨대, 4×4 또는 8×8 까지의 사이즈들을 갖는 잔차 블록들에만 단지 적용하도록 제한될 수도 있다. 손실 코딩 모드에서 변환이 스킵되도록 허용되는 최대 블록 사이즈는 잔차 블록과 연관되는 SPS 및 PPS 중 하나에 표시될 수도 있다.

도 13 에 예시된 동작에서, 재배치 유닛 (66) 은 변환이 잔차 블록에 적용되지 않을 때, 즉, 잔차 블록이 변환 스킵 모드에서의 손실 코딩 모드 또는 무손실 코딩 모드를 이용하여 코딩될 때 잔차 블록을 수신한다. 본 개시물의 기법들은 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 재배치가 수행될 수 있는 잔차 블록들의 사이즈를 제한하는 것을 포함한다.

이 경우, 잔차 블록을 재배치할지 여부를 결정하기 위해, 재배치 유닛 (66) 은 변환이 적용되지 않은 잔차 블록의 예측 모드를 결정한다 (220). 잔차 블록이 인터-예측 모드에 있으면 (222 의 예 분기), 재배치 유닛 (66) 은 재배치 프로세스를 디스에이블하고, 잔차 블록의 잔차 데이터를 회전시키지 않거나 또는 플리핑하지 않는다 (232). 잔차 블록이 인터-예측 모드에 있지 않지만 (222 의 아니오 분기) 잔차 블록이 인트라 BC 예측 모드에 있으면 (224 의 예 분기), 재배치 유닛 (66) 은 재배치 프로세스를 디스에이블하고, 잔차 블록의 잔차 데이터를 회전시키지 않거나 또는 플리핑하지 않는다 (232).

잔차 블록이 인트라 BC 예측 모드에 있지 않지만 (224 의 아니오 분기) 잔차 블록이 인트라-예측 모드에 있으면 (226 의 예 분기), 재배치 유닛 (66) 은 무손실 코딩 모드에서의 잔차 블록의 사이즈를 결정한다 (228). 잔차 블록의 사이즈가 임계 블록 사이즈 이하이면 (230 의 예 분기), 재배치 유닛 (66) 은 잔차 블록을 재배치할지, 즉, 회전시킬지 또는 플리핑시킬지 여부를 결정한다 (234). 잔차 블록의 사이즈가 임계 사이즈보다 크면 (230 의 아니오 분기), 재배치 유닛 (66) 은 재배치 프로세스를 디스에이블하고, 잔차 블록의 잔차 데이터를 회전시키지 않거나 또는 플리핑하지 않는다 (232). 잔차 블록이 인트라-예측 모드에 있지 않으면 (226 의 아니오 분기), 재배치 유닛 (66) 은 재배치 프로세스를 디스에이블하고, 잔차 블록의 잔차 데이터를 회전시키지 않거나 또는 플리핑하지 않는다 (232). 다른 예들에서, 예측 모드들 중 임의의 모드에서의 잔차 블록이 RDPCM 을 이용하면, 재배치 유닛 (66) 은 재배치 프로세스를 디스에이블하고, 잔차 블록의 잔차 데이터를 회전시키지 않거나 또는 플리핑하지 않을 수도 있다.

일 예에서, 잔차 블록들의 재배치를 수행할지 여부를 결정하는 동작 (230) 에 사용되는 임계 사이즈는 8×8 이다. 또 다른 예에서, 임계 사이즈는 4×4 와 동일하다. 추가적인 예에서, 변환 스킵 모드는 최대 블록 사이즈, 예컨대, 4×4 또는 8×8 까지의 사이즈들을 갖는, 손실 코딩 모드에서의 잔차 블록들에만 단지 적용하도록 제한될 수도 있다. 손실 코딩 모드에서 변환이 스킵되도록 허용되는 최대 블록 사이즈는 잔차 블록과 연관되는 SPS 및 PPS 중 하나에 표시될 수도 있다. 이 경우, 손실 코딩 모드 및 무손실 코딩 모드 양쪽에서 잔차 블록들의 재배치를 수행할지 여부를 결정하기 위한 임계 사이즈는 손실 코딩 모드에서 변환이 스킵될 수 있는 최대 블록 사이즈, 예컨대, 4×4 또는 8×8 이하이다. 손실 코딩 모드에서 변환이 스킵될 수 있는 최대 블록 사이즈 이하로 임계 블록 사이즈를 설정하는 것은 회전이 무손실 및 손실 코딩 모드 경우들 양쪽에 대해 수행될 수 있는 블록 사이즈들을 정렬시킨다.

회전 프로세스의 경우, 재배치 결정은 도 5 내지 도 8 에 대해 위에서 좀더 자세히 설명된 동작들 중 하나에 의해 수행될 수도 있다. 일부 예들에서, 잔차 블록이 인트라-예측 잔차 블록일 때, 회전은 잔차 블록의 블록 사이즈가 임계 블록 사이즈 기준을 만족할 때 항상 적용될 것이다. 일부의 경우, 잔차 블록의 회전은 180 도로 제한될 수도 있다. 다른 경우, 잔차 블록이 임계 블록 사이즈 기준을 만족하는 인트라-예측 잔차 블록일 때, 잔차 블록의 회전은 위에서 설명된 기법들에 따라서 0 도, 90 도, 180 도 또는 270 도 중 하나로 결정될 수도 있다.

하나 이상의 예들에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현되는 경우, 그 기능들은 하나 이상의 명령들 또는 코드로서, 컴퓨터-판독가능 매체 상에 저장되거나 또는 컴퓨터-판독가능 매체를 통해서 송신될 수도 있으며, 하드웨어-기반의 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터-판독가능 매체는 컴퓨터-판독가능 저장 매체들을 포함할 수도 있으며, 이 컴퓨터-판독가능 저장 매체들은 데이터 저장 매체와 같은 유형의 매체, 또는 예컨대, 통신 프로토콜에 따라서 한 장소로부터 다른 장소로의 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함한 통신 매체들에 대응한다. 이런 방법으로, 컴퓨터-판독가능 매체들은 일반적으로 (1) 비일시성 유형의 컴퓨터-판독가능 저장 매체, 또는 (2) 신호 또는 캐리어 파와 같은 통신 매체에 대응할 수도 있다. 데이터 저장 매체는 본 개시물에서 설명하는 기법들의 구현을 위한 명령들, 코드 및/또는 데이터 구조들을 취출하기 위해 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 가용 매체들일 수도 있다. 컴퓨터 프로그램 제품은 컴퓨터-판독가능 매체를 포함할 수도 있다.

일 예로서, 이에 한정하지 않고, 이런 컴퓨터-판독가능 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 광디스크 스토리지, 자기디스크 스토리지, 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 원하는 프로그램 코드를 명령들 또는 데이터 구조들의 형태로 저장하는데 사용될 수 있고 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속이 컴퓨터-판독가능 매체로 적절히 지칭된다. 예를 들어, 동축 케이블, 광섬유 케이블, 연선, 디지털 가입자 회선 (DSL), 또는 무선 기술들, 예컨대 적외선, 라디오, 및 마이크로파를 이용하여 명령들이 웹사이트, 서버, 또는 다른 원격 소스로부터 송신되는 경우, 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 무선 기술들 예컨대 적외선, 라디오, 및 마이크로파가 그 매체의 정의에 포함된다. 그러나, 컴퓨터-판독가능 저장 매체 및 데이터 저장 매체는 접속부들, 반송파들, 신호들, 또는 다른 일시성 매체를 포함하지 않고, 그 대신, 비-일시성 유형의 저장 매체로 송신되는 것으로 해석되어야 한다. 디스크 (disk) 및 디스크 (disc) 는, 본원에서 사용할 때, 컴팩트 디스크 (CD), 레이저 디스크, 광 디스크, 디지털 다기능 디스크 (DVD), 플로피 디스크 및 Blu-ray 디스크를 포함하며, 디스크들 (disks) 는 데이터를 자기적으로 보통 재생하지만, 디스크들 (discs) 는 레이저로 데이터를 광학적으로 재생한다. 앞에서 언급한 것들의 결합들이 또한 컴퓨터-판독가능 매체들의 범위 내에 포함되어야 한다.

명령들은 하나 이상의 디지털 신호 프로세서들 (DSPs), 범용 마이크로프로세서들, 주문형 집적회로들 (ASICs), 필드 프로그램가능 로직 어레이들 (FPGAs), 또는 다른 등가의 집적 또는 이산 로직 회로와 같은, 하나 이상의 프로세서들에 의해 실행될 수도 있다. 따라서, 용어 "프로세서" 는, 본원에서 사용될 때 전술한 구조 중 임의의 구조 또는 본원에서 설명하는 기법들의 구현에 적합한 임의의 다른 구조를 지칭할 수도 있다. 게다가, 일부 양태들에서, 본원에서 설명하는 기능은 전용 하드웨어 및/또는 인코딩 및 디코딩을 위해 구성되는 소프트웨어 모듈들 내에 제공되거나, 또는 결합된 코덱에 포함될 수도 있다. 또한, 이 기법들은 하나 이상의 회로들 또는 로직 엘리먼트들로 전적으로 구현될 수 있다.

본 개시물의 기법들은 무선 핸드셋, 집적 회로 (IC) 또는 IC들의 세트 (예컨대, 칩 세트) 를 포함한, 매우 다양한 디바이스들 또는 장치들로 구현될 수도 있다. 개시한 기법들을 수행하도록 구성되는 디바이스들의 기능적 양태들을 강조하기 위해서 여러 구성요소들, 모듈들, 또는 유닛들이 본 개시물에서 설명되지만, 상이한 하드웨어 유닛들에 의한 실현을 반드시 필요로 하지는 않는다. 대신, 위에서 설명한 바와 같이, 여러 유닛들이 코덱 하드웨어 유닛에 결합되거나 또는 적합한 소프트웨어 및/또는 펌웨어와 함께, 위에서 설명한 바와 같은 하나 이상의 프로세서들을 포함한, 상호작용하는 하드웨어 유닛들의 컬렉션으로 제공될 수도 있다.

여러 예들이 설명되었다. 이들 및 다른 예들은 다음 청구항들의 범위 이내이다.

Claims (30)

1. 비디오 데이터를 디코딩하는 방법으로서,
   잔차 비디오 블록에 변환이 적용되지 않는다는 것을 표시하는 하나 이상의 구문 엘리먼트들에 기초하여, 손실 코딩 모드 또는 무손실 코딩 모드에서 비디오 데이터의 잔차 블록을 디코딩하는 단계; 및
   상기 잔차 블록의 예측 모드 및 상기 잔차 블록의 사이즈에 기초하여, 상기 잔차 블록의 상기 잔차 데이터로부터 비디오 블록을 재구성하기 전에 상기 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정하는 단계를 포함하며,
   상기 잔차 데이터를 재배치하는 것은 상기 잔차 블록의 상기 잔차 데이터를 회전시키는 것 또는 플리핑하는 것 중 하나를 포함하는, 비디오 데이터를 디코딩하는 방법.
2. 제 1 항에 있어서,
   상기 잔차 블록의 상기 예측 모드가 인트라-예측 모드일 때, 상기 잔차 블록의 상기 잔차 데이터를 재배치할지 여부를 결정하는 단계는,
   상기 잔차 블록의 사이즈를 결정하는 단계;
   임계 사이즈 이하인 상기 잔차 블록의 사이즈에 기초하여, 상기 잔차 블록의 상기 잔차 데이터를 재배치하도록 결정하는 단계; 및
   상기 임계 사이즈보다 큰 상기 잔차 블록의 사이즈에 기초하여, 상기 잔차 블록의 상기 잔차 데이터의 재배치를 디스에이블하는 단계를 포함하는, 비디오 데이터를 디코딩하는 방법.
3. 제 2 항에 있어서,
   상기 임계 사이즈는 8×8 블록 또는 4×4 블록 중 하나와 동일한, 비디오 데이터를 디코딩하는 방법.
4. 제 2 항에 있어서,
   상기 임계 사이즈는 상기 손실 코딩 모드에서 변환이 스킵되도록 허용되는 최대 블록 사이즈 이하이며,
   상기 손실 코딩 모드에서 상기 변환이 스킵되도록 허용되는 상기 최대 블록 사이즈는 상기 비디오 데이터와 연관되는 시퀀스 파라미터 세트 (SPS) 및 화상 파라미터 세트 (PPS) 중 하나에 표시되는, 비디오 데이터를 디코딩하는 방법.
5. 제 1 항에 있어서,
   상기 잔차 블록의 상기 예측 모드가 인터-예측 모드일 때, 상기 잔차 블록의 상기 잔차 데이터의 재배치를 디스에이블하는 단계를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
6. 제 1 항에 있어서,
   상기 잔차 블록의 상기 예측 모드가 인트라 블록 복사 예측 모드일 때, 상기 잔차 블록의 상기 잔차 데이터의 재배치를 디스에이블하는 단계를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
7. 제 1 항에 있어서,
   상기 잔차 블록의 상기 예측 모드가 잔차 DPCM 을 이용한 인터-예측 모드 또는 잔차 DPCM 을 이용한 인트라 블록 복사 예측 모드 중 하나일 때, 상기 잔차 블록의 상기 잔차 데이터의 재배치를 디스에이블하는 단계를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
8. 제 1 항에 있어서,
   상기 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터의 부분을 배치한, 상기 잔차 블록의 상기 잔차 데이터를 인코딩하는 동안 수행되는 회전 또는 플리핑 중 하나를 반전시키기 위해, 상기 잔차 블록의 상기 잔차 데이터를 재배치하는 결정에 기초하여, 상기 잔차 블록의 상기 잔차 데이터를 재배치하는 단계를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
9. 제 1 항에 있어서,
   상기 잔차 블록의 상기 잔차 데이터를 재배치할지 여부를 결정하는 단계는, 상기 잔차 블록을 회전시키기로 결정하는 단계를 포함하며,
   상기 방법은 미리 결정된 회전 값 만큼 상기 잔차 블록을 회전시키는 단계를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
10. 제 1 항에 있어서,
    상기 잔차 블록의 상기 잔차 데이터를 재배치할지 여부를 결정하는 단계는, 상기 잔차 블록에 대한 회전 값을 결정하는 단계를 더 포함하며,
    상기 방법은 상기 결정된 회전 값 만큼 상기 잔차 블록을 회전시키는 단계를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
11. 제 1 항에 있어서,
    상기 잔차 블록의 상기 잔차 데이터를 재배치할지 여부를 결정하는 단계는, 상기 잔차 블록의 상기 잔차 데이터를 플리핑하기로 결정하는 단계를 포함하며,
    상기 방법은 상기 잔차 블록의 주 대각선 또는 반대-대각선 중 하나를 따라서 상기 잔차 블록의 상기 잔차 데이터를 플리핑하는 단계를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
12. 비디오 데이터를 인코딩하는 방법으로서,
    손실 코딩 모드 또는 무손실 코딩 모드에서 비디오 데이터의 잔차 블록을 인코딩하는 단계로서, 잔차 비디오 블록에 변환이 적용되지 않는, 상기 인코딩하는 단계; 및
    상기 잔차 블록의 예측 모드 및 상기 잔차 블록의 사이즈에 기초하여, 상기 잔차 블록의 상기 잔차 데이터를 인코딩하기 전에 상기 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정하는 단계를 포함하며,
    상기 잔차 데이터를 재배치하는 것은 상기 잔차 블록의 상기 잔차 데이터를 회전시키는 것 또는 플리핑하는 것 중 하나를 포함하는, 비디오 데이터를 인코딩하는 방법.
13. 제 12 항에 있어서,
    상기 잔차 블록의 상기 예측 모드가 인트라-예측 모드일 때, 상기 잔차 블록의 상기 잔차 데이터를 재배치할지 여부를 결정하는 단계는,
    상기 잔차 블록의 사이즈를 결정하는 단계;
    임계 사이즈 이하인 상기 잔차 블록의 사이즈에 기초하여, 상기 잔차 블록의 상기 잔차 데이터를 재배치하도록 결정하는 단계; 및
    상기 임계 사이즈보다 큰 상기 잔차 블록의 사이즈에 기초하여, 상기 잔차 블록의 상기 잔차 데이터의 재배치를 디스에이블하는 단계를 포함하는, 비디오 데이터를 인코딩하는 방법.
14. 제 13 항에 있어서,
    상기 임계 사이즈는 8×8 블록 또는 4×4 블록 중 하나와 동일한, 비디오 데이터를 인코딩하는 방법.
15. 제 13 항에 있어서,
    상기 임계 사이즈는 상기 손실 코딩 모드에서 변환이 스킵되도록 허용되는 블록 사이즈 이하이며,
    상기 방법은 상기 손실 코딩 모드에서 상기 변환이 스킵되도록 허용되는 상기 최대 블록 사이즈를 상기 비디오 데이터와 연관되는 시퀀스 파라미터 세트 (SPS) 및 화상 파라미터 세트 (PPS) 중 하나에 표시하는 단계를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
16. 제 12 항에 있어서,
    상기 잔차 블록의 상기 예측 모드가 인터-예측 모드일 때, 상기 잔차 블록의 상기 잔차 데이터의 재배치를 디스에이블하는 단계를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
17. 제 12 항에 있어서,
    상기 잔차 블록의 상기 예측 모드가 인트라 블록 복사 예측 모드일 때, 상기 잔차 블록의 상기 잔차 데이터의 재배치를 디스에이블하는 단계를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
18. 제 12 항에 있어서,
    상기 잔차 블록의 상기 예측 모드가 잔차 DPCM 을 이용한 인터-예측 모드 또는 잔차 DPCM 을 이용한 인트라 블록 복사 예측 모드 중 하나일 때, 상기 잔차 블록의 상기 잔차 데이터의 재배치를 디스에이블하는 단계를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
19. 제 12 항에 있어서,
    상기 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 상기 잔차 데이터의 부분을 배치하기 위해, 상기 잔차 블록의 상기 잔차 데이터를 재배치하는 결정에 기초하여, 상기 잔차 블록의 상기 잔차 데이터를 회전시키는 것 또는 플리핑하는 것 중 하나를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
20. 제 12 항에 있어서,
    상기 잔차 블록의 상기 잔차 데이터를 재배치할지 여부를 결정하는 단계는, 상기 잔차 블록을 회전시키기로 결정하는 단계를 포함하며,
    상기 방법은 미리 결정된 회전 값 만큼 상기 잔차 블록을 회전시키는 단계를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
21. 제 12 항에 있어서,
    상기 잔차 블록의 상기 잔차 데이터를 재배치할지 여부를 결정하는 단계는, 상기 잔차 블록에 대한 회전 값을 결정하는 단계를 더 포함하며,
    상기 방법은 상기 결정된 회전 값 만큼 상기 잔차 블록을 회전시키는 단계를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
22. 제 12 항에 있어서,
    상기 잔차 블록의 상기 잔차 데이터를 재배치할지 여부를 결정하는 단계는, 상기 잔차 블록의 상기 잔차 데이터를 플리핑하기로 결정하는 단계를 포함하며,
    상기 방법은 상기 잔차 블록의 주 대각선 또는 반대-대각선 중 하나를 따라서 상기 잔차 블록의 상기 잔차 데이터를 플리핑하는 단계를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
23. 비디오 데이터를 코딩하기 위한 비디오 코딩 디바이스로서,
    비디오 데이터를 저장하도록 구성된 메모리; 및
    하나 이상의 프로세서들을 포함하고,
    상기 하나 이상의 프로세서들은,
    손실 코딩 모드 또는 무손실 코딩 모드에서 비디오 데이터의 잔차 블록을 코딩하는 것으로서, 상기 잔차 비디오 블록에 변환이 적용되지 않는, 상기 비디오 데이터의 잔차 블록을 코딩하고,
    상기 잔차 블록의 예측 모드 및 상기 잔차 블록의 사이즈에 기초하여, 상기 잔차 블록의 상기 잔차 데이터를 코딩하기 전에 상기 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정하도록 구성되고,
    상기 잔차 데이터를 재배치하는 것은 상기 잔차 블록의 상기 잔차 데이터를 회전시키는 것 또는 플리핑하는 것 중 하나를 포함하는, 비디오 데이터를 코딩하기 위한 비디오 코딩 디바이스.
24. 제 23 항에 있어서,
    상기 잔차 블록의 상기 예측 모드가 인트라-예측 모드일 때, 상기 프로세서들은,
    상기 잔차 블록의 사이즈를 결정하고;
    임계 사이즈 이하인 상기 잔차 블록의 사이즈에 기초하여, 상기 잔차 블록의 상기 잔차 데이터를 재배치하도록 결정하고; 그리고
    상기 임계 사이즈보다 큰 상기 잔차 블록의 사이즈에 기초하여, 상기 잔차 블록의 상기 잔차 데이터의 재배치를 디스에이블하도록 구성되는, 비디오 데이터를 코딩하기 위한 비디오 코딩 디바이스.
25. 제 24 항에 있어서,
    상기 임계 사이즈는 손실 코딩 모드에서 변환이 스킵되도록 허용되는 블록 사이즈 이하이며,
    상기 손실 코딩 모드에서 상기 변환이 스킵되도록 허용되는 상기 최대 블록 사이즈는 상기 비디오 데이터와 연관되는 시퀀스 파라미터 세트 (SPS) 및 화상 파라미터 세트 (PPS) 중 하나에 표시되는, 비디오 데이터를 코딩하기 위한 비디오 코딩 디바이스.
26. 제 23 항에 있어서,
    상기 잔차 블록의 상기 예측 모드가 인터-예측 모드 또는 인트라 블록 복사 예측 모드 중 하나일 때, 상기 잔차 블록의 상기 잔차 데이터의 재배치를 디스에이블하는, 비디오 데이터를 코딩하기 위한 비디오 코딩 디바이스.
27. 제 23 항에 있어서,
    상기 잔차 블록의 상기 예측 모드가 잔차 DPCM 을 이용한 인터-예측 모드 또는 잔차 DPCM 을 이용한 인트라 블록 복사 예측 모드 중 하나일 때, 상기 잔차 블록의 상기 잔차 데이터의 재배치를 디스에이블하는, 비디오 데이터를 코딩하기 위한 비디오 코딩 디바이스.
28. 제 23 항에 있어서,
    상기 비디오 코딩 디바이스는 비디오 데이터를 인코딩하는 비디오 인코딩 디바이스를 포함하며,
    상기 잔차 블록의 상기 잔차 데이터를 재배치하는 결정에 기초하여, 상기 프로세서들은 상기 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 상기 잔차 데이터의 부분을 배치하기 위해 상기 잔차 블록의 상기 잔차 데이터를 회전시키는 것 또는 플리핑하는 것 중 하나를 행하도록 구성되는, 비디오 데이터를 코딩하기 위한 비디오 코딩 디바이스.
29. 제 23 항에 있어서,
    상기 비디오 코딩 디바이스는 비디오 데이터를 디코딩하기 위한 비디오 디코딩 디바이스를 포함하며,
    상기 잔차 블록의 상기 잔차 데이터를 재배치하는 결정에 기초하여, 상기 프로세서들은 상기 잔차 블록의 상부 좌측 모서리에 평균보다 더 높은 에너지를 갖는 잔차 데이터의 부분을 배치한, 상기 잔차 블록의 상기 잔차 데이터를 인코딩하는 동안 수행되는 회전 또는 플리핑 중 하나를 반전시키기 위해, 상기 잔차 블록의 상기 잔차 데이터를 재배치하도록 구성되는, 비디오 데이터를 코딩하기 위한 비디오 코딩 디바이스.
30. 비디오 데이터를 코딩하기 위한 명령들을 포함하는 컴퓨터 판독가능 매체로서,
    상기 명령들은, 실행될 때, 하나 이상의 프로그램가능 프로세서들로 하여금,
    손실 코딩 모드 또는 무손실 코딩 모드에서 비디오 데이터의 잔차 블록을 코딩하게 하는 것으로서, 상기 잔차 비디오 블록에 변환이 적용되지 않는, 상기 비디오 데이터의 잔차 블록을 코딩하게 하고; 그리고
    상기 잔차 블록의 예측 모드 및 상기 잔차 블록의 사이즈에 기초하여, 상기 잔차 블록의 상기 잔차 데이터를 코딩하기 전에 상기 잔차 블록의 잔차 데이터를 재배치할지 여부를 결정하게 하고,
    상기 잔차 데이터를 재배치하는 것은 상기 잔차 블록의 상기 잔차 데이터를 회전시키는 것 또는 플리핑하는 것 중 하나를 포함하는, 컴퓨터 판독가능 매체.

Images