KR20190114765A - 영상 부호화/복호화 방법 및 장치 - Google Patents

Abstract

본 발명은 영상 부호화/복호화 방법 및 장치에 관한 것으로서, 본 발명의 일 실시예에 따른 영상의 복호화 방법은, 변환 정보를 복호화하는 단계, 참조 픽처 리스트의 참조 픽처들 중 적어도 하나에 상기 변환 정보를 적용하여 변환 참조 픽처를 생성하는 단계, 상기 변환 참조 픽처 중 적어도 하나를 참조 픽처 리스트에 포함시키는 단계 및 상기 참조 픽처 리스트를 이용하여 움직임 보상을 수행하는 단계를 포함할 수 있다.

Description

영상 부호화/복호화 방법 및 장치{IMAGE ENCODING/DECODING METHOD AND APPARATUS}

본 발명은 영상 부호화/복호화 방법 및 장치에 관한 것으로서, 보다 구체적으로는 변환 픽처를 참조 픽처로 이용하는 영상 부호화/복호화 방법 및 장치에 관한 것이다.

최근, 인터넷에서는 동영상과 같은 멀티미디어 데이터의 수요가 급격히 증가하고 있다. 하지만 채널(Channel)의 대역폭(Bandwidth)이 발전하는 속도는 급격히 증가하고 있는 멀티미디어 데이터의 양을 따라가기 힘든 상황이다. 이러한 추세의 일환으로 국제 표준화 기구인 ITU-T의 VCEG(Video Coding Expert Group)과 ISO/IEC의 MPEG(Moving Picture Expert Group)에서는 꾸준한 공동 연구를 통하여 동영상 압축 표준을 연구하는 중이다.

본 발명은 변환 픽처를 참조 픽처로 이용함으로써 압축 효율이 향상된 영상 부호화/복호화 방법 및 장치를 제공하는 것을 목적으로 한다.

또한, 본 발명은 본 발명의 영상 부호화 방법 또는 장치에 의해 생성된 비트스트림을 저장한 기록 매체를 제공하는 것을 목적으로 한다.

본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

본 발명의 일 양상에 따른 영상 복호화 방법은, 변환 정보를 복호화하는 단계, 참조 픽처 리스트의 참조 픽처들 중 적어도 하나에 상기 변환 정보를 적용하여 적어도 하나의 변환 참조 픽처를 생성하는 단계, 상기 적어도 하나의 변환 참조 픽처를 상기 참조 픽처 리스트에 포함시키는 단계 및 상기 참조 픽처 리스트를 이용하여 움직임 보상을 수행하는 단계를 포함할 수 있다.

상기 영상 복호화 방법에 있어서, 상기 적어도 하나의 변환 참조 픽처를 상기 참조 픽처 리스트에 포함시키는 단계, 변환 참조 픽처 사용 정보에 기초하여 상기 변환 참조 픽처의 포함여부를 판단하는 단계 및 상기 판단 결과에 기초하여 상기 변환 참조 픽처를 참조 픽처 리스트에 포함시키는 단계를 포함할 수 있다.

상기 영상 복호화 방법에 있어서, 상기 변환 참조 픽처는, 상기 참조 픽처 리스트에서 상기 참조 픽처들 이후에 위치할 수 있다.

상기 영상 복호화 방법에 있어서, 상기 변환 참조 픽처를 생성하는 단계는, 상기 참조 픽처 리스트내의 기정의된 위치의 적어도 하나의 참조 픽처에 상기 변환 정보를 적용하여 변환 참조 픽처를 생성할 수 있다.

상기 영상 복호화 방법에 있어서, 상기 참조 픽처 리스트는, L0 참조 픽처 리스트 및 L1 참조 픽처 리스트 중 적어도 하나이고, 상기 움직임 보상을 수행하는 단계는, 상기 L0 참조 픽처 리스트 및 상기 L1 참조 픽처 리스트 중 적어도 하나의 참조 픽처 리스트를 이용하여 움직임 보상을 수행할 수 있다.

상기 영상 복호화 방법에 있어서, 상기 움직임 보상을 수행하는 단계는, 상기 L0 참조 픽처 리스트 및 상기 L1 참조 픽처 리스트 모두 이용되는 양방향 예측의 움직임 보상이 수행되는 경우, 가중치 예측을 통하여 움직임 보상을 수행할 수 있다.

본 발명의 일 양상에 따른 변환 참조 픽처 생성 방법은, 현재 픽처의 특징점 및 참조 픽처의 특징점을 추출하는 단계, 상기 특징점들을 기초로 변환 정보를 도출하는 단계 및 상기 변환 정보를 이용하여 변환 참조 픽처를 생성하는 단계를 포함할 수 있다.

상기 변환 참조 픽처 생성 방법에 있어서, 상기 변환 정보를 도출하는 단계는, 상기 특징점을 기초로 기하변환 관계식을 산출하는 단계 및 상기 기하변환 관계식에 기초하여 변환 정보를 도출하는 단계를 포함할 수 있다.

상기 영상 복호화 방법에 있어서, 상기 변환 정보는, 행렬 형식으로 표현될 수 있다.

본 발명의 일 양상에 따른 움직임 예측 방법은, 참조 픽처 및 변환 참조 픽처 중 적어도 하나에 탐색 영역을 설정하는 단계, 상기 탐색 영역 중 현재 블록과 유사한 화소 영역을 탐색하는 단계 및 상기 탐색된 유사한 화소 영역과 현재 블록간의 움직임 벡터를 산출하는 단계를 포함할 수 있다.

상기 움직임 예측 방법은, 상기 산출된 움직임 벡터의 부호화 비용을 산출하는 단계 및 상기 산출된 부호화 비용을 기초로 최소 비용 탐색 정보를 갱신하는 단계를 포함하고, 상기 최소 비용 탐색 정보는 부호화 비용이 최소인 참조 픽처 또는 변환 참조 픽처를 지시하는 정보를 포함할 수 있다.

본 발명의 일 양상에 따른 영상 부호화 방법은, 참조 픽처 및 변환 참조 픽처에 탐색 영역을 설정하는 단계, 상기 참조 픽처에서의 부호화 비용 및 상기 변환 참조 픽처에서의 부호화 비용을 산출하는 단계, 상기 참조 픽처에서의 부호화 비용 및 상기 변환 참조 픽처에서의 부호화 비용을 비교하는 단계 및 상기 비교 결과에 기초하여 변환 참조 픽처 사용 정보를 부호화하는 단계를 포함할 수 있다.

본 발명의 또 다른 양상에 따른 컴퓨터 판독 가능한 기록 매체는, 본 발명에 따른 영상 부호화 방법 및/또는 장치에 의해 생성된 비트스트림을 저장할 수 있다.

본 발명에 따르면, 변환 픽처를 참조 픽처로 이용함으로써 압축 효율이 향상된 영상 부호화/복호화 방법 및 장치가 제공될 수 있다.

또한, 본 발명에 따르면, 본 발명의 영상 부호화 방법 또는 장치에 의해 생성된 비트스트림을 저장한 기록 매체가 제공될 수 있다.

본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예에 따른 영상 부호화 장치를 나타낸 블록도이다.
도 2는 본 발명의 일 실시예에 따른 영상 복호화 장치를 나타낸 블록도이다.
도 3은 변환 픽처를 생성하여 화면 간 예측에 참조하는 비디오 부호화기 및 복호화기의 개념을 설명하기 위한 도면이다.
도 4는 선형 움직임이 발생한 경우와 비선형 움직임이 발생한 경우에 화면 간 예측에서 움직임 벡터 도출 및 블록 분할 예시를 나타내는 도면이다.
도 5는 비선형 움직임이 발생한 경우 영역별 움직임 정보의 예시를 나타내는 도면이다.
도 6은 본 발명의 일 실시 예에 따른 기하 변환 과정을 나타내는 도면이다.
도 7은 본 발명의 일 실시 예에 따른 변환 참조 픽처의 생성 흐름도를 설명하기 위한 도면이다.
도 8은 현재 픽처, 참조 픽처, 변환 참조 픽처 간의 화소 유사성을 비교하기 위한 도면이다.
도 9는 본 발명의 일 실시 예에 따른 부호화기에서의 확장된 움직임 예측 과정의 예시를 나타낸 도면이다.
도 10은 본 발명의 일 실시 예에 따른 복호화기에서 확장된 움직임 보상 과정의 예시를 나타내는 도면이다.
도 11은 본 발명의 일 실시 예에 따른 참조 픽처 구성을 설명하기 위한 도면이다.
도 12는 본 발명의 일 실시 예에 따른 움직임 예측을 설명하기 위한 도면이다.
도 13은 본 발명의 일 실시 예에 따른 움직임 보상을 설명하기 위한 도면이다.
도 14는 본 발명의 일 실시 예에 따른 움직임 예측 흐름도를 나타낸 도면이다.
도 15는 본 발명의 일 실시 예에 따른 움직임 보상 흐름도를 나타내는 도면이다.
도 16은 본 발명의 일 실시 예에 따른 부호화기의 움직임 예측 장치를 나타내는 도면이다.
도 17은 본 발명의 일 실시 예에 따른 복호화기의 움직임 보상 장치를 나타내는 도면이다.
도 18은 본 발명의 일 실시 예에 따른 부호화기에서의 움직임 예측을 설명하기 위한 도면이다.
도 19 내지 도 22는 본 발명에 다양한 실시 예에 따른 움직임 보상을 설명하기 위한 도면이다.
도 23은 본 발명의 일 실시 예에 따른 부호화 방법을 설명하기 위한 흐름도이다.
도 24는 본 발명의 일 실시 예에 따른 확장된 움직임 예측 방법을 설명하기 위한 흐름도이다.
도 25는 본 발명의 일 실시 예에 따른 복호화 방법을 설명하기 위한 흐름도이다.
도 26은 본 발명의 일 실시 예에 따른 확장된 움직임 보상 방법을 설명하기 위한 흐름도이다.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다거나 "직접 접속되어"있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.

본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

이하, 첨부한 도면들을 참조하여, 본 발명의 실시예들을 상세하게 설명한다. 이하, 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.

도 1은 본 발명의 일실시예에 따른 영상 부호화 장치를 나타낸 블록도이다.

도 1을 참조하면, 영상 부호화 장치(100)는 영상 분할부(101), 화면 내 예측부(102), 화면 간 예측부(103), 감산부(104), 변환부(105), 양자화부(106), 엔트로피 부호화부(107), 역양자화부(108), 역변환부(109), 가산부(110), 필터부(111) 및 메모리(112)를 포함할 수 있다.

도 1에 나타난 각 구성부들은 영상 부호화 장치에서 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시한 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수개의 구성부로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.

또한, 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 발명의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.

영상 분할부(100)는 입력된 영상을 적어도 하나의 블록으로 분할할 수 있다. 이 때, 입력된 영상은 픽처, 슬라이스, 타일, 세그먼트, 타일 그룹 등 다양한 형태와 크기를 가질 수 있다. 블록은 부호화 단위(CU), 예측 단위(PU) 또는 변환 단위(TU)를 의미할 수 있다. 상기 분할은 쿼드 트리(Quadtree), 바이너리 트리(Biniary tree) 및 3분할 트리(ternary tree) 중 적어도 하나에 기반하여 수행될 수 있다. 쿼드 트리는 상위 블록을 너비와 높이가 상위 블록의 절반인 하위 블록으로 사분할하는 방식이다. 바이너리 트리는 상위 블록을 너비 또는 높이 중 어느 하나가 상위 블록의 절반인 하위 블록으로 이분할하는 방식이다. 3분할 트리는 상위 블록을 3개의 하위 블록으로 분할하는 방식이다. 예컨대, 상기 3개의 하위 블록은 상기 상위 블록의 너비 또는 높이를 1:2:1의 비율로 분할함으로써 획득될 수 있다. 전술한 바이너리 트리 기반의 분할을 통해, 블록은 정방형뿐만 아니라 비정방형의 형태를 가질 수 있다. 블록은 먼저 쿼드 트리 분할될 수 있다. 쿼드 트리의 리프(leaf) 노드에 해당하는 블록은 분할되지 않거나, 바이너리 트리 분할 또는 3분할 트리 분할될 수 있다. 바이너리 트리 또는 3분할 트리의 리프 노드는 부호화, 예측 및/또는 변환의 단위가 될 수 있다.

예측부(102, 103)는 인터 예측을 수행하는 화면 간 예측부(103)와 인트라 예측을 수행하는 화면 내 예측부(102)를 포함할 수 있다. 예측 단위에 대해 인터 예측을 사용할 것인지 또는 인트라 예측을 수행할 것인지를 결정하고, 각 예측 방법에 따른 구체적인 정보(예컨대, 인트라 예측 모드, 모션 벡터, 참조 픽쳐 등)를 결정할 수 있다. 이때, 예측이 수행되는 처리 단위와 예측 방법 및 구체적인 내용이 정해지는 처리 단위는 다를 수 있다. 예컨대, 예측의 방법과 예측 모드 등은 예측 단위로 결정되고, 예측의 수행은 변환 단위로 수행될 수도 있다.

생성된 예측 블록과 원본 블록 사이의 잔차값(잔차 블록)은 변환부(105)로 입력될 수 있다. 또한, 예측을 위해 사용한 예측 모드 정보, 모션 벡터 정보 등은 잔차값과 함께 엔트로피 부호화부(107)에서 부호화되어 복호화기에 전달될 수 있다. 특정한 부호화 모드를 사용할 경우, 예측부(102, 103)를 통해 예측 블록을 생성하지 않고, 원본 블록을 그대로 부호화하여 복호화부에 전송하는 것도 가능하다.

화면 내 예측부(102)는 현재 픽쳐 내의 화소 정보인 현재 블록 주변의 참조 픽셀 정보를 기초로 예측 블록을 생성할 수 있다. 인트라 예측이 수행될 현재 블록의 주변 블록의 예측 모드가 인터 예측인 경우, 인터 예측이 적용된 주변 블록에 포함되는 참조 픽셀을, 인트라 예측이 적용된 주변의 다른 블록 내의 참조 픽셀로 대체될 수 있다. 즉, 참조 픽셀이 가용하지 않는 경우, 가용하지 않은 참조 픽셀 정보를, 가용한 참조 픽셀 중 적어도 하나의 참조 픽셀로 대체하여 사용할 수 있다. 인트라 예측을 위해, 복수의 참조 픽셀 라인이 이용 가능할 수 있다. 복수의 참조 픽셀 라인이 이용 가능한 경우, 어떤 참조 픽셀 라인을 참조할지에 관한 정보가 시그널링될 수 있다.

인트라 예측에서 예측 모드는 참조 픽셀 정보를 예측 방향에 따라 사용하는 방향성 예측 모드와 예측을 수행시 방향성 정보를 사용하지 않는 비방향성 모드를 가질 수 있다. 휘도 정보를 예측하기 위한 모드와 색차 정보를 예측하기 위한 모드가 상이할 수 있고, 색차 정보를 예측하기 위해 휘도 정보를 예측하기 위해 사용된 인트라 예측 모드 정보 또는 예측된 휘도 신호 정보를 활용할 수 있다.

화면 내 예측부(102)는 AIS(Adaptive Intra Smoothing) 필터, 참조 화소 보간부, DC 필터를 포함할 수 있다. AIS 필터는 현재 블록의 참조 화소에 필터링을 수행하는 필터로써 현재 예측 단위의 예측 모드, 크기, 형태 및/또는 참조 픽셀이 현재 블록에 바로 인접한 참조 픽셀 라인에 포함되는지의 여부에 따라 필터의 적용 여부를 적응적으로 결정할 수 있다. 현재 블록의 예측 모드가 AIS 필터링을 수행하지 않는 모드일 경우, AIS 필터는 적용되지 않을 수 있다.

화면 내 예측부(102)의 참조 화소 보간부는 예측 단위의 인트라 예측 모드가 참조 화소를 보간한 화소값을 기초로 인트라 예측을 수행하는 예측 단위일 경우, 참조 화소를 보간하여 분수 단위 위치의 참조 화소를 생성할 수 있다. 현재 예측 단위의 예측 모드가 참조 화소를 보간하지 않고 예측 블록을 생성하는 예측 모드일 경우 참조 화소는 보간되지 않을 수 있다. DC 필터는 현재 블록의 예측 모드가 DC 모드일 경우 필터링을 통해서 예측 블록을 생성할 수 있다.

인트라 예측에 의해 생성된 예측 블록에 대해서는, 추가적인 필터링이 수행될 수 있다. 상기 추가적인 필터링은 화면내 예측 모드, 블록의 크기, 형태 및/또는 예측 블록 내 픽셀의 위치에 기초하여 수행될 수 있다.

화면 간 예측부(103)은, 메모리(112)에 저장된 기 복원된 참조영상과 움직임 정보를 이용하여 예측 블록을 생성한다. 움직임 정보는 예컨대 움직임 벡터, 참조픽처 인덱스, 리스트 1 예측 플래그, 리스트 0 예측 플래그 등을 포함할 수 있다.

예측부(102, 103)에서 생성된 예측 단위와 예측 단위의 원본 블록 간의 차이값인 잔차값(Residual) 정보를 포함하는 잔차 블록이 생성될 수 있다. 생성된 잔차 블록은 변환부(130)로 입력되어 변환될 수 있다.

화면 간 예측부(103)는 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐의 정보를 기초로 예측 블록을 유도할 수 있다. 또한, 현재 픽쳐 내의 부호화가 완료된 일부 영역의 정보를 기초로, 현재 블록의 예측 블록을 유도할 수도 있다. 본 발명의 일 실시예에 따른 화면 간 예측부(103)는 참조 픽쳐 보간부, 움직임 예측부, 움직임 보상부를 포함할 수 있다.

참조 픽쳐 보간부에서는 메모리(112)로부터 참조 픽쳐 정보를 제공받고 참조 픽쳐에서 정수 화소 이하의 화소 정보를 생성할 수 있다. 휘도 화소의 경우, 1/4 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 8탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다. 색차 신호의 경우 1/8 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 4탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다.

움직임 예측부는 참조 픽쳐 보간부에 의해 보간된 참조 픽쳐를 기초로 모션 예측을 수행할 수 있다. 모션 벡터를 산출하기 위한 방법으로 FBMA(Full search-based Block Matching Algorithm), TSS(Three Step Search), NTS(New Three-Step Search Algorithm) 등 다양한 방법이 사용될 수 있다. 모션 벡터는 보간된 화소를 기초로 1/2 또는 1/4 화소 단위의 모션 벡터값을 가질 수 있다. 움직임 예측부에서는 움직임 예측 방법을 다르게 하여 현재 블록의 예측 블록을 예측할 수 있다. 모션 예측 방법으로 스킵(Skip) 방법, 머지(Merge) 방법, AMVP(Advanced Motion Vector Prediction) 방법 등 다양한 방법이 사용될 수 있다.

감산부(104)는, 현재 부호화하려는 블록과 화면 내 예측부(102) 혹은 화면 간 예측부(103)에서 생성된 예측 블록을 감산하여 현재 블록의 잔차 블록을 생성한다.

변환부(105)에서는 잔차 데이터를 포함한 잔차 블록을 DCT, DST, KLT(Karhunen Loeve Transform) 등과 같은 변환 방법을 사용하여 변환시킬 수 있다. 이때 변환 방법은 잔차 블록을 생성하기 위해 사용된 예측 단위의 예측 방법(인터 또는 인트라 예측), 인트라 예측 모드, 변환 단위의 크기 및/또는 형태에 기반하여 결정될 수 있다. 예를 들어, 인트라 예측 모드에 따라, 가로 방향으로는 DCT를 사용하고, 세로 방향으로는 DST를 사용할 수도 있다. 예를 들어, 변환 단위의 크기가 소정의 범위일 때, 변환 단위의 가로 및 세로 중 짧은 쪽 방향으로는 DST를 사용하고, 긴 쪽 방향으로는 DCT를 사용할 수 있다. 예컨대, DST는 DST-7을, DCT는 DCT-2일 수 있다.

양자화부(106)는 변환부(105)에서 주파수 영역으로 변환된 값들을 양자화할 수 있다. 블록에 따라 또는 영상의 중요도에 따라 양자화 계수는 변할 수 있다. 양자화부(106)에서 산출된 값은 역양자화부(108)와 엔트로피 부호화부(107)에 제공될 수 있다.

상기 변환부(105) 및/또는 양자화부(106)는, 영상 부호화 장치(100)에 선택적으로 포함될 수 있다. 즉, 영상 부호화 장치(100)는, 잔차 블록의 잔차 데이터에 대해 변환 또는 양자화 중 적어도 하나를 수행하거나, 변환 및 양자화를 모두 스킵하여 잔차 블록을 부호화할 수 있다. 영상 부호화 장치(100)에서 변환 또는 양자화 중 어느 하나가 수행되지 않거나, 변환 및 양자화 모두 수행되지 않더라도, 엔트로피 부호화부(107)의 입력으로 들어가는 블록을 통상적으로 변환 블록이라 일컫는다. 엔트로피 부호화부(107)는 입력 데이터를 엔트로피 부호화한다. 엔트로피 부호화는 예를 들어, 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 부호화 방법을 사용할 수 있다.

엔트로피 부호화부(107)는 변환 블록의 계수 정보, 블록 타입 정보, 예측 모드 정보, 분할 단위 정보, 예측 단위 정보, 전송 단위 정보, 모션 벡터 정보, 참조 프레임 정보, 블록의 보간 정보, 필터링 정보 등 다양한 정보를 부호화할 수 있다. 변환 블록의 계수들은, 변환 블록 내 서브 블록 단위로, 부호화될 수 있다.

변환 블록의 계수의 부호화를 위하여, 역스캔 순서로 최초의 0이 아닌 계수의 위치를 알리는 신택스 요소(syntax element)인 Last_sig, 서브블록 내에 0이 아닌 계수가 적어도 하나 이상 있는지를 알리는 플래그인 Coded_sub_blk_flag, 0이 아닌 계수인지를 알리는 플래그인 Sig_coeff_flag, 계수의 절대값이 1 보다 큰지를 알리는 플래그인 Abs_greater1_flag, 계수의 절대값이 2 보다 큰지를 알리는 플래그인 Abs_greater2_flag, 계수의 부호를 나타내는 플래그인 Sign_flag 등의 다양한 신택스 요소들이 부호화될 수 있다. 상기 신택스 요소들만으로 부호화되지 않는 계수의 잔여값은 신택스 요소 remaining_coeff를 통해 부호화될 수 있다.

역양자화부(108) 및 역변환부(109)에서는 양자화부(106)에서 양자화된 값들을 역양자화하고 변환부(105)에서 변환된 값들을 역변환한다. 역양자화부(108) 및 역변환부(109)에서 생성된 잔차값(Residual)은 예측부(102, 103)에 포함된 움직임 추정부, 움직임 보상부 및 화면 내 예측부(102)를 통해서 예측된 예측 단위와 합쳐져 복원 블록(Reconstructed Block)을 생성할 수 있다. 가산부(110)는, 예측부(102, 103)에서 생성된 예측 블록과, 역 변환부(109)를 통해 생성된 잔차 블록을 가산하여 복원 블록을 생성한다.

필터부(111)는 디블록킹 필터, 오프셋 보정부, ALF(Adaptive Loop Filter)중 적어도 하나를 포함할 수 있다.

디블록킹 필터는 복원된 픽쳐에서 블록간의 경계로 인해 생긴 블록 왜곡을 제거할 수 있다. 디블록킹을 수행할지 여부를 판단하기 위해 블록에 포함된 몇 개의 열 또는 행에 포함된 픽셀을 기초로 현재 블록에 디블록킹 필터 적용할지 여부를 판단할 수 있다. 블록에 디블록킹 필터를 적용하는 경우 필요한 디블록킹 필터링 강도에 따라 강한 필터(Strong Filter) 또는 약한 필터(Weak Filter)를 적용할 수 있다. 또한 디블록킹 필터를 적용함에 있어 수직 필터링 및 수평 필터링 수행시 수평 방향 필터링 및 수직 방향 필터링이 병행 처리되도록 할 수 있다.

오프셋 보정부는 디블록킹을 수행한 영상에 대해 픽셀 단위로 원본 영상과의 오프셋을 보정할 수 있다. 특정 픽쳐에 대한 오프셋 보정을 수행하기 위해 영상에 포함된 픽셀을 일정한 수의 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 픽셀의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다.

ALF(Adaptive Loop Filtering)는 필터링한 복원 영상과 원래의 영상을 비교한 값을 기초로 수행될 수 있다. 영상에 포함된 픽셀을 소정의 그룹으로 나눈 후 해당 그룹에 적용될 하나의 필터를 결정하여 그룹마다 차별적으로 필터링을 수행할 수 있다. ALF를 적용할지 여부에 관련된 정보는 휘도 신호는 부호화 단위(Coding Unit, CU) 별로 전송될 수 있고, 각각의 블록에 따라 적용될 ALF 필터의 모양 및 필터 계수는 달라질 수 있다. 또한, 적용 대상 블록의 특성에 상관없이 동일한 형태(고정된 형태)의 ALF 필터가 적용될 수도 있다.

메모리(112)는 필터부(111)를 통해 산출된 복원 블록 또는 픽쳐를 저장할 수 있고, 저장된 복원 블록 또는 픽쳐는 화면 간 예측을 수행할 때 예측부(102, 103)에 제공될 수 있다.

다음으로, 본 발명의 일 실시예에 따른 영상 복호화 장치를 도면을 참조하여 설명한다. 도 2는 본 발명의 일 실시예에 따른 영상 복호화 장치(200)를 나타낸 블록도이다.

도 2를 참조하면, 영상 복호화 장치(200)는 엔트로피 복호화부(201), 역양자화부(202), 역변환부(203), 가산부(204), 필터부(205), 메모리(206) 및 예측부(207, 208)를 포함할 수 있다.

영상 부호화 장치(100)에 의해 생성된 영상 비트스트림이 영상 복호화 장치(200)로 입력되는 경우, 입력된 비트스트림은 영상 부호화 장치(100)에서 수행된 과정과 반대의 과정에 따라 복호될 수 있다.

엔트로피 복호화부(201)는 영상 부호화 장치(100)의 엔트로피 부호화부(107)에서 엔트로피 부호화를 수행한 것과 반대의 절차로 엔트로피 복호화를 수행할 수 있다. 예를 들어, 영상 부호화기에서 수행된 방법에 대응하여 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 방법이 적용될 수 있다. 엔트로피 복호화부(201)는, 전술한 바와 같은 신택스 요소들, 즉 Last_sig, Coded_sub_blk_flag, Sig_coeff_flag, Abs_greater1_flag, Abs_greater2_flag, Sign_flag 및 remaining_coeff를 복호화할 수 있다. 또한, 엔트로피 복호화부(201)는 영상 부호화 장치(100)에서 수행된 인트라 예측 및 인터 예측에 관련된 정보를 복호화할 수 있다.

역 양자화부(202)는 양자화된 변환 블록에 역 양자화를 수행하여 변환 블록을 생성한다. 도 1의 역 양자화부(108)와 실질적으로 동일하게 동작한다.

역 변환부(203)은 변환 블록에 역 변환을 수행하여 잔차 블록을 생성한다. 이때, 변환 방법은 예측 방법(인터 또는 인트라 예측), 블록의 크기 및/또는 형태, 인트라 예측 모드 등에 관한 정보를 기반으로 결정될 수 있다. 도 1의 역 변환부(109)와 실질적으로 동일하게 동작한다.

가산부(204)는, 화면 내 예측부(207) 혹은 화면 간 예측부(208)에서 생성된 예측 블록과 역 변환부(203)를 통해 생성된 잔차 블록를 가산하여 복원 블록을 생성한다. 도 1의 가산부(110)와 실질적으로 동일하게 동작한다.

필터부(205)는, 복원된 블록들에 발생하는 여러 종류의 노이즈를 감소시킨다.

필터부(205)는 디블록킹 필터, 오프셋 보정부, ALF를 포함할 수 있다.

영상 부호화 장치(100)로부터 해당 블록 또는 픽쳐에 디블록킹 필터를 적용하였는지 여부에 대한 정보 및 디블록킹 필터를 적용하였을 경우, 강한 필터를 적용하였는지 또는 약한 필터를 적용하였는지에 대한 정보를 제공받을 수 있다. 영상 복호화 장치(200)의 디블록킹 필터에서는 영상 부호화 장치(100)에서 제공된 디블록킹 필터 관련 정보를 제공받고 영상 복호화 장치(200)에서 해당 블록에 대한 디블록킹 필터링을 수행할 수 있다.

오프셋 보정부는 부호화시 영상에 적용된 오프셋 보정의 종류 및 오프셋 값 정보 등을 기초로 복원된 영상에 오프셋 보정을 수행할 수 있다.

ALF는 영상 부호화 장치(100)로부터 제공된 ALF 적용 여부 정보, ALF 계수 정보 등을 기초로 부호화 단위에 적용될 수 있다. 이러한 ALF 정보는 특정한 파라미터 셋에 포함되어 제공될 수 있다. 필터부(205)는 도 1의 필터부(111)와 실질적으로 동일하게 동작한다.

메모리(206)는 가산부(204)에 의해 생성된 복원 블록을 저장한다. 도 1의 메모리(112)와 실질적으로 동일하게 동작한다.

예측부(207, 208)는 엔트로피 복호화부(201)에서 제공된 예측 블록 생성 관련 정보와 메모리(206)에서 제공된 이전에 복호화된 블록 또는 픽쳐 정보를 기초로 예측 블록을 생성할 수 있다.

예측부(207, 208)는 화면 내 예측부(207) 및 화면 간 예측부(208)를 포함할 수 있다. 별도로 도시되지는 아니하였으나, 예측부(207, 208)는 예측 단위 판별부를 더 포함할 수 있다. 예측 단위 판별부는 엔트로피 복호화부(201)에서 입력되는 예측 단위 정보, 인트라 예측 방법의 예측 모드 정보, 인터 예측 방법의 모션 예측 관련 정보 등 다양한 정보를 입력 받고 현재 부호화 단위에서 예측 단위를 구분하고, 예측 단위가 인터 예측을 수행하는지 아니면 인트라 예측을 수행하는지 여부를 판별할 수 있다. 화면 간 예측부(208)는 영상 부호화 장치(100)에서 제공된 현재 예측 단위의 인터 예측에 필요한 정보를 이용해 현재 예측 단위가 포함된 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐에 포함된 정보를 기초로 현재 예측 단위에 대한 화면 간 예측을 수행할 수 있다. 또는, 현재 예측 단위가 포함된 현재 픽쳐 내에서 기-복원된 일부 영역의 정보를 기초로 화면 간 예측을 수행할 수도 있다.

화면 간 예측을 수행하기 위해 부호화 단위를 기준으로 해당 부호화 단위에 포함된 예측 단위의 모션 예측 방법이 스킵 모드(Skip Mode), 머지 모드(Merge 모드), AMVP 모드(AMVP Mode) 중 어떠한 방법인지 여부를 판단할 수 있다.

화면 내 예측부(207)는, 현재 부호화하려는 블록 주변에 위치한, 그리고 기 복원된 화소들을 이용하여 예측 블록을 생성한다. 복수의 참조 픽셀 라인이 이용 가능한 경우, 영상 부호화 장치(100)에서 제공된 정보에 기초하여, 어떤 참조 픽셀 라인을 참조할지 식별할 수 있다.

화면 내 예측부(207)는 AIS(Adaptive Intra Smoothing) 필터, 참조 화소 보간부, DC 필터를 포함할 수 있다. AIS 필터는 현재 블록의 참조 화소에 필터링을 수행하는 필터로써 현재 예측 단위의 예측 모드, 크기, 형태 및/또는 참조 화소가 현재 블록에 인접한 참조 화소 라인에 포함되는지의 여부에 따라 필터의 적용 여부를 적응적으로 결정할 수 있다. 영상 부호화 장치(100)에서 제공된 예측 단위의 예측 모드 및 AIS 필터 정보를 이용하여 현재 블록의 참조 화소에 AIS 필터링을 수행할 수 있다. 현재 블록의 예측 모드가 AIS 필터링을 수행하지 않는 모드일 경우, AIS 필터는 적용되지 않을 수 있다.

화면 내 예측부(207)의 참조 화소 보간부는 예측 단위의 예측 모드가 참조 화소를 보간한 화소값을 기초로 인트라 예측을 수행하는 예측 단위일 경우, 참조 화소를 보간하여 분수 단위 위치의 참조 화소를 생성할 수 있다. 생성된 분수 단위 위치의 참조 화소가 현재 블록 내의 화소의 예측 화소로 이용될 수 있다. 현재 예측 단위의 예측 모드가 참조 화소를 보간하지 않고 예측 블록을 생성하는 예측 모드일 경우 참조 화소는 보간되지 않을 수 있다. DC 필터는 현재 블록의 예측 모드가 DC 모드일 경우 필터링을 통해서 예측 블록을 생성할 수 있다.

인트라 예측에 의해 생성된 예측 블록에 대해 추가적인 필터링이 수행될 수 있음은 전술한 바와 같다.

화면 내 예측부(207)는 도 1의 화면 내 예측부(102)와 실질적으로 동일하게 동작한다.

화면 간 예측부(208)는, 메모리(206)에 저장된 참조 픽처, 움직임 정보를 이용하여 화면간 예측 블록을 생성한다. 화면 간 예측부(208)는 도 1의 화면 간 예측부(103)와 실질적으로 동일하게 동작한다.

이하, 본 발명의 다양한 실시예들을 도면들을 참조하면서 보다 상세하게 설명한다.

도 3은 변환 픽처를 생성하여 화면 간 예측에 참조하는 비디오 부호화기 및 복호화기의 개념을 설명하기 위한 도면이다.

비디오 부호화기는 현재 픽처의 원본 정보를 입력 신호로 가지고 있다. 따라서, 참조 픽처와 현재 픽처의 원본으로부터 기하 변환 관계를 계산하여 변환 정보를 도출할 수 있다. 비디오 부호화기는 도출된 변환 정보를 이용하여 참조 픽처에 대한 기하 변환 계산을 수행함으로써 변환 픽처를 생성할 수 있다. 생성된 변환 픽처는 화면 간 예측의 참조 정보로서 사용될 수 있다.

비디오 부호화기는 도출된 변환 정보를 비디오 복호화기로 송신할 수 있다. 비디오 복호화기는 비디오 부호화기로부터 수신한 변환 정보를 이용하여 참조 픽처에 대한 기하 변환 계산을 수행함으로써 변환 픽처를 생성할 수 있다. 비디오 변환 정보와 참조 픽쳐가 동일하므로, 복호화기에서 생성된 변환 픽처와 비디오 부호화기에서 생성된 변환 픽처는 동일할 수 있다.

비디오 부호화기 및 복호화기는 움직임 예측을 수행하는데 현재 부호화 또는 복호화 하고 있는 영역과 가장 유사한 정보를 참조하여 현재 부호화 또는 복호화 하는 영역의 정보를 예측할 수 있다.

이 경우 참조되는 영역은 동일 영상 내에 존재하거나 다른 영상 즉, 참조 영상 내에 존재할 수 있다. 화면 간 움직임 예측에서 현재 부호화 또는 복호화하는 영상과 참조 영상 간의 간격이 멀거나 화면의 회전(Rotation), 확대(Zoom-in), 축소(Zoom-out), 또는 물체의 원근 변경과 같은 비선형적 움직임이 복합적으로 발생할 경우 화소 간 유사성이 떨어져, 움직임 예측으로 발생하는 압축 효율은 크게 저하될 수 있다.

HEVC/H.265의 화면 간 예측에서 사용하는 예측 정보인 움직임 벡터(Motion Vector, MV)는 2차원 평행 이동, 즉 선형(linear) 움직임을 나타내는 정보로, 현재 블록과 예측 영역의 변위를 나타낼 수 있다.

움직임 벡터는 선형 정보이므로, 회전과 같은 비선형 모션을 정확하게 표현하기 적합하지 않을 수 있다.

따라서 영상에서 회전과 같은 비선형 전역 움직임이 발생할 경우, 비선형적인 움직임을 단일 움직임 벡터로 예측하면 오차로 인해 예측 정확도가 떨어질 수 있다.

이 경우에, HEVC와 같은 기존의 비디오 코덱에서는, 비선형적인 움직임이 발생한 예측 영역을 다수의 작은 크기의 영역으로 세분화하고, 각각 분할된 영역에서 화면 간 예측을 수행하여 예측 오차를 최소화하는 방법을 선택해왔다.

영역을 세분화하여 화면 간 예측을 수행할 경우, 움직임 벡터는 화면 간 예측이 수행된 각각의 블록에서 도출되므로, 결과적으로 부호화기에서 복호화기로 전송되는 움직임 벡터 및 분할 정보 등을 포함한 화면 간 예측 정보의 개수가 늘어난다.

따라서 비선형적인 전역 움직임이 발생한 영상에서는 영상 전역에 걸쳐 블록 분할이 세분화되면서 예측 정보 개수가 크게 증가하고 예측 정밀도가 저하되어서 압축 효율이 크게 떨어질 수 있다.

도 4는 선형 움직임이 발생한 경우와 비선형 움직임이 발생한 경우에 화면 간 예측에서 움직임 벡터 도출 및 블록 분할 예시를 나타내는 도면이다.

도 4의 (a)는 영상에서 선형 움직임이 발생한 경우이고, 도 4의 (b)는 영상에서 비선형 움직임이 발생한 경우이다. 물체의 선형 움직임에 따른 화면 간 예측에서는 선형 움직임 벡터가 도출되지만(도 4의 (a)), 비선형 움직임을 가지는 영역의 화면 간 예측에서는 예측 오차를 최소화하기 위해 예측 영역을 더욱 세분화하여 각각의 영역에 맞는 움직임 벡터가 도출될 수 있다(도 2의 (b)). 따라서 카메라의 회전, 화면 확대(zoom-in), 화면 축소(zoom-out)으로 인하여 비선형적인 전역 움직임이 영상에서 발생하는 경우, 영상 내 같은 객체에 속하는 영역의 움직임이 여러 개의 다른 움직임 벡터로 표현될 수 있으므로 HEVC와 같이 전통적인 화면 간 예측 방법을 사용하면 추가 정보가 다수 발생하여 예측 성능이 저하될 수 있다.

도 5는 비선형 움직임이 발생한 경우 영역별 움직임 정보의 예시를 나타내는 도면이다.

도 5를 참고하면, 도 5의 (a)와 같이 C를 중심으로 회전하는 물체가 있을 경우, A 영역은 회전의 중심으로부터 상대적으로 가까운 위치에 있는 B 영역에 비해 동일 시간에 더 많은 거리를 이동하게 된다.

따라서 회전이 발생한 영상을 부호화하기 위해 블록 단위로 움직임 벡터를 도출할 경우, 회전 중심으로부터의 거리에 따라 움직임의 크기가 달라지므로, 인접한 블록 관계라도 다른 움직임이 발생할 수 있다.

또한 회전이 발생한 영상을 부호화하기 위해 블록 단위로 움직임 벡터를 도출할 경우, 영상 내 인접 블록 간에도 움직임의 방향 차이로 다른 움직임 벡터가 도출될 수 있다.

도 5의 (a)에서, A와 D는 원으로 그려지는 회전 경로의 접선 방향으로 움직임이 발생하므로, 두 점 A와 D가 인접한 블록에 속한 관계라고 하더라도, 움직임의 방향이 다르므로 움직임 벡터가 다르게 도출될 수 있다.

도 5의 (b)와 같이 C를 중심으로 화면 확대가 발생한 경우, 인접한 영역 A, B에서도 그림과 같이 다른 움직임 정보가 도출될 가능성이 높고, 이 현상은 화면 축소(Zoom-out)의 예시에도 마찬가지로 발생한다.

따라서 회전, 화면 확대(zoom-in), 화면 축소(zoom-out)으로 인하여 등과 같은 비선형적인 전역 움직임이 발생한 영상에서, 기존의 코덱의 화면 간 예측을 사용하면 인접 영역 간 각각 다른 움직임 벡터가 도출될 확률이 높기 때문에, 이웃 블록의 움직임 벡터를 이용할 확률이 확연하게 줄어들게 된다.

이 경우, 움직임을 도출하는 지점 간 거리가 짧을수록 발생하는 움직임 벡터의 크기 차이가 줄어들기 때문에, 기존 코덱은 비선형적 움직임이 발생한 경우 블록을 최대한 작게 분할하여 움직임 벡터를 도출하는 방법을 선택함으로써, 많은 블록 분할로 인해 추가 정보의 개수가 늘어나면서 부호화 효율이 떨어질 수 있다.

따라서 비디오 부호화기는 현재 부호화하는 픽처(이하, 설명의 편의를 위해 '현재 픽처'라 함)와 참조 픽처 간의 움직임 변화를 반영하여 현재 픽처와 비슷한 형태를 가진 프레임 단위나 슬라이스, 타일 그룹, 블록 단위와 같은 영역으로 구성된 변환된 픽처(이하, 설명의 편의를 위해 '변환 픽처'라 함)을 생성하고, 이를 참조한 움직임 예측을 통해 예측 정확도를 높일 수 있다. 비디오 복호화기는 비디오 부호화기에서 변환 픽처를 참조하여 부호화를 수행한 경우 변환에 필요한 정보(이하, 설명의 편의를 위해 '변환 정보'이라 함)를 비디오 부호화기로부터 전달받아 변환 픽처를 생성하고, 움직임 보상의 참조 정보로 활용하여 복호화할 수 있다. 본 발명에서는 참조 정보로 사용되는 변환 픽처를 “변환 참조 픽처”로 정의하여 서술한다.

도 6은 본 발명의 일 실시 예에 따른 기하 변환 과정을 나타내는 도면이다. 도 6은 참조 픽처로부터 변환 참조 픽처를 생성하는 변환 과정을 나타내고 있다.

도 6을 참고하면, (x0, y0), (x1, y1), (x2, y2)는 참조 픽처내 각각 서로 다른 임의 지점을 의미하며, (x'0, y'0), (x'1, y'1), (x'2, y'2)는 (x0, y0), (x1, y1), (x2, y2)에 각각 대응하는 변환 참조 픽처의 지점을 의미할 수 있다.

f()는 참조 픽처의 임의의 한 지점 (x, y)와 기하 변환을 위해 필요한 추가 정보 α를 이용하여 변환 참조 픽처에 대응되는 x'을 산출하는 함수이며, g()는 참조 픽처의 임의의 한 지점 (x, y)과 기하 변환을 위해 필요한 추가 정보 β를 이용하여 변환 참조 픽처에서 대응되는 y'을 산출하는 함수이다. 그리고, (x, y)와 (x', y'), f()와 g()의 관계를 행렬식으로 표현한 것이 H 행렬이 될 수 있다.

따라서, H 행렬을 이용하여, 부호화기와 복호화기에서 변환 과정을 통해 변환 참조 픽처를 생성할 수 있다.

변환 정보를 도출하기 위해서, 참조 픽처와 현재 픽처간 상호 대응되는 위치를 확인하고, 대응되는 위치 쌍들을 사용하여 기하변환 관계를 행렬 형식으로 표현할 수 있다.

기하변환 관계를 행렬로 표현하기 위한 모델로서, 회전, 평행 이동, 확대, 축소, 프로젝션이 등의 기하적 움직임을 반영하는 Homography를 사용할 수 있다. 본 명세서에서는 Homography로 생성된 행렬을 변환 정보로 정의할 수 있다.

도 7은 본 발명의 일 실시 예에 따른 변환 참조 픽처의 생성 흐름도를 설명하기 위한 도면이다. 도 7에서는 부호화기에서 변환 정보를 도출하여 변환 참조 픽처를 생성하는 과정을 나타낸다.

먼저, 부호화기는 현재 픽처의 특징점 및 참조 픽처의 특징점을 추출할 수 있다(S701, 702). 현재 픽처와 참조 픽처의 상호 기하변환 관계를 찾기 위한 두 픽처에서 대응되는 지점을 특징점이라고 정의할 수 있다.

구제적으로, 두 픽처의 대응 지점을 도출하기 위해 영상 내의 밝기 변화 등을 통해 영상 내에서 묘사할 수 있는 특성을 가진 특징점을 찾을 수 있다.

그리고, 부호화기는 특징점 매칭과정을 수행할 수 있다(S703). 그러나 특징점 매칭과정에서 오차로 인해 두 영상간 기하변환 관계에 어긋나는 지점을 매칭 시킬 수 있다. 따라서 도출된 여러 특징점 중 기하변환 관계에 어긋나지 않는 유효한 특징점을 산출하여, 유효 특징점 매칭시킬 수 있다(S704).

부호화기는 유효 특징점 매칭으로부터 영상 내 두 지점간의 관계식을 산출하여 산출된 관계식으로부터 변환 정보를 도출할 수 있다(S705).

그리고, 부호화기는 도출된 변환 정보를 사용한 변환 과정을 통해 변환 참조 픽처를 생성할 수 있다(S706).

도 8은 현재 픽처, 참조 픽처, 변환 참조 픽처 간의 화소 유사성을 비교하기 위한 도면이다.

도 8와 같이, 부호화기 및 복호화기에서 생성되는 변환 참조 픽처는 참조 픽처에 비해서 현재 픽처와 유사한 화소 분포를 가질 수 있다. 도 8에서 변환 참조 픽처는 참조 픽처로부터 변환 과정을 통해 생성된 픽처이며, 현재 픽처 내 A 영역과 참조 픽처 내 B 영역 간 시각적 유사도와 비교해 볼 때, 현재 픽처 내 A 영역과 변환 참조 픽처 내 C영역 간 시각적 유사도가 상대적으로 더 높은 것을 확인할 수 있다.

이하, 본 명세서에서는 비디오 부호화 화면 간 예측에서 프레임이나 슬라이스, 타일 그룹, 블록 등의 단위에서 전역 움직임 정보를 일부 또는 모두 반영한 변환 참조 픽처를 사용하는 움직임 예측, 움직임 보상 방법을 자세히 서술하도록 한다.

도 9는 본 발명의 일 실시 예에 따른 부호화기에서의 확장된 움직임 예측 과정의 예시를 나타낸 도면이다.

본 발명의 일 실시 예에 따른 부호화기는 현재 픽처와 복원픽처 버퍼의 참조 픽처로부터 변환 정보를 도출하고, 도출된 변환 정보를 이용하여 변환 픽처를 생성할 수 있다. 그리고, 부호화기는 생성된 변환 픽처를 변환 픽처 버퍼에 저장할 수 있다. 본 발명에 따른 부호화기는 변환 픽처 버퍼의 변환 픽처를 변환 참조 픽처로 구성하고, 참조 픽처와 변환 참조 픽처를 움직임 예측에 참조 정보로 구성하는 참조 픽처 구성부와, 참조 픽처 및 변환 참조 픽처를 모두 움직임 예측에 참조하여 최적의 움직임 정보를 도출하는 확장된 움직임 예측부를 포함할 수 있다.

본 발명에 따른 부호화기에서 참조 픽처 및 변환 참조 픽처를 움직임 예측에 사용하여 최적의 예측 정보를 도출하고, 최적의 예측 정보를 복호화기로 시그널링할 수 있다.

도 10은 본 발명의 일 실시 예에 따른 복호화기에서 확장된 움직임 보상 과정의 예시를 나타내는 도면이다.

본 발명의 일 실시 예에 따른 복호화기는 부호화기로부터 변환 정보를 수신하고 복원픽처 버퍼로부터 변환 과정을 통해 변환 픽처를 생성할 수 있다. 그리고, 복호화기는 생성된 변환 픽처를 변환 픽처 버퍼에 저장할 수 있다. 본 발명에 따른 복호화기는 부호화기에서 시그널링된 최적의 예측 정보에 기초하여 복원픽처 버퍼와 변환 픽처 버퍼로부터 움직임 보상에 사용될 참조 픽처를 구성하는 참조 픽처 구성부와, 구성된 참조 픽처를 사용하여 움직임 보상을 수행하는 확장된 움직임 보상부를 포함할 수 있다.

본 발명에 따른 복호화기의 참조 픽처 구성부는 복원픽처 버퍼의 참조 픽처를 참조 픽처로 구성하고, 변환 픽처 버퍼의 변환 픽처를 변환 참조 픽처로 구성하여, 참조 픽처와 변환 참조 픽처를 움직임 보상의 참조 정보로 사용할 수 있다. 본 발명에 따른 확장된 움직임 보상부는, 부호화기에서 시그널링된 최적의 예측 정보에 기초하여, 참조 픽처 및 변환 참조 픽처를 사용하여 영상 복원을 수행할 수 있다.

도 11은 본 발명의 일 실시 예에 따른 참조 픽처 구성을 설명하기 위한 도면이다. 도 11의 참조 픽처 리스트는 도 9 및 도 10의 참조 픽처 구성부에 의해 생성될 수 있다.

도 11을 참고하면, 본 발명의 부호화기 및 복호화기에서는 N개의 참조 픽처 리스트 내 각각 n개의 참조 픽처로부터, 현재 픽처와의 기하 변환 관계를 계산하여 변환 픽처가 생성될 수 있다. 여기서 n, N은 1 이상의 정수이다. 도 9 및 도 10의 참조 픽처 구성부는, 각각 생성된 변환 픽처를 변환 참조 픽처로 구성하여, 변환 참조 픽처를 참조 픽처와 더불어 움직임 예측의 참조 정보로 사용할 수 있도록 한다.

도 11에서는 모든 참조 픽처 리스트의 모든 참조 픽처를 변환하여 통해 변환 참조 픽처를 생성하는 것으로 설명하였다. 그러나, 이에 제한되지 않고 일부의 참조 픽처 리스트 또는 일부의 참조 픽처에 대해 변환 과정을 수행하여 변환 참조 픽처를 생성할 수도 있다.

여기서, 변환 참조 픽처 생성을 위한 일부의 참조 픽처 리스트는 기 정의된 위치의 참조 픽처 리스트일 수 있다. 일 예로, L0 참조 픽처 리스트에 대해서만 변환 과정을 수행하여 변환 참조 픽처를 생성할 수 있다.

또는, 변환 참조 픽처 생성을 위한 일부의 참조 픽처 리스트는 부호화기에서 결정되고, 이에 대한 선택 정보는 복호화기로 시그널링될 수 있다.

한편, 참조 픽처 리스트내의 일부의 참조 픽처에 대해서만 변환 과정을 수행하여 변환 참조 픽처를 생성할 수 있다.

여기서, 변환 참조 픽처 생성을 위한 일부의 참조 픽처는 참조 픽처 리스트내의 기 정의된 위치의 참조 픽처일 수 있다. 일 예로, 0번째 참조 픽처에 대해서만 변환 과정을 수행하여 변환 참조 픽처를 생성할 수 있다.

또는, 변환 참조 픽처 생성을 위한 일부의 참조 픽처는 부호하기에서 결정되고, 이에 대한 선택 정보는 복호화기로 시그널링될 수 있다.

상술한 선택 정보는 플래그 또는 인덱스 형식으로 표현될 수 있다.

도 12는 본 발명의 일 실시 예에 따른 움직임 예측을 설명하기 위한 도면이다.

도 12를 참고하면, 현재 픽처의 참조 픽처로부터 변환 정보를 사용하여 생성된 변환 참조 픽처와, 참조 픽처를 모두 움직임 예측에 이용하여 최적의 움직임 정보를 도출할 수 있다.

도 13은 본 발명의 일 실시 예에 따른 움직임 보상을 설명하기 위한 도면이다.

도 13을 참고하면, 참조 픽처로부터 변환 정보를 사용하여 구성된 변환 참조 픽처를 추가로 참조하여 움직임 보상을 수행할 수 있다.

도 14는 본 발명의 일 실시 예에 따른 움직임 예측 흐름도를 나타낸 도면이다.

도 14를 참고하면, 부호화기는 참조 픽처 또는 변환 참조 픽처 내에 탐색영역을 설정할 수 있다(S1401).

그리고, 부호화기는 탐색 영역 중 현재 블록과 가장 유사한 화소 영역을 탐색할 수 있다(S1402).

그리고, 부호화기는 S1402단계에서 탐색된 가장 유사한 화소 영역과 현재 블록간의 변위(또는 움직임 벡터)를 산출할 수 있다.

그리고, 부호화기는 산출된 움직임 벡터의 부호화 비용을 산출할 수 있다(S1404).

그리고, 부호화기는 현재 탐색된 영역의 비용이 최소 비용인지 판단하여, 최소 비용인 경우(S1405-예), 최소 비용 탐색 정보를 갱신할수 있고(S1406), 최소 비용이 아닌 경우(S1405-아니오), 최소 비용 탐색 정보를 갱신하지 않고 다음 단계(S1407)로 진행할 수 있다.

그리고, 부호화기는 모든 참조 픽처 및 모든 변환 참조 픽처에 대해 부호화 비용 산출을 수행하였는지 판단하여, 모두 수행하지 않은 경우(S1407-아니오), 다음 참조 픽처 또는 다음 변환 참조 픽처를 선택하여 S1401단계를 수행할 수 있고(S1408), 모두 수행한 경우(S1407-예), 최소 비용 탐색 정보를 부호화할 수 있다(S1409). 여기서, 최소 비용 탐색 정보는 부호화 비용이 최소인 참조 픽처 또는 변환 참조 픽처를 지시하는 정보 및 움직임 벡터 중 적어도 하나를 포함할 수 있다.

그리고, 부호화기는 최소 비용 탐색 영역과 원본 영상 간의 차분 신호를 부호화할 수 있다(S1410).

본 발명에 따른 움직임 예측은 기존 부호화기 움직임 벡터를 도출하는 움직임 예측 과정에서, 기존의 부호화기가 사용하는 참조 픽처에서 최적 영역을 탐색하는 방법에, 변환 참조 픽처 영역에 대한 최적 영역 탐색을 추가할 수 있다. 따라서, 본 발명에 따른 움직임 벡터 도출을 위한 움직임 예측 영역은 참조 픽처에서 변환 참조 픽처까지 확장될 수 있다.

도 15는 본 발명의 일 실시 예에 따른 움직임 보상 흐름도를 나타내는 도면이다.

도 15를 참고하면, 복호화기는 탐색 정보를 복호화할 수 있다(S1501). 여기서, 탐색 정보는 움직임 정보일 수 있으며 움직임 벡터 및 참조 픽처 인덱스 중 적어도 하나를 포함할 수 있다.

그리고, 복호화기는 탐색 정보에 따라 참조 픽처 또는 변환 참조 픽처를 선택할 수 있다(S1502). 구체적으로, 복호화기는 탐색 정보중 참조 픽처 인덱스를 이용하여 참조 픽처 또는 변환 참조 픽처를 선택할 수 있다.

그리고, 복호화기는 움직임 벡터를 이용하여 참조 영역을 확인할 수 있다(S1503). 여기서, 확인된 참조 영역은 예측 신호일 수 있다.

그리고, 복호화기는 차분 신호를 복호화할 수 있다(S1504).

그리고, 복호화기는 차분 신호로 참조된 화소 영역을 보정할 수 있다(S1505). 구체적으로, 복호화기는 차분 신호에 참조된 화소 영역(즉, 예측 신호)를 더하여 할 수 있다.

그리고, 복호화기는 보정된 화소 영역으로 현재 블록 화소를 설정할 수 있다(S1506). 여기서, 보정된 화소 영역은 복원 신호를 의미할 수 있다.

한편, 도 15의 움직임 보상 방법은 부호화기에서도 유사하게 수행될 수 있다.

도 16은 본 발명의 일 실시 예에 따른 부호화기의 움직임 예측 장치를 나타내는 도면이다.

도 16에 따르면, 움직임 예측 장치는 변환 픽처 버퍼, 복원 픽처 버퍼, 참조 픽처 버퍼, 탐색 영역 설정부, 가장 유사한 화소 영역 탐색부, 차분 신호 산출부, 움직임 벡터(MV) 산출부, 부호화 비용 계산부, 최소 비용 탐색 정보 갱신부, 참조 픽처 변경부, 최소 비용 탐색 정보 부호화부 및 최소 비용 탐색 영역 대응 차분 신호 부호화부를 포함할 수 있다.

여기서, 참조 픽처 선택부에서 변환 픽처 버퍼의 변환 픽처 및 복원 픽처 버퍼의 복원 픽처 중 적어도 하나를 이용하여 움직임 예측의 참조 픽처로 이용할 수 있다.

한편, 도 16에서는 변환 픽처 버퍼와 복원 픽처 버퍼를 별개의 버퍼로 도시하였으나, 변환 픽처와 복원 픽처 모두를 저장할 수 있는 하나의 버퍼로 구성될 수도 있다.

도 17은 본 발명의 일 실시 예에 따른 복호화기의 움직임 보상 장치를 나타내는 도면이다.

도 17에 따르면, 움직임 보상 장치는 변환 픽처 버퍼, 복원 픽처 버퍼, 참조 픽처 선택부, 참조 영역 확인부, 차분 신호 복호화부 및 참조 영역 보정부를 포함할 수 있다.

여기서, 참조 픽처 선택부는 변환 픽처 버퍼의 변환 픽처 및 복원 픽처 버퍼의 복원 픽처 중 적어도 하나를 이용하여 움직임 보상의 참조 픽처로 이용할 수 있다.

한편, 도 17에서는 변환 픽처 버퍼와 복원 픽처 버퍼를 별개의 버퍼로 도시하였으나, 변환 픽처와 복원 픽처 모두를 저장할 수 있는 하나의 버퍼로 구성될 수도 있다.

또한, 도 17의 움직임 보상 장치는 부호화기에 포함될 수 있다.

도 18은 본 발명의 일 실시 예에 따른 부호화기에서의 움직임 예측을 설명하기 위한 도면이다.

도 18을 참고하면, 부호화기는 2개의 참조 픽처 리스트와 2개의 참조 픽처를 사용하여 움직임 예측을 수행할 수 있다.

먼저, 부호화기는 참조 픽처 리스트 L0, 참조 픽처 리스트 L1에 있는 각각의 참조 픽처에 현재 픽처와 기하 변환 관계를 계산하여 나온 변환 정보(도 18의 H0,H1,H2,H3)를 적용하여, 각각의 참조 픽처로부터 변환 픽처를 생성할 수 있다.

그리고, 부호화기는 생성된 변환 픽처를 변환 참조 픽처로 정의하여 움직임 예측에 사용할 수 있다. 도 18과 같이, 제안 방법의 부호화기에서 움직임 예측은 참조 픽처 리스트 L0와 참조픽처 리스트 L1에 속해있는 참조 픽처와 참조 픽처로부터 각각 구성된 변환 참조 픽처에 대해 움직임 예측을 모두 수행하여 최적의 움직임 정보를 도출한다. 이 경우, 움직임 예측은 단방향 예측과 양방향 예측을 모두 수행할 수 있다. 제안 방법은 도 20의 경우에 국한되지 않고 N개의 참조 픽처 리스트와 n개의 참조 픽처를 사용하는 구조에서도 동일한 방법으로 적용될 수 있다.

도 19 내지 도 22는 본 발명에 다양한 실시 예에 따른 움직임 보상을 설명하기 위한 도면이다. 도 19 내지 도 22에서는 L0 및 L1 참조 픽처 리스트가 있고, 각 참조 픽처 리스트에는 2개의 참조 픽처 및 2개의 참조 픽처로부터 변환된 2개의 변환 참조 픽처를 포함하고 있다고 가정한다.

도 19는 단방향 예측의 움직임 보상의 일 실시 예이다. 도 19를 참고하면, 부호화기/복호화기는 참조 픽처 리스트 L0의 변환 참조 픽처 1을 선택하여 움직임 보상을 수행할 수 있다. 여기서, 변환 참조 픽처 1은 참조 픽처 1에 변환 행렬 H1를 적용하여 생성된 변환 참조 픽처이다.

도 20은 단방향 예측의 움직이 보상의 다른 실시 예이다. 도 20을 참고하면, 부호화기/복호화기는 참조 픽처 리스트 L1의 참조 픽처 3을 선택하여 움직임 보상을 수행할 수 있다.

도 21은 양방향 예측의 움직임 보상의 일 실시 예이다. 도 21를 참고하면, 부호화기/복호화기는 참조 픽처 리스트 L0의 변환 참조 픽처 1 및 참조 픽처 리스트 L1의 참조 픽처 3을 선택하여 움직임 보상을 수행할 수 있다. 즉, 변환 참조 픽처 1 및 참조 픽처 3 모두 참조하여 움직임 보상을 수행할 수 있다.

도 22는 양방향 예측의 움직임 보상의 다른 실시 예이다. 도 22를 참고하면, 부호화기/복호화기는 참조 픽처 리스트 L0의 변환 참조 픽처 1 및 참조 픽처 리스트 L1의 변환 참조 픽처 3을 선택하여 움직임 보상을 수행할 수 있다. 즉, 변환 참조 픽처 1 및 변환 참조 픽처 3 모두 참조하여 움직임 보상을 수행할 수 있다.

한편, 도 21 및 도 22의 양방향 예측의 움직임 보상에서 가중치 예측이 적용될 수 있다. 일 예로, L0 방향으로 움직임 보상이 수행되어 생성된 제1 예측 신호 및 L1 방향으로 움직임 보상이 수행되어 생성된 제2 예측 신호에 가중치 w0 및 w1을 각각 적용하여 최종 예측 신호가 생성될 수 있다.

여기서, 가중치 w0 및 w1은 부호화기 및 복호화기에 기 정의된 값일 수 있다.

또는, 가중치 w0 및 w0은 가중치 정보에 의해 결정될 수 있으며, 가중치 정보는 상위 레벨(시퀀스, 픽처, 타일그룹, 타일, CTU 등)을 통해 시그널링되는 정보일 수 있다. 그리고, 가중치 정보는 인덱스 형식으로 표현되어 기정의된 가중치 테이블에서 적용될 가중치 세트(w0, w1)를 선택할 수도 있다.

도 23은 본 발명의 일 실시 예에 따른 부호화 방법을 설명하기 위한 흐름도이다.

도 23을 참고하면, 먼저, 부호화기는 현재 픽처의 특징점 및 참조 픽처의 특징점을 추출할 수 있다(S2301, S2302). 현재 픽처와 참조 픽처의 상호 기하변환 관계를 찾기 위한 두 픽처에서 대응되는 지점을 특징점이라고 정의할 수 있다.

구제적으로, 두 픽처의 대응 지점을 도출하기 위해 영상 내의 밝기 변화 등을 통해 영상 내에서 묘사할 수 있는 특성을 가진 특징점을 찾을 수 있다.

그리고, 부호화기는 특징점 매칭과정을 수행할 수 있다(S2303). 그러나 특징점 매칭과정에서 오차로 인해 두 영상간 기하변환 관계에 어긋나는 지점을 매칭 시킬 수 있다. 따라서 도출된 여러 특징점 중 기하변환 관계에 어긋나지 않는 유효한 특징점을 산출하여, 유효 특징점 매칭시킬 수 있다(S2304).

부호화기는 유효 특징점 매칭으로부터 영상 내 두 지점간의 관계식을 산출하여 산출된 관계식으로부터 변환 정보를 도출할 수 있다(S2305).

그리고, 부호화기는 도출된 변환 정보를 사용한 변환 과정을 통해 변환 참조 픽처를 생성할 수 있다(S2306).

그리고, 부호화기는 생성된 변환 참조 픽처 및 참조 픽처를 이용하여 참조 픽처 리스트를 구성할 수 있다(S2307).

그리고, 부호화기는 참조 픽처 리스트를 이용하여 확장된 움직임 예측을 수행하여 최적의 움직임 정보를 도출할 수 있다(S2308). 여기서, 확장된 움직임 예측이란 참조 픽처뿐만 아니라 변환 참조 픽처를 더 참조하여 움직임 정보를 도출하는 움직임 예측을 의미할 수 있다.

한편, 도 23에서의 End는 움직임 예측 방법의 종료를 의미하며 전체 부호화 방법의 종료를 의미하지 않는다.

도 24는 본 발명의 일 실시 예에 따른 확장된 움직임 예측 방법을 설명하기 위한 흐름도이다.

도 24를 참고하면, 부호화기는 참조 픽처 및 변환 참조 픽처에 움직임 예측 현재 탐색 영역을 설정할 수 있다(S2401).

그리고, 부호화기는 현재 탐색 영역에 대한 참조 픽처에서의 cost를 계산할 수 있다(S2402). 여기서, cost는 부호화 비용을 의미할 수 있다.

그리고, 부호화기는 현재 탐색 영역에 대한 변환 참조 픽처에서의 cost를 계산할 수 있다(S2403).

그리고, 부호화기는 변환 참조 픽처에서 계산된 cost가 참조 픽처에서 계산된 cost보다 낮은 경우(S2404-네), 변환 참조 픽처 참조 여부를 활성화(ON 또는 enabled)하고(S2405), 변환 참조 픽처에서 계산된 cost를 현재 cost로 설정할 수 있다(S2406). 반대로, 부호화기는 변환 참조 변환 참조 픽처에서 계산된 cost가 참조 픽처에서 계산된 cost보다 낮지 않은 경우(S2404-아니오), 변환 참조 픽처 참조 여부를 비활성화(OFF 또는 unabled)하고(S2407), 참조 픽처에서 계산된 cost를 현재 cost로 설정할 수 있다(S2408).

그리고, 부호화기는 현재 cost가 최적 예측 영역의 cost보다 낮은 경우(S2409-네), S2410단계로 진행하고, 부호화기는 현재 cost가 최적 예측 영역의 cost보다 낮지 않은 경우(S2409-아니요), 다시 S2401단계로 돌아갈 수 있다.

그리고, 부호화기는 현재 탐색 영역을 최적 예측 영역으로 설정하고, 현재 cost를 최적 예측 영역의 cost로 설정하며, 현재 탐색 영역의 변환 참조 픽처 참조 여부를 최적 영역 변환 참조 픽처 참조 여부로 설정할 수 있다(S24010).

그리고, 부호화기는 현재 탐색 영역이 탐색 영역 범위내 마지막 탐색 영역인 경우(S2411-네), 최적 예측 영역 및 현재 블록의 변위를 기초로 움직임 벡터를 도출하고, 최적 예측 변환 픽처 참조 여부를 기초로 변환 참조 픽처 사용 정보를 갱신할 수 있다(S2412). 반대로, 부호화기는 현재 탐색 영역이 탐색 영역 범위내 마지막 탐색 영역이 아닌 경우(S2411-아니오), 다시 S2401단계로 돌아갈 수 있다.

그리고, 부호화기는 움직임 벡터 및 변환 참조 픽처 사용 정보를 부호화하여 복호화기로 전송할 수 있다.

도 25는 본 발명의 일 실시 예에 따른 복호화 방법을 설명하기 위한 흐름도이다.

도 25를 참고하면, 먼저, 복호화기는 변환 정보를 수신할 수 있다(S2501).

그리고, 복호화기는 변환 정보를 이용하여 변환 과정을 수행할 수 있으며, 상술한 변환 과정을 통해 변환 참조 픽처를 생성할 수 있다(S2502).

그리고, 복호화기는 생성된 변환 참조 픽처 및 참조 픽처를 이용하여 참조 픽처 리스트를 구성할 수 있다(S2503).

그리고, 복호화기는 참조 픽처 리스트를 이용하여 확장된 움직임 보상을 수행하여 예측 신호를 생성 수 있다(S2504). 여기서, 확장된 움직임 보상이란 참조 픽처뿐만 아니라 변환 참조 픽처를 더 참조하여 예측 신호를 생성하는 움직임 보상을 의미할 수 있다.

한편, 도 25에서의 End는 움직임 보상 방법의 종료를 의미하며 전체 복호화 방법의 종료를 의미하지 않는다. 또한, 도 25의 복호화 방법은 부호화기에서도 유사하게 수행될 수 있다.

도 26은 본 발명의 일 실시 예에 따른 확장된 움직임 보상 방법을 설명하기 위한 흐름도이다.

도 26을 참고하면, 복호화기는 최적 예측 움직임 정보를 수신할 수 있다(S2601). 여기서, 최적 예측 움직임 정보는 움직임 벡터, 변환 참조 픽처 사용 정보, 참조 픽처 인덱스 등을 포함할 수 있다.

그리고, 복호화기는 변환 참조 픽처 참조 여부가 활성화(On 또는 enabled)인지 판단할 수 있다(S2602). 구체적으로, 복호화기는 최적 예측 움직임 정보에 포함되어 있는 변환 참조 픽처 사용 정보를 기초로 변환 참조 픽처 참조 여부를 판단할 수 있다.

변환 참조 픽처 참조 여부가 활성화인 경우(S2602-네), 복호화기는 변환 참조 픽처를 참조하여 움직임 보상을 수행할 수 있다(S2603). 구체적으로, 복호화기는 변환 참조 픽처가 포함된 참조 픽처 리스트를 이용하여 움직임 보상을 수행할 수 있다.

반대로, 변환 참조 픽처 참조 여부가 비활성화인 경우(S2602-아니오), 복호화기는 참조 픽처를 참조하여 움직임 보상을 수행할 수 있다(S2604). 구체적으로, 복호화기는 변환 참조 픽처를 포함하지 않은 참조 픽처 리스트를 이용하여 움직임 보상을 수행할 수 있다.

본 개시의 예시적인 방법들은 설명의 명확성을 위해서 동작의 시리즈로 표현되어 있지만, 이는 단계가 수행되는 순서를 제한하기 위한 것은 아니며, 필요한 경우에는 각각의 단계가 동시에 또는 상이한 순서로 수행될 수도 있다. 본 개시에 따른 방법을 구현하기 위해서, 예시하는 단계에 추가적으로 다른 단계를 포함하거나, 일부의 단계를 제외하고 나머지 단계를 포함하거나, 또는 일부의 단계를 제외하고 추가적인 다른 단계를 포함할 수도 있다.

본 개시의 다양한 실시 예는 모든 가능한 조합을 나열한 것이 아니고 본 개시의 대표적인 양상을 설명하기 위한 것이며, 다양한 실시 예에서 설명하는 사항들은 독립적으로 적용되거나 또는 둘 이상의 조합으로 적용될 수도 있다.

또한, 본 개시의 다양한 실시 예는 하드웨어, 펌웨어(firmware), 소프트웨어, 또는 그들의 결합 등에 의해 구현될 수 있다. 하드웨어에 의한 구현의 경우, 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 범용 프로세서(general processor), 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.

본 개시의 범위는 다양한 실시 예의 방법에 따른 동작이 장치 또는 컴퓨터 상에서 실행되도록 하는 소프트웨어 또는 머신-실행가능한 명령들(예를 들어, 운영체제, 애플리케이션, 펌웨어(firmware), 프로그램 등), 및 이러한 소프트웨어 또는 명령 등이 저장되어 장치 또는 컴퓨터 상에서 실행 가능한 비-일시적 컴퓨터-판독가능 매체(non-transitory computer-readable medium)를 포함한다.

Claims (12)

1. 영상 복호화 방법에 있어서,
   변환 정보를 복호화하는 단계;
   참조 픽처 리스트의 참조 픽처들 중 적어도 하나에 상기 변환 정보를 적용하여 적어도 하나의 변환 참조 픽처를 생성하는 단계;
   상기 적어도 하나의 변환 참조 픽처를 상기 참조 픽처 리스트에 포함시키는 단계; 및
   상기 참조 픽처 리스트를 이용하여 움직임 보상을 수행하는 단계를 포함하는 영상 복호화 방법.
2. 제1항에 있어서,
   상기 적어도 하나의 변환 참조 픽처를 상기 참조 픽처 리스트에 포함시키는 단계,
   변환 참조 픽처 사용 정보에 기초하여 상기 변환 참조 픽처의 포함여부를 판단하는 단계; 및
   상기 판단 결과에 기초하여 상기 변환 참조 픽처를 상기 참조 픽처 리스트에 포함시키는 단계를 포함하는 영상 복호화 방법.
3. 제1항에 있어서,
   상기 변환 참조 픽처는,
   상기 참조 픽처 리스트에서 상기 참조 픽처들 이후에 위치하는 것을 특징으로 하는 영상 복호화 방법.
4. 제1항에 있어서,
   상기 변환 참조 픽처를 생성하는 단계는,
   상기 참조 픽처 리스트내의 기정의된 위치의 적어도 하나의 참조 픽처에 상기 변환 정보를 적용하여 변환 참조 픽처를 생성하는 것을 특징으로 하는 영상 복호화 방법.
5. 제1항에 있어서,
   상기 참조 픽처 리스트는,
   L0 참조 픽처 리스트 및 L1 참조 픽처 리스트 중 적어도 하나이고,
   상기 움직임 보상을 수행하는 단계는,
   상기 L0 참조 픽처 리스트 및 상기 L1 참조 픽처 리스트 중 적어도 하나의 참조 픽처 리스트를 이용하여 움직임 보상을 수행하는 것을 특징으로 하는 영상 복호화 방법.
6. 제5항에 있어서,
   상기 움직임 보상을 수행하는 단계는,
   상기 L0 참조 픽처 리스트 및 상기 L1 참조 픽처 리스트 모두 이용되는 양방향 예측의 움직임 보상이 수행되는 경우, 가중치 예측을 통하여 움직임 보상을 수행하는 것을 특징으로 하는 영상 복호화 방법.
7. 변환 참조 픽처 생성 방법에 있어서,
   현재 픽처의 특징점 및 참조 픽처의 특징점을 추출하는 단계;
   상기 특징점들을 기초로 변환 정보를 도출하는 단계; 및
   상기 변환 정보를 이용하여 변환 참조 픽처를 생성하는 단계를 포함하는 변환 참조 픽처 생성 방법.
8. 제7항에 있어서,
   상기 변환 정보를 도출하는 단계는,
   상기 특징점을 기초로 기하변환 관계식을 산출하는 단계; 및
   상기 기하변환 관계식에 기초하여 변환 정보를 도출하는 단계를 포함하는 변환 참조 픽처 생성 방법.
9. 제7항에 있어서,
   상기 변환 정보는,
   행렬 형식으로 표현되는 것을 특징으로 하는 변환 참조 픽처 생성 방법.
10. 움직임 예측 방법에 있어서,
    참조 픽처 및 변환 참조 픽처 중 적어도 하나에 탐색 영역을 설정하는 단계;
    상기 탐색 영역 중 현재 블록과 유사한 화소 영역을 탐색하는 단계; 및
    상기 탐색된 유사한 화소 영역과 현재 블록간의 움직임 벡터를 산출하는 단계를 포함하는 움직임 예측 방법.
11. 제10항에 있어서,
    상기 산출된 움직임 벡터의 부호화 비용을 산출하는 단계; 및
    상기 산출된 부호화 비용을 기초로 최소 비용 탐색 정보를 갱신하는 단계를 포함하고,
    상기 최소 비용 탐색 정보는, 부호화 비용이 최소인 참조 픽처 또는 변환 참조 픽처를 지시하는 정보를 포함하는 것을 특징으로 하는 움직임 예측 방법.
12. 영상 부호화 방법에 있어서,
    참조 픽처 및 변환 참조 픽처에 탐색 영역을 설정하는 단계;
    상기 참조 픽처에서의 부호화 비용 및 상기 변환 참조 픽처에서의 부호화 비용을 산출하는 단계;
    상기 참조 픽처에서의 부호화 비용 및 상기 변환 참조 픽처에서의 부호화 비용을 비교하는 단계; 및
    상기 비교 결과에 기초하여 변환 참조 픽처 사용 정보를 부호화하는 단계를 포함하는 영상 부호화 방법.

Images