KR20230144426A - 영상 부호화/복호화 방법 및 장치 - Google Patents

Abstract

본 개시에서, 현재 블록의 인트라 예측 모드를 결정하는 단계, 인트라 예측 모드 및 현재 블록에 이웃한 참조 픽셀에 기초하여, 현재 블록의 예측 블록을 생성하는 단계, 생성된 예측 블록에 대하여 경계 평활화 필터링을 수행하는 단계, 및 경계 평활화 필터링이 수행된 예측 블록에 기초하여 현재 블록을 복호화하는 단계를 포함하는 비디오 복호화 방법이 제공된다.

Description

영상 부호화/복호화 방법 및 장치{IMAGE ENCODING/DECODING METHOD AND APPARATUS}

본 발명은 영상 부호화/복호화 방법 및 장치에 관한 것으로서, 보다 구체적으로는 화면 내 예측된 예측 화소에 대한 필터링을 수행하는 영상 부호화/복호화 방법 및 장치에 관한 것이다.

최근 HD(High Definition) 영상 및 UHD(Ultra High Definition) 영상과 같은 고해상도, 고품질의 영상에 대한 수요가 다양한 응용 분야에서 증가하고 있다. 영상 데이터가 고해상도, 고품질이 될수록 기존의 영상 데이터에 비해 상대적으로 데이터량이 증가하기 때문에 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 데이터를 전송하거나 기존의 저장 매체를 이용해 저장하는 경우, 전송 비용과 저장 비용이 증가하게 된다. 영상 데이터가 고해상도, 고품질화 됨에 따라 발생하는 이러한 문제들을 해결하기 위해서는 고효율의 영상 압축 기술들이 활용될 수 있다.

영상 압축 기술로 현재 픽처의 이전 또는 이후 픽처로부터 현재 픽처에 포함된 화소 값을 예측하는 화면 간 예측 기술, 현재 픽처 내의 화소 정보를 이용하여 현재 픽처에 포함된 화소 값을 예측하는 인트라 예측 기술, 출현 빈도가 높은 값에 짧은 부호를 할당하고 출현 빈도가 낮은 값에 긴 부호를 할당하는 엔트로피 부호화 기술 등 다양한 기술이 존재하고 이러한 영상 압축 기술을 이용해 영상 데이터를 효과적으로 압축하여 전송 또는 저장할 수 있다.

한편, 고해상도 영상에 대한 수요가 증가함과 함께, 새로운 영상 서비스로서 입체 영상 컨텐츠에 대한 수요도 함께 증가하고 있다. 고해상도 및 초고해상도의 입체 영상 콘텐츠를 효과적으로 제공하기 위한 비디오 압축 기술에 대하여 논의가 진행되고 있다.

본 발명은 화면 내 예측된 예측 화소에 대한 필터링을 수행하는 영상 부호화/복호화 방법 및 장치를 제공하는 것을 목적으로 한다.

또한, 본 발명은 본 발명의 영상 부호화 방법 또는 장치에 의해 생성된 비트스트림을 저장한 기록 매체를 제공하는 것을 목적으로 한다.

본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

본 개시에서, 현재 블록의 인트라 예측 모드를 결정하는 단계; 상기 인트라 예측 모드 및 상기 현재 블록에 이웃한 참조 픽셀에 기초하여, 상기 현재 블록의 예측 블록을 생성하는 단계; 상기 생성된 예측 블록에 대하여 경계 평활화 필터링 (boundary smoothing filtering)을 수행하는 단계; 및 상기 경계 평활화 필터링이 수행된 예측 블록에 기초하여 상기 현재 블록을 복호화하는 단계를 포함하는 비디오 복호화 방법이 제공된다.

일 실시 예에 따르면, 상기 현재 블록의 인트라 예측 모드가 수직 모드일 때, 상기 현재 블록의 예측 블록은 상기 현재 블록의 상측 참조 샘플에 기초하여 생성되고, 상기 예측 블록에 대한 상기 경계 평활화 필터링은 상기 현재 블록의 좌상측 참조 샘플과 좌측 참조 샘플의 차분 값에 기초하여 수행될 수 있다.

일 실시 예에 따르면, 상기 예측 블록에 대한 상기 경계 평활화 필터링은, 상기 좌상측 참조 샘플과 상기 좌측 참조 샘플의 차분 값에 적용되는 필터링 가중치에 기초하여 수행될 수 있다.

일 실시 예에 따르면, 상기 필터링 가중치는 상기 현재 블록의 제1 참조 차분 값과 제1 현재 차분 값의 상관도에 기초하여 결정될 수 있다.

일 실시 예에 따르면, 상기 제1 참조 차분 값은 상기 현재 블록의 제1 좌상측 참조 샘플과 제2 좌상측 참조 샘플의 차분 값이고, 상기 제1 좌상측 참조 샘플은 상기 현재 블록의 좌상측 꼭지점으로부터 좌상측에 인접한 참조 샘플이고, 상기 제2 좌상측 참조 샘플은 상기 제1 좌상측 참조 샘플의 상측에 인접한 참조 샘플일 수 있다.

일 실시 예에 따르면, 상기 제1 현재 차분 값은 상기 현재 블록의 제1 상측 참조 샘플과 제2 상측 참조 샘플의 차분 값이고, 상기 제1 상측 참조 샘플은 상기 현재 블록의 상측에 바로 인접한 참조 샘플이고, 상기 제2 상측 참조 샘플은 상기 제1 상측 참조 샘플의 상측에 인접한 참조 샘플일 수 있다.

일 실시 예에 따르면, 상기 상관도는, 상기 제1 참조 차분 값과 제1 상기 현재 차분 값의 차분 값에 기초하여 결정될 수 있다.

일 실시 예에 따르면, 상기 상관도는, 상기 제1 참조 차분 값과 상기 제1 현재 차분 값의 비율에 기초하여 결정될 수 있다.

일 실시 예에 따르면, 상기 예측 블록에 대한 상기 경계 평활화 필터링은, 상기 예측 블록의 상측에 인접한 소정의 개수의 행들에 위치한 샘플들에 대하여 수행될 수 있다.

일 실시 예에 따르면, 상기 현재 블록의 인트라 예측 모드가 수평 모드일 때, 상기 현재 블록의 예측 블록은 상기 현재 블록의 좌측 참조 샘플에 기초하여 생성되고, 상기 예측 블록에 대한 상기 경계 평활화 필터링은 상기 현재 블록의 좌상측 참조 샘플과 상측 참조 샘플의 차분 값에 기초하여 수행될 수 있다.

일 실시 예에 따르면, 상기 예측 블록에 대한 상기 경계 평활화 필터링은, 상기 좌상측 참조 샘플과 상기 상측 참조 샘플의 차분 값에 적용되는 필터링 가중치에 기초하여 수행될 수 있다.

일 실시 예에 따르면, 상기 필터링 가중치는 상기 현재 블록의 제2 참조 차분 값과 제2 현재 차분 값의 상관도에 기초하여 결정될 수 있다.

일 실시 예에 따르면, 상기 제2 참조 차분 값은 상기 현재 블록의 제1 좌상측 참조 샘플과 제3 좌상측 참조 샘플의 차분 값이고, 상기 제1 좌상측 참조 샘플은 상기 현재 블록의 좌상측 꼭지점으로부터 좌상측에 인접한 참조 샘플이고, 상기 제3 좌상측 참조 샘플은 상기 제1 좌상측 참조 샘플의 좌측에 인접한 참조 샘플일 수 있다.

일 실시 예에 따르면, 상기 제2 현재 차분 값은 상기 현재 블록의 제1 좌측 참조 샘플과 제2 좌측 참조 샘플의 차분 값이고, 상기 제1 좌측 참조 샘플은 상기 현재 블록의 좌측에 바로 인접한 참조 샘플이고, 상기 제2 좌측 참조 샘플은 상기 제1 좌측 참조 샘플의 좌측에 인접한 참조 샘플일 수 있다.

일 실시 예에 따르면, 상기 상관도는, 상기 제2 참조 차분 값과 상기 제2 현재 차분 값의 차분 값에 기초하여 결정될 수 있다.

일 실시 예에 따르면, 상기 상관도는, 상기 제2 참조 차분 값과 상기 제2 현재 차분 값의 비율에 기초하여 결정될 수 있다.

일 실시 예에 따르면, 상기 예측 블록에 대한 상기 경계 평활화 필터링은, 상기 예측 블록의 좌측에 인접한 소정의 개수의 열들에 위치한 샘플들에 대하여 수행될 수 있다.

일 실시 예에 따르면, 수직 모드 및 수평 모드에 있어서, 상기 상관도는 상기 현재 블록의 크기에 기초하여 결정될 수 있다.

본 개시에서, 현재 블록의 인트라 예측 모드를 결정하는 단계; 상기 인트라 예측 모드 및 상기 현재 블록에 이웃한 참조 픽셀에 기초하여, 상기 현재 블록의 예측 블록을 생성하는 단계; 상기 생성된 예측 블록에 대하여 경계 평활화 필터링 (boundary smoothing filtering)을 수행하는 단계; 및 상기 경계 평활화 필터링이 수행된 예측 블록에 기초하여 상기 현재 블록을 부호화하는 단계를 포함하는 비디오 부호화 방법이 제공된다.

본 개시에서, 부호화된 비디오에 대한 비트스트림을 저장한 컴퓨터로 판독가능한 기록매체에 있어서, 상기 컴퓨터로 판독가능한 기록매체는, 현재 블록의 인트라 예측 모드를 결정하는 단계; 상기 인트라 예측 모드 및 상기 현재 블록에 이웃한 참조 픽셀에 기초하여, 상기 현재 블록의 예측 블록을 생성하는 단계; 상기 생성된 예측 블록에 대하여 경계 평활화 필터링 (boundary smoothing filtering)을 수행하는 단계; 및 상기 경계 평활화 필터링이 수행된 예측 블록에 기초하여 상기 현재 블록을 부호화하는 단계를 포함하는 비디오 부호화 방법에 의하여 생성된 비트스트림을 포함하는 것을 특징으로 하는 컴퓨터로 판독가능한 기록매체가 제공된다.

본 발명에 따르면, 화면 내 예측된 예측 화소에 대한 필터링을 수행하는 영상 부호화/복호화 방법 및 장치가 제공될 수 있다.

또한, 본 발명에 따르면, 화면 내 예측된 예측 블록들의 예측 화소에 대한 필터링을 수행함으로써 현재 블록을 예측하는 방법 및 장치가 제공될 수 있다.

또한, 본 발명에 따르면, 본 발명에 따른 영상 부호화 방법/장치에 의해 생성된 비트스트림을 저장하는 컴퓨터 판독 가능한 기록 매체가 제공될 수 있다.

본 발명에 따른 영상 부호화 방법/장치에 의하여 영상 데이터가 효율적으로 인코딩 및 디코딩될 수 있다.

도 1은 영상 부호화 장치의 구성을 간략하게 나타낸 예시도이다.
도 2는 영상 부호화 장치의 예측부의 일 실시예를 도시한 예시도이다.
도 3은 동영상을 구성하는 동영상 프레임을 도시한 도면이다.
도 4는 수평 모드의 경계 평활화의 일 실시 예를 설명하기 위한 도면이다.
도 5는 수평 모드의 경계 평활화의 또 다른 일 실시 예를 설명하기 위한 도면이다.
도 6은 수직 모드의 경계 평활화의 또 다른 일 실시 예를 설명하기 위한 도면이다.
도 7은 수직 모드 또는 수평 모드의 경계 평활화 필터링이 적용되는 비디오 부호화 방법의 일 실시 예를 설명한다.
도 8은 수직 모드 또는 수평 모드의 경계 평활화 필터링이 적용되는 비디오 복호화 방법의 일 실시 예를 설명한다.

본 명세서에 첨부된 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.

본 명세서 전체에서, 어떤 부분이 다른 부분과 '연결'되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우 뿐 아니라, 그 중간에 다른 소자를 사이에 두고 전기적으로 연결되어 있는 경우도 포함한다.

또한, 본 명세서 전체에서 어떤 부분이 어떤 구성요소를 '포함'한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것을 의미한다.

또한, 제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.

또한, 본 명세서에서 설명되는 장치 및 방법에 관한 실시예에 있어서, 장치의 구성 일부 또는 방법의 단계 일부는 생략될 수 있다. 또한 장치의 구성 일부 또는 방법의 단계 일부의 순서가 변경될 수 있다. 또한 장치의 구성 일부 또는 방법의 단계 일부에 다른 구성 또는 다른 단계가 삽입될 수 있다.

또한, 본 발명의 제1 실시예의 일부 구성 또는 일부 단계는 본 발명의 제2 실시예에 부가되거나, 제2 실시예의 일부 구성 또는 일부 단계를 대체할 수 있다.

덧붙여, 본 발명의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 기술되고, 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있다. 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리 범위에 포함된다.

먼저, 본 출원에서 사용되는 용어를 간략히 설명하면 다음과 같다.

이하에서 후술할 복호화 장치(Video Decoding Apparatus)는 민간 보안 카메라, 민간 보안 시스템, 군용 보안 카메라, 군용 보안 시스템, 개인용 컴퓨터(PC, Personal Computer), 노트북 컴퓨터, 휴대형 멀티미디어 플레이어(PMP, Portable Multimedia Player), 무선 통신 단말기(Wireless Communication Terminal), 스마트 폰(Smart Phone), TV 응용 서버와 서비스 서버 등 서버 단말기에 포함된 장치일 수 있으며, 각종 기기 등과 같은 사용자 단말기, 유무선 통신망과 통신을 수행하기 위한 통신 모뎀 등의 통신 장치, 영상을 복호화 하거나 복호화를 위해 화면 간 또는 화면 내 예측하기 위한 각종 프로그램과 데이터를 저장하기 위한 메모리, 프로그램을 실행하여 연산 및 제어하기 위한 마이크로프로세서 등을 구비하는 다양한 장치를 의미할 수 있다.

또한, 부호화기에 의해 비트스트림(bitstream)으로 부호화된 영상은 실시간 또는 비실시간으로 인터넷, 근거리 무선 통신망, 무선랜망, 와이브로망, 이동통신망 등의 유무선 통신망 등을 통하거나 케이블, 범용 직렬 버스(USB, Universal Serial Bus)등과 같은 다양한 통신 인터페이스를 통해 영상 복호화 장치로 전송되어 복호화되어 영상으로 복원되고 재생될 수 있다. 또는 부호화기에 의해 생성된 비트스트림은 메모리에 저장될 수 있다. 상기 메모리는 휘발성 메모리와 비휘발성 메모리를 모두 포함할 수 있다. 본 명세서에서 메모리는 비트스트림을 저장한 기록 매체로 표현될 수 있다.

통상적으로 동영상은 일련의 픽처(Picture)들로 구성될 수 있으며, 각 픽처들은 블록(Block)과 같은 코딩 유닛(coding unit)으로 분할될 수 있다. 또한, 이하에 기재된 픽처라는 용어는 영상(Image), 프레임(Frame) 등과 같은 동등한 의미를 갖는 다른 용어로 대치되어 사용될 수 있음을 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 이해할 수 있을 것이다. 그리고 코딩 유닛이라는 용어는 단위 블록, 블록 등과 같은 동등한 의미를 갖는 다른 용어로 대치되어 사용될 수 있음을 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 이해할 수 있을 것이다.

이하, 첨부한 도면들을 참조하여, 본 발명의 실시예를 보다 상세하게 설명하고자 한다. 본 발명을 설명함에 있어 동일한 구성요소에 대해서 중복된 설명은 생략한다.

도 1은 영상 부호화 장치의 구성을 간략하게 나타낸 예시도이다.

영상 부호화 장치(100)는 영상 분할부(101), 화면 내 예측부(102), 화면 간 예측부(103), 감산부(104), 변환부(105), 양자화부(106), 엔트로피 부호화부(107), 역양자화부(108), 역변환부(109), 가산부(110), 필터부(111) 및 메모리(112)를 포함할 수 있다.

각 장치에서 최적의 정보를 선택하기 위해 RD-Cost(Rate Distortion Cost)를 비교할 수 있다. RD-Cost란 원본 블록과 복원된 블록 간의 왜곡 정보와 예측 모드 전송시에 발생하는 비트량을 이용하여 계산된 비용 값을 의미한다. 이 때 비용 값을 계산하기 위해 SAD(Sum of Absolute Difference), SATD(Sum of Absolute Transformed Difference), SSE(Sum of Square for Error) 등을 이용할 수도 있다.

도 1에 나타난 각 구성부들은 영상 부호화 장치에서 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시한 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성 단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수개의 구성부로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.

또한, 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성요소를 제외한 본 발명의 본질을 구현하는 데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성요소를 제외한 필수 구성요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.

영상 분할부(100)는 입력된 영상을 적어도 하나의 블록으로 분할할 수 있다. 이때, 입력된 영상은 픽처, 슬라이스, 타일, 세그먼트 등 다양한 형태와 크기를 가질 수 있다. 블록은 부호화 단위(CU), 예측 단위(PU) 또는 변환 단위(TU)를 의미할 수 있다. 상기 분할은 쿼드 트리(Quadtree), 바이너리 트리(Binary tree) 및 터너리 트리(Ternary tree) 중 적어도 하나에 기반하여 수행될 수 있다. 쿼드 트리는 상위 블록을 너비와 높이가 상위 블록의 절반인 하위 블록으로 사분할하는 방식이다. 바이너리 트리는 상위 블록을 너비 또는 높이 중 어느 하나가 상위 블록의 절반인 하위 블록으로 이분할하는 방식이다. 터너리 트리는 너비 또는 높이 중 어느 하나를 기준으로 상위 블록을 하위 블록으로 삼분할하는 방식이다. 전술한 바이너리 트리 및 터너리 트리 기반의 분할을 통해, 블록은 정방형 뿐만 아니라 비정방형의 형태를 가질 수 있다.

예측부(102, 103)는 화면 간 예측 예측을 수행하는 화면 간 예측부(103)와 화면 내 예측 예측을 수행하는 화면 내 예측부(102)를 포함할 수 있다. 예측 단위에 대해 화면 간 예측 예측을 사용할 것인지 또는 화면 내 예측 예측을 수행할 것인지를 결정하고, 각 예측 방법에 따른 구체적인 정보(예컨대, 화면 내 예측 모드, 모션 벡터, 참조 픽처 등)를 결정할 수 있다. 이때, 예측이 수행되는 처리 단위와 예측 방법 및 구체적인 내용이 정해지는 처리 단위는 다를 수 있다. 예컨대, 예측의 방법과 예측 모드 등은 예측 단위로 결정되고, 예측의 수행은 변환 단위로 수행될 수도 있다.

생성된 예측 블록과 원본 블록 사이의 잔차 값(잔차 블록)은 변환부(105)로 입력될 수 있다. 또한, 예측을 위해 사용한 예측 모드 정보, 모션 벡터 정보 등은 잔차 값과 함께 엔트로피 부호화부(107)에서 부호화되어 복호화기에 전달될 수 있다. 특정한 부호화 모드를 사용할 경우, 예측부(102, 103)를 통해 예측 블록을 생성하지 않고, 원본 블록을 그대로 부호화하여 복호화부에 전송하는 것도 가능하다.

화면 내 예측부(102)는 현재 픽처 내의 화소 정보인 현재 블록 주변의 참조 픽셀 정보를 기초로 예측 블록을 생성할 수 있다. 화면 내 예측 예측이 수행될 현재 블록의 주변 블록의 예측 모드가 화면 간 예측 예측인 경우, 화면 간 예측 예측이 적용된 주변 블록에 포함되는 참조 픽셀을, 화면 내 예측 예측이 적용된 주변의 다른 블록 내의 참조 픽셀로 대체될 수 있다. 즉, 참조 픽셀이 가용하지 않는 경우, 가용하지 않은 참조 픽셀 정보를, 가용한 참조 픽셀 중 적어도 하나의 참조 픽셀로 대체하여 사용할 수 있다.

화면 내 예측에서 예측 모드는 참조 픽셀 정보를 예측 방향에 따라 사용하는 방향성 예측 모드와 방향성 정보를 사용하지 않는 비방향성 모드를 가질 수 있다. 휘도 정보를 예측하기 위한 모드와 색차 정보를 예측하기 위한 모드는 상이할 수 있다. 색차 정보를 예측하기 위해 휘도 정보의 예측에 사용된 화면 내 예측 모드 정보 또는 예측된 휘도 신호 정보가 활용될 수 있다.

화면 내 예측부(102)는 AIS(Adaptive Intra Smoothing) 필터, 참조 화소 보간부, DC 필터를 포함할 수 있다. AIS 필터는 현재 블록의 참조 화소를 필터링하는 필터로서 현재 예측 단위의 예측 모드에 따라 필터의 적용 여부를 적응적으로 결정할 수 있다. 현재 블록의 예측 모드가 AIS 필터링을 수행하지 않는 모드일 경우, AIS 필터는 적용되지 않을 수 있다.

화면 내 예측부(102)의 참조 화소 보간부는 예측 단위의 화면 내 예측 모드가 참조 화소를 보간한 화소 값을 기초로 화면 내 예측을 수행하는 모드일 경우, 참조 화소를 보간하여 분수 단위 위치의 참조 화소를 생성할 수 있다. 현재 예측 단위의 예측 모드가 참조 화소를 보간하지 않고 예측 블록을 생성하는 예측 모드일 경우 참조 화소는 보간되지 않을 수 있다. DC 필터는 현재 블록의 예측 모드가 DC 모드일 경우 필터링을 통해서 예측 블록을 생성할 수 있다.

화면 간 예측부(103)는, 메모리(112)에 저장된 기 복원된 참조 영상과 움직임 정보를 이용하여 예측 블록을 생성한다. 움직임 정보는 예컨대 움직임 벡터, 참조 픽처 인덱스, 리스트 1 예측 플래그, 리스트 0 예측 플래그 등을 포함할 수 있다.

예측부(102, 103)에서 생성된 예측 단위와 예측 단위와 원본 블록 간의 차이 값인 잔차 값(Residual) 정보를 포함하는 잔차 블록이 생성될 수 있다. 생성된 잔차 블록은 변환부(105)로 입력되어 변환될 수 있다.

화면 간 예측부(103)는 현재 픽처의 이전 픽처 또는 이후 픽처 중 적어도 하나의 픽처의 정보를 기초로 예측 블록을 유도할 수 있다. 또한, 현재 픽처 내의 부호화가 완료된 일부 영역의 정보를 기초로, 현재 블록의 예측 블록을 유도할 수도 있다. 본 발명의 일 실시예에 따른 화면 간 예측부(103)는 참조 픽처 보간부, 움직임 예측부, 움직임 보상부를 포함할 수 있다.

참조 픽처 보간부에서는 메모리(112)로부터 참조 픽처 정보를 제공받고 참조 픽처에서 정수 화소 이하의 화소 정보를 생성할 수 있다. 휘도 화소의 경우, 1/4 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 8탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다. 색차 신호의 경우 1/8 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 4탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다.

움직임 예측부는 참조 픽처 보간부에 의해 보간된 참조 픽처를 기초로 모션 예측을 수행할 수 있다. 모션 벡터를 산출하기 위한 방법으로 FBMA(Full search-based Block Matching Algorithm), TSS(Three Step Search), NTS(New Three-Step Search Algorithm) 등 다양한 방법이 사용될 수 있다. 모션 벡터는 보간된 화소를 기초로 1/2 또는 1/4 화소 단위의 모션 벡터 값을 가질 수 있다. 움직임 예측부에서는 움직임 예측 방법을 다르게 하여 현재 블록의 예측 블록을 예측할 수 있다. 모션 예측 방법으로 스킵(Skip) 방법, 머지(Merge) 방법, AMVP(Advanced Motion Vector Prediction) 방법 등 다양한 방법이 사용될 수 있다.

감산부(104)는, 현재 부호화하려는 블록과 화면 내 예측부(102) 혹은 화면 간 예측부(103)에서 생성된 예측 블록을 감산하여 현재 블록의 잔차 블록을 생성한다.

변환부(105)에서는 잔차 데이터를 포함한 잔차 블록을 DCT, DST, KLT(Karhunen Loeve Transform) 등과 같은 변환 방법을 사용하여 변환할 수 있다. 이때 변환 방법은 잔차 블록을 생성하기 위해 사용된 예측 단위의 화면 내 예측 모드에 기반하여 결정될 수 있다. 예를 들어, 화면 내 예측 모드에 따라, 가로 방향으로는 DCT를 사용하고, 세로 방향으로는 DST를 사용할 수도 있다. 또는 현재 블록의 종횡비, 크기 등에 따라 가로 방향과 세로 방향으로 서로 다른 변환 기법들을 사용할 수도 있다.

양자화부(106)는 변환부(105)에서 주파수 영역으로 변환된 값들을 양자화할 수 있다. 블록에 따라 또는 영상의 중요도에 따라 양자화 계수는 변할 수 있다. 양자화부(106)에서 산출된 값은 역양자화부(108)와 엔트로피 부호화부(107)에 제공될 수 있다.

상기 변환부(105) 및/또는 양자화부(106)는, 영상 부호화 장치(100)에 선택적으로 포함될 수 있다. 즉, 영상 부호화 장치(100)는, 잔차 블록의 잔차 데이터에 대해 변환 또는 양자화 중 적어도 하나를 수행하거나, 변환 및 양자화를 모두 스킵하여 잔차 블록을 부호화할 수 있다. 영상 부호화 장치(100)에서 변환 또는 양자화 중 어느 하나가 수행되지 않거나, 변환 및 양자화 모두 수행되지 않더라도, 엔트로피 부호화부(107)의 입력으로 들어가는 블록을 통상적으로 변환 블록이라 일컫는다.

엔트로피 부호화부(107)는 입력 데이터를 엔트로피 부호화한다. 엔트로피 부호화는 예를 들어, 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 부호화 방법을 사용할 수 있다.

엔트로피 부호화부(107)는 변환 블록의 계수 정보, 블록 타입 정보, 예측 모드 정보, 분할 단위 정보, 예측 단위 정보, 전송 단위 정보, 모션 벡터 정보, 참조 프레임 정보, 블록의 보간 정보, 필터링 정보 등 다양한 정보를 부호화할 수 있다. 변환 블록의 계수들은, 변환 블록 내 서브 블록 단위로, 부호화될 수 있다.

변환 블록의 계수의 부호화를 위하여, 역스캔 순서로 최초의 0이 아닌 계수의 위치를 알리는 신택스 요소(syntax element)인 Last_sig, 서브블록 내에 0이 아닌 계수가 적어도 하나 이상 있는지를 알리는 플래그인 Coded_sub_blk_flag, 0이 아닌 계수인지를 알리는 플래그인 Sig_coeff_flag, 계수의 절대값이 1 보다 큰지를 알리는 플래그인 Abs_greater1_flag, 계수의 절대값이 2 보다 큰지를 알리는 플래그인 Abs_greater2_flag, 계수의 부호를 나타내는 플래그인 Sign_flag 등의 다양한 신택스 요소들이 부호화될 수 있다. 상기 신택스 요소들만으로 부호화되지 않는 계수의 잔여 값은 신택스 요소 remaining_coeff를 통해 부호화될 수 있다.

역양자화부(108) 및 역변환부(109)에서는 양자화부(106)에서 양자화된 값들을 역양자화하고 변환부(105)에서 변환된 값들을 역변환한다. 역양자화부(108) 및 역변환부(109)에서 생성된 잔차 값(Residual)은 예측부(102, 103)에 포함된 움직임 추정부, 움직임 보상부 및 화면 내 예측부(102)를 통해서 예측된 예측 단위와 합쳐져 복원 블록(Reconstructed Block)을 생성할 수 있다. 가산기(110)는, 예측부(102, 103)에서 생성된 예측 블록과, 역변환부(109)를 통해 생성된 잔차 블록을 가산하여 복원 블록을 생성한다.

필터부(111)는 디블록킹 필터, 오프셋 보정부, ALF(Adaptive Loop Filter) 중 적어도 하나를 포함할 수 있다.

디블록킹 필터는 복원된 픽처에서 블록 간의 경계로 인해 생긴 블록 왜곡을 제거할 수 있다. 디블록킹을 수행할지 여부를 판단하기 위해 블록에 포함된 몇 개의 열 또는 행에 포함된 픽셀을 기초로 현재 블록에 디블록킹 필터 적용 여부를 판단할 수 있다. 블록에 디블록킹 필터를 적용하는 경우 필요한 디블록킹 필터링 강도에 따라 강한 필터(Strong Filter) 또는 약한 필터(Weak Filter)를 적용할 수 있다. 또한 디블록킹 필터를 적용함에 있어 수직 필터링 및 수평 필터링 수행 시 수평 방향 필터링 및 수직 방향 필터링이 병행 처리되도록 할 수 있다.

오프셋 보정부는 디블록킹을 수행한 영상에 대해 픽셀 단위로 원본 영상과의 오프셋을 보정할 수 있다. 특정 픽처에 대한 오프셋 보정을 수행하기 위해 영상에 포함된 픽셀을 일정한 수의 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 픽셀의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다.

ALF(Adaptive Loop Filtering)는 필터링한 복원 영상과 원래의 영상을 비교한 값을 기초로 수행될 수 있다. 영상에 포함된 픽셀을 소정의 그룹으로 나눈 후 해당 그룹에 적용될 하나의 필터를 결정하여 그룹마다 차별적으로 필터링을 수행할 수 있다. ALF를 적용할지 여부에 관련된 정보는 휘도 신호는 부호화 단위(Coding Unit, CU) 별로 전송될 수 있고, 각각의 블록에 따라 적용될 ALF 필터의 모양 및 필터 계수는 달라질 수 있다. 또한, 적용 대상 블록의 특성에 상관없이 동일한 형태(고정된 형태)의 ALF 필터가 적용될 수도 있다.

메모리(112)는 필터부(111)를 통해 산출된 복원 블록 또는 픽처를 저장할 수 있고, 저장된 복원 블록 또는 픽처는 화면 간 예측을 수행할 때 예측부(102, 103)에 제공될 수 있다.

도 2는 영상 부호화 장치의 예측부의 일 실시예를 도시한 예시도이다.

현재 블록의 예측 모드가 화면 내 예측 모드인 경우, 화면 내 예측부(201)는 현재 블록의 주변으로부터 참조 화소를 유도하고 참조 화소를 필터링함으로써, 참조 화소를 생성할 수 있다. 참조 화소는 현재 블록 주변의 복원 화소를 이용하여 결정한다. 현재 블록의 주변에 일부 복원된 화소를 이용할 수 없거나 복원된 화소가 없는 경우, 이용 가능한 참조 화소를 이용할 수 없는 영역에 패딩하거나 화소가 가질 수 있는 값의 범위 중 중간 값을 이용하여 패딩할 수 있다. 참조 화소를 모두 유도한 후, AIS(Adaptive Intra Smoothing) 필터를 이용하여 참조 화소를 필터링을 할 수 있다.

화면 내 예측 모드 탐색부(202)는 M 개의 화면 내 예측 모드 중 하나의 모드를 결정할 수 있다. 여기서 M은 화면 내 예측 모드의 총 개수를 나타낸다. 화면 내 예측 모드는 방향성 예측 모드와 비방향성 예측 모드를 포함한다.

결정된 예측 모드와 필터링된 참조 화소를 이용하여 예측 블록이 생성된다. 화면 내 예측 모드 별로 RD-Cost를 비교하여 비용이 가장 낮은 하나의 화면 내 예측 모드를 선택할 수 있다.

화면 간 예측부(203)는 움직임 정보를 유도하는 방법에 따라 Merge 후보 탐색부(204)와 AMVP후보 탐색부(206)로 나눌 수 있다. Merger 후보 탐색부(204)는 현재 블록 주변에 복원된 블록 중 화면 간 예측이 사용된 참조 블록을 Merge 후보로 설정한다. Merge 후보는 부호화/복호화 장치에서 동일한 방법으로 유도하고, 동일한 개수를 사용한다. Merge 후보 개수는 부호화 장치에서 복호화 장치로 전송하거나, 미리 약속된 개수를 사용한다. 현재 블록 주변에 복원된 참조 블록으로부터 약속된 개수만큼의 Merge 후보를 유도하지 못한 경우, 현재 픽처가 아닌 다른 픽처에서 현재 블록과 동일한 위치에 존재하는 블록의 움직임 정보를 Merge 후보로서 이용할 수 있다. 혹은 현재 픽처를 기준으로 과거 방향의 움직임 정보와 미래 방향의 움직임 정보를 조합해서 부족한 Merge 후보로 유도할 수 있다. 또는 다른 참조 픽처의 동일한 위치의 블록을 Merge 후보로 설정할 수 있다.

AMVP 후보 탐색부(206)는 현재 블록의 움직임 정보를 움직임 추정부(207)에서 결정한다. 움직임 추정부(207)는 현재 블록과 가장 유사한 예측 블록을 복원된 픽처들로부터 찾는다.

화면 간 예측이 수행되는 경우, Merge 후보 탐색부(204)와 AMVP 후보 탐색부(206) 중 하나를 이용하여 현재 블록의 움직임 정보를 결정하고, 움직임 보상(208)는 결정된 움직임 정보에 기초하여 예측 블록을 생성한다.

도 3은 동영상을 구성하는 동영상 프레임을 도시한 도면이다.

동영상 데이터의 인코딩 및 디코딩은 움직임 예측(motion prediction) 기술을 기반으로 이루어진다. 예측은 시간 축을 기준으로 과거 프레임을 참조하거나 과거 프레임과 미래 프레임을 모두 참조하는 방식으로 수행된다. 현재 프레임을 부호화하거나 복호화하는데 참조되는 프레임을 참조 프레임이라고 한다. 그리고, 블록 기반 동영상 인코딩에서 동영상을 구성하는 하나의 정지영상(프레임)은 매크로블록과 매크로블록을 구성하는 서브블록으로 나누어져, 블록단위로 움직임이 예측되고 인코딩이 수행된다.

도 3을 참조하면, 동영상 데이터는 일련의 정지 영상으로 구성되어 있으며, 정지영상들은 GOP(Group of Picture) 단위 또는 CVS(Coded Video Sequence) 단위로 구분될 수 있다. 정지영상 하나하나를 프레임이라 한다. 하나의 GOP에는 I 프레임(310), P 프레임(320), B 프레임(330)이 포함되어 있다. I 프레임(310)은 참조 영상을 사용하지 않고 자체적으로 인코딩 또는 디코딩되는 프레임이며, P 프레임(320)과 B 프레임(330)은 참조 영상을 사용하여 움직임 추정 및 보상을 수행하여 인코딩 또는 디코딩되는 프레임이다.

일 실시 예에 따르면, 수평 모드 또는 수직 모드에 따른 인트라 예측이 수행될 경우, 예측 블록의 샘플들에 대한 경계 평활화(boundary smoothing)가 수행될 수 있다. 그리고 현재 블록에 인접한 이미 복호화된 샘플에 기초하여, 예측 블록의 경계에 인접한 샘플들에 대한 경계 평활화가 수행될 수 있다. 상기 경계 평활화를 수평 모드 또는 수직 모드에 따른 인트라 예측된 예측 블록에 적용함으로써 영상 부호화 및 영상 복호화 방법의 성능이 향상될 수 있다.

일 실시 예에 따르면, 인트라 예측에 33개의 방향성 예측 모드와 플래너 모드 및 DC 모드 중 최적의 모드가 사용될 수 있다. 또 다른 실시 예에 따르면, 인트라 예측에 65개의 방향성 예측 모드와 플래너 모드 및 DC 모드 중 최적의 모드가 사용될 수 있다. 또한, 직사각형 블록의 인트라 예측을 위하여 광각 예측이 인트라 예측에 사용될 수 있다.

일 실시 예에 따르면, 수평 모드는 모드 번호는 18이고 수직 모드의 모드 번호는 50로 결정될 수 있다. 수평 모드와 수직 모드는 플래너 모드 및 DC 모드 다음으로 빈번하게 선택되는 인트라 예측 모드로서, 수평 모드와 수직 모드의 예측 정확도가 개선될 경우, 전체 부호화율이 크게 개선될 수 있다. 예를 들어, 수평 모드와 수직 모드에 경계 평활화를 적용함에 있어, 예측 블록의 첫 번째 행 및 첫 번째 열 뿐만 아니라, 예측 블록의 M 번째 행 및 N 번째 열까지 경계 평활화를 적용할 수 있다. 상기 M 및 N은 2 이상이며, M과 N은 서로 같을 수 있다.

도 4는 수평 모드의 경계 평활화의 일 실시 예를 설명하기 위한 도면이다.

일 실시 예에 따르면, 수평 모드에서 예측 블록의 예측 샘플 P(x,y)는 수학식 1에 따라 좌측 참조 픽셀 R(-1, y)의 값으로 결정된다. R(-1, y)은 이미 복원된 왼쪽 이웃 블록에서 예측 샘플 P(x,y)과 같은 행에 위치한 샘플들 중 가장 오른쪽에 있는 샘플이다.

[수학식1]

P(x,y) = R(-1, y)

일 실시 예에 따르면, 수평 모드에서 예측 블록의 예측 샘플 P(x,y)는 수학식 2에 따라 결정될 수 있다. 식 2에 따르면, 좌측 참조 픽셀 R(-1, y)과 함께, 상측 참조 픽셀 R(x, -1) 및 좌상측 참조 픽셀 R(-1, -1)의 차이 값 (R(x, -1) - R(-1, -1))의 가중 평균이 예측 샘플 P(x,y) 결정에 이용될 수 있다.

[수학식2]

P(x,y)={64*R(-1, y)+[R(x, -1) - R(-1, -1)]*weight_H(y, w, h) + 32} >> 6,

weight_H(y, w, h) = 32 >> ((y << 1) >> scale),

scale = (log2(w) + log2(h) - 2) >> 2

상기 수학식 2에서 “>> 6”은 우측의 6개의 비트를 우측으로 시프트하는 우측 시프트 연산을 의미한다. 우측 시프트 연산에 따라 우측의 6개의 비트가 제거됨으로써, 우측 시프트 연산의 대상 값을 64로 나누는 효과가 발생한다.

상기 가중 평균에 필요한 가중치 weight_H(y, w, h)는 예측 샘플의 수직 위치 y, 예측 블록의 높이 h, 및 너비 w 에 의하여 결정될 수 있다. 구체적으로 weight_H(y, w, h)는 32 >> ((y << 1) >> scale)로 결정된다. 즉, ((y << 1) >> scale)의 값이 클수록 weight_H는 감소한다. 따라서 weight_H는 y가 클수록 (예측 픽셀의 위치가 상측 경계의 참조 픽셀에서 멀어 질수록) 감소하고 scale이 작을수록 (예측 블록의 크기가 작을 수록) weight_H는 감소한다.

상기 scale는 예측 블록의 크기를 정규화하기 위한 것이다. 8x8 예측 블록의 경우 scale은 (log2(8) + log2(8) - 2) >> 2 = (3 + 3 - 2) >> 2로서 4 >> 2 = 1이 된다. 32x32 예측 블록의 경우 scale은 (log2(32) + log2(32) - 2) >> 2 = (5 + 5 - 2) >> 2로서 8 >> 2 = 2가 된다. 즉, 예측 블록이 클수록 scale이 증가한다. 그리고 scale이 증가함에 따라 weight_H가 증가하는 바, 예측 블록이 클수록 weight_H가 증가한다.

수학식 2에 따르면, y = 0일 때, 예측 블록의 크기와 무관하게 ((y << 1) >> scale)는 0으로 결정된다. 즉, weight_H(y, w, h) = 32 >> 0 = 32가 된다. 따라서 첫 번째 행 (y = 0) 의 예측 블록의 샘플은 수학식 2가 변형된 “P(x,y)={64*R(-1, y)+[R(x, -1) - R(-1, -1)]*32 + 32} >> 6”에 기초하여 결정될 수 있다.

수학식 2에 따르면, y = 1일 때, ((y << 1) >> scale)는 (2 >> scale)로 결정된다. scale= 1 이면 (2 >> 1)은 1이 되고 weight_H(y, w, h) = 32 >> 1 = 16이 된다. 따라서, 두 번째 행 (y = 1) 의 예측 블록의 샘플은 수학식 2가 변형된 “P(x,y)={64*R(-1, y)+[R(x, -1) - R(-1, -1)]*16 + 32} >> 6” 에 기초하여 결정될 수 있다.

y =1 및 scale= 2일 경우, ((y << 1) >> scale) 는 0으로 결정된다. 따라서, weight_H(y, w, h)는 32로 결정된다. 즉, scale= 2일 경우, scale= 1일 때 비하여 weight_H(y, w, h) 값이 증가한다.

상기 수학식 2에 따른 경계 평활화는 블록의 크기 (w, h)와 예측 블록의 픽셀 위치 y에 의해서 고정되어 있음으로 예측 블록의 주변 픽셀의 상관정보를 사용하지 않아 압축 성능이 최적화되지 않을 수 있다.

도 5는 수평 모드의 경계 평활화의 또 다른 일 실시 예를 설명하기 위한 도면이다.

일 실시 예에 따르면, 수평 모드에서 예측 블록의 위치 (x,y)에서의 예측 값 P(x,y)는 수학식 3에 기초하여 계산될 수 있다.

[수학식3]

P(x,y) = R(-1, y) + [R(x, -1) - R(-1, -1)] * weight_H(y)

weight_H(y)는 참조 차분 값 R(-1, -1) - R(-2, -1)과 현재 차분 값 R(-1, y) - R(-2, y)의 상관도에 기초하여 결정될 수 있다. 예를 들어, weight_H(y)는 참조 차분 값과 현재 차분 값의 차분의 절대값으로 수학식4와 같이 구할 수 있다.

[수학식4]

weight_H(y) = abs{R(-1, -1) - R(-2, -1) - [R(-1, y) - R(-2, y)]}

수학식 5와 같이, weight_H(y)의 크기가 줄어들도록 우측 시프트 연산이 참조 차분 값과 현재 차분 값의 차분의 절대값에 적용될 수 있다. 수학식 5에서는 1비트의 우측 시프트 연산이 수행되지만, 실시 예에 따라, 2비트 이상의 우측 시프트 연산이 수행될 수 있다.

[수학식5]

weight_H(y) = abs{R(-1, -1) - R(-2, -1) - [R(-1, y) - R(-2, y)]} >> 1

수학식 6과 같이, weight_H(y)는 참조 차분 값 R(-1, -1) - R(-2, -1)에 대한 현재 차분 값 R(-1, y) - R(-2, y)의 비율로 계산될 수 있다.

[수학식6]

수평 모드에서 예측 블록의 위치 (x,y)에서의 예측 값 P(x,y)를 구하는 수학식 3은 컴퓨터에서 비트 연산으로 구현될 수 있도록 수학식 7 또는 수학식 8과 같이 변형될 수 있다. 수학식 7과 수학식 8은 표현 상의 차이가 있으나, 수학적으로 동일하다.

[수학식7]

P(x,y)={64*R(-1, y) + [R(x, -1) - R(-1, -1)]*(64 - weight_H(y)) + 32} >> 6

[수학식8]

P(x,y)={ R(-1, y)* weight_H(y) + [ R(-1, y) + R(x, -1) - R(-1, -1)]*(64 - weight_H(y)) + 32} >> 6

수학식 7에서 R(-1, y)와 R(x, -1) - R(-1, -1)에 적용되는 가중치들은 변경될 수 있다. 예를 들어, 상기 가중치들은 2^n, 2^n - weight_H(y)로 결정될 수 있다. 그리고 수학식 8에서 R(-1, y)와 R(-1, y) + R(x, -1) - R(-1, -1)에 적용되는 가중치들은 변경될 수 있다. 예를 들어, 상기 가중치들은 weight_H(y), 2^n - weight_H(y)로 결정될 수 있다. (상기 n은 양의 정수)

수학식 7 및 8의 가중치들이 적어도 0과 같거나 크도록, weight_H(y)의 최대값이 설정될 수 있다. 예를 들어, 64-weight_H(y)의 값이 0과 같거나 크도록 하기 위하여, weight_H(y)의 최대값이 64이 되도록 수학식 9와 같이 weight_H(y)가 클립핑될 수 있다.

[수학식9]

weight_H(y) = min (weight_H(y), 64)

일 실시예에 따르면, 수평 모드일 경우 수학식 10에 기초하여 y의 위치에 따라 경계 평활화가 수행될 수 있다.

[수학식10]

If (y <= th_h)

P(x,y) = {64*R(-1, y) + [R(x, -1) - R(-1, -1)]*(64 - weight_H(y))+ 32} >> 6

Else

P(x,y)= R(-1, y)

수학식 10에 따르면, 임계 값 th_h에 기초하여 샘플의 y 값에 따라, 다른 방법으로 P(x,y)에 대한 경계 평활화가 수행될 수 있다. 예를 들어, th_h = 2로 설정하면 블록의 첫번째 및 두번째 행의 샘플에 대하여 수학식 7 또는 수학식 8에 따라 경계 평활화가 수행될 수 있다. 그리고 나머지 행의 샘플에 대하여 경계 평활화가 수행되지 않을 수 있다.

도 6은 수직 모드의 경계 평활화의 또 다른 일 실시 예를 설명하기 위한 도면이다.

수직 모드에서 경계 평활화에 따른 예측 값 P(x,y)은 수학식 11 또는 수학식 12에 따라 컴퓨터에서 비트 연산으로 구현될 수 있다. 수학식 11과 수학식 12는 표현 상의 차이가 있으나, 수학적으로 동일하다.

[수학식11]

P(x,y) = {R(x, -1)*64 + [R(-1, y) - R(-1, -1)]*(64 - weight_V(x))+ 32} >> 6

[수학식12]

P(x,y) = {R(x, -1)*weight_V(x) + [R(-1, y) - R(-1, -1) + R(x, -1)]*(64 - weight_V(x))+ 32} >> 6

수학식 11에서 R(x, -1)와 R(-1, y) - R(-1, -1)에 적용되는 가중치들은 변경될 수 있다. 예를 들어, 상기 가중치들은 2^n, 2^n - weight_V(x)로 결정될 수 있다. 그리고 수학식 12에서 R(x, -1)와 R(-1, y) - R(-1, -1) + R(x, -1)에 적용되는 가중치들은 변경될 수 있다. 예를 들어, 상기 가중치들은 weight_V(x), 2^n - weight_V(x)로 결정될 수 있다. (상기 n은 양의 정수)

weight_V(x)는 참조 차분 값 R(-1, -1) - R(-1, -2)의 정보와 현재 차분 값 R(x, -1) - R(x, -2)의 상관도에 따라 결정될 수 있다. 예를 들어, weight_V(x)는 참조 차분 값 (R(-1, -1) - R(-1, -2)) 및 현재 차분 값 (R(x, -1) - R(x, -2))의 차분의 절대값으로 수학식 13과 같이 계산될 수 있다.

[수학식13]

weight_V(x) = abs{R(-1, -1) - R(-1, -2) - [R(x, -1) - R(x, -2)]}

수학식 14와 같이, weight_V(x)의 크기가 줄어들도록 우측 시프트 연산이 참조 차분 값과 현재 차분 값의 차분의 절대값에 적용될 수 있다.

[수학식14]

weight_V(x) = abs{R(-1, -1) - R(-1, -2) - [R(x, -1) - R(x, -2)]} << 1

수학식 15와 같이, weight_V(x)는 참조 차분 값 R(-1, -1) - R(-1, -2)에 대한 현재 차분 값 R(x, -1) - R(x, -2)의 비율로 계산될 수 있다.

[수학식15]

수학식 11 및 12의 가중치들이 적어도 0과 같거나 크도록, weight_V(x)의 최대값이 설정될 수 있다. 예를 들어, 64-weight_V(x)의 값이 0과 같거나 크도록 하기 위하여, weight_V(x)의 최대값이 64이 되도록 수학식 16과 같이 weight_V(x)가 클립핑될 수 있다.

[수학식16]

weight_V(x) = min (weight_V(x), 64)

일 실시예에 따르면, 수직 모드일 경우 수학식 17에 기초하여 x의 위치에 따라 경계 평활화가 수행될 수 있다.

[수학식17]

If (x < = th_v)

P(x,y) = {64 * R(x, -1) + [R(-1, y) - R(-1, -1)] * (64 - weight_V(x)+ 32} >> 6

Else

P(x,y) = R(x, -1)

수학식 17에 따르면, 임계 값 th_v에 기초하여 샘플의 x 값에 따라, 다른 방법으로 P(x,y)에 대한 경계 평활화가 수행될 수 있다. 예를 들어, th_v = 2로 설정하면 블록의 첫번째 및 두번째 열의 샘플에 대하여 수학식 11 또는 수학식 12에 따라 경계 평활화가 수행될 수 있다. 그리고 나머지 열의 샘플에 대하여 경계 평활화가 수행되지 않을 수 있다.

수학식 7, 수학식 8, 수학식 11, 및 수학식 12에 따른 예측 픽셀 값 P(x,y)은 픽셀의 비트 길이에 따른 픽셀 값의 범위에서 클리핑된다. 예를 들어, 픽셀의 비트 길이가 8비트의 경우에 픽셀 값의 범위는 [0..255]이며, 예측 픽셀 값 P(x,y)은 수학식 10에 기초하여 클리핑될 수 있다. 상기 픽셀 값의 범위는 픽셀의 비트 길이에 따라 달라질 수 있다. 예를 들어, 픽셀의 비트 길이는 8 비트보다 크도록 결정될 수 있다.

[수학식18]

P(x,y) = max( min( P(x,y), 255), 0)

이와 같이 인트라 예측 모드가 수평 모드이거나 수직 모드일 경우, 블록 경계에 인접한 예측 샘플에 대하여 경계 평활화를 적용함으로써 수평 모드 및 수직 모드의 예측 정확도가 향상될 수 있다. 그리고, 복원된 주변 샘플들로부터 도출된 정보를 기반으로 예측 샘플에 대한 경계 평활화를 수행함으로써, 경계 평활화의 효율성이 향상될 수 있다.

도 7은 수직 모드 또는 수평 모드의 경계 평활화 필터링이 적용되는 비디오 부호화 방법의 일 실시 예를 설명한다.

단계 702에서, 현재 블록의 인트라 예측 모드가 결정될 수 있다.

단계 704에서, 인트라 예측 모드 및 현재 블록에 이웃한 참조 픽셀에 기초하여, 현재 블록의 예측 블록이 생성될 수 있다.

단계 706에서, 생성된 예측 블록에 대하여 경계 평활화 필터링이 수행될 수 있다.

단계 708에서, 경계 평활화 필터링이 수행된 예측 블록에 기초하여 현재 블록이 부호화될 수 있다.

현재 블록의 인트라 예측 모드가 수직 모드일 때, 현재 블록의 예측 블록은 현재 블록의 상측 참조 샘플에 기초하여 생성되고, 예측 블록에 대한 경계 평활화 필터링은 현재 블록의 좌상측 참조 샘플과 좌측 참조 샘플의 차분 값에 기초하여 수행될 수 있다.

예측 블록에 대한 경계 평활화 필터링은, 좌상측 참조 샘플과 좌측 참조 샘플의 차분 값에 적용되는 필터링 가중치에 기초하여 수행될 수 있다. 상기 필터링 가중치는 현재 블록의 제1 참조 차분 값과 제1 현재 차분 값의 상관도에 기초하여 결정될 수 있다.

상기 제1 참조 차분 값은 상기 현재 블록의 제1 좌상측 참조 샘플과 제2 좌상측 참조 샘플의 차분 값으로 정의될 수 있다. 상기 제1 좌상측 참조 샘플은 현재 블록의 좌상측 꼭지점으로부터 좌상측에 인접한 참조 샘플이고, 상기 제2 좌상측 참조 샘플은 제1 좌상측 참조 샘플의 상측에 인접한 참조 샘플로 정의될 수 있다. 제2 좌상측 참조 샘플은 제1 좌상측 참조 샘플로부터 N 샘플 단위만큼 떨어져 있을 수 있다. 상기 N은 1 이상의 정수이다.

상기 제1 현재 차분 값은 상기 현재 블록의 제1 상측 참조 샘플과 제2 상측 참조 샘플의 차분 값으로 정의될 수 있다. 상기 제1 상측 참조 샘플은 현재 블록의 상측에 바로 인접한 참조 샘플이고, 상기 제2 상측 참조 샘플은 제1 상측 참조 샘플의 상측에 인접한 참조 샘플로 정의될 수 있다. 제2 상측 참조 샘플은 제1 상측 참조 샘플로부터 N 샘플 단위만큼 떨어져 있을 수 있다. 상기 N은 1 이상의 정수이다.

제1 참조 차분 값과 제1 현재 차분 값의 상관도는, 제1 참조 차분 값과 제1 현재 차분 값의 차분 값에 기초하여 결정될 수 있다. 또한, 상기 상관도는 제1 참조 차분 값과 제1 현재 차분 값의 차분 값의 절대 값에 기초하여 결정될 수 있다. 또한 상기 상관도는 제1 참조 차분 값과 제1 현재 차분 값의 비율에 기초하여 결정될 수 있다.

예측 블록에 대한 경계 평활화 필터링은, 예측 블록의 상측에 인접한 소정의 개수의 행들에 위치한 샘플들에 대하여 수행될 수 있다. 그리고 예측 블록의 나머지 행들에 위치한 샘플들에 대하여는 경계 평활화 필터링이 적용되지 않을 수 있다.

현재 블록의 인트라 예측 모드가 수평 모드일 때, 현재 블록의 예측 블록은 상기 현재 블록의 좌측 참조 샘플에 기초하여 생성되고, 예측 블록에 대한 경계 평활화 필터링은 현재 블록의 좌상측 참조 샘플과 상측 참조 샘플의 차분 값에 기초하여 수행될 수 있다.

예측 블록에 대한 경계 평활화 필터링은 좌상측 참조 샘플과 상측 참조 샘플의 차분 값에 적용되는 필터링 가중치에 기초하여 수행될 수 있다. 상기 필터링 가중치는 현재 블록의 제2 참조 차분 값과 제2 현재 차분 값의 상관도에 기초하여 결정될 수 있다.

상기 제2 참조 차분 값은 현재 블록의 제1 좌상측 참조 샘플과 제3 좌상측 참조 샘플의 차분 값으로 정의될 수 있다. 상기 제1 좌상측 참조 샘플은 현재 블록의 좌상측 꼭지점으로부터 좌상측에 인접한 참조 샘플이고, 상기 제3 좌상측 참조 샘플은 제1 좌상측 참조 샘플의 좌측에 인접한 것으로 정의될 수 있다. 제3 좌상측 참조 샘플은 제1 좌상측 참조 샘플로부터 N 샘플 단위만큼 떨어져 있을 수 있다. 상기 N은 1 이상의 정수이다.

상기 제1 현재 차분 값은 상기 현재 블록의 제1 상측 참조 샘플과 제2 상측 참조 샘플의 차분 값으로 정의될 수 있다. 상기 제1 상측 참조 샘플은 현재 블록의 상측에 바로 인접한 참조 샘플이고, 상기 제2 상측 참조 샘플은 제1 상측 참조 샘플의 상측에 인접한 참조 샘플로 정의될 수 있다. 제2 상측 참조 샘플은 제1 상측 참조 샘플로부터 N 샘플 단위만큼 떨어져 있을 수 있다. 상기 N은 1 이상의 정수이다.

상기 제2 현재 차분 값은 상기 현재 블록의 제1 좌측 참조 샘플과 제2 좌측 참조 샘플의 차분 값으로 정의될 수 있다. 상기 제1 좌측 참조 샘플은 현재 블록의 좌측에 바로 인접한 참조 샘플이고, 상기 제2 좌측 참조 샘플은 제1 좌측 참조 샘플의 좌측에 인접한 참조 샘플로 정의될 수 있다. 제2 좌측 참조 샘플은 제1 좌측 참조 샘플로부터 N 샘플 단위만큼 떨어져 있을 수 있다. 상기 N은 1 이상의 정수이다.

제2 참조 차분 값과 제2 현재 차분 값의 상관도는, 제2 참조 차분 값과 제2 현재 차분 값의 차분 값에 기초하여 결정될 수 있다. 또한, 상기 상관도는 제2 참조 차분 값과 제2 현재 차분 값의 차분 값의 절대 값에 기초하여 결정될 수 있다. 또한 상기 상관도는 제2 참조 차분 값과 제2 현재 차분 값의 비율에 기초하여 결정될 수 있다.

예측 블록에 대한 경계 평활화 필터링은, 예측 블록의 좌측에 인접한 소정의 개수의 열들에 위치한 샘플들에 대하여 수행될 수 있다. 그리고 예측 블록의 나머지 열들에 위치한 샘플들에 대하여는 경계 평활화 필터링이 적용되지 않을 수 있다.

상기 수평 모드 및 상기 수직 모드에 의하여 생성된 예측 블록의 경계 평활화 필터링에 있어서, 상기 상관도는 현재 블록의 크기에 기초하여 결정될 수 있다.

도 8은 수직 모드 또는 수평 모드의 경계 평활화 필터링이 적용되는 비디오 복호화 방법의 일 실시 예를 설명한다.

단계 802에서, 현재 블록의 인트라 예측 모드가 결정된다.

단계 804에서, 인트라 예측 모드 및 현재 블록에 이웃한 참조 픽셀에 기초하여, 현재 블록의 예측 블록이 생성된다.

단계 806에서, 생성된 예측 블록에 대하여 경계 평활화 필터링이 수행된다.

단계 808에서, 경계 평활화 필터링이 수행된 예측 블록에 기초하여 현재 블록이 복호화된다.

단계 806의 경계 평활화 필터링은 도 7의 단계 706의 평활화 필터링에 대한 실시 예에 기초하여 수행될 수 있다.

도 7의 비디오 부호화 방법에 의하여 생성된 비트스트림은 컴퓨터로 기록가능한 기록매체에 저장될 수 있다. 또한 도 7의 비디오 부호화 방법에 의하여 생성된 비트스트림은 비디오 부호화 장치에서 비디오 복호화 장치로 전송될 수 있다.

컴퓨터로 기록가능한 기록매체에 저장된 비디오 데이터에 대한 비트스트림은 도 8의 비디오 복호화 방법에 의하여 복호화 될 수 있다. 또한, 비디오 부호화 장치로부터 비디오 복호화 장치로 전송된 비트스트림은 도 8의 비디오 복호화 방법에 의하여 복호화 될 수 있다.

본 개시의 다양한 실시예는 모든 가능한 조합을 나열한 것이 아니고 본 개시의 대표적인 양상을 설명하기 위한 것이며, 다양한 실시 예에서 설명하는 사항들은 독립적으로 적용되거나 또는 둘 이상의 조합으로 적용될 수도 있다.

또한, 본 개시의 다양한 실시예는 하드웨어, 펌웨어(firmware), 소프트웨어, 또는 그들의 결합 등에 의해 구현될 수 있다. 하드웨어에 의한 구현의 경우, 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 범용 프로세서(general processor), 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.

본 개시의 범위는 다양한 실시 예의 방법에 따른 동작이 장치 또는 컴퓨터 상에서 실행되도록 하는 소프트웨어 또는 머신-실행가능한 명령들(예를 들어, 운영체제, 애플리케이션, 펌웨어(firmware), 프로그램 등), 및 이러한 소프트웨어 또는 명령 등이 저장되어 장치 또는 컴퓨터 상에서 실행 가능한 비-일시적 컴퓨터-판독가능 매체(non-transitory computer-readable medium)를 포함한다.

Claims (20)

1. 현재 블록의 인트라 예측 모드를 결정하는 단계;
   상기 인트라 예측 모드 및 상기 현재 블록에 이웃한 참조 픽셀에 기초하여, 상기 현재 블록의 예측 블록을 생성하는 단계;
   상기 생성된 예측 블록에 대하여 경계 평활화 필터링 (boundary smoothing filtering)을 수행하는 단계; 및
   상기 경계 평활화 필터링이 수행된 예측 블록에 기초하여 상기 현재 블록을 복호화하는 단계를 포함하는 비디오 복호화 방법.
   
2. 제1항에 있어서,
   상기 현재 블록의 인트라 예측 모드가 수직 모드일 때,
   상기 현재 블록의 예측 블록은 상기 현재 블록의 상측 참조 샘플에 기초하여 생성되고,
   상기 예측 블록에 대한 상기 경계 평활화 필터링은 상기 현재 블록의 좌상측 참조 샘플과 좌측 참조 샘플의 차분 값에 기초하여 수행되는 것을 특징으로 하는 비디오 복호화 방법.
   
3. 제2항에 있어서,
   상기 예측 블록에 대한 상기 경계 평활화 필터링은,
   상기 좌상측 참조 샘플과 상기 좌측 참조 샘플의 차분 값에 적용되는 필터링 가중치에 기초하여 수행되는 것을 특징으로 하는 비디오 복호화 방법.
   
4. 제3항에 있어서,
   상기 필터링 가중치는 상기 현재 블록의 제1 참조 차분 값과 제1 현재 차분 값의 상관도에 기초하여 결정되는 것을 특징으로 하는 비디오 복호화 방법.
   
5. 제4항에 있어서,
   상기 제1 참조 차분 값은 상기 현재 블록의 제1 좌상측 참조 샘플과 제2 좌상측 참조 샘플의 차분 값이고,
   상기 제1 좌상측 참조 샘플은 상기 현재 블록의 좌상측 꼭지점으로부터 좌상측에 인접한 참조 샘플이고,
   상기 제2 좌상측 참조 샘플은 상기 제1 좌상측 참조 샘플의 상측에 인접한 참조 샘플인 것을 특징으로 하는 비디오 복호화 방법.
   
6. 제4항에 있어서,
   상기 제1 현재 차분 값은 상기 현재 블록의 제1 상측 참조 샘플과 제2 상측 참조 샘플의 차분 값이고,
   상기 제1 상측 참조 샘플은 상기 현재 블록의 상측에 바로 인접한 참조 샘플이고,
   상기 제2 상측 참조 샘플은 상기 제1 상측 참조 샘플의 상측에 인접한 참조 샘플인 것을 특징으로 하는 비디오 복호화 방법.
   
7. 제4항에 있어서,
   상기 상관도는,
   상기 제1 참조 차분 값과 제1 상기 현재 차분 값의 차분 값에 기초하여 결정되는 것을 특징으로 하는 비디오 복호화 방법.
   
8. 제4항에 있어서,
   상기 상관도는,
   상기 제1 참조 차분 값과 상기 제1 현재 차분 값의 비율에 기초하여 결정되는 것을 특징으로 하는 비디오 복호화 방법.
   
9. 제2항에 있어서,
   상기 예측 블록에 대한 상기 경계 평활화 필터링은,
   상기 예측 블록의 상측에 인접한 소정의 개수의 행들에 위치한 샘플들에 대하여 수행되는 것을 특징으로 하는 비디오 복호화 방법.
   
   
10. 제1항에 있어서,
    상기 현재 블록의 인트라 예측 모드가 수평 모드일 때,
    상기 현재 블록의 예측 블록은 상기 현재 블록의 좌측 참조 샘플에 기초하여 생성되고,
    상기 예측 블록에 대한 상기 경계 평활화 필터링은 상기 현재 블록의 좌상측 참조 샘플과 상측 참조 샘플의 차분 값에 기초하여 수행되는 것을 특징으로 하는 비디오 복호화 방법.
    
11. 제10항에 있어서,
    상기 예측 블록에 대한 상기 경계 평활화 필터링은,
    상기 좌상측 참조 샘플과 상기 상측 참조 샘플의 차분 값에 적용되는 필터링 가중치에 기초하여 수행되는 것을 특징으로 하는 비디오 복호화 방법.
    
12. 제11항에 있어서,
    상기 필터링 가중치는 상기 현재 블록의 제2 참조 차분 값과 제2 현재 차분 값의 상관도에 기초하여 결정되는 것을 특징으로 하는 비디오 복호화 방법.
    
13. 제12항에 있어서,
    상기 제2 참조 차분 값은 상기 현재 블록의 제1 좌상측 참조 샘플과 제3 좌상측 참조 샘플의 차분 값이고,
    상기 제1 좌상측 참조 샘플은 상기 현재 블록의 좌상측 꼭지점으로부터 좌상측에 인접한 참조 샘플이고,
    상기 제3 좌상측 참조 샘플은 상기 제1 좌상측 참조 샘플의 좌측에 인접한 참조 샘플인 것을 특징으로 하는 비디오 복호화 방법.
    
14. 제12항에 있어서,
    상기 제2 현재 차분 값은 상기 현재 블록의 제1 좌측 참조 샘플과 제2 좌측 참조 샘플의 차분 값이고,
    상기 제1 좌측 참조 샘플은 상기 현재 블록의 좌측에 바로 인접한 참조 샘플이고,
    상기 제2 좌측 참조 샘플은 상기 제1 좌측 참조 샘플의 좌측에 인접한 참조 샘플인 것을 특징으로 하는 비디오 복호화 방법.
    
15. 제12항에 있어서,
    상기 상관도는,
    상기 제2 참조 차분 값과 상기 제2 현재 차분 값의 차분 값에 기초하여 결정되는 것을 특징으로 하는 비디오 복호화 방법.
    
16. 제12항에 있어서,
    상기 상관도는,
    상기 제2 참조 차분 값과 상기 제2 현재 차분 값의 비율에 기초하여 결정되는 것을 특징으로 하는 비디오 복호화 방법.
    
17. 제10항에 있어서,
    상기 예측 블록에 대한 상기 경계 평활화 필터링은,
    상기 예측 블록의 좌측에 인접한 소정의 개수의 열들에 위치한 샘플들에 대하여 수행되는 것을 특징으로 하는 비디오 복호화 방법.
    
18. 제4항 및 제12항 중 어느 한 항에 있어서,
    상기 상관도는 상기 현재 블록의 크기에 기초하여 결정되는 것을 특징으로 하는 비디오 복호화 방법.
    
19. 현재 블록의 인트라 예측 모드를 결정하는 단계;
    상기 인트라 예측 모드 및 상기 현재 블록에 이웃한 참조 픽셀에 기초하여, 상기 현재 블록의 예측 블록을 생성하는 단계;
    상기 생성된 예측 블록에 대하여 경계 평활화 필터링 (boundary smoothing filtering)을 수행하는 단계; 및
    상기 경계 평활화 필터링이 수행된 예측 블록에 기초하여 상기 현재 블록을 부호화하는 단계를 포함하는 비디오 부호화 방법.
    
20. 부호화된 비디오에 대한 비트스트림을 저장한 컴퓨터로 판독가능한 기록매체에 있어서,
    상기 컴퓨터로 판독가능한 기록매체는,
    현재 블록의 인트라 예측 모드를 결정하는 단계;
    상기 인트라 예측 모드 및 상기 현재 블록에 이웃한 참조 픽셀에 기초하여, 상기 현재 블록의 예측 블록을 생성하는 단계;
    상기 생성된 예측 블록에 대하여 경계 평활화 필터링 (boundary smoothing filtering)을 수행하는 단계; 및
    상기 경계 평활화 필터링이 수행된 예측 블록에 기초하여 상기 현재 블록을 부호화하는 단계를 포함하는 비디오 부호화 방법에 의하여 생성된 비트스트림을 포함하는 것을 특징으로 하는 컴퓨터로 판독가능한 기록매체.

Images