KR101449683B1 - 움직임 벡터 해상도 제한을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치 - Google Patents

움직임 벡터 해상도 제한을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치 Download PDF

Info

Publication number
KR101449683B1
KR101449683B1 KR1020100106747A KR20100106747A KR101449683B1 KR 101449683 B1 KR101449683 B1 KR 101449683B1 KR 1020100106747 A KR1020100106747 A KR 1020100106747A KR 20100106747 A KR20100106747 A KR 20100106747A KR 101449683 B1 KR101449683 B1 KR 101449683B1
Authority
KR
South Korea
Prior art keywords
motion vector
resolution
image
motion
limiting
Prior art date
Application number
KR1020100106747A
Other languages
English (en)
Other versions
KR20110048004A (ko
Inventor
김수년
임정연
이규민
최재훈
한종기
이영렬
문주희
김해광
전병우
서찬원
Original Assignee
에스케이텔레콤 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이텔레콤 주식회사 filed Critical 에스케이텔레콤 주식회사
Priority to KR1020100106747A priority Critical patent/KR101449683B1/ko
Priority to PCT/KR2010/007548 priority patent/WO2011053054A2/ko
Publication of KR20110048004A publication Critical patent/KR20110048004A/ko
Application granted granted Critical
Publication of KR101449683B1 publication Critical patent/KR101449683B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding

Abstract

본 발명의 실시예는 움직임 벡터 해상도 제한을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치에 관한 것이다.
본 발명의 실시예는 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따른 부호화 비용을 계산하고, 제한 단계별로 계산된 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하며, 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정되는 움직임 벡터가 부호화된 움직임 벡터 부호화 데이터 및 상기 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인을 부호화하여 해상도 제한 색인 데이터를 출력하는 것을 특징으로 하는 움직임 벡터 부호화 방법을 제공한다.
본 발명의 실시예에 의하면, 움직임 벡터의 해상도를 적응적으로 제한하여 움직임 벡터를 결정하고 부호화함으로써 압축 효율을 향상시킬 수 있다.

Description

움직임 벡터 해상도 제한을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치{Motion Vector Coding Method and Apparatus by Using Motion Vector Resolution Restriction and Video Coding Method and Apparatus Using Same}
본 발명은 움직임 벡터 해상도 제한을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치에 관한 것이다. 더욱 상세하게는, 영상을 부호화하는 데 있어서 움직임 벡터의 해상도를 적응적으로 제한하여 움직임 벡터를 결정하고 부호화하여 압축 효율을 향상시키기 위한 방법 및 장치에 관한 것이다.
이 부분에 기술된 내용은 단순히 본 발명의 실시예에 대한 배경 정보를 제공할 뿐 반드시 종래기술을 구성하는 것은 아니다.
H.264/AVC은 현재까지 표준화된 비디오 코덱(Video Coder and Decode)들 중 가장 압축률이 뛰어난 비디오 코덱에 대한 표준이다. H.264/AVC 표준에는 압축 효율을 높이기 위하여 방향성을 고려한 인트라 예측(Intra Prediction), 4x4 화소 단위의 정수 변환(Integer Transform), 16x16 화소 크기부터 4x4 화소 크기까지의 다양한 크기를 가지는 블록 모드(Block Mode), 디블록킹 필터(Deblocking Filter) 등을 이용하여 영상을 예측 부호화한다. 이뿐만 아니라, H.264/AVC 표준에서는 더욱 정확한 움직임 벡터를 찾기 위하여 1/2 화소 단위와 1/4 화소 단위까지 영상을 보간하여 움직임 추정을 수행한다.
하지만, 전술한 바와 같이 H.264/AVC 표준에서는 1/2 화소 단위, 1/4 화소 단위 등 다양한 해상도로 움직임을 추정함으로써 다양한 해상도의 움직임 벡터를 결정하고 부호화하기 때문에 1/2 화소 단위, 1/4 화소 단위의 해상도의 움직임 벡터를 부호화하기 위해 긴 코드워드(Code Word)가 사용되므로, 작은 크기의 움직임 벡터를 부호화하기 위한 비트량이 증가하므로 결과적으로 부호화되는 비트스트림의 비트량이 증가하여 압축 효율이 저하되는 문제점이 있다.
전술한 문제점을 해결하기 위해 본 발명의 실시예는, 움직임 벡터의 해상도를 적응적으로 제한하여 움직임 벡터를 결정하고 부호화하여 압축 효율을 향상시키는 데 주된 목적이 있다.
전술한 목적을 달성하기 위해 본 발명의 일 실시예는, 영상을 부호화/복호화하는 장치에 있어서, 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따라 상기 영상의 움직임 벡터를 결정하고 상기 결정되는 움직임 벡터를 이용하여 상기 영상의 예측 영상을 생성하고 상기 영상과 상기 예측 영상을 감산하고 변환 및 양자화한 후 부호화하여 제한 단계별 영상 부호화 데이터를 생성하고, 상기 제한 단계별 영상 부호화 데이터의 부호화 비용을 계산하고, 상기 제한 단계별 영상 부호화 데이터의 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하며, 상기 선택된 제한 단계에 따른 움직임 벡터 해상도에 따라 결정되는 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터 및 상기 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인을 부호화하여 해상도 제한 색인 데이터를 출력하는 영상 부호화기; 및 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 복원되는 움직임 벡터 해상도의 제한 단계에 따라 상기 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하며, 상기 비트스트림으로부터 변환 및 양자화된 잔여 영상을 복원하고 역 양자화 및 역 변환하여 영상을 복원하고, 상기 복원되는 움직임 벡터를 이용하여 상기 영상의 예측 영상을 생성하고 상기 잔여 영상과 상기 예측 영상을 가산하여 상기 영상을 복원하는 영상 복호화기를 포함하는 것을 특징으로 하는 영상 부호화/복호화 장치를 제공한다.
또한, 본 발명의 다른 목적을 달성하기 위해 본 발명의 일 실시예는, 영상을 부호화하는 장치에 있어서, 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따라 영상의 움직임 벡터를 결정하고 결정되는 움직임 벡터를 이용하여 영상의 예측 영상을 생성하는 예측기; 영상과 예측 영상을 감산하여 잔여 영상을 생성하는 감산기; 잔여 영상을 변환 및 양자화하는 변환기 및 양자화기; 및 변환 및 양자화된 잔여 영상을 부호화하여 제한 단계별 영상 부호화 데이터를 생성하고, 제한 단계별 영상 부호화 데이터의 부호화 비용을 계산하며, 제한 단계별 영상 부호화 데이터의 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하며, 선택된 제한 단계에 따른 움직임 벡터 해상도에 따라 결정되는 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터 및 상기 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인 데이터를 포함하는 비트스트림을 생성하는 부호화기를 포함하는 것을 특징으로 하는 영상 부호화 장치를 제공한다.
또한, 본 발명의 다른 목적을 달성하기 위해 본 발명의 일 실시예는, 영상을 복호화하는 장치에 있어서, 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 복원되는 움직임 벡터 해상도의 제한 단계에 따라 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하며, 비트스트림으로부터 추출되는 영상 부호화 데이터를 복호화하여 변환 및 양자화된 잔여 영상을 복원하는 복호화기; 변환 및 양자화된 잔여 영상을 역 양자화 및 역 변환하여 잔여 영상을 복원하는 역 양자화기 및 역 변환기; 복원되는 움직임 벡터를 이용하여 영상의 예측 영상을 생성하는 예측기; 및 잔여 영상과 예측 영상을 가산하여 영상을 복원하는 가산기를 포함하는 것을 특징으로 하는 영상 복호화 장치를 제공한다.
또한, 본 발명의 다른 목적을 달성하기 위해 본 발명의 일 실시예는, 움직임 벡터를 부호화하는 장치에 있어서, 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따른 부호화 비용을 계산하는 부호화 비용 계산기; 제한 단계별로 계산된 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하는 제한 해상도 결정기; 및 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정되는 움직임 벡터가 부호화된 움직임 벡터 부호화 데이터 및 상기 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인을 부호화하여 해상도 제한 색인 데이터를 출력하는 움직임 정보 부호화기를 포함하는 것을 특징으로 하는 움직임 벡터 부호화 장치를 제공한다.
또한, 본 발명의 다른 목적을 달성하기 위해 본 발명의 일 실시예는, 움직임 벡터를 복호화하는 장치에 있어서, 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 움직임 벡터 해상도의 제한 단계를 복원하는 제한 해상도 복원기; 및 복원되는 움직임 벡터 해상도의 제한 단계에 따라 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하는 움직임 벡터 복원기를 포함하는 것을 특징으로 하는 움직임 벡터 복호화 장치를 제공한다.
또한, 본 발명의 다른 목적을 달성하기 위해 본 발명의 일 실시예는, 영상을 부호화/복호화하는 방법에 있어서, 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따라 상기 영상의 움직임 벡터를 결정하고 상기 결정되는 움직임 벡터를 이용하여 상기 영상의 예측 영상을 생성하고 상기 영상과 상기 예측 영상을 감산하고 변환 및 양자화한 후 부호화하여 제한 단계별 영상 부호화 데이터를 생성하고, 상기 제한 단계별 영상 부호화 데이터의 부호화 비용을 계산하고, 상기 제한 단계별 영상 부호화 데이터의 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하며, 상기 선택된 제한 단계에 따른 움직임 벡터 해상도에 따라 결정되는 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터 및 상기 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인을 부호화하여 해상도 제한 색인 데이터를 출력하는 영상 부호화단계; 및 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 복원되는 움직임 벡터 해상도의 제한 단계에 따라 상기 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하며, 상기 비트스트림으로부터 변환 및 양자화된 잔여 영상을 복원하고 역 양자화 및 역 변환하여 영상을 복원하고, 상기 복원되는 움직임 벡터를 이용하여 상기 영상의 예측 영상을 생성하고 상기 잔여 영상과 상기 예측 영상을 가산하여 상기 영상을 복원하는 영상 복호화단계를 포함하는 것을 특징으로 하는 영상 부호화/복호화 방법을 제공한다.
또한, 본 발명의 다른 목적을 달성하기 위해 본 발명의 일 실시예는, 영상을 부호화하는 방법에 있어서, 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따라 영상의 움직임 벡터를 결정하는 단계; 결정되는 움직임 벡터를 이용하여 영상의 예측 영상을 생성하는 단계; 영상과 예측 영상을 감산하여 잔여 영상을 생성하는 단계; 잔여 영상을 변환 및 양자화하는 단계; 변환 및 양자화된 잔여 영상을 부호화하여 제한 단계별 영상 부호화 데이터를 생성하는 단계; 제한 단계별 영상 부호화 데이터의 부호화 비용을 계산하는 단계; 제한 단계별 영상 부호화 데이터의 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하는 단계; 및 선택된 제한 단계에 따른 움직임 벡터 해상도에 따라 결정되는 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터 및 상기 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인 데이터를 포함하는 비트스트림을 생성하는 단계를 포함하는 것을 특징으로 하는 영상 부호화 방법을 제공한다.
또한, 본 발명의 다른 목적을 달성하기 위해 본 발명의 일 실시예는, 영상을 복호화하는 방법에 있어서, 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 복원되는 움직임 벡터 해상도의 제한 단계에 따라 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하는 단계; 비트스트림으로부터 추출되는 영상 부호화 데이터를 복호화하여 변환 및 양자화된 잔여 영상을 복원하는 단계; 변환 및 양자화된 잔여 영상을 역 양자화 및 역 변환하여 잔여 영상을 복원하는 단계; 복원되는 움직임 벡터를 이용하여 영상의 예측 영상을 생성하는 단계; 및 잔여 영상과 예측 영상을 가산하여 영상을 복원하는 단계를 포함하는 것을 특징으로 하는 영상 복호화 방법을 제공한다.
또한, 본 발명의 다른 목적을 달성하기 위해 본 발명의 일 실시예는, 영상의 움직임 벡터를 부호화하는 방법에 있어서, 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따른 부호화 비용을 계산하는 단계; 제한 단계별로 계산된 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하는 단계; 및 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정되는 움직임 벡터가 부호화된 움직임 벡터 부호화 데이터 및 상기 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인을 부호화하여 해상도 제한 색인 데이터를 출력하는 단계를 포함하는 것을 특징으로 하는 움직임 벡터 부호화 방법을 제공한다.
또한, 본 발명의 다른 목적을 달성하기 위해 본 발명의 일 실시예는, 움직임 벡터를 복호화하는 방법에 있어서, 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 움직임 벡터 해상도의 제한 단계를 복원하는 단계; 및 복원되는 움직임 벡터 해상도의 제한 단계에 따라 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하는 단계를 포함하는 것을 특징으로 하는 움직임 벡터 복호화 방법을 제공한다.
이상에서 설명한 바와 같이 본 발명의 실시예에 의하면, 움직임 벡터의 해상도를 적응적으로 제한하여 움직임 벡터를 결정하고 부호화함으로써 압축 효율을 향상시킬 수 있다.
도 1은 본 발명의 일 실시예에 따른 영상 부호화 장치를 간략하게 나타낸 블록 구성도,
도 2는 본 발명의 일 실시예에 따라 움직임 추정을 통해 움직임 벡터를 결정하는 모습을 나타낸 예시도,
도 3은 본 발명의 일 실시예에 따른 부호화기를 간략하게 나타낸 블록 구성도,
도 4는 본 발명의 일 실시예에 따른 움직임 벡터 부호화 장치를 간략하게 나타낸 블록 구성도,
도 5는 본 발명의 일 실시예에 따라 템플릿 매칭을 이용하여 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추정하는 과정을 설명하기 위한 예시도,
도 6은 본 발명의 일 실시예에 따라 움직임 벡터를 선택하는 과정을 설명하기 위한 예시도,
도 7은 본 발명의 일 실시예에 따른 움직임 벡터 부호화 방법을 설명하기 위한 순서도,
도 8은 본 발명의 일 실시예에 따른 움직임 벡터 부호화 방법이 구현되는 일 예를 설명하기 위한 순서도,
도 9는 본 발명의 일 실시예에 따른 영상 부호화 방법을 설명하기 위한 순서도,
도 10은 본 발명의 일 실시예에 따른 영상 부호화 방법이 구현되는 다른 예를 설명하기 위한 순서도,
도 11은 본 발명의 일 실시예에 따른 영상 복호화 장치를 간략하게 나타낸 블록 구성도,
도 12는 본 발명의 일 실시예에 따른 복호화기를 간략하게 나타낸 블록 구성도,
도 13은 본 발명의 일 실시예에 따른 움직임 벡터 복호화 장치를 간략하게 나타낸 블록 구성도,
도 14는 본 발명의 일 실시예에 따른 움직임 벡터 복호화 방법을 설명하기 위한 순서도,
도 15는 본 발명의 일 실시예에 따른 영상 복호화 방법을 설명하기 위한 순서도이다.
이하, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다. 각 도면의 구성요소들에 참조부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.
또한, 본 발명의 구성 요소를 설명하는 데 있어서, 제 1, 제 2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등이 한정되지 않는다. 어떤 구성 요소가 다른 구성요소에 "연결", "결합" 또는 "접속"된다고 기재된 경우, 그 구성 요소는 그 다른 구성요소에 직접적으로 연결되거나 또는 접속될 수 있지만, 각 구성 요소 사이에 또 다른 구성 요소가 "연결", "결합" 또는 "접속"될 수도 있다고 이해되어야 할 것이다.
이하에서 후술할 움직임 벡터 부호화 장치(Motion Vector Encoding Apparatus), 움직임 벡터 복호화 장치(Motion Vector Decoding Apparatus), 영상 부호화 장치(Video Encoding Apparatus), 영상 복호화 장치(Video Decoding Apparatus)는 개인용 컴퓨터(PC: Personal Computer), 노트북 컴퓨터, 개인 휴대 단말기(PDA: Personal Digital Assistant), 휴대형 멀티미디어 플레이어(PMP: Portable Multimedia Player), 플레이스테이션 포터블(PSP: PlayStation Portable), 무선 통신 단말기(Wireless Communication Terminal), 스마트폰(Smart Phone), TV 등과 같은 사용자 단말기이거나 응용 서버와 서비스 서버 등 서버 단말기일 수 있으며, 각종 기기 또는 유무선 통신망과 통신을 수행하기 위한 통신 모뎀 등의 통신 장치, 영상을 부호화하거나 복호화하거나 부호화 또는 복호화를 위해 인터 또는 인트라 예측하기 위한 각종 프로그램과 데이터를 저장하기 위한 메모리, 프로그램을 실행하여 연산 및 제어하기 위한 마이크로프로세서 등을 구비하는 다양한 장치를 의미할 수 있다.
또한, 움직임 벡터 부호화 장치 또는 영상 부호화 장치에 의해 비트스트림으로 부호화된 움직임 벡터 또는 영상은 실시간 또는 비실시간으로 인터넷, 근거리 무선 통신망, 무선랜망, 와이브로망, 이동통신망 등의 유무선 통신망 등을 통하거나 케이블, 범용 직렬 버스(USB: Universal Serial Bus) 등과 같은 다양한 통신 인터페이스를 통해 움직임 벡터 복호화 장치 또는 영상 복호화 장치로 전송되어 움직임 벡터 복호화 장치에서 복호화되어 움직임 벡터로서 복원되거나 영상 복호화 장치에서 복호화되어 영상으로 복원되고 재생될 수 있다.
통상적으로 동영상은 일련의 픽처(Picture)로 구성되어 있으며, 각 픽처들은 블록(Block)과 같은 소정의 영역으로 분할된다. 영상의 영역이 블록으로 분할되는 경우에는 분할된 블록은 부호화 방법에 따라 크게 인트라 블록(Intra Block), 인터 블록(Inter Block)으로 분류된다. 인트라 블록은 인트라 예측 부호화(Intra Prediction Coding) 방식을 사용하여 부호화되는 블록을 뜻하는데, 인트라 예측 부호화란 현재 부호화를 수행하는 현재 픽처 내에서 이전에 부호화되고 복호화되어 복원된 블록들의 화소를 이용하여 현재 블록의 화소를 예측함으로써 예측 블록을 생성하고 현재 블록의 화소와의 차분값을 부호화하는 방식이다. 인터 블록은 인터 예측 부호화(Inter Prediction Coding)를 사용하여 부호화되는 블록을 뜻하는데, 인터 예측 부호화란 하나 이상의 과거 픽처 또는 미래 픽처를 참조하여 현재 픽처 내의 현재 블록을 예측함으로써 예측 블록을 생성하고 현재 블록과의 차분값을 부호화하는 방식이다. 여기서, 현재 픽처를 부호화하거나 복호화하는데 참조되는 픽처를 참조 픽처(Reference Picture)라고 한다.
도 1은 본 발명의 일 실시예에 따른 영상 부호화 장치를 간략하게 나타낸 블록 구성도이다.
본 발명의 일 실시예에 따른 영상 부호화 장치(100)는 영상을 부호화하는 장치로서, 예측기(Predictor, 110), 감산기(Subtracter, 120), 변환기 및 양자화기(Transformer and Quantizer, 130), 부호화기(Encoder, 140), 역양자화기 및 역변환기(Inverse Quantizer and Inverse Transformer, 150), 가산기(Adder, 160) 및 참조 픽처 메모리(Reference Picture Memory, 170)를 포함하여 구성될 수 있다.
예측기(110)는 움직임 벡터 해상도(Motion Vector Resolution)가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따라 영상의 움직임 벡터(Motion Vector)를 결정하고 결정되는 움직임 벡터를 이용하여 영상의 예측 영상(Predicted Image)을 생성한다. 즉, 예측기(110) 입력 영상에서 부호화하고자 하는 블록(이하에서는 '현재 블록'(Current Block)이라 칭함)의 움직임을 추정하여 현재 블록의 움직임 벡터(Motion Vector)와 참조 프레임 색인(Reference Frame Index)를 포함하는 움직임 정보(Motion Information)를 결정하고, 결정된 현재 블록의 움직임 정보를 이용하여 현재 블록의 움직임을 보상함으로써 현재 블록의 예측 블록을 생성한다.
또한, 예측기(110)는 부호화기(140)에 의해 선택된 움직임 벡터 해상도의 제한 단계에 따른 최소 움직임 벡터 해상도보다 큰 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추가로 추정하고 추정된 움직임 벡터를 이용하여 예측 영상을 생성할 수 있다. 이때, 예측기(110)는 템플릿 매칭(TM: Template Matching)을 이용하여 더 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추정할 수 있다. 여기서, 템플릿 매칭이란 부호화하고자 하는 현재 블록의 주변 화소(또는 주변 화소 중 인접 화소)들 중 이미 부호화되고 복호화되어 기 복원된 화소들을 이용하여 현재 블록의 움직임 벡터를 추정하는 방법을 말한다. 템플릿 매칭을 이용하여 추가적으로 움직임 벡터를 추정하는 방법에 대해서는 후술하는 과정에서 도 5 및 도 6을 통해 상세히 설명한다.
또한, 예측기(110) 블록 단위로 움직임 정보를 결정하고 예측 블록을 생성하는 과정을 부호화 단위(예를 들어, 블록(Block), 슬라이스(Slice), 픽처(Picture), 픽처 그룹(GOP: Group of Picture) 등)에 대해 수행할 수 있으며, 부호화 단위에 대해 수행하여 생성되는 각 예측 블록이 모인 영상이 예측 영상으로서 생성될 수 있다. 예를 들어, 부호화 단위가 슬라이스인 경우, 예측기(110)는 슬라이스 내의 각 블록에 대한 움직임을 추정하여 움직임 벡터를 결정하고 해당 움직임 벡터를 이용하여 생성되는 예측 블록을 슬라이스 단위로 모아 예측 영상을 생성할 수 있다. 따라서, 본 발명의 일 실시예에서 입력 영상은 동영상을 구성하는 소정의 부호화 단위에 대한 영상(예를 들어, 임의의 픽처 내의 임의의 슬라이스에 해당하는 영상)이 될 수 있으며, 예측 영상은 입력 영상 내의 블록들이 예측되어 생성되는 예측 블록들을 포함하는 소정의 부호화 단위에 대한 영상(예를 들어, 예측 블록들이 모여 구성되는 슬라이스 영상)이 될 수 있다.
또한, 예측기(110)에 의해 생성되는 예측 영상은 제한 단계별 움직임 벡터 해상도에 따라 각각 생성될 수 있다. 즉, 예측기(110)는 제한 단계별 움직임 벡터 해상도에 따라 입력 영상 내의 각 블록에 대해 움직임 벡터를 결정하고 그를 이용하여 예측 블록을 생성하고 생성되는 예측 블록을 모아 예측 영상을 생성하므로, 예측 영상은 움직임 벡터 해상도의 제한 단계의 개수만큼 생성될 수 있다. 또한, 선택된 움직임 벡터 해상도에 따른 최소 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추가로 추정하는 경우에는 부호화 단위의 영상에 대해 하나의 예측 영상이 생성될 수 있다.
감산기(120)는 입력 영상과 예측 영상을 감산하여 잔여 영상(Residual Image)을 생성한다. 여기서, 잔여 영상이란 현재 부호화하고자 하는 입력 영상과 예측 영상이 감산되어 생성되는 영상으로서, 입력 영상의 화소와 예측 영상의 화소의 차이인 잔여 신호를 포함하는 영상을 말한다. 또한, 예측기(110)에 의해 생성되는 예측 영상은 움직임 벡터 해상도의 제한 단계의 개수만큼 생성되므로 감산기(120)에 의해 생성되는 잔여 영상도 움직임 벡터 해상도의 제한 단계의 개수만큼 생성될 수 있으며, 추가로 추정된 움직임 벡터에 따라 예측 영상이 생성되는 경우 그 예측 영상의 잔여 영상이 생성될 수 있다.
변환기 및 양자화기(130)는 잔여 영상을 변환 및 양자화한다. 즉, 변환기 및 양자화기(130)는 감산기(120)에 의해 생성된 잔여 영상의 잔여 신호(Residual Signal)를 주파수 영역으로 변환하여 변환 계수(Transform Coefficient)를 가지는 변환된 잔여 영상을 생성하고 변환된 잔여 영상의 변환 계수를 양자화하여 변환 및 양자화된 잔여 영상을 생성한다. 이때, 사용되는 변환 방식으로는 하다마드 변환(Hadamard Transform), 이산 코사인 변환 기반의 정수 변환(Discrete Cosine Transform Based Integer Transform) 등과 같은 공간 영역의 화상 신호를 주파수 영역으로 변환하는 기법이 이용되고, 양자화 방식으로는 데드존 균일 경계 양자화(DZUTQ: Dead Zone Uniform Threshold Quantization, 이하 'DZUTQ'라 칭함) 또는 양자화 가중치 매트릭스(Quantization Weighted Matrix) 등과 같은 다양한 양자화 기법이 이용될 수 있다.
부호화기(140)는 변환 및 양자화된 잔여 영상을 부호화하여 제한 단계별 영상 부호화 데이터를 생성하고, 제한 단계별 영상 부호화 데이터의 부호화 비용을 계산하며, 제한 단계별 영상 부호화 데이터의 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하며, 선택된 제한 단계에 따른 움직임 벡터 해상도에 따라 결정되는 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터를 출력한다. 여기서, 부호화기(140)가 양자화된 변환 계수를 부호화하는 기술로서는 엔트로피 부호화(Entropy Encoding) 기술이 이용될 수 있으나, 반드시 이에 한정하지 않고 다른 다양한 부호화 기술이 이용될 수 있을 것이다. 부호화기(140)에 대해서는 도 2 및 도 3을 통해 상세히 설명한다.
역 양자화기 및 역 변환기(150)는 변환 및 양자화된 잔여 영상을 역 양자화 및 역 변환하여 잔여 영상을 복원한다. 즉, 역 양자화기 및 역 변환기(150)는 변환기 및 양자화기(130)로부터 전달되는 변환 및 양자화된 잔여 영상을 역 양자화하여 변환 계수를 가지는 잔여 영상을 복원하고, 변환 계수를 가지는 잔여 영상을 다시 역 변환하여 잔여 신호를 가지는 잔여 영상을 복원한다. 이때, 역 양자화기 및 역 변환기(150)는 변환기 및 양자화기(130)에서 변환 및 양자화한 방식을 역으로 수행함으로써 잔여 영상을 복원할 수 있다. 또한, 역 양자화기 및 역 변환기(150)는 변환기 및 양자화기(130)로부터 전달되는 모든 변환 및 양자화된 잔여 영상을 역 양자화고 역 변환하는 것이 아니라 부호화기(140)에 의해 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정되는 움직임 벡터를 이용하여 생성되는 예측 영상의 잔여 영상이 변환되고 양자화된 잔여 영상만을 역 양자화 및 역 변환하여 해당 움직임 벡터 해상도의 제한 단계에 따른 잔여 영상만을 복원할 수 있다.
가산기(160)는 역 양자화기 및 역 변환기(150)에 의해 복원되는 잔여 영상과 예측기(110)에 의해 생성되는 예측 영상을 가산하여 입력 영상을 복원한다. 참조 픽처 메모리(170)는 복원되는 입력 영상이 픽처 단위로 누적되어 구성되는 참조 픽처를 저장하며, 저장된 참조 픽처는 예측기(110)가 다음 입력 영상 또는 다음 픽처 등을 예측하는 데 활용될 수 있다.
도 1에서는 도시하지 않았지만, 전술한 본 발명의 일 실시예에 따른 영상 부호화 장치(100)는 예측기(110) 내에 인트라 예측(Intra Prediction)을 위한 인트라 예측기, 디블로킹 필터(Deblocking Filter) 등을 추가로 포함할 수 있다. 이 경우, 감산기(120)는 입력 영상과 인트라 예측기에 의해 생성되는 예측 영상을 감산하여 잔여 영상을 생성할 수 있으며, 변환기 및 양자화기(130) 및 역 양자화기 및 역 변환기(150)는 잔여 영상에 대한 변환 및 양자화와 변환 및 양자화된 잔여 영상에 대한 역 변환 및 역 양자화을 위한 연산을 추가로 수행할 수도 있다. 또한, 부호화기(140)는 변환 및 양자화된 잔여 영상을 부호화하여 영상 부호화 데이터를 생성할 수 있으며, 이러한 데이터는 비트스트림에 포함된다. 또한, 디블로킹 필터는 복원되는 입력 영상을 디블로킹 필터링한다. 여기서, 디블로킹 필터링이란 영상을 블록 단위로 부호화하면서 발생하는 블록 왜곡을 감소시키는 작업을 말하며, 블록 경계와 매크로블록 경계에 디블로킹 필터를 적용하거나 매크로블록 경계에만 디블로킹 필터를 적용하거나 디블로킹 필터를 사용하지 않는 방법 중 하나를 선택적으로 사용할 수 있다.
도 2는 본 발명의 일 실시예에 따라 움직임 추정을 통해 움직임 벡터를 결정하는 모습을 나타낸 예시도이다.
예측기(110)는 현재 블록의 움직임 벡터를 결정하기 위해 이용할 수 있는 여러 개의 참조 픽처 내의 소정의 탐색 영역 중에서 현재 블록과 가장 유사한 블록인 참조 블록을 찾아 해당 참조 픽처를 나타내는 참조 픽처 인덱스와 참조 블록을 지시하는 움직임 벡터를 움직임 정보로서 획득함으로써 현재 블록의 움직임을 추정한다. 이와 같이 움직임 벡터를 결정하는 방법을 수학식으로 나타내면 수학식 1과 수학식 2와 같이 나타낼 수 있다.
Figure 112010070487618-pat00001
Figure 112010070487618-pat00002
수학식 1에서, MV는 현재 블록의 움직임 벡터를 나타내는데, 움직임 벡터의 위치는 여러 개의 참조 픽처 내에서 어디에서나 존재할 수 있다. org는 원래의 현재 블록을 나타내며, ref MV MV가 지시하는 참조 블록을 나타낸다. SAD(org, ref MV )는 orgref MV 간의 화소의 차이에 대한 절대값의 합을 계산하는 함수를 나타내고, λ는 라그랑제 곱셈자(Lagrange Multiplier)를 나타내며, PMV는 예측 움직임 벡터(Predictive Motion Vector)를 나타내며, ref _ idx는 참조 픽처를 나타내는 색인인 참조 픽처 색인을 나타내며, Rate(MV, PMV, ref _ idx)는 MVPMV 간의 차이값과 ref_idx를 부호화하기 위해 소요되는 비트량을 계산하기 위한 함수를 나타내며, mcost(MV)는 MV에 따른 움직임 정보를 부호화하는 데 소요되는 부호화 비용을 나타낸다. 수학식 2에서, MV * 는 최종적으로 결정되는 현재 블록의 움직임 벡터를 나타내며, S MV 는 소정의 움직임 탐색 영역을 나타낸다.
따라서, 예측기(110)는 여러 개의 참조 픽처의 소정의 움직임 탐색 영역 S MV 내에서 고려될 수 있는 각 MV에 대한 부호화 비용을 수학식 1을 이용하여 계산하고 그 중 최소의 부호화 비용을 가지는 MV를 수학식 2를 이용하여 찾아 현재 블록의 움직임 벡터로서 결정할 수 있다. 수학식 1에서는 부호화 비용을 율-왜곡 비용으로 계산하는 것으로 예를 들었지만, 부호화 비용은 반드시 율-왜곡 비용으로 계산되어야 하는 것은 아니며 다른 다양한 방식으로 계산될 수도 있다.
현재 블록을 부호화하는 데 소요되는 부호화 비용을 계산하는 데에는 움직임 벡터뿐만 아니라 현재 블록의 블록 모드도 영향을 준다. 블록 모드를 결정하는 방법을 수학식으로 나타내면 수학식 3과 수학식 4와 같이 나타낼 수 있다.
Figure 112010070487618-pat00003
Figure 112010070487618-pat00004
수학식 3에서, org ,λ, PMV , ref _ idx는 각각 수학식 1을 통해 전술한 바와 동일한 것을 나타내며, i는 인터 블록 모드를 식별하기 위한 블록 모드 색인을 나타내며, S mode 는 16x16 화소 크기의 블록으로부터 4x4 화소 크기의 블록까지의 인터 블록 모드의 집합을 나타내며, rec i 는 블록 모드 i를 이용하여 현재 블록을 부호화하고 복호화하여 복원되는 복원 블록을 나타내며, SSD(org, rec i )는 orgrec i 간의 화소의 제곱 오차의 합을 계산하는 함수를 나타내고, Coeff i 는 블록 모드 i를 이용하여 현재 블록의 잔여 블록을 변환 및 양자하여 생성되는 양자화된 변환 계수를 나타내며, Rate(MV i , PMV, ref _ idx, Coeff i )는 블록 모드 i를 이용하여 현재 블록을 부호화할 때, MVPMV 간의 차이값, ref _ idx와 양자화된 변환 계수를 부호화하기 위해 소요되는 비트량을 계산하기 위한 함수를 나타내며, rdcost(i)는 블록 모드 i를 이용하여 현재 블록을 부호화하는 데 소요되는 부호화 비용을 나타낸다. 수학식 4에서, i * 는 최종적으로 결정되는 현재 블록의 블록 모드를 나타내는 색인이다.
따라서, 예측기(110)는 여러 개의 인터 블록 모드에 대한 부호화 비용을 수학식 3을 이용하여 계산하고 그 중 최소의 부호화 비용을 가지는 블록 모드를 나타내는 색인인 i * 를 수학식 4를 이용하여 찾음으로써 최종적인 현재 블록의 블록 모드로서 결정할 수 있다. 수학식 3에서는 부호화 비용을 율-왜곡 비용으로 계산하는 것으로 예를 들었지만, 부호화 비용은 반드시 수학식 3과 같은 율-왜곡 비용으로 계산되어야 하는 것은 아니며 다른 다양한 방식으로 계산될 수도 있다.
도 1에서는, 예측기(110)가 부호화 비용을 계산하는 것으로 설명했지만, 반드시 이에 한정되지 않고 부호화기(140)가 부호화 비용을 계산하고 계산된 부호화 비용을 예측기(110)로 전달하여 예측기(110)가 움직임 벡터를 결정할 수도 있다.
한편, 수학식 2를 통해 구해진 움직임 벡터는 예측 부호화되는데, 예측기(110) 또는 부호화기(140)는 수학식 5와 같이 움직임 벡터와 그의 예측 움직임 벡터와의 차이값인 차분 움직임 벡터를 부호화한다.
Figure 112010070487618-pat00005
이때, H.264/AVC와 같은 통상적인 동영상 압축 표준에서는 정수 화소 단위, 1/2 화소 단위, 1/4 화소 단위의 해상도로 움직임 추정을 수행하여 움직임 벡터를 구하고, 구해진 움직임 벡터의 차분 움직임 벡터를 표 1에 나타낸 바와 같은 1/4 화소 단위의 배수마다의 비트 스트링(Bit String)이 할당된 코드 테이블(Code Table)을 이용하여 부호화한다.
Figure 112010070487618-pat00006
표 1을 통해 알 수 있듯이, 통상적인 압축 표준에서는 여러 가지 해상도의 움직임 벡터를 모두 부호화하기 위해 작은 크기의 움직임 벡터를 부호화하기 위해서도 긴 코드워드들이 사용되며, 결과적으로 움직임 벡터를 부호화하여 생성되는 움직임 벡터 부호화 데이터의 크기가 커져서 압축 효율이 저하된다. 예를 들어 표 1을 참조하며, 차분 움직임 벡터가 (3,2)인 경우, '3'이 부호화되기 위해서는 코드 번호(Code Number)가 '23'인 비트스트링 '00011000'이 사용되고 '2'가 부호화되기 위해서는 코드 번호가 '15'인 비트스트링 '0001000'이 사용된다. 이와 같이 작은 크기의 움직임 벡터를 부호화하기 위해 긴 코드워드들이 사용되는 것은 1/2 화소 단위의 해상도와 1/4 화소 단위의 해상도의 움직임 벡터를 부호화하기 위한 코드워드와 정수 화소 단위의 해상도의 움직임 벡터를 부호화하기 위한 코드워드를 함께 사용하기 때문이다.
이러한 문제점을 해결하기 위해 본 발명의 일 실시예에서는 움직임 벡터 해상도를 단계적으로 제한하여 각 단계의 제한된 움직임 벡터 해상도로 움직임 추정, 움직임 보상, 잔여 영상의 부호화, 움직임 벡터의 부호화를 수행하고 그에 따른 부호화 비용을 계산하여 최소의 부호화 비용을 가지는 움직임 벡터 해상도의 제한 단계를 선택하고 선택된 제한 단계의 움직임 벡터 해상도로 부호화된 영상 부호화 데이터와 움직임 벡터 부호화 데이터를 포함하는 비트스트림을 생성한다.
도 3은 본 발명의 일 실시예에 따른 부호화기를 간략하게 나타낸 블록 구성도이다.
본 발명의 일 실시예에 따른 부호화기(140)는 예측 잔여 부호화기(Predicted Residual Encoder, 310) 및 움직임 벡터 부호화기(Motion Vector Encoder, 320)를 포함하여 구성될 수 있다.
예측 잔여 부호화기(310)는 변환 및 양자화된 잔여 영상을 부호화하여 제한 단계별 영상 부호화 데이터를 생성한다. 즉, 예측 잔여 부호화기(310)는 변환기 및 양자화기(130)에 의해 변환 및 양자화된 잔여 영상을 부호화하는데, 움직임 벡터 해상도의 제한 단계별로 변환 및 양자화된 잔여 영상을 부호화하므로 움직임 벡터 해상도의 제한 단계별로 영상 부호화 데이터를 생성한다.
움직임 벡터 부호화기(320)는 제한 단계별 영상 부호화 데이터의 부호화 비용을 계산하며, 제한 단계별 영상 부호화 데이터의 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하며, 선택된 제한 단계에 따른 움직임 벡터 해상도에 따라 결정되는 움직임 벡터가 부호화된 움직임 벡터 부호화 데이터를 출력한다. 즉, 움직임 벡터 부호화기(320)는 예측 잔여 부호화기(310)에 의해 생성되는 움직임 벡터 해상도의 제한 단계별 영상 부호화 데이터가 부호화되는 과정에서 예측기(110)와 예측 잔여 부호화기(310)로부터 전달되는 각종 정보를 이용하여 각 영상 부호화 데이터가 부호화되는 데 소요되는 부호화 비용을 계산하고 그를 이용하여 여러 움직임 벡터 해상도의 제한 단계 중 하나의 움직임 벡터 해상도의 제한 단계를 선택하며, 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정되는 움직임 벡터가 부호화된 움직임 벡터 부호화 데이터를 출력한다. 이때, 움직임 벡터 부호호화기(320)는 움직임 벡터 해상도의 제한 단계별 부호화 비용을 계산할 때 이미 각 움직임 벡터 해상도의 제한 단계별로 결정되는 움직임 벡터를 부호화하고 각 제한 단계별 움직임 벡터 부호화 데이터를 생성하므로, 움직임 벡터 해상도의 제한 단계를 선택한 후 추가로 다시 움직임 벡터 부호화 데이터를 생성하지 않고 기 생성된 움직임 벡터 부호화 데이터를 출력할 수 있다. 움직임 벡터 부호화기(320)에 대해서는 도 4를 통해 상세히 설명한다.
도 4는 본 발명의 일 실시예에 따른 움직임 벡터 부호화 장치를 간략하게 나타낸 블록 구성도이다.
본 발명의 일 실시예에 따른 움직임 벡터 부호화 장치는 도 3을 통해 전술한 부호화기(140)에서는 움직임 벡터 부호화기(320)로서 구현될 수 있다. 이하에서는 설명의 편의를 위해 본 발명의 일 실시예에 따른 움직임 벡터 부호화 장치를 움직임 벡터 부호화기(320)라 칭한다.
움직임 벡터 부호화기(320)는 부호화 비용 계산기(Coding Cost Calculator, 410), 움직임 정보 부호화기(Motion Information Encoder, 430) 및 제한 해상도 결정기(Restricted Resolution Determiner, 420)를 포함하여 구성될 수 있다.
부호화 비용 계산기(410)는 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따른 부호화 비용을 계산한다. 즉, 부호화 비용 계산기(410)는 제한 단계별 움직임 벡터 해상도에 따라 결정되는 움직임 벡터와 참조 픽처 색인을 포함하는 움직임 정보를 이용하여 생성되는 예측 영상과 입력 영상의 차이인 잔여 영상을 부호화하는 데 소요되는 비용을 계산한다.
여기서, 움직임 벡터 해상도는 정수 화소 단위의 해상도, 1/2 화소 단위의 해상도, 1/4 화소 단위의 해상도 및 1/8 화소 단위의 해상도 중 하나 이상을 포함할 수 있으나, 이에 한정되지 않고 더욱 작은 화소 단위의 해상도를 포함할 수도 있다. 또한, 움직임 벡터 해상도의 제한 단계란 움직임 추정에 이용할 수 있는 움직임 벡터 해상도의 집합에서 움직임 벡터 해상도가 큰 순서에 따라 단계적으로 형성된 그룹을 의미하는 것이다.
일 예로, 이용 가능한 움직임 벡터 해상도가 전술한 바와 같이 정수 화소 단위의 해상도, 1/2 화소 단위의 해상도, 1/4 화소 단위의 해상도 및 1/8 화소 단위의 해상도라고 가정하면, 움직임 벡터 해상도의 제 1 제한 단계는 정수 화소 단위의 해상도만이 포함된 그룹이 되며, 움직임 벡터 해상도의 제 2 제한 단계는 정수 화소 단위의 해상도와 1/2 화소 단위의 해상도가 포함된 그룹이 되며, 움직임 벡터 해상도의 제 3 단계는 정수 화소 단위의 해상도, 1/2 화소 단위의 해상도 및 1/4 화소 단위의 해상도가 포함된 그룹이 되며, 움직임 벡터 해상도의 제 4 단계는 정수 화소 단위의 해상도, 1/2 화소 단위의 해상도, 1/4 화소 단위의 해상도 및 1/8 화소 단위의 해상도가 포함된 그룹이 될 수 있다.
따라서, 전술한 일 예의 경우, 부호화 비용 계산기(410)는 움직임 벡터 해상도의 제 1 제한 단계에 포함된 정수 화소 단위의 해상도로 움직임을 추정하여 결정되는 움직임 벡터를 이용하여 입력 영상을 예측 부호화할 때 소요되는 부호화 비용을 제 1 제한 단계의 부호화 비용으로 계산하고, 움직임 벡터 해상도의 제 2 제한 단계에 포함된 정수, 1/2 화소 단위의 해상도로 움직임을 추정하여 결정되는 움직임 벡터를 이용하여 입력 영상을 예측 부호화할 때 소요되는 부호화 비용을 제 2 제한 단계의 부호화 비용으로 계산하며, 움직임 벡터 해상도의 제 3 제한 단계에 포함된 정수, 1/2, 1/4 화소 단위의 해상도로 움직임을 추정하여 결정되는 움직임 벡터를 이용하여 입력 영상을 예측 부호화할 때 소요되는 부호화 비용을 제 3 제한 단계의 부호화 비용으로 계산하며, 움직임 벡터 해상도의 제 4 제한 단계에 포함된 정수, 1/2, 1/4, 1/8 화소 단위의 해상도로 움직임을 추정하여 결정되는 움직임 벡터를 이용하여 입력 영상을 예측 부호화할 때 소요되는 부호화 비용을 제 4 제한 단계의 부호화 비용으로 계산한다.
또한, 부호화 비용 계산기(410)는 제한 단계별 움직임 벡터 해상도에 따라 블록마다의 움직임 벡터와 블록 모드 중 하나 이상을 결정하고 결정된 움직임 벡터와 결정된 블록 모드 중 하나 이상을 이용하여 부호화 비용을 계산할 수 있다. 예를 들어, 부호화 비용 계산기(410)는 수학식 6을 이용하여 움직임 벡터와 블록 모드를 고려한 부호화 비용을 계산할 수 있다. cost(k)는 제한 단계별 부호화 비용을 나타낸다.
Figure 112010070487618-pat00007
수학식 6에서, k는 움직임 벡터 해상도의 제한 단계를 식별하기 위한 해상도 제한 색인을 나타낸다. 이때, 고려되는 움직임 벡터 해상도는 1/2 k 화소 단위까지 이다. 따라서, 전술한 일 예에서, 해상도 제한 색인이 움직임 벡터 해상도의 제 1 제한 단계 내지 제 4 제한 단계를 나타내는 경우 k는 각각 0, 1, 2, 3이 된다. N MB 는 움직임 벡터 해상도의 제한 단계와 부호화 비용이 각각 선택되고 계산되는 부호화 단위(예를 들어, 슬라이스) 내에 존재하는 블록(움직임 벡터가 결정되는 매크로블록 또는 서브블록)의 개수를 나타내며, m은 각 블록을 식별하기 위한 블록 색인(Block Index)를 나타내며, i * m 은 부호화 단위 내의 블록에 대한 블록 모드를 나타낸다. rdcost { m,k }(i * m )는 움직임 벡터 해상도의 제한 단계에 따라 결정되는 부호화 단위 내의 각 블록의 블록 모드와 움직임 벡터를 이용하여 각 블록을 부호화할 때 소요되는 부호화 비용을 계산하기 위한 함수이다. 이 과정에서 N_MB값은 양의 정수값을 가질 수 있으며, N_MB = 1인 경우에는 매 서브 블록마다 움직임벡터 해상도의 제한 단계를 결정하는 경우이다.
또한, 부호화 비용 계산기(410)는 제한 단계별 움직임 벡터 해상도에 따라 다른 코드 테이블을 이용하여 움직임 벡터를 부호화하여 부호화 비용을 계산할 수 있다. 즉, 부호화 비용 계산기(410)는 각 움직임 벡터 해상도의 제한 단계별로 다른 코드 테이블을 미리 저장하고 그를 이용하여 각 제한 단계별 움직임 벡터 해상도의 움직임 벡터를 부호화할 수 있다. 여기서, 각 움직임 벡터 해상도의 제한 단계별로 다른 코드 테이블이란 각 움직임 벡터 해상도의 제한 단계 내의 움직임 벡터 해상도의 움직임 벡터만을 고려하여 부호화하기 위한 코드 테이블을 말한다.
따라서, 전술한 일 예의 경우, 움직임 벡터 해상도의 제 1 제한 단계에 대한 코드 테이블은, 표 2에 예시적으로 나타낸 바와 같이, 정수 화소 단위의 해상도의 움직임 벡터만을 고려하여 부호화하기 위한 코드 테이블이고, 움직임 벡터 해상도의 제 2 제한 단계에 대한 코드 테이블은, 표 3에 예시적으로 나타낸 바와 같이, 정수, 1/2 화소 단위의 해상도의 움직임 벡터만을 고려하여 부호화하기 위한 코드 테이블이며, 움직임 벡터 해상도의 제 3 제한 단계에 대한 코드 테이블은, 표 4에 예시적으로 나타낸 바와 같이, 정수, 1/2, 1/4 화소 단위의 해상도의 움직임 벡터만을 고려하여 부호화하기 위한 코드 테이블이며, 움직임 벡터 해상도의 제 4 제한 단계에 대한 코드 테이블은, 표 5에 예시적으로 나타낸 바와 같이, 정수, 1/2, 1/4, 1/8 화소 단위의 해상도의 움직임 벡터만을 고려하여 부호화하기 위한 코드 테이블이다.
Figure 112010070487618-pat00008
Figure 112010070487618-pat00009
Figure 112010070487618-pat00010
Figure 112010070487618-pat00011
따라서, 본 발명의 일 실시예에서는 전술한 바와 같이, 움직임 벡터 해상도의 제한 단계별로 결정되는 움직임 벡터를 부호화하기 위한 코드 테이블을 각 움직임 벡터 해상도의 제한 단계에 적합하도록 서로 다르게 구성하고 이용함으로써, 움직임 벡터를 효율적으로 부호화하여 압축 효율을 향상시킬 수 있다.
제한 해상도 결정기(420)는 제한 단계별로 계산된 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택한다. 즉, 제한 해상도 결정기(420)는 부호화 비용 계산기(410)에 의해 계산되는 제한 단계별 부호화 비용을 서로 비교하여 가장 작은 부호화 비용을 가지는 움직임 벡터 해상도의 제한 단계를 선택한다. 여기서, 제한 해상도 결정기(420)는 블록, 슬라이스, 픽처 및 픽처 그룹 중 하나 이상을 포함하는 부호화 단위마다 움직임 벡터 해상도의 제한 단계를 선택할 수 있다.
이때, 제한 해상도 결정기(420)는 움직임 벡터 해상도의 제한 단계별로 수학식 6과 같이 부호화 단위 내의 모든 블록에 대한 부호화 비용을 합산하여 계산된 제한 단계별 부호화 비용 중에 가장 작은 부호화 비용을 가지는 움직임 벡터 해상도의 제한 단계를 수학식 7과 같은 방법으로 선택할 수 있다.
Figure 112010070487618-pat00012
수학식 7에서, k는 해상도 제한 색인을 나타내며, k * 는 제한 해상도 결정기(420)에 의해 선택되는 움직임 벡터 해상도의 제한 단계를 식별하기 위한 해상도 제한 색인을 나타낸다. 이와 같이 제한 해상도 결정기(420)에 의해 선택되는 움직임 벡터 해상도의 제한 단계를 식별하기 위한 해상도 제한 색인 k * 가 움직임 정보 부호화기(430)에 의해 부호화되어 해상도 제한 색인 데이터로서 생성되면 비트스트림에 포함된다. 수학식 7에서, k가 {0, 1, 2, 3}인 것으로 나타낸 것은 예시적인 것일 뿐, k의 값이 반드시 {0, 1, 2, 3} 중에 하나의 값만을 가져야 한다는 것은 아니다. 따라서, k는 0 이상의 정수의 값을 가지며 한 개 이상의 복수 개의 값을 가질 수 있다.
움직임 정보 부호화기(430)는 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정되는 움직임 벡터가 부호화된 움직임 벡터 부호화 데이터를 출력한다. 즉, 움직임 정보 부호화기(430)는 제한 해상도 결정기(420)에 의해 움직임 벡터 해상도의 제한 단계가 선택되면, 부호화 비용 계산기(410)에서 부호화 비용을 계산하는 과정에서 미리 부호화되어 생성된 움직임 벡터 부호화 데이터 중에서 제한 해상도 결정기(420)에 의해 선택된 제한 단계의 움직임 벡터 해상도에 따라 결정된 움직임 벡터가 부호화된 움직임 벡터 부호화 데이터를 출력한다. 이때, 부호화 비용과 움직임 벡터 해상도의 제한 단계는 각각 슬라이스와 같은 소정의 부호화 단위마다 계산되고 선택되므로, 움직임 정보 부호화기(430)에서 출력하는 움직임 벡터 부호화 데이터도 슬라이스와 같은 소정의 부호화 단위 내의 블록마다 생성된 움직임 벡터 부호화 데이터가 될 수 있다. 또한, 움직임 벡터 부호화 데이터에는 움직임 벡터뿐만 아니라 참조 픽처 색인을 추가로 포함할 수 있다. 이때 움직임 벡터 해상도의 제한 정보가 결정되고 그 정보가 부호화되는 단위는 슬라이스 단위로 한정하지 않고 작게는 서브블록 단위부터 크게는 프레임 및 시퀀스 전체까지 될 수 있다.
이때, 움직임 정보 부호화기(430)는 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인(Resolution Restriction Index)을 부호화하여 해상도 제한 색인 데이터를 출력할 수 있다. 해상도 제한 색인 데이터는 비트스트림에 추가로 포함되며, 움직임 벡터 복호화 장치 또는 영상 복호화 장치에서 움직임 벡터 해상도의 제한 단계를 식별하는 데 활용된다.
이하에서는 도 5 및 도 6을 통해 템플릿 매칭을 이용하여 선택된 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추정하는 방법과 선택된 움직임 벡터 해상도의 움직임 벡터 또는 선택된 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 선택하는 방법을 설명한다.
도 5는 본 발명의 일 실시예에 따라 템플릿 매칭을 이용하여 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추정하는 과정을 설명하기 위한 예시도이다.
도 5에 도시한 바와 같이, 예측기(110)는 부호화기(140)에 의해 선택된 움직임 벡터 해상도 제한 단계에 포함되는 움직임 벡터 해상도 중 최소의 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도로 참조 픽처에서 현재 블록의 인접 화소와 가장 유사한 인접 화소를 가지는 참조 블록을 찾아 참조 블록을 지시하는 움직임 벡터를 구한다. 이때, 작은 화소 단위의 움직임 벡터 해상도로 템플릿 매칭을 이용하여 움직임을 추정하기 위한 탐색 영역은 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정되는 움직임 벡터의 주변 영역으로 제한될 수 있다. 여기서, 움직임 벡터의 주변 영역이란 움직임 벡터가 지시하는 화소를 중심으로 상하좌우로 동일하게 또는 다르게 소정 개수의 화소만큼 떨어진 영역일 수 있다.
도 6은 본 발명의 일 실시예에 따라 움직임 벡터를 선택하는 과정을 설명하기 위한 예시도이다.
6A는 부호화기(140)에 의해 선택되는 움직임 벡터 해상도의 제한 단계에 따라 결정된 움직임 벡터에 대한 부호화 비용을 계산하는 과정을 나타낸 것이고, 6B는 부호화기(140)에 의해 선택되는 움직임 벡터 해상도의 제한 단계에 따른 최소 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도로 템플릿 매칭을 이용하여 결정되는 움직임 벡터에 대한 부호화 비용을 계산하는 과정을 나타낸 것이다. 6A와 6B에 나타낸 방법으로 계산되는 부호화 비용은 각각 수학식 8과 수학식 9를 이용하여 계산될 수 있다.
Figure 112010070487618-pat00013
Figure 112010070487618-pat00014
수학식 8과 수학식 9에서, T org (i)는 현재 블록의 인접 화소를 나타내는 현재 템플릿을 나타내며,
Figure 112010070487618-pat00015
는 제한 해상도 결정기(420)에 의해 선택되는 움직임 벡터 해상도에 따라 결정되는 움직임 벡터 MV * 가 지시하는 참조 블록의 인접 화소를 나타내는 참조 템플릿을 나타내며, N T 는 현재 템플릿과 참조 템플릿에 포함되는 화소의 개수를 나타내며,
Figure 112010070487618-pat00016
는 제한 해상도 결정기(420)에 의해 선택되는 움직임 벡터 해상도에 따른 최소 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도로 템플릿 매칭을 이용하여 결정되는 움직임 벡터 MV * T 가 지시하는 참조 블록의 인접 화소를 나타내는 참조 템플릿을 나타낸다. 수학식 8과 수학식 9에서는 부호화 비용으로서 왜곡 비용을 예를 들었지만, 부호화 비용은 반드시 이에 한정되지 않고 다양한 방식으로 계산될 수 있다.
예측기(110)는 수학식 8과 수학식 9를 이용하여 계산되는 각 SAD 중에서 작은 SAD를 가지는 움직임 벡터가 부호화 효율이 더욱 좋으므로, 해당 움직임 벡터를 이용하여 블록의 움직임을 보상하여 예측 블록을 출력한다. 이때, 예측기(110)는 부호화 단위 내의 각 블록에 대해 움직임 벡터를 선택할 수 있다. 따라서, 예측기(110)는 각 블록에 대해 선택된 움직임 벡터가 템플릿 매칭을 이용하여 추가로 추정한 움직임 벡터인 경우에만 추정한 움직임 벡터를 이용하여 움직임이 보상된 예측 블록을 출력할 수 있으며, 기 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정된 움직임 벡터가 선택된 경우에는 예측 블록을 추가로 생성하지 않는다.
도 5 및 도 6을 통해 전술한 바와 같이, 작은 화소 단위의 움직임 벡터 해상도로 추정된 움직임 벡터에 대해서는 추가로 부호화하거나 그를 식별하기 위한 추가적인 정보 또는 어떠한 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터가 비트스트림에 포함되었는지를 나타내는 정보를 부호화하지 않아도 된다. 영상 복호화 장치에서는 영상 부호화 장치(100)와 마찬가지로 도 5 및 도 6을 통해 전술한 과정을 동일하게 수행할 수 있기 때문이다.
도 7은 본 발명의 일 실시예에 따른 움직임 벡터 부호화 방법을 설명하기 위한 순서도이다.
본 발명의 일 실시예에 따른 움직임 벡터 부호화 방법에 따르면, 움직임 벡터 부호화기(320)는 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따른 부호화 비용을 계산하고(S710), 제한 단계별로 계산된 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하며(S720), 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정되는 움직임 벡터가 부호화된 움직임 벡터 부호화 데이터를 출력한다(S730).
여기서, 움직임 벡터 해상도는 정수 화소 단위의 해상도, 1/2 화소 단위의 해상도, 1/4 화소 단위의 해상도 및 1/8 화소 단위의 해상도 중 하나 이상을 포함할 수 있다.
또한, 움직임 벡터 부호화기(320)는 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인을 부호화하여 해상도 제한 색인 데이터를 추가로 출력할 수 있다.
단계 S710에서, 움직임 벡터 부호화기(320)는 제한 단계별 움직임 벡터 해상도에 따라 블록마다의 움직임 벡터와 블록 모드 중 하나 이상을 결정하고 결정된 움직임 벡터와 결정된 블록 모드 중 하나 이상을 이용하여 부호화 비용을 계산할 수 있으며, 제한 단계별 움직임 벡터 해상도에 따라 다른 코드 테이블을 이용하여 움직임 벡터를 부호화하여 부호화 비용을 계산할 수 있다.
단계 S720에서, 움직임 벡터 부호화기(320)는 블록, 슬라이스, 픽처 및 픽처 그룹 중 하나 이상을 포함하는 부호화 단위마다 움직임 벡터 해상도의 제한 단계를 선택할 수 있으며, 제한 단계별로 계산된 부호화 비용 중 가장 작은 부호화 비용을 가지는 제한 단계를 움직임 벡터 해상도의 제한 단계로서 선택할 수 있다.
도 8은 본 발명의 일 실시예에 따른 움직임 벡터 부호화 방법이 구현되는 일 예를 설명하기 위한 순서도이다.
도 8에서는 움직임 벡터 부호화기(320)가 움직임 벡터를 결정하는 데 이용할 수 있는 움직임 벡터 해상도가 정수 화소 단위의 해상도, 1/2 화소 단위의 해상도, 1/4 화소 단위의 해상도 및 1/8 화소 단위의 해상도이고, 부호화 단위가 슬라이스인 것으로 가정할 때, 움직임 벡터를 부호화하는 과정을 예시적으로 나타내었다.
움직임 벡터 부호화기(320)는 움직임 벡터 해상도의 제 1 제한 단계로서 정수 화소 단위의 움직임 벡터 해상도의 움직임 벡터만을 고려하여 영상을 부호화할 때의 부호화 비용인 cost(0)을 계산한다(S810). 즉, 움직임 벡터 부호화기(320)는 입력 영상 내의 슬라이스 내에 있는 모든 블록에 대해 수학식 1과 수학식 2를 이용하여 정수 화소 단위의 움직임 벡터 해상도로 움직임 추정을 수행함으로써 정수 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 결정하고, 수학식 3과 수학식 4를 이용하여 정수 화소 단위의 움직임 벡터 해상도로 결정되는 움직임 벡터에 따른 블록 모드를 결정한다. 또한, 움직임 벡터 부호화기(320)는 결정되는 움직임 벡터와 블록 모드에 따라 각 블록을 예측 부호화하여 정수 화소 단위로 움직임 벡터 해상도가 제한된 각 블록에 대한 영상 부호화 데이터를 생성하고 수학식 3과 수학식 4를 이용하여 각 영상 부호화 데이터에 대한 부호화 비용을 계산하고 슬라이스 내의 모든 블록에 대한 부호화 비용을 합산하여 수학식 6과 같이 움직임 벡터 해상도의 제 1 제한 단계에 대한 부호화 비용 cost(0)을 계산한다. 이때, 움직임 벡터 부호화기(320)는 각 블록을 예측 부호화하여 영상 부호화 데이터를 생성할 때, 정수 화소 단위의 움직임 벡터 해상도의 움직임 벡터도 예측 부호화하는데 표 2와 같이 움직임 벡터 해상도의 제 1 제한 단계에 대한 코드 테이블을 이용하여 부호화한다.
또한, 움직임 벡터 부호화기(320)는 움직임 벡터 해상도의 제 2 제한 단계로서 정수, 1/2 화소 단위의 움직임 벡터 해상도의 움직임 벡터만을 고려하여 영상을 부호화할 때의 부호화 비용인 cost(1)을 계산한다(S820). 즉, 움직임 벡터 부호화기(320)는 입력 영상 내의 슬라이스 내에 있는 모든 블록에 대해 수학식 1과 수학식 2를 이용하여 정수 화소 단위와 1/2 화소 단위의 움직임 벡터 해상도로 움직임 추정을 수행함으로써 정수 화소 단위 또는 1/2 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 결정하고, 수학식 3과 수학식 4를 이용하여 정수 화소 단위 또는 1/2 화소 단위의 움직임 벡터 해상도로 결정되는 움직임 벡터에 따른 블록 모드를 결정한다. 또한, 움직임 벡터 부호화기(320)는 결정되는 움직임 벡터와 블록 모드에 따라 각 블록을 예측 부호화하여 정수 화소 단위와 1/2 화소 단위만으로 움직임 벡터 해상도가 제한된 각 블록에 대한 영상 부호화 데이터를 생성하고 수학식 3과 수학식 4를 이용하여 각 영상 부호화 데이터에 대한 부호화 비용을 계산하고 슬라이스 내의 모든 블록에 대한 부호화 비용을 합산하여 수학식 6과 같이 움직임 벡터 해상도의 제 2 제한 단계에 대한 부호화 비용 cost(1)을 계산한다. 이때, 움직임 벡터 부호화기(320)는 각 블록을 예측 부호화하여 영상 부호화 데이터를 생성할 때, 정수 화소 단위 또는 1/2 화소 단위의 움직임 벡터 해상도의 움직임 벡터도 예측 부호화하는데 표 3과 같이 움직임 벡터 해상도의 제 2 제한 단계에 대한 코드 테이블을 이용하여 부호화한다.
또한, 움직임 벡터 부호화기(320)는 움직임 벡터 해상도의 제 3 제한 단계로서 정수, 1/2, 1/4 화소 단위의 움직임 벡터 해상도의 움직임 벡터만을 고려하여 영상을 부호화할 때의 부호화 비용인 cost(2)을 계산한다(S830). 즉, 움직임 벡터 부호화기(320)는 입력 영상 내의 슬라이스 내에 있는 모든 블록에 대해 수학식 1과 수학식 2를 이용하여 정수 화소 단위, 1/2 화소 단위와 1/4 화소 단위의 움직임 벡터 해상도로 움직임 추정을 수행함으로써 정수 화소 단위, 1/2 화소 단위 또는 1/4 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 결정하고, 수학식 3과 수학식 4를 이용하여 정수 화소 단위, 1/2 화소 단위 또는 1/4 화소 단위의 움직임 벡터 해상도로 결정되는 움직임 벡터에 따른 블록 모드를 결정한다. 또한, 움직임 벡터 부호화기(320)는 결정되는 움직임 벡터와 블록 모드에 따라 각 블록을 예측 부호화하여 정수 화소 단위, 1/2 화소 단위와 1/4 화소 단위만으로 움직임 벡터 해상도가 제한된 각 블록에 대한 영상 부호화 데이터를 생성하고 수학식 3과 수학식 4를 이용하여 각 영상 부호화 데이터에 대한 부호화 비용을 계산하고 슬라이스 내의 모든 블록에 대한 부호화 비용을 합산하여 수학식 6과 같이 움직임 벡터 해상도의 제 3 제한 단계에 대한 부호화 비용 cost(2)을 계산한다. 이때, 움직임 벡터 부호화기(320)는 각 블록을 예측 부호화하여 영상 부호화 데이터를 생성할 때, 정수 화소 단위, 1/2 화소 단위 또는 1/4 화소 단위의 움직임 벡터 해상도의 움직임 벡터도 예측 부호화하는데 표 4와 같이 움직임 벡터 해상도의 제 3 제한 단계에 대한 코드 테이블을 이용하여 부호화한다.
또한, 움직임 벡터 부호화기(320)는 움직임 벡터 해상도의 제 4 제한 단계로서 정수, 1/2, 1/4, 1/8 화소 단위의 움직임 벡터 해상도의 움직임 벡터만을 고려하여 영상을 부호화할 때의 부호화 비용인 cost(3)을 계산한다(S840). 즉, 움직임 벡터 부호화기(320)는 입력 영상 내의 슬라이스 내에 있는 모든 블록에 대해 수학식 1과 수학식 2를 이용하여 정수 화소 단위, 1/2 화소 단위, 1/4 화소 단위와 1/8 화소 단위의 움직임 벡터 해상도로 움직임 추정을 수행함으로써 정수 화소 단위, 1/2 화소 단위, 1/4 화소 단위 또는 1/8 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 결정하고, 수학식 3과 수학식 4를 이용하여 정수 화소 단위, 1/2 화소 단위, 1/4 화소 단위 또는 1/8 화소 단위의 움직임 벡터 해상도로 결정되는 움직임 벡터에 따른 블록 모드를 결정한다. 또한, 움직임 벡터 부호화기(320)는 결정되는 움직임 벡터와 블록 모드에 따라 각 블록을 예측 부호화하여 정수 화소 단위, 1/2 화소 단위, 1/4 화소 단위와 1/8 화소 단위만으로 움직임 벡터 해상도가 제한된 각 블록에 대한 영상 부호화 데이터를 생성하고 수학식 3과 수학식 4를 이용하여 각 영상 부호화 데이터에 대한 부호화 비용을 계산하고 슬라이스 내의 모든 블록에 대한 부호화 비용을 합산하여 수학식 6과 같이 움직임 벡터 해상도의 제 4 제한 단계에 대한 부호화 비용 cost(3)을 계산한다. 이때, 움직임 벡터 부호화기(320)는 각 블록을 예측 부호화하여 영상 부호화 데이터를 생성할 때, 정수 화소 단위, 1/2 화소 단위, 1/4 화소 단위 또는 1/8 화소 단위의 움직임 벡터 해상도의 움직임 벡터도 예측 부호화하는데 표 5와 같이 움직임 벡터 해상도의 제 4 제한 단계에 대한 코드 테이블을 이용하여 부호화한다.
이후, 움직임 벡터 부호화기(320)는 cost(0), cost(1), cost(2), cost(3) 중에서 가장 작은 cost()를 가지는 움직임 벡터 해상도의 제한 단계를 선택한다(S850). 즉, 움직임 벡터 부호화기(320)는 단계 S810 내지 단계 S840을 통해 계산된 cost(0), cost(1), cost(2), cost(3) 중에서 최소값을 가지는 cost에 해당하는 해상도 제한 색인을 수학식 7을 이용하여 선택한다.
움직임 벡터 해상도의 제한 단계가 선택되면 움직임 벡터 부호화기(320)는 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정된 움직임 벡터와 해상도 제한 색인을 부호화한다(S860). 즉, 움직임 벡터 부호화기(320)는 단계 S810 내지 단계 S840에서 부호화 비용을 계산할 때 각 움직임 벡터 해상도의 제한 단계에 따라 결정된 움직임 벡터 중에서 단계 S850에서 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정된 움직임 벡터가 부호화된 움직임 벡터 부호화 데이터를 출력하고, 단계 S850에서 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인을 부호화하여 해상도 제한 색인 데이터를 출력한다. 이러한 제한 색인 데이터는 비트스트림의 블록 헤더 또는 슬라이스 헤더에 삽입될 수 있는데, 만약 부호화 단위가 슬라이스가 아닌 픽처라면 픽처 헤더에 삽입될 것이다.
도 7 및 도 8을 통해 전술한 각 단계는 모두 반드시 수행되어야 하는 것은 아니며, 일부의 단계가 선택적으로 생략되거나 추가될 수도 있다. 또한, 각 단계의 순서도 반드시 도시된 바와 같이 정해지는 것은 아니며, 일부 또는 전부의 단계의 순서가 변경되거나 심지어는 병행적으로 수행될 수도 있다. 예를 들어, 도 8에서는 단계 S810 내지 단계 S840이 순차적으로 수행되는 것으로 도시하고 설명했지만, 단계 S810 내지 단계 S840은 그 순서가 변경되어 수행되거나 병행하여 수행될 수도 있다.
도 9는 본 발명의 일 실시예에 따른 영상 부호화 방법을 설명하기 위한 순서도이다.
본 발명의 일 실시예에 따른 영상 부호화 방법에 따르면, 영상 부호화 장치(100)는 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따라 영상의 움직임 벡터를 결정하고(S910), 결정되는 움직임 벡터를 이용하여 영상의 예측 영상을 생성하며(S920), 영상과 예측 영상을 감산하여 잔여 영상을 생성하며(S930), 잔여 영상을 변환 및 양자화하며(S940), 변환 및 양자화된 잔여 영상을 부호화하여 제한 단계별 영상 부호화 데이터를 생성하며(S950), 제한 단계별 영상 부호화 데이터의 부호화 비용을 계산하며(S960), 제한 단계별 영상 부호화 데이터의 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하며(S970), 선택된 제한 단계에 따른 움직임 벡터 해상도에 따라 결정되는 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터를 포함하는 비트스트림을 생성한다(S980).
단계 S980에서, 영상 부호화 장치(100)는 선택된 움직임 벡터 해상도의 제한 단계에 따른 최소 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추정하고, 추정된 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 이용하여 영상을 예측 부호화하여 부호화된 영상 부호화 데이터를 포함하는 비트스트림을 생성할 수 있다. 이때, 영상 부호화 장치(100)는 템플릿 매칭을 이용하여 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추정할 수 있으며, 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정되는 움직임 벡터에 따라 영상을 예측 부호화하는 데 소요되는 부호화 비용과 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터에 따라 영상을 예측 부호화하는 데 소요되는 부호화 비용 중 작은 부호화 비용을 가지는 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터를 포함하는 비트스트림을 생성할 수 있다.
도 10은 본 발명의 일 실시예에 따른 영상 부호화 방법이 구현되는 다른 예를 설명하기 위한 순서도이다.
단계 S1010 내지 단계 S1070은 도 9를 통해 전술한 단계 S910 내지 단계 S970과 동일 또는 유사하므로 상세한 설명은 생략한다.
단계 S1070 이후에, 영상 부호화 장치(100)는 단계 S1070에서 선택된 움직임 벡터 해상도의 제한 단계 내의 움직임 벡터 해상도 중에서 최소 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도와 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정되는 움직임 벡터를 기초로 움직임 추정을 위한 탐색 영역을 결정한다(S1080). 예를 들어, 단계 S1070에서 정수 화소 단위와 1/2 화소 단위의 움직임 벡터 해상도를 포함하는 움직임 벡터 해상도의 제한 단계가 선택되었다면, 최소 움직임 벡터 해상도는 최소인 1/2 화소 단위의 움직임 벡터 해상도가 된다. 이 경우, 영상 부호화 장치(100)는 1/2 화소 단위의 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도인 1/4 화소 단위의 움직임 벡터 해상도와 1/8 화소 단위의 움직임 벡터 해상도를 최소 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도로서 결정한다. 또한, 단계 S1070에서 정수 화소 단위와 1/2 화소 단위의 움직임 벡터 해상도를 포함하는 움직임 벡터 해상도의 제한 단계가 선택되었으므로, 단계 S1060에서 부호화 비용을 계산할 때 결정된 움직임 벡터의 주변 영역으로 추가적인 움직임 추정을 위한 탐색 영역을 제한하여 설정한다.
또한, 영상 부호화 장치(100)는 단계 S1080에서 결정된 탐색 영역에서 작은 화소 단위의 움직임 벡터 해상도로 템플릿 매칭을 이용하여 움직임 추정을 수행함으로써 더 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 결정한다(S1090). 즉, 영상 부호화 장치(100)는 도 5를 통해 전술한 바와 같이, 템플릿 매칭을 이용하여 1/4 화소 단위의 움직임 벡터 해상도와 1/8 화소 단위의 움직임 벡터 해상도로 슬라이스 내의 각 블록에 대한 움직임을 추가로 추정하여 1/4 화소 단위의 움직임 벡터 해상도 또는 1/8 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 결정한다. 이때, 영상 부호화 장치(100)는 도 6을 통해 전술한 바와 같이, 단계 S1070에서 선택된 움직임 벡터 해상도의 제한 단계에 따라 결정된 움직임 벡터와 단계 S1090에서 템플릿 매칭을 이용하여 작은 화소 단위의 움직임 벡터 해상도로 움직임 추정을 수행하여 결정된 움직임 벡터 중 부호화 효율이 좋은 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터를 포함하는 비트스트림을 출력할 수 있다.
도 11은 본 발명의 일 실시예에 따른 영상 복호화 장치를 간략하게 나타낸 블록 구성도이다.
본 발명의 일 실시예에 따른 영상 복호화 장치(1100)는 복호화기(Decoder, 1110), 역 양자화기 및 역 변환기(1120), 예측기(1130), 가산기(1140) 및 참조 픽처 메모리(1150)를 포함하여 구성될 수 있다.
복호화기(1110)는 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 복원되는 움직임 벡터 해상도의 제한 단계에 따라 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하며, 비트스트림으로부터 추출되는 영상 부호화 데이터를 복호화하여 변환 및 양자화된 잔여 영상을 복원한다. 즉, 복호화기(1110)는 비트스트림으로부터 해상도 제한 색인 데이터, 움직임 벡터 부호화 데이터 및 영상 부호화 데이터를 각각 추출하고 복호화하여 해상도 제한 색인, 움직임 벡터와 변환 및 양자화된 잔여 영상을 복원한다. 이때, 복호화기(1110)는 복원되는 해상도 제한 색인이 나타내는 움직임 벡터 해상도의 제한 단계에 의해 식별되는 코드 테이블을 이용하여 움직임 벡터 부호화 데이터를 복호화한다. 복호화기(1110)는 엔트로피 부호화와 같은 부호화 기술을 이용하여 복호화할 수 있으며, 도 1을 통해 전술한 부호화기(140)가 부호화하는 과정을 역으로 수행하여 복호화할 수 있다.
역 양자화기 및 역 변환기(1120)는 변환 및 양자화된 잔여 영상을 역 양자화 및 역 변환하여 잔여 영상을 복원한다. 즉, 역 양자화기 및 역 변환기(1120)는 복호화기(1110)에 의해 전달되는 변환 및 양자화된 잔여 영상의 양자화된 변환 계수를 역 양자화 및 역 변환하여 잔여 신호를 가지는 잔여 영상을 복원한다. 이때, 역 양자화기 및 역 변환기(1120)는 도 1을 통해 전술한 변환기 및 양자화기(1130)가 변환 및 양자화하는 과정을 역으로 수행하여 역 양자화 및 역 변환할 수 있다. 여기서, 복원되는 잔여 영상은 여러 잔여 블록을 포함하는 소정의 부호화 단위 내의 영상으로서, 부호화 단위의 영상은 블록, 슬라이스, 픽처, 픽처 그룹 등 다양한 영상일 수 있다.
예측기(1130)는 복원되는 움직임 벡터를 이용하여 영상의 예측 영상을 생성한다. 즉, 예측기(1130)는 복호화기(1110)에 의해 복원되는 움직임 벡터를 이용하여 부호화하고자 하는 블록들의 움직임을 보상하여 예측 블록을 생성하는데, 예측 블록들이 소정의 부호화 단위로 모여 예측 영상을 구성한다.
또한, 예측기(1130)는 복호화기(1110)에 의해 복원되는 움직임 벡터가 아니라 복호화기(1110)에 의해 복원되는 해상도 제한 색인이 나타내는 움직임 벡터 해상도의 제한 단계에 따른 최소 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추정하고, 추정된 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 이용하여 예측 영상을 생성할 수 있다. 여기서, 예측기(1130)는 복호화기(1110)에 의해 복원되는 움직임 벡터를 이용하여 계산되는 부호화 비용과 작은 화소 단위의 움직임 벡터 해상도로 추정되는 움직임 벡터를 이용하여 계산되는 부호화 비용 중 작은 부호화 비용을 가지는 움직임 벡터를 이용하여 예측 영상을 생성할 수 있다. 이때, 예측기(1130)는 템플릿 매칭을 이용하여 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추정할 수 있다.
가산기(1140)는 잔여 영상과 예측 영상을 가산하여 영상을 복원한다. 즉, 가산기(1140)는 역 양자화기 및 역 변환기(1120)에 의해 복원되는 잔여 영상과 예측기(1130)에 의해 생성되는 예측 영상을 가산하여 영상을 복원한다.
가산기(1140)에 의해 복원되는 영상은 픽처 단위로 누적되어 복원 영상으로서 출력될 수 있으며, 참조 픽처 메모리(1150)에 저장되어 예측기(1130)가 다음 영상을 예측하는 데 활용될 수 있다.
도 11에서는 도시하지 않았지만, 전술한 본 발명의 일 실시예에 따른 영상 복호화 장치(1100)는 인트라 예측을 위한 인트라 예측기, 복원된 현재 블록을 디블로킹 필터링(Deblocking Filtering)하는 디블록킹 필터기 등을 추가로 포함할 수 있다.
도 12는 본 발명의 일 실시예에 따른 복호화기를 간략하게 나타낸 블록 구성도이다.
복호화기(1110)는 움직임 벡터 복호화기(1210) 및 예측 잔여 복호화기(1220)를 포함하여 구성될 수 있다.
움직임 벡터 복호화기(1210)는 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 복원되는 움직임 벡터 해상도의 제한 단계에 따라 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원한다. 움직임 벡터 부호화기(1210)에 대해서는 도 13을 통해 상세히 설명한다.
예측 잔여 복호화기(1220)는 비트스트림으로부터 추출되는 영상 부호화 데이터를 복호화하여 변환 및 양자화된 잔여 영상을 복원한다.
도 13은 본 발명의 일 실시예에 따른 움직임 벡터 복호화 장치를 간략하게 나타낸 블록 구성도이다.
본 발명의 일 실시예에 따른 움직임 벡터 복호화 장치는 도 12를 통해 전술한 복호화기(1110)에서는 움직임 벡터 복호화기(1210)로서 구현될 수 있다. 이하에서는 설명의 편의를 위해 본 발명의 일 실시예에 따른 움직임 벡터 복호화 장치를 움직임 벡터 복호화기(1210)라 칭한다.
움직임 벡터 복호화기(1210)는 제한 해상도 복원기(Restricted Resolution Reconstructor, 1310) 및 움직임 벡터 복원기(Motion Vector Reconstructor, 1320)를 포함하여 구성될 수 있다.
제한 해상도 복원기(1310)는 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 움직임 벡터 해상도의 제한 단계를 복원한다. 즉, 제한 해상도 복원기(1310)는 비트스트림으로부터 해상도 제한 색인 데이터를 추출하고 복호화하여 해상도 제한 색인을 복원하고 복원되는 해상도 제한 색인이 나타내는 움직임 벡터 해상도의 제한 단계를 복원한다. 이때, 제한 해상도 복원기(1310)는 비트스트림의 블록 헤더, 슬라이스 헤더, 픽처 헤더 등 소정의 부호화 단위의 헤더에서 해상도 제한 색인 데이터를 추출할 수 있다. 복원되는 움직임 벡터 해상도의 제한 단계는 소정의 부호화 단위의 영상 내의 모든 블록에 대한 움직임 벡터 해상도의 제한 정보를 가지고 있다. 예를 들어, 움직임 벡터 해상도의 제한 단계가 움직임 벡터 해상도의 제 2 단계라고 가정하면, 소정의 부호화 단위 내의 모든 블록의 움직임 벡터는 정수 화소 또는 1/2 화소 단위의 움직임 벡터 해상도만을 가진다.
움직임 벡터 복원기(1320)는 복원되는 움직임 벡터 해상도의 제한 단계에 따라 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원한다. 즉, 움직임 벡터 복원기(1320)는 비트스트림으로부터 움직임 벡터 부호화 데이터를 추출하고 복호화하여 소정의 부호화 단위 내의 모든 블록의 움직임 벡터를 복원하는데, 제한 해상도 복원기(1310)에 의해 복원되는 움직임 벡터 해상도의 제한 단계에 의해 식별되는 코드 데이블을 이용하여 움직임 벡터 부호화 데이터를 복호화할 수 있다. 예를 들어, 움직임 벡터 해상도의 제한 단계가 움직임 벡터 해상도의 제 2 단계라고 가정하면, 표 3을 통해 예시적으로 나타낸 코드 테이블을 이용하여 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원할 수 있다. 이를 위해, 움직임 벡터 복원기(1320)는 움직임 벡터 해상도의 제한 단계에 따라 다른 코드 테이블을 미리 구비하여 저장하고 있으며, 이러한 코드 테이블은 움직임 벡터 부호화기(430) 또는 영상 부호화 장치(100)와 미리 약속하여 동일하게 생성되는 테이블이다.
도 14는 본 발명의 일 실시예에 따른 움직임 벡터 복호화 방법을 설명하기 위한 순서도이다.
본 발명의 일 실시예에 따른 움직임 벡터 복호화 방법에 따르면, 움직임 벡터 복호화기(1210)는 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 움직임 벡터 해상도의 제한 단계를 복원하고(S1410), 복원되는 움직임 벡터 해상도의 제한 단계에 따라 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원한다(S1420).
단계 S1420에서, 움직임 벡터 복호화기(1210)는 단계 S1410에서 복원되는 움직임 벡터 해상도의 제한 단계에 따라 다른 코드 테이블을 이용하여 움직임 벡터 부호화 데이터를 복호화할 수 있다.
도 15는 본 발명의 일 실시예에 따른 영상 복호화 방법을 설명하기 위한 순서도이다.
본 발명의 일 실시예에 따른 영상 복호화 방법에 따르면, 영상 복호화 장치(1100)는 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 복원되는 움직임 벡터 해상도의 제한 단계에 따라 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하고(S1510), 비트스트림으로부터 추출되는 영상 부호화 데이터를 복호화하여 변환 및 양자화된 잔여 영상을 복원하며(S1520), 변환 및 양자화된 잔여 영상을 역 양자화 및 역 변환하여 잔여 영상을 복원하며(S1530), 복원되는 움직임 벡터를 이용하여 영상의 예측 영상을 생성하며(S1540), 잔여 영상과 예측 영상을 가산하여 영상을 복원한다(S1550).
단계 S1540에서, 영상 복호화 장치(1100)는 단계 S1510에서 복원되는 움직임 벡터를 그대로 이용하여 예측 영상을 생성할 수도 있지만, 단계 S1510에서 복원되는 움직임 벡터 해상도의 제한 단계에 따른 최소 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추정하고, 단계 S1510에서 복원되는 움직임 벡터를 이용하여 계산되는 부호화 비용과 작은 화소 단위의 움직임 벡터 해상도로 추정되는 움직임 벡터를 이용하여 계산되는 부호화 비용 중 작은 부호화 비용을 가지는 움직임 벡터를 이용하여 예측 영상을 생성할 수도 있다. 이때, 영상 복호화 장치(1100)는 템플릿 매칭을 이용하여 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추정할 수 있다.
도 14 및 도 15를 통해 전술한 각 단계는 모두 반드시 수행되어야 하는 것은 아니며, 일부의 단계가 선택적으로 생략되거나 추가될 수도 있다. 또한, 각 단계의 순서도 반드시 도시된 바와 같이 정해지는 것은 아니며, 일부 또는 전부의 단계의 순서가 변경되거나 심지어는 병행적으로 수행될 수도 있다.
이상에서 전술한 바와 같이, 본 발명의 일 실시예에 따르면, 영상을 부호화할 때 블록 및 슬라이스 등과 같은 소정의 부호화 단위의 영상 내의 블록들에 대한 움직임 벡터의 해상도를 제한하여 결정하고 제한된 움직임 벡터 해상도의 움직임 벡터들을 제한된 움직임 벡터 해상도에 적합한 코드 테이블을 이용하여 부호화할 수 있으므로, 움직임 벡터를 부호화하는 데 소요되는 비트량을 줄일 수 있으며 결과적으로 영상의 압축 효율을 향상시킬 수 있다.
이뿐만 아니라, 본 발명의 일 실시예에 따르면, 영상 부호화 장치(100)와 영상 복호화 장치(1100)가 모두 동일하게 수행할 수 있는 템플릿 매칭과 같은 움직임 추정 기술을 통해, 제한된 움직임 벡터 해상도보다 더 작은 화소 단위의 움직임 벡터 해상도로 추가적인 움직임 추정을 수행하여 더욱 세밀한 움직임 벡터 해상도의 움직임 벡터를 이용하여 영상을 부호화할 수 있기 때문에, 예측의 정확도를 높여 잔여 신호의 발생을 억제하면서도 추가적인 움직임 추정을 통해 결정되는 세밀한 움직임 벡터 해상도의 움직임 벡터를 추가적으로 부호화할 필요가 없으므로 영상의 압축 효율을 더욱 향상시킬 수 있다.
한편, 본 발명의 일 실시예에 따른 영상 부호화/복호화 장치는 도 1의 영상 부호화 장치(100)의 부호화데이터 출력단을 도 11의 영상 복호화 장치(1100)의 비트스트림(부호화데이터) 입력단에 연결함으로써 구현할 수 있다.
본 발명의 일 실시예에 따른 영상 부호화/복호화 장치는, 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따라 상기 영상의 움직임 벡터를 결정하고 상기 결정되는 움직임 벡터를 이용하여 상기 영상의 예측 영상을 생성하고 상기 영상과 상기 예측 영상을 감산하고 변환 및 양자화한 후 부호화하여 제한 단계별 영상 부호화 데이터를 생성하고, 상기 제한 단계별 영상 부호화 데이터의 부호화 비용을 계산하고, 상기 제한 단계별 영상 부호화 데이터의 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하며, 상기 선택된 제한 단계에 따른 움직임 벡터 해상도에 따라 결정되는 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터 및 상기 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인을 부호화하여 해상도 제한 색인 데이터를 출력하는 영상 부호화기 및 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 복원되는 움직임 벡터 해상도의 제한 단계에 따라 상기 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하며, 상기 비트스트림으로부터 변환 및 양자화된 잔여 영상을 복원하고 역 양자화 및 역 변환하여 영상을 복원하고, 상기 복원되는 움직임 벡터를 이용하여 상기 영상의 예측 영상을 생성하고 상기 잔여 영상과 상기 예측 영상을 가산하여 상기 영상을 복원하는 영상 복호화기를 포함한다.
본 발명의 일 실시예에 따른 영상 부호화/복호화 장치에서 영상 부호화기는 본 발명의 일 실시예에 따른 영상 부호화 장치(100)로 구현 가능하며, 영상 복호화기는 본 발명의 일 실시예에 따른 영상 복호화 장치(1100)로 구현 가능하다.
본 발명의 일 실시예에 따른 영상 부호화/복호화 방법은, 움직임 벡터 해상도가 단계적으로 제한된 제한 단계별 움직임 벡터 해상도에 따라 상기 영상의 움직임 벡터를 결정하고 상기 결정되는 움직임 벡터를 이용하여 상기 영상의 예측 영상을 생성하고 상기 영상과 상기 예측 영상을 감산하고 변환 및 양자화한 후 부호화하여 제한 단계별 영상 부호화 데이터를 생성하고, 상기 제한 단계별 영상 부호화 데이터의 부호화 비용을 계산하고, 상기 제한 단계별 영상 부호화 데이터의 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하며, 상기 선택된 제한 단계에 따른 움직임 벡터 해상도에 따라 결정되는 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터 및 상기 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인을 부호화하여 해상도 제한 색인 데이터를 출력하는 영상 부호화단계; 및 비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 복원되는 움직임 벡터 해상도의 제한 단계에 따라 상기 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하며, 상기 비트스트림으로부터 변환 및 양자화된 잔여 영상을 복원하고 역 양자화 및 역 변환하여 영상을 복원하고, 상기 복원되는 움직임 벡터를 이용하여 상기 영상의 예측 영상을 생성하고 상기 잔여 영상과 상기 예측 영상을 가산하여 상기 영상을 복원하는 영상 복호화단계를 포함한다.
본 발명의 일 실시예에 따른 영상 부호화/복호화 방법에서, 영상 부호화단계는 본 발명의 일 실시예에 따른 영상 부호화 단계로 구현 가능하며, 영상 복호화단계는 본 발명의 일 실시예에 따른 영상 복호화 단계로 구현 가능하다.
이상에서, 본 발명의 실시예를 구성하는 모든 구성 요소들이 하나로 결합하거나 결합하여 동작하는 것으로 설명되었다고 해서, 본 발명이 반드시 이러한 실시예에 한정되는 것은 아니다. 즉, 본 발명의 목적 범위 안에서라면, 그 모든 구성 요소들이 하나 이상으로 선택적으로 결합하여 동작할 수도 있다. 또한, 그 모든 구성 요소들이 각각 하나의 독립적인 하드웨어로 구현될 수 있지만, 각 구성 요소들의 그 일부 또는 전부가 선택적으로 조합되어 하나 또는 복수 개의 하드웨어에서 조합된 일부 또는 전부의 기능을 수행하는 프로그램 모듈을 갖는 컴퓨터 프로그램으로서 구현될 수도 있다. 그 컴퓨터 프로그램을 구성하는 코드들 및 코드 세그먼트들은 본 발명의 기술 분야의 당업자에 의해 용이하게 추론될 수 있을 것이다. 이러한 컴퓨터 프로그램은 컴퓨터가 읽을 수 있는 저장매체(Computer Readable Media)에 저장되어 컴퓨터에 의하여 읽혀지고 실행됨으로써, 본 발명의 실시예를 구현할 수 있다. 컴퓨터 프로그램의 저장매체로서는 자기 기록매체, 광 기록매체, 캐리어 웨이브 매체 등이 포함될 수 있다.
또한, 이상에서 기재된 "포함하다", "구성하다" 또는 "가지다" 등의 용어는, 특별히 반대되는 기재가 없는 한, 해당 구성 요소가 내재할 수 있음을 의미하는 것이므로, 다른 구성 요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것으로 해석되어야 한다. 기술적이거나 과학적인 용어를 포함한 모든 용어들은, 다르게 정의되지 않는 한, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미가 있다. 사전에 정의된 용어와 같이 일반적으로 사용되는 용어들은 관련 기술의 문맥상의 의미와 일치하는 것으로 해석되어야 하며, 본 발명에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.
이상에서 설명한 바와 같이 본 발명의 실시예에 의하면, 동영상을 부호화하거나 복호화하고 그를 위한 움직임 벡터를 부호화거나 복호하하는 영상 압축 처리 분야에 적용되어, 움직임 벡터의 해상도를 적응적으로 제한하여 움직임 벡터를 결정하고 부호화함으로써 압축 효율을 향상시킬 수 있는 효과를 발생하는 매우 유용한 발명이다.

Claims (39)

  1. 삭제
  2. 영상을 부호화하는 장치에 있어서,
    상기 영상을 부호화하는데 사용되는 움직임 벡터의 해상도가 단계적으로 서로 다른 해상도 한도를 갖도록 제한된 복수의 제한 단계별 움직임 벡터 해상도에 따라 상기 영상의 제한 단계별 움직임 벡터를 결정하고 상기 결정되는 제한 단계별 움직임 벡터를 이용하여 상기 영상의 예측 영상을 생성하는 예측기;
    상기 영상과 상기 예측 영상을 감산하여 잔여 영상을 생성하는 감산기;
    상기 잔여 영상을 변환 및 양자화하는 변환기 및 양자화기; 및
    상기 변환 및 양자화된 잔여 영상을 부호화하여 제한 단계별 영상 부호화 데이터를 생성하고, 상기 제한 단계별 영상 부호화 데이터의 부호화 비용을 계산하며, 상기 제한 단계별 영상 부호화 데이터의 부호화 비용을 이용하여 상기 영상의 움직임 벡터 해상도의 제한 단계를 선택하며, 상기 선택된 제한 단계에 따른 움직임 벡터 해상도에 따라 결정되는 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터 및 상기 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인을 부호화하여 해상도 제한 색인 데이터를 포함하는 비트스트림을 생성하는 부호화기
    를 포함하고,
    상기 제한 단계별 움직임 벡터 해상도는 상기 영상이 움직임 추정 시에 참조하는 참조 픽처에 대한 복수개의 서로 다른 해상도 그룹을 나타내며, 각 해상도 그룹은 상기 영상의 움직임 추정에 이용할 수 있는 움직임 벡터 해상도의 집합에서 움직임 벡터 해상도가 큰 순서로 서로 다른 개수의 움직임 벡터 해상도를 포함하는 것을 특징으로 하는 영상 부호화 장치.
  3. 제 2 항에 있어서, 상기 부호화기는,
    상기 선택된 움직임 벡터 해상도의 제한 단계에 따른 움직임 벡터 해상도 중 최소 움직임 벡터 해상도보다 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 상기 결정된 움직임 벡터가 가리키는 영역의 주변 영역에서 추정하고, 상기 추정된 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 이용하여 상기 영상을 예측 부호화하여 부호화된 영상 부호화 데이터를 포함하는 비트스트림을 생성하는 것을 특징으로 하는 영상 부호화 장치.
  4. 제 3 항에 있어서, 상기 부호화기는,
    상기 영상의 인접 화소와 상기 결정된 움직임 벡터가 가리키는 영역의 인접 화소 사이의 템플릿 매칭을 이용하여 상기 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터를 추정하는 것을 특징으로 하는 영상 부호화 장치.
  5. 제 3 항에 있어서, 상기 부호화기는,
    상기 선택된 움직임 벡터 해상도의 제한 단계에 따른 움직임 벡터 해상도에 따라 결정된 움직임 벡터에 따라 상기 영상을 예측 부호화하는 데 소요되는 부호화 비용과 상기 작은 화소 단위의 움직임 벡터 해상도의 움직임 벡터에 따라 상기 영상을 예측 부호화하는 데 소요되는 부호화 비용 중 작은 부호화 비용을 가지는 움직임 벡터를 이용하여 부호화된 영상 부호화 데이터를 출력하는 것을 특징으로 하는 영상 부호화 장치.
  6. 영상을 복호화하는 장치에 있어서,
    비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 서로 다른 해상도 한도를 갖도록 제한된 복수의 제한 단계별 움직임 벡터 해상도 중에서 상기 영상의 움직임 벡터 해상도의 제한 단계를 복원하고, 상기 복원되는 움직임 벡터 해상도의 제한 단계에 따른 움직임 벡터 해상도에 따라 상기 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하며, 상기 비트스트림으로부터 추출되는 영상 부호화 데이터를 복호화하여 변환 및 양자화된 잔여 영상을 복원하는 복호화기;
    상기 변환 및 양자화된 잔여 영상을 역 양자화 및 역 변환하여 잔여 영상을 복원하는 역 양자화기 및 역 변환기;
    상기 복원되는 움직임 벡터를 이용하여 상기 영상의 예측 영상을 생성하는 예측기; 및
    상기 잔여 영상과 상기 예측 영상을 가산하여 상기 영상을 복원하는 가산기
    를 포함하고,
    상기 제한 단계별 움직임 벡터 해상도는 상기 영상이 움직임 추정 시에 참조하는 참조 픽처에 대한 복수개의 서로 다른 해상도 그룹을 나타내며, 각 해상도 그룹은 상기 영상의 움직임 추정에 이용할 수 있는 움직임 벡터 해상도의 집합에서 움직임 벡터 해상도가 큰 순서로 서로 다른 개수의 움직임 벡터 해상도를 포함하는 것을 특징으로 하는 영상 복호화 장치.
  7. 삭제
  8. 영상을 부호화하는데 사용되는 움직임 벡터를 부호화하는 장치에 있어서,
    상기 움직임 벡터의 해상도가 단계적으로 서로 다른 해상도 한도를 갖도록 제한된 복수의 제한 단계별 움직임 벡터 해상도에 따라 각각 상기 영상의 부호화 비용을 계산하는 부호화 비용 계산기;
    상기 제한 단계별로 계산된 상기 부호화 비용을 이용하여 움직임 벡터 해상도의 제한 단계를 선택하는 제한 해상도 결정기; 및
    상기 선택된 움직임 벡터 해상도의 제한 단계에 따른 움직임 벡터 해상도에 따라 결정되는 움직임 벡터가 부호화된 움직임 벡터 부호화 데이터 및 상기 선택된 움직임 벡터 해상도의 제한 단계를 나타내는 해상도 제한 색인을 부호화하여 해상도 제한 색인 데이터를 출력하는 움직임 정보 부호화기
    를 포함하고,
    상기 제한 단계별 움직임 벡터 해상도는 상기 영상이 움직임 추정 시에 참조하는 참조 픽처에 대한 복수개의 서로 다른 해상도 그룹을 나타내며, 각 해상도 그룹은 상기 영상의 움직임 추정에 이용할 수 있는 움직임 벡터 해상도의 집합에서 움직임 벡터 해상도가 큰 순서로 서로 다른 개수의 움직임 벡터 해상도를 포함하는 것을 특징으로 하는 움직임 벡터 부호화 장치.
  9. 제 8항에 있어서, 상기 제한 해상도 결정기는,
    블록, 슬라이스, 픽처 및 픽처 그룹 중 하나 이상을 포함하는 부호화 단위마다 상기 움직임 벡터 해상도의 제한 단계를 선택하는 것을 특징으로 하는 움직임 벡터 부호화 장치.
  10. 제 8항에 있어서, 상기 움직임 벡터 해상도는,
    정수 화소 단위의 해상도, 1/2 화소 단위의 해상도, 1/4 화소 단위의 해상도 및 1/8 화소 단위의 해상도 중 하나 이상을 포함하는 것을 특징으로 하는 움직임 벡터 부호화 장치.
  11. 제 8 항에 있어서, 상기 제한 해상도 결정기는,
    상기 제한 단계별로 계산된 부호화 비용 중 가장 작은 부호화 비용을 가지는 제한 단계를 상기 움직임 벡터 해상도의 제한 단계로서 선택하는 것을 특징으로 하는 움직임 벡터 부호화 장치.
  12. 제 8항에 있어서, 상기 부호화 비용 계산기는,
    상기 제한 단계별 움직임 벡터 해상도에 따라 블록마다 움직임 벡터 및 블록 모드를 결정하고 상기 결정된 움직임 벡터와 상기 결정된 블록 모드 중 하나 이상을 이용하여 부호화 비용을 계산하는 것을 특징으로 하는 움직임 벡터 부호화 장치.
  13. 제 8 항에 있어서, 상기 부호화 비용 계산기는,
    상기 제한 단계별 움직임 벡터 해상도에 따라 서로 다른 코드 테이블을 이용하여 상기 결정된 움직임 벡터를 부호화하여 상기 부호화 비용을 계산하는 것을 특징으로 하는 움직임 벡터 부호화 장치.
  14. 영상을 복원하기 위한 움직임 벡터를 복호화하는 장치에 있어서,
    비트스트림으로부터 추출되는 해상도 제한 색인 데이터를 복호화하여 서로 다른 해상도 한도를 갖도록 제한된 복수의 제한 단계별 움직임 벡터 해상도 중에서 움직임 벡터 해상도의 제한 단계를 복원하는 제한 해상도 복원기; 및
    상기 복원되는 움직임 벡터 해상도의 제한 단계에 따른 움직임 벡터 해상도에 따라 상기 비트스트림으로부터 추출되는 움직임 벡터 부호화 데이터를 복호화하여 움직임 벡터를 복원하는 움직임 벡터 복원기
    를 포함하고,
    상기 제한 단계별 움직임 벡터 해상도는 상기 영상이 움직임 추정 시에 참조하는 참조 픽처에 대한 복수개의 서로 다른 해상도 그룹을 나타내며, 각 해상도 그룹은 상기 영상의 움직임 추정에 이용할 수 있는 움직임 벡터 해상도의 집합에서 움직임 벡터 해상도가 큰 순서로 서로 다른 개수의 움직임 벡터 해상도를 포함하는 것을 특징으로 하는 움직임 벡터 복호화 장치.
  15. 제 14 항에 있어서, 상기 움직임 벡터 복원기는,
    상기 복원되는 움직임 벡터 해상도의 제한 단계에 대응하는 코드 테이블을 이용하여 상기 움직임 벡터 부호화 데이터를 복호화하는 것을 특징으로 하는 움직임 벡터 복호화 장치.
  16. 삭제
  17. 제 14 항에 있어서,
    상기 해상도 제한 색인 데이터는 블록, 슬라이스, 픽처 및 픽처 그룹 중 하나 이상을 포함하는 복호화 단위마다 포함된 것을 특징으로 하는 움직임 벡터 복호화 장치.
  18. 제 14 항에 있어서,
    상기 복원된 움직임 벡터 해상도 제한 단계는 1/8 화소 단위의 해상도를 포함하는 것을 특징으로 하는 움직임 벡터 복호화 장치.
  19. 삭제
  20. 삭제
  21. 삭제
  22. 삭제
  23. 삭제
  24. 삭제
  25. 삭제
  26. 삭제
  27. 삭제
  28. 삭제
  29. 삭제
  30. 삭제
  31. 삭제
  32. 삭제
  33. 삭제
  34. 삭제
  35. 삭제
  36. 삭제
  37. 삭제
  38. 삭제
  39. 삭제
KR1020100106747A 2009-10-30 2010-10-29 움직임 벡터 해상도 제한을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치 KR101449683B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020100106747A KR101449683B1 (ko) 2009-10-30 2010-10-29 움직임 벡터 해상도 제한을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
PCT/KR2010/007548 WO2011053054A2 (ko) 2009-10-30 2010-10-29 움직임 벡터 해상도 제한을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR1020090104411 2009-10-30
KR20090104411 2009-10-30
KR1020100106747A KR101449683B1 (ko) 2009-10-30 2010-10-29 움직임 벡터 해상도 제한을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20110048004A KR20110048004A (ko) 2011-05-09
KR101449683B1 true KR101449683B1 (ko) 2014-10-15

Family

ID=43922877

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100106747A KR101449683B1 (ko) 2009-10-30 2010-10-29 움직임 벡터 해상도 제한을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치

Country Status (2)

Country Link
KR (1) KR101449683B1 (ko)
WO (1) WO2011053054A2 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10536701B2 (en) 2011-07-01 2020-01-14 Qualcomm Incorporated Video coding using adaptive motion vector resolution
KR20140122193A (ko) * 2013-04-05 2014-10-17 삼성전자주식회사 현재 영상이 참조 영상이 되는지 여부를 결정하는 방법과 그 장치
KR102349788B1 (ko) * 2015-01-13 2022-01-11 인텔렉추얼디스커버리 주식회사 영상의 부호화/복호화 방법 및 장치
KR102368620B1 (ko) 2018-02-28 2022-02-28 삼성전자주식회사 비디오 복호화 방법 및 장치, 비디오 부호화 방법 및 장치
CN112565767B (zh) * 2020-06-04 2022-04-01 腾讯科技(深圳)有限公司 视频解码方法、视频编码方法及相关设备

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009027762A (ja) * 2008-11-07 2009-02-05 Renesas Technology Corp 動き補償画像符号化装置及び符号化方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5276513A (en) * 1992-06-10 1994-01-04 Rca Thomson Licensing Corporation Implementation architecture for performing hierarchical motion analysis of video images in real time
KR970000683B1 (ko) * 1993-05-31 1997-01-16 삼성전자 주식회사 해상도 가변 적응적 화상압축/복원방법 및 장치
JP2008258769A (ja) * 2007-04-02 2008-10-23 Canon Inc 画像符号化装置及びその制御方法、並びに、コンピュータプログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009027762A (ja) * 2008-11-07 2009-02-05 Renesas Technology Corp 動き補償画像符号化装置及び符号化方法

Also Published As

Publication number Publication date
WO2011053054A2 (ko) 2011-05-05
WO2011053054A9 (ko) 2012-01-19
KR20110048004A (ko) 2011-05-09
WO2011053054A3 (ko) 2011-08-04

Similar Documents

Publication Publication Date Title
KR101830352B1 (ko) 스킵모드를 이용한 동영상 부호화 및 복호화 방법 및 장치
KR101441905B1 (ko) 후보 예측 움직임 벡터 집합 선택을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
KR101997604B1 (ko) 영상 부호화/복호화 방법 및 장치
KR101943049B1 (ko) 영상 부호화/복호화 방법 및 장치
KR101377660B1 (ko) 복수 개의 움직임 벡터 추정을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
KR101418104B1 (ko) 움직임 벡터 해상도 조합을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
US8948243B2 (en) Image encoding device, image decoding device, image encoding method, and image decoding method
KR101681303B1 (ko) 블록 분할예측을 이용한 영상 부호화/복호화 방법 및 장치
KR101955374B1 (ko) 고속 코딩 단위(Coding Unit) 모드 결정을 통한 부호화/복호화 방법 및 장치
KR20130085838A (ko) 가중치예측을 이용한 영상 부호화/복호화 방법 및 장치
KR101648065B1 (ko) 고정밀 필터를 이용한 영상 부호화/복호화 방법 및 장치
KR20120009861A (ko) 확장된 스킵모드를 이용한 영상 부호화/복호화 방법 및 장치
KR101763113B1 (ko) 노이즈성분을 위한 공간영역에서의 영상 부호화/복호화 방법 및 장치
KR20090087767A (ko) 영상의 인트라 예측 부호화 방법
KR101681301B1 (ko) 필터링모드 생략가능한 영상 부호화/복호화 방법 및 장치
KR101379190B1 (ko) 적응적인 해상도 기반의 영상 부호화/복호화 방법 및 장치
KR101449683B1 (ko) 움직임 벡터 해상도 제한을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
KR101943058B1 (ko) 영상 부호화/복호화 방법 및 장치
KR101527148B1 (ko) 인터 예측 장치 및 그를 이용한 영상 부호화/복호화 장치와방법
KR101539045B1 (ko) 양자화 계수 결정 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
KR101377529B1 (ko) 적응적 움직임 벡터 부호화/복호화를 이용한 영상 부호화/복호화 방법 및 장치
KR101432779B1 (ko) 움직임 보상 프레임의 선택적 필터링을 이용한 영상 부호화/복호화 방법 및 장치와 그를 위한 인터 예측 방법 및 장치
KR101796876B1 (ko) 움직임 추정을 이용한 영상 부호화 방법 및 장치
KR101693284B1 (ko) 전역움직임을 기반하여 결정된 부호화구조를 이용한 영상 부호화/복호화 방법 및 장치
KR101590493B1 (ko) 인터 예측을 이용한 영상 부호화 및 복호화 방법과 장치

Legal Events

Date Code Title Description
A201 Request for examination
AMND Amendment
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20171010

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20181002

Year of fee payment: 5