KR20120005991A - 영상 보간 방법 및 장치 - Google Patents

영상 보간 방법 및 장치 Download PDF

Info

Publication number
KR20120005991A
KR20120005991A KR1020110068560A KR20110068560A KR20120005991A KR 20120005991 A KR20120005991 A KR 20120005991A KR 1020110068560 A KR1020110068560 A KR 1020110068560A KR 20110068560 A KR20110068560 A KR 20110068560A KR 20120005991 A KR20120005991 A KR 20120005991A
Authority
KR
South Korea
Prior art keywords
interpolation
interpolation filter
subpixel
coding unit
unit
Prior art date
Application number
KR1020110068560A
Other languages
English (en)
Other versions
KR101686945B1 (ko
Inventor
이태미
한우진
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Publication of KR20120005991A publication Critical patent/KR20120005991A/ko
Application granted granted Critical
Publication of KR101686945B1 publication Critical patent/KR101686945B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/523—Motion estimation or motion compensation with sub-pixel accuracy
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)

Abstract

영상 보간 방법 및 장치가 개시된다. 본 발명에 따른 영상 보간 방법은 정수 픽셀들 사이의 서브 픽셀의 위치에 따라서 서로 다른 보간 필터를 선택하고, 선택된 보간 필터를 이용하여 서브 픽셀 위치에서의 서브 픽셀값을 생성하는 것을 특징으로 한다.

Description

영상 보간 방법 및 장치{Method and apparatus for interpolation image}
본 발명은 영상을 보간하는 방법 및 그 장치에 관한 것으로, 보다 상세히는 정수 픽셀들 사이의 서브 픽셀의 픽셀값을 보간하는 방법 및 그 장치에 관한 것이다.
영상 부호화, 복호화 방법에서는 영상을 부호화하기 위해 하나의 픽처를 매크로 블록으로 분할한다. 그런 다음, 인터 예측(inter prediction) 또는 인트라 예측(intra prediction)을 이용해 각각의 매크로 블록을 예측 부호화한다.
인터 예측은 픽처들 사이의 시간적인 중복성을 제거하여 영상을 압축하는 방법으로 움직임 예측 부호화가 대표적인 예이다. 움직임 예측 부호화는 적어도 하나의 참조 픽처를 이용해 현재 픽처의 블록들을 각각 예측한다. 소정의 평가 함수를 이용하여 현재 블록과 가장 유사한 참조 블록을 소정의 검색 범위에서 검색한다.
현재 블록을 참조 블록에 기초해 예측하고, 현재 블록에서 예측 결과 생성된 예측 블록을 감산하여 생성된 레지듀얼 블록을 부호화한다. 이 때, 예측을 보다 정확하게 수행하기 위해 참조 픽처의 검색 범위에 대해 보간을 수행하여 정수 픽셀보다 작은 서브 픽셀들을 생성하고, 생성된 서브 픽셀 정밀도를 갖는 참조 픽처에 기초해 인터 예측을 수행한다.
본 발명이 해결하고자 하는 기술적 과제는 정수 픽셀 단위의 픽셀 값들 사이를 보간하여 서브 픽셀 단위의 픽셀값을 생성하는 영상 보간 방법 및 장치를 제공하는 것이다.
본 발명의 일 실시예에 따른 영상을 보간하는 방법은 정수 픽셀들 사이의 서브 픽셀의 위치에 따라서 서로 다른 보간 필터를 선택하는 단계; 및 상기 선택된 보간 필터를 이용하여 상기 서브 픽셀 위치에서의 서브 픽셀값을 생성하는 단계를 포함하는 것을 특징으로 한다.
본 발명의 일 실시예에 따른 영상을 보간하는 장치는 정수 픽셀들 사이의 서브 픽셀의 위치에 따라서 서로 다른 보간 필터를 선택하는 보간 필터 선택부; 및 상기 선택된 보간 필터를 이용하여 상기 서브 픽셀 위치에서의 서브 픽셀값을 생성하는 보간부를 포함하는 것을 특징으로 한다.
본 발명에 따르면, 영상을 보다 정밀하게 보간할 수 있어, 보다 높은 압축 효율로 영상을 부호화, 복호화할 수 있다.
도 1은 본 발명의 일 실시예에 따른 영상 부호화 장치를 도시한다.
도 2는 본 발명의 일 실시예에 따른 영상 복호화 장치를 도시한다.
도 3은 본 발명의 일 실시예에 따른 계층적 부호화 단위를 도시한다.
도 4는 본 발명의 일 실시예에 따른 부호화 단위에 기초한 영상 부호화부를 도시한다.
도 5는 본 발명의 일 실시예에 따른 부호화 단위에 기초한 영상 복호화부를 도시한다.
도 6은 본 발명의 일 실시예에 따른 최대 부호화 단위, 서브 부호화 단위 및 예측 단위를 도시한다.
도 7은 본 발명의 일 실시예에 따른, 부호화 단위 및 변환 단위를 도시한다.
도 8a 및 8b는 본 발명의 일 실시예에 따른, 부호화 단위, 예측 단위 및 변환 단위의 분할 형태를 도시한다.
도 9는 본 발명의 일 실시예에 따른 영상을 보간하는 장치를 도시한다.
도 10은 본 발명의 일 실시예에 따라서 서브 픽셀의 보간을 위한 보간 필터를 선택하는 과정을 설명하기 위한 참조도이다.
도 11은 본 발명의 일 실시예에 따른 정수 픽셀들과 동일한 행 또는 열에 위치한 서브 픽셀들을 보간하는 과정을 설명하기 위한 참조도이다.
도 12는 도 10의 1/2 서브 픽셀 j(1014)의 보간 과정을 설명하기 위한 참조도이다.
도 13은 도 10의 1/4 서브 픽셀 f(1010), 1/4 서브 픽셀 i(1013), 1/4 서브 픽셀 k(1015) 및 1/4 서브 픽셀 n(1018)의 보간 과정을 설명하기 위한 참조도이다.
도 14는 도 10의 1/4 서브 픽셀 e(1009), 1/4 서브 픽셀 g(1011), 1/4 서브 픽셀 m(1015) 및 1/4 서브 픽셀 o(1019)의 보간 과정을 설명하기 위한 참조도이다.
도 15는 본 발명의 일 실시예에 따른 영상 보간 방법을 나타낸 플로우 차트이다.
이하에서는 도면을 참조하여 본 발명의 실시예들을 상세히 설명한다.
도 1 은 본 발명의 일 실시예에 따른 영상 부호화 장치를 도시한다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 영상 부호화 장치(100)는 최대 부호화 단위 분할부(110), 부호화 심도 결정부(120), 영상 데이터 부호화부(130) 및 부호화 정보 부호화부(140)를 포함한다.
최대 부호화 단위 분할부(110)는 최대 크기의 부호화 단위인 최대 부호화 단위에 기반하여 현재 프레임 또는 현재 슬라이스를 분할할 수 있다. 현재 프레임 또는 현재 슬라이스를 적어도 하나의 최대 부호화 단위로 분할할 수 있다.
본 발명의 일 실시예에 따르면, 최대 부호화 단위 및 심도를 이용해 부호화 단위가 표현될 수 있다. 전술한 바와 같이 최대 부호화 단위는 현재 프레임의 부호화 단위 중 크기가 가장 큰 부호화 단위를 나타내며, 심도는 부호화 단위가 계층적으로 축소된 정도를 나타낸다. 심도가 커지면서, 부호화 단위는 최대 부호화 단위로부터 최소 부호화 단위까지 축소될 수 있으며, 최대 부호화 단위의 심도는 최소 심도로 정의되고, 최소 부호화 단위의 심도는 최대 심도로 정의될 수 있다. 최대 부호화 단위는 심도가 커짐에 따라 심도별 부호화 단위의 크기는 감소하므로, k 심도의 서브 부호화 단위는 k보다 큰 심도의 복수 개의 서브 부호화 단위를 포함할 수 있다.
부호화되는 프레임의 크기가 커짐에 따라, 더 큰 단위로 영상을 부호화하면 더 높은 영상 압축률로 영상을 부호화할 수 있다. 그러나, 부호화 단위를 크게 하고, 그 크기를 고정시켜버리면, 계속해서 변하는 영상의 특성을 반영하여 효율적으로 영상을 부호화할 수 없다.
예를 들어, 바다 또는 하늘에 대한 평탄한 영역을 부호화할 때에는 부호화 단위를 크게 할수록 압축률이 향상될 수 있으나, 사람들 또는 빌딩에 대한 복잡한 영역을 부호화할 때에는 부호화 단위를 작게 할수록 압축률이 향상된다.
이를 위해 본 발명의 일 실시예는 프레임 또는 슬라이스마다 상이한 크기의 최대 영상 부호화 단위를 설정하고, 최대 심도를 설정한다. 최대 심도는 부호화 단위가 축소될 수 있는 최대 횟수를 의미하므로, 최대 심도에 따라 최대 영상 부호화 단위에 포함된 최소 부호화 단위 크기를 가변적으로 설정할 수 있게 된다.
부호화 심도 결정부(120)는 최대 심도를 결정한다. 최대 심도는 R-D 코스트(Rate-Distortion Cost) 계산에 기초해 결정될 수 있다. 최대 심도는 프레임 또는 슬라이스마다 상이하게 결정되거나, 각각의 최대 부호화 단위마다 상이하게 결정될 수도 있다. 결정된 최대 심도는 부호화 정보 부호화부(140)로 출력되고, 최대 부호화 단위별 영상 데이터는 영상 데이터 부호화부(130)로 출력된다.
최대 심도는 최대 부호화 단위에 포함될 수 있는 가장 작은 크기의 부호화 단위 즉, 최소 부호화 단위를 의미한다. 다시 말해, 최대 부호화 단위는 상이한 심도에 따라 상이한 크기의 서브 부호화 단위로 분할될 수 있다. 도 8a 및 8b를 참조하여 상세히 후술한다. 또한, 최대 부호화 단위에 포함된 상이한 크기의 서브 부호화 단위들은 상이한 크기의 처리 단위에 기초해 예측 또는 변환될 수 있다. 변환은 공간 도메인의 픽셀 값들을 주파수 도메인의 계수들로 변환으로서 이산 코사인 변환(discrete cosine transform) 또는 KLT(Karhunen Loever Transform)일 수 있다.
다시 말해, 영상 부호화 장치(100)는 영상 부호화를 위한 복수의 처리 단계들을 다양한 크기 및 다양한 형태의 처리 단위에 기초해 수행할 수 있다. 영상 데이터의 부호화를 위해서는 예측, 변환, 엔트로피 부호화 등의 처리 단계를 거치는데, 모든 단계에 걸쳐서 동일한 크기의 처리 단위가 이용될 수도 있으며, 단계별로 상이한 크기의 처리 단위를 이용할 수 있다.
예를 들어 영상 부호화 장치(100)는 소정의 부호화 단위를 예측하기 위해, 부호화 단위와 다른 처리 단위를 선택할 수 있다.
부호화 단위의 크기가 2Nx2N(단, N은 양의 정수)인 경우, 예측을 위한 처리 단위는 2Nx2N, 2NxN, Nx2N, NxN 등일 수 있다. 다시 말해, 부호화 단위의 높이 또는 너비 중 적어도 하나를 반분하는 형태의 처리 단위를 기반으로 움직임 예측이 수행될 수도 있다. 이하, 예측의 기초가 되는 처리 단위는 '예측 단위'라 한다.
예측 모드는 인트라 모드, 인터 모드 및 스킵 모드 중 적어도 하나일 수 있으며, 특정 예측 모드는 특정 크기 또는 형태의 예측 단위에 대해서만 수행될 수 있다. 예를 들어, 인트라 모드는 정방형인 2Nx2N, NxN 크기의 예측 단위에 대해서만 수행될 수 있다. 또한, 스킵 모드는 2Nx2N 크기의 예측 단위에 대해서만 수행될 수 있다. 부호화 단위 내부에 복수의 예측 단위가 있다면, 각각의 예측 단위에 대해 예측을 수행하여 부호화 오차가 가장 작은 예측 모드가 선택될 수 있다.
또한, 영상 부호화 장치(100)는 부호화 단위와 다른 크기의 처리 단위에 기초해 영상 데이터를 변환할 수 있다. 부호화 단위의 변환을 위해서 부호화 단위보다 작거나 같은 크기의 데이터 단위를 기반으로 변환이 수행될 수 있다. 이하, 변환의 기초가 되는 처리 단위를 '변환 단위'라 한다.
부호화 심도 결정부(120)는 라그랑지 곱(Lagrangian Multiplier) 기반의 율-왜곡 최적화 기법(Rate-Distortion Optimization)을 이용해 최대 부호화 단위에 포함된 서브 부호화 단위들을 결정할 수 있다. 다시 말해, 최대 부호화 단위가 어떠한 형태의 복수의 서브 부호화 단위로 분할되는지 결정할 수 있는데, 여기서 복수의 서브 부호화 단위는 심도에 따라 크기가 상이하다. 그런 다음, 영상 데이터 부호화부(130)는 부호화 심도 결정부(120)에서 결정된 분할 형태에 기초해 최대 부호화 단위를 부호화하여 비트스트림을 출력한다.
부호화 정보 부호화부(140)는 부호화 심도 결정부(120)에서 결정된 최대 부호화 단위의 부호화 모드에 대한 정보를 부호화한다. 최대 부호화 단위의 분할 형태에 대한 정보, 최대 심도에 대한 정보 및 심도별 서브 부호화 단위의 부호화 모드에 대한 정보를 부호화하여 비트스트림을 출력한다. 서브 부호화 단위의 부호화 모드에 대한 정보는 서브 부호화 단위의 예측 단위에 대한 정보, 예측 단위별 예측 모드 정보, 서브 부호화 단위의 변환 단위에 대한 정보 등을 포함할 수 있다.
최대 부호화 단위의 분할 형태에 대한 정보는 각각의 부호화 단위에 대해 분할 여부를 나타내는 정보일 수 있다. 예를 들어, 최대 부호화 단위를 분할하여 부호화하는 경우, 최대 부호화 단위에 대해 분할 여부를 나타내는 정보를 부호화하고, 최대 부호화 단위를 분할하여 생성된 서브 부호화 단위를 다시 분할하여 부호화하는 경우에도, 각각의 서브 부호화 단위에 대해서 분할 여부를 나타내는 정보를 부호화한다. 분할 여부를 나타내는 정보는 분할 여부를 나타내는 플래그 정보일 수 있다.
최대 부호화 단위마다 상이한 크기의 서브 부호화 단위가 존재하고, 각각의 서브 부호화 단위마다 부호화 모드에 관한 정보가 결정되어야 하므로, 하나의 최대 부호화 단위에 대해서는 적어도 하나의 부호화 모드에 관한 정보가 결정될 수 있다.
영상 부호화 장치(100)는 심도가 커짐에 따라 최대 부호화 단위를 높이 및 너비를 반분하여 서브 부호화 단위를 생성할 수 있다. 즉, k 심도의 부호화 단위의 크기가 2Nx2N이라면, k+1 심도의 부호화 단위의 크기는 NxN 이다.
따라서, 일 실시예에 따른 영상 부호화 장치(100)는 영상의 특성을 고려한 최대 부호화 단위의 크기 및 최대 심도를 기반으로, 각각의 최대 부호화 단위마다 최적의 분할 형태를 결정할 수 있다. 영상 특성을 고려하여 가변적으로 최대 부호화 단위의 크기를 조절하고, 상이한 심도의 서브 부호화 단위로 최대 부호화 단위를 분할하여 영상을 부호화함으로써, 다양한 해상도의 영상을 보다 효율적으로 부호화할 수 있다.
도 2 는 본 발명의 일 실시예에 따른 영상 복호화 장치를 도시한다.
도 2를 참조하면, 본 발명의 일 실시예에 따른 영상 복호화 장치(200)는 영상 데이터 획득부(210), 부호화 정보 추출부(220) 및 영상 데이터 복호화부(230)를 포함한다.
영상 관련 데이터 획득부(210)는 영상 복호화 장치(200)가 수신한 비트스트림을 파싱하여, 최대 부호화 단위별로 영상 데이터를 획득하여 영상 데이터 복호화부(230)로 출력한다. 영상 데이터 획득부(210)는 현재 프레임 또는 슬라이스에 대한 헤더로부터 현재 프레임 또는 슬라이스의 최대 부호화 단위에 대한 정보를 추출할 수 있다. 다시 말해, 비트스트림을 최대 부호화 단위로 분할하여, 영상 데이터 복호화부(230)가 최대 부호화 단위마다 영상 데이터를 복호화하게 한다.
부호화 정보 추출부(220)는 영상 복호화 장치(200)가 수신한 비트열을 파싱하여, 현재 프레임에 대한 헤더로부터 최대 부호화 단위, 최대 심도, 최대 부호화 단위의 분할 형태, 서브 부호화 단위의 부호화 모드에 관한 정보를 추출한다. 분할 형태 및 부호화 모드에 관한 정보는 영상 데이터 복호화부(230)로 출력된다.
최대 부호화 단위의 분할 형태에 대한 정보는 최대 부호화 단위에 포함된 심도에 따라 상이한 크기의 서브 부호화 단위에 대한 정보를 포함할 수 있다. 전술한 바와 같이 분할 형태에 대한 정보는 각각의 부호화 단위에 대해 부호화된 분할 여부를 나타내는 정보(예를 들어, 플래그 정보)일 수 있다. 부호화 모드에 관한 정보는 서브 부호화 단위별 예측 단위에 대한 정보, 예측 모드에 대한 정보 및 변환 단위에 대한 정보 등을 포함할 수 있다.
영상 데이터 복호화부(230)는 부호화 정보 추출부에서 추출된 정보에 기초하여 각각의 최대 부호화 단위의 영상 데이터를 복호화하여 현재 프레임을 복원한다.
최대 부호화 단위의 분할 형태에 대한 정보에 기초하여, 영상 데이터 복호화부(230)는 최대 부호화 단위에 포함된 서브 부호화 단위를 복호화할 수 있다. 복호화 과정은 인트라 예측 및 움직임 보상을 포함하는 인터 예측 과정 및 역변환 과정을 포함할 수 있다.
영상 데이터 복호화부(230)는 서브 부호화 단위의 예측을 위해, 서브 부호화 단위별 예측 단위에 대한 정보 및 예측 모드에 대한 정보에 기초해 인트라 예측 또는 인터 예측을 수행할 수 있다. 또한, 영상 데이터 복호화부(230)는 서브 부호화 단위의 변환 단위에 대한 정보에 기초해 서브 부호화 단위마다 역변환을 수행할 수 있다.
도 3 은 본 발명의 일 실시예에 따른 계층적 부호화 단위를 도시한다.
도 3을 참조하면, 본 발명에 따른 계층적 부호화 단위는 너비x높이가 64x64인 부호화 단위부터, 32x32, 16x16, 8x8, 및 4x4를 포함할 수 있다. 정사각형 형태의 부호화 단위 이외에도, 너비x높이가 64x32, 32x64, 32x16, 16x32, 16x8, 8x16, 8x4, 4x8인 부호화 단위들이 존재할 수 있다.
도 3을 참조하면, 해상도가 1920x1080인 영상 데이터(310)에 대해서, 최대 부호화 단위의 크기는 64x64, 최대 심도가 2로 설정되어 있다.
또 다른 해상도가 1920x1080인 영상 데이터(320)에 대해서 최대 부호화 단위의 크기는 64x64, 최대 심도가 4로 설정되어 있다. 해상도가 352x288인 비디오 데이터(330)에 대해서 최대 부호화 단위의 크기는 16x16, 최대 심도가 2로 설정되어 있다.
해상도가 높거나 데이터량이 많은 경우 압축률 향상뿐만 아니라 영상 특성을 정확히 반영하기 위해 부호화 사이즈의 최대 크기가 상대적으로 큰 것이 바람직하다. 따라서, 영상 데이터(330)에 비해, 해상도가 높은 영상 데이터(310 및 320)는 최대 부호화 단위의 크기가 64x64로 선택될 수 있다.
최대 심도는 계층적 부호화 단위에서 총 계층수를 나타낸다. 영상 데이터(310)의 최대 심도는 2이므로, 영상 데이터(310)의 부호화 단위(315)는 장축 크기가 64인 최대 부호화 단위로부터, 심도가 증가함에 따라 장축 크기가 32, 16인 서브 부호화 단위들까지 포함할 수 있다.
반면, 영상 데이터(330)의 최대 심도는 2이므로, 영상 데이터(330)의 부호화 단위(335)는 장축 크기가 16인 최대 부호화 단위들로부터, 심도가 증가함에 따라 장축 크기가 8, 4인 부호화 단위들까지 포함할 수 있다.
영상 데이터(320)의 최대 심도는 4이므로, 비디오 데이터(320)의 부호화 단위(325)는 장축 크기가 64인 최대 부호화 단위로부터, 심도가 증가함에 따라 장축 크기가 32, 16, 8, 4인 서브 부호화 단위들까지 포함할 수 있다. 심도가 증가할수록 더 작은 서브 부호화 단위에 기초해 영상을 부호화하므로 보다 세밀한 장면을 포함하고 있는 영상을 부호화하는데 적합해진다.
도 4 는 본 발명의 일 실시예에 따른 부호화 단위에 기초한 영상 부호화부를 도시한다.
인트라 예측부(410)는 현재 프레임(405) 중 인트라 모드의 예측 단위에 대해 인트라 예측을 수행하고, 움직임 추정부(420) 및 움직임 보상부(425)는 인터 모드의 예측 단위에 대해 현재 프레임(405) 및 참조 프레임(495)을 이용해 인터 예측 및 움직임 보상을 수행한다.
인트라 예측부(410), 움직임 추정부(420) 및 움직임 보상부(425)로부터 출력된 예측 단위에 기초해 레지듀얼 값들이 생성되고, 생성된 레지듀얼 값들은 변환부(430) 및 양자화부(440)를 거쳐 양자화된 변환 계수로 출력된다.
양자화된 변환 계수는 역양자화부(460), 역변환부(470)를 통해 다시 레지듀얼 값으로 복원되고, 복원된 레지듀얼 값들은 디블로킹부(480) 및 루프 필터링부(490)를 거쳐 후처리되어 참조 프레임(495)으로 출력된다. 양자화된 변환 계수는 엔트로피 부호화부(450)를 거쳐 비트스트림(455)으로 출력될 수 있다.
본 발명의 일 실시예에 따른 영상 부호화 방법에 따라 부호화하기 위해, 영상 부호화부(400)의 구성 요소들인 인트라 예측부(410), 움직임 추정부(420), 움직임 보상부(425), 변환부(430), 양자화부(440), 엔트로피 부호화부(450), 역양자화부(460), 역변환부(470), 디블로킹부(480) 및 루프 필터링부(490)는 모두 최대 부호화 단위, 심도에 따른 서브 부호화 단위, 예측 단위 및 변환 단위에 기초해 영상 부호화 과정들을 처리한다.
도 5는 본 발명의 일 실시예에 따른 부호화 단위에 기초한 영상 복호화부를 도시한다.
비트스트림(505)이 파싱부(510)를 거쳐 복호화 대상인 부호화된 영상 데이터 및 복호화를 위해 필요한 부호화 정보가 파싱된다. 부호화된 영상 데이터는 엔트로피 복호화부(520) 및 역양자화부(530)를 거쳐 역양자화된 데이터로 출력되고, 역변환부(540)를 거쳐 레지듀얼 값들로 복원된다. 레지듀얼 값들은 인트라 예측부(550)의 인트라 예측의 결과 또는 움직임 보상부(560)의 움직임 보상 결과와 가산되어 부호화 단위 별로 복원된다. 복원된 부호화 단위는 디블로킹부(570) 및 루프 필터링부(580)를 거쳐 다음 부호화 단위 또는 다음 프레임의 예측에 이용된다.
본 발명의 일 실시예에 따른 영상 복호화 방법에 따라 복호화하기 위해 영상 복호화부(400)의 구성 요소들인 파싱부(510), 엔트로피 복호화부(520), 역양자화부(530), 역변환부(540), 인트라 예측부(550), 움직임 보상부(560), 디블로킹부(570) 및 루프 필터링부(580)가 모두 최대 부호화 단위, 심도에 따른 서브 부호화 단위, 예측 단위 및 변환 단위에 기초해 영상 복호화 과정들을 처리한다.
특히, 인트라 예측부(550), 움직임 보상부(560)는 최대 부호화 단위 및 심도를 고려하여 서브 부호화 단위 내의 예측 단위 및 예측 모드를 결정하며, 역변환부(540)는 변환 단위의 크기를 고려하여 역변환을 수행한다.
도 6은 본 발명의 일 실시예에 따른 최대 부호화 단위, 서브 부호화 단위 및 예측 단위를 도시한다.
본 발명의 일 실시예에 따른 영상 부호화 장치(100) 및 영상 복호화 장치(200)는 영상 특성을 고려하여 부호화, 복호화를 수행하기 위해 계층적인 부호화 단위를 이용한다. 최대 부호화 단위 및 최대 심도는 영상의 특성에 따라 적응적으로 설정되거나, 사용자의 요구에 따라 다양하게 설정될 수 있다.
본 발명의 일 실시예에 따른 부호화 단위의 계층 구조(600)는 최대 부호화 단위(610)의 높이 및 너비가 64이며, 최대 심도가 4인 경우를 도시한다. 부호화 단위의 계층 구조(600)의 세로축을 따라서 심도가 증가하고, 심도의 증가에 따라 서브 부호화 단위(620 내지 650)의 너비 및 높이가 축소된다. 또한, 부호화 단위의 계층 구조(600)의 가로축을 따라, 최대 부호화 단위(610) 및 서브 부호화 단위(620 내지 650)의 예측 단위가 도시되어 있다.
최대 부호화 단위(610)는 심도가 0이며, 부호화 단위의 크기, 즉 너비 및 높이가 64x64이다. 세로축을 따라 심도가 증가하며, 크기 32x32인 심도 1의 서브 부호화 단위(620), 크기 16x16인 심도 2의 서브 부호화 단위(630), 크기 8x8인 심도 3의 서브 부호화 단위(640), 크기 4x4인 심도 4의 서브 부호화 단위(650)가 존재한다. 크기 4x4인 심도 4의 서브 부호화 단위(650)는 최소 부호화 단위이다.
도 6을 참조하면, 각각의 심도별로 가로축을 따라 예측 단위의 예시들이 도시되어 있다. 즉, 심도 0의 최대 부호화 단위(610)의 예측 단위는, 크기 64x64의 부호화 단위(610)와 동일하거나 작은 크기인 크기 64x64의 예측 단위(610), 크기 64x32의 예측 단위(612), 크기 32x64의 예측 단위(614), 크기 32x32의 예측 단위(616)일 수 있다.
심도 1의 크기 32x32의 부호화 단위(620)의 예측 단위는, 크기 32x32의 부호화 단위(620)와 동일하거나 작은 크기인 크기 32x32의 예측 단위(620), 크기 32x16의 예측 단위(622), 크기 16x32의 예측 단위(624), 크기 16x16의 예측 단위(626)일 수 있다.
심도 2의 크기 16x16의 부호화 단위(630)의 예측 단위는, 크기 16x16의 부호화 단위(630)와 동일하거나 작은 크기인 크기 16x16의 예측 단위(630), 크기 16x8의 예측 단위(632), 크기 8x16의 예측 단위(634), 크기 8x8의 예측 단위(636)일 수 있다.
심도 3의 크기 8x8의 부호화 단위(640)의 예측 단위는, 크기 8x8의 부호화 단위(640)와 동일하거나 작은 크기인 크기 8x8의 예측 단위(640), 크기 8x4의 예측 단위(642), 크기 4x8의 예측 단위(644), 크기 4x4의 예측 단위(646)일 수 있다.
마지막으로, 심도 4의 크기 4x4의 부호화 단위(650)는 최대 심도의 부호화 단위이고, 예측 단위는 크기 4x4의 예측 단위(650)이다. 그러나, 최대 심도의 부호화 단위라고 하여 반드시 부호화 단위와 예측 단위의 크기가 동일할 필요는 없으며, 다른 부호화 단위(610 내지 650)와 마찬가지로 부호화 단위보다 작은 크기의 예측 단위로 분할하여 예측을 수행할 수도 있다.
도 7은 본 발명의 일 실시예에 따른, 부호화 단위 및 변환 단위를 도시한다.
본 발명의 일 실시예에 따른 영상 부호화 장치(100) 및 영상 복호화 장치(200)는, 최대 부호화 단위 그대로 부호화하거나, 최대 부호화 단위 보다 작거나 같은 서브 부호화 단위로 최대 부호화 단위를 분할하여 부호화한다. 부호화 과정 중 변환을 위한 변환 단위의 크기도 부호화 단위 및 예측 단위와 무관하게 가장 높은 압축률을 위한 크기로 선택될 수 있다. 예를 들어, 현재 부호화 단위(710)가 64x64 크기일 때, 32x32 크기의 변환 단위(720)를 이용하여 변환이 수행될 수 도 있다.
도 8a 및 8b는 본 발명의 일 실시예에 따른, 부호화 단위, 예측 단위 및 변환 단위의 분할 형태를 도시한다.
도 8a는 본 발명의 일 실시예에 따른 부호화 단위 및 예측 단위를 도시한다.
도 8a의 좌측은 최대 부호화 단위(810)를 부호화하기 위해 본 발명의 일 실시예에 따른 영상 부호화 장치(100)가 선택한 분할 형태를 도시한다. 영상 부호화 장치(100)는 다양한 형태로 최대 부호화 단위(810)를 분할하고, 부호화한 다음 다양한 분할 형태의 부호화 결과를 R-D 코스트에 기초해 비교하여 최적의 분할 형태를 선택한다. 최대 부호화 단위(810)를 그대로 부호화하는 것이 최적일 경우에는 도 8a 및 8b와 같이 최대 부호화 단위(810)를 분할하지 않고 최대 부호화 단위(800)를 부호화할 수도 있다.
도 8a의 좌측을 참조하면, 심도 0인 최대 부호화 단위(810)를 심도 1 이상의 서브 부호화 단위로 분할하여 부호화한다. 최대 부호화 단위(810)를 네 개의 심도 1의 서브 부호화 단위로 분할한 다음, 전부 또는 일부의 심도 1의 서브 부호화 단위를 다시 심도 2의 서브 부호화 단위로 분할한다.
심도 1의 서브 부호화 단위 중 우측 상부에 외치한 서브 부호화 단위 및 좌측 하부에 위치한 서브 부호화 단위가 심도 2 이상의 서브 부호화 단위로 분할되었다. 심도 2 이상의 서브 부호화 단위 중 일부는 다시 심도 3 이상의 서브 부호화 단위로 분할될 수 있다.
도 8b의 우측은 최대 부호화 단위(810)에 대한 예측 단위의 분할 형태를 도시한다.
도 8a의 우측을 참조하면, 최대 부호화 단위에 대한 예측 단위(860)는 최대 부호화 단위(810)와 상이하게 분할될 수 있다. 다시 말해, 서브 부호화 단위들 각각에 대한 예측 단위는 서브 부호화 단위보다 작을 수 있다.
예를 들어, 심도 1의 서브 부호화 단위 중 우측 하부에 외치한 서브 부호화 단위(854)에 대한 예측 단위는 서브 부호화 단위(854)보다 작을 수 있다. 심도 2의 서브 부호화 단위들(814, 816, 818, 828, 850, 852) 중 일부 서브 부호화 단위(815, 816, 850, 852)에 대한 예측 단위는 서브 부호화 단위보다 작을 수 있다.
또한, 심도 3의 서브 부호화 단위(822, 832, 848)에 대한 예측 단위는 서브 부호화 단위보다 작을 수 있다. 예측 단위는 각각의 서브 부호화 단위를 높이 또는 너비 방향으로 반분한 형태일 수도 있고, 높이 및 너비 방향으로 4분한 형태일 수도 있다.
도 8b는 본 발명의 일 실시예에 따른 예측 단위 및 변환 단위를 도시한다.
도 8b의 좌측은 도 8a의 우측에 도시된 최대 부호화 단위(810)에 대한 예측 단위의 분할 형태를 도시하고, 도 8b의 우측은 최대 부호화 단위(810)의 변환 단위의 분할 형태를 도시한다.
도 8b의 우측을 참조하면, 변환 단위(870)의 분할 형태는 예측 단위(860)와 상이하게 설정될 수 있다.
예를 들어, 심도 1의 부호화 단위(854)에 대한 예측 단위가 높이를 반분한 형태로 선택되더라도, 변환 단위는 심도 1의 부호화 단위(854)의 크기와 동일한 크기로 선택될 수 있다. 마찬가지로, 심도 2의 부호화 단위(814, 850)에 대한 예측 단위가 심도 2의 부호화 단위(814, 850)의 높이를 반분한 형태로 선택되더라도 변환 단위는 심도 2의 부호화 단위(814, 850)의 원래 크기와 동일한 크기로 선택될 수 있다.
예측 단위보다 더 작은 크기로 변환 단위가 선택될 수도 있다. 예를 들어, 심도 2의 부호화 단위(852)에 대한 예측 단위가 너비를 반분한 형태로 선택된 경우에 변환 단위는 예측 단위보다 더 작은 크기인 높이 및 너비를 반분한 형태로 선택될 수 있다.
이하, 도 4의 본 발명의 일 실시예에 따른 영상 부호화 장치(400)의 움직임 추정부(420), 움직임 보상부(425) 및 도 5의 영상 복호화 장치(500)의 움직임 보상부(550)에서 수행되는 영상 보간 과정에 대하여 구체적으로 설명한다. 이하의 설명에서, 전술한 예측 단위는 블록이라 지칭하기로 한다.
도 9는 본 발명의 일 실시예에 따른 영상을 보간하는 장치를 도시한다.
영상 보간은 저화질의 영상을 고화질로 변환할 때 이용된다. 인터레이스(interace) 영상을 프로그래시브(progressive) 영상으로 변환할 때 이용되기도 하고, 저화질의 영상을 업샘플링(upsampling)하여 고화질의 영상으로 변환할 때 이용되기도 한다. 또한, 도 4의 영상 부호화 장치(400)가 영상을 부호화할 때 움직임 추정부(420) 및 움직임 보상부(425)는 보간된 참조 프레임을 이용하여 인터 예측을 수행할 수 있다. 참조 프레임(495)을 보간하여 고화질의 영상을 생성하고, 고화질의 영상에 기초해 움직임 추정 및 보상을 수행함으로써 인터 예측의 정확도를 높일 수 있다. 마찬가지로 영상 복호화 장치(500)가 영상을 복호화할 때에도 움직임 보상부(550)는 보간된 참조 프레임을 이용하여 움직임 보상을 수행함으로써 인터 예측의 정확도를 높일 수 있다. 즉, 본 발명의 일 실시예에 따른 영상 보간 장치는 도 4의 영상 부호화 장치(400)의 움직임 추정부 및 움직임 보상부(425), 도 5의 움직임 보상부(550)에 포함되거나 이들과 결합하여 동작할 수 있다.
도 9를 참조하면, 본 발명의 일 실시예에 따른 영상 보간 장치(900)는 보간 필터 선택부(910) 및 보간부(920)를 포함한다.
보간 필터 선택부(910)는 서로 다른 특성을 갖는 복수 개의 보간 필터들 중 보간하고자 하는 서브 픽셀의 위치에 따라서 적용할 보간 필터를 미리 설정하고, 현재 보간하고자 하는 서브 픽셀의 위치에 따라서 설정된 보간 필터 정보를 출력한다. 보간 필터 선택부(910)에 의하여 선택되어 각 서브 픽셀에 적용되는 보간 필터들은 서로 다른 탭(tap) 수를 갖거나, 서로 다른 계수를 갖거나, 서로 다른 보간 방향 및 보간 형태 등 다양한 특성을 갖는 보간 필터들 중 미리 서브 픽셀 위치마다 설정된 보간 필터들일 수 있다. 구체적으로, 보간 필터 선택부(910)는 보간되는 픽셀들이 포함되는 블록의 크기에 따라서 적용할 보간 필터를 미리 설정하고, 보간하고자 하는 픽셀들이 포함되는 블록의 크기에 따라서 미리 설정된 보간 필터가 적용되도록 할 수 있다. 즉, 보간 필터 선택부(910)는 블록의 크기에 따라서 서로 다른 탭 수, 계수, 보간 방향 및 보간 형태를 갖는 복수 개의 보간 필터들 중 각 서브 픽셀 위치마다 적용할 보간 필터를 미리 설정하고, 입력된 보간하고자 하는 블록의 크기 및 서브 픽셀의 위치에 따라서 설정된 보간 필터에 대한 정보를 출력할 수 있다. 예를 들어, 보간 필터 선택부(910)는 블록의 크기에 비례하는 탭 수를 갖으며, 각 서브 픽셀 위치마다 서로 다른 특성을 갖는 보간 필터를 미리 설정하고, 현재 보간하고자 하는 블록의 크기 및 서브 픽셀의 위치에 따라 설정된 보간 필터를 출력할 수 있다. 또한, 보간 필터 선택부(910)는 서브 픽셀 위치마다 보간시에 수평 방향의 주변 픽셀들을 이용할 것인지, 수직 방향의 주변 픽셀들을 이용할 것인지, 대각선 방향의 주변 픽셀들을 이용할 것인지 보간 방향을 미리 설정할 수 있다. 또한, 보간 필터 선택부(910)는 서브 픽셀 위치마다 보간시에 1차원 형태의 보간 필터를 이용할 것인지, 수직 및 수평 방향의 주변 픽셀들을 이용하는 십자형 형태의 보간 필터를 이용할 것인지, 아니면 2차원의 mxn(m,n은 정수) 크기의 마스크 내에 구비된 주변 픽셀들을 이용하는 보간 필터를 이용할 것인지 보간 형태를 미리 설정할 수 있다.
보간부(920)은 선택된 보간 필터를 이용하여 서브 픽셀 위치에서의 서브 픽셀값을 생성한다.
도 10은 본 발명의 일 실시예에 따라서 서브 픽셀의 보간을 위한 보간 필터를 선택하는 과정을 설명하기 위한 참조도이다.
도 10을 참조하면, 보간 필터 선택부(910)는 정수 픽셀 A(1001), 정수 픽셀 B(1002), 정수 픽셀 C(1003) 및 정수 픽셀 D(1004) 사이의 보간하고자 하는 서브 픽셀의 위치에 따라서 서로 다른 보간 필터들 중 하나를 선택한다. 전술한 바와 같이, 보간 필터 선택부(910)는 서로 다른 특성을 갖는 복수 개의 보간 필터들 중 보간하고자 하는 서브 픽셀의 위치에 따라서 적용할 보간 필터를 미리 설정하고, 현재 보간하고자 하는 서브 픽셀의 위치에 따라서 설정된 보간 필터 정보를 출력할 수 있다.
구체적으로, 보간 필터 선택부(910)은 서로 다른 탭(tab) 수 및 계수, 보간 방향 및 형태를 갖는 복수 개의 보간 필터들 중 서브 픽셀의 위치에 따라 적용할 보간 필터를 미리 설정하고, 서브 픽셀의 위치에 따라서 복수 개의 보간 필터 중 설정된 보간 필터 선택하여 출력한다. 예를 들어, 보간 필터 선택부(910)는 정수 픽셀 A(1001)과 정수 픽셀 B(1002) 사이의 1/2 서브 픽셀 b(1006) 또는 정수 픽셀 A(1001)과 정수 픽셀 C(1003) 사이의 1/2 서브 픽셀 h(1012)의 보간을 위한 보간 필터로써 {8, -40, 160, 160, -40, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-11,40,40,-11,4,-1}/64과 같은 계수를 갖는 8-탭 보간 필터, {-1, 8, 16, 24, -48, 161, 161, -48, 24, -16, 8, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 하나를 미리 설정하여 보간 필터 정보로써 출력한다. 또한, 보간 필터 선택부(910)는 서로 다른 계수를 갖는 복수 개의 보간 필터들 중 정수 픽셀들이 포함되는 블록의 크기에 따라서 서로 다른 탭 수를 갖는 보간 필터를 미리 설정하고, 블록의 크기에 따라서 설정된 탭 수를 갖는 보간 필터 정보를 출력할 수 있다. 예를 들어, 보간 필터 선택부(910)는 현재 블록의 크기가 16x16, 32x32, 64x64의 크기 중 하나를 갖는다고 할 때, 16x16 크기의 블록에 포함된 픽셀들의 보간을 위해서는 6-탭 보간 필터, 32x32 크기의 블록에 포함된 픽셀들의 보간을 위해서는 8-탭 보간 필터, 64x64 크기의 블록에 포함된 픽셀들의 보간을 위해서는 12-탭 보간 필터를 설정하고, 현재 블록의 크기에 따라서 설정된 보간 필터의 정보를 출력할 수 있다.
또한, 보간 필터 선택부(910)는 정수 픽셀 A(1001)과 정수 픽셀 B(1002) 사이의 1/4 서브 픽셀 a(1005) 또는 정수 픽셀 A(1001)과 정수 픽셀 C(1003) 사이의 1/4 서브 픽셀 d(1008)의 보간을 위한 보간 필터로써 {8, -32, 224, 72, -24, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터, {-1, 5, -12, 20, -40, 229, 76, -32, 16, -8, 4, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 하나를 선택한다.
유사하게, 보간 필터 선택부(910)는 정수 픽셀 A(1001)과 정수 픽셀 B(1002) 사이의 1/4 서브 픽셀 c(1007) 또는 정수 픽셀 A(1001)과 정수 픽셀 C(1003) 사이의 1/4 서브 픽셀 l(1016)의 보간을 위한 보간 필터로써 1/4 서브 픽셀들 a 및 d(1005, 1008)의 보간시에 이용되는 보간 필터들 이외에, 1/4 서브 픽셀들 a 및 d(1005, 1008)의 보간시에 이용되는 보간 필터들의 계수를 미러링, 즉 대칭시킨 계수를 갖는 보간 필터를 이용할 수 있다. 특히, 보간 필터 선택부(910)는 현재 보간되는 1/4 서브 픽셀과 가까운 주변 픽셀의 값이 더 많이 보간값에 반영될 수 있도록, {8, -32, 224, 72, -24, 8}/256과 같은 계수를 갖는 6 탭 보간 필터의 대칭 형태인 {8, -24, 72, 224, -32, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터의 대칭 형태인 {1, -5, 17, 58, -10, 4, -1}/64과 같은 계수를 갖는 7-탭 보간 필터, {-1, 5, -12, 20, -40, 229, 76, -32, 16, -8, 4, -1}/256과 같은 계수를 갖는 12-탭 보간 필터의 대칭 형태인 {-1, 4, -8, 16, -32, 76, 229, -40, 20, -12, 5, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 하나를 미리 선택하여 서브 픽셀들의 보간을 위한 보간 필터로 설정할 수 있다.
보간 필터 선택부(910)는 정수 픽셀 A(1001), 정수 픽셀 B(1002), 정수 픽셀 C(1003) 및 정수 픽셀 D(1004)들의 정중앙에 위치한 1/2 서브 픽셀 j(1014)의 보간을 위한 보간 필터로써, {8, -40, 160, 160, -40, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-11,40,40,-11,4,-1}/64과 같은 계수를 갖는 8-탭 보간 필터, {-1, 8, 16, 24, -48, 161, 161, -48, 24, -16, 8, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 하나를 선택하여 보간 필터로서 미리 설정할 수 있다. 그리고, 보간부(920)는 선택된 보간 필터를 1/2 서브 픽셀 j(1014)과 동일한 행 및 열에 위치한 1/2 서브 픽셀들에 적용하여 1/2 서브 픽셀 j(1014)의 픽셀값을 보간한다. 구체적인 1/2 서브 픽셀 j(1014)의 보간 과정에 대해서는 도 12에서 후술한다.
보간 필터 선택부(910)는 1/2 서브 픽셀 j(1014) 주변의 1/4 서브 픽셀 f(1010), 1/4 서브 픽셀 i(1013), 1/4 서브 픽셀 k(1015) 및 1/4 서브 픽셀 n(1018)의 보간시에, 먼저 1/2 서브 픽셀 b(1006), 1/2 서브 픽셀 h(1012)와 같이 정수 픽셀들 사이의 1/2 서브 픽셀의 보간을 위한 보간 필터로써 {8, -40, 160, 160, -40, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-11,40,40,-11,4,-1}/64과 같은 계수를 갖는 8-탭 보간 필터, {-1, 8, 16, 24, -48, 161, 161, -48, 24, -16, 8, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 하나를 선택하여 미리 적용할 보간 필터로써 설정한다. 보간부(920)는 선택된 보간 필터를 이용하여 1/2 서브 픽셀들을 보간한다. 다시 보간 필터 선택부(910)는 보간부(920)에 의하여 보간된 1/2 서브 픽셀들에 적용할 보간 필터로써, {8, -32, 224, 72, -24, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-10,58,17,-5,1}과 같은 계수를 갖는 7-탭 보간 필터, {-1, 5, -12, 20, -40, 229, 76, -32, 16, -8, 4, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 하나를 선택하여 보간 필터로써 설정한다. 보간부(920)는 다시 1/2 서브 픽셀들에 선택된 보간 필터를 적용하여 1/4 서브 픽셀 f(1010), 1/4 서브 픽셀 i(1013), 1/4 서브 픽셀 k(1015) 및 1/4 서브 픽셀 n(1018)을 보간한다. 1/2 서브 픽셀 j(1014) 주변의 1/4 서브 픽셀 f(1010), 1/4 서브 픽셀 i(1013), 1/4 서브 픽셀 k(1015) 및 1/4 서브 픽셀 n(1018)의 보간 과정에 대해서는 도 13을 참조하여 후술한다.
보간 필터 선택부(910)는 1/4 서브 픽셀 e(1009), 1/4 서브 픽셀 g(1011), 1/4 서브 픽셀 m(1017) 및 1/4 서브 픽셀 o(1019)의 보간을 위해서 {8, -32, 224, 72, -24, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터, {-1, 5, -12, 20, -40, 229, 76, -32, 16, -8, 4, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 하나, 또는 상기 보간 필터들의 계수를 대칭시킨 보간 필터들 중 하나를 선택하여 보간 필터로써 설정한다. 구체적인 보간 과정에 대해서는 도 14를 참조하여 후술한다.
도 11은 본 발명의 일 실시예에 따른 정수 픽셀들과 동일한 행 또는 열에 위치한 서브 픽셀들을 보간하는 과정을 설명하기 위한 참조도이다. 도 11에서, 서브 픽셀들 a,b,c는 각각 도 10의 서브 픽셀들 a,b,c에 대응된다.
먼저 1/2 서브 픽셀 b(1100)의 보간 과정을 설명한다.
보간 필터 선택부(910)는 정수 픽셀 P-1(1101)과 정수 픽셀 P1(1111) 사이의 1/2 서브 픽셀 b(1100)의 보간을 위해서 {8, -40, 160, 160, -40, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-11,40,40,-11,4,-1}/64과 같은 계수를 갖는 8-탭 보간 필터, {-1, 8, 16, 24, -48, 161, 161, -48, 24, -16, 8, -1}/256과 같은 계수를 갖는 12-탭 보간 필터들 중 미리 설정된 보간 필터를 선택한다. 1/2 서브 픽셀 b(1100)의 보간을 위한 보간 필터로써 {-1,4,-11,40,40,-11,4,-1}/64과 같은 계수를 갖는 8-탭 보간 필터가 설정되어 선택되었다고 가정한다. 보간부(920)는 선택된 보간 필터를 1/2 서브 픽셀 b(1100)과 동일한 행에 위치한 정수 픽셀들에 적용하여 1/2 서브 픽셀 b(1100)의 픽셀값을 생성한다. 즉, 보간부(920)는 1/2 서브 픽셀 b(1100)과 동일한 행에 위치한 좌측의 정수 픽셀들(1120) 및 우측에 위치한 정수 픽셀들(1110)의 픽셀값들과 계수의 가중합을 계산함으로써 1/2 서브 픽셀 b(1100)의 픽셀값을 생성한다. 구체적으로, 정수 픽셀들 P-4 내지 P4(1111 내지 1114, 1121 내지 1124)의 픽셀값이 도시된 바와 같이 각각 Pi의 값을 갖는다고 가정한다. 이러한 경우, 보간부(920)는 다음의 수학식; b={P-4*(-1)+P-3*4+P-2*(-11)+P-1*40+P1*40+P2*(-11)+P3*4+P4*(-1)}>>n(n은 정수)의 값을 계산함으로써 1/2 서브 픽셀 b(1100)의 픽셀값을 생성한다. 상기 수학식에서, ">>"은 우향 쉬프트 연산자로써 2^n의 값으로 나눗셈을 수행하는 것에 대응된다. n의 값은 탭 수 및 계수를 고려하여 결정될 수 있다. 전술한 도 10의 정수 픽셀 A(1001)과 정수 픽셀 C(1003) 사이의 1/2 서브 픽셀 h(1012)는 동일한 열에 위치한 정수 픽셀들을 이용한다는 차이점만 제외하고, 1/2 서브 픽셀 b(1100)의 보간 과정과 동일하게 보간될 수 있다.
다음 1/4 서브 픽셀 a(1101)의 보간 과정을 설명한다.
보간 필터 선택부(910)는 1/4 서브 픽셀 a(1101)의 보간을 위해서 {8, -32, 224, 72, -24, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터, {-1, 5, -12, 20, -40, 229, 76, -32, 16, -8, 4, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 미리 설정된 보간 필터를 선택한다. 1/4 서브 픽셀 a(1101)의 보간을 위한 보간 필터로써 {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터가 선택되었다고 가정한다. 보간부(920)는 선택된 보간 필터를 1/4 서브 픽셀 a(1101)과 동일한 행에 위치한 정수 픽셀들에 적용하여 1/4 서브 픽셀 a(1101)의 픽셀값을 생성한다. 즉, 보간부(920)는 1/4 서브 픽셀 a(1101)과 동일한 행에 위치한 좌측의 정수 픽셀들(1120) 및 우측에 위치한 정수 픽셀들(1110)의 픽셀값들과 계수의 가중합을 계산함으로써 1/4 서브 픽셀 a(1101)의 픽셀값을 생성한다. 다만, 1/4 서브 픽셀 a(1101)의 경우 정수 픽셀 P-1(1121)과 P1(1111) 중에서 P-1(1121)에 더 가깝기 때문에, 보간부(920)는 현재 보간되는 1/4 서브 픽셀 a(1101)과 가까운 좌측의 4개의 정수 픽셀들(1121 내지 1124)과 우측의 3개의 정수 픽셀들 P1(1111), P2(1112), P3(1113)을 보간에 이용할 정수 픽셀들로 결정하고, 계수와의 가중합을 계산한다. 구체적으로, 보간부(920)는 다음의 수학식; b={P-4*(-1)+P-3*4+P-2*(-10)+P-1*58+P1*17+P2*(-5)+P3*1}>>n의 값을 계산함으로써 1/4 서브 픽셀 a(1101)의 픽셀값을 생성한다.
유사하게, 보간 필터 선택부(910)는 1/4 서브 픽셀 c(1102)의 보간을 위해서 {8, -32, 224, 72, -24, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터, {-1, 5, -12, 20, -40, 229, 76, -32, 16, -8, 4, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 미리 설정된 보간 필터를 선택하여 출력한다. 1/4 서브 픽셀 c(1102)의 보간을 위한 보간 필터로써 {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터가 선택되었다고 가정한다. 보간부(920)는 선택된 보간 필터를 1/4 서브 픽셀 c(1102)과 동일한 행에 위치한 정수 픽셀들에 적용하여 1/4 서브 픽셀 c(1102)의 픽셀값을 생성한다. 보간부(920)는 현재 보간되는 1/4 서브 픽셀과 가까운 우측의 4개의 정수 픽셀들(1111 내지 1114)과 좌측의 3개의 정수 픽셀들 P-1(1121), P-2(1122), P-3(1123)을 보간에 이용할 정수 픽셀들로 결정하고, 계수와의 가중합을 계산한다. 이 때, 계수는 {-1,4,-10,58,17,-5,1}/64의 값을 대칭시킨 {1, -5, 17, 58, -10, 4, -1}/64을 이용할 수 있다. 구체적으로, 보간부(920)는 다음의 수학식; b={P-3*1+P-2*(-5)+P-1*17+P1*58+P2*(-10)+P3*4+P4*(-1)}>>n의 값을 계산함으로써 1/4 서브 픽셀 c(1102)의 픽셀값을 생성한다.
전술한 도 10의 1/4 서브 픽셀 d(1008) 및 1/4 서브 픽셀 l(1016)은 동일한 열에 위치한 정수 픽셀들을 이용한다는 차이점만 제외하고, 도 11의 1/4 서브 픽셀 a(1101) 및 1/4 서브 픽셀 c(1102)의 보간 과정과 동일하게 보간될 수 있다.
도 12는 도 10의 1/2 서브 픽셀 j(1014)의 보간 과정을 설명하기 위한 참조도이다.
도 12를 참조하면, 보간 필터 선택부(910)는 1/2 서브 픽셀 j(1210)의 보간을 위한 보간 필터로써, {8, -40, 160, 160, -40, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-11,40,40,-11,4,-1}/64과 같은 계수를 갖는 8-탭 보간 필터, {-1, 8, 16, 24, -48, 161, 161, -48, 24, -16, 8, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 미리 설정된 보간 필터를 선택하여 출력한다. 1/2 서브 픽셀 j(1210)의 보간 필터로써 {-1,4,-11,40,40,-11,4,-1}/64과 같은 계수를 갖는 8-탭 보간 필터가 선택되었다고 가정한다. 보간부(920)는 선택된 보간 필터를 1/2 서브 픽셀 j(1210)과 동일한 행 및 열에 위치한 1/2 서브 픽셀들에 적용하여 1/2 서브 픽셀 j(1210)의 픽셀값을 보간한다. 구체적으로, 보간부(920)는 먼저 1/2 서브 픽셀 j(1210)과 동일한 행의 1/2 서브 픽셀들 nn, mm, ll, h, hh, ii, jj 및 kk의 픽셀값 및 동일한 열의 1/2 서브 픽셀들 aa, bb, cc, b, dd, ee, ff, gg를 생성한다. 전술한 바와 같이, 1/2 서브 픽셀들 nn, mm, ll, h, hh, ii, jj, kk, aa, bb, cc, b, dd, ee, ff, gg들은 도 10의 1/2 서브 픽셀 b(1006) 및 1/2 서브 픽셀 h(1012)와 동일한 보간 과정을 통해 보간될 수 있다. 보간부(920)는 1/2 서브 픽셀 j(1210)과 동일한 행 및 열에 위치한 1/2 서브 픽셀들과 선택된 보간 필터의 계수의 가중합을 계산함으로써 1/2 서브 픽셀 j(1210)의 픽셀값을 생성한다. 구체적으로, 보간부(920)는 다음의 수학식; j={{aa*(-1)+bb*4+cc*(-11)+b*40+dd*40+ee*(-11)+ff*4+gg*(-1)}+{nn*(-1)+mm*4+ll*(-11)+h*40+hh*40+ii*(-11)+jj*4+kk*(-1)}}>>n(n은 정수)의 값을 계산함으로써 1/2 서브 픽셀 j(1210)의 픽셀값을 생성한다. 또한, 보간부(920)은 동일한 행 및 열에 위치한 1/2 서브 픽셀들 중 하나만을 선택하여 계수와의 가중합을 구하여 1/2 서브 픽셀 j(1210)의 픽셀값을 생성할 수도 있다. 즉, 보간부(920)는 다음의 수학식; j={aa*(-1)+bb*4+cc*(-11)+b*40+dd*40+ee*(-11)+ff*4+gg*(-1)}>>n 또는 j={nn*(-1)+mm*4+ll*(-11)+h*40+hh*40+ii*(-11)+jj*4+kk*(-1)}>>n을 계산함으로써 1/2 서브 픽셀 j(1210)의 픽셀값을 생성할 수 있다.
도 13은 도 10의 1/4 서브 픽셀 f(1010), 1/4 서브 픽셀 i(1013), 1/4 서브 픽셀 k(1015) 및 1/4 서브 픽셀 n(1018)의 보간 과정을 설명하기 위한 참조도이다.
먼저, 도 13을 참조하여, 1/4 서브 픽셀 f(1310)의 보간 과정에 대하여 설명한다.
보간 필터 선택부(910)는 전술한 바와 같이 {8, -32, 224, 72, -24, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터, {-1, 5, -12, 20, -40, 229, 76, -32, 16, -8, 4, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 미리 설정된 보간 필터를 선택하여 출력하며, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터가 선택되었다고 가정한다.
보간부(920)는 1/4 서브 픽셀 f(1310)과 동일한 열에 위치한 상측의 4개의 1/2 서브 픽셀들 aa, bb, cc 및 b와 하측의 3개의 1/2 서브 픽셀들 dd, ee, ff과 선택된 계수의 가중합을 계산함으로써 1/4 서브 픽셀 f(1310)의 픽셀값을 생성한다. 전술한 바와 같이, 1/2 서브 픽셀들 nn, mm, ll, h, hh, ii, jj, kk, aa, bb, cc, b, dd, ee, ff, gg들은 도 10의 1/2 서브 픽셀 b(1006) 및 1/2 서브 픽셀 h(1012)와 같이 보간될 수 있다. 구체적으로, 보간부(920)는 다음의 수학식; f={aa*(-1)+bb*4+cc*(-10)+b*58+dd*17+ee*(-5)+ff*1}>>n의 값을 계산함으로써 1/4 서브 픽셀 f(1310)의 픽셀값을 생성한다.
다음, 1/4 서브 픽셀 n(1340)의 보간 과정에 대하여 설명한다.
보간 필터 선택부(910)는 1/4 서브 픽셀 n(1340)의 보간을 위해서 {8, -32, 224, 72, -24, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터, {-1, 5, -12, 20, -40, 229, 76, -32, 16, -8, 4, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 미리 설정된 보간 필터를 선택하여 출력하며, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터가 선택되었다고 가정한다.
보간부(920)는 선택된 보간 필터를 1/4 서브 픽셀 n(1340)과 동일한 열에 위치한 상측의 3개의 1/2 서브 픽셀들 bb, cc 및 b와 하측의 4개의 1/2 서브 픽셀들 dd, ee, ff, gg과 선택된 계수의 가중합을 계산함으로써 1/4 서브 픽셀 n(1310)의 픽셀값을 생성한다. 전술한 바와 같이, 계수로써 1/4 서브 픽셀 n(1340)과 가까운 1/2 서브 픽셀들의 픽셀값이 보간값에 좀 더 많이 반영될 수 있도록 {-1,4,-10,58,17,-5,1}/64의 값을 대칭시킨 {1, -5, 17, 58, -10, 4, -1}/64을 이용할 수 있다. 구체적으로, 보간부(920)는 다음의 수학식; n={bb*1+cc*(-5)+b*17+dd*58+ee*(-10)+ff*4+gg*(-1)}>>n의 값을 계산함으로써 1/4 서브 픽셀 n(1340)의 픽셀값을 생성한다.
1/4 서브 픽셀 i(1320) 및 1/4 서브 픽셀 k(1330)은 동일한 행에 위치한 1/2 서브 픽셀들 nn, mm, ll, h, hh, ii, jj, kk들을 이용한다는 차이점만 제외하고, 도 13의 1/4 서브 픽셀 f(1310) 및 1/4 서브 픽셀 n(1340)의 보간 과정과 동일하게 보간될 수 있다.
도 14는 도 10의 1/4 서브 픽셀 e(1009), 1/4 서브 픽셀 g(1011), 1/4 서브 픽셀 m(1015) 및 1/4 서브 픽셀 o(1019)의 보간 과정을 설명하기 위한 참조도이다.
먼저, 도 14를 참조하여, 1/4 서브 픽셀 e(1410)의 보간 과정에 대하여 설명한다.
보간 필터 선택부(910)는 전술한 바와 같이 {8, -32, 224, 72, -24, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터, {-1, 5, -12, 20, -40, 229, 76, -32, 16, -8, 4, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 미리 설정된 보간 필터를 선택하여 출력하며, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터를 선택되었다고 가정한다.
보간부(920)는 선택된 보간 필터를 1/4 서브 픽셀 e(1410)과 동일한 행 및 열에 위치한 1/4 서브 픽셀들에 적용하여 1/4 서브 픽셀 e(1410)의 픽셀값을 보간한다. 구체적으로, 보간부(920)는 먼저 1/4 서브 픽셀 e(1410)과 동일한 행의 1/4 서브 픽셀들 e1 내지 e4 및 g1 내지 g4과, 동일한 열의 1/4 서브 픽셀들 e5 내지 e8 및 m5 내지 m7을 생성한다. 전술한 바와 같이, 1/4 서브 픽셀들 e1 내지 e4 및 g1 내지 g4, e5 내지 e8 및 m5 내지 m7들은 도 10의 1/4 서브 픽셀 a(1005) 및 1/4 서브 픽셀 d(1008)와 같이 보간될 수 있다. 보간부(920)는 1/4 서브 픽셀 e(1410)과 동일한 행 및 열에 위치한 1/4 서브 픽셀들과 선택된 보간 필터의 계수의 가중합을 계산함으로써 1/4 서브 픽셀 e(1410)의 픽셀값을 생성한다. 구체적으로, 보간부(920)는 다음의 수학식; e={{e8*(-1)+e7*4+e6*(-10)+e5*58+m5*17+m6*(-5)+m7*1}+{e4*(-1)+e3*4+e2*(-10)+e1*58+g1*17+g2*(-5)+g3*1}}>>n 의 값을 계산함으로써 1/4 서브 픽셀 e(1410)의 픽셀값을 생성한다. 또한, 보간부(920)는 동일한 행 및 열에 위치한 1/4 서브 픽셀들 중 하나만을 선택하여 계수와의 가중합을 구하여 1/4 서브 픽셀 e(1410)의 픽셀값을 생성할 수 있다. 즉, 보간부(920)는 다음의 수학식; e={e8*(-1)+e7*4+e6*(-10)+e5*58+m5*17+m6*(-5)+m7*1}>>n 또는 e={e4*(-1)+e3*4+e2*(-10)+e1*58+g1*17+g2*(-5)+g3*1}>>n 을 계산함으로써 1/4 서브 픽셀 e(1410)의 픽셀값을 생성할 수 있다.
다음, 1/4 서브 픽셀 m(1430)의 보간 과정에 대하여 설명한다.
보간 필터 선택부(910)는 전술한 바와 같이 {8, -32, 224, 72, -24, 8}/256과 같은 계수를 갖는 6 탭 보간 필터, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터, {-1, 5, -12, 20, -40, 229, 76, -32, 16, -8, 4, -1}/256과 같은 계수를 갖는 12-탭 보간 필터 중 미리 설정된 보간 필터를 선택하여 출력하며, {-1,4,-10,58,17,-5,1}/64과 같은 계수를 갖는 7-탭 보간 필터가 선택되었다고 가정한다.
보간부(920)는 선택된 보간 필터를 1/4 서브 픽셀 m(1430)과 동일한 행 및 열에 위치한 1/4 서브 픽셀들에 적용하여 1/4 서브 픽셀 m(1430)의 픽셀값을 보간한다. 구체적으로, 보간부(920)는 먼저 1/4 서브 픽셀 m(1430)과 동일한 행의 1/4 서브 픽셀들 m1 내지 m4 및 o1 내지 o4과 동일한 열의 1/4 서브 픽셀들 e5 내지 e8 및 m5 내지 m7을 생성한다.
전술한 바와 같이, 1/4 서브 픽셀들 m1 내지 m4 및 o1 내지 o4, e5 내지 e8 및 m5 내지 m7들은 도 10의 1/4 서브 픽셀 a(1005) 및 1/4 서브 픽셀 l(1016)와 같이 보간될 수 있다. 보간부(920)는 1/4 서브 픽셀 m(1430)과 동일한 행 및 열에 위치한 1/4 서브 픽셀들과 선택된 보간 필터의 계수의 가중합을 계산함으로써 1/4 서브 픽셀 m(1430)의 픽셀값을 생성한다. 열 방향으로 가중합을 계산할 때, 계수로써 1/4 서브 픽셀 m(1430)과 가까운 1/4 서브 픽셀들의 픽셀값이 보간값에 좀 더 많이 반영될 수 있도록 {-1,4,-10,58,17,-5,1}/64의 값을 대칭시킨 {1, -5, 17, 58, -10, 4, -1}/64을 열 방향으로 적용할 수 있다. 구체적으로, 보간부(920)는 다음의 수학식; m={{e7*1+e6*(-5)+e5*17+m5*58+m6*(-10)+m7*4+m8*(-1)}+{m4*(-1)+m3*4+m2*(-10)+m1*58+o1*17+o2*(-5)+o3*1}}>>n 의 값을 계산함으로써 1/4 서브 픽셀 m(1430)의 픽셀값을 생성한다. 또한, 보간부(920)은 동일한 행 및 열에 위치한 1/4 서브 픽셀들 중 하나만을 선택하여 계수와의 가중합을 구하여 1/4 서브 픽셀 m(1430)의 픽셀값을 생성할 수 있다. 즉, 보간부(920)는 다음의 수학식; m={e7*1+e6*(-5)+e5*17+m5*58+m6*(-10)+m7*4+m8*(-1)}>>n 또는 m={{m4*(-1)+m3*4+m2*(-10)+m1*58+o1*17+o2*(-5)+o3*1}>>n 을 계산함으로써 1/4 서브 픽셀 m(1430)의 픽셀값을 생성할 수 있다.
1/4 서브 픽셀 g(1420) 및 1/4 서브 픽셀 o(1440) 역시 전술한 1/4 서브 픽셀 e(1410) 및 1/4 서브 픽셀 m(1430)의 보간 과정과 유사하게 동일한 행 및 열에 위치한 1/4 서브 픽셀들과 선택된 보간 필터의 계수와의 가중합을 이용하여 보간될 수 있다.
도 15는 본 발명의 일 실시예에 따른 영상 보간 방법을 나타낸 플로우 차트이다.
도 15를 참조하면, 단계 1510에서 보간 필터 선택부(910)는 서로 다른 특성을 갖는 복수 개의 보간 필터들 중 보간하고자 하는 서브 픽셀의 위치에 따라서 적용할 보간 필터를 미리 설정하고, 현재 보간하고자 하는 서브 픽셀의 위치에 따라서 설정된 보간 필터 정보를 출력한다. 전술한 바와 같이, 보간 필터 선택부(910)는 서브 픽셀의 위치에 따라서 서로 다른 탭(tap) 수, 계수, 보간 방향 및 보간 형태를 갖는 보간 필터를 미리 설정하고, 보간하고자 하는 서브 픽셀의 위치에 따라서 설정된 보간 필터를 선택하여 출력한다.
단계 1520에서, 보간부(920)는 선택된 보간 필터를 이용하여 서브 픽셀 위치에서의 서브 픽셀값을 생성한다.
본 발명의 일 실시예에 따르면, 다양한 계수 및 탭 수, 보간 방향 및 보간 형태를 갖는 보간 필터를 적용할 수 있기 때문에 영상 특성에 따라서 좀 더 효율적으로 보간이 가능하다. 좀더 향상된 보간 픽처를 이용하는 경우 움직임 예측의 예측 효율이 향상되어 영상의 압축 효율을 향상시킬 수 있다.
본 발명은 또한 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 기록매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광데이터 저장 장치 등이 포함된다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드로 저장되고 실행될 수 있다.
이제까지 본 발명에 대하여 그 바람직한 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.

Claims (15)

  1. 영상을 보간하는 방법에 있어서,
    정수 픽셀들 사이의 서브 픽셀의 위치에 따라서 서로 다른 보간 필터를 선택하는 단계; 및
    상기 선택된 보간 필터를 이용하여 상기 서브 픽셀 위치에서의 서브 픽셀값을 생성하는 단계를 포함하는 것을 특징으로 하는 영상 보간 방법.
  2. 제 1 항에 있어서,
    상기 서로 다른 보간 필터를 선택하는 단계는
    상기 서브 픽셀의 위치에 따라서 서로 다른 탭(tap) 수를 갖는 보간 필터를 선택하는 것을 특징으로 하는 영상 보간 방법.
  3. 제 1항에 있어서,
    상기 서로 다른 보간 필터를 선택하는 단계는
    상기 서브 픽셀의 위치에 따라서 서로 다른 탭 계수를 갖는 보간 필터를 선택하는 것을 특징으로 하는 영상 보간 방법.
  4. 제 1항에 있어서,
    상기 서로 다른 보간 필터를 선택하는 단계는
    서로 다른 특성을 갖는 복수 개의 보간 필터들 중 상기 서브 픽셀의 위치에 따라서 적용할 보간 필터를 미리 설정하고, 상기 서브 픽셀의 위치에 따라서 설정된 보간 필터를 선택하는 것을 특징으로 하는 영상 보간 방법.
  5. 제 1항에 있어서,
    상기 서로 다른 보간 필터를 선택하는 단계는
    상기 서브 픽셀의 위치에 따라서 서로 다른 보간 방향 또는 서로 다른 보간 형태를 갖는 복수 개의 보간 필터들 중 적용할 보간 필터를 미리 설정하고, 상기 서브 픽셀의 위치에 따라서 설정된 보간 필터를 선택하는 것을 특징으로 하는 영상 보간 방법.
  6. 영상을 보간하는 방법에 있어서,
    정수 픽셀들이 포함되는 블록의 크기 및 상기 서브 픽셀의 위치에 따라서 상기 정수 픽셀들 사이의 서브 픽셀의 보간을 위한 서로 다른 특성을 갖는 보간 필터를 미리 설정하고, 상기 블록의 크기 및 상기 서브 픽셀의 위치에 따라 보간에 이용할 보간 필터를 선택하는 단계; 및
    상기 선택된 보간 필터를 이용하여 상기 서브 픽셀 위치에서의 서브 픽셀값을 생성하는 단계를 포함하는 것을 특징으로 하는 영상 보간 방법.
  7. 제 6항에 있어서,
    상기 서로 다른 특성의 보간 필터는
    탭 수, 계수, 보간 방향 및 보간 형태 중 적어도 하나가 다른 것을 특징으로 하는 영상 보간 방법.
  8. 제 6항에 있어서,
    상기 보간 필터를 선택하는 단계는
    상기 정수 픽셀들이 포함되는 블록의 크기에 비례하는 탭 수를 갖는 보간 필터를 선택하는 것을 특징으로 하는 영상 보간 방법.
  9. 영상을 보간하는 장치에 있어서,
    정수 픽셀들 사이의 서브 픽셀의 위치에 따라서 서로 다른 보간 필터를 선택하는 보간 필터 선택부; 및
    상기 선택된 보간 필터를 이용하여 상기 서브 픽셀 위치에서의 서브 픽셀값을 생성하는 보간부를 포함하는 것을 특징으로 하는 영상 보간 장치.
  10. 제 9항에 있어서,
    상기 보간 필터 선택부는
    상기 서브 픽셀의 위치에 따라서 서로 다른 탭(tap) 수를 갖는 보간 필터를 선택하는 것을 특징으로 하는 영상 보간 장치.
  11. 제 9항에 있어서,
    상기 보간 필터 선택부는
    상기 서브 픽셀의 위치에 따라서 서로 다른 탭 계수를 갖는 보간 필터를 선택하는 것을 특징으로 하는 영상 보간 장치.
  12. 제 9항에 있어서,
    상기 보간 필터 선택부는
    서로 다른 특성을 갖는 복수 개의 보간 필터들 중 상기 서브 픽셀의 위치에 따라서 적용할 보간 필터를 미리 설정하고, 상기 서브 픽셀의 위치에 따라서 설정된 보간 필터를 선택하는 것을 특징으로 하는 영상 보간 장치.
  13. 제 9항에 있어서,
    상기 보간 필터 선택부는
    상기 서브 픽셀의 위치에 따라서 서로 다른 보간 방향 또는 서로 다른 보간 형태를 갖는 복수 개의 보간 필터들 중 적용할 보간 필터를 미리 설정하고, 상기 서브 픽셀의 위치에 따라서 설정된 보간 필터를 선택하는 것을 특징으로 하는 영상 보간 장치.
  14. 영상을 보간하는 장치에 있어서,
    정수 픽셀들이 포함되는 블록의 크기 및 상기 서브 픽셀의 위치에 따라서 상기 정수 픽셀들 사이의 서브 픽셀의 보간을 위한 서로 다른 특성을 갖는 보간 필터를 미리 설정하고, 상기 블록의 크기 및 상기 서브 픽셀의 위치에 따라 보간에 이용할 보간 필터를 선택하는 보간 필터 선택부; 및
    상기 선택된 보간 필터를 이용하여 상기 서브 픽셀 위치에서의 서브 픽셀값을 생성하는 보간부를 포함하는 것을 특징으로 하는 영상 보간 장치.
  15. 제 14항에 있어서,
    상기 서로 다른 특성의 보간 필터는
    탭 수, 계수, 보간 방향 및 보간 형태 중 적어도 하나가 다른 것을 특징으로 하는 영상 보간 장치.
KR1020110068560A 2010-07-09 2011-07-11 영상 보간 방법 및 장치 KR101686945B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US36282410P 2010-07-09 2010-07-09
US61/362,824 2010-07-09

Publications (2)

Publication Number Publication Date
KR20120005991A true KR20120005991A (ko) 2012-01-17
KR101686945B1 KR101686945B1 (ko) 2016-12-15

Family

ID=45441689

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110068560A KR101686945B1 (ko) 2010-07-09 2011-07-11 영상 보간 방법 및 장치

Country Status (8)

Country Link
US (1) US9317896B2 (ko)
EP (1) EP2592833A4 (ko)
JP (1) JP5977235B2 (ko)
KR (1) KR101686945B1 (ko)
CN (1) CN103119935B (ko)
BR (1) BR112013000554A2 (ko)
MY (1) MY182191A (ko)
WO (1) WO2012005558A2 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016129851A1 (ko) * 2015-02-13 2016-08-18 엘지전자(주) 비균등 위상 보간을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치
GB2577339A (en) * 2018-09-24 2020-03-25 Sony Corp Image data encoding and decoding

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101686945B1 (ko) 2010-07-09 2016-12-15 삼성전자주식회사 영상 보간 방법 및 장치
EP2996335B1 (en) * 2010-09-30 2017-11-01 Samsung Electronics Co., Ltd Method for interpolating images by using a smoothing interpolation filter
US9036706B2 (en) 2011-06-22 2015-05-19 Google Inc. Fractional pixel interpolation filter for video compression
HUE064092T2 (hu) * 2011-06-24 2024-02-28 Ntt Docomo Inc Eljárás mozgáskompenzált predikcióhoz
TWI574552B (zh) * 2011-06-28 2017-03-11 三星電子股份有限公司 使用非對稱內插濾波器的內插影像用的方法與裝置
US10448015B2 (en) * 2015-06-16 2019-10-15 Lg Electronics Inc. Method and device for performing adaptive filtering according to block boundary
DE102016113010A1 (de) * 2015-12-15 2017-06-22 Basler Ag Bestimmung von Helligkeitswerten virtueller Pixel
CN116939200A (zh) 2016-08-31 2023-10-24 株式会社Kt 用于处理视频信号的方法和设备
CN106791881B (zh) * 2016-12-28 2019-09-17 北京奇艺世纪科技有限公司 一种滤波方法及装置
EP3454556A1 (en) 2017-09-08 2019-03-13 Thomson Licensing Method and apparatus for video encoding and decoding using pattern-based block filtering
US10841610B2 (en) * 2017-10-23 2020-11-17 Avago Technologies International Sales Pte. Limited Block size dependent interpolation filter selection and mapping
JP2022548555A (ja) * 2019-09-24 2022-11-21 アリババ グループ ホウルディング リミテッド 映像符号化のための動き補償方法
US20220279176A1 (en) * 2021-02-26 2022-09-01 Alibaba Group Holding Limited Directional cross component filter for video coding

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050018948A (ko) * 2002-07-09 2005-02-28 노키아 코포레이션 비디오 부호화에서 보간 필터 유형을 선택하기 위한 방법및 장치
KR20080041935A (ko) * 2006-11-08 2008-05-14 삼성전자주식회사 영상 보간 방법 및 장치
US20080247467A1 (en) * 2007-01-09 2008-10-09 Nokia Corporation Adaptive interpolation filters for video coding
EP2157799A1 (en) * 2008-08-18 2010-02-24 Panasonic Corporation Interpolation filter with local adaptation based on block edges in the reference frame

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6950469B2 (en) 2001-09-17 2005-09-27 Nokia Corporation Method for sub-pixel value interpolation
CN100553321C (zh) * 2002-01-14 2009-10-21 诺基亚有限公司 编码动态滤波器
JP4120301B2 (ja) * 2002-04-25 2008-07-16 ソニー株式会社 画像処理装置およびその方法
AU2003246987A1 (en) * 2002-07-09 2004-01-23 Nokia Corporation Method and system for selecting interpolation filter type in video coding
JP4373702B2 (ja) 2003-05-07 2009-11-25 株式会社エヌ・ティ・ティ・ドコモ 動画像符号化装置、動画像復号化装置、動画像符号化方法、動画像復号化方法、動画像符号化プログラム及び動画像復号化プログラム
US8208564B2 (en) * 2005-06-24 2012-06-26 Ntt Docomo, Inc. Method and apparatus for video encoding and decoding using adaptive interpolation
KR100707268B1 (ko) * 2005-10-08 2007-04-16 삼성전자주식회사 영상보간장치 및 영상보간방법
EP1983759A1 (en) * 2007-04-19 2008-10-22 Matsushita Electric Industrial Co., Ltd. Estimation of separable adaptive interpolation filters for hybrid video coding
US8270472B2 (en) * 2007-11-09 2012-09-18 Thomson Licensing Methods and apparatus for adaptive reference filtering (ARF) of bi-predictive pictures in multi-view coded video
US8971412B2 (en) * 2008-04-10 2015-03-03 Qualcomm Incorporated Advanced interpolation techniques for motion compensation in video coding
US8831086B2 (en) * 2008-04-10 2014-09-09 Qualcomm Incorporated Prediction techniques for interpolation in video coding
US20090257499A1 (en) 2008-04-10 2009-10-15 Qualcomm Incorporated Advanced interpolation techniques for motion compensation in video coding
JP5017181B2 (ja) * 2008-06-03 2012-09-05 株式会社エヌ・ティ・ティ・ドコモ 動画像符号化装置、動画像符号化方法、動画像符号化プログラム、動画像復号化装置、動画像復号化方法及び動画像復号化プログラム
US9078007B2 (en) * 2008-10-03 2015-07-07 Qualcomm Incorporated Digital video coding with interpolation filters and offsets
KR101538704B1 (ko) * 2009-01-28 2015-07-28 삼성전자주식회사 보간 필터를 적응적으로 사용하여 영상을 부호화 및 복호화하는 방법 및 장치
WO2010143583A1 (ja) * 2009-06-09 2010-12-16 ソニー株式会社 画像処理装置および方法
WO2011121716A1 (ja) * 2010-03-30 2011-10-06 株式会社 東芝 動画像符号化方法、復号化方法、符号化装置および復号化装置
KR101682147B1 (ko) * 2010-04-05 2016-12-05 삼성전자주식회사 변환 및 역변환에 기초한 보간 방법 및 장치
KR101686945B1 (ko) 2010-07-09 2016-12-15 삼성전자주식회사 영상 보간 방법 및 장치
EP2996335B1 (en) * 2010-09-30 2017-11-01 Samsung Electronics Co., Ltd Method for interpolating images by using a smoothing interpolation filter
US20120134425A1 (en) * 2010-11-29 2012-05-31 Faouzi Kossentini Method and System for Adaptive Interpolation in Digital Video Coding
KR101956284B1 (ko) * 2011-06-30 2019-03-08 엘지전자 주식회사 보간 방법 및 이를 이용한 예측 방법
US11716489B2 (en) * 2013-06-14 2023-08-01 Arris Enterprises Llc Re-sampling filters for scalable video coding
JP6120707B2 (ja) * 2013-07-08 2017-04-26 ルネサスエレクトロニクス株式会社 動画像符号化装置およびその動作方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050018948A (ko) * 2002-07-09 2005-02-28 노키아 코포레이션 비디오 부호화에서 보간 필터 유형을 선택하기 위한 방법및 장치
KR20080041935A (ko) * 2006-11-08 2008-05-14 삼성전자주식회사 영상 보간 방법 및 장치
US20080247467A1 (en) * 2007-01-09 2008-10-09 Nokia Corporation Adaptive interpolation filters for video coding
EP2157799A1 (en) * 2008-08-18 2010-02-24 Panasonic Corporation Interpolation filter with local adaptation based on block edges in the reference frame

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016129851A1 (ko) * 2015-02-13 2016-08-18 엘지전자(주) 비균등 위상 보간을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치
GB2577339A (en) * 2018-09-24 2020-03-25 Sony Corp Image data encoding and decoding

Also Published As

Publication number Publication date
EP2592833A2 (en) 2013-05-15
CN103119935B (zh) 2016-05-04
MY182191A (en) 2021-01-18
JP5977235B2 (ja) 2016-08-24
WO2012005558A3 (ko) 2012-05-03
US20130156346A1 (en) 2013-06-20
KR101686945B1 (ko) 2016-12-15
BR112013000554A2 (pt) 2020-09-24
JP2013534119A (ja) 2013-08-29
CN103119935A (zh) 2013-05-22
EP2592833A4 (en) 2014-12-03
US9317896B2 (en) 2016-04-19
WO2012005558A2 (ko) 2012-01-12

Similar Documents

Publication Publication Date Title
KR101686945B1 (ko) 영상 보간 방법 및 장치
KR102040317B1 (ko) 영상의 인트라 예측 부호화, 복호화 방법 및 장치
JP6902937B2 (ja) ビデオ復号化方法及びビデオ復号化装置
KR101682149B1 (ko) 변환 및 역변환에 기초한 보간 방법 및 장치
RU2595262C2 (ru) Способ для интерполяции изображений с использованием асимметричного интерполяционного фильтра и устройство для этого
JP5654594B2 (ja) 映像の符号化方法及び装置、その復号化方法及び装置
KR20180041575A (ko) 영상의 부호화/복호화 방법 및 장치
KR20130004133A (ko) 휘도 성분 영상을 이용한 색차 성분 영상의 예측 방법 및 예측 장치
KR20110112187A (ko) 영상 부호화 방법 및 장치, 비디오 복호화 방법 및 장치
KR20110065089A (ko) 영상의 부호화 방법 및 장치, 그 복호화 방법 및 장치
KR102435493B1 (ko) 영상 신호 부호화/복호화 방법 및 장치
KR20110111853A (ko) 복수의 부분에 기초한 영상 부호화, 복호화 방법 및 장치
KR20210153547A (ko) 비디오 신호 부호화/복호화 방법 및 장치, 그리고 비트스트림을 저장한 기록 매체

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20191128

Year of fee payment: 4