KR100888963B1 - 영상 신호의 스케일러블 인코딩 및 디코딩 방법 - Google Patents

영상 신호의 스케일러블 인코딩 및 디코딩 방법 Download PDF

Info

Publication number
KR100888963B1
KR100888963B1 KR1020050059778A KR20050059778A KR100888963B1 KR 100888963 B1 KR100888963 B1 KR 100888963B1 KR 1020050059778 A KR1020050059778 A KR 1020050059778A KR 20050059778 A KR20050059778 A KR 20050059778A KR 100888963 B1 KR100888963 B1 KR 100888963B1
Authority
KR
South Korea
Prior art keywords
block
layer
information
motion vector
frame
Prior art date
Application number
KR1020050059778A
Other languages
English (en)
Other versions
KR20060063614A (ko
Inventor
박승욱
전병문
윤도현
박지호
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to US11/293,132 priority Critical patent/US20060133503A1/en
Publication of KR20060063614A publication Critical patent/KR20060063614A/ko
Application granted granted Critical
Publication of KR100888963B1 publication Critical patent/KR100888963B1/ko
Priority to US12/423,309 priority patent/US20090190844A1/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H04N19/615—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding using motion compensated temporal filtering [MCTF]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/36—Scalability techniques involving formatting the layers as a function of picture distortion after decoding, e.g. signal-to-noise [SNR] scalability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46—Embedding additional information in the video signal during the compression process
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/56—Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]

Abstract

본 발명은 영상 신호를 스케일러블 하게 인코딩 하고 디코딩 하는 방법에 관한 것이다. 본 발명에서, 제 1 레이어(인핸스드 레이어)보다 낮은 해상도로 인코딩된 제 2 레이어(베이스 레이어)의 데이터 스트림을 기초로 레이어 간 예측 방법을 적용하여, 영상 신호를 인코딩한다. 또한, 제 1 레이어의 영상 블록을 디코딩하는 경우, 상기 제 2 레이어의 영상 블록의 분할 정보 및 모션 정보는 제 2 레이어의 대응 블록으로부터 유도하여 제 1 레이어의 매크로 블록을 분할하고 모션을 예측하는 모션 예측 방법이 이용함으로써, 코딩 효율을 향상시킬 수 있게 된다.
MCTF, 베이스 레이어, 인핸스드 레이어, 레이어 간 예측, 텍스쳐 예측, 레지듀얼 예측, 모션 예측

Description

영상 신호의 스케일러블 인코딩 및 디코딩 방법 { Method for scalably encoding and decoding video signal }
도 1은 '2D+t' 구조의 스케일러블 코덱을 도시한 것이고,
도 2는 베이스 레이어의 분할 정보 및/또는 모션 정보를 이용하여 베이스 레이어에 비해 2배의 해상도를 갖는 인핸스드 레이어의 매크로 블록을 분할하고 예측 영상을 생성하는 종래의 방법을 도시한 것이고,
도 3은 본 발명에 따른 영상 신호의 스케일러블 코딩 방법이 적용되는 영상 신호 인코딩 장치의 구성을 도시한 것이고,
도 4는 어느 한 시간적 분해 레벨에서 영상 신호에 대해 시간적 분해를 하는 구성을 도시한 것이고,
도 5는 베이스 레이어의 분할 정보 및/또는 모션 정보를 이용하여 베이스 레이어에 비해 4배의 해상도를 갖는 인핸스드 레이어의 매크로 블록을 분할하고 예측 영상을 생성하는 본 발명에 따른 방법을 도시한 것이고,
도 6은 도 3의 장치에 의해 인코딩 된 데이터 스트림을 디코딩 하는 장치의 구성을 도시한 것이고,
도 7은 어느 한 분해 레벨의 'H' 프레임 시퀀스와 'L' 프레임 시퀀스를 다음 분해 레벨의 'L' 프레임 시퀀스로 시간적 합성하는 구성을 도시한 것이다.
<도면의 주요부분에 대한 부호의 설명>
100 : EL 인코더 101 : 추정/예측기
102 : 갱신기 105 : BL 디코더
110 : 텍스처 인코더 120 : 모션 코딩부
130 : 먹서 150 : BL 인코더
200 : 디먹서 210 : 텍스처 디코더
220 : 모션 디코딩부 230 : EL 디코더
231 : 역갱신기 232 : 역예측기
233 : 모션 벡터 디코더 234 : 배열기
240 : BL 디코더
본 발명은, 영상 신호의 스케일러블 인코딩 및 디코딩 방법에 관한 것으로, 좀더 상세하게는 해상도가 1/4배인 베이스 레이어(base layer)를 기초로 하는 레이어 간 예측 방법을 적용하여 영상 신호를 인코딩 하고 그에 따라 인코딩 된 영상 데이터를 디코딩 하는 방법에 관한 것이다.
현재 널리 사용되고 있는 휴대폰과 노트북, 그리고 앞으로 널리 사용하게 될 이동(mobile) TV와 핸드헬드 PC 등이 무선으로 송수신하는 디지털 영상 신호에 대해서는 TV 신호에서와 같은 넓은 대역을 할당하기가 여의치 않다. 따라서, 이와 같은 이동성 휴대 장치를 위한 영상 압축 방식에 사용될 표준은 좀 더 영상 신호의 압축 효율이 높아야만 한다.
더욱이, 상기와 같은 이동성 휴대 장치는 자신이 처리 또는 표현(presentation)할 수 있는 능력이 다양할 수 밖에 없다. 따라서, 압축된 영상이 그만큼 다양하게 사전 준비되어야만 하는 데, 이는 동일한 하나의 영상원(source)에 대해서 초당 전송 프레임 수, 해상도, 픽셀 당 비트 수 등 다양한 변수들로 각각 조합된 여러 품질의 영상 데이터를 구비하고 있어야 함을 의미하므로, 컨텐츠 제공자에게 많은 부담이 될 수 밖에 없다.
이러한 이유로, 컨텐츠 제공자는, 하나의 영상원에 대해 고속 비트레이트의 압축 영상 데이터를 구비해 두고, 상기와 같은 이동성 장치가 요청하면 압축 영상을 디코딩 한 다음 요청한 장치의 영상 처리 능력(capability)에 맞는 영상 데이터로 다시 인코딩 하여 이를 제공한다. 하지만 이러한 방식에는 트랜스코딩(transcoding)(디코딩+스케일링+인코딩) 과정이 필히 수반되므로 이동성 장치가 요청한 영상을 제공함에 있어서 다소 시간 지연이 발생한다. 또한 트랜스코딩도 목표 인코딩이 다양함에 따라 복잡한 하드웨어의 디바이스와 알고리즘을 필요로 한다.
이와 같은 불리한 점들을 해소하기 위해 제안된 것이 스케일러블 영상 코덱(SVC : Scalable Video Codec)이다. 이 방식은 영상 신호를 인코딩함에 있어, 최고 화질로 인코딩 하되, 그 결과로 생성된 픽처 시퀀스의 부분 시퀀스(시퀀스 전체에서 간헐적으로 선택된 프레임의 시퀀스)를 디코딩 하여도 영상의 화질을 어느 정도 보장할 수 있도록 하는 방식이다.
MCTF(Motion Compensated Temporal Filter(or Filtering))는 상기와 같은 스케일러블 영상 코덱에 사용하기 위해 제안된 인코딩 방식이다. MCTF 방식은 대역폭이 제한된 이동 통신 등과 같은 전송 환경에 적용될 가능성이 높으므로 초당 전송되는 비트 수를 낮추기 위해 높은 압축 효율, 즉 높은 코딩 효율(coding efficiency)을 필요로 한다.
앞서 언급한 바와 같이 스케일러블 방식인 MCTF로 인코딩 된 픽쳐 시퀀스 중 일부만을 수신하여 처리하여도 어느 정도의 화질을 보장하지만, 비트 레이트(bit rate)가 낮아지는 경우에는 화질 저하가 크게 나타난다. 이를 해소하기 위해서 낮 은 전송률을 위한 별도의 보조 픽쳐 시퀀스, 예를 들어 낮은 해상도(resolution)의 소화면 및/또는 초당 프레임 수 등이 낮은 픽쳐 시퀀스를 제공할 수도 있다.
보조 픽쳐 시퀀스를 베이스 레이어(base layer)라고 부르고, 주 픽쳐 시퀀스를 인핸스드(enhanced)(또는 인핸스먼트(enhancement)) 레이어라고 부른다. 베이스 레이어와 인핸스드 레이어의 관계는 상대적인 것으로, 여러 레이어 중에서 두 개의 레이어가 선택될 때, 해상도 또는 프레임 레이트가 낮은 레이어가 베이스 레이어가 되고 나머지가 인핸스드 레이어가 된다. 예를 들어, 화면의 해상도가 4CIF(4 times Common Intermediate Format), CIF, 및 QCIF(Quarter CIF)인 세개의 레이어가 있는 경우, 화면의 해상도가 QCIF인 레이어가 베이스 레이어가 되고, 나머지 두 레이어가 인핸스드 레이어가 될 수 있다.
여기서, 화면의 크기 또는 해상도를 비교할 때, 화면 내의 전체 픽셀의 수 또는 픽셀을 좌우 동일한 간격으로 배열할 때 전체 픽셀이 차지하는 면적을 기준으로 계산하면 4CIF는 CIF의 4배, QCIF의 16배가 되고, 가로 방향 또는 세로 방향의 픽셀의 수를 기준으로 계산하면 4CIF는 CIF의 2배, QCIF의 4배가 된다. 이하에서는 화면의 크기 또는 해상도를 비교할 때, 전체 픽셀의 수 또는 면적이 아닌 가로 방향 또는 세로 방향의 픽셀 수를 기준으로 할 예정으로, CIF의 해상도(크기)는 4CIF의 1/2배 QCIF의 2배가 된다.
도 1은, '2D+t' 구조를 이용하여, 시간적(temporal), 공간적(spatial), 및 SNR 또는 퀄러티(SNR 또는 quality) 세 관점에서의 스케일러빌러티(scalability)를 적용하는 스케일러블 코덱의 구조를 도시한 것이다.
하나의 영상 소오스(Source)는 원래 해상도(화면의 크기)의 영상 신호(Layer 0), 1/2 해상도의 영상 신호(Layer 1), 및 1/4 해상도의 영상 신호(Layer 2)로, 즉 해상도가 서로 다른 여러 레이어로 구분되어, 각각 독립적으로 인코딩된다. 이때, 여러 레이어에 대해 동일한 방식으로 인코딩 할 수 있고, 또는 서로 다른 방식으로 인코딩 할 수도 있다. 여기서는, 여러 레이어들이 독립적으로 MCTF에 의해 인코딩 되는 것을 예로 한다.
해상도가 다른 각 레이어는 동일한 영상 콘텐츠를 공간 해상도나 프레임 레이트 등을 달리하여 인코딩 한 것이므로, 각 레이어에 대해 인코딩 한 데이터 스트림에는 잉여 정보(redundancy)가 존재한다. 따라서, 임의의 레이어(예를 들어 인핸스드 레이어)의 코딩 효율을 높이기 위해, 상기 임의의 레이어보다 해상도가 낮은 레이어(예를 들어 베이스 레이어)에 대해 인코딩 한 데이터 스트림를 이용하여 상기 임의의 레이어(상기 인핸스드 레이어)의 영상 신호가 예측되는데, 이를 레이어 간 예측 방법(Inter-layer prediction method)이라 한다.
레이어 간 예측 방법에는 텍스쳐 예측(Texture prediction) 방법, 레지듀얼 예측(Residual prediction) 방법, 및 모션 예측(Motion prediction) 방법 등이 있다.
2배의 해상도 차이를 갖는 레이어 0(Layer 0)과 레이어 1(Layer 1) 사이 또는 레이어 1(Layer 1)과 레이어 2(Layer 2) 사이에 레이어 간 예측 방법인 텍스쳐 예측 방법, 레지듀얼 예측 방법, 및 모션 예측 방법이 적용되는 예를 상세히 설명하면 다음과 같다.
먼저 텍스쳐 예측 방법을 설명하면, 레이어 0 내의 매크로 블록(macro block)에 대응 되는 레이어 1의 대응 블록(여기서, 대응 블록은 레이어 0의 현재 매크로 블록과 동시간의 프레임 내에 위치하는 블록 중에서 레이어 0과 레이어 1의 화면의 크기의 비율에 따라, 즉 2배 확대했을 때 현재 매크로 블록을 커버하는 영역을 갖는 블록을 의미한다)이 내부 모드로 인코딩 되어 있으면, 상기 대응 블록 내의 부분 영역으로 프레임 내에서의 상대적 위치가 상기 매크로 블록과 동일한 대응 영역(여기서, 상기 대응 영역은 가로 방향과 세로 방향의 픽셀 수가 상기 매크로 블록의 1/2이다)을 내부 모드의 기준이 되는 다른 영역의 화소값을 근거로 원래의 이미지로 복원하고, 상기 복원된 대응 영역을 상기 레이어 0과 레이어 1의 해상도 비에 해당하는 2배 업샘플링 하여 상기 매크로 블록의 크기로 확대한 후, 상기 확대된 대응 영역과 상기 매크로 블록의 각 화소의 차이값으로 상기 레이어 0 내의 매크로 블록을 인코딩 한다. 그리고, 상기 매크로 블록이 해상도가 1/2배인 레이어 1 내에 내부 모드로 인코딩 된 대응 영역을 기준으로 인코딩 되었음을 가리키도록 인트라 베이스 플래그(intra_BASE_flag)를, 예를 들어 '1'로 설정하여 상기 매크로 블록의 헤더 영역에 기록한다.
다음 상기 레지듀얼 예측 모드를 설명하면, 레이어 0의 영상 신호에 대해 예측 동작을 수행하여 임의의 프레임 내의 매크로 블록에 대한 레지듀얼 블록(레지듀얼 데이터를 갖도록 인코딩 된 블록)을 구한다. 이때, 레이어 1의 영상 신호에 대해서도 예측 동작이 수행되어 레이어 1의 레지듀얼 블록도 이미 생성되어 있는 상태이다. 이후, 상기 매크로 블록에 대응되고 레지듀얼 데이터를 갖도록 인코딩 된 레이어 1의 대응 레지듀얼 블록을 찾고, 상기 대응 레지듀얼 블록 내의 부분 영역으로 프레임 내에서의 상대적 위치가 상기 매크로 블록과 동일한 대응 레지듀얼 영역(가로 방향과 세로 방향의 픽셀 수가 상기 매크로 블록의 1/2인 영역으로 레지듀얼 데이터를 갖도록 인코딩 된 영역)을 상기 레이어 0과 레이어 1의 해상도 비에 해당하는 2배 업샘플링 하여 상기 매크로 블록과 동일하게 확대한 후, 상기 확대된 레이어 1의 대응 레지듀얼 영역의 화소값을 상기 레이어 0의 레지듀얼 블록의 화소값에서 감하여 상기 레이어 0의 매크로 블록에 인코딩 한다. 그리고, 상기 매크로 블록이 해상도가 1/2배인 레이어 1 내의 대응 레지듀얼 영역을 기준으로 레지듀얼 데이터의 차이값으로 인코딩 되었음을 가리키도록 레지듀얼 예측 플래그(residual_prediction_flag)를, 예를 들어 '1'로 설정하여 상기 매크로 블록의 헤더 영역에 기록한다.
다음, 상기 모션 예측 방법에는, i) 레이어 0에 대해 산출한 분할 정보 및 레이어 0의 모션 벡터를 그대로 이용하는 방법, ii) 레이어 1의 대응 블록의 분할 정보 및 모션 벡터를 이용하는 방법, 및 iii) 레이어 1의 대응 블록의 분할 정보 및 레이어 0의 모션 벡터와 레이어 1의 모션 벡터와의 차이를 이용하는 방법으로 크게 나눌 수 있다.
먼저, ii) 및 iii)에 적용되는 레이어 1의 매크로 블록의 분할 정보를 이용하는 방법에 대해 설명하고, 상기 3가지 방법 중 하나가 선택되는 기준에 대해 알아본 후, 각각의 경우에 있어서 모션 벡터를 이용하는 방법을 설명하기로 한다.
먼저, 레이어 1의 매크로 블록의 분할 정보 및/또는 모션 정보를 이용하여 레이어 0의 예측 영상을 생성하는 방법에 대해 설명하면 다음과 같다.
레이어 0의 현재 매크로 블록에 대응되는 레이어 1의 대응 블록에 대한 분할 정보와 레이어 0과 레이어 1의 화면의 크기(또는 해상도)의 비율을 근거로, 현재 매크로 블록을 분할한다. 또한, 레이어 1의 대응 블록의 모션에 관한 정보, 예를 들어 기준 블록을 포함하는 프레임을 가리키는 데이터(reference index)와 모션 벡터를 기초로, 상기 레이어 1의 대응 블록의 분할 정보에 따라 분할된 레이어 0의 블록들을 인코딩 한다.
여기서, 레이어 0과 레이어 1의 화면의 크기의 비가 2이므로, 레이어 0의 4개의 16x16 매크로 블록이 레이어 1의 16x16의 대응 블록의 분할 정보와 모션 정보를 기초로 인코딩 될 수 있다.
레이어 1의 대응 블록이, 도 2에 도시한 바와 같이, 4x4, 4x8, 또는 8x4 크기의 블록으로 분할되어 인코딩 되어 있는 경우, 레이어 0의 현재 매크로 블록은 4x4, 4x8, 또는 8x4의 2배에 해당하는 8x8, 8x16, 또는 16x8 크기의 블록으로 각각 분할된다. 또한, 레이어 1의 대응 블록이 8x8로 분할되어 있는 경우, 8x8의 2배에 해당하는 16x16의 크기는 매크로 블록의 최대 크기인 16x16이 되므로, 8x8 크기의 블록은 레이어 0의 하나의 매크로 블록이 된다.
또한, 레이어 1의 대응 블록이 8x16, 16x8, 또는 16x16 크기의 블록으로 분할되어 인코딩 되어 있는 경우, 2배에 해당하는 크기는 매크로 블록의 최대 크기인 16x16보다 커지게 되어 현재 매크로 블록을 분할할 수 없고, 현재 매크로 블록을 포함하는 인접 2개 또는 4개의 매크로 블록은 동일한 대응 블록을 갖게 되므로, 상 기 레이어 1의 8x16, 16x8, 또는 16x16 크기의 블록은 레이어 0의 2개 또는 4개의 매크로 블록에 대응된다.
레이어 1의 매크로 블록이 direct mode(다른 프레임 내의 동일 위치에 있는 블록에 대한 모션 벡터를 그대로 이용하여 인코딩 하거나 또는 그 주변에 있는 다른 매크로 블록에 대한 모션 벡터를 이용하여 자신에 대한 모션 벡터를 구하고 이를 이용하여 인코딩 하고, 자신의 모션 벡터는 기록하지 않는 모드)로 인코딩 되어 있는 경우, 이에 대응되는 레이어 0의 매크로 블록은 16x16 크기의 블록으로 인코딩 된다.
또한, 현재 매크로 블록에 대응되는 레이어 1의 16x16의 대응 블록이 내부 모드로 인코딩 되어 있는 경우, 상기 현재 매크로 블록을 포함하는 인접 4개의 매크로 블록은 레이어 1의 상기 대응 블록을 기준 블록으로 하는 인트라 베이스 모드(intra_BASE mode)로 인코딩 된다.
그리고, 레이어 0의 매크로 블록이, 레이어 1의 대응 블록에 대한 분할 정보에 따라 분할되고, 상기 레이어 1의 대응 블록에 대한 모션 정보를 이용하여 인코딩 되었음을 가리키도록 베이스 레이어 모드 플래그(base_layer_mode_flag)를, 예를 들어 '1'로 설정하여 상기 매크로 블록의 헤더 영역에 기록한다.
다음, 레이어 1 픽쳐의 모션 벡터를 이용하여 그와 동시간의 레이어 0 픽쳐의 모션 벡터를 인코딩 하는 방법에 대해 설명하면 다음과 같다.
레이어 0의 프레임 내의 임의의 매크로 블록에 대한 모션 추정 동작을 통해 기준 블록으로의 모션 벡터(mv)를 구하고, 또한 레이어 1의 프레임 내에서 상기 매 크로 블록과 대응되는 영역을 커버하는 매크로 블록의 모션 벡터(mvBL)를 상기 레이어 0와 레이어 1의 해상도 비인 2배 크기 조절한(scaling) 모션 벡터(mvScaledBL)를 구한다.
이후, 상기 두 벡터(mv와 mvScaledBL) 각각, 및 상기 두 벡터(mv와 mvScaledBL) 사이의 차에 대해, 상기 두 벡터(mv와 mvScaledBL) 각각에 의해 생성된 영상과 실제 영상과의 차이인 레지듀얼 에러 및 인코딩 될 때 사용될 총 비트 수 등을 고려하여 산출된 비용(cost)에 따라, 상기 3가지 방법으로 세분된다. 즉, i) 상기 레이어 0에서 구한 모션 벡터인 mv의 비용이 다른 나머지 방법들에 비해 적은 경우, 상기 레이어 0에서 구한 모션 벡터를 그대로 이용할 수 있도록 인코딩 한다. 이하에서 레이어 간 예측 방법이라고 할 때에는 이 경우는 제외하는 것으로 한다.
ii) 상기 레이어 1의 대응 블록의 스케일링 된 모션 벡터(mvScaledBL)의 비용이 다른 나머지 방법들에 비해 적은 경우, 상기 레이어 0의 매크로 블록에 대한 모션 벡터가 레이어 1의 대응 블록의 스케일링 된 모션 벡터와 같음을 알리는 정보를 해당 매크로 블록의 헤더에 기록한다. 즉, 별도의 모션 벡터 정보를 제공하지 않고, 단지 레이어 1의 대응 블록의 스케일링 된 모션 벡터와 같은 나타내는 플래그(base_layer_mode_flag )를, 예를 들어 '1'로 설정한다
iii) 상기 mv와 mvScaledBL의 두 벡터 사이의 차에 대한 비용이 다른 나머지 방법들에 비해 적은 경우, 다시 말해 레이어 0 해상도가 레이어 1의 해상도의 2배이므로 상기 mv와 mvScaledBL의 두 벡터의 차가 x, y(수평, 수직) 각 방향으로 1 픽셀 이하인 경우, x, y 각 성분에 대해 각각 +1, 0, -1 중 어느 한 값을 갖게 되는 벡터 미세 정보를 기록하고, 해당 매크로 블록의 헤더에 미세 플래그(refinement_flag)를, 예를 들어 '1'로 설정한다.
이러한 레이어 간 예측 방법은, 도 1에 도시한 바와 같이, 2배(또는 절반)의 해상도 차이를 갖는 레이어 사이, QCIF와 CIF 사이 또는 CIF와 4CIF 사이에만 적용되었다. 다시 말해, QCIF 해상도를 갖는 레이어를 기초로 CIF 해상도를 갖는 레이어의 영상 신호가 예측되고 CIF 해상도를 갖는 레이어를 기초로 4CIF 해상도를 갖는 레이어의 영상 신호가 예측되었다.
하지만, QCIF 해상도를 갖는 레이어를 이용하여 4CIF 해상도를 갖는 레이어의 영상 신호를 예측하는 것과 같이, 4배의 해상도 차이를 갖는 레이어 사이에도 레이어 간 예측 동작을 수행하여 코딩 효율을 향상시킬 필요가 제기되고 있다.
본 발명은 이러한 문제점을 해결하기 위해 창작된 것으로서, 본 발명의 목적은, 코딩 효율을 향상시킬 수 있도록, 4배의 해상도 차이를 갖는 레이어 사이에도 레이어 간 예측 모드를 적용하여 영상 신호를 인코딩 하는 방법과 상기 인코딩 방법에 의해 인코딩 된 영상 신호를 이에 상응하게 디코딩 하는 방법을 제공하는데 있다.
상기한 목적을 달성하기 위해 본 발명의 일 실시예에 따른 영상 신호를 디코딩 하는 방법은, 스케일러블하게 인코딩되어 수신되는 제 1 레이어의 비트스트림을 디코딩하는 단계; 및 소정의 방식으로 인코딩되어 수신되는 제 2 레이어의 비트스트림을 디코딩하는 단계를 포함하고, 상기 제 1 레이어의 영상 블록의 분할 정보 및 모션 정보는 제 2 레이어로부터 유도된 것을 특징으로 한다.
상기 실시예는, 상기 제 1 레이어의 비트스트림을 디코딩하는 단계는, 상기 영상 블록에 대응되는 상기 제 2 레이어의 대응 블록의 모드 정보 및 모션 정보에 기초하여 상기 영상 블록을 디코딩하는 것을 특징으로 한다.
또한, 상기 모션 정보는 레퍼런스 인덱스 및 모션 벡터를 포함하는 것을 특징으로 하고, 상기 영상 블록의 모션 벡터는 상기 대응 블록의 모션 벡터를 업샘플링하여 획득되는 것을 특징으로 한다.
상기 대응 블록의 분할 정보가 4*4 블록인 경우, 상기 영상 블록의 분할 정보는 16*16 블록이고, 상기 대응 블록의 분할 정보가 인터 모드로 인코딩된 16*16 블록인 경우, 상기 영상 블록은 상기 대응 블록을 기준 블록으로 인트라 베이스 모드로 인코딩된 것을 특징으로 한다.
본 발명의 다른 실시예에 따른 인코딩 된 영상 비트 스트림을 디코딩 하는 방법은, 소정의 방식으로 인코딩 되어 있는 제 2 레이어의 비트 스트림을 디코딩 하는 단계; 및 상기 제 2 레이어의 비트 스트림으로부터 디코딩 되는 정보를 이용하여, 스케일러블 하게 인코딩 되어 있는 제 1 레이어의 비트 스트림을 디코딩 하 는 단계를 포함하여 이루어지고, 여기서, 상기 제 2 레이어의 비트 스트림은 프레임의 화면 크기가 상기 제 1 레이어의 비트 스트림의 1/4배인 것을 특징으로 한다.
제 1 레이어의 비트 스트림과 제 2 레이어의 비트 스트림 내의 프레임의 화면 크기는, 각각의 비트 스트림에 포함된 정보를 기초로 확인되는 것을 특징으로 한다.
이하, 본 발명의 바람직한 실시예에 대해 첨부 도면을 참조하여 상세히 설명한다.
도 3은 본 발명에 따른 영상 신호의 스케일러블 코딩 방법이 적용되는 영상 신호 인코딩 장치의 구성을 도시한 것이다.
도 3의 영상 신호 인코딩 장치는, 입력되는 영상 신호를 예를 들어 MCTF 방식에 의해 매크로 블록 단위로 스케일러블하게 인코딩 하고 적절한 관리 정보를 생성하는 인핸스드 레이어(EL) 인코더(100), 상기 인코딩 된 각 매크로 블록의 데이터를 압축된 비트 열로 변환하는 텍스처(Texture) 코딩부(110), 상기 EL 인코더(100)에 의해 얻어지는 영상 블록의 모션 벡터(motion vectors)를 지정된 방식에 의해 압축된 비트 열로 코딩 하는 모션 코딩부(120), 입력 영상 신호를 지정된 방식, 예를 들어 MPEG 1, 2, 또는 4, 또는 H.261, H.264 등의 방식으로 인코딩 하여 필요에 따라 소화면, 예를 들어 원래 해상도의 1/2 또는 1/4인 픽쳐들의 시퀀스를 생성하는 베이스 레이어(BL) 인코더(150), 상기 텍스처 코딩부(110)의 출력 데이터, 상기 BL 인코더(150)의 픽쳐 시퀀스 및 상기 모션 코딩부(120)의 출력 벡터 데 이터를 기 지정된 포맷으로 인캡슐(encapsulate) 한 다음 기 지정된 전송 포맷으로 상호 먹싱하여 출력하는 먹서(130)를 포함하여 구성된다.
상기 EL 인코더(100)는, 임의 영상 프레임(또는 픽쳐) 내의 매크로 블록에 대하여 모션 추정(motion estimation)으로 구한 기준 블록을 감하는 예측 동작을 수행하며, 상기 매크로 블록과 기준 블록의 이미지 차를 그 기준 블록에 더하는 갱신(update) 동작을 수행한다.
상기 EL 인코더(100)는, 입력되는 영상 프레임 시퀀스를 이미지 차값을 갖게 될 프레임과 상기 이미지 차값이 더해질 프레임, 예를 들어 홀수(odd) 프레임과 짝수(even) 프레임으로 분리하여, 상기 예측 동작과 갱신 동작을 여러 레벨에 걸쳐, 예를 들어 하나의 GOP(Group Of Pictures)에 대해 L 프레임(갱신 동작에 의해 생성되는 프레임)의 수가 1개가 될 때가지 수행하는데, 도 4는 그 중 한 레벨에서의 예측 동작과 갱신 동작에 관련된 구성을 도시한 것이다.
도 4의 구성은, 상기 BL 인코더(150)에서 인코딩 된 소화면 시퀀스의 베이스 레이어 스트림에서 각 매크로 블록의 분할 정보, 모드 정보, 및 모션 정보와 같은 인코딩 정보를 추출하고, 인코딩 된 베이스 레이어 스트림을 디코딩 하는 기능을 갖는 베이스 레이어(BL) 디코더(105), 모션 추정(motion estimation)을 통해 레지듀얼(residual) 데이터를 갖게 될 프레임, 예를 들어 홀수 프레임에 대해서, 그 프레임 내의 각 매크로 블록에 대한 기준 블록을 전 또는 후에 인접한 짝수 프레임 내에서(inter-frame mode), 자신의 프레임 내에서(intra mode), 또는 베이스 레이어의 동시간의 프레임 내에서(inter-layer prediction mode) 찾고, 그 기준 블록과 의 이미지 차(각 대응 화소의 차값) 및/또는 모션 벡터를 산출하는 예측 동작을 수행하는 추정/예측기(101), 및 상기 매크로 블록에 대한 기준 블록을 포함하는 인접한 프레임, 예를 들어 짝수 프레임에 대해서, 상기 매크로 블록에 대해 산출한 이미지 차를 정규화(normalize)하여 해당 기준 블록에 더하는 갱신 동작을 수행하는 갱신기(102)를 포함하고 있다.
상기 추정/예측기(101)가 수행하는 동작을 'P' 동작이라 하며, 'P' 동작에 의해 생성되는 프레임은 'H' 프레임으로, 이 'H' 프레임에 있는 레지듀얼 데이터는 영상 신호의 고주파 성분을 반영한다. 또한, 상기 갱신기(102)가 수행하는 동작을 'U' 동작이라 하며, 'U' 동작에 의해 생성되는 프레임은 'L' 프레임으로, 'L' 프레임은 저역 서브밴드 픽쳐를 갖는다.
도 4의 추정/예측기(101)와 갱신기(102)는 프레임 단위가 아니고 하나의 프레임이 분할된 복수 개의 슬라이스(slice)에 대해 병렬적으로 동시에 수행할 수도 있다. 이하의 실시예에서 사용되는 '프레임'의 용어는 '슬라이스'로 대체하여도 기술의 등가성이 유지되는 경우에는 '슬라이스'의 의미를 당연히 포함하는 것으로 해석되어야 한다.
상기 추정/예측기(101)는, 입력되는 영상 프레임 또는 전 레벨에서 얻어진 'L' 프레임의 홀수 프레임 각각에 대해서, 기 정해진 크기의 매크로 블록(macro-block)으로 분할하고, 각 분할된 매크로 블록과 이미지가 가장 유사한 블록을 동일한 시간적 분해 레벨에 있는 시간적으로(temporally) 인접한 짝수 프레임 또는 현재 프레임 내에서 찾아서 이에 근거한 매크로 블록의 예측 영상을 만들고 모션 벡 터를 구하는 과정을 수행한다. 또는, 상기 추정/예측기(101)는, 동시간의 베이스 레이어의 프레임을 이용하여, 입력되는 영상 프레임 또는 전 레벨에서 얻어진 'L' 프레임의 홀수 프레임을 인코딩 할 수도 있는데, 이에 대해서는 아래에서 설명한다.
가장 높은 상관 관계를 갖는 블록이 대상 블록과 이미지 차가 가장 적은 블록이다. 이미지 차의 크기는, 예를 들어 pixel-to-pixel의 차이값 총합 또는 그 평균값 등으로 정해지며, 그 크기가 소정 문턱값 이하가 되는 블록들 중에서 크기가 가장 작은 매크로 블록 또는 블록들을 기준(reference) 블록(들)이라 한다.
상기 추정/예측기(101)는, 기준 블록이 인접한 프레임 또는 현재 프레임 내에서 찾아진 경우에는 현재 매크로 블록으로부터 상기 기준 블록으로의 모션 벡터 값을 구하여 상기 모션 코딩부(120)로 전송하고, 상기 기준 블록(한 프레임에만 있는 경우)의 각 화소값 또는 기준 블록들(복수의 프레임에 있는 경우)의 각 평균 화소 값과, 현재 매크로 블록 내의 각 화소값의 차이를 산출하여 해당 매크로 블록에 인코딩 하고, 선택된 기준 블록이 포함된 프레임과 현재 매크로 블록이 포함된 프레임의 상대 위치 및/또는 기준 블록의 모드, 예를 들어, Skip, DirInv, Bid, Fwd, Bwd, intra 등의 모드 중 하나의 값을 해당 매크로 블록의 헤더 영역에 삽입한다.
상기 추정/예측기(101)는, 프레임 내의 모든 매크로 블록에 대해 상기의 과정을 수행하여, 해당 프레임에 대한 'H' 프레임을 완성한다. 또한, 상기 추정/예측기(101)는, 입력되는 영상 프레임 또는 전 레벨에서 얻어진 'L' 프레임의 모든 홀수 프레임에 대해서, 각 프레임에 대한 'H' 프레임을 완성한다.
상기 갱신기(102)는, 앞서 설명한 바와 같이, 상기 추정/예측기(101)에 의해 생성된 'H' 프레임 내의 각 매크로 블록 내의 이미지 차를 해당 기준 블록이 있는 'L' 프레임(입력되는 영상 프레임 또는 전 레벨에서 얻어진 'L' 프레임의 짝수 프레임)에 더하는 동작을 수행한다.
4배의 해상도 차이를 갖는 베이스 레이어와 인핸스드 레이어 사이에 레이어 간 예측 방법을 적용하는 본 발명에 따른 실시예, 예를 들어 QCIF 해상도의 베이스 레이어를 이용하여 4CIF 해상도의 인핸스드 레이어에 대한 예측 영상을 생성하는 방법을 상세히 설명한다.
먼저, QCIF 해상도의 베이스 레이어의 프레임 내의 매크로 블록의 분할 정보 및/또는 모션 정보를 이용하여 4CIF 해상도의 인핸스드 레이어의 매크로 블록을 분할하고 예측 영상을 생성하는 방법에 대해 도 5를 참조로 설명한다.
상기 추정/예측기(101)는, 인핸스드 레이어의 현재 매크로 블록에 대응되는 베이스 레이어의 대응 블록(여기서 대응 블록은 인핸스드 레이어의 현재 매크로 블록과 동시간의 프레임 내에 위치하는 베이스 레이어의 블록 중에서 베이스 레이어와 인핸스드 레이어의 화면의 크기의 비율에 따라 확대했을 때 현재 매크로 블록을 커버하는 영역을 갖는 블록을 의미한다)에 대한 분할 정보와 인핸스드 레이어와 베이스 레이어의 해상도의 비율(4배)을 근거로 현재 매크로 블록을 분할하고, 베이스 레이어의 분할된 블록에 관한 모션 정보, 예를 들어 기준 블록을 포함하는 프레임을 가리키는 reference index와 모션 벡터를 기초로, 상기 베이스 레이어의 대응 블록의 분할 정보에 따라 분할된 인핸스드 레이어의 블록들을 인코딩 한다. 여기서, 인핸스드 레이어와 베이스 레이어의 해상도(화면의 크기)의 비가 4이므로, 인핸스드 레이어의 16개의 16x16 매크로 블록이 베이스 레이어의 16x16의 대응 블록의 분할 정보와 모션 정보를 기초로 인코딩 될 수 있다.
베이스 레이어의 4x4 블록은 인핸스드 레이어의 16x16의 매크로 블록 하나에 대응된다. 하지만, 베이스 레이어의 4x8 또는 8x4 블록은, 4배에 해당하는 16x32 또는 32x16이 매크로 블록의 최대 크기인 16x16보다 커지게 되어 하나의 매크로 블록에 대응될 수 없게 되므로, 인접하는 매크로 블록을 포함하여 인핸스드 레이어의 16x16의 매크로 블록 2개에 대응된다. 비슷하게, 베이스 레이어의 8x8 블록은 인핸스드 레이어의 16x16의 매크로 블록 4개에, 베이스 레이어의 8x16 또는 16x8 블록은 인핸스드 레이어의 16x16의 매크로 블록 8개에, 베이스 레이어의 16x16 블록은 인핸스드 레이어의 16x16의 매크로 블록 16개에 대응된다.
이때, 상기 추정/예측기(101)는, 동일한 베이스 레이어의 블록에 대응되는 인핸스드 레이어의 다수의 매크로 블록을, 대응되는 베이스 레이어의 블록에 대한 모션 정보, 즉 reference index와 모션 벡터를 공통으로 사용하여 인코딩 한다.
예를 들어, 인핸스드 레이어의 다수의 매크로 블록에 공통으로 대응되는 베이스 레이어의 블록이 direct mode로 인코딩 된 경우, 인핸스드 레이어의 상기 다수의 매크로 블록은 16x16 블록으로 인코딩 된다. 또한, 인핸스드 레이어의 다수의 매크로 블록이 공통으로 대응되는 베이스 레이어의 블록이 내부 모드로 인코딩 된 경우, 인핸스드 레이어의 상기 다수의 매크로 블록은 상기 공통으로 대응되는 베이스 레이어의 블록을 기준 블록으로 하여 인트라 베이스 모드(intra_BASE mode)로 인코딩 된다.
그리고, 상기 추정/예측기(101)는, 인핸스드 레이어의 매크로 블록이 베이스 레이어의 블록에 대한 분할 정보와 모션 정보에 따라 분할되고 인코딩 되었음을 가리키는 베이스 레이어 모드 플래그(base_layer_mode_flag)를, 예를 들어 '1'로 설정하여 상기 매크로 블록의 헤더 영역에 기록한다.
다음, QCIF 해상도의 베이스 레이어의 모션 벡터를 이용하여 그와 동시간의 4CIF 해상도의 인핸스드 레이어의 모션 벡터를 인코딩 하는 방법에 대해 설명한다.
상기 추정/예측기(101)는, 인핸스드 레이어의 프레임 내의 임의의 매크로 블록에 대한 모션 추정 동작을 통해 기준 블록으로의 모션 벡터(mv2)를 구하고, 베이스 레이어의 프레임 내에서 상기 매크로 블록과 대응되는 영역을 커버하는 매크로 블록의 모션 벡터(mvBL2)를 상기 인핸스드 레이어와 베이스 레이어의 해상도 비인 4배 크기 조절한 모션 벡터(mvScaledBL2)를 구한다. 이후, 상기 두 벡터(mv2와 mvScaledBL2) 각각, 및 상기 두 벡터(mv2와 mvScaledBL2) 사이의 차에 대해, 상기 두 벡터(mv2와 mvScaledBL2) 각각에 의해 생성된 예측 영상과 실제 영상과의 차이인 레지듀얼 에러 및 인코딩 될 때 사용될 총 비트 수 등을 고려하여 산출된 비용에 따라, 다음의 3가지 방법으로 세분된다.
즉, i) 상기 mv2의 비용이 다른 나머지 방법들에 비해 적은 경우, 상기 인핸스드 레이어에서 구한 모션 벡터를 그대로 이용할 수 있도록 인코딩 한다.
ii) 상기 mvScaledBL2의 비용이 다른 나머지 방법들에 비해 적은 경우, 상기 추정/예측기(101)는, 상기 인핸스드 레이어의 매크로 블록에 대한 모션 벡터가 베이스 레이어의 대응 블록의 스케일링 된 모션 벡터와 같음을 알리는 정보를 해당 매크로 블록의 헤더에 기록한다. 즉, 별도의 모션 벡터 정보를 제공하지 않고, 단지 레이어 1의 대응 블록의 스케일링 된 모션 벡터와 같은 나타내는 플래그(base_layer_mode_flag )를, 예를 들어 '1'로 설정한다.
iii) 상기 mv2와 mvScaledBL2의 두 벡터 사이의 차에 대한 비용이 다른 나머지 방법들에 비해 적은 경우, 다시 말해 인핸스드 레이어 해상도가 베이스 레이어의 해상도의 4배이므로 상기 mv2와 mvScaledBL2의 두 벡터의 차가 x, y(수평, 수직) 각 방향으로 3 픽셀 이하인 경우, 두 벡터의 차의 x, y 각 성분에 대해 각각 [-3, 3], 즉 3, -2, -1, 0, +1, +2, +3 중 어느 한 값을 갖게 되는 벡터 미세 정보를 기록하고, 해당 매크로 블록의 헤더에 미세 플래그(refinement_flag)를, 예를 들어 '1'로 설정한다. 여기서, x, y 각 성분은, [-3, 3], 즉 7개의 값 중 어느 한 값을 갖게 되므로, 각각 3bits로 표현될 수 있고, 상기 미세 플래그도 1bit로 표현될 수 있다. 따라서, 1Byte보다 작은 7bits만으로 모션 벡터를 표현할 수 있게 된다.
다음, 텍스쳐 예측 모드를 설명한다. 상기 추정/예측기(101)는, 상기 BL 디코더(105)에서 추출되는 베이스 레이어 내의 각 매크로 블록의 모드 정보를 기초로, 현재 예측 영상을 만들고자 하는 인핸스드 레이어 내의 매크로 블록과 동시간이고 프레임 내에서의 상대적 위치가 동일한 베이스 레이어의 대응 영역(가로 방향과 세로 방향의 픽셀 수가 상기 매크로 블록의 1/4인 영역)이 내부 모드로 코딩 되 어 있는지 확인한다. 그리고, 상기 추정/예측기(101)는, 상기 대응 영역이 내부 모드로 코딩 되어 있으면, 상기 대응 영역을 내부 모드의 기준이 되는 다른 영역의 화소값을 근거로 원래의 블록 이미지로 복원하고, 상기 복원된 대응 영역을 인핸스드 레이어와 베이스 레이어의 해상도 비에 해당하는 4배 업샘플링 하여 상기 매크로 블록의 크기로 확대한 후, 상기 확대된 대응 영역과 상기 매크로 블록의 각 화소의 차이값을 상기 인핸스드 레이어 내의 매크로 블록에 대한 예측 영상으로 인코딩 한다. 이후, 상기 추정/예측기(101)는, 상기 매크로 블록이 베이스 레이어 내에 내부 모드로 인코딩 된 대응 영역을 기준으로 인코딩 되었음을 가리키는 인트라 베이스 플래그(intra_base_flag)를, 예를 들어 '1'로 설정하여 상기 매크로 블록의 헤더 영역에 기록한다.
다음, 상기 레지듀얼 예측 모드를 설명한다. 상기 추정/예측기(101)는, 먼저 주 픽쳐 시퀀스의 임의의 프레임 내의 매크로 블록에 대해 예측 동작을 통해 인핸스드 레이어의 레지듀얼 블록(레지듀얼 데이터를 갖도록 인코딩 된 블록)을 구하고, 상기 BL 인코더(150)에 의해 인코딩 된 베이스 레이어의 비트 스트림에서 상기 매크로 블록과 동시간 및 프레임 내에서의 상대적 위치가 동일한 대응 레지듀얼 영역을 찾아, 이를 인핸스드 레이어와 베이스 레이어의 해상도 비에 해당하는 4배 업샘플링 하여 상기 매크로 블록의 크기로 확대한 후, 상기 확대된 베이스 레이어의 대응 레지듀얼 영역의 화소값을 상기 인핸스드 레이어의 레지듀얼 블록의 화소값에서 감하여 상기 매크로 블록에 인코딩 한다. 이후, 상기 추정/예측기(101)는, 상기 매크로 블록이 레지듀얼 데이터의 차이값으로 인코딩 되었음을 가리키는 레지듀 얼 예측 플래그(residual_prediction_flag)를, 예를 들어 '1'로 설정하여 상기 매크로 블록의 헤더 영역에 기록한다.
지금까지 설명한 방법에 의해 인코딩 된 데이터 스트림은 유선 또는 무선으로 디코딩 장치에 전송되거나 기록 매체를 매개로 하여 전달되며, 디코딩 장치는 이후 설명하는 방법에 따라 원래의 영상 신호를 복원하게 된다.
도 6은 도 3의 장치에 의해 인코딩 된 데이터 스트림을 디코딩 하는 장치의 블록도이다. 도 6의 디코딩 장치는, 수신되는 데이터 스트림에서 압축된 모션 벡터 스트림과 압축된 매크로 블록 정보 스트림을 분리하는 디먹서(200), 압축된 매크로 블록 정보 스트림을 원래의 비압축 상태로 복원하는 텍스처 디코딩부(210), 압축된 모션 벡터 스트림을 원래의 비압축 상태로 복원하는 모션 디코딩부(220), 압축 해제된 매크로 블록 정보 스트림과 모션 벡터 스트림을 예를 들어 MCTF 방식에 따라 원래의 영상 신호로 역변환하는 인핸스드 레이어(EL) 디코더(230), 베이스 레이어 스트림을 정해진 방식, 예를 들어 MPEG4 또는 H.264 방식에 의해 디코딩 하는 베이스 레이어 디코더(240)를 포함하여 구성된다. 상기 EL 디코더(230)에 제공하여, 상기 EL 디코더(230)는 상기 베이스 레이어 스트림에서 직접 추출하거나 또는 상기 BL 디코더(240)에 문의하여, 각 매크로 블록의 분할 정보, 모드 정보, 및 모션 정보와 같은 베이스 레이어의 인코딩 정보와 베이스 레이어의 복원된 데이터를 이용한다.
상기 EL 디코더(230)는, 입력되는 스트림으로부터 원래의 프레임 시퀀스로 복원하는데, 도 7은 상기 EL 디코더(230)의 주요 구성을 상세히 도시한 것으로, MCTF 방식에 대한 예이다.
도 7은 시간적 분해 레벨 N의 'H' 프레임 시퀀스와 'L' 프레임 시퀀스를 시간적 분해 레벨 N-1의 'L' 프레임 시퀀스로 시간적 합성(Temporal Composition)하는 구성이다. 도 7의 구성은, 입력되는 'H' 프레임의 각 화소의 차값을 입력되는 'L' 프레임에서 선택적으로 감하는 역갱신기(231), 'H' 프레임의 이미지 차가 감해진 'L' 프레임과 그 'H' 프레임을 사용하여 원래의 이미지를 갖는 'L' 프레임을 복원하는 역예측기(232), 입력되는 모션 벡터 스트림을 디코딩 하여 'H' 프레임 내의 각 블록의 모션 벡터 정보를 각 단(stage)의 역갱신기(231)와 역예측기(232)에 제공하는 모션 벡터 디코더(233) 및 상기 역예측기(232)에 의해 완성된 'L' 프레임을 상기 역갱신기(231)의 출력 'L' 프레임 사이에 삽입하여 정상적인 순서의 'L' 프레임 시퀀스로 만드는 배열기(234)를 포함한다.
상기 배열기(234)에 의해 출력되는 'L' 프레임은 레벨 N-1의 'L' 프레임 시퀀스(701)가 되고, 이는 입력되는 N-1 레벨의 'H' 프레임 시퀀스(702)와 함께 다음 단의 역갱신기와 역예측기에 의해 'L' 프레임 시퀀스로 다시 복원되며, 이 과정이 인코딩 할 때 수행된 레벨만큼 수행되어 원래의 영상 프레임 시퀀스로 복원된다.
수신되는 레벨 N의 'H' 프레임과 레벨 N+1에서 생성된 레벨 N의 'L' 프레임이 레벨 N-1의 'L' 프레임으로 복원되는 레벨 N에서의 복원(시간적 합성) 과정을 설명한다.
상기 역갱신기(231)는, 임의의 'L' 프레임(레벨 N)에 대해, 상기 모션 벡터 디코더(233)로부터 제공되는 모션 벡터를 참조하여, 인코딩 과정에서 상기 임의의 'L' 프레임(레벨 N)으로 갱신되는 원래의 'L' 프레임(레벨 N-1) 내의 블록을 기준 블록으로 하여 이미지 차를 구한 모든 'H' 프레임(레벨 N)을 파악한 다음, 상기 'H' 프레임 내의 매크로 블록의 이미지 차값을 상기 임의의 'L' 프레임 내의 해당 블록의 화소값에서 감하는 동작을 수행한다.
현재 'L' 프레임(레벨 N) 내의 블록 중 인코딩 과정에서 'H' 프레임 내의 매크로 블록의 이미지 차값으로 갱신된 블록에 대해 상기와 같은 역갱신 동작을 수행하여 레벨 N-1의 'L' 프레임으로 복원한다.
상기 역예측기(232)는, 임의의 'H' 프레임 내의 매크로 블록에 대해, 상기 모션 벡터 디코더(233)로부터 제공되는 모션 벡터를 참조하여, 'L' 프레임(상기 역갱신기(231)에 의해 역갱신되어 출력되는 'L' 프레임)에 있는 기준 블록을 파악한 다음, 상기 매크로 블록의 화소의 차값에 기준 블록의 화소값을 더함으로써 원래의 이미지를 복원한다.
또한, 상기 역예측기(232)는, 임의의 'H' 프레임 내의 매크로 블록이 레이어 간 예측 방법에 의해 베이스 레이어를 이용하여 인코딩 되어 있는 경우, 텍스쳐 예측 방법, 레지듀얼 예측 방법, 또는 모션 예측 방법에 상응하는 디코딩 방법으로 상기 매크로 블록에 대한 원래의 이미지를 복원하는데, 이에 대해서는 아래에서 설명한다.
현재 'H' 프레임 내의 모든 매크로 블록이 상기와 같은 동작을 통해 원래의 이미지로 복원되고, 이들이 모두 조합되어 'L' 프레임으로 복원되면, 이 'L' 프레임은 상기 배열기(234)를 통해 상기 역갱신기(231)에서 복원된 'L' 프레임과 교대로 배열되어 다음 단으로 출력된다.
임의의 'H' 프레임 내의 매크로 블록이 베이스 레이어를 이용하여 레이어 간 예측 방법에 의해 인코딩 되어 있는 경우, 이를 디코딩 하는 방법에 대해서 설명한다.
상기 역예측기(232)는, 상기 베이스 레이어 스트림에서 추출되거나 상기 BL 디코더(240)로부터 제공되는 'base_layer_id_plus1'를 기초로, 인핸스드 레이어의 해상도와 베이스 레이어의 해상도의 비를 확인하는데, 'current_layer_id'와 'base_layer_id_plus1 1'의 차가 2이면 인핸스드 레이어와 베이스 레이어의 해상도 차이가 4배가 된다. 아래에는 인핸스드 레이어와 베이스 레이어의 해상도 차이가 4배인 경우에 대해서 설명한다.
상기 역예측기(232)는, 임의의 'H' 프레임 내의 매크로 블록의 헤더에 'base_layer_mode_flag'가, 예를 들어 '1'로 설정되어 있는 경우, 상기 매크로 블록과 동시간이고 프레임 내에서의 위치가 동일한 베이스 레이어의 대응 블록의 모션 정보를 기초로, 상기 매크로 블록에 대한 원래의 이미지를 복원한다.
상기 대응 블록이 inter-frame mode로 인코딩 되어 있는 경우, 상기 대응 블록에 대한 모션 정보에는 기준 블록을 포함하는 프레임을 가리키는 reference index와 모션 벡터가 포함되므로, 상기 역예측기(232)는, 상기 reference index와 상기 모션 벡터를 x, y 각 방향으로 4배 확대한 값을 기초로 인핸스드 레이어의 'L' 프레임에 있는 기준 블록을 파악하고, 상기 매크로 블록의 화소의 차값에 기준 블록의 화소값을 더함으로써 원래의 이미지를 복원한다. 상기 대응 블록이 direct mode로 인코딩 되어 있는 경우, 인핸스드 레이어의 이전 'H' 프레임 내의 동일 위치에 있는 매크로 블록의 모션 벡터 또는 주변에 있는 다른 매크로 블록에 대한 모션 벡터를 이용하여 구한 모션 벡터를 기초로 기준 블록을 찾아 원래의 이미지를 복원한다. 또는 상기 대응 블록이 direct mode로 인코딩 되어 있는 경우, 베이스 레이어의 이전 'H' 프레임 내의 동일 위치에 있는 매크로 블록의 모션 벡터 또는 상기 대응 블록의 주변에 있는 다른 블록에 대한 모션 벡터를 이용하여 구한 모션 벡터를 x, y 각 방향으로 4배 확대하여 이용할 수도 있다.
또한, 상기 대응 블록이 내부 모드로 인코딩 되어 있는 경우, 상기 역예측기(232)는, 상기 매크로 블록과 프레임 내에서의 상대적 위치가 동일한, 상기 대응 블록 내의 대응 영역(가로 방향과 세로 방향의 픽셀 수가 상기 매크로 블록의 1/4인 영역)을 내부 모드의 기준이 되는 다른 영역의 화소값을 근거로 원래의 이미지로 복원하고, 상기 복원된 대응 영역을 4배 업샘플링 하여 상기 매크로 블록의 크기로 확대한 후, 상기 확대된 대응 영역과 상기 매크로 블록의 각 화소의 차이값을 더함으로써, 상기 매크로 블록의 원래의 이미지를 복원한다.
한편, 상기 역예측기(232)는, 임의의 'H' 프레임 내의 매크로 블록의 헤더에 'refinement_flag'가, 예를 들어 '1'로 설정되어 있는 경우, 상기 매크로 블록과 동시간이고 프레임 내에서의 위치가 동일한 베이스 레이어의 대응 블록의 모션 벡 터를 x, y 각 방향으로 4배 확대하고, 여기에 [-3, 3] 범위의 벡터 미세 정보를 x, y 각 성분에 대해 더하여, 상기 매크로 블록에 대한 모션 벡터를 구한 후, 이를 기초로 인핸스드 레이어의 'L' 프레임에 있는 기준 블록을 파악하고, 상기 매크로 블록의 화소의 차값에 기준 블록의 화소값을 더함으로써 원래의 이미지를 복원한다.
또한, 상기 역예측기(232)는, 임의의 'H' 프레임 내의 매크로 블록의 헤더에 motion_prediction_flag가, 예를 들어 '1'로 설정되어 있는 경우, 상기 매크로 블록과 동시간이고 프레임 내에서의 위치가 동일한 베이스 레이어의 대응 블록의 모션 벡터를 x, y 각 방향으로 4배 확대하고, 여기에 상기 매크로 블록에 대해 인코딩 된 모션 벡터의 차이값을 더하여, 상기 매크로 블록에 대한 모션 벡터를 구한 후, 이를 기초로 인핸스드 레이어의 'L' 프레임에 있는 기준 블록을 파악하고, 상기 매크로 블록의 화소의 차값에 기준 블록의 화소값을 더함으로써 원래의 이미지를 복원한다.
상기 역예측기(232)는, 임의의 'H' 프레임 내의 매크로 블록의 헤더에 intra_BASE_flag가, 예를 들어 '1'로 설정되어 있는 경우, 상기 매크로 블록과 프레임 내에서의 상대적 위치가 동일한, 내부 모드로 인코딩 되어 있는 베이스 레이어의 대응 영역(가로 방향과 세로 방향의 픽셀 수가 상기 매크로 블록의 1/4인 영역)을 내부 모드의 기준이 되는 다른 영역의 화소값을 근거로 원래의 이미지로 복원하고, 상기 복원된 대응 영역을 4배 업샘플링 하여 상기 매크로 블록의 크기로 확대한 후, 상기 확대된 대응 영역과 상기 매크로 블록의 각 화소의 차이값을 더함으로써, 상기 매크로 블록의 원래의 이미지를 복원한다.
상기 역예측기(232)는, 임의의 'H' 프레임 내의 매크로 블록의 헤더에 residual_prediction_flag가, 예를 들어 '1'로 설정되어 있는 경우, 상기 매크로 블록이 레지듀얼 데이터의 차이값으로 인코딩 되어 있다고 판단하고, 상기 매크로 블록과 프레임 내에서의 상대적 위치가 동일한 베이스 레이어의 대응 레지듀얼 영역(가로 방향과 세로 방향의 픽셀 수가 상기 매크로 블록의 1/4인 영역으로 레지듀얼 데이터를 갖도록 인코딩 된 영역)을 4배 업샘플링 하여 상기 매크로 블록의 크기로 확대한 후, 상기 확대된 대응 레지듀얼 영역의 화소값과 레지듀얼 데이터의 차이값으로 인코딩 된 상기 매크로 블록의 화소값을 더함으로써, 상기 매크로 블록에 대한 레지듀얼 블록(이미지 차값, 즉 레지듀얼 데이터를 갖는 블록)을 구한다. 이후, 역예측기(232)는, 상기 모션 벡터 디코더(233)로부터 제공되는 모션 벡터를 참조하여, 'L' 프레임에 있는 기준 블록을 파악한 다음, 이미지 차값을 갖는 상기 매크로 블록의 화소값에 기준 블록의 화소값을 더함으로써 원래의 이미지를 복원한다.
전술한 방법에 따라, 인코딩 된 데이터 스트림이 완전한 영상 프레임 시퀀스로 복구된다. 특히, MCTF 방식을 예로 들어 설명한 인코딩 과정에서 예측 동작과 갱신 동작을 한 GOP에 대해서 N회 수행한 경우, 상기 MCTF 디코딩 과정에서 역갱신 동작과 역예측 동작을 N회 수행하면 원래 영상 신호의 화질을 얻을 수 있고, 그 보다 작은 횟수로 수행하면 화질이 다소 저하되지만 비트 레이트는 보다 낮은 영상 프레임 시퀀스를 얻을 수 있다. 따라서, 디코딩 장치는 자신의 성능에 맞는 정도로 상기 역갱신 동작과 역예측 동작을 수행하도록 설계된다.
전술한 디코딩 장치는 이동 통신 단말기 등에 실장되거나 또는 기록 매체를 재생하는 장치에 실장될 수 있다.
이상, 전술한 본 발명의 바람직한 실시예는 예시의 목적을 위해 개시된 것으로, 당업자라면 이하 첨부된 특허청구범위에 개시된 본 발명의 기술적 사상과 그 기술적 범위 내에서 또 다른 다양한 실시예들을 개량, 변경, 대체 또는 부가 등이 가능할 것이다.
따라서, 영상 신호를 스케일러블 하게 인코딩 할 때 4배의 해상도 차이를 갖는 레이어 사이에도 레이어 간 예측 방법을 적용함으로써, 코딩 효율을 향상시킬 수 있게 된다.

Claims (17)

  1. 베이스 레이어 및 인핸스드 레이어에 대응하여 스케일러블하게 인코딩된 비디오 신호를 수신하는 단계; -여기서, 상기 인핸스드 레이어는 영상 블록을 포함하고, 상기 베이스 레이어는 상기 영상 블록에 대응하는 기준 블록을 포함함-
    상기 기준 블록의 분할 정보와 모션 정보를 획득하는 단계;
    상기 기준 블록의 분할 정보로부터 상기 영상 블록의 분할 정보를 유도하는 단계;
    상기 기준 블록의 모션 정보로부터 상기 영상 블록의 모션 정보를 유도하는 단계; 및
    상기 영상 블록의 분할 정보 및 모션 정보를 이용하여 상기 영상 블록을 디코딩하는 단계
    를 포함하는 비디오 신호 디코딩 방법.
  2. 삭제
  3. 제 1 항에 있어서,
    상기 모션 정보는 레퍼런스 인덱스 및 모션 벡터를 포함하는 것을 특징으로 하는 비디오 신호 디코딩 방법.
  4. 제 3 항에 있어서,
    상기 영상 블록의 모션 벡터는 상기 기준 블록의 모션 벡터를 스케일링하여 획득되는 것을 특징으로 하는 비디오 신호 디코딩 방법.
  5. 제 4 항에 있어서,
    상기 디코딩 단계는,
    상기 영상 블록의 모션 벡터와 상기 기준 블록의 모션 벡터를 스케일링한 값과의 차이값을 이용하는 것을 특징으로 하는 비디오 신호 디코딩 방법.
  6. 제 5 항에 있어서,
    상기 차이값은 x, y 성분이 각각 3bit로 표현되어 인코딩된 것을 특징으로 하는 비디오 신호 디코딩 방법.
  7. 제 1 항에 있어서,
    상기 영상 블록의 분할 정보는 상기 기준 블록의 분할 정보에 기초하여 결정되며, 상기 분할 정보는 블록타입 정보, 블록크기 정보 및 블록 속성 정보 중 적어도 하나를 포함하는 것을 특징으로 하는 비디오 신호 디코딩 방법.
  8. 제 7 항에 있어서,
    상기 기준 블록이 4*4 블록인 경우, 상기 영상 블록은 16*16 블록인 것을 특징으로 하는 비디오 신호 디코딩 방법.
  9. 제 7 항에 있어서,
    상기 기준 블록이 인터 모드로 인코딩된 16*16 블록인 경우, 상기 영상 블록은 인트라 베이스 모드로 인코딩되는 것을 특징으로 하는 비디오 신호 디코딩 방법.
  10. 삭제
  11. 제 1 항에 있어서,
    상기 베이스 레이어는 상기 인핸스드 레이어의 공간 해상도와 동일하게 업샘플되는 것을 특징으로 하는 비디오 신호 디코딩 방법.
  12. 삭제
  13. 베이스 레이어 및 인핸스드 레이어에 대응하여 스케일러블하게 인코딩된 비디오 신호를 수신하는 디먹서; -여기서, 상기 인핸스드 레이어는 영상 블록을 포함하고, 상기 베이스 레이어는 상기 영상 블록에 대응하는 기준 블록을 포함함-
    상기 기준 블록의 분할 정보와 모션 정보를 획득하는 베이스 레이어 디코더; 및
    상기 기준 블록의 분할 정보로부터 상기 영상 블록의 분할 정보를 유도하고, 상기 기준 블록의 모션 정보로부터 상기 영상 블록의 모션 정보를 유도하고, 상기 영상 블록의 분할 정보 및 모션 정보를 이용하여 상기 영상 블록을 디코딩하는 인핸스드 레이어 디코더
    를 포함하는 비디오 신호 디코딩 장치.
  14. 제 13 항에 있어서,
    상기 모션 정보는 레퍼런스 인덱스 및 모션 벡터를 포함하는 것을 특징으로 하는 비디오 신호 디코딩 장치.
  15. 제 14 항에 있어서,
    상기 영상 블록의 모션 벡터는 상기 기준 블록의 모션 벡터를 스케일링하여 획득되는 것을 특징으로 하는 비디오 신호 디코딩 장치.
  16. 제 15 항에 있어서,
    상기 영상 블록의 모션 벡터와 상기 기준 블록의 모션 벡터를 스케일링한 값과의 차이값을 이용하는 것을 특징으로 하는 비디오 신호 디코딩 장치.
  17. 제 16 항에 있어서,
    상기 차이값은 x, y 성분이 각각 3bit로 표현되어 인코딩된 것을 특징으로 하는 비디오 신호 디코딩 장치.
KR1020050059778A 2004-12-06 2005-07-04 영상 신호의 스케일러블 인코딩 및 디코딩 방법 KR100888963B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US11/293,132 US20060133503A1 (en) 2004-12-06 2005-12-05 Method for scalably encoding and decoding video signal
US12/423,309 US20090190844A1 (en) 2004-12-06 2009-04-14 Method for scalably encoding and decoding video signal

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US63297404P 2004-12-06 2004-12-06
US60/632,974 2004-12-06

Publications (2)

Publication Number Publication Date
KR20060063614A KR20060063614A (ko) 2006-06-12
KR100888963B1 true KR100888963B1 (ko) 2009-03-17

Family

ID=37159583

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020050059778A KR100888963B1 (ko) 2004-12-06 2005-07-04 영상 신호의 스케일러블 인코딩 및 디코딩 방법

Country Status (2)

Country Link
US (2) US20060133503A1 (ko)
KR (1) KR100888963B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014073877A1 (ko) * 2012-11-07 2014-05-15 엘지전자 주식회사 다시점 비디오 신호의 처리 방법 및 이에 대한 장치

Families Citing this family (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8442108B2 (en) * 2004-07-12 2013-05-14 Microsoft Corporation Adaptive updates in motion-compensated temporal filtering
US8340177B2 (en) * 2004-07-12 2012-12-25 Microsoft Corporation Embedded base layer codec for 3D sub-band coding
US8374238B2 (en) * 2004-07-13 2013-02-12 Microsoft Corporation Spatial scalability in 3D sub-band decoding of SDMCTF-encoded video
DE102005016827A1 (de) * 2005-04-12 2006-10-19 Siemens Ag Adaptive Interpolation bei der Bild- oder Videokodierung
KR100731884B1 (ko) * 2005-10-28 2007-06-25 에스케이 텔레콤주식회사 복수의 프레임을 참조하는 시간적 스케일러블 인코딩 및디코딩 방법과 그 장치
KR100681920B1 (ko) * 2005-10-28 2007-02-12 에스케이 텔레콤주식회사 복수의 프레임을 참조하는 공간적 스케일러블 인코딩 및디코딩 방법과 그 장치
US7956930B2 (en) * 2006-01-06 2011-06-07 Microsoft Corporation Resampling and picture resizing operations for multi-resolution video coding and decoding
KR100914713B1 (ko) * 2006-01-09 2009-08-31 엘지전자 주식회사 영상 신호의 레이어 간 예측 방법
US8340179B2 (en) * 2006-03-21 2012-12-25 Canon Kabushiki Kaisha Methods and devices for coding and decoding moving images, a telecommunication system comprising such a device and a program implementing such a method
KR100781524B1 (ko) * 2006-04-04 2007-12-03 삼성전자주식회사 확장 매크로블록 스킵 모드를 이용한 인코딩/디코딩 방법및 장치
FR2903554A1 (fr) * 2006-07-10 2008-01-11 France Telecom Dispositif et procede de codage et de decodage echelonnables de flux de donnees d'images, signal et programme d'ordinateur correspondants.
US20080095235A1 (en) * 2006-10-20 2008-04-24 Motorola, Inc. Method and apparatus for intra-frame spatial scalable video coding
WO2008071036A1 (en) * 2006-12-14 2008-06-19 Thomson Licensing Method and apparatus for encoding and/or decoding bit depth scalable video data using adaptive enhancement layer prediction
US8428129B2 (en) * 2006-12-14 2013-04-23 Thomson Licensing Method and apparatus for encoding and/or decoding video data using enhancement layer residual prediction for bit depth scalability
KR100935528B1 (ko) * 2007-10-23 2010-01-06 한국전자통신연구원 주변 블록의 정보를 이용한 효율적인 영상 확대 방법 및이를 적용한 스케일러블 비디오 부호화/복호화 장치 및방법
EP2223530A2 (en) 2007-11-30 2010-09-01 Dolby Laboratories Licensing Corp. Temporal image prediction
US8953673B2 (en) * 2008-02-29 2015-02-10 Microsoft Corporation Scalable video coding and decoding with sample bit depth and chroma high-pass residual layers
US8711948B2 (en) 2008-03-21 2014-04-29 Microsoft Corporation Motion-compensated prediction of inter-layer residuals
US9571856B2 (en) 2008-08-25 2017-02-14 Microsoft Technology Licensing, Llc Conversion operations in scalable video encoding and decoding
US8213503B2 (en) 2008-09-05 2012-07-03 Microsoft Corporation Skip modes for inter-layer residual video coding and decoding
KR101233627B1 (ko) * 2008-12-23 2013-02-14 한국전자통신연구원 스케일러블 부호화 장치 및 방법
CN102308579B (zh) 2009-02-03 2017-06-06 汤姆森特许公司 位深可分级中使用平滑参考帧的运动补偿的方法和设备
JP5504336B2 (ja) * 2009-05-05 2014-05-28 テレフオンアクチーボラゲット エル エム エリクソン（パブル） スケーラブルビデオ符号化方法、符号器及びコンピュータプログラム
HUE051313T2 (hu) 2009-10-01 2021-03-01 Sk Telecom Co Ltd Eljárás és készülék képek változtatható méretû makroblokkok használatával történõ kódolására/dekódolására
EP2582144A4 (en) * 2010-06-08 2015-06-24 Lg Electronics Inc IMAGE PROCESSING METHOD AND IMAGE DISPLAY DEVICE FOR CARRYING OUT THIS METHOD
EP3637777A1 (en) 2010-10-06 2020-04-15 NTT DoCoMo, Inc. Bi-predictive image decoding device and method
KR101294364B1 (ko) * 2011-01-31 2013-08-06 전자부품연구원 고화질 영상을 위한 무손실 영상 압축방법, 압축 해제방법 및 이를 적용한 전자기기
PL3481066T3 (pl) 2011-06-28 2021-11-22 Lg Electronics Inc. Sposób wyprowadzania predyktora wektora ruchu
US9521418B2 (en) 2011-07-22 2016-12-13 Qualcomm Incorporated Slice header three-dimensional video extension for slice header prediction
US11496760B2 (en) 2011-07-22 2022-11-08 Qualcomm Incorporated Slice header prediction for depth maps in three-dimensional video codecs
US9288505B2 (en) 2011-08-11 2016-03-15 Qualcomm Incorporated Three-dimensional video with asymmetric spatial resolution
US9485503B2 (en) * 2011-11-18 2016-11-01 Qualcomm Incorporated Inside view motion prediction among texture and depth view components
US20130188718A1 (en) * 2012-01-20 2013-07-25 Qualcomm Incorporated Motion prediction in svc without including a temporally neighboring block motion vector in a candidate list
EP2822276B1 (en) * 2012-02-29 2018-11-07 LG Electronics Inc. Inter-layer prediction method and apparatus using same
WO2013157820A1 (ko) * 2012-04-16 2013-10-24 삼성전자 주식회사 고속 에지 검출을 이용하는 비디오 부호화 방법 및 장치, 그 비디오 복호화 방법 및 장치
US20130287109A1 (en) * 2012-04-29 2013-10-31 Qualcomm Incorporated Inter-layer prediction through texture segmentation for video coding
KR102122620B1 (ko) * 2012-09-03 2020-06-12 소니 주식회사 화상 처리 장치 및 방법
CN108401157B (zh) 2012-10-01 2022-06-24 Ge视频压缩有限责任公司 可伸缩视频解码器、编码器及可伸缩视频解码、编码方法
US10375405B2 (en) * 2012-10-05 2019-08-06 Qualcomm Incorporated Motion field upsampling for scalable coding based on high efficiency video coding
KR101420718B1 (ko) * 2012-12-21 2014-07-23 성균관대학교산학협력단 스케일러블 비디오 부호화 및 복호화 방법, 그리고 이를 이용한 장치
US20140185671A1 (en) * 2012-12-27 2014-07-03 Electronics And Telecommunications Research Institute Video encoding and decoding method and apparatus using the same
US9143797B2 (en) 2013-05-29 2015-09-22 Blackberry Limited Lossy data compression with conditional reconstruction refinement
EP2816805B1 (en) * 2013-05-29 2020-12-30 BlackBerry Limited Lossy data compression with conditional reconstruction reinfinement
FR3008840A1 (fr) 2013-07-17 2015-01-23 Thomson Licensing Procede et dispositif de decodage d'un train scalable representatif d'une sequence d'images et procede et dispositif de codage correspondants
EP3301925A1 (en) * 2016-09-30 2018-04-04 Thomson Licensing Method for local inter-layer prediction intra based
JP6977422B2 (ja) * 2017-09-13 2021-12-08 株式会社Ｊｖｃケンウッド トランスコード装置、トランスコード方法及びトランスコードプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020090239A (ko) * 2001-02-26 2002-11-30 코닌클리케 필립스 일렉트로닉스 엔.브이. 미세한 그레뉼라 스케일러빌리티 비디오 코딩에서확장층에 대한 개선된 예측 구조들
KR20040047977A (ko) * 2001-10-26 2004-06-05 코닌클리케 필립스 일렉트로닉스 엔.브이. 공간적으로 스케일가능한 압축

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1939066B (zh) * 2004-04-02 2012-05-23 汤姆森许可贸易公司 用于复杂度可伸缩视频解码器的方法和设备
KR100679031B1 (ko) * 2004-12-03 2007-02-05 삼성전자주식회사 다 계층 기반의 비디오 인코딩 방법, 디코딩 방법 및 상기방법을 이용한 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020090239A (ko) * 2001-02-26 2002-11-30 코닌클리케 필립스 일렉트로닉스 엔.브이. 미세한 그레뉼라 스케일러빌리티 비디오 코딩에서확장층에 대한 개선된 예측 구조들
KR20040047977A (ko) * 2001-10-26 2004-06-05 코닌클리케 필립스 일렉트로닉스 엔.브이. 공간적으로 스케일가능한 압축

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014073877A1 (ko) * 2012-11-07 2014-05-15 엘지전자 주식회사 다시점 비디오 신호의 처리 방법 및 이에 대한 장치

Also Published As

Publication number Publication date
US20090190844A1 (en) 2009-07-30
US20060133503A1 (en) 2006-06-22
KR20060063614A (ko) 2006-06-12

Similar Documents

Publication Publication Date Title
KR100888963B1 (ko) 영상 신호의 스케일러블 인코딩 및 디코딩 방법
KR100888962B1 (ko) 영상 신호의 인코딩 및 디코딩 방법
KR101003435B1 (ko) 영상 블록을 디코딩 하는 방법
KR101053628B1 (ko) 영상 신호의 스케일러블 인코딩 및 디코딩 방법
US7627034B2 (en) Method for scalably encoding and decoding video signal
US20060133482A1 (en) Method for scalably encoding and decoding video signal
KR20060088461A (ko) 영상신호의 엔코딩/디코딩시에 영상블록을 위한 모션벡터를베이스 레이어 픽처의 모션벡터로부터 유도하는 방법 및장치
KR100880640B1 (ko) 스케일러블 비디오 신호 인코딩 및 디코딩 방법
KR100878824B1 (ko) 스케일러블 비디오 신호 인코딩 및 디코딩 방법
KR100883604B1 (ko) 스케일러블 비디오 신호 인코딩 및 디코딩 방법
KR20060063619A (ko) 영상 신호의 인코딩 및 디코딩 방법
KR20060069227A (ko) 영상신호의 엔코딩/디코딩시에 영상블록을 위한 모션벡터를베이스 레이어 픽처의 모션벡터로부터 유도하는 방법 및장치
KR20060101847A (ko) 영상 신호의 스케일러블 인코딩 및 디코딩 방법
EP1878247A1 (en) Method for scalably encoding and decoding video signal
KR20060059770A (ko) 영상신호의 엔코딩/디코딩시에 영상블록을 위한 모션벡터를베이스 레이어 픽처의 모션벡터로부터 유도하는 방법 및장치

Legal Events

Date Code Title Description
A201 Request for examination
A302 Request for accelerated examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20130226

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20140224

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20150224

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20160224

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20170214

Year of fee payment: 9

FPAY Annual fee payment

Payment date: 20190214

Year of fee payment: 11