KR100943636B1 - 매크로블록의 부호화 모드 고속 결정 방법 - Google Patents

매크로블록의 부호화 모드 고속 결정 방법 Download PDF

Info

Publication number
KR100943636B1
KR100943636B1 KR1020070137651A KR20070137651A KR100943636B1 KR 100943636 B1 KR100943636 B1 KR 100943636B1 KR 1020070137651 A KR1020070137651 A KR 1020070137651A KR 20070137651 A KR20070137651 A KR 20070137651A KR 100943636 B1 KR100943636 B1 KR 100943636B1
Authority
KR
South Korea
Prior art keywords
mode
rate
distortion cost
macroblock
candidate
Prior art date
Application number
KR1020070137651A
Other languages
English (en)
Other versions
KR20090069843A (ko
Inventor
김용관
김지웅
Original Assignee
호서대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 호서대학교 산학협력단 filed Critical 호서대학교 산학협력단
Priority to KR1020070137651A priority Critical patent/KR100943636B1/ko
Publication of KR20090069843A publication Critical patent/KR20090069843A/ko
Application granted granted Critical
Publication of KR100943636B1 publication Critical patent/KR100943636B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명은 H.264/AVC에서 매크로블록의 부호화 모드 고속 결정 방법에 관한 것으로, 매크로블록의 부호화를 위해 인터16×16모드의 율-왜곡 비용을 계산하고, 조기 스킵모드에 대한 율-왜곡 비용을 계산하여 계산된 인터16×16모드의 율-왜곡 비용이 조기 스킵모드의 율-왜곡 비용을 초과할 경우에 스킵모드를 최종적인 매크로블록 모드로 결정하는 단계와, 인터16×16모드의 율-왜곡 비용이 조기 스킵모드의 율-왜곡 비용을 초과하지 않을 경우에 인터모드들 중에 최소의 율-왜곡 비용을 가지는 모드를 후보모드로 결정하는 단계 및 인트라모드들 중 소수의 후보모드를 설정하여 율-왜곡 비용을 계산하고, 결정된 인터모드에 대한 후보모드의 율-왜곡 비용과 비교하여 최소 율-왜곡 비용을 가지는 모드를 최종적인 매크로블록 모드로 결정하는 단계를 포함한다.
H.264, 인터모드, 인트라모드

Description

매크로블록의 부호화 모드 고속 결정 방법{METHOD FOR FAST DETERMINING ENCODING MODE OF MACROBLOCK}
본 발명은 H.264/AVC에서 매크로블록의 부호화 모드 고속 결정 방법에 관한 것으로, 더욱 상세하게는 인트라 모드에서의 계산량을 감소시켜 복잡도를 줄이고, 고속으로 매크로블록의 모드를 선택할 수 있는 매크로블록의 부호화 모드 고속 결정 방법에 관한 것이다.
H.264/AVC 표준은 ITU-T의 VCEG(Video Coding Experts Group)의 ISO/IEC의 MPEG(Moving Picture Expert Group)의 공동 작업으로 제정되었다.
상기 H.264/AVC 비디오 부호화 방식에는 이전의 비디오 부호화 표준들(MPEG2, MPEG4 Part 2, H.263)에 없던 새로운 부호화 도구들이 추가되었으며, 이러한 도구들로 인해 H.264 부호화 표준이 MPEG2에 비해 약 40~50%, MPEG4에 비해 30~40% 성능이 향상되었다.
특히, 최근에 제안된 율-왜곡 최적화(RDO:Rate Distortion Optimization) 방식은 H.264의 압축 효율을 크게 향상시켰다.
반면, H.264/AVC에서는 복잡도의 증가를 고려하지 않고 압축 효율의 향상을 최우선의 목표로 삼았기 때문에 부호기 및 복호기의 계산량은 극단적으로 증가하여 높은 복잡도를 지니게 되었다.
새로이 추가된 부호화 기법들 중 다중 참조 프레임의 사용 및 1/4화소 단위의 움직임 추정과 가변 블록 크기의 다중 예측 모드에 대한 반복적인 율-왜곡 비용 (RDO_cost) 함수 계산은 부호기 및 복호기의 복잡도를 증가시키는 주된 요인이 된다.
H.264/AVC 부호기에서는 최적의 인터/인트라 예측 모드를 선택하기 위해 다양한 인터/인트라 모드의 조합에 대해 율-왜곡 비용을 계산해야 한다. 율-왜곡 비용 함수에 사용되는 발생 비트량을 계산하기 위해서는 각 모드에 대한 DCT/Hadamard 변환 및 양자화/역양자화, 역 DCT/Hadamard 변환과정, 그리고 엔트로피 부호화 과정을 거치게 되므로 부호기의 복잡도를 크게 증가시키게 된다.
이에 따라, 최근에 인트라 모드 결정의 고속화를 위하여 소벨 마스크(Soble mask)와 에지 히스토그램(edge histogram)을 이용하여 율-왜곡 계산을 필요로 하는 후보 모드의 수를 줄이는 방법이 제안되었다.
상기와 같은 방법에서는 특정 임계값을 이용하여 인트라 모드 결정 과정을 생략함으로써 인트라 모드 결정의 고속화를 이루거나 또는 다중 참조 프레임의 특성을 이용하여 참조 프레임의 결정을 고속화시키고 선택적 인트라 모드 결정법으로 전체 부호기의 계산량을 줄인다. 그러나, 특정 임계값을 이용할 경우, 부호화 성능을 유지하면서 계산량을 충분히 감소시키지는 못하는 단점이 있다.
그러므로, 본 발명은 상기와 같은 과제를 해결하기 위하여 인트라모드에서 율-왜곡 비용 계산과정을 줄이되, 부호화 성능을 유지하면서 매크로블록 모드 결정 과정의 복잡도를 감소시킬 수 있는 매크로블록의 부호화 모드 고속 결정 방법을 제공한다.
이에 따라, 본 발명에 따른 매크로블록의 부호화 모드 고속 결정 방법은,매크로블록의 부호화를 위해 인터16×16모드의 율-왜곡 비용을 계산하고, 조기 스킵모드에 대한 율-왜곡 비용을 계산하여 상기 계산된 인터16×16모드의 율-왜곡 비용이 상기 조기 스킵모드의 율-왜곡 비용을 초과할 경우에 상기 스킵모드를 최종적인 매크로블록 모드로 결정하는 제 1 단계; 상기 인터16×16모드의 율-왜곡 비용이 상기 조기 스킵모드의 율-왜곡 비용을 초과하지 않을 경우에 인터모드들 중에 최소의 율-왜곡 비용을 가지는 모드를 후보모드로 결정하는 제 2 단계; 및 인트라모드들 중 소수의 후보모드를 설정하여 율-왜곡 비용을 계산하고, 상기 결정된 인터모드에 대한 후보모드의 율-왜곡 비용과 비교하여 최소 율-왜곡 비용을 가지는 모드를 최종적인 매크로블록 모드로 결정하는 제 3 단계;를 포함하여 이루어진다.
그리고, 상기 제 2 단계는 상기 인터16×16모드의 율-왜곡 비용이 상기 조기 스킵모드의 율-왜곡 비용을 초과하지 않을 경우에 인터16×8모드 및 인터8×16모드 의 율-왜곡 비용을 계산하여 상기 인터16×16모드의 율-왜곡 비용과 비교한 결과, 상기 인터16×8모드와 인터8×16모드 각각의 율-왜곡 비용이 상기 인터16×16모드의 율-왜곡 비용 이상이면, 상기 인터16×16모드를 후보모드로 결정하는 단계; 및 상기 인터16×8모드와 인터8×16모드 각각의 율-왜곡 비용이 상기 인터16×16모드의 율-왜곡 비용 미만일 경우에 인터8×8모드의 율-왜곡 비용을 계산하여 상기 인터16×8모드와 인터8×16모드 각각의 율-왜곡 비용과 비교한 결과, 상기 인터8×8모드의 율-왜곡 비용이 상기 인터16×8모드와 인터8×16모드 각각의 율-왜곡 비용 이상이면, 상기 인터16×8모드와 인터8×16모드를 후보모드로 결정하는 단계;를 포함하는 것을 특징으로 한다.
또한, 상기 제 3 단계의 소수 후보모드 설정은 상기 인터8×8모드의 율-왜곡 비용이 상기 인터16×8모드와 인터8×16모드 각각의 율-왜곡 비용 미만일 경우에 상기 인터8×8모드 내 8×8 크기의 블록에 대해 서브 매크로블록모드를 설정하는 단계; 상기 설정된 서브 매크로블록모드가 8×8모드일 경우에 인트라4×4모드를 제외하여 인트라모드 중에서 후보모드를 결정하는 단계; 상기 설정된 서브 매크로블록모드가 4×4모드일 경우에 인트라16×16모드를 제외하여 인트라모드 중에서 후보모드를 결정하는 단계; 및 상기 설정된 서브 매크로블록모드가 8×4모드 또는 4×8모드일 경우에 정방형 4×4 마스크를 이용하여 인트라4×4모드에서 소수의 후보모드를 결정하는 단계;를 포함하는 것을 특징으로 한다.
본 발명에 따른 매크로블록의 부호화 모드 고속 결정 방법에 따르면, 인트라 4×4 모드에서 현재 블록의 화소 분포와 주변 블록의 화소 분포의 차이에 따라 블록 간의 유사성을 판별한다. 이에 따라, 인트라4×4 모드의 9가지 예측모드 중 소수의 후보모드를 결정하여 결정된 후보모드에 대해서만 율-왜곡 비용을 계산하여 복잡도를 줄일 수 있게 된다.
또한, 인터8×8 모드 내 8×8 크기의 블록에 대해서 서브 매크로블록 모드가 모두 8×8 모드일 경우에는 인트라4×4 모드에 대한 방향결정과 율-왜곡 비용 계산을 생략하고, 서브 매크로블록 모드가 모두 4×4 모드일 경우에는 인트라16×16 모드에 대한 방향결정과 율-왜곡 비용 계산을 생략하여 계산과정을 줄임으로써 부호화 성능을 유지하면서 복잡도를 낮출 수 있게 된다.
이하, 첨부한 도면을 참조하여 본 발명을 상세히 설명하도록 하겠다.
다만, 본 발명을 설명함에 있어, 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그에 대한 상세한 설명은 생략한다.
도 1a는 H.264/AVC에서 시방향 예측을 위한 인터모드를 보여주는 도면이고, 도 1b는 H.264/AVC에서 공간영역에서의 예측을 위한 인트라모드를 보여주는 도면이다.
H.264/AVC 국제 비디오 표준에서는 움직임 예측 및 모드 결정 방법을 사용하며, 상기 움직임 예측 및 모드 결정 방법은 가변블록을 이용한 움직임 보상 기술을 적용한 것으로서 매크로블록의 크기를 16×16에서 4×4까지 나눈 후 율-왜곡 최적 화 기법을 사용하는데, 비디오 처리를 위하여 인터모드와 인트라모드를 구별하여 설정한다.
도 1a를 참조하면, 시(時)방향 예측을 위한 모드로 매크로블록(macroblock)의 단위크기에 따라 5개의 인터모드를 지원하는데, 스킵(skip) 모드, 인터16×16 모드, 인터16×8 모드, 인터8×16 모드, 인터8×8 모드가 있으며, 상기 인터8×8 모드에 포함된 각 8×8크기의 블록은 8×8, 8×4, 4×8, 4×4의 크기로 갖는 서브 매크로블록(sub-macroblock)으로 나눌 수 있다.
도 1b를 참조하면, 공간영역에서의 예측을 위한 모드로 매크로블록의 단위크기에 따라 3개의 인트라모드를 지원하여 인트라16×16 모드(휘도), 인트라8×8 모드(색채), 인트라4×4 모드(휘도)가 있는데, 인트라8×8 모드는 FRExt 프로파일에서만 제공되므로, 본 발명에서는 인트라8×8 모드는 제외하고 설명하기로 하겠다.
인트라16×16 모드에서는 4가지의 예측 모드 및 방향을 지원하고, 인트라8×8 모드에서는 8가지의 방향성 모드와 방향성을 가지지 않는 평균치 예측 모드인 DC모드를 지원한다. 인트라 모드는 이전에 부호화된 유효한 이웃 매크로블록의 경계 화소(좌측, 상단, 우측 상단 또는 좌측 상단의 화소)를 이용해 현재 매크로블록을 예측한다.
도 2a는 도 1b의 인트라16×16 모드의 각 예측모드를 좀더 상세히 보여주는 도면이고, 도 2b는 인트라4×4 모드의 예측모드를 좀더 상세히 보여주는 도면이다.
도 2a 및 도2b를 참조하면, 기 부호화된 좌측, 상단, 우측 상단 또는 좌측 상단의 화소들을 이용하여 현재 부호화할 블록의 화소를 예측하는데, 인트라16×16 모드는 상단 화소를 이용하여 예측하는 예측모드0(수직예측), 좌측의 화소를 이용하여 예측하는 예측모드1(수평예측), 좌측과 상단의 화소를 이용하여 평균값으로 예측하는 예측모드2(평균값예측), 좌측 및 상단 화소를 이용하여 예측하는 예측모드3(평균예측)을 가지며, 인트라4×4 모드는 예측모드0부터 예측모드8까지 총 9가지의 예측모드를 가진다.
H.264/AVC에서는 상기와 같이 다양한 모드들 각각의 율-왜곡 비용을 계산하여 최소값을 가지는 모드를 부호화할 최적 모드로 결정하는데, 인트라4×4 모드의 경우에 총 9개의 예측 방향에 따라 최적 모드를 결정하고 세분화된 블록에 대한 예측 부호화를 수행해야하기 때문에 인트라16×16에 비해 상대적으로 높은 복잡도를 가진다.
만약, 예를 들어 도 3에 도시된 바와 같이, 주변 배경과 같은 일반적인 영상에서 영상 신호의 변화가 작은 영역에서는 현재 블록(현재 부호화할 블록)과 주변 블록의 화소 정보가 유사하다. 또한, 인트라4×4 모드에서 현재 블록의 최적 예측 방향이 주변 블록의 예측 방향과 같다면 현재 블록과 주변 블록의 화소 정보 또한 비슷할 확률이 높다.
그렇기 때문에 블록간 유사성이 높을 경우, 인트라4×4 모드의 현재 블록의 최적 모드를 결정하기 위하여 9가지 후보모드 각각에 대한 율-왜곡 비용을 계산하는 것보다는 이미 결정된 주변 모드 정보를 이용하여 현재 블럭의 최적 모드를 결정하는 것이 복잡도를 낮추어 준다.
즉, 본 발명에서는 매크로블록에 대한 부호화를 위해 계산과정을 줄여 복잡도를 낮추고자, 인트라4×4 모드에서 9가지 후보모드 각각에 대한 율-왜곡 비용을 계산하는 것이 아니라, 기 결정된 주변블록의 모드 정보를 이용하여 최적 모드를 결정하는데, 우선 현재 블록의 화소 분포와 주변 블록의 화소 분포의 차이에 따른 블록 간 유사성을 판별하여 후보모드의 수를 줄인다.
이에 대해 수학식을 통해 좀 더 상세히 살펴보면, 현재 블록 내 화소 분포도(Cdis), 현재 블록과 좌측 블럭과의 화소 분포 차이(Lcor) 및 현재 블록과 상측 블록과의 화소 분포 차이(Ucor)는 아래 수학식 1을 통해 구해진다. 또한, 현재 블록과 좌측 블록과의 화소값 분포에 따른 블록간 차이(Ldif) 및 현재 블록과 상측 블록과의 화소 분포 차이(Udif)는 아래 수학식 2를 통해 구해진다.
Figure 112007093332078-pat00001
여기서, Cavr은 현재 블록 내 화소 평균값이고, CPx, LPx, UPx는 각각 현재, 좌측, 상측 블록의 x인덱스에 해당하는 화소값이다.
Figure 112007093332078-pat00002
여기서, Cdis는 현재 블록 내 화소 분포도이고, Lcor은 현재 블록과 좌측 블록과의 화소 분포 차이이며, Ucor은 현재 블록과 상측 블록과의 화소 분포 차이이다.
상기 계산한 Ldif와 Udif를 미리 설정된 임계값 T와 비교하여 Ldif 및 Udif가 임계값 T보다 작으면, 현재 블록의 화소 분포와 주변 블록과의 화소 분포가 상관도가 높은 것이므로 현재 블록의 최적 모드를 이미 결정된(부호화된) 주변 블럭의 모드로부터 예측한다. 이에 따라, 인트라4×4 모드에서 현재 블럭의 최적 모드가 될 후보모드는, 도 4에 도시된 바와 같이 L 모드(LMODE) 와 U 모드(UMODE)로 압축된다. 또한, L 모드와 U 모드가 동일할 경우에는 선택 가능한 후보모드가 하나가 된다. 즉, 블록 간 화소 분포의 유사성을 판단하여 인트라4×4 모드의 예측모드들 중에서 소수의 후보모드를 결정하는 것이다.
한편, 상기 계산한 Ldif 또는 Udif가 임계값 T보다 크면, 블록 내 화소값들의 방향성과 상관도가 높은 것이므로, 도 5에 도시된 바와 같이, (a)의 정방형 4×4 마스크를 이용하여 인트라4×4 모드의 8가지 예측 방향(평균값 예측모드 제외) 중 4가지 방향 정보를 아래 수학식 3을 이용하여 획득한다.
Figure 112007093332078-pat00003
여기서, a부터 P는 정향형 4×4 마스크의 해당 위치에서의 화소값이다.
이를 통해, 인트라4×4 모드의 예측모드들 중에서 최종적으로 결정되는 후보모드는 상기 수학식 3의 연산 값이 최소가 되는 하나의 후보모드이거나, 또는 최대 4개의 후보모드로 결정된다.
따라서, 본 발명은 상기와 같이 인트라4×4 모드에서 소수의 후보모드를 결정하여 그 결정된 후보모드 각각에 대해서만 율-왜곡 비용을 계산함으로써 계산과정을 줄일 수 있게 된다.
이제, 상기에서 설명한 바를 토대로 본 발명에 따른 매크로블록의 부호화 모드 고속 결정 방법을 설명하기로 하겠다.
도 7은 본 발명에 따른 매크로블록의 부호화 모드 고속 결정 방법을 보여주는 흐름도로, 인터모드에 대해 '인터'를 생략(예를 들어, 인터16×16 모드를 16×16모드로)하여 도시하였다.
현재 부호화할 매크로블록에 대해 인터16×16 모드의 율-왜곡 비용을 계산하고(S700), 조기 스킵모드에 대한 율-왜곡 비용을 계산하여(S702), 상기 계산된 인터16×16 모드의 율-왜곡 비용이 스킵모드의 율-왜곡 비용을 초과하는지의 여부를 판단한다(S704).
상기 S704단계의 판단결과, 상기 인터16×16 모드의 율-왜곡 비용이 스킵모드의 율-왜곡 비용을 초과할 경우에 모든 모드 결정 과정을 생략하고, 최적의 모드를 스킵 모드로 결정한다(S706).
한편, 상기 S704단계의 판단결과, 인터16×16 모드의 율-왜곡 비용이 스킵모 드의 율-왜곡 비용을 초과하지 않을 경우에 인터16×8 모드와 인터8×16 모드의 율-왜곡 비용을 계산하여(S708), 상기 계산된 인터16×8 모드와 인터8×16 모드 각각의 율-왜곡 비용이 상기 인터16×16 모드의 율-왜곡 비용 이상인지의 여부를 판단한다(S710).
상기 S710단계의 판단결과, 인터16×8 모드와 인터8×16 모드 각각의 율-왜곡 비용이 인터16×16 모드의 율-왜곡 비용 이상일 경우에 인터16×16 모드를 후보모드로 결정하고(S712), 모든 인터모드 결정 과정을 생략한다. 그리고, 인트라모드에 대한 방향결정과 율-왜곡 비용을 계산(S736)하여 최소 율-왜곡 비용을 가지는 모드를 최종 매크로블록 모드로 결정한다(S738). 즉, 인터16×16 모드의 율-왜곡 비용이 최소이면, 인터16×16 모드가 최종 매크로블록 모드로 결정되는 것이고 아니면, 인트라모드 중 최소 율-왜곡 비용을 가지는 모드가 최종 매크로블록 모드로 결정되는 것이다.
한편, 상기 S710단계의 판단결과, 인터16×8 모드와 인터8×16 모드 각각의 율-왜곡 비용이 인터16×16 모드의 율-왜곡 비용 미만일 경우에 인터8×8 모드의 율-왜곡 비용을 계산하여(S714), 상기 계산된 인터8×8 모드의 율-왜곡 비용이 상기 인터16×8 모드와 인터8×16 모드 각각의 율-왜곡 비용 이상인지의 여부를 판단한다(S716).
상기 S716단계의 판단결과, 상기 인터8×8 모드의 율-왜곡 비용이 상기 인터16×8 모드와 인터8×16 모드 각각의 율-왜곡 비용 이상(S716)일 경우에 인터16×8 모드와 인터8×16 모드를 후보모드로 결정하고(S718), 인트라모드에 대한 방향결정 과 율-왜곡 비용을 계산(S736)하여 최소 율-왜곡 비용을 가지는 모드를 최종 매크로블록 모드로 결정한다(S738).
한편, 상기 S716단계의 판단결과, 상기 인터8×8 모드의 율-왜곡 비용이 상기 인터16×8 모드와 인터8×16 모드 각각의 율-왜곡 비용 미만일 경우에 인터8×8 모드에 포함된 8×8 블록에 대한 서브 매크로블록을 설정한다(S720). 도 6을 참조하면, 인터8×8모드에 대한 서브 매크로블록의 최적 모드 분포를 예를 들어 보여주고 있다.
상기 설정한 인터8×8 모드의 서브 매크로블록이 8×8 또는 4×4 크기의 블록인지의 여부를 판단한다(S722). 즉, 서브 매크로블록 모드가 8×8 모드 또는 4×4 모드인지의 여부를 판단하는 것이다.
상기 S722단계에서 판단한 결과, 서브 매크로블록이 8×8 또는 4×4 크기의 블록인 경우에 서브 매크로블록이 8×8 크기인지의 여부를 판단(S724)하여 서브 매크로블록이 8×8 크기이면, 인트라 4×4모드를 제외하고(S726), 남은 인트라모드에 대한 방향결정과 율-왜곡 비용을 계산(S736)하여 최소 율-왜곡 비용을 가지는 모드를 최종 매크로블록 모드로 결정한다(S738). 이에 대해 좀더 상세히 설명하면, 인터8×8모드 내 서브 매크로블록의 최적 모드가 모두 8×8모드일 경우에는 현재 매크로블록을 8×8 크기의 블록 크기보다 작게 세분화하지 않는다. 이는 8×8 크기의 블록 크기보다 작게 세분화하여 왜곡 오차를 줄인다 하여도 세분화된 블록 각각에 대한 비트 정보가 많아져 복잡도를 증가시키기 때문에 인트라4×4 모드에 대한 방향 결정 및 율-왜곡 비용 계산을 생략하는 것이다.
한편, 상기 S724단계의 판단결과, 서브 매크로블록이 4×4 크기의 블록인 경우에 상기 서브 매크로블록 모드, 4×4모드의 율-왜곡 비용을 계산하고(S728), 인트라16×16 모드를 제외(S730)하여 남은 인트라모드에 대한 방향결정과 율-왜곡 비용을 계산(S736)한다. 그래서 상기 남은 인트라모드의 각 예측모드에 대해 계산한 율-왜곡 비용 중 최소 율-왜곡 비용을 가지는 모드를 최종 매크로블록 모드로 결정한다(S738). 이에 대해 좀더 상세히 설명하면, 인터8×8모드 내 서브 매크로블록의 최적 모드가 모두 4×4모드일 경우에는 현재 매크로블록은 사물에 대한 영상과 같이 복잡하고 움직임이 많은 영역으로 표현되는 것이므로, 배경 영상과 같이 비교적 평탄한 영역에 대한 화면 내 예측(인트라예측)을 수행하는 인트라16×16 모드에 대한 방향 결정 및 율-왜곡 비용 계산을 생략하는 것이다.
또한, 상기 S722 단계의 판단결과, 서브매크로블록이 8×4 또는 4×8 크기의 블록일 경우에 서브매크로블록 모드, 8×4 모드와 4×8 모드의 율-왜곡 비용을 계산하고(S732), 상기에서 언급한 바와 같이 4×4 정방형 마스크를 이용하여 인트라4×4 모드에서 소수의 후보모드를 결정한다(S734). 상기 결정된 소수의 후보모드에 대해 율-왜곡 비용을 계산(S736)하여 최소 율-왜곡 비용을 가지는 모드를 최종 매크로블록 모드로 결정한다(S738).
한편, 상기에서는 본 발명을 특정의 바람직한 실시 예에 관련하여 도시하고 설명하였으나, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 상술한 실시 예에 대하여 본 발명의 범주에서 벗어나지 않는 한도 내에서 다양하게 개조 및 변화될 수 있다는 것을 용이하게 알 수 있다. 그러므로 본 발명의 권리범위는 설명된 실시 예에 국한되어 정해져서는 안 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.
도 1a는 H.264/AVC에서 시방향 예측을 위한 인터모드를 보여주는 도면,
도 1b는 H.264/AVC에서 공간영역에서의 예측을 위한 인트라모드를 보여주는 도면,
도 2a는 도 1b의 인트라16×16 모드의 각 예측모드를 좀더 상세히 보여주는 도면,
도 2b는 인트라4×4 모드의 예측모드를 좀더 상세히 보여주는 도면,
도 3은 인트라4×4 모드에서 블록 간 유사성과 각 블럭의 화소 정보에 따른 예측방향을 일 예로 보여주는 도면,
도 4 및 도 5는 본 발명에 따라 인트라4×4 모드에서 최적모드를 결정하기 위한 계산과정을 줄이는 방법을 설명하기 위한 도면,
도 6은 서브매크로블록의 최적 모드 분포를 보여주는 도면, 및
도 7은 본 발명에 따른 매크로블록의 부호화 모드 고속 결정 방법을 보여주는 흐름도이다.

Claims (3)

  1. 매크로블록의 부호화를 위해 인터16×16모드의 율-왜곡 비용을 계산하고, 복잡한 모드 결정 과정을 생략하기 위한 조기 스킵모드에 대한 율-왜곡 비용을 계산하여 상기 계산된 인터16×16모드의 율-왜곡 비용이 상기 조기 스킵모드의 율-왜곡 비용을 초과할 경우에 상기 스킵모드를 최종적인 매크로블록 모드로 결정하는 제 1 단계;
    상기 인터16×16모드의 율-왜곡 비용이 상기 조기 스킵모드의 율-왜곡 비용을 초과하지 않을 경우에 인터모드들 중에 최소의 율-왜곡 비용을 가지는 모드를 후보모드로 결정하는 제 2 단계; 및
    인트라모드들 중 소수의 후보모드를 설정하여 율-왜곡 비용을 계산하고, 상기 결정된 인터모드에 대한 후보모드의 율-왜곡 비용과 비교하여 최소 율-왜곡 비용을 가지는 모드를 최종적인 매크로블록 모드로 결정하는 제 3 단계;를 포함하여 이루어지는 매크로블록의 부호화 모드 고속 결정 방법.
  2. 제 1항에 있어서,
    상기 제 2 단계는
    상기 인터16×16모드의 율-왜곡 비용이 상기 조기 스킵모드의 율-왜곡 비용을 초과하지 않을 경우에 인터16×8모드 및 인터8×16모드의 율-왜곡 비용을 계산하여 상기 인터16×16모드의 율-왜곡 비용과 비교한 결과, 상기 인터16×8모드와 인터8×16모드 각각의 율-왜곡 비용이 상기 인터16×16모드의 율-왜곡 비용 이상이 면, 상기 인터16×16모드를 후보모드로 결정하는 단계; 및
    상기 인터16×8모드와 인터8×16모드 각각의 율-왜곡 비용이 상기 인터16×16모드의 율-왜곡 비용 미만일 경우에 인터8×8모드의 율-왜곡 비용을 계산하여 상기 인터16×8모드와 인터8×16모드 각각의 율-왜곡 비용과 비교한 결과, 상기 인터8×8모드의 율-왜곡 비용이 상기 인터16×8모드와 인터8×16모드 각각의 율-왜곡 비용 이상이면, 상기 인터16×8모드와 인터8×16모드를 후보모드로 결정하는 단계;를 포함하는 것을 특징으로 하는 매크로블록의 부호화 모드 고속 결정 방법.
  3. 제 2항에 있어서,
    상기 제 3 단계의 소수 후보모드 설정은
    상기 인터8×8모드의 율-왜곡 비용이 상기 인터16×8모드와 인터8×16모드 각각의 율-왜곡 비용 미만일 경우에 상기 인터8×8모드 내 8×8 크기의 블록에 대해 서브 매크로블록모드를 설정하는 단계;
    상기 설정된 서브 매크로블록모드가 8×8모드일 경우에 인트라4×4모드를 제외하여 인트라모드 중에서 후보모드를 결정하는 단계;
    상기 설정된 서브 매크로블록모드가 4×4모드일 경우에 인트라16×16모드를 제외하여 인트라모드 중에서 후보모드를 결정하는 단계; 및
    상기 설정된 서브 매크로블록모드가 8×4모드 또는 4×8모드일 경우에 정방형 4×4 마스크를 이용하여 인트라4×4모드에서 소수의 후보모드를 결정하는 단계;를 포함하는 것을 특징으로 하는 매크로블록의 부호화 모드 고속 결정 방법.
KR1020070137651A 2007-12-26 2007-12-26 매크로블록의 부호화 모드 고속 결정 방법 KR100943636B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020070137651A KR100943636B1 (ko) 2007-12-26 2007-12-26 매크로블록의 부호화 모드 고속 결정 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020070137651A KR100943636B1 (ko) 2007-12-26 2007-12-26 매크로블록의 부호화 모드 고속 결정 방법

Publications (2)

Publication Number Publication Date
KR20090069843A KR20090069843A (ko) 2009-07-01
KR100943636B1 true KR100943636B1 (ko) 2010-02-24

Family

ID=41321445

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020070137651A KR100943636B1 (ko) 2007-12-26 2007-12-26 매크로블록의 부호화 모드 고속 결정 방법

Country Status (1)

Country Link
KR (1) KR100943636B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101215138B1 (ko) * 2010-12-08 2012-12-24 호서대학교 산학협력단 매크로블록의 인터/인트라모드 고속 결정 방법

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106331699B (zh) * 2015-06-19 2019-04-26 华为技术有限公司 图像编码方法和图像编码器

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050061762A (ko) * 2003-12-18 2005-06-23 학교법인 대양학원 부호화 모드 결정방법, 움직임 추정방법 및 부호화 장치
KR20060085004A (ko) * 2005-01-21 2006-07-26 한양대학교 산학협력단 H.264/avc에서의 고속 매크로블록 모드 선택 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050061762A (ko) * 2003-12-18 2005-06-23 학교법인 대양학원 부호화 모드 결정방법, 움직임 추정방법 및 부호화 장치
KR20060085004A (ko) * 2005-01-21 2006-07-26 한양대학교 산학협력단 H.264/avc에서의 고속 매크로블록 모드 선택 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101215138B1 (ko) * 2010-12-08 2012-12-24 호서대학교 산학협력단 매크로블록의 인터/인트라모드 고속 결정 방법

Also Published As

Publication number Publication date
KR20090069843A (ko) 2009-07-01

Similar Documents

Publication Publication Date Title
KR102007292B1 (ko) 적응적인 영상 부호화 방법 및 장치
US20200177897A1 (en) Speedup techniques for rate distortion optimized quantization
CA2634050C (en) Video encoding method and decoding method, apparatuses therefor, programs therefor, and storage media for storing the programs
US8331449B2 (en) Fast encoding method and system using adaptive intra prediction
KR101433170B1 (ko) 인접 블록의 공간 예측 방향성을 이용하여 화면 내 예측모드를 추정하는 인코딩 및 디코딩 방법, 그 장치
EP2127110B1 (en) Method and apparatus for bit rate reduction in video telephony
EP1723796A1 (en) Method, medium, and filter removing a blocking effect
US8189667B2 (en) Moving picture encoding apparatus
WO2009121233A1 (zh) 一种用于视频编码的空间预测方法
KR101960470B1 (ko) 오프라인 cabac을 지원하는 비디오 코딩 프로세스의 비트 예측 기반 비트 레이트 컨트롤 방법 및 그 장치
CA2807784A1 (en) Video encoding method, video decoding method, video encoding apparatus, video decoding apparatus, and program thereof
CN102075751B (zh) 一种基于宏块运动状态的h264快速模式选择方法
KR101099257B1 (ko) H.264/avc에서 매크로 블록의 부호화 모드 고속 결정방법
KR100943636B1 (ko) 매크로블록의 부호화 모드 고속 결정 방법
KR101138736B1 (ko) 부호화기 및 부호화기의 후보 모드 결정 방법
KR20150084408A (ko) Dc 화면내 예측 부호화방법
Chono et al. Detented quantization to suppress flicker artifacts in periodically inserted intra-coded pictures in H. 264 video coding
KR20010045132A (ko) 인트라 프레임 부호화 방법
KR101215138B1 (ko) 매크로블록의 인터/인트라모드 고속 결정 방법
KR101130733B1 (ko) 매크로 블록의 부호화 모드 결정 방법 및 그 장치
KR100939280B1 (ko) 다중 참조 프레임을 이용한 비디오 부호화 방법 및 그방법이 기록된 컴퓨터로 판독 가능한 기록매체
WO2022140905A1 (zh) 预测方法、编码器、解码器以及存储介质
Wei et al. Transformed domain block size and intra mode decision for advanced video coding
JP2007184846A (ja) 動画像符号化装置
KR20120136992A (ko) 부호화기 및 분산값 기반의 인트라 모드 결정 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20130205

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20140203

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20150203

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20160205

Year of fee payment: 7

LAPS Lapse due to unpaid annual fee