이하, 본 발명의 여러가지 실시예들을 예시적인 도면을 통해 상세히 설명한다. 본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.
도 1은 본 발명에 따른 동영상 부호화 장치를 나타내는 블록도이다.
도 1를 참조하면, 동영상 부호화 장치는 부호화 모드 결정부(110), 인트라 예측부(120), 움직임 보상부(130), 움직임 추정부(131), 변환부호화/양자화부(140), 엔트로피 부호화부(150), 양자화/변환복호화부(141), 디블록킹 필터링부(160), 픽쳐 저장부(170), 감산부(180) 및 가산부(190)를 포함한다.
부호화 모드 결정부(110)는 입력되는 비디오 신호를 분석하여 픽쳐를 소정 크기의 부호화 블록으로 분할하고, 분할된 소정 크기의 부호화 블록에 대한 부호화 모드를 결정한다. 상기 부호화 모드는 인트라 예측 부호화 및 인터 예측 부호화를 포함한다.
픽쳐는 복수의 슬라이스로 구성되고, 슬라이스는 복수개의 최대 부호화 단위(Largest coding unit: LCU)로 구성된다. 상기 LCU는 복수개의 부호화 단위(CU)로 분할될 수 있고, 부호기는 분할여부를 나타내는 정보(flag)를 비트스트림에 추가할 수 있다. 복호기는 LCU의 위치를 어드레스(LcuAddr)를 이용하여 인식할 수 있다. 분할이 허용되지 않는 경우의 부호화 단위(CU)는 예측 단위(Prediction unit: PU)로 간주되고, 복호기는 PU의 위치를 PU 인덱스를 이용하여 인식할 수 있다.
예측 단위(PU)는 복수개의 파티션으로 나뉠 수 있다. 또한 예측 단위(PU)는 복수개의 변환 단위(Transform unit: TU)로 구성될 수 있다.
부호화 모드 결정부(110)는 결정된 부호화 모드에 따른 소정 크기의 블록 단위(예를 들면, PU 단위)로 영상 데이터를 감산기(180)로 보낸다.
변환부호화/양자화부(140)는 감산기(180)에 의해 산출된 잔차 블록을 공간 영역으로부터 주파수 영역으로 변환한다. 예를 들면, 잔차 블록에 대해서 2차원의 이산 코사인 변환(DCT) 또는 이산 사인 변환(DST) 기반의 변환을 실행한다. 또한, 변환부호화/양자화부(140)는 변환 계수를 양자화하기 위한 양자화 스텝을 결정하고, 결정된 양자화 스텝을 이용하여 변환 계수를 양자화한다. 결정된 양자화 스텝 및 부호화 모드에 따라 양자화 테이블이 결정된다.
양자화된 2차원의 변환 계수는 미리 정해진 스캐닝 방법에 의해 1차원의 양자화 변환 계수로 변환된다. 상기 변환된 1차원의 양자화 변환 계수의 시퀀스는 엔트로피 부호화부(150)로 공급된다.
역양자화/변환복호화부(141)는 변환부호화/양자화부(140)에 의해 양자화된 양자화 계수를 역양자화한다. 또한, 역양자화에 의해 얻어지는 역양자화 계수를 역변환한다. 이에 따라, 주파수 영역으로 변환된 잔차 블록을 공간 영역의 잔차 블록으로 복원할 수 있다.
디블록킹 필터링부(160)는 역양자화/역변환부호화부(141)로부터 역양자화 및 역변환된 영상 데이터를 입력 받아 블록킹(blocking) 효과를 제거하기 위한 필터링을 수행한다.
픽쳐 저장부(170)는 필터링된 영상 데이터를 디블록킹 필터링부(160)로부터 입력 받아 픽쳐(picture) 단위로 영상을 복원하여 저장한다. 픽쳐는 프레임 단위의 영상이거나 필드 단위의 영상일 수 있다. 픽쳐 저장부(170)는 다수의 픽쳐를 저장할 수 있는 버퍼(도시되지 않음)를 구비한다. 버퍼에 저장된 다수의 픽쳐는 인트라 예측 및 움직임 추정을 위해 제공된다. 인트라 예측 또는 움직임 추정을 위해 제공되는 상기 픽쳐들은 참조 픽쳐로 불리운다.
움직임 추정부(131)는 상기 픽쳐 저장부(170)에 저장된 적어도 하나의 참조 픽쳐를 제공받아 움직임 추정을 수행하여 움직임 벡터, 참조 픽쳐를 나타내는 인덱스 및 블록 모드를 포함한 모션 데이터(Motion Data)를 출력한다.
예측 정밀도를 최적화하기 위해서, 소수 화소 정밀도, 예를 들면, 1/2 또는 1/4 화소 정밀도로 움직임 벡터를 결정한다. 움직임 벡터가 소수 화소 정밀도를 가질 수 있으므로, 움직임 보상부(130)는 소수 화소 위치의 화소값을 산출하기 위한 보간 필터를 참조 픽쳐에 적용함으로써, 정수 화소 위치의 화소값으로부터 소수 화소 위치의 화소값을 산출한다.
움직임 보상부(130)는 움직임 추정부(131)로부터 입력된 모션 데이터에 따라, 픽쳐 복원부(135)에 저장된 다수의 참조 픽쳐들 중 움직임 추정에 이용된 참조 픽쳐로부터, 부호화하고자 하는 블록에 대응하는 예측 블록을 추출하여 출력한다.
움직임 보상부(130)는 소수 정밀도의 움직임 보상에 필요한 적응적 보간 필터의 필터 특성을 결정한다. 필터 특성은, 예를 들면, 적응적 보간 필터의 필터 타입을 나타내는 정보, 및, 적응적 보간 필터의 사이즈를 나타내는 정보 등이다. 필터의 사이즈는, 예를 들면, 적응적 보간 필터의 필터 계수의 수인 탭 수 등이다.
구체적으로, 움직임 보상부(130)는 적응적 보간 필터로서, 분리형 및 비분리형 적응적 필터 중 어느 하나를 결정할 수 있다. 그리고 나서, 결정된 적응적 보간 필터의 탭 수, 및, 각 필터 계수의 값을 결정한다. 필터 계수의 값은, 정수 화소와의 상대적인 소수 화소의 위치마다 다르게 결정될 수 있다. 또한, 움직임 보상부(160)는, 필터 계수가 고정인 복수개의 비적응적 보간 필터를 이용할 수도 있다.
움직임 보상부(130)는, 보간 필터의 특성을 소정의 처리 단위로 설정할 수 있다. 예를 들면, 소수 화소 단위, 부호화 기본 단위(부호화 유닛), 슬라이스 단위, 픽쳐 단위, 또는, 시퀀스 단위로 설정할 수 있다. 또한, 1개의 영상 데이터에 대해서, 1개의 특성을 설정해도 된다. 따라서, 소정의 처리 단위 내에서는, 동일한 필터 특성을 이용하므로, 움직임 보상부(130)는 필터 특성을 일시적으로 유지하는 메모리를 구비한다. 이 메모리는 필요에 따라, 필터 특성 및 필터 계수 등을 유지한다. 예를 들면, 움직임 보상부(130)는, I픽쳐마다 필터 특성을 결정하고, 슬라이스 단위로 필터 계수를 결정할 수 있다.
움직임 보상부(130)는, 픽쳐 저장부(170)로부터 참조 픽쳐를 수신하고, 결정된 적응적 보간 필터를 이용하여 필터 처리를 적용함으로써, 소수 정밀도의 예측 참조 화상을 생성한다.
그리고, 생성된 참조 화상과, 움직임 추정부(131)에 의해 결정된 움직임 벡터에 의거하여 소수 화소 정밀도의 움직임 보상을 행함으로써, 예측 블록을 생성한다.
감산부(180)는 부호화하고자 하는 입력 블록을 픽쳐 간 예측 부호화하는 경우, 움직임 보상 예측부(137)로부터 입력 블록에 대응하는 참조 픽쳐 내의 블록을 입력받아 입력 매크로 블록과의 차분 연산을 수행하여 잔차 신호(residue signal)를 출력한다.
인트라 예측부(120)는 예측이 수행되는 픽처 내부의 재구성된 화소값을 이용하여 인트라 예측 부호화를 수행한다. 인트라 예측부는 예측 부호화할 현재 블록을 입력 받아 현재 블록의 크기에 따라 미리 설정된 복수개의 인트라 예측 모드 중에 하나를 선택하여 인트라 예측을 수행한다. 인트라 예측부(120)는 현재 블록에 인접한 이전에 부호화된 화소들을 이용해 현재 블록의 인트라 예측 모드를 결정하고, 상기 결정된 모드에 대응하는 예측 블록을 생성한다.
현재 픽처에 포함된 영역 중에서 이전에 부호화된 영역은 인트라 예측부(120)가 이용할 수 있도록 다시 복호화되어 픽쳐 저장부(170) 에 저장되어 있다. 인트라 예측부(120)는 픽쳐 저장부(170)에 저장되어 있는 현재 픽처의 이전에 부호화된 영역에서 현재 블록에 인접한 화소 또는 인접하지 않지만 적용 가능한 화소들을 이용하여 현재 블록의 예측 블록을 생성한다.
인트라 예측부(120)는 인트라 블록을 예측하기 위하여 인접 화소를 적응적으로 필터링할 수 있다. 복호기에서의 동일한 동작을 위해 부호기에서 필터링 여부를 알려주는 정보를 전송할 수 있다. 또는 현재 블록의 인트라 예측 모드 및 현재 브록의 크기 정보에 기초하여 필터링 여부를 결정할 수 있다.
영상 부호화 장치에 의해 사용되는 예측 타입은 상기 부호화 모드 결정부에 의해 입력 블록(SMB의 개념 포함)이 인트라 모드 또는 인터 모드로 부호화되는지 여부에 의존한다.
인트라 모드와 인터 모드의 전환은, 인트라/인터 전환 스위치에 의해 제어된다.
엔트로피 부호화부(150)는 변환/양자화부(140)에 의해 양자화된 양자화 계수와 움직임 추정부(131)에 의해 생성된 움직임 정보를 엔트로피 부호화한다. 또한, 인트라 예측 모드, 제어 데이터(예를 들면, 양자화 스텝 사이즈 등) 등도 부호화될 수 있다. 또한, 움직임 보상부(130)에 의해 결정된 필터 계수도 부호화되어 비트 스트림으로서 출력한다.
도 2는 본 발명에 따른 인트라 예측부(120)의 동작을 나타내는 블록도이다.
먼저, 부호화 모드 결정부(110)에 의해 예측 모드 정보 및 예측 블록의 크기를 수신한다(S110). 예측 모드 정보는 인트라 모드를 나타낸다. 예측 블록의 크기는 64x64, 32x32, 16x16, 8x8, 4x4등의 정방형일 수 있으나, 이에 한정하지 않는다. 즉, 상기 예측 블록의 크기가 정방형이 아닌 비정방형일 수도 있다.
다음으로, 예측 블록의 크기에 대응하는 인트라 예측 모드를 결정하기 위해 유효한 참조 화소를 픽쳐 저장부(170)로부터 읽어 들인다. 그리고, 상기 참조 화소들을 검토하여 참조 화소 생성 여부를 판단한다(S120). 상기 참조 화소들은 부호화되어 복원된 화소들로서, 현재 픽쳐의 이전에 부호화된 영역에서 현재 블록에 인접한 유효한 화소들을 이용하여 현재 블록의 인트라 예측 모드를 결정하는데 사용된다.
현재 블록이 현재 픽쳐의 상측 경계에 위치하는 경우에는 현재 블록의 상측에 인접한 화소들이 정의되지 않는다. 또한, 현재 블록이 현재 픽쳐의 좌측 경계에 위치하는 경우에는 현재 블록의 좌측에 인접한 화소들이 정의되지 않는다. 이러한 화소들은 유효한 화소들이 아닌 것으로 판단한다. 또한, 현재 블록이 슬라이스 경계에 위치하여 슬라이스의 상측 또는 좌측에 인접하는 화소들이 먼저 부호화되어 복원되는 화소들이 아닌 경우에도 유효한 화소들이 아닌 것으로 판단한다.
상기와 같이 현재 블록의 좌측 또는 상측에 인접한 화소들이 존재하지 않거나, 미리 부호화되어 복원된 화소들이 존재하지 않는 경우에는 유효한 화소들만을 이용하여 현재 블록의 인트라 예측 모드를 결정할 수 있다.
그러나, 상기 존재하지 않는 참조 화소들을 현재 블록에 인접한 화소들 또는 인접하지는 이용 가능한 화소들을 이용하여 참조 화소를 생성할 수도 있다(S130). 예를 들어, 상측 블록의 화소들이 유효하지 않은 경우에는 좌측 화소들의 일부 또는 전부를 이용하여 상측 화소들을 생성할 수 있고, 그 역으로도 가능하다.
한편, 현재 블록의 상측 또는 좌측 화소들이 존재하는 경우에도 상기 화소들이 속하는 블록의 부호화 모드에 따라 유효한 화소 또는 유효하지 않은 화소로 결정될 수 있다. 예를 들어, 현재 블록의 상측에 인접한 화소가 속하는 블록이 인터 부호화되어 복원된 블록일 경우에는 상기 화소들을 유효하지 않은 화소들로 판단할 수 있다. 이 경우에는 현재 블록에 인접한 블록이 인트라 부호화되어 복원된 블록에 속하는 화소들을 이용하여 유효하지 않은 참조화소들의 위치에 대응하는 위치에 유효한 참조 화소들을 생성할 수 있다. 이 경우에는 부호기에서 부호화 모드에 따라 유효한 참조 화소를 판단한다는 정보를 복호기로 전송해야 한다.
다음으로, 참조 화소들을 이용하여 현재 블록의 인트라 예측 모드를 결정한다(S140). 현재 블록에 허용 가능한 인트라 예측 모드의 수는 블록의 크기에 의존한다. 예를 들어, 현재 블록의 크기가 8x8, 16x16, 32x32인 경우에는 34개의 인트라 예측 모드가 존재할 수 있고, 현재 블록의 크기가 4x4인 경우에는 17개의 인트라 예측 모드가 존재할 수 있다. 상기 34개 또는 17개의 인트라 예측 모드는 적어도 하나 이상의 비방향성 모드(non-directional mode)와 복수개의 방향성 모드들(directional modes)로 구성될 수 있다. 하나 이상의 비방향성 모드는 DC 모드 및/또는 플래너(planar) 모드일수 있다. DC 모드는 현재 블록에 인접한 유효한 참조 필셀들의 평균값을 이용하여 현재 블록의 예측 블록을 생성한다.
플래너 모드는 현재 블록의 우하측(bottom-right)에 위치하는 적어도 하나의 화소값(또는 상기 화소값의 예측값, 이하 제1 참조값이라 함)과 유효한 참조 화소들을 이용하여 현재 블록의 예측 블록을 생성한다.
도 3을 참조하여 플래너 모드를 설명한다. 도 3은 현재 블록이8x8 블록일 경우의 플래너 모드 예측을 설명하기 위한 도면이다.
현재 블록의 우하측(bottom-right)에 위치하는 제 1 참조값(D)과 현재 블록의 좌측에 인접하는 유효한 화소들 중현재 블록의 가장 아래쪽 화소에 인접하는 화소값(C)을 이용하여 그 사이에 위치하는 화소들에 대응하는 예측 화소들을 생성한다. 마찬가지로 상기 제1참조값(D)과 현재 블록의 상측에 인접하는 유효한 화소들 중 현재 블록의 가장 우측의 화소와 인접하는 화소값(B)을 이용하여 그 사이에 위치하는 화소들에 대응하는 예측 화소들을 생성한다. 상기 예측 화소를 생성하기 위해서 선형결합을 사용할 수 있다. 그러나, 화소들의 배치가 선형이 아닌 경우에는 미리 정해진 비선형 결합으로 상기 예측 화소들을 생성할 수 있다.
다음으로, 생성된 예측 화소들(즉, 화소 C와 D 사이의 화소들 및 화소 B와 D 사이의 화소들)과 현재 블록에 인접한 화소들(즉, A와 B 사이의 화소들 및 A와 C 사이의 화소들)을 이용하여 나머지 예측 화소들을 생성한다. 상기 예측 화소들은 상측 및 좌측에 인접한 2개의 화소 및 하측 및 우측에 생성된 2개의 화소들을 선형결합하여 생성할 수 있다. 또한, 상기 결합은 반드시 선형일 필요는 없으며, 화소들의 분포를 고려한 비선형 결합일 수도 있다. 비선형 결합일 경우에는 이를 나타내는 정보를 비트스트림 내에 삽입하여 복호기로 전송할 필요가 있다.
한편, 상기의 경우, 상기 좌측블록의 경계화소는 유효하나, 상측 블록의 경계화소들이 유효하지 않는 경우가 발생할 수 있다. 이때에는, 상기 제1 참조값과 상기 좌측블록의 경계화소들 중 적어도 한쪽을 이용하여 상기 상측 블록의 경계화소들을 생성할 수있다. 즉, 좌측블록의 경계화소들만을 이용할 경우에는 상측 화소 위치에 가장 근접한 위치에 있는 좌측블록의 경계화소를 복사할 수 있고, 상기 제1 참조값과 상기 좌측블록의 경계화소들 중 적어도 하나를 이용할 경우에는 상측 블록에서의 위치에 따라 경계화소들이 생성될 수 있다. 예를 들어, 상기 제1 참조값(D)과 상기 좌측블록의 경계화소 C 사이의 경사도를 대응하도록 경계화소 A 또는 A의 아래쪽에 위치하는 경계화소를 이용하여 상측 블록의 경계화소들을 생성할 수도 있다.
마찬가지로, 상기 상측 블록의 경계화소들은 유효하나, 좌측블록의 경계화소들이 유효하지 않는 경우에는 상기 제1 참조값과, 상측 블록의 경계필셀들(특히, 좌측값)로부터 얻어진 값의 선형결합을 통하여 생성할 수 있다.
한편, 상기 제1 참조값 또는 이를 나타내는 정보는 비트스트림에 추가되어 복호기로 전송되거나, 전송되지 않더라도 복호기가 상기 제1 참조값을 유도할 수 있어야 한다.
상기 제1 참조값 또는 이를 나타내는 정보를 복호기로 전송하는 방법을 사용할 경우에는 현재 블록에 인접한 부호화되어 복원된 화소들 중 적어도 하나 이상을 이용한 제1 참조값의 예측값과 상기 제1 참조값과의 차이값을 전송하는 것이 비트수를 줄일 수있다. 이를 위해 상기 제1 참조값의 예측값은 (1) 현재 블록에 인접한 유효한 참조 화소들의 평균값, (2) A, B, C의 평균값, (3) B와 C의 평균값 중 어느 하나일 수 있다. 또 다른 방법으로는, A와 C의 차이값과 A와 B의 차이값을 비교하여 차이값이 작은 방향을 나타내는 어느 하나(B또는 C)로 결정할 수도 있다.
상기 제1 참조값 또는 이를 나타내는 정보를 복호기로 전송하지 않는 방법을 사용할 경우에는 부호기와 복호기가 동일한 참조값을 유도할 수 있어야 한다. 이를 위해 부호기에서는 제1 참조값을 생성하기 위해 참조 화소 A, B, C를 이용할 수 있다. 화면이 평탄하게 변한다는 가정하에서는 (1) B와 A의 차이값을 C에 더한 값 또는 C와 A의 차이값을 B에 더한 값, 즉 (B+C-A), (2) B와 C의 평균값 중 어느 하나를 사용하는 것이 바람직하다. 이 경우에는 복호기도 동일한 동작을 통해 상기 제1 참조값을 생성할 수 있으므로, 부호기가 상기 제1 참조값 또는 이를 나타내는 정보를 복호기로 전송할 필요가 없어 전송 비트수를 줄일 수있다.
한편, 허용 가능한 인트라 예측 모드들 중 비방향성 모드(non-directional mode)의 수가 1인 경우에는 상기 비방향성 모드는 플래너(planar) 모드일수 있다. 또한, DC 모드 또는 플래너 모드가 상기한 비방향성 모드로 적응적으로 선택될 수 있다. 상기 적응적인 선택이 이용될 경우에는 선택정보를 비트스트림에 추가하여야 한다. 이를 위해 픽쳐헤더 또는 슬라이스 헤더에서 이를 나타내는 정보를 전송할 수 있으며, 픽쳐 또는 슬라이스의 하위 레벨에서 변경여부를 나타내는 정보를 전송할 수도 있다.
또한, 동일한 블록 크기를 갖더라도 서로 다른 개수의 유효한 인트라 예측 모드의 수가 할당될 수 있다. 예를 들어, 16x16 크기의 블록이라도 34개의 인트라 예측 모드 또는 17개의 인트라 예측 모드가 허용될 수 있다. 또한, 현재 블록 이전에 부호화된 블록들의 인트라 예측 모드들을 참조하여 현재 블록의 인트라 부호화 예측 모드를 일부 사용하지 않을 수도 있다. 이는 인트라 예측 모드를 전송하는데 소요되는 불필요한 비트수를 줄이기 위한 것이다. 동일한 크기의 블록에 서로 다른 개수의 인트라 예측 모드가 허용됨을 나타내기 위해 부호기는 시퀀스 헤더, 픽쳐 헤더, 슬라이스 헤더 및 부호화 유닛 헤더 중 적어도 하나에 이를 나타내는 정보를 삽입할 수 있다. 시퀀스 헤더 또는 픽쳐 헤더에 삽입하는 것이 바람직하다.
다음으로, 현재 블록의 인트라 예측 모드가 결정되면, 현재 블록의 예측 블록을 생성한다(S150). 상기 예측 블록은 현재 블록의 인트라 예측 모드에 기초하여 유효한 참조 화소(생성된 화소 포함) 또는 이들의 선형결합을 이용하여 생성한다.
다음으로, 현재 블록의 인트라 예측 모드가 결정되면 상기 인트라 예측 모드를 부호화한다(S160). 상기 인트라 예측 모드의 부호화는 인트라 예측 부(120)에서 행해질 수도 있고, 별도의 인트라 예측 모드 부호화 장치(미도시) 또는 엔트로피 부호화부(150)에서 행해질 수도 있다.
한편, 현재 블록에 인접한 참조 블록들의 수가 다양한 경우에는 상기 참조 블록들의 경계에 위치하는 참조 화소들 간에 단차가 발생할 수 있다. 이 경우, 예측 블록 생성 후의 잔차 블록들은 고주파 성분을 많이 함유할 가능성이 높게 된다. 따라서, 참조 블록들 사이의 블록킹 아티펙트(blocking artifact)가 현재의 블록에도 영향을 미치는 문제가 발생한다. 이러한 문제점은 현재 블록의 크기가 클수록 빈도수가 높아지게 된다. 반대로, 참조 블록의 사이즈가 현재 블록의 사이즈보다 클 경우에는 이러한 문제가 발생하지 않을 수 있다.
따라서, 상기의 문제점을 극복하기 위한 하나의 방법은 상기 유효한 참조 화소들을 적응적으로 필터링하여 새로운 참조 화소들을 생성하는 것이다. 이는 인트라 예측 모드를 결정하기 전에 수행하는 것이 바람직하다. 즉, 미리 상기 유효한 참조 화소들을 적응적으로 필터링하여 새로운 참조 화소들을 생성하고, 상기 생성된 새로운 참조 화소들을 이용하여 현재 블록의 인트라 예측 모드를 결정할 수도 있다. 그러나, 현재 블록의 인트라 예측 모드를 결정한 후에 상기 방법을 수행할 수도 있다.
상기 유효한 참조 화소의 필터링이 필요한 경우에는, 상기한 참조 화소들 간의 단차의 차이 정도에 따라 적어도 2개 이상의 필터를 적응적으로 적용하는 것이 바람직하다. 상기 필터들은 저역 통과 필터인 것이 바람직하다. 예를 들어, 3개의 필터를 이용할 경우, 제1 필터는 3-tap 필터, 제2 필터는 5-tap 필터, 제3 필터는 7-tap 필터인 것이 바람직하나, 제2 필터는 제1 필터를 2번 적용하는 필터, 제3 필터는 제1필터를 3번 적용한 것일 수도 있다. 상기 필터의 필터계수는 대칭적인 것이 바람직하다.
또한, 상기한 복수개의 필터가 현재 블록의 크기에 따라 적응적으로 적용되는 것이 바람직하다. 즉, 필터를 적용할 경우, 크기가 작은 블록에 대해서는 대역폭이 좁은 필터를, 크기가 큰 블록들에 대해서는 대역폭이 넓은 필터를 적용하는 것이 바람직하다. 그러나, 현재 블록의 크기가 상기 필터의 탭수보다 작은 경우에는 필터를 적용할 수 없으므로, 필터를 적용하지 않는다.
DC 모드의 경우에는 유효한 참조 화소들의 평균값으로 예측 블록이 생성되므로, 필터를 적용할 필요가 없다. 즉, 필터를 적용할 경우 불필요한 연산량만이 많아지게 된다. 또한, 영상이 수직 방향으로 연관성(correlation)이 있을 경우에는 수직 방향으로의 필터링, 수평 방향으로 연관성이 있을 경우에는 수평 방향으로의 필터링이 불필요할 수 있다. 이와 같이, 필터링의 적용 여부는 현재 블록의 인트라 예측 모드와 연관성이 있으므로, 현재 블록의 인트라 예측 모드에 기초하여 적응적으로 필터링을 적용할 필요가 있다.
그리고, 부호화기와 복호화기는 현재 블록의 인트라 예측 블록을 생성하기 위해 이용되는 유효한 참조 화소들에 대한 필터링의 적용여부 및 필터링 적용시 어느 필터를 적용했는지에 대한 정보를 공유하여야 한다. 이를 위해 부호기가 필터 적용 여부 및 적용 필터에 대한 정보를 비트스트림에 추가하여 복호기로 전송할 수 있다. 이 경우, 블록 크기 및 인트라 예측 모드에 따라 적응적인 정보를 전송할 필요가 있다. 또 다른 방법으로는 부호기가 블록의 크기 및 인트라 예측 모드에 따라 적용된 필터정보를 시퀀스, 픽쳐 그룹 또는 픽쳐 단위로 복호기로 전송할 수도 있다. 또 다른 방법으로는 부호기와 복호기가 미리 약속된 복수개의 필터 정보 세트를 공유하고, 부호기는 복수개의 필터 정보 세트 중에 어느 하나를 나타내는 정보를 복호기로 전송할 수 있다.
상기의 문제점을 극복하기 위한 또 다른 방법은 상기 유효한 참조 화소들을 이용하여 생성된 예측 블록을 적응적으로 필터링하여 새로운 예측 블록을 생성하는 것이다.
구체적으로, 상기 유효한 참조 화소들을 이용하여 생성된 예측 블록을 필터링하여 제2 예측 블록을 생성한다. 이를 위해, 상기 특정 위치의 화소 및 상기 화소의 상측과 좌측의 화소들을 이용할 수 있다(3 tap 필터 적용). 또한, 추가적으로 상기 특정 화소의 좌상측 화소까지 이용할 수 있다(4 tap 필터 적용). 이 경우, 상기 제2예측 블록의 상측 경계 화소들에 대해서는 상기 경계화소, 상측의 유효한 적어도 하나의 참조 화소, 및 이미 필터링된 좌측의 화소들에 필터를 적용하여 새로운 화소를 생성할 수 있다. 마찬가지로 상기 제2 예측 블록의 좌측 경계 화소들에 대해서는 상기 경계 화소, 좌측의 유효한 적어도 하나의 참조 화소 및 이미 필터링된 상측 화소들에 필터를 적용하여 새로운 화소를 생성할 수 있다. 그리고, 상기 제2 예측 블록의 좌상측 경계화소에 대해서는 상기 경계화소 및 좌측, 상측의 유효한 참조 화소들에 필터를 적용하여 새로운 화소를 생성할 수 있다.
한편, 현재 블록과 상기 인트라 예측부(120)에 의해 생성된 예측 블록의 잔차 블록은 변환부호화/양자화부(140) 및 엔트로피 부호화부(150)를 통해 부호화된다.
상기 잔차 블록은 먼저 변환 부호화된다. 효과적인 에너지 압축을 위해, 상기 잔차 블록에 적용할 변환 부호화를 위한 블록의 크기를 먼저 결정하고, 결정된 크기의 블록 단위로 변환 부호화한다. 인트라 예측 모드 값에 따라 서로 다른 변환 부호화 방식이 적용될 수 있다. 예를 들어, DC mode와 planar mode가 선택적으로 적용될 경우, DC mode로 인트라 예측된 잔차 블록에 대해서는 정수기반 DCT(Discrete cosine transform)를, planar mode에 대해서는 정수기반DST(Discrete sine transform)을 적용할 수도 있다. 또한, 인트라 예측 모드에 관계없이 정수기반 DCT만을 적용할 수도 있다. DCT 방식과 DST 방식이 예측 모드에 따라 적응적으로 적용될 수도 있고, 어느 하나의 변환방식만이 적용될 수도 있다. 이 경우에는 비트스트림에 전자 또는 후자 중 어느 것이 적용될 것인지를 나타내는 정보를 포함시킬 수 있다.
다음으로, 변환 부호화된 잔차 블록이 양자화한다. 잔차 블록의 크기에 따라 서로 다른 양자화 매트릭스가 적용된다. 또한, 동일한 크기의 잔차 블록의 경우에는 서로 다른 양자화 매트릭스가 적용될 수 있다. 즉, 변환 부호화된 잔차 블록의 계수들의 분포에 기초하여 적어도 2개 이상의 양자화 매트릭스 중 가장 효과적인 양자화 매트릭스를 적용할 수 있다. 이 경우에는 이를 나타내는 정보를 복호기로 전송하여야 한다. 또한, 인트라 예측 모드에 따라 서로 다른 양자화 매트릭스를 변환 부호화된 잔차 블록에 적용할 수도 있다.
다음으로, 상기 2차원의 양자화된 계수들을 미리 정해진 복수개의 스캔 패턴 중 하나를 선택하여 1차원의 양자화 계수 시퀀스로 변경한 후에 엔트로피 부호화한다. 상기 스캔 패턴은 인트라 예측 모드 값에 따라 결정될 수도 있고, 적용된 양자화 매트릭스에 따라 결정될 수도 있다.
도 4는 본 발명의 실시예에 따른 동영상 복호화 장치를 나타내는 블록도이다.
도 4를 참조하면, 본 발명에 따른 동영상 복호화 장치는, 엔트로피 복호부(210), 역양자화/역변환부(220), 가산기(270), 디블록킹 필터부(250), 픽쳐 저장부(260), 인트라 예측부(230), 움직임 보상 예측부(240) 및 인트라/인터전환 스위치(280)를 구비한다.
엔트로피 복호부(210)는, 동영상 부호화 장치로부터 전송되는 부호화 비트 스트림을 복호하여, 인트라 예측 모드 인덱스, 움직임 정보, 양자화 계수 시퀀스 등으로 분리한다. 엔트로피 복호부(210)는 복호된 움직임 정보를 움직임 보상 예측부(240)에 공급한다. 엔트로피 복호부(210)는 상기 인트라 예측 모드 인덱스를 상기 인트라 예측부(230), 역양자화/역변환부(220)로 공급한다. 또한, 상기 엔트로피 복호화(210)는 상기 역양자화 계수 시퀀스를 역양자화/역변환부(220)로 공급한다.
역양자화/역변환부(220)는 상기 양자화 계수 시퀀스를2차원 배열의 역양자화 계수로 변환한다. 상기 변환을 위해 복수개의 스캐닝 패턴 중에 하나를 선택한다. 현재 블록의 예측모드(즉, 인트라 예측 및 인터 예측 중의 어느 하나)와 인트라 예측 모드 중 적어도 하나에 기초하여 복수개의 스캐닝 패턴 중 하나를 선택한다. 상기 인트라 예측 모드는 인트라 예측부 또는 엔트로피 복호화부로부터 수신한다.
역양자화/역변환부(220)는 상기 2차원 배열의 역양자화 계수에 복수개의 양자화 매트릭스 중 선택된 양자화 매트릭스를 이용하여 양자화 계수를 복원한다. 복원하고자 하는 현재 블록의 크기에 따라 서로 다른 양자화 매트릭스가 적용되며, 동일 크기의 블록에 대해서도 상기 현재 블록의 예측 모드 및 인트라 예측 모드 중 적어도 하나에 기초하여 양자화 매트릭스를 선택한다. 그리고, 상기 복원된 양자화 계수를 역변환하여 잔차 블록을 복원한다.
가산기(270)는 역양자화/역변환부(220)에 의해 복원된 잔차 블록과 인트라 예측부(230) 또는 움직임 보상 예측부(240)에 의해 생성되는 예측 블록을 가산함으로써, 영상 블록을 복원한다.
디블록킹 필터(250)는 가산기(270)에 의해 생성된 복원 영상에 디블록킹 필터 처리를 실행한다. 이에 따라, 양자화 과정에 따른 영상 손실에 기인하는 디블록킹 아티펙트를 줄일 수 있다.
픽쳐 저장부(260)는 디블록킹 필터(250)에 의해 디블록킹 필터 처리가 실행된 로컬 복호 영상을 유지하는 프레임 메모리이다.
인트라 예측부(230)는 엔트로피 복호화부(210)로부터 수신된 인트라 예측 모드 인덱스에 기초하여 현재 블록의 인트라 예측 모드를 복원한다. 그리고, 복원된 인트라 예측 모드에 따라 예측 블록을 생성한다.
움직임 보상 예측부(240)는 움직임 벡터 정보에 기초하여 픽쳐 저장부(240)에 저장된 픽쳐로부터 현재 블록에 대한 예측 블록을 생성한다. 소수 정밀도의 움직임 보상이 적용될 경우에는 선택된 보간 필터를 적용하여 예측 블록을 생성한다.
인트라/인터 전환 스위치(280)는 부호화 모드에 기초하여 인트라 예측부(250)와 움직임 보상 예측부(260)의 어느 하나에서 생성된 예측 블록을 가산기(235)에 제공한다.
이하, 상기 도 4를 참조하여, 현재 블록을 인트라 예측을 통해 복원하는 과정을 설명한다. 도 5는 본 발명의 실시예에 따른 인트라 블록을 복원하기 위한 순서도이다.
먼저, 수신된 비트스트림으로부터 현재 블록의 인트라 예측 모드를 복호한다(S310).
이를 위해, 엔트로피 복호부(210)는 복수개의 인트라 예측 모드 테이블 중 하나를 참조하여 현재 블록의 제1 인트라 예측 모드 인덱스를 복원한다.
상기 복수개의 인트라 예측 모드 테이블은 부호기와 복호기가 공유하는 테이블로서, 현재 블록에 인접한 복수개의 블록들의 인트라 예측 모드의 분포에 따라 선택된 어느 하나의 테이블이 적용될 수 있다. 일예로써, 현재 블록의 좌측 블록의 인트라 예측 모드와 현재 블록의 상측 블록의 인트라 예측 모드가 동일하면 제1 인트라 예측 모드 테이블을 적용하여 현재 블록의 제 1 인트라 예측 모드 인덱스를 복원하고, 동일하지 않으면 제2 인트라 예측 모드 테이블을 적용하여 현재 블록의 제 1 인트라 예측 모드 인덱스를 복원할 수 있다. 또 다른 예로써, 현재 블록의 상측 블록과 좌측 블록의 인트라 예측 모드가 모두 방향성 예측 모드(directional intra prediction mode)일 경우에는, 상기 상측 블록의 인트라 예측 모드의 방향과 상기 좌측 블록의 인트라 예측 모드의 방향이 소정 각도 이내이면, 제 1 인트라 예측 모드 테이블을 적용하여 현재 블록의 제 1 인트라 예측 모드 인덱스를 복원하고, 소정 각도를 벗어나면 제2 인트라 예측 모드 테이블을 적용하여 현재 블록의 제 1 인트라 예측 모드 인덱스를 복원할 수도 있다.
엔트로피 복호부(210)는 복원된 현재 블록의 제1 인트라 예측 모드 인덱스를 인트라 예측부(230)로 전송한다. 상기 제1 인트라 예측 모드를 인덱스를 수신한 인트라 예측부(230)는 상기 상기 인덱스가 최소값을 가질 경우(즉, 0)에는 현재 블록의 최대가능모드를 현재 블록의 인트라 예측 모드로 결정한다. 그러나, 상기 인덱스가 0 이외의 값을 가질 경우에는 현재 블록의 최대가능모드가 나타내는 인덱스와 상기 제1 인트라 예측 모드 인덱스를 비교한다. 비교 결과, 상기 제1 인트라 예측 모드 인덱스가 상기 현재 블록의 최대가능모드가 나타내는 인덱스보다 작지 않으면, 상기 제 1 인트라 예측 모드 인덱스에 1을 더한 제2 인트라 예측 모드 인덱스에 대응하는 인트라 예측 모드를 현재 블록의 인트라 예측 모드로 결정하고, 그렇지 않으면 상기 제 1 인트라 예측 모드 인덱스에 대응하는 인트라 예측 모드를 현재 블록의 인트라 예측 모드를 결정한다.
현재 블록에 허용 가능한 인트라 예측 모드의 수는 블록의 크기에 의존한다. 예를 들어, 현재 블록의 크기가 8x8, 16x16, 32x32인 경우에는 34개의 인트라 예측 모드가 존재할 수 있고, 현재 블록의 크기가 4x4인 경우에는 17개의 인트라 예측 모드가 존재할 수 있다. 상기 허용 가능한 인트라 예측 모드셋은 적어도 하나 이상의 비방향성 모드(non-directional mode)와 복수개의 방향성 모드들(directional modes)로 구성될 수 있다. 하나 이상의 비방향성 모드는 DC 모드 및/또는 플래너(planar) 모드일수 있다. 또한, DC 모드와 플래너 모드 중 어느 하나가 적응적으로 상기 허용 가능한 인트라 예측 모드 셋에 포함될 수 있다. 이를 위해, 픽쳐 헤더 또는 슬라이스 헤더에 상기 허용 가능한 인트라 예측 모드 셋에 포함되는 비방향성 모드를 특정하는 정보가 포함될 수 있다.
다음으로, 인트라 예측부(230)는 인트라 예측 블록을 생성하기 위한 참조 화소들을 픽쳐 저장부(260)부로터 읽어 들이고, 유효하지 않은 참조 화소의 생성 여부를 판단한다(S320). 상기 판단은 현재 블록의 복호된 인트라 예측 모드를 적용하여 인트라 예측 블록을 생성하는데 이용되는 참조 화소들의 존재 여부에 따라 행해질 수 있다.
다음으로, 인트라 예측부(230)는 참조 화소를 생성할 필요가 있을 경우에는 미리 복원된 유효한 참조 화소들로부터 유효하지 않은 위치의 참조화소들을 생성할 수 있다(S325). 유효하지 않은 참조 화소에 대한 정의 및 참조 화소의 생성 방법은 도 2에 따른 인트라 예측부(120)에서의 동작과 동일하다. 다만, 현재 블록의 복호된 인트라 예측 모드에 따라 인트라 예측 블록을 생성하는데 이용되는 참조 화소만들을 선택적으로 복원하는 것이 바람직하다.
다음으로, 인트라 예측부(230)는 예측 블록을 생성하기 위한 유효한 참조 화소들에 필터를 적용할지 여부를 판단한다(S330). 즉, 인트라 예측부(230)는 현재 블록의 인트라 예측 블록을 생성하기 위해 이용되는 유효한 참조 화소들에 대한 필터링의 적용여부를 나타내는 정보, 상기 복호된 인트라 예측 모드 및 현재 블록의 크기에 기초하여 필터 적용 여부 및 적용될 경우의 필터의 종류를 결정한다.
상기 유효한 참조 화소에 필터 적용이 필요하다고 판단된 경우에는 선택된 필터를 이용하여 상기 유효한 참조 화소들을 필터링한다(S335).
상기한 참조 화소들 간의 단차의 차이 정도에 따라 적어도 2개 이상의 필터를 적응적으로 적용하는 것이 바람직하다. 상기 필터들은 저역 통과 필터인 것이 바람직하다. 예를 들어, 3개의 필터를 이용할 경우, 제1 필터는 3-tap 필터, 제2 필터는 5-tap 필터, 제3 필터는 7-tap 필터인 것이 바람직하나, 제2 필터는 제1 필터를 2번 적용하는 필터, 제3 필터는 제1필터를 3번 적용한 것일 수도 있다. 상기 필터의 필터계수는 대칭적인 것이 바람직하다.
또한, 상기한 복수개의 필터가 현재 블록의 크기에 따라 적응적으로 적용되는 것이 바람직하다. 즉, 필터를 적용할 경우, 크기가 작은 블록에 대해서는 대역폭이 좁은 필터를, 크기가 큰 블록들에 대해서는 대역폭이 넓은 필터를 적용하는 것이 바람직하다. 그러나, 현재 블록의 크기가 상기 필터의 탭수보다 작은 경우에는 필터를 적용할 수 없으므로, 필터를 적용하지 않는 것이 바람직하다.
DC 모드의 경우에는 유효한 참조 화소들의 평균값으로 예측 블록이 생성되므로, 필터를 적용할 필요가 없다. 또한, 영상이 수직 방향으로 연관성(correlation)이 있을 경우에는 수직 방향으로의 필터링, 수평 방향으로 연관성이 있을 경우에는 수평 방향으로의 필터링이 불필요할 수 있다. 이와 같이, 필터링의 적용 여부는 현재 블록의 인트라 예측 모드와 연관성이 있으므로, 현재 블록의 인트라 예측 모드에 기초하여 적응적으로 필터링을 적용할 필요가 있다.
*다음으로, 상기 복원된 인트라 예측 모드에 따라, 상기 유효한 참조 화소 또는 상기 필터링된 유효한 참조 화소들을 이용하여 예측 블록을 생성한다(S340).
상기 복원된 인트라 예측 모드가 플래너 모드를 나타낼 경우에는 먼저 제1 참조값을 복원한다. 상기 제 1 참조값 또는 이를 나타내는 정보는 비트스트림에 추가되어 전송될 수 있으며, 현재 블록에 인접한 복원된 적어도 하나 이상의 픽셀들을 이용하여 복원할 수 있다.
수신된 비트스트림으로부터 제1 참조값을 복원하는 경우, 상기 비트스트림에 포함되는 값은 상기 제1 참조값의 예측값과 상기 제1 참조값 사이의 차이값인 것이 바람직하다. 이 경우, 상기 제1 참조값의 예측값은 (1) 현재 블록에 인접한 유효한 참조 화소들의 평균값, (2) A, B, C의 평균값, (3) B와 C의 평균값 중 어느 하나일 수 있다. 또 다른 방법으로는, A와 C의 차이값과 A와 B의 차이값을 비교하여 차이값이 작은 방향을 나타내는 어느 하나(B또는 C)로 결정할 수도 있다.
현재 블록에 인접한 복원된 적어도 하나 이상의 픽셀들을 이용하여 상기 제1 참조값을 복원하는 경우에는, (1) B와 A의 차이값을 C에 더한 값 또는 C와 A의 차이값을 B에 더한 값, 즉 (B+C-A), (2) B와 C의 평균값, (3) 현재 블록에 인접하는 유효한 참조 픽셀들의 평균값 중 어느 하나가 상기 제1 참조값이 되는 것이 바람직하다.
다음으로, 상기 생성된 예측 블록을 필터링할지 여부를 판단한다(S350). 상기 필터링 여부의 판단은 슬라이스 헤더 또는 부호화 유닛 헤더에 포함된 정보를 이용할 수 있다. 또한, 현재 블록의 헤더 정보를 이용하여 필터링 여부를 결정할수도 있다.
상기 생성된 예측 블록을 필터링할 것으로 판단할 경우, 생성된 예측 블록을 필터링한다(S335). 구체적으로, 현재 블록에 인접한 유효한 참조 화소들을 이용하여 생성된 예측 블록의 특정 위치의 화소를 필터링하여 새로운 화소를 생성한다. 이를 위해, 상기 특정 위치의 화소 및 상기 화소의 상측과 좌측의 화소들을 이용할 수 있다(3 tap 필터 적용). 또한, 상기 특정 화소의 좌상측 화소도 이용할 수 있다(4 tap 필터 적용). 이 경우, 상기 생성된 예측 블록의 상측 경계 화소들에 대해서는 상기 경계화소, 상측의 유효한 적어도 하나의 참조 화소, 및 이미 필터링된 좌측의 화소들에 필터를 적용하여 새로운 화소를 생성할 수 있다. 마찬가지로 상기 생성된 예측 블록의 좌측 경계 화소들에 대해서는 상기 경계 화소, 좌측의 유효한 적어도 하나의 참조 화소 및 이미 필터링된 상측 화소들에 필터를 적용하여 새로운 화소를 생성할 수 있다. 그리고, 상기 생성된 예측 블록의 좌상측 경계화소에 대해서는 상기 경계화소 및 좌측, 상측의 유효한 참조 화소들에 필터를 적용하여 새로운 화소를 생성할 수 있다.
이와 같은 방식으로 복원된 현재 블록의 예측 블록과 복호화한 현재 블록의 잔차 블록을 이용하여 현재 블록이 복원된다.
상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.