KR20100119562A

KR20100119562A - 화상 예측 부호화 장치, 화상 예측 부호화 방법, 화상 예측 부호화 프로그램, 화상 예측 복호 장치, 화상 예측 복호 방법 및 화상 예측 복호 프로그램

Info

Publication number: KR20100119562A
Application number: KR20107019654A
Authority: KR
Inventors: 요시노리 스즈키; 춘셍 분
Original assignee: 가부시키가이샤 엔.티.티.도코모
Priority date: 2008-04-24
Filing date: 2009-04-17
Publication date: 2010-11-09
Also published as: US20110261886A1; WO2009131075A1; EP2280549A4; KR20120092684A; CN102017637A; BRPI0911485A2; MX2010011609A; TW200950530A; JP2009267710A; CA2722027A1; AU2009239127B2; JP5406465B2; US8705611B2; AU2009239127A1; EP2280549A1; EP2280549B1; CN102017637B; RU2012102341A

Abstract

적은 부가 정보와 적은 연산량으로 예측 신호를 효율적으로 생성하는 화상 예측 부호화 장치(100)는, 블록 분할기(102)에 의해 분할된 복수개의 영역 중 1개인 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성기(103)와, 기 재생 신호로부터 예측 신호의 생성에 필요한 동작 벡터를 검색하는 동작 추정기(113)와, 예측 신호와 대상 화소 신호와의 잔차 신호를 생성하는 감산기(105)를 구비한다. 예측 신호 생성기(103)는, 동작 벡터에 기초하여 기(旣) 재생 신호의 부분 영역인 탐색 영역을 결정하고, 여기에서 제2종 후보 예측 신호를 1개 이상 생성하고, 이들 복수개의 제2종 후보 예측 신호와 상기 동작 벡터에 기초하여 생성되는 제1종 후보 예측 신호를 미리 결정한 합성 방법을 이용하여 가공함으로써 예측 신호를 생성하는 후보 예측 신호 합성기(203)를 가진다.

Description

화상 예측 부호화 장치, 화상 예측 부호화 방법, 화상 예측 부호화 프로그램, 화상 예측 복호 장치, 화상 예측 복호 방법 및 화상 예측 복호 프로그램 {IMAGE PREDICTION ENCODING DEVICE, IMAGE PREDICTION ENCODING METHOD, IMAGE PREDICTION ENCODING PROGRAM, IMAGE PREDICTION DECODING DEVICE, IMAGE PREDICTION DECODING METHOD, AND IMAGE PREDICTION DECODING PROGRAM}

본 발명은, 화상 예측 부호화 장치, 화상 예측 부호화 방법, 화상 예측 부호화 프로그램, 화상 예측 복호 장치, 화상 예측 복호 방법 및 화상 예측 복호 프로그램에 관한 것으로서, 특히, 동작 검색 방법과 신호 합성 방법을 이용하여 예측 부호화 및 복호하는 화상 예측 부호화 장치, 화상 예측 부호화 방법, 화상 예측 부호화 프로그램, 화상 예측 복호 장치, 화상 예측 복호 방법 및 화상 예측 복호 프로그램에 관한 것이다.

정지 화상이나 동화상 데이터의 전송이나 축적을 효율적으로 행하기 위하여, 압축 부호화 기술이 사용된다. 동화상의 경우에는 MPEG-1∼4나 ITU(International Telecommunication Union) H.261∼H.264의 방식이 널리 사용되고 있다.

이들 부호화 방식에서는, 부호화의 대상으로 되는 화상을 복수개의 블록으로 분할한 후 부호화·복호 처리를 행한다. 화면 내의 예측 부호화에서는, 대상 블록과 동일한 화면 내에 있는 인접하는 기(旣) 재생의 화상 신호(압축된 화상 데이터가 복원된 것)를 사용하여 예측 신호를 생성한 후에, 이 예측 신호를 대상 블록의 신호로부터 뺄셈한 차분 신호를 부호화한다. 화면간의 예측 부호화에서는, 대상 블록과 상이한 화면 내에 있는 인접하는 기 재생의 화상 신호를 참조하여, 동작의 보정을 행하고, 예측 신호를 생성하고, 이 예측 신호를 대상 블록의 신호로부터 뺄셈한 차분 신호를 부호화한다.

예를 들면, H.264의 화면 내 예측 부호화에서는, 부호화의 대상으로 되는 블록에 인접하는 기 재생의 화소값을 소정의 방향으로 외삽(外揷)하여 예측 신호를 생성하는 방법을 채용하고 있다. 도 22는, ITU H.264에 사용되는 화면 내 예측 방법을 설명하기 위한 모식도이다. 도 22의 (A)에서, 대상 블록(1802)은 부호화의 대상으로 되는 블록이며, 그 대상 블록(1802)의 경계에 인접하는 화소 A∼M으로 이루어지는 화소군(1801)은 인접 영역이므로, 과거의 처리에 있어서 이미 재생된 화상 신호이다.

이 경우, 대상 블록(1802)의 바로 위에 있는 인접 화소인 화소군(1801)을 아래쪽에 잡아늘여 예측 신호를 생성한다. 또한, 도 22의 (B)에서는, 대상 블록(1804)의 좌측에 있는 기 재생 화소(I∼L)를 우측으로 잡아늘여 예측 신호를 생성한다. 예측 신호를 생성하는 구체적인 방법은, 예를 들면, 특허 문헌 1에 기재되어 있다. 이와 같이 도 22의 (A)∼(I)에 나타내는 방법으로 생성된 9개의 예측 신호 각각과 대상 블록의 화소 신호와의 차분을 취하여, 차분값이 가장 작은 것을 최적의 예측 신호로 한다. 이상과 같이, 화소를 외삽함으로써 예측 신호를 생성할 수 있다. 이상의 내용은 하기 특허 문헌 1에 기재되어 있다.

통상의 화면간 예측 부호화에서는, 부호화의 대상으로 되는 블록에 대하여, 그 화소 신호와 유사한 신호를 이미 재생된 화면으로부터 탐색하는 방법으로 예측 신호를 생성한다. 그리고, 대상 블록과 탐색된 신호가 구성하는 영역 사이의 공간적인 변위량인 동작 벡터와 대상 블록의 화소 신호와 예측 신호와의 잔차(殘差) 신호를 부호화한다. 이와 같이 블록마다 동작 벡터를 탐색하는 방법은 블록 매칭이라고 한다.

도 5는, 블록 매칭 처리를 설명하기 위한 모식도이다. 여기서는, 부호화 대상의 화면(401) 상의 대상 블록(402)을 예로 들어 예측 신호의 생성 단계를 설명한다. 화면(403)은 이미 재생된 상태이며, 영역(404)은 대상 블록(402)과 공간적으로 동일한 위치의 영역이다. 블록 매칭에서는, 영역(404)을 둘러싸는 탐색 범위(405)를 설정하고, 이 탐색 범위의 화소 신호로부터 대상 블록(402)의 화소 신호와의 절대 오차값의 합이 최소로 되는 영역(406)을 검출한다. 이 영역(406)의 신호가 예측 신호로 되어, 영역(404)으로부터 영역(406)으로의 변위량이 동작 벡터(407)로서 검출된다. H.264에서는, 화상의 국소적인 특징의 변화에 대응하므로, 동작 벡터를 부호화하는 블록 사이즈가 상이한 복수개의 예측 타입을 준비하고 있다. H.264의 예측 타입은, 예를 들면, 특허 문헌 2에 기재되어 있다.

동화상 데이터의 압축 부호화에서는, 각 화면(프레임, 필드)의 부호화 순서는 임의로 하면 된다. 그러므로, 이미 재생된 화면을 참조하여 예측 신호를 생성하는 화면간 예측에도, 부호화 순서는 3종류의 방법이 있다. 제1 방법은, 재생순으로 과거의 재생된 화면을 참조하여 예측 신호를 생성하는 전방향 예측이며, 제2 방법은, 재생순으로 미래의 재생된 화면을 참조하여 예측 신호를 생성하는 후방향 예측이며, 제3 방법은, 전방향 예측과 후방향 예측을 함께 행하여, 2개의 예측 신호를 평균화하는 양방향 예측이다. 화면간 예측의 종류는, 예를 들면, 특허 문헌 3에 기재되어 있다.

앞서 나타낸 바와 같이, H.264에서는, 화상의 국소적인 특징의 변화에 대응하므로, 동작 벡터를 부호화하는 블록 사이즈가 상이한 예측 타입이 준비되어 있다. 그러나, 블록 사이즈가 작아지면 부호화하는 동작 벡터의 수가 증가한다. 그래서, 1개의 동작 벡터를 참고로 하여, 부호화의 대상으로 되는 블록을 4분할한 블록의 동작 벡터를 각 블록에 인접하는 기 재생의 화소값을 이용하여 생성하는 방법이 있다. 이 방법은 특허 문헌 4에 기재되어 있다.

또한, 동작 벡터를 사용하지 않고, 부호화 대상으로 되는 블록에 인접하는 기 재생의 화소값을 이용하여 예측 신호를 생성하는 방법이 있다. 이 때, 복수개의 후보 예측 신호를 생성하여 이들을 평균함으로써, 양방향 예측과 마찬가지로 예측 신호에 포함되는 노이즈 성분을 제거할 수도 있다. 이 방법은 특허 문헌 5에 기재되어 있다.

미국 특허 공보 제6765964호 미국 특허 공보 제7003035호 미국 특허 공보 제6259739호 일본 특허출원 공개번호 평 2-62180호 공보 일본 특허출원 공개번호 2007-300380호 공보

재생 화소값을 카피함으로써 각 화소의 예측 신호를 생성하는 신호 예측 방법에서는, 재생 화소값이 부호화에 의한 왜곡(예를 들면, 양자화 잡음)을 포함하므로 예측 신호도 이 왜곡을 포함하게 된다. 이 부호화에 의한 왜곡을 포함하는 예측 신호는, 잔차 신호의 부호량 증가나 재생 화질 열화 등 부호화 효율을 저하시키는 요인이 된다.

부호화에 의한 왜곡의 영향은, 예측 신호의 평활화에 의해 억제될 수 있다. 따라서, 2개의 예측 신호를 평균화하는 양방향 예측에도 억제 효과가 있다. 그러나, 양방향 예측은, 2개의 예측 신호를 재생 측에 의해 생성하므로, 2개의 동작 벡터를 부호화할 필요가 있다.

한편, 종래 기술에서 나타낸 바와 같이, 부호화 대상으로 되는 블록에 인접하는 기 재생의 화소값을 이용하면, 동작 벡터의 부호화를 행하지 않고, 예측 신호를 생성할 수는 있다. 그러나, 큰 동작을 가지는 입력 화상을 높은 예측 성능으로 부호화하기 위해서는, 탐색 범위를 넓게 할 필요가 있고, 동작 벡터를 부호화하는 방법에 비해, 복호 시의 예측 신호의 생성에 많은 시간을 필요로 한다.

그래서, 전술한 과제를 해결하기 위하여, 본 발명은, 적은 부가 정보와 적은 연산량으로 예측 신호를 효율적으로 생성할 수 있는 화상 예측 부호화 장치, 화상 예측 부호화 방법, 화상 예측 부호화 프로그램, 화상 예측 복호 장치, 화상 예측 복호 방법 및 화상 예측 복호 프로그램을 제공하는 것을 목적으로 한다.

전술한 과제를 해결하기 위하여, 본 발명의 화상 예측 부호화 장치는, 입력 화상을 복수개의 영역으로 분할하는 영역 분할 수단과; 상기 영역 분할 수단에 의해 분할된 복수개의 영역 중 처리 대상인 대상 영역의 대상 화소 신호와의 상관 관계가 높은 신호를 기 재생 신호로부터 탐색하고, 탐색된 상기 신호를 지시하는 동작 정보를 추출하는 동작 추정 수단과; 상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 수단과; 상기 예측 신호 생성 수단에 의해 생성된 예측 신호와 상기 대상 화소 신호와의 잔차 신호를 생성하는 잔차 신호 생성 수단과; 상기 잔차 신호 생성 수단에 의해 생성된 잔차 신호 및 상기 동작 추정 수단에 의해 추출된 동작 정보를 부호화하는 부호화 수단을 구비하고, 상기 예측 신호 생성 수단은, 상기 동작 정보에 기초하여, 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 수단과; 상기 동작 정보에 기초하여, 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 수단과; 상기 대상 영역에 인접하는 기 재생의 인접 화소 신호로 이루어지는 대상(對象) 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 복수개의 상기 예측 인접 영역에 기초하여, 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 수단과; 상기 동작 보상 수단에 의해 생성된 제1종 후보 예측 신호와 상기 템플레이트 매칭 수단에 의해 생성된 1개 이상의 제2종 후보 예측 신호를 사용하여, 예측 신호를 생성하는 후보 예측 신호 합성 수단을 가진다.

전술한 구성에 의해, 동작 정보에 기초하여 탐색 영역을 결정하고, 이 탐색 영역으로부터 제2종 후보 예측 신호를 생성할 수 있다. 따라서, 탐색 시간을 적게 할 수 있으므로, 효율적으로 예측 신호를 생성할 수 있다.

또한, 본 발명의 화상 예측 부호화 장치는, 상기 동작 정보 수단에 의해 추출되는 상기 동작 정보는, 적어도 상기 제1종 후보 예측 신호의 생성에 사용되는 제1 재생 화면을 나타내는 정보와 상기 제1종 후보 예측 신호를 지시하는 동작 벡터의 정보를 포함하고, 상기 탐색 영역 결정 수단은, 상기 제1 재생 화면의 정보에 기초하여 상기 탐색 영역을 포함하는 제2 재생 화면을 선택하고, 상기 대상 영역을 포함하는 화면과 상기 제1 재생 화면과의 사이의 시간 방향의 화면 간격과, 상기 대상 영역을 포함하는 화면과 상기 제2 재생 화면과의 사이의 시간 방향의 화면 간격과, 상기 동작 벡터를 사용하여, 상기 탐색 영역의 제2 재생 화면 내의 공간 위치를 결정하는 것이 바람직하다.

본 발명에 의하면, 제2종 후보 예측 신호를 탐색하기 위한 탐색 영역을 결정할 수 있고, 제2종 후보 예측 신호의 탐색 처리를 신속하게 행할 수 있다.

또한, 본 발명의 화상 예측 부호화 장치에 있어서, 상기 후보 예측 신호 합성 수단은, 상기 대상 인접 영역의 인접 화소 신호와 복수개의 상기 후보 예측 신호에 인접하는 후보 예측 인접 영역의 화소 신호와의 사이의 차분값에 기초하여 가중 평균(weighted average)하기 위한 가중 계수를 생성하고, 상기 가중 계수를 사용하여 복수개의 후보 예측 신호를 가중 평균함으로써 대상 영역의 예측 신호를 생성하는 것이 바람직하다.

본 발명에 의하면, 예측 신호를 평균화할 수 있고, 더욱 적절한 예측 신호를 생성할 수 있다.

또한, 본 발명의 화상 예측 부호화 장치에 있어서, 상기 템플레이트 매칭 수단은, 상기 동작 벡터를 구성하는 각 성분이 0값이며, 상기 탐색 영역이 상기 제1 재생 화면과는 상이한 화면에 속하는 경우, 상기 제2종 후보 예측 신호를 지시하는 동작 벡터를 구성하는 성분 중 적어도 어느 하나의 성분이 0 이외로 되도록 선택하는 것이 바람직하다. 본 발명에 의하면, 평균화 처리의 효과를 더욱 효과적으로 얻을 수 있다.

또한, 본 발명의 화상 예측 부호화 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2 재생 화면을, 상기 대상 영역을 포함하는 화면에 대하여, 제1 재생 화면과는 시간적으로 역방향의 화면으로 결정하는 것이 바람직하다.

또한, 본 발명의 화상 예측 부호화 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2 재생 화면을, 제1 재생 화면과는 상이한 화면이며, 또한 상기 대상 영역을 포함하는 화면과는 시간적으로 가장 가까운 화면으로 결정하는 것이 바람직하다.

또한, 본 발명의 화상 예측 부호화 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서, 복수개의 화면을 선택함으로써, 복수개의 탐색 영역을 선택하는 것이 바람직하다.

또한, 본 발명의 화상 예측 부호화 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서 제1 재생 화면을 선택하는 것이 바람직하다.

또한, 본 발명의 화상 예측 부호화 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서, 상기 입력 화상의 이미 재생된 영역을 선택하는 것이 바람직하다.

또한, 본 발명의 화상 예측 부호화 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2종 후보 예측 신호로서, 상기 제1종 후보 예측 신호와는 상이한 화소 신호를 선택하는 것이 바람직하다.

이들 발명에 있어서, 제2 재생 화면 또는 제2종 후보 예측 신호를 결정·선택함으로써, 후보 예측 신호를 더욱 적절하게 평균화할 수 있고, 적절한 예측 신호를 생성할 수 있다.

또한, 본 발명의 화상 예측 복호 장치는, 압축 데이터 중에서 처리 대상인 대상 영역에 관한 동작 정보의 부호화 데이터와 잔차 신호의 부호화 데이터를 복호하는 데이터 복호 수단과; 상기 데이터 복호 수단에 의해 복호되어 얻어진 잔차 신호로부터 재생 잔차 신호를 복원하는 잔차 신호 복원 수단과; 상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 수단과; 상기 예측 신호 생성 수단에 의해 생성된 예측 신호와 상기 잔차 신호 복원 수단에 의해 복원된 재생 잔차 신호를 가산함으로써, 상기 대상 영역의 화소 신호를 복원하는 화상 복원 수단을 구비하고, 상기 예측 신호 생성 수단은, 상기 데이터 복호 수단에 의해 복호된 동작 정보에 기초하여, 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 수단과; 상기 동작 정보에 기초하여, 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 수단과; 상기 대상 영역에 인접하는 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 복수개의 상기 예측 인접 영역에 기초하여, 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 수단과; 상기 동작 보상 수단에 의해 생성된 제1종 후보 예측 신호와 상기 템플레이트 매칭 수단에 의해 생성된 1개 이상의 제2종 후보 예측 신호에 기초하여, 예측 신호를 생성하는 후보 예측 신호 합성 수단을 가진다.

또한, 본 발명의 화상 예측 복호 장치는, 상기 동작 정보 수단에 의해 추출되는 상기 동작 정보는, 적어도 상기 제1종 후보 예측 신호의 생성에 사용되는 제1 재생 화면을 나타내는 정보와 상기 제1종 후보 예측 신호를 지시하는 동작 벡터의 정보를 포함하고, 상기 탐색 영역 결정 수단은, 상기 제1 재생 화면의 정보에 기초하여 상기 탐색 영역을 포함하는 제2 재생 화면을 선택하고, 상기 대상 영역을 포함하는 화면과 상기 제1 재생 화면과의 사이의 시간 방향의 화면 간격과, 상기 대상 영역을 포함하는 화면과 상기 제2 재생 화면과의 사이의 시간 방향의 화면 간격과, 상기 동작 벡터를 사용하여, 상기 탐색 영역의 제2 재생 화면 내의 공간 위치를 결정하는 것이 바람직하다.

또한, 본 발명의 화상 예측 복호 장치에 있어서, 상기 후보 예측 신호 합성 수단은, 상기 대상 인접 영역의 인접 화소 신호와 복수개의 상기 후보 예측 신호에 인접하는 후보 예측 인접 영역의 화소 신호와의 사이의 차분값에 기초하여 가중 평균하기 위한 가중 계수를 생성하고, 상기 가중 계수에 기초하여, 복수개의 상기 후보 예측 신호를 가중 평균함으로써 대상 영역의 예측 신호를 생성한다.

또한, 본 발명의 화상 예측 복호 장치에 있어서, 상기 템플레이트 매칭 수단은, 상기 동작 벡터를 구성하는 각 성분이 0값이며, 상기 탐색 영역이 상기 제1 화면과는 상이한 화면에 속하는 경우, 상기 제2종 후보 예측 신호를 지시하는 동작 벡터를 구성하는 성분 중 적어도 어느 하나의 성분이 0 이외로 되도록 선택하는 것이 바람직하다. 본 발명에 의하면, 평균화 처리의 효과를 보다 효과적으로 얻을 수 있다.

또한, 본 발명의 화상 예측 복호 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2 재생 화면을, 상기 대상 영역을 포함하는 화면에 대하여, 제1 재생 화면과는 시간적으로 역방향의 화면으로 결정하는 것이 바람직하다.

또한, 본 발명의 화상 예측 복호 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2 재생 화면을, 제1 재생 화면과는 상이한 화면이며, 또한 상기 대상 영역을 포함하는 화면과는 시간적으로 가장 가까운 화면으로 결정하는 것이 바람직하다.

또한, 본 발명의 화상 예측 복호 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서, 복수개의 화면을 선택함으로써, 복수개의 탐색 영역을 선택하는 것이 바람직하다.

또한, 본 발명의 화상 예측 복호 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서 제1 재생 화면을 선택하는 것이 바람직하다.

또한, 본 발명의 화상 예측 복호 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서, 상기 대상 영역을 포함하는 화면을 선택하는 것이 바람직하다.

또한, 본 발명의 화상 예측 복호 장치에 있어서, 상기 탐색 영역 결정 수단은, 상기 제2종 후보 예측 신호로서, 상기 제1종 후보 예측 신호와는 상이한 화소 신호를 선택하는 것이 바람직하다.

또한, 이하에 기재한 바와 같이, 본 발명의 화상 예측 부호화 장치, 화상 예측 복호 장치 외에, 화상 예측 부호화 방법, 화상 예측 복호 방법, 화상 예측 부호화 프로그램, 및 화상 예측 복호 프로그램으로서 파악할 수 있다. 이들 발명은, 카테고리가 상이하며, 장치와 마찬가지의 작용 효과를 얻을 수 있다.

즉, 본 발명의 화상 예측 부호화 방법은, 입력 화상을 복수개의 영역으로 분할하는 영역 분할 단계와; 상기 영역 분할 단계에 의해 분할된 복수개의 영역 중 처리 대상인 대상 영역의 대상 화소 신호와의 상관 관계가 높은 신호를 기 재생 신호로부터 탐색하고, 탐색된 상기 신호를 지시하는 동작 정보를 추출하는 동작 추정 단계와; 상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 단계와; 상기 예측 신호 생성 단계에 의해 생성된 예측 신호와 상기 대상 화소 신호와의 잔차 신호를 생성하는 잔차 신호 생성 단계와; 상기 잔차 신호 생성 단계에 의해 생성된 잔차 신호 및 상기 동작 추정 단계에 의해 추출된 동작 정보를 부호화하는 부호화 단계를 포함하고, 상기 예측 신호 생성 단계는, 상기 동작 정보에 기초하여, 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 단계와; 상기 동작 정보에 기초하여, 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 단계와; 상기 대상 영역에 인접하는 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 복수개의 상기 예측 인접 영역에 기초하여, 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 단계와; 상기 동작 보상 단계에 의해 생성된 제1종 후보 예측 신호와 상기 템플레이트 매칭 단계에 의해 생성된 1개 이상의 제2종 후보 예측 신호에 기초하여, 예측 신호를 생성하는 후보 예측 신호 합성 단계를 가진다.

또한, 본 발명의 화상 예측 복호 방법은, 압축 데이터 중에서 처리 대상인 대상 영역에 관한 동작 정보의 부호화 데이터와 잔차 신호의 부호화 데이터를 복호하는 데이터 복호 단계와; 상기 데이터 복호 단계에 의해 복호되어 얻어진 잔차 신호로부터 재생 잔차 신호를 복원하는 잔차 신호 복원 단계와; 상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 단계와; 상기 예측 신호 생성 단계에 의해 생성된 예측 신호와 상기 잔차 신호 복원 단계에 의해 복원된 재생 잔차 신호를 가산함으로써, 상기 대상 영역의 화소 신호를 복원하는 화상 복원 단계를 포함하고, 상기 예측 신호 생성 단계는, 상기 데이터 복호 단계에 의해 복호된 동작 정보에 기초하여, 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 단계와; 상기 동작 정보에 기초하여, 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 단계와; 상기 대상 영역에 인접하는 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 복수개의 상기 예측 인접 영역에 기초하여, 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 단계와; 상기 동작 보상 단계에 의해 생성된 제1종 후보 예측 신호와 상기 템플레이트 매칭 단계에 의해 생성된 1개 이상의 제2종 후보 예측 신호에 기초하여, 예측 신호를 생성하는 후보 예측 신호 합성 단계를 가진다.

또한, 본 발명의 화상 예측 부호화 프로그램은, 입력 화상을 복수개의 영역으로 분할하는 영역 분할 모듈과; 상기 영역 분할 모듈에 의해 분할된 복수개의 영역 중 처리 대상인 대상 영역의 대상 화소 신호와의 상관 관계가 높은 신호를 기 재생 신호로부터 탐색하고, 탐색한 상기 신호를 지시하는 동작 정보를 추출하는 동작 추정 모듈과; 상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 모듈과; 상기 예측 신호 생성 모듈에 의해 생성된 예측 신호와 상기 대상 화소 신호와의 잔차 신호를 생성하는 잔차 신호 생성 모듈과; 상기 잔차 신호 생성 모듈에 의해 생성된 잔차 신호 및 상기 동작 추정 모듈에 의해 추출된 동작 정보를 부호화하는 부호화 모듈을 구비하고, 상기 예측 신호 생성 모듈은, 상기 동작 정보에 기초하여, 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 모듈과; 상기 동작 정보에 기초하여, 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 모듈과; 상기 대상 영역에 인접하는 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 복수개의 상기 예측 인접 영역에 기초하여, 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 모듈과; 상기 동작 보상 모듈에 의해 생성된 제1종 후보 예측 신호와 상기 템플레이트 매칭 모듈에 의해 생성된 1개 이상의 제2종 후보 예측 신호에 기초하여, 예측 신호를 생성하는 후보 예측 신호 합성 모듈을 가진다.

또한, 본 발명의 화상 예측 복호 프로그램은, 압축 데이터 중에서 처리 대상인 대상 영역에 관한 동작 정보의 부호화 데이터와 잔차 신호의 부호화 데이터를 복호하는 데이터 복호 모듈과; 상기 데이터 복호 모듈에 의해 복호되어 얻어진 잔차 신호로부터 재생 잔차 신호를 복원하는 잔차 신호 복원 모듈과; 상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 모듈과; 상기 예측 신호 생성 모듈에 의해 생성된 예측 신호와 상기 잔차 신호 복원 모듈에 의해 복원된 재생 잔차 신호를 가산함으로써, 상기 대상 영역의 화소 신호를 복원하는 화상 복원 모듈을 구비하고, 상기 예측 신호 생성 모듈은, 상기 데이터 복호 모듈에 의해 복호된 동작 정보에 기초하여, 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 모듈과; 상기 동작 정보에 기초하여, 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 모듈과; 상기 대상 영역에 인접하는 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 상기 복수개의 예측 인접 영역에 기초하여, 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 모듈과; 상기 동작 보상 모듈에 의해 생성된 제1종 후보 예측 신호와 상기 템플레이트 매칭 모듈에 의해 생성된 1개 이상의 제2종 후보 예측 신호에 기초하여, 예측 신호를 생성하는 후보 예측 신호 합성 모듈을 가진다.

본 발명의 화상 예측 부호화 장치, 화상 예측 부호화 방법, 화상 예측 부호화 프로그램, 화상 예측 복호 장치, 화상 예측 복호 방법 및 화상 예측 복호 프로그램에 의하면 적은 동작 정보에 기초하여 복수개의 후보 예측 신호를 적은 탐색 시간에 생성할 수 있으므로, 평균화 효과에 따른 예측 신호를 양호한 효율로 생성할 수 있다. 또한, 동작 정보를 이용하지 않는 예측 방법과 본 방법을 적용적으로 이용하는 경우, 전자의 예측 방법의 탐색 범위를 제한할 수 있는 효과가 있다.

도 1은 본 실시예에 따른 화상 예측 부호화 장치를 나타낸 블록도이다.
도 2는 도 1에 나타내는 예측 신호 생성기를 나타낸 블록도이다.
도 3은 도 2에 나타내는 템플레이트 매칭기를 나타낸 블록도이다.
도 4는 도 2에 나타내는 후보 예측 신호 합성기와 가중 계수 산출기를 나타낸 블록도이다.
도 5는 동작 추정 처리(블록 매칭 처리)를 설명하기 위한 모식도이며, (a)는 참조 화면을 나타내고, (b)는 부호화 대상의 화면을 나타낸다.
도 6은 탐색 영역 설정 처리에 관한 모식도이다.
도 7은 화면간 예측에 있어서의 템플레이트 매칭 처리에 관한 모식도이며, (a)는 참조 화면을 나타내고, (b)는 부호화 대상의 화면을 나타낸다.
도 8은 화면간 예측 템플레이트 매칭 처리의 변형예에 따른 제1 모식도이며, (a)는 참조 화면을 나타내고, (b)는 부호화 대상의 화면을 나타낸다.
도 9는 도 1에 나타낸 화상 예측 부호화 장치의 화상 예측 부호화 방법의 단계를 나타내는 흐름도이다.
도 10은 예측 신호의 생성 방법의 단계를 설명하기 위한 흐름도이다.
도 11은 템플레이트 매칭 처리의 단계를 설명하기 위한 흐름도이다.
도 12는 복수개의 후보 예측 신호의 합성 방법의 단계를 설명하기 위한 흐름도이다.
도 13은 본 실시예에 따른 화상 예측 복호 장치를 나타낸 블록도이다.
도 14는 도 13에 나타낸 화상 예측 복호 장치의 화상 예측 복호 방법의 단계를 나타내는 흐름도이다.
도 15는 본 실시예에 따른 화상 예측 부호화 방법을 실행할 수 있는 프로그램을 나타낸 블록도이다.
도 16은 도 15에 나타낸 예측 신호 생성 모듈을 나타낸 블록도이다.
도 17은 본 실시예에 따른 화상 예측 복호 방법을 실행할 수 있는 프로그램을 나타낸 블록도이다.
도 18은 기록 매체에 기록된 프로그램을 실행하기 위한 컴퓨터의 하드웨어 구성을 나타낸 도면이다.
도 19는 기록 매체에 기억된 프로그램을 실행하기 위한 컴퓨터의 사시도이다.
도 20은 화면 내 예측에 있어서의 동작 추정 처리 (a)와 템플레이트 매칭 처리 (b)에 관한 모식도이다.
도 21은 화면 내 예측에 있어서의 템플레이트 매칭 처리의 변형예에 따른 모식도이다.
도 22는 종래의 화면 내 예측 방법을 설명하기 위한 모식도이다.

이하, 첨부 도면을 참조하면서 본 실시예를 상세하게 설명한다. 그리고, 도면의 설명에서 동일하거나 또는 동등한 요소에는 동일한 부호를 부여하고, 중복되는 설명을 생략한다.

<화상 예측 부호화 방법>

도 1은, 본 실시예에 따른 화상 예측 부호화 장치(100)을 나타낸 블록도이다. 이 화상 예측 부호화 장치(100)는, 입력 단자(101), 블록 분할기(102)(영역 분할 수단), 예측 신호 생성기(103)(예측 신호 생성 수단), 프레임 메모리(104), 감산기(105)(잔차 신호 생성 수단), 변환기(106), 양자화기(107), 역양자화기(108), 역변환기(109)(부호화 수단), 가산기(110)(부호화 수단), 엔트로피 부호화기(111)(부호화 수단), 출력 단자(112), 및 동작 추정기(113)(동작 추정 수단)를 구비하고 있다. 변환기(106) 및 양자화기(107)는, 부호화 수단으로서 기능한다.

입력 단자(101)는, 복수개의 화상으로 이루어지는 동화상의 신호를 입력하는 단자이다.

블록 분할기(102)는, 입력 단자(101)로부터 입력된 신호에 의해 표시되는, 부호화의 대상이 되는 화상을 복수개의 영역으로 분할한다. 본 실시예에서는, 8×8의 화소로 이루어지는 블록으로 분할하지만, 그 이외의 블록의 크기 또는 형태로 분할해도 된다.

동작 추정기(113)는, 부호화 처리의 대상으로 되는 대상 영역(대상 블록)의 예측 신호를 생성하기 위해 필요로 하는 동작 정보를 검출한다. 이 동작 추정기(113)의 구체적인 처리는 후술한다.

예측 신호 생성기(103)는, 라인 L113를 경유하여 입력된 동작 정보를 사용하여, 대상 블록의 예측 신호를 생성하고, 이 예측 신호를 감산기(105)에 출력하고, 예측 방법에 관한 정보를 엔트로피 부호화기(111)에 출력하는 부분이다. 이 예측 신호 생성기(103)의 구체적인 처리에 대해서는 후술한다.

프레임 메모리(104)는, 참조 화상을 기억하는 것으로서, 후술하는 바와 같이 대상 블록의 신호를 재생하는 것에 의해 생성된 참조 화상을 기억한다.

감산기(105)는, 라인 L102를 경유하여 입력된 블록 분할기(102)로 분할되어 얻어진 대상 영역으로부터, 라인 L103을 경유하여 입력된 예측 신호 생성기(103)에 의해 생성된 예측 신호를 감산하여, 잔차 신호를 생성하는 부분이다. 감산기(105)는, 감산하여 얻은 잔차 신호를, 라인 L105를 경유하여 변환기(106)에 출력한다.

변환기(106)는, 감산하여 얻어진 잔차 신호를 이산 코사인 변환하는 부분이다. 또한, 양자화기(107는, 변환기(106)에 의해 이산 코사인 변환된 변환 계수를 양자화하는 부분이다. 엔트로피 부호화기(111)는, 양자화기(107)에 의해 양자화된 변환 계수를 부호화하고, 예측 방법에 관한 정보를 부호화하고, 부호화된 정보를 라인 L111을 경유하여 출력한다. 출력 단자(112)는, 엔트로피 부호화기(111)로부터 입력된 정보를 외부에 출력한다.

역양자화기(108)는, 양자화된 변환 계수를 역양자화한다. 역변환기(109)는, 역이산 코사인 변환에 의해 잔차 신호를 복원한다. 가산기(110)는, 복원된 잔차 신호와 라인 L103으로부터 보내진 예측 신호를 가산하고, 대상 블록의 신호를 재생하고, 프레임 메모리(104)에 저장한다. 본 실시예에서는, 변환기(106)와 역변환기(109)를 사용하고 있지만, 이들 변환기에 대신하는 다른 변환 처리를 사용해도 된다. 또한, 변환기(106) 및 역변환기(109)는 필수적인 것은 아니다. 이와 같이, 후속의 대상 영역에 대한 화면 내 예측 또는 화면간 예측을 행하기 위하여, 압축된 대상 영역의 화소 신호는, 역처리에 의해 복원되고 프레임 메모리(104)에 기억된다.

다음으로, 동작 추정기(113)와 예측 신호 생성기(103)에 대하여 설명한다. 동작 추정기(113)는, 프레임 메모리(104)에 기억되어 있는 기 재생 신호로부터 부호화 처리의 대상으로 되는 대상 영역(이하, 대상 블록이라고 함)과 유사한 후보 예측 영역을 탐색하고, 탐색된 후보 예측 영역을 기 재생 신호로부터 취득하기 위해 필요로 하는 동작 정보를 추출한다. 예측 신호 생성기(103)는, 추출된 동작 정보와 기 재생 신호를 사용하여 대상 블록의 예측 신호를 생성한다. 본 실시예에서는 2종류의 예측 방법이 사용된다. 즉, 예측 신호 생성기(103)는, 화면간 예측 방법과 화면 내 예측 방법 중 적어도 한쪽을 사용하여 예측 신호를 생성한다. 화면간 예측 방법 및 화면 내 예측 방법을 선택하기 위한 선택 정보는, 양자화된 변환 계수 및 동작 정보와 함께 엔트로피 부호화기(111)에 의해 부호화되고, 출력 단자(112)로부터 송출된다.

먼저, 동작 추정기(113)에 있어서의 동작 정보의 생성 처리를 설명한다. 동작 추정기(113)는, 화면 내 예측 방법을 이용하는 경우, 대상 블록과 동일한 화면(프레임 또는 필드)의 기 재생의 화상 신호를 참조 화면(제1 재생 화면에 상당)으로 하여, 블록 매칭 처리에 의해 동작 벡터를 검출한다. 여기서, 참조 화면은 동작 벡터의 탐색을 실시하는 대상의 재생 화면을 나타낸다. 화면간 예측 방법을 이용하는 경우, 대상 블록과 상이한 화면(프레임 또는 필드)의 재생 화상 신호를 참조 화면(제1 재생 화면에 상당)으로 하여, 블록 매칭 처리에 의해 동작 벡터를 검출한다. 검출된 동작 벡터는, 동작 정보로서 동작 추정기(113)로부터, L113을 경유하여 예측 신호 생성기(103)와 엔트로피 부호화기(라인 L113 경유)로 각각 출력된다.

도 5를 사용하여, 동작 추정기(113)에서의 화면간 예측에 있어서의 동작 벡터 탐색 방법을 더욱 상세하게 설명한다. 도 5에서는, 이러한 예로서 블록 매칭 처리를 설명한다. 동작 추정기(113)는 동작 정보를 탐색할 수 있으면 되며, 블록 매칭 처리로 한정되지는 않는다. 도 5는, 동작 벡터의 검출 방법을 설명하기 위한 모식도이며, 도 5의 (a)는 참조 화면(제1 재생 화면에 상당)을 나타내고, 도 5의 (b)는 부호화 대상의 화면을 나타낸다. 여기서는, 부호화 대상의 화면(401)에 있어서, 대상 블록(402)에 대한 동작 벡터를 검출하는 경우에 대하여 설명한다.

먼저, 과거의 처리에서 이미 재생된 화면(403)이 참조 화면이 되고, 참조 화면 상에 탐색 영역(405)이 설정된다. 도 5에서는, 대상 블록(402)과 공간적으로 동일한 위치의 영역(404)의 주위에 탐색 영역(405)이 설정되어 있지만, 공간적으로 어긋난 위치에 설정되어도 상관없다. 다음으로, 탐색 영역(405)에 있어서, 대상 블록(402)과 동일한 형상을 가지는 화소군 사이에서, 대응하는 화소 사이의 절대 오차값의 합(SAD)이 구해지고, 가장 작은 SAD를 부여하는 영역(406)이 검색된다. 이 영역(406)은 제1종 후보 예측 신호로 된다. 이 때, 영역(406)을 검색하기 위한 평가값은 SAD 이외일 수도 있다. 그리고, 영역(404)으로부터 영역(406)으로의 변위량이 대상 블록의 동작 벡터(407)로서 검출된다. 도 5에서는, 참조 화면은 1장이지만, 복수장의 기 재생 화면 상에 탐색 영역을 설정하여, 동작 벡터의 탐색을 행하는 방법도 있다. 이 경우에는, 검출한 동작 벡터가 속하는 기 재생 화면을 식별하는 참조 화면 번호가 동작 정보에 포함된다. 그리고, 화면 내 예측 방법에서는, 도 20의 (a)에 나타낸 바와 같이 탐색 영역(439)은, 부호화 대상의 화면(401) 내에 설정되므로, 참조 화면 번호의 부호화는 불필요하다. 도 20의 (a)에서는, 영역(431)이, 대상 블록(402) 사이에서 가장 작은 SAD를 부여하는 영역을 나타내고, 동작 벡터(432)가 대상 영역(402)으로부터 영역(431)으로의 변위량을 나타내고 있다.

다음으로, 예측 신호 생성기(103)에 있어서의 대상 블록의 예측 신호의 생성 처리를 화면간 예측 방법의 경우를 예로 들어 설명한다. 도 2는, 예측 신호 생성기(103)의 블록도이다. 예측 신호 생성기(103)는, 탐색 영역 설정기(201)(탐색 영역 결정 수단)와, 템플레이트 매칭기(202)(템플레이트 매칭 수단)와, 후보 예측 신호 합성기(203)(후보 예측 신호 합성 수단)와, 동작 보상기(204)(동작 보상 수단)와, 후보 예측 영역 취득기(205)(템플레이트 매칭 수단에 포함됨)와, 가중 계수 산출기(206)(후보 예측 신호 합성 수단에 포함되는)를 구비하고 있다. 예측 신호 생성기(103)에서는, 탐색 영역 설정기(201)가 전술한 동작 정보에 기초하여, 템플레이트 매칭의 대상으로 되는 탐색 영역을 기 재생의 화면 상에 설정하고, 템플레이트 매칭기(202)가 탐색 영역으로부터 대상 블록에 대한 복수개의 후보 예측 신호(제2종 후보 예측 신호)를 탐색한다. 그리고, 동작 보상기(204)와 후보 예측 영역 취득기(205)가, 기 재생 신호로부터 취득한 후보 예측 신호(각각, 제1종 후보 예측 신호와 제2종 후보 예측 신호)를 취득하고, 후보 예측 신호 합성기(203)가 이들 후보 예측 신호를 가중 계수 산출기(206)에 의해 결정하는 가중 계수를 사용하여 가중 평균에 의해 합성하여, 대상 블록에 대한 예측 신호를 생성한다.

이 때, 예측 신호 생성기(103)가, 동작 추정기(113)에서 생성되고, L113을 경유하여 입력되는 동작 정보[탐색 영역 설정기(201)와 동작 보상기(204)와 가중 계수 산출기(206)에 입력]에 기초하여 예측 신호를 생성함으로써, 즉 대상 블록(402)의 화상 신호와의 오차가 작은 예측 영역(406)의 화상 신호를, 후보 예측 신호의 하나[제1종 후보 예측 신호, 영역(406)은 제1종 후보 예측 영역]로 함으로써, 예측 성능의 향상을 도모한다. 즉, 예측 신호 생성기(103)는, 동작 보상기(204)(동작 보상 수단)를 포함하고, 이 동작 보상기(204)는, L113을 경유하여 입력되는 동작 정보에 기초하여, 프레임 메모리(104)의 참조 화면(제1 재생 화면)으로부터 제1종 후보 예측 신호를 취득하고, 후보 예측 신호 합성기(203)에 출력한다. 또한, 탐색 영역 설정기(201)는, L113을 경유하여 입력되는 동작 정보에 기초하여 참조 화면(제2 재생 화면)과 탐색 영역을 결정하고, L201을 경유하여 템플레이트 매칭기(202)에 출력한다.

템플레이트 매칭기(202)는, 전술한 탐색 영역[프레임 메모리(104) 내의 참조 화면의 일부]으로부터 1개 이상의 후보 예측 신호(제2종 후보 예측 신호)를 탐색하고, 탐색된 신호를 제2 재생 화면으로부터 취득하기 위한 액세스 정보를 L202 경유로 후보 예측 영역 취득기(205)에 출력한다. 후보 예측 영역 취득기(205)는, 프레임 메모리(104)의 참조 화면(제2 재생 화면)으로부터 제2종 후보 예측 신호를 취득하여, 후보 예측 신호 합성기(203)에 출력한다. 이와 같이 전술한 동작 정보에 기초하여, 그 외의 후보 예측 신호(제2종 후보 예측 신호)에 대한 탐색 영역을 이 참조 화면과 동작 벡터로부터 결정하므로, 좁은 탐색 영역에서 양호한 효율로 후보 예측 신호를 탐색할 수 있게 된다. 그리고, 제2종 후보 예측 신호는 1개 이상이면 되고, 그 수는 한정되지 않는다.

(탐색 영역 설정기(201)의 설명)

탐색 영역 설정기(201)에서는, L113을 경유하여 입력되는 동작 정보에 기초하여, 제2종 후보 예측 신호를 탐색하는 참조 화면과 탐색 영역을 결정한다. 도 6은, 부호화 대상의 화면(401) 내의 대상 블록(402)에 대한 제2종 후보 예측 신호를 탐색하는 참조 화면(409)을 복수개의 재생 화면으로부터 선택하는 방법, 및 탐색 영역의 중심 위치(탐색 중심)를 결정하는 방법을 설명하는 도면이다. 이 예에서는, 기 재생 신호에 의해 구성되는 참조 화면의 후보로부터, 동작 정보가 나타내는 참조 화면(403)(제1종 후보 예측 신호를 탐색한 화면: 제1 재생 화면)과는 상이하면서, 또한 부호화 대상의 화면(401)에 시간적으로 가장 가까운 재생 화면을 제2종 후보 예측 신호를 탐색하는 참조 화면(제2 재생 화면)으로서 선택한다.

도 6의 (1)과 도 6의 (2)는, 모든 참조 화면의 후보가 부호화 대상의 화면에 대하여 시간적으로 과거의 화면일 때의 참조 화면(409)을 나타내고 있다. 도 6의 (1)과 같이, 참조 화면의 후보 중, 동작 정보가 나타내는 참조 화면(403)(시간 t-a)이 부호화 대상의 화면(401)(시간 t)에 시간적으로 가장 가까운 경우에는, 화면(403)보다 시간적으로 과거의 참조 화면(시간 t-b, a<b)을, 제2종 후보 예측 신호를 탐색하는 참조 화면(409)으로서 선택한다. 도 6의 (2)와 같이, 동작 정보가 나타내는 참조 화면(403)(시간 t-a)과 부호화 대상의 화면(401)(시간 t)과의 사이에, 참조 화면의 다른 후보가 존재하는데 경우에는, 2 화면 사이의 화면 중, 부호화 대상의 화면(401)(시간 t)에 시간적으로 가장 가까운 참조 화면(시간 t-b, a>b)을, 제2종 후보 예측 신호를 탐색하는 참조 화면(409)으로서 선택한다.

도 6의 (3)과 도 6의 (4)는, 참조 화면의 후보에 부호화 대상의 화면에 대하여 시간적으로 미래의 화면이 포함될 때의 참조 화면(409)을 나타내고 있다. 도 6의 (3)과 같이, 참조 화면의 후보 중, 동작 정보가 나타내는 참조 화면(403)(시간 t+a, a<0)이 부호화 대상의 화면(401)(시간 t)에 대하여 시간적으로 과거의 화면인 경우에는, 부호화 대상의 화면(401)에 대하여 시간적으로 미래이면서, 또한 부호화 대상의 화면(401)에 가장 가까운 화면(시간 t+b, b>0)을, 제2종 후보 예측 신호를 탐색하는 참조 화면(409)으로서 선택한다. 도 6의 (4)와 같이, 참조 화면의 후보 중, 동작 정보가 나타내는 참조 화면(403)(시간 t+a, a>0)이 부호화 대상의 화면(401)(시간 t)에 대하여 시간적으로 미래의 화면인 경우에는, 부호화 대상의 화면(401)에 대하여 시간적으로 과거이면서, 또한 부호화 대상의 화면(401)에 가장 가까운 화면(시간 t+b, b<0)을, 제2종 후보 예측 신호를 탐색하는 참조 화면(409)으로서 선택한다.

도 6의 (3)이나 도 6의 (4)와 같이, 부호화 대상의 화면에 대하여 시간적으로 미래의 화면을 예측 신호의 생성에 사용할 수 있는 경우에는, 참조 화면(409)(제2 재생 화면)을 화면(401)에 대하여, 참조 화면(403)(제1 재생 화면)과는 시간적으로 역방향으로 선택함으로써, 양방향 예측에 의한 예측 효율 개선 효과가 얻어진다.

도 6의 (5)와 도 6의 (6)은, 참조 화면의 후보가 1개일 때의 참조 화면(409)을 나타내고 있다. 이들의 경우에는, 제2종 후보 예측 신호를 탐색하는 참조 화면(409)은 동작 정보가 나타내는 참조 화면(403)과 동일하다. 그리고, 참조 화면의 후보가 1장이 아닌 경우에 있어서도, 제2종 후보 예측 신호를 탐색하는 참조 화면(409)으로서 동작 정보에 포함되는 참조 화면 번호가 지시하는 참조 화면(403)을 선택해도 된다.

탐색 영역의 중심 위치인 탐색 중심은, 부호화 대상의 화면(401)과, 동작 정보가 나타내는 참조 화면(403) 및 제2종 후보 예측 신호를 탐색하는 참조 화면(409)과의 사이의 화면간 시간차(각각 t1과 t2)와 동작 정보에 포함되는 동작 벡터(407)를 참조 화면(409) 상에 스케일링(scaling)함으로써 결정된다. 식 (1)은 동작 정보에 포함되는 동작 벡터(407), 식 (2)은 동작 벡터(407)를 참조 화면(409)에 스케일링한 스케일링 동작 벡터(408)을 나타낸다.

탐색 영역은, 스케일링 동작 벡터(408)가 나타내는 화소 위치를 중심으로 하여, 참조 화면(409)에 설정된다. 이 때, 스케일링 동작 벡터(408)의 수평·수직 성분의 값이 1/2 화소, 1/4 화소 등의 소수값인 경우에는, 정수값으로 라운딩(rounding)해도 된다. 탐색 영역의 크기는 임의이며, 미리 결정해 둔다. 또한, 탐색 영역의 크기는 시퀀스 단위나 화면 단위로 부호화해도 된다.

도 6에서는, 제2종 후보 예측 신호를 탐색하는 참조 화면(409)을 1장으로 하고 있지만, 복수장를 선택하여, 각각의 화면에 탐색 영역을 설정해도 된다. 후술하는 바와 같이, 제2종 후보 예측 신호는 대상 영역에 인접하는 기 재생의 화소군을 사용하여 후보 예측 신호를 탐색한다. 그러므로 탐색할 참조 화면의 수를 늘려도, 제2종 후보 예측 신호의 탐색에 있어서, 참조 화면의 정보를 부호화할 필요는 없다.

그리고, 동작 벡터(407)와 스케일링 동작 벡터(408)가 함께 제로 벡터인 경우에는, 탐색 중심 위치의 블록 신호, 즉 스케일링 동작 벡터에 의해 지시되는 블록 신호는, 템플레이트 매칭기(202)에 있어서 템플레이트 매칭의 탐색 대상으로부터 제외된다. 이 경우에는, 탐색 중심 위치의 블록 신호가, 제1종 후보 예측 신호와 같아질 가능성이 높고, 평균화의 효과가 얻어지기 어려울 것으로 여겨지기 때문이다. 특히 동작 정보에 포함되는 참조 화면 번호가, 도 6의 (1)과 같이 부호화 대상의 화면에 시간적으로 인접하는 화면을 나타내고 있는 경우에는, 이런 경향이 강하다. 그래서, 참조 화면 번호가 특정한 값인 경우에 한해서, 동작 벡터(407)와 스케일링 동작 벡터(408)가 함께 제로 벡터인 경우에, 탐색 중심 위치의 블록 신호를, 템플레이트 매칭의 탐색 대상으로부터 제외하도록 해도 된다. 즉, 템플레이트 매칭기(202)는, 동작 벡터를 구성하는 성분이 제로이며, 탐색 영역이 참조 화면(403)(제1 재생 화면)과는 상이한 화면에 속하는 경우, 제2종 후보 예측 신호를 지시하는 동작 벡터를 구성하는 성분 중 적어도 어느 하나의 성분이 0 이외로 되도록 선택하는 것이 바람직하다.

화면 내 예측을 적용할 경우에는, 탐색 영역 설정기(201)는 불필요하다. 화면 내 예측에서는, 제2종 후보 예측 신호를 탐색하는 탐색 중심은 부호화 대상의 화면(401) 상에서 동작 정보에 포함되는 동작 벡터가 지시하는 화소 위치에 설정된다. 이 경우, 탐색 중심의 화소 위치는, 제1종 후보 예측 신호를 나타내므로 탐색 대상으로부터 제외한다.

또한, 도 6의 (5)와 도 6의 (6)과 같이, 제2종 후보 예측 신호를 탐색하는 참조 화면(409)이 동작 정보가 나타내는 참조 화면(403)과 동일할 경우, 스케일링 동작 벡터(408)는 동작 벡터(407)와 일치한다. 이 경우, 탐색 중심의 화소 위치는, 제1종 후보 예측 신호를 나타내므로 제2종 후보 예측 신호의 탐색 대상으로부터 제외한다. 그리고, 참조 화면의 후보가 1장인 경우와는 관계없이(에도 불구하고), 제2종 후보 예측 신호를 탐색하는 참조 화면(409)으로서 동작 정보에 포함되는 참조 화면 번호가 지시하는 참조 화면(403)을 선택하고 있는 경우에는, 마찬가지로 탐색 중심의 화소 위치를, 제2종 후보 예측 신호의 탐색 대상으로부터 제외한다.

여기서 나타낸 3개의 경우를 모아서, 스케일링 동작 벡터(408)가 지시하는 블록 신호를, 제2종 후보 예측 신호를 탐색하기 위한 템플레이트 매칭의 탐색 대상으로부터 제외하도록 해도 된다. 또한, 제2종 후보 예측 신호는 제1종 후보 예측 신호와는 상이한 신호가 되도록 제한해도 되고, 제2종 후보 예측 신호에 제1종 후보 예측 신호가 포함되지 않도록 제한해도 된다.

(템플레이트 매칭기(202)의 설명)

템플레이트 매칭기(202)에서는, L201을 경유하여 입력되는 참조 화면과 탐색 영역의 정보에 기초하여, 참조 화면 내의 탐색 영역으로부터 제2종 후보 예측 신호를 복수개 탐색한다. 템플레이트 매칭에서는, 대상 블록에 인접하는 재생 화소군으로 이루어지는 대상 인접 영역과 유사한 영역을 재생 신호로부터 탐색한다. 도 3과 도 7을 사용하여 설명한다.

도 3은, 템플레이트 매칭기(202)의 구성을 나타낸 블록도이다. 템플레이트 매칭기(202)는, 대상 인접 영역 취득기(211)와 예측 인접 영역 취득기(212)와 후보 예측 영역 선택기(213)와 후보 예측 영역 결정기(214)로 구성된다.

(화면간 예측에 있어서의 템플레이트 매칭기(202)의 설명)

도 7은, 화면간 예측의 경우에 대하여, 템플레이트 매칭기(202)에 의해 제2종 후보 예측 신호를 복수개 탐색하는 방법을 설명하는 도면이다. 참조 화면(409) 내의 탐색 영역(414)으로부터 제2종 후보 예측 신호를 복수개 탐색한다. 좌표(410)는 탐색 중심을 나타낸다.

먼저, 대상 인접 영역 취득기(211)에서는, L104를 경유하여, 대상 블록에 대하여, 미리 결정된 방법으로 대상 인접 영역(템플레이트라고도 함)을 프레임 메모리(104)로부터 취득한다. 취득된 템플레이트 신호는 L211를 경유하여, 예측 인접 영역 취득기(212)와 후보 예측 영역 선택기(213)에 출력된다. 본 실시예에서는, 대상 블록(402)에 인접하는 기 재생의 화소군(역L자의 영역)(415)을 대상 인접 영역으로 한다. 이 대상 인접 영역(415)은, 대상 블록(402)의 주위의 이미 재생된 화소로 구성되어 있으면 되고, 형태와 화소수는 미리 정해두므로 임의이면 된다. 또한, 시퀀스 단위나 화면 단위나 블록 단위 등으로 템플레이트의 형상과 사이즈(화소수)를 부호화해도 된다.

다음으로, 예측 인접 영역 취득기(212)에서는, L201을 경유하여 입력되는 참조 화면(409) 상의 탐색 영역(414)에 대하여, 대상 인접 영역(415)과 동일한 형상을 가지는 탐색 영역 내의 화소군을, L104를 경유하여 프레임 메모리로부터 순차적으로 취득한다. 취득된 화소군은 L212를 경유하여 후보 예측 영역 선택기(213)에 출력된다.

후보 예측 영역 선택기(213)에서는, L211을 경유하여 입력된 대상 인접 영역(415)과, L212를 경유하여 입력되는 대상 인접 영역(415)과 동일한 형상의 화소군과의 사이에서, 대응하는 화소간의 절대 오차값의 합(SAD)을 순차적으로 구한다. 그리고, SAD가 작은 M개의 영역을 검출하고, 이들을 제2종 후보 예측 인접 영역으로서 선택한다. 탐색 영역(414) 내의 화소 정밀도는 정수 화소 단위라도 되고, 1/2 화소, 1/4 화소 등의 소수 정밀도의 화소를 준비하고, 소수 화소 정밀도로 탐색을 행해도 된다. M의 값은 미리 설정해 두면 임의의 값이라도 된다. 도 7에서는, M=3이며, 후보 예측 인접 영역(412a, 412b, 412c)이 검출되어 있다.

후보 예측 영역 선택기(213)는, 후보 예측 인접 영역(412a, 412b 및 412c)에 접하고 있는 영역(413a, 413b 및 413c)을 대상 블록(402)에 대한 제2종 후보 예측 영역으로서 결정하고, 각 후보 예측 영역 내의 화소 신호를 제2종 후보 예측 신호로 한다. 그리고, 여기서는, 후보 예측 인접 영역과 후보 예측 영역과의 위치 관계는, 대상 영역과 대상 인접 영역과 동일한 관계에 있지만, 그렇지 않아도 된다. 마지막으로 후보 예측 영역 선택기(213)는, 각 후보 예측 인접 영역 및 후보 예측 영역을 프레임 메모리(104)로부터 취득하기 위한 액세스 정보로서, 대상 인접 영역(및 대상 영역)과 각 후보 예측 인접 영역(및 후보 예측 영역)과의 사이의 차분 좌표(411a, 411b 및 411c)와 각 후보 예측 영역이 속하는 참조 화면의 참조 화면 번호를 L213 경유로 후보 예측 영역 결정기(214)에 출력한다.

후보 예측 영역 결정기(214)는, 제2종의 3개의 후보 예측 영역(도 7의 경우, 3개로 한정되지 않음)으로부터 1개의 후보 예측 영역을 선택한다. 후보 예측 영역의 선택 방법으로서는, 템플레이트 매칭기(202)의 후보 예측 영역 선택기(213)에 의해, 대상 인접 영역과의 SAD가 작은 후보 예측 인접 영역에 인접하는 후보 예측 신호를 선택하는 방법이 있다(다른 예는 후술함). 후보 예측 영역 결정기(214)는, 선택된 제2종 후보 예측 영역으로의 액세스 정보(차분 좌표와 참조 화면 번호)는, L202 경유로, 후보 예측 영역 취득기(205)와 가중 계수 산출기(206)에 출력한다.

(화면 내 예측에 있어서의 템플레이트 매칭기(202)의 설명)

화면 내 예측의 경우에는, 도 20의 (b)에 나타낸 바와 같이 템플레이트 매칭기(202)에 의해 제2종 후보 예측 신호가 복수개 탐색된다. 참조 화면(401) 내의 탐색 영역(437)으로부터 제2종 후보 예측 신호를 복수개 탐색한다. 좌표(438)는 탐색 중심을 나타낸다.

먼저, 대상 인접 영역 취득기(211)에서는, L104를 경유하여, 대상 블록에 대하여, 미리 결정된 방법으로 대상 인접 영역(템플레이트라고도 함)을 프레임 메모리(104)로부터 취득한다. 취득된 템플레이트 신호는 L211을 경유하여, 예측 인접 영역 취득기(212)와 후보 예측 영역 선택기(213)에 출력된다. 본 실시예에서는, 대상 블록(402)에 인접하는 기 재생의 화소군(역L자의 영역)(415)을 대상 인접 영역으로 한다. 이 대상 인접 영역(415)은, 대상 블록(402)의 주위의 이미 재생된 화소로 구성되어 있으면 되고, 형태와 화소수는 미리 정해두므로 임의라도 된다. 또한, 시퀀스 단위나 화면 단위나 블록 단위 등으로 템플레이트의 형상과 사이즈(화소수)를 부호화해도 된다.

다음으로, 예측 인접 영역 취득기(212)에서는, L201을 경유하여 입력되는 참조 화면(401) 상의 탐색 영역(437)에 대하여, 대상 인접 영역(415)과 동일한 형상을 가지는 탐색 영역 내의 화소군을, L104를 경유하여 프레임 메모리로부터 순차적으로 취득한다. 취득된 화소군은 L212를 경유하여 후보 예측 영역 선택기(213)에 출력된다.

후보 예측 영역 선택기(213)에서는, L211을 경유하여 입력된 대상 인접 영역(415)과, L212를 경유하여 입력되는 대상 인접 영역(415)과 동일한 형상의 화소군과의 사이에서, 대응하는 화소간의 절대 오차값의 합(SAD)을 순차적으로 구한다. 그리고, SAD가 작은 M개의 영역을 검출하고, 이들을 제2종 후보 예측 인접 영역으로서 선택한다. 탐색 영역(437) 내의 화소 정밀도는 정수 화소 단위라도 되며, 1/2 화소, 1/4 화소 등의 소수 정밀도의 화소를 준비하고, 소수 화소 정밀도로 탐색을 행해도 된다. M의 값은 미리 설정하여 두면 임의의 값이라도 된다. 도 20의 (b)에서는, M=3이며, 후보 예측 인접 영역(436a, 436b, 436c)이 검출되어 있다.

후보 예측 영역 선택기(213)는, 후보 예측 인접 영역(436a, 436b 및 436c)에 접하고 있는 영역(435a, 435b 및 435c)을 대상 블록(402)에 대한 제2종 후보 예측 영역으로서 결정하고, 각 후보 예측 영역 내의 화소 신호를 제2종 후보 예측 신호로 한다. 그리고, 여기서는, 후보 예측 인접 영역과 후보 예측 영역과의 위치 관계는, 대상 영역과 대상 인접 영역과 동일한 위치 관계에 있지만, 그렇지 않아도 된다. 마지막으로 후보 예측 영역 선택기(213)는, 각 후보 예측 인접 영역 및 후보 예측 영역을 프레임 메모리(104)로부터 취득하기 위한 액세스 정보로서, 대상 인접 영역(및 대상 영역)과 각 후보 예측 인접 영역(및 후보 예측 영역)과의 사이의 차분 좌표(434a, 434b 및 434c)와 각 후보 예측 영역이 속하는 참조 화면의 참조 화면 번호를, L213 경유로 후보 예측 영역 결정기(214)에 출력한다. 후보 예측 영역 결정기(214)는, 제2종의 3개의 후보 예측 영역(도 20의 경우, 3개로 한정되지 않음)으로부터 1개의 후보 예측 영역을 선택한다. 후보 예측 영역의 선택 방법으로서는, 템플레이트 매칭기(202)의 후보 예측 영역 선택기(213)에 의해, 대상 인접 영역과의 SAD가 작은 후보 예측 인접 영역에 인접하는 후보 예측 신호를 선택하는 방법이 있다(다른 예는 후술함). 후보 예측 영역 결정기(214)는, 선택된 제2종 후보 예측 영역으로의 액세스 정보(차분 좌표와 참조 화면 번호)는, L202 경유로, 후보 예측 영역 취득기(205)와 가중 계수 산출기(206)에 출력한다.

(대상 블록을 분할하는 경우의 템플레이트 매칭기의 설명)

도 7에서는, 제1종 후보 예측 영역(406)과 제2종 후보 예측 영역(413a, 413b 및 413c)은, 대상 블록(402)과 동일한 블록 사이즈였지만, 후보 예측 영역을 대상 블록(402)보다 작은 블록으로 분할하고, 분할된 대상 소블록마다 예측 신호를 생성하면, 예측 성능이 더욱 향상되는 것을 기대할 수 있다. 그래서, 본 실시예에서는, 대상 블록(402)을 4개의 블록으로 분할하여, 분할 블록 단위로 예측 신호의 생성 처리를 행하는 경우에 대하여 설명한다.

제1종 후보 예측 신호에 대해서는, 동작 정보의 증가를 억제하기 위하여, 제1종 후보 예측 영역(406)을 4분할함으로써, 4개의 대상 소블록에 대한 제1종 후보 예측 신호를 생성한다. 바꾸어 말하면, 4개의 대상 소블록에 대한 제1종 후보 예측 신호는, 동일한 동작 정보에 기초하여 생성된다.

도 8은, 템플레이트 매칭기(202)에 의해, 화면간 예측에 대하여, 대상 소블록에 대한 제2종 후보 신호를 복수개 탐색하는 방법을 설명하는 도면이다. 도면에서는, 4개의 분할 블록 중 대상 소블록(420)의 예를 나타내고 있다. 참조 화면(409) 내의 탐색 영역(426)으로부터 제2종 후보 예측 신호를 복수개 탐색한다. 좌표(422)는 탐색 중심을 나타낸다. 여기서, 탐색 영역(426)과 좌표(422)는, 탐색 영역(414)와 좌표(410)를, 대상 블록(402)의 좌측 상단의 좌표와 대상 소블록의 좌측 상단의 좌표와의 차이에 따라, 이동한 것이다.

템플레이트 매칭기의 처리 단계는 도 7의 경우와 거의 동일하다. 본 실시예에서는, 대상 소블록(420)에 인접하는 기 재생의 화소군(역L자의 영역)(421)을 대상 인접 영역으로 한다.

다음으로, L201을 경유하여 입력되는 참조 화면(409) 상의 탐색 영역(426)에 대하여, 대상 인접 영역(421)의 화소와 그것과 동일한 형상을 가지는 탐색 영역 내의 화소군과의 사이에서, 대응하는 화소간의 절대 오차값의 합(SAD)을 순차적으로 구하여, SAD가 작은 M개의 영역을 검출한다. 이들을 예측 인접 영역으로 한다. M의 값은 미리 설정해 두면 임의의 값이라도 된다. 도 8에서는, M=3이며, 후보 예측 인접 영역(424a, 424b, 424c)이 검출되어 있다.

후보 예측 인접 영역(424a, 424b 및 424c)에 접하고 있는 영역(425a, 425b 및 425c)이 대상 소블록(421)에 대한 제2종 후보 예측 영역으로 결정되고, 각 후보 예측 영역 내의 화소 신호가 제2종 후보 예측 신호로 결정된다. 각 후보 예측 인접 영역 및 후보 예측 영역을 프레임 메모리(104)로부터 취득하기 위한 액세스 정보로서, 대상 인접 영역(및 대상 영역)과 각 후보 예측 인접 영역(및 후보 예측 영역)과의 사이의 차분 좌표(423a, 423b 및 423c)와, 각 후보 예측 영역이 속하는 참조 화면의 참조 화면 번호를 L213 경유로 후보 예측 영역 결정기(214)에 출력한다. 후보 예측 영역 결정기(214)는, 제2종의 3개의 후보 예측 영역(도 8의 경우, 3개로 한정되지 않음)으로부터 1개의 후보 예측 영역을 선택한다. 후보 예측 영역의 선택 방법으로서는, 템플레이트 매칭기(202)의 후보 예측 영역 선택기(213)에 의해, 대상 인접 영역과의 SAD가 작은 후보 예측 인접 영역에 인접하는 후보 예측 신호를 선택하는 방법이 있다(다른 예는 후술함). 후보 예측 영역 결정기(214)는, 선택된 제2종 후보 예측 영역으로의 액세스 정보(차분 좌표와 참조 화면 번호)는, L202 경유로, 후보 예측 영역 취득기(205)와 가중 계수 산출기(206)에 출력한다.

도 21은, 템플레이트 매칭기(202)에 의해, 화면 내 예측에 대하여, 대상 소블록에 대한 제2종 후보 신호를 복수개 탐색하는 방법을 설명하는 도면이다. 도면에서는, 4개의 분할 블록 중 대상 소블록(420)의 예를 나타내고 있다. 참조 화면(401) 내의 탐색 영역(447)으로부터 제2종 후보 예측 신호를 복수개 탐색한다. 좌표(448)는 탐색 중심을 나타낸다. 여기서, 탐색 영역(447)과 좌표(448)는, 탐색 영역(437)과 좌표(438)를, 대상 블록(402)의 좌측 상단의 좌표와 대상 소블록의 좌측 상단의 좌표의 차이에 따라, 이동한 것이다.

템플레이트 매칭기의 처리 단계는 도 20의 (b)의 경우와 거의 동일하다. 본 실시예에서는, 대상 소블록(420)에 인접하는 기 재생의 화소군(역L자의 영역)(421)을 대상 인접 영역으로 한다.

다음으로, L201을 경유하여 입력되는 참조 화면(401) 상의 탐색 영역(447)에 대하여, 대상 인접 영역(421)의 화소와 그것과 동일한 형상을 가지는 탐색 영역 내의 화소군과의 사이에서, 대응하는 화소간의 절대 오차값의 합(SAD)을 순차적으로 구하여, SAD가 작은 M개의 영역을 검출한다. 이들을 예측 인접 영역으로 한다. M의 값은 미리 설정해 두면 임의의 값이라도 된다. 도 21에서는, M=3이며, 후보 예측 인접 영역(446a, 446b, 446c)이 검출되어 있다.

후보 예측 인접 영역(446a, 446b 및 446c)에 접하고 있는 영역(445a, 445b 및 445c)이 대상 소블록(421)에 대한 제2종 후보 예측 영역으로 결정되고, 각 후보 예측 영역 내의 화소 신호가 제2종 후보 예측 신호로 결정된다. 각 후보 예측 인접 영역 및 후보 예측 영역을 프레임 메모리(104)로부터 취득하기 위한 액세스 정보로서, 대상 인접 영역(및 대상 영역)과 각 후보 예측 인접 영역(및 후보 예측 영역)과의 사이의 차분 좌표(444a, 444b 및 444c)와, 각 후보 예측 영역이 속하는 참조 화면의 참조 화면 번호를 L213 경유로 후보 예측 영역 결정기(214)에 출력한다. 후보 예측 영역 결정기(214)는, 제2종의 3개의 후보 예측 영역(도 21의 경우, 3개로 한정되지 않음)으로부터 1개의 후보 예측 영역을 선택한다. 후보 예측 영역의 선택 방법으로서는, 템플레이트 매칭기(202)의 후보 예측 영역 선택기(213)에 의해, 대상 인접 영역과의 SAD가 작은 후보 예측 인접 영역에 인접하는 후보 예측 신호를 선택하는 방법이 있다(다른 예는 후술함). 후보 예측 영역 결정기(214)는, 선택된 제2종 후보 예측 영역으로의 액세스 정보(차분 좌표와 참조 화면 번호)는, L202 경유로, 후보 예측 영역 취득기(205)와 가중 계수 산출기(206)에 출력한다.

나머지 3개의 대상 소블록에 대해서도, 도 1에서 변환·양자화를 행하는 블록 사이즈가 대상소 블록과 동일하면, 대상 소블록(421)의 경우와 마찬가지의 방법으로 예측 신호를 생성할 수 있다. 그러나, 도 1에서 변환·양자화를 행하는 블록 사이즈가 대상 소블록보다 큰 경우에는, 대상 소블록에 인접하는 역L자의 영역의 신호의 일부 또는 전부가 아직 재생되고 있지 않다. 이 경우에는, 이미 재생된 화소 대신 이미 예측된 화소를 사용하면 된다. 또한, 대상 블록 내의 대상 소블록의 위치에 따라, 템플레이트의 형상을 이미 재생된 화소로 구성할 수 있도록 변경해도 된다.

전술한 대상 블록에 대하여 예측 신호의 생성을 행하는 방법과 대상 블록을 분할한 소블록마다 예측 신호의 생성을 행하는 방법은, 블록 단위로 선택할 수도 있다. 이 경우, 선택 정보는, 동작 정보 함께 엔트로피 부호화기(111)에 출력된다.

(가중 계수 산출기(206)와 후보 예측 신호 합성기(203)의 설명)

가중 계수 산출기(206)에서는, L113을 경유하여 입력되는 동작 정보와, L202를 경유하여 입력되는 액세스 정보에 기초하여, 제1종 후보 예측 신호와 제2종 후보 예측 신호를 가중 평균할 때의 가중 계수를 산출하고, L206 경유로 후보 예측 신호 합성기(203)에 출력한다. 후보 예측 신호 합성기(203)에서는, 동작 보상기(204)와 후보 예측 영역 취득기(205)가 프레임 메모리(104)로부터 취득하는 제1종 후보 예측 신호와 제2종 후보 예측 신호를, 각각 L204와 L205 경유로 입력한다. 후보 예측 신호 합성기(203)는, 이들 후보 예측 신호를 L206 경유로 입력되는 가중 계수에 기초하여 가중 평균함으로써 대상 블록에 대한 예측 신호를 생성하여, L103 경유로 출력한다.

도 4는, 가중 계수 산출기(206)와 후보 예측 신호 합성기(203)의 구성을 나타낸 블록도이다. 가중 계수 산출기(206)는, 후보 예측 인접 영역 취득기(223)와, 대상 인접 영역 취득기(221)와, 가중 계수 결정기(224)를 구비하고 있다. 후보 예측 신호 합성기(203)는, 가중 계수 승산기(225)와, 가산·제산기(226)를 구비하고 있다.

식 (3)에 의해, 가중 계수 산출기(206)와 후보 예측 신호 합성기(203)에 의해 생성되는 예측 신호 Pb(i, j)의 가중 평균화 처리에 의한 생성 수순을 정리한다. 여기서, (i, j)는 대상 영역에 있어서의 각 화소의 좌표를 나타내고 있다.

식 (3)에 있어서, N은 제1종 및 제2종 후보 예측 신호의 수를 나타내고, 여기서는 N=2이다(다른 예는 후술함). 후보 예측 신호 합성기(203)에는, 동작 보상기(204)와 후보 예측 영역 취득기(205)로부터 N개의 후보 예측 영역의 후보 예측 신호 p_n(i, j)(n = 0 ∼ N-1)이 입력된다.

한편, 가중 계수 산출기(206)에서는, 먼저, 후보 예측 인접 영역 취득기(223)가, L113과 L202 경유로 입력되는 액세스 정보에 따라, N개의 후보 예측 인접 영역의 후보 예측 인접 신호 s_n(r)(n = 0 ∼ N-1)을 L104 경유로 프레임 메모리(104)로부터 취득하고, L223 경유로 가중 계수 결정기(224)에 출력한다. 대상 인접 영역 취득기(221)는, L104 경유로 프레임 메모리(104)로부터 대상 인접 영역의 대상 인접 신호 t(r)(r은 대상 인접 영역 내의 R개의 화소의 위치)를 취득하고, L221 경유로 가중 계수 결정기(224)에 출력한다. 가중 계수 결정기(224)는, L223 경유로 입력되는 N개의 후보 예측 인접 신호 s_n(r)과 L221 경유로 입력되는 대상 인접 신호 t(r)에 기초하여, N개의 후보 예측 신호에 대한 가중 계수 w_n을 결정한다(자세한 것은 후술함). 그리고, 가중 계수 결정기(224)는 가중 계수 w_n을 라인 L206 경유로 후보 예측 신호 합성기(203)의 가중 계수 승산기(225)에 출력한다.

후보 예측 신호 합성기(203)의 가중 계수 승산기(225)에서는, 식 (3)에 나타낸 바와 같이, n번째 가중 계수 w_n을 n번째 후보 예측 신호 p_n(i, j) 내의 각 화소와 곱하여 L225 경유로 가산·제산기(226)에 출력한다. 가산·제산기(226)는, 중요한 N개의 후보 예측 신호의 각 화소를 누적 가산한 후, 식 (3)과 같이, 가중 계수의 가산값으로 제산하고, 각 화소의 예측 신호 Pb(i, j)를 산출한다.

(후보 예측 신호 결정기(214)의 다른 예의 설명)

후보 예측 영역 결정기(214)에 있어서의 N의 결정 방법에 대하여, 추가로 설명한다. 앞서 설명한 바로는, N의 값은 N=2로 미리 결정한 값로 하였으나, 이에 의존하지 않고, 예를 들면, 임의의 N개의 후보 예측 인접 신호의 가중 평균에 의해 대상 인접 영역의 예측 신호를 생성하고, 생성된 예측 신호와 대상 인접 영역과의 차이가 가장 작아지도록 한 N을 선택하는 방법이라도 된다. 이 경우, 가중 계수 산출기(206) 내의 기구(機構)를 이용할 수 있다.

또한, 예를 들면, 3개의 후보 예측 인접 영역의 후보 예측 인접 신호에 대하여, 각각 제1 후보 예측 영역에 인접하는 후보 예측 인접 영역의 후보 예측 신호 사이에 실제로 가중 평균 처리를 행하여, 3개의 대상 인접 신호의 예측 신호를 생성하는 방법도 있다. 이 방법에서는, 이들 예측 신호와 대상 인접 신호를 비교하여, 차이(예를 들면, 절대 오차값의 합)가 가장 작아지는 후보 예측 인접 영역에 인접하는 후보 예측 영역의 후보 예측 신호를 선택한다. 그리고, 제1종 후보 예측 신호를 후보 예측 신호에 포함하지 않고, 제2종 후보 예측 신호로부터 N개의 후보 예측 신호를 선택해도 된다[이 경우, 동작 보상기(204)는 불필요함]. 또한, M개의 제2종 후보 예측 신호에 제1종 후보 예측 신호를 부가한 M+1개의 후보 예측 신호로부터 N개의 후보 예측 신호를 선택할 수 있다. 선택 방법으로서는, 전술한 바와 마찬가지로, M+1개의 후보 예측 영역에 인접하는 후보 예측 인접 영역의 후보 예측 인접 신호로부터 임의의 N개를 선택하여 가중 평균함으로써 대상 인접 영역의 예측 신호를 생성하는 방법을 적용할 수 있다. 이 경우, 이 예측 신호와 대상 인접 신호의 절대 오차값의 합이 가장 작아지는 N개의 후보 예측 인접 영역을 선택하고, 이 N개의 후보 예측 인접 영역에 인접하는 N개의 후보 예측 영역의 후보 예측 신호가 최종적으로 선택된다.

(가중 계수 산출기(206)의 설명)

가중 계수 결정기(224)에 있어서의 가중 계수의 결정 방법에 대하여, 추가로 설명한다. 가중 계수는 식 (4)에 나타낸 바와 같이 단순 평균해도 되지만, 대상 인접 신호 t(r)과 N개의 후보 예측 인접 신호 s_n(r)과의 사이의 SAD에 기초하여, N개의 가중 계수를 결정해도 된다. 전자의 경우, 가중 계수는 미리 정해져 있으므로 가중 계수 산출기(206)는 불필요하다.

후자의 방법에 의하면, N개의 후보 예측 영역과 대상 블록의 상관 관계에 기초하여 가중 계수를 결정할 수 있다. 이 방법에서는, 식 (5)에 나타낸 바와 같이, 대상 인접 신호 t(r)(r은 대상 인접 영역 내의 R개의 화소의 위치)과 N개의 후보 예측 인접 신호 s_n(r)(n=0∼N-1)과의 사이의 SAD(LSAD_n, 식 (6)에 의해 산출)에 기초하여 N개의 가중 계수를 산출한다.

이와 같이, 본 발명의 부호화기에 있어서의 예측 방법에서는, 대상 블록의 원신호(原信號)를 사용하여 부호화기에 의해 검출한 동작 벡터 등의 동작 정보에 기초하여 복수개의 후보 예측 신호를 생성한다. 본 발명에서는, 동작 정보를 사용하여, 대상 블록의 원신호에 가까운 화소 위치를 추측하기 위하여, 좁은 탐색 범위에서 양호한 효율로 복수개의 후보 예측 신호를 생성할 수 있다. 이들 후보 예측 신호는 화면이 상이한 영역으로부터 취득되므로, 포함되는 노이즈 성분(주로 고주파 성분)이 함께 낮아지고 있다. 그러므로, 노이즈 성분이 상이한 복수개의 후보 예측 신호를 평균화함으로써, 평활화 효과에 의해, 통계적으로 노이즈가 적은 예측 신호를 생성할 수 있다.

또한, 본 발명의 부호화기에 있어서의 예측 방법은, 동작 정보를 사용하여 생성되는 예측 신호 생성 방법이나, 특허 문헌 5에 나타낸 바와 같이 동작 정보를 이용하지 않고 복수개의 후보 예측 신호를 생성하는 방법과 블록 단위로 적절하게 선택할 수 있다. 본 발명의 부호화기에 있어서의 예측 방법은, 동작 정보의 부호화에 따른 부호량의 증가와 예측 오차 신호의 삭감 효과의 트레이드 오프 성능의 관점에서, 서로 효과를 높이는 관계에 있다. 그러므로, 이들 방법을 적절하게 선택함으로써, 부호화 효율에 대한 더욱 개선된 효과를 기대할 수 있다.

도 9는, 본 실시예에 따른 화상 예측 부호화 장치(100)에 있어서의 화상 예측 부호화 방법의 수순을 나타내는 흐름도이다. 먼저, 동작 추정기(113)는, 대상 블록과의 상관 관계가 높은 신호를 기 재생 신호로부터 검색하고, 이 신호의 생성에 필요한 동작 정보를 생성한다. 즉, 동작 추정기(113)에서는, 도 5 또는 도 20의 (a)에 설명한 블록 매칭 처리에 의해, 대상 블록의 제1종 후보 예측 영역을 지시하는 동작 정보[동작 벡터(407)와 참조 화면(403)의 번호]를 검출한다. 이 동작 정보는, 엔트로피 부호화기(111)에 의해 부호화된다(단계 S102). 다음으로, 예측 신호 생성기(103)는, 이 동작 정보에 기초하여 복수개의 후보 예측 신호를 생성하고, 이들의 합성 처리에 의해 대상 블록의 예측 신호를 생성한다(단계 S103). 단계 S103의 자세한 것은 도 10에서 후술한다.

이와 같이 결정된 예측 신호와 대상 블록의 신호와의 차분을 나타내는 잔차 신호가, 변환기(106), 양자화기(107) 및 엔트로피 부호화기(111)에 의해 부호화된다(단계 S104). 그리고, 부호화된 잔차 신호, 동작 정보 및 예측 신호 생성 방법의 선택 정보(필요한 경우, 화면 내 예측과 화면간 예측의 선택 등)가 출력 단자(112)를 통하여 출력된다(단계 S105). 여기서, 동작 정보에는, 화면간/화면 내 예측 방법에 있어서의 동작 벡터나 참조 화면 번호에 더하여, 제2종 후보 예측 신호의 탐색 범위의 크기, N의 값(후보 예측 신호의 수) 등의 각종 설정 정보가 포함되는 경우가 있다.

이들 처리 후에 또는 이들 처리와 병행하여, 후속되는 대상 블록을 예측 부호화하기 위해 부호화된 잔차 신호가 역양자화기(108) 및 역변환기(109)에 의해 복호된다. 그리고, 가산기(110)에 의해, 복호된 잔차 신호에 예측 신호가 가산되고, 대상 블록의 신호가 재생되고, 프레임 메모리(104)에 참조 화면으로서 기억된다(단계 S106). 그리고, 모든 대상 블록의 처리가 완료하고 있지 않은 경우에는 단계 S102로 복귀하고, 다음 대상 블록에 대한 처리가 행해진다. 모든 대상 블록의 처리가 완료된 경우에는, 처리를 종료한다(단계 S107과 단계 S108).

도 10은, 예측 신호 생성기(103)에 의해 실시되는 단계 S103에 있어서의 대상 블록의 예측 신호 생성 방법의 상세한 수순을 나타내는 흐름도이다.

먼저, 동작 보상기(204)는, 단계 S102에서 검출된 동작 정보에 기초하여, 제1종 후보 예측 신호를 생성한다(단계 S202). 탐색 영역 설정기(201)에서는, 도 6에 나타낸 수순에 의해, 상기 동작 정보에 포함되는 참조 화면 번호로부터 제2종 후보 예측 신호를 탐색할 참조 화면(409)을 선택한다(단계 S203). 또한, 탐색 영역 설정기(201)는, 식(2)에 따라 동작 벡터(407)를 참조 화면(409) 상에 대하여 스케일링하고, 도 7 또는 도 8 또는 도 20의 (b) 또는 도 21에 나타낸 수순에 의해 탐색 중심과 탐색 영역을 결정한다(단계 S204). 템플레이트 매칭기(202)에서는, 탐색 영역으로부터 N-1개의 제2종 후보 예측 신호를 탐색한다(단계 S205, 자세한 것은 후술함). 그리고, 후보 예측 영역 합성기(203)와 가중 계수 산출기(206)는, N개의 후보 예측 신호를 합성(가중 평균)하고, 대상 블록의 예측 신호를 생성하고(단계 S206, 자세한 것은 후술함), 처리를 종료한다(단계 S207).

도 11은, 템플레이트 매칭기(202)에 있어서의 제2종의 N-1개의 후보 예측 신호의 탐색 방법을 나타내는 흐름도이다(단계 S205를 상세하게 설명함). 대상 인접 영역 취득기(211)에서는, 프레임 메모리(104)로부터 대상 블록에 대한 역L자의 대상 인접 영역(템플레이트 신호)을 취득한다(단계 S212). 다음으로, 후보 예측 영역 선택기(213)는, N-1개의 후보 예측 영역을 탐색할 때 사용하는 임계값을 최대값으로 설정한다(단계 S213). 다음으로, 예측 인접 영역 취득기(212)는, 단계 S204에서 결정된 탐색 영역으로부터 대상 인접 영역과 동일한 형상의 화소군을 순차적으로 취득한다. 후보 예측 영역 선택기(213)는, 템플레이트 신호와 탐색 영역으로부터 취득한 화소 신호군과의 차분값 SAD를 산출한다(단계 S214). 또한, 후보 예측 영역 선택기(213)는, 산출된 SAD와 상기 임계값을 비교한다(단계 S215). 산출된 SAD가 임계값보다 크면, 후술하는 단계 S218로 진행한다. 산출된 SAD가 임계값보다 작으면, 제2종 후보 예측 영역을 갱신한다(단계 S216). 이 때, 탐색 영역으로부터 취득한 화소 신호군 중 SAD가 작은 최대 N-1개를 후보 예측 영역으로 한다. 그리고, 후보 예측 영역 선택기(213)는, 임계값을 N-1번째로 작은 SAD의 값으로 갱신한다(단계 S217). 후보 예측 영역 선택기(213)는, 탐색 영역 내의 모든 화소 신호군의 탐색이 완료되어 있지 않으면 단계 S214로 복귀하고, 완료되어 있으면 처리를 종료한다(단계 S218과 단계 S219).

도 12는, 후보 예측 신호 합성기(203)와 가중 계수 산출기(206)에 있어서의 N개의 후보 예측 신호의 합성 방법을 설명하는 흐름도이다(단계 S206를 상세하게 설명함). 대상 인접 영역 취득기(221)에서는, 대상 블록에 대한 대상 인접 영역을 취득한다(단계 S222). 후보 예측 인접 영역 취득기(223)에서는, 동작 보상기(204)와 후보 예측 영역 취득기(205)에 의해 취득되는 N개의 후보 예측 영역에 인접하는 N개의 후보 예측 인접 영역을 프레임 메모리(104)로부터 취득한다(단계 S223). 다음으로, 가중 계수 결정기(224)에서는, 식 (6)을 사용하여, 대상 인접 영역의 인접 화소 신호와 N개의 후보 예측 인접 영역의 후보 예측 인접 신호와의 사이의 SAD(LSAD)를 계산한다(단계 S224). 또한, 가중 계수 결정기(224)는, N개의 LSAD에 기초하여, 식 (5)에 의해 각 후보 예측 영역에 대한 가중 계수를 계산한다(단계 S225). 가중 계수 승산기(225)와 가산·제산기(226)는, 식 (3)으로, N개의 후보 예측 신호의 가중 평균 처리에 의해 대상 블록의 예측 신호를 생성하고(단계 S226), 처리를 종료한다(단계 S227). 그리고, 도 4에서도 나타낸 바와 같이, N개의 후보 예측 신호의 합성 방법은, 여기서 나타낸 실시예로 한정되지 않는다.

이와 같이 구성된 화상 예측 부호화 장치(100)의 작용 효과에 대하여 설명한다. 이 화상 예측 부호화 장치(100)는, 블록 분할기(102)가 입력 화상을 복수개의 영역으로 분할하고, 동작 추정기(113)는, 분할된 복수개의 영역 중 처리 대상인 대상 영역의 대상 화소 신호와의 상관 관계가 높은 신호를 기 재생 신호로부터 탐색하고, 탐색된 상기 신호를 지시하는 동작 정보를 추출한다. 예측 신호 생성기(103)는, 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하고, 감산기(105)는, 생성된 예측 신호와 대상 화소 신호와의 잔차 신호를 생성한다. 변환기(106), 양자화기(107), 및 엔트로피 부호화기(111)는, 생성된 잔차 신호 및 동작 추정 수단에 의해 추출된 동작 정보를 부호화한다.

여기서, 예측 신호 생성기(103)의 동작 보상기(204)는, 동작 정보에 기초하여, 기 재생 신호로부터 제1종 후보 예측 신호를 생성한다. 또한, 예측 신호 생성기(103)에 있어서의 탐색 영역 설정기(201)는, 이 동작 정보에 기초하여, 기 재생 신호의 부분 영역인 탐색 영역[참조 화면(409)에 있어서의 탐색 영역(414)]을 결정한다.

템플레이트 매칭기(202)는, 대상 영역(402)에 인접하는 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역(415)과의 상관 관계가 높은 후보 예측 인접 영역(412a∼412c)을, 탐색 영역(414)으로부터 1개 이상 탐색하고, 복수개의 예측 인접 영역에 기초하여, 기 재생 신호로부터 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성한다.

후보 예측 신호 합성기(203)는, 동작 추정기(113)에 의해 생성된 제1종 후보 예측 신호 및 템플레이트 매칭기(202)에 의해 생성된 제2종 후보 예측 신호 중 적어도 어느 하나를 사용하여, 예측 신호를 생성한다.

이 구성에 의해, 탐색 영역을 한정할 수 있고, 제2종 후보 예측 신호를 위한 탐색 시간을 적게 할 수 있으므로, 적은 정보 및 연산량으로, 예측 신호를 효율적으로 생성할 수 있다.

또한, 본 실시예의 화상 예측 부호화 장치(100)에 있어서는, 동작 추정기(113)에 의해 추출되는 동작 정보는, 적어도 제1종 후보 예측 신호의 생성에 사용되는 제1 재생 화면인 화면(403)을 나타내는 정보(참조 화면 번호)와 제1종 후보 예측 신호를 지시하는 동작 벡터의 정보를 포함한다.

그리고, 탐색 영역 설정기(201)는, 대상 영역을 포함하는 화면(401)과 제1 재생 화면인 참조 화면(403)의 시간 방향의 화면 간격, 및 동작 벡터에 기초하여 제2종 후보 예측 신호의 탐색 영역(414)을 포함한 제2 재생 화면인 참조 화면(409)을 결정한다.

이에 따라, 제2종 후보 예측 신호를 탐색하기 위한 탐색 영역을 결정할 수 있고, 제2종 후보 예측 신호의 탐색 처리를 신속하게 행할 수 있다.

또한, 본 실시예의 화상 예측 부호화 장치(100)에 있어서는, 후보 예측 신호 합성기(203)와 가중 계수 산출기(206)는, 대상 인접 영역의 인접 화소 신호와 복수개의 후보 예측 신호에 인접하는 후보 예측 인접 영역의 화소 신호와의 사이의 차분값에 기초하여 가중 평균하기 위한 가중 계수를 생성하고, 상기 가중 계수를 사용하여 복수개의 후보 예측 신호를 가중 평균함으로써 대상 영역의 예측 신호를 생성한다. 이에 따라, 예측 신호를 평균화할 수 있고, 더욱 적절한 예측 신호를 생성할 수 있다.

또한, 본 실시예의 화상 예측 부호화 장치(100)에 있어서, 템플레이트 매칭기(202)는, 동작 벡터를 구성하는 각 성분이 0값이며, 탐색 영역(414)이 제1 재생 화면과는 상이한 화면에 속하는 경우, 제2종 후보 예측 신호를 지시하는 동작 벡터를 구성하는 성분 중 적어도 어느 하나의 성분이 0 이외로 되도록 선택한다. 이에 따라, 평균화의 효과를 더욱 효과적으로 얻을 수 있다.

또한, 본 실시예의 화상 예측 부호화 장치(100)에 있어서, 탐색 영역 설정기(201)는, 제2 재생 화면인 참조 화면(409)을, 대상 영역(402)을 포함하는 화면(401)에 대하여, 제1 재생 화면인 참조 화면(403)과는 시간적으로 역방향의 화면으로 결정한다. 즉, 제1 재생 화면인 참조 화면(403)이 과거에 위치하는 것일 경우에는, 제2 재생 화면(409)을 미래에 위치하는 것으로 한다.

또한, 본 실시예의 화상 예측 부호화 장치(100)에 있어서, 탐색 영역 설정기(201)는, 제2 재생 화면인 참조 화면(409)을, 제1 재생 화면인 참조 화면(403)과는 상이한 화면이며, 또한 대상 영역을 포함하는 화면(401)과 시간적으로 가장 가까운 화면으로 결정한다.

또한, 본 실시예의 화상 예측 부호화 장치(100)에 있어서, 탐색 영역 설정기(201)는, 제2 재생 화면인 참조 화면(409)으로서, 복수개의 화면을 선택함으로써, 복수개의 탐색 영역(414)을 선택한다.

또한, 본 실시예의 화상 예측 부호화 장치(100)에 있어서, 탐색 영역 설정기(201)는, 제2 재생 화면인 참조 화면(409)으로서 제1 재생 화면인 참조 화면(403)을 선택한다.

또한, 본 실시예의 화상 예측 부호화 장치(100)에 있어서, 탐색 영역 설정기(201)는, 제2 재생 화면인 참조 화면(409)으로서, 입력 화상의 이미 재생된 영역을 선택한다.

또한, 본 실시예의 화상 예측 부호화 장치(100)에 있어서, 탐색 영역 설정기(201)는, 제2종 후보 예측 신호로서, 제1종 후보 예측 신호와는 상이한 화소 신호를 선택한다.

전술한 바와 같이, 제2 재생 화면 또는 제2종 후보 예측 신호를 결정·선택함으로써, 후보 예측 신호를 더욱 적절하게 평균화할 수 있고, 적절한 예측 신호를 생성할 수 있다.

<화상 예측 복호 방법>

다음으로, 본 실시예에 따른 화상 예측 복호 방법에 대하여 설명한다. 도 13은, 본 실시예에 따른 화상 예측 복호 장치(300)를 나타낸 블록도이다. 이 화상 예측 복호 장치(300)는, 입력 단자(301), 엔트로피 복호기(302)(데이터 복호 수단), 역양자화기(303)(데이터 복호 수단), 역변환기(304)(잔차 신호 복원 수단), 가산기(305)(화상 복원 수단), 출력 단자(306), 프레임 메모리(104), 및 예측 신호 생성기(103)(예측 신호 생성 수단)를 구비하고 있다. 역양자화기(303) 및 역변환기(304)에 의한 데이터 복호 수단은, 이들 이외의 것을 사용하여 행해도 된다. 또한, 역변환기(304)는 없어도 된다.

입력 단자(301)는, 전술한 화상 예측 부호화 방법으로 압축 부호화된 압축 데이터를 입력한다. 이 압축 데이터에는, 화상이 복수개의 블록으로 분할된 대상 블록을 예측하고 부호화된 잔차 신호 정보 및 동작 예측 정보가 포함되어 있다. 여기서 동작 예측 정보에는, 동작 정보에는, 화면간/화면 내 예측 방법에 있어서의 동작 벡터나 참조 화면 번호에 더하여, 제2종 후보 예측 신호의 탐색 범위의 크기, N의 값(후보 예측 신호의 수) 등의 각종 설정 정보가 포함되는 경우가 있다.

엔트로피 복호기(302)는, 입력 단자(301)에 입력된 압축 데이터를 엔트로피 복호하는 것에 의해, 대상 블록의 잔차 신호 정보 및 동작 예측 정보를 추출한다.

역양자화기(303)는, 대상 블록의 잔차 신호 정보를 라인 L302a 경유로 입력하고, 역양자화한다. 역변환기(304)는, 역양자화된 데이터를 역이산 코사인 변환한다.

예측 신호 생성기(103)는, 엔트로피 복호기(302)로부터 라인 L302b 경유로 동작 정보를 입력한다. 이 예측 신호 생성기(103)는, 입력된 동작 정보에 기초하여, 프레임 메모리(104)로부터 참조 화면을 취득하고, 예측 신호를 생성한다.

예측 신호 생성기(103)는, 생성된 예측 신호를 라인 L103 경유로 가산기(305)에 출력한다.

가산기(305)는, 예측 신호 생성기(103)에서 생성된 예측 신호를, 역양자화기(303) 및 역변환기(304)에 의해 복원된 잔차 신호에 가산하여, 대상 블록의 재생 화상 신호를 라인 L305 경유로 출력 단자(306) 및 프레임 메모리(104)에 출력한다. 출력 단자(306)는, 외부(예를 들면, 디스플레이)에 출력한다.

프레임 메모리(104)는, 다음 복호 처리를 위한 참조용 재생 화상으로서, 가산기(305)로부터 출력된 재생 화상을 참조 화면으로서 기억한다.

프레임 메모리(104)와 예측 신호 생성기(103)는, 도 1의 화상 예측 부호화 장치(100)에 있어서의 동작과 동일하므로, 설명을 생략한다. 예측 신호 생성기(103)는, 복호된 동작 정보에 기초하여, 복수개의 후보 예측 신호를 생성하고, 이들을 합성함으로써 복호 대상 블록에 대한 예측 신호를 생성한다. L302b를 경유하여 예측 신호 생성기(103)에 입력되는 동작 정보는, L113을 경유하여 예측 신호 생성기(103)에 입력되는 동작 정보와 동일하다.

다음으로, 도 14를 사용하여, 도 13에 나타내는 화상 예측 복호 장치(300)에 있어서의 화상 예측 복호 방법을 설명한다. 먼저, 입력 단자(301)를 통하여, 압축된 압축 데이터가 입력된다(단계 S302). 그리고, 엔트로피 복호기(302)에 있어서, 압축 데이터에 대하여 엔트로피 복호가 행해지고, 양자화된 변환 계수, 동작 정보가 추출된다(단계 S303). 여기서 추출된 동작 정보에 기초하여, 예측 신호 생성기(103)에 의해 복수개의 후보 예측 신호가 생성되고, 생성된 복수개의 후보 예측 신호를 합성함으로써 예측 신호가 생성된다(단계 S103).

한편, 양자화된 변환 계수는, 역양자화기(303)에 있어서 양자화 파라미터를 사용하여 역양자화되고, 역변환기(304)에 있어서 역변환이 행해지고, 재생 차분 신호가 생성된다(단계 S305). 그리고, 생성된 예측 신호와 재생 차분 신호가 가산됨으로써 재생 신호가 생성되고, 이 재생 신호가 다음 대상 블록을 재생하기 위해 프레임 메모리(104)에 저장된다(단계 S306). 다음 압축 데이터가 있는 경우에는, 이 프로세스를 반복하고(단계 S307), 모든 데이터가 마지막까지 처리된다(단계 S308). 그리고, 필요에 따라 단계 S302로 복귀하여, 압축 데이터를 입력하도록 해도 된다.

그리고, 단계 S103의 처리의 흐름은, 도 10∼도 12의 처리의 흐름과 동일하기 때문에, 설명은 생략한다.

다음으로, 본 실시예의 화상 예측 복호 방법의 작용 효과에 대하여 설명한다. 본 발명의 화상 예측 복호 장치(300)에 있어서, 엔트로피 복호기(302), 역양자화기(303)는, 압축 데이터 중에서 처리 대상인 대상 영역에 관한 동작 정보의 부호화 데이터와 잔차 신호의 부호화 데이터를 복호한다. 역변환기(304)는, 복호되어 얻어진 잔차 신호로부터 재생 잔차 신호를 복원한다.

예측 신호 생성기(103)는, 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성한다. 가산기(305)는, 생성된 예측 신호와 복원된 재생 잔차 신호를 가산함으로써, 대상 영역의 화소 신호를 복원하고, 이것을 프레임 메모리(104)에 출력하고, 기억시킨다.

여기서, 예측 신호 생성기(103)는, 복호된 동작 정보에 기초하여, 프레임 메모리(104)에 기억되어 있는 기 재생 신호로부터 제1종 후보 예측 신호를 생성한다. 또한, 이 동작 정보에 기초하여, 기 재생 신호의 부분 영역인 탐색 영역(414)을 결정한다.

템플레이트 매칭기(202)는, 대상 영역에 인접하는 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역(415)과의 상관 관계가 높은 예측 인접 영역(412a∼412c)을, 탐색 영역(414)으로부터 1개 이상 탐색하고, 복수개의 예측 인접 영역에 기초하여, 기 재생 신호로부터 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성한다.

후보 예측 신호 합성기(203)는, 생성된 제1종 후보 예측 신호 및 생성된 제2종 후보 예측 신호 중 적어도 어느 하나에 기초하여, 예측 신호를 생성한다.

또한, 본 실시예의 화상 예측 복호 장치(300)에 있어서는, 복호되어 얻어진 동작 정보는, 적어도 제1종 후보 예측 신호의 생성에 사용되는 제1 재생 화면인 참조 화면(403)을 나타내는 정보(참조 화면 번호)와 제1 종 후보 예측 신호를 지시하는 동작 벡터의 정보를 포함한다.

그리고, 탐색 영역 설정기(201)는, 대상 영역을 포함하는 화면(401)과 제1 재생 화면인 참조 화면(403)의 시간 방향의 화면 간격, 및 동작 벡터에 기초하여, 제2종 후보 예측 신호의 탐색 영역(414)을 포함한 제2 재생 화면인 참조 화면(409)을 결정한다.

또한, 본 실시예의 화상 예측 복호 장치(300)에 있어서는, 후보 예측 신호 합성기(203)는, 대상 인접 영역의 인접 화소 신호와 복수개의 후보 예측 신호에 인접하는 후보 예측 인접 영역의 화소 신호와의 사이의 차분값에 기초하여 가중 평균하기 위한 가중 계수를 생성하고, 상기 가중 계수를 사용하여 복수개의 후보 예측 신호를 가중 평균함으로써 대상 영역의 예측 신호를 생성한다. 이에 따라, 예측 신호를 평균화할 수 있고, 더욱 적절한 예측 신호를 생성할 수 있다.

또한, 본 실시예의 화상 예측 복호 장치(300)에 있어서, 템플레이트 매칭기(202)는, 동작 벡터를 구성하는 각 성분이 0값이며, 탐색 영역(414)이 제1 재생 화면과는 상이한 화면에 속하는 경우, 제2종 후보 예측 신호를 지시하는 동작 벡터를 구성하는 성분 중 적어도 어느 하나의 성분이 0 이외로 되도록 선택한다. 이에 따라, 평균화의 효과를 보다 효과적으로 얻을 수 있다.

또한, 본 실시예의 화상 예측 복호 장치(300)에 있어서, 탐색 영역 설정기(201)는, 제2 재생 화면인 참조 화면(409)을, 대상 영역(402)을 포함하는 화면(401)에 대하여, 제1 재생 화면인 참조 화면(403)과는 시간적으로 역방향의 화면으로 결정한다. 즉, 제1 재생 화면인 참조 화면(403)이 과거에 위치하는 것인 경우에는, 제2 재생 화면인 참조 화면(409)을 미래에 위치하는 것이 있는 경우에는, 탐색 영역 설정기(201)는, 그 화면을 제2 재생 화면인 참조 화면(409)으로서 우선적으로 선택한다.

또한, 본 실시예의 화상 예측 복호 장치(300)에 있어서, 탐색 영역 설정기(201)는, 제2 재생 화면인 참조 화면(409)을, 제1 재생 화면인 참조 화면(403)과는 상이한 화면이며, 또한 대상 영역을 포함하는 화면(401)과 시간적으로 가장 가까운 화면으로 결정한다.

또한, 본 실시예의 화상 예측 복호 장치(300)에 있어서, 탐색 영역 설정기(201)는, 제2 재생 화면인 참조 화면(409)으로서 복수개의 화면을 선택함으로써, 복수개의 탐색 영역(414)을 선택한다.

또한, 본 실시예의 화상 예측 복호 장치(300)에 있어서, 탐색 영역 설정기(201)는, 제2 재생 화면인 참조 화면(409)으로서 제1 재생 화면인 참조 화면(403)을 선택한다.

또한, 본 실시예의 화상 예측 복호 장치(300)에 있어서, 탐색 영역 설정기(201)는, 제2 재생 화면인 참조 화면(409)으로서, 입력 화상의 이미 재생된 영역을 선택한다.

또한, 본 실시예의 화상 예측 복호 장치(300)에 있어서, 탐색 영역 설정기(201)는, 제2종 후보 예측 신호로서, 제1종 후보 예측 신호와는 상이한 화소 신호를 선택한다.

<화상 예측 부호화 방법 및 화상 예측 복호 방법에 있어서의 프로그램>

본 실시예에 따른 화상 예측 부호화 방법 및 화상 예측 복호 방법을, 프로그램으로서 기록 매체에 저장하여 제공할 수도 있다. 기록 매체로서는, 플로피 디스크(등록상표), CD-ROM, DVD, 또는 ROM 등의 기록 매체, 또는 반도체 메모리 등이 예시된다.

도 15는, 화상 예측 부호화 방법을 실행할 수 있는 프로그램의 모듈을 나타낸 블록도이다. 화상 예측 부호화 프로그램 P100은, 블록 분할 모듈 P101, 동작 추정 모듈 P102, 예측 신호 생성 모듈 P103, 기억 모듈 P104, 감산 모듈 P105, 변환 모듈 P106, 양자화 모듈 P107, 역양자화 모듈 P108, 역변환 모듈 P109, 가산 모듈 P110, 및 엔트로피 부호화 모듈 P111을 구비하고 있다. 예측 신호 생성 모듈 P103은, 도 16에 나타낸 바와 같이, 대책 영역 설정 모듈 P201, 템플레이트 매칭 모듈 P202, 및 후보 예측 신호 합성 모듈 P203을 구비하고 있다.

전술한 각 모듈이 실행됨으로써 실현되는 기능은, 전술한 화상 예측 부호화 장치(100)의 기능과 동일하다. 즉, 화상 예측 부호화 프로그램 P100의 각 모듈의 기능은, 동작 추정기(113), 블록 분할기(102), 예측 신호 생성기(103), 프레임 메모리(104), 감산기(105), 변환기(106), 양자화기(107), 역양자화기(108), 역변환기(109), 가산기(110), 엔트로피 부호화기(111), 탐색 영역 설정기(201), 템플레이트 매칭기(202), 및 후보 예측 신호 합성기(203)의 기능과 동일하다.

또한, 도 17은, 화상 예측 복호 방법을 실행할 수 있는 프로그램의 모듈을 나타낸 블록도이다. 화상 예측 복호 프로그램 P300은, 엔트로피 복호 모듈 P302, 역양자화 모듈 P303, 역변환 모듈 P304, 가산 모듈 P305, 기억 모듈 P104, 및 예측 신호 생성 모듈 P103을 구비하고 있다.

전술한 각 모듈이 실행됨으로써 실현되는 기능은, 전술한 화상 예측 복호 장치(300)의 각 구성 요소와 같다. 즉, 화상 예측 복호 프로그램 P300의 각 모듈의 기능은, 엔트로피 복호기(302), 역양자화기(303), 역변환기(304), 가산기(305), 프레임 메모리(104), 및 예측 신호 생성기(103)의 기능과 동일하다.

이와 같이 구성된 화상 예측 부호화 프로그램 P100 또는 화상 예측 복호 프로그램 P300은, 기록 매체(10)에 기억되고, 후술하는 컴퓨터로 실행된다.

도 18은, 기록 매체에 기록된 프로그램을 실행하기 위한 컴퓨터의 하드웨어 구성을 나타낸 도면이며, 도 19는, 기록 매체에 기억된 프로그램을 실행하기 위한 컴퓨터의 사시도이다. 그리고, 기록 매체에 기억된 프로그램을 실행하는 것은 컴퓨터로 한정되지 않고, CPU를 구비하고 소프트웨어에 의한 처리나 제어 등을 행하는 DVD 플레이어, 셋탑 박스, 휴대 전화기 등일 수도 있다.

도 18에 나타낸 바와 같이, 컴퓨터(30)는, floppy-disk drive 장치(플로피 디스크는 등록상표), CD-ROM 드라이브 장치, DVD 드라이브 장치 등의 판독 장치(12)와, 운영체제(operating system)를 상주시킨 작업용 메모리(RAM)(14)와, 기록 매체(10)에 기억된 프로그램을 기억하는 메모리(16)와, 디스플레이와 같은 표시 장치(18)와, 입력 장치인 마우스(20) 및 키보드(22)와, 데이터 등의 송수신을 행하기 위한 통신 장치(24)와, 프로그램의 실행을 제어하는 CPU(26)를 구비하고 있다. 컴퓨터(30)는, 기록 매체(10)가 판독 장치(12)에 삽입되면, 판독 장치(12)로부터 기록 매체(10)에 저장된 화상 예측 부호화·복호 프로그램에 액세스 가능하여, 상기 화상 부호화·복호 프로그램에 의해, 본 실시예에 따른 화상 부호화 장치 또는 화상 복호 장치로서 동작할 수 있게 된다.

도 19에 나타낸 바와 같이, 화상 예측 부호화 프로그램 및 화상 복호 프로그램은, 반송파(搬送波)에 중첩된 컴퓨터 데이터 신호(40)로서 네트워크를 통하여 제공될 수도 있다. 이 경우, 컴퓨터(30)는, 통신 장치(24)에 의해 수신된 화상 예측 부호화 프로그램 또는 화상 복호 프로그램을 메모리(16)에 저장하여, 상기 화상 예측 부호화 프로그램 또는 화상 예측 복호 프로그램을 실행할 수 있다.

이상, 본 발명을 실시예에 기초하여 상세하게 설명하였다. 그러나, 본 발명은 상기 실시예로 한정되는 것은 아니다. 본 발명은, 그 요지를 벗어나지 않는 범위에서 다양하게 변형될 수 있다.

100: 화상 예측 부호화 장치 101: 입력 단자
102: 블록 분할기 103: 예측 신호 생성기
104: 프레임 메모리 105: 감산기
106: 변환기 107: 양자화기
108: 역양자화기 109: 역변환기
110: 가산기 111: 엔트로피 부호화기
112: 출력 단자 113: 동작 추정기
201: 탐색 영역 설정기 202: 템플레이트 매칭기
203: 후보 예측 신호 합성기 204: 동작 보상기
205: 후보 예측 영역 취득기 206: 가중 계수 산출기
211: 대상 인접 영역 취득기 212: 예측 인접 영역 취득기
213: 후보 예측 영역 선택기 214: 후보 예측 영역 결정기
221: 대상 인접 영역 취득기 223: 후보 예측 인접 영역 취득기
224: 가중 계수 결정기 225: 가중 계수 승산기
226: 가산·제산기 300: 화상 예측 복호 장치
301: 입력 단자 302: 엔트로피 복호기
303: 역양자화기 304: 역변환기
305: 가산기 306: 출력 단자

Claims

입력 화상을 복수개의 영역으로 분할하는 영역 분할 수단;
상기 영역 분할 수단에 의해 분할된 복수개의 영역 중 처리 대상인 대상 영역의 대상 화소 신호와의 상관 관계가 높은 신호를 기(旣) 재생 신호로부터 탐색하고, 탐색된 상기 신호를 지시하는 동작 정보를 추출하는 동작 추정 수단;
상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 수단;
상기 예측 신호 생성 수단에 의해 생성된 예측 신호와 상기 대상 화소 신호와의 잔차(殘差) 신호를 생성하는 잔차 신호 생성 수단; 및
상기 잔차 신호 생성 수단에 의해 생성된 상기 잔차 신호 및 상기 동작 추정 수단에 의해 추출된 상기 동작 정보를 부호화하는 부호화 수단
을 포함하고,
상기 예측 신호 생성 수단은,
상기 동작 정보에 기초하여, 상기 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 수단;
상기 동작 정보에 기초하여, 상기 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 수단;
상기 대상 영역에 인접하는 상기 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 복수개의 상기 예측 인접 영역에 기초하여, 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 수단;
상기 동작 보상 수단에 의해 생성된 제1종 후보 예측 신호와 상기 템플레이트 매칭 수단에 의해 생성된 1개 이상의 제2종 후보 예측 신호에 기초하여, 예측 신호를 생성하는 후보 예측 신호 합성 수단
을 포함하는 화상 예측 부호화 장치.
제1항에 있어서,
상기 동작 정보 수단에 의해 추출되는 상기 동작 정보는, 적어도 상기 제1종 후보 예측 신호의 생성에 사용되는 제1 재생 화면을 나타내는 정보와 상기 제1종 후보 예측 신호를 지시하는 동작 벡터의 정보를 포함하고,
상기 탐색 영역 결정 수단은, 상기 제1 재생 화면의 정보에 기초하여 상기 탐색 영역을 포함하는 제2 재생 화면을 선택하고,
상기 대상 영역을 포함하는 화면과 상기 제1 재생 화면과의 사이의 시간 방향의 화면 간격과, 상기 대상 영역을 포함하는 화면과 상기 제2 재생 화면과의 사이의 시간 방향의 화면 간격과, 상기 동작 벡터를 사용하여, 상기 탐색 영역의 제2 재생 화면 내의 공간 위치를 결정하는, 화상 예측 부호화 장치.
제1항 또는 제2항에 있어서,
상기 후보 예측 신호 합성 수단은, 상기 대상 인접 영역의 인접 화소 신호와 복수개의 상기 후보 예측 신호에 인접하는 후보 예측 인접 영역의 화소 신호와의 사이의 차분값에 기초하여 가중 평균하기 위한 가중 계수를 생성하고, 상기 가중 계수를 사용하여 복수개의 상기 후보 예측 신호를 가중 평균함으로써 대상 영역의 예측 신호를 생성하는, 화상 예측 부호화 장치.
제2항 또는 제3항에 있어서,
상기 템플레이트 매칭 수단은, 상기 동작 벡터를 구성하는 각 성분이 0값이며, 상기 탐색 영역이 상기 제1 재생 화면과는 상이한 화면에 속하는 경우, 상기 제2종 후보 예측 신호를 지시하는 동작 벡터를 구성하는 성분 중 적어도 어느 하나의 성분이 0 이외로 되도록 선택하는, 화상 예측 부호화 장치.
제2항 내지 제4항 중 어느 한 항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2 재생 화면을, 상기 대상 영역을 포함하는 화면에 대하여, 상기 제1 재생 화면과는 시간적으로 역방향의 화면으로 결정하는, 화상 예측 복호 장치.
제2항 내지 제4항 중 어느 한 항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2 재생 화면을, 상기 제1 재생 화면과는 상이한 화면이며, 또한 상기 대상 영역을 포함하는 화면과 시간적으로 가장 가까운 화면으로 결정하는, 화상 예측 부호화 장치.
제2항 내지 제4항 중 어느 한 항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서 복수개의 화면을 선택함으로써, 복수개의 탐색 영역을 선택하는, 화상 예측 부호화 장치.
제2항 내지 제4항 또는 제7항 중 어느 한 항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서 상기 제1 재생 화면을 선택하는, 화상 예측 부호화 장치.
제2항 내지 제4항 또는 제7항 중 어느 한 항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서, 상기 입력 화상의 이미 재생된 영역을 선택하는, 화상 예측 부호화 장치.
제1항 내지 제9항 중 어느 한 항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2종 후보 예측 신호로서, 상기 제1종 후보 예측 신호와는 상이한 화소 신호를 선택하는, 화상 예측 부호화 장치.
압축 데이터 중에서 처리 대상인 대상 영역에 관한 동작 정보의 부호화 데이터와 잔차 신호의 부호화 데이터를 복호하는 데이터 복호 수단;
상기 데이터 복호 수단에 의해 복호되어 얻어진 상기 잔차 신호로부터 재생 잔차 신호를 복원하는 잔차 신호 복원 수단;
상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 수단; 및
상기 예측 신호 생성 수단에 의해 생성된 상기 예측 신호와 상기 잔차 신호 복원 수단에 의해 복원된 상기 재생 잔차 신호를 가산함으로써, 상기 대상 영역의 화소 신호를 복원하는 화상 복원 수단
을 포함하고,
상기 예측 신호 생성 수단은,
상기 데이터 복호 수단에 의해 복호된 동작 정보에 기초하여, 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 수단;
상기 동작 정보에 기초하여, 상기 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 수단;
상기 대상 영역에 인접하는 상기 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 복수개의 상기 예측 인접 영역에 기초하여, 상기 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 수단; 및
상기 동작 보상 수단에 의해 생성된 제1종 후보 예측 신호와 상기 템플레이트 매칭 수단에 의해 생성된 1개 이상의 상기 제2종 후보 예측 신호에 기초하여, 예측 신호를 생성하는 후보 예측 신호 합성 수단
을 포함하는 화상 예측 복호 장치.
제11항에 있어서,
상기 동작 정보 수단에 의해 추출되는 상기 동작 정보는, 적어도 상기 제1종 후보 예측 신호의 생성에 사용되는 제1 재생 화면을 나타내는 정보와 상기 제1종 후보 예측 신호를 지시하는 동작 벡터의 정보를 포함하고,
상기 탐색 영역 결정 수단은, 상기 제1 재생 화면에 기초하여 상기 탐색 영역을 포함하는 제2 재생 화면을 선택하고,
상기 대상 영역을 포함하는 화면과 상기 제1 재생 화면과의 사이의 시간 방향의 화면 간격과, 상기 대상 영역을 포함하는 화면과 상기 제2 재생 화면과의 사이의 시간 방향의 화면 간격과, 상기 동작 벡터를 사용하여, 상기 탐색 영역의 상기 제2 재생 화면 내의 공간 위치를 결정하는, 화상 예측 복호 장치.
제11항 또는 제12항에 있어서,
상기 후보 예측 신호 합성 수단은, 상기 대상 인접 영역의 인접 화소 신호와 복수개의 상기 후보 예측 신호에 인접하는 후보 예측 인접 영역의 화소 신호와의 사이의 차분값에 기초하여 가중 평균하기 위한 가중 계수를 생성하고, 상기 가중 계수에 기초하여, 복수개의 상기 후보 예측 신호를 가중 평균함으로써 대상 영역의 예측 신호를 생성하는, 화상 예측 복호 장치.
제12항 또는 제13항에 있어서,
상기 템플레이트 매칭 수단은, 상기 동작 벡터를 구성하는 각 성분이 0값이며, 상기 탐색 영역이 상기 제1 화면과는 상이한 화면에 속하는 경우, 상기 제2종 후보 예측 신호를 지시하는 상기 동작 벡터를 구성하는 성분 중 적어도 어느 하나의 성분이 0 이외로 되도록 선택하는, 화상 예측 복호 장치.
제12항 내지 제14항 중 어느 한 항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2 재생 화면을, 상기 대상 영역을 포함하는 화면에 대하여, 상기 제1 재생 화면과는 시간적으로 역방향의 화면으로 결정하는, 화상 예측 복호 장치.
제12항 내지 제14항 중 어느 한 항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2 재생 화면을, 상기 제1 재생 화면과는 상이한 화면이며, 또한 상기 대상 영역을 포함하는 화면과 시간적으로 가장 가까운 화면으로 결정하는, 화상 예측 복호 장치.
제12항 내지 제14항 중 어느 한 항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서, 복수개의 화면을 선택함으로써, 복수개의 탐색 영역을 선택하는, 화상 예측 복호 장치.
제12항 또는 제17항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서 상기 제1 재생 화면을 선택하는, 화상 예측 부호화 장치.
제12항 내지 제14항 또는 제17항 중 어느 한 항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2 재생 화면으로서, 상기 대상 영역을 포함하는 화면을 선택하는, 화상 예측 복호 장치.
제11항 내지 제19항 중 어느 한 항에 있어서,
상기 탐색 영역 결정 수단은, 상기 제2종 후보 예측 신호로서, 상기 제1종 후보 예측 신호와는 상이한 화소 신호를 선택하는, 화상 예측 복호 장치.
입력 화상을 복수개의 영역으로 분할하는 영역 분할 단계;
상기 영역 분할 단계에 의해 분할된 상기 복수개의 영역 중 처리 대상인 대상 영역의 대상 화소 신호와의 상관 관계가 높은 신호를 기 재생 신호로부터 탐색하고, 탐색된 상기 신호를 지시하는 동작 정보를 추출하는 동작 추정 단계;
상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 단계;
상기 예측 신호 생성 단계에 의해 생성된 상기 예측 신호와 상기 대상 화소 신호와의 잔차 신호를 생성하는 잔차 신호 생성 단계; 및
상기 잔차 신호 생성 단계에 의해 생성된 상기 잔차 신호 및 상기 동작 추정 단계에 의해 추출된 상기 동작 정보를 부호화하는 부호화 단계
를 포함하고,
상기 예측 신호 생성 단계는,
상기 동작 정보에 기초하여, 상기 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 단계;
상기 동작 정보에 기초하여, 상기 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 단계;
상기 대상 영역에 인접하는 상기 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 복수개의 상기 예측 인접 영역에 기초하여, 상기 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 단계;
상기 동작 보상 단계에 의해 생성된 제1종 후보 예측 신호와 상기 템플레이트 매칭 단계에 의해 생성된 1개 이상의 상기 제2종 후보 예측 신호에 기초하여, 예측 신호를 생성하는 후보 예측 신호 합성 단계
를 포함하는 화상 예측 부호화 방법.
압축 데이터 중에서 처리 대상인 대상 영역에 관한 동작 정보의 부호화 데이터와 잔차 신호의 부호화 데이터를 복호하는 데이터 복호 단계;
상기 데이터 복호 단계에 의해 복호되어 얻어진 상기 잔차 신호로부터 재생 잔차 신호를 복원하는 잔차 신호 복원 단계;
상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 단계; 및
상기 예측 신호 생성 단계에 의해 생성된 상기 예측 신호와 상기 잔차 신호 복원 단계에 의해 복원된 상기 재생 잔차 신호를 가산함으로써, 상기 대상 영역의 화소 신호를 복원하는 화상 복원 단계
를 포함하고,
상기 예측 신호 생성 단계는,
상기 데이터 복호 단계에 의해 복호된 동작 정보에 기초하여, 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 단계;
상기 동작 정보에 기초하여, 상기 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 단계;
상기 대상 영역에 인접하는 상기 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 복수개의 상기 예측 인접 영역에 기초하여, 상기 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 단계; 및
상기 동작 보상 단계에 의해 생성된 상기 제1종 후보 예측 신호와 상기 템플레이트 매칭 단계에 의해 생성된 1개 이상의 상기 제2종 후보 예측 신호에 기초하여, 예측 신호를 생성하는 후보 예측 신호 합성 단계
를 포함하는 화상 예측 복호 방법.
입력 화상을 복수개의 영역으로 분할하는 영역 분할 모듈;
상기 영역 분할 모듈에 의해 분할된 복수개의 영역 중 처리 대상인 대상 영역의 대상 화소 신호와의 상관 관계가 높은 신호를 기 재생 신호로부터 탐색하고, 탐색된 상기 신호를 지시하는 동작 정보를 추출하는 동작 추정 모듈;
상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 모듈;
상기 예측 신호 생성 모듈에 의해 생성된 상기 예측 신호와 상기 대상 화소 신호와의 잔차 신호를 생성하는 잔차 신호 생성 모듈;
상기 잔차 신호 생성 모듈에 의해 생성된 상기 잔차 신호 및 상기 동작 추정 모듈에 의해 추출된 상기 동작 정보를 부호화하는 부호화 모듈
을 포함하고,
상기 예측 신호 생성 모듈은,
상기 동작 정보에 기초하여, 상기 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 모듈;
상기 동작 정보에 기초하여, 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 모듈;
상기 대상 영역에 인접하는 상기 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 복수개의 상기 예측 인접 영역에 기초하여, 상기 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 모듈; 및
상기 동작 보상 모듈에 의해 생성된 상기 제1종 후보 예측 신호와 상기 템플레이트 매칭 모듈에 의해 생성된 1개 이상의 상기 제2종 후보 예측 신호에 기초하여, 예측 신호를 생성하는 후보 예측 신호 합성 모듈
을 포함하는 화상 예측 부호화 프로그램.
압축 데이터 중에서 처리 대상인 대상 영역에 관한 동작 정보의 부호화 데이터와 잔차 신호의 부호화 데이터를 복호하는 데이터 복호 모듈;
상기 데이터 복호 모듈에 의해 복호되어 얻어진 상기 잔차 신호로부터 재생 잔차 신호를 복원하는 잔차 신호 복원 모듈;
상기 대상 영역의 대상 화소 신호에 대한 예측 신호를 생성하는 예측 신호 생성 모듈;
상기 예측 신호 생성 모듈에 의해 생성된 상기 예측 신호와 상기 잔차 신호 복원 모듈에 의해 복원된 상기 재생 잔차 신호를 가산함으로써, 상기 대상 영역의 화소 신호를 복원하는 화상 복원 모듈
을 포함하고,
상기 예측 신호 생성 모듈은,
상기 데이터 복호 모듈에 의해 복호된 상기 동작 정보에 기초하여, 기 재생 신호로부터 제1종 후보 예측 신호를 생성하는 동작 보상 모듈;
상기 동작 정보에 기초하여, 기 재생 신호의 부분 영역인 탐색 영역을 결정하는 탐색 영역 결정 모듈;
상기 대상 영역에 인접하는 상기 기 재생의 인접 화소 신호로 이루어지는 대상 인접 영역과의 상관 관계가 높은 예측 인접 영역을, 상기 탐색 영역으로부터 1개 이상 탐색하고, 복수개의 상기 예측 인접 영역에 기초하여, 상기 기 재생 신호로부터 상기 대상 화소 신호의 제2종 후보 예측 신호를 1개 이상 생성하는 템플레이트 매칭 모듈;
상기 동작 보상 모듈에 의해 생성된 상기 제1종 후보 예측 신호와 상기 템플레이트 매칭 모듈에 의해 생성된 1개 이상의 상기 제2종 후보 예측 신호에 기초하여, 예측 신호를 생성하는 후보 예측 신호 합성 모듈
을 포함하는 화상 예측 복호 프로그램.