KR101000635B1 - 동화상의 부호화 방법 및 복호화 방법 - Google Patents

동화상의 부호화 방법 및 복호화 방법 Download PDF

Info

Publication number
KR101000635B1
KR101000635B1 KR1020107011290A KR20107011290A KR101000635B1 KR 101000635 B1 KR101000635 B1 KR 101000635B1 KR 1020107011290 A KR1020107011290 A KR 1020107011290A KR 20107011290 A KR20107011290 A KR 20107011290A KR 101000635 B1 KR101000635 B1 KR 101000635B1
Authority
KR
South Korea
Prior art keywords
picture
linear prediction
reference index
image
encoding
Prior art date
Application number
KR1020107011290A
Other languages
English (en)
Other versions
KR20100082015A (ko
Inventor
기요후미 아베
신야 가도노
사토시 곤도
마코토 하가이
Original Assignee
파나소닉 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=31721895&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=KR101000635(B1) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by 파나소닉 주식회사 filed Critical 파나소닉 주식회사
Publication of KR20100082015A publication Critical patent/KR20100082015A/ko
Application granted granted Critical
Publication of KR101000635B1 publication Critical patent/KR101000635B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/573Motion compensation with multiple frame prediction using two or more reference frames in a given prediction direction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/58Motion compensation with long-term prediction, i.e. the reference frame for a current frame not being the temporally closest one
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Abstract

본 발명의 화상 부호화 방법은, 픽처 번호로 식별되는 부호화가 끝난 픽처를 참조 픽처로서 기억부에 저장하고, 예측 화상의 생성에 사용되는 계수 및 참조 픽처를 지정하는 참조 인덱스와 픽처 번호를 대응시키는 커맨드를 생성하고, 부호화 대상 픽처 상의 블록에 대해 움직임 보상을 행할 때의 참조 픽처를 상기 참조 인덱스에 의해 지정하여, 지정된 참조 픽처 내의 움직임 검출에 의해 얻어진 블록에 대해, 상기 참조 인덱스에 대응한 상기 계수를 사용한 선형 예측을 실시함으로써 예측 화상을 생성하고, 입력된 부호화 대상 픽처중의 블록과 상기 예측 화상과의 차인 예측 잔차와, 상기 커맨드와, 상기 참조 인덱스와, 상기 계수를 부호화한 부호화 신호를 포함하는 화상 부호화 신호를 출력하고, 그 때, 상기 화상 부호화 신호 중에 상기 참조 인덱스의 최대치를 나타내는 정보를 부호화하고, 또 1개 이상의 픽처 번호에 다수의 참조 인덱스를 대응시키는 커맨드를 생성한다.

Description

동화상의 부호화 방법 및 복호화 방법{MOVING PICTURE ENCODING METHOD AND DECODING METHOD}
본 발명은, 동화상의 부호화 방법 및 복호화 방법에 관한 것으로, 특히 이미 부호화가 끝난 픽처를 참조하여 화면 간 예측을 행하는 부호화 방법 및 복호화 방법에 관한 것이다.
최근 멀티미디어 애플리케이션의 발전에 따라, 화상·음성·텍스트 등, 모든 미디어의 정보를 통일적으로 취급하는 것이 일반적이 되어 왔다. 이 때, 모든 미디어를 디지털화함으로써 통일적으로 미디어를 취급하는 것이 가능하게 된다. 그러나, 디지털화된 화상은 방대한 데이터량을 가지므로, 축적·전송을 위해서는 화상의 정보 압축 기술이 불가결하다. 한편, 압축한 화상 데이터를 상호 운용하기 위해서는, 압축 기술의 표준화도 중요하다. 화상 압축 기술의 표준 규격으로서는, ITU-T(국제전기통신연합 전기통신 표준화 부문)의 H. 261, H. 263, ISO(국제표준화기구)의 MPEG-1 MPEG-4 등이 있다. 또, ITU에서는, 현재 최신의 화상 부호화 규격으로서 H. 26L이 표준화중이다.
일반적으로 동화상의 부호화에서는, 시간 방향 및 공간 방향의 장황성을 삭감함으로써 정보량의 압축을 행한다. 그래서 시간적인 장황성의 삭감을 목적으로 하는 픽처 간 예측 부호화에서는, 전방 또는 후방의 픽처를 참조하여 블록 단위로 움직임의 검출 및 예측 화상의 작성을 행하여, 얻어진 예측 화상과 현재의 픽처와의 차분치에 대해 부호화를 행한다.
여기서, 픽처란 1장의 화면을 표시하는 용어이고, 프로그래시브 화상에서는 프레임을 의미하며, 인터레이스 화상에서는 프레임 또는 필드를 의미한다. 여기서, 인터레이스 화상이란, 1개의 프레임이 시각이 다른 2개의 필드로 구성되는 화상이다. 인터레이스 화상의 부호화나 복호화 처리에 있어서는, 1개의 프레임을 프레임인채로 처리하거나, 2개의 필드로서 처리하거나, 프레임 내의 블록마다 프레임 구조 또는 필드 구조로서 처리하거나 할 수 있다.
또한, 이하에 나타낸 픽처는 프로그레시브 화상에서의 프레임의 의미로 설명하는데, 인터레이스 화상에서의 프레임 또는 필드여도 마찬가지로 설명할 수 있다.
도 30은 픽처의 종류와 그 참조 관계를 설명하기 위한 도면이다.
픽처 I1처럼 참조 픽처를 갖지 않고 픽처 내 예측 부호화를 행하는 것을 I 픽처라고 부른다. 또, 픽처 P10과 같이 1장의 픽처만을 참조하여 픽처 간 예측 부호화를 행하는 것을 P 픽처라 부른다. 또, 동시에 2장의 픽처를 참조하여 픽처 간 예측 부호화를 행할 수 있는 것을 B 픽처라 부른다.
B 픽처는 픽처 B6, B12, B18처럼 시간적으로 임의의 방향에 있는 2장의 픽처를 동시에 참조하는 것이 가능하다. 참조 픽처는 움직임 검출의 단위인 블록마다 지정할 수 있으나, 부호화를 행한 부호열중에 먼저 기술되는 쪽의 참조 픽처를 제1 참조 픽처, 후에 기술되는 쪽을 제2 참조 픽처로 하여 구별한다.
단, 이들 픽처를 부호화 및 복호화하는 경우의 조건으로서, 참조하는 픽처가 이미 부호화 및 복호화되어 있을 필요가 있다. 도 31은 B 픽처를 부호화 및 복호화하는 경우의 순서의 예이다. 도 31(a)는 표시되는 순서, 도 31(b)는 (a)를 부호화 및 복호화하는 순서로 재배열한 것이다. 픽처 B3, B6에 의해 참조되는 픽처는 모두 먼저 부호화 및 복호화되어 있도록 재배열되어 있는 것을 알 수 있다.
상기 B 픽처의 부호화에 있어서, 동시에 2개의 픽처를 참조하는 경우의 예측 화상의 작성 방법에 관해 도 32를 사용하여 자세히 설명한다. 또한, 복호화의 경우의 예측 화상의 작성 방법에 대해서도 완전 동일하다.
픽처 B4는 현재 부호화의 대상으로 하고 있는 B픽처이고, 블록 BL01 및 블록 BL02는 상기 B 픽처에 속하는 부호화 대상의 블록이다. BL01은 제1 참조 픽처를 픽처 P2, 제2 참조 픽처를 픽처 P3로 하고, 각각의 픽처에 속하는 블록 BL11 및 BL21을 참조하여 예측 화상을 작성한다. 마찬가지로 BL02는 제1 참조 픽처를 픽처 P2, 제2 참조 픽처를 픽처 P1으로 하여, 각각의 픽처에 속하는 블록 BL12 및 BL22를 참조하여 예측 화상을 작성한다. (비특허 문헌 1 참조)
도 33은 참조된 2개의 블록 BL11 및 BL21을 사용하여 부호화 대상의 블록 BL01의 예측 화상을 작성하는 방법을 설명하기 위한 도면이다. 여기서는 각 블록의 사이즈가 4×4 화소라고 가정하여 설명한다. Q1(i)는 BL11의 화소치, Q2(i)는 BL21의 화소치, P(i)는 구하는 BL01의 예측 화상의 화소치로 하면, 화소치 P(i)는 식 1과 같은 선형 예측식에 의해 산출할 수 있다. i는 화소의 위치를 나타내는 것이며, 여기서의 예에서는 0부터 15의 값을 갖게 된다.
P(i)=(w1×Q1(i)+w2×Q2(i))/pow(2,d)+c (식 1)
(pow(2,d)는 2의 d승을 나타낸다)
w1, w2, c, d는 선형 예측을 행하기 위한 계수이고, 4개를 1조의 가중 계수 세트로서 취급한다. 이들 가중 계수 세트는 각 블록이 참조하는 픽처를 지정하는 참조 인덱스에 의해 결정되는 것이며, 예를 들면 BL01의 경우는 w1_1, w2_1, c_1, d_1, BL02의 경우는 w1_2, w2_2, c_2, d_2라는 4개의 값을 사용한다.
다음에, 참조 픽처를 지정하기 위한 참조 인덱스에 관해 도 34, 도 35를 사용하여 설명한다. 각 픽처에는 메모리에 축적될 때마다 1씩 증가하는 픽처 번호라는 값이 배당되어 있다. 즉, 새롭게 축적되는 픽처에는 기존의 픽처 번호의 최대치로부터 1개 증가한 값을 갖는 픽처 번호가 부여된다. 그러나, 실제로 참조 화상을 지정하는 것은 이 픽처 번호가 아니라, 달리 정의된 참조 인덱스라는 값을 사용하게 된다. 제1 참조 픽처를 나타내는 것을 제1 참조 인덱스, 제2 참조 픽처를 나타내는 것을 제2 참조 인덱스라고 부른다.
도 34는 픽처 번호에 대한 2개의 참조 인덱스의 할당 방법을 설명하기 위한 도면이다. 도면과 같이 표시되는 순서로 나열된 픽처열이 있었을 때, 픽처 번호는 부호화되는 순서로 배당되고 있다. 참조 인덱스를 픽처 번호에 할당하기 위한 커맨드는 픽처를 더욱 분할한 부호화 단위인 슬라이스의 헤더에 기술되어, 1개의 슬라이스를 부호화할 때마다 배당 방법이 갱신되게 된다. 상기 커맨드는, 직전에 참조 인덱스에 할당한 픽처 번호와 현재 할당하고 있는 픽처 번호와의 차분치를 참조 인덱스의 수만큼 연속하여 지시하는 것이다.
도 34의 제1 참조 인덱스의 예를 사용하면, 먼저 커맨드로서 "-1"이 주어졌기때문에, 현재 부호화 대상으로 하고 있는 픽처 번호 16번에서 1을 뺌으로써, 픽처 번호 15번이 참조 인덱스 0번으로 할당된다. 다음에 "-4"가 주어졌기 때문에, 직전에 할당한 픽처 번호 15번에서 4를 뺌으로써, 픽처 번호 11번이 참조 인덱스 1번으로 할당된다. 이하 같은 처리에 의해 각 픽처 번호의 할당이 행해진다. 제2 참조 인덱스의 경우도 같다.
도 35는 참조 인덱스의 할당을 행한 결과를 나타낸 것이다. 각 픽처 번호에는 제1 참조 인덱스 및 제2 참조 인덱스가 각각 독립적으로 할당되어 있으나, 각각의 참조 인덱스만을 보면 1개의 픽처 번호에 대해 1개의 참조 인덱스가 할당되어 있는 것을 알 수 있다.
다음에 도 36 및 도 37을 사용하여 사용하는 가중 계수 세트의 결정 방법을 설명한다.
1개의 픽처의 부호열은, 픽처 공통 정보 영역 및 다수의 슬라이스 데이터 영역으로 구성된다. 도 36은 그 중의 슬라이스 데이터 영역의 구성을 나타낸 것이다. 또한 슬라이스 데이터 영역은, 슬라이스 헤더 영역 및 다수의 블록 데이터 영역으로 구성된다. 여기서는 블록 데이터 영역의 예로서 도 32에 있어서의 BL01, BL02에 대응하는 각 블록의 영역을 나타내고 있다.
BL01에 포함되는 ref1 및 ref2는 이 블록이 참조하는 2장의 픽처를 지시하는 제1 참조 인덱스 및 제2 참조 인덱스를 각각 지시하는 것이다. 또 슬라이스 헤더 영역에는 상기 선형 예측을 행하기 위한 가중 계수 세트를 결정하기 위한 데이터(pset0, pset1, pset2, pset3, pset4)가 ref1용 및 ref2용 각각에 기술되어 있다. 도 37은 상기 슬라이스 헤더 영역에 포함되는 상기 데이터의 예를 표에 나타낸 것이다.
식별자 pset로 표시되는 각각의 데이터는 w1, w2, c, d의 4개치를 갖고, ref1및 ref2의 값에 의해 다이렉트로 참조할 수 있도록 구성되어 있다. 또, 슬라이스 헤더 영역에는 상기 참조 인덱스를 픽처 번호에 할당하기 위한 커맨드열 idx_cmd1 및 idx_cmd2가 기술되어 있다.
도 36의 BL01에 기술된 ref1 및 ref2에 의해 도 37의 ref1용 및 ref2용의 테이블로부터 각각 1조씩의 가중 계수 세트가 선택된다. 각각의 가중 계수 세트를 사용하여 식 1의 선형 예측을 행함으로써, 2개의 예측 화상이 생성된다. 이 2개의 예측 화상에 대해 각각 화소마다 평균을 취함으로써 구하는 예측 화상을 얻을 수 있다.
또, 상술한 바와 같이 선형 예측 계수의 가중 계수 세트로부터 구하는 예측식을 사용하여 예측 화상을 생성하는 것이 아니라, 미리 정한 고정식을 사용하여 예측 화상을 구하는 방법도 있다. 이 방법으로서, 제1 참조 인덱스에 의해 지정되는 픽처가 제2 참조 인덱스에 의해 지정되는 픽처보다도 표시 순서에서 뒤에 있는 경우는, 고정된 계수로 이루어지는 고정식인 식 2a를 선택하고, 그 이외는 고정된 계수로 이루어지는 고정식인 식 2b를 선택하여, 예측 화상을 생성한다.
P(i)=2×Q1(i)-Q2(i) (식 2a)
P(i)=(Q1(i)+Q2(i))/2 (식 2b)
이렇게 예측식이 고정이므로, 예측 화상을 구할 때의 가중 계수 세트를 부호화하여 보낼 필요가 없다고 하는 이점이 있다. 또, 픽처의 위치 관계에 의해 고정식의 선택이 행해지므로, 선형 예측 계수의 가중 계수 세트를 지정하기 위한 플래그를 부호화하여 보낼 필요가 없다고 하는 이점도 있다. 또, 선형 예측의 계산식이 단순하므로, 적은 처리량으로 선형 예측을 대폭 삭감하는 것이 가능하다.
(비특허 문헌 1)
ITU-T Rec. H. 264|ISO/IEC 14496-10 AVC
Joint Committee Draft(CD)
(2002-5-10)
(P.34 8.4.3 Re-Mapping of frame numbers indicator,
P.105 11.5 Prediction signal generation procedure)
식 1에 의한 가중 계수 세트를 사용한 예측 화상 작성 방법에서는, 참조 픽처에 참조 인덱스를 할당하는 커맨드의 수가 참조 픽처의 매수와 같은 수이므로, 1개의 참조 픽처에 대해 1개의 참조 인덱스만 할당되고, 같은 참조 픽처를 참조하고 있는 블록에서는 선형 예측에 사용되는 가중 계수 세트는 완전히 같은 값의 것이 된다. 픽처 내에서 한결같은 화상 변화가 일어나고 있는 경우는 문제없지만, 부분 부분에 따라 화상 변화가 다른 경우는, 최적의 예측 화상이 생성되지 않을 가능성이 대단히 높아져 버린다. 또, 식중에 곱셈을 사용한 연산이 포함되어 있으므로, 선형 예측을 위한 처리량이 커져 버린다고 하는 문제가 있다.
그래서 본 발명의 목적은, 1개의 참조 픽처에 다수의 참조 픽처를 할당하는 것을 가능하게 하는 동시에, 다수의 참조 인덱스가 할당되어 있는 경우나, 1개의 참조 인덱스가 할당되어 있는 경우라도, 참조 인덱스의 복호화의 효율을 향상시키는 화상 부호화 방법, 화상 복호화 방법, 그들의 장치, 그들의 프로그램을 제공하는 것에 있다.
그리고 이 목적을 달성하기 위해, 본 발명의 화상 부호화 방법은, 픽처 번호로 식별되는 부호화가 끝난 픽처를 참조 픽처로서 기억부에 저장하는 참조 픽처 저장 단계와, 예측 화상의 생성에 사용되는 계수 및 상기 참조 픽처를 지정하는 참조 인덱스와 상기 픽처 번호를 대응시키는 커맨드를 생성하는 커맨드 생성 단계와, 부호화 대상 픽처 상의 블록에 대해 움직임 보상을 행할 때의 참조 픽처를 상기 참조 인덱스에 의해 지정하는 참조 픽처 지정 단계와, 상기 참조 픽처 지정 단계에서 지정된 참조 픽처 내의 움직임 검출에 의해 얻어진 블록에 대해, 상기 참조 인덱스에 대응한 상기 계수를 사용한 선형 예측을 실시함으로써 예측 화상을 생성하는 예측 화상 생성 단계와, 입력된 부호화 대상 픽처 내의 블록과 상기 예측 화상과의 차인 예측 잔차와, 상기 커맨드와, 상기 참조 인덱스와, 상기 계수를 부호화한 부호화 신호를 포함하는 화상 부호화 신호를 출력하는 부호화 신호 출력 단계를 갖고, 상기 부호화 신호 출력 단계는, 상기 화상 부호화 신호중에 상기 참조 인덱스의 최대치를 나타내는 정보를 부호화하도록 구성되어 있다.
여기서, 상기 참조 인덱스의 최대치를 나타내는 정보는, 상기 화상 부호화 신호에 포함되는 픽처 공통 정보 영역에 놓여 있는 구성으로 해도 된다.
이 구성에 의하면, 복호화 장치에 있어서, 상기 커맨드를 기초로, 픽처 번호와 참조 인덱스를 대응시켜 갈 때, 참조 인덱스의 최대치를 나타내는 정보가 부호화신호에 포함되므로, 픽처 번호와 참조 인덱스를 커맨드에 따라서 대응시키는 처리를 상기 최대치에 달할 때까지 행함으로써, 용이하게 모든 참조 인덱스와 픽처 번호를 대응시킬 수 있다. 그 결과, 1개의 참조 픽처에 다수의 참조 픽처를 할당하는 것을 가능하게 하는 동시에, 다수의 참조 인덱스가 할당되어 있는 경우나, 1개의 참조 인덱스가 할당되어 있는 경우라도, 참조 인덱스의 복호화를 효율적으로 행할 수 있다.
여기서, 상기 커맨드 생성 단계에 있어서, 기억부에 저장되어 있는 다수의 참조 픽처중에, 다수의 참조 인덱스가 대응지어진 픽처 번호를 갖는 참조 픽처가 적어도 1개 이상 포함되도록 커맨드를 생성하는 구성으로 해도 된다.
또, 상기 참조 픽처 지정 단계에 있어서, 상기 참조 픽처의 픽처 번호에 대해 다수의 참조 인덱스가 대응지어져 있는 경우, 해당 다수의 참조 인덱스의 각각 대응하는 계수에 기초하여, 그 중의 1개의 참조 인덱스를 선택하여, 상기 예측 화상 생성 단계에 있어서, 지정 단계에서 선택된 참조 인덱스에 대응하는 계수를 사용하여 선형 예측을 실시하는 구성으로 해도 된다.
이 구성에 의하면, 1개의 픽처 번호에 다수의 참조 인덱스를 대응시키므로, 참조 픽처를 지정하는 상기 참조 인덱스에 대응한 상기 계수를 사용한 선형 예측을 실시할 때, 해당 계수를 다수의 계수 중에서 선택하는 것이 가능해진다. 즉, 선형 예측에 사용되는 계수로서 최적의 계수를 선택할 수 있다. 그 결과, 부호화 효율의 향상을 도모할 수 있다.
여기서, 상기 예측 화상 생성 단계에 있어서, 비트 시프트 연산, 가산 및 감산만을 사용하여 상기 선형 예측을 행하는 구성으로 해도 된다.
이 구성에 의하면, 처리 부하가 무거운 승제산을 사용하지 않고, 처리 부하가 가벼운 비트 시프트 연산, 가산 및 감산만을 사용하므로, 선형 예측의 처리량을 적게 억제할 수 있다.
여기서, 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측에서 사용하는 계수로서, 선형 예측식에서의 직류 성분을 나타내는 값만이, 상기 참조 인덱스에 대응지어지는 구성으로 해도 된다.
이 구성에 의하면, 계수로서, 직류 성분을 나타내는 값 이외의 값은 부호화하지 않아도 되므로, 부호화 효율을 향상시킬 수 있다. 또, 처리 부하가 무거운 승제산을 사용하지 않고, 처리 부하가 가벼운 가산 및 감산만을 사용하므로, 선형 예측의 처리량을 적게 억제할 수 있다.
여기서, 상기 참조 인덱스는, 제1 참조 픽처를 나타내는 제1 참조 인덱스와, 제2 참조 픽처를 나타내는 제2 참조 인덱스를 갖고, 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측을 행하는 방법으로서, 각 참조 픽처가 갖는 표시순서 정보에 의해 계수를 생성하는 방법을 사용하는 경우에, 제1 참조 인덱스에 의해 지정되는 참조 픽처 및 제2 참조 인덱스에 의해 지정되는 참조 픽처가 같은 표시순서 정보를 가질 때는, 미리 설정된 계수를 대신 사용하여 선형 예측을 행하는 구성으로 해도 된다.
또, 상기 미리 설정된 계수는, 같은 가중치를 갖는 구성으로 해도 된다.
이 구성에 의하면, 2개의 참조 픽처가 같은 표시순서 정보를 갖는 경우라도 계수를 결정하여 선형 예측을 행하는 것이 가능해져, 부호화 효율을 향상시킬 수 있다.
또, 본 발명의 화상 복호화 방법, 화상 부호화 장치, 화상 복호화 장치, 화상 부호화 프로그램, 화상 복호화 프로그램 및 화상 부호화 데이터에 관해서도, 상기와 같은 구성, 작용 및 효과를 갖는다.
또, 본 발명의 화상 부호화 방법은, 이하의 (1)∼(14) 중 어느 한 구성으로 할 수 있다.
(1) 본 발명에 의한 화상 부호화 방법은, 픽처 번호로 식별되는 부호화가 끝난 픽처를 기억부에 저장하는 참조 픽처 저장 단계와, 부호화 대상 픽처 상의 블록에 대해 움직임 보상을 행할 때 참조하는, 기억부에 저장되어 있는 다수의 부호화가 끝난 픽처로부터 임의로 선택된, 참조 픽처와 예측 화상을 생성할 때 사용하는 계수를 나타내는 참조 인덱스와, 상기 픽처 번호를 대응시키는 커맨드이며, 다수의 참조 인덱스가 동일한 픽처를 참조하는 것이 가능한 커맨드를 생성하는 커맨드 생성 단계와, 부호화 대상 픽처 상의 블록에 대해 움직임 보상을 행할 때 참조하는 참조 픽처를 상기 참조 인덱스에 의해 지정하는 참조 픽처 지정 단계와, 상기 참조 픽처 지정 단계에서 선택된 참조 픽처 상의 움직임 검출에 의해 얻어진 블록에 대해, 이 참조 픽처를 지정하는 상기 참조 인덱스에 대응한 상기 계수를 사용한 선형 예측을 실시함으로써 예측 화상을 생성하는 예측 화상 생성 단계와, 입력된 부호화 대상 프레임과 상기 예측 화상과의 차인 예측 잔차와, 상기 커맨드와, 상기 참조 인덱스와, 상기 계수를 부호화한 부호화 신호를 포함하는 화상 부호화 신호를 출력하는 부호화 신호 출력 단계를 갖는다.
(2) 또한, 본 발명에 의한 다른 화상 부호화 방법은, 상기 참조 픽처가 갖는 픽처 번호에 대해, 다수의 참조 인덱스를 할당하는 것이 가능하고, 상기 참조 픽처 지정 단계에 있어서 각 부호화가 끝난 픽처에 대응하는 1개 이상의 참조 인덱스로부터 1개의 참조 인덱스를 선택하여, 상기 예측 화상 생성 단계에 있어서의 선형 예측에서 사용하는 계수를 결정할 수 있다.
(3) 또한, 본 발명에 의한 다른 화상 부호화 방법은, 1개의 슬라이스에 의해 참조되는 다수의 참조 픽처 중에, 다수의 참조 인덱스가 할당된 픽처 번호를 갖는 참조 픽처를 적어도 1개 가질 수 있다.
(4) 또한, 본 발명에 의한 다른 화상 부호화 방법에 있어서, 상기 참조 인덱스는, 상기 다수의 부호화가 끝난 픽처로부터 임의로 지정된 제1 참조 픽처를 나타내는 제1 참조 인덱스와, 상기 다수의 부호화가 끝난 프레임로부터 임의로 지정된 제2 참조 프레임을 나타내는 제2 참조 인덱스로 이루어지고, 상기 예측 화상 생성 단계에서는, 상기 블록에 대해, 상기 제1 참조 인덱스에 대응하는 계수에 의해 선형 예측을 실시하는 동시에, 상기 제2 참조 인덱스에 대응하는 계수에 의해 선형 예측을 실시하여, 각각의 선형 예측에서 얻어진 2개의 예측 화상에 있어서의 화소치의 평균을 구함으로써, 상기 블록에 대한 최종적인 예측 화상을 생성한다.
(5) 또한, 본 발명에 의한 다른 화상 부호화 방법에 있어서, 상기 참조 인덱스는, 상기 다수의 부호화가 끝난 픽처로부터 임의로 지정된 제1 참조 픽처를 나타내는 제1 참조 인덱스와, 상기 다수의 부호화가 끝난 프레임으로부터 임의로 지정된 제2 참조 프레임을 나타내는 제2 참조 인덱스로 이루어지고, 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측에서 사용하는 계수의 결정은, 선택된 제1 참조 인덱스와 제2 참조 인덱스 각각이 지시하는 상기 계수의 평균에 의해 구해진다.
(6)또한, 본 발명에 의한 다른 화상 부호화 방법에 있어서, 상기 참조 인덱스는, 상기 다수의 부호화가 끝난 픽처로부터 임의로 지정된 제1 참조 픽처를 나타내는 제1 참조 인덱스와, 상기 다수의 부호화가 끝난 프레임로부터 임의로 지정된 제2 참조 프레임을 나타내는 제2 참조 인덱스로 이루어지고, 상기 제1 및 제2 참조 인덱스에는, 다수의 계수로 이루어지는 조가 대응지어지고, 상기 예측 화상 생성 단계에서는, 한쪽의 참조 인덱스에 대응하는 계수의 조 중의 일부와 다른쪽의 참조 인덱스에 대응하는 계수의 조의 일부를 사용하여 상기 예측 화상을 생성한다.
(7) 또한, 본 발명에 의한 다른 화상 부호화 방법은, 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측에서 사용하는 계산식은, 승산 및 제산을 사용하지 않고 비트 시프트 연산 및 가산 및 감산만으로 구성되어 있다. 이에 의해, 연산 처리가 적은 처리만으로 선형 예측이 가능하다.
(8) 또한, 본 발명에 의한 다른 화상 부호화 방법에 있어서, 상기 참조 인덱스는, 상기 다수의 부호화가 끝난 픽처로부터 임의로 지정된 제1 참조 픽처를 나타내는 제1 참조 인덱스와, 상기 다수의 부호화가 끝난 프레임으로부터 임의로 지정된 제2 참조 프레임을 나타내는 제2 참조 인덱스로 이루어지고, 상기 예측 화상 생성 단계에서는, 상기 제1 및 제2 참조 인덱스에 대응하는 계수의 조 중, 상기 비트 시프트 연산에 사용되는 계수는 상기 제1 및 제2 참조 인덱스 중 어느 하나에 대응하는 계수를 선택하여 사용하고, 그 밖의 연산에 사용되는 계수는 상기 제1 및 제2 참조 인덱스 각각에 대응하는 계수의 평균치를 사용하여 상기 예측 화상을 생성한다.
(9) 또한, 본 발명에 의한 다른 화상 부호화 방법에 있어서, 상기 참조 인덱스는, 상기 다수의 부호화가 끝난 픽처로부터 임의로 지정된 제1 참조 픽처를 나타내는 제1 참조 인덱스와, 상기 다수의 부호화가 끝난 프레임으로부터 임의로 지정된 제2 참조 프레임을 나타내는 제2 참조 인덱스로 이루어지고, 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측에서 사용하는 계수로서, 선형 예측식에서의 직류 성분을 나타내는 값만을 사용하여, 제1 참조 인덱스 및 제2 참조 인덱스 각각에 1개씩 대응지어진다.
(10) 또한, 본 발명에 의한 다른 화상 부호화 방법에 있어서, 픽처 번호로 식별되는 부호화가 끝난 픽처를 기억부에 저장하는 참조 픽처 저장 단계와, 부호화 대상 픽처 상의 블록에 대해 움직임 보상을 행할 때 참조하는, 기억부에 저장되어 있는 다수의 부호화가 끝난 픽처로부터 임의로 선택된 참조 픽처를 나타내는 참조 인덱스와, 상기 픽처 번호를 대응시키는 커맨드이며, 다수의 참조 인덱스가 동일한 픽처를 참조하는 것이 가능한 커맨드를 생성하는 커맨드 생성 단계와, 부호화 대상 픽처상의 블록에 대해 움직임 보상을 행할 때 참조하는 참조 픽처를 상기 참조 인덱스에 의해 지정하는 참조 픽처 지정 단계와, 상기 참조 픽처 지정 단계에서 선택된 참조 픽처 상의 움직임 검출에 의해 얻어진 블록에 대해, 각 참조 픽처가 갖는 표시순서 정보로부터 계수를 생성하여, 상기 계수를 사용한 선형 예측을 실시함으로써 예측 화상을 생성하는 예측 화상 생성 단계와, 입력된 부호화 대상 프레임과 상기 예측 화상과의 차인 예측 잔차와, 상기 커맨드와, 상기 참조 인덱스와, 상기 계수를 부호화한 부호화 신호를 포함하는 화상 부호화 신호를 출력하는 부호화 신호 출력 단계를 갖는다.
(11) 또한, 본 발명에 의한 다른 화상 부호화 방법에 있어서, 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측을 행하는 방법으로서, 상기 표시순서 정보에 의해 생성되는 계수를 사용한 방법과, 미리 설정된 고정식을 사용한 방법을, 제1 참조 인덱스에 의해 지정되는 참조 픽처 및 제2 참조 인덱스에 의해 지정되는 참조 픽처의 각각이 갖는 표시순서 정보의 전후 관계에 따라 전환하여 사용한다.
(12) 또한, 본 발명에 의한 다른 화상 부호화 방법에 있어서, 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측을 행하는 방법으로서, 상기 표시순서 정보에 의해 생성되는 계수를 사용한 방법을 사용했을 때, 제1 참조 인덱스에 의해 지정되는 참조 픽처 및 제2 참조 인덱스에 의해 지정되는 참조 픽처가 같은 표시순서 정보를 갖는 경우는, 미리 설정된 계수를 대신 사용하여 선형 예측을 행한다.
(13) 또한, 본 발명에 의한 다른 화상 부호화 방법에 있어서, 상기 예측 화상 생성 단계에 있어서, 상기 표시 순서 정보를 사용하여 계수를 생성할 때, 상기 선형 예측이 승산 및 제산을 사용하지 않고 비트 시프트 연산 및 가산 및 감산만으로 행할 수 있도록, 상기 계수를 2의 제곱승으로 근사한다.
(14) 또한, 본 발명에 의한 다른 화상 부호화 방법에 있어서, 상기 근사를 행할 때, 제1 참조 인덱스에 의해 지정되는 참조 픽처 및 제2 참조 인덱스에 의해 지정되는 참조 픽처의 각각이 갖는 표시순서 정보의 전후 관계에 따라, 올림에 의한 근사와 내림에 의한 근사를 전환하여 사용한다.
(15) 본 발명의 프로그램은, 상기 (1)∼(14) 중 어느 하나에 기재된 화상 부호화 방법을 컴퓨터에 실행시키는 구성으로 해도 된다.
또, 본 발명의 컴퓨터 읽기 가능한 기록 매체는, 이하의 (16)∼(25) 중 어느 하나의 구성으로 할 수 있다.
(16) 동화상이 부호화된 신호인 부호화 신호가 기록된 컴퓨터 읽기 가능한 기록 매체에 있어서, 상기 부호화 신호는, 예측 화상을 생성할 때 사용하는 계수와, 픽처 번호로 식별되는 부호화가 끝난 픽처를 저장하는 기억부에 저장되어 있는 다수의 부호화가 끝난 픽처로부터 임의로 선택된, 부호화 대상 픽처 상의 블록에 대해 움직임 보상을 행할 때에 참조하는, 참조 픽처와 예측 화상을 생성할 때 사용하는 상기 계수를 나타내는 참조 인덱스와, 상기 픽처 번호를 대응시키는 커맨드이며, 다수의 참조 인덱스가 동일한 픽처 번호에 할당하는 것이 가능한 커맨드와, 부호화 대상 픽처 상의 블록에 대해 움직임 보상을 행할 때 참조하는 참조 픽처와 예측 화상을 생성할 때 사용하는 계수를 지정하는 참조 인덱스와, 선택된 참조 픽처 상의 움직임 검출에 의해 얻어진 블록에 대해, 이 참조 픽처를 지정하는 상기 참조 인덱스에 대응한 상기 계수를 사용한 선형 예측을 실시함으로써 생성되는 예측 화상이 부호화되어 있다.
(17) 상기 부호화 신호에는, 상기 참조 인덱스의 최대치가 포함된다.
(18) 상기 최대치는, 상기 부호화 신호에 포함되는 픽처의 공통 정보 영역에 놓여 있다.
(19) 상기 부호화 신호에 포함되는 블록의 집합으로 이루어지는 슬라이스의 헤더, 또는 픽처 공통 정보 영역, 또는 각 블록의 헤더에는, 블록의 예측 화상을 선형 예측에 의해 생성하기 위한 계수가 부호화되어 있는지 여부를 나타내는 플래그가 포함된다.
(20) 상기 부호화 신호에 포함되는 블록의 집합으로 이루어지는 슬라이스의 헤더, 또는 픽처 공통 정보 영역, 또는 각 블록의 헤더에는, 블록의 예측 화상을, 계수를 사용하지 않고 미리 설정된 고정식을 사용하여 생성하는지, 또는 직류 성분을 나타내는 계수만을 사용하여 미리 설정된 고정식을 사용하여 생성하는지를 나타내는 플래그가 포함된다.
(21) 상기 부호화 신호에 포함되는 블록의 집합으로 이루어지는 슬라이스의 헤더, 또는 픽처 공통 정보 영역, 또는 각 블록의 헤더에는, 블록의 예측 화상을, 미리 설정된 2개의 식으로 구성되는 고정식을 사용하여 생성하는 경우에, 상기 2개의 식을 전환하여 사용하는지, 또는 전환하지 않고 한쪽의 식만을 사용하는지를 나타내는 플래그가 포함된다.
(22) 상기 부호화 신호에 포함되는 블록의 집합으로 이루어지는 슬라이스의 헤더, 또는 픽처 공통 정보 영역, 또는 각 블록의 헤더에는, 블록의 예측 화상을 선형 예측에 의해 생성하기 위한 계수를 참조되는 픽처의 표시순서 정보를 사용하여 작성하는지 여부를 나타내는 플래그가 포함된다.
(23) 상기 부호화 신호에 포함되는 블록의 집합으로 이루어지는 슬라이스의 헤더, 또는 픽처 공통 정보 영역, 또는 각 블록의 헤더에는, 블록의 예측 화상을 선형 예측에 의해 생성하기 위한 계수가 2의 제곱승이 되도록 근사하는지 여부를 나타내는 플래그가 포함된다.
(24) 상기 부호화 신호에, 승산 및 제산을 사용하지 않고 비트 시프트 연산 및 가산 및 감산만으로 선형 예측의 계산을 행할 수 있는 것을 나타내기 위한 플래그가 포함된다.
(25) 상기 부호화 신호에, 직류 성분을 나타내는 값만으로 선형 예측의 계산을 행할 수 있는 것을 나타내기 위한 플래그가 포함된다.
또, 본 발명의 화상 복호화 방법은, 이하의 (26)∼(39) 중 어느 한 구성으로 할 수 있다.
(26) 본 발명에 의한 화상 복호화 방법은, 예측 화상을 생성할 때 사용하는 계수와, 부호화 대상 픽처 상의 블록에 대해 움직임 보상을 행할 때 참조하는, 기억부에 저장되어 있는 다수의 부호화가 끝난 픽처로부터 임의로 선택된, 참조 픽처와 상기 계수를 나타내는 참조 인덱스와, 상기 픽처 번호를 대응시키는 커맨드이며, 다수의 참조 인덱스가 동일한 픽처를 참조하는 것이 가능한 커맨드와, 상기 참조 인덱스와, 예측 잔차의 부호화 신호를 갖는 화상 부호화 신호를 복호화하는 화상 부호화 정보 획득 단계와, 복호화된 상기 커맨드와, 복호화된 상기 참조 인덱스에 의해, 복호화 대상 픽처 상의 블록에 대해 움직임 보상을 행할 때 참조하는 참조 픽처를 결정하는 참조 픽처 지정 단계와, 결정된 상기 참조 픽처 상의 움직임 검출에 의해 얻어진 블록에 대해, 이 참조 픽처를 지정하는 상기 참조 인덱스에 대응하는 계수를 사용한 선형 예측을 실시함으로써 예측 화상을 생성하는 예측 화상 생성 단계와, 상기 예측 화상과 복호화된 예측 잔차로부터 복호 화상을 생성하는 복호 화상 생성 단계를 갖는다.
(27) 또한, 본 발명에 의한 다른 화상 복호화 방법은, 상기 참조 픽처가 갖는 픽처 번호에 대해, 다수의 참조 인덱스를 할당하는 것이 가능하고, 상기 참조 픽처 지정 단계에 있어서 복호화 된 상기 참조 인덱스를 사용하여, 상기 예측 화상 생성 단계에 있어서의 선형 예측에서 사용하는 계수를 결정한다.
(28) 또, 본 발명에 의한 다른 화상 복호화 방법은, 1개의 슬라이스에 의해 참조되는 다수의 참조 픽처 중에, 다수의 참조 인덱스가 할당된 픽처 번호를 갖는 참조 픽처를 적어도 1개 가질 수 있다.
(29) 또한, 본 발명에 의한 다른 화상 복호화 방법에 있어서의 상기 참조 인덱스는, 상기 다수의 복호화가 끝난 픽처로부터 지정된 제1 참조 픽처를 나타내는 제1 참조 인덱스와, 상기 다수의 복호화가 끝난 픽처로부터 지정된 제2 참조 픽처를 나타내는 제2 참조 인덱스가 있고, 상기 예측 화상 생성 단계에서는, 상기 블록에 대해, 상기 제1 참조 인덱스에 대응하는 계수에 의해 선형 예측을 실시하는 동시에, 상기 제2 참조 인덱스에 대응하는 계수에 의해 선형 예측을 실시하여, 각각의 선형 예측에서 얻어진 2개의 예측 화상에 있어서의 화소치의 평균을 구함으로써, 상기 블록에 대한 최종적인 예측 화상을 생성한다.
(30) 또한, 본 발명에 의한 다른 화상 복호화 방법에 있어서의 상기 참조 인덱스는, 상기 다수의 복호화가 끝난 픽처로부터 지정된 제1 참조 픽처를 나타내는 제1 참조 인덱스와, 상기 다수의 복호화가 끝난 픽처로부터 지정된 제2 참조 픽처를 나타내는 제2 참조 인덱스가 있고, 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측에서 사용하는 계수의 결정은, 선택된 참조 인덱스 각각이 갖는 계수의 평균에 의해 구해진다.
(31) 또한, 본 발명에 의한 다른 화상 복호화 방법에 있어서의 상기 참조 인덱스는, 상기 다수의 복호화가 끝난 픽처로부터 지정된 제1 참조 픽처를 나타내는 제1 참조 인덱스와, 상기 다수의 복호화가 끝난 픽처로부터 지정된 제2 참조 픽처를 나타내는 제2 참조 인덱스가 있고, 상기 제1 및 제2 참조 인덱스에는, 다수의 계수로 이루어지는 조가 대응지어지고, 상기 예측 화상 생성 단계에서는, 한쪽의 참조 인덱스에 대응하는 계수의 조 중의 일부와 다른쪽의 참조 인덱스에 대응하는 계수의 조의 일부를 사용하여 상기 예측 화상을 생성한다.
(32) 또한, 본 발명에 의한 다른 화상 복호화 방법은, 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측에서 사용하는 계산식은, 승산 및 제산을 사용하지 않고 비트 시프트 연산 및 가산 및 감산만으로 구성된다. 이에 의해, 연산 처리가 적은 처리만으로 선형 예측이 가능하다.
(33) 또한, 본 발명에 의한 다른 화상 복호화 방법에 있어서의 상기 참조 인덱스는, 상기 다수의 복호화가 끝난 픽처로부터 지정된 제1 참조 픽처를 나타내는 제1 참조 인덱스와, 상기 다수의 복호화가 끝난 픽처로부터 지정된 제2 참조 픽처를 나타내는 제2 참조 인덱스가 있고, 상기 예측 화상 생성 단계에서는, 상기 제1 및 제2 참조 인덱스에 대응하는 계수의 조 중, 상기 비트 시프트 연산에 사용되는 계수는 상기 제1 및 제2 참조 인덱스 중 어느 하나에 대응하는 계수를 선택하여 사용하고, 그 밖의 연산에 사용되는 계수는 상기 제1 및 제2 참조 인덱스 각각에 대응하는 계수의 평균치를 사용하여 상기 예측 화상을 생성한다.
(34) 또한, 본 발명에 의한 다른 화상 복호화 방법에 있어서, 상기 참조 인덱스는, 상기 다수의 복호화가 끝난 픽처로부터 지정된 제1 참조 픽처를 나타내는 제1 참조 인덱스와, 상기 다수의 부호화가 끝난 프레임으로부터 지정된 제2 참조 프레임을 나타내는 제2 참조 인덱스로 이루어지고, 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측에서 사용하는 계수로서, 선형 예측식에서의 직류 성분을 나타내는 값만을 사용하고, 제1 참조 인덱스 및 제2 참조 인덱스 각각에 1개씩 대응지어진다.
(35) 또한, 본 발명에 의한 다른 화상 복호화 방법에 있어서, 부호화 대상 픽처 상의 블록에 대해 움직임 보상을 행할 때에 참조하는, 기억부에 저장되어 있는 다수의 부호화가 끝난 픽처로부터 임의로 선택된, 참조 픽처를 나타내는 참조 인덱스와, 상기 픽처 번호를 대응시키는 커맨드이며, 다수의 참조 인덱스가 동일한 픽처를 참조하는 것이 가능한 커맨드와, 상기 참조 인덱스와, 예측 잔차의 부호화 신호를 갖는 화상 부호화 신호를 복호화하는 제1 단계와, 복호화된 상기 커맨드와, 복호화된 상기 참조 인덱스에 의해, 복호화 대상 픽처 상의 블록에 대해 움직임 보상을 행할 때 참조하는 참조 픽처를 결정하는 참조 픽처 지정 단계와, 결정된 상기 참조 픽처 상의 움직임 검출에 의해 얻어진 블록에 대해, 각 참조 픽처가 갖는 표시순서 정보로부터 계수를 생성하여, 상기 계수를 사용한 선형 예측을 실시함으로써 예측 화상을 생성하는 예측 화상 생성 단계와, 상기 예측 화상과 복호화된 예측 잔차로부터 복호 화상을 생성하는 복호 화상 생성 단계를 갖는다.
(36) 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측을 행하는 방법으로서, 상기 표시순서 정보에 의해 생성되는 계수를 사용한 방법과, 미리 설정된 고정식을 사용한 방법을, 제1 참조 인덱스에 의해 지정되는 참조 픽처 및 제2 참조 인덱스에 의해 지정되는 참조 픽처의 각각이 갖는 표시순서 정보의 전후 관계에 따라 전환하여 사용한다.
(37) 또한, 본 발명에 의한 다른 화상 복호화 방법에 있어서, 상기 예측 화상 생성 단계에 있어서의 상기 선형 예측을 행하는 방법으로서, 상기 표시순서 정보에 의해 생성되는 계수를 사용한 방법을 사용했을 때, 제1 참조 인덱스에 의해 지정되는 참조 픽처 및 제2 참조 인덱스에 의해 지정되는 참조 픽처가 같은 표시순서 정보를 갖는 경우는, 미리 설정된 계수를 대신 사용하여 선형 예측을 행한다.
(38) 또한, 본 발명에 의한 다른 화상 복호화 방법에 있어서, 상기 예측 화상 생성 단계에 있어서, 상기 표시순서 정보를 사용하여 계수를 생성할 때, 상기 선형 예측이 승산 및 제산을 사용하지 않고 비트 시프트 연산 및 가산 및 감산만으로 행할 수 있도록, 상기 계수를 2의 제곱승으로 근사한다.
(39) 또한, 본 발명에 의한 다른 화상 복호화 방법에 있어서, 상기 근사를 행할 때, 제1 참조 인덱스에 의해 지정되는 참조 픽처 및 제2 참조 인덱스에 의해 지정되는 참조 픽처의 각각이 갖는 표시순서 정보의 전후 관계에 따라, 올림에 의한 근사와 내림에 의한 근사를 전환하여 사용한다.
(40) 본 발명의 프로그램은, 상기 (26)∼(39) 중 어느 하나에 기재된 화상 복호화 방법을 컴퓨터에 실행시키는 구성으로 해도 된다.
이상과 같이, 본 발명의 동화상 부호화 방법 및 복호화 방법에 의해, 예측 화상을 생성할 때의 선형 예측에 사용되는 가중 계수 세트의 후보를 다수 작성할 수 있게 되어, 블록마다 최적의 것을 선택하는 것이 가능해졌다. 그 결과, 다수의 참조 인덱스가 할당되어 있는 경우나, 1개의 참조 인덱스가 할당되어 있는 경우라도, 참조 인덱스의 복호화를 효율적으로 행할 수 있다. 또, 큰 부호화 효율의 향상이 실현 가능해지므로, 동화상의 부호화 및 복호화에 있어서 대단히 유효하다.
도 1은, 본 발명의 실시형태 1에 의한 부호화 장치의 구성을 나타낸 블록도,
도 2는 본 발명의 실시형태 6에 의한 복호화 장치의 구성을 나타낸 블록도,
도 3은 참조 인덱스에 픽처 번호를 배당하는 방법을 설명하기 위한 모식도,
도 4는 참조 인덱스에 픽처 번호의 관계의 예를 나타내기 위한 모식도,
도 5는 움직임 보상의 동작을 설명하기 위한 모식도,
도 6은 부호열의 구성을 설명하기 위한 모식도,
도 7은 선형 예측 계수의 가중 계수 세트의 예를 나타내기 위한 모식도,
도 8은 부호화 장치에 있어서의 예측 화상의 생성을 나타내는 기능 블록도,
도 9는 부호화 장치에 있어서의 예측 화상의 생성을 나타내는 다른 기능 블록도,
도 10(a)(b)는 부호화 장치에 있어서의 예측 화상의 생성을 나타내는 또 다른 기능 블록도,
도 11은 부호화 장치에 있어서의 예측 화상의 생성을 나타내는 또 다른 기능 블록도,
도 12는 부호열의 구성을 설명하기 위한 모식도,
도 13은 선형 예측 계수의 가중 계수 세트의 예를 나타내기 위한 모식도,
도 14는 부호열의 구성을 설명하기 위한 모식도,
도 15는 선형 예측 계수의 가중 계수 세트의 예를 나타내기 위한 모식도,
도 16은 부호화 장치에 있어서의 예측 화상의 생성을 나타내는 기능 블록도,
도 17은 부호열의 구성 및 플래그의 예를 설명하기 위한 모식도,
도 18은 복호화 장치에 있어서의 예측 화상의 생성을 나타내는 기능 블록도,
도 19는 복호화 장치에 있어서의 예측 화상의 생성을 나타내는 다른 기능 블록도,
도 20(a)(b)는 복호화 장치에 있어서의 예측 화상의 생성을 나타내는 또 다른 기능 블록도,
도 21은 복호화 장치에 있어서의 예측 화상의 생성을 나타내는 또 다른 기능 블록도,
도 22는 복호화 장치에 있어서의 예측 화상의 생성을 나타내는 또 다른 기능 블록도,
도 23은 부호열의 구성을 설명하기 위한 모식도,
도 24는 부호열의 구성을 설명하기 위한 모식도,
도 25는 상기 각 실시형태의 동화상의 부호화 방법 및 복호화 방법을 컴퓨터 시스템에 의해 실현하기 위한 프로그램을 저장하기 위한 기록 매체에 관한 설명도,
도 26은 컨텐츠 공급 시스템의 전체 구성을 나타낸 블록도,
도 27은 휴대전화의 외관도,
도 28은 휴대전화의 구성을 나타낸 블록도,
도 29는 디지털 방송용 시스템의 예를 나타낸 도면,
도 30은 종래예의 픽처의 참조 관계를 설명하기 위한 모식도,
도 31은 종래예의 픽처의 재배열을 설명하기 위한 모식도,
도 32는 종래예의 움직임 보상의 동작을 설명하기 위한 모식도,
도 33은 종래예의 선형 예측 처리의 동작을 설명하기 위한 모식도,
도 34는 종래예의 참조 인덱스에 픽처 번호를 배당하는 방법을 설명하기 위한 모식도,
도 35은 종래예의 참조 인덱스에 픽처 번호의 관계의 예를 나타내기 위한 모식도,
도 36은 종래예의 부호열의 구성을 설명하기 위한 모식도,
도 37은 종래예의 선형 예측 계수의 가중 계수 세트의 예를 나타내기 위한 모식도,
도 38은 종래예의 부호열의 구성을 설명하기 위한 모식도,
도 39는 픽처번호와 표시순서 정보의 관계를 설명하기 위한 모식도,
도 40은 부호열의 구성 및 플래그의 예를 설명하기 위한 모식도,
도 41은 부호열의 구성 및 플래그의 예를 설명하기 위한 모식도이다.
(실시형태 1)
도 1은 본 발명의 실시형태 1에 있어서의 동화상 부호화 장치의 구성을 나타낸 블록도이다. 이 동화상 부호화 장치에 있어서의 동화상 부호화 방법을 도 1에 나타낸 블록도를 사용하여 (1)부호화의 개요, (2)참조 인덱스 할당 방법, (3)예측 화상 생성 방법의 순으로 설명한다.
(1)부호화의 개요
부호화 대상이 되는 동화상은 표시를 행하는 순으로 픽처 단위로 픽처 메모리(101)에 입력되어, 부호화를 하는 순으로 픽처의 재배열을 행한다. 도 31은 재배열의 예를 나타낸 도면이다. 도 31(a)는 표시되는 순으로 나열된 픽처이고, 도 31(b)는 부호화를 행하는 순으로 재배열된 픽처의 예이다. 여기서의 B3, B6은 시간적으로 전방 및 후방의 양쪽을 참조하고 있으므로, 이들 픽처를 부호화하기 전에 참조의 대상이 되는 픽처를 먼저 부호화할 필요가 있으므로, 도 31(b)에서는 P4, P7이 먼저 부호화되도록 재배열되어 있다. 또한 각각의 픽처는 마크로 블록이라고 불리는 예를 들면 수평 16×수직 16화소의 블록으로 분할되어 블록 단위로 이후의 처리가 행해진다.
픽처 메모리(101)로부터 읽어 내어진 입력 화상 신호는 차분 연산부(112)에 입력되어, 움직임 보상 부호화부(107)의 출력인 예측 화상 신호와의 차분을 취함으로써 얻어지는 차분 화상 신호를 예측 잔차 부호화부(102)에 출력한다. 예측 잔차 부호화부(102)에서는 주파수 변환, 양자화 등의 화상 부호화 처리를 행하여 잔차 부호화 신호를 출력한다. 잔차 부호화 신호는 예측 잔차 복호화부(104)에 입력되어, 역양자화, 역주파수 변환 등의 화상 복호화 처리를 행하여 잔차 복호화 신호를 출력한다. 가산 연산부(113)에서는 상기 잔차 복호화 신호와 예측 화상 신호와의 가산을 행하여 재구성 화상 신호를 생성하여, 얻어진 재구성 화상 신호 중에서 이후의 화면 간 예측에서 참조될 가능성이 있는 신호를 픽처 메모리(105)에 저장한다.
한편, 픽처 메모리(101)로부터 읽어 내어진 마크로 블록 단위의 입력 화상 신호는 움직임 벡터 검출부(106)에도 입력된다. 여기서는, 픽처 메모리(105)에 저장되어 있는 재구성 화상 신호를 탐색 대상으로 하여, 가장 입력 화상 신호에 가까운 화상 영역을 검출함으로써 그 위치를 지시하는 움직임 벡터를 결정한다. 움직임 벡터 검출은 마크로 블록을 더욱 분할한 블록 단위로 행해져, 얻어진 움직임 벡터는 움직임 벡터 기억부(108)에 저장된다.
이 때, 현재 표준화중인 H. 26L에서는 다수의 픽처를 참조 대상으로서 사용할 수 있으므로, 참조하는 픽처를 지정하기 위한 식별 번호가 블록마다 필요하게 된다. 그 식별 번호를 참조 인덱스라 부르고, 참조 인덱스·픽처 번호 변환부(111)에 있어서, 픽처 메모리(105)중의 픽처가 갖는 픽처 번호와의 대응을 취함으로써 참조 픽처를 지정하는 것이 가능해진다. 참조 인덱스·픽처 번호 변환부(111)에 있어서의 동작의 상세한 것은 (2)에서 자세히 설명한다.
움직임 보상 부호화부(107)에서는, 상기 처리에 의해 검출된 움직임 벡터 및 참조 인덱스를 사용하여, 픽처 메모리(105)에 저장되어 있는 재구성 화상 신호로부터 예측 화상에 최적인 화상 영역을 취출한다. 얻어진 화상 영역의 화소치에 대해 선형 예측에 의한 보간 처리 등의 화소치 변환 처리를 실시함으로써 최종적인 예측 화상으로 한다. 그 때 사용하는 선형 예측 계수는 선형 예측 계수 생성부(110)에 의해 생성되어 선형 예측 계수 기억부(109)에 저장된다. 이 예측 화상 생성 방법에 관해서는 (3)에서 자세히 설명한다.
상기의 일련의 처리에 의해 출력된 선형 예측 계수, 참조 인덱스, 움직임 벡터, 잔차 부호화 신호 등의 부호화 정보에 대해 부호열 생성부(103)에서 가변길이 부호화를 실시함으로써, 이 부호화 장치가 출력하는 부호열이 얻어진다.
이상의 처리의 흐름은 화면 간 예측 부호화를 행한 경우의 동작이었으나, 스위치(114) 및 스위치(115)에 의해 화면 내 예측 부호화와의 전환이 이루어진다. 화면 내 부호화를 행하는 경우는, 움직임 보상에 의한 예측 화상의 생성은 행하지 않고, 동일 화면 내의 부호화가 끝나는 영역으로부터 부호화 대상 영역의 예측 화상을 생성하여 차분을 취함으로써 차분 화상 신호를 생성한다. 차분 화상 신호는 화면 간 예측 부호화의 경우와 마찬가지로, 예측 잔차 부호화부(102)에서 잔차 부호화 신호로 변환되고, 부호열 생성부(103)에서 가변길이 부호화를 실시함으로써 출력되는 부호열이 얻어진다.
(2) 참조 인덱스 할당 방법
다음에, 도 1의 참조 인덱스·픽처 번호 변환부(111)에 있어서의 참조 인덱스 할당 방법에 관해 도 3, 도 4를 사용하여 설명한다.
도 3은, 픽처 번호에 대한 2개의 참조 인덱스의 할당 방법을 설명하기 위한 도면이다. 도면과 같이 표시되는 순으로 배열된 픽처열이 있었을 때, 픽처 번호는 부호화되는 순서로 배당되고 있다. 참조 인덱스를 픽처 번호에 할당하기 위한 커맨드는 픽처를 더욱 분할한 부호화 단위인 슬라이스의 헤더에 기술되어, 1개의 슬라이스를 부호화할 때마다 배당 방법이 갱신되게 된다. 상기 커맨드는, 직전에 참조 인덱스에 할당한 픽처 번호와 현재 할당하고 있는 픽처 번호와의 차분치를 참조 인덱스의 수만큼 연속하여 지시하는 것이다.
도 3의 제1 참조 인덱스의 예를 사용하면, 먼저 커맨드로서 "-1"이 주어졌으므로, 현재 부호화의 대상으로 하고 있는 픽처 번호 16번에서 1을 뺌으로써, 픽처 번호 15번이 참조 인덱스 0번으로 할당된다. 다음에 "-4"가 주어졌으므로, 직전에 할당한 픽처 번호 15번에서 4를 뺌으로써, 픽처 번호 11번이 참조 인덱스 1번으로 할당된다. 이하 같은 처리에 의해 각 픽처 번호의 할당이 행해진다. 제2 참조 인덱스의 경우도 같다.
도 34에 나타낸 종래의 방법에 의한 참조 인덱스 할당 방법에서는, 모든 참조 인덱스는 각각 다른 픽처 번호에 대응지어져 있다. 한편, 도 3의 예에서는, 할당 방법은 종래의 것과 완전히 같은 방법을 사용하고 있지만, 커맨드의 값을 변경함으로써 같은 픽처 번호에 대해 다수의 참조 인덱스 번호가 대응지어져 있다.
도 4는 참조 인덱스의 할당을 행한 결과를 나타낸 것이다. 각 픽처 번호에는 제1 참조 인덱스 및 제2 참조 인덱스가 각각 독립적으로 할당되어 있으나, 1개의 픽처 번호에 대해 다수의 참조 인덱스가 할당되고 있는 것도 있는 것을 알 수 있다. 본 발명의 부호화 방법에서는, 이 예와 같이 다수의 참조 인덱스가 할당되어 있는 픽처 번호가 적어도 1개 이상 있는 것으로 한다.
참조 인덱스를 참조 픽처의 결정에만 사용하는 경우이면, 종래 방법과 같이 1개의 픽처 번호에 대해 1개의 참조 인덱스를 할당하는 방법이 가장 부호화 효율이 좋은 방법이다. 그러나, 참조 인덱스를 사용하여 예측 화상의 생성에 있어서의 선형 예측 계수의 가중 계수 세트를 선택하는 경우는, 종래 방법에서는 같은 참조 픽처를 갖는 블록 모두에 있어서 같은 선형 예측 계수를 사용하지 않으면 안되므로, 최적의 예측 화상이 생성되지 않을 가능성이 대단히 높아져 버린다.
그래서, 본 발명과 같이 1개의 픽처 번호에 대해 다수의 참조 인덱스를 할당하는 것을 가능하게 함으로써, 같은 참조 픽처를 갖는 경우라도, 블록마다 다수의 선형 예측 계수의 가중 계수 세트의 후보 중에서 최적의 것을 선택하는 것이 가능해져, 보다 부호화 효율이 높은 예측 화상을 생성하는 것이 가능해진다.
또한, 이상의 설명에서는 모든 참조 픽처가 참조용 메모리에 축적되는 것으로 하여 픽처 번호가 주어지고 있는 경우의 예를 나타내고 있었으나, 픽처 번호는 부호화를 행한 직전의 픽처가 축적된 경우만, 해당 픽처에 값이 1개 증가한 픽처 번호가 부여되어 가는 것이며, 축적되지 않은 픽처가 있었던 경우라도 참조용 메모리 내에서는 픽처 번호의 연속성은 유지되어, 상기 방법을 그대로 사용하는 것이 가능하다.
(3) 예측 화상 생성 방법
다음에 도 1의 움직임 보상 부호화부(107)에 있어서의 예측 화상 생성 방법에 관해 도 5를 사용하여 설명한다. 선형 예측에 의한 예측 화상 생성 방법은 종래법과 완전히 같으나, 같은 픽처에 대해 다수의 참조 인덱스 번호를 대응시키는 것이 가능해졌으므로, 선형 예측 계수를 선택할 때의 자유도가 높아져 있다.
픽처 B16은 현재 부호화의 대상으로 하고 있는 B 픽처이며, 블록 BL01 및 블록 BL02는 상기 B 픽처에 속하는 부호화 대상의 블록이다. BL01은 제1 참조 픽처를 픽처 P11, 제2 참조 픽처를 픽처 B15로 하여, 각각의 픽처에 속하는 블록 BL11 및 BL21을 참조하여 예측 화상을 작성한다. 마찬가지로 BL02도 제1 참조 픽처를 픽처 P11, 제2 참조 픽처를 픽처 B15로 하여, 각각의 픽처에 속하는 블록 BL12 및 BL22를 참조하여 예측 화상을 작성한다.
제1 참조 픽처 및 제2 참조 픽처는 BL01, BL02 모두 같은 것을 참조하고 있는데, (2)에서 설명한 참조 인덱스의 할당 방법을 사용함으로써, 제1 참조 인덱스 ref1 및 제2 참조 인덱스 ref2는 BL01과 BL02에서 다른 값을 취하는 것이 가능해진다. 도 4를 예로 들면, 픽처 번호 11에 대응하는 제1 참조 인덱스는 1과 3이, 픽처 번호 15에 대응하는 제2 참조 인덱스는 1과 6이 배당되어 있다.
그 결과, 이들 참조 인덱스의 조합은, (ref1, ref2)=(1,1), (1,6), (3,1), (3,6)의 4가지를 생각할 수 있고, 이들 중에서 최적의 가중 계수 세트를 도출하는 조합을 블록마다 선택하는 것이 가능해져 있다. 도 5에서는 예로서 BL01이 ref1=1, ref2=1, BL02가 ref1=3, ref2=6으로 하고 있다.
도 35에 있는 것 같은 종래 방법에 의해 대응지어진 참조 인덱스의 조합에서는, 도 5와 같은 예에서는 BL01, BL02 모두 (ref1, ref2)=(1,1)의 조합밖에 선택할 수 없었기 때문에, 선택할 수 있는 선형 예측 계수의 가중 계수 세트도 1가지밖에 없었다. 한편, 본 발명에서는 선택 범위가 4가지로 확장되어 있기 때문에, 최적의 가중 계수 세트를 선택할 수 있는 가능성이 높아진다고 할 수 있다.
1개의 픽처의 부호열은, 픽처 공통 정보 영역 및 다수의 슬라이스 데이터 영역으로 구성된다. 도 6은 그 중의 슬라이스 데이터 영역의 구성을 나타낸 것이다. 또한 슬라이스 데이터 영역은, 슬라이스 헤더 영역 및 다수의 블록 데이터 영역으로 구성된다. 여기서는 블록 데이터 영역의 예로서 도 5에 있어서의 BL01, BL02에 대응하는 각 블록의 영역을 나타내고 있다. BL01에 포함되는 ref1 및 ref2는 이 블록이 참조하는 2장의 픽처를 지시하는 제1 참조 인덱스 및 제2 참조 인덱스를 각각 지시하는 것이다.
또 슬라이스 헤더 영역에는 상기 선형 예측을 행하기 위한 가중 계수 세트를 부여하기 위한 데이터(pset0, pset1, pset2, …)가 ref1용 및 ref2용 각각에 기술되어 있다. 이 때의 p세트는 (2)에서 설명한 참조 인덱스의 개수와 같은 수만큼 설정할 수 있다. 즉, 도 3과 같이 제1 참조 인덱스, 제2참조 인덱스를 모두 0부터 9까지의 10개를 사용한 경우는, pset도 ref1용, ref2용 모두 0부터 9까지의 10개를 설정하는 것이 가능하다.
도 7은 상기 슬라이스 헤더 영역에 포함되는 상기 가중 계수 세트의 예를 표에 나타낸 것이다. 식별자 pset로 나타낸 각각의 데이터는 w1, w2, c, d의 4개 값을 갖고, ref1 및 ref2의 값에 의해 다이렉트로 참조할 수 있도록 구성되어 있다. 또, 슬라이스 헤더 영역에는 상기 참조 인덱스를 픽처 번호에 할당하기 위한 커맨드열 idx_cmd1 및 idx_cmd2가 기술되어 있다.
도 6의 BL01에 기술된 ref1 및 ref2에 의해 도 7의 ref1용 및 ref2용의 테이블로부터 각각 1조의 가중 계수 세트가 선택된다. 이 2조의 가중 계수 세트를 사용하여 참조 화상의 화소치에 대해 선형 예측을 실시함으로써 예측 화상을 생성한다.
이렇게 1개의 픽처 번호에 대해 다수의 참조 인덱스를 할당하는 부호화 방법을 사용함으로써, 선형 예측 계수의 가중 계수 세트의 후보를 다수 작성할 수 있게 되어, 그 중에서 최적의 것을 선택하는 것이 가능해진다. 예를 들면, 제1 참조 인덱스가 2개, 제2 참조 인덱스가 2개 할당되어 있었던 경우는 4가지의 가중 계수 세트를 선택 후보로 할 수 있고, 제1 참조 인덱스가 3개, 제2 참조 인덱스가 3개 할당되어 있었던 경우는 9가지의 가중 계수 세트를 선택 후보로 할 수 있다.
이 선형 예측이라는 방법은 페이드나 플래시처럼 화면 전체 또는 일부분의 명도가 크게 변화하는 경우에 특히 큰 효과가 얻어진다. 대부분의 경우, 그 명도의 변화의 정도는 화면의 부분 부분에 따라 다르다. 그 때문에, 본 발명처럼 다수의 가중 계수 세트 중에서 블록마다 최적의 것을 선택할 수 있는 구성을 갖는 것은 화상의 부호화에 있어서 대단히 유효하다.
여기서, 가중 계수 세트를 결정하여 예측 화상을 생성하기까지의 처리의 흐름에 관해 상세히 설명한다.
도 8은, 도 1의 선형 예측 계수 생성부(110), 선형 예측 계수 기억부(109), 및 움직임 보상 부호화부(107)에 있어서의 예측 화상을 생성하는 기능 구성을 나타낸 기능 블록도이다.
선형 예측 계수 생성부(110), 선형 예측 계수 기억부(109a), 선형 예측 계수 기억부(109b), 평균치 산출부(107a), 및 선형 예측 연산부(107b)에 의해 예측 화상이 생성된다.
선형 예측 계수 생성부(110)에 의해 생성된 가중 계수 세트는 선형 예측 계수 기억부(109a) 및 선형 예측 계수 기억부(109b)에 저장되어 있다. 평균치 산출부(107a)는, 움직임 검출의 처리에 의해 결정된 제1 참조 인덱스(ref1)에 의해 선택되는 1조의 가중 계수 세트(w1_1, w2_1, c_1, d_1)를 선형 예측 계수 기억부(109a)로부터 획득하고, 마찬가지로 제2 참조 인덱스(ref2)에 의해 선택되는 1조의 가중 계수 세트(w1_2, w2_2, c_2, d_2)를 선형 예측 계수 기억부(109b)로부터 획득한다.
그리고 평균치 산출부(107a)는, 선형 예측 계수 기억부(109a, 109b)로부터 획득한 각각의 가중 계수 세트의 파라미터마다의 평균을 취해, 실제로 선형 예측에 사용하는 가중 계수 세트(w1, w2, c, d)로 하여, 선형 예측 연산부(107b)에 출력한다. 선형 예측 연산부(107b)는, 얻어진 가중 계수 세트(w1, w2, c, d)를 기초로, 식 1을 사용하여 예측 화상을 연산하여 출력한다.
또, 도 9는 예측 화상을 생성하는 다른 기능 구성을 나타내는 기능 블록도이다. 선형 예측 계수 생성부(110), 선형 예측 계수 기억부(109a), 선형 예측 계수 기억부(109b), 선형 예측 연산부(107c), 선형 예측 연산부(107d), 및 평균치 산출부(107e)에 의해, 예측 화상이 생성된다.
선형 예측 계수 생성부(110)에 의해 생성된 가중 계수 세트는 선형 예측 계수 기억부(109a) 및 선형 예측 계수 기억부(109b)에 저장되어 있다. 선형 예측 연산부(107c)는, 움직임 검출 처리에 의해 결정된 제1 참조 인덱스(ref1)에 의해 선택되는 1조의 가중 계수 세트(w1_1, w2_1, c_1, d_1)를 선형 예측 계수 기억부(109a)로부터 획득하여, 그 가중 계수 세트를 기초로, 식 1을 사용하여 예측 화상을 연산하여 평균치 산출부(107e)에 출력한다.
마찬가지로, 선형 예측 연산부(107d)는, 움직임 검출 처리에 의해 결정된 제2 참조 인덱스(ref2)를 기초로 선택되는 1조의 가중 계수 세트(w1_2, w2_2, c_2, d_2)를 선형 예측 계수 기억부(109b)로부터 획득하여, 그 가중 계수 세트를 기초로 식 1을 사용하여 예측 화상을 연산하여 평균치 산출부(107e)에 출력한다.
평균치 산출부(107e)는, 선형 예측 연산부(107c), 선형 예측 연산부(107d)의 각각으로부터 출력되는 예측 화상의 각 화소의 평균치를 취해, 최종적인 예측 화상을 생성하여 출력한다.
도 10(a)는, 예측 화상을 생성하는 다른 기능 구성을 나타내는 기능 블록도이다. 선형 예측 계수 생성부(110), 선형 예측 계수 기억부(109c), 선형 예측 계수 기억부(109d), 평균치 산출부(107f), 선형 예측 연산부(107g)에 의해 예측 화상이 생성된다.
선형 예측 계수 생성부(110)에 의해 생성된 가중 계수 세트는 선형 예측 계수 기억부(109c) 및 선형 예측 계수 기억부(109d)에 저장되어 있다. 평균치 산출부(107f)는, 움직임 검출 처리에 의해 결정된 제1 참조 인덱스(ref1)에 의해 선택되는 1조의 가중 계수 세트(w1_1, w2_1, c_1, d_1) 중, c_1, d_1의 파라미터를 선형 예측 계수 기억부(109c)로부터 획득하고, 마찬가지로 제2 참조 인덱스(ref2)에 의해 선택되는 1조의 가중 계수 세트(w1_2, w2_2, c_2, d_2) 중, c_2, d_2의 파라미터를 선형 예측 계수 기억부(109d)로부터 획득한다. 평균치 산출부(107f)는, 선형 예측 계수 기억부(109c) 및 선형 예측 계수 기억부(109d)로부터 획득한 c_1과 c_2의 평균치와, d_1과 d_2의 평균치를 산출하여 c, d를 구해 선형 예측 연산부(107g)에 출력한다.
또, 선형 예측 연산부(107g)는, 상기 가중 계수 세트(w1_1, w2_1, c_1, d_1) 중, w1_1의 파라미터를 선형 예측 계수 기억부(109c)로부터 획득하고, 상기 가중 계수 세트(w1_2, w2_2, c_2, d_2) 중, w2_2의 파라미터를 선형 예측 계수 기억부(109d)로부터 획득하고, 평균치 산출부(107f)에 의해 각각의 평균을 구하여 c, d를 획득하여, 식 1을 사용하여 예측 화상을 연산하여 출력한다.
즉, 선형 예측 연산부(107g)는, 선형 예측 계수 기억부(109c)로부터 얻어진 가중 계수 세트(w1_1, w2_1, c_1, d_1)와, 선형 예측 계수 기억부(109d)로부터 얻어진 가중 계수 세트(w1_2, w2_2, c_2, d_2) 중, 실제로 선형 예측에서 사용하는 가중 계수 세트(w1, w2, c, d)를 결정할 때, 하기의 규칙을 사용하고 있다.
w1=w1_1, w2=w2_2, c=(c_1과 c_2의 평균), d=(d_1과 d_2의 평균)
이렇게 도 10(a)에서 설명한 예측 화상의 생성에 있어서는, 선형 예측 계수 기억부(109c)는 가중 계수 세트 중 w2_1을 필요로 하지 않는다. 그 때문에, ref1용의 가중 계수 세트에 w2는 필요하지 않다. 따라서 부호열을 작게 하는 것도 가능하다.
또, 선형 예측 계수 기억부(109d)는 가중 계수 세트 중 w1_2를 필요로 하지 않는다. 그 때문에, ref2용의 가중 계수 세트에 w1은 필요하지 않다. 따라서 부호열을 작게 하는 것도 가능하다.
도 10(b)는, 예측 화상을 생성하는 다른 기능 구성을 나타내는 기능 블록도이다. 선형 예측 계수 생성부(110), 선형 예측 계수 기억부(109e), 선형 예측 계수 기억부(109f), 선형 예측 연산부(107h)에 의해 예측 화상이 생성된다.
선형 예측 계수 생성부(110)에 의해 생성된 가중 계수 세트는 선형 예측 계수 기억부(109e) 및 선형 예측 계수 기억부(109f)에 저장되어 있다. 선형 예측 연산부(107h)는, 움직임 검출 처리에 의해 결정된 제1 참조 인덱스(ref1)에 의해 선택되는 1조의 가중 계수 세트(w1_1, w2_1, c_1, d_1) 중의 일부인 w1_1, c_1, d_1의 파라미터를 선형 예측 계수 기억부(109e)로부터 획득하고, 마찬가지로 제2 참조 인덱스(ref2)를 기초로 선택되는 1조의 가중 계수 세트(w1_2, w2_2, c_2, d_2) 중의 일부인 w2_2의 파라미터를 선형 예측 계수 기억부(109f)로부터 획득한다. 선형 예측 연산부(107h)는, 선형 예측 계수 기억부(109e), 선형 예측 계수 기억부(109f)로부터 획득한 w1_1, c_1, d_1, w2_2를 기초로, 식 1을 사용하여 예측 화상을 연산하여 출력한다.
즉, 선형 예측 연산부(107h)는, 선형 예측 계수 기억부(109e)로부터 얻어진 가중 계수 세트(w1_1, w2_1, c_1, d_1)와, 선형 예측 계수 기억부(109f)로부터 얻어진 가중 계수 세트(w1_2, w2_2, c_2, d_2) 중, 실제로 선형 예측에서 사용하는 가중 계수 세트(w1, w2, c, d)를 결정할 때, 하기의 규칙을 사용하고 있다.
w1=w1_1, w2=w2_2, c=c_1, d=d_1
또한, 도 10(b)에서 설명한 예측 화상의 생성에 있어서는, 선형 예측 계수 기억부(109e)는 가중 계수 세트 중 w2_1을 필요로 하지 않는다. 그 때문에, ref1용의 가중 계수 세트에 w2는 필요하지 않다. 따라서 부호열을 작게 할 수 있다.
또, 선형 예측 계수 기억부(109f)는 가중 계수 세트 중 w1_2, c_2, d_2를 필요로 하지 않는다. 그 때문에, ref2용의 가중 계수 세트에 w1, c, d는 필요하지 않다. 따라서 부호열을 작게 할 수 있다.
또, w1, w2, c, d의 파라미터 중의 1개 또는 다수 개를 고정의 값으로 하여 사용하는 것도 가능하다. 도 11은 도 10(a)에 있어서의 기능 구성에 대해, d만을 고정의 값으로 하여 사용한 경우의 기능 블록도이다. 선형 예측 계수 생성부(110), 선형 예측 계수 기억부(109i), 선형 예측 계수 기억부(109j), 평균치 산출부(107j), 선형 예측 연산부(107k)에 의해 예측 화상이 생성된다.
제1 참조 인덱스(ref1)에 의해 선형 예측 계수 기억부(109i)로부터 선택되는 계수는 (w1_1, c_1)뿐이며, 제2 참조 인덱스(ref2)에 의해 선형 예측 계수 기억부(109j)로부터 선택되는 계수는 (w2_2, c_2)뿐이다. 평균치 산출부(107j)는, 선형 예측 계수 기억부(109i) 및 선형 예측 계수 기억부(109j)로부터 획득한 c_1과 c_2의 평균치를 산출하여 c를 구해 선형 예측 연산부(107k)에 출력한다.
또, 선형 예측 연산부(107k)는, w1_1의 파라미터를 선형 예측 계수 기억부(109i)로부터 획득하고, w2_2의 파라미터를 선형 예측 계수 기억부(109j)로부터 획득하고, c의 파라미터를 평균치 산출부(107jf)로부터 획득하고, d의 파라미터로서 미리 정해져 있는 고정의 값을 사용하여, 식 1을 사용하여 예측 화상을 산출하여 출력한다. 즉, 식 1의 계수 (w1, w2, c, d)에는 하기의 값이 입력되게 된다.
w1=w1_1, w2=w2_2, c=(c_1과 c_2의 평균), d=(고정치)
이것을 식 1에 대입하면 하기의 식 1a가 얻어진다.
P(i)=(w1_1×Q1(i)+w2_2×Q2(i)/pow(2,d)+(c_1+c_2)/2 (식 1a)
(pow(2,d)는 2의 d승을 나타낸다)
또한 식 1a를 변형함으로써 식 1b와 같은 식이 얻어진다. 선형 예측 연산부(107k)에 있어서의 선형 예측의 연산 방법은 식 1b와 같은 형식으로 사용한 경우, 식 1의 형식으로 사용한 경우 모두 동일하게 취급하는 것이 가능하다.
P(i)=(w1_1×Q1(i)/pow(2,d-1)+c_1+w2_2×Q2(i)/pow(2,d-1)+c_2)/2 (식 1b)
(pow(2,d-1)은 2의 d-1승을 나타낸다)
또, 식 1b에서는 pow(2,d-1)로 되어 있지만, d는 고정의 값이므로, d′=d-1로 하고 d′를 선형 예측 연산부(107k)로의 입력으로 함으로써 pow(2, d′)로 하여 시스템을 구성해도 된다.
또, 도 11에서 설명한 예측 화상의 생성에 있어서는, 선형 예측 계수 기억부(109i)는 가중 계수 세트 중 w1_1과 c_1만을 필요로 하고, 선형 예측 계수 기억부(109j)는 가중 계수 세트 중 w2_2와 c_2만을 필요로 하므로, 그 이외의 파라미터를 부호화할 필요가 없다. 따라서 부호열을 작게 할 수 있다.
또한, d의 값으로서 사용하는 미리 결정된 고정의 값이란, 항상 같은 값을 사용하는 것도 가능하지만, 슬라이스 헤더에 상기 고정된 값을 기술함으로써 슬라이스마다 전환하는 것도 가능하다. 마찬가지로, 픽처 공통 정보 영역 또는 시퀀스 공통 정보 영역에 기술함으로써 픽처마다 또는 시퀀스마다 전환하는 것도 가능하다.
상기의 선형 예측 방법을 사용했을 때의 슬라이스 데이터 영역의 구성의 예를 도 12에 나타낸다. 도 6과 다른 점은, d가 슬라이스 헤더 영역에 1개만 기술되어 있는 점과, ref1용의 pset로서 w1_1과 c_1만이 기술되어 있는 점이다. 도 13은 상기 슬라이스 헤더 영역에 포함되는 상기 가중 계수 세트의 예를 표에 나타낸 것이다. 식별자 pset로 나타낸 각각의 데이터는 w1_1, c_1 또는 w2_2, c_2의 2개의 값을 갖고, ref1 및 ref2의 값에 의해 직접 참조할 수 있도록 구성되어 있다.
또한, 선형 예측 계수 생성부(110)에서는, 픽처의 특징을 조사함으로써 가중 계수 세트를 생성하고, 움직임 보상 부호화부(107)에 있어서, 도 8, 도 9, 도 10, 도 11에서 설명한 방법을 사용하여 예측 화상을 작성하여, 가장 예측 오차가 최소가 되는 2개의 참조 인덱스 ref1 및 ref2의 조합을 결정한다. 또한, 도10(a), (b), 도 11과 같이 모든 파라미터를 필요로 하지 않는 방법을 사용하는 경우는, 부호화 장치의 선형 예측 계수 생성부(110)에 있어서 가중 계수 세트를 작성하는 단계에서, 필요가 없는 파라미터의 작성 처리를 생략하는 것도 가능하다.
또, 도 10(a), (b), 도 11과 같은 방법에서는, 선형 예측 계수 생성부(110)에 있어서 가중 계수 세트를 작성할 때, 예를 들면 w1_1이나 w2_2와 같이, ref1용의 가중 계수 세트와 ref2용의 가중 계수 세트를 각각 독립적으로 최적인 것을 탐색하여 작성하는 것이 가능하다. 즉, 이 방법을 사용하면 부호화 장치에 있어서 가중 계수 세트를 작성하기 위한 처리량을 삭감하는 것이 가능해진다.
또한, 상기의 부호화 방법은 2개의 참조 픽처를 갖는 B 픽처에 관한 것이었으나, 1개의 참조 픽처밖에 갖지 않는 P 픽처 및 B 픽처에 있어서의 단일 픽처 참조 부호화 모드에 있어서도 같은 처리를 하는 것이 가능하다. 이 경우는 제1 참조 인덱스 또는 제2 참조 인덱스의 어느 한쪽만을 사용하여, 도 6의 부호열에 있어서의 슬라이스 헤더 영역 중의 pset 및 idx_cmd는, 블록 데이터 영역중에 기술되는 참조 인덱스에 따라서, ref1용 또는 ref2용의 것만을 기술하게 된다.
또, 선형 예측 방법은 종래의 방법에서 설명한 식 1을 대신해 하기의 식 3을 사용한다. 이 때, Q1(i)는 참조된 블록의 화소치, P(i)는 부호화 대상 블록의 예측 화상의 화소치로 하고, w1, w2, c, d는 선택된 가중 계수 세트에 의해 주어지는 선형 예측 계수이다.
P(i)=(w1×Q1(i)+w2×Q1(i))/pow(2,d)+c (식 3)
(pow(2, d)은 2의 d승을 나타낸다)
또한, 선형 예측의 식으로서 식 3 대신 식 4를 사용하는 것도 가능하다. 이 때, Q1(i)는 참조된 블록의 화소치, P(i)는 부호화 대상 블록의 예측 화상의 화소치로 하고, w1, c, d는 선택된 가중 계수 세트에 의해 주어지는 선형 예측 계수이다.
P(i)=(w1×Q1(i))/pow(2,d)+c (식 4)
(pow(2,d)는 2의 d승을 나타낸다)
식 1 및 식 3을 사용하는 경우는, w1, w2, c, d의 4개의 파라미터가 필요했으나, 식 4를 사용하는 경우는, w1, c, d의 3개의 파라미터만으로 선형 예측을 행할 수 있다. 즉, P 픽처처럼 픽처 전체에서 제1 참조 인덱스 또는 제2 참조 인덱스 중 어느 한쪽밖에 사용되지 않는 경우는, 슬라이스 헤더 영역에 기술하는 가중 계수 세트의 데이터의 항목 수를 각각 3개씩으로 줄이는 것이 가능해진다.
식 3을 사용한 경우는 B 픽처와 P 픽처에서 구성을 변경하지 않고 양쪽에 대응한 선형 예측을 실현하는 것이 가능해진다. 또, 식 4를 사용한 경우는 P 픽처의 헤더 영역에 기술하는 데이터량을 삭감할 수 있고, 또한 계산이 단순화되므로 처리량의 삭감도 실현하는 것이 가능해진다. 단, 어느 방법에 있어서도, 본 발명에서 제안하는 참조 인덱스의 배당 방법은 그대로 적용할 수 있으므로, 부호화 효율이 높은 예측 화상을 작성하는 것이 가능하여, 화상의 부호화에 있어서 대단히 유효하다.
그런데, 움직임 보상에 있어서 참조하는 픽처는, 각각의 픽처에 할당된 참조 인덱스를 지정함으로써 결정된다. 그 때, 참조하는 것이 가능한 픽처의 최대 매수를 부호열의 픽처 공통 정보 부분에 기술하고 있었다.
도 38은, 참조하는 것이 가능한 픽처의 최대 매수를 기술한 부호열의 모식도이다. 도면에 나타낸 바와 같이 부호열의 픽처 공통 정보에 ref1용의 픽처의 최대수(Max_pic1)와, ref2용의 픽처의 최대수(Max_pic2)를 기술하고 있었다.
부호화에 있어서 필요로 하는 정보는, 실제의 픽처의 최대 매수가 아니라, 픽처를 지정하기 위해 사용하는 참조 인덱스가 취할 수 있는 최대치이다.
종래 방법에서는, 1개의 픽처에는 1개의 참조 인덱스밖에 할당되지 않았기 때문에, 상술한 픽처의 최대 매수를 기술함으로써 모순은 발생하지 않았으나, 특히 본 발명과 같이 픽처 번호에 다수의 참조 인덱스가 할당되는 경우에는 그 차이가 크게 영향을 준다.
상술한 바와 같이, 부호열에는 참조 인덱스를 픽처 번호에 할당하기 위해 커맨트열 idx_cmd1, 및 idx_cmd2가 기술되어 있다. 이 커맨드열 idx_cmd1 및 idx_cmd2의 각 커맨드를 기초로, 픽처 번호와 참조 인덱스를 대응시켜 간다. 이 때, 참조 인덱스의 최대치를 아는 것에 의해, 모든 참조 인덱스와 픽처 번호가 대응지어진 것을 알 수 있고, 커맨드열 idx_cmd1, 및 idx_cmd2에 있어서의 커맨드의 종단을 알 수 있다.
그래서, 본 실시형태에서는, 종래의 픽처의 최대 매수의 대신에, 사용 가능한 참조 인덱스의 최대수를 픽처의 헤더인 픽처 공통 정보 부분에 기술하고 있다. 또는, 픽처의 최대 매수와 참조 인덱스의 최대수의 양쪽을 기술한다.
도 23은, 픽처의 부호열의 픽처 공통 정보에 참조 인덱스의 최대수를 기술한 상태를 나타내고 있다. 픽처의 공통 정보 부분에는, ref1용의 이용 가능한 참조 인덱스의 최대수 Max_idx1, 및 ref2용의 이용 가능한 참조 인덱스의 최대수 Max_idx2를 기술하고 있다.
또한, 도 23에서는, 픽처 공통 정보에 참조 인덱스의 최대 수를 기술하고 있으나, 이에 더해 슬라이스 데이터 영역에 참조 인덱스의 최대수를 기술하는 구성으로 해도 된다. 예를 들면, 픽처에서의 참조 인덱스의 최대수가 8, 대응 픽처중의 슬라이스 1에서 필요한 참조 인덱스의 최대수가 8, 슬라이스 2에서 필요한 참조 인덱스의 최대수가 4라는 식으로, 슬라이스에 따라 필요한 참조 인덱스의 최대수가 픽처 공통 정보 영역에 기술된 최대수와 다른 경우에, 슬라이스마다 필요한 참조 인덱스의 최대수를 명시할 수 있다.
즉, 픽처 공통 정보에 기술된 참조 인덱스의 최대수를 픽처중의 각 슬라이스에 공통하는 디폴트치로 하여, 필요한 참조 인덱스의 최대수가 디폴트치와 다른 슬라이스에 대해서는 슬라이스 헤더에 기술하도록 해도 된다.
또한, 도 23 및 도 38에서는 픽처 공통 정보 영역과 슬라이스 데이터 영역을 하나로 묶어 부호열로 하고 있는 예를 나타냈으나, 픽처 공통 정보 영역과 슬라이스 데이터 영역은 각각 독립된 부호열로 하는 것도 가능하며, 이 경우도 완전히 동일하게 취급할 수 있다.
(실시형태 2)
본 발명의 실시형태 2에 있어서의 동화상 부호화 방법에 관해 설명한다. 또한, 부호화 장치의 구성 및 부호화의 처리의 흐름 및 참조 인덱스의 할당 방법은 실시형태 1과 완전히 같으므로, 여기서는 설명을 생략한다.
실시형태 1에서는 움직임 보상에 있어서 예측 화상을 생성할 때, 식 1 또는 식 3 또는 식 4를 사용하여 화소마다 선형 예측을 행하고 있다. 그러나, 이들 식은 모두 승산 처리를 포함하는 것이며, 모든 화소에 대해 이러한 연산을 행하는 것을 생각하면 처리량이 대단히 커져 버린다.
그래서 식 1 대신에 식 5, 식 3 대신에 식 6, 식 4 대신에 식 7을 사용하는 것도 가능하다. 이들 식은 승산을 사용하지 않고 비트 시프트 연산만으로 계산을 행할 수 있으므로, 처리량을 적게 억제하는 것이 가능해진다. 이 때, Q1(i), Q2(i)는 참조된 블록의 화소치, P(i)는 부호화 대상 블록의 예측 화상의 화소치로 하고, m, n, c는 선택된 가중 계수 세트에 의해 주어지는 선형 예측 계수이다.
P(i)=±pow(2,m)×Q1(i)±pow(2,n)×Q2(i)+c (식 5)
P(i)=±pow(2,m)×Q1(i)±pow(2,n)×Q1(i)+c (식 6)
P(i)=±pow(2,m)×Q1(i)+c (식 7)
(pow(2,m)은 2의 m승을, pow(2,n)은 2의 n승을 나타낸다)
실시형태 1과 동일하게, 동시에 2장의 픽처를 참조하여 예측 화상을 생성할 때는 식 5를 사용하고, 1장의 픽처만을 참조하여 예측 화상을 생성할 때는 식 6 또는 식 7을 사용한다. 이들 식에서는 양음의 부호를 나타내는 식별자가 필요해지므로, 예측 연산에 필요한 가중 계수 세트는, 식 5 및 식 6의 경우는 (sign1, m, sign2, n, c), 식 7의 경우는(sign1, m, c)가 된다. sign1은 첫번째의 양음의 부호를, sign2은 두번째의 양음의 부호를 식별하는 파라미터이다. 파라미터의 개수는 실시형태 1보다도 증가하고 있지만, sign1 및 sign2는 각각 1비트로 표현할 수 있으므로 부호량의 증가는 거의 없다.
여기서, 가중 계수 세트를 결정하여, 식 5를 사용하여 동시에 2장의 픽처를 참조하여 예측 화상을 생성하기까지의 처리 흐름에 대해 상세히 설명한다.
먼저 예측 화상을 생성하는 기능 구성이 도 8인 경우에 관해 설명한다. 평균치 산출부(107a)는, 선형 예측 계수 기억부(109a)로부터 가중 계수 세트 (sign1_1, m_1, sign2_1, n_1, c_1)를 얻는다. 또, 평균치 산출부(107a)는, 선형 예측 계수 기억부(109b)로부터 가중 계수 세트 (sign1_2, m_2, sign2_2, n_2, c_2)를 얻는다.
평균치 산출부(107a)는, 선형 예측 계수 기억부(109a), 선형 예측 계수 기억부(109b)로부터 얻은 가중 계수 세트의 파라미터마다의 평균치를 구하여, 가중 계수 세트 (sign1, m, sign2, n, c)로 한다. 선형 예측 연산부(107b)는, 평균치 산출부(107a)가 출력하는 가중 계수 세트(sign1, m, sign2, n, c)를 기초로, 식 5를 사용하여 예측 화상을 연산한다.
또한, 도 8에 기재한 선형 예측 계수 기억부(109a) 등으로부터 얻어지는 가중 계수 세트(w1_1, w2_1, c_1, d_1) 등은, 실시형태 1에서 설명한 식 1의 경우의 예의 것이며, 식 5를 사용하여 예측 화상을 구하는 경우에 대한 파라미터에 관해서는 도시하고 있지 않으나, 그대로 치환하는 것이 가능하다. 이하에 설명하는 도 9, 도 10의 경우도 같다.
다음에 예측 화상을 생성하는 기능 구성이 도 9인 경우에 관해 설명한다. 선형 예측 연산부(107c)는, 선형 예측 계수 기억부(109a)로부터 얻은 가중 계수 세트(sign1_1, m_1, sign2_1, n_1, c_1)를 기초로 예측 화상을 연산한다. 선형 예측 연산부(107d)는, 선형 예측 계수 기억부(109b)로부터 얻은 가중 계수 세트(sign1_2, m_2, sign2_2, n_2, c_2)를 기초로 예측 화상을 연산한다. 그리고 평균치 산출부(107e)는, 선형 예측 연산부(107c, 107d)의 각각이 연산한 예측 화상의 각 화소의 평균을 구하여, 예측 화상으로 한다.
이 경우, 선형 예측 연산부(107c)는, 가중 계수 세트(sign1_1, m_1, sign2_1, n_1, c_1)를 기초로 식 5를 사용하여, 최초에 예측 화상을 연산하므로, 승산을 사용하지 않고 비트 시프트 연산으로 계산할 수 있다. 선형 예측 연산부(107d)도 마찬가지이다. 한편, 도 8의 경우에는, 최초에 가중 계수 세트 (sign1_1, m_1, sign2_1, n_1, c_1)와 가중 계수 세트 (sign1_2, m_2, sign2_2, n_2, c_2)의 평균을 구하므로, m_1과 m_2의 평균치 또는 n1과 n2의 평균치가 정수가 되지 않는 경우가 있어, 즉 2의 지수에 해당하는 부분이 정수가 되지 않기 때문에, 처리량이 많아져 버릴 가능성이 있다. 또, 2의 지수에 해당하는 부분이 정수가 되도록 반올림 처리를 행하면 오차가 커져 버릴 가능성이 있다.
다음에, 예측 화상을 생성하는 기능 구성이 도 10(a)인 경우에 관해 설명한다. 선형 예측 연산부(107g)는, 선형 예측 계수 기억부(109c)로부터 얻은 비트 시프트 연산에 사용되는 계수인 파라미터 sign1_1, m_1와, 선형 예측 계수 기억부(109c)로부터 얻은 비트 시프트 연산에 사용되는 계수인 파라미터 sign2_2, n_2와, 각 선형 예측 계수 기억부(109c, 109d)로부터 얻은 파라미터 c_1과 c_2를 평균치 산출부(107f)가 평균하여 구한 평균치 c를 기초로 식 5를 사용하여 예측 화상을 연산한다.
이 경우에 있어서도, 비트 시프트 연산에 사용되는 계수는, 선형 예측 계수 기억부(109c) 또는 선형 예측 계수 기억부(109d)로부터 그대로 얻은 값이므로, 식 5에 있어서의 2의 지수 부분이 정수가 된다. 그 때문에, 비트 시프트 연산으로 계산할 수 있어, 처리량을 적게 하는 것이 가능해진다.
예측 화상을 생성하는 기능 구성이 도 10(b)인 경우에 관해 설명한다. 선형 예측 연산부(107h)는, 선형 예측 계수 기억부(109e)로부터 얻은 파라미터 sign1_1, m_1, c_1과, 선형 예측 계수 기억부(109f)로부터 얻은 파라미터 sign2_2, n_2를 기초로 식 5를 사용하여 예측 화상을 연산한다.
이 경우에 있어서도, 비트 시프트 연산에 사용되는 계수는, 선형 예측 계수 기억부(109e), 또는 선형 예측 계수 기억부(109f)로부터 그대로 얻은 값이므로, 식 5에 있어서의 2의 지수부분이 정수가 된다. 그 때문에, 비트 시프트 연산으로 계산할 수 있어, 처리량을 적게 하는 것이 가능해진다.
도 10(a)(b)의 경우는, 실시형태 1에 있어서의 도10(a)(b)의 설명과 마찬가지로 부호열에 부가하여 보내지 않아도 되는 파라미터가 있어, 부호열을 작게 하는 것이 가능하다.
이상, 실시형태 2에서 설명한 바와 같은 선형 예측식을 사용하면, 승산을 사용하지 않고 비트 시프트 연산으로 계산할 수 있으므로 실시형태 1에 비해 처리량을 대폭 삭감하는 것이 가능해진다.
또한, 상기 실시형태에서는 식 1, 식 3, 식 4 대신에 식 5, 식 6, 식 7을 사용하고, 부호화하는 파라미터 세트도 (w1, w2, c, d) 대신에 (sign1, m, sign2, n, c)를 사용하여 선형 예측을 행함으로써 비트 시프트 연산만으로의 계산을 실현하여 처리량의 삭감을 도모하고 있었으나, 별도의 어프로치로서 식 1, 식 3, 식 4 및 (w1, w2, c, d)를 그대로 사용한 채로, w1 및 w2를 비트 시프트 연산 가능한 값만 선택 가능하게 하여 제한함으로써 비트 시프트 연산만으로의 계산을 실현하여 처리량의 삭감을 행하는 것도 가능하다.
도 1의 선형 예측 계수 생성부(110)에 있어서, w1 및 w2의 각 값을 결정할 때, 그 선택지로서 비트 시프트 연산 가능한 값만을 선택하여 도 6 및 도 12의 부호열중의 w1 및 w2에 그대로 선택된 값을 기술한다. 이에 의해 실시형태 1과 완전히 동일한 구성인채로 선형 예측을 위한 처리량의 삭감을 도모하는 것이 가능해지고, 또한 계수의 선택지가 제한됨으로써 계수의 결정을 용이하게 행하는 것이 가능해진다.
또, 더욱 한정하는 방법으로서, w1 및 w2를 항상 1로 하여 선택하도록 제한하고, 직류 성분인 c1 및 c2만 최적의 값을 선형 예측 계수 생성부(110)에서 생성하는 것도 가능하다. 도 11의 구성의 경우를 예로 들면, ref1용으로서 (1, c_1), ref2용으로서 (1, c_2)를 파라미터 세트로서 부호화한다. 이 경우, 예측 화상의 화소치 P (i)는, (식 1a)중의 w1_1 및 w2_2를 1로 치환한 다음 식에 의해 구해진다.
P(i)=(Q1(i)+Q2(i))/pow(2,d)+(c_1+ c_2)/2
(pow(2, d)는 2의 d승을 나타낸다)
이에 의해 실시형태 1과 완전히 같은 구성인채로 선형 예측을 위한 처리량을 대폭 삭감하는 것이 가능해지고, 또한 불확정인 계수가 c_1 및 c_2만이 되므로 계수의 결정 방법을 대폭 단순화하는 것이 가능해진다.
도 24는 픽처의 부호열의 픽처 공통 정보에, 선형 예측을 비트 시프트 연산만으로 행하는 것이 가능한지를 나타내는 플래그 sft_flg, 및 직류 성분인 c만으로 선형 예측을 행하는 것이 가능한지를 나타내는 플래그 dc_flg를 기술한 예를 나타내고 있다. 복호화 장치에서는 이들 플래그를 참조하지 않고 복호하는 것도 가능하지만, 이들 플래그를 참조함으로써, 비트 시프트 연산만으로의 선형 예측에 적합한 구성으로의 복호를 행하는 것이나, 직류 성분만으로의 선형 예측에 적합한 구성으로의 복호를 행하는 것이 가능해지므로, 복호화 장치의 구성에 따라서는 대단히 중요한 정보가 되는 경우가 있다.
또한, 도 24에서는 픽처 공통 정보 영역과 슬라이스 데이터 영역을 하나로 묶어 부호열로 하고 있는 예를 나타냈으나, 픽처 공통 정보 영역과 슬라이스 데이터 영역은 각각 독립된 부호열로 하는 것도 가능하고, 이 경우도 완전히 동일하게 취급할 수 있다. 또, 도 24의 예에서는 픽처 공통 정보 영역에 sft_flg 및 dc_flg를 기술하고 있으나, 시퀀스 공통 정보 영역이나 그 밖의 독립된 공통 정보 영역에 기술하는 경우도 완전히 동일하게 취급할 수 있다. 또, 이들 2개의 플래그는 양쪽 동시에 사용하는 경우뿐만이 아니고, sft_flg만 또는 dc_flg만으로 사용하는 것도 가능하고, 그들 경우도 마찬가지로 취급할 수 있다.
(실시형태 3)
본 발명의 실시형태 3에 있어서의 동화상 부호화 방법에 관해 설명한다. 또한, 부호화 장치의 구성 및 부호화 처리의 흐름 및 참조 인덱스의 할당 방법은 실시형태 1과 완전히 동일하므로, 여기서는 설명을 생략한다.
종래의 기술에서 설명한 바와 같이, 실시형태 1 및 실시형태 2와 같이 선형 예측 계수의 가중 계수 세트로부터 구하는 예측식을 사용하여 예측 화상을 생성하는 것이 아니라, 식 2a 및 식 2b와 같이 미리 정한 고정식을 사용하여 예측 화상을 구하는 방법이 있었다. 이 방법을 사용하면, 예측 화상을 구할 때의 가중 계수 세트를 부호화하여 보낼 필요가 없으므로 부호량을 삭감할 수 있다고 하는 이점이 있었다. 또, 선형 예측의 계산식이 단순하므로, 적은 처리량으로 선형 예측을 대폭 삭감하는 것이 가능했다. 그러나, 이 고정식을 사용한 방법의 경우, 선택할 수 있는 선형 예측식이 식 2a 및 식 2b의 2가지밖에 없기 때문에, 예측 정밀도가 나빠진다는 문제가 있었다.
그래서 본 실시형태에서는 식 2a, 식 2b 대신에 식 8a, 8b를 사용한다. 이들 식은 식 2a, 식 2b에 C1 및 C2를 더한 것이다. 연산에서는 가산의 회수가 증가하는 것 뿐이므로, 원래의 식과 비교하더라도 처리량의 증가는 거의 없다. 이 때, Q1(i), Q2(i)는 참조된 블록의 화소치, P(i)는 부호화 대상 블록의 예측 화상의 화소치로 하고, C1, C2는 선택된 가중 계수 세트에 의해 주어지는 선형 예측 계수이다.
P(i)= 2×(Q1(i)+C1)-(Q2(i)+C2) (식 8a)
P(i)=(Q1(i)+C1+Q2(i)+C2)/2 (식 8b)
식 8a, 8b는 동시에 2장의 픽처를 참조하여 예측 화상을 생성할 때의 예측식인데, 1장의 픽처만을 참조하여 예측 화상을 생성할 때는 실시형태에서 설명한 식 3, 식 4 대신에 식 9를 사용한다.
P(i)= Q1(i)+ C1 (식 9)
이 방법을 사용하기 위해 필요한 가중 계수 세트는, ref1용으로서 (C1), ref2용으로서 (C2)뿐이다. 그 때문에, 이 방법을 사용한 경우의 픽처의 부호열의 예는 도 14와 같이 되고, 슬라이스 헤더 영역에는 선형 예측을 행하기 위한 가중 계수 세트 (pset0, pset1, pset2, …)가 ref1용 및 ref2용 각각에 기술되고, 각각의 가중 계수 세트의 내용은 C뿐이 된다. 마찬가지로, 도 15는 상기 슬라이스 헤더 영역에 포함되는 가중 계수 세트의 예를 표에 나타낸 것인데, 도 7과는 달리, 각 가중 계수 세트의 요소는 C만으로 되어 있다.
도 16은, 도 1의 선형 예측 계수 생성부(110), 선형 예측 계수 기억부(109), 및 움직임 보상 부호화부(107)에 있어서의 예측 화상을 생성하는 기능 구성을 나타낸 기능 블록도이다.
선형 예측 계수 생성부(110), 선형 예측 계수 기억부(109g), 선형 예측 계수 기억부(109h), 및 선형 예측 연산부(107i)에 의해 예측 화상이 생성된다.
선형 예측 계수 생성부(110)에 의해 생성된 가중 계수 세트는 선형 예측 계수 기억부(109g) 및 선형 예측 계수 기억부(109h)에 저장되어 있다. 움직임 검출 처리에 의해 결정된 제1 참조 인덱스 ref1, 및 제2 참조 인덱스 ref2에 의해 선형 예측 계수 기억부(109g 및 109h)로부터 각각 1개의 구성 요소만을 갖는 가중 계수 세트 (C1) 및 (C2)가 획득된다. 그들 값은 선형 예측 연산부(107i)에 입력되어, 식 8a, 식 8b를 사용하여 선형 예측이 이루어져, 예측 화상이 생성된다.
마찬가지로, 1장만을 참조하여 선형 예측을 행하는 경우는 도 16의 ref1 또는 ref2의 어느 한쪽만에 의해 가중 계수 세트 (C1) 또는 (C2)가 획득되어, 식 9를 사용하여 선형 예측이 이루어져, 예측 화상이 생성된다.
또한, 선형 예측 계수 생성부(110)에서는, 픽처의 특징을 조사함으로써 가중 계수 세트 (C1) 및 (C2)를 생성하여, 도 16에서 설명한 방법을 사용하여 예측 화상을 작성하여, 가장 예측오차가 최소가 되는 2개의 참조 인덱스 ref1 및 ref2의 조합을 결정한다.
이렇게, 본 실시형태에서는 사용하는 파라미터의 수가 ref1용, ref2용으로 각각 1개씩만 있으면 되므로, 부호화 장치에서 파라미터의 값을 결정하는 처리를 용이하게 행할 수 있고, 또한 부호열에 기술하는 데이터의 양을 삭감할 수 있다. 또 선형 예측식도 승산 등의 복잡한 연산을 필요로 하지 않기 때문에, 연산량도 최소한으로 억제하는 것이 가능하다. 또 종래의 고정식을 사용한 방법에서 결점이 되고 있었던 예측 정밀도의 낮음도, C1 및 C2라는 계수를 사용함으로써 대폭 개선하는 것이 가능하다.
또한, 본 실시형태에서 설명한 선형 예측 방법은, 다수의 참조 인덱스가 동일한 픽처를 참조하는 것이 가능한지 여부에 관계없이 사용하는 것이 가능하다.
(실시형태 4)
본 발명의 실시형태 4에 있어서의 동화상 부호화 방법에 관해 설명한다. 또한, 부호화 장치의 구성 및 부호화 처리의 흐름 및 참조 인덱스의 할당 방법은 실시형태 1과 완전히 동일하므로, 여기서는 설명을 생략한다.
각각의 픽처는 픽처 번호와 함께, 표시 시간 또는 그것에 대신하는 것을 나타내기 위한 표시순서 정보라는 것이 할당되고 있다. 도 39는 그 일례로서 픽처 번호와 표시순서 정보를 나열하여 나타낸 도면이다. 표시순서 정보는 표시되는 순서에 따라 어느 값이 할당된다.
이 도면의 예에서는, 1 픽처마다 1개씩 증가하는 값이 사용되고 있다. 선 형 예측을 행하기 위한 식에서 사용되는 계수의 값을 이들 표시순서 정보를 사용하여 생성하는 방법에 관해 실시형태 4에서 설명한다.
실시형태 1에서는 움직임 보상에서 예측 화상을 생성할 때, 식 1 또는 식 3 또는 식 4를 사용하여 화소마다 선형 예측을 행하고 있다. 그러나, 이들 선형 예측을 행하기 위해서는 계수의 데이터가 필요하고, 상기 실시형태에서는, 슬라이스 헤더 영역에 가중 계수 세트로서 부호열중에 계수의 데이터를 기술하여, 예측 화상의 작성에 사용하고 있었다. 그러나, 높은 부호화 효율이 얻어지는 반면, 가중 계수 세트의 데이터를 작성하기 위한 처리가 필요해지고, 또 가중 계수 세트를 부호열중에 기술하는 것에 의한 비트량의 증가도 발생한다.
그래서 식 1 대신에 식 10, 식 11a, 식 12a를 사용하여 선형 예측을 행하는 것도 가능하다. 이들 식은 각각의 참조 픽처가 갖는 표시순서 정보만으로부터 가중 계수를 결정할 수 있으므로, 별도로 가중 계수 세트를 부호화할 필요가 없다.
이 때, Q1(i), Q2(i)는 참조된 블록의 화소치, P(i)는 부호화 대상 블록의 예측 화상의 화소치로 하고, V0, V1은 가중 계수, T0은 부호화 대상 픽처의 표시순서 정보, T1은 제1 참조 인덱스에 의해 지정된 픽처의 표시순서 정보, T2는 제2 참조 인덱스에 의해 지정된 픽처의 표시순서 정보이다.
P(i)= V1×Q1(i)+V2×Q2(i) (식 10)
V1=(T2-T0)/(T2-T1) (식 11a)
V2=(T0-T1)/(T2-T1) (식 12a)
예로서 도 39에서, 부호화 대상 픽처를 16번, 제1 참조 인덱스에 의해 지정된 픽처를 11번, 제2 참조 인덱스에 의해 지정된 픽처를 10번으로 하면, 각각의 픽처의 표시순서 정보는 15, 13, 10이 되므로, 하기와 같은 선형 예측식이 결정된다.
V1=(10-15)/(10-13)=5/3
V2=(15-13)/(10-13)=-2/3
P(i)= 5/3×Q1(i)-2/3×Q2(i)
식 1을 사용한 가중 계수 세트를 사용하여 선형 예측을 행하는 방법과 비교하면 계수의 값의 자유도가 낮으므로 최적의 예측 화상의 작성은 곤란하다고 할 수 있으나, 식 2a, 식 2b를 사용한 2개의 식으로 이루어지는 고정식을 2장의 참조 픽처의 위치 관계에 따라 전환하는 방법과 비교하면 선형 예측식으로서 보다 효율적인 식을 생성할 수 있다.
또한, 제1 참조 인덱스 및 제2 참조 인덱스가 같은 픽처를 참조하고 있는 경우는, T1=T2가 되어버려, 식 11a, 식 12a가 성립하지 않는다. 그래서, 참조되는 2장의 픽처가 같은 표시순서 정보를 갖는 경우는 V1 및 V2의 값으로서 1/2를 사용하여 선형 예측을 행하는 것으로 한다. 그 경우의 선형 예측식은 하기와 같이 된다.
V1=1/2
V2=1/2
P(i)=1/2×Q1(i)+1/2×Q2(i)
또, 제1 참조 인덱스 및 제2 참조 인덱스가 다른 픽처를 참조하고 있으나, 그들 픽처가 같은 표시순서 정보를 갖는 경우에도, T1=T2가 되어 버려, 식 11a, 식 12a가 성립하지 않는다. 이렇게 참조되는 2장의 픽처가 같은 표시순서 정보를 갖는 경우는 V1및 V2의 값으로서 1/2를 사용하여 선형 예측을 행하는 것으로 한다.
이렇게, 참조되는 2장의 픽처가 같은 표시순서 정보를 갖는 경우에는, 미리 설정된 값을 계수로서 사용하는 구성으로 하면 된다. 미리 설정된 값의 계수로는, 상기의 1/2의 예와 같이 같은 가중치를 갖는 계수로 해도 된다.
그런데, 상기의 실시형태와 같이 식 10을 사용하면, 선형 예측을 행하기 위해 승산 및 제산이 필요해진다. 식 10에 의한 선형 예측 연산은 부호화 대상 블록 내의 모든 화소에 대해 연산을 행하므로, 승산이 가해지는 것에 의한 처리량의 증가는 대단히 커진다.
그래서, 실시형태 2의 사고방식과 같이 하여, V1 및 V2를 2의 제곱승에 근사시킴으로써, 선형 예측의 연산을 시프트 연산만으로 행하는 것을 가능하게 하여, 처리량의 삭감을 도모할 수 있다. 그 경우의 선형 예측식으로서, 식 11a, 식 12a 대신에 식 11b, 식 12b를 사용한다. 단, v1 및 v2는 정수로 한다.
V1=±pow(2,v1)=apx((T2-T0)/(T2-T1)) (식 11b)
V2=±pow(2,v2)=apx((T0-T1)/(T2-T1)) (식 12b)
(pow(2,v1)은 2의 v1승을, pow(2,v2)는 2의 v2승을 나타낸다)
(=apx()는 () 안의 값을 좌변의 값에 근사하는 것을 나타낸다)
또한, 식 11a, 식 12a의 대신에 식 11c, 식 12c를 사용하는 것도 가능하다. 단, v1은 정수로 한다.
V1=±pow(2,v1)=apx((T2-T0)/(T2-T1)) (식 11c)
V2=1-V1 (식 12c)
(pow(2,v1)은 2의 v1승을 나타낸다)
(=apx()는 () 안의 값을 좌변의 값에 근사하는 것을 나타낸다)
또한, 식 11a, 식 12a 대신에 식 11d, 식 12d를 사용하는 것도 가능하다. 단, v1은 정수로 한다.
V1=1-V2 (식 11d)
V2=±pow(2,v2)=apx((T0-T1)/(T2-T1)) (식 12d)
(pow(2,v2)는 2의 v2승을 나타낸다)
(=apx()는 () 안의 값을 좌변의 값에 근사하는 것을 나타낸다)
또한, 2의 제곱승으로의 근사 방법은, 식 11b를 예로 들면 v1의 값을 1씩 변화시켰을 때, ±pow(2,v1)과 (T2-T0)/(T2-T1)이 가장 가까워질 때의 ±pow(2,v1)의 값으로 한다.
예로서 도 39에서, 부호화 대상 픽처를 16번, 제1 참조 인덱스에 의해 지정된 픽처를 11번, 제2 참조 인덱스에 의해 지정된 픽처를 10번으로 하면, 각각의 픽처의 표시순서 정보는 15, 13, 10이 되므로, (T2-T0)/(T2-T1) 및 ±pow(2,v1)은 하기와 같이 된다.
(T2-T0)/(T2-T1)=(10-15)/(10-13)=5/3
+pow(2,0)=1, +pow(2,1)=2
5/3는 1보다도 2에 가까우므로, 근사의 결과 V1=2가 된다.
또, 다른 근사 방법으로서, 표시순서 정보 T1 및 T2의 2개의 값의 관계에 따라 올림에 의한 근사, 내림에 의한 근사를 전환하는 것도 가능하다.
그 경우, T1이 T2보다도 시간적으로 후방에 있는 경우는, V1 및 V2의 양쪽에 대해 올림에 의한 근사를 행하고, T1이 T2보다도 시간적으로 전방에 있는 경우는, V1 및 V2의 양쪽에 대해 내림에 의한 근사를 행한다. 반대로, T1이 T2보다도 시간적으로 후방에 있는 경우는, V1 및 V2의 양쪽에 대해 내림에 의한 근사를 행하고, T1이 T2보다도 시간적으로 전방에 있는 경우는, V1 및 V2의 양쪽에 대해 올림에 의한 근사를 행하는 것도 가능하다.
또, 다른 표시순서 정보를 사용한 근사 방법으로서, T1이 T2보다도 시간적으로 후방에 있는 경우는, V1에 관한 식에 있어서는 올림에 의한 근사를 행하고, V2에 관한 식에 있어서는 내림에 의한 근사를 행한다. 이에 의해 2개의 계수의 값이 서로 떨어지므로, 외삽(外揷) 보간에 적합한 값이 얻어지기 숴워진다. 반대로, T1이 T2보다도 시간적으로 전방에 있는 경우는, V1에 관한 식과 V2에 관한 식에서 그 양쪽의 값을 비교했을 때, 값이 작은 쪽은 올림에 의한 근사를 행하고, 값이 큰 쪽은 내림에 의한 근사를 행한다. 이에 의해 2개의 계수의 값이 서로 가까워지므로, 내삽 보간에 적합한 값이 얻어지기 쉬워진다.
예로서 도 39에 있어서, 부호화 대상 픽처를 16번, 제1 참조 인덱스에 의해 지정된 픽처를 11번, 제2 참조 인덱스에 의해서 지정된 픽처를 10번으로 하면, 각각의 픽처의 표시순서 정보는 15, 13, 10이 되고, T1은 T2보다도 시간적으로 후방에 있으므로, V1에 관한 식에 있어서는 올림에 의한 근사를 행하고, V2에 관한 식에 있어서는 내림에 의한 근사를 행한다. 그 결과, 식 11b 및 식 12b는 하기와 같이 계산된다.
(1) 식 11b에 대해
(T2-T0)/(T2-T1)=(10-15)/(10-13)= 5/3
+pow(2,0)=1, pow(2,1)=2
올림에 의한 근사를 행한 결과 V1=2가 된다.
(2) 식 12b에 대해
(T0-T1)/(T2-T1)=(15-13)/(10-13)=-2/3
-pow(2,0)=-1, -pow(2,-1)=-1/2
내림에 의한 근사를 행한 결과 V2=-1이 된다. 또한, 상기 실시형태에서는 선형 예측의 식은 식 10의 1개였으나, 종래 기술에서 설명한 식 2a 및 식 2b의 2개의 식으로 이루어지는 고정식에 의한 선형 예측 방법과 조합하여 사용하는 것도 가능하다. 그 경우, 식 2a 대신에 식 10을 사용하고, 식 2b는 그대로 사용한다. 즉, 제1 참조 인덱스에 의해 지정되는 픽처가 제2 참조 인덱스에 의해서 지정되는 픽처보다도 표시 순서에서 뒤에 있는 경우는 식 10을 사용하고, 그 이외의 경우는 식 2b를 사용한다.
또 반대로, 식 2b 대신에 식 10을 사용하고, 식 2a는 그대로 사용하는 것도 가능하다. 즉, 제1 참조 인덱스에 의해 지정되는 픽처가 제2 참조 인덱스에 의해 지정되는 픽처보다도 표시순서에서 뒤에 있는 경우는 식 2a를 사용하고, 그 이외의 경우는 식 10을 사용한다. 단, 이 때 참조되는 2장의 픽처가 같은 표시순서 정보를 갖는 경우는 V1 및 V2의 값으로서 1/2를 사용하여 선형 예측을 행한다.
또, 실시형태 3의 사고방식과 같이 하여, 계수 C만을 슬라이스 헤더 영역에 기술하여 선형 예측에 사용하는 것도 가능하다. 그 경우, 식 10 대신에 식 13을 사용한다. V1 및 V2를 구하는 방법은 상기 실시형태와 마찬가지다.
P(i)= V1×(Q1(i)+C1)+V2×(Q2(i)+C2) (식13)
계수를 생성하기 위한 처리가 필요하게 되고, 또한, 슬라이스 헤더 영역에 계수 데이터를 부호화할 필요가 있으나, V1 및 V2의 정밀도가 낮은 경우라도 C1 및 C2을 사용함으로써 보다 높은 정밀도의 선형 예측을 행하는 것이 가능해진다. 특히 V1 및 V2를 2의 제곱승에 근사하여 선형 예측을 행하는 경우에 유효하다.
또한, 식 13을 사용한 경우의 선형 예측에서는, 1개의 픽처에 1개의 참조 인덱스가 할당되어 있는 경우라도, 또 1개의 픽처에 다수의 참조 인덱스가 할당되어 있는 경우라도, 마찬가지로 취급하는 것이 가능하다.
또한, 식 11a, 식 12a, 식 11b, 식 12b, 식 11c, 식 12c, 식 11d, 식 12d의 각 식의 값의 계산에서는, 취할 수 있는 값의 조합이 슬라이스마다 어느 정도 한정되어 있으므로, 슬라이스를 부호화할 때 1번만 연산을 해 두면 되고, 식 10이나 식 13과 같이 부호화 대상 블록의 모든 화소에 대해 연산을 행할 필요는 없기 때문에, 전체의 처리량에 대한 영향은 작다고 생각된다.
또한, 본 발명의 실시형태에 있어서의 표시순서 정보는, 표시순서에 한정되는 것이 아니라, 실제의 표시 시간이나, 표시 시간에 따라 값이 커지는 소정의 픽처를 기준으로 한 각 픽처의 참조 순서여도 된다.
(실시형태 5)
본 발명의 실시형태 5에 있어서의 동화상 부호화 방법에 관해 설명한다. 또한, 부호화 장치의 구성 및 부호화 처리의 흐름 및 참조 인덱스의 할당 방법은 실시형태 1과 완전히 같으므로, 여기서는 설명을 생략한다.
종래 방법에서는 고정식을 사용하여 예측 화상의 생성을 행하는 경우와, 선형 예측 계수의 가중 계수 세트를 사용하여 예측 화상의 생성을 행하는 경우를 부호열의 픽처 공통 정보 부분에 기술되는 플래그를 사용함으로써 필요에 따라 전환하는 것을 가능하게 하고 있었다.
본 실시형태에서는, 또한 실시형태 1부터 실시형태 4에서 설명한 각종 선형 예측 방법을 플래그를 사용하여 전환하는 방법에 관해 설명한다.
도 17(a)는, 상기 전환을 제어하기 위한 5개의 플래그(p_flag, c_flag, d_flag, t_flag, s_flag)를 부호열중의 슬라이스 헤더 영역에 기술하는 경우의 구성이다.
도 17(b)에 나타낸 바와 같이, p_flag는 가중 계수가 부호화되어 있는지 여부를 나타내기 위한 플래그이다. 또, c_flag는 ref1용 및 ref2용의 파라미터 중, 파라미터 C(C1 및 C2)에 관한 데이터만이 부호화되어 있는지 여부를 나타내는 플래그이다. 또, t_flag는 선형 예측을 행하기 위한 가중 계수를 참조 픽처의 표시순서 정보를 사용하여 생성하는지 여부를 나타내는 플래그이다. 또, s_flag는 선형 예측을 행하기 위한 가중 계수를 시프트 연산으로 계산을 할 수 있도록 2의 제곱승에 근사하는지 여부를 나타내는 플래그이다.
또, d_flag는 식 2a 및 식 2b에서 나타낸 바와 같은, 미리 설정되어 있는 2개의 고정식을 사용하여 선형 예측을 행할 때, ref1에 의해 지정되는 픽처와 ref2에 의해 지정되는 픽처의 시간적인 위치 관계에 따라 2개의 식을 전환하는지 여부를 나타내는 플래그이다. 즉, 이 플래그에 의해 전환하도록 지정된 경우는, 종래 방법과 동일하게, ref1에 의해 지정되는 픽처가 ref2에 의해 지정되는 픽처보다도 표시순서에서 뒤에 있는 경우는 식 2a를 사용하고, 그 이외의 경우는 식 2b를 사용하여 선형 예측을 행한다. 한편, 이 플래그에 의해 전환을 행하지 않도록 지정된 경우는, ref1에 의해 지정되는 픽처가 ref2에 의해 지정되는 픽처의 위치 관계에 관계없이, 항상 식 2b를 사용하여 선형 예측을 행한다.
또한, 전환하지 않고 사용하는 식을 식 2b 대신에 식 2a를 사용한 경우도 마찬가지로 취급하는 것이 가능하다.
도 1에 나타낸 부호화 장치에서는 움직임 보상 부호화부(107)에 있어서, 각 슬라이스마다, 가중 계수 세트에 관한 데이터를 부호화하는지 여부를 결정하고, 그것에 기초하여 플래그 p_flag의 정보를 부호열 생성부(103)에 출력하고, 도 17(a)에 나타낸 바와 같이 부호열중에 기술한다. 이에 의해, 처리 능력이 높은 장치에서는 가중 계수 세트를 사용하여 선형 예측을 행하고, 처리 능력이 낮은 장치에서는 가중 계수 세트를 사용하지 않고 선형 예측을 행하는 것과 같이 구분하여 사용하는 것이 가능해진다.
마찬가지로, 도 1에 나타낸 부호화 장치에서는 움직임 보상 부호화부(107)에 있어서, 각 슬라이스마다, 화상 데이터의 DC 성분에 상당하는 파라미터 C(C1 및 C2)에 관한 데이터만 부호화하는지 여부를 결정하고, 그것에 기초하여 플래그 c_flag의 정보를 부호열 생성부(103)에 출력하여, 도 17(a)에 나타낸 바와 같이 부호열중에 기술한다. 이에 의해, 처리 능력이 높은 장치에서는 모든 가중 계수 세트를 사용하여 선형 예측을 행하고, 처리 능력이 낮은 장치에서는 직류 성분만을 사용하여 선형 예측을 행하는 것과 같이 구분하여 사용하는 것이 가능해진다.
마찬가지로, 도 1에 나타낸 부호화 장치에서는 움직임 보상 부호화부(107)에 있어서, 각 슬라이스마다, 고정식을 사용하여 선형 예측을 행하는 경우에, 2개의 식을 전환하여 부호화하는지 여부를 결정하고, 그것에 기초하여 플래그 d_flag의 정보를 부호열 생성부(103)에 출력하여, 도 17(a)에 나타낸 바와 같이 부호열중에 기술한다. 이에 의해, 화면의 명도가 시간적으로 거의 변하지 않은 경우는 한쪽의 고정식만을 사용하여 선형 예측을 행하고, 화면의 명도가 시간적으로 변화하는 경우는 2개의 고정식을 전환하여 사용하여 선형 예측을 행하는 것과 같이 구분하여 사용하는 것이 가능해진다.
마찬가지로, 도 1에 나타낸 부호화 장치에서는 움직임 보상 부호화부(107)에 있어서, 각 슬라이스마다, 선형 예측을 행하기 위한 계수를 참조 픽처의 표시순서 정보를 사용하여 생성하는지 여부를 결정하고, 그것에 기초하여 플래그 t_flag의 정보를 부호열 생성부(103)에 출력하여, 도 17(a)에 나타낸 바와 같이 부호열중에 기술한다. 이에 의해, 부호량에 여유가 있는 경우는 가중 계수 세트를 부호화하여 선형 예측을 행하고, 부호량에 여유가 없는 경우는 표시순서 정보로부터 계수를 생성하여 선형 예측을 행하는 것과 같이 구분하여 사용하는 것이 가능해진다.
마찬가지로, 도 1에 나타낸 부호화 장치에서는 움직임 보상 부호화부(107)에 있어서, 각 슬라이스마다, 선형 예측을 행하기 위한 계수를 시프트 연산으로 계산할 수 있도록 2의 제곱승에 근사하는지 여부를 결정하고, 그것에 기초하여 플래그 s_flag의 정보를 부호열 생성부(103)에 출력하여, 도 17(a)에 나타낸 바와 같이 부호열중에 기술한다. 이에 의해, 처리 능력이 높은 장치에서는 가중 계수를 근사하지 않고 사용하여 선형 예측을 행하고, 처리 능력이 낮은 장치에서는 가중 계수를 2의 제곱승에 근사하여 사용하여 시프트 연산으로 실현되는 선형 예측을 행하는 것과 같이 구분하여 사용하는 것이 가능해진다.
예를 들면, (1) (p, c, d, t, s_flag)=(1, 0, 0, 0, 1)인 경우는, 모든 가중 계수 세트가 부호화되어, 실시형태 2에서 설명한 바와 같이, 계수를 2의 제곱승으로 표시함으로써 시프트 연산만으로 선형 예측을 행하여 예측 화상을 생성한 것을 나타낸다.
또, (2) (p, c, d, t, s_flag)=(1, 1, 1, 0, 0)인 경우는, 파라미터 C(C1 및 C2)에 관한 데이터만이 부호화되어, 실시형태 3에서 설명한 고정식에 계수 C를 더함으로써 예측 화상을 생성하는 방법을 사용하고, 또한 2개의 고정식을 전환하여 사용한 것을 나타낸다.
또, (3) (p, c, d, t, s_flag)=(0, 0, 0, 0, 0)인 경우는, 가중 계수 세트는 아무것도 부호화되지 않는다. 즉, 종래 방법인 고정식 중 식 2b만을 사용한 예측 화상의 생성 방법을 사용한 것을 나타낸다.
또, (4) (p, c, d, t, s_flag)=(0, 0, 1, 1, 1)인 경우는, 가중 계수 세트는 아무것도 부호화되지 않지만, 실시형태 4에서 설명한 바와 같이, 가중 계수를 참조 픽처의 표시순서 정보로부터 생성하고, 또한 계수를 2의 제곱승으로 근사함으로써 시프트 연산만으로 선형 예측을 행하고, 또한 2개의 고정식을 전환하여 사용하여 예측 화상을 생성한 것을 나타낸다.
또한, 상기 실시형태에서는 각각 1비트로 이루어지는 5개의 플래그(p-flag, c_flag, d_flag, t_flag, s_flag)를 사용하여 판별을 행하고 있으나, 5개의 플래그 대신에 5비트로 이루어지는 1개의 플래그만으로 표현하는 것도 가능하다. 또, 그 경우, 5비트로 표현하는 것이 아니라 가변길이 부호화를 사용하여 부호화하는 것도 가능하다.
또한, 상기 실시형태에서는 각각 1비트로 이루어지는 5개의 플래그(p-flag, c_flag, d_flag, t_flag, s_flag)를 모두 사용하고 있으나, 그 중의 1부분의 플래그만을 사용하여 선형 예측 방법의 전환을 행하는 경우도 마찬가지로 취급하는 것이 가능하다. 그 경우, 도 17(a)에 나타낸 플래그는 필요한 것만을 부호화하여 기술하게 된다.
종래 방법에서는, 고정식을 사용한 예측 화상의 생성과, 선형 예측 계수의 가중 계수 세트를 사용한 예측 화상의 생성을 전환하기 위한 플래그를 부호열의 픽처 공통 정보 부분에 설치하여, 픽처 단위로 전환하는 것을 가능하게 하고 있었다. 그러나, 이 방법에서는 픽처마다밖에 예측 화상의 생성 방법을 바꿀 수 없었다.
그러나, 본 실시형태에서 설명한 바와 같이, 이 전환 플래그를 부호열의 슬라이스 헤더에 설치하도록 하여, 픽처를 구성하는 슬라이스마다 어느 방법으로 예측 화상을 생성하는지를 전환하는 것을 가능하게 함으로써, 예를 들면 복잡한 화상을 갖는 슬라이스에서는 가중 계수 세트를 사용한 예측 화상의 생성을 행하고, 단순한 화상을 갖는 슬라이스에서는 고정식을 사용한 예측 화상의 생성을 행함으로써, 처리량의 증가를 최소한으로 억제하면서 화질의 향상을 도모하는 것이 가능해진다.
또한, 상기 실시형태에서는 슬라이스 헤더 영역에 5개의 플래그(p-flag, c_flag, d_flag, t_flag, s_flag)를 기술하여 슬라이스마다 판별을 행하고 있으나, 픽처 공통 정보 영역에 이들 플래그를 기술함으로써, 픽처 단위로 전환하도록 하는 것도 가능하다. 또, 슬라이스를 구성하는 블록마다 전환 플래그를 설치함으로써, 블록 단위로 더욱 최적의 방법으로 예측 화상의 생성을 행하는 것도 가능하다.
또한, 본 발명의 실시형태에 있어서의 표시순서 정보는, 표시순서에 한정되는 것이 아니라, 실제의 표시 시간이나, 표시 시간에 따라 값이 커지는 소정의 픽처를 기준으로 한 각 픽처의 참조 순서여도 된다.
(실시형태 6)
도 2는 본 발명의 실시형태 6에 있어서의 동화상 복호화 장치의 구성을 나타낸 블록도이다. 이 동화상 복호화 장치에 있어서의 동화상 복호화 방법을 도 2에 나타낸 블록도를 사용하여 (1) 복호화의 개요, (2) 참조 인덱스 할당 방법, (3) 예측 화상 생성 방법의 순으로 설명한다. 단, 이하의 설명에서는 실시형태 1의 동화상 부호화 방법으로 생성된 부호열이 입력되는 것으로 한다.
(1) 복호화의 개요
먼저 입력된 부호열로부터 부호열 해석부(201)에 의해, 슬라이스 헤더 영역으로부터 선형 예측용의 가중 계수 세트의 데이터열, 및 참조 인덱스 할당용 커맨드열을, 또한 블록 부호화 정보 영역으로부터 참조 인덱스 및 움직임 벡터 정보 및 예측 잔차 부호화 데이터 등의 각종 정보가 추출된다. 도 6은 상기 부호화 정보가 부호열에 포함되어 있는 모양을 나타낸 도면이다.
부호열 해석부(201)에서 추출된 선형 예측용의 가중 계수 세트의 데이터열은 선형 예측 계수 기억부(206)에, 참조 인덱스 할당용 커맨드열은 참조 인덱스·픽처 번호 변환부(207)에, 참조 인덱스는 움직임 보상 복호화부(204)에, 움직임 벡터 정보는 움직임 벡터 기억부(205)에, 예측 잔차 부호화 신호는 예측 잔차 복호화부(202)에 각각 출력된다.
예측 잔차 복호화부(202)에서는 입력된 잔차 부호화 신호에 대해, 역양자화, 역주파수 변환 등의 화상 복호화 처리를 실시하여 잔차 복호화 신호를 출력한다. 가산 연산부(208)에서는 상기 잔차 복호화 신호와 움직임 보상 복호화부(204)로부터 출력되는 예측 화상 신호와의 가산을 행하여 재구성 화상 신호를 생성하여, 얻어진 재구성 화상 신호는 이후의 화면 간 예측에서의 참조에 사용하기 위해, 또 표시용으로 출력하기 위해 픽처 메모리(203)에 저장된다.
움직임 보상 복호화부(204)에서는, 움직임 벡터 기억부(205)로부터 입력되는 움직임 벡터 및 부호열 해석부(201)로부터 입력되는 참조 인덱스를 사용하여, 픽처 메모리(203)에 저장되어 있는 재구성 화상 신호로부터 예측 화상에 최적인 화상 영역을 취출한다. 이 때, 참조 인덱스·픽처 번호 변환부(207)에 있어서, 부호열 해석부(201)로부터 주어진 참조 인덱스와 픽처 번호의 대응을 취함으로써 픽처 메모리(203)중의 참조 픽처를 지정한다.
참조 인덱스·픽처 번호 변환부(207)에 있어서의 동작의 상세한 것은 (2)에서 자세히 설명한다. 또한, 얻어진 화상 영역의 화소치에 대해 움직임 보상 복호화부(204)에서 선형 예측에 의한 보간 처리 등의 화소치 변환 처리를 실시함으로써 최종적인 예측 화상을 작성한다. 그 때 사용하는 선형 예측 계수는 선형 예측 계수 기억부(206)에 저장되어 있는 데이터로부터 참조 인덱스를 검색 키로 함으로써 획득된다.
이 예측 화상 생성 방법에 관해서는 (3)에서 자세히 설명한다.
상기의 일련의 처리에 의해 생성된 복호화 화상은 픽처 메모리(203)에 저장되어, 표시되는 타이밍에 따라서 표시용 화상 신호로서 출력된다.
이상의 처리의 흐름은 화면 간 예측 복호화를 행한 경우의 동작이었으나, 스위치(209)에 의해 화면 내 예측 복호화와의 전환이 이루어진다. 화면 내 복호화를 행하는 경우는, 움직임 보상에 의한 예측 화상의 생성은 행하지 않고, 동일 화면 내의 복호화가 끝난 영역으로부터 복호화 대상 영역의 예측 화상을 생성하여 가산을 행함으로써 복호화 화상을 생성한다. 복호화 화상은 화면 간 예측 복호화의 경우와 마찬가지로, 픽처 메모리(203)에 저장되어, 표시되는 타이밍에 따라서 표시용 화상 신호로서 출력된다.
(2) 참조 인덱스 할당 방법
다음에, 도 2의 참조 인덱스·픽처 번호 변환부(207)에 있어서의 참조 인덱스 할당 방법에 관해 도 3, 도 4를 사용하여 설명한다.
도 3은, 픽처 번호에 대한 2개의 참조 인덱스의 할당 방법을 설명하기 위한 도면이다. 도면과 같이 표시되는 순서로 나열된 픽처열이 있었을 때, 픽처 번호는 복호화되는 순서로 배당되어 있다. 참조 인덱스를 픽처 번호에 할당하기 위한 커맨드는 픽처를 더욱 분할한 복호화 단위인 슬라이스의 헤더에 기술되어, 1개의 슬라이스를 복호화할 때마다 배당 방법이 갱신되게 된다. 상기 커맨드는, 직전에 참조 인덱스에 할당한 픽처 번호와 현재 할당하고 있는 픽처 번호와의 차분치를 참조 인덱스의 수만큼 연속하여 지시하는 것이다.
도 3의 제1 참조 인덱스의 예를 사용하면, 먼저 커맨드로서 "-1"이 주어졌으므로, 현재 복호화의 대상으로 하고 있는 픽처 번호 16번에서 1을 뺌으로써, 픽처 번호 15번이 참조 인덱스 0번으로 할당된다. 다음에 "-4"가 주어졌으므로, 직전에 할당을 행한 픽처 번호 15번에서 4를 뺌으로써, 픽처 번호 11번이 참조 인덱스 1번으로 할당된다. 이하 동일한 처리에 의해 각 픽처 번호의 할당이 행해진다. 제2 참조 인덱스의 경우도 동일하다.
도 34에 나타낸 종래 방법에 의한 참조 인덱스 할당 방법에서는, 모든 참조 인덱스는 각각 다른 픽처 번호에 대응지어져 있다. 한편, 도 3의 예에서는, 할당 방법은 종래의 것과 완전히 같은 방법을 사용하고 있으나, 커맨드의 값을 변경함으로써 같은 픽처 번호에 대해 다수의 참조 인덱스 번호가 대응지어져 있다.
도 4는 참조 인덱스의 할당을 행한 결과를 나타낸 것이다. 각 픽처 번호에는 제1 참조 인덱스 및 제2 참조 인덱스가 각각 독립적으로 할당되어 있으나, 1개의 픽처 번호에 대해 다수의 참조 인덱스가 할당되어 있는 것도 있는 것을 알 수 있다. 본 발명의 복호화 방법에서는, 이 예와 같이 다수의 참조 인덱스가 할당되어 있는 픽처 번호가 적어도 1개 이상 있는 것으로 한다.
참조 인덱스를 참조 픽처의 결정에만 사용하는 경우이면, 종래 방법과 같이 1개의 픽처 번호에 대해 1개의 참조 인덱스를 할당하는 방법이 가장 효율적인 방법이다. 그러나, 참조 인덱스를 사용하여 예측 화상의 생성에 있어서의 선형 예측 계수의 가중 계수 세트를 선택하는 경우는, 종래 방법에서는 같은 참조 픽처를 갖는 블록 모두에 있어서 같은 선형 예측 계수를 사용하지 않으면 안되므로, 최적의 예측 화상이 생성되지 않을 가능성이 대단히 높아져 버린다. 그래서, 본 발명과 같이 1개의 픽처 번호에 대해 다수의 참조 인덱스를 할당하는 것을 가능하게 함으로써, 같은 참조 픽처를 갖는 경우라도, 블록마다 다수의 선형 예측 계수의 가중 계수 세트의 후보 중에서 최적의 것을 선택하는 것이 가능해져, 보다 예측 정밀도가 높은 예측 화상을 생성하는 것이 가능해진다.
또한, 이상의 설명에서는 모든 참조 픽처가 참조용 메모리에 축적되는 것으로 하여 픽처 번호가 주어지고 있는 경우의 예를 나타내고 있었으나, 픽처 번호는 부호화를 행한 직전의 픽처가 축적된 경우만 값이 1개씩 증가해 가는 것이며, 축적되지 않은 픽처가 있었던 경우라도 참조용 메모리 내에서는 픽처 번호의 연속성은 유지되어, 상기 방법을 그대로 사용하는 것이 가능하다.
(3)예측 화상 생성 방법
다음에, 도 2의 움직임 보상 복호화부(204)에 있어서의 예측 화상 생성 방법에 관해 도 5를 사용하여 설명한다. 선형 예측에 의한 예측 화상 생성 방법은 종래 법과 완전히 같지만, 같은 픽처에 대해 다수의 참조 인덱스 번호를 대응시키는 것이 가능해졌으므로, 선형 예측 계수를 선택할 때의 자유도가 높아져 있다.
픽처 B16은 현재 복호화의 대상으로 하고 있는 B 픽처이고, 블록 BL01 및 블록 BL02는 상기 B 픽처에 속하는 복호화 대상의 블록이다. BL01은 제1 참조 픽처를 픽처 P11, 제2 참조 픽처를 픽처 B15로 하고, 각각의 픽처에 속하는 블록 BL11 및 BL21을 참조하여 예측 화상을 작성한다. 마찬가지로 BL02도 제1 참조 픽처를 픽처 P11, 제2 참조 픽처를 픽처 B15로 하여, 각각의 픽처에 속하는 블록 BL12 및 BL22를 참조하여 예측 화상을 작성한다.
제1 참조 픽처 및 제2 참조 픽처는 BL01, BL02 모두 같은 것을 참조하고 있으나, (2)에서 설명한 참조 인덱스의 할당 방법을 사용함으로써, 제1 참조 인덱스 ref1 및 제2 참조 인덱스 ref2는 BL01과 BL02에서 다른 값을 취하는 것이 가능해진다. 도 4를 예로 들면, 픽처 번호 11에 대응하는 제1 참조 인덱스는 1과 3이, 픽처 번호 15에 대응하는 제2 참조 인덱스는 1과 6이 배당되어 있다. 그 결과, 이들 참조 인덱스의 조합은, (ref1, ref2)=(1,1), (1,6), (3,1), (3,6)의 4가지를 생각할 수 있고, 이들 중에서 최적의 가중 계수 세트를 도출하는 조합을 블록마다 선택하는 것이 가능해져 있다. 도 5에서는 예로서 BL01가 ref1=1, ref2=1, BL02가 ref1=3, ref2=6으로 하고 있다.
도 35에 나타낸 종래 방법에 의해 대응지어진 참조 인덱스의 조합에서는, 도 5와 같은 예에서는 BL01, BL02 모두 (ref1, ref2)=(1,1)의 조합밖에 선택할 수 없었기 때문에, 선택할 수 있는 선형 예측 계수의 가중 계수 세트도 1가지밖에 없었다. 한편, 본 발명에서는 선택 범위가 4가지로 확장되어 있으므로, 최적의 가중 계수 세트를 선택할 수 있는 가능성이 높아진다고 할 수 있다.
1개의 픽처의 부호열은, 픽처 공통 정보 영역 및 다수의 슬라이스 데이터 영역으로 구성된다. 도 6은 그 중의 슬라이스 데이터 영역의 구성을 나타낸 것이다. 또한 슬라이스 데이터 영역은, 슬라이스 헤더 영역 및 다수의 블록 데이터 영역으로 구성된다. 여기서는 블록 데이터 영역의 예로서 도 5에 있어서의 BL01, BL02에 대응하는 각 블록의 영역을 나타내고 있다.
BL01에 포함되는 ref1 및 ref2는 이 블록이 참조하는 2장의 픽처를 지시하는 제1 참조 인덱스 및 제2 참조 인덱스를 각각 지시하는 것이다. 또 슬라이스 헤더 영역에는 상기 선형 예측을 행하기 위한 가중 계수 세트를 부여하기 위한 데이터 (pset0, pset1, pset2, …)가 ref1용 및 ref2용 각각에 기술되어 있다. 이 때의 pset는 (2)에서 설명한 참조 인덱스의 개수와 같은 수만큼 설정할 수 있다. 즉, 도 3과 같이 제1 참조 인덱스, 제2 참조 인덱스를 모두 0부터 9까지의 10개를 사용한 경우는, pset도 ref1용, ref2용 모두 0부터 9까지의 10개를 설정하는 것이 가능하다.
도 7은 상기 슬라이스 헤더 영역에 포함되는 상기 가중 계수 세트의 예를 표에 나타낸 것이다. 식별자 pset로 나타낸 각각의 데이터는 w1, w2, c, d의 4개 값을 갖고, ref1 및 ref2의 값에 따라 다이렉트로 참조할 수 있도록 구성되어 있다. 또, 슬라이스 헤더 영역에는 상기 참조 인덱스를 픽처 번호에 할당하기 위한 커맨드열 idx_cmd1 및 idx_cmd2이 기술되어 있다.
도 6의 BL01에 기술된 ref1 및 ref2에 의해 도 7의 ref1용 및 ref2용의 테이블로부터 각각 1조의 가중 계수 세트가 선택된다. 이 2조의 가중 계수 세트를 사용하여 참조 화상의 화소치에 대해 선형 예측을 실시함으로써 예측 화상을 생성한다.
여기서, 가중 계수 세트를 결정하여 예측 화상을 생성하기까지의 처리의 흐름에 대해 상세히 설명한다.
도 18은, 도 2의 선형 예측 계수 기억부(206)와 움직임 보상 복호화부(204)에 있어서의 예측 화상을 생성하는 기능 구성을 나타낸 기능 블록도이다.
선형 예측 계수 기억부(206a)와, 선형 예측 계수 기억부(206b)와, 평균치 산출부(204a)와, 선형 예측 연산부(204b)에 의해 예측 화상이 생성된다.
평균치 산출부(204a)는, 부호열 해석부(201)로부터 출력되는 ref1에 의해 선택되는 1조의 가중 계수 세트 (w1_1, w2_1, c_1, d_1)를 선형 예측 계수 기억부(206a)로부터 획득하고, 부호열 해석부(201)로부터 출력되는 ref2에 의해 선택되는 1조의 가중 계수 세트 (w1_2, w2_2, c_2, d_2)를 선형 예측 계수 기억부(206b)로부터 획득한다.
그리고 평균치 산출부(204a)는, 선형 예측 계수 기억부(206a, 206b)로부터 획득한 각각의 가중 계수 세트의 파라미터마다의 평균치를 취해, 실제로 선형 예측에 사용하는 가중 계수 세트(w1, w2, c, d)로 하여, 선형 예측 연산부(204b)에 출력한다. 선형 예측 연산부(204b)는, 가중 계수 세트(w1, w2, c, d)를 기초로, 식 1을 사용하여 예측 화상을 연산하여 출력한다.
또, 도 19는 예측 화상을 생성하는 다른 기능 구성을 나타내는 기능 블록도이다. 선형 예측 계수 기억부(206a), 선형 예측 계수 기억부(206b), 선형 예측 연산부(204c), 선형 예측 연산부(204d), 및 평균치 산출부(204e)에 의해, 예측 화상이 생성된다.
선형 예측 연산부(204c)는, 부호열 해석부(201)로부터 출력되는 ref1에 의해 선택되는 1조의 가중 계수 세트 (w1_1, w2_1, c_1, d_1)를 선형 예측 계수 기억부(206a)로부터 획득하여, 그 가중 계수 세트를 기초로, 식 1을 사용하여 예측 화상을 연산하여 평균치 산출부(204e)에 출력한다.
마찬가지로, 선형 예측 연산부(204d)는, 부호열 해석부(201)로부터 출력되는 ref2에 의해 선택되는 1조의 가중 계수 세트 (w1_2, w2_2, c_2, d_2)를 선형 예측 계수 기억부(206b)로부터 획득하여, 그 가중 계수 세트를 기초로 식 1을 사용하여 예측 화상을 연산하여 평균치 산출부(204e)에 출력한다.
평균치 산출부(204e)는, 선형 예측 연산부(204c), 선형 예측 연산부(204d)의 각각으로부터 출력되는 예측 화상의 각 화소의 평균치를 취해, 최종적인 예측 화상을 생성하여 출력한다.
도 20(a)는, 예측 화상을 생성하는 다른 기능 구성을 나타내는 기능 블록도이다. 선형 예측 계수 기억부(206c), 선형 예측 계수 기억부(206d), 평균치 산출부(204f), 선형 예측 연산부(204g)에 의해 예측 화상이 생성된다.
평균치 산출부(204f)는, 부호열 해석부(201)로부터 출력되는 ref1에 의해 선택되는 1조의 가중 계수 세트 (w1_1, w2_1, c_1, d_1) 중, c_1, d_1의 파라미터를 선형 예측 계수 기억부(206c)로부터 획득하고, 부호열 해석부(201)로부터 출력되는 ref2에 의해 선택되는 1조의 가중 계수 세트 (w1_2, w2_2, c_2, d_2) 중, c_2, d_2의 파라미터를 선형 예측 계수 기억부(206d)로부터 획득한다. 평균치 산출부(204f)는, 선형 예측 계수 기억부(206c) 및 선형 예측 계수 기억부(206d)로부터 획득한 c_1과 c_2의 평균치와, d_1과 d_2의 평균치를 산출하여 c, d를 구해 선형 예측 연산부(204g)에 출력한다.
또, 선형 예측 연산부(204g)는, 상기 가중 계수 세트 (w1_1, w2_1, c_1, d_1) 중, w1_1의 파라미터를 선형 예측 계수 기억부(206c)로부터 획득하고, 상기 가중 계수 세트 (w1_2, w2_2, c_2, d_2) 중, w2_2의 파라미터를 선형 예측 계수 기억부(206d)로부터 획득하여, 평균치 산출부(204f)에 의해 각각의 평균을 구하여 c, d를 획득하고, 식 1을 사용하여 예측 화상을 연산하여 출력한다.
즉, 선형 예측 연산부(204g)는, 선형 예측 계수 기억부(206c)로부터 얻어진 가중 계수 세트(w1_1, w2_1, c_1, d_1)와, 선형 예측 계수 기억부(206d)로부터 얻어진 가중 계수 세트(w1_2, w2_2, c_2, d_2) 중, 실제로 선형 예측에서 사용하는 가중 계수 세트(w1, w2, c, d)를 결정할 때, 하기의 규칙을 사용하고 있다.
w1= w1_1, w2=w2_2, c=(c_1과 c_2의 평균), d=(d_1과 d_2의 평균)
도 20(b)는, 예측 화상을 생성하는 다른 기능 구성을 나타내는 기능 블록도이다. 선형 예측 계수 기억부(206e), 선형 예측 계수 기억부(206f), 선형 예측 연산부(204h)에 의해 예측 화상이 생성된다.
선형 예측 연산부(204h)는, 부호열 해석부(201)로부터 출력되는 ref1에 의해 선택되는 1조의 가중 계수 세트(w1_1, w2_1, c_1, d_1) 중의 일부인 w1_1, c_1, d_1의 파라미터를 선형 예측 계수 기억부(206e)로부터 획득하고, 부호열 해석부(201)로부터 출력되는 ref2에 의해 선택되는 1조의 가중 계수 세트(w1_2, w2_2, c_2, d_2) 중의 일부인 w2_2의 파라미터를 선형 예측 계수 기억부(206f)로부터 획득한다. 선형 예측 연산부(204h)는, 선형 예측 계수 기억부(206e), 선형 예측 계수 기억부(206f)로부터 획득한 w1_1, c_1, d_1, w2_2를 기초로, 식 1을 사용하여 예측 화상을 연산하여 출력한다.
즉, 선형 예측 연산부(204h)는, 선형 예측 계수 기억부(206e)로부터 얻어진 가중 계수 세트(w1_1, w2_1, c_1, d_1)와, 선형 예측 계수 기억부(206f)로부터 얻어진 가중 계수 세트(w1_2, w2_2, c_2, d_2) 중, 실제로 선형 예측에서 사용하는 가중 계수 세트(w1, w2, c, d)를 결정할 때, 하기의 규칙을 사용하고 있다.
w1=w1_1, w2=w2_2, c=c_1, d=d_1
또, w1, w2, c, d의 파라미터 중의 1개 또는 다수 개를 고정의 값으로 하여 사용하는 것도 가능하다. 도 21은 도 20(a)에 있어서의 기능 구성에 대해, d만을 고정의 값으로 하여 사용한 경우의 기능 블록도이다. 선형 예측 계수 기억부(206g), 선형 예측 계수 기억부(206h), 평균치 산출부(204i), 선형 예측 연산부(204j)에 의해 예측 화상이 생성된다.
제1 참조 인덱스 ref1에 의해 선형 예측 계수 기억부(206g)로부터 선택되는 계수는 (w1_1, c_1)뿐이고, 제2 참조 인덱스 ref2에 의해 선형 예측 계수 기억부(206h)로부터 선택되는 계수는 (w2_2, c_2)뿐이다. 평균치 산출부(204i)는, 선형 예측 계수 기억부(206g) 및 선형 예측 계수 기억부(206h)로부터 획득한 c_1과 c_2의 평균치를 산출하여 c를 구하여 선형 예측 산출부(204j)에 출력한다.
또, 선형 예측 연산부(204j)는, w1_1의 파라미터를 선형 예측 계수 기억부(206g)로부터 획득하고, w2_2의 파라미터를 선형 예측 계수 기억부(206h)로부터 획득하고, c의 파라미터를 평균치 산출부(204i)로부터 획득하고, d의 파라미터로서 미리 정해진 어느 고정의 값을 사용하고, 식 1을 사용하여 예측 화상을 산출하여 출력한다. 이 경우 식 1은 실시형태 1에서 설명한 바와 같이 식 1b와 같이 하여 변형하여 취급하는 것도 가능하다.
또, d의 값으로서 사용하는 미리 결정된 고정된 값이란, 항상 같은 값을 사용하는 것도 가능하지만, 부호화 장치에 있어서 슬라이스 헤더에 상기 고정의 값이 기술되어 있는 경우는, 부호열 해석부(201)에서 상기 고정의 값을 추출함으로써 슬라이스마다 전환하는 것도 가능하다. 마찬가지로, 픽처 공통 정보 영역 또는 시퀀스 공통 정보 영역에 기술함으로써 픽처마다 또는 시퀀스마다 전환하는 것도 가능하다.
또한, 상기의 복호화 방법은 2개의 참조 픽처를 갖는 B 픽처에 관한 것이었으나, 1개의 참조 픽처밖에 갖지 않는 P 픽처 및 B 픽처에서의 단일 픽처 참조 복호화 모드에서도 같은 처리를 행하는 것이 가능하다. 이 경우는 제1 참조 인덱스 또는 제2 참조 인덱스의 어느 한쪽만을 사용하여, 도 6의 부호열에서의 슬라이스 헤더 영역중의 pset 및 idx_cmd는, 블록 데이터 영역중에 기술되는 참조 인덱스에 따라서, ref1용 또는 ref2용의 것만을 기술하게 된다. 또, 선형 예측의 방법은 종래 방법에서 설명한 식 1을 대신해 식 3 또는 식 4를 사용한다.
식 1 및 식 3을 사용하는 경우는, w1, w2, c, d의 4개의 파라미터가 필요했으나, 식 4를 사용하는 경우는, w1, c, d의 3개의 파라미터만으로 선형 예측을 행할 수 있다. 즉, P 픽처처럼 픽처 전체에서 제1 참조 인덱스 또는 제2 참조 인덱스의 어느 한쪽밖에 사용되지 않는 경우는, 슬라이스 헤더 영역에 기술하는 가중 계수 세트의 데이터의 항목 수를 각각 3개씩으로 줄이는 것이 가능해진다.
식 3을 사용한 경우는 B 픽처와 P 픽처에서 구성을 변경하지 않고 양쪽에 대응한 선형 예측을 실현하는 것이 가능해진다. 또, 식 4를 사용한 경우는 P 픽처의 헤더 영역에 기술하는 데이터량을 삭감할 수 있고, 또한 계산이 단순화되므로 처리량의 삭감도 실현하는 것이 가능해진다. 단, 어느 방법에 있어서도, 본 발명에서 제안하는 참조 인덱스의 배당 방법은 그대로 적용할 수 있으므로, 예측 정밀도가 높은 예측 화상을 작성하는 것이 가능하여, 화상의 복호화에 있어서 대단히 유효하다.
그런데, 움직임 보상에서 참조하는 픽처는, 각각의 픽처에 할당된 참조 인덱스를 지정함으로써 결정된다. 그 때, 참조하는 것이 가능한 픽처의 최대 매수를 부호열의 픽처 공통 정보 부분에 기술하고 있었다.
도 38은, 참조하는 것이 가능한 픽처의 최대 매수를 기술한 부호열의 모식도이다. 도면에 도시하는 바와 같이 부호열의 픽처 공통 정보에 ref1용의 픽처의 최대수 Max_pic1와, ref2용의 픽처의 최대수 Max_pic2를 기술하고 있었다.
복호화에서 필요로 하는 정보는, 실제의 픽처의 최대 매수가 아니라, 픽처를 지정하기 위해 사용하는 참조 인덱스가 취할 수 있는 최대치이다.
종래 방법에서는, 1개의 픽처에는 1개의 참조 인덱스밖에 할당되지 않았기 때문에, 상술한 픽처의 최대 매수를 기술함으로써 모순은 발생하지 않았으나, 특히 본 발명처럼 픽처 번호에 다수의 참조 인덱스가 할당되는 경우에는, 그 차이가 크게 영향을 준다.
상술한 바와 같이, 부호열에는 참조 인덱스를 픽처 번호에 할당하기 위해 커맨드열 idx_cmd1, 및 idx_cmd2가 기술되어 있다. 이 커맨드열 idx_cmd1, 및 idx_cmd2의 각 커맨드를 기초로, 픽처 번호와 참조 인덱스를 대응시켜 간다. 이 때, 참조 인덱스의 최대치를 아는 것에 의해, 모든 참조 인덱스와 픽처 번호가 대응지어진 것을 알 수 있으며, 커맨드열 idx_cmd1, 및 idx_cmd2에 있어서의 커맨드의 종단을 알 수 있다.
그래서 본 실시형태에서는, 종래의 픽처의 최대 매수 대신에, 사용 가능한 참조 인덱스의 최대수를 픽처의 헤더인 픽처 공통 정보 부분에 기술하고 있다. 또는, 픽처의 최대 매수와 참조 인덱스의 최대수의 양쪽을 기술한다.
도 23은, 픽처의 부호열의 픽처 공통 정보에 참조 인덱스의 최대수를 기술한 상태를 나타내고 있다. 픽처의 공통 정보 부분에는, ref1용의 사용 가능한 참조 인덱스의 최대수 Max_idx1, 및 ref2용의 사용 가능한 참조 인덱스의 최대수 Max_idx2를 기술하고 있다.
또한, 도 23에서는, 픽처 공통 정보에 참조 인덱스의 최대수를 기술하고 있는데, 이것에 더해, 슬라이스 데이터 영역에 참조 인덱스의 최대수를 기술하는 구성으로 해도 된다. 예를 들면, 픽처에서의 참조 인덱스의 최대수가 8, 해당 픽처중의 슬라이스 1에서 필요한 참조 인덱스의 최대수가 8, 슬라이스 2에서 필요한 참조 인덱스의 최대수가 4라는 식으로, 슬라이스에 따라 필요한 참조 인덱스의 최대 수가 픽처 공통 정보 영역에 기술된 최대수와 다른 경우에, 슬라이스마다 필요한 참조 인덱스의 최대수를 명시할 수 있다.
즉, 픽처 공통 정보에 기술된 참조 인덱스의 최대 수를 픽처중의 각 슬라이스에 공통하는 디폴트치로 하여, 필요한 참조 인덱스의 최대수가 디폴트치와 다른 슬라이스에 관해서는 슬라이스 헤더에 기술하도록 해도 된다.
또한, 도 23 및 도 38에서는 픽처 공통 정보 영역과 슬라이스 데이터 영역을 하나로 묶어 부호열로 하고 있는 예를 나타냈으나, 픽처 공통 정보 영역과 슬라이스 데이터 영역은 각각 독립된 부호열로 하는 것도 가능하고, 이 경우도 완전히 동일하게 취급할 수 있다.
(실시형태 7)
본 발명의 실시형태 7에 있어서의 동화상 복호화 방법에 관해 설명한다. 또한, 복호화 장치의 구성 및 복호화의 처리의 흐름 및 참조 인덱스의 할당 방법은 실시형태 6과 완전히 동일하므로, 여기서는 설명을 생략한다.
실시형태 6에서는 움직임 보상에 있어서 예측 화상을 생성할 때, 식 1 또는 식 3 또는 식 4를 사용하여 화소마다 선형 예측을 행하고 있다. 그러나, 이들 식은 모두 승산 처리를 포함하는 것이며, 모든 화소에 대해 이러한 연산을 행하는 것을 생각하면, 처리량이 대단히 커져 버린다.
그래서 식 1 대신에 식 5, 식 3 대신에 식 6, 식 4 대신에 식 7을 사용하는 것도 가능하다. 이들 식은 승산을 사용하지 않고 비트 시프트 연산만으로 계산을 행할 수 있으므로, 처리량을 적게 억제하는 것이 가능해진다.
실시형태 6과 같이, 동시에 2장의 픽처를 참조하여 예측 화상을 생성할 때는 식 5을 사용하고, 1장의 픽처만을 참조하여 예측 화상을 생성할 때는 식 6 또는 식 7을 사용한다. 이들 식에서는 양음의 부호를 표시하는 식별자가 필요해지므로, 예측 연산에 필요한 가중 계수 세트는, 식 5 및 식 6의 경우는 (sign1, m, sign2, n, c), 식 7의 경우는 (sign1, m, c)가 된다. sign1은 첫번째의 양음의 부호를, sign2는 두번째의 양음의 부호를 식별하는 파라미터로 한다. 파라미터의 개수는 실시형태 3보다도 증가하고 있으나, sign1 및 sign2는 각각 1비트로 표현할 수 있기 때문에 부호량의 증가는 거의 없다.
여기서, 가중 계수 세트를 결정하고, 식 5를 사용하여 동시에 2장의 픽처를 참조하여 예측 화상을 생성하기까지의 처리의 흐름에 관해 상세히 설명한다.
먼저 예측 화상을 생성하는 기능 구성이 도 18인 경우에 관해 설명한다. 평균치 산출부(204a)는, 선형 예측 계수 기억부(206a)로부터 가중 계수 세트 (sign1_1, m_1, sign2_1, n_1, c_1)를 얻는다. 또, 평균치 산출부(204a)는, 선형 예측 계수 기억부(206b)로부터 가중 계수 세트 (sign1_2, m_2, sign2_2, n_2, c_2)를 얻는다.
평균치 산출부(204a)는, 선형 예측 계수 기억부(206a), 선형 예측 계수 기억부(206b)로부터 얻은 가중 계수 세트의 파라미터마다의 평균치를 구해, 가중 계수 세트 (sign1, m, sign2, n, c)로 한다. 선형 예측 연산부(204b)는, 평균치 산출부(204a)가 출력하는 가중 계수 세트 (sign1, m, sign2, n, c)를 기초로, 식 5를 사용하여 예측 화상을 연산한다.
또한, 도 18에 기재한 선형 예측 계수 기억부(206a) 등으로부터 얻어지는 가중 계수 세트 (w1_1, w2_1, c_1, d_1) 등은, 실시형태 6에서 설명한 식 1의 경우의 예에서의 것이며, 식 5를 사용하여 예측 화상을 구하는 경우에 관한 파라미터에 대해서는 도시하지 않고 있으나 그대로 치환하는 것이 가능하다. 이하에 설명하는 도 19, 도 20의 경우도 같다.
다음에, 예측 화상을 생성하는 기능 구성이 도 19인 경우에 관해 설명한다. 선형 예측 연산부(204c)는, 선형 예측 계수 기억부(206a)로부터 얻은 가중 계수 세트 (sign1_1, m_1, sign2_1, n_1, c_1)를 기초로 예측 화상을 연산한다. 선형 예측 연산부(204d)는, 선형 예측 계수 기억부(206b)로부터 얻은 가중 계수 세트 (sign1_2, m_2, sign2_2, n_2, c_2)를 기초로 예측 화상을 연산한다. 그리고 평균치 산출부(204e)는, 선형 예측 연산부(204c, 204d)의 각각이 연산한 예측 화상의 각 화소의 평균을 구해, 예측 화상으로 한다.
이 경우, 선형 예측 연산부(204c)는, 가중 계수 세트(sign1_1, m_1, sign2_1, n_1, c_1)를 기초로 식 5를 사용하여, 최초에 예측 화상을 연산하므로, 승산을 사용하지 않고 비트 시프트 연산으로 계산할 수 있다. 선형 예측 연산부(204d)도 마찬가지다. 한편, 도 18의 경우에는, 최초에 가중 계수 세트 (sign1_1, m_1, sign2_1, n_1, c_1)과 가중 계수 세트 (sign1_2, m_2, sign2_2, n_2, c_2)의 평균을 구하므로, m1과 m2의 평균치 또는 n_1과 n_2의 평균치가 정수가 되지 않는 경우가 있어, 즉 2의 지수에 해당하는 부분이 정수가 되지 않기 때문에, 처리량이 많아져 버릴 가능성이 있다. 또, 2의 지수에 해당하는 부분이 정수가 되도록 반올림 처리를 하면 오차가 커져 버릴 가능성이 있다.
다음에, 예측 화상을 생성하는 기능 구성이 도 20(a)인 경우에 대해 설명한다. 선형 예측 연산부(204g)는, 선형 예측 계수 기억부(206c)로부터 얻은 비트 시프트 연산에 사용되는 계수인 파라미터 sign1_1, m_1과, 선형 예측 계수 기억부(206c)로부터 얻은 비트 시프트 연산에 사용되는 계수인 파라미터 sign2_2, n_2와, 각 선형 예측 계수 기억부(206c, 206d)로부터 얻은 파라미터 c_1과 c_2를 평균치 산출부(204f)가 평균하여 구한 평균치(c)를 기초로 식 9를 사용하여 예측 화상을 연산한다.
이 경우에 있어서도, 비트 시프트 연산에 사용되는 계수는, 선형 예측 계수 기억부(206c) 또는 선형 예측 계수 기억부(206d)로부터 그대로 얻은 값이므로, 식 5에 있어서의 2의 지수 부분이 정수가 된다. 그 때문에, 비트 시프트 연산으로 계산할 수 있어, 처리량을 적게 하는 것이 가능해진다.
예측 화상을 생성하는 기능 구성이 도 20(b)인 경우에 관해 설명한다. 선형 예측 연산부(204h)는, 선형 예측 계수 기억부(206e)로부터 얻은 파라미터 sign1_1, m_1, c_1과, 선형 예측 계수 기억부(206f)로부터 얻은 파라미터 sign2_2, n_2를 기초로 식 9를 사용하여 예측 화상을 연산한다.
이 경우에 있어서도, 비트 시프트 연산에 사용되는 계수는, 선형 예측 계수 기억부(206e), 또는 선형 예측 계수 기억부(206f)로부터 그대로 얻은 값이므로, 식 5에 있어서의 2의 지수 부분이 정수가 된다. 그 때문에, 비트 시프트 연산으로 계산할 수 있어, 처리량을 적게 하는 것이 가능해진다.
도 20(a)(b)의 경우는, 실시형태 3에서의 도 10(a)(b)의 설명과 동일하게 부호열에 부가하여 보내지 않아도 되는 파라미터가 있어, 부호열을 작게 하는 것이 가능하다.
이상, 실시형태 7에서 설명한 것 같은 선형 예측식을 사용하면, 승산을 사용하지 않고 비트 시프트 연산으로 계산할 수 있으므로 실시형태 6에 비해 처리량을 대폭 삭감하는 것이 가능해진다.
또한, 상기 실시형태에서는 식 1, 식 3, 식 4 대신에 식 5, 식 6, 식 7을 사용하고, 부호화하는 파라미터 세트도 (w1, w2, c, d) 대신에 (sign1, m, sign2, n, c)를 사용하여 선형 예측을 행함으로써 비트 시프트 연산만으로의 계산을 실현하여 처리량의 삭감을 도모하고 있었으나, 별도의 어프로치로서 식 1, 식 3, 식 4 및 (w1, w2, c, d)를 그대로 사용한 채로, w1 및 w2를 비트 시프트 연산 가능한 값만 선택 가능하게 하여 제한함으로써 실시형태 6과 완전히 같은 구성인채로 비트 시프트 연산만으로의 계산을 실현하여 처리량의 삭감을 행하는 것도 가능하다.
또, 더욱 한정하는 방법으로서, w1 및 w2를 항상 1로 하여 선택하도록 제한하고, 직류 성분인 c1 및 c2만 임의의 값을 갖는 부호열을 입력으로 하는 것도 가능하다. 도 21의 구성의 경우를 예로 들면, ref1용으로서 (1, c_1), ref2용으로서 (1, c_2)가 파라미터 세트로서 부호화되어 있는 것이다. 이 경우, 예측 화상의 화소치 P(i)는, (식 1a)중의 w1_1 및 w2_2를 1로 치환한 다음 식에 의해 구해진다.
P(i)=(Q1(i)+Q2(i))/pow(2,d)+(c_1+c_2)/2
(pow(2,d)는 2의 d승을 나타낸다)
이에 의해 실시형태 6과 완전히 같은 구성인채로 선형 예측을 위한 처리량을 대폭 삭감하는 것이 가능해진다.
또, 도 24처럼 픽처의 부호열의 픽처 공통 정보에, 선형 예측을 비트 시프트 연산만으로 행하는 것이 가능한지를 나타내는 플래그 sft_flg, 및 직류 성분인 c만으로 선형 예측을 행하는 것이 가능한지를 나타내는 플래그 dc_flg가 기술되어 있는 경우, 복호화 장치에서는 이들 플래그를 참조함으로써, 비트 시프트 연산만으로의 선형 예측에 적합한 구성으로의 복호를 행하는 것이나, 직류 성분만으로의 선형 예측에 적합한 구성으로의 복호를 행하는 것이 가능해져, 복호화 장치의 구성에 의해서는 대폭적인 처리량의 삭감이 가능해진다.
(실시형태 8)
본 발명의 실시형태 8에 있어서의 동화상 복호화 방법에 관해 설명한다. 또한, 복호화 장치의 구성 및 복호화의 처리의 흐름 및 참조 인덱스의 할당 방법은 실시형태 6과 완전히 동일하므로, 여기서는 설명을 생략한다.
종래의 기술에서 설명한 바와 같이, 실시형태 6 및 실시형태 7과 같이 선형 예측 계수의 가중 계수 세트로부터 구하는 예측식을 사용하여 예측 화상을 생성하는 것이 아니라, 식 2a 및 식 2b와 같이 미리 정한 고정식을 사용하여 예측 화상을 구하는 방법이 있었다. 이 방법을 사용하면, 예측 화상을 구할 때의 가중 계수 세트를 부호화하여 보낼 필요가 없으므로 부호량을 삭감할 수 있다고 하는 이점이 있었다. 또, 선형 예측의 계산식이 단순하므로, 적은 처리량으로 선형 예측을 대폭 삭감하는 것이 가능했다. 그러나, 이 고정식을 사용한 방법에서는, 선택할 수 있는 선형 예측식이 식 2a 및 식 2b의 2가지밖에 없기 때문에, 예측 정밀도가 나빠진다는 문제가 있었다.
그래서 본 실시형태에서는 식 2a, 식 2b 대신에 식 8a, 8b를 사용한다. 이들 식은 식 2a, 식 2b에 C1 및 C2를 더한 것이다. 연산에서는 가산의 회수가 증가하는 것뿐이므로, 원래의 식과 비교하더라도 처리량의 증가는 거의 없다.
식 8a, 8b는 동시에 2장의 픽처를 참조하여 예측 화상을 생성할 때의 예측식인데, 1장의 픽처만을 참조하여 예측 화상을 생성할 때는 실시형태에서 설명한 식 3, 식 4 대신에 식 9를 사용한다.
이 방법을 사용하기 위해 필요한 가중 계수 세트는, ref1용으로서 (C1), ref2용으로서 (C2)뿐이다. 그 때문에, 이 방법을 사용한 경우의 픽처의 부호열의 예는 도 14와 같이 되어, 슬라이스 헤더 영역에는 선형 예측을 행하기 위한 가중 계수 세트 (pset0, pset1, pset2, …)가 ref1용 및 ref2용 각각에 기술되어, 각각의 가중 계수 세트의 내용은 C뿐이게 된다. 마찬가지로, 도 15는 상기 슬라이스 헤더 영역에 포함되는 가중 계수 세트의 예를 표에 나타낸 것인데, 도 7과는 달리, 각 가중 계수 세트의 요소는 C만으로 되어 있다.
도 22는, 도 2의 선형 예측 계수 기억부(206)와 움직임 보상 복호화부(204)에 있어서의 예측 화상을 생성하는 기능 구성을 도시한 기능 블록도이다.
선형 예측 계수 기억부(206a)와, 선형 예측 계수 기억부(206b)와, 선형 예측 연산부(204a)에 의해 예측 화상이 생성된다.
부호열 해석부(201)로부터 출력되는 제1 참조 인덱스 ref1 및 제2 참조 인덱스 ref2에 의해 선형 예측 계수 기억부(206a 및 206b)로부터 각각 1개의 구성 요소만을 갖는 가중 계수 세트 (C1) 및 (C2)가 획득된다. 그들 값은 선형 예측 연산부(204a)에 입력되어, 식 8a, 8b를 사용하여 선형 예측이 이루어져, 예측 화상이 생성된다.
마찬가지로, 1장만을 참조하여 선형 예측을 행하는 경우는 도 22의 ref1 또는 ref2의 어느 한쪽만에 의해 가중 계수 세트 (C1) 또는 (C2)가 획득되어, 식 9를 사용하여 선형 예측이 이루어져 예측 화상이 생성된다.
이렇게 본 실시형태에서는 사용하는 파라미터의 수가 ref1용, ref2용으로 각각 1개씩만 있어도 되므로, 부호열에 기술하는 데이터의 양을 삭감할 수 있다. 또 선형 예측식도 승산 등의 복잡한 연산을 필요로 하지 않기 때문에, 연산량도 최소한으로 억제하는 것이 가능하다. 또 종래의 고정식을 사용한 방법에서 결점이 되고 있었던 예측 정밀도의 나쁨도, C1 및 C2라는 계수를 사용함으로써 대폭 개선하는 것이 가능하다.
또한, 본 실시형태에서 설명한 선형 예측 방법은, 다수의 참조 인덱스가 동일한 픽처를 참조하는 것이 가능한지 여부에 관계없이 사용하는 것이 가능하다.
(실시형태 9)
본 발명의 실시형태 9에서의 동화상 복호화 방법에 관해 설명한다.
또한, 복호화 장치의 구성 및 복호화의 처리의 흐름 및 참조 인덱스의 할당 방법은 실시형태 6과 완전히 동일하므로, 여기서는 설명을 생략한다.
각각의 픽처는 픽처 번호와 함께, 표시 시간 또는 그것을 대신하는 것을 나타내기 위한 표시 순서 정보라는 것이 할당되어 있다. 도 39는, 그 일례로서 픽처 번호와 표시순서 정보를 나열하여 나타낸 도면이다. 표시순서 정보는 표시되는 순서를 따라 어느 값이 할당된다. 이 도면의 예에서는, 1 픽처마다 1씩 증가하는 값이 사용되고 있다. 선형 예측을 행하기 위한 식에서 사용되는 계수의 값을 이들 표시순서 정보를 사용하여 생성하는 방법에 관해 실시형태 9에서 설명한다.
실시형태 6에서는 움직임 보상에서 예측 화상을 생성할 때, 식 1 또는 식 3 또는 식 4를 사용하여 화소마다 선형 예측을 행하고 있다. 그러나, 이들 선형 예측을 행하기 위해서는 계수의 데이터가 필요하고, 상기 실시형태에서는, 슬라이스 헤더 영역에 가중 계수 세트로서 부호열중에 계수의 데이터를 기술하여, 예측 화상의 작성에 사용하고 있었다. 그러나, 높은 부호화 효율이 얻어지는 반면, 가중 계수 세트의 데이터를 작성하기 위한 처리가 필요해지고, 또 가중 계수 세트를 부호열중에 기술하는 것에 의한 비트량의 증가도 발생한다.
그래서 식 1 대신에 식 10, 식 11a, 식 12a를 사용하여 선형 예측을 행하는 것도 가능하다. 이들 식은 각각의 참조 픽처가 갖는 표시순서 정보만으로부터 가중 계수를 결정할 수 있으므로, 별도 가중 계수 세트를 부호화할 필요가 없다.
예로서 도 39에서, 부호화 대상 픽처를 16번, 제1 참조 인덱스에 의해 지정된 픽처를 11번, 제2 참조 인덱스에 의해 지정된 픽처를 10번으로 하면, 각각의 픽처의 표시순서 정보는 15, 13, 10이 되므로, 하기와 같은 선형 예측식이 결정된다.
V1=(10-15)/(10-13)=5/3
V2=(15-13)/(10-13)=-2/3
P(i)= 5/3×Q1(i)-2/3×Q2(i)
식 1을 사용한 가중 계수 세트를 사용하여 선형 예측을 행하는 방법과 비교하면 계수의 값의 자유도가 낮으므로 최적의 예측 화상의 작성은 곤란하다고 할 수 있으나, 식 2a, 식 2b를 사용한 2개의 식으로 이루어지는 고정식을 2장의 참조 픽처의 위치 관계에 따라 전환하는 방법과 비교하면 선형 예측식으로서 보다 효율적인 식을 생성할 수 있다.
또한, 제1 참조 인덱스 및 제2 참조 인덱스가 같은 픽처를 참조하고 있는 경우는, T1=T2가 되어 버려, 식 11a, 식 12a가 성립하지 않는다. 그래서, 참조되는 2장의 픽처가 같은 표시순서 정보를 갖는 경우는 V1 및 V2의 값으로서 1/2를 사용하여 선형 예측을 행하는 것으로 한다. 그 경우의 선형 예측식은 하기와 같이 된다.
V1=1/2
V2=1/2
P(i)=1/2×Q1(i)+1/2×Q2(i)
또, 제1 참조 인덱스 및 제2 참조 인덱스가 다른 픽처를 참조하고 있으나, 그들 픽처가 같은 표시순서 정보를 갖는 경우에도, T1=T2가 되어 버려, 식 11a, 식 12a가 성립하지 않는다. 이렇게, 참조되는 2장의 픽처가 같은 표시순서 정보를 갖는 경우는 V1 및 V2의 값으로서 1/2를 사용하여 선형 예측을 행하는 것으로 한다.
이렇게, 참조되는 2장의 픽처가 같은 표시순서 정보를 갖는 경우에는, 미리 설정된 값을 계수로서 사용하는 구성으로 하면 된다. 미리 설정된 값의 계수로서는, 상기의 1/2의 예와 같이 같은 가중치를 갖는 계수로 해도 된다.
그런데, 상기 실시형태와 같이 식 10을 사용하면, 선형 예측을 행하기 위해 승산 및 제산이 필요해진다. 식 10에 의한 선형 예측 연산은 부호화 대상 블록 내의 모든 화소에 대해 연산을 행하므로, 승산이 더해지는 것에 의한 처리량의 증가는 대단히 큰 것이 된다.
그래서, 실시형태 7의 사고방식과 동일하게 하여, V1 및 V2를 2의 제곱승에 근사함으로써, 선형 예측의 연산을 시프트 연산만으로 행하는 것을 가능하게 하여, 처리량의 삭감을 도모할 수 있다. 그 경우의 선형 예측식으로서, 식 11a, 식 12a 대신에 식 11b, 식 12b를 사용한다.
또한, 식 11a, 식 12a 대신에 식 11c, 식 12c를 사용하는 것도 가능하다.
또한, 식 11a, 식 12a 대신에 식 11d, 식 12d를 사용하는 것도 가능하다.
또한, 2의 제곱승으로의 근사 방법은, 식 11b를 예로 들면, v1의 값을 1씩 변화시켰을 때, ±pow(2,v1)과 (T2-T0)/(T2-T1)이 가장 가까워질 때의 ±pow(2, v1)의 값으로 한다.
예로서 도 39에 있어서, 복호화 대상 픽처를 16번, 제1 참조 인덱스에 의해 지정된 픽처를 11번, 제2 참조 인덱스에 의해 지정된 픽처를 10번으로 하면, 각각의 픽처의 표시순서 정보는 15, 13, 10이 되므로, (T2-T0)/(T2-T1) 및 ±pow(2,v1)은 하기와 같이 된다.
(T2-T0)/(T2-T1)=(10-15)/(10-13)=5/3
+pow(2,0)=1, pow(2,1)=2
5/3는 1보다도 2에 가까우므로, 근사의 결과 V1=2가 된다.
또, 다른 근사 방법으로서, 표시순서 정보 T1 및 T2의 2개의 값의 관계에 따라 올림에 의한 근사, 내림에 의한 근사를 전환하는 것도 가능하다.
그 경우, T1이 T2보다도 시간적으로 후방에 있는 경우는, V1 및 V2의 양쪽에 대해 올림에 의한 근사를 행하고, T1이 T2보다도 시간적으로 전방에 있는 경우는, V1 및 V2의 양쪽에 대해 내림에 의한 근사를 행한다. 반대로, T1이 T2보다도 시간적으로 후방에 있는 경우는, V1 및 V2의 양쪽에 대해 내림에 의한 근사를 행하고, T1이 T2보다도 시간적으로 전방에 있는 경우는, V1 및 V2의 양쪽에 대해 올림에 의한 근사를 행하는 것도 가능하다.
또, 다른 표시순서 정보를 사용한 근사 방법으로서, T1이 T2보다도 시간적으로 후방에 있는 경우는, V1에 관한 식에 있어서는 올림에 의한 근사를 행하고, V2에 관한 식에서는 내림에 의한 근사를 행한다. 이에 의해 2개의 계수의 값이 서로 떨어지므로, 외삽 보간에 적합한 값이 얻어지기 쉬워진다. 반대로 T1이 T2보다도 시간적으로 전방에 있는 경우는, V1에 관한 식과 V2에 관한 식에서 그 양쪽의 값을 비교했을 때, 값이 작은 쪽은 올림에 의한 근사를 행하고, 값이 큰 쪽은 내림에 의한 근사를 행한다. 이에 의해 2개의 계수의 값이 서로 가까워지므로, 내삽 보간에 적합한 값이 얻어지기 쉬워진다.
예로서 도 39에 있어서, 복호화 대상 픽처를 16번, 제1 참조 인덱스에 의해 지정된 픽처를 11번, 제2 참조 인덱스에 의해 지정된 픽처를 10번으로 하면, 각각의 픽처의 표시순서 정보는 15, 13, 10이 되고, T1은 T2보다도 시간적으로 후방에 있기 때문에, V1에 관한 식에서는 올림에 의한 근사를 행하고, V2에 관한 식에서는 내림에 의한 근사를 행한다. 그 결과, 식 11b 및 식 12b는 하기와 같이 계산된다.
(1) 식 11b에 관해
(T2-T0)/(T2-T1)=(10-15)/(10-13)=5/3
+pow(2,0)=1, pow(2,1)=2
올림에 의한 근사를 행한 결과 V1=2가 된다.
(2) 식 12b에 관해
(T0-T1)/(T2-T1)=(15-13)/(10-13)=-2/3
-pow(2,0)=-1, -pow(2,-1)=-1/2
내림에 의한 근사를 행한 결과 V2=-1이 된다.
또한, 상기 실시형태에서는 선형 예측의 식은 식 10의 1개였으나, 종래의 기술에서 설명한 식 2a 및 식 2b의 2개의 식으로 이루어지는 고정식에 의한 선형 예측 방법과 조합하여 사용하는 것도 가능하다. 그 경우, 식 2a 대신에 식 10을 사용하고, 식 2b는 그대로 사용한다. 즉, 제1 참조 인덱스에 의해 지정되는 픽처가 제2 참조 인덱스에 의해서 지정되는 픽처보다도 표시 순서에서 뒤에 있는 경우는 식 10을 사용하고, 그 이외의 경우는 식 2b를 사용한다.
또 반대로, 식 2b 대신에 식 10을 사용하고, 식 2a는 그대로 사용하는 것도 가능하다. 즉, 제1 참조 인덱스에 의해 지정되는 픽처가 제2 참조 인덱스에 의해 지정되는 픽처보다도 표시순서에서 뒤에 있는 경우는 식 2a를 사용하고, 그 이외의 경우는 식 10을 사용한다. 단, 이 때 참조되는 2장의 픽처가 같은 표시순서 정보를 갖는 경우는 V1 및 V2의 값으로서 1/2를 사용하여 선형 예측을 행한다.
또, 실시형태 8의 사고 방식과 동일하게 하여, 계수 C만을 슬라이스 헤더 영역에 기술하여 선형 예측에 사용하는 것도 가능하다. 그 경우, 식 10 대신에 식 13을 사용한다. V1 및 V2를 구하는 방법은 상기 실시형태와 동일하다.
계수를 생성하기 위한 처리가 필요하게 되고, 또한 슬라이스 헤더 영역에 계수 데이터를 부호화할 필요가 있으나, V1 및 V2의 정밀도가 낮은 경우라도 C1 및 C2를 사용함으로써 보다 높은 정밀도의 선형 예측을 행하는 것이 가능해진다. 특히 V1 및 V2를 2의 제곱승에 근사하여 선형 예측을 행하는 경우에 있어서 유효하다.
또한, 식 13을 사용한 경우의 선형 예측에서는, 1개의 픽처에 1개의 참조 인덱스가 할당되어 있는 경우라도, 또 1개의 픽처에 다수의 참조 인덱스가 할당되어 있는 경우라도, 동일하게 취급하는 것이 가능하다.
또한, 식 11a, 식 12a, 식 11b, 식 12b, 식 11c, 식 12c, 식 11d, 식 12d의 각 식의 값의 계산에서는, 취할 수 있는 값의 조합이 슬라이스마다 어느정도 한정되어 있으므로, 슬라이스를 부호화할 때 1번만 연산을 해 두면 되고, 식 10이나 식 13과 같이 부호화 대상 블록의 모든 화소에 대해 연산을 행할 필요는 없기 때문에, 전체의 처리량에 대한 영향은 작다고 생각된다.
또한, 본 발명의 실시형태에 있어서의 표시순서 정보는, 표시 순서에 한정되는 것이 아니며, 실제의 표시 시간이나, 표시 시간에 따라 값이 커지는 소정의 픽처를 기준으로 한 각 픽처의 참조 순서여도 된다.
(실시형태 10)
본 발명의 실시형태 10에 있어서의 동화상 복호화 방법에 관해 설명한다. 또한, 복호화 장치의 구성 및 복호화의 처리의 흐름 및 참조 인덱스의 할당 방법은 실시형태 6과 완전히 같기 때문에, 여기서는 설명을 생략한다.
종래 방법에서는 고정식을 사용하여 예측 화상의 생성을 행하는 경우와, 선형 예측 계수의 가중 계수 세트를 사용하여 예측 화상의 생성을 행하는 경우를 부호열의 픽처 공통 정보 부분에 기술되는 플래그를 사용함으로써 필요에 따라 전환하는 것을 가능하게 하고 있었다.
본 실시형태에서는, 또한 실시형태 6부터 실시형태 9에서 설명한 각종 선형 예측 방법을 플래그를 사용하여 전환하는 방법에 대해 설명한다.
도 17(a)는, 상기 전환을 제어하기 위한 5개의 플래그(p_flag, c_flag, d_flag, t_flag, s_flag)를 부호열중의 슬라이스 헤더 영역에 기술하는 경우의 구성이다.
도 17(b)에 나타낸 바와 같이, p_flag는 가중 계수가 부호화되어 있는지 여부를 나타내기 위한 플래그이다. 또, c_flag는 ref1용 및 ref2용의 파라미터 중, 파라미터 C(C1 및 C2)에 관한 데이터만이 부호화되어 있는지 여부를 나타내는 플래그이다. 또, t_flag는 선형 예측을 행하기 위한 가중 계수를 참조 픽처의 표시순서 정보를 사용하여 생성하는지 여부를 나타내는 플래그이다. 또, s_flag는 선형 예측을 행하기 위한 가중 계수를 시프트 연산으로 계산할 수 있도록 2의 제곱승에 근사하는지 여부를 나타내는 플래그이다.
또, d_flag는 식 2a 및 식 2b에서 나타낸 바와 같은, 미리 설정되어 있는 2개의 고정식을 사용하여 선형 예측을 행할 때, ref1에 의해 지정되는 픽처와 ref2에 의해 지정되는 픽처의 시간적인 위치 관계에 따라 2개의 식을 전환하는지 여부를 나타내는 플래그이다. 즉, 이 플래그에 의해 전환하도록 지정된 경우는, 종래 방법과 마찬가지로, ref1에 의해 지정되는 픽처가 ref2에 의해 지정되는 픽처보다도 표시 순서에서 뒤에 있는 경우는 식 2a를 사용하고, 그 이외의 경우는 식 2b를 사용하여 선형 예측을 행한다. 한편, 이 플래그에 의해 전환을 행하지 않도록 지정된 경우는, ref1에 의해 지정되는 픽처가 ref2에 의해 지정되는 픽처의 위치 관계에 관계없이, 항상 식 2b를 사용하여 선형 예측을 행한다.
또한, 전환하지 않고 사용하는 식을 식 2b 대신에 식 2a를 사용한 경우도 동일하게 취급하는 것이 가능하다.
도 2에 나타낸 복호화 장치에서는 부호열 해석부(201)에서 플래그 p_flag의 값을 해석하고, 그 결과에 기초하여, 가중 계수 세트에 관한 데이터를 복호화하여 예측 화상의 생성을 행하는지 여부의 지시를 움직임 보상 복호화부(204)에 출력하여, 선형 예측에 의한 움직임 보상을 행한다. 이에 의해, 처리 능력이 높은 장치에서는 가중 계수 세트를 사용하여 선형 예측을 행하고, 처리 능력이 낮은 장치에서는 가중 계수 세트를 사용하지 않고 선형 예측을 행하는 것과 같이 구분하여 사용하는 것이 가능해진다.
마찬가지로, 도 2에 나타낸 복호화 장치에서는 부호열 해석부(201)에서 플래그 c_flag의 값을 해석하여, 그 결과에 기초하여, 화상 데이터의 DC 성분에 상당하는 파라미터 C(C1 및 C2)에 관한 데이터만 복호화하여 고정식에 의한 예측 화상의 생성을 행하는 것인지 여부의 지시를 움직임 보상 복호화부(204)에 출력하여, 선형 예측에 의한 움직임 보상을 행한다. 이에 의해, 처리 능력이 높은 장치에서는 모든 가중 계수 세트를 사용하여 선형 예측을 행하고, 처리 능력이 낮은 장치에서는 직류 성분만을 사용하여 선형 예측을 행하는 것과 같이 구분하여 사용하는 것이 가능해진다.
마찬가지로, 도 2에 나타낸 복호화 장치에서는 부호열 해석부(201)에서 플래그 d_flag의 값을 해석하여, 그 결과에 기초하여, 고정식을 사용하여 선형 예측을 행하는 경우에, 2개의 식을 전환하여 부호화하는지 여부의 지시를 움직임 보상 복호화부(204)에 출력하여, 선형 예측에 의한 움직임 보상을 행한다. 이에 의해, 화면의 명도가 시간적으로 거의 변하지 않은 경우는 한쪽의 고정식만을 사용하여 선형 예측을 행하고, 화면의 명도가 시간적으로 변화하는 경우는 2개의 고정식을 전환하여 사용하여 선형 예측을 행하는 것과 같이 구분하여 사용하는 것이 가능해진다.
마찬가지로, 도 2에 나타낸 복호화 장치에서는 부호열 해석부(201)에서 플래그 t_flag의 값을 해석하여, 그 결과에 기초하여, 선형 예측을 행하기 위한 계수를 참조 픽처의 표시순서 정보를 사용하여 생성하는지 여부의 지시를 움직임 보상 복호화부(204)에 출력하여, 선형 예측에 의한 움직임 보상을 행한다. 이에 의해, 부호량에 여유가 있는 경우는 가중 계수 세트를 부호화하여 선형 예측을 행하고, 부호량에 여유가 없는 경우는 표시순서 정보로부터 계수를 생성하여 선형 예측을 행하는 것과 같이 구분하여 사용하는 것이 가능해진다.
마찬가지로, 도 2에 나타낸 복호화 장치에서는 부호열 해석부(201)에 플래그 s_flag의 값을 해석하여, 그 결과에 기초하여, 선형 예측을 행하기 위한 계수를 시프트 연산으로 계산할 수 있도록 2의 제곱승에 근사하는지 여부의 지시를 움직임 보상 복호화부(204)에 출력하여, 선형 예측에 의한 움직임 보상을 행한다. 이에 의해, 처리 능력이 높은 장치에서는 가중 계수를 근사하지 않고 사용하여 선형 예측을 행하고, 처리 능력이 낮은 장치에서는 가중 계수를 2의 제곱승에 근사하여 사용하여 시프트 연산으로 실현할 수 있는 선형 예측을 행하는 것과 같이 구분하여 사용하는 것이 가능해진다.
예를 들면, (1) (p, c, d, t, s_flag)=(1, 0, 0, 0, 1)인 경우는, 모든 가중 계수 세트가 복호화되어, 실시형태 7에서 설명한 바와 같이, 계수를 2의 제곱승으로 표시함으로써 시프트 연산만으로 선형 예측을 행하여 예측 화상을 생성하는 것이 지시된다.
또, (2) (p, c, d, t, s_flag)=(1, 1, 1, 0, 0)인 경우는, 파라미터 C(C1 및 C2)에 관한 데이터만이 복호화되어, 실시형태 8에서 설명한 고정식에 계수 C를 더함으로써 예측 화상을 생성하는 방법을 사용하고, 또한 2개의 고정식을 전환하여 사용하는 것이 지시된다.
또, (3) (p, c, d, t, s_flag)=(0, 0, 0, 0, 0)인 경우는, 가중 계수 세트는 아무것도 복호화되지 않는다. 즉, 종래 방법인 고정식 중 식 2b만을 사용한 예측 화상의 생성 방법을 사용하는 것이 지시된다.
또, (4) (p, c, d, t, s_flag)=(0, 0, 1, 1, 1)인 경우는, 가중 계수 세트는 아무것도 복호화되지 않지만, 실시형태 9에서 설명한 바와 같이, 가중 계수를 참조 픽처의 표시순서 정보로부터 생성하고, 또한 계수를 2의 제곱승에 근사함으로써 시프트 연산만으로 선형 예측을 행하고, 또한 2개의 고정식을 전환하여 사용하여 예측 화상을 생성하는 것이 지시된다.
또한, 상기 실시형태에서는 각각 1비트로 이루어지는 5개의 플래그(p-flag, c_flag, d_flag, t_flag, s_flag)를 사용하여 판별을 행하고 있으나, 5개의 플래그 대신에 5비트로 이루어지는 1개의 플래그만으로 표현하는 것도 가능하다. 또, 그 경우, 5비트로 표현하는 것이 아니라 가변길이 복호화를 사용하여 복호화하는 것도 가능하다.
또한, 상기 실시형태에서는 각각 1비트로 이루어지는 5개의 플래그(p-flag, c_flag, d_flag, t_flag, s_flag)를 모두 사용하고 있으나, 그 중의 1부분의 플래그만을 사용하여 선형 예측 방법의 전환을 행하는 경우도 마찬가지로 취급하는 것이 가능하다. 그 경우, 도 17(a)에 나타낸 플래그는 필요한 것만이 부호화되어 기술되어 있게 된다.
종래 방법에서는, 고정식을 사용한 예측 화상의 생성과, 선형 예측 계수의 가중 계수 세트를 사용한 예측 화상의 생성을 전환하기 위한 플래그를 부호열의 픽처 공통 정보 부분에 설치하여, 픽처 단위로 전환하는 것을 가능하게 하고 있었다. 그러나, 이 방법에서는 픽처마다밖에 예측 화상의 생성 방법을 전환할 수 없었다.
그러나, 본 실시형태에서 설명한 바와 같이, 이 전환 플래그를 부호열의 슬라이스 헤더에 설치하도록 하여, 픽처를 구성하는 슬라이스마다 어느 방법으로 예측 화상을 생성하는지를 전환하는 것을 가능하게 함으로써, 예를 들면 복잡한 화상을 갖는 슬라이스에서는 가중 계수 세트를 사용한 예측 화상의 생성을 행하고, 단순한 화상을 갖는 슬라이스에서는 고정식을 사용한 예측 화상의 생성을 행함으로써, 처리량의 증가를 최소한으로 억제하면서 화질의 향상을 도모하는 것이 가능해진다.
또한, 상기 실시형태에서는 슬라이스 헤더 영역에 5개의 플래그 (p_flag, c_flag, d_flag, t_flag, s_flag)를 기술하여 슬라이스마다 판별을 행하고 있으나, 픽처 공통 정보 영역에 이들 플래그를 기술함으로써, 픽처 단위로 전환하도록 하는 것도 가능하다. 또, 슬라이스를 구성하는 블록마다 전환 플래그를 설치함으로써, 블록 단위로 더욱 최적의 방법으로 예측 화상의 생성을 행하는 것도 가능하다.
또한, 본 발명의 실시형태에 있어서의 표시순서 정보는, 표시 순서에 한정되는 것이 아니라, 실제의 표시 시간이나, 표시 시간에 따라 값이 커지는 소정의 픽처를 기준으로 한 각 픽처의 참조 순서여도 된다.
(실시형태 11)
본 발명의 실시형태 11에서의 동화상의 부호화 방법 및 복호화 방법에 관해 설명한다. 또한, 부호화 장치 및 복호화 장치의 구성 및 부호화 및 복호화의 처리의 흐름 및 참조 인덱스의 할당 방법은 실시형태 1 및 실시형태 6과 완전히 같으므로, 여기서는 설명을 생략한다.
본 실시형태는 실시형태 5 및 실시형태 10에서 설명한 내용과 동일한 기술에 관한 설명이다.
파라미터 세트가 부호화되어 있는지 여부를 나타내는 플래그 p_flag와, ref1용 및 ref2용의 파라미터 중, 파라미터 C(C1 및 C2)에 관한 데이터만이 부호화되어 있는지 여부를 나타내는 플래그 c_flag를 슬라이스마다 나타낸다.
도 1에 나타낸 부호화 장치에서는 움직임 보상 부호화부(107)에 있어서, 각 슬라이스마다 또는 블록마다, 파라미터 세트에 관한 데이터를 부호화하는지 여부를 결정하고, 그것에 기초하여 플래그 p_flag의 정보를 부호열 생성부(103)에 출력하여, 도 40(a)에 도시하는 바와 같이 부호열중에 기술한다.
마찬가지로, 도 1에 나타낸 부호화 장치에서는 움직임 보상 부호화부(107)에 있어서, 각 슬라이스마다 또는 블록마다, 화상 데이터의 DC 성분에 상당하는 파라미터 C(C1, C2)에 관한 데이터만 부호화하는지 여부를 결정하고, 그것에 기초하여 플래그 c_flag의 정보를 부호열 생성부(103)에 출력하여, 도 40(a)에 도시하는 바와 같이 부호열중에 기술한다.
한편, 도 2에 나타낸 복호화 장치에서는 부호열 해석부(201)에서 상기 전환 플래그 p_flag와 플래그 c_falg의 값을 해석하여, 그 결과에 기초하여, 예를 들면 다운로드한 파라미터 세트를 사용하여 예측 화상을 생성하는 것인지, 또는 고정식을 사용하여 예측 화상을 생성하는 것인지의 지시를 움직임 보상 복호화부(204)에 출력하여, 선형 예측에 의한 움직임 보상을 행한다.
예를 들면, 도 40(b)에 나타낸 바와 같이, (1) 플래그 p_flag가 1이고, 플래그 c_flag가 0인 경우에는, 부호화 장치에서 모든 파라미터 세트가 부호화된다. 또, (2) 플래그 p_flag가 1이고, 플래그 c_flag가 1인 경우에는, 부호화 장치에서 파라미터 C(C1 및 C2)에 관한 데이터만이 부호화된다. 또, (3) 플래그 p_flag가 0이고, 플래그 c_flag가 0인 경우에는, 부호화 장치에서 파라미터 세트는 아무것도 부호화되지 않는다. 또한, 도 40(b)에 나타낸 바와 같이 플래그의 값을 결정하면, 플래그 p_flag에 의해 화상 데이터의 DC 성분이 부호화되어 있는지를 판별할 수 있다.
부호화 장치에서, 상기 (1)의 경우는, 예를 들면 도 8부터 도 10에서 설명한 바와 같이 파라미터는 처리된다. 상기 (2)의 경우는, 예를 들면 도 16에서 설명한 바와 같이 파라미터는 처리된다. 상기 (3)의 경우는, 예를 들면 고정식을 사용하여 파라미터는 처리된다.
복호화 장치에서, 상기 (1)의 경우는, 예를 들면 도 18부터 도 20에서 설명한 바와 같이 파라미터는 처리된다. 상기 (2)의 경우는, 예를 들면 도 22에서 설명한 바와 같이 파라미터는 처리된다. 상기 (3)의 경우는, 예를 들면 고정식을 사용하여 파라미터는 처리된다.
또한, 조합한 경우의 다른 예에 관해, 이하에 구체적으로 설명한다.
상기 예에서는, 플래그 p_flag, 플래그 c_flag를 사용하여 명시적으로 파라미터를 부호화하는지(수신시키는지)를 전환했으나, 상기 플래그를 사용하지 않고, 가변길이 부호화 테이블(VLC 테이블)을 사용하는 것도 가능하다.
도 41에 도시하는 바와 같이, 고정식 2a와 고정식 2b를 전환하는지 여부의 선택도 더욱 명시적으로 나타낼 수 있다.
여기서, 고정식 2의 전환을 행하지 않는다는 것은, 이하를 의미한다. 예를 들면, 상기에서 종래의 기술에서는, 제1 참조 인덱스에 의해 지정되는 픽처가 제2 참조 인덱스에 의해 지정되는 픽처보다도 표시 순서에서 뒤에 있는 경우는, 고정된 계수로 이루어지는 고정식인 식 2a를 선택하고, 그 이외는 고정된 계수로 이루어지는 고정식인 식 2b를 선택하여, 예측 화상을 생성한다는 것을 설명했다. 한편, 도 41에 나타낸 예에서, 전환을 행하지 않는다고 지시된 경우는, 제1 참조 인덱스에 의해 지정되는 픽처가 제2 참조 인덱스에 의해 지정되는 픽처보다도 부호화 순서에서 뒤에 있는 경우라도, 고정된 계수로 이루어지는 고정식인 식 2b를 선택하여, 예측 화상을 생성하도록 하는 것을 의미한다.
고정식 2a와 고정식 2b를 전환하는지 여부의 선택도 명시적으로 행하기 위한 플래그 v_flag의 정보는 부호열 생성부(103)로부터 출력되어 도 41(a)에 나타낸 바와 같이 부호열중에 기술된다.
도 41(b)에 플래그 v_flag에 의한 처리의 예를 나타낸다. 도 41(b)에 나타낸 바와 같이 플래그 v_flag가 1일 때, 파라미터의 부호화는 행하지 않고(부호화 장치에서 파라미터는 다운로드되지 않는다. 이하 동일), 고정식 2의 전환은 행하지 않는다. 또, 플래그 v_flag가 01일 때, 파라미터의 부호화는 행하지 않고, 고정식 2의 전환은 행한다. 또, 플래그 v_flag가 0000일 때, 파라미터의 부호화는 파라미터 C만 행하고, 고정식 2의 전환은 행하지 않는다.
또, 플래그 v_flag가 0001일 때, 파라미터의 부호화는 파라미터 C만 행하고, 고정식 2의 전환을 행한다. 또, 플래그 v_flag가 0010일 때, 파라미터의 부호화는 파라미터 전부에 대해 행하고, 고정식 12의 전환은 행하지 않는다. 또, 플래그 v_flag가 0011일 때, 파라미터의 부호화는 파라미터 전부에 대해 행하고, 고정식 12의 전환을 행한다.
또한, v_flag가 0010 및 0011일 때는 파라미터 모두가 부호화되어 있으므로, 고정식을 사용하지 않고, 가중 파라미터를 사용한 선형 예측을 행하는 것이 가능하고, 그 경우는 고정식을 전환하여 사용하는지 여부의 판별은 무시된다.
또한, 플래그 v_flag의 전환은, 도 1에 나타낸 부호화 장치에서는 움직임 보상 부호화부(107)에서 행하고, 도 2에 나타낸 복호화 장치에서는 움직임 보상 복호화부(204)에서 행할 수 있다. 또, 플래그 v_flag가 아니라, 상기의 플래그 p_flag와 플래그 c_flag에 더해, 고정식을 전환하는지 여부를 나타내는 플래그 d_flag를 사용하도록 해도 된다.
이상에서 나타낸 바와 같이, 플래그를 사용함으로써, 파라미터를 부호화 장치에서 부호화하고, 부호화된 파라미터를 복호화 장치에서 수신(다운로드)하는지 여부를 전환할 수 있게 된다. 이에 의해, 어플리케이션의 특성이나, 복호화 장치측의 처리 능력에 따라, 부호화하는(수신시키는) 파라미터를 명시적으로 전환할 수 있다.
또, 고정식의 전환을 명시적으로 변경 가능하게 함으로써, 화질의 향상을 도모하는 수단이 늘어나고, 나아가서는 부호화 효율의 향상도 도모하는 것이 가능해진다. 또, 복호화 장치에서 갖고 있지 않은 고정식이 있는 경우라도, 명시적으로 고정식을 변경함으로써, 명시적으로 선택한 고정식에 의한 예측 화상의 생성이 가능해진다.
또한, 도 40중의 플래그의 배치는 도시하는 것에 한정되지 않는다. 또, 플래그의 값은 상기에서 설명한 것에 한정되지 않는다. 또, 2종류의 플래그를 사용하면, 4가지의 파라미터의 사용법을 명시하는 것이 가능해지므로, 상기에서 설명한 이외의 파라미터의 사용법을 할당하도록 해도 된다. 또, 상기의 예에서 모든 파라미터를 보낸다고 설명했으나, 예를 들면 도 10 및 도 20에서 설명한 바와 같이 필요한 파라미터 세트를 모두 보내도록 해도 된다.
(실시형태 12)
또한, 상기 각 실시형태에서 나타낸 화상 부호화 방법 또는 화상 복호화 방법을 실현하기 위한 프로그램을, 플렉시블 디스크 등의 기억 매체에 기록하도록 함으로써, 상기 각 실시형태에서 나타낸 처리를, 독립된 컴퓨터 시스템에서 간단히 실시하는 것이 가능해진다.
도 25는 상기 실시형태 1부터 실시형태 11의 화상 부호화 방법 또는 화상 복호화 방법을 저장한 플렉시블 디스크를 사용하여, 컴퓨터 시스템에 의해 실시하는 경우의 설명도이다.
도 25(b)는 플렉시블 디스크의 정면에서 본 외관, 단면 구조, 및 플렉시블 디스크를 도시하고, 도 25(a)는 기록 매체 본체인 플렉시블 디스크의 물리 포맷의 예를 나타내고 있다. 플렉시블 디스크는 케이스(F) 내에 내장되고, 이 디스크의 표면에는, 동심원상으로 외주로부터는 내주를 향해 다수의 트랙(Tr)이 형성되고, 각 트랙은 각도 방향으로 16의 섹터(Se)로 분할되어 있다. 따라서, 상기 프로그램을 저장한 플렉시블 디스크에서는, 상기 플렉시블 디스크(FD) 상에 할당된 영역에, 상기 프로그램으로서의 화상 부호화 방법이 기록되어 있다.
또, 도 25(c)는, 플렉시블 디스크(FD)에 상기 프로그램의 기록 재생을 행하기 위한 구성을 도시한다. 상기 프로그램을 플렉시블 디스크(FD)에 기록하는 경우는, 컴퓨터 시스템(Cs)으로부터 상기 프로그램으로서의 화상 부호화 방법 또는 화상 복호화 방법을 플렉시블 디스크 드라이브를 통해 기입한다. 또, 플렉시블 디스크 내의 프로그램에 의해 상기 화상 부호화 방법을 컴퓨터 시스템중에 구축하는 경우는, 플렉시블 디스크 드라이브에 의해 프로그램을 플렉시블 디스크로부터 읽어 내어, 컴퓨터 시스템에 전송한다.
또한, 상기 설명에서는, 기록 매체로서 플렉시블 디스크를 사용하여 설명했으나, 광디스크를 사용해도 동일하게 행할 수 있다. 또, 기록 매체는 이것에 한정되지 않고, IC 카드, ROM 카세트 등, 프로그램을 기록할 수 있는 것이면 동일하게 실시할 수 있다.
(실시형태 13)
도 26부터 도 29는, 상기 실시형태에서 나타낸 부호화 처리 또는 복호화 처리를 행하는 기기, 및 이 기기를 사용한 시스템을 설명하는 도면이다.
도 26은, 컨텐츠 배송 서비스를 실현하는 컨텐츠 공급 시스템(ex100)의 전체 구성을 도시한 블록도이다. 통신 서비스의 제공 영역을 원하는 크기로 분할하고, 각 셀 내에 각각 고정 무선국인 기지국(ex107∼ex110)이 설치되어 있다.
이 컨텐츠 공급 시스템(ex100)은, 예를 들면 인터넷(ex101)에 인터넷 서비스 프로바이더(ex102) 및 전화망(ex104), 및 기지국(ex107∼ex110)을 통해, 컴퓨터 (ex111), PDA(personal digital assistant)(ex112), 카메라(ex113), 휴대전화(ex114), 카메라 부착 휴대전화(ex115) 등의 각 기기가 접속된다.
그러나, 컨텐츠 공급 시스템(ex100)은 도 26과 같은 조합에 한정되지 않고, 어느 하나를 조합하여 접속하도록 해도 된다. 또, 고정 무선국인 기지국(ex107∼ex110)을 통하지 않고, 각 기기가 전화망(ex104)에 직접 접속되어도 된다.
카메라(ex113)는 디지털 비디오 카메라 등의 동화상 촬영이 가능한 기기이다. 또, 휴대전화는, PDC(Personal Digital Communications) 방식, CDMA(Code Division Multiple Access) 방식, W-CDMA(Wideband-Code Division Multiple Access) 방식, 또는 GSM(Global System for Mobile Communications) 방식의 휴대전화기, 또는 PHS(Personal Handyphone System) 등이고, 어느 것이어도 상관없다.
또, 스트리밍 서버(ex103)는, 카메라(ex113)로부터 기지국(ex109), 전화망(ex104)을 통해 접속되어 있고, 카메라(ex113)를 사용하여 사용자가 송신하는 부호화 처리된 데이터에 기초한 라이브 배송 등이 가능하게 된다. 촬영한 데이터의 부호화 처리는 카메라(ex113)로 행해도 되고, 데이터의 송신 처리를 하는 서버 등으로 행해도 된다.
또, 카메라(ex116)로 촬영한 동화상 데이터는 컴퓨터(ex111)를 통해 스트리밍 서버(ex103)에 송신되어도 된다. 카메라(ex116)는 디지털 카메라 등의 정지화상, 동화상이 촬영 가능한 기기이다. 이 경우, 동화상 데이터의 부호화는 카메라(ex116)로 행하거나 컴퓨터(ex111)로 행하거나 어느 쪽이어도 된다. 또, 부호화 처리는 컴퓨터(ex111)나 카메라(ex116)가 갖는 LSI(ex117)에서 처리하게 된다.
또한, 화상 부호화·복호화용의 소프트웨어를 컴퓨터(ex111) 등으로 읽기 가능한 기록 매체인 어떠한 축적 미디어(CD-ROM, 플렉시블 디스크, 하드 디스크 등)에 설치해도 된다. 또한, 카메라 부착 휴대전화(ex115)로 동화상 데이터를 송신해도 된다. 이 때의 동화상 데이터는 휴대전화(ex115)가 갖는 LSI에서 부호화 처리된 데이터이다.
이 컨텐츠 공급 시스템(ex100)에서는, 사용자가 카메라(ex113), 카메라(ex116) 등으로 촬영하고 있는 컨텐츠(예를 들면, 음악 라이브를 촬영한 영상 등)를 상기 실시형태와 동일하게 부호화 처리하여 스트리밍 서버(ex103)에 송신하는 한편, 스트리밍 서버(ex103)는 요구가 있었던 클라이언트에 대해 상기 컨텐츠 데이터를 스트림 배송한다. 클라이언트로는, 상기 부호화 처리된 데이터를 복호화하는 것이 가능한, 컴퓨터(ex111), PDA(ex112), 카메라(ex113), 휴대전화(ex114) 등이 있다. 이렇게 함으로써 컨텐츠 공급 시스템(ex100)은, 부호화된 데이터를 클라이언트에서 수신하여 재생할 수 있고, 또한 클라이언트에서 실시간으로 수신하여 복호화하여 재생함으로써, 개인 방송도 실현 가능하게 되는 시스템이다.
이 시스템을 구성하는 각 기기의 부호화, 복호화에는 상기 각 실시형태에서 나타낸 화상 부호화 방법 또는 화상 복호화 방법을 사용하도록 하면 된다.
그 일례로서 휴대전화에 대해 설명한다.
도 27은, 상기 실시형태에서 설명한 동화상 부호화 방법과 동화상 복호화 방법을 사용한 휴대전화(ex115)를 도시하는 도면이다. 휴대전화(ex115)는, 기지국(ex110)과의 사이에서 전파를 송수신하기 위한 안테나(ex201), CCD 카메라 등의 영상, 정지화상을 찍는 것이 가능한 카메라부(ex203), 카메라부(ex203)로 촬영한 영상, 안테나(ex201)에서 수신한 영상 등이 복호화된 데이터를 표시하는 액정 디스플레이 등의 표시부(ex202), 조작 키(ex204)군으로 구성되는 본체부, 음성 출력을 하기 위한 스피커 등의 음성 출력부(ex208), 음성 입력을 하기 위한 마이크 등의 음성 입력부(ex205), 촬영한 동화상 또는 정지화상의 데이터, 수신한 메일의 데이터, 동화상의 데이터 또는 정지화상의 데이터 등, 부호화된 데이터 또는 복호화된 데이터를 저장하기 위한 기록 미디어(ex207), 휴대전화(ex115)에 기록 미디어(ex207)를 장착 가능하게 하기 위한 슬롯부(ex206)를 갖고 있다. 기록 미디어(ex207)는 SD 카드 등의 플라스틱 케이스 내에 전기적으로 다시쓰기나 소거가 가능한 불휘발성 메모리인 EEPROM(Electrically Erasable and Programmable Read Only Memory)의 일종인 플래쉬 메모리 소자를 저장한 것이다.
또한, 휴대전화(ex115)에 대해 도 28을 사용하여 설명한다. 휴대전화(ex115)는 표시부(ex202) 및 조작 키(ex204)를 구비한 본체부의 각 부를 통괄적으로 제어하도록 이루어진 주제어부(ex311)에 대해, 전원 회로부(ex310), 조작 입력 제어부(ex304), 화상 부호화부(ex312), 카메라 인터페이스부(ex303), LCD(Liquid Crystal Display) 제어부(ex302), 화상 복호화부(ex309), 다중 분리부(ex308), 기록 재생부(ex307), 변복조 회로부(ex306) 및 음성 처리부(ex305)가 동기 버스(ex313)를 통해 서로 접속되어 있다.
전원 회로부(ex310)는, 사용자의 조작에 의해 엔드 및 전원 키가 ON 상태가 되면, 배터리 팩으로부터 각 부에 대해 전력을 공급함으로써 카메라 부착 디지털 휴대전화(ex115)를 동작 가능한 상태로 기동한다.
휴대전화(ex115)는, CPU, ROM 및 RAM 등으로 이루어지는 주제어부(ex311)의 제어에 기초하여, 음성 통화 모드시에 음성 입력부(ex205)에서 집음한 음성 신호를 음성 처리부(ex305)에 의해 디지털 음성 데이터로 변환하고, 이것을 변복조 회로부(ex306)에서 스펙트럼 확산 처리하여, 송수신 회로부(ex301)에서 디지털 아날로그 변환 처리 및 주파수 변환 처리를 실시한 뒤에 안테나(ex201)를 통해 송신한다. 또 휴대전화기(ex115)는, 음성 통화 모드시에 안테나(ex201)로 수신한 수신 데이터를 증폭하여 주파수 변환 처리 및 아날로그 디지털 변환 처리를 실시하여, 변복조 회로부(ex306)에서 스펙트럼 역확산 처리하고, 음성 처리부(ex305)에 의해 아날로그 음성 신호로 변환한 뒤, 이것을 음성 출력부(ex208)를 통해 출력한다.
또한, 데이터 통신 모드시에 이메일을 송신하는 경우, 본체부의 조작 키(ex204)의 조작에 의해 입력된 이메일의 텍스트 데이터는 조작 입력 제어부(ex304)를 통해 주제어부(ex311)에 송출된다. 주제어부(ex311)는, 텍스트 데이터를 변복조 회로부(ex306)에서 스펙트럼 확산 처리하여, 송수신 회로부(ex301)에서 디지털 아날로그 변환 처리 및 주파수 변환 처리를 실시한 뒤에 안테나(ex201)를 통해 기지국(ex110)으로 송신한다.
데이터 통신 모드시에 화상 데이터를 송신하는 경우, 카메라부(ex203)로 촬상된 화상 데이터를 카메라 인터페이스부(ex303)를 통해 화상 부호화부(ex312)에 공급한다. 또, 화상 데이터를 송신하지 않는 경우에는, 카메라부(ex203)로 촬상한 화상 데이터를 카메라 인터페이스부(ex303) 및 LCD 제어부(ex302)를 통해 표시부(ex202)에 직접 표시하는 것도 가능하다.
화상 부호화부(ex312)는, 본원 발명에서 설명한 화상 부호화 장치를 구비한 구성이고, 카메라부(ex203)로부터 공급된 화상 데이터를 상기 실시형태에서 나타낸 화상 부호화 장치에 사용한 부호화 방법에 의해 압축 부호화함으로써 부호화 화상 데이터로 변환하고, 이것을 다중 분리부(ex308)에 송출한다. 또, 이 때 동시에 휴대전화기(ex115)는, 카메라부(ex203)로 촬상중에 음성 입력부(ex205)에서 집음한 음성을 음성 처리부(ex305)를 통해 디지털의 음성 데이터로서 다중 분리부(ex308)에 송출한다.
다중 분리부(ex308)는, 화상 부호화부(ex312)로부터 공급된 부호화 화상 데이터와 음성 처리부(ex305)로부터 공급된 음성 데이터를 소정의 방식으로 다중화하여, 그 결과 얻어지는 다중화 데이터를 변복조 회로부(ex306)에서 스펙트럼 확산 처리하여, 송수신 회로부(ex301)에서 디지털 아날로그 변환 처리 및 주파수 변환 처리를 실시한 뒤에 안테나(ex201)를 통해 송신한다.
데이터 통신 모드시에 홈페이지 등에 링크된 동화상 파일의 데이터를 수신하는 경우, 안테나(ex201)를 통해 기지국(ex110)으로부터 수신한 수신 신호를 변복조 회로부(ex306)에서 스펙트럼 역확산 처리하여, 그 결과 얻어지는 다중화 데이터를 다중 분리부(ex308)에 송출한다.
또, 안테나(ex201)를 통해 수신된 다중화 데이터를 복호화하기 위해서는, 다중 분리부(ex308)는, 다중화 데이터를 분리함으로써 화상 데이터의 부호화 비트 스트림과 음성 데이터의 부호화 비트 스트림으로 나누어, 동기 버스(ex313)를 통해 해당 부호화 화상 데이터를 화상 복호화부(ex309)에 공급하는 동시에 해당 음성 데이터를 음성 처리부(ex305)에 공급한다.
다음으로, 화상 복호화부(ex309)는, 본원 발명에서 설명한 화상 복호화 장치를 구비한 구성이고, 화상 데이터의 부호화 비트 스트림을 상기 실시형태에서 나타낸 부호화 방법에 대응한 복호화 방법으로 복호함으로써 재생 동화상 데이터를 생성하여, 이것을 LCD 제어부(ex302)를 통해 표시부(ex202)에 공급하고, 이에 의해 예를 들면 홈페이지에 링크된 동화상 파일에 포함되는 동화상 데이터가 표시된다. 이 때 동시에 음성 처리부(ex305)는, 음성 데이터를 아날로그 음성 신호로 변환한 뒤, 이것을 음성 출력부(ex208)에 공급하고, 이에 의해 예를 들면 홈페이지에 링크된 동화상 파일에 포함되는 음성 데이터가 재생된다.
또한, 상기 시스템의 예에 한정되지 않고, 최근은 위성, 지상파에 의한 디지털 방송이 화제가 되고 있고, 도 29에 도시하는 바와 같이 디지털 방송용 시스템에도 상기 실시형태의 적어도 화상 부호화 장치 또는 화상 복호화 장치 중 어느 하나를 장착할 수 있다. 구체적으로는, 방송국(ex409)에서는 영상 정보의 부호화 비트 스트림이 전파를 통해 통신 또는 방송 위성(ex410)에 전송된다. 이것을 받은 방송 위성(ex410)은, 방송용의 전파를 발신하여, 이 전파를 위성 방송 수신 설비를 갖는 가정의 안테나(ex406)로 수신하여, TV(수신기)(ex401) 또는 셋탑 박스(STB)(ex407) 등의 장치에 의해 부호화 스트림을 복호화하여 이것을 재생한다.
또, 기록 매체인 CD나 DVD 등의 축적 미디어(ex402)에 기록한 부호화 비트 스트림을 읽어 내어, 복호화하는 재생 장치 (ex403)에도 상기 실시형태에서 나타낸 화상 복호화 장치를 실장하는 것이 가능하다. 이 경우, 재생된 영상 신호는 모니터(ex404)에 표시된다. 또, CATV용의 케이블(ex405) 또는 위성/지상파 방송의 안테나(ex406)에 접속된 셋탑 박스(ex407) 내에 화상 복호화 장치를 실장하여, 이것을 TV의 모니터(ex408)로 재생하는 구성도 생각할 수 있다. 이 때 셋탑 박스가 아니라, TV 내에 화상 복호화 장치를 장착해도 된다. 또, 안테나(ex411)를 갖는 차(ex412)에서 위성(ex410)으로부터 또는 기지국 (ex107) 등으로부터 신호를 수신하여, 차(ex412)가 갖는 카 네비게이션(ex413) 등의 표시 장치에 동화상을 재생하는 것도 가능하다.
또한, 화상 신호를 상기 실시형태에서 나타낸 화상 부호화 장치로 부호화하여, 기록 매체에 기록할 수도 있다. 구체예로서는, DVD 디스크(ex421)에 화상 신호를 기록하는 DVD 레코더나, 하드 디스크에 기록하는 디스크 레코더 등의 레코더 (ex420)가 있다. 또한 SD 카드(ex422)에 기록할 수도 있다. 레코더(ex420)가 상기 실시형태에서 나타낸 화상 복호화 장치를 구비하고 있으면, DVD 디스크(ex421)나 SD 카드(ex422)에 기록한 화상 신호를 재생하여, 모니터(ex408)로 표시할 수 있다.
또한, 카 네비게이션(ex413)의 구성은 예를 들면 도 28에 도시한 구성 중, 카메라부(ex203)와 카메라 인터페이스부(ex303), 화상 부호화부(ex312)를 제외한 구성을 생각할 수 있고, 동일한 것을 컴퓨터(ex111)나 TV(수신기)(ex401) 등에서도 생각할 수 있다.
또, 상기 휴대전화(ex114) 등의 단말은, 부호화기·복호화기를 모두 갖는 송수신형의 단말 외에, 부호화기만의 송신 단말, 복호화기만의 수신 단말의 3가지의 실장 형식을 생각할 수 있다.
이렇게, 상기 실시형태에서 나타낸 동화상 부호화 방법 또는 동화상 복호화 방법을 상술한 모든 기기·시스템에 사용하는 것은 가능하고, 그렇게 함으로써 상기 실시형태에서 설명한 효과를 얻을 수 있다.

Claims (4)

  1. 부호화가 끝난 픽쳐를, 참조 인덱스로 식별되는 참조 픽쳐로서 저장하는 참조 픽쳐 저장 단계와,
    저장된 복수의 참조 픽쳐와 복수의 참조 인덱스를 대응시키는 코맨드를 생성하는 코맨드 생성 단계와,
    예측 화상의 생성에 이용되는 가중 계수를 결정하는 단계와,
    부호화 대상 픽쳐내의 블록을 움직임 보상에 의해 부호화 할 때에 참조되는 참조 픽쳐를, 상기 참조 픽쳐에 대응하는 참조 인덱스에 의해 지정하는 참조 픽쳐 지정 단계와,
    상기 부호화 대상 픽쳐내의 블록을 움직임 보상에 의해 부호화 할 때에 얻어진 참조 블록의 화소치에 대해서, 상기 참조 픽쳐에 대응하는 참조 인덱스에 대응한 가중 계수를 이용한 선형 예측을 실시함으로써, 예측 화상을 생성하는 예측 화상 생성 단계와,
    상기 부호화 대상 픽쳐내의 블록과 상기 예측 화상의 차인 예측잔차를 생성하는 단계와,
    상기 예측잔차와 상기 코맨드와 상기 참조 인덱스와 상기 가중 계수를 부호화하여 얻어진 부호화 신호를 포함하는 화상 부호화 신호를 출력하는 부호화 신호 출력 단계를 가지고,
    상기 부호화 신호 출력 단계에서, 또한 상기 참조 인덱스의 최대치를 나타내는 정보를 부호화하여, 상기 화상 부호화 신호에 포함시키는 것을 특징으로 하는 화상 부호화 방법.
  2. 청구항 1에 있어서,
    상기 참조 인덱스의 최대치를 나타내는 정보는, 상기 화상 부호화 신호에 포함되는 픽쳐 공통 정보 영역에 놓여져 있는 것을 특징으로 하는 화상 부호화 방법.
  3. 부호화가 끝난 픽쳐를, 참조 인덱스로 식별되는 참조 픽쳐로서 저장하는 참조 픽쳐 기억 수단과,
    저장된 복수의 참조 픽쳐와 복수의 참조 인덱스를 대응시키는 코맨드를 생성하는 코맨드 생성 수단과,
    예측 화상의 생성에 이용되는 가중 계수를 결정하는 수단과,
    부호화 대상 픽쳐내의 블록을 움직임 보상에 의해 부호화할 때에 참조되는 참조 픽쳐를, 상기 참조 픽쳐에 대응하는 참조 인덱스에 의해 지정하는 참조 픽쳐 지정 수단과,
    상기 부호화 대상 픽쳐내의 블록을 움직임 보상에 의해 부호화할 때에 얻어진 참조 블록의 화소치에 대해서, 상기 참조 픽쳐에 대응하는 참조 인덱스에 대응한 가중 계수를 이용한 선형 예측을 실시함으로써, 예측 화상을 생성하는 예측 화상 생성 수단과,
    상기 부호화 대상 픽쳐내의 블록과 상기 예측 화상의 차인 예측잔차를 생성하는 수단과,
    상기 예측잔차와 상기 코맨드와 상기 참조 인덱스와 상기 가중 계수를 부호화해 얻어진 부호화 신호를 포함하는 화상 부호화 신호를 출력하는 부호화 신호 출력 수단을 가지고,
    상기 부호화 신호 출력 수단은, 또한 상기 참조 인덱스의 최대치를 나타내는 정보를 부호화하여, 상기 화상 부호화 신호에 포함시키는 것을 특징으로 하는 화상 부호화 장치.
  4. 컴퓨터 판독 가능한 프로그램을 기록하는 기록 매체로서,
    상기 프로그램은,
    부호화가 끝난 픽쳐를, 참조 인덱스로 식별되는 참조 픽쳐로서 저장하는 참조 픽쳐 저장 단계와,
    저장된 복수의 참조 픽쳐와 복수의 참조 인덱스를 대응시키는 코맨드를 생성하는 코맨드 생성 단계와,
    예측 화상의 생성에 이용되는 가중 계수를 결정하는 단계와,
    부호화 대상 픽쳐내의 블록을 움직임 보상에 의해 부호화 할 때에 참조되는 참조 픽쳐를, 상기 참조 픽쳐에 대응하는 참조 인덱스에 의해 지정하는 참조 픽쳐 지정 단계와,
    상기 부호화 대상 픽쳐내의 블록을 움직임 보상에 의해 부호화 할 때에 얻어진 참조 블록의 화소치에 대해서, 상기 참조 픽쳐에 대응하는 참조 인덱스에 대응한 가중 계수를 이용한 선형 예측을 실시함으로써, 예측 화상을 생성하는 예측 화상 생성 단계와,
    상기 부호화 대상 픽쳐내의 블록과 상기 예측 화상의 차인 예측잔차를 생성하는 단계와,
    상기 예측잔차와 상기 코맨드와 상기 참조 인덱스와 상기 가중 계수를 부호화하여 얻어진 부호화 신호를 포함하는 화상 부호화 신호를 출력하는 부호화 신호 출력 단계를 가지고,
    상기 부호화 신호 출력 단계에서, 또한 상기 참조 인덱스의 최대치를 나타내는 정보를 부호화하여, 상기 화상 부호화 신호에 포함시키는 화상 부호화 방법을,
    컴퓨터에 실행시키는 것을 특징으로 하는 기록 매체.
KR1020107011290A 2002-08-08 2003-07-22 동화상의 부호화 방법 및 복호화 방법 KR101000635B1 (ko)

Applications Claiming Priority (12)

Application Number Priority Date Filing Date Title
JPJP-P-2002-232160 2002-08-08
JP2002232160 2002-08-08
JP2002273992 2002-09-19
JPJP-P-2002-273992 2002-09-19
JP2002289294 2002-10-01
JPJP-P-2002-289294 2002-10-01
JP2002296726 2002-10-09
JPJP-P-2002-296726 2002-10-09
JP2002370722 2002-12-20
JPJP-P-2002-370722 2002-12-20
JPJP-P-2003-008751 2003-01-16
JP2003008751 2003-01-16

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020087016268A Division KR100976017B1 (ko) 2002-08-08 2003-07-22 동화상의 부호화 방법 및 복호화 방법

Publications (2)

Publication Number Publication Date
KR20100082015A KR20100082015A (ko) 2010-07-15
KR101000635B1 true KR101000635B1 (ko) 2010-12-10

Family

ID=31721895

Family Applications (5)

Application Number Title Priority Date Filing Date
KR1020107011290A KR101000635B1 (ko) 2002-08-08 2003-07-22 동화상의 부호화 방법 및 복호화 방법
KR1020047003839A KR100969057B1 (ko) 2002-08-08 2003-07-22 동화상의 부호화 방법 및 복호화 방법
KR1020107011291A KR101011561B1 (ko) 2002-08-08 2003-07-22 동화상의 부호화 방법 및 복호화 방법
KR1020087016268A KR100976017B1 (ko) 2002-08-08 2003-07-22 동화상의 부호화 방법 및 복호화 방법
KR1020107011292A KR101000609B1 (ko) 2002-08-08 2003-07-22 동화상의 부호화 방법 및 복호화 방법

Family Applications After (4)

Application Number Title Priority Date Filing Date
KR1020047003839A KR100969057B1 (ko) 2002-08-08 2003-07-22 동화상의 부호화 방법 및 복호화 방법
KR1020107011291A KR101011561B1 (ko) 2002-08-08 2003-07-22 동화상의 부호화 방법 및 복호화 방법
KR1020087016268A KR100976017B1 (ko) 2002-08-08 2003-07-22 동화상의 부호화 방법 및 복호화 방법
KR1020107011292A KR101000609B1 (ko) 2002-08-08 2003-07-22 동화상의 부호화 방법 및 복호화 방법

Country Status (9)

Country Link
US (15) US7308145B2 (ko)
EP (13) EP2903277B1 (ko)
KR (5) KR101000635B1 (ko)
CN (7) CN101873492B (ko)
DK (2) DK1530374T3 (ko)
ES (10) ES2653437T3 (ko)
HU (2) HUE047568T2 (ko)
PT (4) PT2903277T (ko)
WO (1) WO2004015999A1 (ko)

Families Citing this family (71)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7003035B2 (en) 2002-01-25 2006-02-21 Microsoft Corporation Video coding methods and apparatuses
US20040001546A1 (en) 2002-06-03 2004-01-01 Alexandros Tourapis Spatiotemporal prediction for bidirectionally predictive (B) pictures and motion vector prediction for multi-picture reference motion compensation
US8406301B2 (en) * 2002-07-15 2013-03-26 Thomson Licensing Adaptive weighting of reference pictures in video encoding
US7903742B2 (en) * 2002-07-15 2011-03-08 Thomson Licensing Adaptive weighting of reference pictures in video decoding
US7154952B2 (en) * 2002-07-19 2006-12-26 Microsoft Corporation Timestamp-independent motion vector prediction for predictive (P) and bidirectionally predictive (B) pictures
ES2653437T3 (es) * 2002-08-08 2018-02-07 Godo Kaisha Ip Bridge 1 Procedimiento de descodificación de imágenes en movimiento
CA2500301C (en) * 2002-10-01 2013-05-14 Thomson Licensing S.A. Implicit weighting of reference pictures in a video decoder
BRPI0306987B1 (pt) 2002-11-20 2018-04-03 Godo Kaisha Ip Bridge 1 “Método de prognóstico de imagem em movimento”
JP2004179687A (ja) * 2002-11-22 2004-06-24 Toshiba Corp 動画像符号化/復号化方法及び装置
CN101677383B (zh) * 2004-04-28 2013-05-29 松下电器产业株式会社 流生成装置和方法,流再现装置、方法和系统,流记录方法
US8731054B2 (en) 2004-05-04 2014-05-20 Qualcomm Incorporated Method and apparatus for weighted prediction in predictive frames
US20060083298A1 (en) * 2004-10-14 2006-04-20 Nokia Corporation Reference picture management in video coding
CA2594118C (en) * 2004-12-08 2015-07-21 Imagine Communications Ltd. Distributed statistical multiplexing of multi-media
KR100703749B1 (ko) * 2005-01-27 2007-04-05 삼성전자주식회사 잔차 재 추정을 이용한 다 계층 비디오 코딩 및 디코딩방법, 이를 위한 장치
TWI280803B (en) * 2005-07-20 2007-05-01 Novatek Microelectronics Corp Method and apparatus for motion estimation
US8233535B2 (en) 2005-11-18 2012-07-31 Apple Inc. Region-based processing of predicted pixels
CN101455087B (zh) * 2006-05-24 2011-01-12 松下电器产业株式会社 图像编码装置、图像编码方法及图像编码用集成电路
JP2010506440A (ja) * 2006-09-30 2010-02-25 トムソン ライセンシング ビデオのカラーエンハンスメント層をエンコード及びデコードする方法及び装置
US8256005B2 (en) * 2007-01-08 2012-08-28 Apple Inc. Protection of audio or video data in a playback device
JP2008177907A (ja) * 2007-01-19 2008-07-31 Fujitsu Ltd 動画データ復号装置、情報機器、動画データ復号方法および動画データ復号プログラム
US8494049B2 (en) * 2007-04-09 2013-07-23 Cisco Technology, Inc. Long term reference frame management with error video feedback for compressed video communication
US8254455B2 (en) * 2007-06-30 2012-08-28 Microsoft Corporation Computing collocated macroblock information for direct mode macroblocks
AU2007237313A1 (en) * 2007-12-03 2009-06-18 Canon Kabushiki Kaisha Improvement for error correction in distributed vdeo coding
US8270483B1 (en) * 2008-01-18 2012-09-18 Maxim Integrated Products, Inc. Method and apparatus for applying accurate parameter estimation and efficient fade detection in weighted prediction for video compression
US20100303155A1 (en) * 2008-01-29 2010-12-02 Yuki Maruyama Image coding device, image coding method, image coding integrated circuit and image coding program
KR101353304B1 (ko) * 2008-10-24 2014-01-21 에스케이 텔레콤주식회사 적응적 보간 필터 계수를 이용한 영상 부호화/복호화 방법 및 장치
US8189666B2 (en) * 2009-02-02 2012-05-29 Microsoft Corporation Local picture identifier and computation of co-located information
US20110023548A1 (en) 2009-07-29 2011-02-03 Garner Sean M Glass substrate comprising an edge web portion
US9571851B2 (en) * 2009-09-25 2017-02-14 Sk Telecom Co., Ltd. Inter prediction method and apparatus using adjacent pixels, and image encoding/decoding method and apparatus using same
CN103826131B (zh) * 2010-04-08 2017-03-01 株式会社东芝 图像解码方法以及图像解码装置
WO2011125211A1 (ja) 2010-04-08 2011-10-13 株式会社 東芝 画像符号化方法及び画像復号化方法
CN107071409A (zh) * 2010-05-13 2017-08-18 夏普株式会社 预测图像生成装置
KR101341993B1 (ko) 2010-10-06 2013-12-16 에스케이텔레콤 주식회사 고정밀 필터를 이용한 영상 부호화/복호화 방법 및 장치
WO2012047047A2 (ko) * 2010-10-06 2012-04-12 에스케이텔레콤 주식회사 고정밀 필터를 이용한 영상 부호화/복호화 방법 및 장치
EP3554078A1 (en) 2010-12-13 2019-10-16 Electronics and Telecommunications Research Institute Method and device for determining reference unit
JP2014501091A (ja) 2010-12-17 2014-01-16 エレクトロニクス アンド テレコミュニケーションズ リサーチ インスチチュート インター予測方法及びその装置
PL3136727T3 (pl) 2011-04-12 2018-11-30 Sun Patent Trust Sposób kodowania ruchomych obrazów i urządzenie do kodowania ruchomych obrazów
CA2834123C (en) 2011-05-27 2020-02-11 Panasonic Corporation Image coding method, image coding apparatus, image decoding method, image decoding apparatus, and image coding and decoding apparatus
US9485518B2 (en) 2011-05-27 2016-11-01 Sun Patent Trust Decoding method and apparatus with candidate motion vectors
EP4270953A3 (en) 2011-05-31 2023-11-22 Sun Patent Trust Video decoding method, video decoding device
MX2013013508A (es) 2011-06-23 2014-02-27 Panasonic Corp Metodo de decodificacion de imagenes, metodo de codificacion de imagenes, aparato de decodificacion de imagenes, aparato de codificacion de imagenes y aparato de codificacion y decodificacion de imagenes.
EP2725792B1 (en) 2011-06-24 2018-08-22 Sun Patent Trust Image decoding method and image decoding device
TWI581615B (zh) 2011-06-24 2017-05-01 Sun Patent Trust A decoding method, a coding method, a decoding device, an encoding device, and a coding / decoding device
AU2012277214B2 (en) 2011-06-27 2016-05-05 Sun Patent Trust Decoding method, coding method, decoding apparatus, coding apparatus, and coding and decoding apparatus
WO2013001765A1 (ja) 2011-06-28 2013-01-03 パナソニック株式会社 画像復号方法、画像符号化方法、画像復号装置、画像符号化装置及び画像符号化復号装置
WO2013001767A1 (ja) 2011-06-29 2013-01-03 パナソニック株式会社 画像復号方法、画像符号化方法、画像復号装置、画像符号化装置及び画像符号化復号装置
KR102060619B1 (ko) 2011-06-30 2019-12-30 선 페이턴트 트러스트 화상 복호 방법, 화상 부호화 방법, 화상 복호 장치, 화상 부호화 장치 및 화상 부호화 복호 장치
AU2012277220B2 (en) 2011-06-30 2016-08-11 Sun Patent Trust Image decoding method, image coding method, image decoding apparatus, image coding apparatus, and image coding and decoding apparatus
CN106851295B (zh) 2011-07-11 2019-10-18 太阳专利托管公司 编码方法及编码装置
EP2741499A4 (en) 2011-08-03 2014-12-10 Panasonic Ip Corp America VIDEO CODING METHOD, VIDEO CODING METHOD, VIDEO CODING DEVICE, VIDEO ENCODING DEVICE AND VIDEO ENCODING / DECODING DEVICE
MX336653B (es) 2011-10-17 2016-01-27 Toshiba Kk Dispositivo de codificcion, dispositivo de decodificacion, metodo de codificacion, y metodo de decodificacion.
JP5698644B2 (ja) * 2011-10-18 2015-04-08 株式会社Nttドコモ 動画像予測符号化方法、動画像予測符号化装置、動画像予測符号化プログラム、動画像予測復号方法、動画像予測復号装置及び動画像予測復号プログラム
CN103858428B (zh) 2011-10-19 2018-07-03 太阳专利托管公司 图像编码方法、图像编码装置、图像解码方法及图像解码装置
CN110830799B (zh) 2012-01-18 2023-09-15 韩国电子通信研究院 视频解码装置、视频编码装置和传输比特流的方法
MX342497B (es) * 2012-06-29 2016-10-03 Sony Corp Dispositivo de codificacion y metodo de codificacion.
US9374597B2 (en) * 2012-09-26 2016-06-21 Thomson Licensing Inter-image prediction method and device and corresponding encoding method and device
US9628790B1 (en) 2013-01-03 2017-04-18 Google Inc. Adaptive composite intra prediction for image and video compression
JP6365924B2 (ja) * 2013-05-09 2018-08-01 サン パテント トラスト 画像復号方法及び画像復号装置
US9609343B1 (en) 2013-12-20 2017-03-28 Google Inc. Video coding using compound prediction
US10148965B2 (en) * 2015-03-04 2018-12-04 Panasonic Intellectual Property Management Co., Ltd. Moving image coding apparatus and moving image coding method
CN117061736A (zh) 2017-01-13 2023-11-14 谷歌有限责任公司 视频代码化的复合预测
KR102608008B1 (ko) * 2017-05-19 2023-11-30 파나소닉 인텔렉츄얼 프로퍼티 코포레이션 오브 아메리카 부호화 장치, 복호 장치, 부호화 방법 및 복호 방법
US10880573B2 (en) 2017-08-15 2020-12-29 Google Llc Dynamic motion vector referencing for video coding
US10284869B2 (en) 2017-09-28 2019-05-07 Google Llc Constrained motion field estimation for hardware efficiency
US11789874B2 (en) 2018-01-09 2023-10-17 Qualcomm Incorporated Method, apparatus, and system for storing memory encryption realm key IDs
EP3599693A1 (de) * 2018-07-27 2020-01-29 Fronius International GmbH Lichtbogenerkennung
JP7304153B2 (ja) * 2018-12-27 2023-07-06 Kddi株式会社 動画像復号装置、動画像復号方法及びプログラム
CN110147330B (zh) * 2019-05-23 2023-09-01 深圳市创维软件有限公司 一种字模数据的缓存方法、装置、设备和存储介质
CN112584142B (zh) * 2019-09-30 2022-09-30 杭州海康威视数字技术股份有限公司 一种编解码方法、装置及其设备
JP2021061501A (ja) * 2019-10-04 2021-04-15 シャープ株式会社 動画像変換装置及び方法
CN111343462B (zh) * 2020-03-08 2021-10-22 苏州浪潮智能科技有限公司 一种图像数据压缩传输方法、装置及存储介质

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59200592A (ja) * 1983-04-27 1984-11-13 Fuji Photo Film Co Ltd カラ−画像の適応形圧縮方式
JP2853553B2 (ja) * 1994-02-22 1999-02-03 日本電気株式会社 動画像符号化方式
JP3089941B2 (ja) 1994-02-28 2000-09-18 日本ビクター株式会社 画像間予測符号化装置
US5708473A (en) 1994-08-30 1998-01-13 Hughes Aircraft Company Two stage video film compression method and system
KR0181034B1 (ko) * 1995-03-18 1999-05-01 배순훈 특징점 기반 움직임 추정을 이용한 움직임 벡터 검출 방법 및 장치
EP0935395A2 (en) * 1998-02-06 1999-08-11 Sony Corporation Video encoding methods and apparatus
KR20010052624A (ko) * 1999-04-06 2001-06-25 요트.게.아. 롤페즈 움직임 추정
US7253831B2 (en) * 2000-05-10 2007-08-07 Polycom, Inc. Video coding using multiple buffers
JP2001333389A (ja) * 2000-05-17 2001-11-30 Mitsubishi Electric Research Laboratories Inc ビデオ再生システムおよびビデオ信号処理方法
US20040247190A1 (en) * 2001-09-18 2004-12-09 Makoto Hagai Image encoding method and image decoding method
JP4015934B2 (ja) * 2002-04-18 2007-11-28 株式会社東芝 動画像符号化方法及び装置
JP2004007379A (ja) * 2002-04-10 2004-01-08 Toshiba Corp 動画像符号化方法及び動画像復号化方法
CA2574444A1 (en) * 2002-01-18 2003-07-31 Kabushiki Kaisha Toshiba Video encoding method and apparatus and video decoding method and apparatus
KR100508798B1 (ko) * 2002-04-09 2005-08-19 엘지전자 주식회사 쌍방향 예측 블록 예측 방법
PT3525464T (pt) * 2002-04-19 2021-04-06 Panasonic Ip Corp America Método e sistema de codificação e descodificação de imagem
JP2004023458A (ja) 2002-06-17 2004-01-22 Toshiba Corp 動画像符号化/復号化方法及び装置
CN1666532A (zh) * 2002-07-02 2005-09-07 松下电器产业株式会社 图像编码方法和图像解码方法
US7903742B2 (en) * 2002-07-15 2011-03-08 Thomson Licensing Adaptive weighting of reference pictures in video decoding
WO2004012459A1 (ja) * 2002-07-26 2004-02-05 Matsushita Electric Industrial Co., Ltd. 動画像符号化方法、動画像復号化方法および記録媒体
ES2653437T3 (es) * 2002-08-08 2018-02-07 Godo Kaisha Ip Bridge 1 Procedimiento de descodificación de imágenes en movimiento
JP2004179687A (ja) * 2002-11-22 2004-06-24 Toshiba Corp 動画像符号化/復号化方法及び装置
CA2473898C (en) * 2002-11-25 2013-02-12 Matsushita Electric Industrial Co., Ltd. Moving picture coding method and moving picture decoding method
WO2005017759A1 (en) * 2003-07-15 2005-02-24 Thomson Licensing Motion estimation with fast search block matching
JPWO2009041215A1 (ja) * 2007-09-25 2011-01-20 シャープ株式会社 動画像符号化装置及び動画像復号装置
CN104704827B (zh) * 2012-11-13 2019-04-12 英特尔公司 用于下一代视频的内容自适应变换译码
BR112015015575A2 (pt) * 2013-01-30 2020-02-04 Intel Corp particionamento adaptativo ao conteúdo para a previsão e codificação para vídeo da próxima geração

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
T.FuKuhara et al, "Very Low Bit-Rate Video Coding with Block Partitioning and Adaptive Selection of Two Time-differential Frame Memories", IEEE Trans.on Cir.and Sys.for Video tech.,1997, vol.7, No.1.

Also Published As

Publication number Publication date
PT1530374E (pt) 2013-02-06
US7817868B2 (en) 2010-10-19
US20120195514A1 (en) 2012-08-02
US8606027B2 (en) 2013-12-10
WO2004015999A1 (ja) 2004-02-19
ES2636947T3 (es) 2017-10-10
US7813568B2 (en) 2010-10-12
EP2302931A3 (en) 2011-12-07
EP3285486A1 (en) 2018-02-21
ES2401774T3 (es) 2013-04-24
CN101083770A (zh) 2007-12-05
US9113149B2 (en) 2015-08-18
EP1906671A2 (en) 2008-04-02
US8150180B2 (en) 2012-04-03
PT2320659E (pt) 2014-11-13
US20100329350A1 (en) 2010-12-30
CN101883279B (zh) 2012-12-19
DK2903277T3 (en) 2017-09-04
US20160360233A1 (en) 2016-12-08
ES2524117T3 (es) 2014-12-04
EP1906671A3 (en) 2010-03-10
KR100976017B1 (ko) 2010-08-17
EP2824927A3 (en) 2015-10-07
KR20080073368A (ko) 2008-08-08
EP2302931A2 (en) 2011-03-30
US20160360197A1 (en) 2016-12-08
US20140056359A1 (en) 2014-02-27
EP1530374A4 (en) 2007-10-10
US7492952B2 (en) 2009-02-17
CN101873492A (zh) 2010-10-27
EP2928185B1 (en) 2017-09-06
CN101867823B (zh) 2012-05-02
HUE035701T2 (en) 2018-05-28
EP2824927A2 (en) 2015-01-14
ES2656106T3 (es) 2018-02-23
DK1530374T3 (da) 2013-01-21
US9888239B2 (en) 2018-02-06
KR20100082015A (ko) 2010-07-15
CN101873491B (zh) 2011-11-23
CN1568622B (zh) 2010-05-26
HUE047568T2 (hu) 2020-04-28
CN101883279A (zh) 2010-11-10
US7308145B2 (en) 2007-12-11
EP2903277A1 (en) 2015-08-05
ES2767954T3 (es) 2020-06-19
EP3285486B1 (en) 2019-11-06
EP2903272A1 (en) 2015-08-05
EP2903272B1 (en) 2018-03-28
EP2928185A1 (en) 2015-10-07
US20080063288A1 (en) 2008-03-13
US20080063291A1 (en) 2008-03-13
EP1530374A1 (en) 2005-05-11
EP2824927B1 (en) 2017-10-04
EP1530374B1 (en) 2012-12-26
US20130094583A1 (en) 2013-04-18
US20080069461A1 (en) 2008-03-20
KR101000609B1 (ko) 2010-12-10
PT2903277T (pt) 2017-10-06
EP2903278B1 (en) 2017-06-28
US7817867B2 (en) 2010-10-19
KR100969057B1 (ko) 2010-07-09
US8023753B2 (en) 2011-09-20
EP2824928A3 (en) 2015-10-21
EP2903278A1 (en) 2015-08-05
ES2653437T3 (es) 2018-02-07
US20080069462A1 (en) 2008-03-20
ES2638189T3 (es) 2017-10-19
PT2903278T (pt) 2017-09-22
US20110293007A1 (en) 2011-12-01
US9456218B2 (en) 2016-09-27
US20130101045A1 (en) 2013-04-25
KR20100082016A (ko) 2010-07-15
EP2824928B1 (en) 2017-11-01
EP3349447B1 (en) 2019-11-06
CN101867823A (zh) 2010-10-20
EP2824928A2 (en) 2015-01-14
CN101873492B (zh) 2012-05-30
US20180192048A1 (en) 2018-07-05
US9942547B2 (en) 2018-04-10
KR101011561B1 (ko) 2011-01-27
US8355588B2 (en) 2013-01-15
US20050105809A1 (en) 2005-05-19
US20140056351A1 (en) 2014-02-27
EP2903277B1 (en) 2017-07-12
CN101873491A (zh) 2010-10-27
ES2767066T3 (es) 2020-06-16
ES2650068T3 (es) 2018-01-16
EP3349447A1 (en) 2018-07-18
CN1568622A (zh) 2005-01-19
US9002124B2 (en) 2015-04-07
EP2320659B1 (en) 2014-10-01
KR20100082017A (ko) 2010-07-15
CN101873501B (zh) 2012-10-31
KR20050031451A (ko) 2005-04-06
US10321129B2 (en) 2019-06-11
CN101873501A (zh) 2010-10-27
EP3288261A1 (en) 2018-02-28
CN101083770B (zh) 2010-06-16
EP2320659A3 (en) 2011-12-28
EP3288261B1 (en) 2019-11-06
EP2320659A2 (en) 2011-05-11
ES2673393T3 (es) 2018-06-21

Similar Documents

Publication Publication Date Title
KR101000635B1 (ko) 동화상의 부호화 방법 및 복호화 방법
KR100944851B1 (ko) 동화상 부호화 방법 및 동화상 복호화 방법
JP2011091846A (ja) 画像復号化方法、画像復号化装置および記憶媒体
JP4485157B2 (ja) 画像復号化方法および画像復号化装置
JP4485494B2 (ja) 画像復号化方法および画像復号化装置

Legal Events

Date Code Title Description
A107 Divisional application of patent
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20131119

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20141117

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20151118

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20161122

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20171124

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20181126

Year of fee payment: 9