JP2005348318A - Image predictive coding method, image predictive decoding method, image coding device, image decoding device, image coding program,image decoding programs, and computer readable record medium recording those programs - Google Patents

Image predictive coding method, image predictive decoding method, image coding device, image decoding device, image coding program,image decoding programs, and computer readable record medium recording those programs Download PDF

Info

Publication number
JP2005348318A
JP2005348318A JP2004168479A JP2004168479A JP2005348318A JP 2005348318 A JP2005348318 A JP 2005348318A JP 2004168479 A JP2004168479 A JP 2004168479A JP 2004168479 A JP2004168479 A JP 2004168479A JP 2005348318 A JP2005348318 A JP 2005348318A
Authority
JP
Japan
Prior art keywords
prediction mode
prediction
invalid
image
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004168479A
Other languages
Japanese (ja)
Other versions
JP4205636B2 (en
Inventor
Atsushi Shimizu
淳 清水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2004168479A priority Critical patent/JP4205636B2/en
Publication of JP2005348318A publication Critical patent/JP2005348318A/en
Application granted granted Critical
Publication of JP4205636B2 publication Critical patent/JP4205636B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To correct a prediction signal for an invalid prediction mode to raise a selection probability of the invalid prediction mode having a very small selection probability, in order to improve the coding efficiency. <P>SOLUTION: A prediction signal generation portion 15 generates a prediction signal from an encoded image signal in a memory 14. An invalid prediction mode determination portion 16 detects an invalid prediction mode from the generated prediction signal for each prediction mode. A prediction signal correction portion 17 corrects the prediction signal in the detected invalid prediction mode. A prediction mode determination portion 18 computes a coding cost for each prediction mode using the corrected prediction signal and selects a prediction mode with a minimum cost. Then, the prediction signal of the selected prediction mode is sent to a subtractor 10, and a prediction mode information is sent to a coding portion 19. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

本発明は,複数の予測モードを有する映像符号化方式に関し,特に,選択確率が非常に低い予測モードの予測信号を補正して符号化/復号を行う画像予測符号化方法,画像予測復号方法,画像符号化装置,画像復号装置,画像符号化プログラム,画像復号プログラムおよびそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体に関するものである。   The present invention relates to a video encoding method having a plurality of prediction modes, and in particular, an image predictive encoding method, an image predictive decode method, and a method for encoding / decoding by correcting a prediction signal of a prediction mode having a very low selection probability, The present invention relates to an image encoding device, an image decoding device, an image encoding program, an image decoding program, and a computer-readable recording medium on which these programs are recorded.

ITU−T H.264(以下,H.264と記す)では,フレーム内符号化を行う際に,符号化対象ブロックの既符号化近傍ブロックの情報から予測信号を生成し,予測残差を符号化している(非特許文献1参照)。   ITU-TH. In H.264 (hereinafter referred to as H.264), when performing intra-frame coding, a prediction signal is generated from information of an already-encoded neighboring block of a block to be encoded, and a prediction residual is encoded (non-coding) Patent Document 1).

フレーム内符号化は,同一フレーム内の符号化済み画像信号から,符号化対象ブロックの画像信号を予測する方法である。H.264では,予測を行う単位(以下,予測単位という)を4×4画素(4×4ブロック)または16×16画素(16×16ブロック)でフレーム内予測を行う。それぞれの予測単位で4〜9種類の予測方向を選択できる。   Intraframe coding is a method for predicting an image signal of an encoding target block from an encoded image signal in the same frame. H. In H.264, intra-frame prediction is performed using 4 × 4 pixels (4 × 4 blocks) or 16 × 16 pixels (16 × 16 blocks) as a unit for performing prediction (hereinafter referred to as a prediction unit). Four to nine types of prediction directions can be selected for each prediction unit.

図8は,H.264の16×16サイズの予測モードを説明する図である。図8(A)の斜線で示す既符号化済み画像信号から,太線で囲まれた符号化対象ブロックの画像信号を予測する場合,図8(B)〜図8(E)までの4種類の予測モードがある。   FIG. It is a figure explaining the prediction mode of 16 * 16 size of H.264. When predicting an image signal of an encoding target block surrounded by a thick line from an already encoded image signal indicated by a hatched line in FIG. 8A, four types from FIG. 8B to FIG. There is a prediction mode.

図8(B)は,符号化対象ブロックの上部に存在する列の既符号化済み画像信号から符号化対象ブロックの画像信号を予測する垂直方向予測の予測モードである。図8(C)は,符号化対象ブロックの側面部に存在する列の既符号化済み画像信号から符号化対象ブロックの画像信号を予測する水平方向予測の予測モードである。図8(D)は,既符号化済み画像信号の平均値から符号化対象ブロックの画像信号を予測するDC予測の予測モードである。図8(E)は,既符号化済み画像信号から位置に応じて予測値を生成するPlane予測の予測モードである。   FIG. 8B shows a prediction mode for vertical prediction in which the image signal of the encoding target block is predicted from the already encoded image signal of the column existing above the encoding target block. FIG. 8C shows a prediction mode for horizontal prediction in which the image signal of the encoding target block is predicted from the already encoded image signal of the column existing on the side surface portion of the encoding target block. FIG. 8D shows a prediction mode for DC prediction in which the image signal of the block to be encoded is predicted from the average value of the already encoded image signals. FIG. 8E shows a prediction mode of Plane prediction in which a prediction value is generated according to a position from an already encoded image signal.

図9に,H.264の4×4サイズの予測モードを示す。図9(A)のa〜pの符号化対象4×4ブロックを,A〜L,Oの既符号化済み画像信号から予測する。図9(B)はDC予測モードを除いた予測方向を示している。予測モードに応じた予測方向に従って,既符号化済み画像信号から符号化対象4×4ブロックのa〜pの値を予測する。   In FIG. 2 shows a prediction mode of H.264 4 × 4 size. The encoding target 4 × 4 blocks a to p in FIG. 9A are predicted from the already encoded image signals A to L and O. FIG. 9B shows the prediction direction excluding the DC prediction mode. According to the prediction direction corresponding to the prediction mode, the values of a to p of the 4 × 4 block to be encoded are predicted from the already encoded image signal.

図10は,従来の画像符号化装置の構成を示す図である。図10に示すように,画像符号化装置3は,減算器31,予測残差信号符号化部32,予測残差信号復号部33,加算器34,メモリ35,予測信号生成部36,予測モード決定部37,符号化部38を備える。   FIG. 10 is a diagram illustrating a configuration of a conventional image encoding device. As shown in FIG. 10, the image encoding device 3 includes a subtracter 31, a prediction residual signal encoding unit 32, a prediction residual signal decoding unit 33, an adder 34, a memory 35, a prediction signal generation unit 36, a prediction mode. A determination unit 37 and an encoding unit 38 are provided.

画像符号化装置3は,予測信号生成部36で,メモリ35内の符号化済み画像信号から予測信号を生成する。予測モード決定部37では,各予測モードの符号化コストを算出し,最小コストの予測モードを選択する。符号化コストは,後に詳述するように,予測信号と入力信号の予測残差電力,および,各予測モードのオーバヘッド符号量からなる。   In the image encoding device 3, the prediction signal generation unit 36 generates a prediction signal from the encoded image signal in the memory 35. In the prediction mode determination part 37, the encoding cost of each prediction mode is calculated, and the prediction mode of the minimum cost is selected. As will be described in detail later, the coding cost is composed of the prediction residual power of the prediction signal and the input signal, and the overhead code amount of each prediction mode.

予測モード決定部37では,選択した予測モードの予測信号を減算器31へ送り,また予測モード情報を符号化部38へ送る。減算器31では,入力信号と予測信号の差分である予測残差信号を求め,予測残差信号符号化部32では,予測残差信号の直交変換や量子化等の処理を行う。   The prediction mode determination unit 37 sends a prediction signal of the selected prediction mode to the subtracter 31 and sends prediction mode information to the encoding unit 38. The subtractor 31 obtains a prediction residual signal that is the difference between the input signal and the prediction signal, and the prediction residual signal encoding unit 32 performs processing such as orthogonal transformation and quantization of the prediction residual signal.

予測残差信号復号部33では,予測残差信号符号化部32からの出力信号の逆量子化や逆直交変換を行い,予測残差信号を復号する。加算器34では,復号した予測残差信号と,予測信号とを加えて復号画像を生成する。生成した復号画像は,予測信号を生成するためにメモリ35に蓄えられる。   The prediction residual signal decoding unit 33 performs inverse quantization and inverse orthogonal transform on the output signal from the prediction residual signal encoding unit 32 to decode the prediction residual signal. The adder 34 adds the decoded prediction residual signal and the prediction signal to generate a decoded image. The generated decoded image is stored in the memory 35 in order to generate a prediction signal.

図11は,従来の画像復号装置の構成を示す図である。画像復号装置4は,符号化データ復号部41,加算器42,メモリ43,予測信号生成部44を備える。   FIG. 11 is a diagram illustrating a configuration of a conventional image decoding apparatus. The image decoding device 4 includes an encoded data decoding unit 41, an adder 42, a memory 43, and a prediction signal generation unit 44.

画像復号装置4は,符号化データ復号部41において,符号化データを予測残差信号と予測モード情報とに復号する。予測信号生成部44は,符号化データ復号部41からの予測モード情報に基づいて,メモリ43内の復号済み画像信号から,予測信号を生成する。加算器42では,復号した予測残差信号と予測信号とを加えて復号画像を生成する。   In the image decoding device 4, the encoded data decoding unit 41 decodes the encoded data into a prediction residual signal and prediction mode information. The prediction signal generation unit 44 generates a prediction signal from the decoded image signal in the memory 43 based on the prediction mode information from the encoded data decoding unit 41. The adder 42 adds the decoded prediction residual signal and the prediction signal to generate a decoded image.

符号化側の予測モード決定処理について,さらに具体的に説明する。符号化側の予測モード決定処理のフローを図12に示す。H.264参照ソフトウェアでは,予測単位および予測方向を決定する際に,各モードでの予測残差信号電力およびオーバヘッド部の符号量を考慮してフレーム内符号化モードを決定する(非特許文献2参照)。   The prediction mode determination process on the encoding side will be described more specifically. FIG. 12 shows a flow of prediction mode determination processing on the encoding side. H. In the H.264 reference software, when determining the prediction unit and the prediction direction, the intraframe coding mode is determined in consideration of the prediction residual signal power and the code amount of the overhead part in each mode (see Non-Patent Document 2). .

すなわち,予測信号を生成し(ステップS41),オーバヘッド部の符号量を算出し(ステップS42),予測残差電力を算出する(ステップS43)。そして,次の式(1)から予測モード番号iの符号化コストJi を算出する(ステップS44)。 That is, a prediction signal is generated (step S41), the code amount of the overhead part is calculated (step S42), and the prediction residual power is calculated (step S43). Then, the encoding cost J i of the prediction mode number i is calculated from the following equation (1) (step S44).

i =Di +λRi (1)
ここで,Di は予測残差電力,Ri は予測される発生符号量である。λは,量子化ステップサイズによって変動する値である。各予測モードについて,この符号化コストJi を計算し,最小コストの予測モード番号を求め,予測モードを決定する(ステップS45)。求めた予測モード番号は,復号側に伝送される。
J i = D i + λR i (1)
Here, D i is the prediction residual power, and R i is the predicted generated code amount. λ is a value that varies depending on the quantization step size. For each prediction mode, the encoding cost J i is calculated, the prediction mode number of the minimum cost is obtained, and the prediction mode is determined (step S45). The obtained prediction mode number is transmitted to the decoding side.

次に,復号側の処理を説明する。復号側での処理のフローを図13に示す。復号側では,符号化ビットストリームに含まれる予測モード番号を復号し(ステップS51),その予測モード番号が示す予測モードで予測信号を生成し(ステップS52),復号処理を行う(ステップS53)。   Next, processing on the decoding side will be described. FIG. 13 shows a flow of processing on the decoding side. On the decoding side, the prediction mode number included in the encoded bitstream is decoded (step S51), a prediction signal is generated in the prediction mode indicated by the prediction mode number (step S52), and a decoding process is performed (step S53).

このように,最小コストの予測モードで符号化することで,符号化効率を向上させることができる。
ITU-T Rec.H.264,“Advanced video coding for generic audiovisual services”, 2003. H.264 参照ソフトウェア,[online], インターネット,<URL:http://bs.hhi.de/suehring/tml/download/ >
Thus, encoding efficiency can be improved by encoding in the prediction mode of the minimum cost.
ITU-T Rec. H.264, “Advanced video coding for generic audiovisual services”, 2003. H.264 reference software, [online], Internet, <URL: http: //bs.hhi.de/suehring/tml/download/>

従来方法では,符号化効率を向上させるため,オーバヘッド符号量を考慮して予測モードを選択している。しかし,オーバヘッド符号量による重み付けにより,選択される予測モードが限定される場合がある。以下に,予測残差電力のみによる場合とオーバヘッド符号量を考慮した場合の予測モード決定について説明する。   In the conventional method, in order to improve the coding efficiency, the prediction mode is selected in consideration of the overhead code amount. However, the prediction mode to be selected may be limited by weighting with the overhead code amount. In the following, prediction mode determination when only prediction residual power is used and when overhead code amount is considered will be described.

まず,予測残差電力から予測モードを決定する場合を説明する。今,N×NサイズのブロックをN×N次元の信号空間と考える。例えば,4×4サイズのブロックでは,16次元の信号空間ベクトルとなる。符号化対象ブロックを入力信号ベクトル↑s,各予測モードの予測信号を予測信号ベクトル↑pi とすると,予測残差電力は,両ベクトル間の距離から求めることができる。 First, the case where the prediction mode is determined from the prediction residual power will be described. Now, an N × N size block is considered as an N × N-dimensional signal space. For example, a 4 × 4 size block has a 16-dimensional signal space vector. Input signal encoding target block vector ↑ s, when a prediction signal of each of the prediction modes and prediction signal vector ↑ p i, prediction residual power can be obtained from the distance between the two vectors.

i =|↑s−↑pi | (2)
予測残差電力に着目して予測モードを決定することは,上式の距離が最小となる予測信号ベクトル↑pi を検出することである。言い換えると,予測信号ベクトル↑pi は,分割された領域の代表ベクトルであり,予測モード決定は,入力信号ベクトル↑sが所属する領域を検出することと等価である。
d i = | ↑ s− ↑ p i | (2)
It is to detect a prediction signal vector ↑ p i the distance in the above equation is minimized to determine a prediction mode by paying attention to the predictive residual power. In other words, the prediction signal vector ↑ pi is a representative vector of the divided area, and the prediction mode determination is equivalent to detecting the area to which the input signal vector ↑ s belongs.

図14に,2次元の場合の領域分割の例を示す。図中の黒丸で示した点が代表ベクトルを表す。予測残差電力にのみ着目した場合,各領域の境界では,隣接する領域の代表点からの距離が等しい。   FIG. 14 shows an example of area division in the case of two dimensions. A point indicated by a black circle in the figure represents a representative vector. When focusing only on the predicted residual power, the distance from the representative point of the adjacent region is equal at the boundary of each region.

次に,オーバヘッド符号量を考慮して予測モードを決定する場合を説明する。従来方法では,予測残差電力に加え,オーバヘッド符号量から符号化コストを求めているため,各領域の境界は,符号化コストJi が等しくなる位置となる。 Next, a case where the prediction mode is determined in consideration of the overhead code amount will be described. In the conventional method, since the encoding cost is obtained from the overhead code amount in addition to the prediction residual power, the boundary of each region is a position where the encoding cost J i is equal.

図15に符号化コストJi による領域分割の例を示す。この例では,簡単のため,領域を領域Aと領域Bの2つに分割し,代表点もAとBの2点としている。各予測モードの符号化コストは,次式の通りである。 FIG. 15 shows an example of area division based on the coding cost J i . In this example, for simplicity, the area is divided into two areas A and B, and the representative points are also two points A and B. The encoding cost of each prediction mode is as follows:

a =Da +λRa (3)
b =Db +λRb (4)
領域の境界は,Ja とJb が等しいことから,
a +Gab=Db (5)
となる。ここで,Gabは,予測モードAおよびBのオーバへッド符号量によるコスト差λ(Ra −Rb )を表す。
J a = D a + λR a (3)
J b = D b + λR b (4)
The boundary of the region is that J a and J b are equal,
D a + G ab = D b (5)
It becomes. Here, G ab represents the cost difference λ (R a −R b ) depending on the amount of overhead codes in the prediction modes A and B.

式(5)から,予測モードAのオーバへッド符号量が予測モードBよりも大きい場合(Gab>0),予測残差電力のみの領域分割と比較して,境界の位置がGab分だけ領域A側にずれることが分かる。 From equation (5), when the amount of overhead code in prediction mode A is larger than that in prediction mode B (G ab > 0), the position of the boundary is G ab as compared with region division using only prediction residual power. It can be seen that the region A is shifted by the amount.

さらに,代表点A−B間の距離の半分Dab/2よりもオーバへッド符号量のコスト差Gabが大きい場合(Gab>Dab/2),下記のように,代表点Aは,領域Bに含まれることとなる。 Further, when the overhead code amount cost difference G ab is larger than the half distance D ab / 2 between the representative points A and B (G ab > D ab / 2), the representative point A is expressed as follows. Are included in the region B.

すなわち,図15において,境界線Xが予測残差電力にのみ着目した場合の領域Aと領域Bとの境界であるとすると,0<Gab<Dab/2の場合には,領域Aと領域Bとの境界は,境界線XよりGab分だけ領域A側にずれた位置にある境界線Yとなる。さらにGabが大きくなり,Gab>Dab/2になると,領域Aと領域Bとの境界は,境界線Zとなり,代表点Aが,領域Bに含まれることとなる。 That is, in FIG. 15, if the boundary line X is a boundary between the region A and the region B when focusing only on the predicted residual power, if 0 <G ab <D ab / 2, the region A and the boundary between the region B, the boundary line Y in the position shifted to the G ab amount corresponding region a side of the boundary line X. When G ab further increases and G ab > D ab / 2, the boundary between the region A and the region B becomes the boundary line Z, and the representative point A is included in the region B.

このように,オーバヘッド符号量のコスト差Gabが大きくなるに従い,予測モードAが選択される可能性は低下する。仮に,代表点Aが領域Bに含まれる状況で予測モードAが選択されたとしても,その位置は代表点Aから離れた場所であり,予測残差電力は大きくなる。 Thus, the possibility that the prediction mode A is selected decreases as the overhead code amount cost difference G ab increases. Even if the prediction mode A is selected in a situation where the representative point A is included in the region B, the position is a place away from the representative point A, and the prediction residual power increases.

また,平坦な領域のように隣接画素間の相関が非常に高い場合,複数の予測モードで予測信号を生成しても,ほぼ同一の予測信号になる可能性が高い。このような場合,代表ベクトル間距離が0となり,オーバヘッドコストの大きい予測モードは,全く選択されない。   Also, when the correlation between adjacent pixels is very high, such as in a flat region, there is a high possibility that even if a prediction signal is generated in a plurality of prediction modes, the prediction signal is almost the same. In such a case, the distance between representative vectors is 0, and a prediction mode with a large overhead cost is not selected at all.

このように,オーバヘッド符号量の差が大きい場合や予測信号の相関が高く代表点間距離が短い場合など,選択される確率が低い,もしくは全く選択されない予測モード(以下,無効予測モードという)が現れる。従来方法では,この無効予測モードに対しても,符号を割り当てるため,符号化効率が低下するという問題がある。   As described above, when the difference in overhead code amount is large, or when the correlation between the prediction signals is high and the distance between the representative points is short, a prediction mode with a low probability of being selected or not selected at all (hereinafter referred to as an invalid prediction mode). appear. In the conventional method, a code is assigned to the invalid prediction mode, so that there is a problem that the coding efficiency is lowered.

本発明は,上記従来技術の問題点を解決し,選択確率が非常に低い無効予測モードの選択確率を上げて,符号化効率を向上させることができるようにすることを目的とする。   An object of the present invention is to solve the above-described problems of the prior art and increase the selection probability of an invalid prediction mode having a very low selection probability, thereby improving the coding efficiency.

従来の方法では,オーバヘッド符号量を考慮して符号化コストを求め,予測モードを選択しているため,無効予測モードが発生する問題がある。本発明では,この無効予測モードの予測信号を補正し,無効予測モードの選択確率を向上させることで,符号化効率を向上させる。   In the conventional method, the coding cost is obtained in consideration of the overhead code amount and the prediction mode is selected, so that there is a problem that an invalid prediction mode occurs. In the present invention, the prediction signal of the invalid prediction mode is corrected to improve the selection probability of the invalid prediction mode, thereby improving the coding efficiency.

図1は,本発明に係る画像符号化装置の構成の一例を示す。画像符号化装置1は,減算器10,予測残差信号符号化部11,予測残差信号復号部12,加算器13,メモリ14,予測信号生成部15,無効予測モード判定部16,予測信号補正部17,予測モード決定部18,符号化部19を備える。   FIG. 1 shows an example of the configuration of an image encoding device according to the present invention. The image encoding device 1 includes a subtracter 10, a prediction residual signal encoding unit 11, a prediction residual signal decoding unit 12, an adder 13, a memory 14, a prediction signal generation unit 15, an invalid prediction mode determination unit 16, a prediction signal. A correction unit 17, a prediction mode determination unit 18, and an encoding unit 19 are provided.

図1に示す画像符号化装置1において,予測信号生成部15は,メモリ14内の符号化済み画像信号から予測信号を生成する。無効予測モード判定部16は,生成した各予測モードの予測信号から,無効予測モードを検出する。予測信号補正部17は,検出した無効予測モードと各予測モードの予測信号から,無効予測モードの予測信号を補正する。補正後の全予測信号が予測モード決定部18に送信される。なお,無効予測モードの予測信号の補正方法については,後に詳述する。   In the image encoding device 1 shown in FIG. 1, the prediction signal generation unit 15 generates a prediction signal from the encoded image signal in the memory 14. The invalid prediction mode determination unit 16 detects the invalid prediction mode from the generated prediction signal of each prediction mode. The prediction signal correction unit 17 corrects the prediction signal in the invalid prediction mode from the detected invalid prediction mode and the prediction signal in each prediction mode. The corrected all prediction signal is transmitted to the prediction mode determination unit 18. A method for correcting the prediction signal in the invalid prediction mode will be described in detail later.

予測モード決定部18では,補正済みの予測信号を用いて,各予測モードの符号化コストを算出し,最小コストの予測モードを選択する。符号化コストは,予測信号と入力信号の予測残差電力,および,各予測モードのオーバヘッド符号量からなる。   The prediction mode determination unit 18 calculates the encoding cost of each prediction mode using the corrected prediction signal, and selects the prediction mode with the minimum cost. The coding cost includes the prediction residual power of the prediction signal and the input signal, and the overhead code amount of each prediction mode.

予測モード決定部18では,選択した予測モードの予測信号を減算器10へ,予測モード情報を符号化部19へ送る。減算器10では,入力信号と予測信号の差分である予測残差信号を求める。予測残差信号符号化部11では,予測残差信号の直交変換や最子化等の処理を行う。予測残差信号復号部12では,予測残差信号符号化部11の出力信号の逆量子化や逆直交変換を行い,予測残差信号を復号する。加算器13では,復号した予測残差信号と,予測信号とを加えて復号画像を生成する。生成した復号画像は,予測信号を生成するためにメモリ14に蓄えられる。   The prediction mode determination unit 18 sends the prediction signal of the selected prediction mode to the subtracter 10 and the prediction mode information to the encoding unit 19. The subtracter 10 obtains a prediction residual signal that is a difference between the input signal and the prediction signal. The prediction residual signal encoding unit 11 performs processing such as orthogonal transformation and maximization of the prediction residual signal. The prediction residual signal decoding unit 12 performs inverse quantization and inverse orthogonal transform on the output signal of the prediction residual signal encoding unit 11 to decode the prediction residual signal. The adder 13 adds the decoded prediction residual signal and the prediction signal to generate a decoded image. The generated decoded image is stored in the memory 14 in order to generate a prediction signal.

符号化部19では,予測残差信号符号化部11の出力および予測モード情報を可変長符号化し,符号化データとして出力する。   The encoding unit 19 performs variable length encoding on the output of the prediction residual signal encoding unit 11 and the prediction mode information, and outputs the result as encoded data.

図2は,本発明に係る画像復号装置の構成の一例を示す図である。画像復号装置2は,符号化データ復号部20,加算器21,メモリ22,予測信号生成部23,無効予測モード判定部24,予測信号補正部25を備える。   FIG. 2 is a diagram showing an example of the configuration of the image decoding apparatus according to the present invention. The image decoding device 2 includes an encoded data decoding unit 20, an adder 21, a memory 22, a prediction signal generation unit 23, an invalid prediction mode determination unit 24, and a prediction signal correction unit 25.

図2に示す画像復号装置2において,符号化データ復号部20では,符号化データを予測残差信号と予測モード情報とに復号する。予測信号生成部23は,メモリ22内の復号済み画像信号から,各予測モードの予測信号を生成する。無効予測モード判定部24では,生成した各予測モードの予測信号から,無効予測モードを検出する。予測信号補正部25では,検出した無効予測モードの予測信号を補正する。また,予測信号補正部25は,予測モード情報に基づく補正済み予測信号を出力する。加算器21では,復号した予測残差信号と予測信号とを加えて復号画像を生成する。   In the image decoding apparatus 2 shown in FIG. 2, the encoded data decoding unit 20 decodes the encoded data into a prediction residual signal and prediction mode information. The prediction signal generation unit 23 generates a prediction signal for each prediction mode from the decoded image signal in the memory 22. The invalid prediction mode determination unit 24 detects the invalid prediction mode from the generated prediction signal of each prediction mode. The prediction signal correction unit 25 corrects the detected prediction signal in the invalid prediction mode. Further, the prediction signal correction unit 25 outputs a corrected prediction signal based on the prediction mode information. The adder 21 adds the decoded prediction residual signal and the prediction signal to generate a decoded image.

図3に本発明の符号化側の処理フローを示す。まず,各予測モードについて,予測信号を生成し(ステップS1),オーバヘッド符号量のコストであるオーバヘッドコストを算出する(ステップS2)。予測モード番号iの予測信号を予測信号ベクトル(代表ベクトル)↑pi ,オーバヘッドコストをgi とする。これらの各予測モードの代表ベクトル↑pi とオーバヘッドコストgi とから,無効予測モードの有無を調べる(ステップS3)。 FIG. 3 shows a processing flow on the encoding side of the present invention. First, a prediction signal is generated for each prediction mode (step S1), and an overhead cost that is a cost of an overhead code amount is calculated (step S2). A prediction signal of a prediction mode number i prediction signal vector (representative vector) ↑ p i, the overhead costs and g i. And a representative vector ↑ p i and overhead costs g i for each of these prediction modes, check for invalid prediction mode (step S3).

無効予測モードが存在する場合,無効予測モードの代表ベクトルとしての予測信号を補正する(ステップS4)。無効予測モードが存在しない場合には,従来の処理と同様であり,ステップS5に進む。   When the invalid prediction mode exists, the prediction signal as the representative vector of the invalid prediction mode is corrected (step S4). When the invalid prediction mode does not exist, the process is the same as the conventional process, and the process proceeds to step S5.

全ての補正が終了後,符号化対象ブロックに対し,各予測モードの予測残差電力を算出した後(ステップS5),符号化コストJi を算出し(ステップS6),最小の符号化コストとなる予測モード番号を求めて予測モードを決定し(ステップS7),符号化処理を行う。求めた予測モード番号は,復号側に伝送される。 After all the corrections are completed, after calculating the prediction residual power of each prediction mode for the encoding target block (step S5), the encoding cost J i is calculated (step S6), and the minimum encoding cost and A prediction mode number is obtained to determine a prediction mode (step S7), and an encoding process is performed. The obtained prediction mode number is transmitted to the decoding side.

次に,復号側の処理について説明する。従来方法では,復号側は,符号化ビットストリームに示された予測モード番号の予測信号しか生成しない。これは,予測信号補正を行わないため,予測モード番号から予測信号が一意に生成できるためである。   Next, processing on the decoding side will be described. In the conventional method, the decoding side generates only the prediction signal having the prediction mode number indicated in the encoded bit stream. This is because the prediction signal can be uniquely generated from the prediction mode number because the prediction signal correction is not performed.

本発明では,復号側でも符号化側と同じように,利用可能な全ての予測モードの予測信号を生成し,必要に応じて予測信号の補正を行う。図4に復号側の処理フローを示す。復号側でも,前述した符号化側の処理フローと同様に,予測信号の補正処理を行う。   In the present invention, in the same way as on the decoding side, the decoding side generates prediction signals in all available prediction modes, and corrects the prediction signals as necessary. FIG. 4 shows a processing flow on the decoding side. The decoding side also performs prediction signal correction processing in the same manner as the processing flow on the encoding side described above.

すなわち,予測信号を生成した後(ステップS11),オーバヘッドコストを算出し(ステップS12),予測モード番号iの予測信号を代表ベクトル↑pi ,オーバヘッドコストをgi として,↑pi とgi とから,無効予測モードの有無を調べる(ステップS13)。無効予測モードが存在する場合,無効予測モードの代表ベクトル(予測信号)を補正する(ステップS14)。無効予測モードが存在しない場合には,ステップS15に進む。次に,予測モード番号を復号し(ステップS15),復号された予測モード番号に基づき,復号処理を行う(ステップS16)。 That is, after generating the prediction signal (step S11), the overhead cost is calculated (step S12), the prediction signal of the prediction mode number i is the representative vector ↑ p i , the overhead cost is g i , and ↑ p i and g i From this, the presence / absence of the invalid prediction mode is checked (step S13). If the invalid prediction mode exists, the representative vector (prediction signal) of the invalid prediction mode is corrected (step S14). If the invalid prediction mode does not exist, the process proceeds to step S15. Next, the prediction mode number is decoded (step S15), and decoding processing is performed based on the decoded prediction mode number (step S16).

次に,無効予測モードの判定および予測信号の補正について説明する。図5に無効予測モード判定および予測信号の補正のフローを示す。予測モード数をMとする。最初に,0〜(M−1)までの各予測モードをオーバヘッドコストの小さい順番に並べ替えてリストを作成する(ステップS31)。次に,iに初期値0を設定した後(ステップS32),j=i+1として(ステップS33),以下のステップS34〜S39を実行する。   Next, determination of the invalid prediction mode and correction of the prediction signal will be described. FIG. 5 shows a flow of invalid prediction mode determination and prediction signal correction. Let M be the number of prediction modes. First, a list is created by rearranging each prediction mode from 0 to (M−1) in ascending order of overhead cost (step S31). Next, after initial value 0 is set to i (step S32), j = i + 1 is set (step S33), and the following steps S34 to S39 are executed.

まず,リスト中で最小のオーバヘッドコストの予測モード番号iのコストと,残りの予測モ−ド番号j(>i)のコストを比較し,無効予測モード判定を行う(ステップS34)。ステップS34において無効予測モードとして判定する基準は,残りの予測モード番号jの代表ベクトル↑pj が,リスト中の最小オーバヘッドコストの予測モード番号iの領域に含まれる場合とする。つまり,次式が成立した場合に,予測モード番号jは,無効予測モードと判定する。 First, the cost of the prediction mode number i with the lowest overhead cost in the list is compared with the cost of the remaining prediction mode number j (> i), and the invalid prediction mode is determined (step S34). The criterion for determining the invalid prediction mode in step S34 is that the representative vector ↑ p j of the remaining prediction mode number j is included in the prediction mode number i area of the minimum overhead cost in the list. That is, when the following equation is established, the prediction mode number j is determined as the invalid prediction mode.

j −gi >|↑pj −↑pi |/2 (6)
予測モード番号jが無効予測モードと判定された場合,その無効予測モードと判定された予測モード番号jの予測信号を補正する(ステップS35)。
g j −g i > | ↑ p j − ↑ p i | / 2 (6)
When the prediction mode number j is determined to be the invalid prediction mode, the prediction signal of the prediction mode number j determined to be the invalid prediction mode is corrected (step S35).

上記ステップS34における,リスト中の最小オーバヘッドコストの予測モード番号iのコストと,残りの予測モ−ド番号j(>i)のコストとの比較は,j≧Mになるまで(ステップS36),jに1を加算しながら繰り返す(ステップS38)。   In step S34, the cost of the prediction mode number i of the minimum overhead cost in the list and the cost of the remaining prediction mode number j (> i) are compared until j ≧ M (step S36). Repeat while adding 1 to j (step S38).

j≧Mとなって,ある時点の最小オーバヘッドコストの予測モードと残りの予測モードとの比較が終了した時点(ステップS36)で,i≧M−1になるまで(ステップS37),予測モード番号iに1を加え(ステップS39),ステップS33以降の処理を継続する。すなわち,最小オーバヘッドコストの予測モードを順次リストから外し,残りの予測モードについての無効予測モードの判定および予測信号の補正処理を繰り返す。全ての無効予測モ−ドの予測信号の補正が終了した時点(ステップS37)で,この無効予測モードの予測信号の補正処理を終える。   When j ≧ M, and when the comparison between the prediction mode with the minimum overhead cost at a certain point in time and the remaining prediction modes ends (step S36), until i ≧ M−1 (step S37), the prediction mode number 1 is added to i (step S39), and the processing after step S33 is continued. That is, the prediction mode with the minimum overhead cost is sequentially removed from the list, and the invalid prediction mode determination and the prediction signal correction process for the remaining prediction modes are repeated. When the correction of the prediction signals in all invalid prediction modes is completed (step S37), the correction processing of the prediction signals in the invalid prediction mode is finished.

無効予測モードの予測信号の補正,すなわち代表ベクトルの補正方法には,下記に示すようないくつかの方法がある。   There are several methods for correcting the prediction signal in the invalid prediction mode, that is, the representative vector correction method as described below.

[補正ベクトルによる補正]
↑p' i =↑pi +↑ck (7)
上記式(7)に示すように,代表ベクトル↑pi に補正ベクトル↑ck を加えて,新たな代表ベクトル↑p' i とする方法である。補正ベクトル↑ck は,例えば予め定めた固定ベクトルを用いる。または,下記の式(8)に示すように,無効予測モードの代表ベクトル↑pi とその無効予測モードを含む領域の予測モードの代表ベクトル↑p0 との差分ベクトルに補正係数cをかけて,新たな代表ベクトル↑p’i としてもよい。
[Correction by correction vector]
↑ p ' i = ↑ p i + ↑ c k (7)
As shown in the above equation (7), the correction vector ↑ c k is added to the representative vector ↑ p i to obtain a new representative vector ↑ p ′ i . For example, a predetermined fixed vector is used as the correction vector ↑ c k . Alternatively, as shown in the following equation (8), by multiplying the correction coefficient c to the difference vector between the representative vector ↑ p 0 of a prediction mode of a region including the representative vector ↑ p i invalid prediction mode and the invalid prediction mode , A new representative vector ↑ p ′ i may be used.

↑p’i =c・(↑pi −↑p0 ) (8)
[補正係数による補正]
↑p’i =c・↑pi (9)
上記式(9)に示すように,無効予測モードの代表ベクトルに補正係数cをかけることで,新たな代表ベクトルを求める方法である。補正係数cは,予め与えた定数,無効予測モードとその無効予測モードを含む領域の予測モードの両代表ベクトルの距離などを用いる。
↑ p ' i = c · (↑ p i − ↑ p 0 ) (8)
[Correction by correction coefficient]
↑ p ' i = c ・ ↑ pi (9)
As shown in the above equation (9), a new representative vector is obtained by multiplying the representative vector in the invalid prediction mode by the correction coefficient c. As the correction coefficient c, a constant given in advance, the distance between both representative vectors of the invalid prediction mode and the prediction mode of the region including the invalid prediction mode, or the like is used.

[代表ベクトルの置換]
↑p’i =↑ck (10)
上記式(10)に示すように,無効予測モードの代表ベクトルを,別のベクトルに置き換える方法である。この置換ベクトルは,予め定めた固定ベクトル,または,代表ベクトル間距離が最大になる領域間の中点などを用いる。
[Replace representative vector]
↑ p ' i = ↑ ck (10)
As shown in the above equation (10), the representative vector in the invalid prediction mode is replaced with another vector. As this replacement vector, a predetermined fixed vector or a midpoint between regions where the distance between representative vectors is maximum is used.

これらの方法を組み合わせることも可能である。また,フレーム内符号化だけでなく,複数の予測モードを持つ符号化方式において,オーバヘッドコスト等の予測残差電力以外のコストにより,予測モードを決定する符号化方式においても有用である。   It is also possible to combine these methods. In addition to intra-frame coding, the present invention is useful not only for coding methods having a plurality of prediction modes, but also for coding methods for determining a prediction mode by a cost other than prediction residual power such as overhead cost.

本発明によれば,符号が割り当てられているにもかかわらず,全く,もしくは,ほとんど選択される可能性のない予測モードを検出し,その予測信号を補正することで選択確率を上昇させることができる。これにより,符号化効率を向上させることができる。   According to the present invention, it is possible to increase the selection probability by detecting a prediction mode that is not or hardly selected even though a code is assigned and correcting the prediction signal. it can. Thereby, encoding efficiency can be improved.

以下に本発明の実施の形態を示す。本実施の形態では,複数の予測モードを利用可能なフレーム内符号化方式を前提とする。予測モード選択は,各予測モードのオーバヘッド符号量を考慮する。なお,無効予測モードの判定は,最小オーバヘッドコストの予測モードに対してのみ行う。また,無効予測モードの条件は,代表ベクトル↑pi が最小オーバヘッドコストの予測モードの領域に含まれる場合とする。 Embodiments of the present invention will be described below. In the present embodiment, an intra-frame coding scheme that can use a plurality of prediction modes is assumed. The prediction mode selection considers the overhead code amount of each prediction mode. Note that the invalid prediction mode is determined only for the prediction mode with the minimum overhead cost. The condition of disabled prediction mode, and if the representative vector ↑ p i is included in the area of the prediction mode of the minimum overhead cost.

最初に符号化側について説明をする。図6に符号化側の処理フローを示す。まず,各予測モードの予測信号を生成する(ステップS61)。生成した各予測モードの予測信号を代表ベクトル↑pi とする。各予測モードのオーバヘッドコストgi を算出し(ステップS62),最小値を求める。最小オーバヘッドコストの予測モードの代表ベクトルを↑p0 ,オーバヘッドコストをg0 とする。 First, the encoding side will be described. FIG. 6 shows a processing flow on the encoding side. First, a prediction signal for each prediction mode is generated (step S61). A prediction signal for each prediction mode generated the representative vector ↑ p i. Calculating the overhead costs g i for each prediction mode (step S62), obtains the minimum value. The representative vector of the prediction mode of the minimum overhead cost is ↑ p 0 and the overhead cost is g 0 .

続いて,各予測モード番号i(>0)の代表ベクトル↑pi とオーバヘッドコストgi から,無効予測モードの有無を調べる(ステップS63)。無効予測モードが存在する場合,その無効予測モードの代表ベクトル↑pi (予測信号)を補正する(ステップS64)。 Then, from the representative vector ↑ p i and overhead cost g i of each of the prediction mode number i (> 0), examine the presence or absence of the invalid prediction mode (step S63). If the invalid prediction mode exists, the representative vector ↑ pi (prediction signal) of the invalid prediction mode is corrected (step S64).

無効予測モードが存在しない場合は従来と同様であり,ステップS65に進む。全ての補正処理が終了後,符号化対象ブロックに対し,予測残差電力を算出し(ステップS65),各予測モードとの符号化コストJi を算出する(ステップS66)。最小コストとなる予測モードを選択して予測モードを決定し(ステップS67),符号化処理を行う。 When the invalid prediction mode does not exist, the process is the same as the conventional one, and the process proceeds to step S65. After all the correction processes are completed, the prediction residual power is calculated for the encoding target block (step S65), and the encoding cost J i for each prediction mode is calculated (step S66). The prediction mode with the lowest cost is selected to determine the prediction mode (step S67), and the encoding process is performed.

次に復号側の処理について説明する。復号側でも,符号化側と同様に各予測モードの予測信号を生成し,予測信号の補正を行う。図7に復号側の処理フローを示す。まず,各予測モードのオーバヘッドコストを求める(ステップS71)。次に,予測モード番号を復号し(ステップS72),復号した予測モードが最小オーバヘッドコストの予測モードかを判断する(ステップS73)。   Next, processing on the decoding side will be described. Also on the decoding side, a prediction signal for each prediction mode is generated and the prediction signal is corrected in the same manner as the encoding side. FIG. 7 shows a processing flow on the decoding side. First, the overhead cost of each prediction mode is obtained (step S71). Next, the prediction mode number is decoded (step S72), and it is determined whether the decoded prediction mode is the prediction mode with the minimum overhead cost (step S73).

復号した予測モードが,最小オーバヘッドコストの予測モードの場合には,補正処理を行わず,復号処理を継続する(ステップS77)。それ以外の予測モードでは,各予測モードの予測信号を生成した後(ステップS74),無効予測モードの有無を調べる(ステップS75)。   If the decoded prediction mode is the prediction mode with the minimum overhead cost, the decoding process is continued without performing the correction process (step S77). In other prediction modes, after generating a prediction signal for each prediction mode (step S74), the presence / absence of the invalid prediction mode is checked (step S75).

無効予測モードが存在しない場合には,ステップS77に進み,無効予測モードが存在する場合には,無効予測モードの代表ベクトル(予測信号)を補正し(ステップS76),復号処理を行う(ステップS77)。   If the invalid prediction mode does not exist, the process proceeds to step S77. If the invalid prediction mode exists, the representative vector (prediction signal) of the invalid prediction mode is corrected (step S76) and the decoding process is performed (step S77). ).

次に,符号化および復号時に行う無効予測モードの判定と予測信号の補正方法の例について説明する。まず,最小オーバヘッドコストの予測モードの代表ベクトル↑p0 と各予測モードの代表ベクトル↑pi の差分ベクトルの大きさdi =|↑pi −↑p0 |を求める。 Next, an example of an invalid prediction mode determination and prediction signal correction method performed at the time of encoding and decoding will be described. First, the size of the representative vector ↑ p 0 of a prediction mode of the minimum overhead cost differential vector of the representative vector ↑ p i of each of the prediction modes d i = | ↑ p i - p 0 | a seek.

このとき,di /2<gi −g0 となる予測モードは,無効予測モードとする。無効予測モードと判定された予測モードのうち,オーバヘッド符号量が小さいものから予測信号を補正する。その補正方法は,以下の通りである。なお,補正後の代表ベクトルを↑p’i とする。 At this time, the prediction mode in which d i / 2 <g i −g 0 is the invalid prediction mode. Of the prediction modes determined to be the invalid prediction mode, the prediction signal is corrected from the one with a small overhead code amount. The correction method is as follows. Note that the corrected representative vector is ↑ p ′ i .

[di =0の場合]
↑p’i =↑ck +↑p0 (11)
ここで,↑ck は,予め定めた補正ベクトルである。この補正ベクトル↑ck は,複数個用意しておき,di =0の無効予測モードが複数存在する場合には,異なる補正ベクトル↑ck を利用する。
[When d i = 0]
↑ p ' i = ↑ c k + ↑ p 0 (11)
Here, ↑ c k is a predetermined correction vector. A plurality of correction vectors ↑ c k are prepared, and when there are a plurality of invalid prediction modes with d i = 0, different correction vectors ↑ c k are used.

[di ≠0の場合]
↑p’i =(1+(gi −g0 )/di )(↑pi −↑p0 ) (12)
ここで,gi は無効予測モードのオーバヘッドコストである。これにより,無効予測モードの判定と予測信号の補正が可能となる。
[When d i ≠ 0]
↑ p ′ i = (1+ (g i −g 0 ) / d i ) (↑ p i − ↑ p 0 ) (12)
Here, g i is the overhead cost of the invalid prediction mode. As a result, the invalid prediction mode can be determined and the prediction signal can be corrected.

本実施の形態では,最小オーバヘッドコストの予測モードに対してのみ,無効予測モード判定を行ったが,順次,オーバヘッドコストの小さい予測モードで無効予測モード判定を行ったほうが効率はよい。   In this embodiment, the invalid prediction mode determination is performed only for the prediction mode with the minimum overhead cost. However, it is more efficient to sequentially perform the invalid prediction mode determination with a prediction mode with a low overhead cost.

また,本実施の形態では,無効予測モードの判定基準として,代表ベクトル↑pi が最小オーバヘッドコストの予測モードの領域に含まれる場合としているが,代表ベクトルにかかわらず,各予測モードの領域の占有面積で判定しても良い。 Further, in the present embodiment, as a criterion for disable prediction mode, although the case where the representative vector ↑ p i is included in the area of the prediction mode of the minimum overhead cost, regardless of the representative vector, in the region of each of the prediction modes You may determine by an occupation area.

以上の画像予測符号化および画像予測復号の処理は,ハードウェアやファームウェアによって実現することができるだけでなく,コンピュータとソフトウェアプログラムとによっても実現することができ,そのプログラムをコンピュータ読み取り可能な記録媒体に記録して提供することも,ネットワークを通して提供することも可能である。   The above image predictive encoding and image predictive decoding processes can be realized not only by hardware and firmware but also by a computer and a software program, and the program can be stored on a computer-readable recording medium. It can be recorded and provided through a network.

画像符号化装置の構成の一例を示す図である。It is a figure which shows an example of a structure of an image coding apparatus. 画像復号装置の構成の一例を示す図である。It is a figure which shows an example of a structure of an image decoding apparatus. 符号化側の処理フローを示す図である。It is a figure which shows the processing flow by the side of an encoding. 復号側の処理フローを示す図である。It is a figure which shows the processing flow by the side of decoding. 無効予測モード判定および予測信号の補正のフローを示す図である。It is a figure which shows the flow of invalid prediction mode determination and prediction signal correction | amendment. 本発明の実施の形態の符号化側の処理フローを示す図である。It is a figure which shows the processing flow by the side of the encoding of embodiment of this invention. 本発明の実施の形態の復号側の処理フローを示す図である。It is a figure which shows the processing flow by the side of decoding of embodiment of this invention. H.264の16×16サイズの予測モードを説明する図である。H. It is a figure explaining the prediction mode of 16 * 16 size of H.264. H.264の4×4サイズの予測モードを示す図である。H. It is a figure which shows the prediction mode of H.264 4x4 size. 従来の画像符号化装置の構成を示す図である。It is a figure which shows the structure of the conventional image coding apparatus. 従来の画像復号装置の構成を示す図である。It is a figure which shows the structure of the conventional image decoding apparatus. 符号化側の処理フローを示す図である。It is a figure which shows the processing flow by the side of an encoding. 復号側での処理フローを示す図である。It is a figure which shows the processing flow by the decoding side. 2次元の場合の領域分割の例を示す図である。It is a figure which shows the example of the area | region division in the case of two dimensions. 符号化コストJi による領域分割の例を示す図である。Is a diagram showing an example of area division by the encoding cost J i.

符号の説明Explanation of symbols

1,3 画像符号化装置
2,4 画像復号装置
10,31 減算器
11,32 予測残差信号符号化部
12,33 予測残差信号復号部
13,21,34,42 加算器
14,22,35,43 メモリ
15,23,36,44 予測信号生成部
16,24 無効予測モード判定部
17,25 予測信号補正部
18,37 予測モード決定部
19,38 符号化部
20,41 符号化データ復号部
DESCRIPTION OF SYMBOLS 1,3 Image coding apparatus 2,4 Image decoding apparatus 10,31 Subtractor 11,32 Prediction residual signal encoding part 12,33 Prediction residual signal decoding part 13,21,34,42 Adder 14,22, 35, 43 Memory 15, 23, 36, 44 Prediction signal generation unit 16, 24 Invalid prediction mode determination unit 17, 25 Prediction signal correction unit 18, 37 Prediction mode determination unit 19, 38 Encoding unit 20, 41 Encoded data decoding Part

Claims (16)

複数の予測モード中から符号化対象ブロックの予測モードを決定して画像を符号化する画像予測符号化方法であって,
予測モード毎に予測信号を生成するステップと,
予測モード毎にオーバヘッド符号量からオーバヘッドコストを算出するステップと,
算出された各予測モードのオーバヘッドコストと予測信号との関係から,所定の基準に従って選択確率が低い無効予測モードを検出するステップと,
検出された無効予測モードの予測信号を補正するステップと,
各予測モードの予測残差電力とオーバヘッド符号量とから予測モード毎の符号化コストを算出するステップと,
前記符号化コストが最小となる予測モードを符号化対象ブロックの予測モードとして決定するステップとを有する
ことを特徴とする画像予測符号化方法。
An image predictive coding method for coding a picture by determining a prediction mode of a target block from a plurality of prediction modes,
Generating a prediction signal for each prediction mode;
Calculating overhead cost from overhead code amount for each prediction mode;
Detecting an invalid prediction mode having a low selection probability according to a predetermined criterion from the calculated relationship between the overhead cost of each prediction mode and the prediction signal;
Correcting the detected invalid prediction mode prediction signal;
Calculating a coding cost for each prediction mode from the prediction residual power and overhead code amount of each prediction mode;
And a step of determining a prediction mode that minimizes the encoding cost as a prediction mode of the encoding target block.
請求項1に記載の画像予測符号化方法において,
前記無効予測モードを検出するステップでは,
最小オーバヘッドコストの予測モードを検出するステップと,
最小オーバヘッドコストの予測モードと他の予測モードとを比較することにより無効予測モードの検出を行うステップとを有する
ことを特徴とする画像予測符号化方法。
The image predictive encoding method according to claim 1,
In the step of detecting the invalid prediction mode,
Detecting a prediction mode with a minimum overhead cost;
And a step of detecting an invalid prediction mode by comparing a prediction mode having a minimum overhead cost with another prediction mode.
複数の予測モード中から符号化対象ブロックの予測モードを決定して画像を符号化する画像予測符号化方法であって,
予測モード毎に予測信号を生成するステップと,
予測モード毎にオーバヘッド符号量からオーバヘッドコストを算出するステップと,
予測モードをオーバヘッドコストが小さい順番に並べ替えてリストを生成するステップと,
リスト中の最小オーバヘッドコストの予測モードと残りの予測モードとを比較することにより無効予測モードを検出するステップと,
検出された無効予測モードの予測信号を補正するステップと,
補正後に最小オーバヘッドコストの予測モードをリストから削除するステップと,
前記無効予測モードを検出するステップと前記無効予測モードとして検出された予測モードの予測信号を補正するステップと前記予測モードをリストから削除するステップとを,リストに登録される予測モード数が1つになるまで繰り返すステップと,
各予測モードの予測残差電力とオーバヘッド符号量とから予測モード毎の符号化コストを算出するステップと,
前記符号化コストが最小となる予測モードを符号化対象ブロックの予測モードとして決定するステップとを有する
ことを特徴とする画像予測符号化方法。
An image predictive coding method for coding a picture by determining a prediction mode of a target block from a plurality of prediction modes,
Generating a prediction signal for each prediction mode;
Calculating overhead cost from overhead code amount for each prediction mode;
Rearranging prediction modes in ascending order of overhead cost to generate a list;
Detecting an invalid prediction mode by comparing a prediction mode with a minimum overhead cost in the list with the remaining prediction modes;
Correcting the detected invalid prediction mode prediction signal;
Removing the prediction mode with the lowest overhead cost from the list after correction;
The number of prediction modes registered in the list includes the step of detecting the invalid prediction mode, the step of correcting the prediction signal of the prediction mode detected as the invalid prediction mode, and the step of deleting the prediction mode from the list. Step to repeat until
Calculating a coding cost for each prediction mode from the prediction residual power and overhead code amount of each prediction mode;
And a step of determining a prediction mode that minimizes the encoding cost as a prediction mode of the encoding target block.
請求項1ないし請求項3のいずれか1項に記載の画像予測符号化方法において,
前記無効予測モードを検出するステップでは,
基準となる予測モードの予測信号ベクトルと検査対象予測モードの予測信号ベクトルとの間の距離である予測信号ベクトル間距離を算出するステップと,
前記基準となる予測モードのオーバヘッドコストと前記検査対象予測モードのオーバヘッドコストとの差分であるオーバヘッドコスト差を算出するステップとを有し,
前記算出された予測信号ベクトル間距離の半分とオーバヘッドコスト差とを比較し,前記予測信号ベクトル間距離の半分が前記オーバヘッドコスト差より小さい場合に,前記検査対象予測モードを無効予測モードとして検出する
ことを特徴とする画像予測符号化方法。
The image predictive encoding method according to any one of claims 1 to 3,
In the step of detecting the invalid prediction mode,
Calculating a distance between prediction signal vectors, which is a distance between a prediction signal vector of a reference prediction mode and a prediction signal vector of a test target prediction mode;
Calculating an overhead cost difference that is a difference between the overhead cost of the reference prediction mode and the overhead cost of the inspection target prediction mode;
The half of the calculated inter-prediction signal vector distance is compared with the overhead cost difference, and if the half of the inter-prediction signal vector distance is smaller than the overhead cost difference, the inspection target prediction mode is detected as an invalid prediction mode. An image predictive encoding method characterized by the above.
請求項1ないし請求項4のいずれか1項に記載の画像予測符号化方法において,
前記無効予測モードの予測信号を補正するステップでは,
予め定められた補正ベクトルまたは補正係数により,無効予測モードの予測信号を補正する
ことを特徴とする画像予測符号化方法。
The image predictive encoding method according to any one of claims 1 to 4,
In the step of correcting the prediction signal in the invalid prediction mode,
An image predictive coding method, comprising: correcting a prediction signal in an invalid prediction mode using a predetermined correction vector or correction coefficient.
請求項1ないし請求項4のいずれか1項に記載の画像予測符号化方法において,
前記無効予測モードの予測信号を補正するステップでは,
予め定められた予測ベクトルにより無効予測モードの予測信号を置換する
ことを特徴とする画像予測符号化方法。
The image predictive encoding method according to any one of claims 1 to 4,
In the step of correcting the prediction signal in the invalid prediction mode,
An image predictive coding method, wherein a prediction signal in an invalid prediction mode is replaced with a predetermined prediction vector.
請求項1ないし請求項4のいずれか1項に記載の画像予測符号化方法において,
前記無効予測モードの予測信号を補正するステップでは,
無効予測モードの予測信号ベクトルと無効予測モードを含む領域の予測モードの予測信号ベクトルの差分ベクトルを算出するステップと,
算出された差分ベクトルから補正ベクトルを算出するステップとを有し,
算出した補正ベクトルにより前記無効予測モードの予測信号を補正する
ことを特徴とする画像予測符号化方法。
The image predictive encoding method according to any one of claims 1 to 4,
In the step of correcting the prediction signal in the invalid prediction mode,
Calculating a difference vector between a prediction signal vector of the invalid prediction mode and a prediction signal vector of a prediction mode in a region including the invalid prediction mode;
Calculating a correction vector from the calculated difference vector,
An image predictive coding method, wherein the prediction signal in the invalid prediction mode is corrected by the calculated correction vector.
請求項7に記載の画像予測符号化方法において,
前記算出された差分ベクトルから補正ベクトルを算出するステップでは,
補正係数をオーバヘッドコストの差分から算出し,
差分ベクトルと補正係数とから補正ベクトルを算出する
ことを特徴とする画像予測符号化方法。
The image predictive encoding method according to claim 7,
In the step of calculating a correction vector from the calculated difference vector,
Calculate the correction factor from the overhead cost difference,
An image predictive coding method, comprising: calculating a correction vector from a difference vector and a correction coefficient.
請求項1ないし請求項8のいずれか1項に記載の画像予測符号化方法を用いて符号化された画像を復号する画像予測復号方法であって,
予測モード毎に予測信号を生成するステップと,
予測モード毎にオーバヘッド符号量からオーバヘッドコストを算出するステップと,
算出された各予測モードのオーバヘッドコストと予測信号との関係から,所定の基準に従って選択確率が低い無効予測モードを検出するステップと,
検出された無効予測モードの予測信号を補正するステップとを有し,
無効予測モードの予測信号を補正した後,復号処理を行う
ことを特徴とする画像予測復号方法。
An image predictive decoding method for decoding an image encoded using the image predictive encoding method according to claim 1, comprising:
Generating a prediction signal for each prediction mode;
Calculating overhead cost from overhead code amount for each prediction mode;
Detecting an invalid prediction mode having a low selection probability according to a predetermined criterion from the calculated relationship between the overhead cost of each prediction mode and the prediction signal;
Correcting the detected prediction signal of the invalid prediction mode,
An image predictive decoding method comprising performing decoding after correcting a prediction signal in an invalid prediction mode.
請求項9に記載の画像予測復号方法において,
前記無効予測モードを検出するステップでは,
画像の符号化時に無効予測モードの検出に用いた方法と同一の方法を用いて無効予測モードを検出し,
前記無効予測モードの予測信号を補正するステップでは,
画像の符号化時に無効予測モードの予測信号の補正に用いた方法と同一の方法を用いて無効予測モードの予測信号を補正する
ことを特徴とする画像予測復号方法。
The image predictive decoding method according to claim 9,
In the step of detecting the invalid prediction mode,
Detecting the invalid prediction mode using the same method used to detect the invalid prediction mode when encoding the image,
In the step of correcting the prediction signal in the invalid prediction mode,
An image predictive decoding method, wherein a prediction signal in an invalid prediction mode is corrected using the same method as that used for correcting a prediction signal in an invalid prediction mode when an image is encoded.
複数の予測モード中から符号化対象ブロックの予測モードを決定して画像を符号化する画像符号化装置であって,
予測モード毎に予測信号を生成する予測信号生成手段と,
予測モード毎にオーバヘッド符号量からオーバヘッドコストを算出し,算出された各予測モードのオーバヘッドコストと予測信号との関係から,所定の基準に従って選択確率が低い無効予測モードを検出する無効予測モード検出手段と,
検出された無効予測モードの予測信号を補正する予測信号補正手段と,
各予測モードの予測残差電力とオーバヘッド符号量とから予測モード毎の符号化コストを算出し,符号化コストが最小となる予測モードを符号化対象ブロックの予測モードとして決定する予測モード決定手段とを備える
ことを特徴とする画像符号化装置。
An image encoding apparatus for encoding an image by determining a prediction mode of an encoding target block from a plurality of prediction modes,
Prediction signal generating means for generating a prediction signal for each prediction mode;
Invalid prediction mode detection means for calculating an overhead cost from the overhead code amount for each prediction mode and detecting an invalid prediction mode having a low selection probability according to a predetermined criterion from the relationship between the calculated overhead cost of each prediction mode and the prediction signal When,
Prediction signal correction means for correcting the detected prediction signal in the invalid prediction mode;
A prediction mode determining means for calculating a coding cost for each prediction mode from a prediction residual power and an overhead code amount of each prediction mode, and determining a prediction mode that minimizes the coding cost as a prediction mode of an encoding target block; An image encoding device comprising:
請求項11に記載の画像符号化装置を用いて符号化された画像を復号する画像復号装置であって,
予測モード毎に予測信号を生成する予測信号生成手段と,
予測モード毎にオーバヘッド符号量からオーバヘッドコストを算出し,算出された各予測モードのオーバヘッドコストと予測信号との関係から,選択確率が低い無効予測モードを検出する無効予測モード検出手段と,
検出された無効予測モードの予測信号を補正する予測信号補正手段とを備え,
無効予測モードの予測信号を補正した後,復号処理を行う
ことを特徴とする画像復号装置。
An image decoding device for decoding an image encoded using the image encoding device according to claim 11,
Prediction signal generating means for generating a prediction signal for each prediction mode;
An invalid prediction mode detecting means for calculating an overhead cost from an overhead code amount for each prediction mode, and detecting an invalid prediction mode having a low selection probability from a relationship between the calculated overhead cost of each prediction mode and a prediction signal;
Prediction signal correction means for correcting the detected prediction signal of the invalid prediction mode,
An image decoding apparatus, wherein a decoding process is performed after correcting a prediction signal in an invalid prediction mode.
請求項1ないし請求項8のいずれか1項に記載の画像予測符号化方法を,コンピュータに実行させるための画像符号化プログラム。   An image encoding program for causing a computer to execute the image predictive encoding method according to any one of claims 1 to 8. 請求項9または請求項10に記載の画像予測復号方法を,コンピュータに実行させるための画像復号プログラム。   An image decoding program for causing a computer to execute the image predictive decoding method according to claim 9. 請求項1ないし請求項8のいずれか1項に記載の画像予測符号化方法を,コンピュータに実行させるための画像符号化プログラムを記録したコンピュータ読み取り可能な記録媒体。   9. A computer-readable recording medium on which an image encoding program for causing a computer to execute the image predictive encoding method according to claim 1 is recorded. 請求項9または請求項10に記載の画像予測復号方法を,コンピュータに実行させるための画像復号プログラムを記録したコンピュータ読み取り可能な記録媒体。   The computer-readable recording medium which recorded the image decoding program for making a computer perform the image predictive decoding method of Claim 9 or Claim 10.
JP2004168479A 2004-06-07 2004-06-07 Image predictive encoding method, image predictive decode method, image encoding device, image decoding device, image encoding program, image decoding program, and computer-readable recording medium recording these programs Expired - Fee Related JP4205636B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004168479A JP4205636B2 (en) 2004-06-07 2004-06-07 Image predictive encoding method, image predictive decode method, image encoding device, image decoding device, image encoding program, image decoding program, and computer-readable recording medium recording these programs

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004168479A JP4205636B2 (en) 2004-06-07 2004-06-07 Image predictive encoding method, image predictive decode method, image encoding device, image decoding device, image encoding program, image decoding program, and computer-readable recording medium recording these programs

Publications (2)

Publication Number Publication Date
JP2005348318A true JP2005348318A (en) 2005-12-15
JP4205636B2 JP4205636B2 (en) 2009-01-07

Family

ID=35500235

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004168479A Expired - Fee Related JP4205636B2 (en) 2004-06-07 2004-06-07 Image predictive encoding method, image predictive decode method, image encoding device, image decoding device, image encoding program, image decoding program, and computer-readable recording medium recording these programs

Country Status (1)

Country Link
JP (1) JP4205636B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009105696A (en) * 2007-10-24 2009-05-14 Nippon Telegr & Teleph Corp <Ntt> Prediction mode information coding method, prediction mode information decoding method, devices therefor, programs therefor, and computer readable recording medium
JP2015180007A (en) * 2014-03-19 2015-10-08 日本電信電話株式会社 Prediction mode selection method and prediction mode selection program

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009105696A (en) * 2007-10-24 2009-05-14 Nippon Telegr & Teleph Corp <Ntt> Prediction mode information coding method, prediction mode information decoding method, devices therefor, programs therefor, and computer readable recording medium
JP2015180007A (en) * 2014-03-19 2015-10-08 日本電信電話株式会社 Prediction mode selection method and prediction mode selection program

Also Published As

Publication number Publication date
JP4205636B2 (en) 2009-01-07

Similar Documents

Publication Publication Date Title
JP5048383B2 (en) Image data spatial prediction apparatus and method, encoding apparatus and method using the same, image data spatial prediction compensation apparatus and method, and decoding apparatus and method using the same
US8208544B2 (en) Image coding method and apparatus using side matching process and image decoding method and apparatus for the same
KR101014660B1 (en) Intra prediction method and apparatus thereof
KR101083379B1 (en) Motion vector searching method and device, and record medium having recorded the program therefor
JP5310614B2 (en) Moving picture coding apparatus, moving picture coding method, moving picture decoding apparatus, and moving picture decoding method
JP2011511541A (en) Method, apparatus, and system for interframe predictive coding
JP2011114572A (en) Image encoding apparatus, image decoding apparatus, image encoding method, and image decoding method
JP2007202150A (en) Method of and apparatus for deciding encoding mode for variable block size motion estimation
RU2519525C2 (en) Motion vector predictive encoding method, motion vector predictive decoding method, moving picture encoding apparatus, moving picture decoding apparatus, and programmes thereof
TW201210349A (en) Motion vector predictive coding method, motion vector predictive decoding method, moving picture coding apparatus, moving picture decoding apparatus, and programs thereof
JP2006074474A (en) Moving image encoder, encoding method, and encoding program
JP4995789B2 (en) Intra-screen predictive encoding method, intra-screen predictive decoding method, these devices, their programs, and recording media recording the programs
JP2019041165A (en) Image encoding device, image decoding device, image processing method, and image processing program
JP4880255B2 (en) Method and apparatus for selecting encoding mode
US20110135006A1 (en) Moving image encoding device and moving image decoding device
CN112004091B (en) Inter-frame prediction method and related device thereof
JP2009272702A (en) Motion vector searching apparatus and control method thereof
JP4205636B2 (en) Image predictive encoding method, image predictive decode method, image encoding device, image decoding device, image encoding program, image decoding program, and computer-readable recording medium recording these programs
JP2010041191A (en) Image encoding method and image encoding device
JP5711789B2 (en) Image coding method, image coding apparatus, and image coding program
JP2005348008A (en) Moving picture coding method, moving picture coder, moving picture coding program and computer-readable recording medium with record of the program
JP2007110409A (en) Image processing device and program for making computer perform image processing method
JP2010081635A (en) Apparatus, method and program for motion compensation prediction coding
JP4429996B2 (en) Moving picture coding program, moving picture coding method, and moving picture coding apparatus
JP5254565B2 (en) Moving picture predictive coding apparatus, method and program, and moving picture predictive decoding apparatus, method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060719

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080701

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080715

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080916

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080916

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081014

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081016

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111024

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111024

Year of fee payment: 3

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111024

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121024

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121024

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131024

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees