JP4851270B2 - Moving picture decoding apparatus and decoding method. - Google Patents

Moving picture decoding apparatus and decoding method. Download PDF

Info

Publication number
JP4851270B2
JP4851270B2 JP2006237053A JP2006237053A JP4851270B2 JP 4851270 B2 JP4851270 B2 JP 4851270B2 JP 2006237053 A JP2006237053 A JP 2006237053A JP 2006237053 A JP2006237053 A JP 2006237053A JP 4851270 B2 JP4851270 B2 JP 4851270B2
Authority
JP
Japan
Prior art keywords
frame prediction
inter
block
processing
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006237053A
Other languages
Japanese (ja)
Other versions
JP2008061045A (en
Inventor
秀敏 松村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2006237053A priority Critical patent/JP4851270B2/en
Publication of JP2008061045A publication Critical patent/JP2008061045A/en
Application granted granted Critical
Publication of JP4851270B2 publication Critical patent/JP4851270B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、原画像と、フレーム間予測、フレーム内予測により生成された予測画像との差分をとり、その差分を符号化して復号装置側に伝送する動画像復号装置、および復号方法に関する。   The present invention relates to a moving image decoding apparatus and a decoding method that take a difference between an original image and a prediction image generated by inter-frame prediction and intra-frame prediction, encode the difference, and transmit the difference to the decoding device side.

MPEG(ムービング・ピクチャー・エキスパーツ・グループ)などの動画像符号化方式がデジタル放送、インターネット通信、携帯電話通信などの様々な分野で広範に用いられている。このような動画像符号化方式における復号装置側では、符号化装置側から送られてきたビットストリームデータを復号して出力することになるが、例えばビットストリームデータが無線通信伝送路によって伝送される場合に、通信状態の悪化などの要因によってビットストリームデータにエラーが生じ、エラーを含むデータが復号装置に入力される可能性がある。   Video coding systems such as MPEG (Moving Picture Experts Group) are widely used in various fields such as digital broadcasting, Internet communication, and mobile phone communication. On the decoding device side in such a moving image coding system, the bit stream data sent from the coding device side is decoded and output. For example, the bit stream data is transmitted by a wireless communication transmission path. In some cases, an error may occur in the bit stream data due to factors such as deterioration of the communication state, and data including the error may be input to the decoding device.

このようなエラーが復号装置側で検出されたとき、エラー修復のための最も確実な方法は、その部分の符号化データの再送を符号化装置側に要求することであるが、実際には通信速度の維持などの色々の観点から、データ再送要求はあまり現実的な方法ではない。   When such an error is detected on the decoding device side, the most reliable method for error correction is to request the encoding device side to retransmit the encoded data of that part, but in practice communication From various viewpoints such as maintaining speed, a data retransmission request is not a very practical method.

その結果、復号装置側でエラーが検出された場合に、そのエラーの影響ができるだけ少なくなるような処理を復号装置側で行う必要がある。2003年にITU−T(国際電気通信連合−電気通信標準化部門)によって制定されたH.264動画像圧縮符号化方式では、このような伝送エラーに対する対策の1つとして冗長スライスが用いられ、エラーが生じた場合にその内容を用いてエラーの生じたマクロブロックに対する復号画像の修復を行うことができる。   As a result, when an error is detected on the decoding device side, it is necessary to perform processing on the decoding device side so that the influence of the error is minimized. Established in 2003 by ITU-T (International Telecommunication Union-Telecommunication Standardization Sector). In the H.264 video compression encoding method, a redundant slice is used as one countermeasure against such a transmission error, and when an error occurs, the content is used to restore the decoded image for the macroblock in which the error has occurred. be able to.

そのような方法を用いることができない場合には、できるだけエラーの影響を少なくするために復号装置側でエラーコンシールメント処理を行うことがあり、様々なエラーコンシールメントの手法が提案されている。このようなエラーコンシールメント処理について、動画像復号装置の従来例を用いて説明する。   When such a method cannot be used, an error concealment process may be performed on the decoding device side in order to reduce the influence of errors as much as possible, and various error concealment methods have been proposed. Such error concealment processing will be described using a conventional example of a video decoding device.

図16は動画像復号装置の従来例の構成ブロック図である。同図において復号装置は、入力ストリームデータに対する復号処理を行う可変長復号処理部100、フレーム内予測画像を生成するフレーム内予測部101、フレーム間予測画像の生成を行うフレーム間予測処理部102、可変長復号処理部100の出力に対する逆量子化部103と逆変換部104、フレーム内予測部101とフレーム間予測処理部102の出力を選択するためのスイッチ105、スイッチ105の選択結果と逆変換部104の出力を加算する加算部106、加算部106の出力に対してブロック復号処理におけるブロック境界において生ずるブロック歪を除去して、復号画像を出力するデブロッキングフィルタ処理部107、復号画像を格納してフレーム間予測処理部102に与えるフレームメモリ108を備え、フレーム間予測処理部102は、動きベクトルを検出するベクトル再生部109、およびフレーム間予測画像生成部110を備えている。   FIG. 16 is a block diagram showing the configuration of a conventional example of a moving picture decoding apparatus. In the figure, the decoding apparatus includes a variable length decoding processing unit 100 that performs decoding processing on input stream data, an intra-frame prediction unit 101 that generates an intra-frame prediction image, an inter-frame prediction processing unit 102 that generates an inter-frame prediction image, The inverse quantization unit 103 and the inverse transform unit 104 for the output of the variable length decoding processing unit 100, the switch 105 for selecting the outputs of the intra-frame prediction unit 101 and the inter-frame prediction processing unit 102, and the selection result of the switch 105 and the inverse transform An addition unit 106 that adds the output of the unit 104, a deblocking filter processing unit 107 that outputs a decoded image by removing block distortion generated at a block boundary in the block decoding process from the output of the addition unit 106, and stores the decoded image And a frame memory 108 to be supplied to the inter-frame prediction processing unit 102. During prediction processing unit 102 includes a vector reproducing section 109, and the inter-frame prediction image generating unit 110 for detecting a motion vector.

MPEGなどの動画像予測方式の適用対象となる画像のサイズは大きくなる傾向があり、図16で説明したような復号装置もサイズの大きい画像データを処理するための高い処理能力を必要とするようになっている。このような場合、復号装置の構成として各機能ブロックがある同一時刻に異なる画像ブロックに対する処理を行うことによって、各機能ブロックの処理速度を上げることなく、システム全体の処理能力を向上させるような処理方式、例えばパイプライン処理方式が用いられる。   There is a tendency that the size of an image to which a moving image prediction method such as MPEG is applied tends to be large, and the decoding apparatus as described with reference to FIG. 16 also requires a high processing capacity to process large image data. It has become. In such a case, processing for improving the overall processing capability of the system without increasing the processing speed of each functional block by performing processing on different image blocks at the same time as each functional block as a configuration of the decoding device A method such as a pipeline processing method is used.

図17は、図16の従来例におけるマクロブロック(MB)単位のパイプライン処理による復号動作例のタイミングチャートである。同図の最初のステージでは、識別子n+1のマクロブロックに対するフレーム間予測処理の一部として、ベクトル再生部109によるベクトル再生処理が行われ、また同一のステージにおいて先行するマクロブロック、すなわち識別子nのマクロブロックに対する、フレーム間予測画像生成部110によるフレーム間予測画生成処理が行われる。   FIG. 17 is a timing chart of a decoding operation example by pipeline processing in units of macroblocks (MB) in the conventional example of FIG. In the first stage of the figure, vector reproduction processing by the vector reproduction unit 109 is performed as part of the inter-frame prediction process for the macroblock with the identifier n + 1, and the preceding macroblock in the same stage, that is, the macro with the identifier n Inter-frame prediction image generation processing by the inter-frame prediction image generation unit 110 is performed on the block.

次のステージにおいて、識別子n+1のマクロブロックに対するフレーム間予測画生成処理が行われ、また識別子nのマクロブロックに対する逆量子化部103と逆変換部104による逆量子化・逆変換処理が行われる。   In the next stage, an inter-frame prediction image generation process is performed on the macroblock with the identifier n + 1, and an inverse quantization / inverse transform process is performed on the macroblock with the identifier n by the inverse quantization unit 103 and the inverse transform unit 104.

さらに次のステージにおいては、識別子n+1のマクロブロックに対する逆量子化・逆変換処理が行われ、これによってn+1のマクロブロックに対する3段パイプラインによるフレーム間予測処理が終了する。同一のステージにおいて識別子n+3のマクロブロックに対するベクトル再生処理が行われ、以後同様の動作が行われる。   Further, in the next stage, inverse quantization / inverse transform processing is performed on the macro block with the identifier n + 1, and thereby the inter-frame prediction processing by the three-stage pipeline for the n + 1 macro block is completed. In the same stage, vector reproduction processing is performed on the macroblock with the identifier n + 3, and thereafter the same operation is performed.

識別子n+2のマクロブロックに対しては、例えば可変長復号処理部100によるフレーム内/フレーム間の判定結果に対応して、フレーム内予測部101によるフレーム内予測が選択され、このマクロブロックに対するフレーム内予測画生成処理と、逆量子化・逆変換処理は1つのステージにおいて終了する。   For the macroblock with the identifier n + 2, for example, intraframe prediction by the intraframe prediction unit 101 is selected in accordance with the determination result of intraframe / interframe by the variable length decoding processing unit 100, and the intraframe for this macroblock is selected. The prediction image generation process and the inverse quantization / inverse transform process are completed in one stage.

このようにフレーム間予測に対する処理は、例えば3段のパイプラインを必要とする。すなわちフレーム間予測において使用される画像データは、現在復号処理中の画像よりも以前のすでに復号された画像データであり、フレーム内予測、逆変換、および逆量子化などの処理において使用される情報に比べてその量がはるかに大きく、図16のフレームメモリ108に蓄積され、このフレームメモリ108からデータを取得するためなどに時間を要することになる。また図17では、マクロブロック内でのフレーム間予測におけるデータ処理単位と、フレーム内予測、逆量子化、および逆変換におけるデータ処理単位とが異なることがあるため、マクロブロック内でのブロック並べ替えの必要性に対応して、パイプラインでの処理ステージを、例えばフレーム間予測画生成と、逆量子化・逆変換処理とでは別のステージとしている。   Thus, the process for inter-frame prediction requires, for example, a three-stage pipeline. That is, the image data used in inter-frame prediction is already decoded image data before the image currently being decoded, and is used in processes such as intra-frame prediction, inverse transform, and inverse quantization. The amount is much larger than that of FIG. 16 and is accumulated in the frame memory 108 of FIG. 16, and it takes time to acquire data from the frame memory 108. In FIG. 17, the data processing unit in the inter-frame prediction in the macro block may differ from the data processing unit in the intra-frame prediction, inverse quantization, and inverse transform, so that the block rearrangement in the macro block. In response to this need, the processing stage in the pipeline is set as a separate stage in, for example, inter-frame prediction image generation and inverse quantization / inverse transform processing.

図17において、例えば識別子nのマクロブロックに対する逆量子化部103、または逆変換部104の処理においてエラーが検出されたものとする。一般に動画像予測方式では多くの場合可変長符号方式が用いられ、ある時点でデコードエラーが検出された場合、エラーの生じたビット以降のビットが正しく転送されていたとしても、以後の画像データを正しくデコードできる可能性は非常に低い。このためストリームの内部に設けられ、例えばピクチャーの境界やスライスの境界のように、その位置からデコードを行うことによって正しいデコード結果が得られるものと考えられるストリーム内の復帰位置までの区間に対しては、ストリームデータをそのまま復号処理に使用することなく、その区間に対応するマクロブロックをすべてエラーコンシールメントの対象とする処理が一般的に行われる。   In FIG. 17, for example, it is assumed that an error is detected in the process of the inverse quantization unit 103 or the inverse transform unit 104 for the macroblock with the identifier n. In general, in a video prediction method, a variable-length code method is often used, and when a decoding error is detected at a certain point in time, even if the bit after the error bit is correctly transferred, The possibility of correct decoding is very low. For this reason, it is provided inside the stream, for example, for a section up to the return position in the stream where a correct decoding result can be obtained by decoding from that position, such as a picture boundary or a slice boundary. In general, a process in which all the macroblocks corresponding to the section are subjected to error concealment is performed without using the stream data as it is in the decoding process.

このエラーコンシールメント処理の例として、ここではフレーム間予測を用いたエラーコンシールメントと、フレーム内予測を用いたエラーコンシールメントのいずれかを用いるものとする。フレーム間予測によるエラーコンシールメントでは、ビットストリームに含まれる動きベクトル情報に相当する情報を何らかの方法によって決定し、決定されたベクトル情報を用いて表示順で近接する画像の一部を切り出し、場合によってはこれにフィルタを掛けてエラーコンシールメント対象マクロブロックに対する補填画像とする処理が行われる。簡単な実装例としては、ベクトルの絶対値を“0”として、補填画像を切り出す画像として直前にデコードされた画像を用いることができる。   As an example of this error concealment process, here, either error concealment using inter-frame prediction or error concealment using intra-frame prediction is used. In error concealment based on inter-frame prediction, information corresponding to motion vector information included in the bitstream is determined by some method, and a part of adjacent images in the display order is cut out using the determined vector information. Is subjected to a filter to make a compensation image for the error concealment target macroblock. As a simple implementation example, the absolute value of the vector is set to “0”, and an image decoded immediately before can be used as an image for cutting out a supplementary image.

これに対してフレーム内予測によるエラーコンシールメントでは、エラーコンシールメント対象のマクロブロック周辺ですでにデコード済みの正しい画像データを用いて、予め定義されているフレーム内予測画像生成方法、またはそれに近い方法を用いて補填画像を生成することになる。しかしながら一般的にフレーム間予測を用いるエラーコンシールメント処理のほうが、フレーム内予測を用いるよりも品質の高いエラーコンシールメント結果が得られることが知られている。   On the other hand, in error concealment based on intra-frame prediction, a method for generating an intra-frame predicted image or a method close thereto is defined using correct image data that has already been decoded around the macro block subject to error concealment. A supplementary image is generated using. However, it is generally known that error concealment processing using inter-frame prediction can provide a higher quality error concealment result than using intra-frame prediction.

図18は、従来例における、エラーコンシールメント処理に先立つパイプラインリセット例の説明図である。図17で説明したように、フレーム間予測が選択されている識別子n+1のマクロブロックに先行する、識別子nのマクロブロックに対してエラーが検出されたものとする。n+1のマクロブロックに対しては、図17で説明したように既にフレーム間予測方式が適用されており、識別子nのマクロブロックに対するエラーが検出されたことによって、図17の最初のステージにおける識別子n+1のマクロブロックに対するベクトル再生処理、次のステージにおけるフレーム間予測画生成処理の結果は信用できないものとなり、識別子n+1のマクロブロックに対してフレーム間予測処理を適用するためには、一旦パイプラインをリセットし、このマクロブロックに対するベクトル再生処理から処理をやりなおす必要があり、結果的には2ステージ後でなければエラーコンシールメントとしてのフレーム間予測処理を完了することができず、パイプラインのリセットによって処理時間が長くなるとともに、パイプラインリセットのための制御機構も新たに必要となるという問題点があった。   FIG. 18 is an explanatory diagram of a pipeline reset example prior to error concealment processing in the conventional example. As described with reference to FIG. 17, it is assumed that an error has been detected for the macroblock with the identifier n preceding the macroblock with the identifier n + 1 for which interframe prediction is selected. As described with reference to FIG. 17, the inter-frame prediction scheme has already been applied to the n + 1 macroblock, and an error is detected for the macroblock with the identifier n. The result of the vector reproduction processing for the macroblock of, and the inter-frame prediction image generation processing in the next stage becomes unreliable, and in order to apply the inter-frame prediction processing to the macroblock with the identifier n + 1, reset the pipeline once However, it is necessary to repeat the processing from the vector reproduction processing for this macroblock. As a result, the interframe prediction processing as error concealment can be completed only after two stages, and processing is performed by resetting the pipeline. As time goes on, pipes There is a problem that the control mechanism be newly required for in reset.

このような画像復号装置におけるエラーコンシールメントに関する従来技術としての特許文献1には、動きベクトルを蓄積するメモリを備えることなく、エラーマクロブロックに対応する位置の補償領域の画像データを前フレームから読み出し、エラーマクロブロックの損失した画像をより自然な画像によって補間することができるエラー画像補間方法が開示されている。   Patent Document 1 as a prior art relating to error concealment in such an image decoding apparatus reads out image data in a compensation region at a position corresponding to an error macroblock from a previous frame without providing a memory for storing motion vectors. An error image interpolation method capable of interpolating a lost image of error macroblocks with a more natural image is disclosed.

また同じく従来技術としての特許文献2には、エラーマクロブロックの左、上、右上、左上の順序で、インターマクロブロックである隣接ブロックを探し、すべてがイントラマクロブロックである場合には1つ前にデコードされたフレームを参照フレームとする参照フレーム決定方法が開示されている。   Similarly, Patent Document 2 as a conventional technique searches for adjacent blocks that are inter macro blocks in the order of left, top, top right, and top left of an error macro block, and if all are intra macro blocks, the previous one. A reference frame determination method using a decoded frame as a reference frame is disclosed.

特開2001−309388 「画像復号装置におけるエラー画像補間方法」JP-A-2001-309388 “Error Image Interpolation Method in Image Decoding Device” 特開2005−252549 「エラーコンシールメントの参照フレーム決定方法および復号器」Japanese Patent Application Laid-Open No. 2005-252549 “Error Concealment Reference Frame Determination Method and Decoder”

以上に述べた従来技術には、あるマクロブロックに対するエラーが検出された直後に、エラーコンシールメント処理としてのフレーム間予測処理を場合に、パイプラインリセットを行う必要があり、全体の処理時間の延長を招くとともに、パイプラインリセットとフレーム間予測処理のやり直しのために新たな制御機構が必要になるという問題点がある。   In the prior art described above, immediately after an error for a certain macroblock is detected, it is necessary to perform pipeline reset in the case of inter-frame prediction processing as error concealment processing, which extends the overall processing time. In addition, there is a problem that a new control mechanism is required to redo the pipeline reset and the inter-frame prediction process.

本発明の動画像復号装置は、ストリームデータである画像をブロックに分割して予測画像を生成し、動画像データの復号を行う装置であって、処理対象ブロックに対するフレーム内予測画像を生成するフレーム内予測手段と、処理対象ブロックに対するフレーム間予測画像を生成するフレーム間予測手段と、1つのブロックに対するフレーム間予測処理の開始後に、該1つのブロックに時間的に先行するブロックに対するエラーが検出されたとき、該1つのブロックに対してエラーコンシールメント処理としてのフレーム内予測処理を前記フレーム内予測手段に実行させると共に、該1つのブロックに時間的に続くブロックから前記ストリームデータ内のスタートコードの直前までのブロックにおいて、前記エラーコンシールメント処理としてのフレーム間予測処理が所定の期間内に納まらないブロックに対して前記フレーム内予測手段にフレーム内予測処理を実行させ、前記エラーコンシールメント処理としてのフレーム間予測処理が所定の期間内に納まるブロックに対して前記フレーム間予測手段にフレーム間予測処理を実行させる制御手段と、を備えることを特徴とする。 A moving picture decoding apparatus according to the present invention is an apparatus that generates a prediction image by dividing an image, which is stream data, into blocks, and decodes moving image data, and a frame that generates an intra-frame prediction image for a processing target block After the start of the inter-frame prediction means, the inter-frame prediction means for generating the inter-frame prediction image for the processing target block, and the inter-frame prediction processing for one block, an error is detected for the block temporally preceding the one block. The intra-frame prediction process as error concealment processing for the one block is executed by the intra-frame prediction means , and the start code in the stream data from the block temporally following the one block In the previous block, the error concealment process is performed. Blocks in which the inter-frame prediction process is performed within a predetermined period by causing the intra-frame prediction means to execute the intra-frame prediction process for blocks that do not fit within the predetermined period. Control means for causing the inter-frame prediction means to execute inter-frame prediction processing.

本発明によれば、エラーが検出されたブロックの直後にあり、すでにフレーム間予測処理の開始されたブロックに対して、エラーコンシールメント処理としてフレーム内予測処理を実行させることによって、パイプラインのリセットや、フレーム間予測のやり直しのための制御機構が不必要となり、また全体的な処理時間の延長を避けることが可能となる。   According to the present invention, a pipeline reset is performed by causing an intra-frame prediction process to be executed as an error concealment process for a block immediately after a block in which an error is detected and for which an inter-frame prediction process has already been started. In addition, a control mechanism for re-execution of inter-frame prediction is unnecessary, and it is possible to avoid an increase in overall processing time.

本発明は、例えばH.264動画像圧縮符号化方式を用いて、符号化装置から送られた符号化データを復号装置側で復号するに当たり、エラーが検出された場合に復号装置側で行われるべきエラーコンシールメント処理に関連するものである。復号装置側で入力されるストリームの内部の連続するフレームを順次復号化する方式としては各種の方式が考えられるが、ここでは復号化処理を効率的に実行するために、従来例の図17の説明におけると同様にパイプライン方式の処理が行われるものとして発明の実施例を説明するが、本発明はパイプライン方式の復号装置に限定されるものではない。   The present invention is described in, for example, H.D. Related to error concealment processing to be performed on the decoding device side when an error is detected in decoding the encoded data sent from the encoding device using the H.264 moving image compression coding method To do. Various schemes are conceivable as a scheme for sequentially decoding the continuous frames in the stream input on the decoding apparatus side. Here, in order to efficiently execute the decoding process, the conventional example shown in FIG. The embodiment of the invention will be described on the assumption that pipeline processing is performed in the same manner as in the description, but the present invention is not limited to a pipeline decoding apparatus.

図1は、本発明の動画像復号装置の原理構成ブロック図である。動画像復号装置1は、画像をブロックに分割して予測画像を生成し、動画像の復号を行う装置であり、少なくとも処理対象ブロックに対するフレーム内予測画像を生成するフレーム内予測手段2と、処理対象ブロックに対するフレーム間予測画像を生成するフレーム間予測手段3と、1つのブロックに対するフレーム間予測処理の開始後に、該1つのブロックに時間的に先行するブロックに対するエラーが検出されたとき、その1つのブロックに対してエラーコンシールメント処理としてのフレーム内予測処理を実行させる制御手段4とを備える。   FIG. 1 is a block diagram showing the principle configuration of a moving picture decoding apparatus according to the present invention. The video decoding device 1 is a device that generates a predicted image by dividing an image into blocks and decodes the moving image, and includes an intra-frame prediction unit 2 that generates an intra-frame predicted image for at least a processing target block, and a process Inter-frame prediction means 3 for generating an inter-frame prediction image for the target block, and when an error is detected for a block temporally preceding the one block after the start of inter-frame prediction processing for one block, the first And control means 4 for executing intra-frame prediction processing as error concealment processing for one block.

発明の実施の形態においては、可変長復号処理の結果が逆量子化、逆変換されてフレーム内予測画像、またはフレーム間予測画像と加算されて基本的な復号画像として出力されることになるが、フレーム間予測が適用されるべきブロックに時間的に先行するブロックに対してエラーが検出されたときには、フレーム間予測が実行されるべきブロックに対するエラーコンシールメント処理としてのフレーム間予測を行うために、例えばパイプラインリセットを行う方法をとるのではなく、エラーコンシールメント処理とし、フレーム間予測に代わってフレーム内予測が適用されることになる。   In the embodiment of the invention, the result of the variable length decoding process is inversely quantized and inversely transformed and added to the intra-frame prediction image or the inter-frame prediction image, and is output as a basic decoded image. In order to perform inter-frame prediction as an error concealment process for a block for which inter-frame prediction is to be performed when an error is detected for a block temporally preceding the block to which inter-frame prediction is to be applied For example, instead of taking a pipeline reset method, error concealment processing is performed, and intra-frame prediction is applied instead of inter-frame prediction.

図2は、本発明の第1の実施例における動画像復号装置の全体構成ブロック図である。この第1の実施例では、3段のパイプライン制御によってフレーム画像の復号が行われるものとする。図2においては、従来例の図16と比較して、このパイプライン制御、およびエラーコンシールメント処理の制御のための制御部10が追加されている点が基本的に異なっている。   FIG. 2 is a block diagram showing the overall configuration of the moving picture decoding apparatus according to the first embodiment of the present invention. In the first embodiment, it is assumed that the frame image is decoded by three-stage pipeline control. 2 is basically different from FIG. 16 of the conventional example in that a control unit 10 for controlling the pipeline control and the error concealment process is added.

図3は、第1の実施例における制御部10の構成ブロック図である。同図において制御部10は、逆量子化部15、または逆変換部16から送られるエラー通知信号に対応して、その内容を保持するエラー情報保持部25、3段のパイプラインのステージ1、ステージ2、およびステージ3をそれぞれ制御するパイプラインステージ1制御部26、パイプラインステージ2制御部27、パイプラインステージ3制御部28を備えている。   FIG. 3 is a configuration block diagram of the control unit 10 in the first embodiment. In the figure, the control unit 10 corresponds to an error notification signal sent from the inverse quantization unit 15 or the inverse transform unit 16, an error information holding unit 25 that holds the content thereof, the stage 1 of the three-stage pipeline, A pipeline stage 1 control unit 26, a pipeline stage 2 control unit 27, and a pipeline stage 3 control unit 28 are provided to control the stage 2 and the stage 3, respectively.

パイプラインステージ1はベクトル再生処理に対応し、パイプラインステージ1制御部26からはベクトル再生起動信号がベクトル再生部21に与えられる。ステージ2はフレーム間予測画像生成処理に対応し、パイプラインステージ2制御部27からフレーム間予測画生成起動信号がフレーム間予測画像生成部22に与えられる。またステージ3はフレーム内予測を含み、フレーム内予測、またはフレーム間予測の予測結果と、逆変換部16の変換結果を加算器17によって加算する処理に相当し、パイプラインステージ3制御部28からフレーム内予測起動信号がフレーム内予測部14に与えられるとともに、加算部17への入力信号を選択するスイッチ18に対する加算部入力選択制御信号が与えられる。   The pipeline stage 1 corresponds to vector reproduction processing, and a vector reproduction start signal is given to the vector reproduction unit 21 from the pipeline stage 1 control unit 26. Stage 2 corresponds to an inter-frame prediction image generation process, and an inter-frame prediction image generation activation signal is given to the inter-frame prediction image generation unit 22 from the pipeline stage 2 control unit 27. Stage 3 includes intra-frame prediction, which corresponds to the process of adding the prediction result of intra-frame prediction or inter-frame prediction and the conversion result of the inverse conversion unit 16 by the adder 17, and from the pipeline stage 3 control unit 28 An intra-frame prediction activation signal is provided to the intra-frame prediction unit 14 and an addition unit input selection control signal for the switch 18 that selects an input signal to the addition unit 17 is provided.

なお図示しないが、図2の可変長復号処理部11から、入力ストリーム内で現在処理対象のマクロブロックがフレーム間予測の適用されたマクロブロックか、フレーム内予測の適用されたマクロブロックのいずれであるかを判定した結果の信号が、例えばパイプラインステージ1制御部26に与えられ、その情報はパイプラインステージ2制御部27、パイプラインステージ3制御部28にも伝達されるものとする。   Although not shown, from the variable-length decoding processing unit 11 in FIG. 2, either the macroblock to which inter-frame prediction is applied or the macroblock to which intra-frame prediction is applied is the current macroblock to be processed in the input stream. A signal as a result of the determination is given to, for example, the pipeline stage 1 control unit 26, and the information is also transmitted to the pipeline stage 2 control unit 27 and the pipeline stage 3 control unit 28.

図3の制御部による処理について図4から図6のフローチャートを用いて説明する。図4は、パイプラインステージ1制御部26による処理のフローチャートである。同図において、ステップS1でこのマクロブロック、すなわち現在処理対象となっているマクロブロックより前のマクロブロックにエラーがあったか否かが判定され、エラーがあった場合にはステップS2でエラーコンシールメント動作としてのベクトル再生部の起動が行われる。ステップS1でエラーがなかったと判定されると、ステップS3でこのマクロブロックに対する予測方式がフレーム間予測であるか否かが判定され、フレーム間予測でない場合にはなんらの処理を行うことなくステージ1の処理を終了し、フレーム間予測である場合にはステップS4で通常動作としてのベクトル再生部の起動が行われる。なおステップS2で行われるエラーコンシールメント動作としてのフレーム間予測処理では、前述のように、例えば動きベクトルの値を“0”として、直前にデコードした画像のデータが用いられることになる。   The processing by the control unit in FIG. 3 will be described with reference to the flowcharts in FIGS. FIG. 4 is a flowchart of processing by the pipeline stage 1 control unit 26. In the figure, in step S1, it is determined whether or not there is an error in this macro block, that is, the macro block prior to the macro block currently being processed. If there is an error, an error concealment operation is performed in step S2. The vector playback unit is activated. If it is determined in step S1 that there is no error, it is determined in step S3 whether or not the prediction method for this macroblock is interframe prediction. If it is not interframe prediction, stage 1 is performed without performing any processing. When the process is completed and the inter-frame prediction is performed, the vector reproduction unit is activated as a normal operation in step S4. In the inter-frame prediction process as the error concealment operation performed in step S2, as described above, for example, the value of the motion vector is set to “0”, and the image data decoded immediately before is used.

図5は、パイプラインステージ2制御部27による処理のフローチャートである。ステージ2では、まずステップS6で現在処理対象のマクロブロックがパイプラインのステージ1でエラーコンシールメント動作の対象として処理されたか否かが判定され、対象とされた場合にはステップS7でフレーム間予測画像生成部の起動が行われる。エラーコンシールメント動作の対象となっていなかった場合には、ステップS8でそのマクロブロックがフレーム間予測の対象であるか否かが判定され、その対象でない、すなわちフレーム内予測の対象である場合にはなんらの処理を行うことなくステージ2を終了し、フレーム間予測の対象である場合にはステップS7の処理に移行する。   FIG. 5 is a flowchart of processing by the pipeline stage 2 control unit 27. In stage 2, first, in step S6, it is determined whether or not the current macroblock to be processed has been processed as an error concealment operation target in stage 1 of the pipeline. The image generation unit is activated. If it is not the target of the error concealment operation, it is determined in step S8 whether or not the macroblock is the target of inter-frame prediction, and if it is not the target, that is, the target of intra-frame prediction. Stage 2 is terminated without performing any processing, and if it is the target of inter-frame prediction, the process proceeds to step S7.

図6は、パイプラインステージ3制御部28による処理のフローチャートである。ステージ3では、まずステップS10で処理対象マクロブロックがステージ1でエラーコンシールメント動作の対象となったか否かが判定され、その対象となった場合にはステップS11で加算部17がフレーム間予測処理部13側に接続され、ステップS12で逆量子化・逆変換処理が行われることになる。   FIG. 6 is a flowchart of processing by the pipeline stage 3 control unit 28. In stage 3, first, in step S10, it is determined whether or not the processing target macroblock is the target of the error concealment operation in stage 1, and if so, the adding unit 17 performs inter-frame prediction processing in step S11. It is connected to the unit 13 side, and inverse quantization / inverse transformation processing is performed in step S12.

ステップS10で、処理対象マクロブロックがステージ1でエラーコンシールメント動作の対象となっていない場合には、ステップS13でそのマクロブロックに対する予測方式がフレーム間予測であるか否かが判定され、フレーム間予測である場合にはステップS11以降の処理が行われる。フレーム間予測でない場合には、ステップS14で加算部17がフレーム内予測部14側に接続され、ステップS15で現在処理対象のマクロブロックより前のマクロブロックにエラーがあったか否かが判定され、エラーがあった場合にはステップS16でエラーコンシールメント動作としてのフレーム内予測部の起動が行われ、エラーがなかった場合にはステップS17で通常動作としてのフレーム内予測部の起動が行われる。   If it is determined in step S10 that the processing target macroblock is not an error concealment operation target in stage 1, it is determined in step S13 whether or not the prediction method for the macroblock is interframe prediction. In the case of prediction, the processing after step S11 is performed. If the prediction is not inter-frame prediction, the adding unit 17 is connected to the intra-frame prediction unit 14 in step S14, and it is determined in step S15 whether or not there is an error in a macroblock prior to the current macroblock to be processed. If there is, the intra-frame prediction unit is activated as an error concealment operation in step S16, and if there is no error, the intra-frame prediction unit is activated as a normal operation in step S17.

図7は、ストリーム内でエラーが検出された場合に、エラーコンシールメント対象となるマクロブロックの説明図である。ストリームの内部には、その位置からデコードを行うことによって正しいデコードが可能となる位置としてのスタートコードが埋め込まれており、一般的にこのスタートコード、すなわち復帰位置までのマクロブロックが、エラーが検出されたマクロブロックの次のマクロブロックから始まるエラーコンシールメント処理の対象となる。このスタートコードは、例えばピクチャの境界やスライスの境界などに設けられる。   FIG. 7 is an explanatory diagram of macroblocks that are subject to error concealment when an error is detected in the stream. In the stream, a start code is embedded as a position where correct decoding is possible by decoding from that position. In general, errors are detected in this start code, that is, the macro block up to the return position. It becomes the target of error concealment processing starting from the macro block next to the macro block. This start code is provided, for example, at a picture boundary or a slice boundary.

図8、図9は、第1の実施例における画像データ復号処理例のタイムチャートである。図8はエラーが検出されない正常動作のタイムチャート、また図9はエラーが検出され、エラーコンシールメント処理が復帰位置まで行われる場合のタイムチャートである。   8 and 9 are time charts of an example of image data decoding processing in the first embodiment. FIG. 8 is a time chart of a normal operation in which no error is detected, and FIG. 9 is a time chart in a case where an error is detected and the error concealment process is performed up to the return position.

これらのタイムチャートにおいて、フレーム間予測のマクロブロックに対してはパイプラインの3段、すなわち3ステージかかって処理が行われるのに対して、フレーム内予測のマクロブロックに対しては、図6で説明したように3段パイプラインの最後のステージとしてのステージ3だけを用いて処理が行われる。   In these time charts, processing is performed in three stages of the pipeline, that is, three stages, for the macroblock for inter-frame prediction, whereas for the macroblock for intra-frame prediction in FIG. As described, processing is performed using only stage 3 as the last stage of the three-stage pipeline.

図8において、まず最初のステージで識別子nのマクロブロックに対しては、フレーム間予測画像生成部22が起動されてフレーム間予測画が生成され、また識別子n+1のマクロブロックに対してはベクトル再生処理起動指示に応じてベクトル再生処理が行われる。ここで識別子nとn+1のマクロブロックに対してはフレーム間予測が適用される。   In FIG. 8, in the first stage, for the macroblock with the identifier n, the inter-frame prediction image generation unit 22 is activated to generate the inter-frame prediction image, and for the macro block with the identifier n + 1, vector reproduction is performed. A vector reproduction process is performed in response to the process activation instruction. Here, inter-frame prediction is applied to macroblocks with identifiers n and n + 1.

次のステージにおいて、識別子n+1のマクロブロックに対しては、フレーム間予測画像生成部起動指示が行われてフレーム間予測画の生成が行われ、識別子nのマクロブロックに対しては逆量子化・逆変換処理が行われる。この時、図2の加算部17はフレーム間予測処理部13によって生成されたフレーム間予測画像を選択する。   In the next stage, for the macroblock with the identifier n + 1, an inter-frame prediction image generation unit activation instruction is issued to generate an inter-frame prediction image, and for the macroblock with the identifier n, inverse quantization / Inverse conversion processing is performed. At this time, the adding unit 17 in FIG. 2 selects the inter-frame prediction image generated by the inter-frame prediction processing unit 13.

次のステージにおいては識別子n+1のマクロブロックに対して逆量子化・逆変換処理が行われる。この時、加算部17はフレーム間予測画像を選択する。次の2つのステージにおいては、識別子n+2とn+3のマクロブロックに対してフレーム内予測画生成と逆量子化・逆変換処理が行われる。これはこの2つのマクロブロックに対してはフレーム内予測が適用されるためである。この時加算部17は、当然フレーム内予測部14の出力するフレーム内予測画像を選択する。   In the next stage, inverse quantization / inverse transform processing is performed on the macroblock with the identifier n + 1. At this time, the adding unit 17 selects an inter-frame prediction image. In the next two stages, intra-frame prediction image generation and inverse quantization / inverse transform processing are performed on macroblocks with identifiers n + 2 and n + 3. This is because intra-frame prediction is applied to these two macroblocks. At this time, the addition unit 17 naturally selects the intra-frame prediction image output from the intra-frame prediction unit 14.

ただしこの2つのステージにおいては、次の識別子n+4、n+5の2つのマクロブロックに対してフレーム間予測が適用されるために、フレーム間予測のための3段パイプラインのステージ1の処理が開始される。すなわち識別子n+2のマクロブロックに対するフレーム内予測画生成などの処理と同時に、識別子n+4のマクロブロックに対するベクトル再生処理が行われる。また次のステージではこのマクロブロックに対するフレーム間予測画生成と、次のn+5のマクロブロックに対するベクトル再生処理が行われる。   However, in these two stages, since inter-frame prediction is applied to the two macroblocks of the next identifiers n + 4 and n + 5, the processing of stage 1 of the three-stage pipeline for inter-frame prediction is started. The That is, simultaneously with processing such as intra-frame prediction image generation for the macro block with the identifier n + 2, vector reproduction processing for the macro block with the identifier n + 4 is performed. In the next stage, inter-frame prediction image generation for the macroblock and vector reproduction processing for the next n + 5 macroblock are performed.

以下同様の処理が、マクロブロックに対してフレーム間予測が適用されるか、フレーム内予測が適用されるかに対応して続行される。なお図8では、マクロブロックの復号処理には無関係であるが、識別子n+6とn+7のマクロブロックの間が、図7で説明したように復帰位置となっている。   Hereinafter, the same processing is continued in accordance with whether inter-frame prediction or intra-frame prediction is applied to the macroblock. In FIG. 8, although not related to the decoding process of the macroblock, the return position is between the macroblocks with the identifiers n + 6 and n + 7 as described in FIG.

図9では、図の最初から2番目のステージにおいて、識別子nのマクロブロックに対する逆量子化・逆変換処理においてエラーが検出されたものとする。前述のようにエラーコンシールメント処理としては、フレーム内予測によるよりもフレーム間予測による方が品質の高いコンシールメント結果を得ることができるため、このステージ以降、復帰位置に達するまでのマクロブロック、すなわち識別子n+6までのマクロブロックに対しては、時間的に許される限りフレーム間予測を行うための3段のパイプライン処理が行われる。   In FIG. 9, it is assumed that an error has been detected in the inverse quantization / inverse transformation process for the macroblock with the identifier n in the second stage from the beginning of the figure. As described above, as error concealment processing, it is possible to obtain a higher-quality concealment result by inter-frame prediction than by intra-frame prediction. For the macroblocks up to the identifier n + 6, a three-stage pipeline process for performing inter-frame prediction is performed as long as time permits.

すなわち次のステージにおいて、識別子n+3のマクロブロックに対してベクトル再生処理が行われる。ここで識別子n+1のマクロブロックは図8で説明したようにフレーム間予測が行われるべきマクロブロックであるが、このマクロブロックに対して再びフレーム間予測処理を行うことは、図18で説明したように処理時間の延長を招く。このマクロブロックに対しては、このステージでフレーム内予測画生成と、逆量子化・逆変換処理とが行われる。フレーム内予測によるエラーコンシールメントでは、左、上、左上に隣接するマクロブロックの画素情報を用いる。これらの情報はデコード済み画像に比べて小さいデータ量であるために、フレームメモリのような大容量ではあるがデータ取得に時間を要するメモリを必要とせず、例えばフレーム内予測部内部に蓄積することが可能である。このためフレーム間予測部は、フレーム内予測によるエラーコンシールメント指示直後から内部に蓄積された隣接マクロブロックの画素からフレーム内予測を行うことが可能であるため、フレーム間予測によるエラーコンシールメントのようにパイプラインリセットと、これに伴う処理時間の延長は発生しない。   That is, in the next stage, vector reproduction processing is performed on the macroblock with the identifier n + 3. Here, the macro block with the identifier n + 1 is a macro block to be subjected to the inter-frame prediction as described in FIG. 8, and the inter-frame prediction process is performed again on this macro block as described in FIG. Incurs longer processing time. For this macroblock, intra-frame prediction image generation and inverse quantization / inverse transform processing are performed at this stage. In error concealment based on intra-frame prediction, pixel information of macroblocks adjacent to the left, top, and top left is used. Since this information has a smaller amount of data than the decoded image, it does not require a memory that requires a large amount of data, such as a frame memory, but takes time to acquire data. For example, it can be stored inside the intra-frame prediction unit. Is possible. For this reason, the inter-frame prediction unit can perform intra-frame prediction from pixels of adjacent macroblocks stored immediately after an error concealment instruction by intra-frame prediction. In addition, there is no pipeline reset and no associated processing time extension.

次のステージでは、識別子n+3のマクロブロックに対するフレーム間予測画生成、n+4のマクロブロックに対するベクトル再生処理が行われ、n+2のマクロブロックに対しては、図8で説明したように、本来適用されるべきフレーム内予測を用いてエラーコンシールメント処理が行われる。   In the next stage, inter-frame prediction image generation for the macroblock with the identifier n + 3 and vector reproduction processing for the macroblock with n + 4 are performed, and the macroblock of n + 2 is originally applied as described in FIG. Error concealment processing is performed using power intra-frame prediction.

以下同様にして、識別子n+6のマクロブロックまでに対しては、フレーム間予測を用いたエラーコンシールメント処理が行われる。図8で説明したようにn+3、n+6のマクロブロックは本来フレーム内予測が適用されるマクロブロックであるが、復帰位置、すなわち識別子n+6のマクロブロックまでは、エラーコンシールメント処理としてコンシールメント効果の大きいフレーム間予測によるエラーコンシールメントが行われる。このようにして、エラー検出後には、例えばビットストリームデータをそのまま用いたフレーム間予測を行うよりも高品質なエラーコンシールメント結果としての復号画像を得ることができる。   In the same manner, error concealment processing using inter-frame prediction is performed for the macroblock with the identifier n + 6. As described with reference to FIG. 8, the n + 3 and n + 6 macroblocks are originally macroblocks to which intra-frame prediction is applied. However, up to the return position, that is, the macroblock with the identifier n + 6, has a large concealment effect as an error concealment process. Error concealment is performed by inter-frame prediction. In this way, after error detection, it is possible to obtain a decoded image as a high-quality error concealment result, for example, compared to performing inter-frame prediction using bitstream data as it is.

次に第2の実施例について説明する。第2の実施例では、パイプラインの段数を2段とし、フレーム間予測におけるベクトル再生処理とフレーム間予測画像生成処理とを1つのステージ内で実行するものとする。   Next, a second embodiment will be described. In the second embodiment, the number of pipeline stages is two, and the vector reproduction process and the inter-frame prediction image generation process in the inter-frame prediction are executed in one stage.

図10は、第2の実施例における動画像復号装置の全体構成ブロック図である。第2の実施例では、ベクトル再生処理とフレーム間予測画像生成処理とを1つのステージ内で行うために、図2のベクトル再生部21とフレーム間予測画像生成部22とによって構成されるフレーム間予測処理部13に代わって、フレーム間予測部31が設けられている点が基本的に異なっており、これに対応して制御部30の構成も図2の制御部10とは異なるものとなる。   FIG. 10 is a block diagram showing the overall configuration of the moving picture decoding apparatus according to the second embodiment. In the second embodiment, in order to perform the vector reproduction process and the inter-frame predicted image generation process in one stage, the inter-frame configured by the vector reproduction unit 21 and the inter-frame predicted image generation unit 22 of FIG. The point that an inter-frame prediction unit 31 is provided in place of the prediction processing unit 13 is basically different, and the configuration of the control unit 30 is also different from the control unit 10 of FIG. .

図11は、図10の制御部30の構成ブロック図である。同図において制御部30は、エラー情報保持部32、パイプラインステージ1制御部33、パイプラインステージ2制御部34によって構成されている。エラー情報保持部32は、図3におけると同様に逆量子化部15、および逆変換部16からのエラー通知信号を受け取り、その内容によってパイプラインステージ1制御部33とパイプラインステージ2制御部34を制御する。パイプラインステージ1制御部は、図10のフレーム間予測部31に対するフレーム間予測起動信号を出力し、パイプラインステージ2制御部34は、フレーム内予測部14に対してフレーム内予測起動信号を出力し、また加算部17への入力を選択する制御信号をスイッチ18に出力する。なお可変長復号処理部11からのフレーム内/フレーム間予測の判別信号は、例えばパイプラインステージ1制御部33に与えられ、パイプラインステージ2制御部34に伝達されるものとする。   FIG. 11 is a configuration block diagram of the control unit 30 in FIG. In the figure, the control unit 30 includes an error information holding unit 32, a pipeline stage 1 control unit 33, and a pipeline stage 2 control unit 34. The error information holding unit 32 receives the error notification signal from the inverse quantization unit 15 and the inverse transform unit 16 as in FIG. 3, and the pipeline stage 1 control unit 33 and the pipeline stage 2 control unit 34 according to the contents thereof. To control. The pipeline stage 1 control unit outputs an inter-frame prediction activation signal to the inter-frame prediction unit 31 in FIG. 10, and the pipeline stage 2 control unit 34 outputs an intra-frame prediction activation signal to the intra-frame prediction unit 14. In addition, a control signal for selecting an input to the adder 17 is output to the switch 18. Note that the intra-frame / inter-frame prediction determination signal from the variable-length decoding processing unit 11 is given to, for example, the pipeline stage 1 control unit 33 and transmitted to the pipeline stage 2 control unit 34.

図12、図13は、第2の実施例におけるパイプライン制御処理のフローチャートである。図12は、パイプラインステージ1制御部33による処理のフローチャートであり、そのステージではまずステップS21で現在処理対象のマクロブロックの前のブロックにエラーが検出されたか否かが判定され、検出されていた場合にはステップS22でエラーコンシールメント動作としてフレーム間予測部の起動が行われる。これに対してエラーが検出されていない場合には、ステップS23でそのマクロブロックがフレーム間予測の適用対象であるか否かが判定され、その適用対象でない場合にはなんらの処理を行うことなくステージ1の処理を終了する。フレーム間予測の対象である場合には、ステップS24で通常動作としてのフレーム間予測部の起動が行われる。   12 and 13 are flowcharts of pipeline control processing in the second embodiment. FIG. 12 is a flowchart of processing performed by the pipeline stage 1 control unit 33. In this stage, first, in step S21, it is determined whether or not an error has been detected in a block preceding the current macro block to be processed. If this is the case, the inter-frame prediction unit is activated as an error concealment operation in step S22. On the other hand, if no error is detected, it is determined in step S23 whether or not the macroblock is an application target of inter-frame prediction. If it is not the application target, no processing is performed. The stage 1 process is terminated. If the target is an inter-frame prediction target, the inter-frame prediction unit is activated as a normal operation in step S24.

図13は、パイプラインステージ2制御部34による処理例のフローチャートである。第2の実施例においては、第1の実施例におけるステージ1とステージ2の処理が実質的にステージ1のみで行われ、第1の実施例におけるステージ3の処理が第2の実施例におけるステージ2の処理に相当する。したがって図13のステップS30からステップS37までの処理は、図6のステップS10からステップS17までの処理と実質的に同じであり、その詳細な説明を省略する。   FIG. 13 is a flowchart of a processing example performed by the pipeline stage 2 control unit 34. In the second embodiment, the processing of stage 1 and stage 2 in the first embodiment is substantially performed only in stage 1, and the processing of stage 3 in the first embodiment is performed in the stage in the second embodiment. This corresponds to the second processing. Therefore, the processing from step S30 to step S37 in FIG. 13 is substantially the same as the processing from step S10 to step S17 in FIG. 6, and detailed description thereof will be omitted.

図14、図15は、第2の実施例における動画像復号処理のタイムチャートである。図8、図9と、同様に図14はエラーが検出されない場合の正常動作のタイムチャートであり、図15はエラーが検出され、エラーコンシールメント処理が行われる場合のタイムチャートである。   14 and 15 are time charts of the moving picture decoding process in the second embodiment. Similarly to FIGS. 8 and 9, FIG. 14 is a time chart of a normal operation when no error is detected, and FIG. 15 is a time chart when an error is detected and error concealment processing is performed.

図14の最初のステージでは、識別子nのマクロブロックに対してフレーム間予測部起動指示が行われ、フレーム間予測画生成処理が行われる。次のステージでは、識別子nのマクロブロックに対する逆量子化・逆変換処理が行われるとともに、n+1のマクロブロックに対するフレーム間予測画生成処理が行われる。この時、加算部17はフレーム間予測画像を選択する。以下同様の処理が各マクロブロックに対して行われるが、その処理は図8と比較して、フレーム間予測のための処理が2つのステージだけで行われる点だけが異なっているのみであり、その詳細な説明を省略する。   In the first stage of FIG. 14, an inter-frame prediction unit activation instruction is issued for the macroblock with the identifier n, and an inter-frame prediction image generation process is performed. In the next stage, an inverse quantization / inverse transform process is performed on the macroblock with the identifier n, and an inter-frame prediction image generation process is performed on the n + 1 macroblock. At this time, the adding unit 17 selects an inter-frame prediction image. Hereinafter, the same processing is performed for each macroblock, but the processing is different from FIG. 8 only in that processing for inter-frame prediction is performed in only two stages, Detailed description thereof is omitted.

図15においては、図9におけると同様に識別子nのマクロブロックに対する逆量子化・逆変換処理においてエラーが検出され、以後、識別子n+6のマクロブロックに至るまでエラーコンシールメント処理が行われる。図9ではフレーム間予測のためのパイプライン処理が3つのステージにかけて行われるために、識別子n+1のマクロブロックだけでなく、n+2のマクロブロックに対しても、フレーム間予測でのエラーコンシールメント処理は時間的に間に合わず、識別子n+3のマクロブロックからフレーム間予測でのエラーコンシールメント処理が行われるが、図15では識別子nのマクロブロックに対してエラーが検出されたステージの次のステージで、識別子n+2のマクロブロックに対するフレーム間予測画生成処理が可能となり、フレーム内予測でのエラーコンシールメント処理の対象となるマクロブロックは識別子n+1のマクロブロックのみとなる。   In FIG. 15, as in FIG. 9, an error is detected in the inverse quantization / inverse conversion process for the macroblock with the identifier n, and thereafter the error concealment process is performed until the macroblock with the identifier n + 6 is reached. In FIG. 9, since the pipeline processing for inter-frame prediction is performed over three stages, the error concealment processing in the inter-frame prediction is performed not only for the macro block of the identifier n + 1 but also for the macro block of n + 2. In time, the error concealment process in the inter-frame prediction is performed from the macro block with the identifier n + 3, but in FIG. 15, the identifier is detected at the stage next to the stage where the error is detected for the macro block with the identifier n. The inter-frame prediction image generation process for the n + 2 macro block is possible, and the macro block that is the target of the error concealment process in the intra-frame prediction is only the macro block with the identifier n + 1.

以上の説明では、フレーム間予測処理の対象となっているマクロブロックに対してエラーが検出された場合を例として、2つの実施例におけるタイムチャートなどを説明したが、フレーム内予測処理の対象となったマクロブロックに対してエラーが検出された場合にも本発明を適用することは当然可能であり、エラー検出以後、ストリーム内の復帰位置までのマクロブロックがすべてエラーコンシールメント対象となり、時間的にフレーム間予測が間に合うマクロブロックに対してはフレーム間予測によるエラーコンシールメント処理が行われ、時間的に間に合わないマクロブロックに対してはフレーム内予測処理によるエラーコンシールメント処理が行われる。   In the above description, the case where an error is detected for a macroblock that is the target of inter-frame prediction processing has been described as an example of the time charts in the two embodiments. Naturally, the present invention can be applied even when an error is detected with respect to a macroblock that has become defective, and all macroblocks up to the return position in the stream after error detection are subject to error concealment. On the other hand, error concealment processing by inter-frame prediction is performed for macroblocks that meet the intra-frame prediction, and error concealment processing by intra-frame prediction processing is performed on macroblocks that are not in time.

また以上の説明では、H.264方式を動画像圧縮符号化方式の1つの例として実施例を説明したが、画像符号化方式はH.264だけに限定されず、今後標準化される方式も含め、すべの符号化方式に対して本発明を適用することが可能である。H.264方式と同じビットレートでの画質が同等とされている方式であり、マイクロソフト社の圧縮方式がSMPTE(米国映画テレビ技術者協会)によって規格化(SMPTE−421M)されたVC−1方式に対しても当然適用可能である。   In the above description, H.C. The embodiment has been described using the H.264 system as one example of the moving image compression coding system. The present invention is not limited to H.264, and the present invention can be applied to all encoding methods including a method that will be standardized in the future. H. This is a method in which the image quality at the same bit rate as that of the H.264 method is the same, and the compression method of Microsoft Corp. is standardized (SMPTE-421M) by the SMPTE (American Film and Television Engineers Association) VC-1 method However, it is naturally applicable.

本発明の動画像復号装置の原理構成ブロック図である。It is a principle structure block diagram of the moving image decoding apparatus of this invention. 第1の実施例における動画像復号装置の全体構成ブロック図である。1 is an overall configuration block diagram of a video decoding device in a first embodiment. 図2における制御部の構成ブロック図である。FIG. 3 is a configuration block diagram of a control unit in FIG. 2. 第1の実施例におけるパイプラインステージ1の処理フローチャートである。It is a process flowchart of the pipeline stage 1 in a 1st Example. 第1の実施例におけるパイプラインステージ2の処理フローチャートである。It is a process flowchart of the pipeline stage 2 in a 1st Example. 第1の実施例におけるパイプラインステージ3の処理フローチャートである。It is a process flowchart of the pipeline stage 3 in a 1st Example. ストリーム内での復帰位置までのエラーコンシールメント対象マクロブロックの説明図である。It is explanatory drawing of the error concealment object macroblock to the return position in a stream. 第1の実施例における通常復号動作例のタイムチャートである。It is a time chart of the normal decoding operation example in a 1st Example. 第1の実施例におけるエラー検出時の復号動作例のタイムチャートである。It is a time chart of the decoding operation example at the time of error detection in the first embodiment. 第2の実施例における動画像復号装置の全体構成ブロック図である。It is a whole block diagram of the moving image decoding apparatus in a 2nd Example. 図10の制御部の構成ブロック図である。It is a block diagram of the configuration of the control unit of FIG. 第2の実施例におけるパイプラインステージ1の処理フローチャートである。It is a processing flowchart of pipeline stage 1 in the 2nd example. 第2の実施例におけるパイプラインステージ2の処理フローチャートである。It is a process flowchart of the pipeline stage 2 in a 2nd Example. 第2の実施例における通常復号動作例のタイムチャートである。It is a time chart of the example of normal decoding operation | movement in a 2nd Example. 第2の実施例におけるエラー検出時の復号動作例のタイムチャートである。It is a time chart of the example of decoding operation at the time of error detection in the 2nd example. 動画像復号装置の従来例の構成ブロック図である。It is a structure block diagram of the prior art example of a moving image decoding apparatus. パイプライン制御復号動作の従来例のタイムチャートである。It is a time chart of the prior art example of a pipeline control decoding operation | movement. 従来例におけるパイプラインリセットの説明図である。It is explanatory drawing of the pipeline reset in a prior art example.

符号の説明Explanation of symbols

1 動画像復号装置
2 フレーム内予測手段
3 フレーム間予測手段
4 制御手段
10、30 制御部
11 可変長復号処理部
12 フレームメモリ
13 フレーム間予測処理部
14 フレーム内予測部
15 逆量子化部
16 逆変換部
17 加算部
18 スイッチ
19 デブロッキングフィルタ処理部
21 ベクトル再生部
22 フレーム間予測画像生成部
25、32 エラー情報保持部
26、33 パイプラインステージ1制御部
27、34 パイプラインステージ2制御部
28 パイプラインステージ3制御部
31 フレーム間予測部
DESCRIPTION OF SYMBOLS 1 Moving image decoding apparatus 2 Intra-frame prediction means 3 Inter-frame prediction means 4 Control means 10, 30 Control part 11 Variable length decoding process part 12 Frame memory 13 Inter-frame prediction process part 14 In-frame prediction part 15 Inverse quantization part 16 Inverse Conversion unit 17 Addition unit 18 Switch 19 Deblocking filter processing unit 21 Vector reproduction unit 22 Inter-frame prediction image generation unit 25, 32 Error information holding unit 26, 33 Pipeline stage 1 control unit 27, 34 Pipeline stage 2 control unit 28 Pipeline stage 3 control unit 31 Interframe prediction unit

Claims (5)

ストリームデータである画像をブロックに分割して予測画像を生成し、動画像データの復号を行う装置であって、
処理対象ブロックに対するフレーム内予測画像を生成するフレーム内予測手段と、
処理対象ブロックに対するフレーム間予測画像を生成するフレーム間予測手段と、
1つのブロックに対するフレーム間予測処理の開始後に、該1つのブロックに時間的に先行するブロックに対するエラーが検出されたとき、該1つのブロックに対してエラーコンシールメント処理としてのフレーム内予測処理を前記フレーム内予測手段に実行させると共に、該1つのブロックに時間的に続くブロックから前記ストリームデータ内のスタートコードの直前までのブロックにおいて、前記エラーコンシールメント処理としてのフレーム間予測処理が所定の期間内に納まらないブロックに対して前記フレーム内予測手段にフレーム内予測処理を実行させ、前記エラーコンシールメント処理としてのフレーム間予測処理が所定の期間内に納まるブロックに対して前記フレーム間予測手段にフレーム間予測処理を実行させる制御手段と、
を備えることを特徴とする動画像復号装置。
An apparatus that generates a predicted image by dividing an image, which is stream data, into blocks, and decodes moving image data,
Intra-frame prediction means for generating an intra-frame prediction image for the processing target block;
Inter-frame prediction means for generating an inter-frame prediction image for the processing target block;
When an error is detected for a block temporally preceding the one block after the start of the inter-frame prediction process for one block, the intra-frame prediction process as an error concealment process is performed on the one block. The inter-frame prediction processing as the error concealment processing is performed within a predetermined period in a block from the block that continues in time to the one block and immediately before the start code in the stream data. The intra-frame prediction unit executes the intra-frame prediction process for a block that does not fit in the frame, and the inter-frame prediction unit performs a frame for the block in which the inter-frame prediction process as the error concealment process falls within a predetermined period. and control means for executing between prediction process
Video decoding apparatus comprising: a.
前記制御手段は、前記フレーム間予測手段にパイプライン処理を行わせることを特徴とする請求項1記載の動画像復号装置。   The moving picture decoding apparatus according to claim 1, wherein the control means causes the inter-frame prediction means to perform pipeline processing. 前記パイプライン処理が3段で行われ、
前記フレーム間予測手段が、パイプラインの第1ステージ及び第2ステージを用いて、フレーム間予測画像を生成する
ことを特徴とする請求項2記載の動画像復号装置。
The pipeline processing is performed in three stages,
3. The moving picture decoding apparatus according to claim 2, wherein the inter-frame prediction unit generates an inter-frame prediction image using the first stage and the second stage of the pipeline.
前記パイプライン処理が2段で行われ、
前記フレーム間予測手段が、パイプラインの第1ステージを用いて、フレーム間予測画像を生成する
ことを特徴とする請求項2記載の動画像復号装置。
The pipeline processing is performed in two stages,
3. The moving picture decoding apparatus according to claim 2, wherein the inter-frame prediction unit generates an inter-frame prediction image using the first stage of the pipeline.
ストリームデータである画像をブロックに分割して予測画像を生成し、動画像の復号を行う方法であって、
1つのブロックに対するフレーム間予測処理の開始後に、該1つのブロックに時間的に先行するブロックに対するエラーが検出されたとき、該1つのブロックに対してエラーコンシールメント処理としてのフレーム内予測処理を実行すると共に、該1つのブロックに時間的に続くブロックから前記ストリームデータ内のスタートコードの直前までのブロックにおいて、前記エラーコンシールメント処理としてのフレーム間予測処理が所定の期間内に納まらないブロックに対してフレーム内予測処理を実行し、前記エラーコンシールメント処理としてのフレーム間予測処理が所定の期間内に納まるブロックに対してフレーム間予測処理を実行する
ことを特徴とする動画像復号方法。
A method of generating a prediction image by dividing an image, which is stream data, into blocks, and decoding a moving image,
After an inter-frame prediction process for one block is started, when an error is detected for a block temporally preceding the one block, an intra-frame prediction process is executed for the one block as an error concealment process In addition, with respect to a block in which the inter-frame prediction process as the error concealment process does not fall within a predetermined period in a block from a block temporally following the one block to a block immediately before the start code in the stream data. A video decoding method comprising: executing an intra-frame prediction process, and performing an inter-frame prediction process on a block in which the inter-frame prediction process as the error concealment process falls within a predetermined period.
JP2006237053A 2006-08-31 2006-08-31 Moving picture decoding apparatus and decoding method. Expired - Fee Related JP4851270B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006237053A JP4851270B2 (en) 2006-08-31 2006-08-31 Moving picture decoding apparatus and decoding method.

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006237053A JP4851270B2 (en) 2006-08-31 2006-08-31 Moving picture decoding apparatus and decoding method.

Publications (2)

Publication Number Publication Date
JP2008061045A JP2008061045A (en) 2008-03-13
JP4851270B2 true JP4851270B2 (en) 2012-01-11

Family

ID=39243273

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006237053A Expired - Fee Related JP4851270B2 (en) 2006-08-31 2006-08-31 Moving picture decoding apparatus and decoding method.

Country Status (1)

Country Link
JP (1) JP4851270B2 (en)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000236522A (en) * 1999-02-12 2000-08-29 Sony Corp Image information processing unit, its method and served medium
CN1323553C (en) * 2003-01-10 2007-06-27 汤姆森许可贸易公司 Spatial error concealment based on the intra-prediction modes transmitted in a coded stream

Also Published As

Publication number Publication date
JP2008061045A (en) 2008-03-13

Similar Documents

Publication Publication Date Title
JP3923898B2 (en) Image coding method and apparatus
JP4987322B2 (en) Moving picture decoding apparatus and moving picture decoding method
US8606025B2 (en) Encoding and decoding images using refreshed image and recovery point
JP2004007752A (en) Image decoding method and device
JP2008500760A (en) Method and apparatus for encoding digital video data
JP5365805B2 (en) Moving picture conversion apparatus, moving picture conversion method, and moving picture conversion program
JP4203036B2 (en) Moving picture decoding apparatus and mobile terminal equipped with the apparatus
JP2000333163A (en) Decoder, its method, coder, its method, image processing system and image processing method
JP4357560B2 (en) Moving picture coding apparatus, moving picture coding method, and moving picture coding program
JP4432582B2 (en) Moving picture information restoration device, moving picture information restoration method, moving picture information restoration program
JP4851270B2 (en) Moving picture decoding apparatus and decoding method.
JP4806888B2 (en) Decoding device and decoding method
JP3245496B2 (en) Image encoding method, image encoding circuit, image encoding device, and playback device
JP6182888B2 (en) Image encoding device
JP5189618B2 (en) Video encoding method, video encoding apparatus, and video encoding program
JP4570081B2 (en) Moving image error concealment method and apparatus
JP3976975B2 (en) Image processing apparatus and method, and storage medium
JP4485409B2 (en) Video decoding device
JP2887177B2 (en) Method and apparatus for decoding moving image compression code
JPH11341521A (en) Coder for stereoscopic moving image
JP2005303487A (en) Moving image decoding apparatus and moving image decoding program
JP4410277B2 (en) Semiconductor device and method for controlling semiconductor device
JP4390009B2 (en) Encoding apparatus and method, and image processing system
JP5007759B2 (en) Encoding apparatus, encoding method, decoding apparatus, and decoding method
JP2002330441A (en) Encoding method, program for encoding method, recording medium for recording program for encoding method and encoder

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090512

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111018

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111020

R150 Certificate of patent or registration of utility model

Ref document number: 4851270

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141028

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees