JP2006262407A - Encoded data generator - Google Patents
Encoded data generator Download PDFInfo
- Publication number
- JP2006262407A JP2006262407A JP2005080570A JP2005080570A JP2006262407A JP 2006262407 A JP2006262407 A JP 2006262407A JP 2005080570 A JP2005080570 A JP 2005080570A JP 2005080570 A JP2005080570 A JP 2005080570A JP 2006262407 A JP2006262407 A JP 2006262407A
- Authority
- JP
- Japan
- Prior art keywords
- error
- information
- encoded data
- replacement
- bit stream
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
Description
本発明は、動き補償予測を用いて符号化された符号化データのエラーを訂正して符号化データを生成する符号化データ生成装置に関する。 The present invention relates to an encoded data generation apparatus that generates encoded data by correcting an error in encoded data encoded using motion compensated prediction.
動画像信号を伝送若しくは蓄積する場合、効率化のため圧縮符号化されビットストリームとすることが多い。動画像の圧縮符号化方式としてMPEG(Moving Picture Experts Group,以下MPEGなど )の方式が標準化され、広く用いられている。よって、動画像信号をMPEGなどの方式で圧縮し、ビットストリームとして扱うことは、伝送系若しくは蓄積系の効率的な利用において非常に重要である。 When transmitting or storing a moving image signal, it is often compressed and encoded into a bit stream for efficiency. MPEG (Moving Picture Experts Group, hereinafter referred to as MPEG) system has been standardized and widely used as a moving picture compression encoding system. Therefore, it is very important for the efficient use of a transmission system or a storage system to compress a moving image signal by a method such as MPEG and handle it as a bit stream.
ところで、上記のような圧縮を伴った符号化規格で圧縮符号化された圧縮符号化データにおいて、シンタックス(符号化データ列規則)のエラーが発生すると、シンタックスエラーの発生した圧縮符号化データの後に続く圧縮符号化データはエラーを回避できる機能を持たない復号器では復号することはできない。ここで、シンタックスエラーとは圧縮符号化データのパース(シンタックス要素を分解すること)を続けることができないエラーである。例えば、MPEGなどでは、シンタックスエラーはパースの過程でVLC(可変長符号化)テーブルにない値が検出された場合や、マクロブロック内のブロック数が規定値と一致しない場合や、ピクチャ内のマクロブロック数が規定値を超えた場合などに検出される。シンタックスエラーは圧縮符号化装置、符号化変換装置、多重化装置にエラーが内在している場合や、圧縮符号化データの伝送や蓄積の途中で起きるエラーをリードソロモンなどのエラー訂正処理で修正できない場合や、パケットの損失が起きた場合などにおいて発生する可能性がある。 By the way, if a syntax (encoded data string rule) error occurs in compressed encoded data that has been compression-encoded according to an encoding standard with compression as described above, compressed encoded data in which a syntax error has occurred. Compressed encoded data that follows can not be decoded by a decoder that does not have a function capable of avoiding errors. Here, the syntax error is an error in which parsing (decomposing syntax elements) of compression-encoded data cannot be continued. For example, in MPEG and the like, a syntax error is detected when a value that is not in the VLC (variable length coding) table is detected in the parsing process, or when the number of blocks in the macroblock does not match a specified value, Detected when the number of macroblocks exceeds the specified value. A syntax error is corrected by an error correction process such as Reed-Solomon when an error is inherent in a compression encoding device, encoding conversion device, or multiplexing device, or an error that occurs during the transmission or storage of compressed encoded data This may occur when it is not possible or when packet loss occurs.
シンタックスエラーが検出された場合には、圧縮符号化装置は復号を続けるために次のような動作を行う。一般的な圧縮を伴った符号化データには同期コードが挿入されているため、シンタックスエラーが検出されたデータブロックを廃棄し、次のデータブロックを取得して復号化するというような動作を行う。上述のようにシンタックスエラーが発生した場合の処理方法として、エラーコンシールメントと呼ばれる処理がなされる。 When a syntax error is detected, the compression encoding apparatus performs the following operation in order to continue decoding. Since the synchronization code is inserted in the encoded data with general compression, the operation is such that the data block in which the syntax error is detected is discarded, and the next data block is acquired and decoded. Do. As a processing method when a syntax error occurs as described above, a process called error concealment is performed.
また、上記のような圧縮を伴った符号化規格で圧縮符号化された圧縮符号化データにおいて、セマンティクス(コンテンツ意味内容記述ツール)のエラーが発生すると、圧縮符号化データを正しく符号化することは一般的にできない。また、セマンティクスエラーによっては復号装置に致命的な破綻が起きることもある。セマンティクスエラーとは圧縮符号化データのパースにおいて起きるエラーではなく、パースして得られた値が規格で定められている制限事項に違反しているために起きるエラーである。例えば、動画像圧縮符号化規格の1つであるMPEGでは、あるシンタックスエレメントの値が固定値に定義されているにも関わらず、その固定値になっていないようなセマンティクスエラーがある。また、最新の動画像圧縮符号化規格であるMPEG−4・AVCでは、プロファイル、レベルによって制限事項が細かく規定されている。そのため、ベースラインプロファイル・レベル2では規格準拠となる圧縮符号化データが、ベースラインプロファイル・レベル3では規格違反となるようなセマンティクスエラーもある。
In addition, in the case of an error in semantics (content semantic content description tool) in compressed encoded data that has been compression-encoded in accordance with an encoding standard with compression as described above, the encoded encoded data cannot be encoded correctly. Generally not possible. In addition, depending on the semantic error, a fatal failure may occur in the decoding device. Semantic error is not an error that occurs in parsing compression-encoded data, but an error that occurs because the value obtained by parsing violates the restriction defined in the standard. For example, in MPEG, which is one of the moving image compression coding standards, there is a semantic error that a certain syntax element value is defined as a fixed value but not a fixed value. In MPEG-4 AVC, which is the latest moving image compression coding standard, restrictions are defined in detail by profile and level. For this reason, there is a semantic error in which compressed encoded data that conforms to the standard in the
セマンティクスエラーは圧縮符号化装置、符号化変換装置において誤った解釈によって符号化された場合に起きる可能性があり、圧縮符号化データの蓄積、伝送、取得過程において発生する場合もある。また、動画像圧縮符号化規格のプロファイル、レベルなどに精通していないユーザが多くの機種の間でデータの相互運用を行う場合に誤った使用をすることでセマンティクスエラーが発生する可能性も高い。また、セマンティクスエラーではないが、システムの運用上で符号化の規格に制限を加える必要がある場合もある。システム上でこのような所定の符号化条件を満たさないエラーは、該当するシステムではビットストリームを取り扱うことができない。上述のようにセマンティクスエラーが発生した場合の処理方法として、エラーコンシールメントと呼ばれる処理がなされる。 Semantic errors may occur when encoded by an incorrect interpretation in the compression encoding device and encoding conversion device, and may occur in the process of storing, transmitting, and acquiring compressed encoded data. In addition, when users who are not familiar with profiles and levels of video compression coding standards perform data interoperability among many models, there is a high possibility that semantic errors will occur due to misuse. . In addition, although it is not a semantic error, there are cases where it is necessary to limit the encoding standard in the operation of the system. An error that does not satisfy the predetermined encoding condition on the system cannot be handled by the corresponding system. As described above, a process called error concealment is performed as a processing method when a semantic error occurs.
このようなエラーコンシールメント技術を用いた従来のシステムとして、下記の特許文献1に記載のシステムは、画像の性質に応じた適切なパケット廃棄補償を行い、復号画像の画質を向上させることができる動画像伝送を実現するものである。すなわち、符号化されているビデオパケットのパケット廃棄を検出し、既に復号されている画像信号により、廃棄パケットでエラーとなった信号を置き換えることによりコンシールメントし、復号信号を生成するシステムである。ゆえに、特許文献1に記載のシステムは、入力はエラーを含むことがあるビットストリームであり、出力はエラーを含むビットストリームが入力された場合はそのエラーを修復した復号画像信号である。 As a conventional system using such an error concealment technique, the system described in Patent Document 1 below can perform appropriate packet discard compensation according to the nature of an image and improve the image quality of a decoded image. The moving image transmission is realized. In other words, this is a system that detects packet discard of an encoded video packet, generates a decoded signal by concealment by replacing an error signal in the discarded packet with an already decoded image signal. Therefore, in the system described in Patent Document 1, the input is a bit stream that may include an error, and the output is a decoded image signal that has been corrected for the error when a bit stream that includes an error is input.
もう1つのエラーコンシールメント技術を用いた従来のシステムとして、下記の特許文献2に記載の装置は、エラー訂正の為に別途ディスク装置を必要とせず、映像データの特性を生かしたディスクアレイ装置を備える映像送出を実現するものである。すなわち、入力映像データを分割してビットストリームとして蓄積し、入力映像データのビットストリームにエラーが発生した場合に、あらかじめ入力映像データより高圧縮されたコンシールメント用ビットストリームを蓄積しておき、コンシールメント用ビットストリームを復号及び再符号化して入力映像データのエラー発生ビットストリームと置き換えるものである。ゆえに、特許文献2の装置は、入力はエラーが発生する可能性のあるビットストリームであり、出力はエラーが発生した場合は、そのエラーが修正されたビットストリームである。
As a conventional system using another error concealment technique, the device described in
さらに、エラーコンシールメント技術を用いた従来のシステムとして、下記の特許文献3に記載の回路では、実時間上で符号化変換を必要とするようなファクシミリ装置において、符号化直後の正常な1ライン分の符号化情報を一時蓄積できるような符号バッファにより、符号エラーを検出したときに、バッファにある正常な1ライン分の符号化情報を出力することによってコンシールメントするものである。
しかしながら、以上に述べた、エラーコンシールメント技術を用いたシステム若しくは装置においては次のような課題がある。特許文献1における動画像伝送システムは、エラーコンシールメント後の出力が復号された画像信号であるため、エラー訂正後には、動画像信号をビットストリームとして通信路などを使って伝送することができない。よって、エラーコンシールメント機能を持たない復号器においては、エラーを持つビットストリームの再生が正しくできない。 However, the system or apparatus using the error concealment technique described above has the following problems. Since the moving image transmission system in Patent Document 1 is an image signal obtained by decoding the output after error concealment, the moving image signal cannot be transmitted as a bit stream using a communication path or the like after error correction. Therefore, a decoder that does not have an error concealment function cannot correctly reproduce a bitstream having an error.
特許文献2における映像送出装置は、出力はエラーコンシールメントされた入力映像データのビットストリームであるが、あらかじめコンシールメント用のビットストリームを入力映像データのビットストリームごとに蓄積媒体の中に用意しておく必要があり、入力映像データのビットストリームの増加と共にコンシールメント用ビットストリームが増加し、また、蓄積媒体を用いるため、任意のビットストリームを通信路を使って伝送するような場合に適用することができない。特許文献3におけるファクシミリのエラー置換回路では、コンシールメント用の符号化情報として直前の正常な1ライン分を記憶するが、動き補償予測符号化を用いる動画像の圧縮符号化ビットストリームにおいては、直前の符号化情報だけでコンシールメントすると、再生画像の画質が大きく劣化する。
In the video transmission device in
本発明は上記従来例の問題点に鑑み、動き補償予測を用いて符号化された符号化データにシンタックス及びセマンティクスのエラーを検出して訂正することができる符号化データ生成装置を提供することを目的とする。 In view of the problems of the conventional example, the present invention provides an encoded data generation apparatus capable of detecting and correcting syntax and semantic errors in encoded data encoded using motion compensated prediction. With the goal.
本発明は上記目的を達成するために、動き補償予測を用いて符号化された符号化データが入力され、その入力された符号化データにシンタックスのエラーが存在するか否かを検出するとともに、前記符号化データにセマンティクスのエラーが存在するか否かを検出して、前記エラーの存在情報、前記エラーが存在する位置を示す第1の位置情報、前記エラーが存在する範囲を示す第1の範囲情報、及び前記エラーが存在する位置での符号化タイプを示す第1の種別情報のうち少なくとも1つ以上をエラー検出情報として出力するエラー検出部と、
前記エラー検出情報に基づき、前記符号化データを復号して復号画像を生成する復号部と、
前記エラー検出情報に基づき前記復号画像を再符号化して置換符号列を生成し、前記生成した置換符号列と前記エラー検出情報に基づいて前記符号化データの置換すべき位置を示す第2の位置情報と前記符号化データの置換すべき範囲を示す第2の範囲情報を作成し、前記作成した第2の位置情報及び第2の範囲情報に前記選択した置換符号列を加えた置換情報を生成する置換情報生成部と、
前記置換情報生成部の前記置換情報に基づき、前記符号化データを、前記検出されたエラーを訂正した符号化データに置換する置換部とを備えたことを特徴とする。
In order to achieve the above object, the present invention receives encoded data encoded using motion compensated prediction, and detects whether there is a syntax error in the input encoded data. , Detecting whether there is a semantic error in the encoded data, the presence information of the error, the first position information indicating the position where the error exists, the first indicating the range where the error exists An error detection unit that outputs at least one of the range information and the first type information indicating the encoding type at the position where the error exists, as error detection information;
A decoding unit that decodes the encoded data to generate a decoded image based on the error detection information;
A second position indicating a position where the encoded data should be replaced based on the generated replacement code string and the error detection information, by re-encoding the decoded image based on the error detection information to generate a replacement code string The second range information indicating the range to be replaced between the information and the encoded data is generated, and the replacement information obtained by adding the selected replacement code string to the generated second position information and second range information is generated. A replacement information generator to
And a replacement unit that replaces the encoded data with encoded data in which the detected error is corrected based on the replacement information of the replacement information generation unit.
また、前記エラー検出部は、セマンティクスのエラー検出において、符号化データに所定の符号化条件を満足しないエラーが存在するかを検出し、前記所定の符号化条件を満足しないエラーの存在情報、前記所定の符号化条件を満足しないエラーが存在する位置を示す位置情報、前記所定の符号化条件を満足しないエラーが存在する範囲を示す範囲情報、及び前記所定の符号化条件を満足しないエラーが存在する位置での符号化タイプを示す種別情報のうち少なくとも1つ以上をセマンティクスエラー検出情報として出力することを特徴とする。 Further, the error detection unit detects whether there is an error that does not satisfy a predetermined encoding condition in encoded data in the error detection of the semantics, and the presence information of the error that does not satisfy the predetermined encoding condition, Position information indicating a position where an error not satisfying the predetermined encoding condition exists, range information indicating a range where an error not satisfying the predetermined encoding condition exists, and an error not satisfying the predetermined encoding condition exist At least one or more of classification information indicating an encoding type at the position to be output is output as semantic error detection information.
本発明は、伝送路などの途中の経路で中継器として適用することで、シンタックスエラー、セマンティクスエラーを含む、動き補償予測符号化された圧縮符号化ビットストリームをエラーコンシールメントし、受信側となるエラーコンシールメント機能を持たない復号器において圧縮符号化ビットストリームの再生が可能となる。また、入力ビットストリームを基にしたエラー訂正情報をあらかじめ用意する必要が無く、また、圧縮符号化コンシールメント用のデータ蓄積を必要とせずにシンタックス、セマンティクスのエラー訂正が可能であり、また、圧縮符号化ビットストリームのエラー訂正を行う伝送システムを実現することができる。 The present invention is applied as a repeater in the middle of a transmission path or the like, thereby error concealing a compression-encoded bitstream that has been subjected to motion compensation prediction coding including syntax errors and semantic errors, and Thus, it is possible to reproduce the compression-encoded bit stream in a decoder that does not have an error concealment function. In addition, it is not necessary to prepare error correction information based on the input bit stream in advance, and error correction of syntax and semantics is possible without requiring data accumulation for compression coding concealment. A transmission system that performs error correction of a compression-encoded bit stream can be realized.
<第1の実施の形態>
以下、図面を参照して本発明の実施の形態について説明する。図1は本発明の第1の実施の形態に係る符号化データ生成装置として中継器が用いられる伝送システムを示すブロック図、図2は図1の修正器を詳しく示すブロック図である。
<First Embodiment>
Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 is a block diagram showing a transmission system in which a repeater is used as the encoded data generating apparatus according to the first embodiment of the present invention, and FIG. 2 is a block diagram showing in detail the corrector of FIG.
図1の伝送システムは、ビットストリーム生成装置500と、本発明に係る符号化データ中継器600と、中継先である再生装置700の接続例を示している。ビットストリーム生成装置500は蓄積媒体510にある画像情報を符号化器520によって符号化ビットストリームとし、送信器530によって伝送路1001に送信する。符号化データ中継器600はビットストリームにエラーがある場合には中継器610でビットストリームを修正し、修正されたビットストリームを伝送路1002を介して中継先の再生装置700へ送信する。中継先である再生装置700は受信器710によりビットストリームを受信し、復号器720で復号する。
The transmission system of FIG. 1 shows a connection example of a bit
この経路において、送信器530から伝送されるビットストリームが、伝送路1001の影響によりエラーを持っていると仮定すると、本発明による中継器610はエラーを検証し修正することが可能であるので、エラーを持っているビットストリームに対するエラーコンシールメント能力を持たない復号器720においても、ビットストリームの再生が可能となる。また、入力ビットストリームを基にしたエラー訂正情報をあらかじめ用意する必要が無く、また、圧縮符号化コンシールメント用のデータ蓄積を必要とせずにシンタックスエラー訂正が可能であり、また、圧縮符号化ビットストリームのエラー訂正を行う伝送システムを実現することができる。
In this path, assuming that the bit stream transmitted from the
中継器610はシンタックスエラー訂正部とセマンティクスエラー訂正部を有する。図2に本発明における第1の実施の形態のシンタックスエラー訂正部のブロック図を示す。図2に示すとおり、シンタックスエラー訂正部は、シンタックスエラー検出部100と、復号部400と、置換情報生成部200と、ビットストリーム置換部300とから構成される。なお、以下では、圧縮符号化ビットストリームを単にビットストリームと呼ぶ。図2において、まず、入力としてビットストリーム10がシンタックスエラー検出部100に入力される。シンタックスエラー検出部100はシンタックスエラーを含んでいるかどうかを検出し、シンタックスエラーの有無、シンタックスエラーの発生位置などを検出情報20として出力する。
The
復号部400は入力ビットストリーム10を復号する。復号時に発生するヘッダ情報などを符号化パラメータ60として出力し、復号して構成された画像を復号画像70として出力する。置換情報生成部200は、検出情報20を基に、あらかじめ用意したいくつかの符号列の中から、入力ビットストリーム10のシンタックスエラーを修正するための置換符号列を選択する。選択した置換符号列と、検出情報20より、置換すべき入力ビットストリーム10の位置、範囲及び置換符号列を定め、置換情報30として出力する。ただし、何らかの外部入力40により置換情報30が求められてもよい。ビットストリーム置換部300は、入力ビットストリーム10と置換情報30を用いてシンタックスエラーの無いビットストリーム50を出力する。
The
次に構成要素それぞれについて説明する。シンタックスエラー検出部100の動作について詳しく説明する。まず、シンタックスエラー検出部100のフローチャートを図3に示し、動作について述べる(ステップS10−S15)。シンタックスエラー検出部100は、まず、入力ビットストリーム10をパースし(ステップS10)、パースしながら入力ビットストリームのシンタックスエラーを検出する(ステップS11)。
Next, each component will be described. The operation of the syntax
シンタックスエラーの検出判定(ステップS12)において、入力ビットストリーム10がシンタックスエラーを含んでいる場合、シンタックスエラーが存在することを示すフラグと、シンタックスエラーが発生したビットストリーム10の位置情報、Reversible VLCのようにビットストリームを逆からパース可能な処理を用いた場合には、シンタックスエラーが発生している範囲情報、例えばMPEG−4 AVCの規格ではアクセスユニット単位、スライス単位、マクロブロック単位でのシンタックスエラー発生や、イントラ、インターなどの符号化タイプを示す種別情報を生成し(ステップS13)、検出情報20として出力する(ステップS15)。他方、入力ビットストリーム10がシンタックスエラーを含まない場合、シンタックスエラーが存在しないことを示すフラグを生成し(ステップS14)、検出情報20として出力する(ステップS15)。
In the syntax error detection determination (step S12), when the
ステップS11、S12では、例えば、連続していくつかのマクロブロックが欠落している場合、ピクチャサイズに対するマクロブロックの数は固定であるため、1ピクチャのパースが終わった時点で、マクロブロックの数が一致しなければシンタックスエラーであると判定される。ゆえに、この場合の検出情報20は、エラーの発生がマクロブロックで起きたことを示す種別情報、マクロブロックの欠落した位置情報となり、すなわちエラーの発生した箇所のアドレスや、Reversible VLCなどのビットストリームを逆からパース可能な処理を用いた場合は欠落したマクロブロックのアドレスの範囲情報となる。
In steps S11 and S12, for example, when several macroblocks are continuously missing, the number of macroblocks relative to the picture size is fixed. If they do not match, it is determined that there is a syntax error. Therefore, the
復号部400のフローチャートを図4に示し、動作について述べる(ステップS40−S44)。復号部400は入力ビットストリーム10を復号する(ステップS40)。このとき、検出情報20のエラー発生位置情報、範囲情報、及び種別情報から復号画像70を生成できるかどうかを判定する(ステップS41)。シンタックスエラーの発生により、復号画像70が生成できない場合はエラーが発生している箇所に対してエラーコンシールメントする(ステップS44)。エラーコンシールメントは、周辺画像の画素値を用いることによって、欠落部分の画素を補間することによって行う。例えば、マクロブロックに欠落が発生している場合は、マクロブロック周辺の画素値より補間する、若しくは、アクセスユニット単位で欠落している場合は、前の画像からの複製画像により補間する、などといった方法を用いてエラーコンシールメントを行う。エラーコンシールメントを行った画像を復号画像70として生成する(ステップS43)。また、復号画像が生成できる場合は復号画像70を出力する。
The flowchart of the
また、復号部400は復号画像70のみではなく、シンタックスエラーの無い箇所においては、付加情報として、復号時に発生する符号化パラメータ60を生成することもできる(ステップS42)。復号時に発生する符号化パラメータ60の例としては、シーケンスやピクチャのヘッダ情報や、動きベクトル、マクロブロックタイプといった再符号化の簡略化に用いることができるような情報が挙げられる。
Also, the
続いて置換情報生成部200のフローチャートを図5に示し、動作について述べる(ステップS50−S52)。置換情報生成部200は、検出情報20に基づき、上述した符号化パラメータ60を用いない場合は、復号画像70を用いて再符号化を行う(ステップS51)。符号化パラメータ60を用いる場合は、符号化パラメータ60に基づき再符号化パラメータを生成する(ステップS50)。ここでの再符号化パラメータは、復号画像70の再符号化すべき位置若しくは範囲である。また、シンタックスエラーの無い復号画像70の再符号化を簡略化するために、ヘッダ情報、動きベクトルなどの符号化パラメータ60を用いる場合に、復号部400で出力された符号化パラメータ60に基づいて、再符号化パラメータを求めて用いることもできる。再符号化パラメータを用いて入力ビットストリーム10の復号画像70を再符号化する(ステップS51)。ここで、再符号化パラメータは、外部入力40によって決められてもよい。以上のように、再符号化したビットストリームを置換符号列とし、この置換符号列と検出情報20とにより、置換すべき入力ビットストリーム10の位置情報、範囲情報を含む置換情報30を生成する(ステップS52)。
Subsequently, the flowchart of the replacement
ビットストリーム置換部300について説明する。ビットストリーム置換部300は、上述のように生成した置換情報30を用いて、入力ビットストリーム10の置換すべき箇所を、置換情報30の置換符号列によって置き換えることで、シンタックスエラーの無い置換ビットストリーム50を生成する。生成したビットストリーム50は蓄積媒体350に記録される。
The
以上説明したように、第1の実施の形態によれば、動き補償予測された動画像符号化ビットストリームにシンタックスエラーがある場合に、復号画像を用いて再符号化を行うため、シンタックスエラーが発生した部分の動き補償予測の再計算が可能である。よって、置換符号列をあらかじめ用意しておく方式や、単に直前の正常な符号列をコピーすることでエラーコンシールメントを行うような方式に比べ、エラーコンシールメント後のビットストリームの再生画像において画質を向上させることが可能である。 As described above, according to the first embodiment, when there is a syntax error in a motion-encoded prediction-encoded video stream, re-encoding is performed using a decoded image. It is possible to recalculate the motion compensation prediction of the part where the error has occurred. Therefore, compared to a method in which a replacement code string is prepared in advance or a method in which error concealment is performed by simply copying the previous normal code string, the quality of the reproduced image of the bitstream after error concealment is improved. It is possible to improve.
<シンタックスエラー訂正部の参考例>
図6にシンタックスエラー訂正部の参考例のブロック図を示す。図6に示すとおり、参考例のシンタックスエラー訂正部は、シンタックスエラー検出部100と、置換情報生成部200と、ビットストリーム置換部300から構成される。なお、以下では、圧縮符号化ビットストリームを単にビットストリームと呼ぶ。
<Reference example of syntax error correction section>
FIG. 6 shows a block diagram of a reference example of the syntax error correction unit. As shown in FIG. 6, the syntax error correction unit of the reference example includes a syntax
シンタックスエラー検出部100について説明する。シンタックスエラー検出部100の動作は第1の実施の形態と同じであるが、検出情報20を置換情報生成部200に送るところが相違している。すなわち、例えば連続していくつかのマクロブロックが欠落している場合、ピクチャサイズに対するマクロブロックの数は固定であるため、1ピクチャのパースが終わった時点で、マクロブロックの数が一致しなければシンタックスエラーであると判定される。ゆえにこの場合の検出情報20は、エラーの発生がマクロブロックで起きたことを示す種別情報、マクロブロックの欠落した位置情報であり、すなわちエラーの発生した箇所のアドレスや、Reversible VLCなどのビットストリームを逆からパース可能な処理を用いた場合は欠落したマクロブロックのアドレスの範囲情報となる。
The syntax
全体的な動作について図6を用いて説明する。まず、入力としてビットストリーム10がシンタックスエラー検出部100に入力される。シンタックスエラー検出部100はシンタックスエラーを含んでいるかどうかを検出する。シンタックスエラーの有無、シンタックスエラーの発生位置などをシンタックスエラー検出情報(以下、単に検出情報)20として出力する。置換情報生成部200は、検出情報20を基に、あらかじめ用意したいくつかの符号列の中から、入力ビットストリーム10のシンタックスエラーを修正するための置換符号列を選択する。選択した置換符号列と、検出情報20より、置換すべき入力ビットストリーム10の位置、範囲及び置換符号列を定め、置換情報30として出力する。ただし、何らかの外部入力40により置換情報30が求められてもよい。ビットストリーム置換部300は、入力ビットストリーム10と置換情報30を用いてシンタックスエラーをコンシールメントしたビットストリーム50を出力する。
The overall operation will be described with reference to FIG. First, the
置換情報生成部200について説明する。置換情報生成部200のフローチャートを図7に示し、動作について述べる(ステップS20−S21)。置換情報生成部200は、検出情報20より、入力ビットストリーム10において発生しているシンタックスエラーの種別、位置からあらかじめ用意した符号列の中から置換に用いる置換符号列を選択する(ステップS20)。選択した置換符号列と、検出情報20を基に、入力ビットストリーム10を置換すべき位置、範囲を決定し、選択した置換符号列と合わせて、置換情報30として生成する(ステップS21)。
The replacement
例えば検出情報20の種別情報がマクロブロックであり、いくつかのマクロブロックが欠落しており、欠落したマクロブロックの前後のマクロブロックタイプがNot Codedでdmv(差分動きベクトル)が0であるような場合、欠落した箇所のマクロブロックタイプも同様にNot Codedでdmvが0であると判定され、あらかじめ用意しておいたマクロブロックのNot Codedを示すフラグが欠落したマクロブロックの 置換符号列となる。この場合、置換符号列の欠落したマクロブロック個数分を置換情報30として生成する。
For example, the type information of the
また、例えば検出情報20の種別情報がアクセスユニットであり、いくつかのアクセスユニットが欠落している場合は、NoMC・Not Codedのフラグが欠落したアクセスユニットの置換符号列となる。この場合、置換符号列の、欠落したアクセスユニット個数分を置換情報30として生成する。また、入力ビットストリーム10の符号量と一致させるために、置換情報30の置換符号列にスタッフィングバイトを付加することもできる。ここで、置換符号列の選択において、外部入力40によって置換符号列を選択してもよい。このようにして外部入力40で制御することで、意図しない再生画像が出力されるのを防ぐことができる。ビットストリーム置換部300の動作は第1の実施の形態と同じである。
For example, when the type information of the
以上説明したように、動き補償予測された動画像符号化ビットストリームにシンタックスエラーがある場合に、あらかじめエラーを置換するための符号列を用意しておくことで、エラーコンシールメントするために復号画像を再符号化する場合に比べ、高速なエラーコンシールメント処理を実現できる。また、単に直前の正常な符号列をコンシールメント用の符号列として用いる場合に比べ、エラーコンシールメント後のビットストリームにおいて、再生画像の画質を向上させることができる。 As described above, when there is a syntax error in the motion-compensated predicted moving image encoded bitstream, a code string for replacing the error is prepared in advance, so that decoding is performed for error concealment. Compared with the case of re-encoding an image, a high-speed error concealment process can be realized. In addition, compared with the case where the previous normal code string is simply used as the code string for concealment, the quality of the reproduced image can be improved in the bit stream after the error concealment.
<セマンティクスエラー訂正部>
図8に第1の実施の形態のセマンティクスエラー訂正部のブロック図を示す。第1の実施の形態のセマンティクスエラー訂正部は、セマンティクスエラー検出部101と、復号部400と、置換情報生成部201と、ビットストリーム置換部300とから構成される。以下では、圧縮符号化ビットストリームを単にビットストリームと呼ぶ。全体的な動作について図8を用いて説明する。まず、入力としてビットストリーム10がセマンティクスエラー検出部101に入力される。セマンティクスエラー検出部101はセマンティクスエラーを含んでいるかどうかを検出し、セマンティクスエラーの有無、セマンティクスエラーの発生位置などを検出情報21として出力する。
<Semantics error correction section>
FIG. 8 is a block diagram of the semantic error correction unit according to the first embodiment. The semantic error correction unit according to the first embodiment includes a semantic
セマンティクスエラー検出部101について説明する。セマンティクスエラー検出部101のフローチャートを図9に示し、動作について述べる(ステップS10−S15)。セマンティクスエラー検出部101は、まず、入力ビットストリーム10をパースし(ステップS10)、パースしながら入力ビットストリーム10のセマンティクスエラーを検出する(ステップS11a)。セマンティクスエラーの検出判定(ステップS12)において、入力ビットストリーム10がセマンティクスエラーを含んでいる場合、セマンティクスエラーが存在することを示すフラグと、セマンティクスエラーの発生したビットストリーム10の位置情報、Reversible VLCのようにビットストリームを逆からパース可能な処理を用いた場合にはセマンティクスエラーの発生している範囲情報、例えばMPEG−4 AVCの規格ではアクセスユニット単位、スライス単位、マクロブロック単位でのセマンティクスエラー発生や、イントラ、インターなどの符号化タイプを示す種別情報を生成し(ステップS13)、検出情報21として出力する(ステップS15)。入力ビットストリーム10がセマンティクスエラーを含まない場合、セマンティクスエラーが存在しないことを示すフラグを生成し(ステップS14)、検出情報21として出力する(ステップS15)。
The semantic
例えば、MPEG−4 AVCの符号化方式において、B-Sliceを含むストリームのシーケンスパラメータセットのプロファイル値がBaseline Profileを示す値となっている場合はセマンティクスエラーとなり、シーケンスパラメータセットの単位が種別情報となり、シーケンスパラメータセットの存在するアドレスが位置情報となる。 For example, in the MPEG-4 AVC encoding method, if the profile value of the sequence parameter set of the stream including B-Slice is a value indicating Baseline Profile, a semantic error occurs, and the unit of the sequence parameter set becomes the type information. The address where the sequence parameter set exists is position information.
復号部400は入力ビットストリーム10を復号する。復号時に発生するヘッダ情報などを符号化パラメータ60として出力し、復号して構成された画像を復号画像70として出力する。置換情報生成部201は、検出情報21を基に、あらかじめ用意したいくつかの符号列の中から、入力ビットストリーム10のセマンティクスエラーを修正するための置換符号列を選択する。選択した置換符号列と、検出情報21より、置換すべき入力ビットストリーム10の位置、範囲置換符号列を定め、置換情報31として出力する。ただし、何らかの外部入力41により置換情報31が求められてもよい。ビットストリーム置換部300は、入力ビットストリーム10と置換情報31を用いてセマンティクスエラーの無いビットストリーム50を出力する。
The
例えば動きベクトルが符号化方式のレベルで制限されている値を超えている場合には、動きベクトルの単位が種別情報となり、この動きベクトルが存在するマクロブロックアドレスが位置情報となる。また、復号部400の動作は第1の実施の形態とほぼ同じであり、置換情報生成部201とビットストリーム置換部300の動作は第1の実施の形態と同じである。
For example, when the motion vector exceeds a value restricted by the encoding method level, the unit of the motion vector becomes the type information, and the macro block address where the motion vector exists becomes the position information. The operation of the
以上説明したように、動き補償予測された動画像符号化ビットストリームにセマンティクスエラーがある場合に、復号画像を用いて再符号化を行うため、セマンティクスエラーが発生した部分の動き補償予測の再計算が可能である。よって、置換符号列をあらかじめ用意しておく方式や、単に直前の正常な符号列をコピーすることでエラーコンシールメントを行うような方式に比べ、エラーコンシールメント後のビットストリームの再生画像において画質を向上させることが可能である。 As described above, when there is a semantic error in the motion-compensated motion-coded bitstream, re-encoding is performed using the decoded image. Is possible. Therefore, compared to a method in which a replacement code string is prepared in advance or a method in which error concealment is performed by simply copying the previous normal code string, the quality of the reproduced image of the bitstream after error concealment is improved. It is possible to improve.
<セマンティクスエラー訂正部の参考例>
図10にセマンティクスエラー訂正部の参考例のブロック図を示す。参考例のセマンティクスエラー訂正部は、セマンティクスエラー検出部101と、置換情報生成部201と、ビットストリーム置換部300とから構成される。以下では、圧縮符号化ビットストリームを単にビットストリームと呼ぶ。全体的な動作について図10を用いて説明する。まず、入力としてビットストリーム10がセマンティクスエラー検出部101に入力される。セマンティクスエラー検出部101はセマンティクスエラーを含んでいるかどうかを検出し、セマンティクスエラーの有無、セマンティクスエラーの発生位置などをセマンティクスエラー検出情報(以下、単に検出情報)21として出力する。
<Reference example of the semantic error correction section>
FIG. 10 shows a block diagram of a reference example of the semantic error correction unit. The semantic error correction unit of the reference example includes a semantic
置換情報生成部201は、検出情報21を基に、あらかじめ用意したいくつかの符号列の中から、入力ビットストリーム10のセマンティクスエラーを修正するための置換符号列を選択する。選択した置換符号列と、検出情報21より、置換すべき入力ビットストリーム10の位置、範囲及び置換符号列を定め、置換情報31として出力する。ただし、何らかの外部入力41により置換情報31が求められてもよい。ビットストリーム置換部300は、入力ビットストリーム10と置換情報31を用いてセマンティクスエラーをコンシールメントしたビットストリーム50を出力する。
The replacement
置換情報生成部201について説明する。置換情報生成部201のフローチャートを図11に示し、動作について述べる(ステップS20−S21)。置換情報生成部201は検出情報21より、入力ビットストリーム10において発生しているセマンティクスエラーの種別、位置から、あらかじめ用意した符号列の中から置換に用いる符号列を選択する(ステップS20)。選択した符号列と、検出情報21を基に、入力ビットストリーム10の置換すべき位置、範囲を決定し、選択した符号列と合わせて、置換情報31として生成する(ステップS21)。
The replacement
例えば、MPEG−4 AVCの符号化方式において、B-Sliceを含むストリームのシーケンスパラメータセットのプロファイル値がBaseline Profileを示す値となっている場合は、置換符号列としてプロファイル値におけるMain Profileを示す値を選択し、置換情報31の置換符号列とする。また、入力ビットストリーム10の符号量と一致させるために、置換情報31の置換符号列にスタッフィングバイトを付加することもできる。ここで、置換符号列を選択する場合、外部入力41によって置換符号列を選択してもよい。
For example, in the MPEG-4 AVC encoding method, when the profile value of the sequence parameter set of a stream including B-Slice is a value indicating Baseline Profile, a value indicating Main Profile in the profile value as a replacement code string Is selected as the replacement code string of the
また、セマンティクスエラー検出部101において、セマンティクスエラーを検出せず、入力ビットストリーム10の同一シンタックスを置換情報生成部201で常に同じ符号列を用いて置換する方式も考えられる。例えば、受信側となる復号器が、ビットストリームのヘッダにあるレベル値を見て、一定以上のレベル値を持つビットストリームは再生しないという制約を持つとする。ところが、上記復号器は、符号化規格上で一定以上のレベル値でしか本来再生できない画像サイズも再生できる能力を持つとする。このとき、レベル値だけを常に一定レベル以下に書き換えれば、上記復号器でビットストリームの再生が可能となる。そこで、セマンティクスエラー検出部101でセマンティクスのエラーを検出せず、置換情報生成部201でこの復号器が対応しているレベル値を置換符号列として用意しておき、ビットストリームが入ってきたときに、ビットストリームのヘッダのレベル値を用意したレベル値の符号列で置き換えるだけで、上記復号器でのビットストリームの再生が可能となる。
Also, a method may be considered in which the semantic
ビットストリーム置換部300は、上述したように生成した置換情報31を用いて、入力ビットストリーム10の置換すべき箇所を、置換情報31の置換符号列によって置き換えることで、セマンティクスエラーの無いビットストリーム50を生成することができる。
The
以上説明したように、動き補償予測された動画像符号化ビットストリームにセマンティクスエラーがある場合に、あらかじめエラーを置換するための符号列を用意しておくことで、エラーコンシールメントするために復号画像を再符号化する場合に比べ、高速なエラーコンシールメント処理を実現できる。また、単に直前の正常な符号列をコンシールメント用の符号列として用いる場合に比べ、エラーコンシールメント後のビットストリームにおいて、再生画像の画質を向上させることができる。 As described above, when there is a semantic error in the motion-encoded prediction-encoded video stream, a decoded image for error concealment is prepared by preparing a code string for replacing the error in advance. Compared with the case of re-encoding, a high-speed error concealment process can be realized. In addition, compared with the case where the previous normal code string is simply used as the code string for concealment, the quality of the reproduced image can be improved in the bit stream after the error concealment.
<第2の実施の形態>
第2の実施の形態では、第1の実施の形態におけるセマンティクスエラー検出において、例えば、システム運用上で、標準化された符号化規格の符号化条件に制限を加える場合に適用される。例えばセマンティクスエラー検出部101は、制限セマンティクスエラー検出部として動作し、入力となるビットストリームに対してあるシステムの制限事項を満足するかどうかを検出する。満足しない場合は第1の実施の形態と同様の検出情報20を出力する。以下の動作については、セマンティクスエラーを所定の符号化条件を満足しないエラーと読み替えて、第1の実施の形態と同様の動作を行う。
<Second Embodiment>
In the second embodiment, the semantic error detection in the first embodiment is applied, for example, when a restriction is imposed on the coding conditions of the standardized coding standard in system operation. For example, the semantic
本実施の形態では、標準化されている符号化方式を満足していても、運用上の理由で、符号化方式の制限に更に細かい制限を加えた、規格を満たさないエラーを持つビットストリームを修正することができる。例えば、MPEG−2の規格は満たすが、あるシステムで制限されているMPEG−2ビットストリームの予約ビット値を満たさないようなビットストリームは、該当するシステムで取り扱うことができないが、本実施の形態によれば、該当するシステムの制限事項を満足するようにビットストリーム内の予約ビット値を修正するため、該当するシステムで取り扱うことができるビットストリームを生成可能である。 In this embodiment, even if the standardized encoding method is satisfied, a bitstream having an error that does not meet the standard is corrected by adding a more detailed restriction to the restriction of the encoding method for operational reasons. can do. For example, a bit stream that satisfies the MPEG-2 standard but does not satisfy the reserved bit value of the MPEG-2 bit stream restricted by a certain system cannot be handled by the corresponding system. Since the reserved bit value in the bit stream is corrected so as to satisfy the restrictions of the corresponding system, it is possible to generate a bit stream that can be handled by the corresponding system.
また、例えばMPEG−2の規格を満たすOpen GOPで符号化されたビットストリームがあるとする。あるシステムでは制限されているMPEG−2ビットストリームはClosed GOPで符号化されていなければならないという制限事項があるとする。この場合、該当するシステムの復号器で再生することはできないが、本実施の形態によれば、該当するシステムの制限事項を満足するように、MPEG−2のGOPに符号化順においてI-pictureの直後にある最初のB-pictureを双方向予測から、片方向予測に変更して再符号化する。この ようにして、生成したビットストリームはClosed GOPを満足するため、該当するシステムの復号器で再生することができるビットストリームを生成可能である。なお、シンタックスエラー検出部とセマンティクスエラー検出部との2つのエラー検出部を設け、2つのエラーを同時に訂正できるようにしてももちろんよい。 Further, for example, it is assumed that there is a bit stream encoded by Open GOP that satisfies the MPEG-2 standard. Suppose that there is a restriction that an MPEG-2 bitstream that is restricted in some systems must be encoded with a Closed GOP. In this case, it cannot be reproduced by the decoder of the corresponding system, but according to the present embodiment, the MPEG-2 GOP is encoded in the I-picture in the encoding order so as to satisfy the restrictions of the corresponding system. The first B-picture immediately after is changed from bidirectional prediction to unidirectional prediction and re-encoded. In this way, since the generated bit stream satisfies the Closed GOP, it is possible to generate a bit stream that can be reproduced by the decoder of the corresponding system. Of course, two error detectors, a syntax error detector and a semantic error detector, may be provided so that the two errors can be corrected simultaneously.
100 シンタックスエラー検出部
101 セマンティクスエラー検出部
200、201 置換情報生成部
300 ビットストリーム置換部
400 復号部
500 ビットストリーム生成装置
510 蓄積媒体
520 符号化器
530 送信器
600 符号化データ中継器
610 中継器
700 再生装置
710 受信器
720 復号器
1001、1002 伝送路
DESCRIPTION OF
Claims (2)
前記エラー検出情報に基づき、前記符号化データを復号して復号画像を生成する復号部と、
前記エラー検出情報に基づき前記復号画像を再符号化して置換符号列を生成し、前記生成した置換符号列と前記エラー検出情報に基づいて前記符号化データの置換すべき位置を示す第2の位置情報と前記符号化データの置換すべき範囲を示す第2の範囲情報を作成し、前記作成した第2の位置情報及び第2の範囲情報に前記選択した置換符号列を加えた置換情報を生成する置換情報生成部と、
前記置換情報生成部の前記置換情報に基づき、前記符号化データを、前記検出されたエラーを訂正した符号化データに置換する置換部とを、
備えた符号化データ生成装置。 Encoded data encoded using motion compensated prediction is input, and it is detected whether there is a syntax error in the input encoded data, and there is a semantic error in the encoded data. Whether the error exists, first position information indicating a position where the error exists, first range information indicating a range where the error exists, and a position where the error exists An error detection unit that outputs at least one or more of the first type information indicating the encoding type in the error detection information;
A decoding unit that decodes the encoded data to generate a decoded image based on the error detection information;
A second position indicating a position where the encoded data should be replaced based on the generated replacement code string and the error detection information, by re-encoding the decoded image based on the error detection information to generate a replacement code string The second range information indicating the range to be replaced between the information and the encoded data is generated, and the replacement information obtained by adding the selected replacement code string to the generated second position information and second range information is generated. A replacement information generator to
A replacement unit that replaces the encoded data with encoded data in which the detected error is corrected based on the replacement information of the replacement information generation unit;
An encoded data generation apparatus provided.
In the error detection of the semantics, the error detection unit detects whether there is an error that does not satisfy the predetermined encoding condition in the encoded data, and the presence information of the error that does not satisfy the predetermined encoding condition, Position information indicating a position where an error not satisfying the encoding condition exists, range information indicating a range where an error not satisfying the predetermined encoding condition exists, and a position where an error not satisfying the predetermined encoding condition exists The encoded data generation apparatus according to claim 1, wherein at least one or more of classification information indicating an encoding type is output as semantic error detection information.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005080570A JP2006262407A (en) | 2005-03-18 | 2005-03-18 | Encoded data generator |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005080570A JP2006262407A (en) | 2005-03-18 | 2005-03-18 | Encoded data generator |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006262407A true JP2006262407A (en) | 2006-09-28 |
Family
ID=37101094
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005080570A Pending JP2006262407A (en) | 2005-03-18 | 2005-03-18 | Encoded data generator |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006262407A (en) |
-
2005
- 2005-03-18 JP JP2005080570A patent/JP2006262407A/en active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100628494B1 (en) | Image decoding method and apparatus, and storage medium | |
JP3762392B2 (en) | Video coding method and apparatus | |
JP2009284518A (en) | Video coding method | |
EP1900224B1 (en) | Video coding | |
JP2006262406A (en) | Encoded data generator | |
JP2007166129A (en) | Encoded data generating device | |
JP2006295910A (en) | Error correction apparatus | |
JP2006262016A (en) | Error-correcting device | |
JP2007201721A (en) | Coded data generating apparatus | |
JP2006262407A (en) | Encoded data generator | |
JP2007151163A (en) | Image decoding method and apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070629 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090501 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090508 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090630 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090804 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20091201 |