JP2005051816A - 動画像復号化方法、動画像復号化装置、及びプログラム記録媒体 - Google Patents
動画像復号化方法、動画像復号化装置、及びプログラム記録媒体 Download PDFInfo
- Publication number
- JP2005051816A JP2005051816A JP2004302968A JP2004302968A JP2005051816A JP 2005051816 A JP2005051816 A JP 2005051816A JP 2004302968 A JP2004302968 A JP 2004302968A JP 2004302968 A JP2004302968 A JP 2004302968A JP 2005051816 A JP2005051816 A JP 2005051816A
- Authority
- JP
- Japan
- Prior art keywords
- error
- image data
- unit
- stream
- decoded image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【課題】 復号画像データの修整処理による大きな画質劣化を招くことなく、該修復処理によりエラーに起因する画質劣化を排除して、復号画像の画質を向上する。
【解決手段】 入力ストリームをマクロブロック毎に復号化して復号画像データを生成する復号化器1と、入力ストリームの伝送エラーを検出する伝送エラー検出器3と、入力ストリームのストリームエラーを検出するストリームエラー検出器6とを備え、伝送エラーが検出されたとき、復号画像データをマクロブロック単位で修整し、ストリームエラーが検出されたとき、復号画像データをビデオパケット単位で修整するようにした。
【選択図】 図1
【解決手段】 入力ストリームをマクロブロック毎に復号化して復号画像データを生成する復号化器1と、入力ストリームの伝送エラーを検出する伝送エラー検出器3と、入力ストリームのストリームエラーを検出するストリームエラー検出器6とを備え、伝送エラーが検出されたとき、復号画像データをマクロブロック単位で修整し、ストリームエラーが検出されたとき、復号画像データをビデオパケット単位で修整するようにした。
【選択図】 図1
Description
本発明は、動画像復号化方法、動画像復号化装置、及びプログラムを記録した記録媒体に関し、特に、エラーを含むビットストリームの復号化により得られる復号画像データを、復号画像が視覚的に好ましい画像となるよう修整する処理に関するものである。
近年、音声,画像,その他の表現メディアを統合的に扱うマルチメディア時代を迎え、従来からの情報メディア,つまり新聞,雑誌,テレビ,ラジオ,電話等の情報を人に伝達する手段がマルチメディアの対象として取り上げられるようになってきた。一般に、マルチメディアとは、文字だけでなく、図形、音声、特に画像等を同時に関連づけて表すことをいうが、上記従来の情報メディアをマルチメディアの対象とするには、その情報をディジタル形式により表すことが必須条件となる。
ところが、上記各情報メディアの持つ情報量をディジタル情報量として見積もってみると、文字の情報量(1文字当たり)は1〜2バイトであるのに対し、電話品質の音声については1秒当たり64Kbits、さらに現行テレビ受信品質の動画については1秒当たり100Mbits以上の情報量が必要となり、上記電話やテレビなどの情報メディアではディジタル形式の膨大な情報をそのまま扱うことは現実的ではない。例えば、テレビ電話は、64kbps〜1.5Mbpsの伝送速度を持つサービス総合ディジタル網(ISDN:Integrated Services Digital Network)によってすでに実用化されているが、テレビカメラにより得られる映像情報をデジタルデータとしてそのままISDNで送ることは不可能である。
そこで、必要となってくるのが情報の圧縮技術であり、例えば、テレビ電話の場合、ITU−T(国際電気通信連合 電気通信標準化部門)で国際標準化されたH.261やH.263規格の動画圧縮技術が用いられている。また、MPEG−1規格の情報圧縮技術によると、通常の音楽用CD(コンパクト・ディスク)に音声情報とともに画像情報を格納することも可能となる。
ここで、MPEG(Moving Picture Experts Group)とは、動画データの圧縮処理に関する国際規格であり、MPEG−1は、動画データを1.5Mbpsまで、つまりテレビ信号の情報を約100分の1にまで圧縮する規格である。また、MPEG−1規格を対象とする伝送速度が主として約1.5Mbpsに制限されていることから、さらなる高画質化の要求をみたすべく規格化されたMPEG−2では、動画データが2〜15Mbpsに圧縮される。
さらに現状では、MPEG−1,MPEG−2と動画データの圧縮処理の標準化を進めてきた作業グループ(ISO/IEC JTC1/SC29/WG11) によって、物体単位での画像データの符号化及び画像データの操作を可能とし、マルチメディア時代に必要な新しい機能を実現するMPEG−4が規格化されつつある。MPEG−4では、当初、低ビットレートの符号化処理の標準化を目指してきたが、現在では、標準化の対象が、インタレース画像に対応した高ビットレートのより汎用的な符号化処理に拡張されている。
ところで、MPEG−4の特徴の1つに、複数の画像系列(つまり複数の動画像)に対応する画像データを同時に符号化して伝送する仕組みがある。この仕組みは、複数の画像の合成によって1つのシーンを構成可能にするものである。なお、ここで、画像は、画像系列(動画像)の各画面の画像(静止画)であり、1シーンは、複数の画像を含む合成画像である。
例えば、MPEG−4では、1つのシーンを構成する前景と背景を別の画像系列の画像(物体)として分離し、各画像系列毎に独立してフレーム周波数,画質,ビットレートなどを変更することが可能である。また、MPEG−4では、複数の画像系列の画像をマルチ画面のように水平もしくは垂直方向に並べて、ユーザが所望の画像系列の画像のみを抽出したり拡大表示したりすることができる。
背景については、MPEG−2と同様に輝度及び色合いを示す画素値信号(テキスチャー信号)のみに対する符号化処理が一般的であるが、前景については、物体の輝度及び色合いを示す画素値信号のみでなく、物体の形状を示す形状信号も同時に符号化する処理が行われる。一般に、この前景に対する符号化処理は物体単位の符号化処理として知られている。
なお、このMPEG−4では、表示される画像全体(合成画像)は、複数の画像系列の画像(物体)により構成されることから、各画像系列の、各表示時刻における画面をVOP(Video Object Plane)と呼び、MPEG−1,2におけるフレームと区別している。なお、表示画像の全体が1つの画像系列の画像により構成される場合には、VOPとフレームは一致することとなる。
図8はMPEG−4における物体単位の符号化処理を説明するための模式図である。
MPEG−4にて規定されている画像信号は、物体(VOP)の形状Sob(図8(a))を表す形状信号と、物体(VOP)の絵柄Tob(図8(b))を表す、輝度信号と色差信号からなる画素値信号(テキスチャー信号)から構成されている。
MPEG−4にて規定されている画像信号は、物体(VOP)の形状Sob(図8(a))を表す形状信号と、物体(VOP)の絵柄Tob(図8(b))を表す、輝度信号と色差信号からなる画素値信号(テキスチャー信号)から構成されている。
上記物体単位の符号化処理では、物体の形と物体の位置を、画像表示のための基準の座標系に対して定める必要があり、このため、物体Obを包含する、複数のマクロブロックにより構成される矩形領域(バウンディングボックス)Box(図8(c))が上記基準座標系にて設定される。なお、マクロブロックは符号化処理の単位となる画像空間であり、16×16画素から構成されている。また、上記矩形領域Boxは複数のマクロブロックにより構成されるため、該矩形領域の水平方向及び垂直方向の画素数は16の倍数となっている。
そして、1つの画像系列の個々の矩形領域Boxに対して、画像信号をマクロブロック毎に符号化する符号化処理が施される。
例えば、図8(c)では、上記矩形領域Boxは5×4個のマクロブロックから構成されており、マクロブロックMB1,MB2は物体Obの外側に位置する物体外マクロブロック、マクロブロックMB3は物体Obの境界上に位置する境界マクロブロック、マクロブロックMB13は物体Obの内側に位置する物体内マクロブロックである。MPEG−4では物体外の画素は復号化後には表示されないため、復号化後に表示される物体内の画素を含むマクロブロック,つまり境界マクロブロック及び物体内マクロブロックに対してのみ符号化処理が行われる。
例えば、図8(c)では、上記矩形領域Boxは5×4個のマクロブロックから構成されており、マクロブロックMB1,MB2は物体Obの外側に位置する物体外マクロブロック、マクロブロックMB3は物体Obの境界上に位置する境界マクロブロック、マクロブロックMB13は物体Obの内側に位置する物体内マクロブロックである。MPEG−4では物体外の画素は復号化後には表示されないため、復号化後に表示される物体内の画素を含むマクロブロック,つまり境界マクロブロック及び物体内マクロブロックに対してのみ符号化処理が行われる。
図9はMPEG−4対応のビットストリームにおける種々の処理単位について説明するための模式図である。
なお、物体(VOP)を含む矩形領域(バウンディングボックス)Boxは、該物体と一対一に対応するため、以下の説明では、矩形領域(バウンディングボックス)Boxと物体(VOP)とを区別せずに、これらをVOPとして説明する。
なお、物体(VOP)を含む矩形領域(バウンディングボックス)Boxは、該物体と一対一に対応するため、以下の説明では、矩形領域(バウンディングボックス)Boxと物体(VOP)とを区別せずに、これらをVOPとして説明する。
一般に、可変長符号により構成される符号列(ビットストリーム)では、その復号時のエラー伝播を阻止するため、特定のビットパターンにより構成される固定長符号が配置されている。MPEG−4ではこの固定長符号はResync Marker(以下単にマーカと略記する。)と呼ばれており、1つの同期信号となっている。そして、このマーカとこれに続く可変長符号により構成される符号列は、ビデオパケットと呼ばれる1つの符号化単位となっている。
MPEG−4では、図9(a)に示すように、1つのVOP10に対応する符号列(VOPビットストリーム)Svopは、複数のビデオパケットから構成可能であり、ここでは、VOPビットストリームSvopは4つのビデオパケットSvp1〜Svp4から構成されている。ここで、各ビデオパケットSvp1〜Svp4には、VOP10における各領域Rvp1〜Rvp4に対応する符号化データが格納されている。また、上記各ビデオパケットSvp1〜Svp4には、複数のマクロブロックに対応する符号化データを格納可能である。
なお、ここでは上記ビデオパケットSvp1に対応する領域Rvp1は、図9(b)に示すように5つのマクロブロックMB1〜MB5から構成されており、他のビデオパケットSvp2〜Svp4に対応する領域Rvp2〜Rvp4も、上記ビデオパケットSvp1に対応する領域Rvp1と同様、5つのマクロブロックから構成されている。また、上記各マクロブロックは、上述したように16画素×16画素からなる画像空間であり、4つのブロックから構成されている。各ブロックは8画素×8画素からなる画像空間である。例えば、マクロブロックMB1は、図9(c)に示すように、ブロックB1〜B4からなり、また、ブロックB1は、図9(d)に示すように、8画素×8画素からなる。
また、1つのマクロブロックに対応する符号化データ(以下マクロブロック情報ともいう。)には、1つのマクロブロックを構成する4つのブロックに対応する輝度情報(Y),及び1つのマクロブロックに対応する色差情報(U),(V)が含まれている。さらに、物体が形状を有する場合には、1つのマクロブロックに対応する符号化データには、上記輝度情報(Y)及び色差情報(U),(V)とともに、1つのマクロブロックに対応する形状情報が含まれることとなる。
ここで、1つのマクロブロックの輝度情報(Y)は、1つのマクロブロックを構成する4つのブロックの画素値信号を符号化してなるもの、1つのマクロブロックの色差情報(U)及び色差情報(V)はそれぞれ、1マクロブロックを構成する8×8画素の色差信号(U),(V)を符号化してなるもの、1つのマクロブロックの形状情報は、1マクロブロックを構成する16×16画素の形状信号を符号化してなるものである。
なお、上記VOP10におけるビデオパケット対応領域を構成するマクロブロックの数は、図9(a)に示すように一定である必要はなく、例えば、図9(e)に示すように、VOPビットストリームSvopaにおける各ビデオパケットSvp1a〜Svp5aの符号量が一定となるよう、VOP10aにおけるビデオパケット対応領域Rvp1a〜Rvp5aを構成するマクロブロックの数を決定してもよい。この場合は、各ビデオパケット対応領域Rvp1a〜Rvp5aに含まれるマクロブロックの数は一定にはならない。
図10はMPEG−4における物体単位の符号化処理を説明するための模式図であり、図8に示す形状を有する物体(VOP)に対応する画像信号の符号化処理を示している。
ここで、物体ObとしてのVOP10(厳密には物体を含むBBOX)は、それぞれ5つのマクロブロックからなる、4つのビデオパケット領域Rvp1〜Rvp4から構成されている。例えば、上記ビデオパケット領域Rvp1は、マクロブロックMB1〜MB5により構成されている。
上記マクロブロックMB1及びMB2は物体外に位置しているから、これらのマクロブロックMB1,MB2に対しては、形状信号の符号化処理として、該マクロブロックが物体外に位置していることを示す形状信号を符号化する処理が行われ、画素値信号の符号化処理は省略される。また、マクロブロックMB3に対しては、このマクロブロックは物体内の画素を含むマクロブロックであるから、形状信号に対する符号化処理と画素値信号の符号化処理が行われる。
一般に、形状を有する前景としての物体には、背景としての物体とは異なり、時々刻々とその形や大きさが変化するものが多い。また、MPEG−4では、形状信号や画素値信号の符号化アルゴリズムが符号化処理の対象となる画像の形状に大きく依存する。例えば、物体が形状を有する場合、形状信号により物体外に位置することが示される部分(マクロブロック)については、画素値信号の符号化処理が省略されるため、1つの画像系列の1画面(VOP)に対応する、画素値信号の符号化処理が施されたマクロブロックの数が変わる場合がある。このため、MPEG−4対応の復号化処理は、MPEG−2のように形や大きさが変化しない画像の符号化処理に対する復号化処理と比べて、ビットストリームの伝送誤りに弱く、さらに、この復号化処理では、画面間の相関を利用した画像修復や画像処理などの画像修整も困難である。この結果、MPEG−4対応の復号システムでは、伝送誤りが発生すると、復号画像における画質が大きく劣化することとなる。
図11(a)ないし(c)は、MPEG−4対応のビットストリームの構成を詳しく説明するための模式図である。
VOPビットストリームSvopは、図10に示す、物体ObとしてのVOP10に対応する符号化データを含むものであり、このVOPビットストリームSvopの先頭には、VOP全体に関連する重要なデータであるVOPヘッダSvophが配置され、該VOPヘッダSvophに続いてビデオパケットSvp1〜Svp4が配置されている(図11(a)参照)。
VOPビットストリームSvopは、図10に示す、物体ObとしてのVOP10に対応する符号化データを含むものであり、このVOPビットストリームSvopの先頭には、VOP全体に関連する重要なデータであるVOPヘッダSvophが配置され、該VOPヘッダSvophに続いてビデオパケットSvp1〜Svp4が配置されている(図11(a)参照)。
また、上記ビデオパケットSvp1では、その先頭にビデオパケット全体に関連する重要なデータであるビデオパケットヘッダSvphが配置され、該ビデオパケットヘッダSvphに続いて、マクロブロックMB1〜MB5に対応する符号化データ(マクロブロック情報)Smb1〜Smb5が配置されている(図11(b)参照)。
さらに、上記マクロブロック情報Smb1の先頭には、マクロブロック全体に関連する重要なデータであるマクロブロックヘッダSmbhが配置されており、該マクロブロックヘッダSmbhに続いて、対応するマクロブロックの形状情報Ssb、対応するマクロブロックを構成する4つのブロックの輝度情報Spb1〜Spb4、及び対応するマクロブロックの色差情報(U)Spbu,色差情報(V)Spbvが配置されている(図11(c)参照)。
このようにVOPビットストリームSvopでは、符号化単位としてのマクロブロックに相当するマクロブロック情報が第1の処理単位となり、さらに複数のマクロブロック情報からなるビデオパケットが第2の処理単位となっており、VOPビットストリームは、これに含まれる符号化データが第1及び第2の処理単位により区分された2階層のデータ構造を有している。
ここで,上記VOPヘッダSvoph及びビデオパケットヘッダSvphにはビットストリームの復号化処理の同期をとるための同期信号が含まれている。このため、ビットストリームのエラービットによりビットストリームの復号化処理が中断した場合は、VOPヘッダSvophもしくはビデオパケットヘッダSvphから復号化処理を再開することができる。一方、マクロブロックヘッダSmbhには復号化処理における同期をとるための同期信号は含まれていない。なお、ビデオパケットヘッダSvphにおける同期信号は上記固定長符号(Resync Marker)である。
ところで、一般に、動画像復号化処理におけるビットストリームのエラーには、ストリームエラーと伝送エラーの2種類がある。
このストリームエラーは、ストリームに文法上正しくない符号が含まるエラー(シンタックスエラー)、使用可能な値の範囲を越えた不正な値の符号が含まれるエラー(セマンティックエラー)などである。また、伝送エラーは、記録媒体からビットストリームを読み出す際もしくは通信媒体を介してビットストリームを伝送する際にデータ欠落等によりビットストリームが破損するエラーである。
このストリームエラーは、ストリームに文法上正しくない符号が含まるエラー(シンタックスエラー)、使用可能な値の範囲を越えた不正な値の符号が含まれるエラー(セマンティックエラー)などである。また、伝送エラーは、記録媒体からビットストリームを読み出す際もしくは通信媒体を介してビットストリームを伝送する際にデータ欠落等によりビットストリームが破損するエラーである。
通常、各VOPに対応する符号化された画像データは、ヘッダ情報を有する伝送パケットに格納して伝送パケット単位でVOPビットストリームとして伝送されるため、パケットの欠落等の伝送エラーが発生した場合には、受信側では、ビットストリームにおける伝送パケットの欠落位置が検出可能である。このため、伝送エラーについては、ビットストリームにおける復号化処理が破綻した位置(エラー発生位置)もほとんど特定することができる。
なお、復号化処理におけるエラー発生位置を特定するための具体的な方法として、ビットストリームにおけるパケットの欠落を検出して、ビットストリームの、パケットの欠落位置にパケット欠落を示すマーク(マーカ符号)を付加する方法が考えられる。
このような伝送エラーに対し、ストリームエラーは、例えば、可変長符号化の際に発生するシンタックスエラー等に起因するものであるため、可変長復号化処理等の復号化過程が破綻した時点で初めて復号エラーとして検出できるものである。言いかえると、ストリームエラーは、本質的に、ビットストリーム(符号化データ)の復号化過程が破綻しない限り、これを検出することはできないものである。
但し、1つのビデオパケットの先頭には同期信号が配置されており、またこのビデオパケット直後には、後続のビデオパケットの同期信号が配置されているため、これら2つの同期信号の間に位置するビットストリームの構造および内容を厳密に復号化過程で検査すれば、ビットストリームの復号化過程の破綻によらずに、ストリームエラーを含むビデオパケットのみを検出できる。このようにビットストリームの構造および内容を厳密に復号化過程で検査する場合、ビットストリームの復号化過程の破綻を検出する場合に比べて、ストリームエラーを検出できる可能性は非常に高くなる。
以下、従来の動画像復号化装置について具体的に説明する。
図12は従来の一般的な動画像復号化装置を説明するためのブロック図である。
この動画像復号化装置100は、記録媒体から読み出されたビットストリームあるいは伝送媒体を介して送信されてきたビットストリームを入力ストリームVinとして受信し、該入力ストリームVinに対する復号化処理を行うものである。ここで、上記ビットストリームは、動画像の画像信号に対して該動画像を構成する複数の画像系列毎に別々に符号化処理を施して得られる画像符号化データを含むものである。また、上記1つの画像系列の画像信号に対する符号化処理は、該画像系列の1画面(VOP)毎に行われ、かつ各VOPに対応する画像信号は該VOPを構成するマクロブロックを単位として符号化される。また、形状を有しない物体の画像信号は輝度信号及び色差信号のみを含み、形状を有する物体の画像信号は、上記輝度情報及び色差情報とともに形状信号を含んでいることは言うまでもない。
図12は従来の一般的な動画像復号化装置を説明するためのブロック図である。
この動画像復号化装置100は、記録媒体から読み出されたビットストリームあるいは伝送媒体を介して送信されてきたビットストリームを入力ストリームVinとして受信し、該入力ストリームVinに対する復号化処理を行うものである。ここで、上記ビットストリームは、動画像の画像信号に対して該動画像を構成する複数の画像系列毎に別々に符号化処理を施して得られる画像符号化データを含むものである。また、上記1つの画像系列の画像信号に対する符号化処理は、該画像系列の1画面(VOP)毎に行われ、かつ各VOPに対応する画像信号は該VOPを構成するマクロブロックを単位として符号化される。また、形状を有しない物体の画像信号は輝度信号及び色差信号のみを含み、形状を有する物体の画像信号は、上記輝度情報及び色差情報とともに形状信号を含んでいることは言うまでもない。
なお、上記動画像に対応するビットストリームには、通常、各物体に対応する画像符号化データが多重化されて含まれているが、以下の説明では、該ビットストリームは、画像情報として1つの物体に対応する画像符号化データのみ含むものとする。
以下詳述すると、上記動画像復号化装置100は、処理対象となる被処理VOPに対応する入力ストリームVinの復号化処理を、復号化処理が完了した処理済VOPにおける参照領域の復号画像データ(参照画像データ)Vrefを参照してマクロブロック毎に行って、復号画像データVdを出力する復号化器101と、上記参照画像データVrefを、被処理VOPにおける処理対象となるマクロブロック(対象マクロブロック)に対する復号化処理と同期させて出力するとともに、処理済VOPに対する相対位置が、被処理VOPに対する対象マクロブロックの相対位置と等しい処理済VOPのマクロブロックに対応する復号画像データ(置換画像データ)Vrepを上記対象マクロブロックに対する復号化処理と同期させて出力するメモリ102とを有している。
また、上記動画像復号化装置100は、上記入力ストリームVinに基づいて、該入力ストリームVinのエラー及びその位置を検出してエラー通知信号Terrを出力するエラー検出器120と、上記対象マクロブロックに対応する復号画像データVdと置換画像データVrepの一方を、制御信号Cmbに基づいて選択し、選択された画像データ(MB選択画像データ)Embを対象マクロブロックの再生画像データVoutとして出力する選択スイッチ105と、上記エラー通知信号Terrに基づいて上記選択スイッチ105に対する制御信号Cmbを発生するマクロブロック単位修整器104とを有している。
ここで、上記エラー検出器120は、上記入力ストリームVinのエラーの検出を、入力ストリームVinのアナログ信号としてのレベルや入力ストリームに含まれる誤り訂正符号により行う構成となっている。従って、このエラー検出器120では、伝送エラーの検出が行われるようになっている。
また、上記マクロブロック単位修整器104は、上記エラー通知信号Terrに基づいて、上記入力ストリームVinのエラー部分を含むマクロブロック情報からその後の同期信号までの間のマクロブロック情報を復号化して得られる復号画像データVdに代えて、この復号画像データに対応する処理済VOPの復号画像データ(置換画像データ)Vrepが再生画像データVoutとして出力されるよう、上記選択スイッチ105を制御する構成となっている。
次に動作について説明する。
記録媒体から読み出されたビットストリームあるいは伝送媒体を介して送信されてきたビットストリームが入力ストリームVinとして、この動画像復号化装置100に入力されると、この動画像復号化装置100では、該入力ストリームに対する復号化処理がマクロブロックを単位として、各VOP毎に行われる。なお、この動画像復号化装置100では、復号化処理の際、上記復号化器101,メモリ102,及びマクロブロック単位修整器104は、これらの間で、各マクロブロックに対する処理が同期して行われるよう、本装置100の制御部(図示せず)により制御される。
記録媒体から読み出されたビットストリームあるいは伝送媒体を介して送信されてきたビットストリームが入力ストリームVinとして、この動画像復号化装置100に入力されると、この動画像復号化装置100では、該入力ストリームに対する復号化処理がマクロブロックを単位として、各VOP毎に行われる。なお、この動画像復号化装置100では、復号化処理の際、上記復号化器101,メモリ102,及びマクロブロック単位修整器104は、これらの間で、各マクロブロックに対する処理が同期して行われるよう、本装置100の制御部(図示せず)により制御される。
すなわち、上記復号化器101では、被処理VOPにおける対象マクロブロックの符号化データに対して、該対象マクロブロックに対応する参照画像データVrefを参照する復号化処理が施され、対象マクロブロックの復号画像データVdが出力される。なお、入力ストリームVinにエラーが含まれている場合は、上記復号化器101からは、符号化データの復号化が可能なマクロブロックに対応する復号画像データVdのみが出力される。
またこのとき、メモリ102からは、対象マクロブロックに対応する参照画像データVrefとともに、対象マクロブロックに対応する置換画像データVrepが出力される。
また、エラー検出器120では、入力ストリームVinに基づいて伝送エラーを検出するエラー検出処理が行われる。そして、入力ストリームのエラーが検出されたとき、該エラー検出器120からは、該入力ストリームのエラー部分の位置として、該エラー部分を含むマクロブロック情報を示すエラー通知信号Terrがマクロブロック単位修整器104に出力される。
すると、マクロブロック単位修整器104では、エラー通知信号Terrに基づいて、上記対象マクロブロックの復号画像データVdと該対象マクロブロックに対応する置換画像データVrepの一方を選択する選択スイッチ105にその制御信号Cmbが出力される。つまり該選択スイッチ105は、上記エラー通知信号Terrにより示されるマクロブロック情報からその後の同期信号までの間の各マクロブロック情報に対応するマクロブロックに対しては、復号化器101からの復号画像データVdに代えて、メモリ102からの置換画像データVrepが選択され、その他のマクロブロックに対しては、復号化器101から出力される復号画像データVdが選択されるよう制御される。
そして、上記選択スイッチ105により選択された選択画像データEmbが、被処理VOPの対象マクロブロックに対応する再生画像データVoutとして出力される。また、上記選択画像データEmbは、該被処理VOPの次のVOPに対する参照画像データとして上記メモリ102に記録される。
このとき、エラーマクロブロック(マクロブロック情報がビットストリームのエラー部分を含むマクロブロック)の復号画像データだけでなく、ビデオパケット内の該エラーマクロブロック以降の全てのマクロブロックの復号画像データVdを、処理済VOPにおける対応するマクロブロックの復号画像データ(置換画像データ)Vrepと置き換えるようにしているのは、入力ストリームが、画像データの可変長符号化処理により得られたものであるためである。つまり、入力ストリームの可変長復号化処理では、入力ストリームにエラーが含まれる場合、エラーの影響が、入力ストリームにおけるエラー発生位置から同期信号までの間の全てのマクロブロック情報に対する復号化処理に及ぶためである。
図13は従来のその他の動画像復号化装置を説明するためのブロック図である。
この動画像復号化装置110は、エラーを含む入力ストリームの復号化処理により得られる復号画像データを、上記動画像復号化装置100のようにマクロブロック単位で修整するのではなく、ビデオパケット単位で修整するようにしたものである。
この動画像復号化装置110は、エラーを含む入力ストリームの復号化処理により得られる復号画像データを、上記動画像復号化装置100のようにマクロブロック単位で修整するのではなく、ビデオパケット単位で修整するようにしたものである。
すなわち、この動画像復号化装置110は、図12に示す動画像復号化装置100と同様、被処理VOPに対応する入力ストリームVinの復号化処理を参照画像データVrefを参照して行って、各マクロブロックに対応する復号画像データVdを出力する復号化器101と、対象マクロブロックに対する参照画像データVref及び置換画像データVrepを、対象マクロブロックの復号化処理と同期させて出力するメモリ102とを有している。
そして、この動画像復号化装置110は、上記動画像復号化装置100における選択スイッチ105に代えて、復号画像データVdを、処理対象となっているビデオパケットの復号化処理に要する時間だけ遅延する第1の遅延回路103と、メモリ102から各マクロブロックの復号化処理に同期して出力される置換画像データVrepを、処理対象となっているビデオパケットの復号化処理に要する時間だけ遅延する第2の遅延回路104と、該第1の遅延回路103の出力(遅延復号データ)DVd及び第2の遅延回路104の出力(遅延置換データ)DVrepの一方を制御信号Cvpに基づいて選択する選択スイッチ108とを有している。
また、この動画像復号化装置110は、上記動画像復号化装置100におけるエラー検出器120に代えて、復号化器101の内部信号Siに基づいて、該復号化器での正常な復号化処理が破綻したことを検出し、エラー検出を示すエラー通知信号Nerrを出力するエラー検出器121を有している。なお、このエラー検出器121は、正常な復号化処理の破綻を検出する処理に代えて、ビデオパケット内のビットストリームの構造及び内容を厳密に検査する処理によって、ビットストリームの異常を検出し、エラー検出を示すエラー通知信号Nerrを出力する構成としてもよい。
さらに、この動画像復号化装置110は、上記動画像復号化装置100におけるマクロブロック単位修整器104に代えて、上記選択スイッチ108を、これが第1の遅延回路103からの遅延復号データDVdと第2の遅延回路104からの遅延置換データDVrepの一方を各マクロブロック毎に選択するよう、エラー通知信号Nerrに基づいて制御するビデオパケット単位修整器107を備えている。
このビデオパケット単位修整器107は、具体的には、上記エラー通知信号Nerrに基づいて、上記復号化器101での復号化処理が破綻したビデオパケット(エラービデオパケット)に対応する遅延復号データDVdに代えて、該エラービデオパケットに対応する処理済VOPのビデオパケットの遅延置換データDVrepが再生画像データVoutとして出力されるよう、上記選択スイッチ108を制御する構成となっている。
なお、図13に示す動画像復号化装置110における復号化器101及びメモリ102は、図12に示す動画像復号化装置100における復号化器101及びメモリ102と同一の構成となっている。
次に動作について説明する。
この動画像復号化装置110では、復号化器101における入力ストリームVinの復号化処理、及びメモリ102からの参照画像データVref,置換画像データVrepの出力は、上記動画像復号化装置100と同様に行われる。
この動画像復号化装置110では、復号化器101における入力ストリームVinの復号化処理、及びメモリ102からの参照画像データVref,置換画像データVrepの出力は、上記動画像復号化装置100と同様に行われる。
そして、この動画像復号化装置110では、復号化器101からの復号画像データVdが第1の遅延回路103にて、復号化処理の対象となる対象ビデオパケットに対する復号化処理に要する時間だけ遅延され、またメモリ102からの置換画像データVrepが第2の遅延回路104にて、上記対象ビデオパケットに対する復号化処理に要する時間だけ遅延される。
また、エラー検出器121では、復号化器101における内部信号Siに基づいて、入力ストリームに対する復号化処理の破綻を検出する処理が行われ、復号化処理の破綻が検出されたとき、該エラーの検出を示すエラー通知信号Nerrがビデオパケット単位修整器107に出力される。このビデオパケット単位修整器107では該エラー通知信号Nerrに応じて上記選択スイッチ108へ制御信号Cvpが出力される。該選択スイッチ108では、この制御信号Cvpに基づいて、上記第1の遅延回路103からの遅延復号データDVdと第2の遅延回路104からの遅延置換データDVrepの一方が選択され、選択されたデータ(VP単位選択データ)Evpが再生画像データVoutとして出力される。
具体的には、上記選択スイッチ108は、エラーが検出されたビデオパケット(エラービデオパケット)に対応する遅延復号データDVdに代えて、該エラービデオパケットに対応する処理済VOPのビデオパケットの遅延置換データDVrepが再生画像データVoutとして出力されるよう、上記ビデオパケット単位修整器107により制御される。
そして、上記被処理VOPの再生画像データVoutは、該被処理VOPの次のVOPに対する参照画像データとして上記メモリ102に記録される。
そして、上記被処理VOPの再生画像データVoutは、該被処理VOPの次のVOPに対する参照画像データとして上記メモリ102に記録される。
このような構成の動画像復号化装置110では、復号化処理の破綻を検出し、復号化処理が破綻したビデオパケットの復号画像データVdを処理済VOPにおける対応するビデオパケットの復号画像データに置き換えるので、上記復号化処理が通常入力ストリームにエラーが含まれていれば破綻するものであることから、伝送エラーあるいはストリームエラーを含むビットストリームが入力されたときには、復号画像データの修整が行われることとなる。
ところが、上述した従来の動画像復号化装置、つまり復号画像データをマクロブロック単位で修整する従来の動画像復号化装置100(図12参照)、及び復号画像データをビデオパケット単位で修整する従来の画像復号化装置110(図13参照)では、それぞれ以下のような問題があった。
すなわち、図12に示す動画像復号化装置100では、エラーを、入力ストリームのアナログ信号レベルや誤り訂正符号により検出し、復号画像データをマクロブロック単位で修整するので、復号画像データの修整をきめこまかく行うことができるが、入力ストリームのアナログ信号レベルや誤り訂正符号によってストリームエラーの検出を行うことはできず、このためストリームエラーに起因する復号画像の画質劣化を改善することができなかった。
また、図13に示す動画像復号化装置110では、エラーを、復号化処理における破綻の発生により検出し、復号画像データをビデオパケット単位で修整するので、エラーマクロブロック以前の、エラー部分を含まない正常なマクロブロック情報に対応する復号画像データも、処理済VOPの復号画像データと置き換えられてしまうこととなる。このため、復号画像データの修整に起因する復号画像の画質劣化が顕著になり、伝送エラーやストリームエラーに対する復号画像の修整を効果的に行うことができないという問題点があった。
従って、従来は、用途に応じて、図12に示すマクロブロック単位で復号画像の修整を行う動画像復号化装置と、図13に示すビデオパケット単位で復号画像の修整を行う動画像復号化装置を使い分けるようにしていた。
また、上述した従来の動画像復号化装置はいずれも、復号画像の修整処理を、入力ストリームが形状情報を有する場合と、入力ストリームが形状情報を有しない場合とで区別せずに行う構成となっているため、入力ストリームが形状情報を有する場合には、画像修整を行っても良好な画質が得られないという問題点があった。
つまり、物体単位の符号化処理の対象となる物体は、その形状が時々刻々と大幅に変化する場合が多いものであるため、被処理VOPの一部の画像を、処理済VOP内の画像を利用して修整すると、被処理VOPにおける修整された部分と、修整されていない部分との間で、該被処理VOP内での形状の連続性が損われることが多い。このように形状の連続性が損なわれると、修整部分が目立つこととなって、大幅な画質劣化を招くこととなる。
本発明は、上記のような問題点を解消するためになされたものであり、入力ストリームの復号化処理により得られる復号画像における、伝送エラーやストリームエラーに起因する画質劣化を、復号画像の修整処理により効果的に改善することができる動画像復号化方法及び動画像復号化装置、並びに該動画像復号化方法をソフトウエアにより実現するための動画像復号化プログラムを記録した記録媒体を提供することを目的とする。
本発明に係る動画像復号化方法は、動画像に対応する画像データを該動画像の1画面を構成する単位領域毎に順次符号化してなる符号化データを含むビットストリームに対して、該符号化データを上記単位領域毎に復号化して復号画像データを生成する復号化処理を施す動画像復号化方法であって、上記ビットストリームのエラーを検出するエラー検出処理と、上記ビットストリームが、上記動画像の形状を示す形状情報を有するか否かを判定する形状有無判定処理と、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有すると判定されたとき、上記復号画像データの修整を、上記動画像の1画面を修整単位として行い、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有していないと判定されたとき、上記復号画像データの修整を、上記単位領域を1以上含む、上記画面より小さい処理領域を修整単位として行う修整処理とを含むものである。
本発明は、上記動画像復号化方法において、上記ビットストリームは、上記単位領域に対応する第1の処理単位を複数含む第2の処理単位毎に、上記符号化データにその復号時のエラー伝搬が阻止されるよう付与された同期信号を含むものとし、上記エラー検出処理は、上記ストリームの伝送時に発生した、その発生位置を特定可能な第1のエラーと、該第1のエラー以外の、その発生位置を特定不可能な第2のエラーとを区別して検出するものとし、上記修整処理は、上記形状情報を有していないストリームの第1のエラーが検出されたとき、上記復号画像データの修整を、上記第1の処理単位を修整単位として行い、上記形状情報を有していないストリームの第2のエラーが検出されたとき、上記復号画像データの修整を、上記第2の処理単位を修整単位として行うものとしたものである。
本発明に係る動画像復号化装置は、動画像に対応する画像データを該動画像の1画面を構成する単位領域毎に順次符号化してなる符号化データを含むビットストリームに対して復号化処理を施す動画像復号化装置であって、上記ビットストリームに含まれる符号化データを上記単位領域毎に復号化して復号画像データを生成する復号化器と、上記ビットストリームのエラーを検出するエラー検出部と、上記ビットストリームが、上記動画像の形状を示す形状情報を有するか否かを判定する形状有無判定部と、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有すると判定されたとき、上記復号画像データの修整を、上記動画像の1画面を修整単位として行い、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有していないと判定されたとき、上記復号画像データの修整を、上記単位領域を1つ以上含む、上記画面より小さい処理領域を修整単位として行う復号画像修整部とを備えたものである。
本発明は、上記動画像復号化装置において、上記ビットストリームは、上記単位領域に対応する第1の処理単位を複数含む第2の処理単位毎に、上記符号化データにその復号時のエラー伝搬が阻止されるよう付与された同期信号を含むものとし、上記エラー検出部は、上記ビットストリームの伝送時に発生した、その発生位置を特定可能な第1のエラーを検出する第1のエラー検出器と、該第1のエラー以外の、その発生位置を特定不可能な第2のエラーを検出する第2のエラー検出器とを有するものとし、上記復号画像修整部は、上記形状情報を有していないストリームの第1のエラーが検出されたとき、上記復号画像データの修整を、上記第1の処理単位を修整単位として行う第1の修整器と、上記形状情報を有していないストリームの第2のエラーが検出されたとき、上記復号画像データの修整を、上記第2の処理単位を修整単位として行う第2の修整器と、上記形状情報を有するビットストリームの第1のエラーあるいは第2のエラーが検出されたとき、上記復号画像データの修整を、上記動画像の1画面を修整単位として行う第3の修整器とを有するものとしたものである。
本発明に係るプログラム記録媒体は、動画像に対応する画像データを該動画像の1画面を構成する単位領域毎に順次符号化してなる符号化データを含むビットストリームに対するデータ処理をコンピュータにより行うためのプログラムを格納したプログラム記録媒体であって、上記データ処理は、上記ビットストリームに含まれる符号化データを上記単位領域毎に復号化して復号画像データを生成する復号化処理と、上記ビットストリームに含まれるエラーを検出するエラー検出処理と、上記ビットストリームが、上記動画像の形状を示す形状情報を有するか否かを判定する形状有無判定処理と、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有すると判定されたとき、上記復号画像データの修整を、上記動画像の1画面を修整単位として行い、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有していないと判定されたとき、上記復号画像データの修整を、上記単位領域を1つ以上含む、上記画面より小さい処理領域を修整単位として行う修整処理とを含むものである。
本発明に係る動画像復号化方法によれば、動画像に対応する符号化データを含むビットストリームに対する復号化処理を行う際、上記ビットストリームの伝送時に発生した第1のエラーと、該第1のエラー以外の第2のエラーとを区別して検出し、上記第1のエラーが検出されたとき、上記復号化処理により得られた復号画像データを、符号化処理単位である第1の処理単位で修整し、上記第2のエラーが検出されたとき、上記復号画像データを、1つの同期信号が付与された、上記第1の処理単位を複数含む第2の処理単位で修整するので、伝送エラーとストリームエラーのいずれのエラーに対しても復号画像データの修整を行うことが可能となる。
また、伝送エラーが発生した場合には、伝送エラーの影響を受ける第1の処理単位に対応する復号画像データのみが修整されることとなり、伝送エラーの影響を受けていない第1の処理単位に対応する復号画像データを修整することによる復号画像の画質劣化を回避できる。また、伝送エラー以外のストリームエラーが発生した場合には、1つの同期信号が付与された第2の処理単位に対応する復号画像データが修整されることとなり、ストリームエラーの影響を受けている第1の処理単位に対応する復号画像データが出力されることによる復号画像の画質劣化を防止することができる。
この結果、入力ビットストリームのエラーを検出した場合には、復号画像データの修整処理を効果的に行って復号画像の画質劣化を大きく低減することができる効果が得られる。
この発明に係る動画像復号化方法によれば、動画像に対応する符号化データを含むビットストリームに対する復号化処理を行う際、上記ビットストリームのエラーを検出するとともに、上記ビットストリームが、上記動画像の形状を示す形状情報を有するか否かを判定し、上記エラーが検出され、かつ上記ビットストリームが形状情報を有していないと判定されたとき、上記復号画像データの修整を、符号化処理の単位領域を修整単位として行い、上記エラーが検出され、かつ上記ストリームが形状情報を有するとき、上記復号画像データの修整を、上記動画像を構成する画面を修整単位として行うので、上記ビットストリームが形状情報を含む場合には、復号画像の修整処理による大きな画質劣化を招くことなく、エラーに起因する画質劣化を排除することができ、しかも、上記ストリームが形状情報を含まない場合には簡単な修整処理によりエラーに起因する画質劣化を排除することができる。
この発明によれば、上記動画像復号化方法において、上記ビットストリームの伝送時に発生した第1のエラーと、該第1の伝送エラー以外の第2のエラーとを区別して検出し、上記形状情報を有していないビットストリームの第1のエラーが検出されたとき、上記復号画像データを、符号化処理の単位領域に対応する第1の処理単位で修整し、上記形状情報を有していないビットストリームの第2のエラーが検出されたとき、上記復号画像データを、1つの同期信号が付与された、上記第1の処理単位を複数含む第2の処理単位で修整するので、形状情報を有するストリームの復号化処理により得られる復号画像における、伝送エラーあるいはストリームエラーに起因する画質劣化を、復号画像データの修整に伴う画質劣化を抑えつつ排除することができる効果に加えて、ビットストリームが形状情報を有しない場合には、エラーに対する復号画像データの修整処理を、エラーの種類に応じて効果的に行って、復号画像の画質を向上することができる効果が得られる。
この発明に係る動画像復号化装置によれば、動画像に対応する符号化データと、同期信号とを含むビットストリームに対する復号化処理により復号画像データを生成する復号化器と、上記ビットストリームの伝送時に発生した第1のエラーを検出する第1のエラー検出器と、上記第1の伝送エラー以外の第2のエラーを検出する第2のエラー検出器とを備え、上記第1のエラーが検出されたとき、上記復号画像データを、符号化処理の単位である第1の処理単位で修整し、上記第2のエラーが検出されたとき、上記復号画像データを、1つの同期信号が付与された、上記第1の処理単位を複数含む第2の処理単位で修整するので、上記の動画像復号化方法と同様、エラーが伝送エラーであるかストリームエラーであるかに応じて、復号画像データの修整を適切な処理単位で行うことが可能となり、入力ビットストリームのエラーを検出したときには復号画像データの修整処理を効果的に行って復号画像の画質劣化を大きく低減することができる効果が得られる。
この発明に係る動画像復号化装置によれば、動画像に対応する符号化データと、同期信号とを含むビットストリームに対する復号化処理により復号画像データを生成する復号化器と、上記ビットストリームに含まれるエラーを検出するエラー検出部と、上記ビットストリームが、上記動画像の形状を示す形状情報を有するか否かを判定する形状有無判定部とを備え、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有すると判定されたとき、上記復号画像データの修整を、上記動画像を構成する画面を修整単位として行い、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有していないと判定されたとき、上記復号画像データの修整を、符号化処理の単位領域を1つ以上含む処理領域を修整単位として行うようにしたので、上記の動画像復号化方法と同様、上記ストリームが形状情報を含む場合には、復号画像の修整処理による大きな画質劣化を招くことなく、エラーに起因する画質劣化を排除することができ、しかも、上記ストリームが形状情報を含まない場合には簡単な修整処理によりエラーに起因する画質劣化を排除することができる。
この発明によれば、上記動画像復号化装置において、上記エラー検出部では、上記ビットストリームの伝送時に発生した第1のエラーと、該第1のエラー以外の第2のエラーとを区別して検出し、上記復号画像修整部では、上記第1のエラーが検出され、かつ上記ビットストリームが形状情報を有していないと判定されたとき、上記復号画像データを、符号化処理の単位領域に対応する第1の処理単位で修整し、上記第2のエラーが検出され、かつ上記ビットストリームが形状情報を有していないと判定されたとき、上記復号画像データを、1つの同期信号が付与された、上記第1の処理単位を複数含む第2の処理単位で修整するので、上記の動画像復号化方法と同様、形状を有する復号画像における、伝送エラーあるいはストリームエラーに起因する画質劣化を、復号画像データの修整に伴う画質劣化を抑えつつ排除することができる効果に加えて、ビットストリームが形状情報を有しない場合には、エラーに対する復号画像データの修整処理を、エラーの種類に応じて効果的に行って、復号画像の画質を向上することができる効果が得られる。
この発明に係るプログラム記録媒体によれば、動画像に対応する符号化データと、同期信号とを含むビットストリームに対する処理をコンピュータにより行うためのプログラムとして、上記ビットストリームの復号化処理の際、上記ビットストリームの伝送時に発生した第1のエラーと、該第1のエラー以外の第2のエラーとを区別して検出し、上記第1のエラーが検出されたとき、上記復号画像データを、符号化処理単位である第1の処理単位で修整し、上記第2のエラーが検出されたとき、上記復号画像データを、1つの同期信号が付与された、上記第1の処理単位を複数含む第2の処理単位で修整するプログラムを格納したので、エラーが伝送エラーであるかストリームエラーであるかに応じて復号画像データの修整処理を効果的に行って、復号画像の画質を向上することができる動画像復号化方法を、ソフトウエアにより実現できる。
この発明に係るプログラム記録媒体によれば、動画像に対応する符号化データと、同期信号とを含むビットストリームに対する処理をコンピュータにより行うためのプログラムとして、上記ビットストリームの復号化処理の際、上記ストリームのエラーを検出するとともに、上記ビットストリームが、上記動画像の形状を示す形状情報を有するか否かを判定し、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有すると判定されたとき、上記復号画像データの修整を、上記動画像を構成する画面を修整単位として行い、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有していないと判定されたとき、上記復号画像データの修整を、符号化処理の単位領域を1つ以上含む処理領域を修整単位として行うプログラムを格納したので、上記ビットストリームが形状情報を含む場合には、復号画像の修整処理による大きな画質劣化を招くことなく、エラーに起因する画質劣化を排除することができ、しかも、上記ビットストリームが形状情報を含まない場合には簡単な修整処理によりエラーに起因する画質劣化を排除することができる動画像復号化方法を、ソフトウエアにより実現できる。
以下、本発明の実施の形態について説明する。
実施の形態1.
図1は本発明の実施の形態1による動画像復号化装置を説明するための図であり、図1(a)は該動画像復号化装置の構成を示し、図1(b)は該動画像復号化装置に入力されるVOPビットストリームのデータ構造を示している。
この実施の形態1の動画像復号化装置100aは、画像符号化情報として入力されたビットストリームを復号化して復号画像データを生成する復号化処理を行い、該復号化処理では、伝送エラーを検出したとき上記復号画像データをマクロブロック単位で修整し、伝送エラー以外のストリームエラーを検出したとき上記復号画像データをビデオパケット単位で修整するものである。
実施の形態1.
図1は本発明の実施の形態1による動画像復号化装置を説明するための図であり、図1(a)は該動画像復号化装置の構成を示し、図1(b)は該動画像復号化装置に入力されるVOPビットストリームのデータ構造を示している。
この実施の形態1の動画像復号化装置100aは、画像符号化情報として入力されたビットストリームを復号化して復号画像データを生成する復号化処理を行い、該復号化処理では、伝送エラーを検出したとき上記復号画像データをマクロブロック単位で修整し、伝送エラー以外のストリームエラーを検出したとき上記復号画像データをビデオパケット単位で修整するものである。
ここで、上記ビットストリームを構成する、1つの画像系列の各VOPに対応するVOPビットストリームは、同期信号としての特定ビットパターンの固定長符号(マーカ符号)とこれに続く符号化情報とからなる複数のデータ単位(ビデオパケット)に区分されており、各ビデオパケットの符号化情報には、マクロブロックに対応するデータ単位であるマクロブロック情報が複数含まれている。このようにVOPビットストリームは、ビデオパケットに対応するデータ処理単位(第2の処理単位)、及びマクロブロックに対応するデータ処理単位(第1の処理単位)により区分された、2階層のデータ構造を有している。
以下、詳述すると、この実施の形態1の動画像復号化装置100aは、画像符号化情報として入力されたビットストリーム(以下入力ストリームという。)Vinを構成するVOPビットストリームに対して、可変長復号化処理を含む復号化処理を施す復号化器1と、復号化処理が完了した処理済VOPに対応する復号画像データVoutを一時的に格納し、該格納された復号画像データの一部を、上記復号化処理の際に参照される参照画像データVref及び修整処理に用いられる置換画像データVrepとして出力するメモリ2とを有している。ここで、上記復号化器1及びメモリ2は、従来の動画像復号化装置100及び110における復号化器101及びメモリ102と全く同一の構成となっている。
また、この動画像復号化装置100aは、上記復号化器1からの復号画像データVdと、上記メモリ2からの置換画像データVrepの一方をMB選択制御信号Cmbに基づいて選択し、該選択した画像データをMB選択画像データEmbとして出力するMB選択スイッチ5と、該MB選択画像データEmbを、処理対象となっているビデオパケットの復号化処理に要する時間だけ遅延する第1のVP遅延回路1aと、メモリ2から各マクロブロックの復号化処理に同期して出力される置換画像データVrepを、処理対象となっているビデオパケットの復号化処理に要する時間だけ遅延する第2のVP遅延回路2aと、該第1の遅延回路1aの出力(MB遅延選択データ)DEmb及び第2の遅延回路2aの出力(遅延置換データ)DVrepの一方をVP選択制御信号Cvpに基づいて選択し、選択した画像データをVP選択画像データEvpとして出力するVP選択スイッチ8とを有している。
ここで、上記MB選択スイッチ5は、上記復号化器1からの復号画像データVdが供給される第1入力端子5aと、上記メモリ2からの置換画像データVrepが供給される第2入力端子5bと、上記MB選択画像データEmbを出力するための出力端子5cとを有しており、上記MB選択制御信号Cmbにより、上記第1入力端子5aが出力端子5cに接続された状態と、上記第2入力端子5bが出力端子5cに接続された状態とが切り替えられるようになっている。また、上記VP選択スイッチ8は、上記第1のVP遅延回路1aからのMB遅延選択データDEmbが供給される第1入力端子8aと、上記第2のVP遅延回路2aからの遅延置換データDVrepが供給される第2入力端子8bと、上記VP選択画像データEvpを出力するための出力端子8cとを有しており、上記VP選択制御信号Cvpにより、上記第1入力端子8aが出力端子8cに接続された状態と、上記第2入力端子8bが出力端子8cに接続された状態とが切り替えられるようになっている。
また、この動画像復号化装置100aは、入力ストリームVinの伝送エラーを検出して伝送エラー通知信号Terrを出力する伝送エラー検出器3と、上記伝送エラー検出器3からの伝送エラー通知信号Terr及び上記復号化器1の内部信号Siに基づいて、入力ストリームVinのストリームエラーを検出し、ストリームエラー通知信号Serrを出力するストリームエラー検出器6とを有している。
ここで、上記伝送エラー検出器3は、従来の動画像復号化装置100におけるエラー検出器120と同様、入力ストリームVinにおけるパケット欠落を示すマーカ符号に基づいて、伝送エラーを検出する構成となっている。なお、上記マーカ符号は、この動画像復号化装置100a前段に設けられたエラーチェック部(図示せず)により入力ストリームに挿入されたものである。このエラーチェック部は、入力ストリームのアナログ信号レベルやエラー訂正符号に基づいて、入力ストリームにおける伝送エラーに起因する欠陥個所を特定し、この欠陥個所に上記マーカ符号を挿入するものである。
ここで、上記伝送エラー検出器3は、従来の動画像復号化装置100におけるエラー検出器120と同様、入力ストリームVinにおけるパケット欠落を示すマーカ符号に基づいて、伝送エラーを検出する構成となっている。なお、上記マーカ符号は、この動画像復号化装置100a前段に設けられたエラーチェック部(図示せず)により入力ストリームに挿入されたものである。このエラーチェック部は、入力ストリームのアナログ信号レベルやエラー訂正符号に基づいて、入力ストリームにおける伝送エラーに起因する欠陥個所を特定し、この欠陥個所に上記マーカ符号を挿入するものである。
また、上記ストリームエラー検出器6は、具体的には、上記復号化器1の内部信号Siに基づいて、入力ストリームVinに対する復号化処理の破綻を検出し、かつ伝送エラー通知信号Terrにより伝送エラーが発生していないことを検出したときのみ、上記ストリームエラー通知信号Serrを、ストリームエラーを検出したことを示す信号として出力する構成となっている。なお、ストリームエラー検出器6は、上記復号化処理の破綻に代えて、ビデオパケット内のビットストリームの構造及び内容を厳密に検査し、ビットストリームの異常が検出され、かつ伝送エラーが発生していないことを検出したときのみ、ストリームエラー通知信号Serrを出力する構成としてもよい。
さらに、上記動画像復号化装置100aは、上記伝送エラー通知信号Terrに基づいて、上記MB選択スイッチ5をMB選択制御信号Cmbにより制御して、被処理VOPの復号画像データVdにおける伝送エラーの影響を受けている部分を、マクロブロック単位で、処理済VOPの復号画像データ(置換画像データ)Vrepと置き換えるマクロブロック単位修整器4と、上記ストリームエラー通知信号Serrに基づいて、上記VP選択スイッチ8をVP選択制御信号Cvpにより制御して、被処理VOPの遅延画像データDVdにおけるストリームエラーの影響を受けている部分を、ビデオパケット単位で、処理済VOPの遅延置換データDVrepと置き換えるビデオパケット単位修整器7とを有している。
なお、上記マクロブロック単位修整器4は、図12に示す従来の動画像復号化装置100におけるマクロブロック単位修整器104と同一の構成となっている。
なお、上記マクロブロック単位修整器4は、図12に示す従来の動画像復号化装置100におけるマクロブロック単位修整器104と同一の構成となっている。
次に動作について説明する。
まず本実施の形態1の動画像復号化装置による復号化処理の概略を説明する。
図2は上記実施の形態1の動画像復号化装置による復号化処理のフローを示す図である。
この実施の形態1の動画像復号化装置100aに画像信号の符号化情報としてビットストリーム(入力ストリーム)Vinが入力されると、被処理VOPのストリームに対して、処理済VOPの復号画像データVrefを参照する復号化処理がマクロブロック毎に施されて、各マクロブロックに対応する復号画像データVdが生成される(ステップS1a)。
まず本実施の形態1の動画像復号化装置による復号化処理の概略を説明する。
図2は上記実施の形態1の動画像復号化装置による復号化処理のフローを示す図である。
この実施の形態1の動画像復号化装置100aに画像信号の符号化情報としてビットストリーム(入力ストリーム)Vinが入力されると、被処理VOPのストリームに対して、処理済VOPの復号画像データVrefを参照する復号化処理がマクロブロック毎に施されて、各マクロブロックに対応する復号画像データVdが生成される(ステップS1a)。
次に入力ストリームVinの伝送エラーを検出する処理が行われる(ステップS2a)。
この伝送エラー検出処理により伝送エラーが検出された場合、復号画像データの修整処理がマクロブロック単位に行われる(ステップS3a)。つまり、伝送エラーを含むマクロブロック情報から得られるエラーマクロブロックの復号画像データは、処理済VOPにおける、該エラーマクロブロックに対応するマクロブロックの復号画像データVrepと置き換えられる。一方、上記エラー検出処理の結果、伝送エラーが検出されない場合、入力ストリームVinのストリームエラーを検出する処理が行われる(ステップS4a)。
このストリームエラー検出処理により、ストリームエラーが検出された場合のみ、復号画像データの修整処理がビデオパケット単位で行われる。つまり、ストリームエラーを含むエラービデオパケットに対応する遅延復号データDVdが、該エラービデオパケットに対応する遅延置換データDVrepと置き換えられる(ステップS5a)。
この伝送エラー検出処理により伝送エラーが検出された場合、復号画像データの修整処理がマクロブロック単位に行われる(ステップS3a)。つまり、伝送エラーを含むマクロブロック情報から得られるエラーマクロブロックの復号画像データは、処理済VOPにおける、該エラーマクロブロックに対応するマクロブロックの復号画像データVrepと置き換えられる。一方、上記エラー検出処理の結果、伝送エラーが検出されない場合、入力ストリームVinのストリームエラーを検出する処理が行われる(ステップS4a)。
このストリームエラー検出処理により、ストリームエラーが検出された場合のみ、復号画像データの修整処理がビデオパケット単位で行われる。つまり、ストリームエラーを含むエラービデオパケットに対応する遅延復号データDVdが、該エラービデオパケットに対応する遅延置換データDVrepと置き換えられる(ステップS5a)。
以下、動作について詳しく説明する。
記録媒体から読み出されたビットストリームあるいは伝送媒体を介して送信されてきたビットストリームが入力ストリームVinとして、この動画像復号化装置100aに入力されると、この動画像復号化装置100aでは、復号化器1により入力ストリームVinの復号化処理が、メモリ2からの処理済VOPの復号画像データVrefを参照して行われる。このとき、伝送エラー検出器3では、入力ストリームVinに基づいて伝送エラーの検出が行われ、入力ストリームにおけるマーカ符号が検出されたとき、伝送エラー通知信号Terrがマクロブロック単位修整器4及びストリームエラー検出器6に出力される。
上記マクロブロック単位修整器4では、伝送エラー通知信号Terrに基づいて上記MB選択スイッチ5にMB選択制御信号Cmbが出力される。これにより該MB選択スイッチ5では、復号化器1からの被処理VOPの復号画像データVdとメモリ2からの処理済VOPの復号画像データVrepの一方がマクロブロック毎に選択され、該選択された画像データがMB選択画像データEmbとして出力される。
記録媒体から読み出されたビットストリームあるいは伝送媒体を介して送信されてきたビットストリームが入力ストリームVinとして、この動画像復号化装置100aに入力されると、この動画像復号化装置100aでは、復号化器1により入力ストリームVinの復号化処理が、メモリ2からの処理済VOPの復号画像データVrefを参照して行われる。このとき、伝送エラー検出器3では、入力ストリームVinに基づいて伝送エラーの検出が行われ、入力ストリームにおけるマーカ符号が検出されたとき、伝送エラー通知信号Terrがマクロブロック単位修整器4及びストリームエラー検出器6に出力される。
上記マクロブロック単位修整器4では、伝送エラー通知信号Terrに基づいて上記MB選択スイッチ5にMB選択制御信号Cmbが出力される。これにより該MB選択スイッチ5では、復号化器1からの被処理VOPの復号画像データVdとメモリ2からの処理済VOPの復号画像データVrepの一方がマクロブロック毎に選択され、該選択された画像データがMB選択画像データEmbとして出力される。
具体的には、上記伝送エラーが検出されたときは、VOPビットストリームにおける先頭のマクロブロック情報から、上記マーカ符号を含むエラーマクロブロック情報直前のマクロブロック情報までのマクロブロック情報に対応する復号画像データVdは、上記MB選択スイッチ5により選択され、MB選択画像データEmbとして出力される。そして、上記エラーマクロブロック情報から次の同期信号の手前までのマクロブロック情報に対応する復号画像データVdは、上記MB選択スイッチ5では選択されず、該復号画像データVdに対応する処理済VOPの復号画像データVrepが置換画像データとして上記MB選択スイッチ5にて選択されて、選択されたデータが上記MB選択画像データEmbとして出力される。
以下図1(b)を用いて、上記MB選択スイッチ5の動作をさらに具体的に説明する。ここでは、入力されたVOPビットストリームSvopのk番目のビデオパケットSvp(k)におけるi番目のマクロブロック情報Smb(i)にマーカ符号Cmが含まれている場合、つまりビデオパケットSvp(k)におけるマクロブロック情報Smb(i)に伝送エラーによる欠陥がある場合について説明する。
この場合、k番目のビデオパケットSvp(k)の第1番目のマクロブロック情報Smb(1)から第(i−1)番目のマクロブロック情報Smb(i-1)までの各マクロブロック情報に対応する復号画像データは、上記MB選択スイッチ5にて選択される。第k番目のビデオパケットSvp(k)の第i番目のマクロブロック情報Smb(i)以降のマクロブロック情報に対応する復号画像データは、上記MB選択スイッチ5にて選択されず、該MB選択スイッチ5では、これらのマクロブロックの復号画像データVdに対応する、処理済VOPにおけるマクロブロックの復号画像データVrepが置換画像データとして選択される。ここで、第k番目のビデオパケットSvp(k)の第(i+1)番目のマクロブロック情報は、伝送エラーのために欠落している。また、第k番目のビデオパケットSvp(k)の第(i+2)番目,第(i+3)番目,・・・,第(n)番目のマクロブロック情報Smb(i+2),Smb(i+3),・・・,Smb(n)は、第k番目のビデオパケットSvp(k)の第(i+2)番目,第(i+3)番目,・・・,第(n)番目のマクロブロック情報であり、ここでは、これらのマクロブロック情報Smb(i+2)〜Smb(n)は、伝送エラーなく受信できたものとなっている。但し、第(i+1)番目のマクロブロック情報が正しく復号化できなければ、第(i+2)番目,第(i+3)番目,・・・,第(n)番目のマクロブロック情報も正しく復号化できないため、第(i+1)番目から第(n)番目までの全てのマクロブロック情報に対応する復号画像データVrepが置換画像データにより置き換えられる。
なお、図1(b)中、SvophはVOPビットストリームのヘッダで同期信号が含まれている。また、Svp(1),Svp(k+1),Svp(m)はそれぞれ、VOPビットストリームSvophを構成する、第1番目,第(k+1)番目,最後のビデオパケットであり、Svph(1),Svph(k),Svph(k+1),Svph(m)は、各ビデオパケットSvp(1),Svp(k),Svp(k+1),Svp(m)のヘッダである。
また、ストリームエラー検出器6では、上記伝送エラー検出器3からの伝送エラー通知信号Terrに基づいて、入力ストリームに伝送エラーが含まれているか否かの判定が行われ、復号化器1の内部信号Siにより入力ストリームに対する復号化処理が破綻したか否かが判定される。そして、これらの判定に基づいて、入力ストリームVinのストリームエラーを検出する処理が行われる。
例えば、入力ストリームに対する復号化処理が破綻した場合、上記ストリームエラー検出器6では、上記復号化処理の破綻が復号化器1の内部信号Siにより検出される。そしてこのとき、伝送エラー通知信号Terrにより伝送エラーの検出が通知されておれば、復号化処理の破綻は伝送エラーに起因するものである。従って、この場合は、ストリームエラー通知信号Serrは出力されない。一方、伝送エラー通知信号Terrによる伝送エラーの発生の通知がなければ、復号化処理の破綻はストリームエラーに起因するものである。従って、この場合には、ストリームエラーが入力ストリームに含まれていると判定され、ストリームエラー通知信号Serrがビデオパケット単位修整器7に出力される。
なお、ストリームエラー検出器6では、伝送エラー検出器3が伝送エラーを検出した状態では、伝送エラーを含むビデオパケットに対してはストリームエラーの検出処理は行わないようにしてもよい。
なお、ストリームエラー検出器6では、伝送エラー検出器3が伝送エラーを検出した状態では、伝送エラーを含むビデオパケットに対してはストリームエラーの検出処理は行わないようにしてもよい。
そして、上記ビデオパケット単位修整器7では、ストリームエラー通知信号Serrに基づいて上記VP選択スイッチ8にVP選択制御信号Cvpが出力される。これによりVP選択スイッチ8では、第1のVP遅延回路1aからの被処理VOPの遅延選択データDEmbと、第2のVP遅延回路2aからの処理済VOPの遅延置換データDVrepの一方がビデオパケット毎に選択され、該VP選択スイッチ8からは、VP選択画像データEvpが再生画像データVoutとして出力される。
具体的には、入力ストリームVinにストリームエラーが含まれている場合、VOPビットストリームにおける復号化処理が破綻したエラービデオパケットに対応する遅延復号データDVdは、上記VP選択スイッチ8により選択されず、該遅延復号データDVdに対応する遅延置換データ(処理済VOPのビデオパケットの復号画像データ)DVrepが上記VP選択スイッチ8にて選択され、選択された画像データが上記VP選択画像データEvpとして出力される。一方、VOPストリームにおける、復号化処理が破綻したビデオパケット以外のビデオパケットに対応する遅延復号データDVdは、上記VP選択スイッチ8により選択され、選択された画像データがVP選択画像データEvpとして出力される。
そして、このVP選択画像データEvpは、再生画像データVoutとして出力されるとともに、被処理VOPに続く後続VOPに対する参照画像データとして上記メモリ2に格納される。
このように本実施の形態1では、入力ストリームをマクロブロック毎に復号化して復号画像データを生成する復号化器1と、入力ストリームに含まれる伝送エラーを検出する伝送エラー検出器3と、入力ストリームに含まれるストリームエラーを検出するストリームエラー検出器6とを備え、伝送エラーの影響を受けるマクロブロックの復号画像データを、処理済VOPの対応するマクロブロックの復号画像データと置き換え、ストリームエラーを含むビデオパケットに対応する復号画像データを、処理済VOPにおける対応するビデオパケットの復号画像データと置き換えるようにしたので、伝送エラーに対する復号画像データの修整がマクロブロック単位で行われ、ストリームエラーに対する復号画像データの修整がビデオパケット単位で行われることとなる。
これにより、伝送エラーが発生した場合には、伝送エラーの影響を受けるマクロブロックの復号画像データのみが修整されることとなり、伝送エラーの影響を受けていないマクロブロックの復号画像データを修整することによる復号画像の画質劣化を回避できる。また、ストリームエラーが発生した場合には、ストリームエラーが含まれるビデオパケットに対応するすべてのマクロブロックの復号画像データが修整されることとなり、ストリームエラーの影響を受けているマクロブロックの復号画像データが出力されることによる復号画像の画質劣化を防止することができる。この結果、入力ストリームに含まれるエラーに対する復号画像データの修整処理を効果的に行って、復号画像の画質を向上することができる
なお、上記実施の形態1では、入力ストリームが2階層のデータ構造を有する場合、つまり入力ストリームを構成するVOPビットストリームがビデオパケット単位で区分され、さらにビデオパケットが符号化処理の単位であるマクロブロックを単位として区分されている場合について説明したが、入力ストリームの2階層データ構造は上記実施の形態1のものに限らない。
例えば、上記入力ストリームは、VOPビットストリームがビデオパケットを単位として区分され、さらにビデオパケットが、上記マクロブロックではなく、符号化処理の最小単位であるブロック(8×8画素)を単位として区分されているデータ構造を有するものであってもよい。この場合、伝送エラーに対する復号画像データの修整は、ブロック単位で行うことにより、上記実施の形態1と同様な効果が得られる。
このように、上記入力ストリームの2階層データ構造は、画像系列の1画面(VOP)に対応するVOPビットストリームが、同期信号とこれに続く符号化情報からなるデータ単位毎に区分され、このデータ単位が、VOPを区画する、符号化処理の単位となる領域に対応するよう区分されたデータ構造であれば、どのような2階層のデータ構造であってもよい。この場合、伝送エラーに対する復号画像データの修整を、符号化処理の単位に相当するデータ単位(第1の処理単位)で行い、ストリームエラーに対する復号画像データの修整を、上記同期信号を含むデータ単位(第2の処理単位)で行うことにより、上記実施の形態1と同様の効果が得られる。
さらに、上記実施の形態1では、入力ストリームとして2階層のデータ構造を有するものを示したが、入力ストリームにおけるデータの階層構造は、3階層以上のデータ構造であってもよく、入力ストリームが、同期信号とこれに続く符号化情報からなるデータ単位(第2の処理単位)毎に区分され、このデータ単位が、符号化処理の単位に相当するデータ単位(第1の処理単位)に対応するよう区分されているものであれば、どのような多階層のデータ構造を有するものでもよい。
また、上記実施の形態1では、ビデオパケットを区分するデータ単位(第1の処理単位)に相当するマクロブロックを16×16画素からなる画像空間として説明したが、マクロブロックを構成する水平方向及び垂直方向の画素数は動画像の符号化方法に応じて変更してもよい。
実施の形態2.
図3は本発明の実施の形態2による動画像復号化装置を説明するためのブロック図である。
この実施の形態2の動画像復号化装置100bは、形状を有しない物体に対応するビットストリームの復号化処理では、上記実施の形態1と同様、伝送エラーを検出したとき復号画像データの修整をマクロブロック単位で行い、またストリームエラーを検出したとき復号画像データの修整をビデオパケット単位で行い、形状を有する物体に対応するビットストリームの復号化処理では、エラーを検出したときには、復号画像データをVOP単位で修整するようにしたものである。
この実施の形態2の動画像復号化装置100bは、上記実施の形態1の動画像復号化装置100aの構成に加えて、上記VOP単位での復号画像データの修整を行うための回路構成を備えたものである。
図3は本発明の実施の形態2による動画像復号化装置を説明するためのブロック図である。
この実施の形態2の動画像復号化装置100bは、形状を有しない物体に対応するビットストリームの復号化処理では、上記実施の形態1と同様、伝送エラーを検出したとき復号画像データの修整をマクロブロック単位で行い、またストリームエラーを検出したとき復号画像データの修整をビデオパケット単位で行い、形状を有する物体に対応するビットストリームの復号化処理では、エラーを検出したときには、復号画像データをVOP単位で修整するようにしたものである。
この実施の形態2の動画像復号化装置100bは、上記実施の形態1の動画像復号化装置100aの構成に加えて、上記VOP単位での復号画像データの修整を行うための回路構成を備えたものである。
以下詳述すると、この実施の形態2の動画像復号化装置100bは、上記実施の形態1と同様、上記復号化器1,メモリ2,検出器3及び6,修整器4及び7,選択スイッチ5及び8,遅延回路1a及び2aを有している。
そして、この実施の形態2の動画像復号化装置100bは、上記伝送エラー検出器3からの伝送エラー通知信号Terrとストリームエラー検出器6からのストリームエラー通知信号Serrとの論理和演算により、入力ストリームに伝送エラーあるいはストリームエラーが含まれていることを示すエラー検出信号TSerrを出力する論理和回路9と、入力ストリームVinに基づいて、該入力ストリームが形状情報を有するか否かを判定し、この判定結果に応じて形状有無通知信号Sdetを出力する形状有無検出器10とを有している。
そして、この実施の形態2の動画像復号化装置100bは、上記伝送エラー検出器3からの伝送エラー通知信号Terrとストリームエラー検出器6からのストリームエラー通知信号Serrとの論理和演算により、入力ストリームに伝送エラーあるいはストリームエラーが含まれていることを示すエラー検出信号TSerrを出力する論理和回路9と、入力ストリームVinに基づいて、該入力ストリームが形状情報を有するか否かを判定し、この判定結果に応じて形状有無通知信号Sdetを出力する形状有無検出器10とを有している。
また、この動画像復号化装置100bは、上記VP選択スイッチ8から出力されるVP選択画像データEvpを、処理対象となっている被処理VOPの復号化処理に要する時間だけ遅延してVOP遅延選択データDEvpを出力する第1のVOP遅延回路1bと、上記第2のVP遅延回路2aから出力されたVP遅延置換データ(第1の遅延置換データ)DVrep1を、1VOPの復号化処理に要する時間だけ遅延してVOP遅延置換データ(第2の遅延置換データ)DVrep2を出力する第2のVOP遅延回路2bとを有している。
さらに、この動画像復号化装置100bは、上記第1のVOP遅延回路1bからのVOP遅延選択データDEvpと、第2のVOP遅延回路2bからのVOP遅延置換データDVrep2の一方を、VOP選択制御信号Cvopに基づいて選択し、選択した画像データをVOP選択画像データEvopとして出力するVOP選択スイッチ13と、上記エラー検出信号TSerrと形状有無通知信号Sdetとの論理積演算により、形状情報を有する入力ストリームにエラーが含まれていることを示すストリーム情報Istrを出力する論理積回路11と、該ストリーム情報Istrに基づいて、形状情報を有する入力ストリームに含まれるエラーが検出されたとき、上記第1のVOP遅延回路1bからのVOP遅延選択データDEvpが、VOP単位で修整されるよう、上記VOP選択スイッチ13を制御するVOP単位修整器12とを有している。
ここで、上記VOP選択スイッチ13は、上記第1のVOP遅延回路1bからのVOP遅延選択データDEvpが供給される第1入力端子13aと、上記第2のVOP遅延回路2bからのVOP遅延置換データDVrep2が供給される第2入力端子13bと、上記VOP選択画像データEvopを出力するための出力端子13cとを有しており、上記VOP選択制御信号Cvopにより、上記第1入力端子13aが出力端子13cに接続された状態と、上記第2入力端子13bが出力端子13cに接続された状態とが切り替えられるようになっている。
次に作用効果について説明する。
まず、本発明の実施の形態2の基本原理について説明する。
通常、物体の形状情報を有する復号画像データを、マクロブロック単位あるいはビデオパケット単位で修整すると、画面内における物体形状の連続性が損われる。このため、ビットストリームが形状情報を有する場合には、エラーを含むビットストリームに対応する復号画像データを、マクロブロック単位あるいはビデオパケット単位で修整するよりも、VOP単位で修整する方が、視覚的に好ましい復号画像が得られる場合が多い。
まず、本発明の実施の形態2の基本原理について説明する。
通常、物体の形状情報を有する復号画像データを、マクロブロック単位あるいはビデオパケット単位で修整すると、画面内における物体形状の連続性が損われる。このため、ビットストリームが形状情報を有する場合には、エラーを含むビットストリームに対応する復号画像データを、マクロブロック単位あるいはビデオパケット単位で修整するよりも、VOP単位で修整する方が、視覚的に好ましい復号画像が得られる場合が多い。
一方、形状情報を有しない画像では、形状の時間的な変化が少なくしかも画素値の画面間相関が強い場合が多いので、復号画像データの修整を、処理済VOPの復号画像データを用いて、マクロブロック単位もしくはビデオパケット単位で行うことが好ましい。
そこで、本実施の形態2では、入力ストリームVinに基づいて、入力ストリームが形状情報を有するか否かを判定し、入力ストリームが形状情報を有する場合は、その復号画像データに対してVOP単位の修整処理を施し、入力ストリームが形状情報を有しない場合は、その復号画像データに対しては、マクロブロック単位もしくはビデオパケット単位で修整処理を施すようにしている。
まず、本実施の形態2に係る動画像復号化装置による復号化処理の概略を説明する。
図4はこの本実施の形態2の動画像復号化装置による復号化処理の流れを示す図である。
この実施の形態2の動画像復号化装置100bに、動画像に対応する符号化情報を含むビットストリームが入力ストリームVinとして入力されると、復号化器1では、入力ストリームにおける被処理VOPに対応する符号化情報(被処理VOPビットストリーム)をマクロブロック毎に復号化する処理が順次行われる(ステップS1b)。
図4はこの本実施の形態2の動画像復号化装置による復号化処理の流れを示す図である。
この実施の形態2の動画像復号化装置100bに、動画像に対応する符号化情報を含むビットストリームが入力ストリームVinとして入力されると、復号化器1では、入力ストリームにおける被処理VOPに対応する符号化情報(被処理VOPビットストリーム)をマクロブロック毎に復号化する処理が順次行われる(ステップS1b)。
次に、上記入力ストリームVinが形状信号を含むものであるか否かが形状有無検出器10にて判定される(ステップS2b)。この判定の結果、上記入力ストリームVinが形状情報を含まないビットストリームである場合は、上記実施の形態1におけるステップS2aないしS5aの処理と同様の処理が、それぞれ対応するステップS3bないしS6bにて行われる。一方、上記入力ストリームが形状情報を含むビットストリームである場合、入力ストリームVinに伝送エラーが含まれているか否かの判定(ステップS7b)及び入力ストリームVinにストリームエラーが含まれているか否かの判定(ステップS8b)が行われる。
そして、上記入力ストリームVinに伝送エラーとストリームエラーのいずれかが含まれている場合には、入力ストリームVinの復号化処理により得られる復号画像データをVOP単位で修整する処理が行われる(ステップS9b)。
具体的には、この被処理VOPビットストリームにエラーが含まれている場合には、この被処理VOPビットストリームの復号化処理により得られる復号画像データDEvpが、処理済VOPに対応する復号画像データDVrep2と置き換えられ、復号画像データDVrep2が再生画像データVoutとしてこの動画像復号化装置100bから出力される。
一方、ステップS7b及びステップS8bでの判定の結果、入力ストリームVinのエラーが検出されない場合には、この被処理VOPビットストリームの復号化処理により得られる復号画像データVdが、再生画像データVoutとしてこの動画像復号化装置100bから出力される。
以下、動作について詳しく説明する。
上記実施の形態1の動画像復号化装置100aと同様の入力ストリームVinが、この実施の形態2の動画像復号化装置100bに入力されると、この動画像復号化装置100bでは、復号化器1により入力ストリームVinの復号化処理、エラー検出器3による伝送エラーの検出、及びエラー検出器6によるストリームエラーの検出が行われる。
上記実施の形態1の動画像復号化装置100aと同様の入力ストリームVinが、この実施の形態2の動画像復号化装置100bに入力されると、この動画像復号化装置100bでは、復号化器1により入力ストリームVinの復号化処理、エラー検出器3による伝送エラーの検出、及びエラー検出器6によるストリームエラーの検出が行われる。
このとき、復号化器1では、入力ストリームVinに対する復号化処理がマクロブロック毎に行われ、復号画像データVdがマクロブロック毎に出力される。また、メモリ2からは、復号化器1にて処理対象となる被処理VOPにおけるマクロブロックに対応する、処理済VOPにおけるマクロブロックの復号画像データ(置換画像データ)Vrepが、上記被処理VOPの各マクロブロックの復号画像データVdと同期して出力される。さらに、マクロブロック単位修整器4には上記エラー検出器3からの伝送エラー通知信号Terrが、ビデオパケット単位修整器6には上記エラー検出器6からのストリームエラー通知信号Serrが出力され、論理和回路9には、上記伝送エラー通知信号Terr及びストリームエラー通知信号Serrが出力される。
また、形状有無検出器10では、上記入力ストリームVinに基づいて、該入力ストリームVinに形状情報が含まれているか否かが判定され、判定結果を示す形状有無通知信号Sdetが論理積回路11に出力される。
通常、形状情報を含むVOPビットストリームでは、そのシーケンスヘッダ等に形状情報を含むことを示すフラグ情報等が付加されているため、このフラグ情報に基づいて形状情報が含まれるか否かの判定が行われる。
すると、MB選択スイッチ5の開閉制御がマクロブロック単位修整器4により行われ、VP選択スイッチ8の開閉制御がビデオパケット単位修整器6により行われる。また、論理和回路9では、伝送エラー通知信号Terr及びストリームエラー通知信号Serrの論理和演算により、入力ストリームに伝送エラー及びストリームエラーのいずれかが含まれていることを示すエラー通知信号TSerrが上記論理積回路11に出力される。
この論理積回路11では、エラー通知信号TSerr及び上記形状有無通知信号Sdetの論理積演算により、入力ストリームが形状情報を有するビットストリームであってエラーを含んでいることを示すストリーム情報IstrがVOP単位修整器12に出力される。
そして、MB選択スイッチ5では、マクロブロック単位修整器4からのMB選択制御信号Cmbに基づいて、上記復号画像データVdと置換画像データVrepの一方が選択され、選択された画像データがMB選択画像データEmbとして出力される。
上記MB選択スイッチ5からのMB選択画像データEmb及びメモリ2からの置換画像データVrepはそれぞれ、第1,第2のVP遅延回路1a,2aにて、被処理ビデオパケットに対応する復号化処理時間だけ遅延され、VP遅延選択データDEmb,VP遅延置換データ(第1の遅延置換データ)DVref1として出力される。
さらに、VP選択スイッチ8では、ビデオパケット単位修整器7からのVP選択制御信号Cvpに基づいて、上記VP遅延選択データDEmbとVP遅延置換データDVrep1の一方が選択され、選択された遅延データがVP選択画像データEvpとして出力される。
上記VP選択スイッチ8からのVP選択画像データEvp及び第2のVP遅延回路2aからのVP遅延置換データDVrep1はそれぞれ、第1,第2のVOP単位遅延回路1b,2bにて、被処理VOPに対応する復号化処理時間だけ遅延され、VOP遅延選択データDEvp,VOP遅延置換データ(第2の遅延置換データ)DVrep2として出力される。
そして、VOP選択スイッチ13では、VOP単位修整器12からのVOP選択制御信号Cvopに基づいて、上記VOP遅延選択データDEvpとVOP遅延置換データDVrep2の一方が選択され、選択された遅延データがVOP選択画像データEvopとして出力される。このVOP選択画像データEvopは、上記メモリ2に格納されるとともに、再生画像データVoutとして出力される。
具体的には、上記VOP選択スイッチ13は、入力ストリームが形状情報を含まないものである場合、もしくは入力ストリームにエラーが含まれていない場合には、第1のVOP遅延回路1bからのVP遅延選択データEvpがそのまま出力され、入力ストリームが形状情報を有し、かつエラーが含まれている場合には、第1のVOP遅延回路1bからのVP遅延選択データEvpが、第2のVOP遅延回路2bからのVOP遅延置換データDVrep2により置き換えられるよう、VOP単位修整器12により制御される。
このように本実施の形態2では、上記実施の形態1の構成に加えて、入力ストリームVinが形状情報を有するものであるか否かを判定する形状有無検出器10を備え、入力ストリームVinが形状情報を有する場合には、入力ストリームVinに伝送エラーあるいはストリームエラーが含まれているとき、該入力ストリームVinの復号化処理により得られた復号画像データを、VOP単位で修整し、一方、上記入力ストリームVinが形状情報を有していないときには、上記実施の形態1と同様に入力ストリームVinに含まれるエラーの種類に応じて、マクロブロック単位もしくはビデオパケット単位で復号画像データの修整を行うようにしたので、上記実施の形態1の効果だけでなく、形状情報を有する入力ストリームVinから得られる復号画像における、エラーに起因する画質劣化を、復号画像データの修整に伴う画質劣化を抑えつつ排除することができる効果が得られる。
なお、上記実施の形態1及び2では、伝送エラー検出器3として、ビットストリームに挿入されているパケット欠落を示すマーク(マーカ符号)を検出することにより伝送エラーを検出する構成のものを示したが、上記伝送エラー検出器は、伝送システムから別の方法で、入力ストリームにおける伝送エラー発生位置に関する情報を取得して、伝送エラー通知信号Terrを出力する構成のものでもよい。
実施の形態3.
図5は本発明の実施の形態3による動画像復号化装置を説明するためのブロック図である。
この実施の形態3の動画像復号化装置100cは、形状を有しない物体に対応するビットストリームの復号化処理では、入力ストリームのエラーを検出したとき、復号画像データをビデオパケット単位で修整し、形状を有する物体に対応するビットストリームの復号化処理では、入力ストリームのエラーを検出したとき、復号画像データをVOP単位で修整するようにしたものである。
図5は本発明の実施の形態3による動画像復号化装置を説明するためのブロック図である。
この実施の形態3の動画像復号化装置100cは、形状を有しない物体に対応するビットストリームの復号化処理では、入力ストリームのエラーを検出したとき、復号画像データをビデオパケット単位で修整し、形状を有する物体に対応するビットストリームの復号化処理では、入力ストリームのエラーを検出したとき、復号画像データをVOP単位で修整するようにしたものである。
この実施の形態3の動画像復号化装置100cは、上記実施の形態2の動画像復号化装置100bと同様、上記復号化器1と、メモリ2と、修整器7及び12と、遅延回路1a,2a,1b,2bと、選択スイッチ8及び13と、論理積回路11と、形状有無検出器10とを有している。
そして、この動画像復号化装置100cは、上記実施の形態2の動画像復号化装置100bにおける伝送エラー検出器3,ストリームエラー検出器6,論理和回路9に代えて、入力ストリームVin及び復号化器1の内部信号Siに基づいて伝送エラー及びストリームエラーを検出する処理を行い、いずれかのエラーが検出されたときエラー通知信号Aerrを出力するエラー検出器18を備えている。
また、この動画像復号化装置100cでは、上記ビデオパケット単位修整器7には該エラー通知信号Aerrが入力され、上記論理積回路11には該エラー通知信号Aerrが上記形状有無検出器10からの形状有無通知信号Sdetとともに入力されるようになっている。
さらに、この動画像復号化装置100cでは、上記実施の形態2の動画像復号化装置100bにおけるマクロブロック単位修整器4及びMB選択スイッチ5が省略されており、上記復号化器1の出力Vdが直接第1のVP遅延回路1aに入力されるようになっている。
次に作用効果について説明する。
上記実施の形態2では、形状を有しない物体に対応するビットストリームの復号化処理では、伝送エラーが検出されたときの修整処理をマクロブロック単位で行い、ストリームエラーが検出されたときの修整処理をビデオパケット単位で行うようにしているが、ビデオパケットに対応するマクロブロック数が少ない場合、つまりビデオパケットに含まれるマクロブロック情報の個数が少ない場合には、形状情報を有していない復号画像データに対する修整処理を常にビデオパケット単位で行うようにしても、復号画像における修整処理に伴う画質の劣化が少ない。
上記実施の形態2では、形状を有しない物体に対応するビットストリームの復号化処理では、伝送エラーが検出されたときの修整処理をマクロブロック単位で行い、ストリームエラーが検出されたときの修整処理をビデオパケット単位で行うようにしているが、ビデオパケットに対応するマクロブロック数が少ない場合、つまりビデオパケットに含まれるマクロブロック情報の個数が少ない場合には、形状情報を有していない復号画像データに対する修整処理を常にビデオパケット単位で行うようにしても、復号画像における修整処理に伴う画質の劣化が少ない。
また、復号画像データに対するマクロブロック単位の修整処理を省略することにより、修整処理を簡単化することができる。
そこで、本実施の形態3では、上記実施の形態2とは異なり、入力ストリームが形状情報を有していない場合には、入力ストリームのエラーとして伝送エラーとストリームエラーのいずれのエラーが検出されたときでも、復号画像に対する修整処理をビデオパケット単位で行うようにしている。
そこで、本実施の形態3では、上記実施の形態2とは異なり、入力ストリームが形状情報を有していない場合には、入力ストリームのエラーとして伝送エラーとストリームエラーのいずれのエラーが検出されたときでも、復号画像に対する修整処理をビデオパケット単位で行うようにしている。
まず、本実施の形態3の動画像復号化装置による復号化処理の概略を説明する。
図6はこの本実施の形態3の動画像復号化装置による復号化処理の流れを示す図である。
動画像に対応する符号化情報を含むビットストリームがこの動画像復号化装置100cに入力ストリームVinとして入力されると、復号化器1では、入力ストリームにおける被処理VOPに対応する部分(被処理VOPビットストリーム)をマクロブロック毎に復号化する処理が順次行われる(ステップS1c)。
図6はこの本実施の形態3の動画像復号化装置による復号化処理の流れを示す図である。
動画像に対応する符号化情報を含むビットストリームがこの動画像復号化装置100cに入力ストリームVinとして入力されると、復号化器1では、入力ストリームにおける被処理VOPに対応する部分(被処理VOPビットストリーム)をマクロブロック毎に復号化する処理が順次行われる(ステップS1c)。
次に、上記入力ストリームVinが形状信号を含むものであるか否かが形状有無検出器10にて判定される(ステップS2c)。
この判定の結果、上記入力ストリームVinが形状情報を含まないビットストリームである場合は、入力ストリームVinのエラーを検出する処理が、エラー検出器18にて行われる(ステップS3c)。そして、上記入力ストリームVinのエラーが検出されたときには、入力ストリームVinの復号化処理により得られる復号画像データをビデオパケット単位で修整する処理が行われる(ステップS4c)。
この判定の結果、上記入力ストリームVinが形状情報を含まないビットストリームである場合は、入力ストリームVinのエラーを検出する処理が、エラー検出器18にて行われる(ステップS3c)。そして、上記入力ストリームVinのエラーが検出されたときには、入力ストリームVinの復号化処理により得られる復号画像データをビデオパケット単位で修整する処理が行われる(ステップS4c)。
一方、上記ステップS2cでの判定の結果、上記入力ストリームが形状情報を含むビットストリームである場合、入力ストリームVinの伝送エラーを検出する処理が上記エラー検出器18にて行われる(ステップS5c)。そして、上記入力ストリームVinのエラーが検出されたときには、入力ストリームVinの復号化処理により得られる復号画像データをVOP単位で修整する処理が行われる(ステップS6c)。
上記ステップS3c及びステップS6cでの判定の結果、入力ストリームVinのエラーが検出されない場合には、被処理VOPストリームの復号化処理により得られた復号画像データVdが、再生画像データVoutとしてこの動画像復号化装置100cから出力される。
以下、動作について詳しく説明する。
上記実施の形態1の動画像復号化装置100aと同様の入力ストリームVinが、この実施の形態3の動画像復号化装置100cに入力されると、この動画像復号化装置100cでは、形状有無検出器10により実施の形態2と同様、入力ストリームVinが形状情報を含むか否かを検出する処理が行われ、形状有無通知信号Sdetが出力される。また、この動画像復号化装置100cの復号化器1では、実施の形態2と同様に、入力ストリームVinの復号化処理が行われ、被処理VOPに対応する復号画像データが各マクロブロック毎に出力される。このとき、メモリ2からは、復号化器1にて処理対象となる被処理VOPにおけるマクロブロックに対応する、処理済VOPにおけるマクロブロックの復号画像データ(置換画像データ)Vrepが、上記被処理VOPの各マクロブロックの復号画像データVdと同期して出力される。
上記実施の形態1の動画像復号化装置100aと同様の入力ストリームVinが、この実施の形態3の動画像復号化装置100cに入力されると、この動画像復号化装置100cでは、形状有無検出器10により実施の形態2と同様、入力ストリームVinが形状情報を含むか否かを検出する処理が行われ、形状有無通知信号Sdetが出力される。また、この動画像復号化装置100cの復号化器1では、実施の形態2と同様に、入力ストリームVinの復号化処理が行われ、被処理VOPに対応する復号画像データが各マクロブロック毎に出力される。このとき、メモリ2からは、復号化器1にて処理対象となる被処理VOPにおけるマクロブロックに対応する、処理済VOPにおけるマクロブロックの復号画像データ(置換画像データ)Vrepが、上記被処理VOPの各マクロブロックの復号画像データVdと同期して出力される。
そして、この実施の形態3のエラー検出器18では、上記入力ストリームVin及び復号化器1の内部信号Siに基づいて、入力ストリームVinのエラーを検出する処理が行われ、エラーが検出されたときエラー通知信号Aerrがビデオパケット単位修整器7及び論理積回路11に出力される。この論理積回路11では、エラー通知信号Aerr及び上記形状有無通知信号Sdetの論理積演算が行われれ、入力ストリームが形状情報を有するビットストリームであってエラーを含んでいることを示すストリーム情報IstrがVOP単位修整器12に出力される。
また、上記復号化器1からの復号画像データVd及びメモリ2からの置換画像データVrepはそれぞれ、第1,第2のVP単位遅延回路1a,2aにて、被処理ビデオパケットに対応する復号化処理時間だけ遅延され、VP遅延復号データDVd,VP遅延置換データDVrep1として出力される。
上記VP選択スイッチ8では、ビデオパケット単位修整器7からのVP選択制御信号Cvpに基づいて、上記VP遅延復号データDVdとVP遅延置換データDVrep1の一方が選択され、選択された遅延データがVP選択画像データEvpとして出力される。
さらに、上記VP選択スイッチ8からのVP選択画像データEvp及び第2のVP遅延回路2aからのVP遅延置換データVrep1はそれぞれ、第1,第2のVOP遅延回路1b,2bにて、被処理VOPに対応する復号化処理時間だけ遅延され、VOP遅延選択データDEvp,VOP遅延置換データDVrep2として出力される。
そして、VOP選択スイッチ13では、VOP単位修整器12からのVOP選択制御信号Cvopに基づいて、上記VOP遅延選択データDEvpとVOP遅延置換データDVrep2の一方が選択され、選択された遅延データがVOP遅延選択データEvopとして出力される。このVOP遅延選択データEvopは、上記メモリ2に格納されるとともに、再生画像データVoutとして出力される。
ここで、上記VOP選択スイッチ13は、入力ストリームが形状情報を含まないものと判定されたとき、もしくは入力ストリームのエラーが検出されないときには、第1のVOP遅延回路1bからのVOP遅延選択データDEvpがそのまま出力され、入力ストリームが形状情報を有するものと判定され、かつ入力ストリームのエラーが検出されたときには、第1のVOP遅延回路1bからのVOP遅延選択データDEvpが、第2のVOP遅延回路2bからのVOP遅延置換データDVrep2により置き換えられるよう、VOP単位修整器12により制御される。
このように本実施の形態3では、形状情報を含む入力ストリームVinの復号化処理により得られる復号画像データに対してはVOP単位で復号画像の修整処理を施し、形状情報を含まない入力ストリームVinの復号化処理により得られる復号画像データに対しては、ビデオパケット単位で復号画像の修整処理を施すようにしたので、入力ストリームVinが形状情報を含む場合には、復号画像の修整処理による大きな画質劣化を招くことなく、エラーに起因する画質劣化を排除することができ、しかも、入力ストリームVinが形状情報を含まない場合には簡単な修整処理によりエラーに起因する画質劣化を排除することができる。
なお、上記実施の形態3では、入力ストリームVinが形状情報を含まない場合、ビデオパケット単位で復号画像の修整を行うようにしたものについて説明したが、入力ストリームVinが形状情報を含まない場合の復号画像の修整処理は、マクロブロック単位で行うようにしてもよい。
また、上記実施の形態3では、エラー検出器18を、伝送エラーとストリームエラーの両方を検出する構成としているが、上記エラー検出器は、伝送エラーとストリームエラのいずれか一方のみを検出する構成としてもよい。
また、上記実施の形態2及び3では、マクロブロック単位の画像修整やビデオパケット単位の画像修整を行った後にVOP単位の画像修整を行うようにしているが、VOP単位の画像修整をマクロブロック単位の画像修整やビデオパケット単位の画像修整よりも先に行うようにしてもよい。
さらに、上記各実施の形態では、復号画像の具体的な修整処理として、復号化処理の対象となる被処理VOPに対応する復号画像データを、該被処理VOPより以前に復号化処理が完了した処理済VOPの復号画像データにより置換する処理を示したが、復号画像の修整処理は上記各実施の形態におけるものに限らない。
例えば、上記復号画像の修整処理は、上記のように被処理VOPの復号画像データを、処理済VOPの復号画像データに動き補償処理を施して得られる参照画像データにより置き換えることにより行ってもよい。また、上記復号画像の修整処理は、被処理VOPの復号画像データに対して画面内の内挿補間処理を施すことにより行ってもよい。
また、上記各実施の形態では、符号化処理及び復号化処理としてMPEG−4規格対応のものを示したが、上記符号化処理及び復号化処理は、MPEG−4規格対応以外のものであってもよい。
またさらに、上記各実施の形態の動画像復号化処理をコンピュータにより行うための動画像復号化プログラムを、フレキシブルディスク等のデータ記憶媒体に記録するようにすることにより、上記各実施の形態の動画像復号化処理を、独立したコンピュータシステムにおいて簡単に行うすることが可能となる。
図7は、上記各実施の形態における動画像復号化処理を、上記動画像復号化プログラムを格納したフレキシブルディスクを用いて、コンピュータシステムにより実施する場合を説明するための図である。
図7(a)は、フレキシブルディスクの正面からみた外観、断面構造、及びフレキシブルディスク本体を示し、図7(b)は、該フレキシブルディスク本体の物理フォーマットの例を示している。
上記フレキシブルディスクFDは、上記フレキシブルディスク本体DをフレキシブルディスクケースFC内に収容した構造となっており、該フレキシブルディスク本体Dの表面には、同心円状に外周からは内周に向かって複数のトラックTrが形成され、各トラックTrは角度方向に16のセクタSeに分割されている。従って、上記プログラムを格納したフレキシブルディスクFDでは、上記フレキシブルディスク本体Dは、その上に割り当てられた領域(セクタ)Seに、上記プログラムとしてのデータが記録されたものとなっている。
また、図7(c)は、フレキシブルディスクFDに対する上記動画像復号化プログラムの記録、及びフレキシブルディスクFDに格納した動画像復号化プログラムを用いたソフトウエアによる動画像復号化処理を行うためのシステム構成を示している。
上記動画像復号化プログラムをフレキシブルディスクFDに記録する場合は、コンピュータシステムCsから上記動画像復号化プログラムとしてのデータを、フレキシブルディスクドライブFDDを介してフレキシブルディスクFDに書き込む。また、フレキシブルディスクFDに記録されたプログラムにより、上記動画像復号化装置をコンピュータシステムCs中に構築する場合は、フレキシブルディスクドライブFDDによりプログラムをフレキシブルディスクFDから読み出し、コンピュータシステムCsにロードする。
なお、上記図7では、プログラムの記憶媒体としてフレキシブルディスクを示したが、プログラムの記録媒体として光ディスクを用いてもよく、この場合も上記フレキシブルディスクの場合と同様にソフトウェアによる動画像復号化処理を行うことができる。さらに、上記プログラム記憶媒体は上記光ディスクやフレキシブルディスクに限るものではなく、ICカード、ROMカセット等、プログラムを記録できるものであればどのようなものでもよく、これらのデータ記録媒体を用いる場合でも、上記フレキシブルディスク等を用いる場合と同様にソフトウェアによる各実施の形態の動画像復号化処理を実施することができる。
本発明は、入力ストリームの復号化処理により得られる復号画像における、伝送エラーやストリームエラーに起因する画質劣化を、復号画像の修整処理により効果的に改善することができるものであり、符号化された画像データの復号化処理を行う上で有用なものである。
1 復号化器
1a,2a 第1,第2のVP遅延回路
1b,2b 第1,第2のVOP遅延回路
2 メモリ
3 伝送エラー検出器
4 マクロブロック単位修整器
5 MB選択スイッチ
6 ストリームエラー検出器
7 ビデオパケット単位修整器
8 VP選択スイッチ
9 論理和回路
10 形状有無検出器
11 論理積回路
12 VOP単位修整器
13 VOP選択スイッチ
18 エラー検出器
100a,100b,100c 動画像復号化装置
Aerr,TSerr エラー通知信号
Cm マーカ符号
Cmb MB単位置換制御信号
Cs コンピュータシステム
Cvp VP単位置換制御信号
Cvop VOP単位置換制御信号
D フレキシブルディスク本体
DEmb VP遅延選択データ
DVd VP遅延復号データ
DVref1 VP遅延置換データ
DEvp VOP遅延選択データ
DVref2 VOP遅延置換データ
Emb MB単位選択画像データ
Evp VP単位選択画像データ
Evop VOP単位選択画像データ
FC フレキシブルディスクケース
FD フレキシブルディスク
FDD フレキシブルディスクドライブ
Se セクタ
Serr ストリームエラー通知信号
Smb(1),Smb(i-1),Smb(i),Svp(i+1),Svp(m) ビデオパケット
Svop VOPビットストリーム
Svp(1),Svp(k),Svp(k+1),Svp(m) VOPビットストリーム
Svph(1),Svph(k),Svph(k+1),Svph(m) VOPヘッダ
Terr 伝送エラー通知信号
Tr トラック
Vd 復号画像データ
Vin 入力ストリーム
Vref 参照画像データ
Vrep 置換画像データ
1a,2a 第1,第2のVP遅延回路
1b,2b 第1,第2のVOP遅延回路
2 メモリ
3 伝送エラー検出器
4 マクロブロック単位修整器
5 MB選択スイッチ
6 ストリームエラー検出器
7 ビデオパケット単位修整器
8 VP選択スイッチ
9 論理和回路
10 形状有無検出器
11 論理積回路
12 VOP単位修整器
13 VOP選択スイッチ
18 エラー検出器
100a,100b,100c 動画像復号化装置
Aerr,TSerr エラー通知信号
Cm マーカ符号
Cmb MB単位置換制御信号
Cs コンピュータシステム
Cvp VP単位置換制御信号
Cvop VOP単位置換制御信号
D フレキシブルディスク本体
DEmb VP遅延選択データ
DVd VP遅延復号データ
DVref1 VP遅延置換データ
DEvp VOP遅延選択データ
DVref2 VOP遅延置換データ
Emb MB単位選択画像データ
Evp VP単位選択画像データ
Evop VOP単位選択画像データ
FC フレキシブルディスクケース
FD フレキシブルディスク
FDD フレキシブルディスクドライブ
Se セクタ
Serr ストリームエラー通知信号
Smb(1),Smb(i-1),Smb(i),Svp(i+1),Svp(m) ビデオパケット
Svop VOPビットストリーム
Svp(1),Svp(k),Svp(k+1),Svp(m) VOPビットストリーム
Svph(1),Svph(k),Svph(k+1),Svph(m) VOPヘッダ
Terr 伝送エラー通知信号
Tr トラック
Vd 復号画像データ
Vin 入力ストリーム
Vref 参照画像データ
Vrep 置換画像データ
Claims (5)
- 動画像に対応する画像データを該動画像の1画面を構成する単位領域毎に順次符号化してなる符号化データを含むビットストリームに対して、該符号化データを上記単位領域毎に復号化して復号画像データを生成する復号化処理を施す動画像復号化方法であって、
上記ビットストリームのエラーを検出するエラー検出処理と、
上記ビットストリームが、上記動画像の形状を示す形状情報を有するか否かを判定する形状有無判定処理と、
上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有すると判定されたとき、上記復号画像データの修整を、上記動画像の1画面を修整単位として行い、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有していないと判定されたとき、上記復号画像データの修整を、上記単位領域を1以上含む、上記画面より小さい処理領域を修整単位として行う修整処理とを含むことを特徴とする動画像復号化方法。 - 請求項1記載の動画像復号化方法において、
上記ビットストリームは、上記単位領域に対応する第1の処理単位を複数含む第2の処理単位毎に、上記符号化データにその復号時のエラー伝搬が阻止されるよう付与された同期信号を含むものであり、
上記エラー検出処理は、上記ストリームの伝送時に発生した、その発生位置を特定可能な第1のエラーと、該第1のエラー以外の、その発生位置を特定不可能な第2のエラーとを区別して検出するものであり、
上記修整処理は、上記形状情報を有していないストリームの第1のエラーが検出されたとき、上記復号画像データの修整を、上記第1の処理単位を修整単位として行い、上記形状情報を有していないストリームの第2のエラーが検出されたとき、上記復号画像データの修整を、上記第2の処理単位を修整単位として行うものであることを特徴とする画像復号化方法。 - 動画像に対応する画像データを該動画像の1画面を構成する単位領域毎に順次符号化してなる符号化データを含むビットストリームに対して復号化処理を施す動画像復号化装置であって、
上記ビットストリームに含まれる符号化データを上記単位領域毎に復号化して復号画像データを生成する復号化器と、
上記ビットストリームのエラーを検出するエラー検出部と、
上記ビットストリームが、上記動画像の形状を示す形状情報を有するか否かを判定する形状有無判定部と、
上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有すると判定されたとき、上記復号画像データの修整を、上記動画像の1画面を修整単位として行い、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有していないと判定されたとき、上記復号画像データの修整を、上記単位領域を1つ以上含む、上記画面より小さい処理領域を修整単位として行う復号画像修整部とを備えたことを特徴とする動画像復号化装置。 - 請求項3記載の動画像復号化装置において、
上記ビットストリームは、上記単位領域に対応する第1の処理単位を複数含む第2の処理単位毎に、上記符号化データにその復号時のエラー伝搬が阻止されるよう付与された同期信号を含むものであり、
上記エラー検出部は、
上記ビットストリームの伝送時に発生した、その発生位置を特定可能な第1のエラーを検出する第1のエラー検出器と、
該第1のエラー以外の、その発生位置を特定不可能な第2のエラーを検出する第2のエラー検出器とを有するものであり、
上記復号画像修整部は、
上記形状情報を有していないストリームの第1のエラーが検出されたとき、上記復号画像データの修整を、上記第1の処理単位を修整単位として行う第1の修整器と、
上記形状情報を有していないストリームの第2のエラーが検出されたとき、上記復号画像データの修整を、上記第2の処理単位を修整単位として行う第2の修整器と、
上記形状情報を有するビットストリームの第1のエラーあるいは第2のエラーが検出されたとき、上記復号画像データの修整を、上記動画像の1画面を修整単位として行う第3の修整器とを有するものであることを特徴とする動画像復号化装置。 - 動画像に対応する画像データを該動画像の1画面を構成する単位領域毎に順次符号化してなる符号化データを含むビットストリームに対するデータ処理をコンピュータにより行うためのプログラムを格納したプログラム記録媒体であって、
上記データ処理は、
上記ビットストリームに含まれる符号化データを上記単位領域毎に復号化して復号画像データを生成する復号化処理と、
上記ビットストリームに含まれるエラーを検出するエラー検出処理と、
上記ビットストリームが、上記動画像の形状を示す形状情報を有するか否かを判定する形状有無判定処理と、
上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有すると判定されたとき、上記復号画像データの修整を、上記動画像の1画面を修整単位として行い、上記ビットストリームのエラーが検出され、かつ上記ビットストリームが形状情報を有していないと判定されたとき、上記復号画像データの修整を、上記単位領域を1つ以上含む、上記画面より小さい処理領域を修整単位として行う修整処理とを含むことを特徴とするプログラム記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004302968A JP2005051816A (ja) | 1999-09-30 | 2004-10-18 | 動画像復号化方法、動画像復号化装置、及びプログラム記録媒体 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP28018399 | 1999-09-30 | ||
JP2004302968A JP2005051816A (ja) | 1999-09-30 | 2004-10-18 | 動画像復号化方法、動画像復号化装置、及びプログラム記録媒体 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000291381A Division JP3898885B2 (ja) | 1999-09-30 | 2000-09-26 | 動画像復号化方法、動画像復号化装置、及びプログラム記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005051816A true JP2005051816A (ja) | 2005-02-24 |
Family
ID=34276943
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004302968A Pending JP2005051816A (ja) | 1999-09-30 | 2004-10-18 | 動画像復号化方法、動画像復号化装置、及びプログラム記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005051816A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012231532A (ja) * | 2005-07-13 | 2012-11-22 | Polycom Inc | ビデオ誤り隠蔽法 |
-
2004
- 2004-10-18 JP JP2004302968A patent/JP2005051816A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012231532A (ja) * | 2005-07-13 | 2012-11-22 | Polycom Inc | ビデオ誤り隠蔽法 |
US9661376B2 (en) | 2005-07-13 | 2017-05-23 | Polycom, Inc. | Video error concealment method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7817899B2 (en) | Moving picture decoding apparatus using replacement image data | |
USRE42621E1 (en) | Moving-picture signal coding and/or decoding system resistant to transmission error | |
US6081551A (en) | Image coding and decoding apparatus and methods thereof | |
US20060140281A1 (en) | Video coding apparatus and video decoding apparatus | |
JPH11252559A (ja) | 透過度符号化装置および透過度復号化装置、ならびにその方法、並びに画像データ構造、並びにデータ記録媒体 | |
US7124429B2 (en) | Video coding apparatus and video decoding apparatus | |
JP3898885B2 (ja) | 動画像復号化方法、動画像復号化装置、及びプログラム記録媒体 | |
JP2005051816A (ja) | 動画像復号化方法、動画像復号化装置、及びプログラム記録媒体 | |
JP2000324491A (ja) | 動画像符号化装置および動画像復号化装置 | |
JP2003078916A (ja) | 画像符号化方法および画像復号化方法 |