JP3980659B2 - 動画像符号化方法及び装置、動画像復号化方法及び装置。 - Google Patents
動画像符号化方法及び装置、動画像復号化方法及び装置。Info
- Publication number
- JP3980659B2 JP3980659B2 JP23215794A JP23215794A JP3980659B2 JP 3980659 B2 JP3980659 B2 JP 3980659B2 JP 23215794 A JP23215794 A JP 23215794A JP 23215794 A JP23215794 A JP 23215794A JP 3980659 B2 JP3980659 B2 JP 3980659B2
- Authority
- JP
- Japan
- Prior art keywords
- noise
- circuit
- image
- data
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Television Signal Processing For Recording (AREA)
Description
【目次】
以下の順序で本発明を説明する。
産業上の利用分野
従来の技術(図17〜図27)
発明が解決しようとする課題(図20)
課題を解決するための手段(図1〜図16)
作用(図1〜図16)
実施例
(1)第1実施例(図1〜図12)
(2)第2実施例(図13〜図16)
発明の効果
【0002】
【産業上の利用分野】
本発明は動画像符号化方法及び装置、動画像復号化方法及び装置、動画像記録媒体に関し、例えば動画像信号を光デイスクや磁気テープ等の記録媒体に記録し再生して表示したり、テレビ会議システム、テレビ電話システム、放送用機器等のように動画像信号を伝送路を介して送信側から受信側に伝送し、受信側においてこれを受信して表示する場合に用いて好適なものである。
【0003】
【従来の技術】
例えば、テレビ会議システム、テレビ電話システムなどのように、動画像信号を遠隔地に伝送するシステムにおいては、伝送路を効率良く利用するため、映像信号のライン相関やフレーム間相関を利用して、画像信号を圧縮符号化するようになされている。図20に、動画像信号を符号化して伝送し、これを復号化する動画像符号化/復号化装置の構成を示す。符号化装置1は、入力された映像信号VDを符号化し、伝送路としての記録媒体3に伝送する。そして復号化装置2は、記録媒体3に記録された信号を再生し、これを復号して出力する。
【0004】
符号化装置1では、入力映像信号VDが前処理回路11に入力され、ここで輝度信号と色信号(この場合、色差信号)に分離され、それぞれアナログデイジタル(A/D)変換器12、13でアナログデイジタル変換される。A/D変換器12、13によりアナログデイジタル変換されてデイジタル信号となつた映像信号は、プリフイルタ19に入力されフイルタ処理された後に、フレームメモリ14に供給されて記憶される。フレームメモリ14は、輝度信号を輝度信号フレームメモリ15に、また色差信号を色差信号フレームメモリ16に、それぞれ記憶させる。
【0005】
プリフイルタ19は符号化効率を向上させ、画質を改善する処理を行なう。これは例えばノイズ除去のフイルタであり、また例えば帯域を制限するためのフイルタである。図26に、プリフイルタ19の例として2次元ローパスフイルタの構成を示す。また図27(A)にこの2次元ローパスフイルタのフイルタ係数を示し、図27(B)に入力となる3×3画素ブロツクを示す。ある対象となる画素eに対してその周囲の3×3画素ブロツクを抽出する。これに対して次式
【数1】
の演算の出力を画素eに対するフイルタの出力値とする。実際上出力OUT1からフイルタ処理後の出力値が出力され、出力OUT2からフイルタ処理されない原画素値が所定の遅延の後出力される。このフイルタでは入力画像信号によらず、また符号化器の状態によらず常に一様なフイルタ処理が行なわれる。
【0006】
フオーマツト変換回路17は、フレームメモリ14に記憶された画像信号を、符号化器(エンコーダ)18の入力フオーマツトに変換する。所定のフオーマツトに変換されたデータは、フオーマツト変換回路17からエンコーダ18に供給され、ここでエンコード(符号化)される。この符号化アルゴリズムは任意であるが、その1例については詳細を図22を参照して後述する。エンコーダ18によりエンコードされた信号は、ビツトストリームとして伝送路に出力され、例えば記録媒体3に記録される。
【0007】
記録媒体3より再生されたデータは、復号化装置2のデコーダ31に供給されデコードされる。デコーダ31のデコード(復号化)アルゴリズムは任意で良いが、符号化アルゴリズムと対になつていなければならない。またその1例については詳細を、図25を参照して後述する。デコーダ31によりデコードされたデータは、フオーマツト変換回路32に入力され、出力フオーマツトに変換される。
【0008】
そしてフレームフオーマツトの輝度信号は、フレームメモリ33の輝度信号フレームメモリ34に供給されて記憶され、色差信号は色差信号フレームメモリ35に供給されて記憶される。輝度信号フレームメモリ34と色差信号フレームメモリ35より読み出された輝度信号と色差信号は、ポストフイルタ39に供給されフイルタ処理された後に、デイジタルアナログ(D/A)変換器36、37によりそれぞれデイジタルアナログ変換され、後処理回路38に供給されて合成される。そして出力映像信号として図示せぬ例えばCRTなどのデイスプレイに出力され表示される。
【0009】
ポストフイルタ39は画質を改善するためのフイルタ処理を行なう。画像を符号化することにより生じた劣化を緩和するために用いられる。例えばブロツク歪みや急峻なエツジの近傍で生じたノイズ、また量子化ノイズを除去するためのフイルタである。ポストフイルタには様々な種類があるが、例えば図26に示されるようにプリフイルタ19に用いられたと同様の2次元ローパスフイルタを用いることが出来る。
【0010】
次に動画像の高能率符号化について説明する。従来ビデオ信号等の動画像データは、情報量が極めて多いため、これを長時間記録再生するには、データ伝送速度が極めて高い記録媒体が必要であつた。従つて磁気テープや光デイスクは、大型のものが必要とされていた。また動画像データを伝送路を介して通信する場合や放送に用いる場合でもデータ量が多すぎるために、そのままでは既存の伝送路を用いて通信できないという問題があつた。
【0011】
そこでより小型の記録媒体にビデオ信号を長時間記録しようとする場合、また通信や放送に用いる場合には、ビデオ信号を高能率符号化して記録すると共にその読み出し信号を能率良く復号化する手段が不可欠である。このような要求に応えるべく、ビデオ信号の相関を利用した高能率符号化方式が提案されており、その1つにMPEG(Moving Picture Experts Group)方式がある。これはISO−IEC/JTC1/SC2/WG11にて議論され標準案として提案されたものであり、動き補償予測符号化と離散コサイン変換(DCT(Discrete Cosine Transform ))符号化を組み合わせたハイブリツド方式である。
【0012】
動き補償予測符号化は、画像信号の時間軸方向の相関を利用した方法であり、すでに復号再生されてわかつている信号から、現在入力された画像を予測し、そのときの予測誤差だけを伝送することで、符号化に必要な情報量を圧縮する方法である。またDCT符号化は、画像信号の持つフレーム内2次元相関性を利用して、ある特定の周波数成分に信号電力を集中させ、この集中分布した係数のみを符号化することで情報量の圧縮を可能とする。例えば絵柄が平坦で画像信号の自己相関性が高い部分では、DCT係数は低周波数成分へ集中分布する。従つてこの場合は低域へ集中分布した係数のみを符号化することで情報量の圧縮が可能となる。ここでは以下、符号化器としてMPEG2方式の場合の例を詳述するが、符号化方式はMPEG2方式に限らず、任意の符号化方式に対して同様に適用することが可能である。
【0013】
次にMPEG2方式について詳述する。ライン相関を利用すると、画像信号を例えばDCT処理等により圧縮することができる。またフレーム間相関を利用すると、画像信号をさらに圧縮して符号化することが可能となる。例えば図17に示すように、時刻t1 、t2 、t3 において、フレーム画像PC1 、PC2 、PC3 がそれぞれ発生しているとき、フレーム画像PC1 とPC2 の画像信号の差を演算してPC12を生成し、またフレーム画像PC2 とPC3 の差を演算してPC23を生成する。通常時間的に隣接するフレームの画像は、それ程大きな変化を有していないため、両者の差を演算すると差分信号は小さな値のものとなる。そこでこの差分信号を符号化すれば、符号量を圧縮することができる。
【0014】
しかしながら、差分信号のみを伝送したのでは、元の画像を復元することができない。そこで各フレームの画像を、Iピクチヤ、Pピクチヤ又はBピクチヤの3種類のピクチヤのいずれかのピクチヤとし、画像信号を圧縮符号化する。すなわち例えば図18に示すように、フレームF1〜F17までの17フレームの画像信号をグループオブピクチヤ(GOP)とし処理の1単位とする。そしてその先頭のフレームF1の画像信号はIピクチヤとして符号化し、2番目のフレームF2はBピクチヤとして、また3番目のフレームF3はPピクチヤとして、それぞれ処理する。以下4番目以降のフレームF4〜F17は、Bピクチヤ又はPピクチヤとして交互に処理する。
【0015】
Iピクチヤの画像信号は、その1フレーム分の画像信号をそのまま伝送する。これに対してPピクチヤの画像信号は、基本的に図18(A)に示すように、それより時間的に先行するIピクチヤ又はPピクチヤの画像信号からの差分を伝送する。さらにBピクチヤの画像信号は、基本的に図18(B)に示すように、時間的に先行するフレーム又は後行するフレームの両方の平均値からの差分を求め、その差分を符号化する。
【0016】
図19は、このようにして動画像信号を符号化する方法の原理に示す。最初のフレームF1はIピクチヤとして処理されるため、そのまま伝送データF1Xとして伝送路に伝送される(画像内符号化)。これに対して第2のフレームF2は、Bピクチヤとして処理されるため、時間的に先行するフレームF1と、時間的に後行するフレームF3の平均値との差分が演算され、その差分が伝送データF2Xとして伝送される。
【0017】
ただしこのBピクチヤとしての処理は、さらに細かく説明すると、4種類存在する。第1の処理は、元のフレームF2のデータをそのまま伝送データF2Xとして伝送するものであり(SP1)(イントラ符号化)、Iピクチヤにおける場合と同様の処理となる。第2の処理は、時間的に後のフレームF3からの差分を演算し、その差分(SP2)を伝送するものである(後方予測符号化)。第3の処理は、時間的に先行するフレームF1との差分(SP3)を伝送するものである(前方予測符号化)。さらに第4の処理は、時間的に先行するフレームF1と後行するフレームF3の平均値との差分(SP4)を生成し、これを伝送データF2Xとして伝送するものである(両方向予測符号化)。
【0018】
この4つの方法のうち、伝送データが最も少なくなる方法が採用される。なお差分データを伝送するとき、差分を演算する対象となるフレームの画像(予測画像)との間の動きベクトルx1(フレームF1とF2の間の動きベクトル)(前方予測の場合)、若しくはx2(フレームF3とF2の間の動きベクトル)(後方予測の場合)、またはx1とx2の両方(両方向予測の場合)が差分データと共に伝送される。
【0019】
またPピクチヤのフレームF3は、時間的に先行するフレームF1を予測画像として、このフレームとの差分信号(SP3)と、動きベクトルx3が演算され、これが伝送データF3Xとして伝送される(前方予測符号化)。あるいはまた元のフレームF3のデータがそのまま伝送データF3Xとして伝送される(SP1)(イントラ符号化)。いずれの方法により伝送されるかは、Bピクチヤにおける場合と同様に、伝送データがより少なくなる方が選択される。
【0020】
次に図22を参照して、エンコーダ18の構成について説明する。符号化されるべき画像データBDは、マクロブロツク単位で動きベクトル検出回路(MVーDet)50に入力される。動きベクトル検出回路50は、予め設定されている所定のシーケンスに従つて、各フレームの画像データを、Iピクチヤ、Pピクチヤ又はBピクチヤとして処理する。シーケンシヤルに入力される各フレームの画像を、I、P又はBのいずれのピクチヤとして処理するかは、予め定められている(例えば、図18に示したように、フレームF1〜F17により構成されるグループオブピクチヤが、I、B、P、B、P、……B、Pとして処理される)。
【0021】
Iピクチヤとして処理されるフレーム(例えばフレームF1)の画像データは、動きベクトル検出回路50からフレームメモリ51の前方原画像部51aに転送して記憶され、Bピクチヤとして処理されるフレーム(例えばフレームF2)の画像データは、原画像部51bに転送して記憶され、Pピクチヤとして処理されるフレーム(例えばフレームF3)の画像データは、後方原画像部51cに転送して記憶される。
【0022】
また次のタイミングにおいて、さらにBピクチヤ(フレームF4)又はPピクチヤ(フレームF5)として処理すべきフレームの画像が入力されたとき、それまで後方原画像部51cに記憶されていた最初のPピクチヤ(フレームF3)の画像データが、前方原画像部51aに転送され、次のBピクチヤ(フレームF4)の画像データが、原画像部51bに記憶(上書き)され、次のPピクチヤ(フレームF5)の画像データが、後方原画像部51cに記憶(上書き)される。このような動作が順次繰り返される。
【0023】
フレームメモリ51に記憶された各ピクチヤの信号は、そこから読み出され予測モード切り替え回路(Mode−SW)52において、フレーム予測モード処理又はフイールド予測モード処理が行なわれる。さらにまた予測判定回路54の制御の下に、演算部53において、画像内予測、前方予測、後方予測又は両方向予測の演算が行なわれる。これらの処理のうち、いずれの処理を行なうかは、予測誤差信号(処理の対象とされている参照画像と、これに対する予測画像との差分)に対応して決定される。このため動きベクトル検出回路50は、この判定に用いられる予測誤差信号の絶対値和(自乗和でも良い)を生成する。
【0024】
ここで予測モード切り替え回路52におけるフレーム予測モードと、フイールド予測モードについて説明する。フレーム予測モードが設定された場合、予測モード切り替え回路52は、動きベクトル検出回路50より供給される4個の輝度ブロツクY[1]〜Y[4]を、そのまま後段の演算部53に出力する。すなわちこの場合、図23(A)に示すように、各輝度ブロツクに奇数フイールドのラインのデータと、偶数フイールドのラインのデータとが混在した状態となつている。このフレーム予測モードにおいては、4個の輝度ブロツク(マクロブロツク)を単位として予測が行われ、4個の輝度ブロツクに対して1個の動きベクトルが対応される。
【0025】
これに対して予測モード切り替え回路52は、フイールド予測モードにおいては、図23(A)に示す構成で動きベクトル検出回路50より入力される信号を、図23(B)に示すように、4個の輝度ブロツクのうち輝度ブロツクY[1]とY[2]を、例えば奇数フイールドのラインのドツトによりのみ構成させ、他の2個の輝度ブロツクY[3]とY[4]を、偶数フイールドのラインのデータにより構成させて、演算部53に出力する。この場合2個の輝度ブロツクY[1]とY[2]に対して、1個の動きベクトルが対応され、他の2個の輝度ブロツクY[3]とY[4]に対して、他の1個の動きベクトルが対応される。
【0026】
動きベクトル検出回路50は、フレーム予測モードでの予測誤差の絶対値和と、フイールド予測モードでの予測誤差の絶対値和を、予測モード切り替え回路52に出力する。予測モード切り替え回路52は、フレーム予測モードとフイールド予測モードでの予測誤差の絶対値和を比較し、その値が小さい予測モードに対応する処理を施して、データを演算部53に出力する。ただしこの処理は、実際には動きベクトル検出回路50で行われる。すなわち動きベクトル検出回路50は決定されたモードに対応する構成の信号を予測モード切り替え回路52に出力し、予測モード切り替え回路52はその信号をそのまま後段の演算部53に出力する。
【0027】
なお色差信号はフレーム予測モードの場合、図23(A)に示すように、奇数フイールドのラインのデータと偶数フイールドのラインのデータとが混在する状態で、演算部53に供給される。またフイールド予測モードの場合、図23(B)に示すように、各色差ブロツクCb、Crの上半分(4ライン)が、輝度ブロツクY[1]、Y[2]に対応する奇数フイールドの色差信号とされ、下半分(4ライン)が、輝度ブロツクY[3]、Y[4]に対応する偶数フイールドの色差信号とされる。
【0028】
また動きベクトル検出回路50は、次のようにして、予測判定回路54において、画像内予測、前方予測、後方予測又は両方向予測のいずれの予測を行なうかを決定するための予測誤差の絶対値和を生成する。すなわち画像内予測の予測誤差の絶対値和として、参照画像のマクロブロツクの信号Aijの和ΣAijの絶対値|ΣAij|と、マクロブロツクの信号Aijの絶対値|Aij|の和Σ|Aij|の差を求める。また前方予測の予測誤差の絶対値和として、参照画像のマクロブロツクの信号Aijと、予測画像のマクロブロツクの信号Bijの差Aij−Bijの絶対値|Aij−Bij|の和Σ|Aij−Bij|を求める。
【0029】
また後方予測と両方向予測の予測誤差の絶対値和も、前方予測における場合と同様に(その予測画像を前方予測における場合と異なる予測画像に変更して)求める。これらの絶対値和は、予測判定回路54に供給される。予測判定回路54は、前方予測、後方予測及び両方向予測の予測誤差の絶対値和のうち、最も小さいものを、インタ予測の予測誤差の絶対値和として選択する。さらにこのインタ予測の予測誤差の絶対値和と、画像内予測の予測誤差の絶対値和とを比較し、その小さい方を選択し、この選択した絶対値和に対応するモードを予測モード(P-mode)として選択する。すなわち画像内予測の予測誤差の絶対値和の方が小さければ、画像内予測モードが設定される。インタ予測の予測誤差の絶対値和の方が小さければ、前方予測、後方予測又は両方向予測モードのうち、対応する絶対値和が最も小さかつたモードが設定される。
【0030】
このように動きベクトル検出回路50は、参照画像のマクロブロツクの信号を、フレーム又はフイールド予測モードのうち、予測モード切り替え回路52により選択されたモードに対応する構成で、予測モード切り替え回路52を介して演算部53に供給するとともに、4つの予測モードのうち、予測判定回路54により選択された予測モード(P-mode)に対応する予測画像と参照画像の間の動きベクトルを検出し、可変長符号化回路(VLC)58と動き補償回路(M−comp)64に出力する。上述したように、この動きベクトルとしては、対応する予測誤差の絶対値和が最小となるものが選択される。
【0031】
予測判定回路54は、動きベクトル検出回路50が前方原画像部51aよりIピクチヤの画像データを読み出しているとき、予測モードとしてフレーム(画像)内予測モード(動き補償を行わないモード)を設定し、演算部53のスイツチ53dを接点a側に切り替える。これによりIピクチヤの画像データが、DCTモード切り替え回路(DCT CTL)55に入力される。このDCTモード切り替え回路55は、図24(A)又は(B)に示すように、4個の輝度ブロツクのデータを、奇数フイールドのラインと偶数フイールドのラインが混在する状態(フレームDCTモード)、または分離された状態(フイールドDCTモード)のいずれかの状態にして、DCT回路56に出力する。
【0032】
すなわちDCTモード切り替え回路55は、奇数フイールドと偶数フイールドのデータを混在してDCT処理した場合の符号化効率と、分離した状態でDCT処理した場合の符号化効率とを比較し、符号化効率の良好なモードを選択する。例えば入力された信号を、図24(A)に示すように、奇数フイールドと偶数フイールドのラインが混在する構成とし、上下に隣接する奇数フイールドのラインの信号と偶数フイールドのラインの信号の差を演算し、さらにその絶対値の和(又は自乗和)を求める。
【0033】
また入力された信号を、図24(B)に示すように、奇数フイールドと偶数フイールドのラインが分離した構成とし、上下に隣接する奇数フイールドのライン同士の信号の差と、偶数フイールドのライン同士の信号の差を演算し、それぞれの絶対値の和(又は自乗和)を求める。さらに両者(絶対値和)を比較し、小さい値に対応するDCTモードを設定する。すなわち前者の方が小さければフレームDCTモードを設定し、後者の方が小さければフイールドDCTモードを設定する。そして選択したDCTモードに対応する構成のデータをDCT回路56に出力すると共に、選択したDCTモードを示すDCTフラグ(DCT-FLG )を、可変長符号化回路58と動き補償回路64に出力する。
【0034】
予測モード切り替え回路52での予測モード(図23)と、このDCTモード切り替え回路55でのDCTモード(図24)を比較して明らかなように、輝度ブロツクに関しては、両者の各モードにおけるデータ構造は実質的に同一である。予測モード切り替え回路52でフレーム予測モード(奇数ラインと偶数ラインが混在するモード)が選択された場合、DCTモード切り替え回路55でもフレームDCTモード(奇数ラインと偶数ラインが混在するモード)が選択される可能性が高く、また予測モード切り替え回路52でフイールド予測モード(奇数フイールドと偶数フイールドのデータが分離されたモード)が選択された場合、DCTモード切り替え回路55でも、フイールドDCTモード(奇数フイールドと偶数フイールドのデータが分離されたモード)が選択される可能性が高い。
【0035】
しかしながら必ずしも常にそのようになされるわけではなく、予測モード切り替え回路52では、予測誤差の絶対値和が小さくなるようにモードが決定され、DCTモード切り替え回路55では、符号化効率が良好となるようにモードが決定される。DCTモード切り替え回路55より出力されたIピクチヤの画像データは、DCT回路56に入力されてDCT処理され、DCT係数に変換される。このDCT係数は量子化回路(Q)57に入力され、送信バツフア(Buffer)59のデータ蓄積量(量子化制御信号(B-full))に対応した量子化スケール(QS)で量子化された後、可変長符号化回路58に入力される。
【0036】
可変長符号化回路58は量子化回路57より供給される量子化スケール(QS)に対応して、量子化回路57より供給される画像データ(この場合、Iピクチヤのデータ)を、例えばハフマン符号などの可変長符号に変換し、送信バツフア59に出力する。可変長符号化回路58にはまた、量子化回路57より量子化スケール(QS)、予測判定回路54より予測モード(画像内予測、前方予測、後方予測又は両方向予測のいずれが設定されたかを示すモード(P-mode))、動きベクトル検出回路50より動きベクトル(MV)、予測モード切り替え回路52より予測フラグ(フレーム予測モード又はフイールド予測モードのいずれが設定されたかを示すフラグ(P-FLG )、およびDCTモード切り替え回路55が出力するDCTフラグ(フレームDCTモード又はフイールドDCTモードのいずれが設定されたかを示すフラグ(DCT-FLG )が入力されており、これらも可変長符号化される。
【0037】
送信バツフア59は入力されたデータを一時蓄積し、蓄積量に対応するデータを量子化回路57に出力する。送信バツフア59は、そのデータ残量が許容上限値まで増量すると、量子化制御信号(B-full)によつて量子化回路57の量子化スケール(QS)を大きくすることにより、量子化データのデータ量を低下させる。またこれとは逆に、データ残量が許容下限値まで減少すると、送信バツフア59は量子化制御信号(B-full)によつて量子化回路57の量子化スケール(QS)を小さくすることにより、量子化データのデータ量を増大させる。このようにして送信バツフア59のオーバフロー又はアンダフローが防止される。そして送信バツフア59に蓄積されたデータは、所定のタイミングで読み出されて伝送路に出力され、例えば記録媒体3に記録される。
【0038】
一方量子化回路57より出力されたIピクチヤのデータは、逆量子化回路(IQ)60に入力され、量子化回路57より供給される量子化スケール(QS)に対応して逆量子化される。逆量子化回路60の出力は、逆DCT(IDCT)回路61に入力され逆DCT処理された後、ブロツク並び替え回路(Block Change)65により、各DCTモード(フレーム/フイールド)に対してブロツクの並び替えが行われる。ブロツク並び替え回路65の出力は、演算器62を介してフレームメモリ63の前方予測画像部(F−P)63aに供給され記憶される。
【0039】
動きベクトル検出回路50は、シーケンシヤルに入力される各フレームの画像データを、例えばI、B、P、B、P、B……のピクチヤとしてそれぞれ処理する場合、最初に入力されたフレームの画像データをIピクチヤとして処理した後、次に入力されたフレームの画像をBピクチヤとして処理する前に、さらにその次に入力されたフレームの画像データをPピクチヤとして処理する。Bピクチヤは後方予測を伴うため、後方予測画像としてのPピクチヤが先に用意されていないと、復号することができないためである。
【0040】
そこで動きベクトル検出回路50は、Iピクチヤの処理の次に、後方原画像部51cに記憶されているPピクチヤの画像データの処理を開始する。そして上述した場合と同様に、マクロブロツク単位でのフレーム間差分(予測誤差)の絶対値和が、動きベクトル検出回路50から予測モード切り替え回路52と予測判定回路54に供給される。予測モード切り替え回路52と予測判定回路54は、このPピクチヤのマクロブロツクの予測誤差の絶対値和に対応して、フレーム/フイールド予測モード又は画像内予測、前方予測、後方予測若しくは両方向予測の予測モードを設定する。
【0041】
演算部53はフレーム内予測モードが設定されたとき、スイツチ53dを上述したように接点a側に切り替える。従つてこのデータは、Iピクチヤのデータと同様に、DCTモード切り替え回路55、DCT回路56、量子化回路57、可変長符号化回路58、送信バツフア59を介して伝送路に伝送される。またこのデータは、逆量子化回路60、逆DCT回路61、ブロツク並び替え回路65、演算器62を介してフレームメモリ63の後方予測画像部(B−P)63bに供給され記憶される。
【0042】
前方予測モードの時、スイツチ53dが接点bに切り替えられると共に、フレームメモリ63の前方予測画像部63aに記憶されている画像(この場合Iピクチヤの画像)データが読み出され、動き補償回路64により動きベクトル検出回路50が出力する動きベクトルに対応して動き補償される。すなわち動き補償回路64は、予測判定回路54より前方予測モードの設定が指令されたとき、前方予測画像部63aの読み出しアドレスを、動きベクトル検出回路50がいま出力しているマクロブロツクの位置に対応する位置から動きベクトルに対応する分だけずらしてデータを読み出し、予測画像データを生成する。
【0043】
動き補償回路64より出力された予測画像データは、演算器53aに供給される。演算器53aは、予測モード切り替え回路52より供給された参照画像のマクロブロツクのデータから、動き補償回路64より供給されたこのマクロブロツクに対応する予測画像データを減算し、その差分(予測誤差)を出力する。この差分データは、DCTモード切り替え回路55、DCT回路56、量子化回路57、可変長符号化回路58、送信バツフア59を介して伝送路に伝送される。またこの差分データは、逆量子化回路60、逆DCT回路61により局所的に復号され、ブロツク並び替え回路65を介して演算器62に入力される。
【0044】
この演算器62にはまた演算器53aに供給されている予測画像データと同一のデータが供給されている。演算器62は、逆DCT回路61が出力する差分データに、動き補償回路64が出力する予測画像データを加算する。これにより、元の(復号した)Pピクチヤの画像データが得られる。このPピクチヤの画像データは、フレームメモリ63の後方予測画像部63bに供給され記憶される。
【0045】
動きベクトル検出回路50は、このようにIピクチヤとPピクチヤのデータが前方予測画像部63aと後方予測画像部63bにそれぞれ記憶された後、次にBピクチヤの処理を実行する。予測モード切り替え回路52と予測判定回路54は、マクロブロツク単位でのフレーム間差分の絶対値和の大きさに対応して、フレーム/フイールドモードを設定し、また予測モードをフレーム内予測モード、前方予測モード、後方予測モード又は両方向予測モードのいずれかに設定する。上述したように、フレーム内予測モード又は前方予測モードの時、スイツチ53dは接点a又はbに切り替えられる。このときPピクチヤにおける場合と同様の処理が行われ、データが伝送される。
【0046】
これに対して、後方予測モード又は両方向予測モードが設定された時、スイツチ53dは、接点c又はdにそれぞれ切り替えられる。スイツチ53dが接点cに切り替えられている後方予測モードの時、後方予測画像部63bに記憶されている画像(この場合、Pピクチヤの画像)データが読み出され、動き補償回路64により、動きベクトル検出回路50が出力する動きベクトルに対応して動き補償される。すなわち動き補償回路64は、予測判定回路54より後方予測モードの設定が指令されたとき、後方予測画像部63bの読み出しアドレスを、動きベクトル検出回路50がいま出力しているマクロブロツクの位置に対応する位置から動きベクトルに対応する分だけずらしてデータを読み出し、予測画像データを生成する。
【0047】
動き補償回路64より出力された予測画像データは、演算器53bに供給される。演算器53bは予測モード切り替え回路52より供給された参照画像のマクロブロツクのデータから、動き補償回路64より供給された予測画像データを減算しその差分を出力する。この差分データは、DCTモード切り替え回路55、DCT回路56、量子化回路57、可変長符号化回路58、送信バツフア59を介して伝送路に伝送される。
【0048】
スイツチ53dが接点dに切り替えられている両方向予測モードの時、前方予測画像部63aに記憶されている画像(この場合、Iピクチヤの画像)データと、後方予測画像部63bに記憶されている画像(この場合、Pピクチヤの画像)データが読み出され、動き補償回路64により、動きベクトル検出回路50が出力する動きベクトルに対応して動き補償される。すなわち動き補償回路64は、予測判定回路54より両方向予測モードの設定が指令されたとき、前方予測画像部63aと後方予測画像部63bの読み出しアドレスを、動きベクトル検出回路50がいま出力しているマクロブロツクの位置に対応する位置から動きベクトル(この場合の動きベクトルは、前方予測画像用と後方予測画像用の2つとなる)に対応する分だけずらしてデータを読み出し、予測画像データを生成する。
【0049】
動き補償回路64より出力された予測画像データは、演算器53cに供給される。演算器53cは動きベクトル検出回路50より供給された参照画像のマクロブロツクのデータから、動き補償回路64より供給された予測画像データの平均値を減算し、その差分を出力する。この差分データはDCTモード切り替え回路55、DCT回路56、量子化回路57、可変長符号化回路58、送信バツフア59を介して伝送路に伝送される。Bピクチヤの画像は、他の画像の予測画像とされることがないため、フレームメモリ63には記憶されない。
【0050】
なおフレームメモリ63において、前方予測画像部63aと後方予測画像部63bは、必要に応じてバンク切り替えが行われ、所定の参照画像に対して、一方又は他方に記憶されているものを、前方予測画像あるいは後方予測画像として切り替えて出力することができる。以上の説明では、輝度ブロツクを中心として説明をしたが、色差ブロツクについても同様に、図23及び図24に示すマクロブロツクを単位として処理され伝送される。なお色差ブロツクを処理する場合の動きベクトルは、対応する輝度ブロツクの動きベクトルを垂直方向と水平方向に、それぞれ1/2にしたものが用いられる。
【0051】
次に図25に、図20のデコーダ31の構成を示す。伝送路(記録媒体3)を介して伝送された符号化された画像データは、図示せぬ受信回路で受信されたり再生装置で再生され、受信バツフア(Buffer)81に一時記憶された後、復号回路90の可変長復号化回路(IVLC)82に供給される。可変長復号化回路82は、受信バツフア81より供給されたデータを可変長復号化し、動きベクトル(MV)、予測モード(P-mode)及び予測フラグ(P-FLG )を動き補償回路(M−comp)87に供給する。またDCTフラグ(DCT-FLG )を逆ブロツク並び替え回路(Block Change)88に、量子化スケール(QS)を逆量子化回路(IQ)83にそれぞれ出力すると共に、復号された画像データを逆量子化回路83に出力する。
【0052】
逆量子化回路83は、可変長復号化回路82より供給された画像データを、同じく可変長復号化回路82より供給された量子化スケール(QS)に従つて逆量子化し、逆DCT回路(IDCT)84に出力する。逆量子化回路83より出力されたデータ(DCT係数)は、逆DCT回路84で逆DCT処理され、ブロツク並べ替え回路88を通じて演算器85に供給される。逆DCT回路84より供給された画像データが、Iピクチヤのデータである場合、そのデータは演算器85より出力され、演算器85に後に入力される画像データ(P又はBピクチヤのデータ)の予測画像データ生成のために、フレームメモリ86の前方予測画像部(F−P)86aに供給されて記憶される。またこのデータはフオーマツト変換回路32(図20)に出力される。
【0053】
逆DCT回路84より供給された画像データが、その1フレーム前の画像データを予測画像データとするPピクチヤのデータであつて、前方予測モードのデータである場合、フレームメモリ86の前方予測画像部86aに記憶されている、1フレーム前の画像データ(Iピクチヤのデータ)が読み出され、動き補償回路87で可変長復号化回路82より出力された動きベクトルに対応する動き補償が施される。そして演算器85において、逆DCT回路84より供給された画像データ(差分のデータ)と加算され出力される。この加算されたデータ、すなわち復号されたPピクチヤのデータは、演算器85に後に入力される画像データ(Bピクチヤ又はPピクチヤのデータ)の予測画像データ生成のために、フレームメモリ86の後方予測画像部(B−P)86bに供給されて記憶される。
【0054】
Pピクチヤのデータであつても画像内予測モードのデータは、Iピクチヤのデータと同様に演算器85で特に処理は行わず、そのまま後方予測画像部86bに記憶される。このPピクチヤは、次のBピクチヤの次に表示されるべき画像であるため、この時点ではまだフオーマツト変換回路32へ出力されない(上述したように、Bピクチヤの後に入力されたPピクチヤが、Bピクチヤより先に処理され、伝送されている)。
【0055】
逆DCT回路84より供給された画像データが、Bピクチヤのデータである場合、可変長復号化回路82より供給された予測モードに対応して、フレームメモリ86の前方予測画像部86aに記憶されているIピクチヤの画像データ(前方予測モードの場合)、後方予測画像部86bに記憶されているPピクチヤの画像データ(後方予測モードの場合)、またはその両方の画像データ(両方向予測モードの場合)が読み出され、動き補償回路87において可変長復号化回路82より出力された動きベクトルに対応する動き補償が施されて、予測画像が生成される。ただし動き補償を必要としない場合(画像内予測モードの場合)、予測画像は生成されない。
【0056】
このようにして、動き補償回路87で動き補償が施されたデータは、演算器85において逆DCT回路84の出力と加算される。この加算出力はフオーマツト変換回路32に出力される。ただしこの加算出力はBピクチヤのデータであり、他の画像の予測画像生成のために利用されることがないため、フレームメモリ86には記憶されない。Bピクチヤの画像が出力された後、後方予測画像部86bに記憶されているPピクチヤの画像データが読み出され、動き補償回路87を介して演算器85に供給される。ただしこのとき、動き補償は行われない。
【0057】
なおこのデコーダ31には、図22のエンコーダ18における予測モード切り替え回路52とDCTモード切り替え回路55に対応する回路が図示されていないが、これらの回路に対応する処理、すなわち奇数フイールドと偶数フイールドのラインの信号が分離された構成を、元の混在する構成に必要に応じて戻す処理は動き補償回路87が実行する。また以上の説明では、輝度信号の処理について述べたが、色差信号の処理も同様に行われる。ただしこの場合、動きベクトルは、輝度信号用のものを、垂直方向及び水平方向に1/2にしたものが用いられる。
【0058】
【発明が解決しようとする課題】
ところで図20に上述したような動画像の符号化装置1において、プリフイルタ19は入力画像信号に含まれるノイズを除去し、また符号化装置1における符号化効率を高めるために、また所定量まで情報量を削減するために用いられる。またポストフイルタ39は復号化画像の劣化を緩和し、画質を改善するために用いられる。ここで、画像に含まれるノイズについて考える。ノイズには様々な種類がある。例えば伝送路を通過する際に生じたノイズや、映画などのフイルムソースではフイルムに特有の粒状ノイズが存在する。
【0059】
こうした画像に含まれるノイズには意図的に含まれているノイズと、意図せずに生じ、劣化の原因となつているノイズが存在する。プリフイルタ19ではこれらのノイズを区別なく削減する。また画像信号を符号化した場合、画像の高周波成分が削減され、これによつてノイズが削減されたり、元のノイズと異なる性質のノイズに変化してしまう。このようにしてノイズが削減される場合、過度に削減されると原画像とは異なる印象の画像となり、かえつて画像の劣化となる。これは特に意図的に含まれているノイズの場合問題となる。
【0060】
従つてこの動画像符号化方法によれば、プリフイルタ19や符号化装置1が過度にノイズを削減し、かえつて画像を劣化させてしまうという問題が存在する。また符号化された画像には、量子化ノイズが生じる。これは特にエツジの近傍で目立ち、画質劣化の大きな原因になつている。
【0061】
本発明は以上の点を考慮してなされたもので、動画像を符号化し復号化する際に失われたノイズを復元し、視覚的に復号化した動画像の画質を向上し得る動画像符号化方法及び装置、動画像復号化方法及び装置、動画像記録媒体を提案しようとするものである。
【0062】
【課題を解決するための手段】
かかる課題を解決するため本発明の動画像符号化方法においては、動画像信号をフイルタ係数に応じてフイルタ処理し、当該フイルタ処理された動画像信号を量子化すると共に量子化スケールを出力し、当該量子化された動画像信号を符号化する際、フイルタ係数及び量子化スケールに基づいてノイズ特性を決定し、符号化された動画像信号と共に当該ノイズ特性を伝送するようにした。
【0063】
また本発明の動画像符号化装置においては、動画像信号をフイルタ係数に応じてフイルタ処理するフイルタ処理手段と、フイルタ処理された動画像信号を量子化すると共に量子化スケールを出力する量子化手段と、動画像信号を符号化する際、フイルタ係数及び量子化スケールに基づいてノイズ特性を決定するノイズ特性決定手段とを設けるようにした。
【0064】
さらに本発明の動画像復号化方法においては、フイルタ処理及び量子化が行われて符号化された動画像信号を復号する際、符号化された際のフイルタ係数及び量子化スケールに基づいて決定されるノイズ特性をもとにノイズ量を発生し、当該ノイズ量を復号した動画像信号に加えるようにした。
【0065】
さらに本発明の動画像復号化装置においては、フイルタ処理及び量子化が行われて符号化された動画像信号を復号する際、符号化された際のフイルタ係数及び量子化スケールに基づいて決定されるノイズ特性をもとにノイズ量を発生し、当該ノイズ量を復号した動画像信号に加えるノイズ付加手段を設けるようにした。
【0069】
【作用】
動画像信号を符号化する際、フイルタ係数及び量子化スケールに基づいてノイズ特性を決定し、符号化された動画像信号と共にノイズ特性を伝送し、復号化装置においてビツトストリームを復号化した後にそのノイズ特性に基づいてノイズ量を発生し、当該ノイズ量を復号した動画像信号に付加する。これにより符号化によつて失われたノイズ成分を再生することが可能となる。また符号化によつて生じる量子化ノイズと同レベルのノイズを後置フイルタによつて付加することにより、量子化ノイズなどの劣化を目立たなくすることが出来る。
【0070】
【実施例】
以下図面について、本発明の一実施例を詳述する。
【0071】
(1)第1実施例
図20との対応部分に同一符号を付した図1に、本発明の第1実施例による動画像符号化装置及び復号化装置を示す。この実施例の場合エンコーダ18は符号化時の条件に応じて、またプリフイルタ19で使用したフイルタの特性によつて、ポストフイルタ39において付加するノイズ量を決定し、それを示す付加ノイズ特性信号NAを符号化する。この付加ノイズ特性信号NAを決定するノイズ特性決定方法は2通り存在する。第1のノイズ特性決定方法は外部から強制的に付加ノイズ特性信号NAを入力し設定するものであり、第2のノイズ特性決定方法は符号化時に発生する各種フラグに基づいて付加ノイズ特性信号NAを決定するものである。
【0072】
第1のノイズ特性決定方法によるエンコーダ18の構成を、図22との対応部分に同一符号を付して図2に示す。外部から入力される付加ノイズ特性信号NAは可変長符号化器58に入力される。可変長符号化器58では従来と同様の可変長符号化を行なうとともに、ノイズ特性信号NAを可変長符号化する。付加ノイズ特性信号NAはビツトストリーム中のユーザデータに記録される。MPEG方式やMPEG2方式でのユーザデータは、シーケンス、GOP、ピクチヤヘツダの後に設定可能であるから、PSTは同様にシーケンス、GOP、ピクチヤ単位で設定可能である。
【0073】
図3にMPEG方式のビデオのシンタクスを示す。図中下線を付した拡張/ユーザデータextension-and-user-data(i)に拡張データextension-data又はユーザデータuser-data が記録される。図4(A)及び図4(B)に拡張/ユーザデータextension-and-user-data(i)及び拡張データextension-dataを示す。拡張/ユーザデータextension-and-user-data(i)にユーザデータスタートコードuser-data-start-codeが記録されている場合、次にユーザデータuser-data が記録されていることを示している。次に図4(C)にユーザデータuser-data を示す。ユーザデータuser-data は8ビツト単位で記録される。"0000 0000 0000 0000 0000 0001" が発生するとユーザデータuser-data が終了することを示している。
【0074】
次に付加ノイズ特性信号NAについて説明する。付加ノイズ特性信号NAは例えば図6に示すように8ビツトの信号である。付加ノイズ特性信号NAは図3及び図4に示すユーザデータuser-data に記録される。特性0が最も小量のノイズであり、特性255 が最も多量のノイズである。この付加ノイズ特性信号NAによつてノイズを付加する処理については後述する。
【0075】
付加ノイズ特性信号NAはシーケンス、GOP、ピクチヤヘツダの後のユーザデータuser-data で設定が可能である。一度付加ノイズ特性信号NAが設定されたら、次に再設定されるまでその値が用いられる。即ち再設定されるまで、同一のノイズが付加される。付加ノイズ特性信号NAは、シーケンスヘツダでまず設定される。その後再設定する場合、シーケンス、GOP、ピクチヤヘツダの後のどのユーザデータuser-data で設定しても良い。
【0076】
次に第2のノイズ特性決定方法によるエンコーダ18の構成を、図2との対応部分に同一符号を付した図7に示す。付加ノイズ決定回路70は可変長符号化器58に入力される量子化スケール(QS)及びプリフイルタ19(図1)において使用されたフイルタ特性からポストフイルタ39(図1)において付加するノイズ量を決定する。付加ノイズ決定回路70はポストフイルタ39において付加するノイズ量を示すフラグ及び付加ノイズ特性信号NAを可変長符号化器58に出力する。可変長符号化器58では、第1のノイズ特性決定方法の場合と同様に付加ノイズ特性信号NAを可変長符号化する。
【0077】
この第2のノイズ特性決定方法における付加ノイズ特性信号NAの決定方法について、その1例を説明する。エンコーダ18においては量子化が行なわれ、その際量子化スケール(QS)が小さいほど小振幅の信号まで符号化することが出来る。従つて量子化スケール(QS)が小さいほど原画像に含まれるノイズまで伝送する。また量子化スケール(QS)が大きいとノイズを伝送することが出来なくなり、復号画像はノイズが除去された平坦な画像となる。
【0078】
また符号化装置1においては、プリフイルタ19によりフイルタ処理が行なわれる。このフイルタ処理には様々な処理が存在するが、ノイズ除去処理はその一例である。またノイズ除去フイルタの他に例えばローパスフイルタもノイズを減少する効果がある。こうしたフイルタによるノイズ除去の度合によつて復号画像で再現できるノイズ量が決まつてくる。すなわちプリフイルタ19でノイズをほとんど除去しない場合には、原画像に含まれるノイズ成分を伝送することが可能であるが、プリフイルタ19でノイズをほとんど除去した場合にはノイズを伝送することが不可能となる。
【0079】
従つて付加ノイズ特性信号NAは、量子化スケール(QS)及びプリフイルタ19でのノイズ除去の度合によつて決定される。すなわち量子化スケール(QS)が大きいほど、またプリフイルタ19のノイズ除去の度合いが大きいほどポストフイルタ39で付加されるノイズ量が多くなる。ポストフイルタ39でノイズを付加することは、符号化の際に失われたノイズを復元するだけでなく、符号化によつて生じた量子化ノイズなどの劣化を目立たなくする効果がある。
【0080】
これを図8を用いて説明する。符号化によつて生じる劣化にはエツジ近傍に生じる劣化や、ブロツク歪みがある。図8(A)は原画像であり、図8(B)はエツジ近傍に劣化が生じたことを示す。これに劣化によつて生じるノイズと同レベルのノイズを付加したのが図8(C)である。ノイズを付加することによつて目立たなくなることがわかる。
【0081】
量子化スケール(QS)はこうした劣化の度合の目安となる。量子化スケール(QS)が小さい場合、劣化は少ないと考えられ、また量子化スケール(QS)が大きい場合、劣化が顕著になると考えられる。従つて劣化を目立たなくする観点からも量子化スケール(QS)が大きいほど付加するノイズ量が多くなり、また量子化スケール(QS)が小さいほど付加するノイズ量が少なくなる。
【0082】
図9に量子化スケール(QS)及びプリフイルタ19のフイルタ特性F1〜FNから付加ノイズ特性信号NAを決定する方法を示す。ここでプリフイルタ19の強弱があるが、強いフイルタほどノイズを多く除去し、また弱いフイルタほどノイズを保存する。図10にその具体例を示す。F1〜FNは周波数特性が図10に示すようなフイルタ係数である。F1が最も弱くまたFNが最も強いフイルタである。
【0083】
ここでMPEG方式やMPEG2方式の場合の、マクロブロツクヘツダのシンタクスを図5に示す。図中下線で示すように量子化係数(quantizer-scale-code)はマクロブロツク単位で設定される。まず1フレーム符号化した後、1フレーム中の量子化係数の平均値MEAN-Qを求める。図9は量子化係数の平均値MEAN-Qとプリフイルタ19のフイルタ特性F1〜FNから付加ノイズ特性信号NAを決定する方法である。このようにして、付加ノイズ特性信号NAが決定される。
【0084】
次にこの第1実施例におけるデコーダ31(図1)の構成を、図25との対応部分に同一符号を付した図11に示す。第1及び第2のノイズ特性決定方法共に、図11に示す復号回路90で復号される。ビツトストリームがデコーダ31に入力されると、まず可変長復号化回路82に入力され、可変長符号化が解かれる。このときユーザデータuser-data に記録されている付加ノイズ特性信号NAが復号されポストフイルタ39(図1)に出力される。その他のデコーダ31の動作は従来に記載されている方法と同様である。
【0085】
ポストフイルタ39を図12に示す。ノイズ発生回路39Aはランダムなホワイトノイズを生成する。これは例えばM系列を発生させる回路で実現できる。デコーダ31によつて復号された付加ノイズ特性信号NAは付加ノイズ決定回路39Bに入力される。付加ノイズ決定回路39Bは付加ノイズ特性信号NAに従つて画像信号に付加するノイズ量を決定する。入力された画像信号及び発生したノイズは加算器39Cに入力されて加算される。加算器39Cの出力はポストフイルタ39の出力として、D/A変換器36、37(図1)に入力される。
【0086】
以上の構成によれば、動画像信号を符号化する際に、画像中に含まれるノイズ量を検出してそのノイズ量を示す付加ノイズ特性信号NAを符号化して伝送し、復号化側においてビツトストリームを復号化した後にそのノイズ量を示す付加ノイズ特性信号NAに従つてノイズを付加するようにしたことにより、符号化によつて失われたノイズ成分を再現することがでる。また符号化によつて生じる量子化ノイズと同レベルのノイズをポストフイルタによつて付加することにより、量子化ノイズなどの劣化を目立たなくでき、かくして視覚的に復号化した動画像の画質を向上し得る。
【0087】
(2)第2実施例
図1との対応部分に同一符号を付した図13に、本発明の第2実施例による動画像符号化装置及び復号化装置を示す。符号化装置1については従来と同様である。第1実施例で説明したように、付加すべきノイズ量は量子化スケール(QS)に依存する。量子化スケール(QS)はマクロブロツク単位で設定されるが、ユーザデータuser-data はシーケンス、GOP、ピクチヤ単位でしか伝送することができない。この第2実施例ではマクロブロツク単位で付加するノイズ量を決定する。
【0088】
第2実施例におけるデコーダ31について、図11との対応部分に同一符号を付した図14を用いて説明する。ビツトストリームはデコーダ31に入力されると可変長復号化回路82に入力され、可変長符号が解かれる。このときユーザデータuser-data に記録されている付加ノイズ特性信号NA及び量子化スケール(QS)をポストフイルタ39に出力する。その他のデコーダ31の動作は従来に記載されている方法と同様である。
【0089】
第2実施例におけるポストフイルタ39を、図12との対応部分に同一符号を付した図15を用いて説明する。この実施例では、付加ノイズ特性信号NA及び量子化スケール(QS)がノイズ量決定回路39Dに入力される。ノイズ量決定回路39Dは付加ノイズ特性信号NA及び量子化スケール(QS)からポストフイルタ39において付加するノイズ量を決定する。図16にノイズ量決定方法を示す。決定されたノイズ量NA′は付加ノイズ決定回路39Bに出力される。
【0090】
付加ノイズ決定回路39Bは第1実施例と同様に、画像信号に付加するノイズを決定する。入力された画像信号及び発生したノイズは加算器39Cに入力され加算される。加算器39Cの出力はポストフイルタ39の出力としてD/A変換器36、37(図1)に入力される。その他の動作は第1実施例と全く同様である。
【0091】
以上の構成によれば、動画像信号を符号化する際に、画像中に含まれるノイズ量を検出してそのノイズ量を示す付加ノイズ特性信号NAを符号化して伝送し、復号化側においてビツトストリームを復号化した後にそのノイズ量を示す付加ノイズ特性信号NA及び量子化スケール(QS)に従つてノイズを付加するようにしたことにより、符号化によつて失われたノイズ成分を再現することがでる。また符号化によつて生じる量子化ノイズと同レベルのノイズをポストフイルタによつて付加することにより、量子化ノイズなどの劣化を目立たなくでき、かくして視覚的に復号化した動画像の画質を向上し得る。
【0092】
【発明の効果】
上述のように本発明によれば、動画像信号を符号化する際、フイルタ係数及び量子化スケールに基づいてノイズ特性を決定し、符号化された上記動画像信号と共にノイズ特性を伝送し、復号化装置においてビツトストリームを復号化した後にそのノイズ特性に基づいてノイズ量を発生し、当該ノイズ量を復号した動画像信号に付加することにより、符号化によつて失われたノイズ成分を再現し得、さらに符号化によつて生じる量子化ノイズと同レベルのノイズを後置フイルタによつて付加することにより、量子化ノイズなどの劣化を目立たなくし得、かくして簡易な構成でありながら視覚的に復号化した動画像の画質を向上し得る動画像符号化方法及び装置、動画像復号化方法及び装置を実現できる。
【図面の簡単な説明】
【図1】本発明による第1実施例の動画像符号化/復号化装置の構成を示すブロツク図である。
【図2】図1の符号化装置のエンコーダの構成を示すブロツク図である。
【図3】MPEG方式のビデオのシンタクスを示す図表である。
【図4】MPEG方式のビデオのシンタクスの拡張/ユーザデータを示す図表である。
【図5】MPEG方式のビデオのマクロブロツクのシンタクスを示す図表である。
【図6】付加ノイズ特性信号NAの内容を示す図表である。
【図7】図1の符号化装置のエンコーダの構成を示すブロツク図である。
【図8】ノイズ成分を再現して画質を向上する説明に供する特性曲線図である。
【図9】付加ノイズ特性信号の決定方法の説明に供する特性曲線図である。
【図10】フイルタ係数の周波数特性の説明に供する特性曲線図である。
【図11】図1の復号化装置のデコーダの構成を示すブロツク図である。
【図12】図1の復号化装置のポストフイルタの構成を示すブロツク図である。
【図13】本発明による第2実施例の動画像符号化/復号化装置の構成を示すブロツク図である。
【図14】図13の復号化装置のデコーダの構成を示すブロツク図である。
【図15】図13の復号化装置のポストフイルタの構成を示すブロツク図である。
【図16】付加ノイズ特性信号の決定方法の説明に供する特性曲線図である。
【図17】フレーム相関を利用した動画像信号の高能率符号化の原理の説明に供する略線図である。
【図18】動画像信号を圧縮する場合のピクチヤタイプの説明に供する略線図である。
【図19】動画像信号符号化方法の原理の説明に供する略線図である。
【図20】従来の動画像符号化/復号化装置の構成を示すブロツク図である。
【図21】フオーマツト変換回路の動作の説明として画像データの構造を示す略線図である。
【図22】図20の動画像符号化/復号化装置におけるエンコーダの構成を示すブロツク図である。
【図23】エンコーダの予測モード切り替え回路の動作の説明に供する略線図である。
【図24】エンコーダのDCTモード切り替え回路の動作の説明に供する略線図である。
【図25】図20の動画像符号化/復号化装置におけるデコーダの構成を示すブロツク図である。
【図26】図20の動画像符号化/復号化装置におけるプリフイルタ/ポストフイルタとして2次元ローパスフイルタの構成を示す接続図である。
【図27】図26の2次元ローパスフイルタの係数の説明に供する略線図である。
【符号の説明】
1……符号化装置、2……復号化装置、3……記録媒体(伝送路)、11……前処理回路、12、13……アナログデイジタル(A/D)変換器、14、33……フレームメモリ、15、34……輝度信号フレームメモリ、16、35……色差信号フレームメモリ、17、32……フオーマツト変換回路、18……エンコーダ、19……プリフイルタ、20……記憶装置、21……係数決定回路、22……符号化レート決定回路、31……デコーダ、36、37……デイジタルアナログ(D/A)変換器、38……後処理回路、50……動きベクトル検出回路(MV−Det)、51……フレームメモリ、51a……前方原画像部、51b……原画像部、51c……後方原画像部、52……予測モード切り替え回路(Mode−SW)、53……演算部、54……予測判定回路、55……DCTモード切り替え回路(DCT CTL)、56……DCT回路、57……量子化回路(Q)、58……可変長符号化回路(VLC)、59……送信バツフア(Buffer)、60、83……逆量子化回路(IQ)、61、84……逆DCT回路(IDCT)、62、85……演算器、63、86……フレームメモリ、63a、86a……前方予測画像(F−P)、63b、86b……後方予測画像(B−P)、64、87……動き補償回路(M−comp)、65、88……DCTブロツク並べ替え回路、70……付加ノイズ決定回路、81……受信バツフア(Buffer)、82……可変長復号化回路(IVLC)。
Claims (4)
- 動画像信号をフイルタ係数に応じてフイルタ処理し、当該フイルタ処理された動画像信号を量子化すると共に量子化スケールを出力し、当該量子化された動画像信号を符号化する際、上記フイルタ係数及び上記量子化スケールに基づいてノイズ特性を決定し、符号化された動画像信号と共に当該ノイズ特性を伝送する
ことを特徴とする動画像符号化方法。 - 動画像信号をフイルタ係数に応じてフイルタ処理するフイルタ処理手段と、
上記フイルタ処理された動画像信号を量子化すると共に量子化スケールを出力する量子化手段と、
上記動画像信号を符号化する際、上記フイルタ係数及び上記量子化スケールに基づいてノイズ特性を決定するノイズ特性決定手段と
を具えることを特徴とする動画像符号化装置。 - フイルタ処理及び量子化が行われて符号化された動画像信号を復号する際、符号化された際のフイルタ係数及び量子化スケールに基づいて決定されるノイズ特性をもとにノイズ量を発生し、当該ノイズ量を復号した動画像信号に加える
ことを特徴とする動画像復号化方法。 - フイルタ処理及び量子化が行われて符号化された動画像信号を復号する際、符号化された際のフイルタ係数及び量子化スケールに基づいて決定されるノイズ特性をもとにノイズ量を発生し、当該ノイズ量を復号した動画像信号に加えるノイズ付加手段
を具えることを特徴とする動画像復号化装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP23215794A JP3980659B2 (ja) | 1994-08-31 | 1994-08-31 | 動画像符号化方法及び装置、動画像復号化方法及び装置。 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP23215794A JP3980659B2 (ja) | 1994-08-31 | 1994-08-31 | 動画像符号化方法及び装置、動画像復号化方法及び装置。 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007056300A Division JP4596277B2 (ja) | 2007-03-06 | 2007-03-06 | 符号化装置、符号化方法、復号装置及び復号方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH0879765A JPH0879765A (ja) | 1996-03-22 |
JP3980659B2 true JP3980659B2 (ja) | 2007-09-26 |
Family
ID=16934892
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP23215794A Expired - Lifetime JP3980659B2 (ja) | 1994-08-31 | 1994-08-31 | 動画像符号化方法及び装置、動画像復号化方法及び装置。 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3980659B2 (ja) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08149466A (ja) * | 1994-09-30 | 1996-06-07 | Sanyo Electric Co Ltd | 動画像処理方法及び処理装置 |
JP2002209209A (ja) * | 2001-01-04 | 2002-07-26 | Nec Corp | 画像圧縮伸長システム |
ZA200509227B (en) * | 2003-05-15 | 2007-05-30 | Thomson Licensing | Method and apparatus for representing image granularity by one or more parameters |
US8094711B2 (en) | 2003-09-17 | 2012-01-10 | Thomson Licensing | Adaptive reference picture generation |
WO2005034518A1 (en) | 2003-09-23 | 2005-04-14 | Thomson Licensing S.A. | Method for simulating film grain by mosaicing pre-computed samples |
US8150206B2 (en) | 2004-03-30 | 2012-04-03 | Thomson Licensing | Method and apparatus for representing image granularity by one or more parameters |
CN101044511A (zh) * | 2004-10-18 | 2007-09-26 | 汤姆森特许公司 | 胶片颗粒模拟的方法、装置及系统 |
WO2006057994A2 (en) | 2004-11-24 | 2006-06-01 | Thomson Licensing | Film grain simulation technique for use in media playback devices |
EP1855463B1 (en) | 2005-02-21 | 2010-04-28 | Panasonic Corporation | Moving picture processing method |
JPWO2007063912A1 (ja) * | 2005-11-29 | 2009-05-07 | パナソニック株式会社 | 再生装置 |
KR101291672B1 (ko) * | 2007-03-07 | 2013-08-01 | 삼성전자주식회사 | 노이즈 신호 부호화 및 복호화 장치 및 방법 |
US10715834B2 (en) | 2007-05-10 | 2020-07-14 | Interdigital Vc Holdings, Inc. | Film grain simulation based on pre-computed transform coefficients |
EP2360925A1 (en) | 2010-01-20 | 2011-08-24 | Siemens Aktiengesellschaft | Method for reducing noise for coding of noisy images or image sequences |
KR20150090515A (ko) * | 2014-01-29 | 2015-08-06 | 삼성전자주식회사 | 고주파수 성분의 위상 변조를 통한 영상 질감 향상 방법 및 그 장치 |
JP6796435B2 (ja) * | 2016-09-14 | 2020-12-09 | 日本放送協会 | レート制御装置、映像復号装置、及び、プログラム |
-
1994
- 1994-08-31 JP JP23215794A patent/JP3980659B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH0879765A (ja) | 1996-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3163830B2 (ja) | 画像信号伝送方法及び装置 | |
KR100289852B1 (ko) | 화상 부호화 방법, 화상 부호화 장치 및 화상 기록 매체 | |
KR100766740B1 (ko) | 부호화 히스토리 정보를 이용하는 데이터 변환 장치 및 방법 | |
JP3855286B2 (ja) | 画像符号化装置および画像符号化方法、画像復号化装置および画像復号化方法、並びに記録媒体 | |
US6587509B1 (en) | Reducing undesirable effects of an emphasis processing operation performed on a moving image by adding a noise signal to a decoded uncompressed signal | |
US6415055B1 (en) | Moving image encoding method and apparatus, and moving image decoding method and apparatus | |
JP3911035B2 (ja) | 動画像符号化方法及び動画像符号化装置 | |
US6628713B1 (en) | Method and device for data encoding and method for data transmission | |
JP3980659B2 (ja) | 動画像符号化方法及び装置、動画像復号化方法及び装置。 | |
JP2001211455A (ja) | 画像符号化方法及び画像符号化装置 | |
US6256349B1 (en) | Picture signal encoding method and apparatus, picture signal transmitting method, picture signal decoding method and apparatus and recording medium | |
JP3240024B2 (ja) | 画像処理方法 | |
JPH07231449A (ja) | 画像信号符号化装置及び画像信号復号化装置 | |
JP4596277B2 (ja) | 符号化装置、符号化方法、復号装置及び復号方法 | |
JP3240737B2 (ja) | 画像信号符号化方法、装置、復号化方法及び装置 | |
JP4121567B2 (ja) | 動画像符号化方法、動画像復号化方法、動画像符号化装置及び動画像復号化装置 | |
JP3322376B2 (ja) | 動画像復号化方法及び動画像復号化装置 | |
JP3271091B2 (ja) | 画像信号符号化方法、装置、復号化方法及び装置 | |
JP3307379B2 (ja) | 復号化装置及び方法 | |
JP3164110B2 (ja) | 符号化装置及び方法 | |
JP3516622B2 (ja) | 復号化装置及び方法 | |
JP3516621B2 (ja) | 符号化装置及び方法 | |
JP3500340B2 (ja) | コーディング装置及び方法 | |
JP2006020353A (ja) | 画像信号符号化装置および方法、画像信号復号装置および方法 | |
JP2005117680A (ja) | 画像信号符号化方法及び装置、画像信号伝送方法、並びに画像信号復号方法及び装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040322 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040416 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040615 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20041126 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050117 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20050124 |
|
A912 | Removal of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20050722 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070306 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070326 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070413 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070628 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100706 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100706 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110706 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110706 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120706 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120706 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130706 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |