JP2004336817A - 画像信号の符号化・復号化方式および装置 - Google Patents

Abstract

【課題】 高品質・高精細な画像が受像できる画像信号の符号化・復号化方式および装置を提供する。
【解決手段】 画像信号を動き補償予測符号化と直交変換符号化を組み合せたビデ
オ符号化して送受信し、復号した画像信号を動き補償の走査変換処理してノンインタレース走査で表示する。そして、符号化部では動き補償予測符号化の動きベクトルは復号化部の動き補償の走査変換処理に整合したものを使用、あるいは、復号化部で動き補償の走査変換処理に適する動きベクトルを選別し、この動きベクトルをもとに生成した補間動きベクトルで動き補償の補間信号をつくる。
【効果】 動き補償の走査変換処理で、インタレース妨害やジャダ妨害のないノンインタレース走査の信号が生成でき、画像の画質改善に顕著な効果がある。
【選択図】 図３

Description

本発明は画像信号を高能率符号化して送受信する画像信号の符号化・復号化方式および装置に係り、特に、動き補償予測符号化と直交変換符号化を組み合せたビデオ符号化の動きベクトルで、復号した画像信号に対して動き補償の走査変換を行なって高品質な岡像で受像するに好適な画像信号の符号化・復号化方式および装置。

画像信号の高能率符号化の分野では、これまで種々の符号化方式が考案されてきた。このうち、動き補償予測符号化と直交変換符号化を組み合せたビデオ符号化方式は、前フレームの信号を動きベクトルで動き補償した生成した予測信号と、現フレームの信号との差分信号を予測誤差信号として抽出し、この予測誤差信号をＤＣＴ変換（離散コサイン変換）した変換係数を符号化することで、圧縮効率の高い符号化が実現できる。そして、国際標準規格であるＭＰＥＧ１、ＭＰＥＧ２のビデオ符号化に採用され、今後のティジタル放送やＣＡＴＶやパッケージメディアを対象とした研究開発が進められている。この符号化方式を用いるディジタル放送では、２０メガ前後のビットレートで、原画像と同等の高品質な画像が受像できる。ただ、画像信号の多くはインタレース走査であるため、これに起因したラインフリッカやペアリングなどのインタレース妨害による画質劣化が発生するという問題が残る。

一方、インタレース妨害を低減する技術として、インタレース走査で抜けた走査線の信号を補間処理で生成してノンインタレース走査の信号で表示するインタレース〜ノンインタレース変換が知られている。ただ、補償信号の生成に、画像の動きに応じて特性を変化させる動き適応の信号処理が必要になる。しかし、動きの情報はインタレース走査の信号で検出するために検出もれや誤検出が発生し、これに起因した画像劣化が発生するという問題がある。

したがって、ディジタル放送の復号画像に対して上述のインタース妨害の低減技術をほどこしても、画質改善の効果は少なく、高品質というディジタル放送の特長を充分に生かすことができないという問題点がある。

特開平９−１８２０３２号公報

本発明の目的は、上記の問題点の解決を図り、インタレース妨害の発生がほとんどなく、高品質・高精細な画像で受像できる映像信号の符号化・復号化方式および装置を提供することにある。

上記目的を達成するため、本発明においては、復号化部ではインタレース〜ノンインタレース変換に動き補償の走査変換信号処理を採用する。そして、この信号処理に必要な動き検出は、動き補償予測符号化で使用する動きべクトルをもとに行なう。

また、符号化部の動き補償予測符号化では、動き補償の走査変換処理にも適した形態の動きベクトルを抽出する信号処理、あるいは、復号化部では復号した動きベクトルから動き補償の走査変換処理に適した形態の動きベクトルを選別する信号処理を採用する。

さらに、動き補償のフレーム間差分信号の絶対値の大小に応じて、動き補償の補間信号と、従来技術の動画像の補間信号との混合比を変化させる適応処理を採用する。

本発明らおける動き補償の予測符号化および動き補償の走査変換処理について、図１，図２の動作概略図をもとに説明する。

図１は、映像信号がインタレース走査で、動きが垂直方向の時の動作を示す。

同図（ａ）のフレーム間の予測符号化では、例えば、インタレース走査の第１フィールドの信号系列、第２フィールドの信号系列に対して、１フレーム期間での動きベクトルＶ（水平Ｖ_x，垂直Ｖ_y）を抽出する。なお、後述する動き補償の走査変換処理に整合する様に、動きベクトルＶは、Ｖ_x＝２ｍ，Ｖ_y＝２ｎ（ｍ＝０，±１，±２，…，ｎ＝０，±１，±２，…）の組み合せのもので抽出する。
そしと、この動きベクトルＶで動き補償して生成した予測信号と、原信号との差分を予測誤差信号として検出する。例えば、動きベクトルＶ₀では、走査線ａと１，Ｖ₁では走査線ａと２，Ｖ₂では走査線ａと３との信号の差分を予測誤差信号として検出する。

一方、動き補償の走査変換処理では、インタレース走査で抜けた走査線（図中の黒丸で示す補間走査線）の信号を、動きベクトルＶをもとに生成する。例えば、第１（２）フィールドの補間走査線ａ（ａ′）は、動きベクトルＶ₀では第２（１）フィールドの走査線αとα′から（α＋α′）／２、Ｖ₁では走査線βとβ′）／２，Ｖ₂では走査線γとγ′から（γ＋γ′）／２の補間信号を生成する。そして、この補間信号で、インタレース〜ノンインタレース変換を実現する。

なお、予測符号化での動きベクトルＶに対してＶ_x＝２ｍ，Ｖ_y＝２ｎの制約をもうけない場合には、動き補償の走査変換処理では動きベクトルＶのうちＶ_x＝２ｍ，Ｖ_y＝２ｎの条件を満すものを選別する。そして、この動きベクトルをもとに、上述した補間信号を生成する。

同図（ｂ）に示すフィールド間の予測符号化では第１（２）フィールドの信号系列に対して、１フィールド期間での動きベクトルを抽出し、この動きベクトルで動き補償して生成した予測信号と、第２（１）フィールドの信号との差分を予測誤差信号として検出する。

動き補償の走査変換処理では、動きベクトルＶのうち、その成分がＶ_x＝ｍ，Ｖ_y＝ｎの条件を満すものを選択する。そして、選別した動きベクトルをもとに、インタレース走査で抜けた走査線（図中の黒丸で示す補間走査線）の信号を生成する。例えば第１（２）フィールドの補間走査線ａ（ａ′）は、動きベクトルＶＶ₀′では第２（１）フィールドの走査線α，Ｖ₁′では走査界線β，Ｖ₂′では走査線αで、補間信号を生成する。

以上に述べた様に、本発明では動き補償の走査変換処理に適した動きベクトルを用いることで、理想に近い補間信号が生成できる。一方、動き補償の走査変換処理の条件を満す動きベクトルがない場合は、従来技術と同様の動き適応の信号処理で補間信号を生成する。

なお、動き補償の走査変換処理では、補間の精度は動きベクトルに左右される。このため、動きベクトルの精度が悪いと画像が劣化することが予想される。しかしながら、動き補償のフレーム間差分信号の成分が大きい領域は、従来技術と同様に動き適応の信号処理に変更することで、この種の画質の劣化は回避できる。そして、本発明では、従来技術に比較して、インタレース妨害が極めて少なく、かつ、解像度が高い高品質な走査変換が達成できる。

さて、映像信号には、ノンインタレース走査のものもある。例えばシネマ画像やコマーシャルフィルムは毎秒２４フレームもしくは３０フレームのノンインタレース走査のシ信号とみなすことができる。この値の信号では、大面積フリッカを回避するため、フレーム数変換の処理で例えば毎秒６０フレームの信号に変換して表示する。

第２は、この種のノンインタレース走査の映像信号に対する本発明の動き補償の予測符号化および動き補償の走査変換の概略図である。

予測符号化では、フレーム間での動きベクトルＶを抽出し、この動きベクトルで動き補償した前フレームの信号と現フレームの信号との差分を予測誤差信号として検出する。例えば、動きベクトルＶ₀では走査線ａと１，Ｖ₁では走査線ａと２、Ｖ₂では走査線ａと３との差分を予測誤差信号として検出する。

一方、動き補償の走査変換処理では、同図に示す動きベクトルで図中の黒丸で示す補間走査線の信号を生成し、例えば標準モードはフレーム数の３０〜６０変換、シネマモードでは２４〜６０変換を実現する。すなわち、標準モードでは、補間走査線ａは、動きベクトルＶ₀では走査線αとα′から（α＋α′）／２、Ｖ₂では走査線βとβ′から（βとβ′）／２、Ｖ₄では走査線γとγ′から（γ＋γ′）／２の補間信号を生成する。一方、シネマモードでは、補間走査線ａは、動きベクトルＶ₀では走査線αとα′から（α＋α′）／２、Ｖ₃では走査線βとβ′から（β＋β′）／２の補間信号を生成する。また、補間走査線ａ′は、動きベクトルＶ₀では走査線γとγ′から（γ＋γ′）／２、Ｖ₄では走査線α′とα″から（α′＋α″）／２の補間信号を生成する。そして、動き補償の走査変換処理に適したこれら動きベクトルで、理想に近い補間信号を生成する。

なお、この動き補償の走査変換処理を行なうに適したう動きベクトルがない場合は、従来と同様に、前フレームの信号、あるいは前後のフレームの信号の平均値などで、補間信号を生成する。

また、動き補償の走査変換処理は、動き補償のフレーム間差分信号の成分が小さな領域に対して行なう。そして、動きベクトルの精度の悪さに起因する画質の劣化を回避する。

したがって、本発明では、従来に比較して、解像度が高く、かつ、ジャダー妨害（動きの滑らかさが損なられる妨害）の少ないフレーム数変換の走査変換が達成できる。

本発明によれば、インタレース妨害やジャダー妨害のない高品質・高精細な画像を受像できる画像信号の符号化・復号化方式および装置が実現でき、画像の画質改善や向上に顕著な効果が得られる。

本発明の第１の実施例について、図３に示す全体ブロック構成図により説明する。本実施例は、符号化部の動き補償予測符号化で用いる動きベクトルを、動き補償の走査変換処理に適した形態のものに制限して符号化を行なうに好適なものである。なお、本実施例では、フレーム間の動き補償予測符号化とＤＣＴ変換（離散コサイン変換）の直交変換符号化を組み合せたビデオ符号化の場合を例に説明する。

同図（ａ）の符号化部では、画像信号ＶＳは前処理部１に入力し、ディジタル化、および、画像情報ＰＩ（画像フォーマットや符号化モードなどの情報）にもとづいた所定の画像フォーマット変換を行ない、符号化画像信号系列Ｓ１を生成する。例えば、ＭＰＥＧ１，２に準拠したビデオ符号化では、Ｓ１は、６つのブロック（４つの輝度信号ブロックと２つの色差信号ブロック、ブロックサイズは８画素×８ライン）で構成されるマクロブロックの信号系列になる。

符号化画像信号系列Ｓ１は、所定の符号化モードに従い、フレーム内符号化フレーム（Ｉピクチャと略称）はＤＣＴ変換符号化、フレーム間符号化フレーム（Ｐピクチャと略称）は動き補償フレーム間予測符号化とＤＣＴ変換符号化する。
図４は、インタレース走査の画像信号に対する符号化モードの概略図である。同図（ａ）の偶数／奇数フィールドの独立符号化では、第１フィールドの信号、第２フィールドの信号でそれぞれ符号化フレームの系列を構成して符号化する。また、同図（ｂ）の順次走査変換後の符号化では、第１フィールドの信号と第２フィールドの信号とを合成して符号化フレームの系列を構成し、符号化を行なう。
一方、同図（ｃ）のフレーム間／フィールド間適応予測符号化では、第１フィールドの信号、第２フィールドの信号からなる符号化フレームの系列に対して、フレーム間とフィールド間の予測誤差信号の小さい方を選択して符号化する。以下では、同図（ａ）の独立符号化を例に、符号化の動作を説明する。

スイッチ４，１１は、Ｉピクチャの符号化モードでは端子ａ、Ｐピクチャの符号化モードでは端子ｂに接続して符号化処理を行なう。すなわち、スイッチ４は、Ｉピクチャの時は原画像の符号化画像信号系列Ｓ１、Ｐピクチャ時は、減算部３で信号系列Ｓ１からＭＣ信号生成部１３で生成するフレーム間動き補償予測信号系列Ｓ１０を減算して得られるフレーム間予測誤差信号系列Ｓ２を、信号Ｓ３に出力する。

ＤＣＴ部５は、信号Ｓ３の各ブロック（８画素×８ライン）の信号に対して、８行×８列のＤＣＴ変換行列との行列演算を行ない、変換係数信号系列Ｓ４を生成する。量子化部６は、所定の特性で変換係数の量子化処理を行ない、係数量子化信号系列Ｓ５を生成する。なお、量子化の特性は、バッファ部１６のバッファ滞留量に応じて制御し、所定の伝送ビットレートを確保する。

逆量子化部８は、逆量子化処理で変換係数信号系列Ｓ６を復号し、ＩＤＣＴ部９は８行×８列のＤＣＴ変換逆行列との行列演算を行ない、Ｉピクチャ時は符号化画像信号系列、Ｐピクチャ時はフレーム間予測誤差信号系列の信号Ｓ７を復号する。そして、加算部１０は、フレーム間動き補償予測信号系列Ｓ１０との加算を行ない、Ｐピクチャ時の符号化画像信号系列を復号する。スイッチ１１は、Ｉピクチャ時は端子ａ、Ｐピクチャ時は端子ｂに接続し、復号した符号化画像信号系列Ｓ８を出力する。フレームメモリ部１２では１フレームの期間遅延させた信号Ｓ９を生成する。

動きベクトル検出部２は、画像情報ＰＩに応じて、復号化部での動き補償の走査変換処理にも整合した動きベクトルＭＶを抽出する。すなわち、画像信号がインタレース走査では図１の走査線補間に示した様に、フレーム間符号化では動きベクトルＶ₀，Ｖ₁，Ｖ₂（Ｖ_x＝２ｍ，Ｖ_y＝２ｎ）を抽出する。また、画像信号がノンインタレース走査では図２の走査線補間に示した動きベクトルを抽出する。なお、動きベクトルは、ブロックマッチング法などで抽出する。そして、ＭＣ信号生成部１３は、動きベクトルＭＶで信号Ｓ９に動きの補償処理を行ない、フレーム間動き補償予測信号系列Ｓ１０を生成する。

ＶＬＣ部７，１４は、係数量子化信号系列Ｓ５と動きベクトルＭＶに所定の可変長符号化処理を行ない、符号化画像データ系列Ｓ１１と、符号化動きベクトル系列Ｓ１２とを生成する。そして、多重部１５では、画像情報ＰＩの符号化パラメタなどの各種データと、符号化画像データ系列Ｓ１１と、符号化動きベクトル系列Ｓ１２を時分割に多重する処理を行ない、生成した符号化データ系列Ｓ１３をバッファ部１６に入力する。

バッファ部１６から一定のビットレートで信号を読み出し、符号化ビットストリーム信号ＰＣＤを生成する。なお、図面には明示していないが、この信号ＰＣＤは伝送媒体に応じた符号誤り対策やディジタル変調などの所定のチャネル符号化（例えばディジタル放送などでは多値ＱＡＭや多値ＶＳＢなどのディジタル変調）して伝送する。

同図（ｂ）の復号化部では、チャネル復号化して復号した復号化ビットストリーム信号ＰＣＤは、バッファ部１７に入力する。そして、バッファ部より読み出した符号化データ系列Ｓ１３は、ＤＭＰＸ部１８で、符号化画像データ系列Ｓ１１と、符号化動きベクトル系列Ｓ１２と、画像情報ＰＩの符号化パラメタ等の各種データとを分離する。

ＩＶＬＣ部１９，２０は、可変長符号の復号処理を行ない、係数量子化信号系列Ｓ５と、動きベクトルＭＶとを復号する。

逆量子化部８は、逆量子化処理で変換係数信号系列Ｓ４を復号し、ＩＤＣＴ部９は、８行×８列のＤＣＴ変換逆行列との行列演算を行なう。そして、Ｉピクチャ時の復号では符号化画像信号系列、Ｐピクチャ時の復号ではフレーム間予測誤差信号系列に対応する信号Ｓ３を復号する。加算部２１は、ＭＣ信号生成部２４で生成するフレーム間動き補償予測信号系列Ｓ１０を加算し、Ｐピクチャ時の符号化画像信号系列Ｓ１４を復号する。スイッチ２２は、Ｉピクチャ時は端子ａ、Ｐピクチャ時は端子ｂに接続し、その出力に復号した符号化画像信号系列Ｓ１５を得る。

フレームメモリ部２３は、１フレームの期間遅延させた信号Ｓ９を生成し、ＭＣ信号生成部２４は、この信号に対して動きベクトルＭＶによる動きの補償処理を行ない、フレーム間動き補償予測信号系列Ｓ１０を生成する。

ＭＣ補間部２５は、動きベクトルＭＶと、画像情報ＰＩと、信号Ｓ３のフレーム間予測誤差信号系列をもとに、図１′、あるいは図２に示す様な動き補償の走査変換処理を行ない、メイン信号系列Ｓ１６と補間信号系列Ｓ１７とを生成する。なお、この動作の詳細については後述する。

後処理部２６は、画像フォーマットの変換処理、インタレース〜ノンインタレース走査変換あるいはフレーム数変換の処理、および、アナログ信号への変換を行ない、ノンインタレース走査の画像信号ＶＳＤを復号する。この信号はノンインタレース走査の画像表示部（図面には明示せず）に呈示し、高品質・高精細な画像を受像する。

以上で全体ブロック構成による説明を終え、つぎに、ＭＣ補間部２５について、図５乃至図８に示す実施例をもとに説明する。

図５は、この第１の構成例図で、動き補償の走査変換処理に用いる動きベクトルの精度が極めて高い場合に好適なものである。

復号した符号化画像信号系列Ｓ１５は、フィールドメモリ部２７−１と、ＭＣＩＰ部２９とに入力する。フィールドメモリ部は１フィールド期間の信号の遅延を行なう。そして、この出力信号でメイン信号系列Ｓ１６を生成する。また、この信号をフィールドメモリ部２７−２で１フィールド期間遅延させ、信号Ｓ１５に対して１フレーム期間遅延した信号Ｓ９を生成する。なお、同図の点線で囲んだ部分は、図１に示したフレームメモリ部２３に相当する。したがって、この部分をフレームメモリとして共用する形態で構成することもできる。

補間ＭＶ生成部２８は、画像情報ＰＩで動き補償の走査変換がインタレース〜ノンインタレース走査変換、フレーム数変換のいずれであるかを判別する。そして、前者の場合は図１、後者の場合は図２に示した様に、動きベクトルＭＶをもとに、動き補償の補間信号の生成に必要な補間動きベクトルＩＭＶを生成する。
例えば、図１（ａ）において、動きベクトルＭＶがＶ₀の場合には信号Ｓ９の走査線αと信号Ｓ１５の走査線α′の信号、Ｖ₁の場合には信号Ｓ９の走査部βと信号Ｓ１５の走査線β′の信号とを指定する補間動きベクトルＩＭＶを生成する。

ＭＣＩＰ部２９は、信号Ｓ９とＳ１５に対して、補間動きベクトルＩＭＶで指定する走査線の信号を取り出し、この両者の信号の平均値で動き補償の補間信号をつくり、補間信号系列Ｓ１７を生成する。

つぎに、この第２の構成例を図６，図７に示す。これは、動きベクトルの精度が若干悪い場合にも好適なものである。

図６に示す構成例図において、フィールドメモリ部２７−１と２７−２とでフレームメモリを構成し、第１の構成例と同様に、メイン信号系列Ｓ１６の信号と、動き補償の走査変換処理に使用する信号Ｓ１５、および、この信号に対して１フレーム期間遅延した信号Ｓ９を生成する。なお、同図の点線で囲んだ部分は、図３に示したフレームメモリ部２３に相当するため、図３の実施例ではこの部分を共用する形態で構成することもできる。

ＭＣ補間制御部３０は、動きベクトルＭＶと、画像情報ＰＩと、信号Ｓ３で得られる動き補償のフレーム間差分信号成分とで、動き補償の補間信号の生成に必要な補間動きベクトルＩＭＶと、動き適応係数ｋｍ，１−ｋｍを生成する。画像情報ＰＩで、動き補償の走査変換がインタレース〜ノンインタレース走査変換かフレーム数変換のいずれであるかを判別する。そして、前者では図１、後者では図２に示した様に、動き補償の補間信号の生成に必要な補間動きベクトルＩＭＶを生成する。ただし、第１の構成例とは異なり、この補間動きベクトルＩＭＶは、図７（ａ）に示す特性で生成する。ブロック（８画素×８ライン）単位に、信号Ｓ３の予測誤差信号、すなわち、動き補償のフレーム間差分信号成分の絶対値和Σ｜Ｓ３｜を計測する。そして、これが閾値Ｔｈ未満の時は動きベクトルの精度が高いと判断し、第１の構成例と同様に、動きベクトルＭＶをもとに補間動きベクトルＩＭＶを生成する。一方、Σ｜Ｓ３｜が閾値Ｔｈ以上では動きベクトルの精度が悪いと判断し、補間動きベクトルには０を生成する。また、動き適応係数ｋｍは、図７（ｂ）に示す様に、Σ｜Ｓ３｜の値に応じて０から１まで変化する特性の係数値を生成する。

ＭＣＩＰ部２９は、信号Ｓ９とＳ１５に対して、補間動きベクトルで指定する走査線の信号を取り出し、この両者の信号の平均値で動き補償の補間信号Ｓ１８を生成する。なお、動きベクトルの精度が悪い場合はＩＭＶ＝０であるので、信号Ｓ１８は、従来技術の静止モードの補間信号と同等のものになる。

フィールド内補間部３１は、信号Ｓ１６をもとにフイールド内演算処理を行ない、同一フィールド信号で従来技術の動画モードと同様な動画像の補間信号Ｓ１９を生成する。

係数加重部３２−１は、信号Ｓ１８に動き適応係数１−ｋｍ，係数加算部３２−２は信号Ｓ１９に動き適応係数ｋｍをそれぞれ係数加重する。そして、加算部３３で両者の信号を加算し、補間信号系列Ｓ１７を生成する。

つぎに、この第３の構成例を図８に示す。これは、動きベクトルの精度が相当に悪い場合にも好適なものである。

同図（ａ）の構成図において、フィールドメモリ部２７−１と２７−２とでフレームメモリを構成し、第１，第２の構成例と同様、メイン信号系列Ｓ１６の信号と、動き補償の走査変換処理に使用する信号Ｓ１５と、この信号を１フレーム期間遅延させた信号Ｓ９とを生成する。なお、同図の点線で囲んだ部分は、図３に示したフレームメモリ部２３に相当するので、図３の実施例ではこの部分を共用する形態で構成することもできる。

減算部３４は、信号Ｓ１５とＳ９との減算を行ない、フレーム間の差分信号Ｓ２０を生成する。

ＭＣ補間制御部３５は、動きベクトルＭＶと、画像情報ＰＩと、信号Ｓ３の動き補償のフレーム間差分信号成分と、フレーム間の差分信号Ｓ２０とで、補間動きベクトルＩＭＶと、動き適応係数ｋｍ，１−ｋｍを生成する。画像情報ＰＩで、動き補償の走査変換がインタレース〜ノンインタレース走査変換かフレーム数変換のいずれであるかを判別する。そして、前者の時は図１、後者の時は図３に示した動き補償の補間信号の生成に必要な補間動きベクトルを、同図（ｂ）に示す特性で生成する。すなわち、Ｉピクチャでは補間動きベクトルにＩＭＶ＝０を生成する。一方、Ｐピクチャでは、動き補償のフレーム間差分信号成分の大小で生成する。すなわち、ブロック（８画素×８ライン）単位に、信号Ｓ３の絶対値和Σ｜Ｓ３｜を計測する。そして、これが閾値Ｔｈ未満の時は、動きベクトルの精度が高いと判定し、動きベクトルＭＶをもとに対応する補間動きベクトルを生成する。一方、閾値Ｔｈ以上では動きベクトルの精度は悪いと判定し、補間動きベクトルにはＩＭＶ＝０を生成する。また、動き適応係数ｋｍは、ＰピクチャではΣ｜Ｓ３｜の大小、Ｉピクチャではフレーム間の差分信号の絶対値｜Ｓ２０｜の大小で、０から１の範囲で変化する係数値を生成する。

ＭＣＩＰ部２９は、信号Ｓ９とＳ１５に対して、補間動きベクトルで指定する走査線の信号を取り出し、この両者の信号の平均値で動き補償の補間信号Ｓ１８を生成する。なお、ＩピクチャおよびＰピクチャで動きベクトルの精度が悪い場合は、ＩＭＶ＝０であるので、信号Ｓ１８は従来技術の静止モードの補間信号との同等のものになる。

フィールド内補間部３１は、信号Ｓ１６をもとにフィールド内演算処理を行ない、従来技術と同様に同一フィールドの信号で動画モードに対応する動画像の補間信号Ｓ１９を生成する。

係数加重部３２−１と３２−２では、信号Ｓ１８とＳ１９にそれぞれ動き適応係数１−ｋｍ，ｋｍの係数値を加重し、加算部３３で両者の信号を加算して、補間信号系列Ｓ１７を生成する。

なお、第２，第３の構成例における動き適応係数ｋｍは、図示した様に係数値が段階的に変化する特性で実現することが望ましいが、場合によっては０か１かの２値特性で実現することもできる。

つぎに、後処理部２６の一構成例を図９により説明する。メイン信号系列Ｓ１６と、補間信号系列Ｓ１７は、画像フォーマット変換部３６−１，３６−２に入力し、符号化画像信号系列からもとの走査形態の画像信号のフォーマットへの画像フォーマット変換処理を行ない、輝度信号と２つの色差信号からなる画像系列ＶＭＳとＶＩＰとを復号する。水平時間圧縮部３７−１，３７−２は、画像情報ＰＩにより、インタレース〜ノンインタレース走査変換では水平方向に時間軸を１／２に圧縮する信号処理、フレーム数変換では例えば標準モードの３０〜６０変換は時間方向に時間軸を１／２に圧縮する信号処理を行なう。そして、時分割多重部３８では、両者の信号を時分割に多重し、ノンインタレース走査の形態の画像系列ＶＰを生成する。ＲＧＢ変換部３９は、所定のマトリクス演算の処理を行ない、３原色ＲＧＢ系の画像系列ＶＲに変換する。そして、ＤＡ変換部４０ではアナログ信号への変換を行ない、ノンインタレース走査の画像信号ＶＳＤを復号する。

なお、図３のその他のブロック部は、従来のＭＰＥＧ１，２のビデオ符号化の符号化部、復号化部と同様に構成すればよいので、説明は省略する。

以上に述べた様に、本実施例によれば、インタレース妨害あるいはジャダー妨害がなく、高品質・高精細な画像で受像する画像信号の符号化・復号化装置が実現でき、画質改善に顕著な効果が達成できる。

つぎに、本発明の第２の実施例について、図１０に示す全体ブロック構成図で説明する。本実施例は、復号化部で動きベクトルのうちの動き補償の走査変換処理に適したものを選別し、この選別した動きベクトルを用いてノンインタレース走査の画像信号を復号するに好適なものである。なお、本実施例では、フレーム間の動き補償予測符号化とＤＣＴ直交変換符号化を組み合せたＭＰＥＧ１，２に準拠するビデオ符号化の場合を例に説明する。

同図（ａ）の符号化部では、画像信号ＶＳは前処理部１でディジタル化、および所定の画像フォーマット変換を行ない、符号化画像信号系列Ｓ１を生成する。
すなわち、６つのブロック（４つの輝度信号ブロックと２つの色差信号ブロック、ブロックサイズは８画素×８ライン）で構成されるマクロブロックの信号系列を生成する。

スイッチ４と１１は、フレーム内のＤＣＴ符号化を行なう符号化モードがＩピクチャでは端子ａ、動き補償フレーム間予測符号化とＤＣＴ符号化を行なう符号化モードがＰピクチャでは端子ｂに接続する。そして、ＤＣＴ部５には、Ｉピクチャの時は原画像の符号化画像信号系列Ｓ１、Ｐピクチャ時はフレーム間予測誤差信号系列Ｓ２が、それぞれ、信号Ｓ３として入力される。なお、減算部３は、ＭＣ信号生成部１３で生成するフレーム間動き補償予測信号系列Ｓ１０と符号化画像信号系列Ｓ１との減算処理で、フレーム間予測誤差信号系列Ｓ２を生成する。

ＤＣＴ部５は、信号Ｓ３の各ブロック（８画素×８ライン）を単位に、８行×８列のＤＣＴ変換行列との行列演算を行ない、変換係数信号系列Ｓ４を生成する。量子化部６は、変換係数を量子化して係数量子化信号系列Ｓ５を生成する。なお、所定の伝送ビットレートを確保するため、バッファ部１６のバッファ滞留量に応じて特性を変更して量子化処理を行なう。

逆量子化部８は、逆量子化の処理で変換係数信号系列Ｓ６を復号し、ＩＤＣＴ部９は８行×８列のＤＣＴ変換逆行列との行列演算を行なう。そして、エピクチャ時は符号化画像信号系列、Ｐピクチャ時はフレーム間予測誤差信号系列の信号Ｓ７を復号する。加算部１０は、フレーム間動き補償予測信号系列Ｓ１０との加算処理を行ない、Ｐピクチャ時の符号化画像信号系列を復号する。スイッチ１１は、エピクチャ時は端子ａ、Ｐピクチャ時は端子ｂに接続し、その出力の復号した符号化画像信号系列Ｓ８はフレームメモリ部１２に入力し、その出力に１フレーム期間遅延させた信号Ｓ９を得る。

動きベクトル検出部４１では、ブロックマッチング法などで、１フレーム期間の動きベクトルＭＶを抽出する。なお、第１の実施例とは異なり、復号化部での動き補償の走査変換処理には不都合な動きベクトルも含まれる。ＭＣ信号生成部１３は、信号Ｓ９を動きベクトルＭＶで動きの補償処理を行ない、フレーム間動き補償予測信号系列Ｓ１０を生成する。

ＶＬＣ部７、１４は、係数量子化信号系列Ｓ５と動きベクトルＭＶに対して所定の可変長符号化の処理を行ない、符号化画像データ系列Ｓ１１と、符号化動きベクトル系列Ｓ１２を生成する。多重部１５は、信号系列Ｓ１１と、Ｓ１２と、画像情報ＰＩの符号化パラメタなどの各種データとを所定の時系列に多重する処理を行ない、その出力の符号化データ系列Ｓ１３をバッファ部１６に入力する。
そして、バッファ部１６から一定のビットレートで読み出し、符号化ビットストリーム信号ＰＣＤを生成する。なお、この信号ＰＣＤは、図面には明示していないが、伝送媒体に応じた符号誤り対策やディジタル変調など所定のチャネル符号化を行なって伝送する。

同図（ｂ）の復号化部では、チャネル復号化して復号した符号化ビットストリーム信号ＰＣＤは、バッファ部１７に入力する。そして、バッファ部より読み出した符号化データ系列Ｓ１３は、ＤＭＰ×部１８で、符号化画像データ系列Ｓ１１と、符号化動きベクトル系列Ｓ１２と、画像情報ＰＩの各種データとに分離する。

ＩＶＬＣ部１９，２０は、可変長符号の復号化処理を行ない、係数量子化信号系列Ｓ５と、動きベクトルＭＶをそれぞれ復号する。

逆量子化部８は、逆量子化の処理で変換係数信号系列Ｓ４を復号し、ＩＤＣＴ部は、８行×８列のＤＣＴ変換逆行列との行列演算を行なう。そして、エピクチャ時では符号化画像信号系列、Ｐピクチャ時ではフレーム間予測誤差信号系列にそれぞれ対応した信号Ｓ３を復号する。また、加算部２１は、ＭＣ信号生成部２４で生成したフレーム間動き補償予測信号系列Ｓ１０を加算し、その出力にＰピクチャ時の符号化画像信号系列Ｓ１４を生成する。そして、スイッチ２２は、エピクチャ時は端子ａ、Ｐピクチャ時は端子ｂに接続し、その出力には復号した符号化画像信号系列Ｓ１５を得る。

フレームメモリ部２３は、入力信号を１フレーム期間遅延させた信号Ｓ９を生成する。そして、ＭＣ信号生成部２４は、この信号Ｓ９を動きベクトルＭＶで動きの補償処理を行ない、フレーム間動き補償予測信号系列Ｓ１０を生成する。

ＭＶセレクト部４２は、画像情報ＰＩに応じて、動きベクトルＭＶのうち、動き補償の走査変換処理に整合するものを選別する処理を行なう。すなわち、画像信号がインタレース走査では、図１１の走査線補間に示した様な動きベクトルＶ₀，Ｖ₁，Ｖ₂を、ノンインタレース走査では図２の走査線補間に示した様な動きベクトルが選出される領域はＨ、選出されない領域はＬの信号の選別領域信号ＭＣＭを生成する。

ＭＣ補間部４３は、選別動きベクトルＭＶ’と、選別領域信号ＭＣＭと、画像情報ＰＩと、信号Ｓ３のフレーム間予測誤差信号系列とで図１や図２に示した動き補償の走査変換処理を行ない、メイン信号系列Ｓ１６と補間信号系列Ｓ１７とを生成する。なお、この構成ならびに動作については後に詳述する。

後処理部２６は、画像フォーマットの変換処理、メイン信号系列Ｓ１６と補間信号系列Ｓ１７とによるインタレース〜ノンインタレース走査変換やフレーム数変換の処理、アナログ信号への変換の処理を行ない、ノンインタレース走査の画像信号ＶＳＤを復号する。そして、この信号は、ノンインタレース走査の画像表示部（図面には明示せず）に表示して、高品質・高精細な画像を受像する。

図１１は、ＭＣ補間部４３の一構成例図である。フィールドメモリ部２７−１と２７−２は１フィールド期間の信号遅延を行ない、同図の点線で囲んだ部分がフレームメモリに相当する構成で、メイン信号系列Ｓ１６と、動き補償の走査変換処理に使用する信号Ｓ１５、およびこの信号を１フレーム期間遅延させた信号Ｓ９とを生成する。

動き検出部４４は、信号Ｓ１５とＳ９との減算処理でフレーム間の差分成分を抽出し、この差分成分をもとにフレーム間の動き情報ＭＩ（静止時は０）を生成する。

ＭＣ補間制御部４５は、動き補償の補間信号の生成に必要な補間動きベクトルＩＭＶと、動き適応係数ｋｍ、１−ｋｍを生成する。この動作概略図を図１２に示す。同図（ａ）の第１の特性では補間動きベクトルは、選別領域信号ＭＣＭがＨの時は、選別動きベクトルＭＶ’をもとに、インタレース〜ノンインタレース走査変換では図１、フレーム数変換では図２に示した動き補償の補間信号の生成に必要なＩＭＶを生成する。一方、選別領域信号ＭＣＭがＬの時は、補間動きベクトルには０を生成する。また、動き適応係数ｋｍは、選別領域信号ＭＣＭがＨの時はｋｍ＝０、Ｌの時にはフレーム間の動き情報ＭＩのレベルに応じて０から１まで変化する特性の係数値を生成する。したがって、この特性では、選別領域信号ＭＣＭがＨの領域では動き補償の走査変換処理、Ｌの領域では従来技術と同様の動き適応処理で補間信号を生成する。

一方、同図（ｂ）の第２の特性では、補間動きベクトルは、選別領域信号ＭＣＭがＨで、信号Ｓ３の予測誤差信号、すなわち、動き補償のフレーム間差分信号成分の絶対値和Σ｜Ｓ₃｜（例えば８画素×８ラインのブロック単位）が閾値Ｔｈ未満の場合に、選別動きベクトルＭＶ’をもとに生成する。これ以外の場合には、補間動きベクトルには０を生成する。また、動き適応係数ｋｍは、選別領域信号がＨの領域では、Σ｜Ｓ₃｜の値に対応して０から１まで変化する特性の係数値、選別領域信号がＬの領域では、フレーム間の動き情報ＭＩに対応して０から１まで変化する特性の係数値を生成する。

図１１にもどり、ＭＣＩＰ部２９は、補間動きベクトルＩＭＶで指定する信号Ｓ９と信号Ｓ１５の走査線の信号を取り出し、この両者の信号の平均値で動き補償の補間信号Ｓ１８を生成する。なお、ＩＭＶ＝０の場合には、信号Ｓ１８では従来技術における静止モードと同等の補間信号を生成することになる。

フィールド内補間部３１は、信号Ｓ１６をもとにフィールド内演算処理を行ない、同一フィールドの信号で従来技術の動画モードと同様な動画像の補間信号Ｓ１９を生成する。

係数加重部３２−１は信号Ｓ１８に動き適応係数１−ｋｍ、係数加重部３２−２は信号Ｓ１９に動き適応係数ｋｍをそれぞれ係数加重する。そして、両者の信号は加算部３３で加算して、補間信号系列Ｓ１７を生成する。

なお、図中の点線で囲んだ部分は、図１０のフレームメモリ部２３に相当する。このため、図１０の実施例において、この部分を共用する形態で構成することもできる。

以上に述べた様に、本実施例によれば、インタレース妨害やジャダー妨害がなく、高品質・高精細な画像で受像できる画像信号の符号化・復号化装置ができ、画質改善に顕著な効果がえられる。また、本実施例に示した復号化部の構成は、先の第１の実施例における復号化部として用いることもできる。

さて、本発明においては、復号化部の構成は第１、第２の実施例の他にも、様々な形態で実現することが可能である。

図１３は、復号化部の第３の実施例の全体ブロック構成図である。

チャネル復号化した符号化ビットストリーム信号ＰＣＤは、バッファ部１７に入力する。そして、バッファ部から読み出した符号化データ系列Ｓ１３は、ビデオ復号化部４６に入力する。ビデオ復号化部は図３、図１０の点線で囲んだ部分に相当し、前述したビデオ復号化の処理を行ない、復号した符号化画像信号系列Ｓ１５と、動きベクトルＭＶと、信号Ｓ３のＰピクチャ時のフレーム間予測誤差信号系列と、画像情報ＰＩとを出力する。

画像フォーマット変換部４７は、符号化画像信号系列に対して画像フォーマット変換の処理を行ない、もとの走査形態の画像信号系列ＶＦＣを生成する。

ＭＣ補間部４８は、インタレース〜ノンインタレース走査変換では図１、フレーム数変換では図２に示した動き補償の走査変換処理を行ない、メイン信号系列Ｓ１６と補間信号系列Ｓ１７とを生成する。すなわち、図５乃至図８と同様な構成で、動きベクトルＭＶをもとに生成した補間動きベクトルＩＭＶ、および信号Ｓ３より検出する動き補償のフレーム間差分信号で生成した動き適応係数ｋｍ、１−ｋｍを用いて、補間信号系列Ｓ１７をつくる。

ノンインタレース系列変換部４９は、画像情報ＰＩにより、インタレース〜ノンインタレース走査変換の場合はメイン信号系列Ｓ１６と補間信号系列Ｓ１７を水平方向に１／２に時間軸を圧縮する処理、フレーム数変換の例えば標準モードの３０〜６０変換の場合は時間方向に１／２に時間軸を圧縮する処理を行なう。
そして、圧縮した両者の信号を時系列に多重してノンインタレース走査の信号を生成し、３原色ＲＧＢ変換、アナログ変換を行ない、ノンインタレース走査の画像信号ＶＳＤを復元する。

本実施例は、符号化部での動き補償予測符号化において、動き補償の走査変換処理に適した形態の動きベクトルでビデオ符号化したものに好適なもので、インタレース妨害やジャダー妨害のない高品質・高精細な画像で受像する復号化装置が実現できる。

図１４は、復号化部の第４の実施例の全体ブロック構成図である。

チャネル復号化した符号化ビットストリーム信号ＰＣＤは、バッファ部１７に入力する。そして、バッファ部から読み出した符号化データ系列Ｓ１３は、ビデオ復号化部４６に入力する。これは、図３、図１０の点線で囲んだ部分に相当し、前述したビデオ復号化の処理を行なって、復号した符号化画像信号系列Ｓ１５と、動きベクトルＭＶと、信号Ｓ３のＰピクチャ時のフレーム間予測誤差信号系列（動き補償のフレーム間差分信号に相当）と、画像情報ＰＩとを出力する。

ＭＶセレクト部４２は、画像情報ＰＩに応じて、動きベクトルＭＶから動き補償の走査変換処理に整合するものを選別する処理を行なう。すわなち、画像信号がインタレース走査では図１の走査線補間に示した動きベクトル、ノンインタレース走査では図２の走査線補間に示した動きベクトルを選別動きベクトルＭＶ’として生成する。また、動きベクトルの選出が行なわれた領域はＨ、行なわれない領域はＬの選別領域信号ＭＣＭを生成する。

画像フォーマット変換部４７は、符号化画像信号系列からもとの走査形態の信号系列に変換する画像フォーマット変換の処理を行ない、画像信号系列ＶＦＣを生成する。

ＭＣ補間部５０は、動き補償の走査変換処理、すなわち、インタレース〜ノンインタレース走査変換では図１、フレーム数変換では図２に示した信号処理を行ない、メイン信号系列Ｓ１６と補間信号系列Ｓ１７とを生成する。これは、図１１、１２に示す構成、特性によって実現できる。そして、補間動きベクトルＩＭＶと、動き適応係数ｋｍ、１−ｋｍを用いて、補間信号系列Ｓ１７を生成する。

ノンインタレース系列変換部４９は、メイン信号系列Ｓ１６と補間信号系列Ｓ１７の時間軸圧縮の処理を行なう。すなわち、画像情報ＰＩにより、インタレース〜ノンインタレース走査変換の場合は水平方向に１／２、フレーム数変換の例えば標準モードの３０〜６０変換では時間方向に１／２の圧縮を行なう。そして、圧縮した両者の信号を時系列に多重してノンインタレース走査の信号を生成し、３原色ＲＧＢ変換、アナログ変換を行ない、ノンインタレース走査の画像信号ＶＳＤを復号する。

本実施例によれば、インタレース妨害やジャダー妨害のない高品質・高精細な画像で受像する復号化装置が実現できる。

以上に述べた実施例の説明では、ビデオ符号化としてフレーム間の動き補償予測符号化とＤＣＴ変換符号化の組み合せを例に述べたが、これに限定されることなく、種々の形態の動き補償予測符号化と直交変換符号化との組み合せによる符号化にも適用できることは明らかである。

本発明の第１の実施例の全体ブロック構成図。 動き補償の予測符号化と走査線補間の原理概略図。 動き補償の予測符号化と走査線補間の原理概略図。 符号化モードの概略図。 ＭＣ補間部の第１の構成例図。 ＭＣ補間部の第２の構成例図。 ＭＣ補間制御部の動作概略図。 ＭＣ補間部の第３の構成例図。 後処理部の一構成例図。 本発明の第２の実施例の全体ブロック構成図。 第２の実施例におけるＭＣ補間部の一構成例図。 第２の実施例におけるＭＣ補間制御部の特性概略図。 本発明の復号化部の第３の実施例の全体ブロック構成図。 本発明の復号化部の第４の実施例の全体ブロック構成図。

符号の説明

１…前処理部、２，４１…動きベクトル検出部、３，３４…減算部、４，１１２２…スイッチ、５…ＤＣＴ部、６…量子化部、７，１４…ＶＬＣ部、８…逆量子化部、９…ＩＤＣＴ部、１０，２１，３３…加算部、１２，２３…フレームメモリ部、１３，２４…ＭＣ信号生成部、１５…ＭＰＸ部、１６，１７…バッファ部、１８…ＤＭＰＸ部、１９，２０…ＩＶＬＣ部、２５，４３，４８，５０…ＭＣ補間部、２６…後処理部、２７…フィールドメモリ部、２８…補間ＭＶ生成部、２９…ＭＣＩＰ部、３０，３５，４５…ＭＣ補間制御部、３１…フィールド内補間部、３２…係数加重部、３６，４７…画像フォーマット変換部、３７…水平時間圧縮部、３８…時分割多重部、３９…ＲＧＢ変換部、４０…ＤＡ変換部、４２…ＭＶセレクト部、４４…動き検出部、４６…ビデオ復号化部、４９…ノンインタレース系列変換部。

Claims (7)

1. 画像信号を動き補償予測符号化と直交変換符号化とを組み合せたヒデオ符号化で高能率符号化した信号を送受信する画像信号の符号化・復号化方式および装置において、
   符号化部に、動き補償の走査変換処理に適する動きベクトルを抽出する手段、復号化部に、復号した画像信号のインタレース〜ノンインタレース変換もしくはフレーム数前鉢を行なう走査変換の手段を設け、
   上記走査変換では復号した動きベクトルをもとに補間走査線の信号を生成する動き補償の走査変換信号処理を行なうことを特徴とする画像信号の符号化・復号化方式および装置。
2. 画像信号を動き補償予測符号化と直交変換符号化とを組み合せたビデオ符号化で高能率符号化した信号を送受信する画像信号の符号化・復号化方式および装置において、
   復号化部に、復号した動きベクトルより動き補償の走査変換に適する動きベクトルを選別する手段と、復号した画像信号のインタレース〜ノンインタレース変換もしくはフレーム数変換を行なう走査変換の手段とを設け、
   上記走査変換では選別した動きベクトルをもとに補間走査線の信号を生成する動き補償の走査変換信号処理を行なうことを特徴とする画像信号の符号化・復号化方式および装置。
3. 請求項１項に記載の信号の動き補償の走査変換信号処理とは、動き補償のフレーム間差分信号の絶対値が閾値Ｔｈ未満は復号した植きベクトル、閾値Ｔｈ以上は零の動きベクトルで生成する動き補償の補間信号と、フィールド内の信号処理で生成する動画像の補償信号とを、動き補償のフレーム間差分信号の絶対値の大小に応じて、上記動き補償の補償の補間信号と上記動画像の補間信号との混合快を変化させて補間走査線の生成を行なうことを特徴とする画像信号の符号化・復号化方式および装置。
4. 符号化モードがフレーム内符号化（エピクチャ）の画像信号ではフレーム間の差分信号の絶対値の大小、符号化モードがフレーム間符号化（Ｐピクチャ）の画像信号では動き補償のフレーム間差分信号の絶対値の大小に応じて、動き補償の補間信号と動画像の補間信号との混合比を変化させて補間走査線の信号の生成を行なうことを特徴とする請求項３項に記載の画像信号の符号化・復号化方式および装置。
5. 請求項２項に記載の動き補償の走査変換信号処理とは、動きベクトルを選別した領域は選別した動きベクトル、選別されない領域は零の動きベクトルで生成する動き補償の補間信号と、フィールド内の信号処理で生成する動画像の補間信号とを、上記動きベクトルを選別した領域は動き補償の補間信号、上記選別されない領域はフレーム間の差分信号の絶対値の大小に応じて動き補償の補間信号と動画像の補間信号との混合比を変化させた信号、により補間走査線の信号の生成を行なうことを特徴とする画像信号の符号化・復号化方式および装置。
6. 請求項２に記載の動き補償の走査変換信号処理とは、動きベクトルを選別し、かつ、動き補償のフレーム間差分信号の絶対値が閾値Ｔｈ未満の領域は選別した動きベクトル、上記以外の領域は零の動きベクトルで生成する動き補償の補間信号と、フィールド内の信号処理で生成する動画像の補間信号とを、動きベクトルを選別した領域は動き補償のフレーム間差分信号の絶対値の大小，動きベクトルが選別されない領域はフレーム間の差分信号の絶対値の大小に応じて、動き補償の補間信号と動画像の補間信号との混合比を変化させて補間走査線の信号の生成を行なうことを特徴とする画像信号の符号化・復号化方式および装置。
7. 動き補償予測符号化と直交変換符号化と組み合せたビデオ符号化とは、国際標準規格のＭＰＥＧ１もしくはＭＰＥＦ２のビデオ符号化方式に準拠した符号化であることを特徴とする請求項１項乃至６項に記載の画像信号の符号化・復号化方式および装置。
   

Images