JP3582195B2 - 動画像処理方法 - Google Patents
動画像処理方法 Download PDFInfo
- Publication number
- JP3582195B2 JP3582195B2 JP35264095A JP35264095A JP3582195B2 JP 3582195 B2 JP3582195 B2 JP 3582195B2 JP 35264095 A JP35264095 A JP 35264095A JP 35264095 A JP35264095 A JP 35264095A JP 3582195 B2 JP3582195 B2 JP 3582195B2
- Authority
- JP
- Japan
- Prior art keywords
- field
- image
- signal
- fields
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Processing Or Creating Images (AREA)
- Synchronizing For Television (AREA)
Description
【発明の属する技術分野】
本発明は、冗長画像が含まれる動画像を処理する動画像処理方法に関し、特に、映画のフィルムのような原画像ソースを光学/電気変換して得られた動画像信号を処理するための動画像処理方法に関する。
【0002】
【従来の技術】
動画像を扱う複数の装置を接続し、動画像処理システムを組む場合において、動画像の同期を取る必要がある。一般にシステムの1の装置を基準とし、他の装置は追従させられる。この基準になる装置はマスタと呼ばれ、他はスレーブと呼ばれる。通常、マスタは動画像の供給源であるビデオカメラ、VTR、ビデオディスク、又はコンピュータである。これに対して、スレーブは、供給された動画像を処理する符号化装置(エンコーダ)、VTR、又はモニタ装置である。
【0003】
マスタから供給された同期信号は、システムの位相ロックループ(PLL:Phase Locked Loop)の基準クロックとして用いられる。
【0004】
具体的な動画像符号化システムの一例を図16に示す。
【0005】
この動画像符号化システムは、符号化器101のクロック、局所復号器102のクロック、表示クロックといった多くのクロックを有するが、この中で、動画像の供給源である画像入力装置10のディジタルVTR100から供給されるフレーム同期信号S2をマスタ・クロックとしている。
【0006】
ここで動画像符号化とは、動画像のディジタル伝送の際に、伝送コストの低減のために必須とされている技術である。
【0007】
例えば、画像処理部20は、符号化器101と局所復号器102よりなり、いわゆるMPEG2(ISO/IEC 13818−2)などで広く知られている動き補償予測とDCTを組み合わせたハイブリッド符号化方法を用いている。
【0008】
ここで入力画像S1は、例えば図17に示すように、30フレーム/秒(60フィールド/秒)や25フレーム/秒(50フィールド/秒)などのレートで与えられる。
【0009】
図中、網線で示したフィールドがトップフィールド(top field)又は奇数フィールド(odd field)であり、斜線で示したフィールドがボトムフィールド(bottom field)又は偶数フィールド(even field)である。この例では、必ず1フレームは一対のフィールドで構成される。したがって、フレーム同期信号S2は、それぞれのフレームと合致して、供給される。この場合、すべての入力画像は、図16の画像処理部20にて符号化され、符号化器101は、フレーム同期信号S2にロックして動作する。
【0010】
このように、入力画像S1に冗長なフィールドが含まれない場合には、フレーム同期信号S2を利用することで、動画像符号化システムは破綻を来すことなく動作をしていた。
【0011】
【発明が解決しようとする課題】
ところで図16において、入力画像S1に冗長画像が含まれる場合がある。
【0012】
この冗長画像とは、例えば映画フィルムを光学/電気変換してVTRに記録したような動画像に含まれる。すなわち、原画像ソースとしての映画フィルムのコマ数が毎秒24コマであるのに対して、NTSCのテレビジョン方式では、毎秒30フレーム(60フィールド)である。そこで不足する毎秒6フレーム(12フィールド)を補償するために、2コマについて1フィールドの割合で同一フィールドを繰り返すことで、2コマを5フィールドとし、24コマを60フィールドすなわち30フレームに変換している。この方法は、3:2プルダウンと呼ばれ、詳細は後述する。この繰り返されたフィールドは先のフィールドと同一であり、冗長画像となる。
【0013】
動画像符号化システムでは、冗長画像を検出し、これを符号化しないことで、データを削減する。したがって、図16の例において、図示しないものの、符号化器101では、その前処理において、冗長画像の検出を行い、ただ単に冗長画像について符号化を行わないようにしている。
【0014】
このような処理がなされる場合について、具体例を図18に示す。
【0015】
この例では、冗長画像は白抜きのフィールドで示され、符号化されない。
【0016】
ここで、白抜きのフィールドが奇数フィールドの場合には直前の奇数フィールドと同じであり、白抜きのフィールドが偶数フィールドの場合には直前の偶数フィールドと同じである。したがって、前処理で5フィールド毎に1フィールドを除去し、その上で連続する2フィールドから新しい入力フレームを作っている。
【0017】
この結果、次段の画像処理装置へ入力されるフレームのタイミングは、タイミングパルスS3で示すように、フレーム同期信号S2と非同期的となり、フレーム同期信号S2とロックしなくなる。そのため、フレーム同期信号S2を画像処理システムで利用する図16の動画像符号化システムでは、フレーム同期信号S2を、画像処理部20等で使用することができない。
【0018】
また、図17の通常の動画像のほかに、図18の冗長画像を含む動画像をも扱う場合、画像処理部20は、前処理する場合としない場合等で処理の複雑さが増すことになる。
【0019】
さらに、編集作業の結果、冗長画像が不規則に含まれるようになった動画像では、フレームのタイミングはより複雑に不規則に変化する場合も考えられる。そのような全てのタイミングに対応する画像処理装置は知られておらず、また作ることは困難であった。
【0020】
本発明はこのような実情に鑑みてなされたものであり、冗長画像が一定周期であるいは不規則に含まれる動画像を処理できるような動画像処理方法を提供することを目的とする。
【0021】
また、本発明は、画像入力装置から供給される画像同期入力をマスタ・クロックとする動画像処理システムにおいて、画像入力装置から供給される原入力動画像の中から冗長画像を取り除くなどの前処理のために、次段の画像処理装置へ入力される画像列が、図18に示すように、原入力動画像の同期入力にロック(lock)しない場合でも、原入力動画像の同期入力を、画像処理システムのマスタ・クロックにして、画像処理及び処理画像を出力できるための技術を提供することを目的とする。
【0022】
すなわち、入力フレーム(又はフィールド)同期信号を符号化器でも使えるようにするための技術を提供することを目的とする。
【0023】
【課題を解決するための手段】
上述の課題を解決するために、本発明に係る動画像処理方法は、原画像の1画面を2フィールド又は3フィールドで読み出して画像レートを変更する3:2プルダウン処理により生成されたディジタル動画像信号に符号化処理を施して、伝送する動画像処理方法において、入力されたディジタル動画像信号の現フィールド画像信号と遅延されたフィールド画像信号との相関を求めることにより冗長フィールド画像を検出する第1のステップと、複数のフィールド画像から検出された冗長フィールドを除去する第2のステップと、冗長フィールドが除去されたフィールド画像列の順序を並び替えると共に、無効信号を挿入することにより処理画像信号を生成する第3のステップと、処理画像信号に対して符号化処理を施す第4のステップとを有する。
【0024】
ここで、第4のステップは、符号化処理を処理画像信号に施すと共にサイド情報を生成し、サイド情報を処理画像信号に付加する第5のステップを有し、サイド情報は、原画像を処理する際に、トップフィールド及びボトムフィールドのうち、どちらが先に読み出されたかを示す第1のフラグ、または、原画像の1画面が3フィールド又は2フィールドのどちらの画像レートで読み出されたかを示す第2のフラグ、または、処理画像信号のうち、どの画像信号が挿入された無効信号であるか否かを示す第3のフラグである。
【0027】
第3のフラグが付加された処理画像信号に対しては、符号化処理は行われない。
【0030】
また、上述の課題を解決するために、本発明に係る動画像処理方法は、原画像の1画面を2フィールド又は3フィールドで読み出して画像レートを変更する3:2プルダウン処理により生成されたディジタル動画像信号の現フィールド画像信号と遅延されたフィールド画像信号との相関を求めることにより冗長フィールド画像を検出し、複数のフィールド画像から検出された冗長フィールドを除去し、冗長フィールドが除去されたフィールド画像列の順序を並び替えると共に、無効信号を挿入し、さらにトップフィールド及びボトムフィールドのうち、どちらが先に読み出されたかを示す第1のフラグ、または、原画像の1画面が3フィールド又は2フィールドのどちらの画像レートで読み出されたかを示す第2のフラグ、または、処理画像信号のうち、どの画像信号が挿入された無効信号であるか否かを示す第3のフラグであるサイド情報を付加して生成された処理画像信号から冗長フィールドを含むディジタル動画像信号を復元する動画像処理方法において、処理画像信号からサイド情報を分離する第1のステップと、サイド情報を用いて、処理画像信号から無効信号を除去する第2のステップと、無効信号が除去された画像信号列の一部の画像信号を繰り返すことにより、冗長フィールドを生成して所定の画像レートのディジタル動画像信号を復元する第3のステップとを有する。
【0031】
本発明に係る動画像信号処理方法によれば、入力されたディジタル動画像信号より、冗長フィールドを検出し、冗長フィールドを除いた画像列から、圧縮符号化処理されるべきフレームをつくるトップフィールドとボトムフィールドの組合せを判定し、フレーム画像をつくり、このフレーム画像列に所定の信号を挿入して、処理画像信号を作ることにより、冗長画像が一定周期であるいは不規則に含まれる動画像を、画像同期信号に同期のとられた新たな画像列信号とすることができる。
【0032】
この場合、上記の処理画像列に画像処理のためのサイド情報を付加することにより、画像符号化装置側で、このサイド情報に基づいて正確な処理を行うことができる。
【0033】
また、上記入力ディジタル動画像信号が原画像の1画面、例えば映画フィルムの1コマを2フィールド又は3フィールドで読み出す3:2プルダウン法により読み出された信号であるとき、上記サイド情報として、上記原画像を読み出す際にトップフィールドが最初に読み出されたか、ボトムフィールドが先に読み出されたかを示す第1のフラグ、すなわちtop_field_firstフラグと、上記原画像の1画面が3フィールドで読み出されたか、2フィールドで読み出されたかを示す第2のフラグ、すなわちrepeat_first_fieldフラグと、上記所定の信号としての無効信号であるか否かを示す第3のフラグとを含むことにより、正確な処理が行える。
【0034】
この場合、上記の処理画像信号を動画像符号化するとき、上記無効信号に対しては、圧縮符号化処理をしないことができるので、効率の良い画像符号化ができる。
【0035】
上記冗長フィールド検出手段は、上記入力ディジタル動画像信号が、原画像の1画面、例えば映画フィルムの1コマを2フィールド又は3フィールドで読み出す3:2プルダウン法により読み出された信号である場合には、上記入力ディジタル動画像信号の現在のフィールドと2フィールド遅延信号とのフィールド間相関度を計算し、さらに、上記入力ディジタル動画像信号の入力されるフィールド数をカウントし、冗長フィールド検出時に零クリアされるフィールドカウンタと、このフィールドカウンタからのカウント値が5以上の奇数であるか否かを判断する比較手段とを有し、この比較手段からの出力と上記フィールド間相関度とに基づいて冗長フィールドを検出することが好ましく、これによって確実な冗長フィールドの検出が行える。
【0036】
【発明の実施の形態】
本発明に係る動画像処理方法が適用された動画像処理システムについて、図1を参照しながら説明する。
【0037】
この図1には、いわゆる3:2プルダウンによりフレームレートを30Hzとしたフィルムソースのビデオ信号を原入力動画像信号とした場合の動画像符号化装置を含む動画像処理システムの例を示している。
【0038】
ここで3:2プルダウンについて簡単に説明する。映画などのフィルムソースをインタレースビデオ信号に変換する場合、3:2プルダウンという手法が広く用いられている。すなわち、フィルムは毎秒24コマであるのに対し、インタレースビデオ信号が30フレーム/秒(60フィールド/秒)である場合、3:2プルダウンにより、フィールド数の変換を行う。
【0039】
すなわち、図2に示すように、フィルムの連続した2コマ、例えばコマMF1、MF2の内の最初のコマMF1をビデオの2フィールドで読み出し、次のコマMF2は3フィールドで読み出すという方法を用いる。
【0040】
また、逆3:2プルダウンは、30フレーム/秒のインタレースビデオ信号から、3フィールドで読み出されたコマを検出し、冗長な繰り返しフィールドを取り除き、理想的には24フレーム/秒のプログレッシブフレームを作り出す操作である。理想的には冗長フィールドは、5フィールド周期で現れる。
【0041】
図1に示す動画像処理システムにおいて、画像入力装置であるディジタルVTR201からは、トップフィールド(top_field)が先に入力される30フレーム/秒(60フィールド/秒)のインタレースビデオ信号が、入力動画像信号S100として供給される。
【0042】
ここで、入力動画像信号S100が、フィルムソースを3:2プルダウンにより変換した動画像である場合は、3:2プルダウンソース入力フラグS115が立てられ、切換スイッチ209、210、211、212が、オン(on)の側へ接続される。3:2プルダウンで変換されたものでない動画像の場合、これらの切換スイッチは、オフ(off)の側へ接続される。オフ(off)の側へ接続された場合、システム構成は基本的に、従来例と同じとなる。以下の説明では、上述の切換スイッチがオン(on)側へ接続された場合、すなわち冗長画像を含む入力動画像である場合について、説明を進める。
【0043】
まず切換スイッチ209がオン(on)側へ接続されたとき、入力動画像信号S100は前処理器202で処理されて、動画像信号S103となる。
【0044】
この前処理器202での処理について、図3を参照しながらさらに詳細に説明する。
【0045】
端子301から入力された60Hzビデオフィールドの上記入力動画像信号(以下、フィールド画像信号ともいう。)S100は、遅延器302から出力される2フィールド遅れのフィールド画像信号S200との2フィールド間の相関度が計算される。ここでは、その計算として、差分化器303において1画素毎に差分値が計算される。1画素毎に計算される差分値S201はその絶対値S202が絶対値器304で計算され、その1フィールドあたりの累積和が累積器305で計算される。この累積値S203が、適当な値に定められている閾値S204と比較器306で比較され、閾値よりも小となる場合には、フラグS205が立てられる。なお、この方法に限らず、フィールド画像信号S100とフィールド画像信号S200の2フィールド間の相関度が計算できる手段であれば、適用可能である。
【0046】
一方、フィールド画像信号S100の同期入力S105が、端子308からフィールドカウンタ309へ入力されている。すなわち、フィールドカウンタ309は、前処理器202へ入力されるフィールド数を数え上げる。そしてS206で示されるカウント値jが5以上の奇数であるとき、比較器310がフラグS211を立てる。フラグS211とフラグS205が共に立っているとき、AND演算器311からの出力である冗長フィールド検出フラグS212が立ち上がる、すなわち、現在入力されたフィールド画像信号S100は3:2プルダウンによって重複している冗長フィールドであると判断される。冗長フィールド検出フラグS212が立ち上がると、フィールドカウンタ309は零にクリアされる。冗長フィールドと判定されたフィールドの画像信号は、入力動画像信号の中から取り除かれ、符号化されない。
【0047】
なお、比較器310での判定基準を「カウント値jが5以上の奇数」としている理由は、以下に示す理由のために逆3:2プルダウンが常に規則的に動作することが保証されないからである。
【0048】
すなわち第1に、3:2プルダウン後のビデオ編集などにより、5フィールド周期で冗長フィールドが現れるパターンが保証されなくなる。
【0049】
また第2に、3:2プルダウン時に、時間軸方向、すなわちフィールド間、フレーム間で平滑化フィルタが適用されるために、絵柄によっては、冗長フィールドが検出されにくくなる。例えば、実際には冗長フィールドであっても、図3の比較器306でフラグS205が立たないことがある。
【0050】
3:2プルダウンのパターンが保証されない場合でも、比較器310では、冗長フィールドの判定を連続して続けることが可能となる。
【0051】
このように実際には、逆3:2プルダウンが規則的に行われるとは限らないため、入力動画像信号S100の中から冗長フィールドを取り除いた後の動画像のフレームレートは、24Hzから30Hzの間で変動する。この周期は、同期入力S105にロックしないので、本実施例では、前処理として、入力フィールドの順序を並び換え、さらに無効フレームを挿入することにより、同期入力にロックする新しい入力画像列を作り出し、次段の符号化器203へ入力する。
【0052】
次にそのフィールド並び換え及び無効フレームの挿入する方法について、図3を用いて説明する。ここでは、冗長フィールド検出フラグS212に基づいて、出力フィールドコントローラ312が、遅延器302から出力される2フィールド(1フレーム)遅れのフィールド画像信号S200、4フィールド遅れのフィールド画像信号S208、及び無効フィールド画像信号S209の3つの信号を、切換スイッチ316で切り換えている。
【0053】
冗長フィールドが検出された位置情報に基づいて、入力画像の表示パターンをtop_field_first、repeat_first_fieldの2つのフラグにより、図2に示すように4通りに分類する。ここで、top_field_firstフラグは、フィルムのある1コマを3:2プルダウンしたときに、トップフィールド(top_field)が最初に読み出されたかどうかを表す。repeat_first_fieldフラグは、フィルムの1コマが3フィールドで読み出されたかどうかを表す。top_field_firstフラグ、repeat_first_fieldフラグは、出力フィールドコントローラ312で発生され、そのときの少なくとも過去の2表示パターンの情報は内部に記憶されている。
【0054】
出力フィールドコントローラ312で行われるtop_field_firstフラグ、repeat_first_fieldフラグを求めるアルゴリズムのフローチャートを図4に示す。ここでfpは、入力フィールド画像信号S100の入力後からの通しの番号を表し、fpに対する加算は、フィールド画像信号S100の時間が未来へ進んでいくことを表す。例えば、fp=fp+2は、フィールド画像信号S100の時間が2フィールド未来へ進んだこと、すなわちフィールド画像信号S100の入力が2フィールド進むことを表す。
【0055】
図4のフローチャートの各工程(ステップ)を説明する。動作開始(ステップ1000)した後、最初のフィールドが入力され(ステップ1001)、そのフィールドのパリティがトップフィールド(top_field)かボトムフィールド(bottom_field)か調べられ(ステップ1002)、それぞれの処理へ分岐する(ステップ1004又は1010)。
【0056】
ステップ1002でYesと判別された場合、すなわち最初のフィールドがトップフィールド(top_field)である場合、2フィールド未来のフィールドへ進み(ステップ1004)、冗長フィールドであるかどうか調べられる(ステップ1005)。すなわちこれは、図3の冗長フィールド検出フラグS212が立つかどうかの判定である。冗長フィールドである場合は、現在のフィールドを含めて、それ以前3フィールドの表示パターンは、上記各フラグのtop_field_first=1、repeat_first_field=1である。
【0057】
冗長フィールドの位置detected_fp=fpである(ステップ1006)。そして、フィールド画像信号S100の時間が1フィールド進められる(ステップ1007)。次の処理としては、ボトムフィールド(bottom_field)の場合の工程(ステップ1010)へ移る。一方、上記ステップ1005で冗長フィールドでないと判別された場合は、現在のフィールドを含めないで、その前2フィールドの表示パターンは、各フラグtop_field_first=1、repeat_first_field=0である(ステップ1008)。次の処理は、上記トップフィールド(top_field)の場合の工程(ステップ1004)へ移る。
【0058】
先の分岐(ステップ1002)でNoと判別された場合、すなわち最初のフィールドがボトムフィールド(bottom_field)の場合、2フィールド未来のフィールドへ進み(ステップ1010)、冗長フィールドであるかどうか調べられる(ステップ1011)。すなわちこれは、図3の冗長フィールド検出フラグS212が立つかどうかの判定である。
【0059】
冗長フィールドである場合は、現在のフィールドを含めて、それ以前3フィールドの表示パターンは、各フラグtop_field_first=0、repeat_first_field=1であり、冗長フィールドの位置detected_fp=fpである(ステップ1012)。そして、フィールド画像信号S100の時間が1フィールド進められる(ステップ1013)。次の処理は、上記トップフィールド(top_field)の場合のステップ1004へ移る。一方、冗長フィールドでない場合は、現在のフィールドを含めないで、その前2フィールドの表示パターンは、各フラグtop_field_first=0、repeat_first_field=0である(ステップ1014)。次の処理は、上記ボトムフィールド(bottom_field)の場合のステップ1010へ移る。
【0060】
以上のようにして、出力フィールドコントローラ312では、各フラグtop_field_first、repeat_first_fieldがセットされる。
【0061】
次に、出力フィールドコントローラ312の動作の具体例について、図5を参照しながら説明する。
【0062】
図中、“A”、“B”などの大文字は、トップフィールド(top field)を表し、“a”、“b”などの小文字は、ボトムフィールド(bottom field)を表す。また、“|”の間隔は入力フレーム周期である。上記冗長フィールドは、“*”の位置で検出されたとする。
【0063】
この図5の具体例において、S100の最初のフィールド“A”が入力され(fp=1)、これはトップフィールド(top_field)であることがわかる(ステップ1000〜1004)。2フィールド未来(fp=3)のフィールド“B”は、冗長フィールドと判定されない(ステップ1004〜1008)。その次の2フィールド未来(fp=5)のフィールド“B”は、冗長フィールドと判定され、(ステップ1005〜1006)、時間が1フィールド進む(fp=6)(ステップ1007)。その次の2フィールド未来(fp=8)のフィールド“d”は、冗長フィールドと判定されない(ステップ1010〜1014)。その次の2フィールド未来(fp=10)のフィールド“d”は、冗長フィールドと判定される(ステップ1010〜1012)。以上の処理で、表示パターンは、次のようにセットされる。
【0064】
fp=1〜2 : top_field_first=1、repeat_first_field=0
fp=3〜5 : top_field_first=1、repeat_first_field=1
fp=6〜7 : top_field_first=0、repeat_first_field=0
fp=8〜10 : top_field_first=0、repeat_first_field=1
次に、出力S210について説明する。
【0065】
切換スイッチ316の出力S210は、入力フィールド画像信号S100に対して、4フィールド(2フレーム)遅れで始まる。この出力S210は、出力フィールドコントローラ312にセットされている各フラグtop_field_first、repeat_first_fieldに基づいて、出力フィールドコントローラ312が切換制御信号S207を切換スイッチ316に送ることにより、以下の(1)から(4)のようにして制御される。
【0066】
(1)top_field_first=1、repeat_first_field=0の場合
4フィールド遅れのフィールド画像信号S208が、順に2フィールド出力される。図5の例では、S208の1番目のフレーム|A a|。
【0067】
(2)top_field_first=1、repeat_first_field=1の場合
4フィールド遅れのフィールド画像信号S208が、順に2フィールド出力される。図5の例では、S208の2番目のフレーム|B b|。3番目の入力フレームのトップフィールド(top_field)“B”は、冗長フィールドであるので除去される、すなわち出力されない。
【0068】
(3)top_field_first=0、repeat_first_field=0の場合
2フィールド遅れのフィールド画像信号S200が出力され、次に4フィールド遅れのフィールド画像信号S208が出力される。図5の例では、冗長フィールドであるので除去されたS208の3番目のフレームのトップフィールド(top_field)“B”の位置に、フィールド画像信号S200が出力される(S208の4番目のフレームのトップフィールド(top_field)“C”が前詰めされて出力される)。次に、S208の3番目の入力フレームのボトムフィールド(bottom_field)“c”が出力される。S100では、ボトムフィールド(bottom_field)“c”の方が、トップフィールド(top_field)“C”よりも時間的に前にあり、しかもこの2フィールドはフレームを作っていないが、出力S210ではトップフィールド(top_field)が前に来て、出力フレーム|C c|を作るようになる。
【0069】
(4)top_field_first=0、repeat_first_field=1の場合
2枚の無効フィールド(1枚の無効フレーム)が出力される。次に、4フィールド遅れのフィールド画像信号S208が、順に2フィールド出力される。図5の例では、ボトムフィールド(bottom_field)で冗長フィールドが検出された場合、例えばS100の5番目のフレームのボトムフィールド(bottom_field)“d”の場合、出力S210としては、2枚の無効フィールドが出力される。これを図5では、|x|で図示している。その次に、S208から|D d|が出力される。
【0070】
以上の(1)から(4)のようにして、出力フィールドコントローラ312は切換スイッチ316を切り換え、出力S210の制御を行う。図5の「フィールド遅延量」の欄に、出力S210のそれぞれのフィールドのフィールド画像信号S100に比較しての遅延量を示す。値4、値2、xの場合は、それぞれS208からの出力、S200からの出力、無効フィールドの出力であることを表す。
【0071】
出力S210の連続する2フィールドを出力フレームとし、それぞれのフレームに対し、フレームヘッダ多重化器313にて、フレームヘッダ情報を付加し、端子314から動画像信号S103として出力される。ヘッダの内容は、top_field_firstフラグ、repeat_first_fieldフラグ、無効フレームフラグ(図中ではdisabled_frame_flagと示す)を含む。それぞれのフレームに付加されるヘッダ情報の具体例を、図5の「top_field_firstフラグ、repeat_first_fieldフラグ」の欄に示す。
【0072】
出力S210および動画像信号S103のそれぞれの出力フレームは、トップフィールド(top_field)が先に出力され、そのフレーム周期は、同期入力信号S105のフレーム周期とロックしている。
【0073】
なお、上記の説明では、フレーム同期信号に同期する様に無効フレームを挿入するようにしているが、フィールド同期信号に同期するように無効フィールドを挿入しても良い。この場合は、フィールドレートが60Hzになっていれば2枚の無効フィールドの挿入位置はどこでも良く、2枚のフィールドが連続して挿入されなくても良い。
【0074】
ところで、図1の切換スイッチ209、210がオフのときは、フィールド画像信号S100は、3:2プルダウンされていない普通のトップフィールド(top_field)が先に入力されるインタレースビデオ信号である。
【0075】
この場合、フレームヘッダはデフォルトの内容となり、常に、top_field_first=1、repeat_first_field=0、disabled_frame_flag=0である。
【0076】
図1の切換スイッチ209、210のオン/オフに関係なく、フィールド画像信号S100および動画像信号S103は、同期入力S105をマスタ・クロックとして動作する符号化器203への入力S104として問題がない。
【0077】
入力S104は、動画像符号化システムのコア部分である符号化器203、局所復号器205で種々の処理がされる。ここで、入力S104のそれぞれのフレームヘッダで無効フレームと指示されているフレーム対しては、有効な画像処理はされない。ここでの処理についての具体例は、後述する。
【0078】
次に局所復号器205からの出力である局所復号出力S109を画像出力装置207へ出力する方法を説明する。局所復号出力S109が入力される後処理器206について、図6を参照しながら説明する。
【0079】
図6において、端子400から入力された局所復号出力S109は、フレームヘッダ分離器401でそれぞれのフレームのヘッダ内容S303が読み出され、このヘッダ内容S303は出力フィールドコントローラ403へ入力される。出力フィールドコントローラ403には、ヘッダ内容S303の少なくとも過去の1表示パターンの情報は記憶される。ヘッダ内容S303は、各フラグtop_field_first、repeat_first_field、disabled_frame_flagを含む。
【0080】
ところで、図1の切換スイッチ211、212がオフのときは、S111は、3:2プルダウンされていない普通のトップフィールド(top_field)が先に入力されるインタレースビデオ信号である。
【0081】
この場合、フレームヘッダはデフォルトの内容となり、常に、top_field_first=1、repeat_first_field=0、disabled_frame_flag=0である。
【0082】
図6の出力フィールドコントローラ403は、上記フレームヘッダ内容に基づいて、現在の入力フィールド画像信号S300、遅延器402から出力される2フィールド(1フレーム)遅れのフィールド画像信号S301、及び4フィールド(2フレーム)遅れのフィールド画像信号S302の3つの信号を、切換スイッチ404で切り換えている。
【0083】
次に、上記後処理器206の動作、特に図6の出力フィールドコントローラ403の動作の具体例について、図7を参照しながら説明する。
【0084】
この図7中の各符号は上記図5の場合と同様であり、“A”、“B”などの大文字は、トップフィールド(top field)を表し、“a”、“b”などの小文字は、ボトムフィールド(bottom field)を表す。また、“|”の間隔は入力フレーム周期である。
【0085】
画像出力S110は、入力フィールド画像信号S300に対して、2フィールド(1フレーム)遅れで始まる。出力は、出力フィールドコントローラ403にセットされているtop_field_first、repeat_first_field、disabled_frame_flagに基づいて、以下の(1)から(5)のようにして制御される。
【0086】
(1)top_field_first=1、repeat_first_field=0、disabled_frame_flag=0の場合
1フレーム遅れのフィールド画像信号S301が、順に2フィールド出力される。図7の例では、S301の1番目のフレーム|A a|。
【0087】
(2)top_field_first=1、repeat_first_field=1、disabled_frame_flag=0の場合
1フレーム遅れのフィールド画像信号S301が、順に2フィールド出力される。次に、2フレーム遅れのフィールド画像信号S302が1フィールド出力される。図7の例では、S301の2番目のフレーム|B b|が出力され、次いでS302の2番目のフレームのトップフィールド(top_field)“B”が出力される。
【0088】
(3)top_field_first=0、repeat_first_field=0、disabled_frame_flag=0の場合
1フレーム遅れのフィールド画像信号S301が1フィールド出力され、次いで2フレーム遅れのフィールド画像信号S302が出力される。図7の例では、S301の3番目のフレームのボトムフィールド(bottom_field)“c”が出力され、次いでS302の3番目のフレームのトップフィールド(top_field)“C”が出力される。
【0089】
(4)disabled_frame_flag=1の場合
何も出力されない。
【0090】
(5)top_field_first=0、repeat_first_field=1、disabled_frame_flag=0の場合
現在の入力フィールド画像信号S300が1フィールド出力され、次いで1フレーム遅れのフィールド画像信号S301が、順に2フィールド出力される。
【0091】
以上の(1)から(5)のようにして、出力フィールドコントローラ403は切換スイッチ404を切り換え、画像出力S110の制御をする。図7の「フィールド遅延量」の欄に、画像出力S110のそれぞれのフィールドの局所復号出力S109に比較しての遅延量を示す。値4、値2、値0の場合は、それぞれS302からの出力、S301からの出力、S300からの出力であることを表す。
【0092】
次に、再び図1に戻って、局所復号器205から切換スイッチ211を介し、必要に応じて後処理器206で処理され、切換スイッチ212を介して得られた出力S112は、画像表示装置であるモニタ207で表示することができる。
【0093】
以上のようにして、図1に示す本発明の動画像処理システムの動画像の入出力部は動作する。
【0094】
なお、以上の説明では、符号化器へ入力される画像信号へ挿入する無効信号として無効フレームを挿入し、フレームヘッダ情報に無効フレームフラグを付加する場合を説明したが、これに限らず、無効信号の単位としては、フィールドやマクロブロックや画素としてもよく、この場合、それぞれの単位に無効信号を示すフラグをサイド情報として付加することになる。
【0095】
また、その場合、以上の説明では、入力画像の同期入力の周期として、1フレーム時間である場合を説明したが、これに限らず、1フィールド時間や1画素時間としても適用可能となる。
【0096】
なお、以上の説明では、画像入力装置201及び符号化器203が、トップフィールドが先に入力されるインタレースビデオ信号に対応している装置である場合を説明したが、逆に画像入力装置201及び符号化器203が、ボトムフィールドが先に入力されるインタレースビデオ信号に対応している装置である場合も同様に説明できる。その場合は、以上の説明で出てきたトップフィールド(top_field:奇数フィールド)とボトムフィールド(bottom_field:偶数フィールド)の順序を入れ換えれば良い。
【0097】
例えば、出力S210、フィールド画像信号S300は、bottom_field_firstフラグが先に入力されるインタレースビデオ信号となる。
【0098】
次に、図1の動画像符号化システムのコア部分である動画像符号化装置を構成する符号化器203、局所復号器205での処理について、説明する。
【0099】
動画像符号化装置は、いわゆるMPEG2(ISO/IEC 13818−2)などで広く知られている動き補償予測符号化とDCTを組み合わせたハイブリッド符号化方法を用いている。MPEG2では、各フレームの画像を、Iピクチャ、Pピクチャ又はBピクチャの3種類のピクチャのいずれかのピクチャとし、画像信号を圧縮符号化するようにしている。
【0100】
すなわち、例えば図8に示すように、フレームF1乃至F17までの17フレームの画像信号をグループ・オブ・ピクチャとし、処理の1単位とする。例えば、その先頭のフレームF1の画像信号はIピクチャとして符号化し、第2番目のフレームF2はBピクチャとして、また第3番目のフレームF3はPピクチャとして、それぞれ処理する。以下、第4番目以降のフレームF4乃至F17は、Bピクチャ又はPピクチャとして交互に処理する。
【0101】
Iピクチャの画像信号としては、その1フレーム分の画像信号をそのまま伝送する。これに対して、Pピクチャの画像信号としては、基本的には、図8(A)に示すように、それより時間的に過去にあるIピクチャ又はPピクチャの画像信号からの差分を伝送する。さらにBピクチャの画像信号としては、基本的には、図8(B)に示すように、時間的に過去にあるフレーム及び未来にあるフレームの両方の平均値からの差分を求め、その差分を伝送する。
【0102】
図9は、このようにして、動画像信号を符号化する方法の原理を示している。同図に示すように、最初のフレームF1はIピクチャとして処理されるため、そのまま伝送データF1Xとして伝送路に送出される(画像内符号化)。これに対して、第2のフレームF2は、Bピクチャとして処理されるため、時間的に過去にあるフレームF1と、時間的に未来にあるフレームF3の平均値との差分が演算され、その差分が伝送データF2Xとして伝送される。
【0103】
ただし、このBピクチャとしての処理は、さらに細かく説明すると、4種類存在する。その第1の処理は、元のフレームF2のデータをそのまま伝送データF2Xとして伝送するものであり(SP1)(イントラ符号化)、Iピクチャにおける場合と同様の処理となる。第2の処理は、時間的に未来のフレームF3からの差分を演算し、その差分(SP2)を伝送するものである(後方予測符号化)。第3の処理は、時間的に過去のフレームF1との差分(SP3)を伝送するものである(前方予測符号化)。さらに第4の処理は、時間的に過去のフレームF1と未来のフレームF3の平均値との差分(SP4)を生成し、これを伝送データF2Xとして伝送するものである(両方向予測符号化)。
【0104】
この4つの方法のうち、伝送データが最も少なくなる方法が採用される。
【0105】
なお、差分データを伝送するとき、差分を演算する対象となるフレームの画像(予測画像)との間の動きベクトルx1(フレームF1とフレームF2の間の動きベクトル)(前方予測の場合)、若しくは動きベクトルx2(フレームF3とフレームF2の間の動きベクトル)(後方予測の場合)、又は動きベクトルx1とx2の両方(両方向予測の場合)が、差分データと共に伝送される。
【0106】
また、PピクチャのフレームF3は、時間的に過去にあるフレームF1を予測画像として、このフレームとの差分(SP3)と、動きベクトルx3が演算され、これが伝送データF3Xとして伝送される(前方予測符号化)。あるいはまた、元のフレームF3のデータがそのまま伝送データF3Xとして伝送される(SP1)(イントラ符号化)。いずれの方法により伝送されるかは、Bピクチャにおける場合と同様に、伝送データがより少なくなる方が選択される。
【0107】
次に図10を参照して、動画像符号化装置の構成例について説明する。なお、図示されていないが、本符号化装置は図1で示した画像同期入力S105にロックして動作している。
【0108】
端子74からは、フレームヘッダ付きの入力フレームS104が、入力されており、また、端子75からは、画像入力装置から入力される入力動画像が3:2プルダウンされたフィルムソースであるかどうかを示す3:2プルダウンソース入力フラグS115が入力される。
【0109】
入力画像S104は、画像符号化タイプ指定・画像符号化順序並び替え器70へ入力される。ここでは、まずシーケンシャルに入力される各フレームの画像を、I、P、Bのいずれのピクチャとして処理するかを指定する。例えば、図8に示したように、フレームF1乃至F17により構成されるグループ・オブ・ピクチャが、I、B、P、B、P、・・・B、Pとして処理される。指定された画像符号化タイプは、各フレームのヘッダに書き込まれる。
【0110】
次に、指定された画像符号化タイプに従って、符号化される順番に入力画像を並び換える。これは、Bピクチャは、後方予測を伴うため、後方予測画像としてのIピクチャ又はPピクチャが先に用意されていないと、復号することができないからである。そのため、Bピクチャを符号化する前に、それより未来にあるIピクチャ又はPピクチャを先に符号化しなければならない。したがって、例えば、図8に示したように、画像符号化タイプを指定した場合は、画像の順番をフレームF1、F3、F2、F5、F4・・・と並び換える。
【0111】
入力画像列S104の中に、無効フレーム(フレームヘッダdisabled_frame_flagにより指示される)が含まれる場合における画像符号化タイプ指定・画像符号化順序並び替え器70での入力画像列S104の取扱いについて説明する。
【0112】
このとき図11に示すように、フレームF1〜F13からなる入力画像列S104が入力されるとする。ここで、”X”は、無効フレームを表す。このとき、無効フレームは無視して、S501のように順次、画像符号化タイプを指定する。S501の数字は、画像符号化タイプの指定の順序を表す。次に、画像符号化タイプに従って、符号化される順番に画像を並び換える。このとき、無効フレーム”X”は、Bピクチャと見なされる。したがって、S501は、S502に示すように、並び換えられる。この例では、S502はS104に対して、2フレーム遅延で開始する。
【0113】
並び換えられた画像信号S502は、スキャンコンバータ71に入力される。ここでは、ラスタスキャンで入力される画像信号を、ブロックフォーマットの信号に変換する。すなわち、図12に示すように、ラスタスキャンで入力される画像信号は、1ライン当たりHドットのラインがVライン集められたフレームフォーマットのデータとされている。スキャンコンバータ71は、この1フレームの信号を、16ラインを単位としてM個のスライスに区分する。そして、各スライスは、M個のマクロブロックに分割される。各マクロブロックは、16×16個の画素(ドット)に対応する輝度信号により構成され、この輝度信号は、さらに8×8ドットを単位とするブロックY[1]乃至Y[4]に区分される。そして、この16×16ドットの輝度信号には、8×8ドットのCb信号と、8×8ドットのCr信号が対応される。
【0114】
また一方で、現在符号化されるフレームの画像信号S502の動き予測を行うため、その参照画像信号S504が動きベクトル検出回路50へ入力される。動きベクトル検出回路50は、画像符号化タイプ指定器70からの指示に従って、各フレームの画像信号(データ)を、Iピクチャ、Pピクチャ、又はBピクチャとして処理する。Iピクチャとして処理されるフレーム(例えばフレームF1)の画像データは、動きベクトル検出回路50からフレームメモリ51の前方原画像部51aに転送、記憶され、Bピクチャとして処理されるフレーム(例えばフレームF2)の画像データは、参照原画像部51bに転送、記憶され、Pピクチャとして処理されるフレーム(例えばフレームF3)の画像データは、後方原画像部51cに転送、記憶される。
【0115】
また、次のタイミングにおいて、さらにBピクチャ(フレームF4)又はPピクチャ(フレームF5)として処理すべきフレームの画像データが入力されたとき、それまで後方原画像部51cに記憶されていた最初のPピクチャ(フレームF3)の画像データが、前方原画像部51aに転送され、次のBピクチャ(フレームF4)の画像データが、参照原画像部51bに記憶(上書き)され、次のPピクチャ(フレームF5)の画像データが、後方原画像部51cに記憶(上書き)される。このような動作が順次繰り返される。
【0116】
なお、画像信号S502のフレームが無効フレームである場合、動きベクトル検出回路50は、何も処理をしないで、1フレーム時間待機する。
【0117】
スキャンコンバータ71から読み出されたマクロブロックは、予測モード切り替え回路52において、フレーム予測モード処理、又はフィールド予測モード処理が行われる。さらにまた予測判定回路54の制御の下に、演算部53において、画像内予測、前方予測、後方予測、又は両方向予測の演算が行われる。これらの処理のうち、いずれの処理を行うかは、予測誤差信号(処理の対象とされている参照画像と、これに対する予測画像との差分)に対応して決定される。このため、動きベクトル検出回路50は、この判定に用いられる予測誤差信号の絶対値和(自乗和でもよい)を生成する。
【0118】
ここで、予測モード切り替え回路52におけるフレーム予測モードとフィールド予測モードについて説明する。
【0119】
フレーム予測モードが設定された場合においては、予測モード切り替え回路52は、スキャンコンバータ71より供給される4個の輝度ブロックY[1]乃至Y[4]を、そのまま後段の演算部53に出力する。すなわち、この場合においては、図13(A)に示すように、各輝度ブロックにトップフィールドのラインのデータと、ボトムフィールドのラインのデータとが混在した状態となっている。このフレーム予測モードにおいては、4個の輝度ブロック(マクロブロック)を単位として予測が行われ、4個の輝度ブロックに対して1個の動きベクトルが対応される。
【0120】
これに対して、予測モード切り替え回路52は、フィールド予測モードにおいては、図13(A)に示す構成でスキャンコンバータ71より入力される信号を、図13(B)に示すように、4個の輝度ブロックのうち、輝度ブロックY[1]とY[2]を、トップフィールドのラインのドットによりのみ構成させ、他の2個の輝度ブロックY[3]とY[4]を、ボトムフィールドのラインのデータにより構成させて、演算部53に出力する。この場合においては、2個の輝度ブロックY[1]とY[2]に対して、1個の動きベクトルが対応され、他の2個の輝度ブロックY[3]とY[4]に対して、他の1個の動きベクトルが対応される。
【0121】
色差信号は、フレーム予測モードの場合、図13(A)に示すように、トップフィールドのラインのデータとボトムフィールドのラインのデータとが混在する状態で、演算部53に供給される。また、フィールド予測モードの場合、図13(B)に示すように、各色差ブロックCb、Crの上半分(4ライン)が、輝度ブロックY[1]、Y[2]に対応するトップフィールドの色差信号とされ、下半分(4ライン)が、輝度ブロックY[3]、Y[4]に対応するボトムフィールドの色差信号とされる。
【0122】
動きベクトル検出回路50は、フレーム予測モードにおける予測誤差の絶対値和と、フィールド予測モードにおける予測誤差の絶対値和とを予測モード切り替え回路52に出力する。予測モード切り替え回路52は、フレーム予測モードとフィールド予測モードにおける予測誤差の絶対値和を比較し、その値が小さい予測モードに対応する処理を施して、データを演算部53に出力する。
【0123】
なお、3:2プルダウンソース入力フラグS115が立っている場合、入力フレームS104はプログレッシブ構造となるので、予測モードは、フレーム予測モードに固定される。
【0124】
動きベクトル検出回路50は、次のようにして、予測判定回路54において、画像内予測、前方予測、後方予測、又は両方向予測のいずれの予測を行うかを決定するための予測誤差の絶対値和を生成する。
【0125】
すなわち、画像内予測の予測誤差の絶対値和として、参照画像のマクロブロックの信号Aijと、マクロブロックの信号Aijの平均値Aavとの差の絶対値の和Σ|Aij−Aav|を求める。また、前方予測の予測誤差の絶対値和として、入力マクロブロックの信号Aijと、予測画像のマクロブロックの信号Bijの差の絶対値の和Σ|Aij−Bij|を求める。また、後方予測と両方向予測の予測誤差の絶対値和も、前方予測における場合と同様に(その予測画像を前方予測における場合と異なる予測画像に変更して)求める。
【0126】
これらの絶対値和は、予測判定回路54に供給される。予測判定回路54は、前方予測、後方予測及び両方向予測の予測誤差の絶対値和のうち、最も小さいものをインター予測の予測誤差の絶対値和として選択する。さらに、このインター予測の予測誤差の絶対値和と、画像内予測の予測誤差の絶対値和とを比較し、その小さい方を選択し、この選択した絶対値和に対応するモードを予測モードとして選択する。すなわち、画像内予測の予測誤差の絶対値和の方が小さければ、画像内予測モードが設定される。インター予測の予測誤差の絶対値和の方が小さければ、前方予測、後方予測又は両方向予測モードのうち、対応する絶対値和が最も小さかったモードが設定される。
【0127】
このように、動きベクトル検出回路50は、4つの予測モードのうち、予測判定回路54により選択された予測モードに対応する予測画像と参照画像の間の動きベクトルを検出し、可変長符号化回路58と動き補償回路64に出力する。上述したように、この動きベクトルとしては、対応する予測誤差の絶対値和が最小となるものが選択される。
【0128】
Iピクチャとして処理すべきフレームの画像が入力されたとき、予測モードとして、フレーム内予測モード(動き補償予測符号化を行わないモード)を設定し、演算部53の切換スイッチ53dを接点a側に切り換える。これにより、Iピクチャの画像データがDCTモード切り替え回路55に入力される。
【0129】
このDCTモード切り替え回路55は、図14(A)又は(B)に示すように、4個の輝度ブロックのデータを、トップフィールドのラインとボトムフィールドのラインが混在する状態(フレームDCTモード)、又は、分離された状態(フィールドDCTモード)、のいずれかの状態にして、DCT回路56に出力する。
【0130】
すなわち、DCTモード切り替え回路55は、トップフィールドとボトムフィールドのデータを混在してDCT処理した場合における符号化効率と、分離した状態においてDCT処理した場合の符号化効率とを比較し、符号化効率の良好なモードを選択する。
【0131】
例えば、入力された信号を、図14(A)に示すように、トップフィールドとボトムフィールドのラインが混在する構成とし、上下に隣接するトップフィールドのラインの信号とボトムフィールドのラインの信号の差を演算し、さらにその絶対値の和(又は自乗和)を求める。また、入力された信号を、図14(B)に示すように、トップフィールドとボトムフィールドのラインが分離した構成とし、上下に隣接するトップフィールドのライン同士の信号の差と、ボトムフィールドのライン同士の信号の差を演算し、それぞれの絶対値の和(又は自乗和)を求める。さらに、両者(絶対値和)を比較し、小さい値に対応するDCTモードを設定する。すなわち、前者の方が小さければ、フレームDCTモードを設定し、後者の方が小さければ、フィールドDCTモードを設定する。
【0132】
そして、選択したDCTモードに対応する構成のデータをDCT回路56に出力すると共に、選択したDCTモードを示すDCTフラグを、可変長符号化回路58と動き補償回路64に出力する。
【0133】
なお、3:2プルダウンソース入力フラグS115が立っている場合、入力フレームS104は、プログレッシブ構造となるのでDCTモードは、フレームDCTモードに固定される。
【0134】
予測モード切り替え回路52における予測モード(図13)と、このDCTモード切り替え回路55におけるDCTモード(図14)を比較して明らかなように、輝度ブロックに関しては、両者の各モードにおけるデータ構造は実質的に同一である。
【0135】
DCTモード切り替え回路55より出力されたIピクチャの画像データは、DCT回路56に入力され、DCT(離散コサイン変換)処理され、DCT係数に変換される。このDCT係数は、量子化回路57に入力され、送信バッファ59のデータ蓄積量(バッファ蓄積量)に対応した量子化ステップで量子化された後、可変長符号化回路58に入力される。
【0136】
可変長符号化回路58は、フレームヘッダの情報から画像符号化タイプ、top_field_first、repeat_first_fieldを伝送する。また、可変長符号化回路58は、量子化回路57より供給される量子化ステップ(スケール)に対応して、量子化回路57より供給される画像データ(いまの場合、Iピクチャのデータ)を、例えばハフマン符号などの可変長符号に変換し、送信バッファ59に出力する。
【0137】
また、可変長符号化回路58には、量子化回路57より量子化ステップ(スケール)、予測判定回路54より予測モード(画像内予測、前方予測、後方予測、又は両方向予測のいずれが設定されたかを示すモード)、動きベクトル検出回路50より動きベクトル、予測モード切り替え回路52より予測フラグ(フレーム予測モード又はフィールド予測モードのいずれが設定されたかを示すフラグ)、及びDCTモード切り替え回路55が出力するDCTフラグ(フレームDCTモード又はフィールドDCTモードのいずれが設定されたかを示すフラグ)が入力されており、これらも可変長符号化される。
【0138】
ただし、3:2プルダウンソース入力フラグS115が立っている場合、予測フラグ、DCTフラグは両方ともフレームモードの固定値であるので、可変長符号化回路58から出力されない。そのかわり、3:2プルダウンソース入力フラグS115が立っているという情報(入力フレームがプログレッシブ構造であるという情報)を伝送する。
【0139】
送信バッファ59は、入力されたデータを一時蓄積し、蓄積量に対応する量子化信号を量子化回路57に出力する。
【0140】
送信バッファ59は、そのデータ残量が許容上限値まで増量すると、量子化制御信号によって量子化回路57の量子化スケールを大きくすることにより、量子化データのデータ量を低下させる。また、これとは逆に、データ残量が許容下限値まで減少すると、送信バッファ59は、量子化制御信号によって量子化回路57の量子化スケールを小さくすることにより、量子化データのデータ量を増大させる。このようにして、送信バッファ59のオーバーフロー又はアンダーフローが防止される。
【0141】
そして、送信バッファ59に蓄積されたデータは、所定のタイミングで読み出され、伝送路に出力される。
【0142】
一方、量子化回路57より出力されたIピクチャのデータは、逆量子化回路60に入力され、量子化回路57より供給される量子化ステップに対応して逆量子化される。逆量子化回路60の出力は、IDCT(逆DCT)回路61に入力され、逆DCT処理された後、演算器62を介してフレームメモリ63の前方予測画像部63aに供給され、記憶される。
【0143】
次に、スキャンコンバータ71からPピクチャとして処理すべきフレームの画像が入力されたとき、上述した場合と同様に、動きベクトル検出回路50からマクロブロック単位でのフレーム間差分(予測誤差)の絶対値和が、予測モード切り替え回路52と予測判定回路54に供給される。そして、マクロブロックの予測誤差の絶対値和に対応して、フレーム/フィールド予測モード、又は画像内予測モード、前方予測モードを設定する。
【0144】
演算部53はフレーム内予測モードが設定されたとき、切換スイッチ53dを上述したように接点a側に切り換える。したがって、このデータは、Iピクチャのデータと同様に、DCTモード切り替え回路55、DCT回路56、量子化回路57、可変長符号化回路58、送信バッファ59を介して伝送路に伝送される。また、このデータは、逆量子化回路60、IDCT回路61、演算器62を介してフレームメモリ63の後方予測画像部63bに供給され、記憶される。
【0145】
前方予測モードのとき、切換スイッチ53dが接点bに切り換えられると共に、フレームメモリ63の前方予測画像部63aに記憶されている画像信号(いまの場合Iピクチャの画像)データが読み出され、動き補償回路64により、動きベクトル検出回路50が出力する動きベクトルに対応して動き補償される。
【0146】
動き補償回路64より出力された予測画像データは、演算器53aに供給される。演算器53aは、予測モード切り替え回路52より供給された参照画像のマクロブロックのデータから、動き補償回路64より供給されたこのマクロブロックに対応する予測画像データを減算し、その差分(予測誤差)を出力する。この差分データは、DCTモード切り替え回路55、DCT回路56、量子化回路57、可変長符号化回路58、送信バッファ59を介して伝送路に送出される。また、この差分データは、逆量子化回路60、IDCT回路61により局所的に復号され、演算器62に入力される。
【0147】
ただし、3:2プルダウンソース入力フラグS115が立っている場合、予測フラグ、DCTフラグは両方ともフレームモードの固定値であるので、可変長符号化回路58から出力されない。そのかわり、3:2プルダウンソース入力フラグS115が立っているという情報(入力フレームがプログレッシブ構造であるという情報)を伝送する。
【0148】
この演算器62にはまた、演算器53aに供給されている予測画像データと同一のデータが供給されている。演算器62は、IDCT回路61が出力する差分データに、動き補償回路64が出力する予測画像データを加算する。これにより、局所復号したPピクチャの画像データが得られる。このPピクチャの画像データは、フレームメモリ63の後方予測画像部63bに供給され、記憶される。
【0149】
次に、スキャンコンバータ71からBピクチャとして処理すべきフレームの画像が入力されたとき、上述した場合と同様に、動きベクトル検出回路50からマクロブロック単位でのフレーム間差分(予測誤差)の絶対値和が、予測モード切り替え回路52と予測判定回路54に供給される。そして、マクロブロック単位でのフレーム間差分の絶対値和の大きさに対応して、フレーム/フィールドモードを設定し、また、予測モードをフレーム内予測モード、前方予測モード、後方予測モード、又は両方向予測モードのいずれかに設定する。
【0150】
上述したように、フレーム内予測モード、前方予測モードのとき、切換スイッチ53dは、それぞれ接点a、bに切り換えられる。このとき、Pピクチャにおける場合と同様の処理が行われ、データが伝送される。
【0151】
これに対して、後方予測モード、両方向予測モードが設定されたとき、切換スイッチ53dは、それぞれ接点c、dにそれぞれ切り換えられる。
【0152】
切換スイッチ53dが接点cに切り換えられている後方予測モードのとき、後方予測画像部63bに記憶されている画像(いまの場合、Pピクチャの画像)データが読み出され、動き補償回路64により、動きベクトル検出回路50が出力する動きベクトルに対応して動き補償される。
【0153】
動き補償回路64より出力された予測画像データは、演算器53bに供給される。演算器53bは、予測モード切り替え回路52より供給された入力マクロブロックのデータから、動き補償回路64より供給された予測画像データを減算し、その差分を出力する。この差分データは、DCTモード切り替え回路55、DCT回路56、量子化回路57、可変長符号化回路58、送信バッファ59を介して伝送路に送出される。また、この差分データは、逆量子化回路60、IDCT回路61により局所的に復号され、演算器62に入力される。
【0154】
この演算器62にはまた、演算器53bに供給されている予測画像データと同一のデータが供給されている。演算器62は、IDCT回路61が出力する差分データに、動き補償回路64が出力する予測画像データを加算する。これにより、局所復号したBピクチャの画像データが得られる。
【0155】
切換スイッチ53dが接点dに切り換えられている両方向予測モードのとき、前方予測画像部63aに記憶されている画像(いまの場合、Iピクチャの画像)データと、後方予測画像部63bに記憶されている画像(いまの場合、Pピクチャの画像)データが読み出され、動き補償回路64により、動きベクトル検出回路50が出力する動きベクトルに対応して動き補償される。
【0156】
動き補償回路64より出力された予測画像データは、演算器53cに供給される。演算器53cは、予測モード切り替え回路52より供給された入力マクロブロックのデータから、動き補償回路64より供給された予測画像データの平均値を減算し、その差分を出力する。この差分データは、DCTモード切り替え回路55、DCT回路56、量子化回路57、可変長符号化回路58、送信バッファ59を介して伝送路に送出される。また、この差分データは、逆量子化回路60、IDCT回路61により局所的に復号され、演算器62に入力される。
【0157】
この演算器62にはまた、演算器53cに供給されている予測画像データと同一のデータが供給されている。演算器62は、IDCT回路61が出力する差分データに、動き補償回路64が出力する予測画像データを加算する。これにより、局所復号したBピクチャの画像データが得られる。
【0158】
3:2プルダウンソース入力フラグS115が立っている場合、予測フラグ、DCTフラグは両方ともフレームモードの固定値であるので、可変長符号化回路58から出力されない。そのかわり、3:2プルダウンソース入力フラグS115が立っているという情報(入力フレームがプログレッシブ構造であるという情報)を伝送する。
【0159】
Bピクチャは、他の画像の予測画像とされることがないため、フレームメモリ63には記憶されない。
【0160】
なお、フレームメモリ63において、前方予測画像部63aと後方予測画像部63bは、必要に応じてバンク切換が行われ、所定の参照画像に対して、一方又は他方に記憶されているものを、前方予測画像あるいは後方予測画像として切り換えて出力することができる。
【0161】
以上においては、輝度ブロックを中心として説明をしたが、色差ブロックについても同様に、図13および図14に示すマクロブロックを単位として処理され、伝送される。なお、色差ブロックを処理する場合の動きベクトルは、対応する輝度ブロックの動きベクトルを垂直方向と水平方向に、それぞれ1/2にしたものが用いられる。
【0162】
スキャンコンバータ71から無効フレームが入力されたときは、DCT回路56、量子化回路57、逆量子化回路60、逆DCT回路61、動き補償回路64は、何も処理をしないで、演算器62からは無意味なデータが出力される。このとき、フレームメモリ63へは何も書き込まれない。この間、可変長符号化回路58からは、ビットストリームは何も出力されない。
【0163】
上述してきたI、P、Bピクチャの符号化及び無効フレームが入力された場合において、演算器62にて局所復号された画像データは、スキャンコンバータ72へ入力される。ここでは、マクロブロックで入力される画像を、ラスタスキャンの画像へ変換する。ラスタスキャン画像信号S505は、画像表示順序並び替え器73へ入力される。画像表示順序並び替え器73からの出力の具体例を図15に示す。ここでは、画像符号化タイプに基づいて、(1)から(3)のような規則で入力画像の表示順序を並び換える。
【0164】
(1)最初に入力されるIピクチャは、画像表示順序並び替え器73の中に記憶される。
【0165】
(2)次に入力された画像が、Bピクチャ又は無効フレームである場合は、その画像が即、出力される。又は、次に入力された画像が、Iピクチャ又はPピクチャである場合は、画像表示順序並び替え器73の中に記憶されているIピクチャ又はPピクチャが出力される。そして、現在入力されたIピクチャ又はPピクチャが、新たに画像表示順序並び替え器73の中に記憶される。
【0166】
(3)上記(2)へ戻る。
【0167】
以上(1)から(3)のようにして、局所復号出力S109は画像表示順序並び替え器73から出力される。
【0168】
局所復号出力S109は、先に図1で説明したようにして後処理器206を介して画像出力装置であるモニタ207へ出力される。
【0169】
【発明の効果】
本発明に係る動画像処理方法によれば、原画像の1画面を2フィールド又は3フィールドで読み出して画像レートを変更する3:2プルダウン処理により生成されたディジタル動画像信号に符号化処理を施して、伝送する動画像処理方法において、入力されたディジタル動画像信号の現フィールド画像信号と遅延されたフィールド画像信号との相関を求めることにより冗長フィールド画像を検出し、複数のフィールド画像から検出された冗長フィールドを除去し、冗長フィールドが除去されたフィールド画像列の順序を並び替えると共に、無効信号を挿入することにより処理画像信号を生成し、処理画像信号に対して符号化処理を施すことにより、冗長画像が一定周期であるいは不規則に含まれる動画像を、入力画像同期信号に同期のとられた新たな画像列信号とし、画像処理することができる。
【0170】
この場合、前記所定の画像処理を前記処理画像信号に施す際に用いられるサイド情報を前記処理画像信号に付加することにより、画像符号器側でサイド情報に基づいて正確な画像処理を行うことができる。
【0171】
また、入力ディジタル動画像信号が、原画像の1画面を2フィールド又は3フィールドで読み出して画像レートを変更する3:2プルダウン処理により生成された信号であるとき、前記サイド情報が、原画像を処理する際に、前記トップフィールド及び前記ボトムフィールドのうち、どちらが先に読み出されたかを示す第1のフラグと、原画像の1画面が3フィールド又は2フィールドのどちらの画像レートで読み出されたかを示す第2のフラグと、処理画像信号のうち、どの画像信号が前記挿入された所定の信号であるか否かを示す第3のフラグを有することにより、正確な画像処理が行える。
【0172】
また、挿入される所定の信号は、画像信号として意味の無い無効信号であり、この無効信号に対しては符号化器側での圧縮符号化処理を行わないことがあるので、効率の良い画像処理が行える。
【0173】
さらに、入力ディジタル動画像信号が、原画像の1画面を2フィールド又は3フィールドで読み出して画像レートを変更する3:2プルダウン処理により生成された信号であり、入力ディジタル動画像信号の現在のフィールドの画像信号と2フィールド分遅延された画像信号とのフィールド間相関度が計算され、さらに、入力ディジタル動画像信号の入力フィールド数をカウントし、このカウント値が所定値であるかを判定し、この判定の結果とフィールド間相関度とから冗長フィールドが検出されるので、確実な冗長フィールドの検出が行える。
【0174】
また、本発明に係る動画像処理方法によれば、原画像の1画面を2フィールド又は3フィールドで読み出して画像レートを変更する3:2プルダウン処理により生成されたディジタル動画像信号の現フィールド画像信号と遅延されたフィールド画像信号との相関を求めることにより冗長フィールド画像を検出し、複数のフィールド画像から検出された冗長フィールドを除去し、冗長フィールドが除去されたフィールド画像列の順序を並び替えると共に、無効信号を挿入し、さらにトップフィールド及びボトムフィールドのうち、どちらが先に読み出されたかを示す第1のフラグ、または、原画像の1画面が3フィールド又は2フィールドのどちらの画像レートで読み出されたかを示す第2のフラグ、または、処理画像信号のうち、どの画像信号が挿入された無効信号であるか否かを示す第3のフラグであるサイド情報を付加して生成された処理画像信号から冗長フィールドを含むディジタル動画像信号を復元する動画像処理方法において、処理画像信号からサイド情報を分離し、サイド情報を用いて、処理画像信号から無効信号を除去し、無効信号が除去された画像信号列の一部の画像信号を繰り返すことにより、冗長フィールドを生成して所定の画像レートのディジタル動画像信号を復元することにより、簡単に表示用のディジタル動画像信号を得ることができる。
【0175】
なお、画像入力装置から供給される画像同期入力をマスタ・クロックとする動画像処理システムにおいて、画像入力装置から供給される原入力動画像の中から冗長画像を取り除く、などの前処理のために、次段の画像処理装置Aへ入力されるべき処理画像列Bが、画像入力装置から供給される画像同期入力にロックしない場合に、画像同期入力にロック(lock)する新しい処理画像列Cを作り直してから、画像処理装置Aへ入力することができるため、常に、画像入力装置から供給される画像同期入力を、画像処理装置のマスタ・クロックとすることができ、また、画像処理システムのコア部分である画像処理装置については、通常の入力画像列が画像同期入力にロックする場合に比べて、特に変更を必要としないので、画像処理装置の複雑さを増すことがない、等の、実用上優れた効果がある。
【図面の簡単な説明】
【図1】本発明に係る動画像処理方法の一実施例が適用された動画像処理システムの一例を示すブロック図である。
【図2】映画フィルムソースの1コマを2フィールド又は3フィールドで読み出す3:2プルダウン法を説明するための図である。
【図3】前処理器の具体例を示すブロック回路図である。
【図4】前処理器の動作の一例を説明するためのフローチャートである。
【図5】前処理器の動作の一例を説明するためのタイミングチャートである。
【図6】後処理器の具体例を示すブロック回路図である。
【図7】後処理器の動作の一例を説明するためのタイミングチャートである。
【図8】ピクチャのタイプを説明するための図である。
【図9】動画像符号化方法の一例の原理を示す図である。
【図10】動画像符号化のためのエンコーダの一例を示すブロック回路図である。
【図11】画像符号化タイプ指定・画像符号化順序並び換え動作を説明するための図である。
【図12】画像データの構造を示す図である。
【図13】フレーム/フィールド予測モードを説明するための図である。
【図14】フレーム/フィールドDCTモードを説明するための図である。
【図15】画像表示順序並び換え動作を説明するための図である。
【図16】従来の動画像符号化システムの一例を示すブロック図である。
【図17】フレーム同期を説明するための図である。
【図18】3:2プルダウンされた信号より冗長フィールドを除去する動作を説明するための図である。
【符号の説明】
202 前処理器
203 符号化器
205 局所復号器
206 後処理器
209、210、211、212 切換スイッチ
302 遅延器
305 累積器
306 比較器
307 閾値メモリ
309 フィールドカウンタ
310 比較器
311 AND演算器
312 出力フィールドコントローラ
313 フレームヘッダ多重化器
Claims (5)
- 原画像の1画面を2フィールド又は3フィールドで読み出して画像レートを変更する3:2プルダウン処理により生成されたディジタル動画像信号に符号化処理を施して、伝送する動画像処理方法において、
前記入力されたディジタル動画像信号の現フィールド画像信号と遅延されたフィールド画像信号との相関を求めることにより冗長フィールド画像を検出する第1のステップと、
前記複数のフィールド画像から前記検出された冗長フィールドを除去する第2のステップと、
前記冗長フィールドが除去されたフィールド画像列の順序を並び替えると共に、無効信号を挿入することにより処理画像信号を生成する第3のステップと、
前記処理画像信号に対して前記符号化処理を施す第4のステップとを有する動画像処理方法。 - 前記第4のステップは、前記符号化処理を前記処理画像信号に施すと共にサイド情報を生成し、前記サイド情報を前記処理画像信号に付加する第5のステップを有し、
前記サイド情報は、前記原画像を処理する際に、トップフィールド及びボトムフィールドのうち、どちらが先に読み出されたかを示す第1のフラグ、または、前記原画像の1画面が3フィールド又は2フィールドのどちらの画像レートで読み出されたかを示す第2のフラグ、または、前記処理画像信号のうち、どの画像信号が前記挿入された無効信号であるか否かを示す第3のフラグであることを特徴とする請求項1記載の動画像処理方法。 - 前記第3のフラグが付加された処理画像信号に対しては、前記符号化処理は行われないことを特徴とする請求項2記載の動画像処理方法。
- 前記第1のステップにおいて、さらに、前記入力ディジタル動画像信号の入力フィールド数をカウントし、このカウント値が所定値であるかを判定し、この判定の結果と前記フィールド間相関度とから前記冗長フィールドを検出することを特徴とする請求項1記載の動画像処理方法。
- 原画像の1画面を2フィールド又は3フィールドで読み出して画像レートを変更する3:2プルダウン処理により生成されたディジタル動画像信号の現フィールド画像信号と遅延されたフィールド画像信号との相関を求めることにより冗長フィールド画像を検出し、前記複数のフィールド画像から前記検出された冗長フィールドを除去し、前記冗長フィールドが除去されたフィールド画像列の順序を並び替えると共に、無効信号を挿入し、さらにトップフィールド及びボトムフィールドのうち、どちらが先に読み出されたかを示す第1のフラグ、または、前記原画像の1画面が3フィールド又は2フィールドのどちらの画像レートで読み出されたかを示す第2のフラグ、または、前記処理画像信号のうち、どの画像信号が前記挿入された無効信号であるか否かを示す第3のフラグであるサイド情報を付加して生成された処理画像信号から前記冗長フィールドを含むディジタル動画像信号を復元する動画像処理方法において、
前記処理画像信号から前記サイド情報を分離する第1のステップと、
前記サイド情報を用いて、前記処理画像信号から前記無効信号を除去する第2のステップと、
前記無効信号が除去された画像信号列の一部の画像信号を繰り返すことにより、前記冗長フィールドを生成して前記所定の画像レートのディジタル動画像信号を復元する第3のステップとを有する動画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP35264095A JP3582195B2 (ja) | 1994-12-29 | 1995-12-29 | 動画像処理方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP6-340583 | 1994-12-29 | ||
JP34058394 | 1994-12-29 | ||
JP35264095A JP3582195B2 (ja) | 1994-12-29 | 1995-12-29 | 動画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH08237612A JPH08237612A (ja) | 1996-09-13 |
JP3582195B2 true JP3582195B2 (ja) | 2004-10-27 |
Family
ID=26576739
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP35264095A Expired - Fee Related JP3582195B2 (ja) | 1994-12-29 | 1995-12-29 | 動画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3582195B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4296604B2 (ja) * | 1997-10-03 | 2009-07-15 | ソニー株式会社 | 符号化ストリームスプライシング装置及び方法、並びに符号化ストリーム生成装置及び方法 |
JP2001218172A (ja) | 2000-01-31 | 2001-08-10 | Nec Corp | 動画像復号器におけるフレームレート変換装置、フレームレート変換方法、およびその記録媒体、集積回路装置 |
JP3879122B2 (ja) | 2003-03-04 | 2007-02-07 | ソニー株式会社 | ディスク装置、ディスク記録方法、ディスク再生方法、記録媒体、並びにプログラム |
JP2005295134A (ja) * | 2004-03-31 | 2005-10-20 | Pioneer Electronic Corp | 適応型フレーム同期装置 |
-
1995
- 1995-12-29 JP JP35264095A patent/JP3582195B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH08237612A (ja) | 1996-09-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100392856B1 (ko) | 동화상처리방법 | |
US5633682A (en) | Stereoscopic coding system | |
EP0542195B1 (en) | Interframe predicting method and picture signal coding/decoding apparatus | |
KR100340370B1 (ko) | 화상신호전송방법및장치 | |
KR100533437B1 (ko) | 비디오 데이터 처리 장치, 비디오 데이터 부호화 장치 및 그 방법 | |
JP3778721B2 (ja) | 動画像符号化方法および装置 | |
US6052814A (en) | Coding/decoding apparatus | |
JP3560217B2 (ja) | データ符号化装置、データ符号化方法及びデータ伝送方法 | |
JPH08223577A (ja) | 動画像符号化方法及び装置、並びに動画像復号方法及び装置 | |
EP0577365B1 (en) | Encoding of picture signals | |
JP4033554B2 (ja) | インタレース形状情報符号化方法 | |
JP3426668B2 (ja) | 動画像符号化方法 | |
US6148035A (en) | Processing of redundant fields in a moving picture to achieve synchronized system operation | |
JPH09294262A (ja) | 画像符号化装置 | |
JPH0775111A (ja) | デジタル信号符号化装置 | |
JP3582195B2 (ja) | 動画像処理方法 | |
JP3240024B2 (ja) | 画像処理方法 | |
JPH09168148A (ja) | 動画像符号化方法及び装置、並びに記録媒体 | |
JP3990011B2 (ja) | 復号画像変換回路および復号画像変換装置 | |
JP2001128165A (ja) | 映像信号切替え装置及びその映像信号切替え方式 | |
JP3596137B2 (ja) | 画像信号符号化方法及び装置、並びに画像信号復号方法及び装置 | |
JP3240737B2 (ja) | 画像信号符号化方法、装置、復号化方法及び装置 | |
JP4130197B2 (ja) | 動画像符号化方法および装置 | |
JP3968528B2 (ja) | 画像信号符号化方法及び装置 | |
JP3708745B2 (ja) | 動画像復号装置および動画像復号方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040323 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040524 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040706 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040719 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080806 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090806 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100806 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110806 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110806 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120806 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130806 Year of fee payment: 9 |
|
LAPS | Cancellation because of no payment of annual fees |