JP4078803B2 - インターレース・プログレッシブ変換方法および変換装置 - Google Patents
インターレース・プログレッシブ変換方法および変換装置 Download PDFInfo
- Publication number
- JP4078803B2 JP4078803B2 JP2000395794A JP2000395794A JP4078803B2 JP 4078803 B2 JP4078803 B2 JP 4078803B2 JP 2000395794 A JP2000395794 A JP 2000395794A JP 2000395794 A JP2000395794 A JP 2000395794A JP 4078803 B2 JP4078803 B2 JP 4078803B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- macroblock
- field
- motion
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、MPEG(Moving Picture Experts Group)2方式等の動画像符号化方式に対応したアルゴリズムによって符号化されたインターレース画像データをプログレッシブ画像データに変換するインターレース・プログレッシブ変換方法および変換装置に関する。
【0002】
【従来の技術】
動画像の高能率圧縮符号化アルゴリズムとして、MPEGの規格に対応した符号化アルゴリズムが知られている。この符号化アルゴリズムでは、フレーム内符号化アルゴリズムとフレーム間予測アルゴリズムを併用している。さらに詳述すると、この符号化アルゴリズムでは、動画像を構成する多数のフレーム(もしくはフィールド)を各々一定個数のフレームからなるGOP(Group Of Picture)に分け、GOPの先頭のフレームについてはフレーム内符号化を行い、他のフレームについてはフレーム間予測符号化を行う。ここで、フレーム内符号化とは、他のフレームを全く参照することなく処理対象であるフレームの符号化を行うことをいう。また、フレーム間予測符号化は、処理対象であるフレームを所定個数の画素からなるマクロブロックに分け、各マクロブロック毎に、他の先行するフレーム等(参照フレーム)中に含まれている当該マクロブロックに類似した参照マクロブロックを求め、当該マクロブロックからみた参照マクロブロックまでの相対的変位を表す動きベクトルと、当該マクロブロックと参照マクロブロックとの差分画像とを符号化するものである。この符号化アルゴリズムにおいて、参照フレームの中から参照マクロブロックを探索する処理は、動き予測と呼ばれている。
【0003】
ディジタル放送システムでは、MPEG2の規格に対応した符号化アルゴリズムによって圧縮符号化された動画像データが放送されるようになっている。各家庭等においては、放送局から放送される符号化された動画像データを受信し、この符号化データを復号してテレビ画面等に映像を表示させるようになっている。このようにディジタル放送システムにより提供される動画像データを符号化するMPEG2アルゴリズムでは、インターレース走査方式の動画像フォーマット(インターレースフォーマット)と、プログレッシブ操作方式の動画像フォーマット(プログレッシブフォーマット)の両者に対応することができるようになっている。
【0004】
ところで、LCD(Liquid Crystal Display)やPDP(Plasma Display Panel)等の表示装置では、CRT(Cathode Ray Tube)と異なり、プログレッシブフォーマットの動画像データを再生表示するようになっている。したがって、LCDやPDP等の表示装置において、ディジタル放送システムによってインターレースフォーマットの動画像データで放送されている番組等を再生表示する場合には、放送されているインターレースフォーマットの動画像のビデオ信号をプログレッシブフォーマットのビデオ信号に変換する必要がある。
【0005】
ここで、MPEG2規格に対応した符号化アルゴリズムによって符号化された動画像データを復号してインターレース・プログレッシブ変換を行う従来の変換装置の構成を図9に示す。
【0006】
同図に示すように、この変換装置は、MPEG2デコーダ1を有している。MPEG2デコーダ1には、MPEG2規格に対応した符号化アルゴリズムによって符号化された動画像(インターレースフォーマット)の符号化データが入力される。当該符号化データはデジタル放送局からの放送波を受信する、もしくはDVD(Digital Versatile Disc)に記録されているデータを読み取る等によって取得することができる。
【0007】
ここで、MPEG2規格に対応した符号化アルゴリズムでは、画像をピクチャという単位で扱い、ピクチャとしてフレームを割り当てることもできるし、フィールドを割り当てることもできる。インターレース走査方式による画像データは、1つのフレームの画像が偶数走査線のみの画像である第1フィールドおよび奇数走査線のみの画像である第2フィールドといった2つのフィールドによって構成される。したがって、ピクチャとしてフレームを割り当てた符号化処理を行う場合には、フィールド/フレーム変換処理を行うことにより、インターレース走査方式により得られたフィールド画像をフレーム構造の画像データに変換した後、変換後のフレームを1単位としてMPEG2に準拠した符号化処理を行う。一方、ピクチャとしてフィールドを割り当てた符号化処理を行う場合には、上記のようなフィールド/フレーム変換処理は不要であり、インターレース走査方式により得られた動画像、すなわち一連のフィールドを1単位としてMPEG2に準拠した符号化処理を施す。
【0008】
MPEG2デコーダ1は、上述したように符号化されたインターレース画像の符号化データを上記符号化アルゴリズムに対応する復号アルゴリズムによって復号し、一連のフィールド画像を復元する。
【0009】
MPEG2デコーダ1から出力されたフィールド単位の画像は、直接およびフィールドメモリ2,3を介して動き検出部6に供給される。すなわち、動き検出部6には、MPEG2デコーダ1によって最近復号されたフィールドの画像(処理対象となる画像)に加え、当該フィールドの1つ前および2つ前を先行するフィールドの画像が供給されるようになっている。動き検出部6は、このような先行する2つのフィールド画像と処理対象フィールドの画像に基づいて、所定の演算を行って処理対象フィールドの画像の動き、すなわち静止画であるか動画であるかを検出する。動き検出部6は、静止画であると検出した場合にはk=0、動画であると検出した場合にはk=1を乗算器7,8に出力する。
【0010】
MPEG2デコーダ1から出力されたフィールドの画像は、ラインメモリ5、フィールドメモリ4および加算器9にも供給される。ラインメモリ5には1ライン(走査線)分の画像が保存され、次のラインの画像が供給されると、保存しているラインの画像を加算器9に出力する。これにより加算器9からは、1つのフィールド画像における上下に隣接するラインの画像が加算されて乗算器10に出力され、加算された画像は乗算器10によって1/2倍されて乗算器7に出力される。すなわち、乗算器10からは、1つのフィールド画像における上下に隣接するラインの画像を平均した画像が出力されるのである。
【0011】
そして、この平均した画像が乗算器7によってk倍されて加算器11に出力される。動き検出部6によって処理対象フィールド画像が静止画であると検出された場合にはk=0であるため、乗算器7からは画像は出力されない。一方、処理対象フィールド画像が動画であると検出された場合にはk=1であるため、乗算器7からは乗算器10から出力された画像がそのまま加算器11に出力される。
【0012】
フィールドメモリ4には1フィールド分の画像が保存され、次のフィールドの画像が供給されると、保存しているフィールドの画像を乗算器8に出力する。乗算器8では、フィールドメモリ4から供給された画像が(1−k)倍されて加算器11に出力される。動き検出部6によって処理対象フィールド画像が静止画であると検出された場合にはk=0であるため、乗算器8からはフィールドメモリ4から出力された画像がそのまま加算器11に出力される。一方、処理対象フィールド画像が動画であると検出された場合にはk=1であるため、乗算器8からは画像は出力されない。
【0013】
すなわち、処理対象フィールドが静止画である場合には、加算器11にはフィールドメモリ4から供給されたフィールド画像のみが供給され、加算器11からはこの画像が切替スイッチ12に出力される。一方、処理対象フィールドが動画である場合には、加算器11には、処理対象フィールド画像における上下のラインの画像の平均画像がライン毎に供給され、加算器11からはこのライン毎の画像のみが切替スイッチ12に出力される。
【0014】
切替スイッチ12には、上記のような加算器11からの画像が供給されるとともに、MPEG2デコーダ1から供給されるフィールド画像、すなわち処理対象フィールドの画像が供給され、切替スイッチ12はこれらの画像を1ライン毎に切り換えて出力する。
【0015】
すなわち、処理対象フィールド画像が静止画である場合、切替スイッチ12からは当該フィールドの画像の各ラインの画像と、フィールドメモリ4から出力されるフィールドの画像、すなわち処理対象フィールドの1つ前のフィールドの画像の各ラインの画像とが交互に出力される。このようにして処理対象フィールド画像が静止画である場合には、図4に示すように、2つのフィールドの画像を合成してフィールド画像の2倍の走査線数の画像であるプログレッシブ画像が出力されるのである。つまり、処理対象フィールドが静止画である場合には、いわゆるフィールド間内挿処理が行われてプログレッシブ画像が出力される。
【0016】
一方、処理対象フィールド画像が動画である場合、切替スイッチ12からは当該フィールドの画像の各ラインの画像と、当該フィールド画像の上下に隣接するラインの画像の平均画像とが交互に出力される。このようにして処理対象フィールド画像が動画である場合には、図5に示すように、上下に隣接するラインの平均画像が処理対象フィールドの各ライン間を補間するライン画像として加えられ、フィールド画像の2倍の走査線数の画像であるプログレッシブ画像が出力されるのである。つまり、処理対象フィールドが動画である場合には、いわゆるフィールド内内挿処理が行われたプログレッシブ画像が出力される。
【0017】
つまり、図9に示す従来の変換装置では、供給された符号化データをMPEG2デコーダ1によってフィールド画像を復元し、復元したフィールド画像の動きを検出する。そして、フィールド画像の動きが大きい場合にはフィールド内内挿処理を行い、動きが小さい場合にはフィールド間内挿処理を行うのである。このように画像の動きが大きい場合にフィールド内内挿処理を行い、画像が静止している場合にフィールド間内挿処理を行うことにより、高画質のプログレッシブ画像を出力することができるのは周知である。
【0018】
【発明が解決しようとする課題】
しかし、上述した従来の変換装置では、MPEG2デコーダ1によって復号されたフィールド画像を参照することにより、動き検出部6が所定の演算を行ってフィールド画像の動きを検出している。このような復号された画像に基づいて動きを検出するための演算処理は複雑であり、また複雑な処理にも関わらず誤検出の可能性が高い。
【0019】
本発明は、上記の事情を考慮してなされたものであり、インターレースフォーマットの画像を、より簡易な処理でより正確にプログレッシブフォーマットの画像に変換することができるインターレース・プログレッシブ変換方法および変換装置を提供することを目的とする。
【0020】
【課題を解決するための手段】
上記課題を解決するため、本発明に係るインターレース・プログレッシブ変換方法は、フィールド単位のフィールド内符号化アルゴリズム又はフレーム単位のフレーム内符号化アルゴリズムと動き補償を伴った、フィールド間符号化アルゴリズム又はフレーム間符号化アルゴリズムを含む符号化アルゴリズムであって、フィールド画像を構成する複数のマクロブロック毎の動きベクトル情報、マクロブロックのタイプが非動き補償コーデッドであるか動き補償コーデッドであるかを示すマクロブロックタイプ情報および有意ブロックパターンを示すCBP(Coded Block Pattern)情報を含む符号化画像データを作成するための符号化アルゴリズムによって、1対のフィールドを1フレームとするインターレース画像を符号化した符号化画像データを、プログレッシブ画像に変換するインターレース・プログレッシブ変換方法であって、(a)前記符号化画像データを、前記符号化アルゴリズムに対応した復号アルゴリズムにより復号してフィールド画像を復元する復号ステップと、(b)前記符号化画像データから、前記動きベクトル情報、前記マクロブロックタイプ情報および前記CBP情報を抽出する抽出ステップと、(c)前記符号化画像データから抽出された前記動きベクトル情報、前記マクロブロックタイプ情報および前記CBP情報に基づいて、前記復元されたフィールド画像を分割したマクロブロックの動きの大小を検出する動き検出ステップであって、前記マクロブロックタイプ情報が非動き補償コーデッドである場合、当該マクロブロックタイプ情報に対応するマクロブロックの前記CBP情報によって当該マクロブロック内の係数を持っているブロック数を判別し、そのブロック数が所定数以上のときにはマクロブロックの動きが大きいと判断する一方、当該ブロック数が前記所定数未満のときにはマクロブロックの動きが小さいと判断する第1のステップと、前記マクロブロックタイプ情報が動き補償コーデッドである場合、前記動きベクトル情報の絶対値が閾値以上であるときには、マクロブロックの動きが大きいと判断する一方、前記動きベクトル情報の絶対値が前記閾値未満であるときには、マクロブロックの動きが小さいと判断する第2のステップとからなる動き検出ステップと、(d)前記フィールド画像を補間するための画像データを、前記マクロブロックの動きが大きいほど、当該フィールド画像に先行する先行フィールド画像に基づくフィールド間内挿処理の割合を小さく、且つ、前記マクロブロックの動きが小さいほど、当該フィールド画像に基づくフィールド内内挿処理の割合を小さくした処理方法で生成し、生成した当該画像データによって当該フィールド画像を補間することによりプログレッシブ画像に変換する変換ステップとを具備することを特徴とする。
【0024】
また、本発明に係るインターレース・プログレッシブ変換装置は、フィールド単位のフィールド内符号化アルゴリズム又はフレーム単位のフレーム内符号化アルゴリズムと動き補償を伴った、フィールド間符号化アルゴリズム又はフレーム間符号化アルゴリズムを含む符号化アルゴリズムであって、フィールド画像を構成する複数のマクロブロック毎の動きベクトル情報、マクロブロックのタイプが非動き補償コーデッドであるか動き補償コーデッドであるかを示すマクロブロックタイプ情報および有意ブロックパターンを示すCBP(Coded Block Pattern)情報を含む符号化画像データを作成するための符号化アルゴリズムによって、1対のフィールドを1フレームとするインターレース画像を符号化した符号化画像データを、プログレッシブ画像に変換するインターレース・プログレッシブ変換装置であって、(a)前記符号化画像データを、前記符号化アルゴリズムに対応した復号アルゴリズムにより復号してフィールド画像を復元する復号手段と、(b)前記符号化画像データから、前記動きベクトル情報、前記マクロブロックタイプ情報および前記CBP情報を抽出する抽出手段と、(c)前記符号化画像データから抽出された前記動きベクトル情報、前記マクロブロックタイプ情報および前記CBP情報に基づいて、前記復元されたフィールド画像を分割したマクロブロックの動きの大小を検出する動き検出手段であって、前記マクロブロックタイプ情報が非動き補償コーデッドである場合、当該マクロブロックタイプ情報に対応するマクロブロックの前記CBP情報によって当該マクロブロック内の係数を持っているブロック数を判別し、そのブロック数が所定数以上のときにはマクロブロックの動きが大きいと判断する一方、当該ブロック数が前記所定数未満のときにはマクロブロックの動きが小さいと判断し、前記マクロブロックタイプ情報が動き補償コーデッドである場合、前記動きベクトル情報の絶対値が閾値以上であるときには、マクロブロックの動きが大きいと判断する一方、前記動きベクトル情報の絶対値が前記閾値未満であるときには、マクロブロックの動きが小さいと判断する動き検出手段と、(d)前記フィールド画像を補間するための画像データを、前記マクロブロックの動きが大きいほど、当該フィールド画像に先行する先行フィールド画像に基づくフィールド間内挿処理の割合を小さく、且つ、前記マクロブロックの動きが小さいほど、当該フィールド画像に基づくフィールド内内挿処理の割合を小さくした処理方法で生成し、生成した当該画像データによって当該フィールド画像を補間することによりプログレッシブ画像に変換する変換手段とを具備することを特徴とする。
【0025】
【発明の実施の形態】
以下、図面を参照して本発明の実施形態について説明する。
A.第1実施形態
まず、図1は本発明の第1実施形態に係るインターレース・プログレッシブ変換装置の構成を示すブロック図である。同図に示すように、このインターレースプログレッシブ変換装置100は、MPEG2復号部110と、バッファ111と、動き量検出部112と、変換処理部113とを備えている。
【0026】
MPEG2復号部110およびバッファ111には、変換処理対象となるインターレースフォーマットの動画像の符号化データが入力される。MPEG2復号部110およびバッファ111に入力される符号化データは、インターレースフォーマットの動画像を構成する一連のフィールド画像(ビデオ信号)に対し、フィールド単位もしくはフレーム単位でMPEG2に準拠した符号化処理を施すことにより生成された符号化データである。なお、フレーム単位で符号化処理を施す場合には、インターレースフォーマットの動画像を構成する一連のフィールドに対し、フィールド/フレーム変換処理を行う必要がある。ここで、MPEG2復号部110およびバッファ111に入力される符号化データについて説明する。なお、以下においては、フィールド単位で符号化処理を行った場合を例に挙げて説明するが、上記のようにフィールド/フレーム変換処理を行うことによりフレーム単位でインターレースフォーマットの画像に符号化処理を行うようにしてもよい。
【0027】
まず、各フィールドに対応した符号化データは、当該フィールドを分割した複数のマクロブロック毎に対応した符号化データを含んでいる。これらの各マクロブロックに対応した符号化データには、フィールド内符号化により得られたものと、フィールド間予測符号化により得られたものとがある。さらに詳述すると、まず、GOPの先頭のIフィールドについてはフィールド内符号化が行われる。したがって、Iフィールドを構成する各マクロブロックに対応した符号化データはすべてフィールド内符号化により得られたものである。
【0028】
また、Iフィールドの後続の各フィールド(PフィールドやBフィールド)は、フィールド間予測符号化が行われるのが一般的であるが、これらの各フィールドを構成する一部のマクロブロックについてフィールド内符号化が行われる場合もある。したがって、Iフィールドの後続の各フィールドの各マクロブロックに対応した符号化データは、フィールド間予測符号化により得られたもの、またはフィールド内符号化により得られたものである。
【0029】
各マクロブロックに対応した符号化データのうちフィールド内符号化により得られた符号化データは、当該マクロブロックを8×8画素1を1ブロックとして分割した輝度信号ブロック4個と色差信号ブロックの各々について、当該ブロックの画像データに対し、直交変換の一種であるDCT(Discrete Cosine Transform;離散コサイン変換)を施し、これにより得られたDCT係数を量子化し、さらに可変長符号化したデータにより構成されている。
【0030】
また、各マクロブロックに対応した符号化データのうちフィールド間予測符号化により得られた符号化データは、当該マクロブロックに対応した動きベクトルの可変長符号を含むとともに当該マクロブロックを分割した各ブロック毎に量子化されたDCT係数の可変長符号を含んでいる。これらの可変長符号のうち前者のものにおける動きベクトルは、当該マクロブロックから参照フィールド内の参照マクロブロックまでの相対移動に対応している。あるマクロブロックの画像を復号する際には、この動きベクトルに基づいて参照フィールド内の参照マクロブロックの所在位置が求められる。また、後者のもののDCT係数は当該マクロブロックに対応した画像と参照マクロブロックの画像との差分画像に対し、ブロック単位でDCTを施すことにより得られたものである。
【0031】
以上のようにこの符号化データには、各マクロブロックについて動きベクトルの可変長符号が含まれており、マクロブロックを分割したブロック毎にDCT係数の可変長符号が含まれている。また、MPEG2に準拠した符号化処理により生成された符号化データには、各ピクチャ(フィールドもしくはフレーム)毎にPSC(Picture Start Code)の可変長符号が含まれており、このPSCにより各ピクチャのデータビット列を判別することができるようになっている。さらに各マクロブロック毎にマクロブロックアドレスの増分(Macroblock Address Increment)の可変長符号、マクロブロックタイプ(Macroblock Type)、DCTタイプの可変長符号、およびCBP(Coded Block Pattern)の可変長符号が含まれている。
【0032】
ここで、マクロブロックアドレスは、マクロブロックの位置を示す情報である。マクロブロックタイプは、I,P,Bピクチャ毎にそのマクロブロックの処理方法を示す情報であり、例えばMC(動き補償)コーデッド(MC Coded;動き補償符号化要)、ノンMCコーデッド(No MC Coded)等を示す情報である。
【0033】
DCTタイプは、当該マクロブロックのDCTがフレームモードであるか、フィールドモードであるかを表す情報である。上記のようにフィールド単位で符号化処理が行われた符号化データの場合には、フィールドモードしか選択できないため、フィールドモードであることを示す情報となる。一方、フレーム単位で符号化処理が行われた符号化データの場合には、フィールドモードとフレームモードのいずれかを選択することができる。インターレース画像に対してフレーム単位で符号化処理を施す場合には、隣り合う走査線間の相関が大きい時には、そのマクロブロックについてフレームDCT処理、すなわち1対のフィールドからなるフレームを1単位としてDCT処理を行う。この場合、このマクロブロックのDCTタイプはフレームモードを示す情報となる。一方、隣り合う走査線間の相関が小さい場合には、そのマクロブロックについてフィールドDCT処理、すなわちフィールドを1単位としてDCT処理を行う。この場合には、このマクロブロックのDCTタイプはフィールドモードを示す情報となる。このようにフレーム単位の符号化処理により生成された符号化データでは、マクロブロック毎にフレームDCTとフィールドDCTが適応的に選択されて実施され、DCTタイプはいずれのDCTが実施されたかを示す情報である。
【0034】
CBPは、マクロブロックを構成する6つのブロックが有意ブロックであるか否かをパターン化した情報である。この情報を参照することにより、マクロブロックを構成するどのブロックが有意ブロックであるか、つまり前画面に対して変化のあったブロックであるかが分かるようになっている。
【0035】
以上がMPEG2復号部110およびバッファ111に入力される符号化データの詳細である。
【0036】
MPEG2復号部110は、可変長復号器、逆量子化器、逆DCT部、動き補償部等を備え、上述したMPEG2に準拠した符号化処理によって符号化された符号化データを復号し、インターレース動画像を構成する一連のフィールド画像データを復元する。MPEG2復号部110によって復元された一連のフィールド画像データは、動き量検出部112、変換処理部113および切替スイッチ131に出力される。
【0037】
バッファ111は、順次入力される一連のフィールド(もしくはフレーム)に対応した符号化データを一時的に格納する装置である。バッファ111に格納された符号化データに含まれる可変長符号は順次読み出され、動き量検出部112に供給される。
【0038】
動き量検出部112は、可変長復号器120と、フィールド同期検出部121と、パラメータ保存部122と、マクロブロックアドレスカウンタ(以下、MBAカウンタという)123と、動き量決定部124とを有している。
【0039】
可変長復号器(Variable Length Decoder)120は、バッファ111から順次供給される可変長符号を可変長前のデータにデコードし、デコードしたデータをパラメータ保存部122に出力する。また、可変長復号器120は、Iフィールドに対応する符号化データに含まれる可変長符号のうち、Iフィールド(もしくはIフレーム)の各マクロブロックを構成するブロックのDCT係数のDC(Direct Current)係数に対応する可変長符号をデコードしたデータをフィールド同期検出部121に出力する。
【0040】
フィールド同期検出部121には、上記可変長復号器120から供給される各ブロックのDC係数を示すデータに加え、MPEG2復号部110によって復元された一連のフィールド画像(ビデオ信号)が供給される。フィールド同期検出部121は、MPEG2復号部110から供給される復元画像ビデオ信号の垂直同期信号からフィールド画像を検出し、あるフィールドに対応するビデオ信号がMPEG2復号部110から出力されたことを示すフィールド同期信号をMBA(マクロブロックアドレス)カウンタ123に出力する。
【0041】
また、フィールド同期検出部121は、可変長復号器120から供給されるIフィールドの各ブロックのDC係数を示す情報および検出したフィールド画像に基づいて、復元された各フィールド画像と、可変長復号器120によって可変長復号されたデータとの同期をとる。すなわち、フィールド同期検出部121は、可変長復号器120から供給されたデータの可変長復号前の符号化データによって復元されたフィールド画像を検出して同期をとる。このように同期をとることによって動き量検出部112や変換処理部113において、フィールド画像(ビデオ信号)と、当該フィールド画像に対応する符号化データを可変長復号したデータとを対応させて処理を行うことができる。
【0042】
以下、フィールド同期検出部121によって行われる同期検出処理について詳細に説明する。フィールド同期検出部121は、可変長復号器120から供給されるあるIフィールドの各ブロックのDC係数と、MPEG2復号部110から供給されるあるフィールド画像とを比較する。具体的には、図2に示すように、各ブロックのDCT係数のDC係数と、各ブロックに対応する復元画像の8×8画素のブロックの画素値の平均値とを比較する。ここで、復元画像の各ブロックの画素値の平均値Hは、次の式により算出される。
【数1】
そして、全てのブロックについてDC係数と復元画像の上記画素値の平均値Hとが一致する、もしくは所定個数以上のブロックについてDC係数と画素値の平均値Hとが一致した場合に、可変長復号器120から供給された当該Iフィールドのデータと、MPEG2復号部110から供給されるフィールドの画像とが対応していると検出することができ、両者を同期させることができる。なお、このような同期検出を行うためには、復元されたフィールド画像の平均画素値を集計するブロックの境界線を正確に把握する必要があり、本実施形態では各ブロックの境界線が正確に把握されているものとする。また、同じ画像が数フィールド(もしくはフレーム)連続する場合には、上記のような同期検出の正確性の低下が問題となるが、この場合には画像の動きが全くないと判断できるので動きベクトル等の情報がなく、後述する動き量決定部124によって動きがないと推定することができ、変換処理部113の処理に支障を来すことはない。
【0043】
上記のような処理を経てフィールド同期検出部121からフレーム同期信号がMBAカウンタ123に供給される。MBAカウンタ123は、フレーム同期信号を基準にして、垂直水平の画素の位置をカウントすることによりMPEG2復号部110から出力される画像であるビデオ信号がフィールド画像内のどのマクロブロックに対応するかを求める。そして、求めたブロックのフィールド画像内の位置を示す情報を動き量決定部124に出力する。
【0044】
パラメータ保存部122は、可変長復号器120によってデコードされたデータの中から以下に示すパラメータを抽出し、抽出したパラメータをどのフィールドのものであるかといった情報に対応付けて保存する。ここで、どのフィールドのパラメータであるかといったことは、可変長復号したデータ中のPSC(Picture Start Code)を参照することにより判別することができる。
【0045】
本実施形態では、パラメータ保存部122には、動きベクトル、マクロブロックアドレス、マクロブロックタイプ、DCTタイプおよびCBPといったパラメータが保存される。ここで、上述したフィールド同期検出部121による同期検出によって、MPEG2復号部110から出力されるフィールド画像に対応する可変長復号器120で可変長復号されたデータが特定されている。したがって、MPEG2復号部110から出力されるフィールド画像に対応する各マクロブロックに関する上記パラメータが特定され、これらのパラメータがパラメータ保存部122から動き量決定部124に出力される。
【0046】
動き量決定部124は、パラメータ保存部122から供給される各マクロブロックに関する各種パラメータの中から、MBAカウンタ123から供給される出力画像(ビデオ信号)のマクロブロックの位置を示す情報に基づいて、現在MPEG2復号部110から出力されている画像のマクロブロックに関するパラメータを特定する。この特定は、各マクロブロックのマクロブロックアドレスを参照することにより行われる。このように現在MPEG2復号部110から出力されている画像のマクロブロックに関する各種パラメータを特定すると、動き量決定部124は、そのマクロブロックに関する各種パラメータに基づいて、当該マクロブロックの動き量に応じた値kを決定し、当該値kを変換処理部113に出力する。
【0047】
ここで、各マクロブロック毎の上記動きベクトル、マクロブロックアドレス、マクロブロックタイプ、DCTタイプおよびCBPといったパラメータによって、各々のマクロブロックの動きを推定できる原理について説明する。
【0048】
まず、マクロブロックタイプは、MC(動き補償)コーデッド(MC Coded;符号化要)、ノンMCコーデッド(No MC Coded)等の当該マクロブロックの処理方法を示す情報であり、次のように動き推定の判断要素とすることができる。例えばマクロブロックタイプが「MC(動き補償)コーデッド」である場合には、そのマクロブロックの動きは大きいと判断できる。また、「ノンMCコーデッド」の場合には、このマクロブロックの動きはあまり大きくないといった判断ができる。なお、Bフィールドのマクロブロックの場合には、「MCコーデッド」は双方向の予測を含む。
【0049】
次に、マクロブロックアドレスを参照することにより、情報を何も必要としない、いわゆる「スキップト・マクロブロック」を検出することができる。スキップト・マクロブロックであると検出されたマクロブロックは、当然ながら動きが全くないものと判断することができる。
【0050】
次に、DCTタイプはフレーム単位で符号化処理が行われた場合にマクロブロックの動きを推定する判断要素として参照することができる。上述したようにインターレース画像に対してフレーム単位で符号化処理を施す場合には、隣り合う走査線間の相関が大きい時にはフレームを1単位としてDCT処理を行い(DCTタイプ=フレームモード)、隣り合う走査線間の相関が小さい場合には、フィールドを1単位としてDCT処理を行う(DCTタイプ=フィールドモード)。したがって、DCTタイプが「フレームモード」である場合には、フィールド間の相関が大きいので動きが小さいと推定することができる。一方、DCTタイプが「フィールドモード」である場合には、フィールド間の相関が小さいので動きが大きいと推定することができる。
【0051】
次に、CBPは、上記マクロブロックタイプと併せて参照することにより、当該マクロブロックの動きを推定することができる。具体的には、CBPを参照することにより当該マクロブロックを構成する各ブロックが係数を持つか否かを判別することができ、マクロブロック内の係数を持っているブロック数が分かる。このように係数を持っているブロック数が少なく、かつマクロブロックタイプが「ノンMCコーデッド」の場合には当該マクロブロックの動きは小さいと推定することができる。
【0052】
次に、動きベクトルは、その絶対値を参照すれば当該マクロブロックの動きが大きいか小さいかを判別することができる。すなわち、動きベクトルの絶対値が大きければ、そのマクロブロックの動きは大きいと推定でき、動きベクトルの絶対値が小さければ、そのマクロブロックの動きは小さいと推定できる。なお、Iフィールドの各マクロブロックに関しては、原則として動きベクトルが含まれていない。したがって、Iフィールドの動き量を推定する場合には、当該Iフィールドのマクロブロックを参照して復号されるPフィールドやBフィールドのマクロブロックの動きベクトルを利用する。
【0053】
このように動き量決定部124は、動きベクトル、マクロブロックアドレス、マクロブロックタイプ、DCTタイプおよびCBPといったパラメータに基づいてそのマクロブロックの動き量を推定することができ、当該推定した動き量に応じた値kを決定する。ここで、値kは0〜1の範囲で変動する値であり、動きが大きいほど1に近づくような値(ある程度動きが大きいと判断した場合はk=1)、動きが小さいほど0に近づくような値、動きがない場合に0といったように決定される。
【0054】
上記各パラメータによる動きの推定手法のように、いずれか1種類のパラメータに基づいて動きを推定して値kを決定するようにしていもよいが、複数種類のパラメータを組み合わせて動きを推定して値kを決定するようにしてもよい。以下、複数種類のパラメータを用いて動き量決定部124が動き量を推定して値kを決定する処理の一例について図3を参照しながら説明する。
【0055】
まず、処理対象となっているマクロブロックが「スキップト・マクロブロック」であるか否かを判断し(ステップSa1)、「スキップト・マクロブロック」である場合には、静止していると判断し、k=0に決定する。ここで、「スキップト・マクロブロック」であるか否かは、マクロブロックアドレスを参照することにより判断できる。
【0056】
次に、マクロブロックが「スキップト・マクロブロック」ではない場合には、マクロブロックタイプが「ノンMCコーデッド」であるか否かを判別し(ステップSa2)、「ノンMCコーデッド」の場合には、マクロブロックを構成する各ブロックのうち係数を持っているブロックが所定数以上であるか否かを判別する(ステップSa3)。ここで、係数を持っているブロック(有意ブロック)の数はCBPを参照することにより判別できる。ブロック数が所定数以上である場合には、当該マクロブロックが動いていると判断し、k=1に決定する。一方、ブロック数が所定数未満である場合には当該マクロブロックは静止していると判断し、k=0に決定する。
【0057】
一方、ステップSa2の判別において「ノンMCコーデッド」ではないと判別された場合には、マクロブロックタイプが「MCコーデッド」または「MC符号化不要」であるか否かを判別する(ステップSa4)。ここで、「MCコーデッド」または「MC符号化不要」である場合には、DCTタイプが「フレームモード」であるか否かを判別する(ステップSa5)。そして、「フレームモード」である場合には、動きベクトルの絶対値(MV)が4以上であるか否かを判別し(ステップSa6)、4以上である場合には当該マクロブロックが動いていると判断してk=1に決定する。動きベクトルの絶対値が4未満である場合には、動きベクトルの絶対値が1以上4未満であるか否かを判別し(ステップSa7)、1以上4未満である場合には、当該マクロブロックがゆっくり動いていると判断してk=0.5に決定する。また、ステップSa7の判別において絶対値が1以上4未満ではない場合、すなわち動きベクトルの絶対値が1未満の場合には、当該マクロブロックが非常にゆっくり動いていると判断してk=0.25に決定する。
【0058】
一方、ステップSa5において、「フレームモード」ではないと判断された場合、すなわちDCTタイプが「フィールドモード」である場合には、動きベクトルの絶対値が2以上であるか否かを判別する(ステップSa8)。ここで、動きベクトルの絶対値が2以上である場合には、当該マクロブロックは動いていると判断してk=1に決定する。一方、動きベクトルの絶対値が2未満である場合には、当該マクロブロックがややゆっくり動いていると判断してk=0.75に決定する。
【0059】
また、ステップSa4の判別において、マクロブロックタイプが「MCコーデッド」または「MC符号化不要」ではない場合には、当該マクロブロックがイントラマクロブロックであると判断してk=1に決定する。
【0060】
以上のようにして決定された現在MPEG2復号部110から出力されている画像のマクロブロックの動きに応じた値kは動き量決定部124から変換処理部113に出力される。なお、動き量決定部124では、各マクロブロック毎にkを決定することができるが、当該値kは後述する補間する各走査線毎の画像出力処理で用いられるため、実際には動き量決定部124は走査線方向に並ぶ複数のマクロブロックに対して決定した値kを切りかえて出力するようにすればよい。
【0061】
変換処理部113は、動画用補間画像出力部113aと、静止画用補間画像出力部113bと、加算器130と、切替スイッチ131とを備えている。
【0062】
動画用補間画像出力部113aは、フィールド内内挿を行うための補間画像を出力するものであり、ラインメモリ140と、加算器141と、乗算器142と、乗算器143とを有している。MPEG2デコーダ110から出力されたフィールドの画像は、ラインメモリ140および加算器141にも供給される。ラインメモリ140には1ライン(走査線)分の画像が保存され、次のラインの画像が供給されると、保存しているラインの画像を加算器141に出力する。これにより加算器141からは、1つのフィールド画像における上下に隣接するラインの画像が加算されて乗算器142に出力され、加算された画像は乗算器142によって1/2倍されて乗算器143に出力される。すなわち、乗算器142からは、1つのフィールド画像における上下に隣接するラインの画像を平均した画像が出力されるのである。
【0063】
乗算器143には、上述した動き量決定部124によって決定された値kが供給され、これにより乗算器142から出力された平均画像は乗算器143によってk倍されて加算器130に出力される。
【0064】
静止画用補間画像出力部113bは、フィールド間内挿を行うための補間画像を出力するものであり、フィールドメモリ150と、乗算器151とを有している。フィールドメモリ150には、MPEG2復号部110から供給された1フィールド分の画像が保存され、次のフィールドの画像がMPEG2復号部110から供給されると、保存しているフィールドの画像を乗算器151に出力する。乗算器151には、上述した動き量決定部124によって決定された値kが供給され、これによりフィールドメモリ150から供給された画像が(1−k)倍されて加算器130に出力される。
【0065】
加算器130は、動画用補間画像出力部113aおよび静止画用補間画像出力部113bから供給される画像を加算し、加算した画像がFIFO(First In First Out)メモリ351に供給され、当該画像がFIFOメモリ351から2倍速で切替スイッチ131に出力する。
【0066】
切替スイッチ131には、上記のような加算器130からの加算画像が供給されるとともに、MPEG2復号部110から供給されるフィールド画像、すなわち処理対象フィールドの画像がFIFO(First In First Out)メモリ350を介して供給される。ここで、切替スイッチ131には、MPEG2復号部110によって復号された画像がFIFOメモリ350から2倍速で供給される。切替スイッチ131は、MPEG2復号部110から供給される画像と加算器130から供給される画像を1ライン毎に切り換えて出力する。すなわち、MPEG2復号部110から出力されたフィールドの各ラインの画像を出力する間に、加算器130から出力された各ラインの画像を出力することにより、MPEG2復号部110から出力されたフィールド画像の各ライン間が補間されたプログレッシブ画像が切替スイッチ131から出力されるのである。
【0067】
例えば、動き量決定部124によってMPEG2復号部110から出力されたフィールド画像(処理対象フィールド画像)の動きがないと判断され、k=0が乗算器143および乗算器151に供給された場合、動画用補間画像出力部113aからは画像は出力されず、静止画用補間画像出力部113bからの画像がそのまま乗算器151を経て加算器130に出力される。すなわち、加算器130からの出力される画像は、静止画用補間画像出力部113bから出力された画像であり、MPEG2復号部110から出力されるフィールド画像の各ライン間を補間する画像として、静止画用補間画像出力部113bから出力される画像が用いられるのである。
【0068】
このように動き量決定部124によってk=0が出力された場合において、MPEG2復号部110から出力されるフィールド画像(インターレース)がプログレッシブ画像に変換される様子を図4に示す。同図に示すように、MPEG2復号部110から出力される処理対象フィールド画像がa1,a2,a3,a4……といったライン画像から構成されており、当該フィールド画像に1つ先行して出力された先行フィールド画像がb1,b2,b3,b4……といったライン画像から構成されているものとする。上述したように静止画用補間画像出力部113bは、フィールドメモリ150を有しており、当該フィールドメモリ150が次のフィールド画像が供給するまでフィールド画像を一時的に蓄積するので、静止画用補間画像出力部113bから出力されるフィールド画像は、MPEG2復号部110から切替スイッチ131に出力されるフィールド画像の1つ前に出力された画像、すなわち先行フィールド画像である。したがって、k=0の場合には、切替スイッチ131からは処理対象フィールドのライン画像と、先行フィールドのライン画像とが交互に出力されることになる。すなわち、a1,b1,a2,b2,a3,b3……といったライン画像から構成されるプログレッシブ画像、いわゆるフィールド間内挿処理により補間されたプログレッシブ画像が出力されるのである。
【0069】
一方、動き量決定部124によってMPEG2復号部110から出力されたフィールド画像(処理対象フィールド画像)が動いていると判断され、k=1が乗算器143および乗算器151に供給された場合、静止画用補間画像出力部113bからは画像は出力されず、動画用補間画像出力部113aからの画像がそのまま乗算器143を経て加算器130に出力される。すなわち、加算器130からの出力される画像は、動画用補間画像出力部113aから出力された画像であり、MPEG2復号部110から出力されるフィールド画像の各ライン間を補間する画像として、動画用補間画像出力部113aから出力される画像が用いられるのである。
【0070】
このように動き量決定部124によってk=1が出力された場合において、MPEG2復号部110から出力されるフィールド画像(インターレース)がプログレッシブ画像に変換される様子を図5に示す。同図に示すように、MPEG2復号部110から出力される処理対象フィールド画像がa1,a2,a3,a4……といったライン画像から構成されているものとする。上述したように動画用補間画像出力部113aは、処理対象フィールドの隣接するライン画像を平均した画像が各ラインを構成する画像が出力される。すなわち、動画用補間画像出力部113aからは、図示のように(a1+a2)/2,(a2+a3)/2,(a3+a4)/2……といったライン画像が順次出力されるのである。したがって、k=1の場合には、切替スイッチ131からは処理対象フィールドのライン画像と、動画用補間画像出力部113aから順次出力される(a1+a2)/2,(a2+a3)/2,(a3+a4)/2……といったライン画像とが交互に出力されることになる。これにより、a1,(a1+a2)/2,a2,(a2+a3)/2,a3,(a3+a4)/2……といったライン画像から構成されるプログレッシブ画像、いわゆるフィールド内内挿処理によって補間されたプログレッシブ画像が出力されるのである。
【0071】
また、動き量決定部124によって出力されるkが1および0ではない場合には、加算器130には、動画用補間画像出力部113aから出力された画像(動画用画像という)×kと、静止画用補間画像出力部113bから出力された画像(静止画用画像という)×(1−k)が供給され、両者が加算されて切替スイッチ131に出力されることになる。したがって、上記のように処理対象フィールド画像がa1,a2,a3,a4……といったライン画像から構成されており、当該フィールド画像に1つ先行して出力された先行フィールド画像がb1,b2,b3,b4……といったライン画像から構成されているものとした場合、a1,b1×(1−k)+k(a1+a2)/2,a2,b2×(1−k)+k(a2+a3)/2,a3,b3×(1−k)+k(a3+a4)/2……といったライン画像から構成されるプログレッシブ画像が出力されるのである。
【0072】
本実施形態では、動き量検出部112によってプログレッシブ変換を行うインターレース画像の動きが検出され、検出した動きに応じてフィールド内内挿処理およびフィールド間内挿処理との適宜選択、もしくは混合して行うことにより、画像の動きの大小に関わらず、優れた画質のプログレッシブ画像に変換することができる。本実施形態では、このように優れた画質のプログレッシブ画像に変換するための必要となる画像の動きを、復元画像(ビデオ信号)を参照するのではなく、MPEG2に準拠した符号化処理によって作成された画像の動きに関わるパラメータを利用して検出している。MPEG2に準拠した符号化処理では、連続するフィールド(もしくはフレーム)間の画像の差分や動きベクトル等の情報を用いてデータ圧縮を実現するものであり、MPEG2に準拠した符号化処理によって符号化されたデータには、画像の動きを推定するために利用できるパラメータが多数含まれている。本実施形態では、このように画像を圧縮符号化するために用いられているパラメータを、インターレース・プログレッシブ変換を行う際の画像の動きの推定に利用しているのである。もちろん、従来のインターレース・プログレッシブ変換においても、画像の動きに応じてフィールド間内挿処理やフィールド内内挿処理を適宜選択または混合等する技術もあったが、従来は復元した複数フィールド分の画像(ビデオ信号)から動きを求めているので複雑な演算処理を行う必要があった。これに対し本実施形態では、高圧縮符号化のために用いられているパラメータを利用して画像の動きを検出しているので、新たに複数フィールド間の画像の動き等を求めるための複雑な演算処理等を行う必要がない。したがって、当該インターレース・プログレッシブ変換処理をソフトウェアにより実現する場合にも、パーソナルコンピュータ(PC)等のCPU(Central Processing Unit)が実行すべき演算量を大幅に削減することができ、従来のインターレース・プログレッシブ変換と比較して、性能的に劣るCPUを搭載したPCでもソフトウェアによるインターレース・プログレッシブ変換を実現することができる。
【0073】
また、MPEG2に準拠した符号化処理で求められるフィールド間(フレーム間)の動きや画像の差分に関するパラメータは十分に正確性を持ったものであり、これらのパラメータを利用する動き推定も十分に正確性を有しているといえる。したがって、本実施形態では、インターレース・プログレッシブ変換の際に用いる画像の動きを、簡易な処理でより正確に推定することができるのである。
【0074】
B.第2実施形態
次に、図6は本発明の第2実施形態に係るインターレース・プログレッシブ変換装置の構成を示す。同図に示すように、第2実施形態に係るインターレース・プログレッシブ変換装置200は、第1実施形態に係るインターレース・プログレッシブ変換装置100における変換処理部113に代えて、動画用補間画像出力部113aおよび静止画用補間画像出力部113bに加えて動き補償補間画像出力部213を有する変換処理部215を備えている。なお、第2実施形態において、第1実施形態と共通する構成要素には同一の符号を付けて、その説明を省略する。
【0075】
第2実施形態に係るインターレース・プログレッシブ変換装置200の動き量検出部112’は、上記第1実施形態における動き量決定部124に代えて、動き量決定部124’を有している。動き量決定部124’は、上述した第1実施形態と同様、パラメータ保存部122に保存された各種パラメータに基づいて、処理対象フィールドの動きを推定し、推定した動きに応じてα、β、γといった3つの値を決定する(α+β+γ=1)。
【0076】
ここで、パラメータ保存部122に保存された複数種類のパラメータを用いて動き量決定部124’が動き量を推定して値α、β、γを決定する処理の一例について図7を参照しながら説明する。
【0077】
まず、処理対象となっているマクロブロックが「スキップト・マクロブロック」であるか否かを判断し(ステップSb1)、「スキップト・マクロブロック」である場合には、静止していると判断し、β=1、α=γ=0に決定する。ここで、「スキップト・マクロブロック」であるか否かは、マクロブロックアドレスを参照することにより判断できる。
【0078】
次に、マクロブロックが「スキップト・マクロブロック」ではない場合、マクロブロックタイプが「ノンMCコーデッド」であるか否かを判別し(ステップSb2)、「ノンMCコーデッド」の場合には、マクロブロックを構成する各ブロックのうち係数を持っているブロックが所定数以上であるか否かを判別する(ステップSb3)。ここで、係数を持っているブロックの数はCBPを参照することにより判別できる。ブロック数が所定数以上である場合には、当該マクロブロックが動いていると判断し、α=1、β=γ=0に決定する。一方、ブロック数が所定数未満である場合には当該マクロブロックは静止していると判断し、β=1、α=γ=0に決定する。
【0079】
一方、ステップSb2の判別において「ノンMCコーデッド」ではないと判別された場合には、マクロブロックタイプが「MCコーデッド」または「MC符号化不要」であるか否かを判別する(ステップSb4)。ここで、「MCコーデッド」または「MC符号化不要」である場合は、当該マクロブロックが動いているものの、その動き補償が有効と判断され、この場合にはγ=1,α=β=0に決定する。
【0080】
一方、ステップSb4の判別において、マクロブロックタイプが「MCコーデッド」または「MC符号化不要」ではないと判断された場合には、α=1、β=γ=0に決定する。
【0081】
以上のようにして決定された現在MPEG2復号部110から出力されている画像のマクロブロックの動きに応じた値α、β、γは動き量決定部124から各々動画用補間画像出力部113a、静止画用補間画像出力部113bおよび動き補償補間画像出力部213に出力される。
【0082】
変換処理部215は、上記第1実施形態と同様の動画用補間画像出力部113a、静止画用補間画像出力部113b、加算器130、および切替スイッチ131と、動き補償補間画像出力部213と、加算器216とを備えている。
【0083】
第2実施形態においては、動画用補間画像出力部113aの乗算器143には動き量決定部124’によって決定されたαが供給され、これにより乗算器143からは1つのフィールド画像における上下に隣接するラインの画像を平均した画像がα倍されて出力されるのである。
【0084】
また、静止画用補間画像出力部113bの乗算器151には、動き量決定部124’によって決定されたβが供給され、これにより乗算器151からはフィールドメモリ150から供給された画像(処理対象フィールドの1つ前に出力されたフィールド)がβ倍されて加算器216に出力される。
【0085】
動き補償補間画像出力部213は、フレームメモリ220と、動き補償部221と、乗算器222とを備えている。フレームメモリ220には、MPEG2復号部110から出力された2フィールド分の画像が蓄積され、動き補償部221は当該フレームメモリ220に蓄積された画像を参照することになる。動き補償部221は、動き量検出部112’の可変長復号器120から順次出力される各マクロブロック毎の動きベクトルに従い、各マクロブロックに対応した参照画像であるフレームメモリ220に蓄積された参照マクロブロックの所在を求める。動き補償部221は、このように動きベクトルにしたがって求めた参照マクロブロックの画像をフレームメモリ220から読み出し、乗算器222に出力する。図8に示すように、動き補償部221は、各マクロブロックMB毎に過去の画像中の参照マクロブロックSMBを求め、当該参照マクロブロックSMBの画像を各マクロブロックに当てはめた補間用画像を乗算器222に出力するのである。乗算器222には、動き量決定部124’によって決定されたγが供給され、これにより乗算器222から上記のように動き補償部221から出力された補間用画像がγ倍されて加算器216に出力される。
【0086】
加算器216には、上述したように静止画用補間画像出力部113bの乗算器151から出力される画像と、動き補償補間画像出力部213の乗算器222から出力される画像とが供給され、両者が加算されて加算器130に出力される。
【0087】
加算器130は、動画用補間画像出力部113aから出力される画像と、加算器216から出力される画像、すなわち静止画用補間画像出力部113bおよび動き補償補間画像出力部213から出力される画像を加算した画像とを加算し、加算した画像をFIFOメモリ351を介して切替スイッチ131に出力する。
【0088】
切替スイッチ131には、上記のような加算器130からの加算画像が供給されるとともに、MPEG2復号部110から供給されるフィールド画像、すなわち処理対象フィールドの画像がFIFOメモリ350を介して供給される。切替スイッチ131は、MPEG2復号部110から供給される画像と加算器130から供給される画像を1ライン毎に切り換えて出力する。すなわち、MPEG2復号部110から出力されたフィールドの各ラインの画像を出力する間に、加算器130から出力された各ラインの画像を出力することにより、MPEG2復号部110から出力されたフィールド画像の各ライン間が補間されたプログレッシブ画像が切替スイッチ131から出力されるのである。
【0089】
例えば、動き量決定部124’によってMPEG2復号部110から出力されたフィールド画像(処理対象フィールド画像)の動きがないと判断され、β=1、α=γ=0が変換処理部215に供給された場合、動画用補間画像出力部113aおよび動き補償補間画像出力部213からは画像は出力されず、静止画用補間画像出力部113bからの画像がそのまま乗算器151、加算器216を経て加算器130に出力される。すなわち、加算器130からの出力される画像は、静止画用補間画像出力部113bから出力された画像であり、MPEG2復号部110から出力されるフィールド画像の各ライン間を補間する画像として、静止画用補間画像出力部113bから出力される画像が用いられるのである。この場合、上述した第1実施形態で説明したフィールド間内挿処理(図4参照)が行われ、インターレース画像がプログレッシブ画像に変換されて出力される。
【0090】
次に、動き量決定部124’によってMPEG2復号部110から出力されたフィールド画像(処理対象フィールド画像)が動いていると判断され、α=1、β=γ=0が変換処理部215に供給された場合、静止画用補間画像出力部113bおよび動き補償補間画像出力部213からは画像は出力されず、動画用補間画像出力部113aからの画像がそのまま乗算器143を経て加算器130に出力される。すなわち、加算器130からの出力される画像は、動画用補間画像出力部113aから出力された画像であり、MPEG2復号部110から出力されるフィールド画像の各ライン間を補間する画像として、動画用補間画像出力部113aから出力される画像が用いられるのである。この場合、上述した第1実施形態で説明したフィールド内内挿処理(図5参照)が行われ、インターレース画像がプログレッシブ画像に変換されて出力される。
【0091】
次に、動き量決定部124’によってMPEG2復号部110から出力されたフィールド画像(処理対象フィールド画像)がゆっくり動いていると判断され、γ=1、α=β=0が変換処理部215に供給された場合、静止画用補間画像出力部113bおよび動画用補間画像出力部113aからは画像は出力されず、動き補償補間画像出力部213からの画像がそのまま乗算器222、加算器216を経て加算器130に出力される。すなわち、加算器130からの出力される画像は、動き補償補間画像出力部213から出力された画像であり、MPEG2復号部110から出力されるフィールド画像の各ライン間を補間する画像として、動き補償補間画像出力部213から出力される画像が用いられるのである。上述したように動き補償補間画像出力部213から出力される画像は、各マクロブロック毎に動きベクトルに従い、過去の参照画像から抽出されたものであり、処理対象フィールド画像の動き量を反映して作成された画像である。このような画像が処理対象フィールド画像の各ライン間の補間画像として用いられ、インターレース画像がプログレッシブ画像に変換されて出力される。
【0092】
第2実施形態では、第1実施形態と同様に動き量検出部112’によってプログレッシブ変換を行うインターレース画像の動きが検出され、静止している場合にはフィールド間内挿処理が行われ、大きく動いている場合にはフィールド内内挿処理が行われる。また、画像が大きく動いている場合や静止している場合にも、優れた画質のプログレッシブ画像に変換することができる。さらに、第2実施形態では、処理対象画像がゆっくりとした動きである場合には、MPEG2に準拠した符号化処理によって作成された画像の動きを示す動きベクトルを利用して補間用の画像を作成している。このように動きベクトルに利用して作成された画像は、当然ながらその処理対象画像の動き量を反映した画像となる。すなわち、動き量に応じた補間画像を作成し、インターレース画像をプログレッシブ画像に変換することができるのである。
【0093】
【発明の効果】
以上説明したように、本発明によれば、インターレースフォーマットの画像を、より簡易な処理でより正確にプログレッシブフォーマットの画像に変換することができる。
【図面の簡単な説明】
【図1】 本発明の第1実施形態に係るインターレース・プログレッシブ変換装置の構成を示す図である。
【図2】 前記インターレース・プログレッシブ変換装置の構成要素であるフィールド同期検出部による処理を説明するための図である。
【図3】 前記インターレース・プログレッシブ変換装置の構成要素である動き量決定部による処理を説明するためのフローチャートである。
【図4】 前記インターレース・プログレッシブ変換装置により実行されるフィールド間内挿処理を説明するための図である。
【図5】 前記インターレース・プログレッシブ変換装置により実行されるフィールド内内挿処理を説明するための図である。
【図6】 本発明の第2実施形態に係るインターレース・プログレッシブ変換装置の構成を示す図である。
【図7】 第2実施形態に係る前記インターレース・プログレッシブ変換装置の構成要素である動き量決定部による処理を説明するためのフローチャートである。
【図8】 第2実施形態係る前記インターレース・プログレッシブ変換装置の構成要素である動き補償部による補間画像作成処理を説明するための図である。
【図9】 従来のインターレース・プログレッシブ変換装置の構成を示す図である。
【符号の説明】
110……MPEG2復号部、111……バッファ、112,112’……動き量検出部、113……変換処理部、120……可変長復号器、121……フィールド同期検出部、122……パラメータ保存部、123……MBAカウンタ、124,124’……動き量決定部、113a……動画用補間画像出力部、113b……静止画用補間画像出力部、131……切替スイッチ、213……動き補償補間画像出力部、215……変換処理部、220……フレームメモリ、221……動き補償部
Claims (2)
- フィールド単位のフィールド内符号化アルゴリズム又はフレーム単位のフレーム内符号化アルゴリズムと動き補償を伴った、フィールド間符号化アルゴリズム又はフレーム間符号化アルゴリズムを含む符号化アルゴリズムであって、フィールド画像を構成する複数のマクロブロック毎の動きベクトル情報、マクロブロックのタイプが非動き補償コーデッドであるか動き補償コーデッドであるかを示すマクロブロックタイプ情報および有意ブロックパターンを示すCBP(Coded Block Pattern)情報を含む符号化画像データを作成するための符号化アルゴリズムによって、1対のフィールドを1フレームとするインターレース画像を符号化した符号化画像データを、プログレッシブ画像に変換するインターレース・プログレッシブ変換方法であって、
(a)前記符号化画像データを、前記符号化アルゴリズムに対応した復号アルゴリズムにより復号してフィールド画像を復元する復号ステップと、
(b)前記符号化画像データから、前記動きベクトル情報、前記マクロブロックタイプ情報および前記CBP情報を抽出する抽出ステップと、
(c)前記符号化画像データから抽出された前記動きベクトル情報、前記マクロブロックタイプ情報および前記CBP情報に基づいて、前記復元されたフィールド画像を分割したマクロブロックの動きの大小を検出する動き検出ステップであって、
前記マクロブロックタイプ情報が非動き補償コーデッドである場合、当該マクロブロックタイプ情報に対応するマクロブロックの前記CBP情報によって当該マクロブロック内の係数を持っているブロック数を判別し、そのブロック数が所定数以上のときにはマクロブロックの動きが大きいと判断する一方、当該ブロック数が前記所定数未満のときにはマクロブロックの動きが小さいと判断する第1のステップと、
前記マクロブロックタイプ情報が動き補償コーデッドである場合、前記動きベクトル情報の絶対値が閾値以上であるときには、マクロブロックの動きが大きいと判断する一方、前記動きベクトル情報の絶対値が前記閾値未満であるときには、マクロブロックの動きが小さいと判断する第2のステップと
からなる動き検出ステップと、
(d)前記フィールド画像を補間するための画像データを、前記マクロブロックの動きが大きいほど、当該フィールド画像に先行する先行フィールド画像に基づくフィールド間内挿処理の割合を小さく、且つ、前記マクロブロックの動きが小さいほど、当該フィールド画像に基づくフィールド内内挿処理の割合を小さくした処理方法で生成し、生成した当該画像データによって当該フィールド画像を補間することによりプログレッシブ画像に変換する変換ステップと
を具備することを特徴とするインターレース・プログレッシブ変換方法。 - フィールド単位のフィールド内符号化アルゴリズム又はフレーム単位のフレーム内符号化アルゴリズムと動き補償を伴った、フィールド間符号化アルゴリズム又はフレーム間符号化アルゴリズムを含む符号化アルゴリズムであって、フィールド画像を構成する複数のマクロブロック毎の動きベクトル情報、マクロブロックのタイプが非動き補償コーデッドであるか動き補償コーデッドであるかを示すマクロブロックタイプ情報および有意ブロックパターンを示すCBP(Coded Block Pattern)情報を含む符号化画像データを作成するための符号化アルゴリズムによって、1対のフィールドを1フレームとするインターレース画像を符号化した符号化画像データを、プログレッシブ画像に変換するインターレース・プログレッシブ変換装置であって、
(a)前記符号化画像データを、前記符号化アルゴリズムに対応した復号アルゴリズムにより復号してフィールド画像を復元する復号手段と、
(b)前記符号化画像データから、前記動きベクトル情報、前記マクロブロックタイプ情報および前記CBP情報を抽出する抽出手段と、
(c)前記符号化画像データから抽出された前記動きベクトル情報、前記マクロブロックタイプ情報および前記CBP情報に基づいて、前記復元されたフィールド画像を分割したマクロブロックの動きの大小を検出する動き検出手段であって、
前記マクロブロックタイプ情報が非動き補償コーデッドである場合、当該マクロブロックタイプ情報に対応するマクロブロックの前記CBP情報によって当該マクロブロック内の係数を持っているブロック数を判別し、そのブロック数が所定数以上のときにはマクロブロックの動きが大きいと判断する一方、当該ブロック数が前記所定数未満のときにはマクロブロックの動きが小さいと判断し、
前記マクロブロックタイプ情報が動き補償コーデッドである場合、前記動きベクトル情報の絶対値が閾値以上であるときには、マクロブロックの動きが大きいと判断する一方、前記動きベクトル情報の絶対値が前記閾値未満であるときには、マクロブロックの動きが小さいと判断する動き検出手段と、
(d)前記フィールド画像を補間するための画像データを、前記マクロブロックの動きが大きいほど、当該フィールド画像に先行する先行フィールド画像に基づくフィールド間内挿処理の割合を小さく、且つ、前記マクロブロックの動きが小さいほど、当該フィールド画像に基づくフィールド内内挿処理の割合を小さくした処理方法で生成し、生成した当該画像データによって当該フィールド画像を補間することによりプログレッシブ画像に変換する変換手段と
を具備することを特徴とするインターレース・プログレッシブ変換装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000395794A JP4078803B2 (ja) | 2000-12-26 | 2000-12-26 | インターレース・プログレッシブ変換方法および変換装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000395794A JP4078803B2 (ja) | 2000-12-26 | 2000-12-26 | インターレース・プログレッシブ変換方法および変換装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2002199350A JP2002199350A (ja) | 2002-07-12 |
JP2002199350A5 JP2002199350A5 (ja) | 2005-04-07 |
JP4078803B2 true JP4078803B2 (ja) | 2008-04-23 |
Family
ID=18861196
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000395794A Expired - Fee Related JP4078803B2 (ja) | 2000-12-26 | 2000-12-26 | インターレース・プログレッシブ変換方法および変換装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4078803B2 (ja) |
-
2000
- 2000-12-26 JP JP2000395794A patent/JP4078803B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002199350A (ja) | 2002-07-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JPH11112973A (ja) | 映像信号変換装置及び映像信号変換方法 | |
KR100235988B1 (ko) | 디티브이 영상 포맷 변환장치 및 그 방법 | |
JP2000050212A (ja) | 画像表示装置及び画像表示方法 | |
JP3201079B2 (ja) | インターレース動画像信号の動き補償予測方法、符号化方法及び装置 | |
JP2002523947A (ja) | Mpegデータの復号化および走査変換の遂行に要するバッファメモリの量を減少させる方法および装置 | |
JP2003333540A (ja) | フレームレート変換装置及びそれを用いた映像表示装置、テレビジョン放送受信装置 | |
EP1418754B1 (en) | Progressive conversion of interlaced video based on coded bitstream analysis | |
JP4078803B2 (ja) | インターレース・プログレッシブ変換方法および変換装置 | |
JP2001086508A (ja) | 動画像復号方法及び動画像復号装置 | |
US6904093B1 (en) | Horizontal/vertical scanning frequency converting apparatus in MPEG decoding block | |
JP3859118B2 (ja) | 可変画像レート符号化装置、可変画像レート復号化装置、可変画像レート符号化方法、及び可変画像レート復号化方法 | |
JP2002369155A (ja) | 画像変換方法および画像変換装置 | |
JP4035808B2 (ja) | 動画像走査構造変換装置、動画像走査構造変換方法 | |
JP3708745B2 (ja) | 動画像復号装置および動画像復号方法 | |
JPH10126749A (ja) | 順次走査変換装置 | |
JP3186406B2 (ja) | 画像合成符号化方法及び画像合成装置 | |
JP4184223B2 (ja) | トランスコーダ | |
JP4258537B2 (ja) | 画像信号生成方法及び画像信号生成装置 | |
JP3915802B2 (ja) | 画像復号化方法および画像復号化装置 | |
JP2002223419A (ja) | 順次走査変換方法および順次走査変換装置 | |
JP3481118B2 (ja) | 動画像復号化方法 | |
KR0129214B1 (ko) | 고화질 티브이의 디코더 | |
JP3416509B2 (ja) | 動画像復号化装置 | |
JPH10174105A (ja) | 動き判定装置 | |
JPH0846929A (ja) | 画像信号の符号化・復号化方式および装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040513 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040513 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060412 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060418 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060619 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070619 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070820 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071016 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071217 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080115 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080128 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110215 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120215 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130215 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140215 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |