JP2009260440A - 動画像処理装置及びその制御方法、プログラム - Google Patents

動画像処理装置及びその制御方法、プログラム Download PDF

Info

Publication number
JP2009260440A
JP2009260440A JP2008104029A JP2008104029A JP2009260440A JP 2009260440 A JP2009260440 A JP 2009260440A JP 2008104029 A JP2008104029 A JP 2008104029A JP 2008104029 A JP2008104029 A JP 2008104029A JP 2009260440 A JP2009260440 A JP 2009260440A
Authority
JP
Japan
Prior art keywords
image
field image
candidate
current
field
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008104029A
Other languages
English (en)
Other versions
JP5219598B2 (ja
Inventor
Osamu Itokawa
修 糸川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008104029A priority Critical patent/JP5219598B2/ja
Priority to US12/409,125 priority patent/US8139151B2/en
Priority to CN2009101336396A priority patent/CN101557492B/zh
Publication of JP2009260440A publication Critical patent/JP2009260440A/ja
Application granted granted Critical
Publication of JP5219598B2 publication Critical patent/JP5219598B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/012Conversion between an interlaced and a progressive signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/0137Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes dependent on presence/absence of motion, e.g. of motion zones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/0147Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes the interpolation using an indication of film mode or an indication of a specific pattern, e.g. 3:2 pull-down pattern

Abstract

【課題】フィールド画像の並びの規則性が崩れた場合でも、安定した画質を保持する。
【解決手段】現フィールド画像と前フィールド画像とから、同一時間のデータとして組み合わせたフレーム画像を生成し第1の候補画像とする。現フィールド画像と後フィールド画像とから、同一時間のデータとして組み合わせたフレーム画像を生成し第2の候補画像する。現フィールド画像を入力し、画素補間処理によりフレーム画像を生成し第3の候補画像する。現フィールド画像が、前フィールド画像、後フィールド画像と連続性があるか、あるいはいずれとも連続性がないかを判定し、その現フィールド画像の判定結果を履歴情報として記憶する。記憶している現フィールド画像よりも前の連続するフィールド画像の履歴情報のパターンから、特定パターンを検出し、その結果に基づいて現フィールド画像のフレーム画像として、第1乃至第3の候補画像のいずれかを選択する。
【選択図】図1A

Description

本発明は、動画像中のフィールド画像からフレーム画像を生成する動画像処理装置及びその制御方法、プログラムに関するものである。
動画像データを伝送、蓄積に用いる形式として、従来より毎秒60フィールドのインターレース画像(フィールド画像)が広く用いられている。デジタル放送による伝送や、DVDによるデジタルデータの蓄積には、MPEG−2の動画像符号化を用いてこのインターレース画像を圧縮している。ビデオカメラによる撮影においても、この毎秒60フィールドのインターレース画像での撮影が一般的である。
一方、映画の撮影や上映では、毎秒24フレームの画像を用いることが広く行われている。従って、映画を放送したり、DVDに記録する際には、通常、毎秒24フレームのプログレッシブ画像(フレーム画像)を毎秒60フィールドのインターレース画像(フィールド画像)に変換する作業が行われている。
この変換は、一般に、2−3プルダウン処理と呼ばれている。図9(a)は、毎秒24のフレーム画像A〜Dを示しており、図9(b)は、毎秒60フィールドのインターレース画像を示している。2−3プルダウン処理は、連続するフレーム画像A〜Dを、A1、A2、B1、B2、B3、C1、C2、D1、D2、D3のように、2−3―2−3と分割する。そして、これらの画像に対し、奇数・偶数交互にインターレースのフィールド画像に変換する処理である。
一方、これらの放送、蓄積画像を表示するディスプレイにおいては、古くからCRTが用いられており、このCRTでは、入力されるインターレース画像をそのまま出力表示している。しかしながら、近年では、LCD、プラズマ等に代表される新たな表示デバイスの開発により、インターレース画像をプログレッシブ画像に変換して表示する装置が普及し始めている。
インターレース画像(フィールド画像)をプログレッシブ画像(フレーム画像)に変換するには、単純には、現在のフィールド画像と1つ前のフィールド画像を組み合わせることにより、フレーム画像を生成する方法がある(例えば、特許文献1参照)。
図9(c)は、この方式を用いてフレーム画像を生成した例である。ここで、A1/A2は、フィールド画像A1とフィールド画像A2を組み合わせて、フレーム画像を生成していることを示している。フィールド画像A1とフィールド画像A2は元々同一時間のフレーム画像から生成したフィールド画像であるので、理論上完全に元のフレーム画像に戻すことができる。しかしながら、この方法の場合、次のフレーム画像A2/B1は、異なる時間のフィールド画像から生成したフレーム画像となるので、視覚的に不自然な画像を表示することになってしまう。
このため、元々が毎秒24フレームのフレーム画像であり、2−3プルダウン処理されているフィールド画像であるということがわかっていれば、2−3プルダウン処理の逆処理を実行することで、元のフレーム画像の構成をとることが可能となる。そして、このフレーム画像を2フレーム、3フレームと交互に再生していけば、時間的に異なるフィールド画像の組み合わせでフレーム画像が生成されることはない。
図9(d)は、この2−3プルダウン処理の逆処理を示しており、フィールド画像A1からは、1つ後のフィールド画像A2との組み合わせで、フレーム画像A1/A2を生成する。また、フィールド画像A2からは、1つ前のフィールド画像A1との組み合わせで、フレーム画像A1/A2を生成する。また、フィールド画像B1からは、1つ後のフィールド画像B2との組み合わせで、フレーム画像B1/B2を生成し、フィールド画像B2からは、1つ前のフィールド画像B1との組み合わせで、フレーム画像B1/B2を生成する。更に、フィールド画像B3からは、1つ前のフィールド画像B2との組み合わせで、フレーム画像B2/B3を生成する。
このように、同一時間のフィールド画像同士を組み合わせてフレーム画像を生成するには、対象のフィールド画像に1つ前もしくは1つ後のフィールド画像を組み合わせればよいことになる。1つ後のフィールド画像との組み合わせを「2」、1つ前のフィールド画像との組み合わせを「1」とすると、フィールド画像の組み合わせパターンは2−1−2−1−1となる。そのため、生成されるフレーム画像の構成は、この組み合わせパターンが繰り返される繰り返しパターンとなる。
この繰り返しパターンの検出方法の一例としては、特許文献2がある。この特許文献2の技術は、毎秒60フィールドのインターレース画像から毎秒24フレームのプログレッシブ画像に戻すための処理である。そして、繰り返しパターンの検出においては、毎秒60フレームのプログレッシブ画像を生成する処理と共通な技術と言える。この方式では、フィールド画像間の差分を検出することにより、元々が同一時間のフレーム画像であったか否かを判定し、その判定結果に基づいて、同一時間のフィールド画像の組からなる繰り返しパターンを検出する。この繰り返しパターンを検出できている限りは、問題なく正しい時間順序でフレーム画像の生成、表示が可能となる。
特開平11−88845 特開平7−107375
しかしながら、2−3プルダウン処理された画像は、常に上述の2−1−2−1−1の繰り返しパターンを取るとは限らない。例えば、2−3プルダウン処理後のフィールド画像を任意のポイントで編集した場合は、この繰り返しパターンが崩れることがある。図9(e)は、図9(b)のフィールド画像B2の後のシーンをカットし、フィールド画像M1からのシーンを繋いだ例となっている。
この場合、フィールド画像A1からの理想的な繰り返しパターンは、2−1−2−1−2−1−2−1−1となる。特許文献2では、このような繰り返しパターンの位相がずれた場合には、編集点の情報を外部から与えることによって、修正する方法を採用しており、編集点の検出方法についての具体的な解決策は、述べられていない。
また、図9(f)は、図9(b)のフィールド画像B2の後のシーンをカットし、フィールド画像L3からのシーンを繋いだ例となっている。この場合、フィールド画像L3における理想的なフィールド画像の組み合わせは存在しないことになり、フィールド画像B2との組み合わせでも、フィールドM1との組み合わせでも画質の劣化を生じることになる。
本発明は上記の課題を解決するためになされたものである。その目的は、フィールド画像の並びの規則性が崩れた場合でも、時間軸の異なる劣化したフレーム画像の生成を防ぎ、安定した画質を保持することができる動画像処理装置及びその制御方法、プログラムを提供することを目的とする。
上記の目的を達成するための本発明による動画像処理装置は以下の構成を備える。即ち、
動画像中のフィールド画像からフレーム画像を生成する動画像処理装置であって、
現在の現フィールド画像とそれより時間的に前の前フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第1の候補画像として出力する第1の候補画像生成手段と、
前記現在の現フィールド画像とそれより時間的に後の後フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第2の候補画像として出力する第2の候補画像生成手段と、
前記現フィールド画像を入力し、その現フィールド画像に対する画素補間処理によりフレーム画像を生成し、これを第3の候補画像として出力する第3の候補画像生成手段と、
前記現フィールド画像が、前記前フィールド画像と連続性があるか、前記後フィールド画像と連続性があるか、あるいはいずれとも連続性がないかを判定する判定手段と、
前記判定手段による判定結果に基づいて、前記現フィールド画像の判定結果を履歴情報として記憶する記憶手段と、
前記記憶手段に記憶している前記現フィールド画像よりも前の連続するフィールド画像の履歴情報のパターンから、特定パターンを検出する検出手段と、
前記検出手段の検出結果に基づいて、前記現フィールド画像のフレーム画像として、前記第1乃至第3の候補画像のいずれから選択する選択手段と
を備える。
また、好ましくは、前記選択手段は、
前記検出手段が前記特定パターンを検出する場合、その特定パターンに従って、前記現フィールド画像のフレーム画像として、前記第1及び第2の候補画像のいずれかを選択し、
前記検出手段が前記特定パターンを検出しない場合、前記現フィールド画像のフレーム画像として、前記第3の候補画像を選択する。
また、好ましくは、前記判定手段は、前記前フィールド画像と前記現フィールド画像との間の相関値、前記現フィールド画像と前記後フィールド画像との間の相関値及び閾値の3つの値の大小関係から、前記現フィールド画像が、前記前フィールド画像と連続性があるか、前記後フィールド画像と連続性があるか、あるいはいずれとも連続性がないかを判定する。
また、好ましくは、前記記憶手段は、
判定結果として前記前フィールド画像あるいは前記後フィールド画像のいずれかに前記連続性があると判定した場合は、その判定結果の履歴情報を記憶して、これまでに記憶している履歴情報を更新し、
判定結果として前記前フィールド画像及び前記後フィールド画像のいずれにも前記連続性がないと判定した場合は、これまでに記憶している履歴情報をリセットする。
また、好ましくは、前記第3の候補画像生成手段は、前記前フィールド画像と前記後フィールド画像の少なくとも一方を補間画素生成用フィールド画像として入力し、指定された重み付けに従って、画素単位に前記現フィールド内の画素と前記補間画素生成用フィールド画像の画素を用いて補間画素を生成することで、前記現フィールド画像に対するフレーム画像を生成する。
また、好ましくは、前記第3の候補画像生成手段は、前記検出手段による特定パターンの検出の有無に応じて、前記重み付けを変更する。
また、好ましくは、前記第3の候補画像生成手段は、前記検出手段が前記特定パターンを検出しない場合、前記現フィールド画像の画素を用いる重み付けを増やす。
上記の目的を達成するための本発明による動画像処理装置の制御方法は以下の構成を備える。即ち、
動画像中のフィールド画像からフレーム画像を生成する動画像処理装置の制御方法であって、
現在の現フィールド画像とそれより時間的に前の前フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第1の候補画像として出力する第1の候補画像生成工程と、
前記現在の現フィールド画像とそれより時間的に後の後フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第2の候補画像として出力する第2の候補画像生成工程と、
前記現フィールド画像を入力し、その現フィールド画像に対する画素補間処理によりフレーム画像を生成し、これを第3の候補画像として出力する第3の候補画像生成工程と、
前記現フィールド画像が、前記前フィールド画像と連続性があるか、前記後フィールド画像と連続性があるか、あるいはいずれとも連続性がないかを判定する判定工程と、
前記判定工程による判定結果に基づいて、前記現フィールド画像の判定結果を履歴情報として記憶媒体に記憶する記憶工程と、
前記記憶媒体に記憶している前記現フィールド画像よりも前の連続するフィールド画像の履歴情報のパターンから、特定パターンを検出する検出工程と、
前記検出工程の検出結果に基づいて、前記現フィールド画像のフレーム画像として、前記第1乃至第3の候補画像のいずれから選択する選択工程と
を備える。
上記の目的を達成するための本発明によるプログラムは以下の構成を備える。即ち、
動画像中のフィールド画像からフレーム画像を生成する動画像処理装置の制御をコンピュータに実行させるためのプログラムであって、
現在の現フィールド画像とそれより時間的に前の前フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第1の候補画像として出力する第1の候補画像生成工程と、
前記現在の現フィールド画像とそれより時間的に後の後フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第2の候補画像として出力する第2の候補画像生成工程と、
前記現フィールド画像を入力し、その現フィールド画像に対する画素補間処理によりフレーム画像を生成し、これを第3の候補画像として出力する第3の候補画像生成工程と、
前記現フィールド画像が、前記前フィールド画像と連続性があるか、前記後フィールド画像と連続性があるか、あるいはいずれとも連続性がないかを判定する判定工程と、
前記判定工程による判定結果に基づいて、前記現フィールド画像の判定結果を履歴情報として記憶媒体に記憶する記憶工程と、
前記記憶媒体に記憶している前記現フィールド画像よりも前の連続するフィールド画像の履歴情報のパターンから、特定パターンを検出する検出工程と、
前記検出工程の検出結果に基づいて、前記現フィールド画像のフレーム画像として、前記第1乃至第3の候補画像のいずれから選択する選択工程と
をコンピュータに実行させる。
本発明によれば、フィールド画像の並びの規則性が崩れた場合でも、時間軸の異なる劣化したフレーム画像の生成を防ぎ、安定した画質を保持することができる動画像処理装置及びその制御方法、プログラムを提供できる。
以下、本発明の実施の形態について図面を用いて詳細に説明する。
本発明は、例えば、動画像中の、毎秒60フィールドのインターレース画像を毎秒60フレームのプログレッシブ画像に変換する動画像処理に関するのである。特に、本発明は、入力するインターレース画像が毎秒60フレームとは異なるフレームレート(例えば、毎秒24フレーム)のプログレッシブ画像から生成されている場合の動画像処理に関するものである。 特に、本発明では、編集によってパターンが崩れた2−3プルダウンの画像に対しても、異なる時間の画像のフィールドを組み合わせることによる画質劣化を生じさせない動画像処理装置及びその制御方法、プログラムを提供することを目的とする。
<実施形態1>
図1Aは本発明の実施形態1の動画像処理装置の機能構成を示す図である。
実施形態1の動画像処理装置は、メモリ101から同時に3つのフィールド画像を読み出し、これらを入力として処理し、出力として1つのフレーム画像を生成し、メモリ101に書き出す構成からなる。
3つのフィールド画像は、現在のフィールド画像nと、現在のフィールド画像nより時間的に1つ前のフィールド画像n−1、及び現在のフィールド画像nより時間的に1つ後のフィールド画像n+1である。
第1の候補画像生成部102では、現在のフィールド画像と1つ前のフィールド画像を同一時間のデータとして組み合わせてフレーム画像(第1の候補画像)を生成する。第2の候補画像生成部103では、現在のフィールド画像と1つ後のフィールド画像を同一時間のデータとして組み合わせてフレーム画像(第2の候補画像)を生成する。
候補画像比較・判定部105では、2つの候補画像のどちらのフィールド画像の組み合わせが、同一時間のフレーム画像であるかを判定する。このときの判定に、どちらの組み合わせでもない、という選択肢が加わることが本発明の特徴となっている。
判定パターン検出部106では、候補画像比較・判定部105の出力である判定結果の履歴を調べ、2−3プルダウン処理で判定を行うための判定パターンにマッチするか否かの検出を行う。
候補画像選択部107では、判定パターン検出部106の検出結果に基づき、2−3プルダウン処理の判定パターン(特定)にマッチしている場合は、その特定パターンに従って、候補画像生成部からのフレーム画像を選択して出力する。特に、実施形態1では、特定パターンにマッチしている場合は、その特定パターンに従って、候補画像選択部107は、候補画像生成部102からのフレーム画像と、候補画像生成部103のフレーム画像を切り替えて出力する。
候補画像比較・判定部105において、2つの候補画像のどちらのフィールド画像の組み合わせでもないと判定した場合は、判定パターン検出部106のパターン履歴はリセットされ、候補画像選択部107は、第3の候補画像生成部104の出力を選択する。候補画像生成部104が生成する第3の候補画像の画像生成方法は、フィールド内補間処理(画素補間処理)を用いる方法であり、他の時間のフィールド画像を用いないことを特徴としている。
このように、候補画像選択部107は、検出結果(特定パターンの有無)に基づいて、現フィールド画像のフレーム画像として、第1乃至第3の候補画像のいずれから選択する。
尚、候補画像の生成は、フィールド画像全部を同時に処理することが望ましいが、回路規模が膨大になることから、フィールド画像を所定数のブロックに分割し、ブロック単位の判定結果の累積からフィールド画像単位の結果を得る方法が現実的である。
また、図1Aの動画像処理装置の各種機能構成は、専用のハードウェアによって実現されても良いし、ソフトウェアによって実現されても良い。あるいは、ハードウェアとソフトウェアを協働利用して実現されても良い。
図1Aの動画像処理装置のハードウェア構成について、図1Bを用いて説明する。
図1Bは本発明の実施形態1の動画像処理装置のハードウェア構成を示すブロック図である。
CPU1002は、動画像処理装置の各種構成要素を制御する。ROM1003は、動画像処理装置が実行する処理(後述のフローチャートによる処理)を実現するための各種プログラム、パラメータ等の各種データを記憶する。CPU1002は、プログラムをROM1003から読み出し実行することによって、必要な処理を実行する。
RAM1004は、データの作業領域、一時待避領域として機能する。また、図1Aのメモリ101は、例えば、このRAM1004によって実現される。ネットワークインタフェース(I/F)1005は、ネットワークと接続し、ネットワーク上の外部機器とデータの送受信を行う。
入力装置1006は、キーボード及びポインティングデバイス(マウス)を有し、動画像処理装置における各種処理の実行、パラメータ等のデータ入力に用いる。出力装置1007は、LCD等の表示装置であり、各種処理を実行するための操作画面や処理結果の画面等のグラフィックユーザインタフェースを提供する。また、出力装置1007として、表示装置に加えて、印刷装置を構成することも可能である。
外部記憶装置1008は、処理対象の動画像ファイル(一連のフィールド画像)や、処理後の動画像ファイル(一連のフレーム画像)を記憶したり、各種データを記憶する。
次に、実施形態1の動画像処理装置の具体的な処理について、図2〜図4を用いて説明する。
図2は本発明の実施形態1の動画像処理装置が実行する処理を示すフローチャートである。
まず、候補画像比較・判定部105は、検出パターンがロック(確定)されているか否かの判定を行う(ステップS201)。通常の状態では、検出パターンはロックされている。そのため、検出パターンがロックされている場合(ステップS201でYES)、その検出パターンに従って、候補画像選択部107は、候補画像生成部102あるいは候補画像生成部103を選択する。そして、その選択された候補画像生成部102あるいは候補画像生成部103は、予測パターン(ロックされている検出パターン)に基づく補間処理によりフレーム画像を生成する(ステップS202)。
一方、編集等により検出パターンが崩れている(ロックされていない)場合(ステップS201でNO)、ロックが解除された状態になるので、このときは、候補画像選択部107は、候補画像生成部104を選択する。そして、その選択された候補画像生成部104は、フィールド内補間処理によりフレーム画像を生成する(ステップS203)。現フィールド画像に対する処理はこれだけであり、以下は、次のフィールドに対する準備処理に相当する。
次に、候補画像比較・判定部105は、次フィールド判定処理を行う(ステップS204)。これは、現フィールド画像と次フィールド画像(前フィールド画像及び後フィールド画像)の間に連続性があるかどうか(編集点になっていないかどうか)の判定と、フィールド画像間の組み合わせを検出し、パターン判定の準備を行う。
この次フィールド判定処理の詳細について、図3及び図4を用いて説明する。
図3及び図4は本発明の実施形態1の次フィールド判定処理の詳細を示すフローチャートである。
尚、図3は、次フィールド判定処理の前半部分に相当する。
まず、候補画像比較・判定部105は、初期設定として、フィールド画像を所定数のブロックに分割して、ブロック単位の処理を累積するためのカウント値をゼロにリセットする(ステップS301)。以下は、ブロック毎の処理となる。
まず、候補画像比較・判定部105は、前フィールド画像と現フィールド画像との相関値を検出する(ステップS302)。ここでは、相関値(第1相関値)として、差分絶対値(R1)を検出する。そのため、差分絶対値(R1)が大きいほど、画像間の相関は小さくなる。同時に、候補画像比較・判定部105は、現フィールド画像と後フィールド画像との相関値も検出する(ステップS303)。ここでは、相関値(第2相関値)として、差分絶対値(R2)を検出する。
次に、候補画像比較・判定部105は、これら2つの差分絶対値(R1及びR2)とエラー検出のための閾値(Th)との比較を行う(ステップS304)。ここで、比較対象の差分絶対値が閾値(Th)以下である場合は、相関が大きく、閾値(Th)より大きい場合は、相関が小さいと判定する。
R1が最小である場合(ステップS305でYES)、前フィールド画像と現フィールド画像の組み合わせが最適(連続性がある)と考えられる。そこで、候補画像比較・判定部105は、この組み合わせを、ここでは、Weave1としてカウントする(ステップS306)。ここで、Weave1をカウントするカウンタをCo1とすると、現在のカウンタ値を1インクリメント(Co1←Co1+1)することになる。
R2が最小である場合(ステップS305でNO、かつステップS307でYES)、現フィールド画像と後フィールド画像の組み合わせが最適(連続性がある)と考えられる。そこで、候補画像比較・判定部105は、この組み合わせを、ここでは、Weave2としてカウントする(ステップS308)。ここで、Weave2をカウントするカウンタをCo2とすると、現在のカウンタ値を1インクリメント(Co2←Co2+1)することになる。
R1及びR2がともにThよりも大きい場合(ステップS305でNO、かつステップS307でNO)、相関は小さいと考えられるので、候補画像比較・判定部105は、エラーとしてカウントする(ステップS309)。ここで、エラーをカウントするカウンタをCoeとすると、現在のカウンタ値を1インクリメント(Coe←Coe+1)することになる。
候補画像比較・判定部105は、各ブロック毎に、Co1(Weave1)、Co2(Weave2)及びCoe(エラー)のいずれかに分類し、これを全ブロックに対して繰り返す(ステップS310)。
図4は、次フィールド判定処理の後半部分に相当する。
候補画像比較・判定部105は、1フレーム分のCo1、Co2及びCoeの各カウント値を算出したら、これらの大小比較(大小関係の確認)を行い、判定結果を導き出す(ステップS401)。
まず、カウンタCoeのカウント値が最大である場合(ステップS402でYES)、フィールド間の相関は小さいと考え、候補画像比較・判定部105は、対象とするフィールド画像を不連続フィールドと判定する(ステップS403)。
カウンタCo2のカウント値が最大の場合は(ステップS402でNO、かつステップS404でYES)、候補画像比較・判定部105は、対象とするフィールド画像をWeave2とする(ステップS405)。
カウンタCo2のカウント値が最大でなく、かつ最小である場合(ステップS404でNO、かつステップS406でYES)、候補画像比較・判定部105は、対象とするフィールド画像を不連続フィールドと判定する(ステップS403)。
カウンタCo2のカウント値が最大でなく、かつ最小でない場合(ステップS404でNO、かつステップS406でYES)、候補画像比較・判定部105は、対象とするフィールド画像をWeave1と判定する(ステップS407)。これは、カウンタCo1のカウント値が最大である場合である。
尚、これらの判定結果は、例えば、装置内のメモリ101に記憶される。これにより、過去の判定結果の履歴(履歴情報)が管理されることになる。換言すれば、過去のフィールド画像に対するフレーム画像生成用に選択した候補画像の選択順序に相当するパターンが管理されることになる。
そして、これらの判定結果を元に、引き続き、図2のステップS205以降の処理を実行する。
まず、候補画像比較・判定部105は、対象とするフィールド画像が連続フィールドであるか否かを判定する(ステップS205)。対象とするフィールド画像が不連続フィールドである場合(ステップS205でNO)、候補画像比較・判定部105は、パターン履歴をリセットする(ステップS206)。そして、候補画像比較・判定部105は、パターンのロック状態を解除する(ステップS207)。
一方、対象とするフィールド画像が連続フィールドである場合(ステップS205でYES)、候補画像比較・判定部105は、パターン履歴の更新を行う(ステップS208)。
次に、判定パターン検出部106は、この更新されたパターンが、特定パターンとマッチしているかどうかの判定を行う(ステップS209)。換言すれば、判定パターン検出部106は、更新されたパターン内の特定パターンの有無を検出する。
尚、特定パターンとは、2−3プルダウン処理における現フィールド画像の前後のフィールド画像のいずれを組み合わせるかを示す2−1−2−1−1の組み合わせパターンである。順序が同じであれば、1−2−1−1−2、2−1−1−2−1、1−1−2−1−2、1−2−1−2−1のいずれでも構わない。これらの特定パターンと更新されたパターンがマッチしている場合(ステップS209でYES)、判定パターン検出部106は、検出パターンがロックした状態であるとする(ステップS210)。つまり、この検出パターンを、フィールド画像に対するフレームを画像を生成するための予測パターンとして利用することができる。
一方、マッチしていない場合(ステップS209でNO)、判定パターン検出部106は、処理を終了する。
以上が、実施形態1の画像処理装置が実行する処理全体の流れの概略である。
次に具体的な処理手順を図9(e)のように編集された例で、詳細に説明する。
これは、フィールド画像B2の後に編集点がある例であるが、フィールド画像B2までは、2−3プルダウン処理の特定パターンが検出されているものとして説明する。
まず、現フィールド画像がフィールド画像A1の場合での処理について説明する。検出パターンはロックしている(パターンが検出できている)状態なので、予測パターンに基づく補間処理を行う。予測パターンは、2−1−2−1−1における最初の「2」に相当するので、1つ後のフィールド画像A2との組み合わせでフレーム画像を出力する。これは、図1Aの候補画像生成部103の出力画像を選択したことになる。
このとき同時に、次フィールド判定処理を行う。判定処理の出力は、前フィールド画像との組み合わせか、後フィールド画像との組み合わせか、いずれでもないかの3つの場合分けを行う。
即ち、フィールド画像A1とそれの前フィールド画像とのペア、フィールド画像A1とフィールド画像A2のペア、いずれともペアとならない、の3つの場合から選択することになる。図3、図4の処理に従えば、この場合、Co2>Co1>Coeとなる。従って、フィールド画像A1とフィールド画像A2は連続フィールドと判定される。また、次のフィールド画像A2にとって、フィールド画像A1は前フィールド画像に相当するので、「1」のパターンが新たに更新される。過去5フィールドの判定結果が、1−2−1−1−2で次が「1」の場合、2−1−2−1−1の特定パターン(繰り返しパターン)にマッチしているので、検出パターンは、継続してロック状態となる。
次に、現フィールド画像がフィールド画像A2の場合での処理について説明する。検出パターンはロックしている(パターンが検出できている)状態なので、予測パターンに基づく補間処理を行う。予測パターンは、2−1−2−1−1における2番目の「1」に相当するので、1つ前のフィールド画像A1との組み合わせでフレーム画像を出力する。これは、図1Aの候補画像生成部102の出力画像を選択したことになる。
このとき同時に、次フィールド判定処理を行う。判定処理の出力は、前フィールド画像との組み合わせか、後フィールド画像との組み合わせか、いずれでもないかの3つの場合分けを行う。
即ち、フィールド画像A1とフィールド画像A2のペア、フィールド画像A2とフィールド画像B1のペア、いずれともペアとならない、の3つの場合から選択することになる。図3、図4の処理に従えば、この場合、Co1>Co2>Coeとなる。従って、フィールド画像A2とフィールド画像B1は連続フィールドと判定される。また、次のフィールド画像B1にとって、前フィールド画像のフィールド画像A2とはペアとならないので、フィールド画像B1は後フィールド画像とのペアになると考えられる。よって、「2」のパターンが新たに更新される。過去5フィールドの判定結果が、2−1−1−2−1で次が「2」の場合、2−1−2−1−1の特定パターン(繰り返しパターン)にマッチしているので、検出パターンは、継続してロック状態となる。
次に、現フィールド画像がフィールド画像B1の場合での処理について説明する。検出パターンはロックしている(パターンが検出できている)状態なので、予測パターンに基づく補間処理を行う。予測パターンは、2−1−2−1−1における3番目の「2」に相当するので、1つ後のフィールド画像B2との組み合わせでフレーム画像を出力する。これは、図1Aの候補画像生成部103の出力画像を選択したことになる。
このとき同時に、次フィールド判定処理を行う。判定処理の出力は、前フィールド画像との組み合わせか、後フィールド画像との組み合わせか、いずれでもないかの3つの場合分けを行う。
即ち、フィールド画像A2とフィールド画像B1のペア、フィールド画像B1とフィールド画像B2のペア、いずれともペアとならない、の3つの場合から選択することになる。図3、図4の処理に従えば、Co2>Co1>Coeとなる。従って、フィールド画像B1とフィールド画像B2は連続フィールドと判定される。また、次のフィールド画像B2にとって、フィールド画像B1は前フィールド画像に相当するので、「1」のパターンが新たに更新される。過去5フィールドの判定結果が、1−1−2−1−2で次が「1」の場合、2−1−2−1−1の特定パターン(繰り返しパターン)にマッチしているので、検出パターンは、継続してロック状態となる。
次に、現フィールド画像がフィールド画像B2の場合での処理について説明する。検出パターンはロックしている(パターンが検出できている)状態なので、予測パターンに基づく補間処理を行う。予測パターンは、2−1−2−1−1における4番目の「1」に相当するので、1つ前のフィールド画像B1との組み合わせでフレーム画像を出力する。これは、図1Aの候補画像生成部102の出力画像を選択したことになる。
このとき同時に、次フィールド判定処理を行う。判定処理の出力は、前フィールド画像との組み合わせか、後フィールド画像との組み合わせか、いずれでもないかの3つの場合分けを行う。
即ち、フィールド画像B1とフィールド画像B2のペア、フィールド画像B2とフィールド画像M1のペア、いずれともペアとならない、の3つの場合から選択することになる。図3、図4の処理に従えば、Co1>Coe>Co2となる。従って、フィールド画像B2とフィールド画像M1は不連続フィールドと判定される。よって、これまでのパターン履歴はリセットされ、パターンのロックも解除となる。
次に、現フィールド画像がフィールド画像M1の場合での処理について説明する。検出パターンはロックしていない(パターンが検出できていない)状態なので、フィールド内補間処理を行う。これは、図1Aの候補画像生成部104の出力画像を選択したことになる。
このとき同時に、次フィールド判定処理を行う。判定処理の出力は、前フィールド画像との組み合わせか、後フィールド画像との組み合わせか、いずれでもないかの3つの場合分けを行う。
即ち、フィールド画像B2とフィールド画像M1のペア、フィールド画像M1とフィールド画像M2のペア、いずれともペアとならない、の3つの場合から選択することになる。図3、図4の処理に従えば、Co2>Co1>Coeとなる。従って、フィールド画像M1とフィールド画像M2は連続フィールドと判定される。また、次のフィールド画像M2にとって、フィールド画像M1は前フィールド画像に相当するので、「1」のパターンが新たに更新される。過去のパターン履歴はリセットされているので、特定パターンは検出することができず、パターンのロックは解除したままの状態となる。
次に、現フィールド画像がフィールド画像M2の場合についての処理を説明する。検出パターンはロックしていない(パターンが検出できていない)状態なので、フィールド内補間処理を行う。これは、図1Aの候補画像生成部104の出力画像を選択したことになる。
このとき同時に、次フィールド判定処理を行う。判定処理の出力は、前フィールド画像との組み合わせか、後フィールド画像との組み合わせか、いずれでもないかの3つの場合分けを行う。
即ち、フィールド画像M1とフィールド画像M2のペア、フィールド画像M2とフィールド画像N1のペア、いずれともペアとならない、の3つの場合から選択することになる。図3、図4の処理に従えば、Co1>Co2>Coeとなる。従って、フィールド画像M2とフィールド画像N1は連続フィールドと判定される。次のフィールド画像N1にとって、前フィールド画像のフィールド画像M2とはペアとならないので、フィールド画像N1は後フィールド画像とのペアになると考えられる。よって、「2」のパターンが新たに更新される。パターン履歴リセット後の判定結果は、「1」のみであるため、特定パターンは検出することができず、パターンのロックは解除したままの状態となる。
以降、現フィールド画像がフィールド画像N1の場合のパターン履歴は、1−2、フィールド画像N2の場合のパターン履歴は、1−2−1、フィールド画像N3の場合のパターン履歴は、1−2−1−1となる。そして、フィールド画像O1の場合のパターン履歴は、1−2−1−1−2となり、この場合で、パターンがロック状態となる。
ここで行うフィールド内補間処理は、インターレース画像で飛び越したラインを補間する処理である。図5(a)の実線が画素の存在するライン、破線が画素の存在しないラインを示している。最もシンプルな方法としては、図5(b)に示すように、補間対象の画素の上下の画素から内挿する方法がある。また、図5(c)に示すように、対象画素の近傍画素から求めても良い。画像の特徴量に応じて、各画素に重み付けをして内挿する等しても良い。
次に、図9(f)のように編集された例について説明する。これもフィールド画像B2の後に編集点がある例であり、フィールド画像B2までの処理は、前述と同様である。
まず、現フィールド画像がフィールド画像L3の場合での処理について説明する。検出パターンはロックしていない(パターンが検出できていない)状態なので、フィールド内補間処理を行う。これは、図1Aの候補画像生成部104の出力画像を選択したことになる。
このとき同時に、次フィールド判定処理を行う。判定処理の出力は、前フィールド画像との組み合わせか、後フィールド画像との組み合わせか、いずれでもないかの3つの場合分けを行う。
即ち、フィールド画像B2とフィールド画像L3のペア、フィールド画像L3とフィールド画像M1のペア、いずれともペアとならない、の3つの場合から選択することになる。図3、図4の処理に従えば、Coe>Co2>Co1となる。従って、フィールド画像L3とフィールド画像M1は不連続フィールドと判定される。従って、パターンは更新されない。また、過去のパターン履歴もリセットされているので、特定パターンは検出することができず、パターンのロックは解除したままの状態となる。
次に、現フィールド画像がフィールド画像M1の場合での処理について説明する。検出パターンはロックしていない(パターンが検出できていない)状態なので、フィールド内補間処理を行う。これは、図1Aの候補画像生成部104の出力画像を選択したことになる。
このとき同時に、次フィールド判定処理を行う。判定処理の出力は、前フィールド画像との組み合わせか、後フィールド画像との組み合わせか、いずれでもないかの3つの場合分けを行う。
即ち、フィールド画像L3とフィールド画像M1のペア、フィールド画像M1とフィールド画像M2のペア、いずれともペアとならない、の3つの場合から選択することになる。図3、図4の処理に従えば、Co2>Co1>Coeとなる。従って、フィールド画像M1とフィールド画像M2は連続フィールドと判定される。次のフィールド画像M2にとって、フィールド画像M1は前フィールド画像に相当するので、「1」のパターンが新たに更新される。過去のパターン履歴はリセットされているので、特定パターンは検出することができず、パターンのロックは解除したままの状態となる。
以降、現フィールド画像がフィールド画像M2の場合のパターン履歴は、1、フィールド画像N1の場合のパターン履歴は、1−2、フィールド画像N2の場合のパターン履歴は、1−2−1となる。また、フィールド画像N3の場合のパターン履歴は、1−2−1−1となる。そして、フィールド画像O1の場合のパターン履歴は、1−2−1−1−2となり、この場合で、パターンがロック状態となる。
以上説明したように、実施形態1によれば、現フィールド画像の前後それぞれのフィールド画像との相関を検出する。そして、その検出結果に基づいて、次フィールド画像に対するフレーム画像を生成するフィールド画像の組み合わせを判定して、フレーム画像を生成する、あるいは、フィールド内補間処理によってフレーム画像を生成する。
これにより、フィールド画像の並びの規則性が崩れた場合でも、時間軸の異なる劣化したフレーム画像の生成を防ぎ、安定した画質を保持することができる。
<実施形態2>
実施形態2の動画像処理装置は、図6に示すように、実施形態1における図1Aの第3の候補画像生成部104に代えて、動き適応型I/P変換処理部604を構成している。ここで、I/P変換とは、インターレース画像(I画像)であるフィールド画像からプログレシップ画像(P画像)であるフレーム画像へ変換することを意味する。特に、この動き適応型I/P変換処理部604は、現フィールド画像と前フィールド画像の2つのフィールド画像から1つのフレームを生成する。
次に、実施形態2の動画像処理装置の具体的な処理について、図7を用いて説明する。
図7は本発明の実施形態2の動画像処理装置が実行する処理を示すフローチャートである。
実施形態1の図2のフローチャートとの違いは、検出パターンがロックされていない場合、動き適応型I/P変換処理部604が、動き適応型I/P変換処理を行う(ステップS704)点にある。次フィールド判定処理における、図3、図4の処理は実施形態1と同様である。
具体的な処理手順を、実施形態1と同様に、図9(e)のように編集された例で、詳細に説明する。フィールド画像B2までの処理は、検出パターンがロックされている状態なので、前述と同様である。
そこで、現フィールド画像がフィールド画像M1の場合での処理について説明する。検出パターンはロックしていない(パターンが検出できていない)状態なので、動き適応型I/P変換処理を行う。これは、図6の動き適応型I/P変換処理部604の出力画像を選択したことになる。
ここで、動き適応型I/P変換処理の概要を図8を用いて説明する。
図8(a)は、現フィールド画像と前フィールド画像のラインの関係を示している。画素のあるラインを実線で、画素のないラインを破線で示している。動き適応型I/P変換処理では、補間対象画素がフィールド間で動いているか否かを判定し、処理を適応的に切り替える。
図8(b)は、対象画素がフィールド間で動いていると判定した場合の補間例である。フィールド間で動きがある場合は、前フィールド画像の対応する画素は別の位置に動いてしまっているので、現フィールド画像のみで、補間画素を生成する。
図8(c)は、対象画素がフィールド間で静止していると判定した場合の補間例である。このときは、前フィールド画像の対象画素をそのまま挿入することで、垂直方向の解像度を向上させることができる。
図8(d)は、動いているか静止しているかの2つの状態ではなく、これらの間に重み付けをして、補間画素を生成する。
現フィールド画像がフィールド画像M1の場合は、前フィールド画像がフィールド画像B2であり、両者は不連続フィールドであるため、フィールド間で、対応する画素を見つけることはできず、結果的に図8(b)の補間方式を採用することになる。
また、不連続フィールドを検出していることを積極的に利用し、この場合は、動き検出処理を強制的に「動き」に固定してしまう方法も有効である。その場合、得られる補間フレームは、実施形態1で説明したフィールド内補間処理と同様なものとなる。
このとき同時に、次フィールド判定処理を行う。以下は、実施形態1の場合と同様であり、フィールド画像M1とフィールド画像M2は連続フィールドと判定される。また、次のフィールド画像M2にとって、フィールド画像M1は前フィールド画像M2に相当するので、「1」のパターンが新たに更新される。過去のパターン履歴はリセットされているので、特定パターンは検出することができず、パターンのロックは解除したままの状態となる。
次に、現フィールド画像がフィールド画像M2の場合についての処理を説明する。検出パターンはロックしていない(パターンが検出できていない)状態なので、動き適応型I/P変換処理を行う。これは、図6の動き適応型I/P変換処理部604の出力画像を選択したことになる。
現フィールド画像がフィールド画像M2の場合は、前フィールド画像がフィールド画像M1であり、これは、元々同一時間のフレームに対するフィールドなので、結果的に図8(c)の補間方式を採用することになる。
また、前フィールド画像で「1」を更新したことを積極的に利用し、動き検出処理を強制的に「静止」に固定してしまう方法も有効である。但し、パターンがロックした状態ではないので、「1」の結果の確実性は、やや低いことが見込まれるため、図8(d)の補間方式で、「静止」に対する重み付けを変更する(増やす)方法を採用してもよい。
このとき同時に、次フィールド判定処理を行う。フィールド画像M2とフィールド画像N1は連続フィールドと判定される。次のフィールド画像N1にとって、前フィールド画像M2とはペアとならないので、フィールド画像N1は後フィールド画像とのペアになると考えられる。よって、「2」のパターンが新たに更新される。パターン履歴リセット後の判定結果は、「1」のみであるため、特定パターンは検出することができず、パターンのロックは解除したままの状態となる。
以降、現フィールド画像がフィールド画像N1の場合のパターン履歴は、1−2、フィールド画像N2の場合のパターン履歴は、1−2−1、フィールド画像N3の場合のパターン履歴は、1−2−1−1となる。そして、フィールド画像O1の場合のパターン履歴は、1−2−1−1−2となり、この場合で、パターンがロック状態となる。
以上説明したように、実施形態2によれば、実施形態1で説明した効果に加えて、フィールド間の画素の動きに基づいて、フレームを生成するためのフィールドに対する補間処理を適応的に切り替える。これにより、よりフィールド画像の特性に応じたフレーム画像を生成することができる。
尚、実施形態2では、現フィールド画像と前フィールド画像の2つのフィールド画像から1つのフレームを生成する構成について説明したが、これに限定されない。例えば、状況に応じて、現フィールド画像と後フィールド画像の2つのフィールド画像から1つのフレームを生成したり、現フィールド画像と前フィールド画像の2つのフィールド画像から1つのフレームを生成したりすることも可能である。
つまり、第3の候補画像生成部として機能する動き適応型I/P変換処理部604は、前フィールド画像と後フィールド画像の少なくとも一方を補間画素生成用フィールド画像として入力する。そして、動き適応型I/P変換処理部604、指定された重み付けに従って、画素単位に現フィールド内の画素と補間画素生成用フィールド画像の画素を用いて補間画素を生成することで、現フィールド画像に対するフレーム画像を生成する。
以上、実施形態例を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
尚、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム(実施形態では図に示すフローチャートに対応したプログラム)を、システムあるいは装置に直接あるいは遠隔から供給する。そして、そのシステムあるいは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。
プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスクがある。また、更に、記録媒体としては、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などがある。
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続する。そして、その接続先のホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせる。そして、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。また、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現され得る。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現される。
本発明の実施形態1の動画像処理装置の機能構成を示す図である。 本発明の実施形態1の動画像処理装置のハードウェア構成を示すブロック図である。 本発明の実施形態1の動画像処理装置が実行する処理を示すフローチャートである。 本発明の実施形態1の次フィールド判定処理の詳細を示すフローチャートである。 本発明の実施形態1の次フィールド判定処理の詳細を示すフローチャートである。 本発明の実施形態1のフィールド内補間処理を説明するための図である。 本発明の実施形態2の動画像処理装置の機能構成を示す図である。 本発明の実施形態2の動画像処理装置が実行する処理を示すフローチャートである。 本発明の実施形態2のI/P変換処理を説明するための図である。 フレーム画像とフィールド画像の関係を説明するための図である。
符号の説明
101 メモリ
102 候補画像生成部
103 候補画像生成部
104 候補画像生成部
105 候補画像比較・判定部
106 判定パターン検出部
107 候補画像選択部

Claims (9)

  1. 動画像中のフィールド画像からフレーム画像を生成する動画像処理装置であって、
    現在の現フィールド画像とそれより時間的に前の前フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第1の候補画像として出力する第1の候補画像生成手段と、
    前記現在の現フィールド画像とそれより時間的に後の後フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第2の候補画像として出力する第2の候補画像生成手段と、
    前記現フィールド画像を入力し、その現フィールド画像に対する画素補間処理によりフレーム画像を生成し、これを第3の候補画像として出力する第3の候補画像生成手段と、
    前記現フィールド画像が、前記前フィールド画像と連続性があるか、前記後フィールド画像と連続性があるか、あるいはいずれとも連続性がないかを判定する判定手段と、
    前記判定手段による判定結果に基づいて、前記現フィールド画像の判定結果を履歴情報として記憶する記憶手段と、
    前記記憶手段に記憶している前記現フィールド画像よりも前の連続するフィールド画像の履歴情報のパターンから、特定パターンを検出する検出手段と、
    前記検出手段の検出結果に基づいて、前記現フィールド画像のフレーム画像として、前記第1乃至第3の候補画像のいずれから選択する選択手段と
    を備えることを特徴とする動画像処理装置。
  2. 前記選択手段は、
    前記検出手段が前記特定パターンを検出する場合、その特定パターンに従って、前記現フィールド画像のフレーム画像として、前記第1及び第2の候補画像のいずれかを選択し、
    前記検出手段が前記特定パターンを検出しない場合、前記現フィールド画像のフレーム画像として、前記第3の候補画像を選択する
    ことを特徴とする請求項1に記載の動画像処理装置。
  3. 前記判定手段は、前記前フィールド画像と前記現フィールド画像との間の相関値、前記現フィールド画像と前記後フィールド画像との間の相関値及び閾値の3つの値の大小関係から、前記現フィールド画像が、前記前フィールド画像と連続性があるか、前記後フィールド画像と連続性があるか、あるいはいずれとも連続性がないかを判定する
    ことを特徴とする請求項1に記載の動画像処理装置。
  4. 前記記憶手段は、
    判定結果として前記前フィールド画像あるいは前記後フィールド画像のいずれかに前記連続性があると判定した場合は、その判定結果の履歴情報を記憶して、これまでに記憶している履歴情報を更新し、
    判定結果として前記前フィールド画像及び前記後フィールド画像のいずれにも前記連続性がないと判定した場合は、これまでに記憶している履歴情報をリセットする
    ことを特徴とする請求項1に記載の動画像処理装置。
  5. 前記第3の候補画像生成手段は、前記前フィールド画像と前記後フィールド画像の少なくとも一方を補間画素生成用フィールド画像として入力し、指定された重み付けに従って、画素単位に前記現フィールド内の画素と前記補間画素生成用フィールド画像の画素を用いて補間画素を生成することで、前記現フィールド画像に対するフレーム画像を生成する
    ことを特徴とする請求項1に記載の動画像処理装置。
  6. 前記第3の候補画像生成手段は、前記検出手段による特定パターンの検出の有無に応じて、前記重み付けを変更する
    ことを特徴とする請求項5に記載の動画像処理装置。
  7. 前記第3の候補画像生成手段は、前記検出手段が前記特定パターンを検出しない場合、前記現フィールド画像の画素を用いる重み付けを増やす
    ことを特徴とする請求項6に記載の動画像処理装置。
  8. 動画像中のフィールド画像からフレーム画像を生成する動画像処理装置の制御方法であって、
    現在の現フィールド画像とそれより時間的に前の前フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第1の候補画像として出力する第1の候補画像生成工程と、
    前記現在の現フィールド画像とそれより時間的に後の後フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第2の候補画像として出力する第2の候補画像生成工程と、
    前記現フィールド画像を入力し、その現フィールド画像に対する画素補間処理によりフレーム画像を生成し、これを第3の候補画像として出力する第3の候補画像生成工程と、
    前記現フィールド画像が、前記前フィールド画像と連続性があるか、前記後フィールド画像と連続性があるか、あるいはいずれとも連続性がないかを判定する判定工程と、
    前記判定工程による判定結果に基づいて、前記現フィールド画像の判定結果を履歴情報として記憶媒体に記憶する記憶工程と、
    前記記憶媒体に記憶している前記現フィールド画像よりも前の連続するフィールド画像の履歴情報のパターンから、特定パターンを検出する検出工程と、
    前記検出工程の検出結果に基づいて、前記現フィールド画像のフレーム画像として、前記第1乃至第3の候補画像のいずれから選択する選択工程と
    を備えることを特徴とする動画像処理装置の制御方法。
  9. 動画像中のフィールド画像からフレーム画像を生成する動画像処理装置の制御をコンピュータに実行させるためのプログラムであって、
    現在の現フィールド画像とそれより時間的に前の前フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第1の候補画像として出力する第1の候補画像生成工程と、
    前記現在の現フィールド画像とそれより時間的に後の後フィールド画像とを入力し、これらを同一時間のデータとして組み合わせたフレーム画像を生成し、これを第2の候補画像として出力する第2の候補画像生成工程と、
    前記現フィールド画像を入力し、その現フィールド画像に対する画素補間処理によりフレーム画像を生成し、これを第3の候補画像として出力する第3の候補画像生成工程と、
    前記現フィールド画像が、前記前フィールド画像と連続性があるか、前記後フィールド画像と連続性があるか、あるいはいずれとも連続性がないかを判定する判定工程と、
    前記判定工程による判定結果に基づいて、前記現フィールド画像の判定結果を履歴情報として記憶媒体に記憶する記憶工程と、
    前記記憶媒体に記憶している前記現フィールド画像よりも前の連続するフィールド画像の履歴情報のパターンから、特定パターンを検出する検出工程と、
    前記検出工程の検出結果に基づいて、前記現フィールド画像のフレーム画像として、前記第1乃至第3の候補画像のいずれから選択する選択工程と
    をコンピュータに実行させることを特徴とするプログラム。
JP2008104029A 2008-04-11 2008-04-11 動画像処理装置及びその制御方法、プログラム Expired - Fee Related JP5219598B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008104029A JP5219598B2 (ja) 2008-04-11 2008-04-11 動画像処理装置及びその制御方法、プログラム
US12/409,125 US8139151B2 (en) 2008-04-11 2009-03-23 Moving image processing apparatus, control method thereof, and program
CN2009101336396A CN101557492B (zh) 2008-04-11 2009-04-13 运动图像处理设备及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008104029A JP5219598B2 (ja) 2008-04-11 2008-04-11 動画像処理装置及びその制御方法、プログラム

Publications (2)

Publication Number Publication Date
JP2009260440A true JP2009260440A (ja) 2009-11-05
JP5219598B2 JP5219598B2 (ja) 2013-06-26

Family

ID=41163679

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008104029A Expired - Fee Related JP5219598B2 (ja) 2008-04-11 2008-04-11 動画像処理装置及びその制御方法、プログラム

Country Status (3)

Country Link
US (1) US8139151B2 (ja)
JP (1) JP5219598B2 (ja)
CN (1) CN101557492B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010278993A (ja) * 2009-06-01 2010-12-09 Canon Inc 映像処理装置およびその方法
JP2013046154A (ja) * 2011-08-23 2013-03-04 Nikon Systems Inc ノイズ検知装置、再生装置、およびノイズ検知プログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4922418B2 (ja) * 2010-02-16 2012-04-25 株式会社東芝 再生装置および再生装置の制御方法
CN102196232B (zh) * 2010-03-09 2015-01-28 富士通微电子(上海)有限公司 隔行视频图像中的缺失行的恢复方法
CN106604097B (zh) * 2016-12-07 2020-08-11 广东威创视讯科技股份有限公司 多路视频信号的传输方法和系统
CN108833118B (zh) * 2018-07-25 2021-12-10 合肥学院 应用含参数Thiele型有理插值的安全访问方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11261972A (ja) * 1998-03-06 1999-09-24 Pioneer Electron Corp 映像信号識別方法及びそれを用いた映像信号の処理方 法
JP2006094257A (ja) * 2004-09-27 2006-04-06 Mitsubishi Electric Corp 映像信号処理装置、映像信号処理方法、及び映像信号表示装置
JP2006237695A (ja) * 2005-02-22 2006-09-07 Nec Electronics Corp プルダウン検出装置及びプルダウン検出方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07107375A (ja) 1993-09-29 1995-04-21 Toshiba Corp 方式変換装置
JP3437291B2 (ja) * 1994-11-14 2003-08-18 キヤノン株式会社 再生装置および再生方法
JPH10145779A (ja) * 1996-11-06 1998-05-29 Sony Corp フィールド検出装置およびフィールド検出方法、画像符号化装置および画像符号化方法、並びに記録媒体および記録方法
JPH1188845A (ja) 1997-09-04 1999-03-30 Matsushita Electric Ind Co Ltd 動画像走査変換装置
WO2004049698A1 (en) * 2002-11-26 2004-06-10 Koninklijke Philips Electronics N.V. Motion sequence pattern detection
KR20040054032A (ko) * 2002-12-16 2004-06-25 삼성전자주식회사 영상신호의 포맷 검출장치 및 방법
CN101076104B (zh) * 2006-05-19 2011-06-29 深圳艾科创新微电子有限公司 电影模式的检测方法
US8964117B2 (en) * 2007-09-28 2015-02-24 Ati Technologies Ulc Single-pass motion adaptive deinterlacer and method therefore

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11261972A (ja) * 1998-03-06 1999-09-24 Pioneer Electron Corp 映像信号識別方法及びそれを用いた映像信号の処理方 法
JP2006094257A (ja) * 2004-09-27 2006-04-06 Mitsubishi Electric Corp 映像信号処理装置、映像信号処理方法、及び映像信号表示装置
JP2006237695A (ja) * 2005-02-22 2006-09-07 Nec Electronics Corp プルダウン検出装置及びプルダウン検出方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010278993A (ja) * 2009-06-01 2010-12-09 Canon Inc 映像処理装置およびその方法
JP2013046154A (ja) * 2011-08-23 2013-03-04 Nikon Systems Inc ノイズ検知装置、再生装置、およびノイズ検知プログラム

Also Published As

Publication number Publication date
CN101557492A (zh) 2009-10-14
JP5219598B2 (ja) 2013-06-26
US20090256957A1 (en) 2009-10-15
CN101557492B (zh) 2011-07-13
US8139151B2 (en) 2012-03-20

Similar Documents

Publication Publication Date Title
TWI466543B (zh) 用於高清晰度與標準清晰度視訊之進階式解間條器
JP5219598B2 (ja) 動画像処理装置及びその制御方法、プログラム
JP4844370B2 (ja) フレームレート変換装置及び表示装置
US8385602B2 (en) Image processing device method, program, and recording medium for improving detection precision of a motion vector
US20100202711A1 (en) Image processing apparatus, image processing method, and program
JP4643727B2 (ja) 画像処理装置及び画像処理方法
JP2004350281A (ja) 映像信号のデインターレース方法およびデインターレース装置
JP2008135965A (ja) インタレース映像の生成シーケンスの検出方法およびインタレース/プログレッシブ変換方法並びに装置
JP4983362B2 (ja) フィルム検出装置およびその方法、並びに映像信号処理装置およびその方法
KR20050035704A (ko) 타임 시프트와 움직임 보상을 이용한 프레임 레이트 변환장치 및 그 방법
US8385430B2 (en) Video signal processing apparatus and video signal processing method
JP2006109488A (ja) フィールド選択が可能な映像処理装置及びその方法
JP2006310985A (ja) フレームレート変換装置及び表示装置
JP4375452B2 (ja) 画像処理装置、画像処理方法、及びプログラム、並びに表示装置
JP2007288483A (ja) 画像変換装置
JP2005252365A (ja) 画像信号処理装置、画像信号処理方法、並びにプログラムおよびそれを記録した媒体
JP2000092455A (ja) 画像情報変換装置および画像情報変換方法
JP3903498B2 (ja) 映像信号変換方式および映像信号変換装置
JP2005151134A (ja) 動き・静止の判定装置および判定方法、並びに画像信号の処理装置および処理方法
JP4250807B2 (ja) フィールド周波数変換装置および変換方法
JP2005004770A (ja) グループ化による映画映像検出方法及び装置
JP2008227928A (ja) フレームレート変換装置および映像表示装置
JP2006311603A (ja) 動画像符号化方法と装置及び動画像復号化方法と装置
JP4845569B2 (ja) 信号処理装置及び信号処理方法
JP5371682B2 (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110405

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121119

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130305

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5219598

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees