JP5040687B2 - 画像処理装置および方法、並びにプログラム - Google Patents

画像処理装置および方法、並びにプログラム Download PDF

Info

Publication number
JP5040687B2
JP5040687B2 JP2008020335A JP2008020335A JP5040687B2 JP 5040687 B2 JP5040687 B2 JP 5040687B2 JP 2008020335 A JP2008020335 A JP 2008020335A JP 2008020335 A JP2008020335 A JP 2008020335A JP 5040687 B2 JP5040687 B2 JP 5040687B2
Authority
JP
Japan
Prior art keywords
image
pull
down pattern
break
determined
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008020335A
Other languages
English (en)
Other versions
JP2009065630A (ja
Inventor
泰成 畠澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008020335A priority Critical patent/JP5040687B2/ja
Priority to KR1020080070865A priority patent/KR20090016383A/ko
Priority to EP08252596A priority patent/EP2023619A3/en
Priority to US12/185,356 priority patent/US8331676B2/en
Priority to CN2008102102790A priority patent/CN101365093B/zh
Publication of JP2009065630A publication Critical patent/JP2009065630A/ja
Application granted granted Critical
Publication of JP5040687B2 publication Critical patent/JP5040687B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/012Conversion between an interlaced and a progressive signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0112Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level one of the standards corresponding to a cinematograph film standard
    • H04N7/0115Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level one of the standards corresponding to a cinematograph film standard with details on the detection of a particular field or frame pattern in the incoming video signal, e.g. 3:2 pull-down pattern

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Television Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置および方法、並びにプログラムに関し、特に、様々なプルダウンパターンを検出できるようにした画像処理装置および方法、並びにプログラムに関する。
フレームレートを変換させる技術が一般に普及しつつある。
代表的なものとして、映画に使用されている24fps(Frame Per Second)のフレームレートをテレビに使用されている30ftpのフレームレートに変換させるものとして、2−3プルダウンと呼ばれるプルダウン処理によりフレームレートを変換させる技術が提案されている(特許文献1参照)。
2−3プルダウンとは、例えば、映画の1フレーム目の画像をテレビ画像の1フィールド目と2フィールド目に使用し、映画の2フレーム目の画像をテレビ画像の3乃至5フィールド目に使用し、映画の3フレーム目の画像をテレビ画像の6,7フィールド目に使用し、映画の4フレーム目の画像をテレビ画像の8乃至10フィールド目に使用し、この処理を順次繰り返すことにより、24fpsのフレームレートを30fpsに変換する処理である。ここで、奇数フィールドがトップフィールドで、偶数フィールドがボトムフィールドであり、連続する奇数フィールドと偶数フィールドにより1フレームのテレビ画像が生成される。この他にも2−2プルダウンなどのプルダウンパターンが存在する。
特開2006−253766号公報
しかしながら、8−7プルダウン、6−4プルダウン、または5−5プルダウンといった、元のプログレッシブ画像のフレームレートが24fpsよりも小さな場合に対応する処理は、異なる構成により検出する必要があるため、装置構成を煩雑にするのみならず、コスト高としてしまうことがあった。
本発明はこのような状況に鑑みてなされたものであり、特に、様々なフレームレートの入力画像に対して、単一の処理構成により、プルダウンパターンを検出できるようにするものである。
本発明の一側面の画像処理装置は、連続的に入力されてくる画像のうち、注目画像を含む前後の参照画像との相関値を演算する相関値演算手段と、前記相関値に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かを判定する切れ目判定手段と、前記注目画像が切れ目であると判定されない場合、同一の画像が連続することを連続数として累積的にカウントする連続数カウント手段と、前記注目画像が切れ目であると判定された場合、直前の画像までの連続数と、所定のプルダウンパターンに対応した連続数である設定数とが一致するか否かを判定するパターン判定手段と、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定されたとき、前記所定のプルダウンパターンとの一致回数をマッチング数としてカウントするマッチング数カウント手段と、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記マッチング数が所定数よりも大きいとき、前記設定数に対応する前記所定のプルダウンパターンを前記連続的に入力されてくる画像のプルダウンパターンとして検出するプルダウンパターン検出手段とを含む。
前記プルダウンパターン検出手段により検出された前記画像のプルダウンパターンに基づいて、前記画像より、プログレッシブ画像を生成するプログレッシブ画像生成手段をさらに含ませるようにすることができる。
前記プルダウンパターン検出手段には、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記一致回数が所定数よりも大きくなく、かつ、前記所定数よりも小さい他の所定数よりも大きいとき、前記所定のプルダウンパターンの検出を保留させるようにすることができる。
前記切れ目判定手段には、前記相関値が所定の閾値よりも大きいか否か、または、相関値同士の比較処理結果に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かを判定させるようにすることができる。
前記連続数に対応して、前記所定の閾値を小さくするように管理する閾値管理手段をさらに含ませるようにすることができる。
前記相関値演算手段には、連続的に入力されてくる画像のうち、前記注目画像を含む前後の参照画像との、画像の中央近傍の第1の領域の画素の、相関値を演算させ、前記プルダウンパターン検出手段が、前記所定のプルダウンパターンを検出できる状態のとき、連続的に入力されてくる画像のうち、前記注目画像を含む前後の参照画像との、前記画像の中央近傍の前記第1の領域よりも広い第2の領域の画素の相関値を演算させるようにすることができる。
本発明の一側面の画像処理方法は、連続的に入力されてくる画像のうち、注目画像を含む前後の参照画像との相関値を演算する相関値演算ステップと、前記相関値に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かを判定する切れ目判定ステップと、前記注目画像が切れ目であると判定されない場合、同一の画像が連続することを連続数として累積的にカウントする連続数カウントステップと、前記注目画像が切れ目であると判定された場合、直前の画像までの連続数と、所定のプルダウンパターンに対応した連続数である設定数とが一致するか否かを判定するパターン判定ステップと、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定されたとき、前記所定のプルダウンパターンとの一致回数をマッチング数としてカウントするマッチング数カウントステップと、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記マッチング数が所定数よりも大きいとき、前記設定数に対応する前記所定のプルダウンパターンを前記連続的に入力されてくる画像のプルダウンパターンとして検出するプルダウンパターン検出ステップとを含む。
本発明の一側面のプログラムは、連続的に入力されてくる画像のうち、注目画像を含む前後の参照画像との相関値を演算する相関値演算ステップと、前記相関値に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かを判定する切れ目判定ステップと、前記注目画像が切れ目であると判定されない場合、同一の画像が連続することを連続数として累積的にカウントする連続数カウントステップと、前記注目画像が切れ目であると判定された場合、直前の画像までの連続数と、所定のプルダウンパターンに対応した連続数である設定数とが一致するか否かを判定するパターン判定ステップと、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定されたとき、前記所定のプルダウンパターンとの一致回数をマッチング数としてカウントするマッチング数カウントステップと、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記マッチング数が所定数よりも大きいとき、前記設定数に対応する前記所定のプルダウンパターンを前記連続的に入力されてくる画像のプルダウンパターンとして検出するプルダウンパターン検出ステップとを含む処理をコンピュータに実行させる。
本発明のプログラム格納媒体は、請求項8に記載のプログラムが格納されている。
本発明の一側面の画像処理装置は、連続的に入力されてくる画像のうち、注目画像を含む前後の参照画像との相関値が演算され、前記相関値に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かが判定され、前記注目画像が切れ目であると判定されない場合、同一の画像が連続することが連続数として累積的にカウントされ、前記注目画像が切れ目であると判定された場合、直前の画像までの連続数と、所定のプルダウンパターンに対応した連続数である設定数とが一致するか否かが判定され、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定されたとき、前記所定のプルダウンパターンとの一致回数がマッチング数としてカウントされ、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記マッチング数が所定数よりも大きいとき、前記設定数に対応する前記所定のプルダウンパターンが前記連続的に入力されてくる画像のプルダウンパターンとして検出される。
本発明の画像処理装置は、独立した装置であっても良いし、画像処理を行うブロックであっても良い。
本発明の一側面によれば、特に、様々なフレームレートの入力画像に対して、単一の処理構成により、プルダウンパターンを検出することが可能となり、検出されたプルダウンパターンに基づいて、入力画像より元となるプログレッシブ画像を高い精度で再現することが可能となる。
以下に本発明の実施の形態を説明するが、本明細書に記載の発明と、発明の実施の形態との対応関係を例示すると、次のようになる。この記載は、本明細書に記載されている発明をサポートする実施の形態が本明細書に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、発明に対応するものとして、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その発明に対応するものではないことを意味するものではない。逆に、実施の形態が発明に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その発明以外の発明には対応しないものであることを意味するものでもない。
さらに、この記載は、本明細書に記載されている発明の全てを意味するものではない。換言すれば、この記載は、本明細書に記載されている発明であって、この出願では請求されていない発明の存在、すなわち、将来、分割出願されたり、補正により出現、追加される発明の存在を否定するものではない。
即ち、本発明の一側面の画像処理装置は、連続的に入力されてくる画像のうち、注目画像を含む前後の参照画像との相関値を演算する相関値演算手段(例えば、図1の相関値演算部13)と、前記相関値に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かを判定する切れ目判定手段(例えば、図1の切れ目判定部14)と、前記注目画像が切れ目であると判定されない場合、同一の画像が連続することを連続数として累積的にカウントする連続数カウント手段(例えば、図1の同一画像連続数カウンタ15)と、前記注目画像が切れ目であると判定された場合、直前の画像までの連続数と、所定のプルダウンパターンに対応した連続数である設定数とが一致するか否かを判定するパターン判定手段(例えば、図1のパターン判定部16)と、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定されたとき、前記所定のプルダウンパターンとの一致回数をマッチング数としてカウントするマッチング数カウント手段(例えば、図1のマッチング数カウンタ19)と、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記マッチング数が所定数よりも大きいとき、前記設定数に対応する前記所定のプルダウンパターンを前記連続的に入力されてくる画像のプルダウンパターンとして検出するプルダウンパターン検出手段(例えば、図1のプルダウンパターン検出部18)とを含む。
前記プルダウンパターン検出手段により検出された前記画像のプルダウンパターンに基づいて、前記画像より、プログレッシブ画像を生成するプログレッシブ画像生成手段(例えば、図1のプログレッシブ画像生成部22)をさらに含ませるようにすることができる。
前記プルダウンパターン検出手段(例えば、図1のプルダウンパターン検出部18)には、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記一致回数が所定数よりも大きくなく、かつ、前記所定数よりも小さい他の所定数よりも大きいとき、前記所定のプルダウンパターンの検出を保留させるようにすることができる。
前記切れ目判定手段(例えば、図1の切れ目判定部14)には、前記相関値が所定の閾値よりも大きいか否か、または、相関値同士の比較処理結果に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かを判定させるようにすることができる。
前記連続数に対応して、前記所定の閾値を小さくするように管理する閾値管理手段(例えば、図1の閾値管理部14a)をさらに含ませるようにすることができる。
前記相関値演算手段(例えば、図1の相関値演算部13)には、連続的に入力されてくる画像のうち、前記注目画像を含む前後の参照画像との、画像の中央近傍の第1の領域の画素の相関値を演算させ、前記プルダウンパターン検出手段が、前記所定のプルダウンパターンを検出できる状態のとき、連続的に入力されてくる画像のうち、前記注目画像を含む前後の参照画像との、前記画像の中央近傍の前記第1の領域よりも広い第2の領域の画素の相関値を演算させるようにすることができる。
本発明の一側面の画像処理方法は、連続的に入力されてくる画像のうち、注目画像を含む前後の参照画像との相関値を演算する相関値演算ステップ(例えば、図4のステップS22,S23)と、前記相関値に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かを判定する切れ目判定ステップ(例えば、図7のステップS42,S44)と、前記注目画像が切れ目であると判定されない場合、同一の画像が連続することを連続数として累積的にカウントする連続数カウントステップ(例えば、図7のステップS45)と、前記注目画像が切れ目であると判定された場合、直前の画像までの連続数と、所定のプルダウンパターンに対応した連続数である設定数とが一致するか否かを判定するパターン判定ステップ(例えば、図7のステップS48)と、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定されたとき、前記所定のプルダウンパターンとの一致回数をマッチング数としてカウントするマッチング数カウントステップ(例えば、図7のステップS51)と、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記マッチング数が所定数よりも大きいとき、前記設定数に対応する前記所定のプルダウンパターンを前記連続的に入力されてくる画像のプルダウンパターンとして検出するプルダウンパターン検出ステップ(例えば、図7のステップS57)とを含む。
図1は、本発明を適用した一実施の形態の構成を示す画像処理装置である。
図1の画像処理装置1は、所定のフレームレートの動画像を構成する入力画像より、プルダウンパターンを検出し、さらに、検出されたプルダウンパターンに基づいて、入力画像よりプログレッシブ画像を生成して、LCD(Liquid Crystal Display)などからなる表示部2に表示させる。
バッファ11−1乃至11−3は、入力画像をフィールド単位で順次記憶し、後段のバッファ11−2,11−3およびプログレッシブ画像生成部22に供給する。この処理により、バッファ11−1乃至11−3には、常時連続する3枚のフィールド画像が蓄えられる。尚、フィールド画像は、トップフィールド画像、およびボトムフィールド画像が順次交互に供給されてきており、トップフィールド画像とボトムフィールド画像とにより1枚のフレーム画像が構成される。
抽出部12は、バッファ11−1乃至11−3よりそれぞれ記憶されているフィールド画像のうち、中央部近傍の領域の画素の画素値を抽出して、相関値演算部13に供給する。また、抽出部12は、状態管理部20より供給されてくる状態情報に基づいて、抽出する中央部近傍の領域の範囲を切り替える。尚、状態情報、および状態情報に基づいた抽出する中央部近傍の領域の範囲については、詳細を後述する。
相関値演算部13は、抽出部12より供給されてくる3枚のフィールド画像の中央近傍の画素の画素値より、注目フィールド画像としてバッファ11−2に記憶されているフィールド画像と、バッファ11−1,11−3に記憶されている、その前後のフィールド画像(以降、参照フィールド画像とも称する)との、同一位置の画素間の差分絶対値和を相関値として演算し、切れ目判定部14に供給する。より詳細には、注目フィールド画像および、参照フィールド画像は、それぞれトップフィールド画像、および、ボトムフィールド画像となるため、画素位置が異なる。そこで、相関値演算部13は、注目フィールドの各画素より、参照フィールド画像の各画素と同位置の画素を補間生成し、補間生成した画素と、各画素とを用いて画素間差分絶対値和を用いて、相関値を演算する。また、参照フィールド間の同位置の画素での、画素間差分絶対値和を用いて、異なる相関値も演算する。
切れ目判定部14は、相関値演算部13より供給されてくる相関値を閾値と比較し、処理対象となる注目フィールド画像が切れ目であるか否かを判定する。切れ目判定部14は、切れ目を検出した場合、切れ目を検出したことを示す情報をパターン検出部16に通知する。また、切れ目判定部14は、切れ目を検出しない場合、直前のフィールド画像と同一のフィールド画像を検出した連続数を、同一画像連続数カウンタ15にカウントアップさせ、切れ目が検出されたとき、連続数をリセットさせる。また、切れ目判定部14は、閾値管理部14aを備えている。閾値管理部14aは、同一画像連続数カウンタ15に記憶されている連続数に応じて、閾値を変化させる。
ここで、切れ目について説明する。例えば、プルダウンパターンが2−3プルダウンである場合、同一のフィールド画像が2枚、3枚、2枚、3枚・・・と交互に繰り返す。そこで、切れ目判定部14は、相関値が小さいとき、直前のフィールド画像と同一のフィールド画像が連続しているものとみなし、相関値が大きいとき、2枚、または、3枚連続した同一のフィールド画像の塊が、次の2枚、または、3枚のフィールド画像の塊に切り替わる先頭位置のフィールド画像を切れ目とみなす。したがって、プルダウンパターンが2−3プルダウンである場合、2枚の同一のフィールド画像が連続した後に、切れ目となるフィールド画像が検出され、そのフィールド画像から3枚の同一のフィールド画像が連続した後に、切れ目となるフィールド画像が検出されるといった処理が繰り返されることになる。
パターン判定部16は、切れ目判定部14より切れ目となるフィールド画像が検出されたことが通知されると、同一画像連続数カウンタ15に記憶されている、その直前のフィールド画像までの連続数に基づいて、プルダウンパターン記憶部17に予め記憶されているプルダウンパターンにおける連続数である設定数と、連続数とが一致するか否かにより、切れ目となるフィールド画像の直前まで同一のフィールド画像の連続数がプルダウンパターンと一致するか否かを判定する。
パターン判定部16は、切れ目となるフィールド画像の直前まで同一のフィールド画像の連続数がプルダウンパターンと一致すると判定した場合、プルダウンパターンと一致したマッチング数の情報をマッチング数カウンタ19に記憶させる。また、パターン判定部16は、連続数が一致するプルダウンパターンが検出されたことをプルダウンパターン検出部18に通知する。すなわち、例えば、プルダウンパターン記憶部17には、予め様々なプルダウンパターンが登録されており、当然のことながら予め2−3プルダウンが登録されているので、パターン判定部16は、切れ目が検出された時点で連続数が、2または3のとき、一致するパターンが存在するものとみなし、マッチング数カウンタ19に対して、2−3プルダウンのマッチング数をカウントさせる。ただし、連続数が2の場合、例えば、プルダウンパターンとして2−2プルダウンなどが予め登録されている場合、いずれであるか特定できないので、いずれのマッチング数についても、マッチング数カウンタ19でカウントさせ、直前までに登録されているプルダウンパターンとの比較により、2−2プルダウンであるか、または、2−3プルダウンパターンであるかを判定する。プルダウンパターン記憶部17には、2−3プルダウンの他にも8−7プルダウン、6−4プルダウン、5−5プルダウンなどの様々なプルダウンパターンが予め記憶されている。
プルダウンパターン検出部18は、パターン検出部16によりプルダウンパターンが検出されたことが通知されると、マッチング数カウンタ19に問合せて、プルダウンパターン毎に一致した回数、すなわち、マッチング数と、対応するプルダウンパターンの情報を読み出し、所定数よりも多く一致したとき、そのプルダウンパターンを入力画像のものとみなし、検出した入力画像のプルダウンパターンをプログレッシブ画像生成部22に供給する。
状態管理部20は、抽出部12、相関値演算部13、切れ目判定部14、パターン判定部16、およびプルダウンパターン検出部18のそれぞれの動作状態に応じて、図2で示される未検出状態、パターン検出状態、パターン判定状態、プルダウンパターン認識状態、および保留状態のいずれかに変位させ、動作状態を管理する。
未検出状態とは、全く切れ目が見つからない状態であり、切れ目が検出されるとパターン検出状態に遷移する。
パターン検出状態とは、最初の切れ目が検出されたのち、次の切れ目が検出されず、プルダウンパターンを構成するパターンが検出されていない状態であり、切れ目が検出されたのち、パターン判定状態に遷移する。
パターン判定状態とは、切れ目と切れ目との間の同一フィールド画像の連続数が一致する回数、すなわち、マッチング数によりプルダウンパターンを構成するパターンを検出するための判定状態であり、マッチング数が上限値より大きいとき、状態は、プルダウンパターン認識状態に遷移し、下限値よりも小さいとき、パターン検出状態に遷移し、上限値よりも小さく、かつ、下限値よりも大きいとき、保留状態を介してパターン検出状態に遷移し、連続数がいずれのプルダウンパターンとも一致しないとき、未検出状態に遷移する。
プログレッシブ画像生成部22は、プルダウンパターン検出部18より供給されてくるプルダウンパターンに基づいて、バッファ11−3より順次供給される入力画像を変換して、プログレッシブ画像を生成し、表示部2に表示させる。
次に、図3のフローチャートを参照して、図1の画像処理装置1によるプログレッシブ画像生成処理について説明する。
ステップS1において、バッファ11−1乃至11−3は、フィールド画像が供給されてきたか否かを判定し、供給されてくるまで、同様の処理が繰り返される。ステップS1において、例えば、フィールド画像が順次供給されてきた場合、処理は、ステップS2に進む。
ステップS2において、バッファ11−1乃至11−3は、順次供給されてきたフィールド画像を記憶するとともに、記憶していたフィールド画像を後段に供給する。すなわち、バッファ11−1は、入力されてきたフィールド画像を記憶すると同時に、直前まで記憶していたフィールド画像をバッファ11−2に供給する。バッファ11−2は、バッファ11−1より供給されてきたフィールド画像を記憶すると同時に、直前まで記憶していたフィールド画像をバッファ11−3に供給する。バッファ11−3は、バッファ11−2より供給されてきたフィールド画像を記憶すると同時に、直前まで記憶していたフィールド画像をプログレッシブ画像生成部22に供給する。尚、最初の処理においては、バッファ11−2,11−3には、何も供給されないことになるので、少なくとも3枚のフィールド画像が供給された後に実質的な処理が開始される。
ステップS3において、抽出部12および相関値演算部13は、相関値演算処理を実行して、処理対象となるバッファ11−2に記憶されているフィールド画像の相関値を、注目フィールド画像の相関値として演算する。
ここで、図4のフローチャートを参照して、相関値演算処理について説明する。
ステップS21において、抽出部12は、状態管理部20に問合せて今現在の状態がプルダウンパターン認識状態であるか否かを判定する。例えば、状態管理部20が、状態記憶部21に問合せ、状態情報を読み出し、状態がプルダウンパターン認識状態であることを示す情報であった場合、ステップS22において、抽出部12は、バッファ11−1乃至11−3より、それぞれ注目フィールド画像、および注目フィールド画像の前後のフィールド画像のそれぞれの中心近傍の所定値よりも大きな範囲の画素を抽出し、相関値演算部13に供給する。
一方、例えば、状態がプルダウンパターン認識状態ではないことを示す情報であった場合、ステップS23において、抽出部12は、バッファ11−1乃至11−3より、それぞれ注目フィールド画像、および注目フィールド画像の前後のフィールド画像のそれぞれの中心近傍の所定値よりも小さな範囲の画素を抽出し、相関値演算部13に供給する。
すなわち、プルダウンパターン認識状態ではない場合、プルダウンパターンを検出することができていない状態であるので、例えば、図5で示されるように、フィールド画像Pに対して中心近傍の所定値よりも小さなa1×a2の範囲の画素が抽出される。これは、フィールド画像Pの端部に近い範囲は、テロップなどのフィールド画像毎に変化する画像が含まれることが多く、同一の画像であるか否かの判定を困難にする可能性があるため、中央近傍の所定値よりも小さな範囲の画素が読み出されて、相関値が求められる。一方、プルダウンパターン認識状態である場合、プルダウンパターンを検出することができている状態であるので、例えば、図5で示されるように、フィールド画像Pに対して中心近傍の所定値よりも大きなb1×b2(b1>a1,b2>a2)の範囲の画素が抽出される。これは、既にプルダウンパターンが検出できる状態であるため、より広い範囲を含めても、同一の画像であるか否かの判定を困難にすることはないことが予想されるため、中央近傍の所定値よりも大きな範囲の画素が読み出される。
ステップS24において、相関値演算部13は、供給されてきた画素の画素間差分絶対値和を求め、注目フィールド画像の相関値を求めて切れ目判定部14に供給する。より詳細には、バッファ11−2に記憶されている注目フィールド画像と、バッファ11−1,11−3に記憶されている注目フィールド画像の前後のフィールド画像(参照フィールド画像)とは、注目フィールド画像がトップフィールドであれば、前後の参照フィールド画像はボトムフィールドであり、逆に注目フィールド画像がボトムフィールドであれば、前後の参照フィールド画像はトップフィールドとなる。このため、相関値演算部13は、前後の参照フィールド画像の各画素を用いて、注目フィールド画像の画素位置に対応する画素を仮想的に補間生成する。
すなわち、例えば、図6で示されるように、注目フィールド画像を時刻tbのフィールド画像とし、垂直方向の画素を図中の下から画素P11,P12とし、前後の参照フィールド画像をそれぞれ時刻ta,tcのフィールド画像とし、それぞれの画素を画素P1、および画素P21とすると、相関値演算部13は、時刻ta,tcのフィールド画像上に、注目フィールド画像の画素位置に対応する画素P11’(=(P12+P11)/2)を補間生成する。さらに、相関値演算部13は、求められた画素P11’と参照フィールド画像上の対応する位置の画素P11、P21とのそれぞれの差分絶対値(|P11’−P1|,|P11’−P21|)を求め、同様にして求めた全画素に対応する和、すなわち、差分絶対値和をそれぞれ相関値PR,ARとして演算する。また、画素P11、P21の差分絶対値(|P1−P21|)を求め、同様にして求めた全画素に対応する和、すなわち、差分絶対値和をそれぞれ相関値FRとして演算する。
尚、図6においては、横軸がフィールド画像の表示タイミングを示す時間方向を表しており、縦軸がフィールド画像の垂直方向(x方向)の画素位置を表している。
このようにして求められる相関値FRは、直前または直後の画像と同一の画像が連続している場合、画素間の画素値の差分絶対値和は小さくなり、同一の画像が連続しない場合、画素間の画素値の差分絶対値和は大きくなる。すなわち、注目フィールド画像が前後の参照フィールド画像と相関が高い場合、相関値FRは小さな値となり、相関値PRとARは大体同じくらいの相関値になる。逆に、注目フィールド画像が前後の参照フィールド画像と相関が低い場合、例えば、前の参照フィールド画像と相関が低い場合、相関値FRは大きな値となり、ARはPRに対して小さな相関値となる。
以上の処理により、相関値が演算され、切れ目判定部14に供給される。
ここで、図3のフローチャートの説明に戻る。
ステップS2の処理により、相関値が演算されると、ステップS3において、プルダウンパターン検出処理が実行され、プルダウンパターンが検出される。
ここで、図7のフローチャートを参照して、プルダウンパターン検出処理について説明する。
ステップS41において、切れ目判定部14は、状態管理部20に状態情報を要求し、取得した状態情報に基づいて、パターン検出状態、または、プルダウンパターン検出状態であるか否かを判定する。例えば、状態管理部20により管理され、状態記憶部21に記憶されている状態がパターン検出状態、または、プルダウンパターン検出状態ではなく、未検出状態であった場合、処理は、ステップS42に進む。
ステップS42において、切れ目判定部14は、相関値演算部13より供給されてきた相関値PR,AR、FRに基づいて切れ目か否かを判定する。例えば、ステップS42において、相関値FRが所定閾値thよりも小さい場合、または、相関値FRが所定閾値thよりも大きいが、相関値ARが相関値PRに対して小さくない場合、すなわち、直前のフィールド画像と同一であると判定された場合、状態は、図2の遷移C1で示されるように、状態は遷移することなく、処理は終了する。
すなわち、例えば、図8で示されるように、時刻t0から処理を開始した場合、最初の数枚のフィールド画像は、プルダウンパターンのどの位置のフィールド画像であるのかを識別することができないので、未検出状態のままとなる。
尚、図8においては、横軸に時間軸を設け、縦軸に各時刻におけるフィールド画像におけるある水平座標上の垂直方向の画素の配置を示している。すなわち、図8においては、時刻t0において処理が開始されると、時刻t1乃至t16において、対応するフィールド画像の垂直方向の画素配置が丸印で表示されており、時刻t1,t3,t5,t7,t9,t11,t13,t15では、トップフィールド(TopField)のフィールド画像の垂直方向の2画素の配置例が示されており、時刻t2,t4,t6,t8,t10,t12,t14,t16では、ボトムフィールド(BottomField)のフィールド画像の垂直方向の2画素の配置例が示されている。また、各画素の画素値は、画素を示す丸印の模様で示されており、時刻t1乃至t3における、範囲Z1においては、斑点状の丸印が、時刻t4乃至t8における、範囲Z2においては白色の丸印が、時刻t9乃至t13における、範囲Z3においては、斜線状の丸印が、時刻t14乃至t16における、範囲Z4においては、格子状の丸印が示されており、それぞれ同一の模様が同一の画素値であることを示している。
したがって、注目フィールド画像が、例えば、時刻t2上のフィールド画像である場合、図8で示されるように、時刻t2上のフィールド画像の画素は、直前の時刻t1上のフィールド画像の画素、および、直後の時刻t3上のフィールド画像の画素と、いずれも同一の画素値となるため、相関値FRが小さな値のままとなり、所定閾値thよりも大きくはならないので、未検出の状態のままとなる。
また、注目フィールド画像が、例えば、時刻t3上のフィールド画像である場合、図8で示されるように、時刻t4上のフィールド画像の画素は、直前の時刻t2上のフィールド画像の画素とは、異なる画素値となるため、相関値FRは所定閾値thよりも大きくなる。しかし、時刻t3上のフィールド画像の画素は、直前の時刻t2上のフィールド画像の画素とは、同一の画素値となり、直後の時刻t4上のフィールド画像の画素とは、画素値が異なるため、相関値PRは小さい値となる傾向に対して、相関値ARは大きい値となる傾向にあるため、相関値ARが相関値PRに対して小さい値にはならないので、未検出の状態のままとなる。
一方、ステップS42において、例えば、相関値FRが所定閾値thよりも大きく、かつ、相関値ARが相関値PRに対して小さい場合、すなわち、注目フィールド画像が、直前のフィールド画像とは異なり、切れ目が検出されたとみなされた場合、ステップS43において、切れ目判定部14は、状態管理部20に対して切れ目が検出されたことを通知する。この処理に応じて、状態管理部20は、図2の遷移C2で示されるように、状態を未検出状態からパターン検出状態に遷移させて、状態記憶部21に記憶させる。
すなわち、例えば、図8で示されるように、注目フィールド画像が、例えば、時刻t4上のフィールド画像である場合、直後の時刻t5上のフィールド画像の画素は、直前の時刻t3上のフィールド画像の画素とは、同一の画素値とはならないため、相関値FRは所定閾値thよりも大きくなる。また、時刻t4上のフィールド画像の画素は、直前の時刻t3上のフィールド画像の画素とは、同一の画素値とはならないため、相関値PRは大きな値になる傾向があり、また、時刻t4上のフィールド画像の画素は、直後の時刻t5上のフィールド画像の画素とは、画素値が同一になるため、相関値ARは小さな値になる傾向がある。このため相関値ARは相関値PRに対して小さい値となるため、連続して入力されてくるフィールド画像の塊の先頭位置であることを認識することができるので、切れ目であると認識される。
この処理により、図2で示されるように、状態がパターン検出状態に遷移し、連続して入力されてくるフィールド画像の先頭位置を認識することになるので、以降において同一のフィールド画像が連続して供給されてくる際に連続数Cのカウントを開始することができる状態となる。
一方、ステップS41において、状態が、例えば、パターン検出状態、または、プルダウンパターン検出状態であると判定された場合、ステップS44において、ステップS42の処理と同様に、切れ目判定部14は、相関値演算部13より供給されてきた相関値PR,AR,FRにより、切れ目であるか否かを判定する。
ステップS44において、切れ目ではないと判定された場合、すなわち、直前のフィールド画像と同一のフィールド画像が連続して入力されてきている場合、ステップS45において、切れ目判定部14は、同一画像連続数カウンタ15に格納されている連続数Cを1インクリメントする。このとき、図2の遷移C3またはC10で示されるように、状態は遷移することなく、連続数Cだけが1インクリメントされる。したがって、図8で示される時刻t5乃至t8、または、時刻t9乃至t13においては、連続数Cが1インクリメントされることになる。
ステップS46において、切れ目判定部14の閾値管理部14aは、所定閾値thを連続数Cに対応して、例えば、図9で示されるように設定し、処理は終了する。すなわち、例えば、入力されてくるフィールド画像が変化の少ない状態が連続しているような場合、所定閾値thを一定の値としていると切れ目が検出できない状態が継続されてしまう恐れがあるため、図9で示されるように、相関値difが所定値dif1より小さくなり、変化の少ない画像が継続しているものとみなされたとき、相関値difの値に対応して小さな値に設定し直す。この処理により、変化の小さな画像が連続するような場合でも、切れ目を検出しやすくすることができる。
尚、図9においては、横軸が相関値difを表しており、縦軸が、所定閾値thを表している。
また、フィールド画像間差分がある程度小さければ、切れ目ではないと予想されるが、絵柄によっては必ずしも大きい相関値が計算されるとは限らない。そこで、相関値の大小判定として、過去に切れ目であると判断された際の相関値を使うようにしてもよい。すなわち、一般に静止する場合、相関値は減少することが想定されるので、一回前に求まった切れ目での相関値との相対関係によって今回の相関値が大きいか、小さいかを判断することで、切れ目を特定するようにしてもよい。
一方、ステップS44において、切れ目であると判定された場合、ステップS47において、状態管理部20は、状態をパターン判定状態に遷移させて、状態記憶部21に記憶させる。この処理により、図2の遷移C4またはC9で示されるように、状態が、パターン判定状態に遷移する。
ステップS48において、パターン判定部16は、同一画像連続数カウンタ15の連続数Cが設定数と一致したか否かを判定する。ここでいう設定数とは、プルダウンパターンを構成する同一のフィールド画像の連続数である。例えば、図8においては、5−5プルダウンの場合のフィールド画像の入力例が示されており、時刻t4乃至t8、および時刻t9乃至t13においては、同一のフィールド画像が5枚連続で入力されており、同一のフィールド画像が、5枚ずつ連続して入力されることが示されている。したがって、同一のフィールド画像が5枚連続で入力される場合、5−5プルダウンパターンを構成するフィールド画像の連続数であると判断できる。連続数Cは、先頭のフィールド画像と同一であると判断されるフィールド画像の数であることから、同一のフィールド画像が5枚入力される場合、同一画像連続数カウンタ15は連続数C=4となる。このため、5−5プルダウンパターンの場合、設定数は、4となる。
同様にして、2−3プルダウンの場合、同一のフィールド画像が2枚、3枚、・・・であるので、設定数は、1および2となり、さらに、8−7プルダウンの場合、同一のフィールド画像が8枚、7枚・・・であるので、設定数は、7および6となり、6−4プルダウンの場合、同一のフィールド画像が6枚、4枚・・・であるので、設定数は、5および3が設定数となる。
したがって、ステップS48において、図8の場合、時刻t9において、連続数Cは、4となることから、設定数と一致したと判定され、処理は、ステップS49に進む。
ステップS49において、パターン判定部16は、設定数が一致したプルダウンパターンを推定する。すなわち、パターン判定部16は、連続数Cと一致した設定数から対応するプルダウンパターンを推定する。図8の場合、連続数Cは4であるので、一致するのは5−5プルダウンであることが推定される。
ステップS50において、パターン判定部16は、マッチング数カウンタ19に記憶されているマッチング数Mと対応付けて記憶されているプルダウンパターンを読み出し、推定したプルダウンパターンと一致するか否かを判定する。すなわち、マッチング数カウンタ19には、マッチング数Mと対応付けて一致したプルダウンパターンが記憶されているので、パターン判定部16は、その記憶されているプルダウンパターンと、推定したプルダウンパターンとを比較し、一致するか否かを判定する。
ステップS50において、マッチング数Mに対応付けて記憶されているプルダウンパターンと、推定したプルダウンパターンとが一致すると判定された場合、ステップS51において、パターン判定部16は、マッチング数カウンタ19に設定数と一致したマッチング数Mを1インクリメントさせて、推定されるプルダウンパターンと対応付けて記憶させると共に、設定数と一致したことをプルダウンパターン検出部18に通知する。
したがって、図8における時刻t9の場合、5−5プルダウンについて、マッチング数Mが1インクリメントされる。また、例えば、連続数Cが7または6であった場合、パターン判定部16は、8−7プルダウンについて、マッチング数Mを1インクリメントする。さらに、例えば、連続数Cが5または3であった場合、パターン判定部16は、6−4プルダウンについて、マッチング数Mを1インクリメントする。
一方、ステップS50において、マッチング数Mに対応付けて記憶されているプルダウンパターンと、推定したプルダウンパターンとが一致しないと判定された場合、パターン判定部16は、マッチング数Mを1にリセットし、推定したプルダウンパターンに対応付けて登録する。すなわち、マッチング数Mに対応付けて記憶されているプルダウンパターンと、推定したプルダウンパターンとが一致しないということは、切れ目が検出される前のタイミングと、その後のタイミングとでは、入力画像のプルダウンパターンが変更されている可能性が高いため、マッチング数をリセットする。
ステップS53において、プルダウンパターン検出部18は、マッチング数Mが下限値よりも小さいか否かを判定し、下限値よりも小さい場合、ステップS54において、その旨を状態管理部20に通知する。これにより、状態管理部20は、状態をパターン検出状態に遷移させる。すなわち、図2の遷移C5で示されるように、状態は、パターン判定状態からパターン検出状態に遷移する。
一方、ステップS53において、マッチング数Mが下限値よりも小さくない場合、ステップS55において、プルダウンパターン検出部18は、マッチング数Mが上限値よりも大きいか否かを判定し、上限値よりも大きい場合、同一フィールド画像の連続数Cが設定数と一致した回数が、プルダウンパターンを検出できる状態になるまで繰り返されたものとみなし、その旨を状態管理部20に通知する。
ステップS56において、状態管理部20は、状態をパターン判定状態から、プルダウンパターン認識状態に遷移させる。この処理により、状態は、図2の遷移C8で示されるように、パターン判定状態からプルダウンパターン認識状態に遷移する。
ステップS57において、プルダウンパターン検出部18は、マッチング数カウンタ19に記憶されているマッチング数に対応付けて記憶されているプルダウンパターンの情報を入力画像より検出されたプルダウンパターンの情報として、プログレッシブ画像生成部22に供給する。
ステップS58において、プルダウンパターン検出部18は、同一画像連続数カウンタ15に記憶されている連続数Cをリセットさせ、処理は、終了する。
一方、ステップS55において、マッチング数Mが上限値よりも大きくない場合、すなわち、マッチング数Mが下限値よりは大きいが上限値よりも小さく、プルダウンパターンを構成する同一のフィールド画像が連続して検出されている回数が少ない場合、ステップS59において、プルダウンパターン検出部18は、状態管理部20に対してマッチング数Mが下限値よりは大きいが上限値よりも小さいことを通知する。これに応じて、状態管理部20は、状態をパターン判定状態から保留状態に遷移させる。すなわち、図2における遷移C6により、状態は、パターン判定状態から保留状態に遷移する。
ステップS60において、プルダウンパターン検出部18は、同一画像連続数カウンタ15の連続数Cを0にリセットすると共に、その旨を状態管理部20に通知する。
ステップS61において、状態管理部20は、この通知に基づいて、状態をパターン検出状態に遷移させる。すなわち、図2の遷移C7で示されるように、状態は、保留状態からパターン検出状態に遷移する。
また、ステップS48において、同一画像連続数カウンタ15の連続数Cが設定数と一致しない場合、すなわち、プルダウンパターン記憶部17に予め登録されているプルダウンパターンを構成する同一フィールド画像の設定数ではない場合、検出不能なプルダウンパターンとなるので、ステップS62において、パターン判定部16は、同一画像連続数カウンタ15に記憶されている連続数C、マッチング数カウンタ19のマッチング数M、および切れ目判定部14において、閾値管理部14aにより管理されている所定閾値thを全て初期化すると共に、その旨を状態管理部20に通知する。
ステップS63において、状態管理部20は、状態記憶部21に記憶されている状態の情報を読み出し、状態をパターン判定状態から未検出状態に遷移させる。すなわち、図2における遷移C11により、状態は、パターン判定状態から未検出状態に遷移する。
ここで、図3のフローチャートの説明に戻る。
ステップS4において、プルダウンパターン検出処理が終了すると、ステップS5において、プログレッシブ画像生成部22は、プルダウンパターンが検出されてきたか否かを判定する。すなわち、プルダウンパターン検出処理は、1枚のフィールド画像ごとに実行される処理であるので、ステップS41、S44,S47,S48乃至S58の順序で処理が実行されない限り、必ずしもプルダウンパターンが検出されない。
そこで、ステップS5において、プルダウンパターンが検出された場合、ステップS6において、プログレッシブ画像生成部22は、プルダウンパターンに基づいて、バッファ11−3より供給されてくる入力画像をプログレッシブ画像に変換して表示部2に表示させる。
一方、プルダウンパターンが検出されない場合、ステップS6の処理はスキップされ、処理は、ステップS1に戻り、それ以降の処理が繰り返される。
以上の処理を纏めると以下のようになる。すなわち、例えば、図8の場合、時刻t0で検出が開始されると、時刻t3までの間は、未検出状態で、図7のステップS41乃至S43の処理が繰り返され、時刻t4において、切れ目が検出されるとパターン検出状態に遷移する。時刻t4乃至t8において、ステップS41,S44,S45の処理が順次繰り返されることにより、同一画像連続数カウンタ15に記憶されている連続数Cが順次インクリメントされていく。時刻t9において、再び切れ目が検出されたタイミングで、状態がパターン判定状態に遷移する。このとき、連続数Cは設定数である4と一致するので、最初の処理として、マッチング数M=1が5−5プルダウンに対応付けられてマッチング数カウンタ19に記憶される。
さらに、下限値を1、上限値を2とすると、一旦保留状態とされた後、状態がパターン検出状態に遷移して、時刻t10乃至t13において、ステップS41,S44,S45,S46の処理が繰り返される。そして、時刻t14において、再び切れ目が検出されるタイミングで、状態がパターン判定状態に遷移する。このとき、連続数Cは、やはり設定数である4と一致するので、マッチング数Mがインクリメントされて、マッチング数M=2が5−5プルダウンに対応付けられてマッチング数カウンタ19に記憶される。
マッチング数Mが2となると上限値よりも大きいので、プルダウンパターン検出部18は、マッチング数カウンタ19に記憶されているマッチング数Mに対応付けて記憶されているプルダウンパターンを、入力画像のプルダウンパターンとしてプログレッシブ画像生成部22に供給する。
時刻t15以降においては、同一のプルダウンパターンが継続している限り、切れ目が検出される度にマッチング数Mは大きくなり続けるので、プルダウンパターンが検出され続けることになる。
また、途中でプルダウンパターンが変化してもマッチング数Mが上限値を越えた時点で、再び新たなプルダウンパターンを検出することになるので、様々なプルダウンパターンが動的に変化するような画像であっても、プルダウンパターンを検出し続けることが可能となる。
尚、以上においては、相関値として画像間の画素間差分絶対値和を用いる例について説明してきたが、相関値は画像間の相関が表現できる値であればよいので、その他の相関値を用いるようにしてもよく、例えば、符号化された画像列のデコード前のストリームヘッダ情報を相関値として用いるようにしてもよい。
以上によれば、低いフレームレートのプログレッシブ画像から作成されたインターレス画像でも、補間処理によって補間画像を作成するのではなく、元となったプログレッシブ画像を、検出されたプルダウンパターンに基づいて、完全に復元することができるため、高画質化を実現することが可能となる。
また、フレームレートが変わった場合でもプルダウンパターンの検出を維持し続けることが可能なため、一旦プルダウンパターンの検出を終了してから再度プルダウンパターンを検出するまでに発生する画質の劣化を抑制することが可能となる。
さらに、シーンチェンジや、編集が加わっていそうな箇所では、プルダウンパターンが変化し、適切に処理できない場合、処理を保留するため、誤って異なるフィールド画像間で元となったプログレッシブ画像を復元してしまった際に発生するコーミング現象等の画質の劣化を抑制することが可能となる。
また、元の画像の変化が小さく、絵柄が、ノイズと区別の付きにくい微小な相関値となっていても、同一のフィールド画像と検出される連続数に応じて相関値に対する所定閾値を動的に変化させるため、アニメーションなどでありがちな微小な相関値に対しても精度よく検出を維持し続けることが可能となる。また、微小な変動の際にありがちなコーミングや補間処理による画質の劣化を抑え高画質化を図ることが可能となる。
さらに、元の画像に完全に相関が発生しなくても、検出を維持することが可能なため、そこから絵柄が変わっても、検出を維持することが可能となる。そのため、高画質な映像を維持することが出来る。
また、最低3枚のフィールド画像で、全てのプルダウンの検出を行うことが出来るため、フレームメモリを最小にすることが可能となる。尚、以上においては、3枚のフィールド画像を用いる例について説明してきたが、それ以上のフィールド画像を用いるようにしても良い。また、フィールド画像ではなく、フレーム画像を用いても良い。
さらに、複数のプルダウンパターン全てを一度に検出するため、プルダウンパターン毎に処理系統や回路を設ける必要がないので、処理量や回路規模の削減を図ることが可能となる。
以上によれば、特に、様々なフレームレートの入力画像に対して、単一の処理構成により、プルダウンパターンを検出することが可能となり、検出されたプルダウンパターンに基づいて、入力画像より元となるプログレッシブ画像を高い精度で再現することが可能となる。
ところで、上述した一連の情報処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。
図10は、汎用のパーソナルコンピュータの構成例を示している。このパーソナルコンピュータは、CPU(Central Processing Unit)1001を内蔵している。CPU1001にはバス1004を介して、入出力インタフェース1005が接続されている。バス1004には、ROM(Read Only Memory)1002およびRAM(Random Access Memory)1003が接続されている。
入出力インタフェース1005には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる入力部1006、処理操作画面や処理結果の画像を表示デバイスに出力する出力部1007、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部1008、LAN(Local Area Network)アダプタなどよりなり、インターネットに代表されるネットワークを介した通信処理を実行する通信部1009が接続されている。また、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、もしくは半導体メモリなどのリムーバブルメディア1011に対してデータを読み書きするドライブ1010が接続されている。
CPU1001は、ROM1002に記憶されているプログラム、または磁気ディスク、光ディスク、光磁気ディスク、もしくは半導体メモリ等のリムーバブルメディア1011から読み出されて記憶部1008にインストールされ、記憶部1008からRAM1003にロードされたプログラムに従って各種の処理を実行する。RAM1003にはまた、CPU1001が各種の処理を実行する上において必要なデータなども適宜記憶される。
尚、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
本発明を適用した画像処理装置の構成例を示すブロック図である。 画像処理を説明する状態遷移図である。 プログレッシブ画像生成処理を説明するフローチャートである。 相関値演算処理を説明するフローチャートである。 相関値演算処理を説明する図である。 相関値演算処理を説明する図である。 プルダウンパターン検出処理を説明するフローチャートである。 プルダウンパターン検出処理を説明する図である。 切れ目を判定する際の所定閾値の設定を説明する図である。 パーソナルコンピュータの構成例を説明する図である。
符号の説明
1 画像処理装置, 11,11−1乃至11−3 バッファ, 12 抽出部, 13 相関値演算部, 14 切れ目判定部, 15 同一画像連続数カウンタ, 16 パターン判定部, 17 プルダウンパターン記憶部, 18 プルダウンパターン検出部, 19 マッチング数カウンタ, 20 状態管理部, 21 状態記憶部

Claims (9)

  1. 連続的に入力されてくる画像のうち、注目画像を含む前後の参照画像との相関値を演算する相関値演算手段と、
    前記相関値に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かを判定する切れ目判定手段と、
    前記注目画像が切れ目であると判定されない場合、同一の画像が連続することを連続数として累積的にカウントする連続数カウント手段と、
    前記注目画像が切れ目であると判定された場合、直前の画像までの連続数と、所定のプルダウンパターンに対応した連続数である設定数とが一致するか否かを判定するパターン判定手段と、
    前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定されたとき、前記所定のプルダウンパターンとの一致回数をマッチング数としてカウントするマッチング数カウント手段と、
    前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記マッチング数が所定数よりも大きいとき、前記設定数に対応する前記所定のプルダウンパターンを前記連続的に入力されてくる画像のプルダウンパターンとして検出するプルダウンパターン検出手段と
    を含む画像処理装置。
  2. 前記プルダウンパターン検出手段により検出された前記画像のプルダウンパターンに基づいて、前記画像より、プログレッシブ画像を生成するプログレッシブ画像生成手段をさらに含む
    請求項1に記載の画像処理装置。
  3. 前記プルダウンパターン検出手段は、前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記一致回数が所定数よりも大きくなく、かつ、前記所定数よりも小さい他の所定数よりも大きいとき、前記所定のプルダウンパターンの検出を保留する
    請求項1に記載の画像処理装置。
  4. 前記切れ目判定手段は、前記相関値が所定の閾値よりも大きいか否か、または、相関値同士の比較処理結果に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かを判定する
    請求項1に記載の画像処理装置。
  5. 前記連続数に対応して、前記所定の閾値を小さくするように管理する閾値管理手段をさらに含む
    請求項4に記載の画像処理装置。
  6. 前記相関値演算手段は、
    連続的に入力されてくる画像のうち、前記注目画像を含む前後の参照画像との、画像の中央近傍の第1の領域の画素の相関値を演算し、
    前記プルダウンパターン検出手段が、前記所定のプルダウンパターンを検出できる状態のとき、連続的に入力されてくる画像のうち、前記注目画像を含む前後の参照画像との、前記画像の中央近傍の前記第1の領域よりも広い第2の領域の画素の相関値を演算する
    請求項1に記載の画像処理装置。
  7. 連続的に入力されてくる画像のうち、注目画像を含む前後の参照画像との相関値を演算する相関値演算ステップと、
    前記相関値に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かを判定する切れ目判定ステップと、
    前記注目画像が切れ目であると判定されない場合、同一の画像が連続することを連続数として累積的にカウントする連続数カウントステップと、
    前記注目画像が切れ目であると判定された場合、直前の画像までの連続数と、所定のプルダウンパターンに対応した連続数である設定数とが一致するか否かを判定するパターン判定ステップと、
    前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定されたとき、前記所定のプルダウンパターンとの一致回数をマッチング数としてカウントするマッチング数カウントステップと、
    前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記マッチング数が所定数よりも大きいとき、前記設定数に対応する前記所定のプルダウンパターンを前記連続的に入力されてくる画像のプルダウンパターンとして検出するプルダウンパターン検出ステップと
    を含む画像処理方法。
  8. 連続的に入力されてくる画像のうち、注目画像を含む前後の参照画像との相関値を演算する相関値演算ステップと、
    前記相関値に基づいて、前記注目画素が、所定数の連続した同一の画像の切れ目であるか否かを判定する切れ目判定ステップと、
    前記注目画像が切れ目であると判定されない場合、同一の画像が連続することを連続数として累積的にカウントする連続数カウントステップと、
    前記注目画像が切れ目であると判定された場合、直前の画像までの連続数と、所定のプルダウンパターンに対応した連続数である設定数とが一致するか否かを判定するパターン判定ステップと、
    前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定されたとき、前記所定のプルダウンパターンとの一致回数をマッチング数としてカウントするマッチング数カウントステップと、
    前記注目画像が切れ目であると判定された場合、前記直前の画像までの連続数と、前記設定数とが一致すると判定され、さらに、前記マッチング数が所定数よりも大きいとき、前記設定数に対応する前記所定のプルダウンパターンを前記連続的に入力されてくる画像のプルダウンパターンとして検出するプルダウンパターン検出ステップと
    を含む処理をコンピュータに実行させるプログラム。
  9. 請求項8に記載のプログラムが格納されているプログラム格納媒体。
JP2008020335A 2007-08-10 2008-01-31 画像処理装置および方法、並びにプログラム Expired - Fee Related JP5040687B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2008020335A JP5040687B2 (ja) 2007-08-10 2008-01-31 画像処理装置および方法、並びにプログラム
KR1020080070865A KR20090016383A (ko) 2007-08-10 2008-07-21 화상 처리 장치 및 방법, 및 프로그램
EP08252596A EP2023619A3 (en) 2007-08-10 2008-07-31 Image processing apparatus and method
US12/185,356 US8331676B2 (en) 2007-08-10 2008-08-04 Image processing apparatus and method, and program
CN2008102102790A CN101365093B (zh) 2007-08-10 2008-08-11 图像处理装置和方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2007208947 2007-08-10
JP2007208947 2007-08-10
JP2008020335A JP5040687B2 (ja) 2007-08-10 2008-01-31 画像処理装置および方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2009065630A JP2009065630A (ja) 2009-03-26
JP5040687B2 true JP5040687B2 (ja) 2012-10-03

Family

ID=40391192

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008020335A Expired - Fee Related JP5040687B2 (ja) 2007-08-10 2008-01-31 画像処理装置および方法、並びにプログラム

Country Status (3)

Country Link
JP (1) JP5040687B2 (ja)
KR (1) KR20090016383A (ja)
CN (1) CN101365093B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6557524B2 (ja) * 2015-06-22 2019-08-07 株式会社メガチップス 受信装置及びこれを用いた画像伝送システム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001094950A (ja) * 1999-09-20 2001-04-06 Matsushita Electric Ind Co Ltd ビデオid信号処理装置
JP2005117202A (ja) * 2003-10-06 2005-04-28 Oki Electric Ind Co Ltd インターレース映像をプログレッシブ映像に変換する方法
JP4225930B2 (ja) * 2004-02-04 2009-02-18 三菱電機株式会社 映像信号処理装置および映像信号処理方法
JP4293963B2 (ja) * 2004-09-27 2009-07-08 三菱電機株式会社 映像信号処理装置、映像信号処理方法、及び映像信号表示装置
JP4749314B2 (ja) * 2006-11-28 2011-08-17 富士通株式会社 インタレース/プログレッシブ変換方法および変換装置

Also Published As

Publication number Publication date
JP2009065630A (ja) 2009-03-26
CN101365093A (zh) 2009-02-11
CN101365093B (zh) 2012-02-08
KR20090016383A (ko) 2009-02-13

Similar Documents

Publication Publication Date Title
JP4296218B1 (ja) 映像表示装置
KR101498207B1 (ko) 초고해상도 영상의 프레임 레이트 변환 장치 및 방법
US8233087B2 (en) Systems and methods for deinterlacing high-definition and standard-definition video
JP4869045B2 (ja) 補間フレーム作成方法および補間フレーム作成装置
JP4692913B2 (ja) フレームレート変換装置及び方法
US8615036B2 (en) Generating interpolated frame of video signal with enhancement filter
US20070040935A1 (en) Apparatus for converting image signal and a method thereof
US20120274845A1 (en) Image processing device and method, and program
JP4506882B2 (ja) 画像処理装置および方法、並びにプログラム
JP2006310985A (ja) フレームレート変換装置及び表示装置
JP5040687B2 (ja) 画像処理装置および方法、並びにプログラム
US8331676B2 (en) Image processing apparatus and method, and program
JP4930409B2 (ja) 画像符号化装置、画像符号化方法および画像符号化プログラム
JP5015089B2 (ja) フレームレート変換装置、フレームレート変換方法、テレビジョン受像機、フレームレート変換プログラムおよび該プログラムを記録した記録媒体
WO2001097510A1 (en) Image processing system, image processing method, program, and recording medium
JP2012244333A (ja) 画像処理装置および方法、並びにプログラム
JP2003179886A (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP4049087B2 (ja) 動き・静止の判定装置および判定方法、並びに画像信号の処理装置および処理方法
JP2010103711A (ja) 映像信号処理装置、映像信号処理方法、映像信号処理プログラムおよび映像信号制御回路
JP2008098938A (ja) プルダウンシーケンス検出プログラムおよびプルダウンシーケンス検出装置
JP2005004770A (ja) グループ化による映画映像検出方法及び装置
JP4032785B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP5641887B2 (ja) 画像処理装置及びその制御方法
JP2009217425A (ja) 情報処理装置および方法、並びにプログラム
KR100728914B1 (ko) 영상의 속성을 이용한 디인터레이싱 장치 및 그 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120612

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120625

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150720

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees