JP2007502042A - グラフィクス重畳検出 - Google Patents
グラフィクス重畳検出 Download PDFInfo
- Publication number
- JP2007502042A JP2007502042A JP2006522476A JP2006522476A JP2007502042A JP 2007502042 A JP2007502042 A JP 2007502042A JP 2006522476 A JP2006522476 A JP 2006522476A JP 2006522476 A JP2006522476 A JP 2006522476A JP 2007502042 A JP2007502042 A JP 2007502042A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- value
- image
- predetermined threshold
- difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Geometry (AREA)
- Controls And Circuits For Display Device (AREA)
- Image Analysis (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Circuits (AREA)
- Television Systems (AREA)
- Organic Low-Molecular-Weight Compounds And Preparation Thereof (AREA)
- Gasification And Melting Of Waste (AREA)
- Photosensitive Polymer And Photoresist Processing (AREA)
Abstract
ビデオ画像の表示シーケンスの第1の画像の特定の画素が、グラフィクスの重畳の一部を表すか否かを検出する重畳検出ユニット(300)が開示される。重畳検出ユニット(300)は、特定の画素(P(1,n))の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素(P(1,n−1))の第2の値との間の第1の差(D11)が、第1の所定の閾値(T1)よりも小さいか否かをテストする第1のテスト手段(302)と、前記特定の画素(P(1,n))の空間的な近隣に位置する第2の画素(P(2,n))の第3の値と、前記第2の画像の前記第2の画素に対応する第4の画素(P(2,n−1))の第4の値との間の第2の差(D22)が、第2の所定の閾値(T2)よりも小さいか否かをテストする第2のテスト手段(304)と、前記特定の画素(P(1,n))の第1の値と、前記第2の画素(P(2,n))の第3の値との間の第3の差(D12)が、第3の所定の閾値(T3)よりも小さいか否かをテストする第3のテスト手段と、前記テスト手段の出力に基づいて、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認する確認手段(308)と、を有する。
Description
本発明は、ビデオ画像の表示シーケンスの第1の画像の特定の画素が、グラフィクスの重畳の一部を表すか否かを検出する重畳検出ユニットであって、前記グラフィクスの重畳の一部は、前記ビデオ画像の表示シーケンスを生成するためにビデオ画像の入力シーケンスとマージされた重畳検出ユニットに関する。
本発明は更に、
ビデオ画像の表示シーケンスに対応する信号を受信する受信手段と、
上述の重畳検出ユニットと、
前記ビデオ画像の表示シーケンスに基づいて、及び前記重畳検出ユニットによって供給されたグラフィクスの重畳検出信号に基づいて、出力画像のシーケンスを算出する画像処理ユニットと、
を有する画像処理機器に関する。
ビデオ画像の表示シーケンスに対応する信号を受信する受信手段と、
上述の重畳検出ユニットと、
前記ビデオ画像の表示シーケンスに基づいて、及び前記重畳検出ユニットによって供給されたグラフィクスの重畳検出信号に基づいて、出力画像のシーケンスを算出する画像処理ユニットと、
を有する画像処理機器に関する。
本発明は更に、ビデオ画像の表示シーケンスの第1の画像の特定の画素が、前記ビデオ画像の表示シーケンスを生成するためにビデオ画像の入力シーケンスとマージされたグラフィクスの重畳の一部を表すか否かを検出する方法に関する。
本発明は更に、ビデオ画像の表示シーケンスの第1の画像の特定の画素が、前記ビデオ画像の表示シーケンスを生成するためにビデオ画像の入力シーケンスとマージされたグラフィクスの重畳の一部を表すか否かを検出する命令を有する、コンピュータ装置によりロードされるコンピュータプログラムであって、前記コンピュータ装置は処理手段及びメモリを有するコンピュータプログラムに関する。
画像レート変換、特に画像レートの上方変換(upconversion)は、TVセットのような消費者向けビデオ機器において良く知られた概念である。例えば、G. de Haanによる書籍「Video processing for multimedia systems」(ISBN90-9014015-8)の第4章を参照されたい。動き補償(motion compensated)画像レート上方変換の目的は、優れた動きの描写を実現することである。このことは、画像のシーケンスの時間的な内挿を、該画像のシーケンスについて推定された動きベクトルに基づいて行うことにより達成される。一般に、例えば8*8画素のような画素のブロックについて、種々の動きベクトルが計算される。画像がグラフィクスの重畳(overlay)を有し(グラフィクスの重畳は一般に時間に対して静的である)、且つ移動するオブジェクトを表す場合には、既知の画像レート上方変換方法は、前記グラフィクスの重畳の分解に帰着する。例えば図1Aの画像を参照されたい。
グラフィクスの重畳は、コンテンツプロバイダ又は放送局によって提供される、字幕又はその他の情報に対応し得る。グラフィクスの重畳はまた、TVセット、セットトップボックス、衛星チューナ、VCR(Video Cassette Recorder)プレイヤ、DVD(Digital Versatile Disk)プレイヤ又はレコーダのような、消費者向け装置のグラフィクスのユーザインタフェースの一部として生成される所謂OSD(On Screen Display)情報に対応し得る。更なる選択肢は、グラフィクスの重畳が、ビデオデータと関連して交換されるメタデータに対応することである。
前記分解、即ちグラフィクスの重畳の歪は、該グラフィクスの重畳が動き推定のために利用される画素のブロックの小さな部分のみをカバーし、該画素のブロックの他の部分が移動する背景に対応する場合に生じる。一般に、単一の動きベクトルが、各画素のブロックについて推定される。結果として、該単一の動きベクトルは、かような画素のブロックにおける全ての画素の実際に動きには適合しない。移動する背景に対応する画素のブロックの一部に対して合致誤差が最小である場合には、推定された動きベクトルは背景の動きに合致する。このことは、画素のブロックの比較的大きな部分が正常に動き補償されるようにするが、グラフィクスの重畳の歪を引き起こし、それ故ビデオ品質の不快な劣化を引き起こす。
本発明の目的は、頑強な方法でグラフィクスの重畳を検出するように構成された、最初のパラグラフに記載された種類の重畳検出ユニットを提供することにある。
本発明の本目的は、
前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素の第2の値との間の第1の差が、第1の所定の閾値よりも小さいか否かをテストする第1のテスト手段と、
前記特定の画素の空間的な近隣に位置する第2の画素の第3の値と、前記ビデオ画像の表示シーケンスの第2の画像の前記第2の画素に対応する第4の画素の第4の値との間の第2の差が、第2の所定の閾値よりも小さいか否かをテストする第2のテスト手段と、
前記特定の画素の第1の値と、前記第2の画素の第3の値との間の第3の差が、第3の所定の閾値よりも小さいか否かをテストする第3のテスト手段と、
前記第1の差が前記第1の所定の閾値よりも小さく、前記第2の差が前記第2の所定の閾値よりも小さく、前記第3の差が前記第3の所定の閾値よりも小さい場合に、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認する確認手段と、
を有する重畳検出ユニットにより達成される。
前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素の第2の値との間の第1の差が、第1の所定の閾値よりも小さいか否かをテストする第1のテスト手段と、
前記特定の画素の空間的な近隣に位置する第2の画素の第3の値と、前記ビデオ画像の表示シーケンスの第2の画像の前記第2の画素に対応する第4の画素の第4の値との間の第2の差が、第2の所定の閾値よりも小さいか否かをテストする第2のテスト手段と、
前記特定の画素の第1の値と、前記第2の画素の第3の値との間の第3の差が、第3の所定の閾値よりも小さいか否かをテストする第3のテスト手段と、
前記第1の差が前記第1の所定の閾値よりも小さく、前記第2の差が前記第2の所定の閾値よりも小さく、前記第3の差が前記第3の所定の閾値よりも小さい場合に、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認する確認手段と、
を有する重畳検出ユニットにより達成される。
換言すれば、3つのテストが実行され、3つのテスト結果が組み合わせられ、特定の画素がグラフィクスの重畳の一部を表しているか否かを確認する。第1のテストは、一種の静的テストである。このことは、特定の画素と、該特定の画素と同一の座標を持つ先行する又は後続する画像における画素とが、略等しい値を持つか否かがテストされることを意味する。前記値は、例えば輝度又は色のような、人間にとって可視な情報を表す。第2のテストもまた一種の静的テストであるが、該特定の画素に適用されるものではなく、該特定の画素の近隣における他の画素(第2の画素と呼ばれる)について適用される。ここで近隣とは、例えば21*21画素の領域を意味する。第3のテストは、一種の均一性テストである。このことは、特定の画素と、該特性の画素の近隣における他の画素(第2の画素と呼ばれる)とが、略等しい値を持つか否かがテストされることを意味する。全てのテストが肯定的であった場合、該特定の画素はグラフィクスの重畳の一部として見なされ、そのようにラベル付けされる。静的テストと均一性テストとの組み合わせが、グラフィクスの重畳の頑強な検出に帰着する。
好ましくは、前記第1の所定の閾値と前記第2の所定の閾値とが、相互に等しい。
本発明による重畳検出ユニットの実施例は更に、第1の動きベクトルがゼロの動きベクトルに等しいと推定された画素の群に、前記特定の画素が属するか否かをテストする第4のテスト手段を有する。動きベクトル場によって、グラフィクス重畳検出が実行されるべき画像を最初にセグメント化することにより、検出の頑強さの更なる向上が達成される。セグメント化とは、ゼロに等しい動きベクトルを持つ画素のブロックが、ゼロと異なる動きベクトルを持つ画素のブロックから分離されることを意味する。前記重畳検出ユニットは、前記動きベクトル場に基づいて初期化される。グラフィクスの重畳の一部の表現の検出は、ゼロの動きベクトルが割り当てられた第1の画像の画素について、上述のように実行される。その後、ゼロでない動きベクトルが割り当てられた画素について、一種の拡大又は拡張が任意に実行される。前記動きベクトルに基づく初期化は、計算の複雑さ及び検出の頑強さのために有利である。前記動きベクトル場は好ましくは前記第1の画像について計算されるが、第2の画像について計算されたものであっても良い。
本発明による重畳検出ユニットの実施例は、前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第3の画像の対応する画素の第4の値との間の第4の差が、前記第1の所定の閾値よりも小さいか否かをテストするように構成される。第3の画像に基づく付加的な静的テストにより、検出の頑強さが更に増大させられる。
本発明による重畳検出ユニットの実施例は、前記特定の画素の第1の値と、前記特定の画素の空間的な近隣に位置する第3の画素の第4の値との間の第5の差が、前記第3の所定の閾値よりも小さいか否かをテストするように構成される。第1の画像の第3の画素に基づく付加的な均一性テストにより、検出の頑強さが更に増大させられる。好ましくは、前記特定の画素、前記第2の画素及び前記第3の画素が、相互に接続された画素のセットを形成する。換言すれば、隣接する画素の経路がある。画素の接続性の条件をテストすることは、頑強さのために有利である。
本発明による重畳検出ユニットの実施例においては、前記第2の画素が、グラフィクスの重畳の更なる部分を表すことが確認された画素のセットから選択される。本発明による本実施例は、前記第1の画像の最初の走査において、グラフィクスの重畳の一部を表すとラベル付けされた画素のセットを拡大又は拡張するために、前記第1の画像に一種の第2の反復を実行するように構成される。検出の品質が、前記第2の反復によって更に向上させられる。
本発明の更なる目的は、重畳検出ユニットが頑強な方法でグラフィクスの重畳を検出するように構成された、最初のパラグラフに記載された種類の画像処理機器を提供することにある。
本発明の本目的は、
前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素の第2の値との間の第1の差が、第1の所定の閾値よりも小さいか否かをテストする第1のテスト手段と、
前記特定の画素の空間的な近隣に位置する第2の画素の第3の値と、前記ビデオ画像の表示シーケンスの第2の画像の前記第2の画素に対応する第4の画素の第4の値との間の第2の差が、第2の所定の閾値よりも小さいか否かをテストする第2のテスト手段と、
前記特定の画素の第1の値と、前記第2の画素の第3の値との間の第3の差が、第3の所定の閾値よりも小さいか否かをテストする第3のテスト手段と、
前記第1の差が前記第1の所定の閾値よりも小さく、前記第2の差が前記第2の所定の閾値よりも小さく、前記第3の差が前記第3の所定の閾値よりも小さい場合に、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認する確認手段と、
を有する重畳検出ユニットによって達成される。前記画像処理ユニットは、グラフィクスの重畳の検出された部分を保護するように構成された時間的上方変換ユニットであっても良い。前記画像処理ユニットは任意に、出力画像を表示するための表示装置を有する。
前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素の第2の値との間の第1の差が、第1の所定の閾値よりも小さいか否かをテストする第1のテスト手段と、
前記特定の画素の空間的な近隣に位置する第2の画素の第3の値と、前記ビデオ画像の表示シーケンスの第2の画像の前記第2の画素に対応する第4の画素の第4の値との間の第2の差が、第2の所定の閾値よりも小さいか否かをテストする第2のテスト手段と、
前記特定の画素の第1の値と、前記第2の画素の第3の値との間の第3の差が、第3の所定の閾値よりも小さいか否かをテストする第3のテスト手段と、
前記第1の差が前記第1の所定の閾値よりも小さく、前記第2の差が前記第2の所定の閾値よりも小さく、前記第3の差が前記第3の所定の閾値よりも小さい場合に、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認する確認手段と、
を有する重畳検出ユニットによって達成される。前記画像処理ユニットは、グラフィクスの重畳の検出された部分を保護するように構成された時間的上方変換ユニットであっても良い。前記画像処理ユニットは任意に、出力画像を表示するための表示装置を有する。
本発明の更なる目的は、頑強な方法でグラフィクスの重畳を検出する、最初のパラグラフに記載された種類の方法を提供することにある。
本発明の本目的は、
前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素の第2の値との間の第1の差が、第1の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の空間的な近隣に位置する第2の画素の第3の値と、前記ビデオ画像の表示シーケンスの第2の画像の前記第2の画素に対応する第4の画素の第4の値との間の第2の差が、第2の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の第1の値と、前記第2の画素の第3の値との間の第3の差が、第3の所定の閾値よりも小さいか否かをテストするステップと、
前記第1の差が前記第1の所定の閾値よりも小さく、前記第2の差が前記第2の所定の閾値よりも小さく、前記第3の差が前記第3の所定の閾値よりも小さい場合に、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認するステップと、
を有する方法によって達成される。
前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素の第2の値との間の第1の差が、第1の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の空間的な近隣に位置する第2の画素の第3の値と、前記ビデオ画像の表示シーケンスの第2の画像の前記第2の画素に対応する第4の画素の第4の値との間の第2の差が、第2の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の第1の値と、前記第2の画素の第3の値との間の第3の差が、第3の所定の閾値よりも小さいか否かをテストするステップと、
前記第1の差が前記第1の所定の閾値よりも小さく、前記第2の差が前記第2の所定の閾値よりも小さく、前記第3の差が前記第3の所定の閾値よりも小さい場合に、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認するステップと、
を有する方法によって達成される。
本発明の更なる目的は、頑強な方法でグラフィクスの重畳を検出する、最初のパラグラフに記載された種類のコンピュータプログラムを提供することにある。
本発明の本目的は、ロードされた後に、
前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素の第2の値との間の第1の差が、第1の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の空間的な近隣に位置する第2の画素の第3の値と、前記ビデオ画像の表示シーケンスの第2の画像の前記第2の画素に対応する第4の画素の第4の値との間の第2の差が、第2の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の第1の値と、前記第2の画素の第3の値との間の第3の差が、第3の所定の閾値よりも小さいか否かをテストするステップと、
前記第1の差が前記第1の所定の閾値よりも小さく、前記第2の差が前記第2の所定の閾値よりも小さく、前記第3の差が前記第3の所定の閾値よりも小さい場合に、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認するステップと、
を実行する機能を前記処理手段に備えさせるコンピュータプログラムにより達成される。重畳検出ユニットの変更及び変形例は、記載された画像処理機器、方法及びコンピュータプログラムの変更及び変形例に対応しても良い。
前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素の第2の値との間の第1の差が、第1の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の空間的な近隣に位置する第2の画素の第3の値と、前記ビデオ画像の表示シーケンスの第2の画像の前記第2の画素に対応する第4の画素の第4の値との間の第2の差が、第2の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の第1の値と、前記第2の画素の第3の値との間の第3の差が、第3の所定の閾値よりも小さいか否かをテストするステップと、
前記第1の差が前記第1の所定の閾値よりも小さく、前記第2の差が前記第2の所定の閾値よりも小さく、前記第3の差が前記第3の所定の閾値よりも小さい場合に、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認するステップと、
を実行する機能を前記処理手段に備えさせるコンピュータプログラムにより達成される。重畳検出ユニットの変更及び変形例は、記載された画像処理機器、方法及びコンピュータプログラムの変更及び変形例に対応しても良い。
本発明による重畳検出ユニット、画像処理機器、方法及びコンピュータプログラムのこれらの及び他の態様は、以下に説明される実装及び実施例に関して、及び添付する図を参照しながら説明され、明らかとなるであろう。
図を通して、同一の参照番号が類似の部分を示すために利用される。
図1Aは、先行技術の上方変換ユニットの出力画像100を示す。出力画像100は、入力画像の時間的な内挿に基づくものである。前記入力画像は、車が道路を走っている、映画の一部に対応する。前記入力画像の取得の間、連続する画像の中央に前記車を維持するために、カメラがパン(pan)した。結果として、前記入力画像について推定された動きベクトルの殆どが、ゼロに等しくない。出力画像100は更に、DVDプレイヤによって生成されたものであり、DVDに保存された画像と混合させられたグラフィクスの重畳を有する。混合された画像、即ち保存された画像とグライフィクスの重畳との混合は、上方変換のために利用される。不運にも、前記上方変換は、グラフィクスの重畳102及び104において可視のアーティファクト(artifact)に帰着している。このことは、先行技術による上方変換ユニットによって提供された出力画像100は、必要とされるよりも可視性が低いグラフィクスの重畳102及び104を有することを意味する。例えば文字列「1:21:24」のような幾つかのテキスト情報の表現102が歪ませられていることが明らかに分かる。先行技術による上方変換ユニットによって提供された出力画像100を、図1Bに示された本発明による上方変換ユニットによって提供された別の出力画像106と比較すると、幾つかのアイコンの表現110がかなり改善されていることが分かる。
図2Aは、ビデオ画像の入力シーケンスのうちの2つの連続する画像200及び202、並びにこれら画像の幾つかの画素P(1,n)、P(1,n−1)、P(2,n)及びP(2,n−1)を模式的に示す。特定の画素P(1,n)がグラフィクスの重畳の一部を表すか否かを決定するため、幾つかのテストが実行される。即ち、幾つかの差D11、D12及びD22が計算され、それぞれの閾値と比較される。このことは、図3Aと共により詳細に説明される。
図2Bは、ビデオ画像の入力シーケンスのうちの3つの連続する画像200乃至204、並びにこれら画像の幾つかの画素P(1,n)、P(1,n−1)、P(1,n+1)、P(2,n)、P(2,n−1)及びP(3,n)を模式的に示す。特定の画素P(1,n)がグラフィクスの重畳の一部を表すか否かを決定するため、幾つかのテストが実行される。即ち、幾つかの差D11、D12、D13、D22及びD11pが計算され、それぞれの閾値と比較される。このことは、図3Bと共により詳細に説明される。
図3Aは、本発明による重畳検出ユニット300の実施例を模式的に示す。重畳検出ユニット300は、ビデオ画像の表示シーケンスに対応するビデオ信号を供給される。該ビデオ画像の表示シーケンスは、グラフィクスの重畳とマージされるビデオ画像の入力信号に基づくものであっても良い。重畳検出ユニット300は、前記ビデオ画像の表示シーケンスの第1の画像の特定の画素が、かようなグラフィクスの重畳の一部を表すか否かを検出するように構成される。重畳検出ユニット300は、
−特定の画素P(1,n)の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素P(1,n−1)の第2の値との間の第1の差D11が、第1の所定の閾値T1よりも小さいか否かテストする第1の評価ユニット302と、
−特定の画素P(1,n)の空間的な近隣に存在する第2の画素P(2,n)の第3の値と、前記第2の画素P(2,n)に対応する前記ビデオ画像の表示シーケンスの第2の画像の第4の画素P(2,n−1)の第4の値との第2の差D22が、第2の所定の閾値T2よりも小さいか否かテストする第2の評価ユニット304と、
−特定の画素P(1,n)の第1の値と、第2の画素P(2,n)の第3の値との間の第3の差D12が、第3の所定の閾値T3よりも小さいか否かテストする第3の評価ユニット306と、
−第1の差D11が第1の所定の閾値T1よりも小さく、第2の差D22が第2の所定の閾値T2よりも小さく、第3の差D12が第3の所定の閾値T3よりも小さい場合、前記特定の画素がグラフィクスの重畳の一部を表していると確認する結合ユニット308と、
を有する。
−特定の画素P(1,n)の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素P(1,n−1)の第2の値との間の第1の差D11が、第1の所定の閾値T1よりも小さいか否かテストする第1の評価ユニット302と、
−特定の画素P(1,n)の空間的な近隣に存在する第2の画素P(2,n)の第3の値と、前記第2の画素P(2,n)に対応する前記ビデオ画像の表示シーケンスの第2の画像の第4の画素P(2,n−1)の第4の値との第2の差D22が、第2の所定の閾値T2よりも小さいか否かテストする第2の評価ユニット304と、
−特定の画素P(1,n)の第1の値と、第2の画素P(2,n)の第3の値との間の第3の差D12が、第3の所定の閾値T3よりも小さいか否かテストする第3の評価ユニット306と、
−第1の差D11が第1の所定の閾値T1よりも小さく、第2の差D22が第2の所定の閾値T2よりも小さく、第3の差D12が第3の所定の閾値T3よりも小さい場合、前記特定の画素がグラフィクスの重畳の一部を表していると確認する結合ユニット308と、
を有する。
重畳検出ユニット300は任意に、ビデオ画像及び中間結果を一時的に保存するためのメモリ装置310を有する。代替として、メモリ装置310は、重畳検出ユニット300が属する機器の他の構成要素と共有される。
重畳検出ユニット300の出力は、出力コネクタ314において供給される。好ましくは前記出力は、前記入力画像の画素毎に、該画素がグラフィクスの重畳の一部に対応するか否かを示す、入力画像毎のバイナリのビットマップである。代替として前記出力は、グラフィクスの重畳の一部を表すことが確認されている画素についての、適切な色又は輝度値を有する多次元信号である。
ビデオ画像の表示シーケンスの画像の画素は、走査手法で評価される。該走査は、線毎又は列毎であっても良い。値が時間的に静的であり、値が同じく時間的に静的である第2の画素の値に略等しい各画素は、グラフィクスの重畳の一部を表すものとしてラベル付けされる。
好ましくは、相互に等しい座標を持つ連続する画像の画素が比較される。代替として、動きベクトルによって関連付けられる連続する画像の画素が比較される。それ故、「対応する(corresponding)」なる語は、必ずしも等しい座標を意味しない。
第1の評価ユニット302、第2の評価ユニット304、第3の評価ユニット306及び結合ユニット308は、1つのプロセッサを利用して実装されても良い。通常、これらの機能はソフトウェアプログラムの制御下で実行される。実行の間、通常前記ソフトウェアプログラムはRAMのようなメモリにロードされ、該メモリから実行される。前記プログラムは、ROM、ハードディスク又は磁気及び/又は光記憶装置のようなバックグラウンドメモリからロードされても良いし、又はインターネットのようなネットワークを介してロードされても良い。任意に、特定用途向け集積回路が、開示される機能を提供する。
図3Bは、本発明による重畳検出ユニット301の代替実施例を模式的に示す。重畳検出ユニット301の本実施例の入力及び出力は、図3Aと共に説明された重畳検出ユニット300の実施例の入力及び出力と等しい。重畳検出ユニット301の本実施例は、3つの連続する画像に基づき、画素がグラフィクスの重畳のそれぞれの部分を表すか否かを検出するように構成される。
重畳検出ユニット301は、
−例えば特定の画素P(1,n)の第1の値と、ビデオ画像の表示シーケンスの第2の画像の対応する画素P(1,n−1)の第2の値との間の第1の差D11が、第1の所定の閾値T1よりも小さいか、及び特定の画素P(1,n)の第1の値と、ビデオ画像の表示シーケンスの第3の画像の対応する画素P(1,n+1)の第1の値との間の第4の差D11pが、第1の所定の閾値T1よりも小さいか、といったような時間的安定性をテストする第1の評価ユニット302と、
−例えば特定の画素P(1,n)の第1の値と、第2の画素P(2,n)の第3の値との間の第3の差D12が、第3の所定の閾値T3よりも小さいか、及び特定の画素P(1,n)の第1の値と、第3の画素P(3,n)の第5の値との間の第5の差D13が、第3の所定の閾値T3よりも小さいか、といったような均一性をテストする第3の評価ユニット306と、
−評価ユニット302及び306の出力に基づいて、前記特定の画素がグラフィクスの重畳の一部を表すことを確認する結合ユニット308と、
を有する。
−例えば特定の画素P(1,n)の第1の値と、ビデオ画像の表示シーケンスの第2の画像の対応する画素P(1,n−1)の第2の値との間の第1の差D11が、第1の所定の閾値T1よりも小さいか、及び特定の画素P(1,n)の第1の値と、ビデオ画像の表示シーケンスの第3の画像の対応する画素P(1,n+1)の第1の値との間の第4の差D11pが、第1の所定の閾値T1よりも小さいか、といったような時間的安定性をテストする第1の評価ユニット302と、
−例えば特定の画素P(1,n)の第1の値と、第2の画素P(2,n)の第3の値との間の第3の差D12が、第3の所定の閾値T3よりも小さいか、及び特定の画素P(1,n)の第1の値と、第3の画素P(3,n)の第5の値との間の第5の差D13が、第3の所定の閾値T3よりも小さいか、といったような均一性をテストする第3の評価ユニット306と、
−評価ユニット302及び306の出力に基づいて、前記特定の画素がグラフィクスの重畳の一部を表すことを確認する結合ユニット308と、
を有する。
重畳検出ユニット301は任意に、動きベクトルを計算するための動き推定ユニット316を有する。代替として、動き推定ユニット316は、重畳検出ユニット301が属する機器の他の構成要素と共有される。動き推定ユニット316は、例えばG. de Haanらによる論文「True-Motion Estimation with 3-D Recursive Search Block Matching」(「IEEE Transactions on circuits and systems for video technology」、vol.3、no.5、1993年10月、368-379頁)において記載されている。
結合ユニット308は、動きに関する情報を受信するため、動き推定ユニット316に接続される。該情報は、以下に説明されるように結合ユニット308によって利用される。結合ユニット308はまた、中間結果の一時的な保存のためにメモリ装置310に接続される。
重畳検出ユニット301の動作は以下のとおりである。最初のステップは、静的テストであり、第1の評価ユニット302によって実行される。本ステップは、潜在的に静的な画素によって重畳検出ユニット301を初期化するためのものである。3つのビデオ画像の間静的であり、且つ動き推定ユニット316がゼロのベクトルを見出した全ての画素は、値1でラベル付けされる。より正確には、式2が、どの画素
が値1でラベル付けされるかを規定する。他の全ての画素は値0でラベル付けされる。静的であることについてのチェックは、式1において規定される関数
に基づく。
関数
は、時間経過に対して画素
の輝度値が安定に留まるか否か、即ち3つの連続する画像について略同一の値であるか否かを決定するため、第1の所定の閾値αに対してチェックする。
は画像nにおける画素
についての輝度である。
ここで
は画素
についての動きベクトルである。ゼロベクトルのチェックは任意であるが、チェックが無い場合には結果がかなり頑強でなくなることを実験が示している。ゼロベクトルのチェックのため、画像n−1、n又はn+1のベクトル場が利用されても良い。
次のステップは均一性テストに基づく縮小ステップであり、第3の評価ユニット306によって実行される。前記縮小ステップは、誤って検出された画素を除去する。値1でラベル付けされた全ての画素
について、接続された画素
の領域が、以下の条件で決定される。
−画素
はN*M画素の空間的な近隣内にある。典型的には、N*M=21*21画素である。
−
及び
の画素値は略相互に等しい。それ故、
である。本類似度は、輝度又は輝度と色差との両方を利用して算出されることができる。
−
は、上述の2つの条件に従う画素の経路によって
に接続される。本条件は、厳密に必須というわけではない。本条件を満たさない場合、本検出方法はより頑強でなくなるが、計算的にはかなりコストの掛からないものとなる。
これらの画素
の大多数について
が当てはまり、これらの画素の残りについて
が当てはまる場合、画素
は値1でラベル付けされたままである。そうでなければ、
は値0でラベル付けされる。
−画素
−
−
これらの画素
好ましくは、次の繰り返しとして増大ステップが前記画像に対して実行される。前記増大ステップは、静的な領域を、静的な領域に類似する画素に伸張する。値1でラベル付けされていない全ての画素pが考慮される。前記縮小ステップについて規定されたものと同様に、接続される画素
の領域は、以下の条件で決定される。
−画素
はN*M画素の空間的な近隣内にある。典型的には、N*M=21*21画素である。
−
及び
の画素値は略相互に等しい。それ故、
である。
−画素
−
図4は、本発明による画像処理機器400の実施例を模式的に示す。本機器は、
−ビデオ画像の表示シーケンスを表すビデオ信号を受信する受信ユニット402と、
−図3A及び3Bのいずれかと共に説明された重畳検出ユニット408と、
−前記ビデオ画像の表示シーケンスに基づいて、及び重畳検出ユニット408によって供給されたグラフィクスの重畳検出信号に基づいて、出力画像のシーケンスを算出する画像処理ユニット404と、
−前記画像処理ユニットによって供給された前記出力画像のシーケンスを表示する表示装置406と、
を有する。前記ビデオ信号は、アンテナ又はケーブルを介して受信される放送信号であっても良いが、VCR(Video Cassette Recorder)又はディジタル・バーサタイル・ディスク(DVD)のような記憶装置からの信号であっても良い。前記信号は入力コネクタ410において供給される。画像処理機器400は、例えばTVであっても良い。代替として、画像処理機器400は、任意の表示装置を有しないが、表示装置406を有する機器に前記出力画像を供給する。このとき画像処理機器400は、例えばセットトップボックス、衛星チューナ、VCRプレイヤ、DVDプレイヤ又はレコーダであっても良い。任意に、画像処理機器400は、ハードディスクのような記憶手段、又は例えば光ディスクのような着脱可能な媒体に記憶するための手段を有する。画像処理機器400は、映画スタジオ又は放送局によって利用されるシステムであっても良い。
−ビデオ画像の表示シーケンスを表すビデオ信号を受信する受信ユニット402と、
−図3A及び3Bのいずれかと共に説明された重畳検出ユニット408と、
−前記ビデオ画像の表示シーケンスに基づいて、及び重畳検出ユニット408によって供給されたグラフィクスの重畳検出信号に基づいて、出力画像のシーケンスを算出する画像処理ユニット404と、
−前記画像処理ユニットによって供給された前記出力画像のシーケンスを表示する表示装置406と、
を有する。前記ビデオ信号は、アンテナ又はケーブルを介して受信される放送信号であっても良いが、VCR(Video Cassette Recorder)又はディジタル・バーサタイル・ディスク(DVD)のような記憶装置からの信号であっても良い。前記信号は入力コネクタ410において供給される。画像処理機器400は、例えばTVであっても良い。代替として、画像処理機器400は、任意の表示装置を有しないが、表示装置406を有する機器に前記出力画像を供給する。このとき画像処理機器400は、例えばセットトップボックス、衛星チューナ、VCRプレイヤ、DVDプレイヤ又はレコーダであっても良い。任意に、画像処理機器400は、ハードディスクのような記憶手段、又は例えば光ディスクのような着脱可能な媒体に記憶するための手段を有する。画像処理機器400は、映画スタジオ又は放送局によって利用されるシステムであっても良い。
上述の実施例は、本発明を限定するものではなく説明するものであって、当業者は添付される請求の範囲から逸脱することなく代替の実施例を設計することが可能であろうことは留意されるべきである。請求項において、括弧に挟まれたいずれの参照記号も、請求の範囲を限定するものとして解釈されるべきではない。「有する(comprising)」なる語は、請求項に列挙されていない要素又はステップの存在を除外するものではない。要素に先行する「1つの(a又はan)」なる語は、複数のかような要素の存在を除外するものではない。本発明は、幾つかの別個の要素を有するハードウェアによって、及び適切にプログラムされたコンピュータによって実装されても良い。幾つかの手段を列記するユニット請求項において、これらの手段の幾つかは、同一のハードウェアのアイテムによって実施化されても良い。
Claims (11)
- ビデオ画像の表示シーケンスの第1の画像の特定の画素が、グラフィクスの重畳の一部を表すか否かを検出する重畳検出ユニットであって、前記グラフィクスの重畳の一部は、前記ビデオ画像の表示シーケンスを生成するためにビデオ画像の入力シーケンスとマージされ、前記重畳検出ユニットは、
前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素の第2の値との間の第1の差が、第1の所定の閾値よりも小さいか否かをテストする第1のテスト手段と、
前記特定の画素の空間的な近隣に位置する第2の画素の第3の値と、前記ビデオ画像の表示シーケンスの第2の画像の前記第2の画素に対応する第4の画素の第4の値との間の第2の差が、第2の所定の閾値よりも小さいか否かをテストする第2のテスト手段と、
前記特定の画素の第1の値と、前記第2の画素の第3の値との間の第3の差が、第3の所定の閾値よりも小さいか否かをテストする第3のテスト手段と、
前記第1の差が前記第1の所定の閾値よりも小さく、前記第2の差が前記第2の所定の閾値よりも小さく、前記第3の差が前記第3の所定の閾値よりも小さい場合に、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認する確認手段と、
を有する重畳検出ユニット。 - 第1の動きベクトルがゼロの動きベクトルに等しいと推定された画素の群に、前記特定の画素が属するか否かをテストする第4のテスト手段を更に有する、請求項1に記載の重畳検出ユニット。
- 前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第3の画像の対応する画素の第4の値との間の第4の差が、前記第1の所定の閾値よりも小さいか否かをテストするように構成された、請求項1に記載の重畳検出ユニット。
- 前記特定の画素の第1の値と、前記特定の画素の空間的な近隣に位置する第3の画素の第4の値との間の第5の差が、前記第3の所定の閾値よりも小さいか否かをテストするように構成された、請求項1に記載の重畳検出ユニット。
- 前記特定の画素、前記第2の画素及び前記第3の画素が、相互に接続された画素のセットを形成するか否かをテストするように構成された、請求項4に記載の重畳検出ユニット。
- 前記第2の画素が、前記グラフィクスの重畳の更なる部分を表すと確認された、請求項1に記載の重畳検出ユニット。
- ビデオ画像の表示シーケンスに対応する信号を受信する受信手段と、
前記ビデオ画像の表示シーケンスの第1の画像の特定の画素が、前記ビデオ画像の表示シーケンスを生成するためにビデオ画像の入力シーケンスとマージされたグラフィクスの重畳の一部を表すか否かを検出する重畳検出ユニットと、
前記ビデオ画像の表示シーケンスに基づいて、及び前記重畳検出ユニットによって供給されたグラフィクスの重畳検出信号に基づいて、出力画像のシーケンスを算出する画像処理ユニットと、
を有する画像処理機器。 - 前記画像処理ユニットは、時間的上方変換ユニットである、請求項7に記載の画像処理機器。
- 前記出力画像を表示する表示装置を更に有する、請求項7に記載の画像処理機器。
- ビデオ画像の表示シーケンスの第1の画像の特定の画素が、前記ビデオ画像の表示シーケンスを生成するためにビデオ画像の入力シーケンスとマージされたグラフィクスの重畳の一部を表すか否かを検出する方法であって、前記方法は、
前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素の第2の値との間の第1の差が、第1の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の空間的な近隣に位置する第2の画素の第3の値と、前記ビデオ画像の表示シーケンスの第2の画像の前記第2の画素に対応する第4の画素の第4の値との間の第2の差が、第2の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の第1の値と、前記第2の画素の第3の値との間の第3の差が、第3の所定の閾値よりも小さいか否かをテストするステップと、
前記第1の差が前記第1の所定の閾値よりも小さく、前記第2の差が前記第2の所定の閾値よりも小さく、前記第3の差が前記第3の所定の閾値よりも小さい場合に、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認するステップと、
を有する方法。 - ビデオ画像の表示シーケンスの第1の画像の特定の画素が、前記ビデオ画像の表示シーケンスを生成するためにビデオ画像の入力シーケンスとマージされたグラフィクスの重畳の一部を表すか否かを検出する命令を有する、コンピュータ装置によりロードされるコンピュータプログラムであって、前記コンピュータ装置は処理手段及びメモリを有し、前記コンピュータプログラムは、ロードされた後に、
前記特定の画素の第1の値と、前記ビデオ画像の表示シーケンスの第2の画像の対応する画素の第2の値との間の第1の差が、第1の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の空間的な近隣に位置する第2の画素の第3の値と、前記ビデオ画像の表示シーケンスの第2の画像の前記第2の画素に対応する第4の画素の第4の値との間の第2の差が、第2の所定の閾値よりも小さいか否かをテストするステップと、
前記特定の画素の第1の値と、前記第2の画素の第3の値との間の第3の差が、第3の所定の閾値よりも小さいか否かをテストするステップと、
前記第1の差が前記第1の所定の閾値よりも小さく、前記第2の差が前記第2の所定の閾値よりも小さく、前記第3の差が前記第3の所定の閾値よりも小さい場合に、前記特定の画素が前記グラフィクスの重畳の一部を表すことを確認するステップと、
を実行する機能を前記処理手段に備えさせるコンピュータプログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP03102457 | 2003-08-07 | ||
PCT/IB2004/051352 WO2005015496A1 (en) | 2003-08-07 | 2004-08-02 | Graphics overlay detection |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007502042A true JP2007502042A (ja) | 2007-02-01 |
Family
ID=34130285
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006522476A Withdrawn JP2007502042A (ja) | 2003-08-07 | 2004-08-02 | グラフィクス重畳検出 |
Country Status (8)
Country | Link |
---|---|
US (1) | US20070064014A1 (ja) |
EP (1) | EP1654703B1 (ja) |
JP (1) | JP2007502042A (ja) |
KR (1) | KR20060063937A (ja) |
CN (1) | CN1833256A (ja) |
AT (1) | ATE365354T1 (ja) |
DE (1) | DE602004007144D1 (ja) |
WO (1) | WO2005015496A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2447684B (en) * | 2007-03-21 | 2011-11-23 | Statoil Asa | Biogasoline |
CN102404495B (zh) * | 2010-09-10 | 2014-03-12 | 华晶科技股份有限公司 | 数字相机的拍摄参数的调整方法 |
US9373039B2 (en) * | 2011-04-18 | 2016-06-21 | Supponor Oy | Detection of graphics added to a video signal |
US8878999B2 (en) | 2011-04-18 | 2014-11-04 | Supponor Oy | Detection of graphics added to a video signal |
US9609319B2 (en) * | 2012-07-06 | 2017-03-28 | Intel Corporation | Detection, location, and processing of static pixels |
GB2511792B (en) * | 2013-03-13 | 2015-11-18 | Supponor Oy | Method and Apparatus for Dynamic Image Content Manipulation |
KR20170052364A (ko) | 2015-11-04 | 2017-05-12 | 삼성전자주식회사 | 디스플레이장치 및 그 제어방법 |
DE102018220236A1 (de) * | 2018-11-26 | 2020-05-28 | Heidelberger Druckmaschinen Ag | Schnelle Bildentzerrung für Bildinspektion |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5657402A (en) * | 1991-11-01 | 1997-08-12 | Massachusetts Institute Of Technology | Method of creating a high resolution still image using a plurality of images and apparatus for practice of the method |
US6075905A (en) * | 1996-07-17 | 2000-06-13 | Sarnoff Corporation | Method and apparatus for mosaic image construction |
US7184100B1 (en) * | 1999-03-24 | 2007-02-27 | Mate - Media Access Technologies Ltd. | Method of selecting key-frames from a video sequence |
US6970591B1 (en) * | 1999-11-25 | 2005-11-29 | Canon Kabushiki Kaisha | Image processing apparatus |
US7084877B1 (en) * | 2000-06-06 | 2006-08-01 | General Instrument Corporation | Global motion estimation for sprite generation |
US6738099B2 (en) * | 2001-02-16 | 2004-05-18 | Tektronix, Inc. | Robust camera motion estimation for video sequences |
US7113185B2 (en) * | 2002-11-14 | 2006-09-26 | Microsoft Corporation | System and method for automatically learning flexible sprites in video layers |
-
2004
- 2004-08-02 KR KR1020067002673A patent/KR20060063937A/ko not_active Application Discontinuation
- 2004-08-02 CN CNA2004800225974A patent/CN1833256A/zh active Pending
- 2004-08-02 DE DE602004007144T patent/DE602004007144D1/de active Active
- 2004-08-02 WO PCT/IB2004/051352 patent/WO2005015496A1/en active IP Right Grant
- 2004-08-02 US US10/567,039 patent/US20070064014A1/en not_active Abandoned
- 2004-08-02 JP JP2006522476A patent/JP2007502042A/ja not_active Withdrawn
- 2004-08-02 EP EP04744704A patent/EP1654703B1/en not_active Not-in-force
- 2004-08-02 AT AT04744704T patent/ATE365354T1/de not_active IP Right Cessation
Also Published As
Publication number | Publication date |
---|---|
EP1654703A1 (en) | 2006-05-10 |
US20070064014A1 (en) | 2007-03-22 |
WO2005015496A1 (en) | 2005-02-17 |
EP1654703B1 (en) | 2007-06-20 |
CN1833256A (zh) | 2006-09-13 |
KR20060063937A (ko) | 2006-06-12 |
ATE365354T1 (de) | 2007-07-15 |
DE602004007144D1 (de) | 2007-08-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101135454B1 (ko) | 특정 이미지의 특정 픽셀 값 결정 방법, 픽셀 값 결정 유닛, 이미지 처리 장치 및 컴퓨터 판독 가능한 저장 매체 | |
US7519230B2 (en) | Background motion vector detection | |
US20100328529A1 (en) | Still subtitle detection apparatus, visual display equipment, and image processing method | |
JP2011087325A (ja) | ビデオデータのデインターレーシング | |
EP1665806A1 (en) | Motion vector field re-timing | |
US7382899B2 (en) | System and method for segmenting | |
KR20050012766A (ko) | 현재 모션 벡터 추정을 위한 유닛 및 모션 벡터 추정 방법 | |
US20050226462A1 (en) | Unit for and method of estimating a motion vector | |
JP2005505841A (ja) | 動き推定のための装置及び方法 | |
JP2009533887A (ja) | 動きベクトル場修正装置及び方法 | |
KR100976718B1 (ko) | 필드 레이트 업변환을 위한 방법 및 장치 | |
JP2007502042A (ja) | グラフィクス重畳検出 | |
EP2063636B1 (en) | Video processing device and video processing method | |
US8102915B2 (en) | Motion vector fields refinement to track small fast moving objects | |
US20060181643A1 (en) | Spatial image conversion | |
US8451900B2 (en) | System and method for global motion estimation using profile matching | |
JP2009182935A (ja) | 画像処理装置および方法、プログラム、並びに記録媒体 | |
CN115035151A (zh) | 梳状失真的检测方法、装置、计算机设备及存储介质 | |
WO2004073313A1 (en) | Spatio-temporal up-conversion | |
JP2000209612A (ja) | 画像情報変換装置、変換方法および表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20071002 |