JP2005287049A - ベクトルに基づく、画像境界における動き補償方法およびその装置 - Google Patents
ベクトルに基づく、画像境界における動き補償方法およびその装置 Download PDFInfo
- Publication number
- JP2005287049A JP2005287049A JP2005096242A JP2005096242A JP2005287049A JP 2005287049 A JP2005287049 A JP 2005287049A JP 2005096242 A JP2005096242 A JP 2005096242A JP 2005096242 A JP2005096242 A JP 2005096242A JP 2005287049 A JP2005287049 A JP 2005287049A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image data
- referenced
- motion compensation
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 37
- 239000013598 vector Substances 0.000 title claims description 113
- 238000004364 calculation method Methods 0.000 claims description 30
- 230000002123 temporal effect Effects 0.000 claims description 8
- 238000012935 Averaging Methods 0.000 claims description 4
- 239000000284 extract Substances 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 3
- 238000012790 confirmation Methods 0.000 abstract description 2
- KDYFGRWQOYBRFD-UHFFFAOYSA-N succinic acid Chemical compound OC(=O)CCC(O)=O KDYFGRWQOYBRFD-UHFFFAOYSA-N 0.000 description 20
- 238000001514 detection method Methods 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 5
- 230000003628 erosive effect Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 1
- 150000002500 ions Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
- H04N7/014—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0117—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
- H04N7/0122—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal the input and the output signals having different aspect ratios
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10—TECHNICAL SUBJECTS COVERED BY FORMER USPC
- Y10S—TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10S348/00—Television
- Y10S348/913—Letterbox, e.g. display 16:9 aspect ratio image on 4:3 screen
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Television Systems (AREA)
- Image Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【解決手段】 ボックスタイプの画像において、画像境界の近傍における補間による効果を避けるために、動き補償された画像データが補間の目的に使用できるか否かを判定するために各動き補償された画像データに位置確認が行われる。参照される画像における動き補償された画像データの位置が、所定の境界線と比較されて、容認出来ない画像データ位置が検出されて、そのような画像データに基づく補間が防止される。
【選択図】 図4
Description
たデータに基づき、新たな画像データを生成する方法、および対応する動き補償回路に関
する。
具体的に言えば、現代のテレビジョン受信機は、再生画像の画質向上のために、動き補償
後アップコンバートによるフレームレート変換を行う。動き補償後アップコンバータは、
例えば、フィールドあるいはフレームレートが60Hz、66.67Hz、75Hz、お
よび100Hz等の50Hz以上であるビデオシーケンスに対して、適用される。
の入力信号周波数が適用される。一方、NTSC規格に基づくビデオ信号は60Hzのフ
ィールドレートを有している。60Hzの入力ビデオ信号は72Hz、80Hz、90H
z、および120Hz等の高周波数にアップコンバートされる。
ンスのそれとは異なる時間位置に在るビデオコンテンツを反映した中間画像の生成を要求
する。入力画像の画像データの補間中に、オブジェクトの動きに起因する画像コンテンツ
の変化を近似的に反映するために移動しているオブジェクトの動きが考慮されねばならな
い。
画像に基づいて決定される。一般に、動き補償された画像において、ブロック構造が見え
るのを防止するために、ブロック単位で動き検出された動きベクトルは、好ましくは動き
ベクトルのフィールドがフィルタを受ける個々のピクセルに対して割り当てられる。具体的には、各画像ブロックは、入力画像を基準として検出された動きベクトルを受け取る。
ック・エロージョン・ユニットによってフィルタされる。このフィルタは、マルチ・ステ
ップ処理において、各ブロックを多数のサブ・ブロックに分割して、分割されたサブ・ブ
ロックのそれぞれに動きベクトルを割り当てる。ブロック・エロージョンの最後ステップ
の後に、個々の動きベクトルが、補間される画像中の各ピクセルに割り当てられる。
きは均一であるとの仮定に従って、正確なピクセル位置に対するベクトル割り当ては不要
である。さもなければ、出力画像の時間位置に関して、動きベクトルの開始位置をランデ
ィングポイント側に移動させる必要がある。
ータが動き補償によって移動される。参照される画像の画像データの移動量は、受領した
動きベクトル長に依存し、さらに先行画像および後続画像の間で生成される新たな画像の
相対的な時間位置に依存する。
くは、動きアルゴリズムは先行画像および後続画像中の画像データを参照する。先行画像
から生成された画像データは動きベクトル方向に前進させられ、後続画像から生成された
画像データは後退させられる。
される。前進は、算出された動きベクトル長の一部に従って実行される。一方、後退は、
動きベクトルの負の補数(complementary negative fract
ion)に基づいて実行される。各ピクセル位置での参照ピクセル値は補間される。新た
に生成される画像に関して時間位置に基づいて、参照画像の画像データに重み付けを行う
ことによって、補間できる。
によって得られる画質は劣化する。このような非アクティブ画像領域は、アクティブ画像
領域の画像フォーマットを表示装置の表示フォーマットに適用するのに採用できる。特に、レターボックスタイプの画像では、従来の表示フォーマットあるいはワイドスクリーン画像を表示する、あるいはその逆の用途において、画像のトップおよびボトムあるいは、同画像の左右の何れかにブラックバーが用いられる。
クトルが損失することがある。結果的に、オブジェクトの真の動きを参照することなく、
連続する2つ画像から得られる画像データの重み付けにのみ基づいて補間を行うことがで
きる。
連続画像の1つに存在している場合のように、オブジェクトが画像に進入する、あるいは
画像から脱出する時に、このような問題が生じる。このような動きは、従来の動き検出ア
ルゴリズムによっては検出できない。
しては、ブロックの行あるいは列の内での優勢な動きを反映する行ベクトルや列ベクトル
を適用するものがある。画像境界を横切って、ついには他の画像において相対物を有しな
くなる移動オブジェクトの一部を含む画像ブロックの動きベクトルは、ブロックの行ある
いは列のそれぞれの動きベクトルに基づいて決定できる。
クティブ画像領域の外部から得られる画像データの補間に帰結する。従って、不適当な画
像データが補間プロセスに導入されてしまう。補間により、アクティブ画像領域の画像デ
ータは、不均一な黒画像データによって補間されて画質が損なわれる。
ルによって、このような画質劣化が引き起こされる。補間された画像データがレターボッ
クス領域に由来する黒ドットを含むように、レターボックス領域から取得されるピクセル
はアクティブ画像領域から得られるピクセルと組み合わされる。本発明は、上述の従来の
技術における問題の解消を図るものである。動き補償に基づく画像データ生成の改良され
た方法および動き補償回路を提供することを本発明の目的とする。
から取得される動き補償に基づいて画像データを生成する方法が提供されている。生成さ
れる画像の現在の画像位置に対する動きベクトルを受領した後に、動きベクトルに基づい
て、参照される他の画像から画像データが得られる。さらに、動きベクトルに基づいて参
照される前記画像データが、容認されない画像位置に在るか否かが決定される。前記参照
画像データが非容認画像位置に在れば、参照画像データに基づく新たな画像データの生成
は禁じられる。
画像における他の画像のビデオデータから画像データを生成する。動き補償回路は、生成
される画像における現位置に関する動きベクトルを受領して、当該動きベクトルに基づい
て他の被参照画像から画像データを抽出することに用いられる。動き補償回路は、動きベ
クトルに基づいて、被参照画像データが容認画像位置に在るか否かを決定する出力計算回
路を備えている。出力計算回路は、被参照画像データが非容認画像位置に在る場合には、
非参照画像データに基づく、新たな画像データの生成を禁じる。
れないように、効果的に排除されるので、容認画像領域の境界に近接する画像の品質が維
持される。
に関する。近年のテレビジョン受信機は、再生画像の品質を向上させるために、アップコ
ンバージョンアルゴリズムを採用している。この目的のために、連続する2つの画像から
中間画像が生成される。中間画像の生成には、新たな画像内に在るオブジェクトの位置を
中間画像に反映される時間位置に適合させるために、移動中のオブジェクトの動きが考慮
されねばならない。
される中間画像は、図2に例示するように、複数のブロックに分割される。現ブロックの
それぞれは、先行画像および後続画像から取得される動き補償に基づいて個々に生成され
る。動き補償において視認できるブロック構造の発生を避けるために、これらのブロック
はブロック・エロージョン・ユニットによりフィルタされる。フィルタは、マルチ・ステ
ップ・プロセスにおいて、各ブロックを多数の小さなサブ・ブロックに分割し、分割され
たサブ・ブロックのそれぞれに動きベクトルを割り当てる。ブロック・エロージョンの最
終ステップの後に、個々の動きベクトルが各ピクセルに割り当てられる。
生成する時には、従来の補間アルゴリズムでは、表示フォーマットのトップおよびボトム
に配されたアクティブ画像領域10、ブラックバー20、およびブラックバー30との間
の境界線を監視していない。生成される現ブロックに割り当てられる動きベクトルは、完
全なブラック画像データを参照しているレターボックス領域20および30に向けられて
いる。同様にして、レターボックス領域20および30の内部からアクティブ画像領域1
0を指し示す。このような動きベクトルは、アクティブ画像領域10にブラックドットあ
るいは、レターボックス領域20および30にブライトドットとして、ピクセルを補間プ
ロセスに導入する。
た動きベクトルは、先行画像から取得される画像データのブロックを移動させるために正
の小数に分割され、後続の画像から取得される画像データのブロックを後方に移動される
ために負の小数に分割される。両被参照画像ブロックから取得されるピクセルデータは補
間されて、先行画像および後続画像から取得される付加的平均ピクセル値と共に処理され
て、被補間画像の画像データのブロックが生成される。
慮されることを防止することによって、レターボックス領域からアクティブ画像領域へ、
あるいはその逆方向に導入される画像データの画像品質劣化を防止する。同様に、アクテ
ィブ画像領域から取得される画像データは、レターボックス領域での補間目的には採用さ
れない。これは、アクティブ画像領域10とレターボックス領域20および30を考慮す
ることによって達成される。境界線は、図1に示すレターボックスタイプの画像の先頭ア
クティブ行FALおよび最終アクティブ行LALとしてマークされる。
示している。アクティブ画像領域におけるピクセル位置Aに対する画像データは、後続フ
ィールド120のアクティブ画像領域10における他のピクセル位置Psuccを参照する。
反対に、先行フィールド110において、動きベクトルはレターボックス領域30におけ
るピクセル位置Pprevを参照する。先行フィールドを参照する動きベクトルは、最終アク
ティブ行LAL、つまりアクティブ画像領域10およびレターボックス領域30との間の
境界を横切る。
成する。このような補間プロセスは、先行フィールドから新たに生成される画像のアクテ
ィブ画像領域へのピクセルPprevより導入されるブラック部分を生じる。このような、画
質劣化を防止するために、本発明では、境界線を横切ってレターボックス領域に渡って補
間を禁じる。失われるデータは、好ましくは、他のフィールド、つまりピクセル位置Psu
ccを参照して取得されるデータによって代替される。
線を横切っているか否かを検出するために、次式(1)および(2)に従って、二値信号
LB_INが算出される。なお、式(1)はアクティブ画像領域10およびボトムレター
ボックス領域30との間の境界線に適用され、式(2)はアクティブ画像領域10および
トップレターボックス領域20との間の境界線に提供される。
ら取得される画像データは、時間的に画像110および120の間に位置する中間画像の
新たな画像データの生成に当たって考慮される。位置PprevおよびPsuccにおける両被参照画像データは、出力計算回路140に供給される。さらに、出力計算回路140は、被参照画像データ位置に関する二値信号LB_IN、つまり二値信号LB_INprev、および二値信号LB_INsuccを受領する。受領した二値信号LB_INに基づいて、出力計算回路140は、中間画像の新たな画像データの生成に考慮される被参照画像データを決定する。
アクティブ画像領域10およびボトムレターボックス領域30との間の境界線を横切る。
これらの画像データは、生成される画像の高画質を維持するために、補間には考慮されな
い。レターボックスピクセル位置を指し示す1の値を有する二値信号LB_INprevが示
すように、補間中はレターボックス画像データは考慮されない。一方、出力計算回路は、
アクティ具画像領域ピクセル位置を指し示す後続フィールド120の画像データに関連づ
けられた、0の値を受領する。従って、これらの画像データは、補間中に考慮される。
PprevおよびPsuccに加えて、さらに平均化画像データPaverageを考慮する。これらの3つの異なる画像データは、出力フィルタ230に供給される。好ましい実施の形態においては、出力フィルタは、3タップメディアン(median)を備える。動きベクトルが信頼できる場合は、先行画像および後続画像における同一の移動オブジェクトから取得される被参照画像データPprevおよびPsuccは、おおよそ同一のピクセル値を有する。
。動きベクトルが誤っているか信頼できない場合には、平均化画像データPaverageが代替手段として用いられる。この場合、3つの中央値入力はかなり異なる、そして、平均化画像データPaverage は大抵中央値出力を構成する。誤った画像成分の代わりに、無視できる動きblurが生成される。図5に、出力計算回路140の構成例が示されている。
される被参照画像データと後続フィールドPsuccから取得される被参照画像データとを組
み合わせる。一方、マルチプレクサ210および220のそれぞれによって、被補償画像
データPprevおよびPsuccの相応しい方が選択される。マルチプレクサ210および220は、それぞれ、1つの二値信号LB_INによって制御される。
している。二値信号LB_INの状態に応じて、マルチプレクサ210および220は、
動き補償された画像データPprevおよびPsuccを選択するか、それぞれ対応する代替データを選択する。代替データとは、動き補償データが非容認画像領域を参照している場合には、他の非参照画像から取得される動き補償データである。
適用する。出力フィルタ230は、受領した動き補償された画像データと平均化ピクセル
データPaverageに基づいて、新たな画像データを生成する。出力フィルタ230での3つの入力データの内2つの代替データが同一である場合に出力される。
は図2に示す、つまり各画像内の所定のブロックベースあるいはピクセルベースの形態に
基づく例を含む。また、ブロックベースおよびピクセルベースの両形態は組み合わされて
、動き補償された画像データに基づくブロックベースからピクセルベースで、補間に使用
される個々の画像データが選択される。
ブラックバーを有するレターボックスタイプの画像について説明している。しかしながら
、本発明は、左右の境界にブラックバーを有する画像や、画像境界にブラックバーを有し
ない標準の画像に適用しても同様の効果を奏する。
、画像境界に近接する画像データに割り当てられる動きベクトルを有する。この動きベク
トルは、従来のベストマッチ動き検出アルゴリズムに取って代わっって、本発明による改
良された動き検出アルゴリズムに基づいて算出されている。
トルの検出の改良について、以下に述べる。通常、動き検出は、図2に示すように、ブロ
ックラスターに対して実施される。ビデオシーケンスのビデオ画像のそれぞれは、動きベ
クトル検出のために、均一なサイズのブロックに分割される。通常、各ブロックは、8×
8ピクセルの正方形状である。なお、例えば、4×4ピクセルあるいは16×16ピクセ
ルなど、8×8ピクセル以外のサイズのブロックや、縦横が異なる矩形状のブロックであ
っても、当業者であれば動き検出できる。
。しかしながら、ベストマッチアプローチでは、画像境界において、特に先行画像に対応
するブロックが存在しない場合に支障を来す。そのような状況下では、従来のアルゴリズ
ムに基づく動きベクトル検出は、画像境界の近傍に位置する現ブロックに割り当てられる
完全な行あるいは列の優勢な動きを割り当てる行動きベクトルあるいは列動きベクトルに
よって代替される。
ちに、行ベクトルおよび列ベクトルのそれぞれの算出が開始される。算出された行ベクト
ルおよび列ベクトルは、次のフィールドあるいはフレームでの動き検出において使用され
るために供給される。
ベクトルは、所定の閾値Vthrと比較される。比較結果は、各ブロックに割り当てられる二値のvecthrフラグに反映される。このフラグは、次式(3)に基づいて、算出される。
動きベクトルが、所定の閾値Vthrを超えないように、ゼロ(0、0)に設定されるように編集される。この編集は、次式(4)で表現される。
た)ベクトルの平均値が算出される。しかしながら、当業者であれば、行動きベクトルあ
るいは列動きベクトルの個々に共通の動きベクトルを表す動きベクトルを決定する他のア
ルゴリズムを適用できる。
出される。行あるいは列に関して閾値Vthrを超えるブロックの数が、他の所定の閾値nthrlineおよびnthrcolumn場合は、動きベクトルが算出される。
×8ピクセルに対して好ましい値が、採用されている。
いるとの前提に基づいているが、2行あるいは2列の組み合わせに対して、共通の動きベ
クトルを追加的あるは代替として算出してもよい。2行あるいは2列の動きベクトルは、
さらに2行あるいは2列内で優勢的な動きを代表するオブジェクトを動き精度を向上でき
る。
を50Hzから100Hzにするアップコンバートにおいて、2つの連続する画像の間で
の時間的中間位置で中間画像が生成される。現ピクセル位置は、以下に示す如く想定され
る。
X_OUT = 100 and Y_OUT = 245.
および水平成分を有する。
V = 20 and H = 10.
さらに、レターボックスタイプの画像における最終アクティブ行LALは250と想定さ
れる。
きベクトルは、2つの非参照入力画像と比較され、生成される出力画像の時間的関係に従
って分割される。例示された中間画像は、両入力画像の正に中間に位置しているので、先
行画像および後続画像から取得される動き補償に関して算出されるそれぞれの動きベクト
ルは、以下に示すように1/2の重みを与えることによって決定される。
V_PREV = -1/2 * V = -1/2 * 20 = -10;
H_PREV = -1/2 * H = -1/2 * 10 = -5;
V_SUCC = +1/2 * V = +1/2 * 20 = +10;
H_SUCC = +1/2 * H = +1/2 * 10 = +5;
く算出される。
P_PREV: X_VEC_PREV = X_OUT + H_PREV = 100 + (-5) = 95
Y_VEC_PREV = Y_OUT + V_PREV = 245 + (-10) = 235
P_SUCC: X_VEC_SUCC = X_OUT + H_SUCC = 100 + 5 = 105
Y_VEC_SUCC = Y_OUT + V_SUCC = 245 + 10 = 255
従って、ピクセル位置Pprev(95;235)およびPsucc(105;255)のピクセ
ルは、現中間画像における新ピクセルの生成のために画像データを提供するために参照さ
れる。
30の内部に収まるか否かが判断される。この目的のために、被参照ピクセル位置の垂直
成分が所定の境界線であるアクティブ画像領域10の最終アクティブ行LALと比較され
る。
かる。このピクセルを正しく補間するために、現ピクセル位置がアクティブ画像領域10
の一部であるか否か、レターボックス領域20および30の一部であるか否かが判断され
ねばならない。
現ピクセルおよび先行画像において参照されるピクセルの位置が、アクティブ画像領域の
内部であるので、被参照ピクセルは補間プロセスに使用できる。結果、二値信号LB_I
Nがゼロ(被参照ピクセル位置がアクティブ画像領域の内部であることを示す)に設定さ
れる。
て適用される。
Y_VEC_SUCC = 255 > LAL = 250
Y_OUT = 245 < LAL = 250
領域内に或るレターボックス領域の画像データを参照する。結果、二値信号LB_INは
1、つまり補間禁止に設定される。二値信号LB_INが1に設定されるので、出力計算
回路140は被参照ピクセル値に基づく補間を禁止すると共に、これらの画像データを他
の被参照ピクセルPprevで代替する。
距離に位置している。結果、動きベクトル算出および補間は、1/2の重みを採用する。
被参照画像に関する、中間画像の時間的位置に応じて、例えば1/3*Pprevや2/3*
Psuccという他の重みを採用してもよい。
イプの画像において、画像境界近傍における補間による影響を防止するために、各動き補
償画像データは、動き補償された画像データが補間プロセスに使用できるか否かを決定す
るために位置確認がされる。被参照画像における被動き補償画像データの位置を、所定の
境界と比較することによって、非容認画像データ位置が検出されて、画像データに基づく
補間が防止される。
本発明における顕著な手法である。被参照画像データの位置は、所定の容認画像領域位置
と比較される。この方法においては、被容認画像領域が補間アルゴリズムにおいて使用さ
れないように、効果的に排除される。容認画像領域外に或るブロックが参照している動き
ベクトルを検出次第、そのような画像データの使用は禁じられて、容認画像領域の境界に
近接する画像の品質が維持される。
定の境界と比較される。このように、被参照画像データは、境界線と比較されて、所定の
境界をはみ出し次第、被参照画像データの使用が防止される。
は、非容認画像領域とは、ビデオシーケンスの画像フォーマットを表示フォーマットに適
用するために挿入されているこれらの画像の部分に関する。レターボックスタイプの画像
にとって、これらの非容認画像領域は、表示フォーマットのトップおよびボトムに挿入さ
れるブラックバーである。そのようなレターボックスタイプフォーマットは容易に検出さ
れて、境界が自動的に然るべく設定される。
使用のために他の画像データで代替される。このようにして、エラーが隠蔽されて、補間
プロセスが維持される。
得される画像データである。このようにして、被参照画像位置を訂正するだけで、被参照
画像データの時間的近似が維持される。
る。この目的のために、異なる画像を参照する動きベクトルが受領され、同動きベクトル
から2つの動きベクトルが算出される。新たな画像データの生成のために、算出された動
きベクトルによって参照されるこれらの画像データが取得されると共に補間される。2つ
の他の被参照画像の画像データに基づいて、現ブロックの画像データを予測することによ
って、被予測画像データの画質は十分に改良される。特に、移動しているオブジェクトの
動きの流れが、連続性が改良されて表示される。
照する。このようにして、後続する画像間で生じる画像コンテンツの変化が考慮される。
一方、2つの算出された動きベクトルは、2つの異なる先行画像を参照する。このように
して、移動しているオブジェクトの変化の原因が適正に考慮される。
画像の時間的位置に従って算出される。このようにして、新たな画像が生成される範囲内
にある移動中のオブジェクトの位置が適切に設定される。
させることによって、原画像データは適宜補間される。このようにして、現画像から取得
される画像データの割合は、新たに生成される画像の時間的位置に対する時間的近似度に
応じて設定される。
される。
像データと共に中央値フィルタが掛けられて、被補間画像が生成される。このようにして
、重みづけられ補間された画像データに誤った動きベクトルに起因して生じうるエラーの
発生が隠蔽される。
動きベクトルで参照される画像データによって代替される。このようにして、エラーが簡
単に高品質画像によって隠蔽できる。
20、30 レターボックス領域
110 先行フィールド
120 後続フィールド
130 ピクセル平均化ユニット
140 出力計算回路
210、220 マルチプレクサ
230 出力フィルタ
Claims (37)
- 連続するビデオ画像中の他の画像のビデオデータから得られる動き補償に基づく画像データ生成方法であって、
生成される画像の現画像位置を受領するステップと、
動きベクトルに基づいて、参照される他の画像から画像データを取得するステップと、
前記動きベクトルに基づいて、参照される前記画像データが容認画像位置に在るか否かを決定する決定ステップとを備え、
参照画像データが非容認位置にある場合には、当該参照画像データに基づく新たな画像データの生成が禁じられることを特徴とする画像データ生成方法。 - 前記決定ステップは参照される画像データ位置を、容認画像領域の所定の境界と比較する、請求項1に記載の画像データ生成方法。
- 前記決定ステップは、さらに、現画像データの位置を前記容認画像領域の所定の境界と比較する、請求項2に記載の画像データ生成方法。
- 前記容認画像領域は、ビデオ画像のアクティブ画像領域である、請求項2あるいは3に記載の画像データ生成方法。
- 前記非容認画像領域は、表示フォーマットに応じて採用される画像フォーマットのために挿入される画像位置を含む、請求項4に記載の画像データ生成方法。
- 前記画像はレターボックスタイプの画像であり、前記非容認画像領域は表示フォーマットのトップあるいはボトムに設けられたブラックバーである、請求項2乃至5の何れかに記載の画像データ生成方法。
- さらに、非容認画像データを代替画像データで代替するステップを備える、請求項1乃至6の何れかに記載の画像データ生成方法。
- 前記代替画像は、容認位置での被参照画像から取得される、請求項7に記載の画像データ生成方法。
- さらに、前記受領した動きベクトルから、それぞれ異なる画像を参照する2つの動きベクトルを算出するステップと、
算出された動きベクトルに基づいて、前記被参照画像の画像データを取得するステップと、
両動きベクトルによって参照されて取得された画像データを補間するステップとをさらに備える、請求項1乃至8の何れかに記載の補間方法。 - 前記2つの動きベクトルは、前記画像シーケンスにおける現画像に隣接する2つの画像を参照する、請求項9に記載の補間方法。
- 前記2つの動きベクトルは、前記画像シーケンスにおいて現画像に先行する異なる画像を参照する請求項9に記載の補間方法。
- 前記算出ステップは、両方の被参照画像に関して、現画像の時間的位置に従って、両動きベクトル長を算出する、請求項9乃至11の何れかに記載の補間方法。
- 被参照画像から得られる被容認画像データを他の被参照画像から得られる代替画像データで代替するステップをさらに備える、請求項9乃至12の何れかに記載の補間方法。
- 前記代替画像データは、他の画像において参照される前記画像データである、請求項13に記載の補間方法。
- 前記補間ステップは、さらに、現位置に対応する被参照画像における位置から画像データを受領する、請求項9乃至14の何れかに記載の補間方法。
- 前記決定ステップは、被参照画像データの容認度を表す信号を生成する、請求項1乃至15の何れかに記載の補間方法。
- 前記禁止ステップは、決定ステップによって生成される信号に基づく新画像データの生成に、被参照画像データを考慮する、請求項16に記載の補間方法。
- 前記新画像データはピクセルベースで生成される、請求項1乃至17の何れかに記載の補間方法。
- 前記新画像データはブロックベースで生成される、請求項1乃至18の何れかに記載の補間方法。
- ビデオ画像のシーケンスにおいて、他の画像のビデオデータから取得される動き補償に基づいて画像データを生成する動き補償回路であって、動き補償回路は、生成される画像における現位置に対する動きベクトルを受領して、受領した動きベクトルに基づいて他の被参照画像から画像データを抽出し、
出力計算回路は、
前記動きベクトルに基づいて、被参照画像データが容認画像位置にあるか否かを決定し、
前記被参照画像データが非容認画像位置にある場合には、当該被参照画像データに基づく新画像データの生成を禁止することを特徴とする動き補償回路。 - 前記出力計算回路は被参照画像データ位置を容認画像領域の所定の境界と比較する比較回路を含む、請求項20に記載の動き補償回路。
- 前記出力計算回路は現画像データ位置を、前記容認画像領域の所定の境界と比較する比較回路を含む、請求項21に記載の動き補償回路。
- 前記容認画像領域はビデオ画像のアクティブ画像領域である、請求項21あるいは22に記載の動き補償回路。
- 前記容認画像領域は、表示フォーマットに画像フォーマットを適用させるために挿入される画像部分を含む、請求項23に記載の動き補償回路。
- 画像はレターボックスタイプであり、前記非容認画像領域は表示される画像領域のトップおよびボトムに配されるブラックバーである、請求項20乃至24の何れかに記載の動き補償回路。
- 前記出力計算回路は、代替画像データによって、前記被参照ブロックの非容認画像データを代替する、請求項20乃至25の何れかに記載の動き補償回路。
- 前記出力計算回路は、容認位置にある被参照画像から取得される代替画像データを受領する、請求項26に記載の動き補償回路。
- 前記出力計算回路は、前記受領した異なる画像を参照する動きベクトルから2つの動きベクトルを算出し、当該算出された動きベクトルに従って画像データを抽出し、そして両動きベクトルによって参照される抽出された画像データを補間する、請求項20乃至27の何れかに記載の動き補償回路。
- 前記2つの動きベクトルは、前記画像シーケンスにおける現画像に隣接する2つの画像を参照する、請求項28に記載の動き補償回路。
- 前記2つの動きベクトルは、前記画像シーケンスにおける現画像に先行する異なる画像を参照する、請求項28に記載の動き補償回路。
- 前記出力計算回路は、両被参照画像に関して、現画像の時間位置に従い両動きベクトル長を算出する、請求項28乃至30の何れかに記載の動き補償回路。
- 前記出力計算回路は、被参照画像から取得される非容認画像データを、他の被参照画像から取得される代替画像データで代替する、請求項28乃至31の何れかに記載の動き補償回路。
- 前記代替画像データは、他の画像において参照される画像データである、請求項32に記載の動き補償回路。
- これらの画像を、被参照画像に現画像の時間位置に従って重み付けすると共に、前記平均化データを前記出力計算回路に送出することによって、現位置に対応する被参照画像の位置から平均化画像データを生成するピクセル平均化ユニットをさらに備える、請求項28乃至33の何れかに記載の動き補償回路。
- 前記出力計算回路は、前記受領した平均化画像データを新たな画像データの補間に含める請求項34に記載の動き補償回路。
- 前記出力計算回路はさらに、被参照画像データの容認度を示す信号を受領する請求項20乃至35の何れかに記載の動き補償回路。
- 前記出力計算回路は、受領した信号に基づいて、新たな画像データの生成に用いる被参照画像データを選択する請求項36に記載の動き補償回路。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP04007697A EP1583364A1 (en) | 2004-03-30 | 2004-03-30 | Motion compensated interpolation of images at image borders for frame rate conversion |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005287049A true JP2005287049A (ja) | 2005-10-13 |
Family
ID=34878206
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005096242A Pending JP2005287049A (ja) | 2004-03-30 | 2005-03-29 | ベクトルに基づく、画像境界における動き補償方法およびその装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US7440033B2 (ja) |
EP (1) | EP1583364A1 (ja) |
JP (1) | JP2005287049A (ja) |
KR (1) | KR20060045005A (ja) |
CN (1) | CN100502464C (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008236098A (ja) * | 2007-03-19 | 2008-10-02 | Hitachi Ltd | 映像処理装置及び映像表示装置 |
JP2009038620A (ja) * | 2007-08-02 | 2009-02-19 | Sony Corp | 画像処理装置および方法、並びにプログラム |
JP2009303162A (ja) * | 2008-06-17 | 2009-12-24 | Sharp Corp | 画像補間装置、画像補間方法、テレビジョン受像装置、映像再生装置、制御プログラム、および、コンピュータ読み取り可能な記録媒体 |
JP2011035612A (ja) * | 2009-07-31 | 2011-02-17 | Sanyo Electric Co Ltd | フレームレート変換装置、およびそれを搭載した表示装置 |
US8432495B2 (en) | 2006-09-15 | 2013-04-30 | Panasonic Corporation | Video processor and video processing method |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4497096B2 (ja) * | 2004-02-13 | 2010-07-07 | ソニー株式会社 | 画像処理装置と画像処理方法およびプログラム |
WO2006063978A1 (en) * | 2004-12-15 | 2006-06-22 | Thomson Licencing | Method and apparatus for processing video image signals |
WO2007052452A1 (ja) * | 2005-11-07 | 2007-05-10 | Sharp Kabushiki Kaisha | 画像表示装置及び方法 |
EP1977395B1 (en) | 2006-01-27 | 2018-10-24 | Imax Corporation | Methods and systems for digitally re-mastering of 2d and 3d motion pictures for exhibition with enhanced visual quality |
JP2007329700A (ja) * | 2006-06-08 | 2007-12-20 | Sony Corp | 映像信号処理装置、映像表示装置および映像表示方法 |
CA2884702C (en) | 2006-06-23 | 2018-06-05 | Samuel Zhou | Methods and systems for converting 2d motion pictures for stereoscopic 3d exhibition |
JP4303745B2 (ja) * | 2006-11-07 | 2009-07-29 | シャープ株式会社 | 画像表示装置及び方法、画像処理装置及び方法 |
US8437397B2 (en) | 2007-01-04 | 2013-05-07 | Qualcomm Incorporated | Block information adjustment techniques to reduce artifacts in interpolated video frames |
KR20080070332A (ko) * | 2007-01-26 | 2008-07-30 | 삼성전자주식회사 | 움직임 보상에러를 보정하기 위한 영상표시장치 및 그 방법 |
US20100027667A1 (en) | 2007-01-26 | 2010-02-04 | Jonatan Samuelsson | Motion estimation for uncovered frame regions |
JP2008187222A (ja) * | 2007-01-26 | 2008-08-14 | Hitachi Ltd | 動きベクトル検出装置、動きベクトル検出方法、映像表示装置 |
US8189061B1 (en) * | 2007-03-21 | 2012-05-29 | Ambarella, Inc. | Digital still camera with multiple frames combined into a single frame for digital anti-shake/anti-blur |
US20080304568A1 (en) * | 2007-06-11 | 2008-12-11 | Himax Technologies Limited | Method for motion-compensated frame rate up-conversion |
JP2009141798A (ja) * | 2007-12-07 | 2009-06-25 | Fujitsu Ltd | 画像補間装置 |
US8355443B2 (en) * | 2008-03-27 | 2013-01-15 | CSR Technology, Inc. | Recursive motion for motion detection deinterlacer |
US20090310679A1 (en) * | 2008-06-11 | 2009-12-17 | Mediatek Inc. | Video processing apparatus and methods |
GB2493212B (en) * | 2011-07-29 | 2015-03-11 | Canon Kk | Method and device for error concealment in motion estimation of video data |
JP2013055587A (ja) * | 2011-09-06 | 2013-03-21 | Sony Corp | 画像処理装置、画像処理方法、および画像処理システム |
KR101394468B1 (ko) * | 2013-11-12 | 2014-05-14 | 주식회사 아나패스 | 블록의 불연속도 연산방법 및 이를 이용한 폴백 수행 방법 |
KR102356647B1 (ko) * | 2015-04-17 | 2022-01-28 | 삼성디스플레이 주식회사 | 표시 장치 및 이를 이용한 표시 패널의 구동 방법 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2110046A (en) * | 1981-11-03 | 1983-06-08 | Deutsche Forsch Luft Raumfahrt | Representation of video images transmitted at reduced frame rate |
JPH06217263A (ja) * | 1993-01-20 | 1994-08-05 | Oki Electric Ind Co Ltd | 動き補正方式の内挿信号生成装置 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4496972A (en) * | 1980-05-10 | 1985-01-29 | Deutsche Forschungs-Und Versuchsanstalt Fur Luft-Und Raumfahrt E.V. | Method for the representation of video images or scenes, in particular aerial images transmitted at reduced frame rate |
US5475446A (en) * | 1992-03-09 | 1995-12-12 | Matsushita Electric Industrial Co., Ltd. | Picture signal motion detector employing partial decimation of pixel blocks |
SG54145A1 (en) * | 1993-02-17 | 1998-11-16 | Thomson Consumer Electronics | Adaptive letterbox detector |
GB2286500B (en) * | 1994-02-04 | 1997-12-03 | Sony Uk Ltd | Motion compensated video signal processing |
EP0785682A4 (en) * | 1995-07-19 | 1998-10-14 | Toshiba Kk | LETTER BOX CONVERTER |
US6957350B1 (en) * | 1996-01-30 | 2005-10-18 | Dolby Laboratories Licensing Corporation | Encrypted and watermarked temporal and resolution layering in advanced television |
EP0837602A3 (en) * | 1996-10-17 | 1999-10-06 | Kabushiki Kaisha Toshiba | Letterbox image detection apparatus |
US6370192B1 (en) * | 1997-11-20 | 2002-04-09 | Hitachi America, Ltd. | Methods and apparatus for decoding different portions of a video image at different resolutions |
JP3745907B2 (ja) * | 1998-11-27 | 2006-02-15 | パイオニア・マイクロ・テクノロジー株式会社 | 映像信号処理方法 |
GB9920929D0 (en) * | 1999-09-03 | 1999-11-10 | Sony Uk Ltd | Video signal processor |
KR100840133B1 (ko) * | 2000-05-18 | 2008-06-23 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | Mc 업 컨버젼에서 헤일로를 감소시키는 움직임 추정기 |
EP1290639A2 (en) * | 2000-05-18 | 2003-03-12 | Koninklijke Philips Electronics N.V. | Image foreground/background velocity detector |
EP1422928A3 (en) * | 2002-11-22 | 2009-03-11 | Panasonic Corporation | Motion compensated interpolation of digital video signals |
US7558320B2 (en) * | 2003-06-13 | 2009-07-07 | Microsoft Corporation | Quality control in frame interpolation with motion analysis |
-
2004
- 2004-03-30 EP EP04007697A patent/EP1583364A1/en not_active Withdrawn
-
2005
- 2005-03-23 US US11/086,371 patent/US7440033B2/en active Active
- 2005-03-29 JP JP2005096242A patent/JP2005287049A/ja active Pending
- 2005-03-30 KR KR1020050026529A patent/KR20060045005A/ko not_active Application Discontinuation
- 2005-03-30 CN CNB2005100639228A patent/CN100502464C/zh not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2110046A (en) * | 1981-11-03 | 1983-06-08 | Deutsche Forsch Luft Raumfahrt | Representation of video images transmitted at reduced frame rate |
JPH06217263A (ja) * | 1993-01-20 | 1994-08-05 | Oki Electric Ind Co Ltd | 動き補正方式の内挿信号生成装置 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8432495B2 (en) | 2006-09-15 | 2013-04-30 | Panasonic Corporation | Video processor and video processing method |
JP2008236098A (ja) * | 2007-03-19 | 2008-10-02 | Hitachi Ltd | 映像処理装置及び映像表示装置 |
JP4513819B2 (ja) * | 2007-03-19 | 2010-07-28 | 株式会社日立製作所 | 映像変換装置、映像表示装置、映像変換方法 |
US8768103B2 (en) | 2007-03-19 | 2014-07-01 | Hitachi Consumer Electronics Co., Ltd. | Video processing apparatus and video display apparatus |
JP2009038620A (ja) * | 2007-08-02 | 2009-02-19 | Sony Corp | 画像処理装置および方法、並びにプログラム |
JP2009303162A (ja) * | 2008-06-17 | 2009-12-24 | Sharp Corp | 画像補間装置、画像補間方法、テレビジョン受像装置、映像再生装置、制御プログラム、および、コンピュータ読み取り可能な記録媒体 |
JP2011035612A (ja) * | 2009-07-31 | 2011-02-17 | Sanyo Electric Co Ltd | フレームレート変換装置、およびそれを搭載した表示装置 |
Also Published As
Publication number | Publication date |
---|---|
EP1583364A1 (en) | 2005-10-05 |
CN100502464C (zh) | 2009-06-17 |
KR20060045005A (ko) | 2006-05-16 |
CN1678022A (zh) | 2005-10-05 |
US20050231644A1 (en) | 2005-10-20 |
US7440033B2 (en) | 2008-10-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2005287049A (ja) | ベクトルに基づく、画像境界における動き補償方法およびその装置 | |
US6442203B1 (en) | System and method for motion compensation and frame rate conversion | |
JP3103894B2 (ja) | ビデオデータの手振れ補正装置およびその方法 | |
US5682205A (en) | Adaptive, global-motion compensated deinterlacing of sequential video fields with post processing | |
JP3226020B2 (ja) | 動きベクトル検出装置 | |
US9256926B2 (en) | Use of inpainting techniques for image correction | |
JP4847040B2 (ja) | ビデオシーケンスでのティッカー処理 | |
US9185431B2 (en) | Motion detection device and method, video signal processing device and method and video display device | |
US20050249282A1 (en) | Film-mode detection in video sequences | |
EP1855474A1 (en) | Method for generating an interpolated image between two images of an input image sequence | |
US8355442B2 (en) | Method and system for automatically turning off motion compensation when motion vectors are inaccurate | |
KR20060047638A (ko) | 필름 모드 판정 방법, 움직임 보상 화상 처리 방법, 필름모드 검출기 및 움직임 보상기 | |
JP2005318622A (ja) | 逆フィルムモード外挿方法 | |
US8134643B2 (en) | Synthesized image detection unit | |
US6922214B1 (en) | Video signal processing | |
JP2005318623A (ja) | フィルムモード外挿方法及びフィルムモード検出器並びに動き補償器 | |
JP2005318613A (ja) | 状態情報訂正方法、動き補償画像処理方法及び画像状態情報訂正器 | |
JP2007243627A (ja) | ビデオ信号処理装置 | |
US20080002055A1 (en) | Spatio-temporal adaptive video de-interlacing for parallel processing | |
JP2775688B2 (ja) | 画像信号処理装置 | |
WO2006013510A1 (en) | De-interlacing | |
JPH0715700A (ja) | 動き補正映像信号処理装置及び方法 | |
CN113852830A (zh) | 一种中值滤波视频去隔行方法 | |
Yoo et al. | An efficient motion adaptive de-interlacing algorithm using spatial and temporal filter | |
JP2005333282A (ja) | 映像信号処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080204 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110210 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110314 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20110428 |