JP2009516938A - 動きベクトル場リタイマー - Google Patents

動きベクトル場リタイマー Download PDF

Info

Publication number
JP2009516938A
JP2009516938A JP2008537271A JP2008537271A JP2009516938A JP 2009516938 A JP2009516938 A JP 2009516938A JP 2008537271 A JP2008537271 A JP 2008537271A JP 2008537271 A JP2008537271 A JP 2008537271A JP 2009516938 A JP2009516938 A JP 2009516938A
Authority
JP
Japan
Prior art keywords
vector
motion
algorithm
candidate
pair
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008537271A
Other languages
English (en)
Other versions
JP5087548B2 (ja
Inventor
ウェー ヴァン グルプ ヤコブス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NXP BV
Original Assignee
NXP BV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NXP BV filed Critical NXP BV
Publication of JP2009516938A publication Critical patent/JP2009516938A/ja
Application granted granted Critical
Publication of JP5087548B2 publication Critical patent/JP5087548B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Systems (AREA)

Abstract

ハロー・アーティファクトを低減するビデオ処理アルゴリズムを実現するプログラマブル・プラットフォームを提供する。このアルゴリズムは、画像のオクルージョン領域内でバックグラウンドの動きの動きベクトルを修正する。このアルゴリズムは、3フレーム動き推定器から提供されるベクトル場からリタイミング・ベクトルを生成する。リタイミング・ベクトルは、第1に、3フレーム動き推定器から提供される異なるベクトル場から複数の候補ベクトル対を生成する。そして第2に、誤差評価基準に基づいて候補ベクトル対のうちの1つを選定する。そして第3に、線形または非線形の内挿補間を適用して必要なベクトル場を得る。リタイミング・ベクトルは、画像番号nとn−1との間の画素についてのベクトル場を提供して、移動物体の周りのハローを最小化する。

Description

本発明は、ビデオ素材用の、動き補償フレームレート変換技術に関するものである。より詳細には、本発明の好適例は、内挿補間技術を用いた、ビデオ動画像の周りの「ハロー(後光)」アーティファクトを低減するアルゴリズムに関するものである。
現代のテレビジョン受像機は、元の画像レートが異なり得る多様なソースからのビデオ素材を表示しなければならない。世界の異なる地域が異なる規格を用いている。例えば、欧州では50画像/秒が表示され、米国のような他の地域では60画像/秒が表示される。目に見える素材の必ずしもすべてがビデオカメラで記録されない。例えば映画は、24個のプログレッシブ(順次)フレーム/秒で記録される。こうした映画を60(50)Hzのテレビジョン上に表示する最も早い方法は画像を反復することである。米国では、映画のすべての画像を3回または2回のいずれかで表示して60画像/秒を得ており、このことは3:2プルダウンと称される。欧州では、すべての画像を2回表示し、このことは2:2プルダウンと称される。50画像/秒を得るためには、24Hzの映画は少し速い速度(レート)で表示される。不都合なことに、これらの単純な解決法は画質の劣化を生じさせる。画像は反復されるので、画像化された移動物体の画像反復は移動と静止とを交互させる。画像反復の結果は、視聴者が物体(オブジェクト)の不規則またはぎくしゃくした動きを観測することである。このアーティファクトは「モーションジャダー(動画像の不連続表示)」または「フィルムジャダー」と称されることが多い。図1に、移動中のボール10の例を示す。ボールの移動は25Hzで録画されているが、50画像/秒で表示しなければならないので、すべての画像が2回表示される。従って、結果的な画像は、フレーム11、12についてはボールを同じ箇所に表示し、そして1フレーム13についてはボールを移動し、そして静止する、等である。
モーションジャダーの問題を解決し、物体の移動をより円滑にするために、反復画像を使用する代わりに、内挿補間画像を計算して使用する。この内挿補間は、画像中のすべての物体または画素が、それ自体の動きに従って移動することを要求する。このことは、動き補償される時間的アップコンバージョンと称される。移動するボールの例については、このことは、図2に示すように、内挿補間画像について、ボール10が動きの描画の線上に置かれることを意味する。内挿補間画像の1つの問題は、内挿補間された画像が適正に計算されていなければ、アーティファクトが移動物体の周りにいわゆる「ハロー」が生成され得ることである。ハロー・アーティファクトは、移動物体の周りの可視のスミア(汚点)である。
現在、ハロー・アーティファクトの問題に対処する少数の解決法が存在する。物体が他の物体の背後から出現する際に、あるいは物体が他の物体の背後に消失する場合に、この物体(あるいはその一部分)は2つの画像の一方のみにおいて得られる。このことの結果として、推定器は適切な一致を見出すことができず、従って画素移動についてのベクトルは不確かである。また、ベクトルが正しければ、内挿補間された画素は誤りであることがある、というのは、画素の一方は既に誤りであり得るからである。これらの問題の結果は、バックグラウンド(背景画像)における移動物体に近い時間部分の大部分がフォーグラウンド(前方画像)の速度で移動する、ということである。この結果が物体の周りの「ハロー」のように見える。
大部分の場合に、フォーグラウンド・ベクトル(フォーグラウンドの移動物体中の画素のベクトル)はフォーグラウンド物体に重なる。このことは、バックグラウンド・ベクトルは一方ではフォーグラウンド物体内を向き、他方ではバックグラウンド物体内を向くのに対し、フォーグラウンド・ベクトルは両方の画像中で、バックグラウンド物体内を向くからである。フォーグラウンド・ベクトルはバックグラウンドの2つの異なる部分を向くが、バックグラウンド・ベクトルより良好な一致を与える。(バックグラウンドの2つの異なる部分どうしは、バックグラウンドの一部分とフォーグラウンドの一部分よりは似ていることが多い。)
図3に、移動中のボールの例におけるオクルージョン(遮蔽)の問題を示す。他のボール、即ち大きいボール15が、小さいボール16とは異なる速度で異なる向きに移動している。画像n+1では、小さいボール16が大きいボール16の背後に隠れる。小さいボール16が大きいボール15の背後にある際には、動き推定器は画像番号nからn+1までに小さいボール16の動きを見出すことができない。従って、小さいボール16を内挿補間画像(n+1/2)中のどこに置かなければならないかは不明確である。
ハローの問題を解決するために、第1のアルゴリズムがフィリップス・リサーチ(Philips Research)において開発されている。このアルゴリズムはフィリップス・リサーチでは「ピューマ/コブラ・アルゴリズム(puma/cobra algorithm)」(登録商標)として知られている。ピューマ/コブラ・アルゴリズムは2つの部分から成り、即ち動き推定器(ピューマ(PUMA))及び時間的アップコンバータ(コブラ(COBRA))である。この背景の説明は、時間的アップコンバータをプログラマブル・プラットフォーム上にマッピング(位置付け)してビデオ処理アルゴリズムを実現することについてであるので、動き推定器は簡単に説明するだけにする。主に時間的アップコンバータに焦点を当てる。
動き推定器は3D(三次元)反復探索ブロックマッチング(ブロック整合)アルゴリズムに基づくものとすることができる。過去には、動き推定は時間的位置において行われていた。即ち、内挿補間される画像のすべてのブロックについて、動きベクトルを割り当てていた。この方法は、オクルージョン領域では問題を有していた、というのは、オクルージョン領域では、画像情報は2つの画像の一方でしか得られないからである。図4に、補間位置(n+α)において、フォーグラウンド及びバックグラウンドについて、正しい動きベクトルを見つけることができることを示す。しかし、オクルージョン領域40では、バックグラウンドの一部分44がフォーグラウンド42の物体の背後に隠れているので、正しい動きベクトルを見つけることができない。オクルージョン領域では、フォーグラウンド・ベクトルが得られる確率がより高い、というのは、フォーグラウンド・ベクトル46は、バックグラウンドの一部分をバックグラウンドの他の部分と整合させるのに対し、バックグラウンド・ベクトル48は、バックグラウンドの一部分をフォーグラウンドの一部分と整合させるからである。
動き推定を現在位置から後向きの方法で実行する際には、カバー状態(カバーされていること)に問題はない、というのは、現在フレーム中のすべてのブロックについて、前のフレーム中に見出すことのできる整合(マッチング)ブロックが存在するからである(図5A参照)。しかし、図5A中の非カバー(カバーされていない)領域50については、非カバー状態であることが問題となる、というのは、前の画像中に良好な整合を見出すことができるからである。他方では、動き推定を移動中の画素の現在位置から前向きの方法で行う際には、非カバー状態であることに問題はないが、その代わりに、カバー状態52(図5B参照)に問題がある。
「ピューマ」動き推定器は、前向き推定及び後向き推定を共に実行し、そして2つのベクトル場を組み合わせて、現在の原画の位置にあるオクルージョンのないベクトル場60にする(図6参照)。動き推定器は、すべての8×8画素ブロックにベクトルを割り当てる。そして「コブラ」アップコンバータは、現在のベクトル場60a及び前のベクトル場60bを用いて、ベクトル場60を内挿補間位置にリタイム(タイミング修正)する。オクルージョンのない2つのベクトル場に加えて、このアップコンバータは前の前向き推定及び現在の後向き推定も利用する。
Figure 2009516938
「コブラ」アップコンバータでは、3つの区別可能な段が存在する。第1段では、第1組のマスク及びベクトル場が提供される。リタイマー(タイミング修正器)が、時間的位置に対する正確なベクトル場を計算する。リタイマーが計算したベクトル場は、前の前向き推定と現在の後向き推定との平均値であり、この値を後退(フォールバック)ベクトル場と称する(2.1式参照):
Figure 2009516938
オクルージョン・マスクは、画像のカバー状態及び非カバー状態が発生する場所を示す。一貫性マスクは、ベクトル場が非一貫性である領域を選択する。そしてテキストマスクは、画像中の静止領域を選択して、主に字幕及び他のテキスト(文字列)状の重ね書きを保護する。
第2の、主要な段階は画素処理段階である。ここでは、上記ベクトル場及びマスクを用いて適正な画素を選択して出力画素を計算する。第3の最終段階では、「困難な」領域をぼかして、あり得るアーティファクトを隠す。
Figure 2009516938
Figure 2009516938
内挿補間位置に必要なりタイムしたベクトル場を決定するこうした以前のアルゴリズム及び技術(「ピューマ/コブラ」:動き推定器及び時間的アップコンバータ)は、内挿補間位置毎に最少7回の計算を必要とする。こうした計算は時間を要し、ビデオ処理アルゴリズム用のベクトルを計算するプログラマブル・プラットフォーム上での労力が多い。こうした技術は、良好に組み込んでプログラマブル・ビデオプラットフォームにおいて実現することが高価である。プログラマブル・ビデオプラットフォームにおいて良好に実現することがより廉価な、より複雑でないアルゴリズムが必要である。
前述した、6タップ・メジアンフィルタによってメジアンベクトルを計算する時間的アップコンバータを実現することが、実現が非常に高価であると共に、以上では特に述べていない他の欠点により困難であることを考慮すれば、複雑性が大幅に小さく、少なくとも同等かそれ以上の性能を提供する代わりの実現の必要性が存在することは明らかである。その結果、本発明の好適例は、2つ以上の動きベクトル場から動きベクトル場を内挿補間または外挿補間する方法を提供する。基本的で好適な方法は:第1に、複数のベクトルの候補対(ここで「対」とは3つ以上もあり得る)を、異なる動きベクトル場から選択する。1つのベクトルを用いて対のベクトルを取得する。第2に、誤差(エラー)評価基準に基づいて1つの対を選定する。第3に、線形または非線形の内挿補間を適用して必要なベクトルを得る。
本発明の他の好適例は、動き補償デインターレース(インターレース(飛越し)走査のプログレッシブ(順次)走査への変換)及びフィルムジャダー除去を実行する方法を含むことができ、この方法は、異なる動きベクトル場から複数の候補ベクトル対を選択するステップを具えている。そして、誤差評価基準に基づいて、これら複数の候補ベクトル対のうちの1つを選定するステップ、及び選定した候補ベクトル対に線形または非線形の内挿補間の少なくとも一方を適用して、リタイミング(タイミング修正)ベクトルを得るステップを具えている。
本発明のさらに他の好適例は、ビデオ処理アルゴリズムを実現するプログラマブル・プラットフォームを含むことができる。このビデオ処理アルゴリズムは、動き推定器アルゴリズム及び時間的アップコンバータ・アルゴリズムを含む。時間的アップコンバータ・アルゴリズムは、リタイマー(タイミング修正器)アルゴリズムを含む。このリタイマー・アルゴリズムは、異なる動きベクトル場から複数の候補ベクトル対を選択する。そしてこのリタイマー・アルゴリズムは、誤差評価基準に基づいて上記複数の候補ベクトル対のうちの1つを選定する。そして、このアルゴリズムは、選定したベクトル対に線形または非線形の内挿補間を適用して、リタイミング・ベクトルを得る。
なお、上述した本発明の概要は、本発明の各実施例、あるいは実施例のすべての態様を表現するものではない。
本発明の方法及び装置のより完全な理解は、以下の、図面を参照した実施例の詳細な説明を参照することによって得ることができる。
プログラマブル・プラットフォームは、ビデオ処理アルゴリズム用にますます使用されている。プログラマブル・プラットフォームを用いることのいくつかの利点は、同じ設計を広範な製品に用いることができること、市場に出す時間を短く保つことができること、及び遅い設計段階、さらには生産を開始した後に機能を変更または改良することができることにある。
本発明の実施例による好適なプログラマブル・プラットフォームは、メディア処理用に特別に設計されている。好適なプログラマブル・プラットフォームによって処理することのできるメディアの種類は、動き補償デインターレース及びフィルムジャダー除去(自然動画)を実行するビデオ処理を含む。こうした好適なプログラマブル・プラットフォームは、MPEG1、MPEG2、MPEG3、MPEG4、高解像度の自然動画、標準解像度の自然動画、その他を含む種々のビデオフォーマットを処理することができるが、これらのフォーマットに限定されない。現在、好適なプログラマブル・プラットフォーム上で、あるいはプログラマブル・プラットフォームと共に使用されるいくつかのチップが市販されている。こうしたチップは、フィリップス−トリメディア社のプロセッサコアTM-1(登録商標)、TM3260(登録商標)、TM3270(登録商標)、TM2270(登録商標)、及びTM5250(登録商標)である。他のプロセッサコアも、好適なプログラマブル・プラットフォームに内蔵するか、好適なプログラマブル・プラットフォームと共に用いることができ、そして本発明の実施例と等価なアルゴリズムを実行することができることは、当業者にとって明らかである。
明瞭さを加えるために、トリメディア社の装置の基本アーキテクチャを簡単に説明する。トリメディア社のものは、5つのイシュー(発行)スロットを有するVLEW(Very Long Instruction Word:非常に長い命令語)型プロセッサである。5つのイシュースロットを有することは、サイクル毎に5つの演算を一度に実行することができることを意味する。すべての演算はレジスタベースであり、命令キャッシュ及びデータキャッシュを共に使用する。コンパイラ及びスケジューラがコードを解析して、同時に実行することのできる命令を決定する。イシュースロット毎に、複数の機能ユニットが利用可能である。イシュースロット毎に利用可能な複数の機能ユニットを持つことは、演算をスケジュールする場所に関する大きな自由度をスケジューラに与える。トリメディア社のプロセッサは、コンパイル時スケジューリングを組み込んでいる。コンパイル時スケジューリングの利点は、スケジューラをオンチップにしなければ(チップ上に設けなければ)ならないことがないのでチップサイズがより小さくなり、より良好なスケジューラを利用することができることにある。より良好なスケジューラは、より大きなコンテクスト(前後関係)を利用することができ、そしてソースコードの知識をより多く有する
一部の実施例では、メモリーとやり取りするすべての通信がデータキャッシュ及び命令キャッシュを通る。データキャッシュのサイズは128KBであり、4ウェイ連想である。キャッシュからレジスタ内にデータを取得することは、特別な機能ユニット、即ち負荷ユニットで行われる。種々の異なることを行うことができる1つのロードユニットが存在する。例えば、32ビットまでの通常のロードは1つのレジスタに書き込み、スーパーロードは、隣接する2つの32ビットのワード(語)をロードすることができる。また、オン・ザ・フライの線形内挿補間を伴うロードも可能である。データをレジスタファイルからデータキャッシュにコピーする2つのストアユニットが利用可能である。CPUがキャッシュ内にないデータを必要とする場合には、このデータをメモリーから要求し、CPUはデータが利用可能になるまで一時停止する。CPUが過度に頻繁に一時停止することを防ぐために、ハードウェア・プリフェッチを用いて、データをバックグラウンド処理で主メモリーからキャッシュ内にコピーすることができる。
大部分の演算は2つの入力レジスタ、1つの出力レジスタ、及びガードレジスタを用いる。演算の結果は、ガードが真である場合のみに出力レジスタに書き戻される。このことは多数回のジャンプを節減する。TM3270も2スロット演算を有する。これらの機能ユニットは隣接する2つのイシュースロットを使用し、従って4つまでの入力レジスタ及び2つの出力レジスタを使用することができる。このことは、ずっと広範囲の命令、例えばメジアン(中央値)及び混合演算を処理するアーキテクチャを可能にする
トリメディア社のものは32ビットのデータワード(データ語)で動作する。しかし、多くのビデオ及び/またはオーディオデータは8ビットまたは16ビットの変数またはワードで見出される。これらの8ビットまたは16ビットの変数を処理するために、SIMD(Single Instruction Multiple Data:単一命令、複数データ)命令セットを実現する。SIMD命令では、4つの8ビットまたは16ビット命令が1命令中に与えられる。例えば、QUADAVG命令は4つの異なる平均値を計算する。これらのSIMD命令を用いてコードを加速することができる。
トリメディア社のコア、あるいは他の動作可能なプロセッサコアは通常、より大きなSoC(System on Chip:システム・オンチップ)の一部分である。SoCチップは、複数のコア、スケーラのようなビデオ・コプロセッサ、ビデオ及びオーディオのIO(入出力)、等を含むことができる。周辺装置とのすべての通信はメモリーを通して行われる。
本発明の一部の実施例の目標は、ハローを低減する時間的アップコンバータをプロセッサコア上にマッピングする(位置付ける)ことにある。好適なアルゴリズムの出発点は、以上で説明した「コブラ」の時間的アップコンバータ・アルゴリズムに対する改善である。一部の好適な実施例の結果的な画質は、従来の「コブラ」の時間的アップコンバータ・リゴリズムによって生成される画質と同様かより良好であるべきである。アルゴリズムの動き推定器部分のための作業はなされているが、この作業は本発明の範囲外である。こうしたものとして、本発明の好適な実施例において用いる動き推定器は、以上で説明した「ピューマ」の推定器と同様のものとすることができる。さらに、他の動き推定器アルゴリズムも本発明の実施例に用いることができることは当業者にとって明らかである。
以下、好適な時間的アップコンバータの実施例を説明する。好適な実施例におけるアルゴリズム選定は、検証実験及びモデル化を用いて裏付けられている。結果的な画質評価が最終的に、アルゴリズム選定の選択を裏付けている。好適なアップコンバータは独立したブロックに分割される。これらの独立したブロックは先進的な実現を含み、リタイマー(タイミング修正器)、オクルージョン検出器、及び非一貫性計はベクトル処理に統合される。ベクトル分割機能は画素処理と統合される。しかし、アルゴリズムを理解するためには、各ブロックを独立したブロックとして見ることが最良である。好適なアルゴリズムは、フィリップス社のTM3270を念頭において開発されている。本発明の実施例でプログラマブル・プラットフォームを用いることの1つの大きな利点は、負荷バランスをシステムに取り入れることができることにある。他の利点は、同じリソース(資源)を異なることに用いることができることにある。従って、本発明の好適な実施例では、出力画素のブロック毎に、サイクル時間内に適合する利用可能な最良のアルゴリズムを用いて、ベクトルデータを処理することが可能である。
上述した従来技術の「コブラ」リタイマーの主な問題は、「コブラ」リタイマーは6タップ・メジアンを必要とすることであり、このことは複雑であり、実現が過度に高価である。本発明の実施例は、ずっと廉価に実現されるリタイマーの新たな解決法を提供する。そして、同等またはより良好な画質を提供する。
ここで図8A、8B及び8Cを参照すれば、好適なリタイマーが2つの時間のベクトル場(80a、80b、及び80c)を用いる。これらのベクトル場の時刻は、例えば画像番号n及びn−1であり、3フレーム動き推定器から来たものである。画像番号nとn−1との間にn+α(−1<α<0)があり、これが、計算しなければならないリタイムしたベクトル場(82a、82b、または82c)である。
Figure 2009516938
Figure 2009516938
これら及び他の候補ベクトル対(82a、82b、及び82c)より、最低の誤差を有するベクトル対を選択する。種々の誤差評価基準を用いることができる。1つの好適な誤差評価基準は次式によって定義される:
Figure 2009516938
最低の誤差を有する2つのベクトルに線形または非線形の内挿補間を適用して、必要なリタイムしたベクトルを得ることができる。この好適な実施例では、リタイムしたベクトルは、次式の、最低の誤差を有する対における2つのベクトルの平均値である:
Figure 2009516938
このリタイミング・ベクトルの計算は、内挿補間したベクトル場の位置毎に行う。ベクトル場中の至る所で、同数のベクトル対、または対の中では同数のベクトルを使用することが常に必要である(「対」は3つ以上のベクトルもあり得る)。リタイムしたベクトルは、(ハローを低減する)時間的アップコンバージョンのために、内挿補間した位置で用いる。6つのベクトルのメジアンではなく2つのベクトルの平均値は、好適なプログラマブル・プラットフォームにおいて実現することが比較的廉価である。従って本発明の実施例は、動きベクトル場を他の(2つ以上の)動きベクトル場から内挿補間または外挿補間するシステム及び方法を提供する。基本的で好適な方法を要約すれば、第1に、複数の候補ベクトル対(82a、82b、82c)(「対」は3つ以上でもあり得る)を異なる動きベクトル場(80a、80b、80c)から選択する。1つのベクトルを用いて対のベクトルを取得する。第2に、誤差評価基準に基づいて複数のベクトル対のうちの1つを選定する。第3に、即ち最後に、選定したベクトル対に線形または非線形の内挿補間を適用して、結果的に表示される動画像または画像中に存在するハローまたはジャダーの量を減少または低減させる必要なベクトルを得る。
本発明の実施例の代表的な利用は、動き補償付きのフィルムジャダー除去(例えば自然動画)を実行するビデオ処理装置用の時間的アップコンバータ内である。本発明の実施例を利用するこうしたビデオ処理装置またはプラットフォームは、ハロー低減に指向したものとすることができる。こうしたものとして、本発明を利用することのできる代表的な製品はTV受像機、DVDプレーヤ、TVセットトップボックス、MPSGプレーヤ、ディジタルまたはアナログのビデオレコーダまたはプレーヤ、及び携帯型ビデオ装置である。
上述した本発明及び方法の多くの変形例及び実施例が可能である。本発明及び方法の特定実施例のみを図面に例示し以上の詳細な説明に記述してきたが、本発明は開示した実施例に限定されず、請求項に規定し記載する本発明から逸脱することなしに、追加的な再構成、変更及び代替が可能であることは明らかである。従って、本発明の範囲はこうした構成のすべてを包含し、請求項のみによって限定される。
モーションジャダーを伴って表示される移動中のボールの例を示す図である。 モーションジャダーのない理想的な方法で表示される移動中のボールの例を示す図である。 2つの移動中のボールを表示する際のオクルージョン問題を示す図である。 時間的位置における動き推定の例を示す図である。 Aは、後向き動き推定の例を示す図である。Bは、前向き動き推定の例を示す図である。 前向き及び後向き動き推定の両方からのベクトル場を組み合わせて、原画の位置にオクルージョンのないベクトル場にする例を示す図である 図7A、図7B、図7Cは、従来技術のリタイマー機能を示す図である。 Aは、動き補償されていないベクトル対を選択する好適なリタイマー機能の例を示す図であり、Bは、前のベクトル場からベクトル対を選択する好適なリタイマー機能の例を示す図であり、Cは、現在のベクトル場からベクトル対を選択する好適なリタイマー機能の例を示す図である。

Claims (11)

  1. 動き補償ビデオ処理を実行する方法において、
    異なる動きベクトル場から複数の候補ベクトル対を選択するステップと;
    誤差評価基準に基づいて、前記複数の候補ベクトル対のうちの1つを選定するステップと;
    線形内挿補間及び非線形内挿補間の少なくとも一方を、前記選定した1つの候補ベクトル対に適用して、ハローを低減するアップコンバージョン用のリタイミング・ベクトルを得るステップと
    を具えていることを特徴とする動き補償ビデオ処理方法。
  2. さらに、時間的アップコンバージョン、フレームレート変換、フィルムジャダー除去、及びベクトル場の時間的フィルタリングの少なくとも1つに、前記リタイミング・ベクトルを用いるステップを具えていることを特徴とする請求項1に記載の方法。
  3. 前記複数の候補ベクトル対が、
    (a) 前のベクトル場及び現在のベクトル場から取得した非動き補償のベクトル、及び、
    (b) 前記非動き補償のベクトル対からの2つのベクトルを用いて、前記前のベクトル場及び前記現在のベクトル場から動き補償ベクトルを複数回取得した結果
    からのベクトル対であることを特徴とする請求項1に記載の方法。
  4. 前記内挿補間を適用するステップが、前記選定した1つのベクトル対を平均化することから成ることを特徴とする請求項1に記載の方法。
  5. 前記候補ベクトル対を選択するステップ、前記1つの候補ベクトル対を選定するステップ、及び前記内挿補間を適用するステップを、内挿補間したベクトル場中の位置毎に実行することを特徴とする請求項1に記載の方法。
  6. 前記1つの候補ベクトル対を選定するステップを、最低の誤差計算値を有する前記候補ベクトルを選択することによって実行することを特徴とする請求項1に記載の方法。
  7. ビデオ処理アルゴリズムを実現するプログラマブル・プラットフォームにおいて、
    動き推定器アルゴリズムと;
    時間的アップコンバータ・アルゴリズムとを具え、前記時間的アップコンバータ・アルゴリズムはリタイマー・アルゴリズムを具え、前記リタイマー・アルゴリズムは、
    異なる動きベクトル場から複数の候補ベクトル対を選択し;
    誤差評価基準に基づいて、前記複数の候補ベクトル対のうちの1つを選定し;
    線形内挿補間及び非線形内挿補間の少なくとも一方を、前記選定した1つの候補ベクトル対に適用して、ハローを低減するアップコンバージョンに使用するタイミング修正ベクトルを得ることを特徴とするプログラマブル・プラットフォーム。
  8. 前記複数の候補ベクトル対が、
    (a) 前のベクトル場及び現在のベクトル場から取得した非動き補償のベクトル、及び、
    (b) 前記非動き補償のベクトル対からの2つのベクトルを用いて、前記前のベクトル場及び前記現在のベクトル場から動き補償ベクトルを複数回取得した結果
    からのベクトル対であることを特徴とする請求項1に記載の方法。
  9. 前記誤差評価基準が、前記複数の候補ベクトル対のうち最低の誤差量を有する1つのベクトル対を特定する基準であることを特徴とする請求項7に記載のプログラマブル・プラットフォーム。
  10. ビデオ・アップコンバージョン処理におけるハローを低減する方法において、
    動き推定器アルゴリズムを実行するステップと;
    時間的アップコンバータ・アルゴリズムを実行するステップと;
    ハローを低減するアップコンバージョン用のリタイミング・ベクトルを提供するリタイマー・アルゴリズムを実行するステップと
    を具えていることを特徴とするビデオ・アップコンバージョン処理におけるハロー低減方法。
  11. 前記リタイマー・アルゴリズムが、
    異なる動きベクトル場から複数の候補ベクトル対を選択するステップと;
    誤差評価基準に基づいて、前記複数の候補ベクトル対のうちの1つを選定するステップと;
    線形内挿補間及び非線形内挿補間の少なくとも一方を、前記選定した1つの候補ベクトル対に適用して、ハローを低減するアップコンバージョン用のリタイミング・ベクトルを得るステップと
    を具えていることを特徴とする請求項10に記載の方法。
JP2008537271A 2005-10-24 2006-10-20 動きベクトル場リタイマー Expired - Fee Related JP5087548B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US73016205P 2005-10-24 2005-10-24
US60/730,162 2005-10-24
PCT/IB2006/053877 WO2007049209A2 (en) 2005-10-24 2006-10-20 Motion vector field retimer

Publications (2)

Publication Number Publication Date
JP2009516938A true JP2009516938A (ja) 2009-04-23
JP5087548B2 JP5087548B2 (ja) 2012-12-05

Family

ID=37946676

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008537271A Expired - Fee Related JP5087548B2 (ja) 2005-10-24 2006-10-20 動きベクトル場リタイマー

Country Status (5)

Country Link
US (1) US20090251612A1 (ja)
EP (1) EP1943832A2 (ja)
JP (1) JP5087548B2 (ja)
CN (1) CN101502106A (ja)
WO (1) WO2007049209A2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2450121A (en) * 2007-06-13 2008-12-17 Sharp Kk Frame rate conversion using either interpolation or frame repetition
TWI490819B (zh) * 2009-01-09 2015-07-01 Mstar Semiconductor Inc 影像處理方法及其裝置
DE102009026981A1 (de) 2009-06-16 2010-12-30 Trident Microsystems (Far East) Ltd. Ermittlung eines Vektorfeldes für ein Zwischenbild
TWI408621B (zh) * 2009-11-17 2013-09-11 Mstar Semiconductor Inc 影像插補處理裝置及其方法
TR200909120A2 (tr) 2009-12-04 2011-06-21 Vestel Elektroni̇k San. Ve Ti̇c. A.Ş. Hareket vektör alani yeni̇den zamanlandirma yöntemi̇@
US8542322B2 (en) * 2010-03-01 2013-09-24 Stmicroelectronics, Inc. Motion compensated interpolation system using combination of full and intermediate frame occlusion
US9013584B2 (en) * 2010-03-01 2015-04-21 Stmicroelectronics, Inc. Border handling for motion compensated temporal interpolator using camera model
US9659353B2 (en) 2010-03-01 2017-05-23 Stmicroelectronics, Inc. Object speed weighted motion compensated interpolation
US8576341B2 (en) * 2010-03-01 2013-11-05 Stmicroelectronics, Inc. Occlusion adaptive motion compensated interpolator
FR2958300B1 (fr) * 2010-03-31 2012-05-04 Snecma Dispositif pour controler des caracteristiques physiques d'un bain d'electrodeposition metallique.
US20110249870A1 (en) * 2010-04-08 2011-10-13 National Taiwan University Method of occlusion handling
CN102131058B (zh) * 2011-04-12 2013-04-17 上海理滋芯片设计有限公司 高清数字视频帧速率变换处理模块及其方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005027525A1 (en) * 2003-09-17 2005-03-24 Koninklijke Philips Electronics N.V. Motion vector field re-timing
US20050135485A1 (en) * 2003-12-23 2005-06-23 Genesis Microchip Inc. Vector selection decision for pixel interpolation

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5506622A (en) * 1994-05-02 1996-04-09 Daewoo Electronics Co., Ltd. Block matching type motion vector determination using correlation between error signals
CN100504925C (zh) * 2000-05-18 2009-06-24 Nxp股份有限公司 用于检测图像间的运动的方法和装置以及图像显示装置
WO2003060823A2 (en) * 2001-12-26 2003-07-24 Yeda Research And Development Co.Ltd. A system and method for increasing space or time resolution in video
US20060139494A1 (en) * 2004-12-29 2006-06-29 Samsung Electronics Co., Ltd. Method of temporal noise reduction in video sequences

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005027525A1 (en) * 2003-09-17 2005-03-24 Koninklijke Philips Electronics N.V. Motion vector field re-timing
US20050135485A1 (en) * 2003-12-23 2005-06-23 Genesis Microchip Inc. Vector selection decision for pixel interpolation

Also Published As

Publication number Publication date
WO2007049209A2 (en) 2007-05-03
US20090251612A1 (en) 2009-10-08
JP5087548B2 (ja) 2012-12-05
WO2007049209A3 (en) 2009-04-16
CN101502106A (zh) 2009-08-05
EP1943832A2 (en) 2008-07-16

Similar Documents

Publication Publication Date Title
JP5087548B2 (ja) 動きベクトル場リタイマー
TWI231706B (en) Method and system for advanced edge-adaptive interpolation for interlace-to-progressive conversion
US7899122B2 (en) Method, apparatus and computer program product for generating interpolation frame
EP1351502A1 (en) Enhanced resolution video construction method and apparatus
US9514525B2 (en) Temporal filtering for image data using spatial filtering and noise history
JP5081898B2 (ja) 補間画像生成方法及びシステム
US7865030B2 (en) Method and system for motion compensated temporal filtering using both FIR and IIR filtering
US20100067818A1 (en) System and method for high quality image and video upscaling
WO2009034493A2 (en) Method, apparatus, system, and module for up-conversion of video image data
JPH10336668A (ja) 動きベクトル検出装置
JP2002542741A (ja) 映像信号のデインタレース
JP2007506333A (ja) 動きベクトルフィールド再タイミング
CN110889809B (zh) 图像处理方法及装置、电子设备、存储介质
JP2006287632A (ja) ノイズ低減装置およびノイズ低減方法
JP2008091979A (ja) 画像高画質化装置、及びその方法、並びに画像表示装置
CN114339030B (zh) 一种基于自适应可分离卷积的网络直播视频稳像方法
TWI408621B (zh) 影像插補處理裝置及其方法
JP2009520256A (ja) ディジタル処理手段にデータを提供する方法
CN108885790A (zh) 基于所生成的运动数据处理图像
TWI730552B (zh) 信號處理裝置與信號處理方法
US9275468B2 (en) Fallback detection in motion estimation
JP2009076984A (ja) 画像処理装置、画像処理方法、プログラム、及び記録媒体
US20110109794A1 (en) Caching structure and apparatus for use in block based video
KR102007601B1 (ko) 비디오 잡음 제거를 위한 효율적인 패치 기반 방법
JP2012004653A (ja) 画像処理装置及びその制御方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110607

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111129

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20120217

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120328

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20120409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120508

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120730

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120828

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120910

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150914

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees