JP2013500666A - 信号フィルタリング方法及びフィルタ係数計算方法 - Google Patents

信号フィルタリング方法及びフィルタ係数計算方法 Download PDF

Info

Publication number
JP2013500666A
JP2013500666A JP2012522299A JP2012522299A JP2013500666A JP 2013500666 A JP2013500666 A JP 2013500666A JP 2012522299 A JP2012522299 A JP 2012522299A JP 2012522299 A JP2012522299 A JP 2012522299A JP 2013500666 A JP2013500666 A JP 2013500666A
Authority
JP
Japan
Prior art keywords
signal
signal section
class
image
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Abandoned
Application number
JP2012522299A
Other languages
English (en)
Inventor
デル フェン,ヨン コルネリユス ペトリュス ファン
アルノルデュス パウリュス テーヘンボス,イェルーン
Original Assignee
ティーピー ビジョン ホールディング ビー ヴィ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ティーピー ビジョン ホールディング ビー ヴィ filed Critical ティーピー ビジョン ホールディング ビー ヴィ
Publication of JP2013500666A publication Critical patent/JP2013500666A/ja
Abandoned legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20201Motion blur correction

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)

Abstract

信号をフィルタリングする段階は、入力として求めた前記信号のセクション(23;39)のクラスを決定する段階であって、前記クラスの決定は、前記入力信号セクション(23;39)の少なくとも1次の微分係数を表す少なくとも成分を含む信号セクション(28;41)を計算する段階と、前記計算した信号セクション(28;41)に量子化演算を適用する段階とを有する段階とを有する。 利用可能な複数のフィルタから前記クラスに関連するデジタルフィルタを選択する。量子化演算において、前記計算した信号セクション(28;41)のダイナミックレンジに量子化ステップを合わせる。

Description

本発明は信号のフィルタリング方法に関する。該方法は、入力として求めた前記信号のセクションのクラスを決定する段階であって、前記クラスの決定は、前記入力信号セクションの少なくとも1次の微分係数を表す少なくとも成分を含む信号セクションを計算する段階と、前記計算した信号セクションに量子化演算を適用する段階とを有する段階と、利用可能な複数のフィルタから前記クラスに関連するデジタルフィルタを選択する段階とを有する。
本発明は信号のフィルタリングデバイスにも関する。該デバイスは、信号を受け取る入力と、入力として求めた前記信号のセクションのクラスを決定するデバイスコンポーネントであって、前記デバイスコンポーネントは、前記入力信号セクションの少なくとも1次微分係数を表す少なくとも成分を含む信号セクションを計算する信号処理コンポーネントと、前記計算した信号セクションに量子化演算を適用する信号処理コンポーネントとを有するデバイスコンポーネントと、利用可能な複数のデジタルフィルタを切り換えるスイッチとを有する。
本発明は、ディスプレイに少なくとも1つの画像をレンダリング(rendering)するデバイスにも関する。該デバイスは、少なくとも1つの画像を符号化した信号を受け取るインタフェースと、前記少なくとも1つの画像を表すデジタル信号をフィルタリングするフィルタデバイスとを有する。
本発明は、複数のフィルタのフィルタ係数を求める方法にも関する。該方法は、それぞれ複数のクラスのうちの1クラスに関連する複数のテスト信号セクションとそれに関連するターゲット信号とを求める段階と、各クラスについて、それに関連するフィルタの一組のフィルタ係数を、そのクラスに関連するテスト信号セクションをフィルタリングしたものがその関連するターゲット信号を最もよく近似するように、最適化する段階と、最適化したフィルタ係数の各組を、最適化したフィルタ係数の組に関連付けられたクラスに関連付けられたテスト信号セクションに対して、テスト信号セクションの少なくとも1次の微分係数を表す少なくとも1つのコンポーネントを有する信号セクションを計算し、前記計算した信号セクションに量子化演算を適用することにより求まるクラスコードと関連付ける段階と、を有する。
本発明は、コンピュータプログラムにも関する。
特許文献1は、損なわれた信号から損なわれていない信号を回復する方法、装置、及び製品を開示している。損なわれた信号は、複数の損なわれたデータポイントと損なわれていないデータポイントよりなる。損なわれた各データポイントに対して、その損なわれたデータポイントを含むエリアの特徴に基づき複数のクラスタイプを生成する。データポイントは、複数のクラスタイプのうちの1クラスタイプにより分類され、対応する入力信号クラスに割り当てられる。損なわれていない信号は、入力信号の分類結果により入力信号を適応的フィルタリングして生成する。生成されるクラスには、動きクラス、エラークラス、空間的クラス、空間的アクティビティクラスなどが含まれる。空間的クラスは、ターゲットデータの空間的特徴を記述するのに用いられる値のコレクションである。例えば、各クラスを空間的クラスとして生成するため、ADRC(Adaptive Dynamic Range Coding)を用いることができる。空間的分類の他の例としては、差分PCMなどがあるが、これらを用いても良い。
1ビットADRCを用いたときの問題は、急激な過渡信号とゆるい過渡信号に対して結果が同じになり、フィルタを適用すると、両方の過渡信号で急激さが増大することである。これにより、予め急激な過渡信号を含む信号において、アーティファクト(artifacts)が発生する。差分PCMを用いた時の問題は、クラスコードの範囲が大きくなり、利用できるようにしなければならない差分フィルタの数が増えることである。
米国特許第6,192,161B1号
本発明の目的は、信号セクションの効率的なフィルタリングを行い、一方、より急な過渡部分が与えられる必要のない信号セクションにアーティファクトが生じることを回避する上記のタイプの方法、デバイス、及びコンピュータプログラムを提供することである。
この目的は本発明による方法により達成される。該方法は、入力として取得した前記信号のセクションのクラスを決定する段階であって、前記クラスの決定は、前記入力信号セクションの少なくとも1次の微分係数を表す少なくともコンポーネントを有する信号セクションを計算する段階と、前記計算した信号セクションに量子化演算を適用する段階とを有し、前記量子化演算において、前記計算した信号セクションのダイナミックレンジに量子化ステップを合わせる段階と、利用可能な複数のフィルタから前記クラスに関連するデジタルフィルタを選択する段階と、を有する。
クラスの決定は、入力信号セクションの少なくとも1次の微分係数を表す少なくとも1つのコンポーネントを有する信号セクションを計算する段階と、計算した信号セクションに量子化演算を適用する段階とを含むので、分類プロセスにおいて、信号セクションに急な過渡部分があるか無いか考慮する。クラスに関連するデジタルフィルタは利用可能な複数のフィルタから選択するので、過渡部分が急でない信号セクションとは異なるフィルタを、過渡部分が急な信号セクションに使用できる。量子化演算は計算した信号セクションのダイナミックレンジに合わせた量子化ステップを用いるので、クラスの決定で結果の範囲を限定できるという意味で、クラス数を減らせる。これにより、本方法はメモリ利用の点で効率的である。これは、大きい量子化ステップを選択する、又はエントロピー符号化法を用いることだけで達成できる。しかし、大きな量子化ステップを用いなければならない場合、細部を失いすぎないために、事前に信号特性を知る必要がある。量子化ステップが大きいので、計算した多くの信号セクションのすべての値が同じになる。エントロピー符号化法は、実装が比較的難しく、比較的非効率的である。コードブックを記憶しなければならず、このコードブックは信号に対して適切でなければならない。本発明の方法は、フィルタ係数のみが可変なハードウェアで実施できる。フィルタリングする信号の特徴に対して、フィルタ係数が適切であれば十分である。
一実施形態では、前記量子化演算はnビット適応型ダイナミックレンジ符号化を含む。
特に、n=1の場合がそうであり、クラス決定の結果は、信号セクションが構成されているサンプルの数に応じて非常に急激に増加はしない、可能性のある値のある範囲内のクラスコードである。
一実施形態では、前記入力信号セクションを、デジタル画像を符号化する画素データのアレイから求める。
これは、画像がぼやけていることが多いので、本方法が非常に適したアプリケーションである。画像を鮮明にするフィルタにより、過渡部分が急峻になる。そのため、このフィルタをすでにフォーカスが合っている画像のエリアに適用するときは、局所的なアーティファクトを生じさせないため、このようなフィルタの適用は限定する必要がある。
一変形例では、前記複数のフィルタは等方的フィルタを含む。
この変形例は、カメラフォーカスぼやけの補正に適している。カメラフォーカスぼやけは方向に依らないからである。一実施形態では、フィルタは、それぞれが逆ガウシアンフィルタである等方的フィルタを含む。カメラフォーカスぼやけは、鮮明な画像にガウシアンフィルタを適用した結果としてモデル化できるからである。
さらに別の変形例では、前記デジタル画像は一連の画像よりなり、前記一連の画像を表すデータを求め、前記デジタル画像の少なくとも1つの画素のうち各画素について、複数の一連の画像にわたる画素を有する前記画像の一領域の動きの方向を推定し、前記画素に対して前記動きの方向に沿って配置された画素の値を選択することにより、前記入力信号セクションを求める。
この変形例は、カメラぼやけの、すなわち画像に現れたオブジェクトの動きによるぼやけの除去に適している。全体的に動きの方向に合った信号セクションを求めることにより、動きにより「広がった」画像情報を含む信号セクションが求まり、これをフィルタリングしてフォーカスを回復することができる。画像の複数の画素または画像領域のそれぞれについてかかる信号セクションを求め、オブジェクトの動きによりぼやけたエリアだけをフォーカスさせる。カメラのぶれによるぼやけもこのプロセスで補正される。完全な画像をカバーする一組の画素または領域のそれぞれに対して、信号セクションを求めるからである。
一変形例は、前記画素を含む前記画像の前記領域の前記動きの大きさを決定する段階と、前記動きの大きさに依存する相互間隔である数の画素を選択する段階とを含む。
この変形例の効果は、高速で動いているオブジェクトであって情報が広い範囲に広がっているものに対して、フィルタ開口が自動的に開くことである。別にフィルタを設ける必要はない。さらに、信号セクションが含むサンプル数に関して、その信号セクションの長さを大きくする必要はない。これにより、クラスコード数が比較的少なくなる。
他の一態様により、信号をフィルタリングするデバイスが提供される。該デバイスは:信号を受け取る入力と、入力として取得した前記信号のセクションのクラスを決定するデバイスコンポーネントであって、前記デバイスコンポーネントは、前記クラスの決定は、前記入力信号セクションの少なくとも1次の微分係数を表す少なくともコンポーネントを有する信号セクションを計算する信号処理コンポーネントと、前記計算した信号セクションに量子化演算を適用する信号処理コンポーネントとを有し、前記デバイスは、前記計算した信号セクションのダイナミックレンジに量子化ステップを合わせるように前記量子化演算を実施するように構成されたデバイスコンポーネントと、利用可能な複数のデジタルフィルタを切り換えるスイッチと、を有する。
このデバイスは、プログラムされたマイクロプロセッサとして、又はフィールドプログラマブルゲートアレイ(FPGA)などの専用ハードウェアとして実施できる。コンポーネントは機能的なものであり、その機能を実行するように適切にプログラムされた1つのデバイスで実施され得る。
一実施形態では、このデバイスは、本発明による方法を実行するように構成される。
本発明の他の一態様によると、ディスプレイに少なくとも1つの画像をレンダリング(rendering)するデバイスを提供する。該デバイスは、少なくとも1つの画像を符号化する信号を受け取るインタフェースと、前記少なくとも1つの画像を表すデジタル信号をフィルタリングするフィルタデバイスとを有し、前記フィルタデバイスは本発明による信号をフィルタリングするデバイスとして構成される。
他の一実施形態では、本発明による、複数のフィルタのフィルタ係数を求める方法は、それぞれ複数のクラスのうちの1クラスに関連する複数のテスト信号セクションとそれに関連するターゲット信号とを求める段階と、各クラスについて、それに関連するフィルタの一組のフィルタ計数を、そのクラスに関連するテスト信号セクションをフィルタしたものがその関連するターゲット信号を最もよく近似するように、最適化する段階と、最適化したフィルタ係数の各組を、最適化したフィルタ係数の組に関連付けられたクラスに関連付けられたテスト信号セクションに対して、テスト信号セクションの少なくとも1次の微分係数を表す少なくとも1つのコンポーネントを有する信号セクションを計算し、前記計算した信号セクションに量子化演算を適用することにより求まるクラスコードと関連付ける段階であって、前記量子化演算において、前記計算した信号セクションのダイナミックレンジに量子化ステップを合わせる段階と、を有する。
この方法により、クラスが多数にならず、クラスベースフィルタの最適化したフィルタ係数を得られる。さらに、本方法により、急な過渡部分を有する信号セクションと有さない信号セクションに適したフィルタが得られる。本方法は、テスト信号セクションの信号特性のアプリオリな知識が無くても実施できる。量子化演算において、量子化ステップを計算された信号セクションのダイナミックレンジに合わせることによる。
一実施形態では、前記量子化演算はnビット適応型ダイナミックレンジ符号化を含む。
特に、n=1の場合、クラスコードの数はテスト信号セクションの長さが大きくなるよりゆっくり増加する。
一実施形態では、各テスト信号セクションを、デジタル画像を符号化する画素データのアレイから求める。
このように、画像のぼやけを補正する最適なフィルタが得られる。異なるクラスの信号に対して異なるフィルタを用いることにより、ぼやけた画像だけを、又は画像のぼやけた部分だけを、フォーカスさせることができる。すでにフォーカスしている部分又は画像は異なるフィルタリングがなされる。少ない画素値しか有しない特別に用意した信号セクションではなく、テスト画像を用いるので、この方法を実施するのは比較的容易である。
一実施形態では、前記複数のフィルタは等方的フィルタを含む。
この実施形態は、特に逆ガウシアンフィルタである等方的フィルタを用いる場合に、カメラフォーカスぼやけを補正する最適なフィルタを提供するのに適している。
さらに別の変形例では、前記デジタル画像は一連の画像よりなり、前記一連の画像を表すデータを求め、前記デジタル画像の少なくとも1つの画素のうち各画素について、複数の一連の画像にわたる画素を有する前記画像の一領域の動きの方向を表すデータを求め、前記画素に対して前記動きの方向に沿って配置された画素の値を選択することにより、前記テスト信号セクションを求める。
効果として、複数の異なる動いているオブジェクトを表す限定された範囲のテスト信号を用いて、様々なクラスのフィルタの最適なフィルタ係数を求めることができる。
本発明の他の一態様によると、機械読み取り可能媒体に組み込んだとき、情報処理能力を有するシステムに、本発明による方法を実行させることができる一組の命令を含むコンピュータプログラムを提供する。
添付した図面を参照して本発明をさらに詳しく説明する。
画像フィルタデバイスを有するデジタルテレビジョンレシーバのうち、一定のコンポーネントを示すブロック図である。 カメラのぼやけを除去する画像フィルタリング方法を示すフローチャートである。 比較的動きが少ない画像部分の近傍の画素を示す図である。 比較的動きが大きい画像部分の近傍の画素を示す図である。 傾きが比較的小さい信号セクションと、傾きが比較的大きい信号セクションのクラスコードの計算を示す図である。 事前に微分ステップを設けていない1ビットADRCを用いたクラスコード計算を示す図である。 カメラフォーカスぼやけの低減方法を示す図である。 図1のフィルタデバイスのフィルタ係数を求める方法を示すフローチャートである。
図1は、テレビジョンセット1の形式の、一連の動画をレンダリング(rendering)するデバイスを例として示す。このデバイスは、ビデオレコーダやDVDプレーヤなどからのビデオ入力信号を受け取るビデオデコーダ2と、オーディオ/ビデオマルチプレクサ3とを有する。放送テレビジョン信号は、チューナ/デモジュレータ4が受け取り、MPEG−2標準などによりデータストリームに返還し、デマルチプレクサ5に送られる。オーディオ/ビデオマルチプレクサ3またはデマルチプレクサ5からの信号は、デ・インターレース、スケーリング、その他のデータ処理演算のために処理デバイス6に送られ、一連のデジタル画像が画像データ処理デバイス7に利用可能となる。一実施形態では、画像は高精細テレビジョン(HDTV)フォーマットである。
画像データ処理デバイス7は、以下に詳細に説明する方法で画像データをフィルタリングするように構成されている。一実施形態では、画像データ処理デバイス7は、フィールドプログラマブルゲートアレイ(FPGA)デバイスであるが、適切にプログラムされた汎用データ処理デバイスであってもよい。図示した実施形態において、一連の画像を表すデータを受け取るレシーバ8と、フィルタリングを実施し、任意的にさらに別の画像処理演算を実施するデータ処理ユニット9と、ディスプレイデバイス12のカラムドライバ11にデータを供給するカラムドライバインタフェース10とが設けられている。ディスプレイデバイス12のロードライバ14にデータを供給するタイミングユニット13も設けられている。画像データ処理デバイス7は、さらに、ランダムアクセスメモリ(RAM)ユニットなどの形式であるメモリデバイス16へのインタフェース15と、データ処理ユニット9により実施されるアルゴリズムのパラメータ値を読み出すプログラマブルリードオンリメモリユニット18へのインタフェース17とを有する。かかるパラメータは、データ処理ユニットが利用できる複数のフィルタのフィルタ係数を含み得る。
画像データ処理デバイス7は、カメラぼやけを低減する方法と、フォーカスぼやけを低減する方法の少なくとも一方を実行するように構成されている。
フォーカスぼやけは画像で表されるオブジェクトの動きには関係していない。フォーカスぼやけは等方性ガウシアンぼやけフィルタにより近似できる。フォーカスぼやけ低減により、テレビジョンセット1などのディスプレイの知覚される静的解像度が大きくできる。
ここでカメラぼやけ(camera blur)とは、ビデオカメラのシャッターが開いている間の動きの結果であるぼやけ(blur)を意味する。このぼやけにより、動いているオブジェクトの知覚される解像度が低下する。画素データ値における急激な過渡部分はぼやけのために緩和されるが、これは動きの方向だけである。カメラぼやけは、単純な1次元平均フィルタを動きの方向に適用することによりモデル化できる。このフィルタの開口はぼやけ幅に等しく、画像に表されるオブジェクトの動きのスピードと、シャッター時間とに依存する。理論的には、動きの方向に1次元平均フィルタの逆を適用することによりカメラぼやけを無くすことができる。しかし、ぼやけ幅ごとに異なるフィルタが必要であり、逆フィルタは非常に大きくなり、すなわち多くのフィルタタップを有するものとなる。図2を参照して以下に説明する方法では、異なるフィルタを用いて異なるぼやけ幅に対して理想的フィルタを近似すること、及び動きの大きさに応じて相互の距離が異なる画素の動き依存サンプリングすることにもより、この問題を解決する。非常に多数のタップを有するフィルタを用いなければならないことを回避するため、フィルタをトレーニングして用いる。トレーニングプロセスを図8に示し、それを参照して説明する。
フォーカスぼやけ低減方法の一実施形態では、図2に示したように、一連の画像19を取得し、それぞれをフィルタリングする。各画像について、各画素位置に対して、または一緒になって画像全体を覆う複数の画像領域のうちの各画像領域に対して、動きベクトルを決定する第1のステップ20を実行する。結果は動きベクトルのアレイ(array)21である。好適な動きベクトル決定方法はDe Haan G. et al.、「True motion estimation with 3-D recursive search block-matching」、IEEE Trans. on Circ. and Systems for Video Technology, Vol. 3, October 1993, pp. 368-388に記載されている。
次に、画像中の各画素について、動き依存画素フェッチ(motion-dependent pixel fetch)を実行する(ステップ22)。このステップでは、ある数の画素値(この例では9)を含む第1の信号セクション23を求めるため、その画素の動きベクトルを求めて、動き方向に沿ってその画素に対して配置された他の画素の値を選択する。図3と4に示したように、画素値は、動きベクトルの大きさにサイズが依存する相互間隔の画素位置に対応する。このように、図4では、今調べている画素24′は、比較的小さい動きベクトル25′に関連している場合、互いに近い別の画素26′a−hを選択し第1の信号セクション23′を形成する。図5のように、画素24′′には比較的大きな動きベクトル25′′が関連している場合、別の最大間隔の画素26′′a−hを選択し、第1の信号セクション23′′を形成する。このように、画素24に対して計算された動きベクトル25が、画像データ処理デバイス7に利用できるフィルタのタップ数よりも長ければ、サブサンプリングを用いて第1の信号セクション23を求める。
図3と図4に示した実施形態では、動きベクトル25は調べている画素24を中心としている。その画素がちょうど画像の縁にある場合、ミラーリングをして第1の信号セクション23を求める。あるいは、縁の画素値をコピーするか、値ゼロを用いることができる。
次のステップ27において、第1の信号セクション23の少なくとも1次の微分係数を表す少なくとも1つのコンポーネントを有する第2の信号セクション28を計算する。一実施形態では、本方法の説明に用いるが、差分係数を用いて、1次微分の離散表現を計算する。他の実施形態では、2次微分または高次微分の表現を計算する。変形例では、別の次数の微分の表現の(場合によっては重み付けした)和を計算する。1次微分の表現のみを計算するのは実施が最も容易であり、最も正確である。
次のステップ29(図2)では、クラスコード30を求めるために、1ビットの適応的ダイナミックレンジ符号化(ADRC)を第2の信号セクション28に適用する。このタイプの符号化は1画素あたり1ビットしか使わない。別の実施形態では、2ビットADRCを用いるが、可能性のあるクラスコードの数が多くなる。
1画素あたり1ビットを用いるADRCのステップは次の通りである(図には別途示していない):
1.開口内(すなわち第2の信号セクション28内)の最大値と最小値を決定する(i.e. within the second signal section 28)。
2.最大値から最小値を引いて、第2の信号セクション28のダイナミックレンジを決定する。
3.ADRC閾値を計算する。この閾値は、最小値と、ダイナミックレンジの半分との和に等しい。
4.第2の信号セクション28の各サンプル値のビット値を決定する。サンプル値が閾値より小さければビット値はゼロであり、閾値より大きければ1である。
5.すべてのビット値を連結してクラスコード30を求める。
図5は、傾きがゆるい第1の信号セクション(左上図)のプロセスを示す。これは、比較的低い第1の閾値31より高い比較的画素値が多い第2の信号セクション(左下図)に返還される。傾きがきつい第1の信号セクション(右上図)は、比較的高い閾値32より高い比較的値が高い比較的数が少ないサンプル値を有する第2の信号セクションに返還される。このように、図5の左の2つの図に示した状況では、クラスコードは「000001111111000」であり、図5の右の2つの図に示した状況では、クラスコードは「000000011100000」である。この例では、クラスコードは15ビットの長さであり、15画素値を含む第1の信号セクション23に対応する。
図6は、微分ステップ27を省略すると何が起きるか示している。図から分かるように、図6の右側に示した第1の信号セクションに関して、1ビットADRCを用いて計算したクラスコードは、図6の左側に示した第1の信号セクションとまったく同じである。クラスコード30を用いて複数の利用可能デジタルフィルタのうちの1フィルタを選択するので(図2のステップ33)、2つの信号セクションは同様にフィルタリングされる。
このように、第1の信号セクション23を微分して第2の信号セクション28を求めるステップ27(図2)により、ADRC符号化に用いるビット数を多くしなくても、過渡部分が急な第1信号セクション23に、過渡部分が緩やかなものとは異なるクラスコードを割り当てられる。
利用可能な複数のフィルタのうちの1フィルタを選択するステップ33では、プログラマブルメモリユニット18に記憶したテーブルから、関連する一組のフィルタ係数を読み出す鍵として、クラスコードを用いる。その後、これらのフィルタ係数を用いるフィルタ演算を、第1の信号セクション23に適用して、フィルタリングした1つの画素値35を求める。これを、フィルタ済み画像を表す画素値のアレイ36に入れる(ステップ37)。これらのステップ22、27、29、33、34を入力画像の各画素に対して繰り返す。
フィルタリングはぼやけを意識したものなので、ぼやけて表現されたオブジェクトの動き量に係わらず、必要以上にぼやけを低減しない。これにより、例えば、速いシャッタースピードで撮影した高速で動くオブジェクトへの不要なフィルタリングをしない。画素のフェッチに方向性があるので、フィルタリングは一方向でよく、2次元フィルタリングと比較してリソースを節約できる。
フォーカスぼやけを低減する、すなわち入力画像38の全体的シャープネスを改善する方法の第1の変形例を図7に示す。これは図2の方法に類似しているが、動き推定ステップ20が省略されている点で異なる。
図示した実施形態では、第1の信号セクション39を、画素の近傍の画素の画素値にフェッチすることにより、入力画像38の各画素に対してアセンブルする(ステップ40)。この場合、各第1の信号セクション39についてサンプリング間隔は同じであり、かかる第1の信号セクション39のすべての画素で同じ間隔であってもよい。一実施形態では、サンプルは入力画像38の行に沿って取る。他の一実施形態では、列に沿って取る。また、対角線方向に沿って取ってもよい。さらに他の一実施形態では、図7の方法を2回実行し、1回目には行に沿って画素値にフェッチし、2回目には列に沿ってフェッチする。これは、1次元フィルタリングを実行できるとの効果を有する。
留意点として、図7に示した実施形態とは別の実施形態は、画素の2次元アレイにフェッチして、第1の信号セクション23を構成するステップを有する。この実施形態では、2次元フィルタを、クラスコードに応じて複数の利用可能な2次元フィルタから選択する。第1の信号セクションの少なくとも1次の2次元微分係数を表す少なくとも1コンポーネントを有する第2の信号セクションを計算することにより、クラスコードを計算する。この実施形態は、フォーカスぼやけの低減にはよいが、計算コストが高くなり得る。
例示した実施形態に戻り、第1の信号セクション39の微分係数を表す第2の信号セクション41を計算する(ステップ42)。そして、第2の信号セクション41に1ビットADRCを適用する(ステップ43)。その結果、クラスコード44が得られる。このクラスコード44を用いて、プログラム可能メモリユニット18から関連フィルタ係数をフェッチすることにより、複数のフィルタのうちの1フィルタを選択する(ステップ45)。フィルタを第1の信号セクション39に適用し(ステップ46)、フィルタ済み画素値47を求める。フィルタ済み画素値47を、フィルタ済み画像を表す画素値のアレイ49に加える(ステップ48)。
前述の通り、フィルタ係数はプログラム可能メモリユニット18からフェッチする。フィルタ係数は、テレビジョンセット1の生産または更新の時にプログラム可能メモリユニット18に格納される。異なるフィルタに対してフィルタ係数セットを計算する方法を図8に示した。この方法は汎用コンピュータ(図示せず)で実行できる。
この方法は、少なくとも1つの基準画像の組50を用いる。求めた各基準に対して(ステップ51)、ぼやけを加えて(ステップ52)テスト画像53を求める。
図8の方法を用いて図2の方法を実施するフィルタ係数を求める場合、動くオブジェクトに対応するぼやけ(カメラぼやけ)を加える。例示した実施形態では、あるスピードである方向に動いているオブジェクトに対応するぼやけを加える。1つまたはごく少数のテスト画像53を用いる実施形態では、基準画像50内の複数の場所に異なる程度に局所的にぼやけを加えることができる。他の一実施形態では、基準画像50全体にわたって、あるスピードである方向に動いているオブジェクトに対応するぼやけを一様に加える。この実施形態は図8に示されている。
次に、(ステップ54で)、ある位置にある画素の近傍の画素にフェッチして、基準画像50のその位置にあるその画素の値に対応する目標画素値に関連するテスト信号セクション55を形成する。
図8の方法の目的が、図2の方法を実施するためのフィルタ係数を求めることである場合、動きベクトルに沿って画素にフェッチする。一実施形態では、これには、図2の方法の第1のステップ20に関して上で説明した方法を用いて動きベクトルを計算する第1のステップを含み得る。どんな場合でも、動きベクトルの大きさに依存する相互間隔で画素にフェッチする。
図8の方法の目的が、図7の方法を実施するためのフィルタ係数を求めることである場合、水平方向、垂直方向、または対角線方向などの、ある一定のベクトルに沿って画素にフェッチする。
その後、(ステップ56において)、テスト信号セクション55の少なくとも1次の微分係数を表す少なくとも1つのコンポーネントを有する第2の信号セクション57を求める。
第2の信号セクション57に1ビットADRCを適用して(ステップ58)、クラスコード59を求める。
これらのステップ51、52、54、56、58を繰り返して、一組のテスト信号セクション55a−nと、関連する目標信号値60a−nと、関連するクラスコード59a−nとを求める。これらのステップは、各クラスコードの十分多いテスト信号セクション55a−nが得られるまで、必要なだけ繰り返す。一実施形態では、少なくとも所定の最小数の、十分に異なるテスト信号セクション55a−nを生成する。これにより、各クラスのフィルタ係数がすべて同じではなくなる。一実施形態では、あるクラスコード値があまり頻繁に出現しなければ、そのクラスに対しては最適な一組のフィルタ係数は決定しない。その替わり、そのクラスには所定の一組のフィルタ係数を関連づける。この所定の一組のフィルタ係数は、すべての信号を変化させずに通すフィルタを規定する一組のフィルタ係数であってもよい。
一組のテスト信号セクション55a−nと、関連する目標信号値60a−nと、関連するクラスコード59a−nとは、クラスコードにより表される各クラスについて最適フィルタ係数を求める、ステップ61のトレーニングデータとして機能する。最適化ステップ61は、例えば最小二乗法などを用いて、各クラスについて、フィルタされたテスト信号セクション55と、そのクラスに関連する目標信号値60との間の差の二乗和の平方根を最小化する。このような最適化法は、例えば米国特許第6,192,161B1号で知られている。
最後のステップ61は、図2の方法または図7の方法で用いる複数のフィルタを利用できるようにする複数の組のフィルタ係数を求めるために、各クラスコードに対して繰り返される。
もちろん、上記の実施形態は、本発明を例示するものであり、限定するものではなく、当業者は、添付したクレームの範囲を逸脱することなく、別の実施形態を多数設計することができる。クレームにおいて、括弧の間に入れた参照符号はクレームを限定するものと解釈してはならない。「有する」という用語は、請求項に挙げられたもの以外の構成要素やステップの存在を排除するものではない。構成要素に付された「1つの」、「一」という用語は、その構成要素が複数あることを排除するものではない。相異なる従属クレームに手段が記載されているからといって、その手段を組み合わせて有利に使用することができないということではない。
本発明は、テレビジョンセット1におけるハードウェアの実施形態で説明したが、言うまでもなく、画像エンハンスメントやビデオ編集用のソフトウェアアプリケーションのようなソフトウェアアプリケーションで実施することも可能である。また、ここに例示した方法を実行するために一連の画像を取得する必要はなく、デジタル写真にも同様に適用できる。
特許文献1は、損なわれた信号から損なわれていない信号を回復する方法、装置、及び製品を開示している。損なわれた信号は、複数の損なわれたデータポイントと損なわれていないデータポイントよりなる。損なわれた各データポイントに対して、その損なわれたデータポイントを含むエリアの特徴に基づき複数のクラスタイプを生成する。データポイントは、複数のクラスタイプのうちの1クラスタイプにより分類され、対応する入力信号クラスに割り当てられる。損なわれていない信号は、入力信号の分類結果により入力信号を適応的フィルタリングして生成する。生成されるクラスには、動きクラス、エラークラス、空間的クラス、空間的アクティビティクラスなどが含まれる。空間的クラスは、ターゲットデータの空間的特徴を記述するのに用いられる値のコレクションである。例えば、各クラスを空間的クラスとして生成するため、ADRC(Adaptive Dynamic Range Coding)を用いることができる。空間的分類の他の例としては、差分PCMなどがあるが、これらを用いても良い。
特許文献2は、入力画像からぼやけを除去する時に用いるぼやけ量クラスプロダクションセクションを開示している。ぼやけ量クラスプロダクションセクションは、それぞれぼやけ除去量が異なる複数のぼやけ除去画像を受け取る。各ぼやけ除去画像に対して特徴を計算する。各特徴について最大値を計算する。入力画像からADRCコードを計算する。ADRCコードを用いて、上限を求め、その上限から閾値を計算する。各特徴の最大値にその閾値を適用する。最後に、閾値を適用した結果を結合して、ぼやけ量クラスコードを求める。
特許文献3は、損なわれた信号を損なわれていない信号に回復する方法を開示している。損なわれた信号は、複数の、損なわれたデータポイントと損なわれていないデータポイントとよりなる。各損なわれたデータポイントについて、その損なわれたデータポイントを含むエリアの特性に基づき、動きベクトルクラスを含む複数のクラスタイプを生成する。データポイントを、複数のクラスタイプのうちの1クラスタイプにより分類し、対応する入力信号クラスを割り当てる。入力信号の分類結果により損なわれた入力信号を適応的にフィルタリングして、損なわれていない信号を生成する。複数のクラスタイプを生成するため、2つ以上の分類方法を用いる。生成されるクラスには、動きクラス、エラークラス、空間的クラス、空間的アクティビティクラス、または動きベクトルクラスが含まれ得る。
米国特許第6,192,161B1号 米国特許出願公開第2009/0161977A1号 米国特許第6,351,494B1号

Claims (15)

  1. 信号をフィルタリングする方法であって、
    入力として取得した前記信号のセクションのクラスを決定する段階であって、前記クラスの決定は、前記入力信号セクションの少なくとも1次の微分係数を表す少なくともコンポーネントを有する信号セクションを計算する段階と、前記計算した信号セクションに量子化演算を適用する段階とを有し、前記量子化演算において、前記計算した信号セクションのダイナミックレンジに量子化ステップを合わせる段階と、
    利用可能な複数のフィルタから前記クラスに関連するデジタルフィルタを選択する段階と、を有する方法。
  2. 前記量子化演算はnビット適応型ダイナミックレンジ符号化を含む、
    請求項1に記載の方法。
  3. 前記入力信号セクションを、デジタル画像を符号化する画素データのアレイから求める、請求項1に記載の方法。
  4. 前記複数のフィルタは等方的フィルタを含む、
    請求項3に記載の方法。
  5. 前記デジタル画像は非値連の画像よりなり、前記一連の画像を表すデータを求め、前記デジタル画像の少なくとも1つの画素のうち各画素について、複数の一連の画像にわたる画素を有する前記画像の一領域の動きの方向を推定し、前記画素に対して前記動きの方向に沿って配置された画素の値を選択することにより、前記入力信号セクションを求める、請求項3に記載の方法。
  6. 前記画素を含む前記画像の前記領域の前記動きの大きさを決定する段階と、前記動きの大きさに依存する相互間隔である数の画素を選択する段階とを含む、
    請求項5に記載の方法。
  7. 信号をフィルタリングするデバイスであって、
    前記信号を受け取る入力と、
    入力として取得した前記信号のセクションのクラスを決定するデバイスコンポーネントであって、前記デバイスコンポーネントは、前記クラスの決定は、前記入力信号セクションの少なくとも1次の微分係数を表す少なくともコンポーネントを有する信号セクションを計算する信号処理コンポーネントと、前記計算した信号セクションに量子化演算を適用する信号処理コンポーネントとを有し、前記デバイスは、前記計算した信号セクションのダイナミックレンジに量子化ステップを合わせるように前記量子化演算を実施するように構成されたデバイスコンポーネントと、
    利用可能な複数のデジタルフィルタを切り換えるスイッチと、を有するデバイス。
  8. 請求項1ないし-6いずれか一項に記載の方法を実行するように構成された、
    請求項7に記載のデバイス。
  9. ディスプレイに少なくとも1つの画像をレンダリングするデバイスであって、
    少なくとも1つの画像を符号化する信号を受け取るインタフェースと、前記少なくとも1つの画像を表すデジタル信号をフィルタリングするフィルタデバイスとを有し、前記フィルタデバイスは請求項8または9に記載のように構成された、デバイス。
  10. 複数のフィルタのフィルタ係数を取得する方法であって、
    それぞれ複数のクラスのうちの1クラスに関連する複数のテスト信号セクションと、それに関連する目標信号値とを求める段階と、
    各クラスについて、それに関連するフィルタの一組のフィルタ計数を、そのクラスに関連するテスト信号セクションをフィルタしたものがその関連するターゲット信号を最もよく近似するように、最適化する段階と、
    最適化したフィルタ係数の各組を、最適化したフィルタ係数の組に関連付けられたクラスに関連付けられたテスト信号セクションに対して、テスト信号セクションの少なくとも1次の微分係数を表す少なくとも1つのコンポーネントを有する信号セクションを計算し、前記計算した信号セクションに量子化演算を適用することにより求まるクラスコードと関連付ける段階であって、前記量子化演算において、前記計算した信号セクションのダイナミックレンジに量子化ステップを合わせる段階と、を有する方法。
  11. 前記量子化演算はnビット適応型ダイナミックレンジ符号化を含む、
    請求項10に記載の方法。
  12. 前記各テスト信号セクションを、デジタル画像を符号化する画素データのアレイから求める、請求項10に記載の方法。
  13. 前記複数のフィルタは等方的フィルタを含む、
    請求項12に記載の方法。
  14. 前記デジタル画像は一連の画像よりなり、前記一連の画像を表すデータを求め、前記デジタル画像の少なくとも1つの画素のうち各画素について、複数の一連の画像にわたる画素を有する前記画像の一領域の動きを表すデータを求め、前記画素に対して前記動きの方向に沿って配置された画素の値を選択することにより、前記テスト信号セクションを求める、請求項12に記載の方法。
  15. 機械読み取り可能媒体に組み込んだとき、情報処理能力を有するシステムに、請求項1ないし6または請求項10ないし14のいずれか一項に記載の方法を実行させることができる一組の命令を含むコンピュータプログラム。
JP2012522299A 2009-07-30 2010-07-23 信号フィルタリング方法及びフィルタ係数計算方法 Abandoned JP2013500666A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP09305717.2 2009-07-30
EP09305717 2009-07-30
PCT/IB2010/053360 WO2011013045A1 (en) 2009-07-30 2010-07-23 Method of filtering a signal and of obtaining filter coefficients

Publications (1)

Publication Number Publication Date
JP2013500666A true JP2013500666A (ja) 2013-01-07

Family

ID=42787423

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012522299A Abandoned JP2013500666A (ja) 2009-07-30 2010-07-23 信号フィルタリング方法及びフィルタ係数計算方法

Country Status (7)

Country Link
US (1) US20120128263A1 (ja)
EP (1) EP2460141B1 (ja)
JP (1) JP2013500666A (ja)
KR (1) KR20120052361A (ja)
CN (1) CN102473292A (ja)
RU (1) RU2012107445A (ja)
WO (1) WO2011013045A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140333669A1 (en) * 2013-05-08 2014-11-13 Nvidia Corporation System, method, and computer program product for implementing smooth user interface animation using motion blur
US11823310B2 (en) * 2018-09-07 2023-11-21 Streem, Llc. Context-aware selective object replacement

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8032477B1 (en) * 1991-12-23 2011-10-04 Linda Irene Hoffberg Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore
US7242988B1 (en) * 1991-12-23 2007-07-10 Linda Irene Hoffberg Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore
US6850252B1 (en) * 1999-10-05 2005-02-01 Steven M. Hoffberg Intelligent electronic appliance system and method
US7006881B1 (en) * 1991-12-23 2006-02-28 Steven Hoffberg Media recording device with remote graphic user interface
US7904187B2 (en) * 1999-02-01 2011-03-08 Hoffberg Steven M Internet appliance system and method
US6192161B1 (en) 1999-02-12 2001-02-20 Sony Corporation Method and apparatus for adaptive filter tap selection according to a class
US6658155B1 (en) * 1999-03-25 2003-12-02 Sony Corporation Encoding apparatus
US6351494B1 (en) * 1999-09-24 2002-02-26 Sony Corporation Classified adaptive error recovery method and apparatus
US6969991B2 (en) * 2002-12-11 2005-11-29 The Board Of Trustees Of The Leland Stanford Junior University Correction of the effect of spatial gradient field distortions in diffusion-weighted imaging
US8120960B2 (en) * 2007-11-07 2012-02-21 Spansion Israel Ltd. Method and apparatus for accessing a non-volatile memory array comprising unidirectional current flowing multiplexers
JP4882999B2 (ja) 2007-12-21 2012-02-22 ソニー株式会社 画像処理装置、画像処理方法、プログラム、および学習装置

Also Published As

Publication number Publication date
RU2012107445A (ru) 2013-09-10
WO2011013045A1 (en) 2011-02-03
EP2460141A1 (en) 2012-06-06
EP2460141B1 (en) 2013-04-17
US20120128263A1 (en) 2012-05-24
CN102473292A (zh) 2012-05-23
KR20120052361A (ko) 2012-05-23

Similar Documents

Publication Publication Date Title
JP5160451B2 (ja) エッジ・ベースの空間‐時間的フィルタリングの方法および装置
CN101640801B (zh) 图像处理设备和图像处理方法
EP2330817B1 (en) Video signal converting system
WO2007040765A1 (en) Content adaptive noise reduction filtering for image signals
JP2012256202A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2008518318A (ja) ボケた画像部分の画質を向上する方法
CN112150400B (zh) 图像增强方法、装置和电子设备
JP4762352B1 (ja) 画像処理装置及び画像処理方法
JP2005176381A (ja) 適応的動き補償の補間方法及び装置
EP2330818A1 (en) Frame rate converting apparatus and corresponding point estimating apparatus, corresponding point estimating method and corresponding point estimating program
JP2007512750A (ja) ビデオ信号における局所的な画像空間−時間細部の検出
KR102183518B1 (ko) 이미지 신호로부터 계단 아티팩트들을 감소시키는 이미지 프로세싱 장치
JP2005150903A (ja) 画像処理装置、ノイズ除去方法及びノイズ除去プログラム
JP2013500666A (ja) 信号フィルタリング方法及びフィルタ係数計算方法
JP2005012641A (ja) ブロックノイズ検出装置及びそれを用いたブロックノイズ除去装置
JP4931884B2 (ja) フレームレート変換装置、フレームレート変換方法及びフレームレート変換プログラム
JP5130171B2 (ja) 画像信号処理装置および画像信号処理方法
JP4065287B2 (ja) 画像データのノイズ除去方法及びその装置
JP5081109B2 (ja) 映像信号変換システム
KR100772405B1 (ko) 전역 움직임 추정에 근거한 적응성 잡음 감쇄 방법 및 영상처리 시스템
JP2010062956A (ja) フィルタリング処理装置及びフィルタリング処理方法
JP5752167B2 (ja) 画像データ処理方法及び画像データ処理装置
JP5042172B2 (ja) 動画処理装置及び動画処理方法
JP4743449B2 (ja) 対応点推定装置、対応点推定方法及び対応点推定プログラム
JP2010015483A (ja) 画像処理装置、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130719

A762 Written abandonment of application

Free format text: JAPANESE INTERMEDIATE CODE: A762

Effective date: 20140303