JP2009525636A - 2色イメージを用いたベイズ式デモザイク法 - Google Patents

2色イメージを用いたベイズ式デモザイク法 Download PDF

Info

Publication number
JP2009525636A
JP2009525636A JP2008552397A JP2008552397A JP2009525636A JP 2009525636 A JP2009525636 A JP 2009525636A JP 2008552397 A JP2008552397 A JP 2008552397A JP 2008552397 A JP2008552397 A JP 2008552397A JP 2009525636 A JP2009525636 A JP 2009525636A
Authority
JP
Japan
Prior art keywords
pixel
color
image
colors
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008552397A
Other languages
English (en)
Other versions
JP4527172B2 (ja
JP2009525636A5 (ja
Inventor
ピー.ベネット エリック
ティー.オイテンダエル マシュー
エル.ジトニック チャールズ
ビン カン シン
エス.セーリスキー リチャード
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2009525636A publication Critical patent/JP2009525636A/ja
Publication of JP2009525636A5 publication Critical patent/JP2009525636A5/ja
Application granted granted Critical
Publication of JP4527172B2 publication Critical patent/JP4527172B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/58Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

イメージアーティファクトを削減するようにイメージをデモザイクするために、デジタルカラーイメージを処理するためのベイズ式2色イメージデモザイサおよび方法。この方法およびシステムは、以前のデモザイク技法の改良および機能強化である。各ピクセルに完全に指定されたRGBトリプルカラー値を割り当てるために、イメージに対して予備的なデモザイクパスが実行される。処理されるイメージ内のピクセルの最終カラー値は、2色の線形組合せに制限される。優先2色を表す2つのクラスタを見つけるために、イメージ内の各ピクセルについて完全に指定されたRGBトリプルカラー値が使用される。次いで、これらの優先2色からの最終カラー値に対するコントリビューションの量が決定される。この方法およびシステムは、デモザイクの結果を改善するために、複数のイメージも処理することができる。複数のイメージを使用する場合、超解像度として知られる、より精細な解像度でのサンプリングを実行することができる。

Description

デジタルスチールカメラは、当該カメラの価格が下がるにつれて、その人気および品質が上がり続けている。ほとんどのデジタルスチールカメラは、単一のイメージセンサを使用して、カラーイメージ内の各ピクセルについての色情報を取得する。このイメージセンサは通常、電荷結合素子(CCD)または相補型金属酸化膜半導体(CMOS)であり、カラーイメージのピクセルをまとめて表すセンサアレイの一部である。
イメージセンサは、所与のピクセルにおける単一の色に関する情報しか生成することができない。しかしながら、カラーイメージは、3つの別々の単色イメージを組み合わせることによって表される。カラーイメージを表示するためには、各ピクセルにおける赤、青、および緑(RGB)のすべてのカラー値が必要である。欠けている他の2つのカラーを取得するためには、イメージ内の周囲のピクセルから、当該欠けているカラーを推定または補間する技法を使用しなければならない。この種の推定および補間技法は、「デモザイク法(demosaicing)」と呼ばれる。
「デモザイク法」という用語は、モザイクパターンに配置構成されたカラーフィルタアレイ(CFA)がイメージセンサの前で使用されることに由来する。このモザイクパターンは、イメージ内の各ピクセルについて1つのカラー値しか有さない。完全なカラーイメージを取得するためには、モザイクパターンを「デモザイク」しなければならない。したがって、デモザイク法とは、モザイクパターンのCFAによって取得されたイメージを逆補間する技法であるため、完全なRGB値をあらゆるピクセルに関連付けることができる。
より具体的には、単一のセンサのデジタルカメラは、光路内でCFAが先行するイメージセンサアレイを使用して、イメージを取得する。非常に人気のある一般的なモザイクCFAは、バイエルモザイクパターン(Bayer mosaic pattern)と呼ばれる。各2×2セットピクセルの場合、斜めに向かい合った2つのピクセルが緑のフィルタを有し、他の2つのピクセルが赤および青のフィルタを有する。緑色(G)は、人間に関するほとんどの輝度情報を伝達するため、そのサンプリングレートは、赤色(R)および青色(B)の2倍である。
現在使用可能なデモザイク技法には、双線形補間、メディアンフィルタリング、ベクトルCFA、勾配ベースの統計モデリングなどの、多くのタイプが存在する。しかしながら、これらの現行のデモザイク技法はそれぞれ、視覚的かつ量的に測定可能なアーティファクト(artifact)を生成してしまう。これらのアーティファクトは、あるエッジに沿ったあらゆる他のピクセルがそのエッジに対してオンまたはオフであるとみなされることを繰り返す、エイリアシングまたは「ジッパリング(zippering)」アーティファクトと、鋭いエッジに沿って、またはそのエッジ上に、黄、紫、およびシアンが現れるカラーフリンジング(color fringing)とを含む。
この要約は、以下で詳細な説明においてさらに記載する例示的な形態における選択した概念を簡略化した形で紹介するために提供するものである。この要約は、特許請求する主題事項の重要な特徴または必須の特徴を特定するよう意図しているものでもないし、特許請求する主題事項の範囲を限定するために使用されるよう意図しているものでもない。
本明細書で開示されるベイズ式2色イメージデモザイク方法およびデモザイクシステムは、イメージアーティファクトを減少させるようにイメージをデモザイクするための、デジタルカラーイメージの処理を含む。ベイズ式2色イメージデモザイク方法およびデモザイクシステムは、エッジを横切るカラーを、両側でのカラーの線形組合せとしてモデル化する、イメージモデルを採用する。これにより、カラーフリンジングを含む可能性が減少する。さらに、ベイズ式2色イメージデモザイク方法およびデモザイクシステムによって使用される統計モデルは、グリッドベースではないため、ビデオ処理用のマルチイメージデモザイクと、非反復超解像出力サンプリング(non−iterative super−resolution output sampling)との両方の拡張を容易に可能にする。線形モデルへの出力イメージを制約することによって、鋭いエッジを保ちながら、平滑領域内の可視ノイズも削減される。
ベイズ式2色イメージデモザイク方法およびデモザイクシステムは、既存のデモザイク技法の改善および機能強化である。この方法およびシステムは、イメージ内の各ピクセルに対して完全に指定されたRGBトリプルカラー値を割り当てるために、イメージに対して予備的なデモザイクパス(preliminary demosaicing pass)を実行する。次に、この予備的なパスの結果が、ベイズ式2色イメージデモザイク方法およびデモザイクシステムによって改善される。一般的には、処理中のピクセルの中心となる(5×5ピクセル「パッチ」などの)小さなウィンドウまたは処理領域内では、2色しか存在しないと想定される。2色のみであるという想定の結果、最終結果では、ランダムなカラーを事実上排除することになる。次いで、ピクセルのカラーは、それら2色の線形組合せとなるように制限される。これにより、カラーアーティファクトを発生させる擬似的なカラー(spurious color)が軽減される。
ベイズ式2色イメージデモザイク方法は、イメージ内の各ピクセルについて完全に指定されたRGBトリプルカラー値を取得すること、および、次いで、このRGBトリプルカラー値を使用して、各ピクセルについて最終カラー値を決定することを含む。最終カラー値は、2色の組合せであり、2色からのコントリビューション(contribution)しか有さない。この2色は、完全に指定されたRGBトリプルカラー値を2つのクラスタにクラスタ化すること、各クラスタの平均を取ること、および、この各クラスタの平均を優先(favored)2色と呼ぶことによって見つけられる。
優先2色が見つかると、各カラーの最終カラー値に対するコントリビューションの程度を決定しなければならない。これは、バイエルカラーフィルタから取得された処理領域内のサンプルを使用して、各ピクセルの部分混合値(fractional blended value)を計算することによって実現される。次いで、与えられたサンプルセットの部分混合値の最大確率を見つけることによって、最大部分混合値が見つけられる。最終カラー値は、最大部分混合値および優先2色から計算される。
ベイズ式2色イメージデモザイク方法およびデモザイクシステムは、複数のイメージを処理して、デモザイクの結果を向上させることもできる。第1に、複数のイメージは、整列されるようにして互いに登録される。基準イメージが選択され、他のイメージは、この基準イメージを基準にして再構築される。この処理は、イメージの不完全な整列を補償するための技法が使用される点を除いて、単一のイメージの場合と同様である。補償技法は、二乗差(squared difference)の合計が大きい場合に、ガウス分散を増加させるための倍率(scaling factor)を使用する。この倍率は、整列アルゴリズムの品質に基づいて変化する。
複数のイメージを使用する場合、ベイズ式2色イメージデモザイク方法およびデモザイクシステムは、超解像度として知られる、より精細な解像度でサンプリングすることもできる。超解像度の場合、精細な細部を取得するために、統計クラスタ化と、ローカルな近傍サイズ(local neighborhood size)とをわずかに縮小することができる。それ以外については、システムは、マルチイメージデモザイクの場合と同様に動作する。
代替実施形態が可能であること、また、本明細書で説明するステップおよび要素は、特定の実施形態に応じて、変更、追加、または削除することが可能であることに留意されたい。こうした代替実施形態は、本発明の範囲を逸脱することなく、使用可能な代替ステップ、および代替要素、ならびに実行可能な構造的変更を含むものである。
次に、全体を通じて類似する参照番号は対応する部分を表す図面を参照する。
ベイズ式2色イメージデモザイク方法およびデモザイクシステムに関する以下の説明では、その一部を形成する添付の図面が参照され、この図面には、ベイズ式2色イメージデモザイク方法およびデモザイクシステムを実施する際に使用可能な特定の例が示されている。特許請求される主題事項の範囲を逸脱することなく、他の実施形態が使用可能であること、および構造的変更が可能であることを理解されたい。
I.全般的な概要
図1および図2は、本明細書で開示するベイズ式2色イメージデモザイク方法およびデモザイクシステムの2つの例示的な実装を示すブロック図である。図1および図2は、ベイズ式2色イメージデモザイク方法およびデモザイクシステムを実装および使用することが可能ないくつかの方法のうちの、単に2つに過ぎないことに留意されたい。
図1を参照すると、第1の例示的な実装では、ベイズ式2色イメージデモザイサ(demosaicer)200が、デジタルカメラシステム210に存在する。一般に、ベイズ式2色イメージデモザイサ200は、予備的なパスデモザイサ220を使用して作成された予備的なデモザイクパスに続くカラーイメージ(図示せず)を改善する。より具体的には、図1に示したように、ベイズ式2色イメージデモザイサ200は、イメージセンサアレイ225を含むデジタルカメラシステム210の一部である。アレイ225は、複数のイメージセンサから構成され、各イメージセンサは、単一のカラー値を決定することができる。
イメージセンサアレイ225は、センサ基板230、カラーフィルタアレイ(CFA)240、およびレンズ250を含む。図1および図2において破線で示されるように、通常は、レンズ250は、CFA240を覆うように配置され、CFA240は、基板230を覆うように配置されることに留意されたい。取得されることになるイメージ(図示せず)からの光は、(矢印255によって示されるように)デジタルカメラシステム210に入射する。レンズ250の目的は、入射光255をイメージセンサアレイ225上に集束させることにある。イメージセンサアレイ225内の各センサはピクセルを表す。CFA240は、各ピクセルのカラー応答を変化させる。センサ基板230は、(CFA240によって示されるような)特定カラーの入射光を取得し、電気信号を生成する。このようにして、イメージセンサアレイ225は、イメージセンサアレイ225内に配置構成された赤、緑、および青のセンサを用いて、イメージからの入射光255をサンプリングする。
イメージセンサアレイ225内の各ピクセルは、赤、緑、または青のセンサの出力である。したがって、センサ出力は、イメージセンサアレイ225内の各ピクセルに対する単一のカラー値に対応する、各センサからの電気信号である。出力は、元々のモザイクパターン化されたピクセルデータ260である。前述したように、完全なカラーイメージを表示するためには、赤、緑、および青に関するカラー情報を各ピクセルにおいて取得しなければならない。これは、モザイクパターン化されたピクセルデータ260内で、欠けているカラー値をデモザイクまたは補間することによって実現される。
元々のモザイクパターン化されたピクセルデータ260は、デジタルカメラシステム210のボード上に配置された第1のコンピューティングデバイス270に送信される。第1のコンピューティングデバイス270上には、予備的なパスデモザイサ220およびベイズ式2色イメージデモザイサ200が存在する。予備的なパスデモザイサ220は、欠けているカラー値の推定を補間するために使用される。予備的なパスデモザイサ220の出力は、デジタルカメラシステム210によって取得されたカラーイメージ内の各ピクセルについての完全なRGBカラー値を含む、ピクセルデータ280である。ベイズ式2色イメージデモザイサ200は、ピクセルデータ280を受信し、以下で詳細に説明するように、このデータ280を処理する。ベイズ式2色イメージデモザイサ200による処理の後、イメージアーティファクトが削減された改善したカラーデジタルイメージ290が取得される。
次に図2を参照すると、第2の例示的な実装では、デジタルカメラシステム210とは分離された第2のコンピューティングデバイス295上に、ベイズ式2色イメージデモザイサ200が存在する。元々のモザイクパターン化されたピクセルデータ260は、デジタルカメラシステム210から第2のコンピューティングデバイス295へと送信される。このピクセルデータ260は通常、インターフェース接続297を介して第2のコンピューティングデバイス295へ送信される。このインターフェース接続297は、USBインターフェース、IEEE 1394インターフェース、Bluetooth(登録商標)インターフェース、または、デジタルカメラシステム210から第2のコンピューティングデバイス295へと元々のピクセルデータ260を送信するのに適した任意の他のインターフェースとすることができる。以下で詳細に説明するように、ベイズ式2色イメージデモザイサ200は、ベイズ式2色イメージデモザイク方法を使用して、ピクセルデータ260を改善し、イメージアーティファクトが削減されたこの改善したカラーデジタルイメージ290を提供する。
II.動作の概要
次に、図1および図2に示したベイズ式2色イメージデモザイサ200の動作、およびベイズ式2色イメージデモザイサ200で使用される方法について説明する。図3は、ベイズ式2色イメージデモザイサ200の一般的な動作を示す概略的な流れ図である。一般に、ベイズ式2色イメージデモザイク方法では、イメージ内のピクセルについてのピクセルカラー値が入力され、各ピクセルが処理され、イメージアーティファクトが削減された処理済みのイメージが出力される。
より具体的には、図3に示すように、ベイズ式2色イメージデモザイク方法は、デジタルカラーイメージ内の各ピクセルについて完全に指定された赤(R)、緑(G)、および青(B)のトリプルカラー値を取得することから開始する(ボックス300)。完全に指定されたRGBトリプルカラー値とは、ピクセルに対して赤、緑、および青のカラー値が使用可能であることを意味する。通常、ベイズ式2色イメージデモザイク方法は、デジタルカラーイメージに対して予備的なデモザイクパスを実行することによって、これらの完全に指定されたRGBトリプルカラー値を取得する。次いで、ベイズ式2色イメージデモザイク方法は、この予備的なデモザイクパスの結果を改善する。
次いで、ベイズ式2色イメージデモザイク方法では、デジタルカラーイメージ内の各ピクセルについて、最終カラー値が決定される(ボックス310)。この最終カラー値は、2色の組合せまたは混合であり、この2色は、完全に指定されたRGBトリプルカラー値のうちの少なくともいくつかを使用することによって取得される。すなわち、たとえ完全に指定されたRGBトリプルカラー値に、いくつかのカラーが含まれる場合であっても、処理中のピクセルについての最終カラー値を決定する際には、それらカラー値のうちの2つの組合せのみが使用される。出力は、デジタルカラーイメージ内の各ピクセルについて見つけられた最終カラー値である(ボックス320)。
III.動作の詳細および動作例
次に、ベイズ式2色イメージデモザイク方法の詳細について説明する。図4は、図3に示したベイズ式2色イメージデモザイク方法のさらに詳細な動作を示す詳細な流れ図である。特に、デジタルカラーイメージ内の各ピクセルについて完全に指定されたRGBトリプルカラー値を計算するために、予備的なデモザイクパスが実行される(ボックス400)。初期には、イメージに関するバイエルパターンが存在し、その中には、イメージ内の各ピクセルについて、R、G、またはBのカラー値のみが存在する。予備的なデモザイクパスは、デモザイク技法を使用して、処理中のピクセルを中心とする処理領域内のピクセルの各々において、実際の完全なカラー(RGB)値を取得する。一実施形態では、予備的なデモザイクパスは、双線形補間技法を使用して実行される。代替実施形態では、メディアンフィルタリング技法、ベクトルCFA技法、勾配ベース技法、および統計モデリング技法などの、他のタイプの予備的なパスデモザイク技法を使用することもできる。しかしながら、予備的なパスデモザイク技法を選択する場合、最良の入力を与えることになる技法は、ベイズ式2色イメージデモザイク方法による最良の出力ももたらすことに留意されたい。
次いで、処理のためのピクセルが選択され、処理されるピクセルとして定められる。加えて、処理されるピクセル周囲の領域が、処理領域として定められる(ボックス410)。処理領域(すなわち、「ウィンドウ」または「パッチ」)は通常、5×5ピクセルパッチであるが、他のサイズも可能である。一実施形態では、処理されるピクセルが処理領域の中心となるように、パッチサイズは奇数である。例えば、5×5の処理領域では、処理されるピクセルは、5×5パッチの中心ピクセルとなる。
次いで、処理されるピクセルについて優先2色が計算される(ボックス420)。これは、処理領域内の各ピクセルの完全に指定されたRGBトリプルカラー値を使用して実現される。以下で詳細に説明するように、完全に指定されたRGBトリプルカラー値には、いくつかのカラーを含めることができるが、それらのカラーは、2つの優先色のみにクラスタ化される。優先2色と、完全に指定されたRGBトリプルカラー値とを使用して、処理されるピクセルについての最終カラー値が計算される(ボックス430)。ピクセルを選択すること、処理領域を定めること、優先2色を計算すること、および最終カラー値を計算することというすべてのプロセスが、デジタルカラーイメージ内の残りのピクセルに対して繰り返される(ボックス440)。ベイズ式2色イメージデモザイク方法の出力は、イメージアーティファクトが削減された改善したデジタルカラーイメージである(ボックス450)。
図5は、優先2色の計算プロセスを示す流れ図である。すなわち、図5は、処理領域内のピクセルのカラー値の中から、優先2色がどのように見つけられるかを示している。このプロセスは、処理領域内の各ピクセルについて完全に指定されたRGBトリプルカラー値の初期クラスタ化を実行することによって開始する(ボックス500)。処理領域が5×5ピクセルであると想定すると、目標は、5×5の処理領域内の25のカラー値の中から優先2色を見つけることと、これら25のカラー値を2つの優先カラーにグループ化することとにある。これは一般に、任意のクラスタ化技法を使用して実行することができる。一実施形態では、その効率性を理由として、k平均技法が使用される。k平均技法における「k」とは、クラスタタイプの数を表し、このケースではk=2である。k平均クラスタ化技法は、精度と速度とのバランスである。k平均クラスタ化技法は当業者に良く知られており、本明細書ではこれ以上詳細に説明しないことにする。代替実施形態では、期待値最大化(EM)技法または平均シフト技法が使用される。
しかしながら、k平均技法に伴う問題点の1つは、異常値(outlier)が結果に悪影響を及ぼす可能性があるということである。異常値とは、残りのデータから大きく外れた位置にあるデータポイントのことである。統計分布では、データポイント群が特定の領域内に属することを予想し、その領域内に属さないものが異常値と呼ばれる。異常値を補正するために、優先2色計算プロセスは、異常値除去技法を含む。この異常値除去技法を使用して、優先2色に対する異常値の影響を最小限にする(ボックス510)。
次いで、優先2色は、異常値除去結果を使用することにより、処理領域内の各ピクセルについて完全に指定されたRGBトリプルカラー値のクラスタ化を更新することによって計算される(ボックス520)。次に、デジタルカラーイメージ内の残りのピクセルに対して、上記の処理が繰り返される(ボックス530)。次いで、イメージ内の各ピクセルについて、各ピクセルの優先2色が取得される。
図6は、最終カラー値の計算プロセスの詳細を示す流れ図である。このプロセスは、優先2色の各々の最終カラー値に対するコントリビューションを指定する、処理されるピクセルについての部分混合値を定めることによって開始する(ボックス600)。したがって、部分混合値は、ピクセルの最終カラー値が優先2色の各々からどの程度のコントリビューションを得るかを決定する。
次いで、処理されるピクセルについて最大部分混合値が決定される(ボックス610)。最大部分混合値は、処理領域内の完全に指定されたRGBトリプルカラー値の各々を使用して部分混合値の確率を最大にする、優先2色の混合または組合せとして定められる。おそらく、これには、複数のカラーセットを探すこと、および、次いで、どれが最大値を与えるかを見つけるためにそれらのカラーすべてを試すことが含まれる。例えば、3つのカラーJ、K、およびLを試し、J、K、およびLのすべての組合せを試し、どれが最高の確率を与えるかを探すことを想像してみる。したがって、すべてのカラーの中で、優先2色が、処理されるピクセルを表す最高の2色である。「最高の」2色とは、以下の式(3)の最大値の引数(すなわち、「arg max」)を最大にする2色を意味する。「arg max」は、所与の式の値がその最大値に達する、所与の引数の値である。
次いで、優先2色と最大部分混合値とを使用して、処理されるピクセルの最終カラー値が計算される(ボックス620)。この最終カラー値は、以下の式(1)に示される。上記の処理は、各ピクセルの最終カラー値を取得するために、デジタルカラーイメージ内の残りのピクセルに対して繰り返される(ボックス630)。
本明細書に開示するベイズ式2色イメージデモザイク方法およびデモザイクシステムについて、より完全に理解してもらうために、例示的な動作例における動作の詳細を提示する。この動作例は、ベイズ式2色イメージデモザイク方法およびデモザイクシステムを実装可能な一例に過ぎないことに留意されたい。
ベイズ式2色イメージデモザイク方法およびデモザイクシステムによる処理の中心とする仮定は、ローカルな近傍内に多くとも2つの代表するカラーが存在することである。近傍内のあらゆるピクセルの最終カラー値は、代表するカラーのうちのいずれであるか、またはその両方の組合せである。この動作例では、代表するカラーの組合せは線形組合せであった。この仮定は、2つより多い異なるカラーが集まる領域では破られたが、こうした事が発生するのは比較的稀であった。したがって、ベイズ式2色イメージデモザイク方法およびデモザイクシステムは、非常に堅牢である。
各ピクセルにおいて基礎となる2色モデルを発見するために、各ピクセル周囲の近傍が、それら2色にクラスタ化された。バイエルイメージは、単一のチャネルサンプルのみを提供し、モデルを指定するために、2つの未知のRGBトリプルカラー値と未知の混合係数(blending coefficient)とを残した。この動作例では、重みを各サンプルからカーネルの中心までの逆ユークリッド距離とする、重み付けされたk平均技法が使用された。クラスタサイズはバランスがとれないため、別の平滑領域内の単一のピクセルの細部を保つことができることに留意されたい。さらに、LαβまたはXYZなどの他のカラースペース内でクラスタ化を実行することができるが、これらのスペース内での処理は、クラスタの精度にほとんど差を生じさせない。
クラスタに対するサンプルの近傍サイズは、ソースイメージ内にどれだけ大きなカラー細部が現れるかの関数である。この動作例では、カーネルの中心周囲の2ピクセル半径が良好に動作することがわかった。これにより、バイエルカラーチャネルの各々から、十分なサンプル数が供給された。
2つより多くのカラーがローカルなイメージ領域内に存在する場合があること、または大きなノイズが存在する場合があることが考えられるため、ベイズ式2色イメージデモザイク方法およびデモザイクシステムでは、異常値除去技法も使用した。クラスタの平均および分散を使用して、最も近いクラスタ平均の単一の標準偏差の外側にあったサンプルが除去された。次いで、より異常値の少ないクラスタ平均を取得するために、k平均技法が繰り返された。これにより、カラー値がカーネル中心から離れるよう直ちに変更された、より良い複製(reproduction)が提供された。
クラスタ化の品質における主要な要素は、クラスタ化を扱いやすくするために「ブートストラッピング」デモザイク法に使用される、予備的なパスデモザイク技法の選択である。(前述したように、)多くのタイプの予備的なパスデモザイク技法を使用することができるが、性能を向上させる品質が存在する。第1に、高周波数機能の保持または強調である。双線形補間およびメディアン補間などの技法は、避ける必要がある低域フィルタの傾向を有する。代替として、高周波数を保持するアルゴリズムは、エッジフリンジングおよびエイリアシングを生成する傾向がある。この動作例では、高周波数を保持し、多くのフリンジングアーティファクトを生成しなかったことから、予備的なパスデモザイク法において、高品質線形補間(HQLI)技法を使用した。
(2色デモザイク法)
2色モデルは、イメージ内の各ピクセルxについて、2つの優先RGB
Figure 2009525636
および
Figure 2009525636
を提供する。ピクセルxのカラーCは、以下の式によって与えられる、これら2つのカラーの線形組合せであると想定した。
Figure 2009525636
式(1)は混合式であり、式(1)により、ピクセルxについて最終カラー値Cが計算される。
ピクセルxの近傍内で、バイエルセンサはサンプルセットsi∈Sを与える。サンプルsiによって指定されるRGBカラーチャネルのインデックスは、tiによって示され、αは部分混合値である。
Figure 2009525636
が、カラー
Figure 2009525636
に対して、そして同様に
Figure 2009525636
およびCに対して、ti番目のカラーチャネルを指定する場合、部分混合値の未知の値αは、以下のように、位置x(中心ピクセル)のバイエルサンプルsxから直接計算することができる。
Figure 2009525636
しかしながら、
Figure 2009525636
Figure 2009525636
との間の差が小さい場合、離散化およびイメージノイズによって、αの推定値は不正確になる。sは、siに対するSの要素であり、5×5の処理領域の場合、iは、1〜25の範囲であり、その結果として25のsiが存在することに留意されたい。siは単一のチャネル(またはカラー)のみに対するものであり、カラーは、tiによって指定される(R、G、またはBのいずれか)。
サンプルセット全体Sを使用した、αのより堅牢な推定が望ましい。すなわち、以下のように、サンプルセットSおよび優先カラー
Figure 2009525636
および
Figure 2009525636
が与えられた場合、最も可能性の高い値(または最大部分混合値)
Figure 2009525636
を見つけることが望ましい。
Figure 2009525636
式(3)の場合、
Figure 2009525636
および
Figure 2009525636
は、優先2色である。カラースペースでは、
Figure 2009525636
から
Figure 2009525636
へと線が引かれること、および、部分混合値αが0から1およびそれ以上の間で変化することが想像できる。これは、
Figure 2009525636
ではα=0であり、
Figure 2009525636
ではα=1であることを意味する。すなわち、式(3)は、Sが与えられた場合、αの確率を最大にする、αのarg maxを見つける。ここで、Sは、処理領域(この動作例では5×5パッチ)内にあるすべてのカラーサンプルのセットである。Sは、デモザイクによって取得されたサンプルではなく、実際にサンプリングされたサンプルのみを含むことに留意されたい。
バイエルの定理を使用し、
Figure 2009525636
および
Figure 2009525636
がSおよびαとは独立していると仮定すると、式(3)は以下のように再構成することができる。
Figure 2009525636
すべてのsiは独立していると仮定すると、以下のことがわかる。
Figure 2009525636
Figure 2009525636
およびαは、ピクセルxについて予測されたカラー
Figure 2009525636
を指定する。近傍カラーノイズに関する独立同一分布(i.i.d)を仮定すると、
Figure 2009525636
とsiとの関係は、以下の通常分布を使用してモデル化することができる。
Figure 2009525636
式(6)は、ガウス分布を使用して確率を計算する。C*は、αが与えられた場合に計算されるカラーである。近傍ピクセル間の分布は非常に尖っている(kurtotic)が、計算効率のためにガウス分布を仮定する。分散σi 2は、(1)グローバルなチャネルごとのイメージノイズσN1、および、(2)xとsiとの間のピクセル距離という、2つの要素に依存する。ピクセルカラーはローカルでは一様であり、離れるほど一様ではなくなることが想定される。したがって、si
Figure 2009525636
との間の分散は、イメージスペース内のそれらの距離が増加するにつれて、増加する。一実施形態では、分散σiは以下のように計算される。
σi=σN(1+λΔd) (7)
上式で、Δdは、xとsiとの間のピクセル距離であり、λは、この動作例では経験的に6に設定された定数である。したがって、式(7)は、分散が、中心ピクセル(処理されるピクセル)または処理領域の中心にあるピクセルからの距離に伴って線形に増加することを示している。代替実施形態では、他の単調に増加する距離の関数を使用することもできる。
ガウス分布の幅、すなわち分散σ2は、特定のサンプルが最終結果に対してどれだけの影響を及ぼすかを示すものである。これに関して考えられる他の方法は、サンプルの確実性(certainty)である。サンプルに関する不確実性が存在する場合、そのガウス分布の幅は大きくなる(すなわち、大きな分散σ2となる)。これに対して、サンプルに関する確実性が存在する場合、そのガウス分布の幅は狭くなる(すなわち、小さな分散σ2となる)。
式(7)は、処理領域の中心である処理されるピクセル(すなわち、中心ピクセル)からの距離に伴って分散が増加することを示す関数である。すなわち、中心ピクセルに近いピクセルほど、より望ましく、重みがより大きい。また、分散が大きいほど、ピクセルまたはサンプルが最終結果に与える影響が少ない。したがって、分散は、何らかの関数により、中心ピクセルからの距離に伴って増加するはずである。この動作例では、式(7)の形の線形関数が使用されたが、同様の方法で分散を示す他のタイプの関数も使用可能である。
iの値は知られており、式(6)を最大にするαの値を計算することが望ましいので、以下のように再構成することが有用である。
Figure 2009525636
式(8)は、平均αiおよび分散
Figure 2009525636
を使用した、以下のような、αにわたるガウス分布である。
Figure 2009525636
実際には、αに関して解くことが望ましいので、式(10)となるように、この式を再構成する。特に、以下のように、式(5)および式(8)を組み合わせることができる。
Figure 2009525636
Figure 2009525636
に関するαの最適値は、以下のとおりである。
Figure 2009525636
実際には、
Figure 2009525636
Figure 2009525636
との間の絶対差が2.0未満の場合、カラーコンポーネントのコントリビューションは無視される。
式(10)および式(11)を解く場合、αiおよびσiを見つける必要がある。ここでσ2 iは、サンプルの各々に関連付けられた分散である。次に、最適なα値である、最適な部分混合値α*を見つける。次に、α*を使用して、最終カラー値を計算する。0または1でないα値には、わずかなペナルティが課せられる。したがって、一実施形態では、αは値0を有するが、代替実施形態では、αは値1を有する。
次に、どのα(0、1、またはα*)が、式(5)について最高値をもたらすかが決定される。すなわち、式(5)は、どのαが最高の解を与えるかを決定するために、これら3つのαの各々を使用して評価される。式(10)において、次に、αiおよびσαiが計算される。αiは、式(9)を使用して計算される。サンプルsiが与えられた場合、式(9)により、αの値が計算される。すなわち、αは、αiが何であるべきかをサンプルsiが示すものである。式(10)では、αiの積が使用される。ガウス分布とガウス分布とが掛け合わされた場合、他のガウス分布が得られる。25サンプル各々のすべてのガウス分布が互いに掛け合わされるガウス分布のピーク値は、式(11)によって与えられるαi *によって表される。すべてのガウス分布の積の平均が、重み付け平均である式(11)になることが示され得る。
最終的に、式(3)の
Figure 2009525636
の値を見つけるために、α.P(α)の優先(prior)を定義しなければならない。イメージ内のほとんどのピクセルが、単一のカラーからのみコントリビューションを得ているものと仮定すると、以下のように、αは、値0または1を有するようにバイアスがかけられる。
Figure 2009525636
上式で、ηは常に1未満である(η<1)。ηの値は、所望の平滑化の量に依存する。大量のイメージノイズが与えられた場合、ηは1に近似できる。
α優先関数は、2つのインパルス(impulse)を伴って平坦であるため、0、1、およびα*の3ポイントでの式(3)の値のみを調べる必要がある。どちらにしても、
Figure 2009525636
の対応するピクセルカラーを使用して、処理中のピクセルに対する最終値
Figure 2009525636
として、最大値が割り当てられる。
この手法の数量的な誤差は、出力ピクセルの赤、緑、または青を、センサによって最初に取得されるものに強制しながら、他の2つのチャネルを
Figure 2009525636
に適合するように設定することによって、さらに低減することができる。λは中心サンプルが重くなるように重み付けするため、これら2つの値が大きく異なる確率は低い。また、入力グリッドとは異なるグリッドで出力サンプリングが実行された場合、ソースのバイエルサンプルは、各ピクセルで使用できない。
(マルチイメージデモザイク法)
グリッド無しのベイズ解法を使用して、方法を大幅に変更することなく、複数のイメージからの情報をモデルに導入することができる。後続のビデオフレームからなどの、これらのサポートイメージ(supporting image)は、類似したものであると想定されるが、まったく同一ではない。さらに、これらの追加バイエルサンプルは、それらを再サンプリングせずに使用することができる。サポートイメージを使用するために、イメージごとの射影マッピングを計算して、各イメージを第1のイメージに登録しなければならない。
ベイズ式2色イメージデモザイク方法およびデモザイクシステムは、複数のイメージからのサンプルが登録されている限り、それらを取得することができる。イメージの登録により、あるシーンの複数のイメージを、使用可能なようにまとめて整列させることができる。しかしながら、イメージが整列された場合、同じように配向する(oriented)ことはできない。ベイズ式2色イメージデモザイク方法およびデモザイクシステムは、基準イメージを選択し、この基準イメージを基準にして他のイメージを再構築する。次に、処理領域は円形になり、ある半径の処理されるピクセル(すなわち、中心ピクセル)内でサンプルが取られる。
一般に、より多くのイメージを使用することによって、より良い結果が得られる。しかしながら、処理時間と品質との間にはトレードオフが存在する。一実施形態では、使用されるイメージの数は3つであり、その結果処理時間は非常に短く、かつ品質は非常に良くなる。代替実施形態では、使用されるイメージの数は、3つより多くてもよいし、少なくてもよい。
さらにイメージが追加されると、
Figure 2009525636
および
Figure 2009525636
にクラスタ化するために、依然として十分なサンプルを維持しながら、使用されるサンプルの近傍を縮めることができる。このようにすることによって、2つより多くの代表するカラーを含む尤度(likelihood)が削減される。したがって、R、G、およびBのサンプルの各々が、再構築中のサンプルの近くに現れた場合、バイエルサンプルの最も近い近傍の補間組合せを使用することができる。重み付けされたクラスタ化および再構築の使用の概念は、依然として単一の入力イメージを使用する場合と同じである。いったん登録されると、たとえ同じカラーチャネルが同じピクセル位置に現れた場合であっても、依然として利点がある。すなわち、ノイズが削減される。
サポートイメージを含めることによって、不良データまたは紛らわしいデータをもたらすリスクがある。グローバル射影マッピングは、すべてのシーン変更(カメラの移動、対象の移動、照明条件の変更、および対象の出現)を反映しない。登録にエラーが発生する可能性がある。こうしたエラーを低減するために、ローカルでは同様の基準イメージおよびサポートイメージからのデータのみが組み合わされることが確実になる。εとして示される、7×7のローカルウィンドウ全体にわたる絶対差合計(SAD:Sum of Absolute Differences)技法を使用して、RGBスペース内の類似度が測定される。
複数のイメージは、基準イメージとサポートイメージとの間の相関誤差を含めるために、σiの定義を調整することによって、以下のように処理される。
σi=σN(1+λΔd)(1+τε) (13)
(1+τε)の項は、不一致によるペナルティであり、この動作例では、τ=0.1である。εは二乗差(squared difference)の合計である。
複数のイメージが整列される場合、この整列は完全でない可能性がある。これを補償するために、二乗差の合計が使用される。式(7)を使用する代わりに、式(13)が使用される。相違点は、最終項(1+τε)のみである。τは倍率である。したがって、式(13)の最終項(1+τε)は、二乗差の合計が大きくなると、ガウス分布の分散が増加することを示している。
項τは、二乗差の合計値がどれだけ重み付けされるかを示す。これは、経験的に決定される。一実施形態では、τはほぼ0.1に等しい。代替実施形態では、他の値をτに使用することができる。しかしながら、τはそれほど重くされないことが重要である。τが大きすぎると、他のイメージからの情報をまったく使用できなくなる可能性がある。τが小さすぎると、たとえイメージが適切に整列されていない場合であっても、他のイメージからの情報を使用することができる。したがって、バランスを見つけなければならない。項τは、整列アルゴリズムの品質に基づいて変化する。
マルチイメージデモザイク法を実装するために必要なことは、サポートイメージ内の近傍バイエルサンプルをセットSに追加すること、および前述した分散式を使用することだけである。オリジナルサンプルを使用することで再サンプリングする必要がなくなるため、S内のサンプルは、バイエルセンササンプルであることに留意されたい。
(超解像度)
ベイズ式2色イメージデモザイク方法およびデモザイクシステムの統計的なグリッド無し手法の他の利点は、オリジナルイメージよりも高い解像度を有するサンプリンググリッドなどの任意のサンプリンググリッドでも、再構築に使用できることにある。統計的測定には浮動小数点ユークリッド距離が使用されるため、イメージ内のいかなる場所にも、αの連続値を生成することができる。複数のイメージからのサンプルの整列により、αの値は、オリジナルグリッド内のピクセル間のエッジおよび鋭さをエンコードすることができる。これは、ベイズ式2色イメージデモザイク方法およびデモザイクシステムのフレームワーク内で、超解像度を処理するために利用可能である。
超解像の際、精細な細部を取得するために、統計的クラスタ化およびローカルな近傍サイズをわずかに縮めることができる。それ以外の点で、ベイズ式2色イメージデモザイク方法およびデモザイクシステムは、複数のイメージのデモザイク法のケースと同様に動作する。
IV.構造の概要
次に、ベイズ式2色イメージデモザイサ200の構造について説明する。ベイズ式2色イメージデモザイサ200の構造についてより完全に理解してもうらために、例示的な実施形態の詳細が提示される。しかしながら、この例示的な実施形態は、ベイズ式2色イメージデモザイサ200を実装および使用可能ないくつかの方法のうちの1つに過ぎないことに留意されたい。
図7は、図1および図2に示したベイズ式2色イメージデモザイサ200の詳細を示すブロック図である。一般に、ベイズ式2色イメージデモザイサ200は、各ピクセルについて完全に指定されたRGBカラー値を有するデジタルカラーイメージを処理し、2色の組合せとして各ピクセルの最終カラー値を見つけ出し、そして、アーティファクトが削減された処理済みデジタルカラーイメージを出力する。具体的には、ベイズ式2色イメージデモザイサ200に対する入力は、デジタルカラーイメージ280内の各ピクセルについて完全に指定されたRGBデータを含むピクセルデータである。前述したように、このデータは、このイメージに対して予備的なデモザイクパスを行うことによって取得される。一実施形態では、予備的なデモザイクパスは、高品質の線形補間デモザイク技法を使用して実行される。代替として、双線形補間などの他のタイプのデモザイク技法を使用することもできる。
ベイズ式2色イメージデモザイサ200は、処理されるピクセルをイメージから選択する処理ピクセルセレクタ700を含む。最終的に、イメージ内のすべてのピクセルが処理されるが、処理ピクセルセレクタ700は、処理用に一度に1つのピクセルだけを選択する。処理領域決定モジュール710は、処理されるピクセル周囲の処理領域(またはパッチ)を定める。通常、処理されるピクセルは処理領域の中心にある。一実施形態では、処理領域は5×5ピクセル領域である。代替実施形態では、他のサイズ(3×3ピクセル領域または7×7ピクセル領域など)を有する処理領域も使用可能である。
ベイズ式2色イメージデモザイサ200は、処理されるピクセルの最終カラー値を定めるために使用される優先2色を決定するクラスタ化モジュール720も含む。クラスタ化モジュールは、クラスタ化技法を使用して、処理領域内のピクセルからのRGBカラー値を2つのクラスタにクラスタ化する。2つのクラスタのそれぞれの平均が、優先2色になる。一実施形態では、クラスタ化のために、異常値除去段階を伴うk平均クラスタ化技法が使用される。代替実施形態では、他のタイプのクラスタ化技法を使用することもできる。
デモザイサ200は、優先2色の各々が、最終カラー値にどの程度使用されるかを決定し、かつ最終カラー値を取得するために優先2色を組み合わせる、コントリビューションおよび組合せモジュール730も含む。モジュール730は、サンプルセットが与えられた場合、部分混合値の確率を最大にする最大部分混合値を定めることによって、優先2色の各々のコントリビューションを見出す。サンプルセットは、処理領域内のピクセルからサンプリングされたカラー値を含む。次いで、モジュール730は、最大部分混合値と優先2色とを組み合わせて、処理されるピクセルの最終カラー値を計算する。一実施形態では、優先2色は線形に組み合わされる。代替実施形態では、優先2色は非線形に組み合わされる。ベイズ式2色イメージデモザイサ200による処理は、イメージ内の各ピクセルに対して繰り返される。出力は、イメージアーティファクトが削減された改善したデジタルカラーイメージ290である。
V.例示的な動作環境
ベイズ式2色イメージデモザイサ200および当該ベイズ式2色イメージデモザイサ200内で使用される方法は、コンピューティング環境内で動作するように設計されている。以下の説明は、ベイズ式2色イメージデモザイサおよび方法を実装可能な好適なコンピューティング環境の簡単な概説を提供することを意図するものである。
図8は、ベイズ式2色イメージデモザイサおよび方法を実装可能な好適なコンピューティングシステム環境の例を示している。コンピューティングシステム環境800は、好適なコンピューティング環境の一例に過ぎず、本発明の使用または機能の範囲に関して、いかなる制限も示唆するよう意図するものではない。さらに、コンピューティング環境800は、例示的な動作環境内に示されたコンポーネントの任意の1つ、またはそれらコンポーネントの組合せに関して、いかなる依存関係または要件を有するものと解釈すべきではない。
ベイズ式2色イメージデモザイサおよび方法は、多数の他の汎用または特定用途向けコンピューティングシステム環境またはコンピューティングシステム構成と共に動作可能である。間接テクスチャ拡大システムおよび方法と共に使用するのに好適な周知のコンピューティングシステム、コンピューティング環境、および/またはコンピューティング構成の例として、パーソナルコンピュータ、サーバコンピュータ、携帯電話およびPDAなどのハンドヘルドコンピュータ、ラップトップコンピュータ、もしくはモバイルコンピュータ、または通信デバイス、マルチプロセッサシステム、マイクロプロセッサベースシステム、セットトップボックス、プログラム可能な民生用電化製品、ネットワークPC、ミニコンピュータ、メインフレームコンピュータ、上記のシステムまたはデバイスのうちのいずれかを含む分散コンピューティング環境などがあるが、これらに限定されるものではない。
ベイズ式2色イメージデモザイサおよび方法は、コンピュータによって実行されるプログラムモジュールなどのコンピュータ実行可能命令の一般的なコンテキストで説明することができる。一般に、プログラムモジュールには、特定のタスクを実行するか、または特定の抽象データ型を実装する、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造などが含まれる。ベイズ式2色イメージデモザイサおよび方法は、通信ネットワークを介してリンクされたリモート処理デバイスによってタスクが実行される分散コンピューティング環境において実施することもできる。分散コンピューティング環境では、プログラムモジュールは、メモリ記憶デバイスを含む、ローカルのコンピュータ記憶媒体およびリモートのコンピュータ記憶媒体の両方に配置させることができる。図8を参照すると、ベイズ式2色イメージデモザイサおよび方法のための例示的なシステムは、コンピュータ810の形態をとる汎用コンピューティングデバイスを含む(図1における第1のコンピューティングデバイス270および図2における第2のコンピューティングデバイス295が、コンピュータ810の例である)。
コンピュータ810のコンポーネントには、(中央処理装置、すなわちCPUなどの)処理ユニット820と、システムメモリ830と、システムメモリを含む様々なシステムコンポーネントを処理ユニット820に接続するシステムバス821とを含めることができるが、これらに限定されるものではない。システムバス821は、メモリバスまたはメモリコントローラ、周辺バス、および様々なバスアーキテクチャのうちのいずれかを使用するローカルバスを含む、いくつかのタイプのバス構造のうちのいずれかとすることができる。例えば、こうしたアーキテクチャには、ISAバス、MCAバス、EISAバス、VESAローカルバス、およびメザニンバスとしても知られるPCIバスが含まれるが、これらに限定されるものではない。
コンピュータ810は通常、様々なコンピュータ読み取り可能な媒体を備えている。コンピュータ読み取り可能な媒体は、コンピュータ810がアクセス可能な任意の入手可能な媒体とすることができ、コンピュータ読み取り可能な媒体には、揮発性媒体および不揮発性媒体、ならびに取り外し可能な媒体および取り外し不可能な媒体の両方が含まれる。例えば、コンピュータ読み取り可能な媒体には、コンピュータ記憶媒体および通信媒体を含めることができるが、これらに限定されるものではない。コンピュータ記憶媒体には、コンピュータ読み取り可能な命令、データ構造、プログラムモジュール、または他のデータなどの情報を記憶するために、任意の方法または技術で実装された、揮発性媒体および不揮発性媒体、ならびに取り外し可能な媒体および取り外し不可能な媒体が含まれる。
コンピュータ記憶媒体には、RAM、ROM、EEPROM、フラッシュメモリ、もしくは他のメモリ技術、CD−ROM、デジタル多用途ディスク(DVD)、もしくは他の光ディスクストレージ、磁気カセット、磁気テープ、磁気ディスクストレージ、もしくは他の磁気記憶デバイス、または、所望の情報を記憶するために使用でき、かつコンピュータ810がアクセス可能な、任意の他の媒体が含まれるが、これらに限定されるものではない。通信媒体は通常、コンピュータ読み取り可能な命令、データ構造、プログラムモジュール、または他のデータを、搬送波または他の搬送機構などの被変調データ信号内で具現化したものであり、通信媒体には、任意の情報伝達媒体が含まれる。
「被変調データ信号」という用語は、信号内の情報が符号化される形で1つまたは複数の特性が設定または変更される信号を意味することに留意されたい。例えば、通信媒体には、有線ネットワークや直接配線接続などの有線媒体と、音響、RF、赤外線、およびその他の無線媒体などの無線媒体とが含まれるが、これらに限定されるものではない。上記の任意の組合せもまた、コンピュータ読み取り可能な媒体の範囲内に含まれるべきである。
システムメモリ830は、ROM831およびRAM832などの、揮発性メモリおよび/または不揮発性メモリの形態をとるコンピュータ記憶媒体を含む。起動時などにコンピュータ810内の要素間で情報を転送するために役立つ基本ルーチンを含む、基本入出力システム(BIOS)833は通常、ROM831に記憶される。RAM832は通常、処理ユニット820が直ちにアクセス可能であり、かつ/または現在処理ユニット820が操作しているデータおよび/またはプログラムモジュールを含む。例えば、図8には、オペレーティングシステム834、アプリケーションプログラム835、他のプログラムモジュール836、およびプログラムデータ837が示されているが、これらに限定されるものではない。
コンピュータ810は、他の取り外し可能/取り外し不可能な揮発性/不揮発性のコンピュータ記憶媒体も備えることができる。例えば、図8には、取り外し不可能な不揮発性の磁気媒体に対して読み書きするハードディスクドライブ841、取り外し可能な不揮発性の磁気ディスク852に対して読み書きする磁気ディスクドライブ851、および、CD ROMまたは他の光媒体などの取り外し可能な不揮発性の光ディスク856に対して読み書きする光ディスクドライブ855が示されている。
例示的な動作環境において使用可能な他の取り外し可能/取り外し不可能な揮発性/不揮発性のコンピュータ記憶媒体には、磁気テープカセット、フラッシュメモリカード、デジタル多用途ディスク、デジタルビデオテープ、ソリッドステートRAM、ソリッドステートROMなどが含まれるが、これらに限定されるものではない。ハードディスクドライブ841は通常、インターフェース840などの取り外し不可能なメモリインターフェースを介して、システムバス821に接続され、磁気ディスクドライブ851および光ディスクドライブ855は通常、インターフェース850などの取り外し可能なメモリインターフェースを介して、システムバス821に接続される。
上記にて説明し図8に示した、ドライブ群およびそれらに関連付けられたコンピュータ記憶媒体は、コンピュータ読み取り可能な命令、データ構造、プログラムモジュール、および他のデータの記憶領域をコンピュータ810に提供する。例えば、図8では、ハードディスクドライブ841は、オペレーティングシステム844、アプリケーションプログラム845、他のプログラムモジュール846、およびプログラムデータ847を記憶するものとして示されている。これらのコンポーネントは、オペレーティングシステム834、アプリケーションプログラム835、他のプログラムモジュール836、およびプログラムデータ837と同一であってもよいし、異なっていてもよいことに留意されたい。オペレーティングシステム844、アプリケーションプログラム845、他のプログラムモジュール846、およびプログラムデータ847には、少なくとも異なるコピーであることを示すために、ここでは異なる番号が付与されている。ユーザは、キーボード862、および一般にはマウス、トラックボール、またはタッチパッドと呼ばれるポインティングデバイス861などの入力デバイスを介して、コンピュータ810にコマンドおよび情報を入力することができる。
他の入力デバイス(図示せず)には、マイクロフォン、ジョイスティック、ゲームパッド、衛星放送受信用アンテナ、スキャナ、無線受信器、または、テレビジョンもしくは放送用ビデオ受信器などを含めることができる。これらの入力デバイスおよび他の入力デバイスは、システムバス821に接続されたユーザ入力インターフェース860を介して処理ユニット820に接続されることが多いが、例えば、パラレルポート、ゲームポート、またはユニバーサルシリアルバス(USB)などの他のインターフェースおよびバス構造を介して接続することもできる。モニタ891または他のタイプのディスプレイデバイスもまた、ビデオインターフェース890などのインターフェースを介してシステムバス821に接続される。コンピュータは、モニタに加えて、出力周辺インターフェース895を介して接続可能な、スピーカ897およびプリンタ896などの他の出力周辺デバイスも備えることができる。
コンピュータ810は、リモートコンピュータ880などの1つまたは複数のリモートコンピュータへの論理接続を使用して、ネットワーク環境において動作することができる。リモートコンピュータ880は、パーソナルコンピュータ、サーバ、ルータ、ネットワークPC、ピアデバイス、または他の一般的なネットワークノードとすることができ、通常は、コンピュータ810に関して上述した要素のうちの多くまたはすべてを備えているが、図8では、メモリ記憶デバイス881のみが示されている。図8に示した論理接続には、ローカルエリアネットワーク(LAN)871およびワイドエリアネットワーク(WAN)873が含まれるが、他のネットワークを含めてもよい。こうしたネットワーク環境は、オフィス、企業規模のコンピュータネットワーク、イントラネット、およびインターネットにおいて一般的である。
LANネットワーク環境において使用される場合、コンピュータ810は、ネットワークインターフェースまたはネットワークアダプタ870を介してLAN871に接続される。WANネットワーク環境において使用される場合、コンピュータ810は通常、モデム872、または、インターネットなどのWAN873を介して通信を確立するための他の手段を備えている。モデム872は、内蔵型とすることもできるし、外付け型とすることもでき、ユーザ入力インターフェース860または他の適切な機構を介してシステムバス821に接続することができる。ネットワーク環境では、コンピュータ810に関して示したプログラムモジュールまたはその一部を、リモートメモリ記憶デバイスに記憶することができる。例えば、図8には、リモートアプリケーションプログラム885がメモリデバイス881に存在するものとして示されているが、これに限定されるものではない。図示したネットワーク接続は例示的なものであり、コンピュータ間で通信リンクを確立する他の手段が使用できることが理解されよう。
例示および説明の目的で、上記の発明の詳細な説明を提示した。上記の教示に鑑みて、多くの変更および変形が可能である。本明細書に記載した主題事項は、網羅的であるよう意図するものでもないし、開示した通りの形態に限定されるよう意図するものでもない。この主題事項について、構造的特徴および/または方法論的動作に固有の用語で説明してきたが、添付の特許請求の範囲に定義された主題事項は、前述した固有の特徴または動作に必ずしも限定されないことを理解されたい。むしろ、前述した固有の特徴および動作は、添付の特許請求の範囲を実施する例示的な形態として開示したものである。
本明細書で開示するベイズ式2色イメージデモザイク方法およびデモザイクシステムの第1の例示的な実装を示すブロック図である。 本明細書で開示するベイズ式2色イメージデモザイク方法およびデモザイクシステムの第2の例示的な実装を示すブロック図である。 図1および図2に示したベイズ式2色イメージデモザイサの一般的な動作を示す概略的な流れ図である。 図3に示したベイズ式2色イメージデモザイク方法の動作のさらなる詳細を示す詳細な流れ図である。 優先2色の計算プロセスを示す流れ図である。 最終カラー値の計算プロセスの詳細を示す流れ図である。 図1および図2に示したベイズ式2色イメージデモザイサの詳細を示すブロック図である。 ベイズ式2色イメージデモザイク方法およびデモザイクシステムを実装可能な好適なコンピューティングシステム環境の例を示す図である。

Claims (12)

  1. デジタルカラーイメージ(260)を処理するための方法であって、
    前記デジタルカラーイメージ内の各ピクセルについて、完全に指定されたRGBトリプルカラー値を取得するステップ(300)と、
    イメージアーティファクトが削減された改善したデジタルカラーイメージ(290)を取得するために、前記完全に指定されたRGBトリプルカラー値を使用して、各ピクセルの最終カラー値を、2色の組合せとして決定するステップ(310)と
    を備えることを特徴とする方法。
  2. 各ピクセルについて前記完全に指定されたRGBトリプルカラー値を取得するために、予備的なパスデモザイク技法を使用するステップ(400)
    をさらに備えることを特徴とする請求項1に記載の方法。
  3. 各ピクセルについて前記完全に指定されたRGBトリプルカラー値(280)を取得するために、高品質の線形補間デモザイク技法(220)を使用するステップ
    をさらに備えることを特徴とする請求項2に記載の方法。
  4. 最終カラー値を決定するステップ(430)は、
    前記完全に指定されたRGBトリプルカラー値を使用して、各ピクセルについて前記2色を見つけるステップ(420)と、
    前記2色を優先2色として指定するステップ(420)と
    をさらに含むことを特徴とする請求項1に記載の方法。
  5. 処理中のピクセルを中心とする前記デジタルカラーイメージ内の処理領域を定めるステップ(410)
    をさらに備え、
    処理されるピクセルについて前記最終カラー値が決定される(630)
    ことを特徴とする請求項4に記載の方法。
  6. クラスタ化技法を使用して、前記処理領域内のピクセルのカラー値を、前記優先2色にクラスタ化するステップ(500)
    をさらに備えることを特徴とする請求項5に記載の方法。
  7. 前記クラスタ化技法は、k平均クラスタ化技法である(720)
    ことを特徴とする請求項6に記載の方法。
  8. クラスタ化の結果を改善するために、前記クラスタ化技法と共に異常値除去技法を使用するステップ(510)
    をさらに備えることを特徴とする請求項6に記載の方法。
  9. 前記優先2色の各々が前記最終カラー値に対して与えるコントリビューションの程度を決定するステップ(730)
    をさらに備えることを特徴とする請求項5に記載の方法。
  10. 前記最終カラー値に対する前記優先2色の各々の前記コントリビューションを指定する、部分混合値を定めるステップ(600)
    をさらに備えることを特徴とする請求項9に記載の方法。
  11. 前記処理領域内の前記ピクセルのカラー値の各々に与えられる前記部分混合値の確率を最大にする前記優先2色の混合として定められた前記処理されるピクセルについて、最大部分混合値を決定するステップ(610)
    をさらに備えることを特徴とする請求項10に記載の方法。
  12. 前記デジタルカラーイメージ内の前記ピクセルの各々について前記最終カラー値を取得するために、各ピクセルについての前記最大部分混合値と、各ピクセルについての前記優先2色とを使用するステップ(620)
    をさらに備えることを特徴とする請求項10に記載の方法。
JP2008552397A 2006-01-30 2007-01-25 2色イメージを用いたベイズ式デモザイク法 Active JP4527172B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US11/343,581 US7706609B2 (en) 2006-01-30 2006-01-30 Bayesian demosaicing using a two-color image
PCT/US2007/001982 WO2007089519A1 (en) 2006-01-30 2007-01-25 Bayesian demosaicing using a two-color image

Publications (3)

Publication Number Publication Date
JP2009525636A true JP2009525636A (ja) 2009-07-09
JP2009525636A5 JP2009525636A5 (ja) 2010-06-17
JP4527172B2 JP4527172B2 (ja) 2010-08-18

Family

ID=38321691

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008552397A Active JP4527172B2 (ja) 2006-01-30 2007-01-25 2色イメージを用いたベイズ式デモザイク法

Country Status (8)

Country Link
US (1) US7706609B2 (ja)
EP (1) EP1967010B1 (ja)
JP (1) JP4527172B2 (ja)
KR (1) KR101183371B1 (ja)
CN (1) CN101375611B (ja)
BR (1) BRPI0706282A2 (ja)
MY (1) MY149682A (ja)
WO (1) WO2007089519A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8165389B2 (en) 2004-03-15 2012-04-24 Microsoft Corp. Adaptive interpolation with artifact reduction of images
GB2426881B (en) * 2005-06-01 2010-12-29 Snell & Wilcox Ltd Method and apparatus for spatial interpolation of colour images
KR100793288B1 (ko) * 2007-05-11 2008-01-14 주식회사 코아로직 영상 처리 장치 및 그 방법
US8031970B2 (en) * 2007-08-27 2011-10-04 Arcsoft, Inc. Method of restoring closed-eye portrait photo
US8035704B2 (en) 2008-01-03 2011-10-11 Aptina Imaging Corporation Method and apparatus for processing a digital image having defective pixels
JP5047048B2 (ja) 2008-04-30 2012-10-10 キヤノン株式会社 画像処理装置、撮像装置、制御方法、プログラム、及び記憶媒体
US11119396B1 (en) 2008-05-19 2021-09-14 Spatial Cam Llc Camera system with a plurality of image sensors
US8355042B2 (en) 2008-10-16 2013-01-15 Spatial Cam Llc Controller in a camera for creating a panoramic image
US10585344B1 (en) 2008-05-19 2020-03-10 Spatial Cam Llc Camera system with a plurality of image sensors
US8781250B2 (en) * 2008-06-26 2014-07-15 Microsoft Corporation Image deconvolution using color priors
TWI423666B (zh) * 2008-12-31 2014-01-11 Altek Corp Image elimination method for image sequence
US8462171B2 (en) * 2009-02-06 2013-06-11 Micrososft Corporation Saturation contrast image enhancement
US8666180B2 (en) 2009-12-04 2014-03-04 Stc.Unm System and methods of compressed sensing as applied to computer graphics and computer imaging
US8345132B2 (en) * 2010-07-23 2013-01-01 Omnivision Technologies, Inc. Image sensor with dual element color filter array and three channel color output
US8582878B1 (en) 2010-11-03 2013-11-12 Csr Technology Inc. Purple fringing automatic detection and correction
US8730329B2 (en) * 2011-07-11 2014-05-20 Qualcomm, Incorporated Automatic adaptive image sharpening
US20130031063A1 (en) * 2011-07-26 2013-01-31 International Business Machines Corporation Compression of data partitioned into clusters
US9224362B2 (en) 2013-03-14 2015-12-29 Microsoft Technology Licensing, Llc Monochromatic edge geometry reconstruction through achromatic guidance
US9336570B2 (en) * 2014-05-15 2016-05-10 The United States Of America, As Represented By The Secretary Of The Navy Demosaicking system and method for color array based multi-spectral sensors
US9219870B1 (en) * 2014-07-31 2015-12-22 Apple Inc. Sensor data rescaler for image signal processing
FR3046711B1 (fr) * 2016-01-08 2018-02-16 Stmicroelectronics (Grenoble 2) Sas Compression et decompression de donnees video
CN111681191B (zh) * 2020-05-11 2024-02-27 安徽百诚慧通科技股份有限公司 一种基于fpga的彩色图像去马赛克方法、系统及存储介质
KR102488627B1 (ko) * 2021-11-08 2023-01-18 청주대학교 산학협력단 피포페인팅 이미지 자동변환방법 및 이를 이용한 피포페인팅 이미지 자동변환 시스템

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002199352A (ja) * 2001-10-31 2002-07-12 Sony Corp パラメータ生成装置および方法
JP2002312787A (ja) * 2001-04-13 2002-10-25 Sony Corp 画像処理装置および画像処理方法、記録媒体、並びにプログラム
JP2005184449A (ja) * 2003-12-19 2005-07-07 Toshiba Corp 補間フレーム生成方法及び装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3871065A (en) * 1972-08-02 1975-03-18 Gen Co Ltd Thermal printing process
US4642678A (en) 1984-09-10 1987-02-10 Eastman Kodak Company Signal processing method and apparatus for producing interpolated chrominance values in a sampled color image signal
US4724395A (en) 1985-08-05 1988-02-09 Polaroid Corporation Median filter for reconstructing missing color samples
US5373322A (en) 1993-06-30 1994-12-13 Eastman Kodak Company Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients
US5629734A (en) 1995-03-17 1997-05-13 Eastman Kodak Company Adaptive color plan interpolation in single sensor color electronic camera
US5956431A (en) * 1997-10-02 1999-09-21 S3 Incorporated System and method for fixed-rate block-based image compression with inferred pixel values
US6356588B1 (en) * 1998-04-17 2002-03-12 Ayao Wada Method for digital compression of color images
JP4311794B2 (ja) * 1999-01-29 2009-08-12 オリンパス株式会社 画像処理装置及び画像処理プログラムを格納した記録媒体
US6438270B1 (en) * 1999-03-03 2002-08-20 Xerox Corporation Methods and systems for image sharpening
EP1377072A4 (en) 2001-03-05 2006-09-13 Nikon Corp PROGRAM AND DEVICE FOR PROCESSING IMAGES
FI115942B (fi) 2002-10-14 2005-08-15 Nokia Corp Menetelmä kuvien interpoloimiseksi ja terävöittämiseksi
JP4269734B2 (ja) * 2003-03-25 2009-05-27 株式会社日立製作所 投写型カラー表示装置
US7502505B2 (en) * 2004-03-15 2009-03-10 Microsoft Corporation High-quality gradient-corrected linear interpolation for demosaicing of color images

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002312787A (ja) * 2001-04-13 2002-10-25 Sony Corp 画像処理装置および画像処理方法、記録媒体、並びにプログラム
JP2002199352A (ja) * 2001-10-31 2002-07-12 Sony Corp パラメータ生成装置および方法
JP2005184449A (ja) * 2003-12-19 2005-07-07 Toshiba Corp 補間フレーム生成方法及び装置

Also Published As

Publication number Publication date
JP4527172B2 (ja) 2010-08-18
CN101375611B (zh) 2011-03-02
KR101183371B1 (ko) 2012-09-14
EP1967010A4 (en) 2012-01-18
EP1967010B1 (en) 2013-07-17
US20070177033A1 (en) 2007-08-02
KR20080090426A (ko) 2008-10-08
MY149682A (en) 2013-09-30
EP1967010A1 (en) 2008-09-10
BRPI0706282A2 (pt) 2011-03-22
CN101375611A (zh) 2009-02-25
WO2007089519A1 (en) 2007-08-09
US7706609B2 (en) 2010-04-27

Similar Documents

Publication Publication Date Title
JP4527172B2 (ja) 2色イメージを用いたベイズ式デモザイク法
US7643676B2 (en) System and method for adaptive interpolation of images from patterned sensors
US8165389B2 (en) Adaptive interpolation with artifact reduction of images
Lukac et al. Demosaicked image postprocessing using local color ratios
CN101778201B (zh) 图像处理装置、图像处理方法、程序和成像装置
KR102055411B1 (ko) 적응적 기준 범위 선택에 따른 디모자이킹 방법
JP2000188680A (ja) 高解像度画像の生成方法及びシステム
Lukac et al. Data adaptive filters for demosaicking: a framework
Hore et al. An edge-sensing generic demosaicing algorithm with application to image resampling
CN111539892A (zh) Bayer图像的处理方法、系统、电子设备和存储介质
Mukherjee et al. Markov random field processing for color demosaicing
US8346019B2 (en) Image generation method and apparatus, program therefor, and storage medium which stores the program
Bennett et al. Video and image bayesian demosaicing with a two color image prior
JP2010233241A (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
Chung et al. New joint demosaicing and zooming algorithm for color filter array
KR102018246B1 (ko) 그라디언트 기반 rgbw cfa 디모자킹 장치 및 방법
Zeng et al. Inheriting Bayer's Legacy-Joint Remosaicing and Denoising for Quad Bayer Image Sensor
Gupta et al. Performance analysis of median filter demosaicking algorithm using new extended bilinear demosaicking
JPH10294948A (ja) 画像処理方法および画像処理プログラム記録媒体
Chen et al. Cost effective color filter array demosaicking with chrominance variance weighted interpolation
Lee et al. Adaptive demosaicing algorithm using characteristics of the color filter array pattern
Kim Full channel color restoration approach using directional interpolation
Tsai et al. Demosaicing: heterogeneity-projection hard-decision adaptive interpolation using spectral-spatial correlation
Lukac et al. Bayer pattern demosaicking using local-correlation approach

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100420

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20100420

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20100513

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100528

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100602

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130611

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4527172

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250