JP2013085254A - シーンの白色点を計算するためのノイズ最適化された選択基準の使用 - Google Patents

シーンの白色点を計算するためのノイズ最適化された選択基準の使用 Download PDF

Info

Publication number
JP2013085254A
JP2013085254A JP2012230280A JP2012230280A JP2013085254A JP 2013085254 A JP2013085254 A JP 2013085254A JP 2012230280 A JP2012230280 A JP 2012230280A JP 2012230280 A JP2012230280 A JP 2012230280A JP 2013085254 A JP2013085254 A JP 2013085254A
Authority
JP
Japan
Prior art keywords
noise
instructions
programmable controller
image
weighted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012230280A
Other languages
English (en)
Other versions
JP5632890B2 (ja
Inventor
Yingjun Bai
バイ インジュン
Xuemei Zhang
チャン シュメイ
Kuo David
クオ ディヴィッド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apple Inc filed Critical Apple Inc
Publication of JP2013085254A publication Critical patent/JP2013085254A/ja
Application granted granted Critical
Publication of JP5632890B2 publication Critical patent/JP5632890B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6086Colour correction or control controlled by factors external to the apparatus by scene illuminant, i.e. conditions at the time of picture capture, e.g. flash, optical filter used, evening, cloud, daylight, artificial lighting, white point measurement, colour temperature
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Image Processing (AREA)

Abstract

【課題】改善された選択的グレーワールド手法で画像のより正確なホワイトバランス調整を提供する。
【解決手段】カラーバランス調整のための選択的グレーワールド手法を実装する方法などを説明する。本発明は、ノイズ最適化された選択基準を使用し、より具体的な実施形態では、ホワイトバランスゲインを計算する際にノイズ最適化された重み付き表の中の対応する値の間の補間を使用する。推定シーン・ルクスレベルは、期待シーン・ノイズレベルの有用な指標を与える。本画像処理技術は、画像キャプチャ装置、又は、ユーザレベルのソフトウェア・アプリケーションを実行する汎用プロセッサにより実行される。本カラーバランス調整技術は、専用若しくは汎用ハードウェア、汎用アプリケーション・ソフトウェア、又はコンピュータシステムにおけるソフトウェアとハードウェアとの組合せにより実装される。
【選択図】図2

Description

本開示は、一般に、カラーバランス調整の分野に関する。限定を目的とするわけではないが、より詳細には、ノイズ最適化された選択基準を用いることによるオートホワイトバランス(AWB)アルゴリズムの性能を改善するための技術に関する。
(関連出願の相互参照)
本出願は、2011年10月12日に出願された米国特許仮出願第61/546,146号に基づく優先権を主張するものであり、この全体が、引用により本明細書に組み入れられる。
カラーバランス調整は、画像内の色の強さの包括的な調整であると考えることができる。カラーバランス調整の1つの目標は、特定の色、例えば昼白色を、その画像がキャプチャされた実際の物理的なシーン内でその色が現れた通りに可能な限り正確にレンダリングすることである。昼白色を正しくレンダリングする場合、そのプロセスは、しばしば、「ホワイトバランス調整」と呼ばれる。ほとんどのデジタルカメラは、そのカラーバランス調整及び色補正の決定を、少なくとも部分的に、シーンの発光源のタイプに基づいて行う。例えば、白い用紙の色は、蛍光灯の下では直射日光の中で見るのとは異なって見える。実行すべき色補正のタイプは、キャプチャされた画像についてのシーンの発光源を知っているデジタルカメラのユーザが手動で指定することもでき、又は様々なAWBアルゴリズムのうちの1つ又はそれ以上を用いてプログラムで設定することもできる。
シーンの「白色点」は、既知の光源の集合に対する既知の応答を有するカメラの画像センサによりキャプチャされた1つ又は複数の画像を評価することにより、推定することができる。発光源に対するカメラ応答は、以下の式により特徴付けることができ、
white=S*P (式1)
ここで、Pは光源のスペクトルパワー分布の集合を表わし、Sはカメラのスペクトル感度であり、Cwhiteはカメラの応答ベクトルである。換言すれば、カメラの応答は、個々の光源のタイプ並びに個々のカメラのスペクトル応答の両方の関数である。
実世界の撮像においては、カメラの応答は、そのシーン内の被写体表面から反射した光の関数でもある。この関係は、
objects=S*R*P (式2)
と記述することができ、ここでRは、被写体表面のスペクトル反射率を表わす。
AWBアルゴリズムが対処する根本的な課題は、既知の応答及びカメラ感度(S)並びにシーン内の未知の被写体表面(R)を用いて未知の光源(P)により生じたキャプチャされた画像から、シーン光源の白色点を解明しようとすることである。
画像データのみからシーン白色点を推定することの不確実性を解決するために、学界及び産業界の両方において、様々な異なる方法が研究されている。最も基本的な「グレーワールド」AWBアルゴリズムは、解を制約するために、実世界における被写体表面の反射率分布に関しての強力な仮定、すなわち、シーン全体の色を平均すると灰色になるという仮定を立てる。その他の公表された方法としては、それほど強力ではないが、より原理に基づいた表面反射率及び発光源分布のモデル化を行って、より良い推定に到達する、ベイズの推定の変法、異なる発光源の下での画像色度の固有の分布をその発光源推定のために利用する「相関による色(color by correlation)」アルゴリズム、さらには、シーンにおける鏡反射率又は微小鏡反射率の情報から白色点値を導出するアルゴリズムのクラスが挙げられる。
しかしながら、グレーワールド法は、実装が容易で適度に安定性があるので、産業上の実地で最も普及したホワイトバランス法は、やはり、修正されたグレーワールド法に大まかに基づくものである。このような手法には多くのバリエーションが存在し得るが、そのほとんどは、最初に、信頼できそうな光源で照明された中立の(neutral)表面からのものである可能性が高いピクセル応答の部分集合を選択し、次に、そのようなピクセルの平均色度がそのシーンにおける真の白色/灰色を表わす可能性が高いという仮定を立てることを伴う。このクラスの方法は、本明細書において「選択的グレーワールド」アルゴリズムと呼ばれる。
そのような選択的グレーワールド法に付随する最大の制限は、オリジナルのグレーワールド法を非実用的にさせているのと同じ制限、すなわち、「灰色らしい」ピクセルの応答は実際に平均すると灰色になるという仮定である。共通発光源(common illuminant)の下での典型的な被写体表面に対するカメラ応答のモデル化から、この仮定に反する場合が多いことが確認された。例えば、各々の使用シナリオの発光源及び表面分布に依存して、幾つかの「灰色らしい」ピクセル応答は、他のピクセル応答よりも灰色である可能性が高く、すなわち、幾つかのピクセル応答は、他のピクセル応答よりも真の白色点に関する情報をより多く持っている。白色点推定精度を高めるために、重み付けスキームを用いてこれらのピクセル応答を別様に処理することができる。キャプチャされた画像の「灰色らしい」ピクセルの部分集合が選択されると、シーンの白色点は、これらのピクセル値の加重和
r=sum(R*W)/sum(W)
g=sum(G*W)/sum(W) (式3)
b=sum(B*W)/sum(W)
として計算することができ、ここで、Wは重みベクトルを指し、R、G、Bはピクセルの色ベクトルである。
画像のホワイトバランスを得るためには、2つのチャネルだけを調整すればよく、それらは通常、rチャネル及びbチャネルであり、
R’=(g/r)R (式4)
B’=(g/b)B
ここで、R及びR’は、ホワイトバランス調整の前及び後の赤色チャネル応答であり、B及びB’は、ホワイトバランス調整の前及び後の青色チャネル応答である。
従って、改善された「選択的グレーワールド」手法を用いて、画像におけるより正確なホワイトバランス調整を提供する技術が必要とされている。ホワイトバランスゲインを計算するときに、信頼できそうな中立のピクセル値のインテリジェントな重み付けを行うことにより、白色点をより正確に計算することができる。
本開示は、カラーバランス調整のための、より効果的な「選択的グレーワールド」手法を実装するための装置及びコンピュータ可読媒体に関する。本明細書で説明される技術は、ノイズ最適化された選択基準の使用を伴い、より具体的には、幾つかの実施形態においては、ホワイトバランスゲインを計算する際に、ノイズ最適化された重み付きルックアップ表(すなわち「重み付き表」)間の補間の使用を伴う。推定シーン・ルクスレベルは、期待シーン・ノイズレベルの有用な指標を与えることができる。本明細書で説明されるカメラ画像処理技術は、画像キャプチャ装置により実行することもでき、又は汎用PCソフトウェア・アプリケーション形式で実行することもできる。本明細書で説明されるカラーバランス調整技術は、専用若しくは汎用ハードウェア、汎用アプリケーション・ソフトウェア、又はコンピュータシステムにおけるソフトウェアとハードウェアとの組合せにより実装することができる。
背景技術の項で説明したように、AWBアルゴリズムの重要な目的は、シーン白色点を計算するために、キャプチャされた画像内の信頼できそうな「白色」ピクセルを識別し、次に、より正確なシーン白色点の推定を与える、これらの選択されたピクセル値についての感知し得る統計量を生成することである。
シーンの構成における変動に加えて、「あるピクセルが灰色である確率」は、センサの特性、特にセンサのスペクトル感度及びノイズ特性にも影響を受ける。例えば、低光量条件下でセンサのノイズレベルが高い場合には、より明るい照明の下では灰色面からものとされる可能性が低そうなピクセル応答が、その低光量条件下での白色点の統計量に大きく寄与するものとなる可能性が高い。本明細書で説明される技術の1つの目的は、白色点の実推定量を与えるピクセル統計量の集合を原理に基づいた方式で生成するために、これらの変動を、「灰色らしい」ピクセルの平均が実際に真の灰色に対応するという仮定を盲信するのではなく、推定センサノイズレベルに基づいてモデル化することである。
本開示の1つの態様は、広範囲の画像キャプチャ条件にわたる画像のノイズの特性に基づいた一連の白色ピクセル選択基準を提案する。これらのいわゆる「ノイズ最適化された」選択基準は、多くの形態で具体化することができ、例えば、二者択一の選択基準(すなわち、あるピクセルが「考慮に入れられる」又は「考慮に入れられない」)による、若しくはルックアップ表(例えば、重み付き表の形態で具体化され、これは、幾つかの実施形態においては重み付きマスクとして視覚化することができる)による公式を通じて、又は、その他の任意の適用可能な形態で具体化することができる。これらの基準は、異なる発光源に対するカメラ応答のモデル化、及び、個々のイメージングセンサのノイズの特性に基づいて、公式化することができる。各々のカメラの画像センサについて白色点選択基準の集合を予め計算し、これを画像キャプチャ装置自体の中に格納するか又はアプリケーション・ソフトウェア形式の中に格納することができる。現場での使用中に、露光時間及びセンサゲインのような画像キャプチャ・パラメータから、キャプチャされた各画像の特定のノイズレベルを推定することができ、次にこれらを用いて、装置又はアプリケーション・ソフトウェア内に格納された多重の集合の中からどの白色点選択基準の集合を用いるかを決定することができる。
従って、本明細書で説明される1つの実施形態においては、プログラム可能な制御装置によって読み出すことができる一時的ではないプログラム格納装置が開示され、この一時的ではないプログラム格納装置は、その上に格納された命令を含み、この命令は、プログラム可能な制御装置に、画像センサによりキャプチャされた画像から取得された画像ピクセルデータをメモリ内に格納させるための命令と、画像ピクセルデータを色空間にわたる画像ピクセル値の集合に変換させるための命令と、画像についてのノイズレベルを推定させるための命令と、推定ノイズレベルに少なくとも部分的に基づいて、ノイズ最適化された値の重み付き表を識別させるための命令であって、ノイズ最適化された重み付き表の中の各値が、対応する画像ピクセル値を有する、命令と、各画像ピクセル値にその対応するノイズ最適化された重み付き表の値を乗じて、ノイズ重み付き画像ピクセルデータを生成させるための命令と、ノイズ重み付き画像ピクセルデータをメモリ内に格納させるための命令である。
本明細書に記載される別の実施形態においては、プログラム可能な制御装置により読み出すことができる一時的ではないプログラム格納装置が開示され、この一時的ではないプログラム格納装置は、その上に格納された命令を含み、この命令は、プログラム可能な制御装置に、画像センサによりキャプチャされた画像から取得された画像ピクセルデータをメモリ内に格納させるための命令と、画像のノイズ特性を推定させるための命令と、推定されたノイズ特性に少なくとも部分的に基づいて、ノイズ最適化されたピクセル選択基準を識別させるための命令と、ノイズ最適化されたピクセル選択基準を画像ピクセルデータに適用して、重み付き画像ピクセルデータを生成させるための命令と、重み付き画像ピクセルデータをメモリ内に格納させるための命令である。
本明細書に記載されるさらに別の実施形態においては、プログラム可能な制御装置により読み出すことができる一時的ではないプログラム格納装置が開示され、この一時的ではないプログラム格納装置は、その上に格納された命令を含み、この命令は、プログラム可能な制御装置に、画像センサによりキャプチャされた画像から取得された画像ピクセルデータをメモリ内に格納させるための命令と、画像のルクスレベルを推定させる命令と、推定されたルクスレベルに少なくとも部分的に基づいて、ノイズ最適化された重み付き表を、複数の予め格納されたノイズ最適化された重み付き表の中の対応する値の間を補間することにより識別させるための命令と、ノイズ最適化された重み付き表を画像ピクセルデータに適用して、ノイズ重み付き画像ピクセルデータを生成させるための命令と、ノイズ重み付き画像ピクセルデータを用いて画像ピクセルデータについての白色点を計算させるための命令である。
本明細書で説明される種々の実施形態によるAWBのための新規かつ改善された技術は、携帯電話、個人データ情報端末(PDA)、携帯用音楽プレイヤー、デジタルカメラ、並びにラップトップ型及びタブレット型コンピュータシステムのような、適切な画像センサを備えた任意の多数の電子画像キャプチャ装置に容易に適用可能である。
本特許又は出願のファイルは、カラーで作成された少なくとも1つの図面を含む。カラー図面を有する本特許又は特許出願公開の複写は、請求により、かつ必要な料金を支払うことにより、特許庁から提供される。
カメラ応答を人間の目の感度に対して補正するための知覚モデルを示す。 色補正を行うための抽象的かつ概念的な画像処理パイプラインを示す。 1つの実施形態による、ノイズ最適化された重み付き表を利用してカラーバランス調整及び色補正を行うための改善された画像処理パイプラインを示す。 1つの実施形態による、ノイズ最適化された重み付き表を作成するためのプロセスを、より詳細に示す。 1つの実施形態による、マスク形態の例示的な低ルクスレベルのノイズ最適化された重み付き表を、共通発光源の白色点と共に、色比色度空間内で示す。 1つの実施形態による、マスク形態の例示的な屋内ルクスレベルのノイズ最適化された重み付き表を、共通発光源の白色点と共に、色比色度空間内で示す。 1つの実施形態による、補間されたノイズ最適化された重み付き表を作成するためのプロセスを示す。 ディスプレイ及び画像センサを有する代表的な電子装置の略機能ブロック図を示す。
カラーバランス調整のための「選択的グレーワールド」手法を実装するための方法、装置、及びコンピュータ可読媒体が説明される。開示される技術は、ノイズ最適化された選択基準の使用を伴い、より具体的には、幾つかの実施形態においては、ホワイトバランスゲインを計算する際に、ノイズ最適化された重み付き表の中の対応する値間の補間の使用を伴う。推定シーン・ルクスレベルは、期待シーン・ノイズレベルの有用な指標を与えることができる。本明細書で説明される画像処理技術は、画像キャプチャ装置、又はユーザレベルのソフトウェア・アプリケーションを実行する汎用プロセッサ(例えば、パーソナルコンピュータ)によって実行することができる。説明されるカラーバランス調整技術は、専用若しくは汎用ハードウェア、汎用アプリケーション・ソフトウェア、又はコンピュータシステムにおけるソフトウェアとハードウェアとの組合せにより実装することができる。
分かり易くするために、実際の実装の全ての特徴が本明細書において説明されるわけではない。もちろん、そのような実際の実装のいずれの開発においても(あらゆる開発プロジェクトの場合と同様に)、開発者の特定の目標(例えば、システム関連の制約及びビジネス関連の制約の遵守)を達成するためには多数の決定が成されなければならず、しかも、これらの目標は実装毎に異なるものとなることが理解されるであろう。そのような開発努力は複雑で時間がかかるかもしれないが、それにもかかわらず、本開示の利点を享有する当業者にとっては日常的な仕事であることもまた理解されるであろう。
以下の説明において、説明を目的として、本発明の概念を完全に理解してもらうために、多数の具体的な詳細を述べる。説明の一部として、幾つかの構造及び装置は、本発明を不明瞭にすることを避けるために、ブロック図で示される場合がある。さらに、本開示において用いられる言語は、主として、読みやすさ及び教示目的で選択され、本発明の主題の輪郭を描くため又は境界を定めるために選択されたものではない場合があり、そのような本発明の主題を定めるためには特許請求の範囲を頼りにすることが必要である。本明細書における「1つの実施形態」又は「実施形態」への言及は、その実施形態に関連して説明される特定の機構、構造、又は特徴が、本発明の少なくとも1つの実施形態に含まれることを意味し、「1つの実施形態」又は「実施形態」への複数回の言及は、必ずしも全てが同じ実施形態に言及していると理解すべきではない。
最初に図1Aを参照すると、カメラ応答を人間の目の感度に対して補正するための知覚モデルが説明目的で示される。基本レベルにおいて、カメラの画像センサは、その画像センサが感知する波長の全スペクトルわたる入射光に対する特性応答100を有する。キャプチャされているシーンは、異なるタイプの発光源によって照らされることもあり、これが、そのシーン内の色が再現されて人間の目で知覚される方式に対する影響を与えることがある。従って、異なる発光源のタイプに基づいて、異なる、カラーバランス調整などの最適化102を使用することができる。
画像センサの感度と人間の目の感度が人間の目の可視域の全域にわたって同じであれば、カラーバランス調整以外のさらなる色補正は必要とされないかもしれないが、画像センサの感度と人間の目の感度が人間の視覚の特定の範囲にわたって異なる場合には、人間の目104による色の知覚が実世界のシーンの色に対して可能な限り正確なものとなることを保証するように、画像センサによってキャプチャされたデータに対して、色補正行列(CCM)の適用などの、さらなる色補正を使用することもできる。
ここで図1Bを参照すると、色補正を行うための抽象的かつ概念的な画像処理パイプライン145が説明目的で示される。最初に、画像センサ106によってシーンがキャプチャされる。画像センサから、データがRGB生データ形式108で出力される。次に、シーンの白色点が計算され、キャプチャされた画像センサデータに対してホワイトバランス・アルゴリズムが実行され(110)、白色ピクセルを白色としてレンダリングするためにR、G、又はBチャネルのいずれかのゲインを調整する必要があるかどうかが判断される。グレーワールド・アルゴリズム、選択的グレーワールド・アルゴリズム、又は重み付けアキュムレータ・アルゴリズムなどの多数の可能なホワイトバランス・アルゴリズムのうちのいずれを用いることもできる。次に、発光源のタイプに応じて、さらなる色補正112、例えばCCMを、画像データに適用することができる。CCM内の値は、シーン白色点及びシーン・ルクスレベルの両方の関数とすることができる。従って、同じ白色点を有する2つの画像が、非常に異なるCCMを有する場合がある。ひとたび画像データが所望どおりにカラーバランス調整及び色補正されると、出力データを、例えばsRGB(すなわち標準RGB)の形で所望のディスプレイ装置114に送ることができる。
この枠組みを念頭において、「発明の発明を実施するための形態」の残りの部分では、白色点の計算及びカラーバランス調整プロセス110がより有効になるように、要素108から出てくる生ピクセルデータに対して用いられ、適用することができる技術について検討する。特に、本明細書において検討する技術は、例えば重み付き表の使用による、ノイズ最適化された選択基準を作成して補間するための画像処理技術に関する。
ここで図2を参照すると、1つの実施形態による、ノイズ最適化された重み付き表を利用して色補正を行うための改善された画像処理パイプライン150が示される。図1Bに示された画像処理パイプライン145と比べると、改善された画像処理パイプライン150は、「RGB値からヒストグラムを作成し、ノイズ最適化された重み付き表を乗じる」と表示された要素109を、要素108において生データの受け取りと、要素110における白色点の計算及びカラーバランス調整の実行との間に有する。ノイズ最適化された重み付き表の使用による生ピクセルデータの変換(109)を、以下でさらに詳述する。
幾つかの実施形態によれば、画像ピクセルデータのヒストグラムが蓄積される色空間又は「色度空間」は、その空間に特定の形状を与えるための、又はその他の実施させられている所望の特性をもたらすための、一連の数学的変換により定義することができる。さらに、変換パラメータは、特定のセンサのスペクトル感度に適合するように最適化することができる。以下で説明する例において、色度空間は、色比(color ratio)空間とする。直線色比空間(例えば、R/G掛けるB/G)のような任意の所望の色空間を用いることができる。
「ノイズ最適化された重み付き表」の構築
上述のように、画像センサ情報は、RGB生データの形態、すなわち、まだ表示の準備ができていないCOLan未処理線形RGB信号の形態で、画像センサから画像処理パイプライン150中へと入ってくることができる。ここで図3を参照すると、画像ピクセルデータに適用される「ノイズ最適化された重み付き表」を作成するためのプロセスフロー109が、より詳細に示されている。
三色次元(すなわち、赤色、緑色、及び青色)からの入力信号を二色次元に減らすために、RGB信号をクロミナンス値に変換することができる。クロミナンスは、本明細書で用いられる場合、輝度(明るさ)に依存しない色の品質の客観的な規格を指す。輝度を考慮から除外すると、残りの色の成分は、ときにはx及びyと呼ばれることがある、2つの変数で定義することができる。これは、色度空間を、全ての既存の色を色度空間内のx−y座標位置によって一意に識別することができる2Dプロットにマッピングすることを可能にするので、有用である。次に、これらのクロミナンス値は、その色空間にわたって作成された2Dヒストグラムに蓄積することができる(要素116)。色値のヒストグラムは、プロセスフロー109において受け取ることもでき(すなわち、何らかの外部プロセスによって構築される)、又はプロセスフロー109の中で構築することもできる。
次に、プロセスフロー109は、シーン・ノイズレベルの推定を試行する(要素118)。上述のように、推定シーン・ノイズレベルは、適切な重み付き表を構築するために有用であり得ることがわかる。センサの最大能力(full well capacity)、センサの読み出しノイズ、センサのアナログゲイン、シーンのルクスレベル、及びセンサの量子化などを含めた種々のキャプチャ条件が、画像のノイズレベルに影響を与え得る。次に、プロセスフロー109は、推定シーン・ノイズレベルに対応する1つ又は複数の重み付き表を識別することができる(要素120)。幾つかの実施形態においては、代表重み付き表を格納することができ、各々の代表重み付き表は、複数の所定のルクスレベルのうちの特定の1つに対応する。次に、所与の画像についてシーン・ルクスレベルが推定されると、プロセス109は、所与の画像の推定シーン・ルクス(従ってノイズ)レベルに合わせてカスタマイズされた補間された重み付き表を生成するように、推定シーン・ルクスレベルに最も近く対応する格納された代表的な重み付き表の中の対応する値の間を補間することができる(要素122)。幾つかのそのような実施形態においては、ノイズ重み付き表内の各々の値を補間計算に用いることができるが、表内の各々の値の使用は必ずしも必須ではない。さらに他の実施形態において、十分な格納スペース及び処理能力が利用できるならば、要素120及び122を、予め格納された重み付き表の間を補間するのではなく、推定シーン・ノイズレベルに基づいて「その場で」重み付き表を解析的に計算する単一のステップで置き換えることができる。そして最後に、例えば2D画像ヒストグラムの形態である画像データに、ノイズ重み付き表の中の対応する値を乗じて、ノイズ重み付き画像ピクセルデータの集合、すなわち、所与のセンサ及び推定ノイズレベルについて、そのシーンについてのより正確な白色点計算を生じさせる可能性が高い、重み付き値の集合を生成することができる(要素124)。ノイズ重み付き画像ピクセルデータは次に、任意の所望の方法によるシーン白色点の計算のための所望のAWBアルゴリズム110’に渡すことができる。幾つかの実施形態において、AWBアルゴリズム110’は、単純に、残りのノイズ重み付き画像ピクセルデータを平均すると灰色になると仮定とするアルゴリズム、すなわち「選択的グレーワールド」手法を含むものとすることができる。他の実施形態において、上述のように、より複雑なAWBアルゴリズムを使用することができる。
幾つかの実施形態において、画像センサノイズモデルを用いて代表重み付き表を生成することができ、この場合、各々の代表重み付き表は、特定のノイズレベルに対応する。1つの実施形態によれば、例示的な画像センサノイズモデルは、以下のように表すことができ、
Vn=(C/K*Ga+V1*Ga2+V2)*K2 (式5)
ここで、Vnは、特定のピクセル応答Cに関連付けられたノイズ分散であり、Kはセンサの変換ゲインであり、Gaはキャプチャにおけるアナログゲインであり、V1及びV2は、それぞれ、ゲインに依存しないノイズ源(kT/C、ソースフォロワ、増幅器入力ノイズ)、及びゲインに依存するノイズ源(電子的ノイズ及び量子化ノイズ)の分散である。
ノイズモデルが上記式5で与えられ、ノイズの加法的性質を仮定すると、発光源に対するカメラ応答は、以下のように表すことができ、
C=S*P+n (式6)
ここでnはノイズベクトルであり、S及びPは、上記の背景技術の項において説明した通りである。
ノイズ項nについて(かなり単純化された)正規分布N[0,Vn]を仮定すると、上記式1から、特定のピクセル応答Cの分布は、N[S*P,Vn]と表すことができる。従って、特定の発光源Pが与えられると、特定のカメラ応答が得られる尤度は、この方式で容易に計算することができる。特定の発光源が与えられたときの所与のピクセルの応答の確率を求めるために上記式を用いると、特定のノイズレベルに対応する種々の代表重み付き表の値を生成することができる。
より正確な白色点推定をカメラ応答データから得るために、所与のカメラ応答及び推定ノイズレベルについての白色点の確率分布、すなわち、D(P|C,n)を用いることができる。この確率分布Dは、上述のカメラ及びノイズモデルを用いた、異なる光量レベルの各発光源についての、異なるシーン表面構成での、カメラ応答の尤度、すなわちL(C|P,R,n)を集計することにより計算することができ、得られた確率分布Dは、以下のように表すことができる。
D(P|C,n)=L(C|P,R,n)*D(P,R)/D(C) (式7)
いったん各々の白色点の相対的確率がこのようにしてモデル化されると、ピクセル選択及び重み付け基準は、様々な可能な統計量を用いて形成することができる。一例として、全てのカメラ応答Cの線形加重和を用いて白色点を推定することができ、ここで、D(P|C,n)が特定の閾値を下回るカメラ応答については、重みは強制的にゼロにされ、その他の非ゼロの重みは、実世界における所与の被写体表面反射率分布について、あるピクセルが白色表面である相対的な尤度を反映するように計算される。
上記の式から、異なるノイズレベルの下での白色点の確率分布は、例えばノイズ分布N[0,Vn]の差異に起因して、互いに非常に異なるものであり得ることわかる。図4及び図5は、上述の方法に従って計算された、2つの異なるシーン・ルクスレベル、すなわち、非常に低いルクスレベル及び屋内照明のルクスレベルの下での白色点の確率分布をそれぞれ示す。ヒストグラムにおける色が明るいほど、色度空間内のその位置にあたる所与のピクセルが白色表面に対応する尤度がより高いことに対応し、一方、ヒストグラムにおける色が暗いほど、色度空間内のその位置にあたる所与のピクセルが白色表面に対応する尤度がより低いことに対応する。図4及び図5に示される2つの分布間の差異に基づいて、異なるノイズレベルにおいてAWB計算に含めるべきピクセルを選択するためには異なる選択基準を用いるべきであること、そして、これらのピクセル値を組み合わせて白色点を推定するためには異なる統計量を用いるべきであることを推論することができる。
ここで図4を参照すると、例示的な非常に低ルクスのノイズ最適化された重み付き表130がマスクとして、共通発光源の白色点160と共に、色比色度空間内に示されている。参考までに、平均屋内照明は100ルクスから1,000ルクスまでの範囲であり、平均屋外日光は約50,000ルクスである。上述のように、シーン・ルクスを推定することにより、尤もらしい高い光源の集合のタイプを推論することができ、そして次に、そのような光源についての既知の可能な白色値の範囲、すなわち図4における非黒色領域を推論することができる。例えば、低ルクスレベルにおいては、マスク内の非黒色領域は、尤もらしい光源の集合がより大きいので、比較的大きいものである必要があり、非常に高いルクスレベルにおいては、既知の可能な白色値の範囲は、比較的小さくすることができ、例えば、昼光の白色点領域の近くに限定される。図4に示されるように、非常に低いルクスレベルにおいては、例示的な色度空間のほとんど全体にわたる確率分布は、非黒色であり得る(すなわち、非黒色位置にあるピクセルはいずれも、そのような位置に生じるピクセルが白色表面に由来するものであり得ることの少なくともある程度の確率を有しており、より明るい色は、重み付き表における対応する位置に格納されている、より高く重み付けされた値に対応する)。このことは、低いルクスレベルでは、予期される大量のノイズがあるという事実を反映しており、それゆえ、そのような低照明レベルにおけるシーン白色点の計算からいずれかのピクセルを棄却すること(又は、少なくともいずれかのピクセルを完全に棄却すること)は困難である。
図5は、マスク形態の例示的な通常の屋内照明ルクスのノイズ最適化された重み付き表140を、共通発光源の白色点160と共に、図4に示される色度空間内で示す。図4と比較すると、図5に示されるルクスレベルにおける確率分布は、色度空間のはるかに大きい部分にわたって黒色である。図5においては、確率分布の非黒色領域は、共通発光源の白色点160が見いだされる区域のより近くに限られている。このことは、通常の屋内照明レベルにおいてさえ、予期されるノイズは少ないという事実を反映し、それゆえ、共通発光源の範囲内又はその近傍に位置しないピクセルは、シーン白色点の計算において、より安全に棄却することができ、又は少なくとも大幅に割り引く(すなわち、より低い重みを与える)ことができる。
推定ノイズレベルを条件とする多重選択基準を用いることの必要性をより直感的に示す別の例として、AWBアルゴリズムが、[R/G,B/G]装置の色比空間において動作し、白色ピクセル選択基準が、昼光のような低ノイズのキャプチャ条件下で、以下の2つの式により記述されるものと想定する。
Th1<R/G<Th2 (式8)
Th3<B/G<Th4
ノイズにより導入される不確実性に起因して、高ノイズでのキャプチャ、すなわち、夕方の屋外のような低光量の下でキャプチャされた画像については、白色ピクセルを選ぶ基準は、単に、イメージングセンサのノイズモデル通じて計算される許容差Δをより幅広くした式8で表される、上記の基準内にあるものとすることができ、例えば、
Th1−Δ1<R/G<Th2+Δ2 (式9)
Th3−Δ3<B/G<Th4+Δ4
である。
追加の許容差であるΔ1からΔ4は、ピクセル値のノイズが、あるピクセルが白色ピクセルである尤度に追加の不確実性を導入したという事実を反映するものであるので、ノイズがより高いときには、シーン白色点の計算に向けてより多くのピクセルが考慮されることになる。
上述の例証的な例において、線形加重和モデルを用いて最終的な白色点が計算され、かつ、上記基準により選択された全てのピクセルに対して単一の重みが与えられるならば、より高ノイズ(すなわち、低光量)のシーンの白色点は、
r=sum(R+ΔR)/(n+Δn)
g=sum(G+ΔG)/(n+Δn) (式10)
b=sum(B+ΔB)/(n+Δn)
となり、ここでΔR、ΔG、ΔBは、計算に投入される追加のピクセルを表わすベクトルであり、n及びΔnは、それぞれ、計算に投入される元のピクセルの数、及び、高ノイズのシナリオにおいて計算に投入される追加のピクセルの数を表わす。
従って、キャプチャされた画像におけるノイズの変化を考慮に入れることで、画像のノイズレベルが変化してもそれに応じて白色ピクセルの選択基準を適応的に調整しないAWB解法よりも、統計的に正確で安定した解が得られることがわかる。
上述のように、幾つかの実装に固有の制限に起因して、全ての可能な推定ノイズレベルについての中立のピクセル選択基準を解析的に計算することは可能ではないことがある。そのような状況では、格納された中立のピクセル選択基準の、限られた選択肢しか存在し得ない。これらの基準は、例えば、画像キャプチャ装置が実世界において用いられる環境内に存在する可能性が高い、疎にサンプリングされたノイズレベル又はルクスレベルに対応するものであり得る。そのような場合、実際にはノイズ挙動は連続的なプロセスであるとはいえ、ノイズに相関したピクセル選択基準は、解析的な公式に基づかないものとなることがある。これらの場合において、疎にサンプリングされたノイズレベル間に入る任意のノイズレベルに対して、格納された選択基準間の補間を用いて、そのノイズレベルについての対応する白色ピクセル選択基準を計算することができる。
例えば、選択基準は、ルックアップ表(LUT)配列のような数値形態で存在するものとすることができ、各LUT要素は、ノイズレベルベクトルNに対応する。ノイズレベルがnの入力画像について、nが、隣接する2つのサンプリングされたノイズレベル、例えばNi-1とNiとの間にある場合には、これら2つのノイズレベルに対応する2つのLUT要素間で、白色ピクセル選択基準を線形補間することができる。画像ノイズnがサンプリングされた最小のノイズレベルよりも小さい場合には、その最小ノイズレベルのピクセル選択基準を用いることができる。サンプリングされた最大のノイズレベルよりも大きい推定ノイズレベルにも同じこと当てはめることができ、すなわち、最大ノイズレベルのピクセル選択基準を用いることができる。
ここで図6を参照すると、1つの実施形態による、補間されたノイズ最適化された重み付き表153を作成するためのプロセスがより詳細に示される。プロット155は、プロットの横軸にわたる推定シーン・ルクスとプロットの縦軸にわたる推定ノイズとの間の例示的な関係を表わす。プロット155に示されるように、推定シーン・ルクスが増大すると、推定ノイズレベルは本質的に漸近的に減少する。例えば、低光量の条件156は、予め格納された低光量の重み付き表130(図4を参照)に対応し、中域光量条件157は、予め格納された中域の重み付き表140(図5を参照)に対応する。横軸上をさらに右に進んで、昼光条件158は、予め格納された昼光の重み付き表150に対応する。昼光の重み付き表150における非黒色区域は、昼光に対応する共通発光源範囲のさらに近くに限定されていることに留意されたい。図6の例証的な実施形態においては、3つの予め格納された重み付き表が示されているが、他の実施形態においては、尤もらしいシーン・ルクス値の範囲を適切にサンプリングするために、もちろん、より多数の予め格納された重み付き表が存在し得る。
図6に示されるように、推定シーン・ルクスレベル159(プロット上で大きいアスタリスクにより示される)は、低光量156照明条件に対応する予め格納された重み付き表についてのレベルと中域157照明条件に対応する予め格納された重み付き表についてのレベルとの間に入る。それゆえ、推定シーン・ルクスレベル159を有する現在のシーンにとってより妥当な補間された重み付き表153を作成するために、適切な補間動作152(例えば、線形補間又は対数補間)によって、補間された重み付き表153を生成することができる。本実施形態においては、次に、画像ピクセルデータ・ヒストグラム116を新たに生成された補間された重み付き表153の中の値に適用し、例えば、乗じて、ノイズ重み付き画像ピクセルデータの集合、例えばノイズ最適化された画像ピクセルデータ・ヒストグラム154を作成することができる。次にこのノイズ最適化された画像ピクセルデータ・ヒストグラム154を所望のAWBアルゴリズムで利用して、より正確なシーン白色点を計算することができる。
AWB性能を改善するための、多重の最適化された白色ピクセル選択及び重み付け基準の索引付け及び使用は、推定画像ノイズレベルに基づくものに限定されないことに留意されたい。これは、画像のノイズ特性に相関する任意の物理的又は数値的な品質、例えば、シーン・ルクス、センサのアナログゲインなどに基づくものとすることができる。
また、格納されていないノイズレベルについての重み付け基準を計算するために用いられる補間法は、線形補間又は他の任意の適切な非線形補間法により行うことができることにも留意された。
本明細書に記載されるノイズモデルは、例証的かつ例示的なものであることも留意すべきである。音響工学に基づく任意の適切なノイズモデルを、モデル化のために用いることができる。
ここで図7を参照すると、例証的な実施形態による、ディスプレイ220を有する代表的な電子装置、例えば、電子画像キャプチャ装置200の略機能ブロック図が示される。電子装置200は、プロセッサ216と、ディスプレイ220と、近接センサ/周辺光センサ226と、マイクロフォン206と、音声/映像コーデック202と、スピーカ204と、通信回路210と、位置センサ224(例えば、加速度計又はジャイロメータ)と、関連付けられたカメラハードウェアを備えた画像センサ208と、ユーザインターフェース218と、メモリ212と、格納装置214と、通信バス22とを含むことができる。プロセッサ216は、任意の適切なプログラム可能な制御装置とすることができ、画像データの生成及び/又は処理並びに電子装置200が実行するその他の機能などの、多くの機能の動作を制御することができる。プロセッサ216は、ディスプレイ220を駆動することができ、ユーザインターフェース218からユーザ入力を受け取ることができる。組込み型プロセッサは、開示される技術を遂行するために利用することができる多機能でロバストなプログラム可能な制御装置を提供する。
格納装置214は、媒体(例えば、画像及び映像ファイル)、ソフトウェア(例えば、装置200上の種々の機能の実装用)、基本設定情報、デバイスプロファイル情報、及びその他の任意の適切なデータを格納することができる。格納装置214は、画像データ及びプログラム命令を実体的に記録するための1つ又はそれ以上の格納媒体を含むことができ、これには、例えば、ハードドライブ、ROMのような永続メモリ、RAMのような半永続メモリ、又はキャッシュが含まれる。プログラム命令は、任意の所望の言語(例えば、C又はC++)でコード化され、1つ又はそれ以上のプログラムモジュールに組織化される、ソフトウェア実装を含むことができる。
メモリ212は、装置の機能を実行するために用いることができる1つ又はそれ以上の異なるタイプのメモリを含むことができる。例えば、メモリ212は、キャッシュ、ROM、及び/又はRAMを含むことができる。通信バス222は、少なくとも格納装置214、メモリ212、及びプロセッサ216へとデータを伝送する、それらからデータを伝送する、又はそれらの間でデータを伝送するための、データ伝送経路を提供することができる。ユーザインターフェース218は、ユーザが電子装置200と対話することを可能にすることができる。例えば、ユーザ入力装置218は、ボタン、キーパッド、ダイアル、クリックホイール、又はタッチスクリーンのような様々な形態をとることができる。
1つの実施形態において、個人用電子装置200は、画像及び映像ファイルのような媒体を処理して表示することができる、電子装置とすることができる。例えば、個人用電子装置200は、携帯電話、個人データ情報端末(PDA)、携帯用音楽プレイヤー、モニタ、テレビジョン、ラップトップ型、デスクトップ型、及びタブレット型のコンピュータ、又はその他の適切な個人用装置などの装置とすることができる。
上記の好ましい実施形態及びその他の実施形態の説明は、出願人が着想した本発明の概念の範囲又は応用範囲を限定又は制限することを意図するものではない。一例として、本開示は、手持ち式の個人用電子画像キャプチャ装置に焦点を合わせているが、本開示の教示は、従来のデジタルカメラのようなその他の実装にも応用することができることが理解されるであろう。本明細書に含まれる発明の概念を開示することと引き替えに、出願人は、添付の特許請求の範囲により与えられる全ての特許権を所望する。従って、添付の特許請求の範囲は、以下の特許請求の範囲又はその均等の範囲内に入る全ての修正及び変更を完全な範囲で含むことが意図される。
130、140:ノイズ最適化された重み付き表
145:画像処理パイプライン
150:改善された画像処理パイプライン
160:共通発光源の白色点
200:電子画像キャプチャ装置
222:通信バス

Claims (25)

  1. プログラム可能な制御装置によって読み出すことができる一時的ではないプログラム格納装置であって、その上に格納された命令を含み、前記命令は、前記プログラム可能な制御装置に、
    画像センサによりキャプチャされた画像から取得された画像ピクセルデータを、メモリ内に格納させるための命令と、
    前記画像ピクセルデータを色空間にわたる画像ピクセル値の集合に変換させるための命令と、
    前記画像についてのノイズレベルを推定させるための命令と、
    前記推定ノイズレベルに少なくとも部分的に基づいて、ノイズ最適化された値の重み付き表を識別させるための命令であって、前記ノイズ最適化された重み付き表の中の各値が、対応する画像ピクセル値を有する、命令と、
    前記各画像ピクセル値にその対応するノイズ最適化された重み付き表の値を乗じて、ノイズ重み付き画像ピクセルデータを生成させるための命令と、
    前記ノイズ重み付き画像ピクセルデータを前記メモリ内に格納させるための命令
    であることを特徴とする一時的ではないプログラム格納装置。
  2. 前記プログラム可能な制御装置に、前記ノイズ重み付き画像ピクセルデータに少なくとも部分的に基づいて、前記色空間内での前記画像ピクセルデータについてのシーン白色点を計算させるための命令をさらに含むことを特徴とする請求項1に記載の一時的ではないプログラム格納装置。
  3. 前記プログラム可能な制御装置に、前記計算されたシーン白色点を用いて前記画像ピクセルデータのカラーバランス調整を行わせるための命令をさらに含むことを特徴とする請求項2に記載の一時的ではないプログラム格納装置。
  4. 前記プログラム可能な制御装置に前記画像についてのノイズレベルを推定させるための前記命令が、前記プログラム可能な制御装置に前記画像のルクスレベルを推定させるための命令を含むことを特徴とする請求項1に記載の一時的ではないプログラム格納装置。
  5. 前記プログラム可能な制御装置に前記画像についてのノイズレベルを推定させるための前記命令が、前記プログラム可能な制御装置に前記画像センサのアナログゲインを判定させるための命令を含むことを特徴とする請求項1に記載の一時的ではないプログラム格納装置。
  6. 前記プログラム可能な制御装置に前記値のノイズ最適化された重み付き表を識別させるための前記命令が、前記プログラム可能な制御装置に、複数の予め格納されたノイズ最適化された重み付き表の中の対応する値の間を補間させるための命令を含むことを特徴とする請求項1に記載の一時的ではないプログラム格納装置。
  7. 前記プログラム可能な制御装置に、前記複数の予め格納されたノイズ最適化された重み付き表の中の対応する値の間を補間させるための前記命令が、前記プログラム可能な制御装置に、前記複数の予め格納されたノイズ最適化された重み付き表のうちの2つにおける対応する値の間で線形又は非線形補間を行わせるための命令を含むことを特徴とする請求項6に記載の一時的ではないプログラム格納装置。
  8. 前記複数の予め格納されたノイズ最適化された重み付き表の各々が、ノイズレベルに対応することを特徴とする請求項6に記載の一時的ではないプログラム格納装置。
  9. 前記複数の予め格納されたノイズ最適化された重み付き表の各々が、ルクスレベルに対応することを特徴とする請求項6に記載の一時的ではないプログラム格納装置。
  10. 画像センサと、
    プログラム可能な制御装置と、
    前記プログラム可能な制御装置及び前記画像センサに結合されたメモリと、
    を含む装置であって、前記メモリ内に命令が格納され、前記命令は、前記プログラム可能な制御装置に、
    前記画像センサによりキャプチャされた画像から画像ピクセルデータを取得させるための命令と、
    前記画像のノイズ特性を推定させるための命令と、
    前記推定されたノイズ特性に少なくとも部分的に基づいて、ノイズ最適化された重み付き表を識別させるための命令と、
    前記ノイズ最適化された重み付き表を前記画像ピクセルデータに適用させて、ノイズ重み付き画像ピクセルデータを生成させるための命令
    であることを特徴とする装置。
  11. 前記プログラム可能な制御装置に、前記ノイズ重み付き画像ピクセルデータをオートホワイトバランス(AWB)プログラムモジュールに送らせるための命令をさらに含むことを特徴とする請求項10に記載の装置。
  12. 前記プログラム可能な制御装置に、前記画像ピクセルデータについての白色点を計算させるための命令をさらに含むことを特徴とする請求項10に記載の装置。
  13. 前記プログラム可能な制御装置に前記白色点を計算させるための前記命令が、前記プログラム可能な制御装置に前記ノイズ重み付き画像ピクセルデータを用いさせるための命令をさらに含むことを特徴とする請求項12に記載の装置。
  14. 前記プログラム可能な制御装置に、前記計算された白色点に従って前記画像ピクセルデータのカラーバランス調整を行わせるための命令をさらに含むことを特徴とする請求項13に記載の装置。
  15. 前記プログラム可能な制御装置に前記ノイズ最適化された重み付き表を識別させるための前記命令が、前記プログラム可能な制御装置に、前記メモリ内に予め格納された複数のノイズ最適化された重み付き表の中の対応する値の間を補間させるための命令を含むことを特徴とする請求項10に記載の装置。
  16. 前記複数の予め格納されたノイズ最適化された重み付き表の各々が、ノイズレベルに対応することを特徴とする請求項15に記載の装置。
  17. プログラム可能な制御装置によって読み出すことができる一時的ではないプログラム格納装置であって、その上に格納された命令を含み、前記命令は、前記プログラム可能な制御装置に、
    画像センサによりキャプチャされた画像から取得された画像ピクセルデータを、メモリ内に格納させるための命令と、
    前記画像のノイズ特性を推定させるための命令と、
    前記推定されたノイズ特性に少なくとも部分的に基づいて、ノイズ最適化されたピクセル選択基準を識別させるための命令と、
    前記ノイズ最適化されたピクセル選択基準を前記画像ピクセルデータに適用して、重み付き画像ピクセルデータを生成させるための命令と、
    前記重み付き画像ピクセルデータを前記メモリ内に格納させるための命令
    であることを特徴とする一時的ではないプログラム格納装置。
  18. 前記プログラム可能な制御装置に、シーン白色点を計算させるための命令をさらに含むことを特徴とする請求項17に記載の一時的ではないプログラム格納装置。
  19. 前記プログラム可能な制御装置に前記シーン白色点を計算させるための前記命令が、前記プログラム可能な制御装置に前記重み付き画像ピクセルデータを用いさせるための命令をさらに含むことを特徴とする請求項18に記載の一時的ではないプログラム格納装置。
  20. 前記プログラム可能な制御装置に前記ノイズ最適化されたピクセル選択基準を識別させるための前記命令が、前記プログラム可能な制御装置に、複数の予め格納されたノイズ最適化された重み付き表の中の対応する値の間を補間させるための命令を含むことを特徴とする請求項17に記載の一時的ではないプログラム格納装置。
  21. 前記プログラム可能な制御装置に前記ノイズ最適化されたピクセル選択基準を識別させるための前記命令が、前記プログラム可能な制御装置に、二者択一の選択基準を識別させるための命令を含むことを特徴とする請求項17に記載の一時的ではないプログラム格納装置。
  22. 前記複数の予め格納されたノイズ最適化された重み付き表の各々が、ノイズレベルに対応することを特徴とする請求項20に記載の一時的ではないプログラム格納装置。
  23. プログラム可能な制御装置により読み出すことができる一時的ではないプログラム格納装置であって、その上に格納された命令を含み、前記命令は、前記プログラム可能な制御装置に、
    画像センサによりキャプチャされた画像から取得された画像ピクセルデータを、メモリ内に格納させるための命令と、
    前記画像のルクスレベルを推定させるための命令と、
    前記推定されたルクスレベルに少なくとも部分的に基づいて、ノイズ最適化された重み付き表を、複数の予め格納されたノイズ最適化された重み付き表の中の対応する値の間を補間することにより識別させるための命令と、
    前記ノイズ最適化された重み付き表を前記画像ピクセルデータに適用して、ノイズ重み付き画像ピクセルデータを生成させるための命令と、
    前記ノイズ重み付き画像ピクセルデータを用いて前記画像ピクセルデータについての白色点を計算させるための命令
    であることを特徴とする一時的ではないプログラム格納装置。
  24. 前記プログラム可能な制御装置に補間させるための前記命令が、前記プログラム可能な制御装置に、前記複数の予め格納されたノイズ最適化された重み付き表のうちの2つにおける対応する値の間で線形又は非線形補間計算を行わせるための命令をさらに含むことを特徴とする請求項23に記載の一時的ではないプログラム格納装置。
  25. 前記複数の予め格納されたノイズ最適化された重み付き表の各々が、ルクスレベルに対応することを特徴とする請求項23に記載の一時的ではないプログラム格納装置。
JP2012230280A 2011-10-12 2012-09-28 シーンの白色点を計算するためのノイズ最適化された選択基準の使用 Active JP5632890B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201161546146P 2011-10-12 2011-10-12
US61/546,146 2011-10-12
US13/348,192 2012-01-11
US13/348,192 US8780225B2 (en) 2011-10-12 2012-01-11 Use of noise-optimized selection criteria to calculate scene white points

Publications (2)

Publication Number Publication Date
JP2013085254A true JP2013085254A (ja) 2013-05-09
JP5632890B2 JP5632890B2 (ja) 2014-11-26

Family

ID=47146635

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012230280A Active JP5632890B2 (ja) 2011-10-12 2012-09-28 シーンの白色点を計算するためのノイズ最適化された選択基準の使用

Country Status (9)

Country Link
US (1) US8780225B2 (ja)
EP (1) EP2582125B1 (ja)
JP (1) JP5632890B2 (ja)
KR (1) KR101429352B1 (ja)
CN (1) CN103051905B (ja)
AU (1) AU2012227169B2 (ja)
CA (1) CA2790539C (ja)
TW (1) TWI538522B (ja)
WO (1) WO2013055492A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018515862A (ja) * 2015-04-17 2018-06-14 グーグル エルエルシー 畳み込み色補正

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI473429B (zh) * 2011-04-29 2015-02-11 Ememory Technology Inc 晶片上的電源輸入輸出介面
US9413981B2 (en) * 2012-10-19 2016-08-09 Cognex Corporation System and method for determination and adjustment of camera parameters using multi-gain images
EP2739049A1 (en) 2012-11-29 2014-06-04 Axis AB Method and system for generating real-time motion video
US9530342B2 (en) * 2013-09-10 2016-12-27 Microsoft Technology Licensing, Llc Ambient light context-aware display
EP2950058B1 (en) 2014-05-28 2018-03-28 Axis AB Calibration data in a sensor system
US9424628B2 (en) * 2014-06-19 2016-08-23 Microsoft Technology Licensing, Llc Identifying gray regions for auto white balancing
EP3206130B1 (en) 2014-07-01 2018-01-31 Axis AB Methods and devices for finding settings to be used in relation to a sensor unit connected to a processing unit
US9794540B2 (en) 2015-04-17 2017-10-17 Google Inc. Hardware-based convolutional color correction in digital images
CN108804992B (zh) * 2017-05-08 2022-08-26 电子科技大学 一种基于深度学习的人群统计方法
US11593971B2 (en) * 2017-05-31 2023-02-28 Pcms Holdings, Inc. Apparatus and methods for dynamic white point compensation to improve perceived color of synthetic content
EP3719740B1 (en) * 2018-01-29 2023-09-06 EIZO Corporation Image processing device, image processing method, and image processing program
CN110246110B (zh) * 2018-03-01 2023-08-18 腾讯科技(深圳)有限公司 图像评估方法、装置及存储介质
JP2019220768A (ja) * 2018-06-15 2019-12-26 キヤノン株式会社 画像処理装置
JP2019220766A (ja) 2018-06-15 2019-12-26 キヤノン株式会社 画像処理装置
CN111353332B (zh) * 2018-12-21 2023-06-02 中国电信股份有限公司 指纹图像处理方法、装置和计算机可读存储介质
WO2020150237A1 (en) * 2019-01-14 2020-07-23 Nvidia Corporation Weighted normalized automatic white balancing
WO2020221731A1 (en) * 2019-04-30 2020-11-05 Signify Holding B.V. Luminance distribution determination
CN110706147B (zh) * 2019-09-29 2023-08-11 阿波罗智联(北京)科技有限公司 图像处理的环境确定方法、装置、电子设备和存储介质
EP4201054A1 (en) * 2020-08-24 2023-06-28 Google LLC Lookup table processing and programming for camera image signal processing
US11935322B1 (en) * 2020-09-14 2024-03-19 Apple Inc. Obstruction-sensitive white point determination using face information
CN114710654B (zh) * 2022-04-24 2024-01-23 安谋科技(中国)有限公司 图像处理方法、装置、可读存储介质以及电子设备

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6236763B1 (en) * 1997-09-19 2001-05-22 Texas Instruments Incorporated Method and apparatus for removing noise artifacts in decompressed video signals
US6965702B2 (en) * 2002-02-27 2005-11-15 Eastman Kodak Company Method for sharpening a digital image with signal to noise estimation
US7102669B2 (en) 2002-04-02 2006-09-05 Freescale Semiconductor, Inc. Digital color image pre-processing
US7116838B2 (en) * 2002-10-25 2006-10-03 Eastman Kodak Company Enhancing the tonal and spatial characteristics of digital images using selective spatial filters
JP3861808B2 (ja) * 2002-12-25 2006-12-27 ソニー株式会社 撮像装置
KR100965880B1 (ko) * 2003-09-29 2010-06-24 삼성전자주식회사 영상의 잡음 제거 방법
US7728880B2 (en) * 2004-06-25 2010-06-01 Qualcomm Incorporated Automatic white balance method and apparatus
JP2008508751A (ja) * 2004-07-30 2008-03-21 アルゴリス インコーポレイテッド 符号化された画像信号に関する適応型3d虚構映像削減のための装置および方法
KR101092539B1 (ko) 2005-02-18 2011-12-14 삼성전자주식회사 화이트 밸런스를 자동 조정하는 영상장치 및 그의 화이트밸런스 조정 방법
KR101303660B1 (ko) * 2007-10-01 2013-09-04 삼성전자주식회사 잡음제거를 고려한 선명도 향상 방법 및 장치 그리고 잡음가중치 계산 방법 및 장치
US8175378B2 (en) 2007-11-15 2012-05-08 Marvell World Trade Ltd. Method and system for noise management for spatial processing in digital image/video capture systems
JP4465002B2 (ja) * 2007-11-16 2010-05-19 オリンパス株式会社 ノイズ低減システム、ノイズ低減プログラム及び撮像システム。
JP5166860B2 (ja) 2007-12-28 2013-03-21 キヤノン株式会社 画像処理装置及び方法、及び撮像装置
US8274583B2 (en) 2009-06-05 2012-09-25 Apple Inc. Radially-based chroma noise reduction for cameras

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018515862A (ja) * 2015-04-17 2018-06-14 グーグル エルエルシー 畳み込み色補正

Also Published As

Publication number Publication date
KR101429352B1 (ko) 2014-08-11
EP2582125B1 (en) 2018-12-26
US20130093916A1 (en) 2013-04-18
TW201320774A (zh) 2013-05-16
EP2582125A1 (en) 2013-04-17
CA2790539C (en) 2016-10-11
CA2790539A1 (en) 2013-04-12
WO2013055492A1 (en) 2013-04-18
US8780225B2 (en) 2014-07-15
CN103051905B (zh) 2015-04-08
AU2012227169A1 (en) 2013-05-02
KR20130039670A (ko) 2013-04-22
JP5632890B2 (ja) 2014-11-26
TWI538522B (zh) 2016-06-11
AU2012227169B2 (en) 2015-02-19
CN103051905A (zh) 2013-04-17

Similar Documents

Publication Publication Date Title
JP5632890B2 (ja) シーンの白色点を計算するためのノイズ最適化された選択基準の使用
US11849224B2 (en) Global tone mapping
CN110447051B (zh) 在感知上保持参考场景的对比度和色度
US8965120B2 (en) Image processing apparatus and method of controlling the same
US8711249B2 (en) Method of and apparatus for image denoising
JP6891882B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2009265678A (ja) 周辺状態に合わせた画像補正のための方法およびシステム
US8781225B2 (en) Automatic tone mapping method and image processing device
JP2008263475A (ja) 画像処理装置および方法、並びに、プログラム
WO2023098251A1 (zh) 图像处理方法、设备及可读存储介质
CN110310231B (zh) 一种将第一动态范围视频转换为第二动态范围视频的设备及其方法
JP2013138301A5 (ja)
CN111724447B (zh) 一种图像处理方法、系统及电子设备和存储介质
JP6611543B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US20130093915A1 (en) Multi-Illuminant Color Matrix Representation and Interpolation Based on Estimated White Points
CN113364994B (zh) 一种背光补偿方法及背光补偿电路
JP2013500610A (ja) 輝度情報に基づいて修正された値を使用したレンズロールオフ補正操作
US11238565B1 (en) Tone based non-smooth detection
US20230345132A1 (en) Information processing apparatus, information processing method, and program
JP4773739B2 (ja) 画像処理方法
KR20120136451A (ko) 영상 처리 장치, 이의 영상 처리 방법, 및 상기 영상 처리 장치를 포함하는 이미지 시스템
JP2021048522A (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131030

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141001

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141010

R150 Certificate of patent or registration of utility model

Ref document number: 5632890

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250