JP5247900B2 - 画像センサ補償 - Google Patents
画像センサ補償 Download PDFInfo
- Publication number
- JP5247900B2 JP5247900B2 JP2012031033A JP2012031033A JP5247900B2 JP 5247900 B2 JP5247900 B2 JP 5247900B2 JP 2012031033 A JP2012031033 A JP 2012031033A JP 2012031033 A JP2012031033 A JP 2012031033A JP 5247900 B2 JP5247900 B2 JP 5247900B2
- Authority
- JP
- Japan
- Prior art keywords
- image sensor
- imaging
- compensation
- image
- mask
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/02—Diagnosis, testing or measuring for television systems or their details for colour television signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
Description
この出願は、2011年2月16日出願の米国特許出願第13/029076号の一部継続出願であって、その出願の利益を請求するものであり、その内容がここに全て言及されているものとして、ここに組み入れられるものである。
本発明は、画像センサにおける不均一性の補償に関する。
画像センサの分野において、センサの部分に不規則性を生じさせる可能性のある製造公差、不純物及び環境条件等の要因のため、画像センサは、均一な刺激を受けた場合であっても均一な出力信号を生成できない。
不均一性を補償するために、画像センサは手動で校正されることもある。このような校正処理において、バイアス及び変倍係数等の補正パラメータが導出される。撮像中に使用する場合、補正パラメータは、不均一性が減少した補正済み出力信号を取得するように画像センサからのraw出力に適用される。
上述の方法に関する1つの問題は、そのような手動の校正が画像データの撮像後に実行されなければならないことである。従って、rawセンサ出力は、既に不正確に不均一であり、欠陥及び誤差を含む。そのため、画像センサ及び/又は画像自体の処理のいずれの更なる調整も、そのような欠陥及び誤差を既に含むraw画像信号から開始されなければならない。
本明細書の開示内容は、上述のことに対処し、撮像前に調節可能な画像センサに対して補償撮像マスクを生成し且つ撮像時にマスクを適用することにより画像センサの色感度の空間不均一性を補償する。
従って、本明細書において説明する例示的な一実施形態において、補償は、調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスに対して実行される。補償は、画像センサの色感度の空間不均一性に対するものである。デフォルト撮像マスクは画像センサに適用され、サンプル画像はデフォルト撮像マスクにより調節された画像センサを使用して撮像される。サンプル画像の色が解析され、画像センサの色感度の空間不均一制を識別する。補償撮像マスクは、画像センサに適用するために構成される。補償撮像マスクは、画像センサの色感度の空間不均一性を補償するように識別された空間不均一性に基づく計算を使用して構成される。補償撮像マスクは、補償撮像マスクを画像センサに適用するために撮像デバイスのメモリに格納される。
マスクがraw画像信号を撮像しつつ不均一性に対処するため、撮像前に調節可能な画像センサに対して補償撮像マスクを生成し且つ撮像時にマスクを適用して画像センサの色感度の空間不均一性を補償することにより、改善された補償を提供することが一般に可能である。従って、画像センサ及び/又は画像の処理のいずれかの更なる調整も、減少した欠陥及び誤差を含むraw画像信号から開始される。
この簡単な概要は、本発明の特性を迅速に理解できるように提供された。以下の詳細な説明及び添付の図面を参照することにより、より完全に理解できる。
以下の例示的な実施形態において、デジタルスチールカメラ又はデジタルビデオカメラであるデジタルカメラについて説明する。しかし、以下の説明は、画像感知機能を有するデータ処理装置(例えば、パーソナルコンピュータ)又は画像感知機能を有するポータブル端末(例えば、移動電話)等の撮像パラメータに従って調節可能である分光感度を有する結像アセンブリを内蔵又は利用できる任意の構成を含むことが理解される。
図1A及び図1Bは、例示的な一実施形態に係る撮像デバイス100の外観の一例を示す図である。尚、これらの図において、いくつかの構成要素は簡潔にするために省略される。ユーザは、デジタルカメラ100の電源をON/OFFし、撮影パラメータを設定、変更又は確認し、カメラの状態を確認し且つ撮影画像を確認するためにボタン及びスイッチ301〜311を操作する。
光学ファインダ104はビューファインダであり、ユーザはそれを介して撮像されるシーンを閲覧できる。本実施形態において、光学ファインダ104は画像表示ユニット28とは別個であるが、いくつかの実施形態において、画像表示ユニット28はビューファインダとして更に機能してもよい。
フラッシュ(フラッシュ発光デバイス)48は、必要に応じて補助光を発光して撮像されるシーンを照明するためのものである。
カメラの内側に隠蔽された画像センサ14は、光学画像を電気信号に変換する画像センサである。本実施形態において、画像センサ14は、撮像パラメータに従って調節可能である分光感度を含むマルチスペクトル画像センサである。図2Aに関連して画像センサ14を以下に更に詳細に説明する。
電源ボタン311は、デジタルカメラ100を開始又は停止するか、あるいはデジタルカメラ100の主電源をON/OFFするために提供される。メニューボタン302は、デジタルカメラ100の撮影パラメータ及び動作モード等の設定を表示し、且つデジタルカメラ100の状態を表示するために提供される。メニューは、選択可能な項目又は値が可変である項目を含む。
削除ボタン301は、再生モード又は撮影画像確認画面上に表示された画像を削除するために押下される。本発明の実施形態において、撮影画像確認画面(いわゆるクイックレビュー画面)は、撮影結果を確認するために撮影直後に画像表示ユニット28上に撮影画像を表示するために提供される。更に本発明の実施形態は、ユーザがシャッターボタン310を押下することにより撮影を指示した後にシャッターボタンを押下し続ける限り、撮影画像確認画面が表示されるように構成される。
入力ボタン303は、モード又は項目を選択するために押下される。入力ボタン303が押下されると、システムコントローラ50(図2Aに示される)は、この時に選択されたモード又は項目を設定する。表示ON/OFFボタン66は、撮影画像に関する写真情報の表示又は非表示を選択し、且つ画像表示ユニット28が電子ビューファインダとして機能するように切り替えるために使用される。
左ボタン355、右ボタン356、上ボタン357及び下ボタン358は、複数のオプションから選択されたオプション(例えば、項目、画像)の変更、選択されたオプションを特定するインデックス位置の変更、並びに数値(例えば、補正値、日時)の増減等のために使用されてもよい。
シャッターボタン310を半押しすることにより、例えばAF処理、AE処理、AWB処理又はEF処理等を開始するようにシステムコントローラ50に指示する。シャッターボタン310を全押しすることにより、撮影を実行するようにシステムコントローラ50に指示する。
ズーム操作ユニット65は、画角(ズーム倍率又は撮影倍率)を変更するためにユーザにより操作される。
録画/再生選択スイッチ312は、録画モードを再生モードに切り替えるか、あるいは再生モードを録画モードに切り替えるために使用される。尚、上述の操作システムの代わりに、ダイヤルスイッチ又は他の操作システムが採用されてもよい。
図2Aは、本実施形態に係る撮像デバイスとしてデジタルカメラ100の構成の一例を示すブロック図である。図2Aを参照すると、図中符号10は結像レンズを示し、図中符号12は絞り機能を有するシャッターを示し、図中符号14は、撮像パラメータに従って調節可能である分光感度を有し且つ光学画像を電気信号に変換する画像センサである。図中符号16は、アナログ信号をデジタル信号に変換するA/D変換器を示す。A/D変換器16は、画像センサ14からのアナログ信号出力がデジタル信号に変換される場合及びオーディオコントローラ11からのアナログ信号出力がデジタル信号に変換される場合に使用される。図中符号102は、デジタルカメラ100のレンズ10を含む画像センサを覆い、レンズ10、シャッター12及び画像センサ14を含む撮像システムが汚れたり損傷したりするのを防止するシールド又はバリアを示す。
図2Aにおいて、結像アセンブリは、いくつかの実施形態において画像センサ14及びレンズ10から構成されるように、画像センサ14及び関連付けられた光学系から構成される。
光学系10は、光学ズーム機能を提供するズームレンズであってもよい。光学ズーム機能は、光学系10の駆動機構を使用して光学系10の倍率可変レンズを駆動するか、あるいはデジタルカメラ100のメインユニット上に提供された機能を駆動することにより実現される。
光学系(画像感知レンズ)10を貫通するシーンの物体からの光ビーム(レンズの画角に当たっている光ビーム)は、絞り機能を有するシャッター12の開口部を通過し、画像センサ14の画像感知表面上に物体の光学画像を形成する。画像センサ14は、光学画像をアナログ画像信号に変換し、信号をA/D変換器16に出力する。A/D変換器16は、アナログ画像信号をデジタル画像信号(画像データ)に変換する。画像センサ14及びA/D変換器16は、タイミング発生器18により提供されたクロック信号及び制御信号により制御される。タイミング発生器18は、メモリコントローラ22及びシステムコントローラ50により制御される。
画像センサ14は、撮像パラメータ17に従って調節可能である分光感度(spectral response)を有する画像センサである。一例において、画像センサ14は、赤色系チャネル、黄緑色系チャネル、緑色系チャネル、青緑色系チャネル及び青色系チャネルを含む画素毎の色情報の5つ以上のチャネルを出力する。画像センサ14の分光感度の厳密な特性は、撮像パラメータ17を介して制御される。本実施形態において、撮像パラメータ17は、画像センサ14により出力された情報の各チャネル毎に1つのマスクを含む複数の空間マスクから構成されてもよい。従って、画像センサ14が5つ以上のチャネルを出力するこの例において、撮像パラメータ17は、情報の赤色系チャネル用の空間マスクDR、情報の黄緑色系チャネル用の空間マスクDGY、情報の緑色系チャネル用の空間マスクDG、情報の青緑色系チャネル用の空間マスクDBG及び情報の青色系チャネル用の空間マスクDBを含む。各空間マスクは、画像センサ14の画素又は画素の領域に対応する制御パラメータのアレイを備える。従って、各画素又は複数の画素の各領域の分光感度は、個別に且つ他の画素又は画素の領域に関係なく調節可能である。その点に関して、画像センサ14は横方向電界検出器(TFD)センサから構成されてもよく、空間マスクDR、DGY、DG、DBG及びDBは、TFDセンサの電極を制御するために印加された電圧バイアスに対応してもよい。
本明細書の実施形態において、画像センサ14はカラーフィルタアレイ(CFA)の前段に配置されない。カラーフィルタアレイは、空間不均一性に対処する1つの方法である。そのようなCFAの一例は、内容が参考として本明細書に取り入れられる米国特許第3,226,034号公報(Katayama)において説明される。しかし、CFAを使用することにより多くの欠点が生じる。例えばCFAは、感度が低いためにかなりの量の信号(データ)が損失する可能性があることが多い。その点に関して、何らかのフィルタを含むことは、画像センサに当たっている光の量をフィルタリングすることにより信号対雑音比を必然的に低下させる。また、画素毎にCFAを実現することは、特により小さいカメラにおいて法外に高くなり、物理的に不可能である。従って、本発明の実施形態に従って、画像センサ14はCFAの前段に配置されない。
図中符号18は、クロック信号及び制御信号を画像センサ14、オーディオコントローラ11、A/D変換器16及びD/A変換器26に供給するタイミング発生器を示す。タイミング発生器18は、メモリコントローラ1122及びシステムコントローラ50により制御される。図中符号20は、所定の補間及び縮小等のサイズ変更処理、並びに色変換処理をA/D変換器16からのデータ又はメモリコントローラ22からのデータに適用する画像プロセッサを示す。画像プロセッサ20は、撮像画像データを使用して所定の演算処理を実行し、システムコントローラ50は、取得した演算結果に基づいて露出制御及びレンジング制御を実行する。
その結果、TTL(スルーザレンズ)AF(オートフォーカス)処理、AE(自動露出)処理及びEF(フラッシュ事前発光)処理が実行される。画像プロセッサ20は、撮像画像データを使用して所定の演算処理を更に実行し、取得した演算結果に基づいてTTL AWB(オートホワイトバランス)処理を更に実行する。他の実施形態において、光学ファインダ104は、TTL構成と組み合わせて使用されてもよく、あるいはその代わりに使用されてもよい。
A/D変換器16からの出力データは、画像プロセッサ20及びメモリコントローラ22を介して又はメモリコントローラ22を介して直接メモリ30に書き込まれる。メモリ30は、画像センサ14により撮像され且つA/D変換器16によりデジタルデータに変換される画像データ及び画像表示ユニット28上に表示される画像データを格納する。画像表示ユニット28は液晶画面であってもよい。尚、メモリ30は、マイク13により録音されたオーディオデータ、静止画、映画及び画像ファイルを形成する際のファイルヘッダを格納するために更に使用される。従って、メモリ30は、所定の数の静止画データ、並びに所定の期間にわたる映画データ及びオーディオデータを格納するのに十分大きい記憶容量を有する。
圧縮/伸張ユニット32は、適応離散コサイン変換(ADCT)等により画像データを圧縮又は伸張する。圧縮/伸張ユニット32は、トリガであるシャッター310の押下に応答してメモリ30に格納された撮像画像データをロードし、圧縮処理を実行し、処理データをメモリ30に書き込む。更に圧縮/伸張ユニット32は、以下に説明するように、取り外し可能な記録ユニット202又は201からロードされた圧縮画像データに伸張処理を適用し、処理データをメモリ30に書き込む。同様に、以下に更に説明されるように、圧縮/伸張ユニット32によりメモリ30に書き込まれた画像データはシステムコントローラ50によりファイルに変換され、そのファイルは記録ユニット202又は212に記録される。
メモリ30は、画像表示メモリ(ビデオメモリ)としても動作する。図中符号26は、メモリ30に格納された画像表示データをアナログ信号に変換し、且つそのアナログ信号を画像表示ユニット28に供給するD/A変換器を示す。図中符号28は、LCDディスプレイの液晶画面28上にD/A変換器26からのアナログ信号に従って表示する画像表示ユニットを示す。このように、メモリ30に書き込まれた表示される画像データは、D/A変換器26を介して画像表示ユニット28により表示される。
露出コントローラ40は、システムコントローラ50から供給されたデータに基づいて絞り機能を有するシャッター12を制御する。露出コントローラ40は、フラッシュ(フラッシュ発光デバイス)48と結合することにより、フラッシュ露出補償機能を更に有してもよい。フラッシュ48は、AF補助光投影機能及びフラッシュ露出補償機能を有する。
距離測定コントローラ42は、システムコントローラ50から供給されたデータに基づいて光学系10の集束レンズを制御する。ズームコントローラ44は、光学系10のズームを制御する。シールドコントローラ46は、光学系10を保護するようにシールド(バリア)102の動作を制御する。
図中符号13はマイクを示す。マイク13からのオーディオ信号出力は、増幅器等を含むオーディオコントローラ11を介してA/D変換器16に供給され、A/D変換器16によりデジタル信号に変換され、その後メモリコントローラ22によりメモリ30に格納される。一方、オーディオデータは、メモリ30からロードされ、D/A変換器26によりアナログ信号に変換される。オーディオコントローラ11は、このアナログ信号に従ってスピーカ15を駆動することにより、音声を出力する。
不揮発性メモリ56は、電気的消去可能な記録可能なメモリであり、例えばEEPROMを使用する。不揮発性メモリ56は、システムコントローラ50を操作するために定数及びコンピュータが実行可能なプログラム等を格納する。尚、プログラムは、種々のフローチャートを実行するためのプログラムを含む。
特に、図2Bに示されるように、不揮発性メモリ56は、本明細書において説明されるような画像処理モジュール300を回復できるように格納している非一時的なコンピュータ可読メモリ媒体の一例である。例示的な本実施形態によると、画像処理モジュール300は、デフォルト撮像マスクを画像センサに適用するデフォルトマスクモジュール301と、デフォルト撮像マスクにより調節された画像センサを使用してサンプル画像を撮像するサンプルモジュール302と、画像センサの色感度の空間不均一性を識別するためにサンプル画像の色を解析する解析モジュール303とを少なくとも含む。画像処理モジュール300は、画像センサに適用するために補償撮像マスクを構成する補償マスクモジュール304を更に含む。補償撮像マスクは、画像センサの色感度の空間不均一性を補償するように識別された空間不均一性に基づく計算を使用して構成される。格納モジュール305は、補償撮像マスクを画像センサに適用するために補償撮像マスクを撮像デバイスのメモリに格納する。図2Bに示されるようないくつかの実施形態において、画像処理モジュール300は、補償撮像マスクを画像センサに適用する適用モジュール306と、補償撮像マスクにより調節された画像センサを使用してシーンの画像を撮像及び格納する撮像モジュール307とを更に含んでもよい。図3Aに関連してこれらのモジュールを以下に更に詳細に説明する。
図2Cに示された別の例示的な実施形態において、不揮発性メモリ56は、本明細書において説明されるような画像処理モジュール370を回復できるように格納している非一時的なコンピュータ可読メモリ媒体の一例である。例示的な本実施形態によると、画像処理モジュール370は、デフォルト撮像マスクを画像センサに適用するデフォルトマスクモジュール371と、デフォルト撮像マスクにより調節された画像センサを使用してサンプル画像を撮像するサンプルモジュール372と、チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える均一色画像を取得する均一色モジュール373とを少なくとも含む。画像処理モジュール370は、画像センサに適用するために補償撮像マスクを構成する補償マスクモジュール374を更に含む。補償撮像マスクは、デフォルト撮像マスクと共に撮像された時の各チャネルの色値及び均一色画像の色値に基づく計算を使用して構成される。格納モジュール375は、補償撮像マスクを画像センサに適用するために補償撮像マスクを撮像デバイスのメモリに格納する。図2Cに示されるようないくつかの実施形態において、画像処理モジュール370は、補償撮像マスクを画像センサに適用する適用モジュール376と、補償撮像マスクにより調節された画像センサを使用してシーンの画像を撮像及び格納する撮像モジュール377とを更に含んでもよい。図3Bに関連してこれらのモジュールを以下に更に詳細に説明する。
また、図2B及び図2Cに示されるように、不揮発性メモリ56は、シーンからの画像データを含む画像データ251を更に含む。不揮発性メモリは、結像アセンブリの分光感度を制御するように画像センサ14に適用するための撮像パラメータを更に格納してもよい。本実施形態において、そのような撮像パラメータは、他の画素又は領域に関係なく分光感度の画素毎の制御又は領域毎の制御を可能にするように画像センサの分光感度を制御する空間マスク252を備える。従って、例えば補償撮像マスクは、補償撮像マスクを画像センサに適用するために不揮発性メモリ56等の撮像デバイスのメモリに格納されてもよい。
図中符号50は、デジタルカメラ100全体を制御するシステムコントローラを示す。システムコントローラ50は、上述の不揮発性メモリ56に記録されたプログラムを実行し、本実施形態の後で説明される各処理を実現する。図中符号52は、RAMを備えるシステムメモリを示す。システムコントローラ50を操作するのに必要な定数及び変数、並びに不揮発性メモリ56から読み出されたプログラム等は、システムメモリ52にマッピングされる。
モード選択スイッチ60、シャッタースイッチ310及び操作ユニット70は、種々の演算命令をシステムコントローラ50に入力するために使用される動作手段を形成する。
モード選択スイッチ60は、結像/再生選択スイッチを含み、システムコントローラ50の動作モードを静止画記録モード、映画録画モード及び再生モード等のうちの1つに切り替えるために使用される。
シャッタースイッチ62は、デジタルカメラ100上に設けられたシャッターボタン310の操作の途中(半押し)でonにされ、第1のシャッタースイッチ信号SW1を生成する。更にシャッタースイッチ64は、シャッターボタン310の操作が完了(全押し)するとonにされ、第2のシャッタースイッチ信号SW2を生成する。システムコントローラ50は、第1のシャッタースイッチ信号SW1に応答してAF(オートフォーカス)処理の動作、AE(自動露出)処理の動作、AWB(オートホワイトバランス)処理の動作及びEF(フラッシュ事前発光)処理の動作等を開始する。更にシステムコントローラ50は、第2のシャッタースイッチ信号SW2に応答して、画像センサ14から画像信号を読み出し、A/D変換器16により画像信号を画像データに変換し、画像プロセッサ20により画像データを処理し且つメモリコントローラ22を介してデータをメモリ30に書き込む処理、並びにメモリ30から画像データを読み出し、圧縮/伸張回路32により画像データを圧縮し且つ圧縮画像データを記録媒体200又は210に書き込む処理を含む一連の処理(撮影)を開始する。
ズーム操作ユニット65は、画角(ズーム倍率又は撮影倍率)を変更するためにユーザにより操作される操作ユニットである。操作ユニット65は、例えばスライド式又はレバー式の操作部材及び部材の動作を検出するスイッチ又はセンサで構成されてもよい。
画像表示ON/OFFスイッチ66は、画像表示ユニット28のON/OFFを設定する。光学ファインダ104を用いて画像を撮影する場合、TFT又はLCD等で構成された画像表示ユニット28のディスプレイは、節電のために電源を遮断するようにoffにされてもよい。
フラッシュ設定ボタン68は、フラッシュ動作モードを設定及び変更する。本実施形態において、設定可能なモードは、オートモード、強制発光モード、赤目軽減オートモード及び強制発光(赤目軽減)モードを含む。オートモードにおいて、フラッシュは、物体の明度に従って自動的に発光される。強制発光モードにおいて、フラッシュは、撮影が実行される場合は常に発光される。赤目軽減オートモードにおいて、フラッシュは、物体の明度に従って自動的に発光され、フラッシュ発光の場合、赤目軽減ランプは、撮影が実行される場合は常に発光される。強制発光(赤目軽減)モードにおいて、赤目軽減ランプ及びフラッシュは常に発光される。
操作ユニット70は、種々のボタン及びタッチパネル等を備える。より具体的には、操作ユニット70は、メニューボタン、設定ボタン、マクロ選択ボタン、マルチ画像再構成/再ページングボタン、ワンショット撮影/連続ショット/セルフタイマ選択ボタン、前方(+)メニュー選択ボタン及び後方(−)メニュー選択ボタン等を含む。更に操作ユニット70は、前方(+)再構成画像探索ボタン、後方(−)再構成画像探索ボタン、画像撮影品質選択ボタン、露出補償ボタン、日時設定ボタン及び圧縮モードスイッチ等を含んでもよい。
圧縮モードスイッチは、JPEG(Joint Photographic Expert Group)圧縮の圧縮率を設定又は選択し、且つRAWモード等を記録するために提供される。RAWモードにおいて、画像感知デバイスにより出力されたアナログ画像信号は、そのままデジタル化され(RAWデータ)、記録される。
尚、本発明の実施形態において、RAWデータは、画像感知デバイスから光電変換されたデータに対してA/D変換を実行することにより取得されるデータだけでなく、A/D変換されたデータに対して可逆圧縮を実行することにより取得されるデータも含む。更にRAWデータは、損失なく画像感知デバイスからの出力情報を保持するデータを示す。例えばRAWデータは、ホワイトバランス処理、輝度信号を色信号から分解する色分解処理又は色補間処理されていないA/D変換されたアナログ画像信号である。更にRAWデータは、デジタル化されたデータに限定されず、画像感知デバイスから取得されたアナログ画像信号であってもよい。
本発明の実施形態によると、JPEG圧縮モードは、ノーマルモード及びファインモード等を含む。デジタルカメラ100のユーザは、撮影画像のデータサイズを重視する場合にノーマルモードを選択し、撮影画像の品質を重視する場合にファインモードを選択する。
JPEG圧縮モードにおいて、圧縮/伸張回路32は、メモリ30に書き込まれた画像データを読み出して設定圧縮率で圧縮を実行し、記録媒体200等に圧縮データを記録する。
RAWモードにおいて、アナログ画像信号は、画像センサ14のカラーフィルタの画素配列に従って線の単位で読み出され、A/D変換器16及びメモリコントローラ22を介してメモリ30に書き込まれた画像データは、記録媒体200又は210に記録される。
尚、本発明の実施形態に係るデジタルカメラ100は、複数の画像データがユーザによるワンショット撮影命令に応答して記録される複数画像撮影モードを有する。このモードの画像データ記録は、ホワイトバランス及び露出等の撮影パラメータがステップ毎に変化するオートブラケットモードにより特徴を表される画像データ記録を含む。このモードの画像データ記録は、種々の撮影後画像処理コンテンツを有する画像データの記録、例えばJPEG形式又はRAW形式の記録等の種々のデータ形式を有する複数の画像データの記録、同一の形式であるが種々の圧縮率を有する画像データの記録及び所定の画像処理が実行されていてもされていなくてもよい画像データの記録を更に含む。
電力コントローラ80は、電力検出回路、DC−DC変換器及び付勢するブロックを選択するスイッチ回路等を備える。電力コントローラ80は、電源の有無、電源の種類及び電池残量を検出し、検出結果及びシステムコントローラ50からの命令に基づいてDC−DC変換器を制御し、必要な期間必要な電圧を各ブロックに供給する。電源86は、アルカリ電池又はリチウム電池等の一次電池、NiCd電池、NiMH電池又はLi電池等の二次電池、あるいはACアダプタ等である。デジタルカメラ100の主なユニットと電源86とは、それらにそれぞれ備えられたコネクタ82及び84により接続される。
記録媒体200及び210は、半導体メモリ及び磁気ディスク等で構成される記録ユニット202及び212と、デジタルカメラ100と通信するためのインタフェース203及び213と、コネクタ206及び216とを備える。記録媒体200及び210は、デジタルカメラ100の媒体及びコネクタ92及び96のコネクタ206及び216を介してデジタルカメラ100に接続される。インタフェース90及び94は、コネクタ92及び96に接続される。記録媒体200及び210のアタッチ/デタッチ状態は、記録媒体アタッチ/デタッチ状態検出器98により検出される。
尚、記録媒体を接続するために、本発明の実施形態に係るデジタルカメラ100はインタフェース及びコネクタの2つのシステムを備えるが、1つ又は複数の任意の数のインタフェース及びコネクタが提供されてもよい。また、種々の規格に準拠するインタフェース及びコネクタがシステム毎に提供されてもよい。
インタフェース90及び94、並びにコネクタ92及び96に対して、例えばPCMCIAカード及びコンパクトフラッシュ(CF)(登録商標)カード等の規格に準拠したカードが使用されてもよい。この場合、種々の通信カードを利用する接続は、デジタルカメラとコンピュータ及びプリンタ等の他の周辺デバイスとの間で画像データ及び画像データにアタッチされた制御データを相互に転送/受信できる。通信カードは、例えばLANカード、モデムカード、USBカード、IEEE1394カード、P1284カード、SCSIカード及びPHS等に対する通信カードを含んでもよい。
光学ファインダ104は、プリズム及び鏡を利用してレンズ10を貫通した光ビームから画像を形成するTTLファインダ等で構成される。光学ファインダ104を利用することにより、画像表示ユニット28の電子ビューファインダ機能を利用せずに画像を撮影することが可能である。光学ファインダ104は、焦点状態、手ブレ警告、フラッシュ充電状態、シャッター速度、fストップ値及び露出補償等を示すための表示装置54の部分を構成する指示器を含む。
通信回路110は、USB、IEEE1394、P1284、SCSI、モデム、LAN、RS232C及び無線通信等の種々の通信機能を提供する。コネクタ112は、デジタルカメラ100を他のデバイスに接続するために通信回路110に接続されてもよく、あるいはアンテナが無線通信のために提供されてもよい。
リアルタイムクロック(RTC、不図示)は、日時を測定するために提供されてもよい。RTCは、電源コントローラ80とは別に内部電源ユニットを保持し、電源ユニット86がOFFの場合でも時間を計測し続ける。システムコントローラ50は、起動時にRTCから取得した日時を使用してシステムタイマを設定し、タイマ制御を実行する。
図3Aは、例示的な一実施形態に係る画像処理モジュールを説明する図である。図2Bに関連して上述したように、画像処理モジュール300は、不揮発性メモリ56等の非一時的なコンピュータ可読記憶媒体上に格納されたコンピュータが実行可能な処理ステップを備える。より多くのモジュール又はより少ないモジュールが使用されてもよく、他のアーキテクチャが可能である。
図3Aに示されるように、画像処理モジュール300は、デフォルトマスクモジュール301を少なくとも含む。デフォルトマスクモジュール301は、画像センサ14と通信し、デフォルト撮像マスクを画像センサ14に適用する。画像処理モジュール300は、画像センサ14と更に通信し、且つデフォルト撮像マスクにより調節された画像センサを使用してサンプル画像を撮像するサンプルモジュール302を更に含む。解析モジュール303は、画像センサの色感度の空間不均一性を識別するためにサンプルモジュール302により撮像されたサンプル画像の色を解析する。補償マスクモジュール304は、画像センサに適用するために補償撮像マスクを構成する。補償撮像マスクは、画像センサ14の色感度の空間不均一性を補償するように識別された空間不均一性に基づく計算を使用して構成される。格納モジュール305は、補償撮像マスクを画像センサに適用するために補償撮像マスクを撮像デバイスのメモリに格納する。その点に関して、補償マスクモジュール304(及び/又はデフォルトマスクモジュール301により適用されたデフォルトマスク)により構成された補償撮像マスクは、例えば図2Bに示された空間マスク252として不揮発性メモリ56に格納されてもよい。
図3Aに示された実施形態において、画像処理モジュール300は、補償撮像マスクを画像センサ14に適用する適用モジュール306と、補償撮像マスクにより調節された画像センサ14を使用してシーンの画像を撮像及び格納する撮像モジュール307とを更に含む。図4Aに関連して上述の処理を以下に更に詳細に説明する。
図3Bは、別の例示的な実施形態に係る画像処理モジュールを説明する図である。図2Cに関連して上述したように、画像処理モジュール700は、不揮発性メモリ56等の非一時的なコンピュータ可読記憶媒体上に格納されたコンピュータが実行可能な処理ステップを備える。より多くのモジュール又はより少ないモジュールが使用されてもよく、他のアーキテクチャが可能である。
図3Bに示されるように、画像処理モジュール370は、デフォルトマスクモジュール371を少なくとも含む。デフォルトマスクモジュール371は、画像センサ14と通信し、デフォルト撮像マスクを画像センサ14に適用する。画像処理モジュール370は、画像センサ14と更に通信し、且つデフォルト撮像マスクにより調節された画像センサを使用してサンプル画像を撮像するサンプルモジュール372を更に含む。均一色モジュール(Uniform Color Module)373は、チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える均一色画像を取得する。補償マスクモジュール374は、画像センサ14に適用するために補償撮像マスクを構成する。補償撮像マスクは、デフォルト撮像マスクと共に撮像された時の各チャネルの色値及び均一色画像の色値に基づく計算を使用して構成される。格納モジュール375は、補償撮像マスクを画像センサに適用するために補償撮像マスクを撮像デバイスのメモリに格納する。その点に関して、補償マスクモジュール374(及び/又はデフォルトマスクモジュール371により適用されたデフォルトマスク)により構成された補償撮像マスクは、例えば図2Cに示された空間マスク252として不揮発性メモリ56に格納されてもよい。
図3Bに示された実施形態において、画像処理モジュール370は、補償撮像マスクを画像センサ14に適用する適用モジュール376と、補償撮像マスクにより調節された画像センサ14を使用してシーンの画像を撮像及び格納する撮像モジュール377とを更に含む。図4B〜図8に関連してこれらの処理を以下に更に詳細に説明する。
図4Aは、例示的な一実施形態に係る図1に示された撮像デバイスの処理を説明するフローチャートである。
簡単に説明すると、図4Aにおいて、補償は、調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスに対して実行される。補償は、画像センサの色感度の空間不均一性に対するものである。デフォルト撮像マスクは画像センサに適用され、サンプル画像は、デフォルト撮像マスクにより調節された画像センサを使用して撮像される。サンプル画像の色が解析され、画像センサの色感度の空間不均一性を識別する。補償撮像マスクが構成される。補償撮像マスクは、画像センサの色感度の空間不均一性を補償するように識別された空間不均一性に基づく計算を使用して構成される。補償撮像マスクは、補償撮像マスクを画像センサに適用するために撮像デバイスのメモリに格納される。
ステップ401において、デフォルト撮像マスクは画像センサに適用される。より具体的には、例えばデフォルト撮像設定は、調節可能な結像アセンブリの分光感度を事前に指定されたデフォルト設定に設定するために調節可能な画像センサ14に適用される。例示的な本実施形態において、デフォルト撮像設定はデフォルト撮像マスクを有する。例えばデフォルト撮像マスクは、シーンの明度及び材料特性に関していくつかの前提を有する電子電圧により与えられてもよく、一般に結像システム組立ラインで行われる校正手順等により予め判定された事前の指定設定である。
ステップ402において、サンプル画像は、デフォルト撮像マスクにより調節された画像センサを使用して撮像される。一例において、撮像されたサンプル画像は、画像センサの視野に広がる完全拡散照明(perfectly diffuse illumination)を含むシーンの画像である。
例えば完全拡散照明は、拡散照明により照明された均一なグレーカードを備える。グレーカードは、平面反射スペクトルから導出される純灰色の平坦な物体である。一般にその見掛けの輝度(及び露出判定)は、その光源に対する向きに依存しない。グレーカードを撮影されるシーンに配置し、入射光の方向に対して規定の角度に配向し、且つ反射露出計によりグレーカードから数値を読み取ることにより、写真撮像者は写真にわたり一貫した露出を保証される。
あるいは、完全拡散照明は積分球(integration sphere)を備えてもよい。積分球は、照明をかなり拡散させる高反射的な材料で塗布された球体である。画像センサは、球体を直接結像するのではなく、球体に「跳ね返った」照明を結像する。
ステップ403において、サンプル画像の色が解析され、画像センサの色感度の空間不均一性を識別する。その点に関して、サンプル画像の色を解析する場合、各画素の値を他の画素の値の組合せと比較することにより色感度の空間不均一性を識別できる。
画像センサにおいて不均一性が全くなかった場合、同一の画像からの全ての画素信号は同一となるだろう。当然、通常センサにおいて不均一性があるため、すなわち例えば中心画素においてより多くの光が撮像されるため、これは一般的な例ではない。
従って、ステップ404において、補償撮像マスクは、画像センサに適用するために構成される。補償撮像マスクは、画像センサの色感度の空間不均一性を補償するように識別された空間不均一性に基づく計算を使用して構成される。
一例において、画像センサの各チャネルが平均化され、色感度の空間不均一性は、各チャネルの平均からの偏差で識別される。その後、補償撮像マスクを構成する場合、各チャネルからの信号は、そのようなチャネル毎に平均値に正規化される。
例えば、赤チャネルの場合においては、画素R01、R02、...R0nを仮定する。平均値は、Raverage=(R01+R02+...+R0n)/nである。画素R01に対する補償値はR01comp=Raverage/R01であり、画素R02に対する補償値はR02comp=Raverage/R02...R0ncomp=Raverage/R0nである。
補償撮像マスクを構成する他の方法も可能である。例えば補償撮像マスクは、各チャネルの平均に基づかなくてもよく、例えば中間値及び画素値のパーセンタイル(例えば、60パーセンタイル)等に基づいてもよい。
構成されたマスクは、バイアス電圧を示し、各画素を調節する。例えば、画素又は領域が暗すぎる場合、その画素又は領域のバイアス電圧は感度を高めるように上昇されてもよく、画素又は領域が明るすぎる場合、その画素又は領域のバイアス電圧は感度を低くするように低下されてもよい。必要なバイアス電圧は、現在の電圧とその画素に対する補償値との差により判定される。従って、例えばRcurrent *(V)=Rcompである。その点に関して、ルックアップテーブル(LUT)は、画素に対する現在の値からその画素に対する補償された値に取得するのに必要なバイアス電圧を格納するために使用されてもよい。
上述したように、補償撮像マスクは、補償撮像マスクを画像センサに適用するために、不揮発性メモリ56等の撮像デバイスのメモリに格納されてもよい。
ステップ405において、補償撮像マスクは画像センサに適用される。従って、画素毎のバイアス電圧は、画素の色感度の空間不揮発性を調整するために撮像マスクに従って調整される。
ステップ406において、シーンの画像は、補償撮像マスクにより調節された画像センサを使用して撮像される。
ステップ407において、撮像画像が格納される。例えば撮像画像は、図2Bに示されるように、不揮発性メモリ56上に画像データ251として格納されてもよい。当然、撮像画像は、撮像デバイスが画像データと通信し且つ画像データをカメラから離れた場所に送信できるという条件で、そのような遠隔地を含むどこか他の場所に更に格納されてもよい。
ステップ408において、補償撮像マスクにより調節された画像センサにより撮像されたシーンを使用して更なる調整が撮像画像データに対して実行される。例えば以下に説明するように、異なる照明を更に補償するように更なる補正が実行されてもよい。別の例において、撮像画像データは、芸術家又は写真家により所望されるように調整されてもよい。種々の他の応用及び調整が可能であるが、簡潔にするために本明細書において更に説明しない。
一実施形態において、画像センサ14は結像光学系の前段に配置され、補償方法は、結像光学系が発生させる空間不均一性を更に補償する。例えば、結像光学系は、種々のレンズ又は種々のフラッシュ発光デバイス等の他のそのような結像光学系と交換可能であり、別個の補償撮像マスクは、そのような結像光学系の各々に提供されてもよい。上記の処理は、結像光学系の各集合の色感度の空間不均一性を補償するように補償撮像マスクを構成及び適用するために使用されてもよい。
別の実施形態において、別個の補償撮像マスクは、シーンの照明の空間不均一性を補償するために提供されてもよい。例えば外部の照明状態は、多くの場合、シーンが照明される方法において及びプロの写真等の制御された設定においてであっても不均一性を生じさせるだろう。上述の処理を適用してそのような空間不均一性を補償することにより、画像処理に必要な時間を大幅に削減することが一般に可能である。
更に別の実施形態において、補償撮像マスクはメモリから検索されてもよい。補償撮像マスクは、画像センサの色感度の空間不均一性を補償するように構成される。補償撮像マスクは画像センサに適用され、シーンの画像は、補償撮像マスクにより調節された画像センサを使用して撮像及び格納される。
不均一性を生じさせる複数の状況を補償するために、例えば結像光学系が発生させる色感度の空間不均一性及びシーンの照明の空間不均一性の双方を補償するために、上述の処理を使用することが更に可能である。例えば、補償撮像マスクは結像光学系を補償するように構成されてもよく、第2の補償撮像マスクは照明の不均一性を補正するように構成されてもよい。
マスクがraw画像信号を撮像しつつ不均一性に対処するため、撮像前に調節可能な画像センサに対して補償撮像マスクを生成し且つ撮像時にマスクを適用して画像センサの色感度の空間不均一性を補償することにより、改善された補償を提供することが一般に可能である。従って、画像センサ及び/又は画像の処理のいずれかの更なる調整も、減少した欠陥及び誤差を含むraw画像信号から開始される。
図4B〜図8に関連して画像センサ補償の別の実施形態を説明する。その点に関して、ある特定の環境において、調節可能なフィルタアレイにおける製造公差、色収差及び/又は光源の分光分布の不均一性による色の空間不均一性は、色の空間不均一性を招く可能性がある。
図4Bは、別の例示的な実施形態に係る図1に示された撮像デバイスの処理を説明するフローチャートである。
簡単に説明すると、図4Bにおいて、補償は、調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスに対して実行される。デフォルト撮像マスクは画像センサに適用され、サンプル画像は、デフォルト撮像マスクにより調節された画像センサを使用して撮像される。均一色画像が取得される。均一色画像は、チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える。補償撮像マスクは、画像センサに適用するために構成される。補償撮像マスクは、デフォルト撮像マスクと共に撮像された時の各チャネルの色値及び均一色画像の色値に基づく計算を使用して構成される。補償撮像マスクは、補償撮像マスクを画像センサに適用するために撮像デバイスのメモリに格納される。
更に詳細には、ステップ451において、デフォルト撮像マスクが画像センサに適用される。一例において、デフォルト撮像設定は、調節可能な結像アセンブリの分光感度を事前に指定されたデフォルト設定に設定するために調節可能な画像センサ14に適用される。例示的な本実施形態において、デフォルト撮像設定はデフォルト撮像マスクを有する。例えばデフォルト撮像マスクは、シーンの明度及び材料の特性に関していくつかの前提を有する電子電圧により与えられてもよく、一般に結像システム組立ラインで行われる校正手順等により予め判定された事前の指定設定である。
ステップ452において、サンプル画像は、デフォルト撮像マスクにより調節された画像センサを使用して撮像される。一例において、撮像されたサンプル画像は、空間的に均一な対象を含むシーンの画像である。
ステップ453において、均一なRGBが取得される。均一なRGB画像は、例えば撮像デバイス100でそれを生成することにより取得されてもよい。例えば均一なRGB画像は、Rn(赤)、Gn(緑)及びBn(青)等の3つのチャネルのx×yの空間アレイを備えてもよい。Rn、Gn及びBnの値は、互いに異なってもよいが、色が空間的に均一であるという制約を提供するために一般に均一なRGB画像のアレイ全体にわたり均一であるべきである。一例において、ステップ452で使用された空間的に均一な対象がグレー(例えば、グレーカード)である場合、Rn=Gn=Bnである。
他の例において、チャネル毎の値は、対応する画素の分布の統計値として算出されてもよい。例えばGnは、画像中の全ての緑画素の平均として算出されてもよい。あるいはGnは、例えば中間G値、65%、90%等の他の統計基準により算出されてもよい。同一の基準が適用され、Rn及びBnを算出してもよい。従って、均一色画像は、用途又は環境に最適に適合する基準に従って形成されてもよい。
ステップ454において、補償撮像マスクは、チャネル毎に補償値を算出することにより構成される。例えば、Gチャネルに対する補償値はCompensationG=Gn/Goriginal(x,y)として算出されてもよい。ここで、式中Goriginal(x,y)は画素(x,y)に対する元のGチャネルである。同様に、Rチャネルに対する補償値はCompensationR=Rn/Roriginal(x,y)として算出される。ここで、式中Roriginal(x,y)は画素(x,y)に対する元のRチャネルである。そして、Bチャネルに対する補償値CompensationB=Bn/Boriginal(x,y)として算出されてもよい。式中Boriginal(x,y)は画素(x,y)に対する元のBチャネルである。
1つの手法において、補償撮像マスクは、現在の画素のチャネルの値と別の画素のチャネルの値との組合せに基づいて、且つシフトされた波長を有する現在の画素に対して出力チャネルを生成するように組み合わされた画素信号間の相対的な大きさを変更することにより現在の画素に対して構成される。換言すると、調節可能な画像センサ14により、調整可能な大きさの画素の空間的配置が存在し、画素は1つの特定のチャネルを生成するように組み合わされてもよく、組み合わされた画素信号間の相対的な大きさは波長シフトを生成するように変更されてもよい。
一例として、図5は、画像センサの小さな部分及び特に制御可能な振幅を有する画素の空間モザイクを示す。手法はあらゆる任意の空間分布であらゆる任意の色を使用してもよいが、例としてBayerパターン3色センサA11=A22=A13=A24=A31=A42=A33=A44=緑、A12=A14=A32=A34=赤、A21=A23=A41=A43=青を考慮する。この場合、各チャネルの感度は図6のグラフのように示される。例は、十分な共通部分を含む広帯域チャネルを更に仮定する。
波長シフトは、3つ以上の画素の信号を組み合わせ(「値域毎にまとめ;binning」)、且つ期待される感度を生成するように各チャネルの大きさを制御することにより、上述の構成を使用して作成されてもよい。
例えば、図5に示された画素A11の青チャネルの感度(その感度は図6に示される)をより長い波長にシフトするために、図7に示されるように画素A11信号を画素A21信号と組み合わせ(値域毎にまとめ)、且つ線形組合せ0.4*A11+0.8*A21を生成するように感度の振幅を電子的又は光学的に制御してもよい。図7において、実線は、0.4を掛けられたA11及びA22を掛けられたA21(それぞれ点線で示される)の感度の線形組合せを示す。図6の青チャネルと比較されるように、図7に示される結果として生じる新たなチャネルは、より長い波長にシフトされる。
第2の手法において、補償撮像マスクは、画素に対する色値間を遷移する補償値が画素毎に電圧値にマッピングされる事前に算出されたルックアップテーブル(LUT)に基づいて構成される。例えば、ステップ452において撮像された色が均一にグレーである(例えば、サンプル画像に対してグレーカードを使用して)ことを期待すると仮定する。理想的な状況下で、8ビットで撮像された信号は、Rn=125、Gn=125及びBn=125であるべきである。
しかし、製造過程公差及び他の要因により、特定の画素(x,y)から撮像された信号は、図8の連続線で示されるような感度、Rn=150、Gn=135及びBn=100を持つかもしれない。従って、この例において、画素は、赤にシフトし、グレー値を生成するように補償されるべきである。その点に関して、ステップ454を参照すると、補償値は、Rチャネル、Gチャネル及びBチャネルに対してそれぞれ0.83、0.93及び1.25として導出されてもよい。この手法において、補償値は、事前に算出されたLUTを介して電圧値にマッピングされ、そのような新しい電圧値は、画素に適用され、図8に点線で示されたような新しい分光感度を生成する。図8において、長波長Rチャネルは振幅が減少し、短波長Bチャネルは、大きさが増すだけでなく、波長のピークをシフトしている。Gチャネルは、大きさ及びピーク波長の双方が更に変更していてもよい。
ステップ455において、補償撮像マスクは画像センサに適用される。
ステップ456において、シーンの画像は、補償撮像マスクにより調節された画像センサを使用して撮像される。
ステップ457において、撮像画像が格納される。例えば撮像画像は、図2Cに示されるように、不揮発性メモリ56上に画像データ251として格納されてもよい。当然、撮像画像は、撮像デバイスが画像データと通信し且つ画像データをカメラから離れた場所に送信できるという条件で、そのような遠隔地を含むどこか他の場所に更に格納されてもよい。
ステップ458において、補償撮像マスクにより調節された画像センサにより撮像されたシーンを使用して更なる調整が撮像画像データに対して実行される。例えば以下に説明するように、異なる照明を更に補償するように更なる補正が実行されてもよい。別の例において、撮像画像データは、芸術家又は写真家により所望されるように調整されてもよい。種々の他の応用及び調整が可能であるが、簡潔にするために本明細書において更に説明しない。
上記により、製造公差、光学系及び不均一な照明等の要因による空間不均一性感度を補償すること、特に撮像中に画素レベルで1つ以上のチャネルの波長特性を変更することにより補償することが一般に可能である。従って、後処理なしで撮像中に色収差を軽減することが一般に可能である。例えば、レンズの色収差によるカラーアーチファクトを軽減すること、後処理(例えば、蛍光灯により部分的に照明されるシーン及び昼光により照明されるシーンの別の部分において全てを無色に見せること)なしで撮像中に種々の光を含むシーンによる色かぶりを補償すること、並びに種々の画素に対してフィルタ感度を不均一にする製造公差を補償することが一般に可能である。
本発明により考えられる他の実施形態によると、例示的な実施形態は、上述した機能性を実現するように構成されるシングルコア中央処理装置(CPU)又はシングルコアマイクロプロセッサ(MPU)、あるいはマルチコアCPU又はマルチコアMPU等のコンピュータプロセッサを含んでもよい。コンピュータプロセッサは、スタンドアロン装置又は複数の構成要素から成る装置に組み込まれてもよく、あるいはそのような機能性を実現するために共に動作するように構成される複数のコンピュータプロセッサを備えてもよい。1つ又は複数のコンピュータプロセッサは、コンピュータが実行可能なプログラム(コンピュータが実行可能な命令又はコンピュータが実行可能なコードと呼ばれることもある)を実行し、上述の機能のうちのいくつか又は全てを実行する。コンピュータが実行可能なプログラムはコンピュータプロセッサに事前に格納されてもよく、あるいはコンピュータプロセッサは、コンピュータが実行可能なプログラム又はプログラムステップが格納される非一時的なコンピュータ可読記憶媒体にアクセスするために機能的に接続されてもよい。これらの目的のために、非一時的なコンピュータ可読記憶媒体へのアクセスは、例えばローカルメモリバス構造を介したアクセスによるローカルアクセスであってもよく、あるいは例えば有線ネットワーク又は無線ネットワーク、あるいはインターネットを介したアクセスによるリモートアクセスであってもよい。その後コンピュータプロセッサは、コンピュータが実行可能なプログラム又はプログラムステップを実行するように構成され、上述の実施形態の機能を実行してもよい。
本発明により考えられる更に別の実施形態によると、例示的な実施形態は、シングルコア中央処理装置(CPU)又はシングルコアマイクロプロセッサ(MPU)、あるいはマルチコアCPU又はマルチコアMPU等のコンピュータプロセッサにより上述の機能性が実行される方法を含んでもよい。上述したように、コンピュータプロセッサは、スタンドアロン装置又は複数の構成要素から成る装置に組み込まれてもよく、あるいはそのような機能性を実現するために共に動作するように構成される複数のコンピュータプロセッサを備えてもよい。1つ又は複数のコンピュータプロセッサは、コンピュータが実行可能なプログラム(コンピュータが実行可能な命令又はコンピュータが実行可能なコードと呼ばれることもある)を実行し、上述の機能のうちのいくつか又は全てを実行する。コンピュータが実行可能なプログラムはコンピュータプロセッサに事前に格納されてもよく、あるいはコンピュータプロセッサは、コンピュータが実行可能なプログラム又はプログラムステップが格納される非一時的なコンピュータ可読記憶媒体にアクセスするために機能的に接続されてもよい。非一時的なコンピュータ可読記憶媒体へのアクセスは、実施形態の方法の一部を形成してもよい。これらの目的のために、非一時的なコンピュータ可読記憶媒体へのアクセスは、例えばローカルメモリバス構造を介したアクセスによるローカルアクセスであってもよく、あるいは例えば有線ネットワーク又は無線ネットワーク、あるいはインターネットを介したアクセスによるリモートアクセスであってもよい。その後コンピュータプロセッサは、コンピュータが実行可能なプログラム又はプログラムステップを実行するように構成され、上述の実施形態の機能を実行してもよい。
コンピュータが実行可能なプログラム又はプログラムステップが格納される非一時的なコンピュータ可読記憶媒体は、例えばフレキシブルディスク(フロッピディスク)、ハードディスク、光ディスク、光磁気ディスク、コンパクトディスク(CD)、デジタル汎用ディスク(DVD)、マイクロドライブ、読み出し専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、消去可能プログラマブル読み出し専用メモリ(EPROM)、電気的消去可能プログラマブル読み出し専用メモリ(EEPROM)、ダイナミックランダムアクセスメモリ(DRAM)、ビデオRAM(VRAM)、磁気テープ又は磁気カード、光カード、ナノシステム、分子メモリ集積回路、独立ディスク冗長アレイ(RAID)、不揮発性メモリカード、フラッシュメモリ素子及び分散コンピューティングシステム等の記憶装置等のうちのいずれかを含むデータを回復できるように格納するように構成される種々の有形の記憶装置のうちのいずれかであってもよい。記憶媒体は、コンピュータプロセッサで使用される装置又はシステムに取り外し可能に挿入され且つ/あるいはコンピュータプロセッサで使用される装置又はシステムによりリモートでアクセスされる機能拡張ユニットであってもよい。
マスクがraw画像信号を撮像しつつ不均一性に対処するため、撮像前に調節可能な画像センサに対して補償撮像マスクを生成し且つ撮像時にマスクを適用して画像センサの色感度の空間不均一性を補償することにより、改善された補償を提供することが一般に可能である。従って、画像センサ及び/又は画像の処理のいずれの更なる調整も、減少した欠陥及び誤差を含むraw画像信号から開始される。
本発明は、特定の代表的な実施形態に対して詳細な説明を提供した。添付の特許請求の範囲は上述の実施形態に限定されず、特許請求の範囲の範囲から逸脱せずに種々の変更及び変形が行われてもよいことが理解される。
Claims (24)
- 調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサの色感度の空間不均一性を補償する前記画像センサを含む撮像デバイスの補償方法であって、
デフォルト撮像マスクを前記画像センサに適用するステップと、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像するステップと、
前記画像センサの色感度の空間不均一性を識別するために前記サンプル画像の色を解析するステップと、
前記画像センサに適用するために、前記画像センサの色感度の空間不均一性を補償するように前記識別された空間不均一性に基づく計算を使用して構成される補償撮像マスクを構成するステップと、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納するステップと
を有することを特徴とする補償方法。 - 前記補償撮像マスクを前記画像センサに適用するステップと、
前記補償撮像マスクにより調節された前記画像センサを使用してシーンの画像を撮像及び格納するステップと
を更に備えることを特徴とする請求項1に記載の補償方法。 - 前記サンプル画像の色を解析するステップでは、色感度の空間不均一性を、各画素の値を他の画素の値の組合せと比較することにより識別することを特徴とする請求項1に記載の補償方法。
- 前記サンプル画像の色を解析するステップでは、前記画像センサの各チャネルは平均化され、色感度の空間不均一性は各チャネルの前記平均からの偏差で識別されることを特徴とする請求項3に記載の補償方法。
- 前記補償撮像マスクを構成するステップでは、各チャネルからの信号は、各チャネル毎の前記平均値に正規化されることを特徴とする請求項4に記載の補償方法。
- 前記撮像されたサンプル画像は、前記画像センサの視野に広がる完全拡散照明を含むシーンの画像であることを特徴とする請求項1に記載の補償方法。
- 前記完全拡散照明は、拡散照明により照明された均一なグレーカードを備えることを特徴とする請求項6に記載の補償方法。
- 前記完全拡散照明は積分球を備えることを特徴とする請求項6に記載の補償方法。
- 前記撮像デバイスにおいて、前記画像センサはカラーフィルタアレイの前段に配置されないことを特徴とする請求項1記載の補償方法。
- 前記撮像デバイスにおいて、前記画像センサは結像光学系の前段に配置され、前記補償方法は、前記結像光学系が発生させる色感度の空間不均一性を更に補償することを特徴とする請求項1に記載の補償方法。
- 前記結像光学系は他の結像光学系と交換可能であり、別個の補償撮像マスクはそのような結合光学系の各々に提供されることを特徴とする請求項10に記載の補償方法。
- 別個の補償撮像マスクは、前記シーンの照明の空間不均一性を補償するために提供されることを特徴とする請求項1に記載の補償方法。
- 調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスであって、
コンピュータが実行可能な処理ステップを格納するように構成されたコンピュータ可読メモリと、
前記メモリに格納された前記コンピュータが実行可能な処理ステップを実行するように構成されたプロセッサとを備え、
前記メモリに格納された前記処理ステップにより前記プロセッサが、
デフォルト撮像マスクを前記画像センサに適用し、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像し、
前記画像センサの色感度の空間不均一性を識別するために前記サンプル画像の色を解析し、
前記画像センサに適用するために、前記画像センサの色感度の空間不均一性を補償するように前記識別された空間不均一性に基づく計算を使用して構成される補償撮像マスクを構成し、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納する
ことを特徴とする撮像デバイス。 - 調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサの色感度の空間不均一性を補償する前記画像センサを含む撮像デバイスの補償方法をコンピュータに実行させるコンピュータが実行可能な処理ステップを格納する取り外し可能なコンピュータ可読記憶媒体であって、前記方法が、
デフォルト撮像マスクを前記画像センサに適用するステップと、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像するステップと、
前記画像センサの色感度の空間不均一性を識別するために前記サンプル画像の色を解析するステップと、
前記画像センサに適用するために、前記画像センサの色感度の空間不均一性を補償するように前記識別された空間不均一性に基づく計算を使用して構成される補償撮像マスクを構成するステップと、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納するステップと、
を備えることを特徴とするコンピュータ可読記憶媒体。 - 調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスの補償方法であって、
前記画像センサの色感度の空間不均一性を補償するように構成される補償撮像マスクをメモリから検索するステップと、
前記補償撮像マスクを前記画像センサに適用するステップと、
前記補償撮像マスクにより調節された前記画像センサを使用してシーンの画像を撮像及び格納するステップと、
を備えることを特徴とする補償方法。 - 調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサの色感度の空間不均一性を補償する前記画像センサを含む撮像デバイスの補償方法であって、
デフォルト撮像マスクを前記画像センサに適用するステップと、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像するステップと、
チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える均一色画像を取得するステップと、
前記画像センサに適用するために、前記デフォルト撮像マスクと共に撮像された時の各チャネルの前記色値及び前記均一色画像の前記色値に基づく計算を使用して構成される補償撮像マスクを構成するステップと、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納するステップと、
を備えることを特徴とする補償方法。 - 前記補償撮像マスクは、現在の画素のチャネルの値と別の画素のチャネルの値とを組み合わせること及びシフトされた波長を有する前記現在の画素に対して出力チャネルを生成するように前記組み合わされた画素信号間の相対的な大きさを変更することに基づいて前記現在の画素に対して構成されることを特徴とする請求項16に記載の方法。
- 前記補償撮像マスクは、画素に対する色値間を遷移する補償値が画素毎に電圧値にマッピングされる、事前に算出されたルックアップテーブル(LUT)に基づいて構成されることを特徴とする請求項16に記載の方法。
- 調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサを含む撮像デバイスであって、
コンピュータが実行可能な処理ステップを格納するように構成されたコンピュータ可読メモリと、
前記メモリに格納された前記コンピュータが実行可能な処理ステップを実行するように構成されたプロセッサとを備え、
前記メモリに格納された前記処理ステップにより前記プロセッサが、
デフォルト撮像マスクを前記画像センサに適用し、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像し、
チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える均一色画像を取得し、
前記画像センサに適用するために、前記デフォルト撮像マスクと共に撮像された時の各チャネルの前記色値及び前記均一色画像の前記色値に基づく計算を使用して構成される補償撮像マスクを構成し、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納する
ことを特徴とする撮像デバイス。 - 前記補償撮像マスクは、現在の画素のチャネルの値と別の画素のチャネルの値とを組み合わせること及びシフトされた波長を有する前記現在の画素に対して出力チャネルを生成するように前記組み合わされた画素信号間の相対的な大きさを変更することに基づいて前記現在の画素に対して構成されることを特徴とする請求項19に記載のデバイス。
- 前記補償撮像マスクは、画素に対する色値間を遷移する補償値が画素毎に電圧値にマッピングされる、事前に算出されたルックアップテーブル(LUT)に基づいて構成されることを特徴とする請求項19に記載のデバイス。
- 調節可能な分光感度を有し且つ撮像マスクに従って調節可能である画像センサの色感度の空間不均一性を補償する前記画像センサを含む撮像デバイスの補償方法をコンピュータに実行させるコンピュータが実行可能な処理ステップを格納する取り外し可能な非一時的なコンピュータ可読記憶媒体であって、前記方法が、
デフォルト撮像マスクを前記画像センサに適用するステップと、
前記デフォルト撮像マスクにより調節された前記画像センサを使用してサンプル画像を撮像するステップと、
チャネル毎の色値がアレイ全体にわたり均一である空間アレイを備える均一色画像を取得するステップと、
前記画像センサに適用するために、前記デフォルト撮像マスクと共に撮像された時の各チャネルの前記色値及び前記均一色画像の前記色値に基づく計算を使用して構成される補償撮像マスクを構成するステップと、
前記補償撮像マスクを前記画像センサに適用するために前記補償撮像マスクを前記撮像デバイスのメモリに格納するステップと、
を備えることを特徴とするコンピュータ可読記憶媒体。 - 前記補償撮像マスクは、現在の画素のチャネルの値と別の画素のチャネルの値とを組み合わせること及びシフトされた波長を有する前記現在の画素に対して出力チャネルを生成するように前記組み合わされた画素信号間の相対的な大きさを変更することに基づいて前記現在の画素に対して構成されることを特徴とする請求項22に記載のコンピュータ可読記憶媒体。
- 前記補償撮像マスクは、画素に対する色値間を遷移する補償値が画素毎に電圧値にマッピングされる、事前に算出されたルックアップテーブル(LUT)に基づいて構成されることを特徴とする請求項22に記載のコンピュータ可読記憶媒体。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/029,076 US8547447B2 (en) | 2011-02-16 | 2011-02-16 | Image sensor compensation |
US13/029,076 | 2011-02-16 | ||
US13/371,826 US8866925B2 (en) | 2011-02-16 | 2012-02-13 | Image sensor compensation |
US13/371,826 | 2012-02-13 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012199908A JP2012199908A (ja) | 2012-10-18 |
JP5247900B2 true JP5247900B2 (ja) | 2013-07-24 |
Family
ID=46636639
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012031033A Expired - Fee Related JP5247900B2 (ja) | 2011-02-16 | 2012-02-15 | 画像センサ補償 |
Country Status (2)
Country | Link |
---|---|
US (1) | US8866925B2 (ja) |
JP (1) | JP5247900B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8823829B2 (en) * | 2010-09-16 | 2014-09-02 | Canon Kabushiki Kaisha | Image capture with adjustment of imaging properties at transitions between regions |
WO2016018243A1 (en) * | 2014-07-29 | 2016-02-04 | Hewlett Packard Development Company, L.P. | Default calibrated sensor module settings |
JP7150515B2 (ja) * | 2018-08-09 | 2022-10-11 | キヤノン株式会社 | 撮像素子及び撮像装置 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0946717A (ja) * | 1995-07-28 | 1997-02-14 | Canon Inc | 撮像装置 |
US6226034B1 (en) | 1997-05-06 | 2001-05-01 | Roper Scientificomasd, Inc. | Spatial non-uniformity correction of a color sensor |
US6377300B1 (en) * | 1998-04-14 | 2002-04-23 | Mcdonnell Douglas Corporation | Compact flat-field calibration apparatus |
EP0961482B1 (en) * | 1998-05-28 | 2007-12-12 | Eastman Kodak Company | Digital photofinishing system including digital image processing of alternative capture color photographic media |
US6642956B1 (en) | 1998-05-29 | 2003-11-04 | Agilent Technologies, Inc. | Digital image processor for a digital camera |
US7330209B2 (en) | 1999-12-20 | 2008-02-12 | Texas Instruments Incorporated | Digital still camera system and complementary-color-filtered array interpolation method |
JP2003304544A (ja) * | 2002-04-10 | 2003-10-24 | Canon Inc | 撮像装置 |
US7652699B2 (en) | 2005-08-30 | 2010-01-26 | Motorola, Inc. | Color image sensor with tunable color filter |
US20070236757A1 (en) | 2006-04-10 | 2007-10-11 | Duncan Stewart | Rich color image processing method and apparatus |
ITMI20062352A1 (it) * | 2006-12-06 | 2008-06-07 | Milano Politecnico | Struttura fotosensibile al colore di una radiazione luminosa |
US7755671B2 (en) * | 2007-04-23 | 2010-07-13 | Hewlett-Packard Development Company, L.P. | Correcting a captured image in digital imaging devices |
US8629919B2 (en) | 2010-08-18 | 2014-01-14 | Canon Kabushiki Kaisha | Image capture with identification of illuminant |
US8625021B2 (en) | 2010-08-30 | 2014-01-07 | Canon Kabushiki Kaisha | Image capture with region-based adjustment of imaging properties |
US8547447B2 (en) * | 2011-02-16 | 2013-10-01 | Canon Kabushiki Kaisha | Image sensor compensation |
-
2012
- 2012-02-13 US US13/371,826 patent/US8866925B2/en not_active Expired - Fee Related
- 2012-02-15 JP JP2012031033A patent/JP5247900B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US20120206632A1 (en) | 2012-08-16 |
JP2012199908A (ja) | 2012-10-18 |
US8866925B2 (en) | 2014-10-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8625021B2 (en) | Image capture with region-based adjustment of imaging properties | |
US8605199B2 (en) | Adjustment of imaging properties for an imaging assembly having light-field optics | |
US8823829B2 (en) | Image capture with adjustment of imaging properties at transitions between regions | |
US8842194B2 (en) | Imaging element and imaging apparatus | |
KR100770772B1 (ko) | 촬상장치 및 그 제어 방법 | |
US20130064531A1 (en) | Zoom flash with no moving parts | |
US8629919B2 (en) | Image capture with identification of illuminant | |
US8149294B2 (en) | Image capturing device which sets color conversion parameters based on an image sensor and separate light sensor | |
JP2006222672A (ja) | ホワイトバランス制御方法、ホワイトバランス制御装置及び撮像装置 | |
TW201515466A (zh) | 控制裝置、控制方法及電子機器 | |
JP2007053499A (ja) | ホワイトバランス制御装置及び撮像装置 | |
US8665355B2 (en) | Image capture with region-based adjustment of contrast | |
US7646406B2 (en) | Image taking apparatus | |
US8743239B2 (en) | Image processing apparatus, control method thereof, and image-capturing apparatus | |
JP6741881B2 (ja) | 画像処理装置、撮像装置、画像処理方法、およびプログラム | |
JP5247900B2 (ja) | 画像センサ補償 | |
US8547447B2 (en) | Image sensor compensation | |
JP4210920B2 (ja) | ホワイトバランス調整方法およびカメラ | |
KR20090059512A (ko) | 렌즈부 셰이딩 현상을 보정하는 영상 처리 장치 및 그 제어방법 | |
JP4335648B2 (ja) | デジタルカメラ及びデジタルカメラの撮像方法 | |
JP4239219B2 (ja) | オートホワイトバランス調整方法及び装置 | |
JP2012227744A (ja) | 撮像装置 | |
KR20100096494A (ko) | 플래시를 이용한 화이트 밸런스 조정 방법 및 장치, 이를 이용한 디지털 촬영 장치 | |
JP2003087802A (ja) | カラー撮像装置 | |
JP2019022036A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130218 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130312 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130409 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160419 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |