JP2012054661A - 撮像装置、および信号処理方法、並びにプログラム - Google Patents
撮像装置、および信号処理方法、並びにプログラム Download PDFInfo
- Publication number
- JP2012054661A JP2012054661A JP2010193692A JP2010193692A JP2012054661A JP 2012054661 A JP2012054661 A JP 2012054661A JP 2010193692 A JP2010193692 A JP 2010193692A JP 2010193692 A JP2010193692 A JP 2010193692A JP 2012054661 A JP2012054661 A JP 2012054661A
- Authority
- JP
- Japan
- Prior art keywords
- image
- signal
- memory
- processing
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
【解決手段】撮像信号を格納するメモリと、メモリに格納された画像信号を入力して画像合成処理を実行して広ダイナミックレンジ画像を生成する画像合成部と、γ補正処理による信号変換処理を実行する画像補正部と、メモリに対する入出力経路の切り替えを伴う信号経路制御を実行する制御部を有し、制御部は、画像合成部における画像合成処理を実行しない通常画像生成時に、画像補正部による補正後の信号を前記メモリに対する書き込み読み出し信号として設定し、画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時には、画像補正部による補正前の信号をメモリに対する書き込み読み出し信号として設定する信号経路制御を実行する。
【選択図】図3
Description
図2(b)は、輝度信号(Y)=10bit、色信号(G)(R)(B)=12bitとしてライトリードする場合の各信号のビット設定例を示している。
撮像信号を格納するメモリと、
メモリに格納された画像信号を入力して画像合成処理を実行して広ダイナミックレンジ画像を生成する画像合成部と、
γ補正処理による信号変換処理を実行する画像補正部と、
メモリに対する入出力経路の切り替えを伴う信号経路制御を実行する制御部を有し、
前記制御部は、
前記画像合成部における画像合成処理を実行しない通常画像生成時には、前記画像補正部による補正後の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行し、
前記画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時には、前記画像補正部による補正前の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行する撮像装置にある。
撮像信号を格納するメモリと、
メモリに格納された画像信号を入力して画像合成処理を実行して広ダイナミックレンジ画像を生成する画像合成部と、
γ補正処理による信号変換処理を実行する画像補正部と、
メモリに対する入出力経路の切り替えを伴う信号経路制御を実行する制御部を有し、
前記制御部は、
前記画像合成部における画像合成処理を実行しない通常画像生成時には、前記画像補正部による補正後の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行し、
前記画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時には、前記画像補正部による補正前の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行する画像処理装置にある。
画像処理装置において実行する信号処理方法であり、
前記画像処理装置は、
メモリに格納された画像信号を入力して画像合成処理を実行して広ダイナミックレンジ画像を生成する画像合成部と、
γ補正処理による信号変換処理を実行する画像補正部と、
メモリに対する入出力経路の切り替えを伴う信号経路制御を実行する制御部を有し、
前記制御部は、
前記画像合成部における画像合成処理を実行しない通常画像生成時には、前記画像補正部による補正後の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行し、
前記画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時には、前記画像補正部による補正前の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行する信号処理方法にある。
画像処理装置において信号処理制御を実行させるプログラムであり、
前記画像処理装置は、
メモリに格納された画像信号を入力して画像合成処理を実行して広ダイナミックレンジ画像を生成する画像合成部と、
γ補正処理による信号変換処理を実行する画像補正部と、
メモリに対する入出力経路の切り替えを伴う信号経路制御を実行する制御部を有し、
前記プログラムは、前記制御部に、
前記画像合成部における画像合成処理を実行しない通常画像生成時には、前記画像補正部による補正後の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行させ、
前記画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時には、前記画像補正部による補正前の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行させるプログラムにある。
また、通常画像生成モードと広ダイナミックレンジ画像生成モードとの切り替え時にロモリ入力データを先行して切り替えることで、出力画像を途切れさせることのないスムーズなモード遷移が実現される。
1.撮像装置の全体構成例について
2.通常画像生成処理と広ダイナミックレンジ画像生成処理時の設定について
3.メモリ格納データのフォーマットについて
4.画像生成処理の詳細シーケンスについて
(4−A)プログレッシブ読み出し、プログレッシブ出力における通常画像生成シーケンス
(4−B)プログレッシブ読み出し、プログレッシブ出力における広ダイナミックレンジ画像生成シーケンス(例1)
(4−C)プログレッシブ読み出し、プログレッシブ出力における広ダイナミックレンジ画像生成シーケンス(例2)
(4−D)プログレッシブ読み出し、インターレース出力における通常画像生成シーケンス(例1)
(4−E)プログレッシブ読み出し、インターレース出力における通常画像生成シーケンス(例2)
(4−F)プログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンス(例1)
(4−G)プログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンス(例2)
(4−H)プログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンス(例3)
(4−I)プログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンス(例4)
(4−J)プログレッシブ読み出し、プログレッシブ出力における通常画像生成と広ダイナミックレンジ画像生成の切り替えシーケンス
図3は、本発明の撮像装置の一実施例を示すブロック図である。なお、以下の説明では撮像装置の実施例として説明するが、本発明は、撮像信号を入力して信号処理を行う撮像部分を持たない画像処理装置においても利用可能な発明である。
図3に示す撮像装置100の構成と処理について説明する。
レンズ101を介して入射した光は撮像素子102で光電変換される。撮像素子102において生成された画像に対応する電気信号はアナログフロントエンド103で相関2重サンプリング処理とAGCが施され、さらにAD変換されて画像に対応するデジタル信号が生成される。
なお、第1信号処理部122は、通常画像の生成時には第2信号処理部125において実行する通常画像のメモリ130に対する格納データ(後述する図6に示すフォーマット1(f1)に従ったデータ)を生成可能とした信号、例えばYRGB各10ビット以上の信号を出力する。
第2信号処理部125は、例えば色差信号を含む信号(YCbCr)への変換処理等の必要な信号処理を行い、処理画像を切り替えスイッチ151bのW側入力端子と切り替えスイッチc,151cのN側入力端子に出力する。
切り替えスイッチb,151bの出力は第3信号処理部126に入力され、最終的な信号処理を行い、撮像装置出力信号を生成して出力される。
なお、第1信号処理部22では周波数補正や信号レベル補正、ホワイトバランス(WB)調整などを行い、第2信号処理部125と第3信号処理部126とでメモリ130への制御と連動して画像の垂直反転やスロースチルや手振れ補正や電子ズームなどを行い、第2信号処理部26では、ピーククリップや色差信号生成、OSDや出力エンコード処理などを行う場合が多い。
(1)撮像素子102の出力する1つの画像フレームを1つの出力画像として生成する通常(Normal)画像生成処理、
(2)撮像素子102の露光時間を長時間露光と短時間露光を垂直期間毎に切換えて得られた2種類の感度の画像を合成して広ダイナミックレンジの画像を生成する広ダイナミックレンジ(WDR:Wide Dynamic Range)画像生成処理、
これらの処理を選択的に実行可能な構成を持つ。
マイコン(制御部)105は、通常画像生成モードである場合は、信号処理部120のスイッチa〜d,151a〜dをN側接続構成とし、広ダイナミックレンジ画像生成モードである場合は、信号処理部120のスイッチa〜d,151a〜dをW側接続構成とする制御を行う。
広ダイナミックレンジ画像生成モードである場合は、画像合成部123における画像合成処理を実行させる。画像合成部123は、長時間露光によって得られる高感度画像の白つぶれ領域に、短時間露光によって得られる低感度画像の有効画素値を設定する画像合成処理を実行して広ダイナミックレンジ画像を生成する。
図3の撮像装置100の構成において、通常画像を生成する通常動作時と、広ダイナミックレンジ画像を生成する広ダイナミックレンジ動作時ではスイッチ151a〜dの設定が異なり、信号の流れが異なる。
図4は、通常画像を生成する通常動作時における信号の流れを太線で示した図である。
図5は、広ダイナミックレンジ画像を生成する広ダイナミックレンジ動作時における信号の流れを太線で示した図である。
通常画像を生成する通常動作時には、切り替えスイッチ151a〜151dをN側に切り替える。
撮像素子102からの入力信号はアナログフロントエンド103を介してデジタル信号に変換された後、信号処理部120のYRGB生成部121に入力され、YRGB生成部121において、輝度信号Y信号と色信号R、G、B信号が生成される。
画像合成部123は、通常動作時は画像合成処理を行わず、入力信号をそのまま画像補正部124に出力する。
第3信号処理部126は、メモリ130からの読み出し信号に対する最終的な信号処理を実行して撮像装置から出力する通常画像を生成して出力する。
広ダイナミックレンジ画像を生成する広ダイナミックレンジ動作時には、切り替えスイッチ151a〜151dをW側に切り替える。
(a)短時間露光画像(低感度画像:Ln)
(b)長時間露光画像(高感度画像:Hn)
上記(a),(b)の連続撮影された2枚の画像に対する処理として行われる。
なお、具体的な処理シーケンスについては後段で詳細に説明する。
メモリ130からの画像読み取り処理は、
(a)短時間露光画像(低感度画像:Ln)
(b)長時間露光画像(高感度画像:Hn)
これら2枚の画像をそれぞれのメモリ格納アドレスを適用して並列に読み取る処理として実行される。
生成された広ダイナミックレンジ画像合は、画像補正部124に出力される。
第3信号処理部126は、メモリ130からの読み出し信号に対する最終的な信号処理を実行して撮像装置から出力する広ダイナミックレンジ画像を生成して出力する。
図5を参照して説明した広ダイナミックレンジ画像生成処理、
これらの処理時の大きな差異の1つは、以下のメモリ書き込み、読み出しタイミングである。
(a)短時間露光画像(低感度画像:Ln)
(b)長時間露光画像(高感度画像:Hn)
これら2枚の画像を個別のメモリアドレス指定位置に対してシーケンシャルに書き込む処理が実行され、読み取りに際しては2つのメモリアドレスを利用して並列に読み取る処理が行われる。
なお、図5を参照して説明した広ダイナミックレンジ画像生成時には、
(a)短時間露光画像(低感度画像:Ln)
(b)長時間露光画像(高感度画像:Hn)
これ等2つの画像各々のYRGB各信号値がメモリ130に格納される。
上述したように、図4を参照して説明した通常画像生成処理では、画像補正部124における画像補正(γ補正)、第2信号処理部125における信号処理結果としてのYCbCr信号がメモリ130に書き込まれ、また読み取りが行われる。
メモリ格納データ構成例を図6(1a),(1b)に示す。
この場合のメモリ格納データの構成例を図7(2)に示す。
図7(2)に示すように、輝度信号(Y)9bit、色信号(G)10bit、色信号(R)9bitと(B)9bitで、輝度信号4画素に対して色信号1ペアの分解能のいわゆる411形式のデータ形式(以下データフォーマット2(=f2)と記す)でメモリ130に対するデータ書き込み、読み取りを実行する。
輝度信号(Y)8ビット、
色差信号(Cb,Cr)について、(Cb),(Cr)各々8ビット、
上記設定とした輝度(Y)4に対して色差信号(Cb,Cr)各2の比率、または、輝度(Y)4に対して色差信号(Cb,Cr)各1の比率を持つ図6に示すフォーマット(f1)に従った信号を出力し、マイコン(制御部)105は、画像合成部123における画像合成処理を実行しない通常画像生成時に、図6に示すフォーマット(f1)に従った信号をメモリ130に対する書き込み読み出し信号として設定する信号経路制御を実行する。
輝度信号(Y)9ビット、
色信号(R,G,B)について、(G)10ビット、(R),(B)各々9ビット、
上記設定とした輝度(Y)4に対して色信号(R,G,B)各1の比率を持つ図7に示すフォーマット(f2)に従った信号を出力し、マイコン(制御部)105は、画像合成部123における画像合成処理を実行する広ダイナミックレンジ画像生成時に、フォーマット(f2)に従った信号をメモリ130に対する書き込み読み出し信号として設定する信号経路制御を実行する。
図3〜図5を参照して説明したように、本発明の撮像装置は、
図4を参照して説明した通常画像モードにおいて実行する通常画像生成処理と、
図5を参照して説明した広ダイナミックレンジモードにおいて実行する広ダイナミックレンジ画像生成処理、
これらの2つのモードで異なる画像を生成する。
以下では、本発明の撮像装置の実行する様々な画像生成処理シーケンスの詳細について説明する。
また、表示装置に対する出力である撮像装置出力の態様にも、画像の構成画素の画素値を1回の走査で出力するプログレッシブ出力と、偶数ライン走査と奇数ライン走査を個別に実行して出力するインターレース出力がある。
以下では、これらの様々な読み出しと出力態様の組み合わせに応じた具体的な画像生成処理シーケンスの詳細について個別に説明する。以下の各処理について順次、説明する。
(4−B)プログレッシブ読み出し、プログレッシブ出力における広ダイナミックレンジ画像生成シーケンス(例1)(図9)
(4−C)プログレッシブ読み出し、プログレッシブ出力における広ダイナミックレンジ画像生成シーケンス(例2)(図10)
(4−D)プログレッシブ読み出し、インターレース出力における通常画像生成シーケンス(例1)(図11)
(4−E)プログレッシブ読み出し、インターレース出力における通常画像生成シーケンス(例2)(図12)
(4−F)プログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンス(例1)(図13)
(4−G)プログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンス(例2)(図14)
(4−H)プログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンス(例3)(図15)
(4−I)プログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンス(例4)(図16)
(4−J)プログレッシブ読み出し、プログレッシブ出力における通常画像生成と広ダイナミックレンジ画像生成の切り替えシーケンス(図17)
まず、図8を参照してプログレッシブ読み出し、プログレッシブ出力における通常画像生成シーケンスの詳細について説明する。
(1)撮像素子102の露光と出力
(2)スイッチa,151aと、スイッチc,151cの設定
(3)メモリ130に対する書き込みアドレスと書き込みデータ
(4)メモリ130からの読み出しアドレスと読み出しデータ
(5)スイッチd,151dと、スイッチb,151bの設定
(6)撮像装置100の出力
これらのデータおよび設定を示している。
図8(1)に示すように、撮像素子102は、各垂直周期(t0〜t1、t1〜t2・・)において露光された結果としての撮像素子出力として、(VI1),(VI2),(VI3),(VI4)・・・を出力する。
数値1,2は撮像素子からの出力順を示す識別番号である。
図8(3)に示すように、2つのメモリアドレス(AD1)、(AD2)を交互に使用して、第2信号処理部125の処理結果としてのデータ(f1_1)、(f1_2)、(f1_3)・・・、が順次格納される。
なお、f1は、
メモリ格納フォーマット=フォーマット1
に従ってメモリに格納されることを意味する。
時間t0〜t1の期間内で撮像素子102の出力〜メモリ130への格納までの処理が行われる。
(1)撮像素子〜(3)メモリ書き込みまでの処理は、次の撮像素子出力(VI2)に対して、時間t0〜t1における撮像素子出力(VI1)に対する処理と同様の処理が実行される。
ただし、時間t0〜t1でメモリに格納したアドレスとは異なるアドレス(AD2)のメモリ位置にデータ(f1_2)が書き込まれる。
図8(4)メモリ読み出し〜(6)撮像装置出力までの処理も行われる。これらの処理は、時間t0〜t1においてメモリに書き込まれたデータ(f1_1)に対する処理である。
図8(5)のスイッチ設定はスイッチd,151dと、スイッチb,151bの設定状態を示している。図4を参照して説明したように通常画像生成処理モードにおいては、スイッチd,151dと、スイッチb,151bはいずれもN側接続の設定とされる。
データ書き込み処理に併せて書き込み処理の適用アドレス以外のアドレスを利用してデータ読み出しが実行される。
時間t1以降は、このようにアドレス(AD1),(AD2)の一方を利用して撮像素子から入力するデータの書き込みが実行され、他方を利用してメモリに先行して書き込まれたデータの読み出しが実行される。
この処理を繰り返し、実行して、通常画像の撮像装置出力VO1,VO2,VO3,VO4・・・を出力する。
次に、図9を参照してプログレッシブ読み出し、プログレッシブ出力における広ダイナミックレンジ画像生成シーケンスの詳細について説明する。
(1)撮像素子102の露光と出力
(2)スイッチa,151aと、スイッチc,151cの設定
(3)メモリ130に対する書き込みアドレスと書き込みデータ
(4a)メモリ130からの読み出しアドレスと読み出しデータ
(4b)メモリ130からの読み出しアドレスと読み出しデータ
(5)スイッチd,151dと、スイッチb,151bの設定
(6)撮像装置100の出力
これらのデータおよび設定を示している。
この並列読み出し処理が(4a),(4b)の処理に対応する。
図9(1)に示すように、撮像素子102は、各垂直周期(t0〜t1、t1〜t2・・)において露光された結果としての撮像素子出力として、(VIL1),(VIH1),(VIL2),(VIH2)・・・を出力する。
なお、Lは短時間露光画像(低感度画像)、Hは、長時間露光画像(高感度画像)を意味する。
数値1,2は撮像素子からの出力順を示す識別番号である。
図9(3)に示すように、4つのメモリアドレス(AD1)、(AD2)、(AD3)、(AD4)を順番に繰り返し使用して、第1信号処理部122の処理結果としてのデータ(f2_L1)、(f2_H1)、(f2_L2)、(f2_H2)・・・、が順次格納される。
すなわち、短時間露光画像(低感度画像(Ln))と、長時間露光画像(高感度画像(Hn))が順次格納される。
メモリ格納フォーマット=フォーマット2
に従ってメモリに格納されることを意味する。
フォーマット2(f2)は、先に図7(2)を参照して説明したフォーマットに対応し、図7(2)の第2フォーマットで第1信号処理部122の処理結果であるYRGB信号を格納する。
時間t0〜t1の期間内で撮像素子102の出力〜メモリ130への格納までの処理が行われる。
(1)撮像素子〜(3)メモリ書き込みまでの処理が、次の撮像素子出力(VIH1)に対して、時間t0〜t1における撮像素子出力(VIL1)に対する処理と同様の処理が実行される。
なお、時間t0〜t1における撮像素子出力(VIL1)と、撮像素子出力(VIH1)は広ダイナミックレンジ画像生成のための画像合成処理の対象となる2つの画像である。
(1)撮像素子〜(3)メモリ書き込みまでの処理が、次の撮像素子出力(VIL2)に対して、時間t0〜t1における撮像素子出力(VIL1)に対する処理と同様の処理が実行される。
図9の(3)メモリ書き込みにおいては、t0〜t1でメモリ書き込みに利用したアドレス(AD1)、t1〜t2でメモリ書き込みに利用したアドレス(AD2)、これらとは異なるアドレス(AD3)のメモリ位置にデータ(f2_L2)が書き込まれる。
図9(4)メモリ読み出し〜(6)撮像装置出力までの処理も行われる。これらの処理は、時間t0〜t1においてメモリに書き込まれたデータ(f2_L1)、時間t1〜t2においてメモリに書き込まれたデータ(f2_H1)に対する処理である。
さらに、図9(4b)メモリ読み出しの欄に示すように、アドレス(AD2)位置からデータ(f2_H1)が読み出される。
合成画像を生成するために必要となる2つのデータ、すなわちデータ(f2_L1)のアドレス(AD1)からの読み出しと、データ(f2_H1)のアドレス(AD2)からの読み出しは、
時間t2〜t3におけるデータ(f2_L2)のメモリ(アドレス=AD3)への書き込み時間と、
時間t3〜t4におけるデータ(f2_H2)のメモリ(アドレス=AD4)への書き込み時間、
これらの時間t2〜t3,t3〜t4を利用して行われる。
すなわち、合成画像を生成するために必要となる2つの画像の書き込み処理時間に併せて、先行してメモリに書き込まれた合成画像を生成するために必要となる2つの画像の読み取りが実行される。
短時間露光画像データ(低感度画像(f2_L1))と、
長時間露光画像データ(高感度画像(f2_H1))、
これらのデータは画像合成部123に出力される。
画像合成部123では、これらの2つの画像を利用した画像合成処理を実行し、広ダイナミックレンジ画像を生成する。
この最終出力が図9(6)撮像装置出力(WV11)に相当する。
短時間露光画像データ(低感度画像(f2_Ln))と、
長時間露光画像データ(高感度画像(f2_Hn))、
さらに、次の
短時間露光画像データ(低感度画像(f2_Ln+1))と、
長時間露光画像データ(高感度画像(f2_Hn+1))、
これ等の画像ペアが、順次メモリの異なる位置に書き込まれる。
時間t2以降は、アドレス(AD1)〜(AD4)のいずれかを利用して撮像素子から入力するデータの書き込みが実行され、アドレス(AD1),(AD2)または(AD3),(AD4)のいずれかの組み合わせを利用してメモリに先行して書き込まれた合成画像生成用の2つの画像データの読み出しが実行される。
この処理を繰り返し実行して、広ダイナミックレンジ画像の撮像装置出力WV11,WV11,WV22,WV22・・・、これらを出力する。
時間t2〜t3の出力WV11は、メモリから読み出された長時間露光画像(高感度画像(H))(f2_H1)と、短時間露光画像(低感度画像(L))(f2_L1)の合成処理によって生成された広ダイナミックレンジ画像である。
時間t3〜t4の出力WV11も同じ出力となる。
時間t4〜t5の出力WV22は、メモリから読み出された長時間露光画像(高感度画像(H))(f2_H2)と、短時間露光画像(低感度画像(L))(f2_L2)の合成処理によって生成された広ダイナミックレンジ画像である。
次に、図10を参照してプログレッシブ読み出し、プログレッシブ出力における広ダイナミックレンジ画像生成シーケンスのもう1つの例について説明する。
図10に示す処理例は、図9に示す処理例と同様、プログレッシブ読み出し、プログレッシブ出力における広ダイナミックレンジ画像生成シーケンスである。ただし、図10に示す処理では、広ダイナミックレンジ画像を生成するためにメモリ130から読み出す画像のペアの設定を常に最新の画像として設定している点が異なっている。
時間t2〜t3においてデータ(f2_L1)のアドレス(AD1)からの読み出しと、データ(f2_H1)のアドレス(AD2)からの読み出しを実行し、
さらに、時間t3〜t4においてデータ(f2_L1)のアドレス(AD1)からの読み出しと、データ(f2_H1)のアドレス(AD2)からの読み出しを実行している。
図9では読み出し処理が実行されていなかった時間t1〜t2において、データ(f2_L1)のアドレス(AD1)からの読み出しを開始している。
さらに、時間t2〜t3においてデータ(f2_L1)のアドレス(AD1)からの読み出しと、データ(f2_H1)のアドレス(AD2)からの読み出しを実行し、
次の、時間t3〜t4においては、データ(f2_L2)のアドレス(AD3)からの読み出しと、データ(f2_H1)のアドレス(AD2)からの読み出しを実行している。
(4a),(4b)のメモリ読み出し処理は、上述したようにメモリに格納されたデータ中、最新のデータ、すなわち最も後のタイミングでメモリ130に書き込まれたデータを読み取っている点が異なっている。
(6)撮像装置出力は、図9を参照して説明したシーケンスにおける出力とは異なる画像となる。すなわち、広ダイナミックレンジ画像を生成するために適用する画像の組み合わせが異なるからである。
時間t2〜t3の出力は、WV11、
時間t3〜t4の出力は、WV12、
時間t4〜t5の出力は、WV22、
時間t5〜t6の出力は、WV23、
このような設定となる。
なお、WVは広ダイナミックレンジ画像であることを意味し、その後の数値列は、前の数値が長時間露光画像(高感度画像(H))の識別番号、後の数値が短時間露光画像(低感度画像(L))の識別番号である。
時間t2〜t3の出力WV11は、メモリから読み出された長時間露光画像(高感度画像(H))(f2_H1)と、短時間露光画像(低感度画像(L))(f2_L1)の合成処理によって生成された広ダイナミックレンジ画像である。
時間t3〜t4の出力WV12は、メモリから読み出された長時間露光画像(高感度画像(H))(f2_H1)と、短時間露光画像(低感度画像(L))(f2_L2)の合成処理によって生成された広ダイナミックレンジ画像である。
次に、図11を参照してプログレッシブ読み出し、インターレース出力における通常画像生成シーケンスの詳細について説明する。
(1)撮像素子102の露光と出力
(2)スイッチa,151aと、スイッチc,151cの設定
(3)メモリ130に対する書き込みアドレスと書き込みデータ
(4)メモリ130からの読み出しアドレスと読み出しデータ
(5)スイッチd,151dと、スイッチb,151bの設定
(6)撮像装置100の出力
これらのデータおよび設定を示している。
なお、例えば時間t2〜t3のメモリ読み出しデータ(f1_1o)は、フォーマット1(f1)の第1番目の奇数フィールド(o:ODD)のメモリ格納データであることを意味する。
oはODD(奇数)、eはEVEN(偶数)フィールドのデータである。
なお、f1は、図6を参照して説明したフォーマット1に従ってメモリに格納されることを意味する。
時間t2までに、メモリアドレス(AD1)にデータ(f1_1)が格納される。
時間t4までに、メモリアドレス(AD2)にデータ(f1_2)が格納される。
時間t6までに、メモリアドレス(AD1)にデータ(f1_3)が格納される。
図11(4)メモリ読み出し〜(6)撮像装置出力までの処理も行われる。これらの処理は、メモリに書き込まれたデータに対する処理である。
なお、アドレス(AD1o)は、アドレス(AD1)の一部を構成し、奇数(ODD)フィールドに対応するデータの読み出し用アドレスである。
アドレス(ADn)は、奇数(ODD)フィールドに対応するデータの読み出し用アドレス(ADno)と、偶数(EVEN)フィールドに対応するデータの読み出し用アドレス(ADne)とに分離して利用可能な構成を持つ。
次に、図12を参照してプログレッシブ読み出し、インターレース出力における通常画像生成シーケンス第2例の詳細について説明する。
(1)撮像素子102の露光と出力
(2)スイッチa,151aと、スイッチc,151cの設定
(3)メモリ130に対する書き込みアドレスと書き込みデータ
(4)メモリ130からの読み出しアドレスと読み出しデータ
(5)スイッチd,151dと、スイッチb,151bの設定
(6)撮像装置100の出力
これらのデータおよび設定を示している。
図11と図12の違いは、(6)撮像装置出力のシーケンスである。
図11を参照して説明した処理では、出力順が、
VO1o,VO1e,VO2o,VO2e・・・
であり、奇数(ODD)フィールド、偶数(EVEN)フィールドの順で出力する構成である。
VO1e,VO1o,VO2e,VO2o・・・
であり、偶数(EVEN)フィールド、奇数(ODD)フィールドの順で出力する構成である。
その他の点は、先に図11を参照して説明した処理と同様である。
次に、図13を参照してプログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンスの詳細について説明する。
(1)撮像素子102の露光と出力
(2)スイッチa,151aと、スイッチc,151cの設定
(3)メモリ130に対する書き込みアドレスと書き込みデータ
(4a)メモリ130からの読み出しアドレスと読み出しデータ
(4b)メモリ130からの読み出しアドレスと読み出しデータ
(5)スイッチd,151dと、スイッチb,151bの設定
(6)撮像装置100の出力
これらのデータおよび設定を示している。
この並列読み出し処理が(4a),(4b)の処理に対応する。
図13(1)に示すように、撮像素子102は、各垂直周期(t0〜t1、t1〜t2・・)において露光された結果としての撮像素子出力として、(VIL1),(VIH1),(VIL2),(VIH2)・・・を出力する。
なお、Lは短時間露光画像(低感度画像)、Hは、長時間露光画像(高感度画像)を意味する。
数値1,2は撮像素子からの出力順を示す識別番号である。
図13(3)に示すように、4つのメモリアドレス(AD1)、(AD2)、(AD3)、(AD4)を順番に繰り返し使用して、第1信号処理部122の処理結果としてのデータ(f2_L1)、(f2_H1)、(f2_L2)、(f2_H2)・・・、が順次格納される。
すなわち、短時間露光画像(低感度画像(Ln))と、長時間露光画像(高感度画像(Hn))が順次格納される。
フォーマット2(f2)は、先に図7(2)を参照して説明したフォーマットに対応し、図7(2)の第2フォーマットで第1信号処理部122の処理結果であるYRGB信号を格納する。
時間t0〜t1の期間内で撮像素子102の出力〜メモリ130への格納までの処理が行われる。
(1)撮像素子〜(3)メモリ書き込みまでの処理が、次の撮像素子出力(VIH1)に対して、時間t0〜t1における撮像素子出力(VIL1)に対する処理と同様の処理が実行される。
なお、時間t0〜t1における撮像素子出力(VIL1)と、撮像素子出力(VIH1)は広ダイナミックレンジ画像生成のための画像合成処理の対象となる2つの画像である。
(1)撮像素子〜(3)メモリ書き込みまでの処理が、次の撮像素子出力(VIL2)に対して、時間t0〜t1における撮像素子出力(VIL1)に対する処理と同様の処理が実行される。
図13の(3)メモリ書き込みにおいては、t0〜t1でメモリ書き込みに利用したアドレス(AD1)、t1〜t2でメモリ書き込みに利用したアドレス(AD2)、これらとは異なるアドレス(AD3)のメモリ位置にデータ(f2_L2)が書き込まれる。
図13(4)メモリ読み出し〜(6)撮像装置出力までの処理も行われる。これらの処理は、時間t0〜t1においてメモリに書き込まれたデータ(f2_L1)、時間t1〜t2においてメモリに書き込まれたデータ(f2_H1)に対する処理である。
さらに、図13(4b)メモリ読み出しの欄に示すように、アドレス(AD2o)位置からデータ(f2_H1o)が読み出される。
アドレス(ADn)は、奇数(ODD)フィールドに対応するデータの読み出し用アドレス(ADno)と、偶数(EVEN)フィールドに対応するデータの読み出し用アドレス(ADne)とに分離して利用可能な構成を持つ。
アドレス(AD1o)位置から読み出されるデータ(f2_L1o)は、
短時間露光画像(低感度画像(L))の奇数(ODD)フィールドデータである。
アドレス(AD2o)位置から読み出されるデータ(f2_H1o)は、
長時間露光画像(高感度画像(H))の奇数(ODD)フィールドデータである。
短時間露光画像データ(低感度画像(L))の奇数フィールドデータ(f2_L1o))と、
長時間露光画像データ(高感度画像(H))の奇数フィールドデータ(f2_H1o))、
これらのデータは画像合成部123に出力される。
画像合成部123では、これらの2つの画像を利用した画像合成処理を実行し、広ダイナミックレンジ画像の奇数フィールドに対応する合成画像を生成する。
この最終出力が図13(6)撮像装置出力(WV11o)に相当する。
oは奇数(ODD)フィールド画像、
eは偶数(EVEN)フィールド画像であることを示す。
次の時間(t3〜t4)において、この撮像装置出力(WV11o)に対応する偶数フィールド画像(WV11e)が生成され出力される。
さらに、図13(4b)メモリ読み出しの欄に示すように、アドレス(AD2e)位置からデータ(f2_H1e)が読み出される。
アドレス(AD1e)位置から読み出されるデータ(f2_L1e)は、
短時間露光画像(低感度画像(L))の偶数(EVEN)フィールドデータである。
アドレス(AD2e)位置から読み出されるデータ(f2_H1e)は、
長時間露光画像(高感度画像(H))の偶数(EVEN)フィールドデータである。
短時間露光画像データ(低感度画像(L))の偶数フィールドデータ(f2_L1e))と、
長時間露光画像データ(高感度画像(H))の偶数フィールドデータ(f2_H1e))、
これらのデータは画像合成部123に出力される。
画像合成部123では、これらの2つの画像を利用した画像合成処理を実行し、広ダイナミックレンジ画像の偶数フィールドに対応する合成画像を生成する。
この最終出力が図13(6)撮像装置出力(WV11e)に相当する。
前の時間(t2〜t3)における撮像装置出力(WV11o)に併せて出力され、フレーム画像全体が表示されることになる。
次に、図14を参照してプログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンス第2例の詳細について説明する。
(1)撮像素子102の露光と出力
(2)スイッチa,151aと、スイッチc,151cの設定
(3)メモリ130に対する書き込みアドレスと書き込みデータ
(4a)メモリ130からの読み出しアドレスと読み出しデータ
(4b)メモリ130からの読み出しアドレスと読み出しデータ
(5)スイッチd,151dと、スイッチb,151bの設定
(6)撮像装置100の出力
これらのデータおよび設定を示している。
この並列読み出し処理が(4a),(4b)の処理に対応する。
図13と図14の違いは、(6)撮像装置出力のシーケンスである。
図13を参照して説明した処理では、出力順が、
WV11o,WV11e,WV22o,WV22e・・・
であり、奇数(ODD)フィールド、偶数(EVEN)フィールドの順で出力する構成である。
WV11e,WV11o,WV22e,WV22o・・・
であり、偶数(EVEN)フィールド、奇数(ODD)フィールドの順で出力する構成である。
その他の点は、先に図13を参照して説明した処理と同様である。
次に、図15を参照してプログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンス第3例の詳細について説明する。
時間t2〜t3において、
(4a)データ(f2_L1o)のアドレス(AD1o)からの読み出しと、
(4b)データ(f2_H1o)のアドレス(AD2o)からの読み出し、
これらを実行し、さらに、時間t3〜t4において、
(4a)データ(f2_L1e)のアドレス(AD1e)からの読み出しと、
(4b)データ(f2_H1e)のアドレス(AD2e)からの読み出し<
これらを実行している。
時間t1〜t2において、
(4a)データ(f2_L1e)のアドレス(AD1e)からの読み出しを実行し、
時間t2〜t3において、
(4a)データ(f2_L1o)のアドレス(AD1o)からの読み出しと、
(4b)データ(f2_H1o)のアドレス(AD2o)からの読み出し、
これらを実行し、
次の、時間t3〜t4においては、
(4a)データ(f2_L2e)のアドレス(AD3e)からの読み出しと、
(4b)データ(f2_H1e)のアドレス(AD2e)からの読み出し<
これらを実行している。
時間t1以降におけるメモリからの読み出しデータが図13とは異なり、メモリ格納済みのデータから最新のデータを読み取る設定としている。
ただし、時間t1〜t2では、
(4a)アドレス(AD1e)から短時間露光画像データ(低感度画像(L))(f2_L1e)が読み出されているのみで、長時間露光画像データ(高感度画像(H))の読み出しが実行されていないので、この時間t1〜t2では画像合成処理は実行されない。
(4a)短時間露光画像データ(低感度画像(L))データ(f2_L1o)、
(4b)長/時間露光画像データ(高感度画像(H))データ(f2_H1o)、
これらのデータの合成処理により奇数(ODD)フィールドのみの広ダイナミックレンジ画像の生成が実行される。
この最終出力が図53(6)撮像装置出力(WV11o)に相当する。
次の時間(t3〜t4)における撮像装置出力(WV12e)に併せて出力され、フレーム画像全体が表示されることになる。
さらに、図15(4b)メモリ読み出しの欄に示すように、アドレス(AD2e)位置からデータ(f2_H1e)が読み出される。
アドレス(AD3e)位置から読み出されるデータ(f2_L2e)は、
短時間露光画像(低感度画像(L))の偶数(EVEN)フィールドデータである。
アドレス(AD2e)位置から読み出されるデータ(f2_H1e)は、
長時間露光画像(高感度画像(H))の偶数(EVEN)フィールドデータである。
短時間露光画像データ(低感度画像(L))の偶数フィールドデータ(f2_L2e))と、
長時間露光画像データ(高感度画像(H))の偶数フィールドデータ(f2_H1e))、
これらのデータは画像合成部123に出力される。
画像合成部123では、これらの2つの画像を利用した画像合成処理を実行し、広ダイナミックレンジ画像の偶数フィールドに対応する合成画像を生成する。
この最終出力が図15(6)撮像装置出力(WV12e)に相当する。
前の時間(t2〜t3)における撮像装置出力(WV11o)に併せて出力され、フレーム画像全体が表示されることになる。
この処理により、図15(6)に示すように、WV11o,WV12e,WV22o,WV23o・・・として、インターレース出力が実行される。このように本処理例では、広ダイナミックレンジ化処理に適用する低感度画像と高感度各画像の組合せを、より新しい撮影画像に基づいて生成することを可能としたものである。
次に、図16を参照してプログレッシブ読み出し、インターレース出力における広ダイナミックレンジ画像生成シーケンス第4例の詳細について説明する。
(1)撮像素子102の露光と出力
(2)スイッチa,151aと、スイッチc,151cの設定
(3)メモリ130に対する書き込みアドレスと書き込みデータ
(4a)メモリ130からの読み出しアドレスと読み出しデータ
(4b)メモリ130からの読み出しアドレスと読み出しデータ
(5)スイッチd,151dと、スイッチb,151bの設定
(6)撮像装置100の出力
これらのデータおよび設定を示している。
この並列読み出し処理が(4a),(4b)の処理に対応する。
図15と図16の違いは、(6)撮像装置出力のシーケンスである。
図15を参照して説明した処理では、出力順が、
WV11o,WV12e,WV22o,WV23e・・・
であり、奇数(ODD)フィールド、偶数(EVEN)フィールドの順で出力する構成である。
WV11e,WV12o,WV22e,WV23o・・・
であり、偶数(EVEN)フィールド、奇数(ODD)フィールドの順で出力する構成である。
この出力順の変更に伴い、(4)メモリ読み出しの順番も変更される。すなわち。偶数(EVEN)フィールドデータと奇数(ODD)フィールドデータの読み出し順が図15と図16では入れ替わっている。
その他の点は、先に図15を参照して説明した処理と同様である。
次に、図17を参照してプログレッシブ読み出し、プログレッシブ出力における通常画像生成と広ダイナミックレンジ画像生成の切り替えシーケンスについて説明する。
(4−A)プログレッシブ読み出し、プログレッシブ出力における通常画像生成シーケンス(図8)
(4−B)プログレッシブ読み出し、プログレッシブ出力における広ダイナミックレンジ画像生成シーケンス(例1)(図9)
上記(A),(B)の処理を切り替える処理である。
(1)撮像素子102の露光と出力
(2)スイッチa,151aと、スイッチc,151cの設定
(3)メモリ130に対する書き込みアドレスと書き込みデータ
(4a)メモリ130からの読み出しアドレスと読み出しデータ
(4b)メモリ130からの読み出しアドレスと読み出しデータ
(5)スイッチd,151dと、スイッチb,151bの設定
(6)撮像装置100の出力
これらのデータおよび設定を示している。
時間t0〜t6の処理は、先に図8を参照して説明した処理、すなわち、
(4−A)プログレッシブ読み出し、プログレッシブ出力における通常画像生成シーケンス
この処理と同一の処理が行われる。図17の(1)撮像素子露光/出力〜(6)撮像装置出力に示す設定は、図8に示すt0〜t6の処理における設定と同じ設定である。
なお、前述したように、これらのモード切り替え処理は、例えばマイコン(制御部)105の撮影画像の解析結果に基づく自動制御、あるいは入力部106を介するユーザ指示に基づいて行われる。
通常動作から広ダイナミックレンジ動作への切換え処理に際して、マイコン(制御部)105は以下のようなスイッチ制御を行う。
まず、メモリ130の入力部のスイッチであるスイッチ151cのみをW側に切換える。時間Ta(=t6)〜Tb(=t8)の期間のスイッチ設定である。
時間t6〜t7において、アドレス(AD3)に従って短時間露光画像(低感度画像(L))データ(f2_L1)が書き込まれる。
時間t7〜t8において、アドレス(AD4)に従って長時間露光画像(高感度画像(H))データ(f2_H1)が書き込まれる。
この時間Tb(=t8)において、通常モードから広ダイナミックレンジモードへの切り替えを完了する。
ダイナミックレンジ画像の生成に必要な画像がメモリ130に格納された後、すなわちジカンTb(=t8)において、メモリ130からの出力やその他の処理部の接続をダイナミックレンジモードの設定(W側接続)に変更する。
(4−B)プログレッシブ読み出し、プログレッシブ出力における広ダイナミックレンジ画像生成シーケンス(例1)
この処理と同じ処理が行われる。図17の時間時間Tb(=t8)〜Tc(=t14)の(1)撮像素子露光/出力〜(6)撮像装置出力に示す処理は、図9に示すt0〜t6の処理と同様の処理である。
なお、前述したように、これらのモード切り替え処理は、例えばマイコン(制御部)105の撮影画像の解析結果に基づく自動制御、あるいは入力部106を介するユーザ指示に基づいて行われる。
広ダイナミックレンジ動作から通常動作への切換え処理に際して、マイコン(制御部)105は以下のようなスイッチ制御を行う。
まず、メモリ130の入力部のスイッチであるスイッチ151cのみをN側に切換える。時間Tc(=t14)〜Td(=t15)の期間のスイッチ設定である。
時間Tc(=t14)〜Td(=t15)において、アドレス(AD1)には、メモリ130からのデータ読み出し用アドレスは、直前の時間t13〜t14の読み出しアドレス(AD3)、(AD4)と同じアドレスを継続させる。この同じ読み出しアドレスを適用したデータ読み出し処理によってこの期間の出力は(6)撮像装置出力に示す(WV33)の広ダイナミックレンジ画像の出力が継続されていてスイッチa,151aがW側になっていて画像合成部123にて広ダイナミックレンジ画像(WV33)が生成され、γ補正部124、第2信号処理部125の処理結果としてのフォーマット1形式の広ダイナミックレンジ画像のデータ(f1_WV33)がスイッチc、151cを介してがメモリ130に書き込まれる。
この時間Td(=t15)〜Te(=t16)において、広ダイナミックレンジモードの画像が出て、Te(=t16)において、広ダイナミックレンジモードから通常モードへの切り替えを完了する。
図20に示すように、このような制御を行うと、モード切り替え後の一定期間、メモリ読み出しエラー、あるいは撮像装置出力エラーが発生することになる。
すなわちマイコン(制御部)105は、エラーのないアドレスとデータとの対応付けを維持するようにメモリへのデータ書き込み、読み出しを制御する。
また、広ダイナミックレンジ動作時には、画像合成部において長時間露光画像(高感度画像)と短時間露光画像(低感度画像)の2枚の画像に基づく合成画像が生成される。この画像合成に際しては、2つの画像の画素値に対して1より小さい値を乗算し加算する画素値設定による合成処理が行われる。この合成処理により各画像の分解能不足が補間され広ダイナミックレンジ化された画像が生成される。
通常画像生成モードでは、YCbCr信号を、図6(1a)に示す8ビット輝度信号(Y)2画素に対して8ビット色信号(Cb,Cr)1ペアの422形式の信号、あるいは、図6(1b)に示す輝度信号(Y)4画素に対して、色信号(Cr,Cb)1ペアの411形式のデータ形式(データフォーマット1(=f1))で格納する。
また、通常画像生成モードと広ダイナミックレンジ画像生成モードとの切り替え時にロモリ入力データを先行して切り替えることで、出力画像を途切れさせることのないスムーズなモード遷移が実現される。
11 レンズ
12 撮像素子
13 アナログフロントエンド
14 タイミングジェネレータ(TG)
15 マイコン(制御部)
16 入力部
20 信号処理部
21 YRGB生成部
22 第1信号処理部
23 メモリ
24 画像合成部(WDR合成)
25 画像補正部(γ補正)
26 第2信号処理部
100 撮像装置
101 レンズ
102 撮像素子
103 アナログフロントエンド
104 タイミングジェネレータ(TG)
105 マイコン(制御部)
106 入力部
120 信号処理部
121 YRGB生成部
122 第1信号処理部
123 画像合成部(WDR合成)
124 画像補正部(γ補正)
125 第2信号処理部
126 第3信号処理部
130 メモリ
151a〜d スイッチ
Claims (13)
- 撮像信号を格納するメモリと、
メモリに格納された画像信号を入力して画像合成処理を実行して広ダイナミックレンジ画像を生成する画像合成部と、
γ補正処理による信号変換処理を実行する画像補正部と、
メモリに対する入出力経路の切り替えを伴う信号経路制御を実行する制御部を有し、
前記制御部は、
前記画像合成部における画像合成処理を実行しない通常画像生成時には、前記画像補正部による補正後の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行し、
前記画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時には、前記画像補正部による補正前の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行する撮像装置。 - 前記撮像装置は、
撮像素子からの出力信号に対する信号処理を実行する第1信号処理部を有し、
前記第1信号処理部は、
輝度信号(Y)9ビット、
色信号(R,G,B)について、(G)10ビット、(R),(B)各々9ビット、
上記設定とした輝度(Y)4に対して色信号(R,G,B)各1の比率を持つフォーマット(f2)に従った信号を出力し、
前記制御部は、
前記画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時に、前記フォーマット(f2)に従った信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行する請求項1に記載の撮像装置。 - 前記撮像装置は、
前記画像補正部の出力信号を入力して信号処理を実行する第2信号処理部を有し、
前記第2信号処理部は、
輝度信号(Y)8ビット、
色差信号(Cb,Cr)について、(Cb),(Cr)各々8ビット、
上記設定とした輝度(Y)4に対して色差信号(Cb,Cr)各2の比率、または、輝度(Y)4に対して色差信号(Cb,Cr)各1の比率を持つフォーマット(f1)に従った信号を出力し、
前記制御部は、
前記画像合成部における画像合成処理を実行しない通常画像生成時に、前記フォーマット(f1)に従った信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行する請求項1または2に記載の撮像装置。 - 前記制御部は、
前記画像合成部における画像合成処理を実行しない通常画像生成時には、
撮像素子の出力信号を、前記第1信号処理部から前記画像補正部、さらに前記第2信号処理部と、前記メモリを経由して、撮像装置出力を生成する第3信号処理部へ入力する信号経路を設定する制御を行う請求項3に記載の撮像装置。 - 前記制御部は、
前記画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時には、
撮像素子の出力信号を、前記第1信号処理部から前記メモリ、さらに、メモリ読み出し信号を前記画像合成部に入力し、さらに、前記画像補正部と、前記第2信号処理部を経由して、撮像装置出力を生成する第3信号処理部へ入力する信号経路を設定する制御を行う請求項3または4に記載の撮像装置。 - 前記制御部は、
前記画像合成部における画像合成処理を実行しない通常画像生成時には、
2つのメモリアドレスを交互に利用して通常画像を順次メモリへ書き込み、書き込みアドレス以外のアドレスを利用して書き込みデータをメモリから読み出す処理を実行させる制御を行う請求項1〜5いずれかに記載の撮像装置。 - 前記制御部は、
前記画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時には、
4つのメモリアドレスを順次利用して長時間露光画像(光感度画像)と短時間露光画像(低感度画像)を順次メモリへ書き込み、書き込みアドレス以外のアドレスを利用して、長時間露光画像(光感度画像)と短時間露光画像(低感度画像)をメモリから並列に読み出す処理を実行させる制御を行う請求項1〜6いずれかに記載の撮像装置。 - 前記制御部は、
通常画像生成処理モードと広ダイナミックレンジ画像生成処理モードとの切り替え処理時に、
前記メモリに対する入力データを切り替え後のモードに対応するデータを入力し、
前記メモリからの出力データを切り替え前のモードに対応するデータを出力する設定とした遷移期間を設けて、該遷移期間の経過後、前記メモリからの出力データを切り替え後のモードに対応するデータを出力する設定とする制御を行う請求項1〜7いずれかに記載の撮像装置。 - 前記制御部は、
切り替え後モードが広ダイナミックレンジ画像生成処理モードである場合、前記遷移期間を広ダイナミックレンジ画像の生成に必要な長時間露光画像(光感度画像)と短時間露光画像(低感度画像)の格納が終了するまでの期間とし、
切り替え後モードが通常画像生成処理モードである場合、前記遷移期間を通常画像の生成に必要な画像の格納が終了するまでの期間とする制御を行う請求項8に記載の撮像装置。 - 前記制御部は、
メモリ格納データの垂直反転処理に対応したアドレス設定処理を実行する場合、
通常画像生成処理モードと広ダイナミックレンジ画像生成処理モードとの切り替え処理時に、アドレスとデータとの対応関係を維持したアドレス設定制御を行う請求項8または9に記載の撮像装置。 - 撮像信号を格納するメモリと、
メモリに格納された画像信号を入力して画像合成処理を実行して広ダイナミックレンジ画像を生成する画像合成部と、
γ補正処理による信号変換処理を実行する画像補正部と、
メモリに対する入出力経路の切り替えを伴う信号経路制御を実行する制御部を有し、
前記制御部は、
前記画像合成部における画像合成処理を実行しない通常画像生成時には、前記画像補正部による補正後の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行し、
前記画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時には、前記画像補正部による補正前の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行する画像処理装置。 - 画像処理装置において実行する信号処理方法であり、
前記画像処理装置は、
メモリに格納された画像信号を入力して画像合成処理を実行して広ダイナミックレンジ画像を生成する画像合成部と、
γ補正処理による信号変換処理を実行する画像補正部と、
メモリに対する入出力経路の切り替えを伴う信号経路制御を実行する制御部を有し、
前記制御部は、
前記画像合成部における画像合成処理を実行しない通常画像生成時には、前記画像補正部による補正後の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行し、
前記画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時には、前記画像補正部による補正前の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行する信号処理方法。 - 画像処理装置において信号処理制御を実行させるプログラムであり、
前記画像処理装置は、
メモリに格納された画像信号を入力して画像合成処理を実行して広ダイナミックレンジ画像を生成する画像合成部と、
γ補正処理による信号変換処理を実行する画像補正部と、
メモリに対する入出力経路の切り替えを伴う信号経路制御を実行する制御部を有し、
前記プログラムは、前記制御部に、
前記画像合成部における画像合成処理を実行しない通常画像生成時には、前記画像補正部による補正後の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行させ、
前記画像合成部における画像合成処理を実行する広ダイナミックレンジ画像生成時には、前記画像補正部による補正前の信号を前記メモリに対する書き込み読み出し信号として設定する信号経路制御を実行させるプログラム。
Priority Applications (8)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010193692A JP5617445B2 (ja) | 2010-08-31 | 2010-08-31 | 撮像装置、および信号処理方法、並びにプログラム |
TW100129378A TW201223268A (en) | 2010-08-31 | 2011-08-17 | Imaging apparatus, signal processing method, and program |
EP11178434.4A EP2424228A3 (en) | 2010-08-31 | 2011-08-23 | Imaging apparatus, signal processing unit and method , and program |
KR1020110083961A KR20120024448A (ko) | 2010-08-31 | 2011-08-23 | 촬상 장치, 신호 처리 방법 및 프로그램 |
RU2011135245/08A RU2538308C2 (ru) | 2010-08-31 | 2011-08-23 | Устройство формирования изображения, способ обработки сигналов и программа |
CN2011102514824A CN102387291A (zh) | 2010-08-31 | 2011-08-24 | 成像设备、信号处理方法和程序 |
BRPI1104778-0A BRPI1104778A2 (pt) | 2010-08-31 | 2011-08-24 | unidade de processamento de sinal, e, sistema de processamento de sinal de imagem |
US13/218,540 US8699827B2 (en) | 2010-08-31 | 2011-08-26 | Imaging apparatus, signal processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010193692A JP5617445B2 (ja) | 2010-08-31 | 2010-08-31 | 撮像装置、および信号処理方法、並びにプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2012054661A true JP2012054661A (ja) | 2012-03-15 |
JP2012054661A5 JP2012054661A5 (ja) | 2013-09-12 |
JP5617445B2 JP5617445B2 (ja) | 2014-11-05 |
Family
ID=44651160
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010193692A Expired - Fee Related JP5617445B2 (ja) | 2010-08-31 | 2010-08-31 | 撮像装置、および信号処理方法、並びにプログラム |
Country Status (8)
Country | Link |
---|---|
US (1) | US8699827B2 (ja) |
EP (1) | EP2424228A3 (ja) |
JP (1) | JP5617445B2 (ja) |
KR (1) | KR20120024448A (ja) |
CN (1) | CN102387291A (ja) |
BR (1) | BRPI1104778A2 (ja) |
RU (1) | RU2538308C2 (ja) |
TW (1) | TW201223268A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019118058A (ja) * | 2017-12-27 | 2019-07-18 | キヤノン株式会社 | 電子機器 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012049891A (ja) * | 2010-08-27 | 2012-03-08 | Sony Corp | 撮像装置、および信号処理方法、並びにプログラム |
CN105376490B (zh) * | 2015-11-19 | 2019-03-12 | 浙江宇视科技有限公司 | 一种模式切换方法、装置及使用模式切换方法的终端设备 |
JP7332399B2 (ja) * | 2019-09-06 | 2023-08-23 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
US11196937B2 (en) * | 2019-11-25 | 2021-12-07 | Qualcomm Incorporated | High frame rate in high dynamic range processing |
CN113160093B (zh) * | 2021-05-24 | 2022-07-01 | 杭州国芯科技股份有限公司 | 一种图像的自适应宽动态模式调节方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002369075A (ja) * | 2001-06-04 | 2002-12-20 | Olympus Optical Co Ltd | 撮像装置および画像処理装置並びに撮像プログラムおよび画像処理プログラム |
JP2003018457A (ja) * | 2001-06-29 | 2003-01-17 | Toshiba Corp | 撮像装置及び映像信号処理方法 |
JP2003264738A (ja) * | 2002-03-07 | 2003-09-19 | Olympus Optical Co Ltd | デジタルカメラ |
JP2007201985A (ja) * | 2006-01-30 | 2007-08-09 | Matsushita Electric Ind Co Ltd | 広ダイナミックレンジ撮像装置 |
JP2008277894A (ja) * | 2007-04-25 | 2008-11-13 | Matsushita Electric Ind Co Ltd | 撮像装置、撮像方法および集積回路 |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4297579A (en) * | 1979-06-15 | 1981-10-27 | Bodenseewerk Geosystem Gmbh | Bi-frequency infrared spectrometer |
JPH0813120B2 (ja) * | 1987-04-30 | 1996-02-07 | 株式会社日立製作所 | 静止画再生可能な映像信号処理回路 |
JP2880168B2 (ja) * | 1988-04-25 | 1999-04-05 | 株式会社日立製作所 | 拡大表示可能な映像信号処理回路 |
US4876651A (en) * | 1988-05-11 | 1989-10-24 | Honeywell Inc. | Digital map system |
DE8901560U1 (ja) * | 1988-11-04 | 1990-03-15 | Grote & Hartmann Gmbh & Co Kg, 5600 Wuppertal, De | |
KR100202566B1 (ko) * | 1996-03-25 | 1999-06-15 | 구자홍 | 칼라영상의 선명도 향상장치 |
US6603885B1 (en) * | 1998-04-30 | 2003-08-05 | Fuji Photo Film Co., Ltd. | Image processing method and apparatus |
JP4282113B2 (ja) * | 1998-07-24 | 2009-06-17 | オリンパス株式会社 | 撮像装置および撮像方法、並びに、撮像プログラムを記録した記録媒体 |
WO2000016260A1 (fr) * | 1998-09-11 | 2000-03-23 | Sony Corporation | Processeur de donnees et procede de conversion de sequences de donnees |
US6825884B1 (en) * | 1998-12-03 | 2004-11-30 | Olympus Corporation | Imaging processing apparatus for generating a wide dynamic range image |
RU2273109C2 (ru) * | 2000-09-07 | 2006-03-27 | Сони Корпорейшн | Способ и устройство обработки информации, программа и носитель записи |
JP4267848B2 (ja) * | 2001-09-25 | 2009-05-27 | 株式会社リコー | 画像符号化装置、画像復号装置、画像符号化方法、及び、画像復号方法 |
JP2003264739A (ja) * | 2002-03-07 | 2003-09-19 | Olympus Optical Co Ltd | デジタルカメラ |
US7184590B2 (en) * | 2002-07-17 | 2007-02-27 | Lockheed Martin Corporation | Algorithm selector |
US7543327B1 (en) * | 2003-11-21 | 2009-06-02 | Arecont Vision Llc | Video surveillance system based on high resolution network cameras capable of concurrent transmission of multiple image formats at video rates |
JP2008015741A (ja) * | 2006-07-05 | 2008-01-24 | Konica Minolta Holdings Inc | 画像処理装置、画像処理方法及びこれを用いた撮像装置 |
JP4973115B2 (ja) | 2006-10-16 | 2012-07-11 | ソニー株式会社 | 固体撮像装置、固体撮像装置の駆動方法および撮像装置 |
JP4806329B2 (ja) * | 2006-10-23 | 2011-11-02 | 三洋電機株式会社 | 撮像装置及び撮像方法 |
JP4905187B2 (ja) | 2007-03-09 | 2012-03-28 | ソニー株式会社 | 画像処理装置、撮像装置、および画像処理方法、並びにコンピュータ・プログラム |
JP4424403B2 (ja) * | 2007-09-28 | 2010-03-03 | ソニー株式会社 | 撮像装置、撮像方法及び撮像プログラム |
US8189008B2 (en) * | 2007-12-13 | 2012-05-29 | Daniel John Julio | Color control intuitive touchpad |
JP5006814B2 (ja) * | 2008-02-26 | 2012-08-22 | キヤノン株式会社 | 撮像装置 |
US8166084B2 (en) * | 2009-03-27 | 2012-04-24 | Intersil Americas Inc. | Calibration of adjustable filters |
US8107315B2 (en) * | 2010-03-22 | 2012-01-31 | Elite Semiconductor Memory Technology Inc. | Double data rate memory device having data selection circuit and data paths |
-
2010
- 2010-08-31 JP JP2010193692A patent/JP5617445B2/ja not_active Expired - Fee Related
-
2011
- 2011-08-17 TW TW100129378A patent/TW201223268A/zh unknown
- 2011-08-23 RU RU2011135245/08A patent/RU2538308C2/ru not_active IP Right Cessation
- 2011-08-23 KR KR1020110083961A patent/KR20120024448A/ko not_active Application Discontinuation
- 2011-08-23 EP EP11178434.4A patent/EP2424228A3/en not_active Withdrawn
- 2011-08-24 BR BRPI1104778-0A patent/BRPI1104778A2/pt not_active IP Right Cessation
- 2011-08-24 CN CN2011102514824A patent/CN102387291A/zh active Pending
- 2011-08-26 US US13/218,540 patent/US8699827B2/en not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002369075A (ja) * | 2001-06-04 | 2002-12-20 | Olympus Optical Co Ltd | 撮像装置および画像処理装置並びに撮像プログラムおよび画像処理プログラム |
JP2003018457A (ja) * | 2001-06-29 | 2003-01-17 | Toshiba Corp | 撮像装置及び映像信号処理方法 |
JP2003264738A (ja) * | 2002-03-07 | 2003-09-19 | Olympus Optical Co Ltd | デジタルカメラ |
JP2007201985A (ja) * | 2006-01-30 | 2007-08-09 | Matsushita Electric Ind Co Ltd | 広ダイナミックレンジ撮像装置 |
JP2008277894A (ja) * | 2007-04-25 | 2008-11-13 | Matsushita Electric Ind Co Ltd | 撮像装置、撮像方法および集積回路 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019118058A (ja) * | 2017-12-27 | 2019-07-18 | キヤノン株式会社 | 電子機器 |
Also Published As
Publication number | Publication date |
---|---|
JP5617445B2 (ja) | 2014-11-05 |
EP2424228A2 (en) | 2012-02-29 |
BRPI1104778A2 (pt) | 2013-01-22 |
US8699827B2 (en) | 2014-04-15 |
US20120051630A1 (en) | 2012-03-01 |
EP2424228A3 (en) | 2013-05-01 |
CN102387291A (zh) | 2012-03-21 |
KR20120024448A (ko) | 2012-03-14 |
TW201223268A (en) | 2012-06-01 |
RU2538308C2 (ru) | 2015-01-10 |
RU2011135245A (ru) | 2013-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2013145487A1 (ja) | 画像処理装置、撮像素子、および画像処理方法、並びにプログラム | |
JP5617445B2 (ja) | 撮像装置、および信号処理方法、並びにプログラム | |
JP2006352715A (ja) | デジタルカメラ、及びその露出制御方法 | |
JP5480025B2 (ja) | 撮像装置、撮像システム、撮像方法 | |
JP2007235591A (ja) | カメラ装置の制御方法及びこれを用いたカメラ装置 | |
JP2013026722A (ja) | 画像処理装置 | |
JP2006261929A (ja) | 撮像装置 | |
JP4317117B2 (ja) | 固体撮像装置および撮像方法 | |
JP6118118B2 (ja) | 撮像装置およびその制御方法 | |
JP5820720B2 (ja) | 撮像装置 | |
JP3988760B2 (ja) | 固体撮像装置 | |
JP2001078210A (ja) | 固体撮像装置および信号読出し方法 | |
JP6771944B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP2004260265A (ja) | 画素の折り返し機能を有する画素抽出回路、および撮像装置 | |
JP5633518B2 (ja) | データ処理装置 | |
JP4836500B2 (ja) | デジタルカメラ、及びその画像処理方法 | |
JP3983500B2 (ja) | データ変換回路およびデジタル・カメラ | |
JP4195148B2 (ja) | 固体撮像装置および信号読出し方法 | |
JP3967500B2 (ja) | 固体撮像装置および信号読出し方法 | |
JP2006352716A (ja) | 撮像装置及び撮像方法 | |
JP2006041867A (ja) | 画像処理方法および画像処理装置並びに撮像装置およびタイミング制御装置 | |
JP2000299810A (ja) | 撮像装置 | |
JP2005117276A (ja) | 撮像装置 | |
JP2007013275A (ja) | 撮像装置及び撮像方法 | |
JP2007336092A (ja) | 撮像装置、撮像方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130731 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130731 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140313 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140401 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140523 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140819 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140901 |
|
LAPS | Cancellation because of no payment of annual fees |