JP7439856B2 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP7439856B2 JP7439856B2 JP2022075764A JP2022075764A JP7439856B2 JP 7439856 B2 JP7439856 B2 JP 7439856B2 JP 2022075764 A JP2022075764 A JP 2022075764A JP 2022075764 A JP2022075764 A JP 2022075764A JP 7439856 B2 JP7439856 B2 JP 7439856B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- imaging condition
- pixel
- area
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 1206
- 238000012937 correction Methods 0.000 claims description 406
- 238000001514 detection method Methods 0.000 claims description 162
- 230000003287 optical effect Effects 0.000 claims description 39
- 238000012545 processing Methods 0.000 description 474
- 238000000034 method Methods 0.000 description 273
- 230000008569 process Effects 0.000 description 266
- 230000000875 corresponding effect Effects 0.000 description 60
- 238000010586 diagram Methods 0.000 description 53
- 230000035945 sensitivity Effects 0.000 description 50
- 238000006243 chemical reaction Methods 0.000 description 48
- 230000004048 modification Effects 0.000 description 42
- 238000012986 modification Methods 0.000 description 42
- 238000004364 calculation method Methods 0.000 description 31
- 238000004891 communication Methods 0.000 description 21
- 238000007781 pre-processing Methods 0.000 description 21
- 230000035508 accumulation Effects 0.000 description 19
- 238000009825 accumulation Methods 0.000 description 19
- 230000007547 defect Effects 0.000 description 13
- 238000005375 photometry Methods 0.000 description 12
- 230000009467 reduction Effects 0.000 description 12
- 230000007423 decrease Effects 0.000 description 11
- 238000012546 transfer Methods 0.000 description 11
- 239000004065 semiconductor Substances 0.000 description 8
- 238000003860 storage Methods 0.000 description 8
- 238000013459 approach Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 239000002131 composite material Substances 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000015654 memory Effects 0.000 description 5
- 210000001747 pupil Anatomy 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000003595 spectral effect Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 238000002161 passivation Methods 0.000 description 3
- 241001465754 Metazoa Species 0.000 description 2
- 230000004397 blinking Effects 0.000 description 2
- 210000000887 face Anatomy 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 2
- 230000012447 hatching Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000002184 metal Substances 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- PCTMTFRHKVHKIS-BMFZQQSSSA-N (1s,3r,4e,6e,8e,10e,12e,14e,16e,18s,19r,20r,21s,25r,27r,30r,31r,33s,35r,37s,38r)-3-[(2r,3s,4s,5s,6r)-4-amino-3,5-dihydroxy-6-methyloxan-2-yl]oxy-19,25,27,30,31,33,35,37-octahydroxy-18,20,21-trimethyl-23-oxo-22,39-dioxabicyclo[33.3.1]nonatriaconta-4,6,8,10 Chemical compound C1C=C2C[C@@H](OS(O)(=O)=O)CC[C@]2(C)[C@@H]2[C@@H]1[C@@H]1CC[C@H]([C@H](C)CCCC(C)C)[C@@]1(C)CC2.O[C@H]1[C@@H](N)[C@H](O)[C@@H](C)O[C@H]1O[C@H]1/C=C/C=C/C=C/C=C/C=C/C=C/C=C/[C@H](C)[C@@H](O)[C@@H](C)[C@H](C)OC(=O)C[C@H](O)C[C@H](O)CC[C@@H](O)[C@H](O)C[C@H](O)C[C@](O)(C[C@H](O)[C@H]2C(O)=O)O[C@H]2C1 PCTMTFRHKVHKIS-BMFZQQSSSA-N 0.000 description 1
- 241000282472 Canis lupus familiaris Species 0.000 description 1
- 241000196324 Embryophyta Species 0.000 description 1
- 241000282326 Felis catus Species 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004737 colorimetric analysis Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 150000004767 nitrides Chemical class 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Landscapes
- Studio Devices (AREA)
- Exposure Control For Cameras (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Automatic Focus Adjustment (AREA)
Description
従来から画像の画質向上が要求されていた。
第1の実施の形態による画像処理装置を搭載する電子機器の一例として、デジタルカメラを例に挙げて説明する。カメラ1(図1)は、撮像素子32aにおける撮像面の領域ごとに異なる条件で撮像を行うことが可能に構成される。画像処理部33は、撮像条件が異なる領域においてそれぞれ適切な処理を行う。このようなカメラ1の詳細について、図面を参照して説明する。
図1は、第1の実施の形態によるカメラ1の構成を例示するブロック図である。図1において、カメラ1は、撮像光学系31と、撮像部32と、画像処理部33と、制御部34と、表示部35と、操作部材36と、記録部37とを有する。
上述した撮像素子32aの一例として積層型の撮像素子100について説明する。図2は、撮像素子100の断面図である。撮像素子100は、撮像チップ111と、信号処理チップ112と、メモリチップ113とを備える。撮像チップ111は、信号処理チップ112に積層されている。信号処理チップ112は、メモリチップ113に積層されている。撮像チップ111および信号処理チップ112、信号処理チップ112およびメモリチップ113は、それぞれ接続部109により電気的に接続されている。接続部109は、たとえばバンプや電極である。撮像チップ111は、被写体からの光像を撮像して画像データを生成する。撮像チップ111は、画像データを撮像チップ111から信号処理チップ112へ出力する。信号処理チップ112は、撮像チップ111から出力された画像データに対して信号処理を施す。メモリチップ113は、複数のメモリを有し、画像データを記憶する。なお、撮像素子100は、撮像チップおよび信号処理チップで構成されてもよい。撮像素子100が撮像チップおよび信号処理チップで構成されている場合、画像データを記憶するための記憶部は、信号処理チップに設けられてもよいし、撮像素子100とは別に設けていてもよい。
本実施の形態では、撮像素子32aにおける複数のブロックごとに撮像条件を設定可能に構成される。制御部34の撮像制御部34cは、上記複数の領域を上記ブロックに対応させて、領域ごとに設定された撮像条件で撮像を行わせる。
制御部34は、ライブビュー画像に基づき、以下のようにライブビュー画像の画面を複数の領域に分割する。先ず、物体検出部34aによってライブビュー画像から被写体要素を検出する。被写体要素の検出は、公知の被写体認識技術を用いる。図5の例では、物体検出部34aが、人物61aと、自動車62aと、バッグ63aと、山64aと、雲65aと、雲66aとを被写体要素として検出する。
なお、上述の説明では、制御部34は、撮像素子32aで撮像して得られたライブビュー画像を用いて被写体要素の検出および領域の分割を行った。しかし、たとえば一眼レフカメラのように、被写体像を撮像可能な測光センサを備えたカメラであれば、制御部34は、測光センサで撮像して得られたライブビュー画像を用いて被写体要素の検出および領域の分割を行ってもよい。
制御部34は、設定部34bによって画面を複数の領域に分割すると、図6に例示するような設定画面を表示部35に表示させる。図6において、ライブビュー画像60aが表示され、ライブビュー画像60aの右側に撮像条件の設定画面70が表示される。
以降の説明では、タッチ操作を前提としてカメラ1の説明を行うが、操作部材36を構成するボタン等の操作により、撮像条件の設定(変更)を行うようにしてもよい。
強調表示されていない領域(第1領域61以外の他の領域)については、後述するように一部のブロックを除いて、設定されている撮像条件が維持される。
設定部34bは、少なくとも一部の領域についての撮像条件が上述のように他の領域の撮像条件と異なるように設定された場合には、領域の境界を含むブロックの撮像条件を次のように設定する。
図7(a)は、ライブビュー画像60aにおける人物に対応する第1領域61と山に対応する第4領域64との境界を含む所定範囲80を例示する図である。図7(b)は、図7(a)の所定範囲80を拡大した図である。図7(b)において、所定範囲80に複数のブロック81~89が含まれている。
図7(b)の白地部は、人物に対応する部分を示す。また、図7(b)の斜線部および網掛け部は、山に対応する部分を示す。ブロック82、ブロック85、およびブロック87には、第1領域61と第4領域64との境界B1が含まれている。すなわち、図7(b)では、山に対応する部分のうち、境界B1が存在するブロック82、85、87内の山に対応する部分が斜線が施されている。
なお、以上のように、第7撮像条件として、ISO感度やシャッター速度を、第1撮像条件と第4撮像条件との間の値に設定する場合に、第1撮像条件と第4撮像条件とのちょうど中間の値に設定してもよい。
上述したように、たとえば、境界ブロックに関わる二つの領域のそれぞれの撮像条件の差がアペックス値で0.3段程度以下である場合にはその二つの領域の撮像条件を同一の撮像条件とみなす。したがって、境界ブロックに関わる複数の領域のそれぞれの撮像条件が、このようなアペックス値で0.3段程度のばらつきの範囲内で異なっている場合には、境界ブロックの撮像条件は、このばらつきの範囲内のいずれの撮像条件に設定してもよい。
たとえば、顔認識によって顔を認識することができた場合、境界ブロックの撮像条件は、認識できた顔が属する領域についての主ブロックに設定された撮像条件に近づけることが望ましい。
画像処理部33の補正部33bは、画像処理、焦点検出処理、被写体検出(被写体要素の検出)処理、および撮像条件を設定する処理の前に行う前処理の1つとして、第1補正処理を行う。
そこで、本実施の形態では、境界ブロックに属する画素からの信号に対して以下に述べる補正処理を行うことで、主ブロックにおける撮像条件と同じ撮像条件で撮像した場合と同様の信号を得る。この補正処理を第1補正処理と呼ぶ。第1補正処理は、同じ領域内で撮像条件が異なる部分が存在することに起因して、画像処理後の画像に生じる不連続性を緩和するために行う。
そこで、補正部33bは、画素82a、画素82bおよび画素82cからの信号に対して、人物61aからの被写体光を第1撮像条件で撮像した場合と同様の信号を得られるように第1補正処理を行う。
同様に、境界ブロック82の画素82dは、第7撮像条件によって山64aからの被写体光を撮像している。一方、第4領域64についての主ブロックであるブロック83、ブロック86、ブロック88およびブロック89の各画素では、第4撮像条件によって山64aからの被写体光を撮像している。
そこで、補正部33bは、画素82dからの信号に対して、山64aからの被写体光を第4撮像条件で撮像した場合と同様の信号を得られるように第1補正処理を行う。
また、補正部33bは、第1補正処理として、画素82dからのフレームレート45fpsのフレーム画像の信号をフレームレート60fpsのフレーム画像の信号に変換する。このフレームレートの変換は、たとえば画素82dから相前後して読み出されたフレーム画像信号を合成することによって、すなわち、前後のフレーム画像信号に基づき、新たなフレーム画像信号を補間算出することによって、フレーム画像信号の数を増大して行われる。
上述したように、撮像条件に多少の差違があっても同一の撮像条件とみなす。
なお、境界ブロックや境界ブロックの近隣の主ブロックで撮像して得られた画像データに対してシャープネスやコントラストを下げるような画像処理を行うことで、画像に生じる不連続性を緩和できるのであれば、第1補正処理を行わなくてもよい。
画像処理部33の補正部33bはさらに、画像処理、焦点検出処理、被写体検出(被写体要素を検出)処理、および撮像条件を設定する処理の前に、以下の第2補正処理を必要に応じて行う。なお、補正部33bは、上述したように必要に応じて行われた第1補正処理の後に第2の補正処理を行う。
なお、第2補正処理では、第1補正処理によって補正された境界ブロックの画素からの信号は、境界ブロックに設定された撮像条件ではなく、主ブロックに設定された撮像条件が適用されて撮像されて得られた信号として処理される。たとえば、第2補正処理を行う際には、第1補正処理によって補正された境界ブロック82の画素82a、画素82bおよび画素82cからの信号は、第7撮像条件ではなく第1撮像条件が適用されて撮像されて得られた信号として補正部33bで処理される。同様に、第1補正処理によって補正された境界ブロック82の画素82dからの信号は、第7撮像条件ではなく第4撮像条件が適用されて撮像されて得られた信号として補正部33bで処理される。
画像処理部33の補正部33bは、分割した領域間で異なる撮像条件を適用して取得された画像データに対する画像処理が所定の画像処理である場合において、領域の境界部に位置する画像データに対し、画像処理の前処理として第2補正処理を行う。所定の画像処理は、画像において処理対象とする注目位置の画像データを、注目位置の周囲の複数の参照位置の画像データを参照して算出する処理であり、たとえば、画素欠陥補正処理、色補間処理、輪郭強調処理、ノイズ低減処理などが該当する。
なお、以下の説明では、参照画素Pr1~Pr8を総称する場合に符号Prを付与する。
画像処理部33の補正部33bは、たとえば、第1撮像条件と第4撮像条件との間でISO感度のみが異なり、第1撮像条件のISO感度が100で、第4撮像条件のISO感度が800の場合、参照画素Prの画像データのうちの第4撮像条件の参照画素Pr7、Pr8の画像データに対し、第2補正処理として100/800を掛ける。これにより、撮像条件の相違による画像データ間の差異を小さくする。
なお、注目画素Pへの入射光量と参照画素Prへの入射光量とが同じ場合には画像データの差異が小さくなるが、もともと注目画素Pへの入射光量と参照画素Prへの入射光量とが異なっている場合などには、画像データの差異が小さくならない場合もある。後述する例も同様である。
画像処理部33の補正部33bは、たとえば、第1撮像条件と第4撮像条件との間でシャッター速度のみが異なり、第1撮像条件のシャッター速度が1/1000秒で、第4撮像条件のシャッター速度が1/100秒の場合、参照画素Prの画像データのうちの第4撮像条件の参照画素Pr7、Pr8の画像データに対し、第2補正処理として(1/1000)/(1/100)=1/10を掛ける。これにより、撮像条件の相違による画像データ間の差異を小さくする。
画像処理部33の補正部33bは、たとえば、第1撮像条件と第4撮像条件との間でフレームレートのみが異なり(電荷蓄積時間は同じ)、第1撮像条件のフレームレートが30fpsで、第4撮像条件のフレームレートが60fpsの場合、参照画素Prの画像データのうちの第4撮像条件(60fps)の画像データについて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の画像データを採用することを第2補正処理とする。これにより、撮像条件の相違による画像データ間の差異を小さくする。
なお、第4撮像条件(60fps)で取得した前後する複数のフレーム画像に基づいて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の画像データを補間算出することを第2補正処理としてもよい。
なお、上述したように、撮像条件に多少の差違があっても同一の撮像条件とみなす。
第2補正処理を伴う画像処理について例示する。
(1)画素欠陥補正処理
本実施の形態において、画素欠陥補正処理は、撮像時に行う画像処理の1つである。一般に、固体撮像素子である撮像素子32aは、製造過程や製造後において画素欠陥が生じ、異常なレベルの画像データを出力する場合がある。そこで、画像処理部33の生成部33cは、画素欠陥が生じた画素から出力された画像データを補正することにより、画素欠陥が生じた画素位置における画像データを目立たないようにする。
本実施の形態において、色補間処理は、撮像時に行う画像処理の1つである。図3に例示したように、撮像素子100の撮像チップ111は、緑色画素Gb、Gr、青色画素Bおよび赤色画素Rがベイヤー配列されている。画像処理部33の生成部33cは、各画素位置において配置されたカラーフィルタFの色成分と異なる色成分の画像データが不足するので、周辺の画素位置の画像データを参照して不足する色成分の画像データを生成する色補間処理を行う。
<G色補間>
まず、一般的なG色補間について説明する。G色補間を行う画像処理部33の生成部33cは、R色成分およびB色成分の位置を順番に注目位置として、注目位置の周囲の参照位置の4つのG色成分の画像データを参照して注目位置におけるG色成分の画像データを生成する。たとえば、図10(b)の太枠(左上位置から数えて2行目2列目。以降も同様に、左上位置から数えて注目位置を表すものとする)で示す注目位置においてG色成分の画像データを生成する場合、注目位置(2行目2列目)の近傍に位置する4つのG色成分の画像データG1~G4を参照する。画像処理部33の生成部33cは、たとえば(aG1+bG2+cG3+dG4)/4を、注目位置(2行目2列目)におけるG色成分の画像データとする。なお、a~dは参照位置と注目位置との間の距離や画像構造に応じて設けられる重み係数である。
図11(a)は、図10(a)からR色成分の画像データを抽出した図である。画像処理部33の生成部33cは、図10(c)に示すG色成分の画像データと図11(a)に示すR色成分の画像データとに基づいて図11(b)に示す色差成分Crの画像データを算出する。
また、図11(c)において、太枠(2行目3列目)で示す位置が色差成分Crの注目位置である。また、図11(c)中の色差成分の画像データCr2、Cr4、Cr5、Cr6が注目位置(2行目3列目)の画素を画像処理するための参照位置である。図11(c)において、注目位置(2行目3列目)には第4撮像条件が適用されている。参照位置のうち、画像データCr4、Cr5には第1撮像条件が適用されている。また、参照位置のうち、画像データCr2、Cr6には第4撮像条件が適用されている。そのため、画像処理部33の補正部33bは、画像データCr4およびCr5に対してそれぞれ第2補正処理を行う。その後、画像処理部33の生成部33cが注目位置(2行目3列目)における色差成分Crの画像データを算出する。
図12(a)は、図10(a)からB色成分の画像データを抽出した図である。画像処理部33の生成部33cは、図10(c)に示すG色成分の画像データと図12(a)に示すB色成分の画像データとに基づいて図12(b)に示す色差成分Cbの画像データを算出する。
また、図12(c)において、太枠(3行目4列目)で示す位置が色差成分Cbの注目位置である。また、図12(c)中の色差成分の画像データCb2、Cb4~Cb6が注目位置(3行目4列目)の画素を画像処理するための参照位置である。図12(c)において、注目位置(3行目4列目)には第4撮像条件が適用されている。また、すべての参照位置の画像データCb2、Cb4~Cb6に第4撮像条件が適用されている。そのため、画像処理部33の生成部33cは、画像処理部33の補正部33bによって第2補正処理が行われていない参照位置の画像データCb2、Cb4~Cb6を参照して、注目位置(3行目4列目)における色差成分Cbの画像データを算出する。
なお、上記「G色補間」では、たとえば、図10(b)の太枠(2行目2列目)で示す注目位置においてG色成分の画像データを生成する場合、注目位置の近傍に位置する4つのG色成分の画像データG1~G4を参照するとしているが、画像構造によって参照するG色成分の画像データの数を変更してもよい。たとえば、注目位置付近の画像が縦方向に類似性を有している(たとえば、縦縞のパターン)場合は、注目位置の上下の画像データ(図10(b)のG1とG2)だけを用いて補間処理を行う。また、たとえば、注目位置付近の画像が横方向に類似性を有している(たとえば、横縞のパターン)場合は、注目位置の左右の画像データ(図10(b)のG3とG4)だけを用いて補間処理を行う。これらの場合、補正部33bにより補正を行う画像データG4を用いる場合と用いない場合がある。
輪郭強調処理の一例を説明する。画像処理部33の生成部33cは、たとえば、1フレームの画像において、注目画素P(処理対象画素)を中心とする所定サイズのカーネルを用いた公知の線形フィルタ(Linear filter)演算を行う。線型フィルタの一例である尖鋭化フィルタのカーネルサイズがN×N画素の場合、注目画素Pの位置が注目位置であり、注目画素Pを囲む(N2-1)個の参照画素Prの位置が参照位置である。
なお、カーネルサイズはN×M画素であってもよい。
ノイズ低減処理の一例を説明する。画像処理部33の生成部33cは、たとえば、1フレームの画像において、注目画素P(処理対象画素)を中心とする所定サイズのカーネルを用いた公知の線形フィルタ(Linear filter)演算を行う。線型フィルタの一例である平滑化フィルタのカーネルサイズがN×N画素の場合、注目画素Pの位置が注目位置であり、注目画素Pを囲む(N2-1)個の参照画素Prの位置が参照位置である。
なお、カーネルサイズはN×M画素であってもよい。
制御部34のレンズ移動制御部34dは、撮像画面の所定の位置(フォーカスポイント)に対応する信号データ(画像データ)を用いて焦点検出処理を行う。制御部34のレンズ移動制御部34dは、分割した領域間で異なる撮像条件が設定されており、AF動作のフォーカスポイントが分割された領域の境界部分に位置する場合、少なくとも1つの領域の焦点検出用の信号データに対し、焦点検出処理の前処理として第2補正処理を行う。
第2補正処理を伴う焦点検出処理について例示する。本実施の形態のAF動作は、たとえば、撮像画面における複数のフォーカスポイントの中からユーザーが選んだフォーカスポイントに対応する被写体にフォーカスを合わせる。制御部34のレンズ移動制御部34d(生成部)は、撮像光学系31の異なる瞳領域を通過した光束による複数の被写体像の像ズレ量(位相差)を検出することにより、撮像光学系31のデフォーカス量を算出する。制御部34のレンズ移動制御部34dは、デフォーカス量をゼロ(許容値以下)にする位置、すなわち合焦位置へ、撮像光学系31のフォーカスレンズを移動させ、撮像光学系31の焦点を調節する。
制御部34のレンズ移動制御部34dは、たとえば、第1撮像条件と第4撮像条件との間でISO感度のみが異なり、第1撮像条件のISO感度が100で、第4撮像条件のISO感度が800の場合、第4撮像条件の信号データに対し、第2補正処理として100/800を掛ける。これにより、撮像条件の相違による信号データ間の差異を小さくする。
なお、第1撮像条件が適用された画素への入射光量と第4撮像条件が適用された画素への入射光量とが同じ場合には信号データの差異が小さくなるが、もともと第1撮像条件が適用された画素への入射光量と第4撮像条件が適用された画素への入射光量とが異なっている場合などには、信号データの差異が小さくならない場合もある。後述する例も同様である。
制御部34のレンズ移動制御部34dは、たとえば、第1撮像条件と第4撮像条件との間でシャッター速度のみが異なり、第1撮像条件のシャッター速度が1/1000秒で、第4撮像条件のシャッター速度が1/100秒の場合、第4撮像条件の信号データに対し、第2補正処理として1/1000/1/100=1/10を掛ける。これにより、撮像条件の相違による信号データ間の差異を小さくする。
制御部34のレンズ移動制御部34dは、たとえば、第1撮像条件と第4撮像条件との間でフレームレートのみが異なり(電荷蓄積時間は同じ)、第1撮像条件のフレームレートが30fpsで、第4撮像条件のフレームレートが60fpsの場合、第4撮像条件(60fps)の信号データについて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の信号データを採用することを第2補正処理とする。これにより、撮像条件の相違による信号データ間の差異を小さくする。
なお、第4撮像条件(60fps)で取得した前後する複数のフレーム画像に基づいて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の信号データを補間算出することを第2補正処理としてもよい。
また、上記の例では、信号データのうちの第4撮像条件の信号データに対して第1撮像条件により第2補正処理を行う例を説明したが、信号データのうちの第1撮像条件の信号データに対して第4撮像条件により第2補正処理を行ってもよい。
制御部34のレンズ移動制御部34dが、第1撮像条件の信号データに対して第2補正処理を行うか、第4撮像条件の信号データに対して第2補正処理を行うかを、たとえば、ISO感度に基づいて決定するようにしてもよい。第1撮像条件と第4撮像条件とでISO感度が異なる場合、ISO感度が高い方の撮像条件で得られた信号データが飽和していなければ、ISO感度が低い方の撮像条件で得られた信号データに対して第2補正処理を行うことが望ましい。すなわち、第1撮像条件と第4撮像条件とでISO感度が異なる場合、明るい方の信号データとの差を小さくするように暗い方の信号データを第2補正処理することが望ましい。
上記の例では、焦点調節処理を第2補正処理を行った後に行ったが、第2補正処理を行わず、第1補正処理により得られた画像データにより焦点調節を行ってもよい。
図16(a)は、検出しようとする対象物を表すテンプレート画像を例示する図であり、図16(b)は、ライブビュー画像60(a)および探索範囲190を例示する図である。制御部34の物体検出部34aは、ライブビュー画像から対象物(たとえば、図5の被写体要素の1つであるバッグ63a)を検出し、検出した対象物のテンプレート画像180を生成する。制御部34の物体検出部34aは、対象物を検出する範囲をライブビュー画像60aの全範囲としてもよいが、検出処理を軽くするために、ライブビュー画像60aの一部を探索範囲190としてもよい。
なお、上述したように、撮像条件に多少の差違があっても同一の撮像条件とみなす。
また、上記の例では、画像データのうちの第4撮像条件の画像データに対して第1撮像条件により第2補正処理を行う例を説明したが、画像データのうちの第1撮像条件の画像データに対して第4撮像条件により第2補正処理を行ってもよい。
上記の例では、被写体検出処理を第2補正処理を行った後に行ったが、第2補正処理を行わず、第1補正処理により得られた画像データにより被写体検出を行ってもよい。
制御部34の設定部34bは、撮像画面の領域を分割し、分割した領域間で異なる撮像条件を設定した状態で、新たに測光し直して露出条件を決定する場合、少なくとも1つの領域の画像データに対し、露出条件を設定する前処理として第2補正処理を行う。
なお、上述したように、撮像条件に多少の差違があっても同一の撮像条件とみなす。
また、上記の例では、画像データのうちの第4撮像条件の画像データに対して第1撮像条件により第2補正処理を行う例を説明したが、画像データのうちの第1撮像条件の画像データに対して第4撮像条件により第2補正処理を行ってもよい。
上記の例では、撮影条件の設定を第2補正処理を行った後に行ったが、第2補正処理を行わず、第1補正処理により得られた画像データにより撮影条件の設定を行ってもよい。
図17は、領域ごとに撮像条件を設定して撮像する処理の流れを説明するフローチャートである。カメラ1のメインスイッチがオン操作されると、制御部34は、図17に示す処理を実行するプログラムを起動させる。ステップS10において、制御部34は、表示部35にライブビュー表示を開始させて、ステップS20へ進む。
なお、ライブビュー表示中にAF動作を行う設定がなされている場合、制御部34のレンズ移動制御部34dは、焦点検出処理を行うことにより、所定のフォーカスポイントに対応する被写体要素にフォーカスを合わせるAF動作を制御する。レンズ移動制御部34dは、必要に応じて、上記第1補正処理および上記第2補正処理、または、上記第1補正処理もしくは上記第2補正処理が行われてから焦点検出処理を行う。
また、ライブビュー表示中にAF動作を行う設定がなされていない場合、制御部34のレンズ移動制御部34dは、後にAF動作が指示された時点でAF動作を行う。
なお、制御部34は、ユーザーの指で表示画面上の他の主要被写体の表示位置がタップ操作された場合は、その主要被写体を含む領域を撮像条件の設定(変更)の対象となる領域に変更して強調表示させる。
なお、画像処理部33の補正部33bは、必要に応じて、領域の境界部に位置する画像データに対して、上記第1補正処理および上記第2補正処理、または、上記第1補正処理もしくは上記第2補正処理を行ってから画像処理を行う。
(1)カメラ1は、複数の画素を有するブロックごとに撮像条件が設定可能な撮像部32と、人物61aからの第1の光が入射した第1領域61のブロックに第1撮像条件を設定し、山64aからの第2の光が入射した第4領域64のブロックに第4撮像条件を設定し、第1および第2の光が入射した境界領域67のブロックに第7撮像条件を設定する制御部34(設定部34b)と、境界領域67のブロックの画素からの信号を第1および第4撮像条件に基づいて補正する画像処理部33(補正部33b)と、補正部33bにより補正された信号と、第1領域61のブロックの画素からの信号と、第4領域64のブロックの画素からの信号と、により画像を生成する画像処理部33(生成部33c)と、を備える。
これにより、撮像条件が異なる領域で、それぞれ適切に処理を行うことができる。すなわち、各領域でそれぞれ生成された画像データによる画像を適切に生成することができる。たとえば、領域ごとの撮像条件の違いによって、生成される画像に現れる不連続性や違和感を抑制できる。
また、境界ブロックにおける撮像条件を適切に設定できるので、境界ブロックにおける画素からの画像データの白飛びや黒潰れを防止でき、適切に画像データを生成することができる。
これにより、撮像条件が異なる領域で、それぞれ適切に処理を行うことができる。すなわち、各領域でそれぞれ生成された画像データによる画像を適切に生成することができる。たとえば、領域ごとの撮像条件の違いによって、生成される画像に現れる不連続性や違和感を抑制できる。
これにより、撮像条件が異なる領域で、それぞれ適切に処理を行うことができる。すなわち、各領域でそれぞれ生成された焦点検出用の信号データに基づいて、デフォーカス量を適切に検出することができる。たとえば、領域ごとの撮像条件の違いによって、焦点検出精度が低下することを抑制できる。
これにより、撮像条件が異なる領域で、それぞれ適切に処理を行うことができる。すなわち、各領域でそれぞれ生成された画像データに基づいて、被写体要素を適切に検出することができる。たとえば、領域ごとの撮像条件の違いによって、検出精度が低下することを抑制できる。
これにより、撮像条件が異なる領域で、それぞれ適切に処理を行うことができる。すなわち、各領域でそれぞれ生成された画像データに基づいて、適切に撮像条件の設定を行うことができる。たとえば、領域ごとの撮像条件の違いによって、露出条件の設定精度が低下することを抑制できる。
これにより、撮像条件が異なる領域で、それぞれ適切に処理を行うことができる。すなわち、各領域でそれぞれ生成された画像データに基づいて、適切に撮像条件の設定を行うことができる。たとえば、領域ごとの撮像条件の違いによって、露出条件の設定精度が低下することを抑制できる。
図18を参照して、第2の実施の形態による画像処理装置を搭載する電子機器の一例として、デジタルカメラを例に挙げて説明する。以下の説明では、第1の実施の形態と同じ構成要素には同じ符号を付して相違点を主に説明する。特に説明しない点については、第1の実施の形態と同じである。本実施の形態では、主に、領域ブロックに隣接する主ブロックの撮像条件の設定方法が第1の実施の形態と異なる。
上述の説明では、境界ブロック85に隣接するブロックとして、第1領域61の主ブロック84と第4領域64の主ブロック86とが存在する。本実施の形態では、第1領域61の主ブロック84の撮像条件(第1撮像条件)は、第1領域61の他の主ブロックの撮像条件と同一であり、第4領域64の主ブロック86の撮像条件(第9撮像条件)は、第4領域64の他の主ブロック(ブロック92等)の撮像条件(第4撮像条件)と異なる。すなわち、本実施の形態では、主要被写体である人物61aに対応するブロックについては、境界ブロックを除いて同一の撮像条件に設定することが望ましい。そこで、本実施の形態では、人物61aよりも被写体としての重要度が低い山64aに対応する第4領域64において、境界ブロック85に隣接するブロック86の撮像条件を第4領域64の他の主ブロック(ブロック92等)の撮像条件(第4撮像条件)と異ならせた。
以下の説明では、隣接する2つの領域のうち、一方の領域(第4領域64)の主ブロック(主ブロック86)ではあるが、その領域(第4領域64)の他の主ブロック(主ブロック92)と比較して、他方の領域(第1領域61)の主ブロック84または他方の領域(第1領域61)との境界ブロック(境界ブロック85)に設定された撮像条件(第1または第8撮像条件)に近づくように撮像条件(第9撮像条件)が設定された主ブロック(主ブロック86)を準境界ブロックと呼ぶ。また、本実施の形態では、境界ブロック85と準境界ブロック86とを含む領域を境界領域67Aと呼ぶ。
なお、以下の条件(a)から(c)は、例示であり、これ以外の条件を排除するものではない。(a)たとえば、被写体認識の結果に基づいて一方の領域に顔を含むと判断された場合、設定部34bは、一方の領域が他方の領域よりも重要な被写体領域であると判断して、他方の領域に準境界ブロックを設ける。(b)たとえば、焦点検出の結果に基づいて一方の領域の被写体までの距離が他方の領域の被写体までの距離よりも近いと判断された場合、設定部34bは、一方の領域が他方の領域よりも重要な被写体領域であると判断して、他方の領域に準境界ブロックを設ける。(c)たとえば、被写体要素の検出結果に基づいて一方の領域が他方の領域よりも撮像面の中央に近い位置に存在すると判断された場合、設定部34bは、一方の領域が他方の領域よりも重要な被写体領域であると判断して、他方の領域に準境界ブロックを設ける。
図18(c)では、境界ブロック85、準境界ブロック86および準境界ブロック92に付した斜め線のハッチングの密度が高いほど、設定された撮像条件が第1撮像条件寄りであることを模式的に示している。
次のような変形も本発明の範囲内であり、変形例の1つ、もしくは複数を上述の実施の形態と組み合わせることも可能である。(変形例1)
図19(a)~図19(c)は、撮像素子32aの撮像面における第1撮像領域および第2撮像領域の配置を例示する図である。図19(a)の例によれば、第1撮像領域は偶数列によって構成され、第2撮像領域は奇数列によって構成される。すなわち、撮像面が偶数列と奇数列とに分割されている。
なお、焦点検出処理、被写体検出処理、および露出演算処理に適した条件がそれぞれ異なる場合は、制御部34は、第2撮像領域に設定する第2撮像条件をフレームごとに異ならせてもよい。たとえば、1フレーム目の第2撮像条件を焦点検出処理に適した条件とし、2フレーム目の第2撮像条件を被写体検出処理に適した条件とし、3フレーム目の第2撮像条件を露出演算処理に適した条件とする。これらの場合において、各フレームにおける第2撮像条件を撮像画面の第2撮像領域の全体で同一にする。
上述した実施の形態では、画像処理を行う場合の第2補正処理は、注目位置において適用された撮像条件(第1撮像条件とする)と、注目位置の周囲の参照位置において適用された撮像条件(第4撮像条件とする)とが異なる場合において、画像処理部33の補正部33bが、第4撮像条件の画像データ(参照位置の画像データのうちの第4撮像条件の画像データ)を第1撮像条件に基づいて補正した。すなわち、参照位置の第4撮像条件の画像データを第2補正処理することによって、第1撮像条件と第4撮像条件との差異に基づく画像の不連続性を緩和するようにした。
たとえば、上記(例1)において、第1撮像条件(ISO感度が100)である、参照画素Prの画像データに、第2補正処理として400/100を掛け、第4撮像条件(ISO感度が800)である参照画素Prの画像データに、第2補正処理として400/800を掛ける。これにより、撮像条件の相違による画像データ間の差異を小さくする。なお、注目画素の画素データは、色補間処理後に100/400を掛ける第2補正処理を行う。この第2補正処理により色補間処理後の注目画素の画素データを第1撮像条件で撮像した場合と同様の値に変更することができる。さらに、上記(例1)において、第1領域と第4領域との境界からの距離によって第2補正処理の程度を変えても良い。そして上記(例1)の場合に比べて第2補正処理により画像データが増加や減少する割合を少なくすることができ、第2補正処理により生じるノイズを減らすことができる。以上では、上記(例1)について説明したが、上記(例2)にも同様に適用することができる。
上述した実施の形態では、画像データに対して第2補正処理を行う際に、第1撮像条件と第4撮像条件との差違に基づく演算を行うことにより、補正後の画像データを求めるようにした。演算の代わりに、補正用テーブルを参照することによって補正後の画像データを求めてもよい。たとえば、引数として第1撮像条件および第4撮像条件を入力することにより、補正後の画像データを読み出す。あるいは、引数として第1撮像条件および第4撮像条件を入力することにより、補正係数を読み出す構成にしてもよい。
上述した実施の形態の第2補正処理において、補正後の画像データの上限や下限を定めておいてもよい。上限値、下限値を設けることにより、必要以上の補正をしないように制限することができる。上限値、下限値は、あらかじめ決めておいてもよいし、撮像素子32aと別に測光用センサを備える場合には、測光用センサからの出力信号に基づき決定してもよい。
上記実施形態では、制御部34の設定部34bがライブビュー画像に基づき被写体要素を検出し、ライブビュー画像の画面を、被写体要素を含む領域に分割する例を説明した。変形例5において、制御部34は、撮像素子32aと別に測光用センサを備える場合には、測光用センサからの出力信号に基づき領域を分割してもよい。
変形例6では、画像処理部33の生成部33cが、第2補正処理の一例としてコントラスト調整処理を行う。すなわち、生成部33cは、階調カーブ(ガンマカーブ)を異ならせることにより、第1撮像条件と第4撮像条件との間の差異に基づく画像の不連続性を緩和する。
変形例7においては、画像処理部33が、上述した画像処理(例えば、ノイズ低減処理)において、被写体要素の輪郭を損なわないようにする。一般に、ノイズ低減を行う場合は平滑化フィルタ処理が採用される。平滑化フィルタを用いる場合、ノイズ低減効果の一方で被写体要素の境界がぼける場合がある。
変形例8においては、画像処理部33の生成部33cが、第1撮像条件と第4撮像条件との差異に基づく画像の不連続性を緩和するように、ホワイトバランス調整ゲインを変更する。
画像処理部33を複数備え、画像処理を並列処理してもよい。たとえば、撮像部32の領域Aで撮像された画像データに対して画像処理をしながら、撮像部32の領域Bで撮像された画像データに対して画像処理を行う。複数の画像処理部33は、同じ画像処理を行ってもよいし、異なる画像処理を行ってもよい。すなわち、領域Aおよび領域Bの画像データに対して同じパラメータ等を適用して同様の画像処理をしたり、領域Aおよび領域Bの画像データに対して異なるパラメータ等を適用して異なる画像処理をしたりすることができる。
上述した説明では、カメラ1を例に説明したが、スマートフォンのようにカメラ機能を備えた高機能携帯電話機250(図21)や、タブレット端末などのモバイル機器によって構成してもよい。
上述した実施の形態では、撮像部32と制御部34とを単一の電子機器として構成したカメラ1を例に説明した。この代わりに、たとえば、撮像部32と制御部34とを分離して設け、制御部34から通信を介して撮像部32を制御する撮像システム1Bを構成してもよい。
以下、図20を参照して撮像部32を備えた撮像装置1001を、制御部34を備えた制御装置1002から制御する例を説明する。
なお、撮像装置1001と表示装置1002とを有線ケーブルにより有線接続し、第1通信部1003および第2通信部1004が双方向の画像データ通信を行う構成にしてもよい。
表示装置1002は、たとえば、スマートフォンのような高機能携帯電話機250によって構成することができる。また、撮像装置1001は、上述した積層型の撮像素子100を備える電子機器によって構成することができる。
なお、表示装置1002の制御部34に物体検出部34aと、設定部34bと、撮像制御部34cと、レンズ移動制御部34dとを設ける例を説明したが、物体検出部34a、設定部34b、撮像制御部34c、およびレンズ移動制御部34dの一部について、撮像装置1001に設けるようにしてもよい。
上述したカメラ1、高機能携帯電話機250、またはタブレット端末などのモバイル機器へのプログラムの供給は、たとえば図21に例示するように、プログラムを格納したパーソナルコンピュータ205から赤外線通信や近距離無線通信によってモバイル機器へ送信することができる。
図22~28を参照して、第3の実施の形態による画像処理装置を搭載する電子機器の一例として、デジタルカメラを例に挙げて説明する。以下の説明では、第1および第2の実施の形態と同じ構成要素には同じ符号を付して相違点を主に説明する。特に説明しない点については、第1および第2の実施の形態と同じである。本実施の形態では、主に、第1の実施の形態の画像処理部33を設ける代わりに、撮像部32Aが第1および第2の実施の形態の画像処理部33と同様の機能を有する画像処理部32cをさらに含む点で、第1および第2の実施の形態と異なる。
これにより、画像データの前処理を複数の補正部322で並列処理できるので、補正部322における処理負担を軽減でき、撮像条件が異なる領域でそれぞれ生成された画像データから適切な画像を短時間で生成することができる。
なお、以下の説明では、あるブロック111aと、当該ブロック111aに含まれる画素との関係について説明する際に、当該ブロック111aのことを、当該画素が属するブロック111aと呼ぶことがある。また、ブロック111aを単位区分と呼ぶことがあり、ブロック111aが複数集まったもの、すなわち単位区分が複数集まったものを複合区分と呼ぶことがある。
これら撮像チップ111、信号処理チップ112、メモリチップ113および画像処理チップ114は積層されており、Cu等の導電性を有するバンプ109により互いに電気的に接続される。
第1の実施の形態と同様に、第3の実施の形態では、設定部34bにより撮像画面の領域を分割した後は、ユーザーによって選択された領域、または、制御部34が判断した領域に対して撮像条件を設定(変更)することが可能に構成されている。制御部34は、分割した領域において異なる撮像条件を設定した場合、必要に応じて画像処理部32cの補正部322に前処理の1つとして、第1補正処理を行わせる。
そこで、補正部322は、画素82a、画素82bおよび画素82cからの信号に対して、人物61aからの被写体光を第1撮像条件で撮像した場合と同様の信号を得られるように第1補正処理を行う。
同様に、境界ブロック82の画素82dは、第7撮像条件によって山64aからの被写体光を撮像している。一方、第4領域64についての主ブロックであるブロック83、ブロック86、ブロック88およびブロック89の各画素では、第4撮像条件によって山64aからの被写体光を撮像している。
そこで、補正部322は、画素82dからの信号に対して、山64aからの被写体光を第4撮像条件で撮像した場合と同様の信号を得られるように第1補正処理を行う。
また、補正部322は、第1補正処理として、画素82dからのフレームレート45fpsのフレーム画像の信号をフレームレート60fpsのフレーム画像の信号に変換する。このフレームレートの変換は、たとえば画素82dから相前後して読み出されたフレーム画像信号を合成することによって、すなわち、前後のフレーム画像信号に基づき、新たなフレーム画像信号を補間算出することによって、フレーム画像信号の数を増大して行われる。
上述したように、撮像条件に多少の差違があっても同一の撮像条件とみなす。
制御部34はさらに、画像処理、焦点検出処理、被写体検出(被写体要素を検出)処理、および撮像条件を設定する処理の前に、補正部322に以下の第2補正処理を必要に応じて行わせる。
なお、第2補正処理では、第1補正処理によって補正された境界ブロックの画素からの信号は、境界ブロックに設定された撮像条件ではなく、主ブロックに設定された撮像条件が適用されて撮像されて得られた信号として処理される。
1-1.注目画素Pの撮像条件と注目画素Pの周囲の複数の参照画素Prの撮像条件とが同一である場合
この場合、画像処理部32cでは、補正部322が第2補正処理を行わず、生成部323が第2補正処理されていない複数の参照画素Prの画像データを利用して画像処理を行う。
注目画素Pにおいて適用された撮像条件を第1撮像条件とし、複数の参照画素Prの一部に適用された撮像条件が第1撮像条件であり、残りの参照画素Prに適用された撮像条件が第2撮像条件であるとする。
この場合には、第2撮像条件が適用された参照画素Prが属するブロック111aに対応する補正部322は、当該第2撮像条件が適用された参照画素Prの画像データに対して以下の(例1)~(例3)のように第2補正処理を行う。そして、生成部323は、第1撮像条件が適用された参照画素Prの画像データと、第2補正処理後の参照画素Prの画像データとを参照して注目画素Pの画像データを算出する画像処理を行う。
第2撮像条件が適用された参照画素Prが属するブロック111aに対応する補正部322は、たとえば、第1撮像条件と第2撮像条件との間でISO感度のみが異なり、第1撮像条件のISO感度が100で、第2撮像条件のISO感度が800の場合、当該参照画素Prの画像データに対し、第2補正処理として100/800を掛ける。これにより、撮像条件の相違による画像データ間の差異を小さくする。
第2撮像条件が適用された参照画素Prが属するブロック111aに対応する補正部322は、たとえば、第1撮像条件と第2撮像条件との間でシャッター速度のみが異なり、第1撮像条件のシャッター速度が1/1000秒で、第2撮像条件のシャッター速度が1/100秒の場合、当該参照画素Prの画像データに対し、第2補正処理として1/1000/1/100=1/10を掛ける。これにより、撮像条件の相違による画像データ間の差異を小さくする。
第2撮像条件が適用された参照画素Prが属するブロック111aに対応する補正部322は、たとえば、第1撮像条件と第2撮像条件との間でフレームレートのみが異なり(電荷蓄積時間は同じ)、第1撮像条件のフレームレートが30fpsで、第2撮像条件のフレームレートが60fpsの場合、当該参照画素Prの画像データ、すなわち第2撮像条件(60fps)の画像データについて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の画像データを採用することを第2補正処理とする。これにより、撮像条件の相違による画像データ間の差異を小さくする。
なお、第2撮像条件(60fps)で取得した前後する複数のフレーム画像に基づいて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の画像データを補間算出することを第2補正処理としてもよい。
第1処理部151は、必要に応じて、第1画像データに対して上記第1補正処理および上記第2補正処理、または、上記第1補正処理もしくは上記第2補正処理を行う。
第2処理部152は、必要に応じて、第2画像データに対して上記第1補正処理および上記第2補正処理、または、上記第1補正処理もしくは上記第2補正処理を行う。
なお、第2補正処理を行うにあたり、境界ブロックの各画素から出力される画素からの信号は、第1補正処理によって補正されているものとする。すなわち、第2補正処理を行うにあたり、第1画像データは、すべて第1撮像条件が適用されて撮像して得られたものとして扱われ、第2画像データは、すべて第2撮像条件が適用されて撮像して得られたものとして扱われる。
同様に、たとえば、注目画素Pが第2撮像領域142に含まれる場合、第1撮像領域141に含まれる参照画素Prからの第1画像データは、第1処理部151で上述した第2補正処理が行われる。なお、第1処理部151は、撮像条件の相違による画像データ間の差異を小さくするために必要な第2撮像条件についての情報を、第2処理部152から受信する。
あるいは、第1処理部151と第2処理部152により、それぞれ第1撮像条件の画像データおよび第2撮像条件の画像データの双方を補正してもよい。すなわち、第1撮像条件の注目位置の画像データ、参照位置の画像データのうちの第1撮像条件の画像データ、および参照位置の画像データのうちの第2撮像条件の画像データに対してそれぞれ第2補正処理を施すことにより、第1撮像条件と第2撮像条件との差異に基づく画像の不連続性を緩和するようにしてもよい。
たとえば、上記(例1)において、第1撮像条件(ISO感度が100)である、参照画素Prの画像データに、第2補正処理として400/100を掛け、第2撮像条件(ISO感度が800)である参照画素Prの画像データに、第2補正処理として400/800を掛ける。これにより、撮像条件の相違による画像データ間の差異を小さくする。なお、注目画素の画素データは、色補間処理後に100/400を掛ける第2補正処理を行う。この第2補正処理により色補間処理後の注目画素の画素データを第1撮像条件で撮像した場合と同様の値に変更することができる。さらに、上記(例1)において、第1領域と第2領域との境界からの距離によって第2補正処理の程度を変えても良い。そして上記(例1)の場合に比べて第2補正処理により画像データが増加や減少する割合を少なくすることができ、第2補正処理により生じるノイズを減らすことができる。以上では、上記(例1)について説明したが、上記(例2)にも同様に適用することができる。
第1の実施形態と同様に、制御部34のレンズ移動制御部34dは、撮像画面の所定の位置(フォーカスポイント)に対応する信号データ(画像データ)を用いて焦点検出処理を行う。なお、分割した領域間で異なる撮像条件が設定されており、AF動作のフォーカスポイントが分割された領域の境界部分に位置する場合、すなわちフォーカスポイントが第1領域と第2領域とで2分されている場合、本実施の形態では、以下の2-2.で説明するように、制御部34のレンズ移動制御部34dは、補正部322に対して少なくとも1つの領域の焦点検出用の信号データに対する第2補正処理を行わせる。
なお、第2補正処理を行わせるにあたり、境界ブロックの各画素から出力される画素からの信号は、第1補正処理によって補正されているものとする。すなわち、第2補正処理を行わせるにあたり、第1撮像領域141の各画素からの第1信号データは、すべて第1撮像条件が適用されて撮像して得られたものとして扱われ、第2撮像領域142の各画素からの第2信号データは、すべて第2撮像条件が適用されて撮像して得られたものとして扱われる。
この場合、補正部322は第2補正処理を行わず、制御部34のレンズ移動制御部34dは枠170で示す焦点検出用画素による信号データをそのまま用いて焦点検出処理を行う。
この場合には、制御部34のレンズ移動制御部34dは、枠170内の画素のうち、第2撮像条件が適用された画素が属するブロック111aに対応する補正部322に対して以下の(例1)~(例3)のように第2補正処理を行わせる。そして、制御部34のレンズ移動制御部34dは、第1撮像条件が適用された画素の信号データと、第2補正処理後の信号データとを用いて焦点検出処理を行う。
第2撮像条件が適用された画素が属するブロック111aに対応する補正部322は、たとえば、第1撮像条件と第2撮像条件との間でISO感度のみが異なり、第1撮像条件のISO感度が100で、第2撮像条件のISO感度が800の場合、第2撮像条件の信号データに対し、第2補正処理として100/800を掛ける。これにより、撮像条件の相違による信号データ間の差異を小さくする。
第2撮像条件が適用された画素が属するブロック111aに対応する補正部322は、たとえば、第1撮像条件と第2撮像条件との間でシャッター速度のみが異なり、第1撮像条件のシャッター速度が1/1000秒で、第2撮像条件のシャッター速度が1/100秒の場合、第2撮像条件の信号データに対し、第2補正処理として1/1000/1/100=1/10を掛ける。これにより、撮像条件の相違による信号データ間の差異を小さくする。
第2撮像条件が適用された画素が属するブロック111aに対応する補正部322は、たとえば、第1撮像条件と第2撮像条件との間でフレームレートのみが異なり(電荷蓄積時間は同じ)、第1撮像条件のフレームレートが30fpsで、第2撮像条件のフレームレートが60fpsの場合、第2撮像条件(60fps)の信号データについて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の信号データを採用することを第2補正処理とする。これにより、撮像条件の相違による信号データ間の差異を小さくする。
なお、第2撮像条件(60fps)で取得した前後する複数のフレーム画像に基づいて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の信号データを補間算出することを第2補正処理としてもよい。
また、上記の例では、信号データのうちの第2撮像条件の信号データに対して第2補正処理を行う例を説明したが、信号データのうちの第1撮像条件の信号データに対して第2補正処理を行ってもよい。
なお、上述したように、第2補正処理を行うにあたり、第1信号データは、すべて第1撮像条件が適用されて撮像して得られたものとして扱われ、第2信号データは、すべて第2撮像条件が適用されて撮像して得られたものとして扱われる。
なお、信号データのうちの第2撮像条件の信号データに対して第2補正処理を行うことにより、第2補正処理後の信号データと第1撮像条件の信号データとの差を小さくする場合、第1処理部151は、第1信号データに第2補正処理を行わない。
なお、信号データのうちの第1撮像条件の信号データに対して第2補正処理を行うことにより、第2補正処理後の信号データと第1撮像条件の信号データとの差を小さくする場合、第2処理部152は、第2信号データに第2補正処理を行わない。
分割した領域間で異なる撮像条件が設定されており、探索範囲190が分割された領域の境界を含む場合、本実施の形態では、以下の3-2.で説明するように、制御部34の物体検出部34aは、補正部322に対して探索範囲190内の少なくとも1つの領域の画像データに対する第2補正処理を行わせる。
なお、第2補正処理を行わせるにあたり、境界ブロックの各画素から出力される画素からの信号は、第1補正処理によって補正されているものとする。すなわち、第2補正処理を行わせるにあたり、第1画像データは、すべて第1撮像条件が適用されて撮像して得られたものとして扱われ、第2画像データは、すべて第2撮像条件が適用されて撮像して得られたものとして扱われる。
この場合、補正部322は第2補正処理を行わず、制御部34の物体検出部34aは探索範囲190を構成する画像データをそのまま用いて被写体検出処理を行う。
この場合、制御部34の物体検出部34aは、探索範囲190の画像のうち、第2撮像条件が適用された画素が属するブロック111aに対応する補正部322に対して、焦点検出処理を行う場合として上述した(例1)~(例3)のように第2補正処理を行わせる。そして、制御部34の物体検出部34aは、第1条件が適用された画素の画像データと、第2補正処理後の画像データとを用いて被写体検出処理を行う。
物体検出部34aは、第1処理部151および第2処理部152からの画像データに基づいて被写体要素を検出する処理を行い、検出結果を出力する。
撮像画面の領域を分割し、分割した領域間で異なる撮像条件を設定した状態で、新たに測光し直して露出条件を決定する場合について説明する。なお、露出条件を決定するにあたり、境界ブロックの各画素から出力される画素からの信号は、第1補正処理によって補正されているものとする。
この場合、補正部322は第2補正処理を行わず、制御部34の設定部34bは測光範囲を構成する画像データをそのまま用いて露出演算処理を行う。
この場合、制御部34の設定部34bは、測光範囲の画像データのうち、第2撮像条件が適用された画素が属するブロック111aに対応する補正部322に対して、焦点検出処理を行う場合として上述した(例1)~(例3)のように第2補正処理を行わせる。そして、制御部34の設定部34bは、第2補正処理後の画像データを用いて露出演算処理を行う。
設定部34bは、第1処理部151および第2処理部152からの画像データに基づいて露出演算処理等の撮像条件の算出処理を行い、その演算結果に基づいて、撮像部32による撮像画面を、検出した被写体要素を含む複数の領域に分割するとともに、複数の領域に対して撮像条件を再設定する。
(1)画像処理部32cは、第1撮像領域141で撮像された被写体の画像データの生成を行う第1処理部151と、第2撮像領域142で撮像された被写体の画像データの生成を行う第2処理部152とを有する。第1処理部151は、第2撮像領域142で撮像された被写体の画像データにより第1撮像領域141で撮像された被写体の画像データを生成する。これにより、画像データに対する前処理(第1補正処理、第2補正処理)を複数の補正部322で並列処理できるので、補正部322における処理負担を軽減できる。
次のような変形も本発明の範囲内であり、変形例の1つ、もしくは複数を上述の実施の形態と組み合わせることも可能である。
(変形例13)
上述した第3の実施の形態では、補正部322の1つとブロック111a(単位区分)の1つとが対応している。しかし、補正部322の1つと、複数のブロック111a(単位区分)を有する複合ブロック(複合区分)の1つとが対応するようにしてもよい。この場合、補正部322は、当該複合ブロックに含まれる複数のブロック111aに属する画素からの画像データを順次補正する。複数の補正部322が、複数のブロック111aを有する複合ブロック毎に対応して設けられていても、画像データの第2補正処理を複数の補正部322で並列処理できるので、補正部322における処理負担を軽減でき、撮像条件が異なる領域でそれぞれ生成された画像データから適切な画像を短時間で生成することができる。
上述した第3の実施の形態では、生成部323は撮像部32Aの内部に設けられている。しかし、生成部323を撮像部32Aの外部に設けてもよい。生成部323を撮像部32Aの外部に設けても上述した作用効果と同様の作用効果を奏する。
上述した第3の実施の形態では、積層型撮像素子100Aは、裏面照射型撮像チップ111と、信号処理チップ112と、メモリチップ113とに加えて、上述した前処理および画像処理を行う画像処理チップ114をさらに備える。しかし、積層型撮像素子100Aに画像処理チップ114を設けず、信号処理チップ112に画像処理部32cが設けられていてもよい。
上述した第3の実施の形態では、第2処理部152は、撮像条件の相違による画像データ間の差異を小さくするために必要な第1撮像条件についての情報を、第1処理部151から受信した。また、第1処理部151は、撮像条件の相違による画像データ間の差異を小さくするために必要な第2撮像条件についての情報を、第2処理部152から受信した。しかし、第2処理部152は、撮像条件の相違による画像データ間の差異を小さくするために必要な第1撮像条件についての情報を、駆動部32bや制御部34から受信してもよい。同様に、第1処理部151は、撮像条件の相違による画像データ間の差異を小さくするために必要な第2撮像条件についての情報を、駆動部32bや制御部34から受信してもよい。
なお、上述した各実施の形態および変形例は、それぞれ組み合わせてもよい。
また、レンズ移動制御部34dは、アオリレンズを光軸に直交する方向に移動させることによって、撮像光学系31による像の歪みを調節することができる。
そして、撮像光学系31による像の状態(例えば画角の状態、または像の歪みの状態)を調節するために、上述したような前処理後の画像データを用いる方が好ましいという考え方に基づき、上述した前処理を行うとよい。
1B…撮像システム
31…撮像光学系
32…撮像部
32a、100…撮像素子
33…画像処理部
33a,321…入力部
33b,322…補正部
33c,323…生成部
34…制御部
34a…物体検出部
34b…設定部
34c…撮像制御部
34d…レンズ移動制御部
35…表示部
80…所定範囲
90…注目領域
1001…撮像装置
1002…表示装置
P…注目画素
Claims (12)
- 複数の画素を含むブロックごとに撮像条件が設定可能な撮像素子と、
第1被写体からの第1の光が入射した第1領域の前記ブロックに第1撮像条件を設定し、第2被写体からの第2の光が入射した第2領域の前記ブロックに第2撮像条件を設定し、前記第1領域と前記第2領域との間にある第3領域の前記ブロックに前記第1撮像条件および前記第2撮像条件と異なる撮像条件を設定する撮像条件設定部と、を備え、
前記撮像条件設定部は、前記第1撮像条件により設定される設定値と前記第2撮像条件により設定される設定値とに基づいて、前記第3領域に設定される撮像条件の数を設定する撮像装置。 - 請求項1に記載の撮像装置において、
前記第3領域の前記ブロックの複数の前記画素の一部からの信号を前記第1撮像条件に基づいて補正し、前記第3領域の前記ブロックの複数の前記画素の他部からの信号を前記第2撮像条件に基づいて補正する補正部を備える撮像装置。 - 請求項2に記載の撮像装置において、
前記補正部により補正された信号と、前記第1領域の前記ブロックの前記画素からの信号と、前記第2領域の前記ブロックの前記画素からの信号と、により画像を生成する生成部を備える撮像装置。 - 請求項2に記載の撮像装置において、
前記補正部により補正された信号と、前記第1領域の前記ブロックの前記画素からの信号と、前記第2領域の前記ブロックの前記画素からの信号と、により被写体を検出する検出部を備える撮像装置。 - 請求項3に記載の撮像装置において、
前記撮像素子は、光学系の光軸方向に移動可能なレンズを介して被写体を撮像する複数の領域の前記ブロックを有し、
前記補正部により補正された信号と、前記複数の領域のうちの前記第1領域の前記ブロックの前記画素からの信号と、前記複数の領域のうちの前記第2領域の前記ブロックの前記画素からの信号と、により前記レンズを移動する制御部を備える撮像装置。 - 請求項2に記載の撮像装置において、
前記撮像素子は、光学系の光軸方向に移動可能なレンズを介して被写体を撮像する複数の領域の前記ブロックを有し、
前記補正部により補正された信号と、前記複数の領域のうちの前記第1領域の前記ブロックの前記画素からの信号と、前記複数の領域のうちの前記第2領域の前記ブロックの前記画素からの信号と、により前記レンズを移動させるための信号を生成する制御部を備える撮像装置。 - 請求項2に記載の撮像装置において、
前記補正部により補正された信号と、前記第1領域の前記ブロックの前記画素からの信号と、前記第2領域の前記ブロックの前記画素からの信号と、により前記ブロックに設定されている撮像条件の設定を制御する撮像装置。 - 請求項1から7のいずれか一項に記載の撮像装置において、
前記撮像条件設定部は、前記第1撮像条件と前記第2撮像条件とに基づいて前記異なる撮像条件を設定する撮像装置。 - 請求項1から7のいずれか一項に記載の撮像装置において、
前記撮像条件設定部は、前記第3領域に設定される設定値を、前記第1撮像条件により設定される設定値と、前記第2撮像条件により設定される設定値と、の間の値に設定する撮像装置。 - 請求項8に記載の撮像装置において、
前記撮像条件設定部は、前記第3領域の前記ブロックの前記画素からの信号から階調情報が喪失しないように前記異なる撮像条件を設定する撮像装置。 - 請求項1に記載の撮像装置において、
前記撮像条件設定部は、前記第1撮像条件により設定される設定値と前記第2撮像条件により設定される設定値との差が大きくなると、前記第3領域に設定される撮像条件の数を多く設定する撮像装置。 - 請求項1に記載の撮像装置において、
前記撮像条件設定部は、前記第1撮像条件により設定される設定値と前記第2撮像条件により設定される設定値との差が第1差分では前記第3領域に第1数の撮像条件を設定し、前記第1差分よりも大きい第2差分では前記第2領域に前記第1数よりも大きい第2数の撮像条件を設定する撮像装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022075764A JP7439856B2 (ja) | 2017-03-23 | 2022-05-02 | 撮像装置 |
JP2024020973A JP2024045553A (ja) | 2017-03-23 | 2024-02-15 | 撮像装置 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017057679A JP2018160830A (ja) | 2017-03-23 | 2017-03-23 | 撮像装置 |
JP2022075764A JP7439856B2 (ja) | 2017-03-23 | 2022-05-02 | 撮像装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017057679A Division JP2018160830A (ja) | 2017-03-23 | 2017-03-23 | 撮像装置 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2024020973A Division JP2024045553A (ja) | 2017-03-23 | 2024-02-15 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022115944A JP2022115944A (ja) | 2022-08-09 |
JP7439856B2 true JP7439856B2 (ja) | 2024-02-28 |
Family
ID=63796005
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017057679A Ceased JP2018160830A (ja) | 2017-03-23 | 2017-03-23 | 撮像装置 |
JP2022075764A Active JP7439856B2 (ja) | 2017-03-23 | 2022-05-02 | 撮像装置 |
JP2024020973A Pending JP2024045553A (ja) | 2017-03-23 | 2024-02-15 | 撮像装置 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017057679A Ceased JP2018160830A (ja) | 2017-03-23 | 2017-03-23 | 撮像装置 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2024020973A Pending JP2024045553A (ja) | 2017-03-23 | 2024-02-15 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (3) | JP2018160830A (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020137662A1 (ja) | 2018-12-26 | 2020-07-02 | 富士フイルム株式会社 | 撮像装置、撮像装置の画像データ処理方法、及びプログラム |
EP3952292A4 (en) * | 2019-03-29 | 2022-11-30 | Nikon Corporation | IMAGE CAPTURE ELEMENT AND IMAGE CAPTURE DEVICE |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015092660A (ja) | 2013-10-01 | 2015-05-14 | 株式会社ニコン | 撮像装置、撮像装置の制御方法、電子機器、電子機器の制御方法、及び制御プログラム |
JP2016192606A (ja) | 2015-03-30 | 2016-11-10 | 株式会社ニコン | 電子機器、およびプログラム |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006157862A (ja) * | 2004-11-08 | 2006-06-15 | Matsushita Electric Ind Co Ltd | Mos型撮像素子および撮像装置 |
-
2017
- 2017-03-23 JP JP2017057679A patent/JP2018160830A/ja not_active Ceased
-
2022
- 2022-05-02 JP JP2022075764A patent/JP7439856B2/ja active Active
-
2024
- 2024-02-15 JP JP2024020973A patent/JP2024045553A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015092660A (ja) | 2013-10-01 | 2015-05-14 | 株式会社ニコン | 撮像装置、撮像装置の制御方法、電子機器、電子機器の制御方法、及び制御プログラム |
JP2016192606A (ja) | 2015-03-30 | 2016-11-10 | 株式会社ニコン | 電子機器、およびプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2024045553A (ja) | 2024-04-02 |
JP2018160830A (ja) | 2018-10-11 |
JP2022115944A (ja) | 2022-08-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7363953B2 (ja) | 撮像装置 | |
JP7372034B2 (ja) | 撮像装置、および画像処理装置 | |
CN112714252B (zh) | 摄像装置 | |
WO2017170716A1 (ja) | 撮像装置、画像処理装置、および電子機器 | |
JP7439856B2 (ja) | 撮像装置 | |
WO2017170717A1 (ja) | 撮像装置、焦点調節装置、および電子機器 | |
WO2017170726A1 (ja) | 撮像装置および電子機器 | |
JP6521085B2 (ja) | 撮像装置、および制御装置 | |
JP6589988B2 (ja) | 撮像装置 | |
JP6604385B2 (ja) | 撮像装置 | |
JP6589989B2 (ja) | 撮像装置 | |
WO2017057267A1 (ja) | 撮像装置、および焦点検出装置 | |
WO2017057280A1 (ja) | 撮像装置、および被写体検出装置 | |
WO2017170724A1 (ja) | 撮像装置、レンズ調節装置、および電子機器 | |
JPWO2017170718A1 (ja) | 撮像装置、被写体検出装置、および電子機器 | |
JPWO2017170719A1 (ja) | 撮像装置、および電子機器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220502 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230620 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20230818 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231019 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240116 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240129 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7439856 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |