JP6521085B2 - 撮像装置、および制御装置 - Google Patents
撮像装置、および制御装置 Download PDFInfo
- Publication number
- JP6521085B2 JP6521085B2 JP2017543252A JP2017543252A JP6521085B2 JP 6521085 B2 JP6521085 B2 JP 6521085B2 JP 2017543252 A JP2017543252 A JP 2017543252A JP 2017543252 A JP2017543252 A JP 2017543252A JP 6521085 B2 JP6521085 B2 JP 6521085B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- unit
- condition
- signal
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 1647
- 238000012937 correction Methods 0.000 claims description 453
- 230000035945 sensitivity Effects 0.000 claims description 55
- 238000009825 accumulation Methods 0.000 claims description 41
- 238000012545 processing Methods 0.000 description 569
- 238000001514 detection method Methods 0.000 description 174
- 238000000034 method Methods 0.000 description 163
- 230000008569 process Effects 0.000 description 158
- 238000004364 calculation method Methods 0.000 description 80
- 230000000875 corresponding effect Effects 0.000 description 56
- 230000004048 modification Effects 0.000 description 52
- 238000012986 modification Methods 0.000 description 52
- 238000006243 chemical reaction Methods 0.000 description 45
- 230000035508 accumulation Effects 0.000 description 34
- 238000010586 diagram Methods 0.000 description 29
- 230000003287 optical effect Effects 0.000 description 25
- 238000004891 communication Methods 0.000 description 21
- 238000007781 pre-processing Methods 0.000 description 19
- 230000007547 defect Effects 0.000 description 17
- 230000009467 reduction Effects 0.000 description 13
- 239000004065 semiconductor Substances 0.000 description 12
- 238000003860 storage Methods 0.000 description 12
- 238000012546 transfer Methods 0.000 description 11
- 239000002131 composite material Substances 0.000 description 9
- 230000008859 change Effects 0.000 description 8
- 230000007423 decrease Effects 0.000 description 8
- 238000005286 illumination Methods 0.000 description 8
- 150000001875 compounds Chemical class 0.000 description 6
- 230000015654 memory Effects 0.000 description 5
- 210000001747 pupil Anatomy 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000003595 spectral effect Effects 0.000 description 4
- 239000000758 substrate Substances 0.000 description 4
- 230000001276 controlling effect Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000004907 flux Effects 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 238000002161 passivation Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 241001465754 Metazoa Species 0.000 description 2
- 230000002457 bidirectional effect Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 239000002184 metal Substances 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 238000011946 reduction process Methods 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- PCTMTFRHKVHKIS-BMFZQQSSSA-N (1s,3r,4e,6e,8e,10e,12e,14e,16e,18s,19r,20r,21s,25r,27r,30r,31r,33s,35r,37s,38r)-3-[(2r,3s,4s,5s,6r)-4-amino-3,5-dihydroxy-6-methyloxan-2-yl]oxy-19,25,27,30,31,33,35,37-octahydroxy-18,20,21-trimethyl-23-oxo-22,39-dioxabicyclo[33.3.1]nonatriaconta-4,6,8,10 Chemical compound C1C=C2C[C@@H](OS(O)(=O)=O)CC[C@]2(C)[C@@H]2[C@@H]1[C@@H]1CC[C@H]([C@H](C)CCCC(C)C)[C@@]1(C)CC2.O[C@H]1[C@@H](N)[C@H](O)[C@@H](C)O[C@H]1O[C@H]1/C=C/C=C/C=C/C=C/C=C/C=C/C=C/[C@H](C)[C@@H](O)[C@@H](C)[C@H](C)OC(=O)C[C@H](O)C[C@H](O)CC[C@@H](O)[C@H](O)C[C@H](O)C[C@](O)(C[C@H](O)[C@H]2C(O)=O)O[C@H]2C1 PCTMTFRHKVHKIS-BMFZQQSSSA-N 0.000 description 1
- 241000282326 Felis catus Species 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004737 colorimetric analysis Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000003475 lamination Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 150000004767 nitrides Chemical class 0.000 description 1
- 238000005375 photometry Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Color Television Image Signal Generators (AREA)
Description
第2の態様によると、撮像装置は、被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、前記第2撮像領域から出力された第2信号に対して、前記第1撮像領域の前記第1信号を出力する画素の補間に用いるための補正を行う補正部と、前記設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第2信号により前記第1信号を出力する画素を補間した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える。
第3の態様によると、撮像装置は、被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域から出力された前記第1信号に含まれるノイズを低減するための補正を行う補正部と、前記設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第2信号により前記第1信号に含まれるノイズを低減した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える。
第4の態様によると、撮像装置は、被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、前記第1撮像領域の撮像条件または前記第2撮像領域の撮像条件に基づいて前記第2撮像領域から出力された前記第2信号を補正する補正部と、前記設定部による撮像条件の設定を制御する制御部であって、前記第1信号と前記補正部で補正された前記第2信号とを用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える。
第5の態様によると、撮像装置は、被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、前記第1撮像領域の撮像条件と前記第2撮像領域の撮像条件とに基づいて前記第2撮像領域から出力された前記第2信号を補正する補正部と、前記設定部による撮像条件の設定を制御する制御部であって、前記第1信号と前記補正部で補正された前記第2信号とを用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える。
第6の態様によると、撮像装置は、被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、前記第1撮像領域の撮像条件に基づいて前記第1撮像領域から出力された前記第1信号を補正し、前記第2撮像領域の撮像条件の設定値に基づいて前記第2撮像領域から出力された前記第2信号を補正する補正部と、前記設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第1信号と前記補正部で補正された前記第2信号とを用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える。
第7の態様によると、撮像装置は、被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、前記第1撮像領域から出力された前記第1信号を補正し、前記第2撮像領域から出力された前記第2信号に対して、補正された前記第1信号を出力する画素の補間に用いるための補正を行う補正部と、前記設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第1信号と前記補正部で補正された前記第2信号により補正された前記第1信号を出力する画素を補間した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える。
第8の態様によると、制御装置は、被写体を撮像する撮像素子の第1撮像領域から出力された第1信号の補間に用いるため、前記第1撮像領域とは撮像条件が異なる前記撮像素子の第2撮像領域から出力された第2信号に対して補正を行う補正部と、設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第2信号により前記第1信号を補間した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える。
第9の態様によると、制御装置は、被写体を撮像する撮像素子の第1撮像領域から出力された第1信号に含まれるノイズを低減するため、前記第1撮像領域とは撮像条件が異なる前記撮像素子の第2撮像領域から出力された第2信号に対して補正を行う補正部と、設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第2信号により前記第1信号に含まれるノイズを低減した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える。
第10の態様によると、撮像装置は、入射した光を第1撮像条件で撮像して第1画像データを生成する第1領域と、前記入射した光を前記第1撮像条件とは異なる第2撮像条件で撮像して第2画像データを生成する第2領域と、を有する撮像部と、前記撮像部で生成された前記第1画像データを、前記第2撮像条件に基づいて補正する補正部と、前記補正部で補正された前記第1画像データと、前記撮像部で生成された前記第2画像データとに基づいて撮像条件を設定する設定部と、を備える。
第11の態様によると、制御装置は、撮像部の第1領域に入射した光を第1撮像条件で撮像することにより生成された第1画像データを、前記撮像部の第2領域に入射した光を撮像する前記第1撮像条件とは異なる第2撮像条件に基づいて補正する補正部と、前記補正部で補正された前記第1画像データと、前記第2撮像条件で撮像することにより生成された第2画像データとに基づいて前記撮像部の撮像条件を設定する設定部と、を備える。
第1の実施の形態による画像処理装置を搭載する電子機器の一例として、デジタルカメラを例にあげて説明する。カメラ1(図1)は、撮像素子32aにおける撮像面の領域ごとに異なる条件で撮像を行うことが可能に構成される。画像処理部33は、撮像条件が異なる領域においてそれぞれ適切な処理を行う。このようなカメラ1の詳細について、図面を参照して説明する。
図1は、第1の実施の形態によるカメラ1の構成を例示するブロック図である。図1において、カメラ1は、撮像光学系31と、撮像部32と、画像処理部33と、制御部34と、表示部35と、操作部材36と、記録部37とを有する。
上述した撮像素子32aの一例として積層型の撮像素子100について説明する。図2は、撮像素子100の断面図である。撮像素子100は、撮像チップ111と、信号処理チップ112と、メモリチップ113とを備える。撮像チップ111は、信号処理チップ112に積層されている。信号処理チップ112は、メモリチップ113に積層されている。撮像チップ111および信号処理チップ112、信号処理チップ112およびメモリチップ113は、それぞれ接続部109により電気的に接続されている。接続部109は、例えばバンプや電極である。撮像チップ111は、被写体からの光像を撮像して画像データを生成する。撮像チップ111は、画像データを撮像チップ111から信号処理チップ112へ出力する。信号処理チップ112は、撮像チップ111から出力された画像データに対して信号処理を施す。メモリチップ113は、複数のメモリを有し、画像データを記憶する。なお、撮像素子100は、撮像チップおよび信号処理チップで構成されてもよい。撮像素子100が撮像チップおよび信号処理チップで構成されている場合、画像データを記憶するための記憶部は、信号処理チップに設けられてもよいし、撮像素子100とは別に設けていてもよい。
本実施の形態では、撮像素子32aにおける複数のブロックごとに撮像条件を設定可能に構成される。制御部34(撮像制御部34c)は、上記複数の領域を上記ブロックに対応させて、領域ごとに設定された撮像条件で撮像を行わせる。
制御部34は、ライブビュー画像に基づき、以下のようにライブビュー画像の画面を複数の領域に分割する。先ず、物体検出部34aによってライブビュー画像から被写体要素を検出する。被写体要素の検出は、公知の被写体認識技術を用いる。図5の例では、物体検出部34aが、人物61aと、自動車62aと、バッグ63aと、山64aと、雲65aと、雲66aとを被写体要素として検出する。
制御部34は、設定部34bによって画面を複数の領域に分割すると、図6に例示するような設定画面を表示部35に表示させる。図6において、ライブビュー画像60aが表示され、ライブビュー画像60aの右側に撮像条件の設定画面70が表示される。
以降の説明では、タッチ操作を前提としてカメラ1の説明を行うが、操作部材36を構成するボタン等の操作により、撮像条件の設定(変更)を行うようにしてもよい。
強調表示されていない領域(領域61以外の他の領域)については、設定されている撮像条件が維持される。
上述したように、本実施の形態では、設定部34bにより撮像画面の領域を分割した後は、ユーザーによって選択された領域、または、制御部34が判断した領域に対して撮像条件を設定(変更)することが可能に構成されている。分割した領域において異なる撮像条件を設定した場合、制御部34は、必要に応じて以下の補正処理を行わせる。
画像処理部33(補正部33b)は、分割した領域間で異なる撮像条件を適用して取得された画像データに対する画像処理が所定の画像処理である場合において、領域の境界付近に位置する画像データに対し、画像処理の前処理として補正処理を行う。所定の画像処理は、画像において処理対象とする注目位置の画像データを、注目位置の周囲の複数の参照位置の画像データを参照して算出する処理であり、例えば、画素欠陥補正処理、色補間処理、輪郭強調処理、ノイズ低減処理などが該当する。
画像処理部33(補正部33b)は、例えば、第1撮像条件と第2撮像条件との間でISO感度のみが異なり、第1撮像条件のISO感度が100で、第2撮像条件のISO感度が800の場合、参照画素の画像データのうちの第2撮像条件の画像データに対し、補正処理として100/800をかける。これにより、撮像条件の相違による画像データ間の差異を小さくする。
なお、注目画素Pへの入射光量と参照画素への入射光量とが同じ場合には画像データの差異が小さくなるが、もともと注目画素Pへの入射光量と参照画素への入射光量とが異なっている場合などには、画像データの差異が小さくならない場合もある。後述する例も同様である。
画像処理部33(補正部33b)は、例えば、第1撮像条件と第2撮像条件との間でシャッター速度のみが異なり、第1撮像条件のシャッター速度が1/1000秒で、第2撮像条件のシャッター速度が1/100秒の場合、参照画素の画像データのうちの第2撮像条件の画像データに対し、補正処理として1/1000/1/100=1/10をかける。これにより、撮像条件の相違による画像データ間の差異を小さくする。
画像処理部33(補正部33b)は、例えば、第1撮像条件と第2撮像条件との間でフレームレートのみが異なり(電荷蓄積時間は同じ)、第1撮像条件のフレームレートが30fpsで、第2撮像条件のフレームレートが60fpsの場合、参照画素の画像データのうちの第2撮像条件(60fps)の画像データについて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の画像データを採用することを補正処理とする。これにより、撮像条件の相違による画像データ間の差異を小さくする。
なお、第2撮像条件(60fps)で取得した前後する複数のフレーム画像に基づいて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の画像データを補間算出することを補正処理としてもよい。
なお、上述したように、撮像条件に多少の差違があっても同一の撮像条件とみなす。
補正処理を伴う画像処理について例示する。
(1)画素欠陥補正処理
本実施の形態において、画素欠陥補正処理は、撮像時に行う画像処理の1つである。一般に、固体撮像素子である撮像素子32aは、製造過程や製造後において画素欠陥が生じ、異常なレベルの画像データを出力する場合がある。そこで、画像処理部33(生成部33c)は、画素欠陥が生じた画素から出力された画像データを補正することにより、画素欠陥が生じた画素位置における画像データを目立たないようにする。
本実施の形態において、色補間処理は、撮像時に行う画像処理の1つである。図3に例示したように、撮像素子100の撮像チップ111は、緑色画素Gb、Gr、青色画素Bおよび赤色画素Rがベイヤー配列されている。画像処理部33(生成部33c)は、各画素位置において配置されたカラーフィルタFの色成分と異なる色成分の画像データが不足するので、周辺の画素位置の画像データを参照して不足する色成分の画像データを生成する色補間処理を行う。
<G色補間>
まず、一般的なG色補間について説明する。G色補間を行う画像処理部33(生成部33c)は、R色成分およびB色成分の位置を順番に注目位置として、注目位置の周囲の参照位置の4つのG色成分の画像データを参照して注目位置におけるG色成分の画像データを生成する。例えば、図8(b)の太枠(左上位置から数えて2行目2列目。以降も同様に、左上位置から数えて注目位置を表すものとする)で示す注目位置においてG色成分の画像データを生成する場合、注目位置(2行目2列目)の近傍に位置する4つのG色成分の画像データG1〜G4を参照する。画像処理部33(生成部33c)は、例えば(aG1+bG2+cG3+dG4)/4を、注目位置(2行目2列目)におけるG色成分の画像データとする。なお、a〜dは参照位置と注目位置との間の距離や画像構造に応じて設けられる重み係数である。
図9(a)は、図8(a)からR色成分の画像データを抽出した図である。画像処理部33(生成部33c)は、図8(c)に示すG色成分の画像データと図9(a)に示すR色成分の画像データとに基づいて図9(b)に示す色差成分Crの画像データを算出する。
また、図9(c)において、太枠(2行目3列目)で示す位置が色差成分Crの注目位置である。また、図9(c)中の色差成分の画像データCr2、Cr4、Cr5、Cr6が注目位置(2行目3列目)の画素を画像処理するための参照位置である。図9(c)において、注目位置(2行目3列目)には第2撮像条件が適用されている。参照位置のうち、画像データCr4、Cr5には第1撮像条件が適用されている。また、参照位置のうち、画像データCr2、Cr6には第2撮像条件が適用されている。そのため、画像処理部33(補正部33b)は、画像データCr4およびCr5に対してそれぞれ補正処理を行う。その後、画像処理部33(生成部33c)が注目位置(2行目3列目)における色差成分Crの画像データを算出する。
図10(a)は、図8(a)からB色成分の画像データを抽出した図である。画像処理部33(生成部33c)は、図8(c)に示すG色成分の画像データと図10(a)に示すB色成分の画像データとに基づいて図10(b)に示す色差成分Cbの画像データを算出する。
また、図10(c)において、太枠(3行目4列目)で示す位置が色差成分Cbの注目位置である。また、図10(c)中の色差成分の画像データCb2、Cb4〜Cb6が注目位置(3行目4列目)の画素を画像処理するための参照位置である。図10(c)において、注目位置(3行目4列目)には第2撮像条件が適用されている。また、全ての参照位置の画像データCb2、Cb4〜Cb6に第2撮像条件が適用されている。そのため、画像処理部33(生成部33c)は、画像処理部33(補正部33b)によって補正処理が行われていない参照位置の画像データCb2、Cb4〜Cb6を参照して、注目位置(3行目4列目)における色差成分Cbの画像データを算出する。
なお、上記「G色補間」では、例えば、図8(b)の太枠(2行目2列目)で示す注目位置においてG色成分の画像データを生成する場合、注目位置の近傍に位置する4つのG色成分の画像データG1〜G4を参照するとしているが、画像構造によって参照するG色成分の画像データの数を変更してもよい。例えば、注目位置付近の画像が縦方向に類似性を有している(例えば、縦縞のパターン)場合は、注目位置の上下の画像データ(図8(b)のG1とG2)だけを用いて補間処理を行う。また、例えば、注目位置付近の画像が横方向に類似性を有している(例えば、横縞のパターン)場合は、注目位置の左右の画像データ(図8(b)のG3とG4)だけを用いて補間処理を行う。これらの場合、補正部33bにより補正を行う画像データG4を用いる場合と用いない場合がある。
輪郭強調処理の一例を説明する。画像処理部33(生成部33c)は、例えば、1フレームの画像において、注目画素P(処理対象画素)を中心とする所定サイズのカーネルを用いた公知の線形フィルタ(Linear filter)演算を行う。線型フィルタの一例である尖鋭化フィルタのカーネルサイズがN×N画素の場合、注目画素Pの位置が注目位置であり、注目画素Pを囲む(N2−1)個の参照画素の位置が参照位置である。
なお、カーネルサイズはN×M画素であってもよい。
ノイズ低減処理の一例を説明する。画像処理部33(生成部33c)は、例えば、1フレームの画像において、注目画素P(処理対象画素)を中心とする所定サイズのカーネルを用いた公知の線形フィルタ(Linear filter)演算を行う。線型フィルタの一例である平滑化フィルタのカーネルサイズがN×N画素の場合、注目画素Pの位置が注目位置であり、注目画素Pを囲む(N2−1)個の参照画素の位置が参照位置である。
なお、カーネルサイズはN×M画素であってもよい。
制御部34(AF演算部34d)は、撮像画面の所定の位置(焦点検出位置)に対応する信号データ(画像データ)を用いて焦点検出処理を行う。制御部34(AF演算部34d)は、分割した領域間で異なる撮像条件が設定されており、AF動作の焦点検出位置が分割された領域の境界部分に位置する場合、少なくとも1つの領域の焦点検出用の信号データに対し、焦点検出処理の前処理として補正処理を行う。
補正処理を伴う焦点検出処理について例示する。本実施の形態のAF動作は、例えば、撮像画面における複数の焦点検出位置の中からユーザーが選んだ焦点検出位置に対応する被写体にフォーカスを合わせる。制御部34(AF演算部34d(生成部))は、撮像光学系31の異なる瞳領域を通過した光束による複数の被写体像の像ズレ量(位相差)を検出することにより、撮像光学系31のデフォーカス量を算出する。制御部34(AF演算部34d)は、デフォーカス量をゼロ(許容値以下)にする位置、すなわち合焦位置へ、撮像光学系31のフォーカスレンズを移動させる。
制御部34(AF演算部34d)は、例えば、第1撮像条件と第2撮像条件との間でISO感度のみが異なり、第1撮像条件のISO感度が100で、第2撮像条件のISO感度が800の場合、第2撮像条件の信号データに対し、補正処理として100/800をかける。これにより、撮像条件の相違による信号データ間の差異を小さくする。
なお、第1撮像条件が適用された画素への入射光量と第2撮像条件が適用された画素への入射光量とが同じ場合には信号データの差異が小さくなるが、もともと第1撮像条件が適用された画素への入射光量と第2撮像条件が適用された画素への入射光量とが異なっている場合などには、信号データの差異が小さくならない場合もある。後述する例も同様である。
制御部34(AF演算部34d)は、例えば、第1撮像条件と第2撮像条件との間でシャッター速度のみが異なり、第1撮像条件のシャッター速度が1/1000秒で、第2撮像条件のシャッター速度が1/100秒の場合、第2撮像条件の信号データに対し、補正処理として1/1000/1/100=1/10をかける。これにより、撮像条件の相違による信号データ間の差異を小さくする。
制御部34(AF演算部34d)は、例えば、第1撮像条件と第2撮像条件との間でフレームレートのみが異なり(電荷蓄積時間は同じ)、第1撮像条件のフレームレートが30fpsで、第2撮像条件のフレームレートが60fpsの場合、第2撮像条件(60fps)の信号データについて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の信号データを採用することを補正処理とする。これにより、撮像条件の相違による信号データ間の差異を小さくする。
なお、第2撮像条件(60fps)で取得した前後する複数のフレーム画像に基づいて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の信号データを補間算出することを補正処理としてもよい。
また、上記の例では、信号データのうちの第2撮像条件の信号データに対して第1撮像条件により補正処理を行う例を説明したが、信号データのうちの第1撮像条件の信号データに対して第2撮像条件により補正処理を行ってもよい。
制御部34(AF演算部34d)が、第1撮像条件の信号データに対して補正処理を行うか、第2撮像条件の信号データに対して補正処理を行うかを、たとえば、ISO感度に基づいて決定するようにしてもよい。第1撮像条件と第2撮像条件とでISO感度が異なる場合、ISO感度が高い方の撮像条件で得られた信号データが飽和していなければ、ISO感度が低い方の撮像条件で得られた信号データに対して補正処理を行うことが望ましい。すなわち、第1撮像条件と第2撮像条件とでISO感度が異なる場合、明るい方の信号データとの差を小さくするように暗い方の信号データを補正処理することが望ましい。
図14(a)は、検出しようとする対象物を表すテンプレート画像を例示する図であり、図14(b)は、ライブビュー画像60(a)および探索範囲190を例示する図である。制御部34(物体検出部34a)は、ライブビュー画像から対象物(例えば、図5の被写体要素の一つであるバッグ63a)を検出する。制御部34(物体検出部34a)は、対象物を検出する範囲をライブビュー画像60aの全範囲としてもよいが、検出処理を軽くするために、ライブビュー画像60aの一部を探索範囲190としてもよい。
なお、上述したように、撮像条件に多少の差違があっても同一の撮像条件とみなす。
また、上記の例では、画像データのうちの第2撮像条件の画像データに対して第1撮像条件により補正処理を行う例を説明したが、画像データのうちの第1撮像条件の画像データに対して第2撮像条件により補正処理を行ってもよい。
制御部34(設定部34b)は、撮像画面の領域を分割し、分割した領域間で異なる撮像条件を設定した状態で、新たに測光し直して露出条件を決定する場合、少なくとも1つの領域の画像データに対し、露出条件を設定する前処理として補正処理を行う。
なお、上述したように、撮像条件に多少の差違があっても同一の撮像条件とみなす。
また、上記の例では、画像データのうちの第2撮像条件の画像データに対して第1撮像条件により補正処理を行う例を説明したが、画像データのうちの第1撮像条件の画像データに対して第2撮像条件により補正処理を行ってもよい。
図15は、領域ごとに撮像条件を設定して撮像する処理の流れを説明するフローチャートである。カメラ1のメインスイッチがオン操作されると、制御部34は、図15に示す処理を実行するプログラムを起動させる。ステップS10において、制御部34は、表示部35にライブビュー表示を開始させて、ステップS20へ進む。
なお、ライブビュー表示中にAF動作を行う設定がなされている場合、制御部34(AF演算部34d)は、焦点検出処理を行うことにより、所定の焦点検出位置に対応する被写体要素にフォーカスを合わせるAF動作を制御する。AF演算部34dは、必要に応じて、上記補正処理を行ってから焦点検出処理を行う。
また、ライブビュー表示中にAF動作を行う設定がなされていない場合、制御部34(AF演算部34d)は、後にAF動作が指示された時点でAF動作を行う。
なお、制御部34は、ユーザーの指で表示画面上の他の主要被写体の表示位置がタップ操作された場合は、その主要被写体を含む領域を撮像条件の設定(変更)の対象となる領域に変更して強調表示させる。
なお、画像処理部33(補正部33b)は、必要に応じて、領域の境界付近に位置する画像データに対して補正処理を行ってから画像処理を行う。
(1)制御装置を備えるカメラ1は、撮像部32の第1領域に入射した被写体像を第1撮像条件で撮像することにより生成された第1画像データを、撮像部32の第2領域に入射した被写体像を撮像する第2撮像条件に基づいて補正する画像処理部33(補正部33b)と、補正部33bで補正された第1画像データと、第2撮像条件で撮像することにより生成された第2画像データとに基づいて撮像条件を設定する制御部34(設定部34b)と、を備える。これにより、撮像条件が異なる領域で、それぞれ適切に処理を行うことができる。すなわち、各領域でそれぞれ生成された画像データに基づいて、適切に設定を行うことができる。例えば、領域ごとの撮像条件の違いによって、露出条件の設定精度が低下することを抑制できる。
次のような変形も本発明の範囲内であり、変形例の一つ、もしくは複数を上述の実施の形態と組み合わせることも可能である。
(変形例1)
図16(a)〜図16(c)は、撮像素子32aの撮像面における第1領域および第2領域の配置を例示する図である。図16(a)の例によれば、第1領域は偶数列によって構成され、第2領域は奇数列によって構成される。すなわち、撮像面が偶数列と奇数列とに分割されている。
なお、焦点検出処理、被写体検出処理、および露出演算処理に適した条件がそれぞれ異なる場合は、制御部34は、第2領域に設定する第2撮像条件をフレームごとに異ならせてもよい。例えば、1フレーム目の第2撮像条件を焦点検出処理に適した条件とし、2フレーム目の第2撮像条件を被写体検出処理に適した条件とし、3フレーム目の第2撮像条件を露出演算処理に適した条件とする。これらの場合において、各フレームにおける第2撮像条件を撮像画面の第2領域の全体で同一にする。
画像処理を行う場合の補正処理は、注目位置において適用された撮像条件(第1撮像条件とする)と、注目位置の周囲の参照位置において適用された撮像条件(第2撮像条件とする)とが異なる場合において、画像処理部33(補正部33b)が、第2撮像条件の画像データ(参照位置の画像データのうちの第2撮像条件の画像データ)を第1撮像条件に基づいて補正した。すなわち、参照位置の第2撮像条件の画像データを補正処理することによって、第1撮像条件と第2撮像条件との差異に基づく画像の不連続性を緩和するようにした。
例えば、上記(例1)において、第1撮像条件(ISO感度が100)である、参照画素の画像データに、補正処理として400/100をかけ、第2撮像条件(ISO感度が800)である参照画素の画像データに、補正処理として400/800をかける。これにより、撮像条件の相違による画像データ間の差異を小さくする。なお、注目画素の画素データは、色補間処理後に100/400をかける補正処理を行う。この補正処理により色補間処理後の注目画素の画素データを第1撮像条件で撮像した場合と同様の値に変更することができる。さらに、上記(例1)において、第1領域と第2領域との境界からの距離によって補正処理の程度を変えても良い。そして上記(例1)の場合に比べて補正処理により画像データが増加や減少する割合を少なくすることができ、補正処理により生じるノイズを減らすことができる。以上では、上記(例1)について説明したが、上記(例2)にも同様に適用することができる。
上述した説明では、画像データに対して補正処理を行う際に、第1撮像条件と第2撮像条件との差違に基づく演算を行うことにより、補正後の画像データを求めるようにした。演算の代わりに、補正用テーブルを参照することによって補正後の画像データを求めてもよい。例えば、引数として第1撮像条件および第2撮像条件を入力することにより、補正後の画像データを読み出す。あるいは、引数として第1撮像条件および第2撮像条件を入力することにより、補正係数を読み出す構成にしてもよい。
上述した補正処理において、補正後の画像データの上限や下限を定めておいてもよい。上限値、下限値を設けることにより、必要以上の補正をしないように制限することができる。上限値、下限値は、あらかじめ決めておいてもよいし、撮像素子32aと別に測光用センサを備える場合には、測光用センサからの出力信号に基づき決定してもよい。
上記実施の形態では、制御部34(設定部34b)がライブビュー画像に基づき被写体要素を検出し、ライブビュー画像の画面を、被写体要素を含む領域に分割する例を説明した。変形例5において、制御部34は、撮像素子32aと別に測光用センサを備える場合には、測光用センサからの出力信号に基づき領域を分割してもよい。
変形例6では、画像処理部33(生成部33c)が、補正処理の一例としてコントラスト調整処理を行う。すなわち、生成部33cは、階調カーブ(ガンマカーブ)を異ならせることにより、第1撮像条件と第2撮像条件との間の差異に基づく画像の不連続性を緩和する。
変形例7においては、画像処理部33が、上述した画像処理(例えば、ノイズ低減処理)において、被写体要素の輪郭を損なわないようにする。一般に、ノイズ低減を行う場合は平滑化フィルタ処理が採用される。平滑化フィルタを用いる場合、ノイズ低減効果の一方で被写体要素の境界がぼける場合がある。
変形例8においては、画像処理部33(生成部33c)が、第1撮像条件と第2撮像条件との差異に基づく画像の不連続性を緩和するように、ホワイトバランス調整ゲインを変更する。
画像処理部33を複数備え、画像処理を並列処理してもよい。例えば、撮像部32の領域Aで撮像された画像データに対して画像処理をしながら、撮像部32の領域Bで撮像された画像データに対して画像処理を行う。複数の画像処理部33は、同じ画像処理を行ってもよいし、異なる画像処理を行ってもよい。すなわち、領域Aおよび領域Bの画像データに対して同じパラメータ等を適用して同様の画像処理をしたり、領域Aおよび領域Bの画像データに対して異なるパラメータ等を適用して異なる画像処理をしたりすることができる。
上述した説明では、カメラ1を例に説明したが、スマートフォンのようにカメラ機能を備えた高機能携帯電話機250(図18)や、タブレット端末などのモバイル機器によって構成してもよい。
上述した実施の形態では、撮像部32と制御部34とを単一の電子機器として構成したカメラ1を例に説明した。この代わりに、例えば、撮像部32と制御部34とを分離して設け、制御部34から通信を介して撮像部32を制御する撮像システム1Bを構成してもよい。
以下、図17を参照して撮像部32を備えた撮像装置1001を、制御部34を備えた表示装置1002から制御する例を説明する。
なお、撮像装置1001と表示装置1002とを有線ケーブルにより有線接続し、第1通信部1003および第2通信部1004が双方向の画像データ通信を行う構成にしてもよい。
表示装置1002は、例えば、スマートフォンのような高機能携帯電話機250によって構成することができる。また、撮像装置1001は、上述した積層型の撮像素子100を備える電子機器によって構成することができる。
なお、表示装置1002の制御部34に物体検出部34aと、設定部34bと、撮像制御部34cと、AF演算部34dとを設ける例を説明したが、物体検出部34a、設定部34b、撮像制御部34c、およびAF演算部34dの一部について、撮像装置1001に設けるようにしてもよい。
上述したカメラ1、高機能携帯電話機250、またはタブレット端末などのモバイル機器へのプログラムの供給は、例えば図18に例示するように、プログラムを格納したパーソナルコンピュータ205から赤外線通信や近距離無線通信によってモバイル機器へ送信することができる。
図19〜25を参照して、第2の実施の形態による画像処理装置を搭載する電子機器の一例として、デジタルカメラを例にあげて説明する。以下の説明では、第1の実施の形態と同じ構成要素には同じ符号を付して相違点を主に説明する。特に説明しない点については、第1の実施の形態と同じである。本実施の形態では、主に、第1の実施の形態の画像処理部33を設ける代わりに、撮像部32Aが第1の実施の形態の画像処理部33と同様の機能を有する画像処理部32cをさらに含む点で、第1の実施の形態と異なる。
これにより、画像データの前処理を複数の補正部322で並列処理できるので、補正部322における処理負担を軽減でき、撮像条件が異なる領域でそれぞれ生成された画像データから適切な画像を短時間で生成することができる。
なお、以下の説明では、あるブロック111aと、当該ブロック111aに含まれる画素との関係について説明する際に、当該ブロック111aのことを、当該画素が属するブロック111aと呼ぶことがある。また、ブロック111aを単位区分と呼ぶことがあり、ブロック111aが複数集まったもの、すなわち単位区分が複数集まったものを複合区分と呼ぶことがある。
これら撮像チップ111、信号処理チップ112、メモリチップ113および画像処理チップ114は積層されており、Cu等の導電性を有するバンプ109により互いに電気的に接続される。
第1の実施の形態と同様に、第2の実施の形態では、設定部34bにより撮像画面の領域を分割した後は、ユーザーによって選択された領域、または、制御部34が判断した領域に対して撮像条件を設定(変更)することが可能に構成されている。分割した領域において異なる撮像条件を設定した場合、制御部34は、必要に応じて補正部322に以下の補正処理を行わせる。
1−1.注目画素Pの撮像条件と注目画素Pの周囲の複数の参照画素の撮像条件とが同一である場合
この場合、画像処理部32cでは、補正部322が補正処理を行わず、生成部323が補正されていない複数の参照画素の画像データを利用して画像処理を行う。
注目画素Pにおいて適用された撮像条件を第1撮像条件とし、複数の参照画素の一部に適用された撮像条件が第1撮像条件であり、残りの参照画素に適用された撮像条件が第2撮像条件であるとする。
この場合には、第2撮像条件が適用された参照画素が属するブロック111aに対応する補正部322は、当該第2撮像条件が適用された参照画素の画像データに対して以下の(例1)〜(例3)のように補正処理を行う。そして、生成部323は、第1撮像条件が適用された参照画素の画像データと、補正処理後の参照画素の画像データとを参照して注目画素Pの画像データを算出する画像処理を行う。
第2撮像条件が適用された参照画素が属するブロック111aに対応する補正部322は、例えば、第1撮像条件と第2撮像条件との間でISO感度のみが異なり、第1撮像条件のISO感度が100で、第2撮像条件のISO感度が800の場合、当該参照画素の画像データに対し、補正処理として100/800をかける。これにより、撮像条件の相違による画像データ間の差異を小さくする。
第2撮像条件が適用された参照画素が属するブロック111aに対応する補正部322は、例えば、第1撮像条件と第2撮像条件との間でシャッター速度のみが異なり、第1撮像条件のシャッター速度が1/1000秒で、第2撮像条件のシャッター速度が1/100秒の場合、当該参照画素の画像データに対し、補正処理として1/1000/1/100=1/10をかける。これにより、撮像条件の相違による画像データ間の差異を小さくする。
第2撮像条件が適用された参照画素が属するブロック111aに対応する補正部322は、例えば、第1撮像条件と第2撮像条件との間でフレームレートのみが異なり(電荷蓄積時間は同じ)、第1撮像条件のフレームレートが30fpsで、第2撮像条件のフレームレートが60fpsの場合、当該参照画素の画像データ、すなわち第2撮像条件(60fps)の画像データについて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の画像データを採用することを補正処理とする。これにより、撮像条件の相違による画像データ間の差異を小さくする。
なお、第2撮像条件(60fps)で取得した前後する複数のフレーム画像に基づいて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の画像データを補間算出することを補正処理としてもよい。
同様に、第2画像データは、処理チップ114に設けられた補正部322のうち、第2画像データを生成した画素が属するブロック111aに対応する補正部322に出力される。以下の説明では、それぞれの第2画像データを生成した各画素が属する複数のブロック111aにそれぞれ対応する複数の補正部322を第2処理部152と呼ぶ。
同様に、たとえば、注目画素Pが第2領域142に含まれる場合、第1領域141に含まれる参照画素からの第1画像データは、第1処理部151で上述した補正処理が行われる。なお、第1処理部151は、撮像条件の相違による画像データ間の差異を小さくするために必要な第2撮像条件についての情報を、第2処理部152から受信する。
あるいは、第1処理部151と第2処理部152により、それぞれ第1撮像条件の画像データおよび第2撮像条件の画像データの双方を補正してもよい。すなわち、第1撮像条件の注目位置の画像データ、参照位置の画像データのうちの第1撮像条件の画像データ、および参照位置の画像データのうちの第2撮像条件の画像データに対してそれぞれ補正処理を施すことにより、第1撮像条件と第2撮像条件との差異に基づく画像の不連続性を緩和するようにしてもよい。
例えば、上記(例1)において、第1撮像条件(ISO感度が100)である、参照画素の画像データに、補正処理として400/100をかけ、第2撮像条件(ISO感度が800)である参照画素の画像データに、補正処理として400/800をかける。これにより、撮像条件の相違による画像データ間の差異を小さくする。なお、注目画素の画素データは、色補間処理後に100/400をかける補正処理を行う。この補正処理により色補間処理後の注目画素の画素データを第1撮像条件で撮像した場合と同様の値に変更することができる。さらに、上記(例1)において、第1領域と第2領域との境界からの距離によって補正処理の程度を変えても良い。そして上記(例1)の場合に比べて補正処理により画像データが増加や減少する割合を少なくすることができ、補正処理により生じるノイズを減らすことができる。以上では、上記(例1)について説明したが、上記(例2)にも同様に適用することができる。
第1の実施形態と同様に、制御部34(AF演算部34d)は、撮像画面の所定の位置(焦点検出位置)に対応する信号データ(画像データ)を用いて焦点検出処理を行う。なお、分割した領域間で異なる撮像条件が設定されており、AF動作の焦点検出位置が分割された領域の境界部分に位置する場合、すなわち焦点検出位置が第1領域と第2領域とで2分されている場合、本実施の形態では、以下の2−2.で説明するように、制御部34(AF演算部34d)は、補正部322に対して少なくとも1つの領域の焦点検出用の信号データに対する補正処理を行わせる。
この場合、補正部322は補正処理を行わず、制御部34(AF演算部34d)は枠170で示す焦点検出用画素による信号データをそのまま用いて焦点検出処理を行う。
この場合には、制御部34(AF演算部34d)は、枠170内の画素のうち、第2撮像条件が適用された画素が属するブロック111aに対応する補正部322に対して以下の(例1)〜(例3)のように補正処理を行わせる。そして、制御部34(AF演算部34d)は、第1撮像条件が適用された画素の信号データと、補正処理後の信号データとを用いて焦点検出処理を行う。
第2撮像条件が適用された画素が属するブロック111aに対応する補正部322は、例えば、第1撮像条件と第2撮像条件との間でISO感度のみが異なり、第1撮像条件のISO感度が100で、第2撮像条件のISO感度が800の場合、第2撮像条件の信号データに対し、補正処理として100/800をかける。これにより、撮像条件の相違による信号データ間の差異を小さくする。
第2撮像条件が適用された画素が属するブロック111aに対応する補正部322は、例えば、第1撮像条件と第2撮像条件との間でシャッター速度のみが異なり、第1撮像条件のシャッター速度が1/1000秒で、第2撮像条件のシャッター速度が1/100秒の場合、第2撮像条件の信号データに対し、補正処理として1/1000/1/100=1/10をかける。これにより、撮像条件の相違による信号データ間の差異を小さくする。
第2撮像条件が適用された画素が属するブロック111aに対応する補正部322は、例えば、第1撮像条件と第2撮像条件との間でフレームレートのみが異なり(電荷蓄積時間は同じ)、第1撮像条件のフレームレートが30fpsで、第2撮像条件のフレームレートが60fpsの場合、第2撮像条件(60fps)の信号データについて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の信号データを採用することを補正処理とする。これにより、撮像条件の相違による信号データ間の差異を小さくする。
なお、第2撮像条件(60fps)で取得した前後する複数のフレーム画像に基づいて、第1撮像条件(30fps)で取得されたフレーム画像と取得開始タイミングが近いフレーム画像の信号データを補間算出することを補正処理としてもよい。
また、上記の例では、信号データのうちの第2撮像条件の信号データに対して補正処理を行う例を説明したが、信号データのうちの第1撮像条件の信号データに対して補正処理を行ってもよい。
なお、信号データのうちの第2撮像条件の信号データに対して補正処理を行うことにより、補正処理後の信号データと第1撮像条件の信号データとの差を小さくする場合、第1処理部151は、第1信号データを補正しない。
なお、信号データのうちの第1撮像条件の信号データに対して補正処理を行うことにより、補正処理後の信号データと第1撮像条件の信号データとの差を小さくする場合、第2処理部152は、第2信号データを補正しない。
分割した領域間で異なる撮像条件が設定されており、探索範囲190が分割された領域の境界を含む場合、本実施の形態では、以下の3−2.で説明するように、制御部34(物体検出部34a)は、補正部322に対して探索範囲190内の少なくとも1つの領域の画像データに対する補正処理を行わせる。
この場合、補正部322は補正処理を行わず、制御部34(物体検出部34a)は探索範囲190を構成する画像データをそのまま用いて被写体検出処理を行う。
この場合、制御部34(物体検出部34a)は、探索範囲190の画像のうち、第2撮像条件が適用された画素が属するブロック111aに対応する補正部322に対して、焦点検出処理を行う場合として上述した(例1)〜(例3)のように補正処理を行わせる。そして、制御部34(物体検出部34a)は、第1条件が適用された画素の画像データと、補正処理後の画像データとを用いて被写体検出処理を行う。
撮像画面の領域を分割し、分割した領域間で異なる撮像条件を設定した状態で、新たに測光し直して露出条件を決定する場合について説明する。
この場合、補正部322は補正処理を行わず、制御部34(設定部34b)は測光範囲を構成する画像データをそのまま用いて露出演算処理を行う。
この場合、制御部34(設定部34b)は、測光範囲の画像データのうち、第2撮像条件が適用された画素が属するブロック111aに対応する補正部322に対して、焦点検出処理を行う場合として上述した(例1)〜(例3)のように補正処理を行わせる。そして、制御部34(設定部34b)は、補正処理後の画像データを用いて露出演算処理を行う。
(1)カメラ1Cは、撮像面の単位区分毎に撮像条件を変更して撮像可能であり、第1撮像条件で撮像した少なくとも一つの単位区分からなる第1領域からの第1画像データと、第1撮像条件とは異なる第2撮像条件で撮像した少なくとも一つの単位区分からなる第2領域からの第2画像データとを生成する撮像素子32aを備える。カメラ1Cは、単位区分毎に、または、単位区分を複数有する複合区分毎に対応して設けられ、対応する単位区分、または対応する複合区分内の単位区分からの画像データを補正可能な複数の補正部322を備える。第2領域内の単位区分または複合区分に対応する補正部322は、第1画像データを、第2撮像条件により補正する。撮像素子32aは、裏面照射型撮像チップ111に設けられている。複数の補正部322は、画像処理チップ114に設けられている。
これにより、画像データの補正処理を複数の補正部322で並列処理できるので、補正部322における処理負担を軽減できる。
これにより、画像データの補正処理を複数の補正部322で並列処理できるので、補正部322における処理負担を軽減できるとともに、複数の補正部322による前処理が並列処理によって短時間に行われるので、AF演算部34dでの焦点検出処理の開始までの時間を短縮化でき、焦点検出処理の高速化に資する。
これにより、画像データの補正処理を複数の補正部322で並列処理できるので、補正部322における処理負担を軽減できるとともに、複数の補正部322による前処理が並列処理によって短時間に行われるので、物体検出部34aでの被写体検出処理の開始までの時間を短縮化でき、被写体検出処理の高速化に資する。
これにより、画像データの補正処理を複数の補正部322で並列処理できるので、補正部322における処理負担を軽減できるとともに、複数の補正部322による前処理が並列処理によって短時間に行われるので、設定部34bでの撮像条件の設定処理の開始までの時間を短縮化でき、撮像条件の設定処理の高速化に資する。
次のような変形も本発明の範囲内であり、変形例の一つ、もしくは複数を上述の実施の形態と組み合わせることも可能である。
(変形例13)
第1の実施の形態の変形例1における図16(a)〜図16(c)に示すように、撮像素子32aの撮像面において第1領域および第2領域を配置した場合の第1画像データと第2画像データとの処理について説明する。
本変形例においても、変形例1と同様に、図16(a)〜図16(c)のいずれの場合も、1フレームの撮像を行った撮像素子32aから読み出した画素信号によって、第1領域から読み出した画像信号に基づく第1画像および第2領域から読み出した画像信号に基づく第2画像がそれぞれ生成される。本変形例においても、変形例1と同様に、制御部34は、第1画像を表示用として用いるとともに、第2画像を検出用として用いる。
第1画像を撮像する第1領域に設定する撮像条件を第1撮像条件と呼び、第2画像を撮像する第2領域に設定する撮像条件を第2撮像条件と呼ぶこととする。制御部34は、第1撮像条件と、第2撮像条件とを異ならせてもよい。
第2処理部152は、撮像条件の相違による画像データ間の差異を小さくするために必要な第1撮像条件についての情報181を、たとえば、第1処理部151から受信する。
物体検出部34aは、第2処理部152からの第2画像データに基づいて被写体要素を検出する処理を行い、検出結果を出力する。
設定部34bは、第2処理部152からの第2画像データに基づいて露出演算処理等の撮像条件の算出処理を行い、その演算結果に基づいて、撮像部32による撮像画面を、検出した被写体要素を含む複数の領域に分割するとともに、複数の領域に対して撮像条件を再設定する。
AF演算部34dは、第2処理部152からの第2信号データに基づいて焦点検出処理を行い、その演算結果に基づいて、撮像光学系31のフォーカスレンズを合焦位置へ移動させるための駆動信号を出力する。
第2処理部152は、撮像条件の相違による画像データ間の差異を小さくするために必要な第1領域に含まれる注目画素Pについての撮像条件についての情報181を、たとえば、第1処理部151から受信する。
物体検出部34aは、第2処理部152からの第2画像データに基づいて被写体要素を検出する処理を行い、検出結果を出力する。
設定部34bは、第2処理部152からの第2画像データに基づいて露出演算処理等の撮像条件の算出処理を行い、その演算結果に基づいて、撮像部32による撮像画面を、検出した被写体要素を含む複数の領域に分割するとともに、複数の領域に対して撮像条件を再設定する。
AF演算部34dは、第2処理部152からの第2信号データに基づいて焦点検出処理を行い、その演算結果に基づいて、撮像光学系31のフォーカスレンズを合焦位置へ移動させるための駆動信号を出力する。
第2処理部152は、撮像条件の相違による画像データ間の差異を小さくするために必要な第1領域に含まれる注目画素Pについての撮像条件についての情報181を、たとえば、第1処理部151から受信する。
物体検出部34aは、第2処理部152で補正処理された、ある撮像条件で撮像された第2画像データと、他の撮像条件で撮像された第2画像データとに基づいて被写体要素を検出する処理を行い、検出結果を出力する。
設定部34bは、第2処理部152で補正処理された、ある撮像条件で撮像された第2画像データと、他の撮像条件で撮像された第2画像データとに基づいて露出演算処理等の撮像条件の算出処理を行う。設定部34bは、その演算結果に基づいて、撮像部32による撮像画面を、検出した被写体要素を含む複数の領域に分割するとともに、複数の領域に対して撮像条件を再設定する。
AF演算部34dは、第2処理部152で補正処理された、ある撮像条件で撮像された第2信号データと、他の撮像条件で撮像された第2信号データとに基づいて焦点検出処理を行う、AF演算部34dは、その演算結果に基づいて、撮像光学系31のフォーカスレンズを合焦位置へ移動させるための駆動信号を出力する。
物体検出部34aは、第2処理部152で補正処理された、ある撮像条件で撮像された第2画像データと、他の撮像条件で撮像された第2画像データとに基づいて被写体要素を検出する処理を行い、検出結果を出力する。
設定部34bは、第2処理部152で補正処理された、ある撮像条件で撮像された第2画像データと、他の撮像条件で撮像された第2画像データとに基づいて露出演算処理等の撮像条件の算出処理を行う。設定部34bは、その演算結果に基づいて、撮像部32による撮像画面を、検出した被写体要素を含む複数の領域に分割するとともに、複数の領域に対して撮像条件を再設定する。
AF演算部34dは、第2処理部152で補正処理された、ある撮像条件で撮像された第2信号データと、他の撮像条件で撮像された第2信号データとに基づいて焦点検出処理を行う、AF演算部34dは、その演算結果に基づいて、撮像光学系31のフォーカスレンズを合焦位置へ移動させるための駆動信号を出力する。
上述した第2の実施の形態では、補正部322の1つとブロック111a(単位区分)の1つとが対応している。しかし、補正部322の1つと、複数のブロック111a(単位区分)を有する複合ブロック(複合区分)の1つとが対応するようにしてもよい。この場合、補正部322は、当該複合ブロックに含まれる複数のブロック111aに属する画素からの画像データを順次補正する。複数の補正部322が、複数のブロック111aを有する複合ブロック毎に対応して設けられていても、画像データの補正処理を複数の補正部322で並列処理できるので、補正部322における処理負担を軽減でき、撮像条件が異なる領域でそれぞれ生成された画像データから適切な画像を短時間で生成することができる。
上述した第2の実施の形態では、生成部323は撮像部32Aの内部に設けられている。しかし、生成部323を撮像部32Aの外部に設けてもよい。生成部323を撮像部32Aの外部に設けても上述した作用効果と同様の作用効果を奏する。
上述した第2の実施の形態では、積層型撮像素子100Aは、裏面照射型撮像チップ111と、信号処理チップ112と、メモリチップ113とに加えて、上述した前処理および画像処理を行う画像処理チップ114をさらに備える。しかし、積層型撮像素子100Aに画像処理チップ114を設けず、信号処理チップ112に画像処理部32cが設けられていてもよい。
上述した第2の実施の形態では、第2処理部152は、撮像条件の相違による画像データ間の差異を小さくするために必要な第1撮像条件についての情報を、第1処理部151から受信した。また、第1処理部151は、撮像条件の相違による画像データ間の差異を小さくするために必要な第2撮像条件についての情報を、第2処理部152から受信した。しかし、第2処理部152は、撮像条件の相違による画像データ間の差異を小さくするために必要な第1撮像条件についての情報を、駆動部32bや制御部34から受信してもよい。同様に、第1処理部151は、撮像条件の相違による画像データ間の差異を小さくするために必要な第2撮像条件についての情報を、駆動部32bや制御部34から受信してもよい。
なお、上述した各実施の形態および変形例は、それぞれ組み合わせてもよい。
上述した実施の形態および変形例は、以下のような撮像装置、および制御装置も含む。
(1)被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、上記第1撮像領域の撮像条件を、上記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域から出力された上記第1信号の補間に用いるための補正を行う補正部と、上記設定部による撮像条件の設定を制御する制御部であって、上記補正部で補正された上記第2信号により上記第1信号を補間した信号を用いて、上記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える撮像装置。
(2)(1)のような撮像装置において、上記補正部は、上記第1撮像領域から出力された上記第1信号の補間に用いるための補正として、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域の撮像条件または上記第2撮像領域の撮像条件に基づいて補正を行う。
(3)(1)のような撮像装置において、上記補正部は、上記第1撮像領域から出力された上記第1信号の補間に用いるための補正として、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域の撮像条件と上記第2撮像領域の撮像条件とに基づいて補正を行う。
(4)(3)のような撮像装置において、上記補正部は、上記第1撮像領域から出力された上記第1信号の補間に用いるための補正として、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域の撮像条件と上記第2撮像領域の撮像条件との相違に基づいて補正を行う。
(5)(4)のような撮像装置において、上記第1撮像領域の撮像条件と上記第2撮像領域の撮像条件とは、露出条件であり、上記補正部は、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域の露出条件と上記第2撮像領域の露出条件との相違に基づいて補正を行う。
(6)(5)のような撮像装置において、上記第1撮像領域の露出条件と上記第2撮像領域の露出条件とは、撮像領域の受光部の電荷蓄積時間であり、上記補正部は、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域の電荷蓄積時間と上記第2撮像領域の電荷蓄積時間との比に基づいて補正を行う。
(7)(5)のような撮像装置において、上記第1撮像領域の露出条件と上記第2撮像領域の露出条件とは、撮像領域の撮像感度であり、上記補正部は、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域の撮像感度と上記第2撮像領域の撮像感度との対数比に基づいて補正を行う。
(8)(1)から(4)のような撮像装置において、上記制御部が制御する上記第1撮像領域に設定されている撮像条件は露出条件である。
(9)(8)のような撮像装置において、において、上記露出条件は、上記撮像素子の撮像感度である。
(10)(8)のような撮像装置において、において、上記露出条件は、上記撮像素子の電荷蓄積時間である。
(11)(1)のような撮像装置において、上記補正部は、上記第1撮像領域から出力された上記第1信号を補正し、上記第2撮像領域から出力された上記第2信号に対して、上記補正された第1信号の補間に用いるための補正を行い、上記制御部は、上記補正部で補正された上記第2信号により上記補正された第1信号を補間した信号を用いて、上記第1撮像領域に設定されている撮像条件の設定を制御する。
(12)被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、上記第1撮像領域の撮像条件を、上記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、上記第2撮像領域から出力された第2信号に対して、上記第1撮像領域の上記第1信号を出力する画素の補間に用いるための補正を行う補正部と、上記設定部による撮像条件の設定を制御する制御部であって、上記補正部で補正された上記第2信号により上記第1信号を出力する画素を補間した信号を用いて、上記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える撮像装置。
(13)(12)のような撮像装置において、上記第1撮像領域の上記第1信号を出力する画素は、被写体からの光のうち第1の色の光を光電変換して上記第1信号を出力し、上記第2撮像領域は、被写体からの光のうち上記第1の色と異なる第2の色の光を光電変換して上記第2信号を出力する。
(14)被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、上記第1撮像領域の撮像条件を、上記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域から出力された上記第1信号に含まれるノイズを低減するための補正を行う補正部と、上記設定部による撮像条件の設定を制御する制御部であって、上記補正部で補正された上記第2信号により上記第1信号に含まれるノイズを低減した信号を用いて、上記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える撮像装置。
(15)被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、上記第1撮像領域の撮像条件を、上記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、上記第1撮像領域の撮像条件または上記第2撮像領域の撮像条件に基づいて上記第2撮像領域から出力された上記第2信号を補正する補正部と、上記設定部による撮像条件の設定を制御する制御部であって、上記第1信号と上記補正部で補正された上記第2信号とを用いて、上記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える撮像装置。
(16)被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、上記第1撮像領域の撮像条件を、上記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、上記第1撮像領域の撮像条件と上記第2撮像領域の撮像条件とに基づいて上記第2撮像領域から出力された上記第2信号を補正する補正部と、上記設定部による撮像条件の設定を制御する制御部であって、上記第1信号と上記補正部で補正された上記第2信号とを用いて、上記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える撮像装置。
(17)(16)のような撮像装置において、上記補正部は、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域の撮像条件と上記第2撮像領域の撮像条件との相違に基づいて補正を行う。
(18)(17)のような撮像装置において、上記第1撮像領域の撮像条件と上記第2撮像領域の撮像条件とは、露出条件であり、上記補正部は、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域の露出条件と上記第2撮像領域の露出条件との相違に基づいて補正を行う。
(19)(18)のような撮像装置において、上記第1撮像領域の上記第1撮像領域の撮像条件と上記第2撮像領域の撮像条件とは、露出条件であり、上記補正部は、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域の露出条件と上記第2撮像領域の露出条件との相違に基づいて補正を行う露出条件と上記第2撮像領域の露出条件とは、撮像領域の受光部の電荷蓄積時間であり、上記補正部は、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域の電荷蓄積時間と上記第2撮像領域の電荷蓄積時間との比に基づいて補正を行う。
(20)(18)のような撮像装置において、上記第1撮像領域の露出条件と上記第2撮像領域の露出条件とは、撮像領域の撮像感度であり、上記補正部は、上記第2撮像領域から出力された上記第2信号に対して、上記第1撮像領域の撮像感度と上記第2撮像領域の撮像感度との対数比に基づいて補正を行う。
(21)被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、上記第1撮像領域の撮像条件を、上記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、上記第1撮像領域の撮像条件に基づいて上記第1撮像領域から出力された上記第1信号を補正し、上記第2撮像領域の撮像条件の設定値に基づいて上記第2撮像領域から出力された上記第2信号を補正する補正部と、上記設定部による撮像条件の設定を制御する制御部であって、上記補正部で補正された上記第1信号と上記補正部で補正された上記第2信号とを用いて、上記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える撮像装置。
(22)被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、上記第1撮像領域の撮像条件を、上記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、上記第1撮像領域から出力された上記第1信号を補正し、上記第2撮像領域から出力された上記第2信号に対して、補正された上記第1信号を出力する画素の補間に用いるための補正を行う補正部と、上記設定部による撮像条件の設定を制御する制御部であって、上記補正部で補正された上記第1信号と上記補正部で補正された上記第2信号により補正された上記第1信号を出力する画素を補間した信号を用いて、上記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える撮像装置。
(23)(22)のような撮像装置において、上記第1撮像領域の上記第1信号を出力する画素は、被写体からの光のうち第1の色の光を光電変換して上記第1信号を出力し、上記第2撮像領域は、被写体からの光のうち上記第1の色と異なる第2の色の光を光電変換して上記第2信号を出力する。
(24)被写体を撮像する撮像素子の第1撮像領域から出力された第1信号の補間に用いるため、上記第1撮像領域とは撮像条件が異なる上記撮像素子の第2撮像領域から出力された第2信号に対して補正を行う補正部と、設定部による撮像条件の設定を制御する制御部であって、上記補正部で補正された上記第2信号により上記第1信号を補間した信号を用いて、上記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える制御装置。
(25)被写体を撮像する撮像素子の第1撮像領域から出力された第1信号に含まれるノイズを低減するため、上記第1撮像領域とは撮像条件が異なる上記撮像素子の第2撮像領域から出力された第2信号に対して補正を行う補正部と、設定部による撮像条件の設定を制御する制御部であって、上記補正部で補正された上記第2信号により上記第1信号に含まれるノイズを低減した信号を用いて、上記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、を備える制御装置。
(1)入射した光を第1撮像条件で撮像して第1画像データを生成する第1領域と、上記入射した光を上記第1撮像条件とは異なる第2撮像条件で撮像して第2画像データを生成する第2領域と、を有する撮像部と、上記撮像部で生成された上記第1画像データを、上記第2撮像条件に基づいて補正する補正部と、上記補正部で補正された上記第1画像データと、上記撮像部で生成された上記第2画像データとに基づいて撮像条件を設定する設定部と、を備える撮像装置。
(2)(1)のような撮像装置において、上記補正部は、上記撮像部で生成された上記第1画像データを、上記第1画像データの値と上記第2画像データの値との差が小さくなるように補正する。
(3)(1)または(2)のような撮像装置において、上記補正部は、上記撮像部で生成された上記第1画像データを、上記第1撮像条件および上記第2撮像条件の相違に基づいて補正する。
(4)(1)から(3)のような撮像装置において、上記補正部は、上記撮像部で生成された上記第2画像データを、上記第1撮像条件に基づいて補正し、上記設定部は、上記補正部で補正された上記第1画像データと、上記補正部で補正された上記第2画像データとに基づいて上記撮像条件を設定する。
(5)(1)から(4)のような撮像装置において、上記設定部は、上記撮像条件として露出条件を設定する。
(6)(1)から(5)のような撮像装置において、撮影補助光を発する光源に対する発光制御部を備え、上記設定部は、上記撮像条件として、上記発光制御部が制御する光源の発光有無または発光量を設定する。
(7)(1)から(6)のような撮像装置において、上記設定部は、上記撮像部の一部の領域に基づいて上記撮像条件を設定し、上記第1領域および上記第2領域は、上記一部の領域に含まれている。
(8)(1)から(7)のような撮像装置において、上記補正部は、上記撮像部で上記第1領域に入射した光を第1蓄積時間で撮像することにより生成された上記第1画像データを、上記第2領域に入射した光を撮像する電荷蓄積時間である第2蓄積時間に基づいて補正する。
(9)(8)のような撮像装置において、上記補正部は、上記撮像部で上記第1領域に入射した光を第1蓄積時間で撮像することにより生成された上記第1画像データを、上記撮像部で上記第2領域に入射した光を第2蓄積時間で撮像することにより生成された上記第2画像データとの差が小さくなるように補正する。
(10)(1)から(9)のような撮像装置において、上記補正部は、上記撮像部で上記第1領域に入射した光を第1撮像感度で撮像することにより生成された上記第1画像データを、上記第2領域に入射した光を撮像する撮像感度である第2撮像感度に基づいて補正する補正する。
(11)(10)のような撮像装置において、上記補正部は、上記撮像部で上記第1領域に入射した光を第1撮像感度で撮像することにより生成された上記第1画像データを、上記撮像部で上記第2領域に入射した光を第2撮像感度で撮像することにより生成された上記第2画像データとの差が小さくなるように補正する。
(12)(1)から(11)のような撮像装置において、上記設定部は、上記撮像条件を設定を行うため、予め設定されていた撮像条件を変更する。
(13)撮像部の第1領域に入射した光を第1撮像条件で撮像することにより生成された第1画像データを、上記撮像部の第2領域に入射した光を撮像する上記第1撮像条件とは異なる第2撮像条件に基づいて補正する補正部と、上記補正部で補正された上記第1画像データと、上記第2撮像条件で撮像することにより生成された第2画像データとに基づいて上記撮像部の撮像条件を設定する設定部と、を備える制御装置。
(14)(13)のような制御装置において、上記補正部は、上記第1画像データを、上記第1画像データの値と上記第2画像データの値との差が小さくなるように補正する。
(15)(13)または(14)のような制御装置において、上記補正部は、上記第1画像データを、上記第1撮像条件および上記第2撮像条件の相違に基づいて補正する。
(16)(13)から(15)のような制御装置において、上記補正部は、上記第2画像データを、上記第1撮像条件に基づいて補正し、上記設定部は、上記補正部で補正された上記第1画像データと、上記補正部で補正された上記第2画像データとに基づいて上記撮像条件を設定する。
(17)(13)から(16)のような制御装置において、上記設定部は、上記撮像条件として露出条件を設定する。
(18)(13)から(17)のような制御装置において、撮影補助光を発する光源に対する発光制御部を備え、上記設定部は、上記撮像条件として、上記発光制御部が制御する光源の発光有無または発光量を設定する。
(19)(13)から(18)のような制御装置において、上記設定部は、上記撮像部の一部の領域に基づいて上記撮像条件を設定し、上記第1領域および上記第2領域は、上記一部の領域に含まれている。
(20)(13)から(19)のような制御装置において、上記補正部は、上記第1領域に入射した光を第1蓄積時間で撮像することにより生成された上記第1画像データを、上記第2領域に入射した光を撮像する電荷蓄積時間である第2蓄積時間に基づいて補正する。
(21)(20)のような制御装置において、上記補正部は、上記第1領域に入射した光を第1蓄積時間で撮像することにより生成された上記第1画像データを、上記第2領域に入射した光を第2蓄積時間で撮像することにより生成された上記第2画像データとの差が小さくなるように補正する。
(22)(13)から(21)のような制御装置において、上記補正部は、上記第1領域に入射した光を第1撮像感度で撮像することにより生成された上記第1画像データを、上記第2領域に入射した光を撮像する撮像感度である第2撮像感度に基づいて補正する。
(23)(22)のような制御装置において、上記補正部は、上記第1領域に入射した光を第1撮像感度で撮像することにより生成された上記第1画像データを、上記第2領域に入射した光を第2撮像感度で撮像することにより生成された上記第2画像データとの差が小さくなるように補正する。
(24)(1)から(12)のような撮像装置において、上記補正部は、上記第1領域に入射した光を上記第1撮像条件で撮像して生成された上記第1画像データを補正する第1の補正部と、上記第2領域に入射した光を上記第2撮像条件で撮像して生成された上記第2画像データを補正する第2の補正部とを有し、上記第1の補正部は、上記第1画像データを、上記第2領域の撮像条件に基づいて補正し、上記設定部は、上記第1の補正部で補正された上記第1画像データと、上記第2画像データとに基づいて上記撮像条件を設定する。
(25)(24)のような撮像装置において、上記第1の補正部は、上記第1画像データを、上記第1画像データの値と上記第2画像データの値との差が小さくなるように補正する。
(26)(24)または(25)のような撮像装置において、上記第1の補正部は、上記第1画像データを、上記第1撮像条件と上記第2撮像条件との相違に基づいて補正する。
(27)(24)から(26)のような撮像装置において、上記第2の補正部は、上記第2画像データを、上記第1領域の撮像条件に基づいて補正し、上記設定部は、上記第1の補正部で補正された上記第1画像データと、上記第2の補正部で補正された上記第2画像データとに基づいて上記撮像条件を設定する。
(28)(24)から(27)のような撮像装置において、上記第2の補正部は、上記第1画像データにより上記第2画像データを補正し、上記設定部は、上記第1の補正部で補正された上記第1画像データと、上記第2の補正部で補正された上記第2画像データとに基づいて上記撮像条件を設定する。
(29)(24)から(28)のような撮像装置において、上記撮像部は、第1半導体基板に設けられ、上記第1の補正部と上記第2の補正部とは、第2半導体基板に設けられている撮像装置。
(30)(29)のような撮像装置において、上記第1半導体基板と上記第2半導体基板とは積層されている撮像装置。
日本国特許出願2015年第194615号(2015年9月30日出願)
1B…撮像システム
32…撮像部
32a、100…撮像素子
33…画像処理部
33a,321…入力部
33b,322…補正部
33c,323…生成部
34…制御部
34a…物体検出部
34b…設定部
34c…撮像制御部
34d…AF演算部
35…表示部
90…所定範囲
1001…撮像装置
1002…表示装置
P…注目画素
Claims (27)
- 被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、
前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、
前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域から出力された前記第1信号の補間に用いるための補正を行う補正部と、
前記設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第2信号により前記第1信号を補間した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、
を備える撮像装置。 - 前記補正部は、前記第1撮像領域から出力された前記第1信号の補間に用いるための補正として、前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域の撮像条件または前記第2撮像領域の撮像条件に基づいて補正を行う請求項1記載の撮像装置。
- 前記補正部は、前記第1撮像領域から出力された前記第1信号の補間に用いるための補正として、前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域の撮像条件と前記第2撮像領域の撮像条件とに基づいて補正を行う請求項1記載の撮像装置。
- 前記補正部は、前記第1撮像領域から出力された前記第1信号の補間に用いるための補正として、前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域の撮像条件と前記第2撮像領域の撮像条件との相違に基づいて補正を行う請求項3記載の撮像装置。
- 前記第1撮像領域の撮像条件と前記第2撮像領域の撮像条件とは、露出条件であり、
前記補正部は、前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域の露出条件と前記第2撮像領域の露出条件との相違に基づいて補正を行う請求項4記載の撮像装置。 - 前記第1撮像領域の露出条件と前記第2撮像領域の露出条件とは、撮像領域の受光部の電荷蓄積時間であり、
前記補正部は、前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域の電荷蓄積時間と前記第2撮像領域の電荷蓄積時間との比に基づいて補正を行う請求項5記載の撮像装置。 - 前記第1撮像領域の露出条件と前記第2撮像領域の露出条件とは、撮像領域の撮像感度であり、
前記補正部は、前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域の撮像感度と前記第2撮像領域の撮像感度との対数比に基づいて補正を行う請求項5記載の撮像装置。 - 前記制御部が制御する前記第1撮像領域に設定されている撮像条件は露出条件である請求項1から4のいずれか一項に記載の撮像装置。
- 請求項8に記載の撮像装置において、
前記露出条件は、前記撮像素子の撮像感度である撮像装置。 - 請求項8に記載の撮像装置において、
前記露出条件は、前記撮像素子の電荷蓄積時間である撮像装置。 - 前記補正部は、前記第1撮像領域から出力された前記第1信号を補正し、前記第2撮像領域から出力された前記第2信号に対して、前記補正された第1信号の補間に用いるための補正を行い、
前記制御部は、前記補正部で補正された前記第2信号により前記補正された第1信号を補間した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する
請求項1記載の撮像装置。 - 被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、
前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、
前記第2撮像領域から出力された第2信号に対して、前記第1撮像領域の前記第1信号を出力する画素の補間に用いるための補正を行う補正部と、
前記設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第2信号により前記第1信号を出力する画素を補間した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、
を備える撮像装置。 - 前記第1撮像領域の前記第1信号を出力する画素は、被写体からの光のうち第1の色の光を光電変換して前記第1信号を出力し、
前記第2撮像領域は、被写体からの光のうち前記第1の色と異なる第2の色の光を光電変換して前記第2信号を出力する請求項12記載の撮像装置。 - 被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、
前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、
前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域から出力された前記第1信号に含まれるノイズを低減するための補正を行う補正部と、
前記設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第2信号により前記第1信号に含まれるノイズを低減した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、
を備える撮像装置。 - 被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、
前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、
前記第1撮像領域の撮像条件または前記第2撮像領域の撮像条件に基づいて前記第2撮像領域から出力された前記第2信号を補正する補正部と、
前記設定部による撮像条件の設定を制御する制御部であって、前記第1信号と前記補正部で補正された前記第2信号とを用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、
を備える撮像装置。 - 被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、
前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、
前記第1撮像領域の撮像条件と前記第2撮像領域の撮像条件とに基づいて前記第2撮像領域から出力された前記第2信号を補正する補正部と、
前記設定部による撮像条件の設定を制御する制御部であって、前記第1信号と前記補正部で補正された前記第2信号とを用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、
を備える撮像装置。 - 前記補正部は、前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域の撮像条件と前記第2撮像領域の撮像条件との相違に基づいて補正を行う請求項16記載の撮像装置。
- 前記第1撮像領域の撮像条件と前記第2撮像領域の撮像条件とは、露出条件であり、
前記補正部は、前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域の露出条件と前記第2撮像領域の露出条件との相違に基づいて補正を行う請求項17記載の撮像装置。 - 前記第1撮像領域の露出条件と前記第2撮像領域の露出条件とは、撮像領域の受光部の電荷蓄積時間であり、
前記補正部は、前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域の電荷蓄積時間と前記第2撮像領域の電荷蓄積時間との比に基づいて補正を行う請求項18記載の撮像装置。 - 前記第1撮像領域の露出条件と前記第2撮像領域の露出条件とは、撮像領域の撮像感度であり、
前記補正部は、前記第2撮像領域から出力された前記第2信号に対して、前記第1撮像領域の撮像感度と前記第2撮像領域の撮像感度との対数比に基づいて補正を行う請求項18記載の撮像装置。 - 被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、
前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、
前記第1撮像領域の撮像条件に基づいて前記第1撮像領域から出力された前記第1信号を補正し、前記第2撮像領域の撮像条件の設定値に基づいて前記第2撮像領域から出力された前記第2信号を補正する補正部と、
前記設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第1信号と前記補正部で補正された前記第2信号とを用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、
を備える撮像装置。 - 被写体を撮像して第1信号を出力する第1撮像領域と、被写体を撮像して第2信号を出力する第2撮像領域と、を有する撮像素子と、
前記第1撮像領域の撮像条件を、前記第2撮像領域の撮像条件とは異なる撮像条件に設定する設定部と、
前記第1撮像領域から出力された前記第1信号を補正し、前記第2撮像領域から出力された前記第2信号に対して、補正された前記第1信号を出力する画素の補間に用いるための補正を行う補正部と、
前記設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第1信号と前記補正部で補正された前記第2信号により補正された前記第1信号を出力する画素を補間した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、
を備える撮像装置。 - 前記第1撮像領域の前記第1信号を出力する画素は、被写体からの光のうち第1の色の光を光電変換して前記第1信号を出力し、
前記第2撮像領域は、被写体からの光のうち前記第1の色と異なる第2の色の光を光電変換して前記第2信号を出力する請求項22記載の撮像装置。 - 被写体を撮像する撮像素子の第1撮像領域から出力された第1信号の補間に用いるため、前記第1撮像領域とは撮像条件が異なる前記撮像素子の第2撮像領域から出力された第2信号に対して補正を行う補正部と、
設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第2信号により前記第1信号を補間した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、
を備える制御装置。 - 被写体を撮像する撮像素子の第1撮像領域から出力された第1信号に含まれるノイズを低減するため、前記第1撮像領域とは撮像条件が異なる前記撮像素子の第2撮像領域から出力された第2信号に対して補正を行う補正部と、
設定部による撮像条件の設定を制御する制御部であって、前記補正部で補正された前記第2信号により前記第1信号に含まれるノイズを低減した信号を用いて、前記第1撮像領域に設定されている撮像条件の設定を制御する制御部と、
を備える制御装置。 - 入射した光を第1撮像条件で撮像して第1画像データを生成する第1領域と、前記入射した光を前記第1撮像条件とは異なる第2撮像条件で撮像して第2画像データを生成する第2領域と、を有する撮像部と、
前記撮像部で生成された前記第1画像データを、前記第2撮像条件に基づいて補正する補正部と、
前記補正部で補正された前記第1画像データと、前記撮像部で生成された前記第2画像データとに基づいて撮像条件を設定する設定部と、
を備える撮像装置。 - 撮像部の第1領域に入射した光を第1撮像条件で撮像することにより生成された第1画像データを、前記撮像部の第2領域に入射した光を撮像する前記第1撮像条件とは異なる第2撮像条件に基づいて補正する補正部と、
前記補正部で補正された前記第1画像データと、前記第2撮像条件で撮像することにより生成された第2画像データとに基づいて前記撮像部の撮像条件を設定する設定部と、を備える制御装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015194615 | 2015-09-30 | ||
JP2015194615 | 2015-09-30 | ||
PCT/JP2016/078256 WO2017057268A1 (ja) | 2015-09-30 | 2016-09-26 | 撮像装置、および制御装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2017057268A1 JPWO2017057268A1 (ja) | 2018-07-19 |
JP6521085B2 true JP6521085B2 (ja) | 2019-05-29 |
Family
ID=58427516
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017543252A Active JP6521085B2 (ja) | 2015-09-30 | 2016-09-26 | 撮像装置、および制御装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6521085B2 (ja) |
WO (1) | WO2017057268A1 (ja) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014153918A (ja) * | 2013-02-08 | 2014-08-25 | Canon Inc | 画像処理装置、画像処理方法、およびプログラム |
CN105474627B (zh) * | 2013-08-12 | 2019-06-04 | 株式会社尼康 | 电子设备 |
JP6547266B2 (ja) * | 2013-10-01 | 2019-07-24 | 株式会社ニコン | 電子機器、電子機器の制御方法、及び制御プログラム電子機器 |
-
2016
- 2016-09-26 JP JP2017543252A patent/JP6521085B2/ja active Active
- 2016-09-26 WO PCT/JP2016/078256 patent/WO2017057268A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
JPWO2017057268A1 (ja) | 2018-07-19 |
WO2017057268A1 (ja) | 2017-04-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7363953B2 (ja) | 撮像装置 | |
CN108141531B (zh) | 摄像装置 | |
US20240305884A1 (en) | Imaging device, image processing device, and electronic apparatus | |
JP6516014B2 (ja) | 撮像装置および画像処理装置 | |
WO2017170716A1 (ja) | 撮像装置、画像処理装置、および電子機器 | |
JP7439856B2 (ja) | 撮像装置 | |
JP6516016B2 (ja) | 撮像装置および画像処理装置 | |
JP6521085B2 (ja) | 撮像装置、および制御装置 | |
JP6589989B2 (ja) | 撮像装置 | |
JP6589988B2 (ja) | 撮像装置 | |
JP6604385B2 (ja) | 撮像装置 | |
JP6516015B2 (ja) | 撮像装置および画像処理装置 | |
WO2017057280A1 (ja) | 撮像装置、および被写体検出装置 | |
WO2017057267A1 (ja) | 撮像装置、および焦点検出装置 | |
JPWO2017170718A1 (ja) | 撮像装置、被写体検出装置、および電子機器 | |
JPWO2017170719A1 (ja) | 撮像装置、および電子機器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180329 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190402 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190415 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6521085 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |