JP2022029026A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2022029026A JP2022029026A JP2020132120A JP2020132120A JP2022029026A JP 2022029026 A JP2022029026 A JP 2022029026A JP 2020132120 A JP2020132120 A JP 2020132120A JP 2020132120 A JP2020132120 A JP 2020132120A JP 2022029026 A JP2022029026 A JP 2022029026A
- Authority
- JP
- Japan
- Prior art keywords
- image pickup
- image
- exposure
- spectroscopic
- sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 29
- 230000003287 optical effect Effects 0.000 claims abstract description 40
- 230000003595 spectral effect Effects 0.000 claims description 40
- 230000035945 sensitivity Effects 0.000 claims description 24
- 238000003860 storage Methods 0.000 claims description 10
- 238000009826 distribution Methods 0.000 description 14
- 230000007423 decrease Effects 0.000 description 8
- 238000002834 transmittance Methods 0.000 description 7
- 230000004907 flux Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 229920006395 saturated elastomer Polymers 0.000 description 2
- 229910052710 silicon Inorganic materials 0.000 description 2
- 239000010703 silicon Substances 0.000 description 2
- 238000004611 spectroscopical analysis Methods 0.000 description 2
- 238000010521 absorption reaction Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000000701 chemical imaging Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000000034 method Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B33/00—Colour photography, other than mere exposure or projection of a colour film
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B17/00—Details of cameras or camera bodies; Accessories therefor
- G03B17/02—Bodies
- G03B17/12—Bodies with means for supporting objectives, supplementary lenses, filters, masks, or turrets
- G03B17/14—Bodies with means for supporting objectives, supplementary lenses, filters, masks, or turrets interchangeably
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B7/00—Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/48—Increasing resolution by shifting the sensor relative to the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/531—Control of the integration time by controlling rolling shutters in CMOS SSIS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/533—Control of the integration time by using differing integration times for different sensor regions
- H04N25/534—Control of the integration time by using differing integration times for different sensor regions depending on the spectral component
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/533—Control of the integration time by using differing integration times for different sensor regions
- H04N25/535—Control of the integration time by using differing integration times for different sensor regions by dynamic region selection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
- Spectrometry And Color Measurement (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
- Exposure Control For Cameras (AREA)
- Blocking Light For Cameras (AREA)
Abstract
【課題】入射光の強度の低下を抑制可能であると共に、波長ごとの取得信号のバランスを調整可能な撮像装置を提供すること。【解決手段】撮像装置は、光学系により形成される第1の像を受光する第1の撮像素子、及び該光学系により形成される第2の像を受光する第2の撮像素子を含む撮像部を有し、第1及び第2の像は、互いに異なる波長の光で形成されており、第1及び第2の撮像素子は、互いに異なる露出条件で撮像を行う。【選択図】図1
Description
本発明は、撮像装置に関する。
近年、人間の視覚特性に合わせたRGBの3つのバンド(波長帯域)情報に加え、可視域や非可視域のバンド情報を取得可能なカメラを用いて、被写体の組成を分析したり、人間が視認しにくい物体を高精度に弁別したりする方法が提案されている。以下の説明では、従来のRGB画像と区別するために4つ以上のバンド情報を含む分光画像のことを「マルチバンド画像」と呼ぶ。
撮像素子として一般的に利用されるシリコンセンサは、波長が設計中心波長から離れるに従って該波長の光に対する感度が低下する特性を有する。そのため、夫々が異なる波長の光から形成された複数の像を1つの撮像素子で同時に撮像する場合、取得信号の強度に分布が発生し、低感度側の波長の光に対応する取得信号のダイナミックレンジが狭くなってしまう。
特許文献1には、バンドパスフィルタの透過率を調整することで、取得信号の強度を揃えるカメラが開示されている。
しかしながら、特許文献1のカメラでは、撮像素子の感度が高い可視域の光に対応するバンドパスフィルタの透過率を下げ、入射光の強度を低下させるため、入射光に対する光利用効率が低下してしまう。
本発明は、入射光の強度の低下を抑制可能であると共に、波長ごとの取得信号のバランスを調整可能な撮像装置を提供することを目的とする。
本発明の一側面としての撮像装置は、光学系により形成される第1の像を受光する第1の撮像素子、及び該光学系により形成される第2の像を受光する第2の撮像素子を含む撮像部を有し、第1及び第2の像は、互いに異なる波長の光で形成されており、第1及び第2の撮像素子は、互いに異なる露出条件で撮像を行うことを特徴とする。
本発明によれば、入射光の強度の低下を抑制可能であると共に、波長ごとの取得信号のバランスを調整可能な撮像装置を提供することができる。
以下、本発明の好ましい実施形態について図面を参照しながら説明する。各図面において、同一の部材については同一の参照番号を付し、重複する説明を省略する。
図1は、本実施例の撮像装置C1の説明図である。図1(a)に示されるように、撮像装置C1は、撮像ユニットC11、及び制御系B1を有する。
撮像ユニットC11は、分光光学系、及び撮像センサ(撮像部)SS1を有する。分光光学系は、レンズL11、スリットSL、レンズL12、回折素子DO、及びレンズL13を有する。撮像センサSS1は、分光光学系により形成される第1の光学特性を備える第1の分光像を受光する第1の撮像素子を含む第1の撮像素子群を備える。また、撮像センサSS1は、分光光学系により形成される第2の光学特性を備える第2の分光像を受光する第2の撮像素子を含む第2の撮像素子群を備える。第1及び第2の撮像素子群は、後述するように、互いに異なる露出条件で撮像を行う。具体的には、第1の撮像素子群は第1の露出条件で撮像を行い、第2の撮像素子群は第2の露出条件で撮像を行う。なお、本発明における露出とは、露光時間やISO感度等の撮像素子の取得輝度値を増減させる制御パラメータを指す。また、分光光学系は、撮像装置C1に着脱可能に構成されていてもよい。
本実施例の撮像ユニットC11は、プッシュブルーム型の撮像系である。撮像センサSS1は、二次元配置された複数の撮像素子を少なくとも一つの行ごとに共通の露出条件で制御可能である。
レンズL11は、被写体(不図示)からの光束をスリットSL上に結像する。スリットSLは、被写体の空間情報を略一次元像として切り取る。本実施例では、スリット形状は、後段の光学系で再結像されることを想定し、短辺の長さが撮像素子の1pixelの長さに、長辺の長さが撮像センサSS1の幅方向(図1のx軸方向)の長さになるように調整されている。レンズL12は、スリットSLで切り取られた1次元像を平行光束に戻し、回折素子DOに入射させる。回折素子DOを通過した光束は波長ごとに回折角が異なるため、回折素子DOは角度方向に対して分光を行う分光光学素子として機能する。分光された平行光束は、レンズL13によって撮像センサSS1上に集光され、再結像する。撮像センサSS1上に結像される分光像は、x軸方向には被写体の空間情報が、y軸方向には被写体の波長情報がそれぞれ直交して展開される(図1(b)参照)。図1(b)では、撮像センサSS1上の波長ごとの1次元の分光像(空間情報)が結像される区画を分光領域SRとして図示している。分光領域SRの数は、図1(b)よりも少なくてもよいし、多くてもよい。以上説明したように、撮像ユニットC11を用いることで、ある瞬間の1次元被写体像における分光画像を得ることができる。また、被写体と撮像装置C1を相対的にy軸方向へ走査することで、被写体の2次元の分光画像も取得可能である。
以下、本発明の課題について説明する。図2は、カメラに用いられる一般的な撮像素子(例えば、シリコンセンサ)の波長感度を示す図である。図2に示されるように、一般的な撮像素子は、可視域の中心波長(500nm前後)の光に対する感度が最大となり、波長がピーク波長から離れるに従って該波長の光に対する感度が低下する特性を有する。例えば、波長500nmの光と波長900nmの光では、感度が6倍以上異なる。すなわち、図2の特性を有する撮像素子を組み込んだ撮像装置において、ある露出条件で分光画像を撮影した場合、波長500nmの光に対応する分光画像に対して波長900nmの光に対応する分光画像が6倍暗くなる。
ここで、撮像センサSS1として図2の特性を有する撮像素子を本実施例の撮像装置C1に組み込んで、近赤外波長(900nm近辺)の反射光が小さい被写体を撮影する場合を考える。波長900nmの光に対応する分光画像をできるだけ明るくなるように露出を設定した場合、波長500nmの光に対応する分光画像において輝度値が飽和してしまう場合がある。分光分析では、波長ごとの取得信号の強度分布(つまり強度比)が重要であるため、分光画像に輝度値の飽和が発生すると分析上の誤りとなりデータを正常に取り扱えなくなる。そのため、本実施例のような分光撮像装置では、輝度飽和が発生しない範囲内でしか露出を制御できないため、分光画像が暗い領域、特に近紫外領域や近赤外領域でSN比に限界が生じてしまう。撮像素子の設計でピーク波長をずらすことも可能であるが、波長感度は同様に山なりのカーブになるため、広い波長の光に対応する複数の分光画像を同時に得ようとすると同様の問題が発生する。
本実施例では、制御系B1に工夫を持たせる。制御系B1は、記憶部B11、取得部B12、撮影制御部B13、A/D変換器B14、及び画像出力部B15を含む。
記憶部B11は、撮像センサSS1の波長感度特性の情報、及び撮像センサSS1上の分光領域SRの位置情報を保持しており、それぞれの情報を取得部B12に出力する。なお、記憶部B11が保持する情報は、撮像装置C1とは異なる装置が保持していてもよい。
取得部B12は、記憶部B11からの情報を用いて、分光領域SRごとに取得輝度値のバランスがとれる露出条件を取得する。本実施例では、取得部B12は、露出条件として、単純に撮像センサSS1の波長に対する感度特性をキャンセルするために、図2のグラフを上下反転させた係数を取得する。これにより、被写体からの光が取得波長領域における強度が一定である白色光である場合に分光画像の輝度値が一定値になる。本実施例では、分光領域SRは図1(b)に示されるように撮像センサSS1上で横長に構成されているため、分光領域SRでは空間軸方向(x軸方向)に沿って同じ波長の情報が並んでいる。したがって、露出条件を空間軸方向に沿って変更する必要はなく、回路規模を比較的小さくすることができる。なお、本実施例では、取得部B12が露出条件を取得するが、撮像装置C1とは異なる装置が取得してもよい。また、取得部B12は、露出条件として、撮像センサSS1の波長感度特性に応じた露光時間やISO感度等を取得してもよい。
撮影制御部B13は、取得部B12から取得した撮像センサSS1内の分光領域SRごとの露出条件を用いて、撮像センサSS1を制御する。撮像センサSS1は、撮影制御部B13により制御され、撮像面上の像を電気信号として出力する。
A/D変換器B14は、アナログ信号である撮像センサSS1からの出力信号をデジタル信号に変換する。
画像出力部B15は、A/D変換器B14から出力された信号を用いて、撮像センサSS1の波長軸方向(Y軸方向)に分光された分光画像を出力する。
本実施例の撮像ユニットC11は、プッシュブルーム型の撮像系であるので、Y軸方向へ被写体を走査することで空間の2次元情報も取得可能である。画像出力部B15から出力されるライン分光画像を外部の計算機(不図示)で束ねることでマルチバンド画像を形成することが可能である。また、本実施例では、撮像装置C1内で画像情報をデジタル化しているが、アナログ情報のまま画像を出力してもよい。
上述したように、分光光学系に対し撮像センサSS1内の露出を部分的に制御する機能を組み合せることで、光学フィルタで減光する必要がないため、入射した光を効率的に利用することができる。また、露出を露光時間で制御した場合、波長感度が大きい(露光時間が短い)分光領域SRではすぐに既定の輝度値が得られ、データ転送を開始することができる。その結果、ある分光領域SRで露出が終わった段階で即座に次の分光領域SRのデータ取得に移行(スキャン)することができるため、1面の分光画像の取得時間を短縮することができる。連続した分光画像、特にプッシュブルーム型の撮像系でマルチバンド画像を取得する場合も撮影の高速化を実現することができる。なお、撮像センサSS1内の分光領域SRは必ずしも隣接した領域である必要はないが、回路上配線しやすいように配置されていることが好ましい。隣接した画素や画素の行を順次スキャンするほうが構成をシンプルにすることができる。
以下、本発明にプッシュブルーム型の撮像系を組み合わせることの利点について補足する。まず、本発明に分光フィルタが撮像センサ上にモザイク状に離散している構成を有するセンサ(以降「モザイク型センサ」と呼ぶ)を組み合わせた場合について説明する。モザイク型センサでは、同じ露出条件にすべき分光像が得られる分光領域が撮像センサ面全域にわたって離散的に分配されているため、撮像センサ上の全てのpixelごとに露出制御の機構を設ける必要がある。したがって、配線が複雑になり、回路の高密度化が必要となるため、製造難易度が高くなる、又は光電変換素子の開口率が低下してしまう。
一方、本実施例のように分光領域がある程度まとまっている分光光学系と撮像センサを組み合せることで、より低コストで本発明の効果を実現可能である。例えば、プッシュブルーム型の撮像系において、撮像センサSS1としてローリングシャッター方式のCMOSセンサを使用すると効果的である。CMOSセンサの1行のスキャンに相当するライン方向と分光領域SRの長手方向(空間軸方向)とを揃えて配置することで、分光領域SRとスキャンするラインが一致するので、スキャンするラインごとに露出制御を行えばよい。すなわち、CMOSセンサ側の露出制御機構はライン単位の回路ブロックに同時に接続されていればよく、モザイク型センサを使用する場合に比べて回路規模を小さく抑えることが可能である。
以上説明したように、本実施例の構成によれば、入射光の強度の低下を抑制可能であると共に、波長ごとの取得信号のバランスを調整可能である。
なお、本実施例では、撮像センサSS1上の空間軸方向で露出条件を一定にする例を示した。しかしながら、分光光学系及び撮像素子の構成によっては画角の外側で輝度が低下する場合(ヴィネッティング、シェーディング、撮像素子の欠陥等)もあるため、これらを補正するような制御を組み合わせて面内輝度の均一性を調整してもよい。例えば、記憶部B11に、撮像装置C1由来の撮像センサSS1内の輝度分布や輝度ムラに関する情報も保存しておく。取得部B12はこれらの情報も考慮して取得画像が全面にわたり均一になる露出条件を撮影制御部B13に出力することで、ユーザーは撮像装置C1由来の輝度分布や輝度ムラを気にせず常に均質な画像を得ることができる。
また、本実施例では、露出条件を露光時間で制御する場合、ある分光領域で露光時間が規定量に到達したタイミングで次の分光領域にスキャンを移行する例を示した。別の例として、ある分光領域で露光時間が規定量に到達すると、同じ分光領域のスキャンを再度開始してもよい。すなわち、分光領域ごとに非同期で画像更新を行ってもよい。この場合、露光時間が終わったタイミングで別の分光領域の露出を待たずに、その分光領域に相当する分光像に関する信号を出力する。これにより、分光領域ごとにフレームレートの異なる連続したマルチバンド動画を生成可能である。撮像素子の感度の低い波長の分光画像では露光時間を長くしないと充分な輝度が得られず、低速な動画が生成されてしまう。しかしながら、感度の高い波長の分光画像を用いることで、画像合成によって中間フレームを生成し、時間方向のアップサンプリングが可能になる。
また、本実施例では、分光光学系及び撮像センサSS1を撮像ユニットC11の分光方向となるy軸(回折方向軸)と撮像センサSS1の1スキャンに相当する1ライン(撮像センサSS1の1行)が直交するように配置したが、本発明はこれに限定されない。撮像ユニットC11の分光方向となるy軸が撮像センサSS1の1スキャンに相当する1ラインに対して非平行であればよく、空間情報を持つx軸は1ラインと完全に平行になっていなくてもよい。分光情報(y)と空間情報(x)の軸が撮像センサSS1の直交したマトリクスから僅かに傾いている(直交していない)ことで、隣接画素からサブピクセルに相当する情報が取得でき、補間によって撮像センサSS1の解像度以上の情報取得が可能になる場合がある。この原理を利用し、分光方向と撮像センサSS1のライン方向の位置関係をずらしてもよい。ただし、本実施例で示した直交関係から離れるほど撮像センサSS1の四隅に位置する分光情報から欠落していくため、分光領域SRの傾きによるy軸方向へのはみ出し量は±1~3pixel程度の範囲内に収まっていることが好ましい。
図3は、本実施例の撮像装置C1の説明図である。本実施例では、実施例1との差分のみ説明し、同様の構成については説明を省略する。
図3(a)に示されるように、撮像装置C1は、撮像ユニットC11、及び制御系B2を有する。制御系B2は、記憶部B21、取得部B22、撮影制御部B23、A/D変換器B24、及び画像出力部B25を含む。
取得部B22は、記憶部B21からの撮像センサSS1の波長感度特性の情報に加え、A/D変換器B24からの撮像センサSS1からの現在の取得画像の情報を用いて、露出条件を取得する。環境光及び被写体の分光反射率によって被写体の領域ごとに波長ごとの輝度値は変動する。本実施例では、輝度値が撮像センサSS1内で飽和せず、かつ暗すぎない適切な値になるように露出条件が取得され、次の撮像時の露出条件が更新される。このような構成により、動的に変動する被写体の明るさにも追従して撮影可能となる。特に、本実施例の撮像装置C1で撮影を行う際、使われる照明によっては特定波長に幅の狭い山や谷(構成原子のスペクトル線、吸収線等)が発生する場合がある。この場合、分光像の明るさが極端に上下することがあるため、本実施例の構成を用いることでSN比を維持しながら輝度飽和を避けることができる。
仮に、撮影時の環境光の波長強度分布(分光特性)を取得できれば、マルチバンド画像から被写体の波長ごとの反射特性を割り戻すことができる。そのため、制御系B1は、現在の取得画像の情報(第1及び第2の分光像の強度比)から環境光の波長強度分布を推定できる推定部を有することが好ましい。例えば、オートホワイトバランスの原理を用いて、取得画像全体の波長の強度バランスから環境光の波長強度分布を推定してもよい。また、被写体内で波長に対する特性が略均一の反射特性の面における波長強度分布を環境光の波長強度分布として代用させてもよい。仮に、既知の光源を環境光をとして投光している実験系であれば、光源の波長強度分布を直接入力してもよい。環境光の種類が既知で数が限られる場合は、記憶部B21にそれぞれの波長強度分布を保存しておいてもよい。なお、推定部を設ける代わりに、取得部B22が環境光の波長強度分布を推定できるようにしてもよい。
また、分光領域SR内に露出評価に特化した素子を設けた露出評価領域(不図示)を設けてもよい。このような領域を設けることで、適切な露出条件を高精度に取得可能である。
以上説明したように、本実施例の構成によれば、実施例1の効果に加え、被写体の波長ごとの輝度が動的に変動しても追従して撮像可能である。
実施例1,2ではプッシュブルーム型の撮像系を使用したが、本実施例では他の撮像系を使用する場合について説明する。図4は、本実施例の撮像装置C3の説明図である。本実施例では、実施例1との差分のみ説明し、同様の構成については説明を省略する。
図4(a)に示されるように、撮像装置C3は、撮像ユニットC31、及び制御系B3を有する。撮像ユニットC31は、分光光学系、及び撮像センサSS3を有する。撮像センサSS3は、分光光学系により形成される第1の光学特性を備える第1の分光像を受光する第1の撮像素子、及び分光光学系により形成される第2の光学特性を備える第2の分光像を受光する第2の撮像素子を含む。第1及び第2の撮像素子は、後述するように、互いに異なる露出条件で撮像を行う。
撮像ユニットC31は、被写体側(図4(a)の左側)から像側へ順に配置された、対物レンズL31、視野絞りST、コリメートレンズL32、フィルタアレイ(分光フィルタアレイ)FA、レンズアレイLA、及び撮像センサSS3を有する。フィルタアレイFAは、異なる分光透過率特性を有する分光フィルタ群からなる。レンズアレイLAは、小径レンズ(結像素子)群からなる。このような構成により、対物レンズL31が結像した視野絞りST上の被写体の中間像をレンズアレイLAの個々の小径レンズによって撮像センサSS3上に複製し、アレイ状に像を形成することができる。このとき、小径レンズの光路上にはそれぞれ異なる分光透過率特性を有する分光フィルタが配置されている(フィルタアレイが形成されている)ため、撮像センサSS3上に分光画像が同時に得られる。
図4(b)は、フィルタアレイFAを被写体側から見た模式図を表している。図4(b)では、3×3の計9バンドのフィルタアレイが形成されている。なお、図4(b)において、A11~A33はフィルタアレイFA内の分光フィルタごとに対応する分光領域を示している。また、分光フィルタごとの透過波長の中心値が「xxxnm」で示されている。なお、本実施例では、分光フィルタとして透過波長を中心とした狭帯域のバンドパスフィルタを使用しているが、分光フィルタの分光透過率分布の組合せは任意である。例えば、広帯域で離散的な分光透過率分布を有する分光フィルタを介して結像される像であっても、フィルタアレイ間で分光透過率分布が異なれば広義の「分光像(アレイ)」とみなすことができる。
フィルタアレイFAと撮像センサSS3との間には、フィルタアレイFAの各分光フィルタに対応した小径レンズが配置されている。そのため、撮像センサSS3面上には、分光領域A11~A33ごとに分光像が形成される。すなわち、本実施例の撮像装置C3は、9バンドのマルチバンドカメラである。なお、本実施例におけるアレイの分割は一例であり、5×5と分割数を多くしたり、4×3のように異なるアスペクト比にしたりしてもよい。また、本実施例の分光光学系は、フィルタアレイを交換可能に構成されている。そのため、撮像装置C3は、様々なマルチバンド画像を容易に取得可能である。
視野絞りSTは、対物レンズL31の焦点位置とコリメートレンズL32の焦点位置が重なる位置に配置されている。視野絞りSTをこのように配置することで、フィルタアレイFA及びレンズアレイLAには画角ごとに平行光束が入射する。分光フィルタが干渉型の光学フィルタである場合、透過波長の角度依存性が存在し、一般的には長波長ほど透過波長の中心値の変動が大きいことが知られている。しかしながら、本実施例の構成では、フィルタアレイFAには画角ごとにほぼ同じ角度で平行光が入射するため、透過波長の角度依存性の問題を極力小さくすることができる。
対物レンズL31、コリメートレンズL32、及びレンズアレイLAの中央レンズは光軸AX0を共有しているが、レンズアレイLAの外側の小径レンズは光軸AX0からずれている。光軸AX12は、レンズアレイLAの外側の小径レンズの光軸の代表として記載されている。各小径レンズの光軸と撮像センサSS3の交点を中心として被写体の分光像が展開される。
制御系B3は、記憶部B31、取得部B32、撮影制御部B33、A/D変換器B34、及び画像出力部B35を含む。制御系B3は、実施例1の制御系B1、又は実施例2の制御系B2の何れかと同様の機能を有する。
分光領域は、実施例1,2ではX軸方向へ長い矩形であるが、本実施例ではX軸方向及びY軸方向へ同程度のサイズを持つ(アスペクト比はレンズアレイLAの配置で異なる)。まとまった区画ごとに露出条件を行うことで、撮像センサSS3にモザイク型センサを適用する場合でも比較的小さな回路規模でも本発明を実現することができる。撮像センサSS3に一般的なローリングシャッター方式のCMOSセンサを適用する場合、例えば複数ラインを同じ露出条件に設定することで、本発明を実施例1,2と同程度の簡易さで実現することができる。例えば、図4(b)において、X軸方向に沿って並んだ分光領域の組(例えばA11,A12,A13の組)に近い波長の分光像が形成されるようにフィルタアレイFAの配置を決定する。図4(b)では、撮像素子の感度が最も大きい500nm前後の波長に対応する分光領域A21,A22,A23が行方向に沿って配置されている。上と下の行には、撮像素子の感度の近い波長に対応する分光領域がまとまって配置されている。プッシュブルーム型の撮像系よりも露出が制御できる波長の刻みが荒くなるが、撮像素子の感度が最も大きくなる分光領域の露出を下げることができるので、輝度飽和を抑制することができる。本実施例の分光光学系を用いることで、一般的なCMOSセンサを利用できるので、低コストで本発明を実現可能である。
以上説明したように、本実施例の構成によれば、入射光の強度の低下を抑制可能であると共に、波長ごとの取得信号のバランスを調整可能である。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
C1,C3 撮像装置
SS1,SS3 撮像センサ
SS1,SS3 撮像センサ
Claims (15)
- 光学系により形成される第1の像を受光する第1の撮像素子、及び該光学系により形成される第2の像を受光する第2の撮像素子を含む撮像部を有し、
前記第1及び第2の像は、互いに異なる波長の光で形成されており、
前記第1及び第2の撮像素子は、互いに異なる露出条件で撮像を行うことを特徴とする撮像装置。 - 前記露出条件は、露光時間を含むことを特徴とする請求項1に記載の撮像装置。
- 前記露出条件は、ISO感度を含むことを特徴とする請求項1に記載の撮像装置。
- 前記第1及び第2の撮像素子の波長感度特性を用いて前記露出条件を取得する取得を更に有することを特徴とする請求項1乃至3の何れか一項に記載の撮像装置。
- 前記第1及び第2の撮像素子の波長感度特性を記憶する記憶部を更に有することを特徴とする請求項4に記載の撮像装置。
- 前記第1及び第2の撮像素子から取得される信号を用いて前記露出条件を取得する取得部を更に有することを特徴とする請求項1乃至3の何れか一項に記載の撮像装置。
- 前記第1の像及び第2の像の強度比を用いて撮影時の環境光の分光特性を推定する推定部を更に有することを特徴とする請求項1乃至6の何れか一項に記載の撮像装置。
- 前記撮像部は、前記第1の撮像素子を含む複数の撮像素子から成る第1の撮像素子群と前記第2の撮像素子を含む複数の撮像素子から成る第2の撮像素子群とを含み、
前記第1の撮像素子群は、第1の露出条件で撮像を行い、
前記第2の撮像素子群は、第2の露出条件で撮像を行うことを特徴とする請求項1乃至7の何れか一項に記載の撮像装置。 - 前記撮像部は、二次元配置された複数の撮像素子を少なくとも一つの行ごとに共通の露出条件で制御可能であり、
前記第1の像は、前記第1の撮像素子を含み、少なくとも一つの行からなる第1の撮像素子群に受光され、
前記第2の像は、前記第2の撮像素子を含み、前記第1の撮像素子群をなす行とは異なる少なくとも一つの行からなる第2の撮像素子群に受光されることを特徴とする請求項1乃至8の何れか一項に記載の撮像装置。 - 前記第1の撮像素子に対する露出が規定量に到達したタイミングで、前記第2の撮像素子に対する露出が開始されることを特徴とする請求項1乃至9の何れか一項に記載の撮像装置。
- 前記第1の撮像素子に対する露出が規定量に到達したタイミングで、前記第1の撮像素子による前記第1の像に関する信号の出力、及び前記第1の撮像素子に対する露光が開始されることを特徴とする請求項1乃至9の何れか一項に記載の撮像装置。
- 前記光学系を更に有することを特徴とする請求項1乃至11の何れか一項に記載の撮像装置。
- 前記光学系は、回折素子を含み、
前記回折素子の回折方向軸は、前記第1の像及び第2の像の長辺に対して非平行であることを特徴とする請求項12に記載の撮像装置。 - 前記光学系は、第1の結像素子及び第2の結像素子を含むレンズアレイと、夫々が前記第1の結像素子及び前記第2の結像素子の夫々の光路上に配置された第1の分光フィルタ及び第2の分光フィルタを含む分光フィルタアレイとを備え、
前記第1の結像素子及び前記第2の結像素子はそれぞれ、前記第1及び第2の撮像素子の撮像面に前記第1の分光像及び前記第2の分光像を形成することを特徴とする請求項12に記載の撮像装置。 - 前記光学系が着脱可能であることを特徴とする請求項1乃至11の何れか一項に記載の撮像装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020132120A JP2022029026A (ja) | 2020-08-04 | 2020-08-04 | 撮像装置 |
US17/385,645 US11831968B2 (en) | 2020-08-04 | 2021-07-26 | Image pickup apparatus comprising first and second sensor units each including a plurality of sensors |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020132120A JP2022029026A (ja) | 2020-08-04 | 2020-08-04 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022029026A true JP2022029026A (ja) | 2022-02-17 |
JP2022029026A5 JP2022029026A5 (ja) | 2023-08-04 |
Family
ID=80114340
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020132120A Pending JP2022029026A (ja) | 2020-08-04 | 2020-08-04 | 撮像装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11831968B2 (ja) |
JP (1) | JP2022029026A (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022117091A (ja) * | 2021-01-29 | 2022-08-10 | キヤノン株式会社 | 計測装置、リソグラフィ装置及び物品の製造方法 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8139130B2 (en) * | 2005-07-28 | 2012-03-20 | Omnivision Technologies, Inc. | Image sensor with improved light sensitivity |
US8514491B2 (en) * | 2009-11-20 | 2013-08-20 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
US9723233B2 (en) * | 2012-04-18 | 2017-08-01 | Brightway Vision Ltd. | Controllable gated sensor |
JP6123213B2 (ja) | 2012-10-03 | 2017-05-10 | 株式会社ニコン | マルチバンドカメラ |
CN105556944B (zh) * | 2012-11-28 | 2019-03-08 | 核心光电有限公司 | 多孔径成像系统和方法 |
JP2015226299A (ja) | 2014-05-30 | 2015-12-14 | コニカミノルタ株式会社 | 画像入力装置 |
US9979906B2 (en) * | 2016-08-03 | 2018-05-22 | Waymo Llc | Beam split extended dynamic range image capture system |
JP6862229B2 (ja) * | 2017-03-15 | 2021-04-21 | キヤノン株式会社 | 解析装置、撮像装置、解析方法、および、プログラム |
US20180309919A1 (en) * | 2017-04-19 | 2018-10-25 | Qualcomm Incorporated | Methods and apparatus for controlling exposure and synchronization of image sensors |
JP2019015565A (ja) | 2017-07-05 | 2019-01-31 | パイオニア株式会社 | 分光画像取得装置 |
CN108965654B (zh) * | 2018-02-11 | 2020-12-25 | 浙江宇视科技有限公司 | 基于单传感器的双光谱摄像机系统和图像处理方法 |
JP2018117375A (ja) | 2018-03-12 | 2018-07-26 | 株式会社ニコン | 電子機器、電子機器の制御方法、及び制御プログラム |
JP2022027501A (ja) * | 2020-07-30 | 2022-02-10 | オリンパス株式会社 | 撮像装置、位相差オートフォーカスの実行方法、内視鏡システム、およびプログラム |
-
2020
- 2020-08-04 JP JP2020132120A patent/JP2022029026A/ja active Pending
-
2021
- 2021-07-26 US US17/385,645 patent/US11831968B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US11831968B2 (en) | 2023-11-28 |
US20220046149A1 (en) | 2022-02-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5976676B2 (ja) | レンズ部の縦の色収差を利用したイメージングシステム及びその操作方法 | |
US20170034456A1 (en) | Sensor assembly with selective infrared filter array | |
US9681057B2 (en) | Exposure timing manipulation in a multi-lens camera | |
US8159599B2 (en) | Focus detection apparatus, focus detection method, and image sensing apparatus | |
CN101755463B (zh) | 图像传感器的多分量读出 | |
EP2594062B1 (en) | Flash system for multi-aperture imaging | |
US8310765B2 (en) | Color separating optical system | |
US20080291445A1 (en) | Spectroscopic instrument, image producing device, spectroscopic method, and image producing method | |
CN102369721A (zh) | 具有合成全色图像的彩色滤光器阵列(cfa)图像 | |
JP2013546249A5 (ja) | ||
US8804111B2 (en) | Multichip CCD camera inspection system | |
JP4983271B2 (ja) | 撮像装置 | |
US8040412B2 (en) | Imaging apparatus and image data correcting method | |
JP2002125156A (ja) | 固体撮像素子及び電子カメラ | |
JP2023010706A (ja) | 分光カメラ、撮像方法、プログラム及び記録媒体 | |
JP5010909B2 (ja) | 撮像装置および画像データ補正方法 | |
JP2020091328A (ja) | 撮像装置及びその制御方法、及び演算方法 | |
US20220299369A1 (en) | System, Method and Apparatus for Wide Wavelength Range Imaging with Focus and Image Correction | |
WO2018150925A1 (ja) | 焦点検出装置、焦点検出方法、および焦点検出プログラム | |
JP7191597B2 (ja) | 撮像装置及びそれを備える監視システム、制御方法並びにプログラム | |
JP2022029026A (ja) | 撮像装置 | |
WO2017126242A1 (ja) | 撮像装置、及び、画像データ生成方法 | |
US20090102939A1 (en) | Apparatus and method for simultaneously acquiring multiple images with a given camera | |
JP2006177813A (ja) | 迷光補正法及びそれを用いた二次元分光輝度計 | |
JP2003008997A (ja) | 撮像素子及び撮像素子を用いたデジタルスチルカメラ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230727 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230727 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240620 |