JP2022039717A - 撮像装置およびその制御方法ならびにプログラム - Google Patents
撮像装置およびその制御方法ならびにプログラム Download PDFInfo
- Publication number
- JP2022039717A JP2022039717A JP2020144874A JP2020144874A JP2022039717A JP 2022039717 A JP2022039717 A JP 2022039717A JP 2020144874 A JP2020144874 A JP 2020144874A JP 2020144874 A JP2020144874 A JP 2020144874A JP 2022039717 A JP2022039717 A JP 2022039717A
- Authority
- JP
- Japan
- Prior art keywords
- image pickup
- image
- optical system
- light
- pickup apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 31
- 230000003287 optical effect Effects 0.000 claims abstract description 177
- 238000003384 imaging method Methods 0.000 claims abstract description 52
- 230000003595 spectral effect Effects 0.000 claims abstract description 22
- 230000005540 biological transmission Effects 0.000 claims description 39
- 230000008569 process Effects 0.000 claims description 19
- 230000008859 change Effects 0.000 claims description 16
- 239000004038 photonic crystal Substances 0.000 claims description 11
- 210000001747 pupil Anatomy 0.000 claims description 5
- 239000013078 crystal Substances 0.000 claims description 3
- 230000006870 function Effects 0.000 description 13
- 238000012545 processing Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- VYPSYNLAJGMNEJ-UHFFFAOYSA-N Silicium dioxide Chemical compound O=[Si]=O VYPSYNLAJGMNEJ-UHFFFAOYSA-N 0.000 description 3
- 238000013459 approach Methods 0.000 description 3
- GWEVSGVZZGPLCZ-UHFFFAOYSA-N Titan oxide Chemical compound O=[Ti]=O GWEVSGVZZGPLCZ-UHFFFAOYSA-N 0.000 description 2
- 229910052681 coesite Inorganic materials 0.000 description 2
- 229910052906 cristobalite Inorganic materials 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 229910052682 stishovite Inorganic materials 0.000 description 2
- 229910052905 tridymite Inorganic materials 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000010287 polarization Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000000377 silicon dioxide Substances 0.000 description 1
- 235000012239 silicon dioxide Nutrition 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000000411 transmission spectrum Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/28—Investigating the spectrum
- G01J3/2823—Imaging spectrometer
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
- G01J3/0205—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
- G01J3/0205—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
- G01J3/0229—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using masks, aperture plates, spatial light modulators or spatial filters, e.g. reflective filters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/62—Control of parameters via user interfaces
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/12—Generating the spectrum; Monochromators
- G01J2003/1226—Interference filters
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/12—Generating the spectrum; Monochromators
- G01J2003/1226—Interference filters
- G01J2003/1239—Interference filters and separate detectors
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/28—Investigating the spectrum
- G01J3/2823—Imaging spectrometer
- G01J2003/2826—Multispectral imaging, e.g. filter imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/12—Generating the spectrum; Monochromators
- G01J3/14—Generating the spectrum; Monochromators using refracting elements, e.g. prisms
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/12—Generating the spectrum; Monochromators
- G01J3/18—Generating the spectrum; Monochromators using diffraction elements, e.g. grating
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
- H04N23/687—Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
Landscapes
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
- Diffracting Gratings Or Hologram Optical Elements (AREA)
- Optical Filters (AREA)
Abstract
【課題】波長分解能に対する制約を低減し、簡便な構成で分光情報を得ることが可能な技術を提供する。【解決手段】実施形態に係る撮像装置は、撮像光学系を介して入射する被写体からの反射光のうちの、反射光の入射角に応じて受光面に到達する波長が異なる光線を受光して、画像信号を生成する撮像手段と、第1の画像信号が生成される光線とは撮像光学系からの反射光の入射角が異なる光線により第2の画像信号が生成されるように、撮像光学系又は撮像手段の状態を変更する制御手段と、制御手段により変更された撮像光学系又は撮像手段の状態ごとに光線を受光して生成された複数の画像信号に基づく分光画像を出力する出力手段と、を有する。【選択図】図4
Description
本発明は、撮像装置およびその制御方法ならびにプログラムに関する。
従来、カラー画像を撮影するための撮像素子の構造として、R、G、Bの異なる透過波長帯域をもつカラーフィルタを画素上にモザイク状に配置した構造が広く用いられている。このような撮像素子では、R、G、Bの3つの波長帯域を得ることができるものの、詳細な分光情報を得ることができないという課題がある。具体的には、上述の撮像素子から出力されるカラー画像では、例えば、Rの帯域の中における赤外に近い領域の光とGの帯域に近い光を区別することができない。すなわち、当該カラー画像では、反射光のスペクトルがもつ情報の大半が失われていた。
被写体の分光情報を得るための技術として、透過波長をR、G、B以外にも増やしたカラーフィルタをモザイク状に配置した撮像素子が提案されている(特許文献1)。また、分光情報を得る別の技術として、2次元状の撮像素子の前にプリズムや回折格子を配置し、1次元を空間情報(像)、別の1次元を分光情報(スペクトル)として、空間的には1次元撮像素子としてラインスキャンする技術が知られている(特許文献2)。この技術を用いたカメラは、プッシュブルーム方式のマルチスペクトルカメラと呼ばれる。この技術は、分光情報を取得するために空間分解能を犠牲にしていないが、正確なラインスキャンを行うことのできる系を必要とする。
更に、被写体の分光情報を得るために、液晶への印加電圧を変化させることで生じる、液晶のリタデーション変化を利用した可変バンドパスフィルタを光学系や撮像素子の前に配置する技術が提案されている(特許文献3)。
特許文献1で提案される撮像素子では、波長の帯域のバリエーションを増やすほど、各帯域での画像の空間分解能が低下するような、波長分解能(バンド数)と空間分解能(解像度)がトレードオフの関係があり、バンド数と解像度の両立が課題となる。
また、特許文献2で提案されるいわゆるプッシュブルーム型は、装置が大型化したり、被写体を正確にスキャンする追加的な構成要素が必要となる。更に、特許文献3で提案される液晶フィルタのバンドパス特性を変化させる技術では、1方向の偏光ごとに撮像する必要があるため、装置が大型化するほか、透過波長の変更に時間(例えば数百ミリ秒)がかかるという課題がある。
本発明は、上記課題に鑑みてなされ、その目的は、波長分解能(バンド数)に対する制約を低減し、簡便な構成で分光情報を得ることを可能にする技術を実現することである。
この課題を解決するため、例えば本発明の撮像装置は以下の構成を備える。すなわち、撮像光学系を介して入射する被写体からの反射光のうちの、前記反射光の入射角に応じて受光面に到達する波長が異なる光線を受光して、画像信号を生成する撮像手段と、第1の画像信号が生成される光線とは前記撮像光学系からの前記反射光の入射角が異なる光線により第2の画像信号が生成されるように、前記撮像光学系又は前記撮像手段の状態を変更する制御手段と、前記制御手段により変更された前記撮像光学系又は撮像手段の状態ごとに前記光線を受光して生成された複数の前記画像信号に基づく分光画像を出力する出力手段と、を有することを特徴とする。
本発明によれば、波長分解能(バンド数)に対する制約を低減し、簡便な構成で分光情報を得ることが可能になる。
(実施形態1)
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
以下では撮像装置が、本実施形態に係る撮像手段を有するデジタルカメラである場合を例に説明する。しかし、本実施形態は、デジタルカメラに限らず、同様の撮像手段を備えることが可能な他の機器にも適用可能である。これらの機器には、例えばスマートフォンを含む携帯電話機、ゲーム機、タブレット端末、医療機器、監視システムや車載用システムの電子機器などが含まれてよい。
(撮像装置の構成)
図1は、本実施形態に係る撮像装置100の機能構成例を示している。撮像装置100は、撮像部101、制御部102、メモリ103、表示部104、記録部105、操作部106などの以下に説明する各構成を含む。
図1は、本実施形態に係る撮像装置100の機能構成例を示している。撮像装置100は、撮像部101、制御部102、メモリ103、表示部104、記録部105、操作部106などの以下に説明する各構成を含む。
撮像部101は、撮像光学系と、例えば、CCD(Charge-Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの撮像素子を含む。撮像素子は、撮像光学系により結像された被写体光学像を各画素で光電変換した画素信号を出力する。また、撮像部101は、撮像光学系と撮像素子の位置を相対的に変化させる(例えば撮像光学系の光軸と撮像素子の中央位置の位置関係を変化させる)駆動装置を更に含む。駆動装置は、例えば撮像光学系の位置を変化させるものであるが、撮像素子の位置、あるいは、撮像光学系と撮像素子の両方の位置を変化させるものであってよい。撮像部101は、撮像素子の内部または直上には、入射角度依存性をもつ、多層膜やフォトニック結晶などの光学素子が配設されている。なお、図1に示す例では、撮像光学系などの各構成が撮像部101に含まれる場合を例に説明するが、撮像部101の各構成のうちのいずれかが撮像部101と別体であってもよい。出力される画像信号や撮像部101の構成要素の詳細については後述する。
制御部102は、例えばCPUなどの1つ以上のプロセッサを含む。制御部102は、記録部105に記憶されたプログラムをメモリ103に展開、実行することにより、撮像装置100全体を制御する。プログラムは、制御部102の各部を制御する種々の処理や後述する撮像処理のためのプログラムを含む。メモリ103は、例えばDRAMなどの揮発性の半導体メモリを含み、制御部102が各種処理を実行する際のワークエリアを提供する。
表示部104は、例えば液晶又は有機ELのパネルを含み、撮像装置100の操作用のユーザインタフェースや、撮影中或いは記録部105に格納された撮像画像などを表示する。記録部105は、例えば、ハードディスクドライブ(HDD)又はソリッドステートドライブ(SSD)等を含み、アプリケーションやライブラリなどのプログラム、撮像画像等を保持する。
操作部106は、電源ボタン、静止画記録ボタン、動画記録開始や停止を指示するボタンなどの撮影に関連する各種操作を入力するスイッチ類を含む。また、操作部106は、メニュー表示ボタン、決定ボタン、その他カーソルキー、ポインティングデバイス、タッチパネル等を含んでよく、ユーザによりこれらのスイッチやキーが操作されると制御部102に操作信号を送信する。
ネットワークインタフェース107(単にI/F107ともいう)は、例えば、無線LANなどの無線通信を介して、他の外部装置との間でデータを送受信する。システムバス108は、上述した撮像装置100の各ユニット間を接続するアドレスバス、データバスおよび制御バスから構成される。
(分光画像の取得についての概要)
次に、分光情報を備えた画像データ(以下、分光画像ともいう)の取得についての概要を説明する。
次に、分光情報を備えた画像データ(以下、分光画像ともいう)の取得についての概要を説明する。
まず、図2A~図2B等を参照して、本実施形態に係る分光画像について説明する。図2A(a)~(c)には、R、G、Bの各色からなる一般的なカラー画像を模式的に示している。図2A(a)はRの出力、図2A(b)はGの出力、図2A(c)はBの出力を表している。塗りつぶしの濃淡は出力の大小を表す。xとyの空間座標のそれぞれの位置に各画素が配置され、各画素はそれぞれの値を備えている。各画素の色や明るさは、R、G、Bの出力の組み合わせによって定められる。R、G、Bの各画像はxとyの空間座標に対応した値を持っているため、3次元のデータ(x座標、y座標、信号値)を構成する3つの組となっている。
次に、図2Bには、分光画像を模式的に示している。xとyの空間座標のそれぞれの位置に各画素が配置され、各画素はそれぞれ各波長での値を持っている。すなわち、分光画像では、空間座標と波長からなる3次元座標上で、各画素が値を持っている。このため、分光画像は、受光面に対応する空間座標と波長とで特定される単位ごとに信号値を有する4次元のデータ(x座標、y座標、波長、信号値)となっている。
次に、本実施形態の撮像光学系に関係する、光学素子の特性の角度依存性について説明する。多層膜(例えば誘電体多層膜)、回折格子、フォトニック結晶、プラズモニック結晶などの、微細な構造によって光学特性を制御する素子は、微細構造と光線の入射角度の関係から、その特性が角度依存性を持つ。
図3は、例えば、SiO2(300nm)とTiO2(100nm)が交互に10周期積層された多層膜フィルタの透過特性の入射角度依存性を計算した結果を示している。斜入射の際のs偏光とp偏光は等量で加算している。多層膜に垂直に入射する条件を0°として、入射角度が0°から40°に変化するにつれて透過帯域が短波長側にシフトすることが把握される。
なお、多層膜の膜数や厚さや材料の屈折率を設計することで、透過する光の帯域や帯域幅を制御することが可能である。2次元または3次元の構造をもつフォトニック結晶やプラズモニック結晶は、1次元方向のみに変調された多層膜と比較して、より設計に自由度がある。
図4を参照して、本実施形態に係る分光画像の取得について説明する。402は撮像光学系、403は撮像素子であり、それぞれ撮像部101に含まれる撮像光学系と撮像素子に対応する。図4では、被写体401に対する、撮像光学系402と撮像素子403の光学的な配置の異なる状況をC-1、C0、C+1として表している。C-1、C0、C+1は、撮像光学系の光軸と、撮像素子の中央位置が、画面の左右にシフトした関係にある。C-1、C0、C+1での撮像光学系と撮像素子は、被写体401が、撮影される画面内で位置が変わらないような位置関係を保つようにシフトされている。
C-1、C0、C+1のそれぞれの状態において撮像素子403によって取得される画像を、それぞれ画像404、画像405、画像406とする。光学的な配置がC-1の場合、撮像素子403への光線の入射角度は、画面左にいく3ほど大きくなる。前述のとおり、多層膜やフォトニック結晶などの微細な構造によって光学特性を制御する素子は入射角度による透過特性の依存性がある。そのため、多層膜やフォトニック結晶などが撮像素子内部や、撮像素子の直上などに配設されている場合に、画面左ほど透過波長が短波長側にシフトするように多層膜等を構成することができる。
ここで、C-1、C0、C+1の3つの光学的な配置で撮影がなされるものとする。それぞれの配置における画面左右の透過波長の帯域を、画像404~406におけるB0~B2として示す。垂直入射の透過特性のB0に対し、B2が最も短波長にシフトした透過特性となる。
画像404~406で示した、画面内の各位置における透過特性をみると、画面内のいずれの位置においても、B0とB1の透過波長の帯域で撮影された画像が得られていることが分かる。ここで、画像404~406の通過波長の帯域に応じた領域を、図5に示す状態1から状態2(画像内の位置を維持したまま同一の帯域でまとめた状態)へと並び替える。そうすると、画面内の各領域において、例えば、透過波長の帯域B0で撮影された画像と透過波長の帯域B1で撮影された画像が得られる。すなわち、画素値を並び替えた画像は、図5の右下に示す分光画像の概念図のように、空間的な位置と波長とに対して信号値を有する。
(分光画像の取得をより一般化した例)
上述の説明では、入射角度による透過特性の変化をB0~B2の3つの帯域で表した。より正確には、例えば光学的な配置がC-1である場合にも、撮像素子403への光線の入射角度は、画面左にいくほど大きくなる。従って、上記説明のB0~B2の3つの値で表した帯域に対応するそれぞれの範囲の中であっても、撮像素子の左右で透過特性が異なっている。以下の実施形態で説明するように、1回の撮影ごとに撮像光学系の光軸と撮像素子の中央位置をシフトさせる量が小さくなるほど、それぞれの透過帯域に対応する領域の幅が狭くなり、ある帯域に対応する範囲内での左右の透過特性の差は無視できるようになる。
上述の説明では、入射角度による透過特性の変化をB0~B2の3つの帯域で表した。より正確には、例えば光学的な配置がC-1である場合にも、撮像素子403への光線の入射角度は、画面左にいくほど大きくなる。従って、上記説明のB0~B2の3つの値で表した帯域に対応するそれぞれの範囲の中であっても、撮像素子の左右で透過特性が異なっている。以下の実施形態で説明するように、1回の撮影ごとに撮像光学系の光軸と撮像素子の中央位置をシフトさせる量が小さくなるほど、それぞれの透過帯域に対応する領域の幅が狭くなり、ある帯域に対応する範囲内での左右の透過特性の差は無視できるようになる。
図6及び図7を参照して、分光画像の取得をより正確に(より一般化して)表す場合の例について説明する。図6では、601は撮像光学系、602は撮像素子を示しており、それぞれ撮像部101に含まれる撮像光学系と撮像素子に対応する。撮像素子602の内部または直上には、入射角度依存性をもつ、多層膜やフォトニック結晶などの光学素子603が配設されている。撮像光学系601は、撮像素子の画素が配列された平面(すなわち受光面)と平行な平面上を移動可能に構成されている。光軸と撮像素子の中心604とが一致する状態を撮像光学系の移動の原点とすると、図6では、撮像光学系601の光軸の位置がx軸に正の方向にS1だけシフトしている状態を表している。この状態において、撮像素子602の中央の画素には、角度θ1で撮像光学系601からの光線が入射する。
図7では、702は撮像光学系、703は撮像素子を示しており、それぞれ撮像部101に含まれる撮像光学系と撮像素子に対応する。図7に示す例では、図6に示した光学素子603は、撮像素子と一体なものとして、まとめて撮像素子703として示している。被写体701に対する、撮像光学系702と撮像素子703の光学的な配置をそれぞれ、C-n、・・・、C0、・・・、C+nとする。C-n~C0~C+nは、撮像光学系702の光軸と、撮像素子703の中央位置とが、画面の左右にシフトした関係にあり、合計で2n+1の配置を持っている。
撮像素子703が画像を取得する際に、被写体701の位置が変化しないように撮像光学系702と撮像素子703の位置関係をシフトさせる。このとき、両者の位置関係をシフトした後に当該シフトを一旦静止して撮影し、再度位置関係のシフトを開始しても良い。また、連続的に両者の位置関係をシフトさせつつ撮影を行ってもよい。被写体の撮影画角内での位置のずれが小さいほど、同じ条件の撮像光学系と撮像素子を用いた場合でも、より広い画角での分光画像を得ることができる。
C-n~C0~C+nの配置で撮影された2n+1枚の画像の、画面の左右における透過特性の帯域をB0~B2nとしたものを、画像704~706として示す。上述したように、垂直入射の配置で透過する帯域B0に対して、B2nに近づくほど短波長側に透過特性の帯域がシフトしている。
更に、図8を参照して、撮像光学系のシフト量と光線の入射角度の関係について説明する。なお、図8に示す撮像素子802及び撮像光学系801は、それぞれ撮像部101の撮像素子と撮像光学系と対応する。撮像素子802のx方向に撮像光学系801がシフトする系において、撮像光学系801の瞳距離がaであり、撮像素子802の中心からの撮像光学系のシフト量がS1である場合を考える。このとき、撮像素子802の中心803からS2だけ離れたある(画素の)列に対する光線の入射角の関係は式(1)で表される。
この関係を図9のグラフに示す。ただし、横軸に示す規格化シフト量Sは、式(3)で表される値である。
図9に示すグラフによれば、撮像光学系のシフト量が決まれば、各位置での画素への入射角度が一意に決まることが分かる。なお、規格化シフト量が -0.5 < S < 0.5である範囲においては、入射角度と規格化シフト量の関係はほぼ直線とみなすことができる。
主光線の入射角度と光学素子の透過特性の関係は、透過スペクトルの中心波長をλとして、式(4)で表すことができる。すなわち、関数fの形は多層膜やフォトニック結晶の構造によって決まる。
つまり、撮像光学系801と撮像素子802がS1だけシフトして撮影された画像の、撮像素子802の中心からS2だけ離れた位置の(画素の)列には、式(2)に従う角度θで、式(4)に従う波長λの中心波長の光線が入射することが分かる。
画像704~706で示した2n+1枚の画像において、画面内のいずれの位置においても、B0~Bnの中心透過波長の帯域で撮影された画像が得られている。それらの画像を図10に示す状態1から状態2へと並び変えることにより、画面内の各領域において、図10の右下の分光画像に示すように、中心透過波長がB0からBnまで、n+1の帯域で撮影された画像が得られる。
分光画像の波長レンジは、角度依存性を持つ光学素子の角度依存性の大きさ、すなわち式(4)のfの形(すなわち光学素子の角度依存性の特性)と、撮像光学系と撮像素子との相対的な位置のシフト量によって決まる。シフト量を制限する、すなわち撮像光学系の移動量を小さくすれば、取得する波長レンジを狭くすることができる。分光画像の波長分解能は、シフトによる角度変化量あたりの撮影枚数、すなわち撮像光学系と撮像素子の、シフト量あたりの撮影枚数によって決まる。撮像装置100における撮影間隔が一定であれば、シフト量の時間変化(すなわち撮像光学系の移動速度)がゆっくりであるほど波長分解能が高くなる。
式(4)のfの関数が略線形であって、規格化シフト量Sが-0.5 < S < 0.5である場合、撮像素子の画素の列(受光面上の位置)と透過中心波長の関係が略線形になる。このような場合には、B0~B2nに対応する撮像素子上での幅(列数)を等しくすることができるため、撮像素子の構造や画像データに対する処理が簡便になる。
また、図9の規格化シフト量Sと入射角度θの関係をθ=g(S)と表現すると、式(4)の関数fと合成して、式(5)のように表すことができる。
関数gは瞳距離によって決まり、関数fも光学素子の構造によって決まる。これらを適切に定めることにより、合成された関数hがほぼ線形になるようにできれば、同様に撮像素子の構造や画像データに対する処理が簡便になる。
なお、本実施形態では、撮像装置100を移動させて、その移動量に応じて撮像光学系をシフトさせてもよい。そうすることで、画角(構図)を変えずに撮像素子への光線の入射角度を変化させることができる。撮像装置100の位置とシフト量の関係を図11を用いて説明する。なお、ここで説明する撮像光学系と撮像素子は撮像部101に含まれるものと対応する。撮像光学系1102の光軸と撮像素子1103の中央のシフト量が0であり、被写体が撮像素子1103上の所望の画角に結像している状態を撮像装置100の原点とする。撮像素子1103の原点からの移動量は、撮像素子1103と撮像装置100が固定されているので、共通のSbとなる。撮像光学系のシフト量をS1とすると、被写体1101の撮像素子上での撮影画角が変わらないようにするためには、被写体、撮像光学系、撮像素子の関係は、三角形1105と三角形1106の相似から、
となる。
ここで、dは(撮像光学系からの)被写体距離、fは撮像光学系1102の瞳距離である。つまり、撮像装置100が原点からSbだけ離れた位置にある場合、撮像光学系1102はS1だけシフトするように制御される。
この条件で撮影が行われた場合、同じ撮像装置100の系であっても、最も広い画角での分光画像を得ることができる。また、図10の説明と同様に、撮像装置100の移動量を小さくすれば、取得する波長レンジを狭くすることができる。また、撮像装置100における撮影間隔が一定であれば、シフト量の時間変化(すなわち撮像装置100の移動速度)がゆっくりであるほど波長分解能が高くなる。
なお、撮像装置100の動きが不規則であったり、撮像装置100の位置に対して撮像光学系1102のシフト量が適正でない場合、そのずれた量に応じて画角が小さくなるが、その画角内においては正しい分光画像が得られる。
上述の説明では、撮像素子が撮像装置100の筐体に固定されており、且つ撮像光学系がシフト可能である場合を例に説明した。しかし、撮像光学系が撮像装置の筐体に固定されており、撮像素子がシフトする場合であっても、上記分光画像の取得を同様に行うことができる。また、上述の説明では、一次元の入射角度に限定した例に従って説明したが、入射角度を2次元方向に拡張してもよいし、1次元方向のみ角度依存性をもつ撮像光学系を使用してもよい。
撮像装置100や、撮像部101における撮像光学系が有限の大きさであるため、レンズシフト量には限界が生じる。また、撮像部101における撮像素子上に配置された分光素子も、所望の機能を実現できる入射角度は有限である。本実施形態では、被写体までの距離と撮像装置100の位置からシフト量が決められるが、シフト量限界以上までカメラを動かした場合、その3者(被写体距離、カメラ位置、シフト量)の関係が崩れてしまう。この場合、分光画像を得るという所望の機能の実現に寄与しない画像が得られてしまう。そのため、撮像装置100を動かしている途中で、物理的なシフトの限界または光学素子が所望の機能を実現できる入射角度の限界に到達した際に、音や光や振動などの告知手段によってユーザに通知を行ってもよい。ユーザへの通知は、例えば、これ以上大きくカメラを動かしても、分光画像の取得に寄与しないことを示すものであってよい。
(分光画像を取得するための撮像処理に係る一連の動作)
本実施形態における、分光画像を取得するための撮像処理に係る一連の動作を、図12を参照して説明する。なお、この撮像処理は、特に言及しない限り、撮像装置100の制御部102が、記録部105に格納されたプログラムを展開、実行し、撮像装置100の各部を制御することにより実現される。また、以下の処理では、撮像部101の撮像光学系が可動であり、固定された撮像素子に対してその位置をシフト可能に構成される場合を例に説明する。
本実施形態における、分光画像を取得するための撮像処理に係る一連の動作を、図12を参照して説明する。なお、この撮像処理は、特に言及しない限り、撮像装置100の制御部102が、記録部105に格納されたプログラムを展開、実行し、撮像装置100の各部を制御することにより実現される。また、以下の処理では、撮像部101の撮像光学系が可動であり、固定された撮像素子に対してその位置をシフト可能に構成される場合を例に説明する。
S001において、制御部102は、ユーザによる、分光画像を得る波長レンジに対する設定を受け付けて、分光画像を得る波長レンジの値を設定する。
S002において、制御部102は、ユーザによる、波長分解能に対する設定を受け付けて、波長分解能の値を設定する。そして、制御部102は、波長分解能の値によって、角度あたりの撮影枚数を決定することができる。
S003において、制御部102は、S002で求められた角度あたりの撮影枚数と、角度とシフト量の関係(式2)とから、どのシフト位置で撮影するかを算出する。
S004において、撮像部101は、制御部102による指示に応じて、撮像部101の撮像光学系を最初のシフト位置に移動させる。撮像光学系の最初のシフト位置は、S001において設定された波長レンジを用いて制御部102によって求められる。
S005において、撮像部101の撮像素子は、S004において移動された撮像光学系を介して被写体からの光線が受光する。これにより構図が決定される。
S006において、制御部102は、被写体の距離を測定する。制御部102は、例えば不図示の測距センサを用いて、被写体の距離を測定し、被写体距離を取得する。
S007において、制御部102は、S003で求められたシフト位置とS006で得られた被写体距離とから、例えば式(7)に従って、どの位置で撮影するかを算出する。ここで、算出される撮像装置100の位置は、シフト位置に応じて複数個算出される。なお、撮像装置100で求めた撮影位置に移動させるために、制御部102が表示部104に移動方向や必要な移動量を示す表示を表示させ、ユーザに移動させてもよい。このとき、制御部102は、不図示のジャイロセンサやGPSなどのセンサ情報に基づいて、求めた撮影位置と現在位置との差に基づいてどの方向にどれだけの移動が必要かを示してもよい。或いは、制御部102は、求めた撮影位置まで、撮像装置100を取り付けた機械式の駆動装置によって移動してもよい。この場合、制御部102は、外部の駆動装置に対して、例えばI/F107を介して、撮影位置を示す制御情報を出力してもよい。
S008において、制御部102は、ユーザにより操作部106に対して撮影開始動作(例えばシャッターボタン押下)がなされたかを判定する。制御部102は、操作部106からの信号に基づいて撮影開始動作がなされたと判定した場合、撮影を開始して、S009に処理を進め、そうでない場合には、S008に処理を戻す。
S009において、制御部102は、撮像装置100がS007で求めた位置にいるか否かを判定する。制御部102は、例えば不図示のジャイロセンサやGPS等のセンサ情報に基づいて、撮像装置100が求めた位置にいると判定した場合には、S010に処理を進め、そうでない場合には、S013に処理を進める。
S010において、制御部102は、撮影を実行して、撮影により得られる撮像画像を記録部105に保存する。S011において、制御部102は、直前の撮影時のシフト量を記録(記録部105に保存)する。なお、S010の処理とS011の処理とは、同時で行われてもよいし、どちらが先でも構わない。
S012において、制御部102は、S007で求めた全位置での撮影が終了したかを判定する。制御部102は、S007で求めた全位置で撮影が終了していないと判定した場合、S013に処理を進め、そうでない場合、S015に処理を進める。
S013において、撮像装置100の位置が移動され、S014において、撮像部101は、制御部102の指示により、撮像装置100の位置に応じて撮像光学系をシフトさせる。このようにして、S007で求められた、次の撮影が行われる位置に撮像装置100が達した際に撮影を行うためのS010~S014の動作を、S012の判定が満たされるまで繰り返す。
S015において、制御部102は、どの波長の画像を得るかを選択する。制御部102は、特定の波長や波長範囲を、ユーザによる操作部106に対する操作に応じて指定しても良いし、予め定めた基準に応じて自動で選択してもよい。また、制御部102は、対象とする波長を、取得した全波長としてもよい。
S016において、制御部102は、S015で選択した波長のうち最初に処理する波長を選択する。制御部102は、例えば、選択した波長のうちの最大或いは最小或いは中央値など、予め定めた条件と対応する波長を最初に処理する波長として選択する。
S017において、制御部102は、各撮影画像から、設定された波長に対応する領域を切り出す。これは、上述の図10の状態1のような撮像画像から、例えば、B0~Bnのうちのいずれかの波長における画素値を取得することに相当する。
S018において、制御部102は、切り出した画像の領域を、再合成画像上に配置する。これは、上述の図10の状態2のように配列された画像データを構成する、特定の波長の画像データを得ることに相当する。
S019において、制御部102は、再合成画像の所望の範囲に配置完了したかを判定し、配置完了したと判定した場合、S020に処理を進め、そうでないS017に処理を戻す。
S020において、制御部102は、生成した再合成画像を記録部105に保存する。そして、S021において、制御部102は、S015で選択された全ての波長に対して画像データ(再合成画像)が保存されているかを判定する。制御部102は、全ての波長に対して画像データが保存されていないと判定した場合、S022に処理を進め、そうでない場合には本処理を終了する。S022では、制御部102は、次の波長が設定し、その後、S017~S020の処理を、選択した全波長が保存されるまで繰り返す。なお、ここでは全位置での撮影が終了してから再合成画像を生成する処理を例にあげて説明を行ったが、1つの位置で撮影するたびに、撮影で得られた画像を用いて段階的に再合成画像を生成するようにしてもよい。
なお、上述のように、撮影間隔を一定として、撮像装置100の位置を動かす速度によって波長分解能を調整する場合、制御部102は、S002において波長分解能を設定しなくてもよい。この場合の動作を、図13に示す。なお、この撮像処理も、特に言及しない限り、撮像装置100の制御部102が、記録部105に格納されたプログラムを展開、実行し、撮像装置100の各部を制御することにより実現される。なお、図12と同一又は実質的な同一である処理については、同一の参照番号を付して重複する説明は省略する。
S001において、制御部102は、ユーザによる、分光画像を得る波長レンジに対する設定を受け付けて、分光画像を得る波長レンジの値を設定する。
S101において、制御部102は、S101で設定された波長レンジに応じて撮像光学系を最初のシフト位置に移動する。その後、図12について上述したS005~S006を実行する。S008において、制御部102は、ユーザにより操作部106に対して撮影開始動作(例えばシャッターボタン押下)がなされたかを判定する。制御部102は、操作部106からの信号に基づいて撮影開始動作がなされたと判定した場合、撮影を開始して、S010に処理を進め、そうでない場合には、S008に処理を戻す。制御部102は、撮影開始動作がなされたと判定した場合、S010及びS011を実行して、撮影及びシフト量の記録を実行する。
S102において、制御部102は、撮影開始から所定の時間に到達したかを判定し、所定の時間に到達していないと判定した場合には、S013及びS014を実行して、撮影と撮像光学系のシフトとを繰り返す。一方、制御部102は、所定の時間を経過したと判定した場合、S103に処理を進める。
S103において、制御部102は、撮像画像の、シフト量あたりの撮影枚数、すなわち角度あたりの撮影枚数から、波長分解能を算出する。その後、制御部102は、上述したS015~S021の処理を実行する。
以上説明したように、本実施形態では、撮像光学系と撮像素子の相対位置を撮像装置100の位置に応じて変化させながら、入射角度依存性をもつ光学素子を通過した光線を撮像し、通過波長の帯域と空間座標ごとに画素値を有する画像を取得するようにした。このようにすることで、小型で簡便であり、カメラの動かし方で、波長レンジと分解能を自在に調整可能な、分光画像の撮像装置を実現することができる。換言すれば、波長分解能(バンド数)に対する制約を低減し、簡便な構成で分光情報を得ることができる。
(実施形態2)
次に、実施形態2について説明する。上述の実施形態1では、図7に示したように、被写体に対して撮像光学系または撮像素子をシフトさせることにより、画角を変化させること無く撮像素子の画素への光線の入射角度を変化させるようにした。これに対し、本実施形態では、撮像素子の一部分を画面クロップして出力できる撮像装置を用いて、位置に応じて撮像素子のクロップ位置を変化させて、実施形態1と同様の分光画像を取得する。なお、本実施形態では、分光画像の取得に係る処理の一部が実施形態1と異なるが、撮像装置100の構成は同一であってよい。そのため、実施形態1と同一又は実質的に同一である構成については同じ参照番号を付して説明を省略し、相違点について重点的に説明する。
次に、実施形態2について説明する。上述の実施形態1では、図7に示したように、被写体に対して撮像光学系または撮像素子をシフトさせることにより、画角を変化させること無く撮像素子の画素への光線の入射角度を変化させるようにした。これに対し、本実施形態では、撮像素子の一部分を画面クロップして出力できる撮像装置を用いて、位置に応じて撮像素子のクロップ位置を変化させて、実施形態1と同様の分光画像を取得する。なお、本実施形態では、分光画像の取得に係る処理の一部が実施形態1と異なるが、撮像装置100の構成は同一であってよい。そのため、実施形態1と同一又は実質的に同一である構成については同じ参照番号を付して説明を省略し、相違点について重点的に説明する。
本実施形態に係る分光画像の取得について、図14を参照して説明する。1402は撮像光学系、1403は撮像素子であり、撮像部101の撮像光学系および撮像素子と対応する。本実施形態の撮像光学系と撮像素子の相対位置は撮像装置100の位置によって変化しない。撮像素子の内部または直上には、入射角度依存性をもつ、多層膜やフォトニック結晶などの光学素子が配設されている。被写体1401に対する、撮像素子のクロップ領域が1405である配置をC-n、撮像素子のクロップ領域が1406である配置をC0、撮像素子のクロップ領域が1407である配置をC+nとする。C-n~C0~C+nは、撮像光学系の光軸と、撮像素子のクロップ位置が、撮像素子の中央から左右にシフトした関係にあり、全部で2n+1の配置を持っている。
C-n~C0~C+nの各配置で撮影された2n+1枚の画像の、画面の左右における透過特性の帯域をB0~B2nとしたものを、1408~1410に示す。前述のように、垂直入射の配置での帯域B0に対して、B2nに近づくほど短波長側に透過特性の帯域がシフトしている。
図14に示す画像信号を、図15の状態1から状態2へと並び変えることにより、画面内の各領域において、図15に示す分光画像の例のように、中心透過波長がB0からBnまで、n+1の帯域で撮影された画像が得られる。
本実施形態では、撮像装置を移動させつつ画像を取得する際に、被写体1601の位置が変化しないように撮像素子のクロップ位置をシフトさせる。撮像装置の位置をSb2、光軸とクロップ中心のシフト量S1とすると、被写体1601、撮像光学系1602、クロップ中心の関係は、図16に示すように、三角形1605と三角形1606の相似から、式(8)、(9)のようになる。
なお、式(9)の関係でクロップ中心のシフト位置を決めて撮像素子から画像データの読み出しを行ってもよいし、撮像素子の全画角で読み出しを行って画像を保存し、後処理で式(9)の関係となる条件でクロップを行っても良い。撮像装置100の位置ごとに撮影された画像を全画角で読み出し、被写体がちょうど重なるようにした場合の、各画像がオーバーラップする範囲からクロップ領域を決めてもよい。
本実施形態では、撮像装置の位置を変化させながら、入射角度依存性をもつ光学素子を通過した光線を撮像し、位置に応じて撮像素子の出力に対するクロップ位置を変化させて、通過波長の帯域と空間座標ごとに画素値を有する画像を取得するようにした。このようにすることで、撮像光学系又は撮像素子に対する可動部を用いることなく、小型で簡便であり、カメラの動かし方で、波長レンジと分解能を自在に調整可能な分光画像の撮像装置を実現することができる。
(実施形態3)
実施形態1及び実施形態2では、撮像素子上に配設する光学素子として、例えば誘電体多層膜やフォトニック結晶など、バンドパス特性と角度依存性をもつ光学素子を用いる場合を例に説明した。一方、光学素子として、回折格子やプリズムなどの分光特性をもつ光学素子と、透過波長を制限する遮光膜の組み合わせによっても、同様の機能を得ることができる。このため、本実施形態では、光学素子として、回折格子やプリズムなどの分光特性をもつ光学素子と、透過波長を制限する遮光膜を組み合わせる場合を例に説明する。なお、本実施形態では、撮像部101の内部構成が実施形態1と異なるが、図1に示した撮像装置100の構成は同一であってよい。
実施形態1及び実施形態2では、撮像素子上に配設する光学素子として、例えば誘電体多層膜やフォトニック結晶など、バンドパス特性と角度依存性をもつ光学素子を用いる場合を例に説明した。一方、光学素子として、回折格子やプリズムなどの分光特性をもつ光学素子と、透過波長を制限する遮光膜の組み合わせによっても、同様の機能を得ることができる。このため、本実施形態では、光学素子として、回折格子やプリズムなどの分光特性をもつ光学素子と、透過波長を制限する遮光膜を組み合わせる場合を例に説明する。なお、本実施形態では、撮像部101の内部構成が実施形態1と異なるが、図1に示した撮像装置100の構成は同一であってよい。
図17を参照して、バンドパス特性をもつ(実施形態1、2で説明した)光学素子を用いる場合と(本実施形態に係る)分光特性を持つ光学素子を用いる場合とを比較して説明する。
図17(a)及び図17(b)は、上述の実施形態に係るバンドパス特性を有する光学素子を用いる例を示している。図17(a)は、バンドパス特性をもつ素子に、例えば30°で光線が入射した場合の、入射光線1701と光学素子1703と撮像素子1702の関係を示している。図17(b)は、入射光線1706が垂直入射した場合を示している。入射角度が大きい図17(a)の場合には、透過波長が入射角度が小さい図17(b)の場合に対して、短波長側にシフトする。このとき、透過しない波長の光1704、1707は光学素子によって反射または吸収される。つまり、垂直入射ではRの光が撮像素子に入射していた状態から、入射角度が大きくなるとBの光が撮像素子に入射するように変化する。
図17(c)及び図17(d)は、本実施形態に係る、分光特性をもつ光学素子(例えば回折格子)と、遮光膜及びその開口部の組み合わせとを用いる例を示している。図17(c)は、分光特性をもつ素子に、例えば15°で光線が入射した場合の、入射光線1701と光学素子1703と撮像素子1702と遮光膜1709の関係を示している。図17(d)は、入射光線1706が垂直入射した場合を示している。遮光膜は、光学素子の入射光の入射位置から、例えば30°傾いた位置に開口が設けられており、その角度の光線のみを透過させる。つまり、垂直入射でRの光が撮像素子に入射していた状態が、入射角度が大きい場合にはBの光が入射するように変化する。このように、入射角度と撮像素子への入力に着目した場合、図17(c)及び図17(d)に示す構成であっても、図17(a)及び図17(b)の場合と同等の機能を実現可能になる。なお、入射光の入射位置の広がりによる誤差の発生を抑制するためには、なるべく撮像光学系のFナンバーを大きくする、すなわち、開口径を小さくすればよい。
光線の入射角度と遮光膜の開口位置と透過波長の関係について、図18、19を参照して説明する。透過型回折格子の透過波長は、回折格子への入射角度:α、出射角度:β、格子周期:d、次数:mとすると、式(9)のように表すことができる。
式(9)の入射角αを0°、15°、30°とした場合の、βとλの関係を図18のグラフに示す。格子周期dを1600nmとし、次数mは-1とした。βが30°の位置に着目すれば、αが0°~30°まで変化することで、λが0~800nmの範囲で変化することが分かる。遮光膜への開口の設置位置と、透過波長の関係を、図19を用いて説明する。図18のグラフにおけるβは回折格子からの出射角度であり、βを30°に固定することは、光学素子への入射光1901の入射位置1902から30°の位置に、遮光膜上に開口1903を設けることを意味する。βを固定で、αを変化させることは、図18の線分1801上を動くことに対応し、光学素子1703への入射角度αを変化させることで、撮像素子1702へ入射する波長が変化する。
分光特性を持つ光学素子と遮光膜の組み合わせは、実施形態1のような撮像光学系または撮像素子をシフトさせる場合にも適用可能であり、実施形態2のように撮像素子のクロップ位置を変化させる場合にも適用することができる。
このように本実施形態では、分光特性を持つ光学素子と遮光膜の組み合わせを用いて当該光学素子と遮光膜とを通過した光線を撮像し、通過波長の帯域と空間座標ごとに画素値を有する画像を取得するようにした。このようにすることで、撮像素子上の光学特性だけでなく、遮光膜の位置や形状によっても撮像素子が受光する分光特性を変化させることができ、設計の自由度が高まることで、所望の性能をより容易に得ることができる。
(実施形態4)
実施形態1~3では、撮像光学系と撮像素子(或いは画像信号を出力するクロップ位置)の位置関係が平行にシフトした関係にある場合を例に説明した。例えば、撮像光学系と撮像素子をシフトさせることで、画角を変化させずに撮像素子への光線の入射角度を変化させることを実現していた。一方、本実施形態では、撮像光学系と撮像素子の平行なシフトではなく、撮像光学系のチルトによって、画角を大きく変化させることなく撮像素子への入射角度を変化させる構成について説明する。なお、本実施形態では、撮像部101の内部構成が実施形態1と異なるが、図1に示した撮像装置100の構成は同一であってよい。
実施形態1~3では、撮像光学系と撮像素子(或いは画像信号を出力するクロップ位置)の位置関係が平行にシフトした関係にある場合を例に説明した。例えば、撮像光学系と撮像素子をシフトさせることで、画角を変化させずに撮像素子への光線の入射角度を変化させることを実現していた。一方、本実施形態では、撮像光学系と撮像素子の平行なシフトではなく、撮像光学系のチルトによって、画角を大きく変化させることなく撮像素子への入射角度を変化させる構成について説明する。なお、本実施形態では、撮像部101の内部構成が実施形態1と異なるが、図1に示した撮像装置100の構成は同一であってよい。
図20において、2002は撮像光学系、2003は撮像素子である。撮像素子の内部または直上には、入射角度依存性をもつ、多層膜やフォトニック結晶などの光学素子が配設されている。被写体2001に対する、撮像光学系2002と撮像素子2003の光学的な配置をそれぞれC-n、C0、C+nとする。C-n~C0~C+nは、撮像光学系が、撮像素子に対してチルトした関係にあり、合計で2n+1の配置を持っている。
撮像素子2003が画像を取得する際に、被写体2001の位置が変化しないように撮像光学系2002を撮像素子2003に対してチルトさせる。チルトした後にチルトを静止して撮影し、再度チルトを開始しても良いし、連続的にチルトをさせつつ撮影を行ってもよい。
C-n~C0~C+nの配置で撮影された2n+1枚の画像の、画面の左右における透過特性の帯域をB0~B2nとしたものを、2004~2006に示す。垂直入射の配置での帯域B0に対して、B2nに近づくほど短波長側に透過特性の帯域がシフトする。
以下、図20に示す2004~2006は、実施形態1における、図7の704~706と同等に扱うことができる。すなわち、実施形態1と同様に、撮像装置100の動かし方で、波長レンジと分解能を自在に調整可能な撮像装置を実現することができる。
レンズをチルトさせる場合、被写界深度が画面内で異なってしまうことが考えられるが、被写界深度の深い、サイズの小さな撮像素子と撮像光学系の組み合わせであれば、あまり問題とならない。広角レンズでは遠近感の変化によって画像のずれが生じやすいが、撮像光学系を望遠側にしたり、画角を変えて複数回撮影することで、このような影響を軽減することができる。
このように本実施形態では、撮像光学系と撮像素子の相対角度を撮像装置100の位置に応じて変化させながら、入射角度依存性をもつ光学素子を通過した光線を撮像し、通過波長の帯域と空間座標ごとに画素値を有する画像を取得するようにした。このような構成により、撮像光学系をシフトさせる場合と比べて、必要イメージサークルを抑えることができるため、レンズを小型化することができる。すなわち、撮像装置の大きさ自体も小型にすることができるメリットがある。
以上説明したように上述の実施形態では、撮像手段により、撮像光学系を介して入射する被写体からの反射光のうちの、反射光の入射角に応じて受光面に到達する波長が異なる光線を受光して、画像信号を生成するようにした。そして、第1の画像信号が生成される光線とは入射角が異なる光線により第2の画像信号が生成されるように、撮像光学系又は撮像手段の状態(すなわち撮像光学系のシフト位置や角度、クロップ位置)を変更するようにした。そして、変更された撮像光学系又は撮像手段の状態ごとに光線を受光して生成された複数の画像信号に基づいて分光画像を生成するようにした。このようにすることで、波長分解能(バンド数)に対する制約を低減し、簡便な構成で分光情報を得ることが可能になる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
101…撮像部、102…制御部、103…メモリ、601…撮像光学系、602…撮像素子、603…光学素子
Claims (22)
- 撮像光学系を介して入射する被写体からの反射光のうちの、前記反射光の入射角に応じて受光面に到達する波長が異なる光線を受光して、画像信号を生成する撮像手段と、
第1の画像信号が生成される光線とは前記撮像光学系からの前記反射光の入射角が異なる光線により第2の画像信号が生成されるように、前記撮像光学系又は前記撮像手段の状態を変更する制御手段と、
前記制御手段により変更された前記撮像光学系又は撮像手段の状態ごとに前記光線を受光して生成された複数の前記画像信号に基づく分光画像を出力する出力手段と、を有する撮像装置。 - 前記制御手段は、前記撮像光学系からの前記反射光の入射角が変化するように、前記撮像光学系と前記撮像手段との相対的な位置又は向きを変更する駆動手段を含む、ことを特徴とする請求項1に記載の撮像装置。
- 前記駆動手段は、前記撮像光学系および前記撮像手段の少なくともいずれかを、前記受光面と平行な平面上で移動させて、前記撮像光学系と前記撮像手段との相対的な位置を変更する、ことを特徴とする請求項2に記載の撮像装置。
- 前記駆動手段は、前記被写体の被写体距離に基づいて定められるシフト量だけ、前記撮像光学系と前記撮像手段との相対的な位置を変更する、ことを特徴とする請求項3に記載の撮像装置。
- 前記シフト量は、前記被写体の被写体距離と、前記撮像光学系の瞳距離と、前記撮像装置の所定の位置からの移動量とに基づいて定められる、ことを特徴とする請求項4に記載の撮像装置。
- 前記駆動手段は、前記分光画像に求められる波長のレンジに応じて設定される、前記撮像光学系と前記撮像手段との相対的な位置に、前記撮像光学系又は前記撮像手段を移動させる、ことを特徴とする請求項3から5のいずれか1項に記載の撮像装置。
- 相対的な位置の変更される範囲において生成される前記画像信号の数に応じて、前記分光画像に求められる波長の分解能が異なる、ことを特徴とする請求項6に記載の撮像装置。
- 前記駆動手段は、前記撮像手段に対する前記撮像光学系の向きを変更して、前記撮像光学系と前記撮像手段との相対的な向きを変更する、ことを特徴とする請求項2に記載の撮像装置。
- 前記制御手段は、前記撮像手段で受光して得られる信号の一部を取得するためのクロップ位置を変更することにより前記撮像手段の状態を変更し、
前記制御手段は、前記第1の画像信号が生成されるクロップ位置から、前記第2の画像信号が生成されるクロップ位置へ、前記撮像光学系からの前記反射光の入射角が変化するようにクロップ位置を変更する、ことを特徴とする請求項1に記載の撮像装置。 - 前記制御手段により変更された前記クロップ位置を記録する記録手段を更に有し、
前記出力手段は、前記撮像手段により生成された画像信号と、前記記録手段に記録されたクロップ位置とに基づいて、前記クロップ位置ごとに前記光線を受光して生成された複数の前記画像信号に基づく分光画像を出力する、ことを特徴とする請求項9に記載の撮像装置。 - 前記分光画像は、前記受光面に対応する空間座標と波長とで特定される単位ごとに信号値を有する、ことを特徴とする請求項1から10のいずれか1項に記載の撮像装置。
- 前記撮像手段は、前記反射光の入射角に応じて、透過する光線の波長が異なる光学素子を含む、ことを特徴とする請求項1から11のいずれか1項に記載の撮像装置。
- 前記光学素子は、前記光線を受光する撮像素子上に配置される、ことを特徴とする請求項12に記載の撮像装置。
- 前記光学素子は誘電体多層膜で構成される、ことを特徴とする請求項12又は13に記載の撮像装置。
- 前記光学素子はフォトニック結晶で構成される、ことを特徴とする請求項12又は13に記載の撮像装置。
- 前記光学素子はプラズモニック結晶である、ことを特徴とする請求項12又は13に記載の撮像装置。
- 前記撮像手段は、分光特性をもつ光学素子と、透過波長を制限する遮光膜との組み合わせを含み、前記光学素子と前記遮光膜との組み合わせにより、前記反射光の入射角に応じて透過する光線の波長を異ならせる、ことを特徴とする請求項1から11のいずれか1項に記載の撮像装置。
- 前記反射光の入射角に応じて前記受光面に到達する波長が異なる光線を受光するための特性は、前記受光面と平行な平面に対する2次元方向の入射角度に対する角度依存性を有する、ことを特徴とする請求項1から17のいずれか1項に記載の撮像装置。
- 前記シフト量に対して、前記受光面に到達する前記光線の入射角度が略線形となるように構成される、ことを特徴とする請求項4または5に記載の撮像装置。
- 前記受光面上の位置に対して、前記受光面に到達する前記光線の入射角度が略線形となるように構成される、ことを特徴とする請求項4または5に記載の撮像装置。
- 撮像光学系を介して入射する被写体からの反射光のうちの、前記反射光の入射角に応じて受光面に到達する波長が異なる光線を受光して、画像信号を生成する撮像手段を有する撮像装置の制御方法であって、
第1の画像信号が生成される光線とは前記撮像光学系からの前記反射光の入射角が異なる光線により第2の画像信号が生成されるように、前記撮像光学系又は前記撮像手段の状態を変更する制御工程と、
前記制御工程において変更された前記撮像光学系又は撮像手段の状態ごとに前記光線を受光して生成された複数の前記画像信号に基づく分光画像を出力する出力工程と、を有する撮像装置の制御方法。 - コンピュータを、請求項1から20のいずれか1項に記載の撮像装置の前記制御手段及び前記出力手段として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020144874A JP2022039717A (ja) | 2020-08-28 | 2020-08-28 | 撮像装置およびその制御方法ならびにプログラム |
US17/445,746 US11743577B2 (en) | 2020-08-28 | 2021-08-24 | Image capturing apparatus, method thereof, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020144874A JP2022039717A (ja) | 2020-08-28 | 2020-08-28 | 撮像装置およびその制御方法ならびにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022039717A true JP2022039717A (ja) | 2022-03-10 |
Family
ID=80357505
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020144874A Pending JP2022039717A (ja) | 2020-08-28 | 2020-08-28 | 撮像装置およびその制御方法ならびにプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11743577B2 (ja) |
JP (1) | JP2022039717A (ja) |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3102012B2 (ja) | 1990-03-30 | 2000-10-23 | 科学技術振興事業団 | 波長可変型オプティカル・バンドパスフィルタ |
US20070102622A1 (en) * | 2005-07-01 | 2007-05-10 | Olsen Richard I | Apparatus for multiple camera devices and method of operating same |
US7701024B2 (en) * | 2006-12-13 | 2010-04-20 | Panasonic Corporation | Solid-state imaging device, manufactoring method thereof and camera |
JP2011089895A (ja) | 2009-10-22 | 2011-05-06 | Arata Satori | ハイパースペクトル撮像装置及びハイパースペクトル撮像方法 |
JP5675215B2 (ja) | 2010-08-20 | 2015-02-25 | オリンパス株式会社 | デジタルカメラ |
US9756263B2 (en) * | 2014-05-01 | 2017-09-05 | Rebellion Photonics, Inc. | Mobile gas and chemical imaging camera |
JP6951753B2 (ja) * | 2018-03-27 | 2021-10-20 | エバ・ジャパン 株式会社 | 情報探索システム及びプログラム |
CN115038945A (zh) * | 2020-02-28 | 2022-09-09 | 松下知识产权经营株式会社 | 摄像装置 |
US20210338090A1 (en) * | 2020-05-01 | 2021-11-04 | Viavi Solutions Inc. | Optical sensor device |
-
2020
- 2020-08-28 JP JP2020144874A patent/JP2022039717A/ja active Pending
-
2021
- 2021-08-24 US US17/445,746 patent/US11743577B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US11743577B2 (en) | 2023-08-29 |
US20220070366A1 (en) | 2022-03-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111901503B (zh) | 一种摄像模组、终端设备、成像方法及成像装置 | |
JP4969474B2 (ja) | 復号方法、復号装置、及び復号プログラム | |
JP6341736B2 (ja) | 撮像装置、制御方法、プログラム、記憶媒体 | |
US9911183B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium | |
JP2006319824A (ja) | 撮像装置 | |
KR102606609B1 (ko) | 카메라 모듈, 단말 디바이스, 촬상 방법 및 촬상 장치 | |
JP2009036986A (ja) | 撮影装置および撮影装置の制御方法 | |
KR20160065742A (ko) | 라이트필드 촬영 장치 및 방법 | |
JP2018101055A (ja) | 焦点調節装置、撮像装置及び焦点調節方法 | |
JP6188407B2 (ja) | 交換レンズ | |
JP2006081089A (ja) | 撮像装置 | |
JP7104301B2 (ja) | 測距カメラ | |
JP6218385B2 (ja) | 交換レンズ及び撮像装置 | |
JP2009036985A (ja) | 撮影装置および撮影装置の制御方法 | |
JP2022039717A (ja) | 撮像装置およびその制御方法ならびにプログラム | |
JPWO2017126242A1 (ja) | 撮像装置、及び、画像データ生成方法 | |
JP2016024315A5 (ja) | ||
JP5973784B2 (ja) | 撮像装置及びその制御方法、プログラム、並びに記憶媒体 | |
JP2013061560A (ja) | 測距装置および撮像装置 | |
JP2009036987A (ja) | 撮影装置および撮影装置の制御方法 | |
JP6098690B2 (ja) | レンズ鏡筒およびカメラボディ | |
JP5423734B2 (ja) | レンズ鏡筒および撮像装置 | |
JP6035777B2 (ja) | 撮像装置 | |
JP2011041092A (ja) | 撮像装置及びレンズ鏡筒 | |
JP2009037084A (ja) | 撮影装置および撮影装置の制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |