JP2017208585A - 撮像装置および画像データ生成プログラム - Google Patents

撮像装置および画像データ生成プログラム Download PDF

Info

Publication number
JP2017208585A
JP2017208585A JP2014201955A JP2014201955A JP2017208585A JP 2017208585 A JP2017208585 A JP 2017208585A JP 2014201955 A JP2014201955 A JP 2014201955A JP 2014201955 A JP2014201955 A JP 2014201955A JP 2017208585 A JP2017208585 A JP 2017208585A
Authority
JP
Japan
Prior art keywords
wavelength
filter
wavelength band
filters
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014201955A
Other languages
English (en)
Inventor
潤弥 萩原
Junya Hagiwara
潤弥 萩原
祐介 ▲高▼梨
祐介 ▲高▼梨
Yusuke Takanashi
清茂 芝崎
Kiyoshige Shibazaki
清茂 芝崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2014201955A priority Critical patent/JP2017208585A/ja
Priority to PCT/JP2015/075505 priority patent/WO2016052101A1/ja
Priority to US15/471,377 priority patent/US10021357B2/en
Publication of JP2017208585A publication Critical patent/JP2017208585A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0235Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using means for replacing an element by another, for replacing a filter or a grating
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/03Circuitry for demodulating colour component signals modulated spatially by colour striped filters by frequency separation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0264Electrical interface; User interface
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/007Optical devices or arrangements for the control of light using movable or deformable optical elements the movable or deformable optical element controlling the colour, i.e. a spectral characteristic, of the light
    • G02B26/008Optical devices or arrangements for the control of light using movable or deformable optical elements the movable or deformable optical element controlling the colour, i.e. a spectral characteristic, of the light in the form of devices for effecting sequential colour changes, e.g. colour wheels
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/201Filters in the form of arrays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/208Filters for use with infrared or ultraviolet radiation, e.g. for separating visible light from infrared and/or ultraviolet radiation
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/006Filter holders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • G01J2003/2826Multispectral imaging, e.g. filter imaging
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Optics & Photonics (AREA)
  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Toxicology (AREA)
  • Astronomy & Astrophysics (AREA)
  • Human Computer Interaction (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Optical Filters (AREA)

Abstract

【課題】非可視の3波長帯のそれぞれを可視の3原色に割り当てる撮像システムが知られている。【解決手段】600nmから2500nmの波長帯域に受光感度を有する複数の光電変換部と、被写体光束を通過させる波長帯がそれぞれ異なり、かつ、それぞれが通過させる波長帯域が受光感度を有する波長帯域を含むn種類(nは4以上の自然数)の波長フィルタと、複数の光電変換部のうち予め定められた条件によって組合せが決定されるm種類(mは3以上n未満の自然数)の波長フィルタのいずれかを通過した被写体光束を受光した光電変換部から出力された画素信号を用いて画像データを生成する画像データ生成部とを備え、m種類の波長フィルタのそれぞれの波長帯域のうち最も短波長側の波長帯域と最も長波長側の波長帯域とが重複し、かつ、m種類の波長フィルタのそれぞれが通過させる波長帯域が予め決定される有効波長帯域を含むように組合せが決定される撮像装置。【選択図】図3

Description

本発明は、撮像装置および画像データ生成プログラムに関する。
互いに中心波長が異なる非可視の3波長帯のそれぞれを可視の3原色(RGB)に割り当てる撮像システムが知られている。
[先行技術文献]
[特許文献]
[特許文献1]国際公開番号WO2007/083437号公報
この種の撮像システムが、特定の波長帯域を反射する被写体を、当該特定の波長帯域を含む、より広い波長帯域を通過させる波長フィルタを用いて撮像した場合に、特定の波長帯域内の微小帯域でのスペクトルの強弱は画像に反映され難くなる。結果として、被写体画像における色弁別が困難になる場合がある。一方で、撮像システムが、特定の波長帯域を反射する被写体を、当該特定の波長帯域内の一部の波長帯域のみを通過させる波長フィルタを用いて撮像した場合に、一部の波長帯域の被写体光束しか画像に反映させることができなくなる。この場合にも、結果として、被写体画像における色弁別が困難になる場合がある。
本発明の第1の態様における撮像装置は、600nmから2500nmの波長帯域に受光感度を有し、被写体光束を受光して画素信号を出力する複数の光電変換部と、被写体光束を通過させる波長帯域がそれぞれ異なり、かつ、それぞれが通過させる波長帯域が受光感度を有する波長帯域を含むn種類(nは4以上の自然数)の波長フィルタと、複数の光電変換部のうち、予め定められた条件によって組合せが決定されたm種類(mは3以上n未満の自然数)の波長フィルタのいずれかを通過した被写体光束を受光した光電変換部から出力された画素信号を用いて画像データを生成する画像データ生成部とを備え、m種類の波長フィルタのそれぞれの波長帯域のうち、最も短波長側の波長帯域と最も長波長側の波長帯域とが重複し、かつ、m種類の波長フィルタのそれぞれが通過させる波長帯域が予め決定される有効波長帯域を含むように組合せが決定される。
本発明の第2の態様における画像データ生成プログラムは、600nmから2500nmの波長帯域に受光感度を有し、被写体光束を受光して画素信号を出力する複数の光電変換部と、被写体光束を通過させる波長帯域がそれぞれ異なり、かつ、それぞれが通過させる波長帯域が受光感度を有する波長帯域を含むn種類(nは4以上の自然数)の波長フィルタとを備える撮像装置に用いられる画像データ生成プログラムであって、複数の光電変換部のうち、予め定められた条件によって組合せが決定されたm種類(mは3以上n未満の自然数)の波長フィルタを選択する選択ステップと、m種類の波長フィルタのいずれかを通過した被写体光束を受光した光電変換部から出力された画素信号を用いて画像データを生成する画像データ生成ステップとをコンピュータに実行させ、m種類の波長フィルタのそれぞれの波長帯域のうち、最も短波長側の波長帯域と最も長波長側の波長帯域とが重複し、かつ、m種類の波長フィルタのそれぞれが通過させる波長帯域が予め決定される有効波長帯域を含むように組合せが決定される。
なお、上記の発明の概要は、本発明の特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
本実施形態に係る一眼レフカメラの要部断面図である。 撮像素子の各光電変換部上に配置された波長フィルタを説明する図である。 フィルタセットの種類を説明する図である。 フィルタセットに含まれる波長フィルタの条件を説明する図である。 被写体のスペクトルとNIR−R'G'B'変換画像を説明する図である。 他の被写体のスペクトルとNIR−R'G'B'変換画像を説明する図である。 他の一眼レフカメラの要部断面図である。 フィルタユニットの構成を説明する図である。 他のナロータイプのフィルタセットを説明する図である。 他のナロータイプのフィルタセットを説明する図である。 有効帯域外の成分を除去する方法を説明する図である。 6つの成分の近赤外におけるスペクトルを説明する図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲にかかる発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、本実施形態に係る一眼レフカメラ200の要部断面図である。一眼レフカメラ200は、撮影レンズであるレンズユニット210とカメラボディであるカメラユニット230とが組み合わされて撮像装置として機能する。
レンズユニット210は、光軸201に沿って配列されたレンズ群211を備える。レンズ群211には、フォーカスレンズ212、ズームレンズ213が含まれる。また、光軸201に沿って、絞り214も配列される。
レンズユニット210は、フォーカスレンズ212および絞り214の駆動などのレンズユニット210の制御および演算を司るレンズシステム制御部216を備える。レンズシステム制御部216は、後述するカメラシステム制御部245からの制御信号を受けて各種動作を実行する。レンズユニット210を構成する各要素は、レンズ鏡筒217に支持されている。
また、レンズユニット210は、カメラユニット230との接続部にレンズマウント218を備え、カメラユニット230が備えるカメラマウント231と係合して、カメラユニット230と一体化する。レンズマウント218およびカメラマウント231はそれぞれ、機械的な係合部の他に電気的な接続部も備え、カメラユニット230からレンズユニット210への電力の供給および相互の通信を実現している。
カメラユニット230は、レンズユニット210から入射される被写体像を反射するメインミラー232と、メインミラー232で反射された被写体像が結像するピント板234を備える。メインミラー232は、回転軸233周りに回転して、光軸201を中心とする被写体光束中に斜設される状態と、被写体光束から退避する状態を取り得る。ピント板234側へ被写体像を導く場合には、メインミラー232は被写体光束中に斜設される。また、ピント板234は、撮像素子243の受光面と共役の位置に配置されている。
ピント板234で結像した被写体像は、ペンタプリズム235で正立像に変換され、接眼光学系236を介してユーザに観察される。また、ペンタプリズム235の射出面上方にはAEセンサ237が配置されており、被写体像の輝度分布を検出する。
斜設状態におけるメインミラー232の光軸201の近傍領域は、ハーフミラーとして形成されており、入射される光束の一部が通過する。通過した光束は、メインミラー232と連動して動作するサブミラー238で反射されて、AF光学系239へ導かれる。AF光学系239を通過した被写体光束は、AFセンサ240へ入射される。AFセンサ240は、受光した被写体光束から位相差信号を検出する。本実施形態においては、AFセンサ240は、近赤外でピントを合わせるように構成されている。なお、サブミラー238は、メインミラー232が被写体光束から退避する場合は、メインミラー232に連動して被写体光束から退避する。
斜設されたメインミラー232の後方には、光軸201に沿って、フォーカルプレーンシャッタ241、撮像素子243が配列されている。フォーカルプレーンシャッタ241は、撮像素子243へ被写体光束を導くときに開放状態を取り、その他のときに遮蔽状態を取る。
撮像素子243は、例えばCMOSセンサなどの近赤外用の光電変換素子であり、受光面で結像した被写体像を画素信号に変換する。撮像素子243は、2次元的に配列された複数の画素を有する。複数の画素のそれぞれは、被写体光束を受光して画素信号を出力する光電変換部と、当該光電変換部に対応して設けられた波長フィルタとを備える。波長フィルタの詳細は後述する。撮像素子243として、InGaAs系材料を含む撮像素子を用いることができる。本実施形態においては、撮像素子243の光電変換部は、近赤外の帯域である800nmから2500nmのうち、900nmから1700nmの波長帯域に感度を有する。なお、撮像素子243は、他の材料を用いることにより、可視の帯域の一部を含む600nmから2500nmの波長帯域に受光感度を有することができる。
メイン基板244に搭載された画像処理部246は、カメラシステム制御部245からの指令に従って、撮像素子243で光電変換された画素信号を画像データに処理する。画像処理部246とカメラシステム制御部245は、協働して、複数の光電変換部のうち、m種類の波長フィルタのいずれかを通過した被写体光束を受光した光電変換部から出力された画素信号を用いて画像データを生成する画像データ生成部の役割を担う。ここで、mは3以上n未満の自然数であり、nは4以上の自然数である。詳しくは後述するが、m種類の波長フィルタは、予め定められた条件によって組合せが決定される。また、詳しくは後述するが、画像処理部246は、近赤外(すなわち非可視)の波長帯域の画素信号を可視の波長帯域の画素信号に変換してフルカラーの画像データを生成する。本明細書では、このようなカラー画像データを「NIR−R'G'B'変換画像データ」と記し、当該カラー画像データを基に表示されるカラー画像、すなわち、可視の表示系に変換されたカラー画像を「NIR−R'G'B'変換画像」と記す場合がある。
メイン基板244に搭載されたカメラメモリ249は、一眼レフカメラ200を制御するプログラム、各種パラメータなどを記録する。カメラメモリ249は、予め定められた条件として、後述する条件を満たす波長フィルタの組合せに関する情報を記憶する。本実施形態においては、カメラメモリ249は、後述するブロードタイプのフィルタセットに含まれる波長フィルタを示す情報、およびナロータイプのフィルタセットに含まれる波長フィルタを示す情報をテーブルとして記憶している。
メイン基板244には、さらに、カメラユニット230のシステムを統合的に制御するMPUであるカメラシステム制御部245が搭載されている。カメラシステム制御部245は、カメラシーケンスを管理すると共に、各構成要素の入出力処理等を行う。また、カメラシステム制御部245は、ユーザの指定を受け付ける受付部の役割を担う。
カメラユニット230の背面には、液晶モニタ等による表示部247が配設されている。画像処理部246で処理された画像データ、すなわちNIR−R'G'B'変換画像データは、表示部247に送信されて表示される。ユーザは、表示部247に表示されたNIR−R'G'B'変換画像を見ることができる。表示部247には、各種設定のためのメニュー画面も表示される。ユーザは、表示部247に表示されたメニュー画面を確認しながら、操作部材を介して波長フィルタの組合せを選択することができる。また、カメラユニット230には、着脱可能な二次電池248が収容され、カメラユニット230に限らず、レンズユニット210にも電力を供給する。
図2は、撮像素子243の各光電変換部上に配置された波長フィルタの説明図である。波長フィルタの種類は4種類以上である。本実施形態においては、波長フィルタの種類は6種類である。各種の波長フィルタにおける、被写体光束を通過させる波長帯域は、互いに異なる。各種の波長フィルタは、近赤外に被写体光束を通過させる波長帯域を有する。各種の波長フィルタは、複数の光電変換部に1対1に対応して、複数の光電変換部の受光面に設けられている。本実施形態においては、図示されるように、IRフィルタ、IRフィルタ、IRフィルタ、IRフィルタ、IRフィルタ、およびIRフィルタのいずれかが、各光電変換部上に設けられている。より詳細には、IRフィルタ、IRフィルタ、およびIRフィルタがこの順序で繰り返し配置された行と、IRフィルタ、IRフィルタ、およびIRフィルタがこの順序で繰り返し配置された行とが、列方向に交互に設けられている。なお、波長フィルタの配列は、本例に限られない。
本明細書では、上述の6つのフィルタを特に区別しない場合、つまり任意の1つを示す場合に、単に「IRフィルタ」と記す場合がある。6つのフィルタを纏めて示す場合には、「IR1−6フィルタ」と記す場合がある。また、IRフィルタ、IRフィルタ、およびIRフィルタの3つのフィルタを纏めて示す場合には、「IR1−3フィルタ」と記し、IRフィルタ、IRフィルタ、およびIRフィルタの3つのフィルタを纏めて示す場合には、「IR4−6フィルタ」と記す場合がある。
詳しくは後述するが、IRフィルタ、IRフィルタ、およびIRフィルタは、後述する条件を満たす組合せであり、本明細書では、この組合せをブロードタイプのフィルタセットと記す。同様に、IRフィルタ、IRフィルタ、およびIRフィルタは、後述する条件を満たす組合せであり、本明細書では、この組合せをナロータイプのフィルタセットと記す。IR1−3フィルタのそれぞれは、互いに異なる可視の波長帯域に対応付けられる。同様に、IR4−6フィルタのそれぞれは、互いに異なる可視の波長帯域に対応付けられる。本実施形態においては、IRフィルタおよびIRフィルタの波長帯域は青色波長帯域に対応付けられ、IRフィルタおよびIRフィルタの波長帯域は緑色波長帯域に対応付けられ、IRフィルタおよびIRフィルタの波長帯域は赤色波長帯域に対応付けられる。
各画素が感度を有する波長帯域は、それぞれに設けられたIRフィルタによって規制される。規制される波長帯域の詳細は後述する。撮像素子243の全体としては、2次元的に配列された複数の画素のそれぞれが離散的にIR1−6フィルタのいずれかを備えることになる。したがって、撮像素子243は、入射する被写体光束をそれぞれの波長帯域に分離して検出すると言える。換言すれば、撮像素子243は、受光面に結像する被写体像を近赤外の6つの波長帯域に分離して光電変換する。
本実施形態においては、ブロードタイプおよびナロータイプのどちらのフィルタセットを使用するか、すなわち、どちらのフィルタセットに対応する画素の画素信号を用いるかは、ユーザにより予め設定されている。カメラシステム制御部245は、設定に従って、テーブルを参照して組合せを決定する。すなわち、どちらのフィルタセットに対応する画素の画素信号を用いるかを決定する。その後、画像処理部246は、カメラシステム制御部245により決定された組合せに従って、全画素の画素信号のうち、ブロードタイプのフィルタセットおよびナロータイプのフィルタセットのいずれか一方に対応する画素の画素信号を用いて、NIR−R'G'B'変換画像データを生成する。この場合に、他方のフィルタセットに対応する画素の画素値は、一旦除去された上で、周辺画素の画素値を用いて補間処理により算出される。なお、画像処理部246は、全画素の画素信号を受信してもよいし、決定されたフィルタセットに対応する画素の画素信号のみを受信してもよい。
図3は、フィルタセットの種類を説明する図である。図3(a)は、ブロードタイプのフィルタセットの特性を示し、図3(b)は、ナロータイプのフィルタセットの特性を示す。図3(a)、図3(b)において、横軸は波長[nm]を示し、縦軸は透過率[%]を示す。図3(a)において、実線はIRフィルタの波長特性を示し、破線はIRフィルタの波長特性を示し、一点鎖線はIRフィルタの波長特性を示す。図3(b)において、実線はIRフィルタの波長特性を示し、破線はIRフィルタの波長特性を示し、一点鎖線はIRフィルタの波長特性を示す。透過率が高い波長の光ほど、光電変換部を構成するフォトダイオードに到達することを表す。
図3(a)に示すように、IRフィルタ、IRフィルタ、およびIRフィルタにおいては、それらの波長特性の波形は全体的に略同一であり、かつ、それらの透過波長帯域は互いに異なる。IR1−3フィルタのそれぞれの半値幅は実質的に同一である。なお、実質的に同一とは、IR1−3フィルタの製造誤差等により、厳密には同一にならないものの、その差が微差であり、同一とみなせる場合を含む。以上のように、IR1−3フィルタのそれぞれの波長特性の波形が全体的に等しければ、後述する色変換処理を施す場合に、ゲインによるノイズ成分を抑制することができる。また、IRフィルタはIR1−3フィルタの中で最も短波長側にピークを有し、そのピーク波長P1は約1080nmである。なお、ピーク波長P1は、IRフィルタにおける半値幅の中央の波長である。IRフィルタはIRフィルタのピークとIRフィルタのピークとの間にピークを有し、そのピーク波長P2は約1330nmである。IRフィルタはIR1−3フィルタの中で最も長波長側にピークを有し、そのピーク波長P3は約1600nmである。ブロードタイプのフィルタセットは、IRフィルタ、IRフィルタ、およびIRフィルタによって、光電変換部の感度帯である900nmから1700nmの全域をカバーする。
図3(b)に示すように、IRフィルタ、IRフィルタ、およびIRフィルタにおいては、それらの波長特性の波形は全体的に略同一であり、かつ、それらの波長帯域は互いに異なる。IR4−6フィルタのそれぞれの半値幅は実質的に同一である。実質的に同一の意味は、既に説明した通りである。また、IRフィルタはIR4−6フィルタの中で最も短波長側にピークを有し、そのピーク波長P4は約1280nmである。IRフィルタはIRフィルタのピークとIRフィルタのピークとの間にピークを有し、そのピーク波長P5は約1430nmである。IRフィルタはIR4−6フィルタの中で最も長波長側にピークを有し、そのピーク波長P6は約1580nmである。
図示されるように、ナロータイプのフィルタセットに含まれる各IR4−6フィルタの波長帯域幅は、ブロードタイプのフィルタセットに含まれる各IR1−3フィルタの波長帯域幅よりも狭い。例えば、半値幅を比較すると、IRフィルタの半値幅wbroadが300nm程度であるのに対し、IRフィルタの半値幅wnarrowは150nm程度である。ナロータイプのフィルタセットは、900nmから1700nmのうち特定の範囲をカバーする。本実施形態においては、IRフィルタ、IRフィルタ、およびIRフィルタによって、1100nm付近から1800nm付近の範囲をカバーする。
図4は、フィルタセットに含まれる波長フィルタの条件を説明する図である。横軸は波長[nm]を示し、縦軸は透過率[%]を示す。ここでは、ナロータイプのフィルタセットを例に挙げて説明するが、ブロードタイプのフィルタセットに対しても同様のことが言える。
上述したように、画像処理部246は、近赤外の波長帯域の画素信号を可視の波長帯域の画素信号に変換する。このとき、IR4−6フィルタの波長帯域のそれぞれが離散的であれば、ナロータイプのフィルタセットがカバーする波長帯域において、被写体情報を取得できない帯域が存在することになる。そうすると、画像処理部246がNIR−R'G'B'変換画像データを生成する場合に、正確に色を表現することは困難である。
本実施形態においては、図示されるように、互いに隣り合う波長帯域であるIRフィルタとIRフィルタ、および、IRフィルタとIRフィルタは十分な重なり部分を有している。互いに隣り合う波長帯域の交点p1、p2においては、透過率が50%以上であることが好ましい。また、IR4−6フィルタのそれぞれの半値幅をw1、w2、w3とする場合に、下記の条件を満足することが好ましい。なお、P4−P6のそれぞれは、既に説明した通り、ピーク波長を示す。
(P5−P4)≦w1,w2
(P6−P5)≦w2,w3
一方、IRフィルタの波長帯域とIRフィルタの波長帯域も、離散することなく、多少の重なり部分を有している。換言すると、ナロータイプのフィルタセットのそれぞれの波長帯域のうち、最も短波長側の波長帯域の一部と、最も長波長側の波長帯域の一部とが、互いに重複している。なお、最も短波長側とは、ピーク波長が最も短波長側であることを示し、最も長波長側とは、ピーク波長が最も長波長側であることを示す。したがって、IRフィルタの波形とIRフィルタの波形との交点p3が存在している。この交点p3における透過率は、10%以上であることが望ましい。さらに、IR4−6フィルタのそれぞれの波形では、透過率が20%以下の領域において、緩やかに傾斜して延伸する裾部分が設けられている。さらに、IRフィルタとIRフィルタの間にあるIRフィルタも同様に、IRフィルタ、IRフィルタとそれぞれ重複している。したがって、IR4−6フィルタのそれぞれは、より広範囲の波長帯域にわたって互いに重複することになる。IRフィルタにおける1%以上の透過率を有する最も短波長側の波長をX1、IRフィルタにおける1%以上の透過率を有する最も長波長側の波長をX2とする場合に、X1からX2の範囲である有効波長帯域において、IR4−6フィルタは全て1%以上の透過率を有することが好ましい。結果として、IRフィルタが設けられた画素は、波長帯域111と共に波長帯域112にもある程度の感度を有し、さらに波長帯域113にも多少の感度を有することになる。同様に、IRフィルタが設けられた画素は、波長帯域113と共に波長帯域112にもある程度の感度を有し、さらに波長帯域111にも多少の感度を有する。IRフィルタが設けられた画素は、波長帯域112と共に波長帯域111にも波長帯域113にもある程度の感度を有する。
以上の説明では、縦軸に透過率、すなわち波長フィルタ単独の特性を示したが、縦軸を分光感度に置き換えても同様のことが言える。例えば、波長フィルタと光電変換部の組合せにより定まる分光感度が、互いに隣り合う波長帯域の交点p1、p2において50%以上であってもよいし、有効波長帯域において1%以上であってもよい。
画像処理部246は、NIR−R'G'B'変換画像データを生成するに当たり、IR4−6フィルタのそれぞれを互いに異なる可視の波長帯域に対応付けるだけでなく、IR4−6フィルタのそれぞれの波長帯域の画素信号を用いて、可視の波長帯域の画素信号に変換する。例えば、IRフィルタの波長帯域の画素信号を、当該画素信号に加えてIRフィルタの波長帯域の画素信号およびIRフィルタの波長帯域の画素信号を用いて、可視の波長帯域の画素信号に変換する。このように、IR4−6フィルタの全ての波長帯域の画素信号を用いることにより、分解能の高い色表現をすることができる。一例として、画像処理部246は、以下に示すように、マトリクス演算を施すことにより色変換処理を行う。なお、R'、G'、およびB'のそれぞれは、近赤外から可視へ変換後の画素信号を示し、NIR1はIRフィルタの波長帯域の画素信号を示し、NIR2はIRフィルタの波長帯域の画素信号を示し、NIR3はIRフィルタの波長帯域の画素信号を示す。a1、a2、a3、b1、b2、b3、c1、c2、c3は色変換用の係数である。
R' = a1× NIR1 +b1× NIR2 +c1×NIR3
G' = a2× NIR1 +b2× NIR2 +c2×NIR3
B' = a3× NIR1 +b3× NIR2 +c3×NIR3
上記式において、IR4−6フィルタが設けられた画素に感度があると、R'G'B'をNIR1−3の全てを用いて変換することができるので、IR4−6フィルタのそれぞれの波長帯域が重複する範囲が広いほど、より多色での色表現が可能になる。
色表現の分解能を高めるために、上述したように、有効波長帯域においてIR4−6フィルタは全て1%以上の透過率を有することが好ましいが、少なくとも、最も短波長側であるIRフィルタの波長帯域のピーク波長において、最も長波長側であるIRフィルタの波長帯域が重複していてもよい。具体的には、IRフィルタの波長帯域のピーク波長である約1280nmにおいて、IRフィルタが1%以上の透過率を有する。一方、少なくとも、最も長短波長側であるIRフィルタの波長帯域のピーク波長において、最も短波長側であるIRフィルタの波長帯域が重複していてもよい。具体的には、IRフィルタの波長帯域のピーク波長である約1580nmにおいて、IRフィルタが1%以上の透過率を有する。このような組み合わせでも、IR4−6フィルタは、少なくともそれぞれのピーク波長を含む範囲の波長帯域にわたって互いに重複するので、多色での色表現が可能になる。
図5は、被写体のスペクトルとNIR−R'G'B'変換画像を説明する図である。横軸は波長[nm]を示し、縦軸はスペクトル強度を示す。被写体として塩、砂糖、合成甘味料を例に挙げて説明する。実線は塩のスペクトルを示し、一点鎖線は砂糖のスペクトルを示し、二点鎖線は合成甘味料のスペクトルを示す。
図示されるように、塩は、近赤外の波長帯域の広範囲にわたってスペクトル強度を有している。より詳細には、塩のスペクトル強度は、900nmから1300nm付近にかけて0付近から3000強まで上昇し、1300nm付近から1700nm付近にかけて3000強から0付近まで下降する。特に、1300nm付近から1600nm付近にかけて3000強から2000付近まで緩やかに下降し、1600nm付近から急激に下降する。
砂糖のスペクトル強度は、900nmから1300nm付近にかけて0付近から3000付近まで上昇し、1300nm付近から1700nm付近にかけて3000付近から0付近まで下降する。より詳細には、1300nm付近から1450nm付近にかけて3000付近から500付近まで急激に下降し、1400nm付近から1500nm付近にかけて全体的に横ばいで推移し、1650nm付近から1700nm付近にかけて急激に下降する。
合成甘味料のスペクトル強度は、900nmから1300nm付近にかけて0付近から2500強まで上昇し、1300nm付近から1700nm付近にかけて2500強から0付近まで下降する。より詳細には、1300nm付近から1500nm付近にかけて2500強から500付近まで急激に下降し、1500nm付近から1700nm付近にかけて緩やかに下降する。
一眼レフカメラ200が以上説明した3つの被写体を撮像しNIR−R'G'B'変換画像データを生成する場合に、フィルタセットの違いが、生成されるNIR−R'G'B'変換画像データにどのような影響を及ぼすかを説明する。なお、塩、砂糖、および合成甘味料は、可視の波長帯域の画素信号から生成されたカラー画像であるRGB画像においては、全て白色として認識される。
まず、ブロードタイプのフィルタセットを用いる場合を説明する。上述のように、塩のスペクトル強度は、近赤外の波長帯域の広範囲にわたる。塩は、近赤外の波長帯域において比較的一様に反射するので、NIR−R'G'B'変換画像においても白色として認識される。一方、砂糖および合成甘味料のスペクトル強度は、900nmから1300nm付近にかけては塩のスペクトル強度とは大きな差はないものの、1300nm付近以降では塩のスペクトル強度とは大きな差がある。IRフィルタおよびIRフィルタの波長帯域に相当するスペクトル強度が相対的に小さいので、NIR−R'G'B'変換画像において全体的に青系統の色として認識される。以上のように、可視の波長帯域の情報を基にしたRGB画像では、塩と、砂糖および合成甘味料とを色弁別することができなくても、近赤外の波長帯域の情報を基にしたNIR−R'G'B'変換画像では、これらを容易に色弁別することができる。また、色弁別により各被写体の構造の違いも区別し易くなることが期待できる。
上述のように、砂糖のスペクトル強度の波形と合成甘味料のスペクトル強度の波形とは、同一ではない。例えば、1400nm付近から1500nm付近の範囲では、合成甘味料のスペクトル強度が砂糖のスペクトル強度よりも大きくなっているのに対し、1500nm付近から1700nm付近の範囲では、砂糖のスペクトル強度が合成甘味料のスペクトル強度よりも大きくなっている。したがって、砂糖と合成甘味料は、互いに異なる青系統の色として認識される。ただし、ブロードタイプのフィルタセットが使用される場合には、IRフィルタが設けられた画素では、1400nm付近から1700nm付近の範囲を含む波長帯域が受光される。すなわち、1400nm付近から1500nm付近の範囲、または1500nm付近から1700nm付近の範囲に絞った波長帯域のみが受光されるわけではない。したがって、上述のような微小な波長帯域でのスペクトル強度の差異は反映され難く、結果として、色弁別し難い画像となる場合がある。
次に、ナロータイプのフィルタセットを用いる場合を説明する。塩は近赤外の波長帯域の広範囲にわたってスペクトル強度を有しているので、ブロードタイプのフィルタセットを用いる場合と同様に、NIR−R'G'B'変換画像においても白色として認識される。また、砂糖および合成甘味料のスペクトル強度のピーク波長は1300nm付近であるので、ブロードタイプのフィルタセットを用いる場合と同様に、砂糖および合成甘味料はNIR−R'G'B'変換画像において全体的に青系統の色として認識される。ただし、ナロータイプのフィルタセットが使用される場合には、透過波長帯域がより制限されるので、微小な帯域でのスペクトル強度の差異が反映され易く、結果として、色弁別し易い画像となる。具体的には、砂糖のスペクトル強度は合成甘味料のスペクトル強度よりも短波長側で低下するので、砂糖はNIR−R'G'B'変換画像において紫(赤をより含んだ青)として認識され、合成甘味料は青緑(緑をより含んだ青)として認識される。したがって、ユーザは、塩と、砂糖および合成甘味料とを容易に色弁別することはもちろんのこと、砂糖と合成甘味料とを比較的容易に色弁別することができる。
ユーザが自身の目で複数の被写体を直接見る場合、すなわち複数の被写体を可視の波長帯域で捉える場合には、複数の被写体が同じような色であれば、複数の被写体を色弁別することは困難である。本実施形態の一眼レフカメラ200によれば、そのような場合であっても、近赤外の波長帯域の情報を用いて、複数の被写体の色弁別が容易な画像データを生成することができる。さらに、一眼レフカメラ200は、波長フィルタの組合せに関する設定情報をユーザから適宜受け付けることにより、被写体に応じて波長フィルタの組合せを変更することができる。また、図5および図6で説明したように、色弁別の観点から、それぞれの被写体のスペクトルの差が比較的大きな波長帯域の情報を使用することが好ましい。特に、被写体のスペクトルによっては、近赤外の波長帯域の全域を利用するのではなく、スペクトル強度に差が存在する波長帯域に絞ることにより、色弁別し易いNIR−R'G'B'変換画像データを得ることができる。
図6は、他の被写体のスペクトルとNIR−R'G'B'変換画像を説明する図である。横軸は波長[nm]を示し、縦軸は正規化されたスペクトル強度を示す。被写体として油および水を例に挙げて説明する。実線は油のスペクトルを示し、破線は水のスペクトルを示す。なお、油および水は、RGB画像においてどちらも無色透明として認識される。
図示されるように、油は、近赤外の波長帯域の広範囲にわたってスペクトル強度を有している。より詳細には、油のスペクトル強度は、900nmから1350nm付近にかけては、1150nm付近から1200nm付近の間で若干下降するものの、全体的には上昇しており、0.1付近から1付近まで上昇する。1350nm付近から1700nm付近にかけては、1410nm付近から1480付近nmの間で一旦上昇するものの、全体的には下降しており、1付近から0.1付近まで下降する。
水のスペクトル強度は、900nmから1100nm付近にかけて0.2弱から1付近まで上昇する。1100nm付近から1400nm付近にかけては、1150nm付近から1270nm付近の間で一旦上昇するものの、全体的には下降しており、1付近から0.2付近まで下降する。1400nm付近から1700nm付近にかけては、略横ばいに推移し、1650nm付近から1700の間で若干下降する。
一眼レフカメラ200が以上説明した2つの被写体を撮像しNIR−R'G'B'変換画像データを生成する場合に、フィルタセットの違いが、生成されるNIR−R'G'B'変換画像データにどのような影響を及ぼすかを説明する。
まず、ブロードタイプのフィルタセットを用いる場合を説明する。上述のように、油のスペクトル強度は、近赤外の波長帯域において比較的広範囲にわたる。したがって、油はNIR−R'G'B'変換画像において白色に近い色として認識される。一方、水のスペクトル強度は、1100nm付近まで急激に上昇し、1250nm付近以降に急激に下降するので、1100nm付近までの帯域および1200nm付近以降の帯域において油のスペクトル強度とは大きな差がある。IRフィルタおよびIRフィルタの波長帯域に相当するスペクトル強度が相対的に小さいので、水はNIR−R'G'B'変換画像において全体的に青系統の色として認識される。以上のように、可視の波長帯域の情報を基にしたRGB画像では、油と水を色弁別することができなくても、近赤外の波長帯域の情報を基にしたNIR−R'G'B'変換画像では、これらを容易に色弁別することができる。
次に、ナロータイプのフィルタセットを用いる場合を説明する。油は近赤外の波長帯域において比較的広範囲にわたってスペクトル強度を有しているので、ブロードタイプのフィルタセットを用いる場合と同様に、NIR−R'G'B'変換画像において白色に近い色として認識される。水のスペクトル強度においては1280nm付近に最もスペクトル強度が強い帯域が存在するので、ブロードタイプのフィルタセットを用いる場合と同様に、NIR−R'G'B'変換画像において全体的に青系統の色として認識される。さらに、上述したように、ナロータイプのフィルタセットが使用される場合には、透過波長帯域がより制限されるので、結果として、色弁別し易い画像となる。なお、油および水の量によってもスペクトル強度は変化する。したがって、油および水の量の違いをNIR−R'G'B'変換画像の色により表現することができる。換言すると、油および水の量を検出することができる。
図7は、他の一眼レフカメラ400の要部断面図である。一眼レフカメラ400は、図1で説明した一眼レフカメラ200の構成に加えて、フィルタユニット300、アクチュエータ310および回転軸311を有する。フィルタユニット300は、フォーカスレンズ212とズームレンズ213の間に、光軸201に交差して配設される。カメラシステム制御部245は、ユーザによる設定に従って、テーブルを参照して組合せを決定する。そして、決定した組合せに含まれる波長フィルタを被写体光束の範囲に順に配置すると共に、それぞれの配置に同期して撮影動作を行う。
フィルタユニット300は、被写体光束を通過させる波長帯域がそれぞれ異なるn種類の波長フィルタを備える。ここでは、図1で説明した一眼レフカメラ200の構成と同様に、波長フィルタとしてIR1−6フィルタの6種類の波長フィルタを備える。本例の一眼レフカメラ400では、フィルタユニット300が波長フィルタを備えるので、撮像素子243の各光電変換上には、波長フィルタが形成されていない。アクチュエータ310は、フィルタユニット300を回転軸311周りに回転させる。
図8は、フィルタユニット300の構成を説明する図である。図8(a)は光軸201方向から見た正面図であり、図8(b)は側面図である。
フィルタユニット300は、波長フィルタを保持する保持枠301を備える。保持枠301は、全体として円形を成し、回転軸311を中心として互いに60度の間隔を成す対称位置に、被写体光束と略同じ大きさの6つの開口を備えている。保持枠301は、図示する矢印方向へ回転自在に支持されている。保持枠301の外周部には、ギア306が全周にわたって設けられている。ギア306は、アクチュエータ310の駆動ギアと噛合する。
波長フィルタは、6つの開口のそれぞれに張設される。すなわち、6つの波長フィルタのそれぞれは、被写体光束と略同じ大きさである。本例においては、6つの開口のうち中央上部の開口にIRフィルタが張設され、そこから時計回りに、IRフィルタ、IRフィルタ、IRフィルタ、IRフィルタ、およびIRフィルタのそれぞれが順に張設される。
カメラシステム制御部245は、レンズシステム制御部216を介して、アクチュエータ310の駆動によりフィルタユニット300を回転させる。これにより、IR1−6フィルタのいずれかを、光軸201を中心とする被写体光束中に配設することができる。カメラシステム制御部245は、組合せを決定すると、決定した組合せに応じてアクチュエータ310の駆動を制御する。ブロードタイプのフィルタセットを用いて被写体を撮影するときには、IRフィルタ、IRフィルタ、IRフィルタを順に被写体光束に配置させる。カメラシステム制御部245は、IR1−3フィルタのそれぞれの配置に同期して撮像動作を実行する。すなわち、3回撮像動作を実行する。同様に、ナロータイプのフィルタセットを用いて被写体を撮影するときには、IRフィルタ、IRフィルタ、IRフィルタを順に被写体光束に配置させる。カメラシステム制御部245は、IR4−6フィルタのそれぞれの配置に同期して撮像動作を実行する。
画像処理部246は、フィルタセットに応じた3つの画像データを撮像素子243から順次取得する。ブロードタイプのフィルタセットを用いて被写体が撮影されたときには、IR1−3フィルタのそれぞれの波長帯域に対応した画像データであるIRフィルタプレーン画像データ、IRフィルタプレーン画像データ、IRフィルタプレーン画像データを取得する。画像処理部246は、IRフィルタプレーン画像データ、IRフィルタプレーン画像データ、およびIRフィルタプレーン画像データを用いて、上述したマトリクス演算を行うことにより、色変換処理を行う。ナロータイプのフィルタセットを用いて被写体が撮影されたときには、IR4−6フィルタのそれぞれの波長帯域に対応した画像データであるIRフィルタプレーン画像データ、IRフィルタプレーン画像データ、IRフィルタプレーン画像データを取得する。画像処理部246は、IRフィルタプレーン画像データ、IRフィルタプレーン画像データ、およびIRフィルタプレーン画像データを用いて、上述したマトリクス演算を行うことにより、色変換処理を行う。フィルタユニット300を用いた構成によれば、全ての画素に関して、IR1−3フィルタのそれぞれの波長帯域に対応した画素信号、またはIR4−6フィルタのそれぞれの波長帯域に対応した画素信号を得ることができるので、上述の補間処理をしなくてもよい。
なお、保持枠301のうち、6つの開口を形成するプレート部分は非透過部材で形成することが好ましい。さらには、植毛紙等の遮光部材で表面を処理することが好ましい。このような対策により、鏡筒内の迷光を遮断することが期待できる。
以上の説明においては、フィルタセットとして、図3に示したブロードタイプのフィルタセットおよびナロータイプのフィルタセットを例に挙げたが、ブロードタイプのフィルタセットおよびナロータイプのフィルタセットには他にも種々のバリエーションが存在する。ここでは、ナロータイプのフィルタセットを例に挙げて説明するが、ブロードタイプのフィルタセットに対しても同様のことが言える。例えば、IR4−6フィルタのそれぞれの波長特性の波形を維持しつつ、それらの波長帯域を長波長方向、または短波長方向にずらしてもよい。さらに、以下に示すように、波長特性の波形を変化させてもよい。
図9および図10は、他のナロータイプのフィルタセットを説明する図である。図9(a)から(d)、図10(a)、(b)はそれぞれ、他のナロータイプのフィルタセットの特性を示す。各図において、横軸は波長[nm]を示し、縦軸は透過率[%]を示す。
図9(a)に示す、IRフィルタ、IRフィルタ、およびIRフィルタにおいては、図3(b)で説明したナロータイプのフィルタセットと同様に、それらの波長特性の波形は全体的に略同一であり、かつ、それらの波長帯域は互いに異なる。IR4−6フィルタのそれぞれの半値幅は実質的に同一である。ただし、800nm付近から1000nm付近において、IRフィルタの透過率とIRフィルタの透過率とが逆転している。すなわち、IRフィルタの透過率は、IRフィルタの透過率よりも小さくなっている。同様に、1320nm付近から1450nm付近において、IRフィルタの透過率とIRフィルタの透過率とが逆転している。すなわち、IRフィルタの透過率は、IRフィルタの透過率よりも大きくなっている。以上のように、IR4−6フィルタの透過率の大小関係は、特定の帯域において逆転してもよい。
図9(b)に示す、IRフィルタ、IRフィルタ、およびIRフィルタにおいては、それらの波長特性の波形は全体的に略同一であり、かつ、それらの波長帯域は互いに異なる。ただし、IR4−6フィルタの半値幅に着目すると、IRフィルタの半値幅が最も大きく、IRフィルタの半値幅が最も小さくなっている。以上のように、IR4−6フィルタのそれぞれの半値幅は互いに異なってもよい。ただし、ゲインによるノイズ成分を抑制するという観点からは、IR4−6フィルタのそれぞれの半値幅の差異は小さい方が好ましい。
図9(c)に示す、IRフィルタ、IRフィルタ、およびIRフィルタにおいては、IRフィルタのピーク波長に、IRフィルタの2次ピーク波長が存在する。また、700nm付近から900nm付近において、IRフィルタの透過率とIRフィルタの透過率とが逆転している。すなわち、IRフィルタの透過率は、IRフィルタの透過率よりも小さくなっている。
図9(d)に示す、IRフィルタ、IRフィルタ、およびIRフィルタにおいては、IRフィルタのピーク波長に、IRフィルタの2次ピーク波長が存在する。また、1300nm付近から1500nm付近において、IRフィルタの透過率とIRフィルタの透過率とが逆転している。すなわち、IRフィルタの透過率は、IRフィルタの透過率よりも小さくなっている。
図9(c)、(d)に示されるように、IR4−6フィルタのそれぞれは、他のIRフィルタのピーク波長に、2次ピーク波長を有してもよい。さらに、IR4−6フィルタの透過率の大小関係は、特定の帯域において逆転してもよい。
図10(a)に示す、IRフィルタ、IRフィルタ、およびIRフィルタにおいては、IRフィルタとIRフィルタの交点における透過率と、IRフィルタとIRフィルタの交点における透過率とが異なっている。ただし、ゲインによるノイズ成分を抑制するという観点からは、各交点における透過率の差異は小さい方が好ましい。
図10(b)に示す、IRフィルタ、IRフィルタ、およびIRフィルタにおいては、それらの波長特性の波形は全体的に略同一であり、かつ、それらの波長帯域は互いに異なる。ただし、IR4−6フィルタの半値幅に着目すると、IRフィルタの半値幅が最も大きく、IRフィルタの半値幅が最も小さくなっている。また、850nm付近から920nm付近において、IRフィルタの透過率とIRフィルタの透過率とが逆転し、さらに、750nm付近から850nm付近において、再度逆転している。すなわち、850nm付近から920nm付近において、IRフィルタの透過率は、IRフィルタの透過率よりも小さくなり、750nm付近から850nm付近において、IRフィルタの透過率は、IRフィルタの透過率よりも大きくなっている。以上のように、IR4−6フィルタの透過率の大小関係は、複数回逆転してもよい。
以上の説明では、フィルタセットに含まれる波長フィルタのうち、最も短波長側の波長フィルタにおける1%以上の透過率を有する最短波長をX1、最も長波長側の波長フィルタにおける1%以上の透過率を有する最長波長をX2とし、X1からX2の範囲を有効波長帯域と定義したが、有効波長帯域外で再度1%よりも大きな透過率を有する場合がある。有効波長帯域外のスペクトル成分は画像データを生成するにあたってノイズ成分になるので、除去されることが好ましい。
図11は、有効波長帯域外の成分を除去する方法を説明する図である。図11(a)は、ナロータイプのフィルタセットの特性を示す。横軸は波長[nm]を示し、縦軸は透過率[%]を示す。図示されるように、IRフィルタは、1450nm付近から1650nm付近、すなわち有効波長帯域外において、1%よりも大きな透過率を有する(楕円a1部分を参照)。図11(b)は、バンドパスフィルタの特性を示す。横軸は波長[nm]を示し、縦軸は透過率[%]を示す。バンドパスフィルタは、図11(a)で示した有効波長帯域に応じて設定される。具体的には、バンドパスフィルタは、650nm付近から1400nm付近の波長帯域を通過させる。図11(c)は、図11(b)で示したバンドパスフィルタを施した後のナロータイプのフィルタセットの特性を示す。図示されるように、バンドパスフィルタによって、IRフィルタの透過率は、1450nm付近から1650nm付近、すなわち有効波長帯域外において、十分に小さくなる(楕円a2部分を参照)。以上のように、有効波長帯域に応じたバンドパスフィルタを用いることにより、ノイズ成分を除去することができる。
以上の説明では、最も短波長側の波長フィルタにおける1%以上の透過率を有する最短波長X1と、最も長波長側の波長フィルタにおける1%以上の透過率を有する最長波長X2との間の範囲を有効波長帯域としたが、有効波長帯域はこの範囲に限らない。例えば、最も短波長側の波長フィルタにおける5%以上の透過率を有する最短波長をX1、最も長波長側の波長フィルタにおける5%以上の透過率を有する最長波長をX2とし、X1からX2の範囲を有効波長帯域としてもよい。以上の説明では、波長フィルタとして近赤外のうちの主に短波長側の波長帯域を通過させる波長フィルタを例に挙げたが、長波長側の波長帯域を通過させる波長フィルタを用いることもできる。その例を以下に説明する。
図12は、6つの成分の近赤外におけるスペクトルを説明する図である。具体的には、1100nmから2500nmの範囲における大豆、米、タンパク質、デンプン、水、および脂質のスペクトルを示す。横軸は波長[nm]を示し、縦軸は吸光度を示す。
楕円a3部分に示されるように、1100nmから2500nmの範囲においては、水のピーク波長は約1935nmである。したがって、波長フィルタとして1935nm近辺の波長帯域、例えば1900nmから2100nmの範囲を通過させる波長フィルタを用いることにより、被写体中の水を検出することができる。一方、1935nm近辺の波長帯域を除く波長帯域、例えば1600nmから1800nmの範囲を通過させる波長フィルタを用いることにより、被写体中の水による吸光の影響を抑制して、色弁別のし易いNIR−R'G'B'変換画像データを生成することができる。
楕円a4部分に示されるように、1100nmから2500nmの範囲においては、脂質のピーク波長は約2305nmおよび約2345nmである。したがって、波長フィルタとして約2305nmおよび約2345nm近辺の波長帯域、例えば2200nmから2400nmの範囲を通過させる波長フィルタを用いることにより、被写体中の脂質を検出することができる。一方、2305nmおよび2345nm近辺の波長帯域を除く波長帯域、例えば2000nmから2200nmの範囲を通過させる波長フィルタを用いることにより、被写体中の脂質による吸光の影響を抑制して、色弁別のし易いNIR−R'G'B'変換画像データを生成することができる。
ここでは詳細な説明を省略するが、大豆、米、タンパク質、およびデンプンについても同様のことが言える。すなわち、それぞれのピーク波長近辺の波長帯域を通過させる波長フィルタを用いれば、被写体中の該当成分を検出することができ、比較的吸光度が低い波長帯域の波長フィルタを用いれば、被写体中の該当成分による吸光の影響を抑制して、色弁別のし易いNIR−R'G'B'変換画像データを生成することができる。
図5および図6では、それぞれの被写体のスペクトルの差が比較的大きな波長帯域を使用することにより、色弁別し易いNIR−R'G'B'変換画像データを生成したが、図12で説明したように、吸光の影響が大きい帯域を除いた帯域を使用することにより、色弁別し易いNIR−R'G'B'変換画像データを生成することもできる。
以上の説明では、カメラシステム制御部245は、テーブルを参照して組合せを決定したが、ユーザによる、任意のm種類の波長フィルタの選択に応じて組合せを決定してもよい。カメラシステム制御部245は、プリキャプチャにより被写体を解析し、解析結果に応じて自動的に組合せを決定してもよい。カメラシステム制御部245は、被写体のスペクトルが特定されていない場合に、ブロードタイプのフィルタセットを選択してもよい。画像処理部246は、第1の処理として、ブロードタイプおよびナロータイプの一方に属する波長フィルタが対応付けられた画素の画素信号を用いてNIR−R'G'B'変換画像データを生成してもよい。そして、このNIR−R'G'B'変換画像データが色弁別に適していない旨のユーザ入力を受け付けた場合に、第2の処理として、他方が対応付けられた画素の画素値を用いてNIR−R'G'B'変換画像データを生成してもよい。また、撮像素子243の読出し制御部は、全画素の画素信号を読み出すのではなく、ブロードタイプおよびナロータイプの一方に対応する画素の画素信号のみを読み出し、画像処理部246に出力してもよい。
画像処理部246は、互いに異なる波長帯域の波長フィルタが対応付けられた複数の画素の画素信号を加算してもよい。例えば、波長帯域が1100nmから1500nmの範囲である波長フィルタに対応付けられた画素の画素信号と、波長帯域が1300nmから1700nmの範囲である波長フィルタに対応付けられた画素の画素信号とを加算する。そうすると、波長帯域が1100nmから1700nmの範囲である波長フィルタに対応付けられた画素の画素信号を近似的に得ることができる。これにより、波長フィルタの種類を実質的に増やすことができる。
以上の説明では、波長フィルタとして近赤外の波長帯域を通過するIR1−6フィルタを用いたが、近赤外よりも長波長側の波長帯域を通過するフィルタを用いてもよいし、可視の波長帯域よりも短波長側のフィルタを用いてもよい。撮像素子243は、用いられる波長フィルタの波長帯域に感度を有するように適宜決定される。また、撮像素子243には、近赤外の波長フィルタとRGBカラーフィルタとが混在して設けられてもよい。
以上の説明では、ブロードタイプおよびナロータイプのそれぞれのフィルタセットは、互いに波長帯域が異なる3つの波長フィルタを含んだが、互いに波長帯域が異なる4つのフィルタセットを含んでもよい。また、フィルタセットの種類はブロードタイプとナロータイプの2種類であったが、3種類以上でもよい。例えば、ブロードタイプとナロータイプの間の波長帯域幅を有するスタンダードタイプのフィルタセットを設けてもよい。さらに、フィルタセットの種類は1種類でもよく、この場合には、当該フィルタセットは互いに波長帯域が異なる4つ以上の波長フィルタを含む。画像処理部246は、4つ以上の波長フィルタのうちの少なくとも3つの波長フィルタに対応する画素の画素信号を用いてNIR−R'G'B'変換画像データを生成することができる。
以上の説明では、撮像素子243が1つだけ配置されたが、波長フィルタの数に合わせて複数配置されてもよい。上述の例を用いれば、6つの撮像素子243が配置される。6つの撮像素子243のそれぞれには、IR1−6フィルタのうちの互いに異なる単一のIRフィルタが形成されている。6つの撮像素子243のそれぞれに被写体光束を導くことにより、全画素について6つの波長帯域の画素信号を得ることができる。具体的には、光軸に沿って5つのハーフミラーと6つのうちの1つの撮像素子243とを配置し、残りの5つの撮像素子243を5つのハーフミラーのそれぞれに対応するように、光軸201に対して垂直に配置すればよい。
以上の実施形態においては、撮像装置として一眼レフカメラを例に挙げて説明したが、上述の態様は、一眼レフカメラに限らず様々な撮像装置に適用し得る。例えば、医療用装置、食品検査用装置等にも適用できる。また、以上の説明では、非可視の波長帯域を通過させる波長フィルタを例に挙げたが、可視の波長帯域を通過させる波長フィルタに対しても同様のことが言える。例えば、赤色を鮮明に表現する場合には、被写体光束を通過させる波長帯域が狭い波長フィルタを使用するとよい。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の撮影動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
200 一眼レフカメラ、201 光軸、210 レンズユニット、211 レンズ群、212 フォーカスレンズ、213 ズームレンズ、214 絞り、216 レンズシステム制御部、217 レンズ鏡筒、218 レンズマウント、230 カメラユニット、231 カメラマウント、232 メインミラー、233 回転軸、234 ピント板、235 ペンタプリズム、236 接眼光学系、237 AEセンサ、238 サブミラー、239 AF光学系、240 AFセンサ、241 フォーカルプレーンシャッタ、243 撮像素子、244 メイン基板、245 カメラシステム制御部、246 画像処理部、247 表示部、248 二次電池、249、 カメラメモリ、300 フィルタユニット、301 保持枠、306 ギア、310 アクチュエータ、311 回転軸、400 一眼レフカメラ

Claims (11)

  1. 600nmから2500nmの波長帯域に受光感度を有し、被写体光束を受光して画素信号を出力する複数の光電変換部と、
    前記被写体光束を通過させる波長帯域がそれぞれ異なり、かつ、それぞれが通過させる前記波長帯域が前記受光感度を有する波長帯域を含むn種類(nは4以上の自然数)の波長フィルタと、
    前記複数の光電変換部のうち、予め定められた条件によって組合せが決定されたm種類(mは3以上n未満の自然数)の前記波長フィルタのいずれかを通過した前記被写体光束を受光した光電変換部から出力された前記画素信号を用いて画像データを生成する画像データ生成部と
    を備え、
    m種類の前記波長フィルタのそれぞれの前記波長帯域のうち、最も短波長側の波長帯域と最も長波長側の波長帯域とが重複し、かつ、m種類の前記波長フィルタのそれぞれが通過させる前記波長帯域が予め決定される有効波長帯域を含むように前記組合せが決定される撮像装置。
  2. 前記画像データ生成部は、前記画素信号を可視帯域に対応する画素信号として扱うことにより、可視画像としてのカラー画像を表す前記画像データを生成する請求項1に記載の撮像装置。
  3. m種類の前記波長フィルタのそれぞれの前記波長帯域の半値幅が互いに等しいように前記組合せが決定される請求項1または請求項2に記載の撮像装置。
  4. n種類の前記波長フィルタは、前記半値幅が互いに異なる少なくとも2つの前記組合せを含む請求項3に記載の撮像装置。
  5. m種類のそれぞれの前記波長フィルタは、m種類の前記波長フィルタのうち、最も短波長側の波長フィルタにおける、予め設定された透過率を有する最も短波長側の波長と、最も長波長側の波長フィルタにおける、予め設定された透過率を有する最も長波長側の波長との間の範囲を、前記有効波長帯域として通過させる請求項1から請求項4のいずれか1項に記載の撮像装置。
  6. m種類の前記波長フィルタのそれぞれの前記波長帯域において、隣り合う波長帯域の交点の透過率は50%以上である請求項1から請求項5のいずれか1項に記載の撮像装置。
  7. ユーザの指定を受け付ける受付部を備え、
    前記指定に基づいて前記組合せが決定される請求項1から6のいずれか1項に記載の撮像装置。
  8. プリセットされた複数の組合せの中から選択されて前記組合せが決定される請求項1から7のいずれか1項に記載の撮像装置。
  9. 前記波長フィルタが前記複数の光電変換部のそれぞれに対応して設けられた撮像素子を備え、
    前記画像データ生成部は、前記撮像素子から出力された前記画素信号のうちm種類の前記波長フィルタに対応する画素信号を用いて前記画像データを生成する請求項1から8のいずれか1項に記載の撮像装置。
  10. 前記複数の光電変換部を有する撮像素子と、
    n種類の前記波長フィルタを保持し、前記複数の光電変換部に到達する前記被写体光束を通過させるように1つの前記波長フィルタを選択的に配置するフィルタユニットと
    を備え、
    前記画像データ生成部は、m種類の前記波長フィルタがそれぞれ配置されて前記撮像素子から順次出力された前記画素信号を用いて前記画像データを生成する請求項1から8のいずれか1項に記載の撮像装置。
  11. 600nmから2500nmの波長帯域に受光感度を有し、被写体光束を受光して画素信号を出力する複数の光電変換部と、前記被写体光束を通過させる波長帯域がそれぞれ異なり、かつ、それぞれが通過させる前記波長帯域が前記受光感度を有する波長帯域を含むn種類(nは4以上の自然数)の波長フィルタとを備える撮像装置に用いられる画像データ生成プログラムであって、
    前記複数の光電変換部のうち、予め定められた条件によってm種類(mは3以上n未満の自然数)の前記波長フィルタの組合せを決定する決定ステップと、
    m種類の前記波長フィルタのいずれかを通過した前記被写体光束を受光した光電変換部から出力された前記画素信号を用いて画像データを生成する画像データ生成ステップと
    をコンピュータに実行させ、
    m種類の前記波長フィルタのそれぞれの前記波長帯域のうち、最も短波長側の波長帯域と最も長波長側の波長帯域とが重複し、かつ、m種類の前記波長フィルタのそれぞれが通過させる前記波長帯域が予め決定される有効波長帯域を含むように前記組合せが決定される画像データ生成プログラム。
JP2014201955A 2014-09-30 2014-09-30 撮像装置および画像データ生成プログラム Pending JP2017208585A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014201955A JP2017208585A (ja) 2014-09-30 2014-09-30 撮像装置および画像データ生成プログラム
PCT/JP2015/075505 WO2016052101A1 (ja) 2014-09-30 2015-09-08 撮像装置および画像データ生成プログラム
US15/471,377 US10021357B2 (en) 2014-09-30 2017-03-28 Image capturing apparatus and method for generating image data

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014201955A JP2017208585A (ja) 2014-09-30 2014-09-30 撮像装置および画像データ生成プログラム

Publications (1)

Publication Number Publication Date
JP2017208585A true JP2017208585A (ja) 2017-11-24

Family

ID=55630144

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014201955A Pending JP2017208585A (ja) 2014-09-30 2014-09-30 撮像装置および画像データ生成プログラム

Country Status (3)

Country Link
US (1) US10021357B2 (ja)
JP (1) JP2017208585A (ja)
WO (1) WO2016052101A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021033787A1 (ko) * 2019-08-19 2021-02-25 한국전기연구원 단일 컬러 카메라를 이용하고 가시광선 및 근적외선 영상 동시 획득이 가능한 가시광선 및 근적외선 영상 제공 시스템 및 방법

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10228283B2 (en) * 2016-08-12 2019-03-12 Spectral Insights Private Limited Spectral imaging system
US9880330B1 (en) * 2016-09-06 2018-01-30 Abeam Technologies, Inc. Angle-insensitive spectral filter
EP3682202A4 (en) * 2017-09-15 2021-07-14 Kent Imaging HYBRID IMAGING IN THE VISIBLE AND NEAR INFRARED AREA WITH AN RGB COLOR FILTER ARRAY SENSOR
JP6947021B2 (ja) * 2017-12-27 2021-10-13 株式会社リコー 画像処理方法、画像処理装置および画像処理システム
JP6955307B2 (ja) * 2018-11-06 2021-10-27 富士フイルム株式会社 撮像レンズ及び撮像装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63234941A (ja) * 1986-11-29 1988-09-30 オリンパス光学工業株式会社 内視鏡用撮像装置
JP2655571B2 (ja) * 1986-12-27 1997-09-24 オリンパス光学工業株式会社 撮像装置
SE0402576D0 (sv) 2004-10-25 2004-10-25 Forskarpatent I Uppsala Ab Multispectral and hyperspectral imaging
US20070027362A1 (en) * 2005-07-27 2007-02-01 Olympus Medical Systems Corp. Infrared observation system
JP5148054B2 (ja) * 2005-09-15 2013-02-20 オリンパスメディカルシステムズ株式会社 撮像システム
JP5034953B2 (ja) 2006-01-20 2012-09-26 住友電気工業株式会社 撮像システム
JP5874116B2 (ja) 2009-07-30 2016-03-02 国立研究開発法人産業技術総合研究所 画像撮影装置および画像撮影方法
IN2014CN02966A (ja) * 2011-11-04 2015-07-03 Imec
US20140084137A1 (en) * 2012-09-27 2014-03-27 Wilhelmus A. de Groot Switchable substrates for photography and video enhancement applications
KR102299714B1 (ko) * 2014-08-18 2021-09-08 삼성전자주식회사 컬러 필터 격리층을 구비하는 이미지 센서 및 상기 이미지 센서의 제조 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021033787A1 (ko) * 2019-08-19 2021-02-25 한국전기연구원 단일 컬러 카메라를 이용하고 가시광선 및 근적외선 영상 동시 획득이 가능한 가시광선 및 근적외선 영상 제공 시스템 및 방법

Also Published As

Publication number Publication date
US20170272709A1 (en) 2017-09-21
US10021357B2 (en) 2018-07-10
WO2016052101A1 (ja) 2016-04-07

Similar Documents

Publication Publication Date Title
WO2016052101A1 (ja) 撮像装置および画像データ生成プログラム
JP6455604B2 (ja) 撮像装置、撮像プログラムおよび撮像方法
JP7314976B2 (ja) 撮像装置及び撮像方法
US7579577B2 (en) Image capturing apparatus having a filter section disposed on periphery of a light passing section of a partial wavelength spectrum diaphragm section
JP4717363B2 (ja) マルチスペクトル画像撮影装置及びアダプタレンズ
CN108700472A (zh) 使用相对的滤光器掩模进行相位检测自动聚焦
CN102369721A (zh) 具有合成全色图像的彩色滤光器阵列(cfa)图像
CN113099078B (zh) 摄像头模组、成像方法和成像装置
JP2009265618A (ja) アジャイルスペクトル画像形成装置および方法
KR20090004310A (ko) 영상 생성 장치 및 방법
JP2014185917A (ja) 撮像装置
WO2021153473A1 (ja) レンズ装置、撮像装置、光学部材、撮像方法、及び撮像プログラム
JP2010057547A (ja) 眼底カメラ
JP6529214B2 (ja) 撮像装置
JP6409134B2 (ja) 撮像装置
JP6645504B2 (ja) 画像処理装置、画像処理プログラム、撮像装置、および撮像プログラム
WO2022209125A1 (ja) 撮像制御装置、撮像装置、撮像制御方法、及びプログラム
US20230319385A1 (en) Optical member, lens device, and imaging apparatus
WO2023047794A1 (ja) 情報処理方法、情報処理装置、情報処理プログラム、及び情報処理システム
US20240015411A1 (en) Imaging apparatus, imaging method, and storage medium
JP2012002870A (ja) 撮像装置、撮影レンズおよび画像処理プログラム
JP2012004640A (ja) 画像処理装置および画像処理プログラム
JP7083912B2 (ja) 撮像素子、撮像装置、撮像方法およびプログラム
JP2022190309A (ja) オートフォーカスの方法、分光カメラ、及びコンピュータープログラム
JP6299556B2 (ja) 撮像装置、撮像方法、撮像プログラム