JP6260006B2 - 撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置 - Google Patents

撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置 Download PDF

Info

Publication number
JP6260006B2
JP6260006B2 JP2015529341A JP2015529341A JP6260006B2 JP 6260006 B2 JP6260006 B2 JP 6260006B2 JP 2015529341 A JP2015529341 A JP 2015529341A JP 2015529341 A JP2015529341 A JP 2015529341A JP 6260006 B2 JP6260006 B2 JP 6260006B2
Authority
JP
Japan
Prior art keywords
pixels
optical
light
imaging device
image information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015529341A
Other languages
English (en)
Other versions
JPWO2015015717A1 (ja
Inventor
今村 典広
典広 今村
山形 道弘
道弘 山形
是永 継博
継博 是永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2015015717A1 publication Critical patent/JPWO2015015717A1/ja
Application granted granted Critical
Publication of JP6260006B2 publication Critical patent/JP6260006B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B13/00Optical objectives specially designed for the purposes specified below
    • G02B13/001Miniaturised objectives for electronic devices, e.g. portable telephones, webcams, PDAs, small digital cameras
    • G02B13/0015Miniaturised objectives for electronic devices, e.g. portable telephones, webcams, PDAs, small digital cameras characterised by the lens design
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays
    • G02B3/0037Arrays characterized by the distribution or form of lenses
    • G02B3/005Arrays characterized by the distribution or form of lenses arranged along a single direction only, e.g. lenticular sheets
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2562/00Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
    • A61B2562/02Details of sensors specially adapted for in-vivo measurements
    • A61B2562/0233Special features of optical sensors or probes classified in A61B5/00
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2562/00Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
    • A61B2562/06Arrangements of multiple sensors of different types
    • A61B2562/066Arrangements of multiple sensors of different types in a matrix array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body

Description

本開示は、撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置に関する。
例えば、特許文献1には、車載カメラの分野において、路面の状態または車線を検知するため、複眼カメラの光路中に、個眼毎に偏光軸の方向を異ならせた偏光子を設けた撮像装置が開示されている。
また、内視鏡システムおよび肌診断システム等、医療・美容分野のカメラにおいて、無偏光画像と偏光画像の両方を取得する撮像装置が実用化されている。これらの撮像装置には、無偏光の光と所定の偏光軸の方向に振動する光とを生体組織に照射する偏光照明が備えられている。所定の偏光成分の光を生体組織に照射する場合、生体表面での反射光は、偏光成分が維持された鏡面反射光となり、生体深部での反射光は、偏光成分が乱れた散乱反射光となる。したがって、撮像装置側に、偏光照明の偏光軸と平行な方向に振動する光を透過する偏光フィルタと、偏光照明の偏光軸と垂直な方向に振動する光を透過する偏光フィルタを配置することで、生体表面と生体深部の画像を取得することが可能となる。
例えば、特許文献2、3には、このような偏光特性の異なる画像を取得するための撮像装置が開示されている。
特開2010−25915号公報 特開2008−237243号公報 特開2011−97987号公報
しかしながら、上述した従来の技術では、より簡単な構成で動画を撮影可能な撮像装置が求められていた。
本開示の、限定的ではない例示的なある実施の形態は、より簡単な構成で動画を撮影可能な撮像装置を提供する。
本開示の一態様にかかる撮像装置は、レンズ光学系と、前記レンズ光学系を通過した光が入射する複数の第1の画素と前記レンズ光学系を通過した光が入射する複数の第2の画素とを少なくとも有するカラー撮像素子と、前記レンズ光学系と前記カラー撮像素子との間に配置された第1のアレイ状光学素子とを備え、前記レンズ光学系は、複数の光学領域を有し、前記複数の光学領域は、分光透過率特性および透過偏光特性のうち少なくとも1つが互いに異なる第1の光学領域および第2の光学領域を含み、前記複数の第1の画素のそれぞれは、複数種類の互いに異なる分光透過率特性の分光フィルタを含み、前記複数の第2の画素のそれぞれは、少なくとも1種類以上の分光透過率特性の分光フィルタを含み、前記第1のアレイ状光学素子、前記第1の光学領域を通過した光を前記複数の第1の画素に入射させ、前記第2の光学領域を通過した光を前記複数の第2の画素に入射させる。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラム、または記録媒体で実現されてもよく、システム、装置、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
本開示の一態様にかかる撮像装置によれば、簡単な構成で動画を撮影することができる。
本開示による撮像装置Aの実施の形態1を示す模式図である。 本開示の実施の形態1における光学素子L1の第1および第2の光学領域D1、D2を被写体側から見た正面図である。 本開示の実施の形態1におけるレンチキュラレンズKの斜視図である。 (a)は、本実施の形態1における図1に示すレンチキュラレンズKおよびカラー撮像素子Nを拡大して示す図であり、(b)は、レンチキュラレンズKとカラー撮像素子N上の画素との位置関係を示す図である。 (a)および(b)は、本実施の形態1の変形例におけるレンチキュラレンズKとカラー撮像素子N上の画素との位置関係を示す図である。 (a)および(b)は、本開示の実施の形態2におけるレンチキュラレンズKおよびカラー撮像素子Nを拡大して示す図である。 (a)は、本開示の実施の形態2の変形例における撮像素子上に設けることが可能な回折光学素子の断面図であり、(b)および(c)は、断面図である。 本開示の実施の形態3における撮像装置Aを示すブロック図である。 本開示の実施の形態1におけるSAD演算について説明する図である。 本開示の実施の形態4における撮像システムAP1を示す模式図である。 本開示の実施の形態5における電子ミラーAP2の正面図である。 本開示の実施の形態6における測距装置の概略図である。 (a)は、本開示の実施の形態7における光学素子L1pの第1、第2、第3および第4の光学領域D1、D2、D3、D4を被写体側から見た正面図であり、(b)は、レンチキュラレンズKとカラー撮像素子N上の画素との位置関係を示す図である。 (a)および(b)は、本実施の形態7の変形例におけるレンチキュラレンズKとカラー撮像素子N上の画素との位置関係を示す図である。 (a)は、本開示の実施の形態8における光学素子L1pの第1、第2、第3および第4の光学領域D1、D2、D3、D4を被写体側から見た正面図であり、(b)は、マイクロレンズアレイの斜視図であり、(c)は、マイクロレンズとカラー撮像素子N上の画素との位置関係を示す図である。 (a)および(b)は、本実施の形態8の変形例におけるマイクロレンズとカラー撮像素子N上の画素との位置関係を示す図である。 (a)および(b)は、本開示の実施の形態9における第3の信号処理部の動作を説明するフローチャートである。 (a)は、本開示の実施の形態10における撮像装置の配置を示す模式図であり、(b)は、s波およびp波の入射角と反射率との関係を示す図である。
本開示による撮像装置および撮像システムの一実施形態は以下の通りである。
本開示の一実施形態に係る撮像装置は、レンズ光学系と、前記レンズ光学系を通過した光が入射する複数の第1の画素と前記レンズ光学系を通過した光が入射する複数の第2の画素とを少なくとも有するカラー撮像素子と、前記レンズ光学系と前記カラー撮像素子との間に配置された第1のアレイ状光学素子とを備え、前記レンズ光学系は、複数の光学領域を有し、前記複数の光学領域は、分光透過率特性および透過偏光特性のうち少なくとも1つが互いに異なる第1の光学領域および第2の光学領域を含み、前記複数の第1の画素のそれぞれは、複数種類の互いに異なる分光透過率特性の分光フィルタを含み、前記複数の第2の画素のそれぞれは、少なくとも1種類以上の分光透過率特性の分光フィルタを含み、前記第1のアレイ状光学素子は、前記第1の光学領域を通過した光を前記複数の第1の画素に入射させ、前記第2の光学領域を通過した光を前記複数の第2の画素に入射させる。
本開示の一態様にかかる撮像装置によれば、単一の撮像系を用いて偏光特性の異なる複数の画像、または分光特性の異なる複数の画像を同時に取得することができる。
前記カラー撮像素子は、前記レンズ光学系を通過した光が入射する複数の第3の画素、および前記レンズ光学系を通過した光が入射する複数の第4の画素をさらに有し、前記レンズ光学系における前記複数の光学領域は、第3の光学領域および第4の光学領域をさらに含み、前記第1の光学領域、前記第2の光学領域、前記第3の光学領域、および前記第4の光学領域は、分光透過率特性および透過偏光特性のうち少なくとも1つが互いに異なり、前記複数の第3の画素および前記複数の第4の画素は、複数種類の互いに異なる分光透過率特性の分光フィルタを含み、前記第1のアレイ状光学素子は、前記第3の光学領域を通過した光を前記複数の第3の画素に入射させ、前記第4の光学領域を通過した光を前記複数の第4の画素に入射させてもよい。
前記第1のアレイ状光学素子が、マイクロレンズアレイであってもよい。
前記第1の光学領域は、第1の偏光軸の方向に振動する光を主に透過する偏光フィルタによって構成され、前記第2の光学領域は、前記第1の偏光軸とは異なる第2の偏光軸の方向に振動する光を主に透過する偏光フィルタによって構成されていてもよい。
前記第1の光学領域は、無偏光の光を透過し、前記第2の光学領域は、所定の偏光軸の方向に振動する光を主に透過する偏光フィルタによって構成されていてもよい。
前記第1の光学領域は、可視光帯域の光を主に透過する分光フィルタによって構成され、前記第2の光学領域は、非可視光帯域の光を主に透過する分光フィルタによって構成されていてもよい。
前記第1のアレイ状光学素子が第1のレンチキュラレンズであり、前記第1のレンチキュラレンズは、前記カラー撮像素子上に形成されていてもよい。
撮像装置は、前記第1のレンチキュラレンズと前記カラー撮像素子との間に設けられた第2のレンチキュラレンズをさらに備え、前記第1のレンチキュラレンズは、前記第2のレンチキュラレンズを介して前記カラー撮像素子上に形成されていてもよい。
前記第2のレンチキュラレンズは、バイナリー形状で形成された屈折率分布素子、またはマルチレベル形状で形成された屈折率分布素子であってもよい。
撮像装置は、前記第1のレンチキュラレンズと前記カラー撮像素子との間に設けられたマイクロレンズをさらに備え、前記第1のレンチキュラレンズは、前記マイクロレンズを介して前記カラー撮像素子上に形成されていてもよい。
前記マイクロレンズは、バイナリー形状で形成された屈折率分布素子、またはマルチレベル形状で形成された屈折率分布素子であってもよい。
撮像装置は、前記複数の第1の画素および前記複数の第2の画素から得られる画素信号に基づいて、それぞれ第1の画像情報および第2の画像情報を生成するように構成された第1の信号処理部をさらに備えていてもよい。
撮像装置は、前記第1の画像情報および前記第2の画像情報に基づき被写体の視差情報を生成するように構成された第2の信号処理部と、前記視差情報に基づいて合焦制御信号を生成するように構成された制御部と、レンズ駆動部とをさらに備え、前記レンズ光学系は、前記レンズ光学系の光軸に沿って移動可能な少なくとも1つのレンズを含み、前記レンズ駆動部は、前記合焦制御信号に基づいて前記レンズを前記光軸に沿って移動させてもよい。
撮像装置は、第3の信号処理部をさらに備え、前記第3の信号処理部は、前記第1の画像情報または前記第2の画像情報のうち少なくともいずれか一方の画像情報の明るさを読みとり、前記画像の明るさを所定の閾値と比較し、前記比較結果に応じて前記第1の画像情報と前記第2の画像情報のうちいずれか一方を出力してもよい。
撮像装置は、第3の信号処理部をさらに備え、第3の信号処理部は、記第1の画像情報または前記第2の画像情報のうち少なくともいずれか一方の画像情報の明るさを読み取り、前記画像の明るさに応じて前記第1の画像情報と前記第2の画像情報との各加算比率を決定し、前記加算比率に基づいて、前記第1の画像情報と前記第2の画像情報とを加算した加算画像を生成し、出力してもよい。
本開示の一実施形態に係る撮像システムは、上記いずれかに記載の撮像装置と、偏光光を出射する偏光照明とを備える。
撮像システムは、前記撮像装置において取得された画像を表示する表示装置をさらに備えていてもよい。
本開示の一実施形態に係る電子ミラーシステムは、上記撮像装置と、前記撮像装置において取得された画像を表示する表示装置とを備える。
電子ミラーシステムは、偏光光を出射する偏光照明をさらに備え、前記撮像装置、前記偏光照明、および前記表示装置が略同一平面状に配置されていてもよい。
電子ミラーシステムは、前記第1の画像情報および前記第2の画像情報を用いて被写体の特徴を定量化した情報を生成するように構成された第3の信号処理部をさらに備え、前記表示装置は、前記定量化された情報をさらに表示してもよい。
電子ミラーシステムは、前記第1の画像情報および前記第2の画像情報に基づき被写体の視差情報を生成し、生成した情報に基づき、被写体の位置を移動させるための情報を生成するように構成された第2の信号処理部とをさらに備え、前記表示装置は、前記被写体と前記表示装置との距離を変化させるための情報を表示してもよい。
本開示の一実施形態に係る撮像システムは、上記撮像装置と、近赤外照明または近紫外照明とを備える。
本開示の一実施形態に係る測距装置は、上記いずれかに記載の撮像装置を複数備える。
(実施の形態1)
図1は、実施の形態1の撮像装置Aを示す模式図である。本実施の形態の撮像装置Aは、Vを光軸とするレンズ光学系Lと、レンズ光学系Lの焦点近傍に配置されたレンチキュラレンズKと、カラー撮像素子Nを含む撮像部IMと、第1の信号処理部C1とを備える。
レンズ光学系Lは、被写体(図示せず)からの光が入射する絞りSと、絞りSを通過した光が入射する光学素子L1と、光学素子L1を通過した光が入射するレンズL2とから構成されている。レンズ光学系Lは、第1、第2の光学領域D1、D2を有する。
レンズL2は、一枚のレンズで構成されていてもよいし、複数枚のレンズで構成されていてもよい。また、レンズL2は、絞りSの前後に複数枚に分かれて配置された構成であってもよい。図1では、レンズL2を一枚構成として図示している。
光学素子L1は、絞りSの近傍に配置され、第1の光学領域D1に位置する部分と第2の光学領域D2に位置する部分とによって構成される。第1の光学領域D1には、透過軸である第1の偏光軸の方向に振動する光を透過する偏光フィルタが配置され、第2の光学領域D2には、第1の偏光軸と直交する透過軸である第2の偏光軸の方向に振動する光を透過する偏光フィルタが配置されている。
第1の光学領域D1と第2の光学領域D2との界面には、偏光フィルタの端面が存在するため、偏光フィルタの端面に入射する光を遮光するための遮光領域SSが設けられている。
本実施の形態では、2つの光学領域D1、D2を通過した光は、レンズL2を通過した後、レンチキュラレンズKに入射する。レンチキュラレンズKは、光学領域D1を通過した光をカラー撮像素子Nにおける複数の画素P1に、光学領域D2を通過した光をカラー撮像素子Nにおける複数の画素P2に入射させる。カラー撮像素子Nは画素P1、P2に入射した光を光電変換によって、入射した光の強度に応じた画素信号に変換する。画素信号とは、各画素P1、P2において、光電変換によって生成した輝度情報を示す信号をいう。第1の信号処理部C1は、カラー撮像素子Nから画素信号を受け取り、複数の画素P1を含む画素群の輝度情報から、第1の偏光軸の方向に振動する光による画像の画像情報を生成し、出力する。また、第1の信号処理部C1は、複数の画素P2を含む画素群の輝度情報から、第2の偏光軸の方向に振動する光による画像の画像情報を生成し、出力する。第1の信号処理部C1は、電子回路等によって構成されていてもよいし、演算装置、メモリおよびソフトウエアによって構成されていてもよい。
図1において、光束B1は、光学素子L1上の第1の光学領域D1を通過する光束(light beam)であり、光束B2は、光学素子L1上の第2の光学領域D2を通過する光束である。光束B1、B2は、絞りS、光学素子L1、レンズL2、レンチキュラレンズKをこの順に通過し、カラー撮像素子N上の撮像面Niに到達する。
図2は、第1の光学領域D1および第2の光学領域D2を被写体側から見た正面図である。光学素子L1における第1の光学領域D1および第2の光学領域D2は、光軸Vを含む平面によって分割される2つの空間に配置される。図2において、破線sは、絞りSの開口領域を示している。また、図1および図2における矢印Hが、撮像装置が使用される場合における水平方向を示す。
図3は、レンチキュラレンズKの斜視図である。レンチキュラレンズは、複数のシリンドリカルレンズM1を有する。各シリンドリカルレンズM1はx方向(第1の方向)に伸び、複数のシリンドリカルレンズM1がy方向(第2の方向)に配列されている。y方向は図1、2における水平方向に対応する。それぞれのシリンドリカルレンズM1のx方向に垂直な断面は、カラー撮像素子N側に突出した曲面の形状を有する。本実施の形態では、x方向およびy方向は互いに直交している。
図1に示すように、レンチキュラレンズKは、レンズ光学系Lの焦点近傍に配置されており、撮像面Niから所定の距離だけ離れた位置に配置されている。
図4(a)は、図1に示すレンチキュラレンズKおよびカラー撮像素子Nを拡大して示す図であり、図4(b)は、レンチキュラレンズKとカラー撮像素子N上の画素との位置関係を示す図である。レンチキュラレンズKは、シリンドリカルレンズM1が形成された面が撮像面Ni側に向かうように配置されている。
カラー撮像素子Nは、撮像面Niと複数の画素Pとを含む。図4(b)に示すように、複数の画素Pは、x方向およびy方向に2次元に配列されている。y方向およびx方向への配列をそれぞれ行および列と呼ぶ場合、複数の画素は、撮像面Ni上において、例えば、m行l列(l、mは2以上の整数)に配置されている。つまり、x方向に1からl個の画素が配列した一行の画素群が、y方向に1からm行目までのm行に配列されている。
m行の画素群のうち、j行目(1≦j<m)に配列されたl個の画素のx方向における中心C’の各位置は、j+1行目に配列されたl個の画素のx方向における中心C’j+1の各位置と略同一である。
同様に、複数の画素を、y方向に配列された複数の画素により構成される1列の画素群がx方向に1からl列までのl列に配列されていると見ることもできる。この場合、l列の画素群のうちu列目(1≦u<l)に配列されたm個の画素のy方向における中心の各位置は、u+1列目に配列されたm個の画素のy方向における中心の各位置と略同一である。
複数の画素Pは、それぞれx方向に配列され、行を構成する複数の画素P1および複数の画素P2に分けられる。複数の画素P1および複数の画素P2のそれぞれは、上述したようにx方向に1行に並んで配置されている。y方向において、画素P1の行と画素P2の行とは交互に配置されている。レンチキュラレンズKは、レンチキュラレンズKを構成する複数のシリンドリカルレンズM1のうちの1つが、撮像面Ni上における1行の画素P1により構成される画素群および撮像面Ni上における1行の画素P2により構成される画素群からなる2行の画素群に対応するように配置されている。撮像面Ni上には、画素P1、P2の表面を覆うようにマイクロレンズMsが設けられている。
本実施の形態において、複数の画素P1および複数の画素P2は、いずれも撮像面Niにおいて同じ形状を有している。例えば、複数の第1の画素P1および複数の第2の画素P2は同じ矩形形状を有しており、面積も互いに等しい。
また、画素P1、P2のそれぞれは、マイクロレンズMsの下に位置し、撮像面Niから内部に設けられた光電変換部EX、並びに光電変換部上に設けられたカラーフィルタR(赤色)、カラーフィルタG(緑色)、およびカラーフィルタB(青色)を含む。画素P1、P2において、カラーフィルタR(赤色)、カラーフィルタG(緑色)、およびカラーフィルタB(青色)は、図4(b)に示す配列で配置されている。具体的には、撮像面における、レンチキュラレンズの1つのシリンドリカルレンズM1に対応する単位領域内に、カラーフィルタG(緑色)を有する画素およびカラーフィルタR(赤色)を有する画素がx方向に繰り返し配列されている。その単位領域のy方向に隣接する単位領域では、カラーフィルタB(青色)を有する画素およびカラーフィルタG(緑色)を有する画素がx方向に繰り返し配列されている。
したがって、画素P1の画素群の行だけを見れば、カラーフィルタB(青色)およびカラーフィルタG(緑色)を有する画素の画素群の行と、カラーフィルタG(緑色)およびカラーフィルタR(赤色)を有する画素のフィルタを有する画素の画素群の行とが交互に配列されている。同様に、画素P2の画素群の行だけを見れば、カラーフィルタB(青色)およびカラーフィルタG(緑色)のフィルタを有する画素の画素群の行と、カラーフィルタG(緑色)およびカラーフィルタR(赤色)のフィルタを有する画素のフィルタを有する画素の画素群の行とが交互に配列されている。このため、画素P1の画素群の行だけで画像を構成しても、画素P2の画素群の行だけで画像を構成しても、それぞれの画像には、カラーフィルタR、G、Bを有する画素から得られた輝度値による画素信号を含むため、それぞれの画像はカラー画像となる。
レンチキュラレンズKは、光学素子L1上の光学領域D1(図1、図2に示す)を通過した光束(図1において実線で示される光束B1)の大部分が、撮像面Ni上の画素P1に到達し、光学領域D2を通過した光束(図1において破線で示される光束B2)の大部分が、撮像面Ni上の画素P2に到達するように設計されている。具体的には、レンチキュラレンズKの屈折率、撮像面Niからの距離及びシリンドリカルレンズM1表面の曲率半径等のパラメータを適切に設定することで、上記構成が実現する。
絞りSは全ての画角の光束が通過する領域である。従って、絞りSの近傍に偏光特性を制御する光学特性を有する面を挿入することにより、全ての画角の光束の偏光特性を同様に制御することができる。すなわち、本実施の形態では、光学素子L1は、絞りSの近傍に設けられていてもよい。絞り近傍に位置する第1および第2の光学領域D1、D2に光学素子L1を配置することによって、領域の分割数に応じた偏光特性を光束に与えることができる。
図1においては、絞りSを通過した光が直接、他の光学部材を介することなく、光学素子L1に入射する位置に設けられている。光学素子L1は、絞りSよりも被写体側に設けられていてもよい。この場合、光学素子L1を通過した光が、直接、他の光学部材を介することなく、絞りSに入射してもよい。
また、レンチキュラレンズKは、光線の入射角に応じて出射方向を振り分ける機能を有する。そのため、絞りSの近傍で分割された第1及び第2の光学領域D1、D2に対応するように、撮像面Ni上の画素に光束を振り分けることができる。
以上の構成により、画素P1により構成される画素群と画素P2により構成される画素群との輝度情報を用いて、第1の偏光軸の方向に振動する偏光の情報を有する第1のカラー画像情報と、第1の偏光軸と直交する第2の偏光軸の方向に振動する偏光の情報を有する第2のカラー画像情報を同時に取得することができる。すなわち、本構成では、光学領域D1、D2とR、G、B画素との組み合わせで、合計6チャンネルの画像情報を同時に取得することができる。また、第1の偏光軸と第2の偏光軸とは互いに直交しているため、第1のカラー画像情報と第2のカラー画像情報を加算平均することにより、第3の無偏光のカラー画像情報を生成することもできる。
このような構成によれば、画素P1は、他の画素P1とx方向に隣接して配置され、y方向には画素P2、と交互に配置される。画素P2についても同様に、画素P2は、他の画素P2とx方向に隣接して配置され、y方向には画素P1、と交互に配置される。このため、第1のカラー画像情報と第2のカラー画像情報とは、カラー撮像素子Nのすべての画素から1つの画像を得る場合に比べて、x方向には同じ解像度を有し、y方向には1/2の解像度を有する。つまり、有効画素数の低下は1/2である。よって、カラー撮像素子Nのすべての画素から1つの画像を得られる場合に比べて1/2の解像度の低下で、偏光方向の異なる光による2つの画像を同時に得ることができる。これに対し、光学素子L1を4つの光学領域に分割し、2×2画素に1つのマイクロレンズが対応するように配列することによって、各マイクロレンズが4つの光学領域を透過した光束をそれぞれ異なる画素に入射させる場合、x方向およびy方向の有効画素数がそれぞれ1/2となり、有効画素数および解像度は全体で1/4になる。このため、本実施形態によれば、光学素子L1を4つの光学領域に分割した場合に得られる画像の2倍の解像度が得られる。なお、このような有効画素および解像度の低下は、分割した複数の光学領域を透過する光束をそれぞれ別の画素に入射させたためによって生じ、カラーフィルタの配置によるものではない。従来の撮像装置において、カラーフィルタがベイヤー配列によって配列されている場合、2×2画素の単位でカラーフィルタの組み合わせが繰り返し配列されているが、補間処理によって解像度を維持できる。例えば、ベイヤー配列の場合、画像の垂直方向の画素数が1000画素の場合、レンズ性能が十分であれば、補間処理によって1000TV本程度の解像度が得られる。
また、本実施の形態によれば、分光は撮像素子の画素上に配置されたカラーフィルタで行うため、被写界深度外においても自然なボケ方のカラー画像を得ることができる。これに対して、光学素子L1の光学領域にカラーフィルタを配置した場合、被写界深度外の被写体では視差による色ずれが生じ、不自然なボケ方をしたカラー画像が得られる場合がある。また、光学素子L1の光学領域に配置するカラーフィルタが誘電体多層膜によって構成される場合には、誘電体多層膜とカラー撮像素子Nの撮像面Ni等との間で多重反射が生じ、ゴーストが発生する場合がある。また、誘電体多層膜は入射角によって分光透過率特性が変化するため、光学素子L1の光学領域にカラーフィルタを配置した場合では、色シェーディングが発生する場合がある。
また、本実施の形態によれば、レンチキュラレンズによって、光学素子L1の光学領域D1、D2をそれぞれ透過する光を画素P1、P2にそれぞれ入射させるため、レンチキュラレンズによってクロストークが発生するとしても、そのクロストークの発生は1方向である。よって、光学素子L1を4つの光学領域に分割し、マイクロレンズによって4つの画素に入射させる場合に比べて、クロストークは少なく、画像信号の分離性が良い。
また、光学素子L1を2つの光学領域に分割しているため、4つの光学領域に分割する場合に比べて、光学領域の境界に配置する遮光領域の面積が小さくでき、遮光領域による感度の低下を抑制することができる。
なお、本実施の形態では、光学素子L1上の光学領域D1と光学領域D2とを互いに偏光軸の異なる偏光フィルタで構成したが、光学領域D1に透明ガラス板を配置し、光学領域D2に第1の偏光軸の方向に振動する光を透過する偏光フィルタを配置する構成としてもよい。また、光学領域D1には何も配置せず、光学領域D2に第1の偏光軸の方向に振動する光を透過する偏光フィルタを配置する構成としてもよい。
このような構成により、画素P1により構成される画素群と画素P2により構成される画素群との輝度情報を用いて、無偏光の情報を有する第1のカラー画像情報と、第1の偏光軸の方向に振動する偏光の情報を有する第2のカラー画像情報を同時に取得することができる。また、第1のカラー画像情報に偏光フィルタの透過率×2の係数を乗じてから第2のカラー画像情報を減算することにより、第1の偏光軸と直交する第2の偏光軸の方向に振動する偏光の情報を有する第3のカラー画像情報を生成することもできる。
また、光学素子L1上の光学領域D1と光学領域D2とを互いに分光透過率特性を異ならせたフィルタを配置した構成であってもよい。例えば、光学領域D1は可視光を主に透過する分光フィルタによって構成し、光学領域D2は近赤外光もしくは近紫外光を主に透過する分光フィルタによって構成する。
このような構成により、画素P1には可視光の光が主に入射するため、画素P1の画素群の輝度情報を用いて、可視光の情報を有するカラー画像情報を取得することができる。また、画素P2には近赤外光または近紫外光の光が主に入射するが、撮像素子上に形成されているR(赤色)、G(緑色)、B(青色)のカラーフィルタは、近赤外光および近紫外光を透過するため、画素P2の画素群の輝度情報を用いて、近赤外光または近紫外光の情報を有する画像情報を取得することができる。このように、可視光の情報を有するカラー画像情報と、近赤外光または近紫外光の情報を有する画像情報を同時に取得することができる。
また、本実施の形態では、撮像素子上のカラーフィルタをR(赤色)、G(緑色)、B(青色)で構成したが、他のカラーフィルタ構成であってもよい。例えば、図5(a)、(b)のように撮像素子上のカラーフィルタをR(赤色)、G(緑色)、B(青色)、X(任意の帯域の色)としてもよい。任意の帯域の色とは、例えば、図5(a)の場合では、白(可視光全域)の帯域またはシアン等の補色系の帯域、近赤外または近紫外等の非可視光の帯域である。このような構成により、2つの偏光軸の画像を同時に取得する際、または偏光と無偏光の画像情報を同時に取得する際に分光情報を1種類増すことができる。また、図5(b)の場合では、任意の帯域の色XをR(赤色)、G(緑色)、B(青色)のいずれか1つの帯域としてもよいし、白(可視光)の帯域またはシアン等の補色系の帯域、近赤外または近紫外等の非可視光の帯域としてもよい。このような構成により、画素P2は所定の帯域のみの画像情報に限定されるため、光学領域D2の情報に対応する画像情報の解像度を向上させることができる。例えば、光学領域D1に透明ガラス板を配置し、光学領域D2に第1の偏光軸の方向に振動する光を透過する偏光フィルタを配置し、カラーフィルタ配列を図5(b)の配列とし、カラーフィルタXをシアンとした場合では、画素P1の画素群の輝度情報を用いてカラー画像を生成し、画素P2の画素群の輝度情報を用いて、シアン単色の解像度の高い偏光画像を生成することができる。また、光学領域D1に可視光を主に透過する分光フィルタを配置し、光学領域D2に近赤外光または近紫外光を主に透過する分光フィルタを配置し、カラーフィルタ配列を図5(b)の配列とし、カラーフィルタXを白色とした場合では、画素P1の画素群の輝度情報を用いてカラー画像を生成し、画素P2の画素群の輝度情報を用いて、近赤外光もしくは近紫外光の情報を有し、解像度が高くかつ感度の高い近赤外光または近紫外光の情報を有する画像情報を生成することができる。なお、光学領域D2に配置する分光フィルタは、吸収型の分光フィルタであってもよい。また、このような構成において、近赤外光または近紫外光の照明を備えた撮像システムとして構成してもよい。
(実施の形態2)
本実施の形態2は、レンチキュラレンズをカラー撮像素子Nの撮像面上に形成したという点で、実施の形態1と異なる。ここでは、本実施の形態において実施の形態1と同様の内容についての詳細な説明は省略する。
図6(a)および(b)は、レンチキュラレンズおよびカラー撮像素子Nを拡大して示す図であり、1つの光学領域を通過した光線のみ図示している。本実施の形態では、レンチキュラレンズMd1が、カラー撮像素子Nの撮像面Ni上に形成されている。撮像面Niには、実施の形態1と同様に、画素Pが行列状に配置されている。これら複数の画素Pのうち画素P1の画素群の1行および画素P2の画素群の1行からなる2行に対して、レンチキュラレンズMd1を構成する複数のシリンドリカルレンズのうち1つのシリンドリカルレンズが対応している。本実施の形態においても、実施の形態1と同様に、異なる光学領域を通過した光束を、それぞれ異なる画素に導くことができる。また、図6(b)は、本実施の形態の変形例を示す図である。図6(b)に示す構成では、画素Pを覆うようにレンチキュラレンズMd2(または、マイクロレンズMs)が形成され、レンチキュラレンズMd2(または、マイクロレンズMs)の表面上に低屈折率層Wを介してレンチキュラレンズMd1が積層されている。図6(b)に示す構成では、図6(a)の構成よりも集光効率を高めることができる。レンチキュラレンズMd2を用いる場合には、画素P1の画素群の1行または画素P2の画素群の1行に対して、レンチキュラレンズMd2を構成する複数のシリンドリカルレンズのうち1つのシリンドリカルレンズが対応している。また、マイクロレンズMsを用いる場合、1つのマイクロレンズMsに対して、1つの画素P1または画素P2が対応している。
実施の形態1のようにレンチキュラレンズKがカラー撮像素子Nと分離していると、レンチキュラレンズKとカラー撮像素子Nとの位置合せが難しくなるが、本実施の形態のように、レンチキュラレンズMd1をカラー撮像素子N上に形成する構成にすることにより、ウエハプロセスによって位置合せが可能になるため、位置合せが容易となり、位置合せ精度も増すことができる。
また、本実施の形態2において、撮像素子の各画素上に設けられるレンチキュラレンズは、他の形状のマイクロレンズMsを撮像素子にさらに設けてもよい。例えば、特開2008−10773号公報に開示されているような、屈折率の異なる材料の分布によって光を集光させる屈折率分布素子を用いてもよい。図7(a)は、回折光学素子Md2’(Ms’)の一例を示す断面図であり、(b)は、回折光学素子Md2’の断面図、(c)は、回折光学素子Ms’の断面図である。図7(a)、(b)および(c)において、斜線で示す光学部材分とその周囲の部分は互いに異なる屈折率の材料または媒質で構成される。図7(b)に示すように、回折光学素子Md2’は、画素が形成される平面と平行な平面においてストライプ形状を有し、画素の中心から外側になるにしたがって、ストライプパターンの幅が減少するように配置されることによって構成される。光学部材とその周囲の部分との屈折率差、またはストライプパターンの幅もしくはパターン間の間隔などによって、回折光学素子Md2’の屈折率を調整し得る。光学部材の形状は画素中心に対してH方向の線対称形に限られず、画素中心に対してH方向に非線対称形であってもよい。また、図7(c)に示すように回折光学素子Ms’は、例えば、画素が形成される平面と平行な平面においてリング形状を有し、平面に垂直な方向に伸びる円筒状の複数の光学部材が同心状に配置されることによって構成される。光学部材とその周囲の部分との屈折率差、円筒のサイズ、または同心状に配置される円筒の間隔などによって、回折光学素子Ms’の屈折率を調整し得る。光学部材の形状は円筒状に限られず、光軸に対して非回転対称であってもよい。また、図7(a)、(b)および(c)では、回折光学素子が2レベルのバイナリー回折光学素子である例について示したが、3レベル以上のマルチレベル回折光学素子であってもよい。
このような構造を有する回折光学素子Md2’および回折光学素子Ms’は、例えば半導体フォトリソグラフ技術を用いて製造することができる。従来のレンズ面を有するマイクロレンズは、例えば、樹脂を熱変形させて製造するため、撮像素子の複数の画素上に設けられる複数のマイクロレンズ間で、レンズ面の曲面を異ならせることは困難であった。これに対し、回折光学素子Md2’または回折光学素子Ms’を用いる場合、撮像素子の複数の画素間で、上述の光学部材の寸法を異ならせることにより、光学特性を変えることができる。よって、レンズ光学系LおよびレンチキュラレンズKによって、斜めから光線がカラー撮像素子Nの画素に入射する場合でも、効率よく画素に光を集光させることができる。
(実施の形態3)
本実施の形態3は、第1の信号処理部で生成した第1の画像情報および第2の画像情報から撮影対象物の視差情報を生成する第2の信号処理部と、レンズ駆動部と、前記視差情報に基づいて合焦制御を行う制御部とをさらに備える点で実施の形態1および2と異なる。ここでは、本実施の形態において実施の形態1および2と同様の内容についての詳細な説明は省略する。
図8は、実施の形態3における撮像装置Aを示すブロック図である。撮像装置Aは、撮像部IM、第1の信号処理部C1、第2の信号処理部C2、合焦制御を行う制御部CS、レンズ駆動部LDを備えている。第2の信号処理部C2および合焦制御を行う制御部CSは、電子回路等によって構成されていてもよいし、演算装置、メモリおよびソフトウエアによって構成されていてもよい。また、レンズ駆動部LDは、レンズL2を光軸V方向に移動させるアクチュエータを含む。レンズ光学系Lにおいて、レンズL2は光軸Vの方向に移動可能なように構成されている。
まず、第1の信号処理部C1において、撮像部IMから得られた、画素P1により構成される画素群および画素P2により構成される画素群の輝度情報を用いて、それぞれ第1の画像情報と第2の画像情報とを生成する。第1の画像情報と第2の画像情報とは、絞り近傍にある異なる光学領域を通過した光によって生成された画像情報であるため、被写体距離に応じた視差が存在している。
次に、第2の信号処理部C2において、第1の画像情報と第2の画像情報とを用いて視差を算出する。ここで、第1の画像情報と第2の画像情報とは、互いに偏光情報または分光情報が異なるため、輝度の大きさが互いに異なる。従って、例えば視差を導出する前に輝度の正規化またはエッジ抽出等を行うことにより、視差情報を抽出するために必要な前処理を第1の画像情報と第2の画像情報とに対して行う。視差抽出は、第1の画像情報における所定の画像ブロック(基準画像)と、第2の画像情報における所定の画像ブロック(参照画像)との間に生じる画像のズレをパターンマッチングにより抽出する。パターンマッチングの相関度は、例えば基準画像と参照画像との間の各画素の輝度の差分(絶対値)の総和である評価関数SAD(Sum of Absolute Difference)によって求めることができる。ここで、小領域の演算ブロックサイズをm×n画素とすると、SADは(数1)によって求めることができる。
Figure 0006260006
(数1)において、x、yは撮像面の座標であり、I0、I1はそれぞれ括弧内で示した座標における基準画像の輝度値と参照画像の輝度値である。図9はSAD演算について説明する図である。SAD演算では、基準画像の基準ブロック領域に対して参照画像の探索ブロック領域の位置を図9のように基線方向(図1等に示すH方向)にdxだけずらしながら演算し、SADが極小値となるdxが視差Pxとなる。SADは任意の座標で演算できるので、撮像視野内の全領域の視差を抽出することができる。視野の特定の被写体の視差を抽出する場合には、領域を限定すればよい。第2の信号処理部C2では、例えば、被写体の所定領域に対応する領域の視差Pxを抽出する。
制御部CSは、視差Pxに基づいて合焦制御信号を生成する。たとえば、制御部CSは、あらかじめ求められたレンズ光学系Lによる視差と合焦位置との関係を示すデータを記憶したメモリを有しており、記憶されたデータに基づき、視差Pxから合焦位置を決定する。また。決定した合焦位置にレンズ光学系LのレンズL2を移動させる合焦制御信号を生成する。
レンズ駆動部LDは、合焦制御信号を受け取り、合焦制御信号に基づき、レンズL2を駆動する。これにより、被写体の特徴点に合焦させることができる。
(実施の形態4)
本実施の形態4は、偏光照明を備えている点で、実施の形態1、2および3と異なる。図10は、実施の形態4における撮像システムAP1を示す模式図である。本実施の形態の撮像システムAP1は、例えば、実施の形態1の撮像装置Aと、偏光照明Qaと、制御部CSとを備える。制御部CSは、偏光照明Qaの点灯タイミングおよび撮像装置Aによる撮影のタイミングを制御する。また、撮像装置Aから画像情報を受け取り、外部装置EUへ出力する。制御部CSは、電子回路等によって構成されていてもよいし、演算装置、メモリおよびソフトウエアによって構成されていてもよい。偏光照明Qaは、可視光を発する光源LS1と、偏光フィルタPLとを含む。偏光フィルタPLの偏光軸は、撮像装置Aの第1の光学領域D1の偏光軸と直交する第2の偏光軸を有している。また、制御部CSは、撮像装置Aおよび偏光照明Qaの制御、および外部装置EUとの入出力制御等を行う。外部装置EUは、例えば、撮像システムAP1から出力された画像を表示するモニター、または画像を処理するパーソナルコンピュータ等である。
光源LS1から出射した光は、偏光フィルタPLを通過して被写体Obに到達する。偏光フィルタPLは、第2の偏光軸と平行な方向に振動する光を主に透過し、それ以外の方向に振動する光(例えば第2の偏光軸と直交する方向に振動する光)の大部分を吸収する。したがって、偏光照明Qaは、被写体Obに向けて、第2の偏光軸の方向に振動する偏光光のみを照射する。
被写体Obは、例えば、人の顔肌等の生体である。本実施の形態では、被写体Obは人の顔肌として説明する。顔肌(被写体Ob)に到達した光には、反射される成分と吸収される成分とがあり、撮像装置Aは反射される成分の光を撮像する。顔肌で反射される光には、顔肌の表面で反射する成分と、顔肌の内部に入り込んで散乱を繰り返した後、入射した位置とは異なる位置から出射する成分がある。
顔肌の表面で反射する光は、さらに鏡面反射する成分と拡散反射する成分とに分けられる。顔肌で鏡面反射する成分は、偏光が維持された状態となる。また、顔肌で拡散反射する成分と、顔肌の内部に入り込んで異なる位置から出射する成分とは、偏光状態が乱れた無偏光の状態となる。
撮像装置Aの第1の光学領域D1に配置された偏光フィルタは、偏光照明Qaにおける偏光フィルタPLの偏光軸と直交する偏光軸を有しているため、顔肌で鏡面反射する光の成分の大部分をカットする。また、顔肌の表面で拡散反射した光と、顔肌の内部に入り込んで異なる位置から出射する光は無偏光であるが、撮像装置Aの第1の光学領域D1に配置された偏光フィルタは、前述の無偏光の光の成分の中で、第1の偏光軸の方向に振動する光の成分を透過する。つまり、第1の光学領域D1を透過した光によって撮像した画像情報は、顔肌の表面で拡散反射した光の成分と、顔肌の内部に入り込んで異なる位置から出射する光の成分を有している。
前述した顔肌の内部とは、表皮領域であり、表皮領域の中でシミが発生している領域にはメラニンが生成されている。表皮に入り込んだ光は、メラニンによって減衰されるため、シミのある領域の画像の輝度は低下する。従って、第1の光学領域D1を透過した光によって生成した画像は、顔肌の鏡面反射成分の大部分をカットした画像、つまり、顔肌のテカリの大部分をカットした画像となるため、顔肌のシミの状態が見やすくなる。
一方、撮像装置Aの第2の光学領域D2は、第2の偏光軸の方向に振動する光を主に透過するので、第2の光学領域D2を透過した光によって撮像した画像情報は、顔肌で鏡面反射する光の成分を多く有している。従って、第2の光学領域D2を透過した光によって生成した画像は、顔肌の凹凸による陰影がはっきりするため、肌の小ジワおよびキメ等が認識しやすい画像となる。
以上の構成により、撮像システムAP1の撮像装置Aにおける第1の光学領域D1を透過した光によって、シミの状態を認識しやすい画像を取得することができ、第2の光学領域D2を透過した光によって、肌の小ジワおよびキメ等が認識しやすい画像を取得することができる。
このように本実施の形態の撮像システムAP1を用いることにより、生体の表面と内部の状態とを同時に観察できる。撮像システムAP1は、肌状態の計測または化粧の状態をリアルタイムで確認するための装置、および内視鏡等の医療用カメラ等に応用することができる。
また、このような撮像システムをパーソナルコンピュータやスマートフォン、タブレット端末等の表示装置を備えた端末に装着し、電子ミラーシステムとして利用できる構成であってもよい。
(実施の形態5)
本実施の形態5は、実施の形態4の撮像システムAP1を電子ミラーAP2に応用した構成である。なお、撮像システムAP1における撮像装置Aとしては、実施の形態1から3の撮像装置Aを用いることができる。
図11は、電子ミラーAP2の正面図である。電子ミラーAP2は、表示装置J1と、撮像装置Aと、偏光照明Qaと、これらを実装する筐体T1とを備える。筐体T1は主面SFを備えた板形状を有し、主面に開口を有する表示装置J1を収納するための空間が設けられている。図11に示すように、筐体T1の主面SFは、角が丸められた長方形形状を有し、主面SFにおける1つの短辺の中央近傍に撮像装置Aが位置している。また、主面SFにおける短辺に沿って、撮像装置Aを挟むように2つの偏光照明Qaが位置している。撮像装置Aおよび偏光照明Qaに隣接して表示装置J1が配置されている。このように、電子ミラーAP2は、表示装置J1と、撮像装置Aと、偏光照明Qaとが主面SFにおいて、略同一平面状に配置されている。このような構成により、タブレット端末のような薄型な電子ミラーを実現できる。
偏光照明Qaの光源には、例えば白色のLED(Light Emitting Diode)が用いられ、第1の偏光軸に振動する光を主に透過する偏光フィルタが配置されている。このような偏光照明Qaからの光が被写体である人物の顔に照射されることにより、撮像装置Aは、被写体である人物の反射光から第1の偏光軸の方向に振動する偏光情報を有する第1のカラー画像情報と、第2の偏光軸の方向に振動する偏光情報を有する第2のカラー画像情報の両方を同時に取得することができる。撮像装置Aで取得した画像情報は、左右が反転された状態で表示装置J1にリアルタイムに表示される。さらには、第1のカラー画像情報と第2のカラー画像情報を加算平均することにより、第3の無偏光のカラー画像情報を生成して表示装置J1に表示することもできる。
なお、撮像装置Aにおいて、光学領域D1に透明ガラス板を配置し、光学領域D2に第1の偏光軸の方向に振動する光を透過する偏光フィルタを配置する構成としてもよい。このような構成により、無偏光の情報を有する第1のカラー画像情報と、第1の偏光軸の方向に振動する偏光の情報を有する第2のカラー画像情報を同時に取得することができる。
また、偏光照明Qaは、第1の偏光軸の方向に振動する光を発するものとし、撮像装置Aにおいて、光学領域D1に透明ガラス板を配置し、光学領域D2に第1の偏光軸と直交する第2の偏光軸の方向に振動する光を透過する偏光フィルタを配置する構成とし、レンチキュラレンズKとカラー撮像素子N上の画素との位置関係を図5(b)に示す配置としてもよい。画素P2のXを青もしくはシアンの帯域を透過する分光フィルタとする構成とすることにより、無偏光のカラー情報を有する第1の画像情報と、第2の偏光軸の方向に振動し、かつ青の帯域もしくはシアンの帯域のモノクロ情報を有する第2の画像情報を同時に取得することができる。第2の画像情報は、顔肌の鏡面反射成分の大部分をカットした画像、つまり、顔肌のテカリの大部分をカットした画像となるため、顔肌のシミの状態が見やすくなる。実施の形態4で説明したようにメラニンによって減衰されるため、シミのある領域の画像の輝度は低下する。また、メラニンの吸収は短波長側ほど大きくなるため、青またはシアンの帯域の分光フィルタを介して撮像することにより、シミによるコントラストが大きくなるため、可視化しやすくなる。また、シアンの帯域を利用することにより、偏光フィルタによる光の減衰を抑えることができるため、青の帯域を利用する場合に比べて画像の感度を高くすることができる。また、第1の画像情報はカラー情報を含んでいるため、青色の画像情報と緑色の画像情報とから無偏光のシアンの画像情報を生成することができる。従って、無偏光のシアンの画像情報から第2の画像情報を減算することにより、第1の偏光軸の方向に振動する偏光の情報を有する第3の画像情報を取得することができる。第3の画像情報は、鏡面反射する光の成分を多く有しており、顔肌の凹凸による陰影がはっきりするため、顔肌の小ジワおよびキメ等が認識しやすい画像を取得することができる。
このような電子ミラーAP2を用いることによって、シミの状態を認識しやすい画像、顔肌の小ジワおよびキメが認識しやすい画像、並びに通常の画像を同時に取得することができ、被写体である利用者自身が通常の鏡のような感覚で利用者自身の鏡像を確認することができる。これらの画像は、利用者によって、表示される画像を適宜切替えることができる構成にしてもよい。
また、表示装置J1を液晶ディスプレイで構成する場合、液晶ディスプレイ自体からの光も被写体に照射されるため、液晶ディスプレイの前面側の偏光フィルタの偏光軸は偏光照明Qaの偏光軸と同じであってもよい。これにより、液晶ディスプレイから被写体に照射される光の偏光方向を偏光照明からの光の偏光方向と同じにすることができる。
また、図1において点線で示すように、電子ミラーAP2の撮像装置Aは、第1の画像情報、および第2の画像情報を用いて被写体の肌の特徴を定量化した情報を生成する第3の信号処理部をさらに備え、前記肌状態を定量化した値を表示装置J1に表示させてもよい。このような構成により、鏡を見ながら、利用者自身の肌状態を非接触で計測できる肌計測システムを実現できる。たとえば、第1の画像情報、および第2の画像情報を用いて、画像中の肌におけるシミの部分を抽出し、シミの部分の面積の割合を求め、表示装置J1に表示させてもよい。あるいは、シミの部分を示す画像データを生成し、第1の画像情報による画像、第2の画像情報による画像またはこれらの画像情報から得られる画像に生成した画像を重畳して、表示装置J1に表示させてもよい。
また、上記肌計測システムにおいて、偏光照明Qaがオンの時とオフの時の画像とを順次撮影し、オンの時の画像とオフの時の画像との差分画像を用いて肌状態を定量化する構成であってもよい。このような構成により、偏光照明Qa以外の室内照明等の環境光の成分を差し引くことができ、室内照明等の環境光の影響をなくすことができ、肌計測の精度を高めることができる。
また、本実施の形態の撮像装置として実施の形態3の撮像装置を用いて、被写体である利用者の画像から視差を抽出し、この視差情報に基づいて被写体の位置を移動させるための情報を表示装置に表示させる構成であってもよい。たとえば、撮像装置Aは、撮像部IM、第1の信号処理部C1および第2の信号処理部C2を備え、実施の形態3で説明したように、第2の信号処理部C2は、第1の画像情報と第2の画像情報とを用いて視差を算出する。また、第2の信号処理部C2は、視差が所定の値よりも小さい場合には、被写体の距離が遠いことを示す情報、または、顔と電子ミラーAP2との距離を短くするように利用者にうながす情報を生成してもよい。また、視差が所定の値よりも大きい場合には、被写体の距離が近いことを示す情報、または、顔と電子ミラーAP2との距離を長くするように利用者にうながす情報を生成してもよい。これらの生成した情報は、表示装置J1に表示させてもよい。あるいは電子ミラーAP2は、発音デバイスを備え、音声等によって、これらの情報を利用者に提示してもよい。このような構成によって、利用者である被写体を常に同じ距離で撮像することができるため、肌状態の計測結果の安定性を良好に保つことができ、過去の計測結果との比較、および肌状態を同じ条件で撮影した多人数のデータベースとの照合が可能となる。
(実施の形態6)
本実施の形態6は、実施の形態1もしくは実施の形態2に示す撮像装置を複数用いた測距装置である。図12は撮像装置を2つ用いた測距装置の概略図である。図12において、各符号は図1と同じである。本実施の形態では、測距装置の基線方向Bに対して、各撮像装置のレンチキュラレンズを構成するシリンドリカルレンズの配列方向Eを直交させている。測距装置では、パターンマッチングすることにより視差を抽出し、抽出した視差を用いて三角測量の原理により被写体までの距離を算出する。従って、測距装置の基線方向Bに対して、レンチキュラレンズを構成するシリンドリカルレンズの配列方向Eを直交させることで、測距装置の基線方向Bに対して、レンチキュラレンズを構成するシリンドリカルレンズの配列方向Eを同一にした場合に比べて、視差抽出の分解能を上げることができる。
ここで、撮像装置Aにおいて、光学領域D1に透明ガラス板を配置し、光学領域D2に第1の偏光軸の方向に振動する光を透過する偏光フィルタを配置する構成とし、レンチキュラレンズKとカラー撮像素子N上の画素との位置関係を図5(b)に示す配置とし、画素P2のXを白(可視光全域)の帯域を透過するフィルタとする。このような構成によって、画素P1の画素群の輝度情報を用いてカラー情報を有する第1の画像情報を生成し、画素P2の画素群の輝度情報を用いて、モノクロームの偏光情報を有する第2の画像情報を生成することができる。
このような構成は、車載用の測距カメラに応用することができる。例えば、濡れた道路の車線を検出する場合、偏光情報を有しない第1の画像には、不要な反射光が写りこむため、車線の認識が困難となる。一方、偏光フィルタを介して取得した第2の画像においては、不要な反射光を低減できるため、車線の認識がしやすくなる。このような特性を利用し、偏光情報を有しない第1の画像情報と偏光情報を有する第2の画像情報とから路面の状況を推定し、推定情報に基づいて、各画像の切替え、または合成をすることにより、車線の検出がしやすい画像を生成することができる。これにより、車線の検出がしやすい測距装置を実現することができる。
また、撮像装置Aにおいて、光学領域D1に可視光を主に透過する分光フィルタを配置し、光学領域D2に近赤外光を主に透過する分光フィルタを配置する構成とし、画素P2のXを白(可視光全域)の帯域を透過するフィルタとする。このような構成によって、画素P1の画素群の輝度情報を用いてカラー情報を有する第1の画像情報を生成し、画素P2の画素群の輝度情報を用いて、モノクロの近赤外光の画像情報を生成することができる。
このような構成も、車載用の測距カメラに応用することができる。例えば、昼間はカラー情報を有する第1の画像情報を用い、夜間は、近赤外照明を併用し、モノクロームの近赤外光の画像情報を用いることができる。これにより、昼夜問わず、前方監視が可能な車載用の測距装置を実現することができる。
(実施の形態7)
本実施の形態7は、絞りSの近傍に配置される光学素子L1pが、4つの領域によって構成される点、複数の画素Pが4種類に分けられる点で、実施の形態1と異なる。ここでは、本実施の形態において実施の形態1と同様の内容についての詳細な説明は省略する。
図13(a)に示すように、光学素子L1pは、第1の光学領域D1、第2の光学領域D2、第3の光学領域D3、第4の光学領域D4を備える。第1の光学領域D1、第2の光学領域D2、第3の光学領域D3、第4の光学領域D4は、この順に水平方向H(撮像素子の撮像面Niにおけるy方向)に配置されている。第1の光学領域D1には、第1の偏光軸(透過軸)の方向に振動する光を透過する偏光フィルタが配置される。第2の光学領域D2には、第1の偏光軸と直交する第2の偏光軸(透過軸)の方向に振動する光を透過する偏光フィルタが配置される。第3の光学領域D3には、第1及び第2の偏光軸と約45°異なる第3の偏光軸の方向に振動する光を透過する偏光フィルタが配置される。第4の光学領域D4は、第1及び第2の偏光軸と約45°異なる方向で、かつ第3の偏光軸と直交する第4の偏光軸の方向に振動する光を透過する領域である。
図13(b)に示すように、複数の画素P1、複数の画素P2、複数の画素P3、及び複数の画素P4のそれぞれは、x方向に1行に並んで配置されている。y方向において、画素P1の行、画素P2の行、画素P3の行、画素P4の行がこの順に繰り返し配置されている。
レンチキュラレンズKは、図3に示す形状と同じ形状を備えている。ただし、そのシリンドリカルレンズM1の1つが、撮像面Ni上における画素P1の1行の画素群、画素P2の1行の画素群、画素P3の1行の画素群、画素P4の1行の画素群からなる4行の画素群に対応するように配置されている。撮像面Ni上には、画素P1、P2、P3、P4の表面を覆うようにマイクロレンズMsが設けられている。
また、画素P1、P2、P3、P4のそれぞれは、マイクロレンズMsの下に位置し、撮像面Niから内部に設けられた光電変換部EXおよび光電変換部上に設けられたカラーフィルタR(赤色)、カラーフィルタG(緑色)、カラーフィルタB(青色)を含む。図13(b)に示す配列で、画素P1、P2、P3、P4のR(赤色)、G(緑色)、B(青色)のカラーフィルタが配置されている。具体的には、撮像面におけるレンチキュラレンズの1つのシリンドリカルレンズM1に対応する単位領域内Bに、G(緑色)、R(赤色)のフィルタを有する画素P1、P2、P3、P4がx方向に繰り返し配列されており、その単位領域のy方向に隣接する、他の1つのシリンドリカルレンズM1に対応する単位領域100では、B(青色)、G(緑色)のフィルタを有する画素がx方向に繰り返し配列されている。
レンチキュラレンズの各シリンドリカルレンズM1は、第1の光学領域D1を通過した光を、対応する単位領域内の複数の画素P1に入射させ、第2の光学領域D2を通過した光を、対応する単位領域内の複数の画素P2に入射させ、第3の光学領域D3を通過した光を、対応する単位領域内の複数の画素P3に入射させ、第4の光学領域D4を通過した光を、対応する単位領域内の複数の画素P4に入射させる。
したがって、画素P1の画素群の行だけを見れば、単位領域100内のB(青色)、G(緑色)のフィルタを有する画素の画素群の行と、単位領域102内のG(緑色)、R(赤色)のフィルタを有する画素のフィルタを有する画素の画素群の行とが交互に配列されている。同様に、画素P2、P3、P4のそれぞれの画素群の行だけを見れば、単位領域100内のB(青色)、G(緑色)のフィルタを有する画素の画素群の行と、単位領域102内のG(緑色)、R(赤色)のフィルタを有する画素のフィルタを有する画素の画素群の行とが交互に配列されている。このため、画素P1、P2、P3、P4のそれぞれの画素群の行だけで画像を構成しても、それぞれの画像には、R、G、Bの画素から得られた輝度値による画素信号を含むため、それぞれの画像はカラー画像となる。
以上の構成により、画素P1、P2、P3、P4の画素群の輝度情報を用いて、第1の偏光軸の方向に振動する偏光の情報を有する第1のカラー画像情報と、第1の偏光軸と直交する第2の偏光軸の方向に振動する偏光の情報を有する第2のカラー画像情報と、第3の偏光軸の方向に振動する偏光の情報を有する第3のカラー画像情報と、第4の偏光軸の方向に振動する偏光の情報を有する第4のカラー画像情報とを同時に取得することができる。
なお、本実施の形態では、光学素子L1上の光学領域D1、D2、D3、D4を互いに偏光軸の異なる偏光フィルタで構成したが、光学領域D1に透明ガラス板を配置し、その他の光学領域D2、D3、D4に互いに偏光軸の異なる偏光フィルタを配置する構成としてもよい。また、光学領域D1には何も配置せず、光学領域D2、D3、D4に互いに偏光軸の異なる偏光フィルタを配置する構成としてもよい。
このような構成により、画素P1の輝度情報を用いて、無偏光の情報を有する第1のカラー画像情報と、画素P1、P2、P3、P4の輝度情報を用いて、互いに異なる偏光軸の情報を有する第2から第4のカラー画像情報を同時に取得することができる。
また、本実施の形態では、撮像素子上のカラーフィルタをR(赤色)、G(緑色)、B(青色)で構成したが、他のカラーフィルタ構成であってもよい。例えば、図14(a)、(b)のように撮像素子上のカラーフィルタをR(赤色)、G(緑色)、B(青色)、X(任意の帯域の色)としてもよい。任意の帯域の色とは、例えば、図14(a)の場合では、白(可視光全域)の帯域またはシアン等の補色系の帯域、近赤外または近紫外等の非可視光の帯域である。このような構成により、2つの偏光軸の画像を同時に取得する際、または偏光と無偏光の画像情報を同時に取得する際に分光情報を1種類増すことができる。また、図14(b)の場合では、任意の帯域の色XをR(赤色)、G(緑色)、B(青色)のいずれか1つの帯域としてもよいし、白(可視光)の帯域またはシアン等の補色系の帯域、近赤外または近紫外等の非可視光の帯域としてもよい。このような構成により、画素P1は所定の帯域のみの画像情報に限定されるため、光学領域D1の情報に対応する画像情報の解像度を向上させることができる。
(実施の形態8)
本実施の形態8は、光軸と垂直な面内における第1の光学領域D1、第2の光学領域D2、第3の光学領域D3、第4の光学領域D4の配置、複数の画素P1、P2、P3、P4の配置、及びレンチキュラレンズにかえてマイクロレンズアレイを使用している点が、実施の形態7と異なる。ここでは、本実施の形態において実施の形態7と同様の内容についての詳細な説明は省略する。
図15(a)に示すように、光学素子L1pは、第1の光学領域D1、第2の光学領域D2、第3の光学領域D3、第4の光学領域D4を備える。第1の光学領域D1、第2の光学領域D2、第3の光学領域D3、第4の光学領域D4は、光軸Vを通り、水平方向H(撮像素子の撮像面Niにおけるy方向)および水平方向に垂直な方向にそれぞれ平行な境界線で区切られる4つの領域である。第1の光学領域D1には、第1の偏光軸(透過軸)の方向に振動する光を透過する偏光フィルタが配置される。第2の光学領域D2には、第1の偏光軸と直交する第2の偏光軸(透過軸)の方向に振動する光を透過する偏光フィルタが配置される。第3の光学領域D3には、第1及び第2の偏光軸と約45°異なる第3の偏光軸の方向に振動する光を透過する偏光フィルタが配置される。第4の光学領域D4は、第1及び第2の偏光軸と約45°異なる方向で、かつ第3の偏光軸と直交する第4の偏光軸の方向に振動する光を透過する領域である。
図15(b)は、マイクロレンズアレイK’を示す斜視図である。マイクロレンズアレイK’はx方向およびy方向に配列された複数のマイクロレンズM2を含む。それぞれのマイクロレンズM2の断面(x方向およびy方向に垂直なそれぞれの断面)は曲面形状であり、カラー撮像素子N側に突出している。各マイクロレンズM2は、カラー撮像素子Nの撮像面Niにおいてx方向およびy方向に配列された複数の画素のうち、x方向に4個およびy方向に4個配列された合計16個の、単位領域内にある画素に対応して配置される。
図15(c)に示すように、撮像面Niに配列されている複数の画素は、x方向およびy方向に2個ずつ配列される4つの画素を1組としたカラー画素群をそれぞれ含む複数の画素P1、複数の画素P2、複数の画素P3、複数の画素P4を含む。
各カラー画素群は、撮像面Niから内部に設けられた光電変換部EXおよび光電変換部上に設けられたカラーフィルタR(赤色)、カラーフィルタG(緑色)、カラーフィルタB(青色)を含む。図15(c)に示すように、本実施形態では、例えば、各カラー画素群は、R(赤色)、B(青色)および2つのG(緑色)、のカラーフィルタが配置されたカラー画素群がx方向およびy方向に配列され、カラーフィルタはベイヤー配列に従って配置されている。
マイクロレンズアレイK’の各マイクロレンズM2は、第1の光学領域D1を通過した光を、各マイクロレンズM2に対応する単位領域(図において実線で囲まれた16画素を含む領域)内の画素P1のカラー画素群に入射させ、第2の光学領域D2を通過した光を、各マイクロレンズM2に対応する単位領域内の複数の画素P2のカラー画素群に入射させ、第3の光学領域D3を通過した光を、各マイクロレンズM2に対応する単位領域内の複数の画素P3のカラー画素群に入射させ、第4の光学領域D4を通過した光を、各マイクロレンズM2に対応する単位領域内の複数の画素P4のカラー画素群に入射させる。
したがって、第1の光学領域D1、第2の光学領域D2、第3の光学領域D3、第4の光学領域D4のそれぞれを透過した光は、画素P1、P2、P3、P4で検出され、画素P1、P2、P3、P4は、それぞれ単位領域内で、R、G、Bの画素から得られた輝度値による画素信号を出力することができる。よって、第1の光学領域D1、第2の光学領域D2、第3の光学領域D3、第4の光学領域D4のそれぞれを透過した光をカラー画像として取得することができる。
以上の構成により、画素P1の画素群、画素P2の画素群、画素P3の画素群、および画素P4の画素群の輝度情報を用いて、第1の偏光軸の方向に振動する偏光の情報を有する第1のカラー画像情報と、第1の偏光軸と直交する第2の偏光軸の方向に振動する偏光の情報を有する第2のカラー画像情報と、第3の偏光軸の方向に振動する偏光の情報を有する第3のカラー画像情報と、第4の偏光軸の方向に振動する偏光の情報を有する第4のカラー画像情報とを同時に取得することができる。
なお、本実施の形態では、光学素子L1上の光学領域D1、D2、D3、D4を互いに偏光軸の異なる偏光フィルタで構成したが、光学領域D1に透明ガラス板を配置し、その他の光学領域D2、D3、D4に互いに偏光軸の異なる偏光フィルタを配置する構成としてもよい。また、光学領域D1には何も配置せず、光学領域D2、D3.D4に互いに偏光軸の異なる偏光フィルタを配置する構成としてもよい。
このような構成により、画素P1の輝度情報を用いて、無偏光の情報を有する第1のカラー画像情報と、画素P1、P2、P3、P4の輝度情報を用いて、互いに異なる偏光軸の情報を有する第2から第4のカラー画像情報を同時に取得することができる。
また、本実施の形態では、撮像素子上のカラーフィルタをR(赤色)、G(緑色)、B(青色)で構成したが、他のカラーフィルタ構成であってもよい。例えば、図16(a)、(b)のように撮像面のカラー画素群は、R(赤色)、G(緑色)、B(青色)、X(任意の帯域の色)のカラーフィルタが配置された画素を含んでいてもよい。任意の帯域の色とは、例えば、図16(a)の場合では、白(可視光全域)の帯域またはシアン等の補色系の帯域、近赤外または近紫外等の非可視光の帯域である。このような構成により、2つの偏光軸の画像を同時に取得する際、または偏光と無偏光の画像情報を同時に取得する際に分光情報を1種類増すことができる。また、図15(c)では、画素P1のカラー画素群、画素P2のカラー画素群、画素P3のカラー画素群、および画素P4のカラー画素群におけるカラーフィルタの配置は同じであるが、図16(a)に示すように、カラー画素群間で異なっていてもよい。図16(a)では、単位領域内にある4つのカラー画素群において、X(任意の帯域の色)のカラーフィルタが互いにx方向およびy方向に隣接して位置するように、各カラー画素群内でカラーフィルタが配置されている。
また、図15(b)に示す画素配列では、単位領域内にある画素P1、P2、P3、P4はいずれもカラー画素群を含んでいたが、単位領域内にある画素P1〜P4は、R(赤色)、G(緑色)、B(青色)、X(任意の帯域の色)のいずれか1種類のみが配置されていてもよい。例えば、図16(b)に示す画素配列では、画素P4の4つの画素は、X(任意の帯域の色)のカラーフィルタのみが配置されている。Xは、例えば、白(可視光)の帯域またはシアン等の補色系の帯域、近赤外または近紫外等の非可視光の帯域であってもよい。このような構成により、画素P1は所定の帯域のみの画像情報に限定されるため、光学領域D1の情報に対応する画像情報の解像度を向上させることができる。
(実施の形態9)
本実施の形態9は、第1の信号処理部で生成した画像情報に基づいて出力画像を生成する第3の信号処理部を備える点で実施の形態1から実施の形態8までと異なる。
本実施の形態の撮像装置は、光学素子L1上に偏光フィルタを配置しない光学領域と所定方向に振動する偏光光を透過する偏光フィルタを配置する光学領域とを含む。この場合、無偏光の情報を有するカラー画像情報と、所定の方向に振動する偏光の情報を有するカラー画像情報とが同時に取得される。
図17(a)に示すとおり、第3の信号処理部は、無偏光の画像情報の明るさIを算出し(ステップS1)、明るさIと閾値とを比較する(ステップ2)。明るさIが所定の閾値より高い場合(ステップS3)は、偏光画像を出力し、明るさIが所定の閾値以下である場合(ステップS4)は、無偏光画像を出力してもよい。ステップS1からステップS4までの処理および明るさIの算出は、画像全体で計算してもよいし画素単位で計算してもよい。
この処理により、例えば、車両のフロントガラス付近に撮像装置を配置して車両前方を撮影する場合、画像の明るさIが閾値よりも高い場合は、撮影環境が昼であると判別できる。そのため、偏光画像を出力することによりフロントガラスでの反射による写りこみを低減することができる。また、画像の明るさIが閾値以下である場合は、撮影環境が夜であると判別できる。そのため、無偏光画像を出力することにより感度を向上させることができる。
また、図17(b)に示すとおり、第3の信号処理部は、無偏光の画像情報の明るさIを読取り(ステップS11)、明るさIに応じて偏光画像と無偏光画像との加算比率を決定し(ステップS12)、決定した加算比率に基づいて無偏光画像と偏光画像とを加算して出力してもよい(ステップS13、S14)。ステップS11からステップS14の処理および明るさIの算出は、画像全体で計算してもよいし画素単位で計算してもよい。
この処理により、例えば、車両のフロントガラス付近に撮像装置を配置して車両前方を撮影する場合、フロントガラスでの反射による写り込みを低減した画像を出力することができると同時に感度を向上させることができる。夜間または雨天時など車両前方の見通しが悪い環境ほど、無偏光画像の比率を上げることにより、感度を向上させることができる。
(実施の形態10)
本実施の形態10は、実施の形態1から実施の形態9に係る撮像装置を、車両のフロントガラス付近に配置した形態を示す。
図18(a)に示すとおり、太陽光Siなどの外部からの光は、フロントガラスFGを透過してダッシュボードDbを照射する。ダッシュボードDbで反射後、フロントガラスFGで反射した光がカメラ104に入射する。これによって、本来撮影したい被写体Oiの画像に、ダッシュボードDbからの光が写りこんでしまう。カメラの光軸方向と、フロントガラスFGの面の法線方向との角度θを70°以下で調整することにより、ダッシュボードDbからの光の写りこみを抑制することができる。フロントガラスFGにおける光の入射角と反射率との関係を図18(b)に示す。入射角が70°よりも大きくなると、p波の反射率が急激に立ち上がっている。したがって、カメラの光軸方向と、フロントガラスFGの面の法線方向との角度を70°以下とすることにより、フロントガラスFGにおける光の入射角を、反射率の低い範囲に設定することができる。
なお、上記実施の形態1から実施の形態10の撮像装置は、他の実施の形態と組み合わせてもよい。例えば、実施の形態7または実施の形態8の撮像装置を、実施の形態3、実施の形態4、または実施の形態5と組み合わせてもよい。
本願に開示された撮像装置は、例えば、デジタルスチルカメラ、デジタルビデオカメラ、車載カメラ、監視カメラ、肌診断カメラ、および内視鏡カメラ、カプセル内視鏡等の撮像装置として有用である。また、本願に開示された撮像装置は、マイクロスコープおよび電子ミラーなどの撮像システムに応用することができる。
A 撮像装置
L レンズ光学系
L1,L1p 光学素子
L2 レンズ
D1,D2,D3,D4 光学領域
S 絞り
K レンチキュラレンズ
N カラー撮像素子
Ni 撮像面
M1 シリンドリカルレンズ
Md1,Md2 レンチキュラレンズ
Ms,M2 マイクロレンズ
P,P1,P2,P3,P4 画素
C1 第1の信号処理部
C2 第2の信号処理部
C3 第3の信号処理部
CS 制御部
LD レンズ駆動部

Claims (24)

  1. レンズ光学系と、
    前記レンズ光学系を通過した光が入射する複数の第1の画素と前記レンズ光学系を通過した光が入射する複数の第2の画素とを少なくとも有するカラー撮像素子と、
    前記レンズ光学系と前記カラー撮像素子との間に配置された第1のアレイ状光学素子とを備え、
    前記レンズ光学系は、複数の光学領域を有し、
    前記複数の光学領域は、分光透過率特性および透過偏光特性のうち少なくとも1つが互いに異なる第1の光学領域および第2の光学領域を含み、
    前記複数の第1の画素のそれぞれは、複数種類の互いに異なる分光透過率特性の分光フィルタを含み、
    前記複数の第2の画素のそれぞれは、少なくとも1種類以上の分光透過率特性の分光フィルタを含み、
    前記第1のアレイ状光学素子は、前記第1の光学領域を通過した光を前記複数の第1の画素に入射させ、前記第2の光学領域を通過した光を前記複数の第2の画素に入射させ、
    前記第1のアレイ状光学素子が第1のレンチキュラレンズであり、
    前記第1のレンチキュラレンズは、前記カラー撮像素子上に形成されている、
    撮像装置。
  2. 前記カラー撮像素子は、前記レンズ光学系を通過した光が入射する複数の第3の画素、および前記レンズ光学系を通過した光が入射する複数の第4の画素をさらに有し、
    前記レンズ光学系における前記複数の光学領域は、第3の光学領域、および第4の光学領域をさらに含み、
    前記第1の光学領域、前記第2の光学領域、前記第3の光学領域、および前記第4の光学領域は、分光透過率特性および透過偏光特性のうち少なくとも1つが互いに異なり、
    前記複数の第3の画素および前記複数の第4の画素は、複数種類の互いに異なる分光透過率特性の分光フィルタを含み、
    前記第1のアレイ状光学素子は、前記第3の光学領域を通過した光を前記複数の第3の画素に入射させ、前記第4の光学領域を通過した光を前記複数の第4の画素に入射させる
    、請求項1に記載の撮像装置。
  3. 前記第1のアレイ状光学素子がマイクロレンズアレイである、請求項1または2に記載の撮像装置。
  4. 前記第1の光学領域は、第1の偏光軸の方向に振動する光を主に透過する偏光フィルタによって構成され、
    前記第2の光学領域は、前記第1の偏光軸とは異なる第2の偏光軸の方向に振動する光を主に透過する偏光フィルタによって構成されている、
    請求項1から3のいずれかに記載の撮像装置。
  5. 前記第1の光学領域は、無偏光の光を透過し、
    前記第2の光学領域は、所定の偏光軸の方向に振動する光を主に透過する偏光フィルタによって構成されている、
    請求項1から3のいずれかに記載の撮像装置。
  6. 前記第1の光学領域は、可視光帯域の光を主に透過する分光フィルタによって構成され、
    前記第2の光学領域は、非可視光帯域の光を主に透過する分光フィルタによって構成されている、
    請求項1から3のいずれかに記載の撮像装置。
  7. 前記第1のレンチキュラレンズと前記カラー撮像素子との間に設けられた第2のレンチキュラレンズをさらに備え、
    前記第1のレンチキュラレンズは、前記第2のレンチキュラレンズを介して前記カラー撮像素子上に形成されている、
    請求項1に記載の撮像装置。
  8. 前記第1のレンチキュラレンズと前記カラー撮像素子との間に設けられたマイクロレンズをさらに備え、
    前記第1のレンチキュラレンズは、前記マイクロレンズを介して前記カラー撮像素子上に形成されている、
    請求項1に記載の撮像装置。
  9. 前記複数の第1の画素および前記複数の第2の画素から得られる画素信号に基づいて、それぞれ第1の画像情報および第2の画像情報を生成するように構成された第1の信号処理部をさらに備える、請求項1から8のいずれかに記載の撮像装置。
  10. 前記第1の画像情報および前記第2の画像情報に基づき被写体の視差情報を生成するように構成された第2の信号処理部と、
    前記視差情報に基づいて合焦制御信号を生成するように構成された制御部と、
    レンズ駆動部と、
    をさらに備え、
    前記レンズ光学系は、前記レンズ光学系の光軸に沿って移動可能な少なくとも1つのレンズを含み、
    前記レンズ駆動部は、前記合焦制御信号に基づいて前記レンズを前記光軸に沿って移動させる、
    請求項9に記載の撮像装置。
  11. 第3の信号処理部をさらに備え、
    前記第3の信号処理部は、
    前記第1の画像情報または前記第2の画像情報のうち少なくともいずれか一方の画像情報の明るさを読みとり、
    前記画像の明るさを所定の閾値と比較し、
    前記比較結果に応じて前記第1の画像情報および前記第2の画像情報のうちいずれか一方を出力する、
    請求項9または10に記載の撮像装置。
  12. 第3の信号処理部をさらに備え、
    第3の信号処理部は、
    前記第1の画像情報または前記第2の画像情報のうち少なくともいずれか一方の画像情報の明るさを読み取り、
    前記画像の明るさに応じて前記第1の画像情報と前記第2の画像情報との各加算比率を決定し、
    前記加算比率に基づいて、前記第1の画像情報と前記第2の画像情報とを加算した加算画像を生成し、出力する、
    請求項9または10に記載の撮像装置。
  13. 前記複数の第1の画素の分光フィルタは、赤色、緑色、および青色の分光透過率特性をもつ分光フィルタと、赤色、緑色、および青色以外の分光透過率特性をもつ分光フィルタとを含む、
    請求項1に記載の撮像装置。
  14. 前記複数の第2の画素の分光フィルタは、赤色、緑色、および青色の分光透過率特性をもつ分光フィルタと、赤色、緑色、および青色以外の分光透過率特性をもつ分光フィルタとを含む、
    請求項13に記載の撮像装置。
  15. 前記複数の第1の画素の分光フィルタは、赤色、緑色、および青色の分光透過率特性をもつ分光フィルタを含み、
    前記複数の第2の画素の分光フィルタは、前記複数の第1の画素の分光フィルタの何れとも異なる分光透過率特性をもつ分光フィルタを含む、
    請求項1に記載の撮像装置。
  16. 前記複数の第1の画素の分光フィルタは、赤色、緑色、および青色の分光透過率特性をもつ分光フィルタを含み、
    前記複数の第2の画素の分光フィルタは、前記複数の第1の画素の分光フィルタの何れか1つと同色の分光透過率特性をもつ分光フィルタを、前記複数の第1の画素の分光フィルタよりも多く含む、
    請求項1に記載の撮像装置。
  17. 前記複数の第2の画素の分光フィルタは、全て同一色の分光透過率特性を持つ、請求項15または請求項16に記載の撮像装置。
  18. 請求項1または2に記載の撮像装置と、
    偏光光を出射する偏光照明と、
    を備える撮像システム。
  19. 前記撮像装置において取得された画像を表示する表示装置をさらに備える、
    請求項18に記載の撮像システム。
  20. 請求項9に記載の撮像装置と、
    前記撮像装置において取得された画像を表示する表示装置と
    を備える電子ミラーシステム。
  21. 偏光光を出射する偏光照明をさらに備え、
    前記撮像装置、前記偏光照明、および前記表示装置が略同一平面状に配置されている、請求項20に記載の電子ミラーシステム。
  22. 前記第1の画像情報および前記第2の画像情報を用いて被写体の特徴を定量化した情報を生成するように構成された第3の信号処理部をさらに備え、
    前記表示装置は、前記定量化された情報をさらに表示する、
    請求項20または21に記載の電子ミラーシステム。
  23. 請求項5に記載の撮像装置と、
    近赤外照明または近紫外照明と、を備える撮像システム。
  24. 請求項1から9のいずれかに記載の撮像装置を複数備える測距装置。
JP2015529341A 2013-07-30 2014-07-08 撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置 Active JP6260006B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2013157333 2013-07-30
JP2013157333 2013-07-30
JP2013258388 2013-12-13
JP2013258388 2013-12-13
PCT/JP2014/003607 WO2015015717A1 (ja) 2013-07-30 2014-07-08 撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置

Publications (2)

Publication Number Publication Date
JPWO2015015717A1 JPWO2015015717A1 (ja) 2017-03-02
JP6260006B2 true JP6260006B2 (ja) 2018-01-17

Family

ID=52431280

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015529341A Active JP6260006B2 (ja) 2013-07-30 2014-07-08 撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置

Country Status (3)

Country Link
US (2) US10310219B2 (ja)
JP (1) JP6260006B2 (ja)
WO (1) WO2015015717A1 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013114888A1 (ja) * 2012-02-02 2013-08-08 パナソニック株式会社 撮像装置
JP2017005111A (ja) * 2015-06-10 2017-01-05 ソニー株式会社 固体撮像装置及び電子機器
CN108139038B (zh) * 2015-10-09 2020-10-27 松下知识产权经营株式会社 波长转换装置及照明装置
JP2017102637A (ja) * 2015-12-01 2017-06-08 キヤノン株式会社 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体
US10060793B2 (en) * 2016-01-19 2018-08-28 Xerox Corporation Spectral and spatial calibration illuminator and system using the same
JP6568301B2 (ja) * 2016-02-29 2019-08-28 富士通フロンテック株式会社 撮像装置及び撮像方法
US10725336B2 (en) * 2016-05-20 2020-07-28 Sharp Kabushiki Kaisha Liquid crystal display panel and liquid crystal display device
WO2017217053A1 (ja) * 2016-06-17 2017-12-21 シャープ株式会社 画像撮像装置およびフィルタ
TWM531598U (zh) * 2016-07-14 2016-11-01 大立光電股份有限公司 膚質檢測器
US20180137342A1 (en) * 2016-07-14 2018-05-17 Largan Precision Co., Ltd. Skin analyzer
JP6697681B2 (ja) * 2016-08-17 2020-05-27 ソニー株式会社 検査装置、検査方法、およびプログラム
CN106851251A (zh) * 2017-02-28 2017-06-13 宇龙计算机通信科技(深圳)有限公司 三维成像方法及三维成像终端
US11424284B2 (en) 2017-03-03 2022-08-23 Sony Semiconductor Solutions Corporation Solid-state imaging device and electronic apparatus
US11083537B2 (en) 2017-04-24 2021-08-10 Alcon Inc. Stereoscopic camera with fluorescence visualization
US10917543B2 (en) 2017-04-24 2021-02-09 Alcon Inc. Stereoscopic visualization camera and integrated robotics platform
US10299880B2 (en) 2017-04-24 2019-05-28 Truevision Systems, Inc. Stereoscopic visualization camera and platform
JP7111703B2 (ja) * 2017-06-02 2022-08-02 日本化薬株式会社 赤外域及び可視域の光制御装置
EP3479756A1 (en) * 2017-11-02 2019-05-08 Koninklijke Philips N.V. Optical skin sensor and method for optically sensing skin parameters
US10870400B2 (en) * 2017-12-06 2020-12-22 Magna Electronics Inc. Test system for verification of front camera lighting features
JP2021509544A (ja) * 2017-12-12 2021-03-25 エルファウンドリー エッセ.エッレ.エッレ 可視光線及び紫外線を検出するための半導体光センサ及びその製造プロセス
US10715705B2 (en) 2018-06-11 2020-07-14 Pony Ai Inc. Characterizing optical characteristics of optical elements
WO2020026115A1 (en) * 2018-07-31 2020-02-06 3M Innovative Properties Company Vehicle assistance systems
US10536686B1 (en) * 2018-08-02 2020-01-14 Synaptive Medical (Barbados) Inc. Exoscope with enhanced depth of field imaging
EP3666175A1 (en) 2018-12-14 2020-06-17 Koninklijke Philips N.V. Device for use in determining a hydration level of skin
JP7321857B2 (ja) * 2019-09-18 2023-08-07 株式会社東芝 光学撮像装置
CN112504454B (zh) * 2020-11-25 2022-11-22 天津津航技术物理研究所 一种基于像素级光谱调制的超分辨光谱成像滤波器结构
CN112788300A (zh) * 2021-01-20 2021-05-11 肖志宏 一种新型关节腔内窥镜及其控制方法
CN113225485B (zh) * 2021-03-19 2023-02-28 浙江大华技术股份有限公司 图像采集组件、融合方法、电子设备及存储介质

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5850284A (en) * 1995-06-13 1998-12-15 Robotic Vision Systems, Inc. Apparatus for detecting a polarization altering substance on a surface
US6014413A (en) * 1997-05-02 2000-01-11 At&T Corp Time-shifted weighting for signal processing
GB2337388A (en) * 1998-05-12 1999-11-17 Sharp Kk Directional autereoscopic 3D display having directional illumination system
JP3303816B2 (ja) * 1998-12-17 2002-07-22 日本電気株式会社 ダイバーシティ受信装置
JP4369078B2 (ja) * 2001-05-11 2009-11-18 オリンパスビジュアルコミュニケーションズ株式会社 立体映像を利用する視力回復装置及び立体映像の表示方法
US7433042B1 (en) 2003-12-05 2008-10-07 Surface Optics Corporation Spatially corrected full-cubed hyperspectral imager
JP2008010773A (ja) 2006-06-30 2008-01-17 Matsushita Electric Ind Co Ltd 固体撮像素子およびその製造方法
JP4857962B2 (ja) * 2006-07-05 2012-01-18 株式会社ニコン 撮像装置
JP5080116B2 (ja) 2007-03-23 2012-11-21 株式会社 資生堂 肌画像撮影装置
EP2227737A2 (en) 2007-11-28 2010-09-15 Koninklijke Philips Electronics N.V. Sensing device and method
JP5610254B2 (ja) 2008-06-18 2014-10-22 株式会社リコー 撮像装置及び路面状態判別方法
JP5272614B2 (ja) * 2008-09-26 2013-08-28 株式会社リコー 広角レンズ及びこの広角レンズを用いた撮像装置
JP5246424B2 (ja) * 2009-05-11 2013-07-24 ソニー株式会社 撮像装置
JP2011097987A (ja) 2009-11-04 2011-05-19 Olympus Corp 内視鏡装置
CN102342116B (zh) 2010-01-05 2015-01-07 松下电器产业株式会社 三维摄像装置
US8796798B2 (en) * 2010-01-27 2014-08-05 Ricoh Company, Ltd. Imaging module, fabricating method therefor, and imaging device
KR101430330B1 (ko) * 2010-02-15 2014-08-13 가부시키가이샤 리코 투명체 검출 시스템 및 투명 평판 검출 시스템
CN102439627B (zh) * 2010-02-26 2014-10-08 松下电器(美国)知识产权公司 瞳孔检测装置和瞳孔检测方法
WO2011148851A1 (ja) * 2010-05-28 2011-12-01 ソニー株式会社 撮像装置及び撮像方法
JP4652480B1 (ja) * 2010-07-02 2011-03-16 オオクマ電子株式会社 薬包中の薬剤個数計数装置
CN103037752B (zh) 2010-09-24 2015-05-13 松下电器产业株式会社 图像处理装置
US9250131B2 (en) 2011-01-17 2016-02-02 Ricoh Co., Ltd. Multi-imaging system with interleaved images
CN103650478B (zh) 2011-03-07 2017-08-01 松下知识产权经营株式会社 摄像装置和测距装置
EP2536153B1 (en) 2011-04-22 2016-04-13 Panasonic Intellectual Property Management Co., Ltd. Image capture device, image capture system, and image capture method
US8717483B2 (en) 2011-04-22 2014-05-06 Panasonic Corporation Imaging device, imaging system, and imaging method
JP5693379B2 (ja) 2011-05-27 2015-04-01 富士フイルム株式会社 撮像装置
JP6010895B2 (ja) 2011-11-14 2016-10-19 ソニー株式会社 撮像装置
JP5995140B2 (ja) * 2012-01-19 2016-09-21 株式会社リコー 撮像装置及びこれを備えた車両システム並びに画像処理方法
JP5840022B2 (ja) * 2012-02-17 2016-01-06 キヤノン株式会社 立体画像処理装置、立体画像撮像装置、立体画像表示装置
KR101858646B1 (ko) * 2012-12-14 2018-05-17 한화에어로스페이스 주식회사 영상 융합 장치 및 방법

Also Published As

Publication number Publication date
WO2015015717A1 (ja) 2015-02-05
US10606031B2 (en) 2020-03-31
US10310219B2 (en) 2019-06-04
US20190243092A1 (en) 2019-08-08
JPWO2015015717A1 (ja) 2017-03-02
US20150212294A1 (en) 2015-07-30

Similar Documents

Publication Publication Date Title
JP6260006B2 (ja) 撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置
US9658463B2 (en) Imaging device and imaging system
US10247866B2 (en) Imaging device
CN108700472B (zh) 使用相对的滤光器掩模进行相位检测自动聚焦
CN103168272B (zh) 进深推定摄像装置以及摄像元件
CN102356628B (zh) 图像处理装置及图像处理方法
US9300931B2 (en) Image pickup system
JP6517499B2 (ja) 撮像システム
US20140192238A1 (en) System and Method for Imaging and Image Processing
US9398272B2 (en) Low-profile lens array camera
JP5053468B2 (ja) 立体画像撮影装置および内視鏡
JP4971532B1 (ja) 立体画像撮影装置および内視鏡
US10783652B2 (en) Plenoptic imaging apparatus, method, and applications
WO2016203990A1 (ja) 撮像素子、電子機器
JP5229489B2 (ja) 生体認証装置
JP5740559B2 (ja) 画像処理装置および内視鏡
Kagawa et al. Variable field-of-view visible and near-infrared polarization compound-eye endoscope
JP2015166723A (ja) 撮像装置および撮像システム
JP7112223B2 (ja) 光学装置
JP2010039534A (ja) 生体情報取得装置及び個人認証装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170822

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171113

R151 Written notification of patent or utility model registration

Ref document number: 6260006

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151