JP7135108B2 - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP7135108B2
JP7135108B2 JP2020558222A JP2020558222A JP7135108B2 JP 7135108 B2 JP7135108 B2 JP 7135108B2 JP 2020558222 A JP2020558222 A JP 2020558222A JP 2020558222 A JP2020558222 A JP 2020558222A JP 7135108 B2 JP7135108 B2 JP 7135108B2
Authority
JP
Japan
Prior art keywords
pupil region
light
polarization direction
pixel
transmitted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020558222A
Other languages
English (en)
Other versions
JPWO2020110594A1 (ja
Inventor
修司 小野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2020110594A1 publication Critical patent/JPWO2020110594A1/ja
Application granted granted Critical
Publication of JP7135108B2 publication Critical patent/JP7135108B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/28Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/30Polarising elements
    • G02B5/3025Polarisers, i.e. arrangements capable of producing a definite output polarisation state from an unpolarised input state
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本発明は、撮像装置及び撮像方法に関し、特に1つの撮像素子で複数の画像を独立に取得する撮像装置及び撮像方法に関する。
従来より、互いに異なる2つの偏光方向の光をそれぞれ異なる画素で受光し、独立した2つの画像を取得する技術が提案されている。
例えば特許文献1には、互いに異なる2つの偏光方向の光をそれぞれ異なる画素で受光し、独立した2つの画像を取得する技術が提案されている。特許文献1に記載された受光素子は偏光板の偏光子を透過した光をそれぞれ透過させる検光子アレイを備えており、受光素子が受光した異なる偏光方向の光に対応する各画像が生成される。
特開2009-169096号公報
ここで、特許文献1に記載された技術では、互いに異なる偏光方向の光に対応する画像がそれぞれ生成されているが、偏光方向を一度も揃えることなく、偏光方向が異なる2種の光が生成されている。具体的には、特許文献1では、先ずレンズを透過した光を2種の偏光方向を有する光をそれぞれ透過させる偏光板に透過させることにより、互いに異なる偏光方向を有する2種の光が生成される。そして、互いに異なる偏光方向を有する2種の光は、それぞれ検光子を透過して受光素子により受光されている。したがって、特許文献1に記載された撮像装置では、一度も偏光方向が揃えられること無く、偏光方向が異なる2種の光が生成され、その光に基づいた各画像が生成されている。
このように、一度も偏光方向を揃えること無く生成された異なる偏光方向の光に基づいて、画像が生成される場合には以下のような問題が発生することがある。
例えば水面を撮影する際に、偏光フィルタを用いてブリュスター角で撮影することによりs偏光を遮蔽する技術が知られている。しかし、始めから異なる偏光方向の光を生成する場合には、一方の偏光方向はs偏光を遮蔽する方向に合わせることができるが、他方の偏光方向はs偏光を遮蔽する方向に合わせることができない。
また、分光反射率比を利用して果物の糖度を推定する技術が知られているが、一度も偏光方向を揃えることなく、異なる偏光方向の光に基づく画像が用いられると、上手く分光反射率比が算出されない場合がある。具体的には、一度も偏光方向を揃えることなく得られた、異なる偏光方向の光に基づく画像は、被写体の光沢が大きな部分に関しては、鏡面反射光の成分が大きく正しい分光反射率比が得られない。
本発明はこのような事情に鑑みてなされたもので、その目的は、互いに異なる偏光方向を有する光に基づいて異なる画像を生成する場合であっても、受光される光の偏光方向が異なることを起因とした見え方の違いが抑制された画像を生成することができる撮像装置及び撮像方法を提供することである。
上記目的を達成するための本発明の一の態様である撮像装置は、第1の瞳領域、及び第1の瞳領域とは異なる第2の瞳領域で構成される瞳領域を有する撮像光学系と、第1の瞳領域及び第2の瞳領域を透過する光の偏光方向を第1の偏光方向に揃える第1の偏光子と、第2の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向とは異なる第2の偏光方向の光を透過させる第2の偏光子と、第1の瞳領域及び第2の瞳領域を透過する光を受光する、互いに異なる偏光方向の光を受光する第1の画素と第2の画素とを一組とする画素ユニットを複数有する撮像素子と、第1の画素及び第2の画素の画素信号に混信除去処理を施し、混信除去処理後の画素信号に基づいて、第1の瞳領域を透過する光に対応する第1の画像及び第2の瞳領域を透過する光に対応する第2の画像を生成する画像生成部と、を備える。
本態様によれば、第1の偏光子により、第1の瞳領域及び第2の瞳領域を透過する光の偏光方向を第1の偏光方向に揃えられ、第2の偏光子により、第2の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向とは異なる第2の偏光方向の光を透過させる。これにより、本態様は、互いに異なる偏光方向を有する光に基づいて異なる画像を生成する場合であっても、受光される光の偏光方向が異なることを起因とした見え方の違いが抑制された画像を生成することができる。
好ましくは、撮像装置は、第1の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向及び第2の偏光方向とは異なる第3の偏光方向の光を透過させる第3の偏光子を備える。
本発明の他の態様である撮像装置は、第1の瞳領域、及び第1の瞳領域とは異なる第2の瞳領域で構成される瞳領域を有する撮像光学系と、第1の瞳領域及び第2の瞳領域を透過する光の偏光方向を第1の偏光方向に揃える第1の偏光子と、第2の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向とは異なる第2の偏光方向の光を透過させる第2の偏光子と、第1の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向とは異なり且つ第2の偏光方向とは直交する第3の偏光方向の光を透過させる第3の偏光子と、第1の瞳領域及び第2の瞳領域を透過する光を受光する、第2の偏光方向の光を受光する第1の画素と第3の偏光方向の光を受光する第2の画素とを一組とする画素ユニットを複数有する撮像素子と、第1の画素及び第2の画素の画素信号に基づいて、第1の瞳領域を透過する光に対応する第1の画像及び第2の瞳領域を透過する光に対応する第2の画像を生成する画像生成部と、を備える。
本態様によれば、第1の偏光子により、第1の瞳領域及び第2の瞳領域を透過する光の偏光方向を第1の偏光方向に揃えられ、第2の偏光子により、第2の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向とは異なる第2の偏光方向の光を透過させる。これにより、本態様は、互いに異なる偏光方向を有する光に基づいて異なる画像を生成する場合であっても、受光される光の偏光方向が異なることを起因とした見え方の違いが抑制された画像を生成することができる。また、本態様では、第2の偏光方向と第3の偏光方向とが直交し、且つ第2の偏光方向の光を受光する第1の画素と第3の偏光方向の光を受光する第2の画素とを有するので、理想的には第2の偏光方向の光と第3の偏光方向の光に対応する信号が混ざることなく混信除去処理を行う必要がない。よって、本態様は混信除去処理を行わなくても適切な第1の画像及び第2の画像を得ることができる。
好ましくは、撮像装置は、第1の瞳領域を透過する光のうち、第1の波長帯域の光を透過させる第1の波長フィルタと、第2の瞳領域を透過する光のうち、第2の波長帯域の光を透過させる第2の波長フィルタと、を備える。
本発明の他の態様である撮像装置は、第1の瞳領域、第1の瞳領域とは異なる第2の瞳領域、及び第1の瞳領域及び第2の瞳領域とは異なる第3の瞳領域で構成される瞳領域を有する撮像光学系と、第1の瞳領域、第2の瞳領域、及び第3の瞳領域を透過する光の偏光方向を第1の偏光方向に揃える第1の偏光子と、第2の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向とは異なる第2の偏光方向の光を透過させる第2の偏光子と、第3の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向及び第2の偏光方向とは異なる第3の偏光方向の光を透過させる第3の偏光子と、第1の瞳領域、第2の瞳領域、及び第3の瞳領域を透過する光を受光する、互いに異なる偏光方向の光を受光する第1の画素、第2の画素、及び第3の画素を一組とする画素ユニットを複数有する撮像素子と、第1の画素、第2の画素、及び第3の画素の画素信号に混信除去処理を施し、混信除去処理後の画素信号に基づいて、第1の瞳領域を透過する光に対応する第1の画像、第2の瞳領域を透過する光に対応する第2の画像、及び第3の瞳領域を透過する光に対応する第3の画像を生成する画像生成部と、を備える。
本態様によれば、第1の偏光子により、第1の瞳領域、第2の瞳領域、及び第3の瞳領域を透過する光の偏光方向を第1の偏光方向に揃えられ、第2の偏光子により、第2の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向とは異なる第2の偏光方向の光を透過させ、第3の偏光子により、第3の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向及び第2の偏光方向とは異なる第3の偏光方向の光を透過させる。これにより、本態様は、互いに異なる偏光方向を有する光に基づいて異なる画像を生成する場合であっても、受光される光の偏光方向が異なることを起因とした見え方の違いが抑制された画像を生成することができる。
好ましくは、撮像装置は、第1の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向、第2の偏光方向、及び第3の偏光方向とは異なる第4の偏光方向の光を透過させる第4の偏光子を備える。
好ましくは、撮像装置は、第1の瞳領域を透過する光のうち、第1の波長帯域の光を透過させる第1の波長フィルタと、第2の瞳領域を透過する光のうち、第2の波長帯域の光を透過させる第2の波長フィルタと、第3の瞳領域を透過する光のうち、第3の波長帯域の光を透過させる第3の波長フィルタと、を備える。
好ましくは、第1の偏光子は、s偏光を遮光する。
好ましくは、撮像素子は、画素ユニットが偏光素子を備える画素により構成されている。
好ましくは、撮像素子は、画素を構成するフォトダイオードとマイクロレンズとの間に偏光素子を有する。
本発明の他の態様である撮像方法は、第1の瞳領域、及び第1の瞳領域とは異なる第2の瞳領域で構成される瞳領域を有する撮像光学系の、第1の瞳領域及び第2の瞳領域を透過する光の偏光方向を、第1の偏光子により、第1の偏光方向に揃えるステップと、第2の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向とは異なる第2の偏光方向の光を、第2の偏光子により、透過させるステップと、第1の瞳領域及び第2の瞳領域を透過する光を受光する、互いに異なる偏光方向の光を受光する第1の画素と第2の画素とを一組とする画素ユニットを複数有する撮像素子の、第1の画素及び第2の画素の画素信号に混信除去処理を施し、混信除去処理後の画素信号に基づいて、第1の瞳領域を透過する光に対応する第1の画像及び第2の瞳領域を透過する光に対応する第2の画像を生成するステップと、を含む。
本発明の他の態様である撮像方法は、第1の瞳領域、及び第1の瞳領域とは異なる第2の瞳領域で構成される瞳領域を有する撮像光学系の、第1の瞳領域及び第2の瞳領域を透過する光の偏光方向を、第1の偏光子により、第1の偏光方向に揃えるステップと、第2の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向とは異なる第2の偏光方向の光を、第2の偏光子により、透過させるステップと、第1の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向とは異なり且つ第2の偏光方向とは直交する第3の偏光方向の光を、第3の偏光子により、透過させるステップと、第1の瞳領域及び第2の瞳領域を透過する光を受光する、第2の偏光方向の光を受光する第1の画素と第3の偏光方向の光を受光する第2の画素とを一組とする画素ユニットを複数有する撮像素子の、第1の画素及び第2の画素の画素信号に基づいて、第1の瞳領域を透過する光に対応する第1の画像及び第2の瞳領域を透過する光に対応する第2の画像を生成するステップと、を含む。
本発明の他の態様である撮像方法は、第1の瞳領域、第1の瞳領域とは異なる第2の瞳領域、及び第1の瞳領域及び第2の瞳領域とは異なる第3の瞳領域で構成される瞳領域を有する撮像光学系の、第1の瞳領域、第2の瞳領域、及び第3の瞳領域を透過する光の偏光方向を、第1の偏光子により、第1の偏光方向に揃えるステップと、第2の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向とは異なる第2の偏光方向の光を、第2の偏光子により、透過させるステップと、第3の瞳領域を透過する第1の偏光方向に揃った光のうち、第1の偏光方向及び第2の偏光方向とは異なる第3の偏光方向の光を、第3の偏光子により、透過させるステップと、第1の瞳領域、第2の瞳領域、及び第3の瞳領域を透過する光を受光する、互いに異なる偏光方向の光を受光する第1の画素、第2の画素、及び第3の画素を一組とする画素ユニットを複数有する撮像素子の、第1の画素、第2の画素、及び第3の画素の画素信号に混信除去処理を施し、混信除去処理後の画素信号に基づいて、第1の瞳領域を透過する光に対応する第1の画像、第2の瞳領域を透過する光に対応する第2の画像、及び第3の瞳領域を透過する光に対応する第3の画像を生成するステップと、を含む。
本発明によれば、偏光を一度揃えているので、互いに異なる偏光方向を有する光に基づいて異なる画像を生成する場合であっても、受光される光の偏光方向が異なることを起因とした見え方の違いが抑制された画像を生成することができる。
図1は、撮像装置の概略構成を示す図である。 図2は、第1の偏光フィルタの概略構成を示す正面図である。 図3は、第2の偏光フィルタの概略構成を示す正面図である。 図4は、第1の偏光方向及び第2の偏光方向の一例を示す図である。 図5は、撮像素子の概略構成を示す図である。 図6は、1画素の概略構成を示す断面図である。 図7は、2種類の偏光素子の配列パターンの一例を示す図である。 図8は、偏光素子の1ユニットの構成を示す図である。 図9は、撮像素子の画素の配列の一例を示す図である。 図10は、信号処理部の概略構成を示すブロック図である。 図11は、画像生成の概念図である。 図12は、行列Aの算出の例を説明する図である。 図13は、行列Aの算出の例を説明する図である。 図14は、撮像装置を使用した撮像方法の処理フローを示したフローチャートである。 図15は、撮像装置の概略構成を示す図である。 図16は、波長フィルタの概略構成を示す正面図である。 図17は、撮像装置の概略構成を示す図である。 図18は、撮像光学系の概念的な瞳領域Eを示す正面図である。 図19は、第2の偏光フィルタの概略構成を示す正面図である。 図20は、行列Aの算出の例を説明する図である。 図21は、行列Aの算出の例を説明する図である。 図22は、撮像方法の処理フローを示したフローチャートである。 図23は、撮像装置の他の例の概略構成を示す図である。 図24は、行列Aの算出の例を説明する図である。 図25は、撮像装置の他の例の概略構成を示す図である。
以下、添付図面にしたがって本発明の好ましい実施の形態について詳説する。
<第1の実施形態>
図1は、第1の実施形態の撮像装置1の概略構成を示す図である。本実施形態では、互いに異なる2つの偏光方向(第1の偏光方向24及び第2の偏光方向26)を利用して、独立な2枚の画像を取得する。
同図に示すように、本実施形態の撮像装置1は、撮像光学系10、第1の偏光フィルタ(第1の偏光子)12、第2の偏光フィルタ(第2の偏光子)14、撮像素子100及び信号処理部200を備える。また、同図には、被写体20で反射された自然光の偏光方向22、第1の偏光フィルタ12を透過した光の偏光方向である第1の偏光方向24、及び第2の偏光フィルタ14を透過した光の偏光方向である第2の偏光方向26が撮像光学系10の瞳領域Eと共に、それぞれ第1の偏光フィルタ12及び第2の偏光フィルタ14の下方に示されている。
被写体20が反射する光は、あらゆる方向の偏光方向22を含んでいる。この光は撮像光学系10で捉えられる。撮像光学系10の瞳領域Eは、第1の瞳領域E1及び第2の瞳領域E2で構成される。第1の瞳領域E1及び第2の瞳領域E2は、任意に決定することができる。例えば、図1に示すように、瞳領域Eを鉛直方向に2分割し、一方を第1の瞳領域E1とし他方を第2の瞳領域E2としてもよい。この場合には、第1の瞳領域E1を透過した光に基づく画像と、第2の瞳領域E2を透過した光に基づく画像とで視差画像を得ることができる。また例えば、瞳領域Eを鉛直方向に直交する水平方向に2分割し、一方を第1の瞳領域E1とし、他方を第2の瞳領域E2としてもよい。
第1の瞳領域E1及び第2の瞳領域E2を透過した光は、瞳位置又は瞳位置の近傍に設けられた第1の偏光フィルタ12に入射し透過する。第1の偏光フィルタ12により第1の瞳領域E1及び第2の瞳領域E2を透過した光の偏光方向は第1の偏光方向24に揃えられる。その後、瞳領域Eの半分の半瞳領域(第1の瞳領域E1又は第2の瞳領域E2)に設けられる第2の偏光フィルタ14により、第2の偏光方向26の光が透過させられる。その後、撮像素子100により、第1の偏光方向24の光と第2の偏光方向26の光が受光される。
〔偏光子〕
図2は、第1の偏光フィルタ(第1の偏光子)12の概略構成を示す正面図である。第1の偏光フィルタ12は、図1に示すように撮像光学系10の瞳位置又はその近傍に備えられる。そして、第1の偏光フィルタ12は、同一方向の偏光透過軸(Aa)を全面に有し、第1の瞳領域E1及び第2の瞳領域E2を透過する光の偏光方向を第1の偏光方向24に揃える。例えば第1の偏光フィルタ12は、s偏光を遮光するように偏光透過軸が設けられた偏光フィルタが用いられる。第1の偏光フィルタ12にs偏光を遮光する偏光フィルタが用いられることにより、水面等の反射光により得られる複数の画像の見え方が反射光により異なることを抑制することができる。
図3は、第2の偏光フィルタ(第2の偏光子)14の概略構成を示す正面図である。第2の偏光フィルタ14は、第1の偏光フィルタ12の後方(撮像素子100側)に備えられる。そして、第2の偏光フィルタ14は、第1の瞳領域E1、又は第2の瞳領域E2、を透過する光を透過させる偏光透過軸(Ab)を有する。同図に示した場合では、第2の偏光フィルタ14は、第2の瞳領域E2を透過する光のうち、第2の偏光方向26の光を透過させる。また、同図に示した第2の偏光フィルタ14は、第1の瞳領域E1に対応する部分は素抜けとなっており、そのまま第1の偏光方向24の光を透過させる。
図4は、第1の偏光方向24及び第2の偏光方向26の一例を示す図である。
偏光方向は、光軸Lと直交するXY平面において、第1の偏光フィルタ12の偏光透過軸(Aa)がX軸と成す角度Φ(方位角)、及び第2の偏光フィルタ14の偏光透過軸(Ab)がX軸と成す角度Φ(方位角)によって表わされる。図4に示すように第1の偏光フィルタ12は、その偏光透過軸AaとX軸の成す角度Φaが0°(方位角0°)の光を透過する構成とされる。すなわち、図4に示す場合では第1の偏光方向24は0°となる。第2の偏光フィルタ14は、その偏光透過軸AbとX軸のなる角度Φbが30°(方位角30°)の光を透過する構成とされる。すなわち、図4に示す場合では第2の偏光方向26は30°となる。この結果、第1の瞳領域E1を透過する光は第1の偏光方向24を有する光となり、第2の瞳領域E2を透過する光は第2の偏光方向26を有する光となる。
〔撮像素子〕
図5は、撮像素子100の概略構成を示す図であり、撮像素子100の一部を分解し、拡大して示した図である。図6は、1画素(図5の破線部)の概略構成を示す断面図である。
図5に示すように、撮像素子100は、ピクセルアレイ層110、偏光素子アレイ層120及びマイクロレンズアレイ層130を有する。
ピクセルアレイ層110は、多数のフォトダイオード112を二次元的に配列して構成される。1つのフォトダイオード112は、1つの画素を構成する。各フォトダイオード112は、x軸方向及びy軸方向に沿って規則的に配置される。
偏光素子アレイ層120は、ピクセルアレイ層110とマイクロレンズアレイ層130との間に備えられる。偏光素子アレイ層120は、異なる2種類の偏光素子122A及び122Bを二次元的に配列して構成される。各偏光素子122A及び122Bは、フォトダイオード112と同じ間隔で配置され、画素ごとに備えられる。したがって、1つのフォトダイオード112には、2種類の偏光素子122A、122Bのうちいずれか1つが備えられる。
図7は、2種類の偏光素子の配列パターンの一例を示す図である。
同図に示すように、2種類の偏光素子122A及び122Bは、x軸方向及びy軸方向に沿って、所定の順序で規則的に配列される。
図7に示す例では、第1の偏光素子122A、第2の偏光素子122Bの順で繰り返し配置される行と、第2の偏光素子122B、第1の偏光素子122Aの順で繰り返し配置される行とを交互に配置して、第1の偏光素子122A及び第2の偏光素子122Bを所定のパターンで規則的に配列している。このように配列される第1の偏光素子122A及び第2の偏光素子122Bは、2種類の偏光素子(第1の偏光素子122A及び第2の偏光素子122B)を1つずつ含んだ2個一組の偏光素子が1つのユニットを構成し、このユニットが、x軸方向及びy軸方向に沿って、規則的に配列される。
図8は、偏光素子の1ユニットの構成を示す図である。
同図に示すように、1ユニットUは、第1の偏光素子122A及び第2の偏光素子122Bを1つずつ含んで構成される。
上記のように、第1の偏光素子122A及び第2の偏光素子122Bは、互いに偏光方向が異なる。本実施形態では、第1の偏光素子122Aは、方位角+0°の光を透過する構成とされる。第2の偏光素子122Bは、方位角+45°の光が透過する構成とされる。したがって、第1の偏光素子122Aが備えられたフォトダイオード112は、方位角+0°の光(直線偏光)を受光する。第2の偏光素子122Bが備えられたフォトダイオード112は、方位角+45°の光(直線偏光)を受光する。
マイクロレンズアレイ層130は、多数のマイクロレンズ132を二次元的に配列して構成される。各マイクロレンズ132は、フォトダイオード112と同じ間隔で配置され、1画素ごとに備えられる。マイクロレンズ132は、撮像光学系10からの光をフォトダイオード112に効率よく集光させる目的で備えられる。
図9は、撮像素子100の画素の配列の一例を示す図である。
各画素には、第1の偏光素子122A又は第2の偏光素子122Bが備えられる。第1の偏光素子122Aが備えられた画素(図中Aの画像)を第1の画素102A、第2の偏光素子122Bが備えられた画素(図中Bの画像)を第2の画素102Bとする。撮像素子100は、第1の画素102A及び第2の画素102Bを1つずつ含んだ2個一組の画素を1つのユニットとし、このユニットを複数有する。この2個一組の画素のユニットを画素ユニットU(x,y)とする。図9に示すように、画素ユニットU(x,y)は、x軸方向及びy軸方向に沿って、規則的に配列される。
〔信号処理部〕
信号処理部200は、撮像素子100から出力される信号を処理して、第1の瞳領域E1を透過した光に対応する第1の画像、及び第2の瞳領域E2を透過した光に対応する第2の画像を生成する。
図10は、信号処理部200の概略構成を示すブロック図である。
同図に示すように、信号処理部200は、アナログ信号処理部200A、画像生成部200B、及び係数記憶部200Cを含む。
アナログ信号処理部200Aは、撮像素子100の各画素から出力されるアナログの画素信号を取り込み、所定の信号処理(例えば、相関二重サンプリング処理、増幅処理等)を施した後、デジタル信号に変換して出力する。
画像生成部200Bは、デジタル信号に変換後の画素信号に所定の信号処理を施して、第1の瞳領域E1を透過した光、第2の瞳領域E2を透過した光に対応した画像を生成する。
図11は、画像生成の概念図である。
各画素ユニットU(x,y)には、第1の画素102A及び第2の画素102Bが1つずつ含まれる。したがって、各画素ユニットU(x,y)から第1の画素102A及び第2の画素102Bの画素信号を分離して抽出することにより、2つの画像(第1の画像及び第2の画像)が生成される。すなわち、各画素ユニットU(x,y)の第1の画素102Aから画素信号を抽出して構成される第1の画像と、各画素ユニットU(x,y)の第2の画素102Bの画素信号を抽出して構成される第2の画像が生成される。
ところで、上記のように、第1の画素102Aで受光される光は、第1の偏光方向24の光(第1の瞳領域E1を透過した光)及び第2の偏光方向26の光(第2の瞳領域E2を透過した光)が含まれる。また、第2の画素102Bで受光される光は、第1の偏光方向24の光(第1の瞳領域E1を透過した光)及び第2の偏光方向26の光(第2の瞳領域E2を透過した光)が含まれる。すなわち、第1の画素102A及び第2の画素102Bにおいては、第1の偏光方向24の光と第2の偏光方向26の光とが混信して入射される。
このため、画像生成部200Bは、混信(クロストーク)を除去する処理(混信除去処理)を行って、第1の瞳領域E1を透過する光に対応する第1の画像、及び第2の瞳領域E2を透過する光に対応する第2の画像を生成する。混信除去処理は、次のように行われる。
いま、第1の画素102Aで得られる画素信号(信号値)をx1、第2の画素102Bで得られる画素信号をx2とする。各画素ユニットU(x,y)からは、2個の画素信号x1、x2が得られる。画像生成部200Bは、この2個の画素信号x1、x2から、行列Aを用いた下記の式1によって、第1の偏光方向24、第2の偏光方向26に対応した画素信号X1、X2を算出し、混信を除去する。
Figure 0007135108000001
Figure 0007135108000002
以下、上記式1によって、第1の偏光方向24の光、第2の偏光方向26の光に対応する画像の画素信号X1、X2を算出できる理由、すなわち、混信を除去できる理由について説明する。
第1の瞳領域E1及び第2の瞳領域E2を透過した光が、第1の画素102A及び第2の画素102Bで受光される割合(混信量(混信比率ともいう))は、偏光方向(第1の偏光方向24及び第2の偏光方向26)と、第1の画素102A、第2の102Bに備えられた第1の偏光素子122A及び第2の偏光素子122Bの偏光方向との関係から一意に定まる。
いま、第1の偏光方向24の光が第1の画素102Aで受光される割合をb11、第2の偏光方向26の光が第1の画素102Aで受光される割合をb12とすると、X1、X2、とx1との間には、次の関係が成り立つ。
b11*X1+b12*X2=x1…(式2)
また、第1の偏光方向24の光が第2の画素102Bで受光される割合をb21、第2の偏光方向26の光が第2の画素102Bで受光される割合をb22とすると、X1、X2とx2との間には、次の関係が成り立つ。
b21*X1+b22*X2=x2…(式3)
X1及びX2について、式2及び式3の連立方程式を解くことで、元の画像の画素信号、すなわち、第1の偏光方向24の光の画像、第2の偏光方向26の光の画像の画素信号X1、X2を取得できる。
ここで、上記の連立方程式は、行列Bを用いた下記の式4で表わすことができる。
Figure 0007135108000003
Figure 0007135108000004
X1、X2は、両辺に行列Bの逆行列B-1をかけることで算出される。
Figure 0007135108000005
Figure 0007135108000006
このように、第1の瞳領域E1を透過する光で得られる画像の画素信号X1、第2の瞳領域E2を透過する光で得られる画像の画素信号X2は、第1の偏光方向24の光、第2の偏光方向26の光が第1の画素102A、及び第2の画素102Bで受光される量に基づいて、第1の画素102A、第2の画素102Bの画素信号x1、x2から算出できる。
上記式1における行列Aは、行列Bの逆行列B-1である(A=B-1)。したがって、行列Aの各要素aij(i=1、2;j=1、2)は、行列Bの逆行列B-1を求めることで取得できる。行列Bの各要素bij(i=1、2;j=1、2)は、第1の偏光方向24の光及び第2の偏光方向26の光が第1の画素102A及び第2の画素102Bで受光される量(混信量)である。
すなわち、1行目の要素b11は、第1の偏光方向24の光が第1の画素102Aで受光される量(混信量)、要素b12は、第2の偏光方向26の光が第1の画素102Aで受光される量である。
また、2行目の要素b21は、第1の偏光方向24の光が第2の画素102Bで受光される量、要素b22は、第2の偏光方向26の光が第2の画素102Bで受光される量である。この行列Bの逆行列B-1は存在する。したがって、行列Bの逆行列B-1を求めることで、行列Aの各要素を求めることができる。
第1の瞳領域E1を透過した光と第2の瞳領域E2を透過した光が各画素102A及び102Bで受光される割合(混信量)については、第1の瞳領域E1を透過した光と第2の瞳領域E2を透過した光の偏光方向と第1の画素102A及び第2の画素102Bで受光される光の偏光方向の角度差の余弦(cos)の二乗によって求められる。したがって、たとえば、第1の瞳領域E1(又は第2の瞳領域E2)を透過した光(直線偏光)の偏光方向(方位角)をα、第i画素で受光される光の偏光方向(方位角)をβとすると、割合は、cos(|α-β|)で算出される。
図12から図13は、上述した行列Aの算出の例を説明する図である。図12から図13では、第1の瞳領域E1を透過する光の第1の偏光方向24、及び第2の瞳領域E2を通過する光の第2の偏光方向26が示されている((A)で図示)。また、図12から図13では、第1の偏光素子122A及び第2の偏光素子122Bの偏光方向が示されている((B)で図示)。
図12に示す場合では、第1の瞳領域E1を透過する光は撮像素子100に偏光方向30°を有して直線偏光として入射し、第2の瞳領域E2を透過する光は撮像素子100に偏光方向90°を有して直線偏光として入射する。また、第1の偏光素子122Aは偏光方向0°の光を透過し、第2の偏光素子122Bは偏光方向45°の光を透過する。
したがって、この場合上述した行列Bの各要素は、b11=0.7500、b12=0.0000、b21=0.9330、b22=0.5000となる。
Figure 0007135108000007
この行列Bの逆行列B-1(行列A)は存在し、その各要素は、a11=1.3333、a12=0、a21=-2.4880、a22=2.0000となる。
Figure 0007135108000008
係数記憶部200Cは、この行列Bの逆行列B-1として求めた2行2列の行列Aの各要素を係数群として記憶する。係数記憶部200Cは、記憶部の一例である。
図13に示す場合では、第1の瞳領域E1を透過する光は撮像素子100に偏光方向30°を有して直線偏光として入射し、第2の瞳領域E2を透過する光は撮像素子100に偏光方向90°を有して直線偏光として入射する。また、第1の偏光素子122Aは偏光方向60°の光を透過し、第2の偏光素子122Bは偏光方向135°の光を透過する。
したがって、この場合上述した行列Bの各要素は、b11=0.7500、b12=0.7500、b21=0.0670、b22=0.5000となる。
Figure 0007135108000009
この行列Bの逆行列B-1(行列A)は存在し、その各要素は、a11=1.5396、a12=-2.3094、a21=-0.2063、a22=2.3094となる。
Figure 0007135108000010
係数記憶部200Cは、この行列Bの逆行列B-1として求めた2行2列の行列Aの各要素を係数群として記憶する。係数記憶部200Cは、記憶部の一例である。
図14は、撮像装置1を使用した撮像方法の処理フローを示したフローチャートである。
先ず、第1の偏光フィルタ12により、第1の瞳領域E1及び第2の瞳領域E2を透過する光の偏光方向を第1の偏光方向24に揃える(ステップS10)。次に、第2の瞳領域E2を透過した光のうち、第2の偏光フィルタ14により、第2の偏光方向26の光が透過させられる(ステップS11)。その後、第1の瞳領域E1を透過した光及び第2の瞳領域E2を透過した光を、第1の画素102A及び第2の画素102Bにより受光する(ステップS12)。そして、画像生成部200Bは、第1の画素102A及び第2の画素102Bから得られた画素信号に対して混信除去処理を行う(ステップS13)。次に、画像生成部200Bは、混信除去処理後の第1の画素102Aの画素信号及び第2の画素102Bの画素信号に基づいて第1の画像及び第2の画像を生成する(ステップS14)。
以上で説明した本実施形態によれば、互いに異なる2種の偏光方向を有する光に基づいて異なる2つの画像を生成する場合であっても、一度第1の偏光フィルタ12により瞳領域Eの偏光が揃えられるので、受光される光の偏光方向が異なることを起因とした見え方の違いが抑制された画像を生成することができる。
<第2の実施形態>
次に、本発明の第2の実施形態に関して説明する。本実施形態では、波長フィルタ(バンドパスフィルタ)40を備え、各波長帯域の画像を独立に得ることができる。
図15は、本実施形態の撮像装置1の概略構成を示す図である。なお、図1で既に説明を行った箇所は、同じ符号を付し説明は省略する。
同図に示すように、本実施形態の撮像装置1は、撮像光学系10、第1の偏光フィルタ12、波長フィルタ40、第2の偏光フィルタ14、撮像素子100及び信号処理部200を備える。なお、波長フィルタ40を設ける位置は、図示するように第1の偏光フィルタ12と第2の偏光フィルタ14との間に限定されるものではなく、第1の瞳領域E1を透過する光と第2の瞳領域E2を透過する光とを適切に入射させることができる位置であれば特に限定されるものではない。波長フィルタ40を透過した光は、第1の瞳領域E1と第2の瞳領域E2とで異なる波長帯域の光となる(波長フィルタ40の下方に図示)。
図16は、波長フィルタ40の概略構成を示す正面図である。
波長フィルタ40は、例えば第1の瞳領域E1と第2の瞳領域E2とで異なる波長帯域の光を透過させる。具体的には、第1の瞳領域E1に対応する領域44と、第2の瞳領域E2に対応する領域46とでは異なる波長帯域の光を透過させる。このような波長フィルタ40を備えることにより、第1の瞳領域E1を透過する光に対応する第1の画像は、領域44で透過した波長帯域(第1の波長帯域)の光に基づく画像となり、第2の瞳領域E2を透過する光に対応する第2の画像は、領域46で透過した波長帯域(第2の波長帯域)の光に基づく画像となる。なお、図16では撮像光学系10の瞳領域Eが、第1の瞳領域E1及び第2の瞳領域E2に2分割される場合の波長フィルタ40の例を示しており、波長フィルタ40は第1の波長フィルタ(第1の波長帯域)及び第2の波長フィルタ(第2の波長帯域)を一体的に備える。後で説明する撮像光学系10の瞳領域Eが、第1の瞳領域E1、第2の瞳領域E2、及び第3の瞳領域E3に分割される場合(第3の実施形態)には、3つの異なる波長帯域(第1の波長帯域、第2の波長帯域、及び第3の波長帯域)を透過させる波長フィルタ40が使用される。また、第1の波長フィルタ、第2の波長フィルタ、及び第3の波長フィルタを一体的に備える波長フィルタ40が使用されてもよいし、第1の波長フィルタ、第2の波長フィルタ、及び第3の波長フィルタがそれぞれ別体として設けられてもよい。このようにして得られた複数の波長帯域の画像は、分光反射率比を利用して果実の糖度検査、食物の生育検査、水質検査等に好適に応用される。
以上で説明した本実施形態によれば、異なる波長帯域の画像を独立に生成することができ、且つ受光される光の偏光方向が異なることを起因とした見え方の違いが抑制された画像を生成することができる。
<第3の実施形態>
次に、本発明の第3の実施形態に関して説明する。本実施形態では、互いに異なる3つの偏光方向(第1の偏光方向24、第2の偏光方向26、第3の偏光方向28)を利用して、独立に3枚の画像を取得する。
図17は、第3の実施形態の撮像装置1の概略構成を示す図である。なお、図1及び図15で既に説明を行った箇所は、同じ符号を付し説明を省略する。
同図に示すように、本実施形態の撮像装置1は、撮像光学系10、第1の偏光フィルタ12、波長フィルタ40、第2の偏光フィルタ14、撮像素子100、及び信号処理部200を備える。また、同図には、被写体20で反射された自然光の偏光方向22、第1の偏光フィルタ12を透過した光の偏光方向である第1の偏光方向24、及び第2の偏光フィルタ14を透過した光の偏光方向である第2の偏光方向26と第3の偏光方向28が示されている。なお、互いに異なる3つの偏光方向を利用して独立に3枚の画像を取得する場合にも、上記で説明した2枚の画像を取得する場合の手法を適用して混信除去処理及び画像生成が同様に行われる。
図18は、撮像光学系10の概念的な瞳領域Eを示す正面図である。
本実施形態の瞳領域Eは、第1の瞳領域E1、第2の瞳領域E2、及び第3の瞳領域E3で構成されている。例えば、第1の瞳領域E1、第2の瞳領域E2、及び第3の瞳領域E3は、瞳領域Eを角度120°で3等分した領域である。
図19は、本実施形態の第2の偏光フィルタ(第2の偏光子及び第3の偏光子を備える)14の概略構成を示す正面図である。
第2の偏光フィルタ14は、第1の瞳領域E1、第2の瞳領域E2、及び第3の瞳領域E3においてそれぞれ異なる機能を有する。第2の偏光フィルタ14は、第1の瞳領域E1に対応する領域では、素抜け部分となっており、そのまま第1の偏光方向24の光が透過する。第2の偏光フィルタ14は第2の瞳領域E2に対応する領域では第2の偏光子の機能を有し、第3の瞳領域E3に対応する領域では第3の偏光子の機能を有する。そして、第2の瞳領域E2に備えられた第2の偏光子により、第2の瞳領域E2を透過する第1の偏光方向24に揃った光のうち、第1の偏光方向24とは異なる第2の偏光方向26の光を透過させる。また第3の瞳領域E3に備えられた第3の偏光子により、第3の瞳領域E3を透過する第1の偏光方向24に揃った光のうち、第1の偏光方向24及び第2の偏光方向26とは異なる第3の偏光方向28の光を透過させる。なお、図19で示す例では、一つの偏光フィルタに第2の偏光子及び第3の偏光子の機能を持たせているが、これに限定されるものではない。第2の偏光子の機能を有するフィルタ、及び第3の偏光子の機能を有するフィルタをそれぞれ設けてもよい。
図20から図21は、上述した行列Aの算出の例を説明する図である。図20から図21では、第1の瞳領域E1を透過する光の第1の偏光方向24、第2の瞳領域E2を通過する光の第2の偏光方向26、及び第3の瞳領域E3を通過する光の第3の偏光方向28が示されている((A)で図示)。また、図20から図21では、第1の偏光素子122A、第2の偏光素子122B、及び第3の偏光素子122Cの偏光方向が示されている((B)で図示)。なお、本実施形態での撮像素子100は、第1の瞳領域E1、第2の瞳領域E2、及び第3の瞳領域E3を透過する光を受光する、互いに異なる偏光方向の光を受光する第1の画素、第2の画素、及び第3の画素を一組とする画素ユニットを複数有する。
図20に示す場合では、第1の瞳領域E1を透過する光は撮像素子100に偏光方向30°を有して直線偏光として入射し、第2の瞳領域E2を透過する光は撮像素子100に偏光方向90°を有して直線偏光として入射し、第3の瞳領域E3を透過する光は撮像素子100に偏光方向150°を有して直線偏光として入射する。また、第1の偏光素子122Aは偏光方向0°の光を透過し、第2の偏光素子122Bは偏光方向45°の光を透過し、第3の偏光素子122Cは偏光方向90°の光を透過する。
したがって、この場合上述した行列Bの各要素は、b11=0.7500、b12=0.0000、b13=0.7500、b21=0.9330、b22=0.5000、b23=0.0670、b31=0.2500、b32=1.0000、b33=0.2500となる。
Figure 0007135108000011
この行列Bの逆行列B-1(行列A)は存在し、その各要素は、a11=0.0893、a12=1.1547、a13=-0.5774、a21=-0.3333、a22=0.0000、a23=1.0000、a31=1.2440、a32=-1.1547、a33=0.5774となる。
Figure 0007135108000012
図21に示す場合では、第1の瞳領域E1を透過する光は撮像素子100に偏光方向30°を有して直線偏光として入射し、第2の瞳領域E2を透過する光は撮像素子100に偏光方向90°を有して直線偏光として入射し、第3の瞳領域E3を透過する光は撮像素子100に偏光方向150°を有して直線偏光として入射する。また、第1の偏光素子122Aは偏光方向60°の光を透過し、第2の偏光素子122Bは偏光方向150°の光を透過し、第3の偏光素子122Cは偏光方向105°の光を透過する。
したがって、この場合上述した行列Bの各要素は、b11=0.7500、b12=0.7500、b13=0.0000、b21=0.2500、b22=0.2500、b23=1.0000、b31=0.0670、b32=0.9330、b33=0.5000となる。
Figure 0007135108000013
この行列Bの逆行列B-1(行列A)は存在し、その各要素は、a11=1.2440、a12=0.5774、a13=-1.1547、a21=0.0893、a22=-0.5774、a23=1.1547、a31=-0.3333、a32=1.0000、a33=0.0000となる。
Figure 0007135108000014
図22は、撮像装置1を使用した撮像方法の処理フローを示したフローチャートである。
先ず、第1の偏光フィルタ12により、第1の瞳領域E1、第2の瞳領域E2、及び第3の瞳領域E3を透過する光の偏光方向を第1の偏光方向24に揃える(ステップS20)。次に、第2の瞳領域E2を透過した光のうち、第2の偏光フィルタ14により第2の偏光方向26の光を透過させ、また、第3の瞳領域E3を透過した光のうち、第2の偏光フィルタ14により第3の偏光方向28の光を透過させる(ステップS21)。その後、撮像素子100により、第1の瞳領域E1を透過した光、第2の瞳領域E2を透過した光、及び第3の瞳領域E3を透過した光を受光する(ステップS22)。その後、画像生成部200Bは混信除去処理を行う(ステップS23)。そして、画像生成部200Bは、第1の画像、第2の画像、及び第3の画像を生成する(ステップS24)。
以上で説明した本実施形態によれば、互いに異なる3種の偏光方向を有する光に基づいて独立に3つの画像を生成する場合であっても、一度第1の偏光フィルタ12により瞳領域Eの偏光が揃えられるので、受光される光の偏光方向が異なることを起因とした見え方の違いが抑制された画像を生成することができる。
<第4の実施形態>
次に、本発明の第4の実施形態に関して説明する。本実施形態では、第1の偏光フィルタ12を透過して第1の瞳領域E1及び第2の瞳領域E2を透過する光、又は、第1の偏光フィルタ12を透過して第1の瞳領域E1、第2の瞳領域E2、及び第3の瞳領域E3を透過する光を各偏光子により透過させる。
図23は、本実施形態の撮像装置1の他の例の概略構成を示す図である。なお、図1で既に説明を行った箇所は同じ符号を付し説明は省略する。
第2の偏光フィルタ14は、素抜け部分を有さず、第2の偏光子及び第3の偏光子の機能を有する。第2の偏光フィルタ14における第2の偏光子は、第1の瞳領域E1を透過した第1の偏光方向24を有する光のうち、第2の偏光方向26の光を透過させる。また、第2の偏光フィルタ14における第3の偏光子は、第2の瞳領域E2を透過した第1の偏光方向24を有する光のうち、第3の偏光方向28の光を透過させる。すなわち、本例の第2の偏光フィルタ14は、素抜け部分を有さず、第1の瞳領域E1及び第2の瞳領域E2を透過するそれぞれの光を偏光させる。なお第2の偏光子と第3の偏光子とは単一の偏光フィルタに備えられても良いし、別々の偏光フィルタに備えられてもよい。
このように、第2の偏光フィルタ14に第2の光子及び第3の光子の機能を設けることにより、以下に示すように第2の偏光方向26と第3の偏光方向を直交させることができる。
図24は、第2の偏光方向26と第3の偏光方向を直交させた場合の上述した行列Aの算出の例を説明する図である。なお、図20及び図21で既に説明を行った箇所は同じ符号を付し説明は省略する。図24に示す場合では、第1の瞳領域E1を透過する光は撮像素子100に偏光方向45°を有して直線偏光として入射し、第2の瞳領域E2を透過する光は撮像素子100に偏光方向135°を有して直線偏光として入射する。また、第1の偏光素子122Aは偏光方向45°の光を透過し、第2の偏光素子122Bは偏光方向135°の光を透過する。図24に示した場合では、第1の瞳領域E1を透過する光が有する偏光方向(第2の偏光方向26)と第2の瞳領域E2を透過する光が有する偏光方向(第3の偏光方向28)が直交する場合である。また、第1の瞳領域E1を透過する光が有する偏光方向(第2の偏光方向26)と第1の偏光素子122Aの偏光方向が同じであり、第2の瞳領域E2を透過する光が有する偏光方向(第3の偏光方向28)と第2の偏光素子122Bの偏光方向が同じである。
したがって、この場合上述した行列Bの各要素は、b11=1.0000、b12=0.0000、b21=0.0000、b22=1.0000となる。
Figure 0007135108000015
すなわちこの場合には、理想的に混信が起こらない場合である。このように、混信が起こらない場合には、混信除去処理を行わずに、第1の画素102A及び第2の画素102Bから得られる信号から各画像を生成することができる。すなわち、第1の瞳領域E1の画素信号X1は第1の画素102Aの画素信号x1であり、第2の瞳領域E2の画素信号X2は第1の画素102Aの画素信号x2である。
図25は、本実施形態の撮像装置1の他の例の概略構成を示す図である。なお、図17で既に説明を行った箇所は同じ符号を付し説明は省略する。
第2の偏光フィルタ14は、素抜け部分を有さず、第2の偏光子、第3の偏光子、第4の偏光子の機能を有する。第2の偏光フィルタ14の第2の偏光子は、第1の瞳領域E1を透過した第1の偏光方向24を有する光のうち、第2の偏光方向26を有する光を透過させる。また、第2の偏光フィルタ14の第3の偏光子は、第2の瞳領域E2を透過した第1の偏光方向24を有する光のうち、第3の偏光方向28を有する光を透過させる。また、第2の偏光フィルタ14の第4の偏光子は、第3の瞳領域E3を透過した第1の偏光方向24を有する光のうち、第4の偏光方向30を有する光を透過させる。すなわち、本例の第2の偏光フィルタ14は、素抜け部分を有さず、第1の瞳領域E1、第2の瞳領域E2、第3の瞳領域E3を透過するするそれぞれの光を偏光させる。なお第2の偏光子、第3の偏光子、及び第4の偏光子は単一の偏光フィルタに備えられても良いし、別々の偏光フィルタに備えられてもよい。
以上で説明した本実施形態によれば、第1の偏光フィルタ12で揃えられた偏光方向に限定されずに、様々な偏光方向の光に基づいて画像を生成することができ、且つ受光される光の偏光方向が異なることを起因とした見え方の違いが抑制された画像を生成することができる。
以上で本発明の例に関して説明してきたが、本発明は上述した実施の形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
1 :撮像装置
10 :撮像光学系
12 :第1の偏光フィルタ
14 :第2の偏光フィルタ
20 :被写体
40 :波長フィルタ
100 :撮像素子
102A :第1の画素
102B :第2の画素
110 :ピクセルアレイ層
112 :フォトダイオード
120 :偏光素子アレイ層
122A :第1の偏光素子
122B :第2の偏光素子
122C :第3の偏光素子
130 :マイクロレンズアレイ層
132 :マイクロレンズ
200 :信号処理部
200A :アナログ信号処理部
200B :画像生成部
200C :係数記憶部
E1 :第1の瞳領域
E2 :第2の瞳領域
E3 :第3の瞳領域
L :光軸

Claims (13)

  1. 第1の瞳領域、及び前記第1の瞳領域とは異なる第2の瞳領域で構成される瞳領域を有する撮像光学系と、
    前記第1の瞳領域及び前記第2の瞳領域を透過する光の偏光方向を第1の偏光方向に揃える第1の偏光子と、
    前記第2の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向とは異なる第2の偏光方向の光を透過させる第2の偏光子と、
    前記第1の瞳領域及び前記第2の瞳領域を透過する光を受光する、互いに異なる偏光方向の光を受光する第1の画素と第2の画素とを一組とする画素ユニットを複数有する撮像素子と、
    前記第1の画素及び前記第2の画素の画素信号に混信除去処理を施し、前記混信除去処理後の前記画素信号に基づいて、前記第1の瞳領域を透過する光に対応する第1の画像及び前記第2の瞳領域を透過する光に対応する第2の画像を生成する画像生成部と、
    を備える撮像装置。
  2. 前記第1の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向及び前記第2の偏光方向とは異なる第3の偏光方向の光を透過させる第3の偏光子を備える請求項1に記載の撮像装置。
  3. 第1の瞳領域、及び前記第1の瞳領域とは異なる第2の瞳領域で構成される瞳領域を有する撮像光学系と、
    前記第1の瞳領域及び前記第2の瞳領域を透過する光の偏光方向を第1の偏光方向に揃える第1の偏光子と、
    前記第2の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向とは異なる第2の偏光方向の光を透過させる第2の偏光子と、
    前記第1の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向とは異なり且つ前記第2の偏光方向とは直交する第3の偏光方向の光を透過させる第3の偏光子と、
    前記第1の瞳領域及び前記第2の瞳領域を透過する光を受光する、前記第2の偏光方向の光を受光する第1の画素と前記第3の偏光方向の光を受光する第2の画素とを一組とする画素ユニットを複数有する撮像素子と、
    前記第1の画素及び前記第2の画素の画素信号に基づいて、前記第1の瞳領域を透過する光に対応する第1の画像及び前記第2の瞳領域を透過する光に対応する第2の画像を生成する画像生成部と、
    を備える撮像装置。
  4. 前記第1の瞳領域を透過する光のうち、第1の波長帯域の光を透過させる第1の波長フィルタと、
    前記第2の瞳領域を透過する光のうち、第2の波長帯域の光を透過させる第2の波長フィルタと、
    を備える請求項1から3のいずれか1項に記載の撮像装置。
  5. 第1の瞳領域、前記第1の瞳領域とは異なる第2の瞳領域、及び前記第1の瞳領域及び前記第2の瞳領域とは異なる第3の瞳領域で構成される瞳領域を有する撮像光学系と、
    前記第1の瞳領域、前記第2の瞳領域、及び前記第3の瞳領域を透過する光の偏光方向を第1の偏光方向に揃える第1の偏光子と、
    前記第2の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向とは異なる第2の偏光方向の光を透過させる第2の偏光子と、
    前記第3の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向及び前記第2の偏光方向とは異なる第3の偏光方向の光を透過させる第3の偏光子と、
    前記第1の瞳領域、前記第2の瞳領域、及び前記第3の瞳領域を透過する光を受光する、互いに異なる偏光方向の光を受光する第1の画素、第2の画素、及び第3の画素を一組とする画素ユニットを複数有する撮像素子と、
    前記第1の画素、前記第2の画素、及び前記第3の画素の画素信号に混信除去処理を施し、前記混信除去処理後の前記画素信号に基づいて、前記第1の瞳領域を透過する光に対応する第1の画像、前記第2の瞳領域を透過する光に対応する第2の画像、及び前記第3の瞳領域を透過する光に対応する第3の画像を生成する画像生成部と、
    を備える撮像装置。
  6. 前記第1の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向、前記第2の偏光方向、及び前記第3の偏光方向とは異なる第4の偏光方向の光を透過させる第4の偏光子を備える請求項5に記載の撮像装置。
  7. 前記第1の瞳領域を透過する光のうち、第1の波長帯域の光を透過させる第1の波長フィルタと、
    前記第2の瞳領域を透過する光のうち、第2の波長帯域の光を透過させる第2の波長フィルタと、
    前記第3の瞳領域を透過する光のうち、第3の波長帯域の光を透過させる第3の波長フィルタと、
    を備える請求項5又は6に記載の撮像装置。
  8. 前記第1の偏光子は、s偏光を遮光する請求項1から7のいずれか1項に記載の撮像装置。
  9. 前記撮像素子は、前記画素ユニットが偏光素子を備える画素により構成されている請求項1から8のいずれか1項に記載の撮像装置。
  10. 前記撮像素子は、前記画素を構成するフォトダイオードとマイクロレンズとの間に前記偏光素子を有する請求項9に記載の撮像装置。
  11. 第1の瞳領域、及び前記第1の瞳領域とは異なる第2の瞳領域で構成される瞳領域を有する撮像光学系の、前記第1の瞳領域及び前記第2の瞳領域を透過する光の偏光方向を、第1の偏光子により、第1の偏光方向に揃えるステップと、
    前記第2の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向とは異なる第2の偏光方向の光を、第2の偏光子により、透過させるステップと、
    前記第1の瞳領域及び前記第2の瞳領域を透過する光を受光する、互いに異なる偏光方向の光を受光する第1の画素と第2の画素とを一組とする画素ユニットを複数有する撮像素子の、前記第1の画素及び前記第2の画素の画素信号に混信除去処理を施し、前記混信除去処理後の前記画素信号に基づいて、前記第1の瞳領域を透過する光に対応する第1の画像及び前記第2の瞳領域を透過する光に対応する第2の画像を生成するステップと、
    を含む撮像方法。
  12. 第1の瞳領域、及び前記第1の瞳領域とは異なる第2の瞳領域で構成される瞳領域を有する撮像光学系の、前記第1の瞳領域及び前記第2の瞳領域を透過する光の偏光方向を、第1の偏光子により、第1の偏光方向に揃えるステップと、
    前記第2の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向とは異なる第2の偏光方向の光を、第2の偏光子により、透過させるステップと、
    前記第1の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向とは異なり且つ前記第2の偏光方向とは直交する第3の偏光方向の光を、第3の偏光子により、透過させるステップと、
    前記第1の瞳領域及び前記第2の瞳領域を透過する光を受光する、前記第2の偏光方向の光を受光する第1の画素と前記第3の偏光方向の光を受光する第2の画素とを一組とする画素ユニットを複数有する撮像素子の、前記第1の画素及び前記第2の画素の画素信号に基づいて、前記第1の瞳領域を透過する光に対応する第1の画像及び前記第2の瞳領域を透過する光に対応する第2の画像を生成するステップと、
    を含む撮像方法。
  13. 第1の瞳領域、前記第1の瞳領域とは異なる第2の瞳領域、及び前記第1の瞳領域及び前記第2の瞳領域とは異なる第3の瞳領域で構成される瞳領域を有する撮像光学系の、前記第1の瞳領域、前記第2の瞳領域、及び前記第3の瞳領域を透過する光の偏光方向を、第1の偏光子により、第1の偏光方向に揃えるステップと、
    前記第2の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向とは異なる第2の偏光方向の光を、第2の偏光子により、透過させるステップと、
    前記第3の瞳領域を透過する前記第1の偏光方向に揃った光のうち、前記第1の偏光方向及び前記第2の偏光方向とは異なる第3の偏光方向の光を、第3の偏光子により、透過させるステップと、
    前記第1の瞳領域、前記第2の瞳領域、及び前記第3の瞳領域を透過する光を受光する、互いに異なる偏光方向の光を受光する第1の画素、第2の画素、及び第3の画素を一組とする画素ユニットを複数有する撮像素子の、前記第1の画素、前記第2の画素、及び前記第3の画素の画素信号に混信除去処理を施し、前記混信除去処理後の前記画素信号に基づいて、前記第1の瞳領域を透過する光に対応する第1の画像、前記第2の瞳領域を透過する光に対応する第2の画像、及び前記第3の瞳領域を透過する光に対応する第3の画像を生成するステップと、
    を含む撮像方法。
JP2020558222A 2018-11-26 2019-10-31 撮像装置及び撮像方法 Active JP7135108B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018220490 2018-11-26
JP2018220490 2018-11-26
PCT/JP2019/042860 WO2020110594A1 (ja) 2018-11-26 2019-10-31 撮像装置及び撮像方法

Publications (2)

Publication Number Publication Date
JPWO2020110594A1 JPWO2020110594A1 (ja) 2021-10-14
JP7135108B2 true JP7135108B2 (ja) 2022-09-12

Family

ID=70854319

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020558222A Active JP7135108B2 (ja) 2018-11-26 2019-10-31 撮像装置及び撮像方法

Country Status (3)

Country Link
US (1) US11917276B2 (ja)
JP (1) JP7135108B2 (ja)
WO (1) WO2020110594A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111487201B (zh) * 2020-04-27 2021-02-09 华中科技大学 一种偏振图像信息的表征方法和表征参数的计算方法
US20220086321A1 (en) * 2020-09-15 2022-03-17 Micron Technology, Inc. Reduced diffraction micro lens imaging

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013077935A (ja) 2011-09-30 2013-04-25 Sony Corp 撮像装置及び撮像方法
JP2013197770A (ja) 2012-03-19 2013-09-30 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
WO2018074064A1 (ja) 2016-10-17 2018-04-26 ソニー株式会社 画像処理装置と画像処理方法および撮像装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5320735B2 (ja) 2007-12-28 2013-10-23 株式会社ニコン 撮像装置
JP2009169096A (ja) 2008-01-16 2009-07-30 Fujifilm Corp 撮像デバイス
JP2012203274A (ja) * 2011-03-28 2012-10-22 Sony Corp 撮像装置および電子機器
JP6286678B2 (ja) * 2013-07-12 2018-03-07 パナソニックIpマネジメント株式会社 撮像装置
JP6391316B2 (ja) * 2014-06-25 2018-09-19 キヤノン株式会社 撮像装置
US9661193B2 (en) * 2014-08-01 2017-05-23 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus and analyzing apparatus
CA2902675C (en) * 2014-08-29 2021-07-27 Farnoud Kazemzadeh Imaging system and method for concurrent multiview multispectral polarimetric light-field high dynamic range imaging
US11252362B2 (en) * 2018-08-31 2022-02-15 Sony Semiconductor Solutions Corporation Imaging element, imaging device, and imaging method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013077935A (ja) 2011-09-30 2013-04-25 Sony Corp 撮像装置及び撮像方法
JP2013197770A (ja) 2012-03-19 2013-09-30 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
WO2018074064A1 (ja) 2016-10-17 2018-04-26 ソニー株式会社 画像処理装置と画像処理方法および撮像装置

Also Published As

Publication number Publication date
WO2020110594A1 (ja) 2020-06-04
JPWO2020110594A1 (ja) 2021-10-14
US20210274070A1 (en) 2021-09-02
US11917276B2 (en) 2024-02-27

Similar Documents

Publication Publication Date Title
JP7135109B2 (ja) 撮像装置及び撮像方法
US20160163752A1 (en) Image-acquisition device
CN105872525B (zh) 图像处理装置和图像处理方法
EP3070507B1 (en) Endoscope imaging device
JP7135108B2 (ja) 撮像装置及び撮像方法
CN115152205B (zh) 摄像装置及方法
US7742087B2 (en) Image pickup device
EP2330811B1 (en) Imaging apparatus with light transmissive filter
EP2276262B1 (en) Image pick-up apparatus with a light transmissive filter
CN105445952B (zh) 高感光实时偏振成像的微偏阵列及其成像装置
US20210235006A1 (en) Imaging device and imaging method
US9188480B2 (en) Color filter array and image sensor
CA2074127A1 (en) Optical imaging system with a plurality of image planes
US11457202B2 (en) Imaging device
CN109246349B (zh) 高品质超分辨面阵成像相机及成像方法
JP7182437B2 (ja) 複眼撮像装置
JP5637448B2 (ja) 偏光画像撮像装置
JP2021019260A (ja) 撮像素子、およびこれを備える撮像装置
US20220341781A1 (en) Optical device and method
JP2018182468A (ja) 撮像素子および撮像装置
WO2024219339A1 (ja) 補正装置、補正方法及び電子機器
WO2023286496A1 (ja) 画像処理装置及び方法、及び撮像装置
EP3826283A1 (en) Imaging apparatus comprising at least a light source and a plenoptic camera
Radl Suppressing moiré with lateral dispersion
Janssen et al. Speckle spectro‐polarimetry of magnetic structures

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210610

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220831

R150 Certificate of patent or registration of utility model

Ref document number: 7135108

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150