JP2021141446A - 撮像装置及びその制御方法 - Google Patents

撮像装置及びその制御方法 Download PDF

Info

Publication number
JP2021141446A
JP2021141446A JP2020037917A JP2020037917A JP2021141446A JP 2021141446 A JP2021141446 A JP 2021141446A JP 2020037917 A JP2020037917 A JP 2020037917A JP 2020037917 A JP2020037917 A JP 2020037917A JP 2021141446 A JP2021141446 A JP 2021141446A
Authority
JP
Japan
Prior art keywords
image sensor
image pickup
pixel
image
polarization
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020037917A
Other languages
English (en)
Inventor
雄介 山下
Yusuke Yamashita
雄介 山下
徳朗 西田
Tokuaki Nishida
徳朗 西田
和也 北村
Kazuya Kitamura
和也 北村
啓行 長谷川
Hiroyuki Hasegawa
啓行 長谷川
武範 小布施
Takenori Obuse
武範 小布施
義和 石川
Yoshikazu Ishikawa
義和 石川
孝行 木村
Takayuki Kimura
孝行 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020037917A priority Critical patent/JP2021141446A/ja
Priority to US17/176,631 priority patent/US11569283B2/en
Publication of JP2021141446A publication Critical patent/JP2021141446A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14609Pixel-elements with integrated switching, control, storage or amplification elements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Blocking Light For Cameras (AREA)

Abstract

【課題】反射光成分を除去した映像を迅速且つ所望の感度で取得することが可能な撮像装置を提供する。【解決手段】撮像装置100は、画素ごとに偏光方向を変えて配置された複数の偏光フィルタ201〜204を1組として1組の偏光フィルタ201〜204に対応する領域に1色のカラーフィルタが配置された撮像素子103と、別の撮像素子133と、1組の偏光フィルタ201〜204が配置された領域ごとに撮像素子103の画素から出力される信号に基づいてその領域へ入射する光の偏光成分を検出する偏光演算部108と、偏光成分が所定の閾値よりも大きい場合の領域の画素信号を用いて撮像素子133の前記領域に対応する画素から出力された信号を補正する映像処理部116とを備える。【選択図】図1

Description

本発明は、異なる方向の偏光情報を取得可能な偏光素子を備える撮像素子を有する撮像装置及びその制御方法に関する。
CCDセンサやCMOSセンサ等に代表される撮像素子は、複数の受光素子(画素)が二次元状に配置され、各画素で光を電気信号に変換することにより、光の強さ(輝度)を検出することができる。また、各画素に赤(R)、緑(G)、青(B)の波長帯のみを通過させるカラーフィルタを配置することにより、可視可能な波長(色)だけを取得することができる。このような仕組みを用いて、人が視認可能なカラー映像をデジタル信号に置換して、その映像を記憶装置に保存し、表示装置に表示することが可能となっている。
ところで、光には輝度や色等の要素の他にも偏光と呼ばれる性質がある。偏光は光の振動方向と考えることができ、光源から発した光は被写体で反射する際に様々な振動方向成分(偏光方向)を持つことが知られている。しかし、実際には偏光した光と偏光していない光(散乱光)の全てが合成されて人間の眼に届いているため、偏光を感じることは少ない。
一方で、偏光した光を積極的に選択することにより、不要な映像を除去して、必要な映像を引き立てることができることが知られている。例えば、水面やガラス面に映りこんでしまう映像を偏光フィルタ(以下「PLフィルタ」と記す)を使って除去する撮影テクニックは、よく利用されている撮影手法の一例である。その他、偏光は、不要な反射光を抑制してコントラストを強調する目的や、偏光強度から物体にかかる応力を可視化する目的など、様々に応用されている。
例えば、偏光成分を積極的に利用する技術として、特許文献1は、レンズに装着したPLフィルタを回転させて複数の映像を取得し、複数の映像から露出条件を設定する方法を提案している。
特開2018−7024号公報
特許文献1に記載された技術では、露出条件を決定するまでに所定の時間が必要となるために、所望の映像を取得するタイミングを逃してしまう可能性が大きくなってしまう。
本発明は、所定の反射光成分を除去した映像を迅速且つ所望の感度で取得することが可能な撮像装置を提供することを目的とする。
本発明に係る撮像装置は、偏光方向の異なる複数の偏光フィルタを1組として複数の光電変換素子に対応付けられ、且つ、1色のカラーフィルタが配置された第1の撮像素子と、第2の撮像素子と、前記1組の偏光フィルタが配置された領域ごとに、前記第1の撮像素子の画素から出力される信号に基づいて前記領域へ入射する光の偏光成分を検出する偏光検出手段と、前記第2の撮像素子の前記領域に対応する画素から出力された信号を前記偏光検出手段による検出結果に基づいて補正する補正手段と、を備えることを特徴とする。
本発明によれば、所定の反射光成分を除去した映像を迅速且つ所望の感度で取得することが可能になる。
本発明の実施形態に係る撮像装置の概略構成を示すブロック図である。 図1の撮像装置での偏光フィルタの配列例を示す図である。 図1の撮像装置の撮像素子でのカラーフィルタの配列例を示す図である。 人間の眼に届く光の波形とその偏光成分を説明する図である。 図1の撮像装置の2つの撮像素子の画素配列を説明する図である。 図5の各撮像素子から出力される画素信号の出力レベルを示す図である。 図1の撮像装置の第1の撮像制御のフローチャートである。 図1の撮像装置の第2の撮像制御のフローチャートである。
以下に、本発明の実施形態について、添付図面を参照して詳細に説明する。図1は、本発明の実施形態に係る撮像装置100の概略構成を示すブロック図である。撮像装置100は、映像の入力から出力、記憶や表示が可能な構成を有する。
まず本実施形態における撮像素子の実施態様について説明する。撮像素子の画素(光電変換素子)ごとに偏光フィルタを備えたCMOSセンサでは、例えば4方向の偏光特性を得るために4つの偏光フィルタで1つの画素を構成すると、同じセルサイズのCMOSセンサに比べると解像度が1/4に低下してしまう。また、撮像面に偏光フィルタを備えるために、偏光フィルタを備えない場合に比べて入射光量が低下してしまう。入射光量の低下を撮像素子の感度を上げることで補おうとするとノイズが多くなるという問題が生じる。そこで本実施形態では、偏光フィルタを備えた撮像素子と、該撮像素子と各領域が対応付け可能な偏光フィルタを備えない撮像素子とを共に備える撮像装置とすることで、偏光情報の情報量の確保と得られる撮像画像の解像度とを両立させることを特徴とする。
撮像装置100は、光学レンズ101,131、偏光フィルタ102、レンズ駆動回路104,130、偏光フィルタ102、撮像素子103,133、撮像素子駆動回路105,132、撮像画補正回路106,134及びフレームメモリ107を備える。撮像装置100は、偏光演算部108、露出制御部113、フォーカス制御部114、動き検出部115、映像処理部116、OSD生成部117、CPU_109、ROM_111、RAM_112及び操作部110を備える。撮像装置100は、表示部121、表示駆動回路120、映像端子119、映像出力駆動回路118、映像端子119、ネットワーク端子125、ネットワーク駆動回路124、記憶媒体123、記憶媒体駆動回路122、電源部126及び発振部127を有する。
光学レンズ101,131はそれぞれ、第1の撮像光学系と第2の撮像光学系を構成する。レンズ駆動回路104,130はそれぞれ、光学レンズ101,131を光軸方向に移動させることにより、光学的に映像の拡大や焦点距離等の調整を行う。なお、光学レンズ101と光学レンズ131のそれぞれにより結像される映像は、本実施形態では同じ映像であるとする。光学レンズ101を通過した入射光は、偏光フィルタ102を通って撮像素子103で受像される。光学レンズ131を通過した入射光は、撮像素子133で受像される。なお、図2を参照して後述するように、偏光フィルタ102と撮像素子103は、撮像面偏光センサ200を構成する。
撮像素子103,133は、例えばCCDセンサやCMOSセンサ等であり、撮像面に結像した光学像をアナログ電気信号に変換する。撮像素子103,133はそれぞれ、生成したアナログ電気信号をデジタル信号に変換する機能も併せ持っている。なお、撮像素子103,133は、4Kや8Kと呼ばれる高画素映像を撮影可能な大型のものであるとするが、これに限られるものではない。
撮像素子駆動回路105,132はそれぞれ、撮像素子103,133を駆動する。撮像画補正回路106,134はそれぞれ、撮像素子103,133によってデジタル信号に変換された映像に様々な補正処理を施す。例えば、撮像画補正回路106,134は、各画素の性能ばらつきの補正、ホワイトバランスの補正、光学レンズ101,131の特性によって発生する歪みや周辺光量不足の補正等を行う。
フレームメモリ107は、映像信号(映像データ)を一時的に格納し、必要時に読み出すことが可能な、一般的にRAMと呼ばれる。映像信号は膨大なデータ量であるため、フレームメモリ107には高速書き込みと高速読み出しが可能で、且つ、大容量のものが求められる。例えば、フレームメモリ107にDDR3−SDRAM等を用いることにより、時間的に異なる画像の合成や必要な領域の切り出し(トリミング)などの様々な処理が可能となる。
偏光演算部108は、撮像素子103から出力から撮像素子103の画素(光電変換素子)ごとに偏光成分を検出して偏光情報を生成する。偏光情報とは、後述するように、複数の偏光角で取得した輝度情報と、取得した輝度情報から求めることが可能な任意の偏光角の輝度情報を指す。露出制御部113は、露出制御を行う。フォーカス制御部114は、第1の撮像光学系と第2の撮像光学系の焦点位置を制御する。動き検出部115は、被写体の動きを検出する。映像処理部116は、映像(映像データ)を加工する。また、映像処理部116は、撮像素子103,133から出力された各映像の位置合わせ、撮像素子103から出力された映像の反射除去処理等も行う。OSD生成部117は、文字情報等のOSDを映像に重畳する。
CPU_109は、撮像装置100の各機能を統括的に制御する。ROM_111は、不揮発性の記憶素子であり、CPU_109を動作させるためのプログラムや各種調整パラメータ等を格納している。ROM_111から読み出されたプログラムは、揮発性の記憶素子であるRAM_112に展開されて実行される。一般的にRAM_112は、フレームメモリ107よりも低速、低容量のもので構わない。
操作部110は、外部からの操作に対するインタフェースとして、ユーザの操作を受け付ける。操作部110は、機械的なボタンやスイッチ等であり、例えば、電源スイッチやモード切り替えスイッチ等を含み、ユーザによる操作を受け付けると、割り当てられている指令をCPU_109へ伝達する。表示部121は、映像処理部116やOSD生成部117で処理された映像や設定メニュー等を表示する。ユーザは、表示部121での表示内容を視認することにより、撮像装置100の動作状況等を確認することができる。表示駆動回路120は、表示部121での表示を制御する。なお、表示部121には、例えば、液晶ディスプレイや有機ELディスプレイ等が用いられるが、これらに限られるものではない。また、表示部121には、タッチパネルが兼備される場合があり、タッチパネルは操作部110として機能する。
映像端子119は、外部機器へ映像信号(映像データ)を送信するためのインタフェースであり、外部機器での映像表示を可能とする。代表的な映像端子119としては、SDI、HDMI(登録商標)、DisplayPort等の様々の規格のものがある。映像出力駆動回路118は、映像端子119の種類に応じて映像端子119を制御する。ネットワーク端子125は、映像信号に限らず、種々の制御信号の伝送可能なインタフェースである。ネットワーク駆動回路124は、ネットワーク端子125を制御し、例えば、インターネット等のネットワーク網への接続を可能とする。
記憶媒体123は、例えばHDDやSSD等の記憶容量の大きな記憶手段であり、映像データや種々の設定データを保存する。記憶媒体駆動回路122は、記憶媒体123への各種データの書き込み/読み出しを制御する。電源部126は、外部から供給される商用電源やバッテリ等の電源を任意の電圧に変換し、分配する機能を有しており、撮像装置100を構成する各ブロックに電源を供給する。発振部127は、クリスタルと呼ばれる発振素子を有する。CPU_109等は、発振素子から入力される単一周期的な信号を基準として所望のタイミング信号を生成し、プログラムシーケンスを進める。
次に、偏光フィルタ102と撮像素子103について説明する。偏光フィルタ102は撮像素子103の撮像面の前面(被写体側)に配置されており、このような構成を有する撮像素子を以下の説明において「撮像面偏光センサ」と称呼する。
図2は、撮像面偏光センサ200での偏光フィルタ102の配列例を示す図である。偏光フィルタ102は、撮像素子103の画素ごとに配置された偏光フィルタ201,202,203,204を有する。偏光フィルタ201〜204は、これら4つを1組として、互いに直交する方向に二次元状に繰り返し配置されている。偏光フィルタ201〜204のそれぞれの偏光方向は異なっており、異なる偏光方向の光を検出することができる。具体的には、偏光方向は、偏光フィルタ201では0度方向、偏光フィルタ202では45度方向、偏光フィルタ203では90度方向、偏光フィルタ204では135度方向となっており、45度ずつずれている。
これにより、レンズ前にPLフィルタを配置して手動で回転させる作業を行うことを必要とせずに、常に複数の異なる偏光方向の光を同一時間帯に同一フレームの画として取得することができる。例えば、ある1つの偏光方向の画素だけを選択して画素信号を取り出し、1枚の画像を生成すれば、対応する偏光フィルタの偏光特性を持った画像を取得することができる。図2の撮像面偏光センサ200の場合には、4つの異なる偏光方向の特性を有する画像を取得することが可能になる。
図2ではカラーフィルタ等を考慮していないため、モノクロ映像が得られることになるが、撮像素子103がカラーフィルタを備えることにより、カラー映像を取得することができる。図3は、撮像面偏光センサ200でのカラーフィルタの配置例を説明する図である。撮像面偏光センサ200では、1組の偏光フィルタ201〜204に対応する領域ごとに1色のカラーフィルタを配置し、且つ、赤(R)フィルタ301、緑(G)フィルタ302及び青(B)フィルタ303をベイヤー配列にて配置した構成としている。
なお、図2及び図3に示した撮像面偏光センサ200の構成は、一例であって、これに限定されるものではなく、偏光フィルタの配置方法や偏光角度は任意に設定することが可能である。また、撮像素子103の画素上に偏光フィルタが配置された領域と偏光フィルタが配置されていない領域とを組み合わせた構成とすることも可能である。
次に、複数の偏光角で取得した輝度情報(偏光情報)から任意の偏光角の輝度情報を生成する演算方法について説明する。この演算は、CPU_109の制御下で、偏光演算部108によって行われる。
図4(a)は、人間の眼に届く光の波形を説明する図である。人間の眼に届く光は、偏光成分と無偏光成分(散乱光)が合成された状態になっており、一例として、図4(a)に示す性質の波形として観測される。図4(a)中、‘Imax’は偏光成分と非偏光成分を合成した値であり、‘Imin’は偏光成分を除いた非偏光成分のみの値であり、‘Ib’は偏光成分の位相が0°の場合の出力レベルである。‘Ia’は、ImaxとIminの差の半分の値、つまり、光の振幅値である。図4(a)の波形の輝度Iは、一般式として下記式1の通りに表すことができる。但し、円偏向成分は無偏光成分とする。
図4(b)は、所定の偏光角で実測された輝度値から求められる光の波形を示す図である。つまり、下記式1に、偏光角Ψに0°,45°,90°,135°での実測値を入れる。これにより、下記式2〜5が得られ、これらの中から少なくとも3つ式を用いれば方程式を解くことができ、任意の偏光角の輝度Iを算出することが可能となる。また、ImaxとIminの比率を、下記式6により、偏光度DoLP(Degree of Linear Polarization)として求めることも可能である。他にも、係数θで方程式を解くことにより、偏光角AoLP(Angle of Linear Polarization)を求めることもできる。このように、下記式1と実測値から任意の偏光角における輝度を算出することができ、その結果を反射成分の低減や強調等の画像処理に利用することが可能になる。
Figure 2021141446
図5(a)は、撮像面偏光センサ200の画素配列を示す図である。図5(a)は、基本的に図3と同じ図であるが、図5(b)との比較のために再掲している。図5(b)は、撮像素子133の画素配列を示す図である。撮像素子133では1つの画素501に1色のカラーフィルタが配置されており、且つ、撮像面偏光センサ200と撮像素子133とでカラーフィルタの配置構成は同じである。つまり、撮像素子133の画素サイズは、撮像素子103において1組の偏光フィルタ201〜204に対応する4つの光電変換素子により形成される画素サイズと同じである。具体的には、撮像面偏光センサ200は撮像素子133の4倍の画素数を有しており、撮像素子133の1つの画素501は撮像面偏光センサ200の1つの画素の4倍の面積を有する。
続いて、撮像素子133の画素501での反射成分を、撮像素子103の1組の画素401での画素信号を用いて除去する方法について説明する。図6(a)は、1組の画素401から出力される画素信号の出力レベル(輝度値)を表した図である。図6(b)は、画素501から出力される画素信号の出力レベルを表した図である。
図4を参照して説明したように、撮像面偏光センサ200の同一カラーフィルタの各画素から出力される画素信号から入射光の偏光成分を算出することができ、その結果、図6(a)の波形で示されるような、偏光角と出力レベルとの関係が得られる。図4と同様に、‘Imin’は非偏光成分のみの出力レベルであり、‘Ib’は偏光成分の位相が0°の場合の出力レベルである。
一方、撮像素子133は偏光フィルタを備えていないため、図6(b)に示されるように、画素501からの画素信号の出力レベルLpは、偏光成分と非偏光成分の和となっている。このとき、撮像素子133の非偏光成分のみの出力レベルを‘L’とすると、撮像面偏光センサ200と撮像素子133は同じ被写体を撮像しているため、LとLpとの比は、撮像面偏光センサ200の出力から算出されるIminとIbとの比と同じ値となる。つまり、下記式7で表されるように、撮像面偏光センサ200の出力レベルから算出されるImin,Ibを用い、IminをIbで除算した値を撮像素子133の出力レベルLpに乗算する。これにより、撮像素子133の非偏光成分の出力レベルLを求めることができる。
Figure 2021141446
<第1の撮像制御>
図7は、撮像装置100での第1の撮像制御のフローチャートである。図7にS番号で示す各処理(ステップ)は、CPU_109がROM_111に格納されている所定のプログラムをRAM_112に展開して、撮像装置100の各部の動作を統括的に制御することにより実現される。
S701にてCPU_109は、撮像面偏光センサ200からの出力を、カラーフィルタの色ごとに偏光フィルタ201〜204が1つずつ配置された4つの画素を1組とし、組ごとに4つの画素から出力レベルを比較して輝度差を求める。S702にてCPU_109は、S701での得られた輝度差が所定の閾値より大きいか否かを判定する。CPU_109は、輝度差が所定の閾値以下であると判定した場合(S702でNO)、処理をS703へ進め、輝度差が所定の閾値より大きいと判定した場合(S702でYES)、処理をS704へ進める。
S703にてCPU_109は、輝度差が所定の閾値以下の1組の画素を非偏光画素であると判定し、その後は処理をS706へ進める。S704にてCPU_109は、輝度差が所定の閾値より大きい1組の画素を偏光画素であると判定する。そして、S705にてCPU_109は、偏光画素ごとに反射除去用補正値を演算する。補正値演算処理では、前述した、IminとIbの比が反射除去用補正値として算出される。
S706にてCPU_109は、S705で算出された補正データから、撮像素子133から出力される映像の反射除去用の補正マップを作成する。S707にてCPU_109は、映像処理部116により、位置合わせ処理を行う。位置合わせ処理は、撮像面偏光センサ200と撮像素子133にはそれぞれ別の光学系を通して映像が結像しており、互いの被写体像に微小なずれが生じる可能性があるため、このずれを補正するために行われる。S708にてCPU_109は、映像処理部116により、撮像素子133から出力された映像信号に対して、S707での位置合わせ結果を考慮した上でS706で作成した補正データを用いて反射除去補正を行って撮影画像を生成し、本処理を終了させる。
以上の通りの撮像制御では、偏光フィルタ102を備えていない撮像素子133により得られる信号をベースとして不要反射光等を除去した映像を得ることができる。よって、レンズ前でPLフィルタを回転させる等の操作を行う必要がないため、所望の映像を取得するタイミングを逸してしまうことなく、迅速に撮像を行うことが可能になる。また、撮像素子133は偏光フィルタ102を備えていないために、偏光フィルタ102による入射光量の低下が生じない。そのため、撮像素子133を所望の感度に設定して撮像することが可能になる。
<第2の撮像制御>
偏光フィルタ102を備えた撮像素子103(撮像面偏光センサ200)と偏光フィルタを備えない撮像素子133では、偏光フィルタ102の影響で、撮像素子133の方が撮像素子103よりも感度が小さい。そのため、撮像素子133では飽和していなくとも撮像素子133では飽和していることがあり、その場合に第1の撮像制御では、反射除去を適切に行うことができないおそれがある。そこで、第2の撮像制御では、偏光フィルタ102を備えない撮像素子133の画素が飽和した場合に、撮像素子133の画素信号を撮像面偏光センサ200の対応する画素信号で入れ替える処理を行う。
図8は、第2の撮像制御のフローチャートである。図8にS番号で示す各処理(ステップ)は、CPU_109がROM_111に格納されている所定のプログラムをRAM_112に展開して、撮像装置100の各部の動作を統括的に制御することにより実現される。
S801〜S807の処理は、S701〜S707の処理と同じであるため、ここでの説明を省略する。続いて、CPU_109は、撮像素子133からの信号に対する飽和検出処理を行い、検出結果に応じて処理を分岐させる。すなわち、S808にてCPU_109は、撮像素子133の画素信号に飽和が生じているか否かを判定する。CPU_109は、撮像素子133の画素信号に飽和が生じていると判定した場合(S808でYES)、処理をS809へ進め、撮像素子133の画素信号に飽和が生じていないと判定した場合(S808でNO)、処理をS810へ進める。
S809にてCPU_109は、撮像素子133の飽和した画素信号を撮像面偏光センサ200の対応する画素信号で入れ替え、その後、本処理を終了させる。一方、S810にてCPU_109は、S708と同様の反射除去処理を行い、その後、本処理を終了させる。
ところで、上述した第1及び第2の撮像制御では、高周波成分を持つ被写体の場合には、解像度が異なるために反射成分を正しく除去することが困難となることがある。そこで、例えば、CPU_109又は映像処理部116により被写体のコントラストを検出して周波数成分を抽出し、一定以上の高周波成分を持つ被写体の場合には、上記の第1及び第2の撮像制御を実施しないようにする。これにより、不自然な映像が撮影されてしまうことを防止することができる。
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。更に、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 撮像装置
101,131 光学レンズ
102 偏光フィルタ
103,133 撮像素子
108 偏光演算部
109 CPU
116 映像処理部
200 撮像面偏光センサ
201〜204 偏光フィルタ

Claims (10)

  1. 偏光方向の異なる複数の偏光フィルタを1組として複数の光電変換素子に対応付けられ、且つ、1色のカラーフィルタが配置された第1の撮像素子と、
    第2の撮像素子と、
    前記1組の偏光フィルタが配置された領域ごとに、前記第1の撮像素子の画素から出力される信号に基づいて前記領域へ入射する光の偏光成分を検出する偏光検出手段と、
    前記第2の撮像素子から出力された信号を前記偏光検出手段による検出結果に基づいて補正する補正手段と、を備えることを特徴とする撮像装置。
  2. 前記第1の撮像素子において前記複数の偏光フィルタは前記光電変換素子ごとに偏光方向を変えて配置され、
    前記補正手段は、前記偏光成分が所定の閾値よりも大きい場合の前記領域の画素信号を用いて前記第2の撮像素子の前記領域に対応する画素から出力された信号を補正することを特徴とする請求項1に記載の撮像装置。
  3. 前記第2の撮像素子からの信号において飽和した画素信号を検出する飽和検出手段と、
    前記補正手段は、前記飽和検出手段により前記第2の撮像素子からの信号に飽和した画素信号が検出された場合に、前記飽和した画素信号を前記第1の撮像素子の対応する画素の信号で入れ替えることを特徴とする請求項1又は2に記載の撮像装置。
  4. 被写体の周波数成分を検出する周波数検出手段を備え、
    前記補正手段は、前記周波数検出手段により前記被写体の周波数成分が多いことが検出された場合に、前記第2の撮像素子から出力された信号の補正を行わないことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記1組の偏光フィルタは、少なくとも偏光方向の異なる3つの偏光フィルタを備えることを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 前記補正手段は、前記第2の撮像素子の画素ごとに、前記第1の撮像素子から得られる非偏光成分のみの輝度値を前記第1の撮像素子から得られる偏光成分の位相が0°の場合の輝度値で除算した値を前記第2の撮像素子から得られる輝度値に乗算することで、前記第2の撮像素子から得られる輝度値を補正することを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 被写体からの光を前記第1の撮像素子に導く第1の光学系と、
    前記被写体からの光を前記第2の撮像素子に導く第2の光学系と、
    前記第1の撮像素子及び前記第2の撮像素子からそれぞれ得られる信号に対して、前記第1の撮像素子により得られる被写体と前記第2の撮像素子により得られる被写体との位置のずれを補正する位置合わせ手段と、を備えることを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
  8. 前記カラーフィルタは、赤、緑及び青のカラーフィルタがベイヤー配列にて配置されていることを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
  9. 前記第2の撮像素子の画素サイズは、前記第1の撮像素子において前記1組の偏光フィルタに対応する前記複数の光電変換素子により形成される画素サイズと同じであることを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
  10. 画素ごとに偏光方向を変えて配置された複数の偏光フィルタを1組として前記1組の偏光フィルタに対応する領域に1色のカラーフィルタが配置された第1の撮像素子と、第2の撮像素子と、を備える撮像装置の制御方法であって、
    前記1組の偏光フィルタが配置された領域ごとに、前記第1の撮像素子の前記領域の複数の画素から出力される信号に基づいて当該領域への入射光の偏光成分を検出するステップと、
    前記偏光成分が所定の閾値よりも大きいか否かを判定するステップと、
    前記偏光成分が所定の閾値よりも大きい場合に、前記第1の撮像素子の前記領域の画素信号を用いて前記第2の撮像素子の前記領域に対応する画素の画素信号を補正した信号を生成するステップと、
    前記偏光成分が所定の閾値よりも小さい場合の前記領域に対応する前記第2の撮像素子の画素信号と、前記補正した信号とを用いて撮影画像を生成するステップと、を有することを特徴とする撮像装置の制御方法。
JP2020037917A 2020-03-05 2020-03-05 撮像装置及びその制御方法 Pending JP2021141446A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020037917A JP2021141446A (ja) 2020-03-05 2020-03-05 撮像装置及びその制御方法
US17/176,631 US11569283B2 (en) 2020-03-05 2021-02-16 Image pickup apparatus having image sensor equipped with polarizing element and control method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020037917A JP2021141446A (ja) 2020-03-05 2020-03-05 撮像装置及びその制御方法

Publications (1)

Publication Number Publication Date
JP2021141446A true JP2021141446A (ja) 2021-09-16

Family

ID=77556353

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020037917A Pending JP2021141446A (ja) 2020-03-05 2020-03-05 撮像装置及びその制御方法

Country Status (2)

Country Link
US (1) US11569283B2 (ja)
JP (1) JP2021141446A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW202131671A (zh) * 2019-10-07 2021-08-16 日商索尼半導體解決方案公司 電子機器
KR20220036014A (ko) * 2020-09-15 2022-03-22 삼성전자주식회사 이미지 센싱 시스템

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9473708B1 (en) * 2013-08-07 2016-10-18 Google Inc. Devices and methods for an imaging system with a dual camera architecture
JP6566749B2 (ja) * 2015-07-01 2019-08-28 株式会社ソニー・インタラクティブエンタテインメント 撮像素子、イメージセンサ、および情報処理装置
JP6914001B2 (ja) * 2015-08-12 2021-08-04 株式会社ソニー・インタラクティブエンタテインメント 撮像素子、イメージセンサ、撮像装置、および情報処理装置
JP6746404B2 (ja) 2016-07-01 2020-08-26 キヤノン株式会社 偏光情報取得装置、偏光情報取得方法、プログラムおよび記録媒体
JP2019004203A (ja) * 2017-06-12 2019-01-10 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、撮像装置、画像処理方法、および、プログラム。
CN110832842B (zh) * 2017-07-12 2021-10-15 索尼公司 成像装置和图像产生方法
CN108566504B (zh) * 2018-05-22 2021-01-26 京东方科技集团股份有限公司 一种双摄像头模组、电子设备及其图像获取方法
CN109164624B (zh) * 2018-09-30 2021-08-17 京东方科技集团股份有限公司 显示面板、显示装置及其图像获取方法

Also Published As

Publication number Publication date
US11569283B2 (en) 2023-01-31
US20210280618A1 (en) 2021-09-09

Similar Documents

Publication Publication Date Title
JP7145208B2 (ja) デュアルカメラベースの撮像のための方法および装置ならびに記憶媒体
KR101246738B1 (ko) 화상처리장치 및 화상처리방법, 및, 데이터 처리장치 및 데이터 처리 방법
US9030543B2 (en) Endoscope system
JP5701785B2 (ja) カメラモジュール
US11399144B2 (en) Imaging apparatus, image forming method, and imaging system
US20130016251A1 (en) Solid-state imaging device, image processing apparatus, and camera module
US20170251911A1 (en) Imaging system
US8988591B2 (en) Solid-state imaging device, camera module, and focus adjustment method of camera module
US20130235181A1 (en) Information processing apparatus, information processing method, program, and imaging apparatus including optical microscope
JP2013062626A (ja) 撮像装置、画像処理方法およびプログラム
JP2021141446A (ja) 撮像装置及びその制御方法
JP2008026353A (ja) 偏光方向検出装置とこれを有する撮像装置
JP2018101951A (ja) 撮像装置、撮像方法およびコンピュータのプログラム
JP6818444B2 (ja) 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法
JP6291747B2 (ja) 光学的ローパスフィルタ、撮像デバイスおよび撮像装置
JP2010141814A (ja) 画像処理装置、撮像装置、プログラムおよび画像処理方法
JP7483368B2 (ja) 画像処理装置、制御方法およびプログラム
JP2021097347A (ja) 撮像装置およびその制御方法、プログラム
JPWO2017191716A1 (ja) 表示制御装置および撮像装置
US9229211B2 (en) Imaging apparatus, imaging control program, and imaging method
JP2014026050A (ja) 撮像装置、画像処理装置
JP4966172B2 (ja) 撮像装置
US10334161B2 (en) Image processing apparatus, image processing method, computer program and imaging apparatus
JP2018182470A (ja) 波長選択偏光分離方式を採用した立体撮像装置
JP2017212678A (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240402

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240528

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240610