JP2021097346A - 撮像装置およびその制御方法、プログラム - Google Patents

撮像装置およびその制御方法、プログラム Download PDF

Info

Publication number
JP2021097346A
JP2021097346A JP2019228208A JP2019228208A JP2021097346A JP 2021097346 A JP2021097346 A JP 2021097346A JP 2019228208 A JP2019228208 A JP 2019228208A JP 2019228208 A JP2019228208 A JP 2019228208A JP 2021097346 A JP2021097346 A JP 2021097346A
Authority
JP
Japan
Prior art keywords
image data
image
polarization
subject
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019228208A
Other languages
English (en)
Other versions
JP7446804B2 (ja
JP2021097346A5 (ja
Inventor
武範 小布施
Takenori Obuse
武範 小布施
石川 義和
Yoshikazu Ishikawa
義和 石川
木村 孝行
Takayuki Kimura
孝行 木村
雄介 山下
Yusuke Yamashita
雄介 山下
徳朗 西田
Tokuaki Nishida
徳朗 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019228208A priority Critical patent/JP7446804B2/ja
Priority to US17/121,105 priority patent/US11503218B2/en
Publication of JP2021097346A publication Critical patent/JP2021097346A/ja
Publication of JP2021097346A5 publication Critical patent/JP2021097346A5/ja
Application granted granted Critical
Publication of JP7446804B2 publication Critical patent/JP7446804B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/19Dichroism
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Pathology (AREA)
  • Immunology (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Blocking Light For Cameras (AREA)
  • Exposure Control For Cameras (AREA)

Abstract

【課題】 ユーザによる煩雑な操作を必要とせず、撮像装置による自動的な露出制御により不自然な明るさの画像が得られること。【解決手段】 異なる複数の偏光角度を有する領域を備えた偏光フィルタを介して得られた被写体の光学像を撮像する第1の撮像素子と、第1の撮像素子から出力された信号に基づく複数の画像データに基づいて、被写体の偏光情報を取得する情報取得手段と、測光を行う測光手段と、測光手段による測光の結果に基づいて被写体を撮像して画像データを取得する際の露出を制御する露出制御手段と、を有し、複数の画像データは、偏光フィルタの異なる複数の偏光角度を有する領域を介して得られた偏光角度が異なる複数の画像データであって、測光手段は、偏光情報に基づいて、複数の画像データに対する測光の重みづけ度合を異ならせることで測光行うことを特徴とする構成とした。【選択図】 図1

Description

本発明は、撮像装置とその制御方法およびプログラムに関して、特に、露出制御に用いる測光値の取得方法に関する。
従来、デジタルカメラなどの撮像装置においては、任意の被写体に対応した適切な明るさの画像を取得するための種々の技術が知られている。例えば、撮像領域(撮影画面)内に人物の顔が存在している場合に、顔検出によって検出された顔領域を主たる被写体と判断し、当該顔領域が適正な明るさとなるように撮像装置が自動的にフォーカスやホワイトバランス、露出などを調整する。特許文献1では、デジタルカメラにおいて顔として認識された部分の測光値と画面全体の測光値とに重み付けをして露出制御用の測光値を生成する技術について提案されている。
特開2016−85248号公報
しかしながら、特許文献1で提案の技術では、例えば、撮像領域内に光源によって照らされた反射光領域が含まれる場合、この反射光領域に含まれる被写体領域の測光値を正しく算出できない。この場合、反射光領域を鑑みた測光値に基づいて露出制御が行われるため、被写体が暗い画像が得られてしまう虞があり、適切な明るさの画像を得ることができない。
例えば、偏光フィルタなどを用いて、任意の偏光成分を除去した画像を得ることで、上述した反射光領域の影響を低減することができる。しかしながら、一般的に、反射光領域の反射光成分を除去できる偏光角の偏光フィルタは、ユーザ自身が選択する必要があり、撮像装置における自動的な露出制御に際して、ユーザの操作が煩雑になる虞がある。
本発明の目的は、ユーザによる煩雑な操作を必要とせず、撮像装置による自動的な露出制御により不自然な明るさの画像が得られることを低減することである。
上述の問題点を解決するため、本発明の撮像装置は、異なる複数の偏光角度を有する領域を備えた偏光フィルタを介して得られた被写体の光学像を撮像する第1の撮像素子と、前記第1の撮像素子から出力された信号に基づく複数の画像データに基づいて、被写体の偏光情報を取得する情報取得手段と、前記画像データに基づいて測光を行う測光手段と、前記測光手段による測光の結果に基づいて被写体を撮像して画像データを取得する際の露出を制御する露出制御手段と、を有し、前記複数の画像データは、前記偏光フィルタの異なる複数の偏光角度を有する領域を介して得られた偏光角度が異なる複数の画像データであって、前記測光手段は、前記偏光情報に基づいて、前記複数の画像データに対する測光の重みづけ度合を異ならせることで測光行うことを特徴とする。
本発明によれば、ユーザによる煩雑な操作を必要とせず、撮像装置による自動的な露出制御により不自然な明るさの画像が得られることを低減することができる。
本発明を実施した撮像装置の第1実施形態である撮像装置100の構成を説明するブロック図である。 本発明の第1実施形態に係るセンサ102の画素および偏光フィルタの関係を例示的に説明する図である。 本発明の実施形態に係る、自動車の窓ガラスにおいて光の反射が発生しうる条件における偏光角度ごとの画像データを例示的に説明する図である。 本発明に係る第1実施形態の露出制御処理を例示的に説明するフローチャートである。 本発明の第2実施形態に係る、偏光角度Ip−pの角度依存成分の算出方法を例示的に説明する図である。 発明の第3実施形態に係る撮像装置600の構成を説明するブロック図である。
(第1実施形態)
(撮像装置100の基本構成)
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて説明する。図1は、本発明を実施した撮像装置の第1実施形態である撮像装置100の構成を説明するブロック図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよい。また、CPUやMPU等のプログラマブルプロセッサ(マイクロプロセッサ、マイクロコンピュータ)がソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。したがって、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
光学レンズ101は、被写体の光学像を示す光束を撮像装置100の内部に導くための撮像光学系であって、後述するセンサ102の撮像面に光を結像することができる。
センサ102は、光学レンズ101により導かれた被写体の光束を受光して電気的な画像信号に変換することができるCMOS等の電荷蓄積型の固体撮像素子を採用した撮像手段である。なお、撮像装置100においては、被写体の光束に対応する光学像を電気信号への変換する際の感度(受光感度)を変更することが可能である。この受光感度の調整および画像信号に変換後のデジタルゲイン量の調整により、画像信号の明るさを調整することができる。本実施形態では、これらを総称して撮影感度とし、撮像装置100においては、ISO感度を変更することで、この撮影感度を調整することが可能である。
なお、センサ102は、各画素上に偏光フィルタを備え、偏光フィルタの偏光角度として、少なくとも異なる3つ以上の角度を備える。この偏光フィルタを備えたセンサ102の詳細について、図2を参照して例示的に説明する。図2は、本発明の第1実施形態に係るセンサ102の画素および偏光フィルタの関係を例示的に説明する図である。図2(a)は、センサ102の一部領域201に含まれる各画素と偏光フィルタの偏光角度の関係を説明する図であって、図2(b)は、一部領域201の各画素とカラーフィルタの並びを説明する図である。
図2(a)に図示するように、センサ102は、例えば、16画素(連続する縦4画素×横4画素)を1つの画素群とする一部領域201について、各画素に合わせて偏光角度が0°、45°、90°、135°となる偏光フィルタが規則的に配設されている。なお、偏光角度の並びはこれに限定されるものではないが、後述するカラーフィルタの配置に合わせて、規則的に各偏光フィルタを並べる方が、各偏光角度の画像データを得る際の処理負荷が軽減されるので好ましい。また、偏光角度としては上述した4つの角度以外を用いてもよい。
また、図2(b)に図示するように、一部領域201を構成する4画素(連続する縦2画素×横2画素)ごとに同一のカラーフィルタが配されている。本実施形態では、図2(b)に図示するように、一部領域201における左上4画素に合わせてカラーフィルタRが配されている。また、一部領域201における左下4画素および右上4画素に合わせてカラーフィルタGbとGrが配されている。そして、一部領域201における右下4画素に合わせてカラーフィルタBが配されている。
したがって、センサ102は、一部領域201構成する4画素単位に合わせて所謂ベイヤー配列のカラーフィルタが搭載されている。したがって、一部領域201を基準とした場合、(不図示)のカラーフィルタごとに4つの偏光角度で撮像した画像信号が得られ、R、Gr、Gb、Bの各色成分を合わせた偏光角度ごとの画像信号を得ることができる。また、後述するように、本実施形態では、偏光角度が異なる4画素から得られる信号に基づいて、被写体の偏光情報を取得することができる。なお、本実施形態における偏光情報は、各偏光角度に対応した画素から出力された画素レベルの差分値として示される。
図1に戻り、画像取得部103は、センサ102の出力を画像データとして取得する画像取得手段である。なお、センサ102の出力に基づいて各偏光角度の画像データは、偏光算出部104に出力する。また、記録用の画像データは画像処理部107へ出力する。
偏光算出部104は、画像取得部103から出力された画像データに基づいて、撮像範囲に含まれる被写体に対応した偏光角度を算出する算出手段(偏光情報取得手段)であって、被写体の偏光情報を取得することができる。具体的に、偏光算出部104は、各偏光角度の偏光フィルタに対応する画素から出力された信号に基づいて、0°、45°、90°、135°に対応する4画素を1組とし、上記4つの偏光角度に応じた画素の信号レベルのうちの最大値から最小値から引いた差分値を求める。この差分値の積分値が所定の閾値よりも大きい領域は、被写体による光の反射が生じているものと判断できる。例えば、撮像装置100に予め設定されている測光用の測光枠を所定の領域とした場合、この領域における前述した差分値の積分値を用いて、測光枠ごとに反射が生じているか否かを検出することができる。
図3は、本発明の実施形態に係る、自動車の窓ガラスにおいて光の反射が発生しうる条件における偏光角度ごとの画像データを例示的に説明する図である。図3に図示するように、偏光角度が0°の画像データでは窓ガラスの反射が小さく、自動車に搭乗している人物の顔領域が鮮明に見える状態である。対して、偏光角度が90°の画像データでは、窓ガラスにおける光の反射が大きく、搭乗している人物の顔領域がよく見えない。なお、偏光角度が45°と135°の場合の画像データは、偏光角度が0°の時と90°のときの中間的な反射度合の画像データとなる。
図3に図示する差分画像は、上述した条件において窓ガラス以外の部分における光の反射がないものと仮定した場合に、各偏光角度の画像データから得られた画像の信号レベルの最大値と最小値の差分値に基づく画像である。この場合、窓ガラス部分について、反射の度合いが最大となる偏光角度90°の画像データと、反射の度合いが最小となる偏光角度0°の画像データの差分に基づく差分画像が取得され、窓ガラス部分の反射の度合いが大きいことがわかる。仮に、図3に図示する位置に測光枠が設定されている場合、偏光算出部104は、当該測光枠において光の反射が発生していると判断する。
図1に戻り、測光値算出部105は、露出制御用の評価値として測光値を算出する測光手段である。なお、本実施形態における露出制御で調整可能な露出値は、絞りの開口径に関する絞り値、センサ102における電荷蓄積時間に係るシャッター速度、ISO感度とするが、これ以外の露出値を調整可能であってもよい。
測光値算出部105は、例えば、偏光算出部104によって光の反射が発生していると判断された場合に、偏光角度ごとに得られた複数の画像データのうち、測光枠に含まれる画素の信号レベルが最も小さい画像データを用いて測光値を算出する。また、例えば、偏光算出部104によって光の反射が発生していないと判断された場合、偏光角度によらず、全画素の画像データを用いて測光値を算出する。なお、全画素の画像データは、各偏光角度の画像データの画素の信号レベルを加算したデータであればよい。なお、任意の偏光角度の画像データと全画素の画像データとの何れを測光値の算出に用いるかは、偏光算出部104の判断以外の条件(例えば、ユーザが任意選択)によって選択可能であってもよい。また、測光値の算出方法としては、公知の方法であればどのようなものであってもよいが、例えば、画像データを複数のブロックに分割し、各ブロックの信号レベルの平均値(輝度値)を算出する。そして、各ブロックの輝度値を積分して代表輝度値(測光値)を取得する。例えば、測光枠に含まれる領域に対する重み付け度合を他の領域よりも大きくしてもよいし、測光枠に含まれる領域のみの輝度値に基づいて測光値を算出する構成であってもよい。その他、測光方式に応じた測光値の算出方法を適宜設定可能である。
露出制御部106は、前述した露出値(絞り値、シャッター速度、ISO感度)を用いた露出制御を実行する露出制御手段であって、測光値算出部105で求めた測光値に基づいて、被写体が適切な明るさ(露出状態)になるように制御を行う。
画像処理部107は、各偏光角度に対応する画像データを用いた任意の合成処理や、ディベイヤー処理、ガンマ補正などの種々の処理を実行する画像処理手段である。具体的に、合成処理の一例としては、偏光算出部104による判断結果に基づいて、任意の偏光角度の画像データを選択して出力する、あるいは、各偏光角度の画像データを加重平均して出力することで、画像データにおける反射の度合いを任意に調整した1フレーム分の画像データを生成できる。そして、画像処理部107は、合成処理を施した後に、前述したディベイヤー処理やガンマ補正、また、ニー補正、ノイズリダクションなどの所定の画像処理を施すことができる。本実施形態では、信号出力部108に出力する画像データに施す種々の処理に関してはこれに限定されるものではなく、その他の処理を施すことが可能な構成であってもよい。また、画像処理部107は、得られた画素データのまま後段の各部に出力することもできる。
信号出力部108は、画像処理部107から入力された画像信号を不図示の記憶手段(外部の記憶媒体を含む)へ出力する、および、不図示の表示部へ表示用の画像データを出力する信号出力手段である。
カメラ制御部109は、撮像装置100および撮像装置100に装着されたカメラアクセサリの各部を統括的に制御する制御手段であって、不図示のマイクロプロセッサ(CPU)を備えている。なお、本実施形態では、カメラ制御部109により、前述した各部の動作が制御される構成であるが、カメラ制御部109以外の各部が協調して各動作を制御する構成であってもよい。
(露出制御の詳細説明)
次に、図4を参照して本実施形態に係る露出制御処理の詳細について説明する。図4は、本発明に係る第1実施形態の露出制御処理を例示的に説明するフローチャートである。例えば、ユーザにより、不図示のレリーズ手段等の操作部材が操作されたことに応じて、撮像準備が指示されたことに応じて図4に図示する露出制御処理が開始される。なお、露出制御処理の開始タイミングはこれに限定されるものではなく、所謂ライブビュー表示中に所定の間隔で露出制御処理を実行する構成であってもよいし、撮像準備以外の指示に応じて露出制御処理を実行する構成であってもよい。
ステップS401でカメラ制御部109は、測光用の画像データを取得する。なお、測光用の画像データは、前述したように、各偏光角度の画像データを得るための情報を含むものであればデータ形式はどのようなものであってもよい。
次に、ステップS402でカメラ制御部109は、測光枠を設定する。測光枠の設定は、撮像装置100が任意の被写体を自動で検出し、当該被写体に応じた枠を設定する構成であってもよいし、撮像範囲の予め決められた領域に任意の枠を設定する構成であってもよい。また、ユーザが、撮像範囲の所定の位置に所定の大きさの枠を任意に設定する構成であってもよい。
次に、ステップS403でカメラ制御部109は、先に得た測光用の画像データに基づく各偏光角度の画像データに基づいて、偏光角度0°、45°、90°、135°のうち、画素の信号レベルの最大値を含む画像データと最小値を含む画像データの差分値を算出する。差分値の算出方法については前述した通りである。
次に、ステップS404でカメラ制御部109は、ステップS403で算出した差分値と撮像装置100の記憶領域(不図示)に記憶された所定の閾値とを比較し、差分値が所定の閾値以上であるか否かを判断する。
差分値が閾値以上である(ステップS404でYES)と判断された場合は、画像データ(撮像範囲)に反射の度合いが大きい領域が存在すると判定し、ステップS405でカメラ制御部109は、測光値の算出に用いる偏光角度の画像データを設定する。差分値が閾値よりも小さい(ステップS404でNO)と判断された場合は、画像データに反射の度合いが大きい領域が存在しないと判定し、ステップS406でカメラ制御部109は、測光値の算出に用いる画像データを全画素の画像データに設定する。なお、前述したように、全画素の画像データは、各偏光角度の画像データに基づき全偏光角の画素の信号レベルを含むデータであればよく、センサ102の全画素から出力された画像データでなくてもよい。
次に、ステップS407でカメラ制御部109は、先に設定した測光値の算出に用いる画像データに基づいて測光値を算出する。次に、ステップS408でカメラ制御部109は、ステップS407の処理で算出した測光値に基づき被写体の明るさが適正となるような露出(各露出値の組み合わせ)を決定する。そしてステップS409でカメラ制御部109は、ステップS408で決定した各露出値となるように撮像装置100の各部を制御して露出制御処理を終了する。なお、露出値の決定方法は公知の方法であればどのような方法であってもよい。例えば、本実施形態では、撮像装置100の記憶領域(不図示)に予め記録されているプログラム線図などに基づいて、被写体の明るさに適した露出値の組み合わせを決定する。以上が本実施形態に係る露出制御処理である。なお、露出制御処理は、例えば撮像準備指示が継続している場合など、連続的に実行される構成であってもよい。
以上説明したように、本実施形態に係る撮像装置100は、センサ102から異なる偏光角度ごとの複数の画像データ(偏光角度に関する情報)を出力可能であって、撮像対象の被写体における反射の度合いを検出したうえで、適切な露出制御を行うことができる。この構成により、例えば、ユーザ自身の判断により所定の偏光角度の偏光フィルタを撮像装置100に取り付けるなどの煩雑な操作を必要とせず、撮像装置による自動的な露出制御により不自然な明るさの画像が得られることを低減することができる。
なお、本実施形態では、センサ102自体に偏光フィルタを備える構成について説明したが、例えば、センサ102とは異なる偏光フィルタを備える構成であってもよい。この場合、センサ102の任意の画素群(1画素のみを含む)に合わせて偏光角度が配設された偏光フィルタを用いればよい。また、偏光フィルタやカラーフィルタの配列方法、カラーフィルタの有無は前述した構成に限定されるものではなく、少なくとも3つ以上の異なる偏光角度で得られた画像データに基づいて、被写体の反射の度合いを検出できる構成であればよい。
また、本実施形態では、それぞれの偏光角度が異なる複数の画像データのうち、反射の度合いが大きい場合に、反射の影響が最も抑制される偏光角度の画像データに基づいて測光を行い測光値を算出する構成であるが、これに限定されるものではない。例えば、複数の偏光角度の画像データのすべてを用いて測光を行う構成において、被写体における反射の影響が最も抑制される偏光角度の画像データに対する測光の重みづけ度合を、他の偏光角度の画像データよりも大きくするような構成であればよい。具体的に、前述した実施形態では、被写体における反射の影響が最も抑制される偏光角度の画像データに対する測光の重みづけ度合を1とし、他の偏光角度の画像データに対する重みづけの度合いを0とする場合について説明した。これに対して、被写体における反射の影響が最も抑制される偏光角度の画像データに対する測光の重みづけ度合を0.7とし、他の偏光角度の画像データに対する重みづけの度合いを0.1とする構成であってもよい。
(第2実施形態)
前述した第1実施形態では、各偏光角度の画像データをそのまま測光値の算出に用いる構成について説明した。これに対して、本実施形態では、複数の偏光角度に関する情報に基づいて、画素ごとの偏光角度の依存成分を算出することで、より効果的に被写体の反射成分の除去を行う場合について説明する。なお、本実施形態に係る撮像装置100については、前述した第1実施形態の撮像装置100と同一の構成および部材については説明を省略し同一の符号および部番を付す。
図5は、本発明の第2実施形態に係る、偏光角度Ip−pの角度依存成分の算出方法を例示的に説明する図である。なお、図5では、前述した図2(a)で図示したような4つの偏光角度(0°、45°、90°、135°)の画像データを出力する場合を仮定しており、縦軸は任意画素の輝度値(測光値)、横軸は各偏光角度を示している。また、図5は、4つの偏光角度の画像データにおいて、対応する1画素の測光値(輝度値)を偏光角度ごとにプロットすることで得られる分布図である。そして、図5に図示する関数I(θ)は、各偏光角度の画像データに基づく4つの輝度値と180°周期の正弦関数または余弦関数にフィッティングを行うことで任意のカーブ(フィッティングカーブ)を求めたものである。ここで、輝度値の単位は、所謂APEX(ADDITIVE SYSTEM OF PHOTOGRAPHIC EXPOSURE)システムにおける1BVを輝度値の1段分とするが、他の単位を用いて輝度値を表す構成であってもよい。
図5に図示するように、本実施形態では、複数の偏光角度の画像データに基づいて得られたフィッティングカーブから、最大の輝度値Imax、最小の輝度値Iminを算出し、両者の差分を、被写体の偏光角度の角度依存成分Ip−pとする。すなわち、角度依存成分Ip−p=Imax−Iminとする。この角度依存成分Ip−pは、被写体における反射の度合いを判断するための情報である。
この構成により、複数の偏光角度の画像データとは異なる偏光角度の方が、より輝度値(画素の信号レベル)が大きくなる偏光角度や小さくなるような場合を考慮して、被写体の偏光角度の角度依存成分を正確に求めることができる。具体的に、例えば、図5に図示するフィッティングカーブでは、画像データから算出される輝度値の最小値は偏光角度の45°と90°の間に位置し、輝度値の最大値は偏光角度の135°以降に位置する。このような場合でも、本実施形態では、複数のサンプリングデータから近似して求めたフィッティングカーブから輝度値の最小値と最大値を算出できるため、前述した第1実施形態よりも、被写体の明るさに応じた正確な測光値を算出することができる。
なお、3つ以上の偏光角度に関する画像データの輝度値が判明すれば、最小二乗法等の最適化技術を適用して、被写体の偏光角度の角度依存成分Ip−pを算出することができる。この場合、より精度が高いフィッティングカーブを求めるために、サンプリングする偏光角度がある程度離れていた方よく、本実施形態では、45°間隔の偏光角度でサンプリング用の画像データを取得する。
以上説明したように、本実施形態に係る撮像装置100は、異なる偏光角度の複数の画像データに基づいて偏光角度の角度依存成分を求め、当該角度依存成分に基づいて測光値を算出することができるため、より適正な露出制御を行うことができる。この構成により、例えば、ユーザの煩雑な操作を必要とせず、撮像装置による自動的に高精度な露出制御を行うことができるため、不自然な明るさの画像が得られることを低減することができる。
(第3実施形態)
前述した第1実施形態では、偏光フィルタが配設されたセンサ102を用いて偏光角度ごとの複数の画像データおよび記録用の画像データ(静止画像または動画像)を取得する構成について説明した。これに対して、本実施形態では、偏光角度ごとの複数の画像データを取得する撮像素子と、記録用の画像データを取得する撮像素子を分けた場合について具体的に説明する。図6は、本発明の第3実施形態に係る撮像装置600の構成を説明するブロック図である。図6示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよい。また、CPUやMPU等のプログラマブルプロセッサ(マイクロプロセッサ、マイクロコンピュータ)がソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。したがって、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。なお、本実施形態に係る撮像装置600については、前述した第1実施形態の撮像装置100と同一の構成および部材については説明を省略し同一の符号および部番を付す。
第2の光学レンズ601は、前述した第1実施形態の(第1の)光学レンズ101と同様に、被写体の光学像を示す光束を撮像装置600の内部に導くための撮像光学系であって、後述するセンサ602の撮像面に光を結像することができる。なお、第1の光学レンズ101と第2の光学レンズ601とは、同一の構成である必要はなく、例えば、焦点距離や絞り機構などが異なる構成であってもよい。
第2のセンサ602は、前述した(第1の)センサ102と同様に、電荷蓄積型の固体撮像素子を採用した撮像手段であるが、第1のセンサ102とは異なり、偏光フィルタを備えていない。なお、第2のセンサ602は、(不図示の)カラーフィルタを搭載しているが、用途によってはこの限りではない。以上が、本実施形態に係る撮像装置600と前述した第1実施形態の撮像装置100との構成上の差異である。
なお、本実施形態の撮像装置600では、第1のセンサ102と第2のセンサ602から出力された信号が同一の画像取得部103に入力され、画像データを取得する構成であるが、例えば、センサごとに画像取得部を分ける構成であってもよい。
本実施形態では、異なる2つのセンサを備え、一方が偏光フィルタを備えた(または偏光フィルタを介して得られた被写体の光学像に係る電荷蓄積を行う)撮像素子であって、他方は偏光フィルタを介さずに電荷蓄積を行う撮像素子である。偏光フィルタは、無偏光(自然光)から特定の振動方向の光のみを抽出することができ、換言すると、任意の偏光角度以外の信号方向の光を除去するフィルタである。このような偏光効果を備えるフィルタを介することで、偏光フィルタを介していない状態で得られる画像データと比較して分光特性の違いなどによる画像データの劣化が生じる虞がある。
そこで、本実施形態では、測光用の画像データは偏光フィルタを備えた第1のセンサ102を用いて取得し、記録用の静止画像データは偏光フィルタを備えていない第2のセンサ602を用いて取得する。すなわち、取得する画像データの種類に応じて、いずれの撮像素子の出力に基づいて画像を取得するかが異なる。この構成により、偏光フィルタを用いることで生じる画像データの品位の低下を抑制して、記録用の画像データを得ることができる。
また変形例として、被写体に高輝度領域が存在する場合や反射度合いが大きい場合などは測光および記録用の画像データを第1のセンサ102を用いて取得し、それ以外の場合は第2のセンサ602を用いる構成あってもよい。この場合、被写体の輝度値や反射度合を示す評価値が所定の閾値を超えているか否かを判定する構成であればよい。
以上説明したように、本実施形態に係る撮像装置600は、状況に応じて、偏光フィルタを介して得られた画像データと、偏光フィルタを介すことなく得られた画像データを使い分けることで、適正な露出制御および高品位な記録用の画像データを得ることができる。この構成により、例えば、ユーザの煩雑な操作を必要とせず、撮像装置による自動的露出制御を行いつつ、高品位な画像データを得ることができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらに限定されず、その要旨の範囲内で種々の変形および変更が可能である。例えば、前述した実施形態では、光学レンズを一体的に備えた撮像装置について説明したが、所謂交換レンズを着脱可能なレンズ交換式の撮像装置を採用する構成であってもよい。
また、前述した実施形態では、露出制御で調整可能な露出値として、シャッター速度、絞り値およびISO感度について説明したが、他の要素に係る露出値を調整可能な構成であってもよい。例えば、前述した第1実施形態における撮像装置100について、センサ102に入射する光量を減光するNDフィルタなどの減光手段を備える構成であれば、NDフィルタの濃度に係る露出値を調整可能な構成であってもよい。
また、前述した実施形態では、撮像素子を構成する画素および画素群ごとに偏光角度が異なる偏光フィルタを採用する例について説明したが、これに限定されるものではない。例えば、第1実施形態のセンサ102において、1画素に対して複数の異なる偏光角度が対応するように偏光フィルタを設ける構成であってもよい。この場合、1つの画素信号において異なる偏光角度を介して偏光できるため、画素単位で複数の振動方向の光以外を除去した画像データを得ることができる。
なお、前述した実施形態では、本発明を実施する撮像装置の一例としてデジタルカメラを想定して説明したが、これに限定されるものではない。例えば、デジタルビデオカメラやスマートフォンなどの可搬デバイスやウェアラブル端末、車載カメラやセキュリティーカメラなど、デジタルカメラ以外の撮像装置を採用する構成であってもよい。
100 撮像装置
102 第1のセンサ
104 偏光算出部
105 測光値算出部
106 露出制御部
109 カメラ制御部
600 撮像装置
602 第2のセンサ

Claims (12)

  1. 異なる複数の偏光角度を有する領域を備えた偏光フィルタを介して得られた被写体の光学像を撮像する第1の撮像素子と、
    前記第1の撮像素子から出力された信号に基づく複数の画像データに基づいて、被写体の偏光情報を取得する情報取得手段と、
    前記画像データに基づいて測光を行う測光手段と、
    前記測光手段による測光の結果に基づいて被写体を撮像して画像データを取得する際の露出を制御する露出制御手段と、
    を有し、
    前記複数の画像データは、前記偏光フィルタの異なる複数の偏光角度を有する領域を介して得られた偏光角度が異なる複数の画像データであって、
    前記測光手段は、前記偏光情報に基づいて、前記複数の画像データに対する測光の重みづけ度合を異ならせることで測光を行うことを特徴とする撮像装置。
  2. 前記測光手段は、前記偏光情報に基づいて、前記複数の画像データのうち、被写体における光の反射の度合いが他の偏光角度の画像データよりも小さい偏光角度の画像データに対する測光の重みづけ度合を、前記他の偏光角度の画像データよりも大きくすることで測光を行うことを特徴とする請求項1に記載の撮像装置。
  3. 前記情報取得手段は、前記偏光情報として、前記複数の画像データに基づいて、各画像データの信号レベルの最小値と最大値との差分値を取得し、撮像範囲において当該差分値と所定の閾値との比較により、被写体における光の反射の度合いを求めることを特徴とする請求項2に記載の撮像装置。
  4. 前記複数の画像データは、少なくとも3つ以上の偏光角度が異なる画像データであることを特徴とする請求項1乃至3の何れか1項に記載の撮像装置。
  5. 前記情報取得手段は、前記偏光情報として、前記複数の画像データをサンプリングすることで被写体の偏光角度の角度依存成分を取得することを特徴とする請求項4に記載の撮像装置。
  6. 前記偏光角度の角度依存成分は、前記複数のデータをサンプリングして得られた偏光角度に応じた被写体の輝度の分布を示すカーブに基づいて算出される情報であることを特徴とする請求項5に記載の撮像装置。
  7. 前記第1の撮像素子とは異なり、偏光フィルタを介することなく得られた被写体の光学像を撮像する第2の撮像素子を有し、
    前記測光手段は、所定の条件に応じて、前記第1の撮像素子から出力された信号に基づく画像データ、または、前記第2の撮像素子から出力された信号に基づく画像データの何れか一方に基づいて測光を行うことを特徴とする請求項1乃至6の何れか一項に記載の撮像装置。
  8. 前記所定の条件は、前記情報取得手段で得た前記偏光情報であることを特徴とする請求項7に記載の撮像装置。
  9. 前記所定の条件は、取得する画像データの種類であることを特徴とし、
    前記測光手段は、取得する画像データが測光用の画像データである場合は、前記第1の撮像素子から出力された信号のみに基づいて測光を行うことを特徴とする請求項7に記載の撮像装置。
  10. 前記第1の撮像素子は、当該第1の撮像素子を構成する画素単位で偏光角度が異なる前記偏光フィルタを備えた撮像素子であることを特徴とする請求項1乃至9の何れか一項に記載の撮像装置。
  11. 異なる複数の偏光角度を有する領域を備えた偏光フィルタを介して得られた被写体の光学像を撮像する第1の撮像素子を備えた撮像装置の制御方法であって、
    前記第1の撮像素子から出力された信号に基づく複数の画像データに基づいて、被写体の偏光情報を取得する情報取得工程と、
    前記画像データに基づいて測光を行う測光工程と、
    前記測光工程の結果に基づいて被写体を撮像して画像データを取得する際の露出を制御する露出制御工程と、
    を有し、
    前記複数の画像データは、前記偏光フィルタの異なる複数の偏光角度を有する領域を介して得られた偏光角度が異なる複数の画像データであって、
    前記測光工程では、前記偏光情報に基づいて、前記複数の画像データに対する測光の重みづけ度合を異ならせることを特徴とする撮像装置の制御方法。
  12. 請求項11に記載の撮像装置の制御方法をコンピュータで実行させるためのコンピュータで読み取り可能なプログラム。
JP2019228208A 2019-12-18 2019-12-18 撮像装置およびその制御方法、プログラム Active JP7446804B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019228208A JP7446804B2 (ja) 2019-12-18 2019-12-18 撮像装置およびその制御方法、プログラム
US17/121,105 US11503218B2 (en) 2019-12-18 2020-12-14 Electronic device for executing predetermine processing based on image data acquired via filters having different polarization angles, control method of the same, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019228208A JP7446804B2 (ja) 2019-12-18 2019-12-18 撮像装置およびその制御方法、プログラム

Publications (3)

Publication Number Publication Date
JP2021097346A true JP2021097346A (ja) 2021-06-24
JP2021097346A5 JP2021097346A5 (ja) 2022-12-19
JP7446804B2 JP7446804B2 (ja) 2024-03-11

Family

ID=76431856

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019228208A Active JP7446804B2 (ja) 2019-12-18 2019-12-18 撮像装置およびその制御方法、プログラム

Country Status (2)

Country Link
US (1) US11503218B2 (ja)
JP (1) JP7446804B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113472985B (zh) * 2021-06-28 2023-03-24 平湖莱顿光学仪器制造有限公司 一种基于微分干涉显微镜采集图像的视频处理方法和装置
CN114935579A (zh) * 2022-05-06 2022-08-23 北京环境特性研究所 两级多路偏振调制的强光背景抑制测量装置及方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001133841A (ja) 1999-11-02 2001-05-18 Canon Inc 光学装置
JP2001264845A (ja) 2000-03-15 2001-09-26 Canon Inc カメラ
JP2001264610A (ja) 2000-03-16 2001-09-26 Canon Inc カメラ
JP2001343677A (ja) 2000-05-31 2001-12-14 Canon Inc フィルタ内蔵カメラ
JP2014183516A (ja) 2013-03-21 2014-09-29 Nikon Corp カメラ
JP2016085248A (ja) 2014-10-23 2016-05-19 キヤノン株式会社 露出演算装置
JP2017062281A (ja) 2015-09-24 2017-03-30 キヤノン株式会社 撮像装置
CN108293093B (zh) 2015-11-19 2020-11-03 索尼公司 图像处理设备和图像处理方法
JP6818444B2 (ja) 2016-06-22 2021-01-20 キヤノン株式会社 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法
JP7211364B2 (ja) 2017-07-12 2023-01-24 ソニーグループ株式会社 撮像装置、画像生成方法、プログラム
US10334180B1 (en) * 2018-02-26 2019-06-25 Motorola Mobility Llc Digital image capture with a polarizer at different rotation angles
WO2019202812A1 (ja) * 2018-04-18 2019-10-24 ソニー株式会社 画像処理装置と画像処理方法とプログラムおよび学習装置
JP2021136501A (ja) * 2020-02-25 2021-09-13 キヤノン株式会社 撮像装置及びその制御方法

Also Published As

Publication number Publication date
US20210195080A1 (en) 2021-06-24
JP7446804B2 (ja) 2024-03-11
US11503218B2 (en) 2022-11-15

Similar Documents

Publication Publication Date Title
JP5898466B2 (ja) 撮像装置、その制御方法、及びプログラム
CN108028894B (zh) 控制系统、成像装置和计算机可读介质
US20110080494A1 (en) Imaging apparatus detecting foreign object adhering to lens
CN108156369B (zh) 图像处理方法和装置
US9589339B2 (en) Image processing apparatus and control method therefor
US8514323B2 (en) Imaging apparatus and imaging method
US10594938B2 (en) Image processing apparatus, imaging apparatus, and method for controlling image processing apparatus
CN107995396B (zh) 一种双摄像头模组以及终端
JP7446804B2 (ja) 撮像装置およびその制御方法、プログラム
KR101072945B1 (ko) 깊이 값 측정을 이용한 플래시 영상 색상 보정 장치 및 그 방법
JP7479831B2 (ja) 撮像装置およびその制御方法、プログラム
US11190704B2 (en) Imaging apparatus and control method for performing live view display of a tracked object
US8982244B2 (en) Image capturing apparatus for luminance correction, a control method therefor, and a recording medium
JP5618765B2 (ja) 撮像装置及びその制御方法
US10943328B2 (en) Image capturing apparatus, method for controlling same, and storage medium
JP6529214B2 (ja) 撮像装置
JP2020072392A (ja) 撮像装置、撮像装置の制御方法およびプログラム
JP6272006B2 (ja) 撮像装置、画像処理方法及びプログラム
JP2011114442A (ja) 電子カメラ
JP6902921B2 (ja) 撮像装置、制御方法、及びプログラム
JP2017103589A (ja) 撮像装置、その制御方法、および制御プログラム
JP6415139B2 (ja) 焦点検出装置、撮像装置、焦点検出方法および焦点検出プログラム
JP5929019B2 (ja) 撮像装置
JP2021164101A (ja) 撮像装置および撮像システム、制御方法、並びにプログラム
JP2023113158A (ja) 撮像装置及びホワイトバランス制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231012

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231031

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240228

R151 Written notification of patent or utility model registration

Ref document number: 7446804

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151