JP7479831B2 - Imaging device, control method thereof, and program - Google Patents

Imaging device, control method thereof, and program Download PDF

Info

Publication number
JP7479831B2
JP7479831B2 JP2019228209A JP2019228209A JP7479831B2 JP 7479831 B2 JP7479831 B2 JP 7479831B2 JP 2019228209 A JP2019228209 A JP 2019228209A JP 2019228209 A JP2019228209 A JP 2019228209A JP 7479831 B2 JP7479831 B2 JP 7479831B2
Authority
JP
Japan
Prior art keywords
luminance
image data
image
polarization
color filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019228209A
Other languages
Japanese (ja)
Other versions
JP2021097347A (en
JP2021097347A5 (en
Inventor
雄介 山下
武範 小布施
義和 石川
孝行 木村
徳朗 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019228209A priority Critical patent/JP7479831B2/en
Publication of JP2021097347A publication Critical patent/JP2021097347A/en
Publication of JP2021097347A5 publication Critical patent/JP2021097347A5/en
Application granted granted Critical
Publication of JP7479831B2 publication Critical patent/JP7479831B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Blocking Light For Cameras (AREA)

Description

本発明は、撮像装置とその制御方法およびプログラムに関して、特に、画像データの輝度が所定の閾値以上となる場合の画像データの輝度の補正に関する。 The present invention relates to an imaging apparatus and a control method and program thereof, and in particular to correction of the luminance of image data when the luminance of the image data is equal to or exceeds a predetermined threshold value.

従来、デジタルカメラなどの撮像装置においては、任意の被写体に対応した適切な明るさの画像を取得するための種々の技術が知られている。例えば、撮像領域(撮影画面)内に人物の顔が存在している場合に、顔検出によって検出された顔領域を主たる被写体と判断し、当該顔領域が適正な明るさとなるように撮像装置が自動的にフォーカスやホワイトバランス、露出などを調整する。特許文献1では、デジタルカメラにおいて顔として認識された部分の測光値と画面全体の測光値とに重み付けをして露出制御用の測光値を生成する技術について提案されている。 Conventionally, various techniques have been known for imaging devices such as digital cameras to obtain images with appropriate brightness corresponding to any subject. For example, when a person's face is present within the imaging area (photographing screen), the face area detected by face detection is determined to be the main subject, and the imaging device automatically adjusts the focus, white balance, exposure, etc. so that the face area has appropriate brightness. Patent Document 1 proposes a technique for generating a photometric value for exposure control by weighting the photometric value of the part recognized as a face and the photometric value of the entire screen in a digital camera.

ところで、光には、輝度や色などの要素の他にも、偏光と呼ばれる性質がある。偏光は光の振動方向と考えることができ、光源から発した光は、被写体で反射する際に様々な振動方向成分(偏光方向)を持つことが知られている。しかし、実際は偏光された光と偏光していない光がすべて合成されて人間の眼に届くため、人間が光の偏光方向を感知する機会は少ない。一方で、PL(Polarized Light:偏光)フィルタを使うなどして、光の偏光角度をコントロールすることで、不要な反射光を抑える技術が知られている。 In addition to elements such as brightness and color, light also has a property called polarization. Polarization can be thought of as the vibration direction of light, and it is known that light emitted from a light source has various vibration direction components (polarization direction) when reflected by a subject. However, in reality, polarized and non-polarized light are all combined before reaching the human eye, so humans have few opportunities to sense the polarization direction of light. Meanwhile, there is known technology that suppresses unnecessary reflected light by controlling the polarization angle of light, for example by using a PL (Polarized Light) filter.

近年、この偏光成分を積極的に利用する技術も提案されてきている。例えば、特許文献1では、CCDセンサを構成する複数の受光素子のうち、特定の画素上にカラーフィルタだけでなく偏光子を重ねて配置する技術について提案されている。また、特許文献2では、デジタルカメラの光路中に異なる偏光角度の偏光フィルタを挿入する技術について提案されている。例えば、特許文献2の技術であれば、撮像素子の領域ごとに異なる偏光角度の画像を得て、それらを任意の比率で合成することで、鏡面反射を除去した画像を取得できる点について開示されている。 In recent years, technologies have been proposed that actively utilize this polarized component. For example, Patent Document 1 proposes a technology in which not only a color filter but also a polarizer is placed on top of specific pixels of the multiple light receiving elements that make up a CCD sensor. Patent Document 2 also proposes a technology in which polarizing filters with different polarization angles are inserted into the optical path of a digital camera. For example, the technology in Patent Document 2 discloses that it is possible to obtain an image from which specular reflection has been removed by obtaining images with different polarization angles for each region of the image sensor and combining these at any ratio.

特開2014-11754号公報JP 2014-11754 A 特開2016-10063号公報JP 2016-10063 A

例えば、特許文献1又は特許文献2で開示されている技術を用いて、異なる偏光角度のフィルタを介して取得した画像を任意の比率で合成する場合、ある偏光角度で得た画像が飽和すると、合成後の画像の輝度を正しく再現することができない場合がある。また、RGBカラーフィルタに合わせて偏光フィルタを配置する構成だと、特定の偏光角度かつ特定色の画素(G画素など)からの出力だけが飽和している場合は、色の再現性も低下する虞がある。 For example, when using the technology disclosed in Patent Document 1 or Patent Document 2 to synthesize images acquired through filters with different polarization angles at an arbitrary ratio, if an image acquired at a certain polarization angle becomes saturated, the brightness of the synthesized image may not be reproduced correctly. Furthermore, in a configuration in which polarizing filters are arranged in accordance with RGB color filters, if only the output from a pixel with a specific polarization angle and a specific color (such as a G pixel) is saturated, there is a risk that color reproducibility will also decrease.

本発明の目的は、異なる偏光角度により複数の画像を取得する場合であっても、不自然な明るさの画像が取得されることを抑制することである。 The objective of the present invention is to prevent images with unnatural brightness from being acquired, even when multiple images are acquired using different polarization angles.

上述の問題点を解決するため、本発明の撮像装置は、異なる複数の偏光角度を有する領域を備えた偏光フィルタを介して得られた被写体の光学像を撮像する撮像素子と、前記撮像素子から出力された異なる偏光角度ごとの複数の画像データに基づいて、被写体の偏光情報を算出する算出手段と、前記複数の画像データのうち、少なくとも1つの画像データの輝度が所定の閾値以上となるか否かを判定する判定手段と、前記判定手段による判定の結果に基づいて、画像データの輝度を補正する輝度補正手段と、を有し、前記撮像素子は、前記偏光フィルタの領域に合わせて複数の色のカラーフィルタが配されており、前記判定手段は、前記カラーフィルタのうちの第1のカラーフィルタを介して前記撮像素子から出力された前記異なる偏光角度ごとの複数の画像データのうち、少なくとも2つの画像データの輝度が前記所定の閾値以上となるか否かを判定し、前記輝度補正手段は、判定手段による判定の結果に基づいて、前記第1のカラーフィルタを介して得られた少なくとも2つの画像データの輝度が前記所定の閾値以上となる場合に、前記第1のカラーフィルタとは異なる色の第2のカラーフィルタを介して得られた複数の画像データに基づく前記被写体の偏光情報に基づいて、前記第1のカラーフィルタを介して得られた複数の画像の輝度を補正することを特徴とする。 In order to solve the above-mentioned problems, the imaging device of the present invention has an imaging element that captures an optical image of a subject obtained through a polarizing filter having an area having a plurality of different polarization angles, a calculation means that calculates polarization information of the subject based on a plurality of image data for different polarization angles output from the imaging element, a judgment means that judges whether the luminance of at least one of the plurality of image data is equal to or greater than a predetermined threshold, and a luminance correction means that corrects the luminance of the image data based on a result of the judgment by the judgment means, wherein the imaging element has color filters of a plurality of colors arranged to match the areas of the polarizing filter, and the judgment means judges whether the luminance of at least two of the plurality of image data for the different polarization angles output from the imaging element through a first color filter of the color filters is equal to or greater than the predetermined threshold, and the luminance correction means corrects the luminance of the plurality of images obtained through the first color filter based on polarization information of the subject based on a plurality of image data obtained through a second color filter of a different color from the first color filter based on the result of the judgment by the judgment means.

本発明によれば、異なる偏光角度により複数の画像を取得する場合であっても、不自然な明るさの画像が取得されることを抑制することができる。 According to the present invention, even when multiple images are acquired using different polarization angles, it is possible to prevent images with unnatural brightness from being acquired.

本発明を実施した撮像装置の第1実施形態である撮像装置100の構成を説明するブロック図である。1 is a block diagram illustrating a configuration of an image pickup apparatus 100 according to a first embodiment of the present invention. 本発明の第1実施形態に係るセンサ102の画素および偏光フィルタの関係を例示的に説明する図である。2 is a diagram illustrating an example of the relationship between pixels and polarizing filters of a sensor 102 according to the first embodiment of the present invention. FIG. 本発明の第1実施形態に係る対応する1画素の偏光角度に応じた画素の信号レベルをプロットすることで得られる分布図を例示的に説明する図である。1A and 1B are diagrams illustrating exemplary distribution diagrams obtained by plotting pixel signal levels according to the polarization angle of a corresponding pixel according to the first embodiment of the present invention. 本発明の第1実施形態に係る重み付け加算平均処理の方法を例示的に説明するための図である。FIG. 2 is a diagram for illustrating an example of a weighted averaging method according to the first embodiment of the present invention. 所定の偏光角度θにおける画素の輝度値が飽和した状態の偏光角度の角度依存成分を例示的に説明する図である。10 is a diagram for explaining an example of an angle-dependent component of the polarization angle in a state where the luminance value of a pixel at a given polarization angle θ is saturated; FIG. 本発明の第1実施形態に係る各偏光角度の画像合成処理を示すフローチャートである。5 is a flowchart showing an image synthesis process for each polarization angle according to the first embodiment of the present invention. 本発明の第2実施形態に係る、センサ102の画素および偏光フィルタおよびカラーフィルタの関係を例示的に説明する図である。10A and 10B are diagrams illustrating an example of the relationship between the pixels of a sensor 102, polarizing filters, and color filters according to a second embodiment of the present invention. 異なる2つ以上の偏光角度θにおける輝度値の飽和状態における偏光角度の角度依存成分を例示的に説明する図である。10 is a diagram illustrating an example of an angle-dependent component of the polarization angle in a saturated state of luminance values at two or more different polarization angles θ. FIG. 本発明の第2実施形態に係る各偏光角度の画像合成処理を示すフローチャートである。13 is a flowchart showing an image synthesis process for each polarization angle according to the second embodiment of the present invention.

(第1実施形態)
(撮像装置100の基本構成)
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて説明する。図1は、本発明を実施した撮像装置の第1実施形態である撮像装置100の構成を説明するブロック図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよい。また、CPUやMPU等のプログラマブルプロセッサ(マイクロプロセッサ、マイクロコンピュータ)がソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。したがって、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
First Embodiment
(Basic configuration of the imaging device 100)
A preferred embodiment of the present invention will be described below with reference to the accompanying drawings. FIG. 1 is a block diagram for explaining the configuration of an image pickup apparatus 100, which is a first embodiment of an image pickup apparatus embodying the present invention. One or more of the functional blocks shown in FIG. 1 may be realized by hardware such as an ASIC or a programmable logic array (PLA). They may also be realized by a programmable processor (microprocessor, microcomputer) such as a CPU or MPU executing software. They may also be realized by a combination of software and hardware. Therefore, even if different functional blocks are described as operating subjects in the following description, the same hardware may be realized as the subject.

光学レンズ101は、不図示のフォーカスレンズ、シフトレンズ、ズームレンズや絞りなどを備え、被写体の光学像を示す光束を撮像装置100の内部に導くための撮像光学系であって、後述するセンサ102の撮像面に光を結像することができる。 The optical lens 101 is an imaging optical system that includes a focus lens, a shift lens, a zoom lens, an aperture, etc. (not shown) and guides a light beam representing an optical image of a subject into the imaging device 100, and can focus light on the imaging surface of the sensor 102 (described later).

センサ102は、光学レンズ101により導かれた被写体の光束を受光して電気的な画像信号に変換することができるCMOS等の電荷蓄積型の固体撮像素子を採用した撮像手段である。なお、撮像装置100においては、被写体の光束に対応する光学像を電気信号への変換する際の感度(受光感度)を変更することが可能である。この受光感度の調整および画像信号に変換後のデジタルゲイン量の調整により、画像信号の明るさを調整することができる。本実施形態では、これらを総称して撮影感度とし、撮像装置100においては、ISO感度を変更することで、この撮影感度を調整することが可能である。 The sensor 102 is an imaging means that employs a charge-storage type solid-state imaging element such as a CMOS that can receive the light beam of the subject guided by the optical lens 101 and convert it into an electrical image signal. In the imaging device 100, it is possible to change the sensitivity (light receiving sensitivity) when converting the optical image corresponding to the light beam of the subject into an electrical signal. The brightness of the image signal can be adjusted by adjusting this light receiving sensitivity and the amount of digital gain after conversion into an image signal. In this embodiment, these are collectively referred to as the shooting sensitivity, and in the imaging device 100, this shooting sensitivity can be adjusted by changing the ISO sensitivity.

なお、センサ102は、各画素上に偏光フィルタを備え、偏光フィルタの偏光角度として、少なくとも異なる3つ以上の角度を備える。この偏光フィルタを備えたセンサ102の詳細について、図2を参照して例示的に説明する。図2は、本発明の第1実施形態に係るセンサ102の画素および偏光フィルタの関係を例示的に説明する図である。なお、センサ102は、各画素上に偏光フィルタを備え、偏光フィルタの偏光角度として、少なくとも異なる3つ以上の角度を備える。この偏光フィルタを備えたセンサ102の詳細について、図2を参照して例示的に説明する。 The sensor 102 has a polarizing filter on each pixel, and the polarization angle of the polarizing filter is at least three different angles. Details of the sensor 102 having this polarizing filter will be described with reference to FIG. 2. FIG. 2 is a diagram illustrating an example of the relationship between the pixels and the polarizing filter of the sensor 102 according to the first embodiment of the present invention. The sensor 102 has a polarizing filter on each pixel, and the polarization angle of the polarizing filter is at least three different angles. Details of the sensor 102 having this polarizing filter will be described with reference to FIG. 2.

図2に図示するように、センサ102は、例えば、16画素(連続する縦4画素×横4画素)を1つの画素群とする一部領域201について、各画素に合わせて偏光角度が0°、45°、90°、135°となる偏光フィルタが規則的に配設されている。なお、偏光角度の並びはこれに限定されるものではないが、規則的に各偏光フィルタを並べる方が、各偏光角度の画像データを得る際の処理負荷が軽減されるので好ましい。また、偏光角度としては上述した4つの角度以外を用いてもよい。したがって、センサ102は、一部領域201を基準とした場合、4つの偏光角度で撮像した画素出力(画像信号)を得ることができる。 As shown in FIG. 2, the sensor 102 has a partial region 201 in which, for example, 16 pixels (4 consecutive vertical pixels × 4 consecutive horizontal pixels) form one pixel group, and polarizing filters with polarization angles of 0°, 45°, 90°, and 135° are regularly arranged to match each pixel. Note that the arrangement of the polarization angles is not limited to this, but it is preferable to regularly arrange the polarizing filters because this reduces the processing load when obtaining image data for each polarization angle. In addition, polarization angles other than the four angles described above may be used. Therefore, when the partial region 201 is used as a reference, the sensor 102 can obtain pixel outputs (image signals) captured at four polarization angles.

図1に戻り、画像取得部103は、センサ102の出力を画像データとして取得する画像取得手段である。なお、センサ102の出力に基づいて各偏光角度の画像データは、偏光算出部104に出力する。また、記録用の画像データは画像処理部105へ出力する。 Returning to FIG. 1, the image acquisition unit 103 is an image acquisition means that acquires the output of the sensor 102 as image data. Based on the output of the sensor 102, the image data for each polarization angle is output to the polarization calculation unit 104. In addition, the image data for recording is output to the image processing unit 105.

画像処理部105は、各偏光角度に対応する画像データを用いた任意の合成処理や、ディベイヤー処理、ガンマ補正などの種々の処理を実行する画像処理手段である。具体的な合成処理の一例としては、後述する偏光算出部104による判断結果に基づいて、任意の偏光角度の画像データを選択して出力する。または、各偏光角度の画像データを加重平均して出力することで、画像データにおける反射の度合いを任意に調整した1フレーム分の画像データを生成できる。そして、画像処理部105は、合成処理を施した後に、前述したディベイヤー処理やガンマ補正、また、ニー補正、ノイズリダクションなどの所定の画像処理を施すことができる。なお、本実施形態では、信号出力部106に出力する画像データに施す種々の処理に関してはこれに限定されるものではなく、その他の処理を施すことが可能な構成であってもよい。 The image processing unit 105 is an image processing means that executes various processes such as arbitrary synthesis processing using image data corresponding to each polarization angle, de-Bayer processing, gamma correction, etc. As a specific example of synthesis processing, image data of an arbitrary polarization angle is selected and output based on the judgment result by the polarization calculation unit 104 described later. Alternatively, image data of one frame in which the degree of reflection in the image data is arbitrarily adjusted can be generated by performing a weighted average and outputting the image data of each polarization angle. Then, after performing synthesis processing, the image processing unit 105 can perform predetermined image processing such as the above-mentioned de-Bayer processing, gamma correction, knee correction, noise reduction, etc. Note that in this embodiment, the various processes performed on the image data output to the signal output unit 106 are not limited to these, and other processes may be performed.

信号出力部106は、画像処理部105から入力された画像信号を不図示の記憶手段(外部の記憶媒体を含む)へ出力する、および、不図示の表示部へ表示用の画像データを出力する信号出力手段である。 The signal output unit 106 is a signal output means that outputs the image signal input from the image processing unit 105 to a storage means (including an external storage medium) not shown, and outputs image data for display to a display unit not shown.

偏光算出部104は、画像取得部103から出力された画像データに基づいて、撮像範囲に含まれる被写体に対応した偏光角度を算出する算出手段(偏光情報取得手段)であって、被写体の偏光情報を取得することができる。具体的に、偏光算出部104は、各偏光角度の偏光フィルタに対応する画素から出力された信号に基づいて、0°、45°、90°、135°に対応する4画素を1組とし、上記4つの偏光角度に応じた画素の信号レベルを求める。ここで、輝度値の単位は、所謂APEX(ADDITIVE SYSTEM OF PHOTOGRAPHIC EXPOSURE)システムにおける1BVを輝度値の1段分とするが、他の単位を用いて輝度値を表す構成であってもよい。 The polarization calculation unit 104 is a calculation means (polarization information acquisition means) that calculates the polarization angle corresponding to the subject included in the imaging range based on the image data output from the image acquisition unit 103, and can acquire the polarization information of the subject. Specifically, the polarization calculation unit 104 calculates the signal level of the pixel according to the above four polarization angles, with four pixels corresponding to 0°, 45°, 90°, and 135° as one set, based on the signal output from the pixel corresponding to the polarizing filter of each polarization angle. Here, the unit of the brightness value is 1BV in the so-called APEX (ADDITIVE SYSTEM OF PHOTOGRAPHIC EXPOSURE) system, which is one step of the brightness value, but the brightness value may be expressed using other units.

図3は、本発明の第1実施形態に係る対応する1画素の偏光角度に応じた画素の信号レベルをプロットすることで得られる分布図を例示的に説明する図である。図3に図示するように、本実施形態では、複数の偏光角度の画像データに基づいて得られた関数(フィッティングカーブ)I(θ)は、180°周期の正弦関数または余弦関数で表すことができ、カーブの振幅が大きいほど偏光度合が高い状態を示す。 Figure 3 is an exemplary diagram illustrating a distribution diagram obtained by plotting pixel signal levels according to the polarization angle of a corresponding pixel according to the first embodiment of the present invention. As shown in Figure 3, in this embodiment, the function (fitting curve) I(θ) obtained based on image data of multiple polarization angles can be expressed as a sine function or cosine function with a period of 180°, and the larger the amplitude of the curve, the higher the degree of polarization.

なお、3つ以上の偏光角度に関するそれぞれ1画素の輝度値が判明すれば、最小二乗法等の最適化技術を適用して、関数I(θ)を算出することができる。本実施形態では、より精度が高いフィッティングカーブを求めるために、サンプリングする偏光角度がある程度離し、45°間隔の4つの偏光角度でサンプリング用の画像を取得する。 If the luminance value of one pixel for each of three or more polarization angles is known, the function I(θ) can be calculated by applying an optimization technique such as the least squares method. In this embodiment, in order to obtain a more accurate fitting curve, the polarization angles to be sampled are spaced apart to a certain extent, and sampling images are obtained at four polarization angles spaced 45° apart.

図3に図示する関数I(θ)に基づいて、例えば、フィッティングカーブの算出に用いた1組の画素の輝度値の最小値は偏光角度の135°以降に位置し、輝度値の最大値が偏光角度の45°と90°の間に位置することがわかる。このように、関数I(θ)を求めることで、偏光角度に応じた輝度値を算出できる。 Based on the function I(θ) shown in FIG. 3, it can be seen that, for example, the minimum luminance value of a set of pixels used to calculate the fitting curve is located after a polarization angle of 135°, and the maximum luminance value is located between polarization angles of 45° and 90°. In this way, by determining the function I(θ), it is possible to calculate a luminance value according to the polarization angle.

図1に戻り、カメラ制御部107は、撮像装置100の各部を統括的に制御する制御手段であって、不図示のマイクロプロセッサ(CPU)を備え、ROM(Read Only Memory)やRAMが接続されている。このうち、ROMは、不揮発性の記録素子であり、カメラ制御部107を動作させるためのプログラムや各種調整パラメータなどが記録されている。ROMから読み出されたプログラムは揮発性のRAMに展開されて実行される。なお、本実施形態では、カメラ制御部107により、前述した各部の動作が制御される構成であるが、カメラ制御部107以外の各部が協調して各動作を制御する構成であってもよい。 Returning to FIG. 1, the camera control unit 107 is a control means that controls each unit of the imaging device 100 in an integrated manner, and includes a microprocessor (CPU) (not shown), and is connected to a ROM (Read Only Memory) and a RAM. The ROM is a non-volatile storage element in which programs for operating the camera control unit 107 and various adjustment parameters are recorded. Programs read from the ROM are deployed in the volatile RAM and executed. Note that, in this embodiment, the camera control unit 107 controls the operation of each unit described above, but the configuration may also be such that each unit other than the camera control unit 107 cooperates to control each operation.

カメラ制御部107が制御する処理としては、例えば、偏光算出部104が算出した各画素の輝度値の補正処理(輝度値補正処理)がある。また、カメラ制御部107が制御する他の処理としては、偏光算出部が算出した各画素の輝度値に基づいて、各偏光角度に該当する画像に対する合成時の重み付け加算平均処理がある。当該重み付け加算平均処理について、図4を参照して説明する。 The processes controlled by the camera control unit 107 include, for example, a correction process (brightness value correction process) for the luminance value of each pixel calculated by the polarization calculation unit 104. Another process controlled by the camera control unit 107 is a weighted averaging process at the time of synthesis for images corresponding to each polarization angle, based on the luminance value of each pixel calculated by the polarization calculation unit. The weighted averaging process will be described with reference to FIG. 4.

図4は、本発明の第1実施形態に係る重み付け加算平均処理の方法を例示的に説明するための図であって、図4(a)は、被写体像のうちの水面の反射を抑えた状態を示し、図4(b)は、水面の反射を強調させた状態を示した図である。なお、図4の各図における被写体の偏光角度ごとの輝度値が、前述した図3に図示した関数I(θ)に従って変化する場合を仮定する。 Figure 4 is a diagram for explaining an example of the weighted average processing method according to the first embodiment of the present invention, where Figure 4(a) shows a state in which the reflection of the water surface in the subject image is suppressed, and Figure 4(b) shows a state in which the reflection of the water surface is emphasized. It is assumed that the luminance value for each polarization angle of the subject in each diagram of Figure 4 changes according to the function I(θ) shown in Figure 3 described above.

図4(a)に図示するように、水面での光の反射を抑制するためには、反射光に該当する被写体の偏光成分を抑制する必要がある。例えば、図3に図示する関数I(θ)では、偏光角度θ=45°付近で最も輝度値が高くなり、偏光角度θ=135°付近で最も輝度値が低くなる。したがって、偏光角度θ=45°に該当する出力信号に対する重み付けを小さくし、偏光角度θ=135°に該当する出力信号に対する重み付けを大きくすることで、各偏光角度の画素出力を合成した後の画像において、水面の反射度合を抑制することができる。 As shown in FIG. 4(a), in order to suppress the reflection of light on the water surface, it is necessary to suppress the polarization component of the subject that corresponds to the reflected light. For example, in the function I(θ) shown in FIG. 3, the luminance value is highest near the polarization angle θ = 45°, and lowest near the polarization angle θ = 135°. Therefore, by reducing the weighting of the output signal corresponding to the polarization angle θ = 45° and increasing the weighting of the output signal corresponding to the polarization angle θ = 135°, the degree of reflection on the water surface can be suppressed in the image after the pixel outputs of each polarization angle are combined.

一方で、水面の反射度合を確認するためなど、あえて反射光に該当する被写体の偏光成分を画像中に残したい(あるいは強調したい)場合もある。例えば、図4(b)で示す例では、水面の反射を強調させた風景画像を取得した場合を示している。この場合、偏光角度θ=135°に該当する出力信号に対する重み付けよりも、偏光角度θ=45°に該当する出力信号に対する重み付けを大きくして各偏光角度の画素出力を合成することで、ユーザが所望する画像を取得することができる。 On the other hand, there are cases where it is desired to leave (or emphasize) the polarization components of the subject that correspond to the reflected light in the image, for example to check the degree of reflection on the water surface. For example, the example shown in FIG. 4(b) shows a case where a landscape image is acquired in which the reflection on the water surface is emphasized. In this case, the weighting of the output signal corresponding to a polarization angle θ = 45° is greater than the weighting of the output signal corresponding to a polarization angle θ = 135°, and the pixel outputs of each polarization angle are combined to obtain the image that the user desires.

ここで、前述した重み付け加算平均処理を実行する際に、例えば、特定の被写体の輝度値が高い場合などに、特定の偏光角度の輝度値が飽和する場合がある。図5は、所定の偏光角度θにおける画素の輝度値が飽和した状態の偏光角度の角度依存成分を例示的に説明する図である。図5に図示する例では、偏光角度45°を略中心とした所定の範囲に該当する偏光角度に該当する1画素の輝度値が飽和する。この場合、飽和している画素をそのまま合成に用いると、実際の被写体の明るさに対して不自然な明るさの画像が得られる虞がある。そこで、本実施形態では、飽和している偏光角度に該当する画像信号(出力信号)に対して、関数I(θ)に基づく輝度値の補正を行うことで、この問題を解決する。 Here, when performing the weighted averaging process described above, the luminance value of a particular polarization angle may become saturated, for example, when the luminance value of a particular object is high. FIG. 5 is a diagram illustrating an example of the angle-dependent component of the polarization angle when the luminance value of a pixel at a particular polarization angle θ is saturated. In the example illustrated in FIG. 5, the luminance value of one pixel corresponding to a polarization angle that falls within a particular range centered on a polarization angle of 45° becomes saturated. In this case, if the saturated pixel is used for synthesis as is, there is a risk that an image with an unnatural brightness compared to the actual brightness of the object may be obtained. Therefore, in this embodiment, this problem is solved by performing luminance value correction based on the function I(θ) on the image signal (output signal) corresponding to the saturated polarization angle.

図6は、本発明の第1実施形態に係る各偏光角度の画像合成処理を示すフローチャートである。図6に図示するように、まず、ステップS601で偏光算出部104は、それぞれ偏光角度が異なる1組の画素(4画素)の輝度値を求め、偏光角度ごとの1画素の輝度値を検出する。 Figure 6 is a flowchart showing the image synthesis process for each polarization angle according to the first embodiment of the present invention. As shown in Figure 6, first, in step S601, the polarization calculation unit 104 calculates the luminance values of a set of pixels (four pixels) each having a different polarization angle, and detects the luminance value of one pixel for each polarization angle.

次に、ステップS602で偏光算出部104は、ステップS601で求めた偏光角度ごとの1画素の輝度値(出力)に基づいて、偏光角度の角度依存成分を算出する。具体的に、本実施形態では、偏光角度の角度依存成分として、前述した関数(フィッティングカーブ)I(θ)を求める。なお、関数I(θ)から、更に、最大の輝度値Imax、最小の輝度値Iminを算出し、両者の差分を、被写体の偏光角度の角度依存成分として求める構成であってもよい。この場合、差分Imax-Iminは、被写体における反射の度合いを示すため、偏光角度の角度依存成分に基づいて、反射の度合いが高い被写体が存在するか否を判定することもできる。 Next, in step S602, the polarization calculation unit 104 calculates the angle-dependent component of the polarization angle based on the luminance value (output) of one pixel for each polarization angle calculated in step S601. Specifically, in this embodiment, the above-mentioned function (fitting curve) I(θ) is calculated as the angle-dependent component of the polarization angle. Note that a maximum luminance value Imax and a minimum luminance value Imin may also be calculated from the function I(θ), and the difference between the two may be calculated as the angle-dependent component of the polarization angle of the subject. In this case, the difference Imax-Imin indicates the degree of reflection in the subject, so it is also possible to determine whether or not a subject with a high degree of reflection exists based on the angle-dependent component of the polarization angle.

次に、ステップS603でカメラ制御部107は、ステップS601で検出した輝度値が飽和レベルに達しているか(所定の閾値以上であるか)否かを判定する。なお、飽和レベルを判定するための所定の閾値は、予め撮像装置100に設けられたメモリ(不図示)に格納されている。 Next, in step S603, the camera control unit 107 determines whether the luminance value detected in step S601 has reached a saturation level (whether it is equal to or greater than a predetermined threshold). Note that the predetermined threshold for determining the saturation level is stored in advance in a memory (not shown) provided in the imaging device 100.

何れの画素の輝度値も飽和レベルに到達していない(ステップS603でNO)と判定された場合、ステップS605に進み、カメラ制御部107は、各画素の出力信号を用いて、任意の比率で重み付け加算平均処理を実行する。なお、上述した任意の比率は、予め撮像装置100に設けられたメモリ(不図示)に格納されている。 If it is determined that the luminance value of none of the pixels has reached the saturation level (NO in step S603), the process proceeds to step S605, where the camera control unit 107 performs weighted averaging processing at an arbitrary ratio using the output signals of each pixel. Note that the arbitrary ratio described above is stored in advance in a memory (not shown) provided in the imaging device 100.

また、輝度値が飽和レベルに到達している画素が存在する(ステップS603でYES)と判定された場合、ステップS604に進み、カメラ制御部107は、飽和レベルに到達している画素の輝度値を補正(輝度値補正処理を実行)する。例えば、図5に図示したように、偏光角度θ=45°の画素の輝度レベルが飽和レベルに到達していた場合、実際の輝度値を検出することはできない。 If it is determined that there is a pixel whose luminance value has reached the saturation level (YES in step S603), the process proceeds to step S604, where the camera control unit 107 corrects the luminance value of the pixel whose luminance value has reached the saturation level (performs luminance value correction processing). For example, as shown in FIG. 5, if the luminance level of a pixel with a polarization angle θ = 45° has reached the saturation level, the actual luminance value cannot be detected.

しかしながら、前述したように、本実施形態では、偏光角度の角度依存成分として関数I(θ)を算出しているため、当該関数I(θ)に基づいて、偏光角度θ=45°の輝度値を予測することができる。換言すると、飽和レベルに到達している偏光角度の画素の輝度値は、他の偏光角度の画素の輝度値(θ=0°、90°、135°)に基づいて算出することができる。そこで、本実施形態に係るステップS604の処理では、関数I(θ)に基づいて、飽和した画素の輝度値を補正し、飽和した画素については、補正後の輝度値を用いてステップS605の重み付け加算平均処理を実行する。 However, as described above, in this embodiment, since the function I(θ) is calculated as the angle-dependent component of the polarization angle, the luminance value at the polarization angle θ=45° can be predicted based on the function I(θ). In other words, the luminance value of a pixel at a polarization angle that has reached the saturation level can be calculated based on the luminance values of pixels at other polarization angles (θ=0°, 90°, 135°). Therefore, in the process of step S604 according to this embodiment, the luminance value of the saturated pixel is corrected based on the function I(θ), and the weighted averaging process of step S605 is performed on the saturated pixel using the corrected luminance value.

以上説明した構成により、本実施形態に係る撮像装置100は、任意の偏光角度の画素出力から飽和している偏光角度の画素出力を算出(予測)することで、各偏光角度の画素を合成した後の画像が不自然な明るさになることを低減することができる。すなわち、本実施形態の撮像装置100は、異なる偏光角度により複数の画像を取得する場合であっても、不自然な明るさの画像が取得されることを抑制することができる。 With the configuration described above, the imaging device 100 according to this embodiment can reduce the unnatural brightness of the image obtained after combining pixels of each polarization angle by calculating (predicting) the pixel output of a saturated polarization angle from the pixel output of an arbitrary polarization angle. In other words, the imaging device 100 according to this embodiment can prevent the acquisition of an image with unnatural brightness even when acquiring multiple images with different polarization angles.

(第2実施形態)
次に、本発明の第2実施形態に係る撮像装置について、図7~9を参照して説明する。なお、撮像装置100の構成は、前述した第1実施形態と同一なので説明は省略し、第1実施形態との差分についてのみ説明する。
Second Embodiment
Next, an imaging device according to a second embodiment of the present invention will be described with reference to Figures 7 to 9. Note that since the configuration of the imaging device 100 is the same as that of the first embodiment described above, a description thereof will be omitted, and only the differences from the first embodiment will be described.

前述した第1の実施形態では、飽和レベルに到達している画素の輝度値は、他の偏光角度に該当する画素の輝度値を用いて輝度値の補正処理を行う構成について説明した。しかしながら、例えば、異なる偏光角度に該当する複数の画素の輝度値が飽和している場合、輝度値の補正を正しく行えない場合がある。例えば、前述した第1実施形態では、4つの偏光角度に該当する画素のうち、2つ以上の画素の輝度値が飽和している場合、関数I(θ)を算出することができないため、輝度値補正処理を正しく実行することができない。そこで、本発明の第2実施形態に係る撮像装置100では、異なるカラーフィルタを介して出力される画素の輝度値に基づいて、飽和レベルに到達している画素の輝度レベルを補正する。 In the first embodiment described above, a configuration was described in which the luminance value of a pixel that has reached the saturation level is corrected using the luminance value of a pixel that corresponds to another polarization angle. However, for example, if the luminance values of multiple pixels that correspond to different polarization angles are saturated, the luminance value correction may not be performed correctly. For example, in the first embodiment described above, if the luminance values of two or more pixels among the pixels that correspond to four polarization angles are saturated, the function I(θ) cannot be calculated, and therefore the luminance value correction process cannot be performed correctly. Therefore, in the imaging device 100 according to the second embodiment of the present invention, the luminance level of a pixel that has reached the saturation level is corrected based on the luminance value of the pixel output through a different color filter.

図7は、本発明の第2実施形態に係る、センサ102の画素および偏光フィルタおよびカラーフィルタの関係を例示的に説明する図である。なお、カラーフィルタ以外の構成については、図2に図示するセンサ102と略同一の構成である。図7に図示するように、センサ102に対して、偏光角度が異なる4画素(連続する縦2画素×横2画素)ごとに同一のカラーフィルタが配されている。本実施形態では、図7に図示するように、縦4画素×横4画素のセンサ102の配置に対して、左上4画素に合わせてカラーフィルタRが配されている。また、左下4画素および右上4画素に合わせてカラーフィルタGbとGrが配されている。そして、右下4画素に合わせてカラーフィルタBが配されている。すなわち、本実施形態に係るセンサ102は、異なる偏光角度に該当する4画素単位に合わせて所謂ベイヤー配列のカラーフィルタが搭載されている。 Figure 7 is a diagram illustrating an example of the relationship between the pixels, polarizing filters, and color filters of the sensor 102 according to the second embodiment of the present invention. Note that the configuration other than the color filters is substantially the same as that of the sensor 102 illustrated in Figure 2. As illustrated in Figure 7, the same color filters are arranged for every four pixels (two consecutive vertical pixels x two consecutive horizontal pixels) with different polarization angles for the sensor 102. In this embodiment, as illustrated in Figure 7, a color filter R is arranged to match the top four pixels of the sensor 102, which is arranged in a vertical four pixels x horizontal four pixels. In addition, color filters Gb and Gr are arranged to match the bottom four pixels and the top right four pixels. And a color filter B is arranged to match the bottom four pixels. That is, the sensor 102 according to this embodiment is equipped with a so-called Bayer array color filter to match four pixel units corresponding to different polarization angles.

したがって、前述したセンサ102の一部領域201を基準とした場合、(不図示)のカラーフィルタごとに4つの偏光角度で撮像した画素出力(画像信号)が得られ、R、Gr、Gb、Bの各色成分を合わせた偏光角度ごとの画像信号を得ることができる。 Therefore, when the partial area 201 of the sensor 102 described above is used as a reference, pixel output (image signal) captured at four polarization angles for each color filter (not shown) can be obtained, and an image signal can be obtained for each polarization angle that combines the R, Gr, Gb, and B color components.

図8は、異なる2つ以上の偏光角度θにおける輝度値の飽和状態における偏光角度の角度依存成分を例示的に説明する図である。図8に図示する例では、G画素(Gr、Gb)のうち2つの画素が飽和している場合を想定する。G画素に係る関数IG(θ)を算出するためには3つ以上の異なる偏光角度に係る画素出力が必要だが、2つの画素出力(の輝度値)が飽和しているため、関数IG(θ)を正しく算出することができない。 Figure 8 is a diagram illustrating an example of the angle-dependent component of the polarization angle in a saturated state of brightness values at two or more different polarization angles θ. In the example illustrated in Figure 8, it is assumed that two of the G pixels (Gr, Gb) are saturated. In order to calculate the function IG(θ) for the G pixel, pixel outputs for three or more different polarization angles are required, but because two pixel outputs (brightness values) are saturated, the function IG(θ) cannot be calculated correctly.

ここで、G画素に対して、R画素やB画素は光に対する感度が低く飽和しにくい特性を備えている。そこで、本実施形態に係る撮像装置100では、G画素の輝度値が飽和レベルに到達している場合は、同一の偏光角度に該当するR画素やB画素の角度依存成分IR(θ)、IB(θ)に基づいて、G画素の輝度レベルを算出する。 Here, compared to the G pixel, the R pixel and the B pixel have a characteristic that they are less sensitive to light and are less likely to saturate. Therefore, in the imaging device 100 according to this embodiment, when the luminance value of the G pixel reaches the saturation level, the luminance level of the G pixel is calculated based on the angle-dependent components IR(θ) and IB(θ) of the R pixel and the B pixel that correspond to the same polarization angle.

図9は、本発明の第2実施形態に係る各偏光角度の画像合成処理を示すフローチャートである。なお、図9におけるステップS901~S903、ステップS907の処理は、前述した第1実施形態におけるステップS601~S603、ステップS605の処理と略同一であるため、説明者省略する。 Figure 9 is a flowchart showing the image synthesis process for each polarization angle according to the second embodiment of the present invention. Note that the processes in steps S901 to S903 and step S907 in Figure 9 are substantially the same as the processes in steps S601 to S603 and step S605 in the first embodiment described above, so explanations will be omitted.

輝度値が飽和レベルに到達している画素が存在する(ステップS903でYES)と判定された場合、ステップS904に進む。そして、ステップS904でカメラ制御部107は、1組の画素群(すなわち同一のカラーフィルタで得られる画素群)に、飽和レベルに到達している画素が複数存在するか否かを判定する。本実施形態では、1つのカラーフィルタに対して4つの異なる偏光角度に該当する画素出力が得られるため、そのうちの半数(すなわち2画素)以上の画素の輝度レベルが飽和レベルに到達している否かを判定する。 If it is determined that there is a pixel whose brightness value has reached the saturation level (YES in step S903), the process proceeds to step S904. Then, in step S904, the camera control unit 107 determines whether or not there are multiple pixels whose brightness value has reached the saturation level in a set of pixels (i.e., a group of pixels obtained with the same color filter). In this embodiment, pixel outputs corresponding to four different polarization angles are obtained for one color filter, so it is determined whether or not the brightness levels of half or more of these pixels (i.e., two pixels) have reached the saturation level.

1組の画素群で所定数(本実施形態では1つ)の画素の輝度値のみが飽和レベルに到達している場合(ステップS904でNO)と判定された場合はステップS906に進む。また、1組の画素群で複数(本実施形態では2つ)以上の画素の輝度値が飽和レベルに到達している場合(ステップS904でYES)と判定された場合はステップS905に進む。なお、ステップS906に係る処理は、前述した第1実施形態のステップS604の処理と略同一なので、説明は省略する。 If it is determined that the luminance values of only a predetermined number of pixels (one in this embodiment) in one pixel group have reached the saturation level (NO in step S904), proceed to step S906. If it is determined that the luminance values of multiple pixels (two in this embodiment) in one pixel group have reached the saturation level (YES in step S904), proceed to step S905. Note that the process in step S906 is substantially the same as the process in step S604 in the first embodiment described above, and therefore will not be described here.

ステップS905でカメラ制御部107は、任意のカラーフィルタを介して出力された1画素の輝度値が飽和している場合、他のカラーフィルタを介して出力された画素の輝度値に基づく偏光角度の角度依存成分に基づき、飽和画素の輝度値を算出(補正)する。例えば、図8に図示するように、偏光角度θ=45°を基準としたG画素の輝度値が飽和レベルに到達している場合を想定する。この場合、R画素またはB画素に該当する画素の輝度値に基づいて得られた関数IR(θ)または、関数IB(θ)に基づいて、G画素の飽和レベルに到達している偏光角度に該当する画素の輝度値を算出する。なお、輝度補正処理後の、重み付け加算平均処理は前述第1実施形態と略同一であるため、説明は省略する。 In step S905, when the luminance value of one pixel output through an arbitrary color filter is saturated, the camera control unit 107 calculates (corrects) the luminance value of the saturated pixel based on the angle-dependent component of the polarization angle based on the luminance value of the pixel output through another color filter. For example, as shown in FIG. 8, assume that the luminance value of the G pixel based on the polarization angle θ = 45° has reached the saturation level. In this case, the luminance value of the pixel corresponding to the polarization angle at which the G pixel has reached the saturation level is calculated based on the function IR (θ) or function IB (θ) obtained based on the luminance value of the pixel corresponding to the R pixel or B pixel. Note that the weighted averaging process after the luminance correction process is substantially the same as the first embodiment described above, so a description thereof will be omitted.

以上説明した構成により、本実施形態に係る撮像装置100は、任意のカラーフィルタを介して得られた画素出力の複数が飽和状態である場合、他のカラーフィルタを介して得られた画素出力に基づいて、飽和している画素出力を算出(予測)することができる。したがって、本実施形態に係る撮像装置100は、異なる複数の偏光角度で得られた画像が飽和している場合であっても、各偏光角度の画素を合成した後の画像が不自然な明るさになることを低減することができる。すなわち、本実施形態の撮像装置100は、異なる偏光角度により複数の画像を取得する場合であっても、不自然な明るさの画像が取得されることを抑制することができる。 With the configuration described above, the imaging device 100 according to this embodiment can calculate (predict) saturated pixel outputs based on pixel outputs obtained through other color filters when multiple pixel outputs obtained through any color filter are saturated. Therefore, even when images obtained at multiple different polarization angles are saturated, the imaging device 100 according to this embodiment can reduce the unnatural brightness of the image obtained after combining the pixels of each polarization angle. In other words, the imaging device 100 according to this embodiment can suppress the acquisition of images with unnatural brightness even when multiple images are acquired using different polarization angles.

以上、本発明の好ましい実施形態について説明したが、本発明はこれらに限定されず、その要旨の範囲内で種々の変形および変更が可能である。例えば、前述した実施形態では、光学レンズを一体的に備えた撮像装置について説明したが、所謂交換レンズを着脱可能なレンズ交換式の撮像装置を採用する構成であってもよい。 Although the preferred embodiments of the present invention have been described above, the present invention is not limited to these, and various modifications and variations are possible within the scope of the gist of the present invention. For example, in the above-described embodiment, an imaging device with an integrated optical lens was described, but a configuration that employs a lens-interchangeable imaging device in which so-called interchangeable lenses can be attached and detached may also be used.

また、前述した実施形態では、異なる偏光角度の画像に対する重み付けの度合いを調整する構成について説明したが、例えば、飽和画素の出力に対する重み付けを0にすることで、飽和画素を画像合成に用いない構成であってもよい。 In addition, in the above-described embodiment, a configuration was described in which the degree of weighting for images with different polarization angles was adjusted, but for example, a configuration in which the weighting for the output of saturated pixels is set to 0 so that saturated pixels are not used in image synthesis may be used.

また、前述した実施形態では、センサ102を構成する画素および画素群ごとに偏光角度が異なる偏光フィルタを採用する例について説明したが、これに限定されるものではない。例えば、前述した各実施形態のセンサ102において、1画素に対して複数の異なる偏光角度が対応するように偏光フィルタを設ける構成であってもよい。この場合、1つの画素信号において異なる偏光角度を介して偏光できるため、画素単位で複数の振動方向の光以外を除去した画像データを得ることができる。 In addition, in the above-described embodiment, an example was described in which a polarizing filter with a different polarization angle was used for each pixel and pixel group constituting the sensor 102, but the present invention is not limited to this. For example, the sensor 102 in each of the above-described embodiments may be configured to have a polarizing filter so that multiple different polarization angles correspond to one pixel. In this case, since one pixel signal can be polarized through different polarization angles, it is possible to obtain image data in which light other than that in multiple vibration directions is removed on a pixel-by-pixel basis.

なお、前述した実施形態では、本発明を実施する撮像装置の一例としてデジタルカメラ
を想定して説明したが、これに限定されるものではない。例えば、デジタルビデオカメラ
やスマートフォンなどの可搬デバイスやウェアラブル端末、車載カメラやセキュリティー
カメラなど、デジタルカメラ以外の撮像装置を採用する構成であってもよい。
In the above embodiment, a digital camera has been described as an example of an imaging device for implementing the present invention, but the present invention is not limited to this. For example, imaging devices other than digital cameras, such as portable devices such as digital video cameras and smartphones, wearable devices, in-vehicle cameras, and security cameras, may be used.

100 撮像装置
102 センサ
104 偏光算出部
107 カメラ制御部
100 Imaging device 102 Sensor 104 Polarization calculation unit 107 Camera control unit

Claims (4)

異なる複数の偏光角度を有する領域を備えた偏光フィルタを介して得られた被写体の光学像を撮像する撮像素子と、
前記撮像素子から出力された異なる偏光角度ごとの複数の画像データに基づいて、被写体の偏光情報を算出する算出手段と、
前記複数の画像データのうち、少なくとも1つの画像データの輝度が所定の閾値以上となるか否かを判定する判定手段と、
前記判定手段による判定の結果に基づいて、画像データの輝度を補正する輝度補正手段と、
を有し、
前記撮像素子は、前記偏光フィルタの領域に合わせて複数の色のカラーフィルタが配されており、
前記判定手段は、前記カラーフィルタのうちの第1のカラーフィルタを介して前記撮像素子から出力された前記異なる偏光角度ごとの複数の画像データのうち、少なくとも2つの画像データの輝度が前記所定の閾値以上となるか否かを判定し、
前記輝度補正手段は、判定手段による判定の結果に基づいて、前記第1のカラーフィルタを介して得られた少なくとも2つの画像データの輝度が前記所定の閾値以上となる場合に、前記第1のカラーフィルタとは異なる色の第2のカラーフィルタを介して得られた複数の画像データに基づく前記被写体の偏光情報に基づいて、前記第1のカラーフィルタを介して得られた複数の画像の輝度を補正することを特徴とする撮像装置。
an image sensor that captures an optical image of a subject through a polarizing filter having areas with a plurality of different polarization angles;
a calculation means for calculating polarization information of an object based on a plurality of image data for different polarization angles output from the image sensor;
a determination means for determining whether or not a luminance of at least one of the plurality of image data is equal to or greater than a predetermined threshold value;
a luminance correction unit that corrects the luminance of the image data based on a result of the determination by the determination unit;
having
the imaging element is provided with color filters of a plurality of colors arranged in accordance with the area of the polarizing filter,
the determining means determines whether or not luminance of at least two of the plurality of image data for each of the different polarization angles output from the imaging element through a first color filter of the color filters is equal to or greater than the predetermined threshold value;
The imaging device is characterized in that, based on the result of judgment by the judgment means, when the luminance of at least two image data obtained through the first color filter is equal to or greater than the predetermined threshold, the luminance correction means corrects the luminance of the multiple images obtained through the first color filter based on polarization information of the subject based on multiple image data obtained through a second color filter of a different color from the first color filter .
前記偏光情報は、被写体の偏光角度に対する角度依存成分であって、
前記算出手段は、異なる3つ以上の偏光角度に該当する画素の輝度に基づいて前記角度依存成分を算出し、
前記輝度補正手段は、輝度が前記所定の閾値以上となる第1の画像データが存在する場合に、前記角度依存成分に基づいて、前記第1の画像データの輝度を補正することを特徴とする請求項1に記載の撮像装置。
The polarization information is an angle-dependent component with respect to a polarization angle of an object,
the calculation means calculates the angle-dependent component based on luminance of pixels corresponding to three or more different polarization angles;
The imaging device according to claim 1 , characterized in that the luminance correction means corrects the luminance of the first image data based on the angle-dependent component when first image data exists whose luminance is equal to or greater than the predetermined threshold value.
異なる複数の偏光角度を有する領域を備えた偏光フィルタを介して得られた被写体の光学像を撮像する撮像素子を備えた撮像装置の制御方法であって、
前記撮像素子から出力された異なる偏光角度ごとの複数の画像データに基づいて、被写体の偏光情報を算出する算出工程と、
前記複数の画像データのうち、少なくとも1つの画像データの輝度が所定の閾値以上となるか否かを判定する判定工程と、
画像データの輝度を補正する輝度補正工程と、
を有し、
前記撮像素子は、前記偏光フィルタの領域に合わせて複数の色のカラーフィルタが配されており、
前記判定工程では、前記カラーフィルタのうちの第1のカラーフィルタを介して前記撮像素子から出力された前記異なる偏光角度ごとの複数の画像データのうち、少なくとも2つの画像データの輝度が前記所定の閾値以上となるか否かを判定し、
前記輝度補正工程では、前記判定工程による判定の結果に基づいて、前記第1のカラーフィルタを介して得られた少なくとも2つの画像データの輝度が前記所定の閾値以上となる場合に、前記第1のカラーフィルタとは異なる色の第2のカラーフィルタを介して得られた複数の画像データに基づく前記被写体の偏光情報に基づいて、前記第1のカラーフィルタを介して得られた複数の画像の輝度を補正することを特徴とする撮像装置の制御方法。
1. A method for controlling an image capture device having an image capture element that captures an optical image of a subject through a polarizing filter having areas with a plurality of different polarization angles, comprising:
a calculation step of calculating polarization information of an object based on a plurality of image data for different polarization angles output from the image sensor;
a determination step of determining whether or not a luminance of at least one image data item among the plurality of image data items is equal to or greater than a predetermined threshold value;
a luminance correction step of correcting the luminance of the image data;
having
the imaging element is provided with color filters of a plurality of colors arranged in accordance with the area of the polarizing filter,
In the determination step, it is determined whether or not the luminance of at least two of the plurality of image data for each of the different polarization angles output from the imaging element through a first color filter of the color filters is equal to or greater than the predetermined threshold value;
A method for controlling an imaging device, characterized in that in the brightness correction process, when the brightness of at least two image data obtained through the first color filter is equal to or greater than the predetermined threshold based on the result of the judgment in the judgment process, the brightness of the multiple images obtained through the first color filter is corrected based on polarization information of the subject based on multiple image data obtained through a second color filter of a different color from the first color filter .
請求項に記載の撮像装置の制御方法をコンピュータで実行させるためのコンピュータで読み取り可能なプログラム。 A computer-readable program for causing a computer to execute the method for controlling an image pickup apparatus according to claim 3 .
JP2019228209A 2019-12-18 2019-12-18 Imaging device, control method thereof, and program Active JP7479831B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019228209A JP7479831B2 (en) 2019-12-18 2019-12-18 Imaging device, control method thereof, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019228209A JP7479831B2 (en) 2019-12-18 2019-12-18 Imaging device, control method thereof, and program

Publications (3)

Publication Number Publication Date
JP2021097347A JP2021097347A (en) 2021-06-24
JP2021097347A5 JP2021097347A5 (en) 2022-12-22
JP7479831B2 true JP7479831B2 (en) 2024-05-09

Family

ID=76431670

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019228209A Active JP7479831B2 (en) 2019-12-18 2019-12-18 Imaging device, control method thereof, and program

Country Status (1)

Country Link
JP (1) JP7479831B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023111625A (en) * 2022-01-31 2023-08-10 ソニーセミコンダクタソリューションズ株式会社 Signal processing device, signal processing method, and program
CN115348372B (en) * 2022-07-29 2023-09-05 大连海事大学 Differential polarization imaging device and method adopting space division polarization illumination

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017085993A1 (en) 2015-11-19 2017-05-26 ソニー株式会社 Image processing apparatus and image processing method
WO2018074064A1 (en) 2016-10-17 2018-04-26 ソニー株式会社 Image processing device, image processing method, and imaging device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017085993A1 (en) 2015-11-19 2017-05-26 ソニー株式会社 Image processing apparatus and image processing method
WO2018074064A1 (en) 2016-10-17 2018-04-26 ソニー株式会社 Image processing device, image processing method, and imaging device

Also Published As

Publication number Publication date
JP2021097347A (en) 2021-06-24

Similar Documents

Publication Publication Date Title
JP5898466B2 (en) Imaging device, control method thereof, and program
JP5643563B2 (en) Image processing apparatus and control method thereof
US9843735B2 (en) Image processing apparatus, imaging apparatus comprising the same, and image processing method
US9699387B2 (en) Image processing device for processing pupil-divided images obtained through different pupil regions of an imaging optical system, control method thereof, and program
US9838625B2 (en) Image processing apparatus and control method for image processing apparatus for controlling correction of a black level in a combined image signal
US20180152651A1 (en) Image capturing apparatus
US9071766B2 (en) Image capturing apparatus and control method thereof
US8514323B2 (en) Imaging apparatus and imaging method
JP7479831B2 (en) Imaging device, control method thereof, and program
JP2016072694A (en) Image processing system, control method of the same, program, and recording medium
JP7446804B2 (en) Imaging device, its control method, and program
JP4487781B2 (en) Electronic camera
JP5569617B2 (en) Image processing apparatus and program
JP5245648B2 (en) Image processing apparatus and program
CN116055907A (en) Image processing apparatus, image capturing apparatus, image processing method, and storage medium
JP6348883B2 (en) Image capturing apparatus, image capturing method, and computer program
JP4857856B2 (en) Electronic camera having saturation adjustment function and image processing program
JP6272006B2 (en) Imaging apparatus, image processing method, and program
JP2015037222A (en) Image processing apparatus, imaging apparatus, control method, and program
US20240015411A1 (en) Imaging apparatus, imaging method, and storage medium
JP2023026997A (en) Imaging device, imaging method, program, and recording medium
JP4645078B2 (en) Luminance signal amplification amount adjustment apparatus and luminance signal amplification amount adjustment method for imaging apparatus
JP6415139B2 (en) Focus detection apparatus, imaging apparatus, focus detection method, and focus detection program
JP2023113158A (en) Imaging apparatus and white balance control method
JP2018110298A (en) Image processing device and image processing method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221214

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221214

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231031

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240326

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240424

R150 Certificate of patent or registration of utility model

Ref document number: 7479831

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150