JP2015142364A5 - - Google Patents

Download PDF

Info

Publication number
JP2015142364A5
JP2015142364A5 JP2014016193A JP2014016193A JP2015142364A5 JP 2015142364 A5 JP2015142364 A5 JP 2015142364A5 JP 2014016193 A JP2014016193 A JP 2014016193A JP 2014016193 A JP2014016193 A JP 2014016193A JP 2015142364 A5 JP2015142364 A5 JP 2015142364A5
Authority
JP
Japan
Prior art keywords
photoelectric conversion
conversion unit
signal output
unit
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014016193A
Other languages
Japanese (ja)
Other versions
JP2015142364A (en
JP6353233B2 (en
Filing date
Publication date
Application filed filed Critical
Priority to JP2014016193A priority Critical patent/JP6353233B2/en
Priority claimed from JP2014016193A external-priority patent/JP6353233B2/en
Publication of JP2015142364A publication Critical patent/JP2015142364A/en
Publication of JP2015142364A5 publication Critical patent/JP2015142364A5/ja
Application granted granted Critical
Publication of JP6353233B2 publication Critical patent/JP6353233B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

上記目的を達成するために、撮像光学系の射出瞳の異なる領域を透過した光束をそれぞれ光電変換して信号を出力する複数の光電変換部と、前記複数の光電変換部に対応する1つのマイクロレンズとからなる、複数の単位画素を有する撮像手段から得られた信号を処理する本発明の画像処理装置は、前記複数の光電変換部それぞれから出力された信号が飽和しているかどうかを判定する判定手段と、前記複数の光電変換部のうち、前記判定手段により飽和していると判された信号を出力した第1の光電変換部と同じマイクロレンズに対応する他の光電変換部である第2の光電変換部から出力された信号を補正する際の補正の特性と前記第2の光電変換部から出力された信号のレベルに基づいて、前記第1の光電変換部から出力された信号が飽和していない場合に得られる補正後の信号レベルを推定する推定手段とを有する。 In order to achieve the above object, a plurality of photoelectric conversion units for photoelectrically converting light beams transmitted through different regions of the exit pupil of the imaging optical system and outputting signals, and one micro corresponding to the plurality of photoelectric conversion units An image processing apparatus according to the present invention that processes a signal obtained from an imaging unit that includes a plurality of unit pixels and that determines whether a signal output from each of the plurality of photoelectric conversion units is saturated. and determining means, said plurality of photoelectric conversion unit is the other of the photoelectric conversion unit corresponding to the same microlens as the first photoelectric conversion unit outputting the have the determine the constant signal is saturated by the determination unit A signal output from the first photoelectric conversion unit based on correction characteristics when correcting the signal output from the second photoelectric conversion unit and the level of the signal output from the second photoelectric conversion unit But And a estimation means for estimating a signal level after correction obtained when no sum.

Claims (18)

撮像光学系の射出瞳の異なる領域を透過した光束をそれぞれ光電変換して信号を出力する複数の光電変換部と、前記複数の光電変換部に対応する1つのマイクロレンズとからなる、複数の単位画素を有する撮像手段から得られた信号を処理する画像処理装置であって、
前記複数の光電変換部それぞれから出力された信号が飽和しているかどうかを判定する判定手段と、
前記複数の光電変換部のうち、前記判定手段により飽和していると判された信号を出力した第1の光電変換部と同じマイクロレンズに対応する他の光電変換部である第2の光電変換部から出力された信号を補正する際の補正の特性と前記第2の光電変換部から出力された信号のレベルに基づいて、前記第1の光電変換部から出力された信号が飽和していない場合に得られる補正後の信号レベルを推定する推定手段と
を有することを特徴とする画像処理装置。
A plurality of units comprising a plurality of photoelectric conversion units that photoelectrically convert light beams transmitted through different regions of the exit pupil of the imaging optical system and output signals, and one microlens corresponding to the plurality of photoelectric conversion units An image processing apparatus for processing a signal obtained from an imaging means having pixels,
Determination means for determining whether signals output from each of the plurality of photoelectric conversion units are saturated;
Among the plurality of photoelectric conversion unit, second photoelectric is another photoelectric conversion unit corresponding to the same microlens as the first photoelectric conversion unit outputting the have the determine the constant signal is saturated by the determination unit The signal output from the first photoelectric conversion unit is saturated based on the correction characteristics when correcting the signal output from the conversion unit and the level of the signal output from the second photoelectric conversion unit. An image processing apparatus comprising: an estimation unit configured to estimate a signal level after correction obtained when no signal is present.
前記判定手段は、更に、前記第1の光電変換部と同じマイクロレンズに対応する他の光電変換部から出力された信号が飽和しているか、及び、予め決められた閾値より小さいかを判定し、前記推定手段は、前記判定の結果、飽和しておらず、且つ前記閾値以上の光電変換部を、前記第2の光電変換部として、前記推定を行うことを特徴とする請求項1に記載の画像処理装置。 The determining means further determining whether said first signal output from the other photoelectric conversion units corresponding to the same microlens as the photoelectric conversion portion is saturated, and less than a predetermined threshold value The estimation unit performs the estimation using a photoelectric conversion unit that is not saturated as a result of the determination and that is equal to or greater than the threshold value as the second photoelectric conversion unit. The image processing apparatus described. 前記推定手段は、前記判定の結果、前記他の光電変換部が全て飽和しているか、または全て前記閾値より小さい場合に、前記他の光電変換部のうち、最も感度の低い光電変換部から出力された信号を補正する際の補正の特性及び該光電変換部が飽和した場合の信号のレベルに基づいて、前記推定を行うことを特徴とする請求項2に記載の画像処理装置。 Said estimating means, a result of the determination, the other or the photoelectric conversion portion are all saturated, or if all smaller than the threshold value, among the other photoelectric conversion section, an output from the slowest photoelectric conversion portion The image processing apparatus according to claim 2, wherein the estimation is performed on the basis of a correction characteristic when correcting the detected signal and a signal level when the photoelectric conversion unit is saturated. 前記撮像手段により撮影を行ったときの撮影条件を取得する取得手段と、
異なる撮影条件について、前記補正の特性を記憶した記憶手段と
を更に有することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
Obtaining means for obtaining photographing conditions when photographing is performed by the imaging means;
The image processing apparatus according to claim 1, further comprising: a storage unit that stores the correction characteristics for different shooting conditions.
撮像光学系の射出瞳の異なる領域を透過した光束をそれぞれ光電変換して信号を出力する複数の光電変換部と、前記複数の光電変換部に対応する1つのマイクロレンズとからなる、複数の単位画素を有する撮像手段から得られた信号を処理する画像処理装置であって、
前記複数の光電変換部それぞれから出力された信号が飽和しているかどうかを判定する判定手段と、
前記複数の光電変換部のうち、前記判定手段により飽和していると判された信号を出力した第1の光電変換部の感度と、該第1の光電変換部と同じマイクロレンズに対応する他の光電変換部である第2の光電変換部の感度との差に基づいて、前記第1の光電変換部から出力された信号と、前記第2の光電変換部から出力された信号との差が、前記感度の差を維持するように、前記第1の光電変換部から出力された信号を補正する補正手段と
を有することを特徴とする画像処理装置。
A plurality of units comprising a plurality of photoelectric conversion units that photoelectrically convert light beams transmitted through different regions of the exit pupil of the imaging optical system and output signals, and one microlens corresponding to the plurality of photoelectric conversion units An image processing apparatus for processing a signal obtained from an imaging means having pixels,
Determination means for determining whether signals output from each of the plurality of photoelectric conversion units are saturated;
Among the plurality of photoelectric conversion unit, corresponding to the first and sensitivity of the photoelectric conversion unit, the same microlens with the first photoelectric conversion section which outputs the signal determine the constant when saturated by the determination unit Based on the difference from the sensitivity of the second photoelectric conversion unit that is another photoelectric conversion unit, the signal output from the first photoelectric conversion unit and the signal output from the second photoelectric conversion unit An image processing apparatus comprising: a correction unit that corrects a signal output from the first photoelectric conversion unit so that the difference maintains the difference in sensitivity.
前記複数の光電変換部のうち、前記第1の光電変換部の感度と、前記第2の光電変換部の感度との差に基づいて、前記第1の光電変換部から出力された信号と、前記第2の光電変換部から出力された信号との差が、前記感度の差を維持するように、前記第1の光電変換部から出力された信号を補正する補正手段と、
前記複数の単位画素の同じ位置に配置された光電変換部から出力された信号から得られた複数の画像間の視差が予め決められた第1の条件により大きいと判断された場合に、前記補正手段を選択し、前記視差が予め決められた第2の条件により小さいと判断された場合に、前記推定手段を選択する選択手段と
を有することを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
Among the plurality of photoelectric conversion unit, and sensitivity of the first photoelectric conversion unit, based on the difference between the sensitivity of the second photoelectric conversion unit, and a signal output from the first photoelectric conversion unit, Correction means for correcting the signal output from the first photoelectric conversion unit so that the difference from the signal output from the second photoelectric conversion unit maintains the difference in sensitivity;
The correction when it is determined that a parallax between a plurality of images obtained from a signal output from a photoelectric conversion unit arranged at the same position of the plurality of unit pixels is larger than a predetermined first condition. And selecting means for selecting the estimation means when it is determined that the parallax is smaller than a predetermined second condition. The image processing apparatus according to item.
前記撮像手段により撮影を行ったときの絞り値及び焦点距離を取得する取得手段と、
撮影した画像の合焦度を検出する検出手段とを更に有し、
前記選択手段は、前記絞り値が予め決められた第1の閾値以上の場合、及び、前記焦点距離が予め決められた第2の閾値以下で、前記合焦度が予め決められた第3の閾値以上の場合に、前記視差が小さいと判断し、前記絞り値が前記第1の閾値より小さく、前記焦点距離が前記第2の閾値よりも長い場合、及び、前記絞り値が前記第1の閾値より小さく、前記合焦度が前記第3の閾値よりも低い場合に、前記視差が大きいと判断することを特徴とする請求項6に記載の画像処理装置。
Obtaining means for obtaining an aperture value and a focal length when photographing is performed by the imaging means;
Detecting means for detecting the degree of focus of the photographed image;
The selection unit is configured such that when the aperture value is greater than or equal to a predetermined first threshold, and when the focal length is equal to or less than a predetermined second threshold, the degree of focus is determined in advance . If less than the threshold, it is determined that the parallax is small, the aperture value is smaller than the first threshold value, if the focal length is longer than the second threshold value, and the aperture value of the first The image processing apparatus according to claim 6, wherein the parallax is determined to be large when the degree of focus is smaller than a threshold value and the focus degree is lower than the third threshold value.
前記複数の光電変換部のうち、前記第1の光電変換部の感度と、前記第2の光電変換部の感度との差に基づいて、前記第1の光電変換部から出力された信号と、前記第2の光電変換部から出力された信号との差が、前記感度の差を維持するように、前記第1の光電変換部から出力された信号を補正する補正手段と、
前記複数の単位画素の同じ位置に配置された光電変換部から出力された信号から得られた複数の画像の輝度差が予め決められた第1の条件により大きいと判断された場合に、前記補正手段を選択し、前記輝度差が予め決められた第2の条件により小さいと判断された場合に、前記推定手段を選択する選択手段と
を有することを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
Among the plurality of photoelectric conversion unit, and sensitivity of the first photoelectric conversion unit, based on the difference between the sensitivity of the second photoelectric conversion unit, and a signal output from the first photoelectric conversion unit, Correction means for correcting the signal output from the first photoelectric conversion unit so that the difference from the signal output from the second photoelectric conversion unit maintains the difference in sensitivity;
The correction is performed when it is determined that the luminance difference between the plurality of images obtained from the signals output from the photoelectric conversion units arranged at the same positions of the plurality of unit pixels is larger than a predetermined first condition. And selecting means for selecting the estimation means when it is determined that the brightness difference is smaller than a second condition determined in advance. The image processing apparatus according to item 1.
撮影した画像のシーンを解析する解析手段を更に有し、
前記選択手段は、前記画像が、逆光または夜景の場合に、前記輝度差が大きいと判断し、それ以外の場合に、前記輝度差が小さいと判断することを特徴とする請求項8に記載の画像処理装置。
An analysis means for analyzing the scene of the photographed image;
The said selection means judges that the said brightness | luminance difference is large when the said image is a backlight or a night view, and judges that the said brightness | luminance difference is small otherwise. Image processing device.
前記複数の光電変換部から出力された信号を、前記単位画素ごとに加算する加算手段を更に有することを特徴とする請求項1乃至9のいずれか1項に記載の画像処理装置。   The image processing apparatus according to claim 1, further comprising an adding unit that adds the signals output from the plurality of photoelectric conversion units for each unit pixel. 前記複数の単位画素の同じ位置に配置された光電変換部から出力された信号から複数の画像を構成し、当該複数の画像間の相関値に基づいて、焦点検出を行う焦点検出手段を更に有することを特徴とする請求項1乃至10のいずれか1項に記載の画像処理装置。   The image processing apparatus further includes a focus detection unit configured to form a plurality of images from signals output from the photoelectric conversion units arranged at the same positions of the plurality of unit pixels, and to perform focus detection based on a correlation value between the plurality of images. The image processing apparatus according to claim 1, wherein the image processing apparatus is an image processing apparatus. 前記撮像手段と、
請求項1乃至11のいずれか1項に記載の画像処理装置と
を有することを特徴とする撮像装置。
The imaging means;
An imaging apparatus comprising: the image processing apparatus according to claim 1.
撮像光学系の射出瞳の異なる領域を透過した光束をそれぞれ光電変換して信号を出力する複数の光電変換部と、前記複数の光電変換部に対応する1つのマイクロレンズとからなる、複数の単位画素を有する撮像手段から得られた信号を処理する画像処理方法であって、
判定手段が、前記複数の光電変換部それぞれから出力された信号が飽和しているかどうかを判定する判定工程と、
推定手段が、前記複数の光電変換部のうち、前記判定工程により飽和していると判された信号を出力した第1の光電変換部と同じマイクロレンズに対応する他の光電変換部である第2の光電変換部から出力された信号を補正する際の補正の特性と前記第2の光電変換部から出力された信号のレベルに基づいて、前記第1の光電変換部から出力された信号が飽和していない場合に得られる補正後の信号レベルを推定する推定工程と
を有することを特徴とする画像処理方法。
A plurality of units comprising a plurality of photoelectric conversion units that photoelectrically convert light beams transmitted through different regions of the exit pupil of the imaging optical system and output signals, and one microlens corresponding to the plurality of photoelectric conversion units An image processing method for processing a signal obtained from an imaging means having pixels,
A determination step for determining whether a signal output from each of the plurality of photoelectric conversion units is saturated;
Estimating means, said plurality of photoelectric conversion unit, are the determining step further photoelectric conversion unit corresponding to the same microlens as the first photoelectric conversion unit outputting the have the determine the constant signal is saturated by A signal output from the first photoelectric conversion unit based on correction characteristics when correcting the signal output from the second photoelectric conversion unit and the level of the signal output from the second photoelectric conversion unit And an estimation step for estimating a corrected signal level obtained when is not saturated.
撮像光学系の射出瞳の異なる領域を透過した光束をそれぞれ光電変換して信号を出力する複数の光電変換部と、前記複数の光電変換部に対応する1つのマイクロレンズとからなる、複数の単位画素を有する撮像手段から得られた信号を処理する画像処理方法であって、
判定手段が、前記複数の光電変換部それぞれから出力された信号が飽和しているかどうかを判定する判定工程と、
補正手段が、前記複数の光電変換部のうち、前記判定工程により飽和していると判された信号を出力した第1の光電変換部の感度と、該第1の光電変換部と同じマイクロレンズに対応する他の光電変換部である第2の光電変換部の感度との差に基づいて、前記第1の光電変換部から出力された信号と、前記第2の光電変換部から出力された信号との差が、前記感度の差を維持するように、前記第1の光電変換部から出力された信号を補正する補正工程と
を有することを特徴とする画像処理方法。
A plurality of units comprising a plurality of photoelectric conversion units that photoelectrically convert light beams transmitted through different regions of the exit pupil of the imaging optical system and output signals, and one microlens corresponding to the plurality of photoelectric conversion units An image processing method for processing a signal obtained from an imaging means having pixels,
A determination step for determining whether a signal output from each of the plurality of photoelectric conversion units is saturated;
Correction means, said plurality of photoelectric conversion unit, said the decision process is saturated by the sensitivity of the first photoelectric conversion unit outputting the determine the constant signal, the same micro the first photoelectric conversion unit Based on the difference from the sensitivity of the second photoelectric conversion unit, which is another photoelectric conversion unit corresponding to the lens, the signal output from the first photoelectric conversion unit and the second photoelectric conversion unit And a correction step of correcting the signal output from the first photoelectric conversion unit so that the difference from the detected signal maintains the difference in sensitivity.
補正手段が、前記複数の光電変換部のうち、前記第1の光電変換部の感度と、前記第2の光電変換部の感度との差に基づいて、前記第1の光電変換部から出力された信号と、前記第2の光電変換部から出力された信号との差が、前記感度の差を維持するように、前記第1の光電変換部から出力された信号を補正する補正工程と、
選択手段が、前記複数の単位画素の同じ位置に配置された光電変換部から出力された信号から得られた複数の画像間の視差が予め決められた第1の条件により大きいと判断された場合に、前記補正工程を選択し、前記視差が予め決められた第2の条件により小さいと判断された場合に、前記推定工程を選択する選択工程と
を有することを特徴とする請求項13に記載の画像処理方法。
Correction means, said plurality of photoelectric conversion unit, and sensitivity of the first photoelectric conversion unit, based on the difference between the sensitivity of the second photoelectric conversion unit is output from said first photoelectric conversion portion A correction step of correcting the signal output from the first photoelectric conversion unit so that the difference between the received signal and the signal output from the second photoelectric conversion unit maintains the difference in sensitivity,
When the selection unit determines that the parallax between the plurality of images obtained from the signal output from the photoelectric conversion unit arranged at the same position of the plurality of unit pixels is larger than the predetermined first condition The selection step of selecting the estimation step when the correction step is selected and it is determined that the parallax is smaller than a predetermined second condition. Image processing method.
補正手段が、前記複数の光電変換部のうち、前記第1の光電変換部の感度と、前記第2の光電変換部の感度との差に基づいて、前記第1の光電変換部から出力された信号と、前記第2の光電変換部から出力された信号との差が、前記感度の差を維持するように、前記第1の光電変換部から出力された信号を補正する補正工程と、
選択手段が、前記複数の単位画素の同じ位置に配置された光電変換部から出力された信号から得られた複数の画像の輝度差が予め決められた第1の条件により大きいと判断された場合に、前記補正工程を選択し、前記輝度差が予め決められた第2の条件により小さいと判断された場合に、前記推定工程を選択する選択工程と
を有することを特徴とする請求項13に記載の画像処理方法。
Correction means, said plurality of photoelectric conversion unit, and sensitivity of the first photoelectric conversion unit, based on the difference between the sensitivity of the second photoelectric conversion unit is output from said first photoelectric conversion portion A correction step of correcting the signal output from the first photoelectric conversion unit so that the difference between the received signal and the signal output from the second photoelectric conversion unit maintains the difference in sensitivity,
When the selection unit determines that the luminance difference between the plurality of images obtained from the signals output from the photoelectric conversion units arranged at the same position of the plurality of unit pixels is larger than the first condition determined in advance. The method further comprises a selection step of selecting the correction step and selecting the estimation step when it is determined that the brightness difference is smaller than a predetermined second condition. The image processing method as described.
コンピュータを、請求項1乃至11のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。   The program for functioning a computer as each means of the image processing apparatus of any one of Claims 1 thru | or 11. 請求項17に記載のプログラムを記憶したコンピュータが読み取り可能な記憶媒体。   A computer-readable storage medium storing the program according to claim 17.
JP2014016193A 2014-01-30 2014-01-30 Image processing apparatus, imaging apparatus, and image processing method Active JP6353233B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014016193A JP6353233B2 (en) 2014-01-30 2014-01-30 Image processing apparatus, imaging apparatus, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014016193A JP6353233B2 (en) 2014-01-30 2014-01-30 Image processing apparatus, imaging apparatus, and image processing method

Publications (3)

Publication Number Publication Date
JP2015142364A JP2015142364A (en) 2015-08-03
JP2015142364A5 true JP2015142364A5 (en) 2017-03-02
JP6353233B2 JP6353233B2 (en) 2018-07-04

Family

ID=53772414

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014016193A Active JP6353233B2 (en) 2014-01-30 2014-01-30 Image processing apparatus, imaging apparatus, and image processing method

Country Status (1)

Country Link
JP (1) JP6353233B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6789722B2 (en) * 2016-08-12 2020-11-25 キヤノン株式会社 Imaging device and its driving method
US10270997B2 (en) * 2016-09-08 2019-04-23 Gvbb Holdings S.A.R.L. Cross pixel interconnection
CN111161202A (en) * 2019-12-30 2020-05-15 上海眼控科技股份有限公司 Vehicle behavior information acquisition method and device, computer equipment and storage medium
EP4254937A4 (en) * 2020-12-17 2024-04-17 Sony Group Corp Imaging device and signal processing method
JP2022107563A (en) * 2021-01-11 2022-07-22 ソニーセミコンダクタソリューションズ株式会社 Image capturing device, pixel-signal processing method for image capturing device, and image capturing system

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5943655B2 (en) * 2012-03-12 2016-07-05 キヤノン株式会社 Image processing apparatus, focus detection apparatus, and image processing program

Similar Documents

Publication Publication Date Title
JP2014146023A5 (en)
JP2010282085A5 (en) IMAGING DEVICE AND CONTROL METHOD OF IMAGING DEVICE
JP2015138200A5 (en) Focus adjustment device and focus adjustment method
JP2013007998A5 (en)
JP2013190471A5 (en)
JP2015072356A5 (en) Focus detection apparatus and focus detection method
JP2015075526A5 (en) Image data processing device, distance calculation device, imaging device, and image data processing method
JP2015142364A5 (en)
EP2881915A8 (en) Techniques for disparity estimation using camera arrays for high dynamic range imaging
JP6645682B2 (en) Range acquisition device, range image signal correction device, imaging device, range image quantization device, and method
JP2014206564A5 (en)
JP2014171236A5 (en)
JP2016045240A5 (en)
JP2013115717A5 (en)
JP2016133674A5 (en)
JP2015227995A5 (en)
JP2015079193A5 (en)
JP2017118296A5 (en)
JP2008026789A5 (en)
JP2013128217A5 (en)
JP2014219549A5 (en)
JP2010074244A5 (en)
JP2017129788A5 (en)
JP2017158018A5 (en)
JP2015046019A5 (en)