JP2017102240A - 画像処理装置および画像処理方法、撮像装置、プログラム - Google Patents
画像処理装置および画像処理方法、撮像装置、プログラム Download PDFInfo
- Publication number
- JP2017102240A JP2017102240A JP2015234661A JP2015234661A JP2017102240A JP 2017102240 A JP2017102240 A JP 2017102240A JP 2015234661 A JP2015234661 A JP 2015234661A JP 2015234661 A JP2015234661 A JP 2015234661A JP 2017102240 A JP2017102240 A JP 2017102240A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image signal
- signal
- photoelectric conversion
- parallax
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000012545 processing Methods 0.000 title claims abstract description 127
- 238000003384 imaging method Methods 0.000 title claims abstract description 32
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000000034 method Methods 0.000 claims abstract description 80
- 238000006243 chemical reaction Methods 0.000 claims abstract description 72
- 230000008569 process Effects 0.000 claims abstract description 70
- 210000001747 pupil Anatomy 0.000 claims abstract description 54
- 230000003287 optical effect Effects 0.000 claims abstract description 52
- 238000012937 correction Methods 0.000 claims description 19
- 238000003705 background correction Methods 0.000 claims description 12
- 238000011161 development Methods 0.000 claims description 9
- 238000003860 storage Methods 0.000 claims description 6
- 229920006395 saturated elastomer Polymers 0.000 abstract description 6
- 230000002194 synthesizing effect Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 11
- 230000007423 decrease Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 9
- 239000003086 colorant Substances 0.000 description 7
- 238000001514 detection method Methods 0.000 description 7
- 230000015572 biosynthetic process Effects 0.000 description 5
- 238000003786 synthesis reaction Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 230000004907 flux Effects 0.000 description 3
- 230000005484 gravity Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/232—Image signal generators using stereoscopic image cameras using a single 2D image sensor using fly-eye lenses, e.g. arrangements of circular lenses
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/133—Equalising the characteristics of different image components, e.g. their average brightness or colour balance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/122—Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/15—Processing image signals for colour aspects of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/218—Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/257—Colour aspects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/672—Focus control based on electronic image sensor signals based on the phase difference signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/703—SSIS architectures incorporating pixels for producing signals other than image signals
- H04N25/704—Pixels specially adapted for focusing, e.g. phase difference pixel sets
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
- H04N2209/045—Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
- H04N2209/046—Colour interpolation to calculate the missing colour values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/62—Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Automatic Focus Adjustment (AREA)
- Focusing (AREA)
Abstract
【課題】飽和画素がある場合でも画像処理が可能な視差画像を取得することができる画像処理装置を提供すること。
【解決手段】撮像素子107は、撮影光学系により結像された被写体の光像を電気信号に光電変換する複数の光電変換部を備える。第1の光電変換部は撮影光学系の第1の瞳部分領域を通過した光を受光し、第2の光電変換部は撮影光学系の第2の瞳部分領域を通過した光を受光する。画像処理部300は、第1の光電変換部から得られる第1の像信号と、第1および第2の光電変換部から得られる第3の像信号を取得し、第3の像信号から第1の像信号を減算することにより第2の像信号を生成する。画像処理部300は、第1および第2の像信号が所定の閾値を超えないように抑制するリミッタ部を備え、第1の像信号または第2の像信号から生成される視差画像または第1の像信号と第2の像信号を合成した画像の現像処理を行う。
【選択図】図1
【解決手段】撮像素子107は、撮影光学系により結像された被写体の光像を電気信号に光電変換する複数の光電変換部を備える。第1の光電変換部は撮影光学系の第1の瞳部分領域を通過した光を受光し、第2の光電変換部は撮影光学系の第2の瞳部分領域を通過した光を受光する。画像処理部300は、第1の光電変換部から得られる第1の像信号と、第1および第2の光電変換部から得られる第3の像信号を取得し、第3の像信号から第1の像信号を減算することにより第2の像信号を生成する。画像処理部300は、第1および第2の像信号が所定の閾値を超えないように抑制するリミッタ部を備え、第1の像信号または第2の像信号から生成される視差画像または第1の像信号と第2の像信号を合成した画像の現像処理を行う。
【選択図】図1
Description
本発明は、視差画像の処理技術に関する。
撮影光学系と撮像素子を備えた画像処理装置において、視差画像を取得する技術がある。撮影光学系の異なる2つの瞳部分領域をそれぞれ通過する光束を撮像素子の異なる光電変換部が受光して光電変換することによって視差画像が取得される。視差画像データは3D画像の生成や画像合成に利用することができる。しかしながら、取得される視差画像は射出光束の撮影光学系によるケラレや、撮影光学系の諸収差により、視差による像ずれ以外の誤差が生じ得る。特に飽和時には光電変換部の電荷が飽和レベルになり、隣接する光電変換部の間で電荷漏れによるクロストークが生じる可能性がある。クロストークにより異なる瞳部分領域から取得した信号に誤差が生じた場合、正確な視差画像を取得できない。そこで光電変換部の信号を所定値以下に抑制する処理が特許文献1に記載されている。
特許文献1に記載された技術においては、異なる瞳部分領域の射出光束を取得する一対の像信号のうち、一方の信号を第1の像信号とし、他方の信号を第2の像信号としている。撮像素子から第1の像信号、および第1の像信号と第2の像信号との加算信号の読み出しが行われる場合に第1の像信号を所定値以下に抑制する処理が行われる。第2の像信号は、第1の像信号と第2の像信号との加算信号から第1の像信号を減算することで生成される。特許文献1では焦点検出用に信号処理について記載しているが、視差画像を画像処理する場合の処理方法について言及していない。
本発明は、飽和画素がある場合でも画像処理が可能な視差画像を取得することができる画像処理装置の提供を目的とする。
本発明は、飽和画素がある場合でも画像処理が可能な視差画像を取得することができる画像処理装置の提供を目的とする。
本発明に係る装置は、撮影光学系の第1および第2の瞳部分領域をそれぞれ通過した光を光電変換して取得された複数の像信号を記憶する記憶手段を備え、前記複数の像信号から生成される視差画像のデータを処理する画像処理装置であって、前記第1の瞳部分領域を通過した光を第1の光電変換部が光電変換することにより取得される像信号を第1の像信号とし、前記第2の瞳部分領域を通過した光を第2の光電変換部が光電変換することにより取得される像信号を第2の像信号とし、前記第1および第2の瞳部分領域を通過した光を前記第1および第2の光電変換部が光電変換することにより取得される像信号を第3の像信号とするとき、取得された前記第1および第2の像信号に対して閾値を設定し、前記第1および第2の像信号を前記閾値以下に抑制するリミッタ手段と、前記第3の像信号から前記第1の像信号を減算して前記第2の像信号を生成し、または、前記第1の像信号と前記第2の像信号を加算して前記第3の像信号を生成する生成手段と、前記第1の像信号から生成される第1の視差画像または前記第2の像信号から生成される第2の視差画像、または前記第1および第2の視差画像から合成される画像の現像処理を行う現像処理手段と、を備える。
本発明によれば、飽和画素がある場合でも画像処理が可能な視差画像を取得することができる。
以下、本発明の実施形態について、添付図面を参照して詳細に説明する。図1および図2は本実施形態に係る撮像装置100、画像処理部300の構成図である。本実施形態では、撮像素子を有するカメラ本体部と撮影光学系が一体となった電子カメラを例示して説明する。電子カメラは動画および静止画が記録可能である。以下では、被写体側を前側と定義して各部の位置関係を説明する。
図1において、前端部に配置された第1レンズ群101は被写体像を結像させる撮影光学系を構成し、光軸方向に移動可能に保持される。絞り102は、その開口径を調節することで撮影時の光量調節を行う他、静止画撮影時には露光秒時調節用シャッタとして機能する。第2レンズ群103は、絞り102と一体となって光軸方向に駆動され、第1レンズ群101の移動動作との連動により、変倍作用(ズーム機能)を有する。第3レンズ群105は、光軸方向の移動により、焦点調節を行う。光学的ローパスフィルタ106は撮影画像の偽色やモアレを軽減するための光学素子である。
撮像素子107は焦点検出可能な画素を有し、例えばCMOS(相補型金属酸化膜半導体)イメージセンサとその周辺回路で構成される。撮像素子107には横方向にM画素、縦方向にN画素の受光ピクセルが正方格子状に配置され、ベイヤー配列の原色カラーモザイクフィルタがオンチップで形成された、2次元単板カラーセンサが用いられる。撮像素子107は各画素に複数の光電変換部を有し、各画素には色フィルタが配置されている。
ズームアクチュエータ111は、不図示のカム筒を回動させることにより、第1レンズ群101および第2レンズ群103を光軸方向に移動させて変倍動作を行う。絞りアクチュエータ112は、絞り102の開口径を制御して撮影光量を調節すると共に、静止画撮影時の露光時間制御を行う。フォーカスアクチュエータ114は、第3レンズ群105を光軸方向に移動させて焦点調節を行う。
CPU(中央演算処理装置)121は、カメラの各制御を司る制御中枢部である。CPU121は演算部、ROM(リード・オンリ・メモリ)、RAM(ランダム・アクセス・メモリ)、A(アナログ)/D(デジタル)コンバータ、D/Aコンバータ、通信インターフェイス回路等を有する。CPU121はROMに記憶された所定のプログラムに基づいて、カメラが有する各種回路の制御や、自動焦点調節(AF)、撮影、画像処理、記録等の一連の動作制御を実行する。
撮像素子駆動回路122は撮像素子107から信号を読み出すために、撮像素子107の撮像動作を制御する。撮像素子駆動回路122は取得した画像信号をA/D変換してCPU121に出力する。以下では取得される第1の像をA像とし、第2の像をB像とし、両者を合わせた像をA+B像という。取得される画像信号は下記のとおりである。
・各画素の2つの光電変換部による出力の合計から得られる信号(以下、A+B像信号という)。
・各画素の2つの光電変換部の片方から得られる信号、つまり、撮影光学系の第1の瞳部分領域を通過した光を受光する第1の光電変換部から得られる第1の像信号(以下、A像信号という)。
・第1の瞳部分領域とは異なる第2の瞳部分領域を通過した光を受光する第2の光電変換部から得られる第2の像信号(以下、B像信号という)。
・各画素の2つの光電変換部による出力の合計から得られる信号(以下、A+B像信号という)。
・各画素の2つの光電変換部の片方から得られる信号、つまり、撮影光学系の第1の瞳部分領域を通過した光を受光する第1の光電変換部から得られる第1の像信号(以下、A像信号という)。
・第1の瞳部分領域とは異なる第2の瞳部分領域を通過した光を受光する第2の光電変換部から得られる第2の像信号(以下、B像信号という)。
A像信号とB像信号を取得してから加算してA+B像信号を生成する方法と、A+B像信号とA像信号またはB像信号を取得し、A+B像信号からA像信号またはB像信号を減算して他方の像信号を生成する方法がある。いずれの方法でも撮像部が所定のファイルフォーマットで信号を出力することで、視差画像データを取得可能である。例えば、A像信号から第1の視差画像のデータが生成され、B像信号から第2の視差画像のデータが生成される。
画像処理回路123は、撮像素子107が取得した画像の補正処理(欠陥画素の補間処理や黒レベル補正等)、カラー補間、γ変換、画像圧縮等を行う。本実施形態では、視差画像でない信号について撮像装置の画像処理回路123が処理し、視差画像にかかわる信号(例えばA+B像信号とA像信号)については画像処理部300が処理する。以下では、画像処理回路123が行う第1の処理と、画像処理部300が行う第2の処理とを便宜上分けて、主に第2の処理を説明する。もちろん、第1および第2の処理を1つの画像処理部が行ってもよい。
位相差演算処理回路124は焦点検出のために演算を行う。具体的には撮像素子107の各画素の2つの光電変換部から取得したA像信号とB像信号から、A像とB像との像ずれ量を相関演算で求め、ピントずれ量(焦点状態の検出量)を算出する処理が行われる。
フォーカス駆動回路125は、位相差演算処理回路124の演算による焦点検出結果に基づいてフォーカスアクチュエータ114を駆動制御する。第3レンズ群105が光軸方向に移動して焦点調節が行われる。絞り駆動回路126は絞りアクチュエータ112を駆動制御して絞り102の開口径を制御する。ズーム駆動回路127は、撮影者のズーム操作にしたがってズームアクチュエータ111を駆動する。これらの駆動回路はCPU121の制御下で担当する光学部材の駆動制御を行う。
表示部131はLCD(液晶ディスプレイ)等の表示デバイスを備える。表示部131は、CPU121の制御指令にしたがい、カメラの撮影モードに関する情報、撮影時のプレビュー画像と撮影後の確認用画像、焦点検出時の合焦状態の表示画像等を画面に表示する。操作部132は、電源スイッチ、撮影開始スイッチ、ズーム操作スイッチ、撮影モード選択スイッチ等を備え、操作指示信号をCPU121に出力する。カメラ本体部に着脱可能なフラッシュメモリ133は、動画および静止画を含む撮影済み画像を記録するデバイスである。撮像装置が取得した複数の視差画像(例えばA+B像とA像)のデータは、所定のファイルフォーマットの画像データとして出力される。出力された画像データはフラッシュメモリ133へ保存される。
次に図2を参照して、画像処理部300の構成について説明する。
メモリ301はフラッシュメモリ133からの画像データを保存する。リミッタ部302は複数の視差画像(例えばA+B像とA像)のデータに対して後述するリミット処理を行う。減算部303はA+B像信号からA像信号を減算してB像信号を生成する。図2のでは、演算部として減算部303を示す。A像信号とB像信号からA+B像信号を生成する場合には演算部は加算部である。
メモリ301はフラッシュメモリ133からの画像データを保存する。リミッタ部302は複数の視差画像(例えばA+B像とA像)のデータに対して後述するリミット処理を行う。減算部303はA+B像信号からA像信号を減算してB像信号を生成する。図2のでは、演算部として減算部303を示す。A像信号とB像信号からA+B像信号を生成する場合には演算部は加算部である。
シェーディング処理部304はA像およびB像の像高による光量変化を補正する。補正処理の詳細については後述する。リフォーカス処理部305は、異なる視差画像であるA像、B像を瞳分割方向にシフト加算することで合成画像を生成する。これにより、異なる焦点位置の画像が生成される。リフォーカス処理の詳細については後述する。
以下、画像処理部300の現像処理を行う構成要素について説明する。ホワイトバランス部306は、白の領域のR(赤)色,G(緑)色,B(青)色が等色になるようにR,G,Bの各色にゲインを乗算する処理を実行する。ホワイトバランス処理をデモザイキング処理前に行うことで、彩度を算出する際に、色被り等のために偽色の彩度よりも高い彩度になることを回避し、誤判定を防止することが可能となる。デモザイキング部307は各画素において欠落している3原色のうちの2色のカラーモザイク画像データを補間することによって、全ての画素においてR,G,Bのカラー画像データが揃ったカラー画像を生成する。デモザイキング処理では注目画素に対してその周辺の画素を用いて、それぞれの規定方向で補間処理が行われる。その後、方向選択を行うことで、各画素について補間処理結果としてR,G,Bの3原色のカラー画像データが生成される。
ガンマ変換部308は各画素のカラー画像データにガンマ補正処理を施し、基本的なカラー画像データが生成される。色調整部309は画像の見栄えを改善するための色調整処理を行う。具体的には、ノイズ低減、彩度強調、色相補正、エッジ強調といった各種の色調整処理が行われる。
圧縮部310は色調整後のカラー画像データをJPEG(Joint Photographic Experts Group)等の方法で圧縮し、記録時のデータサイズを縮小する。記録部311は圧縮部310により圧縮された画像データを、フラッシュメモリ等の記録媒体に記録する。
次に、図3および図4を参照して、本実施形態における撮像素子107の画素配列について説明する。図3は、2次元CMOSエリアセンサの6行8列の範囲を、撮影光学系側から見た状態を示す図である。縦方向をY方向、横方向をX方向と定義する。
色フィルタはベイヤー配列が適用され、奇数行の画素には、左から順にG(緑)とR(赤)の色フィルタが画素に対応して交互に設けられる。また、偶数行の画素には、左から順にB(青)とGの色フィルタが画素に対応して交互に設けられる。円形枠211iは、オンチップマイクロレンズを表わす。オンチップマイクロレンズの内側に配置された複数の矩形はそれぞれ光電変換部である。撮影光学系の瞳領域の一部である第1の瞳部分領域を通過した光を第1の光電変換部211aが受光する。また撮影光学系の第2の瞳部分領域を通過した光を第2の光電変換部211bが受光する。本実施形態では、すべての画素の光電変換部がX方向に2分割されている例を説明するが、分割数および分割方向については仕様に応じて任意に設定可能である。
例えば2分割された各領域の光電変換信号に関して、第1の光電変換部211aの信号は色フィルタごとに独立して読み出せるが、第2の光電変換部211bの信号は独立して読み出すことができない。第2の光電変換部211bの信号は、第1および第2の光電変換部の出力を加算後に読み出した信号から、第1の光電変換部211aの信号を減算することで算出される。
第1および第2の光電変換部の出力信号は、後述する方法で位相差方式の焦点検出に用いられる。また、視差情報を有する複数の画像から構成される3D(3次元)画像や、視差画像をシフト加算して合成したリフォーカス画像の生成に用いることもできる。一方、第1および第2の光電変換部の出力信号を加算した信号から、通常の撮影画像データが取得される。
図4は撮像素子107の回路図であり、2次元CMOSエリアセンサの6行8列の範囲を示す。第1の光電変換部211aは水平走査回路151の信号線152aと、垂直走査回路153の信号線154aに接続されて、信号の読み出しが行われる。第2の光電変換部211bは水平走査回路151の信号線152bと、垂直走査回路153の信号線154bに接続されて、信号の読み出しが行われる。
次に図5を参照して、本実施形態の撮像装置における撮影光学系と撮像部の光学的な関係について説明する。図5は、撮影光学系の射出瞳面と、像高がゼロ、すなわち像面中央近傍に配置された撮像素子107の光電変換部の共役関係を説明する図である。図5にて光軸方向をZ方向とし、紙面内でZ軸方向と直交する方向をX方向と定義する。
撮像素子107内の光電変換部211a,211bと撮影光学系の射出瞳面は、オンチップマイクロレンズによって共役関係となるように設計される。撮影光学系の射出瞳は、一般的に光量調節用の虹彩絞りが位置する面とほぼ一致する。本実施形態の撮影光学系は、変倍機能を有するズームレンズである。光学タイプによっては変倍操作を行うと、射出瞳の像面からの距離や大きさが変化する。図5の撮影光学系は、焦点距離が広角端と望遠端との中間状態、すなわちMiddle状態を示している。Zmidは、Middle状態での射出瞳距離を表しており、これを標準的な射出瞳距離Znormと仮定して、オンチップマイクロレンズの形状設計が行われる。
図5には、第1レンズ群101およびこれを保持する鏡筒部材101bと、第3レンズ群105およびこれを保持する鏡筒部材105bを示す。絞り102については、絞り開放時の開口径を規定する開口板102aと、絞り込み時の開口径を調節するための絞り羽根102bを示す。なお符号101b,102a,102b,105bで示す部分は、撮影光学系を通過する光束の制限部材として作用する部分であり、像面から観察した場合の光学的な虚像を示している。また、絞り102の近傍における合成開口をレンズの射出瞳と定義する。像面からの射出瞳距離がZmidである。
画素211は、最下層より、光電変換部211a,211bと、配線層211e〜211gと、色フィルタ211hと、オンチップマイクロレンズ211iにより構成される。光電変換部211a,211bはオンチップマイクロレンズ211iによって撮影光学系の射出瞳面に投影される。光電変換部211a,211bの投影像をそれぞれEP1a,EP1bで示す。ここで、絞り102が開放(例えばF2.8)の場合、撮影光学系を通過する光束の最外部をL(F2.8)で示す。投影像EP1a,EP1bは絞り開口でのケラレが無い。一方、絞り102が小絞り(例えばF5.6)の場合、撮影光学系を通過する光束の最外部をL(F5.6)で示す。投影像EP1a,EP1bの外側にて絞り開口でのケラレが発生する。但し、像面中央では各投影像EP1a,EP1bのケラレ状態は光軸に対して対称となり、各光電変換部211a,211bが受光する光量は等しい。
次に、複数の光電変換部の出力から得られるA+B像信号とA像信号からB像信号を生成する処理について説明する。A+B像信号は、撮像素子107の各画素の2つの光電変換部の出力の合計から得られる信号であり、A像信号は、一方の光電変換部の出力する信号から得られる信号である。A+B像信号およびA像信号は、所定のファイルフォーマットとしてフラッシュメモリ133へ保存される。
各画素の光電変換部211a,211bは撮影光学系をそれぞれ通過する光を受光し、光電変換によって光量に応じた信号を出力する。しかし、高輝度の被写体の撮影では、光電変換部211a,211bが蓄積可能な光量の上限値を超えて隣接した光電変換部に対して電荷が漏れる、いわゆるクロストークが生じる可能性がある。光電変換部211aにより生成されるA像信号と光電変換部211bにより生成されるB像信号との間に電荷漏れによるクロストークがあると、A像信号とB像信号に誤差が生じる。この誤差はA+B像信号からA像信号を減算する際に問題となる。A+B像信号からA像信号を減算してB像信号を生成する場合に、A像に対して像の一致度が低いB像が生成されてしまう可能性がある。
A+B像信号からA像信号を減算してB像信号を生成する場合、像信号には出力可能な上限値がある。仮にA像信号、B像信号、A+B像信号ともに同一の上限値とする。A像信号が上限値となった場合、A+B像信号も上限値となるため、A+B像信号からA像信号を減算して得られるB像信号はゼロとなってしまう。この場合、A像信号は上限値に等しく、B像信号はゼロであるので、A像に対して像の一致度が低い、誤差のあるB像信号が生成される。
このような視差画像(A像とB像)を用いて画像処理によって瞳分割方向(水平方向)にシフト処理を行った後に、A像信号とB像信号を加算して生成されるリフォーカス画像を例示して説明する。A像(またはB像)信号を水平方向に数画素分のシフト量でシフト処理を行ってA像信号とB像信号を加算する場合、飽和境界領域でのシフト加算にて、飽和によりゼロとなっているB像信号と、飽和していない画素のA像信号が加算される。よって、画像信号をシフト加算しない場合のA+B像信号に対して値が小さい領域が生じ、画像に擬似輪郭が生じてしまう。
以上のように、高輝度の被写体の撮影時に各画素が飽和する場合、A像信号に上限値を設定して、B像信号を生成しなければならない。そこでリミッタ部302により、A像信号が所定の閾値を超えることを抑制する。よって、A像信号に対して上限値でリミットをかけた後にB像信号を生成して画像処理に用いることができる。
例えばA像信号に関して奇数行の緑(以下、G1と記す)と赤R、偶数行の青Bと緑(以下、G2と記す)の各色フィルタをもつ画素の出力を加算して輝度信号が生成される。この場合、G1、R、B、G2の各色の段階で閾値がそれぞれ設定されている。したがってG1、R、B、G2の特定の色に係る信号が上限値に達する場合にリミッタ部302が閾値を設定する。少なくとも1つの色フィルタに対応するA像信号およびB像信号に閾値が設定されて、リミット処理が行われる。設定される閾値は、A像信号とB像信号との加算信号であるA+B像信号の値より小さい値である。
図2のリミッタ部302はA像信号に対して閾値を設定してリミット処理を行う。減算部303は、A+B像信号からリミット処理後のA像信号を減算することでB像信号を生成する。
次に図6から図8を参照して、A+B像とA像のデータを画像ファイルデータとして取得した後にA像とB像のデータを生成する場合の飽和処理方法について説明する。本実施形態では、A+B像とA像のデータを画像ファイルデータとして取得する段階では、リミット処理は行わず、画像処理部300がリミット処理を行う。図6は撮影光学系からの入射光量と撮像素子の出力信号との関係を示している。横軸は入射光量を示し、縦軸は撮像素子の出力信号を示す。図7は合焦時の実信号を例示する。横軸は任意行の画素(位置)を示し、縦軸は撮像素子の出力信号を示す。図6および図7では、実線のグラフ線でA+B像信号を示し、点線のグラフ線でA像信号を示し、一点鎖線のグラフ線でB像信号を示す。図6(A)と図7(A)は飽和判定を行わない場合を示し、図6(B)と図7(B)は飽和判定を行う場合を示している。
図6(A)において、入射光量が小さい0からA1までの区間では、入射光量を光電変換しても各画素信号が上限値に達していない。つまり、0からA1までの区間において、A像信号およびB像信号は、入射光量を反映した信号である。入射光量が大きいA1以上の区間では、A+B像信号が上限値を超えてしまう。B像信号はA+B像信号からA像信号を減算することで生成されるため、B像信号が減少してしまう。すなわち、各像信号の上限値が同一の値に設定されている場合、A像信号が上限値の1/2を超えるときに、B像信号がA像信号の影響により、減少していくことになる。本来A像信号の増加に対してB像信号も増加するべきであるが、A像信号が上限値を超えることによって、A像信号の増加に対してB像信号が減少し、逆の変化を示すことになる。この場合、図7(A)に示すようにA像とB像との一致度が極端に低下してしまう。したがって、A像とB像とのずれに関して、視差画像としての像ずれ以外の影響が大きくなり、A像とB像を用いた画像処理ができない。
次に飽和判定を行う場合を説明する。図6(B)ではA像信号とB像信号とが同一の値を取る場合を想定する。リミッタ部302はA像信号が、例えば上限値の1/2となる値を閾値として設定するため、A像信号が閾値以下に抑制される。これによりA像信号とB像信号はいずれも上限値の1/2以下に抑制されるので、A+B像信号が上限値を超えることはない。飽和判定によって図7(B)に示すように、A像とB像との一致度が高いので、A像とB像を用いた画像処理を行うことができる。
一般的に撮像素子の受光面の周辺部、すなわち像高が大きい領域では、撮影光学系の口径食(ヴィネッティング)により射出瞳径が小さくなる。そのため、画素の受光量が低下し、2つの光電変換部の間で出力が不均一となる。絞り開口径の減少に伴い、受光量の不均一性が顕著になる。よって、各画素内の2つの光電変換部211aと211bとで受光量が異なる可能性がある。以下では、2つの光電変換部211a,211bの出力信号からそれぞれ取得されるA像信号とB像信号が同一の値ではない場合の飽和判定について、図6(C)および(D)と、図7(C)および(D)を用いて説明する。
図6(C)は、A像信号の飽和判定を行い、B像信号の飽和判定を行わない場合を示す。図6(D)は、A像信号およびB像信号の飽和判定を行う場合を示す。図6(C)および(D)では、A像信号よりB像信号が大きいものとする。A像信号が上限値の1/2以下の場合であっても、B像信号はすでに上限値の1/2を超える場合がある。この場合、A+B像信号は上限値となる。B像信号はA+B像信号からA像信号を減算して生成されるため、B像信号として、A+B像信号が上限値を超えたことによる影響で偽信号が出力されてしまう。よって、図7(C)に示すようにA像とB像との一致度が極端に低下してしまう。
本実施形態では、図6(D)に示すようにB像信号に対しても閾値が設定される。すなわち、第1および第2の光電変換部の各出力に対して閾値を設定することにより、A像信号およびB像信号が閾値以下に抑制される。具体的には、A像信号とB像信号を上限値に対して1/2以下とするために閾値が設けられる。よって、B像信号が上限値の1/2を超えることはなくなる。A像信号またはB像信号が上限値の1/2を超えた場合に、B像信号にA+B像信号の飽和による偽信号が混入することはない。すなわち、図7(D)に示すようにA像とB像との一致度が高いので、A像とB像を用いた画像処理を行うことができる。
次に、画像処理部300が行うシェーディング補正について説明する。シェーディングとは像信号の強度にムラが発生する現象である。光束の一部が撮影光学系(レンズ、絞り等の光学部材やこれらを保持する鏡筒を含む)により遮られる、いわゆるケラレが発生する場合、A像信号とB像信号の少なくとも一方に、光量の低下による信号レベルの低下やシェーディングが発生し得る。ケラレによる像信号レベルの低下やシェーディングはA像とB像との一致度を低下させる原因となる。シェーディングについては、射出瞳距離と絞り値に応じて変化する。
そこで本実施形態では、メモリに予め格納されたケラレ補正用の像信号補正値を口径比、射出瞳位置およびデフォーカス量に応じて変更した上でA像信号およびB像信号の補正に適用する。補正後の像信号を用いて焦点検出が行われる。シェーディング補正処理では、レンズの形状に基づく基準補正データと、撮像素子とレンズとの組込み位置のずれを測定して得られた組込み位置ずれ補正データとを用いる。シェーディングは像高に応じて連続的に変化する値であるため、像高関数として表現することができる。シェーディングは像高によって変化する上に、絞り値と射出瞳距離の組合せによって変化する。そのため、レンズ交換式のカメラ等でシェーディング補正を行う場合、全ての補正値をメモリに記憶すると、膨大な記憶容量が必要となってしまう。そこで、解決策の1つとして、本実施形態では予め所定の条件(絞り値と射出瞳距離情報の組合せ)でシェーディングの補正値を算出し、その近似関数を求めて、シェーディング補正処理を行う。この場合、画像データには近似関数の係数値のみを画像ファイルのヘッダ部に記憶すればよいので、記憶容量が少なくて済む。
具体的には、A+B像とA像の画像出力時に補正データを画像ファイルのヘッダ部に書き込む処理が行われる。画像処理部300はA像とB像の画像出力時に、ヘッダ部の補正データを用いてシェーディング補正処理を行う。または、その他の方法を用いて、A像信号およびB像信号のシェーディング補正処理を行ってもよい。
以下では、シェーディング補正処理後の視差画像を修正視差画像という。すなわち、第1の視差画像に対してシェーディング補正処理を施した画像を第1の修正視差画像といい、第2の視差画像に対してシェーディング補正処理を施した画像を第2の修正視差画像という。第1および第2の視差画像は2分割された各光電変換部の出力からそれぞれ取得される。
図8(A)は、撮像素子と瞳分割との対応関係を示す概略図である。異なる瞳部分領域、つまり第1の瞳部分領域501と第2の瞳部分領域502をそれぞれ通過した光束は、撮像素子の各画素に異なる角度で入射する。入射光は、2分割された第1の光電変換部211aと第2の光電変換部211bがそれぞれ受光して光電変換する。
図8(B)は、第1の視差画像と第2の視差画像のデフォーカス量と、第1の視差画像と第2の視差画像との間の像ずれ量について概略的に示す関係図である。撮像面800には撮像素子(不図示)が配置され、図8(A)の場合と同様に、結像光学系の射出瞳が、第1の瞳部分領域501と第2の瞳部分領域502に2分割される。
デフォーカス量dは、その大きさ|d|が被写体像の結像位置から撮像面800までの距離を表す。被写体像の結像位置が撮像面800よりも被写体側にある前ピン状態では、負符号(d<0)とし、これとは反対の後ピン状態では正符号(d>0)として向きを定義する。被写体像の結像位置が撮像面(合焦位置)にある合焦状態では、d=0である。図8(B)に示す被写体801の位置は、合焦状態(d=0)に対応する位置を示しており、被写体802の位置は前ピン状態(d<0)に対応する位置を例示する。以下では、前ピン状態(d<0)と後ピン状態(d>0)とを併せて、デフォーカス状態(|d|>0)という。
前ピン状態(d<0)では、被写体802からの光束のうち、第1の瞳部分領域501(または第2の瞳部分領域502)を通過した光束は、いったん集光した後、光束の重心位置G1(またはG2)を中心として幅Γ1(またはΓ2)に広がる。この場合、撮像面800上で暈けた像となる。暈け像は、撮像素子に配列された各画素部を構成する第1の光電変換部211a(または第2の光電変換部211b)により受光され、第1の視差画像信号(または第2の視差画像信号)が生成される。よって、第1の視差画像(または第2の視差画像)は、撮像面800上の重心位置G1(またはG2)にて、幅Γ1(またはΓ2)をもった被写体像(暈け像)の画像データとしてメモリに記憶される。被写体像の幅Γ1(またはΓ2)は、デフォーカス量dの大きさ|d|が増加するのに伴い、概ね比例して増加する。同様に、第1の視差画像と第2の視差画像との間の被写体像の像ずれ量を「p」と記すと、その大きさ|p|はデフォーカス量dの大きさ|d|の増加に伴って増加する。例えば、像ずれ量pは光束の重心位置の差「G1−G2」として定義され、その大きさ|p|は、|d|が増加するのに伴い、概ね比例して増加する。なお、後ピン状態(d>0)では、第1の視差画像と第2の視差画像との間の被写体像の像ずれ方向が前ピン状態とは反対となるが、同様の傾向がある。
したがって、本実施形態の場合には、第1の視差画像と第2の視差画像、または、第1の視差画像と第2の視差画像を加算した撮像信号のデフォーカス量の大きさが増加するのに伴い、第1の視差画像と第2の視差画像との間の像ずれ量の大きさが増加する。
次にリフォーカス処理について説明する。
図9は、複数の修正視差画像による瞳分割方向(行方向、水平方向)のリフォーカス処理の説明図である。図9の撮像面800は、図8(B)に示した撮像面800に対応している。図9では、iを整数の変数として、撮像面800に配置された撮像素子の行方向におけるi番目の画素での、第1の修正視差画像をAiと表記し、第2の修正視差画像をBiと表記して、模式的に表している。第1の修正視差画像Aiの信号は、(図8の第1の瞳部分領域501に対応した)主光線角度θaでi番目の画素に入射した光束の受光信号である。第2の修正視差画像Biは、(図8の第2の瞳部分領域502に対応した)主光線角度θbでi番目の画素に入射した光束の受光信号である。
図9は、複数の修正視差画像による瞳分割方向(行方向、水平方向)のリフォーカス処理の説明図である。図9の撮像面800は、図8(B)に示した撮像面800に対応している。図9では、iを整数の変数として、撮像面800に配置された撮像素子の行方向におけるi番目の画素での、第1の修正視差画像をAiと表記し、第2の修正視差画像をBiと表記して、模式的に表している。第1の修正視差画像Aiの信号は、(図8の第1の瞳部分領域501に対応した)主光線角度θaでi番目の画素に入射した光束の受光信号である。第2の修正視差画像Biは、(図8の第2の瞳部分領域502に対応した)主光線角度θbでi番目の画素に入射した光束の受光信号である。
第1の修正視差画像Aiと第2の修正視差画像Biは、光強度分布情報だけでなく、入射角度情報も有している。よって、以下の平行移動および加算処理で仮想結像面810でのリフォーカス信号を生成できる。
(1)第1の修正視差画像Aiを主光線角度θaに沿って仮想結像面810まで平行移動させ、第2の修正視差画像Biを主光線角度θbに沿って仮想結像面810まで平行移動させる処理。
(2)それぞれ平行移動させた第1の修正視差画像Aiと第2の修正視差画像Biを加算する処理。
(1)第1の修正視差画像Aiを主光線角度θaに沿って仮想結像面810まで平行移動させ、第2の修正視差画像Biを主光線角度θbに沿って仮想結像面810まで平行移動させる処理。
(2)それぞれ平行移動させた第1の修正視差画像Aiと第2の修正視差画像Biを加算する処理。
第1の修正視差画像Aiを主光線角度θaに沿って仮想結像面810まで平行移動させることは、行方向への+0.5画素分のシフトに対応する。また、第2の修正視差画像Biを主光線角度θbに沿って仮想結像面810まで平行移動させることは、行方向への−0.5画素分のシフトに対応する。したがって、第1の修正視差画像Aiと第2の修正視差画像Biを相対的に+1画素分シフトさせ、AiとBi+1を対応させて加算することで、仮想結像面810でのリフォーカス信号を生成できる。同様に、第1の修正視差画像Aiと第2の修正視差画像Biを整数の画素分だけシフトさせて加算することで、整数のシフト量に応じた各仮想結像面でのシフト加算信号(リフォーカス信号)を生成できる。つまり、下記式(1)を用いて、整数のシフト量(sと記す)により、第1の修正視差画像と第2の修正視差画像をシフト加算することで、シフト量sに応じた各仮想結像面でのリフォーカス画像I(j,i:s)が生成される。ここで、jは列方向における整数の変数である。
本実施形態では、第1の修正視差画像と第2の修正視差画像の配列がベイヤー配列である。このため、2の倍数のシフト量s=2×n(n:整数)で、同色ごとに式(1)のシフト加算が行われる。つまり、ベイヤー配列を保ってリフォーカス画像I(j,i:s)の生成処理が行われる。その後、リフォーカス画像I(j,i:s)に対してデモザイキング処理が行われる。
必要に応じて、第1および第2の修正視差画像にデモザイキング処理を行った後、デモザイキング処理後の第1および第2の修正視差画像に対するシフト加算処理を行い、リフォーカス画像を生成してもよい。また必要に応じて、第1の修正視差画像と第2の修正視差画像の各画素間の補間信号を生成し、非整数のシフト量に応じたリフォーカス画像を生成してもよい。
以上のように複数の修正視差画像から、結像光学系(撮影光学系)の仮想結像面に応じた再結像画像が生成される。
以上のように複数の修正視差画像から、結像光学系(撮影光学系)の仮想結像面に応じた再結像画像が生成される。
次に、図10の概略図を参照して、本実施形態におけるリフォーカス可能範囲について説明する。許容錯乱円径をδとし、結像光学系の絞り値をFとすると、絞り値Fでの焦点深度は、±F×δである。光電変換部における水平方向の分割数をNHと表記し、垂直方向の分割数をNVと表記し、NH=2、NV=1の場合を想定する。2分割されて狭くなった瞳部分領域501(または502)の水平方向の実効絞り値F01(またはF02)は、F01=NH×F(またはF02=NH×F)となって暗くなる。第1の修正視差画像(または第2の修正視差画像)ごとの実効的な焦点深度は、±NH×F×δで、NH倍深くなり、合焦範囲がNH倍に広がる。実効的な焦点深度「±NH×F×δ」の範囲内では、第1の修正視差画像(または第2の修正視差画像)ごとに合焦した被写体像が取得されている。よって、図9に示した主光線角度θa,θbに沿って第1および第2の修正視差画像をそれぞれ平行移動させて加算する処理により、撮影後に、合焦位置を再調整(リフォーカス)することができる。
撮影後に合焦位置を再調整可能な、撮像面からのデフォーカス量dは限定される。デフォーカス量dのリフォーカス可能範囲は、概ね、下記式(2)の範囲である。
許容錯乱円径δは、δ=2・ΔX(画素周期ΔXのナイキスト周波数1/(2・ΔX)の逆数)等で規定される。
次に、図11のメインフローチャートを参照して、本実施形態の処理を説明する。
S100で処理が開始し、S101へ進むと撮像素子107が撮像を行い、S102では撮像素子107の出力から視差画像(A+B像とA像)が取得される。視差画像データは所定のファイルフォーマットの画像データとしてフラッシュメモリ133に記憶される。次のS103で画像処理部300は、S102でフラッシュメモリ133に記憶された画像データをメモリ301に読み込み、S104へ進む。
S100で処理が開始し、S101へ進むと撮像素子107が撮像を行い、S102では撮像素子107の出力から視差画像(A+B像とA像)が取得される。視差画像データは所定のファイルフォーマットの画像データとしてフラッシュメモリ133に記憶される。次のS103で画像処理部300は、S102でフラッシュメモリ133に記憶された画像データをメモリ301に読み込み、S104へ進む。
S104で画像処理部300は、S103で読み込んだ視差画像データの補正処理を実行する。補正処理とは画素補間処理や、画素間の感度ばらつきを補正するゲイン調整処理のことである。次にS105へ進み、画像処理部300はシェーディング補正処理を実行した後、S106でリミット処理を実行し、S107へ進む。リミット処理については、図12のサブフローチャートを用いて後述する。
S107で画像処理部300は視差画像データを生成する。A+B像信号からA像信号を減算することでB像信号が生成される。S108で画像処理部300は、A像とB像を合成するかどうかについて判定する。判定の結果、A像とB像を合成する場合にはS109へ進み、A像とB像を合成しない場合にはS110へ進む。S109にて画像処理部300はA像信号とB像信号を加算して合成処理を行い、S110へ進む。視差画像の合成処理は、リフォーカス画像を生成するシフト加算や、視差画像であるA像とB像を合成する合成比率の設定や変更等を含む。S110で画像処理部300は、視差画像データに対して各種画像処理(現像処理)を行い、S111で処理を終了する。S110の現像処理については図13のサブフローチャートを用いて後述する。
次に図12を参照して、図11のS106に示すリミット処理について説明する。S200でリミット処理が開始し、S201に進んでA+B像とA像の画像データをそれぞれ読み込む処理が実行される。次にS202で画像処理部300はS201で読み込んだ画像の画素値の参照を開始し、S203へ処理を進める。
S203で画像処理部300は、A+B像の飽和判定処理を行う。行番号をi、列番号をj、A+B像の画素値をAB(i,j)、第1の閾値をTh1と表記する。A+B像の飽和判定処理では、AB(i,j)をTh1と比較することで、AB(i,j)が第1の閾値以上であるか否かが判定される。第1の閾値Th1については画素値の最大値(例えば2の14乗)とするが、他の値に設定してもよい。判定の結果、AB(i,j)≧Th1である場合、S204へ進み、AB(i,j)<Th1である場合にはS206へ進む。
S204ではA像の画素値を第2の閾値と比較する処理が行われる。A像の画素値をA(i,j)、第2の閾値をTh2と表記し、「Th2<Th1」とする。A(i,j)が第2の閾値以上であるか否かが判定される。第2の閾値Th2については画素値の最大値の2分の1半分(例えば2の13乗)とするが、他の値に設定してもよい。判定の結果、A(i,j)≧Th2である場合、S205へ進み、A(i,j)<Th2である場合にはS206へ進む。
S205で画像処理部300は、A像の画素値A(i,j)を第2の閾値Th2に書き換えることで変更し、S206へ進む。S206は、すべての画素値を参照したかどうかの判定処理である。すべての画素値の参照が終了した場合、S207へ進み、すべての画素値の参照が終了していない場合にはS202へ戻り、今回の画素位置とは異なる位置の画素値の参照を開始する。S207でリミット処理を終了してリターン処理へ移行する。
次に図13を参照して、視差画像の画像処理例を説明する。
S300で処理が開始し、S301ではホワイトバランス処理が行われ、白の領域のR,G,Bが等色になるようにR,G,Bの各色信号にゲインが乗算される。次のS302ではデモザイキング処理が行われる。デモザイキング処理では規定方向での補間処理がそれぞれ行われた後、方向選択を行うことで、各画素について補間処理結果としてR,G,Bの3原色のカラー画像信号が生成される。S303ではガンマ変換処理が行われた後、S304へ進む。
S300で処理が開始し、S301ではホワイトバランス処理が行われ、白の領域のR,G,Bが等色になるようにR,G,Bの各色信号にゲインが乗算される。次のS302ではデモザイキング処理が行われる。デモザイキング処理では規定方向での補間処理がそれぞれ行われた後、方向選択を行うことで、各画素について補間処理結果としてR,G,Bの3原色のカラー画像信号が生成される。S303ではガンマ変換処理が行われた後、S304へ進む。
S304ではノイズ低減、彩度強調、色相補正、エッジ強調等の色調整処理により、画像の見栄えを改善するための処理が実行される。次のS305では色調整されたカラー画像データがJPEG方式等で圧縮処理され、S306へ進む。S306で圧縮された画像データを記録媒体に記録する処理が行われる。S307で処理を終了してリターン処理へ移行し、図11のメインフローチャートに戻る。
次に図14を参照して、視差画像の生成に応じて飽和処理の要否を切り替える場合について説明する。S400で処理が開始し、S401へ進む。S401から405については、図11のS101からS105の処理と同様であるため説明を省略し、S406から説明する。
S406でCPU121は、B像を視差画像として使用するか否かの判定処理を行う。つまり、視差画像として読み込んだA+B像とA像に基づき、A+B像信号からA像を減算して生成したB像を使用するか否かが判定される。例えばユーザ操作指示にしたがって、視差画像としてのB像を画像として用いるかどうかによって判定が行われる。視差画像(B像)を使用しないことが判定された場合、S408へ進み、視差画像(B像)を使用すると判定された場合にはS407へ進む。
S407で画像処理部300はリミット処理(図12参照)を実行し、S408へ進む。S408でCPU121は、視差画像(A像)のみを画像として使用するか否かの判定処理を行う。視差画像(A像)のみを使用しないと判定された場合、S410へ進み、視差画像(A像)のみを使用すると判定された場合にはS409へ進む。S409では、視差画像の画像処理(図13参照)が行われた後、S410へ進んで処理を終了する。
本実施形態によれば、飽和画素がある場合でも画像処理が可能な視差画像を生成することができる。
本実施形態によれば、飽和画素がある場合でも画像処理が可能な視差画像を生成することができる。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101 撮影光学系
107 撮像素子
300 画像処理部
302 リミッタ部
107 撮像素子
300 画像処理部
302 リミッタ部
Claims (12)
- 撮影光学系の第1および第2の瞳部分領域をそれぞれ通過した光を光電変換して取得された複数の像信号を記憶する記憶手段を備え、前記複数の像信号から生成される視差画像のデータを処理する画像処理装置であって、
前記第1の瞳部分領域を通過した光を第1の光電変換部が光電変換することにより取得される像信号を第1の像信号とし、
前記第2の瞳部分領域を通過した光を第2の光電変換部が光電変換することにより取得される像信号を第2の像信号とし、
前記第1および第2の瞳部分領域を通過した光を前記第1および第2の光電変換部が光電変換することにより取得される像信号を第3の像信号とするとき、
取得された前記第1および第2の像信号に対して閾値を設定し、前記第1および第2の像信号を前記閾値以下に抑制するリミッタ手段と、
前記第3の像信号から前記第1の像信号を減算して前記第2の像信号を生成し、または、前記第1の像信号と前記第2の像信号を加算して前記第3の像信号を生成する生成手段と、
前記第1の像信号から生成される第1の視差画像または前記第2の像信号から生成される第2の視差画像、または前記第1および第2の視差画像から合成される画像の現像処理を行う現像処理手段と、を備えることを特徴とする画像処理装置。 - 前記リミッタ手段は、異なる色フィルタについての前記第1および第2の像信号に対して前記閾値を設定して前記第1および第2の像信号を抑制することを特徴とする請求項1に記載の画像処理装置。
- 前記リミッタ手段は、複数の色フィルタのうちの少なくとも1つの色フィルタについて前記第1の像信号を前記閾値以下に抑制することを特徴とする請求項2に記載の画像処理装置。
- 前記閾値は、前記第3の像信号の値より小さいことを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
- 前記リミッタ手段は、前記第3の像信号が第1の閾値以上であって、かつ、前記第1の像信号が第2の閾値以上である場合、前記第1の像信号を前記第2の閾値に抑制することを特徴とする請求項1に記載の画像処理装置。
- 前記リミッタ手段は、前記現像処理手段が前記第2の視差画像の現像処理を行わない場合、前記第1の像信号を前記閾値以下に抑制しないことを特徴とする請求項1に記載の画像処理装置。
- 前記第1および第2の像信号のシェーディング補正を行う補正手段と、
前記補正手段によりシェーディング補正された前記第1および第2の像信号を、瞳分割方向にシフト加算することで合成されるリフォーカス画像の信号を生成する処理手段を備えることを特徴とする請求項1から6のいずれか1項に記載の画像処理装置。 - 前記第1および第2の視差画像のデータを合成比率によって合成する処理手段を備えることを特徴とする請求項1から6のいずれか1項に記載の画像処理装置。
- 請求項1から8のいずれか1項に記載の画像処理装置と、
前記第1および第2の光電変換部を画素ごとに有する撮像素子を備えることを特徴とする撮像装置。 - 前記撮像素子は複数のマイクロレンズを備え、
前記マイクロレンズがそれぞれ1つの画素の前記第1および第2の光電変換部に対応することを特徴とする請求項9に記載の撮像装置。 - 撮影光学系の第1および第2の瞳部分領域をそれぞれ通過した光を光電変換して取得された複数の像信号を記憶する記憶手段を備え、前記複数の像信号から生成される視差画像のデータを処理する画像処理装置にて実行される画像処理方法であって、
前記第1の瞳部分領域を通過した光を第1の光電変換部が光電変換することにより取得される像信号を第1の像信号とし、
前記第2の瞳部分領域を通過した光を第2の光電変換部が光電変換することにより取得される像信号を第2の像信号とし、
前記第1および第2の瞳部分領域を通過した光を前記第1および第2の光電変換部が光電変換することにより取得される像信号を第3の像信号とするとき、
取得された前記第1および第2の像信号に対して閾値を設定し、前記第1および第2の像信号を前記閾値以下に抑制する工程と、
前記第3の像信号から前記第1の像信号を減算して前記第2の像信号を生成し、または、前記第1の像信号と前記第2の像信号を加算して前記第3の像信号を生成する工程と、
前記第1の像信号から生成される第1の視差画像または前記第2の像信号から生成される第2の視差画像、または前記第1および第2の視差画像から合成される画像の現像処理を行う工程と、を有することを特徴とする画像処理方法。 - 請求項11に記載の各工程を画像処理装置のコンピュータに実行させるプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015234661A JP2017102240A (ja) | 2015-12-01 | 2015-12-01 | 画像処理装置および画像処理方法、撮像装置、プログラム |
US15/359,872 US20170155882A1 (en) | 2015-12-01 | 2016-11-23 | Image processing apparatus, image processing method, imaging apparatus, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015234661A JP2017102240A (ja) | 2015-12-01 | 2015-12-01 | 画像処理装置および画像処理方法、撮像装置、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017102240A true JP2017102240A (ja) | 2017-06-08 |
Family
ID=58776849
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015234661A Withdrawn JP2017102240A (ja) | 2015-12-01 | 2015-12-01 | 画像処理装置および画像処理方法、撮像装置、プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20170155882A1 (ja) |
JP (1) | JP2017102240A (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6935771B2 (ja) * | 2018-02-23 | 2021-09-15 | オムロン株式会社 | 画像センサ |
-
2015
- 2015-12-01 JP JP2015234661A patent/JP2017102240A/ja not_active Withdrawn
-
2016
- 2016-11-23 US US15/359,872 patent/US20170155882A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US20170155882A1 (en) | 2017-06-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6317548B2 (ja) | 撮像装置及びその制御方法 | |
CN107465866B (zh) | 图像处理设备及方法、摄像设备和计算机可读存储介质 | |
JP5572765B2 (ja) | 固体撮像素子、撮像装置、及び合焦制御方法 | |
JP5361535B2 (ja) | 撮像装置 | |
JP6478457B2 (ja) | 焦点調節装置及び焦点調節方法 | |
US8593509B2 (en) | Three-dimensional imaging device and viewpoint image restoration method | |
JP6789833B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
US8994794B2 (en) | Imaging apparatus | |
US10674074B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for generating an image based on a plurality of parallax images | |
US20120099006A1 (en) | Image pickup apparatus | |
JP6381266B2 (ja) | 撮像装置、制御装置、制御方法、プログラム、および、記憶媒体 | |
JP5680797B2 (ja) | 撮像装置、画像処理装置、及び画像処理方法 | |
JP2016038414A (ja) | 焦点検出装置およびその制御方法、並びに撮像装置 | |
JP2015227995A (ja) | 撮像装置及びその制御方法、及び撮像システム | |
JP5507761B2 (ja) | 撮像装置 | |
JP2015194736A (ja) | 撮像装置およびその制御方法 | |
JP2007140176A (ja) | 電子カメラ | |
JP2014110619A (ja) | 画像処理装置およびその制御方法、並びに撮像装置およびその制御方法 | |
JP6254843B2 (ja) | 画像処理装置およびその制御方法 | |
JP2017102240A (ja) | 画像処理装置および画像処理方法、撮像装置、プログラム | |
JP2017054052A (ja) | 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 | |
JP6686191B2 (ja) | 焦点検出装置、撮像装置、及び焦点検出方法 | |
JP2018019348A (ja) | 撮像装置、画像処理方法、画像処理システム、及び画像処理プログラム | |
JP6234097B2 (ja) | 撮像装置およびその制御方法 | |
JP2020067489A (ja) | 撮像装置およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181119 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20190305 |