JP2014137468A - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
JP2014137468A
JP2014137468A JP2013005841A JP2013005841A JP2014137468A JP 2014137468 A JP2014137468 A JP 2014137468A JP 2013005841 A JP2013005841 A JP 2013005841A JP 2013005841 A JP2013005841 A JP 2013005841A JP 2014137468 A JP2014137468 A JP 2014137468A
Authority
JP
Japan
Prior art keywords
phase difference
line
value
detection
abnormal value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013005841A
Other languages
English (en)
Inventor
Asuka Suzuki
飛鳥 鈴木
Makibi Nakamura
真備 中村
Keijinro Yoshimatsu
敬仁郎 吉松
Manabu Kubo
久保  学
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2013005841A priority Critical patent/JP2014137468A/ja
Priority to US14/141,169 priority patent/US20140198239A1/en
Priority to CN201410011476.5A priority patent/CN103945147A/zh
Publication of JP2014137468A publication Critical patent/JP2014137468A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • H04N23/811Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation by dust removal, e.g. from surfaces of the image sensor or processing of the image signal output by the electronic image sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/663Remote control of cameras or camera parts, e.g. by remote control devices for controlling interchangeable camera parts based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】位相差検出の精度を向上させる。
【解決手段】撮像素子は、一対の位相差検出画素を複数含み瞳分割方向に沿った位相差ラインが前記瞳分割方向に直交する直交方向に複数配置されている。検出部は、位相差検出画素が出力した出力値のうちの異常値を、複数の位相差ライン間における出力値の比較結果に基づいて検出する。合焦判定部は、位相差検出領域における複数の位相差ラインのうちから位相差検出に使用する複数の位相差ラインを使用ラインとして検出部による検出結果に基づいて決定する。
【選択図】図3

Description

本技術は、撮像装置に関し、特に、位相差検出を行う撮像装置およびその撮像方法に関する。
近年、人物等の被写体を撮像して撮像画像を生成し、この生成された撮像画像を記録するデジタルスチルカメラ等の撮像装置が普及している。また、この撮像装置として、ユーザーの撮影操作を簡便にするため、撮像時のフォーカス(ピント、焦点)調整を自動的に行うオートフォーカス(AF:Auto Focus)機能を備える撮像装置が広く普及している。
このような撮像装置として、例えば、フォーカス位置をずらしながら複数の画像を撮像し、最もコントラストが高いフォーカス位置を合焦位置とするコントラスト検出方式によりオートフォーカスを行う撮像装置が提案されている。また、撮像レンズを通過した光を瞳分割して1対の像を形成し、その形成された像の間隔を計測(位相差を検出)することによって撮像レンズの位置を決定する位相差検出方式によりオートフォーカスを行う撮像装置も提案されている。
さらに、コントラスト検出方式と位相差検出方式との両方の機能を備える撮像装置も提案されている。このような撮像装置として、例えば、撮像レンズを通過した光を瞳分割する画素(位相差検出画素)と、撮像画像の生成用の画素(画像生成画素)との両方の画素を1つの撮像素子に設ける撮像装置が提案されている(例えば、特許文献1参照。)。
特開2009−204987号公報
上述の従来技術では、位相差検出画素と画像生成画素の両方の画素を1つの撮像素子に設けるため、1つの撮像素子だけで、位相差検出と画像生成とを両方とも行うことができる。
なお、このような撮像素子において位相差検出画素に欠陥画素がある場合には、例えば、画像生成画素における欠陥画素の画素値の補正と同様に補正される。すなわち、その欠陥画素に近接する位相差検出画素(欠陥画素と同方向の瞳分割された光を受光する位相差検出画素)の画素値の平均値から欠陥画素の画素値が補正される。
しかしながら、高周波の画像におけるエッジの位置に欠陥画素がある場合や、欠陥画素が密集している領域がある場合も想定される。この場合には、高周波成分や欠陥画素による影響により適切に補正を行うことができないことが想定される。また、使用時に付着したゴミにより異常な値を生成する画素となった場合には、この異常な値が位相差検出に用いられ、位相差検出の精度が低下することが想定される。
そこで、欠陥やゴミなどにより異常な値を生成する位相差検出画素がある位置において位相差検出を行っても精度の高い位相差検出を行うことが重要である。
本技術はこのような状況に鑑みて生み出されたものであり、位相差検出の精度を向上させることを目的とする。
本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、一対の位相差検出画素を複数含み瞳分割方向に沿った位相差ラインが上記瞳分割方向に直交する直交方向に複数配置されている撮像素子と、上記位相差検出画素が出力した出力値のうちの異常値を、上記複数の位相差ライン間における上記出力値の比較結果に基づいて検出する検出部と、上記位相差検出領域における上記複数の位相差ラインのうちから位相差検出に使用する複数の位相差ラインを使用ラインとして上記検出部による検出結果に基づいて決定する位相差ライン決定部とを具備する撮像装置および撮像方法である。これにより、位相差検出対象領域における複数の位相差ライン間における出力値の比較結果に基づいて位相差検出画素が出力した異常値が検出され、この検出結果に基づいて位相差検出に使用する複数の位相差ラインが決定されるという作用をもたらす。
また、この第1の側面において、上記位相差ライン決定部は、上記異常値を出力した上記位相差検出画素を含む位相差ラインである異常値ラインを上記複数の位相差ラインから除外することにより上記使用ラインを決定するようにしてもよい。これにより、異常値ラインが位相差検出に使用する複数の位相差ラインから除外されるという作用をもたらす。
また、この第1の側面において、上記検出部は、上記位相差ラインに含まれる上記位相差検出画素の出力値を用いて演算を行うことによりライン総和値を上記位相差ラインごと算出し、上記ライン総和値同士の比較結果に基づいて上記異常値ラインを検出するようにしてもよい。これにより、ライン総和値を用いて異常値ラインが検出されるという作用をもたらす。
また、この第1の側面において、上記検出部は、上記ライン総和値と所定の閾値との比較結果に基づいて上記異常値ラインを検出して複数の上記異常値ラインを検出した場合には新たな領域を設定して当該新たな領域において上記ライン総和値同士の比較結果に基づいて上記異常値ラインを検出してもよい。これにより、複数の上記異常値ラインが検出された場合には新たな領域が設定されるという作用をもたらす。
また、この第1の側面において、上記検出部は、上記位相差ラインを複数含む位相差検出対象領域において相関算出を行うために設定される基準領域および参照領域ごとに上記ライン総和値を算出し、上記基準領域および参照領域ごとに上記異常値ラインを検出するようにしてもよい。これにより、基準領域および参照領域ごと異常値ラインが検出されるという作用をもたらす。
また、この第1の側面において、上記検出部は、上記一対の位相差検出画素のうちの一方の出力値を加算して求められるライン総和値に基づいて上記基準領域における上記異常値ラインを検出し、上記一対の位相差検出画素のうちの他方の出力値を加算して求められるライン総和値に基づいて上記参照領域における上記異常値ラインを検出するようにしてもよい。これにより、基準領域における異常値ラインは一対の位相差検出画素のうちの一方(基準側)の出力値を加算して求められるライン総和値に基づいて検出され、参照領域における異常値ラインは一対の位相差検出画素のうちの他方(参照側)の出力値を加算して求められるライン総和値に基づいて検出されるという作用をもたらす。
また、この第1の側面において、上記位相差ライン決定部は、上記異常値を出力した上記位相差検出画素を含む位相差ラインである異常値ラインの近傍に配置されている上記位相差ラインの出力値である代替候補値を当該異常値ラインの出力値の代わりに用いて上記位相差検出が可能か否かを判定し、上記位相差検出が可能であると判定された場合には、上記検出部による検出結果に基づいて上記異常値ラインを含む上記複数の位相差ラインを上記使用ラインとして決定するようにしてもよい。これにより、異常値ラインにおける位相差検出画素の出力値の代わりに異常値ラインの近傍に配置されている位相差ラインの出力値を用いて位相差検出が行われるという作用をもたらす。
また、この第1の側面において、上記撮像素子は、光軸方向における位置が異なる複数の射出瞳のいずれかに対応する複数の位相差検出画素が配置され、上記位相差ラインは、1つの上記位相差ラインが1つの位置の射出瞳に対応するように上記位相差検出画素が配置されるとともに、上記直交方向において隣接する上記位相差ラインが対応する上記射出瞳とは異なる上記射出瞳にそれぞれが対応するように配置され、上記合焦判定部は、上記直交方向において上記異常値ラインに隣接する2つの位相差ラインのうち、対応する射出瞳が上記異常値ラインに対応する射出瞳に近い上記位相差ラインの出力値を上記代替候補値とするようにしてもよい。これにより、異常値ラインに隣接する位相差ラインのうち、異常値ラインの対応する射出瞳に近い位相差ラインの出力値を異常値ラインにおける位相差検出画素の出力値の代わりに用いて位相差検出が行われるという作用をもたらす。
また、この第1の側面において、上記撮像素子は、光軸方向における位置が異なる複数の射出瞳のいずれかに対応する複数の位相差検出画素が配置され、上記位相差ラインは、1つの上記位相差ラインが1つの位置の射出瞳に対応するように上記位相差検出画素が配置されるとともに、上記直交方向において隣接する上記位相差ラインが対応する上記射出瞳とは異なる上記射出瞳にそれぞれが対応するように配置され、上記位相差ライン決定部は、上記直交方向において上記異常値ラインに隣接する2つの位相差ラインの出力値を演算して上記代替候補値を算出するようにしてもよい。これにより、異常値ラインに隣接する位相差ラインの出力値を演算して算出された代替候補値を異常値ラインにおける位相差検出画素の出力値の代わりに用いて位相差検出が行われるという作用をもたらす。
本技術によれば、位相差検出の精度を向上させることができるという優れた効果を奏し得る。
本発明の第1の実施の形態における撮像システム10の内部構成の一例を示す模式図である。 本発明の第1の実施の形態の撮像システム10における撮像装置の断面構成例を模式的に示す断面図である。なお、同図では、撮像システム10は、一眼カメラであることを想定して説明する。 本発明の第1の実施の形態における撮像システム10の機能構成の一例を示すブロック図である。 本発明の第1の実施の形態における撮像素子300に備えられる画素の配置の一例を示す模式図である。 本発明の第1の実施の形態における撮像素子300において設定されるフォーカスエリアを模式的に示す図である。 本発明の第1の実施の形態の異常値ライン検出部262による行単位での異常検出の一例を模式的に示す図である。 本発明の第1の実施の形態の異常値ライン検出部262により検出された異常値ラインと、デフォーカス量算出部263により行われる相関算出との関係を説明するための模式図である。 本発明の第1の実施の形態の異常値ライン検出部262により検出された異常値ラインと、デフォーカス量算出部263により行われる相関算出との関係を説明するための模式図である。 本技術の第1の実施の形態における撮像装置100の撮像処理手順の一例を示すフローチャートである。 本技術の第1の実施の形態の撮像処理手順における合焦処理(ステップS910)の処理手順例を示すフローチャートである。 本技術の第1の実施の形態の撮像処理手順における異常検出処理(ステップS930)の処理手順例を示すフローチャートである。 本技術の第1の実施の形態の撮像処理手順における相関算出処理(ステップS950)の処理手順例を示すフローチャートである。 本技術の第2の実施の形態における撮像素子(撮像素子300)に備えられる画素の配置の一例を示す模式図である。 本発明の第2の実施の形態において、3つの位置の射出瞳にそれぞれ対応する位相差検出画素が行う瞳分割を模式的に示す図である。 本技術の第2の実施の形態の撮像素子300に対する異常値ライン検出部262による行単位での異常検出の一例を模式的に示す図である。 本技術の第2の実施の形態において、他の位置の射出瞳に対応する位相差ラインを代替使用する際に異常値ライン検出部262により行われる代替使用の可否の判定の一例を模式的に示す図である。 本技術の第2の実施の形態における撮像装置(撮像装置100)の撮像処理手順の一例を示すフローチャートである。 本技術の第2の実施の形態の撮像処理手順における位相差検出瞳パターン決定処理(ステップS960)の処理手順例を示すフローチャートである。 本技術の第2の実施の形態の撮像処理手順における異常検出処理(ステップS980)の処理手順例を示すフローチャートである。 本技術の第2の実施の形態の撮像処理手順における代替ライン設定処理(ステップS990)の処理手順例を示すフローチャートである。 本技術の第2の実施の形態の撮像処理手順における相関算出処理(ステップS1010)の処理手順例を示すフローチャートである。 本技術の第3の実施の形態の撮像処理手順における代替ライン設定処理(ステップS1030)の処理手順例を示すフローチャートである。 本技術の第4の実施の形態の撮像処理手順における異常検出処理(ステップS930)の処理手順例を示すフローチャートである。 本技術の第4の実施の形態の撮像処理手順における複数ライン異常検出処理(ステップS1200)の処理手順例を示すフローチャートである。 本発明の第4の実施の形態の異常検出領域の一例を示す図である。 本技術の実施の形態の変形例として、行単位で読み出される撮像素子において、列方向(上下方向)に瞳分割を行う位相差検出画素が列単位に配置されている撮像素子の画素配置の一例が示されている。 本技術の実施の形態の変形例として、行単位で読み出される撮像素子において、行方向(左右方向)に瞳分割を行う位相差検出画素がそれぞれ別の行に配置されている例が示されている。 本技術の実施の形態の変形例として、行単位で読み出される撮像素子において、列方向(上下方向)に瞳分割を行う位相差検出画素がそれぞれ別の行に配置されている例が示されている。
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(撮像制御:異常値ラインを除外して相関算出する例)
2.第2の実施の形態(撮像制御:異常値ラインの出力値を、隣接するラインの一方の出力値で代替して相関算出する例)
3.第3の実施の形態(撮像制御:異常値ラインの出力値を、隣接するラインの出力値の平均値で代替して相関算出する例)
4.第4の実施の形態(撮像制御:異常検出領域を変更する例)
5.変形例
<1.第1の実施の形態>
[撮像システムの内部構成例]
図1は、本発明の第1の実施の形態における撮像システム10の内部構成の一例を示す模式図である。
この撮像システム10は、被写体を撮像して画像データ(撮像画像)を生成し、生成された画像データを画像コンテンツ(静止画コンテンツまたは動画コンテンツ)として記録するものであり、撮像装置100および交換レンズ170を備える。なお、以下では、画像コンテンツ(画像ファイル)として静止画コンテンツ(静止画ファイル)を記録する例を主に示す。
なお、この本発明の第1の実施の形態では、撮像システム10は、レンズが交換可能であって、画像を撮像することができる一眼カメラを想定する。なお、図1では、説明の便宜上、画像を撮像する際にはあまり使用しない内部構成(例えば、フラッシュに関する構成)については省略する。
また、図1では、説明の便宜上、レンズの駆動に関してはフォーカスレンズの駆動に関する構成のみを示し、ズームレンズの駆動に関する構成については省略する。
撮像システム10は、撮像装置100および交換レンズ170を備える。
撮像装置100は、被写体を撮像して画像データ(デジタルデータ)を生成し、この生成した画像データを画像コンテンツ(静止画コンテンツまたは動画コンテンツ)として記録するものである。なお、以下では、画像コンテンツ(画像ファイル)として静止画コンテンツ(静止画ファイル)を記録する例を主に示す。この撮像装置100は、シャッターユニット112と、撮像素子113と、AFE(Analog Front End)114と、画像処理回路115と、位相差演算回路151とを備える。また、撮像装置100は、画像メモリ119と、電池121と、電源回路122、通信用I/F(InterFace)123と、カードI/F124と、メモリカード125とを備える。さらに、撮像装置100は、VRAM(Video Random Access Memory)126と、LCD(Liquid Crystal Display)127と、操作部128と、シャッタ駆動制御部131とを備える。また、撮像装置100は、シャッタ駆動モータ(M1)132と、絞り駆動制御部133と、フォーカス駆動制御部134と、メイン制御部136と、接続端子161乃至163とを備える。
シャッターユニット112は、上下方向に移動する幕体により、撮像素子113に入射する被写体からの入射光の光路の開口および遮断を行うものであり、シャッタ駆動モータ(M1)132により駆動される。また、シャッターユニット112は、光路が開口している場合には、被写体からの入射光を撮像素子113に供給する。
撮像素子113は、被写体からの入射光を電気信号に光電変換するものであり、被写体からの入射光を受光して、アナログの電気信号を生成する。また、撮像素子113は、例えば、CMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサなどにより実現される。撮像素子113には、受光した被写体光に基づいて撮像画像を生成するための信号を生成する画素(画像生成画素)と、位相差検出を行うための信号を生成する画素(位相差検出画素)とが配置される。ここで、位相差検出とは、撮像レンズを通過した光を瞳分割して1対の像を形成し、その形成された像の間隔(像の間のズレ量)を計測(位相差を検出)することによって合焦の度合いを検出する焦点検出の方法である。すなわち、位相差検出画素は、瞳分割された一対の被写体光のうちのどちらかを受光する2つの位相差検出画素がペアにされて配置される。
また、撮像素子113には、画像生成画素として、赤色(R)の光を透過するカラーフィルタにより赤色の光を受光する画素(R画素)と、緑色(G)の光を透過するカラーフィルタにより緑色の光を受光する画素(G画素)とが配置される。また、撮像素子113には、R画素およびG画素の他に、画像生成画素として、青色(B)の光を透過するカラーフィルタにより青色の光を受光する画素(B画素)が配置される。なお、撮像素子113については、図4を参照して説明する。撮像素子113は、その光電変換により生成した電気信号(アナログの画像信号)を、AFE114に供給する。
AFE114は、撮像素子113から供給されるアナログの画像信号に所定の信号処理を施すものであり、例えば、アナログの画像信号にノイズの除去および信号の増幅などの信号処理を行う。そして、AFE114は、信号処理を施した画像信号をデジタル信号に変換して、デジタルの画像信号を生成する。また、AFE114は、メイン制御部136から供給される基準クロックに基づいて、撮像素子113の撮像動作に関するタイミングパルスを生成し、その生成したタイミングパルスを撮像素子113に供給する。また、AFE114は、その生成したタイミングパルスに乗せて、メイン制御部136が設定した撮像素子113の露光動作の開始及び終了の通知や、撮像素子113の各画素の出力選択の通知などの撮像素子113の動作に関する信号を供給する。このAFE114は、生成したデジタルの画像信号(画素値)を画像処理回路115および位相差演算回路151に供給する。
画像処理回路115は、AFE114から供給された画像信号に所定の信号処理を施して画像信号を補正するものである。この画像処理回路115は、例えば、黒レベル補正、欠陥補正、シェーディング補正、混色補正、デモザイク処理、ホワイトバランス補正、γ補正等を行う。画像処理回路115は、撮像した画像の表示や記録に必要な処理(例えば、上記の全ての補正)を施した信号を、画像メモリ119に供給する。
また、画像処理回路115は、撮像した画像のメモリカード125への記録処理や、記録された画像の再生処理などの際には、画像の符号化処理および複合化処理を行う。例えば、時系列で連続して撮像した画像(フレーム)を動画として保存する場合には、フレーム間の差異から動きベクトルを検出し、この検出した動きベクトルを用いたフレーム間予測による符号化処理を行う。
位相差演算回路151は、AFE114から供給される位相差検出画素により生成された画像信号に基づいて、位相差検出方式でフォーカスのズレを検出するものである。ここで、位相差検出方式とは、撮像レンズを通過した光を瞳分割して1対の像を形成し、その形成された像の間隔(像の間のズレ量)を計測(位相差を検出)することによって合焦の度合いを検出する焦点検出方法である。この位相差演算回路151は、オートフォーカス(AF)するために、合焦対象物に対するフォーカスのズレを検出するための演算を行い、検出したフォーカスに関する情報をメイン制御部136に供給する。
画像メモリ119は、画像処理回路115から供給される画像信号を一時的に保持するものである。また、この画像メモリ119は、メイン制御部136からの制御信号に従って、画像信号に所定の処理を行うための作業領域として用いられる。なお、この画像メモリ119は、メモリカード125から読み出した画像信号を一時的に保持する。
電池121は、撮像システム10が動作するための電力を供給するものであり、例えば、ニッケル水素充電池等の二次電池により構成される。また、電池121は、電力を電源回路122に供給する。
電源回路122は、電池121から供給された電力を撮像システム10における各部が動作するための電圧に変換するものである。例えば、この電源回路122は、メイン制御部136が5Vの電圧で動作する場合には、5Vの電圧を生成して、その生成した電圧をメイン制御部136に供給する。また、電源回路122は、生成した電圧を撮像システム10における各部に供給する。なお、図1では、電源回路122から各部への電源供給線の一部を省略して示す。
通信用I/F123は、外部機器とメイン制御部136との間のデータ転送を可能とするためのインターフェイスである。
カードI/F124は、メモリカード125とメイン制御部136との間のデータ転送を可能とするためのインターフェイスである。
メモリカード125は、画像信号を保持するための記憶媒体であり、カードI/F124を介して供給されたデータを保持する。
VRAM126は、LCD127に表示する画像を一時的に保持するバッファメモリであり、その保持した画像をLCD127に供給する。
LCD127は、メイン制御部136の制御に基づいて、画像を表示するものであり、例えば、このLCD127は、カラー液晶パネルにより構成される。このLCD127は、撮像された画像、記録済みの画像およびモードの設定画面などを表示する。
操作部128は、ユーザの操作を受け付けるものであり、例えば、シャッターボタン(図示せず)が押下された場合には、その押下を知らせる信号をメイン制御部136に供給する。また、操作部128は、ユーザの操作に関する信号をメイン制御部136に供給する。
シャッタ駆動制御部131は、メイン制御部136から供給されるシャッタの制御信号に基づいて、シャッタ駆動モータ(M1)132を駆動するための駆動信号を生成するものであり、その生成した駆動信号をシャッタ駆動モータ(M1)132に供給する。
シャッタ駆動モータ(M1)132は、シャッタ駆動制御部131から供給される駆動信号に基づいて、シャッターユニット112を駆動するモータである。
絞り駆動制御部133は、メイン制御部136から供給される絞りに関する情報に基づいて、絞りの駆動を制御する信号(絞り駆動制御信号)を生成するものであり、その生成した絞り駆動信号を、接続端子161を介して交換レンズ170に供給する。
メイン制御部136は、撮像装置100の各部の動作を制御するものであり、例えば、制御プログラムを記憶するROMを備えるマクロコンピュータにより構成される。
フォーカス駆動制御部134は、メイン制御部136から供給されるフォーカスに関する情報に基づいて、レンズの駆動量を示す駆動量信号を生成するものである。このフォーカス駆動制御部134は、その生成した駆動量信号を、接続端子163を介して交換レンズ170に供給する。
交換レンズ170は、複数のレンズを備えており、撮像装置100が撮像する像の光を集光し、その集光した光を撮像面に結像させるものである。この交換レンズ170は、絞り駆動機構181と、絞り駆動モータ(M3)182と、レンズ位置検出部183と、レンズ駆動機構184と、レンズ駆動モータ(M4)185と、鏡胴190とを備える。また、鏡胴190は、絞り191およびレンズ群194を備える。なお、レンズ群194には、説明の便宜上、ズームレンズ192およびフォーカスレンズ193のみが示されている。
絞り駆動機構181は、接続端子161を介して供給される絞り駆動制御信号に基づいて、絞り駆動モータ(M3)182を駆動するための駆動信号を生成するものである。この絞り駆動機構181は、その生成した駆動信号を、絞り駆動モータ(M3)182に供給する。
絞り駆動モータ(M3)182は、絞り駆動機構181から供給される駆動信号に基づいて、絞り191を駆動するモータである。この絞り駆動モータ(M3)182は、絞り191を駆動することにより、絞り191の絞り径を変更する。
レンズ位置検出部183は、レンズ群194のズームレンズ192およびフォーカスレンズ193の位置を検出するものである。このレンズ位置検出部183は、その検出した位置に関する情報(レンズ位置情報)を、接続端子162を介して撮像装置100に供給する。
レンズ駆動機構184は、接続端子163を介して供給される駆動量信号とに基づいて、レンズ駆動モータ(M4)185を駆動するための駆動信号を生成するものである。このレンズ駆動機構184は、その生成した駆動信号を、レンズ駆動モータ(M4)185に供給する。
レンズ駆動モータ(M4)185は、レンズ駆動機構184から供給される駆動信号に基づいて、フォーカスレンズ193を駆動するモータである。このレンズ駆動モータ(M4)185は、フォーカスレンズ193を駆動することにより、フォーカスを調整する。
鏡胴190は、交換レンズ170においてレンズ群194を構成するレンズが備え付けられている部位である。
絞り191は、撮像装置100に入射する被写体からの入射光の光量を調整するための遮蔽物である。
ズームレンズ192は、鏡胴190の中を光軸方向に移動することにより焦点距離を変動させて、撮像画像に含まれる被写体の倍率を調整するものである。
フォーカスレンズ193は、鏡胴190の中を光軸方向に移動することによりフォーカスを調整するものである。
次に、撮像システム10の機能構成について、図2を参照して説明する。
[撮像装置の断面構成例]
図2は、本発明の第1の実施の形態の撮像システム10における撮像装置の断面構成例を模式的に示す断面図である。なお、同図では、撮像システム10は、一眼カメラであることを想定して説明する。
図2には、撮像システム10の断面図として、ボディ101と、交換レンズ171とが示されている。交換レンズ171は、撮像システム10における着脱可能なレンズユニットであり、図1において示した交換レンズ170に対応する。ボディ101は、撮像装置100における撮像処理を行う本体であり、図1において示した撮像装置100に対応する。ボディ101には、シャッターボタン129と、LCD127と、撮像素子113とが示されている。
また、図2には、交換レンズ170に備えられているレンズにおける光軸(光軸L12)と、被写体光が通過する範囲を示す2つの線(線L11およびL13)とが示されている。なお、線L11およびL13に挟まれた範囲は、撮像素子113に入射する光が通過する範囲を示している。
図2に示すように、撮像システム10において、入射する被写体光は全て撮像素子113に入射される。すなわち、撮像システム10において位相差検出を行う場合には、撮像素子113が生成した信号を用いて行われる。また、ライブビュー画像の生成および静止画像の生成も、撮像素子113が生成した信号を用いて行われる。
[撮像装置の機能構成例]
図3は、本発明の第1の実施の形態における撮像システム10の機能構成の一例を示すブロック図である。
撮像システム10は、レンズ部210と、操作受付部220と、制御部230と、撮像素子300と、信号処理部240と、位相差検出部260と、レンズ駆動部270と、画像生成部280と、表示部281と、記憶部282とを備える。
レンズ部210は、被写体からの光(被写体光)を集光するためのものである。このレンズ部210は、ズームレンズ211と、絞り212と、フォーカスレンズ213とを備える。
ズームレンズ211は、レンズ駆動部270の駆動により光軸方向に移動することにより焦点距離を変動させて、撮像画像に含まれる被写体の倍率を調整するものであり、図1において示したズームレンズ192に対応する。
絞り212は、レンズ駆動部270の駆動により開口の度合いを変化させて、撮像素子300に入射する被写体光の光量を調整するための遮蔽物であり、図1において示した絞り191に対応する。
フォーカスレンズ213は、レンズ駆動部270の駆動により光軸方向に移動することによりフォーカスを調整するものであり、図1において示したフォーカスレンズ193に対応する。
操作受付部220は、ユーザからの操作を受け付けるものである。この操作受付部220は、例えば、シャッターボタン(図示せず)が押下された場合には、その押下に関する信号を、操作信号として制御部230に供給する。なお、操作受付部220は、図1において示した操作部128に対応する。
制御部230は、撮像システム10における各動作を制御するものである。なお、図3では、主要な信号線のみを示し、他は省略する。例えば、この制御部230は、シャッターボタンが押下されて、静止画像の記録を開始するための操作信号を受け付けた場合には、静止画像の記録実行に関する信号を、信号処理部240および画像生成部280に供給する。なお、制御部230は、図1において示したメイン制御部136に対応する。
撮像素子300は、受光した被写体光を電気信号に光電変換するイメージセンサである。撮像素子300は、光電変換により発生した電気信号(画像信号)を信号処理部240に供給する。なお、撮像素子300は、図1において示した撮像素子113に対応し、図4を参照して説明するため、ここでの詳細な説明を省略する。なお、本技術の第1の実施の形態における画素の配置については、図4において説明するため、ここでの詳細な説明を省略する。撮像素子300では、一対の位相差検出画素が、1行にライン状に配置される。
信号処理部240は、撮像素子300から供給された電気信号に所定の信号処理を施して画像信号を補正するものである。この信号処理部240は、例えば、撮像素子300から供給された電気信号をデジタルの電気信号(画素値)に変換した後に、黒レベル補正、欠陥補正、シェーディング補正、混色補正等を行う。なお、欠陥補正では、撮像素子300に配置されている画像生成画素のうちの正常に機能しない画素(欠陥画素)の画素値を、欠陥画素の周囲の画素における画素値から推定して補正する。
また、信号処理部240が行う欠陥補正では、画像生成画素のうちの欠陥画素は補正するが、位相差検出画素のうちの欠陥画素については補正を行わないものとする。信号処理部240は、これらの補正処理を施した画素値のうち、位相差検出による合焦判定が行われる領域(フォーカスエリア)に配置されている位相差検出画素により生成された画素値(位相差検出画素出力値)を、位相差検出部260に供給する。また、信号処理部240は、これらの補正処理を施した画素値のうち画像生成画素により生成された画素値(画像生成画素画素値)を、画像生成部280に供給する。なお、信号処理部240は、図1において示したAFE114および画像処理回路115に対応する。
画像生成部280は、信号処理部240から供給された画像生成画素により生成された画像信号に所定の信号処理を施して、表示部281に表示させる画像データまたは記憶部282に記憶させる画像データを生成するものである。この画像生成部280は、例えば、画像信号にホワイトバランス補正、γ補正、デモザイク処理、画像圧縮処理等を行う。画像生成部280は、表示部281に表示させる画像データを表示部281に供給し、表示部281に表示させる。また、画像生成部280は、記憶部282に記憶させる画像データを記憶部282に供給し、記憶部282に記憶させる。なお、画像生成部280は、図1において示した画像処理回路115に対応する。
表示部281は、画像生成部280から供給された画像データに基づいて、画像を表示するものであり、図1において示したLCD127に対応する。
記憶部282は、画像生成部280から供給された画像データを画像コンテンツ(画像ファイル)として記録するものである。例えば、この記憶部282として、DVD(Digital Versatile Disk)等のディスクやメモリカード等の半導体メモリ等のリムーバブルな記録媒体(1または複数の記録媒体)を用いることができる。また、これらの記録媒体は、撮像システム10に内蔵するようにしてもよく、撮像システム10から着脱可能とするようにしてもよい。なお、記憶部282は、図1において示した記憶部282に対応する。
位相差検出部260は、信号処理部240から供給された位相差検出画素出力値に基づいて、フォーカスを合わせる対象の物体(合焦対象物)に対してフォーカスが合っているか否かを位相差検出により判定するものである。この位相差検出部260は、合焦対象物に対するフォーカスのズレ量(デフォーカス量)を算出し、その算出したデフォーカス量に基づいて、合焦するのに必要なフォーカスレンズ213の駆動量を算出する。そして、位相差検出部260は、フォーカスレンズ213の駆動量を示す情報を、レンズ駆動部270に供給する。
なお、図3では、位相差検出部260の機能構成として、領域設定部261と、異常値ライン検出部262と、デフォーカス量算出部263とが示されている。
領域設定部261は、合焦判定を行う領域(フォーカスエリア)において、一対の像の相関を算出するための各領域(基準領域、参照領域)を設定するものである。ここで、基準領域とは、フォーカスエリアにおける一部の領域が設定され、相関を算出する際に基準とされる出力値(画素値)を生成する画素が配置されている領域である。また、参照領域とは、基準領域と同じサイズであって、瞳分割方向の直交方向における位置は同じものの瞳分割方向における位置が基準領域と異なり、相関を算出する際に基準と比較される出力値を生成する画素が配置されている領域である。
ここで、瞳分割方向とは、瞳分割により分割された射出瞳の一対の領域が隣り合う方向である。本技術の第1の実施の形態においては射出瞳を左右に分割する一対の位相差検出画素が撮像素子に配置されるため、本技術の第1の実施の形態では、左右方向が瞳分割方向となる。なお、この領域設定部261により設定される基準領域および参照領域については、図7において詳細に説明するため、ここでの説明を省略する。
領域設定部261は、基準領域に配置されている一対の位相差検出画素のうちの基準とする方の画素の出力値(画素信号)を、信号処理部240から供給されたフォーカスエリアの位相差検出画素出力値から取り出し、デフォーカス量算出部263および異常値ライン検出部262に供給する。また、領域設定部261は、参照領域に配置されている一対の位相差検出画素のうちの参照とする方の画素の出力値をフォーカスエリアの位相差検出画素出力値から取り出し、デフォーカス量算出部263および異常値ライン検出部262に供給する。
異常値ライン検出部262は、位相差検出(像のズレ検出)の精度を悪くするような異常な値の画素の出力値(異常値)を位相差検出において使用しないように、この異常な出力値を検出するものである。なお、本技術の第1の実施の形態において、異常値ライン検出部262は、瞳分割方向と直交する方向(直交方向)の位置が同じ位相差検出画素(同一のラインに配置されている位相差検出画素)ごとに異常値の有無を検出するための値を算出し、この値を用いて異常値の有無を検出する。すなわち、異常値ライン検出部262は、ラインごとの値(ライン総和値)を用いて異常の有無を検出し、異常値を出力する位相差検出画素の有無をラインごとに識別する。なお、異常値を出力する位相差検出画素を含むラインを、本技術の実施の形態では、異常値ラインと称することとする。また、本技術の第1の実施の形態では、行方向が瞳分割方向であることを想定するため(図4参照)、行単位で異常値の有無を検出する。
異常値ライン検出部262は、異常の検出対象の領域(基準領域または参照領域)における検出対象側(基準側または参照側)の位相差検出画素の画素信号を、瞳分割方向に沿った同一のラインに配置される画素信号同士で加算した値(ライン総和値)を算出する。そして、異常値ライン検出部262は、検出対象の領域における複数のライン総和値同士を比較することにより、異常な値のライン総和値を検出する。なお、異常値のライン総和値の検出方法については図6を参照して説明するため、ここでの説明を省略する。異常値ライン検出部262は、検出結果(異常値ライン情報)を、デフォーカス量算出部263に供給する。なお、異常値ライン検出部262は、特許請求の範囲に記載の検出部の一例である。
デフォーカス量算出部263は、瞳分割により生成される一対の像の間隔を計測(位相差を検出)することによって、デフォーカス量を算出するものである。このデフォーカス量算出部263は、異常値ライン検出部262から供給された基準領域の異常値ライン情報および参照領域の異常値ライン情報に基づいて、異常値を含まないようにして基準領域と参照領域との間における相関を算出する。すなわち、デフォーカス量算出部263は、異常値ライン検出部262から供給された異常値ライン情報が示すラインの位相差検出画素の出力値を除いて相関の算出を行う。なお、相関の算出方法については、一般的な位相差検出方法であるため、説明を省略する(例えば、特開2010−91991参照)。
デフォーカス量算出部263は、1つの基準領域に対して複数の参照領域を設定して相関をそれぞれ算出し、最も相関が高い参照領域を検出する。そして、デフォーカス量算出部263は、最も相関が高い参照領域と基準領域との間における位置の差(撮像面上における距離)に基づいて、デフォーカス量を算出する。そして、デフォーカス量算出部263は、算出したデフォーカス量に基づいてフォーカスレンズ213の駆動量を算出し、この駆動量を示す情報をレンズ駆動部270に供給する。なお、デフォーカス量算出部263は、特許請求の範囲に記載の合焦判定部の一例である。
レンズ駆動部270は、フォーカスレンズ213を駆動させるものである。レンズ駆動部270は、位相差検出部260から供給されたフォーカスレンズの駆動量に基づいてフォーカスレンズ213を移動させ、フォーカスを合焦させる。なお、このレンズ駆動部270は、フォーカスが合っている場合(フォーカスレンズ213の駆動量が「0」)には、フォーカスレンズ213の現在の位置を維持させる。
次に、撮像素子300における画素配置について、図4を参照して説明する。
[撮像素子における画素の配置例]
図4は、本発明の第1の実施の形態における撮像素子300に備えられる画素の配置の一例を示す模式図である。
図4では、上下方向をY軸とし、左右方向をX軸とするXY軸を想定して説明する。また、この撮像素子300における信号の読み出し方向は、X軸方向(行単位で読み出される)であるものとする。
図4では、説明の便宜上、撮像素子300に配置される各画素のうちの一部の画素の領域(画素領域310)を用いて画素の配置を説明する。なお、撮像素子300における画素の配置は、画素領域310において示すような画素配置がX軸方向およびY軸方向に繰り返されるような配置である。
図4では、1つの画素を1つの正方形で示す。なお、図4において、画像生成画素については、備えられるカラーフィルタを表す符号(R、G、B)を内に示した正方形により示す。すなわち、R画素311は、赤色(R)の光を透過するカラーフィルタにより赤色の光を受光する画素(R画素)を示し、G画素312は、緑色(G)の光を透過するカラーフィルタにより緑色の光を受光する画素(G画素)を示し、B画素313は、青色(B)の光を透過するカラーフィルタにより青色の光を受光する画素(B画素)を示す。
また、位相差検出画素については、白色の矩形が付加された灰色の正方形により示す。なお、位相差検出画素における白色の矩形については、入射光が受光素子により受光される側(瞳分割を行うための遮光層に覆われていない側)を示す。
ここで、図4において示されている位相差検出画素(右開口位相差検出画素315、左開口位相差検出画素316)について説明する。
右開口位相差検出画素315は、右開口位相差検出画素315のマイクロレンズに入射する被写体光のうち射出瞳の右側を通過した被写体光を遮光するように遮光層が形成される位相差検出画素である。すなわち、この右開口位相差検出画素315は、射出瞳の左右(X軸方向の+−側)に瞳分割された光のうちの右側(X軸方向の+側)の光を遮光し、左側(X軸方向の−側)の瞳分割された光を受光する。
左開口位相差検出画素316は、左開口位相差検出画素316のマイクロレンズに入射する被写体光のうち射出瞳の左側を通過した被写体光を遮光するように遮光層が形成される位相差検出画素である。すなわち、この左開口位相差検出画素316は、射出瞳の左右(X軸方向の+−側)に瞳分割された光のうちの左側(X軸方向の−側)の光を遮光し、右側(X軸方向の+側)の瞳分割された光を受光する。また、左開口位相差検出画素316は、右開口位相差検出画素315と対に用いられることで、一対の像を形成する。
ここで、撮像素子300における画素の配置について説明する。
画素領域310に示すように、撮像素子300の画素配置は、画像生成画素のみが配置される行(ライン)と、位相差検出画素のみが配置される行(ライン)とから構成される。位相差検出画素のみの行(以降では、位相差ラインと称する)は、読み出し方向(行方向)に対して直行する方向(列方向)において所定間隔ごとに配置され(図4では4行ごと)、その他の行には画像生成画素のみの行が配置される。なお、位相差ラインでは、左開口位相差検出画素316と右開口位相差検出画素315とがX軸方向に交互に配置されている。また、画像生成画素のみの行では、カラーフィルタの配置がベイヤー配列となるように画像生成画素が配置される。
次に、撮像素子300において設定されるフォーカスエリアについて、図5を参照して説明する。
[撮像素子におけるフォーカスエリアの例]
図5は、本発明の第1の実施の形態における撮像素子300において設定されるフォーカスエリアを模式的に示す図である。
図5では、位相差ラインを示す破線(位相差ライン322)と、プリセットされているフォーカスエリアを示す鎖線の矩形(フォーカスエリア321)とが撮像素子300に示されている。なお、位相差ライン322の本数およびフォーカスエリア321の数や位置関係は、説明のために簡略化して示す模式的なものである。
図5に示すように、位相差検出を行うフォーカスエリアの候補となるプリセットのフォーカスエリア321は撮像素子300において複数設定されていて、合焦対象物を撮像する位置のフォーカスエリア321が位相差検出を行うフォーカスエリアとして選択される。なお、フォーカスエリア321には複数の位相差ライン322が配置されているため、複数の位相差ラインを用いて位相差検出を行うことにより、位相差検出の精度を向上させることができる。
次に、異常値ライン検出部262による行単位での異常検出について、図6を参照して説明する。
[行単位での異常検出の一例]
図6は、本発明の第1の実施の形態の異常値ライン検出部262による行単位での異常検出の一例を模式的に示す図である。
図6のaには、所定の画素領域を基準領域に設定した場合における異常検出が示され、図6のbには、図6のaと同じ画素領域を参照領域に設定した場合における異常検出が示されている。なお、図6以降では、一対の位相差検出画素のうち、左開口位相差検出画素の出力値(画素値)を基準とし、右開口位相差検出画素の出力値を参照とすることを想定して説明する。
図6のaでは、位相差検出画素のみの行(位相差ライン)が4行ごとに配置されている18行×8列の画素の領域(画素領域331)と、この画素領域331を基準領域とした場合の異常検出の結果を示す表(表332)とが示されている。この図6のaで示す画素領域には、5行の位相差ライン(位相差ラインn行目乃至n+4行)が配置されている。なお、画素領域331では、n+2行目の左開口位相差検出画素において出力値が常に低い欠陥(黒欠陥)の画素があることを想定し、この黒欠陥の位相差検出画素が黒色の矩形で示されている。
ここで、画素領域331が基準領域として設定された場合における異常値の検出について説明する。位相差を検出する際に画素領域331が基準領域として設定されると、領域設定部261は、この画素領域331における位相差検出画素の出力値のうち、基準とする側(左開口側)の位相差検出画素が出力した出力値を、基準領域の出力値として、異常値ライン検出部262およびデフォーカス量算出部263に供給する。
異常値ライン検出部262は、基準領域の出力値が供給されると、異常な値の出力値(異常値)の有無を検出する。異常値ライン検出部262は、まず、同じライン上(画素領域331では、同じ行上)に配置されている左開口位相差検出画素の出力値を足し合わせた値(ライン総和値)を、基準領域の全ての位相差ラインについて算出する。
画素領域331における全てのライン(画素領域331では行)のライン総和値(Vlt_L(n)乃至Vlt_L(n+4))を算出すると、異常値ライン検出部262は、この算出した複数のライン総和値に異常な値のライン総和値が含まれていないかチェック(異常値検出)を行う。
異常値ライン検出部262は、例えば、次の式1および式2を満たすライン総和値がある場合には、そのライン総和値を異常な値として決定する。
Figure 2014137468
ここで、Vlt_L(min)は、算出したライン総和値(Vlt_L(n)乃至Vlt_L(n+4))のうちの最も値が低い(min)ライン総和値である。また、Vlt_L(max)は、算出したライン総和値のうちの最も値が高い(max)ライン総和値である。また、mは、算出したライン総和値の総数(画素領域331では「5」)である。また、Cは、異常値の判定対象のライン総和値(Vlt_L(min)またはVlt_L(max))が異常値または正常値のどちらであるか判定を行うためのリミット(閾値)を設定するための定数である。定数Cは、ここでは、一例として、「2」が定数Cに設定されていることを想定して説明する。
ここで、上述の式1について説明する。上述の式1の左辺は、判定対象である最も値が低いライン総和値Vlt_L(min)を除いたライン総和値の平均値(ここでは、領域内平均値と称する)を示す。すなわち、定数Cが「2」である場合には、最も値が低いライン総和値Vlt_L(min)を2倍にした値が領域内平均値より小さい場合には、最も値が低いライン総和値Vlt_L(min)が異常値だと上述の式1により判定される。すなわち、上述の式1により、出力が著しく低い位相差検出画素(例えば、ゴミが付着したり、黒欠陥である画素)が配置されているラインを異常値ラインとして検出することができる。
続いて、上述の式2について説明する。上述の式2の左辺は、判定対象である最も値が高いライン総和値Vlt_L(max)を除いたライン総和値の平均値であり、上述の式1の左辺と同様に領域内平均値を示す。上述の式2において定数Cが「2」である場合には、最も値が高いライン総和値Vlt_L(man)を1/2にした値が領域内平均値より大きい場合には、ライン総和値Vlt_L(max)が異常値だと上述の式1により判定される。すなわち、上述の式2により、出力が著しく高い位相差検出画素(例えば、白欠陥である画素)が配置されているラインを異常値ラインとして検出することができる。
ここで、上述の式1および式2により異常な値のライン総和値が検出可能な理由について説明する。位相差ラインのn行目からn+4行は、瞳分割方向と直交する方向(列方向)に4画素置きに配置されているため、撮像素子における位置が比較的に近い。なお、配置されている行が異なるものの近く、また、配置されている列が同じ位相差検出画素同士では、出力値が比較的に近い値になる。すなわち、ライン単位(行単位)で出力値を加算した値(ライン総和値)についても、ライン同士の位置(列方向の位置)が近ければ略同じような値になる。このため、基準領域内の判定対象外のライン総和値の平均値(領域内平均値)と著しく異なるライン総和値を上述の式1および式2により検出することにより、異常値のライン総和値を検出することができる。
ここで、図6のaの画素領域331のライン総和値について、Vlt_L(n)が「100」であり、Vlt_L(n+1)が「102」であり、Vlt_L(n+2)が「25」であり、Vlt_L(n+3)が「100」であり、Vlt_L(n+4)が「103」であることを想定して上述の式1および式2の算出結果を説明する。
この値の想定において、上述の式1の最も値が低いライン総和値Vlt_L(min)は、「25」の値のVlt_L(n+2)である。そして、上述の式1の左辺(領域内平均値)は、Vlt_L(n+2)以外のライン総和値の平均値の「101.25」となる。また、上述の式1の右辺は、Vlt_L(n+2)の値を2倍した「50」となる。すなわち、上述の式1が成立するため、Vlt_L(n+2)が異常値だと判定され、位相差ラインn+2行目が異常値ラインとして認定される。
また、この値の想定において、上述の式1の最も値が高いライン総和値Vlt_L(max)は、「103」の値のVlt_L(n+4)である。上述の式2の左辺(領域内平均値)の値は「81.75」となり、上述の式2の右辺は、「56.5」となる。すなわち、上述の式2が成立しないため、Vlt_L(n+4)は、正常な値だと判定され、位相差ラインn+4行目は異常でないと認定される。
このように、上述の式1および式2を用いて異常検出を行うことにより、表332に示すように位相差ラインn+2行目が異常値ラインとして検出される。なお、図6のaで示した異常値ラインの検出は、画素領域331を基準領域として設定し、基準側である左開口位相差検出画素の出力値を用いて異常値ラインを検出した場合の例である。画素領域331を参照領域として設定された場合には、参照とする側(右開口側)の位相差検出画素が出力した出力値に基づいて異常検出が行われるため、異常値ラインの検出結果は違うものになる。次に、図6のaの画素領域331を参照領域に設定した場合の異常値ラインの検出結果について、図6のbを参照して説明する。
図6のbでは、図6のaの画素領域331と、この画素領域331を参照領域とした場合の異常検出の結果を示す表(表332)とが示されている。
なお、異縦横検出の方法については、参照とする側(右開口側)の位相差検出画素が出力した出力値を用いて算出する以外は、図6のaと同様であるため、ここでの詳細な説明を省略する。
すなわち、位相差を検出する際に画素領域331が参照領域として設定されると、領域設定部261は、この画素領域331における参照とする側(右開口側)の位相差検出画素が出力した出力値を、参照領域の出力値として、異常値ライン検出部262およびデフォーカス量算出部263に供給する。そして、異常値ライン検出部262では、右開口位相差検出画素の出力値を足し合わせてライン総和値(Vlt_R(n)乃至Vlt_R(n+4))を算出し、このライン総和値を用いて、異常を検出する。
なお、異常の検出方法は、図6のaで示した基準領域の例と同様である。すなわち、参照領域の異常は、左開口側(L)のライン総和値(Vlt_L)で示されている上述の式1および式2を、右開口側(R)のライン総和値(Vlt_R)で示した数式(式1および式2のLをRに代えるのみであるため表示を省略)により算出される。なお、画素領域331の右開口位相差検出画素には異常な値を出力する画素が含まれていないため、上述の式1および式2を成立させるライン総和値がない。このため、表333に示すように、異常値ラインはこの参照領域に無いことが検出される。
図6に示すように、異常値ライン検出部262では、ライン単位で出力値を総和した値(ライン総和値)を用いて、ライン単位で異常が領域(基準流域または参照領域)ごとに検出される。なお、ライン単位で異常を検出することにより、画素単位で比較して異常を検出するよりも異常値の判定に要する時間を短くすることができる。
異常値ライン検出部262による異常の検出結果(異常値ライン情報)は、デフォーカス量算出部263に供給される。そして、デフォーカス量算出部263では、異常なラインにおける位相差検出画素の出力値を使用しないようにして、基準領域の基準側と参照領域の参照側との間の相関算出が行われる。
次に、異常値ラインを除外する相関算出の一例について、図7および図8を参照して説明する。
[異常値ラインを除外する相関算出の一例]
図7および図8は、本発明の第1の実施の形態の異常値ライン検出部262により検出された異常値ラインと、デフォーカス量算出部263により行われる相関算出との関係を説明するための模式図である。
図7では、図8において異常値ラインを除外して行う相関算出を説明するために、合焦判定を行うフォーカスエリアの一部の領域(画素領域340)が示されている。なお、図7では、2つの基準領域(基準1および基準2)と、5つの参照領域(参照1乃至参照5)との瞳分割方向の範囲が各両矢印により示されている。
基準1、基準2、参照1乃至参照5に示すように、図7および図8では、8行×18列の画素領域が基準領域または参照領域として指定される。すなわち、図7および図8では、5行の位相差ラインを用いて相関を算出し、この算出した相関を用いてデフォーカス量が算出される。
なお、図7および図8では、画素領域340に2つのゴミ(ゴミ351およびゴミ352)が付着していることを想定して説明する。図7および図8では、ゴミ351およびゴミ352により受光できなくなった画素(図7でゴミ351およびゴミ352により覆われた画素)が異常な値の出力信号を生成する。
ゴミ351は、基準1、参照1および参照2に含まれる列の位相差ラインn+2行目付近の位置(位相差ラインn+2行目の画素領域340の左端から4乃至7列目)に付着していることとする。また、ゴミ352は、参照5のみが設定される列の位相差ラインn+1行目付近の位置(位相差ラインn+1行目の画素領域340の左端から22乃至24行目)に付着していることとする。
図8では、各領域の異常検出の結果を示す表が図8のaに示され、基準1と各参照領域との間における相関算出において用いられる行を示す表が図8のbに示され、基準2と各参照領域との間における相関算出において用いられる行を示す表が図8のcに示されている。
図8のaに示すように、異常値ライン検出部262により各領域に対する異常検出が行われると、基準領域については、基準1ではn+2行目が異常であることが検出され、基準2では異常なラインは無いことが検出される。また、参照領域については、参照1および参照2ではn+2行目が異常であることが検出され、参照3および参照4では異常なラインは無いことが検出され、参照5ではn+1行目が異常であることが検出される。
図8のaに示すような異常検出の結果(異常値ライン情報)が異常値ライン検出部262からデフォーカス量算出部263に供給されると、デフォーカス量算出部263では、異常と判定されたラインの位相差検出画素の出力値を除外して相関算出が行われる。すなわち、デフォーカス量算出部263では、ライン総和値が異常と判定されるほどの異常な出力値を出力する位相差検出画素を含むラインを相関算出に使用しないようにして相関算出が行われる。
次に、図8のaに示すように異常が検出された場合における相関算出を説明する。なお、図8では、説明の便宜上、2箇所の基準領域(基準1および基準2)と各参照領域との相関算出を想定して説明するが、まず、基準1と各参照領域との相関算出について説明する。
図8のbで示す表では、基準1と各参照領域との間における相関算出において用いられる行が「○」で示され、用いられない行が「×」で示されている。
基準1ではn+2行目のライン総和値が異常と判定されているため、各参照領域(参照1乃至参照5)との間における相関算出においては、n+2行目の位相差検出画素の出力値は使用されない。なお、参照5ではn+1行目が異常と判定されているため、基準1と参照5との間における相関算出においては、n+1行目の位相差検出画素の出力値は使用されない。また、参照1および参照2でもn+2行目のライン総和値が異常と判定されているが、基準1の異常値ラインの行(n+2行目)と同じであるため、相関算出において出力値を使用しない行の数は増加しない。
このように相関算出が行われると、図8のbに示すように、基準1と参照1乃至参照4との間における相関算出では、n、n+1、n+3およびn+4行目の位相差検出画素の出力値が使用される。また、基準1と参照5との間における相関算出では、n、n+3およびn+4行目の位相差検出画素の出力値が使用される。
次に、基準2と各参照領域との相関算出について図8のcを参照して説明する。
図8のcで示す表では、基準2と各参照領域との間における相関算出において用いられる行が「○」で示され、用いられない行が「×」で示されている。
基準2では全ての位相差ラインが正常と判定されているため、参照領域に異常なラインが無い場合には全ての位相差ラインを用いて相関算出が行われ、参照領域に異常なラインがある場合にはその異常なラインにおける位相差検出画素の出力値を除いて相関算出が行われる。
参照1および参照2はn+2行目が異常と判定されているため、基準2との相関算出においては、n、n+1、n+3およびn+4行目の位相差検出画素の出力値が使用される。また、参照3および参照4は異常なラインが無いため、基準2との相関算出においては、全ての位相差ライン(n、n+1、n+2、n+3およびn+4行目)の位相差検出画素の出力値が使用される。なお、参照5はn+1行目が異常と判定されているため、基準2との相関算出においては、n、n+2、n+3およびn+4行目の位相差検出画素の出力値が使用される。
このように、位相差検出部260では、異常な出力値の位相差検出画素を含む位相差ラインを検出し、この検出した位相差ラインを使用しないように相関算出が行われる。
なお、図6乃至図8では、基準領域では左開口位相差検出画素の出力値からライン総和値を算出し、参照領域では右開口位相差検出画素の出力値からライン総和値を算出する例について説明したが、これに限定されるものではない。例えば、左開口位相差検出画素と右開口位相差検出画素との両方の出力値を加算してライン総和値を算出し、基準領域および参照領域の区別を異常値ラインの算出では無くしてもよい。また、単純に足し合わせた値をライン総和値とする例について説明したが、これに限定されるものではなく、例えば、平均値を算出するようにしてもよい。
[撮像装置の動作例]
次に、本技術の第1の実施の形態における撮像装置100の動作について図面を参照して説明する。
図9は、本技術の第1の実施の形態における撮像装置100の撮像処理手順の一例を示すフローチャートである。
まず、撮像動作開始指示(例えば、撮像装置100の動作モードを静止画を撮像するモードに設定する)があるか否かが制御部230により判定され(ステップS901)、撮像動作開始指示がないと判断された場合には、撮像動作開始指示があるまで待機する。
一方、撮像動作開始指示がありと制御部230により判定された場合には(ステップS901)、ライブビュー画像が表示部281に表示される(ステップS902)。続いて、シャッターボタンが半押しされたか否かが制御部230により判断される(ステップS903)。そして、シャッターボタンが半押しされていないと判断された場合には(ステップS903)、ステップS907へ進む。
なお、シャッターボタンが半押しされたと判断された場合には(ステップS903)、位相差検出による合焦判定の結果からフォーカシングを行う合焦処理が行われる(ステップS910)。なお、合焦処理(ステップS910)は、図10を参照して説明するためここでの説明を省略する。
そして、シャッターボタンが全押しされたか否かが制御部230により判断され(ステップS905)、全押しされていない(半押しのまま)と判断された場合には、ステップS902に戻る。
一方、シャッターボタンが全押しされたと判断された場合には(ステップS905)、被写体を撮像して静止画として記録する処理(被写体撮像処理)が行われる(ステップS906)。
その後、撮像動作終了指示(例えば、撮像装置100の動作モードを静止画を撮像するモードから記録した画像の再生モードに設定)があるか否かが制御部230により判定される(ステップS907)。そして、撮像動作終了指示がないと判定された場合には(ステップS907)、ステップS902に戻る。
一方、撮像動作終了指示があると判定された場合には(ステップS907)、撮像動作は終了する。
図10は、本技術の第1の実施の形態の撮像処理手順における合焦処理(ステップS910)の処理手順例を示すフローチャートである。
まず、プリセットされている複数のフォーカスエリアのうちから、合焦対象物が撮像されていて合焦判定を行うフォーカスエリア(判定エリア)が決定される(ステップS911)。続いて、判定エリア内の位相差検出画素の出力値が、位相差検出部260の領域設定部261により取得される(ステップS912)。その後、判定エリアのうちから相関算出の基準とする領域(基準領域)が領域設定部261により設定される(ステップS913)。なお、ステップS912は、特許請求の範囲に記載の取得手順の一例である。
続いて、基準領域における基準側(左開口側)の位相差検出画素の出力値が異常値ライン検出部262に供給され、異常値ライン検出部262において、異常値ラインの検出を行う領域(異常検出領域)に基準領域が設定される(ステップS914)。そして、異常検出領域における異常値ラインを検出する処理(異常検出処理)が異常値ライン検出部262により行われる(ステップS930)。なお、異常検出処理(ステップS930)については、図11を参照して説明するためここでの説明を省略する。なお、ステップS930は、特許請求の範囲に記載の検出手順の一例である。
次に、判定エリアのうちから、相関算出の参照とする領域(参照領域)が領域設定部261により設定される(ステップS915)。続いて、参照領域における参照側(右開口側)の位相差検出画素の出力値が異常値ライン検出部262に供給され、異常値ライン検出部262において、異常値ラインの検出を行う領域(異常検出領域)に参照領域が設定される(ステップS916)。そして、異常検出領域における異常値ラインを検出する処理(異常検出処理)が異常値ライン検出部262により行われる(ステップS930)。
続いて、基準領域の基準側の出力値と参照領域の参照側の出力値との間における相関を、異常値ラインを除外して算出する処理(相関算出処理)がデフォーカス量算出部263により行われる(ステップS950)。なお、相関算出処理(ステップS950)は、図12を参照して説明するため、ここでの説明を省略する。
その後、位相差方向における位置が異なる別の参照領域と基準領域との相関を算出するか否かが領域設定部261により判定され(ステップS918)、算出すると判断された場合には、ステップS915に戻る。
一方、別の参照領域の相関を算出しないと判断された場合には(ステップS918)、基準領域に対する相関が最も高くなる参照領域(最大相関参照領域)がデフォーカス量算出部263により検出される(ステップS919)。そして、検出した最大相関参照領域と、基準領域との間の位置のズレに基づいて、判定エリアにおけるデフォーカス量がデフォーカス量算出部263により算出される(ステップS920)。続いて、この算出されたデフォーカス量に基づいてフォーカスレンズの駆動処理(レンズ駆動処理)が行われ(ステップS921)、合焦処理(ステップS910)は終了する。なお、ステップS919、ステップS920、および、ステップS950は、特許請求の範囲に記載の合焦判定手順の一例である。
図11は、本技術の第1の実施の形態の撮像処理手順における異常検出処理(ステップS930)の処理手順例を示すフローチャートである。
なお、異常検出処理(ステップS930)に示す各処理手順は、異常値ライン検出部262により行われる。
まず、異常検出処理を行う対象の領域(異常検出領域)として指定されているのは基準領域であるか否かが判断される(ステップS931)。そして、指定されているのが基準領域である場合には(ステップS931)、左開口側(基準側)の位相差検出画素が異常の検出対象側に設定され(ステップS932)、ステップS934へ進む。
一方、指定されているのが基準領域でない場合(参照領域の場合)には(ステップS931)、右開口側(参照側)の位相差検出画素が異常の検出対象側に設定される(ステップS933)。続いて、異常検出領域内の全ての位相差ラインの開口側が検出対象側の位相差検出画素の出力値に基づいて、それぞれの位相差ラインのライン総和値が算出される(ステップS934)。
そして、算出された全ての位相差ラインのライン総和値のうちから、最も値が低いライン総和値(最低ライン総和値)が探索される(ステップS935)。次に、最低ライン総和値と他のライン総和値との比較(例えば、図6の式1)により、最低ライン総和値が異常値であるか否かの判定(異常値判定)が行われる(ステップS936)。そして、最低ライン総和値が異常値であると判定された場合には(ステップS936)、最低ライン総和値のラインが、異常な出力値を出力する位相差検出画素を含むライン(異常値ライン)として設定され(ステップS937)、ステップS938に進む。
一方、最低ライン総和値が異常値でないと判定された場合には(ステップS936)、算出された全ての位相差ラインのライン総和値のうちから、最も値が高いライン総和値(最高ライン総和値)が探索される(ステップS938)。次に、最高ライン総和値と他のライン総和値との比較(例えば、図6の式2)により、最高ライン総和値が異常値であるか否かの判定(異常値判定)が行われる(ステップS939)。そして、最高ライン総和値が異常値であると判定された場合には(ステップS939)、最高ライン総和値のラインが異常値ラインとして設定され(ステップS940)、異常検出処理(ステップS930)の処理手順は終了する。また、最高ライン総和値が異常値でないと判定された場合においても(ステップS939)、異常検出処理(ステップS930)の処理手順は終了する。
図12は、本技術の第1の実施の形態の撮像処理手順における相関算出処理(ステップS950)の処理手順例を示すフローチャートである。
なお、相関算出処理(ステップS950)に示す各処理手順は、デフォーカス量算出部263により行われる。
まず、相関算出を行う相関算出対象領域(基準領域および参照領域)の位相差ラインに異常値ラインが含まれているか否かが、異常値ライン検出部262から供給された異常値ライン情報に基づいて判定される(ステップS951)。そして、異常値ラインが含まれていないと判定された場合には(ステップS951)、相関算出対象領域の全ての位相差ラインが相関算出ラインに設定され(ステップS952)、ステップS954に進む.
一方、異常値ラインが含まれていると判定された場合には(ステップS951)、基準側および参照側の両方において異常値ラインでない相関算出対象領域の位相差ラインが相関算出ラインとして設定される(ステップS953)。
続いて、基準領域の相関算出ラインにおける基準側の出力値と、参照領域の相関算出ラインにおける参照側の出力値とに基づいて、基準領域と参照領域との間における相関が算出され(ステップS954)、相関算出処理の処理手順は終了する。
なお、図9乃至図11で示した処理手順は一例である。例えば、図10では、1個の基準領域を用いて検出されたズレに基づいてデフォーカス量を算出する例について説明したが、これに限定されるものではなく、複数の基準領域を用いて検出されたズレの平均値をデフォーカス量とするようにしてもよい。また、図11では、画素値が低い異常を判定(ステップS935乃至S937)してから画素値が高い異常を判定(ステップS938乃至S940)する例について説明したが、逆の順序で行っても、同時に行ってもよい。
このように、本技術の第1の実施の形態によれば、異常値を出力する位相差検出画素を含むラインを除外して相関算出を行うことにより、異常値を生成する位相差検出画素がある領域における位相差検出の精度を向上させることができる。
<2.第2の実施の形態>
本技術の第1の実施の形態では、単に左右に瞳分割する位相差検出画素(左開口位相差検出画素、右開口位相差検出画素)のみが位相差検出画素として撮像素子に配置される例を想定して説明した。なお、撮像素子における配置は、これに限定されるものではなく、例えば、上下に瞳分割する位相差検出画素を配置する場合や、左右に瞳分割する位相差検出画素と上下に瞳分割する位相差検出画素とを両方配置する場合なども考えられる。本技術の第1の実施の形態とは異なる位相差検出画素の配置の一例については、変形例として、図300乃至図302において説明する。
なお、本技術の第1の実施の形態では、撮像装置のレンズの射出瞳の光軸方向における位置(以降は、射出瞳位置と称する)については特に考慮していないで説明した。本技術の第1の実施の形態では、所定の射出瞳位置の射出瞳に対して2等分の瞳分割を行い、分割された一対の瞳のうちの一方を受光できるように各位相差検出画素が設計される。なお、射出瞳位置が変化すると、射出瞳と撮像素子との間の距離が変化する。このため、レンズを交換するカメラ(例えば、一眼レフカメラ)においては、射出瞳位置が変化しても位相差検出を精度良く行えるように、適切な射出瞳位置が異なる複数のタイプの位相差検出画素が撮像素子に配置される。
そこで、本技術の第2の実施の形態では、適切な射出瞳位置が異なる複数のタイプの位相差検出画素が配置される撮像素子における異常検出および相関算出について、図13乃至図22を参照して説明する。
なお、本技術の第2の実施の形態では、撮像装置の機能構成は図3において示した本技術の第1の実施の形態の機能構成と同様であるため、図3を参照してここでの説明を省略する。
[撮像素子における画素の配置例]
図13は、本技術の第2の実施の形態における撮像素子(撮像素子300)に備えられる画素の配置の一例を示す模式図である。
なお、図13で示す画素の領域(画素領域410)は、図4において示した画素の領域(画素領域310)の代わりに、撮像素子300においてX軸方向およびY軸方向に繰り返される。そこで、ここでは、図4において示した画素領域310との違いに着目して説明する。
図13で示すように、画素領域410では、画素領域310と同様に、画像生成画素のみが配置される行(ライン)と、位相差検出画素のみが配置される行とから構成される。位相差検出画素のみの行(位相差ライン)は、読み出し方向(行方向)に対して直行する方向(列方向)において所定間隔ごとに配置され(図13では4行ごと)、その他の行には画像生成画素のみの行が配置される。
また、図13の画素領域410では、撮像面からの位置がそれぞれ異なる3つの射出瞳(ここでは、第1瞳、第2瞳、第3瞳と称する)のいずれかにおいて適切に瞳分割が行えるように位相差検出画素が構成されている。画素領域410では、同じ位置の射出瞳に対応する位相差検出画素がラインごとに配置される。すなわち、図13において示されている第1瞳位相差ライン411乃至413は、第1瞳に対応する位相差検出画素が配置されている行であり、第2位相差ライン414乃至416は、第2瞳に対応する位相差検出画素が配置されている行である。また、第3位相差ライン417乃至419は、第3瞳に対応する位相差検出画素が配置されている行である。
また、画素領域410では、4行ごとの位相差ラインにおいて、第1瞳位相差ライン、第2瞳位相差ライン、第3瞳位相差ライン、第1瞳位相差ライン、第2瞳位相差ライン、第3瞳位相差ライン…と対応する射出瞳が異なるラインが交互に繰り返されて配置される。
このように、対応する射出瞳が異なる位相差検出画素をライン単位で配置することにより、出力信号を読み出す際に、装着されている交換レンズの射出瞳の位置に対応しないラインを間引いて読み出すことができる。
次に、射出瞳位置と瞳分割との関係について、図14を参照して説明する。
[3つの位置の射出瞳と瞳分割との関係例]
図14は、本発明の第2の実施の形態において、3つの位置の射出瞳にそれぞれ対応する位相差検出画素が行う瞳分割を模式的に示す図である。
図14のaには、位置d1の射出瞳(第1瞳E1)に対応する位相差検出画素が行う瞳分割が示されている。
この図14のaには、撮像素子300と、撮像素子300からの距離が異なる3つの射出瞳(第1瞳E1、第2瞳E2、第3瞳E3)とが示されている。なお、第1瞳E1、第2瞳E2および第3瞳E3には、それぞれの射出瞳の中心を示す中心点(中心C1乃至C4)が示されている。
なお、第1瞳E1は、図13において示した第1瞳に対応し、第1瞳E1に対応する位相差検出画素とは、第1瞳位相差ラインに配置されている位相差検出画素に対応する。そこで、第1瞳E1に対応する位相差検出画素のことを、以降では第1瞳位相差検出画素と称する。また、第2瞳E2および第3瞳E3に対応する位相差検出画素も同様に、第2瞳位相差検出画素および第3瞳位相差検出画素と称することとする。
撮像素子300には、撮像素子300における位相差検出画素の位置として、4つの位置(位置F1乃至F4)が示されている。位置F1および位置F4は、撮像素子300における中心からの距離(像高)が同じものの、中心からの位置が互いに反対の位置を示す。また、位置F2および位置F3も同様に、像高が同じものの、中心からの位置が互いに反対の位置を示す。なお、同図(a)に示す撮像素子300の上下方向は、図13において示した画素領域410の左右方向(x軸方向)であることとする。
また、図14のaには、位置F1乃至F4に配置されている位相差検出画素のうちの第1瞳位相差検出画素がそれぞれ分割する領域の境界を示す軸として、瞳分割ラインL21乃至L24が示されている。
また、図14のaにおいては、説明の便宜上、位置F1乃至F4における第1瞳位相差検出画素は、図14のaにおける上側が遮光部により覆われる位相差検出画素であることを想定して説明する。
ここで、位置F1における第1瞳位相差検出画素による瞳分割について説明する。第1瞳位相差検出画素は、第1瞳E1を2等分する瞳分割が行えるように構成される。これにより、位置F1における第1瞳位相差検出画素は、瞳分割ラインL21を境界として、この瞳分割ラインL21より上側からの被写体光を受光する。なお、この第1瞳E1の位置に応じた位相差検出画素の瞳分割の方法として、例えば、瞳分割を行うための遮光層の配置を各画素で異ならせる方法(例えば、特開2009−204987参照。)などを用いることができる。
位置F1における第1瞳位相差検出画素は、第1瞳E1の位置に合わせて遮光層が形成される。これにより、第1瞳E1を2等分する瞳分割が行えるが、瞳分割ラインL21が光軸(図における点線L29)に対して斜めであるため、他の位置の射出瞳を2等分にするように瞳分割を行うことができない。例えば、位置F1における第1瞳位相差検出画素は、第2瞳E2に対して、第2瞳E2の上から3/4ぐらいの領域を通過する被写体光を受光してしまう。また、第3瞳E3に対しては、第3瞳E3の上から9割ぐらいの領域を通過する被写体光を受光してしまう。
このように、位置F1における第1瞳位相差検出画素は、位置d1における第1瞳E1を2等分に瞳分割できるため、第1瞳E1に対して精度良く位相差検出を行うことができる。しかしながら、第2瞳E2および第3瞳E3に対して被写体光を均等に2等分できないため、精度の高い位相差検出を行うことは難しい。
なお、位置F2乃至位置F4における第1瞳位相差検出画素も位置F1と同様に、第1瞳E1の位置に合わせて遮光部が形成されることにより、第1瞳E1に対しては精度良く位相差検出を行えるが、第2瞳E2およびE3に対して精度の高い位相差検出を行うことは難しい。
このように、第1瞳E1に対応させた位相差検出画素(第1瞳位相差検出画素)は、第1瞳E1に対しては精度良く位相差検出を行えるものの、第2瞳E2および第3瞳E3に対して精度の高い位相差検出を行うことは難しい。
図14のbには、位置d2の射出瞳(第2瞳E2)に対応する位相差検出画素(第2瞳位相差検出画素)が行う瞳分割が示されている。
この図14のbには、図14のaと同様に、撮像素子300と、3つの位置の射出瞳(第1瞳E1、第2瞳E2、第3瞳E3)とが示されている。なお、図14のbには、図14のaにおいて示した瞳分割ラインL21乃至L24の代わりに、第2瞳位相差検出画素が位置F1乃至F4において行う瞳分割の境界を示す軸として、瞳分割ラインL31乃至L34が示されている。
第2瞳位相差検出画素は、第2瞳E2を2等分する瞳分割が行えるように遮光層が形成される。すなわち、第2瞳位相差検出画素は、図14のbに示すように、第2瞳E2に対しては精度良く位相差検出を行えるが、第1瞳E1および第3瞳E3に対して精度の高い位相差検出を行うことは難しい。
図14のcには、位置d3の射出瞳(第3瞳E3)に対応する位相差検出画素(第3瞳位相差検出画素)が行う瞳分割が示されている。
この図14のcには、図14のaおよびbと同様に、撮像素子300と、3つの位置の射出瞳(第1瞳E1、第2瞳E2、第3瞳E3)とが示されている。なお、図14のcには、図14のaにおいて示した瞳分割ラインL21乃至L24の代わりに、第3瞳位相差検出画素が位置F1乃至F4において行う瞳分割の境界を示す軸として、瞳分割ラインL41乃至L44が示されている。
第3瞳位相差検出画素は、第3瞳E3を2等分する瞳分割が行えるように遮光層が形成される。すなわち、第3瞳位相差検出画素は、図14のcに示すように、第3瞳E3に対しては精度良く位相差検出を行えるが、第1瞳E1および第2瞳E2に対して精度の高い位相差検出を行うことは難しい。
このように、異なる瞳位置の射出瞳に対応する位相差検出画素が撮像素子300に配置される。これにより、撮像装置100がレンズユニットの交換可能な一眼レフカメラである場合などにおいて、射出瞳の位置が異なる交換レンズにも対応することができる。
次に、3つの位置の射出瞳に対応する位相差検出画素が配置されている撮像素子(撮像素子300)に対する異常値ライン検出部262による行単位での異常検出について、図15を参照して説明する。
[行単位での異常検出の一例]
図15は、本技術の第2の実施の形態の撮像素子300に対する異常値ライン検出部262による行単位での異常検出の一例を模式的に示す図である。
図15では、58行×8列の画素の領域(画素領域431)が基準領域に設定され、第1瞳位相差ラインを用いて位相差検出を行うことを想定して説明する。
この想定における異常検出では、画素領域431における5つの第1瞳位相差ライン(第1瞳位相差ラインn乃至n+4行目)のライン総和値(Vlt_L_E1(n)乃至Vlt_L_E!(n+4))が算出され、この算出されたライン総和値を用いて異常検出が行われる。すなわち、対応する射出瞳が同じラインのライン総和値を用いて図6において示した式1および式2を満たすライン総和値の有無が判定される。
なお、画素領域431では、第1瞳位相差ラインn+2行目の左開口位相差検出画素において出力値が常に低い欠陥(黒欠陥)の画素があることを想定している。このため、第1瞳位相差ラインn+2行目のライン総和値(Vlt_L_E1(n+2))が式1により異常値と判定され、図15の表432に示すように、第1瞳位相差ラインn+2行目が異常と判定される。
なお、異常値ラインがある場合には、本技術の第1の実施の形態では、その異常値ラインを除外して相関を算出した。本技術の第2の実施の形態においても、本技術の第1の実施の形態と同様に、異常値ラインを除外して相関を算出することはできる。しかしながら、本技術の第2の実施の形態では、他の位置の射出瞳に対応する位相差ラインが異常値ラインの近傍にある。このため、本技術の第2の実施の形態では、近傍の位相差ラインの位相差検出画素の出力値で代替が可能か否か判定し、代替が可能な場合には、近傍の位相差ラインの位相差検出画素の出力値で異常値ラインの出力値を代替して相関算出を行う。
なお、近傍の位相差ラインの出力値を代替使用する方法は種々の方法が考えられ、異常値ラインに隣接する別の瞳位置用の位相差ラインの出力値をそのまま用いたり、複数の位相差ラインの出力値を平均した値を代替使用したりすることが考えられる。そこで、本技術の第2の実施の形態では、異常値ラインに隣接する位相差ライン(図15のaでは、第3位相差ラインn+1行目と第2位相差ラインn+2行目)のうち、対応する射出瞳の位置が異常値ラインの射出瞳の位置に近い位相差ラインの出力値を用いる例について説明する。
また、異常値ラインに隣接する位相差ラインの出力値の平均値を用いる例を、後の第3の実施の形態として説明する。
次に、位相差ラインの代替使用について、図16を参照して説明する。
[相差ラインの代替使用の一例]
図16は、本技術の第2の実施の形態において、他の位置の射出瞳に対応する位相差ラインを代替使用する際に異常値ライン検出部262により行われる代替使用の可否の判定の一例を模式的に示す図である。
異常値ライン検出部262により異常値ラインが検出されると、次に、この検出された異常値ラインの代わりとして出力値を使用できる位相差ラインの有無が判定される。本技術の第2の実施の形態では、異常値ラインに隣接(最も近接)する位相差ラインのうち、対応する射出瞳の位置が異常値ラインに近い方の位相差ラインが代替ラインの候補として決定される。そして、このライン(候補ライン)のライン総和値が異常値で無い場合に代替使用可能と判断される。
なお、図16が示す本技術の第2の実施の形態では、第3瞳よりも第2瞳のほうが第1瞳の位置に近いことを想定している(図14参照)。このため、図16の画素領域431に示すように第1瞳位相差ラインn+2行目が異常値ラインの場合には、第2瞳位相差ラインn+2行目が候補ラインとして決定され、この候補ラインの異常の有無が判定される。
この候補ラインの異常の有無の判定方法は、今まで説明したライン単位の異常判定と同様である。すなわち、代替候補の第2瞳位相差ラインn+2行目のライン総和値(Vlt_L_E2(n+2)))と、第1瞳位相差ラインの異常値ライン以外のライン総和値とを用いて、図6の式1および式2を計算し、式1および式2が成立する場合には、異常と判断される。
なお、画素領域431では、第2瞳位相差ラインn+2行目の左開口位相差検出画素において欠陥の画素は無いことを想定している。このため、第2瞳位相差ラインn+2行目のライン総和値は異常値でないことから代替に使用可能と判断され、図16の表434に示すように、第1瞳位相差ラインn+2行目は異常値ラインだが、第2瞳位相差ラインn+2行目の出力値で代替使用可能と判断される。
なお、図14において示したように、像高の高い位置で他の位置の射出瞳に対応した位相差検出画素の出力値を代替使用する場合には、瞳分割の精度(2分割の均等性)が悪い値を用いる可能性がある。この場合には、代替使用するライン(代替ライン)の出力値を補正してから相関算出に使用する。
[撮像装置の動作例]
次に、本技術の第2の実施の形態における撮像装置の動作について図面を参照して説明する。
図17は、本技術の第2の実施の形態における撮像装置(撮像装置100)の撮像処理手順の一例を示すフローチャートである。
なお、図17で示す撮像処理手順は、図9において示した撮像処理手順の変形例であり、処理手順の一部が図9の撮像処理手順と異なる。この図17の撮像処理手順では、異なる射出瞳に対応する複数の位相差ラインのうちのどの位相差ラインを使用するのかを決定する処理(位相差検出瞳パターン決定処理(ステップS960))がライブビュー画像の表示(ステップS902)の手順の前に加わる。また、ステップS907において撮像動作終了指示がないと判定されると、ステップS960に戻る。なお、位相差検出瞳パターン決定処理(ステップS960)については、図18において説明するためここでの説明を省略する。
さらに、図17の撮像処理手順では、合焦処理における処理手順が図9の合焦処理(ステップS910)における処理手順と異なるため、合焦処理に新たな符号(ステップS970)を付して示している。なお、図17の合焦処理(ステップS970)は、図9の合焦処理(ステップS910)の変形例であり、異常検出処理(ステップS930)および相関算出処理(ステップS950)における処理手順が異なる。なお、本技術の第2の実施の形態における異常検出処理については、ステップS980として、図19を参照して説明する。また、本技術の第2の実施の形態における相関算出処理については、ステップS1010として、図21を参照して説明する。なお、これ以外の処理手順に関しては、本技術の第1の実施の形態における処理手順と同様のものであるため、ここでの説明を省略する。
図18は、本技術の第2の実施の形態の撮像処理手順における位相差検出瞳パターン決定処理(ステップS960)の処理手順例を示すフローチャートである。
まず、射出瞳の撮像面からの距離(瞳距離)が60mm以下であるか否かが判断される(ステップS961)。そして、瞳距離が60mm以下であると判断された場合には(ステップS961)、瞳距離が近距離の射出瞳用の位相差検出画素のライン(第1瞳位相差ライン)が、位相差を検出する瞳パターン(検出瞳パターン)のラインとして選択される(ステップS962)。その後、ステップS962の後に、位相差検出瞳パターン決定処理手順は終了する。
一方、瞳距離が60mm以下でないと判断された場合には(ステップS961)、瞳距離が60mm〜110mmであるか否かが判断される(ステップS963)。そして、瞳距離が60mm〜110mmであると判断された場合には(ステップS963)、瞳距離が中距離の射出瞳用の位相差検出画素のライン(第2瞳位相差ライン)が、位相差を検出する瞳パターン(検出瞳パターン)のラインとして選択される(ステップS964)。その後、ステップS964の後に、位相差検出瞳パターン決定処理手順は終了する。
また、瞳距離が60mm〜110mmでないと判断された場合には(ステップS963)、瞳距離が遠距離の射出瞳用の位相差検出画素のライン(第3瞳位相差ライン)が、位相差を検出する瞳パターン(検出瞳パターン)のラインとして選択される(ステップS965)。その後、ステップS965の後に、位相差検出瞳パターン決定処理手順は終了する。
図19は、本技術の第2の実施の形態の撮像処理手順における異常検出処理(ステップS980)の処理手順例を示すフローチャートである。
なお、異常検出処理(ステップS980)は、図11において示した異常検出処理(ステップS930)の変形例であるため、ここでは異なる処理手順についてのみ説明し、同一の処理手順には同一の符号を付してここでの説明を省略する。
ステップS932またはステップS933において異常の検出対象側が設定されると、異常検出領域内における検出瞳パターンの位相差ラインの検出対象の開口側のライン総和値が算出され(ステップS981)、ステップS935に進む。
ステップS937において最低ライン総和値のラインが異常値ラインとして設定されると、代替ラインの設定を行う処理(代替ライン設定処理)が行われ(ステップS990)、ステップS938に進む。なお、代替ライン設定処理(ステップS990)については、図20において説明するためここでの説明を省略する。
ステップS940において最高ライン総和値のラインを異常値ラインとして設定されると、代替ライン設定処理が行われ(ステップS990)、異常検出処理の処理手順は終了する。
図20は、本技術の第2の実施の形態の撮像処理手順における代替ライン設定処理(ステップS990)の処理手順例を示すフローチャートである。
まず、異常値ラインに隣接する位相差ラインのうち、対応する射出瞳の位置が異常値ラインの射出瞳の位置に近い位相差ラインが代替候補ラインに設定される(ステップS991)。その後、代替候補ラインのライン総和値が算出され(ステップS992)、代替候補ラインのライン総和値が異常であるか否かが判断される(ステップS993)。そして、代替候補ラインのライン総和値が異常であると判断された場合には(ステップS993)、代替ライン設定処理の処理手順は終了する。
一方、代替候補ラインのライン総和値が異常でないと判断された場合には(ステップS993)、代替候補ラインが代替ラインに設定され(ステップS994)、代替ライン設定処理の処理手順は終了する。
図21は、本技術の第2の実施の形態の撮像処理手順における相関算出処理(ステップS1010)の処理手順例を示すフローチャートである。
なお、図21で示す相関算出処理(ステップS1010)は、図12において示した相関算出処理(ステップS950)の変形例であり、代替ラインおよび瞳パターンに関する処理が加わる点が異なる。そこで、同一の処理手順に関しては同一の符号を付してここでの説明を省略する。
ステップS951において異常値ラインが含まれていないと判定された場合には、判定エリアにおける検出瞳パターンの全ての位相差ラインが相関算出ラインとして設定され(ステップS1012)、ステップS954に進む。
一方、ステップS951において異常値ラインが含まれていると判断された場合には、代替ラインによる代替で相関算出可能となる異常値ラインがあるか否かが判断される(ステップS1013)。そして、代替ラインによる代替で相関算出可能となる異常値ラインがないと判断された場合には(ステップS1013)、相関算出対象領域における検出瞳パターンの位相差ラインのうち、基準側および参照側の両方において異常値ラインでない位相差ラインが相関算出ラインとして設定され(ステップS1014)、ステップS954へ進む。
また、代替ラインによる代替で相関算出可能となる異常値ラインがあると判断された場合には(ステップS1013)、相関算出対象領域における検出瞳パターンの位相差ラインのうち、基準側および参照側の両方において異常値ラインでない位相差ラインと、代替ラインで代替することにより相関算出が可能な異常値ラインとが相関算出ラインとして設定され(ステップS1015)、ステップS954へ進む。
このように、本技術の第2の実施の形態によれば、異常値ラインの出力値を、異常値ラインの近傍の位相差ラインの出力値で代替して位相差検出を行うことができる。
なお、本技術の第2の実施の形態では、3つの瞳位置(第1瞳、第2瞳、第3瞳)にそれぞれ対応する3つのパターンの位相差検出画素の例を示したが、3つに限定されるものではなく、もっと多くの瞳位置に対応するようにしてもよい。なお、この場合には、異常値ラインに隣接する位相差ラインのみではなく、もっと離れている位相差ラインを代替ラインにすることも考えられる。
次に、異常値ラインに隣接する位相差ラインの出力値の平均値を用いる例を、第3の実施の形態として説明する。
<3.第3の実施の形態>
[撮像装置の動作例]
図22は、本技術の第3の実施の形態の撮像処理手順における代替ライン設定処理(ステップS1030)の処理手順例を示すフローチャートである。
なお、図22の代替ライン設定処理(ステップS1030)は、図20において示した代替ライン設定処理(ステップS990)の変形例である。
まず、異常値ラインに隣接する2つの位相差ラインが両方ともに代替候補ラインに設定され(ステップS1031)、この2つの代替候補ラインのライン総和値がそれぞれ算出される(ステップS1032)。その後、2つの代替候補ラインの両方が異常であるか否かが判定される(ステップS1033)。この判定は、それぞれの代替候補ラインのライン総和値を用いて、図16において説明したように図6の式1および式2を用いて行われる。
そして、2つの代替候補ラインの両方が異常であると判定された場合には(ステップS1033)、代替ライン設定処理の処理手順は終了する。すなわち、両方ともに異常であると判定された場合には、代替ラインは無しとなる。
一方、2つの代替候補ラインの両方が異常であると判定されない場合には(ステップS1033)、2つの代替候補ラインの一方が異常であるか否かが判定される(ステップS1034)。そして、2つの代替候補ラインの一方が異常であると判定された場合には(ステップS1034)、異常で無い方(正常な方)の代替候補ラインにおける出力値が代替ラインの出力値として設定され(ステップS1035)、代替ライン設定処理の処理手順は終了する。
なお、2つの代替候補ラインの一方が異常であると判定されない場合(2つの代替候補ラインがともに正常)には(ステップS1034)、2つの代替候補ラインにおける瞳分割方向の位置が同じ画素の出力値の平均値が代替ラインの出力値として設定される(ステップS1036)。そして、ステップS1036の後に、代替ライン設定処理の処理手順は終了する。すなわち、瞳分割方向の位置が同じ2つの代替候補ラインの位相差検出画素間での出力値の平均値が代替ラインの出力値として設定される。
なお、図22では、ステップS1036において、2つの代替候補ラインの出力値を単に平均して代替ラインの出力値を設定する例を示したが、これに限定されるものではなく、例えば、瞳位置に応じて重み付けしてから平均した値を設定することも考えられる。
このように、本技術の第3の実施の形態によれば、異常値ラインに隣接する位相差ラインの出力値の平均値を用いて異常値ラインの出力値を代替することができる。
<4.第4の実施の形態>
本技術の第1乃至第3の実施の形態では、基準領域または参照領域に、異常な画素を含むラインが1本しかないことを前提として説明した。しかしながら、大きなゴミが撮像素子に付着した場合には、複数のラインがまとまって異常になることが想定される。この場合には、異常値ラインが1本しかないことを前提とした第1乃至第3の実施の形態の異常検出方法では、異常な位相差ラインが正常な位相差ラインとして誤検出されるおそれがある。
そこで、本技術の第4の実施の形態では、複数のラインがまとまって異常になる場合を想定して、異常値ラインを検出する。具体的には、第4の実施の形態の異常値ライン検出部262は、異常検出領域において、ライン総和値と所定値の閾値との比較結果に基づいて異常値ラインを検出する。例えば、下限閾値および上限閾値の少なくとも一方を設定し、その下限閾値より低いライン総和値、または、上限閾値より高いライン総和値のラインが異常値ラインとして検出される。この検出方法により、複数の異常値ラインが検出された場合には、異常値ライン検出部262は、異常検出領域を変更する。例えば、一定の縮小率で異常検出領域を縮小する。あるいは、異常値ライン検出部262は、異常値ラインが1本になるように異常検出領域を変更する。ここで、上限閾値、下限閾値や縮小率は、メイン制御部136において、レジスタなどに設定することにより、プログラマブルに変更することができる。そして、異常値ライン検出部262は、変更後の異常検出領域において、第1乃至第3の実施の形態と同様の方法により、異常値ラインを検出する。
図23は、本技術の第4の実施の形態の撮像処理手順における異常検出処理(ステップS930)の処理手順例を示すフローチャートである。図23で示す異常検出処理(ステップS930)は、図11において示した異常検出処理(ステップS930)の変形例であり、複数の異常値検出ラインの有無を検出するための処理が加わる点が異なる。そこで、同一の処理手順に関しては同一の符号を付してここでの説明を省略する。
異常検出処理において、ステップS932またはS933の後に、複数の異常値ラインを検出するための複数ライン異常検出処理がさらに実行される(ステップS1200)。ステップS1200の後に、ステップS934以降の処理が実行される。
図24は、本技術の第4の実施の形態の撮像処理手順における複数ライン異常検出処理(ステップS1200)の処理手順例を示すフローチャートである。まず、異常検出領域内の全ての位相差ラインの開口側が検出対象側の位相差検出画素の出力値に基づいて、それぞれの位相差ラインのライン総和値が算出される(ステップS1201)。
そして、算出された位相差ラインに基づいて、ライン総和値が下限閾値より低い位相差ラインが、異常値ラインとして設定される(ステップS1202)。次に、異常値ラインが複数であるか否かが判断される(ステップS1203)。異常値ラインが複数である場合には(ステップS1203)、異常値ラインが1本となるように異常検出領域が変更される(ステップS1204)。異常値ラインが複数でない場合(ステップS1203)、または、ステップS1204の後に、複数ライン異常検出処理は終了する。
図25は、本発明の第4の実施の形態の異常検出領域の一例を示す図である。図25において、点線で囲まれた領域が異常検出領域に該当する。例えば、n行目からn+4行目までの位相差ラインを含む領域が異常検出領域に設定される。この異常検出領域において、全ての左開口側(L)の位相差検出画素の出力値に基づいて、それぞれの位相差ラインのライン総和値が算出される。ここで、n+3行およびn+4行の位相差ラインのライン総和値が、下限閾値(例えば、20)より低い場合を考える。この場合には、異常値ラインが1本となるように、異常検出領域が変更される。例えば、外側に近いn+4行目を除外して、n行目からn+3行目までの位相差ラインを含む領域が新たな異常検出領域として設定される。異常値ラインが3本である場合には、それらのうち、最も内側の異常値ラインを残し、それ以外の異常値ラインを除外すればよい。この新たな異常検出領域において、式1および式2を使用して、異常値ラインが検出される。
このように、本技術の実施の形態によれば、複数の異常値ラインを検出した場合には新たな異常検出領域を設定するため、異常値ラインが複数である場合にも、位相差検出の精度を向上させることができる。
<5.変形例>
本技術の第1乃至第4の実施の形態では、一対の位相差検出画素(左開口位相差検出画素および右開口位相差検出画素)が、位相差ライン(行)において交互に配置されている撮像素子の例について説明した。なお、撮像素子における位相差検出画素の配置については、他にも種々の例が考えられる。位相差検出画素の配置が本技術の第1乃至第4の実施の形態で示したもの以外であっても、位相差検出画素の異常をラインごとに検出し、異常な画素を含むライン相関算出において使用しないことにより、位相差検出の精度を向上させることができる。
次に、本技術の第1乃至第4の実施の形態において示した位相差検出画素の配置以外の一例について、図26乃至図28を参照して説明する。
図26は、本技術の実施の形態の変形例として、行単位で読み出される撮像素子において、列方向(上下方向)に瞳分割を行う位相差検出画素が列単位に配置されている撮像素子の画素配置の一例が示されている。
図26で示す画素配置の場合には、上下方向に瞳分割を行う一対の位相差検出画素(下開口位相差検出画素811、上開口位相差検出画素812)が配置されている列を、本技術の第1乃至第4の実施の形態で示した位相差ラインとして位相差検出を行う。これにより、本技術の第1乃至第4の実施の形態と同様に本技術を適用することができる。
図27は、本技術の実施の形態の変形例として、行単位で読み出される撮像素子において、行方向(左右方向)に瞳分割を行う位相差検出画素がそれぞれ別の行に配置されている例が示されている。この図27では、画像生成画素のみが配置される行と、位相差検出画素および画像生成画素が配置される行(第1の実施の形態と同様に、位相差ラインと称する)とが、2行ずつ交互に配置されている。2行隣接している位相差ラインの一方は、右開口位相差検出画素とG画素とが交互に配置され、他方は左開口位相差検出画素とG画素とが交互に配置されている。
図27に示すような配置の場合には、2行隣接している位相差ラインの一方が基準側のラインとして用いられ、他方が参照側として用いられて位相差検出が行われる。このように、一対の位相差検出画素の一方のみが位相差ラインに配置されているような画素配置の場合においても、本技術の第1乃至第4の実施の形態と同様に本技術を適用することができる。
図28は、本技術の実施の形態の変形例として、行単位で読み出される撮像素子において、列方向(上下方向)に瞳分割を行う位相差検出画素がそれぞれ別の行に配置されている例が示されている。この図302では、画像生成画素のみが配置される列と、位相差検出画素および画像生成画素が配置される列(第1の実施の形態と同様に、位相差ラインと称する)とが、2列ずつ交互に配置されている。2列隣接している位相差ラインの一方は、下開口位相差検出画素と3つの画像生成画素とが交互に配置され、他方は上開口位相差検出画素と3つの画像生成画素とが交互に配置されている。
図28に示すような配置の場合においても、2列隣接している位相差ラインの一方を基準側とし、他方を参照側とすることで、本技術の第1乃至第4の実施の形態と同様に本技術を適用することができる。
このように、本技術の実施の形態によれば、異常な値を生成する位相差検出画素がある領域における位相差検出の精度を向上させることができる。なお、本技術の実施の形態で示した異常値の検出方法は、位相差検出を行う直前に異常な位相差検出画素をチェックすることができる。このため、例えば、レンズの交換時における撮像面へのホコリの付着などによる使用に伴うヨゴレの付着により位相差検出画素の出力が異常になる場合においても適切に異常を検出することができる。すなわち、製造後の後から異常になった位相差検出画素を適切に検出することができる。
また、本技術の実施の形態で示した相関算出方法では、欠陥またはゴミの付着により異常な値を生成する位相差検出画素を相関算出に使用しないため、検波性能全体の低下を防ぐことができ、位相差検出の精度を向上させることができる。特に、位相差検出で使用する領域(基準領域または参照領域)のライン単位で異常を検出するため、迅速に異常を検出することができる。
なお、本技術の実施の形態では、画像生成画素に備えられるカラーフィルタが3原色(RGB)のカラーフィルタであることを想定して説明したが、これに限定されるものではない。例えば、画像生成画素に補色のカラーフィルタが備えられる場合においても、同様に適用できる。また、1つの画素の領域で可視光領域の波長の光を全て検出する画素(例えば、青色用の画素、緑色用の画素、赤色用の画素が光軸方向に重ねて配置されている撮像素子)が画像生成画素である場合においても、本技術の実施の形態は同様に適用できる。
また、本技術の実施の形態では、位相差検出画素は、2つに瞳分割された光の一方を受光することを想定して説明したが、これに限定されるものではない。例えば、瞳分割用遮光層を備えずに2つの受光素子を備え、瞳分割された光をそれぞれの受光素子で受光することができる位相差検出画素の場合においても、本技術の実施の形態を適用することができる。また、瞳分割用遮光層を備えずに半分の大きさの受光素子を備え、瞳分割された光の一方をその半分の大きさの受光素子で受光することができる位相差検出画素の場合においても、同様に実施することができる。
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、ハードディスク、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disk)、メモリカード、ブルーレイディスク(Blu-ray Disc(登録商標))等を用いることができる。
なお、本技術は以下のような構成もとることができる。
(1) 一対の位相差検出画素を複数含み瞳分割方向に沿った位相差ラインが前記瞳分割方向に直交する直交方向に複数配置されている撮像素子と、
前記位相差検出画素が出力した出力値のうちの異常値を、前記複数の位相差ライン間における前記出力値の比較結果に基づいて検出する検出部と、
前記位相差検出領域における前記複数の位相差ラインのうちから位相差検出に使用する複数の位相差ラインを使用ラインとして前記検出部による検出結果に基づいて決定する位相差ライン決定部と
を具備する撮像装置。
(2) 前記位相差ライン決定部は、前記異常値を出力した前記位相差検出画素を含む位相差ラインである異常値ラインを前記複数の位相差ラインから除外することにより前記使用ラインを決定する前記(1)に記載の撮像装置。
(3) 前記検出部は、前記位相差ラインに含まれる前記位相差検出画素の出力値を用いて演算を行うことによりライン総和値を前記位相差ラインごと算出し、前記ライン総和値同士の比較結果に基づいて前記異常値ラインを検出する前記(1)または(2)に記載の撮像装置。
(4) 前記検出部は、前記ライン総和値と所定の閾値との比較結果に基づいて前記異常値ラインを検出して複数の前記異常値ラインを検出した場合には新たな領域を設定して当該新たな領域において前記ライン総和値同士の比較結果に基づいて前記異常値ラインを検出する
前記(3)記載の撮像装置。
(5) 前記検出部は、前記位相差ラインを複数含む位相差検出対象領域において相関算出を行うために設定される基準領域および参照領域ごとに前記ライン総和値を算出し、前記基準領域および参照領域ごとに前記異常値ラインを検出する前記(3)に記載の撮像装置。
(6) 前記検出部は、前記一対の位相差検出画素のうちの一方の出力値を加算して求められるライン総和値に基づいて前記基準領域における前記異常値ラインを検出し、前記一対の位相差検出画素のうちの他方の出力値を加算して求められるライン総和値に基づいて前記参照領域における前記異常値ラインを検出する前記(5)に記載の撮像装置。
(7) 前記位相差ライン決定部は、前記異常値を出力した前記位相差検出画素を含む位相差ラインである異常値ラインの近傍に配置されている前記位相差ラインの出力値である代替候補値を当該異常値ラインの出力値の代わりに用いて前記位相差検出が可能か否かを判定し、前記位相差検出が可能であると判定された場合には、前記検出部による検出結果に基づいて前記異常値ラインを含む前記複数の位相差ラインを前記使用ラインとして決定する前記(1)に記載の撮像装置。
(8) 前記撮像素子は、光軸方向における位置が異なる複数の射出瞳のいずれかに対応する複数の位相差検出画素が配置され、
前記位相差ラインは、1つの前記位相差ラインが1つの位置の射出瞳に対応するように前記位相差検出画素が配置されるとともに、前記直交方向において隣接する前記位相差ラインが対応する前記射出瞳とは異なる前記射出瞳にそれぞれが対応するように配置され、
前記合焦判定部は、前記直交方向において前記異常値ラインに隣接する2つの位相差ラインのうち、対応する射出瞳が前記異常値ラインに対応する射出瞳に近い前記位相差ラインの出力値を前記代替候補値とする
前記(7)に記載の撮像装置。
(9) 前記撮像素子は、光軸方向における位置が異なる複数の射出瞳のいずれかに対応する複数の位相差検出画素が配置され、
前記位相差ラインは、1つの前記位相差ラインが1つの位置の射出瞳に対応するように前記位相差検出画素が配置されるとともに、前記直交方向において隣接する前記位相差ラインが対応する前記射出瞳とは異なる前記射出瞳にそれぞれが対応するように配置され、
前記位相差ライン決定部は、前記直交方向において前記異常値ラインに隣接する2つの位相差ラインの出力値を演算して前記代替候補値を算出する
前記(7)に記載の撮像装置。
(10) 一対の位相差検出画素を複数含み瞳分割方向に沿った位相差ラインが前記瞳分割方向に直交する直交方向に複数配置されている撮像素子の前記位相差検出画素が出力した出力値を取得する取得手順と、
前記位相差検出画素が出力した出力値のうちの異常値を、前記複数の位相差ライン間における前記出力値の比較結果に基づいて検出する検出手順と、
前記位相差検出領域における前記複数の位相差ラインのうちから位相差検出に使用する複数の位相差ラインを使用ラインとして前記検出手順での検出結果に基づいて決定する位相差ライン決定手順と
を具備する合焦方法。
10 撮像システム
210 レンズ部
211 ズームレンズ
212 絞り
213 フォーカスレンズ
220 操作受付部
230 制御部
240 信号処理部
260 位相差検出部
261 領域設定部
262 異常値ライン検出部
263 デフォーカス量算出部
270 レンズ駆動部
280 画像生成部
281 表示部
282 記憶部
300 撮像素子

Claims (10)

  1. 一対の位相差検出画素を複数含み瞳分割方向に沿った位相差ラインが前記瞳分割方向に直交する直交方向に複数配置されている撮像素子と、
    前記位相差検出画素が出力した出力値のうちの異常値を、前記複数の位相差ライン間における前記出力値の比較結果に基づいて検出する検出部と、
    前記位相差検出領域における前記複数の位相差ラインのうちから位相差検出に使用する複数の位相差ラインを使用ラインとして前記検出部による検出結果に基づいて決定する位相差ライン決定部と
    を具備する撮像装置。
  2. 前記位相差ライン決定部は、前記異常値を出力した前記位相差検出画素を含む位相差ラインである異常値ラインを前記複数の位相差ラインから除外することにより前記使用ラインを決定する請求項1記載の撮像装置。
  3. 前記検出部は、前記位相差ラインに含まれる前記位相差検出画素の出力値を用いて演算を行うことによりライン総和値を前記位相差ラインごと算出し、前記ライン総和値同士の比較結果に基づいて前記異常値ラインを検出する請求項2記載の撮像装置。
  4. 前記検出部は、前記ライン総和値と所定の閾値との比較結果に基づいて前記異常値ラインを検出して複数の前記異常値ラインを検出した場合には新たな領域を設定して当該新たな領域において前記ライン総和値同士の比較結果に基づいて前記異常値ラインを検出する
    請求項3記載の撮像装置。
  5. 前記検出部は、前記位相差ラインを複数含む位相差検出対象領域において相関算出を行うために設定される基準領域および参照領域ごとに前記ライン総和値を算出し、前記基準領域および参照領域ごとに前記異常値ラインを検出する請求項3記載の撮像装置。
  6. 前記検出部は、前記一対の位相差検出画素のうちの一方の出力値を加算して求められるライン総和値に基づいて前記基準領域における前記異常値ラインを検出し、前記一対の位相差検出画素のうちの他方の出力値を加算して求められるライン総和値に基づいて前記参照領域における前記異常値ラインを検出する請求項5記載の撮像装置。
  7. 前記位相差ライン決定部は、前記異常値を出力した前記位相差検出画素を含む位相差ラインである異常値ラインの近傍に配置されている前記位相差ラインの出力値である代替候補値を当該異常値ラインの出力値の代わりに用いて前記位相差検出が可能か否かを判定し、前記位相差検出が可能であると判定された場合には、前記検出部による検出結果に基づいて前記異常値ラインを含む前記複数の位相差ラインを前記使用ラインとして決定する請求項1記載の撮像装置。
  8. 前記撮像素子は、光軸方向における位置が異なる複数の射出瞳のいずれかに対応する複数の位相差検出画素が配置され、
    前記位相差ラインは、1つの前記位相差ラインが1つの位置の射出瞳に対応するように前記位相差検出画素が配置されるとともに、前記直交方向において隣接する前記位相差ラインが対応する前記射出瞳とは異なる前記射出瞳にそれぞれが対応するように配置され、
    前記合焦判定部は、前記直交方向において前記異常値ラインに隣接する2つの位相差ラインのうち、対応する射出瞳が前記異常値ラインに対応する射出瞳に近い前記位相差ラインの出力値を前記代替候補値とする
    請求項7記載の撮像装置。
  9. 前記撮像素子は、光軸方向における位置が異なる複数の射出瞳のいずれかに対応する複数の位相差検出画素が配置され、
    前記位相差ラインは、1つの前記位相差ラインが1つの位置の射出瞳に対応するように前記位相差検出画素が配置されるとともに、前記直交方向において隣接する前記位相差ラインが対応する前記射出瞳とは異なる前記射出瞳にそれぞれが対応するように配置され、
    前記位相差ライン決定部は、前記直交方向において前記異常値ラインに隣接する2つの位相差ラインの出力値を演算して前記代替候補値を算出する
    請求項7記載の撮像装置。
  10. 一対の位相差検出画素を複数含み瞳分割方向に沿った位相差ラインが前記瞳分割方向に直交する直交方向に複数配置されている撮像素子の前記位相差検出画素が出力した出力値を取得する取得手順と、
    前記位相差検出画素が出力した出力値のうちの異常値を、前記複数の位相差ライン間における前記出力値の比較結果に基づいて検出する検出手順と、
    前記位相差検出領域における前記複数の位相差ラインのうちから位相差検出に使用する複数の位相差ラインを使用ラインとして前記検出手順での検出結果に基づいて決定する位相差ライン決定手順と
    を具備する合焦方法。
JP2013005841A 2013-01-17 2013-01-17 撮像装置および撮像方法 Pending JP2014137468A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013005841A JP2014137468A (ja) 2013-01-17 2013-01-17 撮像装置および撮像方法
US14/141,169 US20140198239A1 (en) 2013-01-17 2013-12-26 Imaging apparatus and imaging method
CN201410011476.5A CN103945147A (zh) 2013-01-17 2014-01-10 成像设备和成像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013005841A JP2014137468A (ja) 2013-01-17 2013-01-17 撮像装置および撮像方法

Publications (1)

Publication Number Publication Date
JP2014137468A true JP2014137468A (ja) 2014-07-28

Family

ID=51164852

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013005841A Pending JP2014137468A (ja) 2013-01-17 2013-01-17 撮像装置および撮像方法

Country Status (3)

Country Link
US (1) US20140198239A1 (ja)
JP (1) JP2014137468A (ja)
CN (1) CN103945147A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016163329A (ja) * 2015-03-05 2016-09-05 キヤノン株式会社 撮像システム
WO2019003614A1 (ja) 2017-06-27 2019-01-03 ソニー株式会社 交換レンズ装置、撮像装置、撮像システム、および方法、並びにプログラム
WO2023181981A1 (ja) * 2022-03-24 2023-09-28 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像方法および撮像プログラム

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5671842B2 (ja) * 2010-06-03 2015-02-18 株式会社ニコン 画像処理装置および撮像装置
JP6346439B2 (ja) * 2013-01-07 2018-06-20 キヤノン株式会社 撮像装置及びその制御方法
JP6289017B2 (ja) * 2013-03-27 2018-03-07 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP6532119B2 (ja) * 2013-04-30 2019-06-19 キヤノン株式会社 撮像装置及びその制御方法
JP6315776B2 (ja) * 2014-02-20 2018-04-25 オリンパス株式会社 撮像素子、撮像装置
JP5982600B2 (ja) * 2014-03-18 2016-08-31 富士フイルム株式会社 撮像装置及び合焦制御方法
JP6186498B2 (ja) * 2014-03-25 2017-08-23 富士フイルム株式会社 撮像装置及び合焦制御方法
JP6506506B2 (ja) * 2014-04-02 2019-04-24 キヤノン株式会社 画像処理装置、撮像装置、制御方法およびプログラム
JP2016038414A (ja) * 2014-08-05 2016-03-22 キヤノン株式会社 焦点検出装置およびその制御方法、並びに撮像装置
CN106412435B (zh) * 2016-10-12 2019-05-31 Oppo广东移动通信有限公司 对焦方法、装置及移动终端
JP6879841B2 (ja) * 2017-06-28 2021-06-02 株式会社 東京ウエルズ 画像処理方法および欠陥検査方法
US10848697B2 (en) * 2018-08-14 2020-11-24 Omnivision Technologies, Inc. Image sensors with phase detection auto focus pixels

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5322561B2 (ja) * 2008-09-25 2013-10-23 キヤノン株式会社 撮像装置及びその制御方法
JP2012105023A (ja) * 2010-11-09 2012-05-31 Canon Inc 画像処理装置、撮像装置、及び画像処理方法
JP5589857B2 (ja) * 2011-01-11 2014-09-17 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム。

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016163329A (ja) * 2015-03-05 2016-09-05 キヤノン株式会社 撮像システム
WO2019003614A1 (ja) 2017-06-27 2019-01-03 ソニー株式会社 交換レンズ装置、撮像装置、撮像システム、および方法、並びにプログラム
US11493829B2 (en) 2017-06-27 2022-11-08 Sony Group Corporation Interchangeable lens device, imaging device, imaging system, method, and program
WO2023181981A1 (ja) * 2022-03-24 2023-09-28 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像方法および撮像プログラム

Also Published As

Publication number Publication date
US20140198239A1 (en) 2014-07-17
CN103945147A (zh) 2014-07-23

Similar Documents

Publication Publication Date Title
JP2014137468A (ja) 撮像装置および撮像方法
JP5853594B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP5589857B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP5655543B2 (ja) 画像処理装置、画像処理方法およびプログラム。
CN101802673B (zh) 摄像设备
JP2012145664A (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP6506560B2 (ja) フォーカス制御装置及びその方法、プログラム、記憶媒体
JP5448621B2 (ja) 撮像装置、及び撮像装置の制御方法
JP2012124791A (ja) 撮像素子および撮像装置
JP6548435B2 (ja) 表示制御装置及びその制御方法、及び撮像装置
US10015386B2 (en) Focus control apparatus, image capturing apparatus, interchangeable lens, focus control method, and storage medium storing focus control program
JPWO2012127702A1 (ja) カラー撮像素子、撮像装置、及び撮像プログラム
JP2013255188A (ja) 撮像素子、撮像装置、撮像方法およびプログラム
US9888165B2 (en) Image capturing apparatus, control method therefor and storage medium
JP6595797B2 (ja) 撮像装置およびその制御方法
US20160301853A1 (en) Focus detection apparatus and control method thereof
US11323689B2 (en) Image processing device, imaging device, image processing method, and recording medium
CN107529019B (zh) 摄像设备及其控制方法和计算机可读介质
US20170034463A1 (en) Image capture apparatus and method for controlling the same
JP2018031966A (ja) 焦点検出装置、焦点調節装置、撮像装置及び焦点検出方法
JP7179509B2 (ja) 撮像装置及び撮像装置の制御方法
JP2018091977A (ja) フォーカス制御装置、撮像装置、フォーカス制御方法およびフォーカス制御プログラム
JP5769455B2 (ja) 撮像装置
JP2009069303A (ja) カメラ
JP2019090855A (ja) 撮像装置及びその制御方法