JP5937690B2 - 撮像装置及びその制御方法 - Google Patents

撮像装置及びその制御方法 Download PDF

Info

Publication number
JP5937690B2
JP5937690B2 JP2014536832A JP2014536832A JP5937690B2 JP 5937690 B2 JP5937690 B2 JP 5937690B2 JP 2014536832 A JP2014536832 A JP 2014536832A JP 2014536832 A JP2014536832 A JP 2014536832A JP 5937690 B2 JP5937690 B2 JP 5937690B2
Authority
JP
Japan
Prior art keywords
pixel
interpolation
pixels
pair
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014536832A
Other languages
English (en)
Other versions
JPWO2014046037A1 (ja
Inventor
克俊 井澤
克俊 井澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Application granted granted Critical
Publication of JP5937690B2 publication Critical patent/JP5937690B2/ja
Publication of JPWO2014046037A1 publication Critical patent/JPWO2014046037A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/18Signals indicating condition of a camera member or suitability of light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Human Computer Interaction (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Focusing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Viewfinders (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)

Description

本発明は、合焦確認用の合焦確認画像を生成及び表示する撮像装置及びその制御方法に関する。
デジタルカメラには、例えば特許文献1及び2に記載の位相差検出方式などを用いたオートフォーカスの他に、使用者が手動でフォーカス調整を行うことができる、いわゆるマニュアルフォーカスモードを備えるものがある。そして、このマニュアルフォーカスモード時に、撮影者が被写体に対してピントを合わせる作業を容易にするために、スプリットイメージをライブビュー画像(スルー画像ともいう)内に表示するデジタルカメラが良く知られている(特許文献3及び4参照)。
スプリットイメージは上下に分割されており、ピントがずれているとスプリットイメージの上下画像が左右にずれ、ピントが合った状態だと上下画像の左右のずれがなくなる。これにより、撮影者は、スプリットイメージの上下画像のずれがなくなるようにフォーカス操作を行うことでピントを合わせることができる。
図26に示すように、スプリットイメージを表示可能なデジタルカメラは、撮影用の通常画素(図示は省略)と、瞳分割された被写体光を受光する2種類の位相差画素G1,G2とが撮像面上に2次元配列されてなるカラー撮像素子100を備えている。この撮像面には、位相差画素G1,G2がそれぞれ水平方向に等間隔で配列された第1の配列パターンQ1と第2の配列パターンQ2とを有する一対の配列パターンQ3が、垂直方向に一定間隔で配列されている。カラー撮像素子100を有するデジタルカメラでは、通常画素からの出力信号に基づき撮影画像を生成してライブビュー画像表示を行うとともに、2種類の位相差画素のそれぞれの出力信号(画素値)に基づきスプリットイメージを生成してライブビュー画像内に表示している。
しかしながら、カラー撮像素子100では、位相差画素G1,G2がそれぞれ垂直方向の同一画素ライン内に配置されるものの、水平方向の同一画素ライン内に位相差画素G1,G2の両方が配置されることはない。このため、カラー撮像素子100により、図27の(A)部分,図27の(B)部分に示すような水平方向高周波の被写体を撮像した場合には、スプリットイメージの上下画像の境界やずれが明瞭に表示される。逆にカラー撮像素子100により、図28の(A)部分,図28の(B)部分に示すような垂直方向高周波の被写体を撮像した場合にはスプリットイメージの上下画像の境界やずれが明瞭に表示されないので、合焦精度が低下するおそれがある。
そこで、図29及び図30に示すように、特許文献3及び4に記載のカラー撮像素子102では、その撮像面に位相差画素G1,G2の一方をW字状に配列し、他方をM字状に配列させている。これにより、位相差画素G1,G2がそれぞれ垂直方向の同一画素ライン内に配置されるとともに、水平方向の同一画素ライン内にも配置される。
このような配列パターンの位相差画素G1,G2の出力信号に基づきスプリットイメージを生成する際には、位相差画素G1,G2の画素配列を図26に示したような直線配列とみなしてスプリットイメージを生成するのが通常である。この場合に、位相差画素G1間に位置する画素を補間画素g1として、この補間画素g1の画素値を矢印V,Vに従って画素補間することにより求める。また、位相差画素G2間に位置する補間画素g2の画素値を矢印V,Vに従って画素補間することにより求める。そして、各位相差画素G1,G2の画素値と補間画素g1,g2の画素値とに基づき、スプリットイメージを生成する。
また、矢印V,Vに示したように、補間画素g1,g2の図中上側及び下側に位置する位相差画素G1,G2の画素値を用いて補間処理を行う代わりに、補間画素g1,g2の図中左側及び右側に位置する位相差画素G1,G2の画素値を用いて補間処理を行う方法もある。すなわち、補間画素g1,g2の画素値を、それぞれを矢印V,Vに従って画素補間することより求める。この場合にも、各位相差画素G1,G2の画素値と補間画素g1,g2の画素値とに基づき、スプリットイメージを生成する。
カラー撮像素子102では、位相差画素G1,G2がそれぞれ垂直方向及び水平方向の同一画素ライン内に配置されているので、垂直方向高周波の被写体を撮像したときに、前述のカラー撮像素子100で撮像を行ったときよりもスプリットイメージの上下画像の境界やずれが明瞭に表示される。その結果、カラー撮像素子を用いた場合よりも合焦精度を向上させることができる。
特開2011−176714号公報 特開2010−243772号公報 特開2000−156823号公報 特開2009−276426号公報
しかしながら、図29及び図30に示したカラー撮像素子102では、位相差画素G1,G2の画素値をそのまま用いることで補間の必要がない状態と、3画素分離れた位置にある位相差画素G1,G2の画素値を基に補間を行う必要がある状態とが切り替わる。この際に、離れた位置にある位相差画素G1,G2の画素値を基に補間処理を行った場合にはジャギーが発生し易くなる。このため、カラー撮像素子102を用いた場合には、ジャギーの発生によりスプリットイメージの合焦精度が低下するおそれがある。また、垂直方向に画素補間処理を行う場合には、垂直方向高周波の被写体を撮像したときに垂直方向高周波信号にぼけが発生し易くなり、水平方向に画素補間処理を行う場合には、水平方向高周波の被写体を撮像したときに水平方向高周波信号にぼけが発生し易くなる。
本発明の目的は、ジャギーの低減と合焦精度の向上とを両立可能な撮像装置及びその制御方法を提供することにある。
本発明の目的を達成するための撮像装置は、撮影レンズと、光電変換素子を含む複数の画素が第1の方向と第1の方向に垂直な第2の方向に2次元配列されており、複数の画素には、撮影レンズの第1の領域及び第2の領域を通過した各被写体光が瞳分割されてそれぞれ入射する第1の画素及び第2の画素が含まれている撮像素子であって、第1及び第2の画素を第1の方向に第1の間隔で交互に配列させてなる第1の配列パターンと、第1の配列パターンを第1の方向に第1の間隔分ずらした第2の配列パターンを有する一対の配列パターンが第2の方向に第2の間隔で繰り返し配置されている撮像素子と、撮像素子の第1及び第2の方向に対して傾いた第3の方向及び第4の方向の画素ラインの中の同一画素ライン内に配置された第1及び第2の配列パターンの各第1の画素を第1の画素対としたときに、第1の画素対の画素値に基づき第1の画素対の中間位置における第1の補間画素の画素値を補間処理により求める第1の補間手段と、同一画素ライン内に配置された第1及び第2の配列パターンの各第2の画素を第2の画素対としたときに、第2の画素対の画素値に基づき第2の画素対の中間位置における第2の補間画素の画素値を補間処理により求める第2の補間手段と、少なくとも第1及び第2の補間手段により求められた第1及び第2の補間画素の画素値からそれぞれ第1の画像、第2の画像を生成し、第1及び第2の画像に基づき合焦確認画像を生成する合焦確認画像生成手段と、合焦確認画像生成手段により生成された合焦確認画像を表示する表示手段と、を備える。
本発明によれば、水平方向や垂直方向に補間処理を行う場合と比較して、常に近い位置にある第1及び第2の画素の画素値に基づき第1及び第2の補間画素の画素値をそれぞれ求めることができる。
合焦確認画像生成手段は、第1及び第2の補間手段により求められた第1及び第2の画素の画素値のみに基づいて合焦確認画像を生成することが好ましい。ジャギーやぼけが低減された合焦確認画像が得られる。
複数の画素は、第1及び第2の画素と、第1及び第2の領域を通過した各被写体光が瞳分割されずにそれぞれ入射する第3の画素とを含み、第3の画素の画素値に基づき、第3の画像を生成する第3の画像生成手段と、第3の画像生成手段により生成された第3の画像を表示手段に表示させ、かつ第3の画像の表示領域内に合焦確認画像を表示させる表示制御手段と、を備えることが好ましい。これにより、第3の画像を見ながらフォーカス操作を行うことができる。
第1及び第2の配列パターンのそれぞれの第1の画素間に位置する第3の補間画素の画素値を、これら第1の画素の画素値に基づき決定し、第2の画素間に位置する第4の補間画素の画素値を、これら第2の画素の画素値に基づき決定する第3の補間手段と、第1及び第2の配列パターンの一方の第1の画素間に位置する第5の補間画素の画素値を、第5の補間画素と同一の第2の方向の画素ライン内に配置された第1の画素値に基づき決定し、一方の第2の画素間に位置する第6の補間画素の画素値を、第6の補間画素と同一の第2の方向の画素ライン内に配置された第2の画素値に基づき決定する第4の補間手段と、第3の画素の画素値に基づき、第3の画素の相関性の高い方向及び相関性の強度を判別する判別手段と、判別手段の判別結果に基づき、第1及び第2の補間手段、第3の補間手段、及び第4の補間手段の中から判別結果に対応するものを選択して補間処理を実行させる補間制御手段と、を備えることが好ましい。これにより、第1の方向または第2の方向の信号相関が極めて強い場合でも合焦確認画像のぼけやジャギーの発生を抑えることができる。
第2の配列パターンは、第1の配列パターンに対して第2の方向に第1の間隔をあけて配置されていることが好ましい。これにより、第3の方向及び第4の方向が第1の方向及び第2の方向に対してそれぞれ±45°傾いた方向に設定される。
複数の画素に含まれる欠陥画素を検出する欠陥画素検出手段を備え、第1の補間手段は、欠陥画素検出手段の検出結果に基づき、第1の画素対の一方が欠陥画素である場合に、第1の画素対の他方の画素値を第1の補間画素の画素値として決定し、第2の補間手段は、欠陥画素検出手段の検出結果に基づき、第2の画素対の一方が欠陥画素である場合に、第2の画素対の他方の画素値を第1の補間画素の画素値として決定することが好ましい。これにより、第1及び第2の画素が欠陥画素であったとしても、合焦確認画像のぼけやジャギーの発生を防止することができる。
第1の補間手段は、欠陥画素検出手段の検出結果に基づき、第1の方向に沿って第N(Nは2以上の自然数)番目に配置された第1の画素対の両方が欠陥画素である場合に、第(N−1)番目及び第(N+1)番目の第1の画素対にそれぞれ対応する第1の補間画素の画素値を求めて、これら第1の補間画素の画素値の平均値を第N番目の第1の画素対に対応する第1の補間画素の画素値として決定し、第2の補間手段は、欠陥画素検出手段の検出結果に基づき、第N番目に配置された第2の画素対の両方が欠陥画素である場合に、第(N−1)番目及び第(N+1)番目の第2の画素対にそれぞれ対応する第2の補間画素の画素値を求めて、これら第2の補間画素の画素値の平均値を第N番目の第2の画素対に対応する第2の補間画素の画素値として決定することが好ましい。これにより、第1及び第2の画素が欠陥画素であったとしても、合焦確認画像のぼけやジャギーの発生を防止することができる。
撮影レンズの第1の領域及び第2の領域は、第2の方向に平行な第1直線に対して対称な領域であることが好ましい。
合焦確認画像は、第1の画像と第2の画像とを第2の方向に並べて配置してなる画像であることが好ましい。
撮影レンズには、フォーカスレンズが含まれており、マニュアルフォーカス操作を受けてフォーカスレンズを撮影レンズの光軸方向に移動させるレンズ移動機構を備えることが好ましい。
また、本発明の撮像装置の制御方法は、撮影レンズと、光電変換素子を含む複数の画素が第1の方向と第1の方向に垂直な第2の方向に2次元配列されており、複数の画素には、撮影レンズの第1の領域及び第2の領域を通過した各被写体光が瞳分割されてそれぞれ入射する第1の画素及び第2の画素が含まれている撮像素子であって、第1及び第2の画素を第1の方向に第1の間隔で交互に配列させてなる第1の配列パターンと、第1の配列パターンを第1の方向に第1の間隔分ずらした第2の配列パターンとを有する一対の配列パターンが第2の方向に第2の間隔で繰り返し配置されている撮像素子と、を備える撮像装置の制御方法において、撮像素子の第1及び第2の方向に対して傾いた第3の方向及び第4の方向の画素ラインの中の同一画素ライン内に配置された第1及び第2の配列パターンの各第1の画素を第1の画素対としたときに、第1の画素対の画素値に基づき第1の画素対の中間位置における第1の補間画素の画素値を補間処理により求める第1の補間ステップと、同一画素ライン内に配置された第1及び第2の配列パターンの各第2の画素を第2の画素対としたときに、第2の画素対の画素値に基づき第2の画素対の中間位置における第2の補間画素の画素値を補間処理により求める第2の補間ステップと、少なくとも第1及び第2の補間ステップで求められた第1及び第2の補間画素の画素値からそれぞれ第1の画像、第2の画像を生成し、第1及び第2の画像に基づき合焦確認画像を生成する合焦確認画像生成ステップと、合焦確認画像生成ステップで生成された合焦確認画像を表示する表示ステップと、を有する。
本発明の撮像装置及びその制御方法は、撮像素子の第1及び第2の方向に対して傾いた第3の方向及び第4の方向の画素ラインの中の同一画素ライン内に配置された第1及び第2の画素対の画素値に基づき、第1及び第2の補間画素の画素値をそれぞれ求めているので、水平方向や垂直方向に補間処理を行う場合と比較して、常に近い位置にある第1及び第2の画素の画素値に基づき第1及び第2の補間画素の画素値をそれぞれ求めることができる。これにより、高周波の被写体を撮像したときにジャギーの発生を低減させることができる。また、高周波の被写体を撮像したときの撮像信号のぼけを低減させることができる。その結果、合焦確認画像の境界やずれが明瞭に表示されるので、合焦精度を向上させることができる。
図1はデジタルカメラの正面斜視図である。 図2はデジタルカメラの背面斜視図である。 図3はデジタルカメラの電気的構成を示すブロック図である。 図4はカラー撮像素子の正面図である。 図5は第1及び第2の位相差画素の配列を説明するための説明図である。 図6は第1及び第2の位相差画素の断面図である。 図7はカラー撮像素子に入射する被写体光を説明するための説明図である。 図8は画像処理回路の機能ブロック図である。 図9は斜め方向の画素補間処理を説明するための説明図である。 図10は図9中の第1の補間画素の画素値の算出を説明するための説明図である。 図11は図9中の第2の補間画素の画素値の算出を説明するための説明図である。 図12はスプリットイメージデータを説明するための説明図である。 図13はフォーカスレンズが合焦位置にセットされていない場合のスプリットイメージデータを説明するための説明図である。 図14は第1実施形態のデジタルカメラの撮影処理の流れを示すフローチャートである。 図15は本発明の効果を説明するための説明図である。 図16は第2実施形態のデジタルカメラの電気的構成を示すブロック図である。 図17は第2実施形態のデジタルカメラの撮影処理の流れを示すフローチャートである。 図18は第2実施形態の補間処理の流れを説明するためのフローチャートである。 図19は第3実施形態のデジタルカメラの電気的構成を示すブロック図である。 図20は第1の画素対の一方、または第2の画素対の一方が欠陥画素である場合の斜め補間処理を説明するための説明図である。 図21は第1の画素対の両方、または第2の画素対の両方が欠陥画素である場合の斜め補間処理を説明するための説明図である。 図22は第1及び第2の位相差画素の画素値と、第1及び第2の補間画素の画素値とを用いてスプリットイメージデータを生成する他実施形態を説明するための説明図である。 図23はカラー撮像素子の全ての画素が第1及び第2の位相差画素で構成されている他実施形態を説明するための説明図である。 図24はスマートフォンの斜視図である。 図25はスマートフォンの電気的構成を示すブロック図である。 図26は第1及び第2の配列パターンがそれぞれ1種類の位相差画素で構成されている従来のカラー撮像素子の正面図である。 図27は水平方向に高周波の被写体を説明するための説明図である。 図28は垂直方向に高周波の被写体を説明するための説明図である。 図29は第1の位相差画素をW字状に配列した場合における、第1の補間画素の画素値の算出を説明するための説明図である。 図30は第2の位相差画素をM字状に配列した場合における、第1の補間画素の画素値の算出を説明するための説明図である。
[第1実施形態のデジタルカメラ]
図1に示すように、デジタルカメラ2は本発明の撮像装置に相当するものである。このデジタルカメラ2のカメラ本体2aの前面には、レンズ鏡筒3、ストロボ発光部5などが設けられている。カメラ本体2aの上面には、シャッタボタン6、電源スイッチ7などが設けられている。レンズ鏡筒3の外周面には、マニュアルフォーカス(以下、単にMFという)操作に用いられるフォーカスリング(レンズ移動機構)3aが回転自在に取り付けられている。
図2に示すように、カメラ本体2aの背面には表示部(表示手段)8、操作部9が設けられている。表示部8は、撮影待機状態時には電子ビューファインダとして機能し、ライブビュー画像(スルー画ともいう)を表示する。また、画像再生時の表示部8には、メモリカード10に記録されている画像データに基づき画像が再生表示される。
操作部9は、モード切替スイッチ、十字キー、実行キーなどから構成されている。モード切替スイッチは、デジタルカメラ2の動作モードを切り替える際に操作される。デジタルカメラ2は、被写体を撮像して撮影画像を得る撮影モード、撮影画像を再生表示する再生モードなどを有する。また、撮影モードには、オートフォーカス(以下、単にAFという)を行うAFモード、及びMF操作を行うMFモードがある。
十字キーや実行キーは、表示部8にメニュー画面や設定画面を表示したり、これらメニュー画面や設定画面内に表示されるカーソルを移動したり、デジタルカメラ2の各種設定を確定したりする際などに操作される。
カメラ本体2aの底面には、図示は省略するが、メモリカード10が装填されるカードスロットと、このカードスロットの開口を開閉する装填蓋とが設けられている。
図3に示すように、デジタルカメラ2のCPU11は、操作部9からの制御信号に基づき、メモリ13から読み出した各種プログラムやデータを逐次実行して、デジタルカメラ2の各部を統括的に制御する。なお、メモリ13のRAM領域は、CPU11が処理を実行するためのワークメモリや、各種データの一時保管先として機能する。
レンズ鏡筒3には、ズームレンズ15及びフォーカスレンズ16を含む撮影レンズ17、メカシャッタ18などが組み込まれている。ズームレンズ15及びフォーカスレンズ16は、それぞれズーム機構19、フォーカス機構20により駆動され、撮影レンズ17の光軸Oに沿って前後移動される。ズーム機構19及びフォーカス機構20は、ギアやモータなどで構成されている。また、フォーカス機構20は、図示しないギアを介してフォーカスリング3aと接続している。このため、フォーカス機構20は、MFモード時にフォーカスリング3aが回転操作(本発明のマニュアルフォーカス操作)されることに伴い、フォーカスレンズ16を光軸Oの方向(以下、光軸方向という)に沿って移動させる。
メカシャッタ18は、カラー撮像素子23への被写体光の入射を阻止する閉じ位置と、被写体光の入射を許容する開き位置との間で移動する可動部(図示は省略)を有する。メカシャッタ18は、可動部を各位置に移動させることにより、撮影レンズ17からカラー撮像素子23へと至る光路を開放/遮断する。また、メカシャッタ18には、カラー撮像素子23に入射する被写体光の光量を制御する絞りが含まれている。メカシャッタ18、ズーム機構19、及びフォーカス機構20は、レンズドライバ25を介してCPU11によって動作制御される。
メカシャッタ18の背後には、カラー撮像素子23が配置されている。カラー撮像素子23は、撮影レンズ17等を通過した被写体光を電気的な出力信号に変換して出力する。なお、カラー撮像素子23としては、CCD(Charge Coupled Device)型撮像素子、CMOS(Complementary Metal Oxide Semiconductor)型撮像素子などの各種類の撮像素子を用いることができる。撮像素子ドライバ27は、CPU11の制御の下でカラー撮像素子23の駆動を制御する。
画像処理回路29は、カラー撮像素子23からの出力信号に対して階調変換、ホワイトバランス補正、γ補正処理などの各種処理を施して撮影画像データを生成する。また、画像処理回路29は、MFモード時には、撮影画像データの他にMF操作用のスプリットイメージデータを生成する。撮影画像データやスプリットイメージデータは、メモリ13のVRAM領域(VRAMを別途設けても可)に一時的に格納される。VRAM領域は、連続した2フィールド画分を記憶するライブビュー画像用のメモリエリアを有しており、撮影画像データやスプリットイメージデータを逐次上書き格納する。
圧縮伸長処理回路31は、シャッタボタン6が押下操作されたときに、VRAM領域に格納された撮影画像データに対して圧縮処理を施す。また、圧縮伸長処理回路31は、メディアI/F32を介してメモリカード10から得られた圧縮画像データに対して伸長処理を施す。メディアI/F32は、メモリカード10に対する撮影画像データの記録及び読み出しなどを行う。
表示制御部33は、撮影モード時にはVRAM領域に格納された撮影画像データやスプリットイメージデータを読み出して表示部8へ出力する。また、表示制御部33は、再生モード時には圧縮伸長処理回路31で伸長された撮影画像データを表示部8へ出力する。
<カラー撮像素子の構成>
図4に示すように、カラー撮像素子23の撮像面上には、赤(R)色のR画素35と、緑(G)色のG画素36と、青(B)色のB画素37とが2次元配列されている。RGB画素35〜37は、本発明の第3の画素に相当するものであり、光電変換素子39(図6参照)と、光電変換素子39の上方に配置された3原色のいずれかのカラーフィルタ40(図6参照)とを含んで構成されている。R画素35、G画素36、B画素37の各光電変換素子39上には、それぞれR色,G色,B色のカラーフィルタ40が設けられる。ここで「〜上」、「上方」とは、図6中の半導体基板45からマイクロレンズ49に向かう方向(図中上方向)を指す。
カラー撮像素子23のカラーフィルタ配列(画素配列)は、下記の特徴(1)、(2)、(3)、(4)、(5)、及び(6)を有している。
〔特徴(1)〕
カラーフィルタ配列は、6×6画素に対応する正方配列パターンからなる基本配列パターンPを含み、この基本配列パターンPが水平方向及び垂直方向に繰り返し配置されている。このようにRGBのカラーフィルタ40が所定の周期性をもって配列されているため、従来知られているランダム配列と比較して、カラー撮像素子23から読み出されるR、G、B信号の画素補間処理(同時化処理またはデモザイク処理ともいう)等を行う際に、繰り返しパターンに従って処理を行うことができる。また、基本配列パターンPの単位で間引き処理して画像を縮小する場合に、間引き処理後のカラーフィルタ配列を間引き処理前の配列と同じにすることで、共通の処理回路を用いることができる。
〔特徴(2)〕
カラーフィルタ配列は、輝度信号を得るために最も寄与する色(この実施形態では、Gの色)に対応するG色のカラーフィルタが、カラーフィルタ配列の水平、垂直、及び斜め方向(斜め右上及び斜め左下方向、斜め右下及び斜め左上方向)方向の各フィルタライン内に1つ以上配置されている。これにより、高周波領域での画素補間処理の再現精度を向上させることができる。
〔特徴(3)〕
基本配列パターンPは、G画素36の画素数の比率が他の色のR画素35、B画素37の各々の画素数の比率よりも大きくなる。これにより、画素補間処理時におけるエリアシングが抑制されるとともに、高周波再現性が向上する。
〔特徴(4)〕
カラーフィルタ配列は、G色以外の2色以上の他の色(この実施形態では、R,Bの色)に対応するR色及びB色のカラーフィルタ40が、基本配列パターンP内においてカラーフィルタ配列の水平、及び垂直方向の各ライン内にそれぞれ1つ以上配置されている。これにより、偽色(色モワレ)の発生を低減することができる。その結果、偽色の発生を抑制するための光学ローパスフィルタを撮影レンズ17の入射面から撮像面までの光路に配置しないようにでき、または光学ローパスフィルタを適用する場合でも偽色の発生を防止するための高周波数成分をカットする働きの弱いものを適用することができる。このため、解像度を損なわないようにすることができる。
〔特徴(5)〕
カラーフィルタ配列は、G色のカラーフィルタ40が設けられた2×2のG画素36に対応する正方配列41を含んでいる。このような2×2のG画素36を取り出し、水平方向のG画素36の画素値の差分絶対値、垂直方向のG画素36の画素値の差分絶対値、斜め方向のG画素36の画素値の差分絶対値を求めることで、水平方向、垂直方向、及び斜め方向のうち、差分絶対値の小さい方向に相関があると判断することができる。すなわち、このカラーフィルタ配列によれば、正方配列41内の最小画素間隔のG画素36の情報を使用して、水平方向、垂直方向、及び斜め方向のうちの相関の高い方向判別ができる。この方向判別結果は、画素補間処理に使用することができる。
〔特徴(6)〕
基本配列パターンPは、その中心に対して点対称になっている。また、基本配列パターンP内の4つの3×3のサブ配列も、それぞれ中心のG色のカラーフィルタ40に対して点対称になっている。このような対称性により、後段の処理回路の回路規模を小さくしたり、簡略化したりすることが可能になる。
〔位相差画素〕
カラー撮像素子23の撮像面の一部の領域(例えば中央領域)上には、一部のG画素36の代わりに、第1の位相差画素36a(図中「G1」で表示)、第2の位相差画素36b(図中「G2」で表示)が設けられている。第1及び第2の位相差画素36a,36bは、本発明の第1の画素、第2の画素に相当するものである。
図5に示すように、カラー撮像素子23の撮像面には、第1の配列パターン42と第2の配列パターン43とを有する一対の配列パターン44が設けられている。第1の配列パターン42には、第1の位相差画素36a及び第2の位相差画素36bが水平方向(第1の方向)に3画素間隔(第1の間隔)で交互に配列されている。第2の配列パターン43は、第1の配列パターン42を水平方向に3画素間隔分ずらしたものである。
このような一対の配列パターン44では、第1の位相差画素36aがW字状に配置され、第2の位相差画素36bがM字状に配置される。これにより、カラー撮像素子23の撮像面の水平及び垂直方向に対して傾いた斜め(NE,NW)方向の画素ラインLNE,LNWの中の同一画素ライン内に第1及び第2の配列パターン42,43の第1の位相差画素36aがそれぞれ配置される。また、画素ラインLNE,LNWの中の同一画素ライン内に第1及び第2の配列パターン42,43の第2の位相差画素36bがそれぞれ配置される。
ここで、RGB画素35〜37及び第1及び第2の位相差画素36a,36bが正方形状であるので、NE方向及びNW方向は水平方向、垂直方向に対してそれぞれ45°の方向となる。この角度は、各画素の水平方向や垂直方向の各辺の長さの増減に応じて増減し得る。例えば、正方形状以外の矩形状の画素を用いた場合には、その対角線方向が斜め(NE,NW方向)となる。また、各画素が正方形状以外の矩形状であっても、各画素を正方格子状に配置した場合には、NE方向及びNW方向は水平方向、垂直方向に対してそれぞれ45°の方向となる。
このような一対の配列パターン44は、垂直方向(第2の方向)に12画素間隔(第2の間隔)で繰り返し配置されている。
第1及び第2の位相差画素36a,36bの断面を示す図6の(A)部分,図6の(B)部分において、カラー撮像素子23の半導体基板45の表層には光電変換素子39がマトリックス状に形成されている。なお、半導体基板45には、図示は省略するが、各画素の駆動や信号出力に用いられる各種回路が設けられている。
各光電変換素子39上には遮光膜47が設けられている。遮光膜47は、第1の位相差画素36aの光電変換素子39の図中右半分の領域(以下、単に右領域という)を覆い、かつ第2の位相差画素36bの図中左半分の領域(以下、単に左領域という)を覆うように設けられている。これにより、第1の位相差画素36aの光電変換素子39の左領域のみが露呈し、かつ第2の位相差画素36bの光電変換素子39の右領域のみが露呈する。なお、図示は省略するが、RGB画素35〜37の光電変換素子39上には遮光膜47が設けられてはいない。
遮光膜47上には、図示しない平坦化層などを介してカラーフィルタ40が設けられている。第1及び第2の位相差画素36a,36bに対応する位置にはG色のカラーフィルタ40が設けられている。また、図示は省略するが、R、G、Bの各色の画素35〜37にそれぞれ対応する位置にR、G、Bの各色のカラーフィルタ40が設けられている。
各色のカラーフィルタ40上には、それぞれマイクロレンズ49が設けられている。なお、カラーフィルタ40とマイクロレンズ49との間にも透光性の平坦層などの各種層が設けられていてもよい。
第1の位相差画素36a上のマイクロレンズ49に、図中右斜め方向から入射した被写体光50R(図中、点線で表示)は、マイクロレンズ49により光電変換素子39の左領域に集光される。逆にマイクロレンズ49に図中左斜め方向に入射した被写体光50L(図中、実線で表示)は、遮光膜47により遮光されるので光電変換素子39の右領域には集光されない。
また、第2の位相差画素36b上のマイクロレンズ49に入射した被写体光50Lは、マイクロレンズ49により光電変換素子39の右領域に集光される。逆にマイクロレンズ49に入射した被写体光50Rは、遮光膜47により遮光されるので光電変換素子39の左領域には集光されない。
図7に示すように、被写体光50L,50Rは、撮影レンズ17(ズームレンズ15及びフォーカスレンズ16)の左領域17L、右領域17Rをそれぞれ通過している。なお、図面の煩雑化を防止するため両レンズ15,16は一体化して図示している。
図6に戻って、カラー撮像素子23に入射した被写体光が遮光膜47により瞳分割されることで、第1の位相差画素36aは被写体光50Rに対して感度が高くなり、逆に第2の位相差画素36bは被写体光50Lに対して感度が高くなる。なお、本実施形態では、遮光膜47が瞳分割を行う瞳分割部として機能しているが、例えば、マイクロレンズ49の位置を偏心させてもよい。
また、図示は省略するが、RGB画素35〜37上のマイクロレンズ49に入射した被写体光50Rは光電変換素子39の左領域に集光され、被写体光50Lは光電変換素子39の右領域に集光される。このため、RGB画素35〜37は、被写体光50L及び被写体光50Rの両方に対して感度が高くなる。
<画像処理回路の構成>
図8に示すように、画像処理回路29は、通常処理部(第3の画像生成手段)52と、画素補間処理部(第1の補間手段、第2の補間手段)53と、スプリットイメージ処理部(合焦確認画像生成手段)54とを有している。通常処理部52は、撮影モード時にRGB画素35〜37からの出力信号に基づき、フルカラーの撮影画像データ55を生成する。画素補間処理部53及びスプリットイメージ処理部54は、MFモード時に作動する。
図9及び図10の(A)部分,(B)部分に示すように、画素ラインLNE,LNWの中の同一画素ライン内に配置されている第1及び第2の配列パターン42,43の第1の位相差画素36aを第1の画素対57aとしたときに、画素補間処理部53は、第1の画素対57aの中間位置における第1の補間画素58a(図中「g1」で表示)の画素値を補間処理により求める。具体的に画素補間処理部53は、図中の矢印VNW,VSE及び矢印VNE,VSWに示すように、第1の画素対57aの両画素値に基づき、第1の補間画素58aの画素値を斜め(NE,NW)方向の補間処理を行って求める。ここでは、例えば第1の画素対57aの両画素値の平均値を第1の補間画素58aの画素値とする。
また、図9及び図11の(A)部分,(B)部分に示すように、画素ラインLNE,LNWの中の同一画素ライン内に配置されている第1及び第2の配列パターン42,43の第2の位相差画素36bを第2の画素対57bとしたときに、画素補間処理部53は、第2の画素対57bの中間位置における第2の補間画素58b(図中「g2」で表示)の画素値を補間処理により求める。具体的に画素補間処理部53は、図中の矢印VNW,VSEまたは矢印VNE,VSWに示すように、第2の画素対57bの両画素値に基づき、第2の補間画素58bの画素値を斜め(NE,NW)方向の補間処理を行って求める。ここでは、例えば第2の画素対57bの両画素値の平均値を第2の補間画素58aの画素値とする。
このような画素補間処理部53による補間処理により、同一の水平方向の画素ラインに沿って、第1及び第2の補間画素58a,58bの画素値がそれぞれ3画素間隔で求められる。画素補間処理部53は、第1及び第2の補間画素58a,58bの画素値をそれぞれスプリットイメージ処理部54へ出力する。
スプリットイメージ処理部54は、第1及び第2の補間画素58a,58bの画素値の輝度成分に基づき、被写体の中央領域(撮影画像の中央領域)に位置する白黒のスプリットイメージデータ(合焦確認画像)61を生成する。
図12に示すように、スプリットイメージ処理部54は、第1の補間画素58aの画素値の輝度成分に基づき、被写体の中央領域の図中上半分の領域をR視点側から見たときの白黒の第1の画像データ61Rを生成する。また、スプリットイメージ処理部54は、第2の補間画素58bの画素値の輝度成分に基づき、被写体の中央領域の図中下半分の領域をL視点側から見たときの白黒の第2の画像データ61Lを生成する。これにより、第1の画像データ61Rと第2の画像データ61Lとを含む白黒のスプリットイメージデータ61が得られる。なお、図中ではスプリットイメージデータ61のイメージを容易に把握できるように、スプリットイメージデータ61を撮影画像データ55に合成しているが、この合成は表示制御部33にて行われる。
撮影画像データ55及びスプリットイメージデータ61は、メモリ13のVRAM領域に一時的に格納される。表示制御部(表示制御手段)33は、メモリ13から撮影画像データ55及びスプリットイメージデータ61を読み出して、撮影画像データ55にスプリットイメージデータ61を合成した後に表示部8へ出力する。これにより、撮影画像データ55に基づくフルカラーの撮像画像内に、スプリットイメージデータ61に基づく白黒のスプリットイメージを表示したライブビュー画像が得られる。
第1の画像データ61Rと第2の画像データ61Lとは、フォーカスレンズ16の合焦状態に応じて図中左右方向にシフトする。この際の第1及び第2の画像データ61R,61L間のずれ量は、フォーカスレンズ16の焦点のずれ量に対応している。また、第1及び第2の画像データ61R,61Lは、フォーカスレンズ16が合焦しているときにずれ量がゼロ(ほぼゼロを含む)となる。
図13に示すように、フォーカスレンズ16の焦点がずれるほど、第1の画像データ61Rと第2の画像データ61Lとのずれ量も大きくなる。これにより、ユーザはライブビュー画像を確認しながらフォーカス調整を行うことができる。なお、図中では焦点が合っていない被写体を2点鎖線表示している。
<その他の構成>
なお、図示は省略するが、デジタルカメラ2にはオートフォーカス用のAF検出回路が設けられている。AF検出回路は、第1の位相差画素36aの出力信号により構成される画像と、第2の位相差画素36bの出力信号により構成される画像とを解析して、両画像のずれ方向及び両画像間のずれ量を検出することでフォーカス調整量(デフォーカス量ともいう)を求める。このフォーカス調整量に基づき、CPU11はレンズドライバ25及びフォーカス機構20によりフォーカスレンズ16を駆動して焦点調節を行う。このような位相差方式のAF処理については公知であるので、ここでは具体的な説明は省略する。
<第1実施形態のデジタルカメラの作用>
次に、図14を用いて上記構成のデジタルカメラ2の作用について説明を行う。操作部9にてデジタルカメラ2が撮影モードのMFモードに設定(ステップS1)されると、CPU11はレンズドライバ25を介してメカシャッタ18の動作を制御するとともに、撮像素子ドライバ27を介してカラー撮像素子23を駆動する(ステップS2)。なお、AFモードが設定された場合のデジタルカメラ2の動作は公知であるのでここでは具体的な説明は省略する。
カラー撮像素子23のRGB画素35〜37の画素値(出力信号)は、画像処理回路29の通常処理部52へ出力される(ステップS2−1でYES、ステップS3)。通常処理部52は、RGB画素35〜37の画素値に基づきフルカラーの撮影画像データ55を生成して、メモリ13のVRAM領域に格納する(ステップS4)。
一方、第1及び第2の位相差画素36a,36bの画素値(出力信号)は、画素補間処理部53に入力される(ステップS2−1でNO)。画素補間処理部53は、図9及び図10に示したように、一対の配列パターン44内の各第1の画素対57aの画素値に基づき、斜め方向の補間処理を行って、第1の補間画素58aの画素値を求める(ステップS5)。また、画素補間処理部53は、図9及び図11に示したように、一対の配列パターン44内の各第2の画素対57bの画素値に基づき、斜め方向の補間処理を行って、第2の補間画素58bの画素値を求める(ステップS5)。
以下同様に、画素補間処理部53は、撮像面内の全ての一対の配列パターン44について同様の処理を行って、第1及び第2の補間画素58a,58bの画素値を求める。そして、画素補間処理部53は、各補間画素58a,58bの画素値をスプリットイメージ処理部54へ出力する(ステップS6)。
スプリットイメージ処理部54は、個々の第1の補間画素58aの画素値の輝度成分に基づき第1の画像データ61Rを生成するとともに、個々の第2の補間画素58bの画素値の輝度成分に基づき第2の画像データ61Lを生成する。これにより、第1の画像データ61Rと第2の画像データ61Lとを含む白黒のスプリットイメージデータ61が生成される(ステップS7)。スプリットイメージデータ61は、メモリ13のVRAM領域に格納される。
表示制御部33は、メモリ13から撮影画像データ55及びスプリットイメージデータ61を読み出して合成した後に表示部8へ出力する。これにより、図12に示したようなフルカラーの撮影画像内に白黒のスプリットイメージを含んだライブビュー画像が表示部8に表示される(ステップS8)。
スプリットイメージデータ61の第1の画像データ61Rに基づく画像と第2の画像データ61Lに基づく画像、すなわち、スプリットイメージの上下画像は、図13に示したようにフォーカスレンズ16の合焦状態に応じて図中左右方向にシフトする。このため、ユーザは、フォーカスリング3aを回転操作してフォーカスレンズ16を光軸方向に沿って移動させる。フォーカスレンズ16が被写体に合焦する合焦位置に近づくのに伴って、スプリットイメージの上下画像のずれ量が次第に小さくなる。これにより、ユーザはライブビュー画像を確認しながらフォーカス調整を行うことができる。
フォーカスレンズ16が合焦位置にセットされると、スプリットイメージの上下画像のずれ量がゼロとなる。これにより、フォーカスレンズ16が被写体に合焦して、フォーカス調整が完了する(ステップS9)。以下、シャッタボタン6が押下操作されるまで、上述の処理が繰り返し実行される(ステップS9−1でNO)。
シャッタボタン6が押下されると(ステップS9−1でYES)、通常処理部52にて1フレーム分の撮影画像データ55が生成されてメモリ13のVRAM領域に一時的に格納される。この撮影画像データ55は、圧縮伸長処理回路31にて圧縮された後、メディアI/F32を介してメモリカード10に記録される(ステップS10)。以下、MFモードが終了するまで上述の処理が繰り返し実行される(ステップS10−1でYES)。
<第1実施形態のデジタルカメラの作用効果>
図15の(A)部分に示すように、本発明では、カラー撮像素子23の撮像面に一対の配列パターン44を配置して、第1及び第2の画素対57a,57bの画素値に基づき斜め方向の補間処理を行うことで第1及び第2の補間画素58a,58bの画素値を求めている。これにより、常に1.5画素分離れた位置にある各位相差画素36a,36bの画素値に基づき、各補間画素58a,58bの画素値が求められる。
一方、比較例を示す図15の(B)部分において、従来の水平方向(垂直方向も同様)の補間処理を行う場合には、前述したように補間の必要がない状態と、3画素分離れた位置にある各位相差画素36a,36bを用いて補間を行う状態とが切り替わる(図29及び図30参照)。このため、後者の状態の時に3画素分も離れた位置にある各位相差画素36a,36bの画素値を基に補間処理を行うので、高周波の被写体を撮像したときにジャギーの増加によりスプリットイメージの合焦精度が低下するおそれがある。
これに対して、本発明では、常に比較例よりも近い位置(本実施形態では1.5画素離れた位置)にある各位相差画素36a,36bの画素値を基に補間処理を行うことで、比較例の後者の状態よりもジャギーの発生を低減させることができる。このため、本発明では、比較例とは異なりジャギーが増加するような状態は発生しないので、水平方向及び垂直方向に高周波の被写体を撮像したときに比較例よりもジャギーの発生を低減させることができる。また、斜め方向に補間処理を行うので、垂直方向または水平方向に高周波の被写体を撮像したときの撮像信号のぼけを低減させることができる。これにより、本発明では、比較例よりもスプリットイメージの上下画像の境界やずれが明瞭に表示されるので、比較例よりもMF操作時の合焦精度を向上させることができる。
[第2実施形態のデジタルカメラ]
次に、図16を用いて本発明の第2実施形態のデジタルカメラ65について説明を行う。上記第1実施形態のデジタルカメラ2では、第1及び第2の画素対57a,57bの画素値に基づき常に斜め方向の補間処理を行うが、デジタルカメラ65では複数種類の補間処理の中から最適な補間処理を選択して実行する。
デジタルカメラ65は、画像処理回路29に判別部66、補間制御部67、及び補間処理部68が設けられている点を除けば、上記第1実施形態と基本的に同じ構成であるので、上記第1実施形態と機能・構成上同一のものについては、同一符号を付してその説明は省略する。
判別部66は、RGB画素35の相関性の高い方向及び相関性の強度を判別する。この判別部66は、RGB画素35〜37、例えば前述の正方配列41(図4参照)を構成するG画素36の画素値(出力信号)にフィルタFh、フィルタFvをそれぞれ畳み込み、フィルタFhの畳み込み結果RhとフィルタFvの畳み込み結果Rvとを下記の式(1)、式(2)に代入する。
100×Rh<Rv・・・(1)
Rh>100×Rv・・・(2)
上記式(1)が満たされる場合には、RGB画素35が垂直方向に相関性が高い、すなわち、撮像により得られた撮像信号が垂直方向高周波の被写体を撮像して得られた垂直方向高周波信号であると判別される。また、上記式(2)が満たされる場合には、RGB画素35が水平方向に相関性が高い、すなわち、撮像により得られた撮像信号が水平方向高周波の被写体を撮像して得られた水平方向高周波信号であると判別される。そして、上記式(1)及び式(2)のいずれも満たされない場合には、撮像により得られた撮像信号が垂直方向高周波信号及び水平方向高周波信号のいずれでもないと判別される。判別部66の判別結果(上記式(1)及び式(2)が満たされるか否か)は、補間制御部67へ出力される。
補間制御部67は、本発明の補間制御手段に相当するものであり、さらに前述の判別部66と共に本発明の判別手段として機能する。補間制御部67は、判別部66の判別結果に基づき、複数種類の補間処理の中から判別結果に対応する補間処理を選択して、この補間処理を補間処理部68に実行させる。補間制御部67は、上記式(1)が満たされる場合には水平方向補間処理を補間処理部68に実行させ、上記式(2)が満たされる場合には垂直方向補間処理を補間処理部68に実行させ、上記式(1)及び式(2)のいずれも満たされない場合には斜め方向補間処理を補間処理部68に実行させる。
補間処理部68には、水平方向補間処理部(第3の補間手段)70と、垂直方向補間処理部(第4の補間手段)71と、斜め方向補間処理部(第1及び第2の補間手段)72とが設けられている。
水平方向補間処理部70は、前述の図29、図30、及び図15の(B)部分に示したように、第1及び第2の配列パターン42,43内の各第1及び第2の位相差画素36a,36bの画素値に基づき水平方向補間処理を行う。具体的には、図中矢印V、Vで示すように、第1及び第2の配列パターン42,43内でそれぞれ第1の位相差画素36a間に位置する第1の補間画素58aの画素値を、この第1の補間画素58aの図中左側及び右側に位置する第1の位相差画素36aの画素値を用いて求める。また同様にして、各第2の位相差画素36b間に位置する第2の補間画素58bの画素値が求められる。この場合には、第1の補間画素58aが本発明の第3の補間画素に相当し、第2の補間画素58bが本発明の第4の補間画素に相当する。
垂直方向補間処理部71は、前述の図29、図30に示したように、第1及び第2の配列パターン42,43内の各第1及び第2の位相差画素36a,36bの画素値に基づき垂直方向補間処理を行う。具体的には、図中の矢印V,Vで示すように、第1及び第2の配列パターン42,43の一方の第1の位相差画素36a間に位置する第1の補間画素58aの画素値を、各配列パターン42,43の他方内でかつ第1の補間画素58aと同一の垂直方向の画素ライン内に位置する第1の位相差画素36aの画素値を用いて求める。また同様にして、各第2の位相差画素36b間に位置する第2の補間画素58bの画素値が求められる。この場合には、第1の補間画素58aが本発明の第5の補間画素に相当し、第2の補間画素58bが本発明の第6の補間画素に相当する。
斜め方向補間処理部72は、第1の実施形態の画素補間処理部53と同じものであり、前述の図9に示した斜め方向の補間処理を行う。
<第2実施形態のデジタルカメラの作用>
次に、図17及び図18を用いて上記構成のデジタルカメラ65の作用について説明を行う。なお、ステップS1からステップS4までの処理は、上記第1実施形態と同じであるので、ここでは具体的な説明を省略する。
図18において、判別部66は、ステップS3が実行されたときに、正方配列41を構成するG画素36の画素値にフィルタFh、フィルタFvをそれぞれ畳み込み、フィルタFhの畳み込み結果RhとフィルタFvの畳み込み結果Rvとを算出する(ステップS13,S14)。
次いで、判別部66は、畳み込み結果Rh,Rvをそれぞれ上記式(1)、式(2)に代入して、上記式(1)、式(2)がそれぞれ満たされるか否かを判別する(ステップS15,S16)。これにより、RGB画素35の相関性の高い方向及び相関性の強度を判別することができる。判別部66の判別結果は補間制御部67へ出力される。
補間制御部67は、式(1)が満たされる場合(ステップS15でYES)には撮像信号が垂直方向高周波信号であると判別して、水平方向補間処理部70を作動させて前述の水平方向補間処理を実行させる(ステップS17)。これにより、第1及び第2の補間画素58a,58bの画素値が求められる(図29及び図30参照)。
また、補間制御部67は、式(2)が満たされる場合(ステップS15でNO、ステップS16でYES)には撮像信号が水平方向高周波信号であると判別して、垂直方向補間処理部71を作動させて前述の垂直方向補間処理を実行させる(ステップS18)。これにより、第1及び第2の補間画素58a,58bの画素値が求められる(図29及び図30参照)。
さらに、補間制御部67は、式(1)及び(式2)が満たされない場合(ステップS15,S16でNO)には、撮像信号が水平方向高周波信号及び垂直方向高周波信号ではないと判別して、斜め方向補間処理部72を作動させて斜め方向補間処理を実行させる(ステップS19)。これにより、第1及び第2の補間画素58a,58bの画素値が求められる(図9参照)。
図17に戻って、水平方向補間処理または垂直方向補間処理が実行された場合には、第1及び第2の位相差画素36a,36bの画素値と、第1及び第2の補間画素58a,58bの画素値とがスプリットイメージ処理部54に出力される(ステップS21)。スプリットイメージ処理部54は、第1の位相差画素36aの画素値と第1の補間画素58aの画素値とに基づき第1の画像データ61Rを生成し、第2の位相差画素36bの画素値と第2の補間画素58bの画素値とに基づき第2の画像データ61Lを生成する。これにより、スプリットイメージデータ61が生成される(ステップS7)。
また、斜め補間処理が実行された場合には、第1実施形態と同様に、各補間画素58a,58bの画素値がスプリットイメージ処理部54に出力されて、このスプリットイメージ処理部54にてスプリットイメージデータ61が生成される(ステップS21,S7)。これ以降の処理については第1実施形態と基本的に同じであるので、説明は省略する。
このように第2実施形態では、RGB画素35の相関性の高い方向及び相関性の強度を判別した結果に基づいて最適な補間処理を選択するので、水平方向または垂直方向の信号相関が極めて強い場合でもスプリットイメージのぼけやジャギーの発生を抑えることができる。その結果、MF操作時の合焦精度を向上させることができる。なお、RGB画素35の相関性の高い方向及び相関性の強度を判別する方法は、前述の方法に限定されるものではなく、公知の各種方法を用いることができる。
[第3実施形態のデジタルカメラ]
次に、図19を用いて本発明の第3実施形態のデジタルカメラ75について説明を行う。上記第1の実施形態では全ての第1及び第2の位相差画素36a,36bが正常画素である場合について説明を行ったが、デジタルカメラ75では第1及び第2の位相差画素36a,36bが欠陥画素である場合に対応した斜め補間処理を行う。
デジタルカメラ75は、欠陥画素検出回路(欠陥画素検出手段)76と、画素補間処理部(第1及び第2の補間手段)77とを備える点を除けば、上記第1実施形態と基本的に同じ構成であるので、上記第1実施形態と機能・構成上同一のものについては、同一符号を付してその説明は省略する。
欠陥画素検出回路76は、各第1及び第2の位相差画素36a,36bの中から欠陥画素を検出する。なお、この欠陥画素の検出に先立って、例えばカラー撮像素子23の撮像面をメカシャッタ18で遮光した遮光状態下で、カラー撮像素子23による撮像が行われる。すなわち、遮光状態下でのカラー撮像素子23の各位相差画素36a,36bの画素値を求めておく。このようにして得られた各位相差画素36a,36bの画素値は、各位相差画素36a,36bの暗出力のレベルを示すものである。ここで、各位相差画素36a,36bの暗出力のレベルを求める方法は、上述の方法に限定されず、公知の各種方法を用いることができる。
欠陥画素検出回路76は、遮光状態下で得られた各位相差画素36a,36bの画素値が予め定めた範囲内になるか否かを判定し、この範囲外の値になる場合には欠陥画素であると判定する。これにより、各位相差画素36a,36bの中から欠陥画素を検出することができる。なお、欠陥画素の検出方法は上述の方法に限定されるものではなく、公知の各種方法を用いることができる。欠陥画素検出回路76による欠陥画素の検出結果は、画素補間処理部77に出力される。
画素補間処理部77は、第1実施形態の画素補間処理部53と基本的に同じものであり、第1及び第2の画素対57a,57b(図10及び図11参照)の各々の両方の画素が正常画素である場合には、第1実施形態と同様の斜め補間処理を行う(図9参照)。
これに対して図20に示すように、補間処理部77は、欠陥画素検出回路76の検出結果に基づき、第1の画素対57aの一方が欠陥画素(図中「×」で表示)である場合に、第1の画素対57aの他方の第1の位相差画素36aの画素値を第1の補間画素58aの画素値として決定する。また、補間処理部77は、第2の画素対57bの一方が欠陥画素である場合に、第2の画素対57bの他方の第2の位相差画素36bの画素値を第2の補間画素58bの画素値として決定する。
さらに図21に示すように、補間処理部77は、水平方向(図中左側から右側)に沿って第N番目(Nは2以上の自然数:本実施形態ではN=2)に配置された第1の画素対57aの両方が欠陥画素である場合に、第(N−1)番目及び第(N+1)番目の第1の画素対57aにそれぞれ対応する第1の補間画素58aの画素値を先に求める。そして、補間処理部77は、先に求めた両画素値の平均値を、第N番目の第1の補間画素58a(図中「g1’」で表示)の画素値として決定する。
また、補間処理部77は、第N番目に配置された第2の画素対57bの両方が欠陥画素である場合に、第(N−1)番目及び第(N+1)番目の第2の画素対57bにそれぞれ対応する第2の補間画素58bの画素値を先に求める。そして、補間処理部77は、先に求めた両画素値の平均値を第N番目の第2の補間画素58b(図中「g2’」で表示)の画素値として決定する。
なお、これ以降の処理は第1実施形態と基本的に同じであるので、具体的な説明は省略する。
このように第3実施形態のデジタルカメラ75では、第1及び第2の位相差画素36a,36bが欠陥画素であった場合には、欠陥画素を用いることなく第1及び第2の補間画素58a,58bの画素値を求めることができる。その結果、各位相差画素36a,36bが欠陥画素であったとしてもスプリットイメージのぼけやジャギーの発生を防止することができるので、MF操作時の合焦精度を向上させることができる。
[その他]
上記第1実施形態では、斜め補間処理により求められた第1及び第2の補間画素58a,58bの画素値に基づきスプリットイメージデータ61を生成しているが、例えば図22に示すように、各補間画素58a,58bの画素値と、各位相差画素36a,36bの画素値とに基づいてスプリットイメージデータ61を生成してもよい。なお、この場合に、各位相差画素36a,36bがそれぞれ6画素間隔で配置されているので、これに合わせて各補間画素58a,58bの画素値も6画素間隔で求めることが好ましい。
上記各実施形態では、カラー撮像素子23の撮像面にRGB画素35〜37と第1及び第2の位相差画素36a,36bが2次元配列されているが、例えば、図23に示すように、カラー撮像素子79の撮像面に第1及び第2の位相差画素36a,36bのみが2次元配列されている場合にも本発明を適用することができる。この場合に、カラー撮像素子79の撮像面には、第1の配列パターン80と第2の配列パターン81とを有する一対の配列パターン82が設けられており、かつこの一対の配列パターン82が垂直方向に複数配列されている。
第1の配列パターン80には、第1の位相差画素36a及び第2の位相差画素36bが水平方向に沿って交互に配列されている。第2の配列パターン81は、第1の配列パターン80を水平方向に1画素間隔分ずらしたものである。
このようなカラー撮像素子79を用いた場合でも、上記第1の実施形態と同様の斜め補間処理により、第1及び第2の補間画素58a,58bの画素値をそれぞれ求めることができる。また、撮像面の全ての画素が第1及び第2の位相差画素36a,36bで構成されているので、各位相差画素36a,36bの画素値に基づき立体視可能な視差画像データを生成することができる。なお、この場合に、前述の図12等に示した撮影画像データ55は、第1及び第2の位相差画素36a,36bのいずれか一方の画素値、あるいは両方の画素値を加算または平均した結果を基に生成される。
上記各実施形態では、第1及び第2の配列パターン42,43にて第1及び第2の位相差画素36a,36bがそれぞれ水平方向に3画素間隔で交互に配置され、かつ各配列パターン42,43が垂直方向に3画素間隔だけずらして配置されているが、これらの間隔は適宜変更してもよい。また、各配列パターン42,43にて各位相差画素36a,36bをα(αは1以上の自然数)画素間隔で交互に配置し、かつ各配列パターン42,43を垂直方向にβ(β≠α)画素間隔だけずらして配置してもよい。この場合の斜め補間の方向(第3の方向、第4の方向)は±45°以外の方向となる。
上記各実施形態では、一対の配列パターン44が垂直方向に12画素間隔で配置されているが、γ(γは1以上の自然数)画素間隔で配置してもよい。なお、例えばγ=βとなる場合には、垂直方向に並んだ2組の一対の配列パターン44の一方の第2の配列パターン43と、他方の第1の配列パターン42との間で斜め補間処理を行ってもよい。
上記各実施形態では、スプリットイメージデータ61として垂直方向(上下)に2分割されているものを例に挙げて説明を行ったが、本発明のスプリットイメージデータには、2つの位相差画像(第1の画像、第2の画像)を重畳して合成表示したときに、ピントがずれている場合には2重像として表示され、ピントが合った状態ではクリアに表示されるものが含まれる。
例えば、スプリットイメージデータ61が水平方向に2分割、斜め方向(NE,NW)に2分割されていてもよい。また、スプリットイメージデータ61を垂直方向または水平方向に短冊状に分割して、第1の補間画素58aの画素値に基づき生成した第1の画像データと第2の補間画素58bの画素値に基づき生成した第2の画像データとを交互に表示させるようにしてもよい。さらに、スプリットイメージデータ61を格子状に分割して、第1の画像データと第2の画像データとをそれぞれ市松模様(チェッカーパターン)状に並べて表示させてもよい。
上記各実施形態では、通常画素として3色のRGB画素について説明したが、例えばRGBの3原色+他の色(例えば、エメラルド(E))の4色の画素であっても良く、画素の種類は特に限定されない。また、本発明は、原色RGBの補色であるC(シアン)、M(マゼンタ)、Y(イエロー)の画素にも適用できる。また、上記各実施形態のうちの少なくとも2つを適宜組わせるようにしてもよい。
上記各実施形態では本発明の撮像装置としてデジタルカメラを例に挙げて説明を行ったが、例えば、撮影機能を有する携帯電話機やスマートフォン、PDA(Personal Digital Assistants)、タブレット型コンピュータ、携帯型ゲーム機にも本発明を適用することができる。以下、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
<スマートフォンの構成>
図24は、スマートフォン500の外観を示すものである。スマートフォン500は、平板状の筐体501を有している。筐体501の一方の面には、表示入力部502と、スピーカ503と、マイクロホン504、操作部505と、カメラ部506とを備えている。なお、筐体501の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成、折り畳み構造やスライド機構を有する構成を採用することもできる。
表示入力部502は、CPU507からの指令を受けた表示処理部508の制御により、画像(静止画像及び動画像)や文字情報などを表示する。また、表示入力部502は、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネル構造を有している。この表示入力部502は、表示パネル510と、操作パネル512とで構成されている。
表示パネル510は、LCD(Liquid Crystal Display)、OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル512は、光透過性を有しており、表示パネル510の表示面上に載置されている。この操作パネル512は、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号をスマートフォン500のCPUに出力する。CPUは、受信した検出信号に基づいて、表示パネル510上の操作位置(座標)を検出する。このような操作パネル512で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられる。
図25に示すように、スマートフォン500は、表示入力部502、スピーカ503、マイクロホン504、操作部505、カメラ部506、CPU507、表示処理部508の他に、無線通信部515と、通話部516と、記憶部517と、外部入出力部518と、GPS(Global Positioning System)受信部519と、モーションセンサ部520と、電源部521とを備える。
無線通信部515は、CPU507の指示に従って、移動通信網に収容された基地局装置に対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
通話部516は、スピーカ503やマイクロホン504を備え、マイクロホン504を通じて入力されたユーザの音声を音声データに変換してCPU507に出力したり、無線通信部515等で受信された音声データを復号してスピーカ503から出力する。
操作部505は、例えば押しボタン式のスイッチや十字キーなどを用いたハードウェアキーであり、ユーザからの指示を受け付ける。この操作部505は、例えば筐体501の表示部の下部や筐体501の側面に搭載される。
記憶部517は、CPU507の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータなどを記憶し、またストリーミングデータなどを一時的に記憶する。また、記憶部517は、スマートフォン内蔵の内部記憶部517aと着脱自在な外部メモリスロットを有する外部記憶部517bにより構成される。なお、内部記憶部517aと外部記憶部517bとしては、フラッシュメモリタイプ、ハードディスクタイプなどの公知の各種記憶媒体が用いられる。
外部入出力部518は、スマートフォン500に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等により直接的または間接的に接続するためのものである。
GPS受信部519は、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン500の緯度、経度、高度からなる位置を検出する。この検出結果はCPU507に出力される。
モーションセンサ部520は、例えば、3軸の加速度センサなどを備えており、スマートフォン500の物理的な動きを検出する。これにより、スマートフォン500の動く方向や加速度が検出される。この検出結果はCPU507に出力される。また、電源部521は、図示しないバッテリに蓄えられた電力をスマートフォン500の各部に供給する。
CPU507は、記憶部517から読み出した制御プログラムや制御データに従って動作し、スマートフォン500の各部を統括して制御する。また、CPU507は、表示パネル510に対する表示制御、操作部505や操作パネル512を通じたユーザ操作を検出する操作検出制御などを実行する。
表示制御の実行により、CPU507は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成するためのウィンドウを表示する。なお、スクロールバーとは、表示パネル510の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、CPU507は、操作部505を通じたユーザ操作を検出したり、操作パネル512を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
さらに、操作検出制御の実行によりCPU507は、操作パネル512に対する操作位置が、表示パネル510に重なる重畳部分(表示領域)か、それ以外の表示パネル510に重ならない外縁部分(非表示領域)かを判定し、操作パネル512の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、CPU507は、操作パネル512に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することができる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部506は、上記各実施形態のデジタルカメラと基本的に同じ構成であるので、上記各実施形態と同様の効果が得られる。なお、MF操作は、例えば表示入力部502や操作部505にて行えばよい。
2,65,75…デジタルカメラ,23,79…カラー撮像素子,29…画像処理回路,35…R画素,36…G画素,37…B画素,36a…第1の位相差画素,36b…第2の位相差画素,53,68,77…画素補間処理部,54…スプリットイメージ処理部,57a…第1の画素対,57b…第2の画素対,58a…第1の位相差画素,58b…第2の位相差画素,61…スプリットイメージデータ,66…判別部,67…補間制御部

Claims (11)

  1. 撮影レンズと、
    光電変換素子を含む複数の画素が第1の方向と前記第1の方向に垂直な第2の方向に2次元配列されており、前記複数の画素には、前記撮影レンズの第1の領域及び第2の領域を通過した各被写体光が瞳分割されてそれぞれ入射する第1の画素及び第2の画素が含まれている撮像素子であって、前記第1及び第2の画素を前記第1の方向に第1の間隔で交互に配列させてなる第1の配列パターンと、前記第1の配列パターンを前記第1の方向に前記第1の間隔分ずらした第2の配列パターンとを有する一対の配列パターンが前記第2の方向に第2の間隔で繰り返し配置されている撮像素子と、
    前記撮像素子の前記第1及び第2の方向に対して傾いた第3の方向及び第4の方向の画素ラインの中の同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第1の画素を第1の画素対としたときに、前記第1の画素対の画素値に基づき当該第1の画素対の中間位置における第1の補間画素の画素値を補間処理により求める第1の補間手段と、
    前記同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第2の画素を第2の画素対としたときに、前記第2の画素対の画素値に基づき当該第2の画素対の中間位置における第2の補間画素の画素値を補間処理により求める第2の補間手段と、
    前記第1及び第2の補間手段により求められた前記第1及び第2の補間画素の画素値にのみ基づいてそれぞれ第1の画像、第2の画像を生成し、前記第1及び第2の画像に基づき合焦確認画像を生成する合焦確認画像生成手段と、
    前記合焦確認画像生成手段により生成された前記合焦確認画像を表示する表示手段と、
    を備える撮像装置。
  2. 撮影レンズと、
    光電変換素子を含む複数の画素が第1の方向と前記第1の方向に垂直な第2の方向に2次元配列されており、前記複数の画素には、前記撮影レンズの第1の領域及び第2の領域を通過した各被写体光が瞳分割されてそれぞれ入射する第1の画素及び第2の画素が含まれている撮像素子であって、前記第1及び第2の画素を前記第1の方向に第1の間隔で交互に配列させてなる第1の配列パターンと、前記第1の配列パターンを前記第1の方向に前記第1の間隔分ずらした第2の配列パターンとを有する一対の配列パターンが前記第2の方向に第2の間隔で繰り返し配置されている撮像素子と、
    前記撮像素子の前記第1及び第2の方向に対して傾いた第3の方向及び第4の方向の画素ラインの中の同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第1の画素を第1の画素対としたときに、前記第1の画素対の画素値に基づき当該第1の画素対の中間位置における第1の補間画素の画素値を補間処理により求める第1の補間手段と、
    前記同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第2の画素を第2の画素対としたときに、前記第2の画素対の画素値に基づき当該第2の画素対の中間位置における第2の補間画素の画素値を補間処理により求める第2の補間手段と、
    少なくとも前記第1及び第2の補間手段により求められた前記第1及び第2の補間画素の画素値からそれぞれ第1の画像、第2の画像を生成し、前記第1及び第2の画像に基づき合焦確認画像を生成する合焦確認画像生成手段と、
    前記合焦確認画像生成手段により生成された前記合焦確認画像を表示する表示手段と、
    を備え、
    前記複数の画素は、前記第1及び第2の画素と、前記第1及び第2の領域を通過した各被写体光が瞳分割されずにそれぞれ入射する第3の画素とを含み、
    前記第3の画素の画素値に基づき、第3の画像を生成する第3の画像生成手段と、
    前記第3の画像生成手段により生成された前記第3の画像を前記表示手段に表示させ、かつ当該第3の画像の表示領域内に前記合焦確認画像を表示させる表示制御手段と、
    前記第1及び第2の配列パターンのそれぞれの前記第1の画素間に位置する第3の補間画素の画素値を、これら第1の画素の画素値に基づき決定し、前記第2の画素間に位置する第4の補間画素の画素値を、これら第2の画素の画素値に基づき決定する第3の補間手段と、
    前記第1及び第2の配列パターンの一方の前記第1の画素間に位置する第5の補間画素の画素値を、前記第5の補間画素と同一の前記第2の方向の画素ライン内に配置された前記第1の画素の画素値に基づき決定し、前記一方の前記第2の画素間に位置する第6の補間画素の画素値を、前記第6の補間画素と同一の前記第2の方向の画素ライン内に配置された前記第2の画素の画素値に基づき決定する第4の補間手段と、
    前記第3の画素の画素値に基づき、前記第3の画素の相関性の高い方向及び相関性の強度を判別する判別手段と、
    前記判別手段の判別結果に基づき、前記第1及び第2の補間手段、前記第3の補間手段、及び前記第4の補間手段の中から前記判別結果に対応するものを選択して補間処理を実行させる補間制御手段と、を備える撮像装置。
  3. 撮影レンズと、
    光電変換素子を含む複数の画素が第1の方向と前記第1の方向に垂直な第2の方向に2次元配列されており、前記複数の画素には、前記撮影レンズの第1の領域及び第2の領域を通過した各被写体光が瞳分割されてそれぞれ入射する第1の画素及び第2の画素が含まれている撮像素子であって、前記第1及び第2の画素を前記第1の方向に第1の間隔で交互に配列させてなる第1の配列パターンと、前記第1の配列パターンを前記第1の方向に前記第1の間隔分ずらした第2の配列パターンとを有する一対の配列パターンが前記第2の方向に第2の間隔で繰り返し配置されている撮像素子と、
    前記撮像素子の前記第1及び第2の方向に対して傾いた第3の方向及び第4の方向の画素ラインの中の同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第1の画素を第1の画素対としたときに、前記第1の画素対の画素値に基づき当該第1の画素対の中間位置における第1の補間画素の画素値を補間処理により求める第1の補間手段と、
    前記同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第2の画素を第2の画素対としたときに、前記第2の画素対の画素値に基づき当該第2の画素対の中間位置における第2の補間画素の画素値を補間処理により求める第2の補間手段と、
    少なくとも前記第1及び第2の補間手段により求められた前記第1及び第2の補間画素の画素値からそれぞれ第1の画像、第2の画像を生成し、前記第1及び第2の画像に基づき合焦確認画像を生成する合焦確認画像生成手段と、
    前記合焦確認画像生成手段により生成された前記合焦確認画像を表示する表示手段と、
    前記複数の画素に含まれる欠陥画素を検出する欠陥画素検出手段を備え、
    前記第1の補間手段は、前記欠陥画素検出手段の検出結果に基づき、前記第1の画素対の一方が前記欠陥画素である場合に、前記第1の画素対の他方の画素値を前記第1の補間画素の画素値として決定し、
    前記第2の補間手段は、前記欠陥画素検出手段の検出結果に基づき、前記第2の画素対の一方が前記欠陥画素である場合に、前記第2の画素対の他方の画素値を前記第1の補間画素の画素値として決定する撮像装置。
  4. 前記第1の補間手段は、前記欠陥画素検出手段の検出結果に基づき、前記第1の方向に沿って第N(Nは2以上の自然数)番目に配置された前記第1の画素対の両方が前記欠陥画素である場合に、第(N−1)番目及び第(N+1)番目の前記第1の画素対にそれぞれ対応する前記第1の補間画素の画素値を求めて、これら第1の補間画素の画素値の平均値を前記第N番目の前記第1の画素対に対応する前記第1の補間画素の画素値として決定し、
    前記第2の補間手段は、前記欠陥画素検出手段の検出結果に基づき、前記第N番目に配置された前記第2の画素対の両方が前記欠陥画素である場合に、第(N−1)番目及び第(N+1)番目の前記第2の画素対にそれぞれ対応する前記第2の補間画素の画素値を求めて、これら第2の補間画素の画素値の平均値を前記第N番目の前記第2の画素対に対応する前記第2の補間画素の画素値として決定する請求項記載の撮像装置。
  5. 前記第2の配列パターンは、前記第1の配列パターンに対して前記第2の方向に前記第1の間隔をあけて配置されている請求項1から4のいずれか1項記載の撮像装置。
  6. 前記撮影レンズの第1の領域及び第2の領域は、前記第2の方向に平行な第1直線に対して対称な領域である請求項1からのいずれか1項記載の撮像装置。
  7. 前記合焦確認画像は、前記第1の画像と前記第2の画像とを前記第2の方向に並べて配置してなる画像である請求項記載の撮像装置。
  8. 前記撮影レンズには、フォーカスレンズが含まれており、
    マニュアルフォーカス操作を受けて前記フォーカスレンズを前記撮影レンズの光軸方向に移動させるレンズ移動機構を備える請求項1からのいずれか1項記載の撮像装置。
  9. 撮影レンズと、光電変換素子を含む複数の画素が第1の方向と前記第1の方向に垂直な第2の方向に2次元配列されており、前記複数の画素には、前記撮影レンズの第1の領域及び第2の領域を通過した各被写体光が瞳分割されてそれぞれ入射する第1の画素及び第2の画素が含まれている撮像素子であって、前記第1及び第2の画素を前記第1の方向に第1の間隔で交互に配列させてなる第1の配列パターンと、前記第1の配列パターンを前記第1の方向に前記第1の間隔分ずらした第2の配列パターンとを有する一対の配列パターンが前記第2の方向に第2の間隔で繰り返し配置されている撮像素子と、を備える撮像装置の制御方法において、
    前記撮像素子の前記第1及び第2の方向に対して傾いた第3の方向及び第4の方向の画素ラインの中の同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第1の画素を第1の画素対としたときに、前記第1の画素対の画素値に基づき当該第1の画素対の中間位置における第1の補間画素の画素値を補間処理により求める第1の補間ステップと、
    前記同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第2の画素を第2の画素対としたときに、前記第2の画素対の画素値に基づき当該第2の画素対の中間位置における第2の補間画素の画素値を補間処理により求める第2の補間ステップと、
    前記第1及び第2の補間ステップで求められた前記第1及び第2の補間画素の画素値にのみ基づいてそれぞれ第1の画像、第2の画像を生成し、前記第1及び第2の画像に基づき合焦確認画像を生成する合焦確認画像生成ステップと、
    前記合焦確認画像生成ステップで生成された前記合焦確認画像を表示する表示ステップと、
    を有する撮像装置の制御方法。
  10. 撮影レンズと、光電変換素子を含む複数の画素が第1の方向と前記第1の方向に垂直な第2の方向に2次元配列されており、前記複数の画素には、前記撮影レンズの第1の領域及び第2の領域を通過した各被写体光が瞳分割されてそれぞれ入射する第1の画素及び第2の画素が含まれている撮像素子であって、前記第1及び第2の画素を前記第1の方向に第1の間隔で交互に配列させてなる第1の配列パターンと、前記第1の配列パターンを前記第1の方向に前記第1の間隔分ずらした第2の配列パターンとを有する一対の配列パターンが前記第2の方向に第2の間隔で繰り返し配置されている撮像素子と、を備える撮像装置の制御方法において、
    前記撮像素子の前記第1及び第2の方向に対して傾いた第3の方向及び第4の方向の画素ラインの中の同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第1の画素を第1の画素対としたときに、前記第1の画素対の画素値に基づき当該第1の画素対の中間位置における第1の補間画素の画素値を補間処理により求める第1の補間ステップと、
    前記同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第2の画素を第2の画素対としたときに、前記第2の画素対の画素値に基づき当該第2の画素対の中間位置における第2の補間画素の画素値を補間処理により求める第2の補間ステップと、
    少なくとも前記第1及び第2の補間ステップで求められた前記第1及び第2の補間画素の画素値からそれぞれ第1の画像、第2の画像を生成し、前記第1及び第2の画像に基づき合焦確認画像を生成する合焦確認画像生成ステップと、
    前記合焦確認画像生成ステップで生成された前記合焦確認画像を表示する表示ステップと、
    を備え、
    前記複数の画素は、前記第1及び第2の画素と、前記第1及び第2の領域を通過した各被写体光が瞳分割されずにそれぞれ入射する第3の画素とを含み、
    前記第3の画素の画素値に基づき、第3の画像を生成する第3の画像生成ステップと、
    前記第3の画像生成ステップにより生成された前記第3の画像を表示させ、かつ当該第3の画像の表示領域内に前記合焦確認画像を表示させる表示制御ステップと、
    前記第1及び第2の配列パターンのそれぞれの前記第1の画素間に位置する第3の補間画素の画素値を、これら第1の画素の画素値に基づき決定し、前記第2の画素間に位置する第4の補間画素の画素値を、これら第2の画素の画素値に基づき決定する第3の補間ステップと、
    前記第1及び第2の配列パターンの一方の前記第1の画素間に位置する第5の補間画素の画素値を、前記第5の補間画素と同一の前記第2の方向の画素ライン内に配置された前記第1の画素の画素値に基づき決定し、前記一方の前記第2の画素間に位置する第6の補間画素の画素値を、前記第6の補間画素と同一の前記第2の方向の画素ライン内に配置された前記第2の画素の画素値に基づき決定する第4の補間ステップと、
    前記第3の画素の画素値に基づき、前記第3の画素の相関性の高い方向及び相関性の強度を判別する判別ステップと、
    前記判別ステップの判別結果に基づき、前記第1及び第2の補間ステップ、前記第3の補間ステップ、及び前記第4の補間ステップの中から前記判別結果に対応するものを選択して補間処理を実行させる補間制御ステップと、を有する撮像装置の制御方法。
  11. 撮影レンズと、光電変換素子を含む複数の画素が第1の方向と前記第1の方向に垂直な第2の方向に2次元配列されており、前記複数の画素には、前記撮影レンズの第1の領域及び第2の領域を通過した各被写体光が瞳分割されてそれぞれ入射する第1の画素及び第2の画素が含まれている撮像素子であって、前記第1及び第2の画素を前記第1の方向に第1の間隔で交互に配列させてなる第1の配列パターンと、前記第1の配列パターンを前記第1の方向に前記第1の間隔分ずらした第2の配列パターンとを有する一対の配列パターンが前記第2の方向に第2の間隔で繰り返し配置されている撮像素子と、を備える撮像装置の制御方法において、
    前記撮像素子の前記第1及び第2の方向に対して傾いた第3の方向及び第4の方向の画素ラインの中の同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第1の画素を第1の画素対としたときに、前記第1の画素対の画素値に基づき当該第1の画素対の中間位置における第1の補間画素の画素値を補間処理により求める第1の補間ステップと、
    前記同一画素ライン内に配置された前記第1及び第2の配列パターンの各前記第2の画素を第2の画素対としたときに、前記第2の画素対の画素値に基づき当該第2の画素対の中間位置における第2の補間画素の画素値を補間処理により求める第2の補間ステップと、
    少なくとも前記第1及び第2の補間ステップで求められた前記第1及び第2の補間画素の画素値からそれぞれ第1の画像、第2の画像を生成し、前記第1及び第2の画像に基づき合焦確認画像を生成する合焦確認画像生成ステップと、
    前記合焦確認画像生成ステップで生成された前記合焦確認画像を表示する表示ステップと、
    前記複数の画素に含まれる欠陥画素を検出する欠陥画素検出ステップと、
    を備え、
    前記第1の補間ステップは、前記欠陥画素検出ステップの検出結果に基づき、前記第1の画素対の一方が前記欠陥画素である場合に、前記第1の画素対の他方の画素値を前記第1の補間画素の画素値として決定し、
    前記第2の補間ステップは、前記欠陥画素検出ステップの検出結果に基づき、前記第2の画素対の一方が前記欠陥画素である場合に、前記第2の画素対の他方の画素値を前記第1の補間画素の画素値として決定する撮像装置の制御方法。
JP2014536832A 2012-09-19 2013-09-13 撮像装置及びその制御方法 Expired - Fee Related JP5937690B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012205743 2012-09-19
JP2012205743 2012-09-19
PCT/JP2013/074830 WO2014046037A1 (ja) 2012-09-19 2013-09-13 撮像装置及びその制御方法

Publications (2)

Publication Number Publication Date
JP5937690B2 true JP5937690B2 (ja) 2016-06-22
JPWO2014046037A1 JPWO2014046037A1 (ja) 2016-08-18

Family

ID=50341350

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014536832A Expired - Fee Related JP5937690B2 (ja) 2012-09-19 2013-09-13 撮像装置及びその制御方法

Country Status (4)

Country Link
US (1) US9344620B2 (ja)
JP (1) JP5937690B2 (ja)
CN (1) CN104620572B (ja)
WO (1) WO2014046037A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5753321B2 (ja) * 2012-09-19 2015-07-22 富士フイルム株式会社 撮像装置及び合焦確認表示方法
JP5777825B2 (ja) * 2012-12-05 2015-09-09 富士フイルム株式会社 撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体
WO2014087804A1 (ja) * 2012-12-07 2014-06-12 富士フイルム株式会社 撮像装置、画像処理方法及びプログラム
WO2014136570A1 (ja) * 2013-03-05 2014-09-12 富士フイルム株式会社 撮像装置、画像処理装置、画像処理方法及びプログラム
JP5981026B2 (ja) * 2013-03-29 2016-08-31 富士フイルム株式会社 画像処理装置、撮像装置、プログラム及び画像処理方法
US9692992B2 (en) * 2013-07-01 2017-06-27 Omnivision Technologies, Inc. Color and infrared filter array patterns to reduce color aliasing
US9667933B2 (en) * 2013-07-01 2017-05-30 Omnivision Technologies, Inc. Color and infrared filter array patterns to reduce color aliasing
JP6364259B2 (ja) * 2014-07-02 2018-07-25 オリンパス株式会社 撮像装置、画像処理方法、及び画像処理プログラム
JP2017055309A (ja) * 2015-09-10 2017-03-16 キヤノン株式会社 撮像装置及びその制御方法
JP2017055308A (ja) 2015-09-10 2017-03-16 キヤノン株式会社 撮像装置及びその制御方法
US10044959B2 (en) * 2015-09-24 2018-08-07 Qualcomm Incorporated Mask-less phase detection autofocus
JP6917803B2 (ja) * 2017-06-27 2021-08-11 キヤノン株式会社 撮像装置、制御方法、及びプログラム
TWI785193B (zh) * 2018-02-09 2022-12-01 日商索尼半導體解決方案公司 圖像處理裝置、圖像處理方法、及攝像裝置
CN109636880A (zh) * 2018-12-14 2019-04-16 北京向上心科技有限公司 一种图片绘制方法和装置、控制器及介质
CN112929563B (zh) * 2021-01-21 2022-08-26 维沃移动通信有限公司 对焦方法、装置及电子设备
JP2023077673A (ja) * 2021-11-25 2023-06-06 ソニーセミコンダクタソリューションズ株式会社 光検出装置及び電子機器

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009147665A (ja) * 2007-12-13 2009-07-02 Canon Inc 撮像装置
JP2009276426A (ja) * 2008-05-13 2009-11-26 Canon Inc 撮像装置
JP2011250325A (ja) * 2010-05-28 2011-12-08 Fujifilm Corp 撮像装置及び位相差検出画素を持つ固体撮像素子並びに撮像装置の駆動制御方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3592147B2 (ja) 1998-08-20 2004-11-24 キヤノン株式会社 固体撮像装置
JP4333997B2 (ja) * 2004-08-24 2009-09-16 シャープ株式会社 画像処理装置、撮影装置、画像処理方法、画像処理プログラムおよび記録媒体
CN100527792C (zh) * 2006-02-07 2009-08-12 日本胜利株式会社 摄像方法以及摄像装置
CN101952759B (zh) * 2008-02-22 2012-12-19 松下电器产业株式会社 摄像装置
JP4973542B2 (ja) * 2008-02-26 2012-07-11 富士通株式会社 画素補間装置及び画素補間方法
JP5278123B2 (ja) 2009-04-06 2013-09-04 株式会社ニコン 撮像装置
JP5454223B2 (ja) 2010-02-25 2014-03-26 株式会社ニコン カメラ
JP2012027390A (ja) * 2010-07-27 2012-02-09 Olympus Corp 撮像装置
JP5655543B2 (ja) * 2010-12-20 2015-01-21 ソニー株式会社 画像処理装置、画像処理方法およびプログラム。
JP5956782B2 (ja) * 2011-05-26 2016-07-27 キヤノン株式会社 撮像素子及び撮像装置
WO2013179899A1 (ja) * 2012-06-01 2013-12-05 富士フイルム株式会社 撮像装置
JP5529928B2 (ja) * 2012-06-14 2014-06-25 オリンパスイメージング株式会社 撮像装置及び撮像装置の制御方法
WO2014045689A1 (ja) * 2012-09-19 2014-03-27 富士フイルム株式会社 画像処理装置、撮像装置、プログラム及び画像処理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009147665A (ja) * 2007-12-13 2009-07-02 Canon Inc 撮像装置
JP2009276426A (ja) * 2008-05-13 2009-11-26 Canon Inc 撮像装置
JP2011250325A (ja) * 2010-05-28 2011-12-08 Fujifilm Corp 撮像装置及び位相差検出画素を持つ固体撮像素子並びに撮像装置の駆動制御方法

Also Published As

Publication number Publication date
CN104620572B (zh) 2016-06-29
US20150156405A1 (en) 2015-06-04
US9344620B2 (en) 2016-05-17
JPWO2014046037A1 (ja) 2016-08-18
CN104620572A (zh) 2015-05-13
WO2014046037A1 (ja) 2014-03-27

Similar Documents

Publication Publication Date Title
JP5937690B2 (ja) 撮像装置及びその制御方法
JP6084982B2 (ja) 撮像装置
JP5697801B2 (ja) 撮像装置及び自動焦点調節方法
US9179059B2 (en) Image capture device and image display method
JP5753321B2 (ja) 撮像装置及び合焦確認表示方法
JP5926391B2 (ja) 撮像装置及び合焦確認表示方法
JP6989630B2 (ja) 撮像装置
JP5747124B2 (ja) 撮像装置
JP5833254B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP7060634B2 (ja) 撮像装置及び画像処理方法
JP5972485B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
WO2014045741A1 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160512

R150 Certificate of patent or registration of utility model

Ref document number: 5937690

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees