JPWO2013190899A1 - 撮像装置及び自動焦点調節方法 - Google Patents

撮像装置及び自動焦点調節方法 Download PDF

Info

Publication number
JPWO2013190899A1
JPWO2013190899A1 JP2014520997A JP2014520997A JPWO2013190899A1 JP WO2013190899 A1 JPWO2013190899 A1 JP WO2013190899A1 JP 2014520997 A JP2014520997 A JP 2014520997A JP 2014520997 A JP2014520997 A JP 2014520997A JP WO2013190899 A1 JPWO2013190899 A1 JP WO2013190899A1
Authority
JP
Japan
Prior art keywords
phase difference
pixel
pixels
output signal
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014520997A
Other languages
English (en)
Other versions
JP5697801B2 (ja
Inventor
有人 澤田石
有人 澤田石
周 高橋
周 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2014520997A priority Critical patent/JP5697801B2/ja
Application granted granted Critical
Publication of JP5697801B2 publication Critical patent/JP5697801B2/ja
Publication of JPWO2013190899A1 publication Critical patent/JPWO2013190899A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Automatic Focus Adjustment (AREA)

Abstract

本発明は、隣接するR画素からの角度依存性を持つ混色を利用し、被写体色が赤い場合には、第1、第2のB画素を位相差画素として使用し、第1、第2のB画素の出力信号に基づいて精度よく位相差AFを行うことができる。尚、被写体色が赤い場合の専用の位相差画素を設ける必要がなく、撮像素子の通常のB画素を使用して位相差を検出するため、解像度を犠牲にすることがない。

Description

本発明は撮像装置及び自動焦点調節方法に係り、特に撮像した信号の位相差を検出して自動的に焦点調節を行う撮像装置及び自動焦点調節方法に関する。
従来、撮像素子の一部に第1、第2の位相差画素を設け、第1、第2の位相差画素の出力信号の位相差を検出し、検出した位相差に基づいてフォーカスレンズの焦点位置を調節する自動焦点調節(位相差AF)が知られている。
撮像素子の一部に第1、第2の位相差画素を設けると、第1、第2の位相差画素に隣接する色の異なる他の画素からのクロストークの影響を受け、焦点検出精度が低下するという問題がある。
この問題を解決するために、特許文献1に記載の焦点検出装置は、周囲の画素の出力信号に応じて第1、第2の位相差画素の出力信号を補正し、補正後の信号に基づいて位相差を検出するようにしている。
一方、位相差画素に隣接する画素が飽和すると、正しくクロストーク補正が行われず、焦点検出結果に誤差が生じるという別の問題が発生する。
この問題を解決するために、特許文献2に記載の撮像装置は、位相差画素の周囲の画素が飽和しているか否かを判定し、この判定結果に応じてクロストーク補正を切り替えるようにしている。
特開2009−122524号公報 特開2011−257565号公報
特許文献1に記載の位相差画素は、RGBの各画素の分光感度特性を加算したような分光感度特性を有する白画素であり、特許文献2に記載の位相差画素はG画素であり、これらの位相差画素の出力信号をクロストーク補正しても極端に赤い被写体や色温度が低い場合には、位相差を精度よく検出するために必要な信号出力が得られず、精度のよい位相差AFを行うことができないという問題がある。
また、特許文献1、2に記載の撮像素子は、いずれも赤(R)、緑(G)、青(B)画素のうちのG画素が市松状に配置され、R画素、B画素が交互に線順次に配置されている、いわゆるベイヤ配列のカラーフィルタを有するものであり、R画素とB画素とが最小ピッチで隣接して配設されておらず、R画素とB画素との間で混色と呼ばれる電荷のまざり(クロストーク)は生じない。
本発明はこのような事情に鑑みてなされたもので、極端に赤い被写体や色温度が低い場合でも位相差AFを精度よく行うことができる撮像装置及び自動焦点調節方法を提供することを目的とする。
前記目的を達成するために本発明の一の態様に係る撮像装置は、撮影レンズと、少なくとも赤(R)、緑(G)、青(B)画素と、撮影レンズの異なる第1、第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1、第2の位相差画素とを含み、R画素のうち第1のR画素に対して最小ピッチで隣接する第1の方向の第1のB画素とR画素のうち第2のR画素に対して第1の方向とは逆の第2の方向に隣接する第2のB画素とを有する撮像素子と、撮像素子に設定された焦点検出領域の出力信号に基づいて焦点検出領域における被写体色が赤色か否かを判別する判別部と、判別部により焦点検出領域における被写体色が赤色でないと判別されると、焦点検出領域内の第1、第2の位相差画素の各出力信号に基づいて各出力信号の位相差を検出し、判別部により焦点検出領域における被写体色が赤色であると判別されると、焦点検出領域内の第1、第2のB画素の各出力信号に基づいて各出力信号の位相差を検出する位相差検出部と、位相差検出部により検出された位相差に基づいて撮影レンズの焦点位置を調節する焦点調節部と、を備えている。
本発明の一の態様に係る撮像素子は、R画素、G画素、B画素、第1、第2の位相差画素とを含み、第1、第2のR画素に対して第1、第2の方向にそれぞれ最小ピッチで隣接するB画素(第1、第2のB画素)を有している。撮像素子の予め設定された焦点検出領域における被写体色が赤色か否かを判別し、被写体色が赤色でないと判別されると、焦点検出領域内の第1、第2の位相差画素の各出力信号に基づいて位相差を検出する。一方、焦点検出領域における被写体色が赤色であると判別されると、焦点検出領域内の第1、第2のB画素の各出力信号に基づいて位相差を検出する。
極端に赤い被写体や色温度が低い場合(被写体反射色が長波長に偏った場合)、R画素からの角度依存性を持つ混色と第1、第2の位相差画素自体の角度依存性が混ざってしまい、第1、第2の位相差画素の出力信号に基づいて精度よく位相差AFを行うことができない。一方、極端に赤い被写体や色温度が低い場合、第1、第2のB画素は、隣接するR画素からの角度依存性を持つ混色が多くなり、特に被写体色が赤い場合、R画素からの混色成分が多くなり、画素本来の出力よりも混色成分が上回ることがある。本発明は、隣接するR画素からの角度依存性を持つ混色を利用し、被写体色が赤い場合には、第1、第2のB画素を位相差画素として使用し、第1、第2のB画素の出力信号に基づいて精度よく位相差AFを行うことができる。尚、被写体色が赤い場合の専用の位相差画素を設ける必要がなく、撮像素子の通常のB画素を使用して位相差を検出するため、解像度を犠牲にすることがない。
本発明の他の態様に係る撮像装置において、判別部は、撮像素子の予め設定された焦点検出領域のR画素の出力信号の積算値とG画素の出力信号の積算値との比を算出し、算出した比を予め設定した閾値と比較して焦点検出領域における被写体色が赤色と判別することが好ましい。
被写体色が赤い場合、R画素の出力に比べてG画素の出力が小さくなる結果、R画素の出力信号の積算値とG画素の出力信号の積算との比は、大きく変化する。したがって、比と予め設定した閾値とを比較することより焦点検出領域における被写体色が赤色か否かを判別することができる。尚、第1、第2の位相差画素の出力信号による位相差AFよりも第1、第2のB画素の出力信号による位相差AFの精度が高くなるときの比を試験等により求め、このときの比を閾値とすることができる。
本発明の更に他の態様に係る撮像装置において、第1、第2の位相差画素は、それぞれGのフィルタ又は無色のフィルタが配置された画素であることが好ましい。Gのフィルタ又は無色のフィルタが配置された画素の出力信号は、他の色の画素の出力信号に比べて輝度信号に寄与し、位相差AFに好適だからである。
本発明の更に他の態様に係る撮像装置において、第1のB画素と第2のB画素とは、第1の方向の1ライン上に交互に配列され、位相差検出部は、第1の方向の第1のラインに配列された第1のB画素の出力信号と、第1のラインと近接した第2のラインに配設された第2のB画素の出力信号とに基づいて第1の位相差を検出し、第1の方向の第1のラインに配列された第2のB画素の出力信号と、第2のラインに配設された第1のB画素の出力信号とに基づいて第2の位相差を検出し、検出した第1、第2の位相差を平均して位相差を検出することが好ましい。これにより、第1のライン上の第1、第2のB画素と、第2のライン上の第1、第2のB画素とが相対的にずれても、その影響を受けずに位相差を検出することができる。
本発明の更に他の態様に係る撮像装置において、第1の位相差画素と第2の位相差画素とは、第1の方向の1ライン上に交互に配列され、位相差検出部は、第1の方向の第3のラインに配列された第1の位相差画素の出力信号と、第3のラインと近接した第4のラインに配設された第2の位相差画素の出力信号とに基づいて第3の位相差を検出し、第1の方向の第3のラインに配列された第2の位相差画素の出力信号と、第4のラインに配設された第1の位相差画素の出力信号とに基づいて第4の位相差を検出し、検出した第3、第4の位相差を平均して位相差を検出することが好ましい。これにより、第3のライン上の第1、第2の位相差画素と、第2のライン上の第1、第2の位相差画素とが相対的にずれても、その影響を受けずに位相差を検出することができる。
本発明の更に他の態様に係る撮像装置において、撮像素子のライン毎に順次信号を読み出すローリング読出部と、撮像素子に入射する光を遮断する機械的シャッタと、を備え、位相差検出部は、機械的シャッタを開いた状態でローリング読出部により連続的に読み出された信号に基づいて連続的に位相差を検出することが好ましい。これにより、機械的シャッタを使用しなくてもローリング読み出しの影響を受けずに位相差を検出することができ、特に動画時の位相差AFが可能であるとともに、静止画時でも位相差AFを高速化することができる。
本発明の他の態様に係る撮像装置において、位相差検出部により検出された位相差と第1、第2の位相差画素の少なくとも一方の位相差画素への周辺画素からの混色率とに基づいて撮影レンズのデフォーカス量を求めるデフォーカス量算出部を備え、焦点調節部は、デフォーカス量算出部により求めたデフォーカス量がゼロになる位置に撮影レンズを移動させることが好ましい。デフォーカス量算出部は、混色がない場合の位相差とデフォーカス量との関係を示す関係式を、混色率により補正し、検出された位相差と補正した関係式によりデフォーカス量を求めるようにしてもよいし、混色率毎に位相差とデフォーカス量との関係を示すテーブルを有し、検出された位相差と混色率とに基づいて対応するデフォーカス量をテーブルから読み出すようにしてもよい。
本発明の他の態様に係る撮像装置において、位相差検出部は、第1、第2の位相差画素の少なくとも一方の位相差画素への周辺画素からの混色率及び周辺画素の出力信号に基づいて第1、第2の位相差画素の少なくとも一方の位相差画素の出力信号を補正し、補正後の第1、第2の位相差画素の出力信号に基づいて位相差を検出することが好ましい。被写体色が極端に赤くない場合には、第1、第2の位相差画素の出力信号に基づいて位相差を検出するが、この場合でも第1、第2の位相差画素の少なくとも一方の位相差画素は、周辺画素からの混色の影響を受ける。そこで、第1、第2の位相差画素の少なくとも一方の位相差画素の出力信号に対して混色成分を除去する補正を行い、補正後の第1、第2の位相差画素の出力信号に基づいて位相差を検出するようにしている。
本発明の他の態様に係る撮像装置において、第1、第2の位相差画素のうちのいずれか一方の位相差画素の第1の方向に隣接してR画素が配置され、周辺画素からの混色率は、第1の方向に隣接してR画素が配置された位相差画素へのR画素からの混色率である。
本発明の更に他の態様に係る撮像装置において、位相差検出部は、第1のB画素の出力信号と第2のB画素の出力信号との比に基づいて混色率を求めることが好ましい。
本発明の更に他の態様に係る撮像装置において、撮像素子は、第1、第2の方向に第1、第2のB画素を有し、かつ第1、第2の方向に垂直な第3、第4の方向に第1、第2のB画素を有し、位相差検出部は、第1、第2の方向の第1、第2のB画素、又は第3、第4の方向の第1、第2のB画素の出力信号に基づいて位相差を検出することが好ましい。
本発明の更に他の態様に係る撮像装置において、第1、第2の方向は、撮像装置本体を水平に構えたときの左右方向であり、横撮り撮影か縦撮り撮影かを検出する縦横検出部を備え、位相差検出部は、縦横検出部により横撮り撮影が検出されると、第1、第2の方向の第1、第2のB画素の出力信号に基づいて位相差を検出し、縦横検出部により縦撮り撮影が検出されると、第3、第4の方向の第1、第2のB画素の出力信号に基づいて位相差を検出することが好ましい。
第1、第2のB画素は、撮像素子の全領域にわたって配置されており、第1、第2の方向及び第1、第2の方向に垂直な第3、4の方向に存在している。横撮り撮影か縦撮り撮影かに応じて第1、第2の方向の第1、第2のB画素の出力信号、又は第3、第4の方向の第1、第2のB画素の出力信号に基づいて位相差を検出することにより、横撮り撮影か縦撮り撮影かにかかわらず、同じ精度の位相差AFを行うことができる。
本発明の更に他の態様に係る撮像装置において、撮像素子は、第1、第2の方向及び第1、第2の方向に垂直な第3、第4の方向に6×6画素に対応するカラーフィルタの基本配列パターンを有し、基本配列パターンが第1、第2の方向及び第3、第4の方向に繰り返し配設され、基本配列パターンは、3×3画素に対応する第1の配列であって、中心と4隅にGフィルタが配置され、中心のGフィルタを挟んで上下にBフィルタが配置され、左右にRフィルタが配列された第1の配列と、3×3画素に対応する第2の配列であって、中心と4隅にGフィルタが配置され、中心のGフィルタを挟んで上下にRフィルタが配置され、左右にBフィルタが配列された第2の配列とが、それぞれ対角位置に配置されて構成され、撮像素子の焦点検出領域の第1、第2の配列の4隅の1つのGフィルタを有する画素が、それぞれ第1、第2の位相差画素として構成されていることが好ましい。第1、第2の位相差画素は、撮像素子の全領域に配置してもよいし、特定の領域のみに配置してもよい。尚、第1、第2の位相差画素を撮像素子の全領域に配置した場合でも、全領域中の任意の位置に焦点検出領域を設定し、設定した焦点検出領域内の第1、第2の位相差画素の出力信号を位相差の検出に使用する。
本発明の更に他の態様に係る撮像装置は、撮影レンズと、少なくとも赤(R)、緑(G)、青(B)画素と、撮影レンズの異なる第1、第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1、第2の位相差画素とを含み、R画素のうち第1のR画素に対して最小ピッチで隣接する第1の方向の第1のB画素とR画素のうち第2のR画素に対して第1の方向とは逆の第2の方向に隣接する第2のB画素とを有し、第1、第2の位相差画素のうちの少なくとも一方の位相差画素は第1の方向または第2の方向に隣接してR画素が配置される撮像素子と、撮像素子に設定された焦点検出領域内の第1、第2の位相差画素の各出力信号に基づいて各出力信号の位相差を検出する位相差検出部と、位相差検出部により出力された位相差に基づいて撮影レンズの焦点位置を調節する焦点調節部と、を備え、位相差検出部は、第1、第2の位相差画素の少なくとも一方の位相差画素への周辺画素からの混色率を第1のB画素の出力信号と第2のB画素の出力信号との少なくとも一方の出力信号に基づいて求め、かつ求めた混色率及び周辺画素の出力信号に基づいて第1、第2の位相差画素の少なくとも一方の位相差画素の出力信号を補正する。
本発明の更に他の態様に係る撮像装置において、焦点検出領域の出力信号に基づいて焦点検出領域における被写体色が赤色か否かを判別する判別部を備え、位相差検出部は、判別部により焦点検出領域における被写体色が赤色であると判別されると、第1のB画素の出力信号と第2のB画素の出力信号の少なくとも一方の出力信号から周辺画素からの混色率を求め、混色率及び周辺画素の出力信号に基づいて第1、第2の位相差画素の少なくとも一方の位相差画素の出力信号を補正し、補正がされた第1、第2の位相差画素の出力信号に基づいて位相差を検出することが好ましい。
本発明の更に他の態様に係る撮像装置は、撮影レンズと、少なくとも赤(R)、緑(G)、青(B)画素と、撮影レンズの異なる第1、第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1、第2の位相差画素とを含み、R画素のうち第1のR画素に対して最小ピッチで隣接する第1の方向の第1のB画素とR画素のうち第2のR画素に対して第1の方向とは逆の第2の方向に隣接する第2のB画素とを有し、第1、第2の位相差画素のうちの少なくとも一方の位相差画素は第1の方向または第2の方向に隣接してR画素が配置される撮像素子と、撮像素子に設定された焦点検出領域内の第1、第2の位相差画素の各出力信号に基づいて各出力信号の位相差を検出する位相差検出部と、位相差検出部により検出された位相差と第1、第2の位相差画素の少なくとも一方の位相差画素への周辺画素からの混色率とに基づいて撮影レンズのデフォーカス量を求めるデフォーカス量算出部と、デフォーカス量算出部により求めたデフォーカス量がゼロになる位置に撮影レンズを移動させる焦点調節部と、を備え、位相差検出部は、第1のB画素の出力信号と第2のB画素の出力信号の少なくとも一方の出力信号に基づいて周辺画素からの混色率を求める。
本発明の更に他の態様に係る撮像装置において、焦点検出領域の出力信号に基づいて焦点検出領域における被写体色が赤色か否かを判別する判別部を備え、位相差検出部は、判別部により焦点検出領域における被写体色が赤色であると判別されると、第1のB画素の出力信号と第2のB画素の出力信号の少なくとも一方の出力信号から周辺画素からの混色率を求め、デフォーカス量算出部は、位相差検出部により検出された位相差と周辺画素からの混色率とに基づいて撮影レンズのデフォーカス量を求めることが好ましい。
本発明の更に他の態様に係る自動焦点調節方法は、少なくとも赤(R)、緑(G)、青(B)画素と、撮影レンズの異なる第1、第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1、第2の位相差画素とを含み、R画素のうち第1のR画素に対して最小ピッチで隣接する第1の方向の第1のB画素とR画素のうち第2のR画素に対して第1の方向とは逆の第2の方向に隣接する第2のB画素とを有する撮像素子から出力信号を取得する信号取得工程と、信号取得工程で取得した出力信号のうちの撮像素子に設定された焦点検出領域の出力信号に基づいて焦点検出領域における被写体色が赤色か否かを判別する判別工程と、判別工程により焦点検出領域における被写体色が赤色でないと判別されると、焦点検出領域内の第1、第2の位相差画素の各出力信号に基づいて各出力信号の位相差を検出し、判別工程により焦点検出領域における被写体色が赤色であると判別されると、焦点検出領域内の第1、第2のB画素の各出力信号に基づいて各出力信号の位相差を検出する位相差検出工程と、位相差検出工程により検出された位相差に基づいて撮影レンズの焦点位置を調節する焦点調節工程と、を含むようにしている。
本発明によれば、極端に赤い被写体や色温度が低い場合でも通常のB画素の出力信号を使用して位相差AFを精度よく行うことができる。
図1は、本発明に係る撮像装置の実施形態を示す斜視図である。 図2は、図1に示した撮像装置の背面図である。 図3は、図1に示した撮像装置の内部構成の実施形態を示すブロック図である。 図4は、撮像素子に配置された新規のカラーフィルタ配列を示す図である。 図5は、図4に示した基本配列パターンを3×3画素に4分割した状態に関して示した図である。 図6Aは、撮像素子内の第1、第2の位相差画素の配置及び位相差画素として使用可能なB画素の配置を示す図である。 図6Bは、撮像素子内の第1、第2の位相差画素の配置及び位相差画素として使用可能なB画素の配置を示す他の図である。 図7Aは、位相差画素の構成例を示す図である。 図7Bは、位相差画素の構成例を示す他の図である。 図8Aは、位相差画素として使用可能なB画素を説明するために用いた図である。 図8Bは、位相差画素として使用可能なB画素を説明するために用いた他の図である。 図9は、本発明に係る自動焦点調節方法を示すフローチャートである。 図10は、撮像素子の撮像領域とAF領域を示す図である。 図11は、AF領域内の画素の信号から被写体色を判別する方法を説明するために用いた図である。 図12は、位相差画素として使用されるB画素の配置を示す図である。 図13は、第1、第2の位相差画素の配置を示す図である。 図14は、位相差とデフォーカス量との関係式の一例を示すグラフである。 図15は、撮像素子に配置されるカラーフィルタ配列の他の実施形態を示す図である。 図16は、図15に示した基本配列パターンを3×3画素に4分割した状態に関して示した図である。 図17は、撮像装置の他の実施形態であるスマートフォンの外観図である。 図18は、スマートフォンの要部構成を示すブロック図である。
以下、添付図面に従って本発明に係る撮像装置及び自動焦点調節方法の好ましい実施の形態について詳説する。
[撮像装置]
図1及び図2はそれぞれ本発明に係る撮像装置の実施形態を示す斜視図及び背面図である。この撮像装置10は、レンズを通った光を撮像素子で受け、デジタル信号に変換して記録メディアに記録するデジタルカメラである。
図1に示すように、撮像装置10は、その正面に撮影レンズ(撮影光学系)12、ストロボ1等が配設され、上面にはシャッタボタン2、電源/モードスイッチ3、モードダイヤル4等が配設されている。一方、図2に示すように、カメラ背面には、3D表示用の液晶モニタ30、ズームボタン5、十字ボタン6、MENU/OKボタン7、再生ボタン8、BACKボタン9等が配設されている。
撮影レンズ12は、沈胴式のズームレンズで構成されており、電源/モードスイッチ3によってカメラのモードを撮影モードに設定することにより、カメラ本体から繰り出される。ストロボ1は、主要被写体に向けてストロボ光を照射するものである。
シャッタボタン2は、いわゆる「半押し」と「全押し」とからなる2段ストローク式のスイッチで構成されている。撮像装置10は、撮影モードで駆動しているときは、このシャッタボタン2が「半押し」されることにより、AE/AFが作動し、「全押し」されることにより、撮影を実行する。また、撮像装置10は、撮影モードで駆動しているときは、このシャッタボタン2が「全押し」されることにより、撮影を実行する。
電源/モードスイッチ3は、撮像装置10の電源をON/OFFする電源スイッチとしての機能と、撮像装置10のモードを設定するモードスイッチとしての機能とを併せ持っており、「OFF位置」と「再生位置」と「撮影位置」との間をスライド自在に配設されている。撮像装置10は、電源/モードスイッチ3をスライドさせて、「再生位置」又は「撮影位置」に合わせることにより、電源がONになり、「OFF位置」に合わせることにより、電源がOFFになる。そして、電源/モードスイッチ3をスライドさせて、「再生位置」に合わせることにより、「再生モード」に設定され、「撮影位置」に合わせることにより、「撮影モード」に設定される。
モードダイヤル4は、撮像装置10の撮影モードを設定する撮影モード設定手段として機能し、このモードダイヤルの設定位置により、撮像装置10の撮影モードが様々なモードに設定される。例えば、静止画撮影を行う「静止画撮影モード」、動画撮影を行う「動画撮影モード」等である。
液晶モニタ30は、撮影モード時のライブビュー画像(スルー画像)の表示、再生モード時の静止画又は動画の表示を行うとともに、メニュー画面の表示等を行うことでグラフィカルユーザーインターフェース(GUI)の一部として機能する。
ズームボタン5は、ズームを指示するズーム指示手段として機能し、望遠側へのズームを指示するテレボタン5Tと、広角側へのズームを指示するワイドボタン5Wとからなる。撮像装置10は、撮影モード時に、このテレボタン5Tとワイドボタン5Wとが操作されることにより、撮影レンズ12の焦点距離が変化する。また、再生モード時に、このテレボタン5Tとワイドボタン5Wとが操作されることにより、再生中の画像が拡大、縮小する。
十字ボタン6は、上下左右の4方向の指示を入力する操作部であり、メニュー画面から項目を選択したり、各メニューから各種設定項目の選択を指示したりするボタン(カーソル移動操作手段)として機能する。左/右キーは再生モード時のコマ送り(順方向/逆方向送り)ボタンとして機能する。
MENU/OKボタン7は、液晶モニタ30の画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作キーである。
再生ボタン8は、撮影記録した静止画又は動画を液晶モニタ30に表示させる再生モードに切り替えるためのボタンである。
BACKボタン9は、入力操作のキャンセルや一つ前の操作状態に戻すことを指示するボタンとして機能する。
[撮像装置の内部構成]
図3は上記撮像装置10の内部構成の実施形態を示すブロック図である。この撮像装置10は、撮像した画像をメモリカード54に記録するもので、装置全体の動作は、中央処理装置(CPU)40によって統括制御される。
撮像装置10には、シャッタボタン、モードダイヤル、再生ボタン、MENU/OKキー、十字キー、ズームボタン、BACKキー等の操作部38が設けられている。この操作部38からの信号はCPU40に入力され、CPU40は入力信号に基づいて撮像装置10の各回路を制御し、例えば、イメージセンサの駆動制御、レンズ駆動制御、絞り駆動制御、撮影動作制御、画像処理制御、画像データの記録/再生制御、液晶モニタ30の表示制御などを行う。
電源/モードスイッチ3により撮像装置10の電源がONされると、図示しない電源部から各ブロックへ給電され、撮像装置10の駆動が開始される。
撮影レンズ12、絞り14、メカシャッタ(機械的シャッタ)15等を通過した光束は、CMOS(Complementary Metal-Oxide Semiconductor)型のカラーイメージセンサである撮像素子16に結像される。尚、撮像素子16は、CMOS型に限らず、XYアドレス型、又はCCD(Charge Coupled Device)型のカラーイメージセンサでもよい。
撮像素子16は、多数の受光素子(フォトダイオード)が2次元配列されており、各フォトダイオードの受光面に結像された被写体像は、その入射光量に応じた量の信号電圧(または電荷)に変換され、撮像素子16内のA/D変換器を介してデジタル信号に変換されて出力される。
<撮像素子の実施形態>
図4は、上記撮像素子16の実施形態を示す図であり、特に撮像素子16の受光面上に配置されている新規のカラーフィルタ配列に関して示している。
この撮像素子16のカラーフィルタ配列は、M×N(6×6)画素に対応する基本配列パターンP(太枠で示したパターン)を含み、この基本配列パターンPが水平方向及び垂直方向に繰り返し配置されている。即ち、このカラーフィルタ配列は、赤(R)、緑(G)、青(B)の各色のフィルタ(Rフィルタ、Gフィルタ、Bフィルタ)が周期性をもって配列されている。このようにRフィルタ、Gフィルタ、Bフィルタが周期性をもって配列されているため、撮像素子16から読み出されるRGBのRAWデータ(モザイク画像)の画像処理等を行う際に、繰り返しパターンに従って処理を行うことができる。
図4に示すカラーフィルタ配列は、輝度信号を得るために最も寄与する色(この実施形態では、Gの色)に対応するGフィルタが、カラーフィルタ配列の水平、垂直、斜め右上、及び斜め左上方向の各ライン内に1以上配置されている。
輝度系画素に対応するGフィルタが、カラーフィルタ配列の水平、垂直、及び斜め右上、及び斜め左上方向の各ライン内に配置されるため、高周波となる方向によらず高周波領域でのデモザイク処理の再現精度を向上させることができる。ここで「デモザイク処理」とは、単板式のカラー撮像素子のカラーフィルタ配列に伴うRGBのモザイク画像から画素毎にRGBの全ての色情報を算出(同時式に変換)する処理であって、デモザイキング処理、又は同時化処理とも言われる(本明細書内において同じ)。
また、図4に示すカラーフィルタ配列は、上記Gの色以外の2色以上の他の色(この実施形態では、R,Bの色)に対応するRフィルタ、Bフィルタが、それぞれ基本配列パターンPの水平、及び垂直方向の各ライン内に1つ以上配置されている。
Rフィルタ、Bフィルタが、カラーフィルタ配列の水平、及び垂直方向の各ライン内に配置されるため、偽色(色モワレ)の発生を低減することができる。これにより、偽色の発生を低減(抑制)するための光学ローパスフィルタを省略することができる。尚、光学ローパスフィルタを適用する場合でも偽色の発生を防止するための高周波数成分をカットする働きの弱いものを適用することができ、解像度を損なわないようにすることができる。
更に、図4に示すカラーフィルタ配列の基本配列パターンPは、その基本配列パターン内におけるR、G、Bフィルタに対応するR画素、G画素、B画素の画素数が、それぞれ8画素、20画素、8画素になっている。即ち、RGB画素の各画素数の比率は、2:5:2になっており、輝度信号を得るために最も寄与するG画素の画素数の比率は、他の色のR画素、B画素の画素数の比率よりも大きくなっている。
上記のようにG画素の画素数とR,B画素の画素数との比率が異なり、特に輝度信号を得るために最も寄与するG画素の画素数の比率を、R,B画素の画素数の比率よりも大きくするようにしたため、デモザイク処理時におけるエリアシングを抑制することができるとともに、高周波再現性もよくすることができる。
図5は、図4に示した基本配列パターンPを、3×3画素に4分割した状態に関して示している。
図5に示すように基本配列パターンPは、実線の枠で囲んだ3×3画素のA配列と、破線の枠で囲んだ3×3画素のB配列とが、水平、垂直方向に交互に並べられた配列となっていると捉えることもできる。
A配列及びB配列は、それぞれGフィルタが4隅と中央に配置され、両対角線上に配置されている。また、A配列は、中央のGフィルタを挟んでRフィルタが水平方向に配列され、Bフィルタが垂直方向に配列され、一方、B配列は、中央のGフィルタを挟んでBフィルタが水平方向に配列され、Rフィルタが垂直方向に配列されている。即ち、A配列とB配列とは、RフィルタとBフィルタとの位置関係が逆転しているが、その他の配置は同様になっている。
また、A配列とB配列の4隅のGフィルタは、A配列とB配列とが水平、垂直方向に交互に配置されることにより、2×2画素に対応する正方配列のGフィルタとなる。
図6A及び図6Bは、それぞれ図4に示した基本配列パターンPとは異なる位置から切り出した6×6画素に対応する他の基本配列パターンP’である。
図6Aに示すように、この実施形態では、A配列の4隅のGフィルタのうちの左上及び左下のGフィルタの位置の画素が、それぞれ第1の位相差画素p1及び第2の位相差画素p2として構成され、B配列の4隅のGフィルタのうちの左上及び左下のGフィルタの位置の画素が、それぞれ第2の位相差画素p2及び第1の位相差画素p1として構成されている。
図7A及び図7Bはそれぞれ第1の位相差画素p1及び第2の位相差画素p2の構成を示す要部拡大図である。
図7Aに示すように第1の位相差画素p1のフォトダイオードPDの前面側(マイクロレンズL側)には、遮光部材16Aが配設され、一方、図7Bに示すように第2の位相差画素p2のフォトダイオードPDの前面側には、遮光部材16Bが配設される。マイクロレンズL、及び遮光部材16A、16Bは瞳分割手段としての機能を有し、図7Aに示すように遮光部材16Aは、フォトダイオードPDの受光面の左半分を遮光する。そのため、第1の位相差画素p1には、撮影レンズ12の射出瞳を通過する光束の光軸の左側のみが受光される。また、図7Bに示すように遮光部材16Bは、第2の位相差画素p2のフォトダイオードPDの受光面の右半分を遮光する。そのため、第2の位相差画素p2には、撮影レンズ12の射出瞳を通過する光束の光軸の右側のみが受光される。このように、瞳分割手段であるマイクロレンズL及び遮光部材16A、16Bにより、射出瞳を通過する光束が左右に分割され、それぞれ第1の位相差画素p1及び第2の位相差画素p2に入射する。
また、図6Bに示すように、この撮像素子16のカラーフィルタ配列は、A配列の中央のGフィルタを挟んでRフィルタが水平方向に配列され、一方、B配列の中央のGフィルタを挟んでBフィルタが水平方向に配列されているため、Rフィルタが配置された画素(R画素)とBフィルタが配置された画素(B画素p3〜p6)とが、水平方向に最小ピッチで隣接している。更に、図6B上で、B画素p3、p5は、R画素の左方向に隣接し、B画素p4、p6は、R画素の右方向に隣接している。ここで、B画素p3、p5を第1のB画素とすると、B画素p4、p6が第2のB画素となる。
図8A及び図8Bは、R、B、G画素が水平方向(左右方向)に配列された各画素の内部構成を示す図である。
図8Aに示すように左方向からR光(被写体反射色が長波長に偏っている被検体光、極端に赤い被写体や色温度が低い場合の光)を入射すると、B画素には、左側に隣接するR画素からの角度依存性を持つ混色により、R光が入射して信号電荷が蓄積される。一方、図8Bに示すように右方向からR光を入射すると、B画素には、右側にG画素が隣接しているため、R画素からの角度依存性を持つ混色は発生せず、信号電荷は蓄積されないか、或いは混色が発生しても非常に少量である。
従って、図6Bに示したR画素の左方向に隣接しているB画素p3、p5は、図6B上で右方向からR光が入射すると、R画素からの角度依存性を持つ混色により信号電荷が蓄積され、一方、R画素の右方向に隣接しているB画素p4、p6は、図6B上で左方向からR光が入射すると、R画素からの角度依存性を持つ混色により信号電荷が蓄積される。即ち、B画素p3、p5とB画素p4、p6とは、R光に対して第1、第2の位相差画素として機能する。
図3に戻って、センサ駆動部(ローリング読出部)32は、撮像素子16からのデジタル信号(画像信号)の読み出しを司る部分であり、撮像素子16からライン毎に順次画像信号を読み出す。
CMOSイメージセンサにおける読出し方式は、上方から1ライン毎に順次リセット、順次読み出しを行う、ローリングシャ
ッタ方式となる事が知られている。このローリングシャッタ方式は、ライン毎に露光タイミングに時間差があるため、動く被写体の場合には、被写体の画像が歪むという問題がある。従って、静止画撮影時には、シャッタ駆動部33によりメカシャッタ15を開閉制御(露光時間を制御)してローリングシャッタによる歪みが発生しないようにしている。
撮像素子16から読み出された画像信号(R、G、B信号)は画像入力コントローラ22に出力される。
デジタル信号処理部24は、画像入力コントローラ22を介して入力するデジタルの画像信号に対して、オフセット処理、ホワイトバランス補正、ガンマ補正処理、デモザイク処理、YC処理等の信号処理を行う。
デジタル信号処理部24により処理された画像データは、VRAM50に入力される。VRAM50には、それぞれが1コマ分の画像を表す画像データを記録するA領域とB領域とが含まれている。VRAM50において1コマ分の画像を表す画像データがA領域とB領域とで交互に書き換えられる。VRAM50のA領域及びB領域のうち、画像データが書き換えられている方の領域以外の領域から、書き込まれている画像データが読み出される。
VRAM50から読み出された画像データは、ビデオエンコーダ28においてエンコーディングされ、カメラ背面に設けられている液晶モニタ30に出力され、これにより被写体像が連続的に液晶モニタ30の表示画面上に表示される。
操作部38のシャッタボタン2の第1段階の押下(半押し)があると、CPU40は、AF動作及びAE(自動露出)動作を開始させ、レンズ駆動部36を介して撮影レンズ12内のフォーカスレンズを光軸方向に移動させ、フォーカスレンズが合焦位置にくるように制御する。
AF処理部(位相差検出部)42は、本発明に係る位相差AF処理を行う部分であり、図6Aに示した第1の位相差画素p1,第2の位相差画素p2の各出力信号を使用して位相差を検出し、又は図6Bに示したB画素p3、p5,B画素p4、p6の各出力信号を使用して位相差を検出する。尚、AF処理部42による位相差検出の詳細については後述する。
CPU40は、ズームボタン5からのズーム指令に応じてレンズ駆動部36を介してズームレンズを光軸方向に進退動作させ、焦点距離を変更させる。
また、シャッタボタン2の半押し時に撮像素子16から出力される画像データは、AE検出部44に取り込まれる。
AE検出部44では、画面全体のG信号を積算し、又は画面中央部と周辺部とで異なる重みづけをしたG信号を積算し、その積算値をCPU40に出力する。CPU40は、AE検出部44から入力する積算値より被写体の明るさ(撮影Ev値)を算出し、この撮影EV値に基づいて絞り14のF値及びメカシャッタ15による露光時間(シャッタ速度)をプログラム線図にしたがって決定する。
尚、動画撮影時には、メカシャッタ15を開放し、撮像素子16から画像データを連続的に読み出し、上記と同様に被写体の明るさを算出し、センサ駆動部32によりシャッタ速度(ローリングシャッタによる電荷蓄積時間)を制御する。
また、47は、カメラ制御プログラム、撮像素子16の欠陥情報、画像処理等に使用する各種のパラメータやテーブル等が記憶されているROM(EEPROM)である。
シャッタボタン2の半押しによりAE動作及びAF動作が終了し、シャッタボタンの第2段階の押下(全押し)があると、その押下に応答して撮像素子16から出力される画像データが画像入力コントローラ22からメモリ(SDRAM) 48に入力し、一時的に記憶される。
メモリ48に一時的に記憶された画像データは、デジタル信号処理部24により適宜読み出され、ここで、オフセット処理、ホワイトバランス補正、感度補正を含むゲイン・コントロール処理、ガンマ補正処理、デモザイク処理、エッジ強調の画像処理、及びYC処理(画像データの輝度データ及び色差データの生成処理)を含む信号処理が行われ、YC処理された画像データ(YCデータ)は、再びメモリ48に記憶される。
メモリ48に記憶されたYCデータは、圧縮伸長処理部26に出力され、JPEG (joint photographic experts group)などの圧縮処理が実行されたのち、再びメモリ48に記憶される。メモリ48に記憶されたYCデータ(圧縮データ)から画像ファイルが生成され、その画像ファイルは、メディア・コントローラ52により読み出され、メモリカード54に記録される。
[位相差AF処理]
図9は本発明に係る自動焦点調節方法を示すフローチャートである。
位相差画素において混色が生じると、位相差を正しく検出し正しく焦点を合わせることができなくなる。入射光の波長が長いほど隣接画素に漏れ込みやすく混色が生じ易いため、まず被写体が極端に赤い被写体かまたは色温度が低いかを判定する。
図9において、AF処理部42(判別部)は、まず、図10に示すように撮像領域内に設定されたAF領域に含まれる位相差画素に隣接するRGB画素の出力信号(R信号、G信号、B信号)を取得する(ステップS10)。
図11の(a)は、図10に示したAF領域の一部の画素群を示している。このAF領域からRGB画素をそれぞれ同数だけ抽出する。図11の(b)に示す例では、RGB画素をそれぞれ色別に8画素ずつ抽出されている。抽出したRGB画素の出力信号を、色別に積算し、積算値(ΣG),(ΣB),(ΣR)を算出する。
続いて、図9において、積算値(ΣR)と積算値(ΣG)との比(ΣR/ΣG)を算出し、比(ΣR/ΣG)が、予め設定した閾値以上か否かを判別する(ステップS12)。AF領域の被写体が極端に赤い被写体や色温度が低い場合には、比(ΣR/ΣG)が大きくなり、比(ΣR/ΣG)は前記閾値以上になり、AF領域の被写体色が赤色(または色温度が低い)と判定される。
ここで、前記閾値は、例えば以下のように設定することができる。無彩色の被写体に白から赤に徐々に彩度が変化する照明光を照射し、彩度毎に撮像素子16のAF領域内の画素の出力信号を取得する。彩度毎に取得した出力信号のうちの第1の位相差画素p1と第2の位相差画素p2の各出力信号により求めた位相差と、R光下で位相差画素として使用可能なB画素p3、p5とB画素p4、p6の各出力信号により求めた位相差とを比較し、B画素p3、p5とB画素p4、p6の各出力信号により求めた位相差が、第1の位相差画素p1と第2の位相差画素p2の各出力信号により求めた位相差よりも精度が最初に高くなったときの照明(彩度)下での比(ΣR/ΣG)を求め、この比(ΣR/ΣG)を閾値とする。この閾値は、予め製品出荷前の調整時に撮像装置毎に求め、ROM47に記憶させておくことが好ましい。
図9に戻って、AF処理部42は、ステップS12において、比(ΣR/ΣG)が閾値以上と判別されると(「Yes」の場合)、AF領域内のB画素p3、p5とB画素p4、p6の各出力信号により位相差を検出する(ステップS14)。
AF処理部42による位相差の検出は、以下のように行う。図12に示すように水平ラインLa(第1のライン)のライン方向にB画素p3とB画素p6とが交互に配置され、同様に水平ラインLaから3ライン下方の水平ラインLb(第2のライン)のライン方向にB画素p4とB画素p5とが交互に配置されている。水平ラインLa、Lb間の縦一対のB画素p3、p4の各出力信号に基づいて第1の位相差を検出する。即ち、B画素p3とB画素p4の縦一対のB画素の出力信号の相関が最大になるとき(縦一対のB画素の各出力信号の差分絶対値の積算値が最小になるとき)の各出力信号間の左右方向のシフト量から第1の位相差を求める。同様にして、B画素p5とB画素p6の縦一対のB画素の出力信号の相関が最大になるときの各出力信号間の左右方向のシフト量から第2の位相差を求める。そして、このようにして求めた第1、第2の位相差を相加平均することにより位相差を検出する。
図12に示すように縦一対のB画素p3とB画素p4とは、B画素p3に対してB画素p4が右方向に1画素ピッチだけずれた位置に配置され、一方、縦一対のB画素p5とB画素p6とは、B画素p6に対してB画素p5が左方向に1画素ピッチだけずれた位置に配置されているが、上記のように第1、第2の位相差を求め、求めた第1、第2の位相差を相加平均することにより縦一対のB画素の左右方向のずれを相殺した、精度の高い位相差を算出することができる。また、水平ラインLa、Lb間は、3画素分だけ垂直方向に離れているが、水平ラインLa、Lb間の距離による位相差の検出誤差が生じないようにすることができる。
続いて、検出した位相差から撮影レンズ12によるピント位置と、撮像素子16の結像面とのずれ量(デフォーカス量)を算出する(ステップS16)。算出されたデフォーカス量は、AF処理部(デフォーカス量算出部)42からCPU(焦点調節部)40に出力される。尚、位相差とデフォーカス量との関係は、一定の関係式で表すことができるため、位相差を検出することより関係式からデフォーカス量を算出することができる。
CPU40は、AF処理部42からデフォーカス量を入力すると、そのデフォーカス量がゼロになるようにレンズ駆動部(焦点調節部)36を介して撮影レンズ12内のフォーカスレンズを移動させる(ステップS18)。
これによりAF領域内の被写体にフォーカスレンズの焦点が合うように焦点調節(焦点位置の調節)を行うことができる。
一方、AF処理部42は、ステップS12において、比(ΣR/ΣG)が閾値未満と判別されると(「No」の場合)、AF領域内の第1の位相差画素p1と第2の位相差画素p2の各出力信号により位相差を検出する(ステップS20)。尚、この実施形態では、第1の位相差画素p1と第2の位相差画素p2は、それぞれG画素に割り当てられているが(図6A参照)、第1の位相差画素p1と第2の位相差画素p2の画素のフィルタを、無色(ホワイト、又はグレー)にしてもよい。
第1の位相差画素p1と第2の位相差画素p2の各出力信号による位相差検出は、ステップS14における位相差検出と同様にして行う。即ち、図13に示すように水平ラインLc(第3のライン)のライン方向に一定の間隔で交互に配置された第1の位相差画素p1,第2の位相差画素p2と、水平ラインLd(第4のライン)のライン方向に一定の間隔で交互に配置された第2の位相差画素p2,第1の位相差画素p1とのうちの、水平ラインLc、Ld間の縦一対の第1の位相差画素p1、第2の位相差画素p2の各出力信号に基づいて第1の位相差を検出し、縦一対の第1の位相差画素p1、第2の位相差画素p2の上下関係が逆の縦一対の第2の位相差画素p2、第1の位相差画素p1の各出力信号に基づいて第2の位相差を検出し、第1、第2の位相差を相加平均することにより位相差を算出する。
ところで、動画撮影時にはメカシャッタ15を開放し、1ライン毎に順次リセット、順次読み出しを行うローリングシャッタ方式が適用されるため、ライン毎に露光タイミングに時間差が発生し、被写体の動き等により被写体画像の歪み(ローリング歪み)が発生する。従って、ローリングシャッタ方式の場合、水平ラインLc上のライン画像と、水平ラインLd上のライン画像とが相対的に左右方向にずれる場合がある。
しかしながら、上記のように縦一対の第1の位相差画素p1、第2の位相差画素p2の各出力信号により検出した第1の位相差と、縦一対の第2の位相差画素p2、第1の位相差画素p1の各出力信号により検出した第2の位相差とを相加平均して位相差を検出するようにしたため、ライン画像の相対的なずれの影響が相殺された、精度のよい位相差を検出することができる。
これにより、メカシャッタ15を開放した状態で(メカシャッタ15を使用することなく)、ローリングシャッタ方式で読み出した画像信号を使用して位相差を検出することができ、動画撮影時の合焦が可能になるとともに、静止画撮影時にも合焦を高速化することができる。
続いて、AF領域内のR画素が右側に隣接するB画素(図12上のB画素p3,p5)の出力信号と、R画素が左側に隣接するB画素(図12上のB画素p4,p6)の出力信号との比を求め、この比からR画素が左側に隣接する第2の位相差画素p2のR画素からの混色率を求める。求めた混色率とステップS20で検出した位相差により補正されたデフォーカス量を算出する(ステップS22)。尚、R画素が右側に隣接するB画素の出力信号と、R画素が左側に隣接するB画素の出力信号との比から混色率を求めたが、これに限られず、一方のB画素の出力信号に基づいて混色率を算出しても良い。
また、上記混色率の算出方法に限らず、予め第2の位相差画素p2に隣接するR画素からの混色率を記憶しておき、この混色率とR画素の出力信号とにより混色量を算出し、この混色量と位相差によりデフォーカス量を算出するようにしてもよい。また、混色量は、R画素からの混色量に限らず、上下左右に隣接する他の色の画素からの混色量をそれぞれ加算して算出してもよく、第1の位相差画素p1に対する混色量を算出するようにしてもよい。
図14に示すように混色がない場合の位相差とデフォーカス量との関係を示す関係式をaとすると、混色により関係式aが変化する。例えば、関係式aから関係式bに変化する。従って、混色率に応じて関係式を変更し、デフォーカス量を補正する。図4に示す例では、検出された位相差がxのとき、混色がない場合には、関係式aによりデフォーカス量yが算出されるが、同じ位相差xが検出された場合でも混色が発生し、関係式bに変化すると、デフォーカス量y’が算出される。
尚、混色が影響する範囲は広くないため、全方向ではなく、画素の最小ピッチで隣接する水平方向及び垂直方向に隣接する画素からの混色率を算出することで処理効率を上げることができる。
このようにしてデフォーカス量が算出されると、ステップS18に遷移し、ここでデフォーカス量に応じたフォーカスレンズの駆動制御が行われる。
動画撮影時の位相差AFは、ステップS10、S12、S14、S16及びS18の処理、又はステップS10、S12、S20、S22及びS18の処理が繰り返し行われる。
尚、上記の実施形態では、混色率に応じて関係式を変更するようにしたが、予め混色率と位相差とをパラメータにしてデフォーカス量を読み出すための3次元ルックアップテーブルを準備しておき、この3次元ルックアップテーブルからデフォーカス量を読み出すようにしてもよい。
[他の実施形態]
上記の実施形態では、検出した位相差と混色率とに基づいてデフォーカス量を算出するようにしたが、第2の位相差画素p2、又は第1の位相差画素p1,第2の位相差画素p2への周辺画素からの混色量を算出し、第2の位相差画素p2の出力信号、又は第1の位相差画素p1,第2の位相差画素p2の各出力信号から算出した混色量を減算し、混色のない出力信号を取得するようにしてもよい。この場合、図14の関係式aからデフォーカス量を算出することができる。
また、図10に示すAF領域は、撮像領域中央部の横長領域として設定されているが、B画素は、撮像領域全体に配置されているため、撮像領域内のいずれの位置にAF領域を設定してもB画素に基づく位相差AFを行うことができる。また、図10に示すAF領域は、撮像装置本体を水平に構えたときに水平方向(左右方向:第1、第2の方向)に長いAF領域になっているが、垂直方向(上下方向:第3、第4の方向)に長いAF領域としてもよい。例えば、横撮り撮影か縦撮り撮影かを検出する重力センサ(縦横検出部)等を設け、縦横検出部により横撮り撮影が検出されると、水平方向に長いAF領域内のB画素の出力信号に基づいて位相差を検出し、縦横検出部により縦撮り撮影が検出されると、垂直方向に長いAF領域(縦に構えた撮像装置本体に対して水平方向に長いAF領域)のB画素の出力信号に基づいて位相差を検出することが好ましい。尚、位相差画素を撮像領域全面に配置する場合には、上記B画素による位相差検出と同様に撮像領域内のいずれの位置をAF領域に設定しても位相差検出を行うことができる。
また、本発明に適用される撮像素子は、図1に示したカラーフィルタ配列を有するものに限らず、R画素とB画素とが最小ピッチで隣接し、かつR画素(第1のR画素)に対して第1の方向(左方向)に隣接するB画素と、第1のR画素とは別の第2のR画素に対して第1の方向とは逆の第2の方向(右方向)に隣接するB画素とを有するものであれば、いかなるものでもよい。
また、上記実施形態では、被写体色が赤色または色温度が低いか判定し、被写体色が赤色と判定された場合は、第1のB画素(B画素p3、p5)と第2のB画素(B画素p4、p6)とからの出力信号を用いて位相差を検出するようにしているが、これに代えて、被写体色が赤色と判定された場合には、B画素p3、p5(第1のB画素)からの出力信号からこのB画素に水平方向右側に隣接するR画素からの混色率を求め、求めた混色率を用いて同じく水平方向右側にR画素と隣接している位相差画素p2への混色率を求めるようにしても良い。
入射光の波長が長いほど隣接画素に漏れ込みやすく混色が生じ易いが、被写体色が赤いまたは色温度が低い場合、B画素上の青のフィルタを通過する光はほとんど無く、隣接するR画素からの混色成分がほとんどとなるため、R画素に隣接配置されたB画素の出力信号を用いることで混色率を高精度に算出することができる。これは、R画素及びB画素が水平方向または垂直方向にG画素としか隣接しない従来一般的なベイヤ配列では実現できない構成であり、カラーフィルタ配列の特徴を活かした構成である。
また、R画素が隣接する水平方向(第1の方向または第2の方向)以外の方向に隣接する他の色の画素からの混色の影響も差し引くことが好ましい。例えば、図12において、位相差画素p2は図面向かって右側にR画素と隣接しているが、それ以外にも左側にG画素と、上側にG画素と、下側にB画素と隣接しており、これら水平方向、垂直方向の隣接画素からも混色の影響を受けるため、これら隣接画素からの混色の影響も差し引くことが好ましい。この場合、B画素p3またはp5の出力信号からその混色率を求めて位相差画素p2の混色率とすることができるが、その場合においても従来一般的なベイヤー配列に対してより高精度にその混色率を求めることができる。すなわち、ベイヤ配列ではR画素に水平方向、垂直方向に隣接する画素はG画素だけであり、そのG画素の出力信号から混色率を求めることが考えられるが、そのG画素は水平方向または垂直方向に2つのR画素に隣接しており、R画素からG画素、G画素からR画素へと双方に混色が生じて混在するため、G画素において周辺画素からの混色率を精度良く算出することが難しいが、本発明のようにB画素において周辺からの混色率を算出することにより、波長が短いためB画素から周囲の画素への混色(光の漏れこみ)が非常に少なく混色が混在しないため、精度良く周辺画素からの混色成分を算出することができる。
また、上記特徴及び効果は、被写体色が赤色または色温度が低いかの判定を行わない場合でも得ることができる。すなわち、カラーフィルタ配列の特徴と混色が影響する範囲が広くなく最小画素ピッチで隣接する画素からの混色の影響が支配的であることを活かし、隣接するR画素からの混色率を最小画素ピッチで隣接するB画素の出力信号から求め、R画素に隣接する位相差画素の混色率とすることで、位相差画素への混色率を精度良く算出できる。
また、カラーフィルタ配列は図4、5、6、12に示した配列に限られず、図15及び図16に示すような配列でも良い。
図15に示すカラーフィルタ配列は、6×6画素に対応する正方配列パターンからなる基本配列パターン(太枠で示したパターン)を含み、この基本配列パターンが水平及び垂直方向に繰り返し配置されている。即ち、このカラーフィルタ配列は、R、G、Bの各色のフィルタ(Rフィルタ、Gフィルタ、Bフィルタ)が周期性をもって配列されている。
図16は、図15に示した基本配列パターンを、3×3画素に4分割した状態に関して示している。
図16に示すように基本配列パターンは、実線の枠で囲んだ3×3画素のA配列と、破線の枠で囲んだ3×3画素のB配列とが、水平、垂直方向に交互に並べられた配列となっていると捉えることもできる。
A配列は、中心にRフィルタが配置され、4隅にBフィルタが配置され、中心のRフィルタを挟んで上下左右にGフィルタが配置されている。一方、B配列は、中心にBフィルタが配置され、4隅にRフィルタが配置され、中心のBフィルタを挟んで上下左右にGフィルタが配置されている。これらのA配列とB配列とは、RフィルタとBフィルタとの位置関係が逆転しているが、その他の配置は同様になっている。
図16に示すように第1の位相差画素p1は、A配列のRフィルタの右側に隣接するGフィルタに対応する画素位置に配置され、第2の位相差画素p2は、B配列のBフィルタの右側に隣接するGフィルタに対応する画素位置に配置されている。
また、図16に示すように基本配列パターンの中央部の4画素は、隣接してRB画素、及びBR画素が配置され、かつこれらの4画素の4辺には、G画素が隣接している。
従って、図15及び図16に示したカラーフィルタ配列を有する撮像素子を備えた撮像装置においても、極端に赤い被写体や色温度が低い場合には、第1、第2の位相差画素の代わりに、通常のB画素の出力信号を使用して位相差AFを精度よく行うことができる。
即ち、本発明が適用される撮像素子としては、上記の実施形態に限らず、第1、第2の位相差画素が配置され、かつR画素(第1のR画素)に対して最小ピッチで隣接する第1の方向(左方向)のB画素(第1のB画素)と、第1のR画素とは異なるR画素(第2のR画素)に対して第1の方向とは逆の第2の方向(右方向)に隣接するB画素(第2のB画素)とを有するものであれば、いかなる撮像素子でもよい。
撮像装置10の他の実施形態としては、例えば、カメラ機能を有する携帯電話機やスマートフォン、PDA(Personal Digital Assistants)、携帯型ゲーム機が挙げられる。以下、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
<スマートフォンの構成>
図17は、撮像装置10の他の実施形態であるスマートフォン500の外観を示すものである。図17に示すスマートフォン500は、平板状の筐体502を有し、筐体502の一方の面に表示部としての表示パネル521と、入力部としての操作パネル522とが一体となった表示入力部520を備えている。また、筐体502は、スピーカ531と、マイクロホン532、操作部540と、カメラ部541とを備えている。なお、筐体502の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図18は、図17に示すスマートフォン500の構成を示すブロック図である。図18に示すように、スマートフォンの主たる構成要素として、無線通信部510と、表示入力部520と、通話部530と、操作部540と、カメラ部541と、記憶部550と、外部入出力部560と、GPS(Global Positioning System)受信部570と、モーションセンサ部580と、電源部590と、主制御部501とを備える。また、スマートフォン500の主たる機能として、基地局装置BSと移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部510は、主制御部501の指示にしたがって、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部520は、主制御部501の制御により、画像(静止画及び動画)や文字情報などを表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル521と、操作パネル522とを備える。生成された3D画像を鑑賞する場合には、表示パネル521は、3D表示パネルであることが好ましい。
表示パネル521は、LCD(Liquid Crystal Display)、OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル522は、表示パネル521の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部501に出力する。次いで、主制御部501は、受信した検出信号に基づいて、表示パネル521上の操作位置(座標)を検出する。
図17に示すように、スマートフォン500の表示パネル521と操作パネル522とは一体となって表示入力部520を構成しているが、操作パネル522が表示パネル521を完全に覆うような配置となっている。この配置を採用した場合、操作パネル522は、表示パネル521外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル522は、表示パネル521に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル521に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
尚、表示領域の大きさと表示パネル521の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル522が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体502の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル522で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部530は、スピーカ531やマイクロホン532を備え、マイクロホン532を通じて入力されたユーザの音声を主制御部501にて処理可能な音声データに変換して主制御部501に出力したり、無線通信部510あるいは外部入出力部560により受信された音声データを復号してスピーカ531から出力するものである。また、図17に示すように、例えば、スピーカ531を表示入力部520が設けられた面と同じ面に搭載し、マイクロホン532を筐体502の側面に搭載することができる。
操作部540は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図28に示すように、操作部540は、スマートフォン500の筐体502の表示部の下部、下側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部550は、主制御部501の制御プログラムや制御データ、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部550は、スマートフォン内蔵の内部記憶部551と着脱自在な外部メモリスロットを有する外部記憶部552により構成される。なお、記憶部550を構成するそれぞれの内部記憶部551と外部記憶部552は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、Micro SD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。
外部入出力部560は、スマートフォン500に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥースBluetooth(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン500に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなどがある。外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン500の内部の各構成要素に伝達することや、スマートフォン500の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部570は、主制御部501の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、当該スマートフォン500の緯度、経度、高度からなる位置を検出する。GPS受信部570は、無線通信部510や外部入出力部560(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部580は、例えば、3軸の加速度センサなどを備え、主制御部501の指示にしたがって、スマートフォン500の物理的な動きを検出する。スマートフォン500の物理的な動きを検出することにより、スマートフォン500の動く方向や加速度が検出される。この検出結果は、主制御部501に出力されるものである。
電源部590は、主制御部501の指示にしたがって、スマートフォン500の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部501は、マイクロプロセッサを備え、記憶部550が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン500の各部を統括して制御するものである。また、主制御部501は、無線通信部510を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能
を備える。
アプリケーション処理機能は、記憶部550が記憶するアプリケーションソフトウェアにしたがって主制御部501が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部560を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能、本発明に係る2D画像から3D画像を生成する機能などがある。
また、主制御部501は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部520に表示する等の画像処理機能を備える。画像処理機能とは、主制御部501が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部520に表示する機能のことをいう。
更に、主制御部501は、表示パネル521に対する表示制御と、操作部540、操作パネル522を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部501は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成するためのウィンドウを表示する。尚、スクロールバーとは、表示パネル521の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部501は、操作部540を通じたユーザ操作を検出したり、操作パネル522を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部501は、操作パネル522に対する操作位置が、表示パネル521に重なる重畳部分(表示領域)か、それ以外の表示パネル521に重ならない外縁部分(非表示領域)かを判定し、操作パネル522の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部501は、操作パネル522に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部541は、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge-Coupled Device)などの撮像素子を用いて電子撮影するデジタルカメラであり、図3のブロック図に示した機能と同等の機能を備えている。また、カメラ部541は、主制御部501の制御により、撮像によって得た画像データを例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換し、記憶部550に記録したり、外部入出力部560や無線通信部510を通じて出力することができる。図17に示すにスマートフォン500において、カメラ部541は表示入力部520と同じ面に搭載されているが、カメラ部541の搭載位置はこれに限らず、表示入力部520の背面に搭載されてもよいし、あるいは、複数のカメラ部541が搭載されてもよい。なお、複数のカメラ部541が搭載されている場合には、撮影に供するカメラ部541を切り替えて単独にて撮影したり、あるいは、複数のカメラ部541を同時に使用して撮影することもできる。
また、カメラ部541はスマートフォン500の各種機能に利用することができる。例えば、表示パネル521にカメラ部541で取得した画像を表示することや、操作パネル522の操作入力のひとつとして、カメラ部541の画像を利用することができる。また、GPS受信部570が位置を検出する際に、カメラ部541からの画像を参照して位置を検出することもできる。更には、カメラ部541からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン500のカメラ部541の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部541からの画像
をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データにGPS受信部570により取得した位置情報、マイクロホン532により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部580により取得した姿勢情報等などを付加して記憶部550に記録したり、外部入出力部560や無線通信部510を通じて出力することもできる。
[その他]
この実施形態では、焦点検出領域における被写体色が赤色か否かの判別を、焦点検出領域のR画素の出力信号の積算値(ΣR)とG画素の出力信号の積算値(ΣG)との比(ΣR/ΣG)が予め設定した閾値以上か否かにより行うようにしたが、これに限らず、焦点検出領域のR画素の出力信号の積算平均値、G画素の出力信号の積算平均値、及びR画素の出力信号の積算平均値に基づいて焦点検出領域の平均の色が、色空間内のRの領域に属するか否か等により判別するようにしてもよい。
また、本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
10…撮像装置、12…撮影レンズ、14…絞り、15…メカシャッタ、16…撮像素子、24…デジタル信号処理部、30…液晶モニタ、32…センサ駆動部、33…シャッタ駆動部、34…絞り駆動部、36…レンズ駆動部、40…中央処理装置(CPU)、42…AF処理部、47…ROM(EEPROM)、48…メモリ、500…スマートフォン
本発明の更に他の態様に係る撮像装置において、第1の位相差画素と第2の位相差画素とは、第1の方向の1ライン上に交互に配列され、位相差検出部は、第1の方向の第3のラインに配列された第1の位相差画素の出力信号と、第3のラインと近接した第4のラインに配設された第2の位相差画素の出力信号とに基づいて第3の位相差を検出し、第1の方向の第3のラインに配列された第2の位相差画素の出力信号と、第4のラインに配設された第1の位相差画素の出力信号とに基づいて第4の位相差を検出し、検出した第3、第4の位相差を平均して位相差を検出することが好ましい。これにより、第3のライン上の第1、第2の位相差画素と、第のライン上の第1、第2の位相差画素とが相対的にずれても、その影響を受けずに位相差を検出することができる。
図14に示すように混色がない場合の位相差とデフォーカス量との関係を示す関係式をaとすると、混色により関係式aが変化する。例えば、関係式aから関係式bに変化する。従って、混色率に応じて関係式を変更し、デフォーカス量を補正する。図14に示す例では、検出された位相差がxのとき、混色がない場合には、関係式aによりデフォーカス量yが算出されるが、同じ位相差xが検出された場合でも混色が発生し、関係式bに変化すると、デフォーカス量y’が算出される。
また、本発明に適用される撮像素子は、図に示したカラーフィルタ配列を有するものに限らず、R画素とB画素とが最小ピッチで隣接し、かつR画素(第1のR画素)に対して第1の方向(左方向)に隣接するB画素と、第1のR画素とは別の第2のR画素に対して第1の方向とは逆の第2の方向(右方向)に隣接するB画素とを有するものであれば、いかなるものでもよい。
操作部540は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図17に示すように、操作部540は、スマートフォン500の筐体502の表示部の下部、下側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
スマートフォン500に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるイヤホンなどがある。外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン500の内部の各構成要素に伝達することや、スマートフォン500の内部のデータが外部機器に伝送されるようにすることができる。
[その他]
この実施形態では、焦点検出領域における被写体色が赤色か否かの判別を、焦点検出領域のR画素の出力信号の積算値(ΣR)とG画素の出力信号の積算値(ΣG)との比(ΣR/ΣG)が予め設定した閾値以上か否かにより行うようにしたが、これに限らず、焦点検出領域のR画素の出力信号の積算平均値、G画素の出力信号の積算平均値、及び画素の出力信号の積算平均値に基づいて焦点検出領域の平均の色が、色空間内のRの領域に属するか否か等により判別するようにしてもよい。

Claims (18)

  1. 撮影レンズと、
    少なくとも赤(R)、緑(G)、青(B)画素と、前記撮影レンズの異なる第1、第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1、第2の位相差画素とを含み、前記R画素のうち第1のR画素に対して最小ピッチで隣接する第1の方向の第1のB画素と前記R画素のうち第2のR画素に対して前記第1の方向とは逆の第2の方向に隣接する第2のB画素とを有する撮像素子と、
    前記撮像素子に設定された焦点検出領域の出力信号に基づいて前記焦点検出領域における被写体色が赤色か否かを判別する判別部と、
    前記判別部により前記焦点検出領域における被写体色が赤色でないと判別されると、前記焦点検出領域内の前記第1、第2の位相差画素の各出力信号に基づいて各出力信号の位相差を検出し、前記判別部により前記焦点検出領域における被写体色が赤色であると判別されると、前記焦点検出領域内の前記第1、第2のB画素の各出力信号に基づいて各出力信号の位相差を検出する位相差検出部と、
    前記位相差検出部により検出された位相差に基づいて前記撮影レンズの焦点位置を調節する焦点調節部と、
    を備えた撮像装置。
  2. 前記判別部は、前記撮像素子の予め設定された焦点検出領域のR画素の出力信号の積算値とG画素の出力信号の積算値との比を算出し、前記算出した比を予め設定した閾値と比較して前記焦点検出領域における被写体色が赤色と判別する、請求項1に記載の撮像装置。
  3. 前記第1、第2の位相差画素は、それぞれGのフィルタ又は無色のフィルタが配置された画素である、請求項1又は2に記載の撮像装置。
  4. 前記第1のB画素と第2のB画素とは、前記第1の方向の1ライン上に交互に配列され、
    前記位相差検出部は、
    前記第1の方向の第1のラインに配列された前記第1のB画素の出力信号と、前記第1のラインと近接した第2のラインに配設された第2のB画素の出力信号とに基づいて第1の位相差を検出し、
    前記第1の方向の第1のラインに配列された前記第2のB画素の出力信号と、前記第2のラインに配設された第1のB画素の出力信号とに基づいて第2の位相差を検出し、
    前記検出した第1、第2の位相差を平均して前記位相差を検出する、
    請求項1から3のいずれか1項に記載の撮像装置。
  5. 前記第1の位相差画素と第2の位相差画素とは、前記第1の方向の1ライン上に交互に配列され、
    前記位相差検出部は、
    前記第1の方向の第3のラインに配列された前記第1の位相差画素の出力信号と、前記第3のラインと近接した第4のラインに配設された第2の位相差画素の出力信号とに基づいて第3の位相差を検出し、
    前記第1の方向の第3のラインに配列された前記第2の位相差画素の出力信号と、前記第4のラインに配設された第1の位相差画素の出力信号とに基づいて第4の位相差を検出し、
    前記検出した第3、第4の位相差を平均して前記位相差を検出する、
    請求項1から4のいずれか1項に記載の撮像装置。
  6. 前記撮像素子のライン毎に順次信号を読み出すローリング読出部と、
    前記撮像素子に入射する光を遮断する機械的シャッタと、を備え、
    前記位相差検出部は、前記機械的シャッタを開いた状態で前記ローリング読出部により連続的に読み出された信号に基づいて連続的に位相差を検出する、
    請求項4又は5に記載の撮像装置。
  7. 前記位相差検出部により検出された位相差と前記第1、第2の位相差画素の少なくとも一方の位相差画素への周辺画素からの混色率とに基づいて前記撮影レンズのデフォーカス量を求めるデフォーカス量算出部を備え、
    前記焦点調節部は、前記デフォーカス量算出部により求めたデフォーカス量がゼロになる位置に前記撮影レンズを移動させる、
    請求項1から6のいずれか1項に記載の撮像装置。
  8. 前記位相差検出部は、
    前記第1、第2の位相差画素の少なくとも一方の位相差画素への周辺画素からの混色率及び周辺画素の出力信号に基づいて前記第1、第2の位相差画素の少なくとも一方の位相差画素の出力信号を補正し、
    補正後の第1、第2の位相差画素の出力信号に基づいて前記位相差を検出する、
    請求項1から6のいずれか1項に記載の撮像装置。
  9. 前記第1、第2の位相差画素のうちのいずれか一方の位相差画素の前記第1の方向に隣接してR画素が配置され、
    前記周辺画素からの混色率は、前記第1の方向に隣接してR画素が配置された位相差画素へのR画素からの混色率である、
    請求項7又は8に記載の撮像装置。
  10. 前記位相差検出部は、前記第1のB画素の出力信号と第2のB画素の出力信号との比に基づいて前記周辺画素からの混色率を求める、請求項9に記載の撮像装置。
  11. 前記撮像素子は、前記第1、第2の方向に第1、第2のB画素を有し、かつ前記第1、第2の方向に垂直な第3、第4の方向に前記第1、第2のB画素を有し、
    前記位相差検出部は、前記第1、第2の方向の第1、第2のB画素、又は第3、第4の方向の第1、第2のB画素の出力信号に基づいて位相差を検出する、
    請求項1から10のいずれか1項に記載の撮像装置。
  12. 前記第1、第2の方向は、撮像装置本体を水平に構えたときの左右方向であり、
    横撮り撮影か縦撮り撮影かを検出する縦横検出部を備え、
    前記位相差検出部は、
    前記縦横検出部により横撮り撮影が検出されると、前記第1、第2の方向の第1、第2のB画素の出力信号に基づいて位相差を検出し、
    前記縦横検出部により縦撮り撮影が検出されると、前記第3、第4の方向の第1、第2のB画素の出力信号に基づいて位相差を検出する、
    請求項11に記載の撮像装置。
  13. 前記撮像素子は、前記第1、第2の方向及び第1、第2の方向に垂直な第3、第4の方向に6×6画素に対応するカラーフィルタの基本配列パターンを有し、該基本配列パターンが前記第1、第2の方向及び第3、第4の方向に繰り返し配設され、
    前記基本配列パターンは、
    3×3画素に対応する第1の配列であって、中心と4隅にGフィルタが配置され、中心のGフィルタを挟んで上下にBフィルタが配置され、左右にRフィルタが配列された第1の配列と、
    3×3画素に対応する第2の配列であって、中心と4隅にGフィルタが配置され、中心のGフィルタを挟んで上下にRフィルタが配置され、左右にBフィルタが配列された第2の配列とが、それぞれ対角位置に配置されて構成され、
    前記撮像素子の焦点検出領域の前記第1、第2の配列の4隅の1つのGフィルタを有する画素が、それぞれ前記第1、第2の位相差画素として構成されている、
    請求項1から12のいずれか1項に記載の撮像装置。
  14. 撮影レンズと、
    少なくとも赤(R)、緑(G)、青(B)画素と、前記撮影レンズの異なる第1、第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1、第2の位相差画素とを含み、前記R画素のうち第1のR画素に対して最小ピッチで隣接する第1の方向の第1のB画素と前記R画素のうち第2のR画素に対して前記第1の方向とは逆の第2の方向に隣接する第2のB画素とを有し、前記第1、第2の位相差画素のうちの少なくとも一方の位相差画素は前記第1の方向または第2の方向に隣接してR画素が配置される撮像素子と、
    前記撮像素子に設定された焦点検出領域内の前記第1、第2の位相差画素の各出力信号に基づいて各出力信号の位相差を検出する位相差検出部と、
    前記位相差検出部により出力された位相差に基づいて前記撮影レンズの焦点位置を調節する焦点調節部と、を備え、
    前記位相差検出部は、前記第1、第2の位相差画素の少なくとも一方の位相差画素への周辺画素からの混色率を前記第1のB画素の出力信号と第2のB画素の出力信号との少なくとも一方の出力信号に基づいて求め、かつ前記求めた混色率及び前記周辺画素の出力信号に基づいて前記第1、第2の位相差画素の少なくとも一方の位相差画素の出力信号を補正する、
    撮像装置。
  15. 前記焦点検出領域の出力信号に基づいて前記焦点検出領域における被写体色が赤色か否かを判別する判別部を備え、
    前記位相差検出部は、前記判別部により前記焦点検出領域における被写体色が赤色であると判別されると、前記第1のB画素の出力信号と第2のB画素の出力信号の少なくとも一方の出力信号から前記周辺画素からの混色率を求め、
    前記混色率及び周辺画素の出力信号に基づいて前記第1、第2の位相差画素の少なくとも一方の位相差画素の出力信号を補正し、前記補正がされた第1、第2の位相差画素の出力信号に基づいて前記位相差を検出する、
    請求項14に記載の撮像装置。
  16. 撮影レンズと、
    少なくとも赤(R)、緑(G)、青(B)画素と、前記撮影レンズの異なる第1、第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1、第2の位相差画素とを含み、前記R画素のうち第1のR画素に対して最小ピッチで隣接する第1の方向の第1のB画素と前記R画素のうち第2のR画素に対して前記第1の方向とは逆の第2の方向に隣接する第2のB画素とを有し、前記第1、第2の位相差画素のうちの少なくとも一方の位相差画素は前記第1の方向または第2の方向に隣接してR画素が配置される撮像素子と、
    前記撮像素子に設定された焦点検出領域内の前記第1、第2の位相差画素の各出力信号に基づいて各出力信号の位相差を検出する位相差検出部と、
    前記位相差検出部により検出された位相差と前記第1、第2の位相差画素の少なくとも一方の位相差画素への周辺画素からの混色率とに基づいて前記撮影レンズのデフォーカス量を求めるデフォーカス量算出部と、
    前記デフォーカス量算出部により求めたデフォーカス量がゼロになる位置に前記撮影レンズを移動させる焦点調節部と、を備え、
    前記位相差検出部は、前記第1のB画素の出力信号と第2のB画素の出力信号の少なくとも一方の出力信号に基づいて前記周辺画素からの混色率を求める、
    撮像装置。
  17. 前記焦点検出領域の出力信号に基づいて前記焦点検出領域における被写体色が赤色か否かを判別する判別部を備え、
    前記位相差検出部は、前記判別部により前記焦点検出領域における被写体色が赤色であると判別されると、前記第1のB画素の出力信号と第2のB画素の出力信号の少なくとも一方の出力信号から前記周辺画素からの混色率を求め、
    前記デフォーカス量算出部は、前記位相差検出部により検出された位相差と前記周辺画素からの混色率とに基づいて前記撮影レンズのデフォーカス量を求める、
    請求項16に記載の撮像装置。
  18. 少なくとも赤(R)、緑(G)、青(B)画素と、撮影レンズの異なる第1、第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1、第2の位相差画素とを含み、前記R画素のうち第1のR画素に対して最小ピッチで隣接する第1の方向の第1のB画素と前記R画素のうち第2のR画素に対して前記第1の方向とは逆の第2の方向に隣接する第2のB画素とを有する撮像素子から出力信号を取得する信号取得工程と、
    前記信号取得工程で取得した出力信号のうちの前記撮像素子に設定された焦点検出領域の出力信号に基づいて前記焦点検出領域における被写体色が赤色か否かを判別する判別工程と、
    前記判別工程により前記焦点検出領域における被写体色が赤色でないと判別されると、前記焦点検出領域内の前記第1、第2の位相差画素の各出力信号に基づいて各出力信号の位相差を検出し、前記判別工程により前記焦点検出領域における被写体色が赤色であると判別されると、前記焦点検出領域内の前記第1、第2のB画素の各出力信号に基づいて各出力信号の位相差を検出する位相差検出工程と、
    前記位相差検出工程により検出された位相差に基づいて前記撮影レンズの焦点位置を調節する焦点調節工程と、
    を含む自動焦点調節方法。
JP2014520997A 2012-06-19 2013-04-23 撮像装置及び自動焦点調節方法 Expired - Fee Related JP5697801B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014520997A JP5697801B2 (ja) 2012-06-19 2013-04-23 撮像装置及び自動焦点調節方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012137774 2012-06-19
JP2012137774 2012-06-19
PCT/JP2013/061840 WO2013190899A1 (ja) 2012-06-19 2013-04-23 撮像装置及び自動焦点調節方法
JP2014520997A JP5697801B2 (ja) 2012-06-19 2013-04-23 撮像装置及び自動焦点調節方法

Publications (2)

Publication Number Publication Date
JP5697801B2 JP5697801B2 (ja) 2015-04-08
JPWO2013190899A1 true JPWO2013190899A1 (ja) 2016-05-26

Family

ID=49768506

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014520997A Expired - Fee Related JP5697801B2 (ja) 2012-06-19 2013-04-23 撮像装置及び自動焦点調節方法

Country Status (4)

Country Link
US (1) US9237319B2 (ja)
JP (1) JP5697801B2 (ja)
CN (1) CN104380168B (ja)
WO (1) WO2013190899A1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5775976B2 (ja) * 2012-11-22 2015-09-09 富士フイルム株式会社 撮像装置、デフォーカス量演算方法、及び撮像光学系
JP5778873B2 (ja) * 2012-12-07 2015-09-16 富士フイルム株式会社 画像処理装置、画像処理方法及びプログラム、並びに記録媒体
JP6104049B2 (ja) * 2013-05-21 2017-03-29 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理用プログラム
JP5775918B2 (ja) * 2013-09-27 2015-09-09 オリンパス株式会社 撮像装置、画像処理方法及び画像処理プログラム
JP2015129846A (ja) * 2014-01-07 2015-07-16 キヤノン株式会社 撮像装置およびその制御方法
JP6363857B2 (ja) * 2014-03-24 2018-07-25 キヤノン株式会社 撮像素子、撮像装置、画像処理方法、並びにプログラム
US9432568B2 (en) * 2014-06-30 2016-08-30 Semiconductor Components Industries, Llc Pixel arrangements for image sensors with phase detection pixels
JP6584059B2 (ja) * 2014-09-26 2019-10-02 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
US10044959B2 (en) * 2015-09-24 2018-08-07 Qualcomm Incorporated Mask-less phase detection autofocus
JP6251851B2 (ja) * 2015-09-30 2017-12-20 富士フイルム株式会社 合焦制御装置、合焦制御方法、合焦制御プログラム、レンズ装置、撮像装置
US10264174B2 (en) * 2015-12-08 2019-04-16 Samsung Electronics Co., Ltd. Photographing apparatus and focus detection method using the same
CN106937107B (zh) * 2015-12-29 2019-03-12 宁波舜宇光电信息有限公司 基于色差的摄像模组调焦方法
WO2018181164A1 (ja) * 2017-03-30 2018-10-04 富士フイルム株式会社 撮像装置及び画像処理方法
WO2021028754A1 (ja) * 2019-08-09 2021-02-18 株式会社半導体エネルギー研究所 撮像装置、または撮像システム
JP6911250B2 (ja) * 2020-01-08 2021-07-28 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、制御方法、及びプログラム
JP2021110794A (ja) * 2020-01-08 2021-08-02 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co., Ltd 制御装置、撮像装置、制御方法、及びプログラム
CN114845015A (zh) * 2020-10-15 2022-08-02 Oppo广东移动通信有限公司 图像传感器、控制方法、成像装置、终端及可读存储介质

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02210995A (ja) 1989-02-10 1990-08-22 Fuji Photo Film Co Ltd カラー固体撮像デバイス
DE19616440A1 (de) 1996-04-25 1997-10-30 Eastman Kodak Co Verfahren und Vorrichtung zur Gewinnung eines vollen Farbbildes oder Multispektralbildes aus Bilddaten eines CCD-Bildsensors mit Mosaik-Farbfilter
JP5151075B2 (ja) 2005-06-21 2013-02-27 ソニー株式会社 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム
EP2179581B1 (en) * 2007-08-10 2015-11-11 Canon Kabushiki Kaisha Image-pickup apparatus and control method therof
JP5374862B2 (ja) * 2007-11-16 2013-12-25 株式会社ニコン 焦点検出装置および撮像装置
JP5109641B2 (ja) * 2007-12-18 2012-12-26 ソニー株式会社 撮像素子および撮像装置
US7745779B2 (en) 2008-02-08 2010-06-29 Aptina Imaging Corporation Color pixel arrays having common color filters for multiple adjacent pixels for use in CMOS imagers
JP5251323B2 (ja) * 2008-07-15 2013-07-31 株式会社ニコン 撮像装置
JP5434761B2 (ja) * 2010-04-08 2014-03-05 株式会社ニコン 撮像デバイスおよび撮像装置
JP2011257565A (ja) 2010-06-08 2011-12-22 Canon Inc 撮像装置
JP5642433B2 (ja) * 2010-06-15 2014-12-17 富士フイルム株式会社 撮像装置及び画像処理方法
JP2012022147A (ja) * 2010-07-14 2012-02-02 Olympus Corp 位相差検出用情報取得装置、位相差検出装置、撮像装置
JP5513623B2 (ja) * 2010-08-24 2014-06-04 富士フイルム株式会社 固体撮像装置
JP5597078B2 (ja) * 2010-09-17 2014-10-01 キヤノン株式会社 撮像装置及びその制御方法
JP5691440B2 (ja) * 2010-11-26 2015-04-01 株式会社ニコン 撮像装置
US9818202B2 (en) * 2011-12-13 2017-11-14 Sony Corporation Object tracking based on distance prediction

Also Published As

Publication number Publication date
CN104380168A (zh) 2015-02-25
US9237319B2 (en) 2016-01-12
WO2013190899A1 (ja) 2013-12-27
JP5697801B2 (ja) 2015-04-08
CN104380168B (zh) 2016-04-20
US20150146052A1 (en) 2015-05-28

Similar Documents

Publication Publication Date Title
JP5697801B2 (ja) 撮像装置及び自動焦点調節方法
JP5740054B2 (ja) 撮像装置及び画像処理方法
JP5542249B2 (ja) 撮像素子及びこれを用いた撮像装置及び撮像方法
JP5749403B2 (ja) 撮像装置及び画像処理方法
JP5775977B2 (ja) 画像処理装置、撮像装置、画像処理方法、及び画像処理プログラム
WO2014034486A1 (ja) 画像処理装置、方法、プログラム及び記録媒体並びに撮像装置
WO2014006783A1 (ja) 撮像装置及び画像処理方法
JP5753323B2 (ja) 撮像装置及び画像表示方法
JPWO2013183406A1 (ja) 撮像装置及び画像表示方法
US11496666B2 (en) Imaging apparatus with phase difference detecting element
JP5833254B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
WO2014106917A1 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP2020092431A (ja) 撮像装置及び画像処理方法
JPWO2013145821A1 (ja) 撮像素子及び撮像装置
JP5740053B6 (ja) 撮像装置及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141202

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20141202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141202

TRDD Decision of grant or rejection written
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20150120

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150210

R150 Certificate of patent or registration of utility model

Ref document number: 5697801

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees