JP2009086424A - 撮像素子および撮像装置 - Google Patents

撮像素子および撮像装置 Download PDF

Info

Publication number
JP2009086424A
JP2009086424A JP2007257409A JP2007257409A JP2009086424A JP 2009086424 A JP2009086424 A JP 2009086424A JP 2007257409 A JP2007257409 A JP 2007257409A JP 2007257409 A JP2007257409 A JP 2007257409A JP 2009086424 A JP2009086424 A JP 2009086424A
Authority
JP
Japan
Prior art keywords
pixels
imaging
pixel
focus detection
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007257409A
Other languages
English (en)
Other versions
JP5045350B2 (ja
Inventor
Yosuke Kusaka
洋介 日下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2007257409A priority Critical patent/JP5045350B2/ja
Priority to US12/285,008 priority patent/US8164679B2/en
Publication of JP2009086424A publication Critical patent/JP2009086424A/ja
Application granted granted Critical
Publication of JP5045350B2 publication Critical patent/JP5045350B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】撮像用画素と焦点検出用画素とが二次元状に配列された撮像素子の撮像出力を用いてライブビュー表示と焦点検出を同時に行う。
【解決手段】2次元周期格子上の画素位置おいて互いに近接して配置される撮像用画素310および焦点検出用画素313,314と、順次近接する複数の画素を選択し、選択された画素の出力を加算して出力する加算手段320、505、507、とを備えた撮像素子において、加算手段320、505、507による1回の加算動作において、撮像用画素310の出力のみ、または焦点検出用画素313、314の出力のみが加算されるように、撮像用画素310および焦点検出用画素313、314の配置パターンと加算手段320、505、507による画素の選択パターンとを一致させる。
【選択図】図10

Description

本発明は撮像素子と、その撮像素子と用いた撮像装置に関する。
2次元状に撮像用画素が配列された撮像素子の一部の撮像用画素を焦点検出用画素に置き換えた撮像素子を用い、撮像と焦点検出を行う撮像装置が開示されている(例えば、特許文献1参照)。
また、撮像用画素の出力を加算し、加算した撮像用画素の出力を表示器に表示するという動作を短時間に周期的に繰り返す、いわゆるライブビュー表示を行う撮像装置が知られている。なお、撮像用画素の出力を加算する理由は、画素出力のデータ数を減少させることによって画素出力の読み出しの高速化を図り、画像表示の更新周期を短くするためである。
この出願の発明に関連する先行技術文献としては次のものがある。
特開2007−155929号公報
しかしながら、上述した従来の撮像装置によりライブビュー表示と同時に焦点検出動作を行う場合には、画素加算時に撮像用画素と焦点検出用画素の出力が混合し、画素加算出力を用いた表示画像の品質が劣化するおそれや、画素加算出力を用いて焦点検出ができなくなるというおそれがある。
(1) 請求項1の発明は、2次元周期格子上の画素位置おいて、互いに近接して配置される撮像用画素および焦点検出用画素と、順次近接する複数の前記画素を選択し、選択された前記画素の出力を加算して出力する加算手段とを備えた撮像素子において、
前記加算手段による1回の加算動作において、前記撮像用画素の出力のみ、または前記焦点検出用画素の出力のみが加算されるように、前記撮像用画素および前記焦点検出用画素の配置パターンと前記加算手段による画素の選択パターンとを一致させた。
(2) 請求項2の発明は、2次元周期格子上の画素位置おいて、互いに近接して配置される撮像用画素、第1焦点検出用画素および第2焦点検出用画素の3種類の画素と、順次近接する複数の前記画素を選択し、選択された前記画素の出力を加算する加算手段とを備えた撮像素子において、
前記加算手段による1回の加算動作において、同一種類の前記画素の出力のみが加算されるように、前記撮像用画素、前記第1焦点検出用画素および前記第2焦点検出用画素の配置パターンと前記加算手段による画素の選択パターンとを一致させた。
(3) 請求項3の発明は、2次元周期格子上の画素位置おいて、互いに近接して配置される複数種類の撮像用画素、第1焦点検出用画素および第2焦点検出用画素と、順次近接する複数の前記画素を選択し、選択された前記画素の出力を加算する加算手段とを備えた撮像素子において、
前記加算手段による1回の加算動作において、同一種類の前記画素の出力のみが加算されるように、複数種類の前記撮像用画素、前記第1焦点検出用画素および前記第2焦点検出用画素の配置パターンと前記加算手段による画素の選択パターンとを一致させた。
(4) 請求項4の撮像素子は、前記撮像用画素は光学系により撮像素子上に形成される像を受光し、前記第1焦点検出用画素および前記第2焦点検出用画素は前記光学系を通る一対の光束の内の一方と他方をそれぞれ受光する。
(5) 請求項5の撮像素子は、前記第1焦点検出用画素はマイクロレンズとその背後に配置された第1光電変換部を有し、前記第2焦点検出用画素はマイクロレンズとその背後に配置された前記第1光電変換部と対になる第2光電変換部を有する。
(6) 請求項6の撮像素子は、前記撮像用画素は受光する光の分光特性が異なる複数種類の撮像用画素からなる。
(7) 請求項7の発明は、光学系による像を受光する請求項2または請求項3に記載の撮像素子と、前記撮像素子の動作を制御する制御手段と、前記加算手段により加算された前記撮像用画素の出力を用いて画像を表示する画像表示手段と、前記加算手段により加算された前記第1焦点検出用画素の出力と前記第2焦点検出用画素の出力とに基づいて前記光学系の焦点調節状態を検出する焦点検出手段とを備える撮像装置である。
(8) 請求項8の撮像装置は、前記制御手段によって、前記撮像素子を周期的に動作させ、動作毎に前記画像表示手段に表示される画像と焦点調節状態の検出結果とが同時に更新される。
(9) 請求項9の撮像装置は、前記制御手段によって、前記加算手段による加算動作の開始と停止を制御するようにしたものである。
(10) 請求項10の撮像装置は、前記制御手段によって、撮像時には前記加算手段の加算動作を停止して単発的に前記撮像素子を動作させ、加算されていない前記撮像用画素の出力を前記撮像素子から出力させるようにしたものである。
(11) 請求項11の撮像装置は、前記焦点検出手段の検出結果に応じて前記光学系の焦点調節を行う焦点調節手段を備える。
(12) 請求項12の撮像装置は、前記制御手段によって、撮像前に前記加算手段の加算動作を停止して単発的に前記撮像素子を動作させ、加算されていない前記第1焦点検出用画素と前記第2焦点検出用画素の出力を前記撮像素子から出力させ、前記焦点検出手段により該出力に応じて焦点検出を行い、前記焦点調節手段により該焦点検出結果に基づいて焦点調節を行う。
(13) 請求項13の撮像装置は、加算された前記焦点検出用画素の出力に対応する前記撮像用画素の出力を補間する補間手段を備え、前記画像表示手段によって、前記加算手段により加算された前記撮像用画素の出力と前記補間手段により補間された出力に応じて画像を表示するようにしたものである。
本発明によれば、撮像用画素と焦点検出用画素とが二次元状に配列された撮像素子の撮像出力を用いてライブビュー表示と焦点検出を同時に行うことができる。
一実施の形態の焦点検出装置を備えた撮像装置として、レンズ交換式デジタルスチルカメラを例に上げて説明する。図1は一実施の形態のカメラの構成を示す横断面図である。一実施の形態のデジタルスチルカメラ201は交換レンズ202とカメラボディ203から構成され、交換レンズ202がマウント部204を介してカメラボディ203に装着される。
交換レンズ202はレンズ209、ズーミング用レンズ208、フォーカシング用レンズ210、絞り211、レンズ駆動制御装置206などを備えている。レンズ駆動制御装置206は不図示のマイクロコンピューター、メモリ、駆動制御回路などから構成され、フォーカシング用レンズ210の焦点調節と絞り211の開口径調節のための駆動制御や、ズーミング用レンズ208、フォーカシング用レンズ210および絞り211の状態検出などを行う他、後述するボディ駆動制御装置214との通信によりレンズ情報の送信とカメラ情報の受信を行う。絞り211は、光量およびボケ量調整のために光軸中心に開口径が可変な開口を形成する。
カメラボディ203は撮像素子212、ボディ駆動制御装置214、液晶表示素子駆動回路215、液晶表示素子216、接眼レンズ217、メモリカード219などを備えている。撮像素子212には、撮像用画素が二次元状に配置されるとともに、焦点検出位置に対応した部分に焦点検出用画素が組み込まれている。
ボディ駆動制御装置214はマイクロコンピューター、メモリ、駆動制御回路などから構成され、撮像素子212の駆動制御と画像信号および焦点検出信号の読み出しと、焦点検出信号に基づく焦点検出演算と交換レンズ202の焦点調節を繰り返し行うとともに、画像信号の処理と記録、カメラの動作制御などを行う。また、ボディ駆動制御装置214は電気接点213を介してレンズ駆動制御装置206と通信を行い、レンズ情報の受信とカメラ情報(デフォーカス量や絞り値など)の送信を行う。
液晶表示素子216は液晶ビューファインダー(EVF:電気的ビューファインダー)として機能する。液晶表示素子駆動回路215は撮像素子212によるスルー画像を液晶表示素子216に表示し、撮影者は接眼レンズ217を介してスルー画像を観察することができる。メモリカード219は、撮像素子212により撮像された画像を記憶する画像ストレージである。
交換レンズ202を通過した光束により、撮像素子212の受光面上に被写体像が形成される。この被写体像は撮像素子212により光電変換され、画像信号と焦点検出信号がボディ駆動制御装置214へ送られる。
ボディ駆動制御装置214は、撮像素子212の焦点検出用画素からの焦点検出信号に基づいてデフォーカス量を算出し、このデフォーカス量をレンズ駆動制御装置206へ送る。また、ボディ駆動制御装置214は、撮像素子212からの画像信号を処理してメモリカード219に格納するとともに、撮像素子212からのスルー画像信号を液晶表示素子駆動回路215へ送り、スルー画像を液晶表示素子216に表示させる。さらに、ボディ駆動制御装置214は、レンズ駆動制御装置206へ絞り制御情報を送って絞り211の開口制御を行う。
レンズ駆動制御装置206は、レンズ情報をフォーカシング状態、ズーミング状態、絞り設定状態、絞り開放F値などに応じて変更する。具体的には、ズーミング用レンズ208とフォーカシング用レンズ210の位置と絞り211の絞り値を検出し、これらのレンズ位置と絞り値に応じてレンズ情報を演算したり、あるいは予め用意されたルックアップテーブルからレンズ位置と絞り値に応じたレンズ情報を選択する。
レンズ駆動制御装置206は、受信したデフォーカス量に基づいてレンズ駆動量を算出し、レンズ駆動量に応じてフォーカシング用レンズ210を合焦位置へ駆動する。また、レンズ駆動制御装置206は受信した絞り値に応じて絞り211を駆動する。
カメラボディ203にはマウント部204を介して種々の撮影光学系を有する交換レンズ202が装着可能であり、カメラボディ203は撮像素子212に組み込まれた焦点検出用画素の出力に基づいて交換レンズ202の焦点調節状態を検出する。
図2は撮影画面上の焦点検出位置を示す図であり、後述する焦点検出用画素列により焦点検出を行うときに画面上で像をサンプリングする領域(焦点検出エリア、焦点検出位置)の一例を示す。この一実施の形態では、矩形の撮影画面100内の中央に焦点検出エリア101が配置される。長方形で示した焦点検出エリア101の長手方向に、焦点検出用画素が直線的に配列される。
図3は撮像素子212の詳細な構成を示す正面図であり、撮像素子212上の焦点検出エリア101の近傍を拡大して示す。撮像素子212は、撮像用画素310と焦点検出用画素313、314から構成される。撮像用画素310は水平および垂直方向に2次元状に正方格子配列されており、一方、焦点検出用画素313、314は水平方向に配列されている。
撮像用画素310は、図4に示すように、マイクロレンズ10と光電変換部11を備えている。また、焦点検出画素313は、図5(a)に示すように、マイクロレンズ10と光電変換部13を備えている。光電変換部13の形状は、マイクロレンズ10の垂直2等分線に接する左半円である。さらに、焦点検出画素314は、図5(b)に示すように、マイクロレンズ10と光電変換部14を備えている。光電変換部14の形状は、マイクロレンズ10の垂直2等分線に接する右半円である。
光電変換部13と14は、マイクロレンズ10を重ね合わせて表示した場合に左右水平方向に並んでおり、マイクロレンズ10の垂直2等分線に関して対称な形状をしている。焦点検出用画素313と焦点検出用画素314が、水平方向(光電変換部13と14の並び方向)に交互に配置される。これらの撮像用画素310と焦点検出用画素313、314の分光感度特性は、図6に示すような特性となっている。
図7は撮像用画素310の断面図である。撮像用画素310には、撮像用の光電変換部11の前方にマイクロレンズ10が配置されており、マイクロレンズ10により光電変換部11が前方に投影される。光電変換部11は半導体回路基板29上に形成される。
図8(a)は焦点検出用画素313の断面図である。焦点検出用画素313には、光電変換部13の前方にマイクロレンズ10が配置されており、マイクロレンズ10により光電変換部13が前方に投影される。光電変換部13は半導体回路基板29上に形成されるとともに、その上にマイクロレンズ10が半導体イメージセンサーの製造工程により一体的かつ固定的に形成される。光電変換部13はマイクロレンズ10の光軸の片側に配置される。
図8(b)は焦点検出用画素314の断面図である。焦点検出用画素314では、光電変換部14の前方にマイクロレンズ10が配置されており、マイクロレンズ10により光電変換部14が前方に投影される。光電変換部14は半導体回路基板29上に形成されるとともに、その上にマイクロレンズ10が半導体イメージセンサーの製造工程により一体的かつ固定的に形成される。光電変換部14はマイクロレンズ10の光軸の片側で、かつ光電変換部13の反対側に配置される。
図9は、マイクロレンズを用いた瞳分割型位相差検出方式の焦点検出光学系の構成を示す。図において、90は、交換レンズ202(図1参照)の予定結像面に配置されたマイクロレンズから前方dの距離に設定された射出瞳である。この距離dは、マイクロレンズの曲率、屈折率、マイクロレンズと光電変換部との間の距離などに応じて決まる距離であって、この明細書では測距瞳距離と呼ぶ。91は交換レンズの光軸、10a〜10dはマイクロレンズ、13a、13b、14a、14bは光電変換部、313a、313b、314a、314bは焦点検出用画素、73,74、83,84は焦点検出光束である。
また、93は、マイクロレンズ10a、10cにより投影された光電変換部13a、13bの領域であり、この明細書では測距瞳と呼ぶ。図9では、説明を解りやすくするために楕円形の領域で示しているが、実際には光電変換部の形状が拡大投影された形状になる。同様に、94は、マイクロレンズ10b、10dにより投影された光電変換部14a、14bの領域であり、この明細書では測距瞳と呼ぶ。図9では、説明を解りやすくするために楕円形の領域で示しているが、実際には光電変換部の形状が拡大投影された形状になる。
図9では、隣接する4つの焦点検出用画素313a、313b、314a、314bを模式的に例示しているが、その他の焦点検出用画素においても光電変換部はそれぞれ対応した測距瞳から各マイクロレンズに到来する光束を受光する。焦点検出用画素の配列方向は一対の測距瞳の並び方向、すなわち一対の光電変換部の並び方向と一致させる。
マイクロレンズ10a〜10dは交換レンズ202(図1参照)の予定結像面近傍に配置されており、マイクロレンズ10a〜10dによりその背後に配置された光電変換部13a、13b、14a、14bの形状がマイクロレンズ10a〜10cから測距瞳距離dだけ離間した射出瞳90上に投影され、その投影形状は測距瞳93,94を形成する。すなわち、投影距離dにある射出瞳90上で各焦点検出用画素の光電変換部の投影形状(測距瞳93,94)が一致するように、各焦点検出用画素における光電変換部の投影方向が決定されている。
光電変換部13aは測距瞳93を通過し、マイクロレンズ10aに向う光束73によりマイクロレンズ10a上に形成される像の強度に対応した信号を出力する。同様に、光電変換部13bは測距瞳93を通過し、マイクロレンズ10cに向う光束83によりマイクロレンズ10c上に形成される像の強度に対応した信号を出力する。また、光電変換部14aは測距瞳94を通過し、マイクロレンズ10bに向う光束74によりマイクロレンズ10b上に形成される像の強度に対応した信号を出力する。同様に、光電変換部14bは測距瞳94を通過し、マイクロレンズ10dに向う光束84によりマイクロレンズ10d上に形成される像の強度に対応した信号を出力する。
上述した2種類の焦点検出用画素を直線状に多数配置し、各画素の光電変換部の出力を測距瞳93および測距瞳94に対応した出力グループにまとめることによって、測距瞳93と測距瞳94をそれぞれ通過する焦点検出用光束が画素列上に形成する一対の像の強度分布に関する情報が得られる。この情報に対して後述する像ズレ検出演算処理(相関演算処理、位相差検出処理)を施すことによって、いわゆる瞳分割型位相差検出方式で一対の像の像ズレ量が検出される。さらに、像ズレ量に一対の測距瞳の重心間隔に応じた変換演算を行うことによって、予定結像面に対する現在の結像面(予定結像面上のマイクロレンズアレイの位置に対応した焦点検出位置における結像面)の偏差(デフォーカス量)が算出される。
図10は撮像素子212の回路構成を示す概念図である。撮像素子212(図1、図3参照)はCMOSイメージセンサーとして構成される。撮像素子212の回路構成を理解しやすくするために、図10では図3に示す矩形領域Aに対応する水平方向4画素と垂直方向6画素のレイアウトとして説明する。3行目を除く各行に撮像用画素310(図中に白色と黒色の正方形マークで示す)が配置され、3行目には焦点検出用画素313(図中に白色の円形マークで示す)と314(図中に黒色の円形マークで示す)が交互に配置される。
図10において、ラインメモリ320は1行分の画素の画素信号を一時的に保持するバッファであり、垂直信号線501に出力されている同一行の画素信号を垂直走査回路505が発する制御信号ΦH1に基づいてラッチする。撮像用画素310および焦点検出用画素313,314の電荷蓄積は、リセット回路506が発する制御信号(ΦR1〜ΦR6)によって行ごとに制御される。撮像用画素310および焦点検出用画素313,314から出力される画素信号は、垂直走査回路505が発する制御信号(ΦS1〜ΦS6)によって行ごとに独立に制御される。制御信号により選択された画素の画素信号は、垂直信号線501に出力される。
ラインメモリ320に保持された画素信号は、水平転送回路507が発する制御信号(ΦV1〜ΦV4)によって順次、出力回路330へ転送され、出力回路330により予め設定された増幅度で増幅されて外部へ出力される。水平走査回路507には動作モード切替のためのMode信号が外部から供給され、Mode信号の信号レベル(ハイレベルまたはローレベル)に応じて制御信号(ΦV1〜ΦV4)の画素選択パターンを変更し、通常の画素信号出力動作と画素信号を加算して出力する動作を切り換える。
図11は、図10に示す撮像用画素310および焦点検出用画素313,314の詳細な回路図である。光電変換部11,13,14(図7,図8参照)はフォトダイオード(PD)で構成される。フォトダイオードPDに蓄積された電荷は浮遊拡散層(フローティングディフュージョン)FDに蓄積される。フローティングディフュージョンFDは増幅MOSトランジスタ(AMP)のゲートに接続されており、増幅MOSトランジスタAMPは、フローティングディフュージョンFDに蓄積された電荷の量に応じた信号を発生する。
フローティングディフュージョンFD部はリセットMOSトランジスタ510を介して電源電圧Vddに接続されており、制御信号ΦRn(ΦR1〜ΦR6)によりリセットMOSトランジスタ510がONすることによって、FDおよびPDに溜まった電荷がクリアされリセット状態となる。増幅MOSトランジスタAMPの出力は、行選択MOSトランジスタ512を介して垂直出力線501に接続されており、制御信号ΦSn(ΦS1〜ΦS6)により行選択MOSトランジスタ512がオンされると、増幅MOSトランジスタAMPの出力が垂直出力線501へ出力される。
図12は、通常動作モードにおける撮像素子212の動作を示すタイミングチャートである。外部信号Modeがローレベルのときは、通常動作モード(非加算出力モード)が実行される。1行目の撮像用画素310は、垂直走査回路505が発する制御信号ΦS1により選択され、選択された撮像用画素310の画素信号は垂直信号線501へ出力される。制御信号ΦS1と同期して発せられる制御信号ΦH1によって、垂直信号線501に出力された1行目の画素信号がラインメモリ320に一時的に保持される。ラインメモリ320に保持された1行目の撮像用画素の画素信号は、水平走査回路507から順次発せられる制御信号ΦV1〜ΦV4にしたがって出力回路330へ転送され、出力回路330において予め設定された増幅度で増幅されて外部へ出力される。
1行目の撮像用画素310の画素信号のラインメモリ320への転送が終了した時点で、リセット回路506から発せられる制御信号ΦR1により1行目の撮像用画素310がリセットされ、制御信号ΦR1の立ち下がりで1行目の撮像用画素310の次の電荷蓄積が開始される。1行目の撮像用画素310の画素信号の出力回路330からの出力が終了した時点で、2行目の撮像用画素310は垂直走査回路505が発する制御信号ΦS2により選択され、選択された撮像用画素310の画素信号は垂直信号線501へ出力される。
以下、同様にして2行目の撮像用画素310の画素信号の保持および撮像用画素310のリセット、画素用信号の出力および次の電荷蓄積の開始が行われる。続いて3行目の焦点検出用画素313,314の画素信号の保持および撮像用画素310のリセット、撮像用画素310および焦点検出用画素313,314の画素信号の出力および次の電荷蓄積の開始が行われる。同様に、4行目〜6行目の撮像用画素310の画素信号の保持および撮像用画素310のリセット、撮像用画素310の画素信号の出力および次の電荷蓄積の開始が行われる。すべての画素の画素信号の出力が終了すると、再び1行目に戻って上記動作が周期的に繰り返される。
また、制御信号ΦR1〜ΦR6のパルス幅を変更することによって、撮像用画素310および焦点検出用画素313,314の電荷蓄積時間(露光時間)を調整することが可能である。図12では、1行目から6行目の電荷蓄積および画素信号出力を周期的に繰り返すタイミングチャートとなっているが、単発的に1周期のみ行うようすることも可能である。このような通常動作モード(非加算出力モード)は撮影時に実行される。
図13は、加算出力モードにおける撮像素子212の動作を示すタイミングチャートである。外部信号Modeがハイレベルのときは、加算出力モードが実行される。1行目の撮像用画素310は垂直走査回路505が発する制御信号ΦS1により選択され、選択された撮像画素310の画素信号は垂直信号線501へ出力される。制御信号ΦS1と同期して発せられる制御信号ΦH1によって、垂直信号線501に出力された1行目の画素信号はラインメモリ320に一時的に保持される。ラインメモリ320に保持された1行目の撮像画素310の画素信号は、水平走査回路507が発する制御信号ΦV1〜ΦV4にしたがって出力回路330へ転送され、出力回路330において予め設定された増幅度で増幅されて外部へ出力される。
加算出力モードでは、制御信号ΦV1とΦV3がまず同時に発せられ、続いて制御信号ΦV2とΦV4が同時に発せられる。これにより、まず1列目と3列目のラインメモリ320に保持されている信号(図10で白色の正方形マークで示す撮像用画素310の出力信号)が加算されて出力回路330へ出力され、次に2列目と4列目のラインメモリ320に保持されている信号(図10で黒色の正方形マークで示す撮像用画素310の信号)が加算されて出力回路330へ出力される。
1行目の撮像用画素310の画素信号のラインメモリ320への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR1により1行目の撮像用画素310がリセットされ、制御信号ΦR1の立ち下がりで1行目の撮像用画素310の次の電荷蓄積が開始される。1行目の撮像用画素の画素信号の出力回路330からの出力が終了した時点で、2行目の撮像用画素310は垂直走査回路505が発する制御信号ΦS2により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。以下同様にして2行目の撮像用画素310の画素信号の保持および撮像画素のリセット、画素信号の加算出力および次の電荷蓄積の開始が行われる。
続いて3行目の焦点検出用画素313,314は垂直走査回路505が発する制御信号ΦS3により選択され、選択された焦点検出用画素313、314の画素信号は垂直信号線501に出力される。制御信号ΦS3と同期して発せられる制御信号ΦH1によって、垂直信号線501に出力された3行目の画素信号はラインメモリ320に一時的に保持される。ラインメモリ320に保持された3行目の焦点検出用画素313,314の画素信号は、まず水平走査回路507が同時に発する制御信号ΦV1、ΦV3に応じて、1列目の焦点検出用画素313の画素信号と3列目の焦点検出用画素313の画素信号とが加算されて出力回路330から出力され、続いて水平走査回路507が同時に発する制御信号ΦV2、ΦV4に応じて2列目の焦点検出用画素314の画素信号と4列目の焦点検出用画素314の画素信号とが加算されて出力回路330から出力される。
以下同様に4行目から6行目の撮像用画素310の画素信号の保持および撮像用画素310のリセット、撮像用画素310の画素信号の加算出力および次の電荷蓄積の開始が行われる。すべての画素の画素信号の出力が終了すると、ふたたび1行目に戻って上記動作が周期的に繰り返される。
上述したように、加算出力モードでは同じ行の一つおきの画素の画素信号が加算されて出力されるので、加算時に2種類の焦点検出用画素の画素出力が混合されることがなく、加算した焦点検出用画素313,314の信号を用いて焦点検出を行うことができるとともに、加算した撮像用画素310の出力を用いてビューファインダーに画像を表示することができる。加算出力モードの動作は後述するように、画像の液晶表示と焦点検出動作を並列して行う場合に行われる。
図12、図13において、横軸は時間スケールであり、わかりやすいように通常動作モードと加算出力モードの1行目から6行目までの出力サイクルの時間間隔が同一になるように示しているが、実際は加算出力モード時の画素信号の1周期の出力回数は通常動作モード時の半分になるので、同一時間あたりの画素信号の出力回数が同一になるように動作させれば、加算出力モード時は同一時間内で2倍のサイクル数で画像出力することができ、表示の更新速度を向上させ、高品位な画像表示を行うことができる。
図14〜図17は、図1に示すデジタルスチルカメラ(撮像装置)の動作を示すフローチャートである。ボディ駆動制御装置214は、ステップ100でカメラの電源がオンされると動作を開始する。電源オン後のステップ110において、図15に示す撮像素子加算読み出しサブルーチンへジャンプする。
図15は、撮像素子加算読み出しサブルーチンの動作を示すフローチャートである。ステップ200で撮像素子加算読み出しサブルーチンを開始し、続くステップ210で撮像素子212を加算出力モードに設定し、このモードでの繰り返し撮像動作を開始させる。ステップ220において、画素データ読み出し割り込みの発生を待機する。
図16は画素データ読み出し割り込み処理を示すフローチャートである。図15のステップ220で画素データ読み出し割り込みが発生すると、図16のステップ300から処理を開始する。撮像素子212は画素信号を出力する際に、一番最初の画素信号を出力する直前にボディ駆動制御装置214に対し画素データ読みだし割り込みを発行する。撮像素子212が周期動作を行っている場合は、この割り込みが周期的に発生する。ボディ駆動制御装置214は、この割り込みに応じて画素データ読み出し割り込み処理を開始する。なお、図16に示す割り込み処理は、撮像素子212が加算出力モードで周期動作する場合にのみ起動する。
ステップ310において撮像素子212から出力される加算画素データを読み込む。ステップ320で、焦点検出用画素の位置の加算データを焦点検出用画素の周囲にある撮像用画素の加算データで補間し、撮像用画素の加算データと補間したデータに基づき画像を生成して液晶ビューファインダーに表示する(ライブビュー表示)。ステップ330では、焦点検出エリア101の一対の焦点検出用画素のデータ列、すなわち図10に白色円形マークで示す焦点検出用画素の加算データの列と、黒色円形マークで示す焦点検用出画素の加算データの列とに基づいて、後述する像ズレ検出演算処理(相関演算処理)を行い、焦点検出エリア101における像ズレ量を演算し、さらに像ズレ量をデフォーカス量に変換する。
ステップ340において合焦近傍か否か、つまり算出されたデフォーカス量の絶対値が所定値以内であるか否かを調べる。合焦近傍でないと判定された場合はステップ350へ進み、デフォーカス量をレンズ駆動制御装置206へ送信してステップ370へ進む。レンズ駆動制御装置206は、デフォーカス量に基づいて交換レンズ202のフォーカシングレンズ210を合焦位置へ移動させる。なお、焦点検出不能な場合もこのステップに分岐し、レンズ駆動制御装置206へスキャン駆動命令を送信し、交換レンズ202のフォーカシングレンズ210を無限から至近までの間でスキャン駆動させ、ステップ370へ進む。ステップ370では、画素データ読み出し割り込み処理から図15に示す撮像素子加算読み出しサブルーチンのステップ220へリターンし、次の周期の画素データ読み出し割り込みの発生を待機する。
一方、合焦近傍であると判定した場合はステップ360へ進み、シャッターボタン(不図示)によりシャッターレリーズ操作がなされたか否かを判定する。レリーズ操作がなされていない場合はステップ370へ進み、画素データ読み出し割り込み処理から図15に示す撮像素子加算読み出しサブルーチンのステップ220へリターンし、次の周期の画素データ読み出し割り込みの発生を待機する。なお、画素データ読み出し割り込み処理のステップ300〜360の処理時間は、画素データ読み出し割り込みの発生周期よりも短くなっている。
レリーズ操作がなされた場合は図17に示すレリーズシーケンスの動作を実行する。ステップ400において、撮像素子212を通常動作モード(非加算出力モード)に設定し、このモードで単発的に撮像動作させる。ステップ410では、画素データ読み出し割り込みが発生するのを待機する。ステップ420で、画素データ読み出し割り込みが発生したら撮像素子212から出力される非加算画素データを読み込む。
ステップ430で、焦点検出エリア101の一対の焦点検出用画素の非加算データの列、つまり図10に白色円形マークで示す焦点検出用画素の非加算データの列と、黒色の円形マークで示す焦点検出用画素の非加算データの列とに基づいて、後述する像ズレ検出演算処理(相関演算処理)を行い、焦点検出エリア101における像ズレ量を演算し、さらに像ズレ量をデフォーカス量に変換する。
ステップ440で、デフォーカス量をレンズ駆動制御装置206へ送信し、交換レンズ202のフォーカシングレンズ210を合焦位置へ移動させる。なお、焦点検出不能な場合にはそのままステップ460へ進む。ここで、レリーズ操作前に焦点検出用画素の加算データによる焦点検出と焦点調節により合焦近傍状態が達成されているが、レリーズ操作後に焦点検出用画素の非加算データにより高精度な焦点検出(加算データよりデータピッチが小さくなるので像ズレ検出精度が向上する)を再度行って焦点調節を行うことにより、合焦精度が向上する。
ステップ450ではレンズ駆動が終了するのを待機する。もともと合焦近傍状態にあったので、合焦に要するレンズ駆動時間は短くてすむ。続くステップ460では撮像素子212を通常動作モード(非加算出力モード)に設定し、該モードで単発的に撮像動作させる。ステップ470で画素データ読み出し割り込みが発生するのを待機し、続くステップ480で、画素データ読み出し割り込みが発生したら撮像素子212から出力される非加算画素データを読み込む。
ステップ490において、焦点検出用画素の位置の非加算データを焦点検出用画素の周囲にある撮像用画素の非加算データで補間する。ステップ500で、撮像用画素の加算データと補間したデータを画像データとしてメモリカード219に格納する。ステップ510では、図15に示す撮像素子加算読み出しサブルーチンへジャンプし、ふたたび撮像素子212を加算出力モードに設定し、該モードで繰り返し撮像動作を開始させる。
次に、図16のステップ330と図17のステップ430における像ズレ検出演算処理(相関演算処理)の詳細について以下に説明する。焦点検出用画素が検出する一対の像は、測距瞳がレンズの絞り開口により“けられて”光量バランスが崩れている可能性があるので、光量バランスに対して像ズレ検出精度を維持できるタイプの相関演算を施す。
焦点検出用画素列から読み出された一対のデータ列(A11〜A1M、A21〜A2M:Mはデータ数)に対し、(1)式に示す相関演算を行って相関量C(k)を演算する。なお、加算読み出しモードにおいてはA11〜A1M、A21〜A2Mは加算データを表し、通常動作モードにおいてはA11〜A1M、A21〜A2Mは非加算データを表す。
C(k)=Σ|A1n・A2n+1+k−A2n+k・A1n+1| ・・・(1)
Σ演算はnについて累積される。nのとる範囲は、像ずらし量kに応じてA1n、A1n+1、A2n+k、A2n+1+kのデータが存在する範囲に限定される。また、像ずらし量kは整数であり、データ列のデータ間隔を単位とした相対的シフト量である。
(1)式の演算結果は、図18(a)に示すように、一対のデータの相関が高いシフト量(図18(a)ではk=kj=2)において相関量C(k)が極小(小さいほど相関度が高い)になる。下記の(2)式から(5)式による3点内挿の手法を用いて連続的な相関量に対する極小値C(x)を与えるシフト量xを求める。
x=kj+D/SLOP ・・・(2),
C(x)= C(kj)−|D| ・・・(3),
D={C(kj-1)−C(kj+1)}/2 ・・・(4),
SLOP=MAX{C(kj+1)−C(kj),C(kj-1)−C(kj)} ・・・(5)
(2)式で算出されたずらし量xの信頼性があるかどうかは、以下のようにして判定される。図18(b)に示すように、一対のデータの相関度が低い場合は内挿された相関量の極小値C(x)の値が大きくなる。したがって、C(x)が所定のしきい値以上の場合は、算出されたずらし量の信頼性が低いと判定し、算出されたずらし量xをキャンセルする。あるいは、C(x)をデータのコントラストで規格化するために、コントラストに比例した値となるSLOPでC(x)を除した値が所定値以上の場合は、算出されたずらし量の信頼性が低いと判定し、算出されたずらし量xをキャンセルする。あるいはまた、コントラストに比例した値となるSLOPが所定値以下の場合は、被写体が低コントラストであり、算出されたずらし量の信頼性が低いと判定し、算出されたずらし量xをキャンセルする。
図18(c)に示すように、一対のデータの相関度が低く、シフト範囲kmin〜kmaxの間で相関量C(k)の落ち込みがない場合は、極小値C(x)を求めることができず、このような場合は焦点検出不能と判定する。
なお、相関演算式としては上記(1)式に限定されず、焦点検出用画素が検出する一対の像光量バランスが崩れていても像ズレ検出精度を維持できるタイプの相関演算式であればよい。
算出されたずらし量xの信頼性があると判定された場合は、(6)式により像ズレ量shftに換算される。
shft=PY・x ・・・(6)
(6)式において、PYは検出ピッチである。なお、この検出ピッチPYは、同一種類の焦点検出用画素のピッチであっても、加算出力モード時と通常動作モード時で異なる。(6)式で算出された像ズレ量に所定の変換係数kを乗じてデフォーカス量defへ変換する。
def=k・shft ・・・(7)
《発明の他の一実施の形態》
上述した一実施の形態では、図3に示すように、2種類の焦点検出用画素313,314を行方向に交互に配置し、画素加算動作を同一行で1画素置いた2つの画素の信号を加算することによって、画素加算時に2種類の焦点検出用画素313,314の信号が混合するのを防止し、加算画素信号を焦点検出用演算に用いることができるようにしている。焦点検出用画素の配置パターンと画素加算に使用する複数の画素の位置関係(加算パターン)は、上述した一実施の形態に限定されず、種々の変形が考えられる。
図19は変形例の撮像素子212Aの詳細な構成を示す正面図であり、撮像素子212A上の焦点検出エリア100の近傍を拡大して示す。撮像素子212Aは、撮像用画素310と焦点検出用画素313、314から構成される。撮像用画素310は水平および垂直方向に2次元状に正方格子配列され、焦点検出用画素313、314は水平方向に交互に配列されるとともに、隣接した2行に配列されている。
図20は、図19に示す撮像素子212Aの回路構成を示す概念図である。撮像素子212AはCMOSイメージセンサーとして構成される。図20では、撮像素子212Aの回路構成を解りやすくするために、図19に示す矩形領域Bに対応する、水平方向4画素と垂直方向6画素のレイアウトとして説明する。3行目と4行目を除く各行に撮像用画素310(図中に白色と黒色の正方形マークで示す)が配置され、焦点検出用画素313(図中に白色円形マークで示す)と314(図中に黒色円形マークで示す)が3行目と4行目に交互に配置される。
図20において、ラインメモリ320、321は2行分の画素の画素信号を一時的に保持するバッファーであり、垂直信号線501に出力されている同一行の画素信号を垂直走査回路505Aが発する制御信号ΦH1、ΦH2にしたがってラッチする。ラインメモリ320の出力は信号線502に直接接続され、ラインメモリ321の出力は制御信号ΦP2により選択的に信号線502に接続される。
撮像用画素310および焦点検出用画素313,314の電荷蓄積は、リセット回路506が発する制御信号(ΦR1〜ΦR6)により行ごとに制御される。撮像用画素310および焦点検出用画素313,314からの画素信号の出力は、垂直走査回路505Aが発する制御信号(ΦS1〜ΦS6)により行ごとに独立に制御される。制御信号により選択された画素の画素信号は垂直信号線501に出力される。信号線502に出力された画素信号は、水平転送回路507が発する制御信号(ΦV1〜ΦV4)にしたがって順次、出力回路330へ転送され、出力回路330において予め設定された増幅度で増幅されて外部に出力される。
垂直走査回路505Aと水平走査回路507には、動作モード切替のためのMode信号が外部から供給されており、Mode信号の信号レベル(ハイレベルまたはローレベル)に応じて制御信号(ΦH1、ΦH2、ΦP2、ΦV1〜ΦV4)の発生パターンを変更することによって、通常の画素信号出力動作と画素信号を加算して出力する動作とを切り換える。
外部からローレベルのMode信号が供給されると、通常動作モード(非加算出力モード)が実行される。このとき制御信号ΦH2、ΦP2は常時ローレベルになり、図12に示すタイミングチャートと同様なタイミングチャートにより、各画素の信号が加算されずに1行目から6行目に渡って出力される。
図21は、図19および図20に示す撮像素子212Aの加算出力モードにおける動作タイミングチャートを示す。外部からハイレベルのMode信号が供給されると、加算出力モードが実行される。この加算出力モードでは制御信号ΦP2が常時ハイレベルになり、ラインメモリ321の出力は常時信号線502に接続される。1行目の撮像用画素310は垂直走査回路505Aが発する制御信号ΦS1により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。
制御信号ΦS1と同期して発せられる制御信号ΦH1にしたがって、垂直信号線501に出力された1行目の画素信号がラインメモリ320に一時的に保持される。次に、2行目の撮像用画素310は垂直走査回路505Aが発する制御信号ΦS2により選択され、選択された撮像用画素310の画素信号が垂直信号線501へ出力される。制御信号ΦS2と同期して発せられる制御信号ΦH2にしたがって、垂直信号線501に出力された2行目の画素信号はラインメモリ321に一時的に保持される。
次に、ラインメモリ320に保持された1行目の撮像用画素の画素信号と、ラインメモリ321に保持された2行目の撮像用画素の画素信号とが信号線502で加算され、水平走査回路507が順次発する制御信号ΦV1〜ΦV4にしたがって出力回路330へ転送され、出力回路330において予め設定された増幅度で増幅されて外部へ出力される。
これにより、ラインメモリ320に保持されている1行目の撮像用画素310の画素信号と、ラインメモリ321に保持されている2行目の撮像用画素310の画素信号の内、制御信号ΦV1とΦV3のタイミングで図20に白色正方形マークで示す撮像用画素310の画素信号どうしの加算が行われ、制御信号ΦV2とΦV4のタイミングで図20に黒色正方形マークで示す撮像用画素310の画素信号どうしの加算が行われる。これらの加算された画素信号は順次出力回路330から出力される。
1行目の撮像用画素310の画素信号のラインメモリ320への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR1により1行目の撮像用画素310がリセットされ、制御信号ΦR1の立ち下がりで1行目の撮像用画素310の次の電荷蓄積が開始される。2行目の撮像用画素310の画素信号のラインメモリ321への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR2により2行目の撮像用画素310がリセットされ、制御信号ΦR2の立ち下がりで2行目の撮像用画素310の次の電荷蓄積が開始される。
1行目と2行目の撮像用画素310の画素信号の加算信号が出力回路330から出力終了した時点で、3行目の焦点検出用画素313、314は垂直走査回路505Aが発する制御信号ΦS3により選択され、選択された焦点検出用画素313,314の画素信号は垂直信号線501に出力される。垂直信号線501に出力された3行目の画素信号は、制御信号ΦS3と同期して発せられる制御信号ΦH1にしたがってラインメモリ320に一時的に保持される。
次に、4行目の焦点検出用画素313,314は垂直走査回路505が発する制御信号ΦS4により選択され、選択された焦点検出用画素313,314の画素信号は垂直信号線501に出力される。垂直信号線501に出力された2行目の画素信号は、制御信号ΦS4と同期して発せられる制御信号ΦH2にしたがってラインメモリ321に一時的に保持される。
次に、ラインメモリ320に保持された3行目の焦点検出用画素313,314の画素信号と、ラインメモリ321に保持された4行目の焦点検出用画素313,314の画素信号とが信号線502で加算され、水平走査回路507が順次発する制御信号ΦV1〜ΦV4にしたがって出力回路330へ転送され、出力回路330で設定された増幅度で増幅されて外部に出力される。
これにより、ラインメモリ320に保持されている3行目の焦点検出用画素313,314の画素信号と、ラインメモリ321に保持されている4行目の焦点検出用画素313,314の画素信号の内、制御信号ΦV1とΦV3のタイミングで図20に白色円形マークで示す焦点検出用画素313,314の画素信号どうしの加算が行われ、制御信号ΦV2とΦV4のタイミングで図20に黒色円形マークで示す焦点検出用画素313,314の画素信号どうしの加算が行われる。これらの加算された画素信号は順次出力回路330から出力される。
3行目の撮像用画素310の画素信号のラインメモリ320への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR3により3行目の焦点検出用画素313,314がリセットされ、制御信号ΦR3の立ち下がりで3行目の焦点検出用画素313,314の次の電荷蓄積が開始される。同様に、4行目の焦点検出用画素313,314の画素信号のラインメモリ321への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR4により4行目の焦点検出用画素313,314がリセットされ、制御信号ΦR4の立ち下がりで4行目の焦点検出用画素313,314の次の電荷蓄積が開始される。
以下同様に、5行目と6行目の撮像用画素310の画素信号の保持、および撮像用画素310のリセット、撮像用画素310の画素信号の加算出力および次の電荷蓄積の開始が行われる。すべての画素の画素信号の出力が終了すると、ふたたび1行目に戻って上述した動作が周期的に繰り返される。
上述したように、加算出力モードにおいては隣接した行において同じ列となる画素の画素信号が加算されて出力されるので、加算時に焦点検出用画素313,314の画素信号に撮像用画素310の画素信号が混合されることや、2種類の焦点検出用画素313と314の画素信号が混合されることがなく、加算した焦点検出用画素313,314の信号を用いて焦点検出を行うことができるとともに、加算した撮像用画素310の出力を用いて液晶ビューファインダーに画像を表示することができる。
図22は、他の変形例の撮像素子212Bの詳細な構成を示す正面図であり、撮像素子212B上の焦点検出エリア100の近傍を拡大して示す。撮像素子212Bは、撮像用画素310および焦点検出用画素313、314から構成される。撮像用画素310は水平および垂直方向に2次元状に正方格子配列される。一方、焦点検出用画素313、314は、水平方向に2個ずつ交互に配列されるとともに隣接した2行に配列されている。
図23は、図22に示す撮像素子212Bの回路構成を示す概念図である。図20に示す撮像素子212Bの回路構成と同様な構成であって、焦点検出用画素313,314の配列のみが異なっている。撮像素子212BはCMOSイメージセンサーとして構成される。図23では、撮像素子212の回路構成を解りやすくするために、図22に示す矩形領域Cに対応する水平方向4画素と垂直方向6画素のレイアウトとして説明する。3行目と4行目を除く各行には撮像用画素310が配置され(図中に白色と黒色の正方形マークで示す)、3行目と4行目には焦点検出用画素313(図中に白色円形マークで示す)が2画素連続し、それに続いて焦点検出用画素314(図中に黒色円形マークで示す)が2画素連続して配置される。
図においてラインメモリ320、321は2行分の画素の画素信号を一時的に保持するバッファであり、垂直信号線501に出力されている同一行の画素信号を垂直走査回路505Bが発する制御信号ΦH1、ΦH2に基づいてラッチする。ラインメモリ320の出力は信号線502に直接接続され、ラインメモリ321の出力は制御信号ΦP2により選択的に信号線502に接続される。
撮像用画素310および焦点検出用画素313,314の電荷蓄積は、リセット回路506が発する制御信号(ΦR1〜ΦR6)により行ごとに制御される。また、撮像用画素310および焦点検出用画素313,314からの画素信号の出力は、垂直走査回路505Bが発する制御信号(ΦS1〜ΦS6)により行ごとに独立に制御される。制御信号により選択された画素の画素信号は垂直信号線501に出力される。次に、信号線502に出力された画素信号は、水平転送回路507が発する制御信号(ΦV1〜ΦV4)にしたがって順次出力回路330へ転送され、出力回路330において設定された増幅度で増幅されて外部に出力される。
垂直走査回路505Bおよび水平走査回路507には動作モード切替のためのMode信号が外部から供給されており、Mode信号の信号レベル(ハイレベルまたはローレベル)に応じて制御信号(ΦH1、ΦH2、ΦP2、ΦV1〜ΦV4)の発生パターンを変更し、通常の画素信号出力動作と画素信号を加算して出力する動作を切り換える。
外部からローレベルのMode信号が供給されると、通常動作モード(非加算出力モード)が実行される。このモードでは、制御信号ΦH2、ΦP2が常時ローレベルとされ、図12に示すタイミングチャートと同様なタイミングチャートにしたがって各画素の信号が加算されずに1行目から6行目に渡って出力される。
図24は、図22および図23に示す撮像素子212Bの加算出力モードにおける動作を示すタイミングチャートである。外部からハイレベルのMode信号が供給されると、加算出力モードが設定される。このモードでは、図23に白色正方形マークで示す隣接する4つの撮像用画素310、黒色正方形マークで示す隣接する4つの撮像用画素310、白色円形マークで示す隣接する4つの焦点検出用画素、および黒色円形マークで示す隣接する4つの焦点検出用画素の画素信号が、それぞれ加算される。
制御信号ΦP2は常時ハイレベルとなり、ラインメモリ321の出力は常時信号線502に接続される。1行目の撮像用画素310は垂直走査回路505Bが発する制御信号ΦS1により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。制御信号ΦS1と同期して発せられる制御信号ΦH1にしたがって、垂直信号線501に出力された1行目の撮像用画素310の画素信号はラインメモリ320に一時的に保持される。
次に、2行目の撮像用画素310は垂直走査回路505Bが発する制御信号ΦS2により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。制御信号ΦS2と同期して発せられる制御信号ΦH2にしたがって、垂直信号線501に出力された2行目の撮像用画素310の画素信号はラインメモリ321に一時的に保持される。
次に、ラインメモリ320に保持された1行目の撮像用画素310の画素信号と、ラインメモリ321に保持された2行目の撮像用画素310の画素信号とが信号線502で加算され、水平走査回路507が所定のパターンで発する制御信号ΦV1〜ΦV4にしたがって出力回路330へ転送され、出力回路330において予め設定された増幅度で増幅されて外部へ出力される。加算出力モードでは、制御信号ΦV1とΦV2がまず同時に発せられ、続いて制御信号ΦV3とΦV4が同時に発せられる。
これにより、まずラインメモリ320に保持されている1行目の1列目と2列目の撮像用画素310の画素信号と、ラインメモリ321に保持されている2行目の1列目と2列目の撮像用画素310の画素信号とが(図23に白色正方形マークで示す隣接する4つの撮像用画素の画素信号)、同時に発生する制御信号ΦV1とΦV2のタイミングで加算されて出力回路330から出力される。
その後、ラインメモリ320に保持されている1行目の3列目と4列目の撮像用画素310の画素信号と、ラインメモリ321に保持されている2行目の3列目と4列目の撮像用画素310の画素信号とが(図23に黒色正方形マークで示す隣接する4つの撮像用画素310の画素信号)、同時に発生する制御信号ΦV3とΦV4のタイミングで加算されて出力回路330から出力される。
1行目の撮像画素310の画素信号のラインメモリ320への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR1により1行目の撮像用画素310がリセットされ、制御信号ΦR1の立ち下がりで1行目の撮像用画素310の次の電荷蓄積が開始される。2行目の撮像用画素310の画素信号のラインメモリ321への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR2により2行目の撮像用画素310がリセットされ、制御信号ΦR2の立ち下がりで2行目の撮像用画素310の次の電荷蓄積が開始される。
1行目と2行目の撮像用画素310の画素信号の加算信号が出力回路330から出力終了した時点で、3行目の焦点検出用画素313,314は垂直走査回路505Bが発する制御信号ΦS3により選択され、選択された焦点検出用画素313,314の画素信号は垂直信号線501へ出力される。制御信号ΦS3と同期して発せられる制御信号ΦH1にしたがって、垂直信号線501に出力された3行目の焦点検出用画素313,314の画素信号がラインメモリ320に一時的に保持される。
同様に、4行目の焦点検出用画素313,314は垂直走査回路505Bが発する制御信号ΦS4により選択され、選択された焦点検出用画素313,314の画素信号は垂直信号線501に出力される。制御信号ΦS4と同期して発せられる制御信号ΦH2にしたがって、垂直信号線501に出力された2行目の画素信号がラインメモリ321に一時的に保持される。
ラインメモリ320に保持された3行目の焦点検出用画素313,314の画素信号と、ラインメモリ321に保持された4行目の焦点検出用画素313,314の画素信号とが信号線502で加算され、水平走査回路507が所定パターンで発する制御信号ΦV1〜ΦV4にしたがって出力回路330へ転送され、出力回路330において予め設定された増幅度で増幅されて外部へ出力される。加算出力モードでは、制御信号ΦV1とΦV2がまず同時に発せられ、続いて制御信号ΦV3とΦV4が同時に発せられる。
これにより、まずラインメモリ320に保持されている3行目の1列目と2列目の焦点検出用画素313の画素信号と、ラインメモリ321に保持されている4行目の1列目と2列目の焦点検出用画素313の画素信号とが(図23に白色円形マークで示す隣接する4つの焦点検出用画素313)、同時に発生する制御信号ΦV1とΦV2のタイミングで加算されて出力回路330から出力される。その後、ラインメモリ320に保持されている3行目の3列目と4列目の焦点検出用画素314の画素信号と、ラインメモリ321に保持されている4行目の3列目と4列目の焦点検出用画素314の画素信号とが(図23に黒色円形マークで示す隣接する4つの焦点検出用画素314)、同時に発生する制御信号ΦV3とΦV4のタイミングで加算されて出力回路330から出力される。
3行目の焦点検出用画素313,314の画素信号のラインメモリ320への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR3にしたがって3行目の焦点検出用画素313,314がリセットされ、制御信号ΦR3の立ち下がりで3行目の焦点検出用画素313,314の次の電荷蓄積が開始される。また、4行目の焦点検出用画素313,314の画素信号のラインメモリ321への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR4にしたがって4行目の焦点検出用画素313,314がリセットされ、制御信号ΦR4の立ち下がりで4行目の焦点検出用画素313,314の次の電荷蓄積が開始される。
以下同様に、5行目と6行目の撮像用画素310の画素信号の保持および撮像用画素310のリセット、撮像用画素310の画素信号の加算出力および次の電荷蓄積の開始が行われる。すべての画素の画素信号の出力が終了すると、再び1行目に戻って上記動作が周期的に繰り返される。
上述したように、加算出力モードにおいては焦点検出用画素313,314の配置パターンと一致した画素加算パターン(隣接した行および列の4画素からなる画素加算パターン)の画素信号が加算されて出力されるので、加算時に焦点検出用画素313,314の画素信号に撮像用画素310の画素信号が混合されることや、2種類の焦点検出用画素313と314の画素信号が混合されることがなく、加算した焦点検出用画素の信号を用いて焦点検出を行うことができるとともに、加算した撮像用画素310の出力を用いて液晶ビューファインダーに画像を表示することができる。
図25は、他の変形例の撮像素子212Cの詳細な構成を示す正面図であり、撮像素子212C上の焦点検出エリア100の近傍を拡大して示す。撮像素子212Cは、撮像用画素310と焦点検出用画素313、314から構成される。撮像用画素310は水平および垂直方向に2次元的に正方格子配列される。撮像用画素310は、図26に示す分光特性の色フィルター(赤、緑、青)を備えた3種類の赤画素(R)、緑画素(G)および青画素(B)からなり、3種類の画素はベイヤー配列されている。焦点検出用画素313、314は撮像用画素310の青画素と緑画素が配置されるべき行に水平方向に交互に配列されるとともに、緑画素と赤画素からなる行を挟んだ2行に配列されている。
図27は、図25に示す撮像素子212Cの回路構成を示す概念図である。撮像素子212CはCMOSイメージセンサーとして構成される。撮像素子212Cの回路構成を解りやすく説明するために、図25に示す矩形領域Dに対応する、水平方向4画素、垂直方向8画素のレイアウトとして説明する。図に示すように、5行目と7行目を除く各行に撮像用画素310(白色正方形マーク:青画素、黒色正方形マーク:緑画素、白色正方形マークの中に小さい黒色円形マーク:緑画素、黒色正方形マークの中に小さい白色円形マーク:赤画素)が配置され、焦点検出用画素313(白色円形マーク),314(黒色円形マーク)が5行目と7行目に交互に配置される。
図27において、ラインメモリ320、321、322、323は4行分の画素の画素信号を一時的に保持するバッファーであり、垂直信号線501に出力されている同一行の画素信号を垂直走査回路505Cが発する制御信号ΦH1、ΦH2、ΦH3、ΦH4にしたがってラッチする。ラインメモリ320の出力は制御信号ΦP1により選択的に信号線502に接続され、ラインメモリ321の出力は制御信号ΦP2により選択的に信号線502に接続される。また、ラインメモリ322の出力は制御信号ΦP3により選択的に信号線502に接続され接続され、ラインメモリ323の出力は制御信号ΦP4により選択的に信号線502に接続される。
撮像用画素310および焦点検出用画素313,314の電荷蓄積は、リセット回路506が発する制御信号(ΦR1〜ΦR8)により行ごとに制御される。撮像用画素310および焦点検出用画素313,314からの画素信号の出力は、垂直走査回路505Cが発する制御信号(ΦS1〜ΦS8)により行ごとに独立に制御される。制御信号により選択された画素の画素信号は垂直信号線501に出力される。
信号線502に出力された画素信号は、水平転送回路507が発する制御信号(ΦV1〜ΦV4)にしたがって順次出力回路330へ転送され、出力回路330で設定された増幅度で増幅されて外部に出力される。
垂直走査回路505Cおよび水平走査回路506には動作モード切替のためのMode信号が外部から供給されており、Mode信号の信号レベル(ハイレベルまたはローレベル)に応じて制御信号(ΦH1〜ΦH4、ΦP1〜ΦP4、ΦV1〜ΦV4)の発生パターンを変更し、通常の画素信号出力動作と画素信号を加算して出力する動作を切り換える。
図28は、図25および図27に示す撮像素子212Cの通常動作モードの動作を示すタイミングチャートを示す。外部からローレベルのMode信号が供給されると、通常動作モード(非加算出力モード)が設定される。これに応じて制御信号ΦP1は常時ハイレベルになり、制御信号ΦH2〜ΦH4、ΦP2〜ΦP4は常時ローレベルになる。
1行目の撮像用画素310は垂直走査回路505Cが発する制御信号ΦS1により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。制御信号ΦS1と同期して発せられる制御信号ΦH1にしたがって、垂直信号線501に出力された1行目の撮像用画素310の画素信号はラインメモリ320に一時的に保持される。ラインメモリ320に保持された1行目の撮像用画素310の画素信号は、水平走査回路507から順次発せられる制御信号ΦV1〜ΦV4にしたがって出力回路330へ転送され、出力回路330において設定された増幅度で増幅されて外部に出力される。
1行目の撮像用画素310の画素信号のラインメモリ320への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR1により1行目の撮像用画素310がリセットされ、制御信号ΦR1の立ち下がりで1行目の撮像用画素310の次の電荷蓄積が開始される。1行目の撮像用画素310の画素信号の出力回路330からの出力が終了した時点で、2行目の撮像用画素310は垂直走査回路505Cが発する制御信号ΦS2により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。
以下同様にして2行目の撮像用画素310の画素信号の保持および撮像用画素310のリセット、画素信号の出力および次の電荷蓄積の開始が行われる。続いて3行目と4行目の撮像用画素310、5行目の焦点検出用画素313,314、6行目の撮像用画素310、7行目の焦点検出用画素313,314、8行目の撮像用画素310の順番で、画素信号の保持および撮像用画素310のリセット、撮像用画素310および焦点検出用画素313,314の画素信号の出力および次の電荷蓄積の開始が行われる。すべての画素の画素信号の出力が終了すると、再び1行目に戻って上記動作が周期的に繰り返される。
制御信号ΦR1〜ΦR8のパルス幅を変更することによって、撮像用画素310および焦点検出用画素313,314の電荷蓄積時間(露光時間)を調整することが可能である。図28においては、1行目から8行目の電荷蓄積および画素信号出力を周期的に繰り返すタイミングチャートとなっているが、単発的に1周期のみの動作を行うようすることも可能である。このような通常動作モード(非加算出力モード)は、撮影時に行われる。
図29は、図25および図27に示す撮像素子212Cの加算出力モードの動作を示すタイミングチャートである。外部からハイレベルのMode信号が供給されると、加算出力モードが設定される。加算出力モードでは、制御信号ΦV1〜ΦV4、ΦP1〜ΦP4が所定パターンで同期して発生する。
1行目の撮像用画素310は垂直走査回路505Cが発する制御信号ΦS1により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。制御信号ΦS1と同期して発せられる制御信号ΦH1にしたがって、垂直信号線501に出力された1行目の撮像用画素310の画素信号はラインメモリ320に一時的に保持される。次に、2行目の撮像用画素310は垂直走査回路505Cが発する制御信号ΦS2により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。制御信号ΦS2と同期して発せられる制御信号ΦH2にしたがって、垂直信号線501に出力された2行目の撮像用画素310の画素信号はラインメモリ321に一時的に保持される。
次に、3行目の撮像用画素310は垂直走査回路505Cが発する制御信号ΦS3により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。制御信号ΦS3と同期して発せられる制御信号ΦH3にしたがって、垂直信号線501に出力された3行目の撮像用画素310の画素信号はラインメモリ322に一時的に保持される。4行目の撮像用画素310は垂直走査回路505Cが発する制御信号ΦS4により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。制御信号ΦS4と同期して発せられる制御信号ΦH4にしたがって、垂直信号線501に出力された4行目の撮像用画素310の画素信号はラインメモリ323に一時的に保持される。
続いて制御信号ΦP1、ΦP3が同期してハイレベルとなり、ラインメモリ320に保持された1行目の撮像用画素310の画素信号と、ラインメモリ322に保持された3行目の撮像用画素310の画素信号とが信号線502で加算されるとともに、水平走査回路507が同期して発生する制御信号ΦV1、ΦV3にしたがって、信号線502で加算された1行目の画素信号と3行目の画素信号の内の1列目と3列目の画素信号がさらに加算されて出力回路330へ転送され、出力回路330において設定された増幅度で増幅されて外部に出力される。次に、水平走査回路507が同期して発生する制御信号ΦV2、ΦV4にしたがって、信号線502で加算された1行目の画素信号と3行目の画素信号の内の2列目と4列目の画素信号がさらに加算されて出力回路330へ転送され、出力回路330で設定された増幅度で増幅されて外部へ出力される。
次に、制御信号ΦP1、ΦP3が同期してローレベルになり、続いて制御信号ΦP2、ΦP4が同期してハイレベルになる。その結果、ラインメモリ321に保持された2行目の撮像用画素310の画素信号と、ラインメモリ323に保持された4行目の撮像用画素310の画素信号とが信号線502で加算されるとともに、水平走査回路507が同期して発生する制御信号ΦV1、ΦV3にしたがって、信号線502で加算された2行目の画素信号と4行目の画素信号の内の1列目と3列目の画素信号がさらに加算されて出力回路330へ転送され、出力回路330で設定された増幅度で増幅されて外部に出力される。さらに、水平走査回路507が同期して発生する制御信号ΦV2、ΦV4にしたがって、信号線502で加算された2行目の画素信号と4行目の画素信号の内の2列目と4列目の画素信号がさらに加算されて出力回路330へ転送され、出力回路330で設定された増幅度で増幅されて外部へ出力される。その後、制御信号ΦP2、ΦP4がローレベルになる。
以上の動作により、図27に示す撮像素子212Cの1行目から4行目において、まず白色の正方形マークで示す青画素の4つの画素信号が加算されて出力され、次に黒色の正方形マークで示す緑画素の4つの画素信号が加算されて出力される。次に、白色の正方形マークの中に黒色の小さい円形マークで示す緑画素の4つの画素信号が加算されて出力され、さらに黒色の正方形マークの中に白色の小さい円形マークで示す赤画素の4つの画素信号が加算されて出力される。
1行目の撮像用画素310の画素信号のラインメモリ320への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR1により1行目の撮像用画素がリセットされ、制御信号ΦR1の立ち下がりで1行目の撮像用画素310の次の電荷蓄積が開始される。また、2行目の撮像用画素310の画素信号のラインメモリ321への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR2により2行目の撮像用画素310がリセットされ、制御信号ΦR2の立ち下がりで2行目の撮像用画素310の次の電荷蓄積が開始される。
同様に、3行目の撮像用画素310の画素信号のラインメモリ322への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR3により3行目の撮像用画素310がリセットされ、制御信号ΦR3の立ち下がりで3行目の撮像用画素310の次の電荷蓄積が開始される。さらに、4行目の撮像用画素310の画素信号のラインメモリ323への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR4により4行目の撮像用画素310がリセットされ、制御信号ΦR4の立ち下がりで4行目の撮像用画素310の次の電荷蓄積が開始される。
1行目〜4行目の撮像用画素310の画素信号の加算信号が出力回路330から出力終了した時点で、5行目の焦点検出用画素313,314は垂直走査回路505Cが発する制御信号ΦS5により選択され、選択された焦点検出用画素313,314の画素信号は垂直信号線501に出力される。制御信号ΦS5と同期して発せられる制御信号ΦH1にしたがって、垂直信号線501に出力された5行目の画素信号がラインメモリ320に一時的に保持される。次に、6行目の撮像用画素310は垂直走査回路505Cが発する制御信号ΦS6により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。制御信号ΦS6と同期して発せられる制御信号ΦH2にしたがって、垂直信号線501に出力された6行目の画素信号がラインメモリ321に一時的に保持される。
また、7行目の焦点検出用画素313,314は垂直走査回路505Cが発する制御信号ΦS7により選択され、選択された焦点検出用画素313,314の画素信号は垂直信号線501に出力される。制御信号ΦS7と同期して発せられる制御信号ΦH3にしたがって、垂直信号線501に出力された7行目の画素信号がラインメモリ322に一時的に保持される。さらに、8行目の撮像用画素310は垂直走査回路505Cが発する制御信号ΦS8により選択され、選択された撮像用画素310の画素信号は垂直信号線501に出力される。制御信号ΦS8と同期して発せられる制御信号ΦH4にしたがって、垂直信号線501に出力された8行目の画素信号がラインメモリ323に一時的に保持される。
続いて制御信号ΦP1、ΦP3が同期してハイレベルになり、ラインメモリ320に保持された5行目の焦点検出用画素313,314の画素信号と、ラインメモリ322に保持された7行目の焦点検出用画素313,314の画素信号とが信号線502で加算されるとともに、水平走査回路507が同期して発生する制御信号ΦV1、ΦV3にしたがって、信号線502で加算された5行目の画素信号と7行目の画素信号の内の1列目と3列目の焦点検出用画素313の画素信号がさらに加算されて出力回路330へ転送され、出力回路330で設定された増幅度で増幅されて外部へ出力される。次に、水平走査回路507が同期して発生する制御信号ΦV2、ΦV4にしたがって、信号線502で加算された5行目の画素信号と7行目の画素信号の内の2列目と4列目の焦点検出用画素314の画素信号がさらに加算されて出力回路330へ転送され、出力回路330で設定された増幅度で増幅されて外部へ出力される。
その後、制御信号ΦP1、ΦP3が同期してローレベルになり、続いて制御信号ΦP2、ΦP4が同期してハイレベルになる。その結果、ラインメモリ321に保持された6行目の撮像用画素310の画素信号と、ラインメモリ323に保持された8行目の撮像用画素310の画素信号とが信号線502で加算されるとともに、水平走査回路507が同期して発生する制御信号ΦV1、ΦV3にしたがって、信号線502で加算された6行目の画素信号と8行目の画素信号の内の1列目と3列目の画素信号がさらに加算されて出力回路330へ転送され、出力回路330で設定された増幅度で増幅されて外部へ出力される。次に、水平走査回路507が同期して発生する制御信号ΦV2、ΦV4にしたがって、信号線502で加算された6行目の画素信号と8行目の画素信号の内の2列目と4列目の画素信号がさらに加算されて出力回路330へ転送され、出力回路330で設定された増幅度で増幅されて外部へ出力される。その後、制御信号ΦP2、ΦP4がローレベルになる。
以上の動作により、図27の撮像素子212Cの5行目から8行目において、まず白色円形マークで示す焦点検出用画素313の4つの画素信号が加算されて出力され、次に黒色円形マークで示す焦点検出用画素314の4つの画素信号が加算されて出力される。同様に、白色正方形マークの中に黒色の小円形マークで示す緑画素の4つの画素信号が加算されて出力され、次に黒色正方形マークの中に白色の小さい円形マークで示す赤画素の4つの画素信号が加算されて出力される。
5行目の焦点検出用画素313,314の画素信号のラインメモリ320への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR5により5行目の焦点検出用画素313,314がリセットされ、制御信号ΦR5の立ち下がりで5行目の焦点検出用画素313,314の次の電荷蓄積が開始される。また、6行目の撮像用画素310の画素信号のラインメモリ321への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR6により6行目の撮像用画素310がリセットされ、制御信号ΦR6の立ち下がりで6行目の撮像用画素310の次の電荷蓄積が開始される。
さらに、7行目の焦点検出用画素313,314の画素信号のラインメモリ322への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR7により7行目の焦点検出用画素313,314がリセットされ、制御信号ΦR7の立ち下がりで7行目の焦点検出用画素313,314の次の電荷蓄積が開始される。さらにまた、8行目の撮像用画素310の画素信号のラインメモリ323への転送が終了した時点で、リセット回路506より発せられる制御信号ΦR8により8行目の撮像用画素310がリセットされ、制御信号ΦR8の立ち下がりで8行目の撮像用画素310の次の電荷蓄積が開始される。すべての画素の画素信号の出力が終了すると、ふたたび1行目に戻って上記動作が周期的に繰り返される。
上述したように、加算出力モードでは、行方向と列方向において1つおきに配置された4つの画素の画素信号が加算されて出力されるので、赤画素、青画素および緑画素がベイヤー配列に配置された撮像素子においても、加算時に異なる種類の撮像用画素310の画素信号や焦点検出用画素313,314の画素信号が混合されることがなく、また、2種類の焦点検出用画素313,314の画素信号が混合されることがない。さらに、加算した焦点検出用画素313,314の信号を用いて焦点検出を行うことができ、加算した撮像用画素310の出力を用いて液晶ビューファインダーに画像を表示することができる。
このように、撮像用画素310の色画素の配置パターン、焦点検出用画素313,314の配置パターン、加算時の画素加算パターンを互いにマッチングさせることによって、加算時の画像の色混合を防止すると同時に、加算信号に基づく焦点検出を可能にすることができる。
図14〜図17に示すカメラ動作においては、レリーズ操作が行われるまでは撮像素子を加算出力モードで周期的に動作させることによって、同一時点に読み出した加算画素信号に基づき表示と焦点検出を同時に行うとともに、レリーズ操作後に撮像素子を通常動作モードで単発的に動作させて読み出した非加算画素信号に基づき焦点検出と焦点調節を行い、焦点調節終了後に再度撮像素子を通常動作モードで単発的に動作させて読み出した非加算画素信号に基づき画像信号を得ているが、レリーズ操作後の焦点調節を省略することも可能である。
また、測光装置により被写界輝度を測定し、レリーズ操作前に低輝度な場合にのみ撮像素子を加算出力モードで動作させて画素信号レベルを向上させるようにしてもよい。
撮像素子における焦点検出エリアの配置は図2に示す配置に限定されず、画面中央以外に焦点検出エリアを配置してもよい。また、対角線方向やその他の位置に水平方向および垂直方向に焦点検出エリアを配置することも可能である。このような場合には、焦点検出用画素の配置パターンに応じて加算時の画素加算パターンを調整する。
図25に示す撮像素子212Cでは、撮像用画素はベイヤー配列の色フィルターを備えた例を示したが、色フィルターの構成や配列はこれに限定されず、補色フィルター(緑:G、イエロー:Ye、マゼンタ:Mg,シアン:Cy)の配列を採用してもよい。
図25に示す撮像素子212Cでは、焦点検出用画素313,314に色フィルターを設けない例を示したが、撮像用画素310と同色の色フィルターの内、一つの色フィルター(たとえば緑フィルター)を設けるようにした場合でも、本発明を適用することができる。
図5に示す焦点検出用画素313,314では、光電変換部13,14の形状を半円形にした例を示したが、光電変換部13,14の形状はこれに限定されず、他の形状であってもよい。例えば、焦点検出用画素の光電変換部の形状を楕円や矩形や多角形にすることも可能である。
図3に示す撮像素子212では、撮像用画素310と焦点検出用画素313,314を稠密正方格子配列に配置した例を示したが、稠密六方格子配列にしてもよい。
本発明に関わる撮像装置は、カメラボディに交換レンズが装着されたデジタルスチルカメラやフィルムスチルカメラに限定されず、レンズ一体型のデジタルスチルカメラやフィルムスチルカメラやビデオカメラにも適用できる。また、携帯電話などに内蔵される小型カメラモジュール、監視カメラ、あるいはロボット用の視覚認識装置などにも適用できる。さらに、カメラ以外の焦点検出装置、測距装置、ステレオ測距装置にも適用できる。
一実施の形態のカメラの構成を示す横断面図 撮影画面上の焦点検出位置を示す図 撮像素子の詳細な構成を示す正面図 撮像用画素の正面図 焦点検出用画素の正面図 焦点検出用画素の分光感度特性を示す図 撮像用画素の断面図 焦点検出用画素の断面図 マイクロレンズを用いた瞳分割型位相差検出方式の焦点検出光学系の構成を示す図 撮像素子の回路構成を示す概念図 図10に示す撮像用画素および焦点検出用画素の詳細な回路図 通常動作モードにおける撮像素子の動作を示すタイミングチャート 加算出力モードにおける撮像素子の動作を示すタイミングチャート 一実施の形態のデジタルスチルカメラ(撮像装置)の動作を示すフローチャート 図14に続く、一実施の形態のデジタルスチルカメラ(撮像装置)の動作を示すフローチャート 図15に続く、一実施の形態のデジタルスチルカメラ(撮像装置)の動作を示すフローチャート 図16に続く、一実施の形態のデジタルスチルカメラ(撮像装置)の動作を示すフローチャート 焦点検出結果の信頼性を説明するための図 変形例の撮像素子の詳細な構成を示す正面図 図19に示す撮像素子の回路構成を示す概念図 図19および図20に示す撮像素子の加算出力モードにおける動作タイミングチャート 他の変形例の撮像素子の詳細な構成を示す正面図 図22に示す撮像素子の回路構成を示す概念図 図22および図23に示す撮像素子の加算出力モードにおける動作を示すタイミングチャート 他の変形例の撮像素子の詳細な構成を示す正面図 撮像用画素の分光特性を示す図 図25に示す撮像素子の回路構成を示す概念図 図25および図27に示す撮像素子の通常動作モードの動作を示すタイミングチャート 図25および図27に示す撮像素子の加算出力モードの動作を示すタイミングチャート
符号の説明
201:デジタルスチルカメラ、202:交換レンズ、206:レンズ駆動制御装置、212、212A、212B、212C:撮像素子、214:ボディ駆動制御装置、310:撮像用画素、313,314:焦点検出用画素、505、505A、505B、505C:垂直走査回路、507:水平走査回路

Claims (13)

  1. 2次元周期格子上の画素位置おいて、互いに近接して配置される撮像用画素および焦点検出用画素と、
    順次近接する複数の前記画素を選択し、選択された前記画素の出力を加算して出力する加算手段とを備えた撮像素子において、
    前記加算手段による1回の加算動作において、前記撮像用画素の出力のみ、または前記焦点検出用画素の出力のみが加算されるように、前記撮像用画素および前記焦点検出用画素の配置パターンと前記加算手段による画素の選択パターンとを一致させたことを特徴とする撮像素子。
  2. 2次元周期格子上の画素位置おいて、互いに近接して配置される撮像用画素、第1焦点検出用画素および第2焦点検出用画素の3種類の画素と、
    順次近接する複数の前記画素を選択し、選択された前記画素の出力を加算する加算手段とを備えた撮像素子において、
    前記加算手段による1回の加算動作において、同一種類の前記画素の出力のみが加算されるように、前記撮像用画素、前記第1焦点検出用画素および前記第2焦点検出用画素の配置パターンと前記加算手段による画素の選択パターンとを一致させたことを特徴とする撮像素子。
  3. 2次元周期格子上の画素位置おいて、互いに近接して配置される複数種類の撮像用画素、第1焦点検出用画素および第2焦点検出用画素と、
    順次近接する複数の前記画素を選択し、選択された前記画素の出力を加算する加算手段とを備えた撮像素子において、
    前記加算手段による1回の加算動作において、同一種類の前記画素の出力のみが加算されるように、複数種類の前記撮像用画素、前記第1焦点検出用画素および前記第2焦点検出用画素の配置パターンと前記加算手段による画素の選択パターンとを一致させたことを特徴とする撮像素子。
  4. 請求項2または請求項3に記載の撮像素子において、
    前記撮像用画素は光学系により撮像素子上に形成される像を受光し、前記第1焦点検出用画素および前記第2焦点検出用画素は前記光学系を通る一対の光束の内の一方と他方をそれぞれ受光することを特徴とする撮像素子。
  5. 請求項4に記載の撮像素子において、
    前記第1焦点検出用画素はマイクロレンズとその背後に配置された第1光電変換部を有し、前記第2焦点検出用画素はマイクロレンズとその背後に配置された前記第1光電変換部と対になる第2光電変換部を有することを特徴とする撮像素子。
  6. 請求項1〜3のいずれか1項に記載の撮像素子において、
    前記撮像用画素は受光する光の分光特性が異なる複数種類の撮像用画素からなることを特徴とする撮像素子。
  7. 光学系による像を受光する請求項2または請求項3に記載の撮像素子と、
    前記撮像素子の動作を制御する制御手段と、
    前記加算手段により加算された前記撮像用画素の出力を用いて画像を表示する画像表示手段と、
    前記加算手段により加算された前記第1焦点検出用画素の出力と前記第2焦点検出用画素の出力とに基づいて前記光学系の焦点調節状態を検出する焦点検出手段とを備えることを特徴とする撮像装置。
  8. 請求項7に記載の撮像装置において、
    前記制御手段は、前記撮像素子を周期的に動作させ、動作毎に前記画像表示手段に表示される画像と焦点調節状態の検出結果とが同時に更新されることを特徴とする撮像装置。
  9. 請求項7に記載の撮像装置において、
    前記制御手段は、前記加算手段による加算動作の開始と停止を制御することを特徴とする撮像装置。
  10. 請求項9に記載の撮像装置において、
    前記制御手段は、撮像時には前記加算手段の加算動作を停止して単発的に前記撮像素子を動作させ、加算されていない前記撮像用画素の出力を前記撮像素子から出力させることを特徴とする撮像装置。
  11. 請求項7〜10のいずれか1項に記載の撮像装置において、
    前記焦点検出手段の検出結果に応じて前記光学系の焦点調節を行う焦点調節手段を備えることを特徴とする撮像装置。
  12. 請求項11に記載の撮像装置において、
    前記制御手段は、撮像前に前記加算手段の加算動作を停止して単発的に前記撮像素子を動作させ、加算されていない前記第1焦点検出用画素と前記第2焦点検出用画素の出力を前記撮像素子から出力させ、
    前記焦点検出手段は該出力に応じて焦点検出を行い、前記焦点調節手段は該焦点検出結果に基づいて焦点調節を行うことを特徴とする撮像装置。
  13. 請求項7〜12のいずれか1項に記載の撮像装置において、
    加算された前記焦点検出用画素の出力に対応する前記撮像用画素の出力を補間する補間手段を備え、
    前記画像表示手段は、前記加算手段により加算された前記撮像用画素の出力と前記補間手段により補間された出力に応じて画像を表示することを特徴とする撮像装置。
JP2007257409A 2007-10-01 2007-10-01 撮像素子および撮像装置 Active JP5045350B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007257409A JP5045350B2 (ja) 2007-10-01 2007-10-01 撮像素子および撮像装置
US12/285,008 US8164679B2 (en) 2007-10-01 2008-09-26 Image-capturing device, camera, method for constructing image-capturing device and image-capturing method for executing display of a live view and a focus detection operation simultaneously

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007257409A JP5045350B2 (ja) 2007-10-01 2007-10-01 撮像素子および撮像装置

Publications (2)

Publication Number Publication Date
JP2009086424A true JP2009086424A (ja) 2009-04-23
JP5045350B2 JP5045350B2 (ja) 2012-10-10

Family

ID=40533804

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007257409A Active JP5045350B2 (ja) 2007-10-01 2007-10-01 撮像素子および撮像装置

Country Status (2)

Country Link
US (1) US8164679B2 (ja)
JP (1) JP5045350B2 (ja)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010004728A1 (en) * 2008-07-10 2010-01-14 Canon Kabushiki Kaisha Image pickup apparatus and its control method
WO2012053363A1 (en) * 2010-10-20 2012-04-26 Canon Kabushiki Kaisha Image sensor and image capturing apparatus
WO2012073727A1 (ja) * 2010-11-30 2012-06-07 富士フイルム株式会社 撮像装置及びその合焦位置検出方法
JP2012159533A (ja) * 2011-01-28 2012-08-23 Olympus Corp 撮像装置及び撮像素子制御方法
JP2012175145A (ja) * 2011-02-17 2012-09-10 Olympus Corp 撮像素子、撮像装置
JP2012173334A (ja) * 2011-02-17 2012-09-10 Nikon Corp デフォーカス量検出装置および電子カメラ
JP2013235054A (ja) * 2012-05-07 2013-11-21 Canon Inc 焦点検出装置及び撮像装置
US8928774B2 (en) 2010-12-03 2015-01-06 Canon Kabushiki Kaisha Image capture apparatus
JP2015007743A (ja) * 2013-05-31 2015-01-15 株式会社ニコン 撮像素子および撮像装置
JP2015046761A (ja) * 2013-08-28 2015-03-12 キヤノン株式会社 撮像装置、撮像システム及び撮像装置の駆動方法
JP2016127373A (ja) * 2014-12-26 2016-07-11 キヤノン株式会社 撮像装置、撮像システム、および撮像装置の駆動方法
JP5982600B2 (ja) * 2014-03-18 2016-08-31 富士フイルム株式会社 撮像装置及び合焦制御方法
JP2016167886A (ja) * 2011-03-24 2016-09-15 キヤノン株式会社 画像処理装置及び画像処理方法
WO2016208416A1 (ja) * 2015-06-26 2016-12-29 ソニー株式会社 固体撮像装置および電子機器
JP2017044821A (ja) * 2015-08-25 2017-03-02 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JPWO2019031000A1 (ja) * 2017-08-09 2020-07-09 ソニー株式会社 信号処理装置、撮像装置、信号処理方法及びプログラム

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4321579B2 (ja) 2006-11-28 2009-08-26 ソニー株式会社 撮像装置
JP5256711B2 (ja) * 2007-11-28 2013-08-07 株式会社ニコン 撮像素子および撮像装置
JP2010057067A (ja) * 2008-08-29 2010-03-11 Sony Corp 撮像装置および画像処理装置
JP2010091943A (ja) * 2008-10-10 2010-04-22 Canon Inc 撮像装置
JP5675157B2 (ja) * 2009-05-12 2015-02-25 キヤノン株式会社 焦点検出装置
WO2011053711A1 (en) * 2009-10-30 2011-05-05 Invisage Technologies, Inc. Systems and methods for color binning
EP2539020B1 (en) * 2010-02-24 2017-03-22 Accuray Incorporated Gantry image guided radiotherapy system
JP2011176715A (ja) 2010-02-25 2011-09-08 Nikon Corp 裏面照射型撮像素子および撮像装置
JP5126261B2 (ja) * 2010-03-18 2013-01-23 株式会社ニコン カメラ
JP5664270B2 (ja) * 2011-01-21 2015-02-04 ソニー株式会社 撮像素子および撮像装置
WO2013108656A1 (ja) * 2012-01-16 2013-07-25 ソニー株式会社 固体撮像素子およびカメラシステム
US9191566B2 (en) * 2012-03-30 2015-11-17 Samsung Electronics Co., Ltd. Image pickup apparatus, method for image pickup and computer-readable recording medium
KR20130134293A (ko) 2012-05-30 2013-12-10 삼성전자주식회사 이미지 센서, 이의 동작 방법, 및 이를 포함하는 시스템
JP6149369B2 (ja) 2012-09-27 2017-06-21 株式会社ニコン 撮像素子
JP5942757B2 (ja) * 2012-09-28 2016-06-29 株式会社ニコン 焦点検出装置および撮像装置
EP2782331A1 (en) 2013-03-22 2014-09-24 Harvest Imaging bvba Image sensor with focus-detection pixel, and method for reading focus-information
JP6351231B2 (ja) * 2013-10-18 2018-07-04 キヤノン株式会社 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体
JPWO2017073045A1 (ja) * 2015-10-28 2018-08-02 京セラ株式会社 撮像装置、撮像システム、対象者監視システム、および撮像装置の制御方法
US10264174B2 (en) * 2015-12-08 2019-04-16 Samsung Electronics Co., Ltd. Photographing apparatus and focus detection method using the same
WO2018186302A1 (ja) * 2017-04-05 2018-10-11 株式会社ニコン 撮像素子および撮像装置
KR102682859B1 (ko) * 2019-03-25 2024-07-09 에스케이하이닉스 주식회사 이미지 처리 시스템, 이미지 센서, 이미지 센서의 구동 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000305010A (ja) * 1999-04-20 2000-11-02 Olympus Optical Co Ltd 撮像装置
JP2002314062A (ja) * 2001-04-18 2002-10-25 Canon Inc 固体撮像装置および撮像システム
JP2003244712A (ja) * 2002-02-19 2003-08-29 Canon Inc 撮像装置及びシステム
JP2004023747A (ja) * 2002-06-20 2004-01-22 Minolta Co Ltd 電子カメラ
JP2005354154A (ja) * 2004-06-08 2005-12-22 Matsushita Electric Ind Co Ltd 固体撮像装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10136244A (ja) * 1996-11-01 1998-05-22 Olympus Optical Co Ltd 電子的撮像装置
JP4140077B2 (ja) * 1998-02-18 2008-08-27 ソニー株式会社 固体撮像素子の駆動方法及び固体撮像素子、並びにカメラ
US6519371B1 (en) * 1999-09-30 2003-02-11 California Institute Of Technology High-speed on-chip windowed centroiding using photodiode-based CMOS imager
JP2002320235A (ja) * 2001-04-19 2002-10-31 Fujitsu Ltd 空間解像度の低下を抑えて縮小画像信号を生成するcmosイメージセンサ
JP3854826B2 (ja) * 2001-08-08 2006-12-06 キヤノン株式会社 撮像装置
US7154075B2 (en) * 2003-11-13 2006-12-26 Micron Technology, Inc. Method and apparatus for pixel signal binning and interpolation in column circuits of a sensor circuit
US7385638B2 (en) * 2004-04-28 2008-06-10 Eastman Kodak Company Image sensor for still or video photography
JP2007150643A (ja) * 2005-11-28 2007-06-14 Sony Corp 固体撮像素子、固体撮像素子の駆動方法および撮像装置
JP4797606B2 (ja) 2005-12-01 2011-10-19 株式会社ニコン 撮像装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000305010A (ja) * 1999-04-20 2000-11-02 Olympus Optical Co Ltd 撮像装置
JP2002314062A (ja) * 2001-04-18 2002-10-25 Canon Inc 固体撮像装置および撮像システム
JP2003244712A (ja) * 2002-02-19 2003-08-29 Canon Inc 撮像装置及びシステム
JP2004023747A (ja) * 2002-06-20 2004-01-22 Minolta Co Ltd 電子カメラ
JP2005354154A (ja) * 2004-06-08 2005-12-22 Matsushita Electric Ind Co Ltd 固体撮像装置

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010004728A1 (en) * 2008-07-10 2010-01-14 Canon Kabushiki Kaisha Image pickup apparatus and its control method
JP2010020055A (ja) * 2008-07-10 2010-01-28 Canon Inc 撮像装置とその制御方法
US9338341B2 (en) 2008-07-10 2016-05-10 Canon Kabushiki Kaisha Image pickup apparatus capable of reading proper functional pixels when image signals are mixed or skipped and are read out, and method of controlling the same
JP2012090118A (ja) * 2010-10-20 2012-05-10 Canon Inc 撮像素子及び撮像装置
CN103168463A (zh) * 2010-10-20 2013-06-19 佳能株式会社 图像传感器和摄像设备
US8988593B2 (en) 2010-10-20 2015-03-24 Canon Kabushiki Kaisha Image sensor and image capturing apparatus with focus detection pixels
KR101469400B1 (ko) * 2010-10-20 2014-12-04 캐논 가부시끼가이샤 화상 센서 및 화상 촬상 장치
WO2012053363A1 (en) * 2010-10-20 2012-04-26 Canon Kabushiki Kaisha Image sensor and image capturing apparatus
WO2012073727A1 (ja) * 2010-11-30 2012-06-07 富士フイルム株式会社 撮像装置及びその合焦位置検出方法
US8928774B2 (en) 2010-12-03 2015-01-06 Canon Kabushiki Kaisha Image capture apparatus
JP2012159533A (ja) * 2011-01-28 2012-08-23 Olympus Corp 撮像装置及び撮像素子制御方法
JP2012175145A (ja) * 2011-02-17 2012-09-10 Olympus Corp 撮像素子、撮像装置
JP2012173334A (ja) * 2011-02-17 2012-09-10 Nikon Corp デフォーカス量検出装置および電子カメラ
JP2016167886A (ja) * 2011-03-24 2016-09-15 キヤノン株式会社 画像処理装置及び画像処理方法
JP2013235054A (ja) * 2012-05-07 2013-11-21 Canon Inc 焦点検出装置及び撮像装置
JP2015007743A (ja) * 2013-05-31 2015-01-15 株式会社ニコン 撮像素子および撮像装置
JP2019091090A (ja) * 2013-05-31 2019-06-13 株式会社ニコン 検出装置、撮像素子および撮像装置
JP2015046761A (ja) * 2013-08-28 2015-03-12 キヤノン株式会社 撮像装置、撮像システム及び撮像装置の駆動方法
JP5982600B2 (ja) * 2014-03-18 2016-08-31 富士フイルム株式会社 撮像装置及び合焦制御方法
JP2016127373A (ja) * 2014-12-26 2016-07-11 キヤノン株式会社 撮像装置、撮像システム、および撮像装置の駆動方法
WO2016208416A1 (ja) * 2015-06-26 2016-12-29 ソニー株式会社 固体撮像装置および電子機器
JP2017044821A (ja) * 2015-08-25 2017-03-02 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JPWO2019031000A1 (ja) * 2017-08-09 2020-07-09 ソニー株式会社 信号処理装置、撮像装置、信号処理方法及びプログラム
JP7230807B2 (ja) 2017-08-09 2023-03-01 ソニーグループ株式会社 信号処理装置、撮像装置、信号処理方法及びプログラム

Also Published As

Publication number Publication date
JP5045350B2 (ja) 2012-10-10
US20090096886A1 (en) 2009-04-16
US8164679B2 (en) 2012-04-24

Similar Documents

Publication Publication Date Title
JP5045350B2 (ja) 撮像素子および撮像装置
JP5092685B2 (ja) 撮像素子および撮像装置
JP5256711B2 (ja) 撮像素子および撮像装置
JP4867552B2 (ja) 撮像装置
JP4946313B2 (ja) 撮像装置
US8525917B2 (en) Image sensing apparatus with plural focus detection pixel groups
JP5098405B2 (ja) 撮像素子、焦点検出装置および撮像装置
JP4720508B2 (ja) 撮像素子および撮像装置
JP4867566B2 (ja) 撮像素子、焦点検出装置および撮像装置
JP5595014B2 (ja) 撮像装置
JP5157400B2 (ja) 撮像装置
JP5167783B2 (ja) 焦点検出装置および撮像装置
US9357121B2 (en) Image capturing apparatus and control method thereof
JP5211590B2 (ja) 撮像素子および焦点検出装置
JP2010129783A (ja) 撮像素子および撮像装置
JP5609098B2 (ja) 撮像装置
JP5186895B2 (ja) 撮像装置
JP5962830B2 (ja) 焦点検出装置
JP5407314B2 (ja) 焦点検出装置および撮像装置
JP5804104B2 (ja) 焦点調節装置
JP5403117B2 (ja) 焦点検出装置および撮像装置
JP2010039106A (ja) 撮像素子、焦点検出装置および撮像装置
JP2016189019A (ja) 焦点調節装置および電子カメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100929

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120402

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20120402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120619

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120702

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150727

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5045350

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150727

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250