JPWO2018088119A1 - 撮像装置、撮像方法、及び、撮像プログラム - Google Patents

撮像装置、撮像方法、及び、撮像プログラム Download PDF

Info

Publication number
JPWO2018088119A1
JPWO2018088119A1 JP2018550085A JP2018550085A JPWO2018088119A1 JP WO2018088119 A1 JPWO2018088119 A1 JP WO2018088119A1 JP 2018550085 A JP2018550085 A JP 2018550085A JP 2018550085 A JP2018550085 A JP 2018550085A JP WO2018088119 A1 JPWO2018088119 A1 JP WO2018088119A1
Authority
JP
Japan
Prior art keywords
imaging
photoelectric conversion
unit
conversion unit
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018550085A
Other languages
English (en)
Other versions
JP6573730B2 (ja
Inventor
智行 河合
智行 河合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2018088119A1 publication Critical patent/JPWO2018088119A1/ja
Application granted granted Critical
Publication of JP6573730B2 publication Critical patent/JP6573730B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/02Mountings, adjusting means, or light-tight connections, for optical elements for lenses
    • G02B7/04Mountings, adjusting means, or light-tight connections, for optical elements for lenses with mechanism for focusing or varying magnification
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/18Signals indicating condition of a camera member or suitability of light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Focusing (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

高解像度の撮像画像データの記憶を可能とし、この撮像画像データを表示部においてすぐに確認することのできる撮像装置、撮像方法、及び、撮像プログラムを提供する。システム制御部11は、撮像指示があると撮像素子5の受光面60を露光し、この露光の終了後、5つのフィールド期間に分けて撮像素子5から撮像信号を読み出す。システム制御部11は、最初のフィールド期間では、位相差検出用画素61R,61Lを含むフィールドから撮像信号を読み出し、その次のフィールド期間では撮像用画素のみを含むフィールドから撮像信号を読み出す。デジタル信号処理部17は、最初のフィールド期間で読み出された撮像信号に基づいてポストビュー画像を表示し、その次のフィールド期間で読み出した撮像信号に基づいてポストビュー画像を更新する。

Description

本発明は、撮像装置、撮像方法、及び、撮像プログラムに関する。
近年、CCD(Charge Coupled Device)イメージセンサ、又は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の撮像素子の高解像度化に伴い、電子内視鏡、デジタルスチルカメラ、デジタルビデオカメラ、又は、カメラ付きの携帯電話機等の撮像機能を有する情報機器の需要が急増している。なお、以上のような撮像機能を有する情報機器を撮像装置と称する。
これら撮像装置には、位相差検出用画素を含む撮像素子を搭載し、位相差検出用画素の出力信号に基づいて撮像光学系の焦点調節を行うものがある(特許文献1、2参照)。
特許文献1に記載の撮像装置は、動画の記憶を行う動画撮像モードにおいて、撮像素子から1フレーム分の撮像画像信号を読み出す際に、位相差検出用画素を含む画素群から信号を読み出す駆動を先に実施し、残りの画素群から信号を読み出す駆動を続けて実施している。この撮像装置によれば、最初の駆動で読み出される信号に基づいて撮像光学系の焦点調節を実施することができるため、被写体に焦点を追従させながら各フレームのための撮像を行うことが可能になる。
日本国特開2014−241577号公報 日本国特開2016−005189号公報
撮像装置には、静止画撮像が行われると、この静止画撮像によって得られた撮像画像データを確認するための確認用の画像(ポストビュー画像)を表示部に表示させるポストビュー機能が搭載されている。
ポストビュー機能を搭載する撮像装置において、高解像度の静止画を記憶しようとすると、確認用の画像を表示するまでに時間がかかり、表示部において長時間のブラックアウトが発生する。特に、静止画の記憶を連続して行う連写モードにおいては、このブラックアウトの発生する時間が長くなると、ポストビュー画像の視認性が低下する。
特許文献1に記載の撮像装置は、動画撮像モードにおいては、最初の駆動で位相差検出用画素を含む画素群から読み出した信号は記憶と表示のためには利用せず、次の駆動で位相差検出用画素を含まない画素群から読み出した信号を記憶と表示のために利用している。
このため、記憶される動画の各フレームの解像度は、位相差検出用画素を含む画素群の分、低下する。また、位相差検出用画素を含む画素群から信号を読み出す駆動を先に行う場合には、この信号は表示のためには利用されないため、動画の1フレームの撮像が終了してから、この1フレームの確認用の画像が表示されるまでに時間がかかる。
特許文献2に記載の撮像装置は、位相差検出用画素を含む画素群から読み出した信号を記憶のために利用していない。このため、高解像度の静止画又は動画の記憶を行うことはできない。
本発明は、上記事情に鑑みてなされたものであり、高解像度の撮像画像データの記憶を可能とし、この撮像画像データを表示部においてすぐに確認することのできる撮像装置、撮像方法、及び、撮像プログラムを提供することを目的とする。
本発明の撮像装置は、一方向に並ぶ複数の光電変換部からなる複数の画素行が上記一方向と直交する方向に並ぶ受光面を有し、上記複数の画素行には、フォーカスレンズを含む撮像光学系の瞳領域の一方向に並ぶ異なる部分を通過した一対の光束の一方を受光する複数の第一の光電変換部と、上記一対の光束の他方を受光する複数の第二の光電変換部と、上記一対の光束の両方を受光する複数の第三の光電変換部とが含まれる撮像素子と、上記複数の第一の光電変換部、上記複数の第二の光電変換部、及び、上記複数の第三の光電変換部を含む光電変換部群を露光し、上記露光によって上記複数の第一の光電変換部の各々で光電変換された撮像信号、上記露光によって上記複数の第二の光電変換部の各々で光電変換された撮像信号、及び、上記露光によって上記複数の第三の光電変換部の各々で光電変換された撮像信号を含む撮像信号群を、上記撮像素子から複数のフィールド期間に分けて読み出す駆動制御を、撮像指示に応じて行う駆動制御部と、上記撮像素子から読み出された上記撮像信号群を処理して撮像画像データを生成し、上記撮像画像データを記憶媒体に記憶する画像処理部と、上記複数のフィールド期間のうちの最初のフィールド期間で上記撮像素子から読み出される第一の撮像信号群を処理して第一の表示用画像データを生成し、上記最初のフィールド期間の次のフィールド期間で上記撮像素子から読み出される第二の撮像信号群を処理して第二の表示用画像データを生成する表示用画像データ生成部と、上記第一の表示用画像データに基づく第一の画像を表示部に表示した後、上記第一の画像を、上記第二の表示用画像データに基づく第二の画像に切り替える表示制御部と、を備え、上記駆動制御部は、上記最初のフィールド期間では、上記第一の光電変換部と上記第二の光電変換部の複数のペアと、複数の上記第三の光電変換部とから撮像信号を読み出し、上記次のフィールド期間では、複数の上記第三の光電変換部から撮像信号を読み出すものである。
本発明の撮像方法は、一方向に並ぶ複数の光電変換部からなる複数の画素行が上記一方向と直交する方向に並ぶ受光面を有し、上記複数の画素行には、フォーカスレンズを含む撮像光学系の瞳領域の一方向に並ぶ異なる部分を通過した一対の光束の一方を受光する複数の第一の光電変換部と、上記一対の光束の他方を受光する複数の第二の光電変換部と、上記一対の光束の両方を受光する複数の第三の光電変換部とが含まれる撮像素子を用いて被写体を撮像する撮像方法であって、上記複数の第一の光電変換部、上記複数の第二の光電変換部、及び、上記複数の第三の光電変換部を含む光電変換部群を露光し、上記露光によって上記複数の第一の光電変換部の各々で光電変換された撮像信号、上記露光によって上記複数の第二の光電変換部の各々で光電変換された撮像信号、及び、上記露光によって上記複数の第三の光電変換部の各々で光電変換された撮像信号を含む撮像信号群を、上記撮像素子から複数のフィールド期間に分けて読み出す駆動制御を、撮像指示に応じて行う駆動制御ステップと、上記撮像素子から読み出された上記撮像信号群を処理して撮像画像データを生成し、上記撮像画像データを記憶媒体に記憶する画像処理ステップと、上記複数のフィールド期間のうちの最初のフィールド期間で上記撮像素子から読み出される第一の撮像信号群を処理して第一の表示用画像データを生成し、上記最初のフィールド期間の次のフィールド期間で上記撮像素子から読み出される第二の撮像信号群を処理して第二の表示用画像データを生成する表示用画像データ生成ステップと、上記第一の表示用画像データに基づく第一の画像を表示部に表示した後、上記第一の画像を、上記第二の表示用画像データに基づく第二の画像に切り替える表示制御ステップと、を備え、上記駆動制御ステップでは、上記最初のフィールド期間では、上記第一の光電変換部と上記第二の光電変換部の複数のペアと、複数の上記第三の光電変換部とから撮像信号を読み出し、上記次のフィールド期間では、複数の上記第三の光電変換部から撮像信号を読み出すものである。
本発明の撮像プログラムは、一方向に並ぶ複数の光電変換部からなる複数の画素行が上記一方向と直交する方向に並ぶ受光面を有し、上記複数の画素行には、フォーカスレンズを含む撮像光学系の瞳領域の一方向に並ぶ異なる部分を通過した一対の光束の一方を受光する複数の第一の光電変換部と、上記一対の光束の他方を受光する複数の第二の光電変換部と、上記一対の光束の両方を受光する複数の第三の光電変換部とが含まれる撮像素子を用いて被写体を撮像する撮像プログラムであって、上記複数の第一の光電変換部、上記複数の第二の光電変換部、及び、上記複数の第三の光電変換部を含む光電変換部群を露光し、上記露光によって上記複数の第一の光電変換部の各々で光電変換された撮像信号、上記露光によって上記複数の第二の光電変換部の各々で光電変換された撮像信号、及び、上記露光によって上記複数の第三の光電変換部の各々で光電変換された撮像信号を含む撮像信号群を、上記撮像素子から複数のフィールド期間に分けて読み出す駆動制御を、撮像指示に応じて行う駆動制御ステップと、上記撮像素子から読み出された上記撮像信号群を処理して撮像画像データを生成し、上記撮像画像データを記憶媒体に記憶する画像処理ステップと、上記複数のフィールド期間のうちの最初のフィールド期間で上記撮像素子から読み出される第一の撮像信号群を処理して第一の表示用画像データを生成し、上記最初のフィールド期間の次のフィールド期間で上記撮像素子から読み出される第二の撮像信号群を処理して第二の表示用画像データを生成する表示用画像データ生成ステップと、上記第一の表示用画像データに基づく第一の画像を表示部に表示した後、上記第一の画像を、上記第二の表示用画像データに基づく第二の画像に切り替える表示制御ステップと、をコンピュータに実行させるためのプログラムであり、上記駆動制御ステップでは、上記最初のフィールド期間では、上記第一の光電変換部と上記第二の光電変換部の複数のペアと、複数の上記第三の光電変換部とから撮像信号を読み出し、上記次のフィールド期間では、複数の上記第三の光電変換部から撮像信号を読み出すものである。
本発明によれば、高解像度の撮像画像データの記憶を可能とし、この撮像画像データを表示部においてすぐに確認することのできる撮像装置、撮像方法、及び、撮像プログラムを提供することができる。
本発明の撮像装置の一実施形態であるデジタルカメラ100の概略構成を示す図である。 図2に示す撮像素子5の構成を示す平面模式図である。 図2に示す撮像素子5の画素群f1の画素配列を部分的に示す図である。 図2に示す撮像素子5の画素群f2の画素配列を部分的に示す図である。 図1に示すシステム制御部11の機能ブロック図である。 図1に示すデジタル信号処理部17の機能ブロック図である。 図1に示すデジタルカメラ100の単写モード時の動作を説明するためのタイミングチャートである。 図1に示すデジタルカメラ100の連写モード時の動作を説明するためのタイミングチャートである。 図1に示すデジタルカメラ100の連写モード時の動作の変形例を説明するためのタイミングチャートである。 図1に示すデジタルカメラ100の連写モード時の動作の他の変形例を説明するためのタイミングチャートである。 撮像素子5の受光面60に配置される画素の配列の変形例を示す図である。 図11に示す撮像素子5のフィールドF1にある画素群の画素配列を部分的に示す図である。 本発明の撮影装置の一実施形態であるスマートフォン200の外観を示すものである。 図13に示すスマートフォン200の構成を示すブロック図である。
以下、本発明の実施形態について図面を参照して説明する。
図1は、本発明の撮像装置の一実施形態であるデジタルカメラ100の概略構成を示す図である。
デジタルカメラ100は、撮像レンズ1と、絞り2と、メカニカルシャッタ3と、レンズ制御部4と、シャッタ駆動部6と、レンズ駆動部8と、絞り駆動部9とを有するレンズ装置40を備える。
本実施形態において、レンズ装置40はデジタルカメラ100本体に着脱可能なものとして説明するが、デジタルカメラ100本体に固定されるものであってもよい。
撮像レンズ1と絞り2は撮像光学系を構成し、撮像光学系は例えばフォーカスレンズ等を含む。
フォーカスレンズは、撮像光学系の焦点を調節するためのレンズであり、単一のレンズ又は複数のレンズで構成される。フォーカスレンズが撮像光学系の光軸方向に移動することで、撮像光学系の焦点調節が行われる。
なお、フォーカスレンズとしては、レンズの曲面を可変制御して焦点位置を変えることのできる液体レンズを用いてもよい。
メカニカルシャッタ3は、撮像素子5に光が入射する状態と、撮像素子5に光を入射させない状態とを機械的に切り替えるシャッタ機構であり、図1の例では、撮像光学系よりも被写体側に配置されている。
メカニカルシャッタ3は、撮像素子5の前方(被写体側)に配置されていればよく、例えば撮像素子5と撮像光学系との間に配置されていてもよい。以下では、メカニカルシャッタ3が、先幕と後幕で構成されるフォーカルプレーンシャッタであるものとして説明する。
レンズ装置40のレンズ制御部4は、デジタルカメラ100本体のシステム制御部11と有線又は無線によって通信可能に構成される。
レンズ制御部4は、システム制御部11からの指令にしたがい、シャッタ駆動部6を介してメカニカルシャッタ3を開閉したり、レンズ駆動部8を介して撮像レンズ1に含まれるフォーカスレンズを制御したり、絞り駆動部9を介して絞り2を駆動したりする。
デジタルカメラ100本体は、撮像光学系を通して被写体を撮像するCMOSイメージセンサ等のMOS型の撮像素子5と、撮像素子5を駆動する撮像素子駆動部10と、デジタルカメラ100の電気制御系全体を統括制御するシステム制御部11と、操作部14と、を備える。
システム制御部11は、各種のプロセッサとRAM(Ramdom Access Memory)とROM(Read Only Memory)と含んで構成され、デジタルカメラ100全体を統括制御する。このROMには、撮像プログラムを含むプログラムが格納されている。
各種のプロセッサとしては、プログラムを実行して各種処理を行う汎用的なプロセッサであるCPU(Central Prosessing Unit)、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、又はASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
これら各種のプロセッサの構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。
システム制御部11のプロセッサは、各種のプロセッサのうちの1つで構成されてもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ又はCPUとFPGAの組み合わせ)で構成されてもよい。
更に、このデジタルカメラ100の電気制御系は、撮像素子5からデータバス25に出力される撮像信号群に対し、補間演算、ガンマ補正演算、及び、RGB/YC変換処理等を行って記録用の撮像画像データと表示用画像データとを生成するデジタル信号処理部17と、着脱自在の記憶媒体21が接続される外部メモリ制御部20と、デジタルカメラ100の背面又は電子ビューファインダ内等に搭載された有機EL(Electro Luminescence)ディスプレイ又はLCD(Liquid Crystal Display)等の表示部23を駆動する表示ドライバ22と、を備える。
デジタル信号処理部17は、上述の各種のプロセッサとRAMとROMを含み、このROMに格納されたプログラムをこのプロセッサが実行することで各種処理を行う。このプログラムは撮像プログラムを含む。
デジタル信号処理部17のプロセッサは、各種のプロセッサのうちの1つで構成されてもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ又はCPUとFPGAの組み合わせ)で構成されてもよい。
デジタル信号処理部17、外部メモリ制御部20、及び、表示ドライバ22は、制御バス24及びデータバス25によって相互に接続され、システム制御部11からの指令に基づいて動作する。
図3は、図2に示す撮像素子5の構成を示す平面模式図である。
撮像素子5は、一方向である行方向Xに配列された複数の画素61からなる画素行62が、行方向Xと直交する列方向Yに複数配列された受光面60と、受光面60に配列された画素を駆動する駆動回路63と、受光面60に配列された画素行62の各画素61から読み出される撮像信号を処理する信号処理回路64と、を備える。
以下では、図3において受光面60の列方向Yの上方向の端部を上端といい、受光面60の列方向Yの下方向の端部を下端という。
画素61は、レンズ装置40の撮像光学系を通った光を受光し受光量に応じた電荷を発生して蓄積する光電変換部と、この光電変換部の上方に形成されたカラーフィルタと、この光電変換部に蓄積された電荷を電圧信号に変換し撮像信号として信号線に読み出す読み出し回路と、を含む。読み出し回路は、周知の構成を採用可能である。
読み出し回路は、例えば、光電変換部に蓄積された電荷をフローティングディフュージョンに転送するための転送トランジスタと、フローティングディフュージョンの電位をリセットするためのリセットトランジスタと、フローティングディフュージョンの電位に応じた電圧信号を出力する出力トランジスタと、出力トランジスタから出力される電圧信号を選択的に信号線に読み出すための選択トランジスタと、を含む。なお、読み出し回路は、複数の光電変換部で共用される場合もある。
受光面60に形成された複数の画素61に搭載されるカラーフィルタはベイヤ配列にしたがって配列されている。撮像素子5ではカラーフィルタによって分光を行うものとしているが、カラーフィルタを用いずに光電変換部自体で分光を行う構成であってもよい。
受光面60には、5つのフィールドF1〜F5が設定されている。
Mを0以上の整数とし、受光面60に設定されるフィールド数をn(ここではn=5)とし、k=1〜nとして、受光面60に配列された全ての画素行62のうちの受光面60の上端側から数えて(n×M+k)番目にある画素行62が配置される領域がフィールドFkとされている。以下では、フィールドFkにある画素61からなるグループを画素群fkという。つまり、受光面60には、画素群f1と、画素群f2と、画素群f3と、画素群f4と、画素群f5とが形成されている。
駆動回路63は、各画素61の光電変換部に接続される読み出し回路を画素行62単位で駆動して、画素行62毎に、この画素行62に含まれる各光電変換部のリセット、この各光電変換部に蓄積された電荷に応じた電圧信号の信号線への読み出し等を行う。駆動回路63は、撮像素子駆動部10によって制御される。
信号処理回路64は、画素行62の各画素61から信号線に読み出された撮像信号に対し、相関二重サンプリング処理を行い、相関二重サンプリング処理後の撮像信号をデジタル信号に変換して出力する。
撮像素子5の受光面60に形成された複数の画素61には、撮像用画素と位相差検出用画素とが含まれる。
撮像素子5では、画素群f1のうち、一部の画素61が位相差検出用画素となっており、この一部を除く残りの画素61が撮像用画素となっている。また、画素群f2〜f5に含まれる画素61は全て撮像用画素となっている。
図3は、図2に示す撮像素子5の画素群f1の画素配列を部分的に示す図である。
画素群f1は、撮像用画素61rと、撮像用画素61gと、撮像用画素61bと、位相差検出用画素61Rと、位相差検出用画素61Lとによって構成される。
位相差検出用画素61Rは、レンズ装置40の撮像光学系の瞳領域の行方向Xに並ぶ異なる部分を通過した一対の光束の一方を受光し、受光量に応じた電荷を発生して蓄積する第一の光電変換部を含む画素である。位相差検出用画素61Rに含まれる第一の光電変換部は、図3の例では緑色光を受光し、受光量に応じた電荷を発生して蓄積する。
位相差検出用画素61Lは、上記の一対の光束の他方を受光し、受光量に応じた電荷を発生して蓄積する第二の光電変換部を含む画素である。位相差検出用画素61Lに含まれる第二の光電変換部は、図3の例では緑色光を受光し、受光量に応じた電荷を発生して蓄積する。なお、第一の光電変換部と第二の光電変換部は、青色光又は赤色光を受光するものであってもよい。
撮像用画素61r、撮像用画素61g、及び、撮像用画素61bの各々は、上記の一対の光束の両方を受光し、受光量に応じた電荷を発生して蓄積する第三の光電変換部を含む画素である。
撮像用画素61rに含まれる第三の光電変換部は、赤色光を受光し、受光量に応じた電荷を発生して蓄積する。
撮像用画素61gに含まれる第三の光電変換部は、緑色光を受光し、受光量に応じた電荷を発生して蓄積する。
撮像用画素61bに含まれる第三の光電変換部は、青色光を受光し、受光量に応じた電荷を発生して蓄積する。
画素群f1に含まれる全ての画素は、ベイヤ配列にしたがって配置されており、撮像用画素61gと撮像用画素61bが行方向Xに交互に配列されたGB画素行のうちの一部の画素行が、位相差検出のための位相差検出画素行PLとされている。
位相差検出画素行PLは、ベイヤ配列において撮像用画素61gが配置されるべき位置に配置された位相差検出用画素61Lと、ベイヤ配列において撮像用画素61bが配置されるべき位置に配置された位相差検出用画素61Rとにより構成される。
位相差検出画素行PLにおいて、位相差検出用画素61Lとこの右隣の位相差検出用画素61RとはペアPを構成し、位相差検出画素行PLはこのペアPを複数有する構成となっている。
位相差検出画素行PLに含まれる複数の位相差検出用画素61Lから読み出される撮像信号群と複数の位相差検出用画素61Rから読み出される撮像信号群との相関演算を行うことで、位相差検出画素行PLによって撮像される一対の被写体像の位相差を検出することができる。
なお、GB画素行のうちの一部の画素行が位相差検出画素行PLとされるのではなく、撮像用画素61rと撮像用画素61gが行方向Xに交互に配列されたRG画素行のうちの一部の画素行が位相差検出画素行PLとされた構成であってもよい。
また、図3の例では、位相差検出画素行PLは複数のペアPのみで構成されているが、位相差検出画素行PLは撮像用画素を含んでいてもよい。例えば、位相差検出画素行PLにおいて、複数のペアPの間に撮像用画素が配置される構成であってもよい。
図4は、図2に示す撮像素子5の画素群f2の画素配列を部分的に示す図である。
画素群f2は、撮像用画素61rと、撮像用画素61gと、撮像用画素61bとによって構成され、これらがベイヤ配列にしたがって配置された構成である。
なお、画素群f3〜画素群f5の各々の画素配列については、受光面60の上端側の画素行が、撮像用画素61rと撮像用画素61gが行方向Xに交互に配列されたRG画素行となるか、撮像用画素61gと撮像用画素61bが行方向Xに交互に配列されたGB画素行となるかの違いはあるものの、画素群f2と基本的には同じである。
このように、画素群f1〜画素群f5は、それぞれ、ベイヤ配列にしたがって配置された複数の画素によって構成される。受光面60に形成される各画素群がベイヤ配列にしたがって配置された複数の画素により構成されるためには、受光面60に設定されるフィールドの数(上記のnの値)を3以上の奇数とする必要がある。
図5は、図1に示すシステム制御部11の機能ブロック図である。
システム制御部11のプロセッサは、内蔵ROMに格納された撮像プログラムを含むプログラムを実行することにより、駆動制御部11Aと、合焦制御部11Bとして機能する。
駆動制御部11Aは、撮像素子駆動部10とレンズ制御部4を制御し、ライブビュー表示用の撮像と記録用の撮像を撮像素子5に行わせる。
駆動制御部11Aは、静止画の撮像指示があった場合には、撮像素子駆動部10とレンズ制御部4を制御することで撮像素子5の各画素61を所定時間露光し、この所定時間の露光によって撮像素子5の各画素61の光電変換部で光電変換して得られた撮像信号からなる撮像信号群(以下、静止画撮像信号群という)を、撮像素子5の受光面60に設定されるフィールドの数と同じn回のフィールド期間に分けて読み出す駆動制御をこの撮像指示に応じて行う。フィールド期間は、垂直同期信号の1周期に相当する。
具体的には、駆動制御部11Aは、n回のフィールド期間のうちの最初のフィールド期間である第一フィールド期間においてフィールドF1にある画素群f1から撮像信号を読み出す駆動を行い、第一フィールド期間の次の第二フィールド期間においてフィールドF2にある画素群f2から撮像信号を読み出す駆動を行い、第二フィールド期間の次の第三フィールド期間においてフィールドF3にある画素群f3から撮像信号を読み出す駆動を行い、第三フィールド期間の次の第四フィールド期間においてフィールドF4にある画素群f4から撮像信号を読み出す駆動を行い、第四フィールド期間の次の第五フィールド期間においてフィールドF5にある画素群f5から撮像信号を読み出す駆動を行うことで、上記の静止画撮像信号群を撮像素子5から読み出す。
合焦制御部11Bは、撮像素子5の位相差検出用画素61R,61Lから読み出された撮像信号に基づいてフォーカスレンズを制御して、レンズ装置40の撮像光学系の合焦制御を行う。
図1のデジタルカメラは、撮像指示に応じて1回の上記の駆動制御を行って1つの撮像画像データを記憶媒体21に記憶する単写モードと、撮像指示に応じて複数回の上記の駆動制御を連続して行って複数の撮像画像データを記憶媒体21に記憶する連写モードとを搭載している。
この連写モードが設定されている状態では、合焦制御部11Bは、駆動制御部11Aによる各駆動制御によって上記の静止画撮像信号群の読み出しが完了する前に、画素群f1から読み出された撮像信号のうちの位相差検出用画素61Rから読み出された第一の撮像信号及び位相差検出用画素61Lから読み出された第二の撮像信号に基づいてフォーカスレンズを制御して、レンズ装置40の撮像光学系の合焦制御を行う。
具体的には、合焦制御部11Bは、第一の撮像信号と第二の撮像信号の相関演算を行うことで位相差を算出し、この位相差からデフォーカス量を求める。そして、このデフォーカス量をレンズ制御部4に送信し、フォーカスレンズの焦点位置を制御するよう指令を出す。
この指令にしたがって、レンズ制御部4はレンズ駆動部8を介してフォーカスレンズの焦点位置を制御する。このようにして合焦制御が行われる。
図6は、図1に示すデジタル信号処理部17の機能ブロック図である。
デジタル信号処理部17のプロセッサは、内蔵ROMに格納された撮像プログラムを含むプログラムを実行することにより、画像処理部17Aと、表示用画像データ生成部17Bと、表示制御部17Cとして機能する。
画像処理部17Aは、撮像素子5から上記の駆動制御によって読み出された静止画撮像信号群を処理して撮像画像データを生成し、生成した撮像画像データを記憶媒体21に記憶する。
表示用画像データ生成部17Bは、撮像素子5から読みだされた撮像信号群を処理してライブビュー画像又はポストビュー画像表示のための表示用画像データを生成する。
表示用画像データ生成部17Bは、上記の駆動制御が行われる場合には、上記のn回のフィールド期間のうちの最初の第一フィールド期間で撮像素子5の画素群f1から読み出される第一の撮像信号群を処理して第一の表示用画像データを生成し、第一フィールド期間の次の第二フィールド期間で撮像素子5の画素群f2から読み出される第二の撮像信号群を処理して第二の表示用画像データを生成する。
表示用画像データ生成部17Bは、画素群f1から読み出された第一の撮像信号群に対しては、第一の撮像信号群のうちの位相差検出用画素61Rから読み出された第一の撮像信号及び位相差検出用画素61Lから読み出された第二の撮像信号の各々を、撮像用画素から読み出されたものとして取り扱うための信号処理を行い、この信号処理後の第一の撮像信号群に基づいて第一の表示用画像データを生成する。
表示用画像データ生成部17Bが行う上記の信号処理には例えば以下の2つが挙げられる。
(第一の信号処理)
表示用画像データ生成部17Bは、画素群f1の位相差検出用画素61Rから読み出された第一の撮像信号を、画素群f1のうちのこの位相差検出用画素61Rの周囲にある撮像用画素(この位相差検出用画素61Rの位置にベイヤ配列にしたがって配置されるべき撮像用画素と同じ色の光を検出するもの)から読み出された撮像信号又はこの撮像信号に基づいて生成した撮像信号に置換する。
また、表示用画像データ生成部17Bは、画素群f1の位相差検出用画素61Lから読み出された第二の撮像信号を、この位相差検出用画素61Lの周囲にある撮像用画素(この位相差検出用画素61Lの位置にベイヤ配列にしたがって配置されるべき撮像用画素と同じ色の光を検出するもの)から読み出された撮像信号又はこの撮像信号に基づいて生成した信号に置換する。
例えば、表示用画像データ生成部17Bは、図3における任意の位相差検出用画素61Lから読み出された第二の撮像信号を、この任意の位相差検出用画素61Lの最も近くにある4つの撮像用画素61gから読み出された4つの撮像信号の平均値又はこの4つの撮像信号のいずれかに置換する。
また、表示用画像データ生成部17Bは、図3における任意の位相差検出用画素61Rから読み出された第一の撮像信号を、この任意の位相差検出用画素61Rの最も近くにある上下の2つの撮像用画素61bから読み出された2つの撮像信号の平均値又はこの2つの撮像信号のいずれかに置換する。
(第二の信号処理)
表示用画像データ生成部17Bは、画素群f1の位相差検出用画素61Rから読み出された第一の撮像信号に第一ゲインを乗じ、画素群f1の位相差検出用画素61Lから読み出された第二の撮像信号に第二ゲインを乗じる。
第一ゲインは、位相差検出用画素61Rから読み出される撮像信号と撮像用画素61bから読み出される撮像信号との比であり、製造時に算出されてデジタル信号処理部17のROMに記憶されている。
この第一ゲインを第一の撮像信号に乗じることで、この第一の撮像信号のレベルを、撮像用画素61bから読み出される撮像信号として取り扱うことが可能となる。
第二ゲインは、位相差検出用画素61Lから読み出される撮像信号と撮像用画素61gから読み出される撮像信号との比であり、製造時に算出されてデジタル信号処理部17のROMに記憶されている。
この第二ゲインを第二の撮像信号に乗じることで、この第二の撮像信号のレベルを、撮像用画素61gから読み出される撮像信号として取り扱うことが可能となる。
なお、画像処理部17Aは、撮像素子5から読み出された静止画撮像信号群に対し、位相差検出用画素61Rから読み出された第一の撮像信号及び位相差検出用画素61Lから読み出された第二の撮像信号の各々を、撮像用画素から読み出されたものとして取り扱うための上記の信号処理を行い、この信号処理後の静止画撮像信号群を処理して撮像画像データを生成する。
上記の信号処理によって高品質の第一の表示用画像データを生成するためには、図3に示す画素群f1の画素配列において列方向Yで隣り合う2つの位相差検出画素行PLの間に、撮像用画素のみで構成される画素行が少なくとも1つ存在するという条件を満たす必要がある。
この条件を満たすのは、mを2以上の自然数とし、図3に示した位相差検出画素行PLが受光面60において{(n×m)−1}個おきに配置された構成である。
図1のデジタルカメラ100では、n=5かつm=4となっており、受光面60において位相差検出画素行PLが19個おきに配置されている。つまり、受光面60に配置される最も近い2つの位相差検出画素行PLの間には、撮像用画素のみを含む画素行62が19個存在している。
表示制御部17Cは、表示用画像データ生成部17Bによって生成された表示用画像データを表示ドライバ22に転送し、この表示用画像データに基づく画像を表示部23に表示させる。
表示用画像データは、多数の画素データによって構成される。表示用画像データは、行方向Xと同じ方向に並ぶ複数の画素データからなる画素データ行が、この方向と直交する方向に複数並ぶ構成である。
表示制御部17Cは、表示用画像データを画素データ行毎に表示ドライバ22に順次転送し、この表示用画像データに基づく画像を表示ドライバ22によって表示部23に表示させる。
表示部23は、行方向Xと同じ方向に並ぶ複数の表示画素からなる表示画素行が、この方向と直交する方向に複数配列された表示面を有する。
表示ドライバ22は、表示制御部17Cから入力される画素データ行に基づく画像の1ラインを、表示部23の1つの表示画素行に描画する。表示ドライバ22は、画素データ行が入力される毎に、この画素データ行に基づく画像の1ラインの描画先を1つずつずらしていくことで、画像の全ラインの描画を行う。
次に、以上のように構成されたデジタルカメラ100の動作について説明する。
図7は、図1に示すデジタルカメラ100の単写モード時の動作を説明するためのタイミングチャートである。
図7において、“VD”の横には、垂直同期信号の状態が示されている。
図7において、“撮像素子”の横には、撮像素子5の受光面60にある各画素行62の駆動タイミングが示されており、縦軸は画素行62の列方向Yの位置を示している。
図7において、“メカニカルシャッタ”の横には、メカニカルシャッタ3の開閉状態が示されている。
図7において、“表示部”の横には、表示部23の描画状態が示されており、縦軸は表示部23の表示画素行の位置を示している。図中の斜線を付した範囲は、表示画素行の表示が行われていないブラックアウトの状態を示している。
図7において、“画像処理”の横には、デジタル信号処理部17の画像処理部17Aの動作状態が示されている。
図7に示す直線R1と直線R2は、画素行62に含まれる各光電変換部のリセット(光電変換部に蓄積された電荷を排出する処理)が行われるタイミングを示している。
図7に示す直線f1aは、フィールドF1にある画素群f1から撮像信号が読み出される際の駆動タイミングを示している。図7に示す直線f2aは、フィールドF2にある画素群f2から撮像信号が読み出される際の駆動タイミングを示している。
図7に示す直線f3aは、フィールドF3にある画素群f3から撮像信号が読み出される際の駆動タイミングを示している。図7に示す直線f4aは、フィールドF4にある画素群f4から撮像信号が読み出される際の駆動タイミングを示している。図7に示す直線f5aは、フィールドF5にある画素群f5から撮像信号が読み出される際の駆動タイミングを示している。
図7に示す直線DRと直線DR1と直線DR2は、表示部23の表示面の表示画素行に描画が行われるタイミングを示している。
図7に示す直線BOは、表示部23の各表示画素行への描画を停止させるタイミングを示している。
デジタルカメラ100が単写モードに設定されるとライブビューシーケンスLVが開始される。ライブビューシーケンスLVが行われる期間は非記憶期間を構成する。
ライブビューシーケンスLVでは、駆動制御部11Aが、直線f1aで示されるように、画素群f1の画素行62を受光面60の上端側から下端側に向かって順番に選択し、選択した画素行62の各画素から撮像信号を読み出すライブビュー用駆動制御を行う。
その後、駆動制御部11Aは、直線R1で示されるように、受光面60の上端側から下端側に向かって画素行62を順番に選択し、選択した画素行62について光電変換部のリセットを行う。これにより、画素行62毎に異なるタイミングで露光が開始する。
所定の露光時間が経過すると、駆動制御部11Aは、直線f1aで示されるように、画素群f1の画素行62を受光面60の上端側から下端側に向かって順番に選択し、選択した画素行62の各画素から撮像信号を読み出す。
直線f1aによって画素群f1からの撮像信号の読み出しが開始され、この撮像信号がデータバス25に出力されると、この撮像信号がデジタル信号処理部17によって順次処理されて表示用画像データが生成される。
そして、この表示用画像データが表示ドライバ22に転送され、この表示用画像データに基づくライブビュー画像が、直線DRで示されるように、表示面の上端側から順番に1ラインずつ描画されていく。
撮像指示がなされるまでは、垂直同期信号VDに同期して、以上の処理が繰り返し行われる。
ライブビューシーケンスLVの期間に撮像指示がなされると、この撮像指示の直後の垂直同期信号VDの立下りのタイミング(時刻t1)で静止画露光シーケンスEXが開始される。
静止画露光シーケンスEXでは、駆動制御部11Aが、メカニカルシャッタ3を閉じ、
メカニカルシャッタ3が閉じている間に、直線R2で示されるように、全ての画素行62において同時に光電変換部のリセットを行い、その後、メカニカルシャッタ3を開ける。これにより、全ての画素行62で同じタイミングで静止画撮像のための露光が開始する。
また、表示制御部17Cは、メカニカルシャッタ3が開いたタイミングで、直線BOで示されるように、表示部23への描画を停止させ、表示部23をブラックアウト(無表示)の状態に制御する。
メカニカルシャッタ3が開いてから所定の露光時間が経過すると、駆動制御部11Aは、メカニカルシャッタ3を閉じて静止画撮像のための露光を終了し、これにより静止画露光シーケンスEXが終了する。その後、時刻t2において静止画読み出しシーケンスREが開始される。
静止画読み出しシーケンスREでは、駆動制御部11Aは、まず、直線f1aで示されるように、画素群f1の画素行62を受光面60の上端側から下端側に向かって順番に選択し、選択した画素行62から撮像信号を読み出す。
時刻t2において画素群f1からの撮像信号の読み出しが開始され、この撮像信号がデータバス25に出力されると、表示用画像データ生成部17Bがこの撮像信号を順次処理して第一の表示用画像データを生成する。
そして、表示用画像データ生成部17Bは、この第一の表示用画像データを表示ドライバ22に転送する。これにより、この第一の表示用画像データに基づくポストビュー画像が、直線DR1で示されるように、表示面の上端側から順番に1ラインずつ描画されていく。
駆動制御部11Aは、時刻t3において画素群f1からの撮像信号の読み出しが完了すると、直線f2aで示されるように、画素群f2の画素行62を受光面60の上端側から下端側に向かって順番に選択し、選択した画素行62から撮像信号を読み出す。
時刻t3において画素群f2からの撮像信号の読み出しが開始され、この撮像信号がデータバス25に出力されると、表示用画像データ生成部17Bがこの撮像信号を順次処理して第二の表示用画像データを生成する。
そして、表示用画像データ生成部17Bは、この第二の表示用画像データを表示ドライバ22に転送する。これにより、この第二の表示用画像データに基づくポストビュー画像が、直線DR2で示されるように、表示面の上端側から順番に1ラインずつ描画されていく。
駆動制御部11Aは、時刻t4において画素群f2からの撮像信号の読み出しが完了すると、直線f3aで示されるように、画素群f3の画素行62を受光面60の上端側から下端側に向かって順番に選択し、選択した画素行62から撮像信号を読み出す。ここで読み出された撮像信号は表示用画像データの生成には利用されず、表示部23の表示は更新されない。
駆動制御部11Aは、時刻t5において画素群f3からの撮像信号の読み出しが完了すると、直線f4aで示されるように、画素群f4の画素行62を受光面60の上端側から下端側に向かって順番に選択し、選択した画素行62から撮像信号を読み出す。ここで読み出された撮像信号は表示用画像データの生成には利用されず、表示部23の表示は更新されない。
駆動制御部11Aは、時刻t6において画素群f4からの撮像信号の読み出しが完了すると、直線f5aで示されるように、画素群f5の画素行62を受光面60の上端側から下端側に向かって順番に選択し、選択した画素行62から撮像信号を読み出す。ここで読み出された撮像信号は表示用画像データの生成には利用されず、表示部23の表示は更新されない。
時刻t7において画素群f5からの撮像信号の読み出しが完了すると、画像処理部17Aが、直線f1a〜f5aで読み出された静止画撮像信号群を処理して撮像画像データを生成し、記憶媒体21に記憶する(図中の“撮像画像データ生成”)。また、ライブビューシーケンスLVが再開される。
図7において、時刻t2から時刻t3までの期間、時刻t3から時刻t4までの期間、時刻t4から時刻t5までの期間、時刻t5から時刻t6までの期間、及び、時刻t6から時刻t7までの期間は、それぞれフィールド期間を構成する。また、静止画露光シーケンスEXとこれに続く静止画読み出しシーケンスREが行われる期間は、駆動制御部11Aが駆動制御を行う期間となる。
図8は、図1に示すデジタルカメラ100の連写モード時の動作を説明するためのタイミングチャートである。図8において、“合焦制御”の横には、合焦制御部11Bの動作状態が示されている。
デジタルカメラ100が連写モードに設定されると、ライブビューシーケンスLVが開始される。ライブビューシーケンスLVの動作については図7で説明したのと同じであるため説明を省略する。
このライブビューシーケンスLVの期間に撮像指示がなされると、この撮像指示の直後の垂直同期信号VDの立下りのタイミング(時刻t1)で静止画露光シーケンスEXが開始される。静止画露光シーケンスEXの動作については図7で説明したのと同じであるため説明を省略する。
静止画露光シーケンスEXが終了すると、時刻t2において静止画読み出しシーケンスREが開始される。静止画読み出しシーケンスREにおける撮像素子5からの撮像信号の読み出し動作と表示部23での表示動作は図7で説明したのと同じである。
連写モードでの静止画読み出しシーケンスREが、単写モードの静止画読み出しシーケンスREと異なるのは、合焦制御部11Bの動作であるため、この動作について説明する。
時刻t2において画素群f1からの撮像信号の読み出しが開始され、この撮像信号がデータバス25に出力されると、合焦制御部11Bは、この撮像信号のうちの位相差検出用画素61R及び位相差検出用画素61Lから読み出された撮像信号を用いて位相差を算出し、この位相差からデフォーカス量を求める処理を開始する(図中の“AF(Auto Focus)演算”)。
そして、合焦制御部11Bは、画素群f2からの撮像信号の読み出し期間中にデフォーカス量の算出を完了すると、撮像素子5からの静止画撮像信号群の読み出しが完了する時刻t7までの間の任意のタイミングで、このデフォーカス量に基づいてフォーカスレンズの焦点位置を制御する(図中の“合焦制御”)。
時刻t7において静止画読み出しシーケンスREが終了すると、静止画露光シーケンスEXが行われ、その後、静止画読み出しシーケンスREが行われる。連写モードでは、撮像指示に応じて、静止画露光シーケンスEX及び静止画読み出しシーケンスREのセットが複数回連続して行われる。
以上のように図1に示すデジタルカメラ100によれば、静止画読み出しシーケンスREにおける最初のフィールド期間で撮像素子5から読み出される撮像信号群には、位相差検出に必要な撮像信号が含まれる。
このため、連写モード時には、この撮像信号を利用して静止画読み出しシーケンスREの期間に合焦制御を行うことができ、被写体への追従性の高い合焦制御を実現することができる。
また、図1に示すデジタルカメラ100によれば、静止画読み出しシーケンスREの最初のフィールド期間において全ての位相差検出用画素からの撮像信号を読み出すことができる。このため、位相差検出に用いる情報量を増やすことができ、合焦精度を上げることができる。
また、図1に示すデジタルカメラ100によれば、静止画読み出しシーケンスREの最初のフィールド期間で読み出された撮像信号群に基づいて、静止画読み出しシーケンスREの間にポストビュー画像が表示される。このため、ポストビュー表示を高速に行うことができる。
また、静止画読み出しシーケンスREの最初のフィールド期間で読み出される撮像信号群に対しては、位相差検出用画素から読み出された撮像信号を撮像用画素から読み出されたものとして扱う信号処理が施される。このため、高解像度の第一の表示用画像データを生成することができ、ポストビュー表示品質を向上させることができる
更に、このポストビュー画像は、その後、撮像用画素から読み出された撮像信号に基づいて上記の信号処理を行うことなく生成された第二の表示用画像データに基づく画像に切り替わる。このように、上記の信号処理を行うことなく生成された表示用画像データに基づいてポストビュー画像を更新することができるため、ポストビュー画像の品質を向上させることができる。
また、図1に示すデジタルカメラ100によれば、静止画読み出しシーケンスREの最初のフィールド期間では、フィールドF1にある画素群f1から撮像信号が読みされ、その次のフィールド期間では、フィールドF2にある画素群f2から撮像信号が読みされる。
フィールドF1とフィールドF2は隣接する領域であるため、最初のフィールド期間で読み出される撮像信号群に基づくポストビュー画像と、その次のフィールド期間で読み出される撮像信号群に基づくポストビュー画像との差を最小とすることができる。
したがって、ポストビュー画像の切り替えを自然なものとすることができ、ポストビュー画像の品質を更に向上させることができる。
また、図1に示すデジタルカメラ100によれば、連写モード時には、複数回の静止画露光シーケンスEXの各々における露光が開始してからその露光によるポストビュー画像の表示が開始されるまでの間は、表示部23がブラックアウトされる。このように、静止画露光シーケンスEX毎に表示部23がブラックアウトすることで、連写している感覚をユーザに与えることができる。
また、図1に示すデジタルカメラ100によれば、ライブビューシーケンスLVでは、撮像素子5から5つの画素行62に1つの割合で撮像信号の読み出しが行われ、各フィールド期間では、同様に、撮像素子5から5つの画素行62に1つの割合で撮像信号の読み出しが行われる。
このため、ライブビュー表示のための信号処理と、ポストビューのための信号処理とを同じにすることができ、処理を簡素化することができる。
次に、図1に示すデジタルカメラ100の変形例について説明する。
(第一の変形例)
図9は、図1に示すデジタルカメラ100の連写モード時の動作の変形例を説明するためのタイミングチャートである。
図9に示すタイミングチャートは、図8に示すタイミングチャートにおいて、2回目以降の各静止画露光シーケンスEXで行われる表示部23をブラックアウトさせる制御を省略したものである。
このように、連写モード時には、最初の露光が開始してからポストビュー画像の表示が開始されるまでの間は表示部23をブラックアウトさせ、2回目以降の各露光が開始してからポストビュー画像の表示が開始されるまでの間は、表示部23に表示中のポストビュー画像の表示を継続することで、表示部23がブラックアウトを繰り返すことによる明滅をなくすことができる。この結果、ポストビュー画像の見栄えを向上させることができる。
なお、図8に示す動作と図9に示す動作をユーザ設定によって任意に切り替えられるようにしてもよい。これにより、ユーザの好みに応じた処理が可能となり、使い勝手を向上させることができる。
(第二の変形例)
撮像素子5のフィールドF1〜F5のうち、静止画読み出しシーケンスREの3番目以降のフレーム期間で撮像信号群が読み出されるフィールド(フィールドF3〜フィールドF5の少なくとも1つのフィールド)に、位相差検出用画素61Rと位相差検出用画素61LのペアPを複数含む位相差検出画素行PLが含まれる構成であってもよい。
例えば、フィールドF1とフィールドF3の各々にある画素群の画素配列が図3に示したものとされ、フィールドF2とフィールドF4とフィールドF5の各々にある画素群の画素配列が図4に示したものとされる構成が考えられる。
この変形例のデジタルカメラの連写モード時の動作を示すタイミングチャートを図10に示す。図10に示すタイミングチャートは、合焦制御部11Bの動作のみが図8と異なっている。
この変形例では、合焦制御部11Bは、直線f1aによって画素群f1の位相差検出用画素から読み出された撮像信号と、直線f3aによって画素群f3の位相差検出用画素から読み出された撮像信号とに基づいてデフォーカス量の算出を行い、その後、このデフォーカス量に基づいて時刻t7までの間にフォーカスレンズの焦点位置を制御する。
この変形例によれば、位相差の算出に用いる撮像信号の数を増やすことができるため、位相差の算出精度を向上させて合焦制御を高精度に行うことができる。また、受光面60に設けるペアPの数を増やすことができ、合焦させることのできる被写体の範囲を柔軟に設定することが可能となる。
(第三の変形例)
撮像素子5は、受光面60にベイヤ配列にしたがって画素61が配置される構成であるが、画素61はベイヤ配列以外の図11に例示される特定の配列にしたがって受光面60に配置されていてもよい。
図11は、撮像素子5の受光面60に配置される画素の配列の変形例を示す図である。
図11に示す撮像素子5の画素は、赤色光を光電変換する画素の数と、青色光を光電変換する画素の数と、緑色光を光電変換する画素の数との比が1:1:2.5となる配列パターンにしたがって配置されている。
この配列パターンは、撮像用画素61gと撮像用画素61bと撮像用画素61gとが行方向Xに並ぶ第一の行と、撮像用画素61rと撮像用画素61gと撮像用画素61rとが行方向Xに並ぶ第二の行と、上記の第一の行とが列方向に並ぶユニットU1と、撮像用画素61gと撮像用画素61rと撮像用画素61gとが行方向Xに並ぶ第三の行と、撮像用画素61bと撮像用画素61gと撮像用画素61bとが行方向Xに並ぶ第四の行と、上記の第三の行とが列方向に並ぶユニットU2と、を含み、ユニットU1とユニットU2が行方向X及び列方向Yに市松状に配置されるパターンである。
撮像用画素61gに含まれる光電変換部は第四の光電変換部を構成する。撮像用画素61bに含まれる光電変換部は第五の光電変換部を構成する。撮像用画素61rに含まれる光電変換部は第六の光電変換部を構成する。
図11に示す撮像素子5を搭載するデジタルカメラのデジタル信号処理部17は、撮像素子5に含まれる全ての画素の各々から読み出される撮像信号の集合である静止画撮像信号群に対してデモザイク処理を行って、撮像素子5の各画素の位置に対応させて赤色信号、緑色信号、及び、青色信号を生成し、この赤色信号、緑色信号、及び、青色信号を重みづけ加算することで各画素の位置に対応する輝度信号を生成する。
例えば、デジタル信号処理部17は、赤色信号と緑色信号と青色信号を3:6:1の割合で重みづけ加算することで輝度信号を得る。
デジタル信号処理部17は、この輝度信号と赤色信号、緑色信号、及び、青色信号とを利用して色差信号を生成する。このような処理により、撮像素子5の各画素の位置に対応させて輝度信号及び色差信号からなる画素信号が生成され、この画素信号の集合によって撮像画像データが構成される。
したがって、図11に示す画素配列の撮像素子5においては、撮像用画素60rと撮像用画素60gと撮像用画素60bのうち、撮像用画素60gが、輝度信号を得るために最も寄与する第一の色としての緑色を受光する画素となる。撮像用画素60bは第一の色とは異なる第二の色を受光する画素となり、撮像用画素60rは第一の色及び第二の色とは異なる第三の色を受光する画素となる。
図11に示す撮像素子5の受光面60には、4つのフィールドF1〜F4が設定されている。この変形例において、受光面60に設定されるフィールドの数は2以上の偶数である。
図11に示す撮像素子5では、Mを0以上の整数とし、受光面60に設定されるフィールド数をn(ここではn=4)とし、k=1〜nとして、受光面60に配列された全ての画素行62のうちの受光面60の上端側から数えて(n×M+k)番目にある画素行62が配置される領域がフィールドFkとされている。
このフィールドF1〜フィールドF4のうち、フィールドF1にある画素群を構成する画素行の一部は、位相差検出画素行PLとされている。
図12は、図11に示す撮像素子5のフィールドF1にある画素群の画素配列を部分的に示す図である。
図12に示すように、フィールドF1にある画素群を構成する画素行の一部は、位相差検出画素行PLとされており、位相差検出画素行PL同士の間には、撮像用画素のみからなる画素行が図の例では5つ配置されている。
表示用画像データ生成部17Bが行う上記の信号処理によって、図12に示す画素群から読み出される撮像信号群によって高品質の第一の表示用画像データを生成するためには、図12に示す画素配列において列方向Yで隣り合う2つの位相差検出画素行PLの間に、撮像用画素のみで構成される画素行が少なくとも1つ存在するという条件を満たす必要がある。
この条件を満たすのは、mを2以上の自然数として、位相差検出画素行PLが受光面60において{(n×m)−1}個おきに配置された構成である。
図11に示す撮像素子5を搭載するデジタルカメラでは、n=4かつm=6となっており、受光面60において位相差検出画素行PLが24個おきに配置されている。つまり、受光面60に配置される最も近い2つの位相差検出画素行PLの間には、撮像用画素のみを含む画素行62が24個存在している。
以上のように、図11に示した画素配列の撮像素子5を用いることでも、上述した図1に示すデジタルカメラ100と同じ効果を得ることができる。
以下では、撮像装置としてスマートフォンの構成について説明する。
図13は、本発明の撮像装置の一実施形態であるスマートフォン200の外観を示すものである。
図13に示すスマートフォン200は、平板状の筐体201を有し、筐体201の一方の面に表示部としての表示パネル202と、入力部としての操作パネル203とが一体となった表示入力部204を備えている。
また、この様な筐体201は、スピーカ205と、マイクロホン206と、操作部207と、カメラ部208とを備えている。
なお、筐体201の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用したりすることもできる。
図14は、図13に示すスマートフォン200の構成を示すブロック図である。
図14に示すように、スマートフォンの主たる構成要素として、無線通信部210と、表示入力部204と、通話部211と、操作部207と、カメラ部208と、記憶部212と、外部入出力部213と、GPS(Global Positioning System)受信部214と、モーションセンサ部215と、電源部216と、主制御部220とを備える。
また、スマートフォン200の主たる機能として、図示省略の基地局装置BSと図示省略の移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部210は、主制御部220の指示にしたがって、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部204は、主制御部220の制御により、画像(静止画像及び動画像)や文字情報などを表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル202と、操作パネル203とを備える。
表示パネル202は、LCD(Liquid Crystal Display)、OELD(Organic Electro−Luminescence Display)などを表示デバイスとして用いたものである。
操作パネル203は、表示パネル202の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部220に出力する。次いで、主制御部220は、受信した検出信号に基づいて、表示パネル202上の操作位置(座標)を検出する。
図13に示すように、本発明の撮像装置の一実施形態として例示しているスマートフォン200の表示パネル202と操作パネル203とは一体となって表示入力部204を構成しているが、操作パネル203が表示パネル202を完全に覆うような配置となっている。
係る配置を採用した場合、操作パネル203は、表示パネル202外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル203は、表示パネル202に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル202に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
なお、表示領域の大きさと表示パネル202の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル203が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。
更に、外縁部分の幅は、筐体201の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル203で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部211は、スピーカ205やマイクロホン206を備え、マイクロホン206を通じて入力されたユーザの音声を主制御部220にて処理可能な音声データに変換して主制御部220に出力したり、無線通信部210あるいは外部入出力部213により受信された音声データを復号してスピーカ205から出力させたりするものである。
また、図13に示すように、例えば、スピーカ205を表示入力部204が設けられた面と同じ面に搭載し、マイクロホン206を筐体201の側面に搭載することができる。
操作部207は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図13に示すように、操作部207は、スマートフォン200の筐体201の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部212は、主制御部220の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。
また、記憶部212は、スマートフォン内蔵の内部記憶部217と着脱自在な外部メモリスロットを有する外部記憶部218により構成される。なお、記憶部212を構成するそれぞれの内部記憶部217と外部記憶部218は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。
外部入出力部213は、スマートフォン200に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン200に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなどがある。外部入出力部213は、このような外部機器から伝送を受けたデータをスマートフォン200の内部の各構成要素に伝達することや、スマートフォン200の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部214は、主制御部220の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン200の緯度、経度、高度からなる位置を検出する。GPS受信部214は、無線通信部210や外部入出力部213(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部215は、例えば、3軸の加速度センサなどを備え、主制御部220の指示にしたがって、スマートフォン200の物理的な動きを検出する。スマートフォン200の物理的な動きを検出することにより、スマートフォン200の動く方向や加速度が検出される。係る検出結果は、主制御部220に出力されるものである。
電源部216は、主制御部220の指示にしたがって、スマートフォン200の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部220は、マイクロプロセッサを備え、記憶部212が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン200の各部を統括して制御するものである。また、主制御部220は、無線通信部210を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部212が記憶するアプリケーションソフトウェアにしたがって主制御部220が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部213を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
また、主制御部220は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部204に表示する等の画像処理機能を備える。画像処理機能とは、主制御部220が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部204に表示する機能のことをいう。
更に、主制御部220は、表示パネル202に対する表示制御と、操作部207、操作パネル203を通じたユーザ操作を検出する操作検出制御を実行する。表示制御の実行により、主制御部220は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成したりするためのウィンドウを表示する。
なお、スクロールバーとは、表示パネル202の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部220は、操作部207を通じたユーザ操作を検出したり、操作パネル203を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部220は、操作パネル203に対する操作位置が、表示パネル202に重なる重畳部分(表示領域)か、それ以外の表示パネル202に重ならない外縁部分(非表示領域)かを判定し、操作パネル203の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部220は、操作パネル203に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部208は、図1に示したデジタルカメラにおける外部メモリ制御部20、記憶媒体21、表示ドライバ22、表示部23、及び、操作部14以外の構成を含む。カメラ部208によって生成された撮像画像データは、記憶部212に記録したり、外部入出力部213や無線通信部210を通じて出力したりすることができる。
図13に示すスマートフォン200において、カメラ部208は表示入力部204と同じ面に搭載されているが、カメラ部208の搭載位置はこれに限らず、表示入力部204の背面に搭載されてもよい。
また、カメラ部208はスマートフォン200の各種機能に利用することができる。例えば、表示パネル202にカメラ部208で取得した画像を表示することや、操作パネル203の操作入力のひとつとして、カメラ部208の画像を利用することができる。
また、GPS受信部214が位置を検出する際に、カメラ部208からの画像を参照して位置を検出することもできる。更には、カメラ部208からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン200のカメラ部208の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部208からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データにGPS受信部214により取得した位置情報、マイクロホン206により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部215により取得した姿勢情報等などを付加して記憶部212に記録したり、外部入出力部213や無線通信部210を通じて出力したりすることもできる。
以上のような構成のスマートフォン200においても、図7〜図10に示した動作によって、高品質のポストビュー画像を高速に表示することができ、更に、連写モード時において高速な合焦制御が可能になる。
上記した実施形態及び各変形例では、行方向Xに位相差を検出する場合を例にしたが、列方向Yに位相差を検出する場合にも、同様に本発明を適用可能である。
上記した実施形態及び各変形例では、撮像素子5としてMOS型のものが用いられているが、CCD型の撮像素子を用いても同様の効果を得ることができる。
また、撮像素子5として、各画素が光電変換部に蓄積された電荷を保持する電荷保持部を有し、この電荷保持部に保持された電荷をフローティングディフュージョンに転送して撮像信号を読み出すタイプのものを用いることもできる。このタイプの撮像素子を用いる場合には、メカニカルシャッタ3は不要となる。
以上説明してきたように、本明細書には以下の事項が開示されている。
(1) 一方向に並ぶ複数の光電変換部からなる複数の画素行が上記一方向と直交する方向に並ぶ受光面を有し、上記複数の画素行には、フォーカスレンズを含む撮像光学系の瞳領域の一方向に並ぶ異なる部分を通過した一対の光束の一方を受光する複数の第一の光電変換部と、上記一対の光束の他方を受光する複数の第二の光電変換部と、上記一対の光束の両方を受光する複数の第三の光電変換部とが含まれる撮像素子と、上記複数の第一の光電変換部、上記複数の第二の光電変換部、及び、上記複数の第三の光電変換部を含む光電変換部群を露光し、上記露光によって上記複数の第一の光電変換部の各々で光電変換された撮像信号、上記露光によって上記複数の第二の光電変換部の各々で光電変換された撮像信号、及び、上記露光によって上記複数の第三の光電変換部の各々で光電変換された撮像信号を含む撮像信号群を、上記撮像素子から複数のフィールド期間に分けて読み出す駆動制御を、撮像指示に応じて行う駆動制御部と、上記撮像素子から読み出された上記撮像信号群を処理して撮像画像データを生成し、上記撮像画像データを記憶媒体に記憶する画像処理部と、上記複数のフィールド期間のうちの最初のフィールド期間で上記撮像素子から読み出される第一の撮像信号群を処理して第一の表示用画像データを生成し、上記最初のフィールド期間の次のフィールド期間で上記撮像素子から読み出される第二の撮像信号群を処理して第二の表示用画像データを生成する表示用画像データ生成部と、上記第一の表示用画像データに基づく第一の画像を表示部に表示した後、上記第一の画像を、上記第二の表示用画像データに基づく第二の画像に切り替える表示制御部と、を備え、上記駆動制御部は、上記最初のフィールド期間では、上記第一の光電変換部と上記第二の光電変換部の複数のペアと、複数の上記第三の光電変換部とから撮像信号を読み出し、上記次のフィールド期間では、複数の上記第三の光電変換部から撮像信号を読み出す撮像装置。
(2) (1)記載の撮像装置であって、上記表示用画像データ生成部は、上記第一の撮像信号群に対し、上記第一の撮像信号群のうちの上記第一の光電変換部から読み出された第一の撮像信号及び上記第二の光電変換部から読み出された第二の撮像信号の各々を、上記第三の光電変換部から読み出されたものとして取り扱うための信号処理を行い、上記信号処理後の上記第一の撮像信号群に基づいて上記第一の表示用画像データを生成する撮像装置。
(3) (2)記載の撮像装置であって、上記信号処理は、上記第一の撮像信号を上記第一の撮像信号の読み出し元の上記第一の光電変換部の周囲にある上記第三の光電変換部から読み出された撮像信号又はその撮像信号に基づいて生成した撮像信号に置換し、上記第二の撮像信号を上記第二の撮像信号の読み出し元の上記第二の光電変換部の周囲にある上記第三の光電変換部から読み出された撮像信号又はその撮像信号に基づいて生成した信号に置換する処理である撮像装置。
(4) (2)記載の撮像装置であって、上記信号処理は、上記第一の撮像信号にゲインを乗じ、上記第二の撮像信号にゲインを乗じる処理である撮像装置。
(5) (1)〜(4)のいずれか1つに記載の撮像装置であって、上記駆動制御部は、上記最初のフィールド期間では、上記第一の光電変換部と上記第二の光電変換部の全てのペアと、複数の上記第三の光電変換部とから撮像信号を読み出す撮像装置。
(6) (1)〜(4)のいずれか1つに記載の撮像装置であって、上記駆動制御部は、上記撮像信号群を3つ以上のフィールド期間に分けて読み出し、上記3つ以上のフィールド期間の最初のフィールド期間では、上記第一の光電変換部と上記第二の光電変換部の全てのペアのうちの一部のペアと、複数の上記第三の光電変換部とから撮像信号を読み出し、上記3つ以上のフィールド期間の2番目のフィールド期間では、複数の上記第三の光電変換部から撮像信号を読み出し、上記3つ以上のフィールド期間の3番目以降のフィールド期間では、上記全てのペアのうちの残りの上記ペアと残りの上記第三の光電変換部とから撮像信号を読み出す撮像装置。
(7) (1)〜(6)のいずれか1つに記載の撮像装置であって、上記撮像素子からの上記撮像信号群の読み出しが完了する前に、上記第一の撮像信号群のうちの上記第一の光電変換部から読み出された第一の撮像信号及び上記第二の光電変換部から読み出された第二の撮像信号に基づいて上記フォーカスレンズを制御して、上記撮像光学系の合焦制御を行う合焦制御部を更に備える撮像装置。
(8) (1)〜(7)のいずれか1つに記載の撮像装置であって、上記撮像指示に応じて複数回の上記駆動制御を連続して行う連写モードを有し、上記表示制御部は、上記連写モード時には、上記複数回の上記駆動制御の各々による上記露光が開始してから上記第一の画像の表示が開始されるまでの間、上記表示部をブラックアウトさせる撮像装置。
(9) (1)〜(7)のいずれか1つに記載の撮像装置であって、上記撮像指示に応じて複数回の上記駆動制御を連続して行う連写モードを有し、上記表示制御部は、上記連写モード時には、上記複数回の上記駆動制御のうちの最初の駆動制御による上記露光が開始してから上記第一の画像の表示が開始されるまでの間は上記表示部をブラックアウトさせ、上記複数回の上記駆動制御のうちの2回目以降の駆動制御による上記露光が開始してから上記第一の画像の表示が開始されるまでの間は、上記表示部に表示中の記第二の画像の表示を継続する撮像装置。
(10) (1)〜(9)のいずれか1つに記載の撮像装置であって、上記駆動制御部は、上記複数のフィールド期間の各々では、複数の上記画素行に含まれる光電変換部から撮像信号を読み出し、上記最初のフィールド期間で上記撮像素子から撮像信号が読み出される上記画素行と、上記次のフィールド期間で上記撮像素子から撮像信号が読み出される上記画素行は隣接している撮像装置。
(11) (1)〜(10)のいずれか1つに記載の撮像装置であって、上記駆動制御部は、上記駆動制御を行う期間以外の非記憶期間では、上記光電変換部群を露光し、上記光電変換部群に含まれる全ての上記光電変換部のNを自然数とする1/Nの上記光電変換部でその露光中に光電変換された撮像信号を上記撮像素子から読み出すライブビュー用駆動制御を行い、上記撮像指示に応じて行われる上記駆動制御における上記複数のフィールド期間の数と上記Nとが同じである撮像装置。
(12) (1)〜(11)のいずれか1つに記載の撮像装置であって、上記撮像素子に含まれる全ての上記光電変換部はベイヤ配列にしたがって配置されており、上記撮像指示に応じて行われる上記駆動制御における上記複数のフィールド期間の数は3以上の奇数である撮像装置。
(13) (12)記載の撮像装置であって、上記複数の画素行は、上記第一の光電変換部と上記第二の光電変換部のペアを含む画素行と、上記第三の光電変換部のみを含む画素行とを含み、上記複数のフィールド期間の数をnとし、mを2以上の自然数とした場合に、上記ペアを含む上記画素行は、{(n×m)−1}個おきに配置されている撮像装置。
(14) (1)〜(11)のいずれか1つに記載の撮像装置であって、上記撮像素子に含まれる全ての上記光電変換部は特定の配列にしたがって配置されており、上記特定の配列は、輝度成分に最も寄与する第一の色を受光する5つの第四の光電変換部と、上記第一の色とは異なる第二の色を受光する2つの第五の光電変換部と、上記第一の色及び上記第二の色とは異なる第三の色を受光する2つの第六の光電変換部とをそれぞれ含む第一ユニット及び第二ユニットが上記一方向とこれに直交する方向に市松状に配置されたものであり、上記第一ユニットは、上記第四の光電変換部と上記第五の光電変換部と上記第四の光電変換部とが上記一方向に並ぶ第一の行と、上記第六の光電変換部と上記第四の光電変換部と上記第六の光電変換部とが上記一方向に並ぶ第二の行と、上記第一の行とが上記一方向に直交する方向に並ぶ構成であり、上記第二ユニットは、上記第四の光電変換部と上記第六の光電変換部と上記第四の光電変換部とが上記一方向に並ぶ第三の行と、上記第五の光電変換部と上記第四の光電変換部と上記第五の光電変換部とが上記一方向に並ぶ第四の行と、上記第三の行とが上記一方向に直交する方向に並ぶ構成であり、上記撮像指示に応じて行われる上記駆動制御における上記複数のフィールド期間の数は偶数である撮像装置。
(15) (14)記載の撮像装置であって、上記複数の画素行は、上記第一の光電変換部と上記第二の光電変換部のペアを含む画素行と、上記第三の光電変換部のみを含む画素行とを含み、上記複数のフィールド期間の数をnとし、mを2以上の自然数とした場合に、上記ペアを含む上記画素行は、{(n×m)−1}個おきに配置されている撮像装置。
(16) 一方向に並ぶ複数の光電変換部からなる複数の画素行が上記一方向と直交する方向に並ぶ受光面を有し、上記複数の画素行には、フォーカスレンズを含む撮像光学系の瞳領域の一方向に並ぶ異なる部分を通過した一対の光束の一方を受光する複数の第一の光電変換部と、上記一対の光束の他方を受光する複数の第二の光電変換部と、上記一対の光束の両方を受光する複数の第三の光電変換部とが含まれる撮像素子を用いて被写体を撮像する撮像方法であって、上記複数の第一の光電変換部、上記複数の第二の光電変換部、及び、上記複数の第三の光電変換部を含む光電変換部群を露光し、上記露光によって上記複数の第一の光電変換部の各々で光電変換された撮像信号、上記露光によって上記複数の第二の光電変換部の各々で光電変換された撮像信号、及び、上記露光によって上記複数の第三の光電変換部の各々で光電変換された撮像信号を含む撮像信号群を、上記撮像素子から複数のフィールド期間に分けて読み出す駆動制御を、撮像指示に応じて行う駆動制御ステップと、上記撮像素子から読み出された上記撮像信号群を処理して撮像画像データを生成し、上記撮像画像データを記憶媒体に記憶する画像処理ステップと、上記複数のフィールド期間のうちの最初のフィールド期間で上記撮像素子から読み出される第一の撮像信号群を処理して第一の表示用画像データを生成し、上記最初のフィールド期間の次のフィールド期間で上記撮像素子から読み出される第二の撮像信号群を処理して第二の表示用画像データを生成する表示用画像データ生成ステップと、上記第一の表示用画像データに基づく第一の画像を表示部に表示した後、上記第一の画像を、上記第二の表示用画像データに基づく第二の画像に切り替える表示制御ステップと、を備え、上記駆動制御ステップでは、上記最初のフィールド期間では、上記第一の光電変換部と上記第二の光電変換部の複数のペアと、複数の上記第三の光電変換部とから撮像信号を読み出し、上記次のフィールド期間では、複数の上記第三の光電変換部から撮像信号を読み出す撮像方法。
(17) (16)記載の撮像方法であって、上記表示用画像データ生成ステップでは、上記第一の撮像信号群に対し、上記第一の撮像信号群のうちの上記第一の光電変換部から読み出された第一の撮像信号及び上記第二の光電変換部から読み出された第二の撮像信号の各々を、上記第三の光電変換部から読み出されたものとして取り扱うための信号処理を行い、上記信号処理後の上記第一の撮像信号群に基づいて上記第一の表示用画像データを生成する撮像方法。
(18) (17)記載の撮像方法であって、
上記信号処理は、上記第一の撮像信号を上記第一の撮像信号の読み出し元の上記第一の光電変換部の周囲にある上記第三の光電変換部から読み出された撮像信号又はその撮像信号に基づいて生成した撮像信号に置換し、上記第二の撮像信号を上記第二の撮像信号の読み出し元の上記第二の光電変換部の周囲にある上記第三の光電変換部から読み出された撮像信号又はその撮像信号に基づいて生成した信号に置換する処理である撮像方法。
(19) (17)記載の撮像方法であって、上記信号処理は、上記第一の撮像信号にゲインを乗じ、上記第二の撮像信号にゲインを乗じる処理である撮像方法。
(20) (16)〜(19)のいずれか1つに記載の撮像方法であって、上記駆動制御ステップでは、上記最初のフィールド期間では、上記第一の光電変換部と上記第二の光電変換部の全てのペアと、複数の上記第三の光電変換部とから撮像信号を読み出す撮像方法。
(21) (16)〜(19)のいずれか1つに記載の撮像方法であって、上記駆動制御ステップでは、上記撮像信号群を3つ以上のフィールド期間に分けて読み出し、上記3つ以上のフィールド期間の最初のフィールド期間では、上記第一の光電変換部と上記第二の光電変換部の全てのペアのうちの一部のペアと、複数の上記第三の光電変換部とから撮像信号を読み出し、上記3つ以上のフィールド期間の2番目のフィールド期間では、複数の上記第三の光電変換部から撮像信号を読み出し、上記3つ以上のフィールド期間の3番目以降のフィールド期間では、上記全てのペアのうちの残りのペアと残りの上記第三の光電変換部とから撮像信号を読み出す撮像方法。
(22) (16)〜(21)のいずれか1つに記載の撮像方法であって、上記撮像素子からの上記撮像信号群の読み出しが完了する前に、上記第一の撮像信号群のうちの上記第一の光電変換部から読み出された第一の撮像信号及び上記第二の光電変換部から読み出された第二の撮像信号に基づいて上記フォーカスレンズを制御して、上記撮像光学系の合焦制御を行う合焦制御ステップを更に備える撮像方法。
(23) (16)〜(22)のいずれか1つに記載の撮像方法であって、上記撮像指示に応じて複数回の上記駆動制御を連続して行う連写モードにおいて、上記表示制御ステップでは、上記複数回の上記駆動制御の各々による上記露光が開始してから上記第一の画像の表示が開始されるまでの間、上記表示部をブラックアウトさせる撮像方法。
(24) (16)〜(22)のいずれか1つに記載の撮像方法であって、上記撮像指示に応じて複数回の上記駆動制御を連続して行う連写モードにおいて、上記表示制御ステップでは、上記複数回の上記駆動制御のうちの最初の駆動制御による上記露光が開始してから上記第一の画像の表示が開始されるまでの間は上記表示部をブラックアウトさせ、上記複数回の上記駆動制御のうちの2回目以降の駆動制御による上記露光が開始してから上記第一の画像の表示が開始されるまでの間は、上記表示部に表示中の記第二の画像の表示を継続する撮像方法。
(25) (16)〜(24)のいずれか1つに記載の撮像方法であって、上記駆動制御ステップでは、上記複数のフィールド期間の各々では、複数の上記画素行に含まれる光電変換部から撮像信号を読み出し、上記最初のフィールド期間で上記撮像素子から撮像信号が読み出される上記画素行と、上記次のフィールド期間で上記撮像素子から撮像信号が読み出される上記画素行は隣接している撮像方法。
(26) (16)〜(25)のいずれか1つに記載の撮像方法であって、上記駆動制御ステップでは、上記駆動制御を行う期間以外の非記憶期間では、上記光電変換部群を露光し、上記光電変換部群に含まれる全ての上記光電変換部のNを自然数とする1/Nの上記光電変換部でその露光中に光電変換された撮像信号を上記撮像素子から読み出すライブビュー用駆動制御を行い、上記撮像指示に応じて行われる上記駆動制御における上記複数のフィールド期間の数と上記Nとが同じである撮像方法。
(27) (16)〜(26)のいずれか1項記載の撮像方法であって、上記撮像素子に含まれる全ての上記光電変換部はベイヤ配列にしたがって配置されており、上記撮像指示に応じて行われる上記駆動制御における上記複数のフィールド期間の数は3以上の奇数である撮像方法。
(28) (27)記載の撮像方法であって、上記複数の画素行は、上記第一の光電変換部と上記第二の光電変換部のペアを含む画素行と、上記第三の光電変換部のみを含む画素行とを含み、上記複数のフィールド期間の数をnとし、mを2以上の自然数とした場合に、上記ペアを含む上記画素行は、{(n×m)−1}個おきに配置されている撮像方法。
(29) (16)〜(26)のいずれか1つに記載の撮像方法であって、上記撮像素子に含まれる全ての上記光電変換部は特定の配列にしたがって配置されており、上記特定の配列は、輝度成分に最も寄与する第一の色を受光する5つの第四の光電変換部と、上記第一の色とは異なる第二の色を受光する2つの第五の光電変換部と、上記第一の色及び上記第二の色とは異なる第三の色を受光する2つの第六の光電変換部とをそれぞれ含む第一ユニット及び第二ユニットが上記一方向とこれに直交する方向に市松状に配置されたものであり、上記第一ユニットは、上記第四の光電変換部と上記第五の光電変換部と上記第四の光電変換部とが上記一方向に並ぶ第一の行と、上記第六の光電変換部と上記第四の光電変換部と上記第六の光電変換部とが上記一方向に並ぶ第二の行と、上記第一の行とが上記一方向に直交する方向に並ぶ構成であり、上記第二ユニットは、上記第四の光電変換部と上記第六の光電変換部と上記第四の光電変換部とが上記一方向に並ぶ第三の行と、上記第五の光電変換部と上記第四の光電変換部と上記第五の光電変換部とが上記一方向に並ぶ第四の行と、上記第三の行とが上記一方向に直交する方向に並ぶ構成であり、上記撮像指示に応じて行われる上記駆動制御における上記複数のフィールド期間の数は偶数である撮像方法。
(30) (29)記載の撮像方法であって、上記複数の画素行は、上記第一の光電変換部と上記第二の光電変換部のペアを含む画素行と、上記第三の光電変換部のみを含む画素行とを含み、上記複数のフィールド期間の数をnとし、mを2以上の自然数とした場合に、上記ペアを含む上記画素行は、{(n×m)−1}個おきに配置されている撮像方法。
(31) 一方向に並ぶ複数の光電変換部からなる複数の画素行が上記一方向と直交する方向に並ぶ受光面を有し、上記複数の画素行には、フォーカスレンズを含む撮像光学系の瞳領域の一方向に並ぶ異なる部分を通過した一対の光束の一方を受光する複数の第一の光電変換部と、上記一対の光束の他方を受光する複数の第二の光電変換部と、上記一対の光束の両方を受光する複数の第三の光電変換部とが含まれる撮像素子を用いて被写体を撮像する撮像プログラムであって、上記複数の第一の光電変換部、上記複数の第二の光電変換部、及び、上記複数の第三の光電変換部を含む光電変換部群を露光し、上記露光によって上記複数の第一の光電変換部の各々で光電変換された撮像信号、上記露光によって上記複数の第二の光電変換部の各々で光電変換された撮像信号、及び、上記露光によって上記複数の第三の光電変換部の各々で光電変換された撮像信号を含む撮像信号群を、上記撮像素子から複数のフィールド期間に分けて読み出す駆動制御を、撮像指示に応じて行う駆動制御ステップと、上記撮像素子から読み出された上記撮像信号群を処理して撮像画像データを生成し、上記撮像画像データを記憶媒体に記憶する画像処理ステップと、上記複数のフィールド期間のうちの最初のフィールド期間で上記撮像素子から読み出される第一の撮像信号群を処理して第一の表示用画像データを生成し、上記最初のフィールド期間の次のフィールド期間で上記撮像素子から読み出される第二の撮像信号群を処理して第二の表示用画像データを生成する表示用画像データ生成ステップと、上記第一の表示用画像データに基づく第一の画像を表示部に表示した後、上記第一の画像を、上記第二の表示用画像データに基づく第二の画像に切り替える表示制御ステップと、をコンピュータに実行させるためのプログラムであり、上記駆動制御ステップでは、上記最初のフィールド期間では、上記第一の光電変換部と上記第二の光電変換部の複数のペアと、複数の上記第三の光電変換部とから撮像信号を読み出し、上記次のフィールド期間では、複数の上記第三の光電変換部から撮像信号を読み出す撮像プログラム。
本発明によれば、高解像度の撮像画像データの記憶を可能とし、この撮像画像データを表示部においてすぐに確認することのできる撮像装置、撮像方法、及び、撮像プログラムを提供することができる。
以上、本発明を特定の実施形態によって説明したが、本発明はこの実施形態に限定されるものではなく、開示された発明の技術思想を逸脱しない範囲で種々の変更が可能である。
本出願は、2016年11月9日出願の日本特許出願(特願2016−219037)に基づくものであり、その内容はここに取り込まれる。
100 デジタルカメラ
1 撮像レンズ
2 絞り
3 メカニカルシャッタ
4 レンズ制御部
5 撮像素子
6 シャッタ駆動部
8 レンズ駆動部
9 絞り駆動部
40 レンズ装置
10 撮像素子駆動部
11 システム制御部
11A 駆動制御部
11B 合焦制御部
14 操作部
17 デジタル信号処理部
17A 画像処理部
17B 表示用画像データ生成部
17C 表示制御部
20 外部メモリ制御部
21 記憶媒体
22 表示ドライバ
23 表示部
24 制御バス
25 データバス
60 受光面
61 画素
62 画素行
63 駆動回路
64 信号処理回路
X 行方向
Y 列方向
F1〜F5 フィールド
f1,f2 画素群
61r、61g、61b 撮像用画素
61R,61L位相差検出用画素
P ペア
PL 位相差検出画素行
R1,R2 リセットタイミングを示す直線
f1a フィールドF1からの撮像信号の読み出しタイミングを示す直線
f2a フィールドF2からの撮像信号の読み出しタイミングを示す直線
f3a フィールドF3からの撮像信号の読み出しタイミングを示す直線
f4a フィールドF4からの撮像信号の読み出しタイミングを示す直線
f5a フィールドF5からの撮像信号の読み出しタイミングを示す直線
BO 表示停止タイミングを示す直線
DR,DR1,DR2 描画タイミングを示す直線
LV ライブビューシーケンス
EX 静止画露光シーケンス
RE 静止画読み出しシーケンス
U1,U2 ユニット
200 スマートフォン
201 筐体
202 表示パネル
203 操作パネル
204 表示入力部
205 スピーカ
206 マイクロホン
207 操作部
208 カメラ部
210 無線通信部
211 通話部
212 記憶部
213 外部入出力部
214 GPS受信部
215 モーションセンサ部
216 電源部
217 内部記憶部
218 外部記憶部
220 主制御部
ST1〜STn GPS衛星

Claims (31)

  1. 一方向に並ぶ複数の光電変換部からなる複数の画素行が前記一方向と直交する方向に並ぶ受光面を有し、前記複数の画素行には、フォーカスレンズを含む撮像光学系の瞳領域の一方向に並ぶ異なる部分を通過した一対の光束の一方を受光する複数の第一の光電変換部と、前記一対の光束の他方を受光する複数の第二の光電変換部と、前記一対の光束の両方を受光する複数の第三の光電変換部とが含まれる撮像素子と、
    前記複数の第一の光電変換部、前記複数の第二の光電変換部、及び、前記複数の第三の光電変換部を含む光電変換部群を露光し、前記露光によって前記複数の第一の光電変換部の各々で光電変換された撮像信号、前記露光によって前記複数の第二の光電変換部の各々で光電変換された撮像信号、及び、前記露光によって前記複数の第三の光電変換部の各々で光電変換された撮像信号を含む撮像信号群を、前記撮像素子から複数のフィールド期間に分けて読み出す駆動制御を、撮像指示に応じて行う駆動制御部と、
    前記撮像素子から読み出された前記撮像信号群を処理して撮像画像データを生成し、前記撮像画像データを記憶媒体に記憶する画像処理部と、
    前記複数のフィールド期間のうちの最初のフィールド期間で前記撮像素子から読み出される第一の撮像信号群を処理して第一の表示用画像データを生成し、前記最初のフィールド期間の次のフィールド期間で前記撮像素子から読み出される第二の撮像信号群を処理して第二の表示用画像データを生成する表示用画像データ生成部と、
    前記第一の表示用画像データに基づく第一の画像を表示部に表示した後、前記第一の画像を、前記第二の表示用画像データに基づく第二の画像に切り替える表示制御部と、を備え、
    前記駆動制御部は、前記最初のフィールド期間では、前記第一の光電変換部と前記第二の光電変換部の複数のペアと、複数の前記第三の光電変換部とから撮像信号を読み出し、前記次のフィールド期間では、複数の前記第三の光電変換部から撮像信号を読み出す撮像装置。
  2. 請求項1記載の撮像装置であって、
    前記表示用画像データ生成部は、前記第一の撮像信号群に対し、前記第一の撮像信号群のうちの前記第一の光電変換部から読み出された第一の撮像信号及び前記第二の光電変換部から読み出された第二の撮像信号の各々を、前記第三の光電変換部から読み出されたものとして取り扱うための信号処理を行い、前記信号処理後の前記第一の撮像信号群に基づいて前記第一の表示用画像データを生成する撮像装置。
  3. 請求項2記載の撮像装置であって、
    前記信号処理は、前記第一の撮像信号を前記第一の撮像信号の読み出し元の前記第一の光電変換部の周囲にある前記第三の光電変換部から読み出された撮像信号又は当該撮像信号に基づいて生成した撮像信号に置換し、前記第二の撮像信号を前記第二の撮像信号の読み出し元の前記第二の光電変換部の周囲にある前記第三の光電変換部から読み出された撮像信号又は当該撮像信号に基づいて生成した信号に置換する処理である撮像装置。
  4. 請求項2記載の撮像装置であって、
    前記信号処理は、前記第一の撮像信号にゲインを乗じ、前記第二の撮像信号にゲインを乗じる処理である撮像装置。
  5. 請求項1〜4のいずれか1項記載の撮像装置であって、
    前記駆動制御部は、前記最初のフィールド期間では、前記第一の光電変換部と前記第二の光電変換部の全てのペアと、複数の前記第三の光電変換部とから撮像信号を読み出す撮像装置。
  6. 請求項1〜4のいずれか1項記載の撮像装置であって、
    前記駆動制御部は、前記撮像信号群を3つ以上のフィールド期間に分けて読み出し、前記3つ以上のフィールド期間の最初のフィールド期間では、前記第一の光電変換部と前記第二の光電変換部の全てのペアのうちの一部のペアと、複数の前記第三の光電変換部とから撮像信号を読み出し、前記3つ以上のフィールド期間の2番目のフィールド期間では、複数の前記第三の光電変換部から撮像信号を読み出し、前記3つ以上のフィールド期間の3番目以降のフィールド期間では、前記全てのペアのうちの残りの前記ペアと残りの前記第三の光電変換部とから撮像信号を読み出す撮像装置。
  7. 請求項1〜6のいずれか1項記載の撮像装置であって、
    前記撮像素子からの前記撮像信号群の読み出しが完了する前に、前記第一の撮像信号群のうちの前記第一の光電変換部から読み出された第一の撮像信号及び前記第二の光電変換部から読み出された第二の撮像信号に基づいて前記フォーカスレンズを制御して、前記撮像光学系の合焦制御を行う合焦制御部を更に備える撮像装置。
  8. 請求項1〜7のいずれか1項記載の撮像装置であって、
    前記撮像指示に応じて複数回の前記駆動制御を連続して行う連写モードを有し、
    前記表示制御部は、前記連写モード時には、前記複数回の前記駆動制御の各々による前記露光が開始してから前記第一の画像の表示が開始されるまでの間、前記表示部をブラックアウトさせる撮像装置。
  9. 請求項1〜7のいずれか1項記載の撮像装置であって、
    前記撮像指示に応じて複数回の前記駆動制御を連続して行う連写モードを有し、
    前記表示制御部は、前記連写モード時には、前記複数回の前記駆動制御のうちの最初の駆動制御による前記露光が開始してから前記第一の画像の表示が開始されるまでの間は前記表示部をブラックアウトさせ、前記複数回の前記駆動制御のうちの2回目以降の駆動制御による前記露光が開始してから前記第一の画像の表示が開始されるまでの間は、前記表示部に表示中の記第二の画像の表示を継続する撮像装置。
  10. 請求項1〜9のいずれか1項記載の撮像装置であって、
    前記駆動制御部は、前記複数のフィールド期間の各々では、複数の前記画素行に含まれる光電変換部から撮像信号を読み出し、
    前記最初のフィールド期間で前記撮像素子から撮像信号が読み出される前記画素行と、前記次のフィールド期間で前記撮像素子から撮像信号が読み出される前記画素行は隣接している撮像装置。
  11. 請求項1〜10のいずれか1項記載の撮像装置であって、
    前記駆動制御部は、前記駆動制御を行う期間以外の非記憶期間では、前記光電変換部群を露光し、前記光電変換部群に含まれる全ての前記光電変換部のNを自然数とする1/Nの前記光電変換部で当該露光中に光電変換された撮像信号を前記撮像素子から読み出すライブビュー用駆動制御を行い、
    前記撮像指示に応じて行われる前記駆動制御における前記複数のフィールド期間の数と前記Nとが同じである撮像装置。
  12. 請求項1〜11のいずれか1項記載の撮像装置であって、
    前記撮像素子に含まれる全ての前記光電変換部はベイヤ配列にしたがって配置されており、
    前記撮像指示に応じて行われる前記駆動制御における前記複数のフィールド期間の数は3以上の奇数である撮像装置。
  13. 請求項12記載の撮像装置であって、
    前記複数の画素行は、前記第一の光電変換部と前記第二の光電変換部のペアを含む画素行と、前記第三の光電変換部のみを含む画素行とを含み、
    前記複数のフィールド期間の数をnとし、mを2以上の自然数とした場合に、前記ペアを含む前記画素行は、{(n×m)−1}個おきに配置されている撮像装置。
  14. 請求項1〜11のいずれか1項記載の撮像装置であって、
    前記撮像素子に含まれる全ての前記光電変換部は特定の配列にしたがって配置されており、
    前記特定の配列は、輝度成分に最も寄与する第一の色を受光する5つの第四の光電変換部と、前記第一の色とは異なる第二の色を受光する2つの第五の光電変換部と、前記第一の色及び前記第二の色とは異なる第三の色を受光する2つの第六の光電変換部とをそれぞれ含む第一ユニット及び第二ユニットが前記一方向とこれに直交する方向に市松状に配置されたものであり、
    前記第一ユニットは、前記第四の光電変換部と前記第五の光電変換部と前記第四の光電変換部とが前記一方向に並ぶ第一の行と、前記第六の光電変換部と前記第四の光電変換部と前記第六の光電変換部とが前記一方向に並ぶ第二の行と、前記第一の行とが前記一方向に直交する方向に並ぶ構成であり、
    前記第二ユニットは、前記第四の光電変換部と前記第六の光電変換部と前記第四の光電変換部とが前記一方向に並ぶ第三の行と、前記第五の光電変換部と前記第四の光電変換部と前記第五の光電変換部とが前記一方向に並ぶ第四の行と、前記第三の行とが前記一方向に直交する方向に並ぶ構成であり、
    前記撮像指示に応じて行われる前記駆動制御における前記複数のフィールド期間の数は2以上の偶数である撮像装置。
  15. 請求項14記載の撮像装置であって、
    前記複数の画素行は、前記第一の光電変換部と前記第二の光電変換部のペアを含む画素行と、前記第三の光電変換部のみを含む画素行とを含み、
    前記複数のフィールド期間の数をnとし、mを2以上の自然数とした場合に、前記ペアを含む前記画素行は、{(n×m)−1}個おきに配置されている撮像装置。
  16. 一方向に並ぶ複数の光電変換部からなる複数の画素行が前記一方向と直交する方向に並ぶ受光面を有し、前記複数の画素行には、フォーカスレンズを含む撮像光学系の瞳領域の一方向に並ぶ異なる部分を通過した一対の光束の一方を受光する複数の第一の光電変換部と、前記一対の光束の他方を受光する複数の第二の光電変換部と、前記一対の光束の両方を受光する複数の第三の光電変換部とが含まれる撮像素子を用いて被写体を撮像する撮像方法であって、
    前記複数の第一の光電変換部、前記複数の第二の光電変換部、及び、前記複数の第三の光電変換部を含む光電変換部群を露光し、前記露光によって前記複数の第一の光電変換部の各々で光電変換された撮像信号、前記露光によって前記複数の第二の光電変換部の各々で光電変換された撮像信号、及び、前記露光によって前記複数の第三の光電変換部の各々で光電変換された撮像信号を含む撮像信号群を、前記撮像素子から複数のフィールド期間に分けて読み出す駆動制御を、撮像指示に応じて行う駆動制御ステップと、
    前記撮像素子から読み出された前記撮像信号群を処理して撮像画像データを生成し、前記撮像画像データを記憶媒体に記憶する画像処理ステップと、
    前記複数のフィールド期間のうちの最初のフィールド期間で前記撮像素子から読み出される第一の撮像信号群を処理して第一の表示用画像データを生成し、前記最初のフィールド期間の次のフィールド期間で前記撮像素子から読み出される第二の撮像信号群を処理して第二の表示用画像データを生成する表示用画像データ生成ステップと、
    前記第一の表示用画像データに基づく第一の画像を表示部に表示した後、前記第一の画像を、前記第二の表示用画像データに基づく第二の画像に切り替える表示制御ステップと、を備え、
    前記駆動制御ステップでは、前記最初のフィールド期間では、前記第一の光電変換部と前記第二の光電変換部の複数のペアと、複数の前記第三の光電変換部とから撮像信号を読み出し、前記次のフィールド期間では、複数の前記第三の光電変換部から撮像信号を読み出す撮像方法。
  17. 請求項16記載の撮像方法であって、
    前記表示用画像データ生成ステップでは、前記第一の撮像信号群に対し、前記第一の撮像信号群のうちの前記第一の光電変換部から読み出された第一の撮像信号及び前記第二の光電変換部から読み出された第二の撮像信号の各々を、前記第三の光電変換部から読み出されたものとして取り扱うための信号処理を行い、前記信号処理後の前記第一の撮像信号群に基づいて前記第一の表示用画像データを生成する撮像方法。
  18. 請求項17記載の撮像方法であって、
    前記信号処理は、前記第一の撮像信号を前記第一の撮像信号の読み出し元の前記第一の光電変換部の周囲にある前記第三の光電変換部から読み出された撮像信号又は当該撮像信号に基づいて生成した撮像信号に置換し、前記第二の撮像信号を前記第二の撮像信号の読み出し元の前記第二の光電変換部の周囲にある前記第三の光電変換部から読み出された撮像信号又は当該撮像信号に基づいて生成した信号に置換する処理である撮像方法。
  19. 請求項17記載の撮像方法であって、
    前記信号処理は、前記第一の撮像信号にゲインを乗じ、前記第二の撮像信号にゲインを乗じる処理である撮像方法。
  20. 請求項16〜19のいずれか1項記載の撮像方法であって、
    前記駆動制御ステップでは、前記最初のフィールド期間では、前記第一の光電変換部と前記第二の光電変換部の全てのペアと、複数の前記第三の光電変換部とから撮像信号を読み出す撮像方法。
  21. 請求項16〜19のいずれか1項記載の撮像方法であって、
    前記駆動制御ステップでは、前記撮像信号群を3つ以上のフィールド期間に分けて読み出し、前記3つ以上のフィールド期間の最初のフィールド期間では、前記第一の光電変換部と前記第二の光電変換部の全てのペアのうちの一部のペアと、複数の前記第三の光電変換部とから撮像信号を読み出し、前記3つ以上のフィールド期間の2番目のフィールド期間では、複数の前記第三の光電変換部から撮像信号を読み出し、前記3つ以上のフィールド期間の3番目以降のフィールド期間では、前記全てのペアのうちの残りのペアと残りの前記第三の光電変換部とから撮像信号を読み出す撮像方法。
  22. 請求項16〜21のいずれか1項記載の撮像方法であって、
    前記撮像素子からの前記撮像信号群の読み出しが完了する前に、前記第一の撮像信号群のうちの前記第一の光電変換部から読み出された第一の撮像信号及び前記第二の光電変換部から読み出された第二の撮像信号に基づいて前記フォーカスレンズを制御して、前記撮像光学系の合焦制御を行う合焦制御ステップを更に備える撮像方法。
  23. 請求項16〜22のいずれか1項記載の撮像方法であって、
    前記撮像指示に応じて複数回の前記駆動制御を連続して行う連写モードにおいて、前記表示制御ステップでは、前記複数回の前記駆動制御の各々による前記露光が開始してから前記第一の画像の表示が開始されるまでの間、前記表示部をブラックアウトさせる撮像方法。
  24. 請求項16〜22のいずれか1項記載の撮像方法であって、
    前記撮像指示に応じて複数回の前記駆動制御を連続して行う連写モードにおいて、前記表示制御ステップでは、前記複数回の前記駆動制御のうちの最初の駆動制御による前記露光が開始してから前記第一の画像の表示が開始されるまでの間は前記表示部をブラックアウトさせ、前記複数回の前記駆動制御のうちの2回目以降の駆動制御による前記露光が開始してから前記第一の画像の表示が開始されるまでの間は、前記表示部に表示中の記第二の画像の表示を継続する撮像方法。
  25. 請求項16〜24のいずれか1項記載の撮像方法であって、
    前記駆動制御ステップでは、前記複数のフィールド期間の各々では、複数の前記画素行に含まれる光電変換部から撮像信号を読み出し、
    前記最初のフィールド期間で前記撮像素子から撮像信号が読み出される前記画素行と、前記次のフィールド期間で前記撮像素子から撮像信号が読み出される前記画素行は隣接している撮像方法。
  26. 請求項16〜25のいずれか1項記載の撮像方法であって、
    前記駆動制御ステップでは、前記駆動制御を行う期間以外の非記憶期間では、前記光電変換部群を露光し、前記光電変換部群に含まれる全ての前記光電変換部のNを自然数とする1/Nの前記光電変換部で当該露光中に光電変換された撮像信号を前記撮像素子から読み出すライブビュー用駆動制御を行い、
    前記撮像指示に応じて行われる前記駆動制御における前記複数のフィールド期間の数と前記Nとが同じである撮像方法。
  27. 請求項16〜26のいずれか1項記載の撮像方法であって、
    前記撮像素子に含まれる全ての前記光電変換部はベイヤ配列にしたがって配置されており、
    前記撮像指示に応じて行われる前記駆動制御における前記複数のフィールド期間の数は3以上の奇数である撮像方法。
  28. 請求項27記載の撮像方法であって、
    前記複数の画素行は、前記第一の光電変換部と前記第二の光電変換部のペアを含む画素行と、前記第三の光電変換部のみを含む画素行とを含み、
    前記複数のフィールド期間の数をnとし、mを2以上の自然数とした場合に、前記ペアを含む前記画素行は、{(n×m)−1}個おきに配置されている撮像方法。
  29. 請求項16〜26のいずれか1項記載の撮像方法であって、
    前記撮像素子に含まれる全ての前記光電変換部は特定の配列にしたがって配置されており、
    前記特定の配列は、輝度成分に最も寄与する第一の色を受光する5つの第四の光電変換部と、前記第一の色とは異なる第二の色を受光する2つの第五の光電変換部と、前記第一の色及び前記第二の色とは異なる第三の色を受光する2つの第六の光電変換部とをそれぞれ含む第一ユニット及び第二ユニットが前記一方向とこれに直交する方向に市松状に配置されたものであり、
    前記第一ユニットは、前記第四の光電変換部と前記第五の光電変換部と前記第四の光電変換部とが前記一方向に並ぶ第一の行と、前記第六の光電変換部と前記第四の光電変換部と前記第六の光電変換部とが前記一方向に並ぶ第二の行と、前記第一の行とが前記一方向に直交する方向に並ぶ構成であり、
    前記第二ユニットは、前記第四の光電変換部と前記第六の光電変換部と前記第四の光電変換部とが前記一方向に並ぶ第三の行と、前記第五の光電変換部と前記第四の光電変換部と前記第五の光電変換部とが前記一方向に並ぶ第四の行と、前記第三の行とが前記一方向に直交する方向に並ぶ構成であり、
    前記撮像指示に応じて行われる前記駆動制御における前記複数のフィールド期間の数は2以上の偶数である撮像方法。
  30. 請求項29記載の撮像方法であって、
    前記複数の画素行は、前記第一の光電変換部と前記第二の光電変換部のペアを含む画素行と、前記第三の光電変換部のみを含む画素行とを含み、
    前記複数のフィールド期間の数をnとし、mを2以上の自然数とした場合に、前記ペアを含む前記画素行は、{(n×m)−1}個おきに配置されている撮像方法。
  31. 一方向に並ぶ複数の光電変換部からなる複数の画素行が前記一方向と直交する方向に並ぶ受光面を有し、前記複数の画素行には、フォーカスレンズを含む撮像光学系の瞳領域の一方向に並ぶ異なる部分を通過した一対の光束の一方を受光する複数の第一の光電変換部と、前記一対の光束の他方を受光する複数の第二の光電変換部と、前記一対の光束の両方を受光する複数の第三の光電変換部とが含まれる撮像素子を用いて被写体を撮像する撮像プログラムであって、
    前記複数の第一の光電変換部、前記複数の第二の光電変換部、及び、前記複数の第三の光電変換部を含む光電変換部群を露光し、前記露光によって前記複数の第一の光電変換部の各々で光電変換された撮像信号、前記露光によって前記複数の第二の光電変換部の各々で光電変換された撮像信号、及び、前記露光によって前記複数の第三の光電変換部の各々で光電変換された撮像信号を含む撮像信号群を、前記撮像素子から複数のフィールド期間に分けて読み出す駆動制御を、撮像指示に応じて行う駆動制御ステップと、
    前記撮像素子から読み出された前記撮像信号群を処理して撮像画像データを生成し、前記撮像画像データを記憶媒体に記憶する画像処理ステップと、
    前記複数のフィールド期間のうちの最初のフィールド期間で前記撮像素子から読み出される第一の撮像信号群を処理して第一の表示用画像データを生成し、前記最初のフィールド期間の次のフィールド期間で前記撮像素子から読み出される第二の撮像信号群を処理して第二の表示用画像データを生成する表示用画像データ生成ステップと、
    前記第一の表示用画像データに基づく第一の画像を表示部に表示した後、前記第一の画像を、前記第二の表示用画像データに基づく第二の画像に切り替える表示制御ステップと、をコンピュータに実行させるためのプログラムであり、
    前記駆動制御ステップでは、前記最初のフィールド期間では、前記第一の光電変換部と前記第二の光電変換部の複数のペアと、複数の前記第三の光電変換部とから撮像信号を読み出し、前記次のフィールド期間では、複数の前記第三の光電変換部から撮像信号を読み出す撮像プログラム。
JP2018550085A 2016-11-09 2017-10-13 撮像装置、撮像方法、及び、撮像プログラム Active JP6573730B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016219037 2016-11-09
JP2016219037 2016-11-09
PCT/JP2017/037240 WO2018088119A1 (ja) 2016-11-09 2017-10-13 撮像装置、撮像方法、及び、撮像プログラム

Publications (2)

Publication Number Publication Date
JPWO2018088119A1 true JPWO2018088119A1 (ja) 2019-08-08
JP6573730B2 JP6573730B2 (ja) 2019-09-11

Family

ID=62110184

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018550085A Active JP6573730B2 (ja) 2016-11-09 2017-10-13 撮像装置、撮像方法、及び、撮像プログラム

Country Status (4)

Country Link
US (1) US10778880B2 (ja)
JP (1) JP6573730B2 (ja)
CN (1) CN109906604B (ja)
WO (1) WO2018088119A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7459279B2 (ja) 2020-09-29 2024-04-01 富士フイルム株式会社 撮像装置、撮像装置の駆動方法、及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010206769A (ja) * 2009-02-03 2010-09-16 Olympus Imaging Corp 撮像装置
JP2012147187A (ja) * 2011-01-11 2012-08-02 Olympus Imaging Corp 撮像装置
JP2013255188A (ja) * 2012-06-08 2013-12-19 Sony Corp 撮像素子、撮像装置、撮像方法およびプログラム
JP2015114544A (ja) * 2013-12-12 2015-06-22 キヤノン株式会社 撮像装置、その制御方法および制御プログラム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5180795B2 (ja) * 2007-12-10 2013-04-10 キヤノン株式会社 撮像装置及びその制御方法
JP5183565B2 (ja) * 2009-05-11 2013-04-17 キヤノン株式会社 撮像装置
JP2011059337A (ja) * 2009-09-09 2011-03-24 Fujifilm Corp 撮像装置
CN101706319B (zh) * 2009-12-18 2011-01-19 中国科学院西安光学精密机械研究所 高分辨率三维干涉型成像光谱图像空间二维快速显示方法
JP5638849B2 (ja) * 2010-06-22 2014-12-10 オリンパス株式会社 撮像装置
WO2012032826A1 (ja) * 2010-09-10 2012-03-15 富士フイルム株式会社 立体撮像装置および立体撮像方法
WO2012033200A1 (ja) * 2010-09-10 2012-03-15 オリンパスメディカルシステムズ株式会社 撮像装置
JP5451894B2 (ja) * 2010-09-22 2014-03-26 富士フイルム株式会社 立体撮像装置およびシェーディング補正方法
WO2014178607A1 (ko) * 2013-05-02 2014-11-06 주식회사 레이언스 이미지센서와 이의 구동방법
JP6263035B2 (ja) 2013-05-17 2018-01-17 キヤノン株式会社 撮像装置
JP6257245B2 (ja) * 2013-09-27 2018-01-10 キヤノン株式会社 撮像装置及びその制御方法
WO2015045785A1 (ja) * 2013-09-30 2015-04-02 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP6532213B2 (ja) * 2013-12-02 2019-06-19 キヤノン株式会社 撮像素子、撮像装置及び携帯電話機
JP6341675B2 (ja) * 2014-01-29 2018-06-13 キヤノン株式会社 固体撮像装置及びその駆動方法並びにそれを用いた撮像システム
JP6380974B2 (ja) 2014-06-18 2018-08-29 オリンパス株式会社 撮像素子、撮像装置
JP6530593B2 (ja) * 2014-08-11 2019-06-12 キヤノン株式会社 撮像装置及びその制御方法、記憶媒体
JP6571939B2 (ja) * 2015-01-26 2019-09-04 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010206769A (ja) * 2009-02-03 2010-09-16 Olympus Imaging Corp 撮像装置
JP2012147187A (ja) * 2011-01-11 2012-08-02 Olympus Imaging Corp 撮像装置
JP2013255188A (ja) * 2012-06-08 2013-12-19 Sony Corp 撮像素子、撮像装置、撮像方法およびプログラム
JP2015114544A (ja) * 2013-12-12 2015-06-22 キヤノン株式会社 撮像装置、その制御方法および制御プログラム

Also Published As

Publication number Publication date
CN109906604B (zh) 2021-04-20
WO2018088119A1 (ja) 2018-05-17
CN109906604A (zh) 2019-06-18
JP6573730B2 (ja) 2019-09-11
US20190268530A1 (en) 2019-08-29
US10778880B2 (en) 2020-09-15

Similar Documents

Publication Publication Date Title
JP5937767B2 (ja) 撮像装置及び撮像方法
JP5690974B2 (ja) 撮像装置及び合焦制御方法
JP5542249B2 (ja) 撮像素子及びこれを用いた撮像装置及び撮像方法
JP5948492B2 (ja) 撮像装置及び合焦制御方法
JP5799178B2 (ja) 撮像装置及び合焦制御方法
JPWO2014087807A1 (ja) 撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体
JP5750550B2 (ja) 撮像装置及び合焦制御方法
JP5872122B2 (ja) 撮像装置及び合焦制御方法
JP5542248B2 (ja) 撮像素子及び撮像装置
JP7112529B2 (ja) 撮像装置、撮像方法、及びプログラム
JP5990665B2 (ja) 撮像装置及び合焦制御方法
JPWO2017209252A1 (ja) 撮像装置、合焦制御方法、及び、合焦制御プログラム
WO2018180257A1 (ja) 撮像装置、撮像方法、及び撮像プログラム
JP5677628B2 (ja) 撮像装置及び撮像方法
JP6569015B2 (ja) 撮像装置、撮像方法、及び、撮像プログラム
JP6573730B2 (ja) 撮像装置、撮像方法、及び、撮像プログラム
JP6432005B2 (ja) 撮像装置、撮像装置の作動方法、撮像装置の作動プログラム
WO2015146228A1 (ja) 撮像装置及び合焦制御方法
WO2018181163A1 (ja) 画像処理装置、画像処理方法、およびプログラム
WO2019054017A1 (ja) 撮像制御装置、撮像装置、撮像制御方法、撮像制御プログラム
JP2023051391A (ja) 撮像装置、撮像制御方法、及び撮像制御プログラム
WO2013145887A1 (ja) 撮像装置及び撮像方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190426

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190426

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190716

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190813

R150 Certificate of patent or registration of utility model

Ref document number: 6573730

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250