JP2017126916A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2017126916A JP2017126916A JP2016005657A JP2016005657A JP2017126916A JP 2017126916 A JP2017126916 A JP 2017126916A JP 2016005657 A JP2016005657 A JP 2016005657A JP 2016005657 A JP2016005657 A JP 2016005657A JP 2017126916 A JP2017126916 A JP 2017126916A
- Authority
- JP
- Japan
- Prior art keywords
- image
- eye image
- eye
- image data
- correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
Abstract
【課題】複数の視差画像ごとに露光処理、現像処理の補正値が必要となるため、デジタルカメラの電源をONしてから撮影が開始できるまで多くの時間を有してしまう。【解決手段】マイクロレンズを有する画素に配置された複数の光電変換領域を有する撮像素子と、前記撮像素子から出力される画像信号から左目画像、右目画像、合成画像を生成する画像合成装置と、片目画像、両目画像からを内包する静止画ファイルを生成する撮像装置において、両目画像用の補正値が読み出し完了したタイミングで撮影を許可し、ユーザの撮影タイミングが片目画像用の補正値の読み出し前であった場合、一旦メモリ部に片目画像データを保持しておき、補正値の読み出しが完了したのち、各種補正処理を行い静止画ファイルを生成することを特徴とする。【選択図】図5
Description
本発明は、撮像装置に関し、特に撮像信号の記録に関する。
撮影レンズの射出瞳を複数の領域に瞳分割し、分割された瞳領域に応じた複数の視差画像を同時に撮影することができる撮像装置が提案されている。
特許文献1には、1つの画素に対して、1つのマイクロレンズと複数に分割された光電変換部が形成されている2次元撮像素子を用いた撮像装置が開示されている。分割された光電変換部は、1つのマイクロレンズを介して撮影レンズの射出瞳の異なる瞳部分領域を受光するように構成され、瞳分割を行っている。これらの分割された光電変換部で受光したそれぞれの信号から、分割された瞳部分領域に応じた複数の視差画像を生成することができる。
特許文献2には、分割された光電変換部で受光した信号を、全て加算することにより撮像画像を生成することが開示されている。撮影された複数の視差信号は、光強度の空間分布および角度分布情報であるLight Field(LF)データと等価である。
非特許文献1には、取得されたLFデータを用いて撮像面とは異なる仮想結像面における画像を合成することで、撮影後に撮像画像の合焦位置を変更するリフォーカス技術が開示されている。
Stanford Tech Report CTSR 2005-02,1(2005)
しかしながら、上述の特許文献に開示された従来技術では、複数の視差画像ごとに異なる露光処理、現像処理の補正値が必要となる。そのためデジタルカメラの電源をONしてから撮影が開始できるまで多くの時間を有してしまう。
そこで、本発明の目的は、複数の視差画像を有する場合でも通常と同じタイミングで撮影を可能にすることを可能にした撮像装置を提供することにある。
上記の目的を達成するために、本発明に係る撮像装置は、
マイクロレンズを有する画素に配置された複数の光電変換領域を有する撮像素子と、
前記撮像素子から出力される画像信号から左目画像、右目画像、合成画像を生成する画像合成装置と、
片目画像、両目画像からを内包する静止画ファイルを生成する撮像装置において、
両目画像用の補正値が読み出し完了したタイミングで撮影を許可し、ユーザの撮影タイミングが片目画像用の補正値の読み出し前であった場合、一旦メモリ部に片目画像データを保持しておき、補正値の読み出しが完了したのち、各種補正処理を行い静止画ファイルを生成することを特徴とする。
マイクロレンズを有する画素に配置された複数の光電変換領域を有する撮像素子と、
前記撮像素子から出力される画像信号から左目画像、右目画像、合成画像を生成する画像合成装置と、
片目画像、両目画像からを内包する静止画ファイルを生成する撮像装置において、
両目画像用の補正値が読み出し完了したタイミングで撮影を許可し、ユーザの撮影タイミングが片目画像用の補正値の読み出し前であった場合、一旦メモリ部に片目画像データを保持しておき、補正値の読み出しが完了したのち、各種補正処理を行い静止画ファイルを生成することを特徴とする。
本発明によれば、複数の視差画像を有する撮影処理においても通常の撮影と同じタイミングで撮影が可能となる撮像装置を提供することができる。
以下、図面を参照して本発明の実施形態を説明する。
図1は本発明で使用する撮像素子の概略を示す図である。
図1において、撮像素子100は、画素アレイ101と、画素アレイ101における行を選択する垂直選択回路102、画素アレイ101における列を選択する水平選択回路104を含む。また、画素アレイ101中の画素のうち垂直選択回路102によって選択される画素の信号を読み出す読み出し回路103、各回路の動作モードなどを外部から決定するためのシリアルインターフェイス105を含んで構成されうる。読み出し回路103は、信号を蓄積するメモリ、ゲインアンプ、AD変換器などを列毎に有する。なお、撮像素子100は、図示された構成要素以外にも、例えば、垂直選択回路102、水平選択回路104、信号読み出し部103等にタイミングを提供するタイミングジェネレータ或いは制御回路等を備える。
典型的には、垂直選択回路102は、画素アレイ101の複数の行を順に選択し読み出し回路103に読み出す。水平選択回路104は、読み出し回路103に読みだされた複数の画素信号を列毎に順に選択する。
図2は本発明で使用する撮像素子100の1画素の構成の概略を示す図である。
201は画素を表す。一つの画素は、マイクロレンズ202を有する。また、一つの画素は、フォトダイオード(以下PD)を複数有する。図2においては、左側のPD203と右側のPD204の2つ有しているが、2つ以上であればいくつでもよく、例えば、4つのPD、9つのPDなどでもよい。なお、画素は、図示された構成要素以外にも、例えば、PDの信号を列読み出し回路103に読み出すための画素増幅アンプ、行を選択する選択スイッチ、PDの信号をリセットするリセットスイッチなどを備える。
図3は画素アレイ101を表す図である。
画素アレイ101は、2次元の画像を提供するために、図2で示すような画素を複数2次元アレイ状に配列して構成される。301、302、303、304は画素である。301L、302L、303L、304Lが図2で示すところのPD203であり、301R、302R、303R、304Rが図2で示すところのPD204である。
図3のような画素構成を有する撮像素子100における受光の様子について、図4を用いて説明する。
図4は撮影レンズの射出瞳から出た光束が撮像素子100に入射する概念図である。
401は画素アレイの断面を示す。402はマイクロレンズであり、403はカラーフィルターであり、404、405はフォトダイオードである。PD404、PD405が各々図2で示すところの、PD203、PD204である。406は撮影レンズの射出瞳を示す。ここでは、マイクロレンズ402を有する画素に対して、射出瞳から出た光束の中心を光軸409とする。
射出瞳から出た光は、光軸409を中心として撮像素子100に入射される。407、408は撮影レンズの射出瞳の一部領域を表す。射出瞳の一部領域407を通過する光の最外周の光線を410、411で示し、射出瞳の一部領域408を通過する光の最外周の光線を412、413で示す。この図からわかるように、射出瞳から出る光束のうち、光軸409を境にして、上側の光束はPD405に入射され、下側の光束はPD404に入射される。つまり、PD404とPD405は各々、撮影レンズの射出瞳の別の領域の光を受光している。
この射出瞳の別の領域の光を受光しているので、点光源からの光がボケたように撮影される状況では、ボケ画像が異なった形状の画像が撮影される理由となる。
図5に基づいて、上記で説明した実施の撮像素子を撮像装置であるデジタルカメラに適用した場合の一実施例について詳述する。
図5において、501は被写体の光学像を撮像素子505に結像させるレンズ部で、レンズ駆動装置502によってズーム制御、フォーカス制御、絞り制御などがおこなわれる。503はメカニカルシャッターでシャッター制御手段504によって制御される。505はレンズ部501で結像された被写体を画像信号として取り込むための撮像素子、506は固体撮像素子505より出力される画像信号に各種の補正を行ったり、所定の画素補間処理や色変換処理を行う。
507は固体撮像素子505、撮像信号処理回路506に、各種タイミング信号を出力する駆動手段であるタイミング発生回路、509は各種演算と撮像装置全体を制御する制御回路、508は画像データを一時的に記憶する為のメモリ、510は記録媒体に記録または読み出しを行うためのインターフェース、511は画像データの記録または読み出しを行う為の半導体メモリ等の着脱可能な記録媒体、512はユーザがデジタルカメラに対して、操作を行うための外部I/F部512である。
514は記憶した画像データを所定の画像圧縮方法(例えば、適応離散コサイン変換(ADCT)等)に従って例えばJPEGデータに画像圧縮し、画像圧縮された画像データをメモリ部508に書き込む機能、及びメモリ508から読み出した画像データを伸長し、伸長した画像データをメモリ部508に書き込む機能を有する圧縮伸長部である。
515は各種情報や撮影画像を表示する表示部で、516は表示部515を制御するための表示制御回路である。表示制御回路516では本実施例の特徴である後述する平面画像として画像データを表示するための表示制御や、立体画像として画像データを表示するための表示制御を行う。
次に、前述の構成における撮影時のデジタルカメラの動作について説明する。
メイン電源がオンされると、コントロール系の電源がオンし、更に撮像信号処理回路506などの撮像系回路の電源がオンされる。
それから、外部I/F部512にある図示しないレリーズボタンが押されると、撮像素子からのデータを元に測距演算を行い、測距結果に基づいて被写体までの距離の演算を制御回路509で行う。その後、レンズ駆動装置502によりレンズ部を駆動して合焦か否かを判断し、合焦していないと判断した時は、再びレンズ部を駆動し測距を行う。測距演算は、撮像素子からのデータで求める以外にも、図示しない測距専用装置で行ってもよい。
そして、合焦が確認された後に撮影動作が開始する。撮影動作が終了すると、固体撮像素子505から出力された画像信号は撮影信号処理回路506で画像処理をされ、制御回路509によりメモリに書き込まれる。固体撮像素子から出力される画像データは、PDからの全ての画像信号が出力される。図3を例とすると、301L、301R、302L、302R、303L、303R、304L、304RとPDからの画像信号が順番に、そして全てのPDの画像信号が出力される。
撮影信号処理回路では、固体撮像素子から読み出された画像データを左目画像データと右目画像データに分けて画像処理を行う。左目画像とは図3における301L、302L、303L、304Lという左PD出力のみを選択的に処理した画像となる。また、右目画像は、図3における301R、302R、303R、304Rという右PD出力のみを選択的に処理した画像となる。左目画像も右目画像も別々にメモリ508に保持される。
メモリ508に蓄積された左目画像と右目画像は、画像合成回路513により、合成画像が生成される。生成された合成画像はメモリ508に蓄積される。
画像合成回路513によって実行される画像処理は左目画像と右目画像の画素毎の加算平均値を求める処理である。固定撮像素子から読み出された画像データが、左目画像と右目画像とでは被写体の形状が異なって撮影されても、画像合成回路による処理によって、被写体の形状が補間されて、正しい形状の画像データが生成される。
リフォーカス演算部517は、全体制御部509の指示に従って、多視点画像データからリフォーカス画像データを生成する。ここで、多視点画像データからリフォーカス画像データを生成する概要を説明する。ライトフィールドフォトグラフィでは、多視点画像データから、空間中の複数の位置について、それぞれの位置を通過する光線の方向と強度(ライトフィールド、以下、「LF」という。)を計算する。そして、得られたLFの情報を用いて、仮想の光学系を通過して仮想のセンサに結像した場合の画像を計算する。このような仮想の光学系やセンサを適宜設定する事で、所定の対象に合焦した合成画像データであるリフォーカス画像データを生成することが可能となる。なお、リフォーカス処理は本実施例の主眼ではなく、上述した手法以外の手法を用いても良い。生成されたリフォーカス画像データは、メモリ部508や、記録媒体511などへ格納される。
518は電気的に消去・記録可能な不揮発性メモリであり、例えばEEPROM等が用いられる。
以下、図6、図7を参照して、本発明の第1の実施例による、片目画像用の補正値を読み出す前にレリーズを可能にする制御について説明する。
まず、装置の主電源をONにすると、装置の所定の初期化動作が行われる(S601)。次に不揮発性メモリ518に記録されている両目画像用の補正値を読み出す。これにより撮像素子505から出力された両目画像データに対し補正処理を施し、表示部515に画像を出力する準備が整うため、ユーザに対し撮影開始を許可することが可能となる(S603)。次に片目画像用の補正値を不揮発性メモリ518から読み出す。これにより撮像素子から出力された片目画像データに対し補正処理を施すことができるようになる。
全体制御・演算部509は次のような撮影処理を行う。まず、撮像素子505から両目画像データ、片目画像データを読み出す(S701)。読み出した両目画像データをS602で読み出した両目画像用の補正値をもちい撮像信号処理回路506において補正処理を行い、メモリ部508に撮影した画像データを書き込む露光処理を行う。また、必要に応じて撮像信号処理回路506を用いて、メモリ部508に書き込まれた画像データを読み出して各種処理を行う現像処理を行う。
全体制御・演算部509は、メモリ部508の所定領域へ書き込まれた画像データの一部を読み出して、現像処理を行うために必要なWB(ホワイトバランス)積分演算処理、OB(オプティカルブラック)積分演算処理を行う。そして演算結果をメモリ部508に記録する。そして、全体制御・演算部509は、撮像信号処理回路506を用いて、メモリ部508の所定領域に書き込まれた撮影画像データを読み出す。そして、全体制御・演算部509はメモリ部508に記録した演算結果を用いて、AWB(オートホワイトバランス)処理、ガンマ変換処理、色変換処理を含む各種現像処理を行う(S703)。
現像処理(S703)を終えたなら、全体制御・演算部509はメモリ部508に書き込まれた画像データに対し、圧縮伸長回路514を用いてサムネイル画像やクイックレビュー表示用の低解像度の画像データを生成する(S704)。この低解像度の画像データを圧縮伸長回路514を用いて表示用画像サイズにリサイズし、メモリ部508に記録するとともに、表示制御回路516を介して表示部515に表示する、クイックレビュー表示を行う(S705)。
次に全体制御・演算部509は、S604において片目画像用の補正値が読み出されているかを確認し(S706)、読み出しが完了していると判断した場合は、片目画像データに対しS702、S703両目画像データで実施した露光処理、現像処理を実施する(S707、S708)。全体制御・演算部509は、S704で生成した低解像度画像データから圧縮伸長回路514を用いてサムネイル画像を生成し、画像データに付与して記録する。全体制御・演算部509は、メモリ部508の画像記録バッファ領域に記録した画像データを読み出す。そして、記録媒体制御I/F部510を介して、メモリカードやコンパクトフラッシュ(登録商標)カードなどの記録媒体511へ書き込みを行う(S710)。
S706において片目画像用の補正値が読み出されているかを確認し、読み出しが完了していないと判断した場合は、片目画像用に対し補正処理を行わずにメモリ部508に書き込む(S711)。全体制御・演算部509は、S604において片目画像用の補正値が読み出し完了となるまで待つ(S702)。S604において片目画像用の補正値が読み出し完了となった場合、全体制御・演算部509は、メモリ部508に一旦保存した片目画像用のデータを読み出し、S707,S708において露光処理、現像処理を行い静止画ファイルを生成(S709)し、記録媒体511へ書き込みを行う。
以上のように、本実施例に対応する発明は、両目画像用の補正値を読み出したタイミングで撮影を可能にできることで、デジタルカメラの起動開始からの撮影開始処理を短くすることができる。
以下、図8、図9、図10を参照して、本発明の第2の実施例による、片目画像用の補正値を読み出す前にレリーズを可能にする制御について説明する。
まず、S801からS805において実施例1で説明したS701からS705を実施し、両目画像データに対し、露光処理、現像処理、クイックビュー表示処理を行う。
S806において片目画像用の補正値が読み出されていないと判断した場合、片目画像データに対し、露光処理、現像処理を行わずに、メモリ部508に記録する。全体制御・演算部509は、実施例1で説明したS709、S710と同様の処理を実行し静止画ファイルを記録媒体511に記録する。このとき記録媒体511に記録される画像ファイル内の片目画像データは露光処理、現像処理を施していない画像データとなっている。
次に図9を用いてS604において片目画像用の補正値が読み出されたときに片目画像データに対し補正処理を行う制御を説明する。
まずS810において記録媒体511に保存した画像ファイルから片目画像データを記録媒体制御I/F部510を介してメモリ部508に書き込む(S901)。読み出した片目画像データに対し、S902、S903において露光処理、現像処理を施し、補正処理の施された片目画像データをメモリ部508に書き込む。最後に記録媒体511に保存した画像ファイル内の片目画像データをメモリ部508の片目画像データに置き換える。
次に図10を用いてS604において片目画像用の補正値が読み出されたときに静止画ファイルに対し片目画像用の補正値を付与する制御を説明する。
まずS810において記録媒体511に保存した画像ファイルを記録媒体制御I/F部510を介してメモリ部508に書き込む(S1001)。読み出した画像ファイルに対し片目画像用の補正値を付加する(S1002)。生成した補正値付きの画像ファイルを記録媒体511へ書き込みを行う。
以上のように、本実施例に対応する発明は、撮影されたタイミングで片目画像用の補正値が読み出されていない場合、一度記録媒体511への書き込みを行うことでメモリ部508の画像データを削除することができ、次の撮影を継続して行うことができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
501 レンズ部、502 レンズ駆動装置、503 シャッタ、
504 シャッタ駆動回路、505 撮像素子、506 撮像信号処理回路、
507 タイミング発生部、508 メモリ部、509 全体制御・演算部、
510 記録媒体制御I/F部、511 記録媒体、512 外部I/F部、
513 画像合成回路、514 圧縮伸張回路、515 表示部、
516 表示制御回路、517 リフォーカス演算部、518 不揮発性メモリ
504 シャッタ駆動回路、505 撮像素子、506 撮像信号処理回路、
507 タイミング発生部、508 メモリ部、509 全体制御・演算部、
510 記録媒体制御I/F部、511 記録媒体、512 外部I/F部、
513 画像合成回路、514 圧縮伸張回路、515 表示部、
516 表示制御回路、517 リフォーカス演算部、518 不揮発性メモリ
Claims (3)
- マイクロレンズを有する画素に配置された複数の光電変換領域を有する撮像素子(505)と、
前記撮像素子から出力される画像信号から左目画像、右目画像、合成画像を生成する画像合成装置(513)と、
片目画像、両目画像からを内包する静止画ファイルを生成する(509)撮像装置において、
両目画像用の補正値が読み出し完了したタイミングで撮影を許可し、ユーザの撮影タイミングが片目画像用の補正値の読み出し前であった場合、一旦メモリ部508に片目画像データを保持しておき、補正値の読み出しが完了したのち、各種補正処理を行い静止画ファイルを生成して、記録媒体511に記録することを特徴とする撮像装置(509)。 - ユーザの撮影タイミングが片目画像用の補正値の読み出し前であった場合、補正処理を施さない片目画像データを内包した静止画ファイルを記録媒体511に記録し、補正値の読み出しが完了したのち、記録媒体511から片目画像データを読み出し補正処理を行うことを特徴とする請求項1に記載の撮像装置(509)。
- ユーザの撮影タイミングが片目画像用の補正値の読み出し前であった場合、補正処理を施さない片目画像データを内包した静止画ファイルを記録媒体511に記録し、補正値の読み出しが完了したのち、片目画像用の補正値を静止画ファイルに付与することを特徴とする請求項1に記載の撮像装置(509)。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016005657A JP2017126916A (ja) | 2016-01-15 | 2016-01-15 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016005657A JP2017126916A (ja) | 2016-01-15 | 2016-01-15 | 撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017126916A true JP2017126916A (ja) | 2017-07-20 |
Family
ID=59365345
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016005657A Pending JP2017126916A (ja) | 2016-01-15 | 2016-01-15 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017126916A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019003700A1 (ja) | 2017-06-29 | 2019-01-03 | 本田技研工業株式会社 | 自動二輪車 |
-
2016
- 2016-01-15 JP JP2016005657A patent/JP2017126916A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019003700A1 (ja) | 2017-06-29 | 2019-01-03 | 本田技研工業株式会社 | 自動二輪車 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10587860B2 (en) | Imaging apparatus and method for controlling same | |
RU2567438C1 (ru) | Устройство формирования изображений и способ управления им | |
JP6053276B2 (ja) | 撮像装置およびその制御方法、画像処理装置 | |
JP5627438B2 (ja) | 撮像装置、その制御方法、プログラム及び記憶媒体 | |
CN107113382A (zh) | 摄像元件、焦点检测装置以及焦点检测方法 | |
JP5924943B2 (ja) | 撮像装置および撮像装置の制御方法 | |
US10382676B2 (en) | Image display apparatus, image capturing apparatus, image display method, and storage medium | |
JP2017126916A (ja) | 撮像装置 | |
JP6406804B2 (ja) | 画像処理装置、画像処理方法およびプログラム並びに撮像装置 | |
JP2013070243A (ja) | 撮像装置及び撮像装置の制御方法 | |
JP5864992B2 (ja) | 撮像装置およびその制御方法、並びに画像処理装置およびその制御方法 | |
JP6467455B2 (ja) | 撮像装置、その制御方法、プログラム及び記録媒体 | |
JP6433474B2 (ja) | 撮像装置およびその制御方法 | |
JP6537416B2 (ja) | 画像データ生成装置、撮像装置および画像データ生成プログラム | |
JP6138222B2 (ja) | 画像処理装置、撮像装置、制御方法、及びプログラム | |
JP5911276B2 (ja) | 撮像装置およびその制御方法、画像処理装置 | |
JP2014110442A (ja) | 撮像装置 | |
JP6366793B2 (ja) | 画像処理装置およびその制御方法、撮像装置 | |
JP6172949B2 (ja) | 撮像装置、撮像装置の制御方法、画像処理装置および画像処理装置の制御方法 | |
JP6177305B2 (ja) | 撮像装置およびその制御方法、並びに画像処理装置およびその制御方法 | |
JP6289515B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP2017203815A (ja) | 画像処理装置、撮像装置、制御方法およびプログラム | |
JP2014090252A (ja) | 画像処理装置およびその制御方法、撮像装置およびその制御方法、並びに画像処理プログラム | |
JP6230266B2 (ja) | 撮像装置、画像処理装置、および制御方法 | |
JP2014204299A (ja) | 撮像装置および撮像装置の制御方法 |