JP2014036347A - 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体 - Google Patents

撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体 Download PDF

Info

Publication number
JP2014036347A
JP2014036347A JP2012176657A JP2012176657A JP2014036347A JP 2014036347 A JP2014036347 A JP 2014036347A JP 2012176657 A JP2012176657 A JP 2012176657A JP 2012176657 A JP2012176657 A JP 2012176657A JP 2014036347 A JP2014036347 A JP 2014036347A
Authority
JP
Japan
Prior art keywords
image
parallax
correction
pixel
imaging apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012176657A
Other languages
English (en)
Other versions
JP6039301B2 (ja
Inventor
Toshiharu Ueda
敏治 上田
Takashi Kishi
隆史 岸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012176657A priority Critical patent/JP6039301B2/ja
Priority to EP13178988.5A priority patent/EP2696587B1/en
Priority to EP20156469.7A priority patent/EP3681157A1/en
Priority to US13/957,842 priority patent/US9374572B2/en
Publication of JP2014036347A publication Critical patent/JP2014036347A/ja
Application granted granted Critical
Publication of JP6039301B2 publication Critical patent/JP6039301B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/232Image signal generators using stereoscopic image cameras using a single 2D image sensor using fly-eye lenses, e.g. arrangements of circular lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Abstract

【課題】単眼の複画素構造を備えた撮像素子を使用した立体画像撮影が可能な撮像装置において、所望の立体感を得る。
【解決手段】立体画像を生成する撮像装置であって、1つのマイクロレンズに対して複数の画素を配置して構成された単位画素セルを備え、単位画素セルの画素ごとに分離された第1の像信号および第2の像信号を出力する撮像素子114と、第1の像信号と前記第2の像信号との間の像ずれ量を視差として算出する視差検出手段123と、絞り111の変化に応じた視差の変化量を低減するように補正を行う画像補正手段120とを有する。
【選択図】図1

Description

本発明は、立体画像を生成する撮像装置に関する。
近年、1つのマイクロレンズに対して複数の画素を配置して構成された単位画素セルを備え(複合画素構造)、単位画素セルの画素ごとに分離された第1の像信号および第2の像信号を出力する撮像素子が提案されている。
特許文献1においては、撮像素子の一部を複合画素構造とし、この複合画素を情報取得用(測距用)の画素として用いる構成が開示されている。しかし、情報取得性能(測距性能)を考慮すると、撮像素子の全域を複合画素構造とすることが有効である。このため、撮像素子の全面を複合画素構造とし、複合画素構造における単位画素を、撮影用および情報取得用(測距用)として兼用することが提案されている。
さらに近年、複合画素構造の画素を用いて、視差を有する2つの画像(左像、右像)を取得することができる。このため、複眼(複数台)の撮像装置を用いる必要のない、単眼での立体画像撮影装置を実現することも考えられている。
特許第4027113号
複眼(複数台)の撮像装置を用いた場合には、2つの撮像装置(カメラ)がなす輻輳角によって立体感が決定されるため、撮像光学系の絞りを変更しても安定した立体感を得ることができる。
しかしながら、単眼での撮像装置を用いて立体画像を得ようとする場合、撮像面上で生じる像ずれ量は、撮像光学系の絞り(絞り径)に応じて変化する。すなわち、同一被写体を撮影した場合でも、絞りを変更することで像ずれ量が変化し、立体感が変化してしまう。
そこで本発明は、1つのマイクロレンズに対して複数の画素を配置して構成された単位画素セルを有する撮像素子を用いて立体画像を生成する際に、立体感の絞り依存性を低減する撮像装置、撮像システム、および、撮像装置の制御方法を提供する。また、その撮像装置の制御方法をコンピュータで実行可能なプログラム、および、そのプログラムが記憶された記憶媒体を提供する。
本発明の一側面としての撮像装置は、立体画像を生成する撮像装置であって、1つのマイクロレンズに対して複数の画素を配置して構成された単位画素セルを備え、該単位画素セルの画素ごとに分離された第1の像信号および第2の像信号を出力する撮像素子と、前記第1の像信号と前記第2の像信号との間の像ずれ量を視差として算出する視差検出手段と、絞りの変化に応じた前記視差の変化量を低減するように補正を行う画像補正手段とを有する。
本発明の他の側面としての撮像システムは、前記撮像装置と、光学像を前記撮像素子に結像させる撮像光学系とを有する。
本発明の他の側面としての撮像装置の制御方法は、立体画像を生成する撮像装置の制御方法であって、1つのマイクロレンズに対して複数の画素を配置して構成された単位画素セルを有する撮像素子を用いて、該単位画素セルの画素ごとに分離された第1の像信号および第2の像信号を出力するステップと、前記第1の像信号と前記第2の像信号との間の像ずれ量を視差として算出するステップと、絞りの変化に応じた前記視差の変化量を低減するように補正を行うステップとを有する。
本発明の他の側面としてのプログラムは、前記撮像装置の制御方法の手順が記述されたコンピュータで実行可能なプログラムである。
本発明の他の側面としての記憶媒体は、コンピュータに、前記撮像装置の制御方法を実行させるためのプログラムが記憶されたコンピュータ読み取り可能な記憶媒体である。
本発明の他の目的及び特徴は、以下の実施例において説明される。
本発明によれば、1つのマイクロレンズに対して複数の画素を配置して構成された単位画素セルを有する撮像素子を用いて立体画像を生成する際に、立体感の絞り依存性を低減させる撮像装置、撮像システム、および、撮像装置の制御方法を提供することができる。また、その撮像装置の制御方法をコンピュータで実行可能なプログラム、および、そのプログラムが記憶された記憶媒体を提供することができる。
実施例1における撮像装置の全体構成を示すブロック図である。 実施例1における撮像素子の単位画素セルの概念図(上面図)である。 実施例1における撮像素子の画素配置の一例である。 実施例1における撮像装置の撮影動作を示すフローチャートである。 実施例1における像ずれ量検出(視差マップ算出)の説明図である。 実施例1における撮像素子の立体画像撮影(絞り依存)の説明図である。 実施例1におけるデフォーカス量と像ずれ量との関係図である。 実施例1におけるデフォーカス量と像ずれ量との関係図(絞り依存)である。 実施例1における絞り径(F値)と傾き係数との関係図である。 実施例1における立体感補正の模式図である。 実施例1における立体画像データの模式図である。 実施例2における撮像装置の撮影動作を示すフローチャートである。 実施例3における撮像装置の撮影動作を示すフローチャートである。
以下、本発明の実施例について、図面を参照しながら詳細に説明する。各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
まず、図1を参照して、本発明の実施例1における撮像装置について説明する。図1は、撮像装置100(撮像システム)の全体構成を示すブロック図である。撮像装置100は、立体画像を生成する撮像装置である。と110は、撮像素子114上に光学像(被写体像)を結像させるレンズ(撮影レンズ)である。111は、レンズ110を介して撮像素子114へ入射する光を制限する絞りである。112は、レンズ110を介して撮像素子114への入射光を遮光するシャッタ(SH)である。113は、レンズ110のフォーカス制御や絞り111の開口径制御などを行うレンズ制御部である。レンズ110、絞り111、シャッタ112、および、レンズ制御部113により、レンズユニット101(撮像光学系)が構成される。また撮像装置100は、レンズユニット101および撮像装置本体により構成される。
114は、レンズユニット101を介して得られた光学像を電気信号(アナログ信号)に変換するCMOSセンサやCCDセンサなどの撮像素子である。撮像素子114は、1つのマイクロレンズに対して複数の画素を配置して構成された単位画素セルを備え、単位画素セルの画素ごとに分離された像信号(第1の像信号および第2の像信号)を出力する。このような構成により、単位画素セル毎に異なる像信号を出力することができる。なお、撮像素子114の構造の詳細については、図2および図3を参照して後述する。
116は出力信号処理回路である。出力信号処理回路116は、撮像素子114から出力されるアナログ信号に対して、オプティカルブラックのレベルを基準レベルに合わせるためOBクランプなどの処理を行う。出力信号処理回路116は、このアナログ信号をデジタル信号に変換するアナログ・フロント・エンド(AFE)や、各画素のデジタル出力を受けて各種補正処理や並び替えなどをデジタル処理するデジタルフロントエンド(DFE)などを含む。
117は、撮像素子114および出力信号処理回路116に制御信号を供給するタイミング発生回路(TG)である。118は、後段の測距演算(焦点検出演算)および画像処理を行うために、出力信号処理回路116の出力を一時的に保存するメモリである。119は、メモリ118に保存された撮像素子114の左右の像信号(像出力)、すなわち出力信号処理回路116によりデジタル処理された信号を用いて測距演算を行う測距演算部である。測距演算部119は、撮像素子114に関して像分離した出力方向における相関演算を行ってレンズ110のデフォーカス量を求め、後述のシステム制御回路150へデフォーカス量に関する情報を転送する。
123は、メモリ118に保存された撮像素子114の左右の像信号に対して相関演算を行って左右像間の対応点での像ずれ量を算出する視差検出手段である。視差検出手段123は、各ポイント(対応点)での左右像間の像ずれ量に基づいて周知の視差マップを作成し、左右像間の像ずれ量を求める。なお本実施例において、「左右像間の像ずれ量」または「左右像間の対応点での像ずれ量」を「視差」と定義する。このため、視差検出手段123は、第1の像信号と第2の像信号との間の像ずれ量を視差として算出する。また本実施例において、視差検出手段123は、測距演算部119とは別に(分離して)構成されているが、本実施例はこれに限定されるものではない。例えば、測距演算部119の内部に視差検出手段123を設け、測距演算の途中で視差マップを作成するように構成してもよい。
120は画像補正手段(立体感補正手段)である。画像補正手段120は、視差検出手段123により作成された視差マップの情報、および、撮影時に取得しているレンズ情報(絞り径、焦点距離など)に基づいて、A像(左像)およびB像(右像)の各画素の出力を補正して立体感補正を行う。すなわち、画像補正手段120は、絞り111(絞り径)の変化に応じた視差の変化量を低減するように補正を行う。
115は補正パラメータ設定手段である。補正パラメータ設定手段115は、画像補正手段120による補正を行うためのパラメータを設定する。121は画像処理回路である。画像処理回路121は、出力信号処理回路116、メモリ118、視差検出手段123、および、画像補正手段120を介してデジタル処理された像信号(に関するデータ)に対して、所定の色変換などの画像処理を行う。
124は、左右像の各々の関連情報を、保存形式で生成する関連情報付与手段である。関連情報付与手段124は、具体的には、画像補正手段120や視差検出手段123で得られた立体感補正のための情報を含む関連情報を生成する。122はメモリ制御回路である。メモリ制御回路122は、画像処理回路121により生成された画像データと関連情報付与手段124により生成された関連情報とを後述のメモリ130へ転送するなどの制御を行う。
128は、TFT方式のLCDからなる画像表示部である。130は撮影された静止画像データや動画像データと関連情報とを関連付けて格納するメモリである。150は画像処理装置全体を制御するシステム制御回路である。システム制御回路150は、周知の信号処理装置(CPU)などを内蔵する。なお、一般的な撮像装置には、測光手段、電源制御手段、スイッチ操作部などが含まれるが、本実施例における主要要素ではないため、ここでの説明は省略する。
次に、図2を参照して、本実施例における撮像素子114について説明する。図2は、撮像素子114(複合画素構造の撮像素子)における単位画素セルの概念図(上面図)である。1は、撮像素子114の単位画素セルである。1a、1bは、それぞれ、光電変換素子を含む周知の撮像画素構造を備えた画素である。画素1a、1bからの信号(第1の像信号、第2の像信号)は、それぞれ個別に出力できるように構成されている。また、画素1a、1bの上面には、周知の同色のカラーフィルタが配設されている。
2はマイクロレンズである。一つのマイクロレンズ2の下に配置されている複数の画素1a、1bは、同一のマイクロレンズ2を介して入射光を取り込む単位画素セルとして扱われる。画素1a、1bは、その配置により、瞳分割されて得られた複数の異なる像を得ることができる。なお本実施例において、複合画素構造として単位画素セル1の内部に2つの分離画素が設けられているが、本実施例はこれに限定されるものではない。複合画素構造としては、例えば、4画素、5画素、9画素などの分割で構成された複合画素でもよい。その際、単位画素セル1の分割画素毎の出力を加算して、少なくとも左目用および右目用として分離された2つの画像出力(像信号)を得ることで、同様の効果を得ることが可能である。
像信号を左右の画像に分離する方法としては、例えば、縦横2画素構成の4画素の場合、左の上下2画素と右の上下2画素をそれぞれ加算する方法がある。また、左右に分離された一対の2画素のみ(例えば、上の左右2画素など)を用いて左右の画像出力としてもよい。また、縦横2画素および中央1画素の5画素構成の場合、中央1画素を除いて、4画素構成と同様の加算出力などで左右に分離した画像出力を得ることができる。また、縦横3画素の9画素の分割画素においても、左縦3画素および右縦3画素を加算し、中央縦3画素を除くことで、上記と同様に左右の画像に分離した出力を得ることが可能である。
次に、図3を参照して、撮像素子114の画素配置について説明する。図3は、撮像素子114の画素配置の一例を示す図である。201は、画像処理の基準となるオプティカルブラック(OB)画素領域である。202は、図2を参照して説明した複数の単位画素セル1が配置され、像信号を取得する有効画素領域である。203は、記録画素として基本的に用いられる記録画素領域である。記録画素領域203は、有効画素領域202の中心と記録画素領域203の中心とを一致させた基本的な記録画素領域である。記録画素領域203は、有効画素領域202よりも狭く設定されている。有効画素領域202の端部と記録画素領域203の端部との間の領域(記録画素マージン領域M1、M2)は、後述の立体感補正制御時に用いられることがある。
画像データを保存する際には、記録画素領域203のデータのみを保存することで、既に立体感調整が行われた画像データを保存することが好ましい。ただし、一般的に記録画素領域203の保存は、後処理の不要なマルチピクチャーフォーマット(MPO)、JPEG、動画ファイル(AVIファイルなど)などで行われることが好ましい。記録画素領域203の保存する場合、全てのファイルを記録画素領域203のみを保存するだけでなく、例えば、RAW形式のファイル保存時には有効画素領域202や全画素領域を保存してもよい。その際、関連情報として、立体感調整を行う場合の撮影光学系の絞り情報や焦点距離情報などの立体感補正関連の情報を付与して保存する。関連情報の付与については、図11等を参照して後述する。
次に、図4を参照して、本実施例における撮像装置100の撮影動作について説明する。図4は、撮像装置100の撮影動作を示すフローチャートである。本フローは、不図示の撮影開始スイッチSW(ライブビュー開始スイッチ、撮影準備スイッチなど)がオンになることで開始する。図4の各ステップは、システム制御回路150の指令に基づいて実行される。
まずステップS301において、本撮影前における測距および測光を行うための予備撮影を行う。予備撮影は、図2を参照して説明した単位画素セル1で分割された出力信号(A像、B像)に基づいて、測距演算部119が現在のピント位置(デフォーカス量)を算出することで行われる。続いてステップS302において、システム制御回路150は、ステップS301で算出されたデフォーカス量に基づいて合焦位置を求める。またレンズ制御部113は、合焦目標に向かってレンズ110を駆動させるフォーカス動作を行う。そしてステップS303において、ステップS301で得られた情報に基づいて被写体露出情報を得るための測光動作が行われる。続いてステップS304において、ステップS303で得られた被写体露出情報に基づいて、本撮影時の適正のシャッタ秒時などの撮影条件を決定する。ステップS304において決定された撮影条件(レンズユニット101に関する情報)、具体的には、絞り、焦点距離、レンズ固有情報なども、不図示のメモリに記憶される。
次にステップS305において、撮影スイッチSW2(静止画記録スイッチ、動画記録スイッチなど)がオンされたか否かを確認する。撮影スイッチSW2がオンされている場合には、ステップS307に移行する。一方、スイッチSW2がオンされていない場合には、ステップS306へ移行する。ステップS306では、撮影開始時にオンされている撮影開始スイッチSWがオフされたか否かを確認する。撮影開始スイッチSWがオフされている場合には撮影動作を終了する。一方、撮影開始スイッチSWがオンの状態を維持している場合にはステップS301へ移行し、再度、予備撮影を行う。
ステップS307において、ステップS304で決定された撮影条件に従い、シャッタ制御や撮像素子114の蓄積や読み出し動作などの撮影動作を行う。なお、動画撮影の場合など、フレーム毎にメカニカルな遮光を行うための時間を確保することができないことがある。このため、撮像素子114の駆動(スリットローリングシャッター駆動)を行い、常にシャッタ112は開いたままで動作する場合もある。読み出された出力信号は、左右像のそれぞれについて、メモリ118に一時的に保存される。
続いてステップS308において、視差検出手段123は左像(A像)と右像(B像)間の対応点の像ずれ量(視差)を検出し、視差マップを作成する。このような視差の検出(像ずれ量の検出)は、ステップS307にて撮像素子114から読み出されて出力信号処理回路116を介してメモリ118に一時的に保存されている画像に基づいて行われる。なお、ステップS308における像ずれ量の検出については、図5を参照して後述する。
続いてステップS351において、測距演算部119は、ステップS307にて撮影された画像の相関演算などを行ってデフォーカス量を求め、このデフォーカス量を次フレーム撮影時の測距データとして不図示のメモリに保存する。なお本実施例においては、測距演算部119と視差検出手段123とを別構成としているため、ステップS308とステップS351とを個別動作として説明している。ただし、視差検出手段123の検出結果は測距動作にも使用可能であるため、測距動作の中での一部の情報として視差検出を行い、検出した視差を測距情報に流用してもよい。
次にステップS309において、画像補正手段120は、ステップS308にて作成した視差マップ、および、ステップS304にて記憶した撮影条件(レンズユニット101に関する情報)に基づいて、単位画素のそれぞれの適正な補正量を求める。そして画像補正手段120は、この補正量に基づいて、撮影されたA像、B像に対して視差不足分を補うように立体感補正処理を行う。立体感補正処理の詳細については、図6乃至図10を参照して後述する。
続いてステップS310において、画像処理回路121は、ステップS309における立体感補正処理後のA像、B像のそれぞれに対して、色変換などの画像処理を行う。画像処理回路121は、この画像処理によりJPEGなどへの現像、画像サイズ切り出し、および、圧縮処理を行い、A像、B像のマルチピクチャーフォーマットによる保存を行う。すなわち、この画像処理により、A像、B像の立体感補正後(立体感調整後)の画像が作成されることになる。
続いてステップS311において、関連情報付与手段124は、立体感補正処理に関する情報を含む画像情報および撮影関連情報を補正パラメータ設定手段115などから読み出す。そして関連情報付与手段124は、関連情報を生成し、ステップS310で作成した画像に関連情報を付与したデータを作成する。
続いてステップS312において、メモリ制御回路122は、ステップS310の画像処理後のデータに対してステップS311にて生成された関連情報を付与して得られたデータを、メモリ130に転送して記録する。このデータをRAW画像で記録する場合、ステップS310における画像記録は立体感補正を行わない状態(未処理状態)で、ステップS311での関連情報として視差マップ情報や撮影レンズ関連情報を記録する。このような構成により、画像保存後に、表示装置にて立体感補正を行う際に有用な情報として扱うことも可能となる。なお、本実施例はRAW画像に限定されるものではなく、JPEG形式などの画像においても関連情報を付与してもよい。
次にステップS313において、システム制御回路150は、撮影開始スイッチSWがオフされたか否かを判定する。撮影開始スイッチSWがオフされていない場合、撮影が継続されるものとしてステップS302に戻る。そしてシステム制御回路150は、直前のステップS351で測距演算部119により算出されたデフォーカス量に基づいて、合焦位置を求める。そしてレンズ制御部113は、合焦目標に向かってレンズ110を駆動させるフォーカス動作を行う。一方、ステップS313において、撮影開始スイッチSWがオフされている場合、本フローの撮影動作を終了し、待機状態に戻る。
次に、図5を参照して、図4中のステップS308における像ずれ量の検出(視差マップの作成)について説明する。図5は、像ずれ量の検出(視差マップの作成)の説明図である。ここで視差マップとは、A像(左像)とB像(右像)との間で、分割瞳による光束の違いに応じて生じる撮像素子114上での対応点のずれ(像ずれ量)に基づいて、それぞれの対応点の視差を求めるためのデータである。このデータを利用することにより、撮影光学系のデフォーカス量や、被写体の距離などを推定することができる。視差マップの作成方法としては、部分画像(全画像を所定の領域にブロック分割した各ブロックの画像)毎に左右像(A像、B像)の面積相関値を算出する「ステレオマッチング法」などが一般的に用いられる。
ステレオマッチング法としては種々の方法が存在するが、本実施例では、差分和を用いた単純なテンプレートマッチング法を特徴点の対応付けに用いた場合について説明する。図5(a)、(b)は、A像(左像)、B像(右像)をそれぞれ示す。なお、図5(a)は画像内の各画素点を示しているが、図5(b)は説明の便宜上、不要な画素点は省略している。図5(a)、(b)に示されるように、撮影画像の視点位置が左側に相当するA像(左像)の部分画像を基準画像401、視点位置が右側に相当するB像(右像)の部分画像を参照画像402とそれぞれ設定して、テンプレートマッチングを行う。本実施例においては、同一の単位画素セル1内を左右像(A像、B像)に分割しているため、基本的にはx方向の一次元ずれしか存在しない。このため、本実施例はでは一次元の相関について説明するが、二次元ずれについても適用可能である。
まず、基準画像401中の特定の点を注目画素404(x,y)として選択する。そして、注目画素404を中心とした所定サイズの領域をテンプレート403として切り出す。次に、大まかな視点の移動量を考慮して、参照画像402内の対応点探索領域407を任意に設定する。そして、対応点探索領域407内に存在する参照画素405を順次選択するとともに、参照画素405を中心としたテンプレート403と同一サイズのウィンドウ領域406について、基準画像401内のテンプレート403との類似度を算出する。注目画素404の類似度の算出は、対応点探索領域407内について、ウィンドウ領域406を移動させながら、順次実施される。
対応点候補の近傍の類似度は、以下の式(1)で表されるように、画素値の差の二乗和で計算できる。
ここで、(x,y)は左像(A像)における注目画素404の位置、I(x,y)は左像(A像)における注目画素404の画像信号である。(xb+i,y)は右像(B像)における参照画素405の位置、I0(xb+i,y)は右像(B像)における参照画素405の画像信号である。Kは対応点探索領域407である。JSDDは「残差平方和」と呼ばれ、各画素値が完全に一致したとき0となる。したがって、注目画素404に対応した類似度JSDDが最小となる参照画素405を、対応点(xmin,y)として決定する。そして、類似度の算出に用いられ他注目画素404(x,y)と、決定した対応点(xmin,y)との水平方向のずれX=x−xminを求める。
以上のようなテンプレートマッチング処理により、A像(左像)を基準としたB像(右像)の対応情報が求められ、注目画素の座標と対応点の座標との水平方向のずれである差X(=x−xmin)を、左右像間の像ずれ量として取得する。この演算を各単位画素セルに対して実施して各画素セルの位置に配置したものが視差マップである。なお本実施例は、上述の方法による像ずれ量算出に限定されるものではなく、マッチング対象となる2つの視点画像における画素ごとの像ずれ量を算出可能な方法であれば、他の方法を用いてもよい。
次に、図6乃至図10を参照して、本実施例における立体感補正に関するパラメータの算出について説明する。立体感補正は、図5を参照して説明した像ずれ量(視差)に対して、基準とする絞り径相当の像ずれ量(視差)になるように、絞りに依存する係数を掛けた画像に補正するために行われる。
図6(a)、(b)は、撮像素子114の立体画像撮影(絞り依存)の説明図であり、被写体と撮像光学系によるピント位置と撮像面の結像状態との関係を示している。図6(a)、(b)では、焦点距離pにおいて、図6(a)の絞り径d1、および、図6(b)の絞り径d2で、丸印で示される主被写体に合焦している状態がそれぞれ示されている。画素1a、1bに対する被写体上からの光束は、撮影光学系の中のa画素に対応する分割瞳を通ってa画素に入射する光束と、撮影光学系の中のb画素に対応する分割瞳を通ってb画素に入射する光束とにそれぞれ分割される。これらの2つの光束は、被写体上の同一点から入射しているため、撮影光学系のピントが合った主被写体からの光束は、破線で示されるように、同一のマイクロレンズ2を通過して撮像素子114上の1点に到達する。したがって、A像(左像)とB像(右像)は、撮像素子114上では略一致する。図6(a)、(b)では、A像(左像)、B像(右像)ともに単位画素セルP7に結像している。
一方、三角印で示される遠景被写体からの入射光束は、実線で示されるように、結像点が撮影光学系側に存在する。このため、撮像面がピント位置より後ろに存在する、いわゆる後ピン状態となる。後ピン状態では、a画素、b画素の光束の到達位置が互いにずれ、A像(左像)とB像(右像)には対応点のずれ(視差)が生じる。図6(a)では、A像(左像)はP9、B像(右像)はP5に結像している。また図6(b)では、A像(左像)はP8、B像(右像)はP6にそれぞれ結像している。
図7は、デフォーカス量と左右像間の像ずれ量(視差)との関係図であり、図6(a)の状態における関係を示している。図7中の横軸はデフォーカス量を示し、縦軸は像ずれ量を示している。図7に示されるように、デフォーカス量と左右像間の像ずれ量は比例関係となっている。デフォーカス量は1/距離に比例するため、デフォーカス量を求めることにより距離を算出することができる。デフォーカス量をD、左右像間の像ずれ量をXとすると、以下の式(2)が成立する。
D=K×X+H … (2)
ここで、Hは過焦点オフセット、Kは係数(傾き係数)である。係数Kは、レンズユニット101の絞り111に依存する左右像間の分割瞳の重心間距離B(図6(a)ではB1、図6(b)ではB2)と、レンズ110と撮像素子114との焦点距離pから、以下の式(3)のように算出される。
K=B/p … (3)
図8は、図7の関係に基づいて、図6(a)、(b)のそれぞれの状態におけるデフォーカス量Dと左右像間の像ずれ量(視差)との関係図である。本実施例では、図6(a)の絞り径d1を立体感補正目標である基準の条件とし、絞り径d1は、撮影時に使用している撮影光学系(レンズユニット101)の設定可能な最大の絞り径(開放絞り)であるとする。ここで、開放絞りとする理由は、装着された撮影光学系(レンズユニット101)の中で設定可能な最大の像ずれ量(視差)となる条件であるためである。本実施例において、画像補正手段120は、視差が絞り111の開放絞り時の視差になるように、または、開放絞り時の視差に近づくように補正を行う。
図8に示されるように、図6(a)の絞り径d1の状態が傾き係数K1、図6(b)の絞り径d2の状態が傾き係数K2をそれぞれ有する。このように、丸印で示される合焦点では、絞り径d1、d2に依存せず左右像間の像ずれ量(視差)は生じない。一方、後ピン状態(三角印)や前ピン状態(四角印)では、絞り径d1、d2に応じて左右像間の像ずれ量(視差)は異なる。
具体的には、図6(a)、(b)の後ピン状態(三角印)の左右像間の像ずれ量X1、X2(視差)の関係は、X1>X2となる。このとき、傾き係数K2を傾き係数K1に合わせるための立体感補正係数Zは、以下の式(4)のように設定される。
Z=X1/X2=B1/B2=K1/K2 … (4)
すなわち、基準となる絞り径d1の傾き係数K1、および、実際に撮影した絞り径d2での傾き係数K2に基づいて、絞り111に依存する像ずれ量(視差)の補正倍率(視差倍率)である立体感補正係数Zを求める。立体感補正係数Z(視差倍率)を用いることにより、絞り径に依存せずに、左右間の像ずれ量(視差)を得ることができる。
図9は、絞り径(F値)と傾き係数Kとの関係図であり、焦点距離pが50mmの場合を示している。絞り径F5.6で撮影した画像を、F1.8相当で撮影した像ずれ量(視差)に補正する場合、立体感補正係数Z=1.80/0.7=2.58を用いて補正を行えばよい。なお、傾き係数Kは、絞り径、焦点距離、撮像素子の光強度分布などのデータを予め記憶しておくことにより演算で求めることができる。ただし、実際は使用するレンズの種類に応じて、レンズの収差や構造によるケラレなどが異なるため、レンズ毎(絞り毎)にデータを予め記憶しておくことが好ましい。本実施例において、焦点距離pとして説明しているが、実際のレンズは複数枚のレンズを組み合わせた構造を有する。このため、焦点距離pを射出瞳距離として計算することにより、より高精度の結果が得られる。
図5で測定した左右像間の像ずれ量X(視差)、図6乃至図9を参照して説明した立体感補正係数Z、および、補正目標の像ずれ量X’(目標視差)の関係は、以下の式(5)のように表される。
X’=X×Z … (5)
すなわち、左右間の像ずれ量X(視差)が、補正目標の像ずれ量X’(視差)になるように、各々の画素の像ずれ量(視差)を水平方向にZ倍だけ拡大した画像に補正することにより、立体感が補正される。以上のように、本実施例では、立体感を補正するためのパラメータ(立体感補正係数Z)を、レンズユニット101(撮影光学系)の絞り情報に基づいて取得する。
図10は、本実施例における立体感補正の模式図である。図10(1a)は、撮像装置に対する被写体位置関係を示す上視図である。主被写体(丸印)に対して、遠景被写体(三角印)が存在し、撮影光学系は主被写体にピントが合うように制御されている。図10(1b)は、撮像装置から被写体を正面に見た場合を示しており、2D撮影(二次元撮影)の場合には、本図に示されるように記録される。
図10(2a)〜(2c)は、各々の被写体が同一ライン上にあるとして模式的に撮像素子のA像(左像)、B像(右像)を示す図である。図10(2a)は基準となる絞り径d1(絞り径大)の立体感補正前、図10(2b)は絞り径d2(絞り径小)の立体感補正前、図10(2c)は絞り径d2(絞り径小)の立体感補正後の状態をそれぞれ示している。図10(2a)は、主被写体(丸印)の像ずれはなく、遠景被写体(三角印)の左右像間の像ずれ量X1を有する。一方、図10(2b)は主被写体(丸印)の像ずれはなく、遠景被写体(三角印)の左右像間の像ずれ量はX1より小さいX2となる。この際、図10(2a)の遠景被写体(三角印)は、図10(2b)の遠景被写体(三角印)よりボケた像となっている可能性がある。図10(2c)は、図10(2b)に対して立体感補正を行って得られた状態を示している。図10(2c)は、A像(左像)およびB像(右像)の対応被写体に、各々、図5乃至図9の方法を用いて、左右像間の像ずれ量Xに対して、絞り径に応じた立体感補正係数Zを掛けた状態である。
図10(3a)〜(3c)は、図10(2a)〜(2c)のように撮影および立体感補正がなされた画像を表示した場合、観測者が視認できる立体感について示す模式図(上視図)である。図10(3a)は、主被写体に像ずれがないため、主被写体は、基準面となる表示装置面上に存在するように見える。一方、遠景被写体は、絞り径d1に応じた、左右像間の像ずれ量(視差)から発生する左目の視点と右目の視点の延長線上にある交差ポイント(クロスポイント)が表示装置面より奥に発生するため、奥まった立体感が得られる。また、図10(3b)において、遠景被写体は、絞り径d2に応じたクロスポイントは表示装置面より奥に発生するが、図10(3a)と比較して、表示装置面に近い位置にクロスポイントがある。このため、図10(3b)の立体感は、図10(3a)と比較して低い。
一方、図10(3c)では、表示装置面上の像に対して立体感補正がなされている。このため、遠景被写体のクロスポイントは、基準となる絞り径d1での撮影時と略同等となる。したがって、絞り径d2での撮影でも、大きい絞り径d1と同様の立体感を得ることができる。小さい絞り径d2のほうが、基準となる絞り径d1より被写界深度が深いため、よりピントの合った奥行き感を得ることが可能である。なお、ここでは遠景被写体について説明したが、近景被写体についても同様の補正をすることで、所望の絞り径で発生する立体感と同様の浮き出し感を得ることができる。
図11は、図4におけるステップS311、S312を参照して説明した、画像データおよび関連情報を含む立体画像データの模式図である。図11(a)において、601は一組の立体画像として撮影された立体画像データである。像ずれ量が補正された左像データ602Lおよび右像データ602Rが立体画像データ内に保存されている。603は、立体画像データ601の関連情報である。関連情報603には、前述の像ずれ量情報から決定された立体感補正のための情報(例えば、絞り径d、立体感補正係数Zなど)が含まれる。また、関連情報603は、シャッタ秒時、フレームレート、撮影レンズ情報(焦点距離、射出瞳距離、F値、開放F値)など、撮影に関する他の情報を含んでもよい。ここでは、関連情報603を左像データ602Lおよび右像データ602Rを含めて一つの領域で示しているが、関連情報603は、左像専用領域および右像専用領域の別領域にそれぞれ保存してもよい。
図11(b)は、複数の形式の画像ファイルを関連付けた場合を示している。図11(b)において、611は一組の立体画像として撮影された画像(左右像)のデータ(立体画像データ)である。612、614は、撮影された画像(左右像)のデータをそれぞれ異なる形式で保存された画像データである。例えば、612は第1の形式としてJPEG、614は第2の形式としてRAWという異なる形式で保存された画像データである。各々の画像データ612、614には、左像データ612L、614L、右像データ612R、614Rが含まれる。なお、各々の形式で保存されている画像データの画像サイズは同様である必要はなく、例えば、画像データ612は像ずれ量を補正した記録画素領域の画像データであり、画像データ614は像ずれ量を補正していない有効画素領域の画像データであってもよい。
613は第1の形式で保存されている立体画像データ611の関連情報、615は第2形式で保存されている立体画像データ611の関連情報である。関連情報613、615には、前述の像ずれ量情報から決定された立体感補正のための情報(例えば、立体感補正係数Zなど)が含まれる。図11(a)中の関連情報603と同様に、シャッタ秒時、フレームレート、撮影レンズ情報(絞り径(F値)、焦点距離、射出瞳距離、開放F値)など、撮影に関する他の情報を含んでもよい。なお、同一の画像の異形式情報を保存する場合、各々の形式での関連情報は同一内容である必要はない。例えば、立体感補正のための情報も、第1の形式では立体感補正係数Zのみを保存し、第2の形式では絞り径(F値)と立体感補正係数Zの両方を保存するようにしてもよい。
図11において、一組の立体画像として撮影された画像データ(左右像)において左右像の像ずれ量(視差)が補正されているが、本実施例はこれに限定されるものではない。例えば、画像記録時に、撮影レンズ情報(焦点距離、射出瞳距離、F値、開放F値など)や立体感補正係数Zなどの立体感補正に関連する情報を立体画像データに付与することで、表示装置側で、撮影時の情報の所望の像ずれ量(視差)を補正することもできる。このため、保存する画像データ(左右像)は左右像の像ずれ量を補正している必要はない。すなわち、図4のステップS310における立体感補正処理動作で補正画像作成を行わない場合があってもよい。
なお本実施例において、立体感の基準(補正目標)となる絞り径d1は、撮影に使用する撮影光学系における開放絞りとして説明したが、本実施例はこれに限定されるものではない。撮像装置100は、例えば、所望の絞り値を基準として設定できるモードを有していてもよい。また、絞り径d1は、撮影に使用しているレンズに関わらず、焦点距離と絞り径の理論値や、他のレンズでの所定絞り径を基準として補正してもよい。この方法によれば、撮影光学系での開放絞り以上の像ずれ量(視差)を発生させることも可能となる。
以上のとおり、本実施例によれば、分割画素を用いて測距動作と立体画像を得る撮像装置において、所定距離被写体相当の像ずれ量分の画像シフトを行うことができる。このため、主被写体(合焦位置)に擬似的な像ずれを与え、主被写体に立体感を付与することが可能となる。
次に、本発明の実施例2における撮像装置について説明する。実施例1では、主に単写による撮影動作を説明した。この点、連続撮影動作(連写、動画等)を行う場合、第1フレームからの立体感の変化に対して違和感が生じることを考慮すると、第1フレームの絞り径を基準(立体感補正目標)の絞り径d1に設定し、第2フレーム以降の立体感を補正することが好ましい。
図12を参照して、第1フレーム撮影時(撮影開始時)の絞り径を立体感補正基準として設定するシーケンスについて説明する。図12は、本実施例における撮像装置の撮影動作を示すフローチャートであり、連続動作時の簡易的な撮影シーケンスを示している。図12のフローは、撮像装置の連続撮影動作モード設定スイッチ(不図示)により連続撮影動作(連写、動画など)が設定された状態で、撮影開始スイッチSWがオンされることで開始する。なお、図12の各ステップは、システム制御回路150の指令に基づいて行われる。
まずステップS901において、第1フレームの撮影を行う。撮影動作は、図4を参照して説明した撮影シーケンスと同様である。ただし、ステップS901では立体感の補正を行う必要はないため、図4のステップS309は実行しない。続いてステップS902において、ステップS901にて使用した絞り径を補正目標となる基準の絞り径d1として記憶する。そしてステップS903において、システム制御回路150は、撮影開始スイッチSWがオンの状態を維持しているか、または、オフされているかを判定する。撮影開始スイッチSWがオンの場合、ステップS904へ移行する。一方、撮影開始スイッチSWがオフの場合、本シーケンスを終了し、待機状態へ戻る。
ステップS904において、システム制御回路150は、第1フレームの場合と同様に、図4を参照して説明した撮影シーケンスを実行する。このとき、立体感補正の基準となる絞り径d1として、ステップS902で記憶した絞り径(第1フレームの絞り径)が用いられる。撮影動作が終了すると、ステップS903に戻る。なお、第1フレームを本撮影前の予備撮影として用いてもよい。
本実施例によれば、連続撮影動作時に初期設定された絞り径を立体感の基準として設定し、その絞り径を用いて立体感補正を行う。すなわち、画像補正手段120は、視差が撮影開始時の視差になるように、または、撮影開始時の視差に近づくように補正を行う。このため、立体感の変化に対する違和感を低減することが可能である。
また、図4および図12に示されるシーケンスのように、連続撮影(連写、動画等)の際に、基準(補正目標)とする絞り径d1を変更しないように設定してもよい。このとき、画像補正手段120は、連続撮影の際には、連続撮影が終了するまで、撮影初期に設定されたパラメータを用いて補正を行う。このような構成によれば、連続的に取得される間に絞り径が変化した場合でも、安定した立体感を得ることができる。
次に、本発明の実施例3における撮像装置について説明する。実施例1では、予め記憶しているか、または、演算で算出した係数(補正係数)が用いられる。しかし、交換レンズなどを含む複数のデータを予め記憶しておくことは、メモリ効率の観点では好ましくない。また、記憶されているレンズ以外の種類のレンズが撮像装置本体に装着された場合に、予期しない問題が発生する可能性もある。
そこで本実施例は、本撮影前の予備撮影動作中に、所定距離被写体の左右像間の像ずれ量(視差)X1、X2を取得して立体感補正係数Zを算出することにより、予め個々のレンズデータを記憶する必要がない立体感補正値を算出する。具体的には、本実施例の撮像装置100は、画像補正手段120による補正に用いられるパラメータ(立体感補正係数Zなど)を本撮影前に取得する動作モードを有する。
図13は、本実施例における撮像装置の撮影動作を示すフローチャートであり、補正係数の算出方法を示している。本フローは、本撮影前に、不図示のスイッチ手段による補正値取得動作でもよく、または、図4中のステップS301の予備撮影動作の一部として動作してもよい。なお、図13の各ステップは、システム制御回路150の指令に基づいて行われる。
まずステップS1101において、レンズユニット101における絞り111を、基準となる絞り径d1(F値)に設定する(基準絞り設定)。強い立体感を得るため、装着されたレンズの開放絞りに設定することが好ましいが、本実施例はこれに限定されるものではない。基準となる絞り径d1を、例えば、ユーザが希望する所定の絞り径に設定してもよい。続いてステップS1102において、測距、測光のための予備撮影動作を行う。
次にステップS1103において、システム制御回路150は、ステップS1102にて算出されたデフォーカス量から合焦位置を求める。そしてレンズ制御部113は、合焦目標に向かってレンズ110を駆動させるフォーカス動作を行う。続いてステップS1104において、ステップS1102で得た情報から被写体露出情報を得るための測光動作を行う。そしてステップS1105において、ステップS1101〜S1104で設定された撮影条件に従い、シャッタ制御や撮像素子114の蓄積および読み出し動作(第1の撮影)を行う。
次にステップS1106において、視差検出手段123は、左像(A像)と右像(B像)との間の視差マップを作成し、その際に特徴点を抽出(決定)する。視差マップは、ステップS1105で撮像素子114から読み出され、出力信号処理回路116を介してメモリ118に一時的に保存されている画像に基づいて作成される。特徴点の決定方法としては、例えば、左右像間で所定の像ずれ量が発生している領域を形状、色、出力値などから特徴点として認識する方法がある。または、主被写体(左右像間で像ずれ量がない領域)からの距離などを利用して設定してもよい。ただし、像ずれ量を検出するための領域設定であるため、特徴点としては合焦位置でない領域が設定される。
次にステップS1107において、視差検出手段123は、ステップS1106にて抽出された特徴点における左右像間のずれを像ずれ量X1(第1の視差)として検出する。視差の検出方法は、例えば図5を参照して説明した方法が用いられる。
続いてステップS1108において、ステップS1101にて設定された絞り径d1を、絞り径d1と異なる絞り径d2(F値)に変更する。ステップS1108にて設定される絞り径d2は、撮影時に用いられる絞り径(F値)である。そしてステップS1109において、ステップS1101〜S1104で設定された撮影条件に従い、シャッタ制御や撮像素子114の蓄積および読み出し動作(第2の撮影)を行う。このとき、絞り径d1から絞り径d2に変更されているため、シャッタ制御および蓄積時間の設定は適正露出になるように変更される。
次にステップS1110において、視差検出手段123は、左像(A像)と右像(B像)との間の視差マップを作成し、その際に特徴点を抽出(決定)する。視差マップは、ステップS1109で撮像素子114から読み出され、出力信号処理回路116を介してメモリ118に一時的に保存されている画像に基づいて作成される。続いてステップS1111において、視差検出手段123は、ステップS1107と同様に、ステップS1110にて抽出された特徴点における左右像間のずれを像ずれ量X2(第2の視差)として検出する。
次にステップS1112において、システム制御回路150は、ステップS1107にて検出された像ずれ量X1(第1の視差)と、ステップS1111にて検出された像ずれ量X2(第2の視差)とを比較し、立体感補正係数Zを算出する。そしてステップS1113において、ステップS1112で算出された立体感補正係数Zを、補正パラメータ設定手段115などに記憶して、本フローを終了する。なお、図13のフローは、2つの絞り径の状態のみを比較して立体感補正係数を求めているが、本実施例はこれに限定されるものではない。本実施例は、絞り径を変更して、複数回、図13のフローを繰り返し、複数の絞り径における補正係数を取得するようにしてもよい。
本実施例によれば、装着されたレンズで絞り径を変更させてデータを取得して立体感補正係数を算出することにより、データの記憶領域を低減して効率的な立体感補正動作が可能となる。
上記各実施例によれば、1つのマイクロレンズに対して複数の画素を配置して構成された単位画素セルを有する撮像素子で立体画像を生成する際、立体感の絞り依存性を低減させる撮像装置、撮像システム、および、撮像装置の制御方法を提供することができる。また、その撮像装置の制御方法の手順が記述されたコンピュータで実行可能なプログラムを提供することができる。また、コンピュータに、その撮像装置の制御方法を実行させるためのプログラムが記憶されたコンピュータ読み取り可能な記憶媒体を提供することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
100 撮像装置
111 絞り
114 撮像素子
120 画像補正手段
123 視差検出手段

Claims (10)

  1. 立体画像を生成する撮像装置であって、
    1つのマイクロレンズに対して複数の画素を配置して構成された単位画素セルを備え、該単位画素セルの画素ごとに分離された第1の像信号および第2の像信号を出力する撮像素子と、
    前記第1の像信号と前記第2の像信号との間の像ずれ量を視差として算出する視差検出手段と、
    絞りの変化に応じた前記視差の変化量を低減するように補正を行う画像補正手段と、を有することを特徴とする撮像装置。
  2. 前記画像補正手段は、前記絞りに応じた視差倍率を用いて前記補正を行うことを特徴とする請求項1に記載の撮像装置。
  3. 前記画像補正手段は、前記視差が前記絞りの開放絞り時の視差に近づくように前記補正を行うことを特徴とする請求項1または2に記載の撮像装置。
  4. 前記画像補正手段は、前記視差が撮影開始時の視差に近づくように前記補正を行うことを特徴とする請求項1または2に記載の撮像装置。
  5. 前記撮像装置は、前記画像補正手段による前記補正に用いられるパラメータを、本撮影前に取得するモードを有することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 前記画像補正手段は、連続撮影の際には、該連続撮影が終了するまで、撮影初期に設定されたパラメータを用いて前記補正を行うことを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  7. 請求項1乃至6のいずれか1項に記載の撮像装置と、
    光学像を前記撮像素子に結像させる撮像光学系と、を有することを特徴とする撮像システム。
  8. 立体画像を生成する撮像装置の制御方法であって、
    1つのマイクロレンズに対して複数の画素を配置して構成された単位画素セルを有する撮像素子を用いて、該単位画素セルの画素ごとに分離された第1の像信号および第2の像信号を出力するステップと、
    前記第1の像信号と前記第2の像信号との間の像ずれ量を視差として算出するステップと、
    絞りの変化に応じた前記視差の変化量を低減するように補正を行うステップと、を有することを特徴とする撮像装置の制御方法。
  9. 請求項8に記載の撮像装置の制御方法の手順が記述されたコンピュータで実行可能なプログラム。
  10. コンピュータに、請求項8に記載の撮像装置の制御方法を実行させるためのプログラムが記憶されたコンピュータ読み取り可能な記憶媒体。
JP2012176657A 2012-08-09 2012-08-09 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体 Expired - Fee Related JP6039301B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2012176657A JP6039301B2 (ja) 2012-08-09 2012-08-09 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体
EP13178988.5A EP2696587B1 (en) 2012-08-09 2013-08-01 Image pickup apparatus, image pickup system, method of controlling image pickup apparatus, program, and storage medium
EP20156469.7A EP3681157A1 (en) 2012-08-09 2013-08-01 Image pickup apparatus, image pickup system, method of controlling image pickup apparatus, program, and storage medium
US13/957,842 US9374572B2 (en) 2012-08-09 2013-08-02 Image pickup apparatus, image pickup system, method of controlling image pickup apparatus, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012176657A JP6039301B2 (ja) 2012-08-09 2012-08-09 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体

Publications (2)

Publication Number Publication Date
JP2014036347A true JP2014036347A (ja) 2014-02-24
JP6039301B2 JP6039301B2 (ja) 2016-12-07

Family

ID=48914129

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012176657A Expired - Fee Related JP6039301B2 (ja) 2012-08-09 2012-08-09 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体

Country Status (3)

Country Link
US (1) US9374572B2 (ja)
EP (2) EP3681157A1 (ja)
JP (1) JP6039301B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013172292A (ja) * 2012-02-21 2013-09-02 Sony Corp 撮像装置及び撮像素子アレイ
DE112013004760B4 (de) * 2012-09-27 2017-10-19 Fujifilm Corporation Bilderfassungsvorrichtung und Bildverarbeitungsverfahren
CN108885335B (zh) * 2016-03-30 2021-10-22 索尼奥林巴斯医疗解决方案公司 医用立体观察装置、医用立体观察方法以及程序

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010068018A (ja) * 2008-09-08 2010-03-25 Sony Corp 画像処理装置、撮像装置および表示装置
JP2011199755A (ja) * 2010-03-23 2011-10-06 Fujifilm Corp 撮像装置
JP2011197278A (ja) * 2010-03-18 2011-10-06 Fujifilm Corp 立体撮像装置
WO2012002307A1 (ja) * 2010-06-29 2012-01-05 富士フイルム株式会社 単眼立体撮像装置
JP2012147046A (ja) * 2011-01-06 2012-08-02 Sony Corp 撮像装置および画像処理方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4027113B2 (ja) 2002-02-19 2007-12-26 キヤノン株式会社 撮像装置及びシステム
KR20080106184A (ko) * 2006-03-22 2008-12-04 파나소닉 주식회사 촬상 장치
JP4538766B2 (ja) * 2008-08-21 2010-09-08 ソニー株式会社 撮像装置、表示装置および画像処理装置
JP2010057067A (ja) * 2008-08-29 2010-03-11 Sony Corp 撮像装置および画像処理装置
JP2010068182A (ja) * 2008-09-10 2010-03-25 Fujifilm Corp 3次元撮影装置および方法並びにプログラム
JP5185097B2 (ja) * 2008-12-19 2013-04-17 富士フイルム株式会社 撮影装置および合焦位置決定方法
ATE551841T1 (de) * 2009-04-22 2012-04-15 Raytrix Gmbh Digitales bildgebungsverfahren zum synthetisieren eines bildes unter verwendung der mit einer plenoptischen kamera aufgezeichneten daten
JP2011024003A (ja) * 2009-07-16 2011-02-03 Fujifilm Corp 立体動画記録方法および装置、動画ファイル変換方法および装置
JP5495683B2 (ja) * 2009-09-10 2014-05-21 キヤノン株式会社 撮像装置および測距方法
JP5387856B2 (ja) * 2010-02-16 2014-01-15 ソニー株式会社 画像処理装置、画像処理方法、画像処理プログラムおよび撮像装置
JP5669599B2 (ja) * 2010-05-14 2015-02-12 キヤノン株式会社 画像処理装置及びその制御方法
JP2012123296A (ja) * 2010-12-10 2012-06-28 Sanyo Electric Co Ltd 電子機器
JP5627438B2 (ja) * 2010-12-14 2014-11-19 キヤノン株式会社 撮像装置、その制御方法、プログラム及び記憶媒体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010068018A (ja) * 2008-09-08 2010-03-25 Sony Corp 画像処理装置、撮像装置および表示装置
JP2011197278A (ja) * 2010-03-18 2011-10-06 Fujifilm Corp 立体撮像装置
JP2011199755A (ja) * 2010-03-23 2011-10-06 Fujifilm Corp 撮像装置
WO2012002307A1 (ja) * 2010-06-29 2012-01-05 富士フイルム株式会社 単眼立体撮像装置
JP2012147046A (ja) * 2011-01-06 2012-08-02 Sony Corp 撮像装置および画像処理方法

Also Published As

Publication number Publication date
EP3681157A1 (en) 2020-07-15
JP6039301B2 (ja) 2016-12-07
EP2696587A2 (en) 2014-02-12
EP2696587B1 (en) 2020-03-18
EP2696587A3 (en) 2015-04-29
US9374572B2 (en) 2016-06-21
US20140043437A1 (en) 2014-02-13

Similar Documents

Publication Publication Date Title
JP5320524B1 (ja) ステレオ撮影装置
JP5814692B2 (ja) 撮像装置及びその制御方法、プログラム
US9681042B2 (en) Image pickup apparatus, image pickup system, image processing device, and method of controlling image pickup apparatus
JP5526233B2 (ja) 立体視用画像撮影装置およびその制御方法
JP2011259168A (ja) 立体パノラマ画像撮影装置
JP2014153890A (ja) 画像処理装置、撮像装置、制御方法、及びプログラム
JP6418770B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および記憶媒体
JP5929037B2 (ja) 撮像装置
JP6039301B2 (ja) 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体
JP5611469B2 (ja) 立体撮像装置および方法
CN111127379B (zh) 光场相机2.0的渲染方法及电子设备
JP6881909B2 (ja) 撮像装置及びその制御方法、及び画像処理装置及び方法
JP2020194454A (ja) 画像処理装置および画像処理方法、プログラム、並びに記憶媒体
JP6004741B2 (ja) 画像処理装置およびその制御方法、撮像装置
JP2011242652A (ja) 焦点検出装置およびその制御方法
KR101275127B1 (ko) 초점 가변 액체 렌즈를 이용한 3차원 이미지 촬영장치 및 방법
JP2010231192A (ja) ステレオ撮像装置
WO2013005477A1 (ja) 撮像装置、立体画像撮像方法及びプログラム
JP2018007205A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法及びプログラム
JP7134601B2 (ja) 画像処理装置、画像処理方法、撮像装置及び撮像装置の制御方法
US9602701B2 (en) Image-pickup apparatus for forming a plurality of optical images of an object, control method thereof, and non-transitory computer-readable medium therefor
JP6071748B2 (ja) 撮像装置およびその制御方法
JP6900228B2 (ja) 撮像装置、撮像システム、撮像装置の制御方法、および、プログラム
JP2023069386A (ja) 画像計測装置、方法およびプログラム
JP2022173069A (ja) 画像処理装置及び方法、及び、撮像装置及びその制御方法、プログラム、記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150716

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160419

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161104

R151 Written notification of patent or utility model registration

Ref document number: 6039301

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees