JP5725979B2 - 撮影装置およびその制御方法 - Google Patents

撮影装置およびその制御方法 Download PDF

Info

Publication number
JP5725979B2
JP5725979B2 JP2011125712A JP2011125712A JP5725979B2 JP 5725979 B2 JP5725979 B2 JP 5725979B2 JP 2011125712 A JP2011125712 A JP 2011125712A JP 2011125712 A JP2011125712 A JP 2011125712A JP 5725979 B2 JP5725979 B2 JP 5725979B2
Authority
JP
Japan
Prior art keywords
imaging
shooting
unit
state
effective
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011125712A
Other languages
English (en)
Other versions
JP2012253626A (ja
JP2012253626A5 (ja
Inventor
小谷 拓矢
拓矢 小谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011125712A priority Critical patent/JP5725979B2/ja
Priority to US13/470,610 priority patent/US8810683B2/en
Publication of JP2012253626A publication Critical patent/JP2012253626A/ja
Publication of JP2012253626A5 publication Critical patent/JP2012253626A5/ja
Application granted granted Critical
Publication of JP5725979B2 publication Critical patent/JP5725979B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2224Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
    • H04N5/2226Determination of depth image, e.g. for foreground/background separation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • H04N23/651Control of camera operation in relation to power supply for reducing power consumption by affecting camera operations, e.g. sleep mode, hibernation mode or power off of selective parts of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Cameras In General (AREA)

Description

本発明は、多眼方式のカメラのような撮影装置およびその制御方法に関する。
近年、複数の視点で撮影した画像(以下、複数視点画像)を用いて、単眼のカメラでは不可能な様々な機能を実現することが試みられている。例えば、非特許文献1に紹介されたリフォーカス処理がある。リフォーカス処理は、撮影後に撮影距離(ピント)や被写界深度を変更する画像処理で、「ピン暈け」などの画質問題を解消する技術として注目される。
リフォーカス処理を実現する方式として、プレノプティック(plenoptic)方式と多眼方式が知られている。プレノプティック方式は、撮像センサの前にレンズアレイを配置し、レンズアレイの各レンズに入射する光を複数の撮像素子により記録することで、撮像デバイスに入射する光を分割記録する。一方、多眼方式は、複数台のカメラユニットを組み合わせて、仮想撮像デバイスに入射する光を分割記録する。
何れの方式も、撮像デバイスに入射する光を方向別に分割記録し、記録した光線群(光線情報)から所望する状態が得られる光線を選択し、それら光線を合成して、リフォーカス処理に代表される様々な画像処理を実現する。従って、何れの方式も、撮像デバイスに入射する光の分割(以後、視差)が細かいほど、調整可能な範囲が広がり、処理結果の画質も向上する。
プレノプティック方式と多眼方式の違いは主に次の三点である。
(1)出力解像度の違い:プレノプティック方式は、前述した構造上、マイクロレンズアレイと同程度の出力解像度しか得られない。これに対して、多眼方式は、各カメラユニットの解像度に応じた出力解像度が得られる。
(2)視差の細かさの違い:プレノプティック方式のカメラ(以下、プレノプティックカメラ)は、レンズアレイを構成するレンズで分割した微小な視差の光線情報を得る。これに対して、多眼方式のカメラ(以下、多眼カメラ)の視差は、カメラユニット間の距離(基線長)に依存し、微小な視差を得ることは容易ではない。従って、多眼方式においては、基線長をできるだけ小さくするために、カメラユニットをできるだけ密に配置する。
(3)消費電力の違い:プレノプティックカメラは、一般的なディジタルカメラの撮像センサ前にレンズアレイを追加した構成を有し、その消費電力は、ベースのディジタルカメラと同等である。これに対して、多眼カメラは、多数のカメラユニットで構成され、カメラユニットの数に応じて消費電力が上昇する。
多眼カメラにおける消費電力の問題に対して、防犯カメラの分野においては、一部の構成機器の電源をカットして省電力化する技術が提案されている。例えば、特許文献1が記載する発明は、特定の領域における人物検出結果に応じて、カメラや照明装置への電力供給を制御する。
しかし、多眼カメラにおける問題は消費電力だけではなく、カメラユニットの密集による熱ノイズの増加がある。多眼カメラにおいては、前述したような理由からカメラユニットを密集配置する必要があり、カメラユニットは互いに周囲に配置されたカメラユニットから熱の影響を受けて熱ノイズが増加する。
多眼カメラによって得られる画像の画質に最も大きな影響を与えるのは、多眼カメラの中心付近に配置されるカメラユニット(以下、センタカメラユニット)の画質である。しかし、センタカメラユニットの周囲には、多くのカメラユニットが配置され、センタカメラユニットの熱ノイズは増加し易い傾向にある。言い換えれば、多眼カメラにおいては、熱ノイズを抑制しつつ、できるだけ多くの光線情報を得ることが重要になる。
特開2009-202726号公報
R. Ng, M. Levoy, et al.「Light Field Photography with a Hand-Held Plenoptic Camera」Stanford University Computer Science Tech Report CSTR 2005-02、2005年4月
本発明は、撮影装置が有する複数の撮像手段の有効・無効を制御して、熱ノイズを抑制することを目的とする。
本発明は、前記の目的を達成する一手段として、以下の構成を備える。
本発明は、複数の撮像手段、および、前記複数の撮像手段のそれぞれに電力を供給する供給手段を有する撮影装置において、前記撮影装置の撮影モードおよび動作状態を判定し、前記撮影モード、前記動作状態、および、撮影シーンに含まれる被写体の撮影距離に基づき、前記複数の撮像手段のうち有効にする撮像手段を決定し、有効な撮像手段が撮影した画像データから前記被写体の撮影距離を推定し、前記動作状態が撮影準備状態から静止画撮影状態に遷移する場合、前記供給手段を制御して前記有効にすると決定された撮像手段を有効とし、前記動作状態がフレーミング状態の場合は前記複数の撮像手段の一つを有効にする撮像手段に決定し、前記推定した最小撮影距離に基づき前記撮影シーンの撮影において有効にする撮像手段を決定し、長時間露光による撮影において、互いに隣接する撮像手段が有効にならないように有効にする撮像手段を決定することを特徴とする。
本発明によれば、撮影装置が有する複数の撮像手段の有効・無効を制御して、熱ノイズを抑制することができる。
実施例の多眼方式の多視点撮影装置の概観を説明する概観図。 実施例の多眼カメラの構成例を説明するブロック図。 カメラユニットの配置例を示す図。 多眼カメラの状態遷移を説明する状態遷移図。 有効カメラユニットの決定方法を説明する図。 指針例に基づく有効カメラユニットの決定処理を説明するフローチャート。 撮影準備状態における処理例を説明するフローチャート。 撮影距離の決定を説明する図。 最短被写体距離によって有効カメラユニットを切り替える様子を説明する図。 カメラユニットのグループ管理を説明する図。 動画撮影状態における有効カメラユニットの配置の決定方法を説明するフローチャート。 距離推定処理を説明するフローチャート。 距離の計算を説明する図。 ズーミング操作に対応する有効カメラユニットの切り替えを説明する図。 撮影レンズの焦点距離によって有効カメラユニットを切り替える様子を説明する図。 ズーミング操作に対するカメラユニットのグループ管理を説明する図。 電子式防振を考慮した有効カメラユニットの決定方法を説明する図。
以下、本発明にかかる実施例の撮像装置とその制御方法を図面を参照して詳細に説明する。
[装置の概観]
図1の概観図により実施例の多眼方式の多視点撮影装置(以下、多眼カメラ)の概観を説明する。
図1(a)に示すように、多眼カメラ100の正面にはカメラユニット101を複数配置したカメラアレイが配置され、上部には撮影開始を指示するレリーズボタン106が配置されている。カメラユニット101はそれぞれ、撮影レンズ102、光学フィルタ103、撮像デバイス104、周辺回路105を備える。このようなカメラアレイによる同時撮影によって複数視点画像が得られる。
図1(b)に示すように、多眼カメラ100の側面には半導体メモリカードのような記録媒体を装着するメモリカードスロット113が配置されている。なお、メモリカードスロット113の代わりにUSBなどのシリアルバスインタフェイスを配置して、シリアルバスを介してハードディスクドライブなどの記憶装置を接続してもよい。
また、多眼カメラ100の背面には表示部107、十字状に配置されたキー群108、電源ボタン109、メニューボタン110、決定ボタン111、キャンセルボタン112などが配置されている。
なお、本実施例の多眼カメラ100は光学ファインダを備えないので、フレーミング操作(ピントや構図の確認)には表示部107に表示される画像を用いる。表示部107の表示画面には、撮影範囲をリアルタイムに表示するライブビュー表示、および、メニューボタン110が押された場合のカメラ設定メニュー表示などがある。なお、カメラ設定メニューが表示された状態でメニューボタン110が押されると、表示部107の表示画面はライブビュー表示に復帰する。
カメラ設定メニューが表示された状態において、ユーザは、設定項目を選択し、選択した設定項目の状態をキー群108を操作して変更し、決定ボタン111を押して変更を決定するか、キャンセルボタン112を押して変更をキャンセルする。カメラ設定メニューにより変更が可能な設定項目には、動画撮影・静止画撮影などの撮影モードの切り替え、絞り値、シャッタスピードなどがある。
以下の説明において、絞り値、シャッタスピード、ズーム位置は、カメラアレイを構成するカメラユニット101それぞれについてすべて同値に設定されるとして説明を行うが、カメラユニット101それぞれに異なる値を設定してもよい。また、撮影距離については、例えば表示部107のタッチスクリーンやキー群108を操作して指定される自動焦点(AF)測距枠に対応する被写体まで距離を算出し、算出した距離を全カメラユニット101の撮影距離に設定する。なお、被写体の距離推定処理の詳細は後述する。
[装置の構成]
図2のブロック図により実施例の多眼カメラの構成例を説明する。
ワンチップマイクロプロセッサ(CPU)200は、内蔵するROMなど格納された制御プログラムを実行して、各カメラユニット101が出力する画像データを画像処理するとともに、後述する各構成を制御して多眼カメラ100全体の動作を制御する。CPU200の制御対象には、LCDなどの表示部107の表示制御、表示部107のバックライトの制御、各カメラユニット101の電源制御などがある。
スイッチ206(SW1)とスイッチ207(SW2)の機能は撮影モードによって異なる。多眼カメラ100が静止画撮影モードにある場合、SW1は、レリーズボタン106を途中まで押し状態(半押状態)で閉になり、SW1が閉になると多眼カメラ100は撮影準備状態になる。また、SW2は、レリーズボタン106を最後まで押した状態(全押状態)で閉になり、SW2が閉になると多眼カメラ100は静止画の撮影を開始する。そして、撮影準備状態において決定した露光時間の経過後、多眼カメラ100は静止画の撮影を終了し、撮影した静止画を例えばメモリカードスロット113に装着された記録媒体214に格納する。
多眼カメラが動画撮影モードにある場合、SW1は機能せず、レリーズボタン106の全押状態でSW2が閉になり、SW2が閉になると多眼カメラ100は動画撮影(録画)を開始する。動画撮影を開始後、SW2が一旦開になり再び閉になると、多眼カメラ100は動画撮影を停止し、撮影した動画を例えばメモリカードスロット113に装着された記録媒体214に格納する。なお、動画撮影中は、ズーム操作によって撮影レンズ102の画角を変更することができる。
各カメラユニット101は、撮影レンズ102、光学フィルタ103、撮像デバイス104、周辺回路105などで構成される。周辺回路105には、制御部203、画像処理部204、カメラユニット101の電源部205などが含まれる。
制御部203は、撮影レンズ102の各種制御やシャッタ制御などを行う。例えば、撮影距離に合わせて撮影レンズ102を駆動する撮影距離制御、絞り値に合わせて撮影レンズ102内の絞りを駆動する絞り制御、露出時間に合わせて撮像デバイス104を駆動するシャッタ制御を行う。画像処理部204は、撮像デバイス104が出力する画像信号を処理した画像データをバッファメモリ210に転送する。画像処理部211は、バッファメモリ210に格納された画像データを用いて記録媒体214に格納する画像データの形式に応じた画像データを生成する。
電源制御部208は、詳細は後述するが、多眼カメラ100の状態に応じて各カメラユニット101の電源部205を制御する。
[カメラユニットの配置]
図3によりカメラユニット101の配置例を示す。図3において、矩形は各カメラユニット101を表し、矩形の並びは多眼カメラ100を正面から観た場合のカメラユニット101の配置例を表す。図3(a)から図3(c)に示すようなカメラユニット101の配置パターンが考えられる。以下では、多眼カメラ100のカメラユニット101の配置が図3(a)に示す配置パターンとして説明を行う。
[状態遷移]
図4の状態遷移図により多眼カメラ100の状態遷移を説明する。多眼カメラ100の動作状態は、電源ボタン109の操作により、スタンバイ状態S10とライブビュー状態S11の間を遷移する。
静止画撮影モードには、一般に、構図調整(フレーミング状態S11)、撮影準備状態S12(フォーカシング、露出決定)、静止画撮影状態S13があり、これら三状態を経るシーケンスによって画像が取得される。静止画撮影状態S13は、露光時間に着目すると、数秒未満の短時間露光と、長い場合には数分間露光する長時間露光に大別される。
一方、動画撮影モードにおいては、ライブビュー状態S11から録画を開始して動画撮影状態S14になり、その後、録画を終了してライブビュー状態S11に戻るシーケンスで動画データを取得することが多い。このようなシーケンスを経るため、動画の撮影開始時は、どの程度の時間露光されるかを判断することはできない。
そこで、本実施例においては、撮影モード、並びに、フレーミング、撮影準備、短時間露光の静止画撮影および長時間露光の静止画撮影(または動画撮影)の四つの状態を組み合わせた動作状態について、それぞれ異なる電源制御方法を採用する。
以後の説明において、電力を供給して有効にするカメラユニット101を「有効カメラユニット」、有効カメラユニット以外の省電力モードを設定するカメラユニット101を「無効カメラユニット」と呼ぶ。無効カメラユニットの撮像デバイス104、並びに、周辺回路105の主要部(制御部203、画像処理部204)には、電力を供給しないか、供給電力を最小限に抑制する。その結果、有効カメラユニットから出力される画像データのみがバッファメモリ210に転送される。
[有効カメラユニットの決定]
図5により有効カメラユニットの決定方法を説明する。
図5において、矩形および矩形の並びは、図3と同様に、各カメラユニット101とその配置を示す。また、白抜きの矩形は無効カメラユニットを、ハッチングした矩形は有効カメラユニットを示す。また、符号51はセンタカメラユニットを、符号52は距離推定用のカメラユニットの一例を示す。有効カメラユニットの決定は例えば次のように行う。
指針1(短時間露光の静止画撮影):撮影シーンに含まれる被写体のうち、多眼カメラ100に最も近い位置にある被写体と多眼カメラ100の距離(以下、最短被写体距離)に従い有効カメラユニットを決定する。なお、距離の推定は撮影準備の段階で実施する。
指針2(長時間露光の静止画撮影または動画撮影):隣接配置されたカメラユニット101は、同時に、有効カメラユニットにしない。さらに、多眼カメラ100の筐体温度に応じて有効カメラユニットの数を低減する。
図6のフローチャートにより指針例に基づく有効カメラユニットの決定処理を説明する。なお、CPU200は、動作モードおよび撮影シーケンスに対応するステータスフラグの値を判定して多眼カメラ100の動作状態を判定する。
CPU200は、多眼カメラ100の動作モードを判定する(S601)。動画撮影モードの場合は、多眼カメラ100がライブビュー状態S11にあるか、動画撮影状態S14にあるかを判定する(S602)。そして、ライブビュー状態S11にある場合はセンタカメラユニット51のみを有効カメラユニットにする(S605)。また、動画撮影状態にある場合は指針2に適合するカメラユニット101を有効カメラユニットにする(S606)。
一方、静止画撮影モードの場合、CPU200は、多眼カメラ100がライブビューまたはフレーミング状態S11、撮影準備状態S12、静止画撮影状態S13の何れにあるかを判定する(S603)。そして、ライブビューまたはフレーミング状態S11にある場合は、センタカメラユニット51のみを有効カメラユニットにする(S605)。また、撮影準備状態S12にある場合はカメラユニット101の一部であるセンタカメラユニット51および距離推定用のカメラユニット52を有効カメラユニットにする(S608)。
静止画撮影状態S13にある場合、CPU200は、露光時間の長さを判定し(S604)、露光時間が閾値(例えば三秒間)以下の場合は短時間露光の静止画撮影として指針1に適合するカメラユニット101を有効カメラユニットにする(S607)。また、露光時間が閾値を超える場合は長時間露光による静止画撮影として指針2に適合するカメラユニット101を有効カメラユニットにする(S606)。
そして、CPU200は、多眼カメラ100の状態が遷移したか否かを判定し(S609)、状態が遷移すると処理をステップS601に戻す。
以下では、有効カメラユニットの決定方法の詳細を説明する。
●フレーミング(ライブビュー)状態
フレーミング(ライブビュー)状態S11において、CPU200は、センタカメラユニット51のみを有効カメラユニットにして、センタカメラユニット51によって取得した画像データが表す画像を表示部107に表示する。このようにすれば、消費電力が少なく、複雑な処理を必要としないので遅延の少ないライブビュー画像を表示することができる。
●撮影準備状態
撮影準備状態S12において、CPU200は、撮影距離、ホワイトバランスおよび露出を決定し、最短被写体距離を推定する。図7のフローチャートにより撮影準備状態S12における処理例を説明する。
CPU200は、センタカメラユニット51および距離推定用のカメラユニット52を有効カメラユニットにする(S701)。そして、有効カメラユニットによって取得した画像データを、バッファメモリ210と画像処理部211を介して、距離推定部215へ転送する(S702)。
CPU200は、距離推定部215を制御して、有効カメラユニットによって取得した画像データから推定した距離マップを生成させる(S703)。そして、距離マップを参照して、有効カメラユニットに設定する撮影距離を決定し(S704)、短時間撮影の場合に必要になる最短被写体距離を決定する(S705)。さらに、露出(シャッタ速度や絞り値など)を決定し(S706)、画質パラメータ(ホワイトバランスなど)を決定する(S707)。
図8により撮影距離の決定を説明する。CPU200は、距離マップ81にユーザが指定するAF測距枠82を重ねて、AF測距枠82に対応する領域83を抽出し、領域83内の距離情報を用いて撮影距離を決定する。例えば、AF測距枠82に対応する領域83内の距離情報の平均値を撮影距離に決定する。また、CPU200は、距離マップ81から最短距離を取得して最短被写体距離にする。
●静止画撮影状態
静止画撮影状態S13において、CPU200は、撮影準備状態S12において決定した露光時間に応じて有効カメラユニットを決定する。長時間露光の場合は、後述する動画撮影状態S14と同様の方法で有効カメラユニットを決定する。また、短時間露光の場合は、最短被写体距離によって有効カメラユニットを切り替える。
図9により最短被写体距離によって有効カメラユニットを切り替える様子を説明する。なお、図9はカメラユニット101の最短撮影距離が0.1mの場合の一例を示す。
被写体が多眼カメラ100のすぐ近く、例えば10cm程度の距離に存在する場合、センタカメラユニット51と外周に配置されたカメラユニット(以下、外周カメラユニット)の被写体に対するパララックスが大きくなる。さらに、外周カメラユニットがカバーする撮影範囲に主要な被写体が含まれない可能性がある。
そこで、図9に示すように、最短被写体距離が小さい場合は、外周カメラユニットを無効カメラユニットにする。図9は、最短被写体距離が0.1m-0.13mの場合は外周カメラユニットを無効カメラユニットにし、0.13m-0.2mの場合は最外周のカメラユニットを無効カメラユニットにするように、段階的に外周のカメラユニットを無効にする例を示す。
逆に、撮影シーンに含まれる被写体が多眼カメラ100から充分に離れた(例えば5m以上)場所にしか存在しない場合、複数のカメラユニット101によって得られる視差は非常に小さくなる。言い換えれば、センタカメラユニット51と、その周囲のカメラユニットとの間の視差は僅かであり、周囲のカメラユニットによって画像データを取得する意味は無い。そこで、図9に示すように、センタカメラユニット51および最外周のカメラユニットを有効カメラユニットにする。また、図9は、最短被写体距離0.2m-5mの場合はすべてのカメラユニットを有効カメラユニットにする例を示す。
図10によりカメラユニットのグループ管理を説明する。図10(a)に一例を示すように、各カメラユニット101を中央部に配置されたA群、外周部に配置されたB群とC群に区分し、とくに最外周に配置されたカメラユニットをC群に区分する。
図10(b)は各グループの有効・無効を示すテーブルで、電源制御部208は、CPU200から入力される指示および最短被写体距離、並びに、図10(b)に示すテーブルに従い、各カメラユニット101の電源部205の動作を制御する。
このように、最短被写体距離に基づき有効カメラユニットを切り替えることで、消費電力を削減するだけでなく、画像データ量の適切な削減が可能になる。
●動画撮影状態(長時間露光)
動画撮影状態S14においては長時間露光になる可能性が高い。そこで、図5に示すように、通常時は、隣接するカメラユニット同士が同時に有効にしないように、有効カメラユニットを市松模様(チェッカボード)状に配置する(以下、通常時設定)。このような配置にすれば、隣接するカメラユニットの発熱の影響を低減して、充分な視差画像を取得することができる。
また、動画撮影状態S14においては撮影時間が連続して非常に長くなる可能性がある。さらに、長時間の連続撮影によって温度上昇した多眼カメラ100の筐体温度が低下する前に、次の動画撮影が開始される可能性がある。そこで、筐体温度が高い(例えば40℃以上)場合は、図5に示すように、高温時の有効カメラユニットの配置を用意する(以下、高温時設定)。つまり、電源制御部208は、図5に示す通常時および高温時の有効カメラユニットの配置パターンを備え、CPU200の指示に応じて配置パターンを切り替える。
図11のフローチャートにより動画撮影状態S14における有効カメラユニットの配置の決定方法を説明する。CPU200は、多眼カメラ100の筐体の適切な箇所に配置された温度センサ213から温度を取得し(S201)、取得した温度が閾値(例えば40℃)以上か否かを判定する(S202)。そして、閾値以上の場合は高温時設定を電源制御部208に指示し(S203)、閾値未満の場合は通常設定を電源制御部208に指示する(S204)。
なお、筐体温度ではなく、例えば各カメラユニット101の撮像デバイス104の温度を取得し、撮像デバイス104の例えば温度の平均値または重み付き平均値に基づき有効カメラユニットの配置パターンを決定してもよい。重みは、例えば、外周部から中心に向かって大きくなるようにすればよい。また、多眼カメラ100の図示しないバッテリの残量に基づき有効カメラユニットの配置パターンを決定してもよい。
[距離推定処理]
距離推定処理は、多眼カメラ100で撮影した複数視点画像を基に、撮影したシーンの距離を推定して距離マップ(デプス画像)を生成する。距離推定方法にはステレオ法、マルチベースラインステレオ法などがあるが、本実施例ではステレオ法による距離推定を行う。図12のフローチャートにより距離推定処理を説明する。
距離推定部215は、CPU200が複数視点画像から選択した二つの画像を入力する(S301)。CPU200は、例えば、センタカメラユニット51が撮影した画像(以下、基準画像)と、距離推定用のカメラユニット52のうち任意の一台が撮影した画像(以下、対応画像)を、距離の推定に使用する二つの画像として選択する。
次に、距離推定部215は、基準画像の例えば原点に注目画素を設定し(S302)、注目画素とその周囲画素を含む注目領域を設定する(S303)。そして、注目領域と対応画像の間でブロックマッチングを行って、注目画素に対応する対応画像の画素(対応画素)を決定する(S304)。
次に、距離推定部215は、対応画像を撮影したカメラユニット52の画角やセンタカメラユニット51からの相対位置などを示す撮像装置情報、および、注目画素と対応画素に基づき、注目画素に対応する距離pを計算する(S305)。
図13により距離pの計算を説明する。角度αは、センタカメラユニット51の水平画角、基準画像の撮像位置、注目画素の座標から算出される。角度βは距離推定用のカメラユニット52の水平画角、対応画像の撮像位置、対応画素の座標から算出される。距離sは、センタカメラユニット51とカメラユニット52の距離であり、基準画像と対応画像の撮像位置から算出される。被写体53との距離pは次式によって計算される。
p = {sinα・sinβ/sin(π-α-β)}s …(1)
次に、距離推定部215は、基準画像の全画素に対応する距離pを計算したか否かを判定し(S306)、未計算の画素があれば注目画素を移動して(S307)、処理をステップS303に戻す。また、基準画像の全画素に対応する距離pを計算した場合は、各画素に対応する距離pを画素値に対応させた距離マップを生成する(S308)。
[ズーミング操作]
図14によりズーミング操作に対応する有効カメラユニットの切り替えを説明する。
動画撮影や長時間露光による静止画撮影において高温時設定になると、有効カメラユニットを間引いた状態になる。この状態でズーミング操作により画角を狭めると、図14に示すように、各カメラユニットの撮影範囲の重複領域が小さくなり、充分な視差が得られない場合がある。従って、多眼カメラ100がズーム機能を有する場合、画角に応じて有効カメラユニットの配置を制御することが好ましい。
図15により撮影レンズ102の焦点距離によって有効カメラユニットを切り替える様子を説明する。なお、図15は撮影レンズ102の焦点距離が28mmから300mm(35mm換算時)の場合の一例を示す。
つまり、高温時設定においては、焦点距離が28mm-50mmは高温時設定の配置パターンを使用し、焦点距離が50mm-100mmは通常時の配置パターンを使用し、焦点距離が100mmを超える場合は全カメラユニットを有効にする。
図16によりズーミング操作に対するカメラユニットのグループ管理を説明する。図16(a)に一例を示すように、各カメラユニット101を市松模様状にD群、E群、G群に区分する。図16(b)は通常時と高温時における、焦点距離と各グループの有効・無効を示すテーブルである。電源制御部208は、CPU200から入力される指示および焦点距離、並びに、図16(b)に示すテーブルに従い、各カメラユニット101の電源部205の動作を制御する。
このように、焦点距離に基づき有効カメラユニットを切り替えることで、ズーミング操作に伴い撮影範囲の重複領域が減る問題に適切に対処することができる。
[電子式防振]
以下では、動画撮影に用いられる電子式防振の有効/無効に応じた有効カメラユニットの切り替えを説明する。
電子式防振は、一般に、フレーム間の差異が小さくなるように位置を合わせ、フレーム間で重複しない画像部分をカットして、見掛け上、振れが少ない映像を取得する技術である。このような仕組みで振れを抑制するため、電子式防振処理を行う場合は、本来撮影すべき領域よりも広い画角の画像を取得する必要がある。
図17により電子式防振を考慮した有効カメラユニットの決定方法を説明する。図17に示すように、電子式防振処理を行う場合は外周カメラユニット(図10(a)に示すグループB、C)を有効カメラユニットにする。つまり、CPU200は、電子式防振処理の設定状態を判定して、メニュー操作により電子式防振処理の実行が設定されている場合は、外周カメラユニットを有効カメラユニットに加えて、より広い画角の撮影を行う。従って、良好な電子式防振処理が可能になる。
このように、多眼カメラ100の状態に応じて、各カメラユニット101の電源部205を制御し、有効カメラユニットを切り替える。従って、カメラユニット101の発熱を抑え、多眼カメラ100における熱ノイズを抑制しつつ、できるだけ多くの光線情報を得て、好適な多視点画像を得ることが可能になる。その結果、より高品位な撮影画像を得ることができる。
[その他の実施例]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステムあるいは装置のコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (7)

  1. 複数の撮像手段を有する撮影装置であって、
    前記複数の撮像手段のそれぞれに電力を供給する供給手段と、
    前記撮影装置の撮影モードおよび動作状態を判定する判定手段と、
    前記撮影モード、前記動作状態、および、撮影シーンに含まれる被写体の撮影距離に基づき、前記複数の撮像手段のうち有効にする撮像手段を決定する決定手段と、
    有効な撮像手段が撮影した画像データから前記被写体の撮影距離を推定する推定手段と、
    前記動作状態が撮影準備状態から静止画撮影状態に遷移する場合、前記供給手段を制御して前記有効にすると決定された撮像手段を有効にする制御手段とを有し、
    前記決定手段は、前記動作状態がフレーミング状態の場合は前記複数の撮像手段の一つを有効にする撮像手段に決定し、前記推定手段が推定した最小撮影距離に基づき前記撮影シーンの撮影において有効にする撮像手段を決定し、長時間露光による撮影において、互いに隣接する撮像手段が有効にならないように有効にする撮像手段を決定することを特徴とする撮影装置。
  2. 前記供給手段は、前記有効にする撮像手段の外の撮像手段に対して電力を供給しないか、供給電力を最小限に抑制することを特徴とする請求項1に記載された撮影装置。
  3. 複数の撮像手段を有する撮影装置であって、
    前記複数の撮像手段のそれぞれに電力を供給する供給手段と、
    前記撮影装置の温度を取得する手段と、
    前記撮影装置の動作状態を判定する判定手段と、
    前記温度および前記動作状態に基づき、前記複数の撮像手段のうち有効にする撮像手段を決定する決定手段と、
    前記動作状態がライブビュー状態から動画撮影状態に遷移する場合、前記供給手段を制御して前記有効にすると決定された撮像手段を有効にする制御手段とを有し、
    前記決定手段は、前記動作状態が前記ライブビュー状態の場合は前記複数の撮像手段の一つを有効にする撮像手段に決定し、前記温度に基づき動画撮影において有効にする撮像手段を決定することを特徴とする撮影装置。
  4. さらに、前記複数の撮像手段の焦点距離を取得する手段を有し、
    前記決定手段は、前記温度および前記焦点距離に基づき、前記動画撮影において有効にする撮像手段を決定することを特徴とする請求項3に記載された撮影装置。
  5. 前記決定手段は、前記温度および前記撮影装置の電子式防振処理の設定状態に基づき、前記動画撮影において有効にする撮像手段を決定することを特徴とする請求項3に記載された撮影装置。
  6. 複数の撮像手段、および、前記複数の撮像手段のそれぞれに電力を供給する供給手段を有する撮影装置の制御方法であって、
    判定手段が、前記撮影装置の撮影モードおよび動作状態を判定し、
    決定手段が、前記撮影モード、前記動作状態、および、撮影シーンに含まれる被写体の撮影距離に基づき、前記複数の撮像手段のうち有効にする撮像手段を決定し、
    推定手段が、有効な撮像手段が撮影した画像データから前記被写体の撮影距離を推定し、
    前記動作状態が撮影準備状態から静止画撮影状態に遷移する場合、制御手段が、前記供給手段を制御して前記有効にすると決定された撮像手段を有効とし、
    前記決定手段は、前記動作状態がフレーミング状態の場合は前記複数の撮像手段の一つを有効にする撮像手段に決定し、前記推定手段が推定した最小撮影距離に基づき前記撮影シーンの撮影において有効にする撮像手段を決定し、長時間露光による撮影において、互いに隣接する撮像手段が有効にならないように有効にする撮像手段を決定することを特徴とする制御方法。
  7. 複数の撮像手段、前記複数の撮像手段のそれぞれに電力を供給する供給手段、温度センサを有する撮影装置の制御方法であって、
    取得手段が、前記温度センサから前記撮像装置の温度を取得し、
    判定手段が、前記撮影装置の動作状態を判定し、
    決定手段が、前記撮像装置の温度および前記動作状態に基づき、前記複数の撮像手段のうち有効にする撮像手段を決定し、
    前記動作状態がライブビュー状態から動画撮影状態に遷移する場合、制御手段が、前記供給手段を制御して前記有効にすると決定された撮像手段を有効とし、
    前記決定手段は、前記動作状態が前記ライブビュー状態の場合は前記複数の撮像手段の一つを有効にする撮像手段に決定し、前記温度に基づき動画撮影において有効にする撮像手段を決定することを特徴とする制御方法。
JP2011125712A 2011-06-03 2011-06-03 撮影装置およびその制御方法 Expired - Fee Related JP5725979B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011125712A JP5725979B2 (ja) 2011-06-03 2011-06-03 撮影装置およびその制御方法
US13/470,610 US8810683B2 (en) 2011-06-03 2012-05-14 Method of controlling image capturing based on a distance to an object

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011125712A JP5725979B2 (ja) 2011-06-03 2011-06-03 撮影装置およびその制御方法

Publications (3)

Publication Number Publication Date
JP2012253626A JP2012253626A (ja) 2012-12-20
JP2012253626A5 JP2012253626A5 (ja) 2014-06-26
JP5725979B2 true JP5725979B2 (ja) 2015-05-27

Family

ID=47261406

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011125712A Expired - Fee Related JP5725979B2 (ja) 2011-06-03 2011-06-03 撮影装置およびその制御方法

Country Status (2)

Country Link
US (1) US8810683B2 (ja)
JP (1) JP5725979B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9936131B2 (en) * 2012-07-18 2018-04-03 Nokia Technologies Oy Robust two dimensional panorama generation using light field camera capture
CN102868850B (zh) * 2012-08-16 2015-10-14 浙江宇视科技有限公司 一种摄像机加热装置
JP6214178B2 (ja) * 2013-01-25 2017-10-18 キヤノン株式会社 撮像装置、クライアント装置、撮像システム、撮像装置の制御方法、クライアント装置の制御方法、および撮像システムの制御方法
US9686471B2 (en) * 2013-11-01 2017-06-20 Light Labs Inc. Methods and apparatus relating to image stabilization
JP2017060008A (ja) * 2015-09-16 2017-03-23 キヤノン株式会社 多視点画像符号化装置、多視点画像符号化方法およびプログラム
CN108781257B (zh) * 2016-03-11 2020-09-11 富士胶片株式会社 摄像装置
JP6808357B2 (ja) * 2016-05-25 2021-01-06 キヤノン株式会社 情報処理装置、制御方法、及び、プログラム
JP6779139B2 (ja) * 2017-01-11 2020-11-04 キヤノン株式会社 制御装置、制御方法
JP7180074B2 (ja) * 2017-01-31 2022-11-30 株式会社リコー 撮像装置
CN107426416B (zh) * 2017-06-23 2021-01-15 Oppo广东移动通信有限公司 一种降低温升的方法、计算机可读存储介质、移动终端
CN108334862A (zh) * 2018-03-02 2018-07-27 中控智慧科技股份有限公司 一种虹膜识别系统及其虹膜识别方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0862483A (ja) * 1994-08-19 1996-03-08 Canon Inc 複眼カメラシステム
US5926218A (en) * 1996-06-04 1999-07-20 Eastman Kodak Company Electronic camera with dual resolution sensors
JPH11103472A (ja) * 1997-09-26 1999-04-13 Canon Inc 撮影方法及び装置
JP2000201288A (ja) 1999-01-06 2000-07-18 Olympus Optical Co Ltd 電子カメラ
JP2002094862A (ja) 2000-09-12 2002-03-29 Chinon Ind Inc 撮像装置
US6661500B1 (en) * 2002-03-15 2003-12-09 National Semiconductor Corporation Integrated range finder and imager
JP4587461B2 (ja) 2005-01-28 2010-11-24 キヤノン株式会社 画像編集装置及びその制御方法
DE102005045993B4 (de) * 2005-07-29 2008-11-13 Gerd Reime Verfahren zur Lichtlaufzeitmessung
JP5002931B2 (ja) 2005-09-16 2012-08-15 カシオ計算機株式会社 撮像装置及びそのプログラム
JP2007110499A (ja) * 2005-10-14 2007-04-26 Fujifilm Corp 複眼式撮影装置
US20070088488A1 (en) * 2005-10-14 2007-04-19 Reeves Michael J Vehicle safety system
JP5262181B2 (ja) 2008-02-27 2013-08-14 株式会社ニコン 車載カメラシステムおよびその電源制御方法。
WO2011052064A1 (ja) * 2009-10-30 2011-05-05 キヤノン株式会社 情報処理装置および方法
US8514322B2 (en) * 2010-06-16 2013-08-20 Aptina Imaging Corporation Systems and methods for adaptive control and dynamic range extension of image sensors

Also Published As

Publication number Publication date
JP2012253626A (ja) 2012-12-20
US8810683B2 (en) 2014-08-19
US20120307092A1 (en) 2012-12-06

Similar Documents

Publication Publication Date Title
JP5725979B2 (ja) 撮影装置およびその制御方法
US20130113892A1 (en) Three-dimensional image display device, three-dimensional image display method and recording medium
JP5788518B2 (ja) 単眼立体撮影装置、撮影方法及びプログラム
JP5267421B2 (ja) 撮像装置、および画像処理方法、並びにプログラム
US20130141539A1 (en) Monocular stereoscopic imaging device
JP5833254B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP2012186612A (ja) 撮像装置
JP5449551B2 (ja) 画像出力装置、方法およびプログラム
US20110025824A1 (en) Multiple eye photography method and apparatus, and program
JP2010226362A (ja) 撮像装置及びその制御方法
JP5611469B2 (ja) 立体撮像装置および方法
JP2014036362A (ja) 撮像装置、その制御方法、および制御プログラム
JP5580486B2 (ja) 画像出力装置、方法およびプログラム
JP5366693B2 (ja) 撮像装置、撮像装置の制御方法、及びコンピュータプログラム
JP2013085239A (ja) 撮像装置
JP2012134680A (ja) 撮像装置
KR20120068696A (ko) 촬상 장치 및 촬상 방법
JP5860251B2 (ja) 撮像装置及びその制御方法、プログラム
JP2011146825A (ja) ステレオ画像撮影装置およびその方法
JP6355324B2 (ja) 撮像装置およびその制御方法
JP2015139018A (ja) 電子機器及び制御プログラム
JP5848536B2 (ja) 撮像装置及び画像生成装置、及びそれらの制御方法、プログラム、及び記録媒体
JP5638941B2 (ja) 撮像装置および撮像プログラム
JP5963617B2 (ja) 撮像装置、その制御方法およびプログラム
JP2015154254A (ja) 電子機器及び制御プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140512

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140512

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150114

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150302

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150331

LAPS Cancellation because of no payment of annual fees