JP2017220834A - 撮像装置、撮像方法およびプログラム - Google Patents

撮像装置、撮像方法およびプログラム Download PDF

Info

Publication number
JP2017220834A
JP2017220834A JP2016114805A JP2016114805A JP2017220834A JP 2017220834 A JP2017220834 A JP 2017220834A JP 2016114805 A JP2016114805 A JP 2016114805A JP 2016114805 A JP2016114805 A JP 2016114805A JP 2017220834 A JP2017220834 A JP 2017220834A
Authority
JP
Japan
Prior art keywords
imaging
measurement
unit
image
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016114805A
Other languages
English (en)
Other versions
JP6672082B2 (ja
Inventor
松本 如弘
Yukihiro Matsumoto
如弘 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016114805A priority Critical patent/JP6672082B2/ja
Publication of JP2017220834A publication Critical patent/JP2017220834A/ja
Application granted granted Critical
Publication of JP6672082B2 publication Critical patent/JP6672082B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Stereoscopic And Panoramic Photography (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 パノラマ撮像を行う際に、ユーザに煩わしさを感じさせることなく、局所的ではない範囲に対応した撮像パラメータを設定することできる撮像装置を提供する。【解決手段】 パノラマ撮像モードにおいて、撮像手段が第1の方向に移動している間に測定を行い、この測定の結果に基づいて撮像パラメータを決定し、撮像手段が第1の方向と異なる第2の方向に沿って移動する間に決定された撮像パラメータを用いて、パノラマ用の複数の画像を撮像するものであって、測定を行う際の撮像手段の撮像範囲が、パノラマ合成用の複数の画像の撮像範囲の少なくとも一部と重複することを特徴とする。【選択図】 図3

Description

本発明は、複数の画像を撮像して合成するパノラマ撮像の機能に関するものである。
撮像装置を移動させながら複数の画像を取得し、取得した画像をつなぎ合わせることで合成し、大きな画像を生成するパノラマ撮像の機能が知られている。複数の画像を合成することにより、より大きな画像を生成することができるが、合成に用いる各々の画像の撮像設定が異なると、つなぎ目の両側の明るさや色調などが異なり、不自然なパノラマ画像を生成してしまう可能性がある。
そこで、パノラマ撮像を行う際のAFやAEなどの撮像パラメータを固定することが知られている。ただし、パノラマ撮像で得られた画像は画角が広いため、状況の異なる様々な被写体が画角に含まれやすくなる。そのため、1回の撮像で得られた画像から撮像パラメータを決定してしまうと、局所的な領域に対してのみ適切な撮像パラメータとなってしまい、合成された画像全体が不自然な明るさやピント状態となってしまうことがある。
上記の課題を解決するために、特許文献1に、直接パノラマ画像の合成に用いる画像を取得する本撮像の前に、プレ撮像して広い範囲の被写体の画像信号を取得し、取得した画像信号に基づいて本撮像の撮像パラメータを決定する方法が開示されている。
特開2013−162188号公報
しかし、特許文献1に記載の方法は、ユーザが意識的に本撮像と同じ方向で同じ撮像範囲のパンニング動作を本撮像の前に行わなければならず、ユーザにとって操作が煩雑となる。そのため、本撮像の前に、ユーザに煩わしさを感じさせることなく、かつ、局所的ではない範囲に対応した撮像パラメータを設定できる方法が求められる。
本発明は、撮像を行う撮像手段と、測定手段と、前記測定手段による測定の結果に基づいて前記撮像手段が撮像する際の撮像パラメータを決定する決定手段と、を有し、パノラマ撮像モードにおいて、前記測定手段は、前記撮像手段が第1の方向に移動している間に、少なくとも第1の測定を行い、前記決定手段は、前記第1の測定の結果に基づいて、前記撮像パラメータを決定し、前記撮像手段は、前記第1の方向と異なる第2の方向に沿って移動する間に、前記決定手段で決定された撮像パラメータを用いて、パノラマ合成用の複数の画像を撮像し、前記第1の測定を行う際の前記撮像手段の撮像範囲は、前記パノラマ合成用の前記複数の画像の撮像範囲の少なくとも一部と重複することを特徴とする撮像装置を提供するものである。
本発明によれば、パノラマ撮像を行う際に、ユーザに煩わしさを感じさせることなく、局所的ではない範囲に対応した撮像パラメータを設定することできる。
本発明におけるデジタルカメラの機能構成を説明するための図である。 本発明におけるパノラマ撮像でのユーザの動きを説明するための図である。 第1の実施形態のパノラマ撮像のプロセスを説明するためのフローチャートである。 本発明におけるベクトル抽出を説明するための図である。 本発明における位置合わせを説明するための図である。 本発明における合成処理を説明するための図である。 第2の実施形態のパノラマ撮像のプロセスを説明するためのフローチャートである。 第3の実施形態のパノラマ撮像のプロセスを説明するためのフローチャートである。 第4の実施形態のパノラマ撮像のプロセスを説明するためのフローチャートである。 第5の実施形態のパノラマ撮像のプロセスを説明するためのフローチャートである。 デジタルカメラを水平方向だけでなく垂直方向にも動かして、パノラマ撮像を行う例を説明するための図である。
以下では、デジタルカメラを例として、本発明の実施に好ましい実施形態を説明する。なお、デジタルカメラを挙げて説明するが、本発明は以下で説明される構成に限定されるものではない。
(第1の実施形態)
図1は、本発明の実施形態に係るデジタルカメラ100の機能構成を示すブロック図である。制御部101は、例えばCPUやMPUなどのシグナルプロセッサである。制御部101は、デジタルカメラ100が備える各ブロックの動作プログラムをROM102より読み出し、RAM103に展開して実行することによりデジタルカメラ100が備える各ブロックの動作を制御する。ROM102は、記録媒体としての書き換え可能な不揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作プログラムに加え、各ブロックの動作に必要なパラメータ等を記憶する。制御部101は、ROM102から動作プログラムなど、制御に必要なパラメータなどを読み出しながらデジタルカメラ100の動作上に必要な制御を行う。たとえば、後述するように、制御部101が、撮像部105に対して撮像の開始と終了について指令を出す。または、画像処理部106に対して、予めの設定に基づいて、画像処理の指令を出す。RAM103は、書き換え可能な揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作において出力されたデータの一時的な記憶領域として用いられる。
光学系104は、被写体像を撮像部105に結像する。撮像部105は、例えばCCDやCMOSセンサ等の撮像素子であり、光学系104により撮像素子に結像された光学像を光電変換し、得られた画像信号を画像処理部106に出力する。また、制御部101が光学系104を動かしながら、画像信号の変化を分析することにより測距を行い、測距の結果に基づいて光学系104を制御することで、焦点調整を行うことができる。
画像処理部106は、撮像部105から出力された画像、あるいはRAM103に記憶されている画像データに対して、ホワイトバランス調整、色補間、フィルタリングなど、様々な画像処理を適用する。この画像処理部106は、特定の処理を行う回路を集めた集積回路(ASIC)で構成される。あるいは、制御部101がROM102から読み出したプログラムに従って処理することで、制御部101が画像処理部106の機能の一部または全部を兼用するようにしてもよい。制御部101が画像処理部106の全ての機能を兼用する場合には、画像処理部106をハードウェアとして有する必要はなくなる。
内蔵メモリ107は、画像処理部で処理された画像を記録する。なお、内蔵メモリの代わりに、メモリカードなどを用いてもよい。また、制御部101による指示で、処理しようとする画像を画像処理部106に出力する。
表示部108は、液晶ディスプレイ(LCD)や有機ELディスプレイ等の表示デバイスより構成される。表示部108は、撮像部105で取り込まれた被写体像を、制御部101を経由して取得し、リアルタイムに表示する、あるいは内蔵メモリ107に記録された画像を表示するなど、様々な情報を表示する。
装置動き検出部109はジャイロセンサによって構成され、デジタルカメラ100の動きを検出するデバイスであり、デジタルカメラ100の単位時間当たりの角度変化、すなわち角速度に基づいてヨー方向とピッチ方向の動きを検出する。なお、ジャイロセンサの代わりに画像の動きベクトルに基づきデジタルカメラの動きを検出してもよい。
操作部110には、スイッチやボタン、タッチパネルなどを設け、ユーザが操作部へ直接操作することにより、デジタルカメラへの制御を実現する。本発明では、スイッチSW−1とスイッチSW−2と2つを設け、たとえば、デジタルカメラの撮像のボタンの半押し状態と全押し状態とがスイッチSW−1とスイッチSW−2に対応付けられている。
図2は、操作部110を操作してパノラマ撮像モードを選択し、パノラマ撮像を行うときのユーザの動きを示している。領域201〜203は、以下の説明をわかりやすくするために示した領域であり、必ずしも独立な被写体などを意味するわけでない。以下では、ユーザがパノラマ撮像の本撮像をするとき、ユーザが矢印212と矢印213とに沿って、左から右へパンニング動作をすると仮定し、本実施形態におけるパンニング動作を詳細に説明する。
静止画撮像では、主要な被写体にピントを合わせるため、主要な被写体が画角の中央に配置されるようにカメラを移動させた状態で測距を行い、それから任意の画角となるようにカメラの位置をシフトさせる方法が知られている。そこで、本実施形態においても、デジタルカメラ100がパノラマ撮像の本撮像(パノラマ合成用の複数画像の撮像)の前の期間に、測距を行う構成としている。こうすることで、パノラマ撮像の範囲に含まれる主要な被写体に対して測距を行い、この主要な被写体に対して確実にピントを合わせた合成画像を得ることができるようにしている。たとえば、図2において、ユーザは最初にデジタルカメラを主要な被写体を含む領域202に向けて測距を行い、その後、デジタルカメラをパノラマ撮像の開始位置である領域201に向くように移動する。それから、ユーザがカメラの撮像方向を反転させ、矢印212と矢印213とに沿って右方向へパンニング動作が行われている間に、パノラマ撮像を行う。
本実施形態では、領域202に対して測距を行った後の、パノラマ撮像の開始位置である領域201に向かって矢印211に沿ってデジタルカメラ100をパンニングしている間に、デジタルカメラ100が複数回にわたって測光を行うことを特徴とする。ユーザにとってみれば、主要な被写体に対して予め測距を行い、それからパノラマ撮像の開始位置まで、パノラマ撮像時のパンニング動作に対して逆の方向にパンニング動作を行うことは自然な操作であるため、ユーザに与える煩わしさは大幅に低減される。また、このパノラマ撮像の開始位置に向かうパンニング動作中に得られた複数の画像の画角(撮像範囲)は、パノラマ撮像の本撮像で得られる一部の画像の画角(撮像範囲)とおおよそ重複する。そのため、パノラマ撮像の開始位置に向かうパンニング動作中に得られた複数の画像に対して測光を行うことで、パノラマ撮像の全範囲とまではいかないが、パノラマ撮像に含まれる比較的広い範囲に対して測光を行うことができる可能性が高くなる。
次に、第1の実施形態でパノラマ撮像のプロセスについて、図3のフローチャートを用いて詳細に説明する。
まず、ステップS301で、ユーザが操作部110を操作することによって入力したパノラマ撮像のパンニング方向を、制御部101がパノラマ撮像の正方向としてRAM103に記憶させる。ここでは、ユーザがパノラマ撮像の際のパンニング方向を選択できる構成としているが、この正方向が予め固定されており、ユーザが任意のパンニングの方向を選択できない構成であってもよい。ステップS302で、制御部101はスイッチSW−1がONであることを検出できたら、ステップS303に進む。制御部101はSW−1がONになるまではこのステップS302を繰り返す。ステップS303で、制御部101が光学系104と撮像部105を用いて、焦点検出のための測距を行う。
次に、ステップS304で、装置動き検出部109がステップS301で設定した正方向の逆方向へパンニング動作しているかどうかを判定する。パノラマ撮像の開始位置に向かうパンニング動作中に得られたデジタルカメラ100が取得した画像の画角が、パノラマ撮像の本撮像で取得した画像の画角に含まれなければ、このパンニング動作中に得られた測光結果を用いる意味はない。これを踏まえると、正方向と逆方向へ移動するパンニング動作において、正方向と垂直な方向における画角の位置のずれがないことが理想的である。しかし、垂直な方向における画角の位置ずれを完全にゼロにすることが難しいため、一定の許容範囲を設けるべく、次のような処理をする。まず、予め正方向と垂直な方向において変位ベクトルのベクトル成分の閾値を定める。装置動き検出部109が検出したデジタルカメラの変位ベクトルの正方向におけるベクトル成分がマイナス、かつ、正方向と垂直な方向におけるベクトル成分の総和が閾値以下であれば、逆方向へパンニング動作をしていると判断する。または、装置動き検出部109が検出したデジタルカメラの変位ベクトルとステップS301で設定した正方向に沿うベクトルとがなす角度を検出し、検出した角度が所定範囲内であれば、逆方向へパンニング動作をしていると判断する。なお、この所定範囲は正方向0度に対して逆方向である180度を基準として、誤差の絶対値が実験的に求めたα以下となる範囲である。
なお、このとき、ユーザが正方向0度に対して逆方向である180度となる方向から大きく外れた方向にデジタルカメラ100を動かしてしまうことを防止するため、ユーザがデジタルカメラ100を動かすべき方向を表示部108に表示するようにしてもよい。あるいは、ユーザが正方向0度に対して逆方向である180度となる方向から大きく外れた方向にデジタルカメラ100を動かした場合に、表示部108にその旨を表示したり、不図示のスピーカから音声でその旨を報知するように構成してもよい。
ステップS305では、制御部101は、撮像部105で生成され画像処理部106に入力された画像信号を用いて測光を行う。その一例として、制御部101が画像信号を用いて画面の明るさの評価値を算出する方法について説明する。
制御部101は、画像処理部106に入力された画像信号を複数のブロックに分割する。1つ1つのブロックに対し、各ブロックの輝度信号の平均値の算出を行う。各々のブロックに含まれる各画素の輝度信号の算出方法として、R、G、B信号値を抽出し、式(1)で示した変換式を用いて、R、G、B信号値から各画素の輝度信号Bcyを算出する方法が一般的に使われている。
Bcy=0.299R+0.587G+0.114B ・・・式(1)
全ブロック数をn、各ブロックで得られた輝度信号Bcyの平均値をBy、各ブロックの重みづけ係数をwとすると、画面の明るさの評価値Eyは式(2)を用いて算出できる。重みづけ係数wの与え方の一例としては、主要被写体を予めの設定に基づいて検出し、検出した主要被写体と重畳するブロックに、より大きい重みづけ係数を与える。
Figure 2017220834
ここで算出した画面の明るさEyを、測光の結果として、後述するステップS308で、露出値などの撮像パラメータの算出に用いる。
ステップS306で、スイッチSW−1がONでなければ、制御部101が処理を終了させる。ステップS306で、スイッチSW−1がONであれば、ステップS307に進み、スイッチSW−2がONかどうかを判断する。スイッチSW−2がONでなければ、S304に戻る。スイッチSW−2がONであれば、ステップS308に進む。ステップS308で、装置動き検出部109が、正方向へのパンニング動作であると判定したら、ステップS309に進む。ステップS309では、ステップS303の測距の結果とステップS305の測光の結果とに基づいて、制御部101が、ピント位置、および、シャッタースピードやISO感度(撮像感度)や絞り値を含む露出値などの撮像パラメータを決定する。なお、ここで言うシャッタースピードには、遮光羽根を備えた機構のシャッターによる露光時間だけでなく、撮像素子における電荷蓄積時間を含む。
なお、ステップS305では複数の画像の信号を取得したので、ここで、複数の画像の測光の結果に重みづけ係数を与えて、露出値の演算を行ってもよい。たとえば、ユーザが注目したい被写体が写ったときに、ゆっくりパンニング動作をする傾向があるので、装置動き検出部109で検出した移動速度が遅いときに、撮像部105が取得した画像の信号により大きい重みづけ係数を与える。
ステップS310で、撮像部105が合成処理に用いる複数の画像を撮像する本撮像を行う。ステップS310で撮像した画像の画角は、ステップS305での測光する際の撮像部105の画角と少なくとも一部が重なる。ステップS311でスイッチSW−2がONである限り、制御部101が、撮像部105に繰り返し本撮像を行わせる。ステップS311でスイッチSW−2がONでなくなったら、ステップS312に進み、本撮像を中止して合成処理を行う。合成処理では、一般的に、画像間の特徴量を抽出し、動きベクトルを検出して位置合わせを行い、各画像の一部を切り出して合成する。以下に、合成処理の詳細を説明する。
図4に、時間的に連続して取得した2つの画像を示す。図4(a)は、ベクトル検出画像(2つの画像のうち時間的に後の画像)であり、ベクトル検出領域群を420で示している。ベクトル検出領域群420に含まれるそれぞれのベクトル検出領域421に含まれる画像は、ベクトル検出を行うときのテンプレート画像として用いられ、各テンプレート画像に対して1つのベクトルを求める。
画像処理部106は、画像の間の動きベクトルの検出を行う。動きベクトルの検出方法は公知の方法でよく、一例としてテンプレートマッチング方式が挙げられる。この方法では、画像の間のズレ量を所定の範囲のテンプレートを設定して比較し、比較値が最も小さくなる位置(画像間で最も相関が高い位置)のズレ量をベクトルとして検出する。
テンプレートマッチングについて説明する。テンプレートマッチングを行う際には、移動量を検出するためにベクトル検出画像のベクトル検出領域群からテンプレート421aを決定する。本実施形態では、ベクトル検出領域群を画像の一部の領域のみに設定しているため、画像全体から動きベクトルを検出する場合に比べて、動きベクトルの検出に要する演算負荷を軽減することができる。このテンプレート421aは、コントラストが予め設定した基準値以上と判定された小領域に対応するベクトル検出領域に対してのみ設定されてもよい。基準画像400とベクトル検出画像401の画像の対応領域(同じ被写体が写っている範囲)を点線451から452までの間で示している。ベクトル検出画像から決定したテンプレート421aの領域と、基準画像上においてテンプレート421aに対応する基準画像の領域とをベクトル探索開始位置とする。基準画像上において、ベクトル検出画像におけるテンプレート421aの座標と同じ座標となる基準画像の領域を、領域431と仮定する。そして、領域431を中心として領域431よりも広く設定したベクトル探索範囲441において、テンプレート421aと比較演算を行い、もっとも相関が高い位置とベクトル探索開始位置とのズレを動きベクトルとして検出する。この操作を、設定されたテンプレート画像の全てに対して行い、テンプレート画像の数に対応する個数の動きベクトルを検出する。
次に、検出した動きベクトルを用いて、位置合わせ処理を行う。位置合わせ処理は、図5を用いて説明する。
位置合わせ処理を行うために、画像間の変形量を補正するための位置合わせ係数を算出する。撮像時、並進成分に加え手振れが発生することで回転やあおりの成分が発生し、その結果、画像502のように画像が回転やあおりの影響を受けた画像が取得される場合がある。このような場合に並進成分や回転成分、あおり成分を幾何変形によって補正するための係数として、変換係数を算出する。この幾何変形を行う変換係数を位置合わせ係数と呼ぶ。例えば、幾何変形前の画像502を模式的に表したものが枠503であり、幾何変形後の画像502を模式的に表したものが枠504である。矢印511に相当する位置合わせ係数Aは一般的に式(3)で表され、画像の座標をI(x座標,y座標)とすると式(2)の演算を行うことで、枠503から枠504への幾何変形が行われる。
Figure 2017220834
Figure 2017220834
位置合わせ係数を算出するために、位置合わせの基準とする画像と、補正対象の画像との2つの画像を設定する。そして、テンプレートマッチングによりベクトルを算出する。
続いて求めたベクトル群を用いて、幾何変換係数を求める。例えば、式(4)のように、位置合わせ対象画像の特徴点の座標Iに所定の変換係数Aを掛けることで求めた座標I´と、基準画像の特徴点の座標との差分εが最も小さくなる変換係数Aを求める。
この変換係数Aを求める手法としては、ニュートン法やガウスニュートン法等、公知の最適化手法を用いて求める。求められた変換係数Aを位置合わせ係数として採用する。
最後に、位置合わせ処理を行った画像に対して、画像間の境界付近を合成する処理を行う。画像の合成処理について図6を用いて説明する。図6の画像601〜603は、位置合わせ処理を行った後の画像である。この3つの画像の境界部で順次合成処理を行う。
画像601と画像602とを合成する場合、画像601の水平の中心位置のライン621を境界として合成処理を行う。具体的にはライン621から左の領域に画像601を出力し、ライン621から右の領域に画像602を出力し、ライン621上は両方の画像の画素情報をミックスしてつなぎ目を自然に見せる処理を行う。あるいは、ライン上に画像601と画像602との画素情報を50%ずつ合成した値を出力し、ラインからの距離が離れるに従ってラインの左側では画像601を、ラインの右側では画像602の割合を大きくしながら合成処理を行う。合成後の画像は、合成画像611となる。
続いて、合成画像611と画像603との合成処理を行う。このときは1つ前の画像602の水平中心のライン622を境界とした合成処理を行う。合成後の画像は合成画像612となる。このように、順次位置合わせをした後に画像の合成を行う。画像602、画像603に対して画像合成を行うことで画像601に対して領域631の領域分だけ画角を拡大することができる。
このように第1の実施形態によれば、パノラマ撮像の本撮像の前の期間に、本撮像と同様な動作でプレ撮像をしなくても、測距を行う位置からパノラマ撮像を開始する位置への移動を利用して測光を行う。こうして、ユーザの操作の利便性の向上を図りながら、広い範囲に対して測光することができ、適切な撮像パラメータを設定することができる。
なお、第1の実施形態では、撮像部105で生成された画像を用いて測距および測光を行ったが、撮像部105とは別に測光センサや測距センサを有し、これらを用いて測距および測光を行う構成としても構わない。
(第2の実施形態)
第2の実施形態では、第1の実施形態と異なり、逆方向へのパンニング動作を始める前に、測光を行い、逆方向へのパンニング動作をしている最中に、測距を行う。図7を用いて、第2の実施形態について説明する。図7のステップS701、S702、S704、S706乃至S712と、図3のステップS301、S302、S304、S306乃至S312は同じ処理である。なお、第1の実施形態と同様な部分は、説明を省略する。
ステップS702で、スイッチSW−1をONであることを検知すると、ステップS703で、測光を行う。第1の実施形態のステップS305と同様に、制御部101が、画像処理部106に入力された画像に対して、前述したように、画面の明るさなどを算出し、その結果を、ステップS708の撮像パラメータの決定に用いる。ただし、第1の実施形態と異なり、複数の画像の信号でなく、1枚の画像の信号に対して測光処理を行う。
ステップS704で、装置動き検出部109が逆方向へのパンニング動作を検出すると、ステップS705に移り、制御部101が測距を行う。第1の実施形態でのステップS303と異なり、ステップS707で、スイッチSW−2がONにならない限り、複数回繰り返し測距を行う。
ステップS703での測光とステップS705での測距との結果を、ステップS709での撮像パラメータの決定に用いる。その一例として、ステップS705での測距の結果を用いて、本撮像における焦点距離の算出について説明する。複数回の測距の結果に重みづけ係数を与えて、複数回の測距の結果から本撮像における焦点距離を算出する。重みづけ係数の決め方としては、たとえば、主被写体を判断し、主被写体が写る画像に与える重みづけ係数を大きくしてよい。また、測距の結果と位置との関係をRAM103に記憶し、本撮像において、1つの焦点を用いるのでなく、位置によって焦点を変化させるようにパノラマ用の画像群を取得してもよい。
このように、第2の実施形態によれば、パノラマ撮像の本撮像の前の期間に、本撮像と同様な動作でプレ撮像をしなくても、測光を行う位置からパノラマ撮像を開始する位置への移動を利用して測距を行う。こうして、ユーザの操作の便利化を図りながら、広い範囲に対して測距することができ、より適切な撮像パラメータを得ることができる。
(第3の実施形態)
以下では、図8を用いて、第3の実施形態を説明する。図8のステップS801、S802、S803、S806乃至S812と、図3のステップS301、S302、S304、S306乃至S312は同じ処理である。なお、第1の実施形態または第2の実施形態と同様な部分は、説明を省略する。第1の実施形態では、測距を1回行い、測光を複数回行う。第2の実施形態では、測光を1回行い、測距を複数回行う。第3の実施形態では、第1の実施形態および第2の実施形態と異なり、複数回にわたり、測距と測光の両方を行う。
ステップS802で、スイッチSW−1がONであることを検知すると、ステップS803で、デジタルカメラ100が逆方向へ移動していると判断できたら、制御部101がステップS804で測距を行うとともに、ステップS805で測光を行う。ステップS805での測光を経て、ステップS806でスイッチSW−1がONであることが検知され、かつ、ステップS807でスイッチSW−2がONでないことが検知されたら、ステップS804に戻り、再び測距と測光とを行う。こうして、複数回にわたり、広い範囲に対して測距と測光とを行う。
第1の実施形態と第2の実施形態と同じように、複数回の測距の結果を用いて、予め設定した方法の下で、本撮像における撮像パラメータなどを決定する。前述と同じように、予め設定した計算方法に従い、測距の結果と測光の結果とに重みづけ係数を与えてもよい。
本実施形態によれば、広い範囲に対して、複数回にわたって、測距と測光と両方の測定を行うことにより、パノラマ撮像を行うときに、複数回の測距と複数回の測光と2種類の測定の結果を考慮したうえで、適切な撮像パラメータを決定することができる。
(第4の実施形態)
第4の実施形態では、測距を行う測距位置とパノラマ撮像の開始位置に応じてパノラマ撮像の終了位置を算出して、終了位置をユーザに提示する、または、終了位置で自動に撮像が終了するという点で、第1の実施形態と異なる。以下に、図9を用いて、第1の実施形態との相違点を中心に、第4の実施形態について説明する。図9のステップS901乃至S907、S924乃至S912と、図3のステップS301乃至S307、S310乃至S312は同じ処理である。第1の実施形態と同様なところは省略する。
測距のときのデジタルカメラ100の位置を、測距位置と呼ぶ。図2で示したようにパノラマ撮像を行うとき、この測距位置は、図2の領域202を向いているときの位置に相当する。装置動き検出部109が、角速度情報を取得することで、制御部101が、デジタルカメラの現在の位置と測距位置との相対距離を算出することができる。
ステップS907で装置動き検出部109が正方向へのパンニング動作を検出し、ステップS908の撮像パラメータの設定を経て、ステップS921で、制御部101が、自動終了モードに設定されているかどうかを判断する。自動終了モードに設定されていないと判断した場合、ステップS922に進み、制御部101が、装置動き検出部109が取得した速度情報で、デジタルカメラの現在の位置と測距位置との相対距離を算出する。制御部101が、算出した相対位置に基づいて、ステップS922で測距位置を表示部108に表示させる。これは、ユーザの撮像の補助のためのもので、ユーザが不要だと判断すれば、デジタルカメラ100の設定で消してもよい。
ステップS921で、自動終了モードに設定されていると判断する場合、ステップS931に進み、終了位置の算出を行う。ここでの終了位置は、後述ステップS936で、デジタルカメラが到達したら、パンニング動作が自動に終了するという位置である。終了位置は、ステップS920で検出した測距位置に応じて、設定するのが好ましい。たとえば、一例として、測距位置で取得した画像を、パノラマ画像の真ん中に配置されるようにするため、測距位置とステップS933で正方向へ移動し始める位置との距離と、測距位置と終了位置との距離とが等しくなるように終了位置を設定する。
上述したような設定にしたがって、終了位置を算出すると、ステップS932で、表示部108が終了位置を表示する。次に、ステップS933で、正方向へのパンニング動作が検出されたら、ステップS934で、撮像部105がパノラマ撮像用の画像を取得する。最後に、ステップS935で、制御部101は、スイッチSW−2がOFFと判断し、または、ステップS936で装置動き検出部109を通して終了位置に到達したと判断した場合、ステップS912に進み、合成処理を行う。なお、以上の説明で、測距と測光とを入れ替えても構わない。
第4の実施形態によれば、測距位置を表示することにより、ユーザがより良い構図のパノラマ画像を取得することができる。また、終了位置に到達することでパノラマ撮像が自動に終了することにより、より利便性の高い撮像方法を提供することができる。
(第5の実施形態)
第5の実施形態は、正方向を設定する代わりに、装置動き検出部109でデジタルカメラの動き方向を検出することにより、パンニング動作の方向を特定する。以下では、図10を用いて、第1の実施形態との相違点を中心に、第4の実施形態について説明する。図10のステップS1002、S1003、S1005乃至S1007、S1010乃至S1012と、図3のステップS302、S303、S305乃至S307、S310乃至S312は同じ処理である。第1の実施形態と同様なところは省略する。
ステップS1002で制御部101はスイッチSW−1がONと確認できたら、ステップS1003で測距を行う。次にステップS1004に進み、装置動き検出部109が、デジタルカメラ100現在のパンニング方向を第1の方向として検出し、ステップS1005で測光を行う。ステップS1009では、ステップS1004で検出した第1の方向の逆方向へパンニング動作をしているかどうかを判定する。第1の方向と逆方向のパンニング動作が行われたと判定されると、制御部101は、ステップS1005で得られた測光結果に基づく撮像パラメータの設定を行い、ステップS1010でパノラマ撮像用の本撮像を行う。他の動作や処理などは、第1の実施形態と同様である。
なお、以上の説明で、測距と測光とを入れ替えても構わない。
第5の実施形態によれば、正方向を設定しなくても、最初に装置の動き方向を検出することにより、パンニング動作の方向を特定し、さらに利便性のよい撮像方法を提供できる。
なお、第1から第5の実施形態では、デジタルカメラ100を水平に移動させることでパノラマ撮像を行う例をあげて説明をしたが、これに限られるものではない。図11は、デジタルカメラを水平方向だけでなく垂直方向にも動かして、パノラマ撮像を行う例を説明するための図である。
図11(a)は、パノラマ撮像時のデジタルカメラ100のパンニング動作を示す。図11(b)は、パノラマ撮像の前に、ユーザの指示によって主要な被写体に対して予め測距あるいは測光を行い、パノラマ撮像の開始位置までデジタルカメラ100を移動させる様子を示す図である。図11(a)および(b)からわかるように、パノラマ撮像時のデジタルカメラ100のパンニング動作の方向と、パノラマ撮像の開始位置までデジタルカメラ100を移動させる際のデジタルカメラ100の移動方向は、必ずしも逆方向でなくてもよい。図11に示すように、これらの方向に角度が付いている場合であっても、パノラマ撮像の開始位置までデジタルカメラ100を移動させる際に、パノラマ撮像に含まれる比較的広い撮像範囲に対して測光あるいは測距を行うことができる可能性は高くなる。
(その他の実施形態)
以上の実施形態は、デジタルカメラでの実施をもとに説明したが、デジタルカメラに限定するものではない。たとえば、撮像素子が内蔵した携帯機器などで実施してもよく、画像を取得することができるネットワークカメラなどでもよい。
また、実施例では撮像装置内部でパノラマ合成処理を行っているが、パノラマ合成は撮像装置外部の例えばPCなどで行ってもよい。
なお、本発明は、上述の実施形態の1つ以上の機能を実現するプログラムを、ネットワークまたは記憶媒体を介してシステムまたは装置に供給し、そのシステムまたは装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読み出し作動させる処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 デジタルカメラ
101 制御部
102 ROM
103 RAM
104 光学系
105 撮像部
106 画像処理部
107 内蔵メモリ
108 表示部
109 装置動き検出部
110 操作部

Claims (14)

  1. 撮像を行う撮像手段と、
    測定手段と、
    前記測定手段による測定の結果に基づいて前記撮像手段が撮像する際の撮像パラメータを決定する決定手段と、
    を有し、
    パノラマ撮像モードにおいて、前記測定手段は、前記撮像手段が第1の方向に移動している間に、少なくとも第1の測定を行い、
    前記決定手段は、前記第1の測定の結果に基づいて、前記撮像パラメータを決定し、
    前記撮像手段は、前記第1の方向と異なる第2の方向に沿って移動する間に、前記決定手段で決定された撮像パラメータを用いて、パノラマ合成用の複数の画像を撮像し、
    前記第1の測定を行う際の前記撮像手段の撮像範囲は、前記パノラマ合成用の前記複数の画像の撮像範囲の少なくとも一部と重複することを特徴とする撮像装置。
  2. 前記測定手段は、前記撮像手段が前記第1の方向に移動している間に、前記撮像手段で撮像された複数の画像を用いて前記第1の測定を行うものであり、
    前記第1の測定を行う間に撮像された画像は前記パノラマ合成に用いないことを特徴とする請求項1に記載の撮像装置。
  3. 前記測定手段は、前記撮像手段が前記第1の方向に移動する前に、前記第1の測定とは異なる第2の測定を行うことを特徴とする請求項1または2に記載の撮像装置。
  4. 前記測定手段は、前記撮像手段が前記第1の方向に移動している間に、前記第1の測定に加えて、前記第1の測定とは異なる第2の測定を行うことを特徴とする請求項1または2に記載の撮像装置。
  5. 前記決定手段は、前記第1の測定の結果に加え、前記第2の測定の結果に基づいて、前記撮像パラメータを決定することを特徴とする請求項3または4に記載の撮像装置。
  6. 前記第1の測定は、測光または測距であることを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 前記第1の測定と前記第2の測定の1つが測光であり、もう1つが測距であることを特徴とする請求項3乃至5のいずれか1項に記載の撮像装置。
  8. 前記撮像パラメータは、露出値を含むことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
  9. 前記測定手段は、前記撮像手段の動きベクトルが前記第1の方向の成分を含み、かつ、前記第1の方向に対して垂直な方向の成分が閾値以下である場合に、前記第1の測定を行うことを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
  10. 前記撮像手段は、前記撮像手段が第1の方向へ移動した後に反転して前記第2の方向に移動した場合に、前記パノラマ合成用の複数の画像を撮像することを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
  11. 前記第2の方向が予め定められており、
    前記測定手段は、前記撮像手段の動きベクトルが、前記第2の方向に沿う第2の変位ベクトルに対してなす角度が予め定められた範囲内である場合に、前記第1の測定を行うことを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
  12. 前記撮像手段は、前記撮像手段が、前記測定手段が前記第2の測定を行ったときの前記撮像手段の位置に応じて設定された位置に達すると、前記パノラマ合成用の画像の撮像を終了することを特徴とする請求項3に記載の撮像装置。
  13. 撮像手段を有する撮像装置の撮像方法であって、
    撮像を行う撮像ステップと、
    測定ステップと、
    前記測定ステップにおける測定の結果に基づいて、前記撮像において撮像する際の撮像パラメータを決定する決定ステップと、
    を含み、
    パノラマ撮像モードにおいて、前記測定ステップにおいて、前記撮像手段が第1の方向に移動している間に、少なくとも第1の測定を行い、
    前記決定ステップにおいて、前記第1の測定の結果に基づいて、前記撮像パラメータを決定し、
    前記撮像ステップにおいて、前記第1の方向と異なる第2の方向に沿って移動する間に、前記決定において決定された撮像パラメータを用いて、パノラマ合成用の複数の画像を撮像し、
    前記第1の測定を行う際の前記撮像ステップにおける撮像範囲は、前記パノラマ合成用の前記複数の画像の撮像範囲の少なくとも一部と重複することを特徴とする撮像方法。
  14. 撮像手段を有する撮像装置のコンピュータに動作させるプログラムであって、
    前記コンピュータに、
    撮像を行う撮像ステップと、
    測定ステップと、
    前記測定ステップにおける測定の結果に基づいて、前記撮像において撮像する際の撮像パラメータを決定する決定ステップと、
    を行わせ、
    パノラマ撮像モードにおいて、前記測定ステップにおいて、前記撮像手段が第1の方向に移動している間に、少なくとも第1の測定を行い、
    前記決定ステップにおいて、前記第1の測定の結果に基づいて、前記撮像パラメータを決定し、
    前記撮像ステップにおいて、前記第1の方向と異なる第2の方向に沿って移動する間に、前記決定において決定された撮像パラメータを用いて、パノラマ合成用の複数の画像を撮像し、
    前記第1の測定を行う際の前記撮像ステップにおける撮像範囲は、前記パノラマ合成用の前記複数の画像の撮像範囲の少なくとも一部と重複することを特徴とするコンピュータのプログラム。
JP2016114805A 2016-06-08 2016-06-08 撮像装置、撮像方法およびプログラム Active JP6672082B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016114805A JP6672082B2 (ja) 2016-06-08 2016-06-08 撮像装置、撮像方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016114805A JP6672082B2 (ja) 2016-06-08 2016-06-08 撮像装置、撮像方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2017220834A true JP2017220834A (ja) 2017-12-14
JP6672082B2 JP6672082B2 (ja) 2020-03-25

Family

ID=60657806

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016114805A Active JP6672082B2 (ja) 2016-06-08 2016-06-08 撮像装置、撮像方法およびプログラム

Country Status (1)

Country Link
JP (1) JP6672082B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110012209A (zh) * 2018-01-05 2019-07-12 广东欧珀移动通信有限公司 全景图像生成方法、装置、存储介质及电子设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012105121A (ja) * 2010-11-11 2012-05-31 Sony Corp 撮像装置、撮像方法およびプログラム
JP2013034081A (ja) * 2011-08-02 2013-02-14 Sony Corp 画像処理装置、その制御方法およびプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012105121A (ja) * 2010-11-11 2012-05-31 Sony Corp 撮像装置、撮像方法およびプログラム
JP2013034081A (ja) * 2011-08-02 2013-02-14 Sony Corp 画像処理装置、その制御方法およびプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110012209A (zh) * 2018-01-05 2019-07-12 广东欧珀移动通信有限公司 全景图像生成方法、装置、存储介质及电子设备
CN110012209B (zh) * 2018-01-05 2020-08-14 Oppo广东移动通信有限公司 全景图像生成方法、装置、存储介质及电子设备

Also Published As

Publication number Publication date
JP6672082B2 (ja) 2020-03-25

Similar Documents

Publication Publication Date Title
JP6157242B2 (ja) 画像処理装置及び画像処理方法
KR101062502B1 (ko) 패닝화상을 촬상하기 위한 패닝모드를 구비한 촬상장치
JP4735742B2 (ja) 撮像装置、ストロボ画像生成方法、および、プログラム
JP4912117B2 (ja) 追跡機能付き撮像装置
JP6656035B2 (ja) 画像処理装置、撮像装置および画像処理装置の制御方法
JP6577852B2 (ja) 動きベクトル検出装置およびその制御方法
JP2017098776A (ja) 撮像装置、撮像装置の制御方法及びプログラム
JP2009124340A (ja) 撮像装置、撮影支援方法、及び撮影支援プログラム
JP6261205B2 (ja) 画像処理装置
JP6604908B2 (ja) 画像処理装置、その制御方法、および制御プログラム
JP6564284B2 (ja) 画像処理装置および画像処理方法
JP6326631B2 (ja) 撮像装置
JP4807582B2 (ja) 画像処理装置、撮像装置及びそのプログラム
JP6672082B2 (ja) 撮像装置、撮像方法およびプログラム
JP2020136774A (ja) 動きベクトルを検出する画像処理装置およびその制御方法ならびにプログラム
JP2009027437A (ja) 画像処理装置,画像処理方法及び撮像装置
JP7458769B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP2014066959A (ja) 撮像装置
JP2019041188A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム
JP6828069B2 (ja) 撮像装置、撮像方法およびプログラム
US20240089597A1 (en) Image capturing apparatus for capturing and compositing images different in in-focus position, control method, and storage medium
JP2009049457A (ja) 撮像装置およびプログラム
JP2005267005A (ja) 画像データ処理装置及びプログラム
JP6827778B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2022124464A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200304

R151 Written notification of patent or utility model registration

Ref document number: 6672082

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151