JP2014099820A - 画像撮影装置、画像撮影方法 - Google Patents
画像撮影装置、画像撮影方法 Download PDFInfo
- Publication number
- JP2014099820A JP2014099820A JP2012251825A JP2012251825A JP2014099820A JP 2014099820 A JP2014099820 A JP 2014099820A JP 2012251825 A JP2012251825 A JP 2012251825A JP 2012251825 A JP2012251825 A JP 2012251825A JP 2014099820 A JP2014099820 A JP 2014099820A
- Authority
- JP
- Japan
- Prior art keywords
- image
- difference
- pixel
- shooting
- motion amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Studio Circuits (AREA)
Abstract
【課題】 同一の被写体が重複して写り込まないパノラマ画像を効率的に生成する画像撮影装置、画像撮影方法を提供することにある。
【解決手段】 撮影方向を変更しながら順次、撮影した複数の撮影画像を合成してパノラマ画像を生成する画像撮影装置において、n(n≧3)回目の撮影時に、n−2回目からn−1回目に撮影画像に新たに追加された第1の差分画像と、n回目の撮影画像の第1の差分画像と同じ領域の第2の差分画像との間の各画素の撮影画像内における位置の距離を示す第1の動き量を検出する検出手段と、第2の差分画像の各画素について、第1の動き量が、n−1回とn回間の撮影方向の変更に対応する第2の動き量と一致する場合に画素の画像データをパノラマ画像に書き込み、一致しない場合には書き込まない合成手段と、を有し、検出手段及び合成手段が、n回目の撮影時の処理を繰り返す。
【選択図】図2
【解決手段】 撮影方向を変更しながら順次、撮影した複数の撮影画像を合成してパノラマ画像を生成する画像撮影装置において、n(n≧3)回目の撮影時に、n−2回目からn−1回目に撮影画像に新たに追加された第1の差分画像と、n回目の撮影画像の第1の差分画像と同じ領域の第2の差分画像との間の各画素の撮影画像内における位置の距離を示す第1の動き量を検出する検出手段と、第2の差分画像の各画素について、第1の動き量が、n−1回とn回間の撮影方向の変更に対応する第2の動き量と一致する場合に画素の画像データをパノラマ画像に書き込み、一致しない場合には書き込まない合成手段と、を有し、検出手段及び合成手段が、n回目の撮影時の処理を繰り返す。
【選択図】図2
Description
本発明は、画像撮影装置、画像撮影方法に関する。
デジタルカメラなどで撮像した複数の画像を合成することによって、パノラマ画像を生成する手法が知られている(例えば、特許文献1、2)。このようなパノラマ画像では、通常よりも広い画角の領域の画像を生成することができ、例えば、広範囲の風景などを1つの画像として表現可能になる。
このようなパノラマ画像の生成手法において、例えば、画像撮影装置は、撮影対象の範囲が分割された個々の撮影領域を設定する。そして、画像撮影装置は、デジタルカメラの支持機構を制御して、各撮影領域にデジタルカメラの画角を設定し連続的に撮影し、生成された画像を合成する。画角とは、カメラで撮影される範囲を角度で表したものである。このように、画像撮影装置は、1台のカメラの画角を振って撮影領域を順次切り替えて、個々の撮影領域の画像を連続撮影する。
しかしながら、1台のカメラの画角を振って撮影領域を順次切り替えて複数の撮影領域の画像を連続撮影する手法によると、合成したパノラマ画像における複数箇所に同一の被写体が写り込むことがある。これは、1つの撮影領域で撮影された移動被写体(人物)が、連続撮影中に、別の撮影領域に移動して再度撮影されたためである。同一の被写体が写りこんだパノラマ画像は、見るものに不自然な印象を与えるため、品質が悪いと評価されてしまう。
また、撮影対象の範囲が広い場合、同一の被写体が複数の撮影領域で撮影される可能性が高くなる。また、撮影領域の画像を合成することで画像の解像度が向上するため、同一の被写体が写り込んでいることが明確になり得る。
さらに、撮影対象の範囲に存在する移動物体が1つであれば、移動物体を回避するように撮影順序を変更することにより対処が可能であるが、撮影対象範囲に複数の移動物体がランダムに移動する場合、対処が困難である。
本発明は、同一の被写体が重複して写り込まないパノラマ画像を効率的に生成する画像撮影装置、画像撮影方法を提供することにある。
第1の側面は、撮影方向を変更しながら順次、撮影した複数の撮影画像を合成してパノラマ画像を生成する画像撮影装置において、n(n≧3)回目の撮影時に、n−2回目からn−1回目に前記撮影画像に新たに追加された第1の差分画像と、前記n回目の前記撮影画像の前記第1の差分画像と同じ領域の第2の差分画像との間の各画素の前記撮影画像内における位置の距離を示す第1の動き量を検出する検出手段と、前記第2の差分画像の各画素について、前記第1の動き量が、前記n−1回と前記n回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込まない合成手段と、を有し、前記検出手段及び前記合成手段が、前記n回目の撮影時の処理を繰り返す。
第1の側面によれば、同一の被写体が重複して写り込まないパノラマ画像が効率的に生成される。
以下、図面にしたがって本発明の実施の形態について説明する。ただし、本発明の技術的範囲はこれらの実施の形態に限定されず、特許請求の範囲に記載された事項とその均等物まで及ぶものである。
[パノラマ画像]
本実施の形態例におけるパノラマ画像とは、例えば、撮影装置が1回に撮影可能な画角よりも、画角の広い画像を示す。画像撮影装置は、例えば、撮影方向を一定の方向に、順次、変更して撮影し生成した複数の撮影画像を合成してパノラマ画像を生成する。撮影方向の変更方向は、水平方向または垂直方向である。本実施の形態例では、撮影方向の変更量は、均一になるように設定される。例えば、予め定められた撮影対象の領域が等分割され、撮影対象とされる。そして、各撮影対象の領域に対応するように撮影方向が変更される。
本実施の形態例におけるパノラマ画像とは、例えば、撮影装置が1回に撮影可能な画角よりも、画角の広い画像を示す。画像撮影装置は、例えば、撮影方向を一定の方向に、順次、変更して撮影し生成した複数の撮影画像を合成してパノラマ画像を生成する。撮影方向の変更方向は、水平方向または垂直方向である。本実施の形態例では、撮影方向の変更量は、均一になるように設定される。例えば、予め定められた撮影対象の領域が等分割され、撮影対象とされる。そして、各撮影対象の領域に対応するように撮影方向が変更される。
撮影方向の変更は、画像撮影装置による自動制御、または、ユーザによる手動制御によって行われる。自動制御が行われる場合、例えば、支持機構によって自動的に均一の所定の変更量分、画像撮影装置の方向が変更され撮影が行われる。一方、手動制御が行われる場合、例えば、ユーザによって撮影方向が変更され、撮影方向の変更量が所定量に達した瞬間に、自動的に撮影が行われる。そして、生成された各撮影画像が合成され、パノラマ画像が生成される。
[移動物体の複数写りこみ]
ところで、撮影方向の移動方向と同一の方向に移動する被写体(人物や物)があると、1つの移動物体が、合成対象の複数の撮影画像に写り込むことがある。本実施の形態例では、移動する被写体を、移動物体と称する。このような複数の撮影画像が合成して生成されるパノラマ画像には、同一の移動物体が重複して写り込んでしまう。なお、移動物体が撮影方向の移動方向と反対方向に移動する場合については、1つの移動物体が複数の撮影画像に写り込むことは生じ得ない。
ところで、撮影方向の移動方向と同一の方向に移動する被写体(人物や物)があると、1つの移動物体が、合成対象の複数の撮影画像に写り込むことがある。本実施の形態例では、移動する被写体を、移動物体と称する。このような複数の撮影画像が合成して生成されるパノラマ画像には、同一の移動物体が重複して写り込んでしまう。なお、移動物体が撮影方向の移動方向と反対方向に移動する場合については、1つの移動物体が複数の撮影画像に写り込むことは生じ得ない。
そこで、本実施の形態例における画像撮影装置は、n(n≧3)回目の撮影時に、n−2回目からn−1回目に撮影画像に新たに追加された第1の差分画像と、n回目の撮影画像の第1の差分画像と同じ領域の第2の差分画像との間の各画素の撮影画像内における位置の距離を示す第1の動き量を検出する。そして、画像撮影装置は、合成処理として、第2の差分画像の各画素について、第1の動き量が、n−1回とn回間の撮影方向の変更に対応する第2の動き量と一致する場合に画素の画像データをパノラマ画像に書き込み、一致しない場合には書き込みを行わない。画像撮影装置は、第1の動き量の検出処理と合成処理とを繰り返す。
これにより、本実施の形態例における画像撮影装置は、同一の移動物体が重複して写り込むことを効率的に回避して、パノラマ画像を生成することができる。また、本実施の形態例における画像撮影装置は、パノラマ画像の生成時に使用されるメモリ容量を最小限に抑える。
または、画像撮影装置は、さらに、n+1回目の撮影時に、第1の動き量の検出処理として、パノラマ画像が第1の差分画像と同じ領域に未書き込みの画素を有する場合、n回目の第2の差分画像と、n+1回目の第1の差分画像と同じ領域の第3の差分画像との間の各画素の第1の動き量を検出する。この場合、画像撮影装置は、合成処理として、第3の差分画像の各画素について、第1の動き量が、n回とn+1回間の撮影方向の変更に対応する第2の動き量と一致する場合に画素の画像データをパノラマ画像に書き込み、一致しない場合には書き込みを行わない。画像撮影装置は、パノラマ画像が未書き込みの画素を有する間、第1の動き量の検出処理と合成処理とを繰り返す。
まず、本実施の形態例における画像撮影装置の構成について、例図に基づいて説明する。
[画像撮影装置の構成]
図1は、本実施の形態例における画像撮影装置100の構成の一例を示す図である。画像撮影装置100は、例えば、デジタルカメラを示す。
図1は、本実施の形態例における画像撮影装置100の構成の一例を示す図である。画像撮影装置100は、例えば、デジタルカメラを示す。
図1の撮像部12は、撮影制御部11にしたがって撮像動作を実施する部分であり、光学系121や撮像素子122によって構成される。光学系121は、図示していないが、例えば、レンズ、絞り機構、シャッタ機構、などを含む。撮影制御部11は、操作パネル10を介してユーザによって入力された情報にしたがって撮像部12を制御する。操作パネル10は、各種ボタンによって構成され、ユーザの操作指示に対応する入力信号を生成し撮影制御部11に入力する。ユーザは、例えば、操作パネル10を介して、パノラマ画像の撮影モードを指示する。
信号処理部13は、撮像部12の撮像処理によって生成された電気信号に基づいて、撮像画像を示すデジタルデータを生成する。そして、画像処理部14は、デジタルデータに対する各種の画像処理を行う。また、ランダムパターン生成部15は、パノラマ画像の初期データであるランダムパターンを生成する。
そして、メモリ16には、画像処理後のデジタルデータや、パノラマ画像のデジタルデータ等が一次的に格納される。メモリ16は、例えば、RAM(Random Access Memory)やフラッシュメモリなどの記憶装置によって構成される。メモリ16に格納されたデジタルデータは、記録・再生処理部18による指示に基づいて、記憶媒体17に格納される。記憶媒体17は、例えば、ROM(Read Only Memory)やフラッシュメモリ、メモリカード等の記憶装置によって構成される。
また、記憶媒体17に格納されたデジタルデータは、記録・再生処理部18による指示に基づいて、画像表示制御部19、動画表示制御部20にしたがって表示される。画像表示制御部19は記憶媒体17に格納された撮像画像のデジタルデータ、動画表示制御部20は記憶媒体17に格納された撮像動画のデジタルデータを、液晶表示部21に表示させる。液晶表示部21は、例えば、RGB信号の生成回路などから構成され、各表示制御部19、20によって制御されたデジタルデータを表示する。
[パノラマ画像生成部40]
続いて、パノラマ画像生成部40について説明する。パノラマ画像生成部40は、例えば、ランダムパターン検出部30、移動分検出部31、移動量算出部32、移動速度算出部33、移動検出部34等を有する。さらに、パノラマ画像生成部40は、移動分メモリ1〜n(Pm)、第1の動き量検出部37、第2の動き量変換部35、動き量比較部36、画面合成部38等を有する。
続いて、パノラマ画像生成部40について説明する。パノラマ画像生成部40は、例えば、ランダムパターン検出部30、移動分検出部31、移動量算出部32、移動速度算出部33、移動検出部34等を有する。さらに、パノラマ画像生成部40は、移動分メモリ1〜n(Pm)、第1の動き量検出部37、第2の動き量変換部35、動き量比較部36、画面合成部38等を有する。
移動検出部34は、加速度センサー341、及び、角速度センサー342を有する。移動検出部34は、各センサーによって取得された移動情報を移動速度算出部33に入力する。移動速度算出部33は、移動情報に基づいて移動速度及びその傾きを算出し、移動量算出部32に入力する。移動量算出部32は、移動速度及び傾きに基づいて積分等の演算を行い、移動の角度情報、及び、移動量を算出する。そして、第2の動き量変換部35は、算出された移動量、角度情報に基づいて、撮影方向の変更によってシフトした撮影画像上の移動量を示す第2の動き量に変換する。
移動分検出部31は、移動量算出部32によって算出された撮影方向の移動量に基づいて、撮影方向の移動によって追加された、撮影画像における新たな撮影領域(以下、差分領域と称する)を検出する。また、移動分検出部31は、差分領域に対応する差分画像を検出し、必要に応じて、移動分メモリ1〜n(Pm)に格納する。また、第1の動き量検出部37は、移動分メモリ1〜n(Pm)に格納された差分画像間の各画素について、撮影画像内における座標位置の距離を示す第1の動き量を検出する。そして、動き量比較部36は、第1の動き量と第2の動き量とを比較し、比較結果を画面合成部38に出力する。
画面合成部38は、第1の動き量と第2の動き量との比較結果に基づいて、差分画像の各画素について、パノラマ画像への合成対象とするか否かを判定する。なお、ランダムパターン検出部30は、合成処理中のパノラマ画像からランダムパターンを検出する。パノラマ画像生成部40の処理の流れについては、後述する。
[パノラマ画像生成処理の概要]
図2は、本実施の形態例における画像撮影装置100のパノラマ画像生成処理の概要について説明する図である。同図では、左列に1回目から6回目までの撮影画像g1〜g6、中央列に、対応する左列の撮影画像g1〜g6のうち合成対象とされる部分画像、右列に、左列の撮影画像g1〜g6に対応して生成されるパノラマ画像p1〜p6が表される。なお、この例において、移動物体ZZは、撮影方向と同一の方向に移動する。また、移動物体ZZは、網点パターンの楕円で表される。
図2は、本実施の形態例における画像撮影装置100のパノラマ画像生成処理の概要について説明する図である。同図では、左列に1回目から6回目までの撮影画像g1〜g6、中央列に、対応する左列の撮影画像g1〜g6のうち合成対象とされる部分画像、右列に、左列の撮影画像g1〜g6に対応して生成されるパノラマ画像p1〜p6が表される。なお、この例において、移動物体ZZは、撮影方向と同一の方向に移動する。また、移動物体ZZは、網点パターンの楕円で表される。
[1回目]
初めに、1回目の撮影画像g1が生成されたときの処理について説明する。この例では、1回目の撮影画像g1に移動物体ZZの画像は含まれていない。本実施の形態例において、画面合成部38は、1回目の撮影画像g1については、全ての画素についてパノラマ画像p1に書き込む。なお、パノラマ画像は、初め、全ての画素について、未合成の画素であることを示すランダムデータ(黒塗り部分)を有する。このため、左列の1回目の撮影画像g1に対応して生成されるパノラマ画像p1は、1回目の撮影画像g1に対応する領域には1回目の撮影画像g1を、その他の領域にはランダムデータを有する。
初めに、1回目の撮影画像g1が生成されたときの処理について説明する。この例では、1回目の撮影画像g1に移動物体ZZの画像は含まれていない。本実施の形態例において、画面合成部38は、1回目の撮影画像g1については、全ての画素についてパノラマ画像p1に書き込む。なお、パノラマ画像は、初め、全ての画素について、未合成の画素であることを示すランダムデータ(黒塗り部分)を有する。このため、左列の1回目の撮影画像g1に対応して生成されるパノラマ画像p1は、1回目の撮影画像g1に対応する領域には1回目の撮影画像g1を、その他の領域にはランダムデータを有する。
[2回目]
続いて、2回目の撮影画像g2が生成されたときの処理について説明する。この例では、2回目の撮影画像g2において、1回目の撮影から撮影方向が動いたことによって追加された新たな撮影領域D2に、移動物体ZZが写り込んでいる。本実施の形態例において、追加された新たな撮影領域を差分領域、差分領域に対応する画像を差分画像と称する。2回目の撮影画像g2において、1回目から2回目に追加された差分領域(以下、2回目の差分領域と称する)D2は、横線パターンの矩形で表される。また、2回目の撮影画像g2において、1回目の撮影領域と重複する領域はブランクBLで表される。本実施の形態例の画面合成部38は、2回目の撮影画像g2については、パノラマ画像p2への合成処理を行わない。
続いて、2回目の撮影画像g2が生成されたときの処理について説明する。この例では、2回目の撮影画像g2において、1回目の撮影から撮影方向が動いたことによって追加された新たな撮影領域D2に、移動物体ZZが写り込んでいる。本実施の形態例において、追加された新たな撮影領域を差分領域、差分領域に対応する画像を差分画像と称する。2回目の撮影画像g2において、1回目から2回目に追加された差分領域(以下、2回目の差分領域と称する)D2は、横線パターンの矩形で表される。また、2回目の撮影画像g2において、1回目の撮影領域と重複する領域はブランクBLで表される。本実施の形態例の画面合成部38は、2回目の撮影画像g2については、パノラマ画像p2への合成処理を行わない。
[3回目]
続いて、3回目の撮影画像g3が生成されたときの処理について説明する。この例において、2回目の撮影から3回目の撮影にかけて変更された撮影方向と同一の方向に、移動物体ZZが移動している。そして、3回目の撮影画像g3における、2回目から3回目に追加された差分領域(以下、3回目の差分領域と称する)D3に、移動物体ZZが写り込んでいる。3回目の撮影画像g3において、3回目の差分領域D3は、切り込み型パターンの矩形で表される。また、2回目の撮影画像g2と同様にして、3回目の撮影画像g3において、2回目の差分領域D2は横線パターンの矩形で表され、1回目の撮影領域と重複する領域はブランクBLで表される。
続いて、3回目の撮影画像g3が生成されたときの処理について説明する。この例において、2回目の撮影から3回目の撮影にかけて変更された撮影方向と同一の方向に、移動物体ZZが移動している。そして、3回目の撮影画像g3における、2回目から3回目に追加された差分領域(以下、3回目の差分領域と称する)D3に、移動物体ZZが写り込んでいる。3回目の撮影画像g3において、3回目の差分領域D3は、切り込み型パターンの矩形で表される。また、2回目の撮影画像g2と同様にして、3回目の撮影画像g3において、2回目の差分領域D2は横線パターンの矩形で表され、1回目の撮影領域と重複する領域はブランクBLで表される。
本実施の形態例において、画面合成部38は、3回目の撮影画像g3が生成されたとき、2回目の差分領域D2について、2回目の撮影画像g2と3回目の撮影画像g3とを比較して静止画素と判定された画素について、パノラマ画像p3に書き込む。具体的に、まず、2回目の差分領域D2について、2回目の撮影画像g2の差分画像d2−2と3回目の撮影画像g3の差分画像d2−3間で、対応する画素の撮影画像内における座標位置の距離を示す第1の動き量が検出される。そして、2回目の差分領域D2に含まれる画素のうち、第1の動き量が、撮影方向の変更に対応して生じる撮影領域の撮影画像内における移動距離を示す第2の動き量と一致する画素について、静止画素と判定される。つまり、2回目の差分領域D2に含まれる各画素であって、2回目の撮影画像g2における座標位置と3回目の撮影画像g3における座標位置との間の距離(第1の動き量)が、撮影方向の変更に対応する距離(第2の動き量)と一致する画素が、静止画素と判定される。静止画素と判定された画素は、移動物体ZZを構成する画素ではないとみなされるため、画像データがパノラマ画像p3に書き込まれる。
この例では、図2の中央列に示される3回目の撮影画像g3に対応する部分画像s3が、パノラマ画像p3に書き込まれる。部分画像s3は、3回目の撮影画像g3の2回目の差分画像d2−3における楕円を除く領域の画像である。したがって、図2の右列に示される3回目の撮影画像g3に対応して生成されるパノラマ画像p3には、新たに、3回目の撮影画像g3における2回目の差分画像d2−3のうち、移動物体ZZを構成する画素を除く画素の画像データが書き込まれる。
[4回目]
続いて、4回目の撮影画像g4が生成されたときの処理について説明する。同様にして、3回目の撮影から4回目の撮影にかけて変更された撮影方向と同一の方向に、移動物体ZZが移動している。そして、4回目の撮影画像g4における、3回目から4回目に追加された差分領域(以下、4回目の差分領域と称する)D4に、移動物体ZZが写り込んでいる。4回目の撮影画像g4において、4回目の差分領域D4は、縦線パターンの矩形で表される。また、2、3回目の撮影画像g2、g3と同様にして、4回目の撮影画像g4において、2回目の差分領域D2は横線パターンの矩形、3回目の差分領域D3は切り込み型パターンの矩形で表され、1回目の撮影領域と重複する領域はブランクBLで表される。
続いて、4回目の撮影画像g4が生成されたときの処理について説明する。同様にして、3回目の撮影から4回目の撮影にかけて変更された撮影方向と同一の方向に、移動物体ZZが移動している。そして、4回目の撮影画像g4における、3回目から4回目に追加された差分領域(以下、4回目の差分領域と称する)D4に、移動物体ZZが写り込んでいる。4回目の撮影画像g4において、4回目の差分領域D4は、縦線パターンの矩形で表される。また、2、3回目の撮影画像g2、g3と同様にして、4回目の撮影画像g4において、2回目の差分領域D2は横線パターンの矩形、3回目の差分領域D3は切り込み型パターンの矩形で表され、1回目の撮影領域と重複する領域はブランクBLで表される。
本実施の形態例において、画面合成部38は、4回目の撮影画像g4が生成されたとき、2回目の差分領域D2、及び、3回目の差分領域D3について、3回目の撮影画像g3と4回目の撮影画像g4とを比較して静止画素と判定された画素について、パノラマ画像p4に書き込む。ただし、例えば、画面合成部38は、静止画素と判定された画素のうち、パノラマ画像において未だ合成されていない画素の画像データをパノラマ画像p4に書き込む。
具体的に、まず、2回目の差分領域D2に含まれる各画素ついて、3回目の撮影画像g3の差分画像d2−3における座標の位置と、4回目の撮影画像g4の差分画像d2−4における座標の位置との間の距離(第1の動き量)が、撮影方向の変更に対応する距離(第2の動き量)と一致する場合に、静止画素と判定される。また、3回目の差分領域D3に含まれる各画素ついて、3回目の撮影画像g3の差分画像d3−3における座標の位置と、4回目の撮影画像g4の差分画像d3−4における座標の位置との間の距離(第1の動き量)が、撮影方向の変更に対応する距離(第2の動き量)と一致する場合に、静止画素と判定される。そして、静止画素と判定された画素のうち、パノラマ画像において未合成である画素の画像データが、パノラマ画像p4に書き込まれる。
このように、2回目の差分領域D2について、前回の3回目の撮影画像g3の生成時は、2回目の撮影画像g2と3回目の撮影画像g3との間で第1の動き量が検出されるのに対し、4回目の撮影画像g4では、3回目の撮影画像g3と4回目の撮影画像g4との間で第1の動き量が検出される。
この例では、図2の中央列に示される4回目の撮影画像g4に対応する部分画像s4が、パノラマ画像p4に書き込まれる。部分画像s4は、2回目の差分画像d2−4における楕円領域の画像、3回目の差分画像d3−4における楕円を除く領域の画像を有する。前述したとおり、パノラマ画像に合成済みの画素を含む2回目の差分領域D2については、動き量が一致する画素のうち未合成の画素について、画像データがパノラマ画像p4に書き込まれる。一方、3回目の差分領域D3は合成済みの画素を含まないため、動き量が一致する全ての画素について、画像データがパノラマ画像p4に書き込まれる。したがって、図2の右列に示される4回目の撮影画像g4に対応して生成されるパノラマ画像p4には、新たに、部分画像s4のうち未合成の画素の画像データが書き込まれる。
ここで、3回目の撮影画像g3が生成されたとき、及び、4回目の撮影画像g4が生成されたときの動き量の判定処理についてより具体的に説明する。
[動き量の検出処理(A):3回目の撮影画像g3の生成時]
図3は、動き量の判定処理について説明する図である。初めに、同図の(A)に示される3回目の撮影画像g3が生成されたときの動き量の判定処理について説明する。図2において前述したとおり、図3の3回目の撮影画像g3において、横線パターンで表される2回目の差分領域D2に含まれる各画素について、2、3回目の撮影画像g2、g3間で第1の動き量の検出が行われる。前述したとおり、第1の動き量とは、2回目の撮影画像g2における画素の座標位置と、3回目の撮影画像g3における対応する画素の座標位置との間の距離を示す。2回目の撮影画像g2の画素に対応する3回目の撮影画像g3の画素は、例えば、ブロックマッチング方式等によって検出される。具体的に、例えば、撮影画像をm×mのブロックに分割し、2回目の撮影画像g2における対象ブロックについて、3回目の撮影画像g3から類似ブロックが探索される。なお、距離は、ベクトルであってもよい。
図3は、動き量の判定処理について説明する図である。初めに、同図の(A)に示される3回目の撮影画像g3が生成されたときの動き量の判定処理について説明する。図2において前述したとおり、図3の3回目の撮影画像g3において、横線パターンで表される2回目の差分領域D2に含まれる各画素について、2、3回目の撮影画像g2、g3間で第1の動き量の検出が行われる。前述したとおり、第1の動き量とは、2回目の撮影画像g2における画素の座標位置と、3回目の撮影画像g3における対応する画素の座標位置との間の距離を示す。2回目の撮影画像g2の画素に対応する3回目の撮影画像g3の画素は、例えば、ブロックマッチング方式等によって検出される。具体的に、例えば、撮影画像をm×mのブロックに分割し、2回目の撮影画像g2における対象ブロックについて、3回目の撮影画像g3から類似ブロックが探索される。なお、距離は、ベクトルであってもよい。
この例において、2回目から3回目の撮影にかけて、撮影方向の変更に基づくデジタルカメラの右方向への移動角度に伴い、撮影領域が右方向にシフトする。これにより、撮影画像内における2回目の差分領域D2の各画素の座標位置が、3回目の撮影画像g3において動き量n分左方向にシフトする。つまり、差分領域D2に含まれる各画素について、2回目の撮影画像g2内における座標位置と、3回目の撮影画像g3内における座標位置との間の距離が、左方向に動き量n分シフトすることを示す。
これは、2、3回目の撮影画像g2、g3間で画像の内容に変更が生じない場合、2回目の差分領域D2に含まれる各画素について検出される第1の動き量nは一律の値となることを示す。また、検出された第1の動き量nは、撮影方向の変更に伴うデジタルカメラの角度移動によって生じる撮影領域の撮影画像における位置の変更距離を示す第2の動き量nと一致することを示す。
しかしながら、2回目の差分領域D2について、2回目の撮影画像g2においては楕円部分に移動物体ZZが写り込んでいるのに対し、3回目の撮影画像g3においては移動物体ZZが写り込んでいない。このため、2回目の差分領域D2の楕円領域に含まれる各画素について、動き量nとは異なる動き量が検出される。より具体的に、2回目の撮影画像g2における楕円領域に含まれる各画素ついて、対応する画素が3回目の撮影画像g3内から検出されないため、第1の動き量は検出されない。
この結果、2回目の差分領域D2に含まれる各画素ついて、楕円を除く領域に含まれる画素の第1の動き量は、デジタルカメラの移動角度に対応する第2の動き量と一致するのに対し、楕円領域に含まれる画素の第1の動き量は第2の動き量と一致しない。そこで、差分画像d2−3の楕円を除く領域の各画素について、第1の動き量と第2の動き量とが一致することから静止画と判定され、画像データがパノラマ画像p3に書き込まれる。
なお、3回目の撮影画像g3における、切り込みパターンで表された3回目の差分領域D3に含まれる画素ついては、2回目の撮影画像g2に対応する領域がない。このため、基本的には、3回目の差分領域D3に含まれる各画素について、第1の動き量は検出されない。ただし、3回目の差分領域D3における楕円領域に含まれる各画素については、2、3回目の撮影画像g2、g3間で、撮影画像内の同一の座標に位置する。即ち、3回目の差分領域D3の楕円領域に含まれる各画素について、座標位置が2、3回目の撮影画像g2、g3間で変化していないことから、第1の動き量として0が検出される。
この結果、3回目の差分領域D3に含まれる各画素の第1の動き量(検出不可、0)は、デジタルカメラの移動角度に対応する第2の動き量nと一致しない。そこで、3回目の差分領域D3に含まれる各画素については、静止画と判定されず、画像データはパノラマ画像p3に書き込まれない。
このように、本実施の形態例における画像撮影装置100は、n回目(n≧3)の撮影時に、n−2回目(図3(A)の例ではn=3、即ち、1回目)からn−1回目(例えば、2回目)に撮影画像に新たに追加された第1の差分画像(例えば、d2−2)と、n回目(例えば、3回目)の撮影画像の第1の差分画像と同じ領域の第2の差分画像(例えば、d2−3)との間の各画素の撮影画像内における位置の距離を示す第1の動き量を検出する。そして、画像撮影装置100は、合成処理として、第2の差分画像(例えば、d2−3)の各画素について、第1の動き量が、n−1回とn回間(例えば、2回と3回間)の撮影方向の変更に対応する第2の動き量(例えば、動き量n)と一致する場合に画素の画像データをパノラマ画像に書き込み、一致しない場合には書き込みを行わない。画像撮影装置100は、この第1の動き量の検出処理と合成処理とを繰り返す。
図3(A)の例では、第2の差分領域D2に含まれる各画素について、2回目の撮影画像g3における第1の差分画像d2−2と、3回目の撮影画像g3における第2の差分画像d2−3とにおいて、楕円を除く領域に含まれる画素については第1の動き量nが検出され、楕円領域に含まれる画素については第1の動き量が検出されない。そこで、第1、2の動き量が一致する差分画像d2−3における楕円を除く領域に含まれる画素について、画像データがパノラマ画像に書き込まれる。
続いて、図3の(B)に示される4回目の撮影画像g4が生成されたときの動き量の判定処理について説明する。
[動き量の検出(B):4回目の撮影画像g4の生成時]
図2において前述したとおり、横線パターンで表される2回目の差分領域D2の各画素、切り込みパターンで表される3回目の差分領域D3に含まれる各画素について、3、4回目の撮影画像g3、g4間で第1の動き量の検出が行われる。同様にして、第1の動き量とは、3回目の撮影画像g3における画素の座標位置と、4回目の撮影画像g4における対応する画素の座標位置との間の距離を示す。なお、距離は、ベクトルであってもよい。
図2において前述したとおり、横線パターンで表される2回目の差分領域D2の各画素、切り込みパターンで表される3回目の差分領域D3に含まれる各画素について、3、4回目の撮影画像g3、g4間で第1の動き量の検出が行われる。同様にして、第1の動き量とは、3回目の撮影画像g3における画素の座標位置と、4回目の撮影画像g4における対応する画素の座標位置との間の距離を示す。なお、距離は、ベクトルであってもよい。
この例において、3回目から4回目の撮影にかけて、撮影方向の変更に基づくデジタルカメラの右方向への移動角度に伴い、撮影画像内における2回目の差分領域D2、及び、3回目の差分領域D3の各画素の座標位置が、それぞれ、4回目の撮影画像g4において動き量n分左方向にシフトする。つまり、差分領域D2、D3に含まれる各画素について、3回目の撮影画像g3内における座標位置と、4回目の撮影画像g4内における座標位置との間の距離が、左方向に動き量n分シフトすることを示す。
これは、3、4回目の撮影画像g3、g4間で画像の内容に変更が生じない場合、2、3回目の差分領域D2、D3に含まれる各画素について検出される第1の動き量nは一律の値となることを示す。また、検出された第1の動き量nは、撮影方向の変更に伴うデジタルカメラの角度移動によって生じる撮影領域の撮影画像における位置の変更距離を示す第2の動き量nと一致することを示す。
この例において、2回目の差分領域D2に含まれる画素ついては、3、4回目の撮影画像g3、g4間で画像の内容に変更がない。このため、2回目の差分領域D2に含まれる各画素ついて、3、4回目の撮影画像g3、g4における第1の動き量は、デジタルカメラの移動角度に対応して生じる第2の動き量と一致する。一方、3回目の差分領域D3について、3回目の撮影画像g3の楕円部分においては移動物体ZZが写り込んでいるのに対し、4回目の撮影画像g4においては移動物体ZZが写り込んでいない。3回目の撮影画像g3における楕円領域含まれる各画素について、対応する画素が4回目の撮影画像g4内から検出されないため、第1の動き量は検出されない。この結果、3回目の差分領域D3に含まれる各画素ついて、楕円を除く領域に含まれる画素の第1の動き量は第2の動き量と一致するのに対し、楕円領域に含まれる画素の第1の動き量は第2の動き量と一致しない。
なお、4回目の撮影画像g4における、縦線パターンで表された4回目の差分領域D4に含まれる各画素ついては、3回目の撮影画像g3に対応する画素がない。このため、基本的には、4回目の差分領域D4に含まれる各画素について、第1の動き量の検出は不可能である。ただし、4回目の差分領域D4の楕円領域に含まれる各画素については、3、4回目の撮影画像g3、g4間で、撮影画像内の同一の座標に位置する。即ち、4回目の差分領域D4の楕円領域に含まれる各画素について、座標位置が3、4回目の撮影画像g3、g4間で変化していないことから、第1の動き量として0が検出される。
この結果、差分画像d2−4の各画素、及び、差分画像d3−4の楕円を除く領域の各画素について、第1の動き量と第2の動き量とが一致することから静止画と判定され、画像データがパノラマ画像p4に書き込まれる。また、4回目の差分領域D4に含まれる各画素については、画像データはパノラマ画像p4に書き込まれない。
このように、本実施の形態例における画像撮影装置100は、n+1回目(例えば、4回)の撮影時に、さらに、パノラマ画像が第1の差分画像(例えば、d2−2)と同じ領域(例えば、第2の差分領域D2)に未書き込み画素を有する場合、さらに、n回目(例えば、3回)の第2の差分画像(例えば、d2−3)と、n+1回目の第1の差分画像と同じ領域の第3の差分画像(例えば、d2−4)との間の各画素の第1の動き量を検出する。そして、画像撮影装置100は、合成処理として、第3の差分画像の各画素について、第1の動き量が、n回とn+1回間(例えば、3回と4回間)の撮影方向の変更に対応する第2の動き量(例えば、動き量n)と一致する場合に画素の画像データをパノラマ画像に書き込み、一致しない場合には書き込みを行わない。画像撮影装置100は、パノラマ画像が未書き込みの画素を有する間、第1の動き量の検出処理と合成処理とを繰り返す。
図3(B)の例では、第2の差分領域D2に含まれる各画素について、3回目の撮影画像g3における第2の差分画像d2−3と、4回目の撮影画像g4における第3の差分画像d2−4とにおいて第1の動き量nが検出される。そこで、差分画像d2−4の第1、2の動き量が一致する画素のうち、未合成の画素についてについて、画像データがパノラマ画像に書き込まれる。
続いて、図2に戻り、5回目以降の撮影画像の撮影時の処理について説明する。
[5回目]
続いて、5回目の撮影画像g5が生成されたときの処理について説明する。同様にして、4回目の撮影から5回目の撮影にかけて変更された撮影方向と同一の方向に、移動物体ZZが移動している。そして、5回目の撮影画像g5における、4回目から5回目に追加された差分領域(以下、5回目の差分領域と称する)D5に、移動物体ZZが写り込んでいる。
続いて、5回目の撮影画像g5が生成されたときの処理について説明する。同様にして、4回目の撮影から5回目の撮影にかけて変更された撮影方向と同一の方向に、移動物体ZZが移動している。そして、5回目の撮影画像g5における、4回目から5回目に追加された差分領域(以下、5回目の差分領域と称する)D5に、移動物体ZZが写り込んでいる。
5回目の撮影画像g5において、5回目の差分領域D5は、網点パターンの矩形で表される。本実施の形態例において、画面合成部38は、5回目の撮影画像g5が生成されたとき、3回目の差分領域D3、及び、4回目の差分領域D4について、4回目の撮影画像g4と5回目の撮影画像g5とを比較して静止画素と判定された画素について、パノラマ画像p5に書き込む。つまり、画面合成部38は、パノラマ画像p4において合成が完了していない4回目までの差分領域D3、D4について、4、5回目の撮影画像g4、g5間の各画素の第1の動き量と、撮影方向の移動に対応する第2の動き量とが一致する画素について、パノラマ画像p5に書き込む。
この例において、3回目の差分領域D3に含まれる全ての画素ついて、4回目の撮影画像g4の差分画像d3−4、5回目の撮影画像g5の差分画像d3−5間における第1の動き量が、撮影方向の変更に対応する第2の動き量と一致する。また、4回目の差分領域D4については、楕円を除く領域の画素について、4回目の撮影画像g4の差分画像d4−4、5回目の撮影画像g5の差分画像d4−5間における第1の動き量が、撮影方向の変更に対応する第2の動き量と一致する。このため、図2の中央列に示される部分画像s5は、3回目の差分画像d3−5、及び、4回目の差分画像d4−5における楕円を除く領域の画像を有する。したがって、図2の右列に示される5回目の撮影画像g5に対応して生成されるパノラマ画像p5には、新たに、部分画像s5のうち未合成の画素に対応する画像が書き込まれる。
ここで、図2の例において、パノラマ画像p1〜p6は、1回目の撮影領域と、2〜4回目の差分領域D2〜D4とによって構成される。このため、画像撮影装置100は、パノラマ画像における2〜4回目の差分領域D2〜D4に含まれる画素について、未合成の画素を示すランダムパターンを有する画素がなくなるまで、第1の動き量の検出処理、及び、合成処理を繰り返す。この例において、パノラマ画像p5は、6回目以降の差分領域を含まないものの4回目の差分領域に未合成の画素を有するため、さらに6回目の撮影画像g6を生成し、4回目の差分領域D4について、5、6回目の撮影画像g5、g6間における各画素の第1の動き量の検出処理を行う。
[6回目]
続いて、6回目の撮影画像g6が生成されたときの処理について説明する。同様にして、5回目の撮影から6回目の撮影にかけて変更された撮影方向と同一の方向に、移動物体ZZが移動している。そして、6回目の撮影画像g6における、5回目から6回目に追加された差分領域(以下、6回目の差分領域と称する)D6に、移動物体ZZが写り込んでいる。
続いて、6回目の撮影画像g6が生成されたときの処理について説明する。同様にして、5回目の撮影から6回目の撮影にかけて変更された撮影方向と同一の方向に、移動物体ZZが移動している。そして、6回目の撮影画像g6における、5回目から6回目に追加された差分領域(以下、6回目の差分領域と称する)D6に、移動物体ZZが写り込んでいる。
6回目の撮影画像g6において、6回目の差分領域D6は、斜線パターンの矩形で表される。本実施の形態例において、画面合成部38は、パノラマ画像p5において、4回目までの差分領域D2〜D4のうち合成が完了していない差分領域について、5回目の撮影画像g5と6回目の撮影画像g6とを比較して静止画素と判定された画素について、画像データをパノラマ画像p6に書き込む。そこで、画面合成部38は、4回目の差分領域D4に含まれる未合成画素ついて、5、6回目の撮影画像g5、g6間の第1動き量と、撮影方向の移動に対応する第2動き量とを比較する。
この例において、4回目の差分領域D4に含まれる全ての画素ついて、5回目の撮影画像g5の差分画像d4−5、6回目の撮影画像g6の差分画像d4−6間における第1の動き量が、撮影方向の変更に対応する第2の動き量と一致する。このため、この例では、図2の中央列に示される部分画像s6は、4回目の差分画像d4−6を有する。したがって、図2の右列に示される6回目の撮影画像g6に対応して生成されるパノラマ画像p6には、新たに、4回目の差分画像d4−6のうち未合成画素の画像データが書き込まれる。
このようにして、1回目から6回目の撮影画像g1〜g6に基づいて、パノラマ画像p6が生成される。この例において、移動物体ZZの画像はパノラマ画像p6に含まれていない。このように、同図のように、2〜6回目の撮影画像g2〜g6のそれぞれに移動物体ZZが写り込んでいる場合であっても、パノラマ画像p6には移動物体ZZが写り込まず、同一の移動物体ZZがパノラマ画像p6に重複して写り込むことが回避される。
なお、この例では、移動物体ZZが写り込まないパノラマ画像p6が生成される。しかしながら、画像撮影装置100は、移動物体ZZが1つ写り込むパノラマ画像p6を生成してもよい。この場合、画像撮影装置100は、例えば、パノラマ画像に書き込まれる最終の差分領域D4(以下、最終差分領域と証する)については、第1の動き量に基づいて判定することなく、全ての画素の画像データをパノラマ画像p6に書き込む。具体的に、画像撮影装置100は、4回目の撮影画像g4の生成時に、差分画像d4−4を全てパノラマ画像p4に書き込む。これにより、パノラマ画像の最終差分領域に、移動物体ZZを含む差分画像d4−4が合成される。これにより、1つの移動物体ZZが写り込んだパノラマ画像が生成される。
続いて、図2、3によって説明した画像撮影装置100の処理について、フローチャート図にしたがって説明する。
[パノラマ画像生成処理の流れ]
図4は、本実施の形態例における画像撮影装置100のパノラマ画像生成処理について説明するフローチャート図である。なお、初め、パノラマ画像は、全ての画素について、デフォルトの情報としてランダムパターンを有する。ランダムパターンは、未合成の画素であることを示す所定のデータである。この例では、図4のフローチャート図の処理を、図2で説明したパノラマ画像の生成処理に基づいて説明する。
図4は、本実施の形態例における画像撮影装置100のパノラマ画像生成処理について説明するフローチャート図である。なお、初め、パノラマ画像は、全ての画素について、デフォルトの情報としてランダムパターンを有する。ランダムパターンは、未合成の画素であることを示す所定のデータである。この例では、図4のフローチャート図の処理を、図2で説明したパノラマ画像の生成処理に基づいて説明する。
[1回目]
初めに、画像撮影装置100の撮影制御部11は、撮像部12を制御して1回目の撮影処理を実行させる(S11)。そして、信号処理部13及び画像処理部14の処理が行われ、1回目の撮影画像g1が生成される。このとき、1回目の撮影画像g1については、全ての画素について、画像データがパノラマ画像p1に書き込まれメモリ16に記憶される。
初めに、画像撮影装置100の撮影制御部11は、撮像部12を制御して1回目の撮影処理を実行させる(S11)。そして、信号処理部13及び画像処理部14の処理が行われ、1回目の撮影画像g1が生成される。このとき、1回目の撮影画像g1については、全ての画素について、画像データがパノラマ画像p1に書き込まれメモリ16に記憶される。
[2回目]
続いて、撮影制御部11は、画像撮影装置100の撮影方向を移動させる(S12)。このとき、移動量算出部32は、移動速度算出部33によって算出された移動量、角度情報に基づいて、撮影方向の移動に伴う移動量を検出し(S14)、例えば、積分した移動量がパノラマ画像モードで予め設定された所定の移動量に達したときに、撮影制御部11に撮影指示を行う。撮影指示が行われると、撮影制御部11は、撮像部12を制御して2回目の撮影処理を実行させる(S13)。同様にして、2回目の撮影画像g2が生成される。
続いて、撮影制御部11は、画像撮影装置100の撮影方向を移動させる(S12)。このとき、移動量算出部32は、移動速度算出部33によって算出された移動量、角度情報に基づいて、撮影方向の移動に伴う移動量を検出し(S14)、例えば、積分した移動量がパノラマ画像モードで予め設定された所定の移動量に達したときに、撮影制御部11に撮影指示を行う。撮影指示が行われると、撮影制御部11は、撮像部12を制御して2回目の撮影処理を実行させる(S13)。同様にして、2回目の撮影画像g2が生成される。
続いて、画像撮影装置100のランダムパターン検出部30は、パノラマ画像p1が、2回目の差分領域D2内に、ランダムパターンを有するか否かを判定する(S16)。つまり、ランダムパターン検出部30は、パノラマ画像における2回目の差分領域D2に、未合成の画素が存在するか否かを判定する。この場合、パノラマ画像における2回目の差分領域D2は、未だ合成されていない領域であるため、ランダムパターンが検出される(S16のYES)。
そこで、移動分検出部31は、2回目の撮影画像g2における2回目の差分領域D2に対応する差分画像d2−2を、移動分メモリPmに記憶する(S19)。次に、第1の動き量検出部37は、移動分メモリPmに記憶された2回目の撮影画像g2における差分画像d2−2の各画素について、1回目の撮影画像g1との撮影画像上における座標位置の距離を第1の動き量として検出する(S20)。ただし、2回目の差分領域D2は、1回目の撮影画像g1に含まれないため、第1の動き量は検出されない。
一方、第2の動き量変換部35は、移動量算出部32によって算出された撮影方向の変更による移動量を、第1の動き量と同じ単位の第2の動き量に変換する(S15)。前述したとおり、この例において、各回における撮影方向の変更量は一定に設定される。このため、第2の動き量は、1回だけ取得されてもよいし、予め設定されてもよい。ただし、各回における撮影方向の変更量は、一定である必要はない。
続いて、動き量比較部36は、第1の動き量と第2の動き量とを比較して、一致するか否かを判定する(S21)。この場合、2回目の差分領域D2に係る第1の動き量は検出されないため、動き量は一致しない(S21のNO)。このため、パノラマ画像への合成は行われず(S22)、続いて、撮影方向の移動距離が最終距離に到達したか否かが判定される(S24)。この場合、未だ、移動距離が最終距離に到達していないため(S24のNO)、続いて、3回目の撮影のため、撮影方向の移動工程が行われる(S12)。同様にして、移動量算出部32によって、移動量に基づく撮影指示が行われると、撮影制御部11は、撮像部12を制御して3回目の撮影処理を実行させる(S13)。同様にして、3回目の撮影画像g3が生成される。
[3回目]
続いて、ランダムパターン検出部30は、パノラマ画像p2が、3回目までの差分領域(2回目の差分領域D2、及び、3回目の差分領域D3)に、ランダムパターンを有するか否かを判定する(S16)。この場合、パノラマ画像p2における2、3回目の差分領域D2、D3は、未だ合成が完了していない領域であるため、ランダムパターンが検出される(S16のYES)。
続いて、ランダムパターン検出部30は、パノラマ画像p2が、3回目までの差分領域(2回目の差分領域D2、及び、3回目の差分領域D3)に、ランダムパターンを有するか否かを判定する(S16)。この場合、パノラマ画像p2における2、3回目の差分領域D2、D3は、未だ合成が完了していない領域であるため、ランダムパターンが検出される(S16のYES)。
そこで、移動分検出部31は、3回目の撮影画像g3における2回目の差分領域D2に対応する差分画像d2−3、及び、3回目の差分領域D3に対応する差分画像d3−3を、移動分メモリPmに記憶する(S19)。そして、第1の動き量検出部37は、移動分メモリPmに記憶された3回目の撮影画像g3における差分画像d2−3、及び、差分画像d3−3の各画素ついて、2回目の撮影画像g2の差分画像d2−2との撮影画像上における座標位置の距離を第1の動き量として検出する(S20)。これにより、例えば、2回目の差分領域D2について、図2の中央列に示した、差分画像d2−3における楕円を除く領域の画素について動き量nが、第1の動き量として検出される。
一方、第2の動き量変換部35は、同様にして、移動量算出部32によって算出された移動量を第2の動き量に変換し(S15)、動き量比較部36は、第1の動き量と第2の動き量とを比較して、一致するか否かを判定する(S21)。この例において、図2の中央列に示された、2回目の差分領域D2の差分画像d2−3における楕円を除く領域の画素について、第1の動き量と第2の動き量とが一致する(S21のYES)。このため、差分画像d2−3における楕円を除く領域の画素について、パノラマ画像に書き込まれ合成される(S23)。また、差分画像d2−3における楕円領域、及び、3回目の差分領域D3の差分画像d3−3の画素については、第2の動き量と一致しないことから(S21のNO)、パノラマ画像への合成は行われない(S22)。
そして、撮影方向の移動距離が最終距離に到達したか否かが判定され(S24)、未だ、移動距離が到達していないことから(S24のNO)、4回目の撮影のための、撮影方向の移動工程が行われる(S12)。同様にして、移動量算出部32によって撮影指示が行われると、撮影制御部11は、撮像部12を制御して4回目の撮影処理を実行させ(S13)、4回目の撮影画像g4が生成される。
[4回目]
続いて、ランダムパターン検出部30は、パノラマ画像p3が、4回目までの差分領域(2回目の差分領域D2、3回目の差分領域D3、及び、4回目の差分領域D4)に、ランダムパターンを有するか否かを判定する(S16)。この場合、パノラマ画像p3における2〜4回目の差分領域D2〜D4は、未だ合成が完了していない領域であるため、ランダムパターンが検出される(S16のYES)。
続いて、ランダムパターン検出部30は、パノラマ画像p3が、4回目までの差分領域(2回目の差分領域D2、3回目の差分領域D3、及び、4回目の差分領域D4)に、ランダムパターンを有するか否かを判定する(S16)。この場合、パノラマ画像p3における2〜4回目の差分領域D2〜D4は、未だ合成が完了していない領域であるため、ランダムパターンが検出される(S16のYES)。
そこで、移動分検出部31は、4回目の撮影画像g4における2〜4回目の差分領域D2〜D4に対応する各差分画像d2−4、d3−4、d4−4を、移動分メモリPmに記憶する(S19)。そして、第1の動き量検出部37は、移動分メモリPmに記憶された各差分画像d2−4、d3−4、d4−4の各画素について、3回目の撮影画像g3の差分画像d2−3、d3−3との撮影画像上における座標位置の距離を第1の動き量として検出する(S20)。これにより、例えば、各差分画像d2−4、d3−4、d4−4のうち、図2の中央列に示した部分画像s4の画素について、第2の動き量と同一の第1の動き量nが検出される。
同様にして、第2の動き量変換部35は、移動量算出部32によって算出された移動量を第2の動き量に変換し(S15)、動き量比較部36は、第1の動き量と第2の動き量とを比較して、一致するか否かを判定する(S21)。この例において、図2の中央列に示された、部分画像s4の画素について、第1の動き量と第2の動き量とが一致し(S21のYES)、未合成の画素についてパノラマ画像に合成される(S23)。また、第1の動き量と第2の動き量とが一致しない部分画像s4以外の差分画像については(S21のNO)、パノラマ画像への合成が行われない(S22)。
[5回目]
同様にして、未だ、移動距離が到達していないため(S24のNO)、続いて、5回目の撮影のための撮影方向の移動工程が行われ(S12)、5回目の撮影処理が実行され(S13)、5回目の撮影画像g5が生成される。
同様にして、未だ、移動距離が到達していないため(S24のNO)、続いて、5回目の撮影のための撮影方向の移動工程が行われ(S12)、5回目の撮影処理が実行され(S13)、5回目の撮影画像g5が生成される。
パノラマ画像には、5回目以降の差分領域が含まれない。このため、ランダムパターン検出部30は、パノラマ画像が、4回目までの差分領域(2〜4回目の差分領域D2〜D4)に、ランダムパターンを有するか否かを判定する(S16)。このとき、パノラマ画像における2回目の差分領域D2に含まれる画素は全て合成済みであるため、ランダムパターンが検出されない(S16のNO)。これにより、移動分メモリPmのうち、2回目の差分領域D2に対応する差分画像が記憶された移動分メモリPmが解放される(S17)。そして、次の撮影画像に対応する差分画像のために切り替えられる(S18)。
このように、本実施の形態例における画像撮影装置100によると、各撮影画像のうち、差分画像についてのみ移動分メモリPmに記憶されると共に、移動分メモリPmに記憶された合成が完了した差分領域に対応する差分画像が解放される。これにより、同一の被写体が重複して写り込むことを回避したパノラマ画像の生成処理において、使用するメモリ容量が抑えられる。
なお、例えば、5回目の撮影画像g5の処理では、4、5回目の撮影画像g4、g5の差分画像に基づいて第1の動き量が検出されるため、2、3回目の撮影画像g2、g3における差分画像は使用されない。このため、例えば、5回目の撮影画像g5の生成処理の前に、2、3回目の撮影画像における各差分画像が移動分メモリPmから解放されてもよい。例えば、画像撮影装置100は、n回目の撮影画像を生成する前に、移動分メモリPmに記憶された差分画像のうち、n−2回目までの撮影画像の差分画像を解放してもよい。これにより、使用するメモリ容量がさらに抑えられる。
図4のフローチャート図に戻り、2回目の差分領域D2に対して、3、4回目の差分領域D3、D4は未だ合成が完了していない領域であるため、ランダムパターンが検出され(S16のYES)、5回目の撮影画像g5における対応する差分画像d3−5、d4−5が移動分メモリPmに記憶される(S19)。そして、同様にして、移動分メモリPmに記憶された各差分画像d3−5、d4−5の各画素について、4回目の撮影画像g4の差分画像d3−4、4−4との撮影画像上における座標位置の距離が第1の動き量として検出され(S20)、第2の動き量と比較される。続く各工程(S21〜S24)については、同様である。
[6回目]
そして、6回目の撮影画像g6が生成されると(S12、S13)、パノラマ画像が4回目までの差分領域(2〜4回目の差分領域D2〜D4)に、ランダムパターンを有するか否かが判定される(S16)。そして、3回目の差分領域D3に対応する各差分画像が記憶された移動分メモリが解放されると共に(S16のNO、S17、S18)、6回目の撮影画像g6における4回目の差分領域D4に対応する差分画像d4−6が移動分メモリPmに新たに記憶される(S16のYES、S19)。そして、同様にして、移動分メモリPmに記憶された差分画像d4−6の各画素について、5回目の撮影画像g5の差分画像d4−5との撮影画像上における座標位置の距離が第1の動き量として検出され(S20)、第2の動き量と比較される。
そして、6回目の撮影画像g6が生成されると(S12、S13)、パノラマ画像が4回目までの差分領域(2〜4回目の差分領域D2〜D4)に、ランダムパターンを有するか否かが判定される(S16)。そして、3回目の差分領域D3に対応する各差分画像が記憶された移動分メモリが解放されると共に(S16のNO、S17、S18)、6回目の撮影画像g6における4回目の差分領域D4に対応する差分画像d4−6が移動分メモリPmに新たに記憶される(S16のYES、S19)。そして、同様にして、移動分メモリPmに記憶された差分画像d4−6の各画素について、5回目の撮影画像g5の差分画像d4−5との撮影画像上における座標位置の距離が第1の動き量として検出され(S20)、第2の動き量と比較される。
このとき、4回目の差分領域D4に含まれる全ての画素について、第1、2の動き量が一致し(S21のYES)、パノラマ画像に合成される。これにより、パノラマ画像の全ての画素について、合成が完了する。また、このとき、移動距離が最終距離に到達し(S24のYES)、パノラマ画像の生成処理が終了する。
なお、図4のフローチャート図では、移動距離が最終距離に到達した場合に(S24のYES)、パノラマ画像の生成処理を終了しているが、画像撮影装置100は、パノラマ画像における未合成の画素がなくなったときに、パノラマ画像の生成処理を終了してもよい。なお、画像撮影装置100は、前述したとおり、パノラマ画像における最終差分領域(この例では、差分領域D4)について、動き量の検出及び判定を行うことなく、全ての画素(この例では、差分画像d4−4の画素)についてパノラマ画像に合成してもよい。
以上のようにして、本実施の形態例における画像撮影装置100は、n回目の撮影時に、本実施の形態例における画像撮影装置100は、n−2(n≧3)回目(例えば、1回目)からn−1回目(例えば、2回目)に撮影画像に新たに追加された第1の差分画像と、n回目(例えば、3回目)の撮影画像の第1の差分画像と同じ領域の第2の差分画像との間の各画素の撮影画像内における位置の距離を示す第1の動き量を検出する。
そして、画像撮影装置100は、合成処理として、第2の差分画像の各画素について、第1の動き量が、n−1回とn回間(例えば、2回と3回間)の撮影方向の変更に対応する第2の動き量(例えば、動き量n)と一致する場合に画素の画像データをパノラマ画像に書き込み、一致しない場合には書き込みを行わない。画像撮影装置100は、この第1の動き量の検出処理と合成処理とを繰り返す。
このように、画像撮影装置100は、前後の撮影画像の差分画像の各画素について、前回と今回の撮影画像間における撮影画像上の座標位置の距離を示す第1の動き量が、撮影方向の変更に対応する第2の動き量と一致する画素を静止画として検出し、パノラマ画像に書き込む。このため、移動物体の画像を除く静止画のみがパノラマ画像に書き込まれる。これにより、画像撮影装置100は、複数の撮影画像に移動物体が重複して写り込んでいる場合であっても、移動物体を除く画像を効率的に検出することにより、同一の移動物体が重複して写り込むことが回避されたパノラマ画像を効率的に生成することができる。これにより、矛盾を有するパノラマ画像が生成されることが回避される。
また、本実施の形態例における画像撮影装置100はメモリ(この例では、移動分メモリPm)を有し、メモリには、n回目の撮影時に、第n−1回目(例えば、2回目)の撮影画像における第1の差分画像、n回目(例えば、3回目)の撮影画像における第2の差分画像が記憶される。また、このとき、メモリには、n−1回目の撮影画像における第1の差分画像を除く画像、及び、n回目の撮影画像における第2の差分画像を除く画像は記憶されない。
即ち、本実施の形態例における画像撮影装置100は、同一の移動物体が重複して写り込まないパノラマ画像を生成するにあたり、各撮影画像を全てメモリに記憶させる必要がない。画像撮影装置100は、メモリに記憶された前後回の撮影画像の一部である第1、2の差分画像に基づいて合成対象の画素を検出可能である。このため、画像撮影装置100は、使用するメモリ容量を最小限に抑えながら、同一の移動物体が重複して写り込まないパノラマ画像を生成することができる。
また、本実施の形態例における画像撮影装置100は、パノラマ画像が第1の差分画像と同じ領域(例えば、第2の差分領域)に未書き込み画素を有する場合、さらに、n回目(例えば、3回)の第2の差分画像と、n+1回目(例えば、4回)の第1の差分画像と同じ領域の第3の差分画像との間の各画素の第1の動き量を検出する。そして、画像撮影装置100は、合成処理として、第3の差分画像の各画素について、第1の動き量が、n回とn+1回間(例えば、3回と4回間)の撮影方向の変更に対応する第2の動き量(例えば、動き量n)と一致する場合に画素の画像データをパノラマ画像に書き込み、一致しない場合には書き込みを行わない。画像撮影装置100は、パノラマ画像が未書き込みの画素を有する間、第1の動き量の検出処理と合成処理とを繰り返す。
このように、画像撮影装置100は、パノラマ画像が未合成の画素を有する間、未合成の画素が位置する差分領域に含まれる各画素について、前回と今回の撮影画像間における第1の動き量が第2の動き量と一致する画素を検出しパノラマ画像に書き込む処理を繰り返す。これにより、画像撮影装置100は、複数の撮影画像のある撮影領域(差分領域)に移動物体が連続して写り込む場合であっても、移動物体を除く静止画を効率的に検出、合成することができ、同一の移動物体が重複して写り込むことが回避されたパノラマ画像を効率的に生成することができる。これにより、移動物体が複数の撮影画像における同差分領域に連続して写り込む場合であっても、矛盾を有するパノラマ画像が生成されることが回避される。
また、本実施の形態例における画像撮影装置100は、パノラマ画像における未書き込みであることを示す未合成画素に注目し、未合成画素がある領域について、第1の動き量の検出処理及び合成処理を繰り返す。これにより、画像撮影装置100は、未書き込みの画素に基づいて、移動物体が写り込んだ差分領域を認識することができ、当該差分領域を対象として静止画の合成を行うことができる。また、画像撮影装置100は、撮影方向を戻して、再度、合成が完了しない差分領域について、第1の動き量の検出処理及び合成処理を繰り返してもよい。
また、本実施の形態例における画像撮影装置100はメモリ(この例では、移動分メモリPm)を有し、メモリには、n回目(例えば、3回目)の撮影時に、第n−1回目(例えば、2回目)の撮影画像における第1の差分画像と第2の差分画像とが記憶され、n−1回目の撮影画像における第1の差分画像を除く画像、及び、n回目の撮影画像における第2の差分画像を除く画像は記憶されない。また、メモリには、n+1回目(例えば、4回目)の撮影時に、第2の差分画像と、n+1回目の撮影画像における第3の差分画像とが記憶され、n回目の撮影画像における第2の差分画像を除く画像、及び、n+1回目の撮影画像における第3の差分画像を除く画像は記憶されない。
つまり、本実施の形態例における画像撮影装置100は、同一の移動物体が重複して写り込まないパノラマ画像を生成するにあたり、n−1回目からn+1回目までの撮影画像を全てメモリに記憶させることなく、n−1回目、n回目の撮影画像の一部である第1、2の差分画像、または、n回目、n+1回目の撮影画像の一部である第2、3の差分画像をメモリに記憶させればよい。画像撮影装置100は、必要最小限の差分画像に基づいて、合成対象となる静止画素を検出することができる。このため、画像撮影装置100は、使用するメモリ容量を最小限に抑えながら、同一の移動物体が重複して写り込まないパノラマ画像を生成することができる。
さらに、本実施の形態例における画像撮影装置100の合成処理において、パノラマ画像の第1の差分画像と同じ領域に全ての画素が書き込まれたとき、第1の差分画像と同じ領域のすべての差分画像をメモリから削除する。つまり、第1の差分領域に含まれる全ての画素についてパノラマ画像への書き込みが完了したとき、第1の差分領域に対応する差分画像が全てメモリから削除される。これにより、画像撮影装置100は、使用するメモリ容量をさらに効率的に抑えながら、同一の移動物体が重複して写り込まないパノラマ画像を生成することができる。
なお、本実施の形態例の画像撮影装置100は、1回目の撮影時に生成される1回目の撮影画像g1について、全ての画素の画像データをパノラマ画像に書き込む。しかしながら、画像撮影装置100は、1回目の撮影画像g1の画素の画像データをパノラマ画像に書き込まなくてもよい。例えば、画像撮影装置100は、各差分画像のうち、静止画と判定された画素の画像データのみをパノラマ画像に書き込む。
具体的に、画像撮影装置100は、例えば、図2の例において、1回目の撮影画像g1の各画素の画像データをパノラマ画像p1に書き込まない。そして、画像撮影装置100は、3回目の撮影画像g3の生成時から、検出された静止画を示す部分画像s3をパノラマ画像に合成していく。そして、パノラマ画像における未合成の画素がなくなるまで、第1の動き量の検出処理、及び、合成処理を繰り返す。つまり、パノラマ画像には、静止画と判定された画素についてのみ書き込まれる。これにより、例えば、移動物体が1回目の撮影画像g1に写り込んでいるような場合であっても、移動物体がパノラマ画像に合成されることが回避される。
[別のパノラマ画像の例]
なお、本実施の形態例における画像撮影装置100におけるパノラマ画像の生成処理は、移動物体がいずれの速度で移動する場合であっても適用可能である。例えば、移動物体の移動速度がより速い場合は、図2で示した2回目から6回目の撮影画像g2〜g6のうち、一部の撮影画像にのみ移動物体が写り込む。このため、画像撮影装置100は、同様の工程を行うことにより、パノラマ画像に同一の被写体が複数写り込むことを効果的に防止すると共に、使用するメモリの容量を抑えることができる。
なお、本実施の形態例における画像撮影装置100におけるパノラマ画像の生成処理は、移動物体がいずれの速度で移動する場合であっても適用可能である。例えば、移動物体の移動速度がより速い場合は、図2で示した2回目から6回目の撮影画像g2〜g6のうち、一部の撮影画像にのみ移動物体が写り込む。このため、画像撮影装置100は、同様の工程を行うことにより、パノラマ画像に同一の被写体が複数写り込むことを効果的に防止すると共に、使用するメモリの容量を抑えることができる。
一方、移動物体の移動速度がより遅い場合は、図2と同様にして、2回目から6回目の撮影画像g2〜g6の全ての撮影画像に移動物体が写り込む。ただし、移動物体の移動速度がより遅い場合は、差分領域の合成に要する撮影画像の数が多くなることがある。この場合についても同様にして、画像撮影装置100は、パノラマ画像に同一の被写体が複数写り込むことを効果的に防止すると共に、使用するメモリの容量を抑えることができる。ここで、図2で示したパノラマ画像に対して、移動物体の移動速度がより遅いパノラマ画像の生成処理について説明する。
図5は、図2で示したパノラマ画像に対して、移動物体ZZの移動速度がより遅いパノラマ画像の生成処理について説明する図である。図2と同様にして、移動物体ZZは、撮影方向の移動方向と同一の方向に移動する。ただし、図5のパノラマ画像では、図2で示したパノラマ画像に対して、移動物体ZZの移動速度が遅い。このため、3回目の撮影画像g3において、図2の例では移動物体ZZが3回目の差分領域D3に写り込んでいるのに対し、図5の例では2回目の差分領域D2と3回目の差分領域D3の間に写り込む。
[1回目、2回目]
図2のパノラマ画像と同様にして、画面合成部38は、1回目の撮影画像g1については、全ての画素についてパノラマ画像に書き込む。また、画面合成部38は、2回目の撮影画像g2について、パノラマ画像への合成処理を行わない。
図2のパノラマ画像と同様にして、画面合成部38は、1回目の撮影画像g1については、全ての画素についてパノラマ画像に書き込む。また、画面合成部38は、2回目の撮影画像g2について、パノラマ画像への合成処理を行わない。
[3回目]
続いて、3回目の撮影画像g3が生成されたとき、画面合成部38は、2回目の差分領域D2に含まれる各画素について、2、3回目の撮影画像g2、g3間における第1の動き量を検出し、第2の動き量と一致する画素の画像データをパノラマ画像p3に書き込む。この例において、図5の中央列に示される3回目の撮影画像g3に対応する部分画像s3の各画素について、静止画と判定されパノラマ画像p3に合成される。
続いて、3回目の撮影画像g3が生成されたとき、画面合成部38は、2回目の差分領域D2に含まれる各画素について、2、3回目の撮影画像g2、g3間における第1の動き量を検出し、第2の動き量と一致する画素の画像データをパノラマ画像p3に書き込む。この例において、図5の中央列に示される3回目の撮影画像g3に対応する部分画像s3の各画素について、静止画と判定されパノラマ画像p3に合成される。
[4回目]
次に、4回目の撮影画像g4が生成されたとき、画面合成部38は、2、3回目の差分領域D2、D3に含まれる各画素ついて、3、4回目の撮影画像g3、g4間における第1の動き量を検出し、第2の動き量と一致する画素の画像データをパノラマ画像p4に書き込む。この例において、図5の中央列に示される4回目の撮影画像g4に対応する部分画像s4の各画素について、静止画と判定されパノラマ画像p4に合成される。図5の例では、移動物体ZZの移動速度が遅いため、図2の例では、4回目の撮影画像g4の生成時に2回目の差分領域D2の合成が完了するのに対し、図5の例では、未だ2回目の差分領域D2の合成が完了しない。
次に、4回目の撮影画像g4が生成されたとき、画面合成部38は、2、3回目の差分領域D2、D3に含まれる各画素ついて、3、4回目の撮影画像g3、g4間における第1の動き量を検出し、第2の動き量と一致する画素の画像データをパノラマ画像p4に書き込む。この例において、図5の中央列に示される4回目の撮影画像g4に対応する部分画像s4の各画素について、静止画と判定されパノラマ画像p4に合成される。図5の例では、移動物体ZZの移動速度が遅いため、図2の例では、4回目の撮影画像g4の生成時に2回目の差分領域D2の合成が完了するのに対し、図5の例では、未だ2回目の差分領域D2の合成が完了しない。
[5回目]
次に、5回目の撮影画像g5が生成されたとき、画面合成部38は、2〜4回目の差分領域D2〜D4に含まれる各画素ついて、4、5回目の撮影画像g4、g5間における第1の動き量を検出し、第2の動き量と一致する画素の画像データをパノラマ画像p5に書き込む。この例において、図5の中央列に示される5回目の撮影画像g5に対応する部分画像s5の各画素について、静止画と判定されパノラマ画像p5に合成される。図5の例では、2回目の差分領域D2の合成処理が、5回目の撮影画像g5の生成時に完了する。このように、移動物体の移動速度が遅い場合、1つの差分領域に含まれる各画素の合成が完了するまで時間を要する。このため、移動分メモリPmに格納される差分画像も多くなる。
次に、5回目の撮影画像g5が生成されたとき、画面合成部38は、2〜4回目の差分領域D2〜D4に含まれる各画素ついて、4、5回目の撮影画像g4、g5間における第1の動き量を検出し、第2の動き量と一致する画素の画像データをパノラマ画像p5に書き込む。この例において、図5の中央列に示される5回目の撮影画像g5に対応する部分画像s5の各画素について、静止画と判定されパノラマ画像p5に合成される。図5の例では、2回目の差分領域D2の合成処理が、5回目の撮影画像g5の生成時に完了する。このように、移動物体の移動速度が遅い場合、1つの差分領域に含まれる各画素の合成が完了するまで時間を要する。このため、移動分メモリPmに格納される差分画像も多くなる。
[6回目以降]
6回目以降の撮影画像についても同様である。図5の例では、画像撮影装置100は、例えば、8回目の撮影画像(図示せず)が生成されたとき、縦線パターンで示される4回目の差分領域D4(最終差分領域)に含まれる全ての画素の合成が完了する。このように、最終差分領域(4回目の差分領域D4)の合成が、図2の例では6回目の撮影画像g6の生成時に完了したのに対し、図5の例では、移動物体の移動速度が遅いことにより、8回目の撮影画像の生成時に完了する。
6回目以降の撮影画像についても同様である。図5の例では、画像撮影装置100は、例えば、8回目の撮影画像(図示せず)が生成されたとき、縦線パターンで示される4回目の差分領域D4(最終差分領域)に含まれる全ての画素の合成が完了する。このように、最終差分領域(4回目の差分領域D4)の合成が、図2の例では6回目の撮影画像g6の生成時に完了したのに対し、図5の例では、移動物体の移動速度が遅いことにより、8回目の撮影画像の生成時に完了する。
または、画像撮影装置100は、例えば、パノラマ画像に書き込まれる最終差分領域D4については、7回目の撮影画像g7の生成時に、差分画像d4−7を全てパノラマ画像に書き込んでもよい。これにより、1つの移動物体ZZが差分領域D4に写り込んだパノラマ画像が生成される。
以上のように、本実施の形態例における画像撮影装置100は、移動物体ZZの速度がより遅い場合、及び、より速い場合であっても、移動物体が写り込んでいない画素を効率的に検出し合成することにより、同一の移動物体が重複して写り込まないパノラマ画像を効率的に生成することができる。また、画像撮影装置100は、使用するメモリ容量を最小限に抑えながら、同一の移動物体が重複して写り込んでいないパノラマ画像を生成することができる。
なお、本実施の形態例における第1の動き量検出処理、及び、合成処理は、コンピュータ読み取り可能な記録媒体にプログラムとして記憶され、当該プログラムをコンピュータが読み出して実行することによって行われてもよい。
以上の実施の形態をまとめると、次の付記のとおりである。
(付記1)
撮影方向を変更しながら順次、撮影した複数の撮影画像を合成してパノラマ画像を生成する画像撮影装置において、
n(n≧3)回目の撮影時に、
n−2回目からn−1回目に前記撮影画像に新たに追加された第1の差分画像と、前記n回目の前記撮影画像の前記第1の差分画像と同じ領域の第2の差分画像との間の各画素の前記撮影画像内における位置の距離を示す第1の動き量を検出する検出手段と、
前記第2の差分画像の各画素について、前記第1の動き量が、前記n−1回と前記n回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込まない合成手段と、を有し、
前記検出手段及び前記合成手段が、前記n回目の撮影時の処理を繰り返す画像撮影装置。
撮影方向を変更しながら順次、撮影した複数の撮影画像を合成してパノラマ画像を生成する画像撮影装置において、
n(n≧3)回目の撮影時に、
n−2回目からn−1回目に前記撮影画像に新たに追加された第1の差分画像と、前記n回目の前記撮影画像の前記第1の差分画像と同じ領域の第2の差分画像との間の各画素の前記撮影画像内における位置の距離を示す第1の動き量を検出する検出手段と、
前記第2の差分画像の各画素について、前記第1の動き量が、前記n−1回と前記n回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込まない合成手段と、を有し、
前記検出手段及び前記合成手段が、前記n回目の撮影時の処理を繰り返す画像撮影装置。
(付記2)
付記1において、
n+1回目の撮影時に、
前記検出手段は、前記パノラマ画像が前記第1の差分画像と同じ領域に未書き込み画素を有する場合、さらに、前記n回目の前記第2の差分画像と、n+1回目の前記第1の差分画像と同じ領域の第3の差分画像との間の各画素の前記第1の動き量を検出し、
前記合成手段は、さらに、前記第3の差分画像の各画素について、前記第1の動き量が、前記n回と前記n+1回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込みを行わず、
前記パノラマ画像が未書き込みの画素を有する間、前記検出手段及び合成手段が、前記n+1回目の撮影時の処理を繰り返す画像撮影装置。
付記1において、
n+1回目の撮影時に、
前記検出手段は、前記パノラマ画像が前記第1の差分画像と同じ領域に未書き込み画素を有する場合、さらに、前記n回目の前記第2の差分画像と、n+1回目の前記第1の差分画像と同じ領域の第3の差分画像との間の各画素の前記第1の動き量を検出し、
前記合成手段は、さらに、前記第3の差分画像の各画素について、前記第1の動き量が、前記n回と前記n+1回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込みを行わず、
前記パノラマ画像が未書き込みの画素を有する間、前記検出手段及び合成手段が、前記n+1回目の撮影時の処理を繰り返す画像撮影装置。
(付記3)
付記1において、
前記画像撮影装置はメモリを有し、
前記メモリには、前記n回目の撮影時に、前記第n−1回目の撮影画像における前記第1の差分画像と、前記n回目の撮影画像における第2の差分画像とが記憶され、前記n−1回目の撮影画像における前記第1の差分画像を除く画像、及び、前記n回目の撮影画像における前記第2の差分画像を除く画像は記憶されない画像撮影装置。
付記1において、
前記画像撮影装置はメモリを有し、
前記メモリには、前記n回目の撮影時に、前記第n−1回目の撮影画像における前記第1の差分画像と、前記n回目の撮影画像における第2の差分画像とが記憶され、前記n−1回目の撮影画像における前記第1の差分画像を除く画像、及び、前記n回目の撮影画像における前記第2の差分画像を除く画像は記憶されない画像撮影装置。
(付記4)
付記2において、
前記画像撮影装置はメモリを有し、
前記メモリには、
前記n回目の撮影時に、前記第n−1回目の撮影画像における前記第1の差分画像と前記n回目の撮影画像における第2の差分画像とが記憶され、前記n−1回目の撮影画像における前記第1の差分画像を除く画像、及び、前記n回目の撮影画像における前記第2の差分画像を除く画像は記憶されず、
前記n+1回目の撮影時に、前記第2の差分画像と、前記n+1回目の撮影画像における前記第3の差分画像とが記憶され、前記n回目の撮影画像における前記第2の差分画像を除く画像、及び、前記n+1回目の撮影画像における前記第3の差分画像を除く画像は記憶されない画像撮影装置。
付記2において、
前記画像撮影装置はメモリを有し、
前記メモリには、
前記n回目の撮影時に、前記第n−1回目の撮影画像における前記第1の差分画像と前記n回目の撮影画像における第2の差分画像とが記憶され、前記n−1回目の撮影画像における前記第1の差分画像を除く画像、及び、前記n回目の撮影画像における前記第2の差分画像を除く画像は記憶されず、
前記n+1回目の撮影時に、前記第2の差分画像と、前記n+1回目の撮影画像における前記第3の差分画像とが記憶され、前記n回目の撮影画像における前記第2の差分画像を除く画像、及び、前記n+1回目の撮影画像における前記第3の差分画像を除く画像は記憶されない画像撮影装置。
(付記5)
付記3または4において、
前記合成手段において、前記パノラマ画像の前記第1の差分画像と同じ領域に全ての画素が書き込まれたとき、前記第1の差分画像と同じ領域のすべての差分画像を前記メモリから削除する画像撮影装置。
付記3または4において、
前記合成手段において、前記パノラマ画像の前記第1の差分画像と同じ領域に全ての画素が書き込まれたとき、前記第1の差分画像と同じ領域のすべての差分画像を前記メモリから削除する画像撮影装置。
(付記6)
付記1乃至5のいずれかにおいて、
前記合成手段は、1回目の撮影時に、1回目の撮影画像の全ての画素の画素データを前記パノラマ画像に書き込む画像撮影装置。
付記1乃至5のいずれかにおいて、
前記合成手段は、1回目の撮影時に、1回目の撮影画像の全ての画素の画素データを前記パノラマ画像に書き込む画像撮影装置。
(付記7)
撮影方向を変更しながら順次、撮影した複数の撮影画像を合成してパノラマ画像を生成する画像撮影方法において、
n(n≧3)回目の撮影時に、
n−2回目からn−1回目に前記撮影画像に新たに追加された第1の差分画像と、前記n回目の前記撮影画像の前記第1の差分画像と同じ領域の第2の差分画像との間の各画素の前記撮影画像内における位置の距離を示す第1の動き量を検出する検出工程と、
前記第2の差分画像の各画素について、前記第1の動き量が、前記n−1回と前記n回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込まない合成工程と、を有し、
前記n回目の撮影時の前記検出工程、及び、前記合成工程が繰り返される画像撮影方法。
撮影方向を変更しながら順次、撮影した複数の撮影画像を合成してパノラマ画像を生成する画像撮影方法において、
n(n≧3)回目の撮影時に、
n−2回目からn−1回目に前記撮影画像に新たに追加された第1の差分画像と、前記n回目の前記撮影画像の前記第1の差分画像と同じ領域の第2の差分画像との間の各画素の前記撮影画像内における位置の距離を示す第1の動き量を検出する検出工程と、
前記第2の差分画像の各画素について、前記第1の動き量が、前記n−1回と前記n回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込まない合成工程と、を有し、
前記n回目の撮影時の前記検出工程、及び、前記合成工程が繰り返される画像撮影方法。
(付記8)
付記7において、
n+1回目の撮影時に、
前記検出工程は、前記パノラマ画像が前記第1の差分画像と同じ領域に未書き込み画素を有する場合、さらに、前記n回目の前記第2の差分画像と、n+1回目の前記第1の差分画像と同じ領域の第3の差分画像との間の各画素の前記第1の動き量を検出し、
前記合成工程は、さらに、前記第3の差分画像の各画素について、前記第1の動き量が、前記n回と前記n+1回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込みを行わず、
前記パノラマ画像が未書き込みの画素を有する間、前記n+1回目の撮影時の前記検出工程、及び、合成工程が繰り返される画像撮影方法。
付記7において、
n+1回目の撮影時に、
前記検出工程は、前記パノラマ画像が前記第1の差分画像と同じ領域に未書き込み画素を有する場合、さらに、前記n回目の前記第2の差分画像と、n+1回目の前記第1の差分画像と同じ領域の第3の差分画像との間の各画素の前記第1の動き量を検出し、
前記合成工程は、さらに、前記第3の差分画像の各画素について、前記第1の動き量が、前記n回と前記n+1回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込みを行わず、
前記パノラマ画像が未書き込みの画素を有する間、前記n+1回目の撮影時の前記検出工程、及び、合成工程が繰り返される画像撮影方法。
100:画像撮影装置、10:操作パネル、11:撮影制御部、12:撮像部、13:信号処理部、14:画像処理部、15:ランダムパターン生成部、16:メモリ、17:記憶媒体、18:記録・再生処理部、19:画像表示制御部、20:動画表示制御部、21:液晶表示部、30:ランダムパターン検出部、31:移動分検出部、32:移動量算出部、33:移動速度算出部、34:移動検出部、Pm:移動分メモリ1〜n、35:第2の動き量変換部、36:動き量比較部、37:第1の動き量検出部、38:画面合成部
Claims (8)
- 撮影方向を変更しながら順次、撮影した複数の撮影画像を合成してパノラマ画像を生成する画像撮影装置において、
n(n≧3)回目の撮影時に、
n−2回目からn−1回目に前記撮影画像に新たに追加された第1の差分画像と、前記n回目の前記撮影画像の前記第1の差分画像と同じ領域の第2の差分画像との間の各画素の前記撮影画像内における位置の距離を示す第1の動き量を検出する検出手段と、
前記第2の差分画像の各画素について、前記第1の動き量が、前記n−1回と前記n回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込まない合成手段と、を有し、
前記検出手段及び前記合成手段が、前記n回目の撮影時の処理を繰り返す画像撮影装置。 - 請求項1において、
n+1回目の撮影時に、
前記検出手段は、前記パノラマ画像が前記第1の差分画像と同じ領域に未書き込み画素を有する場合、さらに、前記n回目の前記第2の差分画像と、n+1回目の前記第1の差分画像と同じ領域の第3の差分画像との間の各画素の前記第1の動き量を検出し、
前記合成手段は、さらに、前記第3の差分画像の各画素について、前記第1の動き量が、前記n回と前記n+1回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込みを行わず、
前記パノラマ画像が未書き込みの画素を有する間、前記検出手段及び合成手段が、前記n+1回目の撮影時の処理を繰り返す画像撮影装置。 - 請求項1において、
前記画像撮影装置はメモリを有し、
前記メモリには、前記n回目の撮影時に、前記第n−1回目の撮影画像における前記第1の差分画像と、前記n回目の撮影画像における第2の差分画像とが記憶され、前記n−1回目の撮影画像における前記第1の差分画像を除く画像、及び、前記n回目の撮影画像における前記第2の差分画像を除く画像は記憶されない画像撮影装置。 - 請求項2において、
前記画像撮影装置はメモリを有し、
前記メモリには、
前記n回目の撮影時に、前記第n−1回目の撮影画像における前記第1の差分画像と前記n回目の撮影画像における第2の差分画像とが記憶され、前記n−1回目の撮影画像における前記第1の差分画像を除く画像、及び、前記n回目の撮影画像における前記第2の差分画像を除く画像は記憶されず、
前記n+1回目の撮影時に、前記第2の差分画像と、前記n+1回目の撮影画像における前記第3の差分画像とが記憶され、前記n回目の撮影画像における前記第2の差分画像を除く画像、及び、前記n+1回目の撮影画像における前記第3の差分画像を除く画像は記憶されない画像撮影装置。 - 請求項3または4において、
前記合成手段において、前記パノラマ画像の前記第1の差分画像と同じ領域に全ての画素が書き込まれたとき、前記第1の差分画像と同じ領域のすべての差分画像を前記メモリから削除する画像撮影装置。 - 請求項1乃至5のいずれかにおいて、
前記合成手段は、1回目の撮影時に、1回目の撮影画像の全ての画素の画素データを前記パノラマ画像に書き込む画像撮影装置。 - 撮影方向を変更しながら順次、撮影した複数の撮影画像を合成してパノラマ画像を生成する画像撮影方法において、
n(n≧3)回目の撮影時に、
n−2回目からn−1回目に前記撮影画像に新たに追加された第1の差分画像と、前記n回目の前記撮影画像の前記第1の差分画像と同じ領域の第2の差分画像との間の各画素の前記撮影画像内における位置の距離を示す第1の動き量を検出する検出工程と、
前記第2の差分画像の各画素について、前記第1の動き量が、前記n−1回と前記n回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込まない合成工程と、を有し、
前記n回目の撮影時の前記検出工程、及び、前記合成工程が繰り返される画像撮影方法。 - 請求項7において、
n+1回目の撮影時に、
前記検出工程は、前記パノラマ画像が前記第1の差分画像と同じ領域に未書き込み画素を有する場合、さらに、前記n回目の前記第2の差分画像と、n+1回目の前記第1の差分画像と同じ領域の第3の差分画像との間の各画素の前記第1の動き量を検出し、
前記合成工程は、さらに、前記第3の差分画像の各画素について、前記第1の動き量が、前記n回と前記n+1回間の前記撮影方向の変更に対応する第2の動き量と一致する場合に前記画素の画像データを前記パノラマ画像に書き込み、一致しない場合には書き込みを行わず、
前記パノラマ画像が未書き込みの画素を有する間、前記n+1回目の撮影時の前記検出工程、及び、合成工程が繰り返される画像撮影方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012251825A JP2014099820A (ja) | 2012-11-16 | 2012-11-16 | 画像撮影装置、画像撮影方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012251825A JP2014099820A (ja) | 2012-11-16 | 2012-11-16 | 画像撮影装置、画像撮影方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014099820A true JP2014099820A (ja) | 2014-05-29 |
Family
ID=50941473
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012251825A Pending JP2014099820A (ja) | 2012-11-16 | 2012-11-16 | 画像撮影装置、画像撮影方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2014099820A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017027463A (ja) * | 2015-07-24 | 2017-02-02 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
CN110166688A (zh) * | 2018-02-15 | 2019-08-23 | 佳能株式会社 | 摄像设备和摄像设备的控制方法 |
-
2012
- 2012-11-16 JP JP2012251825A patent/JP2014099820A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017027463A (ja) * | 2015-07-24 | 2017-02-02 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
CN110166688A (zh) * | 2018-02-15 | 2019-08-23 | 佳能株式会社 | 摄像设备和摄像设备的控制方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5803467B2 (ja) | 画像処理装置および撮像装置、ならびに画像処理方法 | |
JP2014168251A (ja) | 撮影装置、携帯型情報処理端末、撮影装置のモニタ表示方法およびプログラム | |
JP2004328265A (ja) | 表示方法及び表示装置 | |
JP2012015674A (ja) | 撮像装置ならびにその動作制御方法およびそのプログラム | |
JP5952782B2 (ja) | 画像処理装置及びその制御方法、プログラム、記憶媒体 | |
CN114125179B (zh) | 拍摄方法和装置 | |
CN112655194A (zh) | 用于捕获视图的电子装置和方法 | |
US20130300742A1 (en) | Display control apparatus,display control method, and program | |
JP7163228B2 (ja) | 撮像装置、画像合成方法、及び画像合成プログラム | |
JP2019022026A (ja) | 撮像装置 | |
WO2016152358A1 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP2014168147A (ja) | 画像処理プログラムおよびデジタルカメラ | |
JP2014099820A (ja) | 画像撮影装置、画像撮影方法 | |
JP2010263270A (ja) | 撮像装置 | |
JP2017143340A (ja) | 情報処理装置及びプログラム | |
JP7478006B2 (ja) | 撮像装置及びその制御方法、プログラム | |
JP2000078467A (ja) | 画像合成方法 | |
JP2017076887A (ja) | 画像処理装置およびその制御方法、撮像装置 | |
JP5696525B2 (ja) | 撮像装置、撮像方法及びプログラム | |
JP6383230B2 (ja) | 撮像装置、表示装置の制御方法ならびにプログラム | |
JP2005267005A (ja) | 画像データ処理装置及びプログラム | |
JP6828069B2 (ja) | 撮像装置、撮像方法およびプログラム | |
WO2022113866A1 (ja) | 検出装置、撮像装置、検出方法、及びプログラム | |
US20230260150A1 (en) | Image capture apparatus and control method thereof | |
JP2008160274A (ja) | 移動ベクトル検出方法及びその装置並びにそのプログラム、電子的手振れ補正方法及びその装置並びにそのプログラム、撮像装置 |