JP2005252739A - 静止画像生成装置およびその方法 - Google Patents
静止画像生成装置およびその方法 Download PDFInfo
- Publication number
- JP2005252739A JP2005252739A JP2004061505A JP2004061505A JP2005252739A JP 2005252739 A JP2005252739 A JP 2005252739A JP 2004061505 A JP2004061505 A JP 2004061505A JP 2004061505 A JP2004061505 A JP 2004061505A JP 2005252739 A JP2005252739 A JP 2005252739A
- Authority
- JP
- Japan
- Prior art keywords
- image
- still image
- area
- images
- range
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】 動画像などから得られた複数の対象画像から、対象画像より面積の大きな画像であるパノラマ画像を生成する処理において、少ない枚数のフレーム画像を抽出する。
【解決手段】 動画像を構成する複数のフレーム画像を取り出し、これらのフレーム画像の関係を、位置関係データを、画像に含まれる被写体を基準として決定することで把握し、表示する。ユーザは、表示された全フレーム画像の重なりに対して、パノラマ画像として抽出したい範囲をパノラマ領域としてしている。画像生成装置100は、このパノラマ領域を覆う少ない枚数のフレーム画像を決定し、これらの組合わせから、パノラマ画像を抽出し、カラープリンタ20によりこれを印刷する。
【選択図】 図14
Description
この発明は、動画像などから取得する複数の対象画像から、この対象画像の一つより面積の大きな矩形の静止画像を生成する技術に関する。
撮影画像をつなぎ合わせて元の画像より一方向に長いパノラマ画像を生成する技術が知られている。最近では、デジタルスチルカメラなどにより撮影された複数の画像を重ね合わせるだけでなく、デジタルビデオカメラなどで連続的に撮像された動画像から、所定の枚数のフレーム画像を取り出して、これをつなぎ合わせることも行なわれている(下記特許文献1参照)。
こうしたパノラマ画像生成装置では、デジタルビデオカメラで撮像した動画像を記録媒体に一旦記録し、この動画を再生するときに、静止画像を取り込んタイミング情報と、算出された横方向および縦方向の移動量とが読み込まれる。その後、取り込んだ複数の静止画像の移動量に応じた位置で静止画像を重ね合わせて、パノラマ画像を生成している。
しかしながら、このような画像生成技術では、複数のフレーム画像を重ね合わせて矩形のパノラマ画像を生成する作業は、手動で行なわねばならず、煩雑な作業が必要になるという問題があった。所定のタイミングで取り込んだ画像同士の重なり合い(移動量)の情報を抽出して、画像同士をつなぎ合わせる(以下、ステッチする、とも言う)作業は自動化できても、重なり合わせた複数の画像から、矩形のパノラマ画像を切り出す際には、使用者がカーソルを移動して領域指定を行ない、かつ不要な画像を切り落とすといった作業を余儀なくされていたのである。
本発明はこのような問題の少なくとも一部を解決するためになされたもので、パノラマ画像などの矩形の静止画像を容易に生成することを目的とする。
上記目的を達成する本発明の静止画像生成装置は、
動画像などから取得する複数の対象画像から、該対象画像の一つより面積の大きな矩形の静止画像を生成する静止画像生成装置であって、
前記複数の対象画像を取得する画像取得手段と、
該複数の対象画像を重ね合わせて、前記静止画像の生成可能な領域を表示する領域表示手段と、
該表示された領域に対して、前記静止画像の範囲の指定を受け付ける静止画像範囲受付手段と、
該指定された矩形の静止画像の範囲を覆う少ない枚数の対象画像の組合わせを特定する対象画像特定手段と、
該特定された複数の対象画像を用いて、前記矩形の静止画像を生成する静止画像生成手段と
を備えたことを要旨とする。
動画像などから取得する複数の対象画像から、該対象画像の一つより面積の大きな矩形の静止画像を生成する静止画像生成装置であって、
前記複数の対象画像を取得する画像取得手段と、
該複数の対象画像を重ね合わせて、前記静止画像の生成可能な領域を表示する領域表示手段と、
該表示された領域に対して、前記静止画像の範囲の指定を受け付ける静止画像範囲受付手段と、
該指定された矩形の静止画像の範囲を覆う少ない枚数の対象画像の組合わせを特定する対象画像特定手段と、
該特定された複数の対象画像を用いて、前記矩形の静止画像を生成する静止画像生成手段と
を備えたことを要旨とする。
この静止画像生成装置に対応した静止画像生成方法は、
動画像などから取得する複数の対象画像から、該対象画像の一つより面積の大きな矩形の静止画像を生成する方法であって、
前記複数の対象画像を取得し、
該複数の対象画像を重ね合わせて、前記静止画像の生成可能な領域を表示し、
該表示された領域に対して、前記静止画像の範囲の指定を受け付け、
該指定された矩形の静止画像の範囲を覆う少ない枚数の対象画像の組合わせを特定し、
該特定された複数の対象画像を用いて、前記矩形の静止画像を生成すること
を用紙としている。
動画像などから取得する複数の対象画像から、該対象画像の一つより面積の大きな矩形の静止画像を生成する方法であって、
前記複数の対象画像を取得し、
該複数の対象画像を重ね合わせて、前記静止画像の生成可能な領域を表示し、
該表示された領域に対して、前記静止画像の範囲の指定を受け付け、
該指定された矩形の静止画像の範囲を覆う少ない枚数の対象画像の組合わせを特定し、
該特定された複数の対象画像を用いて、前記矩形の静止画像を生成すること
を用紙としている。
かかる静止画像生成技術によれば、取得した複数の対象画像を重ね合わせて、静止画像の生成可能な領域を表示し、この領域に対して、静止画像の範囲の指定を受け付ける。この指定は、使用者により行なわれる。矩形の静止画像の範囲が指定されると、この範囲を覆う少ない枚数の対象画像を特定し、特定した複数の対象画像を用いて、矩形の静止画像を生成する。この結果、所望の矩形の静止画像を、少ない枚数の対象画像から生成することができ、つなぎ合わせ箇所を少なくして、生成する静止画像の品質を高めることができる。
ここで、複数の対象画像を、動画像の所定の時間範囲に対応した複数のフレーム画像から取得するものとしても良い。通常、動画像は、撮像対象が連続しているので、動画像から取り出した複数のフレーム画像を用いれば、所望の矩形の静止画像を抽出することは容易である。もとより、動画像の所定の時間範囲に対応した複数のフレーム画像を対象画像として取り出す際、所定時間間隔で抽出するものとしてもよい。所定の時間範囲に対応した複数のフレーム画像は、動画における時間軸上の開始位置と終了位置とを特定することにより指定しても良い。動画は時間軸上に展開されるものなので、かかる特定の手法を採用すれば、動画像の特定を違和感なく行なうことができる。
複数の対象画像間の位置関係は、複数の対象画像に対してオプティカルフロー推定を用いて推定してもよい。こうした手法で、予め推定された位置関係に基づいて重ね合わせの処理を行なうものとすれば、重ね合わせの処理を容易に行なうことができる。
矩形の静止画像の範囲を、少ない重複で覆う対象画像の組合わせは種々特定することができるが、例えば静止画像の範囲を覆う最小枚数の対象画像の組合わせとして特定することも望ましい。また、一枚の対象画像が、静止画像の範囲の中心を覆うように設定し、その対象画像の周辺に残る残余の領域を他の対象画像で覆うように設定しても良い。画像を見る人は、画像の中心により注意を払うことが多いからである。従って、画像の中心部付近に重ね合わせの境界が生じないように重ね合わせる組合わせを特定することも望ましい。
かかる静止画像の生成において、対象画像および静止画像を表示可能なディスプレイを備え、静止画の生成可能な領域を、対象画像の表示より縮小した表示またはスクロールにより、このディスプレイに表示することができる。静止画像は、対象画像より、その面積が大きいので、こうした縮小表示やスクロール表示を行なうことで、一つのディスプレイを用いて、対象画像と静止画像の両者を容易に表示することができる。
静止画像範囲の受け付けは、ポインティングデバイスによる始点と、この始点に対向する偶部となる終点との指定により、行なうものとすることができる。ポインティングデバイスによる指定は、使用者の意図を直接的に反映することができ、好ましい。
最終的に静止画像を生成するのに用いられる複数の対象画像は、指定された静止画像の範囲を、一方の端部から最大の面積で覆う一の対象画像と、この対象画像によって覆われていない範囲を最大の面積で覆う他の対象画像の組合わせとして特定すればよい。もとより、他の対象画像によっても覆われない領域が残った場合には、残余の領域に対して同様の手続を繰り返し、最終的に、静止画像の領域を覆う対象画像の組合わせを特定すればよい。一方の端部から最大面積で覆う一の対象画像を先ず特定することにより、全体として少ない枚数で覆う対象画像の組合わせを容易に特定することができる。
なお、本発明は静止画像生成装置やその方法としてだけでなく、この静止画像生成方法を実現するコンピュータプログラムおよびそのプログラムを記録した記録媒体としても捉えることができる。記録媒体としてはフレキシブルディスクやCD−ROM、ICカード、パンチカードなど、コンピュータが読み取り可能な種々の媒体を利用できる。こうすれば、動画像などから取得された複数の対象画像を用いて静止画像を容易に生成することができる。コンピュータプログラムおよび記録媒体に相当するものとしては、ネットワーク上におかれたハードディスクなどの記憶装置に、ネットワークを介して他のコンピュータによって読み取られ実行されるように保存されているプログラムなどが含まれることは勿論である。
次に、本発明の実施の形態を実施例に基づいて以下の順序で説明する。
A.画像処理システムの構成:
B.本発明の第1実施例における静止画像データ生成処理:
C.本発明の第2実施例における静止画像データ生成処理:
D.変形例:
A.画像処理システムの構成:
B.本発明の第1実施例における静止画像データ生成処理:
C.本発明の第2実施例における静止画像データ生成処理:
D.変形例:
A.画像処理システムの構成:
図1は、本発明の一実施例としての画像生成装置100を示す説明図である。画像生成装置100は、動画像データを供給する動画像データベース部30と、動画像データから取得する複数の静止画像データを特定するためのユーザインターフェース16と、動画像データベース部30から取得した複数の静止画像データに対して画像処理を行う画像処理装置としてのコンピュータ40と、処理された静止画像データを出力する出力装置としてのカラープリンタ20とを備えている。
図1は、本発明の一実施例としての画像生成装置100を示す説明図である。画像生成装置100は、動画像データを供給する動画像データベース部30と、動画像データから取得する複数の静止画像データを特定するためのユーザインターフェース16と、動画像データベース部30から取得した複数の静止画像データに対して画像処理を行う画像処理装置としてのコンピュータ40と、処理された静止画像データを出力する出力装置としてのカラープリンタ20とを備えている。
コンピュータ40は、画像処理のための演算処理を実行するCPU11と、各種データなどを記憶したROM12と、画像処理のためのアプリケーションソフトを格納するハードディスク14と、画像データやアプリケーションプログラムを一時的に格納するRAM13と、周辺機器との間のインターフェースを司るI/F回路15と、これらを接続するバス10とを備えている。I/F回路15には、動画像データベース部30や、ユーザインターフェース部16、カラープリンタ20などが接続されている。
動画像データベース部30は、デジタルビデオカメラ32、DVD34、およびハードディスク36を動画像データの供給源として有している。もとより、デジタルビデオカメラ32などは、常時接続されているものではなく、必要に応じて、動画像データベース30に接続される。また、直接カメラ32を接続しても良いし、動画像をフラッシュメモリやカードがハードディスクなどの記憶媒体に記憶し、カードリーダなどに、この記憶媒体を装着することで、動画データを取得するものとしても良い。カメラ32やDVD34の動画データは、直接読み込むものとしても良いし、一旦ハードディスク36に記憶してから、読み込むものとしても良い。これらの機器からの動画像データは、時系列的に連続するフレーム画像データの集合としてコンピュータ40に供給される。フレーム画像データとは、本実施例では、フレーム毎の静止画像データであるが、モーションJPEG(MPEG)など、時間方向に圧縮されたデータであっても差し支えない。この場合は、コンピュータPCにおいて圧縮を解凍し、フレーム毎の静止画像データとすればよい。圧縮には、MPEGの各バージョン(MEPG1,2,4,7)の他、シネマパックなど既存の各種圧縮技術を用いたものであっても差し支えない。なお、本実施例で取り扱う動画データは、基本的に、640×480ドットの静止画像を、インタレースで1秒間に30フレームとなっている。従って、1フレーム時間は33msであり、コンピュータPCで取り扱い時点では、各フレーム画像データに、時系列的な順序でフレーム番号FNが付されている。
ユーザインターフェース部16は、ユーザがコンピュータPCから情報を取得し、あるいはコマンドなどを与えるためのインタフェースを提供する。本実施例の動画像データから取得するフレーム画像データをユーザが特定するためのユーザインターフェースである。ユーザインターフェース部16は、動画像データベース部30から供給されている動画像、生成中の静止画像、および後述する操作表示画面を表示するディスプレイ17と、ユーザからの入力を受け付けるキーボード18やマウス19を備える。
図2は、ディスプレイ17に表示される操作表示画面200を示す説明図である。操作表示画面200は、図示するように、動画像を表示する動画像エリア210と、パノラマ画像を切り出すための処理画像表示エリア220と、ユーザによる操作入力を受け付ける操作エリア230とから構成されている。なお、動画像エリア210と処理画像表示エリア220では、元の動画像やこれから抽出した静止画像とは異なる解像度(通常は、低解像度)により表示が行なわれる。もとより、ディスプレイ17が大きければ、元の動画像の解像度そのままで表示を行なうことも差し支えない。
操作エリア230には、動画像エリア210に表示される動画像を制御するための各種ボタンの他、動画像の取得を指示する動画取得ボタン236、フレーム画像を取得する開始位置STを指定する開始位置指定ボタン237、更には終了位置ENを指定する終了位置指定ボタン238といったボタンが表示されている。動画像を制御するための各種ボタンとしては、再生ボタン231、停止ボタン232、一時停止ボタン233、巻き戻しボタン234、早送りボタン235がある。開始位置指定ボタン237や終了位置指定ボタン238は、後述するパノラマ画像の作成を行なうために、動画像エリア210に表示されている動画像に対して、開始位置STと終了位置ENとを設定するボタンである。
以上説明したハードウェア構成および操作表示画面200を用いて、以下に示す手順によりパノラマ画像の作成が行なわれる。画像生成装置100が生成するパノラマ画像は、元の動画像の大きさ(640×480ドット)より大きなものである。先ず、作業の流れを図3のフローチャートに基づいて説明する。ユーザが、動画像からパノラマ画像を生成しようとする場合、図3に示したように、まず、動画像データを準備する作業を行なう(ステップS100)。具体的には、ユーザは、操作表示画面200に表示された動画取得ボタン236をマウス19により操作し、動画像データベース部30のデジタルビデオカメラ32やDVD34等に存在する動画像データを指定するのである。動画像データの指定は、ファイル操作に用いられる通常のダイアローグボックスなどにより行なうことができる。もとより、動画像を選択する専用のインタフェースを用意しても良い。動画像データが準備されると、図2示した動画像エリア210には、動画像データが表示される。具体的には、指定された動画像データの先頭の画像が、動画像エリア210に表示される。もとより、ボスターフレームなどが指定されている場合には、先頭の画像に代えて、指定されたボスターフレーム画像が表示されるものとしても良い。
次に、ユーザは、動画像エリア210に表示された動画像データに対して、操作エリア230の各ボタンを操作して、パノラマ画像を生成するための動画像の範囲を指定する作業を行なう(ステップS200)。動画像データベース部30から取り出された動画像データ全体からパノラマ画像を取り出すことも差し支えないが、通常は、一つの動画像データの中の特定の箇所からパノラマ画像は生成される。ユーザは、操作エリア230の早送りボタン235や再生ボタン231等を用いて、動画像データのうちの所望の箇所を動画像エリア210に表示させる。その上で、ある画像を始点としてパノラマ画像の生成を行なうと判断したときには停止ボタン232を操作して動画像データを止め、開始位置指定ボタン237を、マウス19によりクリックする。この操作により、その時点で動画像エリア210に表示されている画像に開始位置STが設定される。更にユーザが再生ボタン231などにより、動画像データを再生し、ある画像をパノラマ画像生成の終点として判断したときには、停止ボタン232を操作して、同様に動画像データを止め、終了位置指定ボタン238をマウス19によりクリックする。この結果、動画像エリア210に表示されている画像に終了位置ENが設定される。開始位置STと終了位置ENが指定されたとき、パノラマ画像を生成する範囲が指定されたとして、図2に示したように、この範囲を視認可能に表示しても良い。
ユーザは、1秒間に30枚という細かいデータを認識して、パノラマ画像の作成を指示することは少なく、おおよそここ(ST)からここ(EN)までといった形で動画像を把握しているので、ここでは、開始位置ST、終了位置ENとして、範囲を指定するものとした。もとより、コンピュータ40の内部では、開始位置STに対応するフレーム番号FN(st)、終了位置ENに対応したフレーム番号FN(en)により、パノラマ画像を生成するための動画像データの特定が行なわれる。この様子を図4に示した。
次に、ユーザがパノラマ画像領域生成ボタン240を操作することにより、指定された動画像データからパノラマ画像生成可能な最大範囲の領域MXを表示する処理が行なわれる(ステップS300)。この処理の詳細は後述するが、静止画像エリア220に、動画像から取り出した総ての静止画像を配置する処理である。ユーザが、例えばデジタルビデオカメラ32を用いて撮影した動画像は、デジタルビデオカメラ32の動きにより変化するが、こうして撮像された動画を構成する各静止画像は、被写体(Ob)を基準として重ね合わせることができる。図5は、この一例として、動画像データから取り出された4枚のフレーム画像FN(100)、FN(200)、FN(300)、FN(400)を示した。これらの画像は、画像の重ね合わせを説明するために、動画像データから適当な間隔で取り出された4枚の静止画像を例示しているに過ぎない。これらの画像を、撮像された被写体(図5における被写体Ob1ないしOb4など)を基準として重ね合わせ、静止画像エリア220に表示した例を、図6に示した。ここでは、4枚の画像を重ね合わせたに過ぎないが、現実には、デジタルビデオカメラ32により記録された動画像データのうち、開始位置STから終了位置ENまでの動画像データを構成する総ての静止画像が取り出されることになる。これらの画像を重ね合わせて表示した例を、図7に示した。動画像データの所望の範囲に含まれる全静止画像を、被写体を基準にして配置し、静止画像エリア220に表示するのである。
画像表示の手法は、開始位置STの画像を動画像データから抽出して静止画像エリア220の中央に表示し、次の静止画像を動画像データから抽出して重ね合わせて表示し、以下は、停止位置ENに至るまで、この処理を繰り返すことになる。処理を繰り返していくと、重ね合わせる画像の配置によっては、静止画像エリア220から重ね合わせる画像の一部がはみ出す場合があり得る。こうした場合には、それまで表示した全画像の位置をシフトすることで静止画像エリア220内に表示し得るのであれば、全画像データを所定量だけ移動する。動画が広い領域を撮像しているために、画像の位置をシフトしても、静止画像エリア220に入り切らなくなった場合には、全画像を、所定の割合、例えば10%だけ縮小し、再度重ね合わせの位置に移動して表示を行なう。動画像データから取り出し得る全静止画像について、こうした処理を繰り返すことにより、開始位置STから終了位置ENまでの全静止画像(フレームFN(st)からフレームFN(en)までの全静止画像)が、静止画像エリア220に表示される。なお、静止画像エリア220に入りきらない場合、画像を縮小する代わりに、静止画像エリア220にスクロールバーを表示し、はみ出した画像はスクロールにより視認可能としても良い。
次に、ユーザは、静止画像エリア220に表示された全静止画像に対して、パノラマ画像として切り出す範囲(以下、この範囲を「パノラマ領域」と呼ぶ)を指定する作業を行なう(ステップS400)。具体的には、ユーザは、マウス19を用いて、静止画像エリア220にマウスカーソルを移動し、マウスボタンを押してマウス19をドラッグすることにより、図8に例示したように、パノラマ領域PAを指定するのである。
こうしてパノラマ領域PAが指定されると、画像生成装置100は、パノラマ画像の生成に必要な複数枚の静止画像を特定し、これを用いてパノラマ画像の生成を行ない(ステップS500)、カラープリンタ20を用いてパノラマ画像を印刷する処理を行なう(ステップS560)。
以上のユーザの作業および画像生成装置100の処理により、デジタルビデオカメラ32などにより撮像された動画像から、パノラマ画像を印刷した画像を、ユーザは容易に入手することができる。
上述した処理のうち、指定された範囲の動画像データから、複数の静止画像を抽出し、これを被写体を基準にして、重ね合わせて、静止画像エリア220に表示する領域表示の処理(ステップS300)と、ユーザによりパノラマ画像を生成すべき範囲が指定されたとき、パノラマ画像の生成に必要に静止画像を特定する処理(ステップS500)とについて、詳しく説明する。
図9は、指定された範囲の動画像データから、複数の静止画像を抽出し、これを被写体を基準にして重ね合わせ、静止画像エリア220に表示する処理の詳細を示すフローチャートである。この例では、動画像には、パンだけでなくズーム操作や回転操作といった他のカメラ操作も含まれていると想定している。
この実施例では、動画像データを入力した後(ステップS310)、この動画像データの開始位置STから終了位置ENまでに含まれる全フレーム画像データを取得し(ステップS320)、これらのフレーム画像データから、位置関係データの生成処理(ステップS330)を行なう。位置関係データの生成処理とは、上述した被写体の位置を基準として、フレーム画像を重ね合わせるためのデータを生成する処理である。位置関係データには、二つのフレーム画像データ間のズレ量を、画像の並行移動量で示す並進移動ベクトルだけではなく、一方の画像データに対する他方の画像の回転角度や画像倍率といった情報も含まれる。こうした回転角度や画像倍率は、たとえばオプティカルフロー推定とパターンマッチングの組合せによって実現することができる。オプティカルフロー推定には、種々の手法があり、たとえばgradient−basedの手法では、観測するフレーム画像間において対象の輝度が不変であるという仮定の下に画像中における対象の濃度分布の空間勾配と時間勾配の関係を利用してカメラを基準とした被写体の動きが推定される。
本実施例における相対位置データの生成は、オプティカルフロー推定の結果に基づいて大まかに画像の並進移動や回転、ズーム倍率の変化を推定するとともに、この推定結果に基づいて処理されたフレーム画像間でパターンマッチングを行うことによって行われる。
図10は、サンプルポイントが9つの場合におけるオプティカルフロー推定の典型的な推定結果を示す説明図である。図10(a)〜図10(d)は、被写体が静止している場合において、それぞれデジタルビデオカメラ32が左方向にパンしたとき、反時計回りに回転したとき、ズームインしたとき、およびズームアウトしたときの推定結果である。このように、オプティカルフロー推定によればパンだけでなくズーム操作や回転操作といった他のカメラ操作も行うような場合においてもカメラ操作の内容が推定可能なので、回転角度や画像倍率といった情報をも含む位置関係データを生成することができる。こうして得られた位置関係データによりフレーム画像データを配置する処理を行なう(ステップS340)。
以上説明した処理により、デジタルビデオカメラ32などで撮影された動画像やDVD34に記録された動画像が、広い領域をパンやチルトを伴いつつ、あるいはズームやワイドといった倍率の変更を伴いつつ撮像されたものであっても、各静止画像であるフレーム画像データの位置関係を、位置関係データとして取り出し、重ね合わせることができる。
次に、こうして重ね合わせて静止画像エリア220に表示された画像データから、パノラマ画像を生成する際のパノラマ画像の生成に必要に静止画像を特定する処理(ステップS500)について説明する。図11は、この処理の詳細を示すフローチャートである。
パノラマ画像の生成に必要な静止画像を特定する処理が開始されると、まずユーザがマウス19を操作することにより指定したパノラマ領域PAを認識する処理が行なわれる(ステップS510)。図8に示したように、最終的に生成するパノラマ画像の範囲はユーザが決定するので、まずこの領域を、画像生成装置100により認識するのである。認識は、静止画像エリア220におけるマウスポインタがドラッグされた範囲を特定することにより行なわれる。範囲の特定は、ドラッグの始点座標(X1,Y1)、終点座標(X2,Y2)を取り込むことにより容易に行なうことができる(図8参照)。
次に、このパノラマ領域PAに対応したデータ領域を、RAM13に確保し、このデータ領域のデータを初期化する処理を行なう(ステップS520)。このデータ領域は、パノラマ領域(X1,Y1)〜(X2,Y2)に対応する配列として確保される。即ち、パノラマ領域における座標(Xi,Yj)に画像が存在すれば、RAM13上の配列G(i,j)が値1、画像が存在しなければ値0、という関係を持つように設定される。初期化により、配列G(i,j)は、[X1≦i≦X2、Y1≦j≦Y2]の範囲において、すべて値0に設定される。
次に、開始位置STに対応したフレーム番号FN(st)から終了位置ENに対応したフレーム番号FN(en)の全フレーム画像と、パノラマ画像を生成するとして指定された領域とを比較し、各フレーム画像がパノラマ画像の領域を覆う面積を計算する処理を行なう(ステップS530)。計算した結果は、各フレーム番号の毎に対応付け、図12に例示するような一覧データとして、RAM13またはハードディスク14に記憶する(ステップS540)。この時に、面積の他に、そのフレーム画像が、パノラマ画像を生成するとした領域の上下左右の何れの辺にかかっているかの情報も、4ビットのデータにより登録される。例えば、図13に示したように、パノラマ領域PAに対して、左上の辺にかかっているフレーム画像は、左と上の辺に対応したビットを値1とし、下の辺および右の辺については何ら重なっていないことから、下と右の辺に対応したビットを値0とする。この結果、このフレームFN(m)について、4ビットのデータ「1010」(左右上下)を記憶するのである。一方、図13に示したように、パノラマ領域PAに完全に含まれてしまうフレーム画像FN(p)であれば、4ビットのデータは、「0000」となる。なお、パノラマ領域PAは、一つのフレーム画像より面積が大きいので、各フレーム画像のデータは、4ビットのうちの総てのビットが値1となることは、通常生じない。仮に総てのビットが値1となるフレーム画像が見つかった場合には、「動画像より小さな領域が指定されています。パノラマ画像は生成しません」といった警告をディスプレイ17などに表示し、パノラマ領域PAの指定(ステップS400)から作業をやり直すものとしても良い。
次に、この一覧データ参照し、まずパノラマ領域PAの少なくとも一つの辺を覆っているフレーム画像を検索し(ステップS550)、これが存在すれば、その中で、パノラマ領域を覆う面積が最大のフレーム画像を特定する(ステップS560)。少なくとも一つの辺を覆っているフレーム画像がなければ、全フレーム画像の中から、パノラマ領域を覆う面積が最大のフレーム画像を特定する(ステップS565)。各フレーム画像がパノラマ領域を覆う面積と辺との関係は、一覧データとされているので、かかるフレーム画像を特定することは容易である。こうしていずれかのステップで一つのフレーム画像が特定されれば、このフレーム画像がパノラマ領域PAを覆っている画素に対応した配列G(i,j)を値1に設定する処理を行なう(ステップS570)。この時、図12に示した一覧データから、特定したフレーム画像を除き、別途用意した選択フレームリストに、フレーム番号FNを登録する処理も行なう(ステップS580)。
次に、配列G(i,j)がすべて値1になっているか否かを検証し(ステップS585)、まだ値0の配列の要素が存在する場合には、パノラマ領域PAのすべてがフレーム画像によっては覆われていないとして、一覧データに残っているフレーム画像について、残りの領域を覆う面積を再計算する処理を行ない、これを用いて一覧データの内容を書き直す処理を行なう(ステップS590)。かかる一覧データを作成すれば、フレーム画像のうち、パノラマ領域PAの残余の領域を覆う面積が最大のフレーム画像を求めることは容易である。そこで、パノラマ領域PAの残余の領域を最大面積で覆うフレーム画像を求め(ステップS595)、その後、上述したステップS570に戻って、このフレーム画像により覆われた画素に対応する配列G(i,j)を値1に設定する処理から繰り返す。
この結果、パノラマ領域PAのすべてが、選択されたフレーム画像で覆われるまで、上記の処理を繰り返し、パノラマ領域PAのすべてが、複数のフレーム画像で覆われたとき(ステップS585)、この処理ルーチンを終了する。図に示したステップS600では、こうして特定されたフレーム画像のフレーム番号FNが登録された選択リストを参照して、複数のフレーム画像を取り出し、図14に示したように、これらのフレーム画像(この例では、FNq1ないしFNq5)を合成して、パノラマ領域PAの範囲の画像データを取り出し、これをカラープリンタ20に送ってカラー画像データを印刷すればよい。
上述した実施例では、最初のフレーム画像を選択する際には、パノラマ画像を覆う面積が最大であるものよりも、パノラマ領域の少なくとも一辺を覆うという条件を優先したが、これは、パノラマ領域の一辺を覆うフレーム画像を、先ず見い出し、この画像を起点にしてパノラマ領域を一方向から順に探索しようとしているためである。デジタルビデオカメラ32などで撮像する際、カメラを一方向に移動(パン)しながら撮像することが多いという経験則が存在するので、かかる探索により、少ない枚数でパノラマ領域を覆うフレーム画像を短時間に特定することができる可能性を高めることができる。もとより、しらみつぶし的に、パノラマ領域を覆うフレーム画像の組合わせを探索し、もっとも少ない枚数でパノラマ領域を覆うフレーム画像を特定するものとしても差し支えない。あるいは、パノラマ領域の一辺を覆うという条件を付けず、探索を開始するものとしても良い。
以上説明した本実施例の画像生成装置100によれば、デジタルビデオカメラ32などにより撮像された動画像データから、少ない枚数のフレーム画像を用いて、パノラマ画像を容易に生成することができる。特に、動画像から取り出せるパノラマ画像の範囲が、静止画像エリア220に表示されるので、ユーザは、これを見ながら、所望の範囲をパノラマ画像として取り出すことができる。しかも、この時に、少ない枚数のフレーム画像を合成してパノラマ画像を得ることができるから、画像を合成する箇所(ステッチする箇所)が少なくなり、合成した画像の境界が目立ちにくく、高画質のパノラマ画像を得ることができる。
以上本発明の実施例について説明したが、本発明のこの実施例に限定されるものではなく、発明の要旨を変更しない範囲内において、種々なる態様で実施することができる。例えば、パノラマ領域を覆う複数のフレーム画像を特定した後、その近傍のフレーム画像を取り出し、これらを合成して、パノラマ画像の画質を高める処理を行なうことも差し支えない。また、上記実施例では、開始位置STと終了位置ENを特定し、その範囲に全フレーム画像を用いて処理を行なったが、所定の時間間隔(例えば1秒間隔)で抽出されたフレーム画像を用いて処理を行なうものとしても良い。デジタルビデオカメラ32で撮像する場合などでは、短い時間で撮像している領域に重なりがないほど大きくカメラを移動することは少ないので、所定の間隔で抽出したフレーム画像を用いても、所望のパノラマ領域を覆う組合わせを見い出すことは可能である。処理すべきフレーム画像の数を減らすことができるので、処理に要する時間を短くすることができる。
また、上記の実施例では、パノラマ領域PAは、ユーザがマウス19を用いて任意の大きさに設定できるものとして説明したが、予め用意したいくつかの矩形領域から、その大きさを選択するものとしても良い。あるいは、パノラマ画像の大きさ自体はユーザにより指定可能だが、縦横比を予め設定した値となるよう、マウス19を用いた矩形領域の指定を制限するものとしても良い。
パノラマ領域として特定した矩形の範囲を覆う少ない枚数の対象画像の組合わせは、種々特定することができるが、必ず最小枚数のフレーム画像の組合わせにより覆うものとしても良い。また、先にパノラマ領域の中心を覆う一枚のフレーム画像探し、フレーム画像の周辺に残る残余の領域を他のフレーム画像で覆うように設定しても良い。画像を見る人は、画像の中心に高い注意を払うことが多いからである。従って、画像の中心部付近に重ね合わせの境界が生じないように重ね合わせる組合わせを特定すると、得られるパノラマ画像の画質の印象を一層高いものとすることができる。
上記実施例において、ハードウェアによって実現されていた構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。
本発明の機能の一部または全部がソフトウェアで実現される場合には、そのソフトウェア(コンピュータプログラム)は、コンピュータ読み取り可能な記録媒体に格納された形で提供することができる。この発明において、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスクやCD−ROMのような携帯型の記録媒体に限らず、各種のRAMやROM等のコンピュータ内の内部記憶装置や、ハードディスク等のコンピュータに固定されている外部記憶装置も含んでいる。
10…バス
11…CPU
12…ROM
13…RAM
14…ハードディスク
15…I/F回路
16…ユーザインターフェース部
17…ディスプレイ
18…キーボード
19…マウス
20…カラープリンタ
30…動画像データベース部
32…デジタルビデオカメラ
34…DVD
36…ハードディスク
100…画像生成装置
200…操作表示画面
210…動画像エリア
220…静止画像エリア
230…操作エリア
231…再生ボタン
232…停止ボタン
233…一時停止ボタン
236…フレーム画像取得ボタン
237…開始位置指定ボタン
238…終了位置指定ボタン
240…パノラマ領域生成ボタン
11…CPU
12…ROM
13…RAM
14…ハードディスク
15…I/F回路
16…ユーザインターフェース部
17…ディスプレイ
18…キーボード
19…マウス
20…カラープリンタ
30…動画像データベース部
32…デジタルビデオカメラ
34…DVD
36…ハードディスク
100…画像生成装置
200…操作表示画面
210…動画像エリア
220…静止画像エリア
230…操作エリア
231…再生ボタン
232…停止ボタン
233…一時停止ボタン
236…フレーム画像取得ボタン
237…開始位置指定ボタン
238…終了位置指定ボタン
240…パノラマ領域生成ボタン
Claims (12)
- 動画像などから取得する複数の対象画像から、該対象画像の一つより面積の大きな矩形の静止画像を生成する静止画像生成装置であって、
前記複数の対象画像を取得する画像取得手段と、
該複数の対象画像を重ね合わせて、前記静止画像の生成可能な領域を表示する領域表示手段と、
該表示された領域に対して、前記静止画像の範囲の指定を受け付ける静止画像範囲受付手段と、
該指定された矩形の静止画像の範囲を覆う少ない枚数の対象画像の組合わせを特定する対象画像特定手段と、
該特定された複数の対象画像を用いて、前記矩形の静止画像を生成する静止画像生成手段と
を備えた静止画像生成装置。 - 請求項1記載の静止画像生成装置であって、
前記画像取得手段は、動画像の所定の時間範囲に対応した複数のフレーム画像を、前記対象画像として取得する手段である静止画像生成装置。 - 請求項1記載の静止画像生成装置であって、
前記画像取得手段は、動画像の所定の時間範囲内に含まれ、かつ所定の時間間隔で抽出された複数のフレーム画像を、前記対象画像として取得する手段である静止画像生成装置。 - 請求項3記載の静止画像生成装置であって、
前記所定の時間範囲に対応した複数のフレーム画像は、前記動画における時間軸上の開始位置と終了位置とを特定することにより指定される静止画像生成装置。 - 請求項1ないし請求項4のいずれか記載の静止画像生成装置であって、
前記領域表示手段は、前記複数の対象画像に対してオプティカルフロー推定を用いて、位置関係を推定し、該推定された位置関係に基づいて重ね合わせの処理を行なう重ね合わせ処理手段を備えた静止画像生成装置。 - 請求項5記載静止画像生成装置であって、
前記対象画像特定手段は、前記矩形の静止画像の範囲を覆う最小枚数の対象画像の組合わせを特定する手段である静止画像生成装置。 - 請求項1ないし請求項6のいずれか記載の静止画像生成装置であって、
前記領域表示手段は、前記対象画像および前記静止画像を表示可能なディスプレイを備え、
前記静止画の生成可能な領域を、前記対象画像の表示より縮小した表示またはスクロールにより、該ディスプレイに表示する手段である静止画像生成装置。 - 請求項1ないし請求項7のいずれかに記載の静止画像生成装置であって、
前記静止画像範囲受付手段は、ポインティングデバイスによる始点と、該始点に対向する偶部となる終点との指定により、前記静止画像の範囲の指定を受け付ける手段である静止画像生成装置。 - 請求項1ないし請求項8のいずれかに記載の静止画像生成装置であって、
前記対象画像特定手段は、前記指定された静止画像の範囲を、一方の端部から最大の面積で覆う一の対象画像と、該対象画像によって覆われていない範囲を最大の面積で覆う他の対象画像の組合わせとして特定する手段である静止画像生成装置。 - 動画像などから取得する複数の対象画像から、該対象画像の一つより面積の大きな矩形の静止画像を生成する方法であって、
前記複数の対象画像を取得し、
該複数の対象画像を重ね合わせて、前記静止画像の生成可能な領域を表示し、
該表示された領域に対して、前記静止画像の範囲の指定を受け付け、
該指定された矩形の静止画像の範囲を覆う少ない枚数の対象画像の組合わせを特定し、
該特定された複数の対象画像を用いて、前記矩形の静止画像を生成する
静止画像生成方法。 - 動画像などから取得する複数の対象画像から、該対象画像の一つより面積の大きな矩形の静止画像を生成する処理をコンピュータに実行させるプログラムであって、
前記複数の対象画像を取得する機能と、
該複数の対象画像を重ね合わせて、前記静止画像の生成可能な領域を表示する機能と、
該表示された領域に対して、前記静止画像の範囲の指定を受け付ける機能と、
該指定された矩形の静止画像の範囲を覆う少ない枚数の対象画像の組合わせを特定する機能と、
該特定された複数の対象画像を用いて、前記矩形の静止画像を生成する機能と
をコンピュータに実現させる静止画像生成プログラム。 - 請求項11に記載のプログラムを、コンピュータに読み取り可能に記録した記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004061505A JP2005252739A (ja) | 2004-03-05 | 2004-03-05 | 静止画像生成装置およびその方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004061505A JP2005252739A (ja) | 2004-03-05 | 2004-03-05 | 静止画像生成装置およびその方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005252739A true JP2005252739A (ja) | 2005-09-15 |
Family
ID=35032797
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004061505A Pending JP2005252739A (ja) | 2004-03-05 | 2004-03-05 | 静止画像生成装置およびその方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005252739A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008263538A (ja) * | 2007-04-13 | 2008-10-30 | Fujifilm Corp | 撮影装置、方法およびプログラム |
JP2010118826A (ja) * | 2008-11-12 | 2010-05-27 | Seiko Epson Corp | 画像処理装置およびプログラム並びに画像処理方法 |
JP2010146043A (ja) * | 2008-12-16 | 2010-07-01 | Sony Corp | 情報処理装置、情報処理方法、プログラムおよび画像処理装置 |
JP2012085191A (ja) * | 2010-10-14 | 2012-04-26 | Mitsubishi Electric Corp | フォトブックデータ作成装置 |
US8509564B2 (en) | 2009-09-29 | 2013-08-13 | Fujifilm Corporation | Graphic arrangement deciding method, recording medium and information processing apparatus |
US8599285B2 (en) | 2009-09-29 | 2013-12-03 | Fujifilm Corporation | Image layout determining method, recording medium and information processing apparatus for the same |
US8687071B2 (en) | 2009-09-30 | 2014-04-01 | Fujifilm Corporation | Composite image creating method as well as program, recording medium, and information processing apparatus for the method |
JP2014112796A (ja) * | 2012-12-05 | 2014-06-19 | Samsung Electronics Co Ltd | 撮像装置および撮像方法 |
-
2004
- 2004-03-05 JP JP2004061505A patent/JP2005252739A/ja active Pending
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008263538A (ja) * | 2007-04-13 | 2008-10-30 | Fujifilm Corp | 撮影装置、方法およびプログラム |
US8068694B2 (en) | 2007-04-13 | 2011-11-29 | Fujifilm Corporation | Imaging apparatus, method and program |
US8542946B2 (en) | 2007-04-13 | 2013-09-24 | Fujifilm Corporation | Imaging apparatus, method and program |
JP2010118826A (ja) * | 2008-11-12 | 2010-05-27 | Seiko Epson Corp | 画像処理装置およびプログラム並びに画像処理方法 |
JP2010146043A (ja) * | 2008-12-16 | 2010-07-01 | Sony Corp | 情報処理装置、情報処理方法、プログラムおよび画像処理装置 |
US8340469B2 (en) | 2008-12-16 | 2012-12-25 | Sony Corporation | Information processing apparatus, information processing method, program, and image processing apparatus |
US8509564B2 (en) | 2009-09-29 | 2013-08-13 | Fujifilm Corporation | Graphic arrangement deciding method, recording medium and information processing apparatus |
US8599285B2 (en) | 2009-09-29 | 2013-12-03 | Fujifilm Corporation | Image layout determining method, recording medium and information processing apparatus for the same |
US8687071B2 (en) | 2009-09-30 | 2014-04-01 | Fujifilm Corporation | Composite image creating method as well as program, recording medium, and information processing apparatus for the method |
JP2012085191A (ja) * | 2010-10-14 | 2012-04-26 | Mitsubishi Electric Corp | フォトブックデータ作成装置 |
JP2014112796A (ja) * | 2012-12-05 | 2014-06-19 | Samsung Electronics Co Ltd | 撮像装置および撮像方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4146938B2 (ja) | パノラマ画像合成装置及びパノラマ画像合成プログラムを格納した記録媒体 | |
JP4626668B2 (ja) | 画像処理装置、表示制御方法、プログラム及び記録媒体 | |
US7535497B2 (en) | Generation of static image data from multiple image data | |
US6344907B1 (en) | Image modification apparatus and method | |
EP2040246B1 (en) | Image display control apparatus and image display control method | |
JP4970302B2 (ja) | 画像処理装置,画像処理方法及び撮像装置 | |
JP2007266667A (ja) | カメラ付き携帯機器、その制御方法及びその撮影支援方法 | |
JP4628817B2 (ja) | 画像レイアウト装置および方法並びにプログラム | |
JP4340836B2 (ja) | 画像合成装置及び画像合成プログラム | |
JP2005252739A (ja) | 静止画像生成装置およびその方法 | |
JP2007134763A (ja) | 画像処理装置 | |
JP2010097449A (ja) | 画像合成装置、及び画像合成方法、画像合成プログラム | |
JP2006119730A (ja) | 画像のつなぎ合わせ | |
JP2000287127A (ja) | 画像合成装置 | |
JPH10108003A (ja) | 画像合成装置および画像合成方法 | |
JP6157094B2 (ja) | 通信装置、設定装置、通信方法、設定方法、及び、プログラム | |
JP2006287365A (ja) | デジタルカメラ | |
JP2008187256A (ja) | 動画作成装置、方法およびプログラム | |
JPH0991407A (ja) | パノラマ画像合成システム及びパノラマ画像合成方法 | |
JP4148165B2 (ja) | 画像を重ね合わせて合成画像を生成する画像合成 | |
KR20120035321A (ko) | 증강 현실 컨텐츠 재생 시스템 및 방법 | |
JP2007166383A (ja) | デジタルカメラ及び画像合成方法並びにプログラム | |
JP2007200091A (ja) | 画像処理装置 | |
JP6086656B2 (ja) | サーバシステム、プログラム及び処理方法 | |
JP2009055272A (ja) | 画像処理装置、画像処理方法、および、画像処理プログラム |