JP2015106186A - 画像接合装置、画像接合方法および画像接合プログラム - Google Patents

画像接合装置、画像接合方法および画像接合プログラム Download PDF

Info

Publication number
JP2015106186A
JP2015106186A JP2013246558A JP2013246558A JP2015106186A JP 2015106186 A JP2015106186 A JP 2015106186A JP 2013246558 A JP2013246558 A JP 2013246558A JP 2013246558 A JP2013246558 A JP 2013246558A JP 2015106186 A JP2015106186 A JP 2015106186A
Authority
JP
Japan
Prior art keywords
image
still image
joining
past
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013246558A
Other languages
English (en)
Other versions
JP6146278B2 (ja
JP2015106186A5 (ja
Inventor
山田 邦男
Kunio Yamada
邦男 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2013246558A priority Critical patent/JP6146278B2/ja
Priority to US14/489,883 priority patent/US9432577B2/en
Publication of JP2015106186A publication Critical patent/JP2015106186A/ja
Publication of JP2015106186A5 publication Critical patent/JP2015106186A5/ja
Application granted granted Critical
Publication of JP6146278B2 publication Critical patent/JP6146278B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3876Recombination of partial images to recreate the original image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】高精度のセンサ等を必要とすることなく、接合画像の位置ずれを目立たなくする。【解決手段】動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合装置100は、対象の静止画像が接合されるべき部分の少なくとも一部分に、過去画像確認部により過去の静止画像が一部分に存在することが確認された場合、対象の静止画像に対応付けられた動きベクトルと、過去の静止画像に対応付けられた動きベクトルとのなす角度を算出する角度算出部150と、角度算出部により算出された角度が所定の角度以上であった場合、対象の静止画像の接合を停止する停止処理部160と、過去画像確認部により過去の静止画像が一部分に存在しないことが確認された場合、または、角度算出部により算出された角度が所定の角度未満であった場合に、対象の静止画像の接合を行う接合処理部170と、を備える。【選択図】図1

Description

本発明は、画像接合装置、画像接合方法および画像接合プログラムに関するものであり、特に動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合装置、画像接合方法および画像接合プログラムに関するものである。
複数の静止画像もしくは動画像を構成する静止画像を接合してより大きな画像を構成する技術は、フォトモザイキングなどとして知られている。
近年、長大な被写体を撮影するために手動でカメラを動かして動画を撮影し、その動画を構成する静止画像を接合して接合画像を作成する手法が実現され、デジタルカメラ等に付加機能として装備されている。特に、デジタルカメラの普及以降は、接合処理を自動もしくは半自動で行うソフトウェアも普及している。
例えば、特許文献1には、自由なカメラ軌跡で撮影された静止画像の接合する技術が開示されている。この技術は、撮影時におけるカメラ移動方向を判定し、カメラ移動方向に基づいて静止画像の接合を行うことにより接合画像を生成する。
しかしながら、ループ状のカメラ軌跡で撮影された静止画像の接合は、ループ開始点および終了点の静止画像において、同じ場所にあるべきものに位置ずれを生じる問題が存在する。この問題は、カメラ軌跡や、撮影された静止画像から取得される動きベクトルの誤差の蓄積により生じる。
この誤差の蓄積は、高精度の方位センサ、姿勢センサおよび/または加速度センサなどの情報を併用することにより軽減することができる。しかし、十分に高性能で小型のセンサは、小型、軽量および/または安価な機器に導入することは困難である。
また、この誤差の蓄積を、画像の位置修正を伴う繰り返し処理により軽減することも可能であるが、繰り返し処理の計算量は、非常に大きい。そのため、このような繰り返し処理を実現するための回路も、小型、軽量および/または安価な機器に導入することは難しい。
特開2013−30875号公報
上記事情に鑑み、本発明は、高精度のセンサ等を必要とすることなく、上記位置ずれに関する問題を解決することを目的とするものである。
本発明の画像接合装置は、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合装置であって、対象の静止画像を取得する画像取得部と、対象の静止画像と、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出部と、対象の静止画像と動きベクトルとを対応付けて記録する動きベクトル記録部と、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認部と、過去画像確認部により過去の静止画像が一部分に存在することが確認された場合、対象の静止画像に対応付けられた動きベクトルと、過去の静止画像に対応付けられた動きベクトルとのなす角度を算出する角度算出部と、角度算出部により算出された角度が所定の角度以上であった場合、対象の静止画像の接合を停止する停止処理部と、過去画像確認部により過去の静止画像が一部分に存在しないことが確認された場合、または、角度算出部により算出された角度が所定の角度未満であった場合に、対象の静止画像の接合を行う接合処理部とを備える。
本発明の画像接合装置は、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合装置であって、複数の静止画像を取得する画像取得部と、画像取得部が取得した複数の静止画像において、対象の静止画像と、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出部と、対象の静止画像の動画像内での時刻を記録する時刻記録部と、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認部と、過去画像確認部により過去の静止画像が一部分に存在することが確認された場合、過去の静止画像の動画像内での時刻と、対象の静止画像の動画像内での時刻との間の時間差を算出する時間算出部と、時間算出部により算出された時間差が所定の時間差以上であった場合、対象の静止画像の接合を停止する停止処理部と、過去画像確認部により過去の静止画像が一部分に存在しないことが確認された場合、または、時間算出部により算出された時間差が所定の時間未満であった場合に、対象の静止画像の接合を行う接合処理部とを備える。
本発明の画像接合方法は、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合方法であって、対象の静止画像を取得する画像取得ステップと、対象の静止画像と、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出ステップと、対象の静止画像と動きベクトルとを対応付けて記録する動きベクトル記録ステップと、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認ステップと、過去画像確認ステップにより過去の静止画像が一部分に存在することが確認された場合、対象の静止画像に対応付けられた動きベクトルと、過去の静止画像に対応付けられた動きベクトルとのなす角度を算出する角度算出ステップと、角度算出ステップにより算出された角度が所定の角度以上であった場合、対象の静止画像の接合を停止する停止処理ステップと、過去画像確認ステップにより過去の静止画像が一部分に存在しないことが確認された場合、または、角度算出ステップにより算出された角度が所定の角度未満であった場合に、対象の静止画像の接合を行う接合処理ステップとを備えることを特徴とする。
本発明の画像接合方法は、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合方法であって、複数の静止画像を取得する画像取得ステップと、画像取得ステップが取得した複数の静止画像において、対象の静止画像と、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出ステップと、対象の静止画像の動画像内での時刻を記録する時間記録ステップと、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認ステップと、過去画像確認ステップにより過去の静止画像が一部分に存在することが確認された場合、過去の静止画像の動画像内での時刻と、対象の静止画の動画像内での時刻との間の時間差を算出する時間算出ステップと、時間算出ステップにより算出された時間差が所定の時間差以上であった場合、対象の静止画像の接合を停止する停止処理ステップと、過去画像確認ステップにより過去の静止画像が一部分に存在しないことが確認された場合、または、時間算出ステップにより算出された時間差が所定の時間未満であった場合に、対象の静止画像の接合を行う接合処理ステップとを備えることを特徴とする。
本発明の画像接合プログラムは、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合プログラムであって、コンピュータに、対象の静止画像を取得する画像取得機能と、対象の静止画像と、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出機能と、対象の静止画像と動きベクトルとを対応付けて記録する動きベクトル記録機能と、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認機能と、過去画像確認機能により過去の静止画像が一部分に存在することが確認された場合、対象の静止画像に対応付けられた動きベクトルと、過去の静止画像に対応付けられた動きベクトルとのなす角度を算出する角度算出機能と、角度算出機能により算出された角度が所定の角度以上であった場合、対象の静止画像の接合を停止する停止処理機能と、過去画像確認機能により過去の静止画像が一部分に存在しないことが確認された場合、または、角度算出機能により算出された角度が所定の角度未満であった場合に、対象の静止画像の接合を行う接合処理機能とを実現させることを特徴とする。
本発明の画像接合プログラムは、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合プログラムであって、コンピュータに、複数の静止画像を取得する画像取得機能と、画像取得機能が取得した複数の静止画像において、対象の静止画像と、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出機能と、対象の静止画像の動画像内での時刻を記録する時間記録機能と、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認機能と、過去画像確認機能により過去の静止画像が一部分に存在することが確認された場合、過去の静止画像の動画像内での時刻と、対象の静止画像の動画像内での時刻との間の時間差を算出する時間算出機能と、時間算出機能により算出された時間差が所定の時間差以上であった場合、対象の静止画像の接合を停止する停止処理機能と、過去画像確認機能により過去の静止画像が一部分に存在しないことが確認された場合、または、時間算出機能により算出された時間差が所定の時間未満であった場合に、対象の静止画像の接合を行う接合処理機能とを実現させることを特徴とする。
本発明によれば、所定の条件の場合に対象の静止画像の接合を停止することにより、高精度のセンサ等を必要とすることなく、接合画像の位置ずれを目立たなくすることができる。
本発明の第1の実施形態に係る画像接合装置を説明するためのブロック図を示す 本発明の第1の実施形態に係る画像接合装置における取得された静止画像の模式図を示す 本発明の第1の実施形態に係る画像接合装置における動きベクトル導出部の処理を説明する為の図を示す 本発明の第1の実施形態に係る画像接合装置における角度算出部の処理を説明する為の図を示す 本発明の第1の実施形態に係る画像接合方法の処理の流れを説明する為のフローチャートを示す 本発明の第2の実施形態に係る画像接合装置を説明するためのブロック図を示す 本発明の第2の実施形態に係る画像接合装置における時間算出部の処理を説明する為の図を示す 本発明の第2の実施形態に係る画像接合方法の処理の流れを説明する為のフローチャートを示す 本発明のその他の実施形態に係る画像接合装置を説明するためのブロック図を示す
[第1の実施形態]
本発明に係る画像接合装置の第1の実施形態を、図1乃至図4を用いて説明する。
本発明の第1の実施形態における画像接合装置は、図1に示すように、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合装置100であって、画像取得部110と、動きベクトル導出部120と、動きベクトル記録部130と、過去画像確認部140と、角度算出部150と、停止処理部160と、接合処理部170とを備える。
上記動画像は、記録媒体に記録されたもの、リアルタイムで撮像装置により撮像されたものおよび/またはリアルタイムで通信装置を介してネットワークより取得されたものとすることができる。記録媒体は、例えば、ハードディスクおよび/または不揮発性のメモリ等とすることができる。撮像装置は、撮像方向を変更して撮影できるもので、例えば、カムコーダ、携帯端末付随のカメラ、内視鏡等とすることができる。画像接合装置100は、さらに、上記のような撮像装置、記録媒体および/または通信装置を備えることもできる。
上記画像取得部110は、対象の静止画像を取得する。図2は、画像取得部110で取得された静止画像の模式図を示している。接合の対象となる静止画像は、静止画像FR1〜FR10のように撮像対象Oに対して自由軌跡を描いて撮像された動画像を構成するものとすることができる。以下の例において、静止画像FR1〜FR10は、時間軸上で静止画像FR1から静止画像FR10まで順次撮像されたものとする。また、以下の例において、画像接合装置100は、静止画像FR1〜FR10の全領域を接合する例が示されているが、各静止画像の一部分である関心領域のみを接合することもできる。
上記動きベクトル導出部120は、図3に示すように、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する。例えば、対象の静止画像がFR2である場合、動きベクトル導出部120は、時間軸上で一つ前の静止画像FR1から対象の静止画像FR2への動きベクトルを導出することができる。動きベクトル導出部120は、例えば、テンプレートマッチング法により、各画像間の類似部位を検出し、類似部位の移動距離および移動方向から動きベクトルを導出することができる。
上記動きベクトル記録部130は、対象の静止画像と動きベクトルとを対応付けて記録する。動きベクトル記録部130は、すべての対象の静止画像と動きベクトルの対応を記録してもよく、接合処理が行われた対象の静止画像と動きベクトルの対応のみを記録してもよい。動きベクトル記録部130は、例えば、対象の静止画像が静止画像FR2である場合、時間軸上で一つ前の静止画像FR1から静止画像FR2への動きベクトルV1を静止画像FR2に対応付けて記録することができる。また、動きベクトル記録部130は、記録媒体、例えば、ハードディスクおよび/または不揮発性のメモリ等とすることができる。
上記過去画像確認部140は、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する。接合された過去の静止画像は、接合された部分に対応して存在の有無である0または1の形で記録されることができる。過去画像確認部140は、接合されるべき部分のすべての範囲に関して、上記0または1の値を確認することにより、過去の静止画像の存在を確認することができる。具体的には、対象の静止画像を静止画像FR8とすると、過去画像確認部140は、対象の静止画像FR8が接合されるべき部分の少なくとも一部分に、前の静止画像FR7よりも時間的に過去の静止画像である静止画像FR2〜4が存在することを確認することができる。
上記角度算出部150は、過去画像確認部140により過去の静止画像が一部分に存在することが確認された場合、対象の静止画像に対応付けられた動きベクトルと、過去の静止画像に対応付けられた動きベクトルとのなす角度を算出する。具体的には、対象の静止画像を静止画像FR8とすると、角度算出部150は、図4(a)および(b)に示すように、過去の静止画像FR2〜4に対応付けられた動きベクトルV1〜3のそれぞれと、静止画像FR8に対応付けられた動きベクトルV7とのなす角度θ71、θ72、θ73を算出することができる。角度算出部150は、ベクトル間のなす角度を、ベクトル間の内積により算出することができる。
上記停止処理部160は、角度算出部150により算出された角度が所定の角度以上であった場合、対象の静止画像の接合を停止する。所定の角度は、ループ状の撮像軌跡における往復的な動きを表す角度であり、例えば120°とすることができる。
上記接合処理部170は、過去画像確認部140により過去の静止画像が一部分に存在しないことが確認された場合、または、角度算出部150により算出された角度が所定の角度未満であった場合に、対象の静止画像の接合を行う。
以上、説明した本発明の画像接合装置100によれば、所定の条件の場合に対象の静止画像の接合を停止することにより、高精度のセンサ等を必要とすることなく、接合画像の位置ずれを目立たなくすることができる。
上記画像接合装置100は、停止処理部160により対象の静止画像の接合が停止された場合、対象の静止画像に時間軸上で隣接する後ろの静止画像を、新たな対象の静止画像として接合処理を継続することができる。具体的には、図3において、静止画像FR8の接合が停止された場合、静止画像FR9を新たな対象の静止画像として接合処理を継続し、接合画像を作成することができる。このような構成とすることにより、動きベクトルの誤差の蓄積を原因とする画像のずれを目立たないようにすることができる。
上記画像接合装置100は、停止処理部160により対象の静止画像の接合が停止された場合、前の静止画像を最終画像として接合画像を作成することができる。具体的には、図3において、静止画像FR8の接合が停止された場合、静止画像FR7を最終画像として接合画像を作成することができる。このような構成とすることにより、動きベクトルの誤差の蓄積を原因とする画像のずれが発生する前に処理を中断することができる。
上記画像接合装置100は、停止処理部160により対象の静止画像の接合が停止された場合、前の静止画像を最終画像として第1の接合画像を作成し、対象の静止画像に時間軸上で隣接する後ろの静止画像を、新たな対象の静止画像として接合処理を継続することができる。具体的には、図3において、静止画像FR8の接合が停止された場合、静止画像FR7を最終画像として接合画像を一旦作成し、静止画像FR9を新たな対象の静止画像として接合処理を継続することができる。このような構成とすることにより、動きベクトルの誤差の蓄積を原因とする画像のずれが発生する接合は避けて、整合の取れている部分について複数の接合画像を作成することができる。
続いて、本発明の第1の実施形態に従う画像接合方法の一例について説明する。
第1の実施形態に従う画像接合方法は、図5に示すように、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合方法であって、画像取得ステップ(S110)と、動きベクトル導出ステップ(S120)と、過去画像確認ステップ(S130)と、角度算出ステップ(S140)と、停止処理ステップ(S150)と、接合処理ステップ(S160)と、動きベクトル記録ステップ(S170)とを備える。
上記画像取得ステップ(S110)は、対象の静止画像を取得する。このステップは、上述した画像取得部110により処理されることができる。
上記動きベクトル導出ステップ(S120)は、対象の静止画像と、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する。このステップは、上述した動きベクトル導出部120により処理されることができる。
上記過去画像確認ステップ(S130)は、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する。このステップは、上述した過去画像確認部140により処理されることができる。
上記角度算出ステップ(S140)は、過去画像確認ステップ(S130)により過去の静止画像が一部分に存在することが確認された場合、対象の静止画像に対応付けられた動きベクトルと、過去の静止画像に対応付けられた動きベクトルとのなす角度を算出する。このステップは、上述した角度算出部150により処理されることができる。
上記停止処理ステップ(S150)は、角度算出ステップ(S140)により算出された角度が所定の角度以上であった場合、対象の静止画像の接合を停止する。このステップは、上述した停止処理部160により処理されることができる。
上記接合処理ステップ(S160)は、過去画像確認ステップ(S130)により過去の静止画像が一部分に存在しないことが確認された場合、または、角度算出ステップ(S140)により算出された角度が所定の角度未満であった場合に、対象の静止画像の接合を行う。このステップは、上述した接合処理部170により処理されることができる。
上記動きベクトル記録ステップ(S170)は、対象の静止画像と動きベクトルとを対応付けて記録する。このステップは、上述した動きベクトル記録部130により処理されることができる。
続いて、本発明の第1の実施形態に従う画像接合プログラムの一例について説明する。
第1の実施形態に従う画像接合プログラムは、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合プログラムであって、コンピュータに、画像取得機能と、動きベクトル導出機能と、動きベクトル記録機能と、過去画像確認機能と、角度算出機能と、停止処理機能と、接合処理機能とを実現させる。
上記画像取得機能は、対象の静止画像を取得する。この機能は、上述した画像取得部110により実現されることができる。
上記動きベクトル導出機能は、対象の静止画像と、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する。この機能は、上述した動きベクトル導出部120により実現されることができる。
上記動きベクトル記録機能は、対象の静止画像と動きベクトルとを対応付けて記録する。この機能は、上述した動きベクトル記録部130により実現されることができる。
上記過去画像確認機能は、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する。この機能は、上述した過去画像確認部140により実現されることができる。
上記角度算出機能は、過去画像確認機能により過去の静止画像が一部分に存在することが確認された場合、対象の静止画像に対応付けられた動きベクトルと、過去の静止画像に対応付けられた動きベクトルとのなす角度を算出する。この機能は、上述した角度算出部150により実現されることができる。
上記停止処理機能は、角度算出機能により算出された角度が所定の角度以上であった場合、対象の静止画像の接合を停止する。この機能は、上述した停止処理部160により実現されることができる。
上記接合処理機能は、過去画像確認機能により過去の静止画像が一部分に存在しないことが確認された場合、または、角度算出機能により算出された角度が所定の角度未満であった場合に、対象の静止画像の接合を行う。この機能は、上述した接合処理部170により実現されることができる。
上記プログラムは、コンピュータが読み取り可能な記録媒体に記録されて提供することができる。記録媒体としては、CD−ROMやDVD等、コンピュータが読み取り可能なものであれば特に限定されるものではない。
[第2の実施形態]
本発明に係る画像接合装置の第2の実施形態を、図6および図7を用いて説明する。
本発明の第2の実施形態における画像接合装置は、図6に示すように、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合装置200であって、画像取得部210と、動きベクトル導出部220と、時刻記録部230と、過去画像確認部240と、時間算出部250と、停止処理部260と、接合処理部270とを備える。
上記画像取得部210は、対象の静止画像を取得する。この画像取得部210は、上述した画像取得部110と同じ構成とすることができる。
上記動きベクトル導出部220は、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する。この動きベクトル導出部220は、上述した動きベクトル導出部120と同じ構成とすることができる。
上記時刻記録部230は、対象の静止画像の動画像内での時刻を記録する。図7(a)に示すように、時刻記録部230は、例えば、対象の静止画像を静止画像FR3とすると、静止画像FR3の動画内での時刻t3を記録する。時刻記録部230は、全対象の静止画像と動画像内での時刻を記録してもよく、接合処理が行われた対象の静止画像と動画像内での時刻のみを記録してもよい。時刻記録部230は、動画像を構成する静止画像の時間間隔を参照することができる場合、動画像開始点からの対象の静止画像までの静止画像数を記録してもよい。動画像を構成する静止画像が、一定の時間間隔により記録されている場合、時刻記録部230は、一定の時間間隔および、対象の静止画像までの静止画像数を記録することにより、対象の静止画像の動画内での時刻を記録することができる。また、時刻記録部230は、記録媒体、例えば、ハードディスクおよび/または不揮発性のメモリ等とすることができる。
上記過去画像確認部240は、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する。この過去画像確認部240は、上述した過去画像確認部140と同じ構成とすることができる。
上記時間算出部250は、過去画像確認部240により過去の静止画像が一部分に存在することが確認された場合、過去の静止画像の動画像内での時刻と、対象の静止画像の動画像内での時刻との間の時間差を算出する。図7(b)に示すように、時間算出部250は、例えば、対象の静止画像を静止画像FR8とすると、過去の静止画像FR4の動画像内での時刻t4と、静止画像FR8の動画像内での時刻t8の時間差を算出することができる。時間算出部25は、例えば、1秒当たりの静止画像数であるフレームレートが30fpsで、対象の静止画像と過去の静止画像間の静止画像数の差であるフレーム番号の差が120であった場合、時間差を4秒と導出することができる。
上記停止処理部260は、時間算出部250により算出された時間差が所定の時間差以上であった場合、対象の静止画像の接合を停止する。所定の時間は、位置合わせの誤差の蓄積が増加しない範囲とし、例えば10秒とすることができる。
上記接合処理部270は、過去画像確認部240により過去の静止画像が一部分に存在しないことが確認された場合、または、時間算出部250により算出された時間差が所定の時間未満であった場合に、対象の静止画像の接合を行う。
以上、説明した本発明の画像接合装置200によれば、所定の条件の場合に対象の静止画像の接合を停止することにより、高精度のセンサ等を必要とすることなく、接合画像の位置ずれを目立たなくすることができる。
続いて、本発明の第2の実施形態に従う画像接合方法の一例について説明する。
第2の実施形態に従う画像接合方法は、図8に示すように、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合方法であって、画像取得ステップ(S210)と、動きベクトル導出ステップ(S220)と、過去画像確認ステップ(S230)と、時間算出ステップ(S240)と、停止処理ステップ(S250)と、接合処理ステップ(S260)と、時間記録ステップ(S270)とを備えることを特徴とする。
上記画像取得ステップ(S210)は、対象の静止画像を取得する。このステップは、上述した画像取得部210により処理されることができる。
上記動きベクトル導出ステップ(S220)は、対象の静止画像と、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する。このステップは、上述した動きベクトル導出部220により処理されることができる。
上記過去画像確認ステップ(S230)は、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する。このステップは、上述した過去画像確認部240により処理されることができる。
上記時間算出ステップ(S240)は、過去画像確認ステップ(S230)により過去の静止画像が一部分に存在することが確認された場合、過去の静止画像の動画像内での時刻と、対象の静止画の動画像内での時刻との間の時間差を算出する。このステップは、上述した時間算出部250により処理されることができる。
上記停止処理ステップ(S250)は、時間算出ステップ(S240)により算出された時間差が所定の時間差以上であった場合、対象の静止画像の接合を停止する。このステップは、上述した停止処理部260により処理されることができる。
上記接合処理ステップ(S260)は、過去画像確認ステップ(S230)により過去の静止画像が一部分に存在しないことが確認された場合、または、時間算出ステップ(S240)により算出された時間差が所定の時間未満であった場合に、対象の静止画像の接合を行う。このステップは、上述した接合処理部270により処理されることができる。
上記時刻記録ステップ(S270)は、対象の静止画像の動画像内での時刻を記録する。このステップは、上述した時刻記録部230により処理されることができる。
続いて、本発明の第2の実施形態に従う画像接合プログラムの一例について説明する。
第2の実施形態に従う画像接合プログラムは、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合プログラムであって、コンピュータに、画像取得機能と、動きベクトル導出機能と、時間記録機能と、過去画像確認機能と、時間算出機能と、停止処理機能と、接合処理機能とを実現させることを特徴とする。
上記画像取得機能は、対象の静止画像を取得する。この機能は、上述した画像取得部210により実現されることができる。
上記動きベクトル導出機能は、対象の静止画像と、対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する。この機能は、上述した動きベクトル導出部220により実現されることができる。
上記時間記録機能は、対象の静止画像の動画像内での時刻を記録する。この機能は、上述した時刻記録部230により実現されることができる。
上記過去画像確認機能は、対象の静止画像が接合されるべき部分の少なくとも一部分に、前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する。この機能は、上述した過去画像確認部240により実現されることができる。
上記時間算出機能は、過去画像確認機能により過去の静止画像が一部分に存在することが確認された場合、過去の静止画像の動画像内での時刻と、対象の静止画像の動画像内での時刻との間の時間差を算出する。この機能は、上述した角度算出部250により実現されることができる。
上記停止処理機能は、時間算出機能により算出された時間差が所定の時間差以上であった場合、対象の静止画像の接合を停止する。この機能は、上述した停止処理部260により実現されることができる。
上記接合処理機能は、過去画像確認機能により過去の静止画像が一部分に存在しないことが確認された場合、または、時間算出機能により算出された時間差が所定の時間差未満であった場合に、対象の静止画像の接合を行う。この機能は、上述した接合処理部270により実現されることができる。
上記プログラムは、コンピュータが読み取り可能な記録媒体に記録されて提供することができる。記録媒体としては、CD−ROMやDVD等、コンピュータが読み取り可能なものであれば特に限定されるものではない。
本発明の画像接合装置は、上記第1の実施例と第2の実施例を組み合わせたその他の実施例であってもよい。具体的には、図9に示すように、動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合装置300であって、画像取得部310と、動きベクトル導出部320と、動きベクトル記録部330と、時刻記録部340と、過去画像確認部350と、角度算出部360と、時間算出部370と、停止処理部380と、接合処理部390とを備える。
上記停止処理部380は、角度算出部360により算出された角度が所定の角度以上であった場合および/または時間算出部370により算出された時間差が所定の時間差以上であった場合、対象の静止画像の接合を停止する。
上記接合処理部390は、過去画像確認部350により過去の静止画像が一部分に存在しないことが確認された場合、または、角度算出部360により算出された角度が所定の角度未満であった場合、または、時間算出部370により算出された時間差が所定の時間未満であった場合に、対象の静止画像の接合を行う。
その他の構成、機能については上述した第1の実施形態および第2の実施形態と同じものとすることができる。
以上、説明した本発明の画像接合装置300によれば、所定の条件の場合に対象の静止画像の接合を停止することにより、高精度のセンサ等を必要とすることなく、接合画像の位置ずれを目立たなくすることができる。
本発明の画像接合装置、画像接合方法および画像接合プログラムによれば、所定の条件の場合に対象の静止画像の接合を停止することにより、高精度のセンサ等を必要とすることなく、接合画像の位置ずれを目立たなくすることが可能になる。
以上、本発明の画像接合装置、画像接合方法および画像接合プログラムについて詳細に説明したが、本発明は、上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において、各種の改良や変更を行ってもよい。
100 画像接合装置
110 画像取得部
120 動きベクトル導出部
130 動きベクトル記録部
140 角度算出部
150 過去画像確認部
160 接合処理部
170 停止処理部
200 画像接合装置
210 画像取得部
220 動きベクトル導出部
230 時刻記録部
240 過去画像確認部
250 時間算出部
260 停止処理部
270 接合処理部

Claims (9)

  1. 動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合装置であって、
    対象の静止画像を取得する画像取得部と、
    前記対象の静止画像と、該対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出部と、
    前記対象の静止画像と前記動きベクトルとを対応付けて記録する動きベクトル記録部と、
    前記対象の静止画像が接合されるべき部分の少なくとも一部分に、前記前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認部と、
    前記過去画像確認部により前記過去の静止画像が前記一部分に存在することが確認された場合、前記対象の静止画像に対応付けられた動きベクトルと、前記過去の静止画像に対応付けられた動きベクトルとのなす角度を算出する角度算出部と、
    前記角度算出部により算出された角度が所定の角度以上であった場合、前記対象の静止画像の接合を停止する停止処理部と、
    前記過去画像確認部により前記過去の静止画像が前記一部分に存在しないことが確認された場合、または、前記角度算出部により算出された角度が所定の角度未満であった場合に、前記対象の静止画像の接合を行う接合処理部と
    を備える画像接合装置。
  2. 動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合装置であって、
    前記複数の静止画像を取得する画像取得部と、
    前記画像取得部が取得した複数の静止画像において、対象の静止画像と、該対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出部と、
    前記対象の静止画像の前記動画像内での時刻を記録する時刻記録部と、
    前記対象の静止画像が接合されるべき部分の少なくとも一部分に、前記前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認部と、
    前記過去画像確認部により前記過去の静止画像が前記一部分に存在することが確認された場合、前記過去の静止画像の前記動画像内での時刻と、前記対象の静止画像の前記動画像内での時刻との間の時間差を算出する時間算出部と、
    前記時間算出部により算出された時間差が所定の時間差以上であった場合、前記対象の静止画像の接合を停止する停止処理部と、
    前記過去画像確認部により前記過去の静止画像が前記一部分に存在しないことが確認された場合、または、前記時間算出部により算出された時間差が所定の時間未満であった場合に、前記対象の静止画像の接合を行う接合処理部と
    を備える画像接合装置。
  3. 前記画像接合装置は、
    前記停止処理部により前記対象の静止画像の接合が停止された場合、前記対象の静止画像に時間軸上で隣接する後ろの静止画像を、新たな対象の静止画像として接合処理を継続することを特徴とする請求項1または2に記載の画像接合装置。
  4. 前記画像接合装置は、
    前記停止処理部により前記対象の静止画像の接合が停止された場合、前記前の静止画像を最終画像として接合画像を作成することを特徴とする請求項1または2に記載の画像接合装置。
  5. 前記画像接合装置は、
    前記停止処理部により前記対象の静止画像の接合が停止された場合、前記前の静止画像を最終画像として第1の接合画像を作成し、前記対象の静止画像に時間軸上で隣接する後ろの静止画像を、新たな対象の静止画像として接合処理を継続することを特徴とする請求項1または2に記載の画像接合装置。
  6. 動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合方法であって、
    対象の静止画像を取得する画像取得ステップと、
    前記対象の静止画像と、該対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出ステップと、
    前記対象の静止画像と前記動きベクトルとを対応付けて記録する動きベクトル記録ステップと、
    前記対象の静止画像が接合されるべき部分の少なくとも一部分に、前記前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認ステップと、
    前記過去画像確認ステップにより前記過去の静止画像が前記一部分に存在することが確認された場合、前記対象の静止画像に対応付けられた動きベクトルと、前記過去の静止画像に対応付けられた動きベクトルとのなす角度を算出する角度算出ステップと、
    前記角度算出ステップにより算出された角度が所定の角度以上であった場合、前記対象の静止画像の接合を停止する停止処理ステップと、
    前記過去画像確認ステップにより前記過去の静止画像が前記一部分に存在しないことが確認された場合、または、前記角度算出ステップにより算出された角度が所定の角度未満であった場合に、前記対象の静止画像の接合を行う接合処理ステップと
    を備える画像接合方法。
  7. 動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合方法であって、
    前記複数の静止画像を取得する画像取得ステップと、
    前記画像取得ステップが取得した複数の静止画像において、対象の静止画像と、該対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出ステップと、
    前記対象の静止画像の前記動画像内での時刻を記録する時刻記録ステップと、
    前記対象の静止画像が接合されるべき部分の少なくとも一部分に、前記前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認ステップと、
    前記過去画像確認ステップにより前記過去の静止画像が前記一部分に存在することが確認された場合、前記過去の静止画像の前記動画像内での時刻と、前記対象の静止画像の前記動画像内での時刻との間の時間差を算出する時間算出ステップと、
    前記時間算出ステップにより算出された時間差が所定の時間差以上であった場合、前記対象の静止画像の接合を停止する停止処理ステップと、
    前記過去画像確認ステップにより前記過去の静止画像が前記一部分に存在しないことが確認された場合、または、前記時間算出ステップにより算出された時間差が所定の時間未満であった場合に、前記対象の静止画像の接合を行う接合処理ステップと
    を備える画像接合方法。
  8. 動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合プログラムであって、コンピュータに、
    対象の静止画像を取得する画像取得機能と、
    前記対象の静止画像と、該対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出機能と、
    前記対象の静止画像と前記動きベクトルとを対応付けて記録する動きベクトル記録機能と、
    前記対象の静止画像が接合されるべき部分の少なくとも一部分に、前記前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認機能と、
    前記過去画像確認機能により前記過去の静止画像が前記一部分に存在することが確認された場合、前記対象の静止画像に対応付けられた動きベクトルと、前記過去の静止画像に対応付けられた動きベクトルとのなす角度を算出する角度算出機能と、
    前記角度算出機能により算出された角度が所定の角度以上であった場合、前記対象の静止画像の接合を停止する停止処理機能と、
    前記過去画像確認機能により前記過去の静止画像が前記一部分に存在しないことが確認された場合、または、前記角度算出機能により算出された角度が所定の角度未満であった場合に、前記対象の静止画像の接合を行う接合処理機能と
    を実現させる画像接合プログラム。
  9. 動画像を構成する時間軸上で連続した複数の静止画像を接合することにより接合画像を作成する画像接合プログラムであって、コンピュータに、
    前記複数の静止画像を取得する画像取得機能と、
    前記画像取得機能が取得した複数の静止画像において、対象の静止画像と、該対象の静止画像に時間軸上で隣接する前の静止画像との間の動きベクトルを導出する動きベクトル導出機能と、
    前記対象の静止画像の前記動画像内での時間を記録する時間記録機能と、
    前記対象の静止画像が接合されるべき部分の少なくとも一部分に、前記前の静止画像よりも時間的に過去の静止画像が存在するか否かを確認する過去画像確認機能と、
    前記過去画像確認機能により前記過去の静止画像が前記一部分に存在することが確認された場合、前記過去の静止画像の前記動画像内での時刻と、前記対象の静止画像の前記動画像内での時刻との間の時間差を算出する時間算出機能と、
    前記時間算出機能により算出された時間差が所定の時間差以上であった場合、前記対象の静止画像の接合を停止する停止処理機能と、
    前記過去画像確認機能により前記過去の静止画像が前記一部分に存在しないことが確認された場合、または、前記時間算出機能により算出された時間差が所定の時間未満であった場合に、前記対象の静止画像の接合を行う接合処理機能と
    を実現させる画像接合プログラム。
JP2013246558A 2013-11-28 2013-11-28 画像接合装置、画像接合方法および画像接合プログラム Active JP6146278B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013246558A JP6146278B2 (ja) 2013-11-28 2013-11-28 画像接合装置、画像接合方法および画像接合プログラム
US14/489,883 US9432577B2 (en) 2013-11-28 2014-09-18 Image joining apparatus, image joining method, and image joining program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013246558A JP6146278B2 (ja) 2013-11-28 2013-11-28 画像接合装置、画像接合方法および画像接合プログラム

Publications (3)

Publication Number Publication Date
JP2015106186A true JP2015106186A (ja) 2015-06-08
JP2015106186A5 JP2015106186A5 (ja) 2016-07-07
JP6146278B2 JP6146278B2 (ja) 2017-06-14

Family

ID=53182357

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013246558A Active JP6146278B2 (ja) 2013-11-28 2013-11-28 画像接合装置、画像接合方法および画像接合プログラム

Country Status (2)

Country Link
US (1) US9432577B2 (ja)
JP (1) JP6146278B2 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008087721A1 (ja) * 2007-01-18 2008-07-24 Fujitsu Limited 画像合成装置、画像合成方法、プログラム
WO2013015147A1 (ja) * 2011-07-27 2013-01-31 オリンパス株式会社 画像処理システム、情報処理装置、プログラム及び画像処理方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005311789A (ja) * 2004-04-22 2005-11-04 Fuji Photo Film Co Ltd デジタルカメラ
US8350892B2 (en) * 2008-05-20 2013-01-08 Sony Corporation Image pickup apparatus, image pickup method, playback control apparatus, playback control method, and program
JP5347716B2 (ja) * 2009-05-27 2013-11-20 ソニー株式会社 画像処理装置、情報処理方法およびプログラム
US8947502B2 (en) * 2011-04-06 2015-02-03 Qualcomm Technologies, Inc. In camera implementation of selecting and stitching frames for panoramic imagery
KR101626003B1 (ko) * 2009-08-24 2016-06-13 삼성전자주식회사 디지털 촬영장치
JP5359783B2 (ja) * 2009-10-28 2013-12-04 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP2011182151A (ja) * 2010-03-01 2011-09-15 Sanyo Electric Co Ltd 画像合成装置
US8957944B2 (en) * 2011-05-17 2015-02-17 Apple Inc. Positional sensor-assisted motion filtering for panoramic photography
US9516223B2 (en) * 2012-06-06 2016-12-06 Apple Inc. Motion-based image stitching

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008087721A1 (ja) * 2007-01-18 2008-07-24 Fujitsu Limited 画像合成装置、画像合成方法、プログラム
WO2013015147A1 (ja) * 2011-07-27 2013-01-31 オリンパス株式会社 画像処理システム、情報処理装置、プログラム及び画像処理方法

Also Published As

Publication number Publication date
JP6146278B2 (ja) 2017-06-14
US9432577B2 (en) 2016-08-30
US20150146041A1 (en) 2015-05-28

Similar Documents

Publication Publication Date Title
US10789676B2 (en) Image processing device, image processing method, and program
Liu et al. Video stabilization with a depth camera
JP5027747B2 (ja) 位置測定方法、位置測定装置、およびプログラム
CN110784641B (zh) 组合来自多个摄像机的视图的方法及摄像机系统
WO2016184131A1 (zh) 基于双摄像头拍摄图像的方法、装置及计算机存储介质
JP6222514B2 (ja) 画像処理装置、撮像装置、およびコンピュータブログラム
WO2010061956A1 (en) Stereoscopic image processing device, method, recording medium and stereoscopic imaging apparatus
JP2007135056A (ja) 画像処理装置および方法、並びにプログラム
JP2009253506A (ja) 画像処理装置、画像処理方法、手振れ範囲推定装置、手振れ範囲推定方法、及びプログラム
JP2013165485A (ja) 画像処理装置、撮像装置およびコンピュータブログラム
JP2017220715A (ja) 画像処理装置、画像処理方法、プログラム
WO2017128750A1 (zh) 一种图像采集方法和图像采集装置
CN102263894B (zh) 拍摄装置
JP2007036359A (ja) 画像合成装置、画像合成方法及びプログラム
KR102265109B1 (ko) 영상 처리 방법 및 장치
JP5149861B2 (ja) 中間画像生成装置およびその動作制御方法
JP6146278B2 (ja) 画像接合装置、画像接合方法および画像接合プログラム
US20150281575A1 (en) Image processing apparatus, image processing method, program, and camera
EP2656310B1 (en) Method for producing a panoramic image and implementation apparatus
JP6613149B2 (ja) 像ブレ補正装置及びその制御方法、撮像装置、プログラム、記憶媒体
JP2015126402A (ja) ロボットカメラ制御装置、そのプログラム及び多視点ロボットカメラシステム
Huynh et al. Aerial implicit 3D video stabilization using epipolar geometry constraint
US9282306B2 (en) Imaging device, information processing device, and non-transitory computer readable medium storing program
JP2007208704A (ja) 撮像装置、画像処理方法及びプログラム
KR101653281B1 (ko) 설정 가능한 센서네트워크에서의 사용자 위치 추정 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160519

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170406

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170418

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170501

R150 Certificate of patent or registration of utility model

Ref document number: 6146278

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150