JP3757008B2 - 画像合成装置 - Google Patents
画像合成装置 Download PDFInfo
- Publication number
- JP3757008B2 JP3757008B2 JP27117496A JP27117496A JP3757008B2 JP 3757008 B2 JP3757008 B2 JP 3757008B2 JP 27117496 A JP27117496 A JP 27117496A JP 27117496 A JP27117496 A JP 27117496A JP 3757008 B2 JP3757008 B2 JP 3757008B2
- Authority
- JP
- Japan
- Prior art keywords
- moving object
- partial image
- image
- amount
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、いわゆるデジタルカメラやビデオカメラなどの撮像装置に好適に実施され、撮像装置が持つ所定の画角よりも広い画角の画像を、解像度を落すことなく、複数枚の画像の合成によって実現することができる画像合成装置に関する。
【0002】
【従来の技術】
一般的な撮像装置に用いられている撮像素子は、予め定める数の画素で構成されており、撮像装置の画角は予め定められている。したがって、撮像装置が持つ所定の画角よりも広い画角の画像であるいわゆるパノラマ画像を解像度を落すことなく作成する場合、パノラマ画像専用の撮像装置を用いると、特殊な光学部品の使用や撮像素子の画素数の増加などによって装置自体のコストが高くなり、不経済である。そのため、高精細のパノラマ画像を安価に得るために、撮像装置で撮影された複数枚の画像を合成する画像合成装置が用いられている。
【0003】
たとえば、特開平2−151182号公報に開示されているパノラマ画像作成用ビデオカメラでは、カメラを三脚上で回転させて撮影させ、その回転角に応じて画像をずらして重ねあわせて合成している。しかし、撮影には三脚が必要であり、また回転角の検出のための回路も必要であり、大がかりでかつ特殊な器具・回路を必要とし、コスト高になり、また携帯には不便であり、操作性、使用性、利便性の点で問題がある。
【0004】
また、特開平3−34780号公報に開示されている実時間画像合成装置では、空間的な2自由度を持たせて撮影した複数枚の画像を、画像間の相関を検出して合成している。しかし、被写体が静的でなく、動いている物体を含んでいるような場合は、次の画像を撮影する間に被写体が動いてしまい、画像間のつながりが保証できなくなり、より自然な画像の合成ができないという欠点がある。
【0005】
【発明が解決しようとする課題】
本発明の目的は、三脚などの特殊な器具を使わずに撮影した複数枚の画像を簡単かつ高速に合成することができ、また被写体に動いている物体を含むような場合でも自然なつながりを持つ合成画像を作成することができる画像合成装置を提供することである。
【0007】
【課題を解決するための手段】
本発明は、合成画像の一部分を構成する複数枚の部分画像を格納する部分画像格納手段と、
前記部分画像格納手段から読み出した部分画像を、予め定める方向にそって複数の短冊領域に分割し、他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める短冊領域動き検出手段と、
前記短冊領域動き検出手段で求めた各短冊領域の移動量に基づいて、部分画像全体の動き量を求める部分画像動き算出手段と、
背景部分と比較して相対的に動いているように見える動物体の存在領域、動物体の動き量、各部分画像中で検出された動物体間の同一性を表す動物体同一性情報、および動物体がすでに合成画像に書き込まれたかどうかを表す動物体書き込み情報を含む動物体情報を格納する動物体情報格納手段と、
前記短冊領域動き検出手段で求められた短冊領域の移動量と、前記部分画像動き算出手段で求められた部分画像全体の動き量と、前記動物体情報格納手段に格納されている動物体の存在領域およびその動き量とに基づいて、部分画像中の動物体の存在領域およびその動き量と、すでに検出された動物体と同一かどうかを表す動物体同一性情報とを求める動物体検出手段と、
前記動物体検出手段で求めた動物体の存在領域、その動き量、および動物体同一性情報に基づいて、部分画像中の動物体を合成画像中に書き込むかどうかを判断する動物体書き込み画像判定手段と、
前記動物体書き込み画像判定手段から動物体の書き込み許可が与えられたときは、前記動物体検出手段で求められた動物体の存在領域およびその動き量に基づいて、動物体を含むような部分画像の書き込み範囲を決め、書き込み許可が与えられないときは、動物体を含まないような部分画像の書き込み範囲を決める部分画像書き込み範囲算出手段と、
前記部分画像動き算出手段で求められた部分画像全体の動き量に応じて、前記部分画像書き込み範囲算出手段で求められた書き込み範囲の部分画像を合成して、合成画像を作成する画像合成手段とを含むことを特徴とする画像合成装置である。
【0008】
本発明に従えば、所定の画素数および画角を有する撮像手段から出力される部分画像は、部分画像格納手段に撮影順序にしたがって順番に格納される。部分画像とは、撮像手段の画角より広い画角の画像である合成画像の一部分を構成するものである。格納された部分画像は、短冊領域動き検出手段によって読み出され、予め定める方向にそって複数の短冊領域に分割される。予め定める方向とは、一般に矩形状で得られる画像の縦方向または横方向である。分割後、たとえば時間的に後で撮影した他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める。部分画像動き算出手段では、求められた各短冊領域の移動量に基づいて、2つの部分画像間の動き量、すなわち時間的に後で撮影された部分画像と先に撮影された部分画像との間での部分画像全体の動き量が求められる。
また、動物体検出手段では、短冊領域動き検出手段で求められた短冊領域の移動量と、部分画像動き量算出手段で求められた部分画像全体の動き量とに基づいて、部分画像中の動物体の存在領域とその動き量とが求められる。短冊領域の移動量が部分画像全体の動き量とほぼ同じときは、その短冊領域内の被写体は撮像手段が移動したために結果として移動したものであり、したがってその短冊領域内には動物体は存在していないものと判断される。一方、短冊領域の移動量が部分画像全体の動き量とはかなり異なるときは、その短冊領域内の被写体は撮像手段の移動とは異なる動きをしたものであり、したがってその短冊領域内に動物体が存在しているものと判断される。これによって、動物体の存在領域が求められる。また、動物体が存在しているものと判断された短冊領域の移動量の平均値を求めるなどして、動物体の動き量が求められる。
続いて、すでに動物体情報格納手段に動物体情報が格納されているときは、すでに検出された動物体と現在処理している部分画像中で検出された動物体とが同一のものかどうかを判断する。検出済動物体の存在領域とその動き量とに基づいて、現在処理中の部分画像中での当該検出済動物体の位置と動き量とを予測し、予測した位置および動き量が求められた存在領域および動き量と一致した場合は、現在処理中の部分画像中で検出された動物体は検出済動物体と同一であると判断し、動物体同一性情報が求められる。求められた動物体の存在領域、その動き量および動物体同一性情報は、動物体情報格納手段に格納される。
また、動物体書き込み画像判定手段では、動物体検出手段で求められた動物体の存在領域、その動き量および動物体同一性情報に基づいて、部分画像中の動物体を合成画像中に書き込むかどうかを判断する。検出された動物体が検出済動物体と同一であり、かつ検出済動物体がすでに合成画像中に書き込まれているときは、書き込まないと判断する。検出された動物体がまだ合成画像中に書き込まれていないときは、書き込むと判断する。
【0009】
また、たとえば別の部分画像中ですでに検出された動物体の情報を格納しておき、現在処理している部分画像中で検出された動物体の存在領域およびその動き量と比較することによって、検出された動物体がすでに検出された動物体と同一かどうかを判断し、動物体が複数の部分画像間でどのように動いているかを追跡することができる。この追跡結果に基づいて、合成画像に動物体を書き込む際に、その動物体が画像中に存在している複数の部分画像の中から1つだけ選択し、合成画像には選択した部分画像中の動物体の領域のみ書き込み、それ以外の部分画像からは動物体の領域を書き込まないようにすることで、合成画像中の動物体の画像が不自然に合成されることを防ぎ、さらに合成画像中に同一の動物体が複数現れることを防ぐことができる。
合成画像中の動物体が不自然に合成されている場合とは、たとえば、部分画像から合成画像に書き込む際に、書き込む領域の境界上に動物体の一部がかかっており、動物体が動くことでその境界付近の画像が変わってしまい、異なる時刻の動物体の画像をつぎはぎしたような合成画像になってしまう場合や、あるいは動物体の画像がその境界で一部が消えてなくなり、動物体がちぎれたような合成画像になってしまうような場合を指す。
この判断結果である動物体書き込み情報は、動物体情報格納手段に格納されるとともに、部分画像書き込み範囲検出手段に与えられる。
部分画像書き込み範囲検出手段では、部分画像の書き込み範囲を決定する。動物体の書き込み許可が与えられたときは、求められた動物体の存在領域および動き量に基づいて、その動物体を含むような書き込み範囲を求める。動物体の書き込み許可が与えられないときは、その動物体を含まないような書き込み範囲を求める。求められた書き込み範囲は、画像合成手段に与えられる。
画像合成手段では、求められた部分画像全体の動き量に応じて、求められた書き込み範囲の部分画像が合成され、合成画像が作成される。
【0010】
また本発明は、合成画像の一部分を構成する複数枚の部分画像を格納する部分画像格納手段と、
前記部分画像格納手段から読み出した部分画像を、予め定める方向にそって複数の短冊領域に分割し、他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める短冊領域動き検出手段と、
前記短冊領域動き検出手段で求めた各短冊領域の移動量に基づいて、部分画像全体の動き量を求める部分画像動き算出手段と、
背景部分と比較して相対的に動いているように見える動物体の存在領域、動物体の動き量、各部分画像中で検出された動物体間の同一性を表す動物体同一性情報、および動物体がすでに合成画像に書き込まれたかどうかを表す動物体書き込み情報を含む動物体情報を格納する動物体情報格納手段と、
前記短冊領域動き検出手段で求められた短冊領域の移動量と、前記部分画像動き算出手段で求められた部分画像全体の動き量と、前記動物体情報格納手段に格納されている動物体の存在領域およびその動き量とに基づいて、部分画像中の動物体の存在領域およびその動き量と、すでに検出された動物体と同一かどうかを表す動物体同一性情報とを求める動物体検出手段と、
前記動物体検出手段で求められた動物体の存在領域およびその動き量に基づいて、動物体を含まないような部分画像の書き込み範囲を決める部分画像書き込み範囲算出手段と、
前記部分画像動き算出手段で求められた部分画像全体の動き量に応じて、前記部分画像書き込み範囲算出手段で求められた書き込み範囲の部分画像を合成して、合成画像を作成する画像合成手段とを含むことを特徴とする画像合成装置である。
本発明に従えば、撮像手段から出力される部分画像は、部分画像格納手段に撮影順序にしたがって順番に格納される。格納された部分画像は、短冊領域動き検出手段によって読み出され、予め定める方向にそって複数の短冊領域に分割される。分割後、他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める。部分画像動き算出手段では、求められた各短冊領域の移動量に基づいて、2つの部分画像間での部分画像全体の動き量が求められる。
また、動物体検出手段では、短冊領域動き検出手段で求められた短冊領域の移動量と、部分画像動き量算出手段で求められた部分画像全体の動き量とに基づいて、部分画像中の動物体の存在領域とその動き量とが求められる。短冊領域の移動量が部分画像全体の動き量とほぼ同じときは、その短冊領域の被写体は撮像手段が移動したために結果として移動したものであり、したがってその短冊領域内には動物体は存在していないものと判断される。一方、短冊領域の移動量が部分画像全体の動き量とはかなり異なるときは、その短冊領域内の被写体は撮像手段の移動とは異なる動きをしたものであり、したがってその短冊領域内に動物体が存在しているものと判断される。これによって、動物体の存在領域が求められる。また、動物体が存在しているものと判断された短冊領域の移動量の平均値を求めるなどして、動物体の動き量が求められる。
続いて、すでに動物体情報格納手段に動物体情報が格納されているときは、すでに検出された動物体と現在処理している部分画像中で検出された動物体とが同一のものかどうかを判断する。検出済動物体の存在領域とその動き量とに基づいて、現在処理中の部分画像中での検出済動物体の位置と動き量とを予測し、予測した位置および動き量が求められた存在領域および動き量と一致した場合は、現在処理中の部分画像中で検出された動物体は検出済動物体と同一であると判断し、動物体同一性情報が求められる。求められた動物体の存在領域、その動き量および動物体同一性情報は、動物体情報格納手段に格納される。
部分画像書き込み範囲検出手段では、部分画像の書き込み範囲を決定する。書き込み範囲は、求められた動物体の存在領域および動き量に基づいて、その動物体を含まないような書き込み範囲を求める。求められた書き込み範囲は、画像合成手段に与えられる。
画像合成手段では、求められた部分画像全体の動き量に応じて、求められた書き込み範囲の部分画像が合成され、合成画像が作成される。
【0012】
さらにまた本発明は、合成画像の一部分を構成する複数枚の部分画像を格納する部分画像格納手段と、
前記部分画像格納手段から読み出した部分画像を、予め定める方向にそって複数の短冊領域に分割し、他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める短冊領域動き検出手段と、
前記短冊領域動き検出手段で求めた各短冊領域の移動量に基づいて、部分画像全体の動き量と、回転量と、拡大縮小率とを求める部分画像動き算出手段と、
背景部分と比較して相対的に動いているように見える動物体の存在領域、動物体の動き量、各部分画像中で検出された動物体間の同一性を表す動物体同一性情報、および動物体がすでに合成画像に書き込まれたかどうかを表す動物体書き込み情報を含む動物体情報を格納する動物体情報格納手段と、
前記短冊領域動き検出手段で求められた短冊領域の移動量と、前記部分画像動き算出手段で求められた部分画像全体の動き量と、前記動物体情報格納手段に格納されている動物体の存在領域およびその動き量とに基づいて、部分画像中の動物体の存在領域およびその動き量と、すでに検出された動物体と同一かどうかを表す動物体同一性情報とを求める動物体検出手段と、
前記動物体検出手段で求めた動物体の存在領域、その動き量、および動物体同一性情報に基づいて、部分画像中の動物体を合成画像中に書き込むかどうかを判断する動物体書き込み画像判定手段と、
前記動物体書き込み画像判定手段から動物体の書き込み許可が与えられたときは、前記動物体検出手段で求められた動物体の存在領域およびその動き量に基づいて、動物体を含むような部分画像の書き込み範囲を決め、書き込み許可が与えられないときは、動物体を含まないような部分画像の書き込み範囲を決める部分画像書き込み範囲算出手段と、
前記部分画像書き込み範囲算出手段で求められた書き込み範囲の部分画像を、前記部分画像動き算出手段で求めた部分画像全体の動き量と、回転量と、拡大縮小率とに基づいてアフィン変換してから合成して、合成画像を作成する画像合成手段とを含むことを特徴とする画像合成装置である。
本発明に従えば、撮像手段から出力される部分画像は、部分画像格納手段に撮影順序にしたがって順番に格納される。格納された部分画像は、短冊領域動き検出手段によって読み出され、予め定める方向にそって複数の短冊領域に分割される。分割後、他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める。部分画像動き算出手段では、撮影時に撮像手段が回転したり、ズーム撮影したりした場合などを考慮して、求められた各短冊領域の移動量に基づいて、2つの部分画像間での部分画像全体の動き量、回転量、拡大縮小率が求められる。
また、動物体検出手段では、前述と同様に短冊領域動き検出手段で求められた短冊領域の移動量と、部分画像動き量算出手段で求められた部分画像全体の動き量とに基づいて、部分画像中の動物体の存在領域とその動き量とが求められる。
続いて、すでに動物体情報格納手段に動物体情報が格納されているときは、すでに検出された動物体と現在処理している部分画像中で検出された動物体とが同一のものかどうかを判断する。検出済動物体の存在領域とその動き量とに基づいて、現在処理中の部分画像中での検出済動物体の位置と動き量とを予測し、予測した位置および動き量が求められた存在領域および動き量と一致した場合は、現在処理中の部分画像中で検出された動物体は検出済動物体と同一であると判断し、動物体同一性情報が求められる。求められた動物体の存在領域、その動き量および動物体同一性情報は、動物体情報格納手段に格納される。
また、動物体書き込み画像判定手段では、動物体検出手段で求められた動物体の存在領域、その動き量および動物体同一性情報に基づいて、部分画像中の動物体を合成画像中に書き込むかどうかを判断する。検出された動物体が検出済動物体と同一であり、かつ検出済動物体がすでに合成画像中に書き込まれているときは、書き込まないと判断する。検出された動物体がまだ合成画像中に書き込まれていないときは、書き込むと判断する。
この判断結果である動物体書き込み情報は、動物体情報格納手段に格納されるとともに、部分画像書き込み範囲検出手段に与えられる。
部分画像書き込み範囲検出手段では、部分画像の書き込み範囲を決定する。動物体の書き込み許可が与えられたときは、求められた動物体の存在領域および動き量に基づいて、その動物体を含むような書き込み範囲を求める。動物体の書き込み許可が与えられないときは、その動物体を含まないような書き込み範囲を求める。求められた書き込み範囲は、画像合成手段に与えられる。
画像合成手段では、求められた書き込み範囲の部分画像を、前記部分画像動き算出手段で求めた部分画像全体の動き量と、回転量と、拡大縮小率とに基づいてアフィン変換してから合成して、合成画像を作成する。前記部分画像動き算出手段で求めた部分画像全体の動き量、回転量、拡大縮小率は、部分画像間の相対量なので、合成画像ではいずれかの部分画像を基準として、その部分画像からの絶対量を求めて合成しなければならない。そのため、画像合成手段では、基準とする部分画像からの相対量を積算して絶対量として、複数枚の部分画像をアフィン変換してから合成して、合成画像を作成する。
【0013】
さらに本発明は、合成画像の一部分を構成する複数枚の部分画像を格納する部分画像格納手段と、
前記部分画像格納手段から読み出した部分画像を、予め定める方向にそって複数の短冊領域に分割し、他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める短冊領域動き検出手段と、
前記短冊領域動き検出手段で求めた各短冊領域の移動量に基づいて、部分画像全体の動き量と、回転量と、拡大縮小率とを求める部分画像動き算出手段と、
背景部分と比較して相対的に動いているように見える動物体の存在領域、動物体の動き量、各部分画像中で検出された動物体間の同一性を表す動物体同一性情報、および動物体がすでに合成画像に書き込まれたかどうかを表す動物体書き込み情報を含む動物体情報を格納する動物体情報格納手段と、
前記短冊領域動き検出手段で求められた短冊領域の移動量と、前記部分画像動き算出手段で求められた部分画像全体の動き量と、前記動物体情報格納手段に格納されている動物体の存在領域およびその動き量とに基づいて、部分画像中の動物体の存在領域およびその動き量と、すでに検出された動物体と同一かどうかを表す動物体同一性情報とを求める動物体検出手段と、
前記動物体検出手段で求められた動物体の存在領域およびその動き量に基づいて、動物体を含まないような部分画像の書き込み範囲を決める部分画像書き込み範囲算出手段と、
前記部分画像書き込み範囲算出手段で求められた書き込み範囲の部分画像を、前記部分画像動き算出手段で求めた部分画像全体の動き量と、回転量と、拡大縮小率とに基づいてアフィン変換してから合成して、合成画像を作成する画像合成手段とを含むことを特徴とする画像合成装置である。
本発明に従えば、撮像手段から出力される部分画像は、部分画像格納手段に撮影順序にしたがって順番に格納される。格納された部分画像は、短冊領域動き検出手段によって読み出され、予め定める方向にそって複数の短冊領域に分割される。分割後、他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める。部分画像動き算出手段では、求められた各短冊領域の移動量に基づいて、2つの部分画像間での部分画像全体の動き量、回転量、拡大縮小率が求められる。
また、動物体検出手段では、短冊領域動き検出手段で求められた短冊領域の移動量と、部分画像動き量算出手段で求められた部分画像全体の動き量とに基づいて、部分画像中の動物体の存在領域とその動き量とが求められる。短冊領域の移動量が部分画像全体の動き量とほぼ同じときは、その短冊領域の被写体は撮像手段が移動したために結果として移動したものであり、したがってその短冊領域内には動物体は存在していないものと判断される。一方、短冊領域の移動量が部分画像全体の動き量とはかなり異なるときは、その短冊領域内の被写体は撮像手段の移動とは異なる動きをしたものであり、したがってその短冊領域内に動物体が存在しているものと判断される。これによって、動物体の存在領域が求められる。また、動物体が存在しているものと判断された短冊領域の移動量の平均値を求めるなどして、動物体の動き量が求められる。
続いて、すでに動物体情報格納手段に動物体情報が格納されているときは、すでに検出された動物体と現在処理している部分画像中で検出された動物体とが同一のものかどうかを判断する。検出済動物体の存在領域とその動き量とに基づいて、現在処理中の部分画像中での検出済動物体の位置と動き量とを予測し、予測した位置および動き量が求められた存在領域および動き量と一致した場合は、現在処理中の部分画像中で検出された動物体は検出済動物体と同一であると判断し、動物体同一性情報が求められる。求められた動物体の存在領域、その動き量および動物体同一性情報は、動物体情報格納手段に格納される。
部分画像書き込み範囲検出手段では、部分画像の書き込み範囲を決定する。書き込み範囲は、求められた動物体の存在領域および動き量に基づいて、その動物体を含まないような書き込み範囲を求める。求められた書き込み範囲は、画像合成手段に与えられる。
画像合成手段では、求められた書き込み範囲の部分画像を、前記部分画像動き算出手段で求めた部分画像全体の動き量と、回転量と、拡大縮小率とに基づいてアフィン変換してから合成して、合成画像を作成する。
【0014】
さらに本発明は、前記動物体書き込み画像判定手段は、動物体が中心付近に位置している部分画像を、動物体を合成画像中に書き込む部分画像として判定することを特徴とする。
本発明に従えば、動物体を合成画像中に書き込む部分画像を判定するときは、同一の動物体が検出された複数の部分画像がある場合は、動物体が中心付近に位置している部分画像を選択する。これによって、比較的歪みの小さい中心付近の動物体の画像を合成画像に用いることになるので、歪みが小さく、より自然に動物体が合成された合成画像を得ることができる。
【0015】
さらにまた本発明は、どの部分画像を合成画像に書き込むかどうかを入力する書き込み画像指示手段をさらに備え、
前記動物体書き込み画像判定手段は、前記書き込み画像指示手段によって指示された部分画像を、動物体を合成画像中に書き込む部分画像として判定することを特徴とする。
本発明に従えば、ユーザからの指示にしたがって合成画像に書き込む部分画像が選択される。たとえば、書き込もうとする動物体がすでに書き込まれている別の動物体と位置的に重ならないように気をつけて、複数の部分画像の中から複数の部分画像を選択することによって、動物体が不自然に合成されることを防ぎ、かつ、合成画像中に同一の動物体が複数個現れているというような実際にはありえないような風景を合成画像として得られる効果がある。
【0016】
また本発明は、前記部分画像動き算出手段で求められた部分画像全体の動き量と、回転量と、拡大縮小率とを格納する部分画像動き格納手段をさらに備え、
前記部分画像動き算出手段は、前記部分画像動き格納手段に格納されているすでに求められた別の部分画像の動き量、回転量、拡大縮小率から予測される数値範囲内に、各短冊領域の移動量、部分画像全体の動き量、回転量、拡大縮小率が収まっているかどうかを判断して、部分画像全体の動き量、回転量、拡大縮小率を求めることを特徴とする。
本発明に従えば、部分画像動き算出手段では、すでに求められた別の部分画像の動き量、回転量、拡大縮小率に基づいて、現在処理中の部分画像の各短冊領域の移動量、動き量、回転量、拡大縮小率を予測し、求めた動き量、回転量、拡大縮小率が予測値の範囲内に収まっているかどうかを判断し、範囲内に収まっていれば求めた動き量、回転量、拡大縮小率をそのまま出力し、範囲内に収まっていなければ収まるように求め直してから出力する。これによって、部分画像全体の動き量、回転量、拡大縮小率をより正確に求めることができる。
【0017】
さらに本発明は、前記部分画像動き算出手段で求められた部分画像全体の動き量と、回転量と、拡大縮小率とを格納する部分画像動き格納手段をさらに備え、
前記部分画像動き算出手段は、予め定める枚数の部分画像に関してそれぞれ部分画像全体の動き量、回転量、拡大縮小率を求めて、一旦前記部分画像格納手段に格納した後に、求めた値から予測される数値範囲内に、格納した部分画像全体の動き量、回転量、拡大縮小率が収まっているかどうかを判断し、収まっていなければその部分画像に関して再度部分画像全体の動き量、回転量、拡大縮小率を求め直すことを特徴とする。
本発明に従えば、部分画像全体の動き量などを、一度、すべての部分画像または一部の部分画像に関して求めておき、その後、求めた部分画像全体の動き量などから予測値を求め、その予測値内に求めた部分画像全体の動き量などが収まっているかどうかを判断し、再度求め直すなどすることによって、より正確な部分画像全体の動き量などを求められる効果がある。
【0018】
さらにまた本発明は、前記動物体検出手段は、現在処理中の部分画像で検出された動物体の存在領域中の短冊領域の移動量の最大値と最小値との差が予め定める閾値以上ある場合、または、前記動物体情報格納手段に格納されている検出済み動物体の存在領域および動き量に基づいて、現在処理中の部分画像における検出済み動物体の存在領域および動き量を予測したときに、実際に検出された動物体の存在領域中に複数の動物体が存在すると予測された場合には、現在処理中の部分画像には複数の動物体が存在するものとして検出することを特徴とする。
本発明に従えば、現在処理中の部分画像で検出された動物体の存在領域中の短冊領域の移動量の最大値と最小値との差が予め定める閾値以上ある場合、または、前記動物体情報格納手段に格納されている検出済み動物体の存在領域および動き量に基づいて、現在処理中の部分画像における検出済み動物体の存在領域および動き量を予測したときに、実際に検出された動物体の存在領域中に複数の動物体が存在すると予測された場合には、その領域中に複数の動物体が存在すると判断することで、複数の動物体が重なったり、近づいて見える場合でも、正確に複数の動物体として検出できる。
【0019】
また本発明は、動物体が存在している部分画像または部分画像中の領域を指示する動物体指示手段をさらに備え、
前記動物体検出手段は、前記動物体指示手段の指示に基づいて動物体を検出することを特徴とする。
本発明に従えば、ユーザが動物体指示手段から動物体が存在している部分画像または部分画像中の領域を指示すると、動物体検出手段では指示された領域に対して動物体の検出処理を行う。これによって、簡単かつ正確に動物体を検出できる。
【0020】
さらに本発明は、前記部分画像書き込み範囲算出手段で求めた部分画像の書き込み範囲の境界部分が、合成画像またはすでに合成されている部分画像の書き込み範囲でどこに位置するかを検出し、書き込み範囲を修正する書き込み範囲修正検出手段をさらに備え、
前記画像合成手段は、前記部分画像書き込み範囲算出手段で求めた部分画像の書き込み範囲に代えて、前記書き込み範囲修正検出手段で修正した書き込み範囲の部分画像を合成して、合成画像を作成することを特徴とする。
本発明に従えば、合成する部分画像の書き込み範囲が求められたら、その境界部分が合成画像またはすでに合成されている部分画像の書き込み範囲でどこに位置するかを検出し、書き込み範囲が修正される。画像合成手段では、修正された書き込み範囲の部分画像を合成して、合成画像が作成される。これによって、画像合成において境界部分でずれが発生することを防ぐことができる。
【0021】
【発明の実施の形態】
図1は、本発明の第1の実施の形態である画像合成装置の構成を示すブロック図である。画像合成装置は、部分画像格納部1と、短冊動き検出部2と、部分画像動き算出部3と、画像合成部4とを含んで構成される。部分画像格納部1は、図示しない撮像手段から出力される複数枚の部分画像を、撮影した順番で格納する。部分画像とは、撮像手段の画角より広い画角の画像である合成画像の一部分を構成するものであり、部分画像同士で被写体を一部重複するように、すなわち合成したときに部分画像同士で重なりあう部分が存在するように撮影するとよい。部分画像格納部1に格納された部分画像aは、短冊動き検出部2および画像合成部4に与えられる。
【0022】
短冊動き検出部2は、部分画像aを予め定める方向にそって複数の短冊領域に分割する。予め定める方向とは、一般に矩形状で得られる画像の縦方向または横方向である。画像の画素が行列状に配列されている場合は、画素の行方向または列方向である。各短冊領域の大きさは、通常は同じ大きさで良いが、注目したい部分などがある場合はその部分の短冊を小さくしても良い。短冊領域としては、たとえば図2(a)に示すように、部分画像aを縦方向(図2の紙面上上下方向)にそって4つに分割して得られる短冊領域100,101,102,103が用いられる。短冊領域100〜103では、隣接する領域同士は重なり合う部分はなく、また部分画像aの縦方向の周辺付近は画像の歪みが中心部分よりも大きいので、短冊領域からは除かれている。
【0023】
また他の短冊領域としては、図2(b)に示すように、部分画像aを縦方向にそって4つに分割して得られる領域のそれぞれの中心部分の矩形領域104,105,106,107を用いてもよい。さらに他の短冊領域としては、図2(c)に示すように、部分画像aを、横方向(図2の紙面上左右方向)に隣接する領域同士が重なり合うように縦方向に4つに分割して得られる短冊領域108,109,110,111を用いてもよい。短冊領域108〜111では、部分画像aの縦方向の周辺付近は、画像の歪みが中心部分よりも大きいので、短冊領域からは除かれている。なお、横方向にそって分割して短冊領域を作成してもよい。
【0024】
さらに短冊動き検出部2は、得られた短冊領域が、時間的に後で撮影された部分画像の中でどの位置に移動したかを検出し、移動量を求める。位置の検出は、たとえば、探索対象である部分画像内であって、基準となる短冊領域の位置と同じ位置の周囲の一定枠内で探索すればよい。たとえば、図2(a)に示す部分画像aの右端の短冊領域103の移動した位置を検出する場合は、探索対象の部分画像内の右端の短冊領域103に相当する位置の周囲の予め定める一定の枠内で探索すればよい。短冊領域の動きがある程度予想できる場合は、その予想地点を中心として探索範囲を設定することによって、短冊領域の実際の動きが探索範囲外となってしまう可能性を減らすことができ、同時に、探索範囲自体を小さくすることができるので、探索処理を少なくし、かつ短時間で実行することができる。
【0025】
探索の最も一般的な方法は、相互相関を取る方法である。たとえば、最も簡単な相互相関である残差は、座標(x0,y0)に位置する短冊領域において、
【0026】
【数1】
【0027】
を最小にする(x1,y1)を求めることである。ここで、短冊領域の幅をw、高さをhとし、それぞれの部分画像中の座標(x,y)の位置の画素の輝度値をg(x,y)、f(x,y)とする。この場合、(x1,y1)の取り得る値が探索範囲となる。ただし、短冊領域すべてが部分画像中に収まる(x1,y1)でなければならない。この場合の短冊領域の移動量は、(x1−x0,y1−y0)である。このようにして各短冊領域ごとに移動量を求める。求められた移動量bは、部分画像動き算出部3に与えられる。
【0028】
部分画像動き算出部3は、各短冊領域の移動量bに基づいて、部分画像全体の動き量cを求める。たとえば4つの短冊領域100〜103に関して、その横方向(x方向)の移動量bxとして、bx(100)=10、bx(101)=12、bx(102)=13、bx(103)=−3が得られたとする。
【0029】
第1の動き量の求め方は、単純に得られた移動量bxの平均値を求める方法である。上述の例では、
動き量c=(10+12+13+(−3))/4=8
である。
【0030】
また、第2の求め方として、平均値を求める場合、単純に短冊領域数で割るだけでなく、短冊領域の位置によって重み付けをして求めるようにしてもよい。たとえば、部分画像の中心部分の短冊領域は重み付けを大きくし、周辺部分は小さくする方法がある。上述の例では、たとえば中央の2つの短冊領域に対して端の2つの短冊領域の2倍の重み付けをすると、
である。
【0031】
第3の求め方としては、移動量を大きさ順に並べて、その中央値を動き量とする方法がある。たとえば上述の例では、移動量を大きさ順に並べると、
−3<10<12<13
となり、中央値である10または12を動き量とする。中央値が2個ある場合は、さらにその平均値を求めて、
(10+12)/2=11
を動き量としてもよい。
【0032】
第4の求め方としては、上述の各種の方法で求めた動き量を、再び各短冊領域の移動量と比較し、その差の絶対値が予め定める閾値以上の移動量は、移動量の検出に失敗、あるいは動物体などが存在していたとして取り除き、残った移動量だけで再び部分画像の動き量を求める方法がある。たとえば閾値を6として、上述の単純平均値を使った例では、短冊領域103の移動量「−3」と平均値「8」との差は「11」となり、閾値「6」以上であるので、短冊領域103の移動量は取り除かれる。残った短冊領域100,101,102の移動量bx(100)=10、bx(101)=12、bx(102)=13だけを用いて平均値を求めると、
動き量c=(10+12+13)/3=35/3=11.66…
となり、約12である。短冊領域の個数にもよるが、この処理を繰り返していけば、さらに精度が上がる場合もある。その際、閾値を固定せずに、繰り返し回数によって少しずつ小さくしていく方法もある。
【0033】
なお、上述の説明では、横方向の移動量・動き量に関してのみ説明したけれども、縦方向の移動量・動き量に関しても同様の処理を行うことで、部分画像全体の縦方向の動き量を求めることができる。
【0034】
一般に、広画角・広範囲の被写体を1次元または2次元で分割して撮影する場合、斜めに撮像手段を動かすことは少なく、上下左右のいずれか一方向に動かす場合が多いので、その動き方向に対して垂直方向の画像の動きは、0または非常に小さい値になることが多い。そのため、最初に、動き方向に対して垂直方向の短冊領域の動きを調べて、移動量の大きなものを取り除いてから、動き方向の動きを調べるとよい場合が多い。
【0035】
画像合成部4は、部分画像動き検出部3で求めた部分画像全体の動き量cと、部分画像格納部1から読み出される部分画像aとに基づいて、合成画像dを合成して出力する。出力された合成画像は、図示しない画像メモリに記憶されるとともに、必要に応じて図示しない表示手段に表示される。
【0036】
図3は、合成画像の作成処理を説明するための図である。まず、合成画像を作成するために最初に撮影した1枚目の部分画像120は、合成画像における初期画像として、画像合成に用いるメモリの所定の位置に格納する。このとき、撮像手段がどちらに移動したか、すなわち部分画像がどちらに移動したかによって、初期画像の格納位置を決定すると、メモリを効率よく利用することができ、合成画像が予め定めた大きさをはみ出す可能性を小さくすることができる。たとえば、全体として右方向に画像が大まかに動いていることを予め知っている場合は、初期画像をメモリ空間上の左端の方に格納すればよい。同様にして、左方向、上方向、下方向に動いた場合は、動いた方向とは反対側の位置に初期画像を格納すればよい。
【0037】
次に、初期画像である部分画像120の次に撮影された2枚目の部分画像121に関して、部分画像120からの動き量(x1,y1)が求められたと仮定する。図3(a)は、最も単純な合成処理を示す図であるが、部分画像120に対して部分画像121を(x1,y1)だけ平行移動させて格納させている。
【0038】
図3(b)は、他の合成処理を示す図である。本合成処理では、画像全体の動き方向が予めわかっている場合に、メモリに書き込む部分画像を動き方向の部分のみにしている。部分画像121が4つの短冊領域122,123,124,125で構成されている場合、部分画像は右方向に動くことが予めわかっているので、部分画像121の左側の部分まで書き込む必要はない。したがって、中央から右側の短冊領域124,125だけをメモリに書き込んで合成すればよい。図3(b)では、説明の便宜上短冊領域122,123も破線で位置を示してあるが、実際にはメモリに書き込まれない。
【0039】
このように部分画像の合成時に部分画像の一部だけを書き込むようにすることで、メモリに対するデータの書き込み量を減らすことができ、短時間で合成することができる。また、この処理を繰り返すことによって、歪みが少なく解像度も良い中心付近の画像が合成画像として使われることになり、質の高い合成画像が得られる。さらに、前記部分画像動き検出部3に関連して説明したように、部分画像の中心付近の重み付けを大きくすることによって、部分画像の中心付近での隣の部分画像とのつながりも良くなり、自然な合成画像を得られる。
【0040】
以上のように第1の実施の形態によれば、部分画像を画像の縦方向または横方向にそって複数に分割して同じ大きさの短冊領域にし、部分画像間での各短冊領域の移動量を求め、各短冊領域の移動量から部分画像間の移動量を求めるようにしたので、たとえば撮像手段が回転したり、ズーム撮影やワイド撮影をするなどして、単純な平行移動には見えないような部分画像が撮影されたとしても、移動量の検出に用いられる短冊領域は部分画像に比べて大きさが小さいため、撮像手段の回転やズーム撮影・ワイド撮影の影響が小さく、各短冊領域の部分画像間での移動量を平行移動として求めても、その誤差は小さい。
【0041】
また、各短冊領域の移動量の分布を見ることで、撮像手段が平行移動したのか、回転したのか、あるいはズーム撮影・ワイド撮影をしたのかなどを簡単に知ることができ、その情報に基づいてアフィン変換や逆透視変換などの画像変形を部分画像に施して画像を合成することができ、より自然なつながりを持った合成画像を得ることができる。
【0042】
図4は、本発明の第2の実施の形態である画像合成装置の構成を示すブロック図である。本実施の形態である画像合成装置において、前述の図1に示す画像合成装置の構成と同じものには、同一の参照符号を付して説明を省略する。すなわち、部分画像格納部1、短冊動き検出部2、および部分画像動き算出部3は、前述した処理と同じ処理を実行する。新たに追加された構成は、動物体情報格納部5と、動物体検出部6と、動物体書き込み画像判定部7と、部分画像書き込み範囲算出部8である。新たに構成が追加されたことによって、画像合成部4aは、前述した処理に加えて新たな処理を行う。
【0043】
動物体情報格納部5は、動物体検出部6から与えられる動物体情報eと、動物体書き込み画像判定部7から与えられる動物体書き込み情報iとを格納する。これらの情報は、すでに処理されたすべての部分画像について格納されており、動物体検出部6によって必要に応じて読み出される。動物体情報eは、検出済動物体の存在領域、その動き量、各部分画像中で検出された動物体間の同一性を表す動物体同一性情報を含む。動物体書き込み情報iは、動物体がすでに合成画像に書き込まれたかどうかを表す。動物体の存在領域は、正確に動物体の輪郭まで求めても良いが、ここでは処理を簡単にするため短冊領域を単位としている。
【0044】
動物体検出部6は、短冊動き検出部2から与えられる各短冊領域の移動量bと、部分画像動き算出部3から与えられる部分画像全体の動き量cと、動物体情報格納部5から読み出される情報f(動物体の存在領域およびその動き量)とに基づいて、部分画像中の動物体の存在領域、動物体の動き量、検出済動物体と同一かどうかを表す動物体同一性情報を求める。ここで、動物体の位置とは、短冊領域の中心位置を指し、動物体が複数の短冊領域にまたがっているときは、複数の短冊領域全体の中心位置を指す。
【0045】
まず、動物体の存在領域候補を検出する。これは、前述した部分画像動き算出部3で取り除かれた短冊領域を利用すれば良い。取り除かれた短冊領域は、他の短冊領域に比べて大幅に異なる移動量を持つものであり、短冊領域内の被写体が動物体である可能性が高いからである。この短冊領域は、部分画像動き算出部3から取得しても良いし、動物体検出部6で改めて求めても良い。
【0046】
次に、動物体の存在領域候補として求められた短冊領域の中から、動物体を検出する。最も単純な検出方法は、前述した部分画像動き算出部3で用いられている方法である。たとえば、動物体存在候補の短冊領域の移動量の平均値や中央値を求め、その値に近い値を持つ短冊領域を残していく方法である。動物体が1個ならば、この方法で動物体の存在領域を短冊領域単位で検出することができる。
【0047】
動物体の動き量も、最も単純に求めるには、動物体存在候補の短冊領域の移動量の平均値や中央値を求めることによって、得られる。また、前述した部分画像動き算出部3で用いられている方法を利用して、動物体存在領域候補の中心部分の短冊領域に重み付けをして、動き量を求めても良い。
【0048】
次に、動物体情報格納部5から読み出した検出済動物体の存在領域とその動き量とに基づいて、現在処理中の部分画像での検出済動物体の位置および動き量を予測する。最も単純な位置の予測方法としては、動物体が等速度運動をしていると仮定し、2つ前に処理した部分画像中の動物体の位置と1つ前に処理した部分画像中の動物体の位置との差を求め、求めた差を1つ前に処理した部分画像の動物体の位置に加算して得られた位置を、現在処理中の部分画像での予測位置とすれば良い。動き量の最も単純な予測方法としては、動物体が等速度運動をしていると仮定し、1つ前に処理した部分画像での動物体の動き量を、現在処理中の部分画像での予測動き量とすれば良い。
【0049】
位置の他の予測方法としては、動物体が等加速度運動をしていると仮定し、3つ前に処理した部分画像中の動物体の位置までを利用して加速度を求め、求めた加速度から速度を予測し、さらに予測した速度から位置を予測する方法がある。たとえば、動物体が等加速度運動をしているときに、過去3つの部分画像での動物体の位置p0,p1,p2がわかっていれば、加速度は、
((p2−p1)−(p1−p0))
と予測されるので、現在処理中の部分画像での動物体の予測位置p3は、
p3=2(p2−p1)−(p1−p0)
と予測される。動き量の他の予測方法としては、過去2つまでの部分画像中の動物体の動き量を利用して動き量の差を求め、求めた差を1つ前の部分画像中の動物体の動き量に加算した値を、現在処理中の部分画像での予測動き量とすれば良い。
【0050】
以上の説明では、部分画像が等時間間隔で撮影されたことを前提としているが、時間間隔が異なる場合は、時間間隔を考慮して予測しなければならない。たとえば、動物体が等速度運動をしていると仮定し、時間間隔t1,t2で撮影された3つの部分画像中の動物体の位置をp0,p1,p2とし、位置p0,p1がわかっている場合、予測位置p2は、
p2=p1+(p1−p0)/t1×t2
で求められる。
【0051】
現在処理中の部分画像におけるの検出済動物体の位置および動き量が予測された後、予測値と実際に求められた動物体の位置および動き量とを比較し、差を求める。求められた差が予め定められる閾値内に収まっていれば、同一の動物体であると判断する。最後に、求められた動物体の位置(存在領域)、動き量、処理済みの部分画像中の動物体と同一であるかどうかを表す動物体同一性情報を含む動物体情報eを、動物体情報格納部5に格納する。
【0052】
動物体書き込み画像判定部7は、動物体検出部6で求められた動物体の存在領域、動き量、動物体同一性情報を含む動物体情報eに基づいて、どの部分画像中のどの動物体を合成画像に書き込むかを判断する。すでに合成画像に書き込まれている場合は、書き込まないと判断し、部分画像書き込み範囲算出部8に対して、動物体を書き込まないという不許可情報jを与える。まだ合成画像に書き込まれていない場合は、書き込むべきかどうかを判断する。初めて動物体が検出されたときはすぐに書き込んでも良いが、できれば動物体が部分画像の中心付近に来たときに書き込むように判断した方が、動物体が部分画像からはみ出してしまっている可能性が低くなり、歪みも小さくなり、解像度も良い画像を合成画像として使用できる。
【0053】
ただし、動物体の移動方向と撮像手段の移動方向によっては、動物体が部分画像の周辺へフレームアウトする方向に動いているものもあるので、その場合はフレームアウトする前に書き込むように判断する。たとえば、動物体が部分画像の周辺に存在し、かつその動く方向が部分画像全体の動き方向とは反対であれば、その動物体は部分画像からフレームアウトする方向に動いていると考えられるので、できる限り中心付近に存在しているときに書き込むように判断する。
【0054】
また、これから書き込もうとする動物体が、すでに書き込んだ別の動物体と合成画像上の位置が重なってしまうこともありえるので、その場合は、なるべく重なる部分が少なくなるような部分画像を選ぶ方が良い。どうしても重なってしまう場合は、どちらの動物体を優先するかを、ユーザに指定してもらうようにしても良い。
【0055】
動物体書き込み画像判定部7において、動物体を合成画像に書き込むと判断した場合は、動物体を書き込むという許可情報jを部分画像書き込み範囲算出部8に与え、動物体を書き込んだという動物体書き込み情報iを動物体格納部5に与える。
【0056】
部分画像書き込み範囲算出部8は、動物体書き込み画像判定部7から許可情報jが与えられたときは、動物体検出部6から与えられる情報g(動物体の存在領域およびcの動き量)に基づいて、動物体を含むような部分画像の書き込み範囲を決定し、動物体書き込み画像判定部7から不許可情報jが与えらたときは、動物体を含まないような部分画像の書き込み範囲を決定する。書き込み範囲は、短冊領域単位で良いが、前述の図3で説明したように、部分画像の動き方向を考慮すると良い。
【0057】
画像合成部4aは、部分画像書き込み範囲算出部8から与えられる書き込み範囲情報kと、部分画像動き算出部3から与えられる部分画像の動き量cとに基づいて、部分画像格納部1から与えられる部分画像aの指定された書き込み範囲を合成画像に書き込む。
【0058】
以上のように第2の実施形態によれば、たとえば静的な風景を撮影中に、風景中を人が横切るような場合や、撮像手段を平行移動して撮影する際に、手前のものが奥のものより相対的に速く平行移動しているように見える場合など、部分画像中で物体が背景と比べて相対的に動いているように見えるときは、短冊領域単位で動きを調べることで、動物体の動きと背景の大まかな動きとが別々に得られる。背景の動きが得られれば、もし背景を中心に合成したいならば、撮像手段の全体の動きを正確に知ることができ、動物体に惑わされることなく、正確な位置関係を有する背景を持つ合成画像を得られるという効果がある。
【0059】
また、部分画像を縦方向に分割して短冊領域を構成した場合、通常は複数の縦長の短冊領域が横方向に並ぶ形になる。撮像装置を横方向に動かして撮影した画像では、たとえば棒状の物体が画像上を縦方向に横切った場合、縦長の短冊領域中に動物体が収まりやすいため、動物体の正確な存在領域と動き量とを検出しやすくなる。さらに、部分画像の中央付近に位置する短冊領域の探索範囲は、周辺に位置する短冊領域に比べて、動き量を調べる探索範囲を広くとれるため、動き量の大きい動物体にも対応することが可能になる。
【0060】
逆に、部分画像を横方向に分割して短冊領域を構成した場合、通常は複数の横長の短冊領域が縦方向に並ぶことになる。撮像装置を横方向に動かして撮影した画像では、たとえばバスや電車のような横長の動物体でも、動物体の正確な存在領域と動き量とを検出しやすくなる。手前(近景)と奥(遠景)の相対速度が違うような場合も、たとえば奥の画像を中心に合成する場合、奥の風景の動く範囲と動き量とを正確に得られるので、正確な配置の奥の風景を持つ合成画像を得られるという効果がある。なお、撮像装置を縦方向に動かして撮影する場合は、縦長の短冊領域と横長の短冊領域とでは、得られる効果は逆になる。
【0061】
図5は、本発明の第3の実施の形態である画像合成装置の構成を示すブロック図である。本実施の形態の画像合成装置は、前述の図4に示す画像合成装置に、部分画像ユーザ指定部9を追加したものである。本実施の形態では、動物体書き込み画像判定部7aは、部分画像ユーザ指定部9から入力される情報、すなわち、どの部分画像を書き込むか書き込まないかを表す情報mに従って、複数の部分画像の中から合成画像に書き込む部分画像を判定する。
【0062】
以上のように第3の実施の形態によれば、たとえば人混みの風景などの背景と動物体の自動判別が難しいとき、背景と動物体をユーザが指示したり、誤った判断があったときは修正したりすることができる。また、たとえばデフォルト(初期設定)では動物体を書き込むように設定しておき、風景中に不要な動物体があるときは、その除去を指示したり、逆にデフォルトでは動物体を書き込まないように設定しておき、風景中に必要な動物体があるときは、その書き込みを指示したりして、ユーザの思うような合成画像を得られるという利点がある。
【0063】
図6は、本発明の第4の実施の形態である画像合成装置の構成を示すブロック図である。本実施の形態の画像合成装置は、前述の図4に示す画像合成装置とほぼ同一の構成であるが、動物体書き込み画像判定部7が設けられていない点が異なる。この相違は、前述の実施の形態では動物体をいかに自然に合成するかを主目的としているのに対し、本実施の形態では逆に動物体をできるだけ合成せずに背景のみで合成することを主目的としていることに基づくものである。
【0064】
動物体検出部6の処理は同じであるが、部分画像書き込み範囲算出部8aは、動物体を書き込まないことが予め決められているので、動物体を含まない範囲を書き込み範囲として算出し、検出された動物体は基本的にすべて取り除かれて合成される。
【0065】
ただし、動物体の動きが少ないときは、動物体の後ろの部分の背景がどの部分画像にも含まれない場合がありえる。このような場合、すべての動物体を取り除くと、動物体を除いた部分を合成する画像がなく、空白ができてしまう。このようなときは、空白のままにするか、不自然に合成されても良いからできるだけ動物体を小さくして合成するか、動物体の除去をあきらめて動物体を自然に合成されるように残すかを、ユーザに選択させれば良い。あるいは、空白との境界部分の画像を引き延ばしたり、繰り返したりすることで、空白を意識させないように合成する方法もある。
【0066】
以上のように第4の実施の形態によれば、合成画像に書き込む部分画像から動物体を除去して書き込むことによって、たとえば観光地で風景を撮影したときに見知らぬ人が横切ったような場合など、動物体自身が合成画像中に不要な場合に、動物体を除いて背景画像のみで合成画像を作成できるという効果を持つ。
【0067】
図7は、本発明の第5の実施の形態である画像合成装置の処理を説明するための図である。本実施の形態の画像合成装置の構成は、前述の各実施の形態の構成とほぼ同一であるが、部分画像動き算出部3aの処理内容が異なる。
【0068】
部分画像動き算出部3aは、短冊動き検出部2から与えられる各短冊領域の移動量cに基づいて、部分画像全体の動き量、回転量、拡大縮小率を求める。たとえば、図7(a)に示すように、ある部分画像において比較的小さな短冊領域104,105,106,107が間隔を開けて配置されているものとする。これらの短冊領域104〜107が別の部分画像でどこに移動したかを示したのが、図7(b)および図7(c)である。
【0069】
図7(b)では、左側の2つの短冊領域104,405は左側に移動し、右側の2つの短冊領域106,107は右側に移動している。この場合は、図7(a)の部分画像から図7(b)の部分画像への変化は、画像が拡大されたことを示している。図7(c)では、左側の2つの短冊領域104,105は下側に移動し、右側の2つの短冊領域106,107は上側に動いている。この場合は、図7(a)の部分画像から図7(c)の部分画像への変化は、画像が反時計回りに回転したことを示している。
【0070】
部分画像全体の動き量、回転量、拡大縮小率を求める方法として、たとえば最小二乗法がある。短冊領域がn個あり、i番目の短冊領域の位置を(xi,yi)、i番目の短冊領域が移動した先の位置を(xi’,yi’)、求めたい動き量を(xoffset,yoffset)、回転量をθ、拡大縮小率をmとしたとき、以下の数式が成り立つ。ただし、(Errxi,Erryi)は、i番目の短冊領域の動き検出における誤差である。
【0071】
【数2】
【0072】
上記行列式を、X’=XA+Eと表すとき、誤差Eの二乗和を最も小さくするときの動き量、回転量、拡大縮小率を求めれば良い。それには、
A=(XtX)-1XtX’
を求めれば良い。
【0073】
求められた動き量、回転量、拡大縮小率は、部分画像間の相対量なので、合成画像では、いずれかの部分画像を基準として、その部分画像からの絶対量を求めて合成しなければならない。そのため、画像合成部4cでは、基準とする部分画像からの相対量を積算して絶対量として、部分画像をアフィン変換して合成する。通常は、基準とする部分画像は、最初にメモリ上に書き込んだ部分画像とすれば良い。
【0074】
以上のように第5の実施の形態によれば、部分画像全体の動き量に加えて回転量および拡大縮小率が求め、求められた部分画像全体の動き量、回転量、拡大縮小率を、基準とする部分画像からの相対量を積算して絶対量として、部分画像をアフィン変換して合成する。したがって、撮影時に撮像手段が回転したり、ズーム撮影したりした場合などであっても、適正な部分画像に変換してから合成されるので、より自然なつながりの合成画像を得ることができる。
【0075】
図8は、本発明の第6の実施の形態である画像合成装置の構成を示すブロック図である。本実施の形態の画像合成装置は、前述の図5に示す画像合成装置の構成とほぼ同一であり、相違点は新たに部分画像動き格納部10を設けたことである。部分画像動き格納部10は、部分画像動き算出部3で算出された部分画像間の動き量、回転量、拡大縮小率などの部分画像動き情報nを格納する。
【0076】
部分画像動き算出部3は、部分画像動き格納部10から読み出したすでに求められた別の部分画像間の動き量、回転量、拡大縮小率などの部分画像動き情報oに基づいて予測される予測値の範囲内に、算出された各短冊領域の移動量や部分画像の動き量、回転量、拡大縮小率が収まっているかどうかを判断し、収まっていなければ再度算出し直して、部分画像の動き量、回転量、拡大縮小率を求める。
【0077】
第1の予測方法としては、動物体の予測方法と同様に、撮像手段が等速度運動で平行移動、等角速度運動で回転、またはこれらの複合運動で動いたと仮定して予測する方法がある。すなわち、2つ前の部分画像と1つ前の部分画像間の部分画像全体の動き量を、そのまま1つ前の部分画像と現在処理中の部分画像間の部分画像全体の動き量の予測値として用いれば良い。回転量、拡大縮小率も、同様にして予測値を求めれば良い。これらの予測値と、実際に短冊領域の移動量に基づいて求めた部分画像間の動き量などを比較して、その差がすべて予め定める閾値以下であれば、実際に求めた動き量などは信頼できると判断する。
【0078】
第2の予測方法としては、過去最新n個の部分画像間の動き量などの平均値を求めて予測する方法がある。すなわち、過去最新n個の部分画像間の動き量などの平均値を予測値とし、これらの予測値と、実際に短冊領域の移動量に基づいて求めた部分画像間の動き量などを比較して、その差がすべて予め定める閾値以下であれば、実際に求めた動き量などは信頼できると判断する。等加速度運動や等角速度運動の場合は、動物体の動き予測の場合と同様に、調べる部分画像を1つ増やして予測すれば良い。
【0079】
また、上述の説明では部分画像の撮影時間間隔が等しいという前提で予測しているが、撮影時間間隔が等しくないときは、時間間隔も考慮して予測しなければならない。たとえば、等加速度運動をしているときに、時間間隔t1,t2で撮影された部分画像の動き量がd0,d1である場合は、次に予測される動き量d2は、
d2=d1+(d1−d0)/t1×t2
で求められる。
【0080】
以上のように第6の実施の形態によれば、部分画像動き算出部3で求められた部分画像全体の動き量、回転量、拡大縮小率を格納しておき、格納された数値から現在処理中の部分画像の各短冊領域の移動量、動き量、回転量、拡大縮小率を予測し、求めた部分画像の各短冊領域の移動量、動き量、回転量、拡大縮小率が予測値の範囲内に収まっているかどうかを判断することで、部分画像全体の動き量などをより正確に求めることができ、ひいては、動物体の検出精度を上げることができる。これは、たとえば、部分画像全体あるいはほとんどが動物体で占められてしまい、その部分画像を見ただけでは背景の動きを得ることができないような場合に有効である。このような場合は、現在処理中の部分画像の前後の部分画像で背景の正確な動きが算出されていたら、その動きから現在処理中の部分画像の動き量、回転量、拡大縮小率の値を予測し、その予測値の範囲内に実際に求めた値が収まっているかどうかで知ることができる。
【0081】
続いて、本発明の実施の第7の形態である画像合成装置について説明する。画像合成装置の構成は、前述の図8に示す構成と同一であるが、相違点は部分画像動き算出部3aの処理内容が異なることである。
【0082】
部分画像動き算出部3aは、合成画像の対象となるすべての部分画像または予め定める枚数の部分画像に関して、一旦、部分画像間の動き量、回転量、拡大縮小率を求め、部分画像動き格納部10に格納しておく。その後、格納してある値に基づいて予測値を求め、予測値の範囲内に各部分画像の動き量などが収まっているかどうかを判断し、収まっていなければ再び求め直す。予測値としては、平均値や中央値を求めても良いし、あるいは大幅に外れた値を外して平均値や中央値を求める処理を繰り返して求めるようにしても良い。
【0083】
前述の実施の形態で述べた処理で求められる部分画像間の動き量などは、必ずしも正しいとは限らない。単純に部分画像間で動き量の算出を誤るだけでなく、その誤りが伝播していくこともある。つまり、過去の部分画像間の動き量などから予測される値と比較して現在処理中の部分画像の動き量などを算出する際に、過去の動き量などが誤って算出されている可能性があるためである。特に、合成開始時の最初の数枚の部分画像を処理した時点では、動物体が最初から部分画像の多くを占めている可能性もあり、動物体の動きを部分画像全体の動き(撮像手段の動き)として、誤って算出する可能性が高い。
【0084】
これを防ぐには、ある一定枚数の部分画像間で一度動き量などを算出しておき、その後、部分画像全体の正確な動き量などを全体を通して修正してから、再び部分画像の動き算出処理などを行えば良い。全体の動き量を求める簡単な方法は、平均値や中央値を求めることである。このように処理することによって、正確な値に基づいて背景か動物体かの判断を行うことができるので、より正確な判断、算出が可能になる。
【0085】
あるいは、ある一定枚数の部分画像間で一度動き量などを算出しておき、その後、動き量などの算出が正しいと思われる部分画像から出発して、その前後の部分画像で再び部分画像の動き算出処理などを行っていけば、正確な値に基づいて背景か動物体かの判断を行えるので、より正確な判断、算出が可能になる。正しいと思われる部分画像は、部分画像全体の動き量と近い値を部分画像の動きと判断した部分画像を選べば良い。あるいは、ユーザに指定してもらっても良い。
【0086】
続いて、本発明の実施の第8の形態である画像合成装置について説明する。画像合成装置の構成は、前述の各実施の形態の構成と同一であるが、相違点は動物体検出部6の処理内容が異なることである。
【0087】
前述の各実施の形態では、動物体が1個の場合のみを説明したが、動物体が複数個ある場合は、部分画像の動き量の算出処理で除かれた短冊領域、すなわち移動量が他の短冊領域とは大幅に異なる連続する短冊領域間で、同様の動物体を検出する手順を繰り返せば、複数の動物体にも対応できる。動物体の動き量に差がある場合は、たとえ動物体が重なったり、近づいたりしても、この手法で複数の動物体を区別できる。
【0088】
また、前述の各実施の形態では、動物体の存在候補の短冊領域から直接、動物体の位置および動き量を求めてから、すでに検出されている動物体の予測位置および予測動き量を求めて、同一かどうかを調べている。逆に、本実施の形態では、すでに検出されている他の動物体の予測位置および予測動き量を求めてから、その結果を動物体の存在候補の短冊領域の位置および動き量と比較して、予め定める閾値以内に収まっているならば同一の動物体と判断し、その動物体の位置および動き量を求めている。この場合、複数の動物体が、短冊領域の動きとしては同程度の動きとなって重なったり近づいたりした場合、先に述べた方法では、1つの動物体として認識してしまうが、後の方法では、たとえ重なったりしたとしても、重なっていることが予測できる。再びそれらの動物体が分かれれば、また追跡をしていけば良い。
【0089】
ただし、分かれた動物体の区別がはっきりとはつかないので、その場合は、動物体の存在領域の画像自体を相関などで比べて、どちらの動物体か判断するなどの処理が必要となる。あるいは、ユーザに指示してもらうようにしても良い。
【0090】
図9は、本発明の実施の第9の形態である画像合成装置の構成を示すブロック図である。本実施の形態の画像合成装置の構成は、前述の図8に示す構成とほぼ同一であるが、相違点は動物体ユーザ指定部11を新たに設け、動物体検出部6の処理内容が異なることである。
【0091】
動物体検出部6は、動物体ユーザ指定部11から与えられる動物体が存在している部分画像または部分画像中の領域を表す情報pに基づいて、指示された部分画像または部分画像中の領域に対して動物体の検出処理を行う。これによって、簡単かつ正確に動物体を検出することができる。これは、短冊領域に基づく処理では正確に動き量が求められないような小さな動物体や特徴の少ない動物体が存在している場合、あるいは複数の動物体が複雑に動き合っているような場合に、特に有効である。また、表示装置の画面のように、位置は変わらないが、画面の模様の変化によって動いているように見える領域を指示しないようすることで、不自然な合成が行われないようにすることも可能である。
【0092】
図10は、本発明の実施の第10の形態である画像合成装置の構成を示すブロック図である。本実施の形態の画像合成装置の構成は、前述の図9に示す構成とほぼ同一であるが、相違点は書き込み範囲検出部12を新たに設けたことである。
【0093】
書き込み範囲検出部12は、部分画像書き込み範囲算出部8から与えられる部分画像の書き込み範囲の境界部分が、合成画像またはすでに合成されている部分画像の書き込み範囲で、どこに位置するかを検出し、ずれがある場合などは修正する。修正された書き込み範囲情報qは、画像合成部4に与えられる。
【0094】
書き込み範囲検出部12は、たとえば、書き込み範囲の境界付近の小領域と合成画像との相関を求め、最もつながりが自然になるように書き込み範囲を修正することができる。あるいは、合成画像との相関を求めなくても、前記境界が合成されるだいたいの位置に基づいて、合成画像のその位置がどの部分画像から合成されているかを調べ、書き込み範囲の境界付近の小領域と合成位置付近の部分画像との相関を求めることでも、同様に修正することができる。その場合、短冊動き検出部2を利用して、離れた部分画像間でマッチングさせ、その結果を利用する形で、上述の処理を実行することもできる。
【0095】
以上のように第10の実施の形態によれば、合成する部分画像の書き込み範囲が求められたら、その境界部分が合成画像またはすでに合成されている部分画像の書き込み範囲でどこに位置するかを検出し、書き込み範囲が修正され、修正された書き込み範囲に対して、部分画像を合成して、合成画像が作成されるので、画像合成において境界部分でずれが発生することを防ぐことができる。特に、動物体の切り出しを行って合成する場合や、書き込み範囲に画像の周辺部が含まれているような場合に、有効である。これは、部分画像全体の動き量はあくまで平均的な動き量であるため、実際にその動き量で合成してみると、微妙なずれがでてきてしまうからである。
【0096】
また、通常、部分画像間の動き量は、時間的・空間的に最も近い部分画像間で求めることが多いため、書き込み範囲が広くなると、境界部分は部分画像間の動き量を求めた部分画像とは違う部分画像またはその一部から合成された合成画像と接してしまうからである。そのため、大まかな合成位置を得た後で、改めて境界部分が一致するような位置を求めて修正することで、より一層自然なつなぎ目を持つ合成画像を作成することができる。
【0097】
【発明の効果】
以上のように本発明によれば、部分画像を画像の縦方向または横方向にそって複数に分割して短冊領域にし、部分画像間での各短冊領域の移動量を求め、各短冊領域の移動量から部分画像間の動き量を求めるようにしたので、たとえば撮像手段が回転したり、ズーム撮影やワイド撮影をするなどして、単純な平行移動には見えないような部分画像が撮影されたとしても、移動量の検出に用いられる短冊領域は部分画像に比べて大きさが小さいため、撮像手段の回転やズーム撮影・ワイド撮影の影響が小さく、各短冊領域の部分画像間での移動量を平行移動として求めても、その誤差は小さい。また、各短冊領域の移動量の分布を見ることで、撮像手段が平行移動したのか、回転したのか、あるいはズーム撮影・ワイド撮影をしたのかなどを簡単に知ることができ、その情報に基づいてアフィン変換や逆透視変換などの画像変形を部分画像に施して画像を合成することができ、より自然なつながりを持った合成画像を得ることができる。
【0098】
また、たとえば静的な風景を撮影中に、風景中を人が横切るような場合や、撮像手段を平行移動して撮影する際に、手前のものが奥のものより相対的に速く平行移動しているように見える場合など、部分画像中で物体が背景と比べて相対的に動いているように見えるときは、短冊領域単位で動きを見ることで、動物体の動きと背景の大まかな動きとが別々に得られる。背景の動きが得られれば、もし背景を中心に合成したいならば、撮像手段の全体の動きを正確に知ることができ、動物体に惑わされることなく、正確な位置関係を有する背景を持つ合成画像を得られるという効果がある。
【0099】
また、部分画像を縦に分割して短冊領域を構成した場合、通常は複数の縦長の短冊領域が横方向に並ぶ形になる。撮像装置を横方向に動かして撮影した画像では、たとえば棒状の物体が画像上を縦方向に横切った場合、縦長の短冊領域中に動物体が収まりやすいため、動物体の正確な存在領域と動き量とを検出しやすくなる。さらに、部分画像の中央付近に位置する短冊領域の探索範囲は、周辺に位置する短冊領域に比べて、動き量を調べる探索範囲を広くとれるため、動き量の大きい動物体にも対応することが可能になる。
【0100】
逆に、部分画像を横に分割して短冊領域を構成した場合、通常は複数の横長の短冊領域が縦方向に並ぶことになる。撮像装置を横方向に動かして撮影した画像では、たとえばバスや電車のような横長の動物体でも、動物体の正確な存在領域と動き量とを検出しやすくなる。手前(近景)と奥(遠景)の相対速度が違うような場合も、たとえば奥の画像を中心に合成する場合、奥の風景の動く範囲と動き量とを正確に得られるので、正確な配置の奥の風景を持つ合成画像を得られるという効果がある。なお、撮像装置を縦方向に動かして撮影する場合は、縦長の短冊領域と横長の短冊領域とでは、得られる効果は逆になる。
【0101】
また、合成画像に動物体を書き込む際に、その動物体が存在している複数の部分画像の中から1つを選択し、合成画像には選択した部分画像中の動物体の領域のみを書き込み、それ以外の部分画像からは動物体の領域を書き込まないようにすることで、合成画像中の動物体の画像が不自然に合成されることを防ぎ、さらに合成画像中に同一の動物体が複数現れることを防ぐことができる。
【0102】
また本発明によれば、合成画像に書き込む部分画像から動物体を除去して書き込むことによって、たとえば観光地で風景を撮影したときに見知らぬ人が横切ったような場合など、動物体自身が合成画像中に不要な場合に、動物体を除いて背景画像のみで合成画像を作成できるという効果を持つ。
【0103】
さらに本発明によれば、部分画像全体の動き量に加えて回転量および拡大縮小率が求め、求められた部分画像全体の動き量、回転量、拡大縮小率を、基準とする部分画像からの相対量を積算して絶対量として、部分画像をアフィン変換して合成する。したがって、撮影時に撮像手段が回転したり、ズーム撮影したりした場合などであっても、適正な部分画像に変換してから合成されるので、より自然なつながりの合成画像を得ることができる。
【0104】
さらに本発明によれば、合成画像に動物体を書き込む際に、その動物体が存在している複数の部分画像の中から、動物体が中心付近に位置する部分画像を選択、合成画像には選択した部分画像中の動物体の領域のみを書き込み、それ以外の部分画像からは動物体の領域を書き込まないようにすることで、動物体が部分画像からはみ出してしまっているような部分画像を選択する可能性が低くなり、また、動物体の領域も正確に求めやすくなる効果がある。動物体の領域を正確に求めやすくなるのは、前述したように、動物体の探索範囲を広くできるからである。さらに、通常、撮像手段は収差などで周辺部分よりも中央付近の方が歪みが小さく解像度も良いので、中央付近の画像を使うことで、歪みが少ない解像度も良い動物体の画像を合成画像として得られる効果もある。
【0105】
さらにまた本発明によれば、たとえば、書き込もうとする動物体がすでに書き込まれている別の動物体と位置的に重ならないように気をつけて、複数の部分画像の中から複数の部分画像を選択することによって、動物体が不自然に合成されることを防ぎ、かつ、合成画像中に同一の動物体が複数個現れているというような実際にはありえないような風景を合成画像として得られる効果がある。合成画像中に動物体をいくつ配置するか、あるいはどの時刻の動物体の画像を合成画像中に使うかは、ユーザの意図を反映させられるので、意図しない合成画像が得られる心配はない。
【0106】
さらにまた本発明によれば、部分画像動き算出手段で求められた部分画像全体の動き量、回転量、拡大縮小率を格納しておき、格納された数値から現在処理中の部分画像の各短冊領域の移動量、動き量、回転量、拡大縮小率を予測し、求めた部分画像の各短冊領域の移動量、動き量、回転量、拡大縮小率が予測値の範囲内に収まっているかどうかを判断することで、部分画像全体の動き量などをより正確に求めることができ、ひいては、動物体の検出精度を上げることができる。これは、たとえば、部分画像全体あるいはほとんどが動物体で占められてしまい、その部分画像を見ただけでは背景の動きを得ることができないような場合に有効である。このような場合は、現在処理中の部分画像の前後の部分画像で背景の正確な動きが算出されていたら、その動きから現在処理中の部分画像の動き量、回転量、拡大縮小率の値を予測し、その予測値の範囲内に実際に求めた値が収まっているかどうかで知ることができる。
【0107】
また本発明によれば、部分画像全体の動き量などを、一度、すべての部分画像または一部の部分画像に関して求めておき、その後、求めた部分画像全体の動き量などから予測値を求め、その予測値内に求めた部分画像全体の動き量などが収まっているかどうかを判断し、再度求め直すなどすることによって、より正確な部分画像全体の動き量などを求められる効果がある。これは、前述のように過去の部分画像全体の動き量などから予測される予測値と比較して現在処理中の部分画像の動き量を求める際に、過去の動き量などが誤って算出されている可能性があるためである。
【0108】
特に、合成開始時の最初の数枚の部分画像を処理した時点では、動物体が最初から部分画像の多くを占めている可能性もあり、誤って算出されている可能性が高い。そのため、ある一定枚数の部分画像に関して一度算出しておき、その後、全体を通して動き量などを修正してから、再び、部分画像の動き算出処理などを行えば、より正確な値に基づいて背景か動物体かの判断を行えるので、より正確な判断、算出が可能になる。あるいは、ある一定枚数の部分画像に関して一度算出しておき、その後、正しいと思われる部分画像を基準として、その前後の部分画像で再び部分画像の動き算出処理などを行っていけば、正確な値に基づいて背景か動物体かの判断を行えるので、より正確な判断、算出が可能になる。
【0109】
さらに本発明によれば、現在処理中の部分画像で検出された動物体の存在領域中の短冊領域の移動量の最大値と最小値との差が予め定める閾値以上ある場合、その領域中に複数の動物体が存在すると判断することで、複数の動物体が重なったり、近づいて見える場合でも、正確に複数の動物体として検出できる。複数の動物体を検出できれば、人混みなどの動物体が複雑に動き合っているような風景でも処理することができ、より自然な合成画像が得られる。これは、動物体の存在領域は、部分画像全体の動きから外れる短冊領域をその候補とするが、その領域中に複数の動物体が存在している場合や接近している場合は、そのままでは複数の動物体を認識することはできないが、異なる速度で動いている動物体は、短冊領域の移動量も含めて考えれば、存在領域中で見分けることができるからである。
【0110】
また、前記動物体情報格納手段に格納されている検出済動物体の存在領域および動き量に基づいて、現在処理中の部分画像における検出済動物体の存在領域および動き量を予測したときに、実際に検出された動物体の存在領域中に複数の動物体が存在すると予測された場合、その領域中に複数の動物体が存在すると判断することで、複数の動物体が重なったり、近づいて見える場合でも、正確に複数の動物体として検出できる。複数の動物体を検出できれば、人混みなどの動物体が複雑に動き合っているような風景でも処理することができ、より自然な合成画像が得られる。これは、たとえ存在領域中の短冊領域の移動量の差が小さかったとしても、その前後で動物体のそれぞれの動きが検出、追跡できていれば、その動きから予測して、その存在領域中に複数の動物体が存在するのかどうかを判断できるからである。
【0111】
さらにまた本発明によれば、ユーザから動物体の存在している部分画像や部分画像中の領域を指示してもらうことで、簡単かつ正確に動物体を検出することができる。これは、短冊領域に基づく処理では正確に動き量が求められないような小さな動物体や特徴の少ない動物体が存在している場合や、複数の動物体が複雑に動き合っているような場合に、特に有効である。
【0112】
また本発明によれば、合成する部分画像の書き込み範囲が求められたら、その境界部分が合成画像またはすでに合成されている部分画像の書き込み範囲でどこに位置するかを検出し、書き込み範囲が修正され、修正された書き込み範囲に対して、部分画像を合成して、合成画像が作成されるので、画像合成において境界部分でずれが発生することを防ぐことができる。特に、動物体の切り出しを行って合成する場合や、書き込み範囲に画像の周辺部が含まれているような場合に、有効である。これは、部分画像全体の動き量はあくまで平均的な動き量であるため、実際にその動き量で合成して見ると、微妙なずれがでてきてしまうからである。
【0113】
また、通常、部分画像間の動き量は、時間的・空間的に最も近い部分画像間で求めることが多いため、書き込み範囲が広くなると、境界部分は部分画像間の動き量を求めた部分画像とは違う部分画像またはその一部から合成された合成画像と接してしまうからである。そのため、大まかな合成位置を得た後で、改めて境界部分が一致するような位置を求めて修正することで、より一層自然なつなぎ目を持つ合成画像を作成することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態である画像合成装置の構成を示すブロック図である。
【図2】短冊領域の一例を示す図である。
【図3】合成画像の作成処理を説明するための図である。
【図4】本発明の第2の実施の形態である画像合成装置の構成を示すブロック図である。
【図5】本発明の第3の実施の形態である画像合成装置の構成を示すブロック図である。
【図6】本発明の第4の実施の形態である画像合成装置の構成を示すブロック図である。
【図7】本発明の第5の実施の形態である画像合成装置の処理を説明するための図である。
【図8】本発明の第6の実施の形態である画像合成装置の処理を説明するための図である。
【図9】本発明の第9の実施の形態である画像合成装置の処理を説明するための図である。
【図10】本発明の第10の実施の形態である画像合成装置の処理を説明するための図である。
【符号の説明】
1 部分画像格納部
2 短冊動き検出部
3,3a 部分画像動き算出部
4,4a 画像合成部
5 動物体情報格納部
6 動物体検出部
7,7a 動物体書き込み画像判定部
8 部分画像書き込み範囲算出部
9 部分画像ユーザ指定部
10 部分画像動き格納部
11 動物体ユーザ指定部
12 書き込み範囲検出部
a 部分画像
b 移動量
c 動き量
d 合成画像
e 動物体情報
i 動物体書き込み情報
j 許可/不許可情報
k,q 書き込み範囲情報
n,o 部分画像動き情報
Claims (11)
- 合成画像の一部分を構成する複数枚の部分画像を格納する部分画像格納手段と、
前記部分画像格納手段から読み出した部分画像を、予め定める方向にそって複数の短冊領域に分割し、他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める短冊領域動き検出手段と、
前記短冊領域動き検出手段で求めた各短冊領域の移動量に基づいて、部分画像全体の動き量を求める部分画像動き算出手段と、
背景部分と比較して相対的に動いているように見える動物体の存在領域、動物体の動き量、各部分画像中で検出された動物体間の同一性を表す動物体同一性情報、および動物体がすでに合成画像に書き込まれたかどうかを表す動物体書き込み情報を含む動物体情報を格納する動物体情報格納手段と、
前記短冊領域動き検出手段で求められた短冊領域の移動量と、前記部分画像動き算出手段で求められた部分画像全体の動き量と、前記動物体情報格納手段に格納されている動物体の存在領域およびその動き量とに基づいて、部分画像中の動物体の存在領域およびその動き量と、すでに検出された動物体と同一かどうかを表す動物体同一性情報とを求める動物体検出手段と、
前記動物体検出手段で求めた動物体の存在領域、その動き量、および動物体同一性情報に基づいて、部分画像中の動物体を合成画像中に書き込むかどうかを判断する動物体書き込み画像判定手段と、
前記動物体書き込み画像判定手段から動物体の書き込み許可が与えられたときは、前記動物体検出手段で求められた動物体の存在領域およびその動き量に基づいて、動物体を含むような部分画像の書き込み範囲を決め、書き込み許可が与えられないときは、動物体を含まないような部分画像の書き込み範囲を決める部分画像書き込み範囲算出手段と、
前記部分画像動き算出手段で求められた部分画像全体の動き量に応じて、前記部分画像書き込み範囲算出手段で求められた書き込み範囲の部分画像を合成して、合成画像を作成する画像合成手段とを含むことを特徴とする画像合成装置。 - 合成画像の一部分を構成する複数枚の部分画像を格納する部分画像格納手段と、
前記部分画像格納手段から読み出した部分画像を、予め定める方向にそって複数の短冊領域に分割し、他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める短冊領域動き検出手段と、
前記短冊領域動き検出手段で求めた各短冊領域の移動量に基づいて、部分画像全体の動き量を求める部分画像動き算出手段と、
背景部分と比較して相対的に動いているように見える動物体の存在領域、動物体の動き量、各部分画像中で検出された動物体間の同一性を表す動物体同一性情報、および動物体がすでに合成画像に書き込まれたかどうかを表す動物体書き込み情報を含む動物体情報を格納する動物体情報格納手段と、
前記短冊領域動き検出手段で求められた短冊領域の移動量と、前記部分画像動き算出手段で求められた部分画像全体の動き量と、前記動物体情報格納手段に格納されている動物体の存在領域およびその動き量とに基づいて、部分画像中の動物体の存在領域およびその動き量と、すでに検出された動物体と同一かどうかを表す動物体同一性情報とを求める動物体検出手段と、
前記動物体検出手段で求められた動物体の存在領域およびその動き量に基づいて、動物体を含まないような部分画像の書き込み範囲を決める部分画像書き込み範囲算出手段と、
前記部分画像動き算出手段で求められた部分画像全体の動き量に応じて、前記部分画像書き込み範囲算出手段で求められた書き込み範囲の部分画像を合成して、合成画像を作成する画像合成手段とを含むことを特徴とする画像合成装置。 - 合成画像の一部分を構成する複数枚の部分画像を格納する部分画像格納手段と、
前記部分画像格納手段から読み出した部分画像を、予め定める方向にそって複数の短冊領域に分割し、他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める短冊領域動き検出手段と、
前記短冊領域動き検出手段で求めた各短冊領域の移動量に基づいて、部分画像全体の動き量と、回転量と、拡大縮小率とを求める部分画像動き算出手段と、
背景部分と比較して相対的に動いているように見える動物体の存在領域、動物体の動き量、各部分画像中で検出された動物体間の同一性を表す動物体同一性情報、および動物体がすでに合成画像に書き込まれたかどうかを表す動物体書き込み情報を含む動物体情報を格納する動物体情報格納手段と、
前記短冊領域動き検出手段で求められた短冊領域の移動量と、前記部分画像動き算出手段で求められた部分画像全体の動き量と、前記動物体情報格納手段に格納されている動物体の存在領域およびその動き量とに基づいて、部分画像中の動物体の存在領域およびその動き量と、すでに検出された動物体と同一かどうかを表す動物体同一性情報とを求める動物体検出手段と、
前記動物体検出手段で求めた動物体の存在領域、その動き量、および動物体同一性情報に基づいて、部分画像中の動物体を合成画像中に書き込むかどうかを判断する動物体書き込み画像判定手段と、
前記動物体書き込み画像判定手段から動物体の書き込み許可が与えられたときは、前記動物体検出手段で求められた動物体の存在領域およびその動き量に基づいて、動物体を含むような部分画像の書き込み範囲を決め、書き込み許可が与えられないときは、動物体を含まないような部分画像の書き込み範囲を決める部分画像書き込み範囲算出手段と、
前記部分画像書き込み範囲算出手段で求められた書き込み範囲の部分画像を、前記部分画像動き算出手段で求めた部分画像全体の動き量と、回転量と、拡大縮小率とに基づいてアフィン変換してから合成して、合成画像を作成する画像合成手段とを含むことを特徴とする画像合成装置。 - 合成画像の一部分を構成する複数枚の部分画像を格納する部分画像格納手段と、
前記部分画像格納手段から読み出した部分画像を、予め定める方向にそって複数の短冊領域に分割し、他の部分画像中のどの位置に各短冊領域がそれぞれ移動したかを検出し、各短冊領域の移動量を求める短冊領域動き検出手段と、
前記短冊領域動き検出手段で求めた各短冊領域の移動量に基づいて、部分画像全体の動き量と、回転量と、拡大縮小率とを求める部分画像動き算出手段と、
背景部分と比較して相対的に動いているように見える動物体の存在領域、動物体の動き量、各部分画像中で検出された動物体間の同一性を表す動物体同一性情報、および動物体がすでに合成画像に書き込まれたかどうかを表す動物体書き込み情報を含む動物体情報を格納する動物体情報格納手段と、
前記短冊領域動き検出手段で求められた短冊領域の移動量と、前記部分画像動き算出手段で求められた部分画像全体の動き量と、前記動物体情報格納手段に格納されている動物体の存在領域およびその動き量とに基づいて、部分画像中の動物体の存在領域およびその動き量と、すでに検出された動物体と同一かどうかを表す動物体同一性情報とを求める動物体検出手段と、
前記動物体検出手段で求められた動物体の存在領域およびその動き量に基づいて、動物体を含まないような部分画像の書き込み範囲を決める部分画像書き込み範囲算出手段と、
前記部分画像書き込み範囲算出手段で求められた書き込み範囲の部分画像を、前記部分画像動き算出手段で求めた部分画像全体の動き量と、回転量と、拡大縮小率とに基づいてアフィン変換してから合成して、合成画像を作成する画像合成手段とを含むことを特徴とする画像合成装置。 - 前記動物体書き込み画像判定手段は、動物体が中心付近に位置している部分画像を、動物体を合成画像中に書き込む部分画像として判定することを特徴とする請求項1または3に記載の画像合成装置。
- どの部分画像を合成画像に書き込むかどうかを入力する書き込み画像指示手段をさらに備え、
前記動物体書き込み画像判定手段は、前記書き込み画像指示手段によって指示された部分画像を、動物体を合成画像中に書き込む部分画像として判定することを特徴とする請求項1または3に記載の画像合成装置。 - 前記部分画像動き算出手段で求められた部分画像全体の動き量と、回転量と、拡大縮小率とを格納する部分画像動き格納手段をさらに備え、
前記部分画像動き算出手段は、前記部分画像動き格納手段に格納されているすでに求められた別の部分画像の動き量、回転量、拡大縮小率から予測される数値範囲内に、各短冊領域の移動量、部分画像全体の動き量、回転量、拡大縮小率が収まっているかどうかを判断して、部分画像全体の動き量、回転量、拡大縮小率を求めることを特徴とする請求項3または4に記載の画像合成装置。 - 前記部分画像動き算出手段で求められた部分画像全体の動き量と、回転量と、拡大縮小率とを格納する部分画像動き格納手段をさらに備え、
前記部分画像動き算出手段は、予め定める枚数の部分画像に関してそれぞれ部分画像全体の動き量、回転量、拡大縮小率を求めて、一旦前記部分画像格納手段に格納した後に、求めた値から予測される数値範囲内に、格納した部分画像全体の動き量、回転量、拡大縮小率が収まっているかどうかを判断し、収まっていなければその部分画像に関して再度部分画像全体の動き量、回転量、拡大縮小率を求め直すことを特徴とする請求項3または4に記載の画像合成装置。 - 前記動物体検出手段は、現在処理中の部分画像で検出された動物体の存在領域中の短冊領域の移動量の最大値と最小値との差が予め定める閾値以上ある場合、または、前記動物体情報格納手段に格納されている検出済み動物体の存在領域および動き量に基づいて、現在処理中の部分画像における検出済み動物体の存在領域および動き量を予測したときに、実際に検出された動物体の存在領域中に複数の動物体が存在すると予測された場合には、現在処理中の部分画像には複数の動物体が存在するものとして処理することを特徴とする請求項1〜4のいずれか1つに記載の画像合成装置。
- 動物体が存在している部分画像または部分画像中の領域を指示する動物体指示手段をさらに備え、
前記動物体検出手段は、前記動物体指示手段の指示に基づいて動物体を検出することを特徴とする請求項1〜4のいずれか1つに記載の画像合成装置。 - 前記部分画像書き込み範囲算出手段で求めた部分画像の書き込み範囲の境界部分が、合成画像またはすでに合成されている部分画像の書き込み範囲でどこに位置するかを検出し、書き込み範囲を修正する書き込み範囲修正検出手段をさらに備え、
前記画像合成手段は、前記部分画像書き込み範囲算出手段で求めた部分画像の書き込み範囲に代えて、前記書き込み範囲修正検出手段で修正した書き込み範囲の部分画像を合成して、合成画像を作成することを特徴とする請求項1〜4のいずれか1つに記載の画像合成装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP27117496A JP3757008B2 (ja) | 1996-10-14 | 1996-10-14 | 画像合成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP27117496A JP3757008B2 (ja) | 1996-10-14 | 1996-10-14 | 画像合成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH10126665A JPH10126665A (ja) | 1998-05-15 |
JP3757008B2 true JP3757008B2 (ja) | 2006-03-22 |
Family
ID=17496380
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP27117496A Expired - Fee Related JP3757008B2 (ja) | 1996-10-14 | 1996-10-14 | 画像合成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3757008B2 (ja) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002208005A (ja) * | 2001-01-12 | 2002-07-26 | Minolta Co Ltd | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体 |
JP4789695B2 (ja) * | 2006-05-15 | 2011-10-12 | オリンパスイメージング株式会社 | カメラ、合成画像撮影方法およびプログラム |
JP4377932B2 (ja) * | 2007-07-26 | 2009-12-02 | 株式会社モルフォ | パノラマ画像生成装置およびプログラム |
JP2010034964A (ja) * | 2008-07-30 | 2010-02-12 | Sharp Corp | 画像合成装置、画像合成方法及び画像合成プログラム |
JP5434126B2 (ja) * | 2009-02-19 | 2014-03-05 | カシオ計算機株式会社 | 撮像装置、撮像方法及び撮像プログラム |
JP5996169B2 (ja) * | 2011-07-27 | 2016-09-21 | オリンパス株式会社 | 画像処理システム、情報処理装置及びプログラム |
JP5888899B2 (ja) * | 2011-08-10 | 2016-03-22 | キヤノン株式会社 | 映像処理装置、映像処理方法、及びプログラム |
JP5948779B2 (ja) * | 2011-09-30 | 2016-07-06 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP5893489B2 (ja) * | 2012-04-16 | 2016-03-23 | 株式会社ザクティ | 画像処理装置 |
JP5846172B2 (ja) * | 2013-08-28 | 2016-01-20 | 株式会社リコー | 画像処理装置、画像処理方法、プログラムおよび撮像システム |
CN105659287B (zh) | 2013-08-28 | 2018-08-17 | 株式会社理光 | 图像处理装置、图像处理方法和成像系统 |
JP6778399B2 (ja) * | 2017-08-17 | 2020-11-04 | 京セラドキュメントソリューションズ株式会社 | 画像読取装置、画像形成装置、画像読取方法及び画像読取プログラム |
JP6928663B2 (ja) * | 2017-09-20 | 2021-09-01 | 富士フイルム株式会社 | 撮像制御装置、撮像装置、撮像制御方法、及び撮像制御プログラム |
-
1996
- 1996-10-14 JP JP27117496A patent/JP3757008B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH10126665A (ja) | 1998-05-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10681270B2 (en) | Electronic device for creating panoramic image or motion picture and method for the same | |
JP3757008B2 (ja) | 画像合成装置 | |
US6810152B2 (en) | Image processing apparatus, method of processing images, and storage medium | |
US7298919B2 (en) | System and method for displaying an image indicating a positional relation between partially overlapping images | |
JP4912117B2 (ja) | 追跡機能付き撮像装置 | |
BRPI1005534A2 (pt) | aparelho e método para gerar uma imagem panorámica, e, meio legìvel por computador | |
US6784927B1 (en) | Image processing apparatus and image processing method, and storage medium | |
KR102279300B1 (ko) | 가상 물체 표시 제어 장치, 가상 물체 표시 시스템, 가상 물체 표시 제어 방법, 및 가상 물체 표시 제어 프로그램 | |
US7006706B2 (en) | Imaging apparatuses, mosaic image compositing methods, video stitching methods and edgemap generation methods | |
CN114827559A (zh) | 显示方法以及显示系统 | |
JP4198536B2 (ja) | 物体撮影装置、物体撮影方法及び物体撮影プログラム | |
JP4346742B2 (ja) | 画像合成方法、画像合成装置及び記憶媒体 | |
KR920002473B1 (ko) | 화상합성장치 | |
JPH10320558A (ja) | キャリブレーション方法並びに対応点探索方法及び装置並びに焦点距離検出方法及び装置並びに3次元位置情報検出方法及び装置並びに記録媒体 | |
KR20110088275A (ko) | 영상 변환 기능을 구비한 이동통신 단말기 | |
JP2001057652A (ja) | 画像入力装置および画像入力方法 | |
JP2005174024A (ja) | 画像生成装置及び方法 | |
JPH1069536A (ja) | 画像合成装置 | |
JP3216037B2 (ja) | パノラマ画像合成システム | |
CN116012508B (zh) | 车道线的渲染方法、装置及存储介质 | |
JP2014099820A (ja) | 画像撮影装置、画像撮影方法 | |
JP2003060888A (ja) | 画像読取装置 | |
JP4560441B2 (ja) | 画像合成装置、画像合成方法、及び画像合成プログラム | |
JP2022039635A (ja) | 画像計測装置、画像計測方法、および画像計測プログラム | |
JP2007271690A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050913 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051020 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051220 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051226 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100106 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110106 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120106 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |