JP2005012660A - 画像生成方法、画像生成装置 - Google Patents
画像生成方法、画像生成装置 Download PDFInfo
- Publication number
- JP2005012660A JP2005012660A JP2003176629A JP2003176629A JP2005012660A JP 2005012660 A JP2005012660 A JP 2005012660A JP 2003176629 A JP2003176629 A JP 2003176629A JP 2003176629 A JP2003176629 A JP 2003176629A JP 2005012660 A JP2005012660 A JP 2005012660A
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- imaging
- procedure
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Editing Of Facsimile Originals (AREA)
- Image Processing (AREA)
Abstract
【課題】撮像した画像から不要な像を自動的に除去して画像を生成する画像生成方法、画像生成装置を提供すること。
【解決手段】撮影ロボットは、風景を背景とした人物の記念撮影をする。このとき、所定の時間間隔で3枚の画像を連続して撮像する。3枚の画像のうち、2枚の画像以上で一致する部分を抽出して画像を合成する。これにより、被写界にたまたま通りがかりの第三者が入ったとしても、動きのある第三者の像は除去され、利用者と所望の風景のみが撮影された画像を得ることができる。
【選択図】 図3
【解決手段】撮影ロボットは、風景を背景とした人物の記念撮影をする。このとき、所定の時間間隔で3枚の画像を連続して撮像する。3枚の画像のうち、2枚の画像以上で一致する部分を抽出して画像を合成する。これにより、被写界にたまたま通りがかりの第三者が入ったとしても、動きのある第三者の像は除去され、利用者と所望の風景のみが撮影された画像を得ることができる。
【選択図】 図3
Description
【0001】
【発明の属する技術分野】
本発明は、撮像した画像から不要な像を除去して画像を生成する画像生成方法、画像生成装置に関する。
【0002】
【従来の技術】
デジタルカメラを使用して観光地等で記念に残る背景を入れて人物の画像を撮影(撮像)する場合、撮影画面内に第三者が記録されないことが望ましい。しかし、人が多く集まるところでは、これを完全に避けて撮影することは難しい。このように不要な第三者が入ってしまった画像から、不要な第三者を消した画像を提供するサービスがある(例えば非特許文献1参照)。
【0003】
【非特許文献1】
テクノメディアシステム、”写真修正サービス・美化(不要物の消去)”、[online]、[2003年5月30日検索]、インターネット<http://www.tms−x.com/ret−bty.html>
【0004】
【発明が解決しようとする課題】
上記のようなサービスにおいて、同時に撮影された不要な第三者を記録画像から消すためには、画像処理ソフトを用いて、マニュアルで画像を操作する必要がある。しかし、多大な手間と熟練が必要であるという問題点があった。
【0005】
本発明は、撮像した画像から不要な像を自動的に除去して画像を生成する画像生成方法、画像生成装置を提供する。
【0006】
【課題を解決するための手段】
請求項1の発明は、画像生成方法に適用され、複数の画像を取得する複数画像取得手順と、取得した複数の画像に基づき、動きのある像を除いた画像を合成する画像合成手順とからなることを特徴とするものである。
請求項2の発明は、請求項1に記載の画像生成方法において、同一被写体を所定のタイミングで連続して複数回撮像するように撮像装置に指示する撮像指示手順をさらに備え、複数画像取得手順は、撮像装置により連続して撮像された複数の画像を取得することを特徴とするものである。
請求項3の発明は、請求項1から2のいずれかに記載の画像生成方法において、複数画像取得手順は、3個以上の画像を取得し、画像合成手順は、複数画像取得手順において取得した3個以上の画像の中から2個以上の画像で一致する部分を抽出して画像を合成することを特徴とするものである。
請求項4の発明は、請求項1から2のいずれかに記載の画像生成方法において、複数画像取得手順は、2個の画像を取得し、画像合成手順は、複数画像取得手順において取得した2個の画像について差分演算することにより動きのある像を検出し、1の画像から検出された動きのある像を削除し、1の画像において動きのある像が削除された部分を、他方の画像において同一位置にある像により埋めることを特徴とするものである。
請求項5の発明は、請求項1から4のいずれかに記載の画像生成方法において、複数画像取得手順は、複数の画像を取得した後、複数の画像間で画像全体がずれているか否かを検出し、ずれていることが検出された場合は複数の画像間で画像全体がずれないように補正し、画像合成手順は、補正後の複数の画像に基づき、動きのある像を除いた画像を合成することを特徴とするものである。
請求項6の発明は、画像生成装置に適用され、被写体を撮像する撮像手段と、同一被写体を所定のタイミングで連続して複数回撮像するように撮像手段に指示する撮像指示手段と、撮像手段により撮像された複数の画像を取得する複数画像取得手段と、取得した複数の画像に基づき、動きのある像を除いた画像を合成する画像合成手段とからなることを特徴とするものである。
請求項7の発明は、請求項6に記載の画像生成装置において、撮像指示手段は、3回以上撮像するように撮像手段に指示し、複数画像取得手段は、撮像手段により撮像された3個以上の画像を取得し、画像合成手段は、3個以上の画像の中から2個以上の画像で一致する部分を抽出して画像を合成することを特徴とするものである。
請求項8の発明は、請求項6に記載の画像生成装置において、撮像指示手段は、2回撮像するように撮像手段に指示し、複数画像取得手段は、撮像手段により撮像された2個の画像を取得し、画像合成手段は、2個の画像から差分演算することにより動きのある像を検出し、1の画像から検出された動きのある像を削除し、1の画像において動きのある像が削除された部分を、他方の画像において同一位置にある像により埋めることを特徴とするものである。
請求項9の発明は、請求項6から8のいずれかに記載の画像生成装置において、複数画像取得手段は、複数の画像を取得した後、複数の画像間で画像全体がずれているか否かを検出し、ずれていることが検出された場合は複数の画像間で画像全体がずれないように補正し、画像合成手段は、補正後の複数の画像に基づき、動きのある像を除いた画像を合成することを特徴とするものである。
請求項10の発明は、画像生成処理プログラムに適用され、請求項1から5のいずれかに記載の画像生成方法の手順をコンピュータに実行させるものである。
請求項11の発明は、コンピュータ読みとり可能な記録媒体に適用され、請求項10の画像生成処理プログラムを記録したものである。
【0007】
【発明の実施の形態】
−第1の実施の形態−
図1は、本発明の画像生成装置の一実施の形態である撮影ロボットの構成図を示す図である。撮影ロボットは、観光地などに設置され、所定の背景と人物を撮影するように設置されている。撮影ロボットは、撮像装置1、制御装置2、記憶装置3から構成される。
【0008】
撮像装置1は、被写体を撮像し画像を生成する。撮影レンズなどの光学系やCCDなどの撮像素子で構成されている。なお、デジタルスチルカメラで構成してもよい。制御装置2は、撮像装置1で撮像され生成された画像を受信し、後述する各種の画像処理、画像合成を行う。制御装置2は、CPUおよび周辺回路から構成され、不図示のROMに格納された所定の制御プログラムを実行する。記憶装置3は、撮像装置1で撮像して生成した画像や制御装置2で合成等により生成した画像を記憶する。なお、制御装置2および記憶装置3をパーソナルコンピュータで構成してもよい。その場合、記憶装置3は、パーソナルコンピュータのハードディスクなどで構成される。
【0009】
なお、具体的には、撮像装置1は、被写体の画像を取得しその画像についての画像データを生成する。制御装置2は、撮像装置1で生成された画像データを受信し、その画像データについて各種の画像処理、画像合成を行う。記憶装置3は、画像データを記憶する。このように、実際に受け渡しや処理等がされるのは画像データであるが、以下の説明では、画像という言葉を使用して説明する。
【0010】
撮像装置1は、不図示の筐体の上部に設置され、撮影アングルを自由に変更できるように保持されている。利用者(観光客)が、不図示の撮影ボタンを押すと、セルフタイマーが働く。所定時間経過後、制御装置2は、撮像装置1に対して所定のタイミングで所定の回数連続して撮像動作を行うよう指示する。利用者は、所定の場所に立つことにより、所定の背景をバックに撮影される。撮影後、プリンタ(不図示)によりプリントされた写真は、利用者に渡される。このとき、撮影料金を収納するようにしてもよい。
【0011】
本実施の形態の撮影ロボットは、上述したように1回の撮影につき、複数回連続して撮像し複数の画像(画像データ)を取得する。すなわち、撮像装置1は、同一の被写体に対して同一の撮影条件で複数回撮像し複数の画像を得る。その後、後述する処理や合成を行い1枚の画像を生成する。これは、撮影時にたまたま第三者が画面内に入ってしまっても、それを適切に取り除き、利用者のみが所望の背景とともに撮影された画像を得るようにするためである。
【0012】
被写体である利用者はほぼ静止し、背景も静止している。一方、不要な第三者は通りがかったりして動きがある。本実施の形態の撮影ロボットは、静止物体と動体物体を識別し、動体物体による像を除去して、所望の静止物体による画像のみにするものである。以下、この処理について詳細に説明する。なお、撮像装置1は筐体の上に設置されているので、丁度三脚にカメラが取り付けられているように安定している。
【0013】
図2および図3を用いて、第1の実施の形態の画像生成方法について説明する。本実施の形態では、3回連続して撮像し3枚の画像を得る。図2は、撮像した3枚の画像と合成後の画像を示す図である。これらの画像は、記憶装置3に格納される。図2(a)は1回目に撮像された1枚目の画像1である。撮影対象とする被写体11および背景12とともに、同時に記録されることが望ましくない被写体21が同一画面に撮像されている。この時、被写体21は動いているものとする。図2(b)、図2(c)は引き続き撮像、記憶(蓄積)された画像2、画像3で、図2(a)の被写体21は、図2(b)では被写体22、図2(c)では被写体23と、画面の中で異なった位置で撮像される。
【0014】
一方、撮影対象とする被写体11および背景12は動かないため、図2(a)〜図2(c)の画像の中では同じ位置に撮像される。図2(a)〜図2(c)の画像を多数の部分に分割し、各画像間でそれぞれの部分を比較する。被写体21〜23の各位置が互いに重なっていないため動的物体と判断され、少なくとも2枚以上の画像で一致している部分は静止物体と判断される。この静止物体と判断された部分を合成することにより、図2(d)のような被写体11、および背景12のみの画像を得ることが出来る。
【0015】
図3は、この処理の流れを示すフローチャートを示す図である。上述のように利用者が撮影ボタン(不図示)を押し、セルフタイマーが働き、1回目の撮像が開始するところからスタートする。ステップS1では、撮像装置1は1回目の撮像を行って画像1(図2(a))を生成し、制御装置2は画像1を受信して記憶装置3に保存する。ステップS2では、撮像装置1は2回目の撮像を行って画像2(図2(b))を生成し、制御装置2は画像2を受信して記憶装置3に保存する。ステップS3では、撮像装置1は3回目の撮像を行って画像3(図2(c))を生成し、制御装置2は画像3を受信して記憶装置3に保存する。
【0016】
ステップS4では、図2(a)〜図2(c)の各画像を多数の部分に分割し、各画像間でそれぞれの部分を比較する。画面分割の方法としては、画像の画素単位、複数画素をまとめた画素ブロック単位、画面内の物体を輪郭抽出した物体単位などがあり、処理する画像に最適な方法を選択する。比較の結果、2画像以上で一致する部分を抽出する。少なくとも2枚以上の画像で一致している部分は静止物体と判断される。被写体21〜23は、各画像において互いに重ならないように撮像されている。従って、動きがある物体として判断され、ステップS4の処理では抽出されない。
【0017】
ステップS5では、抽出した画像を合成(再構成)する。合成の結果、動きのある被写体21〜23は除去されて、動きのない静止している被写体11および背景12のみが再構成される(図2(d))。ステップS6では、合成後の画像(図2(d))を記憶装置3に記録する。
【0018】
このようにして、第1の実施の形態では、同一被写体を同一撮影条件で連続して3回撮像し3枚の画像を得る。このうち、2枚以上の画像で一致する部分を抽出して画像を合成する。これにより、いずれの2枚の画像でも一致しない不要な動きのある物体の像は自動的に除去され、所望の静止被写体と静止している背景の画像を得ることができる。すなわち、画像処理ソフトを用いて、マニュアルで画像を操作する必要がなく、多大な手間を必要とせず容易に不要な動きのある物体の像を除去し所望の静止被写体と静止している背景の画像を得ることができる。
【0019】
3回連続して撮像するタイミングは、予め定められたタイミングである。例えば、1秒ごとに撮像する。このタイミングは、撮影のためポーズを取った人である被写体は静止物体として抽出され、通りがかった第三者である他人などは動的物体として判断するのに適したタイミングである。すなわち、歩行している第三者が、複数の画像内で静止物体として判断されないように位置を変化して撮像されるようなタイミングである。この撮像タイミングは、撮影場面などの状況に応じて選択できるようにしてもよい。不要な物体の動きが速い場合は、撮像タイミングも速くしてよい。
【0020】
また、同一撮影条件とは、露出やシャッタースピードが同一であることを言う。レンズの焦点距離や撮影距離なども同じである。さらに、電子閃光装置を使うか否かなども同一としてよい。例えば、デジタルカメラなどで撮影するときに、種々の設定はそのままとしシャッターリリーズボタンのみを1秒ごとに連続して押すような場合を想定すればよい。画像データをメモリに記憶するときの圧縮率が関係する画質や画素数の画像サイズなども同一であると考えればよい。
【0021】
以上の説明においては、記録したくない被写体が1名の場合を説明した。しかし、実際の観光地などにおいては、画面内に多くの人が撮影されているとともに、その動きもまちまちである。そのため、動きのある被写体が複数画像で重なっていることも考えられる。この場合は、上記のように、3枚の画像のみを撮像して比較するのではなく、更に多くの画像を撮像して比較する。この中から2枚以上の画像で一致している部分を抽出、合成(再構成)することにより、動きのある被写体を記録画像から効果的に除去することが出来る。但し複数画像の撮影は、静止している被写体が動かない程度の時間内に終了するものとする。
【0022】
−第2の実施の形態−
第1の実施の形態では、同一被写体に対して連続して3枚の画像を取得したが、第2の実施の形態では、2枚の画像を取得して処理する例を説明する。撮影ロボットの構成は第1の実施の形態と同様であるので説明を省略する。
【0023】
図4および図5を用いて、第2の実施の形態の画像生成方法について説明する。第2の実施の形態では、2回連続して撮像し2枚の画像を得る。図4は、撮像した2枚の画像と、処理の過程の画像と、合成後の画像を示す図である。これらの画像は、記憶装置3に格納される。
【0024】
図4(a)は1回目に撮像された1枚目の画像1である。撮影対象とする被写体11および背景12とともに、同時に記録されることが望ましくない被写体21が同一画面に撮像されている。この時、被写体21は動いているものとする。図4(b)は引き続き撮像、記憶(蓄積)された画像2で、図4(a)の被写体21は、図4(b)では被写体22の位置に変化し、画面の中で異なった位置で撮像される。一方、撮影対象とする被写体11および背景12は動かないため、図4(a)、図4(b)の画像の中では同じ位置に撮像される。
【0025】
図4(c)は、図4(a)と図4(b)の画像間差分演算を行ったもので、動いている被写体21、22のみが抽出されている。図4(d)は、図4(a)と図4(c)の画面内で一致している部分のみを抽出したものである。図4(a)において動きのある被写体21のみが抽出されている。図4(e)は、図4(a)から図4(d)の被写体21を除去したものである。除去した部分31は空白(点線で示されている)となっている。図4(f)は、この空白部分を図4(b)からこれに該当する部分を切り出し、図4(e)の空白部分31を埋めたものである。その結果、被写体11、および背景12のみの画像を得られている。
【0026】
図5は、この処理の流れを示すフローチャートを示す図である。第1の実施の形態と同様に利用者が撮影ボタン(不図示)を押し、セルフタイマーが働き、1回目の撮像が開始するところからスタートする。ステップS11では、撮像装置1は1回目の撮像を行って画像1(図4(a))を生成し、制御装置2は画像1を受信して記憶装置3に保存する。ステップS12では、撮像装置1は2回目の撮像を行って画像2(図4(b))を生成し、制御装置2は画像2を受信して記憶装置3に保存する。
【0027】
ステップS13では、画像1と画像2の差分演算を行う。差分演算は、各画像を多数の部分に分割し、各画像間でそれぞれの部分の差分演算をする。画面分割の方法としては、第1の実施の形態と同様に、画像の画素単位、複数画素をまとめた画素ブロック単位、画面内の物体を輪郭抽出した物体単位などがあり、処理する画像に最適な方法を選択する。差分演算の結果、動いている被写体21、22のみの画像3が抽出される(図4(c))。
【0028】
ステップS14では、画像3(図4(c))と画像1(図4(a))の一致している部分を抽出演算し画像4(図4(d))を得る。すなわち、画像1(図4(a))における動きのある被写体21を抽出する。ステップS15では、画像1(図4(a))から画像4(図4(d))を除去する演算を行い、画像5(図4(e))を生成する。除去された部分31は空白(点線)となっている。
【0029】
ステップS16では、画像5(図4(e))の欠落部分(空白部分)31を画像2(図4(b))からこれに該当する部分を切り出し埋めるようにして合成する。これにより、被写体11および背景12のみの画像6(図4(f))が得らる。ステップS17では、合成後の画像6(図4(f))を記憶装置3に記録する。
【0030】
このようにして、第2の実施の形態では、同一被写体を同一撮影条件で連続して2回撮像し2枚の画像を得る。この2枚の画像を使用して動的物体と静止物体とを切り分け、所望の静止被写体と静止している背景の画像を得ることができる。すなわち、第1の実施の形態と比べて少ない画像で、第1の実施の形態と同様の効果を得ることができる。
【0031】
−第3の実施の形態−
第1の実施の形態および第2の実施の形態では、撮像装置1は、不図示の筐体の上部に設置されていることを前提に説明をした。すなわち、撮像装置1はあたかも三脚に据え付けられるように設置され、撮像装置1自体の振れは生じないことを前提とした。しかし、撮像装置1を人が持ち、人が構えて所望の被写体を撮影するようにしてもよい。このようにすることにより、撮影アングルや撮影タイミングをより自由にかつより容易に設定することができる。この場合、人が構えているため、複数回の撮像の間に手ぶれ等による画像全体の動きが生じる場合がある。第3の実施の形態は、この手ぶれ等による画像全体の動きに対して対策をするものである。
【0032】
また、複数回撮像している間に、所望の被写体自体が完全に静止しているとは限らない。第3の実施の形態は、この主要被写体の動きに対しても対策をするものである。
【0033】
第3の実施の形態の撮影ロボットの構成は、撮像装置1が手持ち可能であること以外は第1の実施の形態と同様である。従って、撮影ロボットの構成の説明は省略する。また、第3の実施の形態の処理は、第1の実施の形態および第2の実施の形態の処理に以下に説明する処理を追加するものである。すなわち、同一被写体を同一撮影条件で連続して3回撮像し3枚の画像を得る場合、あるいは、同一被写体を同一撮影条件で連続して2回撮像し2枚の画像を得る場合の両方の処理に対して、以下に説明する処理を追加するものである。従って、以下では、この追加処理部分を中心に説明をし、その他の処理については第1の実施の形態および第2の実施の形態の処理を参照することとし説明を省略する。
【0034】
以下、第1の実施の形態の処理に追加する場合について説明をする。本実施の形態で説明する処理は、第1の実施の形態の図3のステップS3の後に追加する。すなわち、同一被写体に対して3枚の画像を取得したのちに、以下で説明をする処理を実行する。
【0035】
図6は、取得した画像が手振れ等により全体にずれている様子を説明する図である。画像1、2、3(図2(a)(b)(c))の撮影時に撮像装置1全体が動いた場合は、画面中の静止物体全体も画面に対して相対的にシフトする。図6は、画像1に対して画像2の撮像装置1の位置が相対的に左に、これによって静止物体全体が画面上右にシフトしている例を示す。図7は、この画像全体の動きを補正する処理の流れを示すフローチャートを示す図である。なお、撮像装置1全体の動きは、動的物体の動きに対して十分小さいものとする。
【0036】
ステップS21では、図6に示すように、画像1および画像2を適当な大きさのメッシュに分割する。ステップS22では、画像1および画像2の同一メッシュ間の相関値を演算する。相関値は、メッシュ間が完全に一致する場合に最大値である1が演算され、一致しない場合はその程度に応じて小さな値が演算される。ステップS23では、相関値が所定値以上のメッシュについて相関値の和を演算する。動的物体が含まれるメッシュ間の相関値は、1よりも大幅に小さくなるため、これを含めると演算全体に誤りをもたらす。従って、相関値の積算時には、所定の値より小さな相関値のメッシュは動的物体を含むメッシュと判断し、積算には含めない。
【0037】
ステップS24では、相関値の和が閾値より大きいか否かを判断する。閾値との比較は単独のメッシュ間の相関値で行うのではなく、画面内の各メッシュ間の相関値を積算して判断する。従って、メッシュ数をnとすると、完全一致の相関値は1であるので、閾値はn×1−α=n−αとなる。αは、実験やシミュレーション等で適切な値を決める。
【0038】
ステップS24で相関値の和が閾値より小であると判断すると、ステップS25に進む。相関値の和が閾値より小であるとは、撮像装置1の移動により画像全体がずれていると判断できる場合である。ステップS25では、画像2の画面全体を所定の値だけシフトする。ステップS26では、画像1およびシフト後の画像2の同一メッシュ間の相関値を演算する。ステップS27では、ステップS23と同様に、相関値が所定値以上のメッシュについて相関値の和を演算する。
【0039】
ステップS28では、ステップS24と同様に、相関値の和が閾値より小さいか否かを判断する。相関値の和が閾値より小であると判断すると、ステップS25に戻り処理を繰り返す。相関値の和が閾値より小であるとは、画像1と画像2が一致するほどにまでまだシフトされていないことを意味する。ステップS25では、画像2の画面全体を所定の値だけシフトするが、相関値の和が大きくなるように上下左右いずれかの方向にシフトする。どらの方向にシフトすれば相関値の和が大きくなるか分からないため、とりあえず上下左右のそれぞれの方向に所定の値シフトし、それぞれの相関値の和を比較すればよい。所定の値とは、例えば所定画素数単位とする。図6(b)においては、静止物体全体が右に動いているので、画面内でこれを左にシフトさせると各メッシュの相関値は1に近づく。
【0040】
ステップS28で相関値の和が閾値以上であると判断すると、ステップS29に進む。これは、画像1とシフト後の画像2とがほぼ一致したことを意味する。ステップS29では、最終シフト後の画像2を当初の画像2と置き換える。ステップS30では、画像1および画像3について、同様な処理を行い、その後図9の処理へ進む。
【0041】
一方、ステップS24において、相関値の和が閾値以上であると判断すると、ステップS30に進む。これは、画像1と画像2が、当初からずれておらず、手振れの影響による画像シフトがないことを意味する。
【0042】
このようにして、図7の処理では、手ぶれ等による画像全体のずれを補正し、静止物体についてはお互いに一致する3枚の画像を得ることができる。
【0043】
次に、主要被写体の動きについて補正する処理を説明する。画像1、2、3(図2(a)(b)(c))撮影時に主被写体の全体または一部が動いた場合は、第1の実施の形態では、背景と同様に除去されてしまう。本第3の実施の形態では、そのような動きのある主被写体について除去されてしまわないようにするものである。図8は、主被写体の一部が動いた例を示す図である。図8(a)の画像1は、図2(a)の画像1に対応する。図8(b)の画像2は、静止しているべき主被写体11の手に若干の動きあり、被写体13として変化している様子を示している。
【0044】
図9は、主被写体の動きを補正する処理の流れを示すフローチャートを示す図である。ステップS41では、画像1から主被写体11の領域を抽出する。主被写体の領域抽出は、最も中央付近で大きく写っている人(々)、カメラの方向を向いている人(々)などを、所定の方法で抽出する。ステップS42では、ステップS41で抽出された画像1の領域と画像2の同一位置の領域との相関値を演算する。ステップS43では、演算された相関値が所定の閾値より小さいか否かを判断する。
【0045】
ステップS43で、演算された相関値が所定の閾値より小さいと判断するとステップS44に進む。これは、主被写体に動きがあったと判断したことを意味する。ステップS44では、画像2から抽出された主被写体を画像1の主被写体に置き換える。すなわち、図8(b)の画像2の主被写体13は図8(a)の主被写体11の像によって置き換えられる。これにより、図8(a)の画像1と図8(b)の画像2の主被写体と静止物体は一致した画像となる。ステップS45では、画像1および画像3についても同様の処理を行う。その後、図3のステップS4に進み、図3の処理を行う。
【0046】
一方、ステップS43で、演算された相関値が所定の閾値以上であると判断するとステップS45に進む。これは、主被写体11に動きがないと判断された場合である。
【0047】
このようにして、図9の処理では、主被写体に動きがあった場合でも除去されず、主被写体および静止物体についてはお互いに一致する3枚の画像を得ることができる。
【0048】
以上説明したように、第3の実施の形態では、撮像装置1を手持ちで構える場合であっても、また、連続して撮像をする間に主被写体に動きがあった場合でも、不要な動きのある物体の像は除去され、所望の主被写体と静止している背景の画像を得ることができる。
【0049】
なお、上記第3の実施の形態で説明した処理を第2の実施の形態の処理に追加する場合は、第2の実施の形態の図5のステップS12の後に追加する。すなわち、同一被写体に対して2枚の画像を取得したのち、上述した処理を実行する。ただし、画像1と画像2に対する処理のみを実行する。
【0050】
上記の実施の形態では、撮影ロボットの例で説明をしたが、この内容に限定する必要はない。上述した撮像装置1、制御装置2、記憶装置3が、1台のデジタルカメラ(電子スチルカメラ)の中で実現されている場合であってもよい。
【0051】
また、上記の実施の形態では、撮影ロボットの制御装置2が上記した制御プログラムを実行する例で説明をしたが、この内容に限定する必要はない。例えば、上述した制御プログラムをパーソナルコンピュータで実行するようにしてもよい。その場合、連続して撮像された複数の画像は、市販のデジタルカメラで同一被写体を同一撮影条件で連続して撮像したものとしてもよい。この場合、デジタルカメラの連写モードを使用して複数の画像を取得してもよい。
【0052】
また、上記の実施の形態では、制御装置2は上記した制御プログラムをROMに格納されている例で説明をしたが、この内容に限定する必要はない。例えば、上述した制御プログラムをCD−ROMなどの記録媒体で提供してもよい。この場合、撮影ロボットはCD−ROMなどの記録媒体駆動装置を備えるようにすればよい。さらには、インターネットなどの通信回線を通じて提供するようにしてもよい。その場合、撮影ロボットはインターネットなどの通信回線と接続できる機能を持つようにすればよい。
【0053】
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
【0054】
【発明の効果】
本発明は、以上説明したように構成しているので、不要な動きのある物体の像は自動的に除去され、所望の静止被写体と静止している背景の画像を得ることができる。
【図面の簡単な説明】
【図1】本発明の画像生成装置の一実施の形態である撮影ロボットの構成図を示す図である。
【図2】撮像した3枚の画像と合成後の画像を示す図である。
【図3】第1の実施の形態の処理の流れを示すフローチャートを示す図である。
【図4】撮像した2枚の画像と、処理の過程の画像と、合成後の画像を示す図である。
【図5】第2の実施の形態の処理の流れを示すフローチャートを示す図である。
【図6】取得した画像が手振れ等により全体にずれている様子を説明する図である。
【図7】第3の実施の形態の画像全体の動きを補正する処理の流れを示すフローチャートを示す図である。
【図8】主被写体の一部が動いた例を示す図である。
【図9】第3の実施の形態の主被写体の動きを補正する処理の流れを示すフローチャートを示す図である。
【符号の説明】
1 撮像装置
2 制御装置
3 記憶装置
【発明の属する技術分野】
本発明は、撮像した画像から不要な像を除去して画像を生成する画像生成方法、画像生成装置に関する。
【0002】
【従来の技術】
デジタルカメラを使用して観光地等で記念に残る背景を入れて人物の画像を撮影(撮像)する場合、撮影画面内に第三者が記録されないことが望ましい。しかし、人が多く集まるところでは、これを完全に避けて撮影することは難しい。このように不要な第三者が入ってしまった画像から、不要な第三者を消した画像を提供するサービスがある(例えば非特許文献1参照)。
【0003】
【非特許文献1】
テクノメディアシステム、”写真修正サービス・美化(不要物の消去)”、[online]、[2003年5月30日検索]、インターネット<http://www.tms−x.com/ret−bty.html>
【0004】
【発明が解決しようとする課題】
上記のようなサービスにおいて、同時に撮影された不要な第三者を記録画像から消すためには、画像処理ソフトを用いて、マニュアルで画像を操作する必要がある。しかし、多大な手間と熟練が必要であるという問題点があった。
【0005】
本発明は、撮像した画像から不要な像を自動的に除去して画像を生成する画像生成方法、画像生成装置を提供する。
【0006】
【課題を解決するための手段】
請求項1の発明は、画像生成方法に適用され、複数の画像を取得する複数画像取得手順と、取得した複数の画像に基づき、動きのある像を除いた画像を合成する画像合成手順とからなることを特徴とするものである。
請求項2の発明は、請求項1に記載の画像生成方法において、同一被写体を所定のタイミングで連続して複数回撮像するように撮像装置に指示する撮像指示手順をさらに備え、複数画像取得手順は、撮像装置により連続して撮像された複数の画像を取得することを特徴とするものである。
請求項3の発明は、請求項1から2のいずれかに記載の画像生成方法において、複数画像取得手順は、3個以上の画像を取得し、画像合成手順は、複数画像取得手順において取得した3個以上の画像の中から2個以上の画像で一致する部分を抽出して画像を合成することを特徴とするものである。
請求項4の発明は、請求項1から2のいずれかに記載の画像生成方法において、複数画像取得手順は、2個の画像を取得し、画像合成手順は、複数画像取得手順において取得した2個の画像について差分演算することにより動きのある像を検出し、1の画像から検出された動きのある像を削除し、1の画像において動きのある像が削除された部分を、他方の画像において同一位置にある像により埋めることを特徴とするものである。
請求項5の発明は、請求項1から4のいずれかに記載の画像生成方法において、複数画像取得手順は、複数の画像を取得した後、複数の画像間で画像全体がずれているか否かを検出し、ずれていることが検出された場合は複数の画像間で画像全体がずれないように補正し、画像合成手順は、補正後の複数の画像に基づき、動きのある像を除いた画像を合成することを特徴とするものである。
請求項6の発明は、画像生成装置に適用され、被写体を撮像する撮像手段と、同一被写体を所定のタイミングで連続して複数回撮像するように撮像手段に指示する撮像指示手段と、撮像手段により撮像された複数の画像を取得する複数画像取得手段と、取得した複数の画像に基づき、動きのある像を除いた画像を合成する画像合成手段とからなることを特徴とするものである。
請求項7の発明は、請求項6に記載の画像生成装置において、撮像指示手段は、3回以上撮像するように撮像手段に指示し、複数画像取得手段は、撮像手段により撮像された3個以上の画像を取得し、画像合成手段は、3個以上の画像の中から2個以上の画像で一致する部分を抽出して画像を合成することを特徴とするものである。
請求項8の発明は、請求項6に記載の画像生成装置において、撮像指示手段は、2回撮像するように撮像手段に指示し、複数画像取得手段は、撮像手段により撮像された2個の画像を取得し、画像合成手段は、2個の画像から差分演算することにより動きのある像を検出し、1の画像から検出された動きのある像を削除し、1の画像において動きのある像が削除された部分を、他方の画像において同一位置にある像により埋めることを特徴とするものである。
請求項9の発明は、請求項6から8のいずれかに記載の画像生成装置において、複数画像取得手段は、複数の画像を取得した後、複数の画像間で画像全体がずれているか否かを検出し、ずれていることが検出された場合は複数の画像間で画像全体がずれないように補正し、画像合成手段は、補正後の複数の画像に基づき、動きのある像を除いた画像を合成することを特徴とするものである。
請求項10の発明は、画像生成処理プログラムに適用され、請求項1から5のいずれかに記載の画像生成方法の手順をコンピュータに実行させるものである。
請求項11の発明は、コンピュータ読みとり可能な記録媒体に適用され、請求項10の画像生成処理プログラムを記録したものである。
【0007】
【発明の実施の形態】
−第1の実施の形態−
図1は、本発明の画像生成装置の一実施の形態である撮影ロボットの構成図を示す図である。撮影ロボットは、観光地などに設置され、所定の背景と人物を撮影するように設置されている。撮影ロボットは、撮像装置1、制御装置2、記憶装置3から構成される。
【0008】
撮像装置1は、被写体を撮像し画像を生成する。撮影レンズなどの光学系やCCDなどの撮像素子で構成されている。なお、デジタルスチルカメラで構成してもよい。制御装置2は、撮像装置1で撮像され生成された画像を受信し、後述する各種の画像処理、画像合成を行う。制御装置2は、CPUおよび周辺回路から構成され、不図示のROMに格納された所定の制御プログラムを実行する。記憶装置3は、撮像装置1で撮像して生成した画像や制御装置2で合成等により生成した画像を記憶する。なお、制御装置2および記憶装置3をパーソナルコンピュータで構成してもよい。その場合、記憶装置3は、パーソナルコンピュータのハードディスクなどで構成される。
【0009】
なお、具体的には、撮像装置1は、被写体の画像を取得しその画像についての画像データを生成する。制御装置2は、撮像装置1で生成された画像データを受信し、その画像データについて各種の画像処理、画像合成を行う。記憶装置3は、画像データを記憶する。このように、実際に受け渡しや処理等がされるのは画像データであるが、以下の説明では、画像という言葉を使用して説明する。
【0010】
撮像装置1は、不図示の筐体の上部に設置され、撮影アングルを自由に変更できるように保持されている。利用者(観光客)が、不図示の撮影ボタンを押すと、セルフタイマーが働く。所定時間経過後、制御装置2は、撮像装置1に対して所定のタイミングで所定の回数連続して撮像動作を行うよう指示する。利用者は、所定の場所に立つことにより、所定の背景をバックに撮影される。撮影後、プリンタ(不図示)によりプリントされた写真は、利用者に渡される。このとき、撮影料金を収納するようにしてもよい。
【0011】
本実施の形態の撮影ロボットは、上述したように1回の撮影につき、複数回連続して撮像し複数の画像(画像データ)を取得する。すなわち、撮像装置1は、同一の被写体に対して同一の撮影条件で複数回撮像し複数の画像を得る。その後、後述する処理や合成を行い1枚の画像を生成する。これは、撮影時にたまたま第三者が画面内に入ってしまっても、それを適切に取り除き、利用者のみが所望の背景とともに撮影された画像を得るようにするためである。
【0012】
被写体である利用者はほぼ静止し、背景も静止している。一方、不要な第三者は通りがかったりして動きがある。本実施の形態の撮影ロボットは、静止物体と動体物体を識別し、動体物体による像を除去して、所望の静止物体による画像のみにするものである。以下、この処理について詳細に説明する。なお、撮像装置1は筐体の上に設置されているので、丁度三脚にカメラが取り付けられているように安定している。
【0013】
図2および図3を用いて、第1の実施の形態の画像生成方法について説明する。本実施の形態では、3回連続して撮像し3枚の画像を得る。図2は、撮像した3枚の画像と合成後の画像を示す図である。これらの画像は、記憶装置3に格納される。図2(a)は1回目に撮像された1枚目の画像1である。撮影対象とする被写体11および背景12とともに、同時に記録されることが望ましくない被写体21が同一画面に撮像されている。この時、被写体21は動いているものとする。図2(b)、図2(c)は引き続き撮像、記憶(蓄積)された画像2、画像3で、図2(a)の被写体21は、図2(b)では被写体22、図2(c)では被写体23と、画面の中で異なった位置で撮像される。
【0014】
一方、撮影対象とする被写体11および背景12は動かないため、図2(a)〜図2(c)の画像の中では同じ位置に撮像される。図2(a)〜図2(c)の画像を多数の部分に分割し、各画像間でそれぞれの部分を比較する。被写体21〜23の各位置が互いに重なっていないため動的物体と判断され、少なくとも2枚以上の画像で一致している部分は静止物体と判断される。この静止物体と判断された部分を合成することにより、図2(d)のような被写体11、および背景12のみの画像を得ることが出来る。
【0015】
図3は、この処理の流れを示すフローチャートを示す図である。上述のように利用者が撮影ボタン(不図示)を押し、セルフタイマーが働き、1回目の撮像が開始するところからスタートする。ステップS1では、撮像装置1は1回目の撮像を行って画像1(図2(a))を生成し、制御装置2は画像1を受信して記憶装置3に保存する。ステップS2では、撮像装置1は2回目の撮像を行って画像2(図2(b))を生成し、制御装置2は画像2を受信して記憶装置3に保存する。ステップS3では、撮像装置1は3回目の撮像を行って画像3(図2(c))を生成し、制御装置2は画像3を受信して記憶装置3に保存する。
【0016】
ステップS4では、図2(a)〜図2(c)の各画像を多数の部分に分割し、各画像間でそれぞれの部分を比較する。画面分割の方法としては、画像の画素単位、複数画素をまとめた画素ブロック単位、画面内の物体を輪郭抽出した物体単位などがあり、処理する画像に最適な方法を選択する。比較の結果、2画像以上で一致する部分を抽出する。少なくとも2枚以上の画像で一致している部分は静止物体と判断される。被写体21〜23は、各画像において互いに重ならないように撮像されている。従って、動きがある物体として判断され、ステップS4の処理では抽出されない。
【0017】
ステップS5では、抽出した画像を合成(再構成)する。合成の結果、動きのある被写体21〜23は除去されて、動きのない静止している被写体11および背景12のみが再構成される(図2(d))。ステップS6では、合成後の画像(図2(d))を記憶装置3に記録する。
【0018】
このようにして、第1の実施の形態では、同一被写体を同一撮影条件で連続して3回撮像し3枚の画像を得る。このうち、2枚以上の画像で一致する部分を抽出して画像を合成する。これにより、いずれの2枚の画像でも一致しない不要な動きのある物体の像は自動的に除去され、所望の静止被写体と静止している背景の画像を得ることができる。すなわち、画像処理ソフトを用いて、マニュアルで画像を操作する必要がなく、多大な手間を必要とせず容易に不要な動きのある物体の像を除去し所望の静止被写体と静止している背景の画像を得ることができる。
【0019】
3回連続して撮像するタイミングは、予め定められたタイミングである。例えば、1秒ごとに撮像する。このタイミングは、撮影のためポーズを取った人である被写体は静止物体として抽出され、通りがかった第三者である他人などは動的物体として判断するのに適したタイミングである。すなわち、歩行している第三者が、複数の画像内で静止物体として判断されないように位置を変化して撮像されるようなタイミングである。この撮像タイミングは、撮影場面などの状況に応じて選択できるようにしてもよい。不要な物体の動きが速い場合は、撮像タイミングも速くしてよい。
【0020】
また、同一撮影条件とは、露出やシャッタースピードが同一であることを言う。レンズの焦点距離や撮影距離なども同じである。さらに、電子閃光装置を使うか否かなども同一としてよい。例えば、デジタルカメラなどで撮影するときに、種々の設定はそのままとしシャッターリリーズボタンのみを1秒ごとに連続して押すような場合を想定すればよい。画像データをメモリに記憶するときの圧縮率が関係する画質や画素数の画像サイズなども同一であると考えればよい。
【0021】
以上の説明においては、記録したくない被写体が1名の場合を説明した。しかし、実際の観光地などにおいては、画面内に多くの人が撮影されているとともに、その動きもまちまちである。そのため、動きのある被写体が複数画像で重なっていることも考えられる。この場合は、上記のように、3枚の画像のみを撮像して比較するのではなく、更に多くの画像を撮像して比較する。この中から2枚以上の画像で一致している部分を抽出、合成(再構成)することにより、動きのある被写体を記録画像から効果的に除去することが出来る。但し複数画像の撮影は、静止している被写体が動かない程度の時間内に終了するものとする。
【0022】
−第2の実施の形態−
第1の実施の形態では、同一被写体に対して連続して3枚の画像を取得したが、第2の実施の形態では、2枚の画像を取得して処理する例を説明する。撮影ロボットの構成は第1の実施の形態と同様であるので説明を省略する。
【0023】
図4および図5を用いて、第2の実施の形態の画像生成方法について説明する。第2の実施の形態では、2回連続して撮像し2枚の画像を得る。図4は、撮像した2枚の画像と、処理の過程の画像と、合成後の画像を示す図である。これらの画像は、記憶装置3に格納される。
【0024】
図4(a)は1回目に撮像された1枚目の画像1である。撮影対象とする被写体11および背景12とともに、同時に記録されることが望ましくない被写体21が同一画面に撮像されている。この時、被写体21は動いているものとする。図4(b)は引き続き撮像、記憶(蓄積)された画像2で、図4(a)の被写体21は、図4(b)では被写体22の位置に変化し、画面の中で異なった位置で撮像される。一方、撮影対象とする被写体11および背景12は動かないため、図4(a)、図4(b)の画像の中では同じ位置に撮像される。
【0025】
図4(c)は、図4(a)と図4(b)の画像間差分演算を行ったもので、動いている被写体21、22のみが抽出されている。図4(d)は、図4(a)と図4(c)の画面内で一致している部分のみを抽出したものである。図4(a)において動きのある被写体21のみが抽出されている。図4(e)は、図4(a)から図4(d)の被写体21を除去したものである。除去した部分31は空白(点線で示されている)となっている。図4(f)は、この空白部分を図4(b)からこれに該当する部分を切り出し、図4(e)の空白部分31を埋めたものである。その結果、被写体11、および背景12のみの画像を得られている。
【0026】
図5は、この処理の流れを示すフローチャートを示す図である。第1の実施の形態と同様に利用者が撮影ボタン(不図示)を押し、セルフタイマーが働き、1回目の撮像が開始するところからスタートする。ステップS11では、撮像装置1は1回目の撮像を行って画像1(図4(a))を生成し、制御装置2は画像1を受信して記憶装置3に保存する。ステップS12では、撮像装置1は2回目の撮像を行って画像2(図4(b))を生成し、制御装置2は画像2を受信して記憶装置3に保存する。
【0027】
ステップS13では、画像1と画像2の差分演算を行う。差分演算は、各画像を多数の部分に分割し、各画像間でそれぞれの部分の差分演算をする。画面分割の方法としては、第1の実施の形態と同様に、画像の画素単位、複数画素をまとめた画素ブロック単位、画面内の物体を輪郭抽出した物体単位などがあり、処理する画像に最適な方法を選択する。差分演算の結果、動いている被写体21、22のみの画像3が抽出される(図4(c))。
【0028】
ステップS14では、画像3(図4(c))と画像1(図4(a))の一致している部分を抽出演算し画像4(図4(d))を得る。すなわち、画像1(図4(a))における動きのある被写体21を抽出する。ステップS15では、画像1(図4(a))から画像4(図4(d))を除去する演算を行い、画像5(図4(e))を生成する。除去された部分31は空白(点線)となっている。
【0029】
ステップS16では、画像5(図4(e))の欠落部分(空白部分)31を画像2(図4(b))からこれに該当する部分を切り出し埋めるようにして合成する。これにより、被写体11および背景12のみの画像6(図4(f))が得らる。ステップS17では、合成後の画像6(図4(f))を記憶装置3に記録する。
【0030】
このようにして、第2の実施の形態では、同一被写体を同一撮影条件で連続して2回撮像し2枚の画像を得る。この2枚の画像を使用して動的物体と静止物体とを切り分け、所望の静止被写体と静止している背景の画像を得ることができる。すなわち、第1の実施の形態と比べて少ない画像で、第1の実施の形態と同様の効果を得ることができる。
【0031】
−第3の実施の形態−
第1の実施の形態および第2の実施の形態では、撮像装置1は、不図示の筐体の上部に設置されていることを前提に説明をした。すなわち、撮像装置1はあたかも三脚に据え付けられるように設置され、撮像装置1自体の振れは生じないことを前提とした。しかし、撮像装置1を人が持ち、人が構えて所望の被写体を撮影するようにしてもよい。このようにすることにより、撮影アングルや撮影タイミングをより自由にかつより容易に設定することができる。この場合、人が構えているため、複数回の撮像の間に手ぶれ等による画像全体の動きが生じる場合がある。第3の実施の形態は、この手ぶれ等による画像全体の動きに対して対策をするものである。
【0032】
また、複数回撮像している間に、所望の被写体自体が完全に静止しているとは限らない。第3の実施の形態は、この主要被写体の動きに対しても対策をするものである。
【0033】
第3の実施の形態の撮影ロボットの構成は、撮像装置1が手持ち可能であること以外は第1の実施の形態と同様である。従って、撮影ロボットの構成の説明は省略する。また、第3の実施の形態の処理は、第1の実施の形態および第2の実施の形態の処理に以下に説明する処理を追加するものである。すなわち、同一被写体を同一撮影条件で連続して3回撮像し3枚の画像を得る場合、あるいは、同一被写体を同一撮影条件で連続して2回撮像し2枚の画像を得る場合の両方の処理に対して、以下に説明する処理を追加するものである。従って、以下では、この追加処理部分を中心に説明をし、その他の処理については第1の実施の形態および第2の実施の形態の処理を参照することとし説明を省略する。
【0034】
以下、第1の実施の形態の処理に追加する場合について説明をする。本実施の形態で説明する処理は、第1の実施の形態の図3のステップS3の後に追加する。すなわち、同一被写体に対して3枚の画像を取得したのちに、以下で説明をする処理を実行する。
【0035】
図6は、取得した画像が手振れ等により全体にずれている様子を説明する図である。画像1、2、3(図2(a)(b)(c))の撮影時に撮像装置1全体が動いた場合は、画面中の静止物体全体も画面に対して相対的にシフトする。図6は、画像1に対して画像2の撮像装置1の位置が相対的に左に、これによって静止物体全体が画面上右にシフトしている例を示す。図7は、この画像全体の動きを補正する処理の流れを示すフローチャートを示す図である。なお、撮像装置1全体の動きは、動的物体の動きに対して十分小さいものとする。
【0036】
ステップS21では、図6に示すように、画像1および画像2を適当な大きさのメッシュに分割する。ステップS22では、画像1および画像2の同一メッシュ間の相関値を演算する。相関値は、メッシュ間が完全に一致する場合に最大値である1が演算され、一致しない場合はその程度に応じて小さな値が演算される。ステップS23では、相関値が所定値以上のメッシュについて相関値の和を演算する。動的物体が含まれるメッシュ間の相関値は、1よりも大幅に小さくなるため、これを含めると演算全体に誤りをもたらす。従って、相関値の積算時には、所定の値より小さな相関値のメッシュは動的物体を含むメッシュと判断し、積算には含めない。
【0037】
ステップS24では、相関値の和が閾値より大きいか否かを判断する。閾値との比較は単独のメッシュ間の相関値で行うのではなく、画面内の各メッシュ間の相関値を積算して判断する。従って、メッシュ数をnとすると、完全一致の相関値は1であるので、閾値はn×1−α=n−αとなる。αは、実験やシミュレーション等で適切な値を決める。
【0038】
ステップS24で相関値の和が閾値より小であると判断すると、ステップS25に進む。相関値の和が閾値より小であるとは、撮像装置1の移動により画像全体がずれていると判断できる場合である。ステップS25では、画像2の画面全体を所定の値だけシフトする。ステップS26では、画像1およびシフト後の画像2の同一メッシュ間の相関値を演算する。ステップS27では、ステップS23と同様に、相関値が所定値以上のメッシュについて相関値の和を演算する。
【0039】
ステップS28では、ステップS24と同様に、相関値の和が閾値より小さいか否かを判断する。相関値の和が閾値より小であると判断すると、ステップS25に戻り処理を繰り返す。相関値の和が閾値より小であるとは、画像1と画像2が一致するほどにまでまだシフトされていないことを意味する。ステップS25では、画像2の画面全体を所定の値だけシフトするが、相関値の和が大きくなるように上下左右いずれかの方向にシフトする。どらの方向にシフトすれば相関値の和が大きくなるか分からないため、とりあえず上下左右のそれぞれの方向に所定の値シフトし、それぞれの相関値の和を比較すればよい。所定の値とは、例えば所定画素数単位とする。図6(b)においては、静止物体全体が右に動いているので、画面内でこれを左にシフトさせると各メッシュの相関値は1に近づく。
【0040】
ステップS28で相関値の和が閾値以上であると判断すると、ステップS29に進む。これは、画像1とシフト後の画像2とがほぼ一致したことを意味する。ステップS29では、最終シフト後の画像2を当初の画像2と置き換える。ステップS30では、画像1および画像3について、同様な処理を行い、その後図9の処理へ進む。
【0041】
一方、ステップS24において、相関値の和が閾値以上であると判断すると、ステップS30に進む。これは、画像1と画像2が、当初からずれておらず、手振れの影響による画像シフトがないことを意味する。
【0042】
このようにして、図7の処理では、手ぶれ等による画像全体のずれを補正し、静止物体についてはお互いに一致する3枚の画像を得ることができる。
【0043】
次に、主要被写体の動きについて補正する処理を説明する。画像1、2、3(図2(a)(b)(c))撮影時に主被写体の全体または一部が動いた場合は、第1の実施の形態では、背景と同様に除去されてしまう。本第3の実施の形態では、そのような動きのある主被写体について除去されてしまわないようにするものである。図8は、主被写体の一部が動いた例を示す図である。図8(a)の画像1は、図2(a)の画像1に対応する。図8(b)の画像2は、静止しているべき主被写体11の手に若干の動きあり、被写体13として変化している様子を示している。
【0044】
図9は、主被写体の動きを補正する処理の流れを示すフローチャートを示す図である。ステップS41では、画像1から主被写体11の領域を抽出する。主被写体の領域抽出は、最も中央付近で大きく写っている人(々)、カメラの方向を向いている人(々)などを、所定の方法で抽出する。ステップS42では、ステップS41で抽出された画像1の領域と画像2の同一位置の領域との相関値を演算する。ステップS43では、演算された相関値が所定の閾値より小さいか否かを判断する。
【0045】
ステップS43で、演算された相関値が所定の閾値より小さいと判断するとステップS44に進む。これは、主被写体に動きがあったと判断したことを意味する。ステップS44では、画像2から抽出された主被写体を画像1の主被写体に置き換える。すなわち、図8(b)の画像2の主被写体13は図8(a)の主被写体11の像によって置き換えられる。これにより、図8(a)の画像1と図8(b)の画像2の主被写体と静止物体は一致した画像となる。ステップS45では、画像1および画像3についても同様の処理を行う。その後、図3のステップS4に進み、図3の処理を行う。
【0046】
一方、ステップS43で、演算された相関値が所定の閾値以上であると判断するとステップS45に進む。これは、主被写体11に動きがないと判断された場合である。
【0047】
このようにして、図9の処理では、主被写体に動きがあった場合でも除去されず、主被写体および静止物体についてはお互いに一致する3枚の画像を得ることができる。
【0048】
以上説明したように、第3の実施の形態では、撮像装置1を手持ちで構える場合であっても、また、連続して撮像をする間に主被写体に動きがあった場合でも、不要な動きのある物体の像は除去され、所望の主被写体と静止している背景の画像を得ることができる。
【0049】
なお、上記第3の実施の形態で説明した処理を第2の実施の形態の処理に追加する場合は、第2の実施の形態の図5のステップS12の後に追加する。すなわち、同一被写体に対して2枚の画像を取得したのち、上述した処理を実行する。ただし、画像1と画像2に対する処理のみを実行する。
【0050】
上記の実施の形態では、撮影ロボットの例で説明をしたが、この内容に限定する必要はない。上述した撮像装置1、制御装置2、記憶装置3が、1台のデジタルカメラ(電子スチルカメラ)の中で実現されている場合であってもよい。
【0051】
また、上記の実施の形態では、撮影ロボットの制御装置2が上記した制御プログラムを実行する例で説明をしたが、この内容に限定する必要はない。例えば、上述した制御プログラムをパーソナルコンピュータで実行するようにしてもよい。その場合、連続して撮像された複数の画像は、市販のデジタルカメラで同一被写体を同一撮影条件で連続して撮像したものとしてもよい。この場合、デジタルカメラの連写モードを使用して複数の画像を取得してもよい。
【0052】
また、上記の実施の形態では、制御装置2は上記した制御プログラムをROMに格納されている例で説明をしたが、この内容に限定する必要はない。例えば、上述した制御プログラムをCD−ROMなどの記録媒体で提供してもよい。この場合、撮影ロボットはCD−ROMなどの記録媒体駆動装置を備えるようにすればよい。さらには、インターネットなどの通信回線を通じて提供するようにしてもよい。その場合、撮影ロボットはインターネットなどの通信回線と接続できる機能を持つようにすればよい。
【0053】
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
【0054】
【発明の効果】
本発明は、以上説明したように構成しているので、不要な動きのある物体の像は自動的に除去され、所望の静止被写体と静止している背景の画像を得ることができる。
【図面の簡単な説明】
【図1】本発明の画像生成装置の一実施の形態である撮影ロボットの構成図を示す図である。
【図2】撮像した3枚の画像と合成後の画像を示す図である。
【図3】第1の実施の形態の処理の流れを示すフローチャートを示す図である。
【図4】撮像した2枚の画像と、処理の過程の画像と、合成後の画像を示す図である。
【図5】第2の実施の形態の処理の流れを示すフローチャートを示す図である。
【図6】取得した画像が手振れ等により全体にずれている様子を説明する図である。
【図7】第3の実施の形態の画像全体の動きを補正する処理の流れを示すフローチャートを示す図である。
【図8】主被写体の一部が動いた例を示す図である。
【図9】第3の実施の形態の主被写体の動きを補正する処理の流れを示すフローチャートを示す図である。
【符号の説明】
1 撮像装置
2 制御装置
3 記憶装置
Claims (11)
- 画像生成方法であって、
複数の画像を取得する複数画像取得手順と、
前記取得した複数の画像に基づき、動きのある像を除いた画像を合成する画像合成手順とからなることを特徴とする画像生成方法。 - 請求項1に記載の画像生成方法において、
同一被写体を所定のタイミングで連続して複数回撮像するように撮像装置に指示する撮像指示手順をさらに備え、
前記複数画像取得手順は、前記撮像装置により連続して撮像された複数の画像を取得することを特徴とする画像生成方法。 - 請求項1から2のいずれかに記載の画像生成方法において、
前記複数画像取得手順は、3個以上の画像を取得し、
前記画像合成手順は、前記複数画像取得手順において取得した3個以上の画像の中から2個以上の画像で一致する部分を抽出して画像を合成することを特徴とする画像生成方法。 - 請求項1から2のいずれかに記載の画像生成方法において、
前記複数画像取得手順は、2個の画像を取得し、
前記画像合成手順は、前記複数画像取得手順において取得した2個の画像について差分演算することにより動きのある像を検出し、1の画像から前記検出された動きのある像を削除し、前記1の画像において前記動きのある像が削除された部分を、他方の画像において同一位置にある像により埋めることを特徴とする画像生成方法。 - 請求項1から4のいずれかに記載の画像生成方法において、
前記複数画像取得手順は、前記複数の画像を取得した後、前記複数の画像間で画像全体がずれているか否かを検出し、ずれていることが検出された場合は前記複数の画像間で画像全体がずれないように補正し、
前記画像合成手順は、前記補正後の複数の画像に基づき、動きのある像を除いた画像を合成することを特徴とする画像生成方法。 - 画像生成装置であって、
被写体を撮像する撮像手段と、
同一被写体を所定のタイミングで連続して複数回撮像するように前記撮像手段に指示する撮像指示手段と、
前記撮像手段により撮像された複数の画像を取得する複数画像取得手段と、
前記取得した複数の画像に基づき、動きのある像を除いた画像を合成する画像合成手段とからなることを特徴とする画像生成装置。 - 請求項6に記載の画像生成装置において、
前記撮像指示手段は、3回以上撮像するように前記撮像手段に指示し、
前記複数画像取得手段は、前記撮像手段により撮像された3個以上の画像を取得し、
前記画像合成手段は、前記3個以上の画像の中から2個以上の画像で一致する部分を抽出して画像を合成することを特徴とする画像生成装置。 - 請求項6に記載の画像生成装置において、
前記撮像指示手段は、2回撮像するように前記撮像手段に指示し、
前記複数画像取得手段は、前記撮像手段により撮像された2個の画像を取得し、
前記画像合成手段は、前記2個の画像から差分演算することにより動きのある像を検出し、1の画像から前記検出された動きのある像を削除し、前記1の画像において前記動きのある像が削除された部分を、他方の画像において同一位置にある像により埋めることを特徴とする画像生成装置。 - 請求項6から8のいずれかに記載の画像生成装置において、
前記複数画像取得手段は、前記複数の画像を取得した後、前記複数の画像間で画像全体がずれているか否かを検出し、ずれていることが検出された場合は前記複数の画像間で画像全体がずれないように補正し、
前記画像合成手段は、前記補正後の複数の画像に基づき、動きのある像を除いた画像を合成することを特徴とする画像生成装置。 - 請求項1から5のいずれかに記載の画像生成方法の手順をコンピュータに実行させるための画像生成処理プログラム。
- 請求項10の画像生成処理プログラムを記録したコンピュータ読みとり可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003176629A JP2005012660A (ja) | 2003-06-20 | 2003-06-20 | 画像生成方法、画像生成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003176629A JP2005012660A (ja) | 2003-06-20 | 2003-06-20 | 画像生成方法、画像生成装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005012660A true JP2005012660A (ja) | 2005-01-13 |
Family
ID=34099465
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003176629A Pending JP2005012660A (ja) | 2003-06-20 | 2003-06-20 | 画像生成方法、画像生成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005012660A (ja) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006203780A (ja) * | 2005-01-24 | 2006-08-03 | Mitsubishi Electric Corp | 駐車場監視装置 |
JP2007305050A (ja) * | 2006-05-15 | 2007-11-22 | Olympus Imaging Corp | カメラ、合成画像撮影方法、プログラムおよび記録媒体 |
JP2010237798A (ja) * | 2009-03-30 | 2010-10-21 | Equos Research Co Ltd | 画像処理装置および画像処理プログラム |
US7970227B2 (en) | 2006-07-21 | 2011-06-28 | Sony Corporation | Image processing apparatus, image processing method, and computer program |
JP2013084183A (ja) * | 2011-10-12 | 2013-05-09 | Nippon Telegr & Teleph Corp <Ntt> | 類似画像領域検出方法、装置及びプログラム |
JP2013165452A (ja) * | 2012-02-13 | 2013-08-22 | Olympus Corp | 画像生成装置、画像生成方法、撮像装置、および撮像方法 |
KR101325002B1 (ko) * | 2011-09-29 | 2013-11-08 | 가시오게산키 가부시키가이샤 | 화상 처리 장치, 화상 처리 방법 및 기록 매체 |
KR101436327B1 (ko) | 2008-07-31 | 2014-09-01 | 삼성전자주식회사 | 배경 우선 촬상 방법 및 촬상 장치 |
US9066010B2 (en) | 2013-10-03 | 2015-06-23 | Olympus Corporation | Photographing apparatus, photographing method and medium recording photographing control program |
JP2017187423A (ja) * | 2016-04-07 | 2017-10-12 | 日本電気株式会社 | 探索画像表示処理装置、探索画像表示処理方法、コンピュータプログラム及び記憶媒体 |
JPWO2018025825A1 (ja) * | 2016-08-02 | 2019-01-17 | ナーブ株式会社 | 撮像システム |
CN112399079A (zh) * | 2020-10-30 | 2021-02-23 | 维沃移动通信有限公司 | 拍摄方法、装置、电子设备及可读存储介质 |
CN114363521A (zh) * | 2022-01-12 | 2022-04-15 | 西安维沃软件技术有限公司 | 图像处理方法、装置及电子设备 |
-
2003
- 2003-06-20 JP JP2003176629A patent/JP2005012660A/ja active Pending
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4540490B2 (ja) * | 2005-01-24 | 2010-09-08 | 三菱電機株式会社 | 駐車場監視装置 |
JP2006203780A (ja) * | 2005-01-24 | 2006-08-03 | Mitsubishi Electric Corp | 駐車場監視装置 |
JP2007305050A (ja) * | 2006-05-15 | 2007-11-22 | Olympus Imaging Corp | カメラ、合成画像撮影方法、プログラムおよび記録媒体 |
US7970227B2 (en) | 2006-07-21 | 2011-06-28 | Sony Corporation | Image processing apparatus, image processing method, and computer program |
KR101436327B1 (ko) | 2008-07-31 | 2014-09-01 | 삼성전자주식회사 | 배경 우선 촬상 방법 및 촬상 장치 |
JP2010237798A (ja) * | 2009-03-30 | 2010-10-21 | Equos Research Co Ltd | 画像処理装置および画像処理プログラム |
KR101325002B1 (ko) * | 2011-09-29 | 2013-11-08 | 가시오게산키 가부시키가이샤 | 화상 처리 장치, 화상 처리 방법 및 기록 매체 |
JP2013084183A (ja) * | 2011-10-12 | 2013-05-09 | Nippon Telegr & Teleph Corp <Ntt> | 類似画像領域検出方法、装置及びプログラム |
JP2013165452A (ja) * | 2012-02-13 | 2013-08-22 | Olympus Corp | 画像生成装置、画像生成方法、撮像装置、および撮像方法 |
US9066010B2 (en) | 2013-10-03 | 2015-06-23 | Olympus Corporation | Photographing apparatus, photographing method and medium recording photographing control program |
JP2017187423A (ja) * | 2016-04-07 | 2017-10-12 | 日本電気株式会社 | 探索画像表示処理装置、探索画像表示処理方法、コンピュータプログラム及び記憶媒体 |
JPWO2018025825A1 (ja) * | 2016-08-02 | 2019-01-17 | ナーブ株式会社 | 撮像システム |
CN112399079A (zh) * | 2020-10-30 | 2021-02-23 | 维沃移动通信有限公司 | 拍摄方法、装置、电子设备及可读存储介质 |
CN114363521A (zh) * | 2022-01-12 | 2022-04-15 | 西安维沃软件技术有限公司 | 图像处理方法、装置及电子设备 |
CN114363521B (zh) * | 2022-01-12 | 2023-09-15 | 西安维沃软件技术有限公司 | 图像处理方法、装置及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8199222B2 (en) | Low-light video frame enhancement | |
US9094648B2 (en) | Tone mapping for low-light video frame enhancement | |
JP4900401B2 (ja) | 撮影装置およびプログラム | |
TWI390333B (zh) | 形成全景影像之數位靜態相機、系統、電腦可使用媒體及方法 | |
JP4760973B2 (ja) | 撮像装置及び画像処理方法 | |
JP5117280B2 (ja) | 撮像装置、撮像方法、再生装置および再生方法 | |
US9307212B2 (en) | Tone mapping for low-light video frame enhancement | |
JP5578442B2 (ja) | 撮像装置、画像合成方法、及びプログラム | |
JP2008533781A (ja) | 写真を生成する方法及び装置 | |
KR20100084140A (ko) | 촬상 장치, 화상 처리 방법 및 프로그램 | |
JP2005012660A (ja) | 画像生成方法、画像生成装置 | |
JP2006179966A (ja) | 動画撮像装置及び動画撮像方法 | |
JP2015053741A (ja) | 画像再生装置 | |
JP2007318490A (ja) | 画像処理装置、カメラ、及び画像処理プログラム | |
JP2007081477A5 (ja) | ||
JP2007336394A (ja) | 撮像装置及び画像合成方法 | |
JP4468598B2 (ja) | 画像処理装置及び画像処理プログラムを記録した記録媒体 | |
JP2007214887A (ja) | デジタルスチルカメラ及び画像合成方法 | |
JP2007133810A (ja) | 画像処理装置 | |
JP4986189B2 (ja) | 撮像装置、及びプログラム | |
JP2007214620A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2010171491A (ja) | 撮影装置、撮影方法及びプログラム | |
JP2011087203A (ja) | 撮像装置 | |
JP7305689B2 (ja) | 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体 | |
JP5613145B2 (ja) | 撮影装置およびプログラム |