JP2005135091A - 画像処理装置及び画像処理方法 - Google Patents
画像処理装置及び画像処理方法 Download PDFInfo
- Publication number
- JP2005135091A JP2005135091A JP2003369080A JP2003369080A JP2005135091A JP 2005135091 A JP2005135091 A JP 2005135091A JP 2003369080 A JP2003369080 A JP 2003369080A JP 2003369080 A JP2003369080 A JP 2003369080A JP 2005135091 A JP2005135091 A JP 2005135091A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image data
- pixels
- block
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
【課題】 時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出すると共に、その画像データに基づいて、流し撮り画像のデータを生成するようにする。
【解決手段】 画像選択部142は動画像データの中から、連続する2つの画像データを順次選択する。ブロック分割部143は基準画像を複数のブロックに分割する。移動検出部144はブロック毎に基準画像の前記対象画像に対する移動量を検出し、それに基づいて、移動有りのブロックか否かを判定すると共に、基準画像の対象画像に対する平均移動量などを検出する。画像抽出部145は平均移動量が移動領域値以上である場合に、選択しているその画像データを、被写体または背景が移動しているシーンの画像データとして抽出する。流し撮り画像生成部146は抽出された2つの画像データに基づいて、流し撮り画像のデータを生成する。
【選択図】 図1
【解決手段】 画像選択部142は動画像データの中から、連続する2つの画像データを順次選択する。ブロック分割部143は基準画像を複数のブロックに分割する。移動検出部144はブロック毎に基準画像の前記対象画像に対する移動量を検出し、それに基づいて、移動有りのブロックか否かを判定すると共に、基準画像の対象画像に対する平均移動量などを検出する。画像抽出部145は平均移動量が移動領域値以上である場合に、選択しているその画像データを、被写体または背景が移動しているシーンの画像データとして抽出する。流し撮り画像生成部146は抽出された2つの画像データに基づいて、流し撮り画像のデータを生成する。
【選択図】 図1
Description
本発明は、時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出すると共に、その画像データに基づいて、画像の一部が流れるように表現された静止画像のデータを生成することが可能な画像処理装置及び画像処理方法に関するものである。
ビデオカメラなどで撮影して得られた動画像データは、時系列に連続する複数のフレーム画像データ(あるいはフィールド画像データ)で構成されている。また、デジタルカメラなどで連写撮影して得られた連写画像データも、画像ファイルとして互いに独立した、時系列に連続する複数の画像データで構成されている。
このような動画像データなどを用いて静止画像のデータを生成する従来の方法としては、例えば、下記の特許文献1に記載の方法などが知られている。
この特許文献1に記載の方法では、連続する(n+1)個のフレーム画像データから1つのフレーム画像データを基準フレーム画像データとして選択し、この基準フレーム画像データに対する他のn個のフレーム画像データの動きベクトルをそれぞれ算出し、各動きベクトルに基づいて、(n+1)個のフレーム画像データを合成して、1つの高解像度な静止画像データを生成していた。
しかしながら、上記従来技術においては、特に、被写体または背景が移動しているシーンの画像について、流し撮りのごとく、被写体または背景が流れるように表現された静止画像(以下、流し撮り画像という)のデータを生成することについては、何ら考慮されていなかった。
そこで、本発明の目的は、このような従来技術の状況を鑑み、動画像データや連写画像データなどを構成する時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出すると共に、その画像データに基づいて、流し撮り画像のデータを生成することが可能な画像処理装置及び画像処理方法を提供することにある。
上記した目的の少なくとも一部を達成するために、本発明の第1の画像処理装置は、時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出し、該画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成する画像処理装置であって、
時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する画像選択部と、
選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとして、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する画像抽出部と、
抽出された前記2つの画像データに基づいて、移動有りのブロックに属さない画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、前記基準画像の画素と前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備えることを要旨とする。
時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する画像選択部と、
選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとして、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する画像抽出部と、
抽出された前記2つの画像データに基づいて、移動有りのブロックに属さない画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、前記基準画像の画素と前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備えることを要旨とする。
このように、本発明の第1の画像処理装置では、選択した2つの画像データについて、基準画像の対象画像に対する全体移動量が閾値以上である場合に、その2つの画像データを被写体または背景が移動しているシーンの画像データとして抽出しているので、時系列に連続する複数の画像データの中から、上記シーンの画像データを自動的に抽出することができる。
また、抽出された2つの画像データに基づいて、移動有りのブロックに属さない画素については、基準画像の画素で流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、基準画像の画素と対象画像の画素とを合成して、その合成により得られた画素で、流し撮り画像の画素を構成することより、流し撮り画像のデータを生成しているようにしているので、抽出されたそれら画像データを用いて、流し撮り画像のデータを容易に生成することができる。さらに、流し撮り画像としては、移動していない部分に対して、移動している部分が流れるように表現された流し撮り画像を生成することができる。
なお、本明細書において、「時系列に連続する複数の画像データ」及び「連続する2つの画像データ」としては、時間的に見て、連続するそれら画像データの間に、別の画像データが存在する場合を排除するものではない。
本発明の第2の画像処理装置は、時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出し、該画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成する画像処理装置であって、
時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する画像選択部と、
選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する画像抽出部と、
抽出された前記2つの画像データに基づいて、移動有りのブロックに属する画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、前記対象画像を前記全体移動量に応じた量だけ移動し、前記基準画像の画素と移動した前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備えることを要旨とする。
時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する画像選択部と、
選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する画像抽出部と、
抽出された前記2つの画像データに基づいて、移動有りのブロックに属する画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、前記対象画像を前記全体移動量に応じた量だけ移動し、前記基準画像の画素と移動した前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備えることを要旨とする。
このように、本発明の第2の画像処理装置においても、第1の画像処理装置の場合と同様に、時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを自動的に抽出することができる。
また、抽出された2つの画像データに基づいて、移動有りのブロックに属する画素については、基準画像の画素で流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、対象画像を前記全体移動量に応じた量だけ移動し、基準画像の画素と移動した対象画像の画素とを合成して、その合成により得られた画素で、流し撮り画像の画素を構成することより、流し撮り画像のデータを生成しているようにしているので、抽出されたそれら画像データを用いて、流し撮り画像のデータを容易に生成することができる。さらに、流し撮り画像としては、第1の画像処理装置の場合とは反対に、移動している部分に対して、移動していない部分が流れるように表現された流し撮り画像を生成することができる。
本発明の画像処理装置において、前記移動検出部は、検出した前記移動量のうち、移動有りのブロックについての前記移動量に基づいて、前記全体移動量を検出するようにしてもよい。
こうすることにより、全体移動量として、画像における移動している部分の移動量を多く反映した量を検出することができる。
本発明の第3の画像処理装置は、時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出する画像処理装置であって、
時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する画像選択部と、
選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する画像抽出部と、
を備えることを要旨とする。
時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する画像選択部と、
選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する画像抽出部と、
を備えることを要旨とする。
このように、本発明の第3の画像処理装置においても、第1及び第2の画像処理装置の場合と同様に、時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを自動的に抽出することができる。
本発明の画像処理装置において、前記画像抽出部は、前記2つの画像データの選択が前記複数の画像データ全てについてなされても、検出した各全体移動量の何れもが前記閾値に満たない場合には、順次選択された前記2つの画像データの組み合わせのうち、検出した前記全体移動量が最大となった2つの画像データの組み合わせを、前記シーンの画像データとして抽出することが好ましい。
こうすることにより、検出した各全体移動量の何れもが閾値に満たない場合でも、被写体または背景が移動しているシーンの画像データを自動的に抽出することができる。
本発明の第4の画像処理装置は、時系列に連続する2つの画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成する画像処理装置であって、
連続する前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定する移動検出部と、
前記2つの画像データに基づいて、移動有りのブロックに属さない画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、前記基準画像の画素と前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備えることを要旨とする。
連続する前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定する移動検出部と、
前記2つの画像データに基づいて、移動有りのブロックに属さない画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、前記基準画像の画素と前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備えることを要旨とする。
このように、本発明の第4の画像処理装置では、連続する2つの画像データに基づいて、移動有りのブロックに属さない画素については、基準画像の画素で流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、基準画像の画素と対象画像の画素とを合成して、その合成により得られた画素で、流し撮り画像の画素を構成することより、流し撮り画像のデータを生成しているようにしているので、それら2つの画像データから、流し撮り画像のデータを容易に生成することができる。さらに、流し撮り画像としては、移動していない部分に対して、移動している部分が流れるように表現された流し撮り画像を生成することができる。
本発明の第5の画像処理装置は、時系列に連続する2つの画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成する画像処理装置であって、
連続する前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
前記2つの画像データに基づいて、移動有りのブロックに属する画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、前記対象画像を前記全体移動量に応じた量だけ移動し、前記基準画像の画素と移動した前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備えることを要旨とする。
連続する前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
前記2つの画像データに基づいて、移動有りのブロックに属する画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、前記対象画像を前記全体移動量に応じた量だけ移動し、前記基準画像の画素と移動した前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備えることを要旨とする。
このように、本発明の第5の画像処理装置では、連続する2つの画像データに基づいて、移動有りのブロックに属する画素については、基準画像の画素で流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、対象画像を前記全体移動量に応じた量だけ移動し、基準画像の画素と移動した対象画像の画素とを合成して、その合成により得られた画素で、流し撮り画像の画素を構成することより、流し撮り画像のデータを生成しているようにしているので、それら2つの画像データから、流し撮り画像のデータを容易に生成することができる。さらに、流し撮り画像としては、第4の画像処理装置の場合とは反対に、移動している部分に対して、移動していない部分が流れるように表現された流し撮り画像を生成することができる。
なお、本発明は、上記した画像処理装置などの装置発明の態様に限ることなく、画像処理方法などの方法発明としての態様で実現することも可能である。さらには、それら方法や装置を構築するためのコンピュータプログラムとしての態様や、そのようなコンピュータプログラムを記録した記録媒体としての態様や、上記コンピュータプログラムを含み搬送波内に具現化されたデータ信号など、種々の態様で実現することも可能である。
また、本発明をコンピュータプログラムまたはそのプログラムを記録した記録媒体等として構成する場合には、上記装置の動作を制御するプログラム全体として構成するものとしてもよいし、本発明の機能を果たす部分のみを構成するものとしてもよい。
以下、本発明の実施の形態を実施例に基づいて以下の順序で説明する。
A.装置の構成:
B.処理の内容:
B−1.画像選択・移動検出処理:
B−2.流し撮り画像生成処理:
B−2−1.種類1についての流し撮り画像生成処理:
B−2−2.種類2についての流し撮り画像生成処理:
C.実施例の効果:
D.変形例:
A.装置の構成:
B.処理の内容:
B−1.画像選択・移動検出処理:
B−2.流し撮り画像生成処理:
B−2−1.種類1についての流し撮り画像生成処理:
B−2−2.種類2についての流し撮り画像生成処理:
C.実施例の効果:
D.変形例:
A.装置の構成:
図1は本発明の一実施例としての画像処理装置を示すブロック図である。図1に示す画像処理装置100は、パーソナルコンピュータで構成されており、コンピュータ本体102と、そのコンピュータ本体102に接続される入力装置であるキーボード110,ポインティングデバイス112と、同じくコンピュータ本体102に接続される出力装置であるモニタ114と、同じくコンピュータ本体102に接続される印刷装置であるプリンタ116と、を備えている。
図1は本発明の一実施例としての画像処理装置を示すブロック図である。図1に示す画像処理装置100は、パーソナルコンピュータで構成されており、コンピュータ本体102と、そのコンピュータ本体102に接続される入力装置であるキーボード110,ポインティングデバイス112と、同じくコンピュータ本体102に接続される出力装置であるモニタ114と、同じくコンピュータ本体102に接続される印刷装置であるプリンタ116と、を備えている。
このうち、コンピュータ本体102は、プログラムに従って種々の処理や制御を行なうためのCPU104と、プログラムを記憶したり、処理中に得られたデータなどを記憶したりするためのメモリ106と、各種プログラムや各種データを格納するためのハードディスク装置108と、各構成要素との間でデータや信号の受け渡しを行うI/O回路部118と、USBケーブルを介してプリンタ116との間でデータのやり取りを行うUSBインターフェイス(I/F)回路部120と、ネットワーク200上にあるサーバなどとの間でデータのやり取りを行うネットワークI/F回路部122と、を備えており、各部は互いにバスを介して接続されている。
なお、コンピュータ本体102は、この他、CD−ROMドライブ装置やPCカードI/F回路部などを備えていてもよい。また、I/F回路部120,122とともに、あるいは、I/F回路部120,122に代えて、IEEE1394I/F回路部や、BluetoothI/F回路部や、SCSII/F回路部や、パラレルI/F回路部や、シリアルI/F回路部や、IEEE802.11I/F回路部などを備えるようにしてもよい。
また、CPU104は、メモリ106に格納されているプログラムのうち、画像処理プログラムを実行することより、後述するような画像選択部142,ブロック分割部143,移動検出部144,画像抽出部145,流し撮り画像生成部146,ユーザインターフェイス部148として機能する。なお、上記画像処理プログラムは、アプリケーションプログラムで構成されるが、その一部をオペレーティングシステムプログラムによって構成するようにしてもよい。
また、本実施例において、画像選択部142は請求項における画像選択部に、ブロック分割部143は請求項におけるブロック分割部に、移動検出部144は請求項における移動検出部に、画像抽出部145は請求項における画像選択部に、流し撮り画像生成部146は請求項における流し撮り画像生成部に、それぞれ相当する。
本実施例では、上記した画像処理プログラムは、CD−ROMに記録された形態で提供され、CD−ROMドライブ装置(図示せず)により読み取られることによって、コンピュータ本体102内に取り込まれる。取り込まれたプログラムは、ハードディスク装置108に転送され、その後、起動時などにメモリ106に転送される。このように、本実施例では、プログラムをコンピュータ読み取り可能に記録する「記録媒体」としてCD−ROMを利用することを述べたが、その他にも、フレキシブルディスク、光磁気ディスク、DVD、メモリカード、ICカード、ROMカートリッジ、パンチカード、バーコードなどの符号が印刷された印刷物、コンピュータの内部記憶装置(RAMやROMなどのメモリ)および外部記憶装置等の、コンピュータが読取り可能な種々の媒体を利用できる。また、上記画像処理プログラムは、このような記録媒体に記録された形態で提供される他、ネットワーク200を介して、プログラムを供給するプログラムサーバ(図示せず)からコンピュータ本体102内に取り込むようにしてもよい。
一方、ハードディスク装置108には、動画像データや、連写画像データや、それらデータから生成される静止画像データなど、各種画像データを格納する画像データベース部132が構築されている。
B.処理の内容:
それでは、図1に示す画像処理装置100における処理の内容について説明する。本実施例の画像処理装置100は、例えば、動画像の再生中に、ユーザが所望のシーンを指定すると、そのシーンの近傍から最適な2枚のフレーム画像を抽出し、その抽出したフレーム画像を用いて、流し撮り画像を生成するものである。
それでは、図1に示す画像処理装置100における処理の内容について説明する。本実施例の画像処理装置100は、例えば、動画像の再生中に、ユーザが所望のシーンを指定すると、そのシーンの近傍から最適な2枚のフレーム画像を抽出し、その抽出したフレーム画像を用いて、流し撮り画像を生成するものである。
まず、CPU104によって、上記した画像処理プログラムが実行されると、ユーザインターフェイス部148は、モニタ114にデータ選択ウインドウ(図示せず)を表示させる。そこで、ユーザが、ポインティングデバイス112を操作して、例えば、画像データベース部132に格納されている画像データの中から、例えば、所望の動画像データを選択すると、ユーザインターフェイス部148は、その動画像データを読み出して、メモリ106に書き込む。
次に、ユーザインターフェイス部148は、モニタ114に、データ選択ウインドウに代えて、画像表示ウインドウ(図示せず)を表示させる。そして、ユーザが、ポインティングデバイス112を操作して、画像表示ウインドウ内に配置されている再生ボタンを押すと、ユーザインターフェイス部148は、メモリ106に書き込んだ動画像データを再生し、画像表示ウインドウ内に表示させる。画像表示ウインドウ内には、再生ボタンの他、停止ボタン、早送りボタン、巻き戻しボタン、コマ送りボタン、及びコマ戻しボタンが配置されており、ユーザがポインティングデバイス112を操作して、それらボタンを適宜押すと、ユーザインターフェイス部148は、その押されたボタンに対応した表示動作を行う。
そこで、例えば、動画像データを再生している際に、ユーザが、ポインティングデバイス112を操作して、所望のシーンを指定しようとして、画像表示ウインドウ内に別に配置されているシーン指定ボタンを押すと、ユーザインターフェイス部148は、そのタイミングで、画像表示ウインドウ内にその時点で表示されている画像について、動画像データ内における、その表示画像に対応するフレーム画像データの位置を取得して、メモリ106に書き込む。フレーム画像データの位置は、フレーム番号sとして取得される。
なお、指定するシーンとしては、[A]被写体が移動しており、カメラをほぼ固定して、その被写体を撮影しているシーンや、[B]被写体が移動しており、その被写体の移動に合わせてカメラを移動して、その被写体を撮影しているシーンなどが推奨される。
また、表示画像に対応するフレーム画像データのフレーム番号は、ユーザインターフェイス部148が、カウンタでカウントすることにより、常に把握されている。
次に、ユーザインターフェイス部148は、設定ウインドウ(図示せず)を一時的に表示させ、ユーザに、後述の移動検出の際に用いる移動量閾値Rthと、生成すべき流し撮り画像の種類と、を設定させる。このうち、流し撮り画像の種類は、2種類あり、[種類1]移動していない部分に対して、移動している部分が流れるように表現された画像と、[種類2]移動している部分に対して、移動していない部分が流れるように表現された画像と、がある。
ユーザが、キーボード110やポインティングデバイス112を操作して、設定ウインドウ内において、移動量閾値Rthと流し撮り画像の種類を設定すると、ユーザインターフェイス部148は、その設定結果をメモリ106に書き込み、設定ウインドウを閉じる。
その後、ユーザが、ポインティングデバイス112を操作して、流し撮り画像を生成しようとして、画像表示ウインドウ内に別に配置されている実行ボタンを押すと、図2に示す画像選択・移動検出処理が開始され、その後、画像選択・移動検出処理が終了すると、後述の流し撮り画像生成処理が開始される。
B−1.画像選択・移動検出処理:
図2は本実施例における画像選択・移動検出処理の処理手順を示すフローチャートである。図2に示す画像選択・移動検出処理が開始されると、まず、CPU104によって機能される画像選択部142が、動画像データの中から、フレーム番号Iのフレーム画像F(I)のデータと、そのデータよりも時間的に1つ後のデータである、フレーム番号I+1のフレーム画像F(I+1)のデータと、をそれぞれ選択して抽出し、メモリ106に書き込む(ステップS102)。
図2は本実施例における画像選択・移動検出処理の処理手順を示すフローチャートである。図2に示す画像選択・移動検出処理が開始されると、まず、CPU104によって機能される画像選択部142が、動画像データの中から、フレーム番号Iのフレーム画像F(I)のデータと、そのデータよりも時間的に1つ後のデータである、フレーム番号I+1のフレーム画像F(I+1)のデータと、をそれぞれ選択して抽出し、メモリ106に書き込む(ステップS102)。
初期状態では、画像選択部142は、ユーザからの指定により先に取得したフレーム番号sを、メモリ106から読み出し、そのフレーム番号sを、画像選択に用いるフレーム番号Iの初期値とする。従って、画像選択部142は、フレーム番号sのフレーム画像F(s)のデータと、フレーム番号s+1のフレーム画像F(s+1)のデータと、を選択して、メモリ106に書き込むことになる。
なお、以降は、これら2つのフレーム画像F(I),F(I+1)のデータに対する一連の処理が完了する毎に、ステップS116において、画像選択部142が、フレーム番号Iの値を更新して、順次、フレーム画像のデータを選択することになる。
図3は動画像データから2つのフレーム画像データを選択する選択方法を説明するための説明図である。図3において、横軸は時間軸である。図3では、動画像を構成する複数のフレーム画像が、その時間軸に沿って並んでいる様子を模式的に示している。各フレーム画像の下に記載されている番号は、フレーム番号であり、上に記載されている番号は、フレーム画像データの選択順序を示している。
上述したとおり、ユーザからの指定によって取得したフレーム番号はsであり、本実施例では、このフレーム番号sのフレーム画像を中心として、時間軸に対して左右交互に2つのフレーム画像データを順次選択し、最大で、選択可能範囲内にある2e組のフレーム画像データを選択するようにしている。なお、eは、選択可能範囲を表す予め定めされた値である。
具体的には、画像選択部142は、フレーム番号Iを、sを初期値として、ステップS116において以下の順序で更新する。
I:s,s−1,s+1,s−2,s+2,......,s−e+2,s+e−2,s−e+1,s+e−1,s−e
このようにフレーム番号Iの値を更新することにより、図3に示すごとく、以下の選択順序で、2つのフレーム画像のデータが選択される。
このようにフレーム番号Iの値を更新することにより、図3に示すごとく、以下の選択順序で、2つのフレーム画像のデータが選択される。
1番目:I=s ;フレーム画像F(s),F(s+1)
2番目:I=s−1;フレーム画像F(s−1),F(s)
3番目:I=s+1;フレーム画像F(s+1),F(s+2)
4番目:I=s−2;フレーム画像F(s−2),F(s−1)
(省略)
2e−2番目:I=s−e+1;フレーム画像F(s−e+1),F(s−e+2)
2e−1番目:I=s+e−1;フレーム画像F(s+e−1),F(s+e)
2e 番目:I=s−e ;フレーム画像F(s−e),F(s−e+1)
そして、最終的に、フレーム番号Iがs+eとなって、選択可能範囲のフレーム画像データについて、全ての選択が完了したら(ステップS114)、画像抽出部145は、図2に示す画像選択・移動検出処理を終了する。
2番目:I=s−1;フレーム画像F(s−1),F(s)
3番目:I=s+1;フレーム画像F(s+1),F(s+2)
4番目:I=s−2;フレーム画像F(s−2),F(s−1)
(省略)
2e−2番目:I=s−e+1;フレーム画像F(s−e+1),F(s−e+2)
2e−1番目:I=s+e−1;フレーム画像F(s+e−1),F(s+e)
2e 番目:I=s−e ;フレーム画像F(s−e),F(s−e+1)
そして、最終的に、フレーム番号Iがs+eとなって、選択可能範囲のフレーム画像データについて、全ての選択が完了したら(ステップS114)、画像抽出部145は、図2に示す画像選択・移動検出処理を終了する。
さて、今、前述のステップS102において、画像選択部142が選択した2つのフレーム画像F(I),F(I+1)は、図4に示すごとくであるものとする。
図4は選択した2つのフレーム画像の一例を示す説明図である。図4において、(a)はフレーム画像F(I)を示し、(b)はフレーム画像F(I+1)を示す。
図4(b)に示すフレーム画像F(I+1)は、図4(a)に示すフレーム画像(F)よりも時間的に1つ後であるので、これらフレーム画像によって構成される動画像では、背景はそのままで、被写体である電車が右から左に向かって移動していることになる。
なお、ここで、以下、選択した2つのフレーム画像のうち、フレーム画像F(I)を基準フレーム画像と呼び、フレーム画像F(I+1)を対象フレーム画像と呼ぶことにする。
以上のような2つのフレーム画像データの選択を終えたら、次に、ブロック分割部143が、選択した2つのフレーム画像のうち、基準フレーム画像F(I)を、M×N個の矩形のブロックに分割する(ステップS104)。なお、本実施例では、M=N=8としている。
図5は図4(a)に示す基準フレーム画像F(I)を8×8個のブロックに分割した様子を示す説明図である。図5に示すように、全て同じ大きさの矩形のブロックに分割する。
続いて、移動検出部144は、分割した各ブロックについて、基準フレーム画像F(I)の対象フレーム画像F(I+1)に対する移動の有無を判定すると共に、移動有りと判定された全てのブロックについての平均移動量Ravなどを検出する(ステップS106)。
図6は図2のステップS106におけるブロック移動検出処理の処理ルーチンを詳細に示したフローチャートである。
図6に示す処理ルーチンが開始されると、移動検出部144は、基準フレーム画像F(I)において、分割した8×8個のブロックの中から、1つのブロックB(m,n)を選択する(ステップS202)。ここで、フレーム画像の水平方向をx方向、垂直方向をy方向とすると共に、フレーム画像の左上を原点として、原点から数えてx方向にm番目、y方向にn番目のブロックをB(m,n)と表すことにする。
本実施例では、(m,n)=(1,1)を初期値とし、移動検出部144は、まず、基準フレーム画像F(I)の左上に位置にするブロックB(1,1)を選択する。
なお、以降は、ブロック(m,n)に対する一連の処理が完了する毎に、ステップS214において、移動検出部144が、m,nの値を更新して、順次、ブロックを選択することになる。本実施例では、例えば、(m,n)を、まず、(1,1)から(8,1)までmの値を1ずつ増加させて更新し、次に、nの値を1つ増加させた後、(1,2)から(8,2)までmの値を1ずつ増加させて更新し、以下同様の処理を繰り返して、最終的に(8,8)になるまで更新する。
こうして、1つのブロックB(m,n)を選択したら、次に、移動検出部144は、その選択したブロックB(m,n)が、対象フレーム画像F(I+1)において、x,y方向に、それぞれ、どれだけの量、移動したかを検出する(ステップS204)。
図7は基準フレーム画像F(I)において選択されたブロックとそのブロックが対象フレーム画像F(I+1)においてどれだけの量、移動したかを説明するための説明図である。
今、基準フレーム画像F(I)において選択されたブロックB(m,n)が図7(a)に示すごとくであるとする。そこで、この基準フレーム画像F(I)におけるブロックB(m,n)の位置を、そのまま、図7(b)に示す対象フレーム画像F(I+1)に写し出すと、P1の位置となる。しかしながら、例えば、動画像において被写体が移動したことにより、基準フレーム画像F(I)では、P1の位置にあったブロックB(m,n)の部分の画像が、その後、対象フレーム画像F(I+1)では、P2の位置に移動したものとすると、図7(b)に示すように、ブロックB(m,n)の部分の画像は、対象フレーム画像F(I+1)において、P1の位置から、x方向にΔx、y方向にΔy、移動していることになる。
従って、移動検出部144は、ブロックB(m,n)について、基準フレーム画像F(I)の対象フレーム画像F(I+1)に対するx,y方向の移動量として、Δx,Δyを検出する。
それでは、この移動量Δx,Δyの具体的な検出方法について説明する。図8は移動量Δx,Δyの検出方法を説明するための説明図である。
今、対象フレーム画像F(I+1)において、図8に示すように、P1の位置からx方向にdx、y方向にdy移動した位置に、仮想ブロックIBを想定する。ここで、基準フレーム画像F(I)のブロックB(m,n)内において、任意の画素Pの位置を(x,y)とし、その画素値をQI(x,y)とすると、対象フレーム画像F(I+1)の仮想ブロックIB内において、上記画素Pに対応する画素P'の位置は、(x+dx,y+dy)となり、その画素値はQI+1(x+dx,y+dy)となる。
そこで、対象フレーム画像F(I+1)の仮想ブロックIB内における画素P'の画素値と、基準フレーム画像F(I)のブロックB(m,n)内における、上記画素P'に対応する画素Pの画素値と、の差分を、ブロック内の全画素について算出し、それらの和を画素差分値DIF(dx,dy)として、式(1)に示すように求める。
DIF(dx,dy)
=Σ(|QI+1(x+dx,y+dy)−QI(x,y)|) (1)
DIF(dx,dy)
=Σ(|QI+1(x+dx,y+dy)−QI(x,y)|) (1)
そして、dx,dyの値を、式(2)の範囲内で、順次変化させて、同様にして、画素差分値DIF(dx,dy)をそれぞれ求める。
−Rth<dx<Rth
−Rth<dy<Rth (2)
なお、Rthは、前述したように、ユーザにより設定された移動量閾値である。
−Rth<dx<Rth
−Rth<dy<Rth (2)
なお、Rthは、前述したように、ユーザにより設定された移動量閾値である。
その後、求めた画素差分値DIF(dx,dy)が最小となるときのdx,dyの値を求め、その値を移動量Δx,Δyとして検出する。
こうして、x方向,y方向の移動量Δx,Δyを検出したら、次に、移動検出部144は、式(3)に基づいて、合成移動量Rを算出する(ステップS206)。
R=(Δx2+Δy2)1/2 (3)
R=(Δx2+Δy2)1/2 (3)
そして、移動検出部144は、ユーザの設定により先に取得した移動量閾値Rthをメモリ106から読み出し、算出した合成移動量Rを、その移動量閾値Rthと比較して、合成移動量Rが移動量閾値Rth以上であるか否かを判定する(ステップS208)。
判定の結果、合成移動量Rが移動量閾値Rthに満たない場合には、移動検出部144は、選択したブロックB(m,n)について移動無しと決定し、何もすることなく、ステップS212の処理に移行する。
一方、判定の結果、合成移動量Rが移動量閾値Rth以上である場合には、移動検出部144は、選択したブロックB(m,n)について移動有りと決定し、ブロックB(m,n)に対応して移動有りマークを設定し、メモリ106に書き込むと共に、ブロックB(m,n)について検出した移動量Δx,Δyの値も、メモリ106に書き込む(ステップS210)。
そして、移動検出部144は、基準フレーム画像F(I)における全てのブロックについて、上記した一連の処理を行ったか否かを判定し(ステップS212)、行っていなければ、m,nの値を上述したごとく更新した上で、次のブロックを選択し、同様の処理を行う。
一方、全てのブロックについて、上記した一連の処理を完了したら、次に、移動検出部144は、移動有りと決定した各ブロックの移動量Δx,Δyに基づいて、基準フレーム画像F(I)の対象フレーム画像F(I+1)に対するx方向,y方向の平均移動量Rxav,Ryav及び平均移動量Ravを算出して、メモリ106に書き込む(ステップS216)。
具体的には、まず、移動検出部144は、ステップS210において書き込んだ移動有りマークの設定情報をメモリ106から読み出す。
図9は移動有りマークの設定情報を模式的に示した説明図である。図9において、○印が移動有りマークである。従って、この○印の付いているブロックが、ステップS208において移動有りとして決定されたブロックである。
次に、移動検出部144は、この移動有りマークの設定情報から、移動有りと決定したたブロックの個数BNを検出する。なお、図9では、○印の数は、16個であるので、BN=16として検出される。
続いて、移動検出部144は、ステップS210において、移動有りと決定したブロックについて書き込んだx方向,y方向の移動量Δx,Δyを、メモリ106からそれぞれ読み出し、それら移動量Δxについての和ΣΔxを求めると共に、移動量Δyについての和ΣΔyを求める。そして、式(4)に示すごとくそれぞれの移動量の和ΣΔx,ΣΔyを、先に求めた個数BNで除して、x方向,y方向の平均移動量Rxav,Ryavを求める。
Rxav=ΣΔx/BN
Ryav=ΣΔy/BN (4)
Rxav=ΣΔx/BN
Ryav=ΣΔy/BN (4)
さらに、移動検出部144は、それらx方向,y方向の平均移動量Rxav,Ryavに基づいて、式(5)により、平均移動量Ravを求める。
Rav=(Rxav2+Ryav2)1/2 (5)
Rav=(Rxav2+Ryav2)1/2 (5)
このようして求められたx方向,y方向の平均移動量Rxav,Ryavや、平均移動量Ravは、基準フレーム画像F(I)の対象フレーム画像F(I+1)に対する画像全体としての全体移動量を表すものといえる。
以上の処理を終了したら、移動検出部144は、図6に示す処理ルーチンから抜けて、図2に示すステップS108の処理に移行する。
ステップS108では、画像抽出部145は、算出した平均移動量Rav及びx方向,y方向の平均移動量Rxav,Ryavをメモリ106からそれぞれ読み出し、そのうちの平均移動量Ravと、後述の平均移動量最大値Ravmaxと、を比較して、平均移動量Ravが、平均移動量最大値Ravmaxを超えているか否かを判定する。
初期状態では、画像抽出部145は、平均移動量最大値Ravmaxの初期値として、0を設定している。また、その他、画像抽出部145は、後述の移動量最大フレーム番号Irmaxの初期値として、フレーム番号sを設定しており、後述のx方向平均移動量最大値Rxavmax,y方向平均移動量最大値Ryavmaxとして、それぞれ、0を設定している。
さて、判定の結果、読み出した平均移動量Ravが平均移動量最大値Ravmaxを超えている場合には、画像抽出部145は、その平均移動量Ravを新たな平均移動量最大値Ravmaxとして設定してメモリ106に書き込むと共に、そのときのフレーム番号Iを新たな移動量最大フレーム番号Irmaxとして設定し、先に読み出したx方向の平均移動量Rxavをx方向平均移動量最大値Rxavmaxとして、y方向の平均移動量Ryavをy方向平均移動量最大値Ryavmaxとして、それぞれ設定してメモリ106に書き込み、さらに、先に求めた移動有りマークの設定情報をメモリ106内の特定領域に上書き保存する(ステップS110)。
こうすることにより、移動量最大フレーム番号Irmaxとしては、その時点において、平均移動量Ravが最大となるフレーム画像のフレーム番号Iが設定されると共に、平均移動量最大値Ravmaxとしては、その最大となる平均移動量Ravが設定されることになり、また、x方向平均移動量最大値Rxavmax,y方向平均移動量最大値Ryavmaxとしては、平均移動量Ravが最大となるx方向,y方向の平均移動量Rxav,Ryavがそれぞれ設定されることになり、特定領域には、そのフレーム画像についての移動有りマークの設定情報が保存されることになる。
次に、画像抽出部145は、先に読み出した平均移動量Ravと、ユーザより設定された移動量閾値Rthと、を比較して、平均移動量Ravが移動量閾値Rth以上であるか否かを判定する(ステップS112)。
判定の結果、平均移動量Ravが移動量閾値Rth以上である場合には、選択可能範囲内のフレーム画像データの全てについて、選択が完了していなくても、画像抽出部145は、図2に示す画像選択・移動検出処理を終了する。
従って、この場合、移動量最大フレーム番号Irmaxは、最終的に、平均移動量Ravが移動量閾値Rth以上になった時点のフレーム画像のフレーム番号となっている。
一方、判定の結果、平均移動量Ravが移動量閾値Rthに満たない場合には、フレーム番号Iがs+eと等しいか否かを判定して(ステップS114)、上述したごとく、選択可能範囲内のフレーム画像データについて、全ての選択が完了したかどうかを検出する。そして、全ての選択が完了していたら、上述したごとく、画像抽出部145は、図2に示す画像選択・移動検出処理を終了する。
従って、この場合、移動量最大フレーム番号Irmaxは、最終的に、選択可能範囲内の全てのフレーム画像の中で、平均移動量Ravが最大となるフレーム画像のフレーム番号となっている。
B−2.流し撮り画像生成処理:
以上のようにして、画像選択・移動検出処理が終了すると、次に、流し撮り画像生成処理が開始される。この流し撮り画像生成処理では、移動量最大フレーム番号Irmaxに基づいて抽出される基準フレーム画像と対象フレーム画像とを用いて、流し撮り画像を生成する。なお、ここで、流し撮り画像をFcとし、その流し撮り画像Fcにおける任意の画素をPc(x,y)とし、その画素値をQc(x,y)とするものとする。
以上のようにして、画像選択・移動検出処理が終了すると、次に、流し撮り画像生成処理が開始される。この流し撮り画像生成処理では、移動量最大フレーム番号Irmaxに基づいて抽出される基準フレーム画像と対象フレーム画像とを用いて、流し撮り画像を生成する。なお、ここで、流し撮り画像をFcとし、その流し撮り画像Fcにおける任意の画素をPc(x,y)とし、その画素値をQc(x,y)とするものとする。
流し撮り画像生成部146は、まず、ユーザによって先に設定された流し撮り画像Fcの種類を、メモリ106から読み出し、設定された種類が、「種類1」、すなわち、移動していない部分に対して、移動している部分が流れるように表現された画像である場合には、図10に示す種類1についての流し撮り画像生成処理を実行し、設定された種類が、「種類2」、すなわち、移動している部分に対して、移動していない部分が流れるように表現された画像である場合には、図11に示す種類2についての流し撮り画像生成処理を実行する。
B−2−1.種類1についての流し撮り画像生成処理:
図10は本実施例における種類1についての流し撮り画像生成処理の処理手順を示すフローチャートである。
図10は本実施例における種類1についての流し撮り画像生成処理の処理手順を示すフローチャートである。
図10に示す処理が開始されると、流し撮り画像生成部146は、まず、メモリ106から移動量最大フレーム番号Irmaxと、メモリ106の特定領域から移動有りマークの設定情報と、をそれぞれ読み出す(ステップS302)。読み出した移動量最大フレーム番号Irmaxが、今、フレーム番号Imであるとすると、次に、画像抽出部145は、動画像データの中から、フレーム番号Imの基準フレーム画像F(Im)のデータと、そのデータよりも時間的に1つ後のデータである、フレーム番号Im+1の対象フレーム画像F(Im+1)のデータと、をそれぞれ抽出する(ステップS304)。
ここで、前述したとおり、移動量最大フレーム番号Irmaxは、最終的に、平均移動量Ravが移動量閾値Rth以上になった時点のフレーム画像のフレーム番号か、または、選択可能範囲内の全てのフレーム画像の中で、平均移動量Ravが最大となるフレーム画像のフレーム番号となっているため、こうして、その移動量最大フレーム番号Irmax(すなわち、フレーム番号Im)に基づいて動画像データの中から基準フレーム画像F(Im)のデータと、対象フレーム画像F(Im+1)のデータを抽出することにより、それら画像データとして、被写体または背景が移動しているシーンの画像データを抽出することができる。
続いて、流し撮り画像生成部146は、基準フレーム画像F(Im)の中から、1つの画素P(x,y)を選択する(ステップS306)。本実施例では、(x,y)=(1,1)を初期値として、流し撮り画像生成部146は、まず、基準フレーム画像F(Im)の左上に位置にする画素P(1,1)を選択する。
なお、以降は、画素P(x,y)に対する一連の処理が完了する毎に、ステップS316において、流し撮り画像生成部146が、x,yの値を更新して、順次、画素を選択することになる。本実施例では、例えば、(x,y)を、まず、(1,1)からxの値を1ずつ増加させて更新し、水平方向に画素を1つずつ選択し、次に、yの値を1つ増加させて、垂直方向に1画素分移動させた後、(1,2)からxの値を1ずつ増加させて更新し、水平方向に画素を1つずつ選択し、以下同様の処理を繰り返して、最終的に基準フレーム画像F(Im)の右下に位置にする画素になるまで更新する。
なお、x,yの初期値及び更新手順については、後述の図11における処理おいても同様である。
こうして、1つの画素P(x,y)を選択したら、次に、流し撮り画像生成部146は、先に読み出した移動有りマークの設定情報を参照して、その選択した画素P(x,y)が、移動有りマークの付されたブロックに属するか否かを判定する(ステップS308)。
判定の結果、選択した画素P(x,y)が、移動有りマークの付されたブロックBに属していない場合には、式(6)に示すごとく、流し撮り画像Fcにおける画素Pc(x,y)の画素値Qc(x,y)として、基準フレーム画像F(Im)における画素P(x,y)の画素値QIm(x,y)を設定し、流し撮り画像Fcのデータとしてメモリ106に書き込む(ステップS312)。
Qc(x,y)←QIm(x,y) (6)
Qc(x,y)←QIm(x,y) (6)
一方、判定の結果、選択した画素P(x,y)が、移動有りマークの付されたブロックBに属している場合には、式(7)に示すごとく、流し撮り画像Fcにおける画素Pc(x,y)の画素値Qc(x,y)として、基準フレーム画像F(Im)における画素P(x,y)の画素値QIm(x,y)と対象フレーム画像F(Im+1)における画素P'(x,y)の画素値QIm+1(x,y)との平均値を設定し、流し撮り画像Fcのデータとしてメモリ106に書き込む(ステップS310)。
Qc(x,y)←(QIm(x,y)+QIm+1(x,y))/2 (7)
Qc(x,y)←(QIm(x,y)+QIm+1(x,y))/2 (7)
例えば、今、ステップS304において抽出された基準フレーム画像F(Im)が図4(a)に示すごとくであり、対象フレーム画像F(Im+1)が図4(b)に示すごとくであり、ステップS302で読み出された移動有りマークの設定情報が図9に示すごとくであるものすると、基準フレーム画像F(Im)における移動有りマークの付されたブロックは、図12に示すごとくになる。
図12は基準フレーム画像F(Im)における移動有りマークの付されたブロックを示す説明図である。従って、図12において、点線の○印の付いていないブロック内の画素については、式(6)に従って、基準フレーム画像F(Im)における画素P(x,y)が、そのまま、流し撮り画像Fcにおける画素Pc(x,y)を構成し、点線の○印の付いているブロック内の画素については、式(7)に従って、基準フレーム画像F(Im)における画素P(x,y)と対象フレーム画像F(Im+1)における画素P'(x,y)とを合成して、その合成により得られた画素が流し撮り画像Fcにおける画素Pc(x,y)を構成することになる。
そして、流し撮り画像生成部146は、基準フレーム画像F(Im)における全ての画素について、上記した一連の処理を行ったか否かを判定し(ステップS314)、行っていなければ、x,yの値を上述したごとく更新した上で、次の画素を選択し、同様の処理を行う。一方、全てのブロックについて、上記した一連の処理を完了したら、流し撮り画像生成部146は、図10に示す処理を終了する。
こうして、流し撮り画像生成処理が終了すると、メモリ106には、生成された流し撮り画像Fcのデータが格納されることになる。
次に、ユーザインターフェイス部148は、モニタ114に、流し撮り画像表示ウインドウ(図示せず)をさらに表示させ、メモリ106から、生成した流し撮り画像Fcのデータを読み出し、そのデータに基づいて、流し撮り画像Fcを流し撮り画像表示ウインドウ内に表示させる。
従って、その流し撮り画像表示ウインドウには、図13に示すような流し撮り画像Fcが表示されることになる。
図13は種類1の流し撮り画像を示す説明図である。すなわち、図12と比較すれば明らかなように、図13に示す流し撮り画像Fcは、移動有りマークの付されていないブロックの部分については、基準フレーム画像F(Im)がそのまま表示され、移動有りマークの付されているブロックの部分については、画像が流れるように表示されることになる。従って、図10に示す処理を実行することにより、「種類1」の流し撮り画像、すなわち、移動していない部分に対して、移動している部分が流れるように表現された流し撮り画像を得ることができる。
また、こうして流し撮り画像Fcが表示されている際に、ユーザが、ポインティングデバイス112を操作して、例えば、流し撮り画像表示ウインドウ内に配置されている保存ボタンを押すと、ユーザインターフェイス部148は、生成した流し撮り画像Fcのデータをメモリ106から読み出して、ハードディスク装置108における画像データベース部132に書き込んで保存する。また、代わりに、流し撮り画像表示ウインドウ内に配置されている印刷ボタンを押すと、ユーザインターフェイス部148は、流し撮り画像Fcのデータをメモリ106から読み出して、USBI/F回路部120を介してプリンタ116に伝送し、プリンタ116は、そのデータに基づいて、流し撮り画像Fcを印刷する。
従って、このようにして、生成した流し撮り画像Fcを保存したり、印刷したりすることも可能である。
B−2−2.種類2についての流し撮り画像生成処理:
さて、一方、ユーザによって先に設定された流し撮り画像Fcの種類が、「種類2」、すなわち、移動している部分に対して、移動していない部分が流れるように表現された画像である場合には、流し撮り画像生成部146は、図11に示す種類2についての流し撮り画像生成処理を実行する。
さて、一方、ユーザによって先に設定された流し撮り画像Fcの種類が、「種類2」、すなわち、移動している部分に対して、移動していない部分が流れるように表現された画像である場合には、流し撮り画像生成部146は、図11に示す種類2についての流し撮り画像生成処理を実行する。
図11は本実施例における種類2についての流し撮り画像生成処理の処理手順を示すフローチャートである。
図11に示す処理が開始されると、流し撮り画像生成部146は、まず、メモリ106から移動量最大フレーム番号Irmaxと、x方向平均移動量最大値Rxavmax,y方向平均移動量最大値Ryavmaxと、メモリ106の特定領域から移動有りマークの設定情報と、をそれぞれ読み出す(ステップS402)。読み出した移動量最大フレーム番号Irmaxが、今、フレーム番号Imであるとし、x方向平均移動量最大値Rxavmaxが、移動量Rxmとし、y方向平均移動量最大値Ryavmaxが、移動量Rymとする。
すると、画像抽出部145は、まず、動画像データの中から、被写体または背景が移動しているシーンの画像データとして、フレーム番号Imの基準フレーム画像F(Im)のデータと、フレーム番号Im+1の対象フレーム画像F(Im+1)のデータと、をそれぞれ抽出する(ステップS404)。
次に、流し撮り画像生成部146は、基準フレーム画像F(Im)の中から、1つの画素P(x,y)を選択する(ステップS406)。続いて、流し撮り画像生成部146は、先に読み出した移動有りマークの設定情報を参照して、その選択した画素P(x,y)が、移動有りマークの付されたブロックに属するか否かを判定する(ステップS408)。
判定の結果、選択した画素P(x,y)が、移動有りマークの付されたブロックBに属している場合には、図10における処理とは反対に、式(8)に示すごとく、流し撮り画像Fcにおける画素Pc(x,y)の画素値Qc(x,y)として、基準フレーム画像F(Im)における画素P(x,y)の画素値QIm(x,y)を設定し、流し撮り画像Fcのデータとしてメモリ106に書き込む(ステップS410)。
Qc(x,y)←QIm(x,y) (8)
Qc(x,y)←QIm(x,y) (8)
一方、判定の結果、選択した画素P(x,y)が、移動有りマークの付されたブロックBに属していない場合には、先にx方向,y方向平均移動量最大値Rxavmax,Ryavmaxとして読み出した移動量Rxm,Rymに基づいて、式(9)に示すごとく、流し撮り画像Fcにおける画素Pc(x,y)の画素値Qc(x,y)として、基準フレーム画像F(Im)における画素P(x,y)の画素値QIm(x,y)と、対象フレーム画像F(Im+1)における画素P'(x−Rxm,y−Rym)の画素値QIm+1(x−Rxm,y−Rym)と、の平均値を設定し、流し撮り画像Fcのデータとしてメモリ106に書き込む(ステップS412)。
Qc(x,y)←(QIm(x,y)+QIm+1(x−Rxm,y−Rym))/2 (9)
Qc(x,y)←(QIm(x,y)+QIm+1(x−Rxm,y−Rym))/2 (9)
例えば、今、ステップS404において抽出された基準フレーム画像F(Im)が図4(a)に示すごとくであり、対象フレーム画像F(Im+1)が図4(b)に示すごとくであり、ステップS402で読み出された移動有りマークの設定情報が図9に示すごとくであるものすると、基準フレーム画像F(Im)における移動有りマークの付されたブロックは、前述したとおり、図12に示すごとくになる。
従って、図12において、点線の○印の付いているブロック内の画素については、式(8)に従って、基準フレーム画像F(Im)における画素P(x,y)が、そのまま、流し撮り画像Fcにおける画素Pc(x,y)を構成し、点線の○印の付いていないブロック内の画素については、式(9)に従って、対象フレーム画像F(Im+1)をx方向に−Rxm、y方向に−Rymだけ移動し、基準フレーム画像F(Im)における画素P(x,y)と、その移動した対象フレーム画像F(Im+1)における画素P'(x−Rxm,y−Rym)と、を合成して、その合成により得られた画素が流し撮り画像Fcにおける画素Pc(x,y)を構成することになる。
そして、流し撮り画像生成部146は、基準フレーム画像F(Im)における全ての画素について、上記した一連の処理を行ったか否かを判定し(ステップS414)、行っていなければ、x,yの値を更新した上で、次の画素を選択し、同様の処理を行う。一方、全てのブロックについて、上記した一連の処理を完了したら、流し撮り画像生成部146は、図11に示す処理を終了する。
このようにして流し撮り画像生成処理が終了すると、ユーザインターフェイス部148は、モニタ114に、流し撮り画像表示ウインドウを表示させ、メモリ106から、生成した流し撮り画像Fcのデータを読み出し、そのデータに基づいて、流し撮り画像Fcを流し撮り画像表示ウインドウ内に表示させる。
従って、その流し撮り画像表示ウインドウには、図14に示すような流し撮り画像Fcが表示されることになる。
図14は種類2の流し撮り画像を示す説明図である。すなわち、図12と比較すれば明らかなように、図14に示す流し撮り画像Fcは、図13に示した流し撮り画像Fcとは反対に、移動有りマークの付されているブロックの部分については、基準フレーム画像F(Im)がそのまま表示され、移動有りマークの付されていないブロックの部分については、画像が流れるように表示されることになる。従って、図11に示す処理を実行することにより、「種類2」の流し撮り画像、すなわち、移動有りと検出された部分に対して、移動している部分に対して、移動していない部分が流れるように表現された流し撮り画像を得ることができる。
なお、このような「種類2」の流し撮り画像Fcについても、「種類1」の流し撮り画像Fcと同様にして、保存や印刷を行うことができる。
C.実施例の効果:
以上説明したように、本実施例によれば、動画像データの中から、被写体または背景が移動しているシーンの画像データを自動的に抽出することができると共に、それら画像データを用いて、流し撮り画像のデータを容易に生成することができる。
以上説明したように、本実施例によれば、動画像データの中から、被写体または背景が移動しているシーンの画像データを自動的に抽出することができると共に、それら画像データを用いて、流し撮り画像のデータを容易に生成することができる。
また、ユーザが設定した種類に応じて、移動していない部分に対して、移動している部分が流れるように表現された流し撮り画像や、移動している部分に対して、移動していない部分が流れるように表現された流し撮り画像を得ることができる。
さらに、ユーザが設定した移動量閾値Rthに応じて、移動有りとして検出される移動量の範囲などを変えることができるため、移動量の比較的大きいシーンの画像データや移動量の比較的小さいシーンの画像データを選択的に抽出することができる。例えば、移動量閾値Rthを比較的大きい値に設定した場合には、動画像データの中から、移動量の比較的大きいシーンの画像データを抽出することができ、そのような画像データを用いて流し撮り画像を生成した場合には、流れるように表現される部分において、画像の流れる量(移動量)は大きくなるよう表現される。逆に、移動量閾値Rthを比較的小さい値に設定した場合には、動画像データの中から、移動量の比較的小さいシーンの画像データを抽出することができ、そのような画像データを用いて流し撮り画像を生成した場合には、流れるように表現される部分において、画像の流れる量(移動量)は小さくなるよう表現される。
D.変形例:
上記した実施例においては、動画像データの中から、被写体または背景が移動しているシーンの画像データを抽出した後、引き続き、それら画像データを用いて流し撮り画像のデータを生成するようにしていたが、本発明はこれに限定されるものではなく、上記シーンの画像データの抽出のみを行うようにしてもよい。
上記した実施例においては、動画像データの中から、被写体または背景が移動しているシーンの画像データを抽出した後、引き続き、それら画像データを用いて流し撮り画像のデータを生成するようにしていたが、本発明はこれに限定されるものではなく、上記シーンの画像データの抽出のみを行うようにしてもよい。
また、予め、被写体または背景が移動しているシーンの画像データを用意しておき、それら画像データを用いて流し撮り画像のデータを生成するようにして、上記シーンの画像データの抽出は行わずに、流し撮り画像データの生成のみを行うようにしてもよい。
また、上記した実施例では、動画像データの中から、フレーム画像データを選択して抽出するようにしていたが、動画像データが複数のフィールド画像データで構成されている場合には、フィールド画像データを選択して抽出するようにしてもよいし、フィールド画像データからフレーム画像データを生成し、そのフレーム画像データを選択して抽出するようにしてもよい。
また、上記した実施例においては、時系列に連続する複数の画像データとして、動画像データを用いていたが、本発明はこれに限定されるものではなく、上述した連写画像データを用いるようにしてもよい。
また、上記した実施例においては、動画像データなど時系列に連続する複数の画像データの中から、2つの画像データを選択して抽出するようにしていたが、3つ以上の画像データを選択して抽出するようにしてもよい。また、流し撮り画像のデータを生成する場合も、連続する2つの画像データに基づいて生成していたが、連続する3つ以上の画像データに基づいて生成するようにしてもよい。
また、上記した実施例においては、ブロックB(m,n)について、基準フレーム画像F(I)の対象フレーム画像F(I+1)に対するx,y方向の移動量Δx,Δyを検出する際、対象フレーム画像F(I+1)の仮想ブロックIB内における画素P'の画素値と、基準フレーム画像F(I)のブロックB(m,n)内における、上記画素P'に対応する画素Pの画素値と、の差分を、ブロック内の全画素について算出した上で、それらの和を画素差分値DIF(dx,dy)として求めていたが、必ずしも、ブロック内の全画素について上記差分を求める必要はなく、ブロック内を代表点について上記差分を求めて、それらの和を画素差分値DIF(dx,dy)として求めるようにしてもよい。なお、代表点としては、例えば、ブロック内を格子状に区切り、その格子点を用いるようにすればよい。
また、上記した実施例においては、ユーザは移動量閾値Rthとして任意の値を設定できるようになっていたが、本発明はこれに限定されるわけではなく、例えば、予め、式(10)に示すような関係を持つ3つのレベルRth1,Rth2,Rth3を設定しておき、ユーザは、それら3つのレベルの中から移動量閾値Rthを選択できるよう構成してもよい。また、これらのレベル自体も、3つに限定されるものではない。
画像サイズの1/10程度<Rth3<Rth2<Rth1<画像サイズの1/20程度 (10)
画像サイズの1/10程度<Rth3<Rth2<Rth1<画像サイズの1/20程度 (10)
また、上記した実施例においては、図2のステップS112で用いる移動量閾値Rthと、図6のステップS203で用いる移動量閾値Rthとは、同じ値を用いていたが、異なる値を用いるようにしてもよい。
また、上記した実施例においては、図6のステップS216で求めたx方向,y方向の平均移動量Rxav,Ryavや、平均移動量Ravを、基準画像の対象画像に対する画像全体としての全体移動量として用いていたが、このような移動量の単純平均値に限らず、例えば、移動量の和や、移動量の自乗平均値や、移動量の最大値や中間値などを、全体移動量として用いるようにしてもよい。
また、上記した実施例においては、全体移動量を、移動有りと判定されたブロックについての移動量のみを用いて検出していたが、全てのブロックについての移動量を用いて検出するようにしてもよい。
また、上記した実施例においては、基準画像を8×8個の矩形のブロックに分割していたが、4×4個、4×8個など、分割するブロックの個数は限定されない。また、矩形に限らず、3角形や6角形など、分割するブロックの形状も限定されない。
さらに、上記した実施例においては、画像処理装置はパーソナルコンピュータで構成するようにしたが、本発明はこれに限定されるものではなく、モバイルコンピュータや、ワークステーションなどで構成するようにしてもよい。あるいは、コンピュータとしての機能を有するデジタルカメラ、ビデオカメラ、ビデオテーププレーヤ、DVDプレーヤ、ハードディスクプレーヤ、プリンタ、ファクシミリ、スキャナ、携帯電話、携帯情報端末などにおいて、本発明の画像処理装置を構成するようにしてもよい。
100...画像処理装置
102...コンピュータ本体
104...CPU
106...メモリ
108...ハードディスク装置
110...キーボード
112...ポインティングデバイス
114...モニタ
116...プリンタ
118...I/O回路部
120...USBI/F回路部
122...ネットワークI/F回路部
132...画像データベース部
142...画像選択部
143...ブロック分割部
144...移動検出部
145...画像抽出部
146...画像生成部
148...ユーザインターフェイス部
200...ネットワーク
102...コンピュータ本体
104...CPU
106...メモリ
108...ハードディスク装置
110...キーボード
112...ポインティングデバイス
114...モニタ
116...プリンタ
118...I/O回路部
120...USBI/F回路部
122...ネットワークI/F回路部
132...画像データベース部
142...画像選択部
143...ブロック分割部
144...移動検出部
145...画像抽出部
146...画像生成部
148...ユーザインターフェイス部
200...ネットワーク
Claims (22)
- 時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出し、該画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成する画像処理装置であって、
時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する画像選択部と、
選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとして、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する画像抽出部と、
抽出された前記2つの画像データに基づいて、移動有りのブロックに属さない画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、前記基準画像の画素と前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備える画像処理装置。 - 時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出し、該画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成する画像処理装置であって、
時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する画像選択部と、
選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する画像抽出部と、
抽出された前記2つの画像データに基づいて、移動有りのブロックに属する画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、前記対象画像を前記全体移動量に応じた量だけ移動し、前記基準画像の画素と移動した前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備える画像処理装置。 - 請求項1または請求項2に記載の画像処理装置において、
前記移動検出部は、検出した前記移動量のうち、移動有りのブロックについての前記移動量に基づいて、前記全体移動量を検出することを特徴とする画像処理装置。 - 時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出する画像処理装置であって、
時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する画像選択部と、
選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する画像抽出部と、
を備える画像処理装置。 - 請求項1ないし請求項4のうちの任意の1つに記載の画像処理装置において、
前記画像抽出部は、前記2つの画像データの選択が前記複数の画像データ全てについてなされても、検出した各全体移動量の何れもが前記閾値に満たない場合には、順次選択された前記2つの画像データの組み合わせのうち、検出した前記全体移動量が最大となった2つの画像データの組み合わせを、前記シーンの画像データとして抽出することを特徴とする画像処理装置。 - 時系列に連続する2つの画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成する画像処理装置であって、
連続する前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定する移動検出部と、
前記2つの画像データに基づいて、移動有りのブロックに属さない画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、前記基準画像の画素と前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備える画像処理装置。 - 時系列に連続する2つの画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成する画像処理装置であって、
連続する前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割するブロック分割部と、
ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する移動検出部と、
前記2つの画像データに基づいて、移動有りのブロックに属する画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、前記対象画像を前記全体移動量に応じた量だけ移動し、前記基準画像の画素と移動した前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する流し撮り画像生成部と、
を備える画像処理装置。 - 時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出し、該画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成するための画像処理方法であって、
(a)時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する工程と、
(b)選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割する工程と、
(c)ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する工程と、
(d)検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する工程と、
(e)抽出された前記2つの画像データに基づいて、移動有りのブロックに属さない画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、前記基準画像の画素と前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する工程と、
を備える画像処理方法。 - 時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出し、該画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成するための画像処理方法であって、
(a)時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する工程と、
(b)選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割する工程と、
(c)ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する工程と、
(d)検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する工程と、
(e)抽出された前記2つの画像データに基づいて、移動有りのブロックに属する画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、前記対象画像を前記全体移動量に応じた量だけ移動し、前記基準画像の画素と移動した前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する工程と、
を備える画像処理方法。 - 請求項8または請求項9に記載の画像処理方法において、
前記工程(c)では、検出した前記移動量のうち、移動有りのブロックについての前記移動量に基づいて、前記全体移動量を検出することを特徴とする画像処理方法。 - 時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出するための画像処理方法であって、
(a)時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する工程と、
(b)選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割する工程と、
(c)ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する工程と、
(d)検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する工程と、
を備える画像処理方法。 - 請求項8ないし請求項11のうちの任意の1つに記載の画像処理方法において、
前記工程(d)では、前記2つの画像データの選択が前記複数の画像データ全てについてなされても、検出した各全体移動量の何れもが前記閾値に満たない場合には、順次選択された前記2つの画像データの組み合わせのうち、検出した前記全体移動量が最大となった2つの画像データの組み合わせを、前記シーンの画像データとして抽出することを特徴とする画像処理方法。 - 時系列に連続する2つの画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成するための画像処理方法であって、
(a)連続する前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割する工程と、
(b)ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定する工程と、
(c)前記2つの画像データに基づいて、移動有りのブロックに属さない画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、前記基準画像の画素と前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する工程と、
を備える画像処理方法。 - 時系列に連続する2つの画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成するための画像処理方法であって、
(a)連続する前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割する工程と、
(b)ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する工程と、
(c)前記2つの画像データに基づいて、移動有りのブロックに属する画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、前記対象画像を前記全体移動量に応じた量だけ移動し、前記基準画像の画素と移動した前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する工程と、
を備える画像処理方法。 - 時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出し、該画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成するためのプログラムであって、
(a)時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する機能と、
(b)選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割する機能と、
(c)ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する機能と、
(d)検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する機能と、
(e)抽出された前記2つの画像データに基づいて、移動有りのブロックに属さない画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、前記基準画像の画素と前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する機能と、
をコンピュータに実現させるためのプログラム。 - 時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出し、該画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成するためのプログラムであって、
(a)時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する機能と、
(b)選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割する機能と、
(c)ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する機能と、
(d)検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する機能と、
(e)抽出された前記2つの画像データに基づいて、移動有りのブロックに属する画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、前記対象画像を前記全体移動量に応じた量だけ移動し、前記基準画像の画素と移動した前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する機能と、
をコンピュータに実現させるためのプログラム。 - 請求項15または請求項16に記載のプログラムにおいて、
前記機能(c)は、検出した前記移動量のうち、移動有りのブロックについての前記移動量に基づいて、前記全体移動量を検出する機能を含むことを特徴とするプログラム。 - 時系列に連続する複数の画像データの中から、被写体または背景が移動しているシーンの画像データを抽出するためのプログラムであって、
(a)時系列に連続する前記複数の画像データの中から、連続する2つの画像データを順次選択する機能と、
(b)選択した前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割する機能と、
(c)ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する機能と、
(d)検出した前記全体移動量が予め定められた閾値以上である場合に、選択した前記2つの画像データを、前記シーンの画像データとして抽出する機能と、
をコンピュータに実現させるためのプログラム。 - 請求項15ないし請求項18のうちの任意の1つに記載のプログラムにおいて、
前記機能(d)は、前記2つの画像データの選択が前記複数の画像データ全てについてなされても、検出した各全体移動量の何れもが前記閾値に満たない場合には、順次選択された前記2つの画像データの組み合わせのうち、検出した前記全体移動量が最大となった2つの画像データの組み合わせを、前記シーンの画像データとして抽出する機能を含むことを特徴とするプログラム。 - 時系列に連続する2つの画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成するためのプログラムであって、
(a)連続する前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割する機能と、
(b)ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定する機能と、
(c)前記2つの画像データに基づいて、移動有りのブロックに属さない画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属する画素については、前記基準画像の画素と前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する機能と、
をコンピュータに実現させるためのプログラム。 - 時系列に連続する2つの画像データに基づいて、画像の一部が流れるように表現された流し撮り画像のデータを生成するためのプログラムであって、
(a)連続する前記2つの画像データをそれぞれ基準画像のデータ及び対象画像のデータとし、前記基準画像を複数のブロックに分割する機能と、
(b)ブロック毎に、前記基準画像の前記対象画像に対する移動量を検出し、検出した該移動量に基づいて、移動有りのブロックか否かを判定すると共に、前記基準画像の前記対象画像に対する画像全体としての全体移動量を検出する機能と、
(c)前記2つの画像データに基づいて、移動有りのブロックに属する画素については、前記基準画像の画素で前記流し撮り画像の画素を構成し、移動有りのブロックに属さない画素については、前記対象画像を前記全体移動量に応じた量だけ移動し、前記基準画像の画素と移動した前記対象画像の画素とを合成して、その合成により得られた画素で、前記流し撮り画像の画素を構成することより、前記流し撮り画像のデータを生成する機能と、
をコンピュータに実現させるためのプログラム。 - 請求項15ないし請求項21のうちの任意の1つに記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003369080A JP2005135091A (ja) | 2003-10-29 | 2003-10-29 | 画像処理装置及び画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003369080A JP2005135091A (ja) | 2003-10-29 | 2003-10-29 | 画像処理装置及び画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005135091A true JP2005135091A (ja) | 2005-05-26 |
Family
ID=34646555
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003369080A Pending JP2005135091A (ja) | 2003-10-29 | 2003-10-29 | 画像処理装置及び画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005135091A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006339784A (ja) * | 2005-05-31 | 2006-12-14 | Casio Comput Co Ltd | 撮像装置、画像処理方法及びプログラム |
JP2009512289A (ja) * | 2005-10-12 | 2009-03-19 | アクティブ オプティクス ピーティーワイ リミテッド | 画像を処理する方法及びシステム |
JP2017143492A (ja) * | 2016-02-12 | 2017-08-17 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
JP2017216627A (ja) * | 2016-06-01 | 2017-12-07 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
-
2003
- 2003-10-29 JP JP2003369080A patent/JP2005135091A/ja active Pending
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006339784A (ja) * | 2005-05-31 | 2006-12-14 | Casio Comput Co Ltd | 撮像装置、画像処理方法及びプログラム |
JP4639965B2 (ja) * | 2005-05-31 | 2011-02-23 | カシオ計算機株式会社 | 撮像装置、画像処理方法及びプログラム |
JP2009512289A (ja) * | 2005-10-12 | 2009-03-19 | アクティブ オプティクス ピーティーワイ リミテッド | 画像を処理する方法及びシステム |
JP2017143492A (ja) * | 2016-02-12 | 2017-08-17 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
JP2017216627A (ja) * | 2016-06-01 | 2017-12-07 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2040246B1 (en) | Image display control apparatus and image display control method | |
JP4241709B2 (ja) | 画像処理装置 | |
JP6529267B2 (ja) | 情報処理装置及びその制御方法、プログラム、並びに記憶媒体 | |
JPH11252428A (ja) | 超解像カメラ | |
JP2011091571A (ja) | 動画像作成装置及び動画像作成方法 | |
JP5393237B2 (ja) | 画像表示装置及びその制御方法、並びにプログラム及び記憶媒体 | |
JP2005130254A (ja) | プリントシステム | |
JP2004234624A (ja) | 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体 | |
JP4931251B2 (ja) | 表示制御装置、表示制御システム、表示制御方法 | |
JP2005135091A (ja) | 画像処理装置及び画像処理方法 | |
JP2011188349A (ja) | 表示制御装置、表示制御プログラム、および表示制御システム | |
JP2003333537A (ja) | 画像再生装置および画像再生方法 | |
JP6632360B2 (ja) | 情報処理装置 | |
JP2005117182A (ja) | 画像表示装置、画像表示方法、プログラム及び記録媒体 | |
JPH11153430A (ja) | 撮影画像管理装置およびそのプログラム記録媒体 | |
JP2006041586A (ja) | 画像再生表示装置 | |
JP2010193026A (ja) | 画像再生装置、画像再生方法およびプログラム | |
JP3993003B2 (ja) | 表示指示装置、表示システム、表示指示プログラム、端末、及びプログラム | |
JP2005167657A (ja) | 画像処理装置及び画像処理方法 | |
JP4158524B2 (ja) | 電子カメラ | |
JP4914659B2 (ja) | 映像処理装置、その方法、そのプログラム、および、そのプログラムを記録した記録媒体 | |
JP2005252753A (ja) | 画像処理装置、位置ずれ記憶方法、及びシーン記憶方法 | |
JP2009272859A (ja) | 動画印刷装置 | |
JP2008278347A (ja) | 画像表示システム | |
JP2005252803A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよびそのプログラムを記録した記録媒体 |