JP2013149110A - 移動量検出装置、移動体検出装置及び移動量検出方法 - Google Patents

移動量検出装置、移動体検出装置及び移動量検出方法 Download PDF

Info

Publication number
JP2013149110A
JP2013149110A JP2012009525A JP2012009525A JP2013149110A JP 2013149110 A JP2013149110 A JP 2013149110A JP 2012009525 A JP2012009525 A JP 2012009525A JP 2012009525 A JP2012009525 A JP 2012009525A JP 2013149110 A JP2013149110 A JP 2013149110A
Authority
JP
Japan
Prior art keywords
image
movement amount
movement
amount
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012009525A
Other languages
English (en)
Other versions
JP5798497B2 (ja
Inventor
Takanori Sakate
孝規 坂手
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2012009525A priority Critical patent/JP5798497B2/ja
Publication of JP2013149110A publication Critical patent/JP2013149110A/ja
Application granted granted Critical
Publication of JP5798497B2 publication Critical patent/JP5798497B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】複数の画像に存在する任意の物体のフレーム内の位置の移動量の検出を簡素な計算方法で実現する装置及び方法を提供する。
【解決手段】移動量検出装置100は、測定部110と制御部120とを備える。測定部110は、撮像装置が第1画像と第2画像とを撮像する間に撮像装置が動いた動き量を測定する。制御部120は、第1画像及び第2画像それぞれのフレームを複数の領域に分割する個数を指定する分割個数、及び、動き量と、第1画像に対して前記第2画像が移動した領域の数を示す移動量とを対応づける移動量取得情報を保持する。そして、制御部120は、動き量を測定部から受け、移動量取得情報を用いて動き量に応じた移動量を取得して出力する。
【選択図】図1

Description

本発明は、連続して撮像する画像(例えば、動画像)中の移動体を検出する技術に関し、特に、フレーム内に存在する任意の物体の位置が、時間経過に伴って移動する大きさを検出する技術に関する。
従来から、動画像中の物体を追跡/抽出するためのアルゴリズムが考えられている。このアルゴリズムは、様々な物体と背景とが混在する画像から任意の物体を抽出するための技術である。この技術は動画像の加工や編集に有用であり、例えば、動画像から抽出した人物を別の背景に合成するなどができる。
ビデオカメラやデジタルスチルカメラなどの撮像装置を用いて移動する物体(移動体)を撮影する場合、撮影者は移動体を追跡しながら撮像装置を動かす。このような場合に、上述した任意の物体を抽出する技術を用いることにより、撮像装置は撮影した画像から移動体を抽出することできる。加えて、撮像装置自体を速く動かして、速く動く移動体を撮像する場合、速く動かすことによる撮像後のブレが無く、一方、移動体に関しては、通常通りに物体追跡を実現できる現象が望ましい。
例えば、特許文献1では、目的の物体以外の周囲の余分な動きに影響されずに、動画像から目的の物体を精度よく抽出/追跡する技術が開示されている。特許文献2、3では、1フレームを複数のブロックに分割し、そのブロック毎に1つのベクトルを関連付けて、物体が動く方向や距離を感知している。特許文献4では、特許文献2、3と同様に1フレームを複数のブロックに分割し、フレームに写された画像の明るさや輝度信号の分布により物体を認識している。特許文献5では、通常の手振れ補正の品位を維持しながら、画像の流れがはっきりとわかるような大きな手振れが発生した時にも良好な画像が得られる振れ補正に関する技術が開示されている。加えて、特許文献5では、距離をプロセッサで処理せず、加速度センサを用いて計算している。特許文献6には動画撮影時の手ぶれによる画像のぶれを確実に解消する技術が開示され、角速度センサにより、動画を構成する角フレームにおける手振れ量を取得して、手振れ量に基づくフレーム内/フレーム間不正処理を実行している。
特開2005−4799号公報 特開平6−203163号公報 特開2006−12013号公報 特開平7−234938号公報 特開2002−148670号公報 特開2007−221710号公報
しかしながら、特許文献1の技術では、背景の動きと物体の動きを分けるため、その物体を事前にユーザが指定しなければならない。特許文献2、3では、1ブロックに対応するベクトルが大きい場合、たとえば瞬時にカメラを大きく動かすと、そのベクトルの表現範囲を超えることにより、背景処理が実行不可能となる可能性が高い。また、ベクトルが大きくなると物体が動く距離等の計算量も多くなり、精度よく移動体抽出/追跡ができなくなる可能性がある。特許文献4の技術では、明るさや輝度の閾値は手作業で決めなければならず、勘や経験に基づく判断が必要となる。特許文献5の技術では、システムに用いられている積分回路の習性により、加速度センサから出力される周波数が急激に高くなった後、元には戻らない可能性がある。そのため、加速度センサから出力される周波数が高くなるに従い、修正距離の誤差を緩和してピントをずらしたような自然な画像を実現している。しかしこの方法では、高精細な画像は再現されない。
上述したように、移動体の移動量を検出する処理が煩雑であったり、撮像装置を瞬時にフレームの幅以上に大きく動かした場合、撮像装置の動きの制限や取り込んだ画像の処理方法により、移動体の検出が不可能な場合が生じるという課題があった。
本発明に係る移動量検出装置の一態様は、測定部と制御部とを備える。測定部は、撮像装置が第1画像と第2画像とを撮像する間に前記撮像装置が動いた動き量を測定する。制御部は、分割個数と移動量取得情報とを保持する。前記分割個数は、前記第1画像及び前記第2画像それぞれのフレームを複数の領域に分割する個数を指定する個数である。前記移動量取得情報は、前記動き量と、前記第1画像に対して前記第2画像が移動した領域の数を示す移動量とを対応づける情報である。制御部は、前記動き量を測定部から受けると、前記移動量取得情報を用いて前記動き量に応じた前記移動量を出力する。
制御部は、測定部が出力する動き量、言い換えると撮像装置の動いた大きさを示す値を用いて、複数の画像中に存在する任意の物体のフレーム内の位置が、撮像装置の動き量に応じて移動した移動量を取得するものである。制御部は、フレームを複数の領域に分割し、当該位置が移動した大きさ(移動量)を、領域の数として取得する。これにより、移動量の絶対値は整数として取り扱うことが可能となる。その結果、任意の物体の移動量に関する計算を、整数を用いて演算することが可能になり、簡易な計算によって移動量の取得を実現する。
本発明に係る移動体検出装置の一態様は、バッファ、測定部、制御部、第1差分処理部、第2差分処理部、及び検出部を備える。
バッファは、第1画像、前記第1画像に続く第2画像、及び、前記第2画像に続く第3画像を格納する。
測定部は、撮像装置が二つの画像を撮像する間に前記撮像装置が動いた動き量を測定する。
制御部は、前記画像のフレームを複数の領域に分割する個数を指定する分割個数、及び、前記動き量と、一つの画像に対して前記一つの画像に続く画像が移動した領域の数を示す移動量とを対応づける移動量取得情報を保持し、前記動き量を測定部から受け、前記移動量取得情報を用いて前記動き量に応じた前記移動量を出力する。
第1差分処理部は、前記制御部から前記移動量として、前記第1画像と前記第2画像との間の第1の移動量を受け、前記第1の移動量に応じて前記第1画像から前記第2画像へ移動したときに喪失する領域を、前記第1画像から除いた第1共通画像、及び、前記第1画像から前記第2画像へ移動したときに追加される領域を前記第2画像から除いた第2共通画像を取得し、前記第1共通画像と前記第2共通画像との差分を抽出した第1差分画像を生成する。
第2差分処理部は、前記制御部から前記移動量として、前記第2画像と前記第3画像との間の第2の移動量を受け、前記第2の移動量に応じて前記第2画像から前記第3画像へ移動したときに喪失する領域を、前記第2画像から除いた第3共通画像、及び、前記第2画像から前記第3画像へ移動したときに追加される領域を前記第3画像から除いた第4共通画像を取得し、前記第3共通画像と前記第4共通画像との差分を抽出した第2差分画像を生成する。
検出部は、前記第1差分画像と前記第2差分画像との重複部分を、前記第2画像に含まれる移動体として検出し、前記移動体の近傍範囲を前記移動体の追跡範囲として設定する。
移動体検出装置では、移動量として領域の数を取得するため、移動量を用いて移動体の検出を実現する場合に、移動量を用いる演算処理の負荷を大幅に軽減することができる。言い換えると、移動量として、実際に動いた距離ではなく上述した領域の数を用いて表すため、移動量を実数値ではなく整数値として保持する。このため、移動量を保持するレジスタの数および計算量を削減することができる。その結果、移動体検出における消費電力も削減することが可能になる。
本発明に係る移動量検出方法の一態様は、複数の画像に存在する任意の物体のフレーム内の位置が、撮像装置が動いた動き量に応じて移動する移動量を検出する移動量検出方法であって、第1画像及び第2画像それぞれのフレームを複数の領域に分割する個数を指定する分割個数、及び、前記動き量と、前記第1画像に対して前記第2画像が移動した領域の数を示す移動量とを対応づける移動量取得情報を記録領域に保持し、測定手段(例えば、加速度センサ)を用いて、前記撮像装置が前記第1画像と前記第2画像とを撮像する間の前記動き量を測定し、前記測定手段が測定した結果を受けると、前記移動量取得情報を用いて前記動き量に応じた前記移動量を出力する。
本発明に係る移動量検出方法を実現するプログラムの一態様は、複数の画像に存在する任意の物体のフレーム内の位置が、撮像装置が動いた動き量に応じて移動する移動量を検出する移動量検出方法を実現するプログラムであって、コンピュータに、第1画像及び第2画像それぞれのフレームを複数の領域に分割する個数を指定する分割個数、及び、前記動き量と、前記第1画像に対して前記第2画像が移動した領域の数を示す移動量とを対応づける移動量取得情報を記録領域に保持する処理と、前記撮像装置が前記第1画像と前記第2画像とを撮像する間の前記動き量を測定した結果を受ける処理と、前記移動量取得情報を用いて前記動き量に応じた前記移動量を出力する処理を実行させる。
本発明によれば、複数の画像に存在する任意の物体のフレーム内の位置の移動量の検出や移動体の検出を簡素な計算方法で実現することが可能となる。
本発明の実施形態1に係る移動量検出装置の構成例を示すブロック図である。 測定部における振動周波数と電圧との関係例を示す図である。 測定部における振動周波数と電圧との他の関係例を示す図である。 実施形態1における、動き量と移動量との関係例を示す図である。 実施形態1における、動き量と移動量との他の関係例を示す図である。 実施形態1における、動き量と移動量との関係例を示すテーブルである。 実施形態1における、フレームを横方向に分割した複数の領域の一例を示す図である。 実施形態1における、フレームを縦方向に分割した複数の領域の一例を示す図である。 撮像装置が横方向に右から左に動いたときのフレームの画像の移動の様子を示す図である。 撮像装置が横方向に左から右に動いたときのフレームの画像の移動の様子を示す図である。 本発明の実施形態2に係る移動体検出装置の構成例を示すブロック図である。 実施形態2に係る移動体検出装置の処理の流れを説明する図である。 実施形態2に係る移動体検出装置の差分画像生成処理の動作例を示すフローチャートである。 実施形態3に係る移動体検出装置の差分画像生成処理の動作例を示すフローチャートである。 実施形態4に係る移動量検出装置の変形例の構成例を示すブロック図である。 本発明に係る移動量検出装置の制御部の動作例を示すフローチャートである。
以下、本発明の実施形態について、図面を参照しながら説明する。説明の明確化のため、以下の記載及び図面は、適宜、省略、及び簡略化がなされている。各図面において同一の構成または機能を有する構成要素および相当部分には、同一の符号を付し、その説明は省略する。
本発明の実施形態の一態様は、任意の物体を追跡して撮像装置(カメラ)を動かして撮像を行うときに、当該撮像装置を動かすことによって、フレーム内に存在する任意の物体の位置が移動した大きさ(移動量)を求める手段を提供する。撮像装置の動きの測定は、一例として加速度センサなどから出力される振動周波数、及び、撮像装置が動くことによって生じる電圧を用いる。
以降の説明において、撮像装置には、動画を撮像するビデオカメラ、静止画を撮像するデジタルカメラなどが含まれる。
移動体を対象とする場合、撮像装置が撮像中に動くと、当該撮像装置が撮像する物体のうち、自ら移動しない物体についてはフレーム内の画像の位置が、撮像装置の動き量、言い換えると撮像装置が動いた長さに応じて移動する。時系列の複数の画像、例えば、画像Aと、画像Aに続いて撮像された画像Bとに着目すると、画像Aに対して画像Bは移動したとらえることが可能であり、撮像装置の動き量に応じて、フレーム内で任意の物体の画像が移動した移動量を特定することができる。本発明は、移動量を簡易な演算によって取得することを実現する。
実施形態1では、まず、本発明に係る移動量検出装置の説明をし、実施形態2では、実施形態1の移動量検出装置を搭載した移動体検出装置について説明する。
実施形態1.
* 実施形態1の構成
図1に、本発明の実施形態1に係る移動量検出装置の構成例を示す。移動量検出装置100は、撮像装置が画像を撮像中に動いた動き量に応じて、撮像した二つの画像の間で、画像がフレーム内で移動した移動量を検出する。ここで、フレームは、画像領域を特定する枠である。撮像した二つの画像は、撮像装置が異なるタイミング(時刻)で撮像した、第1画像と、第1画像に続いて撮像された第2画像とを一例として用いて説明する。移動量検出装置100は、移動量として、撮像装置の動き量に応じて、第1画像と第2画像との間で、画像がフレーム内で移動した距離に替えて、フレームを複数の領域に分割し、フレーム内の複数の領域の数を示す移動量を用いる。言い換えると、撮像装置の動きに伴って、第1画像のうち、第2画像では撮像されなくなった画像の領域の数を移動量として示す、ともいえる。以下、図1を参照して具体的な構成例を説明する。
移動量検出装置100は、測定部110と制御部120とを備える。
測定部110は、撮像装置が画像を撮像中に動いた動き量を測定する。測定部110は、例えば、加速度センサ111を備える。ここでは、加速度センサ111として、2軸の加速度センサを用い、撮像装置の動きに対して、横方向(水平方向、x軸方向)の振動周波数fxと、縦方向(垂直方向、y軸方向)の振動周波数fyとを測定する。加速度センサ111は、振動周波数fx、fyを用いて、任意の処理により、電圧ΔVx、ΔVyを算出する。電圧ΔVx,ΔVyは、撮像装置の動き量を示す。加速度センサ111は、例えば、図2A、2Bに示すような関係式を用いて振動周波数fx、fyから電圧ΔVx、ΔVyを算出し、出力する。ここでは、加速度センサ111は、電圧ΔVx、ΔVyとしてデジタルの数値を出力することを前提として説明する。
図2は、測定部110における振動周波数と電圧との関係例を示す図である。加速度センサ111は、測定した振動周波数fx、fy、及び、所定の関係式を用いて、電圧ΔVx、ΔVyを算出し、動き量、具体的には、横方向動き量(電圧ΔVx)と、縦方向動き量(電圧ΔVy)とを出力する。このとき、加速度センサ111は、振動周波数と電圧とを関係づける関係式とした関数αを用いる。関数αの種類は、特に限定されるものではなく、図2Aに示すような一次関数でも良いし、図2Bに示すような二次関数でも良い。
なお、図1では、説明を容易にするため、測定部110が加速度センサ111を備える構成例を示しているが、これに限られるわけではなく、加速度センサ111に加え、増幅器・A/D変換器等を備える構成であってもよい。これについては後述する。
制御部120は、フレームを複数の領域に分割する個数を指定する分割個数を保持し、第1画像に対して第2画像が移動した領域の数を示す移動量を出力する。ここで、移動量は、第1画像に対して、第2画像から削除された画像、あるいは、第1画像に対して、第2画像に新たに追加された画像が、全フレームに対してどのくらい存在するかを示すともいえる。ここでは、第1画像に対して、第2画像から削除された画像と第2画像へ追加された画像とは、全フレームに対して同じ割合になる。言い換えると、撮像装置が第1画像の撮像地点から動いて第2画像を撮像すると、第2画像には、第1画像の少なくとも一部分の画像は削除され、新たな画像が追加されることになる。
移動量は、第1画像のフレームを複数の領域に分割した場合、第2画像が分割個数の何個分移動したかを示している。従って、移動量は、撮像装置の動きに応じて、1フレームに対する移動の割合を示すともいえる。例えば、分割個数が256であり、1フレームを256個の領域に分割し、第2画像が、第1画像のフレームのうち128個の領域が右に移動したものとする。この場合には、移動量は128となり、分割個数256に対して、移動量の128は、50%であることが算出できる。従って、第2画像は、第1画像のフレームに対して、50%右に移動したということができる。別の言い方をすれば、分割個数と移動量とは、移動した後の画像が、移動する前の1フレームの画像に対して、どの程度の割合で移動したかを示すことを可能とする。
具体的には、制御部120は、次のような処理を実施して移動量を取得する。制御部120は、上述した分割個数に加え、移動量取得情報を保持し、測定部110が測定した動き量を受けると、動き量と移動量取得情報とを用いて動き量を取得し、出力する。移動量取得情報は、動き量と、移動量とを対応づける情報である。例えば、移動量取得情報として、動き量と移動量とを対応づける関係式やテーブルなどを用いることができる。分割個数あるいは移動量取得情報は予め設定された値や情報を制御部120が保持するように構成してもよいし、システム稼働後にユーザが外部から入力する値や情報を制御部120が保持するように構成してもよい。例えば、制御部120が保持する分割個数や移動量取得情報を、ユーザが、マンマシンインターフェースなどを用いて入力や変更ができるように構成してもよい。
図1では、制御部120は、情報保持部(メモリ)121へ分割個数及び移動量取得情報を格納する構成例を示しているが、これに限られるわけではない。分割個数及び移動量取得情報は、制御部120が参照可能な記録領域に保持されていればよい。
図3A〜3Cに、動き量と移動量との関係を対応づける移動量取得情報の一例を示す。
まず、測定部110から動き量△Vを受けると、その動き量ΔVに対して移動量Pvを取得できる関数βを作成する。制御部120が、移動量取得情報として、関係式Pv=β(ΔV)を保持する。関数βの種類は、図3Aに示すような一次関数でも良いし、図3Bに示すような二次関数でも良い。
図3A、3Bでは、横方向と縦方向と区別しないで示しているが、実際には多くの場合、制御部120は、横方向及び縦方向それぞれに対応する、横方向移動量取得情報と縦方向移動量取得情報とを保持する。横方向移動量取得情報は、横方向動き量と、分割個数(または横方向分割個数)でフレームを分割した複数の領域のうち、第1画像に対して第2画像が移動した領域数を示す横方向移動量Pv_xとを対応づける。縦方向移動量取得情報は、縦方向動き量と、分割個数(または縦方向分割個数)でフレームを分割した複数の領域のうち、第1画像に対して第2画像が移動した領域数を示す縦方向移動量とを対応づける。
さらに、制御部120は、移動量取得情報として、図3Cに示すようなテーブルを保持していてもよい。図3Cは、動き量に応じて、移動量を一意に決定するテーブルである。図3Cでは、Pvを4ビットの2進数で表す場合を一例として示す。図3C中、vx_1〜vx_max−1、vy_max、vy_1〜vy_max−1、vy_max等は、電圧ΔVxまたは電圧ΔVyが採り得る値を意味し、vx_max及びvy_maxはその最大値である。
移動量は、図3A、3Bに示すように、正の値、ゼロ、負の値を採るように対応づけてもよい。または、移動量がゼロ、または正の値のみとなるように対応づけ、移動の方向を示す情報を別に保持してもよい。
本実施形態では、制御部120は、分割個数N(Nは1以上の整数)として2のべき乗の値を保持することが好ましい。これは、制御部120あるいは移動量を用いる他の構成要素において、移動量をN個のビット数のレジスタで保持することが可能になるからである。2のべき乗の値を用いることにより、レジスタのビットを有効に利用することができるとともに、演算処理を容易にすることができる。しかしながら、分割個数Nが2のべき乗以外の数値を採ることを排除するものではない。分割個数Nは、任意の整数値を用いることができる。
加えて制御部120は、分割個数Nを保持する場合、移動量の絶対値として、ゼロから分割個数N未満の範囲の値を取得するように構成される。言い換えると、移動量取得情報は、移動量の絶対値として、ゼロからN未満の範囲の数値を対応づけるように生成される。例えば、移動量の絶対値は、ゼロから(N−1)までの範囲の整数を取り得る。
なお、本実施形態では、横方向と縦方向との分割個数が異なる場合には、制御部120は、横方向と縦方向それぞれに対応する、横方向分割個数Nx(Nxは1以上の整数)と縦方向分割個数Ny(Nyは1以上の整数)を保持し、横方向移動量Pv_xの絶対値としてゼロから(Nx−1)までの整数を取得し、縦方向移動量Pv_yの絶対値としてゼロから(Ny−1)までの整数を取得することになる。図4A、4Bにフレームを横方向または縦方向に分割した例を示す。図4Aは、横方向分割個数Nxが16個の場合を示し、図4Bは、縦方向分割個数Nyが8個の場合を示す。
また、移動量は、フレームの対向する二つの端部のうち、一方の端部を基点とし、他方の端部を分割個数から1を差し引いた数値を設定する座標として考えることもできる。例えば、図4Aでは、対向する二つの端部X_L、X_Rのうち、一方をゼロ、他方を(Nx−1)と設定することができる。例えば、一方の端部X_Lを基点(ゼロ)とし、他方の端部X_Rを(Nx−1)の座標値であると設定し、分割した複数の領域の位置を、基点からの座標値として表すことができる。図4Bに示す対向する二つの端部Y_B、Y_Tも同様である。その結果、移動値は、座標値として取得することが可能になる。加えて、図3A、3Bでは、移動量として負の値を採る例を示しているが、二つの端部のうちどちらが基点となるかを設定する情報を保持し、移動量を基点からの座標値として表すことも可能である。この場合、制御部120は、ゼロまたは正の整数の移動量と、基点の位置を示す情報(基点情報)を取得し、出力すればよい。
なお、図1には明示していないが、制御部120は、各種演算処理を実行するプロセッサ(CPU:Central Processing Unit)、当該演算処理を実施するために必要な各種メモリ、例えば、制御プログラムや各種データを格納する書き換え可能なROM(Read Only Memory)や、各種演算処理におけるワークエリアとして用いるRAM(Random Access Memory)、等を備える。
* 実施形態1の動作
次に、上述した図面を参照して移動量検出装置100の動作例を説明する。ここでは、横方向の動き量と縦方向の動き量とは、同じ処理によって算出する。説明を容易にするため、横方向または縦方向とのいずれかの振動周波数、電圧、及び移動量を、振動周波数f、電圧ΔV、及び移動量Pvとして説明する。
加速度センサ111は、撮像装置の動きを測定し、振動周波数fを取得する。加速度センサ111は、測定した振動周波数fを用いて、例えば、図2Aまたは図2Bのような関数に従って電圧ΔVを算出し、出力する。加速度センサ111に2軸の加速度センサを用いると、横方向の動きに対して、例えば、撮像装置(フレーム)を右に動かしたとき、ゼロ(動き量がゼロ)または正の値(ΔV≧0)になり、フレームを左に動かしたとき、負の値(ΔV<0)となる。加速度センサ11は、左右の動きに加え、上下の動きにも対応できる。従って、図2A、2Bにおいて、例えば、撮像装置が右または上に動くと、電圧ΔVがゼロまたは正の値(ΔV≧0)、左または下に動くと、電圧ΔVが負の値(ΔV<0)を採る。
なお、以降の説明では、撮像装置が時間間隔T(Tは正の数値であり、時間を示す)で連続する画像を撮像する場合を一例として説明する。振動周波数fと電圧ΔVとは、時間間隔Tの期間では不変であることを前提とする。このため、例えば、振動周波数fと電圧ΔVとの値は時間間隔Tの期間の最大値を用いても良い。
測定部110は、動き量として電圧ΔVを制御部120へ出力する。
次に、制御部120は、電圧ΔVから移動量Pvを求める。本実施形態では、制御部120は、例えば、図3A〜3Cに示すような移動量取得情報を用いて、移動量Pvとして、絶対値がゼロから(N−1)までの整数を取得する。
例えば、図4Aにおいて、横方向分割個数Nxを、例えば256とするならば、横方向の座標軸(横軸)、言い換えると端部X_LからX_Rまでの間は256個に分割され、Pv_xは0から255までの整数値をとる。
図5A、5Bを参照して、画像の移動を具体的に説明する。図5Aでは、撮像装置が横方向に左から右に動いた場合の、図5Bでは、横方向に右から左に動いた場合のフレームの画像の移動を示す。例えば、撮影した画像I(t)が画像I(t+1)に変化するとき、画像I(t)ではこの変化により消えた領域(右下がり斜線部分の領域)が削除され、画像I(t+1)ではこの変化により新規に撮像された領域(右上がり斜線部分の領域)が存在する。tは任意の時刻を表し、(t+1)は、時刻tから時間間隔Tを経過した時刻、(t−1)は、時刻tより時間間隔Tの期間前の時刻を表す。加えて、図5A、5Bでは、分割個数を256(2の8乗)とし、移動量Pv_xがゼロから255の範囲の値を採る場合を一例として示す。
図5A、5Bに示すように、測定部110が取得する移動量は、座標軸上に数値として取り扱うことができる。図5A、5Bでは、画像I(t)から画像I(t+1)へ画像が移動した場合、測定部110は、移動量Pv_xを取得する。移動量の絶対値は、画像が移動した領域の数を表す。このため、フレームの一端を基点ゼロ、他端を移動量の最大値とすると、移動量Pv_xは、座標軸上の基点からの大きさを表すことになる。加えて、画像の移動に伴って画像I(t)から削除される領域(喪失する画像の領域)を、基点から移動量Pv_xまでの領域として取り扱うことができる。また、画像I(t+1)に追加される領域(加わる画像の領域)を、移動量Pv_xを反転した値と、フレームの他端の座標値までの領域として表すことができる。一方、画像I(t)及び画像(t+1)に含まれる領域(共通する画像の領域)を、画像I(t)では、Pv_xからフレームの他端の座標値として取り扱うことが可能になる。
図5A、5Bに示すように、画像I(t)と画像I(t+1)との間の移動量を用いて計算されるので、実数を用いた複雑な演算は行わない。具体的には、整数の値である移動量及び分割個数を用いて、移動後の画像について、移動前の1フレームの画像に対する移動した割合を取得し、演算を実施することを可能にする。ゆえに、実距離ではなく、複数の領域の数を用いて、後述する動画像の物体追跡の処理を実現することができる。このため、計算量が削減され、その計算量を削減することにより消費電力の削減の効果にも期待できる。
* 実施形態1のメカニズムおよび効果
撮像装置の移動距離を、実距離ではなく、フレームを複数の領域に分割し、どの領域の範囲が移動しているかという、領域の数で表現する。このため、撮像装置を動かしたときの距離を表わす具体的な実数値を用いて演算処理する必要がなくなる。このため、精度の高い処理をするための高度なプロセッサを必要とせず、簡素なハードウェアおよびファームウェアで実現可能である。加えて、特許文献2及び特許文献3で示したような、分割されたブロック毎にベクトル演算するというに多大な計算を必要としない。その結果、実行時の消費電力を抑制するという効果を奏することができる。
さらに、加速度センサを用いるとき、特許文献5では積分回路を合わせて用いるが、本発明では、本実施形態では積分回路を用いないので、撮像装置の動きの修正距離に関して、誤差の緩和を行わなくて済む。さらに加えて、特許文献2、3では、ベクトル演算を用いる場合、撮像装置の動き量の範囲に制限があったが、本実施形態では、撮像装置の動き量の範囲に制限が設けられることはない。ゆえに、ユーザは撮像装置の動く距離の制限を気にすることなく利用することが可能となる。
実施形態2.
実施形態2では、実施形態1の移動量検出装置100を搭載した移動体検出装置200に関して説明する。移動体検出装置200は、異なる時間に撮像された複数の画像(例えば、時系列に撮像された複数の画像)から移動体を検出する装置である。
* 実施形態2の構成
図6に、実施形態1の移動量検出装置を適用した移動体検出装置の構成例を示す。移動体検出装置200は、移動量検出装置100、バッファメモリ220、差分画像生成部230、検出部240を備える。カメラ11から撮像された画像データは、キャプチャ用バッファ12に格納され、画像変換器13などを用いて、バッファメモリ220に画像データが保存される。
バッファメモリ220は、第1画像、第1画像に続く第2画像、及び、第2画像に続く第3画像それぞれを格納する、バッファ(第1画像バッファ)221、バッファ(第2画像バッファ)222、及びバッファ(第3画像バッファ)223を備える。バッファ221はバッファ222の画像より時間間隔Tの期間早く撮影された画像を保持し、バッファ222はバッファ223の画像より時間間隔Tの期間早く撮影された画像を保持する。図6では、バッファ222の撮像時刻を(t)とし、バッファ221の撮像時刻を(t−1)、バッファ223の撮像時刻を(t+1)として表し、第1画像を画像I(t−1)、第2画像を画像I(t)、第3画像を画像I(t+1)として表す。
差分画像生成部230は、移動量検出装置100が取得した移動量に応じて二つの画像の差分を抽出する。具体的には、差分画像生成部230は、第1画像と第2画像との差分画像を生成する第1差分処理部231、第2画像と第3画像との差分画像を生成する第2差分処理部232、遅延素子233、バッファ(第1差分バッファ)234、及び、バッファ(第2差分バッファ)235を備える。バッファ221〜223に格納される画像(フレーム)のサイズに関する情報については、移動体検出装置200内に保持することを前提とする。例えば、バッファ221〜223にヘッダ情報として画像のサイズを保持するように構成してもよいし、他の構成要素内に画像のサイズを保持するように構成してもよい。
第1差分処理部231は、第1画像と第2画像とについて、移動量を制御部120から受け、移動量に応じて第1画像から第2画像へ移動したときに喪失する画像の領域(削除される領域、削除領域)を、第1画像から除いた第1共通画像、及び、第1画像から第2画像へ移動したときに追加される画像の領域(新たに加わる領域、追加領域)を第2画像から除いた第2共通画像を取得し、第1共通画像と第2共通画像との差分を抽出した第1差分画像を生成し、バッファ234へ格納する。
第2差分処理部232は、第2画像と第3画像とについて、移動量を制御部120から受け、移動量に応じて第2画像から第3画像へ移動したときに喪失する画像の領域を、第2画像から除いた第3共通画像、及び、第2画像から前記第3画像へ移動したときに追加される画像の領域を第3画像から除いた第4共通画像を取得し、第3共通画像と第4共通画像との差分を抽出した第2差分画像を生成し、バッファ235へ格納する。
遅延素子233は、制御部120から出力される移動量が、第2差分処理部で処理する画像データに対応するように時間調整を行う。
バッファ234は、第1差分処理部231が生成した第1差分画像を保持し、バッファ235は、第2差分処理部232が生成した第2差分画像を保持する。バッファ234、235が保持する画像は、後述する処理において、検出部240によって読み出される。
検出部240は、第1差分画像と第2差分画像との重複部分を第2画像に含まれる移動体として検出し、移動体の近傍範囲を移動体の追跡範囲として設定する。具体的には、検出部240は、設定部241、及び、バッファ(対象範囲バッファ)242を備える。
設定部241は、論理積回路を用いて第1差分画像と第2差分画像との重複部分を検出する。そして、論理積回路が検出した重複部分に基づいて、移動体の追跡範囲を設定し、バッファ242へ格納する。
なお、キャプチャ用バッファ12に格納される画像は明るさを表現するので、画像変換器13は、2値画像への変換処理を実施しても輝度信号への変換を実施しても良い。バッファ221、バッファ222及びバッファ223に格納した各画像データ、移動量検出装置100(測定部110、制御部120)、及び、遅延素子233を用いて1フレームに対するカメラ11の移動の割合が計算される。そして、差分画像生成部230及び検出部240を用いて、撮像された画像の中で動く物体(移動体)が検出され、移動体を追跡する対象範囲が設定されバッファ242に保存される。バッファ242に保存された対象範囲を示す情報(例えば、移動体を囲む矩形の領域)が、キャプチャ用バッファ12の画像と共に、ディスプレイ71に表示される。
* 実施形態2の動作
図7に、実施形態2に係る移動体検出装置の処理の流れを示す。図7を参照して動作例を説明する。図7では、撮像装置が横方向に移動する場合について説明する。加えて、図8に、図7に示す各Stepを含む、移動体検出装置200の動作をフローチャートに示す。差分画像生成部230において、第1差分処理部231は、バッファ221、222に第1画像及び第2画像が格納され、制御部120から移動量を取得すると(S21)、第1差分画像生成処理S22、S23を実施する。第2差分処理部232は、バッファ222、223に第2画像及び第3画像が格納され、制御部120から移動量を取得すると(S24)、第2差分画像生成処理S22、S23を実施する。その後、検出部240が検出処理(S27〜S28)によって、移動体を検出し(S27)、検出された情報が出力される(S28)。以下、図7、8を参照して差分画像生成処理及び検出処理について詳細に説明する。
Step1:第1画像と第2画像との移動量の取得(S21)
移動量検出装置100は、バッファ221とバッファ222とに保存された画像I(t−1)及び画像I(t)から、測定部110によってカメラ11の動き量を測定するとともに、制御部120によって移動量を取得する。移動量検出装置100から出力される移動量は、1時刻早いので、時間間隔Tを合わせるために遅延素子33を用い、バッファ221に画像I(t−1)、バッファ222に画像I(t)が保存されたタイミングで処理を実施するように構成する。図7では、Step1で測定部110が取得した移動量を画像I(t)の下に矢印で示す。制御部120は、取得した移動量を第1の差分処理部231へ出力する。
Step2:第1画像と第2画像との共通画像の生成(S22)
カメラ11が動いたことによって、移動量に基づいて画像の移動が生じ、バッファ221の画像I(t−1)には含まれるものの、バッファ222の画像I(t)からは喪失する画像の領域(削除された領域)及びバッファ221の画像I(t−1)には撮像されていないが、バッファ222の画像t(t)に新たに加わる画像の領域(追加された領域)が生じる。そこで、第1差分処理部231は、制御部120から移動量を受け、画像I(t−1)から、削除された領域(右側の右下がり斜線部分の領域)を削除し、第1共通画像を生成する。また、バッファ222の画像I(t)から追加された領域(左側の右上がり斜線部分の領域)を削除し、第2共通画像を生成する。
Step3:第1画像と第2画像との差分画像生成(S23)
Step2で求めた2つの画像の差分をとる。具体的には、第1差分処理部231は、第1共通画像と第2共通画像の差分を抽出した第1差分画像を生成し、バッファ234へ格納する。第1共通画像と第2共通画像とは、背景は同じとなるので、動体の軌跡のみが残る。
Step4:第2画像と第3画像との移動量の取得(S24)
移動量検出装置100は、バッファ222とバッファ223とに保存された画像I(t)及び画像I(t+1)から、測定部110によってカメラ11の動き量を測定するとともに、制御部120によって移動量を取得する。図7では、Step4で測定部110が取得した移動量を画像I(t+1)の下に矢印で示す。制御部120は、取得した移動量を第2の差分処理部232へ出力する。
Step5:第2画像と第3画像との共通画像生成(S25)
カメラ11が動いたことによって、移動量に基づいて画像の移動が生じ、バッファ222の画像I(t)には含まれるものの、バッファ223の画像t(t+1)からは削除される画像の領域(削除された領域)及びバッファ222の画像I(t)には撮像されていないが、バッファ223の画像t(t+1)に新たに加わる画像の領域(追加された領域)が生じる。そこで、第2差分処理部232は、制御部120から移動量を受け、画像I(t)から、消去された領域(右側)を削除し、第3共通画像を生成する。また、バッファ223の画像I(t+1)から追加された領域(左側)を削除し、第4共通画像を生成する。
Step6:第2画像と第3画像との差分画像生成(S26)
Step5で求めた2つの画像の差分をとる。具体的には、第2差分処理部232は、第3共通画像と第4共通画像の差分を抽出した第2差分画像を生成し、バッファ235へ格納する。第3共通画像と第4共通画像とは、背景は同じとなるので、動体の軌跡のみが残る。なお、図6の例にあるバッファ242では、動体の重なった箇所が差分によって消去されている。
Step7:差分画像の重複部分検出(S27)
検出部240の設定部241は、論理積の計算を用いて、バッファ234の第1差分画像とバッファ235の第2差分画像との重複部分を抽出する。言い換えると、第1差分画像と第2差分画像との交わりをとる。そして、抽出した重複部分の近傍を物体追跡の範囲と設定し、設定した範囲を示す情報をバッファ242に格納する。
Step8:移動体情報の出力(S28)
Step7によって得られた物体の近傍を物体追跡の領域を示す図形(例えば、長方形、矩形、あるいは円形等で、移動体追跡の範囲を示すマーク)がキャプチャ用バッファ12に保存されている画像と共にディスプレイ71に表示される。
なお、図8中、説明を容易にするために、ステップS21〜S23と、ステップS24〜S26とを順番に処理するように表している。第1差分処理部231が第1差分画像生成処理(S22〜S23)を実施中であっても、第2差分処理部232は並行して処理を実施することができる。従って、ステップS24において、第2画像と第3画像がバッファ222、223に格納され、第2差分処理部232が第2画像と第3画像との移動量を取得すると、第2差分処理部232は、第1差分画像生成処理と並行して、第2差分画像生成処理(S25〜S26)を開始してもよい。
加えて、第1差分処理部231は、ステップS21で取得した移動量がゼロである場合、第1及び第2共通画像生成処理(S22)を実施することなく、第1画像と第2画像から第1差分画像を生成するように構成することができる。同様に、第2差分処理部232は、ステップS24で取得した移動量がゼロである場合、第3及び第3共通画像生成処理(S25)を実施することなく、第3画像と第4画像から第2差分画像を生成するように構成することができる。
図3に示すように、結果として完全な物体の形状は抽出されないが、今回の目的は物体の場所を探索することであるため、物体の形状の完全な再現は考慮しない。また、図7では、画像が横方向に移動する場合を一例として説明したが、画像が縦方向に移動した場合にも同様の動作によって移動体を検出することができる。
* 実施形態2のメカニズムおよび効果
この適用例は、ユーザが対象となる物体を指定せずに、動く背景の中で動く物体を抽出できる。この技術を用いてAF(AutoFocus)にも適用できる。その他のメカニズム及び効果は、実施形態1と同じである。AFに適用する場合、カメラは、撮像対象とする物体に焦点を合わせた後、任意の時間経過後に撮像対象とする物体が移動している場合に焦点を再度合わせることになる。このとき、カメラは移動体を撮像対象と判断し、移動体を検出する。移動体を検出するときに本発明を適用することができる。
実施形態3.
実施形態2の図7では、撮像装置が横方向に動く場合を一例として説明した。本実施形態では、移動体検出装置200が、横方向及び縦方向に動く撮像装置の画像から移動体を検出する場合を説明する。例えば、差分画像生成部230は、制御部120が取得した移動量として、横方向移動量Pv_x及び縦方向移動量Pv_yを受け、横方向の共通画像(第1〜第4共通画像)を生成し、続いて生成された横方向の共通画像を用いて、縦方向の移動量を加味した共通画像を調整し、共通画像から差分画像(第1差分画像及び第2差分画像)を生成するように構成する。図6の移動体検出装置200を以下に示す動作例を実現するように構成することによって実現できる。
図9に横方向及び縦方向に画像が移動する場合の移動体検出装置の動作例を示す。第1差分処理部231は、制御部120から第1画像及び第2画像の横方向及び縦方向移動量Pv_x、Pv_yを取得すると(S31でYES)、まず、横方向移動量Pv_xを用いて、第1及び第2共通画像を生成する(S32)。第1及び第2共通画像の生成処理は、図8に示すステップS22の処理と同様である。具体的には、横方向移動量Pv_xに応じて、バッファ221が保持する画像I(t−1)、及びバッファ222が保持する画像I(t)から移動に伴ってフレームから除外された領域を削除し、第1及び第2共通画像を生成する。次に、差分処理部231は、縦方向の編集を実施する(S33)。具体的には、第1の差分処理部231は、第1及び第2共通画像に対して、縦方向移動量Pv_yを用いて、図8のステップS22と同様の処理を実施する。言い換えると、差分処理部231は、バッファ221の画像I(t−1)の替わりに第1共通画像を用いい、バッファ222の画像I(t)の替わりに第2共通画像を用いる点が異なるだけで、共通画像を生成する処理は同様である。ステップS33の処理により、横方向と縦方向との移動量に応じた領域が削除される。第1及び第2共通画像が生成されると、差分処理部231は、差分処理を実施し、第1差分画像を生成する(S34)。
第1差分画像及び第2差分画像が生成されると、図8と同様に、検出部240によって移動体検出処理が実施される。
第2差分処理部232は、制御部120から第2画像及び第3画像の横方向及び縦方向移動量Pv_x、Pv_yを取得すると(S35でYES)、まず、横方向移動量Pv_xを用いて、第3及び第4共通画像を生成する(S36)。次に、第2差分処理部232は、縦方向の編集を実施し(S37)、その後、第2差分画像を生成する(S38)。ステップS36〜S38の各処理の詳細は、ステップS32〜S34それぞれと同様であるため説明を省略する。
なお、ステップS32〜S34、S36〜S38において、横方向と縦方向との処理は順番を逆にしてもよいことは言うまでもない。
なお、図8と同様に図9中、説明を容易にするために、ステップS31〜S34と、ステップS35〜S38とを順番に処理するように表している。第1差分処理部231が第1差分画像生成処理(S32〜S34)を実施中であっても、第2差分処理部232は並行して処理を実施することができる。従って、ステップS35において、第2画像と第3画像がバッファ222、223に格納され、第2画像と第3画像との移動量が制御部120によって取得され、第2差分処理部232が第2画像と第3画像との移動量を受け取ると、第2差分処理部232は、第1差分画像生成処理と並行して、第2差分画像生成処理(S36〜S38)を開始してもよい。
加えて、実施形態1の図8と同様に、第1差分処理部231は、ステップS31で取得した横方向移動量Pv_xがゼロである場合、第1及び第2共通画像生成処理(S32)を実施することなく、第1画像と第2画像を第1及び第2共通画像として保持するように構成してもよい。加えて、第1差分処理部231は、縦方向移動量Pv_yがゼロである場合、保持する第1及び第2共通画像を編集することなく差分画像を生成するように構成してもよい。第1差分処理部231は、移動量の値を確認するステップを追加することによって、横方向と縦方向との一方の移動量のみを取り扱う場合には、いずれかの値をゼロに設定することによって、横方向と縦方向との両方あるいは一方のいずれの場合にも適用できるように構成することができる。加えて、処理内容を削減することが可能となる。第2差分処理部232も第1差分処理部231と同様に、横方向と縦方向との両方あるいは一方のいずれの場合にも適用するように構成することができる。
移動体検出装置200が図9に示す動作を実施することにより、移動体が横方向と縦方向との一方または両方に動いた場合にも移動体を検出することができる。撮像装置を固定してゆっくりと動く被写体を撮像する場合、例えば、防犯用カメラが撮像するセキュリティ画像などでは、撮像装置自体の動き量はゼロであり、移動量としてはゼロの値が取得される。撮像装置を動かして速く動く被写体を撮像する場合、例えば、球技でのボール、格闘技などの動きの速いスポーツ競技者などでは、撮像装置自体の動き量に応じて移動量が取得できる。
実施形態4.
図1では、測定部110が加速度センサ111を備える例を説明したが、さらに増幅器・A/D(Analog/Digital)変換器112を備える場合であってもよい。図10に構成例を示す。例えば、加速度センサ111が移動量をアナログデータとして出力する場合には、増幅器・A/D変換器112により移動量の増幅、アナログデータからデジタルデータへの変換が実施される。
加えて、図1及び図10では、加速度センサ111を用いて測定部110を構成する場合を示しているが、例えば、ジャイロセンサなどその他の測定機器を用いて測定部110を構成することも可能である。撮像装置の動き量を測定できる機器であれば他の機器を用いて実現する場合であってもよい。
その他の実施形態.
上記各実施形態で説明した移動量検出装置における制御部120の処理は、プログラムで実現することも可能である。プログラムは、コンピュータに例えば図11の各処理を実行させる。まず、予め分割個数と移動量取得情報とを、プログラムが参照可能な記録領域(メモリ)に格納する情報格納処理を実施する(S41)。次に、測定部110から測定された動き量が受け渡されるのを待ち受ける(S42)。動き量を受け取ると(S42でYes)、移動量取得情報を格納した記録領域から読み出し、動き量に応じた移動量を取得する(S43)。移動量取得情報を関数で実現する場合、プログラムは、動き量を用いた演算処理を実施することによって移動量を取得するように作成される。移動量取得情報をテーブルによって実現する場合、プログラムは、当該テーブルを検索して動き量に対応する移動量を取得するように作成される。
加えて、図8または図9に示した移動体の検出は、プログラムで実現することも可能である。プログラムは、上述したステップS41〜S43の各処理に加え、次の処理をコンピュータに実行させる。以下の処理の説明では、説明をわかりやすくするため、図6に示す構成例の各構成要素を用いて説明する。図6に示す各バッファは、プログラムが読み書き可能な記録領域によって構成されていればよい。
バッファ221、222に画像I(t−1)(第1画像)と、画像I(t)(第1画像に続く第2画像)とが格納されると、図11に示す各処理に従って、画像I(t−1)と画像I(t)との移動量(以降、第1の移動量とする)が取得される。
第1の移動量を受け取ると、第1の移動量に応じて画像I(t−1)から画像I(t)へ移動したときに喪失する領域を、画像I(t−1)から除いた第1共通画像、及び、画像I(t−1)から画像I(t)へ移動したときに追加される領域を画像I(t)から除いた第2共通画像を取得する(第1及び第2共通画像生成処理)。次に、第1共通画像と第2共通画像との差分を抽出した第1差分画像を生成し、バッファ234へ格納する(第1差分画像生成処理)。
バッファ222、223に画像I(t)と、画像I(t+1)(第2画像に続く第3画像)とが格納されると、図11に示す各処理に従って、画像I(t)と画像I(t+1)との移動量(以降、第2の移動量とする)が取得される。
第2の移動量を受け取ると、第2の移動量に応じて画像I(t)から画像I(t+1)へ移動したときに喪失する領域を、画像I(t)から除いた第3共通画像、及び、画像I(t)から画像I(t+1)へ移動したときに追加される領域を画像I(t+1)から除いた第4共通画像を取得する(第3及び第4共通画像生成処理)。次に、第3共通画像と第4共通画像との差分を抽出した第2差分画像を生成し、バッファ235へ格納する(第2差分画像生成処理)。
第1差分画像と第2差分画像とが各バッファに格納されると、第1差分画像と第2差分画像との重複部分を、画像I(t)に含まれる移動体として検出し、移動体の近傍範囲を移動体の追跡範囲として設定する(移動体領域検出処理)。
上述の例において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
上記各実施形態では、2軸の加速度センサを用いる場合を一例として説明したが、これに限られるわけではない。例えば、横方向あるいは縦方向のいずれか一方の移動体を検出する移動体検出装置である場合には、2軸の加速度センサを用いることなく、横方向あるいは縦方向のいずれか一方の加速度を検出可能な加速度センサを用いることができる。このような場合、図1に示す測定部110は、横方向あるいは縦方向のいずれか一方の動き量を測定する。制御部120は、横方向あるいは縦方向のいずれか一方の移動量を取得し、出力する。例えば、監視カメラなどの動きが一定の範囲に特定されている画像について、移動体を検出する場合には、横方向あるいは縦方向のいずれか一方の処理を実施する場合が適用可能である。また、横方向あるいは縦方向のいずれかに限られることなく、加速度センサが一つの振動周波数を測定することによって検出できる一つの方向の動きであれば、一つの動き量と一つの移動量とを用いて移動量検出装置及び移動体検出装置を実現することができる。
なお、本発明は上記に示す実施形態に限定されるものではない。本発明の範囲において、上記実施形態の各要素を、当業者であれば容易に考えうる内容に変更、追加、変換することが可能である。
11 カメラ
12 キャプチャ用バッファ
13 画像変換器
71 ディスプレイ
100 移動量検出装置
110 測定部
111 加速度センサ
112 増幅器・A/D変換器
120 制御部
121 情報保持部
200 移動体検出装置
220 バッファメモリ
230 差分画像生成部
221〜223、234〜235、242 バッファ
231 第1差分処理部
232 第2差分処理部
233 遅延素子
240 検出部
241 設定部

Claims (11)

  1. 撮像装置が第1画像と第2画像とを撮像する間に前記撮像装置が動いた動き量を測定する測定部と、
    前記第1画像及び前記第2画像それぞれのフレームを複数の領域に分割する個数を指定する分割個数、及び、前記動き量と、前記第1画像に対して前記第2画像が移動した領域の数を示す移動量とを対応づける移動量取得情報を保持し、前記動き量を測定部から受け、前記移動量取得情報を用いて前記動き量に応じた前記移動量を出力する制御部と、を備える移動量検出装置。
  2. 前記制御部は、前記分割個数として2のべき乗の値を保持することを特徴とする請求項1記載の移動量検出装置。
  3. 前記制御部は、前記移動量取得情報として、前記移動量の絶対値が、ゼロから前記分割個数未満の範囲の整数となる情報を保持することを特徴とする請求項2記載の移動量検出装置。
  4. 前記制御部は、前記移動量取得情報に基づいて、前記フレームの対向する二つの端部のうち、一方の端部を基点とし、他方の端部を前記分割個数から1を差し引いた数値を設定する座標をしたときに、前記基点から移動した位置までの座標上の整数値を移動量として対応づけるように構成されていることを特徴とする請求項1または2記載の移動量検出装置。
  5. 前記測定部は、加速度センサにより構成されていることを特徴とする請求項1乃至4のいずれか一項に記載の移動量検出装置。
  6. 第1画像、前記第1画像に続く第2画像、及び、前記第2画像に続く第3画像を格納するバッファと、
    撮像装置が二つの画像を撮像する間に前記撮像装置が動いた動き量を測定する測定部と、
    前記画像のフレームを複数の領域に分割する個数を指定する分割個数、及び、前記動き量と、一つの画像に対して前記一つの画像に続く画像が移動した領域の数を示す移動量とを対応づける移動量取得情報を保持し、前記動き量を測定部から受け、前記移動量取得情報を用いて前記動き量に応じた前記移動量を出力する制御部と、
    前記制御部から前記移動量として、前記第1画像と前記第2画像との間の第1の移動量を受け、前記第1の移動量に応じて前記第1画像から前記第2画像へ移動したときに喪失する領域を、前記第1画像から除いた第1共通画像、及び、前記第1画像から前記第2画像へ移動したときに追加される領域を前記第2画像から除いた第2共通画像を取得し、前記第1共通画像と前記第2共通画像との差分を抽出した第1差分画像を生成する第1差分処理部と、
    前記制御部から前記移動量として、前記第2画像と前記第3画像との間の第2の移動量を受け、前記第2の移動量に応じて前記第2画像から前記第3画像へ移動したときに喪失する領域を、前記第2画像から除いた第3共通画像、及び、前記第2画像から前記第3画像へ移動したときに追加される領域を前記第3画像から除いた第4共通画像を取得し、前記第3共通画像と前記第4共通画像との差分を抽出した第2差分画像を生成する第2差分処理部と、
    前記第1差分画像と前記第2差分画像との重複部分を、前記第2画像に含まれる移動体として検出し、前記移動体の近傍範囲を前記移動体の追跡範囲として設定する検出部と、を備える移動体検出装置。
  7. 前記制御部は、前記分割個数として2のべき乗の値を保持し、
    前記制御部は、前記移動量取得情報として、前記移動量の絶対値が、ゼロから前記分割個数未満の範囲の整数である情報を保持することを特徴とする請求項6記載の移動体検出装置。
  8. 前記第1差分処理部は、前記分割個数と同じビット数のレジスタに前記第1の移動量を保持し、前記第1の移動量の絶対値の数の領域を前記第1画像から削除して前記第1共通画像を取得し、前記移動量の絶対値の数の領域を前記第2画像から削除して前記第2共通画像を取得し、
    前記第2差分処理部は、前記分割個数と同じビット数のレジスタに前記移動量を保持し、前記第2の移動量の絶対値の数の領域を前記第2画像から削除して前記第3共通画像を取得し、前記第2の移動量の絶対値の数の領域を前記第3画像から削除して前記第4共通画像を取得することを特徴とする請求項7記載の移動体検出装置。
  9. 前記第1差分処理部は、前記第1画像と前記第2画像それぞれの基点を前記第1の移動量に基づいて決定し、前記第1の移動量を座標上の値として取り扱い、前記第1画像について、前記基点から前記第1の移動量が示す値の領域を削除して前記第1共通画像を取得し、前記第2画像について、前記基点から前記第1の移動量を反転させた値が示す値の領域を削除して前記第2共通画像を取得し、
    前記第2差分処理部は、前記第2画像と前記第3画像それぞれの基点を前記第2の移動量に基づいて決定し、前記第2の移動量を座標上の値として取り扱い、前記第2画像について、前記基点から前記第2の移動量が示す値の領域を削除して前記第3共通画像を取得し、前記第3画像について、前記基点から前記第2の移動量を反転させた値が示す値の領域を削除して前記第4共通画像を取得することを特徴とする請求項8記載の移動体検出装置。
  10. 複数の画像に存在する任意の物体のフレーム内の位置が、撮像装置が動いた動き量に応じて移動する移動量を検出する移動量検出方法であって、
    第1画像及び第2画像それぞれのフレームを複数の領域に分割する個数を指定する分割個数、及び、前記動き量と、前記第1画像に対して前記第2画像が移動した領域の数を示す移動量とを対応づける移動量取得情報を記録領域に保持し、
    測定手段を用いて、前記撮像装置が前記第1画像と前記第2画像とを撮像する間の前記動き量を測定し、
    前記測定手段が測定した結果を受けると、前記移動量取得情報を用いて前記動き量に応じた前記移動量を出力する移動量検出方法。
  11. 複数の画像に存在する任意の物体のフレーム内の位置が、撮像装置が動いた動き量に応じて移動する移動量を検出する移動量検出方法を実現するプログラムであって、
    コンピュータに、
    第1画像及び第2画像それぞれのフレームを複数の領域に分割する個数を指定する分割個数、及び、前記動き量と、前記第1画像に対して前記第2画像が移動した領域の数を示す移動量とを対応づける移動量取得情報を記録領域に保持する処理と、
    前記撮像装置が前記第1画像と前記第2画像とを撮像する間の前記動き量を測定した結果を受ける処理と、
    前記移動量取得情報を用いて前記動き量に応じた前記移動量を出力する処理と、を実行させるプログラム。
JP2012009525A 2012-01-20 2012-01-20 移動量検出装置、移動体検出装置及び移動量検出方法 Expired - Fee Related JP5798497B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012009525A JP5798497B2 (ja) 2012-01-20 2012-01-20 移動量検出装置、移動体検出装置及び移動量検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012009525A JP5798497B2 (ja) 2012-01-20 2012-01-20 移動量検出装置、移動体検出装置及び移動量検出方法

Publications (2)

Publication Number Publication Date
JP2013149110A true JP2013149110A (ja) 2013-08-01
JP5798497B2 JP5798497B2 (ja) 2015-10-21

Family

ID=49046543

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012009525A Expired - Fee Related JP5798497B2 (ja) 2012-01-20 2012-01-20 移動量検出装置、移動体検出装置及び移動量検出方法

Country Status (1)

Country Link
JP (1) JP5798497B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05284346A (ja) * 1992-03-31 1993-10-29 Matsushita Electric Ind Co Ltd 色変換装置
JPH06203163A (ja) * 1993-01-06 1994-07-22 Nec Corp 移動物体検出方法および装置
JPH07160891A (ja) * 1993-12-07 1995-06-23 Toshiba Corp 画像監視装置
WO2001003005A1 (fr) * 1999-06-30 2001-01-11 Sharp Kabushiki Kaisha Appareil d'enregistrement d'informations de recherche d'images dynamiques et dispositif de recherche d'images dynamiques
JP2005070985A (ja) * 2003-08-22 2005-03-17 Sony Corp 画像処理装置および方法、並びにプログラム
WO2012006253A1 (en) * 2010-07-05 2012-01-12 Apple Inc. Operating a device to capture high dynamic range images

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05284346A (ja) * 1992-03-31 1993-10-29 Matsushita Electric Ind Co Ltd 色変換装置
JPH06203163A (ja) * 1993-01-06 1994-07-22 Nec Corp 移動物体検出方法および装置
JPH07160891A (ja) * 1993-12-07 1995-06-23 Toshiba Corp 画像監視装置
WO2001003005A1 (fr) * 1999-06-30 2001-01-11 Sharp Kabushiki Kaisha Appareil d'enregistrement d'informations de recherche d'images dynamiques et dispositif de recherche d'images dynamiques
JP2005070985A (ja) * 2003-08-22 2005-03-17 Sony Corp 画像処理装置および方法、並びにプログラム
WO2012006253A1 (en) * 2010-07-05 2012-01-12 Apple Inc. Operating a device to capture high dynamic range images

Also Published As

Publication number Publication date
JP5798497B2 (ja) 2015-10-21

Similar Documents

Publication Publication Date Title
US8988529B2 (en) Target tracking apparatus, image tracking apparatus, methods of controlling operation of same, and digital camera
US8274570B2 (en) Image processing apparatus, image processing method, hand shake blur area estimation device, hand shake blur area estimation method, and program
US11770619B2 (en) Generating static images with an event camera
KR101939628B1 (ko) 모션 검출 방법 및 모션 검출기
US20060251409A1 (en) Imaging apparatus and method for processing imaging results
JP2014150443A (ja) 撮像装置、その制御方法及びプログラム
JP2009200713A (ja) 画像処理装置、画像処理方法、プログラム
KR20130142913A (ko) 이벤트 기반 이미지 처리 장치 및 그 장치를 이용한 방법
US20130329063A1 (en) Noise reduction based on motion sensors
CN110475073A (zh) 用于视频记录和编辑助理的方法
JP2010114752A (ja) 撮像装置及び撮像方法及びプログラム
US20170278288A1 (en) Image processing apparatus, image processing method, and computer-readable recording medium
KR101642055B1 (ko) 모션 블러 인식 시각적 포즈 추적
CN111163267A (zh) 一种全景视频剪辑方法、装置、设备及存储介质
US10129449B2 (en) Flash band, determination device for detecting flash band, method of controlling the same, storage medium, and image pickup apparatus
JP4875564B2 (ja) フリッカ補正装置及びフリッカ補正方法
JP2012080251A (ja) 画像処理装置、画像処理方法及びプログラム
JP5798497B2 (ja) 移動量検出装置、移動体検出装置及び移動量検出方法
JP2015019231A (ja) 撮像装置及び像振れ補正処理方法
JP2011253381A (ja) 目標追跡装置及び目標追跡方法
JP2019021990A (ja) 画像処理装置、画像処理方法、及びプログラム
KR101741150B1 (ko) 영상에디팅을 수행하는 영상촬영장치 및 방법
JP2017174094A (ja) 画像処理装置、画像処理方法及びプログラム
JP2009027437A (ja) 画像処理装置,画像処理方法及び撮像装置
US20150271381A1 (en) Methods and systems for determining frames and photo composition within multiple frames

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140814

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150519

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150811

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150821

R150 Certificate of patent or registration of utility model

Ref document number: 5798497

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees