JP2014187484A - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP2014187484A JP2014187484A JP2013060125A JP2013060125A JP2014187484A JP 2014187484 A JP2014187484 A JP 2014187484A JP 2013060125 A JP2013060125 A JP 2013060125A JP 2013060125 A JP2013060125 A JP 2013060125A JP 2014187484 A JP2014187484 A JP 2014187484A
- Authority
- JP
- Japan
- Prior art keywords
- image
- frame
- ball
- image processing
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】撮像装置1は、フレームアウト画像特定部56と、ボール検出部58とを備えている。フレームアウト画像特定部56は、連続的に撮像された各画像から、計測対象の物体の一例であるボールが存在しなくなる、フレームアウト画像を特定する。ボール検出部58は、フレームアウト画像を基準として、連続的に撮像された各画像から計測対象の物体を探索する。
【選択図】図2
Description
このような連続画像の解析の1つとして、連続画像から、移動するボールを検出する技術が知られている(例えば特許文献1及び2参照)。
そこで、計測対象の物体以外の動体が画像中に存在する場合でも、精度良く計測対象の物体を検出することが要望されている。
連続的に撮像された各画像から、計測対象の物体のフレームアウト直前の画像を特定する特定手段と、
前記特定手段により特定された前記フレームアウト直前の画像を基準として、前記連続的に撮像された各画像から前記計測対象の物体の領域を検出する検出手段と、
を備えることを特徴とする。
撮像装置1は、例えばデジタルカメラして構成される。
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
例えば、画像処理部41は、撮像部17から出力される画像のデータに対して、ノイズ低減、ホワイトバランスの調整、手ぶれ補正等の画像処理を施す。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部17の出力信号として出力される。
このような撮像部17の出力信号を、以下、「撮像画像のデータ」と呼ぶ。撮像画像のデータは、CPU11や画像処理部14等に適宜供給される。
出力部19は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部20は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部21は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
本実施形態では、精度良いボールの追跡を可能にすべく、撮像装置1は、移動するボールがカメラの撮像範囲から外れて撮像されなくなった(被写体として含まれなくなった)フレーム(以下、「フレームアウト画像」と呼ぶ)を特定する。そして、撮像装置1は、当該フレームアウト画像に基づいて、ボール速度推定アルゴリズムを逆時系列順に適用することで、ボールの軌跡及び速度を算出する。
ここで、ボール速度推定アルゴリズムとは、処理対象の連続画像の輝度画像から、分離度マップ(処理対象と同一解像度の画像であって、各画素値として分離度が採用されている画像)を生成し、ボールが等速直線運動をしているという仮定の下で分離度の高い地点(画素)を結ぶことによって、ボールの軌跡を算出すると共に、当該ボールの速度を算出するためのアルゴリズムをいう。分離度を含め、ボール速度推定アルゴリズムの詳細は、特許文献1に既に開示されているので、ここではその説明は省略する。
詳細については後述するが、本実施形態では、ボール速度推定アルゴリズムが適用されるに際し、ゴルフクラブとボールとの関係から適応的に各種閾値が自動的に設定されて用いられるので、特許文献1における場合と比較して推定の精度が向上する。
記憶部20の一領域として、動画記憶部61と、対象画像記憶部62とが設けられる。
動画記憶部61には、ゴルフのスイングの動作の様子が夫々映る1以上の動画像のデータが予め記憶されている。なお、動画記憶部61に記憶される動画像のデータは、撮像部17により撮像された撮像画像のデータであってもよいし、図示せぬ他の装置から送信されて通信部21に受信された画像のデータであってもよい。
対象画像記憶部62には、動画記憶部61に記憶された1以上の動画像のデータのうち、ボール速度算出処理の対象となるデータ、即ちボールの軌跡及び速度の算出の対象となる動画像のデータが記憶される。
即ち、ボールのショットのシーンの前の処理として、ショットの前まではボールは静止しており速度は0であるため、ショット直前のゴルフクラブの速度を算出する処理が実行される。以下、このような処理を、「ショット前の速度算出処理」と呼ぶ。
一方、ボールのショットのシーンの後の処理として、ショット後に移動する(飛んでいく)ボールの軌跡を算出する処理(以下、「ショット後のボール検出処理」と呼ぶ)が実行されて、ボールの速度を算出する処理が実行される。
ここで、ショットフレームとは、ショットの瞬間が映るフレームであり、既知のアルゴリズムにより特定されているものとする。また、ショットフレーム内のボールの位置も既に特定されているものとする。
以下、特許文献1に記載の分離度の算出の手法の概要について説明する。
例えば、所定のフレーム(画像)における所定の座標(x,y)に位置する画素が、注目画素に設定されるものとする。移動物体の半径が「ro」とされ、移動物体の振れ幅範囲が「r」とされた場合、注目画素を中心として、座標(x−2r,y−2r0)、座標(x−2r,y+2r0)、座標(x+2r,y−2r0)、及び座標(x+2r,y+2r0)の夫々4点を頂点とする矩形領域が全体領域A0に設定される。また、全体領域A0のうち、座標(x−r,y−r0)、座標(x−r,y+r0)、座標(x+r,y−r0)、及び座標(x+r,y+r0)を頂点とする矩形領域が第1領域A1に設定され、第1領域A1以外の領域が第2領域A2に設定される。
ここで、全体領域A0について、画素数が「N」と、各画素値(輝度値)が「Pi」と、画素値平均が「Pmave」と、夫々記述され、第1領域A1について、画素数が「n1」と、画素値平均が「P1ave」と、夫々記述され、第2領域A2について、画素数が「n2」と、画素値平均が「P2ave」と、夫々記述された場合に、注目画素の分離度ηは、次式(1)により算出される。
式(1)の分離度ηは、全体領域A0全体の変動に占める第1領域A1と第2領域A2との領域間の変動の割合を示しており、領域間を最良に分離するときに最大値をとるようになっている。
ここで、式(1)の分離度ηは、0〜1の範囲に正規化された値であるため、異なる大きさや形状の領域に適用しても単純に比較することができる点で有用である。
なお、当該手法のさらなる詳細については、特許文献1を参照するとよい。
このように差分分離度マップが算出される理由は、静止物体の影響を除去することができるからである。つまり、背景に移動物体と大きさが略等しい静止物体(或いは、図柄模様を有する物体等)が存在する場合には、当該静止物体の領域における分離度が、移動物体の領域と同様に高くなり、分離度に基づくボールの位置の算出が行われる場合には、当該静止物体の位置がボールの位置と誤認されるおそれがある。そこで、隣接するフレームに対応する各分離度マップの差分を取ることで、即ち差分分離度マップが生成されることで、この静止物体の領域における差分値は略0になるため、当静止静物体の影響を除去することが可能になる。
なお、分離度の差分のさらなる詳細については、特許文献1を参照するとよい。
即ち、差分分離度マップで表される各画素位置の分離度の差分は、背景画像中の静止物体の影響が除去された、各画素位置の移動物体(ここではゴルフクラブ)が存する確度に係る評価値を表している。
そこで、クラブ速度算出部54は、ゴルフクラブの移動が予測される領域内において、評価値を累積し、その累積値に基づいてゴルフクラブの速度を算出する。
なお、移動物体(ここではゴルフクラブ)の速度の算出の手法のさらなる詳細については、特許文献1を参照するとよい。
その後、処理対象の各フレームのデータ毎に、分離度算出部52により分離度マップが夫々算出され、差分分離度算出部53により差分分離度マップが夫々算出される。
例えば、処理対象の所定フレームに対応する差分分離度マップFTのうち、右下の領域CAが、ゴルフのボールの移動が予想される領域であるものとする。この領域CAは、座標(x1,y1)、座標(xn,y1)、座標(x1,ym)、及び座標(xn,ym)の夫々4点を頂点とする矩形領域とされている。ここで、nは、1以上の整数値であるものとする。即ち、領域CAの長辺の長さ(X軸方向の長さ)は、n画素分の長さとされている。具体的には例えば、本実施形態では、nは、水平ラインの全画素数の4/5であるものとする。一方、mは、1以上の整数値であってnとは独立した整数値であるものとする。即ち、領域CAの短辺の長さ(Y軸方向の長さ)は、m画素分の長さとされている。具体的には例えば、本実施形態では、mは、垂直ラインの全画素数の1/2であるものとする。
この場合、指標値算出部55は、処理対象の所定フレームに対応する差分分離度マップFTのうち、領域CAの各X座標毎に、Y軸方向への差分分離度の累積加算値を、指標値として算出する。
即ち、X座標xi(iは、1乃至nのうち何れかの整数値)における指標値T[xi]は、次の式(2)により算出される。
即ち、処理対象の所定フレームについて、n個(領域CAのX方向の画素数分)の指標値T[x1]乃至T[xn]が算出される。つまり、本実施形態では、処理対象の15フレーム毎に、n個の指標値T[x1]乃至T[xn]が夫々算出される。
具体的には本実施形態では、フレームアウト画像特定部56は、処理対象の15フレームの中から、指標値T[x1]乃至T[xn]の中に閾値以上のものが存在するフレームを特定する。
ここで、閾値は、ボールが存在する確度が一定以上となる指標値に基づいて任意に設定される。なお、当該閾値を、後述の他の閾値と明確に区別すべく、「第1閾値」と呼ぶ。即ち、注目フレームにおいて第1閾値以上の指標値T[xi]があるということは、注目フレームにおける領域CAのX座標xiの位置(Y軸方向についてはY座標y1乃至ymのうちの何れかの位置)に、一定の確度以上でボールが位置することを意味する。
従って、ゴルフのボールが、動画像においては相対的に左から右方向に移動していくものとすると、当該ボールがカメラの撮像範囲内で移動中の場合(その様子が映っているフレームが連続している場合)、第1閾値以上の指標値T[xi]のx座標xiは、直前のフレームに対して右に移行しているはずである。そして、当該ボールがカメラの撮像範囲の外に移動した段階のフレーム、即ちフレームアウト画像になると、第1閾値以上の指標値T[xi]は急に存在しなくなるはずである。
そこで、フレームアウト画像特定部56は、処理対象の15フレームの中から、第1閾値以上の指標値T[xi]が存在するフレームを特定すると、次以降のフレームについて、第1閾値以上の指標値T[xi]を追跡していき、それが右に移動していき急に存在しなくなると、その時点のフレームをフレームアウト画像と特定する。
なお、フレームアウト画像の特定のより詳細な処理については、図8のフローチャートを参照して後述する。
閾値の可変設定の手法は、特に限定されないが、本実施形態では、対象画像記憶部62に記憶されている動画像の各データの輝度に基づいて閾値を設定する、という手法が採用されている。これにより、対象画像記憶部62に記憶されている動画像に応じた、即ち処理対象に応じた適切な閾値の設定が可能になる。
以下、図4及び図5を適宜参照しつつ、ボールの検出の手法の一例について説明する。
ボール検出部58は、終端画像FFの領域CA内で、差分分離度が第2閾値以上の画素を検出する。
ここで、第2閾値は、ボールが存在する確度が一定以上となる分離度に基づいて任意に閾値設定部57により、第1閾値とは独立して別途設定される。即ち、終端画像FFの領域CAにおいて第2閾値以上の差分分離度を有する画素とは、一定の確度以上でボール(その少なくとも一部)を示す画素、即ち(動画像中で最後に写っている)ボールの画素の候補であることを意味する。
そこで、ボール検出部58は、先ず、終端画像FFの領域CAの中から、第2閾値以上の差分分離度を有する1以上の画素の各々を、(動画像中で最後に写っている)ボールの画素の候補として検出する。なお、図4の例では、領域CAのうち白い領域が、第2閾値以上の差分分離度を有しているので、当該白い領域内の各画素が検出されることになる。
この場合、ボール検出部58による検出の範囲は、フレーム全体とされてもよいが、範囲が広がるほど処理量が増大して処理時間を要するようになる。そこで、本実施形態では、処理量の軽減及び処理時間の短縮等を目的として、図5に示すように、ボールの移動の軌跡が含まれている可能性が高い平行四辺形の領域が、ボール検出部58による検出の範囲の領域(以下、「検出領域」と呼ぶ)として採用されている。
図5は、ボールの検出の手法を説明するための図であって、検出領域の一例を示す図である。
図5の例では、終端画像FFにおける(動画像中で最後に写っている)ボールの画素の候補が始点とされて、ボールの初期位置(ショットフレーム内のボールの位置)の方向に伸ばされた平行四辺形の領域が、検出領域として設定されている。ここで、長さaは、始点と初期位置までの距離と、ボールの大きさ(フレーム内の相対的なサイズ)とが加算された長さが設定される。長さbは、ボールの大きさに準じて設定される。
なお、本実施形態で検出領域として平行四辺形が採用されている理由は、次の通りである。即ち、ボールは最初に置かれていた点(初期位置)から直線で移動する(飛んでいく)と予測されるので、終端画像でボールがあると指定される点(ボールの画素の候補の点)からボールの初期位置までの直線上でボールが検出される。ただし、実際には全くずれなく直線状にボールの軌跡が乗っていることは稀であるので、ボールの直径程度の長さa(高さa)を持った平行四辺形が検出領域として採用されるのである。
即ち、平行四辺形の検出領域の範囲内の当該組み合わせに属する複数の線分の夫々について、累積加算値が1つずつ求められる。
ここで、空間的に等間隔となるように差分分離度を累積加算するとは、次のような演算をいう。即ち、例えば第1のフレームについての第1の差分分離度が加算されて、第2のフレーム(再生順番的には第1のフレームに対して1つ前のフレーム)についての第2の差分分離度が加算され、さらに第3のフレーム(再生順番的には第2のフレームに対して1つ前のフレーム)についての第3の差分分離度が加算されるものとする。この場合、第1の差分分離度の第1画素(第1のフレーム内)、第2の差分分離度の第2画素(第2のフレーム内)、及び第3の差分分離度の第3画素(第3のフレーム内)は、注目線分上で等間隔に配置された各点になる。即ち、前回のフレーム(再生順番的には1つ後のフレーム)において差分分離度が累積加算された注目線分上の点(前回のフレーム内の画素)の対応点が今回のフレーム内の画素から特定され、当該今回のフレーム内において、当該対応点に対して、等間隔で左下側に離れた点(今回のフレーム内の画素)における差分分離度が累積加算される。
この場合注目線分上において等間隔で分割される数は、終端画像からショット画像までの枚数に応じて可変に設定され、また、その幅は、事前のクラブ速度算出部54により実行されたショット前の速度算出処理の結果に応じて設定される。即ち、その幅はゴルフクラブの速度(動き)から算出されるボールの速度に応じて可変に設定される。
ボール検出部58は、平行四辺形の検出領域の範囲内の複数の線分のうち、最大の累積加算値となる線分を、ボールの軌跡の候補を示す線分として特定する。
ここで、終端画像にはボールの候補となる複数の画素が存在する場合がある、この場合、複数の画素毎に(ボールの各候補毎に)、平行四辺形の検出領域が1つずつ設定される。従って、複数の平行四辺形の検出領域毎に、ボールの軌跡の候補を示す線分が1つずつ特定されることになる。
そこで、ボール検出部58は、これら複数の平行四辺形の検出領域毎の、ボールの軌跡の候補を示す線分のうち、最大の累積加算値となる線分を、ボールの軌跡として特定する。
ボールの軌跡が算出されると、図2に示すCPU11又は画像処理部14においては、ボール速度算出部59が機能する。
ボール速度算出部59は、ボールの軌跡の算出結果に基づいて、ボールの速度を算出する。
図6は、図2の機能的構成を有する画像処理装置1が実行する、ボール速度算出処理の流れを説明するフローチャートである。
ボール速度算出処理は、ゴルフのフォームの動画像のデータが図2の動画記憶部61に1つ以上記録された状態で、所定の条件を満たすと開始され、次のような一連の処理が実行される。
ショット前部分の速度算出処理の詳細については、図7を参照して後述する。
ショット後部分のボール検出処理の詳細については、図8及び図9を参照して後述する。
これにより、ボール速度算出処理は終了となる。
図7は、図6のボール速度算出処理のうち、ステップS2のショット前部分の速度算出処理の詳細な流れを説明するフローチャートである。
ステップS2のショット前部分の速度算出処理は、ステップS1において処理対象の動画像のデータが決定されて対象画像記憶部62に記憶されると開始され、次のような一連の処理が実行される。
これにより、ショット前部分の速度算出処理が終了し、即ち図6のステップS2の処理が終了し、処理はステップS3に進む。
図8は、図6のボール速度算出処理のうち、ステップS3のショット後部分のボール検出処理の詳細な流れを説明するフローチャートである。
ステップS3のショット後部分のボール検出処理は、上述したようにステップS2のショット前部分の速度算出処理が終了すると開始され、次のような一連の処理が実行される。
注目フレームのn個の指標値の中に、第1閾値以上のものが1つも存在しない場合、注目フレームの所定領域の中に、移動するボールが未だ含まれていないと判断され、ステップS46においてNOであると判定されて、処理はステップS47に進む。ステップS47において、フレームアウト画像特定部56は、次のフレームを注目フレームに設定する。これにより、処理はステップS46に戻され、それ以降の処理が繰り返される。
即ち、ショットフレーム直後の処理対象の15フレームの夫々が時系列の順番(順再生の順番)で注目フレームに順次設定されていき、第1閾値以上の指標値が存在するか否かが順次判定されていく。
第1閾値以上の指標値が存在するフレームが注目フレームになると、当該注目フレームの移動するボールが含まれていると判断され、ステップS46においてYESであると判定されて、処理はステップS48に進む。
ステップS51において、フレームアウト画像特定部56は、注目フレームの次のフレームを、フレームアウト画像として特定する。
これにより、処理は、ステップS52の逆時系列順のボール検出処理に進む。ただし、ステップS52以降の処理については、図9を参照して後述する。
ステップS49において、フレームアウト画像特定部56は、第1閾値以上の指標値のX座標が、注目フレームよりも次のフレームの方が右方にあるか否かを判定する。
第1閾値以上の指標値のX座標が、注目フレームよりも次のフレームの方が右方にある場合とは、注目フレームとその次のフレームの何れにも、ゴルフクラブでショットされて右方向に移動し続けるボールが含まれている場合、即ち次のフレームは未だフレームアウト画像ではない場合である。
このような場合、ステップS49においてYESであると判定されて、処理はステップS50に進む。ステップS50において、フレームアウト画像特定部56は、次のフレームを注目フレームに設定する。これにより、処理はステップS48に戻され、それ以降の処理が繰り返される。
即ち、所定領域にボールが含まれる(第1閾値以上の指標値が存在する)と判断された後の処理対象の各々の夫々が時系列の順番(順再生の順番)で注目フレームに順次設定されていき、第1閾値以上の指標値が存在するか否かが順次判定されていく。第1閾値以上の指標値のX座標(ボールが存在すると算出されるX座標)が、注目フレームと比較して次のフレームの方が右方にあり続ける場合には、注目フレームとその次のフレームの何れにも、ゴルフクラブでショットされて右方向に移動し続けるボールが含まれていると判断されて、ステップS48乃至S50のループ処理が繰り返し実行される。
ここで、ステップS48においてNOであると判定される場合とは、上述したように、注目フレームの所定領域では、移動するボールが含まれていたのに対して、その次のフレームの所定領域では、移動するボールが(外部に出てしまって)含まれなくなったと判断される場合を意味する。また、ステップS49においてNOであると判定される場合とは、注目フレームの次のフレームの所定領域に含まれる第1の閾値以上の指標値は、移動するボールについてのものではなく(ボールが急激に逆移動するとは考えにくく)、ノイズや別の移動物体についてのものであり、結果として、その次のフレームの所定領域では、移動するボールが(外部に出てしまって)含まれなくなったと判断される場合を意味する。
従って、ステップS48又はステップS49においてNOであると判定されると、処理はステップS51に進む。
ステップS51において、フレームアウト画像特定部56は、注目フレームの次のフレームを、フレームアウト画像として特定する。
図9は、図8のショット後部分のボール検出処理のうち、ステップS52の逆時系列順のボール検出処理の詳細な流れを説明するフローチャートである。
ステップS52の逆時系列順のボール検出処理は、上述したようにステップS51においてフレームアウト画像が特定されると開始され、次のような一連の処理が実行される。
上述したように、終端画像内で分離度が第2閾値よりも高い画素とは、終端画像内でのボール(その少なくとも一部)を示す画素の候補(以下、「ボール画素候補」と呼ぶ)であることを意味している。
従って、終端画像内で差分分離度が第2閾値よりも高い画素が存在しない場合とは、ボール画素候補が存在しない場合を意味している。この場合、ステップS61においてNOであると判定されて、逆時系列順のボール検出処理は終了となる。即ち、図8のショット後のボール検出処理自体も終了となり、処理は図2のステップS3からS4に進む。
ステップS62において、ボール検出部58は、終端画像内で差分分離度が第2閾値よりも高い画素のうち、未だ注目画素に設定されていない画素を、注目画素に設定する。即ち、所定の1つのボール画素候補が注目画素に設定される。
ステップS64において、ボール検出部58は、逆時系列に処理対象の複数のフレームを順次辿りながら、検出領域内での等間隔の分離度の累積加算値が最大となる線分と間隔の組合せを算出する。
即ち、ステップS64において算出された組合せが、注目画素がボール画素候補とされている場合における、ボールの軌跡の候補として最も確度が高い組合せを意味する。
よって、この場合、ボールの軌跡の候補としては、既に保存された組合せが採用されるので、ステップS65においてNOであると判定されて、処理はステップS61に戻され、それ以降の処理が繰り返される。即ち、終端画像内の別のボール画素候補について、ステップS61乃至S66の処理が実行されて、ボールの軌跡の候補が求められる。
よって、この場合、ボールの軌跡の候補としては、今回の直前のステップS64において算出された組合せに更新されるべく、ステップS65においてYESであると判定されて、処理はステップS66に進む。
ステップS65において、ボール検出部58は、直前のステップS64において算出された組合せを、その累積加算値と対応付けて保存(上書き)する。
これにより、処理はステップS61に戻され、それ以降の処理が繰り返される。
フレームアウト画像特定部56は、連続的に撮像された各画像から、計測対象の物体の一例であるボールが存在しなくなる、フレームアウト画像の直前の画像(例えば上述の終端画像)を特定する。
ボール検出部58は、フレームアウト画像の直前の画像を基準として、連続的に撮像された各画像から計測対象の物体の領域を検出する。
このように、計測対象の物体が存在しなくなるフレームアウト画像が基準として、計測対象の物体が検出されるので、計測対象の物体以外の動体が画像中に存在する場合でも精度良く計測対象の物体を検出できるという効果を奏することが可能になる。
特にこの効果は、次のような条件で本発明が適用される場合に顕著なものとなる。
例えば、ゴルフクラブ等、ボールと同じような速度、大きさ、或いは分離度で移動する別の物体が存在する場合、薄暗い夜や明るい日中等様々な照明条件が課される場合、ゴルフ練習場等でのショット解析が目的とされた場合に、上述の効果は顕著なものとなる。
また例えば、ゴルフクラブとボールの速度がショットによってばらばらで、単純に閾値等では分離することができないような場合、ゴルフクラブの軌跡は楕円であるが、ショット後の数フレームの動きはほぼ直線であり円運動と直線運動で分けることができないような場合、上述の効果は顕著なものとなる。
さらにまた、次のような効果も奏する。即ち、1つのアルゴリズムで既存技術や単純な閾値設定では困難であったボールの軌跡が精度良く追跡されるようになるため、ユーザが事前に設定を行う必要がなく、簡単に速度や軌跡を知ることができる。また、フォーム解析等に用いられる画像と同じ画像が利用可能となるため、システム全体の省スペース化や省コストが実現可能になる。
このように、逆時系列順に計測対象の物体が検出されるので、計測対象の物体の検出精度が向上する。
即ち、仮にショットフレームが基準となり時系列に検出された場合には、ボールとゴルフクラブを誤認識してしまい、ボールの検出自体が失敗する場合が多い。特に、ボールがゴルフクラブにより打たれてから時間が経過すればするほど、ゴルフクラブとボールとの間の距離が離れていくので、誤認識の度合が高くなる。これに対して、本実施形態では、その逆に、ゴルフクラブとボールとの間の距離が最も離れたフレームアウト画像の前の所定の画像から計測対象の物体の候補が検出され、ゴルフクラブとボールとの間の距離が短縮される方向にボールが検出されていくので、計測対象の物体の誤認識の度合が軽減され、その結果、計測対象の物体の検出精度が向上する。
これにより、計測対象の物体の検出精度がさらに向上すると共に、検出の範囲が限定されることになるので、それ以降の処理の負担が軽減し、処理時間の短縮にもつながる。
ボール検出部58は、判定手段により所定の閾値以上と判定された領域を、物体の領域として検出する。
これにより、計測対象の物体の検出精度がさらに向上する。即ち、逆時系列順で検出が行われる場合の検出精度は、基準となるフレームアウト画像の前の所定の画像から、計測対象の物体の候補の検出精度に依存する。即ち、計測対象の物体の検出精度を向上させるためには、当該所定の画像から、如何にして正確に対象の物体の候補が検出できるのかが、鍵となる。この点、所定の画像のうち、分離度が閾値以上の領域が、計測対象の物体の候補として検出されるので、当該候補の検出精度は良くなり、その結果として、計測対象の物体の検出精度がさらに向上する。
これにより、適切な閾値が設定されれば、基準となるフレームアウト画像の前の所定の画像から、計測対象の物体の候補の検出精度がさらに向上し、その結果として、計測対象の物体の検出精度がさらに向上する。
さらに、閾値が厳しめに設定されれば、計測対象の物体の候補として検出される画素の数は、その分だけ減少するので、それ以降の処理の負担が軽減し、処理時間の短縮にもつながる。
これにより、より適切な閾値の設定が可能になる。
これにより、計測対象の物体の検出精度がさらに向上すると共に、検出の範囲が限定されることになるので、それ以降の処理の負担が軽減し、処理時間の短縮にもつながる。
例えば、第2閾値は、動画像全体の輝度ではなく所定区間の範囲内の動画像の輝度に基づいて設定されてもよいし、フレーム全体ではなくフレームの一部の領域の輝度に基づいて設定されてもよい。
また例えば、ショット前部分の速度算出処理(図7参照)により、ショット直前のゴルフクラブの速度が算出されているので、第2閾値は、当該ゴルフクラブの速度に基づいて設定されてもよい。
また例えば、動画像全体の分離度マップ(差分分離度マップでもよい)のうち、上位数パーセントの分布(フレーム内に占めるボールの画素数程度)となる分離度に基づいて、第2閾値が設定されてもよい。
例えば、ショット前部分の速度算出処理(図7参照)により、ショット直前のゴルフクラブの速度が算出されているので、当該ゴルフクラブの速度に応じて可変するような領域が、検出領域として採用されてもよい。具体的には例えば、ショット直前のクラブの速度から想定されるショット後のゴルフクラブとボールの各速度から画像(フレーム)毎に可変に設定されるような領域が、検出領域として採用されてもよい。
また例えば、ボールは最初に置かれていた点から直線で移動する(飛んでいく)と考えられるので、終端画像でボールがあると思われる点(ボール画素候補)からボールの初期位置までの線分そのものが、検出領域として採用されてもよい。ただし、実際には全くずれなく線分上にボールが乗っていることは稀なので、上述の実施形態のように、ボールの直径程の高さ(図5の長さb)を有する平行四辺形の形状が検出領域として採用された方が好適である。
例えば、差分分離度マップが生成される毎にフレームアウト画像の特定が行われてもよい。この場合、処理の高速化や、使用メモリの節約に寄与することになる。
例えば、算出された分離度そのものではなく、必要に応じて加工された分離度が用いられてもよい。具体的には例えば、背景が白とびを起こしている領域をボールが通過した場合、ボールの色よりも白とび部分の輝度が高いため、分離度の符号が逆になってしまう。そのような領域では、符号を逆にした(そのように加工された)分離度が用いられてもよい。
また、分離度以外の例として、例えばテンプレートマッチング等によって、差分二乗和を領域画素数で除算したものを正規化した適合率等が用いられてもよい。
例えば、本発明は、画像処理機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、スマートフォン、ポータブルゲーム機等に適用可能である。
換言すると、図2の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図2の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
[付記1]
連続的に撮像された各画像から、計測対象の物体のフレームアウト直前の画像を特定する特定手段と、
前記特定手段により特定された前記フレームアウト直前の画像を基準として、前記連続的に撮像された各画像から前記計測対象の物体の領域を検出する検出手段と、
を備えることを特徴とする画像処理装置。
[付記2]
前記検出手段は、
前記フレームアウト直前の画像より以前の画像から、前記計測対象の物体の領域を時系列とは逆順に前記物体の領域を検出する
ことを特徴とする付記1に記載の画像処理装置。
[付記3]
前記検出手段により検出された物体の領域に基づき、当該物体の軌跡が含まれ得る所定の領域を生成する生成手段と、
前記生成手段により生成された所定の領域に基づいて、前記物体の軌跡、及び/又は、前記物体の速度を算出する算出手段と
を更に備えることを特徴とする付記2に記載の画像処理装置。
[付記4]
前記連続的に撮像された各画像の分離度を算出する分離度算出手段と、
前記分離度算出手段により算出された分離度が閾値以上か否かを判定する判定手段と、
を更に備え、
前記検出手段は、前記判定手段により所定の閾値以上と判定された領域を、前記物体の領域として検出する、
ことを特徴とする付記1乃至3のうちの何れか1つに記載の画像処理装置。
[付記5]
前記連続的に撮像された各画像に基づいて、前記閾値を可変設定する閾値設定手段を更に備える、
ことを特徴とする付記4に記載の画像処理装置。
[付記6]
前記閾値設定手段は、前記連続的に撮像された各画像の輝度に基づいて、前記閾値を可変に設定する、
ことを特徴とする付記5に記載の画像処理装置。
[付記7]
前記各画像に共通する部分領域を設定する領域設定手段を更に備え、
前記検出手段は、前記領域設定手段により設定された部分領域で前記物体の領域を検出する、
ことを特徴とする付記1乃至6のうちの何れか1つに記載の画像処理装置。
[付記8]
画像処理装置が実行する画像処理方法であって、
連続的に撮像された各画像から、計測対象の物体のフレームアウト直前の画像を特定する特定ステップと、
前記特定ステップにおいて特定された前記フレームアウト直前の画像を基準として、前記前記各画像から前記計測対象の物体の領域を検出する検出ステップと、
を含むことを特徴とする画像処理方法。
[付記9]
コンピュータを、
連続的に撮像された各画像から、計測対象の物体のフレームアウト直前の画像を特定する特定手段、
前記特定手段により特定された前記フレームアウト直前の画像を基準として、前記各画像から前記計測対象の物体の領域を検出する検出手段、
として機能させることを特徴とするプログラム。
Claims (9)
- 連続的に撮像された各画像から、計測対象の物体のフレームアウト直前の画像を特定する特定手段と、
前記特定手段により特定された前記フレームアウト直前の画像を基準として、前記連続的に撮像された各画像から前記計測対象の物体の領域を検出する検出手段と、
を備えることを特徴とする画像処理装置。 - 前記検出手段は、
前記フレームアウト直前の画像より以前の画像から、前記計測対象の物体の領域を時系列とは逆順に前記物体の領域を検出する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記検出手段により検出された物体の領域に基づき、当該物体の軌跡が含まれ得る所定の領域を生成する生成手段と、
前記生成手段により生成された所定の領域に基づいて、前記物体の軌跡、及び/又は、前記物体の速度を算出する算出手段と
を更に備えることを特徴とする請求項2に記載の画像処理装置。 - 前記連続的に撮像された各画像の分離度を算出する分離度算出手段と、
前記分離度算出手段により算出された分離度が閾値以上か否かを判定する判定手段と、
を更に備え、
前記検出手段は、前記判定手段により所定の閾値以上と判定された領域を、前記物体の領域として検出する、
ことを特徴とする請求項1乃至3のうちの何れか1項に記載の画像処理装置。 - 前記連続的に撮像された各画像に基づいて、前記閾値を可変設定する閾値設定手段を更に備える、
ことを特徴とする請求項4に記載の画像処理装置。 - 前記閾値設定手段は、前記連続的に撮像された各画像の輝度に基づいて、前記閾値を可変に設定する、
ことを特徴とする請求項5に記載の画像処理装置。 - 前記各画像に共通する部分領域を設定する領域設定手段を更に備え、
前記検出手段は、前記領域設定手段により設定された部分領域で前記物体の領域を検出する、
ことを特徴とする請求項1乃至6のうちの何れか1項に記載の画像処理装置。 - 画像処理装置が実行する画像処理方法であって、
連続的に撮像された各画像から、計測対象の物体のフレームアウト直前の画像を特定する特定ステップと、
前記特定ステップにおいて特定された前記フレームアウト直前の画像を基準として、前記前記各画像から前記計測対象の物体の領域を検出する検出ステップと、
を含むことを特徴とする画像処理方法。 - コンピュータを、
連続的に撮像された各画像から、計測対象の物体のフレームアウト直前の画像を特定する特定手段、
前記特定手段により特定された前記フレームアウト直前の画像を基準として、前記各画像から前記計測対象の物体の領域を検出する検出手段、
として機能させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013060125A JP5884759B2 (ja) | 2013-03-22 | 2013-03-22 | 画像処理装置、画像処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013060125A JP5884759B2 (ja) | 2013-03-22 | 2013-03-22 | 画像処理装置、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014187484A true JP2014187484A (ja) | 2014-10-02 |
JP5884759B2 JP5884759B2 (ja) | 2016-03-15 |
Family
ID=51834621
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013060125A Active JP5884759B2 (ja) | 2013-03-22 | 2013-03-22 | 画像処理装置、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5884759B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017091092A (ja) * | 2015-11-06 | 2017-05-25 | 富士通株式会社 | 画像処理方法、画像処理プログラムおよび画像処理装置 |
WO2020059029A1 (ja) * | 2018-09-18 | 2020-03-26 | マクセル株式会社 | 距離計測装置、撮像装置、距離計測システム、距離計測方法、及び撮像方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005196385A (ja) * | 2004-01-06 | 2005-07-21 | Toshiba Corp | 画像処理装置、画像処理方法およびデジタルカメラ |
JP2006234515A (ja) * | 2005-02-23 | 2006-09-07 | Matsushita Electric Works Ltd | 容器内の異物検査方法およびその装置 |
JP2006314060A (ja) * | 2005-05-09 | 2006-11-16 | Nissan Motor Co Ltd | 画像処理装置及びノイズ検出方法 |
JP2007188268A (ja) * | 2006-01-12 | 2007-07-26 | Univ Of Tokyo | 画像上移動物体追跡方法及び装置 |
-
2013
- 2013-03-22 JP JP2013060125A patent/JP5884759B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005196385A (ja) * | 2004-01-06 | 2005-07-21 | Toshiba Corp | 画像処理装置、画像処理方法およびデジタルカメラ |
JP2006234515A (ja) * | 2005-02-23 | 2006-09-07 | Matsushita Electric Works Ltd | 容器内の異物検査方法およびその装置 |
JP2006314060A (ja) * | 2005-05-09 | 2006-11-16 | Nissan Motor Co Ltd | 画像処理装置及びノイズ検出方法 |
JP2007188268A (ja) * | 2006-01-12 | 2007-07-26 | Univ Of Tokyo | 画像上移動物体追跡方法及び装置 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017091092A (ja) * | 2015-11-06 | 2017-05-25 | 富士通株式会社 | 画像処理方法、画像処理プログラムおよび画像処理装置 |
WO2020059029A1 (ja) * | 2018-09-18 | 2020-03-26 | マクセル株式会社 | 距離計測装置、撮像装置、距離計測システム、距離計測方法、及び撮像方法 |
JPWO2020059029A1 (ja) * | 2018-09-18 | 2021-08-30 | マクセル株式会社 | 距離計測装置、撮像装置、距離計測システム、距離計測方法、及び撮像方法 |
JP7112504B2 (ja) | 2018-09-18 | 2022-08-03 | マクセル株式会社 | 距離計測装置、撮像装置、距離計測システム、距離計測方法、及び撮像方法 |
US11740468B2 (en) | 2018-09-18 | 2023-08-29 | Maxell, Ltd. | Distance measuring apparatus, imaging device, distance measuring system, distance measuring method, and imaging method |
Also Published As
Publication number | Publication date |
---|---|
JP5884759B2 (ja) | 2016-03-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5284048B2 (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
US9674441B2 (en) | Image processing apparatus, image processing method, and storage medium | |
JP5842807B2 (ja) | 画像解析装置、情報報知装置、画像解析方法、情報報知方法、及びプログラム | |
JP2010079655A (ja) | 画像処理装置及び画像処理方法及び撮像装置及びプログラム | |
US11070729B2 (en) | Image processing apparatus capable of detecting moving objects, control method thereof, and image capture apparatus | |
JP6577852B2 (ja) | 動きベクトル検出装置およびその制御方法 | |
JP6924064B2 (ja) | 画像処理装置およびその制御方法、ならびに撮像装置 | |
KR20140043665A (ko) | 화상 처리 장치, 화상 처리 방법 및 기록 매체 | |
JP6720845B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
KR101202642B1 (ko) | 배경의 특징점을 이용한 전역 움직임 추정 방법 및 장치 | |
JP2011135553A (ja) | 撮像装置、画像処理方法、及び、コンピュータプログラム | |
JP5968379B2 (ja) | 画像処理装置およびその制御方法 | |
JP5173549B2 (ja) | 画像処理装置及び撮像装置 | |
JP5884759B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2011071925A (ja) | 移動体追尾装置および方法 | |
JP2008217330A (ja) | 速度推定方法および速度推定プログラム | |
JP4716266B2 (ja) | 画像処理装置、撮像装置及びそのプログラム | |
US10708501B2 (en) | Prominent region detection in scenes from sequence of image frames | |
JP6168127B2 (ja) | 画像解析装置、画像解析方法、及びプログラム | |
JP2017016592A (ja) | 主被写体検出装置、主被写体検出方法及びプログラム | |
JP2005063036A (ja) | 物体追跡装置 | |
JP4752685B2 (ja) | 撮像装置及びプログラム | |
JP7324066B2 (ja) | 画像処理装置およびその制御方法、ならびに撮像装置 | |
US20230065506A1 (en) | Image processing apparatus, control method thereof, and image capturing apparatus | |
JP4743048B2 (ja) | 撮像装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140929 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150724 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150728 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150928 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151027 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151211 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160112 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160125 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5884759 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |