JP2015012434A - フォーム確認支援装置、及びその方法とプログラム、フォーム確認支援システム - Google Patents

フォーム確認支援装置、及びその方法とプログラム、フォーム確認支援システム Download PDF

Info

Publication number
JP2015012434A
JP2015012434A JP2013136056A JP2013136056A JP2015012434A JP 2015012434 A JP2015012434 A JP 2015012434A JP 2013136056 A JP2013136056 A JP 2013136056A JP 2013136056 A JP2013136056 A JP 2013136056A JP 2015012434 A JP2015012434 A JP 2015012434A
Authority
JP
Japan
Prior art keywords
moving image
operation pattern
comparison
form confirmation
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013136056A
Other languages
English (en)
Inventor
堯子 井戸
Kyoko Ido
堯子 井戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2013136056A priority Critical patent/JP2015012434A/ja
Publication of JP2015012434A publication Critical patent/JP2015012434A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)

Abstract

【課題】同一パターンの動作の繰り返しが多いフォームの確認作業を効率的に、かつ容易に行うことを可能とする。【解決手段】動画像において、当該動画像に繰り返し表れる動作パターンを抽出し、抽出した前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較し、比較結果を動画像や静止画像として出力する。比較結果は、例えば基準となる基準動作パターンと、他の動作パターンのうちで基準動作パターンと大きく異なる比較動作パターンのみとする。また、比較結果の出力形態は、例えば基準動作パターンg1と比較動作パターンg2とを画面上に並べて表示させたり、重畳して表示したりする等、画面上での識別可能な表示とする。動画像を全て見なくともフォームの確認作業ができる。【選択図】図4

Description

本発明は、スポーツフォーム等のフォームの確認作業を支援するフォーム確認支援装置、及びその方法とプログラム、フォーム確認支援システムに関するものである。
従来、例えばスポーツのトレーニングに際して、トレーニング中における人物のフォームを動画撮影し、撮影した動画像からフォームの善し悪しや、トレーニングの成果を確認することにより、その後のトレーニングの参考にすることが行われている。
ここで、例えば下記特許文献1には、トレーニングを撮影した動画像から、ほぼ同一パターンの動作が繰り返された部分のみを自動的に抽出し、新たな動画像として保存する技術が開示されている。係る技術によれば、撮影した動画像から同一パターンの動作以外の無駄な部分を省くことにより、トレーニング中におけるフォームの確認作業が容易となる。
特開2004−173202号公報
しかしながら、上記の技術においては、動画像から無駄な部分を省くことはできるが、トレーニング中にほぼ同一パターンの動作が多数繰り返される場合には、トレーニング中におけるどの時点のフォームが良くてどの時点のフォームが悪いかといったことは、ユーザーが保存された動画像を注意深く見て自分で判断するしかない。係ることから、フォームの確認作業を効率よく行うまでには到らないという問題があった。
本発明は、かかる従来の課題に鑑みてなされたものであり、同一パターンの動作の繰り返しが多いフォームの確認作業を効率的に、かつ容易に行うことができるフォーム確認支援装置、及びその方法とプログラム、フォーム確認支援システムを提供することを目的とする。
前記課題を解決するため、第1の観点における発明にあっては、動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、前記比較手段による比較結果を出力する出力手段とを備えたことを特徴とする。
また、第2の観点における発明にあっては、情報端末と、当該情報端末が接続される支援サーバーとからなるフォーム確認支援システムであって、前記支援サーバーは、前記情報端末から転送された動画像を取得する取得手段と、前記取得手段により取得された動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、前記比較手段による比較結果を前記情報端末へ提供する提供手段とを備え、前記情報端末は、前記支援サーバーへ前記動画像を転送する転送手段と、前記支援サーバーから提供された前記比較結果を出力する出力手段とを備えたことを特徴とする。
本発明によれば、同一パターンの動作の繰り返しが多いフォームの確認作業を効率的に、かつ容易に行うことが可能となる。
各実施形態に共通する本発明に係るフォーム確認支援システムを示す図である。 第1の実施形態における情報端末1の動作の内容を示すフローチャートである。 第1の実施形態における支援サーバー2の動作を内容を示すフローチャートである。 (a)は第1のフォーム確認画面を示す図、(b)は第3のフォーム確認画面を示す図である。 (a)は第2のフォーム確認画面を示す図、(b)は第4のフォーム確認画面を示す図である。 第2の実施形態における情報端末1の動作の内容を示すフローチャートである。 第2の実施形態における支援サーバー2の動作を内容を示すフローチャートである。 (a)は第5のフォーム確認画面を示す図、(b)は第6のフォーム確認画面を示す図である。
以下、本発明の実施の形態について図面を参照して説明する。
(第1の実施形態)
図1は、スポーツのトレーニング中の人物を撮影した動画像を用いて、フォームの善し悪しを確認する作業を支援する、本発明に係るフォーム確認支援システムの一実施形態を示した図である。
図1に示したように本実施形態のフォーム確認支援システムは、ネットワーク100に接続可能な情報端末1と、ネットワーク100を介して情報端末1を含む任意の情報処理装置が接続される支援サーバー2とから構成される。
まず、情報端末1について説明する。情報端末1は、例えばスマートフォンを含む携帯電話端末により実現されるものであり、主として制御部11と、撮像部12、通信部13、記憶部14、表示部15、電源部16、操作部17を備えている。
制御部11は、CPU(Central Processing Unit)、及びその周辺回路、各種のプログラムが格納されたROM、及び作業用のRAMを含み、CPUが所定のプログラムを実行することにより、情報端末1の全体を制御することによって、情報端末1が有する各種の機能を実現する。なお、ROMには、制御部11に後述する処理を行わせるためのプログラムも格納されている。
撮像部12は、CCD(Charge Coupled Device)やCMOS(Complementary Meta1 0xide Semiconductor)型の撮像素子、及び撮像素子から出力される撮像信号に基づく画像データを生成する信号処理回路等から構成される。撮像部12が生成した画像データは、制御部11によって最終的には静止画データや動画データとして記憶部14に記憶される。記憶部14に記憶された静止画データや動画データは、制御部11によって再生され、表示部15に表示される。
記憶部14は、情報端末1の本体に内蔵されたフラッシュメモリや、情報端末1の本体に着脱自在な各種のメモリから構成される。
通信部13は、例えばWi−FiやBlueTooth(登録商標)等の無線や有線の通信を利用して情報端末1をネットワーク100へ接続し、支援サーバー2との間におけるデータの送受信を行う。
表示部15は、カラー液晶表示パネルと、カラー液晶表示パネルを駆動する表示駆動回路とから構成される。表示部15は、制御部11によって記憶部14から読み出されて供給される画像データ等に基づく静止画像や動画像、及びその他の情報を表示するとともに、後述するフォーム確認画面も表示する。
電源部16は、電源電池(例えばニッケル水素電池等の充電池)、及びDC/DCコンバータなどで構成され、上記の各部に対し各々が必要とする電力を供給する。
操作部17は、各種キーや電源スイッチや、カラー液晶表示パネルをタッチパネルとして機能させるタッチセンサー等から構成される。
なお、情報端末1がスマートフォンを含む携帯電話端末である場合、情報端末1には、電話通信を行うための図示しない周知の回路、すなわち入力された音声を変調して送信する音声入力回路、送信回路、及び受信した音声信号を受信して復号再生する受信回路、再生回路等が存在する。
次に、支援サーバー2について説明する。支援サーバー2は、主として制御部21と、通信部22、記憶部23、画像処理部24を備えている。
制御部21は、図示しないがCPU、及びCPUの周辺回路と、RAM等の作業用メモリ等とから構成され、記憶部23に記憶されているプログラムに基づき支援サーバー2全体を制御するとともに、後述する処理を含む各種の処理を実行する。
通信部22は、ネットワーク100を介して接続された情報端末1との間におけるデータの送受信を行う。
記憶部23は、前述したプログラム以外にも、情報端末1との間で送受信する各種データ等を記憶する。
画像処理部24は、制御部21の指令に従い動画像や静止画像に対する各種の画像処理を行う。特に、画像処理部24は、ネットワーク100を介して情報端末1等から送られる動画データを対象とした種々の動画像処理を行う。
そして、以上の構成からなるフォーム確認支援システムにおいては、情報端末1と支援サーバー2とが以下に述べるように動作することにより、ユーザーが、ランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する作業を支援する。
以下、ユーザーがフォーム確認支援システムを使用する場合における情報端末1と支援サーバー2との本発明に係る動作を具体的に説明する。なお、ここでは、情報端末1の記憶部14に、ランニング中の人物を撮影した動画像であって、実際にランニングを行っている部分のみの動画像のデータが1又は複数記憶されているものとする。
図2は、情報端末1における制御部11の処理内容を示すフローチャートである。ユーザーによる所定の操作により動作を開始すると、制御部11は、例えば表示部15に所定の選択画面を表示して、記憶部14に記憶されている動画像のうちから所望の動画像をユーザーに指定させることにより、フォームの確認対象とすべき動画像を特定する(ステップSA1)。
次に、制御部11は、ネットワーク100を介して支援サーバー2に接続した後(ステップSA2)、確認対象の動画像のデータを支援サーバー2にアップロードする(ステップSA3)。その後、制御部11は、支援サーバー2から後述する確認用の動画データ及び解析結果データが受信できるまで待機する(ステップSA4:NO)。
一方、図3は、その間の支援サーバー2における制御部21の処理内容を示すフローチャートである。支援サーバー2においては、情報端末1から動画データがアップロードされると、通信部22を介して制御部21がそれを受信し(ステップSB1)、直ちにアップロードされた動画データを対象として画像処理部24に、輪郭抽出等の各種の画像処理を行わせることによって、以下の処理を行う。
まず、制御部21は、動画データにより表される動画像において、動画像の主たる被写体(以下、単に被写体という。)の各部位の動作を解析する(ステップSB2)。係る処理に際して制御部21は、被写体の部位すなわちランナーの左右の足と手と判断できる各部位をそれぞれ検出し、検出した各部位における動画像内での位置の変化を取得する。
より具体的に述べると制御部21は、各部位について、各部位の先端等のフレーム間で追跡に適した代表点を設定し、設定した代表点の座標位置を動画像のフレーム毎(数フレ
ーム毎でもよい)に取得し、記憶部23に部位毎に記憶してデータベース化する。
次に、制御部21は、記憶部23に記憶した各部位(代表点)の時間的な変化に基づいて被写体の動作パターンを抽出する(ステップSB3)。ここで抽出する動作パターンは、動画像に繰り返し表れるランナーの一連の動作であり、右足(又は左足)が接地した状態から上昇した後、ある時点を境として降下して着地したのち、再び上昇を開始するまでの動作である。
そして、ステップSB3の処理において制御部21は、動画像の全期間について各々の動作パターンの開始時点のフレーム番号(時間位置)と、終了時点のフレーム番号(時間位置)とを取得し、記憶部23に記憶する。
次に、制御部21は、前記動作パターンの平均周期、つまり各々の動作パターンにおける開始時点から終了時点までの動作時間の平均値を取得する(ステップSB4)。なお、動作パターンの平均周期は、動画像の全期間ではなく前半の期間の各動作パターンから取得してもよい。
なお、立ち止まったり、転んだりして大きくばらつくような動作パターンがある場合は、標準偏差を算出する等行うことで、大きく外れる動作パターンを除外し、より適切な平均周期を取得するようにしてもよい。
次に、制御部21は、動画像の全期間を対象として各部位の平均位置を取得する(ステップSB5)。ここで取得する各部位の平均位置は、各々の動作パターンにおける各部位の特定タイミングにおける平均的な位置である。特定タイミングは、各々の動作パターンにおいて左右の足、及び左右の手が往復移動している間に停止するタイミング、すなわち移動方向が逆転する瞬間のタイミングである。つまり、各部位について2種類の位置を取得し、それぞれの平均値を取得する。
上述と同様にして、大きく外れる動作パターンを除外し、より適切な平均位置を取得するようにしてもよい。
なお、各部位の平均位置についても動作パターンの平均周期と同様に、動画像の全期間ではなく前半の期間の各動作パターンから取得してもよく、動作パターンの平均周期を動画像の前半の期間から取得する場合には、各部位の平均位置も動画像の前半の期間から取得する。
但し、ステップSB5の処理において制御部21は、各部位の平均位置を動画像の前半の期間から取得する場合についても、動画像の全期間の全ての動作パターン毎に、左右の足、及び左右の手の特定タイミングの位置(2種類)をそれぞれ確認し、それらを記憶部23に記憶しデータベース化する。
次に、制御部21は、ステップSB4の処理で取得した平均周期から基準動作パターンを特定する(ステップSB6)。具体的に説明すると制御部21は、動画像に繰り返し表れる前記動作パターンのうちで、その周期(動作時間)が平均値に最も近い動作パターンを基準動作パターンとして特定する。
次に、制御部21は、基準動作パターンの比較対象となる比較動作パターンの特定に使用する閾値を設定する(ステップSB7)。ここでは閾値として第1の閾値と第2の閾値を設定する。第1の閾値は動作パターンの周期に関するものであり、前述した平均周期との差である。また、第2の閾値は各部位の特定タイミングの位置に関するものであり、前述した平均位置との差である。
次に、制御部21は、基準動作パターン以外の動作パターンのうちで、上記の第1の閾値を超える動作パターン、及び第2の閾値を超える動作パターンをそれぞれ比較動作パターンとして特定する(ステップSB8)。これにより、その周期が平均周期と大きく異なる動作パターン、及びいずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンを比較動作パターンとして特定される。
なお、ここで設定される比較動作パターンには、その周期が平均周期と大きく異なると同時に、いずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンが含まれる場合もある。
ここで、ステップSB7の処理においては、動作パターンの周期に関する第1の閾値として、平均周期との差ではなく、平均周期に対する所定の割合を設定することができる。その場合においても、ステップSB8の処理において、その周期が平均周期と大きく異なる動作パターンを比較動作パターンとして特定することができる。
同様に、ステップSB7の処理においては、各部位の特定タイミングの位置に関する第2の閾値として、平均位置との差ではなく、平均位置に対する所定の割合を設定することができる。その場合においても、ステップSB8の処理において、いずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンを比較動作パターンとして特定することができる。
次に、制御部21は、確認対象の元の動画像から確認用の動画データを新たに生成する(ステップSB9)。係る処理に際して制御部21は、まず、元の動画像からステップSB6の処理で特定した基準動作パターン、及びステップSB8の処理で特定した比較動作パターン(1又は複数)に該当する動画部分のデータを抽出する。次に、抽出した各動作パターンの動画部分から主たる被写体(ランナー)に相当する部分を切り出し、それを新たなフレーム画像として動作パターン別の動画像データを生成する。そして、生成した動作パターン別の動画像データをマージした確認用の動画データを生成する。
しかる後、制御部21は、生成した動画データを、基準動作パターン及び比較動作パターンに関する解析結果データと共に情報端末1へ送信する(ステップSB10)。
解析結果データには、動画像における基準動作パターン及び比較動作パターン(1又は複数)の動作パターン毎の次のデータが含まれる。具体的なデータは、動画像における時間位置を示す、各動作パターンの開始時点及び終了時点のフレーム番号と、特定タイミングの位置が平均位置と大きく異なっていた部位(以下、注目部位という。)の特定タイミングでの位置(座標位置)である。
つまり、制御部21は、確認対象の動画像における時間位置が異なる複数位置での動作パターンを、その周期(動作時間)及び被写体の所定部位(左右の足と手)の特定タイミングでの位置を観点として比較した結果として、確認用の動画データと解析結果データとを情報端末1へ送信する。
一方、図2に示したように情報端末1においては、支援サーバー2から前述した確認用の動画データ及び解析結果データを通信部13を介して受信すると(ステップSA4:YES)、制御部11が受信した解析結果データに基づき、前述した基準動作パターン及び比較動作パターンを表す動画像を識別可能に表示するフォーム確認画面を表示部15に表示させる(ステップSA5)。
フォーム確認画面における双方の動画像の表示形態には、後述するように並列表示と重畳表示との2つの表示形態がある。
図4(a)は、確認用の動画データ及び解析結果データを受信した直後に表示部15に表示される第1のフォーム確認画面G1を示した図である。
図に示したように第1のフォーム確認画面G1は、画面の左側に基準動作パターンを表す基準動画g1を配置し、画面の右側に比較動作パターンを表す比較動画g2を配置するとともに、基準動画g1と比較動画g2と下方に位置ゲージg3を配置したものである。すなわち第1のフォーム確認画面G1における動画像の表示形態は並列表示である。
係る第1のフォーム確認画面G1の表示に際して制御部11は、支援サーバー2から受信した確認用の動画像にマージされている基準動作パターンの動画像を基準動画g1とし、かつ確認用の動画像にマージされている比較動作パターンの動画像を比較動画g2として、それぞれの画面上での表示を開始する。
なお、基準動作パターン及び比較動作パターンの動画像は、既説したようにランナー部分のみの動画像である。また、第1のフォーム確認画面G1の表示開始当初における比較動画g2は、比較動作パターンが複数であった場合には、確認対象である元の動画像内での時間位置が最先の比較動作パターンを表すものである。
また、第1のフォーム確認画面G1の表示に際して制御部11は、解析結果データに含まれる動作パターン毎の動画像における開始時点及び終了時点のフレーム番号に基づいて前記位置ゲージg3を画面上に表示させる。位置ゲージg3は、その延在方向の全域を動画像の全期間に見立て、全期間における基準動画g1と比較動画g2との時間位置(図において黒塗り、又は斜線で示す期間)を示したものである。
なお、第1のフォーム確認画面G1の表示に際して制御部11は、基準動画g1と比較動画g2における、現在表示しているフレームに関する確認対象の動画像における時間位置(先頭からの経過時間)及び動作パターンの周期もそれぞれ表示部15に表示させる。
また、第1のフォーム確認画面G1の表示中において制御部11は、基準動画g1と比較動画g2とを繰り返し表示させ、その間には、双方の表示周期を一致させる。つまり基準動画g1のフレーム期間が比較動画g2のフレーム期間よりも短い場合には、基準動画g1の次の周期の表示開始時期を遅らせ、逆に基準動画g1のフレーム期間が比較動画g2のフレーム期間よりも長い場合には、比較動画g2の次の周期の表示開始時期を遅らせる。
さらに、第1のフォーム確認画面G1の表示中において制御部11は、上記のように基準動画g1と比較動画g2とを繰り返し表示させる間、被写体の注目部位を示すマークg4(図の例では破線の丸)を双方の動画像g1,g2とに重畳して表示させる。なお、注目部位は、前述したように比較動画g2(比較動作パターン)において、特定タイミングでの位置が平均位置と大きく異なっていた部位であり、図4(a)は、上記注目部位が被写体の足である場合の例である。
また、上述した第1のフォーム確認画面G1を表示した後、制御部11は、ユーザーによる確認作業の終了を指示する終了操作の有無と、表示形態を切り換えるための表示切替操作の有無、送り操作の有無、静止画展開操作の有無、時間調整操作の有無を逐次確認する(ステップSA6,SA7,SA9,SA12,SA14)。そして、制御部11は、第1のフォーム確認画面G1の表示後、ユーザーによって上記のいずれの操作も行われなければ(ステップSA14:NO)、第1のフォーム確認画面G1の表示を継続する。
一方、制御部11は、ユーザーによる表示切替操作があった場合には(ステップSA7:YES)、前述した基準動画g1と比較動画g2との表示形態を並列表示から重畳表示に切り換えることにより、図5(a)に示した第2のフォーム確認画面G2を表示部15に表示させる(ステップSA8)。
図に示したように第2のフォーム確認画面G2は、前述した基準動画g1と比較動画g2とを画面中央に重畳して表示させるとともに、その下方に前述した位置ゲージg3を配置したものである。
係る、第2のフォーム確認画面G2の表示中においても、制御部11は、基準動画g1と比較動画g2とを双方の表示周期を一致させた状態で、繰り返し表示させるとともに、被写体の注目部位を示すマークg4を動画像g1,g2とに重畳して表示させる。
なお、図5(a)においては、便宜上、基準動画g1の被写体部分を黒塗りで示し、かつ比較動画g2の被写体部分を斜線で示したが、実際には、例えば被写体部分の色や輝度等を変えることによって基準動画g1と比較動画g2とを識別可能とする。また、ここでは基準動画g1の上に比較動画g2を重ねた例を示したが、両者の上下関係は逆でもよい。
また、第1のフォーム確認画面G1や第2のフォーム確認画面G2を表示している間に、ユーザーによる送り操作があった場合には(ステップSA9:YES)、制御部11は、その時点で比較動画g2として表示中の比較動作パターン以外の比較動作パターンがあるか否かを確認する(ステップSA10)。つまり確認用の動画像に他の比較動作パターンの動画部分がマージされているか否かを確認する。
そして、制御部11は、他の比較動作パターンがなければ(ステップSA10:NO)、第1のフォーム確認画面G1や第2のフォーム確認画面G2において、現在の比較動画g2の表示を続行する。つまり何もしない。
一方、制御部11は、他の比較動作パターンがあれば(ステップSA10:YES)、動作パターンの送り表示を行う(ステップSA11)。すなわち、制御部11は、確認対象の動画像における時間位置が比較動画g2として表示中の比較動作パターンの1つ後となる比較動作パターンの動画部分を新たな比較動画g2として画面上での表示を開始する。その際には、これと連動させて基準動画g1も先頭から表示させる。
なお、図2では省略するがユーザーによる送り操作には、動作パターンを時間的に前の動作パターンに戻す操作が許容されており、送り操作が動作パターンを時間的に前の動作パターンに戻す操作であった場合、ステップSA11において制御部11は上記とは逆の処理を行う。すなわち、確認対象の動画像における時間位置が比較動画g2として表示中の比較動作パターンの1つ前となる比較動作パターンの動画部分を新たな比較動画g2として画面上での表示を開始する。
また、ユーザーによる静止画展開操作があった場合(ステップSA12:YES)、制御部11は、静止画展開の有無を切り換える(ステップSA13)。
すなわちステップSA13の処理に際して制御部11は、第1のフォーム確認画面G1や第2のフォーム確認画面G2の表示中においては、静止画展開操作があった時点では、前述した位置ゲージg3を、図4(b)、図5(b)に示したような、基準動画g1を構成する所定数の静止画群f1、及び比較動画g2を構成する所定数の静止画群f2に切り換えた状態の第3のフォーム確認画面G3や第4のフォーム確認画面G4を表示部15に表示させる。
ここで、基準動画g1を構成する所定数の静止画群f1、及び比較動画g2を構成する所定数の静止画群f2は、それぞれが現在表示中のフレームの静止画と、その直前までの複数フレーム分の静止画とから構成されるものである。
また、ステップSA13の処理に際して制御部11は、上記とは逆に第3のフォーム確認画面G3や第4のフォーム確認画面G4の表示中においては、第1のフォーム確認画面G1や第2のフォーム確認画面G2を表示部15に表示させる。
さらに、ユーザーによる時間調整操作があった場合(ステップSA14:YES)、制御部11は、時間調整の有無を切り換える(ステップSA15)。ここで時間調整とは、先に説明した第1〜第4のフォーム確認画面G1〜G4のいずれかにおいて表示中の比較動画g2の表示時間(比較動作パターンの周期)を基準動画g1の表示時間(基本動作パターンの周期)と一致させる処理である。
具体的に述べると、比較動画g2の表示時間が基準動画g1の表示時間よりも短い場合には不足時間分のフレーム画像を補完して表示し、逆に比較動画g2の表示時間が基準動画g1の表示時間よりも長い場合には超過時間分のフレーム画像を間引きして表示する処理である。
なお、不足時間分のフレーム画像の補完は、例えば所定のフレーム数毎に相前後するフレームから新たなフレームを生成したり、先行するフレーム又は後続のフレームを重複使用したりすることにより行う。
そして、ステップSA15の処理に際して制御部11は、時間調整操作があった時点で上記の時間調整を行っていない場合には、上記処理による時間調整を行った状態での基準動画g1と比較動画g2との表示を開始する。
また、ステップSA15の処理に際して制御部11は、時間調整操作があった時点で上記の時間調整を行っている場合には、上記処理による時間調整をやめて、表示時間が異なる状態のままでの基準動画g1と比較動画g2との表示を再開する。
なお、表示時間が異なる状態のままで基準動画g1と比較動画g2とを繰り返し表示させる場合は、まず先頭を合わせるように表示を開始し、いずれか時間の短い方の表示は、長い方の表示が終わるまで次の繰り返し表示は待ち、長い方の表示が終ってから改めて先頭を合わせるように表示を開始する。
以後、制御部11は、ユーザーによる終了操作があるまでは(ステップSA6:NO)、前述したステップSA7からステップSA15の処理を繰り返し、ユーザーによる終了操作があれば(ステップSA6:YES)、その時点で全ての処理を終了する。
以上説明した本実施形態のフォーム確認支援システムにおいては、ユーザーがそれを用いてランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する際には、情報端末1に表示される第1〜第4のフォーム確認画面G1〜G4によって、ランニング中に繰り返し表れる動作パターンのうちで、基準となる基準動作パターンと、それとの違いが大きい比較動作パターンのみを簡単に比較し確認することができる。
したがって、動画像を注意深く確認せずともトレーニング中におけるどの時点のフォームが良くてどの時点のフォームが悪いかを確認することができる。ランニングのように同一パターンの動作の繰り返しが多いスポーツについても、トレーニング中におけるフォームの確認作業を効率的に、かつ容易に行うことができる。
特に、第1〜第4のフォーム確認画面G1〜G4に表示される基準動画g1と比較動画g2とが、各々が動画像において動作パターンとして特定されたランナーの1サイクル分の一連の動作を表す動画像であるため、基準動作パターンと1又は複数の比較動作パターンとの比較を極めて容易に行うことができる。
また、基準動画g1と比較動画g2とによって、基準動作パターンと比較動作パターンとの周期の差を表現させるため、双方間の周期のずれを容易に確認することができる。
しかも、第1、第3のフォーム確認画面G1,G3には、基準動画g1と比較動画g2とが並べて表示されるため、基準動作パターンと比較動作パターンとの間に周期のずれがある場合には、双方間の周期のずれをさらに容易に確認することができる。
また、基準動画g1と比較動画g2に重ねてマークg4が表示されるため、基準動作パターンと比較動作パターンとの間にランナーの足や手といった部位の位置のずれがある場合には、それを容易に確認することができる。
さらに、第2、第4のフォーム確認画面G2,G4においては、基準動画g1と比較動画g2とが重ねて表示されるため、基準動作パターンと比較動作パターンとの間にランナーの足や手の位置のずれがある場合には、それをより一層容易に確認することができる。
また、第1、第2のフォーム確認画面G1,G2には、前述した位置ゲージg3が表示されるため、表示中の基準動作パターンと比較動作パターンが動画像内におけるどの位置の動作パターンを抽出したのかを容易に確認することができる。
また、時間調整操作を行うことによって基準動画g1と比較動画g2との周期を一致させることができるため、双方間に、周期と、動作する任意の部位の位置との両方に違いがある場合であっても、動作する任意の部位の位置の違いのみを確認することができる。
一方、本実施形態においては、支援サーバー2が確認対象の動画像からの動作パターンの抽出を画像処理技術を用いて自動的に行うため、動作パターンの抽出ために動画像以外の他の情報が不要であり、センサー等のほかのデバイスを必要とせず、ユーザーに対して高い利便性を確保することができる。
また、支援サーバー2が、確認対象の動画像から抽出した複数位置での動作パターンから基準動作パターンを特定し、基準動作パターンと他の動作パターンとの違いを比較することによって比較動作パターンの特定を行うため、比較動作パターンとして、より適切な動作パターンを特定することができる。
また、支援サーバー2が、確認対象の動画像において周期的に表れる略同一の被写体の一連の動作を動作パターンとして抽出するため、基準動作パターンと他の動作パターンとの違いを容易に比較することができる。
また、支援サーバー2が、確認対象の動画像において周期的に表れる被写体の要素から動作パターンとして抽出するため、足や手といった部位の変化を静止画のような動作パターンの一部によって、基準動作パターンと他の動作パターンとの違いをさらに容易に比較することができる。
しかも、支援サーバー2が確認対象の動画像からの動作パターンを抽出する際には、被写体の要素である各部位における位置の変化の周期性を判別して動作パターンを抽出するため、効率的に動作パターンを自動で抽出することができる。
また、支援サーバー2においては、その周期が平均周期と大きく異なる動作パターン、及びいずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンを比較動作パターンとして特定する。そのため、フォームの確認作業により適した比較動作パターンを自動的に取得することができる。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。本実施形態は、第1の実施形態と同様の構成(図1参照)からなるフォーム確認支援システムにおいて、第1の実施形態とは異なり、ユーザーが、ランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する作業を支援するための情報として、動画像ではなく静止画像を提供するものである。
以下、本実施形態における情報端末1と支援サーバー2との動作について説明する。
図6は、情報端末1における制御部11の処理内容を示すフローチャートである。本実施形態においても制御部11は、ユーザーに所望の動画像をユーザーに指定させて、フォームの確認対象とすべき動画像を特定し(ステップSA51)、支援サーバー2への接続を行い(ステップSA52)、確認対象の動画像のデータを支援サーバー2にアップロードする(ステップSA53)。その後、制御部11は、支援サーバー2から後述する確認用の静止画データ、及び解析結果データが受信できるまで待機する(ステップS54:NO)。
一方、図7は、その間の支援サーバー2における制御部21の処理内容を示すフローチャートである。本実施形態においても通信部22を介して制御部21は、情報端末1から動画データを受信した後(ステップSB51)、動画データにより表される動画像において被写体の各部位の動作を解析する(ステップSB52)。
係る処理の詳細については第1の実施形態と同様であり、制御部21は、被写体の部位すなわちランナーの左右の足と手と判断できる各部位をそれぞれ検出し、検出した各部位における動画像内での位置の変化を取得する。すなわち各部位について、各部位の先端等のフレーム間で追跡に適した代表点を設定し、設定した代表点の座標位置を動画像のフレーム毎(数フレーム毎でもよい)に取得し、記憶部23に部位毎に記憶してデータベース化する。
次に、第1の実施形態とは異なり、制御部21は、記憶部23に記憶した各部位(代表点)の時間的な変化に基づいて、位置の変化が最も大きい特定の部位(代表点)のみを抽出する(ステップSB53)。
そして、制御部21は、位置の変化が最も大きい特定部位の位置の周期的な変化を確認することにより、動画像において時間位置が異なる複数位置のランナーの動作パターンを抽出する(ステップSB54)。その際、制御部21は、各動作パターンの開始時点のフレーム番号(時間位置)と、終了時点のフレーム番号(時間位置)とを取得し、記憶部23に記憶する。
さらに、本実施形態においては、ステップSB54の処理に際して制御部21は、各動作パターンにおける開始時点から終了時点までのフレーム期間における前記特定部位の特定タイミングでの位置を取得し、その位置と、特定タイミングのフレームのフレーム番号とを取得し、記憶部23に記憶する。特定タイミングは、各々の動作パターンにおいて左右の足や左右の手が往復移動している間に停止するタイミング、すなわち移動方向が逆転する瞬間のタイミングである2種類の位置の一方の位置である。
次に、制御部21は、前記動作パターンの平均周期、つまり各々の動作パターンにおける開始時点から終了時点までの動作時間の平均値を取得する(ステップSB55)。
次に、制御部21は、ステップSB53の処理で抽出した特定部位について平均位置を取得する(ステップSB56)。この平均位置は、第1の実施形態と同様に、各々の動作パターンにおける特定部位の特定タイミングにおける平均的な位置である。なお、上記の動作パターンの平均周期、及び特定部位の平均位置は、動画像の全期間ではなく前半の期間のみを対象として取得してもよい。
次に、制御部21は、ステップSB55の処理で取得した平均周期から基準動作パターンを特定する(ステップSB57)。本実施形態においても制御部21は、動画像に繰り返し表れる前記動作パターンのうちで、その周期(動作時間)が平均値に最も近い動作パターンを基準動作パターンとして特定する。
次に、制御部21は、基準動作パターンの比較対象となる比較動作パターンの特定に使用する閾値を設定する(ステップSB58)。本実施形態においても制御部21は、閾値として第1の閾値と第2の閾値と設定する。第1の閾値は動作パターンの周期に関するものであり、前述した平均周期との差である。また、第2の閾値は位置の変化が最も大きい特定部位の特定タイミングの位置に関するものであり、前述した平均位置との差である。
次に、制御部21は、基準動作パターン以外の動作パターンのうちで、上記の第1の閾値を超える動作パターン、及び第2の閾値を超える動作パターンをそれぞれ比較動作パターンとして特定する(ステップSB59)。
なお、本実施形態においても、ステップSB58の処理においては、動作パターンの周期に関する第1の閾値として、平均周期との差ではなく、平均周期に対する所定の割合を設定することができる。また、位置の変化が最も大きい特定部位の特定タイミングの位置に関する第2の閾値として、平均位置との差ではなく、平均位置に対する所定の割合を設定することができる。
次に、制御部21は、確認対象の元の動画像から確認用の静止画データを生成する(ステップSB60)。係る処理に際して制御部21は、まず、元の動画像から、前述した基準動作パターン、及び比較動作パターン(1又は複数)について、各々の動作パターンに該当するフレーム区間で、位置の変化が最も大きい特定部位における前述した特定タイミングが該当するフレームの静止画像のデータを抽出する。次に、抽出した各動作パターンの静止画像から主たる被写体(ランナー)に相当する部分をそれぞれ切り出し、切り出した部分の静止画像のデータをマージすることにより確認用の静止画データを生成する。
しかる後、制御部21は、生成した静止画データを、基準動作パターン及び比較動作パターンに関する解析結果データと共に情報端末1へ送信する(ステップSB61)。
本実施形態の解析結果データには、動画像における基準動作パターン及び比較動作パターン(1又は複数)の動作パターン毎の次のデータが含まれる。具体的なデータは、動画像における前述した被写体の特定部位における特定タイミングの時間位置を示すステップSB54で記憶したフレーム番号と、被写体の特定部位における特定タイミングでの位置(座標位置)である。
つまり、制御部21は、確認対象の動画像における時間位置が異なる複数位置での動作パターンを、その周期(動作時間)及び被写体の所定部位(左右の足と手)の特定タイミングでの位置を観点として比較した結果として、確認用の静止画データと解析結果データとを情報端末1へ送信する。
一方、図6に示したように情報端末1においては、支援サーバー2から前述した確認用の静止画データ及び解析結果データを受信すると(ステップSA54:YES)、通信部13を介して制御部11が受信した解析結果データに基づき、前述した基準動作パターン及び比較動作パターンを表す静止画を識別可能に表示するフォーム確認画面を表示部15に表示させる(ステップSA55)。
本実施形態においてもフォーム確認画面における双方の静止画の表示形態には、第1の実施形態と同様に並列表示と重畳表示との2つの表示形態がある。
図8(a)は、確認用の動画データ及び解析結果データを受信した直後に表示部15に表示される第5のフォーム確認画面G21を示した図である。
図に示したように第5のフォーム確認画面G21は、画面の左側に基準動作パターンを表す基準画g21を配置し、画面の右側に比較動作パターンを表す比較画g22を配置するとともに、基準画g21と比較画g22と下方に位置ゲージg23を配置したものである。すなわち第5のフォーム確認画面G21における静止画の表示形態は並列表示である。
なお、基準動作パターン及び比較動作パターンの動画像は、既説したようにランナー部分のみの動画像である。また、第5のフォーム確認画面G21の表示開始当初における比較画g22は、比較動作パターンが複数であった場合には、確認対象である動画像内での時間位置が最先の比較動作パターンを表すものである。
そして、第5のフォーム確認画面G21の表示に際して制御部11は、解析結果データに含まれる動作パターン毎の静止画におけるフレーム番号、つまり前述した被写体(ランナー)の特定部位の特定タイミングのフレーム番号に基づいて、確認対象の動画像内での時間位置を示す前記位置ゲージg23を画面上に表示させる。
なお、第5のフォーム確認画面G21の表示に際して制御部11は、図に示したように前記位置ゲージg23と共に、基準画g21と比較画g22における確認対象の動画像内での時間(先頭からの経過時間)及び動作パターンの周期もそれぞれ表示部15に表示させる。
また、第5のフォーム確認画面G21の表示に際して制御部11は、前述した被写体(ランナー)の特定部位を示すマークg4を基準画g21及び比較画g22に重畳して表示させる。なお、図8(a)は、上記特定部位が被写体の足である場合の例である。
また、上述した第5のフォーム確認画面G21を表示した後、制御部11は、ユーザーによる確認作業の終了を指示する終了操作の有無と、表示形態を切り換えるための表示切替操作の有無、送り操作の有無を逐次確認する(ステップSA56,SA57,SA59)。そして、制御部11は、第5のフォーム確認画面G21の表示後、ユーザーによって上記のいずれの操作も行われなければ(ステップSA59:NO)、第5のフォーム確認画面G21の表示を継続する。
一方、制御部11は、ユーザーによる表示切替操作があった場合には(ステップSA57:YES)、前述した基準画g21と比較画g22との表示形態を並列表示から重畳表示に切り換えることにより、図8(b)に示した第6のフォーム確認画面G22を表示部15に表示させる(ステップSA58)。
図に示したように第6のフォーム確認画面G22は、前述した基準画g21と比較画g22とを画面中央に重畳して表示させるとともに、その下方に前述した位置ゲージg23を配置したものである。また、係る第6のフォーム確認画面G22の表示に際しても、制御部11は、被写体の特定部位を示すマークg4を基準画g21と比較画g22とに重畳して表示させる。
なお、図8(b)においては、便宜上、基準画g21の被写体部分を黒塗りで示し、かつ比較画g22の被写体部分を斜線で示したが、実際には、例えば被写体部分の色や輝度等を変えることによって基準画g21と比較画g22とを識別可能とする。また、ここでは基準動画g21の上に比較画g22を重ねた例を示したが、両者の上下関係は逆でもよい。
また、第6のフォーム確認画面G22を表示部15に表示させ状態において後には、ユーザーによる表示切替操作があれば(ステップSA57:YES)、制御部11は、第5のフォーム確認画面G21を再び表示部15に表示させる。
そして、第5のフォーム確認画面G21や第6のフォーム確認画面G22を表示している間に、ユーザーによる送り操作があった場合には(ステップSA59:YES)、制御部11は、その時点で比較画g22として表示中の比較動作パターン以外の比較動作パターンがあるか否かを確認する(ステップSA60)。つまり確認用の静止画として他の比較動作パターンの静止画がマージされているか否かを確認する。
そして、制御部11は、他の比較動作パターンがなければ(ステップSA60:NO)、第5のフォーム確認画面G21や第6のフォーム確認画面G22において、現在の比較画g22の表示を続行する。つまり何もしない。
一方、制御部11は、他の比較動作パターンがあれば(ステップSA60:YES)、動作パターンの送り表示を行う(ステップSA61)。すなわち、制御部11は、確認対象の動画像における時間位置が比較画g22として表示中の比較動作パターンの1つ後となる比較動作パターンの静止画像を新たな比較画g22として画面上に表示させる。
なお、図6でも省略するがユーザーによる送り操作には、動作パターンを時間的に前の動作パターンに戻す操作が許容されており、送り操作が動作パターンを時間的に前の動作パターンに戻す操作であった場合、ステップSA61において制御部11は上記とは逆の処理を行う。すなわち、確認対象の動画像における時間位置が比較画g22として表示中の比較動作パターンの1つ前となる比較動作パターンの静止画を新たな比較画g22として画面上に表示させる。
以後、制御部11は、ユーザーによる終了操作があるまでは(ステップSA56:NO)、前述したステップSA57からステップSA61の処理を繰り返し、ユーザーによる終了操作があれば(ステップSA56:YES)、その時点で全ての処理を終了する。
以上説明した本実施形態のフォーム確認支援システムにおいては、ユーザーがそれを用いてランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する際には、情報端末1に表示される第5,第6のフォーム確認画面G21,G22によって、ランニング中に繰り返し表れる動作パターンのうちで、基準となる基準動作パターンと、足や手といった部位の変化が大きい比較動作パターンのみを簡単に比較し確認することができる。
したがって、動画像を注意深く確認せずともトレーニング中におけるどの時点のフォームが良くてどの時点のフォームが悪いかを確認することができる。ランニングのように同一パターンの動作の繰り返しが多いスポーツについても、トレーニング中におけるフォームの確認作業を効率的に、かつ容易に行うことができる。
特に、本実施形態においては、支援サーバー2が、確認対象の動画像において周期的に表れる被写体の要素から動作パターンとして抽出することにより、比較画g22とともに、足や手といった部位の変化が大きい比較動作パターンのみを示す比較画g22を表示することができ、フォームの確認作業に際して、トレーニング中に変化したより注目すべき動作パターンを効率的に確認することができる。
なお、本実施形態においても、第1の実施形態で説明した効果のうちで、基準動作パターンと比較動作パターンとを動画像として表すことにより生ずる効果以外については、第1の実施形態と同様に得ることができる。
(変形例等)
以下、本実施形態の変形例等について説明する。すなわち以上説明した第1及び第2の本実施形態においては、確認対象の動画像に繰り返し表れる動作パターンのうちから基準動作パターン、及び比較動作パターンを自動的に特定したが以下のようにしてもよい。
例えば、基準動作パターンはユーザーにより指定された任意の時間位置の動作パターンとし、その基準動作パターンと他の動作パターンとの違いを比較することによって、比較動作パターンを自動的に特定するようにしてもよい。その場合には、ユーザーが任意に指定した動作パターンとの違いが大きい動作パターンを比較動作パターンとして自動的に設定させることができる。
また、第1及び第2の本実施形態においては、確認対象の動画像から基準動作パターンと1又は複数の比較動作パターンと抽出し、それらを確認対象の動画像における複数位置の動作パターンの比較結果として表示させる構成について説明した。
しかし、本発明の実施に際しては、例えば確認対象の動画像における時間位置が相前後する一組の動作パターンを比較対象とするとともに、比較対象の各々の動作パターンを時間位置が次の動作パターンに順に変更しながら連続して比較を行うようにしてもよい。
その場合には、一組の動作パターンを表す画像(動画像又は静止画)を、それ自体を比較結果を示す形態で、又は比較結果を示す情報と共に連続的に画面上に並べて表示させることにより、同一パターンの動作の繰り返しが多いスポーツのトレーニング中におけるフォームの確認作業を効率的に、かつ容易に行うことができる。
また、第1及び第2の本実施形態のように、基準動作パターン、及び比較動作パターンを表す画像(動画像又は静止画)を表示せずに、両者の差(周期や任意の部位の位置の差)のみをアドバイスとして表示或いは報知してもよい。
また、確認対象の動画像に繰り返し表れる動作パターンの抽出には、例えば手や足につけた加速度センサー等の所定のセンサーを用い、動画像の撮影中におけるセンサーの検出値に基づいて動作パターンを抽出する構成としても構わない。その場合には、動作パターンの抽出を画像処理によって行う場合に比べ、支援サーバー2における動作パターンの抽出に要する処理負担を軽減することができる。
さらには、動作パターンの抽出を上記所定のセンサーと画像処理技術とを併用して行う構成としてもよい。その場合には、動作パターンの抽出精度を上げることができる。
また、第1及び第2の本実施形態とは異なり、支援サーバー2が生成した確認用の画像の表示に関する処理の一部(例えば動画再生処理等)を支援サーバー2に行わせ、情報端末1における画像の表示をWeb UI( ウェブユーザインターフェース)機能によって行うようにしてもよい。さらには、第1及び第2の本実施形態で説明した支援サーバー2の機能の全てを情報端末1のみによって実現させても構わない。
また、以上の説明においては、主として動画像を用いて確認するフォームがランニングフォームである場合について説明したが、本発明はランニングに限らず水泳のフォーム、さらにスポーツに限らずダンス等のフォームを確認する場合にも適用することができる。
以上、本発明のいくつかの実施形態、及びその変形例について説明したが、これらは本発明の作用効果が得られる範囲内であれば適宜変更が可能であり、変更後の実施形態も特許請求の範囲に記載された発明、及びその発明と均等の発明の範囲に含まれる。以下に、本出願の当初の特許請求の範囲に記載された発明を付記する。
[請求項1]
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を出力する出力手段と
を備えたことを特徴とするフォーム確認支援装置。
[請求項2]
前記比較手段は、前記抽出された動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較して、所定の条件を満たす動作パターンの時間位置を特定することを特徴とする請求項1記載のフォーム確認支援装置。
[請求項3]
前記所定の条件は、他の複数の動作パターンと前記所定の観点における類似性が高い或いは低いことであることを特徴とする請求項2記載のフォーム確認支援装置。
[請求項4]
前記比較手段は、前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較することを特徴とする請求項1乃至3いずれか1項に記載のフォーム確認支援装置。
[請求項5]
前記抽出手段は、前記動画像において被写体の周期的に表れる一連の動作を前記動作パターンとして抽出することを特徴とする請求項1乃至4いずれか1項に記載のフォーム確認支援装置。
[請求項6]
前記抽出手段は、前記動画像において被写体の周期的に表れる要素から前記動作パターンを抽出することを特徴とする請求項1乃至4いずれか1項に記載のフォーム確認支援装置。
[請求項7]
前記抽出手段は、被写体の所定部位における位置の変化の周期性を判別して前記動作パターンを抽出することを特徴とする請求項1乃至6のいずれか1項に記載のフォーム確認支援装置。
[請求項8]
前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定する請求項4乃至7いずれか1項に記載のフォーム確認支援装置。
[請求項9]
前記所定の基準は所定の基準値に基づくものであって、
前記所定の値が前記基準値から所定の閾値を超えた動作パターンを前記他の動作パターンとして特定することを特徴とする請求項8記載のフォーム確認支援装置。
[請求項10]
前記所定の値は被写体の一連の動作の動作時間であって、前記所定の基準は前記動作時間の平均値との差がより小さいことを特徴とする請求項8記載のフォーム確認支援装置。
[請求項11]
前記所定の値は被写体の所定部位の特定タイミングでの注目位置であって、前記所定の基準は前記注目位置の平均位置との差がより小さいことを特徴とする請求項8記載のフォーム確認支援装置。
[請求項12]
前記比較手段は、使用者により指定された任意の時間位置の動作パターンを前記基準となる動作パターンとして特定し、当該基準となる動作パターンと、それと時間位置が異なる他の動作パターンとの違いを比較することを特徴とする請求項5乃至8のいずれか1項に記載のフォーム確認支援装置。
[請求項13]
前記抽出手段は、前記動作パターンを画像処理技術を用いて抽出することを特徴とする請求項1乃至12のいずれか1項に記載のフォーム確認支援装置。
[請求項14]
前記抽出手段は、前記動作パターンを、被写体の所定の部位に装着された検出手段によって前記動画像の撮影中に検出された前記所定の部位の位置変化を示す位置変化情報に基づき抽出することを特徴とする請求項1乃至13のいずれか1項に記載のフォーム確認支援装置。
[請求項15]
前記比較手段は、前記複数位置での動作パターンを、前記時間位置が相前後する一組の動作パターンを比較対象とし、比較対象の各々の動作パターンを前記時間位置が次の動作パターンに順に変更しながら比較することを特徴とする請求項1乃至14のいずれか1項に記載のフォーム確認支援装置。
[請求項16]
前記出力手段における比較結果の出力形態は、画面上における、前記時間位置が異なる一組の動作パターンの各々の画像の識別可能な表示であることを特徴とする請求項1乃至15のいずれか1項に記載のフォーム確認支援装置。
[請求項17]
前記出力手段における比較結果の出力形態は、前記一組の動作パターンの動画像を画面上に並べて表示するものであることを特徴とする請求項16記載のフォーム確認支援装置。
[請求項18]
前記出力手段における比較結果の出力形態は、前記一組の動作パターンの動画像を画面上に重ねて表示させるものであることを特徴とする請求項16記載のフォーム確認支援装置。
[請求項19]
前記出力手段における比較結果の出力形態は、画面上における前記一組の動作パターンの各々の画像の識別可能な表示に際し、前記一組の動作パターンのいずれか一方における被写体の一連の動作の動作時間を、前記一組の動作パターンのいずれか他方における被写体の一連の動作の動作時間と一致させる調整を伴うものであることを特徴とする請求項16乃至18のいずれか1項に記載のフォーム確認支援装置。
[請求項20]
前記出力手段は、前記比較手段による比較結果として、前記時間位置が異なる一組の動作パターンの差を表す差分情報を出力することを特徴とする請求項1乃至15のいずれか1項に記載のフォーム確認支援装置。
[請求項21]
前記出力手段は、前記差分情報として、前記一組の動作パターンにおける前記一連の動作の動作時間の差を表す情報を出力することを特徴とする請求項20記載のフォーム確認支援装置。
[請求項22]
前記出力手段は、前記差分情報として、前記一組の動作パターンにおける前記一連の動作における被写体の部位のうち決められたタイミングでの位置の差が基準以上である部位に関する位置の差を示す情報を出力することを特徴とする請求項20記載のフォーム確認支援装置。
[請求項23]
前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とする請求項1乃至19のいずれか1項に記載のフォーム確認支援装置。
[請求項24]
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出工程と、
前記抽出工程により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較工程と、
前記比較工程による比較結果を出力する出力工程と
を含むことを特徴とするフォーム確認支援方法。
[請求項25]
コンピュータに、
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手順と、
前記抽出手順により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手順と、
前記比較手順による比較結果を出力する出力手順と
を実行させることを特徴とするプログラム。
[請求項26]
情報端末と、当該情報端末が接続される支援サーバーとからなるフォーム確認支援システムであって、
前記支援サーバーは、
前記情報端末から転送された動画像を取得する取得手段と、
前記取得手段により取得された動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を前記情報端末へ提供する提供手段と
を備え、
前記情報端末は、
前記支援サーバーへ前記動画像を転送する転送手段と、
前記支援サーバーから提供された前記比較結果を出力する出力手段と
を備えた
ことを特徴とするフォーム確認支援システム。
1 情報端末
11 制御部
12 撮像部
13 通信部
14 記憶部
15 表示部
16 電源部
17 操作部
2 支援サーバー
21 制御部
22 通信部
23 記憶部
24 画像処理部
100 ネットワーク
G1 第1のフォーム確認画面
G2 第2のフォーム確認画面
G3 第3のフォーム確認画面
G4 第4のフォーム確認画面
G21 第5のフォーム確認画面
G22 第6のフォーム確認画面
g1 動画像
g2 比較動画
g3 位置ゲージ
g4 マーク
g21 基準画像
g22 比較画像
g23 位置ゲージ

Claims (26)

  1. 動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
    前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
    前記比較手段による比較結果を出力する出力手段と
    を備えたことを特徴とするフォーム確認支援装置。
  2. 前記比較手段は、前記抽出された動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較して、所定の条件を満たす動作パターンの時間位置を特定することを特徴とする請求項1記載のフォーム確認支援装置。
  3. 前記所定の条件は、他の複数の動作パターンと前記所定の観点における類似性が高い或いは低いことであることを特徴とする請求項2記載のフォーム確認支援装置。
  4. 前記比較手段は、前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較することを特徴とする請求項1乃至3いずれか1項に記載のフォーム確認支援装置。
  5. 前記抽出手段は、前記動画像において被写体の周期的に表れる一連の動作を前記動作パターンとして抽出することを特徴とする請求項1乃至4いずれか1項に記載のフォーム確認支援装置。
  6. 前記抽出手段は、前記動画像において被写体の周期的に表れる要素から前記動作パターンを抽出することを特徴とする請求項1乃至4いずれか1項に記載のフォーム確認支援装置。
  7. 前記抽出手段は、被写体の所定部位における位置の変化の周期性を判別して前記動作パターンを抽出することを特徴とする請求項1乃至6のいずれか1項に記載のフォーム確認支援装置。
  8. 前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定する請求項4乃至7いずれか1項に記載のフォーム確認支援装置。
  9. 前記所定の基準は所定の基準値に基づくものであって、
    前記所定の値が前記基準値から所定の閾値を超えた動作パターンを前記他の動作パターンとして特定することを特徴とする請求項8記載のフォーム確認支援装置。
  10. 前記所定の値は被写体の一連の動作の動作時間であって、前記所定の基準は前記動作時間の平均値との差がより小さいことを特徴とする請求項8記載のフォーム確認支援装置。
  11. 前記所定の値は被写体の所定部位の特定タイミングでの注目位置であって、前記所定の基準は前記注目位置の平均位置との差がより小さいことを特徴とする請求項8記載のフォーム確認支援装置。
  12. 前記比較手段は、使用者により指定された任意の時間位置の動作パターンを前記基準となる動作パターンとして特定し、当該基準となる動作パターンと、それと時間位置が異なる他の動作パターンとの違いを比較することを特徴とする請求項5乃至8のいずれか1項に記載のフォーム確認支援装置。
  13. 前記抽出手段は、前記動作パターンを画像処理技術を用いて抽出することを特徴とする請求項1乃至12のいずれか1項に記載のフォーム確認支援装置。
  14. 前記抽出手段は、前記動作パターンを、被写体の所定の部位に装着された検出手段によって前記動画像の撮影中に検出された前記所定の部位の位置変化を示す位置変化情報に基づき抽出することを特徴とする請求項1乃至13のいずれか1項に記載のフォーム確認支援装置。
  15. 前記比較手段は、前記複数位置での動作パターンを、前記時間位置が相前後する一組の動作パターンを比較対象とし、比較対象の各々の動作パターンを前記時間位置が次の動作パターンに順に変更しながら比較することを特徴とする請求項1乃至14のいずれか1項に記載のフォーム確認支援装置。
  16. 前記出力手段における比較結果の出力形態は、画面上における、前記時間位置が異なる一組の動作パターンの各々の画像の識別可能な表示であることを特徴とする請求項1乃至15のいずれか1項に記載のフォーム確認支援装置。
  17. 前記出力手段における比較結果の出力形態は、前記一組の動作パターンの動画像を画面上に並べて表示するものであることを特徴とする請求項16記載のフォーム確認支援装置。
  18. 前記出力手段における比較結果の出力形態は、前記一組の動作パターンの動画像を画面上に重ねて表示させるものであることを特徴とする請求項16記載のフォーム確認支援装置。
  19. 前記出力手段における比較結果の出力形態は、画面上における前記一組の動作パターンの各々の画像の識別可能な表示に際し、前記一組の動作パターンのいずれか一方における被写体の一連の動作の動作時間を、前記一組の動作パターンのいずれか他方における被写体の一連の動作の動作時間と一致させる調整を伴うものであることを特徴とする請求項16乃至18のいずれか1項に記載のフォーム確認支援装置。
  20. 前記出力手段は、前記比較手段による比較結果として、前記時間位置が異なる一組の動作パターンの差を表す差分情報を出力することを特徴とする請求項1乃至15のいずれか1項に記載のフォーム確認支援装置。
  21. 前記出力手段は、前記差分情報として、前記一組の動作パターンにおける前記一連の動作の動作時間の差を表す情報を出力することを特徴とする請求項20記載のフォーム確認支援装置。
  22. 前記出力手段は、前記差分情報として、前記一組の動作パターンにおける前記一連の動作における被写体の部位のうち決められたタイミングでの位置の差が基準以上である部位に関する位置の差を示す情報を出力することを特徴とする請求項20記載のフォーム確認支援装置。
  23. 前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とする請求項1乃至22のいずれか1項に記載のフォーム確認支援装置。
  24. 動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出工程と、
    前記抽出工程により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較工程と、
    前記比較工程による比較結果を出力する出力工程と
    を含むことを特徴とするフォーム確認支援方法。
  25. コンピュータに、
    動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手順と、
    前記抽出手順により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手順と、
    前記比較手順による比較結果を出力する出力手順と
    を実行させることを特徴とするプログラム。
  26. 情報端末と、当該情報端末が接続される支援サーバーとからなるフォーム確認支援システムであって、
    前記支援サーバーは、
    前記情報端末から転送された動画像を取得する取得手段と、
    前記取得手段により取得された動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
    前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
    前記比較手段による比較結果を前記情報端末へ提供する提供手段と
    を備え、
    前記情報端末は、
    前記支援サーバーへ前記動画像を転送する転送手段と、
    前記支援サーバーから提供された前記比較結果を出力する出力手段と
    を備えた
    ことを特徴とするフォーム確認支援システム。
JP2013136056A 2013-06-28 2013-06-28 フォーム確認支援装置、及びその方法とプログラム、フォーム確認支援システム Pending JP2015012434A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013136056A JP2015012434A (ja) 2013-06-28 2013-06-28 フォーム確認支援装置、及びその方法とプログラム、フォーム確認支援システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013136056A JP2015012434A (ja) 2013-06-28 2013-06-28 フォーム確認支援装置、及びその方法とプログラム、フォーム確認支援システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017151657A Division JP6354897B2 (ja) 2017-08-04 2017-08-04 動画像比較装置、及びその方法とプログラム、動画像比較システム

Publications (1)

Publication Number Publication Date
JP2015012434A true JP2015012434A (ja) 2015-01-19

Family

ID=52305229

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013136056A Pending JP2015012434A (ja) 2013-06-28 2013-06-28 フォーム確認支援装置、及びその方法とプログラム、フォーム確認支援システム

Country Status (1)

Country Link
JP (1) JP2015012434A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018003146A1 (ja) * 2016-06-28 2018-01-04 Necソリューションイノベータ株式会社 同定システム、同定方法、プログラム、および記録媒体
JP2019024550A (ja) * 2017-07-25 2019-02-21 株式会社クオンタム 検出装置、検出システム、処理装置、検出方法、及び検出プログラム

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000138927A (ja) * 1998-11-02 2000-05-16 Hitachi Plant Eng & Constr Co Ltd 画像比較表示装置
JP2002346020A (ja) * 2001-05-30 2002-12-03 Hamamatsu Photonics Kk ストローク情報測定装置及びストローク情報測定方法
JP2007300317A (ja) * 2006-04-28 2007-11-15 Net Dreamers Co Ltd スポーツや演技における身体の動かし方の記録画像表示システム
JP2008236124A (ja) * 2007-03-19 2008-10-02 Casio Comput Co Ltd ダイジェスト画像表示装置、ダイジェスト画像表示方法及びプログラム
JP2009034360A (ja) * 2007-08-02 2009-02-19 Ntt Gp Eco Communication Inc トレーニングシステムおよびトレーニングシステム用装置
JP2010017447A (ja) * 2008-07-14 2010-01-28 Nippon Telegr & Teleph Corp <Ntt> 歩行動作分析装置、歩行動作分析方法、歩行動作分析プログラムおよびその記録媒体
JP2011019627A (ja) * 2009-07-14 2011-02-03 Yasuhiro Shitan トレーニングマシン、方法、および、プログラム
JP2011130204A (ja) * 2009-12-17 2011-06-30 Canon Inc 映像情報処理方法及びその装置
WO2011077696A1 (ja) * 2009-12-22 2011-06-30 パナソニック株式会社 動作解析装置および動作解析方法
JP2013016171A (ja) * 2011-07-01 2013-01-24 Fujitsu Ltd 人体動作周期の特定と人体動作の認識の方法、装置、及びプログラム
JP2013066696A (ja) * 2011-09-06 2013-04-18 Gifu Univ 画像処理システム及び画像処理方法
JP2013103010A (ja) * 2011-11-15 2013-05-30 Sony Corp 画像処理装置、画像処理方法及びプログラム

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000138927A (ja) * 1998-11-02 2000-05-16 Hitachi Plant Eng & Constr Co Ltd 画像比較表示装置
JP2002346020A (ja) * 2001-05-30 2002-12-03 Hamamatsu Photonics Kk ストローク情報測定装置及びストローク情報測定方法
JP2007300317A (ja) * 2006-04-28 2007-11-15 Net Dreamers Co Ltd スポーツや演技における身体の動かし方の記録画像表示システム
JP2008236124A (ja) * 2007-03-19 2008-10-02 Casio Comput Co Ltd ダイジェスト画像表示装置、ダイジェスト画像表示方法及びプログラム
JP2009034360A (ja) * 2007-08-02 2009-02-19 Ntt Gp Eco Communication Inc トレーニングシステムおよびトレーニングシステム用装置
JP2010017447A (ja) * 2008-07-14 2010-01-28 Nippon Telegr & Teleph Corp <Ntt> 歩行動作分析装置、歩行動作分析方法、歩行動作分析プログラムおよびその記録媒体
JP2011019627A (ja) * 2009-07-14 2011-02-03 Yasuhiro Shitan トレーニングマシン、方法、および、プログラム
JP2011130204A (ja) * 2009-12-17 2011-06-30 Canon Inc 映像情報処理方法及びその装置
WO2011077696A1 (ja) * 2009-12-22 2011-06-30 パナソニック株式会社 動作解析装置および動作解析方法
JP2013016171A (ja) * 2011-07-01 2013-01-24 Fujitsu Ltd 人体動作周期の特定と人体動作の認識の方法、装置、及びプログラム
JP2013066696A (ja) * 2011-09-06 2013-04-18 Gifu Univ 画像処理システム及び画像処理方法
JP2013103010A (ja) * 2011-11-15 2013-05-30 Sony Corp 画像処理装置、画像処理方法及びプログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018003146A1 (ja) * 2016-06-28 2018-01-04 Necソリューションイノベータ株式会社 同定システム、同定方法、プログラム、および記録媒体
JPWO2018003146A1 (ja) * 2016-06-28 2019-06-13 Necソリューションイノベータ株式会社 同定システム
JP2019024550A (ja) * 2017-07-25 2019-02-21 株式会社クオンタム 検出装置、検出システム、処理装置、検出方法、及び検出プログラム
JP7011416B2 (ja) 2017-07-25 2022-01-26 株式会社クオンタム 検出装置、検出システム、処理装置及び検出プログラム

Similar Documents

Publication Publication Date Title
JP6354897B2 (ja) 動画像比較装置、及びその方法とプログラム、動画像比較システム
JP6120762B2 (ja) 画像処理装置
JP5988563B2 (ja) 画像処理装置と画像処理装置の制御方法およびプログラムと、情報処理装置と情報処理装置の制御方法およびプログラム
JP6726931B2 (ja) 画像処理装置およびその方法、並びに、画像処理システム
US10397467B2 (en) Imaging apparatus, image processing device, imaging method, and computer-readable recording medium
JP5874626B2 (ja) 表示制御装置、表示制御システム、表示制御方法及びプログラム
WO2015178133A1 (ja) 無線内視鏡システム、内視鏡、表示装置、画像送信方法、画像表示方法、及びプログラム
US20140307150A1 (en) Imaging device, focus adjustment system, focus instruction device, and focus adjustment method
JP6238134B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2013007836A (ja) 画像表示装置、画像表示方法及びプログラム
JP5955170B2 (ja) 表示制御装置、表示制御方法、及びプログラム
JP2014127735A (ja) 表示制御装置、表示制御システム、表示制御方法及びプログラム
JP2015012434A (ja) フォーム確認支援装置、及びその方法とプログラム、フォーム確認支援システム
US10057477B2 (en) Imaging device, imaging system, communication device, imaging method, and computer readable recording medium for generating and transmitting superimposed image data
CN107682620A (zh) 摄像装置、拍摄模式控制方法以及记录介质
JP5790858B2 (ja) 画像合成装置、画像合成方法、及びプログラム
JP2015053020A (ja) 情報表示装置、情報表示方法およびプログラム
JPWO2014034137A1 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2014182546A (ja) 情報表示制御装置、表示態様切替え処理プログラムおよび表示態様切替え処理システム
US20180189010A1 (en) Display processing apparatus and method, and storage medium
JP2010097449A (ja) 画像合成装置、及び画像合成方法、画像合成プログラム
JP7247136B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
WO2017110208A1 (ja) 情報処理装置と情報処理方法およびプログラム
JP2014030069A (ja) 画像選択装置、画像選択方法及びプログラム
JP2016184921A (ja) 情報設定装置および情報管理装置および情報生成装置およびこれらの制御方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160519

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170302

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170404

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170511