JP2017229081A - Dynamic image comparison device, method and program thereof, and dynamic image comparison system - Google Patents
Dynamic image comparison device, method and program thereof, and dynamic image comparison system Download PDFInfo
- Publication number
- JP2017229081A JP2017229081A JP2017151657A JP2017151657A JP2017229081A JP 2017229081 A JP2017229081 A JP 2017229081A JP 2017151657 A JP2017151657 A JP 2017151657A JP 2017151657 A JP2017151657 A JP 2017151657A JP 2017229081 A JP2017229081 A JP 2017229081A
- Authority
- JP
- Japan
- Prior art keywords
- operation pattern
- moving image
- comparison
- positions
- pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
本発明は、動画像を比較する動画像比較装置、及びその方法とプログラム、動画像比較システムに関するものである。 The present invention relates to a moving image comparison apparatus, a method and program for comparing moving images, and a moving image comparison system.
従来、例えばスポーツのトレーニングに際して、トレーニング中における人物のフォームを動画撮影し、撮影した動画像からフォームの善し悪しや、トレーニングの成果を確認することにより、その後のトレーニングの参考にすることが行われている。 Conventionally, during sports training, for example, a person's form during training is recorded as a video, and the quality of the form is confirmed from the captured moving images and the results of the training are used as reference for subsequent training. Yes.
ここで、例えば下記特許文献1には、トレーニングを撮影した動画像から、ほぼ同一パターンの動作が繰り返された部分のみを自動的に抽出し、新たな動画像として保存する技術が開示されている。係る技術によれば、撮影した動画像から同一パターンの動作以外の無駄な部分を省くことにより、トレーニング中におけるフォームの確認作業が容易となる。 Here, for example, Patent Document 1 below discloses a technique for automatically extracting only a portion in which an operation of substantially the same pattern is repeated from a moving image obtained by training and storing it as a new moving image. . According to such a technique, it is possible to easily confirm the form during training by omitting unnecessary portions other than the operation of the same pattern from the captured moving image.
しかしながら、上記の技術においては、動画像から無駄な部分を省くことはできるが、トレーニング中にほぼ同一パターンの動作が多数繰り返される場合には、トレーニング中におけるどの時点のフォームが良くてどの時点のフォームが悪いかといったことは、ユーザーが保存された動画像を注意深く見て自分で判断するしかない。係ることから、フォームの確認作業を効率よく行うまでには到らないという問題があった。 However, in the above technique, it is possible to omit a useless portion from a moving image. However, when a motion of almost the same pattern is repeated many times during training, the form at which time point during training is good and at which time point. Whether a form is bad or not can only be judged by the user carefully watching the stored video. For this reason, there has been a problem that it is not possible to efficiently confirm the form.
本発明は、かかる従来の課題に鑑みてなされたものであり、同一パターンの動作の繰り返しが多い動画像の比較を効率的に、かつ容易に行うことができる動画像比較装置、及びその方法とプログラム、動画像比較システムを提供することを目的とする。 The present invention has been made in view of such conventional problems, and a moving image comparison apparatus and method that can efficiently and easily perform comparison of moving images in which operations of the same pattern are frequently repeated. It is an object to provide a program and a moving image comparison system.
前記課題を解決するため、第1の観点における発明にあっては、動画像比較装置であって、動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較手段と、前記比較手段による比較結果を出力する出力手段と、を備え、前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定することを特徴とする。
また、第2の観点における発明にあっては、動画像比較装置であって、動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、前記比較手段による比較結果を出力する出力手段と、を備え、前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とする。
In order to solve the above-mentioned problem, the invention according to the first aspect is a moving image comparison device, wherein a moving image includes an extracting means for extracting a motion pattern in which a subject repeatedly appears in the moving image, and the extracting means. A comparison unit that identifies a reference operation pattern from the operation patterns at a plurality of positions extracted by the above and compares the reference operation pattern with an operation pattern at another plurality of positions, and a comparison result by the comparison unit. Output means for outputting, wherein the comparing means specifies the reference operation pattern according to a predetermined value in each operation pattern and a predetermined reference relating to the value from the operation patterns at the plurality of positions. Features.
The invention according to the second aspect is a moving image comparison apparatus, wherein the moving image is an extraction unit that extracts a motion pattern in which a subject repeatedly appears in the moving image, and the extraction unit extracts the movement pattern. Comparing means for comparing operation patterns at a plurality of positions having different time positions in a moving image from a predetermined viewpoint; and output means for outputting a comparison result by the comparing means; and the output form of the comparison result in the output means is The time position between a reference operation pattern among the operation patterns extracted by the extraction means and an operation pattern other than the operation pattern is displayed on the screen in an identifiable manner.
また、第3の観点における発明にあっては、情報端末と、当該情報端末が接続されるサーバーとからなる動画像比較システムであって、前記サーバーは、動画像において、当該被写体の繰り返し表れる動作パターンを抽出する抽出手段と、前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較手段と、前記比較手段による比較結果を前記情報端末へ提供する提供手段とを備え、前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定し、前記情報端末は、前記サーバーへ前記動画像を転送する転送手段と、前記サーバーから提供された前記比較結果を出力する出力手段と、を備えたことを特徴とする。
また、第4の観点における発明にあっては、情報端末と、当該情報端末が接続されるサーバーとからなる動画像比較システムであって、前記サーバーは、動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、前記比較手段による比較結果を前記情報端末へ提供する提供手段と、を備え、前記情報端末は、前記サーバーへ前記動画像を転送する転送手段と、前記サーバーから提供された前記比較結果を出力する出力手段と、を備え、前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものである、ことを特徴とする。
The invention according to the third aspect is a moving image comparison system comprising an information terminal and a server to which the information terminal is connected, wherein the server repeatedly displays the subject in the moving image. An extraction unit for extracting a pattern, and a reference operation pattern is identified from the operation patterns at a plurality of positions extracted by the extraction unit, and the reference operation pattern is compared with an operation pattern at another plurality of positions. Comparing means and providing means for providing a comparison result by the comparing means to the information terminal, wherein the comparing means determines a predetermined value in each operation pattern from the operation patterns at the plurality of positions, and a predetermined value related to the value. The operation pattern serving as the reference is specified in accordance with the reference, and the information terminal transfers the moving image to the server; And output means for outputting the comparison result provided from Ba, and further comprising a.
According to the fourth aspect of the invention, there is provided a moving image comparison system including an information terminal and a server to which the information terminal is connected. Extraction means for extracting a motion pattern that appears repeatedly, comparison means for comparing motion patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means, and a comparison result by the comparison means Providing means for providing to the information terminal, the information terminal comprises transfer means for transferring the moving image to the server, and output means for outputting the comparison result provided from the server, The output form of the comparison result in the output means is a reference operation pattern among the operation patterns extracted by the extraction means, and the operation The time position of the operation pattern other than the turn is intended to identifiably displayed on the screen, characterized in that.
本発明によれば、同一パターンの動作の繰り返しが多いフォームの確認作業を効率的に、かつ容易に行うことが可能となる。 According to the present invention, it is possible to efficiently and easily perform confirmation of a form in which operations of the same pattern are frequently repeated.
以下、本発明の実施の形態について図面を参照して説明する。
(第1の実施形態)
図1は、スポーツのトレーニング中の人物を撮影した動画像を用いて、フォームの善し悪しを確認する作業を支援する、本発明に係るフォーム確認支援システムの一実施形態を示した図である。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
(First embodiment)
FIG. 1 is a diagram showing an embodiment of a form confirmation support system according to the present invention, which supports a work for confirming whether a form is good or bad by using a moving image obtained by photographing a person during sports training.
図1に示したように本実施形態のフォーム確認支援システムは、ネットワーク100に接続可能な情報端末1と、ネットワーク100を介して情報端末1を含む任意の情報処理装置が接続される支援サーバー2とから構成される。
As shown in FIG. 1, the form confirmation support system of this embodiment includes an information terminal 1 that can be connected to a
まず、情報端末1について説明する。情報端末1は、例えばスマートフォンを含む携帯電話端末により実現されるものであり、主として制御部11と、撮像部12、通信部13、記憶部14、表示部15、電源部16、操作部17を備えている。
First, the information terminal 1 will be described. The information terminal 1 is realized by a mobile phone terminal including a smartphone, for example, and mainly includes a
制御部11は、CPU(Central Processing Unit)、及びその周辺回路、各種のプログラムが格納されたROM、及び作業用のRAMを含み、CPUが所定のプログラムを実行することにより、情報端末1の全体を制御することによって、情報端末1が有する各種の機能を実現する。なお、ROMには、制御部11に後述する処理を行わせるためのプログラムも格納されている。
The
撮像部12は、CCD(Charge Coupled Device)やCMOS(Complementary Meta1 0xide Semiconductor)型の撮像素子、及び撮像素子から出力される撮像信号に基づく画像データを生成する信号処理回路等から構成される。撮像部12が生成した画像データは、制御部11によって最終的には静止画データや動画データとして記憶部14に記憶される。記憶部14に記憶された静止画データや動画データは、制御部11によって再生され、表示部15に表示される。
The
記憶部14は、情報端末1の本体に内蔵されたフラッシュメモリや、情報端末1の本体に着脱自在な各種のメモリから構成される。
The
通信部13は、例えばWi−FiやBlueTooth(登録商標)等の無線や有線の通信を利用して情報端末1をネットワーク100へ接続し、支援サーバー2との間におけるデータの送受信を行う。
The
表示部15は、カラー液晶表示パネルと、カラー液晶表示パネルを駆動する表示駆動回路とから構成される。表示部15は、制御部11によって記憶部14から読み出されて供給される画像データ等に基づく静止画像や動画像、及びその他の情報を表示するとともに、後述するフォーム確認画面も表示する。
The
電源部16は、電源電池(例えばニッケル水素電池等の充電池)、及びDC/DCコンバータなどで構成され、上記の各部に対し各々が必要とする電力を供給する。
The
操作部17は、各種キーや電源スイッチや、カラー液晶表示パネルをタッチパネルとして機能させるタッチセンサー等から構成される。
The
なお、情報端末1がスマートフォンを含む携帯電話端末である場合、情報端末1には、電話通信を行うための図示しない周知の回路、すなわち入力された音声を変調して送信する音声入力回路、送信回路、及び受信した音声信号を受信して復号再生する受信回路、再生回路等が存在する。 When the information terminal 1 is a mobile phone terminal including a smartphone, the information terminal 1 includes a well-known circuit (not shown) for performing telephone communication, that is, a voice input circuit that modulates and transmits input voice, There are a circuit, a reception circuit that receives and decodes a received audio signal, a reproduction circuit, and the like.
次に、支援サーバー2について説明する。支援サーバー2は、主として制御部21と、通信部22、記憶部23、画像処理部24を備えている。
Next, the support server 2 will be described. The support server 2 mainly includes a
制御部21は、図示しないがCPU、及びCPUの周辺回路と、RAM等の作業用メモリ等とから構成され、記憶部23に記憶されているプログラムに基づき支援サーバー2全体を制御するとともに、後述する処理を含む各種の処理を実行する。
Although not shown, the
通信部22は、ネットワーク100を介して接続された情報端末1との間におけるデータの送受信を行う。
The
記憶部23は、前述したプログラム以外にも、情報端末1との間で送受信する各種データ等を記憶する。
The
画像処理部24は、制御部21の指令に従い動画像や静止画像に対する各種の画像処理を行う。特に、画像処理部24は、ネットワーク100を介して情報端末1等から送られる動画データを対象とした種々の動画像処理を行う。
The
そして、以上の構成からなるフォーム確認支援システムにおいては、情報端末1と支援サーバー2とが以下に述べるように動作することにより、ユーザーが、ランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する作業を支援する。 In the form confirmation support system having the above-described configuration, the information terminal 1 and the support server 2 operate as described below, so that the user captures a moving person (person or another person). Support the work to check the quality of running form using images.
以下、ユーザーがフォーム確認支援システムを使用する場合における情報端末1と支援サーバー2との本発明に係る動作を具体的に説明する。なお、ここでは、情報端末1の記憶部14に、ランニング中の人物を撮影した動画像であって、実際にランニングを行っている部分のみの動画像のデータが1又は複数記憶されているものとする。
Hereinafter, the operation of the information terminal 1 and the support server 2 according to the present invention when the user uses the form confirmation support system will be specifically described. Here, the
図2は、情報端末1における制御部11の処理内容を示すフローチャートである。ユーザーによる所定の操作により動作を開始すると、制御部11は、例えば表示部15に所定の選択画面を表示して、記憶部14に記憶されている動画像のうちから所望の動画像をユーザーに指定させることにより、フォームの確認対象とすべき動画像を特定する(ステップSA1)。
FIG. 2 is a flowchart showing the processing contents of the
次に、制御部11は、ネットワーク100を介して支援サーバー2に接続した後(ステップSA2)、確認対象の動画像のデータを支援サーバー2にアップロードする(ステップSA3)。その後、制御部11は、支援サーバー2から後述する確認用の動画データ及び解析結果データが受信できるまで待機する(ステップSA4:NO)。
Next, after connecting to the support server 2 via the network 100 (step SA2), the
一方、図3は、その間の支援サーバー2における制御部21の処理内容を示すフローチャートである。支援サーバー2においては、情報端末1から動画データがアップロードされると、通信部22を介して制御部21がそれを受信し(ステップSB1)、直ちにアップロードされた動画データを対象として画像処理部24に、輪郭抽出等の各種の画像処理を行わせることによって、以下の処理を行う。
On the other hand, FIG. 3 is a flowchart showing the processing contents of the
まず、制御部21は、動画データにより表される動画像において、動画像の主たる被写体(以下、単に被写体という。)の各部位の動作を解析する(ステップSB2)。係る処理に際して制御部21は、被写体の部位すなわちランナーの左右の足と手と判断できる各部位をそれぞれ検出し、検出した各部位における動画像内での位置の変化を取得する。
First, in the moving image represented by the moving image data, the
より具体的に述べると制御部21は、各部位について、各部位の先端等のフレーム間で追跡に適した代表点を設定し、設定した代表点の座標位置を動画像のフレーム毎(数フレーム毎でもよい)に取得し、記憶部23に部位毎に記憶してデータベース化する。
More specifically, the
次に、制御部21は、記憶部23に記憶した各部位(代表点)の時間的な変化に基づいて被写体の動作パターンを抽出する(ステップSB3)。ここで抽出する動作パターンは、動画像に繰り返し表れるランナーの一連の動作であり、右足(又は左足)が接地した状態から上昇した後、ある時点を境として降下して着地したのち、再び上昇を開始するまでの動作である。
Next, the
そして、ステップSB3の処理において制御部21は、動画像の全期間について各々の動作パターンの開始時点のフレーム番号(時間位置)と、終了時点のフレーム番号(時間位置)とを取得し、記憶部23に記憶する。
Then, in the processing of step SB3, the
次に、制御部21は、前記動作パターンの平均周期、つまり各々の動作パターンにおける開始時点から終了時点までの動作時間の平均値を取得する(ステップSB4)。なお、動作パターンの平均周期は、動画像の全期間ではなく前半の期間の各動作パターンから取得してもよい。
Next, the
なお、立ち止まったり、転んだりして大きくばらつくような動作パターンがある場合は、標準偏差を算出する等行うことで、大きく外れる動作パターンを除外し、より適切な平均周期を取得するようにしてもよい。 If there is an operation pattern that stops or rolls and varies greatly, the standard deviation is calculated, etc., so that the operation pattern that deviates greatly is excluded, and a more appropriate average period is acquired. Good.
次に、制御部21は、動画像の全期間を対象として各部位の平均位置を取得する(ステップSB5)。ここで取得する各部位の平均位置は、各々の動作パターンにおける各部位の特定タイミングにおける平均的な位置である。特定タイミングは、各々の動作パターンにおいて左右の足、及び左右の手が往復移動している間に停止するタイミング、すなわち移動方向が逆転する瞬間のタイミングである。つまり、各部位について2種類の位置を取得し、それぞれの平均値を取得する。
Next, the
上述と同様にして、大きく外れる動作パターンを除外し、より適切な平均位置を取得するようにしてもよい。 In the same manner as described above, an operation pattern that deviates greatly may be excluded, and a more appropriate average position may be acquired.
なお、各部位の平均位置についても動作パターンの平均周期と同様に、動画像の全期間ではなく前半の期間の各動作パターンから取得してもよく、動作パターンの平均周期を動画像の前半の期間から取得する場合には、各部位の平均位置も動画像の前半の期間から取得する。 As with the average period of the motion pattern, the average position of each part may be acquired from each motion pattern in the first half period instead of the whole period of the moving image. When acquiring from the period, the average position of each part is also acquired from the first half period of the moving image.
但し、ステップSB5の処理において制御部21は、各部位の平均位置を動画像の前半の期間から取得する場合についても、動画像の全期間の全ての動作パターン毎に、左右の足、及び左右の手の特定タイミングの位置(2種類)をそれぞれ確認し、それらを記憶部23に記憶しデータベース化する。
However, in the process of step SB5, the
次に、制御部21は、ステップSB4の処理で取得した平均周期から基準動作パターンを特定する(ステップSB6)。具体的に説明すると制御部21は、動画像に繰り返し表れる前記動作パターンのうちで、その周期(動作時間)が平均値に最も近い動作パターンを基準動作パターンとして特定する。
Next, the
次に、制御部21は、基準動作パターンの比較対象となる比較動作パターンの特定に使用する閾値を設定する(ステップSB7)。ここでは閾値として第1の閾値と第2の閾値を設定する。第1の閾値は動作パターンの周期に関するものであり、前述した平均周期との差である。また、第2の閾値は各部位の特定タイミングの位置に関するものであり、前述した平均位置との差である。
Next, the
次に、制御部21は、基準動作パターン以外の動作パターンのうちで、上記の第1の閾値を超える動作パターン、及び第2の閾値を超える動作パターンをそれぞれ比較動作パターンとして特定する(ステップSB8)。これにより、その周期が平均周期と大きく異なる動作パターン、及びいずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンを比較動作パターンとして特定される。
Next, the
なお、ここで設定される比較動作パターンには、その周期が平均周期と大きく異なると同時に、いずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンが含まれる場合もある。 Note that the comparison operation pattern set here may include an operation pattern in which the cycle is significantly different from the average cycle and at the same time the position of the specific timing of any part is significantly different from the average position in the part. .
ここで、ステップSB7の処理においては、動作パターンの周期に関する第1の閾値として、平均周期との差ではなく、平均周期に対する所定の割合を設定することができる。その場合においても、ステップSB8の処理において、その周期が平均周期と大きく異なる動作パターンを比較動作パターンとして特定することができる。 Here, in the process of step SB7, a predetermined ratio with respect to the average period can be set as the first threshold value regarding the period of the operation pattern, not the difference with the average period. Even in that case, in the process of step SB8, an operation pattern whose period is significantly different from the average period can be specified as the comparison operation pattern.
同様に、ステップSB7の処理においては、各部位の特定タイミングの位置に関する第2の閾値として、平均位置との差ではなく、平均位置に対する所定の割合を設定することができる。その場合においても、ステップSB8の処理において、いずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンを比較動作パターンとして特定することができる。 Similarly, in the process of step SB7, a predetermined ratio with respect to the average position can be set as the second threshold value regarding the position of the specific timing of each part, not the difference from the average position. Even in that case, in the process of step SB8, an operation pattern in which the position of the specific timing of any part is significantly different from the average position in the part can be specified as the comparison operation pattern.
次に、制御部21は、確認対象の元の動画像から確認用の動画データを新たに生成する(ステップSB9)。係る処理に際して制御部21は、まず、元の動画像からステップSB6の処理で特定した基準動作パターン、及びステップSB8の処理で特定した比較動作パターン(1又は複数)に該当する動画部分のデータを抽出する。次に、抽出した各動作パターンの動画部分から主たる被写体(ランナー)に相当する部分を切り出し、それを新たなフレーム画像として動作パターン別の動画像データを生成する。そして、生成した動作パターン別の動画像データをマージした確認用の動画データを生成する。
Next, the
しかる後、制御部21は、生成した動画データを、基準動作パターン及び比較動作パターンに関する解析結果データと共に情報端末1へ送信する(ステップSB10)。
Thereafter, the
解析結果データには、動画像における基準動作パターン及び比較動作パターン(1又は複数)の動作パターン毎の次のデータが含まれる。具体的なデータは、動画像における時間位置を示す、各動作パターンの開始時点及び終了時点のフレーム番号と、特定タイミングの位置が平均位置と大きく異なっていた部位(以下、注目部位という。)の特定タイミングでの位置(座標位置)である。 The analysis result data includes the following data for each operation pattern of the reference operation pattern and the comparison operation pattern (one or more) in the moving image. The specific data includes the frame positions at the start time and end time of each motion pattern indicating the time position in the moving image, and the part where the position of the specific timing is greatly different from the average position (hereinafter referred to as a target part). A position (coordinate position) at a specific timing.
つまり、制御部21は、確認対象の動画像における時間位置が異なる複数位置での動作パターンを、その周期(動作時間)及び被写体の所定部位(左右の足と手)の特定タイミングでの位置を観点として比較した結果として、確認用の動画データと解析結果データとを情報端末1へ送信する。
That is, the
一方、図2に示したように情報端末1においては、支援サーバー2から前述した確認用の動画データ及び解析結果データを通信部13を介して受信すると(ステップSA4:YES)、制御部11が受信した解析結果データに基づき、前述した基準動作パターン及び比較動作パターンを表す動画像を識別可能に表示するフォーム確認画面を表示部15に表示させる(ステップSA5)。
On the other hand, as shown in FIG. 2, when the information terminal 1 receives the confirmation moving image data and analysis result data from the support server 2 via the communication unit 13 (step SA4: YES), the
フォーム確認画面における双方の動画像の表示形態には、後述するように並列表示と重畳表示との2つの表示形態がある。 There are two display forms of the moving images on the form confirmation screen: a parallel display and a superimposed display, as will be described later.
図4(a)は、確認用の動画データ及び解析結果データを受信した直後に表示部15に表示される第1のフォーム確認画面G1を示した図である。
FIG. 4A is a diagram showing a first form confirmation screen G1 displayed on the
図に示したように第1のフォーム確認画面G1は、画面の左側に基準動作パターンを表す基準動画g1を配置し、画面の右側に比較動作パターンを表す比較動画g2を配置するとともに、基準動画g1と比較動画g2と下方に位置ゲージg3を配置したものである。すなわち第1のフォーム確認画面G1における動画像の表示形態は並列表示である。 As shown in the figure, on the first form confirmation screen G1, the reference video g1 representing the reference motion pattern is arranged on the left side of the screen, the comparison video g2 representing the comparison motion pattern is arranged on the right side of the screen, and the reference video The position gauge g3 is arranged below g1 and the comparative moving image g2. That is, the display form of the moving image on the first form confirmation screen G1 is parallel display.
係る第1のフォーム確認画面G1の表示に際して制御部11は、支援サーバー2から受信した確認用の動画像にマージされている基準動作パターンの動画像を基準動画g1とし、かつ確認用の動画像にマージされている比較動作パターンの動画像を比較動画g2として、それぞれの画面上での表示を開始する。
When the first form confirmation screen G1 is displayed, the
なお、基準動作パターン及び比較動作パターンの動画像は、既説したようにランナー部分のみの動画像である。また、第1のフォーム確認画面G1の表示開始当初における比較動画g2は、比較動作パターンが複数であった場合には、確認対象である元の動画像内での時間位置が最先の比較動作パターンを表すものである。 Note that the moving images of the reference operation pattern and the comparison operation pattern are moving images of only the runner portion as described above. Further, the comparison moving image g2 at the beginning of the display of the first form confirmation screen G1 has a comparison operation with the earliest time position in the original moving image to be confirmed when there are a plurality of comparison operation patterns. It represents a pattern.
また、第1のフォーム確認画面G1の表示に際して制御部11は、解析結果データに含まれる動作パターン毎の動画像における開始時点及び終了時点のフレーム番号に基づいて前記位置ゲージg3を画面上に表示させる。位置ゲージg3は、その延在方向の全域を動画像の全期間に見立て、全期間における基準動画g1と比較動画g2との時間位置(図において黒塗り、又は斜線で示す期間)を示したものである。
Further, when the first form confirmation screen G1 is displayed, the
なお、第1のフォーム確認画面G1の表示に際して制御部11は、基準動画g1と比較動画g2における、現在表示しているフレームに関する確認対象の動画像における時間位置(先頭からの経過時間)及び動作パターンの周期もそれぞれ表示部15に表示させる。
When the first form confirmation screen G1 is displayed, the
また、第1のフォーム確認画面G1の表示中において制御部11は、基準動画g1と比較動画g2とを繰り返し表示させ、その間には、双方の表示周期を一致させる。つまり基準動画g1のフレーム期間が比較動画g2のフレーム期間よりも短い場合には、基準動画g1の次の周期の表示開始時期を遅らせ、逆に基準動画g1のフレーム期間が比較動画g2のフレーム期間よりも長い場合には、比較動画g2の次の周期の表示開始時期を遅らせる。
In addition, during the display of the first form confirmation screen G1, the
さらに、第1のフォーム確認画面G1の表示中において制御部11は、上記のように基準動画g1と比較動画g2とを繰り返し表示させる間、被写体の注目部位を示すマークg4(図の例では破線の丸)を双方の動画像g1,g2とに重畳して表示させる。なお、注目部位は、前述したように比較動画g2(比較動作パターン)において、特定タイミングでの位置が平均位置と大きく異なっていた部位であり、図4(a)は、上記注目部位が被写体の足である場合の例である。
Further, while the first form confirmation screen G1 is displayed, the
また、上述した第1のフォーム確認画面G1を表示した後、制御部11は、ユーザーによる確認作業の終了を指示する終了操作の有無と、表示形態を切り換えるための表示切替操作の有無、送り操作の有無、静止画展開操作の有無、時間調整操作の有無を逐次確認する(ステップSA6,SA7,SA9,SA12,SA14)。そして、制御部11は、第1のフォーム確認画面G1の表示後、ユーザーによって上記のいずれの操作も行われなければ(ステップSA14:NO)、第1のフォーム確認画面G1の表示を継続する。
In addition, after displaying the first form confirmation screen G1 described above, the
一方、制御部11は、ユーザーによる表示切替操作があった場合には(ステップSA7:YES)、前述した基準動画g1と比較動画g2との表示形態を並列表示から重畳表示に切り換えることにより、図5(a)に示した第2のフォーム確認画面G2を表示部15に表示させる(ステップSA8)。
On the other hand, when there is a display switching operation by the user (step SA7: YES), the
図に示したように第2のフォーム確認画面G2は、前述した基準動画g1と比較動画g2とを画面中央に重畳して表示させるとともに、その下方に前述した位置ゲージg3を配置したものである。 As shown in the figure, the second form confirmation screen G2 is a screen in which the reference video g1 and the comparative video g2 described above are superimposed on the center of the screen and the position gauge g3 described above is disposed below the second video. .
係る、第2のフォーム確認画面G2の表示中においても、制御部11は、基準動画g1と比較動画g2とを双方の表示周期を一致させた状態で、繰り返し表示させるとともに、被写体の注目部位を示すマークg4を動画像g1,g2とに重畳して表示させる。
Even during the display of the second form confirmation screen G2, the
なお、図5(a)においては、便宜上、基準動画g1の被写体部分を黒塗りで示し、かつ比較動画g2の被写体部分を斜線で示したが、実際には、例えば被写体部分の色や輝度等を変えることによって基準動画g1と比較動画g2とを識別可能とする。また、ここでは基準動画g1の上に比較動画g2を重ねた例を示したが、両者の上下関係は逆でもよい。 In FIG. 5A, for convenience, the subject portion of the reference moving image g1 is shown in black, and the subject portion of the comparative moving image g2 is shown in diagonal lines. Can be distinguished from the reference moving image g1 and the comparative moving image g2. Moreover, although the example which overlapped the comparative moving image g2 on the reference | standard moving image g1 was shown here, the up-and-down relationship of both may be reverse.
また、第1のフォーム確認画面G1や第2のフォーム確認画面G2を表示している間に、ユーザーによる送り操作があった場合には(ステップSA9:YES)、制御部11は、その時点で比較動画g2として表示中の比較動作パターン以外の比較動作パターンがあるか否かを確認する(ステップSA10)。つまり確認用の動画像に他の比較動作パターンの動画部分がマージされているか否かを確認する。
If the user performs a feed operation while the first form confirmation screen G1 or the second form confirmation screen G2 is displayed (step SA9: YES), the
そして、制御部11は、他の比較動作パターンがなければ(ステップSA10:NO)、第1のフォーム確認画面G1や第2のフォーム確認画面G2において、現在の比較動画g2の表示を続行する。つまり何もしない。
If there is no other comparison operation pattern (step SA10: NO), the
一方、制御部11は、他の比較動作パターンがあれば(ステップSA10:YES)、動作パターンの送り表示を行う(ステップSA11)。すなわち、制御部11は、確認対象の動画像における時間位置が比較動画g2として表示中の比較動作パターンの1つ後となる比較動作パターンの動画部分を新たな比較動画g2として画面上での表示を開始する。その際には、これと連動させて基準動画g1も先頭から表示させる。
On the other hand, if there is another comparison operation pattern (step SA10: YES), the
なお、図2では省略するがユーザーによる送り操作には、動作パターンを時間的に前の動作パターンに戻す操作が許容されており、送り操作が動作パターンを時間的に前の動作パターンに戻す操作であった場合、ステップSA11において制御部11は上記とは逆の処理を行う。すなわち、確認対象の動画像における時間位置が比較動画g2として表示中の比較動作パターンの1つ前となる比較動作パターンの動画部分を新たな比較動画g2として画面上での表示を開始する。
Although not shown in FIG. 2, the user's feed operation is permitted to return the operation pattern to the previous operation pattern in time, and the feed operation returns the operation pattern to the previous operation pattern in time. If so, in step SA11, the
また、ユーザーによる静止画展開操作があった場合(ステップSA12:YES)、制御部11は、静止画展開の有無を切り換える(ステップSA13)。
If the user performs a still image expansion operation (step SA12: YES), the
すなわちステップSA13の処理に際して制御部11は、第1のフォーム確認画面G1や第2のフォーム確認画面G2の表示中においては、静止画展開操作があった時点では、前述した位置ゲージg3を、図4(b)、図5(b)に示したような、基準動画g1を構成する所定数の静止画群f1、及び比較動画g2を構成する所定数の静止画群f2に切り換えた状態の第3のフォーム確認画面G3や第4のフォーム確認画面G4を表示部15に表示させる。
That is, in the process of step SA13, the
ここで、基準動画g1を構成する所定数の静止画群f1、及び比較動画g2を構成する所定数の静止画群f2は、それぞれが現在表示中のフレームの静止画と、その直前までの複数フレーム分の静止画とから構成されるものである。 Here, the predetermined number of still image groups f1 constituting the reference moving image g1 and the predetermined number of still image groups f2 constituting the comparative moving image g2 are each a still image of the currently displayed frame and a plurality of still images immediately before that. It consists of still images for frames.
また、ステップSA13の処理に際して制御部11は、上記とは逆に第3のフォーム確認画面G3や第4のフォーム確認画面G4の表示中においては、第1のフォーム確認画面G1や第2のフォーム確認画面G2を表示部15に表示させる。
On the other hand, in the process of step SA13, the
さらに、ユーザーによる時間調整操作があった場合(ステップSA14:YES)、制御部11は、時間調整の有無を切り換える(ステップSA15)。ここで時間調整とは、先に説明した第1〜第4のフォーム確認画面G1〜G4のいずれかにおいて表示中の比較動画g2の表示時間(比較動作パターンの周期)を基準動画g1の表示時間(基本動作パターンの周期)と一致させる処理である。
Furthermore, when there is a time adjustment operation by the user (step SA14: YES), the
具体的に述べると、比較動画g2の表示時間が基準動画g1の表示時間よりも短い場合には不足時間分のフレーム画像を補完して表示し、逆に比較動画g2の表示時間が基準動画g1の表示時間よりも長い場合には超過時間分のフレーム画像を間引きして表示する処理である。 More specifically, when the display time of the comparative video g2 is shorter than the display time of the reference video g1, the frame images for the shortage time are complemented and displayed, and conversely, the display time of the comparative video g2 is displayed. If the display time is longer than the display time, frame images corresponding to the excess time are thinned and displayed.
なお、不足時間分のフレーム画像の補完は、例えば所定のフレーム数毎に相前後するフレームから新たなフレームを生成したり、先行するフレーム又は後続のフレームを重複使用したりすることにより行う。 Note that the complement of the frame images corresponding to the shortage time is performed, for example, by generating a new frame from frames that follow each other for every predetermined number of frames, or by overlappingly using the preceding frame or the subsequent frame.
そして、ステップSA15の処理に際して制御部11は、時間調整操作があった時点で上記の時間調整を行っていない場合には、上記処理による時間調整を行った状態での基準動画g1と比較動画g2との表示を開始する。
When the time adjustment operation is not performed at the time when the time adjustment operation is performed, the
また、ステップSA15の処理に際して制御部11は、時間調整操作があった時点で上記の時間調整を行っている場合には、上記処理による時間調整をやめて、表示時間が異なる状態のままでの基準動画g1と比較動画g2との表示を再開する。
In addition, when the time adjustment operation is performed at the time when the time adjustment operation is performed, the
なお、表示時間が異なる状態のままで基準動画g1と比較動画g2とを繰り返し表示させる場合は、まず先頭を合わせるように表示を開始し、いずれか時間の短い方の表示は、長い方の表示が終わるまで次の繰り返し表示は待ち、長い方の表示が終ってから改めて先頭を合わせるように表示を開始する。 When the reference video g1 and the comparative video g2 are repeatedly displayed with different display times, the display is first started so that the heads are aligned, and the display with the shorter time is displayed with the longer display. The next repeated display is waited until the end of, and after the longer display is finished, the display is started so that the head is aligned again.
以後、制御部11は、ユーザーによる終了操作があるまでは(ステップSA6:NO)、前述したステップSA7からステップSA15の処理を繰り返し、ユーザーによる終了操作があれば(ステップSA6:YES)、その時点で全ての処理を終了する。
Thereafter, the
以上説明した本実施形態のフォーム確認支援システムにおいては、ユーザーがそれを用いてランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する際には、情報端末1に表示される第1〜第4のフォーム確認画面G1〜G4によって、ランニング中に繰り返し表れる動作パターンのうちで、基準となる基準動作パターンと、それとの違いが大きい比較動作パターンのみを簡単に比較し確認することができる。 In the form confirmation support system of the present embodiment described above, when the user confirms whether the running form is good or bad using a moving image obtained by photographing a person who is running (the person or another person) using it, Among the operation patterns that appear repeatedly during running by the first to fourth form confirmation screens G1 to G4 displayed on the information terminal 1, only the reference operation pattern that is a reference and the comparison operation pattern that is largely different from the reference operation pattern are displayed. You can easily compare and confirm.
したがって、動画像を注意深く確認せずともトレーニング中におけるどの時点のフォームが良くてどの時点のフォームが悪いかを確認することができる。ランニングのように同一パターンの動作の繰り返しが多いスポーツについても、トレーニング中におけるフォームの確認作業を効率的に、かつ容易に行うことができる。 Therefore, it is possible to check which form is good and which form is bad during training without carefully checking the moving image. Even for sports such as running where there are many repetitions of the same pattern operation, the work of checking the form during training can be performed efficiently and easily.
特に、第1〜第4のフォーム確認画面G1〜G4に表示される基準動画g1と比較動画g2とが、各々が動画像において動作パターンとして特定されたランナーの1サイクル分の一連の動作を表す動画像であるため、基準動作パターンと1又は複数の比較動作パターンとの比較を極めて容易に行うことができる。 In particular, the reference moving image g1 and the comparative moving image g2 displayed on the first to fourth form confirmation screens G1 to G4 each represent a series of operations for one cycle of the runner specified as the operation pattern in the moving image. Since it is a moving image, the reference operation pattern can be compared with one or more comparison operation patterns very easily.
また、基準動画g1と比較動画g2とによって、基準動作パターンと比較動作パターンとの周期の差を表現させるため、双方間の周期のずれを容易に確認することができる。 In addition, since the reference moving image g1 and the comparative moving image g2 express the difference in period between the reference operation pattern and the comparison operation pattern, it is possible to easily check the difference in the period between the two.
しかも、第1、第3のフォーム確認画面G1,G3には、基準動画g1と比較動画g2とが並べて表示されるため、基準動作パターンと比較動作パターンとの間に周期のずれがある場合には、双方間の周期のずれをさらに容易に確認することができる。 In addition, since the reference moving image g1 and the comparative moving image g2 are displayed side by side on the first and third form confirmation screens G1 and G3, there is a period shift between the reference operation pattern and the comparison operation pattern. Can more easily confirm the shift in the period between the two.
また、基準動画g1と比較動画g2に重ねてマークg4が表示されるため、基準動作パターンと比較動作パターンとの間にランナーの足や手といった部位の位置のずれがある場合には、それを容易に確認することができる。 In addition, since the mark g4 is displayed so as to overlap the reference moving image g1 and the comparative moving image g2, if there is a position shift of a part such as a foot or a hand of the runner between the reference operation pattern and the comparison operation pattern, It can be easily confirmed.
さらに、第2、第4のフォーム確認画面G2,G4においては、基準動画g1と比較動画g2とが重ねて表示されるため、基準動作パターンと比較動作パターンとの間にランナーの足や手の位置のずれがある場合には、それをより一層容易に確認することができる。 Further, on the second and fourth form confirmation screens G2 and G4, the reference moving image g1 and the comparison moving image g2 are displayed so as to overlap each other, so that the runner's feet and hands are between the reference operation pattern and the comparison operation pattern. If there is a position shift, it can be confirmed more easily.
また、第1、第2のフォーム確認画面G1,G2には、前述した位置ゲージg3が表示されるため、表示中の基準動作パターンと比較動作パターンが動画像内におけるどの位置の動作パターンを抽出したのかを容易に確認することができる。 Further, since the above-described position gauge g3 is displayed on the first and second form confirmation screens G1 and G2, the operation pattern at which position in the moving image is extracted as the reference operation pattern and the comparison operation pattern being displayed. It is possible to easily confirm whether it has been done.
また、時間調整操作を行うことによって基準動画g1と比較動画g2との周期を一致させることができるため、双方間に、周期と、動作する任意の部位の位置との両方に違いがある場合であっても、動作する任意の部位の位置の違いのみを確認することができる。 Further, since the period of the reference moving image g1 and the comparison moving image g2 can be matched by performing the time adjustment operation, there is a difference in both the cycle and the position of an arbitrary part that operates. Even if it exists, only the difference in the position of the arbitrary part which operate | moves can be confirmed.
一方、本実施形態においては、支援サーバー2が確認対象の動画像からの動作パターンの抽出を画像処理技術を用いて自動的に行うため、動作パターンの抽出ために動画像以外の他の情報が不要であり、センサー等のほかのデバイスを必要とせず、ユーザーに対して高い利便性を確保することができる。 On the other hand, in this embodiment, since the support server 2 automatically extracts an operation pattern from a moving image to be confirmed using an image processing technique, information other than the moving image is used to extract the operation pattern. It is unnecessary and does not require other devices such as sensors, and can ensure high convenience for the user.
また、支援サーバー2が、確認対象の動画像から抽出した複数位置での動作パターンから基準動作パターンを特定し、基準動作パターンと他の動作パターンとの違いを比較することによって比較動作パターンの特定を行うため、比較動作パターンとして、より適切な動作パターンを特定することができる。 Further, the support server 2 identifies the reference motion pattern from the motion patterns at a plurality of positions extracted from the confirmation target moving image, and identifies the comparison motion pattern by comparing the difference between the reference motion pattern and other motion patterns. Therefore, a more appropriate operation pattern can be specified as the comparison operation pattern.
また、支援サーバー2が、確認対象の動画像において周期的に表れる略同一の被写体の一連の動作を動作パターンとして抽出するため、基準動作パターンと他の動作パターンとの違いを容易に比較することができる。 In addition, since the support server 2 extracts a series of motions of substantially the same subject that appear periodically in the moving image to be confirmed as motion patterns, the difference between the reference motion pattern and other motion patterns can be easily compared. Can do.
また、支援サーバー2が、確認対象の動画像において周期的に表れる被写体の要素から動作パターンとして抽出するため、足や手といった部位の変化を静止画のような動作パターンの一部によって、基準動作パターンと他の動作パターンとの違いをさらに容易に比較することができる。 In addition, since the support server 2 extracts the motion pattern from the elements of the subject that appear periodically in the moving image to be confirmed, a change in a part such as a foot or hand is used as a reference motion by a part of the motion pattern such as a still image. The difference between the pattern and other operation patterns can be compared more easily.
しかも、支援サーバー2が確認対象の動画像からの動作パターンを抽出する際には、被写体の要素である各部位における位置の変化の周期性を判別して動作パターンを抽出するため、効率的に動作パターンを自動で抽出することができる。 In addition, when the support server 2 extracts the motion pattern from the moving image to be confirmed, the motion pattern is extracted by discriminating the periodicity of the change in position in each part that is an element of the subject. An operation pattern can be automatically extracted.
また、支援サーバー2においては、その周期が平均周期と大きく異なる動作パターン、及びいずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンを比較動作パターンとして特定する。そのため、フォームの確認作業により適した比較動作パターンを自動的に取得することができる。 Further, in the support server 2, an operation pattern whose period is significantly different from the average period and an operation pattern whose specific timing position of any part is greatly different from the average position in the part are specified as the comparison operation pattern. Therefore, it is possible to automatically acquire a comparison operation pattern that is more suitable for the form confirmation work.
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。本実施形態は、第1の実施形態と同様の構成(図1参照)からなるフォーム確認支援システムにおいて、第1の実施形態とは異なり、ユーザーが、ランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する作業を支援するための情報として、動画像ではなく静止画像を提供するものである。
(Second Embodiment)
Next, a second embodiment of the present invention will be described. Unlike the first embodiment, the present embodiment is different from the first embodiment in the form confirmation support system having the same configuration as that of the first embodiment (see FIG. 1), and the user selects a running person (person or other person). As information for supporting the operation of confirming whether the running form is good or bad using the captured moving image, a still image is provided instead of a moving image.
以下、本実施形態における情報端末1と支援サーバー2との動作について説明する。 Hereinafter, operations of the information terminal 1 and the support server 2 in the present embodiment will be described.
図6は、情報端末1における制御部11の処理内容を示すフローチャートである。本実施形態においても制御部11は、ユーザーに所望の動画像をユーザーに指定させて、フォームの確認対象とすべき動画像を特定し(ステップSA51)、支援サーバー2への接続を行い(ステップSA52)、確認対象の動画像のデータを支援サーバー2にアップロードする(ステップSA53)。その後、制御部11は、支援サーバー2から後述する確認用の静止画データ、及び解析結果データが受信できるまで待機する(ステップS54:NO)。
FIG. 6 is a flowchart showing the processing contents of the
一方、図7は、その間の支援サーバー2における制御部21の処理内容を示すフローチャートである。本実施形態においても通信部22を介して制御部21は、情報端末1から動画データを受信した後(ステップSB51)、動画データにより表される動画像において被写体の各部位の動作を解析する(ステップSB52)。
On the other hand, FIG. 7 is a flowchart showing the processing contents of the
係る処理の詳細については第1の実施形態と同様であり、制御部21は、被写体の部位すなわちランナーの左右の足と手と判断できる各部位をそれぞれ検出し、検出した各部位における動画像内での位置の変化を取得する。すなわち各部位について、各部位の先端等のフレーム間で追跡に適した代表点を設定し、設定した代表点の座標位置を動画像のフレーム毎(数フレーム毎でもよい)に取得し、記憶部23に部位毎に記憶してデータベース化する。
The details of the processing are the same as in the first embodiment, and the
次に、第1の実施形態とは異なり、制御部21は、記憶部23に記憶した各部位(代表点)の時間的な変化に基づいて、位置の変化が最も大きい特定の部位(代表点)のみを抽出する(ステップSB53)。
Next, unlike the first embodiment, the
そして、制御部21は、位置の変化が最も大きい特定部位の位置の周期的な変化を確認することにより、動画像において時間位置が異なる複数位置のランナーの動作パターンを抽出する(ステップSB54)。その際、制御部21は、各動作パターンの開始時点のフレーム番号(時間位置)と、終了時点のフレーム番号(時間位置)とを取得し、記憶部23に記憶する。
And the
さらに、本実施形態においては、ステップSB54の処理に際して制御部21は、各動作パターンにおける開始時点から終了時点までのフレーム期間における前記特定部位の特定タイミングでの位置を取得し、その位置と、特定タイミングのフレームのフレーム番号とを取得し、記憶部23に記憶する。特定タイミングは、各々の動作パターンにおいて左右の足や左右の手が往復移動している間に停止するタイミング、すなわち移動方向が逆転する瞬間のタイミングである2種類の位置の一方の位置である。
Furthermore, in the present embodiment, in the process of step SB54, the
次に、制御部21は、前記動作パターンの平均周期、つまり各々の動作パターンにおける開始時点から終了時点までの動作時間の平均値を取得する(ステップSB55)。
Next, the
次に、制御部21は、ステップSB53の処理で抽出した特定部位について平均位置を取得する(ステップSB56)。この平均位置は、第1の実施形態と同様に、各々の動作パターンにおける特定部位の特定タイミングにおける平均的な位置である。なお、上記の動作パターンの平均周期、及び特定部位の平均位置は、動画像の全期間ではなく前半の期間のみを対象として取得してもよい。
Next, the
次に、制御部21は、ステップSB55の処理で取得した平均周期から基準動作パターンを特定する(ステップSB57)。本実施形態においても制御部21は、動画像に繰り返し表れる前記動作パターンのうちで、その周期(動作時間)が平均値に最も近い動作パターンを基準動作パターンとして特定する。
Next, the
次に、制御部21は、基準動作パターンの比較対象となる比較動作パターンの特定に使用する閾値を設定する(ステップSB58)。本実施形態においても制御部21は、閾値として第1の閾値と第2の閾値と設定する。第1の閾値は動作パターンの周期に関するものであり、前述した平均周期との差である。また、第2の閾値は位置の変化が最も大きい特定部位の特定タイミングの位置に関するものであり、前述した平均位置との差である。
Next, the
次に、制御部21は、基準動作パターン以外の動作パターンのうちで、上記の第1の閾値を超える動作パターン、及び第2の閾値を超える動作パターンをそれぞれ比較動作パターンとして特定する(ステップSB59)。
Next, the
なお、本実施形態においても、ステップSB58の処理においては、動作パターンの周期に関する第1の閾値として、平均周期との差ではなく、平均周期に対する所定の割合を設定することができる。また、位置の変化が最も大きい特定部位の特定タイミングの位置に関する第2の閾値として、平均位置との差ではなく、平均位置に対する所定の割合を設定することができる。 Also in this embodiment, in the process of step SB58, a predetermined ratio with respect to the average period can be set as the first threshold value regarding the period of the operation pattern, not the difference from the average period. In addition, as the second threshold value regarding the position at the specific timing of the specific part having the largest change in position, a predetermined ratio with respect to the average position can be set instead of the difference from the average position.
次に、制御部21は、確認対象の元の動画像から確認用の静止画データを生成する(ステップSB60)。係る処理に際して制御部21は、まず、元の動画像から、前述した基準動作パターン、及び比較動作パターン(1又は複数)について、各々の動作パターンに該当するフレーム区間で、位置の変化が最も大きい特定部位における前述した特定タイミングが該当するフレームの静止画像のデータを抽出する。次に、抽出した各動作パターンの静止画像から主たる被写体(ランナー)に相当する部分をそれぞれ切り出し、切り出した部分の静止画像のデータをマージすることにより確認用の静止画データを生成する。
Next, the
しかる後、制御部21は、生成した静止画データを、基準動作パターン及び比較動作パターンに関する解析結果データと共に情報端末1へ送信する(ステップSB61)。
Thereafter, the
本実施形態の解析結果データには、動画像における基準動作パターン及び比較動作パターン(1又は複数)の動作パターン毎の次のデータが含まれる。具体的なデータは、動画像における前述した被写体の特定部位における特定タイミングの時間位置を示すステップSB54で記憶したフレーム番号と、被写体の特定部位における特定タイミングでの位置(座標位置)である。 The analysis result data of the present embodiment includes the following data for each operation pattern of the reference operation pattern and the comparison operation pattern (one or more) in the moving image. The specific data is the frame number stored in step SB54 indicating the time position of the specific timing in the specific part of the subject in the moving image and the position (coordinate position) at the specific timing in the specific part of the subject.
つまり、制御部21は、確認対象の動画像における時間位置が異なる複数位置での動作パターンを、その周期(動作時間)及び被写体の所定部位(左右の足と手)の特定タイミングでの位置を観点として比較した結果として、確認用の静止画データと解析結果データとを情報端末1へ送信する。
That is, the
一方、図6に示したように情報端末1においては、支援サーバー2から前述した確認用の静止画データ及び解析結果データを受信すると(ステップSA54:YES)、通信部13を介して制御部11が受信した解析結果データに基づき、前述した基準動作パターン及び比較動作パターンを表す静止画を識別可能に表示するフォーム確認画面を表示部15に表示させる(ステップSA55)。
On the other hand, as shown in FIG. 6, when the information terminal 1 receives the confirmation still image data and analysis result data from the support server 2 (step SA54: YES), the
本実施形態においてもフォーム確認画面における双方の静止画の表示形態には、第1の実施形態と同様に並列表示と重畳表示との2つの表示形態がある。 Also in the present embodiment, there are two display forms of both still images on the form confirmation screen, that is, parallel display and superimposed display, as in the first embodiment.
図8(a)は、確認用の動画データ及び解析結果データを受信した直後に表示部15に表示される第5のフォーム確認画面G21を示した図である。
FIG. 8A is a diagram showing a fifth form confirmation screen G21 displayed on the
図に示したように第5のフォーム確認画面G21は、画面の左側に基準動作パターンを表す基準画g21を配置し、画面の右側に比較動作パターンを表す比較画g22を配置するとともに、基準画g21と比較画g22と下方に位置ゲージg23を配置したものである。すなわち第5のフォーム確認画面G21における静止画の表示形態は並列表示である。 As shown in the figure, on the fifth form confirmation screen G21, the reference image g21 representing the reference operation pattern is arranged on the left side of the screen, the comparison image g22 representing the comparison operation pattern is arranged on the right side of the screen, and the reference image is displayed. The g21, the comparison image g22, and the position gauge g23 are arranged below. That is, the display form of the still image on the fifth form confirmation screen G21 is parallel display.
なお、基準動作パターン及び比較動作パターンの動画像は、既説したようにランナー部分のみの動画像である。また、第5のフォーム確認画面G21の表示開始当初における比較画g22は、比較動作パターンが複数であった場合には、確認対象である動画像内での時間位置が最先の比較動作パターンを表すものである。 Note that the moving images of the reference operation pattern and the comparison operation pattern are moving images of only the runner portion as described above. In addition, the comparison image g22 at the beginning of the display of the fifth form confirmation screen G21 shows the comparison operation pattern with the earliest time position in the moving image to be confirmed when there are a plurality of comparison operation patterns. It represents.
そして、第5のフォーム確認画面G21の表示に際して制御部11は、解析結果データに含まれる動作パターン毎の静止画におけるフレーム番号、つまり前述した被写体(ランナー)の特定部位の特定タイミングのフレーム番号に基づいて、確認対象の動画像内での時間位置を示す前記位置ゲージg23を画面上に表示させる。
When the fifth form confirmation screen G21 is displayed, the
なお、第5のフォーム確認画面G21の表示に際して制御部11は、図に示したように前記位置ゲージg23と共に、基準画g21と比較画g22における確認対象の動画像内での時間(先頭からの経過時間)及び動作パターンの周期もそれぞれ表示部15に表示させる。
When the fifth form confirmation screen G21 is displayed, the
また、第5のフォーム確認画面G21の表示に際して制御部11は、前述した被写体(ランナー)の特定部位を示すマークg4を基準画g21及び比較画g22に重畳して表示させる。なお、図8(a)は、上記特定部位が被写体の足である場合の例である。
Further, when displaying the fifth form confirmation screen G21, the
また、上述した第5のフォーム確認画面G21を表示した後、制御部11は、ユーザーによる確認作業の終了を指示する終了操作の有無と、表示形態を切り換えるための表示切替操作の有無、送り操作の有無を逐次確認する(ステップSA56,SA57,SA59)。そして、制御部11は、第5のフォーム確認画面G21の表示後、ユーザーによって上記のいずれの操作も行われなければ(ステップSA59:NO)、第5のフォーム確認画面G21の表示を継続する。
Further, after displaying the above-described fifth form confirmation screen G21, the
一方、制御部11は、ユーザーによる表示切替操作があった場合には(ステップSA57:YES)、前述した基準画g21と比較画g22との表示形態を並列表示から重畳表示に切り換えることにより、図8(b)に示した第6のフォーム確認画面G22を表示部15に表示させる(ステップSA58)。
On the other hand, when there is a display switching operation by the user (step SA57: YES), the
図に示したように第6のフォーム確認画面G22は、前述した基準画g21と比較画g22とを画面中央に重畳して表示させるとともに、その下方に前述した位置ゲージg23を配置したものである。また、係る第6のフォーム確認画面G22の表示に際しても、制御部11は、被写体の特定部位を示すマークg4を基準画g21と比較画g22とに重畳して表示させる。
As shown in the figure, the sixth form confirmation screen G22 displays the reference image g21 and the comparative image g22 superimposed on the center of the screen, and the position gauge g23 described above is arranged below the reference image g21. . Also, when displaying the sixth form confirmation screen G22, the
なお、図8(b)においては、便宜上、基準画g21の被写体部分を黒塗りで示し、かつ比較画g22の被写体部分を斜線で示したが、実際には、例えば被写体部分の色や輝度等を変えることによって基準画g21と比較画g22とを識別可能とする。また、ここでは基準動画g21の上に比較画g22を重ねた例を示したが、両者の上下関係は逆でもよい。 In FIG. 8B, for convenience, the subject portion of the reference image g21 is shown in black, and the subject portion of the comparative image g22 is shown in diagonal lines. Can be distinguished from the reference image g21 and the comparison image g22. Moreover, although the example which overlapped the comparison image g22 on the reference | standard moving image g21 was shown here, the up-and-down relationship of both may be reverse.
また、第6のフォーム確認画面G22を表示部15に表示させ状態において後には、ユーザーによる表示切替操作があれば(ステップSA57:YES)、制御部11は、第5のフォーム確認画面G21を再び表示部15に表示させる。
Further, in the state in which the sixth form confirmation screen G22 is displayed on the
そして、第5のフォーム確認画面G21や第6のフォーム確認画面G22を表示している間に、ユーザーによる送り操作があった場合には(ステップSA59:YES)、制御部11は、その時点で比較画g22として表示中の比較動作パターン以外の比較動作パターンがあるか否かを確認する(ステップSA60)。つまり確認用の静止画として他の比較動作パターンの静止画がマージされているか否かを確認する。
If the user performs a feeding operation while displaying the fifth form confirmation screen G21 or the sixth form confirmation screen G22 (step SA59: YES), the
そして、制御部11は、他の比較動作パターンがなければ(ステップSA60:NO)、第5のフォーム確認画面G21や第6のフォーム確認画面G22において、現在の比較画g22の表示を続行する。つまり何もしない。
If there is no other comparison operation pattern (step SA60: NO), the
一方、制御部11は、他の比較動作パターンがあれば(ステップSA60:YES)、動作パターンの送り表示を行う(ステップSA61)。すなわち、制御部11は、確認対象の動画像における時間位置が比較画g22として表示中の比較動作パターンの1つ後となる比較動作パターンの静止画像を新たな比較画g22として画面上に表示させる。
On the other hand, if there is another comparison operation pattern (step SA60: YES), the
なお、図6でも省略するがユーザーによる送り操作には、動作パターンを時間的に前の動作パターンに戻す操作が許容されており、送り操作が動作パターンを時間的に前の動作パターンに戻す操作であった場合、ステップSA61において制御部11は上記とは逆の処理を行う。すなわち、確認対象の動画像における時間位置が比較画g22として表示中の比較動作パターンの1つ前となる比較動作パターンの静止画を新たな比較画g22として画面上に表示させる。
Although omitted in FIG. 6, the user's feed operation is permitted to return the operation pattern to the previous operation pattern in time, and the feed operation returns the operation pattern to the previous operation pattern in time. If so, in step SA61, the
以後、制御部11は、ユーザーによる終了操作があるまでは(ステップSA56:NO)、前述したステップSA57からステップSA61の処理を繰り返し、ユーザーによる終了操作があれば(ステップSA56:YES)、その時点で全ての処理を終了する。
Thereafter, the
以上説明した本実施形態のフォーム確認支援システムにおいては、ユーザーがそれを用いてランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する際には、情報端末1に表示される第5,第6のフォーム確認画面G21,G22によって、ランニング中に繰り返し表れる動作パターンのうちで、基準となる基準動作パターンと、足や手といった部位の変化が大きい比較動作パターンのみを簡単に比較し確認することができる。 In the form confirmation support system of the present embodiment described above, when the user confirms whether the running form is good or bad using a moving image obtained by photographing a person who is running (the person or another person) using it, Of the motion patterns that appear repeatedly during running, the reference motion pattern that is the reference repeatedly compared to the reference motion pattern that is displayed during the running by the fifth and sixth form confirmation screens G21 and G22 displayed on the information terminal 1 is large. Only operation patterns can be easily compared and confirmed.
したがって、動画像を注意深く確認せずともトレーニング中におけるどの時点のフォームが良くてどの時点のフォームが悪いかを確認することができる。ランニングのように同一パターンの動作の繰り返しが多いスポーツについても、トレーニング中におけるフォームの確認作業を効率的に、かつ容易に行うことができる。 Therefore, it is possible to check which form is good and which form is bad during training without carefully checking the moving image. Even for sports such as running where there are many repetitions of the same pattern operation, the work of checking the form during training can be performed efficiently and easily.
特に、本実施形態においては、支援サーバー2が、確認対象の動画像において周期的に表れる被写体の要素から動作パターンとして抽出することにより、比較画g22とともに、足や手といった部位の変化が大きい比較動作パターンのみを示す比較画g22を表示することができ、フォームの確認作業に際して、トレーニング中に変化したより注目すべき動作パターンを効率的に確認することができる。 In particular, in the present embodiment, the support server 2 extracts a motion pattern from an element of a subject that appears periodically in a moving image to be confirmed, so that comparison with a comparison image g22 and changes in parts such as feet and hands is large. The comparison image g22 showing only the operation pattern can be displayed, and the operation pattern to be noticed that has changed during training can be efficiently confirmed during the confirmation of the form.
なお、本実施形態においても、第1の実施形態で説明した効果のうちで、基準動作パターンと比較動作パターンとを動画像として表すことにより生ずる効果以外については、第1の実施形態と同様に得ることができる。 In the present embodiment, among the effects described in the first embodiment, the same effects as those in the first embodiment are provided except for the effects caused by expressing the reference operation pattern and the comparison operation pattern as moving images. Can be obtained.
(変形例等)
以下、本実施形態の変形例等について説明する。すなわち以上説明した第1及び第2の本実施形態においては、確認対象の動画像に繰り返し表れる動作パターンのうちから基準動作パターン、及び比較動作パターンを自動的に特定したが以下のようにしてもよい。
(Modifications, etc.)
Hereinafter, modified examples of the present embodiment will be described. That is, in the first and second embodiments described above, the reference operation pattern and the comparison operation pattern are automatically specified from the operation patterns repeatedly appearing in the confirmation target moving image. Good.
例えば、基準動作パターンはユーザーにより指定された任意の時間位置の動作パターンとし、その基準動作パターンと他の動作パターンとの違いを比較することによって、比較動作パターンを自動的に特定するようにしてもよい。その場合には、ユーザーが任意に指定した動作パターンとの違いが大きい動作パターンを比較動作パターンとして自動的に設定させることができる。 For example, the reference operation pattern is an operation pattern at an arbitrary time position designated by the user, and the comparison operation pattern is automatically specified by comparing the difference between the reference operation pattern and another operation pattern. Also good. In that case, an operation pattern having a large difference from the operation pattern arbitrarily designated by the user can be automatically set as the comparison operation pattern.
また、第1及び第2の本実施形態においては、確認対象の動画像から基準動作パターンと1又は複数の比較動作パターンと抽出し、それらを確認対象の動画像における複数位置の動作パターンの比較結果として表示させる構成について説明した。 In the first and second embodiments, the reference motion pattern and one or more comparison motion patterns are extracted from the confirmation target moving image, and these are compared with the motion patterns at a plurality of positions in the confirmation target moving image. The configuration to be displayed as a result has been described.
しかし、本発明の実施に際しては、例えば確認対象の動画像における時間位置が相前後する一組の動作パターンを比較対象とするとともに、比較対象の各々の動作パターンを時間位置が次の動作パターンに順に変更しながら連続して比較を行うようにしてもよい。 However, in carrying out the present invention, for example, a set of operation patterns whose time positions in the moving image to be confirmed are used as comparison targets, and each operation pattern of the comparison target is set as the next operation pattern. You may make it compare continuously, changing in order.
その場合には、一組の動作パターンを表す画像(動画像又は静止画)を、それ自体を比較結果を示す形態で、又は比較結果を示す情報と共に連続的に画面上に並べて表示させることにより、同一パターンの動作の繰り返しが多いスポーツのトレーニング中におけるフォームの確認作業を効率的に、かつ容易に行うことができる。 In that case, by displaying an image (moving image or still image) representing a set of motion patterns in a form that indicates the comparison result or continuously on the screen together with information indicating the comparison result. Thus, it is possible to efficiently and easily check the form during the training of a sport where the operation of the same pattern is frequently repeated.
また、第1及び第2の本実施形態のように、基準動作パターン、及び比較動作パターンを表す画像(動画像又は静止画)を表示せずに、両者の差(周期や任意の部位の位置の差)のみをアドバイスとして表示或いは報知してもよい。 Further, as in the first and second embodiments, without displaying images (moving images or still images) representing the reference operation pattern and the comparison operation pattern, the difference between them (period and position of an arbitrary part) Only the difference) may be displayed or notified as advice.
また、確認対象の動画像に繰り返し表れる動作パターンの抽出には、例えば手や足につけた加速度センサー等の所定のセンサーを用い、動画像の撮影中におけるセンサーの検出値に基づいて動作パターンを抽出する構成としても構わない。その場合には、動作パターンの抽出を画像処理によって行う場合に比べ、支援サーバー2における動作パターンの抽出に要する処理負担を軽減することができる。 In addition, for extracting motion patterns that repeatedly appear in the moving image to be checked, for example, a predetermined sensor such as an acceleration sensor attached to the hand or foot is used, and the motion pattern is extracted based on the detection value of the sensor during shooting of the moving image. It does not matter as a structure to do. In this case, the processing load required for extracting the operation pattern in the support server 2 can be reduced as compared with the case where the operation pattern is extracted by image processing.
さらには、動作パターンの抽出を上記所定のセンサーと画像処理技術とを併用して行う構成としてもよい。その場合には、動作パターンの抽出精度を上げることができる。 Further, the operation pattern may be extracted by using both the predetermined sensor and the image processing technique. In that case, the extraction accuracy of the operation pattern can be increased.
また、第1及び第2の本実施形態とは異なり、支援サーバー2が生成した確認用の画像の表示に関する処理の一部(例えば動画再生処理等)を支援サーバー2に行わせ、情報端末1における画像の表示をWeb UI( ウェブユーザインターフェース)機能によって行うようにしてもよい。さらには、第1及び第2の本実施形態で説明した支援サーバー2の機能の全てを情報端末1のみによって実現させても構わない。 Also, unlike the first and second embodiments, the information server 1 causes the support server 2 to perform a part of the processing related to the display of the confirmation image generated by the support server 2 (for example, the moving image reproduction process). The image may be displayed by a Web UI (Web User Interface) function. Furthermore, all of the functions of the support server 2 described in the first and second embodiments may be realized only by the information terminal 1.
また、以上の説明においては、主として動画像を用いて確認するフォームがランニングフォームである場合について説明したが、本発明はランニングに限らず水泳のフォーム、さらにスポーツに限らずダンス等のフォームを確認する場合にも適用することができる。 Further, in the above description, the case where the form to be confirmed mainly using the moving image is the running form, but the present invention is not limited to running but also to a swimming form and further to a form such as dance not limited to sports. It can also be applied to.
以上、本発明のいくつかの実施形態、及びその変形例について説明したが、これらは本発明の作用効果が得られる範囲内であれば適宜変更が可能であり、変更後の実施形態も特許請求の範囲に記載された発明、及びその発明と均等の発明の範囲に含まれる。以下に、本出願の当初の特許請求の範囲に記載された発明を付記する。
[請求項1]
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を出力する出力手段と
を備えたことを特徴とするフォーム確認支援装置。
[請求項2]
前記比較手段は、前記抽出された動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較して、所定の条件を満たす動作パターンの時間位置を特定することを特徴とする請求項1記載のフォーム確認支援装置。
[請求項3]
前記所定の条件は、他の複数の動作パターンと前記所定の観点における類似性が高い或いは低いことであることを特徴とする請求項2記載のフォーム確認支援装置。
[請求項4]
前記比較手段は、前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較することを特徴とする請求項1乃至3いずれか1項に記載のフォーム確認支援装置。
[請求項5]
前記抽出手段は、前記動画像において被写体の周期的に表れる一連の動作を前記動作パターンとして抽出することを特徴とする請求項1乃至4いずれか1項に記載のフォーム確認支援装置。
[請求項6]
前記抽出手段は、前記動画像において被写体の周期的に表れる要素から前記動作パターンを抽出することを特徴とする請求項1乃至4いずれか1項に記載のフォーム確認支援装置。
[請求項7]
前記抽出手段は、被写体の所定部位における位置の変化の周期性を判別して前記動作パターンを抽出することを特徴とする請求項1乃至6のいずれか1項に記載のフォーム確認支援装置。
[請求項8]
前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定する請求項4乃至7いずれか1項に記載のフォーム確認支援装置。
[請求項9]
前記所定の基準は所定の基準値に基づくものであって、
前記所定の値が前記基準値から所定の閾値を超えた動作パターンを前記他の動作パターンとして特定することを特徴とする請求項8記載のフォーム確認支援装置。
[請求項10]
前記所定の値は被写体の一連の動作の動作時間であって、前記所定の基準は前記動作時間の平均値との差がより小さいことを特徴とする請求項8記載のフォーム確認支援装置。
[請求項11]
前記所定の値は被写体の所定部位の特定タイミングでの注目位置であって、前記所定の基準は前記注目位置の平均位置との差がより小さいことを特徴とする請求項8記載のフォーム確認支援装置。
[請求項12]
前記比較手段は、使用者により指定された任意の時間位置の動作パターンを前記基準となる動作パターンとして特定し、当該基準となる動作パターンと、それと時間位置が異なる他の動作パターンとの違いを比較することを特徴とする請求項5乃至8のいずれか1項に記載のフォーム確認支援装置。
[請求項13]
前記抽出手段は、前記動作パターンを画像処理技術を用いて抽出することを特徴とする請求項1乃至12のいずれか1項に記載のフォーム確認支援装置。
[請求項14]
前記抽出手段は、前記動作パターンを、被写体の所定の部位に装着された検出手段によって前記動画像の撮影中に検出された前記所定の部位の位置変化を示す位置変化情報に基づき抽出することを特徴とする請求項1乃至13のいずれか1項に記載のフォーム確認支援装置。
[請求項15]
前記比較手段は、前記複数位置での動作パターンを、前記時間位置が相前後する一組の動作パターンを比較対象とし、比較対象の各々の動作パターンを前記時間位置が次の動作パターンに順に変更しながら比較することを特徴とする請求項1乃至14のいずれか1項に記載のフォーム確認支援装置。
[請求項16]
前記出力手段における比較結果の出力形態は、画面上における、前記時間位置が異なる一組の動作パターンの各々の画像の識別可能な表示であることを特徴とする請求項1乃至15のいずれか1項に記載のフォーム確認支援装置。
[請求項17]
前記出力手段における比較結果の出力形態は、前記一組の動作パターンの動画像を画面上に並べて表示するものであることを特徴とする請求項16記載のフォーム確認支援装置。
[請求項18]
前記出力手段における比較結果の出力形態は、前記一組の動作パターンの動画像を画面上に重ねて表示させるものであることを特徴とする請求項16記載のフォーム確認支援装置。
[請求項19]
前記出力手段における比較結果の出力形態は、画面上における前記一組の動作パターンの各々の画像の識別可能な表示に際し、前記一組の動作パターンのいずれか一方における被写体の一連の動作の動作時間を、前記一組の動作パターンのいずれか他方における被写体の一連の動作の動作時間と一致させる調整を伴うものであることを特徴とする請求項16乃至18のいずれか1項に記載のフォーム確認支援装置。
[請求項20]
前記出力手段は、前記比較手段による比較結果として、前記時間位置が異なる一組の動作パターンの差を表す差分情報を出力することを特徴とする請求項1乃至15のいずれか1項に記載のフォーム確認支援装置。
[請求項21]
前記出力手段は、前記差分情報として、前記一組の動作パターンにおける前記一連の動作の動作時間の差を表す情報を出力することを特徴とする請求項20記載のフォーム確認支援装置。
[請求項22]
前記出力手段は、前記差分情報として、前記一組の動作パターンにおける前記一連の動作における被写体の部位のうち決められたタイミングでの位置の差が基準以上である部位に関する位置の差を示す情報を出力することを特徴とする請求項20記載のフォーム確認支援装置。
[請求項23]
前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とする請求項1乃至19のいずれか1項に記載のフォーム確認支援装置。
[請求項24]
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出工程と、
前記抽出工程により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較工程と、
前記比較工程による比較結果を出力する出力工程と
を含むことを特徴とするフォーム確認支援方法。
[請求項25]
コンピュータに、
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手順と、
前記抽出手順により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手順と、
前記比較手順による比較結果を出力する出力手順と
を実行させることを特徴とするプログラム。
[請求項26]
情報端末と、当該情報端末が接続される支援サーバーとからなるフォーム確認支援システムであって、
前記支援サーバーは、
前記情報端末から転送された動画像を取得する取得手段と、
前記取得手段により取得された動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を前記情報端末へ提供する提供手段と
を備え、
前記情報端末は、
前記支援サーバーへ前記動画像を転送する転送手段と、
前記支援サーバーから提供された前記比較結果を出力する出力手段と
を備えた
ことを特徴とするフォーム確認支援システム。
As mentioned above, although several embodiment of this invention and its modification were demonstrated, if these are in the range in which the effect of this invention is acquired, it can change suitably, and embodiment after change is also a claim. It is included in the scope of the invention described in the scope of the invention and the invention equivalent to the invention. The invention described in the scope of the claims of the present application will be appended below.
[Claim 1]
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
Comparison means for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means from a predetermined viewpoint;
An output means for outputting a comparison result by the comparison means.
[Claim 2]
The comparing means compares motion patterns at a plurality of positions having different time positions in the extracted moving image from a predetermined viewpoint, and identifies a time position of an operation pattern that satisfies a predetermined condition. Item 1. A form confirmation support apparatus according to Item 1.
[Claim 3]
The form confirmation support apparatus according to claim 2, wherein the predetermined condition is high or low similarity in the predetermined point of view with another plurality of operation patterns.
[Claim 4]
The comparison unit specifies a reference operation pattern from the operation patterns at a plurality of positions extracted by the extraction unit, and compares the reference operation pattern with an operation pattern at another plurality of positions. The form confirmation support apparatus according to any one of claims 1 to 3.
[Claim 5]
5. The form confirmation support apparatus according to claim 1, wherein the extraction unit extracts a series of motions of a subject periodically appearing in the moving image as the motion patterns. 6.
[Claim 6]
5. The form confirmation support apparatus according to claim 1, wherein the extraction unit extracts the motion pattern from an element that periodically appears in the moving image. 6.
[Claim 7]
The form confirmation support apparatus according to any one of claims 1 to 6, wherein the extraction unit determines the periodicity of a change in position of a subject at a predetermined part and extracts the operation pattern.
[Claim 8]
The said comparison means specifies the operation pattern used as the said reference according to the predetermined value in each operation pattern and the predetermined reference | standard regarding the said value from the operation pattern in the said several position. Form confirmation support device.
[Claim 9]
The predetermined standard is based on a predetermined standard value,
9. The form confirmation support apparatus according to claim 8, wherein an operation pattern in which the predetermined value exceeds a predetermined threshold from the reference value is specified as the other operation pattern.
[Claim 10]
9. The form confirmation support apparatus according to claim 8, wherein the predetermined value is an operation time of a series of movements of an object, and the difference between the predetermined reference and an average value of the operation times is smaller.
[Claim 11]
9. The form confirmation support according to claim 8, wherein the predetermined value is an attention position at a specific timing of a predetermined part of the subject, and the difference between the predetermined reference and the average position of the attention position is smaller. apparatus.
[Claim 12]
The comparison means specifies an operation pattern at an arbitrary time position designated by the user as the reference operation pattern, and determines a difference between the reference operation pattern and another operation pattern having a different time position. The form confirmation support apparatus according to any one of claims 5 to 8, wherein comparison is performed.
[Claim 13]
The form confirmation support apparatus according to claim 1, wherein the extraction unit extracts the operation pattern using an image processing technique.
[Claim 14]
The extraction means extracts the motion pattern based on position change information indicating a change in position of the predetermined part detected during imaging of the moving image by a detection means attached to the predetermined part of the subject. The form confirmation support apparatus according to claim 1, wherein the form confirmation support apparatus is characterized in that
[Claim 15]
The comparison means takes the operation pattern at the plurality of positions as a comparison target with a set of operation patterns whose time positions are in succession, and sequentially changes each operation pattern of the comparison target to the next operation pattern at the time position. The form confirmation support apparatus according to any one of claims 1 to 14, wherein the comparison is performed while comparing.
[Claim 16]
The output form of the comparison result in the output means is an identifiable display of each image of a set of operation patterns having different time positions on the screen. Form confirmation support device according to item.
[Claim 17]
The form confirmation support apparatus according to
[Claim 18]
The form confirmation support apparatus according to
[Claim 19]
The output form of the comparison result in the output means is an operation time of a series of movements of the subject in any one of the set of operation patterns when displaying each image of the set of operation patterns on the screen. The form confirmation according to any one of
[Claim 20]
The said output means outputs the difference information showing the difference of a set of operation | movement patterns from which the said time position differs as a comparison result by the said comparison means, The any one of Claims 1 thru | or 15 characterized by the above-mentioned. Form confirmation support device.
[Claim 21]
21. The form confirmation support apparatus according to claim 20, wherein the output unit outputs information indicating a difference in operation time of the series of operations in the set of operation patterns as the difference information.
[Claim 22]
The output means includes, as the difference information, information indicating a position difference related to a part where a position difference at a determined timing among the parts of the subject in the series of motions in the set of motion patterns is greater than or equal to a reference. The form confirmation support apparatus according to claim 20, wherein the form confirmation support apparatus outputs the form confirmation function.
[Claim 23]
The output form of the comparison result in the output means is displayed on the screen so that the time position between the reference operation pattern among the operation patterns extracted by the extraction means and the operation pattern other than the operation pattern can be identified on the screen. The form confirmation support apparatus according to any one of claims 1 to 19, wherein the form confirmation support apparatus is configured to cause a problem.
[Claim 24]
In the moving image, an extraction step of extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison step of comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction step from a predetermined viewpoint;
An output step of outputting a comparison result of the comparison step.
[Claim 25]
On the computer,
In a moving image, an extraction procedure for extracting an operation pattern in which a subject repeatedly appears in the moving image;
A comparison procedure for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction procedure from a predetermined viewpoint;
An output procedure for outputting a comparison result according to the comparison procedure.
[Claim 26]
A form confirmation support system comprising an information terminal and a support server to which the information terminal is connected,
The support server
Obtaining means for obtaining a moving image transferred from the information terminal;
Extraction means for extracting an action pattern in which a subject repeatedly appears in the moving image acquired by the acquisition means;
Comparison means for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means from a predetermined viewpoint;
Providing means for providing the information terminal with a comparison result by the comparing means;
The information terminal
Transfer means for transferring the moving image to the support server;
An output means for outputting the comparison result provided from the support server. A form confirmation support system, comprising:
1 情報端末
11 制御部
12 撮像部
13 通信部
14 記憶部
15 表示部
16 電源部
17 操作部
2 支援サーバー
21 制御部
22 通信部
23 記憶部
24 画像処理部
100 ネットワーク
G1 第1のフォーム確認画面
G2 第2のフォーム確認画面
G3 第3のフォーム確認画面
G4 第4のフォーム確認画面
G21 第5のフォーム確認画面
G22 第6のフォーム確認画面
g1 動画像
g2 比較動画
g3 位置ゲージ
g4 マーク
g21 基準画像
g22 比較画像
g23 位置ゲージ
DESCRIPTION OF SYMBOLS 1
Claims (11)
前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較手段と、
前記比較手段による比較結果を出力する出力手段と、
を備え、
前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定することを特徴とする動画像比較装置。 In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison unit that identifies a reference operation pattern from operation patterns at a plurality of positions extracted by the extraction unit, and compares the reference operation pattern with an operation pattern at another plurality of positions;
Output means for outputting a comparison result by the comparison means;
With
The moving image comparison apparatus characterized in that the comparison means identifies the reference operation pattern according to a predetermined value in each operation pattern and a predetermined reference regarding the value from the operation patterns at the plurality of positions.
前記所定の値が前記基準値から所定の閾値を超えた動作パターンを前記他の動作パターンとして特定することを特徴とする請求項1記載の動画像比較装置。 The predetermined standard is based on a predetermined standard value,
The moving image comparison apparatus according to claim 1, wherein an operation pattern in which the predetermined value exceeds a predetermined threshold value from the reference value is specified as the other operation pattern.
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を出力する出力手段と、
を備え、
前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とする動画像比較装置。 In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
Comparison means for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means from a predetermined viewpoint;
Output means for outputting a comparison result by the comparison means;
With
The output form of the comparison result in the output means is displayed on the screen so that the time position between the reference operation pattern among the operation patterns extracted by the extraction means and the operation pattern other than the operation pattern can be identified on the screen. A moving image comparison apparatus characterized by that.
前記抽出工程により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較工程と、
前記比較工程による比較結果を出力する出力工程と、
を含み、
前記比較工程は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定することを特徴とする動画像比較方法。 In the moving image, an extraction step of extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison step of identifying a reference operation pattern from the operation patterns at a plurality of positions extracted by the extraction step, and comparing the reference operation pattern with an operation pattern at another plurality of positions;
An output step of outputting a comparison result by the comparison step;
Including
The moving image comparison method characterized in that the comparison step specifies the reference operation pattern according to a predetermined value in each operation pattern and a predetermined reference regarding the value from the operation patterns at the plurality of positions.
前記抽出工程により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較工程と、
前記比較工程による比較結果を出力する出力工程と、
を含み、
前記出力工程における比較結果の出力形態は、前記抽出工程により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とする動画像比較方法。 In the moving image, an extraction step of extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison step of comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction step from a predetermined viewpoint;
An output step of outputting a comparison result by the comparison step;
Including
The output form of the comparison result in the output step is such that the time position between the reference operation pattern among the operation patterns extracted in the extraction step and the operation pattern other than the operation pattern can be identified on the screen. A moving image comparison method, characterized in that:
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較手段と、
前記比較手段による比較結果を出力する出力手段と、
を実行させるプログラムであって、
前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定することを特徴とするプログラム。 On the computer,
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison unit that identifies a reference operation pattern from operation patterns at a plurality of positions extracted by the extraction unit, and compares the reference operation pattern with an operation pattern at another plurality of positions;
Output means for outputting a comparison result by the comparison means;
A program for executing
The comparison means identifies a reference operation pattern according to a predetermined value in each operation pattern and a predetermined reference relating to the value from the operation patterns at the plurality of positions.
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を出力する出力手段と、
を実行させるプログラムであって、
前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とするプログラム。 On the computer,
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
Comparison means for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means from a predetermined viewpoint;
Output means for outputting a comparison result by the comparison means;
A program for executing
The output form of the comparison result in the output means is displayed on the screen so that the time position between the reference operation pattern among the operation patterns extracted by the extraction means and the operation pattern other than the operation pattern can be identified on the screen. A program characterized by what is to be made.
前記サーバーは、
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較手段と、
前記比較手段による比較結果を前記情報端末へ提供する提供手段と、
を備え、
前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定し、
前記情報端末は、
前記サーバーへ前記動画像を転送する転送手段と、
前記サーバーから提供された前記比較結果を出力する出力手段と、
を備えた、
ことを特徴とする動画像比較システム。 A moving image comparison system comprising an information terminal and a server to which the information terminal is connected,
The server
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison unit that identifies a reference operation pattern from operation patterns at a plurality of positions extracted by the extraction unit, and compares the reference operation pattern with an operation pattern at another plurality of positions;
Providing means for providing the information terminal with a comparison result by the comparing means;
With
The comparison means identifies the reference operation pattern according to a predetermined value in each operation pattern and a predetermined reference related to the value from the operation patterns at the plurality of positions,
The information terminal
Transfer means for transferring the moving image to the server;
Output means for outputting the comparison result provided from the server;
With
A moving image comparison system characterized by this.
前記サーバーは、
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を前記情報端末へ提供する提供手段と、
を備え、
前記情報端末は、
前記サーバーへ前記動画像を転送する転送手段と、
前記サーバーから提供された前記比較結果を出力する出力手段と、
を備え、
前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものである、
ことを特徴とする動画像比較システム。 A moving image comparison system comprising an information terminal and a server to which the information terminal is connected,
The server
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
Comparison means for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means from a predetermined viewpoint;
Providing means for providing the information terminal with a comparison result by the comparing means;
With
The information terminal
Transfer means for transferring the moving image to the server;
Output means for outputting the comparison result provided from the server;
With
The output form of the comparison result in the output means is displayed on the screen so that the time position between the reference operation pattern among the operation patterns extracted by the extraction means and the operation pattern other than the operation pattern can be identified on the screen. Is what
A moving image comparison system characterized by this.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017151657A JP6354897B2 (en) | 2017-08-04 | 2017-08-04 | Moving image comparison apparatus, method and program thereof, and moving image comparison system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017151657A JP6354897B2 (en) | 2017-08-04 | 2017-08-04 | Moving image comparison apparatus, method and program thereof, and moving image comparison system |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013136056A Division JP2015012434A (en) | 2013-06-28 | 2013-06-28 | Form confirmation support device, method and program and form confirmation support system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017229081A true JP2017229081A (en) | 2017-12-28 |
JP6354897B2 JP6354897B2 (en) | 2018-07-11 |
Family
ID=60892022
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017151657A Expired - Fee Related JP6354897B2 (en) | 2017-08-04 | 2017-08-04 | Moving image comparison apparatus, method and program thereof, and moving image comparison system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6354897B2 (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108853953A (en) * | 2018-09-03 | 2018-11-23 | 合肥智慧龙图腾知识产权股份有限公司 | A kind of shape up exercise method, apparatus, system, computer equipment and storage medium |
JP2020145500A (en) * | 2019-03-04 | 2020-09-10 | 株式会社 ディー・エヌ・エー | System, method, program, and apparatus for verifying predetermined motion by person |
WO2021192143A1 (en) * | 2020-03-26 | 2021-09-30 | ソニーグループ株式会社 | Information processing method, information processing device, and information processing system |
WO2023157500A1 (en) * | 2022-02-18 | 2023-08-24 | パナソニックIpマネジメント株式会社 | Video editing method, video editing device, and display system |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001000420A (en) * | 1999-06-16 | 2001-01-09 | Hitachi Plant Eng & Constr Co Ltd | Apparatus and method for evaluation of achievement of target |
JP2009034360A (en) * | 2007-08-02 | 2009-02-19 | Ntt Gp Eco Communication Inc | Training system, and apparatus for the same |
JP2013066696A (en) * | 2011-09-06 | 2013-04-18 | Gifu Univ | Image processing system and image processing method |
-
2017
- 2017-08-04 JP JP2017151657A patent/JP6354897B2/en not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001000420A (en) * | 1999-06-16 | 2001-01-09 | Hitachi Plant Eng & Constr Co Ltd | Apparatus and method for evaluation of achievement of target |
JP2009034360A (en) * | 2007-08-02 | 2009-02-19 | Ntt Gp Eco Communication Inc | Training system, and apparatus for the same |
JP2013066696A (en) * | 2011-09-06 | 2013-04-18 | Gifu Univ | Image processing system and image processing method |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108853953A (en) * | 2018-09-03 | 2018-11-23 | 合肥智慧龙图腾知识产权股份有限公司 | A kind of shape up exercise method, apparatus, system, computer equipment and storage medium |
JP2020145500A (en) * | 2019-03-04 | 2020-09-10 | 株式会社 ディー・エヌ・エー | System, method, program, and apparatus for verifying predetermined motion by person |
JP7258603B2 (en) | 2019-03-04 | 2023-04-17 | 株式会社 ディー・エヌ・エー | Systems, methods, programs, and devices for verifying predetermined actions by humans |
WO2021192143A1 (en) * | 2020-03-26 | 2021-09-30 | ソニーグループ株式会社 | Information processing method, information processing device, and information processing system |
WO2023157500A1 (en) * | 2022-02-18 | 2023-08-24 | パナソニックIpマネジメント株式会社 | Video editing method, video editing device, and display system |
Also Published As
Publication number | Publication date |
---|---|
JP6354897B2 (en) | 2018-07-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6354897B2 (en) | Moving image comparison apparatus, method and program thereof, and moving image comparison system | |
KR101062502B1 (en) | Image pickup device having a panning mode for picking up panning images | |
JP5988563B2 (en) | Image processing apparatus, image processing apparatus control method and program, information processing apparatus and information processing apparatus control method, and program | |
JP5473551B2 (en) | Auto focus system | |
JP6726931B2 (en) | Image processing apparatus and method, and image processing system | |
JP2009075685A (en) | Image processor, image processing method, and program | |
JP2015112429A (en) | Image processor | |
JP5874626B2 (en) | Display control apparatus, display control system, display control method, and program | |
WO2015178133A1 (en) | Wireless endoscope system, endoscope, display device, image transmission method, image display method, and program | |
KR20170026376A (en) | Information processing apparatus, information processing method, and program | |
JP4929631B2 (en) | Image generating apparatus and image generating method | |
US20140307150A1 (en) | Imaging device, focus adjustment system, focus instruction device, and focus adjustment method | |
JP2017064120A (en) | Information processor and system | |
JP2014127735A (en) | Display control device, display control system, display control method, and program | |
US10057477B2 (en) | Imaging device, imaging system, communication device, imaging method, and computer readable recording medium for generating and transmitting superimposed image data | |
JP2015012434A (en) | Form confirmation support device, method and program and form confirmation support system | |
JP5955170B2 (en) | Display control apparatus, display control method, and program | |
JP5790858B2 (en) | Image composition apparatus, image composition method, and program | |
JP6444582B2 (en) | Information display control device, display mode switching processing program, and display mode switching processing system | |
JP2006018384A (en) | Imaging device and image processing method | |
JP2015053020A (en) | Information display device, information display method, and program | |
CN107682620A (en) | Camera device, screening-mode control method and recording medium | |
JPWO2014034137A1 (en) | Image processing apparatus, image processing method, and image processing program | |
JP7247136B2 (en) | Image processing device, image processing method, and image processing program | |
JP2014030069A (en) | Image selection device, image selection method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180409 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180515 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180528 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6354897 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |