JP2017229081A - Dynamic image comparison device, method and program thereof, and dynamic image comparison system - Google Patents

Dynamic image comparison device, method and program thereof, and dynamic image comparison system Download PDF

Info

Publication number
JP2017229081A
JP2017229081A JP2017151657A JP2017151657A JP2017229081A JP 2017229081 A JP2017229081 A JP 2017229081A JP 2017151657 A JP2017151657 A JP 2017151657A JP 2017151657 A JP2017151657 A JP 2017151657A JP 2017229081 A JP2017229081 A JP 2017229081A
Authority
JP
Japan
Prior art keywords
operation pattern
moving image
comparison
positions
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017151657A
Other languages
Japanese (ja)
Other versions
JP6354897B2 (en
Inventor
堯子 井戸
Kyoko Ido
堯子 井戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2017151657A priority Critical patent/JP6354897B2/en
Publication of JP2017229081A publication Critical patent/JP2017229081A/en
Application granted granted Critical
Publication of JP6354897B2 publication Critical patent/JP6354897B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To efficiently and easily perform form confirmation work in which an operation of the same pattern is repeated many times.SOLUTION: In a dynamic image, an operation pattern is extracted which iteratively appears in the dynamic image, the operation patterns at a plurality of positions of different temporal positions in the extracted dynamic image are compared to each other from a predetermined point of view, and a comparison result is outputted as a dynamic image or a still image. The comparison result includes e.g., only a reference operation pattern to be a reference and a comparative operation pattern which is significantly different from the reference operation pattern in other operation patterns. As an output style of the comparison result, e.g., a reference operation pattern g1 and a comparative operation pattern g2 are displayed so as to be identified on a screen such as displayed side by side on the screen or displayed while being superimposed. Even without watching all the dynamic images, form confirmation work can be performed.SELECTED DRAWING: Figure 4

Description

本発明は、動画像を比較する動画像比較装置、及びその方法とプログラム、動画像比較システムに関するものである。   The present invention relates to a moving image comparison apparatus, a method and program for comparing moving images, and a moving image comparison system.

従来、例えばスポーツのトレーニングに際して、トレーニング中における人物のフォームを動画撮影し、撮影した動画像からフォームの善し悪しや、トレーニングの成果を確認することにより、その後のトレーニングの参考にすることが行われている。   Conventionally, during sports training, for example, a person's form during training is recorded as a video, and the quality of the form is confirmed from the captured moving images and the results of the training are used as reference for subsequent training. Yes.

ここで、例えば下記特許文献1には、トレーニングを撮影した動画像から、ほぼ同一パターンの動作が繰り返された部分のみを自動的に抽出し、新たな動画像として保存する技術が開示されている。係る技術によれば、撮影した動画像から同一パターンの動作以外の無駄な部分を省くことにより、トレーニング中におけるフォームの確認作業が容易となる。   Here, for example, Patent Document 1 below discloses a technique for automatically extracting only a portion in which an operation of substantially the same pattern is repeated from a moving image obtained by training and storing it as a new moving image. . According to such a technique, it is possible to easily confirm the form during training by omitting unnecessary portions other than the operation of the same pattern from the captured moving image.

特開2004−173202号公報JP 2004-173202 A

しかしながら、上記の技術においては、動画像から無駄な部分を省くことはできるが、トレーニング中にほぼ同一パターンの動作が多数繰り返される場合には、トレーニング中におけるどの時点のフォームが良くてどの時点のフォームが悪いかといったことは、ユーザーが保存された動画像を注意深く見て自分で判断するしかない。係ることから、フォームの確認作業を効率よく行うまでには到らないという問題があった。   However, in the above technique, it is possible to omit a useless portion from a moving image. However, when a motion of almost the same pattern is repeated many times during training, the form at which time point during training is good and at which time point. Whether a form is bad or not can only be judged by the user carefully watching the stored video. For this reason, there has been a problem that it is not possible to efficiently confirm the form.

本発明は、かかる従来の課題に鑑みてなされたものであり、同一パターンの動作の繰り返しが多い動画像の比較を効率的に、かつ容易に行うことができる動画像比較装置、及びその方法とプログラム、動画像比較システムを提供することを目的とする。   The present invention has been made in view of such conventional problems, and a moving image comparison apparatus and method that can efficiently and easily perform comparison of moving images in which operations of the same pattern are frequently repeated. It is an object to provide a program and a moving image comparison system.

前記課題を解決するため、第1の観点における発明にあっては、動画像比較装置であって、動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較手段と、前記比較手段による比較結果を出力する出力手段と、を備え、前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定することを特徴とする。
また、第2の観点における発明にあっては、動画像比較装置であって、動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、前記比較手段による比較結果を出力する出力手段と、を備え、前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とする。
In order to solve the above-mentioned problem, the invention according to the first aspect is a moving image comparison device, wherein a moving image includes an extracting means for extracting a motion pattern in which a subject repeatedly appears in the moving image, and the extracting means. A comparison unit that identifies a reference operation pattern from the operation patterns at a plurality of positions extracted by the above and compares the reference operation pattern with an operation pattern at another plurality of positions, and a comparison result by the comparison unit. Output means for outputting, wherein the comparing means specifies the reference operation pattern according to a predetermined value in each operation pattern and a predetermined reference relating to the value from the operation patterns at the plurality of positions. Features.
The invention according to the second aspect is a moving image comparison apparatus, wherein the moving image is an extraction unit that extracts a motion pattern in which a subject repeatedly appears in the moving image, and the extraction unit extracts the movement pattern. Comparing means for comparing operation patterns at a plurality of positions having different time positions in a moving image from a predetermined viewpoint; and output means for outputting a comparison result by the comparing means; and the output form of the comparison result in the output means is The time position between a reference operation pattern among the operation patterns extracted by the extraction means and an operation pattern other than the operation pattern is displayed on the screen in an identifiable manner.

また、第3の観点における発明にあっては、情報端末と、当該情報端末が接続されるサーバーとからなる動画像比較システムであって、前記サーバーは、動画像において、当該被写体の繰り返し表れる動作パターンを抽出する抽出手段と、前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較手段と、前記比較手段による比較結果を前記情報端末へ提供する提供手段とを備え、前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定し、前記情報端末は、前記サーバーへ前記動画像を転送する転送手段と、前記サーバーから提供された前記比較結果を出力する出力手段と、を備えたことを特徴とする。
また、第4の観点における発明にあっては、情報端末と、当該情報端末が接続されるサーバーとからなる動画像比較システムであって、前記サーバーは、動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、前記比較手段による比較結果を前記情報端末へ提供する提供手段と、を備え、前記情報端末は、前記サーバーへ前記動画像を転送する転送手段と、前記サーバーから提供された前記比較結果を出力する出力手段と、を備え、前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものである、ことを特徴とする。
The invention according to the third aspect is a moving image comparison system comprising an information terminal and a server to which the information terminal is connected, wherein the server repeatedly displays the subject in the moving image. An extraction unit for extracting a pattern, and a reference operation pattern is identified from the operation patterns at a plurality of positions extracted by the extraction unit, and the reference operation pattern is compared with an operation pattern at another plurality of positions. Comparing means and providing means for providing a comparison result by the comparing means to the information terminal, wherein the comparing means determines a predetermined value in each operation pattern from the operation patterns at the plurality of positions, and a predetermined value related to the value. The operation pattern serving as the reference is specified in accordance with the reference, and the information terminal transfers the moving image to the server; And output means for outputting the comparison result provided from Ba, and further comprising a.
According to the fourth aspect of the invention, there is provided a moving image comparison system including an information terminal and a server to which the information terminal is connected. Extraction means for extracting a motion pattern that appears repeatedly, comparison means for comparing motion patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means, and a comparison result by the comparison means Providing means for providing to the information terminal, the information terminal comprises transfer means for transferring the moving image to the server, and output means for outputting the comparison result provided from the server, The output form of the comparison result in the output means is a reference operation pattern among the operation patterns extracted by the extraction means, and the operation The time position of the operation pattern other than the turn is intended to identifiably displayed on the screen, characterized in that.

本発明によれば、同一パターンの動作の繰り返しが多いフォームの確認作業を効率的に、かつ容易に行うことが可能となる。   According to the present invention, it is possible to efficiently and easily perform confirmation of a form in which operations of the same pattern are frequently repeated.

各実施形態に共通する本発明に係るフォーム確認支援システムを示す図である。It is a figure which shows the form confirmation assistance system which concerns on this invention common to each embodiment. 第1の実施形態における情報端末1の動作の内容を示すフローチャートである。It is a flowchart which shows the content of operation | movement of the information terminal 1 in 1st Embodiment. 第1の実施形態における支援サーバー2の動作を内容を示すフローチャートである。It is a flowchart which shows the content of operation | movement of the assistance server 2 in 1st Embodiment. (a)は第1のフォーム確認画面を示す図、(b)は第3のフォーム確認画面を示す図である。(A) is a figure which shows a 1st form confirmation screen, (b) is a figure which shows a 3rd form confirmation screen. (a)は第2のフォーム確認画面を示す図、(b)は第4のフォーム確認画面を示す図である。(A) is a figure which shows a 2nd form confirmation screen, (b) is a figure which shows a 4th form confirmation screen. 第2の実施形態における情報端末1の動作の内容を示すフローチャートである。It is a flowchart which shows the content of operation | movement of the information terminal 1 in 2nd Embodiment. 第2の実施形態における支援サーバー2の動作を内容を示すフローチャートである。It is a flowchart which shows the content of operation | movement of the assistance server 2 in 2nd Embodiment. (a)は第5のフォーム確認画面を示す図、(b)は第6のフォーム確認画面を示す図である。(A) is a figure which shows a 5th form confirmation screen, (b) is a figure which shows a 6th form confirmation screen.

以下、本発明の実施の形態について図面を参照して説明する。
(第1の実施形態)
図1は、スポーツのトレーニング中の人物を撮影した動画像を用いて、フォームの善し悪しを確認する作業を支援する、本発明に係るフォーム確認支援システムの一実施形態を示した図である。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
(First embodiment)
FIG. 1 is a diagram showing an embodiment of a form confirmation support system according to the present invention, which supports a work for confirming whether a form is good or bad by using a moving image obtained by photographing a person during sports training.

図1に示したように本実施形態のフォーム確認支援システムは、ネットワーク100に接続可能な情報端末1と、ネットワーク100を介して情報端末1を含む任意の情報処理装置が接続される支援サーバー2とから構成される。   As shown in FIG. 1, the form confirmation support system of this embodiment includes an information terminal 1 that can be connected to a network 100 and a support server 2 to which an arbitrary information processing apparatus including the information terminal 1 is connected via the network 100. It consists of.

まず、情報端末1について説明する。情報端末1は、例えばスマートフォンを含む携帯電話端末により実現されるものであり、主として制御部11と、撮像部12、通信部13、記憶部14、表示部15、電源部16、操作部17を備えている。   First, the information terminal 1 will be described. The information terminal 1 is realized by a mobile phone terminal including a smartphone, for example, and mainly includes a control unit 11, an imaging unit 12, a communication unit 13, a storage unit 14, a display unit 15, a power supply unit 16, and an operation unit 17. I have.

制御部11は、CPU(Central Processing Unit)、及びその周辺回路、各種のプログラムが格納されたROM、及び作業用のRAMを含み、CPUが所定のプログラムを実行することにより、情報端末1の全体を制御することによって、情報端末1が有する各種の機能を実現する。なお、ROMには、制御部11に後述する処理を行わせるためのプログラムも格納されている。   The control unit 11 includes a CPU (Central Processing Unit) and its peripheral circuits, a ROM storing various programs, and a working RAM. The CPU executes a predetermined program, whereby the information terminal 1 as a whole. By controlling the above, various functions of the information terminal 1 are realized. The ROM also stores a program for causing the control unit 11 to perform processing described later.

撮像部12は、CCD(Charge Coupled Device)やCMOS(Complementary Meta1 0xide Semiconductor)型の撮像素子、及び撮像素子から出力される撮像信号に基づく画像データを生成する信号処理回路等から構成される。撮像部12が生成した画像データは、制御部11によって最終的には静止画データや動画データとして記憶部14に記憶される。記憶部14に記憶された静止画データや動画データは、制御部11によって再生され、表示部15に表示される。   The imaging unit 12 includes a CCD (Charge Coupled Device) or CMOS (Complementary Meta 10xide Semiconductor) type imaging device, and a signal processing circuit that generates image data based on an imaging signal output from the imaging device. The image data generated by the imaging unit 12 is finally stored in the storage unit 14 as still image data or moving image data by the control unit 11. The still image data and moving image data stored in the storage unit 14 are reproduced by the control unit 11 and displayed on the display unit 15.

記憶部14は、情報端末1の本体に内蔵されたフラッシュメモリや、情報端末1の本体に着脱自在な各種のメモリから構成される。   The storage unit 14 includes a flash memory built in the main body of the information terminal 1 and various memories that are detachable from the main body of the information terminal 1.

通信部13は、例えばWi−FiやBlueTooth(登録商標)等の無線や有線の通信を利用して情報端末1をネットワーク100へ接続し、支援サーバー2との間におけるデータの送受信を行う。   The communication unit 13 connects the information terminal 1 to the network 100 using wireless or wired communication such as Wi-Fi or BlueTooth (registered trademark), and transmits and receives data to and from the support server 2.

表示部15は、カラー液晶表示パネルと、カラー液晶表示パネルを駆動する表示駆動回路とから構成される。表示部15は、制御部11によって記憶部14から読み出されて供給される画像データ等に基づく静止画像や動画像、及びその他の情報を表示するとともに、後述するフォーム確認画面も表示する。   The display unit 15 includes a color liquid crystal display panel and a display drive circuit that drives the color liquid crystal display panel. The display unit 15 displays a still image, a moving image, and other information based on image data read from the storage unit 14 and supplied by the control unit 11, and also displays a form confirmation screen described later.

電源部16は、電源電池(例えばニッケル水素電池等の充電池)、及びDC/DCコンバータなどで構成され、上記の各部に対し各々が必要とする電力を供給する。   The power supply unit 16 includes a power supply battery (for example, a rechargeable battery such as a nickel metal hydride battery), a DC / DC converter, and the like, and supplies electric power required by each unit.

操作部17は、各種キーや電源スイッチや、カラー液晶表示パネルをタッチパネルとして機能させるタッチセンサー等から構成される。   The operation unit 17 includes various keys, a power switch, a touch sensor that causes the color liquid crystal display panel to function as a touch panel, and the like.

なお、情報端末1がスマートフォンを含む携帯電話端末である場合、情報端末1には、電話通信を行うための図示しない周知の回路、すなわち入力された音声を変調して送信する音声入力回路、送信回路、及び受信した音声信号を受信して復号再生する受信回路、再生回路等が存在する。   When the information terminal 1 is a mobile phone terminal including a smartphone, the information terminal 1 includes a well-known circuit (not shown) for performing telephone communication, that is, a voice input circuit that modulates and transmits input voice, There are a circuit, a reception circuit that receives and decodes a received audio signal, a reproduction circuit, and the like.

次に、支援サーバー2について説明する。支援サーバー2は、主として制御部21と、通信部22、記憶部23、画像処理部24を備えている。   Next, the support server 2 will be described. The support server 2 mainly includes a control unit 21, a communication unit 22, a storage unit 23, and an image processing unit 24.

制御部21は、図示しないがCPU、及びCPUの周辺回路と、RAM等の作業用メモリ等とから構成され、記憶部23に記憶されているプログラムに基づき支援サーバー2全体を制御するとともに、後述する処理を含む各種の処理を実行する。   Although not shown, the control unit 21 includes a CPU, a peripheral circuit of the CPU, a working memory such as a RAM, and the like, and controls the entire support server 2 based on a program stored in the storage unit 23. Various processes including the process to be performed are executed.

通信部22は、ネットワーク100を介して接続された情報端末1との間におけるデータの送受信を行う。   The communication unit 22 transmits and receives data to and from the information terminal 1 connected via the network 100.

記憶部23は、前述したプログラム以外にも、情報端末1との間で送受信する各種データ等を記憶する。   The storage unit 23 stores various data and the like transmitted / received to / from the information terminal 1 in addition to the above-described program.

画像処理部24は、制御部21の指令に従い動画像や静止画像に対する各種の画像処理を行う。特に、画像処理部24は、ネットワーク100を介して情報端末1等から送られる動画データを対象とした種々の動画像処理を行う。   The image processing unit 24 performs various types of image processing on moving images and still images in accordance with instructions from the control unit 21. In particular, the image processing unit 24 performs various moving image processes on moving image data sent from the information terminal 1 or the like via the network 100.

そして、以上の構成からなるフォーム確認支援システムにおいては、情報端末1と支援サーバー2とが以下に述べるように動作することにより、ユーザーが、ランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する作業を支援する。   In the form confirmation support system having the above-described configuration, the information terminal 1 and the support server 2 operate as described below, so that the user captures a moving person (person or another person). Support the work to check the quality of running form using images.

以下、ユーザーがフォーム確認支援システムを使用する場合における情報端末1と支援サーバー2との本発明に係る動作を具体的に説明する。なお、ここでは、情報端末1の記憶部14に、ランニング中の人物を撮影した動画像であって、実際にランニングを行っている部分のみの動画像のデータが1又は複数記憶されているものとする。   Hereinafter, the operation of the information terminal 1 and the support server 2 according to the present invention when the user uses the form confirmation support system will be specifically described. Here, the storage unit 14 of the information terminal 1 is a moving image in which a running person is photographed, and one or a plurality of moving image data of only the portion that is actually running is stored. And

図2は、情報端末1における制御部11の処理内容を示すフローチャートである。ユーザーによる所定の操作により動作を開始すると、制御部11は、例えば表示部15に所定の選択画面を表示して、記憶部14に記憶されている動画像のうちから所望の動画像をユーザーに指定させることにより、フォームの確認対象とすべき動画像を特定する(ステップSA1)。   FIG. 2 is a flowchart showing the processing contents of the control unit 11 in the information terminal 1. When the operation is started by a predetermined operation by the user, the control unit 11 displays, for example, a predetermined selection screen on the display unit 15, and sends a desired moving image from the moving images stored in the storage unit 14 to the user. By specifying, a moving image to be a confirmation target of the form is specified (step SA1).

次に、制御部11は、ネットワーク100を介して支援サーバー2に接続した後(ステップSA2)、確認対象の動画像のデータを支援サーバー2にアップロードする(ステップSA3)。その後、制御部11は、支援サーバー2から後述する確認用の動画データ及び解析結果データが受信できるまで待機する(ステップSA4:NO)。   Next, after connecting to the support server 2 via the network 100 (step SA2), the control unit 11 uploads the moving image data to be confirmed to the support server 2 (step SA3). Thereafter, the control unit 11 stands by until confirmation video data and analysis result data, which will be described later, can be received from the support server 2 (step SA4: NO).

一方、図3は、その間の支援サーバー2における制御部21の処理内容を示すフローチャートである。支援サーバー2においては、情報端末1から動画データがアップロードされると、通信部22を介して制御部21がそれを受信し(ステップSB1)、直ちにアップロードされた動画データを対象として画像処理部24に、輪郭抽出等の各種の画像処理を行わせることによって、以下の処理を行う。   On the other hand, FIG. 3 is a flowchart showing the processing contents of the control unit 21 in the support server 2 during that time. In the support server 2, when the moving image data is uploaded from the information terminal 1, the control unit 21 receives it via the communication unit 22 (step SB1), and the image processing unit 24 immediately targets the uploaded moving image data. By performing various image processing such as contour extraction, the following processing is performed.

まず、制御部21は、動画データにより表される動画像において、動画像の主たる被写体(以下、単に被写体という。)の各部位の動作を解析する(ステップSB2)。係る処理に際して制御部21は、被写体の部位すなわちランナーの左右の足と手と判断できる各部位をそれぞれ検出し、検出した各部位における動画像内での位置の変化を取得する。   First, in the moving image represented by the moving image data, the control unit 21 analyzes the operation of each part of the main subject (hereinafter simply referred to as a subject) of the moving image (step SB2). During such processing, the control unit 21 detects each part of the subject, that is, each part that can be determined as the left and right feet and hands of the runner, and acquires a change in position in the moving image at each detected part.

より具体的に述べると制御部21は、各部位について、各部位の先端等のフレーム間で追跡に適した代表点を設定し、設定した代表点の座標位置を動画像のフレーム毎(数フレーム毎でもよい)に取得し、記憶部23に部位毎に記憶してデータベース化する。   More specifically, the control unit 21 sets a representative point suitable for tracking between frames such as the tip of each part for each part, and sets the coordinate position of the set representative point for each frame (several frames) of the moving image. And may be stored in the storage unit 23 for each part to create a database.

次に、制御部21は、記憶部23に記憶した各部位(代表点)の時間的な変化に基づいて被写体の動作パターンを抽出する(ステップSB3)。ここで抽出する動作パターンは、動画像に繰り返し表れるランナーの一連の動作であり、右足(又は左足)が接地した状態から上昇した後、ある時点を境として降下して着地したのち、再び上昇を開始するまでの動作である。   Next, the control unit 21 extracts the motion pattern of the subject based on the temporal change of each part (representative point) stored in the storage unit 23 (step SB3). The motion pattern extracted here is a series of motions of the runner that appears repeatedly in the moving image. After the right foot (or left foot) climbs from the grounded state, it descends at a certain point in time and then rises again. This is the operation until it starts.

そして、ステップSB3の処理において制御部21は、動画像の全期間について各々の動作パターンの開始時点のフレーム番号(時間位置)と、終了時点のフレーム番号(時間位置)とを取得し、記憶部23に記憶する。   Then, in the processing of step SB3, the control unit 21 acquires the frame number (time position) at the start time and the frame number (time position) at the end time of each operation pattern for the entire period of the moving image, and the storage unit 23.

次に、制御部21は、前記動作パターンの平均周期、つまり各々の動作パターンにおける開始時点から終了時点までの動作時間の平均値を取得する(ステップSB4)。なお、動作パターンの平均周期は、動画像の全期間ではなく前半の期間の各動作パターンから取得してもよい。   Next, the control unit 21 acquires the average period of the operation patterns, that is, the average value of the operation time from the start time to the end time in each operation pattern (step SB4). Note that the average period of the motion pattern may be acquired from each motion pattern in the first half period instead of the entire period of the moving image.

なお、立ち止まったり、転んだりして大きくばらつくような動作パターンがある場合は、標準偏差を算出する等行うことで、大きく外れる動作パターンを除外し、より適切な平均周期を取得するようにしてもよい。   If there is an operation pattern that stops or rolls and varies greatly, the standard deviation is calculated, etc., so that the operation pattern that deviates greatly is excluded, and a more appropriate average period is acquired. Good.

次に、制御部21は、動画像の全期間を対象として各部位の平均位置を取得する(ステップSB5)。ここで取得する各部位の平均位置は、各々の動作パターンにおける各部位の特定タイミングにおける平均的な位置である。特定タイミングは、各々の動作パターンにおいて左右の足、及び左右の手が往復移動している間に停止するタイミング、すなわち移動方向が逆転する瞬間のタイミングである。つまり、各部位について2種類の位置を取得し、それぞれの平均値を取得する。   Next, the control unit 21 acquires the average position of each part for the entire period of the moving image (step SB5). The average position of each part acquired here is an average position at the specific timing of each part in each operation pattern. The specific timing is a timing at which the left and right feet and the left and right hands stop while reciprocating in each motion pattern, that is, a timing at which the moving direction is reversed. That is, two types of positions are acquired for each part, and an average value of each is acquired.

上述と同様にして、大きく外れる動作パターンを除外し、より適切な平均位置を取得するようにしてもよい。   In the same manner as described above, an operation pattern that deviates greatly may be excluded, and a more appropriate average position may be acquired.

なお、各部位の平均位置についても動作パターンの平均周期と同様に、動画像の全期間ではなく前半の期間の各動作パターンから取得してもよく、動作パターンの平均周期を動画像の前半の期間から取得する場合には、各部位の平均位置も動画像の前半の期間から取得する。   As with the average period of the motion pattern, the average position of each part may be acquired from each motion pattern in the first half period instead of the whole period of the moving image. When acquiring from the period, the average position of each part is also acquired from the first half period of the moving image.

但し、ステップSB5の処理において制御部21は、各部位の平均位置を動画像の前半の期間から取得する場合についても、動画像の全期間の全ての動作パターン毎に、左右の足、及び左右の手の特定タイミングの位置(2種類)をそれぞれ確認し、それらを記憶部23に記憶しデータベース化する。   However, in the process of step SB5, the control unit 21 also acquires the left and right legs and the left and right for every motion pattern in the entire period of the moving image, even when the average position of each part is acquired from the first half period of the moving image. The specific timing positions (two types) of the hand are respectively confirmed and stored in the storage unit 23 to form a database.

次に、制御部21は、ステップSB4の処理で取得した平均周期から基準動作パターンを特定する(ステップSB6)。具体的に説明すると制御部21は、動画像に繰り返し表れる前記動作パターンのうちで、その周期(動作時間)が平均値に最も近い動作パターンを基準動作パターンとして特定する。   Next, the control unit 21 specifies a reference operation pattern from the average period acquired in the process of step SB4 (step SB6). More specifically, the control unit 21 specifies an operation pattern whose cycle (operation time) is closest to the average value among the operation patterns repeatedly appearing in the moving image as a reference operation pattern.

次に、制御部21は、基準動作パターンの比較対象となる比較動作パターンの特定に使用する閾値を設定する(ステップSB7)。ここでは閾値として第1の閾値と第2の閾値を設定する。第1の閾値は動作パターンの周期に関するものであり、前述した平均周期との差である。また、第2の閾値は各部位の特定タイミングの位置に関するものであり、前述した平均位置との差である。   Next, the control unit 21 sets a threshold value used for specifying a comparison operation pattern to be compared with a reference operation pattern (step SB7). Here, the first threshold value and the second threshold value are set as the threshold values. The first threshold value relates to the cycle of the operation pattern, and is a difference from the above-described average cycle. The second threshold value relates to the position of the specific timing of each part, and is a difference from the above-described average position.

次に、制御部21は、基準動作パターン以外の動作パターンのうちで、上記の第1の閾値を超える動作パターン、及び第2の閾値を超える動作パターンをそれぞれ比較動作パターンとして特定する(ステップSB8)。これにより、その周期が平均周期と大きく異なる動作パターン、及びいずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンを比較動作パターンとして特定される。   Next, the control unit 21 specifies, as comparison operation patterns, operation patterns exceeding the first threshold and operation patterns exceeding the second threshold among the operation patterns other than the reference operation pattern (step SB8). ). As a result, an operation pattern whose period is significantly different from the average period, and an operation pattern whose position at a specific timing of any part is greatly different from the average position in the part are specified as the comparison operation pattern.

なお、ここで設定される比較動作パターンには、その周期が平均周期と大きく異なると同時に、いずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンが含まれる場合もある。   Note that the comparison operation pattern set here may include an operation pattern in which the cycle is significantly different from the average cycle and at the same time the position of the specific timing of any part is significantly different from the average position in the part. .

ここで、ステップSB7の処理においては、動作パターンの周期に関する第1の閾値として、平均周期との差ではなく、平均周期に対する所定の割合を設定することができる。その場合においても、ステップSB8の処理において、その周期が平均周期と大きく異なる動作パターンを比較動作パターンとして特定することができる。   Here, in the process of step SB7, a predetermined ratio with respect to the average period can be set as the first threshold value regarding the period of the operation pattern, not the difference with the average period. Even in that case, in the process of step SB8, an operation pattern whose period is significantly different from the average period can be specified as the comparison operation pattern.

同様に、ステップSB7の処理においては、各部位の特定タイミングの位置に関する第2の閾値として、平均位置との差ではなく、平均位置に対する所定の割合を設定することができる。その場合においても、ステップSB8の処理において、いずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンを比較動作パターンとして特定することができる。   Similarly, in the process of step SB7, a predetermined ratio with respect to the average position can be set as the second threshold value regarding the position of the specific timing of each part, not the difference from the average position. Even in that case, in the process of step SB8, an operation pattern in which the position of the specific timing of any part is significantly different from the average position in the part can be specified as the comparison operation pattern.

次に、制御部21は、確認対象の元の動画像から確認用の動画データを新たに生成する(ステップSB9)。係る処理に際して制御部21は、まず、元の動画像からステップSB6の処理で特定した基準動作パターン、及びステップSB8の処理で特定した比較動作パターン(1又は複数)に該当する動画部分のデータを抽出する。次に、抽出した各動作パターンの動画部分から主たる被写体(ランナー)に相当する部分を切り出し、それを新たなフレーム画像として動作パターン別の動画像データを生成する。そして、生成した動作パターン別の動画像データをマージした確認用の動画データを生成する。   Next, the control unit 21 newly generates moving image data for confirmation from the original moving image to be confirmed (step SB9). In this process, the control unit 21 first obtains the data of the moving image portion corresponding to the reference motion pattern identified in the process of step SB6 and the comparison motion pattern (one or more) identified in the process of step SB8 from the original moving image. Extract. Next, a portion corresponding to the main subject (runner) is cut out from the extracted moving image portion of each motion pattern, and moving image data for each motion pattern is generated using the portion as a new frame image. Then, confirmation moving image data is generated by merging the generated moving image data for each operation pattern.

しかる後、制御部21は、生成した動画データを、基準動作パターン及び比較動作パターンに関する解析結果データと共に情報端末1へ送信する(ステップSB10)。   Thereafter, the control unit 21 transmits the generated moving image data to the information terminal 1 together with the analysis result data regarding the reference operation pattern and the comparison operation pattern (step SB10).

解析結果データには、動画像における基準動作パターン及び比較動作パターン(1又は複数)の動作パターン毎の次のデータが含まれる。具体的なデータは、動画像における時間位置を示す、各動作パターンの開始時点及び終了時点のフレーム番号と、特定タイミングの位置が平均位置と大きく異なっていた部位(以下、注目部位という。)の特定タイミングでの位置(座標位置)である。   The analysis result data includes the following data for each operation pattern of the reference operation pattern and the comparison operation pattern (one or more) in the moving image. The specific data includes the frame positions at the start time and end time of each motion pattern indicating the time position in the moving image, and the part where the position of the specific timing is greatly different from the average position (hereinafter referred to as a target part). A position (coordinate position) at a specific timing.

つまり、制御部21は、確認対象の動画像における時間位置が異なる複数位置での動作パターンを、その周期(動作時間)及び被写体の所定部位(左右の足と手)の特定タイミングでの位置を観点として比較した結果として、確認用の動画データと解析結果データとを情報端末1へ送信する。   That is, the control unit 21 determines the operation pattern at a plurality of positions with different time positions in the moving image to be confirmed, the cycle (operation time), and the position of the predetermined part (left and right feet and hands) of the subject at a specific timing. As a result of comparison as a viewpoint, moving image data for confirmation and analysis result data are transmitted to the information terminal 1.

一方、図2に示したように情報端末1においては、支援サーバー2から前述した確認用の動画データ及び解析結果データを通信部13を介して受信すると(ステップSA4:YES)、制御部11が受信した解析結果データに基づき、前述した基準動作パターン及び比較動作パターンを表す動画像を識別可能に表示するフォーム確認画面を表示部15に表示させる(ステップSA5)。   On the other hand, as shown in FIG. 2, when the information terminal 1 receives the confirmation moving image data and analysis result data from the support server 2 via the communication unit 13 (step SA4: YES), the control unit 11 Based on the received analysis result data, the display unit 15 displays a form confirmation screen that displays the above-described moving images representing the reference operation pattern and the comparison operation pattern in an identifiable manner (step SA5).

フォーム確認画面における双方の動画像の表示形態には、後述するように並列表示と重畳表示との2つの表示形態がある。   There are two display forms of the moving images on the form confirmation screen: a parallel display and a superimposed display, as will be described later.

図4(a)は、確認用の動画データ及び解析結果データを受信した直後に表示部15に表示される第1のフォーム確認画面G1を示した図である。   FIG. 4A is a diagram showing a first form confirmation screen G1 displayed on the display unit 15 immediately after receiving the confirmation moving image data and analysis result data.

図に示したように第1のフォーム確認画面G1は、画面の左側に基準動作パターンを表す基準動画g1を配置し、画面の右側に比較動作パターンを表す比較動画g2を配置するとともに、基準動画g1と比較動画g2と下方に位置ゲージg3を配置したものである。すなわち第1のフォーム確認画面G1における動画像の表示形態は並列表示である。   As shown in the figure, on the first form confirmation screen G1, the reference video g1 representing the reference motion pattern is arranged on the left side of the screen, the comparison video g2 representing the comparison motion pattern is arranged on the right side of the screen, and the reference video The position gauge g3 is arranged below g1 and the comparative moving image g2. That is, the display form of the moving image on the first form confirmation screen G1 is parallel display.

係る第1のフォーム確認画面G1の表示に際して制御部11は、支援サーバー2から受信した確認用の動画像にマージされている基準動作パターンの動画像を基準動画g1とし、かつ確認用の動画像にマージされている比較動作パターンの動画像を比較動画g2として、それぞれの画面上での表示を開始する。   When the first form confirmation screen G1 is displayed, the control unit 11 sets the moving image of the reference motion pattern merged with the moving image for confirmation received from the support server 2 as the reference moving image g1, and the moving image for confirmation. The moving image of the comparison operation pattern merged with the image is set as the comparison moving image g2, and display on each screen is started.

なお、基準動作パターン及び比較動作パターンの動画像は、既説したようにランナー部分のみの動画像である。また、第1のフォーム確認画面G1の表示開始当初における比較動画g2は、比較動作パターンが複数であった場合には、確認対象である元の動画像内での時間位置が最先の比較動作パターンを表すものである。   Note that the moving images of the reference operation pattern and the comparison operation pattern are moving images of only the runner portion as described above. Further, the comparison moving image g2 at the beginning of the display of the first form confirmation screen G1 has a comparison operation with the earliest time position in the original moving image to be confirmed when there are a plurality of comparison operation patterns. It represents a pattern.

また、第1のフォーム確認画面G1の表示に際して制御部11は、解析結果データに含まれる動作パターン毎の動画像における開始時点及び終了時点のフレーム番号に基づいて前記位置ゲージg3を画面上に表示させる。位置ゲージg3は、その延在方向の全域を動画像の全期間に見立て、全期間における基準動画g1と比較動画g2との時間位置(図において黒塗り、又は斜線で示す期間)を示したものである。   Further, when the first form confirmation screen G1 is displayed, the control unit 11 displays the position gauge g3 on the screen based on the frame numbers at the start time point and the end time point in the moving image for each operation pattern included in the analysis result data. Let The position gauge g3 indicates the time position of the reference moving image g1 and the comparative moving image g2 in the entire period (the period indicated by blackening or hatching in the drawing) with the entire extending direction as the entire period of the moving image. It is.

なお、第1のフォーム確認画面G1の表示に際して制御部11は、基準動画g1と比較動画g2における、現在表示しているフレームに関する確認対象の動画像における時間位置(先頭からの経過時間)及び動作パターンの周期もそれぞれ表示部15に表示させる。   When the first form confirmation screen G1 is displayed, the control unit 11 performs the time position (elapsed time from the beginning) and the operation in the moving image to be confirmed regarding the currently displayed frame in the reference moving image g1 and the comparison moving image g2. The period of the pattern is also displayed on the display unit 15.

また、第1のフォーム確認画面G1の表示中において制御部11は、基準動画g1と比較動画g2とを繰り返し表示させ、その間には、双方の表示周期を一致させる。つまり基準動画g1のフレーム期間が比較動画g2のフレーム期間よりも短い場合には、基準動画g1の次の周期の表示開始時期を遅らせ、逆に基準動画g1のフレーム期間が比較動画g2のフレーム期間よりも長い場合には、比較動画g2の次の周期の表示開始時期を遅らせる。   In addition, during the display of the first form confirmation screen G1, the control unit 11 repeatedly displays the reference moving image g1 and the comparative moving image g2, and the display periods of both are made to coincide with each other. That is, when the frame period of the reference video g1 is shorter than the frame period of the comparison video g2, the display start timing of the next cycle of the reference video g1 is delayed, and conversely, the frame period of the reference video g1 is the frame period of the comparison video g2. If it is longer, the display start time of the next cycle of the comparative moving image g2 is delayed.

さらに、第1のフォーム確認画面G1の表示中において制御部11は、上記のように基準動画g1と比較動画g2とを繰り返し表示させる間、被写体の注目部位を示すマークg4(図の例では破線の丸)を双方の動画像g1,g2とに重畳して表示させる。なお、注目部位は、前述したように比較動画g2(比較動作パターン)において、特定タイミングでの位置が平均位置と大きく異なっていた部位であり、図4(a)は、上記注目部位が被写体の足である場合の例である。   Further, while the first form confirmation screen G1 is displayed, the control unit 11 repeatedly displays the reference moving image g1 and the comparative moving image g2 as described above, while displaying the mark g4 (the broken line in the example in the figure) indicating the target region of interest. ) Are superimposed on both moving images g1 and g2. Note that, as described above, the site of interest is a site where the position at the specific timing is significantly different from the average position in the comparison video g2 (comparison operation pattern), and FIG. This is an example of a foot.

また、上述した第1のフォーム確認画面G1を表示した後、制御部11は、ユーザーによる確認作業の終了を指示する終了操作の有無と、表示形態を切り換えるための表示切替操作の有無、送り操作の有無、静止画展開操作の有無、時間調整操作の有無を逐次確認する(ステップSA6,SA7,SA9,SA12,SA14)。そして、制御部11は、第1のフォーム確認画面G1の表示後、ユーザーによって上記のいずれの操作も行われなければ(ステップSA14:NO)、第1のフォーム確認画面G1の表示を継続する。   In addition, after displaying the first form confirmation screen G1 described above, the control unit 11 determines whether there is an end operation for instructing the user to end the confirmation operation, whether there is a display switching operation for switching the display mode, and a sending operation. , Presence / absence of still image expansion operation, presence / absence of time adjustment operation are sequentially confirmed (steps SA6, SA7, SA9, SA12, SA14). Then, after the first form confirmation screen G1 is displayed, the control unit 11 continues to display the first form confirmation screen G1 if any of the above operations is not performed by the user (step SA14: NO).

一方、制御部11は、ユーザーによる表示切替操作があった場合には(ステップSA7:YES)、前述した基準動画g1と比較動画g2との表示形態を並列表示から重畳表示に切り換えることにより、図5(a)に示した第2のフォーム確認画面G2を表示部15に表示させる(ステップSA8)。   On the other hand, when there is a display switching operation by the user (step SA7: YES), the control unit 11 switches the display form of the reference moving image g1 and the comparative moving image g2 from parallel display to superimposed display. The second form confirmation screen G2 shown in FIG. 5 (a) is displayed on the display unit 15 (step SA8).

図に示したように第2のフォーム確認画面G2は、前述した基準動画g1と比較動画g2とを画面中央に重畳して表示させるとともに、その下方に前述した位置ゲージg3を配置したものである。   As shown in the figure, the second form confirmation screen G2 is a screen in which the reference video g1 and the comparative video g2 described above are superimposed on the center of the screen and the position gauge g3 described above is disposed below the second video. .

係る、第2のフォーム確認画面G2の表示中においても、制御部11は、基準動画g1と比較動画g2とを双方の表示周期を一致させた状態で、繰り返し表示させるとともに、被写体の注目部位を示すマークg4を動画像g1,g2とに重畳して表示させる。   Even during the display of the second form confirmation screen G2, the control unit 11 repeatedly displays the reference moving image g1 and the comparative moving image g2 in a state in which both display cycles coincide with each other, and also displays the attention site of the subject. A mark g4 to be displayed is superimposed on the moving images g1 and g2.

なお、図5(a)においては、便宜上、基準動画g1の被写体部分を黒塗りで示し、かつ比較動画g2の被写体部分を斜線で示したが、実際には、例えば被写体部分の色や輝度等を変えることによって基準動画g1と比較動画g2とを識別可能とする。また、ここでは基準動画g1の上に比較動画g2を重ねた例を示したが、両者の上下関係は逆でもよい。   In FIG. 5A, for convenience, the subject portion of the reference moving image g1 is shown in black, and the subject portion of the comparative moving image g2 is shown in diagonal lines. Can be distinguished from the reference moving image g1 and the comparative moving image g2. Moreover, although the example which overlapped the comparative moving image g2 on the reference | standard moving image g1 was shown here, the up-and-down relationship of both may be reverse.

また、第1のフォーム確認画面G1や第2のフォーム確認画面G2を表示している間に、ユーザーによる送り操作があった場合には(ステップSA9:YES)、制御部11は、その時点で比較動画g2として表示中の比較動作パターン以外の比較動作パターンがあるか否かを確認する(ステップSA10)。つまり確認用の動画像に他の比較動作パターンの動画部分がマージされているか否かを確認する。   If the user performs a feed operation while the first form confirmation screen G1 or the second form confirmation screen G2 is displayed (step SA9: YES), the control unit 11 at that time It is confirmed whether or not there is a comparison operation pattern other than the comparison operation pattern being displayed as the comparison moving image g2 (step SA10). That is, it is confirmed whether the moving image portion of another comparison operation pattern is merged with the confirmation moving image.

そして、制御部11は、他の比較動作パターンがなければ(ステップSA10:NO)、第1のフォーム確認画面G1や第2のフォーム確認画面G2において、現在の比較動画g2の表示を続行する。つまり何もしない。   If there is no other comparison operation pattern (step SA10: NO), the control unit 11 continues to display the current comparison video g2 on the first form confirmation screen G1 and the second form confirmation screen G2. That is, do nothing.

一方、制御部11は、他の比較動作パターンがあれば(ステップSA10:YES)、動作パターンの送り表示を行う(ステップSA11)。すなわち、制御部11は、確認対象の動画像における時間位置が比較動画g2として表示中の比較動作パターンの1つ後となる比較動作パターンの動画部分を新たな比較動画g2として画面上での表示を開始する。その際には、これと連動させて基準動画g1も先頭から表示させる。   On the other hand, if there is another comparison operation pattern (step SA10: YES), the control unit 11 displays the operation pattern (step SA11). In other words, the control unit 11 displays the moving image portion of the comparison operation pattern whose time position in the moving image to be confirmed is one after the comparison operation pattern being displayed as the comparison moving image g2 on the screen as the new comparison moving image g2. To start. In this case, the reference moving image g1 is also displayed from the top in conjunction with this.

なお、図2では省略するがユーザーによる送り操作には、動作パターンを時間的に前の動作パターンに戻す操作が許容されており、送り操作が動作パターンを時間的に前の動作パターンに戻す操作であった場合、ステップSA11において制御部11は上記とは逆の処理を行う。すなわち、確認対象の動画像における時間位置が比較動画g2として表示中の比較動作パターンの1つ前となる比較動作パターンの動画部分を新たな比較動画g2として画面上での表示を開始する。   Although not shown in FIG. 2, the user's feed operation is permitted to return the operation pattern to the previous operation pattern in time, and the feed operation returns the operation pattern to the previous operation pattern in time. If so, in step SA11, the control unit 11 performs a process reverse to the above. That is, the display on the screen is started with the moving image portion of the comparison operation pattern whose time position in the moving image to be confirmed is the previous comparison operation pattern being displayed as the comparison moving image g2 as the new comparison moving image g2.

また、ユーザーによる静止画展開操作があった場合(ステップSA12:YES)、制御部11は、静止画展開の有無を切り換える(ステップSA13)。   If the user performs a still image expansion operation (step SA12: YES), the control unit 11 switches the presence / absence of still image expansion (step SA13).

すなわちステップSA13の処理に際して制御部11は、第1のフォーム確認画面G1や第2のフォーム確認画面G2の表示中においては、静止画展開操作があった時点では、前述した位置ゲージg3を、図4(b)、図5(b)に示したような、基準動画g1を構成する所定数の静止画群f1、及び比較動画g2を構成する所定数の静止画群f2に切り換えた状態の第3のフォーム確認画面G3や第4のフォーム確認画面G4を表示部15に表示させる。   That is, in the process of step SA13, the control unit 11 displays the position gauge g3 described above at the time when the still image developing operation is performed while the first form confirmation screen G1 and the second form confirmation screen G2 are displayed. 4 (b), as shown in FIG. 5 (b), in a state in which switching is made to a predetermined number of still image groups f1 constituting the reference moving image g1 and a predetermined number of still image groups f2 constituting the comparative moving image g2. 3 form confirmation screen G3 and fourth form confirmation screen G4 are displayed on the display unit 15.

ここで、基準動画g1を構成する所定数の静止画群f1、及び比較動画g2を構成する所定数の静止画群f2は、それぞれが現在表示中のフレームの静止画と、その直前までの複数フレーム分の静止画とから構成されるものである。   Here, the predetermined number of still image groups f1 constituting the reference moving image g1 and the predetermined number of still image groups f2 constituting the comparative moving image g2 are each a still image of the currently displayed frame and a plurality of still images immediately before that. It consists of still images for frames.

また、ステップSA13の処理に際して制御部11は、上記とは逆に第3のフォーム確認画面G3や第4のフォーム確認画面G4の表示中においては、第1のフォーム確認画面G1や第2のフォーム確認画面G2を表示部15に表示させる。   On the other hand, in the process of step SA13, the controller 11 reverses the above, while the third form confirmation screen G3 and the fourth form confirmation screen G4 are displayed, the first form confirmation screen G1 and the second form. A confirmation screen G2 is displayed on the display unit 15.

さらに、ユーザーによる時間調整操作があった場合(ステップSA14:YES)、制御部11は、時間調整の有無を切り換える(ステップSA15)。ここで時間調整とは、先に説明した第1〜第4のフォーム確認画面G1〜G4のいずれかにおいて表示中の比較動画g2の表示時間(比較動作パターンの周期)を基準動画g1の表示時間(基本動作パターンの周期)と一致させる処理である。   Furthermore, when there is a time adjustment operation by the user (step SA14: YES), the control unit 11 switches the presence / absence of time adjustment (step SA15). Here, the time adjustment refers to the display time of the reference moving image g1 (the period of the comparison operation pattern) that is displayed on any of the first to fourth form confirmation screens G1 to G4 described above. This is a process for matching with (period of the basic operation pattern).

具体的に述べると、比較動画g2の表示時間が基準動画g1の表示時間よりも短い場合には不足時間分のフレーム画像を補完して表示し、逆に比較動画g2の表示時間が基準動画g1の表示時間よりも長い場合には超過時間分のフレーム画像を間引きして表示する処理である。   More specifically, when the display time of the comparative video g2 is shorter than the display time of the reference video g1, the frame images for the shortage time are complemented and displayed, and conversely, the display time of the comparative video g2 is displayed. If the display time is longer than the display time, frame images corresponding to the excess time are thinned and displayed.

なお、不足時間分のフレーム画像の補完は、例えば所定のフレーム数毎に相前後するフレームから新たなフレームを生成したり、先行するフレーム又は後続のフレームを重複使用したりすることにより行う。   Note that the complement of the frame images corresponding to the shortage time is performed, for example, by generating a new frame from frames that follow each other for every predetermined number of frames, or by overlappingly using the preceding frame or the subsequent frame.

そして、ステップSA15の処理に際して制御部11は、時間調整操作があった時点で上記の時間調整を行っていない場合には、上記処理による時間調整を行った状態での基準動画g1と比較動画g2との表示を開始する。   When the time adjustment operation is not performed at the time when the time adjustment operation is performed, the control unit 11 performs the reference moving image g1 and the comparative moving image g2 in the state where the time adjustment is performed by the above processing. And display.

また、ステップSA15の処理に際して制御部11は、時間調整操作があった時点で上記の時間調整を行っている場合には、上記処理による時間調整をやめて、表示時間が異なる状態のままでの基準動画g1と比較動画g2との表示を再開する。   In addition, when the time adjustment operation is performed at the time when the time adjustment operation is performed, the control unit 11 stops the time adjustment by the above processing and maintains the display time in a different state during the process of step SA15. The display of the moving image g1 and the comparative moving image g2 is resumed.

なお、表示時間が異なる状態のままで基準動画g1と比較動画g2とを繰り返し表示させる場合は、まず先頭を合わせるように表示を開始し、いずれか時間の短い方の表示は、長い方の表示が終わるまで次の繰り返し表示は待ち、長い方の表示が終ってから改めて先頭を合わせるように表示を開始する。   When the reference video g1 and the comparative video g2 are repeatedly displayed with different display times, the display is first started so that the heads are aligned, and the display with the shorter time is displayed with the longer display. The next repeated display is waited until the end of, and after the longer display is finished, the display is started so that the head is aligned again.

以後、制御部11は、ユーザーによる終了操作があるまでは(ステップSA6:NO)、前述したステップSA7からステップSA15の処理を繰り返し、ユーザーによる終了操作があれば(ステップSA6:YES)、その時点で全ての処理を終了する。   Thereafter, the control unit 11 repeats the processing from step SA7 to step SA15 described above until the user performs an end operation (step SA6: NO), and if there is an end operation by the user (step SA6: YES), at that time To finish all processing.

以上説明した本実施形態のフォーム確認支援システムにおいては、ユーザーがそれを用いてランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する際には、情報端末1に表示される第1〜第4のフォーム確認画面G1〜G4によって、ランニング中に繰り返し表れる動作パターンのうちで、基準となる基準動作パターンと、それとの違いが大きい比較動作パターンのみを簡単に比較し確認することができる。   In the form confirmation support system of the present embodiment described above, when the user confirms whether the running form is good or bad using a moving image obtained by photographing a person who is running (the person or another person) using it, Among the operation patterns that appear repeatedly during running by the first to fourth form confirmation screens G1 to G4 displayed on the information terminal 1, only the reference operation pattern that is a reference and the comparison operation pattern that is largely different from the reference operation pattern are displayed. You can easily compare and confirm.

したがって、動画像を注意深く確認せずともトレーニング中におけるどの時点のフォームが良くてどの時点のフォームが悪いかを確認することができる。ランニングのように同一パターンの動作の繰り返しが多いスポーツについても、トレーニング中におけるフォームの確認作業を効率的に、かつ容易に行うことができる。   Therefore, it is possible to check which form is good and which form is bad during training without carefully checking the moving image. Even for sports such as running where there are many repetitions of the same pattern operation, the work of checking the form during training can be performed efficiently and easily.

特に、第1〜第4のフォーム確認画面G1〜G4に表示される基準動画g1と比較動画g2とが、各々が動画像において動作パターンとして特定されたランナーの1サイクル分の一連の動作を表す動画像であるため、基準動作パターンと1又は複数の比較動作パターンとの比較を極めて容易に行うことができる。   In particular, the reference moving image g1 and the comparative moving image g2 displayed on the first to fourth form confirmation screens G1 to G4 each represent a series of operations for one cycle of the runner specified as the operation pattern in the moving image. Since it is a moving image, the reference operation pattern can be compared with one or more comparison operation patterns very easily.

また、基準動画g1と比較動画g2とによって、基準動作パターンと比較動作パターンとの周期の差を表現させるため、双方間の周期のずれを容易に確認することができる。   In addition, since the reference moving image g1 and the comparative moving image g2 express the difference in period between the reference operation pattern and the comparison operation pattern, it is possible to easily check the difference in the period between the two.

しかも、第1、第3のフォーム確認画面G1,G3には、基準動画g1と比較動画g2とが並べて表示されるため、基準動作パターンと比較動作パターンとの間に周期のずれがある場合には、双方間の周期のずれをさらに容易に確認することができる。   In addition, since the reference moving image g1 and the comparative moving image g2 are displayed side by side on the first and third form confirmation screens G1 and G3, there is a period shift between the reference operation pattern and the comparison operation pattern. Can more easily confirm the shift in the period between the two.

また、基準動画g1と比較動画g2に重ねてマークg4が表示されるため、基準動作パターンと比較動作パターンとの間にランナーの足や手といった部位の位置のずれがある場合には、それを容易に確認することができる。   In addition, since the mark g4 is displayed so as to overlap the reference moving image g1 and the comparative moving image g2, if there is a position shift of a part such as a foot or a hand of the runner between the reference operation pattern and the comparison operation pattern, It can be easily confirmed.

さらに、第2、第4のフォーム確認画面G2,G4においては、基準動画g1と比較動画g2とが重ねて表示されるため、基準動作パターンと比較動作パターンとの間にランナーの足や手の位置のずれがある場合には、それをより一層容易に確認することができる。   Further, on the second and fourth form confirmation screens G2 and G4, the reference moving image g1 and the comparison moving image g2 are displayed so as to overlap each other, so that the runner's feet and hands are between the reference operation pattern and the comparison operation pattern. If there is a position shift, it can be confirmed more easily.

また、第1、第2のフォーム確認画面G1,G2には、前述した位置ゲージg3が表示されるため、表示中の基準動作パターンと比較動作パターンが動画像内におけるどの位置の動作パターンを抽出したのかを容易に確認することができる。   Further, since the above-described position gauge g3 is displayed on the first and second form confirmation screens G1 and G2, the operation pattern at which position in the moving image is extracted as the reference operation pattern and the comparison operation pattern being displayed. It is possible to easily confirm whether it has been done.

また、時間調整操作を行うことによって基準動画g1と比較動画g2との周期を一致させることができるため、双方間に、周期と、動作する任意の部位の位置との両方に違いがある場合であっても、動作する任意の部位の位置の違いのみを確認することができる。   Further, since the period of the reference moving image g1 and the comparison moving image g2 can be matched by performing the time adjustment operation, there is a difference in both the cycle and the position of an arbitrary part that operates. Even if it exists, only the difference in the position of the arbitrary part which operate | moves can be confirmed.

一方、本実施形態においては、支援サーバー2が確認対象の動画像からの動作パターンの抽出を画像処理技術を用いて自動的に行うため、動作パターンの抽出ために動画像以外の他の情報が不要であり、センサー等のほかのデバイスを必要とせず、ユーザーに対して高い利便性を確保することができる。   On the other hand, in this embodiment, since the support server 2 automatically extracts an operation pattern from a moving image to be confirmed using an image processing technique, information other than the moving image is used to extract the operation pattern. It is unnecessary and does not require other devices such as sensors, and can ensure high convenience for the user.

また、支援サーバー2が、確認対象の動画像から抽出した複数位置での動作パターンから基準動作パターンを特定し、基準動作パターンと他の動作パターンとの違いを比較することによって比較動作パターンの特定を行うため、比較動作パターンとして、より適切な動作パターンを特定することができる。   Further, the support server 2 identifies the reference motion pattern from the motion patterns at a plurality of positions extracted from the confirmation target moving image, and identifies the comparison motion pattern by comparing the difference between the reference motion pattern and other motion patterns. Therefore, a more appropriate operation pattern can be specified as the comparison operation pattern.

また、支援サーバー2が、確認対象の動画像において周期的に表れる略同一の被写体の一連の動作を動作パターンとして抽出するため、基準動作パターンと他の動作パターンとの違いを容易に比較することができる。   In addition, since the support server 2 extracts a series of motions of substantially the same subject that appear periodically in the moving image to be confirmed as motion patterns, the difference between the reference motion pattern and other motion patterns can be easily compared. Can do.

また、支援サーバー2が、確認対象の動画像において周期的に表れる被写体の要素から動作パターンとして抽出するため、足や手といった部位の変化を静止画のような動作パターンの一部によって、基準動作パターンと他の動作パターンとの違いをさらに容易に比較することができる。   In addition, since the support server 2 extracts the motion pattern from the elements of the subject that appear periodically in the moving image to be confirmed, a change in a part such as a foot or hand is used as a reference motion by a part of the motion pattern such as a still image. The difference between the pattern and other operation patterns can be compared more easily.

しかも、支援サーバー2が確認対象の動画像からの動作パターンを抽出する際には、被写体の要素である各部位における位置の変化の周期性を判別して動作パターンを抽出するため、効率的に動作パターンを自動で抽出することができる。   In addition, when the support server 2 extracts the motion pattern from the moving image to be confirmed, the motion pattern is extracted by discriminating the periodicity of the change in position in each part that is an element of the subject. An operation pattern can be automatically extracted.

また、支援サーバー2においては、その周期が平均周期と大きく異なる動作パターン、及びいずれかの部位の特定タイミングの位置がその部位における平均位置と大きく異なる動作パターンを比較動作パターンとして特定する。そのため、フォームの確認作業により適した比較動作パターンを自動的に取得することができる。   Further, in the support server 2, an operation pattern whose period is significantly different from the average period and an operation pattern whose specific timing position of any part is greatly different from the average position in the part are specified as the comparison operation pattern. Therefore, it is possible to automatically acquire a comparison operation pattern that is more suitable for the form confirmation work.

(第2の実施形態)
次に、本発明の第2の実施形態について説明する。本実施形態は、第1の実施形態と同様の構成(図1参照)からなるフォーム確認支援システムにおいて、第1の実施形態とは異なり、ユーザーが、ランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する作業を支援するための情報として、動画像ではなく静止画像を提供するものである。
(Second Embodiment)
Next, a second embodiment of the present invention will be described. Unlike the first embodiment, the present embodiment is different from the first embodiment in the form confirmation support system having the same configuration as that of the first embodiment (see FIG. 1), and the user selects a running person (person or other person). As information for supporting the operation of confirming whether the running form is good or bad using the captured moving image, a still image is provided instead of a moving image.

以下、本実施形態における情報端末1と支援サーバー2との動作について説明する。   Hereinafter, operations of the information terminal 1 and the support server 2 in the present embodiment will be described.

図6は、情報端末1における制御部11の処理内容を示すフローチャートである。本実施形態においても制御部11は、ユーザーに所望の動画像をユーザーに指定させて、フォームの確認対象とすべき動画像を特定し(ステップSA51)、支援サーバー2への接続を行い(ステップSA52)、確認対象の動画像のデータを支援サーバー2にアップロードする(ステップSA53)。その後、制御部11は、支援サーバー2から後述する確認用の静止画データ、及び解析結果データが受信できるまで待機する(ステップS54:NO)。   FIG. 6 is a flowchart showing the processing contents of the control unit 11 in the information terminal 1. Also in the present embodiment, the control unit 11 causes the user to specify a desired moving image, specifies a moving image that is to be a form confirmation target (step SA51), and connects to the support server 2 (step S51). (SA52), the moving image data to be confirmed is uploaded to the support server 2 (step SA53). Thereafter, the control unit 11 stands by until confirmation still image data and analysis result data described later can be received from the support server 2 (step S54: NO).

一方、図7は、その間の支援サーバー2における制御部21の処理内容を示すフローチャートである。本実施形態においても通信部22を介して制御部21は、情報端末1から動画データを受信した後(ステップSB51)、動画データにより表される動画像において被写体の各部位の動作を解析する(ステップSB52)。   On the other hand, FIG. 7 is a flowchart showing the processing contents of the control unit 21 in the support server 2 during that time. Also in the present embodiment, the control unit 21 receives the moving image data from the information terminal 1 via the communication unit 22 (step SB51), and then analyzes the operation of each part of the subject in the moving image represented by the moving image data ( Step SB52).

係る処理の詳細については第1の実施形態と同様であり、制御部21は、被写体の部位すなわちランナーの左右の足と手と判断できる各部位をそれぞれ検出し、検出した各部位における動画像内での位置の変化を取得する。すなわち各部位について、各部位の先端等のフレーム間で追跡に適した代表点を設定し、設定した代表点の座標位置を動画像のフレーム毎(数フレーム毎でもよい)に取得し、記憶部23に部位毎に記憶してデータベース化する。   The details of the processing are the same as in the first embodiment, and the control unit 21 detects each part of the subject, that is, each part that can be determined as the left and right feet and hands of the runner, and within the moving image in each detected part. Get the change in position at. That is, for each part, a representative point suitable for tracking is set between frames such as the tip of each part, the coordinate position of the set representative point is acquired for each frame (may be every several frames) of the moving image, and the storage unit 23 stores each part and creates a database.

次に、第1の実施形態とは異なり、制御部21は、記憶部23に記憶した各部位(代表点)の時間的な変化に基づいて、位置の変化が最も大きい特定の部位(代表点)のみを抽出する(ステップSB53)。   Next, unlike the first embodiment, the control unit 21 determines a specific part (representative point) having the largest position change based on a temporal change of each part (representative point) stored in the storage unit 23. ) Only (step SB53).

そして、制御部21は、位置の変化が最も大きい特定部位の位置の周期的な変化を確認することにより、動画像において時間位置が異なる複数位置のランナーの動作パターンを抽出する(ステップSB54)。その際、制御部21は、各動作パターンの開始時点のフレーム番号(時間位置)と、終了時点のフレーム番号(時間位置)とを取得し、記憶部23に記憶する。   And the control part 21 extracts the operation pattern of the runner of several positions from which a time position differs in a moving image by confirming the periodic change of the position of the specific site | part with the largest position change (step SB54). At that time, the control unit 21 acquires the frame number (time position) at the start time of each operation pattern and the frame number (time position) at the end time, and stores them in the storage unit 23.

さらに、本実施形態においては、ステップSB54の処理に際して制御部21は、各動作パターンにおける開始時点から終了時点までのフレーム期間における前記特定部位の特定タイミングでの位置を取得し、その位置と、特定タイミングのフレームのフレーム番号とを取得し、記憶部23に記憶する。特定タイミングは、各々の動作パターンにおいて左右の足や左右の手が往復移動している間に停止するタイミング、すなわち移動方向が逆転する瞬間のタイミングである2種類の位置の一方の位置である。   Furthermore, in the present embodiment, in the process of step SB54, the control unit 21 acquires the position at the specific timing of the specific part in the frame period from the start time to the end time in each operation pattern, and the position and the specific The frame number of the timing frame is acquired and stored in the storage unit 23. The specific timing is one of two types of positions that are timings when the left and right feet and left and right hands reciprocate in each motion pattern, that is, timings when the moving direction is reversed.

次に、制御部21は、前記動作パターンの平均周期、つまり各々の動作パターンにおける開始時点から終了時点までの動作時間の平均値を取得する(ステップSB55)。   Next, the control unit 21 obtains the average period of the operation patterns, that is, the average value of the operation time from the start time to the end time in each operation pattern (step SB55).

次に、制御部21は、ステップSB53の処理で抽出した特定部位について平均位置を取得する(ステップSB56)。この平均位置は、第1の実施形態と同様に、各々の動作パターンにおける特定部位の特定タイミングにおける平均的な位置である。なお、上記の動作パターンの平均周期、及び特定部位の平均位置は、動画像の全期間ではなく前半の期間のみを対象として取得してもよい。   Next, the control part 21 acquires an average position about the specific site | part extracted by the process of step SB53 (step SB56). This average position is an average position at a specific timing of a specific part in each operation pattern, as in the first embodiment. Note that the average period of the motion pattern and the average position of the specific part may be acquired only for the first half period, not the whole period of the moving image.

次に、制御部21は、ステップSB55の処理で取得した平均周期から基準動作パターンを特定する(ステップSB57)。本実施形態においても制御部21は、動画像に繰り返し表れる前記動作パターンのうちで、その周期(動作時間)が平均値に最も近い動作パターンを基準動作パターンとして特定する。   Next, the control unit 21 specifies a reference operation pattern from the average period acquired in the process of Step SB55 (Step SB57). Also in the present embodiment, the control unit 21 specifies, as a reference operation pattern, an operation pattern whose cycle (operation time) is closest to the average value among the operation patterns that appear repeatedly in the moving image.

次に、制御部21は、基準動作パターンの比較対象となる比較動作パターンの特定に使用する閾値を設定する(ステップSB58)。本実施形態においても制御部21は、閾値として第1の閾値と第2の閾値と設定する。第1の閾値は動作パターンの周期に関するものであり、前述した平均周期との差である。また、第2の閾値は位置の変化が最も大きい特定部位の特定タイミングの位置に関するものであり、前述した平均位置との差である。   Next, the control unit 21 sets a threshold value used for specifying the comparison operation pattern to be compared with the reference operation pattern (step SB58). Also in this embodiment, the control unit 21 sets the first threshold value and the second threshold value as threshold values. The first threshold value relates to the cycle of the operation pattern, and is a difference from the above-described average cycle. The second threshold is related to the position of the specific timing of the specific part where the position change is the largest, and is the difference from the above-described average position.

次に、制御部21は、基準動作パターン以外の動作パターンのうちで、上記の第1の閾値を超える動作パターン、及び第2の閾値を超える動作パターンをそれぞれ比較動作パターンとして特定する(ステップSB59)。   Next, the control unit 21 specifies, as comparison operation patterns, operation patterns exceeding the first threshold and operation patterns exceeding the second threshold among the operation patterns other than the reference operation pattern (step SB59). ).

なお、本実施形態においても、ステップSB58の処理においては、動作パターンの周期に関する第1の閾値として、平均周期との差ではなく、平均周期に対する所定の割合を設定することができる。また、位置の変化が最も大きい特定部位の特定タイミングの位置に関する第2の閾値として、平均位置との差ではなく、平均位置に対する所定の割合を設定することができる。   Also in this embodiment, in the process of step SB58, a predetermined ratio with respect to the average period can be set as the first threshold value regarding the period of the operation pattern, not the difference from the average period. In addition, as the second threshold value regarding the position at the specific timing of the specific part having the largest change in position, a predetermined ratio with respect to the average position can be set instead of the difference from the average position.

次に、制御部21は、確認対象の元の動画像から確認用の静止画データを生成する(ステップSB60)。係る処理に際して制御部21は、まず、元の動画像から、前述した基準動作パターン、及び比較動作パターン(1又は複数)について、各々の動作パターンに該当するフレーム区間で、位置の変化が最も大きい特定部位における前述した特定タイミングが該当するフレームの静止画像のデータを抽出する。次に、抽出した各動作パターンの静止画像から主たる被写体(ランナー)に相当する部分をそれぞれ切り出し、切り出した部分の静止画像のデータをマージすることにより確認用の静止画データを生成する。   Next, the control unit 21 generates confirmation still image data from the original moving image to be confirmed (step SB60). In such processing, the control unit 21 firstly changes the position of the reference motion pattern and the comparison motion pattern (one or more) from the original moving image in the frame section corresponding to each motion pattern. Data of a still image of a frame corresponding to the specific timing described above in the specific part is extracted. Next, portions corresponding to the main subject (runner) are cut out from the extracted still images of the respective motion patterns, and still image data for confirmation is generated by merging the still image data of the cut out portions.

しかる後、制御部21は、生成した静止画データを、基準動作パターン及び比較動作パターンに関する解析結果データと共に情報端末1へ送信する(ステップSB61)。   Thereafter, the control unit 21 transmits the generated still image data to the information terminal 1 together with the analysis result data regarding the reference motion pattern and the comparison motion pattern (step SB61).

本実施形態の解析結果データには、動画像における基準動作パターン及び比較動作パターン(1又は複数)の動作パターン毎の次のデータが含まれる。具体的なデータは、動画像における前述した被写体の特定部位における特定タイミングの時間位置を示すステップSB54で記憶したフレーム番号と、被写体の特定部位における特定タイミングでの位置(座標位置)である。   The analysis result data of the present embodiment includes the following data for each operation pattern of the reference operation pattern and the comparison operation pattern (one or more) in the moving image. The specific data is the frame number stored in step SB54 indicating the time position of the specific timing in the specific part of the subject in the moving image and the position (coordinate position) at the specific timing in the specific part of the subject.

つまり、制御部21は、確認対象の動画像における時間位置が異なる複数位置での動作パターンを、その周期(動作時間)及び被写体の所定部位(左右の足と手)の特定タイミングでの位置を観点として比較した結果として、確認用の静止画データと解析結果データとを情報端末1へ送信する。   That is, the control unit 21 determines the operation pattern at a plurality of positions with different time positions in the moving image to be confirmed, the cycle (operation time), and the position of the predetermined part (left and right feet and hands) of the subject at a specific timing. As a result of comparison as a viewpoint, the still image data for confirmation and the analysis result data are transmitted to the information terminal 1.

一方、図6に示したように情報端末1においては、支援サーバー2から前述した確認用の静止画データ及び解析結果データを受信すると(ステップSA54:YES)、通信部13を介して制御部11が受信した解析結果データに基づき、前述した基準動作パターン及び比較動作パターンを表す静止画を識別可能に表示するフォーム確認画面を表示部15に表示させる(ステップSA55)。   On the other hand, as shown in FIG. 6, when the information terminal 1 receives the confirmation still image data and analysis result data from the support server 2 (step SA54: YES), the control unit 11 via the communication unit 13 is received. Is displayed on the display unit 15 on the display unit 15 so that the still images representing the reference motion pattern and the comparison motion pattern described above can be identified (step SA55).

本実施形態においてもフォーム確認画面における双方の静止画の表示形態には、第1の実施形態と同様に並列表示と重畳表示との2つの表示形態がある。   Also in the present embodiment, there are two display forms of both still images on the form confirmation screen, that is, parallel display and superimposed display, as in the first embodiment.

図8(a)は、確認用の動画データ及び解析結果データを受信した直後に表示部15に表示される第5のフォーム確認画面G21を示した図である。   FIG. 8A is a diagram showing a fifth form confirmation screen G21 displayed on the display unit 15 immediately after receiving the confirmation moving image data and analysis result data.

図に示したように第5のフォーム確認画面G21は、画面の左側に基準動作パターンを表す基準画g21を配置し、画面の右側に比較動作パターンを表す比較画g22を配置するとともに、基準画g21と比較画g22と下方に位置ゲージg23を配置したものである。すなわち第5のフォーム確認画面G21における静止画の表示形態は並列表示である。   As shown in the figure, on the fifth form confirmation screen G21, the reference image g21 representing the reference operation pattern is arranged on the left side of the screen, the comparison image g22 representing the comparison operation pattern is arranged on the right side of the screen, and the reference image is displayed. The g21, the comparison image g22, and the position gauge g23 are arranged below. That is, the display form of the still image on the fifth form confirmation screen G21 is parallel display.

なお、基準動作パターン及び比較動作パターンの動画像は、既説したようにランナー部分のみの動画像である。また、第5のフォーム確認画面G21の表示開始当初における比較画g22は、比較動作パターンが複数であった場合には、確認対象である動画像内での時間位置が最先の比較動作パターンを表すものである。   Note that the moving images of the reference operation pattern and the comparison operation pattern are moving images of only the runner portion as described above. In addition, the comparison image g22 at the beginning of the display of the fifth form confirmation screen G21 shows the comparison operation pattern with the earliest time position in the moving image to be confirmed when there are a plurality of comparison operation patterns. It represents.

そして、第5のフォーム確認画面G21の表示に際して制御部11は、解析結果データに含まれる動作パターン毎の静止画におけるフレーム番号、つまり前述した被写体(ランナー)の特定部位の特定タイミングのフレーム番号に基づいて、確認対象の動画像内での時間位置を示す前記位置ゲージg23を画面上に表示させる。   When the fifth form confirmation screen G21 is displayed, the control unit 11 sets the frame number in the still image for each operation pattern included in the analysis result data, that is, the frame number at the specific timing of the specific part of the subject (runner) described above. Based on this, the position gauge g23 indicating the time position in the moving image to be confirmed is displayed on the screen.

なお、第5のフォーム確認画面G21の表示に際して制御部11は、図に示したように前記位置ゲージg23と共に、基準画g21と比較画g22における確認対象の動画像内での時間(先頭からの経過時間)及び動作パターンの周期もそれぞれ表示部15に表示させる。   When the fifth form confirmation screen G21 is displayed, the control unit 11 together with the position gauge g23, as shown in the figure, displays the time within the moving image to be confirmed in the reference image g21 and the comparison image g22 (from the beginning). Elapsed time) and the cycle of the operation pattern are also displayed on the display unit 15, respectively.

また、第5のフォーム確認画面G21の表示に際して制御部11は、前述した被写体(ランナー)の特定部位を示すマークg4を基準画g21及び比較画g22に重畳して表示させる。なお、図8(a)は、上記特定部位が被写体の足である場合の例である。   Further, when displaying the fifth form confirmation screen G21, the control unit 11 causes the above-described mark g4 indicating the specific part of the subject (runner) to be displayed superimposed on the reference image g21 and the comparison image g22. FIG. 8A shows an example in which the specific part is the foot of the subject.

また、上述した第5のフォーム確認画面G21を表示した後、制御部11は、ユーザーによる確認作業の終了を指示する終了操作の有無と、表示形態を切り換えるための表示切替操作の有無、送り操作の有無を逐次確認する(ステップSA56,SA57,SA59)。そして、制御部11は、第5のフォーム確認画面G21の表示後、ユーザーによって上記のいずれの操作も行われなければ(ステップSA59:NO)、第5のフォーム確認画面G21の表示を継続する。   Further, after displaying the above-described fifth form confirmation screen G21, the control unit 11 determines whether there is an end operation for instructing the user to end the confirmation work, whether there is a display switching operation for switching the display mode, and a sending operation. The presence or absence of this is sequentially confirmed (steps SA56, SA57, SA59). Then, after the fifth form confirmation screen G21 is displayed, the control unit 11 continues to display the fifth form confirmation screen G21 if any of the above operations is not performed by the user (step SA59: NO).

一方、制御部11は、ユーザーによる表示切替操作があった場合には(ステップSA57:YES)、前述した基準画g21と比較画g22との表示形態を並列表示から重畳表示に切り換えることにより、図8(b)に示した第6のフォーム確認画面G22を表示部15に表示させる(ステップSA58)。   On the other hand, when there is a display switching operation by the user (step SA57: YES), the control unit 11 switches the display form of the reference image g21 and the comparison image g22 from parallel display to superimposed display. The sixth form confirmation screen G22 shown in FIG. 8B is displayed on the display unit 15 (step SA58).

図に示したように第6のフォーム確認画面G22は、前述した基準画g21と比較画g22とを画面中央に重畳して表示させるとともに、その下方に前述した位置ゲージg23を配置したものである。また、係る第6のフォーム確認画面G22の表示に際しても、制御部11は、被写体の特定部位を示すマークg4を基準画g21と比較画g22とに重畳して表示させる。   As shown in the figure, the sixth form confirmation screen G22 displays the reference image g21 and the comparative image g22 superimposed on the center of the screen, and the position gauge g23 described above is arranged below the reference image g21. . Also, when displaying the sixth form confirmation screen G22, the control unit 11 causes the mark g4 indicating the specific part of the subject to be superimposed on the reference image g21 and the comparison image g22.

なお、図8(b)においては、便宜上、基準画g21の被写体部分を黒塗りで示し、かつ比較画g22の被写体部分を斜線で示したが、実際には、例えば被写体部分の色や輝度等を変えることによって基準画g21と比較画g22とを識別可能とする。また、ここでは基準動画g21の上に比較画g22を重ねた例を示したが、両者の上下関係は逆でもよい。   In FIG. 8B, for convenience, the subject portion of the reference image g21 is shown in black, and the subject portion of the comparative image g22 is shown in diagonal lines. Can be distinguished from the reference image g21 and the comparison image g22. Moreover, although the example which overlapped the comparison image g22 on the reference | standard moving image g21 was shown here, the up-and-down relationship of both may be reverse.

また、第6のフォーム確認画面G22を表示部15に表示させ状態において後には、ユーザーによる表示切替操作があれば(ステップSA57:YES)、制御部11は、第5のフォーム確認画面G21を再び表示部15に表示させる。   Further, in the state in which the sixth form confirmation screen G22 is displayed on the display unit 15, if there is a display switching operation by the user later (step SA57: YES), the control unit 11 displays the fifth form confirmation screen G21 again. It is displayed on the display unit 15.

そして、第5のフォーム確認画面G21や第6のフォーム確認画面G22を表示している間に、ユーザーによる送り操作があった場合には(ステップSA59:YES)、制御部11は、その時点で比較画g22として表示中の比較動作パターン以外の比較動作パターンがあるか否かを確認する(ステップSA60)。つまり確認用の静止画として他の比較動作パターンの静止画がマージされているか否かを確認する。   If the user performs a feeding operation while displaying the fifth form confirmation screen G21 or the sixth form confirmation screen G22 (step SA59: YES), the control unit 11 at that time It is checked whether there is a comparison operation pattern other than the comparison operation pattern being displayed as the comparison image g22 (step SA60). That is, it is confirmed whether or not still images of other comparison operation patterns are merged as confirmation still images.

そして、制御部11は、他の比較動作パターンがなければ(ステップSA60:NO)、第5のフォーム確認画面G21や第6のフォーム確認画面G22において、現在の比較画g22の表示を続行する。つまり何もしない。   If there is no other comparison operation pattern (step SA60: NO), the control unit 11 continues displaying the current comparison image g22 on the fifth form confirmation screen G21 and the sixth form confirmation screen G22. That is, do nothing.

一方、制御部11は、他の比較動作パターンがあれば(ステップSA60:YES)、動作パターンの送り表示を行う(ステップSA61)。すなわち、制御部11は、確認対象の動画像における時間位置が比較画g22として表示中の比較動作パターンの1つ後となる比較動作パターンの静止画像を新たな比較画g22として画面上に表示させる。   On the other hand, if there is another comparison operation pattern (step SA60: YES), the control unit 11 displays the operation pattern (step SA61). That is, the control unit 11 displays a still image of a comparison operation pattern whose time position in the moving image to be confirmed is one after the comparison operation pattern being displayed as the comparison image g22 on the screen as a new comparison image g22. .

なお、図6でも省略するがユーザーによる送り操作には、動作パターンを時間的に前の動作パターンに戻す操作が許容されており、送り操作が動作パターンを時間的に前の動作パターンに戻す操作であった場合、ステップSA61において制御部11は上記とは逆の処理を行う。すなわち、確認対象の動画像における時間位置が比較画g22として表示中の比較動作パターンの1つ前となる比較動作パターンの静止画を新たな比較画g22として画面上に表示させる。   Although omitted in FIG. 6, the user's feed operation is permitted to return the operation pattern to the previous operation pattern in time, and the feed operation returns the operation pattern to the previous operation pattern in time. If so, in step SA61, the control unit 11 performs the reverse process. That is, the still image of the comparison operation pattern whose time position in the moving image to be confirmed is the previous comparison operation pattern being displayed as the comparison image g22 is displayed on the screen as a new comparison image g22.

以後、制御部11は、ユーザーによる終了操作があるまでは(ステップSA56:NO)、前述したステップSA57からステップSA61の処理を繰り返し、ユーザーによる終了操作があれば(ステップSA56:YES)、その時点で全ての処理を終了する。   Thereafter, the control unit 11 repeats the above-described processing from step SA57 to step SA61 until there is an end operation by the user (step SA56: NO), and if there is an end operation by the user (step SA56: YES), at that time To finish all processing.

以上説明した本実施形態のフォーム確認支援システムにおいては、ユーザーがそれを用いてランニング中の人物(本人、又は他人)を撮影した動画像を用いてランニングフォームの善し悪し等を確認する際には、情報端末1に表示される第5,第6のフォーム確認画面G21,G22によって、ランニング中に繰り返し表れる動作パターンのうちで、基準となる基準動作パターンと、足や手といった部位の変化が大きい比較動作パターンのみを簡単に比較し確認することができる。   In the form confirmation support system of the present embodiment described above, when the user confirms whether the running form is good or bad using a moving image obtained by photographing a person who is running (the person or another person) using it, Of the motion patterns that appear repeatedly during running, the reference motion pattern that is the reference repeatedly compared to the reference motion pattern that is displayed during the running by the fifth and sixth form confirmation screens G21 and G22 displayed on the information terminal 1 is large. Only operation patterns can be easily compared and confirmed.

したがって、動画像を注意深く確認せずともトレーニング中におけるどの時点のフォームが良くてどの時点のフォームが悪いかを確認することができる。ランニングのように同一パターンの動作の繰り返しが多いスポーツについても、トレーニング中におけるフォームの確認作業を効率的に、かつ容易に行うことができる。   Therefore, it is possible to check which form is good and which form is bad during training without carefully checking the moving image. Even for sports such as running where there are many repetitions of the same pattern operation, the work of checking the form during training can be performed efficiently and easily.

特に、本実施形態においては、支援サーバー2が、確認対象の動画像において周期的に表れる被写体の要素から動作パターンとして抽出することにより、比較画g22とともに、足や手といった部位の変化が大きい比較動作パターンのみを示す比較画g22を表示することができ、フォームの確認作業に際して、トレーニング中に変化したより注目すべき動作パターンを効率的に確認することができる。   In particular, in the present embodiment, the support server 2 extracts a motion pattern from an element of a subject that appears periodically in a moving image to be confirmed, so that comparison with a comparison image g22 and changes in parts such as feet and hands is large. The comparison image g22 showing only the operation pattern can be displayed, and the operation pattern to be noticed that has changed during training can be efficiently confirmed during the confirmation of the form.

なお、本実施形態においても、第1の実施形態で説明した効果のうちで、基準動作パターンと比較動作パターンとを動画像として表すことにより生ずる効果以外については、第1の実施形態と同様に得ることができる。   In the present embodiment, among the effects described in the first embodiment, the same effects as those in the first embodiment are provided except for the effects caused by expressing the reference operation pattern and the comparison operation pattern as moving images. Can be obtained.

(変形例等)
以下、本実施形態の変形例等について説明する。すなわち以上説明した第1及び第2の本実施形態においては、確認対象の動画像に繰り返し表れる動作パターンのうちから基準動作パターン、及び比較動作パターンを自動的に特定したが以下のようにしてもよい。
(Modifications, etc.)
Hereinafter, modified examples of the present embodiment will be described. That is, in the first and second embodiments described above, the reference operation pattern and the comparison operation pattern are automatically specified from the operation patterns repeatedly appearing in the confirmation target moving image. Good.

例えば、基準動作パターンはユーザーにより指定された任意の時間位置の動作パターンとし、その基準動作パターンと他の動作パターンとの違いを比較することによって、比較動作パターンを自動的に特定するようにしてもよい。その場合には、ユーザーが任意に指定した動作パターンとの違いが大きい動作パターンを比較動作パターンとして自動的に設定させることができる。   For example, the reference operation pattern is an operation pattern at an arbitrary time position designated by the user, and the comparison operation pattern is automatically specified by comparing the difference between the reference operation pattern and another operation pattern. Also good. In that case, an operation pattern having a large difference from the operation pattern arbitrarily designated by the user can be automatically set as the comparison operation pattern.

また、第1及び第2の本実施形態においては、確認対象の動画像から基準動作パターンと1又は複数の比較動作パターンと抽出し、それらを確認対象の動画像における複数位置の動作パターンの比較結果として表示させる構成について説明した。   In the first and second embodiments, the reference motion pattern and one or more comparison motion patterns are extracted from the confirmation target moving image, and these are compared with the motion patterns at a plurality of positions in the confirmation target moving image. The configuration to be displayed as a result has been described.

しかし、本発明の実施に際しては、例えば確認対象の動画像における時間位置が相前後する一組の動作パターンを比較対象とするとともに、比較対象の各々の動作パターンを時間位置が次の動作パターンに順に変更しながら連続して比較を行うようにしてもよい。   However, in carrying out the present invention, for example, a set of operation patterns whose time positions in the moving image to be confirmed are used as comparison targets, and each operation pattern of the comparison target is set as the next operation pattern. You may make it compare continuously, changing in order.

その場合には、一組の動作パターンを表す画像(動画像又は静止画)を、それ自体を比較結果を示す形態で、又は比較結果を示す情報と共に連続的に画面上に並べて表示させることにより、同一パターンの動作の繰り返しが多いスポーツのトレーニング中におけるフォームの確認作業を効率的に、かつ容易に行うことができる。   In that case, by displaying an image (moving image or still image) representing a set of motion patterns in a form that indicates the comparison result or continuously on the screen together with information indicating the comparison result. Thus, it is possible to efficiently and easily check the form during the training of a sport where the operation of the same pattern is frequently repeated.

また、第1及び第2の本実施形態のように、基準動作パターン、及び比較動作パターンを表す画像(動画像又は静止画)を表示せずに、両者の差(周期や任意の部位の位置の差)のみをアドバイスとして表示或いは報知してもよい。   Further, as in the first and second embodiments, without displaying images (moving images or still images) representing the reference operation pattern and the comparison operation pattern, the difference between them (period and position of an arbitrary part) Only the difference) may be displayed or notified as advice.

また、確認対象の動画像に繰り返し表れる動作パターンの抽出には、例えば手や足につけた加速度センサー等の所定のセンサーを用い、動画像の撮影中におけるセンサーの検出値に基づいて動作パターンを抽出する構成としても構わない。その場合には、動作パターンの抽出を画像処理によって行う場合に比べ、支援サーバー2における動作パターンの抽出に要する処理負担を軽減することができる。   In addition, for extracting motion patterns that repeatedly appear in the moving image to be checked, for example, a predetermined sensor such as an acceleration sensor attached to the hand or foot is used, and the motion pattern is extracted based on the detection value of the sensor during shooting of the moving image. It does not matter as a structure to do. In this case, the processing load required for extracting the operation pattern in the support server 2 can be reduced as compared with the case where the operation pattern is extracted by image processing.

さらには、動作パターンの抽出を上記所定のセンサーと画像処理技術とを併用して行う構成としてもよい。その場合には、動作パターンの抽出精度を上げることができる。   Further, the operation pattern may be extracted by using both the predetermined sensor and the image processing technique. In that case, the extraction accuracy of the operation pattern can be increased.

また、第1及び第2の本実施形態とは異なり、支援サーバー2が生成した確認用の画像の表示に関する処理の一部(例えば動画再生処理等)を支援サーバー2に行わせ、情報端末1における画像の表示をWeb UI( ウェブユーザインターフェース)機能によって行うようにしてもよい。さらには、第1及び第2の本実施形態で説明した支援サーバー2の機能の全てを情報端末1のみによって実現させても構わない。   Also, unlike the first and second embodiments, the information server 1 causes the support server 2 to perform a part of the processing related to the display of the confirmation image generated by the support server 2 (for example, the moving image reproduction process). The image may be displayed by a Web UI (Web User Interface) function. Furthermore, all of the functions of the support server 2 described in the first and second embodiments may be realized only by the information terminal 1.

また、以上の説明においては、主として動画像を用いて確認するフォームがランニングフォームである場合について説明したが、本発明はランニングに限らず水泳のフォーム、さらにスポーツに限らずダンス等のフォームを確認する場合にも適用することができる。   Further, in the above description, the case where the form to be confirmed mainly using the moving image is the running form, but the present invention is not limited to running but also to a swimming form and further to a form such as dance not limited to sports. It can also be applied to.

以上、本発明のいくつかの実施形態、及びその変形例について説明したが、これらは本発明の作用効果が得られる範囲内であれば適宜変更が可能であり、変更後の実施形態も特許請求の範囲に記載された発明、及びその発明と均等の発明の範囲に含まれる。以下に、本出願の当初の特許請求の範囲に記載された発明を付記する。
[請求項1]
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を出力する出力手段と
を備えたことを特徴とするフォーム確認支援装置。
[請求項2]
前記比較手段は、前記抽出された動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較して、所定の条件を満たす動作パターンの時間位置を特定することを特徴とする請求項1記載のフォーム確認支援装置。
[請求項3]
前記所定の条件は、他の複数の動作パターンと前記所定の観点における類似性が高い或いは低いことであることを特徴とする請求項2記載のフォーム確認支援装置。
[請求項4]
前記比較手段は、前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較することを特徴とする請求項1乃至3いずれか1項に記載のフォーム確認支援装置。
[請求項5]
前記抽出手段は、前記動画像において被写体の周期的に表れる一連の動作を前記動作パターンとして抽出することを特徴とする請求項1乃至4いずれか1項に記載のフォーム確認支援装置。
[請求項6]
前記抽出手段は、前記動画像において被写体の周期的に表れる要素から前記動作パターンを抽出することを特徴とする請求項1乃至4いずれか1項に記載のフォーム確認支援装置。
[請求項7]
前記抽出手段は、被写体の所定部位における位置の変化の周期性を判別して前記動作パターンを抽出することを特徴とする請求項1乃至6のいずれか1項に記載のフォーム確認支援装置。
[請求項8]
前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定する請求項4乃至7いずれか1項に記載のフォーム確認支援装置。
[請求項9]
前記所定の基準は所定の基準値に基づくものであって、
前記所定の値が前記基準値から所定の閾値を超えた動作パターンを前記他の動作パターンとして特定することを特徴とする請求項8記載のフォーム確認支援装置。
[請求項10]
前記所定の値は被写体の一連の動作の動作時間であって、前記所定の基準は前記動作時間の平均値との差がより小さいことを特徴とする請求項8記載のフォーム確認支援装置。
[請求項11]
前記所定の値は被写体の所定部位の特定タイミングでの注目位置であって、前記所定の基準は前記注目位置の平均位置との差がより小さいことを特徴とする請求項8記載のフォーム確認支援装置。
[請求項12]
前記比較手段は、使用者により指定された任意の時間位置の動作パターンを前記基準となる動作パターンとして特定し、当該基準となる動作パターンと、それと時間位置が異なる他の動作パターンとの違いを比較することを特徴とする請求項5乃至8のいずれか1項に記載のフォーム確認支援装置。
[請求項13]
前記抽出手段は、前記動作パターンを画像処理技術を用いて抽出することを特徴とする請求項1乃至12のいずれか1項に記載のフォーム確認支援装置。
[請求項14]
前記抽出手段は、前記動作パターンを、被写体の所定の部位に装着された検出手段によって前記動画像の撮影中に検出された前記所定の部位の位置変化を示す位置変化情報に基づき抽出することを特徴とする請求項1乃至13のいずれか1項に記載のフォーム確認支援装置。
[請求項15]
前記比較手段は、前記複数位置での動作パターンを、前記時間位置が相前後する一組の動作パターンを比較対象とし、比較対象の各々の動作パターンを前記時間位置が次の動作パターンに順に変更しながら比較することを特徴とする請求項1乃至14のいずれか1項に記載のフォーム確認支援装置。
[請求項16]
前記出力手段における比較結果の出力形態は、画面上における、前記時間位置が異なる一組の動作パターンの各々の画像の識別可能な表示であることを特徴とする請求項1乃至15のいずれか1項に記載のフォーム確認支援装置。
[請求項17]
前記出力手段における比較結果の出力形態は、前記一組の動作パターンの動画像を画面上に並べて表示するものであることを特徴とする請求項16記載のフォーム確認支援装置。
[請求項18]
前記出力手段における比較結果の出力形態は、前記一組の動作パターンの動画像を画面上に重ねて表示させるものであることを特徴とする請求項16記載のフォーム確認支援装置。
[請求項19]
前記出力手段における比較結果の出力形態は、画面上における前記一組の動作パターンの各々の画像の識別可能な表示に際し、前記一組の動作パターンのいずれか一方における被写体の一連の動作の動作時間を、前記一組の動作パターンのいずれか他方における被写体の一連の動作の動作時間と一致させる調整を伴うものであることを特徴とする請求項16乃至18のいずれか1項に記載のフォーム確認支援装置。
[請求項20]
前記出力手段は、前記比較手段による比較結果として、前記時間位置が異なる一組の動作パターンの差を表す差分情報を出力することを特徴とする請求項1乃至15のいずれか1項に記載のフォーム確認支援装置。
[請求項21]
前記出力手段は、前記差分情報として、前記一組の動作パターンにおける前記一連の動作の動作時間の差を表す情報を出力することを特徴とする請求項20記載のフォーム確認支援装置。
[請求項22]
前記出力手段は、前記差分情報として、前記一組の動作パターンにおける前記一連の動作における被写体の部位のうち決められたタイミングでの位置の差が基準以上である部位に関する位置の差を示す情報を出力することを特徴とする請求項20記載のフォーム確認支援装置。
[請求項23]
前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とする請求項1乃至19のいずれか1項に記載のフォーム確認支援装置。
[請求項24]
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出工程と、
前記抽出工程により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較工程と、
前記比較工程による比較結果を出力する出力工程と
を含むことを特徴とするフォーム確認支援方法。
[請求項25]
コンピュータに、
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手順と、
前記抽出手順により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手順と、
前記比較手順による比較結果を出力する出力手順と
を実行させることを特徴とするプログラム。
[請求項26]
情報端末と、当該情報端末が接続される支援サーバーとからなるフォーム確認支援システムであって、
前記支援サーバーは、
前記情報端末から転送された動画像を取得する取得手段と、
前記取得手段により取得された動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を前記情報端末へ提供する提供手段と
を備え、
前記情報端末は、
前記支援サーバーへ前記動画像を転送する転送手段と、
前記支援サーバーから提供された前記比較結果を出力する出力手段と
を備えた
ことを特徴とするフォーム確認支援システム。
As mentioned above, although several embodiment of this invention and its modification were demonstrated, if these are in the range in which the effect of this invention is acquired, it can change suitably, and embodiment after change is also a claim. It is included in the scope of the invention described in the scope of the invention and the invention equivalent to the invention. The invention described in the scope of the claims of the present application will be appended below.
[Claim 1]
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
Comparison means for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means from a predetermined viewpoint;
An output means for outputting a comparison result by the comparison means.
[Claim 2]
The comparing means compares motion patterns at a plurality of positions having different time positions in the extracted moving image from a predetermined viewpoint, and identifies a time position of an operation pattern that satisfies a predetermined condition. Item 1. A form confirmation support apparatus according to Item 1.
[Claim 3]
The form confirmation support apparatus according to claim 2, wherein the predetermined condition is high or low similarity in the predetermined point of view with another plurality of operation patterns.
[Claim 4]
The comparison unit specifies a reference operation pattern from the operation patterns at a plurality of positions extracted by the extraction unit, and compares the reference operation pattern with an operation pattern at another plurality of positions. The form confirmation support apparatus according to any one of claims 1 to 3.
[Claim 5]
5. The form confirmation support apparatus according to claim 1, wherein the extraction unit extracts a series of motions of a subject periodically appearing in the moving image as the motion patterns. 6.
[Claim 6]
5. The form confirmation support apparatus according to claim 1, wherein the extraction unit extracts the motion pattern from an element that periodically appears in the moving image. 6.
[Claim 7]
The form confirmation support apparatus according to any one of claims 1 to 6, wherein the extraction unit determines the periodicity of a change in position of a subject at a predetermined part and extracts the operation pattern.
[Claim 8]
The said comparison means specifies the operation pattern used as the said reference according to the predetermined value in each operation pattern and the predetermined reference | standard regarding the said value from the operation pattern in the said several position. Form confirmation support device.
[Claim 9]
The predetermined standard is based on a predetermined standard value,
9. The form confirmation support apparatus according to claim 8, wherein an operation pattern in which the predetermined value exceeds a predetermined threshold from the reference value is specified as the other operation pattern.
[Claim 10]
9. The form confirmation support apparatus according to claim 8, wherein the predetermined value is an operation time of a series of movements of an object, and the difference between the predetermined reference and an average value of the operation times is smaller.
[Claim 11]
9. The form confirmation support according to claim 8, wherein the predetermined value is an attention position at a specific timing of a predetermined part of the subject, and the difference between the predetermined reference and the average position of the attention position is smaller. apparatus.
[Claim 12]
The comparison means specifies an operation pattern at an arbitrary time position designated by the user as the reference operation pattern, and determines a difference between the reference operation pattern and another operation pattern having a different time position. The form confirmation support apparatus according to any one of claims 5 to 8, wherein comparison is performed.
[Claim 13]
The form confirmation support apparatus according to claim 1, wherein the extraction unit extracts the operation pattern using an image processing technique.
[Claim 14]
The extraction means extracts the motion pattern based on position change information indicating a change in position of the predetermined part detected during imaging of the moving image by a detection means attached to the predetermined part of the subject. The form confirmation support apparatus according to claim 1, wherein the form confirmation support apparatus is characterized in that
[Claim 15]
The comparison means takes the operation pattern at the plurality of positions as a comparison target with a set of operation patterns whose time positions are in succession, and sequentially changes each operation pattern of the comparison target to the next operation pattern at the time position. The form confirmation support apparatus according to any one of claims 1 to 14, wherein the comparison is performed while comparing.
[Claim 16]
The output form of the comparison result in the output means is an identifiable display of each image of a set of operation patterns having different time positions on the screen. Form confirmation support device according to item.
[Claim 17]
The form confirmation support apparatus according to claim 16, wherein the output form of the comparison result in the output means is to display the moving images of the set of operation patterns side by side on a screen.
[Claim 18]
The form confirmation support apparatus according to claim 16, wherein the output form of the comparison result in the output means is to display the moving images of the set of operation patterns superimposed on a screen.
[Claim 19]
The output form of the comparison result in the output means is an operation time of a series of movements of the subject in any one of the set of operation patterns when displaying each image of the set of operation patterns on the screen. The form confirmation according to any one of claims 16 to 18, characterized in that an adjustment is made to coincide with an operation time of a series of movements of a subject in any one of the set of operation patterns. Support device.
[Claim 20]
The said output means outputs the difference information showing the difference of a set of operation | movement patterns from which the said time position differs as a comparison result by the said comparison means, The any one of Claims 1 thru | or 15 characterized by the above-mentioned. Form confirmation support device.
[Claim 21]
21. The form confirmation support apparatus according to claim 20, wherein the output unit outputs information indicating a difference in operation time of the series of operations in the set of operation patterns as the difference information.
[Claim 22]
The output means includes, as the difference information, information indicating a position difference related to a part where a position difference at a determined timing among the parts of the subject in the series of motions in the set of motion patterns is greater than or equal to a reference. The form confirmation support apparatus according to claim 20, wherein the form confirmation support apparatus outputs the form confirmation function.
[Claim 23]
The output form of the comparison result in the output means is displayed on the screen so that the time position between the reference operation pattern among the operation patterns extracted by the extraction means and the operation pattern other than the operation pattern can be identified on the screen. The form confirmation support apparatus according to any one of claims 1 to 19, wherein the form confirmation support apparatus is configured to cause a problem.
[Claim 24]
In the moving image, an extraction step of extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison step of comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction step from a predetermined viewpoint;
An output step of outputting a comparison result of the comparison step.
[Claim 25]
On the computer,
In a moving image, an extraction procedure for extracting an operation pattern in which a subject repeatedly appears in the moving image;
A comparison procedure for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction procedure from a predetermined viewpoint;
An output procedure for outputting a comparison result according to the comparison procedure.
[Claim 26]
A form confirmation support system comprising an information terminal and a support server to which the information terminal is connected,
The support server
Obtaining means for obtaining a moving image transferred from the information terminal;
Extraction means for extracting an action pattern in which a subject repeatedly appears in the moving image acquired by the acquisition means;
Comparison means for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means from a predetermined viewpoint;
Providing means for providing the information terminal with a comparison result by the comparing means;
The information terminal
Transfer means for transferring the moving image to the support server;
An output means for outputting the comparison result provided from the support server. A form confirmation support system, comprising:

1 情報端末
11 制御部
12 撮像部
13 通信部
14 記憶部
15 表示部
16 電源部
17 操作部
2 支援サーバー
21 制御部
22 通信部
23 記憶部
24 画像処理部
100 ネットワーク
G1 第1のフォーム確認画面
G2 第2のフォーム確認画面
G3 第3のフォーム確認画面
G4 第4のフォーム確認画面
G21 第5のフォーム確認画面
G22 第6のフォーム確認画面
g1 動画像
g2 比較動画
g3 位置ゲージ
g4 マーク
g21 基準画像
g22 比較画像
g23 位置ゲージ
DESCRIPTION OF SYMBOLS 1 Information terminal 11 Control part 12 Imaging part 13 Communication part 14 Storage part 15 Display part 16 Power supply part 17 Operation part 2 Support server 21 Control part 22 Communication part 23 Storage part 24 Image processing part 100 Network G1 1st form confirmation screen G2 2nd form confirmation screen G3 3rd form confirmation screen G4 4th form confirmation screen G21 5th form confirmation screen G22 6th form confirmation screen g1 moving image g2 comparative video g3 position gauge g4 mark g21 reference image g22 comparison Image g23 Position gauge

Claims (11)

動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較手段と、
前記比較手段による比較結果を出力する出力手段と、
を備え、
前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定することを特徴とする動画像比較装置。
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison unit that identifies a reference operation pattern from operation patterns at a plurality of positions extracted by the extraction unit, and compares the reference operation pattern with an operation pattern at another plurality of positions;
Output means for outputting a comparison result by the comparison means;
With
The moving image comparison apparatus characterized in that the comparison means identifies the reference operation pattern according to a predetermined value in each operation pattern and a predetermined reference regarding the value from the operation patterns at the plurality of positions.
前記所定の基準は所定の基準値に基づくものであって、
前記所定の値が前記基準値から所定の閾値を超えた動作パターンを前記他の動作パターンとして特定することを特徴とする請求項1記載の動画像比較装置。
The predetermined standard is based on a predetermined standard value,
The moving image comparison apparatus according to claim 1, wherein an operation pattern in which the predetermined value exceeds a predetermined threshold value from the reference value is specified as the other operation pattern.
前記所定の値は被写体の一連の動作の動作時間であって、前記所定の基準は前記動作時間の平均値との差がより小さいことを特徴とする請求項1記載の動画像比較装置。   The moving image comparison apparatus according to claim 1, wherein the predetermined value is an operation time of a series of movements of a subject, and the predetermined reference has a smaller difference from an average value of the operation times. 前記所定の値は被写体の所定部位の特定タイミングでの注目位置であって、前記所定の基準は前記注目位置の平均位置との差がより小さいことを特徴とする請求項1記載の動画像比較装置。   The moving image comparison according to claim 1, wherein the predetermined value is a target position at a specific timing of a predetermined part of the subject, and the predetermined reference has a smaller difference from an average position of the target position. apparatus. 動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を出力する出力手段と、
を備え、
前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とする動画像比較装置。
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
Comparison means for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means from a predetermined viewpoint;
Output means for outputting a comparison result by the comparison means;
With
The output form of the comparison result in the output means is displayed on the screen so that the time position between the reference operation pattern among the operation patterns extracted by the extraction means and the operation pattern other than the operation pattern can be identified on the screen. A moving image comparison apparatus characterized by that.
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出工程と、
前記抽出工程により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較工程と、
前記比較工程による比較結果を出力する出力工程と、
を含み、
前記比較工程は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定することを特徴とする動画像比較方法。
In the moving image, an extraction step of extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison step of identifying a reference operation pattern from the operation patterns at a plurality of positions extracted by the extraction step, and comparing the reference operation pattern with an operation pattern at another plurality of positions;
An output step of outputting a comparison result by the comparison step;
Including
The moving image comparison method characterized in that the comparison step specifies the reference operation pattern according to a predetermined value in each operation pattern and a predetermined reference regarding the value from the operation patterns at the plurality of positions.
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出工程と、
前記抽出工程により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較工程と、
前記比較工程による比較結果を出力する出力工程と、
を含み、
前記出力工程における比較結果の出力形態は、前記抽出工程により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とする動画像比較方法。
In the moving image, an extraction step of extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison step of comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction step from a predetermined viewpoint;
An output step of outputting a comparison result by the comparison step;
Including
The output form of the comparison result in the output step is such that the time position between the reference operation pattern among the operation patterns extracted in the extraction step and the operation pattern other than the operation pattern can be identified on the screen. A moving image comparison method, characterized in that:
コンピュータに、
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較手段と、
前記比較手段による比較結果を出力する出力手段と、
を実行させるプログラムであって、
前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定することを特徴とするプログラム。
On the computer,
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison unit that identifies a reference operation pattern from operation patterns at a plurality of positions extracted by the extraction unit, and compares the reference operation pattern with an operation pattern at another plurality of positions;
Output means for outputting a comparison result by the comparison means;
A program for executing
The comparison means identifies a reference operation pattern according to a predetermined value in each operation pattern and a predetermined reference relating to the value from the operation patterns at the plurality of positions.
コンピュータに、
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を出力する出力手段と、
を実行させるプログラムであって、
前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものであることを特徴とするプログラム。
On the computer,
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
Comparison means for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means from a predetermined viewpoint;
Output means for outputting a comparison result by the comparison means;
A program for executing
The output form of the comparison result in the output means is displayed on the screen so that the time position between the reference operation pattern among the operation patterns extracted by the extraction means and the operation pattern other than the operation pattern can be identified on the screen. A program characterized by what is to be made.
情報端末と、当該情報端末が接続されるサーバーとからなる動画像比較システムであって、
前記サーバーは、
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された複数位置での動作パターンから基準となる動作パターンを特定し、当該基準となる動作パターンと他の複数位置での動作パターンとを比較する比較手段と、
前記比較手段による比較結果を前記情報端末へ提供する提供手段と、
を備え、
前記比較手段は、前記複数位置での動作パターンから、各動作パターンにおける所定の値と、当該値に関する所定の基準に従い前記基準となる動作パターンを特定し、
前記情報端末は、
前記サーバーへ前記動画像を転送する転送手段と、
前記サーバーから提供された前記比較結果を出力する出力手段と、
を備えた、
ことを特徴とする動画像比較システム。
A moving image comparison system comprising an information terminal and a server to which the information terminal is connected,
The server
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
A comparison unit that identifies a reference operation pattern from operation patterns at a plurality of positions extracted by the extraction unit, and compares the reference operation pattern with an operation pattern at another plurality of positions;
Providing means for providing the information terminal with a comparison result by the comparing means;
With
The comparison means identifies the reference operation pattern according to a predetermined value in each operation pattern and a predetermined reference related to the value from the operation patterns at the plurality of positions,
The information terminal
Transfer means for transferring the moving image to the server;
Output means for outputting the comparison result provided from the server;
With
A moving image comparison system characterized by this.
情報端末と、当該情報端末が接続されるサーバーとからなる動画像比較システムであって、
前記サーバーは、
動画像において、当該動画像に被写体の繰り返し表れる動作パターンを抽出する抽出手段と、
前記抽出手段により抽出された前記動画像における時間位置が異なる複数位置での動作パターンを所定の観点で比較する比較手段と、
前記比較手段による比較結果を前記情報端末へ提供する提供手段と、
を備え、
前記情報端末は、
前記サーバーへ前記動画像を転送する転送手段と、
前記サーバーから提供された前記比較結果を出力する出力手段と、
を備え、
前記出力手段における比較結果の出力形態は、前記抽出手段により抽出された動作パターンのうちで基準となる動作パターンと、当該動作パターン以外の動作パターンとの前記時間位置を画面上に識別可能に表示させるものである、
ことを特徴とする動画像比較システム。
A moving image comparison system comprising an information terminal and a server to which the information terminal is connected,
The server
In the moving image, extraction means for extracting an operation pattern in which the subject repeatedly appears in the moving image;
Comparison means for comparing operation patterns at a plurality of positions at different time positions in the moving image extracted by the extraction means from a predetermined viewpoint;
Providing means for providing the information terminal with a comparison result by the comparing means;
With
The information terminal
Transfer means for transferring the moving image to the server;
Output means for outputting the comparison result provided from the server;
With
The output form of the comparison result in the output means is displayed on the screen so that the time position between the reference operation pattern among the operation patterns extracted by the extraction means and the operation pattern other than the operation pattern can be identified on the screen. Is what
A moving image comparison system characterized by this.
JP2017151657A 2017-08-04 2017-08-04 Moving image comparison apparatus, method and program thereof, and moving image comparison system Expired - Fee Related JP6354897B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017151657A JP6354897B2 (en) 2017-08-04 2017-08-04 Moving image comparison apparatus, method and program thereof, and moving image comparison system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017151657A JP6354897B2 (en) 2017-08-04 2017-08-04 Moving image comparison apparatus, method and program thereof, and moving image comparison system

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013136056A Division JP2015012434A (en) 2013-06-28 2013-06-28 Form confirmation support device, method and program and form confirmation support system

Publications (2)

Publication Number Publication Date
JP2017229081A true JP2017229081A (en) 2017-12-28
JP6354897B2 JP6354897B2 (en) 2018-07-11

Family

ID=60892022

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017151657A Expired - Fee Related JP6354897B2 (en) 2017-08-04 2017-08-04 Moving image comparison apparatus, method and program thereof, and moving image comparison system

Country Status (1)

Country Link
JP (1) JP6354897B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108853953A (en) * 2018-09-03 2018-11-23 合肥智慧龙图腾知识产权股份有限公司 A kind of shape up exercise method, apparatus, system, computer equipment and storage medium
JP2020145500A (en) * 2019-03-04 2020-09-10 株式会社 ディー・エヌ・エー System, method, program, and apparatus for verifying predetermined motion by person
WO2021192143A1 (en) * 2020-03-26 2021-09-30 ソニーグループ株式会社 Information processing method, information processing device, and information processing system
WO2023157500A1 (en) * 2022-02-18 2023-08-24 パナソニックIpマネジメント株式会社 Video editing method, video editing device, and display system

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001000420A (en) * 1999-06-16 2001-01-09 Hitachi Plant Eng & Constr Co Ltd Apparatus and method for evaluation of achievement of target
JP2009034360A (en) * 2007-08-02 2009-02-19 Ntt Gp Eco Communication Inc Training system, and apparatus for the same
JP2013066696A (en) * 2011-09-06 2013-04-18 Gifu Univ Image processing system and image processing method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001000420A (en) * 1999-06-16 2001-01-09 Hitachi Plant Eng & Constr Co Ltd Apparatus and method for evaluation of achievement of target
JP2009034360A (en) * 2007-08-02 2009-02-19 Ntt Gp Eco Communication Inc Training system, and apparatus for the same
JP2013066696A (en) * 2011-09-06 2013-04-18 Gifu Univ Image processing system and image processing method

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108853953A (en) * 2018-09-03 2018-11-23 合肥智慧龙图腾知识产权股份有限公司 A kind of shape up exercise method, apparatus, system, computer equipment and storage medium
JP2020145500A (en) * 2019-03-04 2020-09-10 株式会社 ディー・エヌ・エー System, method, program, and apparatus for verifying predetermined motion by person
JP7258603B2 (en) 2019-03-04 2023-04-17 株式会社 ディー・エヌ・エー Systems, methods, programs, and devices for verifying predetermined actions by humans
WO2021192143A1 (en) * 2020-03-26 2021-09-30 ソニーグループ株式会社 Information processing method, information processing device, and information processing system
WO2023157500A1 (en) * 2022-02-18 2023-08-24 パナソニックIpマネジメント株式会社 Video editing method, video editing device, and display system

Also Published As

Publication number Publication date
JP6354897B2 (en) 2018-07-11

Similar Documents

Publication Publication Date Title
JP6354897B2 (en) Moving image comparison apparatus, method and program thereof, and moving image comparison system
KR101062502B1 (en) Image pickup device having a panning mode for picking up panning images
JP5988563B2 (en) Image processing apparatus, image processing apparatus control method and program, information processing apparatus and information processing apparatus control method, and program
JP5473551B2 (en) Auto focus system
JP6726931B2 (en) Image processing apparatus and method, and image processing system
JP2009075685A (en) Image processor, image processing method, and program
JP2015112429A (en) Image processor
JP5874626B2 (en) Display control apparatus, display control system, display control method, and program
WO2015178133A1 (en) Wireless endoscope system, endoscope, display device, image transmission method, image display method, and program
KR20170026376A (en) Information processing apparatus, information processing method, and program
JP4929631B2 (en) Image generating apparatus and image generating method
US20140307150A1 (en) Imaging device, focus adjustment system, focus instruction device, and focus adjustment method
JP2017064120A (en) Information processor and system
JP2014127735A (en) Display control device, display control system, display control method, and program
US10057477B2 (en) Imaging device, imaging system, communication device, imaging method, and computer readable recording medium for generating and transmitting superimposed image data
JP2015012434A (en) Form confirmation support device, method and program and form confirmation support system
JP5955170B2 (en) Display control apparatus, display control method, and program
JP5790858B2 (en) Image composition apparatus, image composition method, and program
JP6444582B2 (en) Information display control device, display mode switching processing program, and display mode switching processing system
JP2006018384A (en) Imaging device and image processing method
JP2015053020A (en) Information display device, information display method, and program
CN107682620A (en) Camera device, screening-mode control method and recording medium
JPWO2014034137A1 (en) Image processing apparatus, image processing method, and image processing program
JP7247136B2 (en) Image processing device, image processing method, and image processing program
JP2014030069A (en) Image selection device, image selection method, and program

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180409

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180515

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180528

R150 Certificate of patent or registration of utility model

Ref document number: 6354897

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees