JP2008022142A - Method, apparatus and program for detecting pitching event, and computer-readable recording medium - Google Patents

Method, apparatus and program for detecting pitching event, and computer-readable recording medium Download PDF

Info

Publication number
JP2008022142A
JP2008022142A JP2006190576A JP2006190576A JP2008022142A JP 2008022142 A JP2008022142 A JP 2008022142A JP 2006190576 A JP2006190576 A JP 2006190576A JP 2006190576 A JP2006190576 A JP 2006190576A JP 2008022142 A JP2008022142 A JP 2008022142A
Authority
JP
Japan
Prior art keywords
pitching
event
motion feature
motion
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006190576A
Other languages
Japanese (ja)
Inventor
Dan Mikami
弾 三上
Shozo Azuma
正造 東
Masashi Morimoto
正志 森本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2006190576A priority Critical patent/JP2008022142A/en
Publication of JP2008022142A publication Critical patent/JP2008022142A/en
Pending legal-status Critical Current

Links

Abstract

<P>PROBLEM TO BE SOLVED: To dispense with division of a video image into segments of one pitcher in detecting a pitching event of pitchers from the video image of a baseball game. <P>SOLUTION: The pitching event detection method acquires pitching event candidates including time information, extracts an operation characteristic of the video image, uses the time information of the pitching event candidates to select operations of the pitching event candidates on the basis of the operation characteristics, establishes a limited segment width and how to move the limited segment width, extracts pitching operation characteristics within all the established limited segment widths, determines the pitching operation characteristics utilized by a media time on the basis of the pitching operation characteristics, uses the pitching operation characteristics and the operation characteristics to discriminate whether or not a motion is a pitching operation, and outputs an event of the pitching operation when the motion is the pitching operation. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、投球イベント検出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体に係り、特に、映像コンテンツ処理技術における音響と画像とのマルチモーダル処理技術を用いて、野球映像から投手の投球部分(投球イベント)を検出するための投球イベント検出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体に関する。   The present invention relates to a pitching event detection method and apparatus, a program, and a computer-readable recording medium, and more particularly, a pitching part (from a baseball video) using a multimodal processing technology of sound and images in video content processing technology. The present invention relates to a pitching event detection method and apparatus for detecting a pitching event), a program, and a computer-readable recording medium.

野球映像から投球を検出する第1の従来技術として、映像中の緑色領域の検出や褐色領域の検出を行って、投手が投球するときの構図を検出することによって、投球イベントの特定を行う技術がある(例えば、特許文献1参照)。   As a first conventional technique for detecting a pitch from a baseball video, a technique for identifying a pitch event by detecting a green area or a brown area in the video and detecting a composition when the pitcher throws (For example, refer to Patent Document 1).

また、第2の従来技術として、構図ではなく、音響解析と画像解析を協調的に利用することにより、ユニモーダルの解析に比べて、高精度に投手の投球部分を検出する手法も提案されている(例えば、非特許文献1参照)。
特開2003−52003号公報 三上弾、紺谷精一、森本正志「突発音検出と教師なしクラスタリングを用いた野球映像からの投球イベント検出」PRMU2004-139, pp.31-36
In addition, as a second conventional technique, a technique for detecting a pitcher's pitching portion with higher accuracy than unimodal analysis by using acoustic analysis and image analysis cooperatively instead of composition has been proposed. (For example, refer nonpatent literature 1).
JP 2003-52003 A Amami Mikami, Seiichi Sugaya, Masashi Morimoto “Throwing event detection from baseball video using sudden sound detection and unsupervised clustering” PRMU2004-139, pp.31-36

しかしながら、第1の従来の方法では、グランドの状況やその試合の照明状況(ディゲーム、ナイトゲーム)などに合わせた網羅的なテンプレートを事前に作成する必要がある。   However, in the first conventional method, it is necessary to create an exhaustive template in advance according to the ground situation and the lighting situation (digame, night game) of the game.

一方、第2の従来の方法は、映像に合わせて自動的に投球動作のテンプレートを作成することができるが、投手の変更に対応できないため、野球映像を1投手区間に区切ってから入力しなければならない、という欠点がある。   On the other hand, the second conventional method can automatically create a pitching action template according to the video, but it cannot respond to the change of the pitcher, so the baseball video must be input after dividing it into one pitcher section. There is a disadvantage that it must be.

本発明は、上記の点に鑑みなされたもので、野球映像から投手の投球部分(以降、投球イベントと記す)の検出において、時間的な自動分割を行うことにより、動的に投球動作特徴を取得することで、野球映像を投手毎に分割することなく入力可能とする投球イベント検出方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体を提供することを目的とする。   The present invention has been made in view of the above points. In the detection of a pitcher's pitching portion (hereinafter referred to as a pitching event) from a baseball video, the pitching operation characteristics are dynamically obtained by performing automatic temporal division. It is an object of the present invention to provide a pitching event detection method and apparatus, a program, and a computer-readable recording medium that can acquire a baseball video without being divided for each pitcher.

図1は、本発明の原理を説明するための図である。   FIG. 1 is a diagram for explaining the principle of the present invention.

本発明(請求項1)は、野球映像から投手の投球部分(投球イベント)を検出するための投球イベント検出方法であって、
投球イベント候補取得手段が、時刻情報を含む投球イベント候補を取得し、投球候補イベント記憶手段に格納する投球イベント候補取得ステップ(ステップ1)と、
動作特徴抽出手段が、映像の動作特徴を抽出する動作特徴抽出ステップ(ステップ2)と、
投球イベント候補動作特徴選択手段が、投球候補イベント記憶手段に記憶されている投球イベント候補の時刻情報と、動作特徴抽出ステップ(ステップ2)で抽出された動作特徴とを用いて、該投球候補イベント記憶手段の投球イベント候補の動作を選択する投球イベント候補動作特徴選択ステップ(ステップ3)と、
限定区間設定手段が、限定区間幅及び該限定区間幅の動かし方を決定する限定区間設定ステップ(ステップ4)と、
区間内投球動作特徴取得手段が、投球イベント候補動作特徴選択ステップで選択された前記投球イベント候補の動作から、限定区間設定ステップで設定された全ての限定区間内における投球動作特徴を抽出し、投球動作特徴記憶手段に格納する区間内投球動作特徴取得ステップ(ステップ5)と、
投球動作特徴選択手段が、投球動作特徴記憶手段に格納されている投球動作特徴からメディアタイムTによって利用する投球動作特徴を決定する投球動作特徴選択ステップ(ステップ6)と、
判定手段が、投球動作特徴選択ステップ(ステップ6)で選択された投球動作特徴を用いて、メディアタイムTに動作特徴抽出ステップ(ステップ2)で抽出された動作特徴について、投球動作か否かの判定を行い、投球動作である場合には、該投球動作のイベントを出力する判定ステップ(ステップ7)と、を行う。
The present invention (Claim 1) is a pitching event detection method for detecting a pitcher's pitching portion (throwing event) from a baseball video,
A pitching event candidate acquisition unit acquires a pitching event candidate including time information and stores it in a pitching candidate event storage unit (step 1);
A motion feature extraction step (step 2) in which the motion feature extraction means extracts the motion feature of the video;
The pitching event candidate motion feature selection means uses the pitch event candidate time information stored in the pitching candidate event storage means and the motion feature extracted in the motion feature extraction step (step 2), and A pitching event candidate motion feature selection step (step 3) for selecting a pitching event candidate motion in the storage means;
A limited section setting means for determining a limited section width and how to move the limited section width (step 4);
The in-sector pitching motion feature acquisition means extracts the pitching motion features in all the limited zones set in the limited zone setting step from the pitch event candidate motions selected in the pitch event candidate motion feature selection step. An intra-section pitching motion feature acquisition step (step 5) stored in the motion feature storage means;
A pitching motion feature selection step (step 6) in which the pitching motion feature selection means determines the pitching motion feature to be used by the media time T from the pitching motion feature stored in the pitching motion feature storage means
The determination means uses the pitching motion feature selected in the pitching motion feature selection step (step 6) to determine whether or not the motion feature extracted in the motion feature extraction step (step 2) at the media time T is a pitching motion. If it is a pitching operation, a determination step (step 7) for outputting an event of the pitching operation is performed.

また、本発明(請求項2)は、投球イベント候補取得ステップ(ステップ1)において、
投球イベント候補を取得する際に、突発音を用いる。
Further, the present invention (Claim 2) provides a pitch event candidate acquisition step (Step 1).
Sudden pronunciation is used when acquiring pitching event candidates.

また、本発明(請求項3)は、動作特徴抽出ステップ(ステップ2)において、
動作特徴として、Motion History Imageを用いる。
Further, according to the present invention (Claim 3), in the motion feature extraction step (Step 2),
Motion History Image is used as an operation feature.

また、本発明(請求項4)は、区間内投球動作特徴取得ステップ(ステップ5)において、
動作特徴抽出ステップ(ステップ2)の動作特徴のMotion History Imageに対して、縮小・拡大・ラベリング処理を行い、オブジェクト毎のMotion History Imageを作成する。
In the present invention (Claim 4), in the in-section pitching motion feature acquisition step (Step 5),
The motion history image of the motion feature in the motion feature extraction step (step 2) is subjected to reduction / enlargement / labeling processing to create a motion history image for each object.

また、本発明(請求項5)は、投球動作特徴選択ステップ(ステップ6)において、
現メディアタイムのみならず、その近傍のメディアタイムにおける投球動作特徴も加えて利用する。
In the present invention (Claim 5), in the pitching motion feature selection step (Step 6),
It uses not only the current media time but also the throwing motion characteristics in the media time in the vicinity.

また、本発明(請求項6)は、限定区間設定ステップ(ステップ4)において、
限定区間を設定する際に、投球イベント候補の数を利用する。
Further, the present invention (Claim 6) is a limited section setting step (Step 4),
The number of pitching event candidates is used when setting a limited section.

また、本発明(請求項7)は、限定区間設定ステップ(ステップ4)において、
限定区間を設定する際に、一定メディアタイム間隔を利用する。
Further, according to the present invention (Claim 7), in the limited section setting step (Step 4),
A fixed media time interval is used when setting a limited section.

また、本発明(請求項8)は、限定区間設定ステップ(ステップ4)において、
限定区間を動かす場合に、一定投球イベント候補数だけずらす。
Further, the present invention (Claim 8), in the limited section setting step (Step 4),
When moving the limited section, shift by a certain number of pitching event candidates.

また、本発明(請求項9)は、限定区間設定ステップ(ステップ4)において、
限定区間を動かす場合に、一定メディアタイムだけずらす。
Further, the present invention (Claim 9), in the limited section setting step (Step 4),
When moving the limited section, shift by a certain media time.

図2は、本発明の原理構成図である。   FIG. 2 is a principle configuration diagram of the present invention.

本発明(請求項10)は、野球映像から投手の投球部分(投球イベント)を検出するための投球イベント検出装置であって、
映像を記憶した映像記憶手段12と、
時刻情報を含む投球イベント候補を取得し、投球候補イベント記憶手段8に格納する投球イベント候補取得手段1と、
映像記憶手段12の映像の動作特徴を抽出する動作特徴抽出手段2と、
投球候補イベント記憶手段8に記憶されている投球イベント候補の時刻情報と、動作特徴抽出手段2で抽出された動作特徴とを用いて、該投球候補イベント記憶手段8の投球イベント候補の動作を選択する投球イベント候補動作特徴選択手段11と、
限定区間幅及び該限定区間幅の動かし方を決定する限定区間設定手段3と、
投球イベント候補動作特徴選択手段11で選択された投球イベント候補の動作から、限定区間設定手段3で設定された全ての限定区間内における投球動作特徴を抽出し、投球動作特徴記憶手段9に格納する区間内投球動作特徴取得手段4と、
投球動作特徴記憶手段9に格納されている投球動作特徴からメディアタイムTによって利用する投球動作特徴を決定する投球動作特徴選択手段6と、
投球動作特徴選択手段6で選択された投球動作特徴を用いて、メディアタイムTに動作特徴抽出手段2で抽出された動作特徴について、投球動作か否かの判定を行い、投球動作である場合には、該投球動作のイベントを出力する判定手段7と、有する。
The present invention (Claim 10) is a pitching event detection device for detecting a pitching part (throwing event) from a baseball video,
Video storage means 12 for storing video;
A pitching event candidate acquisition unit 1 that acquires a pitching event candidate including time information and stores the pitching event candidate in the pitching candidate event storage unit 8;
Motion feature extraction means 2 for extracting motion characteristics of video in the video storage means 12;
Using the time information of the pitching event candidate stored in the pitching candidate event storage unit 8 and the motion feature extracted by the motion feature extraction unit 2, the operation of the pitching event candidate in the pitching candidate event storage unit 8 is selected. A pitching event candidate motion feature selection means 11 to perform,
Limited section setting means 3 for determining the limited section width and how to move the limited section width;
The pitching motion features in all the limited zones set by the limited zone setting unit 3 are extracted from the pitching event candidate motions selected by the pitching event candidate motion feature selection unit 11 and stored in the pitching motion feature storage unit 9. In-section pitching motion feature acquisition means 4;
A pitching motion feature selection unit 6 for determining a pitching motion feature to be used according to the media time T from the pitching motion feature stored in the pitching motion feature storage unit 9;
Using the pitching motion feature selected by the pitching motion feature selection means 6, it is determined whether or not the motion feature extracted by the motion feature extraction means 2 at the media time T is a pitching motion. Has a judging means 7 for outputting an event of the pitching operation.

また、本発明(請求項11)は、投球イベント候補取得手段1において、投球イベント候補を取得する際に、突発音を用いる。   Further, according to the present invention (claim 11), the pitch event candidate acquisition unit 1 uses sudden sound when acquiring a pitch event candidate.

また、本発明(請求項12)は、動作特徴抽出手段2において、動作特徴として、Motion History Imageを用いる。   In the present invention (Claim 12), the motion feature extraction means 2 uses Motion History Image as motion features.

また、本発明(請求項13)は、区間内投球動作特徴取得手段4において、動作特徴抽出手段2の動作特徴のMotion History Imageに対して、縮小・拡大・ラベリング処理を行い、オブジェクト毎のMotion History Imageを作成する。   Further, according to the present invention (claim 13), the intra-section pitching motion feature acquisition unit 4 performs reduction / enlargement / labeling processing on the motion history image of the motion feature of the motion feature extraction unit 2 to perform motion for each object. Create a History Image.

また、本発明(請求項14)は、投球動作特徴選択手段6において、現メディアタイムのみならず、その近傍のメディアタイムにおける投球動作特徴も加えて利用する。   In the present invention (Claim 14), the pitching motion feature selection means 6 uses not only the current media time but also the pitching motion feature in the media time in the vicinity thereof.

また、本発明(請求項15)は、限定区間設定手段3において、限定区間を設定する際に、投球イベント候補の数を利用する。   In the present invention (Claim 15), the limited section setting means 3 uses the number of pitching event candidates when setting the limited section.

また、本発明(請求項16)は、限定区間設定手段3において、限定区間を設定する際に、一定メディアタイム間隔を利用する。   In the present invention (Claim 16), the limited section setting means 3 uses a fixed media time interval when setting the limited section.

また、本発明(請求項17)は、限定区間設定手段3において、限定区間を動かす場合に、一定投球イベント候補数だけずらす。   According to the present invention (Claim 17), when the limited section is moved in the limited section setting means 3, it is shifted by a certain number of pitching event candidates.

また、本発明(請求項18)は、限定区間設定手段3において、限定区間を動かす場合に、一定メディアタイムだけずらす。   In the present invention (Claim 18), when the limited section is moved in the limited section setting means 3, it is shifted by a certain media time.

本発明(請求項19)は、コンピュータに、請求項10乃至18記載の投球イベント検出装置の各手段を実行させる投球イベント検出プログラムである。   The present invention (Claim 19) is a pitching event detection program for causing a computer to execute each means of the pitching event detection device according to Claims 10 to 18.

本発明(請求項20)は、コンピュータに、請求項10乃至18記載の投球イベント検出装置の各手段を実行させる投球イベント検出プログラムを格納したコンピュータ読み取り可能な記録媒体である。   The present invention (Claim 20) is a computer-readable recording medium storing a pitching event detection program for causing a computer to execute each means of the pitching event detection device according to Claims 10 to 18.

第1の従来の方法によれば、野球映像からの投球イベント検出において野球映像を1投手区間に分割してから入力する必要があり、野球映像インデキシングとして不便であった。これに対し、本発明によれば、映像を1投手の区間に分割することが不要となり、高精度かつ入力に手間のかからない、投球イベントを用いた野球映像インデキシングが可能となる。   According to the first conventional method, when a pitching event is detected from a baseball video, it is necessary to input the baseball video after dividing it into one pitcher section, which is inconvenient as baseball video indexing. On the other hand, according to the present invention, it is not necessary to divide the video into sections of one pitcher, and baseball video indexing using a pitching event can be performed with high accuracy and less time for input.

以下、図面と共に本発明の実施の形態を説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図3は、本発明の一実施の形態における投球イベント検出装置の構成を示す。   FIG. 3 shows a configuration of a pitching event detection apparatus according to an embodiment of the present invention.

同図に示す装置は、投球イベント候補取得部1、動作特徴抽出部2、限定区間設定部3、区間内投球動作特徴取得部4、投球動作特徴選択部6、判定部7、投球イベント候補記憶部8、投球イベント記憶部10、投球イベント候補動作特徴選択部11、映像記憶部12から構成される。   The apparatus shown in the figure includes a pitching event candidate acquisition unit 1, a motion feature extraction unit 2, a limited section setting unit 3, an intra-section pitching motion feature acquisition unit 4, a pitching motion feature selection unit 6, a determination unit 7, and a pitching event candidate storage. Unit 8, a pitching event storage unit 10, a pitching event candidate motion feature selection unit 11, and a video storage unit 12.

投球イベント候補記憶部8は、投球イベント候補取得部1で取得した投球イベント候補及び時刻情報を格納する。   The pitching event candidate storage unit 8 stores the pitching event candidate and time information acquired by the pitching event candidate acquisition unit 1.

投球動作特徴記憶部9は、区間内投球動作特徴取得部4で取得した投球動作特徴を格納する。   The pitching motion feature storage unit 9 stores the pitching motion feature acquired by the in-section pitching motion feature acquisition unit 4.

投球イベント記憶部10は、本装置の結果である投球イベントを格納する。   The pitching event storage unit 10 stores a pitching event that is a result of the present apparatus.

映像記憶部12は、映像を格納する。   The video storage unit 12 stores video.

投球イベント候補取得部1は、何らかの方法により投球イベント候補を求め、投球イベント候補記憶部8に格納する。   The pitching event candidate acquisition unit 1 obtains a pitching event candidate by some method and stores it in the pitching event candidate storage unit 8.

動作特徴抽出部2は、映像記憶部12の映像から動作特徴を抽出する。   The motion feature extraction unit 2 extracts motion features from the video in the video storage unit 12.

投球イベント候補動作特徴選択部11は、投球イベント候補記憶部8に記憶されている投球イベント候補の時刻情報を用いて、動作特徴抽出部2で抽出される投球イベント候補の動作を選択し、メモリ等の記憶手段に一時的に格納する。   The pitch event candidate motion feature selection unit 11 selects the pitch event candidate motion extracted by the motion feature extraction unit 2 using the pitch event candidate time information stored in the pitch event candidate storage unit 8, and stores the memory Temporarily stored in a storage means such as

限定区間設定部3は、限定区間幅及び限定区間幅の動かし方を決定する。   The limited section setting unit 3 determines the limited section width and how to move the limited section width.

区間内投球動作特徴取得部4は、限定区間設定部3で設定された全ての限定区間内における、投球イベント候補動作特徴選択部11で抽出され、メモリ等に格納されている投球イベント候補の動作から投球動作特徴を抽出し、投球動作特徴記憶部9に格納する。   The intra-section pitching motion feature acquisition unit 4 extracts the pitching event candidate motions extracted by the pitching event candidate motion feature selection unit 11 and stored in the memory or the like in all the limited sections set by the limited section setting unit 3. The pitching motion feature is extracted from the pitching motion feature and stored in the pitching motion feature storage unit 9.

投球動作特徴選択部6は、投球動作特徴記憶部9に格納されている投球動作特徴からメディアタイムによって利用する投球動作特徴を決定する。   The pitching motion feature selection unit 6 determines a pitching motion feature to be used according to the media time from the pitching motion features stored in the pitching motion feature storage unit 9.

判定部7は、投球動作特徴選択部6で選択された投球動作特徴を用いて、動作特徴抽出部2で抽出された動作特徴が投球動作か否かの判定を行い、投球動作と判定された投球動作特徴を投球イベント記憶部10に格納する。   The determination unit 7 determines whether or not the motion feature extracted by the motion feature extraction unit 2 is a pitching motion using the pitching motion feature selected by the pitching motion feature selection unit 6, and is determined to be a pitching motion. The pitching motion feature is stored in the pitching event storage unit 10.

以下、上記の構成における動作を説明する。   The operation in the above configuration will be described below.

図4は、本発明の一実施の形態における投球イベント検出動作のフローチャートである。   FIG. 4 is a flowchart of the pitching event detection operation according to the embodiment of the present invention.

ステップ101) 投球イベント候補取得部1は、何らかの方法によって投球イベントの候補を検出する。例えば、映像記憶部12の映像における打撃や捕球に伴い発生する音響を利用することが考えられる。更にその結果を投球イベント候補記憶部8に格納する。なお、音響解析には、非特許文献1の音響解析を利用して、突発音検出を、また、動作解析には、当該非特許文献1のMHI(Motion History Image)を用いる。これは、投球イベント候補IDとその時刻を保持する。加えて信頼度などを保持してもかまわない。   Step 101) The pitching event candidate acquisition unit 1 detects a pitching event candidate by any method. For example, it is conceivable to use sound generated by hitting or catching a video in the video storage unit 12. Further, the result is stored in the pitching event candidate storage unit 8. Note that the acoustic analysis uses non-patent literature 1 acoustic analysis to detect sudden sound, and the motion analysis uses the non-patent literature 1 MHI (Motion History Image). This holds a pitching event candidate ID and its time. In addition, reliability may be maintained.

ステップ102) 動作特徴抽出部2は、映像記憶部12から映像特徴(動作特徴)を抽出する。当該処理においても非特許文献1に記載の方法を用いることが可能である。   Step 102) The motion feature extraction unit 2 extracts video features (motion features) from the video storage unit 12. In this process, the method described in Non-Patent Document 1 can be used.

ステップ103) 投球イベント候補動作特徴選択部11は、投球イベント候補記憶部8に格納されている、投球イベント候補の時刻情報を用いてステップ102で抽出された動作特徴から、投球イベント候補を選択する。   Step 103) The pitch event candidate motion feature selection unit 11 selects a pitch event candidate from the motion features extracted in step 102 using the pitch event candidate time information stored in the pitch event candidate storage unit 8. .

図5は、本発明の一実施の形態における投球イベント候補動作特徴選択部の出力の例である。同図に示す例は、上記の非特許文献1を用いた場合の投球イベント候補動作特徴選択部11の出力を纏めたものであり、イベント候補ID、発生メディアタイム、動作特徴であるMHIをメモリ等の記憶手段に保持している。   FIG. 5 is an example of the output of the pitching event candidate motion feature selection unit in one embodiment of the present invention. The example shown in the figure summarizes the output of the pitching event candidate motion feature selection unit 11 when using Non-Patent Document 1 described above, and stores the event candidate ID, the generated media time, and the MHI that is the motion feature. Etc. are stored in the storage means.

ステップ104) 限定区間設定部3は、限定区間の設定を行う。限定区間の設定では、限定区間幅と限定区間のずらし方を設定する。限定区間幅、ずらし方共に、投球イベント候補の数もしくは時間で指定することができる。どちらを用いても構わないし、数による指定と時間による指定を併用しても構わない。   Step 104) The limited section setting unit 3 sets a limited section. In the setting of the limited section, how to shift the limited section width and the limited section is set. Both the limited section width and the shifting method can be specified by the number or time of pitching event candidates. Either may be used, and designation by number and designation by time may be used together.

ステップ105) 区間内投球動作特徴取得部4は、ステップ104により設定された各限定区間について、投球イベント候補動作特徴選択部11の出力から区間内の投球動作特徴を取得する。以下に、当該区間内投球動作特徴取得部4の動作を説明する。図6は、本発明の一実施の形態における区間内投球動作特徴取得部の動作のフローチャートである。   Step 105) The intra-section pitching motion feature acquisition unit 4 acquires the intra-section pitching motion feature from the output of the pitching event candidate motion feature selection unit 11 for each limited section set in Step 104. Below, the operation | movement of the said pitching motion characteristic acquisition part 4 is demonstrated. FIG. 6 is a flowchart of the operation of the intra-section pitching motion feature acquisition unit according to the embodiment of the present invention.

当該ステップ105では、ステップ104で定義される全ての限定区間に対して、以下のステップ401からステップ405に至るまでの処理を繰り返す。   In step 105, the following processing from step 401 to step 405 is repeated for all limited sections defined in step 104.

ステップ401) 区間内投球動作特徴取得部4は、ステップ103で求めた投球イベント候補動作特徴選択部11の出力から、当該フレームに存在する動作オブジェクト毎の動作特徴を求める。   Step 401) The intra-section pitching motion feature acquisition unit 4 obtains the motion feature for each motion object existing in the frame from the output of the pitching event candidate motion feature selection unit 11 obtained in Step 103.

ステップ402) オブジェクト毎の動作特徴をクラスタリングする。   Step 402) Cluster motion features for each object.

ステップ403) クラスタリング結果の最大のクラスタを求める。   Step 403) Obtain the maximum clustering result.

ステップ404) 最大クラスタの動作特徴が規定の範囲内であるか判定する。範囲内であれば、ステップ405に移行する。そうでない場合、ステップ401に移行する。   Step 404) Determine whether the operating characteristics of the largest cluster are within a specified range. If it is within the range, the process proceeds to step 405. Otherwise, the process proceeds to step 401.

ステップ405) 最大クラスタの動作特徴を、当該限定区間における動作特徴として、投球動作特徴記憶部9に格納する。   Step 405) The motion feature of the maximum cluster is stored in the pitching motion feature storage unit 9 as the motion feature in the limited section.

ステップ401の動作オブジェクト毎の動作特徴を求める手法に関して、ここでは特に限定しない。例をあげると、動作特徴としてMHIを利用している場合であれば、MHIに対して、縮小・拡大・ラベリング処理を行うことで、動作オブジェクト毎のMHI(オブジェクトMHI)の取得が可能である。縮小・拡大・ラベリングのフローチャートを図7に示す。まず、区間内投球動作特徴取得部4は、画像を1/4に縮小し(ステップ701)、次に縮小画像を4倍に拡大する(ステップ702)。8連結を用いたラベリングを行う(ステップ703)。   There is no particular limitation on the method for obtaining the motion characteristics for each motion object in step 401 here. For example, if MHI is used as a motion feature, it is possible to acquire MHI (object MHI) for each motion object by performing reduction / enlargement / labeling processing on the MHI. . A flowchart of reduction / enlargement / labeling is shown in FIG. First, the intra-section pitching motion feature acquisition unit 4 reduces the image to ¼ (step 701), and then enlarges the reduced image four times (step 702). Labeling using 8-connection is performed (step 703).

また、クラスタリングアルゴリズムでは、距離の閾値によって処理を終了する形態のものであれば、どのような手法を用いても構わない。これは、クラスタの数(=投手の数)は未知のため、クラスタリング終了条件としてクラスタの数を設定することはできないためである。   In the clustering algorithm, any method may be used as long as the processing is terminated by the distance threshold. This is because the number of clusters (= the number of pitchers) is unknown and the number of clusters cannot be set as the clustering end condition.

以上の各ステップにより、メディアタイムによって変化する投球動作特徴が、投球動作特徴記憶部9に格納される。投球動作特徴記憶部9に格納されるメディアタイムによって変化する投球動作特徴の例を図8に示す。これ以降、動的投球動作特徴と呼ぶことにする。   Through the above steps, the pitching motion characteristics that change according to the media time are stored in the pitching motion feature storage unit 9. FIG. 8 shows an example of the pitching motion feature that changes depending on the media time stored in the pitching motion feature storage unit 9. Hereinafter, this will be referred to as a dynamic pitching operation feature.

動的投球動作特徴は、図8に示すように、投球動作特徴IDと限定区間開始時間、限定区間終了時間、及び投球動作特徴とからなる。すなわち、限定区間及び該限定区間から取得される投球動作特徴のセットにより表される。図8を時間軸方向に模式図化したものを図9に示す。   As shown in FIG. 8, the dynamic pitching motion feature includes a pitching motion feature ID, a limited zone start time, a limited zone end time, and a pitching motion feature. That is, it is represented by a limited section and a set of pitching motion features acquired from the limited section. FIG. 9 shows a schematic diagram of FIG. 8 in the time axis direction.

ステップ106) 次に、上記のメディアタイムによって変化する、動的投球動作特徴を用いて映像記憶部12の映像全体を再検索することにより、投球イベント候補にも含まれていない投球イベントについても検出する。   Step 106) Next, the pitching event not included in the pitching event candidates is also detected by re-searching the entire video in the video storage unit 12 using the dynamic pitching motion characteristics that change according to the media time. To do.

当該ステップでは、メディアタイムに従って、当該メディアタイムにおいて利用する投球動作特徴を、動的投球動作特徴の中から選択し、決定する。最も単純な情報としては、現在のメディアタイムを含む投球動作特徴もしくは、現在のメディアタイムから最も近傍にある投球動作特徴を用いる方法である。   In this step, according to the media time, the pitching motion feature used in the media time is selected from the dynamic pitching motion features and determined. The simplest information is a method using a pitching motion feature including the current media time or a pitching motion feature closest to the current media time.

また、当該ステップ106の別の実現方法を図9を用いて説明する。   Further, another method for realizing the step 106 will be described with reference to FIG.

図9はある一つの映像における動的投球動作特徴を示している。同図中の1,2,3は、それぞれひとつの投球動作特徴を示しており、各投球動作特徴の下にある双方向矢印が各投球動作特徴の算出に用いた限定区間を示している。例えば、図9中、Aの時刻において利用する投球動作特徴は、1のみでよいと直感的に思われるかもしれないが、限定区間においても常に投手交代が行われている可能性があるため、投球動作特徴1のみでは、投手交代後の投手による投球イベントを検出漏れしてしまう可能性がある。これを考慮に入れて図10にステップ106の動的投球動作特徴からの投球動作特徴選択処理を示す。   FIG. 9 shows dynamic throwing motion characteristics in a certain video. In the figure, 1, 2 and 3 each indicate one pitching motion feature, and a bidirectional arrow below each pitching motion feature indicates a limited section used for calculation of each pitching motion feature. For example, in FIG. 9, it may seem intuitively that the pitching movement feature used at time A is only 1, but since there is a possibility that the pitcher change is always performed even in the limited section, With only the pitching motion feature 1, there is a possibility that the pitching event by the pitcher after the pitcher change may be missed. Taking this into consideration, FIG. 10 shows the pitching motion feature selection processing from the dynamic pitching motion feature in step 106.

ステップ1001) 全てのメディアタイム(フローチャート上では時刻)Tについて、以下のステップ1002からステップ1012に至る処理を繰り返し行う。   Step 1001) For all media times (time in the flowchart) T, the following processing from Step 1002 to Step 1012 is repeated.

ステップ1002) 動的投球動作特徴の中に、メディアタイムTよりも早いメディアタイムのみで構成される投球動作特徴が存在するか確認を行う。存在する場合、ステップ1003へ移行する。そうでない場合、ステップ1004へ移行する。   Step 1002) It is checked whether or not a pitching motion feature composed only of a media time earlier than the media time T exists in the dynamic pitching motion features. If it exists, the process proceeds to step 1003. Otherwise, the process proceeds to step 1004.

ステップ1003) メディアタイムTよりも早いメディアタイムのみで構成される投球動作特徴のうちで、最も遅いメディアタイムからなる投球動作特徴IDをSとする。   Step 1003) Among the pitching motion features composed only of the media time earlier than the media time T, the pitching motion feature ID consisting of the latest media time is set to S.

ステップ1004) メディアタイムTを含む投球動作特徴が存在するか否か判定を行う。存在する場合はステップ1006へ移行する。そうでない場合、ステップ1006へ移行する。   Step 1004) It is determined whether or not a pitching motion feature including the media time T exists. If it exists, the process proceeds to step 1006. Otherwise, the process proceeds to step 1006.

ステップ1005) メディアタイムTを含む投球動作特徴IDをSとする。   Step 1005) Let S be the throwing motion feature ID including the media time T.

ステップ1006) Sを0とする。   Step 1006) S is set to 0.

ステップ1007) 動的投球動作特徴の中に、メディアタイムTよりも遅いメディアタイムのみで構成される投球動作特徴が存在するか確認を行う。存在する場合、ステップ1008へ移行する。そうでない場合は、ステップ1009へ移行する。   Step 1007) It is confirmed whether or not the pitching motion feature composed only of the media time later than the media time T exists in the dynamic pitching motion feature. If it exists, the process proceeds to step 1008. Otherwise, the process proceeds to step 1009.

ステップ1008) メディアタイムTよりも遅いメディアタイムのみで構成される投球動作特徴のうち、最も早いメディアタイムからなる投球動作特徴IDをEとする。   Step 1008) Let E be the pitching motion feature ID consisting of the earliest media time among the pitching motion features composed only of the media time later than the media time T.

ステップ1009) 動的投球動作特徴の中に、メディアタイムTを含む限定区間に投球動作特徴が存在するか否か、判定を行う。存在する場合は、ステップ610へ移行する。そうでない場合は、ステップ611へ移行する。   Step 1009) It is determined whether or not the pitching motion feature is present in the limited section including the media time T among the dynamic pitching motion features. If it exists, the process proceeds to step 610. Otherwise, the process proceeds to step 611.

ステップ1010) メディアタイムTを含む、投球動作特徴IDをEとする。   Step 1010) Let E be the throwing motion feature ID including the media time T.

ステップ1011) 最も遅いメディアタイムによって構成される投球動作特徴IDをEとする。   Step 1011) Let E be the throwing motion feature ID constituted by the latest media time.

ステップ1012) メディアタイムTで利用する投球動作特徴を、動的投球動作特徴のうち、SからEまでのIDをもつ投球動作と設定する。   Step 1012) The pitching motion characteristics used at the media time T are set as pitching motions having IDs from S to E among the dynamic pitching motion characteristics.

ステップ107) 判定部7は、投球動作特徴選択部6においてステップ106で選択され、決定した投球動作特徴を用いて、映像全体について再検索を行う。   Step 107) The determination unit 7 performs a re-search on the entire video using the pitching motion feature selected and determined by the pitching motion feature selection unit 6 in Step 106.

以下に、当該ステップ107の動作を図11に示す。   The operation of step 107 is shown in FIG.

ステップ1101) 判定部7は、全ての時刻について、ステップ1102からステップ1106を繰り返す。   Step 1101) The determination unit 7 repeats Step 1102 to Step 1106 for all times.

ステップ1102) メディアタイムTにおいて利用するとステップ106で決定した全ての投球動作特徴について、ステップ1103を行う。   Step 1102) Step 1103 is performed for all the throwing motion characteristics determined in Step 106 when used at the media time T.

ステップ1103) メディアタイムTにおける動作特徴と、投球動作特徴との類似度を算出する。   Step 1103) The similarity between the motion feature at the media time T and the pitching motion feature is calculated.

ステップ1104) 最大の類似度を示した投球動作特徴との類似度を、当該メディアタイムTにおける類似度とする。   Step 1104) The similarity with the pitching motion feature showing the maximum similarity is set as the similarity at the media time T.

ステップ1105) メディアタイムTにおける類似度が閾値よりも大きいか否かを判定する。大きい場合には、ステップ1106へ移行する。   Step 1105) It is determined whether the similarity at the media time T is greater than a threshold value. If larger, the process proceeds to step 1106.

ステップ1106) メディアタイムTにおいて投球イベントが検出されたことを、投球イベント記憶部10に記録する。   Step 1106) The fact that a pitching event is detected at the media time T is recorded in the pitching event storage unit 10.

以下に、図面と共に本発明の実施例を説明する。   Embodiments of the present invention will be described below with reference to the drawings.

本実施例では、前述の図4のステップ101の投球イベントの候補の取得にあたって、突発音検出による非特許文献1の手法を用いる。非特許文献1の手法では、投手の投球の直後に発生する捕球及び打球の音に着目して、突発音検出を行っている。   In the present embodiment, the method of Non-Patent Document 1 based on sudden sound detection is used to obtain the pitch event candidate in Step 101 of FIG. 4 described above. In the technique of Non-Patent Document 1, sudden sound detection is performed by paying attention to the catching and hitting sound generated immediately after the pitcher's pitching.

ステップ102では、映像に対して、動作特徴としてMotion History Imageの検出を行う。Motion History Image(以降、MHIと略す)は、動きの履歴情報を持たせた画像であり、最近動いた画素ほど明るく、古くに動いた画素ほど暗い画素値を持ち、次の式により定義される。   In step 102, Motion History Image is detected as an operation feature for the video. A motion history image (hereinafter abbreviated as MHI) is an image having motion history information. Pixels that have moved recently have brighter pixels and pixels that have moved older have darker pixel values, and are defined by the following equation. .

M(x,y,t)は、時刻tにおける座標(x,y)の画素値を表す。また、D(x,y,t)は、時刻t、t−τにおけるフレーム間差分2値化画像の座標(x,y)の画素値を示している。F( )は、引数の中で最大のものを返す関数である。すなわち最も最近動きがあった画素には画素値Vが与えられ、単位時間τ経過する毎に1だけ画素値は小さくなる。但し、同一座標で新たな動きが発生した場合には上式のif条件が成立するためVになる。これにより動きの履歴情報を持った画像が作成できる。 M (x, y, t) represents a pixel value at coordinates (x, y) at time t. Further, D (x, y, t) indicates the pixel value of the coordinates (x, y) of the inter-frame difference binarized image at times t and t−τ. F () is a function that returns the maximum argument. That is, the pixel value V is given to the pixel that has moved most recently, and the pixel value is decreased by 1 each time the unit time τ elapses. However, when a new movement occurs at the same coordinates, V is set because the if condition of the above equation is satisfied. As a result, an image having movement history information can be created.

図12にMHIの例を示す。但し、図12は見やすくするため、明るさを反転した画像である。   FIG. 12 shows an example of MHI. However, FIG. 12 is an image in which the brightness is reversed for easy viewing.

図4のステップ103で投球イベント候補動作特徴選択部11が、投球イベントの候補の時刻情報を用いて、動作特徴から投球イベント候補の部分を選択する。このとき、投球イベント候補取得方法と動作特徴取得方法からオフセット値を指定する必要があることがある。今回の、突発音検出とMHIとの組み合わせの場合、オフセット値は、−0.4秒程度が適切である。   In step 103 of FIG. 4, the pitching event candidate motion feature selection unit 11 selects a pitching event candidate portion from the motion features using the pitch event candidate time information. At this time, it may be necessary to specify an offset value from the pitch event candidate acquisition method and the motion feature acquisition method. In the case of the combination of sudden sound detection and MHI this time, an appropriate offset value is about -0.4 seconds.

ステップ104で限定区間設定部3において、限定区間を設定する。本実施例では、限定区間幅の設定方法として、一定投球イベント候補数を利用する。また、限定区間の動かし方として、一定投球イベント候補数だけ時間軸方向にずらすこととする。但し、限定区間幅の設定方法として、一定メディアタイムという基準を用いても構わないし、動かし方として、一定メディアタイムだけ時間軸方向に移動させても構わない。   In step 104, the limited section setting unit 3 sets a limited section. In the present embodiment, as a method for setting the limited section width, a certain number of pitching event candidates is used. In addition, as a way of moving the limited section, it is assumed that a certain number of pitching event candidates are shifted in the time axis direction. However, as a method for setting the limited section width, a reference of a constant media time may be used, and as a method of movement, the movement may be performed in the time axis direction by a fixed media time.

また、限定区間幅の設定方法として、一定メディアタイムを基本とし、但し、当該メディアタイム内の投球イベント候補数が、一定数に届かない場合は、投球イベント候補数が予め設定した個数になるまで、限定区間幅を延長する、というような複合的な設定方法でも構わない。   As a method for setting the limited section width, a fixed media time is basically used. However, if the number of pitching event candidates within the media time does not reach the predetermined number, the number of pitching event candidates becomes the preset number. A complex setting method such as extending the limited section width may be used.

ステップ105で、区間内投球動作特徴取得部4が、ステップ104で設定した各限定区間において投球動作特徴を取得する。本実施例では、まず、各投球イベント候補の動作特徴であるMHIに対して、図7に示すような縮小・拡大処理を行い、ラベリングを行うことで、オブジェクト毎の動作特徴として、オブジェクト毎のMHI(オブジェクトMHI)を求める。この例を図13に示す。図13(a)がある一つの投球イベント候補においての動作特徴に相当する。そして、最終的に求められたオブジェクトMHIが(b)から(d)である。   In step 105, the in-section pitching motion feature acquisition unit 4 acquires the pitching motion characteristics in each limited section set in step 104. In the present embodiment, first, the reduction / enlargement processing as shown in FIG. 7 is performed on the MHI that is the operation feature of each pitching event candidate, and labeling is performed. Obtain MHI (object MHI). An example of this is shown in FIG. FIG. 13A corresponds to an operation feature in one pitching event candidate. The finally obtained object MHI is (b) to (d).

次に、オブジェクトMHIのクラスタリングを行う。非特許文献1によれば、投球イベント候補のうち過半数は正しい投球イベントである。そこで、クラスタリング後、最大クラスタは、投球動作に関する動作特徴を表すオブジェクトMHIである。本実施例でもクラスタリングの結果、最大クラスタとなったオブジェクトMHIをもって、各限定区間における投球動作特徴とする。   Next, clustering of the object MHI is performed. According to Non-Patent Document 1, a majority of pitching event candidates are correct pitching events. Therefore, after clustering, the maximum cluster is an object MHI that represents an operation characteristic related to a pitching operation. Also in this embodiment, the object MHI that has become the maximum cluster as a result of clustering is used as a pitching motion feature in each limited section.

クラスタリングのアルゴリズムは数々提案されているが、どのような手法でも構わない。ここでは、最近傍アルゴリズム・単連結アルゴリズムを用いている。但し、クラスタリング時のオブジェクトMHI間の距離計算は次式で行った。   Many clustering algorithms have been proposed, but any method can be used. Here, the nearest neighbor algorithm and the single connection algorithm are used. However, the distance calculation between the objects MHI at the time of clustering was performed by the following equation.

ここで、v(x,y)は、オブジェクトMHIaの座標(x,y)における画素値を、v(x,y)は、オブジェクトMHIbの座標(x,y)における画素値を表す。また、X,YはオブジェクトMHIa,MHIbの幅及び高さの小さい方を選択することとする。 Here, v a (x, y) represents the pixel value at the coordinates (x, y) of the object MHIa, and v b (x, y) represents the pixel value at the coordinates (x, y) of the object MHIb. In addition, X and Y select the smaller one of the width and height of the objects MHIa and MHIb.

本実施例では、上記のオブジェクトMHI間の距離計算を行ったが、単純ユークリッド距離など他の距離定義方法を用いても良い。   In the present embodiment, the distance between the objects MHI is calculated, but other distance definition methods such as a simple Euclidean distance may be used.

図4のステップ106では、投球動作特徴選択部6において、動的投球動作特徴から、検出対象となっているメディアタイムTを含む投球動作特徴及び、メディアタイムTを含む投球動作特徴の最近傍の投球動作特徴を選択する。これにより、投手変更を含むような限定区間においても前後の区間での投球動作特徴を利用して、適切に投球イベント検出が可能である。   In step 106 in FIG. 4, the pitching motion feature selection unit 6 determines from the dynamic pitching motion feature the pitching motion feature including the media time T that is the detection target and the nearest pitching motion feature including the media time T. Select a throwing motion feature. Thereby, even in a limited section including a pitcher change, it is possible to appropriately detect a pitching event using the pitching motion characteristics in the preceding and following sections.

例えば、全ての時刻において、動的投球動作特徴の全ての投球動作特徴を利用することも可能である。この場合、処理時間などにおいて欠点があるものの、投球イベント検出の再現率の面では利点も大きいと考えられる。   For example, it is possible to use all the pitching motion features of the dynamic pitching motion features at all times. In this case, although there are disadvantages in processing time and the like, it is considered that there is a great advantage in terms of the reproducibility of pitching event detection.

さらに、動的投球動作特徴の全ての投球動作特徴をユーザに提示し、利用するか否かの判定を促し、利用すると判断された全ての投球動作特徴を利用するという方法も考えられる。   Furthermore, a method of presenting all the pitching motion characteristics of the dynamic pitching motion characteristics to the user, prompting the user to determine whether to use the pitching motion characteristics, and using all the pitching motion characteristics determined to be used is also conceivable.

最終的に、ステップ107の判定部7において判定を行う。テンプレートマッチングの結果、テンプレートとの距離が閾値以下である部分は、投球イベント記憶部10に保存する。   Finally, determination is performed in the determination unit 7 in step 107. As a result of template matching, the portion where the distance from the template is equal to or less than the threshold value is stored in the pitching event storage unit 10.

以上の各ステップにより投球変更も含む野球映像に対しても動的に投球動作特徴を抽出し、精度よく投球イベントを検出できる。   Through the above steps, a pitching motion feature can be dynamically extracted from a baseball video including a pitch change, and a pitch event can be detected with high accuracy.

本発明は、上記の図3に示す投球イベント検出装置の機能をプログラムとして構築し、投球イベント検出装置として利用されるコンピュータにインストールして実行させる、または、ネットワークを介して流通させることが可能である。   The present invention can construct the function of the pitching event detection device shown in FIG. 3 as a program and install it on a computer used as the pitching event detection device, or distribute it via a network. is there.

また、構築されたプログラムを、ハードディスクや、フレキシブルディスク・CD−ROM等の可搬記憶媒体に格納し、コンピュータにインストールする、または、配布することが可能である。   Further, the constructed program can be stored in a portable storage medium such as a hard disk, a flexible disk, or a CD-ROM, and installed in a computer or distributed.

なお、本発明は、上記の実施の形態及び実施例に限定されることなく、特許請求の範囲内において種々変更・応用が可能である。   The present invention is not limited to the above-described embodiments and examples, and various modifications and applications can be made within the scope of the claims.

本発明は、マルチモーダル処理技術の特に、野球映像からの投球イベント検出する技術に適用可能である。   The present invention is applicable to a technique for detecting a pitching event from a baseball video, in particular, a multimodal processing technique.

本発明の原理を説明するための図である。It is a figure for demonstrating the principle of this invention. 本発明の原理構成図である。It is a principle block diagram of this invention. 本発明の一実施の形態における投球イベント検出装置の構成図である。It is a block diagram of the pitching event detection apparatus in one embodiment of this invention. 本発明の一実施の形態における投球イベント検出動作のフローチャートである。It is a flowchart of the pitching event detection operation | movement in one embodiment of this invention. 本発明の一実施の形態における投球イベント候補動作特徴選択部の出力の例である。It is an example of the output of the pitch event candidate operation | movement feature selection part in one embodiment of this invention. 本発明の一実施の形態における区間内投球動作特徴取得部の動作のフローチャートである。It is a flowchart of operation | movement of the pitching motion characteristic acquisition part in an area in one embodiment of this invention. 本発明の一実施の形態における動作オブジェクト毎の動作特徴を求める動作のフローチャートである。It is a flowchart of the operation | movement which calculates | requires the operation | movement characteristic for every operation | movement object in one embodiment of this invention. 本発明の一実施の形態における投球動作特徴記憶部に格納されるメディアタイムによって変化する投球動作特徴の例である。It is an example of the pitching motion characteristic which changes with the media time stored in the pitching motion characteristic memory | storage part in one embodiment of this invention. 本発明の一実施の形態における動的投球動作特徴を時間軸方向に模式図化した例である。It is the example which represented the dynamic pitching operation characteristic in one embodiment of this invention typically in the time-axis direction. 本発明の一実施の形態における投球動作特徴の選択処理のフローチャートである。It is a flowchart of the selection process of the pitching operation | movement characteristic in one embodiment of this invention. 本発明の一実施の形態における判定部の動作のフローチャートである。It is a flowchart of operation | movement of the determination part in one embodiment of this invention. 本発明の一実施例のMHIの例である。It is an example of MHI of one Example of this invention. 本発明の一実施例のMHIの求め方を示す図である。It is a figure which shows how to obtain | require MHI of one Example of this invention.

符号の説明Explanation of symbols

1 投球イベント候補取得手段、投球イベント取得部
2 動作特徴抽出手段、動作特徴抽出部
3 限定区間設定手段、限定区間設定部
4 区間内投球動作特徴取得手段、区間内投球動作特徴取得部
6 投球動作特徴選択手段、投球動作特徴選択部
7 判定手段、判定部
8 投球イベント候補記憶手段、投球イベント候補取得部
9 投球動作特徴記憶手段、投球動作特徴記憶部
10 投球イベント記憶部
11 投球イベント候補動作特徴選択手段、投球イベント候補動作特徴選択部
12 映像記憶手段、映像記憶部
DESCRIPTION OF SYMBOLS 1 Throwing event candidate acquisition means, Throwing event acquisition part 2 Operation | movement feature extraction means, Operation | movement feature extraction part 3 Restriction area setting means, Restriction area setting part 4 Intra-zone pitching action characteristic acquisition means, Intra-zone pitching action characteristic acquisition part 6 Throwing action Feature selection unit, pitching motion feature selection unit 7 Determination unit, determination unit 8 Throwing event candidate storage unit, pitching event candidate acquisition unit 9 Throwing motion feature storage unit, pitching motion feature storage unit 10 Throwing event storage unit 11 Throwing event candidate motion feature Selection means, pitching event candidate motion feature selection section 12 Video storage means, video storage section

Claims (20)

野球映像から投手の投球部分(投球イベント)を検出するための投球イベント検出方法であって、
投球イベント候補取得手段が、時刻情報を含む投球イベント候補を取得し、投球候補イベント記憶手段に格納する投球イベント候補取得ステップと、
動作特徴抽出手段が、映像の動作特徴を抽出する動作特徴抽出ステップと、
投球イベント候補動作特徴選択手段が、前記投球候補イベント記憶手段に記憶されている前記投球イベント候補の時刻情報と、前記動作特徴抽出ステップで抽出された動作特徴とを用いて該投球候補イベント記憶手段の投球イベント候補の動作を選択する投球イベント候補動作特徴選択ステップと、
限定区間設定手段が、限定区間幅及び該限定区間幅の動かし方を決定する限定区間設定ステップと、
区間内投球動作特徴取得手段が、前記投球イベント候補動作特徴選択ステップで選択された前記投球イベント候補の動作から、前記限定区間設定ステップで設定された全ての限定区間内における投球動作特徴を抽出し、投球動作特徴記憶手段に格納する区間内投球動作特徴取得ステップと、
投球動作特徴選択手段が、前記投球動作特徴記憶手段に格納されている前記投球動作特徴からメディアタイムTによって利用する投球動作特徴を決定する投球動作特徴選択ステップと、
判定手段が、前記投球動作特徴選択ステップで選択された前記投球動作特徴を用いて、メディアタイムTに前記動作特徴抽出ステップで抽出された前記動作特徴について、投球動作か否かの判定を行い、投球動作である場合には、該投球動作のイベントを出力する判定ステップと、
を行うことを特徴とする投球イベント検出方法。
A pitching event detection method for detecting a pitcher's pitching part (throwing event) from a baseball image,
A pitching event candidate acquisition unit acquires a pitching event candidate including time information and stores it in a pitching candidate event storage unit;
An operation feature extraction step in which an operation feature extraction means extracts an operation feature of the video;
The pitching event candidate motion feature selection means uses the pitching event candidate time information stored in the pitching candidate event storage means and the pitching candidate event storage means using the motion features extracted in the motion feature extraction step. A pitching event candidate motion feature selection step for selecting a pitching event candidate motion of
A limited section setting means for determining a limited section width and how to move the limited section width;
In-sector pitching motion feature acquisition means extracts pitching motion features in all the limited zones set in the limited zone setting step from the pitching event candidate motions selected in the pitching event candidate motion feature selection step. A pitching motion feature acquisition step for storing in the pitching motion feature storage means;
A pitching motion feature selection step for determining a pitching motion feature to be used by a media time T from the pitching motion feature stored in the pitching motion feature storage unit;
A determination unit determines whether the motion feature extracted in the motion feature extraction step at the media time T is a pitching motion using the pitching motion feature selected in the pitching motion feature selection step. If it is a pitching motion, a determination step for outputting an event of the pitching motion;
A pitching event detection method comprising:
前記投球イベント候補取得ステップにおいて、
前記投球イベント候補を取得する際に、突発音を用いる、
請求項1記載の投球イベント検出方法。
In the pitch event candidate acquisition step,
When acquiring the pitching event candidate, sudden sound is used,
The pitching event detection method according to claim 1.
前記動作特徴抽出ステップにおいて、
前記動作特徴として、Motion History Imageを用いる、
請求項1または2記載の投球イベント検出方法。
In the operation feature extraction step,
As the operation feature, Motion History Image is used.
The pitching event detection method according to claim 1 or 2.
前記区間内投球動作特徴取得ステップにおいて、
前記動作特徴抽出ステップの前記動作特徴のMotion History Imageに対して、縮小・拡大・ラベリング処理を行い、オブジェクト毎のMotion History Imageを作成する
請求項3記載の投球イベント検出方法。
In the in-section pitching movement feature acquisition step,
The pitching event detection method according to claim 3, wherein the motion history image of the motion feature in the motion feature extraction step is subjected to reduction / enlargement / labeling processing to create a motion history image for each object.
前記投球動作特徴選択ステップにおいて、
現メディアタイムのみならず、その近傍のメディアタイムにおける投球動作特徴も加えて利用する
請求項1乃至4記載の投球イベント検出方法。
In the pitching operation feature selection step,
The pitching event detection method according to any one of claims 1 to 4, wherein not only the current media time but also a pitching operation characteristic at a media time in the vicinity thereof is added.
前記限定区間設定ステップにおいて、
前記限定区間を設定する際に、投球イベント候補の数を利用する、
請求項1乃至5記載の投球イベント検出方法。
In the limited section setting step,
When setting the limited section, the number of pitching event candidates is used.
The pitching event detection method according to claim 1.
前記限定区間設定ステップにおいて、
前記限定区間を設定する際に、一定メディアタイム間隔を利用する、
請求項1乃至5記載の投球イベント検出方法。
In the limited section setting step,
When setting the limited section, a fixed media time interval is used.
The pitching event detection method according to claim 1.
前記限定区間設定ステップにおいて、
前記限定区間を動かす場合に、一定投球イベント候補数だけずらす、
請求項1乃至5記載の投球イベント検出方法。
In the limited section setting step,
When moving the limited section, shift by a certain number of pitching event candidates,
The pitching event detection method according to claim 1.
前記限定区間設定ステップにおいて、
前記限定区間を動かす場合に、一定メディアタイムだけずらす、
請求項7記載の投球イベント検出方法。
In the limited section setting step,
When moving the limited section, shift by a certain media time,
The pitching event detection method according to claim 7.
野球映像から投手の投球部分(投球イベント)を検出するための投球イベント検出装置であって、
映像を記憶した映像記憶手段と、
時刻情報を含む投球イベント候補を取得し、投球候補イベント記憶手段に格納する投球イベント候補取得手段と、
前記映像記憶手段の映像の動作特徴を抽出する動作特徴抽出手段と、
前記投球候補イベント記憶手段に記憶されている前記投球イベント候補の時刻情報と、前記動作特徴抽出手段で抽出された動作特徴とを用いて、該投球候補イベント記憶手段の前記投球イベント候補の動作を選択する投球イベント候補動作特徴選択手段と、
限定区間幅及び該限定区間幅の動かし方を決定する限定区間設定手段と、
前記投球イベント候補動作特徴選択手段で選択された前記投球イベント候補の動作から、前記限定区間設定手段で設定された全ての限定区間内における投球動作特徴を抽出し、投球動作特徴記憶手段に格納する区間内投球動作特徴取得手段と、
前記投球動作特徴記憶手段に格納されている前記投球動作特徴からメディアタイムTによって利用する投球動作特徴を決定する投球動作特徴選択手段と、
前記投球動作特徴選択手段で選択された前記投球動作特徴を用いて、メディアタイムTに前記動作特徴抽出手段で抽出された前記動作特徴について、投球動作か否かの判定を行い、投球動作である場合には、該投球動作のイベントを出力する判定手段と、
を有することを特徴とする投球イベント検出装置。
A pitching event detection device for detecting a pitcher's pitching part (throwing event) from a baseball image,
Video storage means for storing video;
A pitching event candidate acquisition unit that acquires a pitching event candidate including time information and stores the pitching event candidate in a pitching candidate event storage unit;
Motion feature extraction means for extracting motion characteristics of the video stored in the video storage means;
Using the time information of the pitching event candidate stored in the pitching candidate event storage unit and the motion feature extracted by the motion feature extraction unit, the operation of the pitching event candidate of the pitching candidate event storage unit is performed. A pitching event candidate motion feature selection means to select;
Limited section setting means for determining the limited section width and how to move the limited section width;
The pitching motion features in all the limited zones set by the limited zone setting means are extracted from the pitching event candidate motions selected by the pitching event candidate motion feature selection means and stored in the pitching motion feature storage means. In-section pitching motion feature acquisition means;
A pitching motion feature selection unit for determining a pitching motion feature to be used according to a media time T from the pitching motion feature stored in the pitching motion feature storage unit;
Using the pitching motion feature selected by the pitching motion feature selection means, it is determined whether or not the motion feature extracted by the motion feature extraction means at the media time T is a pitching motion. A determination means for outputting an event of the pitching operation;
A pitching event detection device comprising:
前記投球イベント候補取得手段は、
前記投球イベント候補を取得する際に、突発音を用いる、
請求項10記載の投球イベント検出装置。
The pitch event candidate acquisition means includes:
When acquiring the pitching event candidate, sudden sound is used,
The pitching event detection device according to claim 10.
前記動作特徴抽出手段は、
前記動作特徴として、Motion History Imageを用いる、
請求項10または11記載の投球イベント検出装置。
The operation feature extraction means includes
As the operation feature, Motion History Image is used.
The pitching event detection device according to claim 10 or 11.
前記区間内投球動作特徴取得手段は、
前記動作特徴抽出手段の前記動作特徴のMotion History Imageに対して、縮小・拡大・ラベリング処理を行い、オブジェクト毎のMotion History Imageを作成する
請求項12記載の投球イベント検出装置。
The in-section pitching motion feature acquisition means includes:
The pitching event detection device according to claim 12, wherein the motion history image of the motion feature of the motion feature extraction unit is subjected to reduction / enlargement / labeling processing to create a motion history image for each object.
前記投球動作特徴選択手段は、
現メディアタイムのみならず、その近傍のメディアタイムにおける投球動作特徴も加えて利用する
請求項10乃至13記載の投球イベント検出装置。
The pitching operation feature selection means includes:
The pitching event detection device according to any one of claims 10 to 13, which uses not only the current media time but also a pitching operation characteristic at a media time in the vicinity thereof.
前記限定区間設定手段は、
前記限定区間を設定する際に、投球イベント候補の数を利用する、
請求項10乃至14記載の投球イベント検出装置。
The limited section setting means includes
When setting the limited section, the number of pitching event candidates is used.
The pitching event detection device according to claim 10 to 14.
前記限定区間設定手段は、
前記限定区間を設定する際に、一定メディアタイム間隔を利用する、
請求項10乃至14記載の投球イベント検出装置。
The limited section setting means includes
When setting the limited section, a fixed media time interval is used.
The pitching event detection device according to claim 10 to 14.
前記限定区間設定手段は、
前記限定区間を動かす場合に、一定投球イベント候補数だけずらす、
請求項10乃至14記載の投球イベント検出装置。
The limited section setting means includes
When moving the limited section, shift by a certain number of pitching event candidates,
The pitching event detection device according to claim 10 to 14.
前記限定区間設定手段は、
前記限定区間を動かす場合に、一定メディアタイムだけずらす、
請求項16記載の投球イベント検出装置。
The limited section setting means includes
When moving the limited section, shift by a certain media time,
The pitching event detection device according to claim 16.
コンピュータに、
請求項10乃至18記載の投球イベント検出装置の各手段を実行させることを特徴とする投球イベント検出プログラム。
On the computer,
19. A pitching event detection program that causes each means of the pitching event detection device according to claim 10 to be executed.
コンピュータに、
請求項10乃至18記載の投球イベント検出装置の各手段を実行させる投球イベント検出プログラムを格納したことを特徴とするコンピュータ読み取り可能な記録媒体。
On the computer,
A computer-readable recording medium storing a pitching event detection program for executing each means of the pitching event detection device according to claim 10.
JP2006190576A 2006-07-11 2006-07-11 Method, apparatus and program for detecting pitching event, and computer-readable recording medium Pending JP2008022142A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006190576A JP2008022142A (en) 2006-07-11 2006-07-11 Method, apparatus and program for detecting pitching event, and computer-readable recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006190576A JP2008022142A (en) 2006-07-11 2006-07-11 Method, apparatus and program for detecting pitching event, and computer-readable recording medium

Publications (1)

Publication Number Publication Date
JP2008022142A true JP2008022142A (en) 2008-01-31

Family

ID=39077796

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006190576A Pending JP2008022142A (en) 2006-07-11 2006-07-11 Method, apparatus and program for detecting pitching event, and computer-readable recording medium

Country Status (1)

Country Link
JP (1) JP2008022142A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013145453A (en) * 2012-01-13 2013-07-25 Nippon Telegr & Teleph Corp <Ntt> Behavior analysis device, method and program
JP2016208516A (en) * 2015-04-23 2016-12-08 アディダス アーゲー Method and device for associating frames in video of activity of person with event

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013145453A (en) * 2012-01-13 2013-07-25 Nippon Telegr & Teleph Corp <Ntt> Behavior analysis device, method and program
JP2016208516A (en) * 2015-04-23 2016-12-08 アディダス アーゲー Method and device for associating frames in video of activity of person with event

Similar Documents

Publication Publication Date Title
JP6419830B2 (en) System, method and apparatus for image retrieval
TWI489397B (en) Method, apparatus and computer program product for providing adaptive gesture analysis
JP4765732B2 (en) Movie editing device
WO2014041912A1 (en) Image processing system, image processing method and program
US11665311B2 (en) Video processing system
JP6806188B2 (en) Information processing system, information processing method and program
JP2009027393A (en) Image searching system and personal searching method
JP2007310568A (en) Method for detecting traveling object in video, and method and system for supporting abnormality occurrence factor analysis of video system
JP2006277666A (en) Display screen position analysis device and program
CN112703533A (en) Object tracking
JP2018081630A (en) Search device, search method and program
JP4496992B2 (en) Animal up-frame detection method, program, and storage medium storing program, and animal up-shot detection method, animal up-frame or shot detection method, program, and storage medium
JP2010140425A (en) Image processing system
JP2008022142A (en) Method, apparatus and program for detecting pitching event, and computer-readable recording medium
JP6853528B2 (en) Video processing programs, video processing methods, and video processing equipment
JP2008299834A (en) Photographic subject tracking program and photographic subject tracking device
JP5908924B2 (en) Audio processing apparatus, method, program, and integrated circuit
JP6478643B2 (en) Information processing apparatus, information processing method, and program
KR20170119214A (en) Apparatus and method for characteristic inference of multimedia contents
JP4640001B2 (en) Video processing method and apparatus, program, and storage medium storing program
JP2009225211A (en) Information processing apparatus and method, and program
JP2020136855A (en) Monitoring system, monitor support device, monitoring method, monitor support method, and program
JP2007004663A (en) Action identification device, action identification method, program and storage medium
KR101573482B1 (en) Apparatus for inserting advertisement using frame clustering and method thereof
JP2014074957A (en) Image processing apparatus and image processing method