JP5297677B2 - Detection apparatus and method, program, recording medium, and simulation system - Google Patents

Detection apparatus and method, program, recording medium, and simulation system Download PDF

Info

Publication number
JP5297677B2
JP5297677B2 JP2008099994A JP2008099994A JP5297677B2 JP 5297677 B2 JP5297677 B2 JP 5297677B2 JP 2008099994 A JP2008099994 A JP 2008099994A JP 2008099994 A JP2008099994 A JP 2008099994A JP 5297677 B2 JP5297677 B2 JP 5297677B2
Authority
JP
Japan
Prior art keywords
image
golf ball
feature points
feature point
rotation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008099994A
Other languages
Japanese (ja)
Other versions
JP2009247642A (en
Inventor
幸夫 下ノ原
晋 高橋
哲也 中村
由貴子 日吉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bridgestone Sports Co Ltd
Original Assignee
Bridgestone Sports Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bridgestone Sports Co Ltd filed Critical Bridgestone Sports Co Ltd
Priority to JP2008099994A priority Critical patent/JP5297677B2/en
Publication of JP2009247642A publication Critical patent/JP2009247642A/en
Application granted granted Critical
Publication of JP5297677B2 publication Critical patent/JP5297677B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To accurately detect the rotation of any ball despite its type. <P>SOLUTION: A characteristic point extraction section 91 detects edges in a first image and a second image, and stores the plurality of detected edges as characteristic point groups of the first image and the second image respectively. A simple rotation section 92 specifies a coordinate position in a three-dimensional space of the characteristic point group of the first image, rotates the coordinate position of the characteristic point group by a predetermined Eulerian angle and specifies the Eulerian angle where a distance between proximate characteristic points is minimized. A characteristic point association control section 93 rotates the first image by the Eulerian angle of the minimum distance of the proximate characteristic points and associates the two characteristic points in the first image and the second image respectively based on correlative values computed between the first image and the second image. A rotation speed detection control section 94 specifies the rotation and the rotation direction of a golf ball per unit time based on the associated characteristic points and detects information related to the rotation speed and the like. <P>COPYRIGHT: (C)2010,JPO&amp;INPIT

Description

本発明は、検出装置および方法、プログラム、記録媒体、並びにシミュレーションシステムに関し、特に、どのようなボールであっても、正確に回転を検出することができるようにする検出装置および方法、プログラム、記録媒体、並びにシミュレーションシステムに関する。   The present invention relates to a detection apparatus and method, a program, a recording medium, and a simulation system, and in particular, a detection apparatus and method, program, and recording that can accurately detect rotation of any ball. The present invention relates to a medium and a simulation system.

近年、スポーツクラブなどにおいて、ゴルフやテニスなどのレッスンの需要が増加している。なかでもゴルフの練習は、広大な敷地が必要となり、例えば都会でゴルフのレッスンを行うことは困難であった。   In recent years, demand for lessons such as golf and tennis is increasing in sports clubs and the like. In particular, golf practice required a large site, and for example, it was difficult to conduct golf lessons in the city.

そこで、例えば、ゴルフクラブでショットした瞬間のゴルフボールをカメラで撮像し、撮像された画像データから得られたゴルフボールの速度等の各種データを用いてゴルフボールの弾道軌道や飛距離を計算してスクリーンにゴルフボールの弾道を表示するシミュレーションシステムが開発されている。   Therefore, for example, a golf ball shot with a golf club is captured with a camera, and the ballistic trajectory and flight distance of the golf ball are calculated using various data such as the velocity of the golf ball obtained from the captured image data. A simulation system that displays the trajectory of a golf ball on a screen has been developed.

また、空力特性を考慮した弾道、飛距離などを計算するシミュレーション装置も提案されている(例えば、特許文献1参照)。   In addition, a simulation apparatus that calculates a trajectory, a flight distance, and the like considering aerodynamic characteristics has also been proposed (see, for example, Patent Document 1).

さらに、近年、ゴルフクラブでショットした瞬間のゴルフボールの画像からゴルフボールの回転の方向、回転数などを検出し、フックやスライスなどの弾道を計算するシミュレーションシステムも開発されている。   Further, in recent years, a simulation system has been developed that detects the direction and number of rotation of a golf ball from the image of the golf ball shot with a golf club and calculates the trajectory of a hook or slice.

特開2003−24493号公報JP 2003-24493 A

しかしながら、従来の技術によりゴルフボールの回転の方向、回転数などを検出するためには、画像の中でのボールの回転方向、回転した角度など特定するために、予め定められたマークや模様の付されたゴルフボールを用いる必要があった。   However, in order to detect the direction of rotation and the number of rotations of a golf ball by conventional techniques, in order to specify the rotation direction and the angle of rotation of the ball in an image, It was necessary to use the attached golf ball.

このため、例えば、ユーザが気に入っているボールなどを自由に使って、シミュレーションシステムを利用することができないという課題があった。   Therefore, for example, there is a problem that the simulation system cannot be used by freely using a ball that the user likes.

本発明はこのような状況に鑑みてなされたものであり、どのようなボールであっても、正確に回転を検出することができるようにするものである。   The present invention has been made in view of such a situation, and makes it possible to accurately detect the rotation of any ball.

本発明の第1の側面は、移動するゴルフボールを撮像した画像に基づいて、前記ゴルフボールの回転を検出する検出装置であって、前記ゴルフボールを第1の時刻に撮像した第1画像、および前記ゴルフボールを前記第1の時刻より後の第2時刻に撮像した第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点を抽出する特徴点抽出手段と、前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角を特定するオイラー角特定手段と、前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値を、画像相関法により演算する相関演算手段と、前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けを行う対応付け手段とを備え、前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向を検出する検出装置である。   A first aspect of the present invention is a detection device that detects rotation of the golf ball based on an image obtained by imaging a moving golf ball, the first image obtained by imaging the golf ball at a first time, And a plurality of images constituting part of the image of the surface of the golf ball by detecting pixels that are edges in each of the second images obtained by capturing the golf ball at a second time after the first time. A feature point extracting means for extracting the feature points, a three-dimensional coordinate position of the plurality of feature points extracted in the first image, and a three-dimensional coordinate position of the plurality of feature points extracted in the second image The Euler angle specifying means for specifying the Euler angle representing the positional relationship between the first image and the second image based on the distance to each of the first image, and the first image corresponding to the specified Euler angle. A predetermined feature point of the extracted feature points in the rotated first image, and a predetermined feature point of the extracted feature points in the second image. Correlation calculating means for calculating a correlation value by an image correlation method, and correlation for associating a feature point of the first image with a feature point of the second image based on the calculated correlation value Means for detecting the amount and direction of rotation of the golf ball based on the associated feature points of the first image and the second image.

前記第1の時刻において発光する第1のストロボと、前記第2の時刻において発光する第2のストロボと、前記第1の時刻および第2の時刻において前記ゴルフボールを被写体として撮像する1つのカメラとをさらに備え、前記第1画像に対応する前記ゴルフボールの画像および前記第1画像に対応する前記ゴルフボールの画像が、前記1つのカメラにより撮像されるようにすることができる。   A first strobe that emits light at the first time, a second strobe that emits light at the second time, and one camera that images the golf ball as a subject at the first time and the second time The image of the golf ball corresponding to the first image and the image of the golf ball corresponding to the first image can be captured by the one camera.

前記オイラー角特定手段は、与えられたパラメータに基づいて、前記第1画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれを、前記パラメータに対応するオイラー角の分だけ回転させて前記第2の画像上にプロットする特徴点回転手段と、前記与えられたパラメータのうち、前記回転された前記第1画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれと、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて計算される評価値が最も高くなる前記パラメータを特定するパラメータ特定手段とを備えるようにすることができる。   The Euler angle specifying means rotates each of the three-dimensional coordinate positions of the extracted feature points in the first image by an Euler angle corresponding to the parameter based on a given parameter. Feature point rotation means for plotting on the second image, each of the three-dimensional coordinate positions of the plurality of feature points extracted in the rotated first image among the given parameters, A parameter specifying unit that specifies the parameter having the highest evaluation value calculated based on the distance from each of the three-dimensional coordinate positions of the extracted feature points in the second image; it can.

本発明の第1の側面は、移動するゴルフボールを撮像した画像に基づいて、前記ゴルフボールの回転を検出する検出装置の検出方法であって、前記ゴルフボールを第1の時刻に撮像した第1画像、および前記ゴルフボールを前記第1の時刻より後の第2時刻に撮像した第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点を抽出し、前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角を特定し、前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値を、画像相関法により演算し、前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けを行うステップを含み、前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向を検出する検出方法である。   According to a first aspect of the present invention, there is provided a detection method for detecting a rotation of the golf ball based on an image of a moving golf ball, wherein the golf ball is imaged at a first time. In each of one image and a second image obtained by imaging the golf ball at a second time after the first time, a part of the image on the surface of the golf ball is detected by detecting pixels that are edges. A plurality of constituent feature points are extracted, and three-dimensional coordinate positions of the extracted feature points in the first image and three-dimensional coordinate positions of the extracted feature points in the second image, respectively. The Euler angle representing the positional relationship between the first image and the second image is identified based on the distance to the first image, the first image is rotated by the identified Euler angle, and the rotated first 1 stroke A correlation value between a predetermined feature point of the plurality of extracted feature points and a predetermined feature point of the plurality of extracted feature points in the second image is calculated by an image correlation method. And a step of associating a feature point of the first image with a feature point of the second image based on the calculated correlation value, and the feature of the associated first image In this detection method, the amount and direction of rotation of the golf ball are detected based on a point and a feature point of the second image.

本発明の一側面は、コンピュータを、移動するゴルフボールを撮像した画像に基づいて、前記ゴルフボールの回転を検出する検出装置であって、前記ゴルフボールを第1の時刻に撮像した第1画像、および前記ゴルフボールを前記第1の時刻より後の第2時刻に撮像した第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点を抽出する特徴点抽出手段と、前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角を特定するオイラー角特定手段と、前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値を、画像相関法により演算する相関演算手段と、前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けを行う対応付け手段とを備え、前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向を検出する検出装置として機能させるプログラムである。   One aspect of the present invention is a detection device that detects rotation of the golf ball based on an image obtained by imaging a moving golf ball, and the first image obtained by imaging the golf ball at a first time. , And a second image obtained by imaging the golf ball at a second time after the first time, by detecting a pixel serving as an edge, a part of the image of the surface of the golf ball is formed Feature point extracting means for extracting a plurality of feature points, three-dimensional coordinate positions of the plurality of feature points extracted in the first image, and three-dimensional coordinates of the plurality of feature points extracted in the second image An Euler angle specifying means for specifying an Euler angle representing a positional relationship between the first image and the second image based on a distance from each of the positions; and an amount corresponding to the specified Euler angle. One image is rotated, a predetermined feature point among the plurality of feature points extracted in the rotated first image, and a predetermined one of the plurality of feature points extracted in the second image. Correlation calculation means for calculating a correlation value with a feature point by an image correlation method, and correspondence between the feature point of the first image and the feature point of the second image based on the calculated correlation value A detecting device for detecting the amount of rotation and the direction of rotation of the golf ball based on the feature points of the first image and the feature points of the second image that are associated with each other. It is a program that makes it work.

本発明の第1の側面においては、前記ゴルフボールを第1の時刻に撮像した第1画像、および前記ゴルフボールを前記第1の時刻より後の第2時刻に撮像した第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点が抽出され、前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角が特定され、前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値が、画像相関法により演算され、前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けけが行われ、前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向が検出される。   In the first aspect of the present invention, in each of a first image obtained by imaging the golf ball at a first time and a second image obtained by imaging the golf ball at a second time after the first time. The plurality of feature points constituting a part of the image of the surface of the golf ball are extracted by detecting pixels as edges, and the three-dimensional coordinate positions of the extracted feature points in the first image And an Euler angle representing a positional relationship between the first image and the second image based on a distance from each of the three-dimensional coordinate positions of the plurality of feature points extracted in the second image, The first image is rotated by an amount corresponding to the specified Euler angle, a predetermined feature point among the plurality of extracted feature points in the rotated first image, and the extracted in the second image. The A correlation value with a predetermined feature point among the number of feature points is calculated by an image correlation method, and based on the calculated correlation value, the feature point of the first image and the feature of the second image Association with points is performed, and the amount of rotation and the direction of rotation of the golf ball are detected based on the feature points of the first image and the feature points of the second image that are associated with each other.

本発明の第2の側面は、打撃されたゴルフボールを第1の時刻に撮像した第1画像および前記ゴルフボールを前記第1の時刻より後の第2の時刻に撮像した第2画像に基づいて検出される前記ゴルフボールの速度と前記ゴルフボールの回転とに基づいて、前記打撃された後の前記ゴルフボールの軌跡を計算して前記軌跡に従って飛ぶゴルフボールの画像をスクリーンに表示するシミュレーション装置であって、前記第1画像および前記第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点を抽出する特徴点抽出手段と、前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角を特定するオイラー角特定手段と、前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値を、画像相関法により演算する相関演算手段と、前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けを行う対応付け手段とを備え、前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向を検出する検出装置を有するシミュレーションシステムである。   The second aspect of the present invention is based on a first image obtained by imaging a hit golf ball at a first time and a second image obtained by imaging the golf ball at a second time after the first time. A simulation device for calculating a trajectory of the golf ball after being hit based on the detected velocity of the golf ball and the rotation of the golf ball and displaying an image of the golf ball flying according to the trajectory on the screen A feature point extraction that extracts a plurality of feature points constituting a part of the image of the surface of the golf ball by detecting pixels that are edges in each of the first image and the second image. Means, three-dimensional coordinate positions of the plurality of feature points extracted in the first image, and three-dimensional coordinate positions of the plurality of feature points extracted in the second image. Euler angle specifying means for specifying an Euler angle representing a positional relationship between the first image and the second image based on a distance from each of the first image, and the first image corresponding to the specified Euler angle. A predetermined feature point of the plurality of extracted feature points in the rotated first image and a predetermined feature point of the plurality of extracted feature points in the second image Correlation calculating means for calculating a correlation value by an image correlation method, and correlation for associating a feature point of the first image with a feature point of the second image based on the calculated correlation value A simulation system comprising: a detecting device configured to detect a rotation amount and a rotation direction of the golf ball based on the associated feature point of the first image and the feature point of the second image. is there.

本発明の第2の側面においては、前記第1画像および前記第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点を抽出する特徴点抽出手段と、前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角を特定するオイラー角特定手段と、前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値を、画像相関法により演算する相関演算手段と、前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けを行う対応付け手段とを備え、前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向を検出する検出装置によりゴルフボールの回転が検出される。   In the second aspect of the present invention, a plurality of feature points constituting a part of the image of the surface of the golf ball by detecting pixels serving as edges in each of the first image and the second image. A feature point extracting means for extracting a plurality of feature points extracted from the first image, and a three-dimensional coordinate position of the plurality of feature points extracted from the second image. The Euler angle specifying means for specifying the Euler angle representing the positional relationship between the first image and the second image based on the distance of the first image, and rotating the first image by the specified Euler angle, A correlation value between a predetermined feature point of the plurality of extracted feature points in the rotated first image and a predetermined feature point of the plurality of feature points extracted in the second image, Image correlation Correlation calculating means for calculating by the above, and associating means for associating the feature point of the first image with the feature point of the second image based on the calculated correlation value, Based on the feature point of the attached first image and the feature point of the second image, the rotation of the golf ball is detected by a detection device that detects the amount and direction of rotation of the golf ball.

本発明によれば、どのようなボールであっても、正確に回転を検出することができる。   According to the present invention, rotation can be accurately detected for any ball.

以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書または図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書または図面に記載されていることを確認するためのものである。従って、明細書または図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。   Embodiments of the present invention will be described below. Correspondences between constituent elements of the present invention and the embodiments described in the specification or the drawings are exemplified as follows. This description is intended to confirm that the embodiments supporting the present invention are described in the specification or the drawings. Therefore, even if there is an embodiment which is described in the specification or the drawings but is not described here as an embodiment corresponding to the constituent elements of the present invention, that is not the case. It does not mean that the form does not correspond to the constituent requirements. Conversely, even if an embodiment is described here as corresponding to a configuration requirement, that means that the embodiment does not correspond to a configuration requirement other than the configuration requirement. It's not something to do.

本発明の第1の側面の検出装置は、移動するゴルフボールを撮像した画像に基づいて、前記ゴルフボールの回転を検出する検出装置(例えば、図4の回転検出部72を有する図1のセンシングブロック22)であって、前記ゴルフボールを第1の時刻に撮像した第1画像、および前記ゴルフボールを前記第1の時刻より後の第2時刻に撮像した第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点を抽出する特徴点抽出手段(例えば、図5の特徴点抽出部91)と、前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角を特定するオイラー角特定手段(例えば、図5の簡易回転部92)と、前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値を、画像相関法により演算する相関演算手段(例えば、図19のステップS91乃至S94の処理を実行する図5の特徴点対応制御部93)と、前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けを行う対応付け手段(例えば、図19のステップS95の処理を実行する図5の特徴点対応制御部93)とを備え、前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向を検出する。   The detection device according to the first aspect of the present invention is a detection device that detects the rotation of the golf ball based on an image of a moving golf ball (for example, the sensing of FIG. 1 having the rotation detection unit 72 of FIG. Block 22), each of a first image obtained by imaging the golf ball at a first time, and a second image obtained by imaging the golf ball at a second time after the first time; A feature point extracting unit (for example, feature point extracting unit 91 in FIG. 5) for extracting a plurality of feature points constituting a part of the image of the surface of the golf ball by detecting the pixel, and the first image And the first image and the first image based on the distances between the three-dimensional coordinate positions of the plurality of feature points extracted and the three-dimensional coordinate positions of the plurality of feature points extracted in the second image. Euler angle specifying means (for example, the simple rotation unit 92 in FIG. 5) for specifying the Euler angle representing the positional relationship of the image, and the first image is rotated by the specified Euler angle, and the rotated image is rotated. A correlation value between a predetermined feature point of the plurality of feature points extracted in the first image and a predetermined feature point of the plurality of feature points extracted in the second image is calculated using an image correlation method. Based on the calculated correlation value (for example, the feature point correspondence control unit 93 in FIG. 5 that executes the processing of steps S91 to S94 in FIG. 19), and the feature of the first image based on the calculated correlation value An association means for associating a point with the feature point of the second image (for example, the feature point correspondence control unit 93 in FIG. 5 that executes the process of step S95 in FIG. 19), Said first image Based on the feature points of the feature points second image to detect the rotation direction and rotation amount of the golf ball.

移動するゴルフボールを撮像した画像に基づいて、前記ゴルフボールの回転を検出する検出装置(例えば、図4の回転検出部72を有する図1のセンシングブロック22)の検出方法であって、前記ゴルフボールを第1の時刻に撮像した第1画像、および前記ゴルフボールを前記第1の時刻より後の第2時刻に撮像した第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点を抽出し(例えば、図16のステップS31の処理)、前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角を特定し(例えば、図16のステップS32の処理)、前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値を、画像相関法により演算し(例えば、図19のステップS91乃至S94の処理)、前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けを行う(例えば、図19のステップS95の処理)ステップを含み、前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向を検出する。   A detection method of a detection device (for example, the sensing block 22 of FIG. 1 having the rotation detection unit 72 of FIG. 4) that detects the rotation of the golf ball based on an image of a moving golf ball. In each of a first image obtained by imaging the ball at a first time and a second image obtained by imaging the golf ball at a second time after the first time, pixels that become edges are detected, A plurality of feature points constituting a part of the image of the surface of the golf ball are extracted (for example, the process of step S31 in FIG. 16), and the three-dimensional coordinate positions of the extracted feature points in the first image are And an Euler angle representing a positional relationship between the first image and the second image based on a distance from each of the three-dimensional coordinate positions of the extracted feature points in the second image. (For example, the process of step S32 in FIG. 16), the first image is rotated by the specified Euler angle, and among the extracted feature points in the rotated first image. A correlation value between the predetermined feature point of the second feature point and a predetermined feature point of the plurality of feature points extracted in the second image is calculated by an image correlation method (for example, in steps S91 to S94 in FIG. 19). Processing) and associating the feature points of the first image with the feature points of the second image based on the calculated correlation value (for example, the processing of step S95 in FIG. 19). The rotation amount and the rotation direction of the golf ball are detected based on the associated feature points of the first image and the second image.

以下、図面を参照して、本発明の実施の形態について説明する。   Embodiments of the present invention will be described below with reference to the drawings.

図1は、本発明の一実施の形態に係るシミュレーションシステム10の例を示す図である。シミュレーションシステム10は、例えば、ゴルフの練習に用いられるようになされており、スポーツクラブなどに設置される。   FIG. 1 is a diagram showing an example of a simulation system 10 according to an embodiment of the present invention. The simulation system 10 is used for golf practice, for example, and is installed in a sports club or the like.

シミュレーションシステム10においては、ユーザがゴルフクラブでショットした直後のゴルフボールの画像をセンシングブロック22により撮像して解析し、ゴルフボールの弾道を計算する。そして、例えば、ゴルフコースなどの画像などとともに、計算された弾道で飛ぶゴルフボールの画像をスクリーン21に表示するようになされている。   In the simulation system 10, an image of a golf ball immediately after a user shots with a golf club is captured and analyzed by the sensing block 22, and the trajectory of the golf ball is calculated. For example, an image of a golf ball flying on a calculated trajectory is displayed on the screen 21 along with an image of a golf course or the like.

シミュレーションシステム10においては、実際のゴルフのプレイに用いられるゴルフクラブと、ゴルフボールが使用され、ユーザは、実際にゴルフ場でゴルフのプレイをするように、ゴルフクラブでゴルフボールをショットする。すなわち、シミュレーションシステム10を利用することで、例えば、限られた空間であっても、ユーザは、あたかもゴルフ場でプレイしているような体験をすることが可能となる。   In the simulation system 10, a golf club and a golf ball used for actual golf play are used, and the user shots the golf ball with the golf club so as to actually play golf on the golf course. That is, by using the simulation system 10, for example, even in a limited space, the user can experience as if he / she is playing on a golf course.

なお、シミュレーションシステム10において用いられるゴルフボールは、特別なマーク、模様、着色などが付されたボールである必要はなく、広く一般に販売されているゴルフボールなどとされる。   Note that the golf ball used in the simulation system 10 does not need to be a ball with a special mark, pattern, coloring, or the like, and is a golf ball that is widely sold generally.

図2は、センシングブロック22の構成例を示すブロック図である。同図に示されるように、センシングブロック22は、CCDカメラなどを備えたセンサ部41が、データ処理部42に接続されて構成されている。   FIG. 2 is a block diagram illustrating a configuration example of the sensing block 22. As shown in the figure, the sensing block 22 is configured by connecting a sensor unit 41 having a CCD camera or the like to a data processing unit 42.

センサ部41は、例えば、2台のCCDカメラであって、第1カメラと第2カメラとを有する構成とされ、同図の例では、第1カメラのレンズ51と第2カメラのレンズ52が示されている。第1カメラは、例えば、シミュレーションシステム10の打席に組み込まれたティー(tee)などに接続されたセンサから出力される信号などに基づいて、ゴルフボールがゴルフクラブでショットされた時のゴルフボールの画像を撮像するようになされている。第2カメラは、第1カメラによる撮像がなされた後、所定の時間(例えば、数ミリ秒)だけ後のゴルフボールの画像を撮像するようになされている。   The sensor unit 41 is, for example, two CCD cameras, and includes a first camera and a second camera. In the example of the figure, a lens 51 of the first camera and a lens 52 of the second camera are included. It is shown. The first camera is, for example, a golf ball when a golf ball is shot with a golf club based on a signal output from a sensor connected to a tee or the like incorporated in a bat of the simulation system 10. An image is taken. The second camera captures an image of the golf ball after a predetermined time (for example, several milliseconds) after the first camera captures the image.

センサ部41の第1のカメラで撮像された画像のデータと、第2のカメラで撮像された画像のデータは、データ処理部42に供給されるようになされている。   Data of an image captured by the first camera of the sensor unit 41 and data of an image captured by the second camera are supplied to the data processing unit 42.

データ処理部42は、例えば、プロセッサ、メモリなどを有する構成とされた、予め記憶されているプログラムなどのソフトウェアに対応する処理を実行するようになされている。データ処理部42は、第1のカメラで撮像された画像のデータと、第2のカメラで撮像された画像のデータとに基づいて、ゴルフボールの速度、並びに単位時間当たりのゴルフボールの回転数および回転方向を算出し、ゴルフボールの速度、並びに単位時間当たりのゴルフボールの回転数および回転方向に基づいて、弾道を計算してスクリーン21に表示すべき画像データを生成するようになされている。   The data processing unit 42 is configured to include a processor, a memory, and the like, and executes processing corresponding to software such as a prestored program. The data processing unit 42 determines the speed of the golf ball and the number of rotations of the golf ball per unit time based on the data of the image captured by the first camera and the data of the image captured by the second camera. The rotation direction is calculated, and the trajectory is calculated based on the speed of the golf ball and the rotation number and rotation direction of the golf ball per unit time, and image data to be displayed on the screen 21 is generated. .

図3は、データ処理部42のプログラムなどのソフトウェアの機能的構成例を示すブロック図である。   FIG. 3 is a block diagram illustrating a functional configuration example of software such as a program of the data processing unit 42.

同図の撮像制御部61は、センサ部41によるゴルフボールの撮像を制御するようになされており、センサ部41の第1カメラにより、ゴルフクラブでショットされた時のゴルフボールの画像である第1画像を撮像させ、第2カメラにより、第1カメラによる撮像がなされた後、所定の時間だけ後のゴルフボールの画像である第2画像を撮像させる。   The imaging control unit 61 in the figure controls the imaging of the golf ball by the sensor unit 41, and is a golf ball image when shot with a golf club by the first camera of the sensor unit 41. One image is picked up, and the second camera picks up a second image, which is an image of the golf ball after a predetermined time, after being picked up by the first camera.

撮像制御部61は、センサ部41により撮影された第1画像のデータと第2画像のデータを画像解析部62に出力する。   The imaging control unit 61 outputs the first image data and the second image data captured by the sensor unit 41 to the image analysis unit 62.

画像解析部62は、第1画像のデータと、第2画像のデータとに基づいて、後述するように、ゴルフボールの速度、並びに単位時間当たりのゴルフボールの回転数および回転方向を算出するようになされている。そして、画像解析部62は、ゴルフボールの速度、並びに単位時間当たりのゴルフボールの回転数および回転方向に基づいて、ゴルフボールの動きを特定し、時間の経過に伴うゴルフボールの位置を、例えば、座標値として演算するようになされている。   Based on the data of the first image and the data of the second image, the image analysis unit 62 calculates the speed of the golf ball, the number of rotations and the direction of rotation of the golf ball per unit time, as will be described later. Has been made. Then, the image analysis unit 62 specifies the movement of the golf ball based on the speed of the golf ball, the number of rotations and the rotation direction of the golf ball per unit time, and determines the position of the golf ball over time, for example, The coordinate value is calculated.

シミュレーション画像生成部63は、画像解析部62により演算された時間の経過に伴うゴルフボールの位置に基づいて、弾道を特定し、その弾道に対応するゴルフボールの画像の表示データを生成する。そして、シミュレーション画像生成部63は、ゴルフボールの画像を、ゴルフコースの画像などと合成し、スクリーン21に表示すべき画像データを生成するようになされている。   The simulation image generation unit 63 identifies the trajectory based on the position of the golf ball with the passage of time calculated by the image analysis unit 62, and generates display data of the golf ball image corresponding to the trajectory. The simulation image generation unit 63 generates an image data to be displayed on the screen 21 by combining the golf ball image with a golf course image or the like.

すなわち、画像解析部62により、ショットされた後、実際にゴルフボールが飛んでいく軌跡が予測され、シミュレーション画像生成部63により、その軌跡に従って飛ぶボールの画像が生成されてスクリーンに表示されることになる。   That is, a trajectory in which a golf ball actually flies after being shot is predicted by the image analysis unit 62, and an image of the flying ball is generated according to the trajectory by the simulation image generation unit 63 and displayed on the screen. become.

図4は、画像解析部62の詳細な構成例を示すブロック図である。同図に示されるように、画像解析部62は、速度検出部71、回転検出部72、および動き演算部73により構成されている。   FIG. 4 is a block diagram illustrating a detailed configuration example of the image analysis unit 62. As shown in the figure, the image analysis unit 62 includes a speed detection unit 71, a rotation detection unit 72, and a motion calculation unit 73.

速度検出部71は、例えば、第1画像と第2画像とに基づいて、単位時間当たりのゴルフボールの移動距離を特定し、ゴルフクラブでショットされたゴルフボールの速度を算出(検出)する機能ブロックとされる。なお、速度検出部71は、例えば、従来のゴルフのシミュレーションシステムなどに用いられているものと同様のものを利用することが可能である。   For example, the speed detection unit 71 specifies a movement distance of the golf ball per unit time based on the first image and the second image, and calculates (detects) the speed of the golf ball shot by the golf club. A block. For example, the speed detection unit 71 may be the same as that used in a conventional golf simulation system.

回転検出部72は、第1画像と第2画像とに基づいて、単位時間当たりのゴルフボールの回転量と回転方向を特定し、ゴルフクラブでショットされたゴルフボールの単位時間当たりの回転数、および回転方向を表す数値などを含む回転に関する情報を検出するための機能ブロックとされる。なお、回転検出部72の詳細については、図5を参照して後述する。   The rotation detection unit 72 specifies the rotation amount and rotation direction of the golf ball per unit time based on the first image and the second image, and the rotation number per unit time of the golf ball shot by the golf club, And a function block for detecting information related to rotation including a numerical value indicating the rotation direction. Details of the rotation detector 72 will be described later with reference to FIG.

動き演算部73は、速度検出部71により検出されたゴルフボールの速度、および回転検出部72により検出されたゴルフボールの回転に関する情報に基づいて、例えば、ショットされたゴルフボールが飛んでいく軌跡(弾道)を計算する。動き演算部73は、例えば、所定の時刻におけるゴルフボールの位置を座標値として特定するなどして時間の経過に伴うゴルフボールの位置を予測してゴルフボールの弾道を計算するようになされている。なお、動き演算部73は、例えば、従来のゴルフのシミュレーションシステムなどに用いられているものと同様のものを利用することが可能である。   The motion calculation unit 73 is based on the golf ball speed detected by the speed detection unit 71 and the information on the rotation of the golf ball detected by the rotation detection unit 72, for example, the trajectory of the shot golf ball flying. Calculate the trajectory. For example, the motion calculation unit 73 is configured to calculate the trajectory of the golf ball by predicting the position of the golf ball over time by specifying the position of the golf ball at a predetermined time as a coordinate value. . For example, the motion calculation unit 73 may be the same as that used in a conventional golf simulation system.

図5は、回転検出部72の詳細な構成例を示すブロック図である。同図に示されるように、回転検出部72は、特徴点抽出部91、簡易回転部92、特徴点対応制御部93、および回転数検出制御部94により構成されている。   FIG. 5 is a block diagram illustrating a detailed configuration example of the rotation detection unit 72. As shown in the figure, the rotation detection unit 72 includes a feature point extraction unit 91, a simple rotation unit 92, a feature point correspondence control unit 93, and a rotation number detection control unit 94.

特徴点抽出部91は、第1画像および第2画像において、エッジを検出する。ここで、エッジは、例えば、画像の中で画素の輝度値の変化が予め設定された閾値より大きい領域とされる。特徴点抽出部91は、第1画像において検出された複数のエッジを、それぞれ第1画像の特徴点として記憶し、第2画像において検出された複数のエッジを、それぞれ第2画像の特徴点として記憶するようになされている。   The feature point extraction unit 91 detects edges in the first image and the second image. Here, the edge is, for example, an area in the image where the change in the luminance value of the pixel is larger than a preset threshold value. The feature point extraction unit 91 stores a plurality of edges detected in the first image as feature points of the first image, respectively, and uses a plurality of edges detected in the second image as feature points of the second image, respectively. It is made to memorize.

図6は、ゴルフボールの画像の例であり、ゴルフボールの画像から検出される特徴点の例を説明するための図である。同図に示されるゴルフボールには、黒い2つの三角形と黒い1つの四角形により構成されるマークであって、アルファベット「F」の文字を図形化したマーク(以下、単にマークと称する)が付されている。図6の画像を特徴点抽出部91により解析させると、マークの輪郭を構成する画素を含む領域がエッジとして検出され、これらのエッジであって、例えば、図中の小さい矩形で示される領域のそれぞれが特徴点として記憶されることになる。   FIG. 6 is an example of an image of a golf ball, and is a diagram for explaining an example of feature points detected from the image of the golf ball. The golf ball shown in FIG. 1 is a mark composed of two black triangles and one black square, and a mark (hereinafter simply referred to as a mark) in which the letter “F” is made into a graphic. ing. When the image of FIG. 6 is analyzed by the feature point extraction unit 91, areas including pixels constituting the outline of the mark are detected as edges, and these edges, for example, the areas indicated by small rectangles in the figure are detected. Each is stored as a feature point.

図7は、特徴点が検出された第1画像の例であり、図8は、特徴点が検出された第2画像の例を示している。同図に示されるように、第1画像と第2画像のそれぞれにおいて、マークの輪郭を構成する画素を含む領域(この例では矩形の領域)のそれぞれが特徴点として検出されている。   FIG. 7 shows an example of a first image in which feature points are detected, and FIG. 8 shows an example of a second image in which feature points are detected. As shown in the figure, in each of the first image and the second image, each of the regions (in this example, a rectangular region) including the pixels constituting the outline of the mark is detected as a feature point.

また、図7の第1画像より時間的に後で撮像された図8の第2画像においては、ゴルフクラブでショットされたゴルフボールが回転したことにより、マークの位置が図中右上方向に移動している。   Further, in the second image in FIG. 8 taken after the first image in FIG. 7, the position of the mark moves in the upper right direction in the figure due to the rotation of the golf ball shot with the golf club. doing.

なお、ここでは、説明を簡単にするため、黒い2つの三角形と黒い1つの四角形により構成されるマークの例を各図に示しているが、実際には、広く一般に販売されているゴルフボールに付されたブランド名、メーカ名などを表示する文字列、模様などからなる標章などの輪郭がエッジとして検出され、特徴点となる。また、当然のことながら、本発明では、ゴルフボールの色、ゴルフボールに付された標章の色などの如何により特徴点の検出に不具合が生じることもない。要は、撮像された画像において、エッジとして検出される部分がゴルフボールの表面の一部に存在していればよいのである。   Here, in order to simplify the explanation, examples of marks composed of two black triangles and one black square are shown in each figure. A contour such as a mark including a brand name, a maker name, etc., and a mark made up of a pattern is detected as an edge and becomes a feature point. Further, as a matter of course, in the present invention, there is no problem in detecting the feature points depending on the color of the golf ball, the color of the mark attached to the golf ball, or the like. In short, it is only necessary that a part detected as an edge exists in a part of the surface of the golf ball in the captured image.

すなわち、本発明においては、任意の形状、色彩、模様などにより構成されたゴルフボールの表面の一部分を特徴点として検出することが可能である。   That is, in the present invention, it is possible to detect a part of the surface of the golf ball formed of an arbitrary shape, color, pattern, etc. as a feature point.

簡易回転部92は、第1画像において検出された特徴点のそれぞれを、第2画像において検出された特徴点に近づけるように回転させる。このとき、第1画像において検出された特徴点のそれぞれは、3次元空間において回転させられるようになされている。   The simple rotation unit 92 rotates each feature point detected in the first image so as to approach the feature point detected in the second image. At this time, each of the feature points detected in the first image is rotated in the three-dimensional space.

例えば、図9に示されるように、第1画像において、複数の特徴点からなる特徴点群111が検出されたものとし、図10に示されるように、第2画像において、複数の特徴点からなる特徴点群112が検出されたものとする。なお、図9において特徴点群111は、一点鎖線で示されており、図10において特徴点群112は、点線で示されている。   For example, as illustrated in FIG. 9, it is assumed that a feature point group 111 including a plurality of feature points is detected in the first image, and as illustrated in FIG. 10, from the plurality of feature points in the second image. It is assumed that the feature point group 112 is detected. In FIG. 9, the feature point group 111 is indicated by a one-dot chain line, and in FIG. 10, the feature point group 112 is indicated by a dotted line.

簡易回転部92は、例えば、特徴点群111の3次元空間内での座標位置を特定し、その特徴点群111の座標位置を所定のオイラー角だけ回転させる。勿論、第1画像と第2画像は、それぞれ2次元の画像であるが、ゴルフボールは、ほぼ真球に近い形状であると考えられるので、2次元の画像の座標位置から、3次元空間内での座標位置を特定することができるのである。   For example, the simple rotation unit 92 specifies the coordinate position of the feature point group 111 in the three-dimensional space, and rotates the coordinate position of the feature point group 111 by a predetermined Euler angle. Of course, the first image and the second image are two-dimensional images, respectively. However, since a golf ball is considered to have a shape close to a true sphere, the coordinate position of the two-dimensional image The coordinate position at can be specified.

簡易回転部92は、例えば、図11に示されるように、ゴルフボールの画像の中心点(cx,cy)と半径rを特定し、図中の点線の矢印で示されるように、与えられたオイラー角に対応する位置に、特徴点群111の3次元空間内での座標位置を移動させる。なお、ここでのオイラー角は、α、β、γの3つのパラメータにより特定されるものとする。例えば、オイラー角が、α=30,β=31,γ=32の場合、z軸周りに30°回転させた後、x軸周りに31°回転させ(このとき回転したz軸をz’軸とする)、さらにz’軸周りに32°回転させることを意味するものとする。なお、ここでは画面に垂直な軸をz軸とし、画面後方から前方向きを正方向とする。   For example, as shown in FIG. 11, the simple rotation unit 92 specifies the center point (cx, cy) and radius r of the image of the golf ball, and is given as indicated by the dotted arrow in the figure. The coordinate position of the feature point group 111 in the three-dimensional space is moved to a position corresponding to the Euler angle. Here, the Euler angle is specified by three parameters α, β, and γ. For example, if the Euler angles are α = 30, β = 31, and γ = 32, rotate 30 ° around the z-axis and then rotate 31 ° around the x-axis (the z-axis rotated at this time is changed to the z′-axis) ), And further rotating by 32 ° around the z ′ axis. Here, the axis perpendicular to the screen is the z-axis, and the forward direction from the rear of the screen is the positive direction.

簡易回転部92は、所定のオイラー角だけ回転させた特徴点群111の3次元空間内での座標位置を、例えば、図12に示されるように、第2画像上にプロットする。そして、第2画像上にプロットされた特徴点群111を構成する特徴点のそれぞれと最も近い位置にある特徴点群112を構成する特徴点との距離を算出する。   The simple rotation unit 92 plots the coordinate position in the three-dimensional space of the feature point group 111 rotated by a predetermined Euler angle on the second image as shown in FIG. 12, for example. Then, the distance between each feature point constituting the feature point group 111 plotted on the second image and the feature point constituting the feature point group 112 at the closest position is calculated.

なお、このとき算出される距離は、それぞれの特徴点の3次元座標位置に基づいて演算されるものとする。   Note that the distance calculated at this time is calculated based on the three-dimensional coordinate position of each feature point.

例えば、第2画像上にプロットされた特徴点群111を構成する特徴点111aと最も近い位置にある特徴点群112を構成する特徴点が、特徴点112aであった場合、特徴点111aと特徴点112aとの距離をd1が算出される。また、第2画像上にプロットされた特徴点群111を構成する特徴点111bと最も近い位置にある特徴点群112を構成する特徴点が、特徴点112cであった場合、特徴点111bと特徴点112cとの距離をd2が算出される。さらに、第2画像上にプロットされた特徴点群111を構成する特徴点111cと最も近い位置にある特徴点群112を構成する特徴点が、特徴点112aであった場合、特徴点111cと特徴点112aとの距離をd3が算出される。   For example, when the feature point constituting the feature point group 112 located closest to the feature point 111a constituting the feature point group 111 plotted on the second image is the feature point 112a, the feature point 111a and the feature point D1 is calculated as the distance from the point 112a. Further, when the feature point constituting the feature point group 112 located closest to the feature point 111b constituting the feature point group 111 plotted on the second image is the feature point 112c, the feature point 111b and feature The distance d2 is calculated from the point 112c. Furthermore, when the feature point constituting the feature point group 112 located closest to the feature point 111c constituting the feature point group 111 plotted on the second image is the feature point 112a, the feature point 111c and feature D3 is calculated as the distance from the point 112a.

このように、例えば、特徴点群111を構成する特徴点がn個ある場合、距離d1、d2、d3、・・・dnが算出されることになる。   Thus, for example, when there are n feature points constituting the feature point group 111, the distances d1, d2, d3,... Dn are calculated.

そして、簡易回転部92は、算出された距離d1、d2、d3、・・・dnの総和を、さらに算出する。ここで算出される距離d1乃至距離dnの総和を最隣接特徴点間距離と称することにする。   Then, the simple rotation unit 92 further calculates the total sum of the calculated distances d1, d2, d3,. The sum of the distances d1 to dn calculated here is referred to as the distance between the nearest feature points.

簡易回転部92は、与えられたオイラー角に対応する位置に、特徴点群111の3次元空間内での座標位置を移動させて第2画像上にプロットする都度、最隣接特徴点間距離を算出するようになされている。例えば、上述したパラメータα、β、γをそれぞれ、予め設定された所定の範囲内で所定の間隔で変化させて、K通りの位置に特徴点群111を移動(回転)させたものとする。この場合、簡易回転部92は、K個の最隣接特徴点間距離を算出することになる。   The simple rotation unit 92 moves the coordinate position of the feature point group 111 in the three-dimensional space to the position corresponding to the given Euler angle and plots the distance between the nearest feature points each time it is plotted on the second image. It is made to calculate. For example, it is assumed that the above-described parameters α, β, and γ are changed at predetermined intervals within a predetermined range, and the feature point group 111 is moved (rotated) to K positions. In this case, the simple rotation unit 92 calculates the distance between the K nearest feature points.

さらに、簡易回転部92は、算出されたK個の最隣接特徴点間距離のうち、最小となるものを特定するとともに、その最小となった最隣接特徴点間距離に対応するオイラー角を特定する。   Further, the simple rotation unit 92 specifies the smallest one of the calculated K nearest neighbor feature point distances, and identifies the Euler angle corresponding to the smallest nearest feature point distance. To do.

このようにして、最小の最隣接特徴点間距離のオイラー角を特定し、そのオイラー角に対応する位置に、特徴点群111の3次元空間内での座標位置を移動させて第2画像上にプロットすると、図13に示されるようになる。図13においては、最小の最隣接特徴点間距離のオイラー角の分だけ回転させられた特徴点群111が、図中の小さい矩形で示されている。同図においては、回転させられた特徴点群111が、第2画像のマークとほぼ一致する位置にプロットされている。   In this way, the Euler angle of the minimum distance between nearest feature points is specified, and the coordinate position of the feature point group 111 in the three-dimensional space is moved to the position corresponding to the Euler angle on the second image. Is plotted as shown in FIG. In FIG. 13, the feature point group 111 rotated by the Euler angle of the minimum distance between the nearest neighbor feature points is shown by a small rectangle in the figure. In the figure, the rotated feature point group 111 is plotted at a position substantially coincident with the mark of the second image.

このように、最小の最隣接特徴点間距離のオイラー角を特定することで、第1画像の時刻から第2画像の時刻に至るまでの、ゴルフボールの回転量を概ね推定することは可能である。しかしながら、この時点では、特徴点群111を構成する特徴点のそれぞれが、特徴点群112を構成する特徴点のうち、どの特徴点に対応するものであるのかが、未だ特定されていない。ゴルフボールの回転量を正確に検出するためには、特徴点群111を構成する特徴点と特徴点群112を構成する特徴点との対応付けが必要となる。この対応付けの処理が、特徴点対応制御部93により、後述するように行われる。   Thus, it is possible to roughly estimate the amount of rotation of the golf ball from the time of the first image to the time of the second image by specifying the Euler angle of the distance between the nearest adjacent feature points. is there. However, at this time, it has not yet been specified which of the feature points constituting the feature point group 111 corresponds to which of the feature points constituting the feature point group 112. In order to accurately detect the rotation amount of the golf ball, it is necessary to associate the feature points constituting the feature point group 111 with the feature points constituting the feature point group 112. This association processing is performed by the feature point correspondence control unit 93 as described later.

特徴点対応制御部93は、簡易回転部92により特定された最小の最隣接特徴点間距離のオイラー角の分だけ第1画像を回転させる。簡易回転部92は、第1画像の特徴点群111だけを回転させたのに対して、特徴点対応制御部93は、第1画像そのものを回転させるのである。   The feature point correspondence control unit 93 rotates the first image by the Euler angle corresponding to the minimum distance between the nearest feature points specified by the simple rotation unit 92. The simple rotation unit 92 rotates only the feature point group 111 of the first image, whereas the feature point correspondence control unit 93 rotates the first image itself.

また、特徴点対応制御部93は、特徴点群111を構成する特徴点のうち、例えば、予め設定された閾値を超える特徴量を有する特徴点を抽出する。この特徴量は、例えば、特徴点の画素の輝度値、特徴点の画素と周辺の画素との輝度値の差分などとされる。   Further, the feature point correspondence control unit 93 extracts, for example, feature points having a feature amount exceeding a preset threshold value from among the feature points constituting the feature point group 111. This feature amount is, for example, a luminance value of a feature point pixel, a difference between luminance values of a feature point pixel and surrounding pixels, or the like.

特徴点対応制御部93は、閾値を超える特徴量を有する特徴点として抽出された特徴点の中から、互いに距離の離れた特徴点を予め設定された数(例えば、3個)だけさらに抽出する。例えば、特徴点群111を構成する特徴点のうち、閾値を超える特徴量を有する特徴点111a、111f、111m、111r、111tがそれぞれ抽出され、その中で最も特徴量が大きい特徴点111aがさらに抽出され、特徴点111aと最も距離が離れた111mが特定され、特徴点111aおよび特徴点111mのそれぞれから最も距離が離れた特徴点111tが特定されることで、互いに距離の離れた特徴点が3個(今の場合、特徴点111a、特徴点111m、および特徴点111t)さらに抽出されることになる。   The feature point correspondence control unit 93 further extracts feature points that are separated from each other by a preset number (for example, three) from feature points extracted as feature points having feature amounts exceeding the threshold. . For example, among the feature points constituting the feature point group 111, feature points 111a, 111f, 111m, 111r, and 111t each having a feature amount exceeding the threshold are extracted, and the feature point 111a having the largest feature amount is further extracted. The extracted feature points 111m that are the most distant from the feature points 111a are specified, and the feature points 111t that are the most distant from the feature points 111a and 111m are specified. Three (in this case, feature point 111a, feature point 111m, and feature point 111t) are further extracted.

そして、特徴点対応制御部93は、互いに距離の離れた特徴点として抽出された特徴点群111を構成する(例えば、3個の)特徴点のそれぞれから距離の近い順に、(例えば、3個)特徴点群112を構成する特徴点を抽出する。例えば、特徴点111aと距離の近い特徴点112a、112b、112cが抽出され、特徴点111mと距離の近い特徴点112m、112n、112oが抽出され、特徴点111tと距離の近い特徴点112t、112s、112uが抽出される。なお、このとき特徴点111aと特徴点112aとの距離、特徴点111aと特徴点112aとの距離、・・・特徴点111tと特徴点112uとの距離は、第1画像を最小の最隣接特徴点間距離のオイラー角の分だけ回転させた状態で算出されることになる。   Then, the feature point correspondence control unit 93 configures the feature point group 111 extracted as feature points that are separated from each other (for example, three) from the feature points in order of increasing distance (for example, three). ) Extract feature points constituting the feature point group 112. For example, feature points 112a, 112b, and 112c that are close to the feature point 111a are extracted, feature points 112m, 112n, and 112o that are close to the feature point 111m are extracted, and feature points 112t, 112s that are close to the feature point 111t. , 112u are extracted. At this time, the distance between the feature point 111a and the feature point 112a, the distance between the feature point 111a and the feature point 112a,..., The distance between the feature point 111t and the feature point 112u is the smallest nearest neighbor feature. The calculation is performed in a state where the distance between the points is rotated by the Euler angle.

さらに、特徴点対応制御部93は、例えば、特徴点111aを中心とする所定大きさの第1画像の領域A1を設定し、特徴点112a、112b、112cを中心とする所定の大きさの第2画像の領域B11、B12、B13を設定する。そして、特徴点対応制御部93は、画像相関法により領域A1と領域B11との相関値、領域A1と領域B12との相関値、領域A1と領域B13との相関値をそれぞれ演算する。このようにして演算された相関値に基づいて、最も高い相関値が得られた第2画像の領域に含まれる特徴点が、特徴点111aに対応する第2画像の特徴点であると推定できる。   Furthermore, the feature point correspondence control unit 93 sets, for example, a first image area A1 having a predetermined size centered on the feature point 111a, and has a predetermined size centered on the feature points 112a, 112b, and 112c. Two image areas B11, B12, and B13 are set. Then, the feature point correspondence control unit 93 calculates a correlation value between the region A1 and the region B11, a correlation value between the region A1 and the region B12, and a correlation value between the region A1 and the region B13 by the image correlation method. Based on the correlation value thus calculated, it can be estimated that the feature point included in the region of the second image where the highest correlation value is obtained is the feature point of the second image corresponding to the feature point 111a. .

例えば、上述のように演算した3個の相関値の中で、領域A1と領域B12との相関値が最も高い場合、第1画像の特徴点111aに対応する第2画像の特徴点は、特徴点112bであると推定できる。   For example, when the correlation value between the region A1 and the region B12 is the highest among the three correlation values calculated as described above, the feature point of the second image corresponding to the feature point 111a of the first image is the feature It can be estimated that the point 112b.

同様に、特徴点対応制御部93は、特徴点111mを中心とする所定大きさの第1画像の領域A2を設定し、特徴点112m、112n、112oを中心とする所定の大きさの第2画像の領域B21、B22、B23を設定し、画像相関法により領域A2と領域B21との相関値、領域A2と領域B22との相関値、領域A2と領域B23との相関値をそれぞれ演算する。特徴点対応制御部93は、特徴点111tを中心とする所定大きさの第1画像の領域A3を設定し、特徴点112t、112s、112uを中心とする所定の大きさの第2画像の領域B31、B32、B33を設定し、画像相関法により領域A3と領域B31との相関値、領域A3と領域B32との相関値、領域A3と領域B33との相関値をそれぞれ演算する。このようにして演算された相関値に基づいて、最も高い相関値が得られた第2画像の領域に含まれる特徴点が、特徴点111mまたは特徴点111tに対応する第2画像の特徴点であると推定できる。   Similarly, the feature point correspondence control unit 93 sets a first image area A2 having a predetermined size centered on the feature point 111m, and has a second size having a predetermined size centered on the feature points 112m, 112n, and 112o. Regions B21, B22, and B23 of the image are set, and a correlation value between the region A2 and the region B21, a correlation value between the region A2 and the region B22, and a correlation value between the region A2 and the region B23 are calculated by the image correlation method. The feature point correspondence control unit 93 sets a first image area A3 having a predetermined size centered on the feature point 111t, and a second image area having a predetermined size centered on the feature points 112t, 112s, and 112u. B31, B32, and B33 are set, and the correlation value between the region A3 and the region B31, the correlation value between the region A3 and the region B32, and the correlation value between the region A3 and the region B33 are calculated by the image correlation method. Based on the correlation value calculated in this way, the feature point included in the region of the second image where the highest correlation value is obtained is the feature point of the second image corresponding to the feature point 111m or the feature point 111t. It can be estimated that there is.

これにより、例えば、図14に示されるように、特徴点群111を構成する3つの特徴点のそれぞれに対応する特徴点群112を構成する3つの特徴点が特定されることになる。同図の例では、図中の矢印により、特徴点群111を構成する3つの特徴点と特徴点群112を構成する3つの特徴点との対応付けが示されている。   Thereby, for example, as shown in FIG. 14, three feature points constituting the feature point group 112 corresponding to each of the three feature points constituting the feature point group 111 are specified. In the example of the figure, the arrows in the figure indicate the correspondence between the three feature points constituting the feature point group 111 and the three feature points constituting the feature point group 112.

図5の回転数検出制御部94は、特徴点対応制御部93により対応付けられた第1画像の特徴点と第2画像の特徴点に基づいて、単位時間当たりのゴルフボールの回転量と回転方向を特定し、ゴルフクラブでショットされたゴルフボールの単位時間当たりの回転数、および回転方向を表す数値などを含む回転に関する情報を検出する。なお、回転数検出制御部94は、例えば、従来のゴルフのシミュレーションシステムなどに用いられているものと同様のものを利用することが可能である。   The number-of-rotations detection control unit 94 shown in FIG. 5 performs the rotation amount and rotation of the golf ball per unit time based on the feature points of the first image and the feature points of the second image associated by the feature point correspondence control unit 93. The direction is specified, and information about the rotation including the number of rotations per unit time of the golf ball shot by the golf club and a numerical value indicating the rotation direction is detected. The rotation speed detection control unit 94 can use, for example, the same one used in a conventional golf simulation system.

次に、図15のフローチャートを参照して、図4の回転検出部72による回転検出処理について説明する。   Next, the rotation detection process by the rotation detection unit 72 in FIG. 4 will be described with reference to the flowchart in FIG.

ステップS11において、特徴点抽出部91、簡易回転部92、および特徴点対応制御部93は、図16を参照して後述する特徴部分特定処理を実行する。これにより、例えば、第1画像と第2画像において、それぞれの特徴点の対応付けが行われる。   In step S <b> 11, the feature point extraction unit 91, the simple rotation unit 92, and the feature point correspondence control unit 93 execute a feature portion specifying process which will be described later with reference to FIG. 16. Thereby, for example, each feature point is associated in the first image and the second image.

ステップS12において、回転数検出制御部94は、ステップS11の処理により対応付けられた第1画像の特徴点と第2画像の特徴点に基づいて、第1画像が撮像された時刻から第2画像が撮像された時刻に至るまでの間に、ゴルフボールがどれだけ回転したか(回転量)を特定する。また、このとき、ゴルフボールの回転方向も特定される。   In step S12, the rotation speed detection control unit 94 starts from the time when the first image is captured based on the feature point of the first image and the feature point of the second image associated with each other in the process of step S11. It is specified how much the golf ball has rotated (the amount of rotation) until the time when is captured. At this time, the rotation direction of the golf ball is also specified.

ステップS13において、回転数検出制御部94は、ステップS12の処理で特定された回転量に基づいて、単位時間あたりのゴルフボールの回転数を演算する。   In step S13, the rotation speed detection control unit 94 calculates the rotation speed of the golf ball per unit time based on the rotation amount specified in the process of step S12.

このようにして、回転検出処理が実行される。   In this way, the rotation detection process is executed.

次に、図16のフローチャートを参照して、図15のステップS11の特徴部分特定処理の詳細について説明する。   Next, with reference to the flowchart of FIG. 16, the detail of the characteristic part specific process of step S11 of FIG. 15 is demonstrated.

ステップS31において、特徴点抽出部91は、特徴点検出処理を実行する。ここで、図17のフローチャートを参照して、図16のステップS31の特徴点検出処理の詳細について説明する。   In step S31, the feature point extraction unit 91 executes feature point detection processing. Here, the details of the feature point detection processing in step S31 in FIG. 16 will be described with reference to the flowchart in FIG.

ステップS51において、特徴点抽出部91は、第1画像および第2画像において、エッジを検出する。上述したように、エッジは、例えば、画像の中で画素の輝度値の変化が予め設定された閾値より大きい領域とされる。   In step S51, the feature point extraction unit 91 detects edges in the first image and the second image. As described above, the edge is, for example, an area in the image where the change in the luminance value of the pixel is larger than a preset threshold value.

ステップS52において、特徴点抽出部91は、ステップS51の処理により、第1画像において検出された複数のエッジを、それぞれ第1画像の特徴点として記憶し、第2画像において検出された複数のエッジを、それぞれ第2画像の特徴点として記憶する。これにより、例えば、図7と図8に示されるような図中の小さい矩形で示される領域(点)のそれぞれが特徴点として記憶されることになる。   In step S52, the feature point extraction unit 91 stores the plurality of edges detected in the first image as the feature points of the first image by the processing in step S51, and the plurality of edges detected in the second image. Are stored as feature points of the second image. Thereby, for example, each of the regions (points) indicated by small rectangles in the drawings as shown in FIGS. 7 and 8 is stored as a feature point.

このようにして、特徴点検出処理が実行される。このようにすることで、上述したように、任意の形状、色彩、模様などにより構成されたゴルフボールの表面の一部分を特徴点として検出することが可能である。   In this way, the feature point detection process is executed. By doing in this way, as mentioned above, it is possible to detect a part of the surface of the golf ball constituted by an arbitrary shape, color, pattern or the like as a feature point.

図16に戻って、ステップS31の処理の後、ステップS32において、簡易回転部92は、特徴点回転処理を実行する。ここで、図18のフローチャートを参照して、図16のステップS32の特徴点回転処理の詳細について説明する。   Returning to FIG. 16, after the process of step S31, in step S32, the simple rotation unit 92 executes a feature point rotation process. Here, the details of the feature point rotation processing in step S32 in FIG. 16 will be described with reference to the flowchart in FIG.

ステップS71において、簡易回転部92は、所定のオイラー角を設定する。   In step S71, the simple rotation unit 92 sets a predetermined Euler angle.

ステップS72において、簡易回転部92は、ステップS71の処理で設定されたオイラー角に対応する位置に、ステップS31の処理により第1画像から検出された特徴点で構成される第1画像の特徴点群を回転させる。   In step S72, the simple rotation unit 92 has the feature point of the first image configured by the feature point detected from the first image by the process of step S31 at the position corresponding to the Euler angle set by the process of step S71. Rotate the group.

このとき、上述したように、簡易回転部92が、例えば、図11に示されるように、ゴルフボールの画像の中心点(cx,cy)と半径rを特定し、図中の矢印で示されるように、与えられたオイラー角に対応する位置に、特徴点群111の3次元空間内での座標位置を移動させる。   At this time, as described above, the simple rotation unit 92 specifies the center point (cx, cy) and the radius r of the image of the golf ball, for example, as shown in FIG. As described above, the coordinate position of the feature point group 111 in the three-dimensional space is moved to the position corresponding to the given Euler angle.

ステップS73において、簡易回転部92は、ステップS72の処理で回転させた特徴点群の3次元空間内での座標位置を、第2画像上にプロットする。このとき、例えば、図12に示されるように、回転させられた特徴点群111が第2画像上にプロットされる。   In step S73, the simple rotation unit 92 plots the coordinate position of the feature point group rotated in the process of step S72 in the three-dimensional space on the second image. At this time, for example, as shown in FIG. 12, the rotated feature point group 111 is plotted on the second image.

ステップS74において、簡易回転部92は、最隣接特徴点間距離を演算する。上述したように、最隣接特徴点間距離は、第2画像上にプロットされた特徴点群111を構成する特徴点のそれぞれと最も近い位置にある特徴点群112を構成する特徴点との距離の総和とされる。   In step S74, the simple rotation unit 92 calculates the distance between the nearest feature points. As described above, the distance between the nearest feature points is the distance between the feature points constituting the feature point group 111 plotted on the second image and the feature points constituting the feature point group 112 at the closest position. The sum of

ステップS75において、簡易回転部92は、ステップS74で演算された最隣接特徴点間距離の値を、ステップS71の処理で設定されたオイラー角と対応付けて記憶する。   In step S75, the simple rotation unit 92 stores the value of the distance between the nearest feature points calculated in step S74 in association with the Euler angle set in the process of step S71.

ステップS76において、簡易回転部92は、未設定のオイラー角があるか否かを判定し、未設定のオイラー角があると判定された場合、処理は、ステップS77に進む。   In step S76, the simple rotation unit 92 determines whether or not there is an unset Euler angle. If it is determined that there is an unset Euler angle, the process proceeds to step S77.

ステップS77において、簡易回転部92は、オイラー角を変更する。上述したように、簡易回転部92は、例えば、上述したパラメータα、β、γをそれぞれ、予め設定された所定の範囲内で所定の間隔で変化させて、K通りの位置に特徴点群111を移動(回転)させるようになされている。ステップS76では、例えば、K通りのオイラー角が全て設定されるまで、未設定のオイラー角があると判定され、その都度、ステップS77において、パラメータα、β、γのいずれかが、予め設定された間隔で変化させられていくことになる。   In step S77, the simple rotation unit 92 changes the Euler angle. As described above, the simple rotation unit 92 changes the above-described parameters α, β, γ, for example, at predetermined intervals within a predetermined range, and sets the feature point group 111 at K positions. Is moved (rotated). In step S76, for example, it is determined that there is an unset Euler angle until all K Euler angles are set. In each step, any one of parameters α, β, and γ is preset in step S77. It will be changed at different intervals.

ステップS77の処理の後、処理は、ステップS72に戻り、それ以後の処理が繰り返し実行される。ただし、今の場合、ステップS72では、ステップS77の処理で設定(変更)されたオイラー角に対応する位置に、第1画像の特徴点群が回転させられ、ステップS75では、ステップS74で演算された最隣接特徴点間距離の値が、ステップS77の処理で設定されたオイラー角と対応付けて記憶されることになる。   After the process of step S77, the process returns to step S72, and the subsequent processes are repeatedly executed. However, in this case, in step S72, the feature point group of the first image is rotated to the position corresponding to the Euler angle set (changed) in the process of step S77, and in step S75, the calculation is performed in step S74. The value of the distance between the nearest feature points is stored in association with the Euler angle set in the process of step S77.

ステップS76において、未設定のオイラー角はないと判定された場合、処理は、ステップS78に進む。   If it is determined in step S76 that there is no unset Euler angle, the process proceeds to step S78.

ステップS78において、ステップS75の処理で記憶された、例えばK個の最隣接特徴点間距離のうち、最小となるものを特定するとともに、その最小となった最隣接特徴点間距離に対応するオイラー角を特定する。   In step S78, among the K nearest neighbor feature point distances stored in step S75, for example, the smallest distance is specified, and the Euler corresponding to the smallest nearest neighbor feature point distance is specified. Identify the corner.

このようにして、特徴点回転処理が実行される。このように、一旦、特徴点のみを回転させて、第1画像が撮像された時刻から第2画像が撮像された時刻に至るまでのゴルフボールの回転量を、概ね推定することが可能となる。このようにすることで、都度、画像を回転させる処理が不要となるので、処理を高速化することが可能となる。また、この後実行される特徴点対応付け処理において画像相関法による演算を行うにあたり、特徴点回転処理によって特定されたオイラー角を利用することで、正確かつ高速な特徴点の対応付けを実現することが可能となる。   In this way, the feature point rotation process is executed. In this way, it is possible to roughly estimate the amount of rotation of the golf ball from the time when the first image is captured until the time when the second image is captured by rotating only the feature points. . By doing so, it is not necessary to rotate the image each time, and the processing can be speeded up. In addition, when performing the calculation by the image correlation method in the feature point association processing to be executed later, the Euler angles specified by the feature point rotation processing are used to realize accurate and high-speed feature point association. It becomes possible.

図16に戻って、ステップS32の処理の後、ステップS33において、特徴点対応制御部93は、特徴点対応付け処理を実行する。ここで、図19のフローチャートを参照して、図16のステップS33の特徴点対応付け処理の詳細について説明する。   Returning to FIG. 16, after the process of step S <b> 32, in step S <b> 33, the feature point association control unit 93 executes a feature point association process. Here, with reference to the flowchart of FIG. 19, the detail of the feature point matching process of step S33 of FIG. 16 is demonstrated.

ステップS91において、特徴点対応制御部93は、第1画像の特徴点群111を構成する特徴点のうち、3つの特徴点を抽出する。このとき、上述したように、例えば、特徴点群111の閾値を超える特徴量を有する特徴点として抽出された特徴点の中から、互いに距離の離れた特徴点が3個さらに抽出される。   In step S91, the feature point correspondence control unit 93 extracts three feature points from the feature points constituting the feature point group 111 of the first image. At this time, as described above, for example, from the feature points extracted as feature points having feature amounts exceeding the threshold value of the feature point group 111, three feature points that are separated from each other are further extracted.

ステップS92において特徴点対応制御部93は、ステップS78の処理で特定されたオイラー角の分だけ第1画像を回転させる。   In step S92, the feature point correspondence control unit 93 rotates the first image by the Euler angle specified in the process of step S78.

ステップS93において、特徴点対応制御部93は、ステップS91の処理で抽出された3つの特徴点のそれぞれと、距離が近い第2画像の特徴点を複数抽出する。このとき、上述したように、例えば、特徴点群111を構成する3個の特徴点のそれぞれから距離の近い順に、(例えば、3個)特徴点群112を構成する特徴点が抽出される。例えば、特徴点111aと距離の近い特徴点112a、112b、112cが抽出され、特徴点111mと距離の近い特徴点112m、112n、112oが抽出され、特徴点111tと距離の近い特徴点112t、112s、112uが抽出されることになる。   In step S93, the feature point correspondence control unit 93 extracts a plurality of feature points of the second image that are close to each of the three feature points extracted in the process of step S91. At this time, as described above, for example, the feature points constituting the feature point group 112 are extracted in order of the distance from each of the three feature points constituting the feature point group 111 (for example, three). For example, feature points 112a, 112b, and 112c that are close to the feature point 111a are extracted, feature points 112m, 112n, and 112o that are close to the feature point 111m are extracted, and feature points 112t, 112s that are close to the feature point 111t. 112u are extracted.

ステップS94において、特徴点対応制御部93は、画像相関法により相関値を演算する。このとき、上述したように、特徴点対応制御部93が、例えば、特徴点111aを中心とする所定大きさの第1画像の領域A1を設定し、特徴点112a、112b、112cを中心とする所定の大きさの第2画像の領域B11、B12、B13を設定する。そして、特徴点対応制御部93は、画像相関法により領域A1と領域B11との相関値、領域A1と領域B12との相関値、領域A1と領域B13との相関値をそれぞれ演算する。   In step S94, the feature point correspondence control unit 93 calculates a correlation value by an image correlation method. At this time, as described above, the feature point correspondence control unit 93 sets, for example, the first image area A1 having a predetermined size centered on the feature point 111a and centers on the feature points 112a, 112b, and 112c. Regions B11, B12, and B13 of the second image having a predetermined size are set. Then, the feature point correspondence control unit 93 calculates a correlation value between the region A1 and the region B11, a correlation value between the region A1 and the region B12, and a correlation value between the region A1 and the region B13 by the image correlation method.

同様に、特徴点対応制御部93は、特徴点111mを中心とする所定大きさの第1画像の領域A2を設定し、特徴点112m、112n、112oを中心とする所定の大きさの第2画像の領域B21、B22、B23を設定し、画像相関法により領域A2と領域B21との相関値、領域A2と領域B22との相関値、領域A2と領域B23との相関値をそれぞれ演算する。特徴点対応制御部93は、特徴点111tを中心とする所定大きさの第1画像の領域A3を設定し、特徴点112t、112s、112uを中心とする所定の大きさの第2画像の領域B31、B32、B33を設定し、画像相関法により領域A3と領域B31との相関値、領域A3と領域B32との相関値、領域A3と領域B33との相関値をそれぞれ演算する。   Similarly, the feature point correspondence control unit 93 sets a first image area A2 having a predetermined size centered on the feature point 111m, and has a second size having a predetermined size centered on the feature points 112m, 112n, and 112o. Regions B21, B22, and B23 of the image are set, and a correlation value between the region A2 and the region B21, a correlation value between the region A2 and the region B22, and a correlation value between the region A2 and the region B23 are calculated by the image correlation method. The feature point correspondence control unit 93 sets a first image area A3 having a predetermined size centered on the feature point 111t, and a second image area having a predetermined size centered on the feature points 112t, 112s, and 112u. B31, B32, and B33 are set, and the correlation value between the region A3 and the region B31, the correlation value between the region A3 and the region B32, and the correlation value between the region A3 and the region B33 are calculated by the image correlation method.

ステップS95において、特徴点対応制御部93は、ステップS94の処理で得られた相関値のうち、最も高いもの第1画像の3つの特徴点に対応する第2画像の特徴点として特定する。これにより、例えば、図14に示されるように、特徴点群111を構成する3つの特徴点のそれぞれに対応する特徴点群112を構成する3つの特徴点が特定されることになる。   In step S95, the feature point correspondence control unit 93 specifies the feature point of the second image corresponding to the three feature points of the first image having the highest correlation value obtained in the process of step S94. Thereby, for example, as shown in FIG. 14, three feature points constituting the feature point group 112 corresponding to each of the three feature points constituting the feature point group 111 are specified.

このようにして、特徴点対応付け処理が実行される。特徴点対応付け処理は、例えば、特徴点回転処理によって回転された第1画像の特徴点のみの画像などに基づいて行われるものではなく、特徴点回転処理によって特定されたオイラー角を利用して、第1画像を回転させて画像相関法による演算を行うこととされている。このようにすることで、より正確かつ高速な特徴点の対応付けを実現することが可能となる。その結果、ゴルフボールの回転方向、回転数などを正確に検出することが可能となる。   In this way, the feature point association process is executed. The feature point association process is not performed based on, for example, an image of only the feature point of the first image rotated by the feature point rotation process, but uses the Euler angle specified by the feature point rotation process. The first image is rotated and the calculation by the image correlation method is performed. By doing in this way, it becomes possible to implement | achieve the matching of a more accurate and high-speed feature point. As a result, it is possible to accurately detect the rotation direction and the rotation speed of the golf ball.

従来の技術によりゴルフボールの回転の方向、回転数などを検出するためには、画像の中でのボールの回転方向、回転した角度など特定するために、予め定められたマークや模様の付されたゴルフボールを用いる必要があった。このため、例えば、ユーザが気に入っているボールなどを自由に使って、シミュレーションシステムを利用することができないという課題があった。   In order to detect the direction and number of rotations of a golf ball using conventional techniques, a predetermined mark or pattern is added to identify the rotation direction and angle of rotation of the ball in the image. It was necessary to use a golf ball. Therefore, for example, there is a problem that the simulation system cannot be used by freely using a ball that the user likes.

これに対して、本発明では、上述したように画像のエッジが検出されて、特徴点とされる。本発明では、特徴点の検出と、第1画像と第2画像の特徴点の対応付けが、ゴルフボールがショットされた後で行われるようにしたので、任意のボールを用いることが可能となる。   On the other hand, in the present invention, as described above, the edge of the image is detected and used as a feature point. In the present invention, since the detection of the feature points and the association of the feature points of the first image and the second image are performed after the golf ball is shot, any ball can be used. .

また、上述したように、特徴点はエッジとして検出されるものであればよいので、本発明のシミュレーションシステム10において使用されるゴルフボールには、必ずしも鮮明な標章などが付されている必要はない。従って、本発明では、例えば、いわゆるロストボールなども利用することが可能となる。   Further, as described above, since the feature point may be detected as an edge, the golf ball used in the simulation system 10 of the present invention is not necessarily provided with a clear mark or the like. Absent. Therefore, in the present invention, for example, a so-called lost ball can be used.

さらに、以上においては、シミュレーションシステム10に本発明を適用する例について説明したが、本発明は、必ずしもシミュレーションシステムに適用されるものとは限られない。例えば、ゴルフクラブの製造や微調整を行う場合など、ゴルフクラブでショットされたゴルフボールの回転方向、回転数などを検出する必要があるものには、やはり本発明を適用することができる。   Furthermore, although the example which applies this invention to the simulation system 10 was demonstrated above, this invention is not necessarily applied to a simulation system. For example, the present invention can also be applied to a device that needs to detect the rotation direction and the number of rotations of a golf ball shot with a golf club, such as when a golf club is manufactured or finely adjusted.

あるいはまた、本発明をゴルフボール以外の球体の回転方向、回転数などを検出に用いることも勿論可能である。   Alternatively, it is of course possible to use the present invention for detecting the rotational direction, rotational speed, etc. of a sphere other than the golf ball.

ところで、図2を参照して上述した例においては、センシングブロック22のセンサ部41が、第1カメラと第2カメラの2台のカメラを有すると説明したが、センサ部41が1台のカメラを有する構成とされてもよい。   Incidentally, in the example described above with reference to FIG. 2, it has been described that the sensor unit 41 of the sensing block 22 has two cameras, the first camera and the second camera. However, the sensor unit 41 has one camera. You may be set as the structure which has.

図20は、1台(1つ)のカメラを有するセンサ部41の構成を示すブロック図である。同図において、ゴルフボールは、ティー160上にセットされ、ゴルフクラブによりショットされるものとする。なお、ショットされたゴルフボールは、図中の右側から左側へ飛ぶことになる。   FIG. 20 is a block diagram illustrating a configuration of the sensor unit 41 having one (one) camera. In the figure, it is assumed that a golf ball is set on a tee 160 and shot by a golf club. The shot golf ball flies from the right side to the left side in the drawing.

センサ155−1およびセンサ155−2は、それぞれ前方(図中上側)に存在する物体を検知するようになされている。ティー160上にセットされたゴルフボールをショットするために、ゴルフクラブのヘッドがセンサ155−1およびセンサ155−2の前方を通過したとき、センサ155−1およびセンサ155−2のそれぞれは、ゴルフクラブのヘッドを検知したタイミングで、検知信号を出力するようになされている。   The sensor 155-1 and the sensor 155-2 are each configured to detect an object existing in front (upper side in the drawing). When the golf club head passes in front of sensor 155-1 and sensor 155-2 to shot a golf ball set on tee 160, each of sensor 155-1 and sensor 155-2 A detection signal is output when the club head is detected.

制御部156は、センサ155−1およびセンサ155−2からの検知信号に基づいて、カメラ151のシャッタ信号、並びにストロボ161およびストロボ162を発光させる発光信号を出力するようになされている。   The control unit 156 outputs a shutter signal of the camera 151 and a light emission signal for causing the strobe 161 and the strobe 162 to emit light based on detection signals from the sensors 155-1 and 155-2.

ストロボ161およびストロボ162は、例えば、棒状のストロボとして構成される。   The strobe 161 and strobe 162 are configured as, for example, rod-shaped strobes.

制御部156は、センサ155−1およびセンサ155−2のうち、ティー160に近いセンサ(いまの場合、センサ155−1)が検知信号を検出した後、予め設定された時間だけ後に、カメラ151のシャッタ信号における第1のパルス(電子シャッタ)を出力するとともに、ストロボ161を発光させる発光信号を出力するようになされている。   The control unit 156 detects whether the sensor 151-1 or the sensor 155-2 close to the tee 160 (in this case, the sensor 155-1) detects the detection signal, and only after a preset time, the camera 151 The first pulse (electronic shutter) in the shutter signal is output, and a light emission signal for causing the strobe 161 to emit light is output.

また、制御部156は、カメラ151のシャッタ信号における第1のパルスを出力してから、所定の時間だけ後に、カメラ151のシャッタ信号における第2のパルス(電子シャッタ)を出力するとともに、ストロボ162を発光させる発光信号を出力するようになされている。ここで、所定の時間は、例えば、センサ155−2が検知信号を出力してからセンサ155−1が検知信号を出力するまでの時間などに基づいて求められるものとする。   Further, the control unit 156 outputs a second pulse (electronic shutter) in the shutter signal of the camera 151 and outputs a strobe 162 after a predetermined time after outputting the first pulse in the shutter signal of the camera 151. A light emission signal for emitting light is output. Here, it is assumed that the predetermined time is obtained based on, for example, the time from when the sensor 155-2 outputs a detection signal until the sensor 155-1 outputs the detection signal.

図21は、制御部156が出力する信号のタイミングチャートの例である。同図の例では、シャッタ信号181、ストロボ161の発光信号182、ストロボ162の発光信号183、および読み出し信号184の波形が示されている。なお、同図の横軸は時間とされ、縦軸は電圧値とされ、シャッタ信号181、および読み出し信号184は、図中下方向の凸型のパルスを形成する信号とされ、ストロボ161の発光信号182、およびストロボ162の発光信号183は、図中上方向の凸型のパルスを形成する信号とされている。   FIG. 21 is an example of a timing chart of signals output from the control unit 156. In the example shown in the figure, the waveforms of the shutter signal 181, the light emission signal 182 of the strobe 161, the light emission signal 183 of the strobe 162, and the readout signal 184 are shown. In the figure, the horizontal axis represents time, the vertical axis represents voltage value, the shutter signal 181 and the readout signal 184 are signals forming a downward convex pulse in the figure, and the strobe 161 emits light. The signal 182 and the light emission signal 183 of the strobe 162 are signals that form a convex pulse in the upward direction in the figure.

シャッタ信号181のパルス幅であって時間T1の間、カメラ151の撮像素子であって、CCDなどの光電変換素子に電荷が蓄積されるようになされている。すなわち、シャッタ信号181のパルス幅であって時間T1の間、カメラ151のレンズにより集光された光が、撮像素子に入射して、撮像素子のそれぞれによってその光が電荷に変換されて蓄積されることになる。そして、読み出し信号184のパルスが供給されることで、1フレーム分の画像データを構成する信号として、各撮像素子に蓄積された電荷に対応する信号が出力されるようになされている。これによって、例えば、各撮像素子から出力された信号に基づいて画素値が設定されて、それらの画素により構成される1枚の画像が生成されることになる。   Charges are accumulated in a photoelectric conversion element such as a CCD, which is the imaging element of the camera 151, for the time T1, which is the pulse width of the shutter signal 181. That is, the light that has been condensed by the lens of the camera 151 for the time T1 with the pulse width of the shutter signal 181 enters the image sensor, and the light is converted into electric charges by each image sensor and accumulated. Will be. Then, by supplying a pulse of the readout signal 184, a signal corresponding to the electric charge accumulated in each image sensor is output as a signal constituting image data for one frame. Thereby, for example, a pixel value is set based on a signal output from each imaging device, and one image composed of these pixels is generated.

また、ストロボ161の発光信号182、およびストロボ162の発光信号183においてパルスが出力されたタイミングで、それぞれストロボ161およびストロボ162が発光するようになされている。   In addition, the strobe 161 and the strobe 162 emit light at the timing when pulses are output in the light emission signal 182 of the strobe 161 and the light emission signal 183 of the strobe 162, respectively.

上述したように、シャッタ信号181における第1のパルス(図中左側のパルス)と同じタイミングで、ストロボ161を発光させる発光信号のパルスが生成されている。また、シャッタ信号181における第1のパルスが生成されてから、所定の時間だけ後に、シャッタ信号181における第2のパルス(図中右側のパルス)が生成され、それと同じタイミングでストロボ162を発光させる発光信号のパルスが生成されている。   As described above, the pulse of the light emission signal that causes the strobe 161 to emit light is generated at the same timing as the first pulse (left pulse in the figure) in the shutter signal 181. In addition, a second pulse (right pulse in the figure) is generated in the shutter signal 181 after a predetermined time from the generation of the first pulse in the shutter signal 181, and the strobe 162 is emitted at the same timing. A pulse of the light emission signal is generated.

そして、シャッタ信号181における第2のパルスが生成されてから、予め設定された時間だけ後に、読み出し信号184におけるパルスが生成されている。   Then, after the second pulse in the shutter signal 181 is generated, a pulse in the readout signal 184 is generated after a preset time.

カメラ151に、このように、シャッタ信号181、ストロボ161の発光信号182、ストロボ162の発光信号183、および読み出し信号184を供給することにより、1フレームの画像の中に、シャッタ信号181における第1のパルスに対応する時刻のゴルフボールの画像と、シャッタ信号181における第2のパルスに対応する時刻のゴルフボールの画像とが写しだされることになる。   Thus, by supplying the camera 151 with the shutter signal 181, the light emission signal 182 of the strobe 161, the light emission signal 183 of the strobe 162, and the readout signal 184, the first signal in the shutter signal 181 is included in one frame image. An image of the golf ball at the time corresponding to this pulse and an image of the golf ball at the time corresponding to the second pulse in the shutter signal 181 are copied.

このようにすることで、1フレームの画像(1枚の画像)として、上述した第1画像に対応するゴルフボールの画像と、第2画像に対応するゴルフボールの画像とを得ることが可能となる。すなわち、センサ部41を図20に示されるように構成すれば、1台のカメラ151で、第1画像と第2画像に対応する1枚の画像を撮像することが可能となる。   By doing in this way, it is possible to obtain a golf ball image corresponding to the first image and a golf ball image corresponding to the second image as one frame image (one image). Become. That is, if the sensor unit 41 is configured as shown in FIG. 20, one camera 151 can capture one image corresponding to the first image and the second image.

2台のカメラで第1画像と第2画像をそれぞれ撮像するのではなく、1台のカメラのみで、第1画像と第2画像に対応する画像を撮像する構成とすることで、例えば、装置をより小型化したり、装置の製造コストを抑制することが可能となる。   Instead of capturing the first image and the second image with two cameras, the configuration corresponding to the first image and the second image is captured with only one camera. It is possible to reduce the size of the device and to reduce the manufacturing cost of the device.

図22は、カメラ151により撮像されたゴルフボールの画像200の例を示す図である。同図の画像200には、シャッタ信号181における第1のパルスに対応する時刻のゴルフボールの画像201と、シャッタ信号181における第2のパルスに対応する時刻のゴルフボールの画像202とが含まれている。   FIG. 22 is a diagram illustrating an example of a golf ball image 200 captured by the camera 151. The image 200 in the figure includes a golf ball image 201 at a time corresponding to the first pulse in the shutter signal 181 and a golf ball image 202 at a time corresponding to the second pulse in the shutter signal 181. ing.

例えば、ゴルフボールの画像201を第1画像とし、ゴルフボールの画像202を第2画像として、上述した15乃至19の処理を実行することにより、ゴルフボールの画像201とゴルフボールの画像202との間で特徴点の対応付けがなされ、ゴルフボールの回転方向、回転数などを正確に検出することが可能となる。   For example, the golf ball image 201 and the golf ball image 202 are obtained by executing the above-described processes 15 to 19 with the golf ball image 201 as the first image and the golf ball image 202 as the second image. The feature points are associated with each other, and the rotation direction and the number of rotations of the golf ball can be accurately detected.

本発明においては、図21のタイミングチャートに示されるように、シャッタ信号181のパルス幅(時間T1)を充分に短くし、シャッタ信号181のパルスのパルスと同じタイミングでストロボを発光させるようにしたことで、ゴルフボールの画像201とゴルフボールの画像202をそれぞれ鮮明に撮像することが可能となる。   In the present invention, as shown in the timing chart of FIG. 21, the pulse width (time T1) of the shutter signal 181 is made sufficiently short so that the strobe light is emitted at the same timing as the pulse of the shutter signal 181. Thus, the golf ball image 201 and the golf ball image 202 can be clearly captured.

理論的には、例えば、シャッタ信号のパルス幅長く設定し、シャッタ信号においてパルスが形成されている間に、2回ストロボを発光させるようにすれば、1枚の画像として、上述した第1画像に対応するゴルフボールの画像と、第2画像に対応するゴルフボールの画像とを得ることが可能となる。しかし、このようにすると、カメラの露光時間が長く設定された画像と同様の画像が撮像されることになり、その結果、ゴルフボールの画像201とゴルフボールの画像202との間に残像などが写り、ゴルフボールの画像201とゴルフボールの画像202をそれぞれ鮮明に撮像することはできない。   Theoretically, for example, if the pulse width of the shutter signal is set longer and the strobe is caused to emit light twice while the pulse is formed in the shutter signal, the first image described above is obtained as one image. It is possible to obtain a golf ball image corresponding to, and a golf ball image corresponding to the second image. However, in this case, an image similar to an image in which the exposure time of the camera is set to be long is captured. As a result, an afterimage or the like is generated between the golf ball image 201 and the golf ball image 202. The golf ball image 201 and the golf ball image 202 cannot be clearly captured.

これに対して、本発明では、シャッタ信号181のパルス幅を充分に短くし、同じタイミングでストロボを発光させるようにしたので、ゴルフボールの画像201とゴルフボールの画像202との間に残像などが写ることが抑止され、かつ、ゴルフボールの画像201とゴルフボールの画像202をそれぞれ鮮明に撮像することが可能となる。   In contrast, in the present invention, the pulse width of the shutter signal 181 is sufficiently shortened so that the strobe light is emitted at the same timing, so that an afterimage or the like is generated between the golf ball image 201 and the golf ball image 202. , And the golf ball image 201 and the golf ball image 202 can be clearly captured.

なお、上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。上述した一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば図23に示されるような汎用のパーソナルコンピュータ700などに、ネットワークや記録媒体からインストールされる。   The series of processes described above can be executed by hardware, or can be executed by software. When the above-described series of processing is executed by software, a program constituting the software executes various functions by installing a computer incorporated in dedicated hardware or various programs. For example, a general-purpose personal computer 700 as shown in FIG. 23 is installed from a network or a recording medium.

図23において、CPU(Central Processing Unit)701は、ROM(Read Only Memory)702に記憶されているプログラム、または記憶部708からRAM(Random Access Memory)703にロードされたプログラムに従って各種の処理を実行する。RAM703にはまた、CPU701が各種の処理を実行する上において必要なデータなども適宜記憶される。   In FIG. 23, a CPU (Central Processing Unit) 701 executes various processes according to a program stored in a ROM (Read Only Memory) 702 or a program loaded from a storage unit 708 into a RAM (Random Access Memory) 703. To do. The RAM 703 also appropriately stores data necessary for the CPU 701 to execute various processes.

CPU701、ROM702、およびRAM703は、バス704を介して相互に接続されている。このバス704にはまた、入出力インタフェース705も接続されている。   The CPU 701, ROM 702, and RAM 703 are connected to each other via a bus 704. An input / output interface 705 is also connected to the bus 704.

入出力インタフェース705には、キーボード、マウスなどよりなる入力部706、CRT(Cathode Ray Tube)、LCD(Liquid Crystal display)などよりなるディスプレイ、並びにスピーカなどよりなる出力部707、ハードディスクなどより構成される記憶部708、モデム、LANカードなどのネットワークインタフェースカードなどより構成される通信部709が接続されている。通信部709は、インターネットを含むネットワークを介しての通信処理を行う。   The input / output interface 705 includes an input unit 706 including a keyboard and a mouse, a display including a CRT (Cathode Ray Tube) and an LCD (Liquid Crystal display), an output unit 707 including a speaker, and a hard disk. A communication unit 709 including a storage unit 708, a network interface card such as a modem and a LAN card, and the like is connected. The communication unit 709 performs communication processing via a network including the Internet.

入出力インタフェース705にはまた、必要に応じてドライブ710が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア711が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部708にインストールされる。   A drive 710 is also connected to the input / output interface 705 as necessary, and a removable medium 711 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory is appropriately mounted, and a computer program read from them is loaded. It is installed in the storage unit 708 as necessary.

上述した一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、インターネットなどのネットワークや、リムーバブルメディア711などからなる記録媒体からインストールされる。   When the above-described series of processing is executed by software, a program constituting the software is installed from a network such as the Internet or a recording medium such as a removable medium 711.

なお、この記録媒体は、図23に示される、装置本体とは別に、ユーザにプログラムを配信するために配布される、プログラムが記録されている磁気ディスク(フロッピディスク(登録商標)を含む)、光ディスク(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disk)(登録商標)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア711により構成されるものだけでなく、装置本体に予め組み込まれた状態でユーザに配信される、プログラムが記録されているROM702や、記憶部708に含まれるハードディスクなどで構成されるものも含む。   This recording medium is a magnetic disk (including a floppy disk (registered trademark)) on which the program is recorded, which is distributed to distribute the program to the user, separately from the apparatus main body, shown in FIG. Removable media consisting of optical disks (including CD-ROM (compact disk-read only memory), DVD (digital versatile disk)), magneto-optical disks (including MD (mini-disk) (registered trademark)), or semiconductor memory It includes not only those configured by 711 but also those configured by a ROM 702 storing a program, a hard disk included in the storage unit 708, and the like that are distributed to the user in a state of being incorporated in the apparatus main body in advance.

なお、本明細書において上述した一連の処理を実行するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。   Note that the steps of executing the series of processes described above in this specification are performed in parallel or individually even if they are not necessarily processed in time series, as well as processes performed in time series in the order described. The processing to be performed is also included.

本発明の一実施の形態に係るシミュレーションシステムの例を示す図である。It is a figure which shows the example of the simulation system which concerns on one embodiment of this invention. 図1のセンシングブロックの構成例を示すブロック図である。It is a block diagram which shows the structural example of the sensing block of FIG. 図2のデータ処理部のプログラムなどのソフトウェアの機能的構成例を示すブロック図である。It is a block diagram which shows the functional structural example of software, such as a program of the data processing part of FIG. 図3の画像解析部の構成例を示すブロック図である。It is a block diagram which shows the structural example of the image analysis part of FIG. 図4の回転検出部の構成例を示すブロック図である。It is a block diagram which shows the structural example of the rotation detection part of FIG. 特徴点が検出されたゴルフボールの画像の例を示す図である。It is a figure which shows the example of the image of the golf ball from which the feature point was detected. 第1画像の例を示す図である。It is a figure which shows the example of a 1st image. 第2画像の例を示す図である。It is a figure which shows the example of a 2nd image. 第1画像の別の例を示す図である。It is a figure which shows another example of a 1st image. 第2画像の別の例を示す図である。It is a figure which shows another example of a 2nd image. 特徴点の回転を説明する図である。It is a figure explaining rotation of a feature point. 特徴点の回転を説明する図である。It is a figure explaining rotation of a feature point. 第2画像においてプロットされた第1画像の特徴点群の例を示す図である。It is a figure which shows the example of the feature point group of the 1st image plotted in the 2nd image. 特徴点の対応付けを説明する図である。It is a figure explaining matching of a feature point. 回転検出処理の例を説明するフローチャートである。It is a flowchart explaining the example of a rotation detection process. 対応部分特定処理の例を説明するフローチャートである。It is a flowchart explaining the example of a corresponding | compatible part specific process. 特徴点検出処理の例を説明するフローチャートである。It is a flowchart explaining the example of a feature point detection process. 特徴点回転処理の例を説明するフローチャートである。It is a flowchart explaining the example of a feature point rotation process. 特徴点対応付け処理の例を説明するフローチャートである。It is a flowchart explaining the example of a feature point matching process. 図2のセンサ部の別の構成例を示す図である。It is a figure which shows another structural example of the sensor part of FIG. 図20の制御部が出力する信号のタイミングチャートの例を示す図である。It is a figure which shows the example of the timing chart of the signal which the control part of FIG. 20 outputs. 図20のセンサ部により撮像された画像の例を示す図である。It is a figure which shows the example of the image imaged by the sensor part of FIG. パーソナルコンピュータの構成例を示すブロック図である。And FIG. 16 is a block diagram illustrating a configuration example of a personal computer.

符号の説明Explanation of symbols

10 シミュレーションシステム, 21 スクリーン, 22 センシングブロック, 41 センサ部, 42 データ処理部, 61 撮像制御部, 62 画像解析部, 63 シミュレーション画像生成部, 71 速度検出部, 72 回転検出部, 73 動き演算部, 91 特徴点抽出部, 92 簡易回転部, 93 特徴点対応制御部, 94 回転数検出制御部, 151 カメラ, 156 制御部, 161 ストロボ, 162 ストロボ   DESCRIPTION OF SYMBOLS 10 Simulation system, 21 Screen, 22 Sensing block, 41 Sensor part, 42 Data processing part, 61 Imaging control part, 62 Image analysis part, 63 Simulation image generation part, 71 Speed detection part, 72 Rotation detection part, 73 Motion calculation part , 91 feature point extraction unit, 92 simple rotation unit, 93 feature point correspondence control unit, 94 rotation speed detection control unit, 151 camera, 156 control unit, 161 strobe, 162 strobe

Claims (7)

移動するゴルフボールを撮像した画像に基づいて、前記ゴルフボールの回転を検出する検出装置であって、
前記ゴルフボールを第1の時刻に撮像した第1画像、および前記ゴルフボールを前記第1の時刻より後の第2時刻に撮像した第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点を抽出する特徴点抽出手段と、
前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角を特定するオイラー角特定手段と、
前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値を、画像相関法により演算する相関演算手段と、
前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けを行う対応付け手段とを備え、
前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向を検出する
検出装置。
A detection device for detecting rotation of the golf ball based on an image of a moving golf ball,
By detecting pixels that are edges in each of a first image obtained by imaging the golf ball at a first time and a second image obtained by imaging the golf ball at a second time after the first time. A feature point extracting means for extracting a plurality of feature points constituting a part of the image of the surface of the golf ball;
Based on the distances between the three-dimensional coordinate positions of the plurality of feature points extracted in the first image and the three-dimensional coordinate positions of the plurality of feature points extracted in the second image. Euler angle specifying means for specifying an Euler angle representing a positional relationship between an image and the second image;
The first image is rotated by the specified Euler angle, a predetermined feature point among the plurality of extracted feature points in the rotated first image, and the extraction in the second image. Correlation calculating means for calculating a correlation value with a predetermined feature point of the plurality of feature points by an image correlation method;
Association means for associating the feature points of the first image and the feature points of the second image based on the calculated correlation value;
A detection device that detects a rotation amount and a rotation direction of the golf ball based on the feature point of the first image and the feature point of the second image that are associated with each other.
前記第1の時刻において発光する第1のストロボと、
前記第2の時刻において発光する第2のストロボと、
前記第1の時刻および第2の時刻において前記ゴルフボールを被写体として撮像する1つのカメラとをさらに備え、
前記第1画像に対応する前記ゴルフボールの画像および前記第1画像に対応する前記ゴルフボールの画像が、前記1つのカメラにより撮像される
請求項1に記載の検出装置。
A first strobe that emits light at the first time;
A second strobe that emits light at the second time;
A camera that images the golf ball as a subject at the first time and the second time;
The detection device according to claim 1, wherein an image of the golf ball corresponding to the first image and an image of the golf ball corresponding to the first image are captured by the one camera.
前記オイラー角特定手段は、
与えられたパラメータに基づいて、前記第1画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれを、前記パラメータに対応するオイラー角の分だけ回転させて前記第2の画像上にプロットする特徴点回転手段と、
前記与えられたパラメータのうち、前記回転された前記第1画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれと、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて計算される評価値が最も高くなる前記パラメータを特定するパラメータ特定手段と
を備える請求項2に記載の検出装置。
The Euler angle specifying means is:
Based on the given parameter, the three-dimensional coordinate positions of the extracted feature points in the first image are rotated by the Euler angle corresponding to the parameter to be displayed on the second image. A feature point rotation means for plotting;
Among the given parameters, each of the three-dimensional coordinate positions of the plurality of feature points extracted in the rotated first image and the three-dimensional of the plurality of feature points extracted in the second image The detection device according to claim 2, further comprising: a parameter specifying unit that specifies the parameter having the highest evaluation value calculated based on a distance from each of the coordinate positions.
移動するゴルフボールを撮像した画像に基づいて、前記ゴルフボールの回転を検出する検出装置の検出方法であって、
前記ゴルフボールを第1の時刻に撮像した第1画像、および前記ゴルフボールを前記第1の時刻より後の第2時刻に撮像した第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点を抽出し、
前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角を特定し、
前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値を、画像相関法により演算し、
前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けを行うステップを含み、
前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向を検出する
検出方法。
A detection method of a detection device for detecting rotation of the golf ball based on an image obtained by imaging a moving golf ball,
By detecting pixels that are edges in each of a first image obtained by imaging the golf ball at a first time and a second image obtained by imaging the golf ball at a second time after the first time. Extracting a plurality of feature points constituting part of the image of the surface of the golf ball;
Based on the distances between the three-dimensional coordinate positions of the plurality of feature points extracted in the first image and the three-dimensional coordinate positions of the plurality of feature points extracted in the second image. Identify an Euler angle representing the positional relationship between the image and the second image;
The first image is rotated by the specified Euler angle, a predetermined feature point among the plurality of extracted feature points in the rotated first image, and the extraction in the second image. A correlation value with a predetermined one of the plurality of feature points is calculated by an image correlation method,
Correlating the feature points of the first image with the feature points of the second image based on the calculated correlation value;
A detection method for detecting a rotation amount and a rotation direction of the golf ball based on the feature point of the first image and the feature point of the second image that are associated with each other.
コンピュータを、
移動するゴルフボールを撮像した画像に基づいて、前記ゴルフボールの回転を検出する検出装置であって、
前記ゴルフボールを第1の時刻に撮像した第1画像、および前記ゴルフボールを前記第1の時刻より後の第2時刻に撮像した第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点を抽出する特徴点抽出手段と、
前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角を特定するオイラー角特定手段と、
前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値を、画像相関法により演算する相関演算手段と、
前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けを行う対応付け手段とを備え、
前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向を検出する検出装置として機能させる
プログラム。
Computer
A detection device for detecting rotation of the golf ball based on an image of a moving golf ball,
By detecting pixels that are edges in each of a first image obtained by imaging the golf ball at a first time and a second image obtained by imaging the golf ball at a second time after the first time. A feature point extracting means for extracting a plurality of feature points constituting a part of the image of the surface of the golf ball;
Based on the distances between the three-dimensional coordinate positions of the plurality of feature points extracted in the first image and the three-dimensional coordinate positions of the plurality of feature points extracted in the second image. Euler angle specifying means for specifying an Euler angle representing a positional relationship between an image and the second image;
The first image is rotated by the specified Euler angle, a predetermined feature point among the plurality of extracted feature points in the rotated first image, and the extraction in the second image. Correlation calculating means for calculating a correlation value with a predetermined feature point of the plurality of feature points by an image correlation method;
Association means for associating the feature points of the first image and the feature points of the second image based on the calculated correlation value;
A program that functions as a detection device that detects a rotation amount and a rotation direction of the golf ball based on the associated feature points of the first image and the second image.
請求項5に記載のプログラムが記録されている記録媒体。   A recording medium on which the program according to claim 5 is recorded. 打撃されたゴルフボールを第1の時刻に撮像した第1画像および前記ゴルフボールを前記第1の時刻より後の第2の時刻に撮像した第2画像に基づいて検出される前記ゴルフボールの速度と前記ゴルフボールの回転とに基づいて、前記打撃された後の前記ゴルフボールの軌跡を計算して前記軌跡に従って飛ぶゴルフボールの画像をスクリーンに表示するシミュレーション装置であって、
前記第1画像および前記第2画像のそれぞれにおいて、エッジとなる画素を検出することで、前記ゴルフボールの表面の画像の一部を構成する複数の特徴点を抽出する特徴点抽出手段と、
前記第1画像において前記抽出された複数の特徴点の3次元座標位置と、前記第2画像において前記抽出された複数の特徴点の3次元座標位置のそれぞれとの距離に基づいて、前記第1画像と前記第2画像の位置関係を表すオイラー角を特定するオイラー角特定手段と、
前記特定されたオイラー角の分だけ前記第1の画像を回転させ、前記回転された第1画像において前記抽出された複数の特徴点のうちの所定の特徴点と、前記第2画像において前記抽出された複数の特徴点のうちの所定の特徴点との相関値を、画像相関法により演算する相関演算手段と、
前記演算された相関値に基づいて、前記第1の画像の特徴点と前記第2の画像の特徴点との対応付けを行う対応付け手段とを備え、
前記対応付けられた前記第1の画像の特徴点と前記第2の画像の特徴点に基づいて、前記ゴルフボールの回転量と回転方向を検出する検出装置を有する
シミュレーションシステム。
The velocity of the golf ball detected based on a first image obtained by imaging the hit golf ball at a first time and a second image obtained by imaging the golf ball at a second time after the first time. And a simulation device for displaying an image of the golf ball flying according to the trajectory on the screen by calculating a trajectory of the golf ball after being hit based on the rotation of the golf ball,
A feature point extracting means for extracting a plurality of feature points constituting a part of the image of the surface of the golf ball by detecting pixels serving as edges in each of the first image and the second image;
Based on the distances between the three-dimensional coordinate positions of the plurality of feature points extracted in the first image and the three-dimensional coordinate positions of the plurality of feature points extracted in the second image. Euler angle specifying means for specifying an Euler angle representing a positional relationship between an image and the second image;
The first image is rotated by the specified Euler angle, a predetermined feature point among the plurality of extracted feature points in the rotated first image, and the extraction in the second image. Correlation calculating means for calculating a correlation value with a predetermined feature point of the plurality of feature points by an image correlation method;
Association means for associating the feature points of the first image and the feature points of the second image based on the calculated correlation value;
A simulation system comprising: a detection device that detects a rotation amount and a rotation direction of the golf ball based on the associated feature points of the first image and the second image.
JP2008099994A 2008-04-08 2008-04-08 Detection apparatus and method, program, recording medium, and simulation system Expired - Fee Related JP5297677B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008099994A JP5297677B2 (en) 2008-04-08 2008-04-08 Detection apparatus and method, program, recording medium, and simulation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008099994A JP5297677B2 (en) 2008-04-08 2008-04-08 Detection apparatus and method, program, recording medium, and simulation system

Publications (2)

Publication Number Publication Date
JP2009247642A JP2009247642A (en) 2009-10-29
JP5297677B2 true JP5297677B2 (en) 2013-09-25

Family

ID=41308875

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008099994A Expired - Fee Related JP5297677B2 (en) 2008-04-08 2008-04-08 Detection apparatus and method, program, recording medium, and simulation system

Country Status (1)

Country Link
JP (1) JP5297677B2 (en)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2791932A1 (en) * 2010-03-05 2011-09-09 Interactive Sports Technologies Inc. Apparatus and method for measuring golf club shaft flex and golf simulation system incorporating the same
KR101733116B1 (en) 2010-12-10 2017-05-08 한국전자통신연구원 System and method for measuring flight information of a spheric object with a high-speed stereo camera
KR101048091B1 (en) * 2011-03-22 2011-07-08 (주) 골프존 Apparatus and method for virtual golf simulation, and sensing device and method used to the same
KR101048089B1 (en) * 2011-03-22 2011-07-08 (주) 골프존 Apparatus for virtual golf simulation, and sensing device and method used to the same
JP5671135B2 (en) * 2011-05-26 2015-02-18 富士通テレコムネットワークス株式会社 Position detecting device and visual inspection device equipped with the same
JP5842807B2 (en) 2012-12-28 2016-01-13 カシオ計算機株式会社 Image analysis device, information notification device, image analysis method, information notification method, and program
KR101394271B1 (en) 2013-01-08 2014-05-13 (주) 골프존 Device for sensing moving ball and method for the same
JP6500598B2 (en) * 2015-05-26 2019-04-17 横浜ゴム株式会社 Flying body measuring device, flying body measuring method, and program
KR101723432B1 (en) * 2015-06-12 2017-04-18 주식회사 골프존 Device for sensing moving ball and method for the same
JP6168127B2 (en) * 2015-11-11 2017-07-26 カシオ計算機株式会社 Image analysis apparatus, image analysis method, and program
CN107341827B (en) * 2017-07-27 2023-01-24 腾讯科技(深圳)有限公司 Video processing method, device and storage medium
CN109684919B (en) * 2018-11-15 2021-08-17 重庆邮电大学 Badminton service violation distinguishing method based on machine vision

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3629935B2 (en) * 1998-01-27 2005-03-16 オムロン株式会社 Speed measurement method for moving body and speed measurement device using the method
JP3630582B2 (en) * 1999-03-11 2005-03-16 株式会社東芝 Image processing apparatus and method
JP3535476B2 (en) * 2001-05-09 2004-06-07 住友ゴム工業株式会社 Method for measuring three-dimensional attitude of sphere and method for measuring rotation amount and rotation axis direction of sphere using the method
EP1509781B1 (en) * 2002-06-06 2015-04-29 WAWGD, Inc, dba Foresight Sports Flight parameter measurement system
JP4109075B2 (en) * 2002-10-10 2008-06-25 Sriスポーツ株式会社 Method for measuring the rotation characteristics and flight characteristics of a sphere, and a device for measuring the rotation characteristics and flight characteristics of a sphere
JP2005291824A (en) * 2004-03-31 2005-10-20 Yokohama National Univ Flying behavior measuring apparatus of flying object, and flying behavior measuring method of flying object
JP4723876B2 (en) * 2005-02-23 2011-07-13 株式会社ジャパーナ Method for measuring rotation direction and rotation amount of sphere moving in space, and sphere suitable for measurement of rotation direction and rotation amount when moving in space
JP2007025966A (en) * 2005-07-14 2007-02-01 Konica Minolta Photo Imaging Inc Image processing method, image processor and image processing program
JP2007078358A (en) * 2005-09-09 2007-03-29 Sumitomo Electric Ind Ltd Measurement device for mobile body, signal control system, measurement method of mobile body, and computer program

Also Published As

Publication number Publication date
JP2009247642A (en) 2009-10-29

Similar Documents

Publication Publication Date Title
JP5297677B2 (en) Detection apparatus and method, program, recording medium, and simulation system
US11064107B2 (en) Objects trail-based analysis and control of video
US11033826B2 (en) Methods and systems for sports simulation
JP3749072B2 (en) Golf club selection method and selection system
JP3778427B2 (en) Hitting ball diagnostic system
JP2004135908A (en) Performance measuring instrument and method for golf club
US20200346091A1 (en) Device for calculating flight information of ball, method of calculating flight information of ball, and computing-device-readable recording medium having the method recorded therein
JP4271615B2 (en) Golf club head behavior measuring device
CN101894374A (en) The method and apparatus that is used for target following
JP4028771B2 (en) Method for measuring impact state of golf swing
JP4109094B2 (en) Method for measuring the rotational and flight characteristics of a sphere
JP4109075B2 (en) Method for measuring the rotation characteristics and flight characteristics of a sphere, and a device for measuring the rotation characteristics and flight characteristics of a sphere
RU2606583C2 (en) Method and apparatus for determining position of sporting projectile within scene
KR102531041B1 (en) Method of recognizing motion of golf ball and club in fast camera image and apparatus of analyzing golf motion using the same
JP5572853B2 (en) Sensing device for moving object, sensing processing method, and virtual golf simulation device using the same
KR101019829B1 (en) Sensing processing device and method for moving object, and virtual golf simulation device using the same
KR20180087748A (en) Sensing device for calculating information on position of moving object and sensing method using the same
JP4533037B2 (en) Offside line detection device and program thereof
US11229824B2 (en) Determining golf club head location in an image using line detection and contour separation
CN111738093B (en) Automatic speed measuring method for curling balls based on gradient characteristics
JP7161609B2 (en) Method, system and non-transitory computer readable recording medium for measuring physical quantities associated with golf clubs
JP6710961B2 (en) Golf swing analysis method
KR101767954B1 (en) Method of detecting recording location for golf swing, method of displaying golf swing, golf swing analysis system performing the same and mobile system performing the same
JP2006204359A (en) Golf ball trial hitting machine
JP2003111880A (en) Golf swing analyzing system and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130617

R150 Certificate of patent or registration of utility model

Ref document number: 5297677

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees