JP4283146B2 - スウィング計測用服 - Google Patents

スウィング計測用服 Download PDF

Info

Publication number
JP4283146B2
JP4283146B2 JP2004090875A JP2004090875A JP4283146B2 JP 4283146 B2 JP4283146 B2 JP 4283146B2 JP 2004090875 A JP2004090875 A JP 2004090875A JP 2004090875 A JP2004090875 A JP 2004090875A JP 4283146 B2 JP4283146 B2 JP 4283146B2
Authority
JP
Japan
Prior art keywords
color
image
clothes
mark
swing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2004090875A
Other languages
English (en)
Other versions
JP2005270487A (ja
Inventor
勝彦 植田
正秀 大貫
Original Assignee
Sriスポーツ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sriスポーツ株式会社 filed Critical Sriスポーツ株式会社
Priority to JP2004090875A priority Critical patent/JP4283146B2/ja
Publication of JP2005270487A publication Critical patent/JP2005270487A/ja
Application granted granted Critical
Publication of JP4283146B2 publication Critical patent/JP4283146B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)

Description

本発明は、スウィング計測用服に関し、詳しくは、スウィング動作の解析を行うためにゴルファーが着用する計測用服に関するものである。
従来、ゴルファーの打撃時のスウィングを撮影し、打球の飛距離や軌道等の各種情報をコンピュータで自動的に算出してゴルファーに表示可能とする装置が各種提供されている。
特許第2794018号で開示された動作診断装置では、ゴルフクラブヘッドおよび被診断者の体に複数の動作ポイントを設け、スウィング動画像中の動作ポイントの座標を取得してスウィング診断を行っている。
しかしながら、上記動作診断装置を用いた場合、被診断者には体の各部の注目点に複数の動作ポイントをわざわざ付けてもらわねばならないため、被診断者は動作診断を行うにあたり煩わしさを覚えてしまう欠点がある。このような装置は通常ゴルフショップなどの公衆スペースに設置されて実施され、ユーザに面倒くさいと思われることは致命的であり、より利便性の高い手段の提供が望まれるところである。
特許第2794018号
本発明は、前記問題に鑑みてなされたもので、スウィング計測を行う際に、ゴルファーの注目点の抽出を簡便に行うことができるようにすることを課題としている。
前記課題を解決するため、本発明は、ゴルフクラブを把持してスウィングするゴルファーをカラー動画像で撮影し、コンピュータでスウィング動作解析を行う際に前記ゴルファーが着用する服であって、
前記撮影された画像上で前記コンピュータにより色情報に関する所定の閾値を満たす色ピクセルを抽出することにより認識される色マークを少なくとも肘位置に設けており、該色マークは服の素地の外面に色付部を設けて形成し、該色付部の色は背景や服の素地と相違させ、かつ、該色付部を有する素地の内面側にパッドを配置することで前記色付部を隆起させて前記色マークとしているスウィング計測用服を提供している。
前記構成とすると、ゴルファーは既に色マークが備えられたスウィング計測用服を私服の上から着用するだけで、ゴルファーのスウィング動作中の注目点である肘位置に自動的に色マークが付されることになる。したがって、ゴルフスウィングの動作解析を行うにあたりゴルファーは非常に簡便にスウィング計測を受けることでき、ユーザの利用意欲を高めることができる。
また、色マークは背景や服の素地と配色を異ならせているので、コンピュータにより色情報に関する所定の閾値を満たす色ピクセルを抽出して画像上での色マークの位置を特定する際の誤認識を防止することができる。
前記色マークは、少なくとも両肘位置、両肩位置、腰位置に設けられている。
前記構成とすると、スウィング動作の計測に重要な関節である肘、肩、腰の位置を画像上で認識することができる。
また、前記色マークは、さらに首位置あるいは/および手首位置に設けられても好適である。つまり、首位置や手首位置の位置座標の抽出を他の手段で行わない時は、計測用服の襟(首位置)に色マークを付したり、袖口(手首位置)に色を塗ることによって色抽出にて画像上の位置座標を認識すればよい。
前記色マークは、球状、帯状、直方体あるいは半球状としている。
即ち、色マークを球状とすれば、色マークの向きが変化しても画像上に映される色マークの面積が変化するのを防止することができる。また、色マークを帯状とすれば、体の角度が大きく変化しても色マークが隠れないように撮影することができる。なお、帯状の色マークを肘に設ける場合には腕章状とし、腰に設ける場合にはベルト状とすると好適である。また、色マークの形状は視認性が良好であれば上記形状に限定されず、直方体や半球状あるいはそれ以外の形状としてもよいことは言うまでもない。
前記服は上着のみとしていると好ましい。
つまり、前記スウィング計測用服を上着のみとすれば、ゴルファーがスウィング計測を試みる場合の準備作業が非常に楽になり利用意欲を高めるメリットがある。もし、下半身にも着用する計測用のズボンがあると準備作業に手間が掛かり煩雑な印象を与えてしまうからである。
前記色マークは近接する他の色マークと配色を相違させている。
前記構成とすると、コンピュータにより色情報に関する所定の閾値を満たす色ピクセルを抽出して画像上での色マークの位置を特定する際に、他の色マークと誤認識してしまうのを防止することができる。
前記服の前開き部の対向する端縁に開閉用のファスナーを設けており、
前記ファスナーは下方から上方に向けて開くことができる構成としている。
前記構成とすると、前記ファスナーを下方から少し上方に上げることにより、前記前開き部の下端側のみを開状態に開放することができ、ゴルファーがアドレス姿勢の時などに前記計測用服の腹部周囲がダボつく(服が体から浮く)のを防止することができる。よって、前記色マークとゴルファーの体との位置関係の精度を向上させることができる。
前記服の胴回りを調節する伸縮手段を設けている。
即ち、ゴルファーが前記計測用服を着用した際に窮屈な場合には伸縮手段を調節して胴回りを拡げて緩和することができる一方、計測用服がゴルファーの体より大きい場合には伸縮手段を調節して胴回りを縮めることができる。したがって、様々な体型のゴルファーについて前記スウィング計測用服を体にフィットさせて、前記色マークとゴルファーの体との位置関係の精度を向上させることができる。なお、前記伸縮手段としては面ファスナー等を用いていると好適である。
前記のように、色マーク設定位置の前記素地の外面には色付部を設けており、該色付部を有する素地の内面側にパッドを配置することで前記色付部を隆起させて前記色マークとしている。
前記構成とすると、球状等の色マークを服の素地の外面に突設した場合等に比べて外観が向上する利点がある。
以上の説明より明らかなように、本発明によれば、ゴルファーは既に色マークが付されたスウィング計測用服を着用するだけで、ゴルファーのスウィング動作中の注目点である肘位置等に自動的に色マークが付されることになり、スウィング計測の準備作業を大幅に簡便化することができる。
本発明の実施形態を図面を参照して説明する。
スウィング計測システムの被診断者となるゴルファー19(右利きとする)は、関節位置の注目点に色マークM1〜M7が付された上着であるスウィング計測用服10を私服の上から着用している。
図1はスウィング計測用服10を示し、計測用服10の素地11は白地からなり、左肘位置には黄色の色マークM1、左肩位置には赤色の色マークM2および青色の色マークM3、肩位置には青色の色マークM4および赤色の色マークM5、右肘位置には青色の色マークM6、腰位置(臍)には赤色の色マークM7を備えている。なお、左肘位置の色マークM1は球状マークM8と腕章状マークM9との組み合わせとし、腰の色マークM7はベルト状とし、その他の色マークM2〜M6は球状としている。
左肘については、球状マークのみでは左腕の捻転により隠れてカラーCCDカメラ20、21に映らない可能性があるので、上記のように腕章を組み合せることであらゆるスウィング姿勢で色マークM1を画像上で認識できるようになる。
右肘については、側面(飛球線後方)のカラーCCDカメラ21からしか位置抽出を行わないので球状の色マークM6でよいが、右腕の捻転により色マークM6が隠れる可能性もないとはいえないため、腕章も組み合せているとより好適である。
球状の色マークM2〜M6、M8の大きさについては、大きすぎるとゴルファー19の邪魔になりスウィング動作に支障をきたす一方、小さすぎるとカラーCCDカメラ20、21の分解能の影響で画像上で色を忠実に認識できない恐れがあるので、その中間の適度な大きさであることが求められる。例えば、画像の分解能が512×384ピクセルで視野幅(画像の縦横値)が3×3mであった場合には、球状の色マークM1〜M6は、直径0.5〜5cm、好ましくは1〜3cmがよく、本実施形態では直径2cmとしている。
球状の色マークM2〜M6、M8の形は、球状だけに限定されるものではなく、半球状、球の一部を切り取ったもの、あるいは、立方体や楕円体など、カラーCCDカメラ20、21で撮影して認識できる大きさや形状であればよい。
腕章状あるいはベルト状の色マークM7、M9は、その幅を1〜5cm、好ましくは2〜4cmがよく、本実施形態では3cmとしている。ベルト状の色マークM7の長さは10cm以上で臍の位置、つまり腰位置の前面側を横断しており、図5に示す角度定義において臍位置を基点とした胴回りの角度が−120°〜150°の範囲にベルト状の色マークM7が位置するように長さ設定するとよく、本実施形態では−100°〜150°の長さに設定している。なお、ベルト状色マークM7は胴回りの全周に設けてもよい。また、長さが1cm以上のベルトを少なくとも2箇所以上で少なくとも1色以上のベルトを腰位置の全周りに複数配置してもよい。
左肩位置には赤色の色マークM2および青色の色マークM3、肩位置には青色の色マークM4および赤色の色マークM5とそれぞれ2つずつ取り付けているが、2つ以上の異なる色から構成される色マークを1箇所に取り付けてもよい。あるいは腕章状のものでもよい。
記各色マークM1〜M7は、計測用服10の素地11に縫い付けてもよいし、面ファスナー等で着脱自在にして異なる色マークと交換可能としてもよい。
上記色マークM1〜M7は、図17(A)(B)に示すように、計測用服10”の素地11”の該当箇所に色付けして隆起させている。
計測用服10の前開き部11aの対向する端縁には開閉用のファスナー12を設けており、このファスナー12は上方から下方に開く第1ツマミ部12aと、下方から上方に開く第2ツマミ部12bとを備えている。
つまり、第2ツマミ部12bを下方から少し上方に上げることにより、前開き部11aの下端側のみを開状態に少し開放することができ、ゴルファー19がアドレス姿勢の時などに計測用服10の腹部周囲がダボつく(服が体から浮く)のが防止され、色マークM77とゴルファー19の体との位置関係の精度が向上する。
計測用服10の両脇腹位置には胴回りを伸縮自在に調節する伸縮手段16を設けている。伸縮手段16は、図1及び図2に示すように、後端13bが素地11に縫い付けられ先端13a側の内面に係止用の面ファスナー14を設けている布片13と、素地11の所要位置に縫い付けられた被係止用の面ファスナー15とを備えている。
つまり、布片13を被係止用の面ファスナー15側に引き寄せて、係止用の面ファスナー14を被係止用の面ファスナー15に係止することで、計測用服10の胴回りのサイズを縮小することができる。これにより、様々な体型のゴルファー19について計測用服10が体にフィットされ、色マークM7とゴルファー19の体との位置関係の精度が向上する。
なお、上述した計測用服10はM、L、LLのスリーサイズを用意しており、ゴルファー11は自己に最適なサイズを選択するとよい。
次に、図3はゴルフスウィング計測システムの概略図を示し、コンピュータ22と、該コンピュータ22に接続された表示手段であるモニター23と、コンピュータ22に接続された入力手段であるキーボード24およびマウス25と、コンピュータ22に接続されゴルファー19の正面位置および飛球線後方(側面)位置に設置されたカラーCCDカメラ20、21とを備えている。
ゴルファー19の把持するゴルフクラブ18のシャフト18aには間隔をあけて3つのクラブ用色マークCM1、CM2、CM3が取り付けられている。クラブ用色マークCM1〜CM3は、グリップ側からヘッド側にかけて等間隔に取り付けており、グリップに最も近いクラブ用色マークCM1は黄色とし、真ん中に配置されたクラブ用色マークCM2はピンク色とし、ヘッド13b側に配置されたクラブ用色マークM3は黄色として隣り合うマークが異なる色となるようにしている。本実施形態では、各クラブ用色マークCM1〜CM3の間の距離は250mmとすると共に、グリップ端とクラブ用色マークCM1との距離は250mmとする。
2つのカラーCCDカメラ20、21はコンピュータ22で撮影タイミングを同期させており、高速度デジタルCCDカメラを用いる場合には、1秒間あたりのコマ数が30コマ以上で、好ましくは60コマ以上、シャッタースピードは1/500s、好ましくは1/1000s以下とする。
スウィングを撮影する空間(縦3×横3×高さ2m)の明るさはできるだけ明るい空間であることが好ましいが、極端に明るい箇所が生じるとハレーションが生じる可能性があるので、3000ルクスを超えない範囲内で均一の明るさをスウィング環境として設定することが好ましい。また、スウィングを撮影する空間の背景26は、ゴルファー19や色マークM1〜M7やクラブ用色マークCM1〜CM3を抽出しやすいように、異なる色としている。
コンピュータ22は、カラーCCDカメラ20、21とLANケーブルやIEEE1394やCameraLink規格等を用いてオンライン接続されており、カラーCCDカメラ20、21で撮影されたスウィング動画像(複数の静止画像)をコンピュータ22のハードディスクやコンピュータ22上のメモリやボード上のメモリに保存している。また、コンピュータ22には、後述するように、静止画像の各ピクセルについて色情報に関する特定の閾値で二値化処理を行って閾値を満たすピクセルをクラブ用色マークCM1〜CM3や計測用服10の色マークM1〜M7の位置として座標データを取得する手段等を備えたプログラムを内蔵している。
次に、ゴルファー19が着用した計測用服10の色マークM1〜M7の位置座標の取得を特定のチェックポイント画像において行う。
先ず、カラーCCDカメラ20、21でゴルファー19が存在しない状態の背景26のみを撮影した背景画像を読み込み、また、カラーCCDカメラ20、21からボールBを打撃するスウィング動画像の各コマ毎の静止画像をコンピュータ22に取り込んでハードディスクあるいはコンピュータ22内のメモリあるいはボード上のメモリに保存する。
次に、スウィング動画像を構成する多数の静止画像からスウィング診断に有用となるスウィング姿勢が映されたチェックポイント画像である、アドレス画像、テイクバックシャフト8時画像、テイクバックシャフト9時画像、テイクバック左腕水平画像、トップ画像、ダウンスウィング左腕水平画像、ダウンスウィングシャフト9時画像、インパクト前画像、インパクト画像、インパクト後画像、フォローシャフト3時画像、フィニッシュ画像の各チェックポイント画像を自動抽出する。
前記のようにスウィング動画像の多数の静止画像から有用なチェックポイント画像を抽出することで、後工程において行われる計測用服10の色マークM1〜M7の位置座標を抽出する計算を全コマではなく前記チェックポイント画像についてのみ行えばよい利点がある。
以下、各チェックポイント画像の自動抽出方法について分説する。
(アドレス画像)
先ず、アドレス画像の抽出方法について説明する。なお、アドレス画像とは、ゴルファー19がアドレス姿勢をしている状態の静止画像である。
スウィング動画像の撮影をアドレス状態から開始した場合は、初期画像をアドレス画像とする。しかし、インパクト時の打球音やインパクトセンサをトリガ信号として取得し、その前後ある一定時間内の動画像を取得した場合には、例えば、初期画像がワッグル(アドレス前に予備動作としてヘッドを前後に揺らす動作)等を含むことで、初期画像が必ずしもアドレス画像とならない。そこで、この場合には、各フレーム(静止画像)間で差分処理を実施し、差分が最小となるフレームがゴルファー19が静止している状態と考えてアドレス画像とみなす。
次に、テイクバックシャフト9時画像、トップ画像、ダウンスウィングシャフト9時画像、インパクト前画像、インパクト画像、インパクト後画像、フォローシャフト3時画像、フィニッシュ画像の抽出方法について説明する。
ここで、テイクバックシャフト9時画像とは、テイクバック時にシャフトを時計の針に見立てた場合に9時位置にある状態の静止画像である。トップ画像とは、テイクバックからダウンスウィングに移行するトップポジションの状態の静止画像である。ダウンスウィングシャフト9時画像とは、ダウンスウィング時にシャフトを時計の針に見立てた場合に9時位置にある状態の静止画像である。インパクト前画像とは、インパクト直前の状態の静止画像である。インパクト画像とは、ゴルフクラブのヘッドがボールと衝突した瞬間の静止画像である。インパクト後画像とは、インパクト直後の状態の静止画像である。フォローシャフト3時画像とは、フォロースルー時にシャフトを時計の針に見立てた場合に3時位置にある状態の静止画像である。フィニッシュ画像とは、スウィングが終了しゴルフクラブの動きが停止した状態の静止画像である。
これらチェックポイント画像は、基本的には各静止画像におけるクラブ用色マークCM1〜CM3の座標を追跡することで判定されるので、先ず、クラブ用色マークCM1〜CM3の自動追尾方法について説明する。
アドレス画像においてクラブ用色マークCM1〜CM3を自動認識するための二値化処理を行う。なお、二値化処理の対象は本実施形態ではフレーム全体としているが、ゴルファー19が画像中心付近に撮影されるように限定しておいた場合には、図6に示すように、ゴルフシャフト18aが存在すると考えられる領域Sのみで二値化処理してもよい。なお、領域Sの設定は具体的には、画像の幅をW、高さをHとすると、1/3W〜2/3Wの範囲を領域Sの幅とすると共に、1/2H〜4/5Hの範囲を領域Sの高さとしている。
二値化処理の方法としては、RGB値やYIQ値を用いてもよいが、本実施形態ではクラブ用色マークCM1〜CM3の色を最も認識しやすい色相・彩度・明度を利用している。具体的には、フレーム上の各ピクセル毎のRGB値を取得し、
Figure 0004283146
前記の数式1により求められる刺激和Tを用いて以下の数式2の正規化を行う。
Figure 0004283146
なお、RGB値は色が24ビットで表現される場合は各色は0〜255までの値となるものである。
色相θは、以下の数式3および数式4で算出される。
Figure 0004283146
但し、0≦θ1≦πを用いて、
Figure 0004283146
とする。
彩度Sは、以下の数式5で算出される。
Figure 0004283146
明度Vは、以下の数式6で算出される。
Figure 0004283146
前記数式3〜6で算出されたピクセルの色相、彩度および明度の値(ピクセル色情報)が所定の条件(基準色情報)を満たさないピクセルは0とし、該条件を満たすピクセルは色マークM1〜M3と同一の色であるとみなして1とする二値化処理を行い、1のピクセルを順にラベリング処理する。
ここで、色相、彩度および明度の条件としては、例えば、黄色のクラブ用色マークM1、M3であれば色相θ=30〜60°、彩度S≧0.5、明度V≧100という閾値を設定しており、ピンク色の色マークM2であれば色相θ=320°〜360°または0°〜10°、彩度S=0.3〜0.6、明度V≧80という閾値を設定することにより該条件を満たすピクセルをマークと同色とみなしている。
ここで、例えばピンク色のクラブ用色マークCM2は現実には1つしかないが、画像中に関係のないピンク色が存在した場合には2つ以上の領域が抽出される恐れがある。そのような場合を考慮して、予めマークの面積範囲を設定しておき、その設定範囲外の面積を有する領域はクラブ用色マークCM2ではないと判断し、設定範囲内の面積を有する領域をクラブ用色マークCM2であると認識する。本実施形態ではクラブ用色マークCM1〜CM3として認識する面積範囲は5〜60若しくは5〜200ピクセルとしている。
前記のようにしてクラブ用色マークCM1〜CM3と認識したピクセルを各マークCM1〜CM3のラベリングにより1、2、3とした場合、各数字のピクセルからマーク色情報と重心座標を得る。ここで、マーク色情報とは、領域内の各ピクセルの平均色と、各ピクセルのRGBの最大値・最小値と、その変動幅を含む情報のことである。
以上のような処理を行うことで、ゴルフクラブ18のシャフト18aに付されたクラブ用色マークCM1〜CM3を精度良く自動抽出することができる。
次に、アドレス画像で自動抽出されたクラブ用色マークCM1〜CM3をアドレス画像取得後の2、3枚目の画像について自動追尾する処理を行う。
図7に示すように、クラブ用色マークCM1〜CM3には、クラブ用色マークCM1〜CM3を中心として四角形の探索範囲S1〜S3を設定する。ここで、探索範囲S1〜S3とは、クラブ用色マークCM1〜CM3の検出処理を行う計算対象となる画像上の範囲のことを言う。探索範囲S1〜S3の概念を導入すれば、画像上の探索範囲S1〜S3外にクラブ用色マークCM1〜CM3と色が近似している箇所があっても、クラブ用色マークCM1〜CM3の検出処理を探索範囲S1〜S3内しか行わないため誤認識が防止できると共に、フレーム内の全ピクセルを処理対象とする場合に比べ計算時間も大幅に短縮することが可能となる。本実施形態では、探索範囲S1〜S3はクラブ用色マークCM1〜CM3を中心としてデフォルトで縦横(YX)範囲を10×10ピクセルとしている。なお、画像上では横方向をX軸、縦方向をY軸としていると共に、画像上の右向きがX座標の正方向、下向きがY座標の正方向としている。また、前記自動追尾中の探索範囲S1〜S3の配置決定は、アドレス画像取得後の2、3枚目の画像においてはシャフト18aは殆ど動かないので、1つ前の時刻の画像で自動認識したクラブ用色マークCM1〜CM3を中心位置として設定している。
次いで、色範囲を設定する。
色範囲とは、クラブ用色マークCM1〜CM3を認識する際に、画像上の対象ピクセルの色情報がクラブ用色マークCM1〜CM3の色(基準色情報)と同一であるとみなす誤差の許容範囲をいい、本実施形態では、上述のアドレス画像で取得されたマーク色情報のR(赤)G(緑)B(青)のそれぞれについて平均値を中心として最大最小幅の半分の数値範囲を色範囲として設定している。
以下の自動追尾処理は、スウィング中の移動速度の遅いグリップ近くに配されたクラブ用色マークCM1から順にCM2、CM3と追尾していくこととする。
まず、探索範囲S1内の差分ピクセルのRGBそれぞれについて前記色範囲内であるか否かを判定し、色範囲内であるピクセルを色マークM1を表示するピクセルとみなし、その色抽出されたピクセル群の重心位置を取得する。もし、この色範囲を用いた方法により追尾できない場合には、色情報(色相、彩度、明度)を利用して色抽出を行い追尾してもよい。これらの処理を各色マークM1〜M3の探索範囲S1〜S3について行う。
もし、探索範囲内で複数のマーク候補領域が抽出された時には、色マークM1について探索範囲S1内で背景画像との差分処理を行う。これにより、探索範囲S1内で背景画像が取り除かれ、後工程での色マークM1の認識の際に、背景画像等に色マークM1と近似した色が存在しても誤認しなくなる。
次に、アドレス画像から4枚目以降のフレームにおける色マークCM1〜CM3の探索範囲S1〜S3の中心位置の設定方法について説明する。先ず、最もグリップに近いクラブ用色マークCM1の場合については、例えば、4枚目のフレームに関しては、1枚目(アドレス)−2枚目間の移動ベクトル量V1と、2枚目−3枚目間の移動ベクトル量V2とを求めて、その増加量(V2−V1)を考慮して3枚目−4枚目間の移動ベクトル量{V2+(V2−V1)}を予測する。1つ前の時刻の探索範囲S1中心位置からその移動ベクトル量{V2+(V2−V1)}だけオフセット移動させた位置を現画像(4枚目)の探索範囲S2の中心として設定している。(5枚目以降のフレームについても同様の手順)
クラブ用色マークCM2、CM3の探索範囲S2、S3の中心位置については、例えば4枚目のフレームに関しては、前記で位置が決定したクラブ用色マークCM1を利用して求めた移動ベクトル量{V2+(V2−V1)}だけ1つ前の時刻の探索範囲S2、S3中心位置からオフセットさせると共に、1枚目−2枚目間のシャフト角度D1と、2枚目−3枚目間のシャフト角度D2とを求めて、その増加量(D2−D1)を考慮して3枚目−4枚目間のシャフト角度{D2+(D2−D1)}を予測し、4枚目のフレームの色マークM1を回転支点として角度{D2+(D2−D1)}だけ回転させる。(5枚目以降のフレームについても同様の手順)
このように、オフセット移動と回転移動とを組み合せて探索範囲S2、S3の中心位置を決定することで、ダウンスウィングのようなシャフト18aの移動が速い場合でも、シャフト位置をかなり正確に予測することができ、探索範囲S2、S3の面積を追尾中に増加させる必要がなくなる。なお、図8に示すように、探索範囲S2、S3の面積は、20×20ピクセルとしている。
もし、探索範囲内で複数のマーク候補領域が抽出された時には、色マークM1について探索範囲S1内で背景画像との差分処理を行う。これにより、探索範囲S1内で背景画像が取り除かれ、後工程での色マークM1の認識の際に、背景画像等に色マークM1と近似した色が存在しても誤認しなくなる。
前記方法によってもクラブ用色マークCM1〜CM3を追尾できなかった場合は、アドレス画像でクラブ用色マークCM1〜CM3を自動抽出した方法と同様にして再二値化処理を実施する。即ち、アドレス画像で決定した色範囲でクラブ用色マークCM1〜CM3が発見できない主な理由は、アドレス画像に比べて暗い領域に存在するクラブ用色マークCM1〜CM3を追尾しようとすることが考えられるため、クラブ用色マークCM1〜CM3の彩度と明度の閾値を小さくする変更をして二値化処理を再実施することとする。
これでも追尾できなかった場合には、3つのクラブ用色マークCM1〜CM3のうち2つのマークが認識できている場合は該2つのマークに対する位置関係から残りの1つのマークを位置を算出することとする。あるいは、前記方法によってオフセットした探索範囲の中心を現在の時刻のマーク位置と仮にみなしてもよい。
以上のようにして、アドレスからフィニッシュまでのスウィング動作におけるクラブ用色マークCM1〜CM3の位置座標データが取得される。
次に、前記取得されたスウィング中のクラブ用色マークCM1〜CM3の座標データに基づいて各チェックポイント画像を抽出する。
(テイクバックシャフト9時画像)
テイクバックシャフト9時画像は、クラブ用色マークCM1〜CM3のうち2つを用いてシャフト18aの角度を算出し、シャフト18aが水平(90°)に最も近い画像を選択することで抽出する。あるいは、クラブ用色マークCM1〜CM3のうち1つを用いる場合は、マークの移動ベクトルのX方向成分が極小になる画像を選択することで抽出してもよい。なお、ここでいう角度はシャフト18aが6時の状態を0°として時計回りを正とする。
(トップ画像)
トップ画像は、各クラブ用色マークCM1〜CM3のうち2つを用いてシャフト18aの角度を算出し、シャフト18aの角度が最も大きくなった画像を選択することで抽出する。あるいは、クラブ用色マークCM1〜CM3のうち1つを用いる場合は、マークの移動ベクトルのX方向成分およびY方向成分が極小になる画像を選択することで抽出してもよい。
(ダウンスウィングシャフト9時画像)
ダウンスウイングシャフト9時画像は、クラブ用色マークCM1〜CM3のうち2つを用いてシャフト18aの角度を算出し、シャフト18aが水平(90°)に最も近く、かつ、時刻がトップ画像よりも後である画像を選択することで抽出する。あるいは、クラブ用色マークCM1〜CM3のうち1つを用いる場合は、マークの移動ベクトルのX成分が極小になり、かつ、時刻がトップ画像よりも後である画像を選択することで抽出してもよい。
(インパクト画像)
インパクト画像は、クラブ用色マークCM1〜CM3のうち2つを用いてシャフト18aの角度を算出し、シャフト18aの角度が0°に最も近くなった画像を選択することで抽出する。あるいは、クラブ用色マークCM1〜CM3のうち1つを用いる場合は、マークの移動ベクトルのY方向成分が極小になる画像を選択することで抽出してもよい。また、インパクト画像は外部トリガー信号を用いて画像抽出を行ったり、インパクト時のヘッドとボールの打球音を利用してインパクト画像を抽出してもよい。
(インパクト前画像)
インパクト前画像は、前記抽出されたインパクト画像より予め設定された所定時間(あるいは所定フレーム数)を巻き戻して得られる画像を選択することで抽出する。
(インパクト後画像)
インパクト後画像は、前記抽出されたインパクト画像より予め設定された所定時間(あるいは所定フレーム数)を進めて得られる画像を選択することで抽出する。
(フォローシャフト3時画像)
フォローシャフト3時画像は、クラブ用色マークCM1〜CM3のうち2つを用いてシャフト18aの角度を算出し、シャフト18aの角度が−90°に最も近くなった画像を選択することで抽出する。あるいは、クラブ用色マークCM1〜CM3のうち1つを用いる場合は、マークの移動ベクトルのX方向成分が極小になり、かつ、時刻がインパクト画像より後の画像を選択することで抽出してもよい。
(フィニッシュ画像)
フィニッシュ画像は、クラブ用色マークCM1〜CM3のうち2つを用いてシャフト18aの角度を算出し、シャフト18aの角度が最も小さくなった画像を選択することで抽出する。あるいは、クラブ用色マークCM1〜CM3のうち1つを用いる場合は、マークの移動ベクトルのX方向成分およびY方向成分が極小になり、かつ、時刻がトップ画像よりも後の画像を選択することで抽出してもよい。
次に、テイクバック左腕水平画像、ダウンスウィング左腕水平画像の抽出方法について説明する。
ここで、テイクバック左腕水平画像とは、テイクバック時に左腕の前腕部が水平状態の静止画像である。ダウンスウィング左腕水平画像とは、ダウンスウィング時に左腕の前腕部が水平状態の静止画像である。
左腕が水平である画像を認識するためには、左腕を含む画像領域であるテンプレートを作成し、テンプレートマッチング処理によりマッチしたテンプレート角度が水平となる画像を左腕水平とする。
以下、静止画像中の左腕を含むテンプレートを作成するためにゴルファー19の輪郭抽出を行う。
先ず、クラブ用色マークCM1〜CM3の座標から取得されるシャフト角度によりシャフト18aが6時状態となる画像を抽出する。グリップに最も近いクラブ用色マークCM1と次に近いクラブ用色マークCM2とからマーク間ベクトルを求めてグリップ位置を決定する。具体的には、
(グリップ位置)=(クラブ用色マークCM1の位置)−α×(マーク間ベクトル)
によりグリップ位置を算出する。
ここで、αは、クラブ用色マークCM1とクラブ用色マークCM2との距離に対するクラブ用色マークCM1とグリップとの実際の距離の割合を意味しており、本実施形態ではα=0.5としている。
次に、シャフト6時画像を背景画像(ゴルファー19が写っていない画像)で背景差分処理を行ってゴルファー19のシルエットを抽出する。詳しくは、背景画像でのRGB値をそれぞれr’、g’、b’とし、シャフト6時画像上のピクセルのRGB値をそれぞれr、g、bとすると、数式7に示すノルム(対象ピクセルでのr、g、bとr’、g’、b’との差の絶対値の2乗和の平方根)が予め設定した閾値未満であればゴルファー19のシルエットでないとみなして当該ピクセルを0とし、該閾値以上であればゴルファー19のシルエットであるとみなして1とする二値化処理を行い、1のピクセルについて順にラベリング処理を行う。なお、本実施形態でのノルムの閾値は40としている。また、色相、彩度、明度を用いて背景差分処理を行ってもよく、その場合、シルエットであるとみなしたラベリング領域のうち、5000以上もしくは10000以上の1つ或いは2つの領域をシルエットとする。
Figure 0004283146
図9(A)に示すように、この二値化画像について走査処理を行って、1あるいは2のピクセルに当たったところから輪郭抽出を行う。この輪郭抽出の方法は、上記ラベリングした画像についてフレームの左上のピクセルを始点として右方向へと上から下へ走査処理を行い、1あるいは2のピクセルを探して輪郭抽出を行う。詳しくは、走査処理により初めに(4,7)のピクセルが見つかり、図9(B)に示すように、このピクセルの直前のピクセルを除いた回りの7つのピクセルを左上のピクセルから時計回りに調べ、最初に(4,7)で見つけたピクセル(1あるいは2)と同じラベルのピクセルを次の境界点とする。この処理を順々に行い、境界点が(4,7)に戻ってきた時点で輪郭抽出を終了する。この抽出された輪郭のままではノイズが残っているので、移動平均処理を輪郭全体に循環して行うことによってスムージングをかけておく。
なお、移動平均処理は以下の数式8で行われる。
Figure 0004283146
ここで、bnd_pt(n)はn番目の輪郭の座標で、kは計算に利用する前後のピクセル数で、bnd_pt_ido(n)は移動平均後の輪郭の座標である。
ただし、ゴルファー19の輪郭が1番目からbnd_num番目(輪郭番号の最後)まで存在する場合において、移動平均を行うピクセルをn番目とすると、n<kである場合は、輪郭番号の最後の方であるbnd_num−(k−n)番目〜bnd_num番目のピクセルを利用して移動平均を行う。また、bnd_num−n<kである場合は、輪郭番号の最初の方である1番目〜k−(bnd_num−n)番目のピクセルを利用して移動平均を行っている。
次いで、スムージング後の輪郭データから曲率を計算してゴルファー19の左肩位置を取得する。つまり、図10に示すような輪郭データを含む画像の上から走査して初めに現れる輪郭21の大きな曲率部分を頭とし、次に現れる小さな曲率部分を首とし、その次に現れる大きな曲率部分を肩と認識する。ここで、服のしわ等を考慮して、前後±5のピクセルでそれぞれ曲率を計算してその平均値をそれらの中心のピクセルの曲率とするとよい。
以下、輪郭の曲率の計算方法について説明する。
対象となる輪郭の円弧の長さをS、角度をθとすると、曲率Cは以下の数式9で表される。
Figure 0004283146
この数式9は、曲率を求めたいピクセルと該ピクセルの隣接点だけで計算すると、値の変動が大きく正しい値が得られないので、曲率を求めたいピクセルの両側k個の点列を含めて以下の数式10により計算する方法が用いられる。
Figure 0004283146
なお、数式10は、数式9におけるSを省略して簡素化している。本実施形態では、さらに簡単のため、図12に示すように、点列の両端を用いて以下の数式11で曲率Cを算出している。
Figure 0004283146
(テイクバック左腕水平画像)
図11(A)に示すように、前記のようにして抽出された左肩22とグリップ23との間の領域において長方形のテンプレートTを設定し、該テンプレートTの長辺の長さL1は肩とグリップの間の距離の半分とし、短辺の長さL2は腕がテンプレートTの中に入る程度の長さ(本実施形態では20ピクセル)としている。
次の時刻の画像を読み込んでグリップ位置を取得し、グリップ位置の移動ベクトルと同じように前フレームのテンプレートTを平行移動させる。次いで、図11(B)に示すように、テンプレートTをグリップ位置を支点として時計回りに10°まで1°刻みで回転させて最もマッチングしたテンプレートの角度を計算し、テンプレート角度が90°(水平)に最も近い画像をテイクバック左腕水平画像であるとみなして抽出する。さらに、テンプレートの回転に並進を加えてマッチング処理を行ってもよい。
なお、前記テンプレートマッチング処理は、テンプレートT内のピクセルの色情報であるRGB値を以下の数式12により輝度Yに変換して評価する。(なお、輝度Yで評価してもよいが、RGBのノルム(数式7を参照)を用いても構わない。)
Figure 0004283146
前記評価は、以下の数式13で表される画素値の差の絶対値の和(Sum of Absolute Difference:SAD)が用いられる。
Figure 0004283146
ここで、tは現在のフレーム、t−1は1コマ前のフレーム、(p,q)は平行移動を行う範囲、(i0,j0)はグリップ位置、mはテンプレートTの長辺のピクセル数、nはテンプレートTの短辺のピクセル数、θはテンプレートTの回転角度、αは1コマ前に求めたテンプレート角度、gt(x,y,θ)は座標(x,y)でテンプレート角度がθにおけるピクセルの輝度Y(あるいはRGBのノムル)を表す関数である。
テンプレートTの位置・角度(p,q,θ)を前記条件のもと変化させてS(p,q,θ)を計算し、この値が最小となる位置・角度で最もマッチングしたとみなすこととしている。このマッチングした際の(p,q,θ)のθ値が90°に最も近くなる画像をテイクバック左腕水平画像として抽出する。
(ダウンスウィング左腕水平画像)
ダウンスウィング9時画像は、前記取得されたテイクバック左腕水平画像での左腕を含むテンプレートを利用して、そのテンプレートと最もマッチングするトップ画像以降の画像をダウンスウィング左腕水平画像として抽出する。
ここで、スウィング画像の順番を考慮すればトップ画像の後にダウンスウィング左腕水平画像が抽出されること分かっているので、トップ画像からテンプレートマッチング処理を開始してもよいが、それでは時間がかかったり、あるいは、トップで腕が全部見えるとは限らないので誤認識する可能性もある。
そこで、本実施形態では、先にダウンスウィングシャフト9時画像を抽出しておいて、その後、時刻を戻しながらテンプレートマッチングを行うことによりダウンスウィング左腕水平画像を抽出することとして計算時間の短縮化と誤認識の防止を図っている。
(テイクバックシャフト8時画像)
次に、テイクバックシャフト8時画像の抽出方法について説明する。なお、テイクバックシャフト8時画像とは、テイクバック時にシャフトを時計の針に見立てた場合に8時位置にある状態の静止画像である。
上述したシャフト6時画像でのゴルファー19のシルエットを抽出することで、体の幅(スタンス幅)を取得しておき、右足側端を通過する垂線とクラブ用色マークM1が交差する時刻の画像をテイクバックシャフト8時画像として選択して抽出する。
以上のようにして図13に示すような正面のチェックポイント画像(アドレス画像、テイクバックシャフト8時画像、テイクバックシャフト9時画像、テイクバック左腕水平画像、トップ画像、ダウンスウィング左腕水平画像、ダウンスウィングシャフト9時画像、インパクト前画像、インパクト画像、インパクト後画像、フォローシャフト3時画像、フィニッシュ画像)を抽出することができ、かつ、カラーCCDカメラ20、21は互いに撮影タイミングを同期させているので、正面のチェックポイント画像と同時刻のものを選らぶことで、図14に示すような飛球線後方(側面)のチェックポイント画像を抽出することができる。
以下、チェックポイント画像の夫々について、ゴルファー19のスウィング診断に必要な注目点の位置座標の取得を行う。
次に、探索範囲Sを用いてゴルファー19が着用している計測用服10の色マークM1〜M7の座標位置を認識することにより、ゴルファー19の体の注目点である関節の位置座標を取得する。
例えば、アドレス画像(正面)の右肩の抽出方法は、まず画像中のゴルファー19についてシルエット抽出を行ってゴルファー19の輪郭を抽出する。輪郭の曲率を上端(頭部)から反時計回りに調べ、曲率が極値となるピクセルを右首と認識し、図15に示すように、この右首を探索範囲Sの端部起点としてY方向に−40ピクセル、X方向に+40ピクセルの範囲を探索範囲Sを決定している。
この探索範囲S内において背景画像との差分処理を行い、探索範囲S内の差分ピクセルのRGBそれぞれについて、右肩の色マークM4(青)あるいはM5(赤)の色範囲内であるか否かを判定し、色範囲内であるピクセルを色マークM4あるいはM5を表示するピクセルとみなして色抽出し、その重心位置座標を取得する。
なお、各色マークM1〜M7の色範囲は表1のような条件としており、該条件を満たすピクセルを色マークM1〜M7と同色とみなし、各関節位置のマークM1〜M7の画像上の位置座標を取得している。
Figure 0004283146
なお、予めマークの面積範囲を設定しておき、その設定範囲外の面積を有する領域は色マークM1〜M7ではないと判断し、設定範囲内の面積を有する領域を色マークM1〜M7であると認識するようにして認識精度を向上させている。本実施形態では色マークM1〜M7として認識する面積範囲は5〜60ピクセルとしている。
図16に示す計測用服10’では、左手首位置(左袖口)および右手首位置(右袖口)の素地を黄緑色に着色して色マークM10、M11を形成していると共に、首位置(襟)に球状で黄色の色マークM12を備えている。
つまり、ゴルファー19の手首と首の画像上での位置座標を上述した色抽出により認識したい場合には、図16に示すように、計測用服10’の色抽出したい関節位置に色マークM10〜M12を追加するとよい
図17(A)(B)は前記したように、本発明の実施形態の色マークを示す。
マークM1〜M7として計測用服10”の素地11”の該当箇所に色付けして隆起させるようにしている。
詳しくは、図17(A)に示すように、素地11の色マークM1〜M7設定位置(図面では左肩位置)に開口100aを有するポケット部100を設けており、このポケット部100の外面には所要の着色(赤)を施して色付部としている。そして、図17(B)に示すように、球状等のパッド101を開口100aから挿入することでポケット部100の内面側にパッド101を配置してポケット部100外面を隆起させて色マークM2とする。
こうすると、パッド101をポケット部100から取り出すだけで計測用服10”を損傷することなく洗濯することができ、取扱性が向上する。
また変形例として、ポケット部100の内部にパッド101を入れた状態で開口100aを縫い付けてしまってもよい
本発明の実施形態のスウィング計測用服の正面図である。 計測用服の要部斜視図である。 ゴルフスウィング計測システムの構成図である。 計測用服を着用したゴルファーを側面からみた図面である。 角度定義を説明する図面である。 アドレス画像におけるマーク抽出を説明する図面である。 アドレス以降の2、3枚目におけるマーク抽出を説明する図面である。 マークの自動追尾を説明する図面である。 (A)(B)はゴルファーの輪郭抽出を説明する図面である。 ゴルファーの輪郭抽出された画像を示す図面である。 (A)(B)テンプレートマッチングを説明する図面である。 曲率計算の説明図である。 正面のチェックポイント画像である。 飛球線後方(側面)のチェックポイント画像である。 色マークの抽出を説明する図面である。 他のスウィング計測用服の正面図である。 (A)(B)は本発明のスウィング計測用服の要部斜視図である。
符号の説明
10 計測用服
11 素地
12 ファスナー
12a 第1ツマミ部
12b 第2ツマミ部
13 布片
14 係止用の面ファスナー
15 被係止用の面ファスナー
16 伸縮手段
18 ゴルフクラブ
19 ゴルファー
M1〜M7 色マーク
S、S1〜S3 探索範囲

Claims (8)

  1. ゴルフクラブを把持してスウィングするゴルファーをカラー動画像で撮影し、コンピュータでスウィング動作解析を行う際に前記ゴルファーが着用する服であって、
    前記撮影された画像上で前記コンピュータにより色情報に関する所定の閾値を満たす色ピクセルを抽出することにより認識される色マークを少なくとも肘位置に設けており、該色マークは服の素地の外面に色付部を設けて形成し、該色付部の色は背景や服の素地と相違させ、かつ、該色付部を有する素地の内面側にパッドを配置することで前記色付部を隆起させて前記色マークとしているスウィング計測用服。
  2. 前記色マークは、少なくとも両肘位置、両肩位置、腰位置に設けられている請求項1に記載のスウィング計測用服。
  3. 前記色マークは、球状、帯状、直方体あるいは半球状としている請求項1または請求項2に記載のスウィング計測用服。
  4. 前記服は上着のみとしている請求項1乃至請求項3のいずれか1項に記載のスウィング計測用服。
  5. 前記色マークは近接する他の色マークと配色を相違させている請求項1乃至請求項4のいずれか1項に記載のスウィング計測用服。
  6. 前記服の前開き部の対向する端縁に開閉用のファスナーを設けており、
    前記ファスナーは下方から上方に向けて開くことができる構成としている請求項1乃至請求項5のいずれか1項に記載のスウィング計測用服。
  7. 前記服の胴回りを調節する伸縮手段を設けている請求項1乃至請求項6のいずれか1項に記載のスウィング計測用服。
  8. 前記色マークは、さらに首位置あるいは/および手首位置に設けられている請求項1乃至請求項7に記載のスウィング計測用服。
JP2004090875A 2004-03-26 2004-03-26 スウィング計測用服 Expired - Lifetime JP4283146B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004090875A JP4283146B2 (ja) 2004-03-26 2004-03-26 スウィング計測用服

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004090875A JP4283146B2 (ja) 2004-03-26 2004-03-26 スウィング計測用服

Publications (2)

Publication Number Publication Date
JP2005270487A JP2005270487A (ja) 2005-10-06
JP4283146B2 true JP4283146B2 (ja) 2009-06-24

Family

ID=35170754

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004090875A Expired - Lifetime JP4283146B2 (ja) 2004-03-26 2004-03-26 スウィング計測用服

Country Status (1)

Country Link
JP (1) JP4283146B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5799931B2 (ja) * 2012-10-23 2015-10-28 カシオ計算機株式会社 撮像装置、色候補出力方法及びプログラム

Also Published As

Publication number Publication date
JP2005270487A (ja) 2005-10-06

Similar Documents

Publication Publication Date Title
US7704157B2 (en) Golf swing-measuring system
AU2005201321B2 (en) Golf swing-diagnosing system
AU2004237876B2 (en) Golf swing diagnosis system
AU2004201603B2 (en) Golf swing diagnosis system
US7457439B1 (en) System and method for motion capture
JP5877053B2 (ja) 姿勢推定装置および姿勢推定方法
JP4256289B2 (ja) ゴルフスウィング診断システム
JP2002210055A (ja) スイング測定システム
JP2004164563A (ja) 画像解析方法、画像解析装置、画像解析プログラム
US11798318B2 (en) Detection of kinetic events and mechanical variables from uncalibrated video
KR100452917B1 (ko) 색 마커를 이용한 3차원 신체 동작 인식방법 및 시스템
US7376245B2 (en) Automatic tracking method for golf swing
JP4256290B2 (ja) ゴルフスウィング診断システム
JP4283145B2 (ja) ゴルフスウィング計測システム
JP4283146B2 (ja) スウィング計測用服
JP4283147B2 (ja) ゴルフスウィング計測方法
JPH0581232A (ja) スウイング動作時の運動解析方式
Sun Golf Swing Correction Based on Deep Learning Body Posture Recognition
Osawa et al. Motion Matching Based on Pose Similarity Using Movement of Body Parts
Mishima et al. Development of stance correction system for billiard beginner player
JP2024056297A (ja) スイングタイプの分類方法およびゴルフクラブの選定方法並びにゴルフクラブ
CN116543458A (zh) 一种基于周期长度分段分析的姿态分析和评估方法
KR20220163545A (ko) Ai기반의 인체 관절 및 골프 클럽 추출을 이용한 골프 레슨 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061114

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080904

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080930

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090317

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090318

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120327

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120327

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130327

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130327

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140327

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250