JP6024547B2 - 状態解析装置、状態解析システム、状態解析方法及びプログラム - Google Patents

状態解析装置、状態解析システム、状態解析方法及びプログラム Download PDF

Info

Publication number
JP6024547B2
JP6024547B2 JP2013061072A JP2013061072A JP6024547B2 JP 6024547 B2 JP6024547 B2 JP 6024547B2 JP 2013061072 A JP2013061072 A JP 2013061072A JP 2013061072 A JP2013061072 A JP 2013061072A JP 6024547 B2 JP6024547 B2 JP 6024547B2
Authority
JP
Japan
Prior art keywords
state
analysis
light
golf ball
analysis object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013061072A
Other languages
English (en)
Other versions
JP2014185943A (ja
Inventor
中村 善亮
善亮 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2013061072A priority Critical patent/JP6024547B2/ja
Publication of JP2014185943A publication Critical patent/JP2014185943A/ja
Application granted granted Critical
Publication of JP6024547B2 publication Critical patent/JP6024547B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、対象物の状態を解析する状態解析装置、状態解析システム、状態解析方法及びプログラムに関する。
従来より、解析対象物の画像を撮像し、撮像画像から解析対象物の状態を解析する装置が知られている。このような装置として、例えば、特許文献1には、ゴルフボールを2つのカメラで撮像し、これを画像解析することによって当該ゴルフボールの状態を測定する技術が記載されている。
特開2006−122114号公報
しかしながら、上記特許文献1に記載の技術では、ゴルフボールの状態を測定するために、解析対象物であるゴルフボールにマークを付すことが必要である。即ち、特許文献1に記載の技術は、解析対象物に特殊な加工を施す必要があり、解析できる対象物が制約されてしまうという問題がある。
本発明は、解析対象物に特殊な加工をしなくとも、解析対象物の解析をすることを目的とする。
上記目的を達成するため、本発明の一態様の状態解析装置は、解析対象物の目標とする移動方向に基づく第一の方向に沿って平面状に光が照射された当該解析対象物における光の照射状態を抽出する抽出手段と、
前記抽出手段により抽出された照射状態における光の像の形状に基づいて、前記第一の方向、鉛直方向、又は撮像画像における奥行き方向における前記解析対象物の移動状態を解析する解析手段と、
を備えることを特徴とする。
本発明によれば、解析対象物に特殊な加工をしなくとも、解析対象物を解析することができる。
本発明の第1実施形態の状態解析システムの全体構成を示す模式図である。 図1に示した撮像装置のハードウェアの構成を示すブロック図である。 撮像装置の機能的構成のうち、状態解析処理を実行するための機能的構成を示す機能ブロック図である。 ゴルフボールの位置を特定するために使用される分離度フィルタを示す図である。 ゴルフボールにおける可視レーザ光線の照射形状を抽出するために使用される分離度フィルタを示す図である。 撮像画像におけるゴルフボールの2次元的な位置を説明するための図である。 打ち出されたゴルフボールの中心が、可視レーザ光線によって形成される基準照射面を通るように飛球した状態を説明するための図である。 打ち出されたゴルフボールが、可視レーザ光線によって形成される基準照射面に対してプレーヤー側に所定角度ずれて飛球した状態を説明するための図である。 打ち出されたゴルフボールが、可視レーザ光線によって形成される基準照射面に対してプレーヤーの逆側に所定角度ずれて飛球した状態を説明するための図である。 図3の機能的構成を有する図2の撮像装置が実行する状態解析処理の全体の流れを説明するためのフローチャートである。 第2実施形態の可視レーザ光線とゴルフボールとの関係を示す図である。
[第1実施形態]
以下、本発明の第1実施形態について、図面を用いて説明する。
図1は、本発明の第1実施形態の状態解析システムAの全体構成を示す模式図である。図1(a)は、状態解析システムAを上方から見た図であり、図1(b)は、状態解析システムAをプレーヤーSの正面から見た図である。図1(a)、図1(b)に示した状態解析システムAは、ゴルフの練習施設等における打席Bに設置され、プレーヤーSによって打たれたゴルフボールBaを解析対象物とする。
図1(a)、図1(b)において、打席B内のプレーヤーSは、ゴルフボールBaを、ゴルフクラブCを使って矢線Dで示す斜め上方の方向に打ち出す。ゴルフボールBaが打ち出されて移動する進行方向を、以下、適宜「飛球方向」と呼ぶ。
撮像装置1は、図1(a)に示すように、打席Bの正面に設けられており、プレーヤーS及びボールBaをプレーヤーSの正面から撮像している。また、図1(b)において、図示していないが、撮像装置1は、光学レンズの光軸が地面と平行かつゴルフボールBaの中心を貫く高さとなるように設置されている。なお、第1実施形態では、撮像装置1が状態解析装置として機能する。
レーザ光照射装置2は、ゴルフボールBaの設置位置に対してゴルフボールBaの飛球方向とは逆の側(以下、「打席後方」と呼ぶ)に設置されている。
また、レーザ光照射装置2は、上面視において、プレーヤーSが打球を行う打席Bと撮像装置1との間であって、かつ、ゴルフボールBaの設置位置を通過する直線に沿って、レーザ光を照射する。
具体的には、レーザ光照射装置2は、可視領域の波長を有する可視レーザ光線L1を出射する可視光出射部2aと、不可視領域の波長を有する不可視レーザ光線L2を出射する不可視光出射部2bとを備えている。
可視レーザ光線L1及び不可視レーザ光線L2は、打席後方に設置されたレーザ光照射装置2からゴルフボールBaの飛球方向に向けて出射され、図1(b)に示すように、鉛直方向に拡散されてゴルフボールBaに照射される。
即ち、可視光出射部2a及び不可視光出射部2bは、可視レーザ光線L1及び不可視レーザ光線L2を鉛直方向の一定範囲にわたって照射する。以下、可視レーザ光線L1が拡散して照射される平面を「基準照射面」と呼ぶ。
なお、可視光出射部2a及び不可視光出射部2bは、可視レーザ光線L1及び不可視レーザ光線L2を機械的な構造によって、高速(撮像装置1のシャッタスピードより十分に速い走査周期)で鉛直方向に走査することができる。また、可視光出射部2a及び不可視光出射部2bから出射する可視レーザ光線L1及び不可視レーザ光線L2を、図示しない回折格子によって拡散することによっても、可視レーザ光線L1及び不可視レーザ光線L2を鉛直方向の一定範囲にわたって照射することができる。本実施形態においては、回折格子によって、可視レーザ光線L1及び不可視レーザ光線L2が鉛直方向に拡散されているものとする。
なお、第1実施形態では、可視レーザ光線L1の波長を630nm〜670nm、不可視レーザ光線L2の波長を830nm〜850nmとした。
ただし、可視レーザ光線L1の波長は上記の範囲に限定されるものではなく、可視光の波長領域であればどのような波長を採用してもよい。また、不可視レーザ光線L2の波長は上記の範囲に限定されるものではなく、撮像装置1が撮像可能であって、不可視光の波長領域であればどのような波長を採用してもよい。
可視光出射部2a及び不可視光出射部2bは、可視レーザ光線L1と不可視レーザ光線L2とが21.34mmの間隔を隔てて平行に出射されるように配置されている。なお、21.34mmの長さは、ゴルフボールBaの半径に対応している。即ち、可視レーザ光線L1と不可視レーザ光線L2とは、ゴルフボールBaの半径に相当する間隔を隔てて平行に出射されている。
そして、可視光出射部2aは、設置位置に設置されたゴルフボールBaの中心を可視レーザ光線L1が通るように可視レーザ光線L1を出射する。可視レーザ光線L1は、鉛直方向の一定範囲に照射されるため、ゴルフボールBa及び地面に可視レーザ光線L1による線状の光の像が出現し、プレーヤーSは、可視レーザ光線L1による線状の光をガイドライン(目標とする移動方向)として、ゴルフボールBaを打ち出すことができる。
撮像装置1は、プレーヤーS及びゴルフボールBaをプレーヤーSの正面から動画像として撮像する。
第1実施形態の撮像装置1は、例えばデジタルカメラとして構成される。
図2は、撮像装置1のハードウェアの構成を示すブロック図である。
撮像装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、画像処理部14と、バス15と、入出力インターフェース16と、撮像部17と、入力部18と、出力部19と、記憶部20と、通信部21と、ドライブ22と、を備えている。
CPU11は、ROM12に記録されているプログラム、又は、記憶部20からRAM13にロードされたプログラムに従って各種の処理を実行する。
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
画像処理部14は、各種画像のデータに対して、色補正、平滑化、パターンマッチング等の各種画像処理を施す。
CPU11、ROM12、RAM13及び画像処理部14は、バス15を介して相互に接続されている。このバス15にはまた、入出力インターフェース16も接続されている。入出力インターフェース16には、撮像部17、入力部18、出力部19、記憶部20、通信部21及びドライブ22が接続されている。
撮像部17は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。第1実施形態のイメージセンサは、図1に示す可視レーザ光線L1及び不可視レーザ光線L2に対する感度を有し、これらの光線を撮像することができる。
例えば、イメージセンサとして、CMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子を用いることができる。CMOS型の光電変換素子は、本来、不可視光である赤外線の波長領域にある光を光電変換することが可能であるが、一般に、自然な色合いを出すために赤外線遮断フィルタ(IR(InfraRed)カットフィルタ)が設けられている。
したがって、本実施形態では、イメージセンサとして、赤外線遮断フィルタが設けられていないCMOSイメージセンサを用いることにより、安価に不可視レーザ光線L2の撮像が可能な撮像装置1を構成することができる。
光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部17の出力信号として出力される。
このような撮像部17の出力信号を、以下、「撮像画像のデータ」と呼ぶ。撮像画像のデータは、CPU11や画像処理部14等に適宜供給される。
入力部18は、各種釦等で構成され、ユーザの指示操作に応じて各種情報を入力する。
出力部19は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部20は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部21は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
ドライブ22には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア31が適宜装着される。ドライブ22によってリムーバブルメディア31から読み出されたプログラムは、必要に応じて記憶部20にインストールされる。また、リムーバブルメディア31は、記憶部20に記憶されている画像のデータ等の各種データも、記憶部20と同様に記憶することができる。
図3は、このような撮像装置1の機能的構成のうち、状態解析処理を実行するための機能的構成を示す機能ブロック図である。
状態解析処理とは、撮像装置1に撮像された撮像画像中から図1に示したゴルフボールBaに対して可視レーザ光線L1又は不可視レーザ光線L2が照射されている部分の形状(以下、「照射形状」と呼ぶ)を抽出し、打ち出されたゴルフボールBaの3次元的な位置を検出する、一連の処理をいう。
状態解析処理が行われる場合、CPU11において、解析部40が機能する。解析部40においては、分離度フィルタ処理部41、2次元位置検出部42、ずれ検出部43、3次元位置検出部44が機能する。
分離度フィルタ処理部41は、画像処理部14から入力された撮像画像においてゴルフボールBaが撮像された領域を特定する。また、分離度フィルタ処理部41は、ゴルフボールBaに照射されている可視レーザ光線L1又は不可視レーザ光線L2の照射形状を抽出する。
ここで、分離度フィルタを用いた物体の特定手法について説明する。
図4は、ゴルフボールBaの位置を特定するために使用される分離度フィルタを示す図である。
分離度とは、例えば図4に示す局所領域raの情報と局所領域rbの情報との分離程度を表す量である。
図4に示す局所領域raは、ボールの形状に相当する領域を表しており、背景を表す局所領域rbとの分離度を算出することで、画像においてボールの可能性が高い領域(局所領域raの情報と局所領域rbの情報との分離程度が最も高い領域)を識別することができる。
図5(a)乃至図5(d)は、ゴルフボールBaにおける可視レーザ光線L1の照射形状を抽出するために使用される分離度フィルタを示す図である。図5(a)乃至図5(d)に示した分離度フィルタは、円弧状の照射形状の輪郭の内部を局所領域ra、外部を局所領域rbとして、これらの分離度から画像における照射形状を抽出するものである。
図5(a)乃至図5(d)に示した複数の分離度フィルタは、ゴルフボールBaの飛球方向と可視レーザ光線L1によるガイドラインとのずれ量(δ〜4δ[mm])に対応して設定されている。具体的には、図5(a)から図5(d)の順に、より大きいずれ量に対応する分離度フィルタとなっており、図5(a)から図5(d)の順に、分離度フィルタの円弧の大きさがより小さくなっている。
即ち、分離度フィルタ処理部41は、それぞれ異なるずれ量の大きさ毎に複数の分離度フィルタを備えている。そして、撮像画像において、図4に示す分離度フィルタで特定されたゴルフボールBaの領域に対し、例えば図5(a)乃至図5(d)に示す複数の分離度フィルタを適用することにより、異なるずれ量の大きさ毎に照射形状の分離度を算出する。そして、最も高い分離度が算出された照射形状をゴルフボールBaのずれ量を表す照射形状として特定し、特定された照射形状に対応するずれ量をゴルフボールBaのずれ量とする。
なお、不可視レーザ光線L2の照射形状についても、同様に分離度フィルタを備えておくことにより、ゴルフボールBaのずれ量を算出するために用いることができる。ただし、不可視レーザ光線L2の照射形状の場合、ずれ量が大きいほど、分離度フィルタの円弧の大きさが大きくなる。
第1実施形態では、検出すべき物体が、球体のゴルフボールBaと、ゴルフボールBaにおける可視レーザ光線L1又は不可視レーザ光線L2による円弧状の照射形状とに限られている。このため、第1実施形態では、2つの局所領域ra、rbをゴルフボールBaの輪郭の内側部分と外側部分とする分離フィルタ(図4参照)と、2つの局所領域ra、rbを照射形状の輪郭の内側部分と外側部分とする分離度フィルタ(図5参照)とを用いて、比較的高精度に撮像画像における物体の領域を特定することができる。
分離度は、正規化された値であって、2つの局所領域ra、rbの情報が完全に分離されていれば最大値1.0をとる。一方、分離度は、2つの局所領域ra、rbの情報が分離し難くなるほど最小値0.0に近い値をとる。なお、分離度は、局所領域ra、rbの輝度差に依存し難く、ノイズの影響を受け難いという利点がある。
以下に示した式(1)、式(2)、式(3)は、分離度フィルタの出力μを求めるための式である。
式1において、σbは局所領域ra、rbのクラス間分散を示す。n1は局所領域ra内の画素数を示し、n2は局所領域rb内の画素数を示す。Piは位置iにおける輝度値等の領域値を示し、P1にバーを付した記号は局所領域raの平均領域値、P2にバーを付した記号は局所領域rbの平均領域値を示す。また、Pmにバーを付した記号は局所領域ra、rbの平均領域値を示す。さらに、Nは、局所領域ra、rbの全画素数を示している。
Figure 0006024547
Figure 0006024547
Figure 0006024547
なお、領域情報として、輝度、色相、彩度を用いることができるが、他の画像特徴量を領域情報として用いることも可能である。分離度フィルタは、計算式がシンプルであり、経験により決定されるパラメータが不要であるので、輪郭の形状が予測できる物体を画像から抽出することに適している。
2次元位置検出部42は、撮像画像におけるゴルフボールBaの2次元的な位置を検出し、実空間における2次元的な位置(基準照射面における2次元的な位置)を検出する。
図6は、撮像画像におけるゴルフボールBaの2次元的な位置を説明するための図である。図6に示した画像Q1乃至画像Q3は、ゴルフボールBaがゴルフクラブCによって打ち出されて飛球した状態を連続的に撮像した画像を示している。図中に示した時間tは、ゴルフボールBaが打ち出された瞬間からの経過時間を示している。
2次元位置検出部42では、撮像画像におけるx軸とy軸とを、図示したように規定している。即ち、x軸はゴルフボールBaの飛球方向への移動量(飛距離)を示し、y軸はゴルフボールBaの鉛直方向の移動量(打ち上げ高さ)を示している。
第1実施形態では、ゴルフボールBaの設置位置と撮像装置1との位置関係及び撮像装置1の光学的特性が予め定められた状態に設定されているため、撮像画像上の2次元的な位置を実空間における位置に対応付けることができる。
具体的には、2次元位置検出部42は、分離度フィルタ処理部41によって特定されたゴルフボールBaの撮像画像におけるxy座標を取得し、この座標に撮像装置1の光学系に関する補正(光学レンズの歪の補正等)を行う。そして、2次元位置検出部42は、補正後の座標を実空間における2次元的な位置(即ち、空間座標)に変換する。
ただし、上記空間座標は、基準照射面内の位置を表すものであるため、ここでは、撮像画像における奥行き方向の位置は特定されない。
ずれ検出部43は、可視レーザ光線L1又は不可視レーザ光線L2の照射形状から、可視レーザ光線L1が形成する基準照射面に対するゴルフボールBaのずれを検出する。即ち、ずれ検出部43は、分離度フィルタ処理部41による照射形状の特定結果(最も高い分離度が算出された照射形状を表す情報)を受け取る。そして、ずれ検出部43は、可視レーザ光線L1又は不可視レーザ光線L2の照射形状からゴルフボールBaの中心と可視レーザ光線L1が形成する基準照射面とのずれ量(距離)を算出する。このずれ量は、実空間における基準照射面とゴルフボールBaの中心との距離に相当するため、ずれ検出部43によって、ゴルフボールBaの撮像画像における奥行き方向の位置が検出される。
このとき、ずれ検出部43は、ゴルフボールBaに可視レーザ光線L1が照射されているか、不可視レーザ光線L2が照射されているかをゴルフボールBaに照射されている光の種類(可視光であるか不可視光であるか)によって判定することができる。
即ち、第1実施形態では、上述のように、レーザ光照射装置2が可視レーザ光線L1と不可視レーザ光線L2とを出射している。可視レーザ光線L1と不可視レーザ光線L2とは、撮像装置1において異なる色相として撮像されるため、ずれ検出部43は、撮像画像における色相の相違によってゴルフボールBaに可視レーザ光線L1が照射されているか、不可視レーザ光線L2が照射されているかを判定することができる。
ここで、ずれ検出部43が、ゴルフボールBaの位置と基準照射面とのずれを検出する処理を具体的に説明する。
プレーヤーSは、図1(a)、図1(b)に示す状態から可視レーザ光線L1によるガイドラインを指標にしてゴルフボールBaを打ち出す。
図7(a)は、打ち出されたゴルフボールBaの中心が、可視レーザ光線L1によって形成される基準照射面を通るように飛球した状態を示す図である。図中に示した矢線EはゴルフボールBaの飛球方向を示している。時間tは、ゴルフボールBaが打ち出された瞬間からの経過時間を示している。即ち、図7(a)は、時間δの間隔でゴルフボールBaを観測した状態を示している。
図7(b)は、図7(a)に示すゴルフボールBaの撮像画像を示す図である。ゴルフボールBaの中心が、可視レーザ光線L1によって形成される基準照射面内を移動するように飛球した場合、撮像画像においては、時間tに関わらず、ゴルフボールBaの輪郭に相当する円周上に可視レーザ光線L1の照射形状が現われる。即ち、撮像装置1では、ゴルフボールBaと等しい円弧の照射形状51が観測される。
図8(a)は、打ち出されたゴルフボールBaが、可視レーザ光線L1によって形成される基準照射面に対してプレーヤーS側(不可視レーザ光線L2から離れる側)に所定角度(例えば5度)ずれて飛球した状態を示す図である。図中に示した矢線FはゴルフボールBaの飛球方向を示している。また、時間tは、ゴルフボールBaが打ち出された瞬間からの経過時間を示している。即ち、図8(a)は、時間δの間隔でゴルフボールBaを観測した状態を示している。
図8(b)は、図8(a)に示すゴルフボールBaの撮像画像を示す図である。ゴルフボールBaが、可視レーザ光線L1によって形成される基準照射面に対してプレーヤーS側にずれた状態で飛球した場合、撮像画像においては、時間tの経過と共に、可視レーザ光線L1のゴルフボールBaにおける照射位置が進行方向の右側に変化する。このため、撮像装置1では、インパクト直後(時間t=0)においては、ゴルフボールBaと等しい円弧の照射形状51が観測される。一方、時間tの経過と共に、ゴルフボールBaの中心が次第に基準照射面から進行方向の左側に遷移するため、照射形状52、照射形状53の順に円弧は小さくなる。
なお、図8に示す状態では、不可視レーザ光線L2はゴルフボールBaに照射されないため、不可視レーザ光線L2による照射形状は出現しない。
図9(a)は、打ち出されたゴルフボールBaが、可視レーザ光線L1によって形成される基準照射面に対してプレーヤーSの逆側(不可視レーザ光線L2に近づく側)に所定角度(例えば5度)ずれて飛球した状態を示す図である。図中に示した矢線GはゴルフボールBaの飛球方向を示している。また、時間tは、ゴルフボールBaが打ち出された瞬間からの経過時間を示している。即ち、図9(a)は、時間δの間隔でゴルフボールBaを観測した状態を示している。
図9(b)は、図9(a)に示すゴルフボールBaの撮像画像を示す図である。ゴルフボールBaが可視レーザ光線L1によって形成される基準照射面に対してプレーヤーSの逆側にずれた状態で飛球した場合、撮像画像においては、時間tの経過と共に、可視レーザ光線L1の照射形状が消失し、代わって不可視レーザ光線L2の照射形状54、55が出現する。このとき、不可視レーザ光線L2によってゴルフボールBaに形成される照射形状54、55の位置が変化する。このため、撮像装置1では、インパクト直後(時間t=0)においては、ゴルフボールBaと等しい円弧の照射形状51が観測される。一方、時間tの経過と共に、ゴルフボールBaの中心が次第に基準照射面から進行方向の右側に遷移するため、照射形状54、照射形状55の順に円弧は大きくなる。
このように、ずれ検出部43は、基準照射面と中心とを一致させて設置されたゴルフボールBaが、打ち出された後に、基準照射面に対して、プレーヤーS側及びプレーヤーSの逆側のいずれの方向にずれたとしても、そのずれ方向及びずれ量を検出することができる。
3次元位置検出部44は、実空間におけるゴルフボールBaの位置を検出する。即ち、3次元位置検出部44は、2次元位置検出部42からゴルフボールBaの2次元的な位置を取得し、ずれ検出部43からゴルフボールBaの基準照射面に対するずれ量及びずれの方向を取得する。そして、基準照射面における2次元的な位置を示す空間座標及び基準照射面とゴルフボールBaの中心との距離とに基づいて、実空間における位置(座標)を検出する。
また、3次元位置検出部44は、検出された実空間におけるゴルフボールBaの位置を時間tの経過と対応付けて連続して記録することにより、ゴルフボールBaの飛球方向を特定することができる。
また、3次元位置検出部44は、特定したゴルフボールBaの位置を示す情報を出力部19に出力する。このとき、画像処理部14が撮像画像を出力部19に出力してもよい。出力部19は、撮像画像と、撮像画像に対応するゴルフボールBaの位置を示す情報とを併せてディスプレイ等に表示するようにしてもよい。
次に、図10を参照して、図3に示す機能的構成を有する撮像装置1が実行する状態解析処理について説明する。
図10は、図3の機能的構成を有する図2の撮像装置1が実行する状態解析処理の流れを説明するフローチャートである。
状態解析処理は、撮像装置1が撮像を開始したことを契機として開始される。撮像装置1に対する撮像開始の指示は、例えば、プレーヤーSがショットの練習を開始するにあたって撮像装置1に入力するものであってもよい。
ステップS211において、分離度フィルタ処理部41は、画像処理部14から撮像画像を取得する。
ステップS212において、分離度フィルタ処理部41は、取得した撮像画像においてゴルフボールBaが撮像された領域を特定する。即ち、分離度フィルタ処理部41は、図4に示したフィルタを用いて連続する撮像画像から順次ゴルフボールBaが撮像された領域を特定する。
ステップS213において、分離度フィルタ処理部41は、ゴルフボールBaにおける可視レーザ光線L1又は不可視レーザ光線L2の照射形状を抽出する。
ステップS214において、2次元位置検出部42は、ゴルフボールBaの2次元的な位置を検出する。これにより、基準照射面に射影されたゴルフボールBaの2次元的な位置が検出される。
ステップS215において、ずれ検出部43は、ゴルフボールBaの中心と基準照射面とのずれを検出する。これにより、実空間における基準照射面とゴルフボールBaの中心との距離が検出される。
ステップS216において、3次元位置検出部44は、ゴルフボールBaの2次元的な位置及び基準照射面に対するずれに基づいて、実空間におけるゴルフボールBaの位置を検出する。これにより、実空間におけるゴルフボールBaの位置が3次元的に特定される。
ステップS217において、分離度フィルタ処理部41は、状態解析処理の終了が指示された否かを判定する。状態解析処理の終了が指示されていない場合、ステップ217においてNOと判定されて処理はステップS212に戻る。また、状態解析処理の終了が指示された場合、ステップ217においてYESと判定されて、処理は終了する。
以上のように、上述の実施形態をとることが可能な撮像装置1は、図3等に示すように、分離度フィルタ処理部41と、解析部40と、を備える。分離度フィルタ処理部41は、解析対象物であるゴルフボールBaの進行方向に沿って平面状に光が照射されたゴルフボールBaにおける光の照射状態を抽出する。解析部40は、分離度フィルタ処理部41により抽出された照射状態に基づいて、ゴルフボールBaの行方向と略直交方向における移動状態を解析する。
したがって、ゴルフボールBaに特殊な加工をしなくとも、ゴルフボールBaの解析をすることができる。
また、図3等に示すように、解析部40は、ずれ検出部43を備えている。ずれ検出部43は、分離度フィルタ処理部41により抽出された照射状態における光の像の形状に基づいて、ゴルフボールBaの進行方向と略直交する位置の変位を移動状態として算出する。
したがって、ゴルフボールBaに特殊な加工を施すことなく、撮像画像における奥行き方向の位置を取得できる。
また、図4乃至5、図7乃至9等に示すように、分離度フィルタ処理部41は、ゴルフボールBaの画像中に形成される光の像の形状を分離度フィルタによって抽出する。ずれ検出部43は、分離度フィルタ処理部41によって抽出された光の像の形状に基づいて、ゴルフボールBaの進行方向に対する変位を算出する。
したがって、ゴルフボールBaに特殊な加工を施すことなく、撮像画像における奥行き方向の位置を取得できる。
また、図3乃至5、図7乃至9等に示すように、解析部40は、2次元位置検出部42を備えている。2次元位置検出部42は、撮像部17により連続的に撮像された複数の画像におけるゴルフボールBaの進行方向に対に沿った平面内の位置を算出する。3次元位置検出部44は、連続的に撮像された複数の画像におけるゴルフボールBaの画角内の位置と、画像の奥行き方向におけるゴルフボールBaの変位とに基づいて、ゴルフボールBaの3次元の運動を解析する。
したがって、撮像画像における奥行き方向の位置を取得できるため、一方向から撮像した撮像画像からゴルフボールBaの3次元的な位置を取得することができる。
また、図1に示すように、解析部40は、ゴルフボールBaを進行方向と略直行する方向から撮像された画像に基づいて、ゴルフボールBaの移動状態を解析する。
したがって、ゴルフボールBaの運動を妨げない方向からゴルフボールBaを撮像し、撮像された画像を使ってゴルフボールBaの移動状態を解析することができる。
また、図3乃至5、図7乃至9等に示すように、解析部40は、ゴルフボールBaの目標とする移動方向に対する相違を解析する。
したがって、ゴルフボールBaの目標とする移動方向に対する相違としてゴルフボールBaの奥行きに関する位置を特定することができる。
また、図7乃至図9に示すように、解析部40は、進行方向に沿う平面内に平行な2つの光が照射されたゴルフボールBaにおける2つの光の照射状態に基づいて、ゴルフボールBaの移動状態を解析する。
したがって、より正確に解析対象物の移動状態を解析することが可能となる。
また、2つの光の一方は、ゴルフボールBaの目標とする移動方向を示す光であり、2つの光の他方は、ゴルフボールBaの目標とする移動方向に対する相違を特定するために用いられる。
したがって、一方の光をゴルフボールBaの目標とする移動方向を示す指標とすることができると共に、他方の光を用いてゴルフボールBaの移動状態を解析することができる。
また、本実施形態における状態解析システムAは、レーザ光照射装置2と、撮像装置1とを備える。
レーザ光照射装置2は、ゴルフボールBaの進行方向に沿う平面内に光を照射する。
撮像装置1は、ゴルフボールBaにおける光源からの光の照射状態に基づいて、ゴルフボールBaの移動状態を解析する。
しのため、解析対象物であるゴルフボールBaに特殊な加工をしなくとも、ゴルフボールBaを解析することができる。
[第2実施形態]
次に、図11を参照して、本発明の第2実施形態について説明する。
第2実施形態における状態解析システムAにおいて、撮像装置1は、レーザ光照射装置2が可視レーザ光線L1のみを出射する点で第1実施形態における撮像装置1と異なっている。そのため、以下、異なる部分である基準照射面からのゴルフボールBaのずれの検出方法を主として説明する。
本実施形態において、ずれ検出部43は、可視レーザ光線L1の照射形状から、可視レーザ光線L1が形成する基準照射面に対するゴルフボールBaのずれを検出する。即ち、ずれ検出部43は、分離度フィルタ処理部41による照射形状の特定結果(最も高い分離度が算出された照射形状を表す情報)を受け取る。そして、ずれ検出部43は、可視レーザ光線L1の照射形状からゴルフボールBaの中心と可視レーザ光線L1が形成する基準照射面とのずれ量(距離)を算出する。このずれ量は、実空間における基準照射面とゴルフボールBaの中心との距離に相当するため、ずれ検出部43によって、ゴルフボールBaの撮像画像における奥行き方向の位置が検出される。
図11は、第2実施形態の可視レーザ光線L1とゴルフボールBaとの関係を示す図である。図11(a)は、ゴルフボールBaが矢線Hで示す飛球方向に飛球した状態を示している。矢線Hは、基準照射面に対してプレーヤーS側にずれた飛球方向を示している。また、図11(b)は、ゴルフボールBaが矢線Iで示す飛球方向に飛球した状態を示している。矢線Iは、基準照射面に対してプレーヤーSと逆側にずれた飛球方向を示している。
図11において、「r」はゴルフボールBaの半径を示している。また、時間tは、ゴルフボールBaが打ち出された瞬間からの経過時間を示している。
図11(a)、(b)に示すように、第2実施形態では、ゴルフボールBaの中心が、基準照射面に対してr/2だけプレーヤーSと逆側にずれた位置にゴルフボールBaが設置される。これにより、ゴルフボールBaが基準照射面に対してプレーヤーS側及び逆側のどちらの方向にずれたとしても、第1実施形態と同様の手法によって、ゴルフボールBaにおける可視レーザ光線L1の照射形状を抽出することにより、ゴルフボールBaのずれを検出することができる。
以上のように、第2実施形態における状態解析システムAは、第1実施形態に状態解析システムAに比べて、可視レーザ光線L1のみを出射可能なレーザ光照射装置を用いることができるため、システムをより簡易なものとすることができる。
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
上記実施形態では、レーザ光照射装置2が、可視レーザ光線L1と不可視レーザ光線L2とを出射するように構成した。これに対し、レーザ光照射装置2が、2つの可視レーザ光線を出射することとしてもよい。この場合、2つの可視レーザ光線として、異なる色のものを用いることが望ましい。
上記実施形態では、ゴルフボールBaを基準照射面に対して予め定められた位置(中心が基準照射面と一致する位置あるいは中心が基準照射面からr/2だけずれた位置等)に設置するものとして説明した。これに対し、ゴルフボールBaの設置位置に対する条件を緩和することができる。この場合、設置位置における初期の照射形状からの相対的な変化を検出することで、ゴルフボールBaの位置を検出することができる。
また、上記実施形態では、分離度フィルタを使ってゴルフボールBaの位置や照射形状を撮像画像から抽出することとした。これに対し、テンプレートマッチング等、他の方法を用いてゴルフボールBaの位置や照射形状を撮像画像から抽出してもよい。
また、上記実施形態では、本発明が適用される撮像装置1は、デジタルカメラを例として説明したが、特にこれに限定されない。
例えば、本発明は、撮像機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、スマートフォン、ポータブルゲーム機等に適用可能である。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図2の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図2の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図2のリムーバブルメディア31により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア31は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図2のROM12や、図2の記憶部20に含まれるハードディスク等で構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
また、本明細書において、システムの用語は、複数の装置や複数の手段などより構成される全体的な装置を意味するものとする。
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
解析対象物の進行方向に沿って平面状に光が照射された当該解析対象物における光の照射状態を抽出する抽出手段と、
前記抽出手段により抽出された照射状態に基づいて、前記解析対象物の前記進行方向とは略直交方向における移動状態を解析する解析手段と、
を備えることを特徴とする状態解析装置。
[付記2]
前記解析手段は、
前記抽出手段により抽出された照射状態における光の像の形状に基づいて、前記解析対象物の進行方向と略直交する位置の変位を前記移動状態として算出する変位算出手段を更に備えることを特徴とする付記1に記載の状態解析装置。
[付記3]
前記抽出手段は、
前記解析対象物の画像中に形成される前記光の像の形状を分離度フィルタによって抽出し、
前記変位算出手段は、
前記抽出手段により抽出された光の像の形状に基づいて、前記解析対象物の進行方向に対する変位を算出することを特徴とする付記2に記載の状態解析装置。
[付記4]
前記解析手段は、
撮像手段により連続的に撮像された複数の画像における前記解析対象物の進行方向に対に沿った平面内の位置を算出する位置算出手段を更に備え、
前記位置算出手段により算出された平面内の位置と、前記変位算出手段により算出された前記進行方向と略直交する位置の変位とに基づいて、前記解析対象物の3次元の運動を解析することを特徴とする付記2又は3に記載の状態解析装置。
[付記5]
前記解析手段は、前記解析対象物を前記進行方向と略直行する方向から撮像された画像に基づいて、前記解析対象物の移動状態を解析することを特徴とする付記1から4の何れか1つに記載の状態解析装置。
[付記6]
前記解析手段は、前記解析対象物の目標とする移動方向に対する相違を解析することを特徴とする付記1から5の何れか1つに記載の状態解析装置。
[付記7]
前記解析手段は、進行方向に沿う平面内に平行な2つの光が照射された前記解析対象物における前記2つの光の照射状態に基づいて、前記解析対象物の移動状態を解析することを特徴とする付記1から5の何れか1つに記載の状態解析装置。
[付記8]
前記2つの光の一方は、前記解析対象物の目標とする移動方向を示す光であり、前記2つの光の他方は、前記解析対象物の目標とする移動方向に対する相違を特定するために用いられることを特徴とする付記7に記載の状態解析装置。
[付記9]
解析対象物の進行方向に沿う平面内に光を照射する光源と、
前記解析対象物における前記光源からの光の照射状態に基づいて、前記解析対象物の移動状態を解析する状態解析装置と、
を含むことを特徴とする状態解析システム。
[付記10]
状態解析装置が実行する状態解析方法であって、
解析対象物の進行方向に沿って平面状に光が照射された当該解析対象物における光の照射状態を抽出する抽出ステップと、
前記抽出ステップにより抽出された光の照射状態に基づいて、前記解析対象物の前記進行方向とは略直交方向における移動状態を解析する解析ステップを含むことを特徴とする状態解析方法。
[付記11]
コンピュータを、
解析対象物の進行方向に沿って平面状に光が照射された当該解析対象物における光の照射状態を抽出する抽出手段、
前記抽出手段により抽出された光の照射状態に基づいて、前記解析対象物の前記進行方向とは略直交方向における移動状態を解析する解析手段、
として機能させることを特徴とするプログラム。
A・・・状態解析システム、1・・・撮像装置、2・・・レーザ光照射装置、11・・・CPU、12・・・ROM、13・・・RAM、14・・・画像処理部、15・・・バス、16・・・入出力インターフェース、17・・・撮像部、18・・・入力部、19・・・出力部、20・・・記憶部、21・・・通信部、22・・・ドライブ、31・・・リムーバルメディア、40・・・解析部、41・・・分離度フィルタ処理部、42・・・2次元位置検出部、43・・・ずれ検出部、44・・・3次元位置検出部

Claims (11)

  1. 解析対象物の目標とする移動方向に基づく第一の方向に沿って平面状に光が照射された当該解析対象物における光の照射状態を抽出する抽出手段と、
    前記抽出手段により抽出された照射状態における光の像の形状に基づいて、前記第一の方向、鉛直方向、又は撮像画像における奥行き方向における前記解析対象物の移動状態を解析する解析手段と、
    を備えることを特徴とする状態解析装置。
  2. 前記解析手段は、
    前記抽出手段により抽出された照射状態における光の像の形状に基づいて、前記解析対象物の前記第一の方向、鉛直方向、又は撮像画像における奥行き方向における位置の変位を前記移動状態として算出する変位算出手段を更に備えることを特徴とする請求項に記載の状態解析装置。
  3. 前記抽出手段は、
    前記解析対象物の画像中に形成される前記光の像の形状を分離度フィルタによって抽出し、
    前記変位算出手段は、
    前記抽出手段により抽出された光の像の形状に基づいて、前記解析対象物の前記第一の方向、鉛直方向、又は撮像画像における奥行き方向における変位を算出することを特徴とする請求項に記載の状態解析装置。
  4. 前記解析手段は、
    撮像手段により連続的に撮像された複数の画像における前記第一の方向と前記鉛直方向とを軸とする平面内での前記解析対象物の位置を算出する位置算出手段を更に備え、
    前記変位算出手段により算出された前記解析対象物の前記平面内での位置、及び前記奥行き方向における前記解析対象物の移動状態に基づいて、前記解析対象物の運動を解析することを特徴とする請求項又はに記載の状態解析装置。
  5. 前記解析手段は、前記解析対象物の目標とする移動方向と前記第一の方向との相違を解析することを特徴とする請求項1からの何れか1項に記載の状態解析装置。
  6. 前記解析対象物の後方に位置する光源を更に備え、
    前記光源は、前記解析対象物と当該光源とを結ぶ直線方向である前記第一の方向に沿って当該解析対象物に対して光を照射することを特徴とする請求項1から5の何れか1項に記載の状態解析装置。
  7. 前記奥行き方向の軸上において前記光源とは異なる位置に位置する第二の光源を更に備え、
    前記解析手段は、前記光源及び前記第二の光源の夫々から前記第一の方向に沿って光を照射された前記解析対象物における前記2つの光の照射状態に基づいて、前記解析対象物の移動状態を解析することを特徴とする請求項に記載の状態解析装置。
  8. 前記2つの光の一方は、前記解析対象物の目標とする移動方向を示す光であり、前記2つの光の他方は、前記解析対象物の目標とする移動方向に対する相違を特定するために用いられることを特徴とする請求項7に記載の状態解析装置。
  9. 解析対象物の目標とする移動方向に基づく第一の方向に沿って光を照射する光源と、
    前記解析対象物における前記光源からの光の照射状態に基づいて、前記解析対象物の移動状態を解析する状態解析装置と、
    を含むことを特徴とする状態解析システム。
  10. 状態解析装置が実行する状態解析方法であって、
    解析対象物の目標とする移動方向に基づく第一の方向に沿って平面状に光が照射された当該解析対象物における光の照射状態を抽出する抽出ステップと、
    前記抽出ステップにより抽出された光の照射状態における光の像の形状に基づいて、前記第一の方向、鉛直方向、又は撮像画像における奥行き方向における前記解析対象物の移動状態を解析する解析ステップを含むことを特徴とする状態解析方法。
  11. コンピュータを、
    解析対象物の目標とする移動方向に基づく第一の方向に沿って平面状に光が照射された当該解析対象物における光の照射状態を抽出する抽出手段、
    前記抽出手段により抽出された光の照射状態における光の像の形状に基づいて、前記第一の方向、鉛直方向、又は撮像画像における奥行き方向における前記解析対象物の移動状態を解析する解析手段、
    として機能させることを特徴とするプログラム。
JP2013061072A 2013-03-22 2013-03-22 状態解析装置、状態解析システム、状態解析方法及びプログラム Active JP6024547B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013061072A JP6024547B2 (ja) 2013-03-22 2013-03-22 状態解析装置、状態解析システム、状態解析方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013061072A JP6024547B2 (ja) 2013-03-22 2013-03-22 状態解析装置、状態解析システム、状態解析方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2014185943A JP2014185943A (ja) 2014-10-02
JP6024547B2 true JP6024547B2 (ja) 2016-11-16

Family

ID=51833651

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013061072A Active JP6024547B2 (ja) 2013-03-22 2013-03-22 状態解析装置、状態解析システム、状態解析方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6024547B2 (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001133231A (ja) * 1999-11-02 2001-05-18 Olympus Optical Co Ltd 3次元画像取得生成装置
JP2002148269A (ja) * 2000-11-08 2002-05-22 Sumitomo Rubber Ind Ltd ボール運動計測装置
JP3098202U (ja) * 2003-05-29 2004-02-26 株式会社ネクスト ゴルフ等の練習器
JP2008107194A (ja) * 2006-10-25 2008-05-08 Iyasaka Seiki Kk 車輌のホイールアライメント測定装置
JP5109633B2 (ja) * 2007-12-11 2012-12-26 オムロン株式会社 測定方法及び検査方法並びに測定装置及び検査装置
US8663025B2 (en) * 2011-04-05 2014-03-04 W. Raymond Barrett Golf ball with indicia for alignment
JP5240328B2 (ja) * 2011-08-08 2013-07-17 カシオ計算機株式会社 撮像装置及びプログラム

Also Published As

Publication number Publication date
JP2014185943A (ja) 2014-10-02

Similar Documents

Publication Publication Date Title
JP6045417B2 (ja) 画像処理装置、電子機器、内視鏡装置、プログラム及び画像処理装置の作動方法
CN104094594B (zh) 3d缩放成像器
JP6509027B2 (ja) 被写体追跡装置、光学機器、撮像装置、被写体追跡装置の制御方法、プログラム
JP5842807B2 (ja) 画像解析装置、情報報知装置、画像解析方法、情報報知方法、及びプログラム
JP4764959B1 (ja) 撮影装置及びその制御方法
US10404912B2 (en) Image capturing apparatus, image processing apparatus, image capturing system, image processing method, and storage medium
JP6485964B2 (ja) モーションキャプチャー方法及びモーションキャプチャーシステム
JP2014153890A (ja) 画像処理装置、撮像装置、制御方法、及びプログラム
JP2012015642A (ja) 撮像装置
JP2010066156A (ja) 形状測定装置
JP4691570B2 (ja) 画像処理装置およびオブジェクト推定プログラム
JP2010066155A (ja) 形状測定装置
JP2007312206A (ja) 撮像装置及び、画像再生装置
JP2009069019A (ja) 目標検出装置および目標検出方法
JP7007280B2 (ja) 情報処理装置、計数システム、計数方法およびコンピュータプログラム
JP2007006325A (ja) 撮像装置
JP2010187184A (ja) 被写体追尾装置および撮像装置
JP6409769B2 (ja) 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
JP6024547B2 (ja) 状態解析装置、状態解析システム、状態解析方法及びプログラム
JP2020194454A (ja) 画像処理装置および画像処理方法、プログラム、並びに記憶媒体
KR101195370B1 (ko) 초점 정보 제공 장치 및 초점 조절 장치
JP2009009206A (ja) 画像中の輪郭抽出方法及びその画像処理装置
JP4687247B2 (ja) 異物検出方法及び眼球観察装置
JP2019045249A (ja) 計測装置および計測装置の作動方法
JP6168127B2 (ja) 画像解析装置、画像解析方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140929

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150717

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150728

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150928

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160216

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160913

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160926

R150 Certificate of patent or registration of utility model

Ref document number: 6024547

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150