JP2005181037A - 目標位置検出装置 - Google Patents

目標位置検出装置 Download PDF

Info

Publication number
JP2005181037A
JP2005181037A JP2003420540A JP2003420540A JP2005181037A JP 2005181037 A JP2005181037 A JP 2005181037A JP 2003420540 A JP2003420540 A JP 2003420540A JP 2003420540 A JP2003420540 A JP 2003420540A JP 2005181037 A JP2005181037 A JP 2005181037A
Authority
JP
Japan
Prior art keywords
image
field
position detection
target position
ball
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003420540A
Other languages
English (en)
Other versions
JP4138642B2 (ja
Inventor
Akihito Takeya
章仁 竹家
Takakimi Saito
敬公 斎藤
Moichi Sakabe
茂一 阪部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2003420540A priority Critical patent/JP4138642B2/ja
Publication of JP2005181037A publication Critical patent/JP2005181037A/ja
Application granted granted Critical
Publication of JP4138642B2 publication Critical patent/JP4138642B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

【課題】 サッカーなどの団体球技を撮像して選手やボール等の対象物の正確な位置を継続して把握しようとする目標位置検出装置において、画像から目標対象物を長時間連続して自動的に検出し続ける。
【解決手段】 球技場のフィールド全域を斜め上方から撮像する所定の複数のフィールド撮像カメラと、撮像された画像をフィールドの真上から俯瞰撮像したかのような画像に変換する所定の複数の画像変換装置と、変換された所定の複数の画像を合成する画像合成装置と、合成された画像から対象物を色情報を用いて抽出する画像抽出装置と、抽出された対象物画像部の夫々の重心の位置を計算することで対象物の位置を求める位置計算装置と、対象物の位置を表示する画像表示装置とを含む、目標位置検出装置を提供する。
【選択図】図1

Description

本発明は、目標位置検出装置、特に、団体球技での選手やボールの位置を連続的且つ自動的に把握する目標位置検出装置に関する。
サッカーなどの団体球技では、チームの戦術分析のためにフィールド上の選手の動きやフォーメーションを把握する必要がある。そのために、従来は1つのカメラで撮像した画像から選手の像などを抽出することで位置を測定しようとしていた。
画像から対象物(選手など)を抽出する従来の装置として、例えば、特許文献1に示されるものがある。それは、試合や練習の様子の画像から、対象物の色情報の相違に注目しヒストグラムを用いて上記対象物の検出を行い、それら検出された対象物に相当する位置にラベルマーカを自動生成する装置である。
特許文献1も含めて従来技術に係る装置には次のような問題点がある。カメラがフィールド中央の真上に設置できる場合は、選手が重なって撮像されることが殆ど無く、比較的正確に選手等の位置を検出することができる。しかし、ほとんどの球技場にはフィールド上空に屋根がないので、撮影はスタンド上空に設置された屋根やスタンドから行われる。すると、選手が重なって撮像されることが多く、よって位置を正確に検出することが難しい。
特開平11−39488号公報
本発明は、サッカーなどの団体球技を撮像して選手やボール等の対象物の正確な位置を継続して把握しようとする目標位置検出装置において、画像から目標対象物を長時間連続して自動的に検出し続けることを目的とする。
本発明は、上記の目的を達成するためになされたものである。本発明に係る目標位置検出装置は、
球技場のフィールド全域を斜め上方から撮像する所定の複数のフィールド撮像カメラと、
撮像された画像をフィールドの真上から俯瞰撮像したかのような画像に変換する所定の複数の画像変換装置と、
変換された所定の複数の画像を合成する画像合成装置と、
合成された画像から対象物を色情報を用いて抽出する画像抽出装置と、
抽出された対象物画像部の夫々の重心の位置を計算することで対象物の位置を求める位置計算装置と、
対象物の位置を表示する画像表示装置とを含む、目標位置検出装置である。
本発明を利用することにより、次のような効果を得ることができる。
サッカーなどの団体球技の行なわれるフィールドを、複数個のフィールド撮像カメラによりそれぞれ異なる位置から撮像し、これらの撮像画像を俯瞰画像に変換して合成することにより、合成画像上では地表付近にある人物の足やボールのみが強調して表示される。この合成画像から色情報を用いて強調された部分のみを抽出し、これらの重心位置を計算して表示することにより、人物やボールが重なって撮像されても人物やボールの位置を検出できる。
以下、図面を参照して本発明に係る好適な実施の形態を説明する。以下の実施の形態の目標位置検出装置は、サッカーのフィールドにおける選手やボールの位置を検出するものであるとして、説明を進める。
実施の形態1.
図1は、本発明の実施の形態1に係る目標位置検出装置2の構成図である。当該目標位置検出装置2は、
・球技場のフィールド全域を斜め上方から撮像する2台のフィールド撮像カメラ(第1のフィールド撮像カメラ4a、第2のフィールド撮像カメラ4b)と、
・撮像された画像をフィールドの真上から俯瞰撮像したかのような画像に変換する2つの画像変換装置6と、
・変換された2つの画像を合成する画像合成装置8と、
・合成された画像から人物(選手と審判)及びボールを色情報を用いて抽出する画像抽出装置10と、
・抽出された人物画像部およびボール画像部それぞれの重心の位置を計算することで人物およびボールの位置を求める位置計算装置12と、
・計算された人物およびボールの位置を表示する画像表示装置14と
から構成されている。
なお、2つの画像変換装置6、画像合成装置8、画像抽出装置10、位置計算装置12及び画像表示装置14は、1台のコンピュータ(例えば、パーソナルコンピュータ)に含まれてもよい。そのコンピュータと、2台のフィールド撮像カメラの夫々とは通信回旋で繋がるのが望ましい。
図2は、人物18とボール20が存在するフィールド16をフィールド両サイドの上方から第1のフィールド撮像カメラ4aと第2のフィールド撮像カメラ4bで撮像している様子を示している。図2では、2台のカメラは、いずれもサイドラインの各々の中央部上空に、2台がフィールドの中心に関して対称位置になるように、配置されている。2台のカメラは、夫々の配置位置が異なる限り、図2の配置に限定されない。但し、死角をなるべく無くすという観点から、及び、後述のように画像抽出工程を容易にしたいという観点から、少なくともフィールドの中心に関して対称位置になるように配置されるのが望ましい。
第1のフィールド撮像カメラ4a及び第2のフィールド撮像カメラ4bにより撮像される画像22a、22bを、夫々図3、図4に示す。これらの撮像画像22a、22bは、斜め上方から撮像されるものであるので、フィールドが台形に歪んでいる。
これらの撮像画像22a、22bを、画像変換装置6が、フィールド真上から俯瞰撮影されたかのような画像に変換する。その画像変換装置6による変換画像22aa、22bbを、夫々図5、図6に示す。図から明らかなように、フィールドを台形から長方形に引き延ばす処理をすることにより、人物18もボール20も横方向に引き延ばされる。
次に、画像合成装置8により、これらの変換画像22aa、22bbの輝度を1/2にするとともに、一方の変換画像(例えば変換画像22bb)を180度回転して、夫々を足し合わせる(重ね合わせる)と、図7に示すような合成画像22cが形成される。この合成画像22cでは、地表付近にある人物18とボール20の一部(どのフィールド撮像カメラ4a、4bからも人物18及びボール20により隠されて撮像されないフィールド部)のみが重なり、強調された部分24として鮮明に表示される。その強調される部分24以外の人物18とボール20の画像は、輝度が半分にされているためにぼけて表示される。
仮に2台のフィールド撮像カメラ4a、4bが接近して設置されているとするならば、人物18とボール20の像において夫々は大部分が重なる。すると、複数の選手が接近している場合、選手の像の分離が難しくなることが予想される。よって、2つのフィールド撮像カメラ4a、4bは相当程度に離されて設置することが望ましく、本実施の形態のようにフィールドの異なるサイドに設置するのがより望ましい。
通常、フィールド16の画像は、芝生の緑、白線の白の2色域で構成されているので、画像抽出装置10により合成画像22cからこの2色域に属さない領域を抽出し、2値化処理を行うと、図8に示すように、強調部分24のみが残された、即ち、人物の靴(の一部)とボール(の一部)のみが表示されたような2値化画像22dが得られる。
この2値化画像22dにおける各強調部分24の重心の位置を、位置計算装置12により求める。図9に示すように、強調部分24がボール20の場合は、この強調部分24の重心26がボールの位置となる。図10に示すように、強調部分24が人物18の場合は、この人物が走っているときやジャンプしているとき以外は2つの強調部分24(地表と接している部分)が接近して表示されることになるので、接近した強調部分24の距離lが任意に設定した値(1m程度)以下であれば、これらの強調部分24の重心の中点28を人物18の位置とすればよい。
ここで、強調部分24が人物18かボール20かの判定は、人物18が片足で立つ場合もあることを考慮に入れると、1枚の合成画像22cのみから常に行なうとすると、困難若しくは不可能なものになってしまう。従って、場合によって、連続して撮像された複数枚の合成画像22cを用いて判別を行なうとする。
また、ボール20が地表面上に無い瞬間も少なからずあることを考慮に入れると、ある瞬間においてボール20の位置を判定し得ない、という事態も想定され得る。よって、そのような場合(つまり、ボール20が地表面上に無い場合)、連続して撮像された複数枚の合成画像22cを用いてボールの経路を確定すればよい。その際、ボール20が地表面上にあった或る瞬間におけるボール20の位置から、次にボールが地表面上にあった瞬間におけるボール20の位置まで、一定速度で直線状に動いた、というように想定してもよい。あるいは、周囲の人物18の動きからボール20の位置を自動的に推定するというようにしてもよい。
最後に、図11に示すように、位置計算装置12で求められた人物18とボール20の位置を画像表示装置14によりフィールド16の図に重ねて表示する。このように図示されることにより、人物とボールの位置を把握しやすくなるという利点が生じる。
本実施の形態では、2つのフィールド撮像カメラを用いたが、もちろん3つ以上用いてもよい。そうすると、カメラからの死角がより減少するので、人物とボールの位置をより精度良く計測可能になることは言うまでもない。但し、カメラをN台(Nは3以上の自然数)用いるならば、画像合成装置8では、N個の変換画像の輝度を「1/N」にするとともに、夫々を適宜回転させて足し合わせて合成画像を形成することになる。
実施の形態2.
実施の形態2に係る目標位置検出装置2は、実施の形態1に係る目標位置検出装置2と略同様のものである。よって差異を中心に説明する。
実施の形態2に係る目標位置検出装置2では、事前に人物及びボールが存在しないフィールドを予め撮像しておく。そして、画像抽出装置10において、事前に撮像した人物およびボールが存在しないフィールドの俯瞰画像と、合成画像22cとの差分を取った上で、2値化処理を行う。そうすると、図8に示すように、強調部分24のみが残された、人物の靴(の一部)とボール(の一部)のみが表示されたような2値化画像22dが得られる。
従って、この後、実施の形態1における位置計算装置12と画像表示装置14とを更に利用することにより、実施の形態1と同様の効果を得ることができる。
実施の形態3.
図12は、本発明の実施の形態3に係る目標位置検出装置2’の構成図である。実施の形態3に係る目標位置検出装置2’は、実施の形態1及び実施の形態2に係る目標位置検出装置2と略同様のものである。よって差異を中心に説明する。
図12に示すように、実施の形態3に係る目標位置検出装置2’では、フィールド撮像カメラ4’a、4’bがパースペクティブ補正レンズを備える。そうすると、実施の形態1及び実施の形態2に係る目標位置検出装置2において利用する画像変換装置6が不要になる。
ここでのパースペクティブ補正レンズとは、CCD(Charge−Coupled Device;電荷結合素子)面やフィルム面と平行にレンズを移動させることでパースペクティブの補正ができるレンズである。このレンズを用いた撮影は、一般に「アオリ撮影」と呼ばれている。通常、高い建物を下から仰いで撮影すると上つぼまりに写る。その場合、このレンズを利用すると傾きの補正ができる。このレンズは建築写真などの撮影には特に有効であるとされる。
このレンズを用いることで、斜め上方からフィールドを撮像しても、図5、図6に示すように、画像変換することなくフィールドを真上から俯瞰撮像したような画像が得られ、よって、目標位置検出装置2’の全体の構成が簡単になるという効果がある。
実施の形態4.
図13は、本発明の実施の形態4に係る目標位置検出装置2”の構成図である。実施の形態4に係る目標位置検出装置2”は、実施の形態1及び実施の形態2に係る目標位置検出装置2と略同様のものである。よって差異を中心に説明する。
図13に示すように、実施の形態4に係る目標位置検出装置2”では、画像識別装置30を備える。この画像識別装置30には、各チームの選手の靴の色、審判の靴の色、及びボールの色の、夫々の情報が予め入力設定されている。画像識別装置30は、図14に示すように、画像抽出装置10により抽出された合成画像22cにおいて強調された部分の色が予め入力された色(各チームの選手の靴の色、審判の靴の色、又はボールの色)のどれに近いかを判断することで、識別を行ない同時に識別情報を生成する。この識別情報は、位置計算装置12及び画像表示装置14にまで引き継がれ、例えば、図15のように、この識別情報により画像表示装置14において各人物の位置にチーム名を記述表示することができる。よって、画像表示装置14において、各チームの選手の位置が容易に把握され得る。
なお、実施の形態3に係る目標位置検出装置2’に画像識別装置30を付加しても上記と同様の効果が得られることは言うまでもない。
実施の形態5.
実施の形態5に係る目標位置検出装置は、実施の形態1乃至実施の形態4に係る目標位置検出装置と略同様のものである。よって差異を中心に説明する。
実施の形態5に係る目標位置検出装置では、画像識別装置30が、画像抽出装置10により作成された2値化画像22dにおいて強調された部分24のそれぞれの円形度を計算する。
一般に、面積をA、周囲長をLとするとき、円形度は(4πA/L)で表され、この値は真円において1となり、複雑な形状ほど小さくなる。合成画像22c上の人物の強調された部分24は、靴の形つまり楕円となり、合成画像22c上のボールの強調された部分24は、略円形となる。従って、画像識別装置30は、計算された円形度が任意に設定したしきい値より大きければボールと、小さければ人物と、判断することができる。よって、画像識別装置30は、合成画像22c上の強調された部分24の形状により、人物とボールの識別が可能となる。
その他の対象への応用について.
本発明に係る目標位置検出装置は、上述のようにサッカーにおける選手やボールの位置検出に効果的である。それのみならず、他の対象での目標位置検出にも利用できる。
例えば、ラグビーフットボール、アメリカンフットボール、バスケットボール、ハンドボール、若しくは水球などの団体球技での、選手やボールの位置検出に利用できる。また、競馬、競輪、競艇などの競技での位置検出にも利用できる。
本発明の実施の形態1に係る目標位置検出装置の構成図である。 人物とボールが存在するフィールドをフィールド両サイドの上方から第1のフィールド撮像カメラと第2のフィールド撮像カメラで撮像している様子を示す。 図2の第1のフィールド撮像カメラにより撮像される画像を示す。 図2の第2のフィールド撮像カメラにより撮像される画像を示す。 画像変換装置が図3の撮像画像を変換して生成する変換画像である。 画像変換装置が図4の撮像画像を変換して生成する変換画像である。 画像合成装置が、図5の変換画像と図6の変換画像から生成する合成画像である。 画像抽出装置が、図7の合成画像から生成する2値化画像である。 図8の2値化画像のボールの強調部分から決定されるボールの位置情報を示す。 図8の2値化画像の人物の強調部分から決定される人物の位置情報を示す。 位置計算装置で求められた位置情報が表示される画像表示装置の表示画像である。 本発明の実施の形態3に係る目標位置検出装置の構成図である。 本発明の実施の形態4に係る目標位置検出装置の構成図である。 画像識別装置による識別情報を含む合成画像である。 画像識別装置による識別情報を含む画像表示装置の表示画像である。
符号の説明
2、2’、2”・・・目標位置検出装置、4a、4’a・・・第1のフィールド撮像カメラ、4b、4’b・・・第2のフィールド撮像カメラ、6・・・画像変換装置、8・・・画像合成装置、10・・・画像抽出装置、12・・・位置計算装置、14・・・画像表示装置、16・・・フィールド、18・・・人物、20・・・ボール、22a、22b・・・撮像画像、22aa、22bb・・・変換画像、22c・・・合成画像、22d・・・2値化画像、22e・・・表示画像、24・・・強調部分、26・・・ボールの位置、28・・・人物の位置、30・・・画像識別装置。

Claims (5)

  1. 球技場のフィールド全域を斜め上方から撮像する所定の複数のフィールド撮像カメラと、
    撮像された画像をフィールドの真上から俯瞰撮像したかのような画像に変換する所定の複数の画像変換装置と、
    変換された所定の複数の画像を合成する画像合成装置と、
    合成された画像から対象物を色情報を用いて抽出する画像抽出装置と、
    抽出された対象物画像部の夫々の重心の位置を計算することで対象物の位置を求める位置計算装置と、
    対象物の位置を表示する画像表示装置とを含む、
    目標位置検出装置。
  2. 球技場のフィールド全域を斜め上方から撮像する所定の複数のフィールド撮像カメラと、
    撮像された画像をフィールドの真上から俯瞰撮像したかのような画像に変換する所定の複数の画像変換装置と、
    変換された所定の複数の画像を合成する画像合成装置と、
    合成された画像と対象物が存在しないフィールドの俯瞰撮像との差分を取ることにより対象物を抽出する画像抽出装置と、
    抽出された対象物画像部の夫々の重心の位置を計算することで対象物の位置を求める位置計算装置と、
    対象物の位置を表示する画像表示装置とを含む、
    目標位置検出装置。
  3. 球技場のフィールド全域を斜め上方から撮像するパースペクティブ補正レンズ付きの所定の複数のフィールド撮像カメラにより撮像された複数の画像を、画像合成装置に入力することを特徴とする、請求項1又は請求項2に記載の目標位置検出装置。
  4. 画像抽出装置により抽出された対象物画像部の色情報に基づいて、その対象物の識別情報を付加する画像識別装置が、更に含まれることを特徴とする請求項1乃至請求項3のうちのいずれか一つに記載の目標位置検出装置。
  5. 画像抽出装置により抽出された対象物画像部の形状特徴に基づいて、その対象物の識別を行なう画像識別装置が、更に含まれることを特徴とする請求項1乃至請求項4のうちのいずれか一つに記載の目標位置検出装置。

JP2003420540A 2003-12-18 2003-12-18 目標位置検出装置 Expired - Fee Related JP4138642B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003420540A JP4138642B2 (ja) 2003-12-18 2003-12-18 目標位置検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003420540A JP4138642B2 (ja) 2003-12-18 2003-12-18 目標位置検出装置

Publications (2)

Publication Number Publication Date
JP2005181037A true JP2005181037A (ja) 2005-07-07
JP4138642B2 JP4138642B2 (ja) 2008-08-27

Family

ID=34782035

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003420540A Expired - Fee Related JP4138642B2 (ja) 2003-12-18 2003-12-18 目標位置検出装置

Country Status (1)

Country Link
JP (1) JP4138642B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101924572B1 (ko) 2016-08-23 2018-12-03 주식회사 픽셀스코프 구기 스포츠에서의 이벤트 영상 제공 시스템 및 이를 이용한 낙구 시점 판단 방법
JP2021530318A (ja) * 2018-07-17 2021-11-11 トラックマン・アクティーゼルスカブTrackman A/S スポーツボールの発射を最適化するシステム及び方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5884798B2 (ja) * 2013-09-13 2016-03-15 株式会社情報技研 ボール個別位置判別装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07306012A (ja) * 1994-05-13 1995-11-21 Oyo Keisoku Kenkyusho:Kk 移動物体の計測装置
JPH10239022A (ja) * 1997-02-28 1998-09-11 Aiphone Co Ltd 移動体位置検出装置
JPH11339009A (ja) * 1998-05-26 1999-12-10 Sony Corp 解析データ生成装置
JP2001273500A (ja) * 2000-03-23 2001-10-05 Hitachi Ltd 運動物体計測装置および球技分析システムおよびデータサービスシステム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07306012A (ja) * 1994-05-13 1995-11-21 Oyo Keisoku Kenkyusho:Kk 移動物体の計測装置
JPH10239022A (ja) * 1997-02-28 1998-09-11 Aiphone Co Ltd 移動体位置検出装置
JPH11339009A (ja) * 1998-05-26 1999-12-10 Sony Corp 解析データ生成装置
JP2001273500A (ja) * 2000-03-23 2001-10-05 Hitachi Ltd 運動物体計測装置および球技分析システムおよびデータサービスシステム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101924572B1 (ko) 2016-08-23 2018-12-03 주식회사 픽셀스코프 구기 스포츠에서의 이벤트 영상 제공 시스템 및 이를 이용한 낙구 시점 판단 방법
JP2021530318A (ja) * 2018-07-17 2021-11-11 トラックマン・アクティーゼルスカブTrackman A/S スポーツボールの発射を最適化するシステム及び方法
JP7087188B2 (ja) 2018-07-17 2022-06-20 トラックマン・アクティーゼルスカブ スポーツボールの発射を最適化するシステム及び方法

Also Published As

Publication number Publication date
JP4138642B2 (ja) 2008-08-27

Similar Documents

Publication Publication Date Title
US11064107B2 (en) Objects trail-based analysis and control of video
CN107871120B (zh) 基于机器学习的体育赛事理解系统及方法
US8659663B2 (en) Video tracking of baseball players to determine the start and end of a half-inning
RU2498404C2 (ru) Способ и устройство для генерирования регистрационной записи события
US8805007B2 (en) Integrated background and foreground tracking
US20180225852A1 (en) Apparatus and method for generating best-view image centered on object of interest in multiple camera images
US9007463B2 (en) Video tracking of baseball players which identifies merged participants based on participant roles
Yamada et al. Tracking players and a ball in video image sequence and estimating camera parameters for 3D interpretation of soccer games
BRPI1001472A2 (pt) dispositivo, sistema e método de processamento de imagem, e software de computador
JP2000341582A5 (ja)
Yu et al. A novel ball detection framework for real soccer video
CN110049345A (zh) 一种多视频流导播方法及导播处理系统
JP2010172394A (ja) 歩行状態表示装置
JP2009247642A (ja) 検出装置および方法、プログラム、記録媒体、並びにシミュレーションシステム
JP6983049B2 (ja) オブジェクト追跡装置及びそのプログラム
Thomas Sports TV applications of computer vision
KR20090118634A (ko) 운동경기의 자동분석 시스템 및 그 방법
US20170102480A1 (en) Field of play boundary detection system
JP4138642B2 (ja) 目標位置検出装置
CN111275021B (zh) 一种基于计算机视觉的足球越位线自动划线方法
JP5016012B2 (ja) シルエット抽出方法
JP6869826B2 (ja) ボールの画像撮影のために関心領域を決定するための方法、システム、及び非一時的なコンピュータ読み取り可能な記録媒体
Tahan et al. A computer vision driven squash players tracking system
KR101973655B1 (ko) 스포츠 코트 자동인식 및 그에 따른 인/아웃 판단 방법 및 장치
CN111738093A (zh) 一种基于梯度特征的冰壶球自动测速方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071012

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080527

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080605

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110613

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120613

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130613

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees