JP4116116B2 - 移動体の測距原点認識装置 - Google Patents
移動体の測距原点認識装置 Download PDFInfo
- Publication number
- JP4116116B2 JP4116116B2 JP24731997A JP24731997A JP4116116B2 JP 4116116 B2 JP4116116 B2 JP 4116116B2 JP 24731997 A JP24731997 A JP 24731997A JP 24731997 A JP24731997 A JP 24731997A JP 4116116 B2 JP4116116 B2 JP 4116116B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- pattern
- luminance
- origin
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000012545 processing Methods 0.000 claims description 23
- 239000013598 vector Substances 0.000 claims description 18
- 238000005259 measurement Methods 0.000 claims description 14
- 238000009826 distribution Methods 0.000 claims description 6
- 238000003384 imaging method Methods 0.000 claims description 6
- 238000001514 detection method Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 12
- 238000000034 method Methods 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 5
- 230000004069 differentiation Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Image Analysis (AREA)
- Measurement Of Optical Distance (AREA)
Description
【発明の属する技術分野】
本発明は、測距原点に設置したマークを認識して原点における位置・方位を検出する測距原点認識装置に関する。
【0002】
【従来の技術】
従来より、無人ロボット、自律走行作業車、無人ヘリコプター等、自律的に移動する移動体に関し、移動制御、経路検出、航路検出、ロケーション検出等の各種技術が開発されており、これらの中でも、自己位置認識は重要な技術の一つである。
【0003】
この自己位置認識の技術として、例えば、自律走行作業車等の地上を自律的に走行する移動体では、振動ジャイロや光ジャイロによって2次元の角速度を検出するとともに、対地速度を測定するセンサによって並進速度を検出し、基準位置からの移動量を演算して自己位置を測定する技術があり、また、無人ヘリコプター等の飛行体では、慣性航法装置により、重力加速度を検出して飛行体の加速度を検出し、この加速度を積分することで移動量を知る技術がある。
【0004】
さらに、近年では、画像処理の技術を適用して移動体の自己位置を認識する技術が開発されており、特に、移動体にカメラを撮像して周囲環境を撮像し、撮像タイミングの異なる2枚の画像間のオプティカルフローを求めて移動体の運動を検出することで速度成分を演算し、測距開始地点(原点)からの航法軌跡を求めて自己位置を認識する技術では、膨大な情報量を有する画像ならではの周囲環境の分析が可能となり、複雑な地形を判別して正確な自律航法を実現することができる。
【0005】
【発明が解決しようとする課題】
ところで、上述のような画像処理による自己位置認識の技術では、自己の絶対位置や絶対方位を知る必要がある場合には、測距原点を認識する何らかの付加的な装置が必要となる。
【0006】
このため、地磁気センサ等を別途に搭載し、自己の姿勢角を絶対方位角で検出する等の措置も考えられるが、精度や信頼性が不足していたり、装置が大掛かりになって移動体に搭載するには不適である、コスト上昇を招くといった問題があった。
【0007】
本発明は上記事情に鑑みてなされたもので、原点からの自己位置を測距する際、3次元空間における絶対位置・絶対方位を精度良く検出可能な測距原点認識装置を提供することを目的としている。
【0008】
【課題を解決するための手段】
請求項1記載の発明は、測距原点に設置され、撮像画像上で同一走査線上に同一画素パターンが無く、且つ、輝度微分画像で複数の線分の交点を複数箇所検出可能なパターンを有するマークと、上記マークを撮像する2台1組のステレオカメラと、上記ステレオカメラで撮像した一対の画像に対し、対応位置を探索して対象物までの距離に応じて生じる画素ズレ量を求め、この画素ズレ量から得られる対象物までの遠近情報を数値化した距離画像を生成するステレオ処理部と、上記マークの撮像画像を輝度微分して抽出した上記複数の線分の交点と傾きとに基づいて2次元の位置・方位を認識し、更に上記距離画像に基づいて測距原点に対する3次元の位置・方位を認識する認識処理部とを備えたことを特徴とする。
【0009】
請求項2記載の発明は、請求項1記載の発明において、上記複数の線分を、輝度微分ベクトルの角度を軸としたヒストグラムのピーク値の間隔及び度数に基づいて抽出することを特徴とする。
【0010】
請求項3記載の発明は、請求項1記載の発明において、上記マークは、輝度の異なる領域を三角形を組み合わせて形成したパターンを有することを特徴とする。
【0011】
請求項4記載の発明は、請求項3記載の発明において、上記パターンは、互いに輝度分布が反転する正三角形を画像左右に配置したパターンであることを特徴とする。
【0012】
請求項5記載の発明は、請求項3記載の発明において、上記パターンは、互いに輝度分布が反転する直角二等辺三角形を画像左右に配置したパターンであることを特徴とする。
【0013】
すなわち、本発明による測距原点認識装置では、測距原点に設置され、撮像画像上で同一走査線上に同一画素パターンが無く、且つ、輝度微分画像で複数の線分の交点を複数箇所検出可能なパターンを有するマークをステレオカメラで撮像し、このステレオカメラで撮像した一対の画像に対し、対応位置を探索して対象物までの距離に応じて生じる画素ズレ量を求め、この画素ズレ量から得られる対象物までの遠近情報を数値化した距離画像を生成すると、マークの撮像画像を輝度微分して抽出した複数の線分の交点と傾きとに基づいて2次元の位置・方位を認識し、更に距離画像に基づいて測距原点に対する3次元の位置・方位を認識する。複数の線分は、輝度微分ベクトルの角度を軸としたヒストグラムのピーク値の間隔及び度数に基づいて抽出することができる。
【0014】
また、測距原点に設置するマークとしては、輝度の異なる領域を三角形を組み合わせて形成したパターン、詳細には、互いに輝度分布が反転する正三角形を画像左右に配置したパターン、或いは、互いに輝度分布が反転する直角二等辺三角形を画像左右に配置したパターンによって実現することができる。
【0015】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。図面は本発明の実施の一形態に係わり、図1は測距原点認識装置の基本構成図、図2は位置・方位検出ルーチンのフローチャート、図3は単純な格子状パターンのランドマークを示す説明図、図4はミスマッチングを起こさないランドマークのパターン例1を示す説明図、図5はミスマッチングを起こさないランドマークのパターン例2を示す説明図、図6はミスマッチングを起こさないランドマークのパターン例3を示す説明図、図7は輝度微分を求める小領域の抽出を示す説明図、図8は輝度微分ベクトルの例を示す説明図、図9は輝度微分ベクトルの角度ヒストグラムを示す説明図である。
【0016】
図1において、符号1は、自律移動体の自己位置認識に際し、測距開始地点(原点)に設置したマークを認識し、原点の絶対位置・絶対方位を検出する測距原点認識装置であり、その基本構成として、上記マークを撮像するための2台1組のカメラ10a,10bからなるステレオカメラ10、このステレオカメラ10で撮像した一対の画像をステレオマッチングして距離画像を生成するステレオ処理部20、このステレオ処理部20で生成した距離画像をストアする距離画像メモリ30、上記ステレオカメラ10で撮像した元画像をストアする元画像メモリ40、上記マークの元画像及び距離画像を用いて上記マークを認識し、位置・方位を検出する認識処理部50が備えられている。
【0017】
上記測距原点認識装置1は、画像処理によって移動体の自己位置認識を行うシステムの一部として構成することができる。例えば、無人ヘリコプター等の自律飛行体で、前方風景(遠方風景)を撮像するための2台1組のステレオカメラと、下方風景(地表面)を撮像するための2台1組のステレオカメラとを搭載し、遠方風景の時系列的な画像間のオプティカルフロー、及び、下方風景の時系列的な画像間のオプティカルフローを、それぞれの距離画像に基づいて実空間での移動量に換算して速度成分を求め、下方画像の動きによる速度成分から遠方画像の動きによる回転速度成分を除去して純並進速度成分を求めた後、測距開始地点(原点)から見た並進速度成分に変換して累積することで3次元空間における航法軌跡を求めるシステムでは、測距開始に際し、地上に設置した原点検出用のランドマークを認識して原点の絶対位置・絶対方位を知ることが必要であるが、このような場合、上記ステレオカメラ10は、地表面撮像用のステレオカメラで兼用することができ、上記ステレオ処理部20、上記認識処理部50は、システムの一部として組み込むことができる。
【0018】
上記ランドマークとしては、位置方位の検出精度を確保する上で、検出箇所が多く、線分の多いパターンであることが望ましいが、一方、上記ステレオ処理部20におけるステレオマッチングに対し、悪影響を及ぼさないパターンでなければならない。
【0019】
すなわち、上記ステレオ処理部20では、2台1組のステレオカメラ10で撮像した一対の画像に対し、各画像の小領域毎にシティブロック距離を計算して互いの相関を求めることで対応する領域を特定し、対象物までの距離に応じて生じる画素のズレ(=視差)を求めるようにしており、このズレ量から得られる対象物までの遠近情報を数値化した3次元画像情報(距離画像)を取得するため、視差検出方向(水平走査方向)に類似した領域が複数存在すると、視差を誤検出(ミスマッチング)してしまう。尚、ステレオカメラの撮像画像から距離画像を生成する処理については、本出願人による特開平5−114099号公報に詳述されている。
【0020】
例えば、図3に示すようなパターンのランドマーク59では、単純な格子状のパターンであるため、A−A'の視差検出方向に対し、距離画像として抽出される輝度差のエッジを含む小領域a,b,c,d,e,fのうち、領域a,c,e、領域b,d,fがそれぞれ類似した小領域となってしまい、ステレオ処理に際してミスマッチングを起こし、正しい距離データを得ることができない。
【0021】
従って、本発明では、同一走査線上にステレオ法による測距の誤りを引き起こすような同一画素パターンが無く、且つ、線分の交点が複数箇所あるパターンのランドマーク、すなわち、ステレオマッチングの際に、視差検出方向に類似した小領域が存在せず、どの方向に視差検出を行っても(パターンが画像中にどのように傾いて写っても)類似の領域が存在しないパターンのランドマークを採用する。
【0022】
このようなランドマークのパターン例は、図4,5,6に示され、図4に示すランドマーク60A、図5に示すランドマーク60Bでは、いずれも、輝度の異なる領域を三角形を組み合わせて形成したパターンを有し、視差検出方向A−A'に対して小領域a,b,c,d,e,f,gの中で類似した領域となるものがなく、ミスマッチングは起こらない。さらに、図6に示すランドマーク60Cは、周囲と輝度の異なる領域をX字状に形成したパターンであり、同様に同一直線上に類似した小領域が存在しないため、視差検出方向A−A'に対して小領域a,b,c,d,e,fの中で類似した領域となるものがなく、且つ、線分の撮像長さを確保することで分解能を確保することができる。
【0023】
以上のランドマーク60A(60B,60C)に対し、上記認識処理部50では、図2の位置方位検出ルーチンを実行して位置・方位を検出する。
【0024】
この位置方位検出ルーチンでは、まず、ステップS101で、マークを撮像した元画像に対し、マークを検出するために予め設定された探索領域を小領域に分割し、この小領域の輝度から、輝度微分ベクトルΔPを求める。例えば、図7に示すように、マーク探索領域を2×2画素の小領域に分割し、i方向に輝度データP0,P1、j方向に輝度データP2,P3が得られているとき、輝度微分ベクトルΔPは、以下の(1)式で与えることができる。
【0025】
また、上記輝度微分ベクトルΔPは、角度α、長さ(大きさ)Lで書き直すと、以下の(2),(3)式で表すことができる。
α=tan-1(−ΔPi/ΔPj) …(2)
L=(ΔPi2+ΔPj2)1/2 …(3)
【0026】
次いで、ステップS102へ進み、輝度微分ベクトルΔPの長さLがノイズを除去するため予め定めた閾値を越えているか否かを調べる。そして、ベクトルの長さLが閾値を越えていない場合には、ステップS104へジャンプし、閾値を越えているとき、ステップS103で、ベクトルの角度αを軸としたヒストグラムh[α](但し、α=−90〜+90deg)に度数を加算するとともに、その座標データi[n],j[n]、距離画像から得た距離データd[n]、角度データK[n]をメモリにストアし、ステップS104へ進む。
【0027】
ステップS104では、探索範囲の処理が終わったか否かを調べ、探索範囲の処理が終了していないときには上記ステップS101へ戻って上述の処理を繰り返し、探索範囲の処理が終了し、探索領域全面について輝度微分ベクトルΔPが求まったとき、ステップS105へ進んで角度ヒストグラムのフィルタ処理を行い、ステップS106で、角度ヒストグラムのピーク値の間隔及び度数からヒストグラム中のどの群がパターン中のどの線分の検出結果なのかを判定して線分を分類し、線分の傾き及び切片を算出する。
【0028】
例えば、図4に示すパターンのランドマーク60Aでは、マークが画像中に水平に写った場合、図9に示すような角度ヒストグラムが得られ、この角度ヒストグラムに参加した輝度微分ベクトルを持つ小領域の座標を画像上にプロットすると、パターンに対応して図8に示すような線分LA,LB,LC,LD,LEが得られる。線分LF,LG,LH,LIは背景との輝度微分ベクトルである。
【0029】
この場合、図4のパターンでは、0deg、±60deg,±90degの組み合わせで輝度微分ベクトルが存在することがわかっており、図8の線分の写った角度と図9のヒストグラム群との関係から、群H1〜H6の中で、群H1に対して線分LB,LE、群H2に対して線分LF,LH、群H3に対して線分LA,LD、群H4に対して線分LC,LG,LIが、それぞれ対応していると判定することができる。
【0030】
そして、群H1を平均化処理することにより、線分LB,LEの傾きθBEを求め、次いで、線分LBと線分LEとを分割するため、メモリにストアされた角度データK[n]から線分LBに属する座標及び線分LEに属する座標を抜き出し、ハフ変換により線分LBの切片MB、線分LEの切片MEを求める。
【0031】
同様の処理を他の群にも行うことで、線分LA〜LIの傾き及び切片を全て求めた後、上記ステップS106からステップS107へ進み、各線分の交点の座標、角度を算出してマークの2次元の位置・方位を認識し、さらに、各線分の傾きと切片とからエリアを設定し、抽出した座標i[n],j[n]、及び、距離データd[n]を用いて3次元空間中の線分として確定することにより、3次元空間での絶対位置・絶対方位を検出する。
【0032】
これにより、3次元空間における移動体の自己位置を絶対位置・絶対方位で精度良く認識することができ、しかも、移動体に搭載可能な小型且つ安価な装置で実現することができる。
【0033】
尚、図5及び図6のパターンの場合、角度の組み合わせが0deg,±45deg,±90degになり、同様の処理を行うことで、3次元の位置・方位を認識することができる。
【0034】
【発明の効果】
以上説明したように本発明によれば、測距原点に設置され、撮像画像上で同一走査線上に同一画素パターンが無く、且つ、輝度微分画像で複数の線分の交点を複数箇所検出可能なパターンを有するマークをステレオカメラで撮像して遠近情報を数値化した距離画像を生成すると共に、マークの撮像画像を輝度微分して抽出した複数の線分の交点と傾きとに基づいて2次元の位置・方位を認識し、更に距離画像に基づいて測距原点に対する3次元の位置・方位を認識するため、移動体等に搭載可能な小型且つ安価な装置で、3次元空間における測距開始原点の絶対位置・絶対方位を精度良く検出可能とすることができる等優れた効果が得られる。
【図面の簡単な説明】
【図1】測距原点認識装置の基本構成図
【図2】位置・方位検出ルーチンのフローチャート
【図3】単純な格子状パターンのランドマークを示す説明図
【図4】ミスマッチングを起こさないランドマークのパターン例1を示す説明図
【図5】ミスマッチングを起こさないランドマークのパターン例2を示す説明図
【図6】ミスマッチングを起こさないランドマークのパターン例3を示す説明図
【図7】輝度微分を求める小領域の抽出を示す説明図
【図8】輝度微分ベクトルの例を示す説明図
【図9】輝度微分ベクトルの角度ヒストグラムを示す説明図
【符号の説明】
1 …測距原点認識装置
10…ステレオカメラ
20…ステレオ処理部
50…認識処理部
60A,60B,60C…ランドマーク
Claims (5)
- 測距原点に設置され、撮像画像上で同一走査線上に同一画素パターンが無く、且つ、輝度微分画像で複数の線分の交点を複数箇所検出可能なパターンを有するマークと、
上記マークを撮像する2台1組のステレオカメラと、
上記ステレオカメラで撮像した一対の画像に対し、対応位置を探索して対象物までの距離に応じて生じる画素ズレ量を求め、この画素ズレ量から得られる対象物までの遠近情報を数値化した距離画像を生成するステレオ処理部と、
上記マークの撮像画像を輝度微分して抽出した上記複数の線分の交点と傾きとに基づいて2次元の位置・方位を認識し、更に上記距離画像に基づいて測距原点に対する3次元の位置・方位を認識する認識処理部とを備えたことを特徴とする測距原点認識装置。 - 上記複数の線分を、輝度微分ベクトルの角度を軸としたヒストグラムのピーク値の間隔及び度数に基づいて抽出することを特徴とする請求項1記載の測距原点認識装置。
- 上記マークは、輝度の異なる領域を三角形を組み合わせて形成したパターンを有することを特徴とする請求項1記載の測距原点認識装置。
- 上記パターンは、互いに輝度分布が反転する正三角形を画像左右に配置したパターンであることを特徴とする請求項3記載の測距原点認識装置。
- 上記パターンは、互いに輝度分布が反転する直角二等辺三角形を画像左右に配置したパターンであることを特徴とする請求項3記載の測距原点認識装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24731997A JP4116116B2 (ja) | 1997-09-11 | 1997-09-11 | 移動体の測距原点認識装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24731997A JP4116116B2 (ja) | 1997-09-11 | 1997-09-11 | 移動体の測距原点認識装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH1185981A JPH1185981A (ja) | 1999-03-30 |
JP4116116B2 true JP4116116B2 (ja) | 2008-07-09 |
Family
ID=17161637
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP24731997A Expired - Lifetime JP4116116B2 (ja) | 1997-09-11 | 1997-09-11 | 移動体の測距原点認識装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4116116B2 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100394276B1 (ko) * | 1999-07-12 | 2003-08-09 | 한국전자통신연구원 | 수화 인식에서의 스테레오 정합기법을 적용한 초기 손영역 설정방법 및 장치 |
JP2001351200A (ja) * | 2000-06-09 | 2001-12-21 | Nissan Motor Co Ltd | 車載用物体検知装置 |
JP4377665B2 (ja) | 2003-12-01 | 2009-12-02 | 本田技研工業株式会社 | 位置検出用マーク、並びに、マーク検出装置、その方法及びそのプログラム |
JP5016399B2 (ja) * | 2007-06-08 | 2012-09-05 | パナソニック株式会社 | 地図情報作成装置及びそれを備えた自律移動装置 |
FR2927262B1 (fr) * | 2008-02-13 | 2014-11-28 | Parrot | Procede de pilotage d'un drone a voilure tournante |
IL227982B (en) * | 2013-08-15 | 2018-11-29 | Rafael Advanced Defense Systems Ltd | A missile system with navigation capability based on image processing |
WO2016065627A1 (zh) * | 2014-10-31 | 2016-05-06 | 深圳市大疆创新科技有限公司 | 一种基于位置的控制方法、装置、可移动机器以及机器人 |
JP6320542B2 (ja) | 2015-05-23 | 2018-05-09 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 初期構成を有する複数のセンサを有する可動物体に対する1または複数の外部パラメータを推定する方法、システム、及びプログラム |
JP2019095267A (ja) * | 2017-11-21 | 2019-06-20 | 株式会社ダイヘン | 出力装置、位置計測システム、プログラム及び固定局の位置の座標の計測方法 |
JP6800918B2 (ja) * | 2018-07-12 | 2020-12-16 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | エラー回復を実行するための方法、システム、及びプログラム |
JP7319824B2 (ja) * | 2019-05-16 | 2023-08-02 | 株式会社日立製作所 | 移動体 |
-
1997
- 1997-09-11 JP JP24731997A patent/JP4116116B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH1185981A (ja) | 1999-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3833786B2 (ja) | 移動体の3次元自己位置認識装置 | |
JP5157067B2 (ja) | 自動走行用マップ作成装置、及び自動走行装置。 | |
JP7082545B2 (ja) | 情報処理方法、情報処理装置およびプログラム | |
RU2668459C1 (ru) | Устройство оценки положения и способ оценки положения | |
Rose et al. | An integrated vehicle navigation system utilizing lane-detection and lateral position estimation systems in difficult environments for GPS | |
JP4600357B2 (ja) | 測位装置 | |
CN107422730A (zh) | 基于视觉导引的agv运输系统及其驾驶控制方法 | |
JP2001331787A (ja) | 道路形状推定装置 | |
JP2002511614A (ja) | 物体位置の追跡・検知方法 | |
JP2001266160A (ja) | 周辺認識方法および周辺認識装置 | |
JP2012127896A (ja) | 移動体位置測定装置 | |
CN110462682B (zh) | 物体检测装置以及车辆 | |
KR101100827B1 (ko) | 도로주행 로봇의 자기 위치 인식방법 | |
JP4116116B2 (ja) | 移動体の測距原点認識装置 | |
CN208323361U (zh) | 一种基于深度视觉的定位装置及机器人 | |
JP2004198159A (ja) | 車載センサの軸ずれ計測装置 | |
CN113175925B (zh) | 定位与导航系统以及方法 | |
JP6834401B2 (ja) | 自己位置推定方法及び自己位置推定装置 | |
JP6410231B2 (ja) | 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム | |
JP2018055222A (ja) | 走路検出方法及び走路検出装置 | |
JP7234840B2 (ja) | 位置推定装置 | |
KR102003387B1 (ko) | 조감도 이미지를 이용한 교통 장애물의 검출 및 거리 측정 방법, 교통 장애물을 검출하고 거리를 측정하는 프로그램을 저장한 컴퓨터 판독가능 기록매체 | |
JP4892224B2 (ja) | 路面標示自動計測システム、装置及び方法 | |
CN115790616A (zh) | 车辆绝对初始位置的确定 | |
JP6886136B2 (ja) | 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040830 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070718 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071002 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080415 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080417 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110425 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110425 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120425 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130425 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130425 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140425 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |