JP2004333243A - 画像マッチング方法 - Google Patents

画像マッチング方法 Download PDF

Info

Publication number
JP2004333243A
JP2004333243A JP2003127771A JP2003127771A JP2004333243A JP 2004333243 A JP2004333243 A JP 2004333243A JP 2003127771 A JP2003127771 A JP 2003127771A JP 2003127771 A JP2003127771 A JP 2003127771A JP 2004333243 A JP2004333243 A JP 2004333243A
Authority
JP
Japan
Prior art keywords
image
line sensor
line
point
matching
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003127771A
Other languages
English (en)
Other versions
JP2004333243A5 (ja
JP4223860B2 (ja
Inventor
Tadashi Sasagawa
正 笹川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pasco Corp
Original Assignee
Pasco Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pasco Corp filed Critical Pasco Corp
Priority to JP2003127771A priority Critical patent/JP4223860B2/ja
Publication of JP2004333243A publication Critical patent/JP2004333243A/ja
Publication of JP2004333243A5 publication Critical patent/JP2004333243A5/ja
Application granted granted Critical
Publication of JP4223860B2 publication Critical patent/JP4223860B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Measurement Of Optical Distance (AREA)
  • Navigation (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】探索効率が高く、かつ、探索精度も高い画像マッチング方法の提供を目的とする。
【解決手段】航空機1の飛行方向に対して俯角の異なる複数のラインセンサ2により取得した各々が複数のラインデータ3により構成される複数のラインセンサ画像4中に撮像されたマッチング対象点5に対する他のラインセンサ画像4中の対応点6を抽出する画像マッチング方法であって、
前記各ラインデータ3取得時のセンサ傾き情報に基づいて傾きを補正してラインデータ3からラインセンサ画像4を生成するステップと、
マッチング対象点5撮像時におけるセンサ位置情報と俯角情報から他のラインセンサ画像4中における対応位置を指定するステップと、
前記対応位置から前記対応点6抽出対象のラインセンサ画像4における飛行方向に平行な倒れ方向に所定長範囲を探索領域7として設定するステップと、
前記探索領域7中を順次検索するステップとを有して構成する。
【選択図】 図1

Description

【0001】
【発明の属する技術分野】
本発明は、画像マッチング方法に関するものである。
【0002】
【従来の技術】
航空機に俯角の異なる複数のラインセンサを搭載し、これらラインセンサからの出力により地上物の位置データを求める装置としては、特許文献1記載のものが知られている。
【0003】
この従来例において、航空機には、鉛直下方、前方斜め方向、後方斜め方向の3方向を向くラインセンサと、各ラインデータ取得時の航空機の位置、傾きを計測するためのGPS及びジャイロが搭載される。
【0004】
このようにして得られた3画面には各々共通の撮像対象が撮影されており、これらの画像上の位置に基づいて撮像対象の標高データを含む位置データが得られる。
【0005】
そして、上述した従来例において、地上の撮像対象の位置を求めるためには、各画像上で撮影されている撮像対象を正確に対応させる(マッチング)する必要がある。
【0006】
一方、画像マッチングの手法としては、主として1対のステレオ画像から標高データを取得する航空測量等の分野において広く採用されており、例えば、一方のステレオ画像の特徴点を他のステレオ画像中で探索することにより行われる。
【0007】
しかし、これら従来のマッチング画像の探索方法においては、広い範囲を探索する必要が生じるために、探索時間がかかる上に、探索範囲が広いために、探索の信頼性も必ずしも高くないという問題がある。
【0008】
【特許文献1】
特許第2807622号公報特
【0009】
【発明が解決しようとする課題】
本発明は、以上の欠点を解消すべくなされたものであって、探索効率が高く、かつ、探索精度も高い画像マッチング方法の提供を目的とする。
【0010】
【課題を解決するための手段】
本発明によれば上記目的は、
航空機1の飛行方向に対して俯角の異なる複数のラインセンサ2により取得した各々が複数のラインデータ3により構成される複数のラインセンサ画像4中に撮像されたマッチング対象点5に対する他のラインセンサ画像4中の対応点6を抽出する画像マッチング方法であって、
前記各ラインデータ3取得時のセンサ傾き情報に基づいて傾きを補正してラインデータ3からラインセンサ画像4を生成するステップと、
マッチング対象点5撮像時におけるセンサ位置情報と俯角情報から他のラインセンサ画像4中における対応位置を指定するステップと、
前記対応位置から前記対応点6抽出対象のラインセンサ画像4における飛行方向に平行な倒れ方向に所定長範囲を探索領域7として設定するステップと、
前記探索領域7中を順次検索するステップとを有する画像マッチング方法を提供することにより達成される。
【0011】
航空機1から取得されるラインセンサ画像4は多数のラインデータ3の集合であり、各ラインデータ3には、航空機1に搭載したGPS/IMU(Inertial Measurement Unit:慣性測量装置)からの出力値が対応付けられる。ラインセンサ画像4は、各ラインデータ3の傾きを補正した仮空間面への投影像として与えられ、地上の地物が高さをもたなければ、各ラインセンサ画像4はすべて一致する。
【0012】
一方、地物が高さをもつ場合には、図2(b)に示すように、航空機1の直下視画像4Aにおいては、航空機1の飛行方向(A1)に対して直交方向(主走査方向)に、図2(a)に示す後方視画像4Bにおいては斜め後方に、図2(c)に示す前方視画像4Cにおいては、斜め前方に各々傾斜し、ラインセンサ画像4上の位置は、投影する主点位置(センサ位置のx,y,z、及び撮影角度(俯角)q)と高さhとの関数で与えられる。なお、本明細書においては、航空機1の飛行方向(A1)をx軸、高さ方向をz軸、x,z軸に直交する軸をy軸とする。
【0013】
ここで、各ラインセンサ画像4を構成するラインデータ3の主点位置と撮影角度qは既知であり、さらに、当該位置における傾き方向も既知であるために、いずれか一のラインセンサ画像4中のマッチング対象点5の他のラインセンサ画像4上での対応点6は、地物の高さhによる変化を考慮するだけで簡単、かつ、正確に特定することができる。
【0014】
図3に、直下視画像4A中のマッチング対象点5に対応する前方視画像4C中の対応点6を特定する場合の説明図を示す。なお、説明を容易にするように、図3においては、カメラ(センサ)が対象地物8の直上を通過し、主走査方向への倒れがない場合を示すが、この場合の副走査方向の倒れに、図2(b)に示す主走査方向の倒れ(Vy)とのベクトル和をとることにより図2(c)に示すような、地物8が斜め方向に倒れ込んだ現象に一般化することができる。
【0015】
図4(c)に示すように、ラインデータ3の傾きを補正した状態で各ラインセンサ画像4は縦視差が除去された状態となっており、マッチング対象点5と対応点6とは、航空機1の同一飛行方向線上に位置することが保証される。
【0016】
そして、直下視画像4A上のマッチング対象点5を撮像した際の対応点6は、対象地物8が高さをもたない場合、すなわち、屋上面が図3(a)においてabの場合には、図3(c)に示すように、撮影主点9位置と撮影角度q1による撮影主点9からの距離(L)から直ちに特定される。
【0017】
これに対し、図3(d)に示すように、地物に高さhがあるときには、図3(c)において特定した対応点6(仮対応点6’)から高さhに対応する距離(δ)だけ倒れ方向、すなわち、前方視画像4Cである本例においては、飛行方向(A1)にずれている。ここで、高さhは未知であるために、上記仮対応点6から所定間隔で探索範囲を飛行方向(A1)に移動させていくだけで、正確に対応特徴点を検索することが可能になる。
【0018】
なお、以上においては、直下視画像4A中からマッチング対象点5を選定する場合を示したが、他のラインセンサ画像4上にマッチング対象点5を指定し、直下視画像4Aを含む他のラインセンサ画像4上で対応点6を検索する場合も全く同様の手順を採用することができる。さらに、以上においては、直下視と前方視のラインセンサ画像4のみに対する処理を示したが、これに後方視、これらの中間方向視、さらには、サイドラップ位置にあるラインセンサ画像4を処理対象とすることも可能である。
【0019】
したがってこの発明において、対応点6抽出の検索範囲を狭い範囲に絞り込むことが可能となるために、検索効率が向上する上に、マッチング確率も向上させることが可能になる。
【0020】
また、複数のラインセンサ画像4を使用すると、複数画像上での対応点6指定を行うことができるために、これら対応点6検索により得られる標高データの検証をより正確に行うことが可能になる。
【0021】
【発明の実施の形態】
図1に本発明のフローチャートを、図4にラインセンサ画像4の取得状態を示す。この実施の形態において、地上所定高さを飛行する航空機1には、図4において矢印で示す航空機1の飛行方向(A1)に対して前方視、直下視、後方視の画像を取得するために3個のラインセンサ2が搭載される。図4(a)に示すように、各ラインセンサ2は、飛行方向(A1)に対して直交する水平姿勢、すなわち図4(a)において紙面に対して直交方向に複数の撮像素子を並べて形成される。
【0022】
ラインセンサ2により取得されるラインセンサ画像4は、図4(b)に示すように、複数のラインデータ3の集合として与えられ、各ラインデータ3の取得に際しては、航空機1に搭載したGPS/IMUからの出力が記録され、撮像時のセンサ位置(x,y,z)、傾き(ロール角、ピッチ角、ヨー角)を知ることができる。
【0023】
ラインデータ3に撮像される対象は図4(b)において黒く塗りつぶして示すように、ロール角等の影響によってライン上の位置は意味をもたず、これらを単に連結させた状態では、撮像対象の形状は示されないために、先ず、各ラインデータ3に対してIMUからの出力をもとにロール角等の傾きを補正し、図4(c)に示すようなラインセンサ画像4を生成する(ステップS1)。
【0024】
次いで、直下視画像4A中にマッチング対象点5を指定する(ステップS2)。マッチング対象点5は、例えば、N×N画素からなるテンプレート画像として抽出される(図3(b)参照)。
【0025】
また、直下視画像4A中にマッチング対象点5を指定すると、このマッチング対象点5に対する撮影主点9位置が決定できるために、これから、探索先のラインセンサ画像4の撮影角(俯角q1)を加味して探索先のラインセンサ画像4C中にテンプレート対応位置を指定し(ステップS3)、さらに、対応点6の探索領域7を決定する(ステップS4)。
【0026】
上述したように、探索領域7は、ステップS3で指定した対応位置を始点とし、航空機1の飛行線に沿って設定される。探索領域7の方向は、撮影方向によって高さを有する地物がラインセンサ画像4上で倒れる方向に設定され、例えば、図3に示すように、前方視画像4Cを探索先画像とする場合には、飛行方向(A1)の方向に延設される。また、探索領域7の長さは、地物の一般的な高さ等を考慮して適宜決定される。
【0027】
対応点6の探索(ステップS5)は、例えば、残差逐次検定法(Sequential Similarity Detection Algorithm:SSDA)によって行われ、上記ステップS4で設定されたM×N画素からなる探索領域7内でテンプレート画像を移動させ、特徴点における画像相関の残差が最小になった点を対応点6とする。
【0028】
対応点6が抽出された際には、残差を確度評価指数として取得し保管し(ステップS6)、対応点6が抽出されなかった場合には、隠蔽等のためと考えられるために、対応点6なしとする。
【0029】
以上のようにして、前方視画像4C中に対応点6を抽出した後、同様の手順によって後方視画像4B中、さらには、他のラインセンサ画像4が用意されている場合には、すべてのラインセンサ画像4に対する対応点6抽出を行う。
【0030】
これら複数のラインセンサ画像4上で抽出された対応点6は、各々確度評価指数が与えられ、さらには、全ラインセンサ画像4数に対する対応点6抽出数も知ることができるために、抽出された対応点6の正確さを客観的に評価することができる。
【0031】
なお、以上の方法は、コンピュータを使用して実施することが可能であり、この場合、上記各ステップをコンピュータに実行させるためのプログラムが使用される。
【0032】
【発明の効果】
以上の説明から明らかなように、本発明によれば、探索効率が高く、かつ、探索精度も高くすることができる。
【図面の簡単な説明】
【図1】本発明を示すフローチャートである。
【図2】ラインセンサ画像を示す図で、(a)は後方視画像、(b)は直下視画像、(c)は前方視画像を示す。
【図3】本発明の原理を示す図で、(a)は航空機からの撮像状態を示す説明図、(b)は直下視画像を示す図、(c)は(a)の地物に高さが内場合の前方視画像を示す図、(d)は(a)の地物に高さhがある場合の前方視画像を示す図である。
【図4】本発明の実施の形態を示す図で、(a)は3ラインセンサを使用してラインセンサ画像を取得している状態を示す図、(b)は傾き補正前のラインデータの配列を示す図、(c)は傾き補正後のラインセンサ画像を示す図である。
【符号の説明】
1 航空機
2 ラインセンサ
3 ラインデータ
4 ラインセンサ画像
5 マッチング対象点
6 対応点
7 探索領域

Claims (2)

  1. 航空機の飛行方向に対して俯角の異なる複数のラインセンサにより取得した各々が複数のラインデータにより構成される複数のラインセンサ画像中に撮像されたマッチング対象点に対する他のラインセンサ画像中の対応点を抽出する画像マッチング方法であって、
    前記各ラインデータ取得時のセンサ傾き情報に基づいて傾きを補正してラインデータからラインセンサ画像を生成するステップと、
    マッチング対象点撮像時におけるセンサ位置情報と俯角情報から他のラインセンサ画像中における対応位置を指定するステップと、
    前記対応位置から前記対応点抽出対象のラインセンサ画像における飛行方向に平行な倒れ方向に所定長範囲を探索領域として設定するステップと、
    前記探索領域中を順次検索するステップとを有する画像マッチング方法。
  2. 前記ラインセンサ画像には、航空機の直下を撮像する直下画像が含まれ、
    該直下画像を基本に他のラインセンサ画像中の対応点を抽出する請求項1記載の画像マッチング方法。
JP2003127771A 2003-05-06 2003-05-06 画像マッチング方法 Expired - Fee Related JP4223860B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003127771A JP4223860B2 (ja) 2003-05-06 2003-05-06 画像マッチング方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003127771A JP4223860B2 (ja) 2003-05-06 2003-05-06 画像マッチング方法

Publications (3)

Publication Number Publication Date
JP2004333243A true JP2004333243A (ja) 2004-11-25
JP2004333243A5 JP2004333243A5 (ja) 2006-06-15
JP4223860B2 JP4223860B2 (ja) 2009-02-12

Family

ID=33504157

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003127771A Expired - Fee Related JP4223860B2 (ja) 2003-05-06 2003-05-06 画像マッチング方法

Country Status (1)

Country Link
JP (1) JP4223860B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006170887A (ja) * 2004-12-17 2006-06-29 Pasuko:Kk 航空レーザ測量における閲覧用レーザデータ生成方法
CN102853835A (zh) * 2012-08-15 2013-01-02 西北工业大学 基于尺度不变特征变换的无人飞行器景象匹配定位方法
JP2016033517A (ja) * 2010-07-22 2016-03-10 レニショウ パブリック リミテッド カンパニーRenishaw Public Limited Company レーザ走査システムおよび使用方法
CN108073184A (zh) * 2017-11-27 2018-05-25 天脉聚源(北京)传媒科技有限公司 无人机飞行控制方法及装置
CN112268546A (zh) * 2020-09-04 2021-01-26 广州飞图信息科技有限公司 一种单镜头无人机倾斜摄影的航带生成方法及装置

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105215669A (zh) * 2015-09-17 2016-01-06 中国商用飞机有限责任公司 基于iGPS的对接测量调姿方法
CN113319706B (zh) * 2021-08-03 2021-10-26 上海万沐达家具江苏有限公司 一种实木板材边线去毛刺设备

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6266113A (ja) * 1985-09-19 1987-03-25 Tokyo Optical Co Ltd 座標測定方法及びその装置
JPH04203908A (ja) * 1990-11-29 1992-07-24 Matsushita Electric Ind Co Ltd 3次元データ獲得方法及び3次元データ獲得装置
JPH07170443A (ja) * 1993-12-13 1995-07-04 Koa:Kk 航空機搭載総合撮影装置
JPH08159762A (ja) * 1994-12-01 1996-06-21 Asahi Koyo Kk 3次元データ抽出方法及び装置並びにステレオ画像形成装置
JPH0997342A (ja) * 1995-08-03 1997-04-08 Sumitomo Electric Ind Ltd 樹木離隔距離計測システム
JPH1021403A (ja) * 1996-07-05 1998-01-23 Canon Inc 対応点抽出方法及び装置
JPH1023311A (ja) * 1996-07-05 1998-01-23 Canon Inc 画像情報入力方法及び装置
JPH10153426A (ja) * 1996-11-20 1998-06-09 Nec Corp 地形測定装置
JPH11257953A (ja) * 1998-03-06 1999-09-24 Koa:Kk トンネル壁面観察装置
JP2000055658A (ja) * 1998-08-06 2000-02-25 Sony Corp 画像処理装置および方法、並びに提供媒体

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6266113A (ja) * 1985-09-19 1987-03-25 Tokyo Optical Co Ltd 座標測定方法及びその装置
JPH04203908A (ja) * 1990-11-29 1992-07-24 Matsushita Electric Ind Co Ltd 3次元データ獲得方法及び3次元データ獲得装置
JPH07170443A (ja) * 1993-12-13 1995-07-04 Koa:Kk 航空機搭載総合撮影装置
JPH08159762A (ja) * 1994-12-01 1996-06-21 Asahi Koyo Kk 3次元データ抽出方法及び装置並びにステレオ画像形成装置
JPH0997342A (ja) * 1995-08-03 1997-04-08 Sumitomo Electric Ind Ltd 樹木離隔距離計測システム
JPH1021403A (ja) * 1996-07-05 1998-01-23 Canon Inc 対応点抽出方法及び装置
JPH1023311A (ja) * 1996-07-05 1998-01-23 Canon Inc 画像情報入力方法及び装置
JPH10153426A (ja) * 1996-11-20 1998-06-09 Nec Corp 地形測定装置
JPH11257953A (ja) * 1998-03-06 1999-09-24 Koa:Kk トンネル壁面観察装置
JP2000055658A (ja) * 1998-08-06 2000-02-25 Sony Corp 画像処理装置および方法、並びに提供媒体

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006170887A (ja) * 2004-12-17 2006-06-29 Pasuko:Kk 航空レーザ測量における閲覧用レーザデータ生成方法
JP2016033517A (ja) * 2010-07-22 2016-03-10 レニショウ パブリック リミテッド カンパニーRenishaw Public Limited Company レーザ走査システムおよび使用方法
CN102853835A (zh) * 2012-08-15 2013-01-02 西北工业大学 基于尺度不变特征变换的无人飞行器景象匹配定位方法
CN108073184A (zh) * 2017-11-27 2018-05-25 天脉聚源(北京)传媒科技有限公司 无人机飞行控制方法及装置
CN108073184B (zh) * 2017-11-27 2024-02-20 北京拉近众博科技有限公司 无人机飞行控制方法及装置
CN112268546A (zh) * 2020-09-04 2021-01-26 广州飞图信息科技有限公司 一种单镜头无人机倾斜摄影的航带生成方法及装置

Also Published As

Publication number Publication date
JP4223860B2 (ja) 2009-02-12

Similar Documents

Publication Publication Date Title
US7733342B2 (en) Method of extracting 3D building information using shadow analysis
JP5745178B2 (ja) 3次元測定方法、装置及びシステム、並びに画像処理装置
JP4970296B2 (ja) オルソフォト画像の生成方法、および撮影装置
EP3140613B1 (en) Surveying system
US7800736B2 (en) System and method for improving lidar data fidelity using pixel-aligned lidar/electro-optic data
KR100800554B1 (ko) 이동형 사진측량 시스템에서의 레이저 스캐너와 카메라영상정보를 이용한 3차원 모델링 방법
JP6433200B2 (ja) 演算装置、演算方法、およびプログラム
WO2014002725A1 (ja) 3次元測定方法、装置、及びシステム、並びに画像処理装置
JP5134784B2 (ja) 空中写真測量方法
JP2807622B2 (ja) 航空機搭載総合撮影装置
KR101771492B1 (ko) 복수의 센서를 탑재한 무인 비행체를 이용하는 매핑 방법 및 시스템
JP2016039390A (ja) 画像生成方法および装置
JP5716273B2 (ja) 捜索目標位置特定装置、捜索目標位置特定方法及びプログラム
JP3808833B2 (ja) 空中写真測量方法
KR20190143202A (ko) 3차원 모델링용 촬영장치 및 촬영방법
JP4223860B2 (ja) 画像マッチング方法
JP5363878B2 (ja) ステレオ画像撮影装置及びその方法
JP2020082830A (ja) 人工衛星、観測システム、情報処理装置
JP2000213953A (ja) 飛しょう体の航法装置
JP2007255955A (ja) 姿勢角検出装置、カメラ
JP2003219252A (ja) 移動体搭載用撮影装置を用いた撮影システム及び撮影方法
JP5885974B2 (ja) 空中写真画像データの対応点設定方法及び対応点設定装置並びに対応点設定プログラム
JP5920807B2 (ja) 光軸方向特定方法、光軸方向特定装置、及び光軸方向特定プログラム
JP6861592B2 (ja) データ間引き装置、測量装置、測量システム及びデータ間引き方法
JP4117771B2 (ja) オルソフォト画像生成方法およびオルソフォト画像生成システム

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060424

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060424

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080401

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080602

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080602

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080602

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080708

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080807

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080908

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080908

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080909

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080916

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081118

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081120

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111128

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111128

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121128

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131128

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees