JP5196426B2 - ナビゲーション装置 - Google Patents

ナビゲーション装置 Download PDF

Info

Publication number
JP5196426B2
JP5196426B2 JP2008129129A JP2008129129A JP5196426B2 JP 5196426 B2 JP5196426 B2 JP 5196426B2 JP 2008129129 A JP2008129129 A JP 2008129129A JP 2008129129 A JP2008129129 A JP 2008129129A JP 5196426 B2 JP5196426 B2 JP 5196426B2
Authority
JP
Japan
Prior art keywords
image
dimensional
texture
current position
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008129129A
Other languages
English (en)
Other versions
JP2009276266A (ja
Inventor
亘 追久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2008129129A priority Critical patent/JP5196426B2/ja
Publication of JP2009276266A publication Critical patent/JP2009276266A/ja
Application granted granted Critical
Publication of JP5196426B2 publication Critical patent/JP5196426B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Instructional Devices (AREA)
  • Navigation (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、ナビゲーション装置等における地図表示の技術に関するものである。
ナビゲーション装置等における地図表示の技術としては、各建造物の三次元モデルを含む三次元地図データに基づいて、自車位置周辺の地理的範囲を三次元表現した(三次元空間を観測しているかのように認識されるように表現した)地図を表示する技術が知られている。
また、このような三次元表現した地図上に、自動車に搭載されたカメラで撮影した画像に写り込んでいる、三次元地図データに三次モデルが含まれていない建造物等の画像部分を合成表示する技術も知られている(たとえば、特許文献1)。
特開2007-156777号公報
さて、自車位置周辺の地理的範囲を三次元表現した地図を表示するための三次元地図データに含まれる建造物の三次元モデルは、主要地域などの特定の地域を除き、表面テクスチャが簡易化されたものとなっている。すなわち、特定の地域の建造物については、リアルに現実の建造物の表面テクスチャを模擬した三次元モデルが三次元地図データに含まれる一方で、他の地域の建造物については、たとえば、単一色を表面テクスチャとする三次元モデルが三次元地図データに含まれる。
そして、このために、前記特定地域外の地域では、リアルに建造物を表現した地図表示を行うことができなかった。
なお、前記特許文献1記載の技術は、三次元地図データに三次モデルが含まれていない建造物等の画像部分を地図に合成表示するものであるため、三次元地図データに含まれる、前記特定地域外の建造物の三次元モデルの表面テクスチャをリアルに現実の建造物の表面テクスチャを模擬したものとすることはできない。
一方で、道案内を主目的とするナビゲーション装置においては、三次元表現した地図表示において必ずしも全ての建造物をリアルに表現する必要はなく、ユーザが目印とするような建造物についてのみリアルに表現すれば足りる。
そこで、本発明は、各建造物の三次元モデルを含む三次元地図データに基づいて、自車位置周辺の地理的範囲を三次元表現した地図を表示するナビゲーション装置において、ユーザの所望の建造物についてリアルに建造物を表現した地図表示を行うことを課題とする。
前記課題達成のために、本発明は、自動車に搭載されるナビゲーション装置を、表示装置と、各建造物の三次元モデルを含む三次元地図データに基づいて、現在位置周辺の地理的範囲の三次元モデルを描画して三次元地図画像を生成し、前記表示装置に表示する三次元地図画像生成部と、前記自動車周辺の風景を撮影するカメラと、前記三次元地図画像上で、当該三次元地図画像中に描画された三次元モデルの指定を受け付ける指定受付手段と、前記カメラが撮影した画像に含まれる、前記指定受付手段が指定を受け付けた三次元モデルに対応する現実の建造物の画像部分を抽出し、前記指定受付手段が指定を受け付けた三次元モデルに対するテクスチャ画像として登録するテクスチャ画像登録手段とを含めて構成すると共に、前記三次元地図画像生成部において、現在位置周辺の地理的範囲の三次元モデルのうち、当該三次元モデルに対する前記テクスチャ画像が登録されている三次元モデルについては、当該登録されているテクスチャ画像を、表面テクスチャとしてテクスチャマッピングした形態で、前記三次元地図画像中に描画するようにしたものである。
このようなナビゲーション装置によれば、ユーザが三次元地図画像上で指定した任意の建造物の三次元モデルを、自動車に搭載したカメラで撮影した当該建造物の現実の画像を表面テクスチャとしてテクスチャマッピングした形態で三次元地図画像中に描画することができる。よって、ユーザの所望の建造物についてリアルに建造物を表現した地図表示を行うことができるようになる。
以上のように、本発明によれば、各建造物の三次元モデルを含む三次元地図データに基づいて、自車位置周辺の地理的範囲を三次元表現した地図を表示するナビゲーション装置において、ユーザの所望の建造物についてリアルに建造物を表現した地図表示を行うことができる。
以下、本発明の実施形態について説明する。
図1に、本実施形態に係る車載システムの構成を示す。
図示するように、車載システムは、カメラ1、周辺監視装置2、記憶装置3、GPS受信機4、車両センサ5、ナビゲーション装置6、テクスチャ追加処理部7、レンダリング処理部8、表示装置9と、入力装置10、入力装置10や表示装置9を用いたGUIをユーザに提供するGUI制御部11とを備えている。
ここでカメラ1は、図1bに示すように車両前端に設置され、車両前方を撮影する。また、周辺監視装置2は、カメラ1が撮影した画像より、車両前方の障害物の検出や、障害物を検出した際の警報出力などを行う。
また、車両センサ5は、角加速度センサや地磁気センサなどである方位センサや、車速パルスセンサなどである車速センサなどの、各種車両状態を検出するセンサ群である。
次に、記憶装置3には、地図データと、追加テクスチャレコードが記憶される。ここで、地図データは予め記憶装置3に記憶されるものであり、追加テクスチャレコードは、ユーザ操作に応じて後述するテクスチャ画像登録処理が記憶装置3に記憶するものである。
図2に、この地図データと、追加テクスチャレコードとを示す。
図2aに示すように地図データは、二次元地図を表す二次元地図データ、三次元地図を表す三次元地図データを含んで構成される。
そして、三次元地図データは、道路や家屋やビルや橋などの各種建造物毎に設けられた複数の3次元オブジェクトデータを含み、各3次元オブジェクトデータは、対応する建造物を三次元地図上で表す三次元オブジェクトを定義するものである。そして、各三次元オブジェクトデータは、三次元オブジェクトの識別子となるオブジェクト識別子、三次元オブジェクトの三次元地図上の配置位置を表す配置データ、三次元オブジェクトの三次元形状を表す形状データ、三次元オブジェクトの表面テクスチャを表すテクスチャデータとが登録される。
ここで、三次元オブジェクトの表面テクスチャとしては、テクスチャデータに三次元オブジェクトにテクスチャマッピングする画像データが登録されている場合と、三次元オブジェクトの表示色のみを定義する色データが登録されている場合とがある。
次に、図2bに示すように、追加テクスチャレコードには、対象オブジェクト識別子と、テクスチャ画像データと、マッピング情報とが登録される。
ここで、テクスチャ画像データは画像を表し、対象オブジェクト識別子は、テクスチャ画像データが表す画像をテクスチャマッピングする三次元オブジェクトのオブジェクト識別子を表し、マッピング情報は、テクスチャ画像データが表す画像を対象オブジェクト識別子が表すオブジェクト識別子の三次元オブジェクトの、どの面のいかなる範囲に、どのような方向からテクスチャマッピングするかを表す情報である。
さて、このような構成において、ナビゲーション装置6は、車両センサ5やGPS受信機4の出力から推定される現在位置と、記憶装置3から読み出した二次元地図データが表す二次元地図とのマップマッチング処理などを施して、現在位置として最も確からしい座標と、現在の進行方向として最も確からしい方向とを、それぞれ現在位置、現在進行方位として算定する。
また、ナビゲーション装置6は、ユーザの目的地設定要求に応じて、ユーザから入力装置10、GUI制御部11を介して目的地の設定を受け付け、目的地までの推奨ルートを探索し設定する。
また、ナビゲーション装置6は、GUI制御部11を介して表示装置9の表示画面上に、図3に示すように、二次元地図表示子画面320と三次元地図表示子画面330を設定する。そして、レンダリング処理部8に、二次元地図表示子画面320への二次元地図の表示と、三次元地図表示子画面330への三次元地図の表示を行わせる。
すなわち、レンダリング処理部8は、二次元地図表示子画面320に、記憶装置3から読み出した二次元地図データが表す現在位置周辺の二次元地図を表す二次元地図画像321を、予め成されたユーザ設定や初期設定に応じた地図縮尺で、ナビゲーション装置6が算出した現在進行方位が上になるように表示する。また、この際に、レンダリング処理部8は、この二次元地図表示子画面320に表示した二次元地図画像321上の、ナビゲーション装置6が算出した現在位置に対応する位置に現在位置マーク322を表示する。また、レンダリング処理部8は、ナビゲーション装置6において推奨ルートが設定されている場合には、推奨ルートの現在位置より目的地側の部分を表す推奨ルート図形323を二次元地図画像321上に表示する。
なお、目的地が二次元地図画像321が表す地理的範囲に含まれる場合、レンダリング処理部8は、目的地の位置を示す目的地マークも二次元地図画像321上に表示する。
一方、レンダリング処理部8は、三次元地図表示子画面330に、記憶装置3から読み出した三次元地図データに基づいて、現在位置周辺の地図を三次元的に表した三次元地図画像331を生成し表示する。この三次元地図画像331は、ナビゲーション装置6が算出した現在位置後方上空の視点から、予め成されたユーザ設定や初期設定に応じた視野角で、ナビゲーション装置6が算出した現在進行方位方向を見下ろす視線で、三次元地図データが表す三次元地図を観察した画像として生成する。
ここで、レンダリング処理部8は、このような三次元地図画像331の生成を、配置データが表す配置位置が現在位置周辺の所定範囲内にある各三次元オブジェクトデータについて、当該三次元オブジェクトデータが三次元形状や配置位置を表す三次元オブジェクトを、前記視点、視野角、視線で観察したようすを三次元地図画像331中にレンダリングすることにより行う。また、この三次元オブジェクトのレンダリングにおいては、三次元オブジェクトデータのテクスチャデータに従って、三次元オブジェクトの表面テクスチャを描画する。
ただし、三次元オブジェクトのオブジェクト識別子が、対象オブジェクト識別子として登録されている追加テクスチャレコードが存在する三次元オブジェクトついては、以下のように表面テクスチャを描画する。
すなわち、当該三次元オブジェクトに対して、追加テクスチャレコードのマッピング情報に従って、追加テクスチャレコードのテクスチャ画像データが表す画像をテクスチャマッピングして表面テクスチャを描画すると共に、三次元オブジェクトの表面のテクスチャ画像データが表す画像をテクスチャマッピングした範囲を除く部分について、三次元オブジェクトデータのテクスチャデータに従って、三次元オブジェクトの表面テクスチャを描画する。
また、このような三次元地図画像331の生成の際に、レンダリング処理部8は、この三次元地図表示子画面330に表示した三次元地図画像331上の、現在位置に対応する位置に現在位置マーク331を表示する。また、レンダリング処理部8は、ナビゲーション装置6において推奨ルートが設定されている場合には、推奨ルートの現在位置より目的地側の部分を表す推奨ルート図形333を三次元地図画像331上に表示する。なお、目的地が三次元地図画像331が表す地理的範囲に含まれる場合、レンダリング処理部8は、目的地の位置を示す目的地マークも三次元地図画像331上に表示する。
以下、テクスチャ追加処理部7が行うテクスチャ画像登録処理について説明する。
図4に、このテクスチャ画像登録処理の手順を示す。
図示するように、この処理では、三次元地図表示子画面330に表示している三次元地図画像331上での、ユーザからの三次元オブジェクトの指定が発生するのを監視する(ステップ402)。
そして、三次元オブジェクトの指定が発生したならば、ナビゲーション装置6が算定している現在位置、現在進行方位から求まるカメラ1の位置と撮影方向と、指定された三次元オブジェクトの配置、形状とから、カメラ1が撮影している画像中の、指定された三次元オブジェクトに対応する現実の建造物が写り込んでいる領域を、カメラ1が撮影している画像中に存在する輪郭/エッジなどを考慮しつつ算定し、カメラ1が撮影している画像中の算定した領域部分をテクスチャ画像データとして抽出する(ステップ404)。
そして、ナビゲーション装置6が算定している現在位置、現在進行方位から求まるカメラ1の位置と撮影方向と、指定された三次元オブジェクトの配置、形状と、抽出したテクスチャ画像データとから、テクスチャ画像データを、指定された三次元オブジェクトにテクスチャマッピングする方向と、テクスチャ画像データをテクスチャマッピングする三次元オブジェクトの面と範囲とをマッピング情報として算出する(ステップ406)。ここで、テクスチャ画像データをテクスチャマッピングする三次元オブジェクトの面と範囲とは、たとえば、カメラ1の位置と撮影方向と画角に対応する位置と方向と画角を有する仮想カメラを、三次元地図データが表す仮想三次元空間内に配置し、当該仮想カメラで仮想三次元空間内を撮影した場合に仮想カメラの撮影画像中のテクスチャ画像データに対応する領域に写り込むことになる三次元オブジェクトの面と範囲として求めることができる。また、テクスチャ画像データを指定された三次元オブジェクトにテクスチャマッピングする方向は、たとえば、仮想カメラから、テクスチャ画像データをテクスチャマッピングする三次元オブジェクトの範囲の中心に向かう方向として求めることができる。
そして、指定された三次元オブジェクトのオブジェクト識別子を対象オブジェクト識別子として登録した追加テクスチャレコードを記憶装置3上に作成し、作成した追加テクスチャレコードに抽出したテクスチャレコードと算出したマッピング情報を登録する(ステップ408)。そして、ステップ402からの処理に戻る。
以上、テクスチャ追加処理部7が行うテクスチャ画像登録処理について説明した。
ここで、このようなテクスチャ画像登録処理の処理例を図5に示す。
いま、図3のように三次元地図表示子画面330に表示している三次元地図画像331上で、たとえば、図5aに示すように、ユーザがカーソル501で三次元オブジェクト510を指定すると(ステップ402)、その時点でカメラ1が撮影している図5bに示す画像から、三次元オブジェクト510に対応する現実の建造物が写り込んでいる図5cに示す画像部分511が、図5dに示すテクスチャ画像データとして抽出される(ステップ404)。そして、このテクスチャ画像データを三次元オブジェクト510にマッピングするためのマッピング情報が前述のように算出される(ステップ406)。
そして、三次元オブジェクト510のオブジェクト識別子を対象オブジェクト識別子として登録した追加テクスチャレコードが記憶装置3上に作成され、この追加テクスチャレコードに図5dに示すテクスチャ画像データと算出したマッピング情報が登録される(ステップ408)。
そして、以降は、前述したレンダリング処理部8の各三次元オブジェクトのレンダリングの処理によって、三次元オブジェクト510は追加テクスチャレコードに基づいて表面テクスチャがレンダリングされて三次元地図画像331上に描画される。
結果、図5eに示すように、以降、三次元地図画像331において、三次元オブジェクト510は、カメラ1で撮影した当該三次元オブジェクト510に対応する現実の建造物の画像が表面テクスチャとしてテクスチャマッピングされた形態で表示されることになる。
以上、本発明の実施形態について説明した。
このように、本実施形態によれば、ユーザが三次元地図画像331上で指定した任意の建造物の三次元オブジェクトを、自動車に搭載したカメラ1で撮影した当該建造物の現実の画像を表面テクスチャとしてテクスチャマッピングした形態で三次元地図画像331中に描画することができる。よって、ユーザの所望の建造物についてリアルに建造物を表現した三次元地図画像331の表示を行うことができるようになる。
本発明の実施形態に係る車載システムの構成を示すブロック図である。 本発明の実施形態に係るナビゲーション装置が備える地図データと追加テクスチャレコードを示す図である。 本発明の実施形態に係るナビゲーション装置の表示画面例を示す図である。 本発明の実施形態に係るテクスチャ画像登録処理を示すフローチャートである。 本発明の実施形態に係るテクスチャ画像登録処理の処理例を示す図である。
符号の説明
1…カメラ、2…周辺監視装置、3…記憶装置、4…GPS受信機、5…車両センサ、6…ナビゲーション装置、7…テクスチャ追加処理部、8…レンダリング処理部、9…表示装置、10…入力装置、11…GUI制御部。

Claims (2)

  1. 自動車に搭載されたナビゲーション装置であって、
    表示装置と、
    前記自動車の現在の位置と向きとを算出する現在位置算出手段と、
    各建造物の三次元モデルを含む三次元地図データに基づいて、現在位置周辺の地理的範囲の三次元モデルを描画して三次元地図画像を生成し、前記表示装置に表示する三次元地図画像生成部と、
    前記自動車周辺の風景を撮影する、前記自動車に設置されたカメラと、
    前記三次元地図画像上で、当該三次元地図画像中に描画された三次元モデルの指定を受け付ける指定受付手段と、
    前記カメラが撮影した画像に含まれる、前記指定受付手段が指定を受け付けた三次元モデルに対応する現実の建造物の画像部分を、前記現在位置算出手段が算出した前記自動車の現在の位置と向きから求まる前記カメラの現在の位置と撮影方向と、前記指定を受け付けた三次元モデルの位置と形状とに従って算出して抽出し、前記指定受付手段が指定を受け付けた三次元モデルに対するテクスチャ画像として登録するテクスチャ画像登録手段とを有し、
    前記三次元地図画像生成部は、現在位置周辺の地理的範囲の三次元モデルのうち、当該三次元モデルに対する前記テクスチャ画像が登録されている三次元モデルについては、当該三次元モデルを、当該登録されているテクスチャ画像を、表面テクスチャとしてテクスチャマッピングした形態で、前記三次元地図画像中に描画することを特徴とするナビゲーション装置。
  2. 自動車に搭載されたナビゲーション装置において、三次元地図画像を表示する三次元地図画像表示方法であって、
    前記自動車の現在の位置と向きとを算出する現在位置算出ステップと、
    各建造物の三次元モデルを含む三次元地図データに基づいて、現在位置周辺の地理的範囲の三次元モデルを描画して三次元地図画像を生成し、前記表示装置に表示する三次元地図画像生成ステップと、
    前記自動車に設置されたカメラで前記自動車周辺の風景を撮影する撮影ステップと、
    前記三次元地図画像上で、当該三次元地図画像中に描画された三次元モデルの指定を受け付ける指定受付ステップと、
    前記カメラが撮影した画像に含まれる、前記指定を受け付けた三次元モデルに対応する現実の建造物の画像部分を、前記現在位置算出ステップで算出した前記自動車の現在の位置と向きから求まる前記カメラの現在の位置と撮影方向と、前記指定を受け付けた三次元モデルの位置と形状とに従って算出して抽出し、前記指定受付手段が指定を受け付けた三次元モデルに対するテクスチャ画像として登録するテクスチャ画像登録ステップとを有し、
    前記三次元地図画像生成ステップにおいて、現在位置周辺の地理的範囲の三次元モデルのうち、当該三次元モデルに対する前記テクスチャ画像が登録されている三次元モデルについては、当該三次元モデルを、当該登録されているテクスチャ画像を、表面テクスチャとしてテクスチャマッピングした形態で、前記三次元地図画像中に描画することを特徴とする三次元地図画像表示方法。
JP2008129129A 2008-05-16 2008-05-16 ナビゲーション装置 Expired - Fee Related JP5196426B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008129129A JP5196426B2 (ja) 2008-05-16 2008-05-16 ナビゲーション装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008129129A JP5196426B2 (ja) 2008-05-16 2008-05-16 ナビゲーション装置

Publications (2)

Publication Number Publication Date
JP2009276266A JP2009276266A (ja) 2009-11-26
JP5196426B2 true JP5196426B2 (ja) 2013-05-15

Family

ID=41441827

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008129129A Expired - Fee Related JP5196426B2 (ja) 2008-05-16 2008-05-16 ナビゲーション装置

Country Status (1)

Country Link
JP (1) JP5196426B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8566020B2 (en) 2009-12-01 2013-10-22 Nokia Corporation Method and apparatus for transforming three-dimensional map objects to present navigation information
CN101738192B (zh) * 2009-12-03 2012-02-22 首通云集(北京)投资有限公司 一种基于计算机模型的信息映射方法、设备及系统
JP2012048529A (ja) * 2010-08-27 2012-03-08 Mitsubishi Precision Co Ltd 地物の外観表示用画像の生成方法及びその装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3614709B2 (ja) * 1999-05-20 2005-01-26 日本電信電話株式会社 景観画像インデクス方法、装置および景観画像インデクスプログラムを記録した記録媒体
JP2001005994A (ja) * 1999-06-23 2001-01-12 Fuji Photo Film Co Ltd 画像処理装置および画像処理方法
JP3836278B2 (ja) * 1999-10-01 2006-10-25 パイオニア株式会社 ナビゲーション装置
JP2004078037A (ja) * 2002-08-21 2004-03-11 Cad Center:Kk 3次元都市モデル作成における進行管理方法、進行管理プログラム、進行管理プログラムを記録した記録媒体、及び進行管理サーバ。
JP2007280157A (ja) * 2006-04-10 2007-10-25 Kimoto & Co Ltd 三次元地形モデル製作システム

Also Published As

Publication number Publication date
JP2009276266A (ja) 2009-11-26

Similar Documents

Publication Publication Date Title
CN112204343B (zh) 高清晰地图数据的可视化
EP3338136B1 (en) Augmented reality in vehicle platforms
JP3798469B2 (ja) ナビゲーション装置
JP5058364B2 (ja) 俯瞰画像生成装置、俯瞰画像生成装置の俯瞰画像生成方法および俯瞰画像生成プログラム
JP6329343B2 (ja) 画像処理システム、画像処理装置、画像処理プログラム、および画像処理方法
CN109215433A (zh) 用于自动驾驶仿真的基于视觉的驾驶场景生成器
JP2005268847A (ja) 画像生成装置、画像生成方法、および画像生成プログラム
WO2013092058A1 (en) Image view in mapping
MX2007015348A (es) Dispositivo de navegacion con informacion de camara.
US20110288763A1 (en) Method and apparatus for displaying three-dimensional route guidance
CN210139859U (zh) 汽车碰撞预警系统、导航系统及汽车
CN110047105B (zh) 信息处理装置、信息处理方法及存储介质
JP7236442B2 (ja) 自動車における表示デバイスの制御方法
KR20110114114A (ko) 실사형 3차원 네비게이션 구현방법
JP6345381B2 (ja) 拡張現実システム
CN102235869A (zh) 用于标记汽车目的地的方法和信息系统
CN110304057A (zh) 汽车碰撞预警、导航方法、电子设备、系统及汽车
WO2022173647A1 (en) Synthesizing three-dimensional visualizations from perspectives of onboard sensors of autonomous vehicles
CN108629842B (zh) 一种无人驾驶设备运动信息提供及运动控制方法与设备
JP5196426B2 (ja) ナビゲーション装置
JP2013225275A (ja) 3次元画像表示システム
KR101771657B1 (ko) 차량 주변 실사 영상과 주행 지리 정보를 합성하여 표시하는 내비게이션 장치 및 그 방법
JP5231595B2 (ja) ナビゲーション装置
JP2013190255A (ja) 拡張現実システム
JP2013161466A (ja) 3次元地図における地点指定システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110404

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120601

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130130

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160215

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5196426

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees