JP4969628B2 - 走行区分線検出装置 - Google Patents

走行区分線検出装置 Download PDF

Info

Publication number
JP4969628B2
JP4969628B2 JP2009225290A JP2009225290A JP4969628B2 JP 4969628 B2 JP4969628 B2 JP 4969628B2 JP 2009225290 A JP2009225290 A JP 2009225290A JP 2009225290 A JP2009225290 A JP 2009225290A JP 4969628 B2 JP4969628 B2 JP 4969628B2
Authority
JP
Japan
Prior art keywords
image
difference
lane marking
low
contrast
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009225290A
Other languages
English (en)
Other versions
JP2011076248A (ja
Inventor
洋介 坂本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2009225290A priority Critical patent/JP4969628B2/ja
Publication of JP2011076248A publication Critical patent/JP2011076248A/ja
Application granted granted Critical
Publication of JP4969628B2 publication Critical patent/JP4969628B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Description

この発明は、走行区分線検出装置に関する。
従来、例えば車両に搭載された撮像手段により得られた撮像画像に基づき、走行路の走行区分線の線幅を検出し、この線幅に基づき走行区分線の位置を補正する装置が知られている(例えば、特許文献1参照)。
特開2002−163642号公報
ところで、上記従来技術に係る装置において、例えば所定のサイズのカーネル内の輝度などを走査する画像フィルタ演算により走行区分線を検出する際に、例えばカーネル内の輝度分散が所定値以上であれば走行区分線であると検出するように設定されていると、検出対象とする走行区分線をカーネルのサイズ(例えば幅)よりも小さい線幅を有する走行区分線に限定している場合であっても、実際にはカーネルのサイズよりも大きい線幅を有する走行区分線を、カーネルのサイズよりも小さい線幅を有する走行区分線であると誤検出してしまう虞がある。
このような問題に対して、例えば検出対象とする走行区分線の線幅をカーネルのサイズによって限定せずに、検出対象となる全ての走行区分線の線幅がカーネルのサイズよりも大きくなることが無いようにして、カーネルのサイズを走行区分線の線幅よりも大きく設定すると、カーネルを用いた走査に要する処理負荷が増大してしまうと共に、走行区分線の検出誤差が増大してしまうという問題が生じる。
本発明は上記事情に鑑みてなされたもので、走行区分線の検出誤差が増大することを防止し、走行区分線を的確に検出することが可能な走行区分線検出装置を提供することを目的としている。
上記課題を解決して係る目的を達成するために、本発明の第1態様に係る走行区分線検出装置は、車両の外界を撮像して得た撮像画像を出力する撮像手段(例えば、実施の形態での車載カメラ11)と、前記撮像手段から出力された前記撮像画像内を順次走査して注目点を設定する注目点設定手段(例えば、実施の形態での注目点設定部21)と、前記注目点設定手段により設定された前記注目点に応じて、車両からの距離に応じた走行路上の走行区分線の所定寸法に相当する大きさを有するカーネルを用いた画素値の畳み込み演算により前記撮像画像のコントラストを低下させた低コントラスト画像を生成する画像生成手段(例えば、実施の形態でのフィルタ処理部22)と、前記撮像手段から出力された前記撮像画像と前記画像生成手段により生成された前記低コントラスト画像との差分に基づき、前記走行区分線を検知する走行区分線検知手段(例えば、実施の形態での候補部抽出部23と、論理積演算部24と、走行区分線検知部25)とを備える走行区分線検出装置であって、前記画像生成手段は、前記注目点設定手段により設定された前記注目点の位置から第1方向に所定距離だけ変位した位置を中心位置とする第1の前記カーネルを用いて第1の前記低コントラスト画像を生成する第1フィルタ手段(例えば、実施の形態での第1フィルタ処理部31)と、前記注目点設定手段により設定された前記注目点の位置から第2方向に所定距離だけ変位した位置を中心位置とする第2の前記カーネルを用いて第2の前記低コントラスト画像を生成する第2フィルタ手段(例えば、実施の形態での第2フィルタ処理部32)とを備え、前記走行区分線検知手段は、前記撮像画像と前記第1の前記低コントラスト画像との画素毎の画素値の差分値からなる第1差分画像を生成する第1差分画像生成手段(例えば、実施の形態での第1候補部抽出部41)と、前記撮像画像と前記第2の前記低コントラスト画像との画素毎の画素値の差分値からなる第2差分画像を生成する第2差分画像生成手段(例えば、実施の形態での第2候補部抽出部42)と、前記第1差分画像生成手段により生成された前記第1差分画像と、前記第2差分画像生成手段により生成された前記第2差分画像との論理積を演算して論理積画像を生成する論理積画像生成手段(例えば、実施の形態での論理積演算部24)とを備え、前記論理積画像生成手段により生成された前記論理積画像から前記走行区分線を検知する。
さらに、本発明の第2態様に係る走行区分線検出装置では、前記第1方向および前記第2方向は互いに反対方向である。
本発明の第1態様に係る走行区分線検出装置によれば、撮像画像内に設定された注目点に対して複数の方向に変位した複数のカーネル、例えば第1方向に変位したカーネルおよび第2方向に変位したカーネル毎に、画素値(例えば、輝度値または彩度値)の畳み込み演算を行ない、撮像画像のコントラストを低下させた第1および第2の低コントラスト画像を生成する。そして、撮像手段から出力された撮像画像と第1の低コントラスト画像との差分、および、撮像画像と第2の低コントラスト画像との差分を算出する。そして、これらの差分の論理積に基づき走行区分線を検知する。これにより、既定のカーネルのサイズよりも大きな線幅を有する走行区分線を、カーネルのサイズよりも小さい線幅を有する走行区分線であると誤検出してしまうことを防止し、演算負荷および検出誤差が増大することを防止しつつ、走行区分線を的確に検出することができる。
さらに、注目点から複数の方向に変位した複数のカーネルに応じた複数の差分画像(例えば、2つの第1差分画像および第2差分画像)から、容易かつ的確に走行区分線を検出することができる。
さらに、本発明の第2態様に係る走行区分線検出装置によれば、走行区分線の誤検出あるいは検出不可が生じることを抑制することができる
本発明の実施の形態に係る走行区分線検出装置の構成図である。 本発明の実施の形態に係る走行区分線検出装置の画像データでのカーネルの例を示す図である。 本発明の実施の形態に係る走行区分線検出装置の画像データの一例を示す図である。 本発明の実施の形態に係る走行区分線検出装置の第1低コントラスト画像および第2低コントラスト画像の例を示す図である。 本発明の実施の形態に係る走行区分線検出装置の第1差分画像および第2差分画像の例を示す図である。 本発明の実施の形態に係る走行区分線検出装置の論理積画像の一例を示す図である。 本発明の実施の形態に係る走行区分線検出装置の動作を示すフローチャートである。 図7に示す第1処理を示すフローチャートである。 図7に示す第2処理を示すフローチャートである。
以下、本発明の一実施形態に係る走行区分線検出装置について添付図面を参照しながら説明する。
本実施の形態による走行区分線検出装置10は、例えば図1に示すように、車載カメラ11と、処理装置12とを備えて構成されている。
さらに、処理装置12は、例えば、注目点設定部21と、フィルタ処理部22と、候補部抽出部23と、論理積演算部24と、走行区分線検知部25とを備えて構成されている。
車載カメラ11は、例えば車両の進行方向前方の所定撮像領域を撮像可能であって、撮像により得られた画像に対して、例えばフィルタリングや二値化処理等の所定の画像処理を行い、二次元配列の画素からなる画像データを生成して処理装置12へ出力する。
注目点設定部21は、車載カメラ11から出力された画像データにおいて画像データを構成する画素を順次走査して注目点を設定する。
フィルタ処理部22は、複数(例えば、2つ)の第1フィルタ処理部31および第2フィルタ処理部32を備えて構成されている。
第1フィルタ処理部31および第2フィルタ処理部32は、例えば、注目点設定部21により画像データ内で順次走査されて設定される注目点に基づき、車載カメラ11から出力された画像データ(原画像)に対して互いに異なるカーネル(例えば、所定の2次元マトリックスからなるカーネル)を用いた画素値(例えば、輝度値または彩度値など)の畳み込み演算(例えば、加重平均平滑化の演算など)を行なう。そして、演算結果の画像として、車載カメラ11から出力された画像データ(原画像)に比べてコントラストが低下した各低コントラスト画像(第1低コントラスト画像および第2低コントラスト画像)を生成する。
第1フィルタ処理部31は、例えば図2に示すように、注目点PLの位置から第1方向(例えば、右方向)に所定距離だけずれた位置を中心位置とする所定サイズの第1カーネルK1を用いて、注目点設定部21により画像データ(例えば図3に示す原画像OP)内で順次走査されて設定される注目点に応じて、畳み込み演算(例えば、加重平均平滑化の演算など)を行ない、この演算結果の第1低コントラスト画像(例えば図4(A)に示す第1低コントラスト画像CP1)を出力する。
第2フィルタ処理部32は、例えば図2に示すように、注目点PLの位置から第2方向(例えば、左方向、つまり第1カーネルK1の変位方向とは反対方向)に所定距離だけずれた位置を中心位置とする所定サイズの第2カーネルK2を用いて、注目点設定部21により画像データ(原画像)内で順次走査されて設定される注目点に応じて、畳み込み演算(例えば、加重平均平滑化の演算など)を行ない、この演算結果の第2低コントラスト画像(例えば図4(B)に示す第2低コントラスト画像CP2)を出力する。
なお、第1カーネルK1および第2カーネルK2の大きさは互いに等しい所定サイズであって、この所定サイズは、車両からの距離に応じて変化する実際の走行区分線(例えば、図2に示す白線Lなど)の所定寸法に相当する大きさとされている。
例えば、車載カメラ11により撮像された走行路の路面における実距離Zは、焦点距離fと、車載カメラ11の高さYと、画像データの鉛直方向(つまり上下方向)のy座標と、画素の上下方向の物理的な間隔σとに基づき、下記数式(1)に示すように記述される。
また、実際の走行区分線(例えば、白線、黄線など)の実際の横方向幅(実幅)ΔXに対応する各カーネルK1,K2の横方向サイズxは、焦点距離fと、実距離Zと、実幅ΔXと、画素の横方向の物理的な間隔σとに基づき、下記数式(2)に示すように記述される。
上記数式(1)、(2)により、各カーネルK1,K2の横方向サイズxは、既知の値である、実幅ΔXと、車載カメラ11の高さYと、y座標とにより、下記数式(3)に示すように記述される。
候補部抽出部23は、複数(例えば、2つ)の第1候補部抽出部41および第2候補部抽出部42を備えて構成されている。
第1候補部抽出部41および第2候補部抽出部42は、車載カメラ11から出力された画像データ(原画像)と、各フィルタ処理部31,32により生成された第1低コントラスト画像および第2低コントラスト画像とを比較し、車載カメラ11により撮像された走行路上の走行区分線の候補となる領域の候補部を検出する。
例えば、第1候補部抽出部41は、車載カメラ11から出力された画像データ(原画像)と第1低コントラスト画像との各画素毎の差分値を算出し、差分値が所定値以下の画素の画素値をゼロ、かつ差分値が所定値よりも大きい画素の画素値を画像データ(原画像)での画素値(画像データ値)とした第1差分画像(例えば、図5(A)に示す第1差分画像RP1)を生成する。この第1差分画像RP1により、走行区分線の候補部が抽出される。
また、第2候補部抽出部41は、車載カメラ11から出力された画像データ(原画像)と第2低コントラスト画像との各画素毎の差分値を算出し、差分値が所定値以下の画素の画素値をゼロ、かつ差分値が所定値よりも大きい画素の画素値を画像データ(原画像)での画素値(画像データ値)とした第2差分画像(例えば、図5(B)に示す第2差分画像RP2)を生成する。この第2差分画像RP2により、走行区分線の候補部が抽出される。
論理積演算部24は、複数(例えば、2つ)の第1候補部抽出部41および第2候補部抽出部42の抽出処理によって得られた各差分画像を用いて論理積を演算し、この演算結果の画像(例えば、図6に示す論理積画像P)を出力する。
走行区分線検知部25は、論理積演算部24から出力された論理積画像に基づき、例えば所定閾値以上の画素値を有する画素を抽出するしきい値処理などにより、走行区分線(例えば、図6に示す白線HL、黄線YLなど)を検知する。
本実施の形態による走行区分線検出装置10は上記構成を備えており、次に、この走行区分線検出装置10の動作について説明する。
先ず、図3に示すステップS01においては、車載カメラ11から出力される画像データ(原画像)を取得する。
次に、ステップS02においては、後述する第1処理を実行する。
次に、ステップS03においては、後述する第2処理を実行する。
そして、ステップS04においては、第1処理および第2処理によって得られた各差分画像を用いて論理積を演算し、この演算結果の画像(論理積画像)を出力する。
そして、ステップS05においては、論理積画像に基づき、走行区分線(例えば、白線、黄線など)を検知し、エンドに進む。
以下に、上述したステップS02での第1処理について説明する。
先ず、図8に示すステップS11においては、画像データ(原画像)内で順次走査されて設定される注目点に基づき、注目点の位置から第1方向(例えば、右方向)に所定距離だけずれた位置を中心位置とする所定サイズの第1カーネルK1を用いて、畳み込み演算を行ない、この演算結果の第1低コントラスト画像を生成する。
次に、ステップS12においては、画像データ(原画像)と第1低コントラスト画像との差分を演算し、この演算結果の第1差分画像を生成して走行区分線の候補部を抽出する。
次に、ステップS13においては、第1差分画像の各画素毎に、差分値が所定値よりも大きいか否かを判定する。
この判定結果が「NO」の場合には、ステップS14に進み、このステップS14においては、差分値が所定値以下の画素の画素値をゼロとし、リターンに進む。
一方、この判定結果が「YES」の場合には、ステップS15に進み、このステップS15においては、差分値が所定値よりも大きい画素の画素値を画像データ(原画像)での画素値(画像データ値)とし、リターンに進む。
以下に、上述したステップS03での第2処理について説明する。
先ず、図9に示すステップS21においては、画像データ(原画像)内で順次走査されて設定される注目点に基づき、注目点の位置から第2方向(例えば、左方向)に所定距離だけずれた位置を中心位置とする所定サイズの第2カーネルK2を用いて、畳み込み演算を行ない、この演算結果の第2低コントラスト画像を生成する。
次に、ステップS22においては、画像データ(原画像)と第2低コントラスト画像との差分を演算し、この演算結果の第2差分画像を生成して走行区分線の候補部を抽出する。
次に、ステップS23においては、第2差分画像の各画素毎に、差分値が所定値よりも大きいか否かを判定する。
この判定結果が「NO」の場合には、ステップS24に進み、このステップS24においては、差分値が所定値以下の画素の画素値をゼロとし、リターンに進む。
一方、この判定結果が「YES」の場合には、ステップS25に進み、このステップS25においては、差分値が所定値よりも大きい画素の画素値を画像データ(原画像)での画素値(画像データ値)とし、リターンに進む。
上述したように、本実施の形態による走行区分線検出装置10によれば、画像データ(原画像)内に設定された注目点に対して複数の方向に変位した複数のカーネル、例えば互いに反対方向となる右方向および左方向に変位した第1および第2カーネルK1、K2毎に畳み込み演算を行ない、画像データ(原画像)のコントラストを低下させた第1および第2低コントラスト画像を生成する。そして、画像データ(原画像)と第1低コントラスト画像との差分、および、画像データ(原画像)と第2低コントラスト画像との差分を算出する。そして、これらの差分の論理積に基づき走行区分線を検知する。これにより、既定のカーネルのサイズよりも大きな線幅を有する走行区分線を、カーネルのサイズよりも小さい線幅を有する走行区分線であると誤検出してしまうことを防止し、カーネルのサイズを増大させることに伴う演算負荷および検出誤差の増大を防止しつつ、走行区分線を的確に検出することができる。
しかも、第1および第2カーネルK1、K2の変位方向を互いに反対方向とすることにより走行区分線の誤検出あるいは検出不可が生じることを抑制することができる。
しかも、注目点から複数の方向に変位した複数のカーネル(例えば、第1および第2カーネルK1、K2)に応じた複数の差分画像(例えば、2つの第1差分画像および第2差分画像)から論理積画像を生成することにより、容易かつ的確に走行区分線を検出することができる。
なお、上述した実施の形態によれば、既定のカーネルのサイズよりも大きな線幅を有する走行区分線(つまり、検出対象外の走行区分線)を、カーネルのサイズよりも小さい線幅を有する走行区分線(つまり、検出対象の走行区分線)であると誤検出してしまうことを防止することができるとしたが、これに限定されず、走行区分線以外の車両などのように路面とは異なる輝度を有する物体を、検出対象の走行区分線であると誤検出してしまうことを防止することができる。
なお、上述した実施の形態において、第1カーネルK1および第2カーネルK2を互いに反対方向にずれているとしたが、これに限定されず、互いに異なる方向に変位して(ずれて)いればよい。
また、上述した実施の形態において、フィルタ処理部22は、2つの第1カーネルK1および第2カーネルK2を用いるとしたが、これに限定されず、3つ以上の互いに異なる方向にずれたカーネルを用いてもよい。この場合、論理積演算部24は、3つ以上の異なる差分画像を用いて論理積を演算すればよい。
10 走行区分線検出装置
11 車載カメラ(撮像手段)
21 注目点設定部(注目点設定手段)
22 フィルタ処理部(画像生成手段)
23 候補部抽出部(走行区分線検知手段)
24 論理積演算部(走行区分線検知手段、論理積画像生成手段)
25 走行区分線検知部(走行区分線検知手段)
31 第1フィルタ処理部(第1フィルタ手段)
32 第2フィルタ処理部(第2フィルタ手段)
41 第1候補部抽出部(第1差分画像生成手段)
42 第2候補部抽出部(第2差分画像生成手段)

Claims (2)

  1. 車両の外界を撮像して得た撮像画像を出力する撮像手段と、
    前記撮像手段から出力された前記撮像画像内を順次走査して注目点を設定する注目点設定手段と、
    前記注目点設定手段により設定された前記注目点に応じて、車両からの距離に応じた走行路上の走行区分線の所定寸法に相当する大きさを有するカーネルを用いた画素値の畳み込み演算により前記撮像画像のコントラストを低下させた低コントラスト画像を生成する画像生成手段と、
    前記撮像手段から出力された前記撮像画像と前記画像生成手段により生成された前記低コントラスト画像との差分に基づき、前記走行区分線を検知する走行区分線検知手段とを備える走行区分線検出装置であって、
    前記画像生成手段は、
    前記注目点設定手段により設定された前記注目点の位置から第1方向に所定距離だけ変位した位置を中心位置とする第1の前記カーネルを用いて第1の前記低コントラスト画像を生成する第1フィルタ手段と、
    前記注目点設定手段により設定された前記注目点の位置から第2方向に所定距離だけ変位した位置を中心位置とする第2の前記カーネルを用いて第2の前記低コントラスト画像を生成する第2フィルタ手段とを備え
    前記走行区分線検知手段は、
    前記撮像画像と前記第1の前記低コントラスト画像との画素毎の画素値の差分値からなる第1差分画像を生成する第1差分画像生成手段と、
    前記撮像画像と前記第2の前記低コントラスト画像との画素毎の画素値の差分値からなる第2差分画像を生成する第2差分画像生成手段と、
    前記第1差分画像生成手段により生成された前記第1差分画像と、前記第2差分画像生成手段により生成された前記第2差分画像との論理積を演算して論理積画像を生成する論理積画像生成手段とを備え、
    前記論理積画像生成手段により生成された前記論理積画像から前記走行区分線を検知することを特徴とする走行区分線検出装置。
  2. 前記第1方向および前記第2方向は互いに反対方向であることを特徴とする請求項1に記載の走行区分線検出装置。
JP2009225290A 2009-09-29 2009-09-29 走行区分線検出装置 Expired - Fee Related JP4969628B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009225290A JP4969628B2 (ja) 2009-09-29 2009-09-29 走行区分線検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009225290A JP4969628B2 (ja) 2009-09-29 2009-09-29 走行区分線検出装置

Publications (2)

Publication Number Publication Date
JP2011076248A JP2011076248A (ja) 2011-04-14
JP4969628B2 true JP4969628B2 (ja) 2012-07-04

Family

ID=44020184

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009225290A Expired - Fee Related JP4969628B2 (ja) 2009-09-29 2009-09-29 走行区分線検出装置

Country Status (1)

Country Link
JP (1) JP4969628B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013228944A (ja) * 2012-04-26 2013-11-07 Nippon Soken Inc 走行区画線認識装置
JP7078763B2 (ja) * 2019-02-13 2022-05-31 日立Astemo株式会社 車両制御装置および電子制御システム
CN111273674A (zh) * 2020-03-12 2020-06-12 深圳冰河导航科技有限公司 一种测距方法、车辆作业控制方法及控制系统
CN111415317B (zh) * 2020-03-20 2024-01-05 苏州杰锐思智能科技股份有限公司 图像处理方法及装置、电子设备、计算机可读存储介质

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10111939A (ja) * 1996-10-08 1998-04-28 Mitsubishi Electric Corp 車載用画像処理装置
JP4437714B2 (ja) * 2004-07-15 2010-03-24 三菱電機株式会社 車線認識画像処理装置
JP3995671B2 (ja) * 2004-08-20 2007-10-24 松下電器産業株式会社 画像処理装置

Also Published As

Publication number Publication date
JP2011076248A (ja) 2011-04-14

Similar Documents

Publication Publication Date Title
JP3630100B2 (ja) 車線検出装置
KR101392850B1 (ko) 영상인식 기반의 차선 이탈 감지 방법 및 시스템
JP4222411B2 (ja) 消失点検出システム、消失点検出方法および消失点検出用プログラム
JP5761349B2 (ja) 立体物検出装置及び立体物検出方法
JP6707022B2 (ja) ステレオカメラ
JP4556798B2 (ja) 画像処理装置
JP3603836B2 (ja) 道路白線認識装置
JP4797846B2 (ja) 区画線検出装置及び車線検出装置
JP2011118509A (ja) 道路認識装置
JP2012159469A (ja) 車両用画像認識装置
JP5548212B2 (ja) 横断歩道標示検出方法および横断歩道標示検出装置
JP4969628B2 (ja) 走行区分線検出装置
JP5501084B2 (ja) 平面領域検出装置及びステレオカメラシステム
JP2012252501A (ja) 走行路認識装置及び走行路認識用プログラム
JP5786793B2 (ja) 車両検出装置
JP5091897B2 (ja) 停止線検出装置
JP2012159470A (ja) 車両用画像認識装置
JP2009186228A (ja) 3次元計測装置
WO2022009537A1 (ja) 画像処理装置
CN112513573B (zh) 立体摄像机装置
JP7064400B2 (ja) 物体検知装置
JP2018146495A (ja) 物体検出装置、物体検出方法、物体検出プログラム、撮像装置、及び、機器制御システム
JP2004038760A (ja) 車両用走行路認識装置
JP2005301892A (ja) 複数のカメラによるレーン認識装置
JP4096932B2 (ja) 車両用衝突時間推定装置及び車両用衝突時間推定方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120306

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120403

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150413

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees