JP2013088856A - 車両の制御装置 - Google Patents

車両の制御装置 Download PDF

Info

Publication number
JP2013088856A
JP2013088856A JP2011225888A JP2011225888A JP2013088856A JP 2013088856 A JP2013088856 A JP 2013088856A JP 2011225888 A JP2011225888 A JP 2011225888A JP 2011225888 A JP2011225888 A JP 2011225888A JP 2013088856 A JP2013088856 A JP 2013088856A
Authority
JP
Japan
Prior art keywords
vehicle
inclination
pedestrian crossing
image
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011225888A
Other languages
English (en)
Other versions
JP5469148B2 (ja
Inventor
Yosuke Sakamoto
洋介 坂本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2011225888A priority Critical patent/JP5469148B2/ja
Publication of JP2013088856A publication Critical patent/JP2013088856A/ja
Application granted granted Critical
Publication of JP5469148B2 publication Critical patent/JP5469148B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Traffic Control Systems (AREA)

Abstract

【課題】横断歩道の検出情報を利用して、車両の走行状態を制御することができる車両の制御装置を提供する。
【解決手段】車両1に搭載されたカメラ20による道路の撮像画像から、道路に敷設された横断歩道の画像部分を検出する横断歩道検出部12と、撮像画像における車両1の進行方向に対応する方向に対する横断歩道の画像部分の傾きに基づいて、道路の延伸方向に対する車両1の傾きを検出する車両傾度検出部13と、車両傾度検出部13により検出された傾きを減少させるための傾度減少処理を実行する傾度減少処理部14とを備える。
【選択図】 図2

Description

本発明は、カメラの撮像画像から認識される道路状況に基づいて、車両の走行状態を制御する車両の制御装置に関する。
従来より、車両に搭載されたカメラにより車両の前方道路を撮像し、撮像画像から抽出した横断歩道の画像部分と、障害物(歩行者等)が存在しない横断歩道の画像パターン(基準パターン)との差から、横断歩道上の障害物を検出するようにした障害物検出装置が提案されている(例えば、特許文献1参照)。
特許文献1に記載された障害物検出装置では、撮像画像から認識した横断歩道の画像部分を基準パターンに合わせるように、撮像画像の位置方向を変換処理している。そして、この変換処理により、車両の右左折時等であって、横断歩道の画像部分の位置方向と基準パターンの位置方向が合わない場合においても、横断歩道上の障害物が検出できるようにしている。
特開2011−70473号公報
車両に搭載したカメラの撮像画像から、車両が走行中の道路に敷設された横断歩道の情報を取得したときに、この情報を上記特許文献1に記載された障害物検出装置のように、横断歩道上の障害物の検出に用いる場合の他に、車両の走行状態の制御にも活用することが考えられる。
そこで、本発明は、横断歩道の検出情報を利用して、車両の走行状態を制御することができる車両の制御装置を提供することを目的とする。
本発明は上記目的を達成するためになされたものであり、車両に搭載されたカメラによる該車両が走行中の道路の撮像画像から、該道路に敷設された横断歩道の画像部分を検出する横断歩道検出部と、
前記撮像画像における前記車両の進行方向に対応する方向に対する前記横断歩道の画像部分の傾きに基づいて、前記道路の延伸方向に対する前記車両の傾きを検出する車両傾度検出部と、
前記車両傾度検出部により検出された傾きを減少させるための傾度減少処理を実行する傾度減少処理部とを備えたことを特徴とする(第1発明)。
第1発明において、一般に、横断歩道は道路の延伸方向と直交して敷設されていると想定される。そのため、前記車両傾度検出部は、前記撮像画像における前記車両の進行方向に対応する方向に対する前記横断歩道の画像部分の傾きに基づいて、前記道路の延伸方向に対する前記車両の傾きを検出することができる。そして、前記傾度減少処理部により、前記道路の延伸方向に対する前記車両の傾きを減少させることによって、前記車両が前記道路に沿って走行するように、前記車両の走行状態を制御することができる。
また、第1発明において、前記横断歩道検出部は、前記撮像画像から、複数の白線画像部分を含み、各白線画像部分に対応する実空間での各白線の平行度が第1所定範囲内であって、各白線の幅の均一度が第2所定範囲内であると想定される領域を探索することによって、横断歩道の画像部分を検出することを特徴とする(第2発明)。
第2発明によれば、前記横断歩道検出部は、横断歩道の一般的な特徴である複数の同一幅の白線が平行に引かれた構成を有していることを条件として、横断歩道の画像部分を検出することができる。
また、第1発明又は第2発明において、前記横断歩道検出部は、前記撮像画像を前記車両の上方を視点として射影変換した上方視画像を用いて、横断歩道の画像部分を検出することを特徴とする(第3発明)。
第3発明によれば、前記上方視画像を用いることにより、前記上方視画像に含まれる画像部分について、平行度及び幅の均一性等の横断歩道の特徴の有無を容易に判断して、横断歩道の画像部分を検出することができる。
また、第1発明から第3発明のうちのいずれかにおいて、前記撮像画像に基づいて、前記道路に敷設された車線区分線を検出する車線区分線検出部を備え、
該車線区分線検出部は、前記横断歩道検出部により横断歩道の画像部分が検出されたときに、前記撮像画像から、該横断歩道の画像部分を除外して車線区分線の画像部分を探索することによって、前記道路の車線区分線を検出することを特徴とする(第4発明)。
第4発明によれば、前記車線区分線検出部は、車線区分線が横断歩道により分断されているときに、横断歩道の白線を車線区分線と誤検出することを防止することができる。
また、第1発明から第4発明のいずれかにおいて、前記傾度減少処理部は、前記傾度減少処理として、前記道路の延伸方向に対する前記車両の傾きが減少するように、前記車両の操舵装置の操舵角を調整する処理を行うことを特徴とする(第5発明)。
第5発明によれば、前記傾度減少処理部により、前記車両の操舵装置の操舵角を調整して前記道路の延伸方向に対する前記車両の傾きを減少させることによって、前記車両を前記道路に沿って走行させることができる。
また、第1発明から第5発明のいずれかにおいて、前記車両は、車幅方向の異なる位置に配置された一対の車輪を有し、前記傾度減少処理部は、前記傾度減少処理として、前記道路の延伸方向に対する前記車両の傾きが減少するように、前記一対の車輪間に回転速度差を生じさせる処理を行うことを特徴とする(第6発明)。
第6発明によれば、前記傾度減少処理部により、前記車両の前記一対の車輪間に回転速度差を生じさせて、前記道路の延伸方向に対する前記車両の傾きを減少させることによって、前記車両を前記道路に沿って走行させることができる。
車両の制御装置の使用態様の説明図。 車両の制御装置の構成図。 道路に敷設された横断歩道と車両との位置関係の説明図。 車両の制御装置の作動フローチャート。 横断歩道の検出処理の説明図。 道路の延伸方向に対する車両の傾きの説明図。 道路と車両が平行であるときの上方視画像の説明図。 道路に対して車両が傾いているときの上方視画像の説明図。
本発明の車両の制御装置の実施形態について、図1〜図8を参照して説明する。図1を参照して、本実施形態の車両の制御装置10(以下、制御装置10という)は、車両1(自車両)に搭載して使用される。制御装置10は、車両1に搭載されたカメラ20の撮像画像から車両1の前方道路の状況を認識して、車両1の走行状態を制御する。
カメラ20は、車両1の前方をフロントウィンドウ越しに撮像するように、光軸を車両1の前後方向に合わせて車内に取り付けられており、カメラ20の取付部を原点として、車両1の左右方向(車幅方向)をX軸、上下方向(鉛直方向)をY軸、前後方向(進行方向)をZ軸とした実空間座標系が定義されている。
また、車両1には、スピーカ41及び表示器42が備えられており、制御装置10は、車両1の制御状況等を、スピーカ41からの音声出力と表示器42への表示により、運転者に報知する。
次に、図2を参照して、車両1には、速度センサ21、加速度センサ22、ヨーレートセンサ23、操舵装置30、及び制動装置31が備えられている。速度センサ21は車両1の速度の検出信号を出力し、加速度センサ22は車両1の加速度の検出信号を出力し、ヨーレートセンサ23は車両1のヨーレートの検出信号を出力する。
制御装置10は、CPU、メモリ等により構成された電子ユニットであり、カメラ20の映像信号及び各センサ21,22,23の検出信号が入力される。制御装置10は、これらの入力によって、車両1の走行状態を認識する。
また、制御装置10は、メモリに保持された車両1の制御用プログラムをCPUで実行することによって、撮像画像取得部11、横断歩道検出部12、車両傾度検出部13、及び傾度減少処理部14として機能し、操舵装置30と制動装置31の一方又は両方を作動させて、車両の走行状態を制御する。
次に、図3を参照して、制御装置10は、車両1が走行している道路50をカメラ20により撮像し、この撮像画像に基づいて、道路50に敷設された横断歩道60と、車線区分線(レーンマーク)72,73,74,…を検出する。そして、検出された横断歩道60と車線区分線72,73,74の情報に応じて、車両1の走行状態を制御する処理を行う。
以下、図4に示したフローチャートに従って、制御装置10による車両1の走行状態の制御処理について説明する。制御装置10は、所定の制御サイクル毎に図4のフローチャートによる処理を実行して、車両1の走行状態を制御する。
図4のSTEP1は撮像画像取得部11による処理である。撮像画像取得部11は、カメラ20から出力される映像信号をデジタル信号に変換し、カメラ20の撮像画像(グレースケール画像)として画像メモリに保持する。
続くSTEP2〜STEP4は、横断歩道検出部12による処理である。横断歩道検出部12は、STEP2で、カメラ20の撮像画像を2値化してエッジ抽出処理を行い、STEP3で、さらに射影変換を行う。
ここで、図5は、STEP2〜STEP3の処理を行ったときの画像例を示したものであり、上から順に、カメラ20の撮像画像(原画像)Im1、撮像画像Im1を所定の2値化閾値により2値化した2値画像に対して、エッジ抽出処理を行ったエッジ抽出画像Im2、及びIm2を車両1の上方を視点として射影変換した上方視画像Im3を示している。上方視画像Im3では、車両1の上方から見た座標系(垂直軸zの方向が、車両1の前後方向に相当する)での横断歩道の複数の白線のエッジ線81,82,83,84が抽出されている。
続くSTEP4で、横断歩道検出部12は、上方視画像に横断歩道の画像部分が含まれているか否かを判定する(横断歩道判定)。図5の上方視画像Im3の例では、複数の白線のエッジ線81,82,83,84について、平行度が第1所定範囲内であり、且つ、幅の均一度が第2所定範囲内であるときに、横断歩道検出部12は、エッジ線81,82,83,84が横断歩道の画像部分であると判定する。
そして、横断歩道検出部12により横断歩道の画像部分が検出されたときは、次のSTEP5からSTEP6に進む。一方、横断歩道検出部12により横断歩道が検出されなかったときには、STEP5からSTEP20に分岐し、制御装置10は、横断歩道の画像部分のエリアを考慮せずに、撮像画像から車線区分線を探索してSTEP10に進む。
STEP6は車両傾度検出部13による処理である。車両傾度検出部13は、図6(a)に示したように、上方視画像Im4における横断歩道の白線の画像部分82について、z軸に対する傾きθを算出する。ここで、z軸は車両1の前後方向に対応し、横断歩道の白線の画像部分82の長辺の方向は、横断歩道が敷設された道路の延伸方向に対応する。
そのため、図6(b)に示したように、図6(a)における傾きθは、実空間における道路50の延伸方向Eに対する車両1の傾きに等しくなる。そこで、車両傾度検出部13は、図6(a)に示したz軸に対する白線の画像部分82の傾きθを、道路の延伸方向に対する車両1の傾きとして検出する。
次のSTEP7〜STEP8及びSTEP30は、車線区分線の検出処理であり、制御装置10は、STEP7で、道路と車両1が平行になっているか否かを判断する。なお、STEP7での平行の判断は、道路と車両1の厳密な平行度を判断するものではなく、道路の延伸方向に対する車両1の傾きが所定角度以下であるときに、道路と車両1は平行であると判断する。なお、STEP20,STEP7〜8,STEP30により、車線区分線を検出する構成が、本発明の車線区分線検出部に相当する。
ここで、図7は、道路と車両1が平行になっているときの上方視画像の例を示しており、車線区分線の画像部分72a,73aが、横断歩道の画像部分80aにより分断されている。図7の場合に、横断歩道の画像部分80aを含む画像範囲から、車線区分線の画像部分を探索すると、横断歩道の画像部分の白線が車線区分線であると誤認識される可能性がある。そして、このような誤認識がなされると、図7の75aに示したように、車線区分線の方向が誤って検出されてしまう。
そこで、STEP7で、道路と車両が平行な場合は、STEP30に分岐し、制御装置10は、横断歩道の画像部分80aを含むエリアAR1(横断歩道エリア)を除いて、車線区分線を探索する。その際、制御装置10は、横断歩道の画像部分80aの手前の車線区分線72aに続く車線区分線73aを、横断歩道の画像部分80aの先に設定した探索エリアARS内で探索して、STEP10に進む。これにより、横断歩道の画像部分80aを車線区分線と誤認識することを防止しつつ、車線区分線の画像部分73aを効率良く探索することができる。
一方、STEP7で、道路と車両が平行でなかったときにはSTEP8に進む。ここで、図8は、道路と車両1が平行でないときの上方視画像の例を示しており、車線区分線の画像部分72b,73bが、横断歩道の画像部分80bにより分断されている。
図8の場合にも、横断歩道の画像部分80bを含む画像範囲から、車線区分線の画像部分を探索すると、図7の場合と同様に、横断歩道の画像部分80bの白線が車線区分線と誤認識される可能性がある。そして、このような誤認識がなされると、図8の75bに示したように、車線区分線の方向が誤って検出されてしまう。
そこで、制御装置10は、横断歩道の画像部分80bを含むエリアAR2(横断歩道エリア)を除いて、車線区分線を探索する。その際、制御装置10は、横断歩道の先が予想できないため、図7のARSのような探索エリアを設定せずに、車線区分線の画像部分を探索する。
続くSTEP9は、傾度減少処理部14による処理である。傾度減少処理部14は、傾度減少処理として、道路の延伸方向に対する車両1の傾きθ(図6(b)参照)を減少させる方向に、操舵装置30(図2参照)を作動させる処理を行う。
なお、制動装置31(図2参照)により、前輪間又は後輪間に回転速度差を生じさせることによって、道路の延伸方向に対する車両1の傾きθを減少させるようにしてもよい。この場合、2個の前輪及び後輪は、本発明の車幅方向の異なる位置に配置された一対の車輪に相当する。或いは、操舵装置30と制動装置31を共に作動させて、道路の延伸方向に対する車両1の傾きθを減少させるようにしてもよい。
次のSTEP10で、制御装置10は、上記STEP8又はSTEP30で探索した車線区分線に沿って、車両1が走行するように、操舵装置30を作動させる処理(レーンキープアシスト処理)を行い、STEP11に進んで1制御サイクルの処理を終了する。
なお、本実施の形態では、本発明の車両傾度減少処理として、操舵装置30又は制動装置31を作動させて、道路の延伸方向に対する車両1の傾きθを減少させる処理を行ったが、表示器42への表示又はスピーカ41からの警報によって、車両の延伸方向に対して車両1が傾いていることを運転者に認識させ、これにより運転者に傾きθを減少させる操作(ステアリング(図示しない)の操作等)を促すようにしてもよい。
また、本実施の形態において、制御装置10は、図4のSTEP8及びSTEP30で、車線区分線を検出し、STEP10でレーンキープアシスト処理を行ったが、車線区分線の検出とレーンキープアシスト処理を行わず、STEP9の傾度減少処理のみを行う場合にも、本発明の効果を得ることができる。
また、本実施形態では、本発明の車両の制御装置を4輪車両に搭載した例を示したが、道路の延伸方向に対する車両の傾きを操舵装置により減少させるときには、1個以上の車輪を有する車両であれば、本発明の適用が可能である。また、道路の延伸方向に対する車両の傾きを制動装置により減少させるときには、車幅方向の異なる位置に配置された少なくとも一対の車輪を有する車両であれば、本発明の適用が可能である。
1…車両、10…車両の制御装置、11…撮像画像取得部、12…横断歩道検出部、13…車両傾度検出部、14…傾度減少処理部、20…カメラ、30…操舵装置、31…制動装置。

Claims (6)

  1. 車両に搭載されたカメラによる該車両が走行中の道路の撮像画像から、該道路に敷設された横断歩道の画像部分を検出する横断歩道検出部と、
    前記撮像画像における前記車両の進行方向に対応する方向に対する前記横断歩道の画像部分の傾きに基づいて、前記道路の延伸方向に対する前記車両の傾きを検出する車両傾度検出部と、
    前記車両傾度検出部により検出された傾きを減少させるための傾度減少処理を実行する傾度減少処理部と
    を備えたことを特徴とする車両の制御装置。
  2. 請求項1に記載の車両の制御装置において、
    前記横断歩道検出部は、前記撮像画像から、複数の白線画像部分を含み、各白線画像部分に対応する実空間での各白線の平行度が第1所定範囲内であって、各白線の幅の均一度が第2所定範囲内であると想定される領域を探索することによって、横断歩道の画像部分を検出することを特徴とする車両の制御装置。
  3. 請求項1又は請求項2に記載の車両の制御装置において、
    前記横断歩道検出部は、前記撮像画像を前記車両の上方を視点として射影変換した上方視画像を用いて、横断歩道の画像部分を検出することを特徴とする車両の制御装置。
  4. 請求項1から請求項3のうちのいずれか1項に記載の車両の制御装置において、
    前記撮像画像に基づいて、前記道路に敷設された車線区分線を検出する車線区分線検出部を備え、
    該車線区分線検出部は、前記横断歩道検出部により横断歩道の画像部分が検出されたときに、前記撮像画像から、該横断歩道の画像部分を除外して車線区分線の画像部分を探索することによって、前記道路の車線区分線を検出することを特徴とする車両の制御装置。
  5. 請求項1から請求項4のうちいずれか1項に記載の車両の制御装置において、
    前記傾度減少処理部は、前記傾度減少処理として、前記道路の延伸方向に対する前記車両の傾きが減少するように、前記車両の操舵装置の操舵角を調整する処理を行うことを特徴とする車両の制御装置。
  6. 請求項1から請求項5のうちのいずれか1項に記載の車両の制御装置において、
    前記車両は、車幅方向の異なる位置に配置された一対の車輪を有し、
    前記傾度減少処理部は、前記傾度減少処理として、前記道路の延伸方向に対する前記車両の傾きが減少するように、前記一対の車輪間に回転速度差を生じさせる処理を行うことを特徴とする車両の制御装置。
JP2011225888A 2011-10-13 2011-10-13 車両の制御装置 Expired - Fee Related JP5469148B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011225888A JP5469148B2 (ja) 2011-10-13 2011-10-13 車両の制御装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011225888A JP5469148B2 (ja) 2011-10-13 2011-10-13 車両の制御装置

Publications (2)

Publication Number Publication Date
JP2013088856A true JP2013088856A (ja) 2013-05-13
JP5469148B2 JP5469148B2 (ja) 2014-04-09

Family

ID=48532751

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011225888A Expired - Fee Related JP5469148B2 (ja) 2011-10-13 2011-10-13 車両の制御装置

Country Status (1)

Country Link
JP (1) JP5469148B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11672724B2 (en) 2021-01-22 2023-06-13 Toyota Jidosha Kabushiki Kaisha Information processing device and information processing method
JP7444942B1 (ja) 2022-09-26 2024-03-06 株式会社デンソーテン 情報処理装置、情報処理方法およびプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006018688A (ja) * 2004-07-02 2006-01-19 Toyota Motor Corp 道路環境認識方法及び道路環境認識装置
JP2006208223A (ja) * 2005-01-28 2006-08-10 Aisin Aw Co Ltd 車両位置認識装置及び車両位置認識方法
JP2006349580A (ja) * 2005-06-17 2006-12-28 Denso Corp 走行状況判定装置及び車載ナビゲーション装置
JP2008164384A (ja) * 2006-12-27 2008-07-17 Aisin Aw Co Ltd 地物位置認識装置及び地物位置認識方法
JP2010107435A (ja) * 2008-10-31 2010-05-13 Hitachi Automotive Systems Ltd 地物位置認識装置
JP2010211701A (ja) * 2009-03-12 2010-09-24 Honda Motor Co Ltd 車線認識装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006018688A (ja) * 2004-07-02 2006-01-19 Toyota Motor Corp 道路環境認識方法及び道路環境認識装置
JP2006208223A (ja) * 2005-01-28 2006-08-10 Aisin Aw Co Ltd 車両位置認識装置及び車両位置認識方法
JP2006349580A (ja) * 2005-06-17 2006-12-28 Denso Corp 走行状況判定装置及び車載ナビゲーション装置
JP2008164384A (ja) * 2006-12-27 2008-07-17 Aisin Aw Co Ltd 地物位置認識装置及び地物位置認識方法
JP2010107435A (ja) * 2008-10-31 2010-05-13 Hitachi Automotive Systems Ltd 地物位置認識装置
JP2010211701A (ja) * 2009-03-12 2010-09-24 Honda Motor Co Ltd 車線認識装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11672724B2 (en) 2021-01-22 2023-06-13 Toyota Jidosha Kabushiki Kaisha Information processing device and information processing method
JP7444942B1 (ja) 2022-09-26 2024-03-06 株式会社デンソーテン 情報処理装置、情報処理方法およびプログラム

Also Published As

Publication number Publication date
JP5469148B2 (ja) 2014-04-09

Similar Documents

Publication Publication Date Title
JP5276637B2 (ja) 車線推定装置
JP6657789B2 (ja) 画像処理装置、撮像装置、機器制御システム、頻度分布画像生成方法、及びプログラム
JP6238905B2 (ja) 3dカメラを用いた車両周辺部の凹凸プロファイルの割り出し
JP6014440B2 (ja) 移動物体認識装置
US11024051B2 (en) Object detection device
JP2006175918A (ja) 駐車補助装置
JP5760884B2 (ja) 車両の旋回予測装置
JPWO2007074591A1 (ja) 車両及び車両の操舵制御装置
JP2005301603A (ja) 走行車線検出装置
JP2009132259A (ja) 車両周辺監視装置
JP6722400B2 (ja) 車両の運転支援装置
JP2009286279A (ja) 車両の運転支援装置
JP5716945B2 (ja) 車両制御装置
JP4913101B2 (ja) 車両用道路形状検出装置
JP2015202758A (ja) 運転支援装置
JP2013161202A (ja) 車両周辺監視装置
JP5974718B2 (ja) 車両走行支援装置及び車両走行支援方法
JP2010018162A (ja) 車両の衝突防止装置
JP5469148B2 (ja) 車両の制御装置
JP2015022698A (ja) 物体位置判定装置
JP4968369B2 (ja) 車載装置及び車両認識方法
JP6361347B2 (ja) 車両用表示装置
JP6295868B2 (ja) 車両用表示装置
JP6177632B2 (ja) 車両位置検出装置および車両後側方警報装置
JP2007328410A (ja) 情報提供装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130912

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130917

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131025

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140130

R150 Certificate of patent or registration of utility model

Ref document number: 5469148

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees