JP5154286B2 - 運行支援装置 - Google Patents

運行支援装置 Download PDF

Info

Publication number
JP5154286B2
JP5154286B2 JP2008099246A JP2008099246A JP5154286B2 JP 5154286 B2 JP5154286 B2 JP 5154286B2 JP 2008099246 A JP2008099246 A JP 2008099246A JP 2008099246 A JP2008099246 A JP 2008099246A JP 5154286 B2 JP5154286 B2 JP 5154286B2
Authority
JP
Japan
Prior art keywords
lane
vehicle
traveling
boundary line
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008099246A
Other languages
English (en)
Other versions
JP2009251944A (ja
Inventor
徹 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yazaki Energy System Corp
Original Assignee
Yazaki Energy System Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yazaki Energy System Corp filed Critical Yazaki Energy System Corp
Priority to JP2008099246A priority Critical patent/JP5154286B2/ja
Publication of JP2009251944A publication Critical patent/JP2009251944A/ja
Application granted granted Critical
Publication of JP5154286B2 publication Critical patent/JP5154286B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Time Recorders, Dirve Recorders, Access Control (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、運行支援装置に係り、道路の走行車線を区分する車線境界線を認識して車両がどの車線を走行しているかを判別する運行支援装置に関する。
車両の運転支援や安全技術のひとつとして、走行車線を認識し、その認識に応じて蛇行運転の発生を検知してドライバに注意を促したり、また、車線維持を支援したりする技術が導入されている。
そのような技術において適用される技術に、車線境界線として路面に設けられている白線を認識して自動車等の車両が走行する車線を認識する技術がある(例えば、特許文献1参照)。この技術では、認識した白線の種類(実線又は破線)によって車両が走行する車線が走行車線であるか追い越し車線レーンであるかを認識できる。また、認識した白線を基に、蛇行運転などの危険運転を判定する技術もある(例えば、特許文献2参照)。
特開2001−14595号公報 特開2000−276697号公報
ところで、例えば、トラックなどの貨物車両により運送業を営む事業者(運行管理者)は、適正な安全運行管理が求められ、車両に運行記録装置(又は走行記録装置)を搭載し、走行記録に基づき安全運行管理や輸送品質向上、省燃費の指導等を行っている。しかし、現在の運行記録装置に記録される内容には限りがあり、運行記録装置に記録されない項目についても上記の安全運行管理等を行いたいという要望があった。具体的には例えば、トラックなどにおいて適正な速度を維持しつつも、頻繁に追い越し車線を走行する場合、その走行状況は運行記録装置の記録に現れないが、実際問題として、ドライバに注意を促す必要があった。特に、重被牽引車を牽引するトラックなどの牽引自動車は、通行区分として原則一番左側車線に定められている。しかし、運行管理者側は、実際に走行している車線についてまでは把握できなかった。また、運行記録装置に映像を記録することで走行車線の把握は可能であるが、記憶容量の観点や実際の再生確認作業が長時間になる等の課題があった。
本発明は、このような状況に鑑みてなされたものであり、上記課題を解決して、車両がどの車線を走行しているかを認識して認識結果を走行状態とともに記録する技術を提供することを目的とする。
本発明のある態様は、運行支援装置に関する。この装置は、GPSのデータを基に、車両が走行している高速道路における位置を特定する走行位置特定手段と、走行中の車両前方の画像を取得し、前記画像を基に車線の境界線を判別する境界線判別手段と、前記車線の境界線の判別の結果を基に、前記車両が走行している車線の種類を判定する車線判定手段と、前記車両の走行状態を取得し、当該走行状態と前記車線の種類と前記高速道路の位置とを関連づけて運行データとして記録する運行記録手段と、を備え、前記車線判定手段は、前記車両が走行している車線の種類が第1の走行車線の場合に、前記車線の種類の前記運行記録手段への通知を行わない
また、前記境界線判別手段は、前記車両の速度が所定以下のときに、前記境界線の判別を行わなくてもよい。
また、前記境界線判別手段は、渋滞または車線規制が発生していると判断できる場合に、前記境界線の判別を行わなくてもよい。
前記運行記録手段は、前記車両が走行している車線の種類が前記第1の走行車線でない場合に、前記走行中の車両前方の画像も併せて記録してもよい。
本発明によれば、車両がどの車線を走行しているかを認識して認識結果を走行状態とともに記録する技術を提供することができる。
以下、発明を実施するための最良の形態(以下、「実施形態」という)を、図面を参照しつつ説明する。本実施形態の概要は、まず、高速道路において、車両がどの車線を走行しているか判定し、車両が搭載している運行記録機器にその判定内容と一般的に記録されている速度やアクセル操作、時刻等とともに記録する。また、その記録の時に、GPS(Global Positioning System)装置から取得した位置情報があわせて記録される。
図1は、本実施形態に係る運行支援装置10の概略構成を示す機能ブロック図である。この運行支援装置10は、車両に搭載されて、車両の走行状態を記録するとともに、その記録の際に、走行している車線の種類、例えば「走行車線」や「追い越し車線」等をあわせて記録する。
図示のように、運行支援装置10は、車線認識用カメラ40と、白線画像認識システム20と、運行記録機器50を備えている。
車線認識用カメラ40は、車両の前方を撮影するように設置されており、撮影した映像を白線画像認識システム20に出力する。
白線画像認識システム20は、認識システム制御部22と画像認識処理部24を備えている。認識システム制御部22は、白線画像認識システム20を統括的に制御するとともに白線画像認識システム20に接続されるGPS装置42やETC(Electronic Toll Collection System)車載器44、運行記録機器50との通信を制御する。認識システム制御部22や画像認識処理部24は、CPU(Central Processing Unit)などの演算装置、メモリ、メモリにロードされたプログラムなどによって実現され、ここではそれらの連携によって実現される構成を描いている。機能ブロックがハードウエアのみ、ソフトウエアのみ、またはそれらの組合せによっていろいろな形で実現できることは、当業者に理解されるところである。また、後述の運行記録機器50についても同様である。
また、認識システム制御部22は、車線認識用カメラ40の撮影した車両前方の映像を取得して、その映像を基に、道路の境界線を認識し、走行している車線の種類を判定する。道路の境界線とは、例えば、路側帯側に実線の白線で設けられている車道外側線、車線間に破線の白線で設けられている車線境界線、及び中央分離帯側に実線の白線で設けられている車道中央線などである。車線の認識技術については後述する。なお、車線の認識処理において車速等の車両の情報が必要な場合には、直接車両側からそれら情報を取得してもよいし、後述の運行記録機器50が備える車両情報取得部60から取得してもよい。
運行記録機器50は、主制御部51と、I/F部52と、HMI(Human Machine Interface)53と、メモリ54と、ROM55と、時計56と、カード挿入部57と、記録カメラ59と、車両情報取得部60とを備える。なお、記録カメラ59の代わりに、車線認識用カメラ40がその機能を代替する構成としてもよい。
主制御部51はCPU等の演算装置で構成され、ROM55に保存されているプログラムや記録されているデータや、I/F部52から取得したデータ及び制御信号などを基に、運行記録機器50の各機能を実現するための処理を行う。I/F部52から取得したデータは、メモリ54に一時的又は所定期間だけ記録される。
車両情報取得部60は、車両の走行状態やドライバの車両に対する操作等を取得する。より具体的には、車両情報取得部60は、速度センサ61と、回転数センサ62と、加速度センサ63と、ブレーキ操作取得部64と、ウィンカー操作部65とを備える。
速度センサ61は、車両が出力する車速パルスを取得して、車両の速度を算出する。回転数センサ62は、車両のエンジンの回転数(回転速度)の信号を車両から取得する。加速度センサ63は、車両に作用した衝撃等を重力加速度(G値)として検出する。ブレーキ操作取得部64はドライバのブレーキ操作を車両から取得し、また、ウィンカー操作部65は、ドライバの方向指示灯の操作を車両から取得する。なお、ここでは例示していないが、ライトの点灯状態や、ワイパー操作などが取得されてもよい。
カード挿入部57は、車両又はドライバの認証情報が記録されていたり、車両情報取得部60の各構成要素が検知した各センサの値やドライバの操作を記録するためのカード58を挿入する。
時計56は、タイマ機能や時刻特定機能を備えており、後述するように、この運行記録機器50が走行状態を記録するときの時刻を特定する。HMI53は、スピーカや、LEDやLCD等の出力装置である。I/F部52は、白線画像認識システム20やETC車載器44に接続されて、双方向の通信を行う。つまり、主制御部51により実行されているアプリケーションにより、I/F部52を介して白線画像認識システム20やGPS装置42と通信する。
つづいて、車線の認識手法について説明する。この認識手法は、背景技術で例示した特許文献1や特許文献2に開示の技術を用いる。したがって、ここでは概略のみを簡単に説明する。図2は、車線認識に使用される模式的な画像例、図2(a)は車両が左側の走行車線を走行している画像例を示した図であり、図2(b)は、画像認識により車線を特定した状態の図である。図2(a)に示すように、図中央から右側に向かって、第1の走行車線80、第2の走行車線82、追い越し車線84の3車線が含まれている。そして、車線を区分する境界線として、第1の走行車線80の左側(路肩側)の車道外側線91と、第1の走行車線80と第2の走行車線82の境界となる第1の車線境界線92と、第2の走行車線82と追い越し車線84の境界となる第2の車線境界線93と、さらに、追い越し車線84の右側の車道中央線94とが含まれて表示されている。そして、車道外側線91と車道中央線94は実線、第1及び第2の車線境界線92、93は破線となっている。
これらの図を基に、白線認識工程について説明する。一般に、高速道路を走行している際に撮像される画像では、白線部分には、(1)路面と比較して輝度が高い、(2)自車両近傍では白線は直線に近似できる、(3)白線の検出位置には連続性がある、という特徴がある。そこでまず、画像認識処理部24は、車線認識用カメラ40が撮影した画像中の白線と路面との境界、つまり白線のエッジ点の検出を行う。一般には、輝度の分布について、微分処理を行うことで、微分した値が大きくなる点を白線のエッジ候補とする。そして、画像認識処理部24は、図2(b)に示すように白線のエッジ候補点を最小自乗法を用いて直線近似し二つの直線95、96(太い点線で図示)を白線と認識する。そして、車両の左右両側に認識された白線を延長した二つの線95、96を結んだ位置をFOE(Focus Of Expansion)とする。なお、所定の時間間隔で撮影された連続する2枚の映像を基に、速度ベクトル(またはオプティカルフロー)が算出され、それに基づき画像内にFOEが特定されてもよい。なお、上記の白線のエッジを算出することで、実際に白線となっている領域(エッジに囲まれた領域)も求めることができる。そして、二つの近似直線により挟まれた領域が、車両が走行している車線(走行レーン)となる。
次に、画像認識処理部24は、白線と認識して直線近似した領域における、上記処理にて実際に白線となっていると認識された領域の実線とした場合の面積に対する比率を算出する。そして算出結果が所定比率以上の場合に、実線と認識し、所定比率未満のときには破線と認識する。
そして、画像認識処理部24は、図示のように、図示下側中央付近に相当する車両の右側からFOEに延びる直線95、96の種類によって、車両がどの車線を走行しているかを判定する。つまり、画像認識処理部24は、車両が第1の走行車線80、第2の走行車線82、追い越し車線84のどの車線を走行しているかを判定する。具体的には、左右の境界線がともに実線の場合は、車線は片側一車線(図示しない)であると認識され、左が実線で右が破線なら第1の走行車線80であると判定され、右が実線で左が破線であれば追い越し車線84であると判定され、左右とも破線であれば第2の走行車線82と判定される。
そして、画像認識処理部24により判定された車線の種類は、運行記録機器50に通知される。なお、画像認識処理部24は、認識結果が第2の走行車線82又は追い越し車線84のときのみ運行記録機器50に通知するようにしてもよい。運行記録機器50を車両に搭載する目的のひとつは安全運行管理であり、第1の走行車線80を走行している場合は、ドライバは法令に遵守し安全運転を行っていると推定できるので処理工程及び記録量を低減できる。
つぎに、上記構成及び車線認識方法による運行支援装置10の動作について図3のフローチャートを基に説明する。まず、ETC車載器44と高速道路入口のDSRC無線機との通信結果がETC車載器44から白線画像認識システム20の認識システム制御部22に通知され、その通知により認識システム制御部22は、車両が高速道路に入ったことを認識する(S10)。
つづいて、画像認識処理部24は、GPS装置42から高速道路における走行位置を検出するともに(S12)、進行している車線が上り車線又は下り車線のいずれかを検出する(S14)。
さらに、画像認識処理部24は、車線認識用カメラ40を制御して車両前方の映像の撮影を開始させ、撮影した映像を取得する(S16)。なお、この撮影開始は、車両の速度が所定以上、例えば、60km/h以上となったときに開始してもよい。車両が第2の走行車線82や追い越し車線84を走行するときは、一般には、比較的速度が上がったときと想定されるので、比較的速度が高くない場合は、このフローで示す車線認識の処理を行わないようにする。また、処理が行われている場合でも、所定速度以下、例えば、40km/h以下が所定時間、例えば、5分間続いたときに、渋滞や車線規制が発生した特徴とする判断して処理を停止してもよい。
そして、画像認識処理部24は、撮影した前方の画像を基に白線の候補を検出し(S18)、白線認識を行い(S20)、さらに、車両が走行している車線の種類を判定する白線認識処理を実行する(S22)。
まず、画像認識処理部24は、左右の境界線が両方とも実線であるか否かを確認し(S24)、左右の境界線とも実線であれば(S24のY)、片側一車線の道路を通行していると判定する(S26)。左右両方の境界線ともが実線でない場合(S24のN)、画像認識処理部24は、左の境界線が実線か否かを確認し(S28)、左の境界線が実線であれば(S28のY)、走行レーンは第1の走行車線80(第1通行帯)であると判定する(S30)。
左の境界線が実線でない場合(S28のN)、画像認識処理部24は右の境界線が実線であるかを確認する(S32)。右の境界線が実線であれば(S32のY)、走行レーンは追い越し車線84であると判定する(S34)。
右の境界線が実線でない場合(S32のN)、左右両方の境界線が破線であるので、画像認識処理部24は、走行レーンは第2の走行車線82であると判定する(S36)。
これにより車両が走行している車線の種類が判定され、画像認識処理部24は、認識システム制御部22の処理を介して上記の判定結果を運行記録機器50に通知する(S38)。このとき、認識システム制御部22は、GPS装置42が検知した位置情報を一緒に通知してもよい。
白線画像認識システム20から車線の種類の通知を受けた運行記録機器50の主制御部51は、車両情報取得部60が検知した車両の走行状態(速度や加速度、ブレーキ操作等)と、車線の種類と、時刻と、位置情報とを関連づけて、カード58に記憶する(S40)。そしてこの記録のときに、主制御部51は、白線画像認識システム20から受けた車線の種類が、第1の走行車線80以外のときに、車線認識用カメラ40又は記録カメラ59で撮影した車両前方の映像もあわせて記録してもよい。例えば、工事や作業等により第1の走行車線80が通行できないために仕方なしに第2の走行車線82や追い越し車線84を走行する場合もあるので、そのようなケースの確認のために撮影を行う。そして、S40のステップによる記録の処理が終了すると、S16のステップに戻り車線の認識の処理が継続する。なお、例えば、車両が高速道路を出たり、上述のように所定の条件(低速走行になったとき)になると、割り込み処理によりこのフローによる処理は終了する。
以上、本実施形態によると、車両が走行している車線の種類を判定でき、判定した車線の種類を、車両の走行状態及び位置情報とともに運行記録機器50に記録できる。これによって、走行車線の運転状況を時系列的に把握することができる。したがって、車両の運行管理者等は、車両のドライバに対してより適正な安全運転の指導を行える。また、運行記録として追加するデータは、車線の種類を示すもの(例えば、フラグ)だけであるので、データ容量が大幅に増加することがない。したがって、カード58として一般的な記録メディア(メモリカード)等を利用することができる。また、車両の速度だけでなく、車線の種類に応じて、ドライバに注意を促すことができ、一層の安全運転を促すことができる。また、追い越し車線を走行する比率が高い車両は、燃料消費が増加する傾向があるので、燃料消費効率の改善も行える。また、GPSと連動することで、上記の走行車線と追い越し車線の区別だけでなく、登坂車線についても区別することができる。
以上、本発明を実施形態を基に説明した。この実施形態は例示であり、それらの各構成要素及びその組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。例えば、道路の種類として、高速道路に限る趣旨ではなく、自動車専用道路や一般道路であってもよく、ナビゲーションシステムと連動して、指定可能であってもよい。また、VICS(Vehicle Information and Communication System)の渋滞情報や規制情報等を基に、所定の条件時に車線を認識する処理を中断してもよい。
実施形態に係る、運行支援装置の構成を模式的に示す機能ブロック図である。 実施形態に係る、車線(白線)認識に使用される高速道路の画像を模式的に示した図である。 実施形態に係る、運行支援装置の白線画像認識システムによる車線認識処理及び運行記録機器への記録処理を示すフローチャートである。
符号の説明
10 運行支援装置
20 白線画像認識システム
22 認識システム制御部
24 画像認識処理部
40 車線認識用カメラ
42 GPS装置
44 ETC車載器
50 運行記録機器
51 主制御部
52 I/F部
53 HMI
54 メモリ
55 ROM
56 時計
57 カード挿入部
58 カード
59 記録カメラ
60 車両情報取得部
61 速度センサ
62 回転数センサ
63 加速度センサ
64 ブレーキ操作取得部
65 ウィンカー操作部

Claims (4)

  1. GPSのデータを基に、車両が走行している高速道路における位置を特定する走行位置特定手段と、
    走行中の車両前方の画像を取得し、前記画像を基に車線の境界線を判別する境界線判別手段と、
    前記車線の境界線の判別の結果を基に、前記車両が走行している車線の種類を判定する車線判定手段と、
    前記車両の走行状態を取得し、当該走行状態と前記車線の種類と前記高速道路の位置とを関連づけて運行データとして記録する運行記録手段と、
    を備え
    前記車線判定手段は、前記車両が走行している車線の種類が第1の走行車線の場合に、前記車線の種類の前記運行記録手段への通知を行わないことを特徴とする運行支援装置。
  2. 前記境界線判別手段は、前記車両の速度が所定以下のときに、前記境界線の判別を行わないことを特徴とする請求項1に記載の運行支援装置。
  3. 前記境界線判別手段は、渋滞または車線規制が発生していると判断できる場合に、前記境界線の判別を行わないことを特徴とする請求項1に記載の運行支援装置。
  4. 前記運行記録手段は、前記車両が走行している車線の種類が前記第1の走行車線でない場合に、前記走行中の車両前方の画像も併せて記録することを特徴とする請求項1から3のいずれかに記載の運行支援装置。
JP2008099246A 2008-04-07 2008-04-07 運行支援装置 Expired - Fee Related JP5154286B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008099246A JP5154286B2 (ja) 2008-04-07 2008-04-07 運行支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008099246A JP5154286B2 (ja) 2008-04-07 2008-04-07 運行支援装置

Publications (2)

Publication Number Publication Date
JP2009251944A JP2009251944A (ja) 2009-10-29
JP5154286B2 true JP5154286B2 (ja) 2013-02-27

Family

ID=41312589

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008099246A Expired - Fee Related JP5154286B2 (ja) 2008-04-07 2008-04-07 運行支援装置

Country Status (1)

Country Link
JP (1) JP5154286B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7222799B2 (ja) * 2019-04-12 2023-02-15 株式会社デンソー 道路種別判定装置および運転支援装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4329088B2 (ja) * 1998-02-18 2009-09-09 株式会社エクォス・リサーチ 車両制御装置
JP2000276697A (ja) * 1999-01-18 2000-10-06 Yazaki Corp 車両用周辺監視装置
JP2001014595A (ja) * 1999-06-29 2001-01-19 Mitsubishi Motors Corp 車両用走行レーン検知装置
JP2002042288A (ja) * 2000-07-26 2002-02-08 Yazaki Corp 運行状態記録装置及びそれを利用した運行管理システム
JP2003002256A (ja) * 2001-06-22 2003-01-08 Matsushita Electric Ind Co Ltd 車両用ドライブレコーダ
JP2004302902A (ja) * 2003-03-31 2004-10-28 Fuji Photo Film Co Ltd 運転支援システム
JP4289241B2 (ja) * 2004-07-13 2009-07-01 株式会社デンソー 経路設定装置および車載用ナビゲーション装置
JP4608457B2 (ja) * 2006-04-20 2011-01-12 日立オートモティブシステムズ株式会社 交通法規遵守支援装置および交通法規遵守支援プログラム
JP2007328455A (ja) * 2006-06-06 2007-12-20 Yazaki Corp 運転の質評価装置および運転の質評価方法
JP2008064687A (ja) * 2006-09-08 2008-03-21 Toyota Motor Corp 走行情報案内装置
JP2008070943A (ja) * 2006-09-12 2008-03-27 Toyota Central R&D Labs Inc 車両状況記録装置及び運転支援システム

Also Published As

Publication number Publication date
JP2009251944A (ja) 2009-10-29

Similar Documents

Publication Publication Date Title
US9070293B2 (en) Device and method for traffic sign recognition
JP4792866B2 (ja) ナビゲーションシステム
JP4859760B2 (ja) カーナビゲーション装置、道路標識認識方法およびプログラム
CN102610125B (zh) 输出超车建议的机动车驾驶员辅助系统运行方法和机动车
JP6868122B2 (ja) 車両制御装置、それを有する車両、および制御方法
CN105599610A (zh) 标识信息显示系统及标识信息显示方法
JP2004326730A (ja) 高速道路自律走行システム及びその制御方法
US11042154B2 (en) Transportation equipment and traveling control method therefor
JP2020064402A (ja) 表示装置
US9988059B2 (en) Vehicle behavior detection device
WO2019216386A1 (ja) 車両制御装置および車両
JP2021157449A (ja) 車両及びその制御装置
CN102881185A (zh) 侧向车道检测交通指示系统
CN108305506B (zh) 驾驶支持装置
JP4891745B2 (ja) 退出検出装置
JP2007293390A (ja) 逆走警報装置
JP6351753B2 (ja) 車両制御装置
JP5272902B2 (ja) 車両走行支援装置および車両走行支援方法
CN110869992B (zh) 驾驶辅助车辆的左右转弯判断方法以及左右转弯判断装置
JP4985319B2 (ja) 走行支援装置
JP5218174B2 (ja) 車両制御装置及び車両制御システム
JP5154286B2 (ja) 運行支援装置
JP2008257635A (ja) 車両用警告装置
US11820282B2 (en) Notification apparatus, vehicle, notification method, and storage medium
JP4961311B2 (ja) 運転支援装置及び運転支援方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120718

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120731

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20120926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120927

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20120927

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20121005

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121205

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151214

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5154286

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees