JP6507841B2 - 先行車両推定装置及びプログラム - Google Patents

先行車両推定装置及びプログラム Download PDF

Info

Publication number
JP6507841B2
JP6507841B2 JP2015102951A JP2015102951A JP6507841B2 JP 6507841 B2 JP6507841 B2 JP 6507841B2 JP 2015102951 A JP2015102951 A JP 2015102951A JP 2015102951 A JP2015102951 A JP 2015102951A JP 6507841 B2 JP6507841 B2 JP 6507841B2
Authority
JP
Japan
Prior art keywords
vehicle
traveling
lane
surrounding
travel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015102951A
Other languages
English (en)
Other versions
JP2016218737A (ja
Inventor
チュンジャオ グオ
チュンジャオ グオ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Central R&D Labs Inc
Original Assignee
Toyota Central R&D Labs Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Central R&D Labs Inc filed Critical Toyota Central R&D Labs Inc
Priority to JP2015102951A priority Critical patent/JP6507841B2/ja
Publication of JP2016218737A publication Critical patent/JP2016218737A/ja
Application granted granted Critical
Publication of JP6507841B2 publication Critical patent/JP6507841B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、先行車両推定装置及びプログラムに関する。
従来より、安全距離を維持するために自車両の前方車両を検出する追従走行装置が知られている(特許文献1)。
また、ナビゲータ地図に基づいて曲線道路における自車両の前方車両を検出する。車両はレーザスキャナによって検出される車両用先行車検出装置が知られている(特許文献2)。
また、白線と、その白線内の前方車両を検出し、先行車を基準にして自車両の横方向位置を判定する車両用走行制御装置が知られている(特許文献3)。
また、先行車が車車間通信によって判定される先行車両表示装置が知られている(特許文献4)。
また、環境地図に基づく自律走行のための経路計画を行う自律走行装置が知られている(特許文献5)。
また、非特許文献1では、交差点における比較的長期間の車両の運動を予測する方法が記載されている。
特開2008−150001号公報 特開2000−187800号公報 特開2013−180638号公報 特開2014−89510号公報 特開2014−10797号公報
Petrich, Dominik, Thao Dang, Dietmar Kasper, Gabi Breuel, and Christoph Stiller. "Map-based Long Term Motion Prediction for Vehicles in Traffic Environments." In International IEEE Conference on Intelligent Transportation Systems (ITSC), pp. 2166-2172. 2013.
上記の特許文献1に記載の技術では、自車両の前方の車のみを検出し、検出結果は安全距離維持のためだけに利用されるため、曲線道路ではうまく機能しない。
上記の特許文献2に記載の法で用いられているナビゲーション地図は走行車線情報を持っていない。これは曲線道路の場合にも役に立つが、複数車線または交差点などの場合には、先行車を正確に検出することができない。
上記の特許文献3に記載の技術では、白線検出によって自車線が判定されるが、小さな町や交差点などでは白線が見えにくかったり白線がなかったりする場合もある。
上記の特許文献4に記載の技術では、通信ベースでの先行車検出であるため、周辺の全車両にも特定の通信ユニットを必要とする。他の車に通信ユニットが装備されていない場合には機能しない。
上記の特許文献5に記載の技術では、地図は事前情報に過ぎず、変更されていることもある。その場合には経路計画は機能しない。
上記の非特許文献1に記載の技術では、移動予測に車線レベルの地図を利用するが、車への車線の割り当ては多くのセンサの融合に基づいており、走行軌跡履歴や整合性問題は考慮されない。したがって位置特定誤差が生じた場合には機能しなくなり易い。
本発明は、上記の事情を鑑みてなされたもので、レーンマークが不明瞭もしくは存在しない場合であっても、精度よく先行車両を推定することができる先行車両推定装置及びプログラムを提供することを目的とする。
上記目的を達成するために、本発明の先行車両推定装置は、自車両に搭載され、かつ、自車両の周辺を撮像して画像を生成する撮像手段によって生成された画像に基づいて、周辺車両を検出する車両検出手段と、自車両の位置を検出する位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡に基づいて、自車両が走行している走行車線を判定する自車走行車線判定手段と、前記車両検出手段によって検出された周辺車両の位置の時系列データが表す車両走行軌跡に基づいて、前記周辺車両が走行している走行車線を判定する周辺車両走行車線判定手段と、前記自車両の車両走行軌跡、前記周辺車両の車両走行軌跡、前記自車走行車線判定手段によって判定された走行車線、及び前記周辺車両走行車線判定手段によって判定された走行車線に基づいて、前記自車両が走行している走行車線と同じ走行車線を走行している前記周辺車両から、自車両の先行車両を推定する先行車両推定手段と、を含んで構成されている。
本発明に係るプログラムは、コンピュータを、自車両に搭載され、かつ、自車両の周辺を撮像して画像を生成する撮像手段によって生成された画像に基づいて、周辺車両を検出する車両検出手段、自車両の位置を検出する位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡に基づいて、自車両が走行している走行車線を判定する自車走行車線判定手段、前記車両検出手段によって検出された周辺車両の位置の時系列データが表す車両走行軌跡に基づいて、前記周辺車両が走行している走行車線を判定する周辺車両走行車線判定手段、及び前記自車両の車両走行軌跡、前記周辺車両の車両走行軌跡、前記自車走行車線判定手段によって判定された走行車線、及び前記周辺車両走行車線判定手段によって判定された走行車線に基づいて、前記自車両が走行している走行車線と同じ走行車線を走行している前記周辺車両から、自車両の先行車両を推定する先行車両推定手段として機能させるためのプログラムである。
本発明によれば、車両検出手段によって、自車両に搭載され、かつ、自車両の周辺を撮像して画像を生成する撮像手段によって生成された画像に基づいて、周辺車両を検出する。
そして、自車走行車線判定手段によって、自車両の位置を検出する位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡に基づいて、自車両が走行している走行車線を判定する。周辺車両走行車線判定手段によって、前記車両検出手段によって検出された周辺車両の位置の時系列データが表す車両走行軌跡に基づいて、前記周辺車両が走行している走行車線を判定する。
そして、先行車両推定手段によって、前記自車両の車両走行軌跡、前記周辺車両の車両走行軌跡、前記自車走行車線判定手段によって判定された走行車線、及び前記周辺車両走行車線判定手段によって判定された走行車線に基づいて、前記自車両が走行している走行車線と同じ走行車線を走行している前記周辺車両から、自車両の先行車両を推定する。
このように、自車両が走行している走行車線と同じ走行車線を走行している周辺車両から、自車両の車両走行軌跡及び周辺車両の車両走行軌跡に基づいて、自車両の先行車両を推定することにより、レーンマークが不明瞭もしくは存在しない場合であっても、精度よく先行車両を推定することができる。
本発明に係る先行車両推定装置は、前記撮像手段によって生成された画像に基づいて、自車両が走行している走行路の物理的な境界を検出する物理境界検出手段と、前記物理境界検出手段によって検出された前記走行路の物理的な境界と、前記先行車両推定手段によって前記先行車両であると推定された周辺車両の車両走行軌跡とに基づいて、自車両の走行経路を計画する走行経路計画手段と、を更に含むことができる。これによって、自車両の安全な走行経路を計画することができる。
また、上記の先行車両推定装置は、前記先行車両推定手段によって前記先行車両であると推定された周辺車両の車両走行軌跡に基づいて、自車両の運転行動を決定する運転行動決定手段を更に含み、前記走行経路計画手段は、前記物理境界検出手段によって検出された前記走行路の物理的な境界と、前記先行車両推定手段によって前記先行車両であると推定された周辺車両の車両走行軌跡と、前記運転行動決定手段によって決定された自車両の運転行動とに基づいて、自車両の走行経路を計画することができる。これによって、自車両のより安全な走行経路を計画することができる。
本発明に係る自車走行車線判定手段は、車線の位置及び車線間の接続関係を含む予め求められた車線情報と、前記位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡とに基づいて、自車両が走行している走行車線を判定し、前記周辺車両走行車線判定手段は、前記車線情報と、前記車両検出手段によって検出された周辺車両の位置の時系列データが表す車両走行軌跡とに基づいて、前記周辺車両が走行している走行車線を判定することができる。
本発明に係る先行車両推定装置は、前記車両検出手段によって検出された前記周辺車両を追跡する追跡手段を更に含み、前記周辺車両走行車線判定手段は、車線の位置及び車線間の接続関係を含む予め求められた車線情報と、前記追跡手段によって追跡された前記周辺車両の追跡結果から得られる前記周辺車両の位置の時系列データが表す車両走行軌跡とに基づいて、前記周辺車両が走行している走行車線を判定することができる。
なお、本発明のプログラムを記憶する記憶媒体は、特に限定されず、ハードディスクであってもよいし、ROMであってもよい。また、CD−ROMやDVDディスク、光磁気ディスクやICカードであってもよい。更にまた、該プログラムを、ネットワークに接続されたサーバ等からダウンロードするようにしてもよい。
以上説明したように、本発明の先行車両推定装置及びプログラムによれば、自車両が走行している走行車線と同じ走行車線を走行している周辺車両から、自車両の車両走行軌跡及び周辺車両の車両走行軌跡に基づいて、自車両の先行車両を推定することにより、レーンマークが不明瞭もしくは存在しない場合であっても、精度よく先行車両を推定することができる、という効果が得られる。
先行車両候補が検出された様子を示す図である。 (A)車線情報を含む局所地図の例を示す図、及び(B)局所地図の一部の拡大図である。 本発明の実施の形態に係る運転支援制御装置を示すブロック図である。 車線の割当方法を説明するための図である。 (A)現時点での位置のみを考慮した車線の割当方法を説明するための図、(B)現時点の位置と速度の両方を考慮した車線の割当方法を説明するための図、及び(C)本実施の形態の手法を説明するための図である。 車線の割当方法による割当結果を示す図である。 本発明の実施の形態に係る運転支援制御装置のコンピュータにおける先行車判定処理ルーチンの内容を示すフローチャートである。 交差点を通過するときにおける追従先行車両の推定結果を示す図である。 交差点を通過するときにおける追従先行車両の推定結果を示す図である。 従来法での先行車両の検出結果を示す図である。
以下、図面を参照して本発明の実施の形態を詳細に説明する。なお、本実施の形態では、車線維持制御を行う際の自車走行経路を生成して運転支援部に出力する運転支援制御装置に、本発明を適用した場合を例に説明する。
<本実施の形態の概要>
従来の方法では、先行車を検出して判断し、その時の観測と短期間予測に基づいて走行経路を計画する。これに対し本実施の形態では、事前の情報及び制約として、道路網を示す車両の走行軌跡を利用する。したがって予測がより長期となり、かつ不確定性がはるかに小さくなる。これにより先行車の検出が、現時点のみならず長期にわたる過去の履歴と将来の見通しにおいても最適である。このように、車両走行軌跡を用いることで、レーンマークなどの境界線が劣化もしくは存在しない道路においても、自車線内の追従先行車両を推定することができる。
また、追従先行車両の行動(軌跡情報)が高度の情報として提供され、自車両の運転行動(停止,追従,追い越し等)の決定及び安全な自車両走行経路の計画において用いられる。
具体的には、周辺車両の走行軌跡に基づいて自車線内の追従先行車両を推定し、推定された追従先行車両の走行軌跡を利用して、自車両の運転行動を決定し、現状での自車両の走行経路を計画する。
まず、車両の平均走行軌跡から得られる車線グラフと自車両の位置とルート情報とから、現時点でのナビゲーション地図内の車線情報が取得され、車線情報を含む局所地図が取得される。そして、検出された複数の先行車両候補が、拡張カルマンフィルタによって局所地図上に投影されて追跡される。次に、複数の車両の走行軌跡と複数の走行車線との間の規格化相互相関に基づく尤度の計測により、自車両を含む全車両が、車線情報が表す車線の何れかに割り当てられる。そして、時刻Tにおける先行車両候補と自車走行車線との距離のみでなく、自車両の走行軌跡と先行車両候補の走行軌跡との間の相似性を考慮して、追従先行車両の推定が行われる。
追従先行車両が推定されると、自車両の高度運転支援システム(ADAS:advanced driver assistance systems)で用いられる高度の情報として、追従先行車の走行軌跡が利用され、現状の道路状況の中を走行するための、実時間での運転行動の決定と自車走行経路の計画が行われる。
図10に示すように、従来法では路肩の車が先行車両として検出される。これはこの車両が、推定された自車線上に検出される直近の車両であるためである。しかし、本実施の形態では、まず、図1に示すように、先行車両候補が検出され、そして、図2に示すように、ナビゲーション地図内に車線情報が取得され、車線情報を含む局所地図上で、先行車両候補の検出及び追跡が行われる。そうして、自車両、及び先行車両候補を、尤度計測により走行車線に割り当てる。この場合、破線で表示される自車線と、点線で表示される追従先行車両も取得される。その後、ナビゲーション地図内に点線で示される追従先行車両の走行軌跡により、追従先行車両がトラックを追い越したことが示される。従って、自車両もまたトラックを追い越すことが運転行動として決定される。さらに、図1、2の一点鎖線で示される、追越し経路としての自車走行経路も、追従先行車両の走行軌跡に基づいて計画される。
<システム構成>
図3に示すように、本発明の実施の形態に係る運転支援制御装置10は、GPS衛星からの電波を受信するGPS受信部12と、自車両の前方を撮像して、ステレオ画像を生成する撮像装置14と、GPS受信部12によって受信されたGPS衛星からの受信信号、及び撮像装置14によって撮像されたステレオ画像に基づいて、追従先行車両を推定すると共に、自車両の走行経路を計画して、運転支援部18に出力するコンピュータ16と、を備えている。
運転支援部18は、計画された自車両の走行経路に基づいて、例えば、自車両の車線維持制御を行う。
GPS受信部12は、各時刻について、複数のGPS衛星からの電波を受信して、受信した全てのGPS衛星からの受信信号を、コンピュータ16へ出力する。
撮像装置14は、各時刻について、自車両の前方を繰り返し撮像して、ステレオ画像を繰り返し生成し、コンピュータ16へ出力する。
コンピュータ16を機能ブロックで表すと、上記図3に示すように、GPS受信部12から、電波を受信した全てのGPS衛星について、GPS衛星の情報を取得して、各時刻における自車両の絶対位置を算出する位置検出部20と、位置検出部20によって算出された自車両の絶対位置の時系列データを、車両走行軌跡として生成する車両走行軌跡生成部22と、複数の車両について過去に生成された車両走行軌跡、及び車両走行軌跡から生成された車線グラフを記憶する軌跡データベース24と、ナビゲーション地図を記憶する地図データベース26と、ナビゲーション地図から、位置検出部20によって検出された自車両の絶対位置に対応する局所地図であって、車線グラフの情報を含む局所地図を生成する車線グラフ取得部28と、ナビゲーションシステム(図示省略)から、自車両のルート情報を取得する走行経路取得部30と、自車両の車両走行軌跡及びルート情報に基づいて、局所地図に含まれるいずれかの車線を、自車走行車線として推定する自車走行車線推定部32と、撮像装置14によって生成されたステレオ画像から、自車両の走行路の物理的な境界を検出する物理境界検出部34と、撮像装置14によって生成されたステレオ画像から、先行車両候補を検出する車両検出部36と、車両検出部36によって検出された先行車両候補を追跡する車両追跡部38と、先行車両候補の追跡結果から得られる車両走行軌跡に基づいて、局所地図に含まれるいずれかの車線を、先行車両候補の走行車線として割り当てる車線割当部40と、自車両の車両走行軌跡、自車走行車線、先行車両候補の車両走行軌跡、及び走行車線に基づいて、先行車両候補の何れかを追従先行車両として判定する先行車判定部42と、追従先行車両の車両走行軌跡に基づいて、自車両の運転行動を決定する行動決定部44と、追従先行車両の車両走行軌跡、自車両の運転行動、及び走行路の物理的な境界に基づいて、自車両の走行経路を計画する経路計画部46とを備えている。なお、自車走行車線推定部32及び車線割当部40は、それぞれ自車走行車線判定手段及び周辺車両走行車線判定手段の一例である。先行車判定部42は、先行車両推定手段の一例である。
位置検出部20は、GPS受信部12から、電波を受信した全てのGPS衛星について、GPS衛星の情報を取得し、取得したGPS情報に基づいて、自車両の絶対位置を算出する。本実施の形態では、自車両の絶対位置は、GPS衛星の情報とINS(Inertial Navigation System)センサ(図示省略)によって得られた情報とを用いて、特許文献3(特開2013−130480号公報参照)に記載の測位システムと同様の手法により算出される。特許文献3に記載の測位システムの手法では、GPSおよびINS(Inertial Navigation System)センサを使用するので、自車両の絶対位置は、誤差を有している。概して、絶対位置誤差は、1mから3mに及ぶ。INSセンサとしては、例えば、加速度センサ、地磁気センサ、ジャイロセンサ等を用いればよい。
車両走行軌跡生成部22は、特許文献3に記載の測位システムと同様の手法により、位置検出部20によって算出された自車両の絶対位置の時系列データを収集し、車両走行軌跡を生成する。
軌跡データベース24には、複数の車両の各々について走行中に収集された車両走行軌跡が予め格納されている。例えば、複数の車両の各々において、位置検出部20及び車両走行軌跡生成部22と同様に、車両の絶対値を検出し、車両走行軌跡を生成し、複数の車両の車両走行軌跡を収集すればよい。
また、軌跡データベース24には、複数の車両の各々について生成された車両走行軌跡から予め生成された車線グラフが格納されている。例えば、同一走行車線に属する複数の走行軌跡を平均化して、対応する走行車線として車線グラフに登録する。これにより、位置とトポロジーを含む車線情報を示す車線グラフが生成される。なお、本発明者らによって開発された、複数車両の走行軌跡から車線グラフを生成する方法も用いてもよい(非特許文献(Guo, Chunzhao, Jun-ichi Meguro, Yoshiko Kojima, and Takashi Naito. "Automatic lane-level map generation for advanced driver assistance systems using low-cost sensors." In Robotics and Automation (ICRA), 2014 IEEE International Conference on, pp. 3975-3982. IEEE, 2014.)を参照。)
地図データベース26には、道路ネットワーク情報を表すナビゲーション地図が格納されている。
車線グラフ取得部28は、位置検出部20から車両位置が与えられると、一定の大きさ(例えば、30m×100m)のナビゲーション地図が画定され、画定された領域内の車線情報を、車線グラフから抽出し、画定された領域内の車線情報を含む局所地図を生成する(上記図2(A)参照)。
走行経路取得部30は、ナビゲーションシステム(図示省略)から、設定された目的地までのルート情報を取得する。
次に、車両を走行車線に割り当てる原理について説明する。車両を走行車線に割り当てることは、状況認識と運動予測に関してきわめて重要である。従来法では、ユークリッド距離またはマハラノビス距離を計測して、その車両に最も近い走行車線を割り当てる。ただし、車両検出位置の特定誤差によって、特に複数車線の道路や交差点においては、誤って割り当てられる。さらに、古いデジタル地図では車線割り当てを間違えやすい。したがってこのような方法は通常、高精度のGPSと既定コースの最新のデジタル地図を必要とする。これに対し、本実施の形態の手法では、車線グラフの構築に安価なセンサを利用する。これは多くのサーチ車両を確保することができ、アクセス可能な領域をより広範囲かつより高速にカバーし、かつ最新情報を提供することができる。
自車両の位置決めと車両検出による潜在的な誤差に対処するために、本実施の形態の方法では、車線割り当てのスコア付け過程において、車両の現時点における位置のみではなく、過去における走行軌跡も考慮する。
より具体的には、割当対象の車両に関し、近隣の車線の各々を、走行車線候補として、当該車両の走行軌跡と当該走行車線候補との間に対する以下の式に示すスコア関数を計算する。
ここで
は、車両の走行軌跡と走行車線候補との間の類似度を表し、規格化相互相関法(NCC)を利用して次のように計算される。
ここでtcは現在の時間であり、Δtは時間間隔であって、その車両の後方にある走行軌跡の区間を定義する(図4の点線の枠を参照)。
はその区間にある車両位置を表し、
は走行車線候補内の直近点である。
はそれぞれ、その区間内の車両の平均位置と走行車線候補の平均位置である。なお、オンラインでの白線認識も行い、白線認識の情報を車線内の自車両位置の特定に利用することが好ましい。
は車両走行軌跡と走行車線候補との間の全体距離を表し、次のように計算される。
ここでλは重み付けパラメータであり、σは分散である。割当対象の車両は、最大スコアの走行車線候補に割り当てられる。
本実施の形態の走行軌跡を考慮した車線割り当て手法は、検出位置の誤差や複数走行車線、不規則運転行動によりもたらされる問題を克服できる。例えば、図5は、駐車中の車両(実線斜線)、追い越し中の車両(破線斜線)、通常走行中の車両(ドット)、自車両(白抜き)がいる2車線道路を示している。現時点での位置のみを考慮した方法(図5(A)参照)、現時点の位置と速度の両方を考慮した方法(図5(B)参照)、および本実施の形態の手法(図5(C)参照)を含む別々の方法による走行車線の割り当て法の比較を図6に示す。図6からわかるように本実施の形態の方法では、複雑な状況において、安定かつ合理的な車線割り当てを行うことができる。
本実施の形態では、自車走行車線推定部32は、自車両に関し、車線グラフ取得部28によって生成された局所地図に含まれる近隣の車線の各々を、走行車線候補として、車両走行軌跡生成部22によって生成された自車両の走行軌跡と当該走行車線候補との間に対する、上記(5)式に示すスコア関数を計算し、最大スコアの走行車線候補を、自車走行車線として推定する。
物理境界検出部34は、撮像装置14によって生成されたステレオ画像から、自車両の走行路の物理的な境界を検出する。物理的な境界の検出方法としては、従来既知の手法を用いればよいため、説明を省略する。例えば、非特許文献(Guo, Chunzhao, Junichi Meguro, Yoshiko Kojima, and Takashi Naito. "CADAS: A multimodal advanced driver assistance system for normal urban streets based on road context understanding." In Intelligent Vehicles Symposium (IV), 2013 IEEE, pp. 228-235. IEEE, 2013.)に記載の手法を用いればよい。
車両検出部36は、撮像装置14によって撮像されたステレオ画像に基づいて、前方に存在する先行車両候補を検出する。車両の検出に、例えば、本発明者らが提案した参考文献(K.Goto, K. Kidono, Y. Kimura and T. Naito, "Pedestrian Detection and Direction Estimation by Cascade Detector with Multi-Classifiers Utilizing Feature Interaction Descriptor", in proc. of 2011 IEEE Intelligent Vehicles Symposium (IV), pp. 224-229, 2011)を適用することができる。これは、特徴相関記述子(FIND)を利用する複数の分類器をカスケード組合せしたものである。
車両追跡部38は、車両検出部36によって検出された先行車両候補の各々について、車両検出部36によって検出された各時刻の当該先行車両候補の位置に基づいて、当該先行車両候補を追跡し、当該先行車両候補の走行履歴を出力する。
例えば、車両の動特性を推定するために、局所地図内の2次元位置(u,v)と速度(u,v)、および画像内の検出領域の境界ボックスの大きさ(w、h)とからなる状態を有する、拡張カルマンフィルタ(EKF)を利用して、各先行車両候補を個別に追跡する。すなわち、時刻tの先行車両候補iの状態Si tを、以下のように表す。
2次元車両位置(u,v)はディスパリティ(視差)マップから算出される。これはリアルタイムGPUの実装を利用したSGM(semi-global matching:セミグローバル整合)アルゴリズムに基づいて取得される。最初に、動的運動モデルによって運動予測が行われる。これは車両の過去および現在のモデル状態に基づいて算出される。また、車両は通常は走行車線に沿って運転されるので、車線割当部40によって走行車線が割り当てられると、この走行車線が運動予測時の移動方向を与えるものとして利用される。
車線割当部40は、車両検出部36によって検出された先行車両候補の各々について、車線グラフ取得部28によって生成された局所地図に含まれる近隣の車線の各々を、走行車線候補として、車両追跡部38によって得られた当該先行車両候補の走行軌跡と当該走行車線候補との間に対する、上記(5)式に示すスコア関数を計算し、最大スコアの走行車線候補を、当該先行車両候補の走行車線として割り当てる。
次に、追従先行車両を判定する原理について説明する。
先行車両候補に、走行車線が割り当てられると、車両の分類が行われる。具体的には、自車の走行車線に属する先行車両候補を検査して、該当すれば追従先行車両として判定する。追従先行車両は制御を目的とするものであるので、自車両の直前にある車というのではなく、走行軌跡が自車両と一致する自車走行車線内の先行車両候補が、追従先行車両として決定されるべきである。したがって、自車走行車線に属する各先行車両候補に対して、追従先行車両としての尤度スコアが、以下の式で算出される。
ここで
は先行車両候補と自車走行車線との間のスコアである。
は、自車両と先行車両候補との間のスコアであり、次式で定義される。
ここで、
は自車両の走行軌跡と先行車両候補の走行軌跡との間の類似性を表し、
は自車両の走行軌跡と先行車両候補の走行軌跡との間の全体距離を表している。すなわち、以下の式で表される。
ここで、ph tは、自車両の走行軌跡の区間(図5(B)の点線枠参照)内の位置を表し、pv c,tは先行車量候補の走行軌跡内の最近接点である。 ̄ph tと ̄pv c,tはそれぞれ、その区間における自車両の走行軌跡の平均位置と先行車量候補の走行軌跡の平均位置である。
これらの式からわかるように、走行軌跡が自車両と重複する先行車両候補のスコアが高くなる。したがって、すべての先行車両候補について尤度スコアを算出した後、最大スコアが閾値よりも大きければ、その最大スコアの先行車両候補が追従先行車両として決定される。そうでない場合には、自車両に対して決定される追従先行車両はない。
以上説明したように、本実施の形態では、先行車判定部42は、自車走行車線推定部32によって推定された自車走行車線、自車両の走行軌跡、車線割当部40によって先行車両候補の各々について割り当てられた車線、及び先行車両候補の各々の走行軌跡に基づいて、自車走行車線と同一の車線が割り当てられた先行車両候補のうち、上記(8)式に従って算出される尤度スコアが最大となり、かつ、尤度スコアが閾値以上となる先行車両候補を、追従先行車両として判定する。
行動決定部44は、先行車判定部42によって追従先行車両として判定された車両の走行軌跡に基づいて、自車両の運転行動として、定常走行、追い越し、車線変更、停止、ブレーキ作動、及び加速の何れかを決定する。例えば、機械学習を利用して、実データからの走行軌跡に基づいて、運転行動を決定するための学習モデルを学習しておき、学習モデルを利用して、追従先行車両の走行軌跡から、自車両の運転行動を決定する。
例えば、自車両の前方の自車走行車線に止まっている車両があって、それが駐車している車か(この場合にはその車を追い越さなければなりません)、交通渋滞の末尾の車か(この場合にはその車の後ろに停車して待たなければなりません)がわからないとする。ただし、もし追従先行車両が検出されて、追従先行車両がその車を追い越した場合には、それは駐車している車であることがわかり、自車両も駐車車両を追い越すように、運転行動が決定される。
経路計画部46は、先行車判定部42によって追従先行車両として判定された車両の走行軌跡と、行動決定部44によって決定された自車両の運転行動と、物理境界検出部34によって検出された走行路の物理的な境界とに基づいて、追従先行車両の走行軌跡を模倣するように、自車両の安全な走行経路と速度とを計画し、運転支援部18へ出力する。
例えば、追従先行車両の走行軌跡を利用して、追い越しプロセスの安全で適当な経路と速度を計画する。なお、追従先行車両によってこの経路が安全であることが確認されている。また、道路の状況は変わり得るので、経路計画には物理的な境界が必要である。要するに、自車両で検出された物理的な境界に基づいて、適当な速度領域での安全な走行経路を計画することができる。
<運転支援制御装置の作用>
次に、本実施の形態の作用について説明する。
運転支援制御装置10を搭載した車両が走行しているときであって、撮像装置14によって自車両の前方を撮像し、ステレオ画像を逐次生成すると共に、GPS受信部12によって、GPS衛星からの信号を逐次受信しているときに、運転支援制御装置10は、図7に示す先行車両判定処理ルーチンを実行する。
ステップ100において、GPS受信部12によって受信したGPS信号を取得する。
そして、ステップ102において、上記ステップ102で取得したGPS信号と、INSセンサ(図示省略)から出力されたINS情報とに基づいて、自車両の絶対位置を検出する。
次のステップ104では、ナビゲーションシステムから目的地までの自車両の走行経路を取得する。
ステップ106では、上記ステップ102で検出された自車両の絶対位置に基づいて、軌跡データベース24に記憶されている車線グラフから、自車両の絶対位置に対応する車線情報を取得すると共に、自車両の絶対位置に対応する地図情報を取得し、車線情報を含む局所地図を生成する。
そして、ステップ108では、撮像装置14によって生成されたステレオ画像を取得する。ステップ110では、GPS受信部12によって受信したGPS信号を取得する。
ステップ112では、上記ステップ108で取得したステレオ画像から、先行車両候補を検出する。ステップ114では、上記ステップ112での検出結果、及び前回のステップ114の追跡結果に基づいて、先行車両候補の各々を追跡する。
ステップ116では、上記ステップ110で取得したGPS信号と、INSセンサ(図示省略)から出力されたINS情報とに基づいて、自車両の絶対位置を検出する。
そして、ステップ118において、上記ステップ108で取得したステレオ画像から、走行路の物理的な境界を検出する。
ステップ120では、上記ステップ108〜ステップ118の処理を、一定期間経過するまで繰り返したか否かを判定する。一定期間経過するまで繰り返した場合には、ステップ112へ進み、一方、一定期間経過していない場合には、上記ステップ108へ戻る。
ステップ122では、上記ステップ116で検出された自車両の絶対位置に基づいて、自車両の走行軌跡を生成する。ステップ124では、上記ステップ114での各先行車両候補の追跡結果に基づいて、各先行車両候補の走行軌跡を生成する。
ステップ126では、上記ステップ106で得られた車線情報と、上記ステップ122で生成された自車両の走行軌跡とに基づいて、自車走行車線を推定する。
そして、ステップ130では、上記ステップ106で得られた車線情報と、上記ステップ124で生成された各先行車両候補の走行軌跡とに基づいて、各先行車両候補に対し、車線を割り当てる。
ステップ132では、上記ステップ122で生成された自車両の走行軌跡と、上記ステップ124で生成された各先行車両候補の走行軌跡と、上記ステップ126で推定された自車走行車線と、上記ステップ130で各先行車両候補に対して割り当てられた車線とに基づいて、追従先行車両を判定する。
そして、ステップ134では、上記ステップ132で追従先行車両と判定された先行車両候補の走行軌跡に基づいて、自車両の運転行動を決定する。
ステップ136では、上記ステップ132で追従先行車両と判定された先行車両候補の走行軌跡と、上記ステップ134で決定された自車両の運転行動と、上記ステップ118で検出された物理的な境界とに基づいて、自車両の走行経路を計画し、運転支援部18に出力して、上記ステップ100へ戻る。
上記の先行車判定処理ルーチンが繰り返し実行されることにより、逐次計画された自車両の走行経路が、運転支援部18へ出力され、運転支援部18により、計画された自車両の走行経路に基づく運転支援が行われる。
以上説明したように、本発明の実施の形態に係る運転支援制御装置によれば、自車両と先行車両候補との走行車線を判定し、自車両が走行している走行車線と同じ走行車線を走行している先行車両候補から、自車両の車両走行軌跡及び先行車両候補の車両走行軌跡に基づいて、自車両の追従先行車両を推定することにより、レーンマークが不明瞭もしくは存在しない場合であっても、精度よく追従先行車両を推定することができる。また、追従先行車両の車両走行軌跡及び走行路の物理的な境界に基づいて、自車両の安全な走行経路を計画することができる。
また、交差点において、従来法では、自車線を示す車線マークがないために、交差点における処理をすることができない。自車線が分かっている場合でも、従来の先行車推定法では車両とその時点における自車線との間の関係しか考慮しないので、うまく機能しない。これは、周囲の複数の車両が密接して異なる方向に運転されており、また、ある時点では、追従先行車両よりも他の車両が自車線により近くなるからである。これに対し、本実施の形態の手法では、現時点の情報に加えて車両の過去の走行軌跡も考慮するので、追従先行車両を正しく判定することができる。例えば、図8に示すように、交差点で自車両が右折するときにも、追従先行車両を精度よく判定することができる(斜線領域の車両を参照)。また、図9に示すように、追従先行車両が自車両と異なる方向で進行する場合には、追従先行車両を誤って判定し続けることを防止することができる。
また、従来の先行車検出では、アダプティブ・クルーズ・コントロール(ACC:adaptive cruise control)やプリクラッシュシステム(PCS:pre−crash system)のために自車両の直前の車を検出していたのに対し、本実施の形態では、走行経路、速度範囲、運転行動などを決定するのに自車両にとって最も有効な情報を提供可能な、自車線にある追従先行車両を推定する。したがって、本実施の形態で推定される追従先行車両は、後続車に対して、自車両の直前の車を追従するためのものではなく、自車両の運転に最もよく合致する高度な情報と、運転行動決定(車線維持、障害回避、車線変更など)と、状況理解(自車両の前方に停止している車が駐車しているのか交通渋滞の末尾の車であるのかを判断するなど)とを提供することができる。
また、従来のシステムでは、先行車と後続車の連携運転のために、車車間通信を利用している。ただし、周囲の車の中には車車間通信ユニットを持たないものもある。さらに、先行車から送信された走行軌跡はGPSから取得されるが、トンネルの中や高層ビルの多い場所などにおいて、GPS信号が取得できなかったり、精度が非常に低かったりすることがある。一方、本実施の形態では、追従先行車両の走行軌跡及び走行路の物理的な境界に基づいて、安定して、自車両の安全な走行経路を計画することができる。
また、追従先行車両は、現時点での位置関係によるだけではなく、過去における位置/走行軌跡などにも基づいて、決定される。したがって、より安定して正確に追従先行車両を推定することができる。また、周囲の車両も同一手法によって対応する走行車線に割り当てる。これにより、周囲車両の移動が理解でき、より長期の予測も可能となる。その一方で、追従先行車両の走行軌跡が自車両のより長期の走行軌跡の計画を支援することができる。この場合、ADASシステムは「早期検出、判断、決定」(先読み)をすることができる。
なお、上記の実施の形態では、軌跡データベース及び地図データベースが、自車両の運転支援制御装置内に設けられている場合を例に説明したが、これに限定されるものではなく、軌跡データベース及び地図データベースが、他の装置に設けられており、ネットワークを介して、当該他の装置の軌跡データベース及び地図データベースにアクセスするようにしてもよい。
10 運転支援制御装置
12 GPS受信部
14 撮像装置
16 コンピュータ
18 運転支援部
20 位置検出部
22 車両走行軌跡生成部
24 軌跡データベース
26 地図データベース
28 車線グラフ取得部
30 走行経路取得部
32 自車走行車線推定部
34 物理境界検出部
36 車両検出部
38 車両追跡部
40 車線割当部
42 先行車判定部
44 行動決定部
46 経路計画部

Claims (7)

  1. 自車両に搭載され、かつ、自車両の周辺を撮像して画像を生成する撮像手段によって生成された画像に基づいて、周辺車両を検出する車両検出手段と、
    自車両の位置を検出する位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡に基づいて、自車両が走行している走行車線を判定する自車走行車線判定手段と、
    前記車両検出手段によって検出された周辺車両の位置の時系列データが表す車両走行軌跡に基づいて、前記周辺車両が走行している走行車線を判定する周辺車両走行車線判定手段と、
    前記自車両の車両走行軌跡、前記周辺車両の車両走行軌跡、前記自車走行車線判定手段によって判定された走行車線、及び前記周辺車両走行車線判定手段によって判定された走行車線に基づいて、前記自車両が走行している走行車線と同じ走行車線を走行している前記周辺車両から、自車両の先行車両を推定する先行車両推定手段と、
    前記撮像手段によって生成された画像に基づいて、自車両が走行している走行路の物理的な境界を検出する物理境界検出手段と、
    前記物理境界検出手段によって検出された前記走行路の物理的な境界と、前記先行車両推定手段によって前記先行車両であると推定された周辺車両の車両走行軌跡とに基づいて、自車両の走行経路を計画する走行経路計画手段と、
    を含む先行車両推定装置。
  2. 前記先行車両推定手段によって前記先行車両であると推定された周辺車両の車両走行軌跡に基づいて、自車両の運転行動を決定する運転行動決定手段を更に含み、
    前記走行経路計画手段は、前記物理境界検出手段によって検出された前記走行路の物理的な境界と、前記先行車両推定手段によって前記先行車両であると推定された周辺車両の車両走行軌跡と、前記運転行動決定手段によって決定された自車両の運転行動とに基づいて、自車両の走行経路を計画する請求項記載の先行車両推定装置。
  3. 自車両に搭載され、かつ、自車両の周辺を撮像して画像を生成する撮像手段によって生成された画像に基づいて、周辺車両を検出する車両検出手段と、
    自車両の位置を検出する位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡に基づいて、自車両が走行している走行車線を判定する自車走行車線判定手段と、
    前記車両検出手段によって検出された周辺車両の位置の時系列データが表す車両走行軌跡に基づいて、前記周辺車両が走行している走行車線を判定する周辺車両走行車線判定手段と、
    前記自車両の車両走行軌跡、前記周辺車両の車両走行軌跡、前記自車走行車線判定手段によって判定された走行車線、及び前記周辺車両走行車線判定手段によって判定された走行車線に基づいて、前記自車両が走行している走行車線と同じ走行車線を走行している前記周辺車両から、自車両の先行車両を推定する先行車両推定手段と、
    を含み、
    前記自車走行車線判定手段は、車線の位置及び車線間の接続関係を含む予め求められた車線情報と、前記位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡とに基づいて、自車両が走行している走行車線を判定し、
    前記周辺車両走行車線判定手段は、前記車線情報と、前記車両検出手段によって検出された周辺車両の位置の時系列データが表す車両走行軌跡とに基づいて、前記周辺車両が走行している走行車線を判定する先行車両推定装置。
  4. 自車両に搭載され、かつ、自車両の周辺を撮像して画像を生成する撮像手段によって生成された画像に基づいて、周辺車両を検出する車両検出手段と、
    自車両の位置を検出する位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡に基づいて、自車両が走行している走行車線を判定する自車走行車線判定手段と、
    前記車両検出手段によって検出された前記周辺車両を追跡する追跡手段と、
    車線の位置及び車線間の接続関係を含む予め求められた車線情報と、前記追跡手段によって追跡された前記周辺車両の追跡結果から得られる前記周辺車両の位置の時系列データが表す車両走行軌跡に基づいて、前記周辺車両が走行している走行車線を判定する周辺車両走行車線判定手段と、
    前記自車両の車両走行軌跡、前記周辺車両の車両走行軌跡、前記自車走行車線判定手段によって判定された走行車線、及び前記周辺車両走行車線判定手段によって判定された走行車線に基づいて、前記自車両が走行している走行車線と同じ走行車線を走行している前記周辺車両から、自車両の先行車両を推定する先行車両推定手段と、
    を含む先行車両推定装置。
  5. コンピュータを、
    自車両に搭載され、かつ、自車両の周辺を撮像して画像を生成する撮像手段によって生成された画像に基づいて、周辺車両を検出する車両検出手段、
    自車両の位置を検出する位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡に基づいて、自車両が走行している走行車線を判定する自車走行車線判定手段、
    前記車両検出手段によって検出された周辺車両の位置の時系列データが表す車両走行軌跡に基づいて、前記周辺車両が走行している走行車線を判定する周辺車両走行車線判定手段
    前記自車両の車両走行軌跡、前記周辺車両の車両走行軌跡、前記自車走行車線判定手段によって判定された走行車線、及び前記周辺車両走行車線判定手段によって判定された走行車線に基づいて、前記自車両が走行している走行車線と同じ走行車線を走行している前記周辺車両から、自車両の先行車両を推定する先行車両推定手段
    前記撮像手段によって生成された画像に基づいて、自車両が走行している走行路の物理的な境界を検出する物理境界検出手段、及び
    前記物理境界検出手段によって検出された前記走行路の物理的な境界と、前記先行車両推定手段によって前記先行車両であると推定された周辺車両の車両走行軌跡とに基づいて、自車両の走行経路を計画する走行経路計画手段
    として機能させるためのプログラム。
  6. コンピュータを、
    自車両に搭載され、かつ、自車両の周辺を撮像して画像を生成する撮像手段によって生成された画像に基づいて、周辺車両を検出する車両検出手段、
    自車両の位置を検出する位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡に基づいて、自車両が走行している走行車線を判定する自車走行車線判定手段、
    前記車両検出手段によって検出された周辺車両の位置の時系列データが表す車両走行軌跡に基づいて、前記周辺車両が走行している走行車線を判定する周辺車両走行車線判定手段、及び
    前記自車両の車両走行軌跡、前記周辺車両の車両走行軌跡、前記自車走行車線判定手段によって判定された走行車線、及び前記周辺車両走行車線判定手段によって判定された走行車線に基づいて、前記自車両が走行している走行車線と同じ走行車線を走行している前記周辺車両から、自車両の先行車両を推定する先行車両推定手段
    として機能させるためのプログラムであって、
    前記自車走行車線判定手段は、車線の位置及び車線間の接続関係を含む予め求められた車線情報と、前記位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡とに基づいて、自車両が走行している走行車線を判定し、
    前記周辺車両走行車線判定手段は、前記車線情報と、前記車両検出手段によって検出された周辺車両の位置の時系列データが表す車両走行軌跡とに基づいて、前記周辺車両が走行している走行車線を判定するプログラム
  7. コンピュータを、
    自車両に搭載され、かつ、自車両の周辺を撮像して画像を生成する撮像手段によって生成された画像に基づいて、周辺車両を検出する車両検出手段、
    自車両の位置を検出する位置検出手段によって検出された自車両の位置の時系列データが表す車両走行軌跡に基づいて、自車両が走行している走行車線を判定する自車走行車線判定手段、
    前記車両検出手段によって検出された前記周辺車両を追跡する追跡手段、
    車線の位置及び車線間の接続関係を含む予め求められた車線情報と、前記追跡手段によって追跡された前記周辺車両の追跡結果から得られる前記周辺車両の位置の時系列データが表す車両走行軌跡に基づいて、前記周辺車両が走行している走行車線を判定する周辺車両走行車線判定手段、及び
    前記自車両の車両走行軌跡、前記周辺車両の車両走行軌跡、前記自車走行車線判定手段によって判定された走行車線、及び前記周辺車両走行車線判定手段によって判定された走行車線に基づいて、前記自車両が走行している走行車線と同じ走行車線を走行している前記周辺車両から、自車両の先行車両を推定する先行車両推定手段
    として機能させるためのプログラム。

JP2015102951A 2015-05-20 2015-05-20 先行車両推定装置及びプログラム Expired - Fee Related JP6507841B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015102951A JP6507841B2 (ja) 2015-05-20 2015-05-20 先行車両推定装置及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015102951A JP6507841B2 (ja) 2015-05-20 2015-05-20 先行車両推定装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2016218737A JP2016218737A (ja) 2016-12-22
JP6507841B2 true JP6507841B2 (ja) 2019-05-08

Family

ID=57581276

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015102951A Expired - Fee Related JP6507841B2 (ja) 2015-05-20 2015-05-20 先行車両推定装置及びプログラム

Country Status (1)

Country Link
JP (1) JP6507841B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018155894A (ja) * 2017-03-17 2018-10-04 パナソニックIpマネジメント株式会社 車両制御システム、データ処理装置、及び制御プログラム
JP6962469B2 (ja) * 2018-06-29 2021-11-05 日産自動車株式会社 走行支援方法および走行支援装置
CN111413957B (zh) * 2018-12-18 2021-11-02 北京航迹科技有限公司 用于确定自动驾驶中的驾驶动作的系统和方法
DE112020006618T5 (de) * 2020-01-27 2022-12-01 Mitsubishi Electric Corporation Vorausfahrendes-Fahrzeug-Bestimmungssystem und Vorausfahrendes-Fahrzeug-Bestimmungsverfahren
CN114407930B (zh) * 2022-02-11 2023-09-05 福思(杭州)智能科技有限公司 车辆轨迹预测方法、装置、电子设备及车辆

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3860061B2 (ja) * 2002-04-16 2006-12-20 富士重工業株式会社 車外監視装置、及び、この車外監視装置を備えた走行制御装置
JP4059033B2 (ja) * 2002-08-12 2008-03-12 日産自動車株式会社 走行経路生成装置
JP4832489B2 (ja) * 2008-09-25 2011-12-07 クラリオン株式会社 車線判定装置
JP2011098586A (ja) * 2009-11-04 2011-05-19 Mitsubishi Electric Corp 先行車選択装置及び先行車選択方法
DE102012202916A1 (de) * 2012-02-27 2013-08-29 Robert Bosch Gmbh Verfahren und Vorrichtung zum Betreiben eines Fahrzeugs

Also Published As

Publication number Publication date
JP2016218737A (ja) 2016-12-22

Similar Documents

Publication Publication Date Title
US10471955B2 (en) Stop sign and traffic light alert
CN111670468B (zh) 移动体行为预测装置以及移动体行为预测方法
CN108983781B (zh) 一种无人车目标搜索系统中的环境探测方法
JP6870604B2 (ja) 自己位置推定装置
CN110809790B (zh) 车辆用信息存储方法、车辆的行驶控制方法、以及车辆用信息存储装置
JP6747044B2 (ja) 走行経路生成装置、モデル学習装置、及びプログラム
JP6666075B2 (ja) 道路の車線識別子を決定する方法及び装置
CN104787045B (zh) 自动驾驶系统、计算机实现的自动驾驶的方法以及计算设备
JP7405451B2 (ja) センサを利用して獲得した空間情報を活用する車両、センサを利用して獲得した空間情報を活用するセンシング装置、及びサーバ
US20190072674A1 (en) Host vehicle position estimation device
JP6507841B2 (ja) 先行車両推定装置及びプログラム
JP6492469B2 (ja) 自車走行レーン推定装置及びプログラム
US20150321665A1 (en) Method and apparatus for predicting most probable path of vehicle travel and vehicle control loss preview
RU2742213C1 (ru) Способ управления информацией о полосах движения, способ управления движением и устройство управления информацией о полосах движения
US11163308B2 (en) Method for creating a digital map for an automated vehicle
CN111176270A (zh) 使用动态地标的定位
EP4174440A1 (en) Environment-aware path planning for a self-driving vehicle using dynamic step-size search
CN112240767A (zh) 车辆定位识别
JP2016180797A (ja) 道路情報生成装置及びプログラム
JP7321035B2 (ja) 物体位置検出方法及び物体位置検出装置
US20210048819A1 (en) Apparatus and method for determining junction
Ulbrich et al. Extracting path graphs from vehicle trajectories
CN113762030A (zh) 数据处理方法、装置、计算机设备及存储介质
Chipka et al. Autonomous urban localization and navigation with limited information
EP4206606A1 (en) Hypothesis inference for vehicles

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181016

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181211

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190318

R150 Certificate of patent or registration of utility model

Ref document number: 6507841

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees