JP2013130464A - レーン案内表示システム、方法およびプログラム - Google Patents

レーン案内表示システム、方法およびプログラム Download PDF

Info

Publication number
JP2013130464A
JP2013130464A JP2011279784A JP2011279784A JP2013130464A JP 2013130464 A JP2013130464 A JP 2013130464A JP 2011279784 A JP2011279784 A JP 2011279784A JP 2011279784 A JP2011279784 A JP 2011279784A JP 2013130464 A JP2013130464 A JP 2013130464A
Authority
JP
Japan
Prior art keywords
lane
image
guide
diagram
front image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011279784A
Other languages
English (en)
Other versions
JP5915155B2 (ja
Inventor
Masao Maura
雅夫 眞浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Original Assignee
Aisin AW Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd filed Critical Aisin AW Co Ltd
Priority to JP2011279784A priority Critical patent/JP5915155B2/ja
Publication of JP2013130464A publication Critical patent/JP2013130464A/ja
Application granted granted Critical
Publication of JP5915155B2 publication Critical patent/JP5915155B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instructional Devices (AREA)
  • Navigation (AREA)

Abstract

【課題】前方画像におけるレーンの像と当該レーンの案内とを関連づけて認識できる技術の提供。
【解決手段】車両の前方を撮影した前方画像を取得する前方画像取得手段と、前記車両から所定距離以上前方に存在する道路上のレーンである案内レーンを案内する案内レーン図を取得する案内レーン図取得手段と、前記前方画像に像が含まれる道路上のレーンである前方レーンと前記案内レーンとの接続関係に基づいて、前記前方レーンの像と前記案内レーン図とが前記前方画像において接続するように前記案内レーン図を重畳した前記前方画像を表示部に表示させる表示制御手段と、を備えるレーン案内表示システム。
【選択図】図2

Description

本発明は、前方画像においてレーンの案内を表示させるレーン案内表示システム、方法およびプログラムに関する。
従来、車両に備えられたカメラによって車両の前方を撮影した前方画像に対して、案内情報を示すイメージ図を重畳させる技術が知られている(特許文献1、参照。)。特許文献1において、前方画像における道路の像の上方において、走行予定の交差点での行き先案内を示すイメージ図を重畳させている。
特開2003−121167号公報
しかしながら、前方画像に重畳されたイメージ図を見ても、道路のレーンと行き先とを関連づけて認識することができず、所望の行き先に行くために走行すべきレーンを認識できないという問題があった。すなわち、イメージ図が示す行き先と、前方画像におけるレーンの像とを関連づけて認識できないという問題があった。
本発明は、前記課題にかんがみてなされたもので、前方画像におけるレーンの像と当該レーンの案内とを関連づけて認識できる技術の提供を目的とする。
前記の目的を達成するため、本発明において、前方画像取得手段は、車両の前方を撮影した前方画像を取得する。案内レーン図取得手段は、車両から所定距離以上前方に存在する道路上のレーンである案内レーンを案内する案内レーン図を取得する。表示制御手段は、前方画像に像が含まれる前方レーンと案内レーンとの接続関係に基づいて、前方レーンの像と案内レーン図とが前方画像において接続するように案内レーン図を前方画像に重畳し、当該案内レーン図が重畳された前方画像を表示部に表示させる。前記の構成において、表示制御手段は、前方レーンと案内レーンとの接続関係に基づいて、前方レーンの像と案内レーン図とを前方画像において接続する。従って、前方レーンの像と、当該前方レーンに接続する案内レーンについての案内とを前方画像において関連づけて認識することができる。
前方画像取得手段は、車両の前方を撮影した前方画像を取得すればよく、例えば車両の前方を視野に含むカメラから前方画像を取得すればよい。なお、車両の前方とは車両の走行方向の前方を意味する。
案内レーン図取得手段は、車両から所定距離以上前方に存在する道路上の案内レーンを案内する案内レーン図を取得すればよく、運転者に案内を要するレーンを案内レーンとすればよい。例えば、案内レーン図取得手段は、レーンが分岐するレーン分岐地点から所定距離以内のレーンを案内レーンとしてもよい。案内レーン図は、案内レーンについての案内内容を画像化した図であればよく、案内内容は特に限定されない。例えば、案内レーン図は、案内レーンの形状を案内してもよいし、案内レーンの行き先を案内してもよいし、案内レーン上の地物を案内してもよいし、案内レーンが車両を走行させるべき推奨レーンであるか否かを案内してもよいし、案内レーンについての交通情報や規制情報を案内してもよい。
表示制御手段は、前方画像に像が含まれる道路上のレーンを前方レーンと特定すればよく、前方画像を撮影するカメラの視野に基づいて前方レーンを特定してもよい。すなわち、表示制御手段は、前方画像を撮影するカメラの視野内に存在する道路および当該道路上のレーンを地図情報に基づいて特定し、当該特定したレーンを前方レーンとしてもよい。なお、前方画像を撮影するカメラの視野は、当該カメラを備える車両の現在位置に基づいて特定できる。また、前方レーンは、カメラの視野内に存在する道路上のレーンのうち、前方画像にて視認可能に像が含まれる道路上のレーンであってもよい。
表示制御手段は、地図情報に基づいて前方レーンと案内レーンとの接続関係を特定すればよい。前方レーンと案内レーンとが接続するとは、前方レーンに続いて案内レーンへと車両を走行させることが可能なことを意味する。ここで、前方レーンと案内レーンとの接続関係は、前方レーンと案内レーンとが車両の走行方向に接続する関係であってもよいし、前方レーンから案内レーンが分岐する関係であってもよい。また、表示制御手段は、前方レーンが複数存在する場合、複数の前方レーンの像のそれぞれに対して案内レーン図が接続するように、複数の案内レーン図を前方画像に重畳させてもよい。
前方レーンと案内レーンとが車両の走行方向に接続する場合、表示制御手段は、前方レーンの像と案内レーン図とが前方画像の縦方向に接続するように、案内レーン図を前方画像に重畳してもよい。ここで、レーンにおける車両の走行方向であるレーン方向の位置は、表示部に表示された前方画像における縦方向の位置に表れる。従って、前方レーンの像と案内レーン図とを前方画像の縦方向に接続することにより、運転者は前方レーンをレーン方向に走行すれば案内レーンに進入できることを感覚的に認識できる。
また、前方レーンと案内レーンとが車両の走行方向に接続する場合、表示制御手段は、前方画像における前方レーンの左右の区画線の像と、案内レーン図における案内レーンの左右の区画線の像とがそれぞれ前方画像の縦方向に接続するように、案内レーン図を前方画像に重畳してもよい。前方レーンと案内レーンとをそれぞれ区画する左右の区画線の像がそれぞれ前方画像において縦方向に接続すれば、運転者は前方レーンと案内レーンとがレーン方向に接続することを明確に認識でき、前方レーンの像と案内レーンについての案内とを前方画像において明確に関連づけて認識できる。
さらに、案内レーン図取得手段は、案内レーン図を含む所定サイズの案内画像を取得してもよい。そして、表示制御手段は、前方レーンと案内レーンとが車両の走行方向に接続する場合、前方画像における前方レーンの左右の区画線の像と、案内画像における案内レーンの左右の区画線の像とがそれぞれ前方画像の縦方向に接続するように、案内画像のサイズを変換し、当該サイズを変換した案内画像を前方画像に重畳してもよい。所定サイズの案内画像のサイズを変換することにより、前方レーンの像と案内レーン図とを前方画像の縦方向に接続することができる。さらに、前方レーンの左右の区画線の像と、案内レーンの左右の区画線の像との少なくとも一方が特定できなかった場合に、所定サイズの案内画像を所定位置に重畳した前方画像を表示部に表示させる。すなわち、区画線の像が接続するように案内画像を前方画像に重畳できない場合には、所定サイズの案内画像のサイズを変換することなく、そのまま前方画像に重畳する。これにより、区画線の像が接続できる場合と区画線の像が接続できない場合との双方において、所定サイズの案内画像を利用できる。案内レーン図取得手段は、前方画像の所定位置に重畳するのに好適な所定サイズの案内画像を取得しておけばよいため、区画線の像が接続できる場合と区画線の像が接続できない場合とのそれぞれについて個別に案内画像を生成したり、記録しなくても済む。なお、案内レーン図取得手段は、複数の前方レーンのそれぞれと接続する案内レーンについての案内レーン図を複数含む一枚の案内画像を取得してもよい。
さらに、案内レーンが前方レーンから分岐し、かつ、前方レーンに対して幅方向に隣接するレーンである場合、表示制御手段は、前方レーンの像と案内レーン図とが前方画像の横方向に隣接するように、案内レーン図を前方画像に重畳してもよい。ここで、レーンにおける幅方向の位置は、表示部に表示された前方画像における横方向の位置に表れる。従って、前方レーンの像と案内レーン図とが前方画像の横方向に隣接するようにすれば、案内レーンが前方レーンに対して幅方向に隣接するレーンであることが感覚的に認識できる。
さらに、本発明のように、前方画像に案内レーン図を重畳する手法は、プログラムや方法としても適用可能である。また、以上のようなレーン案内表示システム、プログラム、方法は、単独の装置として実現される場合もあれば、車両に備えられる各部と共有の部品を利用して実現される場合もあり、各種の態様を含むものである。すなわち、レーン案内表示システムを構成する各手段が複数の実体的な装置に分散して備えられてもよい。各手段が複数の実体的な装置に分散して備えられる場合に、各手段を機能させるために必要なデータを送受信する通信手段が備えられてもよい。さらに、以上のようなレーン案内表示システムの少なくとも一部を備えたナビゲーション装置や方法、プログラムを提供することが可能である。また、一部がソフトウェアであり一部がハードウェアであったりするなど、適宜、変更可能である。さらに、レーン案内表示システムを制御するプログラムの記録媒体としても発明は成立する。むろん、そのソフトウェアの記録媒体は、磁気記録媒体であってもよいし光磁気記録媒体であってもよいし、今後開発されるいかなる記録媒体においても全く同様に考えることができる。
ナビゲーション装置のブロック図である。 (2A)は道路の平面図、(2B)はレーン分岐図(案内レーン図)を示す図、(2C),(2D)は前方画像を示す図である。 レーン案内表示処理のフローチャートである。 (4A)は道路の平面図、(4B)は前方画像を示す図である。
ここでは、下記の順序に従って本発明の実施の形態について説明する。
(1)ナビゲーション装置の構成:
(2)レーン案内表示処理:
(3)他の実施形態:
(1)ナビゲーション装置の構成:
図1は、本発明の一実施形態にかかるレーン案内表示システムとしてのナビゲーション装置10の構成を示すブロック図である。ナビゲーション装置10は、車両Cに備えられている。ナビゲーション装置10は、制御部20と記録媒体30とを備えている。制御部20は、CPUとRAMとROM等を備え、記録媒体30やROMに記憶されたプログラムを実行する。記録媒体30は、地図情報30aを記録する。地図情報30aは、道路の端点(交差点)に対応して設定されたノードを示すノードデータと、ノード間の道路に関する情報を示すリンクデータと、ノード間の道路の形状を特定するための形状補間点データと、道路やその周辺に存在する地物を示すデータ等を含んでいる。リンクデータには、道路が含むレーンのレーン数と、道路における幅方向の一方(本実施形態では左側)から数えた各レーンのレーン番号と、レーンを道路の終点まで走行した場合に進入できる道路と、レーンを区画する区画線の線種(線形状,色等)とを示すレーン情報とが含まれる。
地図情報30aは、レーン分岐図DB(Database)30a1を含む。レーン分岐図DB30a1は、道路上のレーン分岐地点におけるレーンの平面視の形状を案内する案内画像としてのレーン分岐図がレーン分岐地点ごとに記録されたデータベースである。レーン分岐図DB30a1において、レーン分岐図にはレーン分岐地点の位置を示す位置情報が対応付けられている。レーン分岐図DB30a1において、各レーン分岐図はすべて同一の所定サイズとされており、当該所定サイズは後述する前方画像に重畳するのに適したサイズとされている。なお、レーン分岐地点は、レーンが分岐する地点であればよく、ノードに対応する地点であってもよいし、ノードに対応しないリンク内の地点であってもよい。
また、車両Cは、GPS受信部41と車速センサ42とジャイロセンサ43とカメラ44とユーザI/F部45とを備えている。GPS受信部41は、GPS衛星からの電波を受信し、図示しないインタフェースを介して車両Cの現在位置を算出するための信号を出力する。車速センサ42は、車両Cが備える車輪の回転速度に対応した信号を出力する。ジャイロセンサ43は、車両Cに作用する角加速度に対応した信号を出力する。カメラ44は、車両Cの前方の前方画像を撮影するイメージセンサである。
図2Aは、カメラ44が前方画像を撮影する様子を示す平面図である。カメラ44は車両Cの正面前方を中心とした視野を有し、車両Cの前方を俯瞰した前方画像を示す前方画像を撮影する。カメラ44が撮影した前方画像は、図示しないインタフェースを介して制御部20に出力される。本実施形態において、カメラ44は、車両Cの幅方向の中央位置に備えられたバックミラーの裏側に備えられている。ユーザI/F部45は、制御部20から出力された制御信号に基づいて各種案内を出力する出力装置を含む。本実施形態のユーザI/F部45の出力装置は、音声により案内を出力するスピーカと、画像により案内を表示する表示部としてのディスプレイとを含む。ディスプレイは、車両Cの運転者が視認できる方向に設置されており、ディスプレイに表示される画像の縦方向と横方向とがそれぞれ車両C内において鉛直方向と水平方向となるように設置されている。
制御部20は、レーン案内表示プログラム21を実行する。レーン案内表示プログラム21は、ナビゲーション部21aと前方画像取得部21bと案内レーン図取得部21cと表示制御部21dとを含む。
ナビゲーション部21aは、目的地までの走行予定経路を案内するために必要な各種機能を制御部20に実行させるモジュールである。ナビゲーション部21aの機能により制御部20は、GPS受信部41と車速センサ42とジャイロセンサ43の出力信号等に基づいて車両Cの現在位置を特定する。そして、ナビゲーション部21aの機能により制御部20は、地図情報30aのリンクデータを参照することにより、車両Cの現在位置が存在する道路を走行道路として特定する。また、ナビゲーション部21aの機能により制御部20は、地図情報30aを参照して、現在位置から目的地までの走行予定経路を公知の経路探索手法により探索する。本実施形態では走行予定経路が予め探索されていることとする。ナビゲーション部21aの機能により制御部20は、車両Cの現在位置に基づいて車両Cが現在走行している走行道路を特定し、さらに当該走行道路が含むレーンのうち車両Cが現在走行している走行レーンを特定する。また、ナビゲーション部21aの機能により制御部20は、走行道路が含むレーンのうち走行予定経路における目的地に到達するために走行すべきレーンを推奨レーンとして特定する。なお、ナビゲーション部21aの機能により制御部20は、走行予定経路を取得できればよく、外部のコンピュータにおいて探索された走行予定経路を通信により取得してもよい。
前方画像取得部21bは、車両Cの前方を撮影した前方画像を取得する機能を制御部20に実行させるモジュールである。すなわち、前方画像取得部21bの機能により制御部20は、カメラ44が撮影した前方画像データを所定の時間周期ごとに連続して取得する。
図2Cは、前方画像を示す図である。車両Cが水平に走行する場合、前方画像の横方向の位置は、カメラ44の視野における水平方向の位置に対応し、特にレーン上におけるレーンの幅方向の位置に対応する。一方、前方画像の縦方向の位置は、視野における鉛直方向の位置、および、カメラ44からの距離に依存する。従って、前方画像の縦方向の位置が高いほど、車両Cの走行方向の前方側における遠い位置を示す。
案内レーン図取得部21cは、車両Cから所定距離以上前方に存在する道路上のレーンである案内レーンを案内する案内レーン図を取得する機能を制御部20に実行させるモジュールである。具体的に、案内レーン図取得部21cの機能により制御部20は、図2Aに示すように車両Cの現在位置から所定距離D1以上前方にレーン分岐地点が存在する場合に、当該レーン分岐地点を基準とする所定範囲Rの平面視の形状を案内するレーン分岐図Iをレーン分岐図DB30a1から取得する。案内レーン図取得部21cの機能により制御部20は、矩形状の所定範囲R内に存在し、レーン分岐図Iに像が含まれるレーンを案内レーンとする。本実施形態において所定範囲Rは、分岐前の案内レーンのレーン方向における長さが所定距離D1の2倍とされており、当該レーン方向における所定範囲Rの中間の位置にレーン分岐地点が存在する。
図2Bは、レーン分岐図Iを示す。図2Bの場合、レーン分岐図Iは、2個の案内レーンの案内レーン図を含む案内画像である。レーン分岐図Iの左側の案内レーン図は、左側の案内レーンがレーン分岐地点において分岐しないレーン形状を有することを案内する案内レーン図である。一方、レーン分岐図Iの右側の案内レーン図は、右側の案内レーンがレーン分岐地点において直進方向の分岐レーンと右方向の分岐レーンとに分岐するレーン形状を有することを案内する案内レーン図である。なお、一般に地図情報30aにおいて、レーン分岐地点における分岐前のレーンと分岐後の分岐レーンとは別のレーンとされるが、レーン分岐地点における分岐前後のレーンは単一の案内レーンと見なすこととする。案内レーン図取得部21cの機能により制御部20は、レーン分岐地点に依存することなく一定の所定サイズ(横X,縦Y)のレーン分岐図Iを取得する。
表示制御部21dは、前方画像に像が含まれる道路上のレーンである前方レーンと案内レーンとの接続関係に基づいて、前方レーンの像と案内レーン図とが前方画像において接続するように案内レーン図を前方画像に重畳し、当該案内レーン図を重畳した前方画像をユーザI/F部45に表示させる機能を制御部20に実行させるモジュールである。すなわち、表示制御部21dの機能により制御部20は、前方画像に像が含まれる道路上のレーンである前方レーンを特定する。具体的に、表示制御部21dの機能により制御部20は、地図情報30aに基づいて、レーン方向において車両Cの現在位置と同一の位置に存在する走行道路上のレーンを前方レーンとして特定する。上述のように前方画像は車両Cに備えられたカメラ44によって撮影された画像である。従って、レーン方向において車両Cの現在位置と同一の位置に存在するレーンは、現在位置を撮影位置とするカメラ44の視野内に存在するレーンであり、前方画像において視認可能に像が含まれる前方レーンであると特定できる。
表示制御部21dの機能により制御部20は、前方レーンと案内レーンとがレーン方向に接続する場合、前方画像における前方レーンの左右の区画線の像BLと、レーン分岐図Iにおける案内レーンの左右の区画線の像とがそれぞれ前方画像の縦方向に接続するように、レーン分岐図Iのサイズを変換し、当該サイズを変換したレーン分岐図Iを前方画像に重畳する。本実施形態において、前方レーンと案内レーンとは所定範囲Rにおける車両C側の境界にてレーン方向に接続することとなる。表示制御部21dの機能により制御部20は、図2Cに示すように前方レーンの左右の区画線の像BLを認識し、当該認識した左右の区画線の像BLの前方画像の縦方向の所定位置Kにおける位置を前方レーンごとに特定する。さらに、表示制御部21dの機能により制御部20は、左右の区画線の像BLの位置に基づいて、前方レーンごとに所定位置Kにおける前方レーンの像の幅a,bを特定する。なお、表示制御部21dの機能により制御部20は、公知のハフ変換等の線認識手法により、前方画像からレーンの区画線の像BLを認識する。
表示制御部21dの機能により制御部20は、線認識手法を用いてレーン分岐図Iにて案内レーンの区画線の像を認識し、当該認識した区画線の像のレーン分岐図Iの下辺における位置を特定する。さらに、表示制御部21dの機能により制御部20は、レーン分岐図Iの下辺における案内レーンの左右の区画線の像の位置に基づいて、案内レーンごとにレーン分岐図Iの下辺における案内レーン図の幅A,Bを特定する。なお、レーン分岐図Iに予め案内レーンの区画線の像の位置情報が登録されていてもよく、表示制御部21dの機能により制御部20は、当該位置情報に基づいて案内レーンの左右の区画線の像のレーン分岐図Iの下辺における位置を特定してもよい。
表示制御部21dの機能により制御部20は、互いに接続する前方レーンと案内レーンとの各組について、レーン分岐図Iの下辺における案内レーン図の幅A,Bが、前方画像の所定位置Kにおける前方レーンの像の幅a,bと一致するように、レーン分岐図Iの横方向のサイズを変換する。図2Cの例では、レーン分岐図Iのうち左側の案内レーン図が描画された横方向の範囲についてはサイズの変換倍率をa/Aとし、右側の案内レーン(右側の案内レーンから分岐した分岐レーンも含む)の像が描画された横方向の範囲についてはサイズの変換倍率をb/Bとする。
表示制御部21dの機能により制御部20は、互いに接続する前方レーンと案内レーンとの各組について、前方画像の所定位置Kにおける前方レーンの左右それぞれの区画線の像BLの位置と、サイズを変換したレーン分岐図Iの下辺における案内レーンの左右それぞれの区画線の像の位置とが一致するように、サイズを変換したレーン分岐図Iの重畳位置を前方画像にて設定する。表示制御部21dの機能により制御部20は、前方画像における前記重畳位置にサイズを変換したレーン分岐図Iを重畳し、当該レーン分岐図Iを重畳した前方画像をユーザI/F部45に表示させる。
一方、表示制御部21dの機能により制御部20は、前方画像における前方レーンの左右の区画線の像BLと、レーン分岐図Iにおける案内レーンの左右の区画線の像との少なくとも一方が特定できなかった場合に、所定サイズのレーン分岐図Iを所定位置に重畳した前方画像をユーザI/F部45に表示させる。すなわち、表示制御部21dの機能により制御部20は、前方レーンの左右の区画線の像BLと、案内レーンの左右の区画線の像との少なくとも一方が特定できなかった場合に、図2Dに示すように前方画像において、レーン分岐図Iを重畳する領域として予め定められた領域に対して、サイズを変換することなくレーン分岐図Iを重畳する。本実施形態において前方画像においてレーン分岐図Iを重畳する領域として、前方画像に撮影されたレーンの像と重ならない領域が定められている。
前記の構成において、表示制御部21dの機能により制御部20は、前方画像に含まれる前方レーンの像と、当該前方レーンと接続する案内レーンについて案内する案内レーン図とが接続するように、案内レーン図を前方画像に重畳する。従って、案内レーンについて案内と、当該案内レーンが接続する前方レーンの像とを前方画像において関連づけて認識することができる。
また、前方レーンと案内レーンとが車両Cの走行方向に接続する場合、表示制御部21dの機能により制御部20は、前方画像における前方レーンの左右の区画線の像BLと、案内レーン図における案内レーンの左右の区画線の像とがそれぞれ前方画像の縦方向に接続するように、案内レーン図を前方画像に重畳する。これにより、前方レーンの像と案内レーン図とが前方画像の縦方向に接続するため、運転者は前方レーンをレーン方向に走行すれば案内レーンに進入できることを感覚的に認識できる。さらに、前方レーンの左右の区画線の像BLと、案内レーンの左右の区画線の像とがそれぞれ前方画像の縦方向に接続することにより、運転者は前方レーンと案内レーンとがレーン方向に接続することを明確に認識でき、前方レーンの像と案内レーンについての案内とを前方画像において明確に関連づけて認識できる。
さらに、前方画像における前方レーンの左右の区画線の像BLと、案内画像における案内レーンの左右の区画線の像との少なくとも一方が特定できなかった場合、表示制御部21dの機能により制御部20は、所定サイズのレーン分岐図Iを所定位置に重畳した前方画像をユーザI/F部45に表示させる。すなわち、区画線の像が接続するようにレーン分岐図Iを前方画像に重畳できない場合には、所定サイズのレーン分岐図Iのサイズを変換することなく、そのまま前方画像に重畳する。これにより、区画線の像が接続できる場合と区画線の像が接続できない場合との双方において、所定サイズのレーン分岐図Iを利用できる。案内レーン図取得部21cの機能により制御部20は、前方画像の所定位置に重畳するのに好適な所定サイズのレーン分岐図Iを取得しておけばよいため、区画線の像が接続できる場合と区画線の像が接続できない場合とのそれぞれについて個別にレーン分岐図Iを生成したり、記録しなくても済む。
(2)レーン案内表示処理:
次に、レーン案内表示プログラム21の機能により実行されるレーン案内表示処理を説明する。図3はレーン案内表示処理のフローチャートである。レーン案内表示処理は、前方画像取得部21bの機能により制御部20が所定の時間周期で前方画像を取得するごとに実行するループ処理である。前方画像取得部21bの機能により制御部20は、カメラ44にて撮影された前方画像を取得する(S100)。
次に、案内レーン図取得部21cの機能により制御部20は、レーン分岐図Iを取得する(S105)。すなわち、車両Cから所定距離D1以上前方においてレーン分岐地点が存在するか否かを判定し、レーン分岐地点が存在する場合には当該レーン分岐地点を含む所定範囲Rの平面図を示すレーン分岐図Iをレーン分岐図DB30a1から取得する。本実施形態において案内レーン図取得部21cの機能により制御部20は、車両C前方の距離が所定距離D1以上、かつ、所定距離D2(不図示)以内となる位置にレーン分岐地点が存在する場合に、レーン分岐図Iを取得する。すなわち、車両Cから所定距離D2よりも遠くにレーン分岐地点が存在する段階では、レーン分岐図Iを表示させない。これにより、レーン分岐図Iの表示期間が不必要に長くなることが防止できる。一方、車両Cから所定距離D1よりも近くにレーン分岐地点が存在する場合には、前方画像において運転者は十分にレーン分岐地点におけるレーンの形状を認識できるため、レーン分岐図Iを表示させない。
次に、表示制御部21dの機能により制御部20は、前方画像の縦方向の所定位置Kにおける前方レーンの区画線の像BLの位置を前方画像において特定する(S110)。まず、表示制御部21dの機能により制御部20は、地図情報30aに基づいて、レーン方向において車両Cの現在位置と同一の位置に存在する走行道路上のレーンを前方レーンとして特定する。そして、表示制御部21dの機能により制御部20は、線認識手法により前方レーンの区画線の像BLを前方画像にて認識し、当該認識した前方レーンの区画線の像BLと、前方画像における縦方向の所定位置Kに生成した横方向の直線(図2C,二点鎖線)との交点を特定する。すなわち、表示制御部21dの機能により制御部20は、前方画像において、前方レーンの左右の区画線のそれぞれについて区画線の像BLの位置の特定を試みる。また、複数の前方レーンが特定された場合、表示制御部21dの機能により制御部20は、前方画像において、複数の前方レーンのそれぞれについて左右それぞれの区画線の像BLの位置の特定を試みる。なお、表示制御部21dの機能により制御部20は、前方レーンの区画線のうち一部の区画線の像BLの位置が特定できた場合に、当該特定できた区画線の像BLの位置に基づいて、特定できなかった区画線の像BLの位置を類推してもよい。例えば、ある前方レーンについて左右の区画線の像BLの位置が特定できた場合、当該特定できた位置同士の間隔と一致する横方向の周期で、前方画像における縦方向の所定位置Kにおいて他の前方レーンの区画線の像BLが位置すると類推できる。同一の走行道路に含まれる複数の前方レーンの幅は互いに一致すると推定できるからである。
次に、表示制御部21dの機能により制御部20は、レーン分岐図Iの下辺における案内レーンの区画線の像の位置を特定する(S115)。すなわち、表示制御部21dの機能により制御部20は、線認識手法により案内レーンの区画線の像をレーン分岐図Iにて認識し、当該認識した案内レーンの区画線の像と、レーン分岐図Iの下辺との交点を特定する。すなわち、表示制御部21dの機能により制御部20は、地図情報30aを参照して、レーン分岐図Iに案内レーン図が含まれる案内レーンの左右の区画線のそれぞれについて、レーン分岐図Iにて区画線の像の位置の特定を試みる。また、表示制御部21dの機能により制御部20は、レーン分岐図Iに複数の案内レーンの案内レーン図が含まれる場合、複数の案内レーンのそれぞれについて左右それぞれの区画線の像の位置の特定をレーン分岐図Iにて試みる。
表示制御部21dの機能により制御部20は、前方レーンと案内レーンとのすべてについて左右それぞれの区画線の像の位置が特定できたか否かを判定する(S120)。なお、ステップS115において、特定できた区画線の像BLの位置に基づいて、特定できなかった区画線の像BLの位置を類推した場合、表示制御部21dの機能により制御部20は、当該類推した区画線の像BLについても位置が特定できたと見なす。前方レーンと案内レーンとのすべてについて左右それぞれの区画線の像の位置が特定できたと判定された場合、実空間において互いに接続する前方レーンの区画線と案内レーンの区画線との各組について、前方レーンの区画線の像BLと案内レーンの区画線の像とが接続するように、レーン分岐図Iを横方向にサイズを変換する(S130)。表示制御部21dの機能により制御部20は、レーン分岐図Iの下辺における案内レーン図の幅A,Bが、前方画像の縦方向の所定位置Kにおける前方レーンの像の幅a,bに一致するように、レーン分岐図Iが含む案内レーン図ごとに横方向のサイズの変換倍率a/A,b/Bを設定する。
次に、表示制御部21dの機能により制御部20は、レーン分岐図Iを縦方向にサイズを変換する(S135)。本実施形態において、表示制御部21dの機能により制御部20は、ステップS130における横方向のサイズを変換する前における所定サイズのレーン分岐図Iのアスペクト比(X:Y)を維持するように、横方向におけるサイズを変換したレーン分岐図Iを縦方向にサイズを変換する。これにより、前方レーンの像の幅に依存してレーン分岐図Iが極端に縦長または横長となることが防止できる。
さらに、表示制御部21dの機能により制御部20は、互いに対応する前方レーンの区画線の像BLと、案内レーンの区画線の像同士が接続するように、前方画像におけるレーン分岐図Iの重畳位置を設定する(S140)。すなわち、表示制御部21dの機能により制御部20は、互いに接続する前方レーンと案内レーンとの各組について、前方画像の所定位置Kにおける前方レーンの左右それぞれの区画線の像BLの位置と、サイズを変換したレーン分岐図Iの下辺における案内レーンの左右それぞれの区画線の像の位置とが一致するように、レーン分岐図Iの重畳位置を前方画像にて設定する。
そして、表示制御部21dの機能により制御部20は、レーン分岐図Iを前方画像に重畳する(S145)。さらに、表示制御部21dの機能により制御部20は、レーン分岐図Iを重畳した前方画像をユーザI/F部45に表示させる(S150,図2C)。なお、本実施形態では、表示制御部21dの機能により制御部20は、走行予定経路上の目的地に到達するために車両Cが走行すべき案内レーンを示す矢印Zをレーン分岐図Iに重畳する(図2C)。
一方、ステップS120にて前方レーンと案内レーンとのすべてについて左右それぞれの区画線の像の位置が特定できたと判定されなかった場合、表示制御部21dの機能により制御部20は、前方画像における所定位置をレーン分岐図Iの重畳位置として設定する(S155)。すなわち、表示制御部21dの機能により制御部20は、前方画像に撮影されたレーンの像と重ならない領域にレーン分岐図Iが重畳できる位置をレーン分岐図Iの重畳位置として設定する。そして、表示制御部21dの機能により制御部20は、レーン分岐図Iを前方画像に重畳する(S145)。さらに、表示制御部21dの機能により制御部20は、レーン分岐図Iを重畳した前方画像をユーザI/F部45に表示させる(S150,図2D)。
以上説明したように、案内レーン図を前方レーンの像に接続して表示させることにより、案内レーンの形状を前方レーンと関連づけて認識することができる。図2Cの場合、右側の前方レーンに対して、右側へ分岐する分岐レーンを含む形状の案内レーンが接続していることを認識することができ、案内線GLが示すように右側へとレーン変更する意義を運転者は理解できる。すなわち、レーン分岐図Iに示された矢印Zが示すように将来的に右側の分岐レーンを走行するために、右側の前方レーンへとレーン変更すべきことを認識できる。
(3)他の実施形態:
前記実施形態においては、前方レーンに対してレーン方向に接続する案内レーンについて案内を行う例を説明したが、前方レーンに対して分岐する案内レーンについて案内を行ってもよい。図4Aは道路の平面図であり、道路の形状は前記実施形態(図2A)と同じである。本実施形態において、表示制御部21dの機能により制御部20は、車両Cから所定距離D1以上前方に存在するレーン分岐地点において、直進方向以外に分岐している分岐レーンを案内レーン(ハッチング)とし、当該案内レーンについての案内レーン図を取得する。
そして、表示制御部21dの機能により制御部20は、前方レーンと案内レーンとが幅方向に隣接する場合、前方レーンの像と案内レーン図とが前方画像の横方向に隣接するように案内レーン図を前方画像に重畳し、当該前方画像を重畳した前方画像をユーザI/F部45に表示させる。図4Bは、本実施形態における前方画像を示す図である。同図に示すように、前方レーンから分岐し、かつ、前方レーンに対して幅方向に隣接する案内レーンを示す案内レーン図F(ハッチング)が、右側の前方レーンの像に対して横方向に右側から隣接するように重畳されている。案内レーンは右側の前方レーンに対してレーンの幅方向に右側から隣接しており、実空間における前方レーンと案内レーンとの接続関係が、前方画像における前方レーンの像と案内レーン図Fとの接続関係においても維持されている。
具体的に、表示制御部21dの機能により制御部20は、前方画像の下辺における前方レーンの像の幅cに基づいて、前方画像の下辺における案内レーン図Fの幅dを特定する。例えば、図4Bのように案内レーンが走行レーンに隣接する場合、走行レーンに対して同様に隣接する前方レーンの像の幅cを、前方画像の下辺における案内レーン図Fの幅dとしてもよい。表示制御部21dの機能により制御部20は、前方画像の下辺において案内レーン図Fが隣接する前方レーンの像から案内レーンの隣接方向に幅dだけ離れた点Qを特定し、当該特定した点Qと消失点とを結ぶ線を案内レーン図Fの輪郭線P(一点鎖線)とする。表示制御部21dの機能により制御部20は、案内レーン図Fが隣接する前方レーンの像と、輪郭線Pとの間の領域を案内レーン図Fとする。本実施形態において、表示制御部21dの機能により制御部20は、前方画像の下辺から所定量だけ上方の範囲において、案内レーン図Fの幅を下方ほど狭くする。これにより、案内レーンが前方レーンから分岐する接続関係にあることを感覚的に認識させることができる。
本実施形態において表示制御部21dの機能により制御部20は、案内レーンが推奨レーンである場合に、走行レーンの像上の実線の案内線GL1と、走行レーンの像から案内レーン図Fへと向かう破線の案内線GL2とを前方画像に重畳する。これにより、運転者は、実線によって強調された案内線GL1に基づいてしばらくは走行レーンを直進し、破線によって案内線GL1よりも強調度が小さくされた案内線GL2に基づいて将来的に右側に分岐する案内レーンにレーン変更すべきことを認識できる。
前記実施形態においては、車両Cの前方における所定距離D1以上、かつ、所定距離D2未満の範囲にレーン分岐地点が存在する場合に、案内レーン図を表示させることとしたが、レーン分岐地点の存在有無に拘わらず常に案内レーン図を表示させてもよい。また、表示制御部21dの機能により制御部20は、前記所定範囲において単一の前方レーンとレーン方向に接続する案内レーンから複数の分岐レーンが連続して分岐している場合に、当該案内レーンから複数の分岐レーンが分岐する形状を示す含むレーン分岐図Iを表示させてもよい。これにより、複数の分岐レーンのうち車両Cを走行させるべきレーンを容易に認識できる。
さらに、表示制御部21dの機能により制御部20は、走行予定経路が探索されていない場合において、案内レーン図を表示させてもよい。すなわち、表示制御部21dの機能により制御部20は、必ずしも前方画像に推奨レーンを指し示す案内線GLを重畳しなくてもよい。この場合であっても、前方レーンと関連づけて案内レーンの案内を認識することができる。
表示制御部21dの機能により制御部20は、必ずしも予め作成されているレーン分岐図Iをレーン分岐図DB30a1から取得しなくてもよく、案内レーン図が前方画像における前方レーンの像と接続できるように地図情報30aに基づいてレーン分岐図Iを描画してもよい。なお、案内レーンの形状を案内する案内レーン図は、前方画像または直視において案内レーンの像を視認するよりも、案内レーンの形状の視認性が良好となる図であることが望ましい。案内レーンの形状を案内する案内レーン図は、レーンの俯瞰図であってもよいし、レーン形状の模式図やレーン形状を示す記号であってもよい。さらに、案内レーン図は、コンピュータグラフィックでもよいし、写真であってもよい。
案内レーン図取得部21dの機能により制御部20は、案内レーンの案内内容を画像化した案内レーン図を取得すればよく、必ずしも案内レーンの形状を案内する案内レーン図を取得しなくてもよい。例えば、案内レーン図は、案内レーンの行き先を案内してもよいし、案内レーン上の地物を案内してもよいし、案内レーンが車両を走行させるべき推奨レーンであるか否かを案内してもよいし、案内レーンについての交通情報や規制情報を案内してもよい。
10…ナビゲーション装置、20…制御部、21…レーン案内表示プログラム、21a…ナビゲーション部、21b…前方画像取得部、21c…案内レーン図取得部、21d…表示制御部、30…記録媒体、30a…地図情報、30a1…レーン分岐図DB、41…受信部、42…車速センサ、43…ジャイロセンサ、44…カメラ、45…ユーザI/F部、BL…区画線の像、C…車両、GL…案内線、I…レーン分岐図、F…案内レーン図。

Claims (7)

  1. 車両の前方を撮影した前方画像を取得する前方画像取得手段と、
    前記車両から所定距離以上前方に存在する道路上のレーンである案内レーンを案内する案内レーン図を取得する案内レーン図取得手段と、
    前記前方画像に像が含まれる道路上のレーンである前方レーンと前記案内レーンとの接続関係に基づいて、前記前方レーンの像と前記案内レーン図とが前記前方画像において接続するように前記案内レーン図を前記前方画像に重畳し、当該案内レーン図を重畳した前記前方画像を表示部に表示させる表示制御手段と、
    を備えるレーン案内表示システム。
  2. 前記表示制御手段は、前記前方レーンと前記案内レーンとが前記車両の走行方向に接続する場合、前記前方レーンの像と前記案内レーン図とが前記前方画像の縦方向に接続するように前記案内レーン図を前記前方画像に重畳し、当該案内レーン図を重畳した前記前方画像を前記表示部に表示させる、
    請求項1に記載のレーン案内表示システム。
  3. 前記表示制御手段は、前記前方レーンと前記案内レーンとが前記車両の走行方向に接続する場合、前記前方画像における前記前方レーンの左右の区画線の像と、前記案内レーン図における前記案内レーンの左右の区画線の像とがそれぞれ前記前方画像の縦方向に接続するように前記案内レーン図を前記前方画像に重畳し、当該案内レーン図を重畳した前記前方画像を前記表示部に表示させる、
    請求項1または請求項2に記載のレーン案内表示システム。
  4. 前記案内レーン図取得手段は、前記案内レーン図を含む所定サイズの案内画像を取得し、
    前記表示制御手段は、前記前方レーンと前記案内レーンとが前記車両の走行方向に接続する場合、
    前記前方画像における前記前方レーンの左右の区画線の像と、前記案内画像における前記案内レーンの左右の区画線の像とがそれぞれ前記前方画像の縦方向に接続するように前記案内画像のサイズを変換して前記前方画像に重畳し、当該サイズを変換した前記案内画像を重畳した前記前方画像を前記表示部に表示させるとともに、
    前記前方画像における前記前方レーンの左右の区画線の像と、前記案内画像における前記案内レーンの左右の区画線の像との少なくとも一方が特定できなかった場合に、前記所定サイズの前記案内画像を所定位置に重畳した前記前方画像を前記表示部に表示させる、
    請求項3に記載のレーン案内表示システム。
  5. 前記表示制御手段は、前記案内レーンが前記前方レーンから分岐し、かつ、前記前方レーンに対して幅方向に隣接する場合、前記前方レーンの像と前記案内レーン図とが前記前方画像の横方向に隣接するように、前記案内レーン図を重畳した前記前方画像を前記表示部に表示させる、
    請求項1から請求項4のいずれか一項に記載のレーン案内表示システム。
  6. 車両の前方を撮影した前方画像を取得する前方画像取得工程と、
    前記車両から所定距離以上前方に存在する道路上のレーンである案内レーンを案内する案内レーン図を取得する案内レーン図取得工程と、
    前記前方画像に像が含まれる道路上のレーンである前方レーンと前記案内レーンとの接続関係に基づいて、前記前方レーンの像と前記案内レーン図とが前記前方画像において接続するように前記案内レーン図を前記前方画像に重畳し、当該案内レーン図を重畳した前記前方画像を表示部に表示させる表示制御工程と、
    を含むレーン案内表示システム。
  7. 車両の前方を撮影した前方画像を取得する前方画像取得機能と、
    前記車両から所定距離以上前方に存在する道路上のレーンである案内レーンを案内する案内レーン図を取得する案内レーン図取得機能と、
    前記前方画像に像が含まれる道路上のレーンである前方レーンと前記案内レーンとの接続関係に基づいて、前記前方レーンの像と前記案内レーン図とが前記前方画像において接続するように前記案内レーン図を前記前方画像に重畳し、当該案内レーン図を重畳した前記前方画像を表示部に表示させる表示制御機能と、
    をコンピュータに実行させるレーン案内表示プログラム。
JP2011279784A 2011-12-21 2011-12-21 レーン案内表示システム、方法およびプログラム Active JP5915155B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011279784A JP5915155B2 (ja) 2011-12-21 2011-12-21 レーン案内表示システム、方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011279784A JP5915155B2 (ja) 2011-12-21 2011-12-21 レーン案内表示システム、方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2013130464A true JP2013130464A (ja) 2013-07-04
JP5915155B2 JP5915155B2 (ja) 2016-05-11

Family

ID=48908134

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011279784A Active JP5915155B2 (ja) 2011-12-21 2011-12-21 レーン案内表示システム、方法およびプログラム

Country Status (1)

Country Link
JP (1) JP5915155B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017017759A1 (ja) * 2015-07-27 2017-02-02 日産自動車株式会社 車線表示装置及び車線表示方法
CN108961990A (zh) * 2017-05-23 2018-12-07 百度在线网络技术(北京)有限公司 用于处理高精地图的方法和装置
JP2019061703A (ja) * 2018-11-29 2019-04-18 株式会社ゼンリン 走行支援装置、プログラム
US11161506B2 (en) 2017-04-27 2021-11-02 Zenrin Co., Ltd. Travel support device and non-transitory computer-readable medium

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10287177A (ja) * 1997-04-15 1998-10-27 Toyota Motor Corp 車両用前方画像撮影装置及び車両用案内表示装置
JP2003121167A (ja) * 2001-10-12 2003-04-23 Denso Corp 案内画像生成装置、案内画像表示装置、ナビゲーション装置、及びプログラム
JP2008309529A (ja) * 2007-06-12 2008-12-25 Panasonic Corp ナビゲーション装置、ナビゲーション方法、及びナビゲーション用プログラム
JP2009020089A (ja) * 2007-06-12 2009-01-29 Panasonic Corp ナビゲーション装置、ナビゲーション方法、及びナビゲーション用プログラム
JP2009236844A (ja) * 2008-03-28 2009-10-15 Panasonic Corp ナビゲーション装置、ナビゲーション方法およびナビゲーションプログラム
JP2010232723A (ja) * 2009-03-25 2010-10-14 Nippon Soken Inc 車両周辺表示装置
JP2011091630A (ja) * 2009-10-22 2011-05-06 Mitsubishi Electric Corp 画像結合装置及び画像結合位置算出方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10287177A (ja) * 1997-04-15 1998-10-27 Toyota Motor Corp 車両用前方画像撮影装置及び車両用案内表示装置
JP2003121167A (ja) * 2001-10-12 2003-04-23 Denso Corp 案内画像生成装置、案内画像表示装置、ナビゲーション装置、及びプログラム
JP2008309529A (ja) * 2007-06-12 2008-12-25 Panasonic Corp ナビゲーション装置、ナビゲーション方法、及びナビゲーション用プログラム
JP2009020089A (ja) * 2007-06-12 2009-01-29 Panasonic Corp ナビゲーション装置、ナビゲーション方法、及びナビゲーション用プログラム
JP2009236844A (ja) * 2008-03-28 2009-10-15 Panasonic Corp ナビゲーション装置、ナビゲーション方法およびナビゲーションプログラム
JP2010232723A (ja) * 2009-03-25 2010-10-14 Nippon Soken Inc 車両周辺表示装置
JP2011091630A (ja) * 2009-10-22 2011-05-06 Mitsubishi Electric Corp 画像結合装置及び画像結合位置算出方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017017759A1 (ja) * 2015-07-27 2017-02-02 日産自動車株式会社 車線表示装置及び車線表示方法
US10473481B2 (en) 2015-07-27 2019-11-12 Nissan Motor Co., Ltd. Lane display device and lane display method
US11161506B2 (en) 2017-04-27 2021-11-02 Zenrin Co., Ltd. Travel support device and non-transitory computer-readable medium
CN108961990A (zh) * 2017-05-23 2018-12-07 百度在线网络技术(北京)有限公司 用于处理高精地图的方法和装置
CN108961990B (zh) * 2017-05-23 2023-08-29 百度在线网络技术(北京)有限公司 用于处理高精地图的方法和装置
JP2019061703A (ja) * 2018-11-29 2019-04-18 株式会社ゼンリン 走行支援装置、プログラム

Also Published As

Publication number Publication date
JP5915155B2 (ja) 2016-05-11

Similar Documents

Publication Publication Date Title
JP5708449B2 (ja) レーン案内表示システム、方法およびプログラム
EP2863181B1 (en) Intersection navigation system, method, and program
US8275542B2 (en) Navigation device, navigation method, and navigation program
JP6015228B2 (ja) 交差点案内システム、方法およびプログラム
JP5810843B2 (ja) レーン案内表示システム、方法およびプログラム
JP2013096912A (ja) レーン案内表示システム、方法およびプログラム
JP2013117515A (ja) レーン案内表示システム、方法およびプログラム
JP2015049221A (ja) 進路案内表示システム、方法およびプログラム
JP2014037978A (ja) 交差点案内システム、方法およびプログラム
JP2017203638A (ja) 電子装置、案内方法および案内システム
JP2008128827A (ja) ナビゲーション装置およびナビゲーション方法ならびにそのプログラム
JP5994574B2 (ja) 位置案内システム、方法およびプログラム
JP5915155B2 (ja) レーン案内表示システム、方法およびプログラム
JP6089506B2 (ja) レーン案内表示システム、方法およびプログラム
JP5733195B2 (ja) レーン案内表示システム、方法およびプログラム
JP2009133801A (ja) ナビゲーション装置
JP4968369B2 (ja) 車載装置及び車両認識方法
JP7207045B2 (ja) サーバ装置および情報処理方法
JP2018151822A (ja) 電子装置、走行レーン検出プログラムおよび走行レーン検出方法
JP2007115198A (ja) 車両認識方法及び車載装置
JP2014074627A (ja) 車両用ナビゲーションシステム
JP2013210321A (ja) レーン案内表示システム、方法およびプログラム
JP5772571B2 (ja) レーン案内表示システム、方法およびプログラム
JP6500805B2 (ja) 推奨車線案内システムおよび推奨車線案内プログラム
JP2014071001A (ja) 推奨レーン案内システム、方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140320

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150203

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150818

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151002

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160321

R150 Certificate of patent or registration of utility model

Ref document number: 5915155

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150