JP5742201B2 - 運転支援装置、運転支援方法及び運転支援プログラム - Google Patents

運転支援装置、運転支援方法及び運転支援プログラム Download PDF

Info

Publication number
JP5742201B2
JP5742201B2 JP2010279574A JP2010279574A JP5742201B2 JP 5742201 B2 JP5742201 B2 JP 5742201B2 JP 2010279574 A JP2010279574 A JP 2010279574A JP 2010279574 A JP2010279574 A JP 2010279574A JP 5742201 B2 JP5742201 B2 JP 5742201B2
Authority
JP
Japan
Prior art keywords
vehicle
driver
relative distance
mirror
surrounding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010279574A
Other languages
English (en)
Other versions
JP2012128665A (ja
Inventor
譲 山影
譲 山影
濱口 慎吾
慎吾 濱口
尾崎 一幸
一幸 尾崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2010279574A priority Critical patent/JP5742201B2/ja
Publication of JP2012128665A publication Critical patent/JP2012128665A/ja
Application granted granted Critical
Publication of JP5742201B2 publication Critical patent/JP5742201B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Description

本発明は車両の運転を支援する運転支援装置、運転支援方法及び運転支援プログラムに関する。
近年、車両を運転する運転者に対し、警報などを報知することで、安全な運転を支援する装置が提案されている(例えば特許文献1参照)。このような装置は、運転者の状況や報知内容によって、運転者に煩わしさを感じさせる場合もあることが知られている。従来の装置は、運転者が注視している計測注視方向と、運転者が注視すべき必要注視方向とが一致する注視頻度を求め、その注視頻度に基づいて決定した報知レベルにしたがって報知すべき情報を報知していた。
特開平7−167668号公報
しかしながら、従来の装置は注視頻度からみて運転者がすでに認識していると考えられているものについて、報知レベルを下げ、音量を低くしたり、目立たない色使いにしたりすることで、煩わしさを低減するものである。従来の装置は、報知レベルを下げることで音量を低くしたり、目立たない色使いにしたりしているが、警報などを報知することは変わらないため、運転者の煩わしさを低減できない可能性があった。
本実施形態は運転者に対する不要な通知を軽減できる運転支援装置、運転支援方法及び運転支援プログラムを提供することを目的とする。
上記課題を解決するため、本実施形態は、自車両と周辺車両との相対距離の遷移を予測した、運転者による自車両と周辺車両との予測相対距離を推測する推測手段と、前記自車両と周辺車両との実測相対距離と前記予測相対距離とを比較する比較手段と、前記比較した結果、前記実測相対距離が前記予測相対距離から所定値以上乖離したときに前記運転者に通知する通知手段とを有することを特徴とする。
なお、本実施形態の構成要素、表現又は構成要素の任意の組合せを、方法、装置、システム、コンピュータプログラム、記録媒体、データ構造などに適用したものも本発明の態様として有効である。
本実施形態によれば運転者に対する不要な通知を軽減できる運転支援装置、運転支援方法及び運転支援プログラムを提供可能である。
運転者への通知のタイミングを表した一例の説明図である。 本実施例における運転者への通知のタイミングを表した一例の説明図である。 本実施例の運転支援装置を含むシステムの一実施例の構成図である。 運転支援装置の一例のハードウェア構成図である。 運転支援装置の一実施例のブロック構成図である。 視線測定装置の一実施例のブロック構成図である。 運転支援装置の目視確認部の一実施例のブロック構成図である。 ミラー入射映像確認部の一実施例の処理イメージ図である。 ミラー入射映像確認部の一実施例のブロック構成図である。 運転支援装置の警告処理部の一実施例のブロック構成図である。 周辺車両の速度及び加速度を算出する処理の一例のフローチャートである。 車両目視確認処理及び警告処理の一例のフローチャートである。 周辺車両の運動予測方法の一例の説明図である。 本実施例で必要なデータを表した一例のイメージ図である。 情報記憶部に記憶されるデータフォーマット及びデータの一例を表した説明図である。
次に、本発明を実施するための形態を、以下の実施例に基づき図面を参照しつつ説明していく。本実施例では車両の一例として車(自動車)を例に説明する。
図1は運転者への通知のタイミングを表した一例の説明図である。図1(A)は自車の運転者に煩わしさを感じさせる例である。図1(A)は自車の軌跡1と後方車の軌跡2とを表している。時間T1では自車の運転者が目視により後方確認を行い、後方から接近してきた後方車との距離3と、後方車との相対速度とを把握する。
目視の際、自車の運転者は把握した後方車との距離3と、後方車との相対速度とから後方車の軌跡を予測する。図1(A)は運転者が予測した後方車の軌跡4も表している。範囲5では後方車の軌跡2と、自車の運転者が予測した後方車の軌跡4とが、ほとんど乖離していない。つまり、範囲5では後方車の軌跡2が自車の運転者の予測に近いので、自車の運転者に通知したとしても、自車の運転者に煩わしさを感じさせる。
図1(B)は自車の運転者に通知すべきタイミングの例である。図1(B)は自車の軌跡6と後方車の軌跡7とを表している。時間T2では自車の運転者が目視により後方確認を行い、後方から接近してきた後方車との距離8と、後方車との相対速度とを把握する。
目視の際、自車の運転者は把握した後方車との距離8と、後方車との相対速度とから後方車の軌跡を予測する。図1(B)は運転者が予測した後方車の軌跡9も表している。範囲10では後方車の軌跡7と、自車の運転者が予測した後方車の軌跡9とが、大きく乖離している。つまり、範囲10では後方車の軌跡7が自車の運転者の予測した軌跡9から大きくずれ、自車と後方車との距離が自車の運転者の予測している距離と大きくずれているので、自車の運転者に通知すべきである。
図2は本実施例における運転者への通知のタイミングを表した一例の説明図である。図2は自車の軌跡11と後方車の軌跡12とを表している。時間T3では自車の運転者が目視により後方確認を行い、後方から接近してきた後方車との距離13と、後方車との相対速度とを把握する。
目視の際、自車の運転者は把握した後方車との距離13と、後方車との相対速度とから後方車の軌跡を予測する。図2は運転者が予測したと思われる後方車の軌跡14も推測して表している。三角形で表した範囲15は、自車の運転者が予測したと思われる後方車の軌跡14を、幅を持たせて表したものである。三角形で表した範囲15は時間経過と共に幅が拡大している。
時間T4では、後方車の軌跡12が三角形で表した範囲15から逸脱する前に、自車の運転者が再び目視により後方確認を行うことで、後方から接近してきた後方車との距離16と、後方車との相対速度とを把握する。このように、時間T4では自車の運転者が再び目視により後方確認を行ったため、自車と後方車との距離が自車の運転者の予測している距離と一致し、自車の運転者への通知が不要となる。そこで、本実施例では時間T4において自車の運転者への不要な通知を抑制し、自車の運転者に煩わしさを感じさせない。
時間T4における目視の際、自車の運転者は把握した後方車との距離16と、後方車との相対速度とから後方車の軌跡を予測する。図2は運転者が予測したと思われる後方車の軌跡17も推測して表している。三角形で表した範囲18は、自車の運転者が予測したと思われる後方車の軌跡17を、幅を持たせて表したものである。三角形で表した範囲18は時間経過と共に幅が拡大している。
範囲19では、後方車の軌跡12が三角形で表した範囲18から逸脱している。このように範囲19では、自車の運転者が長時間、目視により後方確認を行っていない為、自車と後方車との距離が自車の運転者の予測している距離から大きく乖離している。
つまり、範囲19では後方車の軌跡12が自車の運転者の予測した軌跡17から大きくずれ、自車と後方車との距離が自車の運転者の予測している距離と大きくずれているので自車の運転者に通知すべきである。そこで、本実施例では範囲19において自車の運転者に例えば目視による後方確認の必要性を通知する。このように、本実施例では自車の運転者が気付いていない(予測から外れた)後方車の接近(動き)を通知できる。
本実施例では自車の運転者が目視により後方確認を行い、把握したと推測される内容について通知しないことで、自車の運転者に煩わしさを感じさせない。また、本実施例では自車の運転者の予測から外れた後方車の動きがあったとき、自車の運転者に通知することにより、後方確認を行うべきタイミングを通知できる。例えば自車の運転者の予測から外れた後方車の接近があったとき、リスクの予兆が発生したとして、自車の運転者に通知することにより、本実施例では後方確認を行うべきタイミングを通知できる。つまり、本実施例では自車の運転者が長時間、目視により後方確認を行っていないという理由や後方車が接近したという理由だけで、後方確認の必要性を通知することはない。
図3は本実施例の運転支援装置を含むシステムの一実施例の構成図である。図3のシステム20は視線測定装置21、周囲距離測定検知装置22、周囲カメラ23、運転支援装置24、ナビゲーション装置25、音声出力器26、表示器27、加速度センサ28及び速度センサ29、CAN(Controller Area Network)バス30を有する。図3のシステム20は運転支援装置24を車載機により実現する例である。図3の運転支援装置24はナビゲーション装置25の機能を利用する。
運転支援装置24は視線測定装置21、周囲距離測定検知装置22、周囲カメラ23とデータ通信可能に接続されている。また、運転支援装置24はナビゲーション装置25とデータ通信可能に接続されている。さらに、運転支援装置24はCANバス30を介して加速度センサ28、速度センサ29と接続されている。
視線測定装置21は後述のように自車の運転者の視線に関する情報を測定する。周囲距離測定検知装置22は、車載ミリ波レーダ等で自車の周囲との距離(相対距離)を測定する。周囲カメラ23は自車の周囲を撮影して車外映像を取得する。加速度センサ28は自車の加速度を計測する。速度センサ29は自車の速度を計測する。
運転支援装置24は、運転者の視線に関する情報、自車と自車の周辺にある車両(周辺車両)等の物体との相対距離、車外映像、自車の加速度、自車の速度を受信し、自車の運転者に通知すべきタイミングで自車の運転者に通知すべき内容を後述のように通知する。
また、運転支援装置24はナビゲーション装置25の音声出力器26及び表示器27を利用して、自車の運転者に音や映像により通知を行う。なお、図3のシステム20は一例であって、他の構成であってもよい。
本実施例の運転支援装置24、運転支援方法、運転支援プログラムは一例であり、例えば他の名称の装置、方法及びプログラムであってもよい。例えば本実施例の運転支援装置24はナビゲーション装置25の一機能として実現してもよい。本実施例の運転支援装置24は例えば図4に示すようなハードウェアにより構成される。図4は運転支援装置の一例のハードウェア構成図である。
図4の運転支援装置24は、バス37で相互に接続された主記憶装置31、演算処理装置32、インタフェース装置33、記録媒体読取装置34及び補助記憶装置35を有している。
バス37で相互に接続されている主記憶装置31、演算処理装置32、インタフェース装置33、記録媒体読取装置34及び補助記憶装置35は演算処理装置32による管理下で相互にデータの送受を行うことができる。演算処理装置32は、運転支援装置24全体の動作制御を司る中央処理装置である。
インタフェース装置33は、視線測定装置21、周囲距離測定検知装置22、周囲カメラ23、加速度センサ28及び速度センサ29等からのデータを受信し、データの内容を演算処理装置32に渡す。インタフェース装置33は演算処理装置32からの指示に応じてナビゲーション装置25等にデータを送信する。
補助記憶装置35には運転支援装置24の機能を発揮させるプログラムとして、少なくとも運転支援プログラムが記憶されている。そして、演算処理装置32は運転支援プログラムを補助記憶装置35から主記憶装置31に読み出して実行する。運転支援プログラムは、運転支援装置24が読み取り可能な記録媒体36に記録しておくことができる。
記録媒体36には、磁気記録媒体、光ディスク、光磁気記録媒体、半導体メモリなどがある。磁気記録媒体には、HDD、フレキシブルディスク(FD)、磁気テープ(MT)などがある。光ディスクには、DVD(Digital Versatile Disc)、DVD−RAM、CD−ROM(Compact Disc − Read Only Memory)、CD−R(Recordable)/RW(ReWritable)などがある。また、光磁気記録媒体には、MO(Magneto − Optical disk)などがある。
運転支援プログラムを流通させる場合は、例えば運転支援プログラムが記録されたDVD、CD−ROMなどの可搬型の記録媒体36を販売することが考えられる。運転支援プログラムを実行する運転支援装置24は例えば記録媒体読取装置34が運転支援プログラムを記録した記録媒体36から運転支援プログラムを読み出す。演算処理装置32は読み出された運転支援プログラムを主記憶装置31若しくは補助記憶装置35に格納する。
運転支援装置24は自己の記憶装置である主記憶装置31若しくは補助記憶装置35から運転支援プログラムを読み取り、運転支援プログラムに従った処理を実行する。演算処理装置32は運転支援プログラムに従って、後述するような各種処理を実現している。
図5は運転支援装置の一実施例のブロック構成図である。図5の運転支援装置24は目視確認部41、警告処理部42、データ収集部43、情報記憶部44を有する。目視確認部41は自車の運転者が周辺車両をミラー越しに目視したかを確認する。警告処理部42は自車の運転者が周辺車両をミラー越しに目視したことを確認したタイミングで運転者の予測した周辺車両との相対距離の推移(軌跡)を推測する。警告処理部42は推測した周辺車両との相対距離が実測した周辺車両との相対距離から所定値(閾値)以上乖離したときに自車の運転者に音や映像により警告を通知する。
データ収集部43は、例えば視線測定装置21、周囲距離測定検知装置22、周囲カメラ23、加速度センサ28及び速度センサ29等からのデータを受信し、情報記憶部44に記憶させる。情報記憶部44は視線測定装置21、周囲距離測定検知装置22、周囲カメラ23、加速度センサ28及び速度センサ29等から受信したデータの他、ミラー設置データ、算出したデータ、テンポラリデータなど、後述の処理に必要な各種データを記憶する。
図6は視線測定装置の一実施例のブロック構成図である。図6の視線測定装置21は顔映像取得部51、視点原点算出部52、視線方向算出部53、送信部54を有する。顔映像取得部51は、自車の運転者の顔を撮影し、顔映像を取得する。例えば顔映像取得部51は赤外光LEDを運転者に照射し、赤外光を計測できる車載カメラを用いて運転者の顔を撮影する。
視点原点算出部52は取得した顔映像を画像処理して例えば両目の間を視点原点として算出する。視線方向算出部53は取得した顔映像を画像処理して運転者の視線方向を算出する。例えば視線方向算出部53は取得した顔画像を画像処理して運転者の眼球の三次元計測を行い、角膜反射法などのアルゴリズムにより運転者の視線方向を算出する。
送信部54は視点原点算出部52が算出した視点原点及び視線方向算出部53が算出した視線方向を運転支援装置24に送信する。視点原点及び視線方向は前記した視線に関する情報に含まれる。
図7は運転支援装置の目視確認部の一実施例のブロック構成図である。目視確認部41は、周辺車両距離計測部61、ミラー目視確認部62、ミラー入射映像確認部63、車両目視確認部64を有する。
周辺車両距離計測部61は、周囲カメラ23から受信した自車の周囲の車外映像を用いて自車の周辺にある周辺車両を判別する。そして、周辺車両距離計測部61は判別した周辺車両の相対位置を、周囲距離測定検知装置22から受信した自車の周囲との相対距離を用いて計測する。
ミラー目視確認部62は視線測定装置21から受信した自車の運転者の視点原点及び視線方向を用いて、運転者の視線の延長軸上にミラーが存在するか確認する。運転者の視線は運転者の視点原点及び視線方向から定まる。運転者の視線の延長軸上にミラーが存在する場合、ミラー目視確認部62は運転者がミラーを目視したと判定する。ミラー目視確認部62は情報記憶部44に記憶されているミラー設置データ65を用いて、ミラーが設置されている位置を判定できる。
ミラー入射映像確認部63は、視線測定装置21から受信した自車の運転者の視点原点及び視線方向と、周辺車両距離計測部61が計測した周辺車両の相対位置と、ミラー設置データ65とを用いて、ミラーに周辺車両が映っているか確認する。例えばミラー入射映像確認部63はミラーにより折り返された運転者の視線(仮想視線)の延長軸上に周辺車両が存在すれば、ミラーに周辺車両が映っていると判定する。なお、ミラー入射映像確認部63の処理の詳細は後述する。そして、車両目視確認部64は運転者が目視したと判定したミラーに周辺車両が映っていると判定した場合に、運転者が周辺車両を目視により確認したと判定する。
図8はミラー入射映像確認部の一実施例の処理イメージ図である。図8(A)に示した自車の運転者の視点原点71及び視線方向72は視線測定装置21により測定される。自車のミラー73が設置されている設置位置及びミラー73の設置角度は、例えば情報記憶部44に記憶されているミラー設置データ65から判定できる。なお、ミラー73の設置位置及び設置角度は測定により取得するようにしてもよい。
ミラー73越しの視線75の仮想視点原点74、ミラー73越しの仮想視野範囲76は視点原点71、ミラー73の設置位置及び設置角度、ミラー73の形状から算出することができる。
図8(B)に示した周辺車両78との相対距離79、自車両77と周辺車両78との進行方向80の相対配向(角度)81は周辺車両距離計測部61により計測される。自車両77と周辺車両78との間の相対位置関係、仮想視点原点74及び仮想視野範囲76を用いて、ミラー入射映像確認部63は周辺車両78がミラー73越しの視野を表す仮想視野範囲76に入っているかを判定する。ミラー入射映像確認部63は、仮想視野範囲76に周辺車両78が入っているときに、自車両77の運転者が周囲車両78を視認可能と判定する。また、ミラー入射映像確認部63は、仮想視野範囲76に周辺車両78が入っていないときに、自車両77の運転者が周囲車両78を視認不能と判定する。
図9はミラー入射映像確認部の一実施例のブロック構成図である。ミラー入射映像確認部63は、仮想視点原点算出部91、ミラー設置位置取得部92、ミラー設置角度取得部93、仮想視線視認可能範囲算出部94、周囲車両視認可能判断部95を有する。
仮想視点原点算出部91は周辺車両距離計測部61から自車の運転者の視点原点71及び視線方向72を受信する。仮想視点原点算出部91はミラー設置位置取得部92から自車のミラー73が設置されている設置位置を受信する。また、仮想視点原点算出部91はミラー設置角度取得部93から自車のミラー73の設置角度を受信する。
仮想視点原点算出部91は、ミラー73越しの視線75の仮想視点原点74を視点原点71、ミラー73の設置位置及び設置角度、ミラー73の形状から図8(A)に示すように算出する。
ミラー設置位置取得部92は自車のミラー73が設置されている設置位置を例えば測定により取得する。ミラー設置角度取得部93は自車のミラー73の設置角度を例えば測定により取得する。
また、仮想視線視認可能範囲算出部94はミラー73越しの仮想視野範囲76を視点原点71、ミラー73の設置位置及び設置角度、ミラー73の形状から図8(A)に示すように算出する。
周囲車両視認可能判断部95は周辺車両距離計測部61から周辺車両78との相対距離79、自車両77と周辺車両78との進行方向80の相対配向81を受信する。また、周囲車両視認可能判断部95は仮想視線視認可能範囲算出部94から仮想視点原点74及び仮想視野範囲76を受信する。
周囲車両視認可能判断部95は自車両77と周辺車両78との間の相対位置関係、仮想視点原点74及び仮想視野範囲76を用いて、周辺車両78がミラー73越しの視野を表す仮想視野範囲76に入っているかを図8(B)に示すように判定する。周囲車両視認可能判断部95は仮想視野範囲76に周辺車両78が入っているときに、自車両77の運転者が周囲車両78を視認可能と判定する。また、周囲車両視認可能判断部95は仮想視野範囲76に周辺車両78が入っていないときに、自車両77の運転者が周囲車両78を視認不能と判定する。
図10は運転支援装置の警告処理部の一実施例のブロック構成図である。警告処理部42は、周辺車両距離計測部101、周辺車両速度加速度算出部102、周辺車両速度加速度記録部103、周辺車両速度加速度予測部104、自車両速度加速度予測部105、相対距離予測部106、相対距離予測実測比較部107、警告通知部108を有する。
周辺車両距離計測部101は、周囲カメラ23から受信した自車の周囲の車外映像を用いて自車の周辺にある周辺車両を判別する。そして、周辺車両距離計測部101は判別した周辺車両との相対距離を、周囲距離測定検知装置22から受信した自車の周囲との相対距離を用いて計測する。また、周辺車両距離計測部101は計測した自車両と周辺車両との相対距離を相対距離実測結果データ113として情報記憶部44に記憶させる。
周辺車両速度加速度算出部102は周辺車両距離計測部101によって所定時間ごとに計測される自車両と周辺車両との相対距離、速度センサ29が計測した自車の速度を用いることで、後述のように周辺車両の速度と加速度とを算出する。
周辺車両速度加速度記録部103は周辺車両速度加速度算出部102が算出した周辺車両の速度と加速度とを周辺車両速度加速度データ111として例えば情報記憶部44に記憶させる。
周辺車両速度加速度予測部104は情報記憶部44に記憶されている周辺車両速度加速度データ111を用いて後述のように周辺車両の速度、加速度を予測する。自車両速度加速度予測部105は情報記憶部44に記憶されている自車両速度加速度データ112を用いて後述のように自車両の速度、加速度を予測する。
相対距離予測部106は車両目視確認部64が自車両の運転者が周辺車両を目視により確認したと判定したタイミングで、自車両と周辺車両との相対距離の推移(軌跡)を例えば図2に示したように予測する。相対距離予測部106が予測した自車両と周辺車両との相対距離は運転者が予測したと思われる自車両と周辺車両との相対距離の推移である。
相対距離予測部106は周辺車両速度加速度予測部104により予測された周辺車両の速度、加速度と、自車両速度加速度予測部105により予測された自車両の速度、加速度とを用いて後述のように、運転者が予測したと思われる自車両と周辺車両との相対距離の推移を予測する。相対距離予測部106は予測した自車両と周辺車両との相対距離の推移を相対距離予測結果データ114として情報記憶部44に記憶させる。
相対距離予測実測比較部107は情報記憶部44に記憶されている相対距離実測結果データ113と相対距離予測結果データ114とを用いて、実測した(現在の)自車両と周辺車両との相対距離、運転者が予測したと思われる自車両と周辺車両との相対距離を比較する。
警告通知部108は相対距離予測実測比較部107による比較結果に基づき、実測した自車両と周辺車両との相対距離、運転者が予測したと思われる自車両と周辺車両との相対距離が閾値以上乖離しているときに自車の運転者に音や映像により警告を通知する。図2の例では後方車の軌跡12が三角形で表した範囲18から逸脱したとき、実測した自車両と周辺車両との相対距離、運転者が予測したと思われる自車両と周辺車両との相対距離が閾値以上乖離している。
図11は周辺車両の速度及び加速度を算出する処理の一例のフローチャートである。ステップS1において、周辺車両距離計測部101は周辺車両との相対距離を計測し、相対距離実測結果データ113として情報記憶部44に記憶させる。
ステップS2において、周辺車両速度加速度算出部102は1ステップ前の相対距離実測結果データ113、速度センサ29が計測した自車の速度を、情報記憶部44から読み出す。ステップS3において、周辺車両速度加速度算出部102は1ステップ前の相対距離実測結果データ113、速度センサ29が計測した自車の速度と、現在のステップの相対距離実測結果データ113、速度センサ29が計測した自車の速度を用いて周辺車両の速度を算出する。周辺車両速度加速度算出部102は算出した周辺車両の速度データ111aを情報記憶部44に記憶させる。
ステップS4において、周辺車両速度加速度算出部102は1ステップ前の周辺車両の速度を情報記憶部44から読み出す。ステップS5において、周辺車両速度加速度算出部102は1ステップ前の周辺車両の速度と、現在のステップの周辺車両の速度とを用いて周辺車両の加速度を算出する。周辺車両速度加速度算出部102は算出した周辺車両の加速度データ111bを情報記憶部44に記憶させる。
図12は車両目視確認処理及び警告処理の一例のフローチャートである。ステップS11において、視線測定装置21は自車両の運転者の視点原点及び視線方向を測定し、運転支援装置24に送信する。
ステップS12において、運転支援装置24の目視確認部41は自車の運転者の視線がミラーを向いているか、言い換えれば、自車の運転者がミラーを目視しているかを確認する。自車の運転者の視線がミラーを向いていなければ、ステップS11において目視確認部41は再度、自車両の運転者の視点原点及び視線方向を測定し、運転支援装置24に送信する。
自車の運転者の視線がミラーを向いていれば、ステップS13において、目視確認部41はミラーに周辺車両が映っているか、言い換えれば、自車の運転者が周辺車両をミラー越しに目視したかを確認する。ミラーに周辺車両が映っていれば、目視確認部41は警告処理部42に通知する。なお、ミラーに周辺車両が映っていなければ、ステップS11において目視確認部41は再度、自車両の運転者の視点原点及び視線方向を測定し、運転支援装置24に送信する。
目視確認部41から自車の運転者が周辺車両をミラー越しに目視したことを通知されると、警告処理部42はステップS14において、ミラーに映っていた周辺車両の速度データ111a、加速度データ111b、相対距離実測結果データ113を周辺車両の運動パラメータとして情報記憶部44から読み出す。ステップS15において、警告処理部42は自車両と周辺車両との相対距離の推移(軌跡)を予測し、相対距離予測結果データ114として情報記憶部44に記憶させる。
ステップS16において、相対距離予測実測比較部107は情報記憶部44に記憶されている相対距離実測結果データ113と相対距離予測結果データ114とを用いて、実測した(現在の)自車両と周辺車両との相対距離(実測位置)、運転者が予測したと思われる自車両と周辺車両との相対距離(予測位置)を比較し、差が閾値以上かを判定する。
差が閾値以上であれば、警告通知部108はステップS17において自車の運転者への警報をONする。差が閾値以上でなければ、ステップS18において、目視確認部41は再度、自車両の運転者の視点原点及び視線方向を測定し、運転支援装置24に送信する。
ステップS19において、運転支援装置24の目視確認部41は自車の運転者の視線がミラーを向いているか、言い換えれば、自車の運転者がミラーを目視しているかを確認する。自車の運転者の視線がミラーを向いていなければ、警告処理部42はステップS15において、再び自車両と周辺車両との相対距離の推移(軌跡)を予測し、相対距離予測結果データ114として情報記憶部44に記憶させたあと、処理を続ける。
自車の運転者の視線がミラーを向いていれば、ステップS20において、目視確認部41はミラーに周辺車両が映っているか、言い換えれば自車の運転者が周辺車両をミラー越しに目視したかを確認する。ミラーに周辺車両が映っていなければ、目視確認部41はステップS15において、再び自車両と周辺車両との相対距離の推移(軌跡)を予測し、相対距離予測結果データ114として情報記憶部44に記憶させたあと、処理を続ける。
ミラーに周辺車両が映っていれば、警告処理部42はステップS14において、再びミラーに映っていた周辺車両の速度データ111a、加速度データ111b、相対距離実測結果データ113を周辺車両の運動パラメータとして情報記憶部44から読み出したあと処理を続ける。
図13は周辺車両の運動予測方法の一例の説明図である。図13は自車両の速度データの軌跡120と、周辺車両の速度データの軌跡121とを表している。時間T5では自車の運転者が目視により後方確認を行う。
相対距離予測部106は自車の運転者が目視により後方確認を行った時間T5から所定時間122の過去の自車両の速度データを参照する。また、相対距離予測部106は自車の運転者が目視により後方確認を行った時間T5から所定時間122の過去の周辺車両の速度データを参照する。
相対距離予測部106は時間T5での自車両の速度V1(t5)を参照する。相対距離予測部106は時間T5での周辺車両の速度V2(t5)を参照する。また、相対距離予測部106は所定時間122の範囲内での自車両の最大速度変動幅ΔV1、所定時間122の範囲内での周辺車両の最大速度変動幅ΔV2を参照する。
つまり、相対距離予測部106は自車の運転者が目視により後方確認を行ったタイミングを運動予測開始起点とする。所定時間122の範囲内での自車両の速度V1、周辺車両の速度V2は以下の式(1)(2)から求める。
自車両の速度 V1=V1(t5)±ΔV1/2…(1)
周辺車両の速度V2=V2(t5)±ΔV2/2…(2)
自車両の速度V1、周辺車両の速度V2と同様に、相対距離予測部106は自車両の加速度α1、周辺車両の加速度α2を求める。そして、相対距離予測部106は求めた自車両の速度V1、周辺車両の速度V2、自車両の加速度α1、周辺車両の加速度α2を用いて運動予測を行う。
図13に示した例では、自車の運転者が目視により後方確認を行い、周辺車両を視認した時点での自車両及び周辺車両の速度、加速度、距離(車間距離)の中心値を使って運動予測を行う。図13に示した例では、自車の運転者が目視により視認した時点の周辺車両の速度、加速度、距離(車間距離)を正確に把握しているものと仮定している。
図14は本実施例で必要なデータを表した一例のイメージ図である。図14に示すように本実施例では、自車両の速度及び加速度131、自車の運転者の視線132、自車の運転者の視点原点133、ミラーの設置位置及び設置角度134、周辺車両としての後方車及び斜後車と自車との相対距離及び配向135、周辺車両としての後方車及び斜後車の速度及び加速度136を必要とする。図14に示すデータは例えばサンプリング時間ごとに取得され、情報記憶部44に記憶される。
図15は情報記憶部に記憶されるデータフォーマット及びデータの一例を表した説明図である。なお、図15に示したデータフォーマット及びデータは情報記憶部44に記憶されるデータフォーマット及びデータの一部を示している。
図15のデータフォーマットはデータ項目として、ルームミラー確認、右ドアミラー確認、左ドアミラー確認、ルームミラー範囲内車両有無、右ドアミラー内車両有無、左ドアミラー内車両有無、自車速度、確認車両相対距離、確認車両相対速度、推測相対距離、相対距離推測誤差を有する。
データ項目「時系列番号」は所定時間(例えば0.1秒)ごとに振られるインデックス番号である。データ項目「ルームミラー確認」は運転者がルームミラーを目視したと判定された場合に1、それ以外に0が入力される。データ項目「右ドアミラー確認」は運転者が右ドアミラーを目視したと判定された場合に1、それ以外に0が入力される。データ項目「左ドアミラー確認」は運転者が左ドアミラーを目視したと判定された場合に1、それ以外に0が入力される。
データ項目「ルームミラー範囲内車両有無」はルームミラーに周辺車両が映っていると判定され、且つ、ルームミラーを目視したと判定されている場合に1、それ以外に0が入力される。データ項目「右ドアミラー内車両有無」は右ドアミラーに周辺車両が映っていると判定され、且つ、右ドアミラーを目視したと判定されている場合に1、それ以外に0が入力される。また、データ項目「左ドアミラー内車両有無」は左ドアミラーに周辺車両が映っていると判定され、且つ、左ドアミラーを目視したと判定されている場合に1、それ以外に0が入力される。
データ項目「自車速度」は自車両の速度(km/h)を入力される。データ項目「確認車両相対距離」は運転者がルームミラー、右ドアミラー、左ドアミラー等のミラーにより確認した確認車両(周辺車両)との相対距離(m)を入力される。また、ミラーにより周辺車両が確認されていない場合、データ項目「確認車両相対距離」には数値でないデータ(N.A.)が入力される。
データ項目「確認車両相対速度」は運転者がミラーにより確認した周辺車両との相対速度(m/s)を入力される。ミラーにより周辺車両が確認されていない場合、データ項目「確認車両相対速度」には数値でないデータ(N.A.)が入力される。
データ項目「推測相対距離」は相対距離予測部106により予測された自車両と周辺車両との相対距離(m)を推測相対距離として入力される。ミラーにより周辺車両が確認されていない場合、データ項目「推測相対距離」には数値でないデータ(N.A.)が入力される。
データ項目「相対距離推測誤差」はデータ項目「確認車両相対距離」に入力されている周辺車両との相対距離(m)と、データ項目「推測相対距離」に入力されている周辺車両との相対距離(m)との差が入力されている。なお、ミラーにより周辺車両が確認されていない場合、データ項目「相対距離推測誤差」には数値でないデータ(N.A.)が入力される。
図15に示したデータの利用シークエンスは以下のようになる。時系列番号1から99までは運転者がミラーを目視したと判定されていないため、確認車両相対距離、確認車両相対速度、推測相対距離、相対距離推測誤差に数値でないデータ(N.A.)が入力されている。
また、時系列番号100から104までは運転者がルームミラーを目視したと判定されているが、ルームミラーに周辺車両が映っていないため、確認車両相対距離、確認車両相対速度、推測相対距離、相対距離推測誤差に数値でないデータ(N.A.)が入力されている。
また、時系列番号105から199までは運転者がミラーを目視したと判定されていないため、確認車両相対距離、確認車両相対速度、推測相対距離、相対距離推測誤差に数値でないデータ(N.A.)が入力されている。
また、時系列番号200から204までは運転者がルームミラーを目視したと判定されており、且つ、ルームミラーに周辺車両が映っているため、ミラーにより周辺車両が確認されていると判断し、確認車両相対距離、確認車両相対速度の入力が開始される。
また、時系列番号205では運転者によるミラーの目視が終了している。時系列番号205からは推測相対距離、相対距離推測誤差の入力が開始される。図15の例では確認車両相対距離40m、確認車両相対速度2m/sである例を示している。なお、速度の変わりに加速度を使ってもよい。
時系列番号205から209までは確認車両相対速度2m/sが変化していない。このため、時系列番号210時点(推測開始から0.5秒後)での推測相対距離は、39mとなる。
時系列番号210では確認車両相対速度が10m/sに変化している。しかし、確認車両相対速度はミラーによる周辺車両の目視が終了した時点の確認車両相対速度2m/sが継続して用いられる。
時系列番号223時点(推測開始から1.8秒後)での推測相対距離は、36.4mである。実測の確認車両相対距離26mと推測相対距離36.4mとの差を表す相対距離推測誤差は10.4mとなる。閾値が10mである場合、時系列番号223時点では相対距離推測誤差が閾値を超えるため、自車の運転者に音や映像により警告が通知される。閾値は10m以外の値であってもよい。
以下、本実施例の運転支援装置を含むシステム20の処理手順について説明する。ここでは本実施例の運転支援装置24が搭載された車(自車両)を運転者が片側2車線の高速道路で運転しているシーンを想定する。
例えば自車両の周囲距離測定検知装置22は車載ミリ波レーダなどで自車両(車両A)周囲の周辺車両との距離を所定時間間隔で計測する。例えば車両Aの斜め後ろを走行する周辺車両(車両B)との距離が先の計測でX1、次の計測でX2、計測時間間隔をTとすると、車両Aに対する車両Bの相対速度VはV=(X2−X1)/Tから求めることができる。なお、加速度αも同様に求めることができる。
また、自車両の視線測定装置21は自車の運転者の視線測定を行う。例えば運転者の視線測定は、赤外光LEDを運転者に照射し、赤外光を計測できる車載カメラを用いて運転者の顔を撮影し、撮影画像を画像処理して眼球の三次元計測を行い、角膜反射法などのアルゴリズムを用いて計測する。
計測された運転者の視線の延長軸上に周辺車両が存在した場合、運転支援装置24は運転者が周辺車両を捉えたものと規定する。なお、視線(ベクトル量)の延長軸上にある周辺車両は直視可能車両と呼称する。また、ミラーにより折り返された仮想視線の延長軸上にある周辺車両は間接視認可能車両と呼称する。
以下の説明では間接視認可能車両について記載する。しかし、本実施例はそれに限定されるものではない。運転者が目視したミラーに車両Bが映っていた場合、運転者は周辺車両を認識し、車両Bの速度、加速度、距離に近い値を認識したとする。
運転者が車両Bを認識した瞬間の車両Bの速度をVB、加速度をαB、車両Aと車両Bとの距離をLAB、車両Aと車両Bとの進行方向のなす各をθABとする。運転支援装置24は運転者が車両Bを認識した瞬間から所定時間(例えば10秒)遡って、車両Bの速度、加速度、相対距離、相対配向角度の変動量ΔVB、ΔαB、ΔLAB、ΔθABを求める。
また、運転支援装置24は運転者が車両Bを認識した瞬間の車両Aの速度VA、加速度αAをCANバス30経由で加速度センサ28、速度センサ29から取得する。運転支援装置24は運転者が車両Bを認識した瞬間から所定時間(例えば10秒)遡って、車両aの速度、加速度の変動量ΔVA、ΔαAも取得する。
運転支援装置24は、車両Aが速度VA±ΔVA/2、加速度αA±ΔαA/2、車両Bが速度VB±ΔVB/2、加速度αB±ΔαB/2の範囲で運動しているとして、運動予測を行う。
運動予測は自車両の運転者が車両Bを間接視認した瞬間に開始し、ミラーを見ていない間、継続する。再び間接視認した場合は、上記運動パラメータを再取得し、新たに運動予測を開始する。運動支援装置24は予測した車両Bとの相対距離LABと実測した車両Bとの相対距離LAB´とを比較する。
運動支援装置24は予測した車両Bとの相対距離LABと比較して、実測した車両Bとの相対距離LAB´が所定の値より小さい場合、自車両の運転者が車両Bの接近を予測できていないと考え、警告を通知する。
例えば自車の運転者が周辺車両をミラー越しに目視した瞬間の相対速度が2m/s、相対距離が40mとする。運転者が2秒ミラーを見ない場合、運転者は目視後2秒後に相対距離が36mと予測していると運転支援装置24は仮定する。しかしながら、自車の運転者が周辺車両をミラー越しに目視した直後、0.5秒後に加速し相対速度10m/sとなった場合、車両Bとの相対距離は24mとなり、予測より12mのかい離が発生する。
ここではΔVA、ΔVBを考慮せず説明したが、これらの運動パラメータを考慮に入れて予測を行うと、更に予測値と実測値とのかい離が大きくなる。本実施例のシステム20は所定の値(例えば10m)以上、予測と実測のかい離が確認された場合、運転者に警告を通知する。したがって、本実施例のシステム20では運転者がミラー確認を怠ったことによる車両Bの急接近を認知させることが可能となる。
本実施例における運転支援プログラムは、パッケージソフトの他、WEBサービス等によっても提供可能である。なお、上記の特許請求の範囲に記載した推測手段は相対距離予測部106に相当し、比較手段は相対距離予測実測比較部107に相当し、通知手段は警告通知部108に相当する。確認手段は目視確認部41に相当する。ミラー目視確認手段はミラー目視確認部62に相当し、ミラー映像確認手段はミラー入射映像確認部63に相当し、車両目視確認手段は車両目視確認部64に相当する。
本発明は、以下に記載する付記のような構成が考えられる。
(付記1)
運転者による自車両と周辺車両との予測相対距離を推測する推測手段と、
前記自車両と周辺車両との実測相対距離と前記予測相対距離とを比較する比較手段と、
前記比較した結果、前記実測相対距離が前記予測相対距離から所定値以上乖離したときに前記運転者に通知する通知手段と
を有することを特徴とする運転支援装置。
(付記2)
前記運転者による前記周辺車両の目視を確認する確認手段を更に有し、
前記推測手段は、前記運転者による前記周辺車両の目視を確認したタイミングで前記運転者による自車両と周辺車両との予測相対距離を推測する
ことを特徴とする付記1記載の運転支援装置。
(付記3)
前記確認手段は、前記運転者によるミラーの目視を、前記運転者の視線の測定結果及びミラーの位置及び角度に基づき確認するミラー目視確認手段と、
前記ミラーにより折り返された前記運転者の視線の延長軸上に前記周辺車両が存在するかに基づき、前記ミラーに前記周辺車両が映っているかを確認するミラー映像確認手段と、
前記運転者による前記周辺車両の目視を、前記運転者による前記ミラーの目視及び前記ミラーに前記周辺車両が映っているかに基づき確認する車両目視確認手段と
を有する付記2記載の運転支援装置。
(付記4)
コンピュータによって実行される運転支援方法であって、
運転者による自車両と周辺車両との予測相対距離を推測し、
前記自車両と周辺車両との実測相対距離と前記予測相対距離とを比較し、
前記比較した結果、前記実測相対距離が前記予測相対距離から所定値以上乖離したときに前記運転者に通知する
ことを特徴とする運転支援方法。
(付記5)
運転者による自車両と周辺車両との予測相対距離を推測し、
前記自車両と周辺車両との実測相対距離と前記予測相対距離とを比較し、
前記比較した結果、前記実測相対距離が前記予測相対距離から所定値以上乖離したときに前記運転者に通知する
処理をコンピュータに実行させる運転支援プログラム。
20 システム
21 視線測定装置
22 周囲距離測定検知装置
23 周囲カメラ
24 運転支援装置
25 ナビゲーション装置
26 音声出力器
27 表示器
28 加速度センサ
29 速度センサ
30 CAN(Controller Area Network)バス
31 主記憶装置
32 演算処理装置
33 インタフェース装置
34 記録媒体読取装置
35 補助記憶装置
36 記録媒体
37 バス
41 目視確認部
42 警告処理部
43 データ収集部
44 情報記憶部
51 顔映像取得部
52 視点原点算出部
53 視線方向算出部
54 送信部
61 周辺車両距離計測部
62 ミラー目視確認部
63 ミラー入射映像確認部
64 車両目視確認部
65 ミラー設置データ
91 仮想視点原点算出部
92 ミラー設置位置取得部
93 ミラー設置角度取得部
94 仮想視線視認可能範囲算出部
95 周囲車両視認可能判断部
101 周辺車両距離計測部
102 周辺車両速度加速度算出部
103 周辺車両速度加速度記録部
104 周辺車両速度加速度予測部
105 自車両速度加速度予測部
106 相対距離予測部
107 相対距離予測実測比較部
108 警告通知部

Claims (5)

  1. 自車両と周辺車両との相対距離の遷移を予測した、運転者による自車両と周辺車両との予測相対距離を推測する推測手段と、
    前記自車両と周辺車両との実測相対距離と前記予測相対距離とを比較する比較手段と、
    前記比較した結果、前記実測相対距離が前記予測相対距離から所定値以上乖離したときに前記運転者に通知する通知手段と
    を有することを特徴とする運転支援装置。
  2. 前記運転者による前記周辺車両の目視を確認する確認手段を更に有し、
    前記推測手段は、前記運転者による前記周辺車両の目視を確認したタイミングで前記運転者による自車両と周辺車両との予測相対距離を推測する
    ことを特徴とする請求項1記載の運転支援装置。
  3. 前記確認手段は、前記運転者によるミラーの目視を、前記運転者の視線の測定結果及びミラーの位置及び角度に基づき確認するミラー目視確認手段と、
    前記ミラーにより折り返された前記運転者の視線の延長軸上に前記周辺車両が存在するかに基づき、前記ミラーに前記周辺車両が映っているかを確認するミラー映像確認手段と、
    前記運転者による前記周辺車両の目視を、前記運転者による前記ミラーの目視及び前記ミラーに前記周辺車両が映っているかに基づき確認する車両目視確認手段と
    を有する請求項2記載の運転支援装置。
  4. コンピュータによって実行される運転支援方法であって、
    自車両と周辺車両との相対距離の遷移を予測した、運転者による自車両と周辺車両との予測相対距離を推測する処理と
    前記自車両と周辺車両との実測相対距離と前記予測相対距離とを比較する処理と
    前記比較した結果、前記実測相対距離が前記予測相対距離から所定値以上乖離したときに前記運転者に通知する処理とを
    コンピュータに実行させることを特徴とする運転支援方法。
  5. 自車両と周辺車両との相対距離の遷移を予測した、運転者による自車両と周辺車両との予測相対距離を推測する処理
    前記自車両と周辺車両との実測相対距離と前記予測相対距離とを比較する処理
    前記比較した結果、前記実測相対距離が前記予測相対距離から所定値以上乖離したときに前記運転者に通知する処理
    をコンピュータに実行させる運転支援プログラム。
JP2010279574A 2010-12-15 2010-12-15 運転支援装置、運転支援方法及び運転支援プログラム Expired - Fee Related JP5742201B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010279574A JP5742201B2 (ja) 2010-12-15 2010-12-15 運転支援装置、運転支援方法及び運転支援プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010279574A JP5742201B2 (ja) 2010-12-15 2010-12-15 運転支援装置、運転支援方法及び運転支援プログラム

Publications (2)

Publication Number Publication Date
JP2012128665A JP2012128665A (ja) 2012-07-05
JP5742201B2 true JP5742201B2 (ja) 2015-07-01

Family

ID=46645603

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010279574A Expired - Fee Related JP5742201B2 (ja) 2010-12-15 2010-12-15 運転支援装置、運転支援方法及び運転支援プログラム

Country Status (1)

Country Link
JP (1) JP5742201B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6447244B2 (ja) * 2015-03-02 2019-01-09 株式会社Jvcケンウッド 位置判定装置、運行監視システム、及び位置判定方法
JP6447243B2 (ja) * 2015-03-02 2019-01-09 株式会社Jvcケンウッド 位置判定装置、運行監視システム、及び位置判定方法
JP2017097759A (ja) * 2015-11-27 2017-06-01 株式会社デンソー 視線方向検出装置、及び視線方向検出システム
CN109478369A (zh) * 2016-07-22 2019-03-15 三菱电机株式会社 驾驶辅助装置、驾驶辅助方法和驾驶辅助程序
JP7488689B2 (ja) 2020-05-07 2024-05-22 株式会社Subaru 車両の運転支援装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3159722B2 (ja) * 1991-03-11 2001-04-23 道弘 観音寺 車間距離報知装置
JP4924611B2 (ja) * 2006-09-29 2012-04-25 アイシン精機株式会社 車両用警報装置及び車両用警報方法

Also Published As

Publication number Publication date
JP2012128665A (ja) 2012-07-05

Similar Documents

Publication Publication Date Title
US9977243B2 (en) Method for executing vehicle function using wearable device and vehicle for carrying out the same
US9007198B2 (en) Adaptive Actuator interface for active driver warning
KR102051142B1 (ko) 차량용 운전자 위험 지수 관리 시스템 및 그 방법
CN111361552B (zh) 自动驾驶系统
JP5742201B2 (ja) 運転支援装置、運転支援方法及び運転支援プログラム
KR20200086268A (ko) 정보 처리 장치 및 정보 처리 방법
FI124068B (en) Procedure for improving driving safety
US11485380B2 (en) Method and control device for warning a driver of a motor vehicle and motor vehicle with such a control device
CN109109800A (zh) 汽车雷达报警提示方法及装置
US7800486B2 (en) Driving operation feedback apparatus and program for same
US11180082B2 (en) Warning output device, warning output method, and warning output system
WO2020100539A1 (ja) 情報処理装置、移動装置、および方法、並びにプログラム
JP7210929B2 (ja) 運転意識推定装置
US11092458B2 (en) Navigation system with operation obstacle alert mechanism and method of operation thereof
US20210380143A1 (en) Handover assistant for machine to driver transitions
KR20210113070A (ko) 주의 기반 알림
US9789815B2 (en) Navigation device, navigation method, and computer program product
JP2017129973A (ja) 運転支援装置および運転支援方法
JP5013175B2 (ja) 走行制御装置および方法、プログラム、並びに記録媒体
JP2004210213A (ja) 情報提供装置
JP2008021265A (ja) 運転支援装置及びコンピュータプログラム
CN111169483A (zh) 一种辅助驾驶方法、电子设备和具有存储功能的装置
US20220076670A1 (en) Virtual conversation agent for controlling multiple vehicular intelligent virtual assistants
Kashevnik et al. Dangerous situation prediction and driving statistics accumulation using smartphone
KR101763389B1 (ko) 운전 부주의 경고 방법 및 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130904

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140610

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140811

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150420

R150 Certificate of patent or registration of utility model

Ref document number: 5742201

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees