JP2015142188A - 運転支援装置、および運転支援方法 - Google Patents

運転支援装置、および運転支援方法 Download PDF

Info

Publication number
JP2015142188A
JP2015142188A JP2014012868A JP2014012868A JP2015142188A JP 2015142188 A JP2015142188 A JP 2015142188A JP 2014012868 A JP2014012868 A JP 2014012868A JP 2014012868 A JP2014012868 A JP 2014012868A JP 2015142188 A JP2015142188 A JP 2015142188A
Authority
JP
Japan
Prior art keywords
vehicle
image
relative position
outer shape
driving support
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014012868A
Other languages
English (en)
Other versions
JP6291866B2 (ja
Inventor
真紀子 田内
Makiko Tauchi
真紀子 田内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2014012868A priority Critical patent/JP6291866B2/ja
Priority to US15/104,935 priority patent/US10099617B2/en
Priority to PCT/JP2015/000324 priority patent/WO2015111417A1/ja
Publication of JP2015142188A publication Critical patent/JP2015142188A/ja
Application granted granted Critical
Publication of JP6291866B2 publication Critical patent/JP6291866B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Arrangement of adaptations of instruments
    • B60K35/22
    • B60K35/28
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/31Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing stereoscopic vision
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/165Anti-collision systems for passive traffic, e.g. including static obstacles, trees
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/168Driving aids for parking, e.g. acoustic or visual feedback on parking space
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • B60K2360/171
    • B60K2360/179
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Abstract

【課題】車両と対象物との位置関係を高い精度で表示する。
【解決手段】車両の周辺に存在する対象物の位置と、該対象物の少なくとも車両に面する側の外形形状とを検出する。また、車両の移動方向および移動量に関する移動情報を取得する。そして、検出した対象物の位置と、取得した移動情報とに基づいて、車両に対する対象物の相対位置を推定する。さらに、車両の外形形状と、対象物の外形形状と、該車両に対する該対象物の相対位置とに基づいて、該車両および該対象物を上方から見た上面視画像を生成して、この上面視画像を表示部に表示する。
【選択図】図1

Description

本発明は、車両周辺の状況を表示部に表示することで運転を支援する技術に関する。
車両にカメラを搭載し、車両の周辺状況を撮影することで、車両と車両の周辺に存在する対象物(ガードレールや他の車両等)との位置関係を表示する技術が知られている。この位置関係は車両上方から見た方が運転者にとって把握し易いことから、このような技術の中には、車両上方から見た車両周辺の画像を表示する技術が存在する。
もっとも、車両上方にカメラを取り付けることはできないので、車両上方から見た画像を直接的に得ることはできない。そこで、このような技術では、車両から車両周辺に向けてカメラを設置し、このカメラで撮影した画像を車両上方からの視点に変換(視点変換)することで得られた画像を表示している(例えば、特許文献1)。
特開2012−175314号公報
しかし、カメラで撮影した画像を視点変換すると歪みが生じるので、車両と対象物との位置関係が実際とは異なった状態で表示されてしまう可能性がある。
この発明は、従来の技術が有する上述した課題に鑑みてなされたものであり、車両と対象物との位置関係を高い精度で表示する技術の提供を目的とする。
上述した課題を解決するために、本発明の運転支援装置および運転支援方法は、車両の周辺に存在する対象物の位置と、該対象物の少なくとも車両に面する側の外形形状とを検出する。また、車両の移動方向および移動量に関する移動情報を取得する。そして、検出した対象物の位置と、取得した移動情報とに基づいて、車両に対する対象物の相対位置を推定する。さらに、車両の外形形状と、対象物の外形形状と、該車両に対する該対象物の相対位置とに基づいて、該車両および該対象物を上方から見た上面視画像を生成して、この上面視画像を表示部に表示する。
対象物が撮影された画像(撮影画像)を表示すると、画像に歪みが生じて車両と対象物との位置関係は実際と異なったものになり易い。この点、本発明は、撮影画像を表示せずに、車両の外形形状と、対象物の外形形状と、該車両に対する該対象物の相対位置とに基づいて生成された上面視画像を表示する。したがって、撮影画像を表示する場合のように画像に歪みが生じることがなく、車両と対象物との位置関係を高い精度で見易く表示することができる。
運転支援装置10の構成を示す説明図である。 制御装置12によって実行される位置関係表示処理の前半部分を示すフローチャートである。 制御装置12によって実行される位置関係表示処理の後半部分を示すフローチャートである。 対象物画像を生成する様子を示す説明図である。 自車両画像と対象物画像とが表示部16に表示されている様子を示す説明図である。 報知画像が表示部16に表示されている様子を示す説明図である。 撮影画像を表示する従来の技術を例示する説明図である。 対象物が死角に入る様子を示す説明図である。 対象物が死角に入ったときにおける自車両画像と対象物画像とが表示部16に表示されている様子を示す説明図である。 死角対象物データベースを概念的に示す説明図である。
以下では、上述した本願発明の内容を明確にするために運転支援装置の実施例について説明する。
A.装置構成 :
図1には、車両1に設けられた運転支援装置10の構成が示されている。本実施例の運転支援装置10はステレオカメラ11を備えており、このステレオカメラ11は車両1の前方を向けて並設された2つのカメラ11a,11bから構成されている。また、本実施例の運転支援装置10は、ステレオカメラ11が撮影した画像に基づいて所定の処理を実行する制御装置12、制御装置12の処理結果を表示する表示部13を備えている。これらのうち、制御装置12は、CPUやメモリ、各種コントローラー等が搭載された基板を有しており、運転席前方のインストルメントパネルの奥側に設置されている。また、表示部13としては、表示画面を運転席側に向けてインストルメントパネルに設置された液晶表示器や、フロントガラス(ウインドシールド)に表示内容を投影するヘッドアップディスプレイ等が設置されている。
制御装置12内部をそれぞれの機能を有する機能ブロックに分類すると、制御装置12は、ステレオカメラ11に撮影された対象物(例えば、ガードレールや、壁、他車両、縁石など)の形状を検出すると共に対象物を示す画像(以下「対象物画像」という)を生成する形状検出部14や、ステレオカメラ11が撮影した画像から車両1に対する対象物の相対位置(以下「第1相対位置」という)を検出する第1相対位置検出部15、車両1の移動方向や移動量に関する移動情報を検出する移動情報取得部17、第1相対位置と移動情報に基づいて、ステレオカメラ11に対象物が撮影された後における車両1に対する対象物の相対位置(本発明における「相対位置」、以下「第2相対位置」という)を推定する第2相対位置検出部16、車両1と対象物との間隔が距離D(例えば、50cm)以下である箇所を検出する狭間隔箇所検出部18、車両1を示す自車両画像(車両1の外形形状)が記憶された記憶部19、車両1の上方からみた車両1の周辺状況を示す画像(上面視画像)を生成する画像生成部20、画像生成部20が生成した上面視画像を表示部13に表示させる表示処理部21を備えている。
尚、ステレオカメラ11を構成するカメラ11a,11bが本発明における「撮影手段」に対応し、記憶部19が本発明における「記憶手段」に対応し、形状検出部14および第1相対位置検出部15が本発明における「対象物検出手段」に対応し、移動情報取得部17が本発明における「移動情報取得手段」に対応し、第2相対位置検出部16が本発明における「相対位置推定手段」に対応し、狭間隔箇所検出部18が本発明における「狭間隔箇所検出手段」に対応し、画像生成部20が本発明における画像生成手段に対応し、表示処理部21が本発明における「表示手段」に対応している。また、形状検出部14は本発明における「対象物生成手段」にも対応している。
以下では、上述したような運転支援装置10において行われる「位置関係表示処理」について説明する。位置関係表示処理では、表示部13に車両1と対象物との位置関係(車両1の周辺状況)を示す上面視画像を表示するための処理が行われる。
B.位置関係表示処理 :
図2および図3には、本実施例の運転支援装置10において行われる位置関係表示処理のフローチャートが示されている。尚、位置関係表示処理は実際には、制御装置12内部のCPUがROMに記憶されたプログラムを実行することによって行われるが、以下では、制御装置12または上述した機能ブロック14〜19を実行主体として説明する。また、位置関係表示処理はタイマ割り込み処理として(例えば60分の1秒毎に)行われる。
図2および図3に示す位置関係表示処理を開始すると、制御装置12は先ず、ステレオカメラ11に撮影指示信号を出力することで、ステレオカメラ11に車両1前方を撮影させるとともに、その撮影された画像(カメラ11a,11bによって同時に撮影された2つの撮影画像)を取得する。続いて、制御装置12の画像生成部20は、記憶部19から自車両画像を読み出し、該自車両画像をフレームバッファ等の表示画像領域に配置(記憶)する。表示画像領域とは、表示部13に表示される上面視画像が生成される領域である(S100、図6参照)。また、自車両画像とは、上方から見た車両1を示す画像である。この自車両画像は、車両1を上方から見た場合の外形を(バンパーの凹凸等も含めて)正確に縮小した画像(例えば縮尺が100分の1の画像)であることが好ましい。これは、車両1と対象物との間隔を高い精度で表示部13に表示するためである。
画像生成部20が表示画像領域に自車両画像を配置したら(S100)、制御装置12は、ステレオカメラ11から取得した2つの撮影画像の中に、ガードレールや壁、他車両、縁石などの対象物が存在するか否かを判断する(S102)。例えば、制御装置12内のROMに種々の対象物の形状をテンプレートとして記憶しておき、撮影画像の中にそのテンプレートに適合(マッチ)する部分が存在するか否かを判断する(いわゆるテンプレートマッチング処理を行う)。
尚、このS102の判断処理では、「遠方の対象物(車両1から所定の距離より離れた位置に存在する対象物)」については、撮影画像の中に存在していても検出せずに(存在しないと判断し)、「近傍の対象部(車両1から所定の距離以内の位置に存在する対象物)」について検出する(存在すると判断する)こととしている。例えば、上述のテンプレートマッチング処理において、小さめのテンプレート(遠方の対象物に対応するテンプレート)は使用せずに、大きめのテンプレート(近傍の対象物に対応するテンプレート)に適合した対象物が存在するか否かを判断する。詳しくは後述するが、本実施例の運転支援装置10では、S102の判断処理で対象物を検出すると、この対象物を示す対象物画像を表示部13に表示することとしている。したがって、S102の判断処理で、直ぐに車両1に接触する虞のない遠方の対象物も検出してしまうと、この遠方の対象物を示す対象物画像も表示されてしまい、接触する虞のある近傍の対象物を示す対象物画像を運転者が認識し難くなってしまう可能性がある。このようなことを防止すべく、S102の判断処理では遠方の対象物は検出しないこととしている。
S102の判断処理の結果、撮影画像中に対象物(近傍の対象物)が存在していると判断された場合は(S102:yes)、制御装置12の形状検出部14は、その対象物の形状を検出する(S104)。ここで、上述したように、ステレオカメラ11のカメラ11a,11bは、異なった位置から(いわゆる視差のある状態で)車両1の前方を撮影する。したがって、カメラ11a,11bの撮影画像の差分に基づいて、車両1から画像に写る所定箇所までの距離を検出することが可能である。そこで、形状検出部14は、図4(a)に示すように先ず、S102の処理で検出された対象物(ここでは凹凸のある壁)の複数の部位までの距離を検出する。すなわち、車両1から対象物の複数の部位までの距離は互いに異なることがあるので、その複数の部位までの距離をそれぞれ検出する。そして、それらの距離に基づいて、図4(b)に示すように、上方から見たときの対象物の車両1側の形状を検出する(S104)。
こうして、対象物の車両1側の形状を検出したら(S104)、対象物のその他の部分の形状を補完することで、対象物を示す対象物画像を生成する(S106)。すなわち、S104の処理では、対象物の形状のうち車両1側しか検出することができないので、その他の部分の形状を補完する。例えば、予め種々の対象物に対応する形状の画像(既成の画像)を記憶部19に記憶しておく。そして、S104の処理で検出された対象物の車両1側の形状に基づいて、この対象物の種類を推定する。続いて、推定された対象物に対応する既成の画像を読み出し、図4(c)に示すように、この既成の画像にS104で検出された対象物の車両1側の形状を反映させる(合成する)ことで、検出された対象物を示す対象物画像を生成する(S106)。
尚、対象物画像を生成するに際しては、対象物画像の縮尺は自車両画像と同じにする。例えば、自車両画像の縮尺が100分の1であれば、既成の画像も縮尺が100分の1のものを予め記憶しておく。そして、既成の画像に対象物の車両1側の形状を反映させる前に、対象物の車両1側の形状も縮尺を100分の1にする。
こうして、対象物画像を生成したら(S106)、制御装置12の第1相対位置検出部15は、車両1に対する対象物の相対位置(第1相対位置)を検出する(S108)。上述したように、ステレオカメラ11の撮影画像(カメラ11a,11bの2つの撮影画像)からは、画像に写る所定箇所の車両1からの距離を検出することが可能であるので、ここでは車両1から対象物までの距離を検出する。そして、この距離に基づいて車両に対する対象物の第1相対位置(例えば、車両1の中心を原点とした2次元座標)を検出する。尚、第1相対位置を検出するにあたっては、S104の処理で検出された「車両1から対象物の複数の部位までの距離」に基づいて検出してもよい。また、S108の処理で検出された第1相対位置も、対象物画像と同様に、縮尺を100分の1にする。
こうして、対象物画像を生成すると共に(S106)対象物の第1相対位置を検出したら(S108)、画像生成部20は、対象物の第1相対位置に基づいて対象物画像を表示用記憶領域に配置する(S110)。すなわち、図5に示すように、表示部13の表示画面上の「第1相対位置に対応する位置」に、対象物画像が「車両1側の形状に対応する部分」を自車両画像側に向けて表示されるように、対象物画像を表示用記憶領域に配置する。
続いて、対象物と車両1との間隔が所定の距離D(例えば、50cm)以下の箇所(以下「狭間隔箇所」という)があるか否かを判断する(S112)。この判断処理は、表示用記憶領域上(表示画面上)における対象物画像と自車両画像との間隔が「距離Dの縮尺を100分の1にした距離(例えば、5mm)」以下の箇所があるか否かを判断してもよいし、ステレオカメラ11の画像に基づいて車両1から対象物の各部位までの距離を検出して距離D以下の箇所があるか否かを判断してもよい。この結果、対象物と車両1との間隔が所定の距離D以下の箇所(狭間隔箇所)がある場合は(S112:yes)、画像生成部20は、狭間隔箇所の位置に基づいて「対象物と車両1との間隔(ここでは50cm)を報知する報知画像」を表示用記憶領域に配置する。すなわち、図6に示すように、狭間隔箇所に対応する位置(表示部13の表示画面上の位置)に報知画像が表示されるように、報知画像を表示用記憶領域に配置する。
その後、S102の処理に戻り、ステレオカメラ11の撮影画像中に他の対象物が存在しないか否かを判断する。そして、他の対象物が存在する場合は(S102:yes)、上述したS104〜S114の処理を繰り返す。すなわち、ステレオカメラ11の撮影画像中に存在する対象物毎に、対象物画像を生成すると共に第1相対位置を検出し、その第1相対位置に対応する位置に対象物画像が表示されるように、対象物画像を表示用記憶領域に配置する。また、狭間隔箇所が存在する場合は、狭間隔箇所に対応する位置に報知画像が表示されるように、報知画像を表示用記憶領域に配置する。
ここで、本実施例の運転支援装置10と従来技術とを比較する。図7(a)には、車両に設けられたカメラで撮影した画像をそのまま表示部に表示する従来技術が示されている。このような従来技術では、図7(a)に示すように、カメラの性能によって画像がぼやけたり車両近傍(ここではバンパー)が歪んだりするので、運転者にとって車両と対象物との位置関係を認識し難い。また、車両と対象物との位置関係は車両上方から見た方が認識し易いものの、車両上方にカメラを取り付けることができないので、車両上方から見た画像とは異なる認識し難い画像を表示することとなってしまう。また、図7(b)には、車両に設けられたカメラで撮影した画像を車両上方からの視点に変換(視点変換)して表示部に表示する従来技術が示されている。このような従来技術では、図7(b)に示すように、車両上方から見た画像を表示することはできるものの、撮影した画像(ここでは壁の画像)を視点変換すると画像が歪んでしまうので、運転者にとって車両と対象物との位置関係(例えば、車両と壁との間隔)を認識し難くなってしまう。
これらの従来技術に対して、本実施例の運転支援装置10は、図5を用いて前述したように、車両1を上方から見た自車両画像を表示すると共に、対象物の車両1に対する相対位置(第1相対位置)に対応する位置に、対象物を上方から見た対象物画像を表示する。したがって、運転者にとって車両1と対象物との位置関係を認識し易い上方からの視点で、自車両画像と対象物画像とを表示することができる。また、自車両画像や対象物画像に歪みが生じることがないので、車両と対象物との位置関係(例えば、車両と対象物との間隔)を高い精度で表示することができる。
また、本実施例の運転支援装置10は、対象物の車両1側の形状を検出し、検出された形状を反映した対象物画像を表示するので、対象物を上方から見た場合の対象物の車両1側の形状を高い精度で表示することができ、ひいては、対象物と車両1との間隔を高い精度で表示することができる。
また、図1を用いて前述したように、本実施例の運転支援装置10は、ステレオカメラ11(カメラ11a,11b)を備えており、ステレオカメラ11に撮影された2つ画像の差分に基づいて車両1から対象物までの距離を検出する。したがって、高い精度で車両1に対する対象物の相対位置や車両1側の対象物の形状を検出することができ、ひいては、車両と対象物との位置関係や、対象物の車両1側の形状を高い精度で表示することができる。
また、図6を用いて前述したように、本実施例の運転支援装置10は、対象物と車両1との間隔が所定の距離D以下の箇所(狭間隔箇所)がある場合は、その箇所に対応する位置(表示部13の表示画面上の位置)に、対象物と車両1との間隔を報知する報知画像を表示する。したがって、車両1が対象物に接近していることを、狭間隔箇所が運転者にとって認識し易い態様で報知することができる。
以上は、本実施例の運転支援装置10において、ステレオカメラ11に撮影された対象物を示す対象物画像を表示部13に表示する処理(S104〜S114)について説明した。これに対して、ステレオカメラ11に撮影された対象物を示す対象物画像を全て表示した場合や、ステレオカメラ11に対象物が撮影されなかった場合は(S102:no)、ステレオカメラ11の死角(ステレオカメラ11の撮影可能範囲の外側)に存在する対象物を示す対象物画像を表示するための処理を行う。この処理では先ず、前回の位置関係表示処理(図2および図3)において対象物画像を表示(配置)してからの車両1の移動情報(移動方向および移動量)を、移動情報取得部17が取得する(S116)。例えば、運転支援装置10とは別の「車両1のステアリングの操舵角や速度を検出するシステム」からこれらの情報(いわゆるCAN情報)を受信して、これらの情報に基づいて移動上方を取得する。尚、以下では、前回の位置関係表示処理(図2および図3)を単に「前回」と表現し、今回の位置関係表示処理を単に「今回」と表現する。
こうして、対象物画像を前回表示してからの車両1の移動情報を検出したら(S116)、前回表示した対象物全てについて今回の相対位置(車両1が移動した後の相対位置、第2相対位置)を演算(推定)する(S118)。この演算処理は、「対象物画像を前回表示したときの対象物の相対位置(第1相対位置)」と「対象物画像を前回表示してからの車両1の移動情報」とに基づいて行われる。例えば、第1相対位置を示す二次元座標に、車両1の移動情報分を反映させることによって、今回の相対位置(第2相対位置)を演算する。こうして、前回表示した対象物全てについて今回の相対位置(第2相対位置)を演算したら(S118)、「今回の相対位置(第2相対位置)がステレオカメラ11の死角に位置する対象物」が存在するか否かを判断する(S120)。すなわち、前回表示した対象物画像に対応する対象物のうち、ステレオカメラ11の死角に入った対象物が存在するか否かを判断する。
その結果、ステレオカメラ11の死角に入った対象物が存在する場合は(S120:yes)、その対象物の相対位置(第2相対位置)が対象物画像を表示可能な範囲であるか否かを判断する(S122)。すなわち、表示部16の表示領域は当然ながら限りがあるので、このことに対応して対象物(対象物画像)を表示できる相対位置(第2相対位置)の範囲も所定の範囲内(例えば、車両1の前後方向2m以内、左右方向3m以内)となる。そこで、S122の判断処理は、この所定の範囲内(表示可能な範囲内)に、ステレオカメラ11の死角に入った対象物の相対位置(第2相対位置)が存在するか否かを判断する。
その結果、ステレオカメラ11の死角に入った対象物の相対位置(第2相対位置)が表示可能な範囲内にある場合は(S122:yes)、その相対位置(第2相対位置)に対応する表示画面上の位置に、対象物画像(前回表示した対象物画像)が表示されるように、画像生成部20が対象物画像を表示用記憶領域に配置する(S124)。
図8には、対象物がステレオカメラ11の死角に入る様子が示されており、図9には、そのときの表示部16の表示内容が示されている。尚、図8および図9では、対象物および対象物画像を簡略化して(円形で)示している。
本実施例の運転支援装置10は上述のS116〜S124の処理を行うことによって、図8に示すように対象物がステレオカメラ11の撮影可能範囲から撮影不能範囲(死角)に入った場合であっても、「対象物画像を前回表示したときの対象物の相対位置(第1相対位置)」と「対象物画像を前回表示してからの車両1の移動情報」とに基づいて「今回の対象物の相対位置(第2相対位置)」を演算して、この相対位置(第2相対位置)に対応する位置に、該対象物の対象物画像を表示することができる(図9)。したがって、対象物を撮影した後に車両1が移動することで該対象物がステレオカメラ11の死角に入った場合であっても、車両1と対象物との位置関係を高い精度で表示することができる。
こうして、ステレオカメラ11の死角に入った対象物を示す対象物画像を表示したら(S124)、死角に入った対象物と車両1との間隔が所定の距離D(例えば、50cm)以下の箇所(狭間隔箇所)があるか否かを判断する(S126)。この判断処理は、例えば、死角に入った対象物画像と自車両画像との表示用記憶領域上(表示画面上)における間隔が「距離Dの縮尺を100分の1にした距離(例えば、5mm)」以下の箇所があるか否かを判断する。この結果、死角に入った対象物と車両1との間隔が所定の距離D以下の箇所(狭間隔箇所)がある場合は(S126:yes)、その狭間隔箇所に対応する位置(表示部13の表示画面上の位置)に報知画像が表示されるように、画像生成部20が報知画像を表示用記憶領域に配置する(S128)。こうすると、死角に入った対象物に車両1が接近していることを、狭間隔箇所が運転者にとって認識し易い態様で報知することができる。
ステレオカメラ11の死角に入った対象物を示す対象物画像を表示した場合(S124)はさらに、この対象物の対象物画像と相対位置(第2相対位置)とに対応付けて、識別情報(ID)を付与する(S130)。
図10には、本実施例の運転支援装置10における死角対象物データベースが例示されている。死角対象物データベースとは、死角に入った対象物のうち、対象物画像を表示中の対象物を制御装置12が記憶するためのデータベースであり、記憶部19に記憶されている。すなわち、対象物が死角に移動した場合であっても、その対象物を示す対象物画像を表示している限りは、その対象物の対象物画像(の形状)と相対位置とを記憶しておく必要がある。そこで、対象物が死角に入った場合は、その対象物の対象物画像と相対位置とにIDを付与して記憶する。
こうして、S120〜S130の処理を行ったら、S120の処理に戻り、死角に入った他の対象物が存在しないか否かを判断する。その結果、死角に入った他の対象物が存在する場合は(S120:yes)、上述したS120〜S130の処理を繰り返す。すなわち、死角に入った対象物毎に、今回の相対位置(第2相対位置)を演算して、その相対位置(第2相対位置)が表示可能な範囲にあれば、該相対位置(第2相対位置)に対応する位置に対象物画像が表示されるように対象物画像を表示用記憶領域に配置すると共に、死角に入った対象物(対象物画像および相対位置)にIDを付与して死角対象物データベースに記憶する。また、死角に入った対象物と車両1との間隔が所定の距離D以下の箇所(狭間隔箇所)が存在する場合は、その狭間隔箇所に対応する位置に報知画像が表示されるように、報知画像を表示用記憶領域に配置する。
以上は、対象物が今回からステレオカメラ11の死角に入った場合に、該対象物を示す対象物画像を表示する処理(S116〜S130)について説明した。これに対して、対象物が前回以前にステレオカメラ11の死角に入った場合は、次のような処理を行う。制御装置12は先ず、前回以前にステレオカメラ11の死角に入った対象物を示す対象物画像が表示されているか否かを判断する(S132)。すなわち、前回以前に死角に入った対象物を示す対象物画像が表示されている場合は、図10を用いて上述した死角対象物データベースに記憶されているので(前回以前のS130の処理で記憶されているので)、S132の判断処理は、死角対象物データベースに前回以前にIDが付与されて記憶された対象物(対象物画像および相対位置)があるか否かを判断することによって行われる。尚、以下では、前回以前に死角に入った対象物は上述したようにIDが付与されていることから、該対象物を「ID付与済みの対象物」と表現する。
S132の判断処理の結果、ID付与済みの対象物が存在すると判断された場合は(S132:yes)、該ID付与済みの対象物の前回の相対位置(死角対象物データベースに記憶されている相対位置)と、S116の処理で検出された車両1の移動情報(対象物画像を前回表示してからの車両1の移動情報)とに基づいて、ID付与済みの対象物の今回の相対位置を演算する(S134)。例えば、ID付与済みの対象物の前回の相対位置を示す二次元座標に、車両1の移動情報分を反映させることによって、今回の相対位置を演算する。
こうして、ID付与済みの対象物の今回の相対位置を検出したら(S134)、その相対位置が対象物画像を表示可能な範囲であるか否かを判断する(S136)。すなわち、前述したように、表示部16の表示領域は限りがあるので、このことに対応して対象物(対象物画像)を表示できる相対位置の範囲も所定の範囲内(例えば、車両1の前後方向2m以内、左右方向3m以内)となる。そこで、S136の判断処理は、この所定の範囲内(表示可能な範囲内)に、ID付与済みの対象物の相対位置があるか否かを判断する。
その結果、ID付与済みの対象物の相対位置が表示可能な範囲内にある場合は(S136:yes)、その相対位置に対応する表示画面上の位置に、該IDに対応する対象物画像(死角対象物データベースに記憶されている対象物画像)が表示されるように、画像生成部20が対象物画像を配置する(S138)。尚、ID付与済みの対象物を示す対象物画像を配置した場合は、死角対象物データベースにおける該IDに対応する相対位置をS134の処理で演算された相対位置に更新する。
こうして、ID付与済みの対象物を示す対象物画像を表示したら(S138)、ID付与済みの対象物と車両1との間隔が所定の距離D(例えば、50cm)以下の箇所(狭間隔箇所)があるか否かを判断する(S140)。この判断処理は、例えば、ID付与済みの対象物画像と自車両画像との表示用記憶領域上(表示画面上)における間隔が「距離Dの縮尺を100分の1にした距離(例えば、5mm)」以下の箇所があるか否かを判断する。この結果、ID付与済みの対象物と車両1との間隔が所定の距離D以下の箇所(狭間隔箇所)がある場合は(S140:yes)、その狭間隔箇所に対応する位置(表示部13の表示画面上の位置)に、対象物と車両1との間隔を報知する報知画像が表示されるように、画像生成部20が報知画像を表示用記憶領域に配置する(S142)。こうすると、前回以前に死角に入った対象物(ID付与済みの対象物)に車両1が接近していることを、狭間隔箇所が運転者にとって認識し易い態様で報知することができる。
一方、S136の判断処理で、ID付与済みの対象物の相対位置が表示可能な範囲内にない場合は(S136:no)、該ID付与済みの対象物を示す対象物画像を表示することはできないので、S138〜S142の処理は省略すると共に、死角対象物データベースから該対象物(IDと、該IDが付与された対象物画像および相対位置)を消去する(S144)。
こうして、S132〜S144の処理を行ったら、S132の処理に戻り、他のID付与済みの対象物が存在しないか否かを判断する。すなわち、死角対象物データベースに他のID付与済みの対象物(IDと、該IDが付与された対象物画像および相対位置)が記憶されているか否かを判断する。その結果、他のID付与済みの対象物が存在する場合は(S132:yes)、上述したS134〜S144の処理を繰り返す。すなわち、ID付与済みの対象物毎に、今回の相対位置を演算して、その相対位置が表示可能な範囲にあれば表示画面上の該相対位置に対応する位置に対象物画像が表示されるように対象物画像を表示用記憶領域に配置する。これに対して、その相対位置が表示可能な範囲になければ対象物画像を配置せずに死角対象物データベースから消去する。また、前回以前に死角に入った対象物と車両1との間隔が所定の距離D以下の箇所(狭間隔箇所)が存在する場合、その狭間隔箇所に対応する位置に報知画像が表示されるように、報知画像を表示用記憶領域に配置する。そして、ID付与済みの対象物全てについてS134〜S144の処理を行ったら、表示処理部21が、画像表示領域の内容(S110、S114、S124、S128、S138、S142の処理で画像表示領域上に配置された各種画像、すなわち、上面視画像)を表示部13に表示する(S146)。その後、図2および図3に示す位置関係表示処理を終了する。
以上のように、本実施例の運転支援装置10では、前回以前に死角に入った対象物(ID付与済みの対象物)についても、その対象物の相対位置を更新して、この相対位置に基づいて対象物画像を表示する。したがって、対象物が死角に入った後も該対象物が表示可能範囲に存在する限りは継続して、車両1と該対象物との位置関係を高い精度で表示することができる。
以上、実施例の運転支援装置について説明したが、本発明は上記の実施例に限られるものではなく、その要旨を逸脱しない範囲において種々の態様で実施することができる。
例えば、上述した実施例では、車両1と対象物との間隔が所定の距離D以下の箇所が存在する場合は、その箇所に対応する表示画面上の位置に報知画像を表示することとした。これに限らず、車両1と対象物との間隔が所定の距離D以下の箇所が存在する場合は、その箇所に対応する表示画面上の範囲を拡大して表示(いわゆるズームアップ表示)することとしてもよいし、その範囲の色彩を変更することとしてもよい。こうすると、対象物に車両1が接近していることを更に強調して運転者に報知することができる。
また、上述した実施例においては、車両1と対象物との間隔が所定の距離D以下の箇所が存在する場合は、その旨を示す情報をブレーキ制御システムに送信してもよい。そして、この情報を受信したブレーキ制御システムが、自動的に(運転者による操作がなくても)ブレーキをかけるようにしてもよい。こうすると、対象物に車両1が接近していることを更に強調して運転者に報知することができると共に車両1が対象物に接触することを防止することができる。
また、上述した実施例においては、車両1の速度に対応して表示部13の表示可能範囲を変更してもよい。例えば、時速10km以上で車両1が走行している場合は、車両1の前後方向20m、左右方向10mに存在する対象物を表示部16に表示し、時速10km未満で車両1が走行している場合は、車両1の前後方向2m、左右方向3mに存在する対象物を表示部16に表示することとしてもよい。
また、上述した実施例においては、画像生成部20が対象物画像や報知画像を表示用記憶領域に全て配置した後に、表示用記憶領域の内容(上面視画像)を表示部13に表示することとしたが、画像生成部20が対象物画像や報知画像を表示用記憶領域に配置するたびに、表示用記憶領域の内容(上面視画像)を表示部13に表示することとしてもよい。
また、自車両画像および対象物画像は、車両1および対象物の外形形状を反映した画像であればよく、外形形状をそのまま表示する必要はない。例えば、車両1を上方から見たシンボルマークの大きさを、車両1の外形形状に合わせて適宜拡大あるいは縮小して表示するものであってもよい。
1…車両、 10…運転支援装置、 11…ステレオカメラ、
12…制御装置、 13…表示部、 14…形状検出部、
15…第1相対位置検出部、16…第2相対位置検出部、17…移動情報取得部、
18…狭間隔箇所検出部、 19…記憶部、 20…画像生成部、
21…表示処理部

Claims (5)

  1. 車両に設けられて、該車両の周辺状況を表示部(13)に表示する運転支援装置であって、
    前記車両の外形形状が記憶された記憶手段と(19)、
    前記車両の周辺に存在する対象物の位置と、該対象物の少なくとも前記車両に面する側の外形形状とを検出する対象物検出手段(14,15)と、
    前記車両の移動方向および移動量に関する移動情報を取得する移動情報取得手段(17)と、
    前記対象物検出手段で検出した前記対象物の位置と、前記移動情報取得手段で取得した前記移動情報とに基づいて、前記車両に対する前記対象物の相対位置を推定する相対位置推定手段(16)と、
    前記車両の外形形状と、前記対象物の外形形状と、該車両に対する該対象物の前記相対位置とに基づいて、該車両および該対象物を上方から見た上面視画像を生成する画像生成手段(20)と、
    前記上面視画像を前記表示部に表示させる表示手段(21)と
    を備える運転支援装置。
  2. 請求項1に記載の運転支援装置であって、
    前記対象物検出手段で検出された前記対象物の外形形状に基づいて該対象物の外形形状を表す対象物画像を生成する対象物生成手段(14)を備え、
    前記記憶手段は、前記車両の外形形状を表す車両画像を記憶する手段であり、
    前記画像生成手段は、前記対象物画像と前記車両画像とを含む前記上面視画像を生成する手段である運転支援装置。
  3. 請求項1または請求項2に記載の運転支援装置であって、
    前記車両に対する前記対象物の前記相対位置、および、前記車両と前記対象物の前記外形形状に基づいて、前記車両と前記対象物との間隔が所定の距離以下の箇所である狭間隔箇所を検出する狭間隔箇所検出手段(18)を備え、
    前記画像生成手段は、前記狭間隔箇所が検出されると、該狭間隔箇所を示す前記上面視画像を生成する手段である運転支援装置。
  4. 請求項1ないし請求項3の何れか一項に記載の運転支援装置であって、
    前記対象物を異なった位置から撮影する複数の撮影手段(11a,11b)を備え、
    前記対象物検出手段は、前記複数の撮影手段が撮影した画像に基づいて、前記車両の周辺に存在する前記対象物の位置と、該対象物の前記車両に面する側の外形形状とを検出する手段である運転支援装置。
  5. 車両に設けられて、該車両の周辺状況を表示部に表示する運転支援方法であって、
    前記車両の周辺に存在する対象物の位置と、該対象物の少なくとも前記車両に面する側の外形形状とを検出する工程と(S108、S104)、
    前記車両の移動方向および移動量に関する移動情報を取得する工程と(S116)、
    前記対象物の位置と前記移動情報とに基づいて、前記車両に対する前記対象物の相対位置を推定する工程と(S118)、
    前記車両の外形形状と、前記対象物の外形形状と、該車両に対する該対象物の前記相対位置とに基づいて、該車両および該対象物を上方から見た上面視画像を生成する工程と(S100、S124)、
    前記上面視画像を前記表示部に表示する工程と(S146)
    を備える運転支援方法。
JP2014012868A 2014-01-27 2014-01-27 運転支援装置、および運転支援方法 Expired - Fee Related JP6291866B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014012868A JP6291866B2 (ja) 2014-01-27 2014-01-27 運転支援装置、および運転支援方法
US15/104,935 US10099617B2 (en) 2014-01-27 2015-01-26 Driving assistance device and driving assistance method
PCT/JP2015/000324 WO2015111417A1 (ja) 2014-01-27 2015-01-26 運転支援装置、および運転支援方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014012868A JP6291866B2 (ja) 2014-01-27 2014-01-27 運転支援装置、および運転支援方法

Publications (2)

Publication Number Publication Date
JP2015142188A true JP2015142188A (ja) 2015-08-03
JP6291866B2 JP6291866B2 (ja) 2018-03-14

Family

ID=53681227

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014012868A Expired - Fee Related JP6291866B2 (ja) 2014-01-27 2014-01-27 運転支援装置、および運転支援方法

Country Status (3)

Country Link
US (1) US10099617B2 (ja)
JP (1) JP6291866B2 (ja)
WO (1) WO2015111417A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017076276A (ja) * 2015-10-15 2017-04-20 株式会社日本自動車部品総合研究所 静止物検出装置、及びプログラム

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101860610B1 (ko) * 2015-08-20 2018-07-02 엘지전자 주식회사 디스플레이 장치 및 이를 포함하는 차량
JP6623729B2 (ja) * 2015-12-04 2019-12-25 株式会社ソシオネクスト 測距システム、移動体及び部品
KR102462502B1 (ko) * 2016-08-16 2022-11-02 삼성전자주식회사 스테레오 카메라 기반의 자율 주행 방법 및 그 장치
CN110114244B (zh) * 2017-02-17 2023-07-04 住友重机械工业株式会社 工作机械用周边监视系统
DE102017001707A1 (de) * 2017-02-22 2018-08-23 GM Global Technology Operations LLC (n. d. Ges. d. Staates Delaware) Benachrichtigung über einen geschätzten Bewegungspfad eines Fahrzeugs
US10740627B2 (en) 2017-05-10 2020-08-11 Fotonation Limited Multi-camera vision system and method of monitoring
DE102017214934B3 (de) * 2017-08-25 2019-02-07 Panasonic Automotive & Industrial Systems Europe GmbH Videobildaufnahmeverfahren, Wiedergabeverfahren, Ausrüstung für ein Fahrzeug, eingerichtet zum Ausführen eines Videobildaufnahmeverfahrens und Testsystem zum Ausführen eines Wiedergabeverfahrens
JP7031228B2 (ja) * 2017-10-26 2022-03-08 株式会社リコー プログラム、画像表示方法、画像表示システム、情報処理装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001187553A (ja) * 1999-10-21 2001-07-10 Matsushita Electric Ind Co Ltd 駐車支援装置
JP2003189293A (ja) * 2001-09-07 2003-07-04 Matsushita Electric Ind Co Ltd 車両周囲状況表示装置および映像提示システム
JP2007201748A (ja) * 2006-01-26 2007-08-09 Alpine Electronics Inc 車両運転支援装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3511892B2 (ja) * 1998-05-25 2004-03-29 日産自動車株式会社 車両用周囲モニタ装置
US6734896B2 (en) * 2000-04-28 2004-05-11 Matsushita Electric Industrial Co., Ltd. Image processor and monitoring system
DE60207655T2 (de) * 2001-09-07 2006-06-08 Matsushita Electric Industrial Co., Ltd., Kadoma Vorrichtung zum Anzeigen der Umgebung eines Fahrzeuges und System zur Bildbereitstellung
JP4846545B2 (ja) * 2006-11-29 2011-12-28 株式会社デンソー 運転支援装置
US8988525B2 (en) * 2009-08-27 2015-03-24 Robert Bosch Gmbh System and method for providing guidance information to a driver of a vehicle
JP5724446B2 (ja) 2011-02-21 2015-05-27 日産自動車株式会社 車両の運転支援装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001187553A (ja) * 1999-10-21 2001-07-10 Matsushita Electric Ind Co Ltd 駐車支援装置
JP2003189293A (ja) * 2001-09-07 2003-07-04 Matsushita Electric Ind Co Ltd 車両周囲状況表示装置および映像提示システム
JP2007201748A (ja) * 2006-01-26 2007-08-09 Alpine Electronics Inc 車両運転支援装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017076276A (ja) * 2015-10-15 2017-04-20 株式会社日本自動車部品総合研究所 静止物検出装置、及びプログラム

Also Published As

Publication number Publication date
US20170028917A1 (en) 2017-02-02
WO2015111417A1 (ja) 2015-07-30
JP6291866B2 (ja) 2018-03-14
US10099617B2 (en) 2018-10-16

Similar Documents

Publication Publication Date Title
JP6291866B2 (ja) 運転支援装置、および運転支援方法
JP4809019B2 (ja) 車両用障害物検出装置
JP5109691B2 (ja) 解析装置
JP4687411B2 (ja) 車両周辺画像処理装置及びプログラム
US20150070158A1 (en) Alert display device and alert display method
JP2005300315A (ja) 物体検出装置
US9122936B2 (en) Detecting device, detection method, and computer program product
JP2008182652A (ja) カメラ姿勢推定装置、車両、およびカメラ姿勢推定方法
WO2016092967A1 (ja) 画像生成装置及び画像生成方法
JP5539250B2 (ja) 接近物体検知装置及び接近物体検知方法
JP2012252501A (ja) 走行路認識装置及び走行路認識用プログラム
JP6384138B2 (ja) 車両用表示装置
JP2009276906A (ja) 走行情報提供装置
JP5477394B2 (ja) 車両周辺監視装置
JP2016021712A (ja) 画像処理装置、及び、運転支援システム
JP2007182201A (ja) 車線変更支援装置
US10916225B2 (en) Attention calling display apparatus
JP2007286873A (ja) 車載周辺他車検出装置
JP2015011665A (ja) 走行路面標示検知装置および走行路面標示検知方法
JP4040620B2 (ja) 車両周辺監視装置
JP6295868B2 (ja) 車両用表示装置
JP6361347B2 (ja) 車両用表示装置
JP2010148058A (ja) 運転支援装置及び運転支援方法
JP5580062B2 (ja) 障害物検知警報装置
JP6718295B2 (ja) 周辺監視装置及び周辺監視方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161013

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180116

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180129

R151 Written notification of patent or utility model registration

Ref document number: 6291866

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees