JP2017111649A - 視覚認知支援システムおよび視認対象物の検出システム - Google Patents
視覚認知支援システムおよび視認対象物の検出システム Download PDFInfo
- Publication number
- JP2017111649A JP2017111649A JP2015246061A JP2015246061A JP2017111649A JP 2017111649 A JP2017111649 A JP 2017111649A JP 2015246061 A JP2015246061 A JP 2015246061A JP 2015246061 A JP2015246061 A JP 2015246061A JP 2017111649 A JP2017111649 A JP 2017111649A
- Authority
- JP
- Japan
- Prior art keywords
- visual
- driver
- visual recognition
- line
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000000007 visual effect Effects 0.000 title claims abstract description 155
- 238000001514 detection method Methods 0.000 title claims description 30
- 230000016776 visual perception Effects 0.000 title 1
- 208000012661 Dyskinesia Diseases 0.000 claims abstract description 6
- 230000003945 visual behavior Effects 0.000 claims description 7
- 210000001508 eye Anatomy 0.000 description 8
- 239000005357 flat glass Substances 0.000 description 6
- 238000000034 method Methods 0.000 description 6
- 238000010276 construction Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000012790 confirmation Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000004397 blinking Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000001747 exhibiting effect Effects 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 210000003141 lower extremity Anatomy 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 230000003183 myoelectrical effect Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000029058 respiratory gaseous exchange Effects 0.000 description 1
- 210000001364 upper extremity Anatomy 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/10—Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
- B60K35/23—Head-up displays [HUD]
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/28—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/28—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
- B60K35/285—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver for improving awareness by directing driver's gaze direction or eye points
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/09—Arrangements for giving variable traffic instructions
- G08G1/0962—Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
- G08G1/09623—Systems involving the acquisition of information from passive traffic signs by means mounted on the vehicle
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/163—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state by tracking eye movement, gaze, or pupil change
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/149—Instrument input by detecting viewing direction not otherwise provided for
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/20—Optical features of instruments
- B60K2360/21—Optical features of instruments using cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/20—Optical features of instruments
- B60K2360/33—Illumination features
- B60K2360/334—Projection means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q9/00—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
- B60Q9/008—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for anti-collision purposes
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/20—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
- B60R2300/205—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using a head-up display
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/307—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
- B60R2300/308—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene by overlaying the real scene, e.g. through a head-up display on the windscreen
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
- B60W2050/146—Display means
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/193—Preprocessing; Feature extraction
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Mechanical Engineering (AREA)
- Transportation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Combustion & Propulsion (AREA)
- Optics & Photonics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Automation & Control Theory (AREA)
- Hospice & Palliative Care (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Pathology (AREA)
- Child & Adolescent Psychology (AREA)
- Social Psychology (AREA)
- Psychology (AREA)
- Psychiatry (AREA)
- Educational Technology (AREA)
- Developmental Disabilities (AREA)
- Human Computer Interaction (AREA)
- Traffic Control Systems (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
Abstract
Description
運転者により運転される移動体の周囲状況を取得する周囲状況取得手段と、
前記周囲状況取得手段で取得された周囲状況のうち、運転者が見るべきであると判断される視認対象物を決定する視認対象物決定手段と、
運転者の視線方向を検出する視線方向検出手段と、
前記視認対象物決定手段により決定された前記視認対象物のうち、前記視線方向検出手段により検出される視線方向とは一致しない方向にある見落としとなる視認対象物が存在するときに、該見落としとなる視認対象物の方向へ運転者の視線を誘導する視線誘導手段と、
を備え、
前記視認対象物決定手段は、あらかじめ設定された3つの視認モデルに基づいて前記視認対象物の決定を行うようにされ、
前記3つの視認モデルが、見た瞬間に視認されるものを視認対象物として決定するサリエンシーモデルと、異常な動きを行うものを視認対象物として決定するサプライズモデルと、お手本となる運転者の視認行動によって視認されるものを視認対象物として決定する規範モデルと、から構成されている、
ようにしてある。
前記移動体が車両車とされ、
前記周囲状況取得手段が、前記車両の前方を撮像するカメラとされている、
ようにしてある(請求項2対応)。この場合、自動車を運転する際に視認対象物の見落としを防止して、安全運転の上で好ましいものとなる。
前記運転者状態検出手段により検出される運転者状態に応じて、前記視線誘導手段による視線誘導の強弱の度合いが変更される、
ようにしてある(請求項4対応)。この場合、運転者状態に応じて視線誘導の強弱を変更することにより、視線誘導をより的確に行う上で好ましいものとなる。
前記運転者状態検出手段によって運転負荷が大きい状態であることが検出されたときは、運転負荷が小さい状態である場合に比して、前記視線誘導手段による視線誘導が強調して行われる、
ようにしてある(請求項6対応)。この場合、視認対象物の見落としを生じやすい運転負荷が大きいときに、見落としている視認対象物へ確実に視線誘導する上で好ましいものとなる。
前記運転者状態検出手段によって運転者が漫然状態であることが検出されたときは、運転者が覚醒状態である場合に比して、前記視線誘導手段による視線誘導が強調して行われる、
ようにしてある(請求項7対応)。この場合、視認対象物の見落としを生じやすい漫然状態のときに、見落としている視認対象物へ確実に視線誘導する上で好ましいものとなる。
前記視線誘導手段は、前記複数の見落としとなる視認対象物に対する視線誘導を、前記順位付け手段によって順位づけられた順番に行う、
ようにしてある(請求項8対応)。この場合、見落としている視認対象物が複数存在する場合でも、各見落としている視認対象物に対して確実に視線誘導する上で好ましいものとなる。
観察者の周囲状況を取得する周囲状況取得手段と、
前記周囲状況取得手段で取得された周囲状況のうち、観察者が見るべきであると判断される視認対象物を決定する視認対象物決定手段と、
を備え、
前記視認対象物決定手段は、あらかじめ設定された3つの視認モデルに基づいて前記視認対象物の決定を行うようにされ、
前記3つの視認モデルが、見た瞬間に視認されるものを視認対象物として決定するサリエンシーモデルと、異常な動きを行うものを視認対象物として決定するサプライズモデルと、お手本となる観察者の視認行動によって視認されるものを視認対象物として決定する規範モデルと、から構成されている、
ようにしてある。
前記視認対象物決定手段により決定された視認対象物を表示する表示手段をさらに有している、ようにしてある(請求項10対応)。この場合、観察者は、見落としとなる注意対象物を容易かつ明確に把握する上で好ましいものとなる。
1:カメラ(前方の周囲状況検出)
2:アイカメラ(運転者の視線方向検出)
3:運転者状態検出手段(運転負荷、漫然状態の検出)
4:車両状態検出手段
5:ナビゲーション装置
11:プロジェクションマッピング(視線誘導用)
12:ヘッドアップディスプレイ(視線誘導用)
13:スピーカ(視線誘導用)
21:サリエンシーモデル
22:サプライズモデル
23:規範モデル
31:フロントウインドガラス
α1、α2:指標(視線誘導用)
β1、β2:指標(視線誘導用)
γ1〜γ5:指標(視線誘導)
Claims (10)
- 運転者により運転される移動体の周囲状況を取得する周囲状況取得手段と、
前記周囲状況取得手段で取得された周囲状況のうち、運転者が見るべきであると判断される視認対象物を決定する視認対象物決定手段と、
運転者の視線方向を検出する視線方向検出手段と、
前記視認対象物決定手段により決定された前記視認対象物のうち、前記視線方向検出手段により検出される視線方向とは一致しない方向にある見落としとなる視認対象物が存在するときに、該見落としとなる視認対象物の方向へ運転者の視線を誘導する視線誘導手段と、
を備え、
前記視認対象物決定手段は、あらかじめ設定された3つの視認モデルに基づいて前記視認対象物の決定を行うようにされ、
前記3つの視認モデルが、見た瞬間に視認されるものを視認対象物として決定するサリエンシーモデルと、異常な動きを行うものを視認対象物として決定するサプライズモデルと、お手本となる運転者の視認行動によって視認されるものを視認対象物として決定する規範モデルと、から構成されている、
ことを特徴とする視覚認知支援システム。 - 請求項1において、
前記移動体が車両車とされ、
前記周囲状況取得手段が、前記車両の前方を撮像するカメラとされている、ことを特徴とする視覚認知支援システム。 - 請求項1または請求項2において、
前記視線誘導手段による視線誘導が、前記見落としとなる視認対象物の位置に表示される指標とされている、ことを特徴とする視覚認知支援システム。 - 請求項1ないし請求項3のいずれか1項において、
運転者状態を検出する運転者状態検出手段を備え、
前記運転者状態検出手段により検出される運転者状態に応じて、前記視線誘導手段による視線誘導の強弱の度合いが変更される、
ことを特徴とする視覚認知支援システム。 - 請求項4において、
前記視線誘導の強弱の度合いの変更が、前記見落としとなる視認対象物の位置に表示される指標の目立ち易さの度合いを変更することにより行われる、ことを特徴とする視覚認知支援システム。 - 請求項4または請求項5において、
前記運転者状態検出手段は、運転者状態として少なくとも運転負荷が大きい状態を検出するようにされ、
前記運転者状態検出手段によって運転負荷が大きい状態であることが検出されたときは、運転負荷が小さい状態である場合に比して、前記視線誘導手段による視線誘導が強調して行われる、
ことを特徴とする視覚認知支援システム。 - 請求項4ないし請求項6のいずれか1項において、
前記運転者状態検出手段は、運転者状態として少なくとも運転者が漫然状態であることを検出するようにされ、
前記運転者状態検出手段によって運転者が漫然状態であることが検出されたときは、運転者が覚醒状態である場合に比して、前記視線誘導手段による視線誘導が強調して行われる、
ことを特徴とする視覚認知支援システム。 - 請求項1ないし請求項7のいずれか1項において、
前記見落としとなる視認対象物が複数存在する場合に、該複数の視認対象物について視認順序の優先付けを行う順位付け手段をさらに備え、
前記視線誘導手段は、前記複数の見落としとなる視認対象物に対する視線誘導を、前記順位付け手段によって順位づけられた順番に行う、
ことを特徴とする視覚認知支援システム。 - 観察者の周囲状況を取得する周囲状況取得手段と、
前記周囲状況取得手段で取得された周囲状況のうち、観察者が見るべきであると判断される視認対象物を決定する視認対象物決定手段と、
を備え、
前記視認対象物決定手段は、あらかじめ設定された3つの視認モデルに基づいて前記視認対象物の決定を行うようにされ、
前記3つの視認モデルが、見た瞬間に視認されるものを視認対象物として決定するサリエンシーモデルと、異常な動きを行うものを視認対象物として決定するサプライズモデルと、お手本となる観察者の視認行動によって視認されるものを視認対象物として決定する規範モデルと、から構成されている、
ことを特徴とする視認対象物の検出システム。 - 請求項9において、
前記視認対象物決定手段により決定された視認対象物を表示する表示手段をさらに有している、ことを特徴とする視認対象物の検出システム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015246061A JP6563798B2 (ja) | 2015-12-17 | 2015-12-17 | 視覚認知支援システムおよび視認対象物の検出システム |
DE112016005784.9T DE112016005784B4 (de) | 2015-12-17 | 2016-12-16 | Sehwahrnehmungsassistenzsystem und Sehwahrnehmungszielobjektdetektionssystem |
PCT/JP2016/087533 WO2017104794A1 (ja) | 2015-12-17 | 2016-12-16 | 視覚認知支援システムおよび視認対象物の検出システム |
US16/062,591 US10717447B2 (en) | 2015-12-17 | 2016-12-16 | Visual perception assistance system and visual-perception target object detection system |
CN201680073183.7A CN108369780B (zh) | 2015-12-17 | 2016-12-16 | 视觉认知援助系统以及视认对象物的检测系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015246061A JP6563798B2 (ja) | 2015-12-17 | 2015-12-17 | 視覚認知支援システムおよび視認対象物の検出システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017111649A true JP2017111649A (ja) | 2017-06-22 |
JP6563798B2 JP6563798B2 (ja) | 2019-08-21 |
Family
ID=59056699
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015246061A Active JP6563798B2 (ja) | 2015-12-17 | 2015-12-17 | 視覚認知支援システムおよび視認対象物の検出システム |
Country Status (5)
Country | Link |
---|---|
US (1) | US10717447B2 (ja) |
JP (1) | JP6563798B2 (ja) |
CN (1) | CN108369780B (ja) |
DE (1) | DE112016005784B4 (ja) |
WO (1) | WO2017104794A1 (ja) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6419401B1 (ja) * | 2018-03-02 | 2018-11-07 | 三菱電機株式会社 | 運転支援装置及び運転支援方法 |
CN109094457A (zh) * | 2018-07-16 | 2018-12-28 | 武汉理工大学 | 一种考虑驾驶员外周视野的车辆防碰撞预警系统及方法 |
WO2019044627A1 (ja) * | 2017-09-01 | 2019-03-07 | 株式会社デンソー | 衝突回避支援装置 |
JP2019051873A (ja) * | 2017-09-18 | 2019-04-04 | ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング | 車両の制御システム |
JP2019096109A (ja) * | 2017-11-24 | 2019-06-20 | マツダ株式会社 | 運転支援装置 |
JP2020008561A (ja) * | 2018-07-06 | 2020-01-16 | 本田技研工業株式会社 | 情報提示装置、情報提示方法、及びプログラム |
JP2020098584A (ja) * | 2018-11-16 | 2020-06-25 | ホンダ リサーチ インスティテュート ヨーロッパ ゲーエムベーハーHonda Research Institute Europe GmbH | 車両間の間隔を利用することにおいて自車のドライバを支援するための方法、対応するドライバ支援システム、およびそのようなドライバ支援システムを装備した車両 |
JP2020135768A (ja) * | 2019-02-25 | 2020-08-31 | トヨタ自動車株式会社 | 車両用表示デバイス |
CN112052716A (zh) * | 2019-06-07 | 2020-12-08 | 本田技研工业株式会社 | 识别装置、识别方法及存储介质 |
JP2021033752A (ja) * | 2019-08-27 | 2021-03-01 | 株式会社リコー | 出力制御装置、表示制御システム、出力制御方法およびプログラム |
CN113724500A (zh) * | 2020-05-25 | 2021-11-30 | 中国石油化工股份有限公司 | 叉车坡道违规行驶预警方法及系统 |
US11232313B2 (en) * | 2018-12-10 | 2022-01-25 | Toyota Jidosha Kabushiki Kaisha | Abnormality detection device, abnormality detection system, and abnormality detection program |
WO2023286835A1 (ja) * | 2021-07-14 | 2023-01-19 | パイオニア株式会社 | 視線誘導装置、視線誘導方法、視線誘導プログラム及び記憶媒体 |
Families Citing this family (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018117631A1 (en) * | 2016-12-21 | 2018-06-28 | Samsung Electronics Co., Ltd. | Electronic apparatus and method of operating the same |
JP6401821B1 (ja) * | 2017-05-23 | 2018-10-10 | カルソニックカンセイ株式会社 | 運転負荷推定装置 |
WO2019082980A1 (ja) * | 2017-10-26 | 2019-05-02 | 株式会社小糸製作所 | 車両用前照灯システム、車両用ランプシステム |
US11206375B2 (en) | 2018-03-28 | 2021-12-21 | Gal Zuckerman | Analyzing past events by utilizing imagery data captured by a plurality of on-road vehicles |
US11138418B2 (en) | 2018-08-06 | 2021-10-05 | Gal Zuckerman | Systems and methods for tracking persons by utilizing imagery data captured by on-road vehicles |
JP7165532B2 (ja) * | 2018-08-07 | 2022-11-04 | 本田技研工業株式会社 | 表示装置、表示制御方法、およびプログラム |
JP7382327B2 (ja) * | 2018-08-09 | 2023-11-16 | ソニーセミコンダクタソリューションズ株式会社 | 情報処理装置、移動体、情報処理方法及びプログラム |
EP3857530A1 (en) * | 2018-09-24 | 2021-08-04 | Continental Automotive Systems, Inc. | Augmented reality dsrc data visualization |
JP7263734B2 (ja) * | 2018-10-29 | 2023-04-25 | 株式会社アイシン | 視認対象判定装置 |
JP7176398B2 (ja) * | 2018-12-21 | 2022-11-22 | トヨタ自動車株式会社 | 制御装置、車両、画像表示システム、及び画像表示方法 |
JP6999540B2 (ja) * | 2018-12-28 | 2022-01-18 | 本田技研工業株式会社 | 情報処理装置及びプログラム |
US11369058B2 (en) * | 2019-03-19 | 2022-06-28 | Deere & Company | Forward-looking perception interface and control |
CN110070742A (zh) * | 2019-05-29 | 2019-07-30 | 浙江吉利控股集团有限公司 | 高速匝道限速识别方法、系统及车辆 |
JP2021002182A (ja) * | 2019-06-21 | 2021-01-07 | 矢崎総業株式会社 | 車両警報システム |
CN112937559B (zh) | 2019-11-22 | 2022-12-20 | 荷兰移动驱动器公司 | 行车警示方法及车载装置 |
JPWO2021181861A1 (ja) * | 2020-03-10 | 2021-09-16 | ||
JP7380365B2 (ja) * | 2020-03-19 | 2023-11-15 | マツダ株式会社 | 状態推定装置 |
FR3113881B1 (fr) * | 2020-09-09 | 2022-09-02 | Renault Sas | Procédé d’affichage sécurisé d’informations dans un véhicule. |
CN112347851B (zh) * | 2020-09-30 | 2023-02-21 | 山东理工大学 | 多目标检测网络的构建方法、多目标检测方法及装置 |
CN112181149B (zh) * | 2020-09-30 | 2022-12-20 | 山东理工大学 | 驾驶环境的识别方法、装置及模拟驾驶器 |
CN112168190B (zh) * | 2020-10-23 | 2021-09-21 | 清华大学 | 驾驶压力实时监测系统及方法 |
WO2022162770A1 (ja) * | 2021-01-27 | 2022-08-04 | 日本電気株式会社 | 車載装置、処理方法及びプログラム |
CN115195752A (zh) * | 2021-03-26 | 2022-10-18 | 本田技研工业株式会社 | 驾驶辅助装置 |
US20230084753A1 (en) * | 2021-09-16 | 2023-03-16 | Sony Group Corporation | Hyper realistic drive simulation |
DE102021211139B3 (de) | 2021-10-04 | 2023-03-16 | Volkswagen Aktiengesellschaft | Verfahren zur Steuerung einer Anzeigeeinrichtung und Fahrzeug mit einer Anzeigeeinrichtung |
JP7389782B2 (ja) * | 2021-10-26 | 2023-11-30 | 本田技研工業株式会社 | 表示装置、及び表示装置の制御方法 |
US20230196790A1 (en) * | 2021-12-21 | 2023-06-22 | GM Global Technology Operations LLC | Generation of artificial color images from narrow spectral band data aboard a camera-equipped vehicle |
US12008681B2 (en) * | 2022-04-07 | 2024-06-11 | Gm Technology Operations Llc | Systems and methods for testing vehicle systems |
US11793434B1 (en) * | 2022-05-18 | 2023-10-24 | GM Global Technology Operations LLC | System to perform visual recognition and vehicle adaptation |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003327009A (ja) * | 2002-05-14 | 2003-11-19 | Toyota Central Res & Dev Lab Inc | 注意喚起装置 |
JP2009237776A (ja) * | 2008-03-26 | 2009-10-15 | Mazda Motor Corp | 車両用運転支援装置 |
JP2010142410A (ja) * | 2008-12-18 | 2010-07-01 | Toyota Motor Corp | 覚醒度判定装置 |
JP2014109958A (ja) * | 2012-12-03 | 2014-06-12 | Denso Corp | 撮影画像表示装置、および撮影画像表示方法 |
Family Cites Families (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0785280B2 (ja) * | 1992-08-04 | 1995-09-13 | タカタ株式会社 | 神経回路網による衝突予測判定システム |
EP0841648B1 (en) * | 1992-09-30 | 2004-06-02 | Hitachi, Ltd. | Vehicle driving support system and vehicle therewith |
DE10103922A1 (de) * | 2001-01-30 | 2002-08-01 | Physoptics Opto Electronic Gmb | Interaktives Datensicht- und Bediensystem |
US9007197B2 (en) * | 2002-05-20 | 2015-04-14 | Intelligent Technologies International, Inc. | Vehicular anticipatory sensor system |
JP4277081B2 (ja) | 2004-03-17 | 2009-06-10 | 株式会社デンソー | 運転支援装置 |
US8085140B2 (en) * | 2006-09-04 | 2011-12-27 | Panasonic Corporation | Travel information providing device |
CN102039842A (zh) * | 2009-10-22 | 2011-05-04 | 侯方勇 | 一种提示驾驶员观察目标的装置和方法 |
JP5745827B2 (ja) * | 2010-11-29 | 2015-07-08 | パイオニア株式会社 | 車両表示装置 |
CN102642510B (zh) * | 2011-02-17 | 2015-08-05 | 香港生产力促进局 | 一种基于图像的车辆防撞预警方法 |
JP2012234410A (ja) | 2011-05-02 | 2012-11-29 | Mazda Motor Corp | 車両用運転支援装置 |
US9139133B2 (en) | 2012-05-31 | 2015-09-22 | GM Global Technology Operations LLC | Vehicle collision warning system and method |
US8970358B2 (en) | 2012-06-22 | 2015-03-03 | GM Global Technology Operations LLC | Alert systems and methods for a vehicle |
CN104584097B (zh) * | 2012-08-09 | 2017-04-05 | 丰田自动车株式会社 | 物体检测装置和驾驶辅助装置 |
JP5492962B2 (ja) * | 2012-09-28 | 2014-05-14 | 富士重工業株式会社 | 視線誘導システム |
DE112012007236B4 (de) * | 2012-12-18 | 2021-02-11 | Mitsubishi Electric Corporation | Sichtbarkeitsschätzungsgerät, Sichtbarkeitsschätzungsverfahren und Fahrsicherheitsunterstützungssystem |
JP2014120111A (ja) | 2012-12-19 | 2014-06-30 | Aisin Aw Co Ltd | 走行支援システム、走行支援方法及びコンピュータプログラム |
JP2014120113A (ja) * | 2012-12-19 | 2014-06-30 | Aisin Aw Co Ltd | 走行支援システム、走行支援方法及びコンピュータプログラム |
JP2014154125A (ja) * | 2013-02-14 | 2014-08-25 | Aisin Aw Co Ltd | 走行支援システム、走行支援方法及びコンピュータプログラム |
JP6020371B2 (ja) * | 2013-06-27 | 2016-11-02 | 株式会社デンソー | 車両用情報提供装置 |
DE202013006467U1 (de) * | 2013-07-18 | 2014-10-22 | GM Global Technology Operations LLC (n. d. Gesetzen des Staates Delaware) | Fahrzeugumfeld-Überwachungssystem |
JP5925163B2 (ja) * | 2013-07-25 | 2016-05-25 | 三菱電機株式会社 | 運転支援装置 |
CN103770780B (zh) * | 2014-01-15 | 2017-10-03 | 中国人民解放军国防科学技术大学 | 一种车辆主动安全系统告警屏蔽装置 |
CN105083291B (zh) * | 2014-04-25 | 2018-11-09 | 歌乐株式会社 | 基于视线检测的驾驶员辅助系统 |
-
2015
- 2015-12-17 JP JP2015246061A patent/JP6563798B2/ja active Active
-
2016
- 2016-12-16 US US16/062,591 patent/US10717447B2/en active Active
- 2016-12-16 CN CN201680073183.7A patent/CN108369780B/zh active Active
- 2016-12-16 WO PCT/JP2016/087533 patent/WO2017104794A1/ja active Application Filing
- 2016-12-16 DE DE112016005784.9T patent/DE112016005784B4/de active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003327009A (ja) * | 2002-05-14 | 2003-11-19 | Toyota Central Res & Dev Lab Inc | 注意喚起装置 |
JP2009237776A (ja) * | 2008-03-26 | 2009-10-15 | Mazda Motor Corp | 車両用運転支援装置 |
JP2010142410A (ja) * | 2008-12-18 | 2010-07-01 | Toyota Motor Corp | 覚醒度判定装置 |
JP2014109958A (ja) * | 2012-12-03 | 2014-06-12 | Denso Corp | 撮影画像表示装置、および撮影画像表示方法 |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019044627A1 (ja) * | 2017-09-01 | 2019-03-07 | 株式会社デンソー | 衝突回避支援装置 |
JP2019046136A (ja) * | 2017-09-01 | 2019-03-22 | 株式会社デンソー | 衝突回避支援装置 |
JP2019051873A (ja) * | 2017-09-18 | 2019-04-04 | ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング | 車両の制御システム |
JP2019096109A (ja) * | 2017-11-24 | 2019-06-20 | マツダ株式会社 | 運転支援装置 |
JP6419401B1 (ja) * | 2018-03-02 | 2018-11-07 | 三菱電機株式会社 | 運転支援装置及び運転支援方法 |
WO2019167285A1 (ja) * | 2018-03-02 | 2019-09-06 | 三菱電機株式会社 | 運転支援装置及び運転支援方法 |
JP2020008561A (ja) * | 2018-07-06 | 2020-01-16 | 本田技研工業株式会社 | 情報提示装置、情報提示方法、及びプログラム |
CN109094457A (zh) * | 2018-07-16 | 2018-12-28 | 武汉理工大学 | 一种考虑驾驶员外周视野的车辆防碰撞预警系统及方法 |
JP2020098584A (ja) * | 2018-11-16 | 2020-06-25 | ホンダ リサーチ インスティテュート ヨーロッパ ゲーエムベーハーHonda Research Institute Europe GmbH | 車両間の間隔を利用することにおいて自車のドライバを支援するための方法、対応するドライバ支援システム、およびそのようなドライバ支援システムを装備した車両 |
US11232313B2 (en) * | 2018-12-10 | 2022-01-25 | Toyota Jidosha Kabushiki Kaisha | Abnormality detection device, abnormality detection system, and abnormality detection program |
JP2020135768A (ja) * | 2019-02-25 | 2020-08-31 | トヨタ自動車株式会社 | 車両用表示デバイス |
JP7272007B2 (ja) | 2019-02-25 | 2023-05-12 | トヨタ自動車株式会社 | 車両用表示制御装置、車両用表示装置、車両用表示制御方法及び車両用表示制御プログラム |
CN112052716A (zh) * | 2019-06-07 | 2020-12-08 | 本田技研工业株式会社 | 识别装置、识别方法及存储介质 |
CN112052716B (zh) * | 2019-06-07 | 2024-03-29 | 本田技研工业株式会社 | 识别装置、识别方法及存储介质 |
JP2021033752A (ja) * | 2019-08-27 | 2021-03-01 | 株式会社リコー | 出力制御装置、表示制御システム、出力制御方法およびプログラム |
JP7354686B2 (ja) | 2019-08-27 | 2023-10-03 | 株式会社リコー | 出力制御装置、表示制御システム、出力制御方法およびプログラム |
CN113724500A (zh) * | 2020-05-25 | 2021-11-30 | 中国石油化工股份有限公司 | 叉车坡道违规行驶预警方法及系统 |
WO2023286835A1 (ja) * | 2021-07-14 | 2023-01-19 | パイオニア株式会社 | 視線誘導装置、視線誘導方法、視線誘導プログラム及び記憶媒体 |
Also Published As
Publication number | Publication date |
---|---|
DE112016005784B4 (de) | 2023-08-03 |
US20180362053A1 (en) | 2018-12-20 |
JP6563798B2 (ja) | 2019-08-21 |
CN108369780A (zh) | 2018-08-03 |
CN108369780B (zh) | 2021-03-30 |
DE112016005784T5 (de) | 2018-09-13 |
US10717447B2 (en) | 2020-07-21 |
WO2017104794A1 (ja) | 2017-06-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6563798B2 (ja) | 視覚認知支援システムおよび視認対象物の検出システム | |
CN107176165B (zh) | 车辆的控制装置 | |
EP2988098B1 (en) | Driver assistance system with non-static symbol of fluctuating shape | |
US8970451B2 (en) | Visual guidance system | |
EP2525335B1 (en) | User interface method for terminal for vehicle and apparatus thereof | |
CN109795413B (zh) | 驾驶辅助装置和驾驶辅助方法 | |
US20170028995A1 (en) | Vehicle control apparatus | |
US11021103B2 (en) | Method for enriching a field of view of a driver of a transportation vehicle with additional information, device for use in an observer transportation vehicle, device for use in an object, and transportation vehicle | |
JP2019010929A (ja) | 運転支援装置および運転支援方法 | |
US11485380B2 (en) | Method and control device for warning a driver of a motor vehicle and motor vehicle with such a control device | |
CN107650639B (zh) | 视野控制装置 | |
JP6720732B2 (ja) | 車両の制御装置 | |
JP5925163B2 (ja) | 運転支援装置 | |
JP2017097682A (ja) | 標識認識システム | |
KR20200142571A (ko) | 자동차용 카메라 모니터 시스템을 동작시키는 방법 및 장치 | |
US10930148B2 (en) | Method and device for reminding a driver about an approach to a light signal apparatus | |
JPH11120498A (ja) | 車両の障害物警報装置 | |
JP2018100008A (ja) | 車両用表示装置 | |
JP3890599B2 (ja) | 車両用情報提供装置、車両用情報提供方法及び車両用情報提供プログラム | |
JP2017202721A (ja) | 表示システム | |
JP6398182B2 (ja) | 信号情報提示装置 | |
KR20150139540A (ko) | 방향 오리엔테이션 네비게이션 시스템을 구비하는 시각적 포지셔닝 | |
US11643012B2 (en) | Driving assistance device, driving situation information acquisition system, driving assistance method, and program | |
JP2017039461A (ja) | 車両用表示装置とその制御方法 | |
JPH10244892A (ja) | 車両用運転支援装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181204 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20181205 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190723 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190725 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6563798 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |