JP2017111649A - 視覚認知支援システムおよび視認対象物の検出システム - Google Patents

視覚認知支援システムおよび視認対象物の検出システム Download PDF

Info

Publication number
JP2017111649A
JP2017111649A JP2015246061A JP2015246061A JP2017111649A JP 2017111649 A JP2017111649 A JP 2017111649A JP 2015246061 A JP2015246061 A JP 2015246061A JP 2015246061 A JP2015246061 A JP 2015246061A JP 2017111649 A JP2017111649 A JP 2017111649A
Authority
JP
Japan
Prior art keywords
visual
driver
visual recognition
line
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015246061A
Other languages
English (en)
Other versions
JP6563798B2 (ja
Inventor
正 伊佐
Tadashi Isa
正 伊佐
正俊 吉田
Masatoshi Yoshida
正俊 吉田
ヴィール、リチャード・エドモンド
Edmond Veale Richard
雄策 武田
Yusaku Takeda
雄策 武田
利宏 原
Toshihiro Hara
利宏 原
耕二 岩瀬
Koji Iwase
耕二 岩瀬
篤秀 岸
Atsuhide Kishi
篤秀 岸
西川 一男
Kazuo Nishikawa
一男 西川
隆秀 農沢
Takahide Nozawa
隆秀 農沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mazda Motor Corp
National Institute of Natural Sciences
Original Assignee
Mazda Motor Corp
National Institute of Natural Sciences
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mazda Motor Corp, National Institute of Natural Sciences filed Critical Mazda Motor Corp
Priority to JP2015246061A priority Critical patent/JP6563798B2/ja
Priority to DE112016005784.9T priority patent/DE112016005784B4/de
Priority to PCT/JP2016/087533 priority patent/WO2017104794A1/ja
Priority to US16/062,591 priority patent/US10717447B2/en
Priority to CN201680073183.7A priority patent/CN108369780B/zh
Publication of JP2017111649A publication Critical patent/JP2017111649A/ja
Application granted granted Critical
Publication of JP6563798B2 publication Critical patent/JP6563798B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23Head-up displays [HUD]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • B60K35/285Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver for improving awareness by directing driver's gaze direction or eye points
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/09623Systems involving the acquisition of information from passive traffic signs by means mounted on the vehicle
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/163Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state by tracking eye movement, gaze, or pupil change
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/149Instrument input by detecting viewing direction not otherwise provided for
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/21Optical features of instruments using cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/33Illumination features
    • B60K2360/334Projection means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B60Q9/008Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for anti-collision purposes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/205Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using a head-up display
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • B60R2300/308Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene by overlaying the real scene, e.g. through a head-up display on the windscreen
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Hospice & Palliative Care (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Child & Adolescent Psychology (AREA)
  • Social Psychology (AREA)
  • Psychology (AREA)
  • Psychiatry (AREA)
  • Educational Technology (AREA)
  • Developmental Disabilities (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

【課題】運転者が視認すべき視認対象物を確実に検出する。検出した視認対象物を運転者に対して確実に視認させる。【解決手段】カメラ1によって取得された移動体としての自動車の周囲状況を示す画像に基づいて、運転者が見るべき視認対象物が決定される。視認対象物の決定が、見た瞬間に視認されるものを視認対象物とするサリエンシーモデルと、異常な動きを行うものを視認対象物とするサプライズモデルと、お手本となる運転者の視認行動によって視認されるものを視認対象物とする規範モデルと、に基づいて行われる。アイカメラ2によって検出される運転者の視線方向にない視認対象物が、見落としとなる視認対象物とされて、この見落としとなる視認対象物の方向へ運転者の視線が誘導される(見落としとなる注意対象物の位置に指標を表示する)。【選択図】図1

Description

本発明は、視覚認知支援システムおよび視認対象物の検出システムに関するものである。
移動体としての例えば自動車を運転する際に、運転者に対して周囲に存在する危険物(障害物)の存在を認識させることは、安全運転の上で好ましいものとなる。特許文献1には、運転者の視線方向を検出して、自車両前方の信号や道路標識に運転者の視線が向いていないときに、注意表示を行うものが開示されている。また、特許文献2には、車両前方の障害物をカメラ等により検出したときは、この障害物に向けて運転者の視線を誘導するようにしたものが開示されている。さらに、特許文献3には、自動車の周囲にある物体の中から運転者が確認すべき確認物体を判断して、この確認物体に向けて運転者の視線が向いているか否かを判断するようにしたものが開示されている。
特開2014−120111号公報 特開2012−234410号公報 特開2015−11457号公報
ところで、視認(確認)すべき視認対象物(確認物体)を運転者が確実に認識できるようにすることは安全運転等の上で極めて好ましいものであるが、その前提として、まず運転者が視認すべき視認対象物を確実に把握する必要性がある。そして、運転者が見落としている視認対象物をいかに運転者に認識させるようにするかということも重要となる。
本発明は以上のような事情を勘案してなされたもので、その第1の目的は、運転者が視認すべき視認対象物を確実に検出しつつ、この把握した視認対象物を運転者に対して確実に視認させることのできるようにした視覚認知支援システムを提供することにある。また、本発明の第2の目的は、観察者が見るべき視認対象物を確実に検出できるようにした視認対象物の検出システムを提供することにある。
前記目的を達成するため、本発明における視覚認知支援システムにあっては次のような解決手法を採択してある。すなわち、請求項1に記載のように、
運転者により運転される移動体の周囲状況を取得する周囲状況取得手段と、
前記周囲状況取得手段で取得された周囲状況のうち、運転者が見るべきであると判断される視認対象物を決定する視認対象物決定手段と、
運転者の視線方向を検出する視線方向検出手段と、
前記視認対象物決定手段により決定された前記視認対象物のうち、前記視線方向検出手段により検出される視線方向とは一致しない方向にある見落としとなる視認対象物が存在するときに、該見落としとなる視認対象物の方向へ運転者の視線を誘導する視線誘導手段と、
を備え、
前記視認対象物決定手段は、あらかじめ設定された3つの視認モデルに基づいて前記視認対象物の決定を行うようにされ、
前記3つの視認モデルが、見た瞬間に視認されるものを視認対象物として決定するサリエンシーモデルと、異常な動きを行うものを視認対象物として決定するサプライズモデルと、お手本となる運転者の視認行動によって視認されるものを視認対象物として決定する規範モデルと、から構成されている、
ようにしてある。
上記解決手法によれば、運転者が視認すべき視認対象物を、3つのモデルを利用して確実に決定することができる。また、見落としている視認対象物に運転者の視線を誘導するので、視認対象物の見落としを防止することができる。
上記解決手法を前提とした好ましい態様は、請求項2〜請求項8に記載のとおりである。すなわち、
前記移動体が車両車とされ、
前記周囲状況取得手段が、前記車両の前方を撮像するカメラとされている、
ようにしてある(請求項2対応)。この場合、自動車を運転する際に視認対象物の見落としを防止して、安全運転の上で好ましいものとなる。
前記視線誘導手段による視線誘導が、前記見落としとなる視認対象物の位置に表示される指標とされている、ようにしてある(請求項3対応)。この場合、見落としている視認対象物の位置に指標が表示されるので、視線誘導を確実に行う上で好ましいものとなる。
運転者状態を検出する運転者状態検出手段を備え、
前記運転者状態検出手段により検出される運転者状態に応じて、前記視線誘導手段による視線誘導の強弱の度合いが変更される、
ようにしてある(請求項4対応)。この場合、運転者状態に応じて視線誘導の強弱を変更することにより、視線誘導をより的確に行う上で好ましいものとなる。
前記視線誘導の強弱の度合いの変更が、前記見落としとなる視認対象物の位置に表示される指標の目立ち易さの度合いを変更することにより行われる、ようにしてある(請求項5対応)。この場合、請求項3、請求項4に対応した効果を合わせて得ることができる。
前記運転者状態検出手段は、運転者状態として少なくとも運転負荷が大きい状態を検出するようにされ、
前記運転者状態検出手段によって運転負荷が大きい状態であることが検出されたときは、運転負荷が小さい状態である場合に比して、前記視線誘導手段による視線誘導が強調して行われる、
ようにしてある(請求項6対応)。この場合、視認対象物の見落としを生じやすい運転負荷が大きいときに、見落としている視認対象物へ確実に視線誘導する上で好ましいものとなる。
前記運転者状態検出手段は、運転者状態として少なくとも運転者が漫然状態であることを検出するようにされ、
前記運転者状態検出手段によって運転者が漫然状態であることが検出されたときは、運転者が覚醒状態である場合に比して、前記視線誘導手段による視線誘導が強調して行われる、
ようにしてある(請求項7対応)。この場合、視認対象物の見落としを生じやすい漫然状態のときに、見落としている視認対象物へ確実に視線誘導する上で好ましいものとなる。
前記見落としとなる視認対象物が複数存在する場合に、該複数の視認対象物について視認順序の優先付けを行う順位付け手段をさらに備え、
前記視線誘導手段は、前記複数の見落としとなる視認対象物に対する視線誘導を、前記順位付け手段によって順位づけられた順番に行う、
ようにしてある(請求項8対応)。この場合、見落としている視認対象物が複数存在する場合でも、各見落としている視認対象物に対して確実に視線誘導する上で好ましいものとなる。
前記目的を達成するため、本発明における視認対象物の検出システムにあっては次のような解決手法を採択してある。すなわち、請求項9に記載のように、
観察者の周囲状況を取得する周囲状況取得手段と、
前記周囲状況取得手段で取得された周囲状況のうち、観察者が見るべきであると判断される視認対象物を決定する視認対象物決定手段と、
を備え、
前記視認対象物決定手段は、あらかじめ設定された3つの視認モデルに基づいて前記視認対象物の決定を行うようにされ、
前記3つの視認モデルが、見た瞬間に視認されるものを視認対象物として決定するサリエンシーモデルと、異常な動きを行うものを視認対象物として決定するサプライズモデルと、お手本となる観察者の視認行動によって視認されるものを視認対象物として決定する規範モデルと、から構成されている、
ようにしてある。
上記解決手法によれば、見るべき視認対象物を確実に検出することができ、前述した視覚認知支援システム等に用いて好適である。
上記解決手法を前提とした好ましい態様は、請求項10に記載のとおりである。すなわち、
前記視認対象物決定手段により決定された視認対象物を表示する表示手段をさらに有している、ようにしてある(請求項10対応)。この場合、観察者は、見落としとなる注意対象物を容易かつ明確に把握する上で好ましいものとなる。
本発明によれば、見落としている視認対象物を確実に把握しつつ、この見落としとなる注意対象物を運転者に視認させる上で好ましいものとなる。また、本発明によれば、視認対象物の確実に検出する上で好ましいものとなる。
本発明の制御系統例をブロック図的に示す図。 サリエンシーモデルによって視認対象物の決定を説明するための図。 サプライズモデルによって視認対象物の決定を説明するための図。 規範モデルによって視認対象物の決定を説明するための図。 運転負荷が大きいときに視認対象物を見落としている状況を示す図。 漫然状態のときに視認対象物を見落としている状況を示す図。 本発明の制御例を示すフローチャート。
図1は、本発明の制御系統例をブロック図的に示すものであり、乗物としての自動車(自車両)に搭載されている。図中、Uはマイクロコンピュータを利用して構成されたコントローラ(制御ユニット)である。このコントローラUには、各種センサや機器類1〜5からの信号が入力される。すなわち、1は、自車両前方を撮像するカメラであり、このカメラ1により、自車両前方の周囲状況が取得される。なお、カメラ1をカラー方式のステレオカメラとすることにより、視認対象物までの距離や色をも検出することができる。なお、視認対象物までの距離の検出のために、別途レーダを利用することもできる。
図1中、2は、車室内に搭載されたアイカメラであり、特に運転者の視線方向を検出するものとなっている。3は、運転者状態検出手段であり、アイカメラ2の他に各種センサを利用して、例えば、顔表情の検出(例えばCCDカメラの利用)、視線移動、瞬目、眼球停留および瞳孔径の検出(例えばアイカメラ2の利用)、心拍の検出(シートに設けた心拍センサの利用)、呼吸(回数や深さ)の検出(例えばCCDカメラの利用)、皮膚抵抗、指尖脈波の検出(例えばステアリングハンドルに設けたセンサの利用)、上肢筋電の検出(例えば6ch式で、ステアリングハンドルに設けた筋電センサの利用)下肢筋電の検出(例えば3ch式で、シートに設けた筋電センサの利用)、音声情報の検出(声の調子等で、マイクを利用)、シートへの着座圧の検出(シートに設けた荷重圧センサの利用)が行われる。
図1中、4は、各種センサを利用した車両状態検出手段であり、例えば、車速、エンジン回転数、舵角、ワイパの作動状況(雨天、降雪等の検出用)、ライト作動状況(昼間、夜間の検出)等が検出される。5は、ナビゲーション装置であり、現在走行している道路の状況や前方の道路状況に関する情報((例えば高速道路、一般道路、直線路、カーブ路、交差点、各種道路標識や交通信号機の存在等)が取得される他、自車両位置情報等が取得される。
コントローラUは、後述するように、見落としている視認対象物へ向けて運転者の視線を誘導するために、プロジェクションマッピング装置11、ヘッドアップディスプレイ12、スピーカ13を制御する。
コントローラUは、運転者が視認すべき視認対象物を決定(抽出)するために、後述するように、サリエンシーモデル21とサプライズモデル22と規範モデル23との3種類のモデル系を有している。サリエンシーモデル21は、見た瞬間に視認されるものを視認対象物として決定するためのものであり、例えば、大きいもの、明るいもの、コントラストが強いもの、変わった形状をしているもの(珍しいもの)等が対象となる。サリエンシーモデル21には、見た瞬間に視認されるような対象物を多数記憶している。
サプライズモデル22は、異常な動き(警戒すべき動き)を行うものを視認対象物として決定するためのもので、例えば、異常な動きをする車両や歩行者等が視認対象物とされる。このサプライズモデル22には、車両、歩行者、二輪者等の対象物とその異常な動きと関連づけて多数記憶されている。
規範モデル23は、お手本となる運転者の視認行動によって視認されるものを視認対象物として決定するためのものであり、見るべき対象物や位置、見るべき順序等が、数多くの走行シーン(周囲状況を含めた走行環境や車両状態等の組み合わせ)に対応させて記憶されている。
上記3種類のモデル系について、自動車の場合を例にして順次説明する。まず、図2において、31はフロントウインドガラスで、ルーフパネル32の前縁部によってフロントウインドガラス31の上縁部(上枠部)が規定され、インストルメントパネル33の前縁部によってフロントウインドガラスの下縁部(下枠部)が規定され、左右のフロントピラー34R、34Lによってフロントウインドガラス31の左右縁部(左右枠部)が規定される。図2中、35R、35Lは左右のサイドミラー、36はバックミラー、37はメータパネル、38はステアリングハンドルである(図2では左ハンドル車となっている)。
図2においては、フロントウインドガラス31を通して運転者により視認される前方の道路状況として、自車両が走行している走行車線が符号41で示され、対向車線が符号42で示され、その中央境界線が符号43で示される。車線41には、前方車両44が存在し、前方車両44の前方に信号機45が存在し、対向車線42の路肩沿いに点灯式の看板46が存在している。
図2において、サリエンシーモデル21においては、見た瞬間に記憶されるものを視認対象物として決定することから、信号機45と光っている看板46とが視認対象物として決定される。前方車両44のブレーキランプが点灯された場合には、このブレーキランプが点灯された前方車両44も視認対象物とされる。
サリエンシーモデル21においては、運転者の視認レベルが極めて高いため、運転者の視線方向が完全に一致しなくても(運転者の視線方向が、視認対象物としての信号機45や看板46の方向にある程度向いていれば、運転者によって視認されていると判断することができる)。運転者の視線方向が視認対象物としての信号機45からかなり大きくずれていて、信号機45を視認していないと判断されたときは、例えば、車室内に設けられたプロジェクションマッピング装置11によって、信号機45の位置に丸い破線で示す指標α1が表示(投影)されて、運転者の視線が指標α1に誘導される。同様に、看板46を運転者が視認していないと判断されたときは、看板46の位置に指標α2が表示(投影)される.上記指標α1やα2に対応した表示は、例えば運転者の前方位置に設けたヘッドアップディスプレイ12に対しても表示することができる。また、スピーカ13を利用して、例えば「左側の信号機に注意して下さい」とか、「右側にある看板に注意して下さい」というような音声表示(音声ガイド)とすることもできる。なお、図2に示す視認対象物はあくまで一例であり、見た瞬間に記憶されやすい視認対象物があらかじめサリエンシーモデル21に数多く記憶されている。
なお、後述するように、見る必要のない対象物を視認対象物から除外することもできる(例えば看板46を視認対象物から除外する)。この場合、サリエンシーモデル21そのものに除外すべき対象物を記憶しておいてもよいが、後の処理によって、見る必要のない対象物を除外するようにするのが好ましい(例えば、自車両から所定距離以上離れているものや、対向車線側にある固定物等を除外条件として設定する)。
次に、図3を参照しつつ、サプライズモデル22について説明する。図3は、図2に対応しており、前方車両51が急に対向車線側に移動するような異常な動きをした場合が示される。また、歩行者52が、対向車線42の路肩側から対向車線42に進入していて、自車両の走行車線41に向けて歩行している状態が示される。サプライズモデル22では、前方車両51と歩行者52とが異常な動き(警戒すべき動き)をしているということで、視認対象物として決定される。運転者の視線方向が前方車両51を向いていないときは、前方車両51の位置に指標β1が表示(投影)される。同様に、運転者の視線方向が歩行者52を向いていないときは、歩行者52の位置に指標β2が表示(投影)される。図2で説明した場合と同様に、ヘッドアップディスプレイ12やスピーカ13による注意喚起を合わせて行うことも可能である。
次に、図4を参照しつつ、規範モデル23について説明する。図4は、図2に対応しているが、片側2車線とされて、自車両が走行している車線が符号41Rで示され、その左側の車線が符号41Lで示され、対向する2つの車線が符号42R、42Lで示され、中央境界線が符号43で示される。自車両の前方には、自車両が走行している車線41Rにおいて小型車両(例えば乗用車)である前方車両62が走行しており、左側車線41Lには大型車両(図4ではタンクローリ車)61が走行している。
自車両および前方車両62や左前方車両61は、定常走行という安定した走行を続けていて、特に警戒を要する状況ではないものとなっている。このような状況において、お手本となるベテランドライバの視認行動から決定される視認対象物対象物として、前方車両62、左前方車両61の他、左側方の状況を知るための左サイドミラー35L、視角になりやすいフロントウインドガラス31の左縁部のうち上下方向中間部位、車速等を確認するためにメータパネル37とされる。規範モデル23には、あらゆる(数多くの)シーンについて、お手本となるベテランドライバの視認行動によって視認されるものや位置が視認対象物として記憶され、また視認すべき周期(例えばサイドミラー35Lは、少なくとも10秒に1回は見るようにする等)も記憶されている。
図4において、運転者の視線方向が向いていないときに表示される指標が、γ1〜γ5で示される。なお、図4はあくまで一例であり、視認対象物としては、バックミラー36や右側のサイドミラー35Rを含めることもできる。また、視認順序や視認周期を、視認対象物に応じて決定するようにしてもよい(規範モデル23に視認順序、視認周期を記憶)。
ここで、運転者状態検出手段3によって、運転者の運転負荷が大きいとき、あるいは運転者が漫然状態であることが検出されたときは、前述した各指標α1、α2、β1、β2、γ1〜γ5に対応した、見落としている視認対象物への視線誘導を強調して行うようにするのが好ましい。視線誘導の強調は、例えば、通常は薄く表示(投影)される上記指標を濃く表示したり、点滅表示したり、より明確に認識できる色(赤色や緑色が識別性が高いものとなる)に変更する等のことができる。また、視線誘導の強調は、この他、ヘッドアップディスプレイ12やスピーカ13を利用した視線誘導を合わせて行うことによっても達成できる。なお、運転負荷が大の判断は、見落としている視認対象物の数の多さや走行環境の難易度等をも加味して決定することもできる。
図5は、対向車線を跨いで存在する店舗(例えばコンビニエンス・ストア)へ自車両Vが向かおうとしている状況のときで、対向車両VB、歩行者H1〜H3、二輪車Bが存在している状況となっている。自車両Vの運転者Jは、対向車両VBやその脇に存在する歩行者H3に注意してコンビニへ向かおうとしているが、運転負荷が大きいために対向車両VBの陰に存在する二輪車Bの存在に気づかない状況となっている(運転者Jの視線が二輪車Bに向いていない)。一方、前述した3種類のモデル系によって二輪車Bが視認対象物として決定されており、この二輪車Bの位置に指標を表示することにより、当該二輪車Bに運転者のJの視線が誘導されることになる。
図6は、自車両Vの運転者Jは、単調な郊外路を走行していて、目的地に約束の到着時間までに到達したいと思いつつ、到着後での行動に気をとられて、周囲の状況を十分に確認しない漫然状態の場合となっている。そして、対向車両VB2がかなり接近している状況となっている。この場合、運転者Jが覚醒している状態であれば、見落とすことのない対向車両VB2について見落としてしまう事態も生じやすいものとなる。3種類のモデル系によって、対向車両VB2は確実に視認対象物として決定されているので、この対向車両VB2の位置に指標が表示(強調表示)されて、運転者Jは対向車両VB2の存在を認識することになる。
次に、コントローラUによる制御例について、図7に示すフローチャートを参照しつつ説明する。なお、以下の説明でQはステップを示す。まず、Q1において、運転者状態検出手段3やアイカメラ2によって運転者状態が検出され、また車両状態検出手段4により車両状態が検出され、ナビゲーション装置5による道路状況や自車位置が検出される。この後、カメラ1によって自車両前方の周囲状況を示す画像が取得される。
Q3では、取得された画像から、サリエンシーモデル21を利用して視認対象物が決定される。Q4では、サプライズモデル22を利用して視認対象物が決定される。Q5では、規範モデル23を利用して視認対象物が決定される。
Q6では、Q3〜Q5で決定された視認対象物が集計される。このQ6では、Q3〜Q5で決定された視認対象物のうち、不用と考えられる視認対象物の削除も行われる。例えば、自車両からの距離が遠いもの、注意する必要のない固定物等が除外される。
Q6の後、Q7において、アイカメラ2によって、運転者の視線方向が検出される。この後Q8において、Q6で集計された視認対象物の方向に運転者の視線が向いていない視認対象物が、見落としている視認対象物部として抽出される。
Q8の後、Q9において、見落としている視認対象物が存在するか否かが判別される。このQ9の判別でNOのときは、そのままリターンされる。Q9の判別でYESのときは、Q10において、運転者の運転負荷が大きい状態であるか否かが判別される。このQ10の判別でYESのときは、Q11において、後述する視線誘導の仕方について「強調有り」とする設定とされる。
Q10の判別でNOのときは、Q11において、運転者が漫然状態であるか否かが判別される。このQ12の判別でYESのときは、Q11に移行される(強調有りの設定)。Q12の判別でNOのときは、Q13において、視線誘導の仕方について「強調無し」とする設定とされる。
Q11あるいはQ13の後は、Q14において、見落としている視認対象物が複数存在するか否かが判別される。このQ14の判別でNOのとき(つまり見落としている視認対象物が1つのとき)は、Q15において、見落としている視認対象物に対して視線誘導するための指標(図2のα1、図3のβ1等)が表示される。この指標の表示についての強調の有無は、Q11あるいはQ13の設定に応じたものとされる。
前記Q14の判別でNOのときは、複数の見落としている視認対象物について、視線誘導する順位付けが行われる(危険度合いあるいは注意すべき度合いの高い対象物や、自車両からの距離が近いものほど早く視線誘導するような順位付け)。この後、Q17において、Q16で設定された順番でもって、複数の見落としている視認対象物の位置に指標(図2のα1、図3のβ1等)が表示される。この指標の表示についての強調の有無は、Q11あるいはQ13の設定に応じたものとされる。なお、Q14の判別でYESのときに、順付けすることなく、複数の見落としている視認対象物の位置に同時に指標を表示することもできる。
以上実施形態について説明したが、本発明は、実施形態に限定されるものではなく、特許請求の範囲の記載された範囲において適宜の変更が可能である。運転者により運転される移動体としては、自動車以外の車両(例えば二輪車)、各種の建設・工事用機械、工場や敷地内で使用されることの多いフォークリフト等の搬送機械、船舶(特に小型船舶)、飛行機(特に小型飛行機)等、適宜のものを含むものである。また、移動体は、運転者により遠隔操作されるもの(例えばドローンやヘリコプタ等)であってもよい。さらに、移動体や周囲状況は、擬似的(バーチャル)なものであってもよい(例えばドライビングシミュレータでの適用)。本発明は、3つのモデル系を利用して観察者が見るべき視認対象物を検出するシステムをも提供するものである(例えば、建設現場や工場等における検査での見落とし防止、店舗における内装等の評価等々に適宜利用できる)。視線誘導は、見落としている視認対象物の位置に指標を表示することに代えて、ヘッドアップディスプレイ12により見落としている視認対象物の方向を示す表示を行うことにより、あるいはスピーカ13により見落としている視認対象物の方向等を音声ガイドすることにより行う等、適宜の手法によって行うことができる。運転者に対応する観察者は、停止した状態であってもよいものである。図7に示す各ステップあるいはステップ群は、コントローラUの有する機能(を発揮する手段)として把握することができる。勿論、本発明の目的は、明記されたものに限らず、実質的に好ましいあるいは利点として表現されたものを提供することをも暗黙的に含むものである。
本発明は、見落とし防止の上で好ましいものとなる。
U:コントローラ
1:カメラ(前方の周囲状況検出)
2:アイカメラ(運転者の視線方向検出)
3:運転者状態検出手段(運転負荷、漫然状態の検出)
4:車両状態検出手段
5:ナビゲーション装置
11:プロジェクションマッピング(視線誘導用)
12:ヘッドアップディスプレイ(視線誘導用)
13:スピーカ(視線誘導用)
21:サリエンシーモデル
22:サプライズモデル
23:規範モデル
31:フロントウインドガラス
α1、α2:指標(視線誘導用)
β1、β2:指標(視線誘導用)
γ1〜γ5:指標(視線誘導)

Claims (10)

  1. 運転者により運転される移動体の周囲状況を取得する周囲状況取得手段と、
    前記周囲状況取得手段で取得された周囲状況のうち、運転者が見るべきであると判断される視認対象物を決定する視認対象物決定手段と、
    運転者の視線方向を検出する視線方向検出手段と、
    前記視認対象物決定手段により決定された前記視認対象物のうち、前記視線方向検出手段により検出される視線方向とは一致しない方向にある見落としとなる視認対象物が存在するときに、該見落としとなる視認対象物の方向へ運転者の視線を誘導する視線誘導手段と、
    を備え、
    前記視認対象物決定手段は、あらかじめ設定された3つの視認モデルに基づいて前記視認対象物の決定を行うようにされ、
    前記3つの視認モデルが、見た瞬間に視認されるものを視認対象物として決定するサリエンシーモデルと、異常な動きを行うものを視認対象物として決定するサプライズモデルと、お手本となる運転者の視認行動によって視認されるものを視認対象物として決定する規範モデルと、から構成されている、
    ことを特徴とする視覚認知支援システム。
  2. 請求項1において、
    前記移動体が車両車とされ、
    前記周囲状況取得手段が、前記車両の前方を撮像するカメラとされている、ことを特徴とする視覚認知支援システム。
  3. 請求項1または請求項2において、
    前記視線誘導手段による視線誘導が、前記見落としとなる視認対象物の位置に表示される指標とされている、ことを特徴とする視覚認知支援システム。
  4. 請求項1ないし請求項3のいずれか1項において、
    運転者状態を検出する運転者状態検出手段を備え、
    前記運転者状態検出手段により検出される運転者状態に応じて、前記視線誘導手段による視線誘導の強弱の度合いが変更される、
    ことを特徴とする視覚認知支援システム。
  5. 請求項4において、
    前記視線誘導の強弱の度合いの変更が、前記見落としとなる視認対象物の位置に表示される指標の目立ち易さの度合いを変更することにより行われる、ことを特徴とする視覚認知支援システム。
  6. 請求項4または請求項5において、
    前記運転者状態検出手段は、運転者状態として少なくとも運転負荷が大きい状態を検出するようにされ、
    前記運転者状態検出手段によって運転負荷が大きい状態であることが検出されたときは、運転負荷が小さい状態である場合に比して、前記視線誘導手段による視線誘導が強調して行われる、
    ことを特徴とする視覚認知支援システム。
  7. 請求項4ないし請求項6のいずれか1項において、
    前記運転者状態検出手段は、運転者状態として少なくとも運転者が漫然状態であることを検出するようにされ、
    前記運転者状態検出手段によって運転者が漫然状態であることが検出されたときは、運転者が覚醒状態である場合に比して、前記視線誘導手段による視線誘導が強調して行われる、
    ことを特徴とする視覚認知支援システム。
  8. 請求項1ないし請求項7のいずれか1項において、
    前記見落としとなる視認対象物が複数存在する場合に、該複数の視認対象物について視認順序の優先付けを行う順位付け手段をさらに備え、
    前記視線誘導手段は、前記複数の見落としとなる視認対象物に対する視線誘導を、前記順位付け手段によって順位づけられた順番に行う、
    ことを特徴とする視覚認知支援システム。
  9. 観察者の周囲状況を取得する周囲状況取得手段と、
    前記周囲状況取得手段で取得された周囲状況のうち、観察者が見るべきであると判断される視認対象物を決定する視認対象物決定手段と、
    を備え、
    前記視認対象物決定手段は、あらかじめ設定された3つの視認モデルに基づいて前記視認対象物の決定を行うようにされ、
    前記3つの視認モデルが、見た瞬間に視認されるものを視認対象物として決定するサリエンシーモデルと、異常な動きを行うものを視認対象物として決定するサプライズモデルと、お手本となる観察者の視認行動によって視認されるものを視認対象物として決定する規範モデルと、から構成されている、
    ことを特徴とする視認対象物の検出システム。
  10. 請求項9において、
    前記視認対象物決定手段により決定された視認対象物を表示する表示手段をさらに有している、ことを特徴とする視認対象物の検出システム。
JP2015246061A 2015-12-17 2015-12-17 視覚認知支援システムおよび視認対象物の検出システム Active JP6563798B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2015246061A JP6563798B2 (ja) 2015-12-17 2015-12-17 視覚認知支援システムおよび視認対象物の検出システム
DE112016005784.9T DE112016005784B4 (de) 2015-12-17 2016-12-16 Sehwahrnehmungsassistenzsystem und Sehwahrnehmungszielobjektdetektionssystem
PCT/JP2016/087533 WO2017104794A1 (ja) 2015-12-17 2016-12-16 視覚認知支援システムおよび視認対象物の検出システム
US16/062,591 US10717447B2 (en) 2015-12-17 2016-12-16 Visual perception assistance system and visual-perception target object detection system
CN201680073183.7A CN108369780B (zh) 2015-12-17 2016-12-16 视觉认知援助系统以及视认对象物的检测系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015246061A JP6563798B2 (ja) 2015-12-17 2015-12-17 視覚認知支援システムおよび視認対象物の検出システム

Publications (2)

Publication Number Publication Date
JP2017111649A true JP2017111649A (ja) 2017-06-22
JP6563798B2 JP6563798B2 (ja) 2019-08-21

Family

ID=59056699

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015246061A Active JP6563798B2 (ja) 2015-12-17 2015-12-17 視覚認知支援システムおよび視認対象物の検出システム

Country Status (5)

Country Link
US (1) US10717447B2 (ja)
JP (1) JP6563798B2 (ja)
CN (1) CN108369780B (ja)
DE (1) DE112016005784B4 (ja)
WO (1) WO2017104794A1 (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6419401B1 (ja) * 2018-03-02 2018-11-07 三菱電機株式会社 運転支援装置及び運転支援方法
CN109094457A (zh) * 2018-07-16 2018-12-28 武汉理工大学 一种考虑驾驶员外周视野的车辆防碰撞预警系统及方法
WO2019044627A1 (ja) * 2017-09-01 2019-03-07 株式会社デンソー 衝突回避支援装置
JP2019051873A (ja) * 2017-09-18 2019-04-04 ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング 車両の制御システム
JP2019096109A (ja) * 2017-11-24 2019-06-20 マツダ株式会社 運転支援装置
JP2020008561A (ja) * 2018-07-06 2020-01-16 本田技研工業株式会社 情報提示装置、情報提示方法、及びプログラム
JP2020098584A (ja) * 2018-11-16 2020-06-25 ホンダ リサーチ インスティテュート ヨーロッパ ゲーエムベーハーHonda Research Institute Europe GmbH 車両間の間隔を利用することにおいて自車のドライバを支援するための方法、対応するドライバ支援システム、およびそのようなドライバ支援システムを装備した車両
JP2020135768A (ja) * 2019-02-25 2020-08-31 トヨタ自動車株式会社 車両用表示デバイス
CN112052716A (zh) * 2019-06-07 2020-12-08 本田技研工业株式会社 识别装置、识别方法及存储介质
JP2021033752A (ja) * 2019-08-27 2021-03-01 株式会社リコー 出力制御装置、表示制御システム、出力制御方法およびプログラム
CN113724500A (zh) * 2020-05-25 2021-11-30 中国石油化工股份有限公司 叉车坡道违规行驶预警方法及系统
US11232313B2 (en) * 2018-12-10 2022-01-25 Toyota Jidosha Kabushiki Kaisha Abnormality detection device, abnormality detection system, and abnormality detection program
WO2023286835A1 (ja) * 2021-07-14 2023-01-19 パイオニア株式会社 視線誘導装置、視線誘導方法、視線誘導プログラム及び記憶媒体

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018117631A1 (en) * 2016-12-21 2018-06-28 Samsung Electronics Co., Ltd. Electronic apparatus and method of operating the same
JP6401821B1 (ja) * 2017-05-23 2018-10-10 カルソニックカンセイ株式会社 運転負荷推定装置
WO2019082980A1 (ja) * 2017-10-26 2019-05-02 株式会社小糸製作所 車両用前照灯システム、車両用ランプシステム
US11206375B2 (en) 2018-03-28 2021-12-21 Gal Zuckerman Analyzing past events by utilizing imagery data captured by a plurality of on-road vehicles
US11138418B2 (en) 2018-08-06 2021-10-05 Gal Zuckerman Systems and methods for tracking persons by utilizing imagery data captured by on-road vehicles
JP7165532B2 (ja) * 2018-08-07 2022-11-04 本田技研工業株式会社 表示装置、表示制御方法、およびプログラム
JP7382327B2 (ja) * 2018-08-09 2023-11-16 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、移動体、情報処理方法及びプログラム
EP3857530A1 (en) * 2018-09-24 2021-08-04 Continental Automotive Systems, Inc. Augmented reality dsrc data visualization
JP7263734B2 (ja) * 2018-10-29 2023-04-25 株式会社アイシン 視認対象判定装置
JP7176398B2 (ja) * 2018-12-21 2022-11-22 トヨタ自動車株式会社 制御装置、車両、画像表示システム、及び画像表示方法
JP6999540B2 (ja) * 2018-12-28 2022-01-18 本田技研工業株式会社 情報処理装置及びプログラム
US11369058B2 (en) * 2019-03-19 2022-06-28 Deere & Company Forward-looking perception interface and control
CN110070742A (zh) * 2019-05-29 2019-07-30 浙江吉利控股集团有限公司 高速匝道限速识别方法、系统及车辆
JP2021002182A (ja) * 2019-06-21 2021-01-07 矢崎総業株式会社 車両警報システム
CN112937559B (zh) 2019-11-22 2022-12-20 荷兰移动驱动器公司 行车警示方法及车载装置
JPWO2021181861A1 (ja) * 2020-03-10 2021-09-16
JP7380365B2 (ja) * 2020-03-19 2023-11-15 マツダ株式会社 状態推定装置
FR3113881B1 (fr) * 2020-09-09 2022-09-02 Renault Sas Procédé d’affichage sécurisé d’informations dans un véhicule.
CN112347851B (zh) * 2020-09-30 2023-02-21 山东理工大学 多目标检测网络的构建方法、多目标检测方法及装置
CN112181149B (zh) * 2020-09-30 2022-12-20 山东理工大学 驾驶环境的识别方法、装置及模拟驾驶器
CN112168190B (zh) * 2020-10-23 2021-09-21 清华大学 驾驶压力实时监测系统及方法
WO2022162770A1 (ja) * 2021-01-27 2022-08-04 日本電気株式会社 車載装置、処理方法及びプログラム
CN115195752A (zh) * 2021-03-26 2022-10-18 本田技研工业株式会社 驾驶辅助装置
US20230084753A1 (en) * 2021-09-16 2023-03-16 Sony Group Corporation Hyper realistic drive simulation
DE102021211139B3 (de) 2021-10-04 2023-03-16 Volkswagen Aktiengesellschaft Verfahren zur Steuerung einer Anzeigeeinrichtung und Fahrzeug mit einer Anzeigeeinrichtung
JP7389782B2 (ja) * 2021-10-26 2023-11-30 本田技研工業株式会社 表示装置、及び表示装置の制御方法
US20230196790A1 (en) * 2021-12-21 2023-06-22 GM Global Technology Operations LLC Generation of artificial color images from narrow spectral band data aboard a camera-equipped vehicle
US12008681B2 (en) * 2022-04-07 2024-06-11 Gm Technology Operations Llc Systems and methods for testing vehicle systems
US11793434B1 (en) * 2022-05-18 2023-10-24 GM Global Technology Operations LLC System to perform visual recognition and vehicle adaptation

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003327009A (ja) * 2002-05-14 2003-11-19 Toyota Central Res & Dev Lab Inc 注意喚起装置
JP2009237776A (ja) * 2008-03-26 2009-10-15 Mazda Motor Corp 車両用運転支援装置
JP2010142410A (ja) * 2008-12-18 2010-07-01 Toyota Motor Corp 覚醒度判定装置
JP2014109958A (ja) * 2012-12-03 2014-06-12 Denso Corp 撮影画像表示装置、および撮影画像表示方法

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0785280B2 (ja) * 1992-08-04 1995-09-13 タカタ株式会社 神経回路網による衝突予測判定システム
EP0841648B1 (en) * 1992-09-30 2004-06-02 Hitachi, Ltd. Vehicle driving support system and vehicle therewith
DE10103922A1 (de) * 2001-01-30 2002-08-01 Physoptics Opto Electronic Gmb Interaktives Datensicht- und Bediensystem
US9007197B2 (en) * 2002-05-20 2015-04-14 Intelligent Technologies International, Inc. Vehicular anticipatory sensor system
JP4277081B2 (ja) 2004-03-17 2009-06-10 株式会社デンソー 運転支援装置
US8085140B2 (en) * 2006-09-04 2011-12-27 Panasonic Corporation Travel information providing device
CN102039842A (zh) * 2009-10-22 2011-05-04 侯方勇 一种提示驾驶员观察目标的装置和方法
JP5745827B2 (ja) * 2010-11-29 2015-07-08 パイオニア株式会社 車両表示装置
CN102642510B (zh) * 2011-02-17 2015-08-05 香港生产力促进局 一种基于图像的车辆防撞预警方法
JP2012234410A (ja) 2011-05-02 2012-11-29 Mazda Motor Corp 車両用運転支援装置
US9139133B2 (en) 2012-05-31 2015-09-22 GM Global Technology Operations LLC Vehicle collision warning system and method
US8970358B2 (en) 2012-06-22 2015-03-03 GM Global Technology Operations LLC Alert systems and methods for a vehicle
CN104584097B (zh) * 2012-08-09 2017-04-05 丰田自动车株式会社 物体检测装置和驾驶辅助装置
JP5492962B2 (ja) * 2012-09-28 2014-05-14 富士重工業株式会社 視線誘導システム
DE112012007236B4 (de) * 2012-12-18 2021-02-11 Mitsubishi Electric Corporation Sichtbarkeitsschätzungsgerät, Sichtbarkeitsschätzungsverfahren und Fahrsicherheitsunterstützungssystem
JP2014120111A (ja) 2012-12-19 2014-06-30 Aisin Aw Co Ltd 走行支援システム、走行支援方法及びコンピュータプログラム
JP2014120113A (ja) * 2012-12-19 2014-06-30 Aisin Aw Co Ltd 走行支援システム、走行支援方法及びコンピュータプログラム
JP2014154125A (ja) * 2013-02-14 2014-08-25 Aisin Aw Co Ltd 走行支援システム、走行支援方法及びコンピュータプログラム
JP6020371B2 (ja) * 2013-06-27 2016-11-02 株式会社デンソー 車両用情報提供装置
DE202013006467U1 (de) * 2013-07-18 2014-10-22 GM Global Technology Operations LLC (n. d. Gesetzen des Staates Delaware) Fahrzeugumfeld-Überwachungssystem
JP5925163B2 (ja) * 2013-07-25 2016-05-25 三菱電機株式会社 運転支援装置
CN103770780B (zh) * 2014-01-15 2017-10-03 中国人民解放军国防科学技术大学 一种车辆主动安全系统告警屏蔽装置
CN105083291B (zh) * 2014-04-25 2018-11-09 歌乐株式会社 基于视线检测的驾驶员辅助系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003327009A (ja) * 2002-05-14 2003-11-19 Toyota Central Res & Dev Lab Inc 注意喚起装置
JP2009237776A (ja) * 2008-03-26 2009-10-15 Mazda Motor Corp 車両用運転支援装置
JP2010142410A (ja) * 2008-12-18 2010-07-01 Toyota Motor Corp 覚醒度判定装置
JP2014109958A (ja) * 2012-12-03 2014-06-12 Denso Corp 撮影画像表示装置、および撮影画像表示方法

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019044627A1 (ja) * 2017-09-01 2019-03-07 株式会社デンソー 衝突回避支援装置
JP2019046136A (ja) * 2017-09-01 2019-03-22 株式会社デンソー 衝突回避支援装置
JP2019051873A (ja) * 2017-09-18 2019-04-04 ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング 車両の制御システム
JP2019096109A (ja) * 2017-11-24 2019-06-20 マツダ株式会社 運転支援装置
JP6419401B1 (ja) * 2018-03-02 2018-11-07 三菱電機株式会社 運転支援装置及び運転支援方法
WO2019167285A1 (ja) * 2018-03-02 2019-09-06 三菱電機株式会社 運転支援装置及び運転支援方法
JP2020008561A (ja) * 2018-07-06 2020-01-16 本田技研工業株式会社 情報提示装置、情報提示方法、及びプログラム
CN109094457A (zh) * 2018-07-16 2018-12-28 武汉理工大学 一种考虑驾驶员外周视野的车辆防碰撞预警系统及方法
JP2020098584A (ja) * 2018-11-16 2020-06-25 ホンダ リサーチ インスティテュート ヨーロッパ ゲーエムベーハーHonda Research Institute Europe GmbH 車両間の間隔を利用することにおいて自車のドライバを支援するための方法、対応するドライバ支援システム、およびそのようなドライバ支援システムを装備した車両
US11232313B2 (en) * 2018-12-10 2022-01-25 Toyota Jidosha Kabushiki Kaisha Abnormality detection device, abnormality detection system, and abnormality detection program
JP2020135768A (ja) * 2019-02-25 2020-08-31 トヨタ自動車株式会社 車両用表示デバイス
JP7272007B2 (ja) 2019-02-25 2023-05-12 トヨタ自動車株式会社 車両用表示制御装置、車両用表示装置、車両用表示制御方法及び車両用表示制御プログラム
CN112052716A (zh) * 2019-06-07 2020-12-08 本田技研工业株式会社 识别装置、识别方法及存储介质
CN112052716B (zh) * 2019-06-07 2024-03-29 本田技研工业株式会社 识别装置、识别方法及存储介质
JP2021033752A (ja) * 2019-08-27 2021-03-01 株式会社リコー 出力制御装置、表示制御システム、出力制御方法およびプログラム
JP7354686B2 (ja) 2019-08-27 2023-10-03 株式会社リコー 出力制御装置、表示制御システム、出力制御方法およびプログラム
CN113724500A (zh) * 2020-05-25 2021-11-30 中国石油化工股份有限公司 叉车坡道违规行驶预警方法及系统
WO2023286835A1 (ja) * 2021-07-14 2023-01-19 パイオニア株式会社 視線誘導装置、視線誘導方法、視線誘導プログラム及び記憶媒体

Also Published As

Publication number Publication date
DE112016005784B4 (de) 2023-08-03
US20180362053A1 (en) 2018-12-20
JP6563798B2 (ja) 2019-08-21
CN108369780A (zh) 2018-08-03
CN108369780B (zh) 2021-03-30
DE112016005784T5 (de) 2018-09-13
US10717447B2 (en) 2020-07-21
WO2017104794A1 (ja) 2017-06-22

Similar Documents

Publication Publication Date Title
JP6563798B2 (ja) 視覚認知支援システムおよび視認対象物の検出システム
CN107176165B (zh) 车辆的控制装置
EP2988098B1 (en) Driver assistance system with non-static symbol of fluctuating shape
US8970451B2 (en) Visual guidance system
EP2525335B1 (en) User interface method for terminal for vehicle and apparatus thereof
CN109795413B (zh) 驾驶辅助装置和驾驶辅助方法
US20170028995A1 (en) Vehicle control apparatus
US11021103B2 (en) Method for enriching a field of view of a driver of a transportation vehicle with additional information, device for use in an observer transportation vehicle, device for use in an object, and transportation vehicle
JP2019010929A (ja) 運転支援装置および運転支援方法
US11485380B2 (en) Method and control device for warning a driver of a motor vehicle and motor vehicle with such a control device
CN107650639B (zh) 视野控制装置
JP6720732B2 (ja) 車両の制御装置
JP5925163B2 (ja) 運転支援装置
JP2017097682A (ja) 標識認識システム
KR20200142571A (ko) 자동차용 카메라 모니터 시스템을 동작시키는 방법 및 장치
US10930148B2 (en) Method and device for reminding a driver about an approach to a light signal apparatus
JPH11120498A (ja) 車両の障害物警報装置
JP2018100008A (ja) 車両用表示装置
JP3890599B2 (ja) 車両用情報提供装置、車両用情報提供方法及び車両用情報提供プログラム
JP2017202721A (ja) 表示システム
JP6398182B2 (ja) 信号情報提示装置
KR20150139540A (ko) 방향 오리엔테이션 네비게이션 시스템을 구비하는 시각적 포지셔닝
US11643012B2 (en) Driving assistance device, driving situation information acquisition system, driving assistance method, and program
JP2017039461A (ja) 車両用表示装置とその制御方法
JPH10244892A (ja) 車両用運転支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20181205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190725

R150 Certificate of patent or registration of utility model

Ref document number: 6563798

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250