JP6851482B2 - 操作支援装置および操作支援方法 - Google Patents

操作支援装置および操作支援方法 Download PDF

Info

Publication number
JP6851482B2
JP6851482B2 JP2019530324A JP2019530324A JP6851482B2 JP 6851482 B2 JP6851482 B2 JP 6851482B2 JP 2019530324 A JP2019530324 A JP 2019530324A JP 2019530324 A JP2019530324 A JP 2019530324A JP 6851482 B2 JP6851482 B2 JP 6851482B2
Authority
JP
Japan
Prior art keywords
vehicle
driver
line
operation target
sight direction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019530324A
Other languages
English (en)
Other versions
JPWO2019016936A1 (ja
Inventor
有史 松田
有史 松田
小畑 直彦
直彦 小畑
下谷 光生
光生 下谷
直志 宮原
直志 宮原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2019016936A1 publication Critical patent/JPWO2019016936A1/ja
Application granted granted Critical
Publication of JP6851482B2 publication Critical patent/JP6851482B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/0418Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/22Display screens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23Head-up displays [HUD]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/29Instruments characterised by the way in which information is handled, e.g. showing information on plural displays or prioritising information according to driving conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/143Touch sensitive instrument input devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/146Instrument input by gesture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/148Instrument input by voice
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/149Instrument input by detecting viewing direction not otherwise provided for
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/18Information management
    • B60K2360/199Information management for avoiding maloperation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/214Variable gauge scales, e.g. scale enlargement to adapt to maximum driving speed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/65Instruments specially adapted for specific vehicle types or users, e.g. for left- or right-hand drive
    • B60K35/654Instruments specially adapted for specific vehicle types or users, e.g. for left- or right-hand drive the user being the driver
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0381Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/10Automotive applications
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L2015/088Word spotting
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Transportation (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Instrument Panels (AREA)

Description

本発明は、操作支援装置および操作支援方法に関する。
ドライバによる車載装置の操作を支援する技術として、ドライバの視線を検出し、視線を機器操作のコマンドとして利用する技術がある。例えば、特許文献1には、第4の実施の形態として、ドライバの視線を検出してドライバが見ている装置に関する操作を遠隔操作装置で行うシステムが開示されている。具体的には、特許文献1のシステムは、ユーザの視線方向が含まれる車室内の領域を判定し、判定された領域と車載装置の配置情報とを比較して、ユーザの視線方向に配置されている車載装置を判定する。
特開2016−110424号公報
特許文献1の技術では、視線検出のみで車載装置の判定を行っている。ドライバの視線は、車両の運転中には車両の振動、注視時間の制約などの影響を受けるため、判定精度が必ずしも高くないという問題があった。
本発明は上述の問題に鑑み、車載装置の中からドライバが操作を希望する装置を精度よく特定し、その操作を支援する技術の提供を目的とする。
開示第1の操作支援装置は、車両のドライバの視線方向を取得する視線方向取得部と、ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部と、視線方向と特徴行動とに基づき、車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、ドライバが操作を希望する操作対象装置として特定する装置特定部と、操作対象装置の操作画面を、車両に搭載された表示装置に表示させる表示制御部と、を備え、特徴行動は、ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであり、装置特定部は、特徴行動の実施時点から遡る予め定められた期間内におけるドライバの視線方向に基づき、操作対象装置を特定する。
本開示の第2の操作支援装置は、車両のドライバの視線方向を取得する視線方向取得部と、ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部と、視線方向と特徴行動とに基づき、車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、ドライバが操作を希望する操作対象装置として特定する装置特定部と、操作対象装置の操作画面を、車両に搭載された表示装置に表示させる表示制御部と、を備え、特徴行動は、ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであり、装置特定部は、視線方向と特徴行動とに基づき、複数の車載装置の夫々に対してドライバが操作を希望する確率である操作希望確率を算出し、操作希望確率に基づき操作対象装置を特定し、表示制御部は、操作対象装置が複数ある場合には、操作希望確率がより大きい操作対象装置の操作画面の全体をより目立つ態様で表示させる。
本開示の第3の操作支援装置は、車両のドライバの視線方向を取得する視線方向取得部と、ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部と、視線方向と特徴行動とに基づき、車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、ドライバが操作を希望する操作対象装置として特定する装置特定部と、操作対象装置の操作画面を、車両に搭載された表示装置に表示させる表示制御部と、を備え、特徴行動は、ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであり、表示制御部は、操作対象装置の操作画面の全体を、操作対象装置の隣に位置する操作対象装置ではない車載装置の操作画面より目立つ態様で表示させる。
本開示の操作支援装置によれば、車載装置の中からドライバが操作を希望する装置を精度よく特定し、その操作を支援することができる。


本発明の目的、特徴、態様、および利点は、以下の詳細な説明と添付図面とによって、より明白となる。
実施の形態1に係る操作支援装置の構成を示すブロック図である。 実施の形態1に係る操作支援装置の動作を示すフローチャートである。 実施の形態2に係る操作支援装置の構成を示すブロック図である。 実施の形態2に係る特徴行動検出装置の構成を示すブロック図である。 車両の室内に設けられる複数のディスプレイを示す図である。 ナビゲーション装置の操作メニューが自車位置周辺地図に重畳してCIDに表示される様子を示す図である。 ナビゲーション装置のチュートリアルが自車位置周辺地図に重畳してCIDに表示される様子を示す図である。 ナビゲーション装置の機能説明画面が自車位置周辺地図に重畳してCIDに表示される様子を示す図である。 実施の形態2に係る操作支援装置の動作を示すフローチャートである。 実施の形態2に係る操作支援装置の動作を示すフローチャートである。 図10のステップS305の詳細を示すフローチャートである。 ナビゲーション装置とオーディオ装置の操作画面が表示装置に表示される様子を示す図である。 表示装置と操作装置を示す図である。 ドライバの特徴行動を示す図である。 エアコンの操作画面が表示装置に表示される様子を示す図である。 ドライバの特徴行動を示す図である。 オーディオ装置の音量操作画面が表示装置に表示される様子を示す図である。 ドライバの特徴行動を示す図である。 オーディオ装置の曲送り画面および曲戻し画面が表示装置に表示される様子を示す図である。 ドライバの特徴行動を示す図である。 ナビゲーション装置の操作メニューが表示装置に表示される様子を示す図である。 実施の形態3に係る操作支援装置の動作を示すフローチャートである。 実施の形態4に係る操作支援装置の構成を示すブロック図である。 操作支援装置のハードウェア構成を示す図である。 操作支援装置のハードウェア構成を示す図である。 実施の形態2,3に係る操作支援装置の車両とサーバによる構成例を示す図である。
<A.実施の形態1>
<A−1.構成>
図1は、実施の形態1に係る操作支援装置101の構成を示すブロック図である。操作支援装置101は、車両に搭載された車載装置22のドライバによる操作を支援する。本明細書の各実施の形態において「車両」という用語は、当該実施の形態の操作支援装置の操作支援対象となる車載装置22が搭載された車両を指す。また、車載装置22が搭載された車両を他の車両と区別する必要がある場合には、前者を「自車両」、後者を「他車両」または「周辺車両」等とする。
図1には操作支援装置101を車両に搭載された装置として示しているが、これは一例である。<E.ハードウェア構成>で後述するように、操作支援装置101の各部の構成は車両以外の場所に分散して配置されていても良い。
操作支援装置101は、視線方向取得部11、特徴行動取得部12、装置特定部13、表示制御部14を備えている。表示装置21は車載のディスプレイであり、例えばインストゥルメントパネル(略称:インパネ)内の表示器、Head-Up Display(略称:HUD)、メータディスプレイなどである。表示装置21は1つでも複数でも良い。
視線方向取得部11は、車両のドライバの視線方向を取得する。
特徴行動取得部12は、ドライバによる視線以外の特徴的な行動である特徴行動を取得する。特徴行動は、例えばドライバによる指差し、ジェスチャ、発話、顔の動き、表情の変化などであり、またはこれらの組み合わせである。
装置特定部13は、視線方向および特徴行動に基づき、車両に搭載された複数の車載装置22の中から少なくとも一つの車載装置22を、ユーザが操作を希望する操作対象装置として特定する。
表示制御部14は、操作対象装置の操作画面を、車両に搭載された表示装置21に表示させる。操作画面とは、操作対象装置の操作に直接または間接的に供される画面であり、例えば操作メニューを表示する画面、操作のチュートリアルを表示する画面、操作対象装置の機能説明画面、などが該当する。
<A−2.動作>
図2は、操作支援装置101の動作を示すフローチャートである。以下、図2に沿って操作支援装置101の動作を説明する。
まず、視線方向取得部11が車両のドライバの視線方向を特定する(ステップS101)。次に、特徴行動取得部12が特徴行動を取得する(ステップS102)。次に、装置特定部13が、視線方向と特徴行動とに基づき、複数の車載装置22の中から少なくとも一つの車載装置22を操作対象装置として特定する(ステップS103)。次に、表示制御部14が操作対象装置の操作画面を、車両に搭載された表示装置21に表示させる(ステップS104)。以上で、操作支援装置101の動作を終了する。
図2のフローで操作支援装置101は、視線方向を取得した後に特徴行動を取得した。しかし、これらの処理の順番は任意であり、どちらが先に処理されても、または同時に処理されても良い。
<A−3.効果>
実施の形態1の操作支援装置101は、車両のドライバの視線方向を取得する視線方向取得部11と、ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部12と、視線方向と特徴行動とに基づき、車両に搭載された複数の車載装置22の中から少なくとも一つの車載装置22をドライバが操作を希望する操作対象装置として特定する装置特定部13と、操作対象装置の操作画面を、車両に搭載された表示装置21に表示させる表示制御部14と、を備える。従って、実施の形態1の操作支援装置101によれば、視線方向だけでなく特徴行動にも基づき精度良く操作対象装置を特定することができる。また、操作対象装置の操作画面を表示装置21に表示させることによってドライバの操作の用に供することができる。
実施の形態1の操作支援方法は、車両のドライバの視線方向を取得し、ドライバによる視線以外の特徴的な行動である特徴行動を取得し、視線方向と特徴行動とに基づき、車両に搭載された複数の車載装置22の中から少なくとも一つの車載装置22をドライバが操作を希望する操作対象装置として特定し、操作対象装置の操作画面を、車両に搭載された表示装置21に表示させる。従って、実施の形態1の操作支援方法によれば、視線方向だけでなく特徴行動にも基づき精度良く操作対象装置を特定することができる。また、操作対象装置の操作画面を表示装置21に表示させることによってドライバの操作の用に供することができる。
<B.実施の形態2>
<B−1.構成>
図3は、実施の形態2に係る操作支援装置102の構成を示すブロック図である。操作支援装置102は、実施の形態1に係る操作支援装置101の構成に加えて、操作受付部15および操作対象装置制御部16を備えている。また、操作支援装置102は、車載装置22、視線検出装置23、特徴行動検出装置24および操作装置25と接続され、これらを利用可能に構成されている。
視線検出装置23、特徴行動検出装置24および操作装置25は、車両に搭載されている。
操作装置25は、表示装置21に表示される車載装置22の操作画面を操作するための装置であり、例えばタッチパッドまたはジョイスティック等である。
視線検出装置23は、例えばカメラを備えており、カメラによるドライバの顔の撮影画像からドライバの視線方向を検出する。視線方向取得部11は、視線検出装置23からドライバの視線方向を取得して装置特定部13に出力する。
特徴行動検出装置24は、ドライバの特徴行動を検出する。図4に示すように、特徴行動検出装置24は、指先方向検出装置24A、音声入力装置24B、ジェスチャ検出装置24Cおよび顔方向検出装置24Dを備えている。
指先方向検出装置24Aは、例えば車両の室内を撮影するカメラを備えており、カメラによるドライバの手指の撮影画像から、ドライバの指差し行動を特徴行動として検出し、ドライバが指差しを行っている場合には指先方向を検出する。
音声入力装置24Bは、例えば車両の室内に搭載されたマイクにより構成され、マイクによりドライバの発話を取得する。音声入力装置24Bには、特定のキーワードが登録されており、ドライバの発話音声が特定のキーワードを含む場合には、当該発話を特徴行動として検出する。
ジェスチャ検出装置24Cは、例えば車両の室内を撮影するカメラを備えており、カメラによるドライバの撮影画像を取得する。ジェスチャ検出装置24Cには、特定のジェスチャが登録されており、ドライバの動きが特定のジェスチャに該当する場合には、当該ジェスチャを特徴行動として検出する。
顔方向検出装置24Dは、例えば車両の室内を撮影するカメラを備えており、カメラによるドライバの撮影画像から、ドライバの顔の方向を検出し、例えばドライバの顔が一定期間継続して同じ方向を向いている場合や、顔の方向が急激に移動した後一定の方向に留まった場合などに、そのときの顔の方向を特徴行動として検出する。
なお、特徴行動検出装置24は、指先方向検出装置24A、音声入力装置24B、ジェスチャ検出装置24Cおよび顔方向検出装置24Dのいずれかを少なくとも備えていれば良い。
特徴行動取得部12は、特徴行動検出装置24から特徴行動を取得して装置特定部13に出力する。
装置特定部13は、視線方向取得部11から視線方向、特徴行動取得部12から特徴行動を取得し、これらに基づき、車載装置22の中からドライバが操作を希望する操作対象装置を特定する。装置特定部13は、操作対象装置が一意に特定できない場合には、必ずしも操作対象装置を一つに特定する必要はなく、確からしいと考えられる複数の操作対象装置を特定しても良い。装置特定部13による操作対象装置の特定処理の詳細は<B−2>で後述する。
車載装置22は、例えばナビゲーション装置、エアコン、オーディオ装置などである。図3では、表示装置21と操作装置25を車載装置22と別の装置として示している。図3では、車両に搭載される装置のうち、操作支援装置102による制御対象となる装置を車載装置22として示している。従って、表示装置21または操作装置25の設定変更操作などをドライバが希望する場合には、これらの装置も車載装置22になり得る。
図5には、車両の室内に設けられた複数のディスプレイを示している。図5に示すように、車両の室内にメータディスプレイ21A、HUD21B、Center Information Display(略称:CID)21C、および助手席ディスプレイ21Dが設けられる場合、表示装置21はこれら複数のディスプレイの一部でも全てでも良い。
表示制御部14は、操作対象装置の操作画面を作成し、表示装置21に操作画面を表示させる。図6は、操作対象装置であるナビゲーション装置の操作メニュー31が自車位置周辺地図30に重畳してCID21Cに表示される様子を示している。ドライバは操作メニュー31を操作することによってナビゲーション装置の操作を行うことができる。つまり、操作メニュー31はナビゲーション装置の操作に直接供される画面である。
図7は、操作対象装置であるナビゲーション装置のチュートリアル32が自車位置周辺地図33に重畳してCID21Cに表示される様子を示している。ドライバはチュートリアル32に沿って画面を操作することによりナビゲーション装置の操作を行うことができる。つまり、チュートリアル32はナビゲーション装置の操作に直接供される画面である。
図8は、操作対象装置であるナビゲーション装置の機能説明画面34が自車位置周辺地図35に重畳してCID21Cに表示される様子を示している。ドライバは機能説明画面34の説明を読んでナビゲーション装置の操作方法を学び、機能説明画面34に記載された方法に従ってナビゲーション装置の操作を行うことができる。従って、機能説明画面はナビゲーション装置の操作に間接的に供される画面である。
図6から図8では一つの操作対象装置の操作画面を表示することを説明したが、操作対象装置が複数ある場合、複数の操作対象装置の操作画面が同時に表示装置21に表示される。この場合、複数の操作画面は同じ表示装置21に表示されても良いし、別の表示装置21に表示されても良い。
<B−2.操作対象装置の特定処理>
次に、図9のフローに沿って、操作支援装置102の動作を説明する。
まず、視線方向取得部11がドライバの視線方向を、特徴行動取得部12がドライバの特徴行動を、それぞれ取得する(ステップS201)。ここで、取得されるドライバの視線方向は、必ずしも特徴行動の実施時点と同じ時点の視線方向でなくても良く、特徴行動の実施時点から遡るまたは経過する予め定められた期間内の視線方向であれば良い。
次に、装置特定部13が、視線方向に基づく操作対象装置の候補の特定処理を行う(ステップS202)。ドライバが特定の車載装置22を操作しようとするとき、当該車載装置22またはその表示情報を見る。例えば、ナビゲーション装置の表示情報が別の表示装置に表示される場合には、ドライバはナビゲーション装置を操作しようとするときに当該別の表示装置に表示された表示情報を見る。従って、車載装置22またはその表示情報がドライバの視線対象となる場合、当該車載装置22が操作対象装置となる可能性が高い。
そこで、装置特定部13は、車載装置22またはその表示情報がドライバの視線方向に重なる場合に、当該車載装置22を操作対象装置の候補として特定する。装置特定部13は、車載装置22が車両の室内のどの場所に設置されているかを示す配置情報を記憶しており、配置情報に基づき、ドライバの視線方向が車載装置22に重なるか否かを判断する。また、装置特定部13は、車載装置22の表示情報がどの表示装置21のどの場所に表示されているかを示す表示配置情報を、表示制御部14から随時取得しており、表示配置情報に基づき、ドライバの視線方向が車載装置22の表示情報に重なるか否かを判断する。全ての車載装置22またはその表示情報もドライバの視線方向に重ならない場合、装置特定部13は操作対象装置の候補を特定することができない。
次に、装置特定部13が、特徴行動に基づく操作対象装置の候補の特定処理を行う(ステップS203)。具体的には、特徴行動が指差し行動である場合、装置特定部13は、装置自体または装置の表示情報がドライバの指先方向に重なる車載装置22を操作対象装置の候補として特定する。また、特徴行動が発話である場合、装置特定部13は、発話に装置に関連するキーワードが含まれる車載装置22を操作対象装置の候補として特定する。例えば、ドライバが「音量を下げたい」と発話した場合、「音量」というキーワードに関連するオーディオ装置が操作対象装置の候補として特定される。また、特徴行動がドライバのジェスチャである場合、装置特定部13は当該ジェスチャに対応付けられた車載装置22を操作対象装置の候補として特定する。また、特徴行動が顔の方向である場合、装置特定部13は装置自体または装置の表示情報が顔の方向に重なる車載装置22を操作対象装置の候補として特定する。
次に、装置特定部13は、ステップS202で特定した操作対象装置の候補とステップS203で特定した操作対象装置の候補とが一致するか否かを判断する(ステップS204)。両候補が一致しない場合の他、ステップS202とステップS203の一方または両方で操作対象装置の候補が特定されない場合には、ステップS204でNoとなる。この場合、操作支援装置102は操作対象装置を特定せずに処理を終了する。
一方、ステップS202で特定した操作対象装置の候補とステップS203で特定した操作対象装置の候補とが一致する場合、装置特定部13は当該一致する候補を操作対象装置として特定する(ステップS205)。そして、表示制御部14が操作対象装置の操作画面を作成し、表示装置21に表示させる(ステップS206)。以上で、操作支援装置102の処理を終了する。
図9のフローでは、視線方向と重なる車載装置22が操作対象装置の候補になるという簡潔な例を示した。しかし、実際には、視線方向が特定の車載装置22に完全に重ならなかったり、複数の車載装置22に跨って重なったりする場合があり、一つの車載装置22を操作対象装置の候補に特定することが困難な場合もある。従って、装置特定部13は、各車載装置22を操作対象装置の候補にするかしないかの2択で判断するのではなく、車載装置22が操作対象装置になる確率(操作対象確率)を算出しても良い。
図10に、操作対象確率に基づき操作対象装置を特定する場合の操作支援装置102のフローチャートを示す。図10のフローでは、まず、視線方向取得部11がドライバの視線方向を、特徴行動取得部12がドライバの特徴行動を、それぞれ取得する(ステップS301)。ステップS301は図9のステップS201と同様である。
次に、装置特定部13が、視線方向に基づき各車載装置22の操作対象確率X1を算出する(ステップS302)。ステップS302では、視線方向が複数の車載装置22に跨って重なる場合に、より重なり具合の大きい車載装置22の操作対象確率が大きく算出される。また、視線方向がいずれの車載装置22にも重ならない場合、より視線方向に近い車載装置22の操作対象確率が大きく算出される。これらは、車載装置22の装置自体と視線方向との関係に基づく操作対象確率の算出について述べているが、車載装置22の表示情報と視線方向との関係に基づく操作対象確率の算出についても同様である。
次に、装置特定部13は、特徴行動に基づき各車載装置22の操作対象確率X2を算出する(ステップS303)。
そして、装置特定部13は、各車載装置22につき、視線方向に基づく操作対象確率X1と特徴行動に基づく操作対象確率X2を総合し、各車載装置22の操作対象確率Xを算出する(ステップS304)。例えば、操作対象確率Xには、X1とX2の平均値を用いても良い。
そして、装置特定部13は、操作対象確率Xに基づき操作対象装置を特定する(ステップS305)。本ステップの詳細なフローは図11に示す。
図11のフローにおいて、まず装置特定部13は、車載装置22の操作対象確率Xの最大値がa以上か否かを判断する(ステップS3051)。操作対象確率Xの最大値がa以上である場合、装置特定部13は操作対象確率Xが最大値となる車載装置22を操作対象装置とする(ステップS3052)。
操作対象確率Xの最大値がa未満である場合、装置特定部13は、操作対象確率Xの最大値がb以上か否かを判断する(ステップS3053)。ここで、a>bとする。操作対象確率Xの最大値がb未満である場合、装置特定部13は操作対象装置を特定することなくステップS305を終了する。
操作対象確率Xの最大値がb以上である場合、装置特定部13は、2番目に大きい車載装置22の操作対象確率Xがc以上か否かを判断する(ステップS3054)。ここで、a>b>cとする。2番目に大きい車載装置22の操作対象確率Xがc未満である場合、装置特定部13は操作対象装置を特定することなくステップS305を終了する。
2番目に大きい車載装置22の操作対象確率Xがc以上である場合、装置特定部13は、操作対象確率Xが大きい順に2台の車載装置22を操作対象装置として特定する(ステップS3055)。以上で、ステップS305が終了する。
図10のフローに説明を戻すと、ステップS305で特定された操作対象装置について、表示制御部14が操作画面を作成し、これを表示装置21に表示させる(ステップS306)。なお、図10のフローには示していないが、ステップS305で操作対象装置が特定されない場合には、ステップS306で操作画面も表示されない。
<B−3.操作画面の表示>
図11のステップS3055で示したように、2台の操作対象装置が特定される場合には、それら2台の操作対象装置について操作画面が表示装置21に表示される。図12は、ナビゲーション装置とオーディオ装置が操作対象装置である場合に、これらの操作画面が表示装置21に表示される様子を示している。表示装置21には、ナビゲーション装置の表示情報である自車位置周辺地図画面36と、オーディオ装置の表示情報であるトラック画面37と、オーディオ装置の操作画面である操作メニュー画面38と、ナビゲーション装置の操作画面である操作メニュー画面39が表示されている。
図12において、オーディオ装置の操作メニュー画面38がナビゲーション装置の操作メニュー画面39よりも大きく表示されているのは、オーディオ装置の操作対象確率Xがナビゲーション装置の操作対象確率Xよりも大きいためである。このように、表示装置21に複数の操作画面を表示する場合には、より操作対象確率Xが大きい操作対象装置の操作画面を、他の操作画面よりも目立つ態様で表示することが望ましい。これにより、ドライバが操作を希望する可能性の高い車載装置22の操作画面をドライバに分かりやすく表示することができる。なお、表示制御部14は、画面の大きさの他、明瞭度、カラー表示の有無、ライトアップの有無などにより、2つの操作画面の表示態様に差を設けても良い。
図12では、複数の操作対象装置の操作画面を表示する場合について説明した。しかし、表示制御部14は、1台の操作対象装置が特定されている場合に、操作対象装置の操作画面と、操作対象装置ではない車載装置22の操作画面とを共に表示装置21に表示させても良い。ここで、操作画面が表示される車載装置22は、操作対象装置と隣り合う位置に配置されている車載装置22でも良いし、表示装置21の画面上で、操作対象装置の表示情報と隣り合う位置に表示情報が表示されている車載装置22でも良い。これにより、操作対象装置と特定されてはいなくてもユーザが操作を希望する可能性のある車載装置22の操作画面を表示することができる。この場合にも、操作対象装置の操作画面を操作対象装置ではない車載装置22の操作画面よりも目立つ態様で表示することにより、ドライバが操作を希望する可能性の高い車載装置22の操作画面をドライバに分かりやすく表示することができる。
表示装置21が複数ある場合、表示制御部14は一つの表示装置21を選択し、選択した表示装置21に操作画面を表示させる。
例えば、表示制御部14は、装置特定部13が操作対象装置を特定する際に用いたドライバの視線方向に最も近い表示装置21に、操作画面を表示させることができる。これにより、ドライバは、車載装置22から操作対象装置を選択する際から視線方向を大きく動かすことなく操作画面を視認することができる。
あるいは、表示制御部14は、車載装置22を制御走行系装置、ボディ系装置、情報系装置に分類し、操作対象装置の分類に応じた表示装置21に、操作画面を表示させても良い。制御走行系装置とは、例えばオートクルーズまたはオートブレーキといった、車両の走行に関する制御を行う装置である。ボディ系装置とは、ウィンドウまたはドア等、車両のボディに関する制御を行う装置である。情報系装置とは、ナビゲーション装置またはオーディオ装置など、車両の乗員に情報を提供する装置である。
そして、例えば、表示制御部14は、制御走行系装置の操作画面はHUDに表示させ、ボディ系装置および情報系装置の操作画面はCIDに表示させても良い。これにより、車両の走行に関わる制御走行系装置の操作画面の操作を、ドライバは運転しながら安全に行うことが可能となる。
<B−4.操作装置>
次に、操作画面の操作について説明する。ドライバは、操作装置25を用いて表示装置21に表示された操作画面を操作することが可能である。操作受付部15は、操作装置25の操作情報を取得し、表示制御部14と操作対象装置制御部16に出力する。
表示制御部14は、操作受付部15から取得した操作装置25の操作情報に基づき、操作画面を更新して表示装置21に表示させる。
操作対象装置制御部16は、操作受付部15から取得した操作装置25の操作情報に基づき、操作対象装置の制御を行う。
図13は、表示装置21と操作装置25を示す図である。図13において、運転席と助手席のあいだのコンソールにタッチパッド25A、ダイヤル25Bおよびボタン25Cが設けられており、これらが操作装置25に該当する。表示装置21には、左ミラーの映像40L、右ミラーの映像40R、メータディスプレイ41、ナビゲーション装置の表示情報である自車位置周辺地図画面42、ナビゲーション装置の操作画面43が表示されている。ナビゲーション装置が操作対象装置である。
ここで、ナビゲーション装置の操作画面43を操作する操作装置25がダイヤル25Bであると予め定められているものとする。このとき、操作対象装置制御部16は、ダイヤル25Bをライトアップする。これにより、ドライバは操作画面43の操作に供する操作装置25を容易に把握することができる。
また、ダイヤル25Bのライトアップに加えて、表示制御部14がナビゲーション装置の操作画面43をライトアップ表示させても良い。これにより、さらにドライバは操作画面43の操作に供する操作装置25を容易に把握することができる。
また、ダイヤル25Bと操作画面43とでライトアップ色を統一することにより、よりドライバが操作画面43の操作に供する操作装置25を容易に把握できるようにしても良い。
また、表示制御部14は、ナビゲーション装置の操作画面は青色、オーディオ装置の操作画面は赤色というように、操作画面の種類によってライトアップ色を変えることにより、ドライバが操作画面の操作内容を容易に把握できるようにしても良い。
また、ダイヤル25Bをライトアップ表示する場合には、ダイヤル25Bの周囲をライトがぐるぐる回るようなライトアップ表示を行い、ボタン25Cをライトアップ表示する場合には、ボタン25Cを点滅させるというように、表示制御部14は操作装置25の種類によって異なるライトアップ表示を行っても良い。これにより、ドライバは操作装置25の操作方法を容易に把握することができる。
<B−5.ドライバの特徴行動の例>
次に、ドライバの特徴行動を例示する。図14は、ドライバがエアコン操作装置44を見ながら、エアコン操作装置44を右手の人差し指で指示する様子を示している。このとき、装置特定部13は、ドライバの視線方向と、人差し指の指示方向とに基づき、<B−2>で説明した処理によりエアコンを操作対象装置として特定する。そして、図15に示すように、表示制御部14がエアコンの操作画面45を表示装置21に表示する。ユーザはタッチパッド25Aまたはダイヤル25Bなどの操作装置25を用いて操作画面45を操作し、これにより操作対象装置制御部16がエアコンの制御を行う。
図16は、ドライバがオーディオ装置の表示情報であるトラック画面46を見ながら、「少し音量を下げたい」と発話する様子を示している。このとき、装置特定部13は、ドライバの視線方向と、ドライバの発話内容とに基づき、<B−2>で説明した処理によりオーディオ装置を操作対象装置として特定する。そして、図17に示すように、表示制御部14がオーディオ装置の音量操作画面47を表示装置21に表示する。ユーザはタッチパッド25Aまたはダイヤル25Bなどの操作装置25を用いて音量操作画面47を操作し、これにより操作対象装置制御部16がオーディオ装置に対し音量を下げるように制御する。なお、この例では、ドライバによる音量操作画面47の操作を待たずに、オーディオ装置の音量を1段階、あるいは数段階下げる制御を操作対象装置制御部16が行っても良い。
図18は、ドライバがオーディオ装置の表示情報であるトラック画面46を見ながら、前方に出した手の平を左右に動かすジェスチャ、すなわちスワイプ動作を行う様子を示している。このとき、装置特定部13は、ドライバの視線方向と、スワイプ動作とに基づき、<B−2>で説明した処理によりオーディオ装置を操作対象装置として特定する。そして、図19に示すように、表示制御部14がオーディオ装置の曲送り/戻し画面48を表示装置21に表示する。ユーザはタッチパッド25Aまたはダイヤル25Bなどの操作装置25を用いて曲送り/戻し画面48を操作し、これにより操作対象装置制御部16がオーディオ装置に対し、曲送りまたは曲戻しを行うよう制御する。なお、この例では、ドライバによる曲送り/戻し画面48の操作を待たずに、次の曲へ曲送りするよう操作対象装置制御部16がオーディオ装置を制御しても良い。
図20は、ドライバがナビゲーション装置の表示情報である自車位置周辺地図画面42を見ながら、顔を自車位置周辺地図画面42に向ける様子を示している。このとき、装置特定部13は、ドライバの視線方向と、顔の方向とに基づき、<B−2>で説明した処理によりオーディオ装置を操作対象装置として特定する。そして、図21に示すように、表示制御部14がナビゲーション装置の操作メニュー49を表示装置21に表示する。ユーザはタッチパッド25Aまたはダイヤル25Bなどの操作装置25を用いて操作メニュー49を操作し、これにより操作対象装置制御部16がナビゲーション装置に対し、所定の制御を実行する。
以上の例で説明したように、実施の形態2の操作支援装置102は、視線方向と特徴行動の両方に基づき操作対象装置を特定するため、精度良く操作対象装置を特定することができる。複数の車載装置22が隣り合って配置されていれば視線方向が複数の車載装置22に重なることがある。また、車両の揺れにより、視線方向が複数の車載装置22に跨って移動することがある。このような場合には、視線方向だけで操作対象装置を特定することが困難である。しかし、操作支援装置102は、特徴行動を用いて、視線方向による操作対象装置の特定精度を補完することにより、高い精度で操作対象装置を特定することができる。
<B−6.効果>
実施の形態2の操作支援装置102によれば、装置特定部13は、視線方向に基づき複数の車載装置22の中から少なくとも一つの車載装置を操作対象装置の候補として特定すると共に、特徴行動に基づき複数の車載装置22の中から少なくとも一つの車載装置22を操作対象装置の候補として特定し、視線方向に基づき特定した操作対象装置の候補と特徴行動に基づき特定した操作対象装置の候補が一致する場合に、操作対象装置の候補を操作対象装置と特定する。従って、操作支援装置102によれば操作対象装置を精度よく特定することができる。
また、操作支援装置102は、実施の形態1の操作支援装置101の構成に加えて、車両に搭載されたドライバが操作する複数の操作装置25の操作情報を取得する操作受付部15と、操作情報に基づき操作対象装置を制御する操作対象装置制御部16と、を備える。そして、表示制御部14は、操作情報に基づき操作対象装置の操作画面を遷移させる。従って、操作支援装置102によれば操作対象装置の操作画面を表示させ、ドライバの操作の用に供することが可能である。
また、操作支援装置102において、装置特定部13は、ドライバの視線方向と車載装置との重なり具合に基づき操作対象装置を特定する。従って、ドライバは操作を希望する装置を見ることにより、当該装置の操作画面を表示装置21に表示させることができる。
また、操作支援装置102において、表示制御部14は、複数の操作可能装置の夫々の表示情報を表示装置21に表示させる。そして、装置特定部13は、表示情報とドライバの視線方向との重なり具合に基づき操作対象装置を特定する。従って、ドライバは、表示装置21の表示画面上の、操作を希望する装置の表示情報を見ることにより、当該装置の操作画面を表示装置21に表示させることができる。
また、操作支援装置102において、操作対象装置制御部16は、操作画面の遷移に用いる操作装置25をライトアップする。従って、操作支援装置102によれば、操作画面43の操作に供する操作装置25をドライバに容易に把握させることができる。
また、操作支援装置102において、装置特定部13は、視線方向と特徴行動とに基づき、複数の車載装置22の夫々に対してドライバが操作を希望する確率である操作希望確率を算出し、操作希望確率に基づき操作対象装置を特定し、表示制御部14は、操作対象装置が複数ある場合には、操作希望確率がより大きい操作対象装置の操作画面をより目立つ態様で表示させる。従って、操作支援装置102によれば、ユーザが操作を希望する可能性のある車載装置22の操作画面を適切に表示させることができる。
また、操作支援装置102において、表示制御部14は、操作対象装置の隣に位置する操作対象装置ではない車載装置22の操作画面を、操作対象装置の操作画面より目立たない態様で表示装置21に表示させる。従って、ドライバが操作を希望する可能性のある車載装置22の操作画面を表示しつつ、より可能性の高い操作対象装置の操作画面をドライバに分かりやすく表示させることができる。
<C.実施の形態3>
<C−1.構成>
実施の形態2では、特徴行動を視線方向の補完として、操作対象装置を特定するために用いた。これに対して実施の形態3では、特徴行動を、視線方向に基づき操作対象装置を特定するタイミングを決定するために用いる。
実施の形態3に係る操作支援装置103の構成は、図3に示す通りであり、実施の形態2に係る操作支援装置102の構成と同様である。
<C−2.動作>
図22は、操作支援装置103の動作を示すフローチャートである。以下、図22のフローに沿って操作支援装置103の動作を説明する。
図22のフローにおいて、まず、視線方向取得部11がドライバの視線方向を、特徴行動取得部12がドライバの特徴行動を、それぞれ取得する(ステップS401)。このステップは、図9のステップS201または図10のステップS301と同様である。
次に、装置特定部13は、特徴行動の実施時点から予め定められた期間内、例えば2秒間の視線方向に基づき、各車載装置22の操作対象確率を算出する(ステップS402)。視線方向に基づく操作対象確率を算出方法は、実施の形態2で説明したとおりである。
次に、装置特定部13は、各車載装置22の操作対象確率に基づき、操作対象装置を特定する(ステップS403)。ここで、装置特定部13は、最も操作対象確率が大きい順に1又は複数の車載装置を操作対象装置として特定する。特定方法の詳細は、実施の形態2において図11のフローで説明したとおりである。
次に、表示制御部14が操作対象装置の操作画面を作成し、表示装置21に表示させる(ステップS404)。このステップは、図9のステップS206または図10のステップS306と同様である。
このように、実施の形態3において特徴行動は、操作対象装置を特定するための直接的な要素ではなく、視線方向に基づき操作対象装置を特定するためのタイミングを決定するために用いられる。上述の例では、ドライバが特徴行動を実施した時点から経過する一定期間(例えば2秒間)に、ある車載装置22を見た場合に、当該車載装置22が操作対象装置として特定される。
しかし、操作対象確率の算出に用いられる視線方向は、特徴行動の実施時点から経過する予め定められた期間の視線方向である必要はなく、特徴行動の実施時点から遡る予め定められた期間の視線方向であっても良い。この場合、ドライバがある車載装置22を一定期間(例えば2秒間)見た後に特徴行動を行うことにより、当該車載装置22が操作対象装置として特定される。
また、図22では、操作対象確率に基づき操作対象装置を特定する方法を説明したが、実施の形態2の図9のフローで説明したのと同様の方法で、視線方向と重なる車載装置22を操作対象装置としても良い。
<C−3.効果>
実施の形態3の操作支援装置103において、装置特定部13は、特徴行動の実施時点から遡るまたは経過する予め定められた期間内におけるドライバの視線方向に基づき、操作対象装置を特定する。このように、特徴行動で定められたタイミングの視線方向により操作対象装置を特定することにより、操作支援装置103は精度良く操作対象装置を特定することができる。
<D.実施の形態4>
<D−1.構成>
図23は、実施の形態4に係る操作支援装置104の構成を示すブロック図である。操作支援装置104の構成は、図3に示した実施の形態2または実施の形態3の操作支援装置102,103の構成と同様である。但し、操作支援装置104は周辺検出装置26、車両センサ27および道路状況検出装置28と接続され、これらを利用可能に構成されている点が操作支援装置102,103と異なる。周辺検出装置26、車両センサ27および道路状況検出装置28は、車両に搭載された装置である。
装置特定部13は、以前の実施の形態と同様、ドライバの視線方向および特徴行動に基づき操作対象装置を特定する。操作対象装置の特定に際して、装置特定部13は、車載装置22またはその表示情報とドライバの視線方向との重なり具合を考慮する。典型的には、ドライバの視線方向に重なる車載装置22を操作対象装置と特定する。
実施の形態2,3では特に言及しなかったが、上記の操作対象装置の特定に用いられるドライバの視線方向は、瞬間的な視線方向ではなく、ある一定の継続期間における視線方向である。この「ある一定の継続期間」を「注視検出時間」と称する。
実施の形態4において、装置特定部13は、注視検出時間を、車両の走行の有無、走行道路の種別、周辺車両の状況等に応じて可変に設定する。
周辺検出装置26は、車両に搭載されたカメラ又はレーダ等で構成され、周辺車両の走行状況を検出する。周辺車両とは、自車両の周辺を走行する車両のことである。周辺車両の走行状況には、例えば周辺車両の走行速度、周辺車両と自車両との距離などが含まれる。
車両センサ27は、搭載された車両の状態を検知するセンサであり、例えば車速センサがこれに含まれる。装置特定部13は、車両センサの検知情報から、車両が走行中であるか停車中であるかを識別できる。
道路状況検出装置28は、例えばGlobal Positioning System(GPS)信号等を用いて車両の位置を把握すると共に、地図情報を参照して、車両が現在走行している道路の種別を検出する。走行道路の種別とは、例えば一般道路か高速道路かの種別である。
周辺検出装置26、車両センサ27、道路状況検出装置28からの情報は、ドライバが車載装置22を注視することのできる余裕度を示す情報である。例えば、ドライバは車両の走行中は停止中に比べて運転に集中するため、車載装置22を長時間注視する余裕はない。また、高速道路では一般道路に比べて運転への集中負荷が高く、ドライバは車載装置22を長時間注視する余裕はないと考えられる。また、周辺車両が近くを走行中の場合は、周辺車両が存在しない場合に比べて運転負荷が高く、ドライバは車載装置22を長時間注視する余裕はないと考えられる。こうした状況を反映し、装置特定部13は、注視検出時間を例えば一般道路の走行中には500ms以上1500ms以下に設定し、停車中には2000ms以上3000ms以下に設定する。
これにより、操作対象装置の誤検出を防ぎつつも、ドライバがなるべく車載装置22を長時間注視しなくても良いようにする。
<D−2.効果>
実施の形態4の操作支援装置104において、装置特定部13は、車両の走行の有無、走行道路の種別および車両の周辺を走行する周辺車両の状況、の少なくともいずれかに基づき変化する注視検出時間における視線方向に基づき操作対象装置を特定する。従って、操作支援装置104によれば、運転の安全に配慮しつつ、操作対象装置の誤検出を防ぐことができる。
<E.ハードウェア構成>
上述した操作支援装置101,102,103,104における、視線方向取得部11、特徴行動取得部12、装置特定部13、表示制御部14、操作受付部15および操作対象装置制御部16は、図24に示す処理回路81により実現される。すなわち、処理回路81は、視線方向取得部11、特徴行動取得部12、装置特定部13、表示制御部14、操作受付部15および操作対象装置制御部16(以下、単に「視線方向取得部11等」と称する)を備える。処理回路81には、専用のハードウェアが適用されても良いし、メモリに格納されるプログラムを実行するプロセッサが適用されても良い。プロセッサは、例えば中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、DSP(Digital Signal Processor)等である。
処理回路81が専用のハードウェアである場合、処理回路81は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、またはこれらを組み合わせたものが該当する。視線方向取得部11等の各部の機能それぞれは、複数の処理回路81で実現されてもよいし、各部の機能をまとめて一つの処理回路で実現されてもよい。
処理回路81がプロセッサである場合、視線方向取得部11等の機能は、ソフトウェア等(ソフトウェア、ファームウェアまたはソフトウェアとファームウェア)との組み合わせにより実現される。ソフトウェア等はプログラムとして記述され、メモリに格納される。図25に示すように、処理回路81に適用されるプロセッサ82は、メモリ83に記憶されたプログラムを読み出して実行することにより、各部の機能を実現する。すなわち、操作支援装置101,102,103,104は、処理回路81により実行されるときに、車両のドライバの視線方向を特定するステップと、ドライバによる視線以外の特徴的な行動である特徴行動を取得するステップと、視線方向と特徴行動とに基づき、車両に搭載された複数の車載装置22の中から少なくとも一つの車載装置22をドライバが操作を希望する操作対象装置として特定するステップと、操作対象装置の操作画面を車両に搭載された表示装置21に表示させるステップと、が結果的に実行されることになるプログラムを格納するためのメモリ83を備える。換言すれば、このプログラムは、視線方向取得部11等の手順や方法をコンピュータに実行させるものであるともいえる。ここで、メモリ83には、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)などの、不揮発性または揮発性の半導体メモリ、HDD(Hard Disk Drive)、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD(Digital Versatile Disk)及びそのドライブ装置等、または、今後使用されるあらゆる記憶媒体であってもよい。
以上、視線方向取得部11等の各機能が、ハードウェア及びソフトウェア等のいずれか一方で実現される構成について説明した。しかしこれに限ったものではなく、視線方向取得部11等の一部を専用のハードウェアで実現し、別の一部をソフトウェア等で実現する構成であってもよい。例えば、装置特定部13については専用のハードウェアとしての処理回路でその機能を実現し、それ以外についてはプロセッサ82としての処理回路81がメモリ83に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
以上のように、処理回路は、ハードウェア、ソフトウェア等、またはこれらの組み合わせによって、上述の各機能を実現することができる。
また、上記では操作支援装置101,102,103,104を車両に搭載された装置として説明したが、車両に搭載された装置、PND(Portable Navigation Device)、通信端末(例えば携帯電話、スマートフォン、およびタブレットなどの携帯端末)、およびこれらにインストールされるアプリケーションの機能、並びにサーバなどを適宜に組み合わせてシステムとして構築されるシステムにも適用することができる。この場合、以上で説明した操作支援装置101,102,103,10の各機能または各構成要素は、システムを構築する各機器に分散して配置されてもよいし、いずれかの機器に集中して配置されてもよい。図26は、車両とサーバとに分担して操作支援装置102,103の構成が配置された例を示している。この例では、視線方向取得部11、特徴行動取得部12および表示制御部14が車両に搭載され、装置特定部13がサーバで構成される。
なお、本発明は、その発明の範囲内において、各実施の形態を自由に組み合わせたり、各実施の形態を適宜、変形、省略したりすることが可能である。
この発明は詳細に説明されたが、上記した説明は、すべての態様において、例示であって、この発明がそれに限定されるものではない。例示されていない無数の変形例が、この発明の範囲から外れることなく想定され得るものと解される。
11 視線方向取得部、12 特徴行動取得部、13 装置特定部、14 表示制御部、15 操作受付部、16 操作対象装置制御部、21 表示装置、21A メータディスプレイ、21B HUD、21C CID、21D 助手席ディスプレイ、22 車載装置、23 視線検出装置、24 特徴行動検出装置、24A 指先方向検出装置、24B 音声入力装置、24C ジェスチャ検出装置、24D 顔方向検出装置、25 操作装置、25A タッチパッド、25B ダイヤル、25C ボタン、26 周辺検出装置、27 車両センサ、81 処理回路、82 プロセッサ、83 メモリ、101,102,103,104 操作支援装置。

Claims (15)

  1. 車両のドライバの視線方向を取得する視線方向取得部と、
    前記ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部と、
    前記視線方向と前記特徴行動とに基づき、前記車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、前記ドライバが操作を希望する操作対象装置として特定する装置特定部と、
    前記操作対象装置の操作画面を、前記車両に搭載された表示装置に表示させる表示制御部と、
    を備え、
    前記特徴行動は、前記ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであ
    前記装置特定部は、前記特徴行動の実施時点から遡る予め定められた期間内における前記ドライバの視線方向に基づき、前記操作対象装置を特定する、
    操作支援装置。
  2. 前記車両に搭載された前記ドライバが操作する複数の操作装置の操作情報を取得する操作受付部と、
    前記操作情報に基づき前記操作対象装置を制御する操作対象装置制御部と、をさらに備え、
    前記表示制御部は、前記操作情報に基づき前記操作対象装置の操作画面を遷移させる、
    請求項1に記載の操作支援装置。
  3. 前記装置特定部は、前記ドライバの視線方向と前記車載装置との重なり具合に基づき前記操作対象装置を特定する、
    請求項1に記載の操作支援装置。
  4. 前記表示制御部は、前記複数の車載装置の表示情報を前記表示装置に表示させ、
    前記装置特定部は、前記表示情報と前記ドライバの視線方向との重なり具合に基づき前記操作対象装置を特定する、
    請求項1に記載の操作支援装置。
  5. 前記操作対象装置制御部は、前記操作画面の遷移に用いる前記操作装置をライトアップする、
    請求項に記載の操作支援装置。
  6. 前記操作対象装置制御部は、前記操作画面の遷移に用いる前記操作装置がダイヤルである場合とボタンである場合とで、前記操作画面の遷移に用いる前記操作装置を異なる態様でライトアップする、請求項に記載の操作支援装置。
  7. 前記表示制御部は、前記操作対象装置の隣に位置する前記操作対象装置ではない前記車載装置の操作画面を、前記操作対象装置の操作画面より目立たない態様で前記表示装置に表示させる、
    請求項1から請求項6のいずれか1項に記載の操作支援装置。
  8. 前記装置特定部は、前記車両の走行の有無、走行道路の種別および前記車両の周辺を走行する周辺車両の状況、の少なくともいずれかに基づき変化する注視検出時間における前記視線方向に基づき前記操作対象装置を特定する、
    請求項1から請求項7のいずれか1項に記載の操作支援装置。
  9. 車両のドライバの視線方向を取得する視線方向取得部と、
    前記ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部と、
    前記視線方向と前記特徴行動とに基づき、前記車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、前記ドライバが操作を希望する操作対象装置として特定する装置特定部と、
    前記操作対象装置の操作画面を、前記車両に搭載された表示装置に表示させる表示制御部と、
    を備え、
    前記特徴行動は、前記ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであり、
    前記装置特定部は、前記視線方向と前記特徴行動とに基づき、前記複数の車載装置の夫々に対して前記ドライバが操作を希望する確率である操作希望確率を算出し、前記操作希望確率に基づき前記操作対象装置を特定し
    前記表示制御部は、前記操作対象装置が複数ある場合には、前記操作希望確率がより大きい前記操作対象装置の操作画面の全体をより目立つ態様で表示させる、
    作支援装置
  10. 車両のドライバの視線方向を取得する視線方向取得部と、
    前記ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部と、
    前記視線方向と前記特徴行動とに基づき、前記車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、前記ドライバが操作を希望する操作対象装置として特定する装置特定部と、
    前記操作対象装置の操作画面を、前記車両に搭載された表示装置に表示させる表示制御部と、
    を備え、
    前記特徴行動は、前記ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであり、
    前記表示制御部は、前記操作対象装置の操作画面の全体を、前記操作対象装置の隣に位置する前記操作対象装置ではない前記車載装置の操作画面より目立態様で表示させる、
    作支援装置。
  11. 前記車載装置の前記操作希望確率は、前記車載装置と前記視線方向との重なり具合、または前記車載装置と前記視線方向との遠近関係に応じて定まる、
    請求項9に記載の操作支援装置。
  12. 前記操作画面をより目立つ態様で表示させるとは、前記操作画面をより大きく表示させることである、
    請求項9から請求項11のいずれか1項に記載の操作支援装置。
  13. 前記表示制御部は、前記操作希望確率がより大きい前記操作対象装置の操作画面の全体をカラーで表示させ、前記操作希望確率がより小さい前記操作対象装置の操作画面の全体をモノクロで表示させる、
    請求項9に記載の操作支援装置。
  14. 前記表示制御部は、前記操作対象装置の操作画面の全体をカラーで表示させ、前記操作対象装置ではない前記車載装置の操作画面の全体をモノクロで表示させる、
    請求項10に記載の操作支援装置。
  15. 車両のドライバの視線方向を特定し、
    前記ドライバによる視線以外の特徴的な行動である特徴行動を取得し、
    前記視線方向と前記特徴行動とに基づき、前記車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、前記ドライバが操作を希望する操作対象装置として特定し、
    前記操作対象装置の操作画面を、前記車両に搭載された表示装置に表示させ、
    前記特徴行動は、前記ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであ
    前記特徴行動の実施時点から遡る予め定められた期間内における前記ドライバの視線方向に基づき、前記操作対象装置を特定する、
    操作支援方法。
JP2019530324A 2017-07-21 2017-07-21 操作支援装置および操作支援方法 Active JP6851482B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/026448 WO2019016936A1 (ja) 2017-07-21 2017-07-21 操作支援装置および操作支援方法

Publications (2)

Publication Number Publication Date
JPWO2019016936A1 JPWO2019016936A1 (ja) 2019-11-21
JP6851482B2 true JP6851482B2 (ja) 2021-03-31

Family

ID=65015096

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019530324A Active JP6851482B2 (ja) 2017-07-21 2017-07-21 操作支援装置および操作支援方法

Country Status (3)

Country Link
US (1) US20200159366A1 (ja)
JP (1) JP6851482B2 (ja)
WO (1) WO2019016936A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020217337A1 (ja) * 2019-04-24 2020-10-29 三菱電機株式会社 走行環境分析装置、走行環境分析システムおよび走行環境分析方法
JP7339899B2 (ja) * 2020-02-17 2023-09-06 本田技研工業株式会社 情報処理装置、車両、プログラム、及び情報処理方法
KR20210156126A (ko) * 2020-06-17 2021-12-24 현대모비스 주식회사 노브를 이용한 디스플레이 제어 시스템
JP7407665B2 (ja) * 2020-07-06 2024-01-04 三菱電機株式会社 音声出力制御装置および音声出力制御プログラム
WO2023272635A1 (zh) * 2021-06-30 2023-01-05 华为技术有限公司 一种目标位置的确定方法、确定装置及确定系统
JP2023032886A (ja) * 2021-08-27 2023-03-09 トヨタ自動車株式会社 表示制御装置、表示システム、表示方法、及び表示プログラム
KR20230033794A (ko) * 2021-09-01 2023-03-09 현대자동차주식회사 차량 내 제스처 인식 장치 및 그 방법
JP7262643B1 (ja) 2022-04-01 2023-04-21 三菱電機株式会社 電力設備制御システム、サーバ装置、中央処理装置、電力設備制御方法および電力設備制御プログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080065291A1 (en) * 2002-11-04 2008-03-13 Automotive Technologies International, Inc. Gesture-Based Control of Vehicular Components
JP4311190B2 (ja) * 2003-12-17 2009-08-12 株式会社デンソー 車載機器用インターフェース
JP5120249B2 (ja) * 2006-03-15 2013-01-16 オムロン株式会社 監視装置および監視方法、制御装置および制御方法、並びにプログラム
JP2009184406A (ja) * 2008-02-04 2009-08-20 Toyota Motor Corp 車両用ヘッドアップディスプレイ装置
US20120169582A1 (en) * 2011-01-05 2012-07-05 Visteon Global Technologies System ready switch for eye tracking human machine interaction control system
US20120257035A1 (en) * 2011-04-08 2012-10-11 Sony Computer Entertainment Inc. Systems and methods for providing feedback by tracking user gaze and gestures
JP5367037B2 (ja) * 2011-09-26 2013-12-11 本田技研工業株式会社 顔向き検出装置
JP5954169B2 (ja) * 2012-12-28 2016-07-20 株式会社デンソー 制御装置
US9580081B2 (en) * 2014-01-24 2017-02-28 Tobii Ab Gaze driven interaction for a vehicle
EP3040809B1 (en) * 2015-01-02 2018-12-12 Harman Becker Automotive Systems GmbH Method and system for controlling a human-machine interface having at least two displays
US10168785B2 (en) * 2015-03-03 2019-01-01 Nvidia Corporation Multi-sensor based user interface
US9550406B2 (en) * 2015-03-16 2017-01-24 Thunder Power Hong Kong Ltd. Thermal dissipation system of an electric vehicle
JP2017068312A (ja) * 2015-09-28 2017-04-06 アルパイン株式会社 電子装置
WO2018031516A1 (en) * 2016-08-09 2018-02-15 Google Llc Radar-based gestural interface

Also Published As

Publication number Publication date
JPWO2019016936A1 (ja) 2019-11-21
WO2019016936A1 (ja) 2019-01-24
US20200159366A1 (en) 2020-05-21

Similar Documents

Publication Publication Date Title
JP6851482B2 (ja) 操作支援装置および操作支援方法
US9703472B2 (en) Method and system for operating console with touch screen
US20230302906A1 (en) Method and device for controlling display on basis of driving context
US10466800B2 (en) Vehicle information processing device
CN108349503B (zh) 驾驶辅助装置
US10528150B2 (en) In-vehicle device
US20200201442A1 (en) Gesture operation device and gesture operation method
JP6604151B2 (ja) 音声認識制御システム
US20160196800A1 (en) Vehicle and controlling method thereof
US20160021167A1 (en) Method for extending vehicle interface
JP7338184B2 (ja) 情報処理装置、情報処理システム、移動体、情報処理方法、及びプログラム
JP2017090613A (ja) 音声認識制御システム
WO2016084360A1 (ja) 車両用表示制御装置
JP2017090614A (ja) 音声認識制御システム
JP6844936B2 (ja) 表示制御装置
CN109976515B (zh) 一种信息处理方法、装置、车辆及计算机可读存储介质
US20190147261A1 (en) Vehicle-mounted information processing device, vehicle-mounted device, and vehicle-mounted information processing method
JP7003268B2 (ja) 車載情報装置および携帯端末との連携方法
JP6188468B2 (ja) 画像認識装置、ジェスチャ入力装置及びコンピュータプログラム
JP6717537B2 (ja) 操作制限制御装置及び操作制限制御方法
JP2019016276A (ja) 表示制御装置および表示制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190726

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210309

R150 Certificate of patent or registration of utility model

Ref document number: 6851482

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250