JP6851482B2 - 操作支援装置および操作支援方法 - Google Patents
操作支援装置および操作支援方法 Download PDFInfo
- Publication number
- JP6851482B2 JP6851482B2 JP2019530324A JP2019530324A JP6851482B2 JP 6851482 B2 JP6851482 B2 JP 6851482B2 JP 2019530324 A JP2019530324 A JP 2019530324A JP 2019530324 A JP2019530324 A JP 2019530324A JP 6851482 B2 JP6851482 B2 JP 6851482B2
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- driver
- line
- operation target
- sight direction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 24
- 230000009471 action Effects 0.000 claims description 58
- 238000001514 detection method Methods 0.000 claims description 43
- 230000002093 peripheral effect Effects 0.000 claims description 20
- 230000007704 transition Effects 0.000 claims description 6
- 230000006399 behavior Effects 0.000 description 45
- 230000006870 function Effects 0.000 description 16
- 230000008569 process Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0416—Control or interface arrangements specially adapted for digitisers
- G06F3/0418—Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/10—Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
- B60K35/22—Display screens
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
- B60K35/23—Head-up displays [HUD]
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/29—Instruments characterised by the way in which information is handled, e.g. showing information on plural displays or prioritising information according to driving conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R16/00—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
- B60R16/02—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/143—Touch sensitive instrument input devices
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/146—Instrument input by gesture
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/148—Instrument input by voice
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/149—Instrument input by detecting viewing direction not otherwise provided for
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/18—Information management
- B60K2360/199—Information management for avoiding maloperation
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
- B60K35/214—Variable gauge scales, e.g. scale enlargement to adapt to maximum driving speed
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/65—Instruments specially adapted for specific vehicle types or users, e.g. for left- or right-hand drive
- B60K35/654—Instruments specially adapted for specific vehicle types or users, e.g. for left- or right-hand drive the user being the driver
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/038—Indexing scheme relating to G06F3/038
- G06F2203/0381—Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1423—Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2380/00—Specific applications
- G09G2380/10—Automotive applications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L2015/088—Word spotting
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/223—Execution procedure of a spoken command
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Mechanical Engineering (AREA)
- General Physics & Mathematics (AREA)
- Transportation (AREA)
- Chemical & Material Sciences (AREA)
- Combustion & Propulsion (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Acoustics & Sound (AREA)
- Computational Linguistics (AREA)
- User Interface Of Digital Computer (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Instrument Panels (AREA)
Description
本開示の第2の操作支援装置は、車両のドライバの視線方向を取得する視線方向取得部と、ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部と、視線方向と特徴行動とに基づき、車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、ドライバが操作を希望する操作対象装置として特定する装置特定部と、操作対象装置の操作画面を、車両に搭載された表示装置に表示させる表示制御部と、を備え、特徴行動は、ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであり、装置特定部は、視線方向と特徴行動とに基づき、複数の車載装置の夫々に対してドライバが操作を希望する確率である操作希望確率を算出し、操作希望確率に基づき操作対象装置を特定し、表示制御部は、操作対象装置が複数ある場合には、操作希望確率がより大きい操作対象装置の操作画面の全体をより目立つ態様で表示させる。
本開示の第3の操作支援装置は、車両のドライバの視線方向を取得する視線方向取得部と、ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部と、視線方向と特徴行動とに基づき、車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、ドライバが操作を希望する操作対象装置として特定する装置特定部と、操作対象装置の操作画面を、車両に搭載された表示装置に表示させる表示制御部と、を備え、特徴行動は、ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであり、表示制御部は、操作対象装置の操作画面の全体を、操作対象装置の隣に位置する操作対象装置ではない車載装置の操作画面より目立つ態様で表示させる。
<A−1.構成>
図1は、実施の形態1に係る操作支援装置101の構成を示すブロック図である。操作支援装置101は、車両に搭載された車載装置22のドライバによる操作を支援する。本明細書の各実施の形態において「車両」という用語は、当該実施の形態の操作支援装置の操作支援対象となる車載装置22が搭載された車両を指す。また、車載装置22が搭載された車両を他の車両と区別する必要がある場合には、前者を「自車両」、後者を「他車両」または「周辺車両」等とする。
図2は、操作支援装置101の動作を示すフローチャートである。以下、図2に沿って操作支援装置101の動作を説明する。
実施の形態1の操作支援装置101は、車両のドライバの視線方向を取得する視線方向取得部11と、ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部12と、視線方向と特徴行動とに基づき、車両に搭載された複数の車載装置22の中から少なくとも一つの車載装置22をドライバが操作を希望する操作対象装置として特定する装置特定部13と、操作対象装置の操作画面を、車両に搭載された表示装置21に表示させる表示制御部14と、を備える。従って、実施の形態1の操作支援装置101によれば、視線方向だけでなく特徴行動にも基づき精度良く操作対象装置を特定することができる。また、操作対象装置の操作画面を表示装置21に表示させることによってドライバの操作の用に供することができる。
<B−1.構成>
図3は、実施の形態2に係る操作支援装置102の構成を示すブロック図である。操作支援装置102は、実施の形態1に係る操作支援装置101の構成に加えて、操作受付部15および操作対象装置制御部16を備えている。また、操作支援装置102は、車載装置22、視線検出装置23、特徴行動検出装置24および操作装置25と接続され、これらを利用可能に構成されている。
次に、図9のフローに沿って、操作支援装置102の動作を説明する。
図11のステップS3055で示したように、2台の操作対象装置が特定される場合には、それら2台の操作対象装置について操作画面が表示装置21に表示される。図12は、ナビゲーション装置とオーディオ装置が操作対象装置である場合に、これらの操作画面が表示装置21に表示される様子を示している。表示装置21には、ナビゲーション装置の表示情報である自車位置周辺地図画面36と、オーディオ装置の表示情報であるトラック画面37と、オーディオ装置の操作画面である操作メニュー画面38と、ナビゲーション装置の操作画面である操作メニュー画面39が表示されている。
次に、操作画面の操作について説明する。ドライバは、操作装置25を用いて表示装置21に表示された操作画面を操作することが可能である。操作受付部15は、操作装置25の操作情報を取得し、表示制御部14と操作対象装置制御部16に出力する。
次に、ドライバの特徴行動を例示する。図14は、ドライバがエアコン操作装置44を見ながら、エアコン操作装置44を右手の人差し指で指示する様子を示している。このとき、装置特定部13は、ドライバの視線方向と、人差し指の指示方向とに基づき、<B−2>で説明した処理によりエアコンを操作対象装置として特定する。そして、図15に示すように、表示制御部14がエアコンの操作画面45を表示装置21に表示する。ユーザはタッチパッド25Aまたはダイヤル25Bなどの操作装置25を用いて操作画面45を操作し、これにより操作対象装置制御部16がエアコンの制御を行う。
実施の形態2の操作支援装置102によれば、装置特定部13は、視線方向に基づき複数の車載装置22の中から少なくとも一つの車載装置を操作対象装置の候補として特定すると共に、特徴行動に基づき複数の車載装置22の中から少なくとも一つの車載装置22を操作対象装置の候補として特定し、視線方向に基づき特定した操作対象装置の候補と特徴行動に基づき特定した操作対象装置の候補が一致する場合に、操作対象装置の候補を操作対象装置と特定する。従って、操作支援装置102によれば操作対象装置を精度よく特定することができる。
<C−1.構成>
実施の形態2では、特徴行動を視線方向の補完として、操作対象装置を特定するために用いた。これに対して実施の形態3では、特徴行動を、視線方向に基づき操作対象装置を特定するタイミングを決定するために用いる。
図22は、操作支援装置103の動作を示すフローチャートである。以下、図22のフローに沿って操作支援装置103の動作を説明する。
実施の形態3の操作支援装置103において、装置特定部13は、特徴行動の実施時点から遡るまたは経過する予め定められた期間内におけるドライバの視線方向に基づき、操作対象装置を特定する。このように、特徴行動で定められたタイミングの視線方向により操作対象装置を特定することにより、操作支援装置103は精度良く操作対象装置を特定することができる。
<D−1.構成>
図23は、実施の形態4に係る操作支援装置104の構成を示すブロック図である。操作支援装置104の構成は、図3に示した実施の形態2または実施の形態3の操作支援装置102,103の構成と同様である。但し、操作支援装置104は周辺検出装置26、車両センサ27および道路状況検出装置28と接続され、これらを利用可能に構成されている点が操作支援装置102,103と異なる。周辺検出装置26、車両センサ27および道路状況検出装置28は、車両に搭載された装置である。
実施の形態4の操作支援装置104において、装置特定部13は、車両の走行の有無、走行道路の種別および車両の周辺を走行する周辺車両の状況、の少なくともいずれかに基づき変化する注視検出時間における視線方向に基づき操作対象装置を特定する。従って、操作支援装置104によれば、運転の安全に配慮しつつ、操作対象装置の誤検出を防ぐことができる。
上述した操作支援装置101,102,103,104における、視線方向取得部11、特徴行動取得部12、装置特定部13、表示制御部14、操作受付部15および操作対象装置制御部16は、図24に示す処理回路81により実現される。すなわち、処理回路81は、視線方向取得部11、特徴行動取得部12、装置特定部13、表示制御部14、操作受付部15および操作対象装置制御部16(以下、単に「視線方向取得部11等」と称する)を備える。処理回路81には、専用のハードウェアが適用されても良いし、メモリに格納されるプログラムを実行するプロセッサが適用されても良い。プロセッサは、例えば中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、DSP(Digital Signal Processor)等である。
Claims (15)
- 車両のドライバの視線方向を取得する視線方向取得部と、
前記ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部と、
前記視線方向と前記特徴行動とに基づき、前記車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、前記ドライバが操作を希望する操作対象装置として特定する装置特定部と、
前記操作対象装置の操作画面を、前記車両に搭載された表示装置に表示させる表示制御部と、
を備え、
前記特徴行動は、前記ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであり、
前記装置特定部は、前記特徴行動の実施時点から遡る予め定められた期間内における前記ドライバの視線方向に基づき、前記操作対象装置を特定する、
操作支援装置。 - 前記車両に搭載された前記ドライバが操作する複数の操作装置の操作情報を取得する操作受付部と、
前記操作情報に基づき前記操作対象装置を制御する操作対象装置制御部と、をさらに備え、
前記表示制御部は、前記操作情報に基づき前記操作対象装置の操作画面を遷移させる、
請求項1に記載の操作支援装置。 - 前記装置特定部は、前記ドライバの視線方向と前記車載装置との重なり具合に基づき前記操作対象装置を特定する、
請求項1に記載の操作支援装置。 - 前記表示制御部は、前記複数の車載装置の表示情報を前記表示装置に表示させ、
前記装置特定部は、前記表示情報と前記ドライバの視線方向との重なり具合に基づき前記操作対象装置を特定する、
請求項1に記載の操作支援装置。 - 前記操作対象装置制御部は、前記操作画面の遷移に用いる前記操作装置をライトアップする、
請求項2に記載の操作支援装置。 - 前記操作対象装置制御部は、前記操作画面の遷移に用いる前記操作装置がダイヤルである場合とボタンである場合とで、前記操作画面の遷移に用いる前記操作装置を異なる態様でライトアップする、請求項5に記載の操作支援装置。
- 前記表示制御部は、前記操作対象装置の隣に位置する前記操作対象装置ではない前記車載装置の操作画面を、前記操作対象装置の操作画面より目立たない態様で前記表示装置に表示させる、
請求項1から請求項6のいずれか1項に記載の操作支援装置。 - 前記装置特定部は、前記車両の走行の有無、走行道路の種別および前記車両の周辺を走行する周辺車両の状況、の少なくともいずれかに基づき変化する注視検出時間における前記視線方向に基づき前記操作対象装置を特定する、
請求項1から請求項7のいずれか1項に記載の操作支援装置。 - 車両のドライバの視線方向を取得する視線方向取得部と、
前記ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部と、
前記視線方向と前記特徴行動とに基づき、前記車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、前記ドライバが操作を希望する操作対象装置として特定する装置特定部と、
前記操作対象装置の操作画面を、前記車両に搭載された表示装置に表示させる表示制御部と、
を備え、
前記特徴行動は、前記ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであり、
前記装置特定部は、前記視線方向と前記特徴行動とに基づき、前記複数の車載装置の夫々に対して前記ドライバが操作を希望する確率である操作希望確率を算出し、前記操作希望確率に基づき前記操作対象装置を特定し、
前記表示制御部は、前記操作対象装置が複数ある場合には、前記操作希望確率がより大きい前記操作対象装置の操作画面の全体をより目立つ態様で表示させる、
操作支援装置。 - 車両のドライバの視線方向を取得する視線方向取得部と、
前記ドライバによる視線以外の特徴的な行動である特徴行動を取得する特徴行動取得部と、
前記視線方向と前記特徴行動とに基づき、前記車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、前記ドライバが操作を希望する操作対象装置として特定する装置特定部と、
前記操作対象装置の操作画面を、前記車両に搭載された表示装置に表示させる表示制御部と、
を備え、
前記特徴行動は、前記ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであり、
前記表示制御部は、前記操作対象装置の操作画面の全体を、前記操作対象装置の隣に位置する前記操作対象装置ではない前記車載装置の操作画面より目立つ態様で表示させる、
操作支援装置。 - 前記車載装置の前記操作希望確率は、前記車載装置と前記視線方向との重なり具合、または前記車載装置と前記視線方向との遠近関係に応じて定まる、
請求項9に記載の操作支援装置。 - 前記操作画面をより目立つ態様で表示させるとは、前記操作画面をより大きく表示させることである、
請求項9から請求項11のいずれか1項に記載の操作支援装置。 - 前記表示制御部は、前記操作希望確率がより大きい前記操作対象装置の操作画面の全体をカラーで表示させ、前記操作希望確率がより小さい前記操作対象装置の操作画面の全体をモノクロで表示させる、
請求項9に記載の操作支援装置。 - 前記表示制御部は、前記操作対象装置の操作画面の全体をカラーで表示させ、前記操作対象装置ではない前記車載装置の操作画面の全体をモノクロで表示させる、
請求項10に記載の操作支援装置。 - 車両のドライバの視線方向を特定し、
前記ドライバによる視線以外の特徴的な行動である特徴行動を取得し、
前記視線方向と前記特徴行動とに基づき、前記車両に搭載された複数の車載装置の中から少なくとも一つの車載装置を、前記ドライバが操作を希望する操作対象装置として特定し、
前記操作対象装置の操作画面を、前記車両に搭載された表示装置に表示させ、
前記特徴行動は、前記ドライバによる指差し、ジェスチャ、および発話の少なくともいずれかであり、
前記特徴行動の実施時点から遡る予め定められた期間内における前記ドライバの視線方向に基づき、前記操作対象装置を特定する、
操作支援方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/026448 WO2019016936A1 (ja) | 2017-07-21 | 2017-07-21 | 操作支援装置および操作支援方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019016936A1 JPWO2019016936A1 (ja) | 2019-11-21 |
JP6851482B2 true JP6851482B2 (ja) | 2021-03-31 |
Family
ID=65015096
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019530324A Active JP6851482B2 (ja) | 2017-07-21 | 2017-07-21 | 操作支援装置および操作支援方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20200159366A1 (ja) |
JP (1) | JP6851482B2 (ja) |
WO (1) | WO2019016936A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020217337A1 (ja) * | 2019-04-24 | 2020-10-29 | 三菱電機株式会社 | 走行環境分析装置、走行環境分析システムおよび走行環境分析方法 |
JP7339899B2 (ja) * | 2020-02-17 | 2023-09-06 | 本田技研工業株式会社 | 情報処理装置、車両、プログラム、及び情報処理方法 |
KR20210156126A (ko) * | 2020-06-17 | 2021-12-24 | 현대모비스 주식회사 | 노브를 이용한 디스플레이 제어 시스템 |
JP7407665B2 (ja) * | 2020-07-06 | 2024-01-04 | 三菱電機株式会社 | 音声出力制御装置および音声出力制御プログラム |
WO2023272635A1 (zh) * | 2021-06-30 | 2023-01-05 | 华为技术有限公司 | 一种目标位置的确定方法、确定装置及确定系统 |
JP2023032886A (ja) * | 2021-08-27 | 2023-03-09 | トヨタ自動車株式会社 | 表示制御装置、表示システム、表示方法、及び表示プログラム |
KR20230033794A (ko) * | 2021-09-01 | 2023-03-09 | 현대자동차주식회사 | 차량 내 제스처 인식 장치 및 그 방법 |
JP7262643B1 (ja) | 2022-04-01 | 2023-04-21 | 三菱電機株式会社 | 電力設備制御システム、サーバ装置、中央処理装置、電力設備制御方法および電力設備制御プログラム |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080065291A1 (en) * | 2002-11-04 | 2008-03-13 | Automotive Technologies International, Inc. | Gesture-Based Control of Vehicular Components |
JP4311190B2 (ja) * | 2003-12-17 | 2009-08-12 | 株式会社デンソー | 車載機器用インターフェース |
JP5120249B2 (ja) * | 2006-03-15 | 2013-01-16 | オムロン株式会社 | 監視装置および監視方法、制御装置および制御方法、並びにプログラム |
JP2009184406A (ja) * | 2008-02-04 | 2009-08-20 | Toyota Motor Corp | 車両用ヘッドアップディスプレイ装置 |
US20120169582A1 (en) * | 2011-01-05 | 2012-07-05 | Visteon Global Technologies | System ready switch for eye tracking human machine interaction control system |
US20120257035A1 (en) * | 2011-04-08 | 2012-10-11 | Sony Computer Entertainment Inc. | Systems and methods for providing feedback by tracking user gaze and gestures |
JP5367037B2 (ja) * | 2011-09-26 | 2013-12-11 | 本田技研工業株式会社 | 顔向き検出装置 |
JP5954169B2 (ja) * | 2012-12-28 | 2016-07-20 | 株式会社デンソー | 制御装置 |
US9580081B2 (en) * | 2014-01-24 | 2017-02-28 | Tobii Ab | Gaze driven interaction for a vehicle |
EP3040809B1 (en) * | 2015-01-02 | 2018-12-12 | Harman Becker Automotive Systems GmbH | Method and system for controlling a human-machine interface having at least two displays |
US10168785B2 (en) * | 2015-03-03 | 2019-01-01 | Nvidia Corporation | Multi-sensor based user interface |
US9550406B2 (en) * | 2015-03-16 | 2017-01-24 | Thunder Power Hong Kong Ltd. | Thermal dissipation system of an electric vehicle |
JP2017068312A (ja) * | 2015-09-28 | 2017-04-06 | アルパイン株式会社 | 電子装置 |
WO2018031516A1 (en) * | 2016-08-09 | 2018-02-15 | Google Llc | Radar-based gestural interface |
-
2017
- 2017-07-21 JP JP2019530324A patent/JP6851482B2/ja active Active
- 2017-07-21 WO PCT/JP2017/026448 patent/WO2019016936A1/ja active Application Filing
- 2017-07-21 US US16/611,373 patent/US20200159366A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
JPWO2019016936A1 (ja) | 2019-11-21 |
WO2019016936A1 (ja) | 2019-01-24 |
US20200159366A1 (en) | 2020-05-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6851482B2 (ja) | 操作支援装置および操作支援方法 | |
US9703472B2 (en) | Method and system for operating console with touch screen | |
US20230302906A1 (en) | Method and device for controlling display on basis of driving context | |
US10466800B2 (en) | Vehicle information processing device | |
CN108349503B (zh) | 驾驶辅助装置 | |
US10528150B2 (en) | In-vehicle device | |
US20200201442A1 (en) | Gesture operation device and gesture operation method | |
JP6604151B2 (ja) | 音声認識制御システム | |
US20160196800A1 (en) | Vehicle and controlling method thereof | |
US20160021167A1 (en) | Method for extending vehicle interface | |
JP7338184B2 (ja) | 情報処理装置、情報処理システム、移動体、情報処理方法、及びプログラム | |
JP2017090613A (ja) | 音声認識制御システム | |
WO2016084360A1 (ja) | 車両用表示制御装置 | |
JP2017090614A (ja) | 音声認識制御システム | |
JP6844936B2 (ja) | 表示制御装置 | |
CN109976515B (zh) | 一种信息处理方法、装置、车辆及计算机可读存储介质 | |
US20190147261A1 (en) | Vehicle-mounted information processing device, vehicle-mounted device, and vehicle-mounted information processing method | |
JP7003268B2 (ja) | 車載情報装置および携帯端末との連携方法 | |
JP6188468B2 (ja) | 画像認識装置、ジェスチャ入力装置及びコンピュータプログラム | |
JP6717537B2 (ja) | 操作制限制御装置及び操作制限制御方法 | |
JP2019016276A (ja) | 表示制御装置および表示制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190726 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190726 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200929 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201119 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210209 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210309 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6851482 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |