JP2017076408A - 自動車用のジェスチャーに基づいた情報およびコマンドの入力 - Google Patents

自動車用のジェスチャーに基づいた情報およびコマンドの入力 Download PDF

Info

Publication number
JP2017076408A
JP2017076408A JP2016223518A JP2016223518A JP2017076408A JP 2017076408 A JP2017076408 A JP 2017076408A JP 2016223518 A JP2016223518 A JP 2016223518A JP 2016223518 A JP2016223518 A JP 2016223518A JP 2017076408 A JP2017076408 A JP 2017076408A
Authority
JP
Japan
Prior art keywords
user
gesture
module
vehicle
alphanumeric character
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016223518A
Other languages
English (en)
Other versions
JP6218200B2 (ja
Inventor
ヤン,バオシ
Baoshi Yan
ウェング,フリアング
Weng Fuliang
レン,リュー
Liu Ren
チェング,ユー−チ
You-Chi Cheng
シェン,ツォングナン
Zhongnan Shen
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of JP2017076408A publication Critical patent/JP2017076408A/ja
Application granted granted Critical
Publication of JP6218200B2 publication Critical patent/JP6218200B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3664Details of the user input interface, e.g. buttons, knobs or sliders, including those provided on a touch screen; remote controllers; input using gestures
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/11Instrument graphical user interfaces or menu aspects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/133Multidirectional input devices for instruments
    • B60K2360/135Joysticks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/141Activation of instrument input devices by approaching fingers or pens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/143Touch sensitive instrument input devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/143Touch sensitive instrument input devices
    • B60K2360/1446Touch switches
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/148Instrument input by voice
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/21Optical features of instruments using cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)
  • Navigation (AREA)

Abstract

【課題】ハンドジェスチャーを用いて、自動車内のユーザーによる情報とコマンドの入力のための新規なシステムを提供する。
【解決手段】ユーザーからの入力を受け取る方法は、ユーザーの手の届く範囲の表面を提供する工程を含む。ユーザーが触れる表面上の複数の位置が検知される。表面上の複数の触れられた位置にもっとも類似した形状を有する英数字が決定される。ユーザーは、英数字、および/または、英数字が含まれる単語を音声でまたは視覚的に知らされる。その英数字および/または単語が、決定する工程で決定されるとユーザーが望んだ英数字および/または単語であるか否かについて、ユーザーからフィードバックが受け取られる。
【選択図】図4

Description

(発明の分野)
本発明は、人間から入力、コマンドおよび情報を電子的に受け取るためのシステムおよび方法、より具体的には、車両の運転手から入力、コマンドおよび情報を電子的に受け取るためのシステムおよび方法に関する。
(関連技術の詳細)
ナビゲーションデバイスへのアドレス入力などの車両運転手による自動車への情報入力は、常に困難で、ときに危険な作業だった。伝統的に、車両の運転手は、ラジオ用の物理的なボタン、または、ナビゲーションシステムのタッチスクリーン上の表示されたボタンといった、車内の様々な制御部を操作することによって、コマンドを出すか、または、情報を入力する。このような操作は、運転手が所望のボタンを探すために道から目をそらすことを要求するのが一般的であり、時として、運転手は所望のボタンに届くようにと腕を伸ばし過ることもある。このようなことは、ボタンがタッチスクリーン上のように小さい場合、目をそらし、時間を消費し、かつ、危険であり、作業は、ナビゲーションデバイスにアドレスを入力する際などのように複雑である。さらに、タッチスクリーンは、運転手のすぐ近くに(すなわち、範囲内に)設置されなければならず、車に搭載されたダッシュボードの配置の設計選択肢を制限する。
タッチスクリーンを使用する代わりに、いくつかの自動車メーカーは、遠隔制御とグラフィックディスプレイ(例えば、BMWのiDriveシステムと、LexusのRemote Touch Interfaceシステム)の組み合わせを使用することで、結果として、グラフィックディスプレイを運転手からさらに遠ざけて置くことができる。これらのシステムは依然として運転手が遠隔制御部を操作し、かつ、情報とコマンドの入力のためにグラフィックディスプレイ上の視覚フィードバックを見ることを要求する。iDriveシステム上でのアドレス入力は、例えば、運転手が、グラフィックディスプレイからの文字、州、および/または都市名のリストの中から選択するために遠隔制御部を操作することを必要とする。運転手がかなりの時間にわたって道から目を移動させる必要があるため、これは依然として非常に長く危険な工程である。
従来技術で開示も示唆もされていないものは、上記の問題および制限を克服する運転手入力システムである。より具体的には、開示も示唆もされていないものは、ユーザーが、車両内の表面上に指で英数字を「書く」ことによってなどして、空間的なハンドジェスチャーを介して入力を提供することを可能にする運転手入力システムである。
本発明は、ハンドジェスチャーを用いて、自動車内のユーザーによる情報とコマンドの入力のための新規なシステムを提供する。システムは、自動車内の表面、ジェスチャー捕捉モジュール、ジェスチャー認識モジュール、随意のジェスチャー確認モジュール、および、通信モジュールを含む。システムの使用によって、自動車の運転手は、ハンドジェスチャーを用いて、車内の表面上(一般的にハンドルの中央の平らな面上など)に「書く」ことができる。ハンドジェスチャーは、カメラなどのジェスチャー捕捉モジュールによって捕捉される。ジェスチャーによって示された情報とコマンドは、認識され、確認され、その後、自動車内の他のデバイスに送信される。このような情報およびコマンドは、ラジオまたはヒーターなどの操作装置のためのコマンドであってもよく、または、ナビゲーションデバイスのための宛先アドレスなどのコンテンツであってもよい。ジェスチャー認識のシステムは、音声認識システムと、または、他の入力様式のシステムと一体化され、その結果、情報とコマンドは多くの様式からの入力を用いて、よりよく認識されるようになる。
本発明は、その1つの形態において、ユーザーの手の届く範囲の表面を提供する工程を含む、ユーザーからの入力を受け取る方法を含む。ユーザーが触れる表面上の複数の位置が検知される。表面上の複数の触れられた位置にもっとも類似した形状を有する英数字が決定される。英数字、および/または、英数字が含まれる単語が、可能であれば音声でユーザーに知らされる。ユーザーは、英数字および/または単語が、決定する工程で決定されるとユーザーが望む英数字および/または単語であるかどうかを確認する。このユーザーのフィードバックは、音声であっても、書かれるものであっても、または、例えば、確認ボタンを押すことなどのように触れられるものであってもよい。
本発明は、その別の形態で、車両システムに入力値を入力する方法を含む。表面は車両のハンドルおよび/または肘掛け上に提供される。ユーザーが触れる表面上の複数の位置が検知される。表面の複数の触れられた位置にもっとも適合する英数字が決定される。入力は車両の電子システムに送信される。その入力は決定された英数字に依存する。
本発明は、その別の形態において、車両内部のシステムに電子出力を提供するための構造を含む。表面は車両の客室内に配される。ジェスチャー捕捉モジュールはその表面に関連付けられる。ジェスチャー捕捉モジュールは、ユーザーが触れる表面上の複数の位置を特定する。ジェスチャー認識モジュールは、ジェスチャー捕捉モジュールに通信接続している。ジェスチャー認識モジュールは、表面上の多くの触れられた位置に最も類似する形状を有する英数字を決定する。ジェスチャー確認モジュールは、ジェスチャー認識モジュールに通信接続している。ジェスチャー確認モジュールは、ユーザーと相互作用し、それによって、決定された英数字または決定された英数字を含む単語が、ユーザーがスクリーンに触れることで伝えようとした英数字または単語であることを確認する。ジェスチャー確認モジュールは車両内のシステムに入力を送信する。その入力は確認された英数字または単語に依存する。
本発明の利点は、既知の押ボタン、タッチスクリーン、または、遠隔制御システムよりも、本発明の方が学習するのが安全で簡単であるということである。本発明はユーザーが道から目をそらすようなことにはめったにならないので、より安全である。本発明は、目視確認機構が使用される制限された場合にのみ、ユーザーの視覚的注意を要求する。画像ディスプレイに表示されたリストから選択する代わりに、ユーザーは、ハンドジェスチャーで書くことによって情報またはコマンドを入力するので、これは可能である。さらに、ユーザーが書くことによって意図していることを表すため、本発明のシステムは学習しやすく、その一方で、他のシステムでは、ユーザーは、異なる遠隔制御部の機能を学習する必要がある。
別の利点は、タッチパッドがハンドルに設置されることを本発明が必要としないということであり、それによって、他の用途のための空間を解放し、かつ、ハンドルの下のエアバッグを作動させることによって生じる潜在的な安全性の不安を回避する。
しかし、別の利点は、ハンドルに加えて、肘掛けなどの運転手のすぐそばの任意の表面は、書きこまれるようにユーザーによって使用されることができるということである。
さらに別の利点は、表面を使用することはジェスチャーを見つけ、かつ、手の動きの変化を減らすのに役立つため、本発明はより高い認識精度の能力を有するということである。さらに、表面の背景を活用することができる。
さらなる利点は、コマンドに加えて、本発明はアドレス、連絡先、または、電話番号のような情報を入力することができるということである。
本発明のジェスチャーに基づいた情報およびコマンドの入力システムの1つ の実施形態のブロック図である。 図1のジェスチャーに基づいた情報およびコマンドの入力システムの斜視図 である。 図1および図2の書き込み表面の1つの実施形態の平面図である。 ユーザーからの入力を受け取るための本発明の方法の1つの実施形態のフロ ーチャートである。
本発明の上記および他の特徴および目的と、これらを成し遂げる手法がさらに明らかになるとともに、本発明そのものは、添付の図面と併せて取り込まれた本発明の実施形態の以下の記載を参照することによって、一層よく理解されるであろう。
対応する参照文字は、複数の図にわたって対応する部分を示している。本明細書で書かれる例証は、本発明の実施形態を示しているが、幾つかの形態では、以下に開示される実施形態は、包括的となるよう意図されたものではなく、または、本発明の範囲を開示された正確な形状に制限するものとして解釈されるように意図されたものでもない。
以下の詳細な記載では、添付の図面について言及され、これらの図面はその一部を形成する。図面では、文脈上他の意味で指示されていない限り、一般的に、同様の記号は同様の部品を識別する。詳細な記載、図面、および、請求項における例示的な実施形態は、限定することを意図したものではない。他の実施形態を利用してもよく、および、ここで示された主題の精神または範囲を逸脱することなく、他の変更がなされてもよい。明らかに然のことながら、本開示の態様は、一般的に本明細書に記載のように、かつ、図で示されたように、非常に広範な様々な構造で、配置され、置き換えられ、組み合わされ、設計されてもよく、そのすべては明示的に熟慮され、この開示の一部を形成する。
本発明は、自動車の運転手が、道路から目をそらすことなく、かつ、腕を伸ばし過ぎることなく、情報とコマンドを入力することを可能にする方法およびシステムを提供する。システムを用いて、運転手は、ハンドルまたはひじ掛けの表面などといった自動車内の運転手に近い予め決められた領域内の表面のどこかに、ハンドジェスチャーで「書く」。運転手に近い任意の表面を書くために使用してもよい。ジェスチャーは、書く動作をするために、運転手が表面で指を滑らせる形であってもよい。したがって、本発明は、運転手が押ボタンを見つけて操作する必要性を回避する。ハンドジェスチャーによって表示された情報とコマンドは、ジェスチャー捕捉モジュールによって捕捉され、認識モジュールによって認識され、確認モジュールによって確認され、その後、車両内の対応するデバイスに送信される。
システムの1つの実施形態では、運転手がハンドルに「書く」際、ハンドジェスチャーと同様にハンドルの画像を得るために、1台以上のカメラが自動車の内部に取り付けられる。特定の実施形態では、運転手は、紙の上に書きとめるように人差し指を用いて、ハンドル上のナビゲーションデバイスに宛先アドレスを書き留める。ハンドジェスチャー、つまり、ユーザーの手と指の動きは、取り付けられたカメラによって捕捉される。認識モジュールは、ハンドジェスチャーによって表示されたアドレスを認識する。その後、認識されたアドレスは、ナビゲーションデバイスに送信される。
本発明の他の実施形態は、対話システムにおける音声入力のような他のユーザー入力様式と、ジェスチャー入力様式を統合してもよい。1つの実施形態では、ユーザーは、ハンドジェスチャーを用いてハンドル上にアドレスのすべてまたは一部を書きながら宛先アドレスを話してもよい。音声入力およびハンドジェスチャー入力の両方は、認識モジュールが意図したアドレスを認識するのを助けるために統合されてもよい。
本発明の車に搭載された情報とコマンドの入力システムは新しい設定を有する:運転手の近くの表面の任意の場所を用いること、および、音響確認を備えた対話システムとの一体化。本発明は新しいパラダイムシフトを提供し、さらに自然な入力手法を提供する:運転手は、予め決められたジェスチャーパターンを使用する代わりに情報を書き留める。
本発明は任意の車両に搭載されたヒューマン・マシン・インタフェース(HMI)システムに適用可能であってもよい。例えば、本発明の運転手入力システムは、ナビゲーションシステム、娯楽システム、または、HVAC温度調節システムに入力値を入力するために使用されてもよい。
ここで図面、特に図1を参照すると、ユーザーが表面(12)上で人差し指(14)を滑らせることによって「エア書き(air−write)」する表面(12)を含む、本発明のジェスチャーに基づいた情報およびコマンドの入力システム(10)の1つの実施形態が示されている。指(14)は、書き込み工程の間中、表面(12)との接触を維持する。
ユーザーは、表面(12)上に英数字を書いてもよい。図1の例では、ユーザーは表面(12)上に数「2」を書いている。説明目的のために、数「2」の始まりは表面(12)上の破線(15)で描かれている。しかしながら、現実には、指(14)が以前あった場所の表面(12)には目に見える印はない。
表面(12)に沿った指(14)の動きは、ジェスチャー捕捉モジュール(16)によって検知され記録される。1つの実施形態では、ジェスチャー捕捉モジュール(16)は、1台以上のカメラの形態であってもよい。例えば、モジュール(16)は、線(15)によって描かれた経路などの経路に沿った指(14)の動きを、デジタル形式で検出して記録する。
モジュール(16)によって検知される指の動きはデジタル化され、これらのデジタル化された動きは、ジェスチャー認識モジュール(18)に入力として送信される。ジェスチャー認識モジュール(18)は、26の文字または10の数字のどれが、ユーザーの指または手でなされた動きによってもっとも良く表わされるのかを決定する。モジュール(18)は、小文字または大文字を認識し、同様に、活字体、ブロック体、または、筆記体を認識する。
モジュール(18)によって行なわれる認識機能は、表面(12)の形状に依存する。例えば、ハンドルの中央部分で典型的なように、表面(12)が凸面の場合、モジュール(18)は、どの英数字が描かれたかを決める際にこの凸状を考慮に入れる。さらに、モジュール(18)は、表面(12)に一般的に垂直な方向に沿った表面(12)の各地点の位置を含む、表面(12)の正確な形状を考慮に入れる。
ジェスチャー認識モジュール(18)は、単一文字を認識するか、または、単語の形をした文字および/または番号の群を認識する。モジュール(18)は、識別するのに十分な文字が描かれたとき、または、1つの単語の最後の文字が描かれたことをユーザーが示した後に、認識可能な単語を識別する。ユーザーは、例えば、表面(12)にピリオド(すなわち点)を描くことによって、または、予め決められた時間の間、表面(12)上に描く行為を中断することによって、単語の最後の文字が描かれたことを示してもよい。
ジェスチャー認識モジュール(18)の出力は、ユーザーによって提供される可能な選択、コマンド、入力、または、情報の断片に相当する、単語、文字、または、数の形であってもよい。例えば、ジェスチャー認識モジュール(18)の出力は、特定のそれぞれのメニュー選択項目に対応する文字「B」または数字「3」の形であってもよい。ジェスチャー認識モジュール(18)の出力は、例えば、ナビゲーションシステムでは「探す(find)」、娯楽システムでは「遊ぶ(play)」、HVACシステムでは「霜を取る(defrost)」などのようなコマンドの形であってもよい。コマンドの前また後にユーザーが表面(12)上に書く入力データが、このようなコマンドに関連付けられてもよい。例えば、「探す(find)」というコマンドに、「エルム街10(10 Elm Street))」というアドレスが関連付けられてもよい。別の例として「演奏する(play)」というコマンドに、「ベートーベンの第5交響曲(Beethoven 5th Symphony)」、または、「WGN」あるいは「720AM」のようなラジオ放送局識別が関連付けられてもよい。さらに別の例として、HVACシステムの「熱(heat)」というコマンドに、「75F」などの温度レベルおよび/または「運転手(driver)」などの位置が関連付けられてもよい。
ジェスチャー認識モジュール(18)の出力は、随意のジェスチャー確認モジュール(20)によって受け取られる。ジェスチャー認識モジュール(18)の出力が正確であることを確認するために、ジェスチャー確認モジュール(20)はユーザーからのフィードバックを求めるおよび/または受け取る。例えば、確認モジュール(20)は、ユーザーから入力の確認を音声で求める。ジェスチャー認識モジュール(18)の出力が「霜を取る(defrost)」である場合、その後、確認モジュール(20)は、「「霜を取る(defrost)」を書きましたか?」と音声で(例えば、オーディオスピーカー(28)を介して;図2)運転手に訊ねる。「霜を取る(defrost)」と確かに言ったことを確認するために、ユーザーは「はい(yes)」と話してもよく、これはマイクロホン(26)によって受け取られ、確認モジュール(20)へと入力される。代替的に、ユーザーは、表面(12)上で「yes」の「y」を書くことによって、確かに「霜を取る(defrost)」と言ったことを確認してもよい。他方で、ユーザーが「霜を取る」と書かなかった場合、「no」と話すか、または、表面(12)上で「n」と書いてもよい。これに応えて、確認モジュール(20)は、「先程の入力をもう一度書いてください」と音声で運転手に尋ねる。このサイクルは、確認モジュール(20)がジェスチャーを正確に(すなわち、ユーザーの意図した通りに)認識したという確認を得るまで、ジェスチャー捕捉モジュール(16)にユーザーのジェスチャーを解釈させたまま継続する。ユーザーのジェスチャーの正確な認識の確認を得た後に、確認モジュール(20)は、ナビゲーションシステム(30)、音声システム(32)、または、HVACシステム(34)のような車両システムに認識されたジェスチャーを転送する。加えて、または、代替的に、確認モジュール(20)は、同様にユーザー確認を求めるために、他の様式(視覚的、押しボタン式、ジェスチャーなど)を使用してもよい。
当然のことながら、ジェスチャー確認モジュール(20)は、本発明において随意である。すなわち、認識または解釈が最初に確認モジュール(20)によって確認されることなく、モジュール(18)の認識出力を、おそらく通信モジュール(22)によって車両システム(30、32、および/または、34)に転送することが可能である。
自動車の客室内に設置されるようなジェスチャーに基づいた情報およびコマンドの入力システム(10)の斜視図が図2に示される。運転手が指で書きこむための2つの表面(12)が示されているが、実際には2つの表面(12)の1つだけしか含まれない。表面(12)のうちの1つはハンドル(24)の中央部分に設けられる。表面(12)のもう1つは、運転手の右手の肘掛け(25)の上部に設けられる。
カメラ(16)の形をしたジェスチャー捕捉モジュールは、自動車の客室のルーフに、一般的には運転手の頭部の上に設置される。カメラ(16)は、2つの表面(12)のどちらかが実際に車両内で設けられた方向に向けられる。しかしながら、両方の表面(12)を含む実施形態では、カメラ(16)は、表面(12)の両方または一方に選択的に向けられるように調整可能である。
図2に示されるように、確認モジュール(20)はマイクロホン(26)とオーディオスピーカー(28)に接続されてもよい。マイクロホン(26)とオーディオスピーカー(28)は、例えば、肘掛け、ダッシュボード、または、ドアなどのような客室内の任意の場所に設置されてもよい。
図3は、書き込み面(12)の1つの実施形態に含まれるグリッドレイアウトを例示する。グリッドレイアウトは、等しく間隔を置いた垂直線(36)と等しく間隔を置いた水平線(38)とによって定義されるような行および列の矩形行列を含む。
ジェスチャー認識モジュール(18)は、グリッドレイアウト内のどのセル(40)上でユーザーが指を滑らせたのか、および、どんな順番でユーザーは指を滑らせたのかに基づいて、ユーザーがどの英数字を描いたのかを決定する。ジェスチャー認識モジュール(18)は、ユーザーの指が辿ったセル(40)のリストを作るために、ルックアップテーブルまたはアルゴリズムを使用し、セルのそのリストを認識した英数字に翻訳する。セル(40)に触れる順番は、ルックアップテーブルまたはアルゴリズムへの入力であってもよい。
ユーザーの手と背景表面(12)との間の視覚コントラストを改善し、それによって、ジェスチャー捕捉工程の精度を改善するために、表面(12)は白色などの単色で作られる。表面(12)のこのような白一色は、さらに、それによってさらに大きなコントラストがもたらされるおかげで、カメラ(16)が線(36、38)の位置を検知しやすくする。
図4では、車両システムに入力値を入力する本発明の方法(400)の1つの実施形態が示されている。第1の工程(402)で、表面は車両のハンドルおよび/または肘掛け上に提供される。すなわち、表面(12)は、図2に示されたように、ハンドル(24)または肘掛け(25)上に設けられてもよい。
次の工程(404)では、ユーザーが触れる表面上の複数の位置が検知される。例えば、カメラ(16)は、表面(12)に沿った運転手の指の動きを捕捉し、触れられる表面上の位置を同定する。カメラ(16)は、表面(12)上のどのセル(40)(図3)が触れられるのかを検知する。代替的に、カメラ(16)は、表面(12)の位置とは無関係に、(例えば、空中の)指の動きのみを検知してもよい。
次に、工程(406)では、表面上の複数の触れられた位置にもっとも類似した形状を有する英数字が決定される。例えば、ルックアップテーブルまたはアルゴリズムは、ユーザーの指の移動によって定義された位置の群によって、どの数字または文字が最もよく表わされているかに対して使用されてもよい。
工程(408)で、ユーザーは、英数字および/または英数字が含まれる単語を、音声で知らされる。例えば、合成音声は、システムがユーザーの指の動きによって定義された形状にもっとも良く似ていると決定した、「a」または「1」などの文字または数字を発しながらスピーカー(28)から流される。代替的に、合成音声は、個々の文字または数字を述べないが、その代わりに、システムが指の動きから決定された一連の文字によって形成された単語を決定するまで、抑制される。例えば、ユーザーが指で文字「f」、「i」、「n」、および、「d」を書いた後、合成音声はスピーカー(28)を介して「find」という単語を言う。加えて、システムは1つのフレーズを加え、ユーザーが指による書き込みのシステムの解釈を確認するように促す。1つの実施形態では、決定した単語を述べる前に、システムは「書きましたか」と音声で言い、その後、決定した単語(例えば、「find」)を言う。別の実施形態では、システムは、システムが作用するフレーズまたは単語の群を述べる。例えば、システムは、ナビゲーションシステムで意図される、「ガソリンスタンドを探す」などといったすぐに使用可能なコマンドを発してもよい。
システムは、個々の文字の全ての文字が正確に認識されるとは限らないと想定する一方で、個々の英数字の認識にもっとも良く適合する単語またはフレーズを決定する。例えば、システムが順次的な一組の文字を「f」、「j」、「n」および「d」であるとして認識した場合、システムは「j」が「i」である可能性が最も高いと思われることを辞書から判断し、従って、システムはその単語を「find」と解釈する。
次の工程(410)では、英数字および/または単語が、ユーザーが決定工程で決定されることを望んでいた英数字および/または単語であるかどうかに関して、音声フィードバックがユーザーから受け取られる。例えば、ユーザーは、指での書き込みのシステムの解釈を確認したこと、または、確認していないことを話し、このように口頭で述べたことはマイクロホン(26)によって拾い上げられる。1つの実施形態では、ユーザーは、「正しい(correct)」または「誤っている(incorrect)」と言ってもよい。別の実施形態では、ユーザーは、加えて、または、代替的に、訂正された解釈を述べてもいい。例えば、システムが「R」と述べたことに応じて、ユーザーは「いいえ、Pです(No, P)」と述べてもよい。システムは、その最初の解釈から、ユーザーが文字「R」に少なくとも似ている文字を書こうとしていると想定し、したがって、この知識は、システムが、「C」または「G」などの類似する音の文字の代わりに文字「P」としてユーザーの音声による発声を解釈する手助けをする。
別の実施形態では、ユーザーは、音声での訂正(例えば、「いいえ、Pです」(No, P))に加えて、または、その代わりに、前回誤って解釈された書き込みを書き直してもよい。例えば、ユーザーは、「R」の一部であると解釈することができる任意の動きを回避するように注意して、表面上で「P」を書き直してもよい。
システムがフレーズの一部のみを誤って解釈している場合、ユーザーはそのフレーズを口頭で正しく言い直して、フレーズの訂正された箇所のみを表面(12)に書き直してもよい。例えば、システムが「「R通りを探す(Find R Street)」と書きましたか?」と音声で聞いてきた場合、ユーザーは、「いいえ、P通りを探す(No,find P Street)」と言ってもよく、ユーザーは訂正された箇所のみ(すなわち、文字「P」)を表面(12)に(例えば、ほぼ同時に)書き直してもよい。
別の実施形態では、表面(12)上の書込みの解釈の信頼度が閾値未満である場合のみ、システムは音声確認を求めることがある。すなわち、書込みが英数字または単語と十分なほど厳密に一致する場合、システムは確認を求めなくてもよい。さらに別の実施形態では、現在、運転作業が運転手の注意を要求するレベルは、音声確認を求めるべきかどうかにおける因子である。例えば、車両が高速で移動しているか、頻繁に曲がっている場合、システムは、音声確認を求めることによって、一時的に運転手の気をそらすことはあまりしない。むしろ、システムは、運転手には重要でない娯楽またはオーディオ機能について尋ねるよりも、安全性を最重視すべき機能(例えば、デフロスターの操作)またはナビゲーション機能の方を求める傾向にある。さらに別の実施形態では、音声確認を求めるシステムの可能性は、マイクロホン(26)によって測定されるように、客室の音または雑音のレベルに反比例してもよい。
最終工程(412)では、入力は車両の電子システムに送信され、そこで入力は決定された英数字に依存している。例えば、「ピザ屋を探す(find pizza)」という入力が、車両のナビゲーションシステムに送信され、この入力はこの2つの単語からなるフレーズの9つの文字の各々のシステム認識に応答している。
別の実施形態では、システムは、ユーザーが、システムが認識するのがさらに難しい小文字で書こうとしていることを検知する。これに応答して、システムは、ユーザーがこれらの書き込みでも小文字を使用していたと想定して、将来の書き込みを解釈する。代替的に、または、加えて、システムは、「大文字で書いてください」と運転手に音声で要請し、その結果、システムは非常に高い精度で書き込みを解釈するようになる。
さらに別の実施形態では、システムは、書き込みの解釈中の車両の移動を補正することもある。例えば、表面(12)がハンドル(24)上にある場合、ジェスチャー認識モジュール(18)は、書かれた英数字を認識する際に回転によってユーザーの指を引きずる傾向があるハンドル(24)の回転を補正することがある。別の例として、突然の車線変更は、ユーザーの指を表面(12)上で水平方向のジグザグパターンで動かし、ジェスチャー認識モジュール(18)は、指の動きを英数字と一致させる際にジグザグを無視する。同様のわずかな影響が、加速、減速、および/または、旋回によって生じることがあり、指による書き込みの解釈はこれらのすべての影響を補正する。スピードメーター、ステアリングセンサ、ジャイロスコープなどのような従来の車両装備センサは、ジェスチャー認識モジュール(18)に車両の移動データを提供する。
本発明は車両に適用されるものとして本明細書に記載されてきたが、当然のことながら、本発明は他の用途を有する。より一般的には、本発明は、運転手が別のタスクから注意をそらすことなく、英数字入力値を迅速に入力する必要がある任意のシステムに適用可能である。例えば、本発明は工場環境で使用されてもよく、ヒューマンマシンオペレータ(human machine operator)によって用いられてもよい。
この発明は例示的な設計を有するものとして記載されてきたが、本発明はこの開示の精神と範囲内でさらに修正されてもよい。したがって、この出願は、一般的な原則を用いて、本発明の任意の変化、用途、または、適用を対象にするように意図されている。

Claims (4)

  1. 車両内のシステムに電子入力を提供するためのシステムであって、
    車両の客室内に配された表面と、
    前記表面に関連付けられたジェスチャー捕捉モジュールであって、ユーザーによって触れられる前記表面上の複数の位置を識別するように構成されたジェスチャー捕捉モジュールであって、ユーザーによって触れられる前記表面上の複数の位置を識別するように構成されたジェスチャー捕捉モジュールと、
    前記ジェスチャー捕捉モジュールに通信接続しているジェスチャー認識モジュールであって、前記表面上で接触される複数の位置によって形成される形状に最も類似した形状を有する英数字を決定するように構成されるジェスチャー認識モジュールと、
    前記ジェスチャー認識モジュールに通信接続されたジェスチャー確認モジュールであって、
    前記ジェスチャー確認モジュールが、ユーザーと相互作用することによって、決定された英数字、または、決定された英数字を含む単語が、前記ユーザーがスクリーンに触れることで伝えようとしていた英数字または単語であることを確認するように構成され、かつ、確認された英数字または単語に依存する入力を車両内のシステムに送信するように構成されてなる
    ことを特徴とするシステム。
  2. 前記ジェスチャー捕捉モジュールがカメラを含む請求項1に記載のシステム。
  3. 前記ジェスチャー確認モジュールは、決定された英数字を前記ユーザーに知らせるように構成され、かつ、前記決定された英数字がユーザーによって想定された英数字であるか否かに関わるユーザーからのフィードバックを受け取るように構成されてなる請求項1に記載のシステム。
  4. 前記表面が、セルのグリッドで覆われ、前記ジェスチャー捕捉モジュールが、どのセルがユーザーによって触れられているかを識別するように構成されてなる請求項1に記載のシステム。
JP2016223518A 2009-08-28 2016-11-16 自動車用のジェスチャーに基づいた情報およびコマンドの入力 Active JP6218200B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US12/550,128 2009-08-28
US12/550,128 US9551590B2 (en) 2009-08-28 2009-08-28 Gesture-based information and command entry for motor vehicle

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2014191855A Division JP6124021B2 (ja) 2009-08-28 2014-09-19 自動車用のジェスチャーに基づいた情報およびコマンドの入力

Publications (2)

Publication Number Publication Date
JP2017076408A true JP2017076408A (ja) 2017-04-20
JP6218200B2 JP6218200B2 (ja) 2017-10-25

Family

ID=43066714

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2012526989A Pending JP2013503396A (ja) 2009-08-28 2010-08-26 自動車用のジェスチャーに基づいた情報およびコマンドの入力
JP2014191855A Active JP6124021B2 (ja) 2009-08-28 2014-09-19 自動車用のジェスチャーに基づいた情報およびコマンドの入力
JP2016223518A Active JP6218200B2 (ja) 2009-08-28 2016-11-16 自動車用のジェスチャーに基づいた情報およびコマンドの入力

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2012526989A Pending JP2013503396A (ja) 2009-08-28 2010-08-26 自動車用のジェスチャーに基づいた情報およびコマンドの入力
JP2014191855A Active JP6124021B2 (ja) 2009-08-28 2014-09-19 自動車用のジェスチャーに基づいた情報およびコマンドの入力

Country Status (5)

Country Link
US (1) US9551590B2 (ja)
EP (1) EP2470866B1 (ja)
JP (3) JP2013503396A (ja)
CN (1) CN102575943B (ja)
WO (1) WO2011025884A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230005489A (ko) * 2021-07-01 2023-01-10 주식회사 세이프넷티앤씨 중장비용 위험경고 시스템

Families Citing this family (95)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8775023B2 (en) * 2009-02-15 2014-07-08 Neanode Inc. Light-based touch controls on a steering wheel and dashboard
US9007190B2 (en) 2010-03-31 2015-04-14 Tk Holdings Inc. Steering wheel sensors
DE102011006344B4 (de) 2010-03-31 2020-03-12 Joyson Safety Systems Acquisition Llc Insassenmesssystem
DE102011006649B4 (de) 2010-04-02 2018-05-03 Tk Holdings Inc. Lenkrad mit Handsensoren
US9296299B2 (en) * 2011-11-16 2016-03-29 Autoconnect Holdings Llc Behavioral tracking and vehicle applications
US9292093B2 (en) * 2010-11-18 2016-03-22 Alpine Electronics, Inc. Interface method and apparatus for inputting information with air finger gesture
US20130030811A1 (en) * 2011-07-29 2013-01-31 Panasonic Corporation Natural query interface for connected car
DE102011112447A1 (de) 2011-09-03 2013-03-07 Volkswagen Aktiengesellschaft Verfahren und Anordnung zum Bereitstellen einer graphischen Nutzerschnittstelle, insbesondere in einem Fahrzeug
CN103842941B (zh) * 2011-09-09 2016-12-07 泰利斯航空电子学公司 响应于所感测出的乘客比划动作而执行交通工具娱乐系统的控制
US20130063369A1 (en) * 2011-09-14 2013-03-14 Verizon Patent And Licensing Inc. Method and apparatus for media rendering services using gesture and/or voice control
JP5452566B2 (ja) * 2011-10-31 2014-03-26 本田技研工業株式会社 車両用入力装置
KR101260053B1 (ko) 2011-11-17 2013-05-06 재단법인대구경북과학기술원 동작 및 음성을 이용한 지능형 차량 제어 장치 및 방법
DE102011121585B4 (de) * 2011-12-16 2019-08-29 Audi Ag Kraftfahrzeug
DE112011105888T5 (de) * 2011-12-23 2014-09-11 Hewlett-Packard Development Company, L.P. Eingabebefehl, der auf Handgeste basiert
US20130204408A1 (en) * 2012-02-06 2013-08-08 Honeywell International Inc. System for controlling home automation system using body movements
WO2013128291A2 (en) * 2012-02-29 2013-09-06 Robert Bosch Gmbh Method of fusing multiple information sources in image-based gesture recognition system
US9235941B2 (en) * 2012-03-14 2016-01-12 Autoconnect Holdings Llc Simultaneous video streaming across multiple channels
DE102012005886B4 (de) 2012-03-23 2023-02-16 Audi Ag Verfahren zur Bedienung einer Bedienvorrichtung eines Kraftfahrzeugs
US8744771B2 (en) * 2012-03-26 2014-06-03 Navteq B.V. Reverse natural guidance
JP5858850B2 (ja) * 2012-04-02 2016-02-10 三菱電機株式会社 空気調和機の室内機
US8942881B2 (en) 2012-04-02 2015-01-27 Google Inc. Gesture-based automotive controls
WO2013154720A1 (en) 2012-04-13 2013-10-17 Tk Holdings Inc. Pressure sensor including a pressure sensitive material for use with control systems and methods of using the same
US20130275924A1 (en) * 2012-04-16 2013-10-17 Nuance Communications, Inc. Low-attention gestural user interface
DE102012018685B4 (de) * 2012-05-22 2017-08-03 Audi Ag System und Verfahren zur Steuerung von zumindest einem Fahrzeugsystem mittels von einem Fahrer durchgeführter Gesten
EP2666709A1 (en) * 2012-05-25 2013-11-27 ABB Research Ltd. A ship having a window as computer user interface
DE102012212787A1 (de) * 2012-07-20 2014-01-23 Robert Bosch Gmbh Motorradlenkeranordnung mit Griffüberwachung
DE102013209721A1 (de) 2012-08-20 2014-02-20 Johnson Controls Gmbh Verfahren zur Kalibrierung einer TOF-Kamera
DE102012216193B4 (de) * 2012-09-12 2020-07-30 Continental Automotive Gmbh Verfahren und Vorrichtung zur Bedienung einer Kraftfahrzeugkomponente mittels Gesten
WO2014043664A1 (en) 2012-09-17 2014-03-20 Tk Holdings Inc. Single layer force sensor
DE102012021220A1 (de) * 2012-10-27 2014-04-30 Volkswagen Aktiengesellschaft Bedienanordnung für ein Kraftfahrzeug
FR2998071B1 (fr) 2012-11-09 2014-11-21 Thales Sa Procede de securisation d'une commande sur un dispositif de visualisation a surface tactile et systeme associe
US9092093B2 (en) 2012-11-27 2015-07-28 Neonode Inc. Steering wheel user interface
JP6030430B2 (ja) * 2012-12-14 2016-11-24 クラリオン株式会社 制御装置、車両及び携帯端末
KR101459445B1 (ko) * 2012-12-18 2014-11-07 현대자동차 주식회사 차량내 손목각을 이용한 사용자 인터페이스 조작 시스템 및 방법
CN103529930B (zh) * 2013-01-04 2016-12-28 努比亚技术有限公司 基于体感识别的索引菜单的方法、装置及其终端
CN103020306A (zh) * 2013-01-04 2013-04-03 深圳市中兴移动通信有限公司 一种基于手势识别字符索引的查找方法及系统
DE102013000068A1 (de) 2013-01-08 2014-07-10 Audi Ag Verfahren zum Synchronisieren von Anzeigeeinrichtungen eines Kraftfahrzeugs
US20140191939A1 (en) * 2013-01-09 2014-07-10 Microsoft Corporation Using nonverbal communication in determining actions
US20140253471A1 (en) * 2013-03-11 2014-09-11 Code 3, Inc. Gesture control for electronic safety devices
US9261908B2 (en) * 2013-03-13 2016-02-16 Robert Bosch Gmbh System and method for transitioning between operational modes of an in-vehicle device using gestures
US8818716B1 (en) 2013-03-15 2014-08-26 Honda Motor Co., Ltd. System and method for gesture-based point of interest search
US8886399B2 (en) * 2013-03-15 2014-11-11 Honda Motor Co., Ltd. System and method for controlling a vehicle user interface based on gesture angle
TWI547626B (zh) 2013-05-31 2016-09-01 原相科技股份有限公司 具有手勢感測器的裝置
CN109240506A (zh) * 2013-06-13 2019-01-18 原相科技股份有限公司 具有手势感测器的装置
US9377318B2 (en) * 2013-06-27 2016-06-28 Nokia Technologies Oy Method and apparatus for a navigation conveyance mode invocation input
US20160023604A1 (en) * 2013-07-08 2016-01-28 LightSpeed Automotive Technology Head-Up Display Controller
KR101518904B1 (ko) * 2013-09-23 2015-05-11 현대자동차 주식회사 차량용 조작 장치
US20150139483A1 (en) * 2013-11-15 2015-05-21 David Shen Interactive Controls For Operating Devices and Systems
US10126928B2 (en) * 2014-03-31 2018-11-13 Magna Electronics Inc. Vehicle human machine interface with auto-customization
JP6011579B2 (ja) * 2014-05-21 2016-10-19 株式会社デンソー ジェスチャ入力装置
US10936050B2 (en) 2014-06-16 2021-03-02 Honda Motor Co., Ltd. Systems and methods for user indication recognition
DE102014010341A1 (de) 2014-07-11 2016-01-14 Audi Ag Bedieneinrichtung für ein Kraftfahrzeug und Verfahren zum Betreiben einer Bedieneinrichtung
KR20160036242A (ko) * 2014-09-25 2016-04-04 현대자동차주식회사 제스처 인식 장치, 그를 가지는 차량 및 그 제어 방법
FR3026502A1 (fr) * 2014-09-30 2016-04-01 Valeo Comfort & Driving Assistance Systeme et procede de commande d'un equipement d'un vehicule automobile
KR101556521B1 (ko) * 2014-10-06 2015-10-13 현대자동차주식회사 휴먼 머신 인터페이스 장치, 그를 가지는 차량 및 그 제어 방법
TWI552892B (zh) * 2015-04-14 2016-10-11 鴻海精密工業股份有限公司 車輛控制系統及其操作方法
WO2016168591A1 (en) * 2015-04-16 2016-10-20 Robert Bosch Gmbh System and method for automated sign language recognition
KR101721967B1 (ko) * 2015-07-27 2017-03-31 현대자동차주식회사 입력장치, 이를 포함하는 차량 및 입력장치의 제어방법
KR101714997B1 (ko) * 2015-08-27 2017-03-09 한국생산기술연구원 암레스트 인터페이스 시스템
CN105151048A (zh) * 2015-10-22 2015-12-16 上海擎感智能科技有限公司 一种车载终端手势识别控制方法及系统
DE102015222152A1 (de) * 2015-11-11 2017-05-11 Robert Bosch Gmbh Elektrohandwerkzeugmaschine
US10692126B2 (en) 2015-11-17 2020-06-23 Nio Usa, Inc. Network-based system for selling and servicing cars
CN107305134B (zh) * 2016-04-22 2020-05-08 高德信息技术有限公司 在电子地图上显示预定形状的导航路线的方法和装置
US20180012197A1 (en) 2016-07-07 2018-01-11 NextEv USA, Inc. Battery exchange licensing program based on state of charge of battery pack
US9928734B2 (en) 2016-08-02 2018-03-27 Nio Usa, Inc. Vehicle-to-pedestrian communication systems
CN106502570B (zh) * 2016-10-25 2020-07-31 科世达(上海)管理有限公司 一种手势识别的方法、装置及车载系统
US11024160B2 (en) 2016-11-07 2021-06-01 Nio Usa, Inc. Feedback performance control and tracking
US10694357B2 (en) 2016-11-11 2020-06-23 Nio Usa, Inc. Using vehicle sensor data to monitor pedestrian health
US10708547B2 (en) 2016-11-11 2020-07-07 Nio Usa, Inc. Using vehicle sensor data to monitor environmental and geologic conditions
US10410064B2 (en) 2016-11-11 2019-09-10 Nio Usa, Inc. System for tracking and identifying vehicles and pedestrians
US10699305B2 (en) 2016-11-21 2020-06-30 Nio Usa, Inc. Smart refill assistant for electric vehicles
US10249104B2 (en) 2016-12-06 2019-04-02 Nio Usa, Inc. Lease observation and event recording
US10074223B2 (en) 2017-01-13 2018-09-11 Nio Usa, Inc. Secured vehicle for user use only
US10031521B1 (en) 2017-01-16 2018-07-24 Nio Usa, Inc. Method and system for using weather information in operation of autonomous vehicles
US9984572B1 (en) 2017-01-16 2018-05-29 Nio Usa, Inc. Method and system for sharing parking space availability among autonomous vehicles
US10471829B2 (en) 2017-01-16 2019-11-12 Nio Usa, Inc. Self-destruct zone and autonomous vehicle navigation
US10464530B2 (en) 2017-01-17 2019-11-05 Nio Usa, Inc. Voice biometric pre-purchase enrollment for autonomous vehicles
US10286915B2 (en) 2017-01-17 2019-05-14 Nio Usa, Inc. Machine learning for personalized driving
US10897469B2 (en) 2017-02-02 2021-01-19 Nio Usa, Inc. System and method for firewalls between vehicle networks
US10466195B2 (en) * 2017-03-14 2019-11-05 Ford Global Technologies, Llc Vehicle window having moisture sensor
US10234302B2 (en) 2017-06-27 2019-03-19 Nio Usa, Inc. Adaptive route and motion planning based on learned external and internal vehicle environment
US10369974B2 (en) 2017-07-14 2019-08-06 Nio Usa, Inc. Control and coordination of driverless fuel replenishment for autonomous vehicles
US10710633B2 (en) 2017-07-14 2020-07-14 Nio Usa, Inc. Control of complex parking maneuvers and autonomous fuel replenishment of driverless vehicles
US10837790B2 (en) 2017-08-01 2020-11-17 Nio Usa, Inc. Productive and accident-free driving modes for a vehicle
US10635109B2 (en) 2017-10-17 2020-04-28 Nio Usa, Inc. Vehicle path-planner monitor and controller
US10606274B2 (en) 2017-10-30 2020-03-31 Nio Usa, Inc. Visual place recognition based self-localization for autonomous vehicles
US10935978B2 (en) 2017-10-30 2021-03-02 Nio Usa, Inc. Vehicle self-localization using particle filters and visual odometry
US10717412B2 (en) 2017-11-13 2020-07-21 Nio Usa, Inc. System and method for controlling a vehicle using secondary access methods
US10369966B1 (en) 2018-05-23 2019-08-06 Nio Usa, Inc. Controlling access to a vehicle using wireless access devices
US11106905B2 (en) * 2018-09-04 2021-08-31 Cerence Operating Company Multi-character text input system with audio feedback and word completion
CN113165515B (zh) 2018-11-28 2021-11-02 内奥诺德公司 驾驶员用户界面传感器
DE102019127295B3 (de) * 2019-10-10 2021-03-25 Schaeffler Technologies AG & Co. KG Bediensystem zum Steuern eines Fahrzeugs
US11873000B2 (en) 2020-02-18 2024-01-16 Toyota Motor North America, Inc. Gesture detection for transport control
US11055998B1 (en) 2020-02-27 2021-07-06 Toyota Motor North America, Inc. Minimizing traffic signal delays with transports
US11290856B2 (en) 2020-03-31 2022-03-29 Toyota Motor North America, Inc. Establishing connections in transports

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002513969A (ja) * 1998-05-07 2002-05-14 エイアールティー−アドヴァンスト・レコグニション・テクノロジーズ・リミテッド 車両のコンポーネントの手書きおよび音声制御
JP2004171476A (ja) * 2002-11-22 2004-06-17 Keio Gijuku ハンドパターンスイッチ装置
JP2004303207A (ja) * 2003-03-28 2004-10-28 Microsoft Corp ジェスチャの動的フィードバック
JP2004303251A (ja) * 1997-11-27 2004-10-28 Matsushita Electric Ind Co Ltd 制御方法
JP2005108211A (ja) * 2003-09-16 2005-04-21 Smart Technol Inc ジェスチャ認識方法及びそれを組み込んだタッチシステム
JP2006285370A (ja) * 2005-03-31 2006-10-19 Mitsubishi Fuso Truck & Bus Corp ハンドパターンスイッチ装置及びハンドパターン操作方法
WO2007088942A1 (ja) * 2006-02-03 2007-08-09 Matsushita Electric Industrial Co., Ltd. 入力装置、及びその方法
JP2014191855A (ja) * 2013-03-28 2014-10-06 Dainippon Printing Co Ltd サスペンション用基板、サスペンション、素子付サスペンションおよびハードディスクドライブ

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7084859B1 (en) * 1992-09-18 2006-08-01 Pryor Timothy R Programmable tactile touch screen displays and man-machine interfaces for improved vehicle instrumentation and telematics
US9513744B2 (en) * 1994-08-15 2016-12-06 Apple Inc. Control systems employing novel physical controls and touch screens
JPH0950363A (ja) * 1995-08-09 1997-02-18 Toshiba Corp プラント情報提供装置
US7158871B1 (en) * 1998-05-07 2007-01-02 Art - Advanced Recognition Technologies Ltd. Handwritten and voice control of vehicle components
US6434450B1 (en) * 1998-10-19 2002-08-13 Diversified Software Industries, Inc. In-vehicle integrated information system
US7050606B2 (en) * 1999-08-10 2006-05-23 Cybernet Systems Corporation Tracking and gesture recognition system particularly suited to vehicular control applications
GB2355055A (en) * 1999-10-09 2001-04-11 Rover Group A control system for a vehicle
JP2002259046A (ja) * 2001-02-28 2002-09-13 Tomoya Sonoda 空中で手描きした文字・記号入力システム
JP2004070688A (ja) * 2002-08-07 2004-03-04 Nippon Telegr & Teleph Corp <Ntt> 情報入力装置、方法、プログラム、及びそのプログラムを記録した記録媒体
DE10304720B4 (de) 2003-02-06 2024-06-13 Bayerische Motoren Werke Aktiengesellschaft Dateneingabegerät mit einem Drehsteller und einem Touchpad
DE10312812A1 (de) 2003-03-21 2004-10-07 Siemens Ag Kombinierte Anzeige- und Eingabeeinrichtung für Kraftfahrzeuge
JP4338513B2 (ja) * 2003-12-26 2009-10-07 アルパイン株式会社 入力制御装置及び入力受付方法
DE102004010406B3 (de) * 2004-03-01 2005-10-27 Siemens Ag Informations- oder Unterhaltungssystem eines Kraftfahrzeuges und Verfahren zur Auswahl eines Listeneintrags
US7295904B2 (en) * 2004-08-31 2007-11-13 International Business Machines Corporation Touch gesture based interface for motor vehicle
US7598949B2 (en) * 2004-10-22 2009-10-06 New York University Multi-touch sensing light emitting diode display and method for using the same
US7397466B2 (en) * 2004-11-12 2008-07-08 Eastman Kodak Company Integral spacer dots for touch screen
KR20060070280A (ko) * 2004-12-20 2006-06-23 한국전자통신연구원 손 제스처 인식을 이용한 사용자 인터페이스 장치 및 그방법
EP1717671A1 (en) * 2005-04-29 2006-11-02 Ford Global Technologies, LLC Method for an appliance system of a vehicle
TW200730381A (en) 2006-02-09 2007-08-16 Elan Microelectronics Corp Touchpad module
JP4844896B2 (ja) * 2007-03-30 2011-12-28 アイシン・エィ・ダブリュ株式会社 ナビゲーション装置
DE102007045967A1 (de) * 2007-09-25 2009-04-02 Continental Automotive Gmbh Verfahren und Vorrichtung zur berührungslosen Eingabe von Schriftzeichen

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004303251A (ja) * 1997-11-27 2004-10-28 Matsushita Electric Ind Co Ltd 制御方法
JP2002513969A (ja) * 1998-05-07 2002-05-14 エイアールティー−アドヴァンスト・レコグニション・テクノロジーズ・リミテッド 車両のコンポーネントの手書きおよび音声制御
JP2004171476A (ja) * 2002-11-22 2004-06-17 Keio Gijuku ハンドパターンスイッチ装置
JP2004303207A (ja) * 2003-03-28 2004-10-28 Microsoft Corp ジェスチャの動的フィードバック
JP2005108211A (ja) * 2003-09-16 2005-04-21 Smart Technol Inc ジェスチャ認識方法及びそれを組み込んだタッチシステム
JP2006285370A (ja) * 2005-03-31 2006-10-19 Mitsubishi Fuso Truck & Bus Corp ハンドパターンスイッチ装置及びハンドパターン操作方法
WO2007088942A1 (ja) * 2006-02-03 2007-08-09 Matsushita Electric Industrial Co., Ltd. 入力装置、及びその方法
JP2014191855A (ja) * 2013-03-28 2014-10-06 Dainippon Printing Co Ltd サスペンション用基板、サスペンション、素子付サスペンションおよびハードディスクドライブ

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230005489A (ko) * 2021-07-01 2023-01-10 주식회사 세이프넷티앤씨 중장비용 위험경고 시스템
KR102545574B1 (ko) * 2021-07-01 2023-06-21 주식회사 세이프넷티앤씨 중장비용 위험경고 시스템

Also Published As

Publication number Publication date
CN102575943B (zh) 2016-03-23
US9551590B2 (en) 2017-01-24
JP2015038747A (ja) 2015-02-26
WO2011025884A1 (en) 2011-03-03
JP6124021B2 (ja) 2017-05-10
JP6218200B2 (ja) 2017-10-25
EP2470866A1 (en) 2012-07-04
JP2013503396A (ja) 2013-01-31
CN102575943A (zh) 2012-07-11
EP2470866B1 (en) 2018-10-10
US20110050589A1 (en) 2011-03-03

Similar Documents

Publication Publication Date Title
JP6218200B2 (ja) 自動車用のジェスチャーに基づいた情報およびコマンドの入力
US10817170B2 (en) Apparatus and method for operating touch control based steering wheel
US7295904B2 (en) Touch gesture based interface for motor vehicle
KR101575650B1 (ko) 단말기, 그를 가지는 차량 및 그 제어 방법
US20090150785A1 (en) Input device for inputting voice information including voice recognizer
CN106415469B (zh) 用于使显示单元上的视图适配的方法和用户界面
US9811200B2 (en) Touch input device, vehicle including the touch input device, and method for controlling the touch input device
US10866726B2 (en) In-vehicle touch device having distinguishable touch areas and control character input method thereof
US10268675B2 (en) Vehicle and control method for the vehicle
JP5023953B2 (ja) 車載表示制御装置、車載表示制御方法および車載表示制御プログラム
US20170060312A1 (en) Touch input device and vehicle including touch input device
US20160179366A1 (en) Touch input device and vehicle including the same
JP2018501998A (ja) 自動車の機器を制御するためのシステムおよび方法
US10732824B2 (en) Vehicle and control method thereof
CN114206654A (zh) 用于检测对交通工具的装置的用户输入的方法和操作系统
JP2018132824A (ja) 操作装置
CN114040857A (zh) 用于运行车辆中的操作系统的方法和车辆中的操作系统
US10437465B2 (en) Vehicle and control method of the same
KR102671661B1 (ko) 차량, 및 그 제어방법
KR101500413B1 (ko) 차량용 제스처 인식 장치
KR20180105065A (ko) 차량용 사용자 인터페이스를 제공하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체
KR102641672B1 (ko) 단말기, 차량 및 그의 제어 방법
KR101875626B1 (ko) 차량 제어 안내 장치 및 방법
US20240025254A1 (en) Display control device for vehicle, display method for vehicle, and non-transitory recording medium for vehicle
JP2020160790A (ja) 制御装置及び制御システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170322

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170509

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A132

Effective date: 20170712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170920

R150 Certificate of patent or registration of utility model

Ref document number: 6218200

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250