JP5030580B2 - 車両用作動システム、車両 - Google Patents

車両用作動システム、車両 Download PDF

Info

Publication number
JP5030580B2
JP5030580B2 JP2006353195A JP2006353195A JP5030580B2 JP 5030580 B2 JP5030580 B2 JP 5030580B2 JP 2006353195 A JP2006353195 A JP 2006353195A JP 2006353195 A JP2006353195 A JP 2006353195A JP 5030580 B2 JP5030580 B2 JP 5030580B2
Authority
JP
Japan
Prior art keywords
unit
vehicle
operating
vehicle occupant
palm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006353195A
Other languages
English (en)
Other versions
JP2008162376A (ja
Inventor
洋 青木
博文 三田
正登 横尾
裕 箱守
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Takata Corp
Original Assignee
Takata Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Takata Corp filed Critical Takata Corp
Priority to JP2006353195A priority Critical patent/JP5030580B2/ja
Priority to EP07023042A priority patent/EP1947548B1/en
Priority to DE602007003799T priority patent/DE602007003799D1/de
Priority to CNA2007101989980A priority patent/CN101211173A/zh
Priority to US12/000,885 priority patent/US7983475B2/en
Publication of JP2008162376A publication Critical patent/JP2008162376A/ja
Application granted granted Critical
Publication of JP5030580B2 publication Critical patent/JP5030580B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors

Description

本発明は、車両に搭載される車両用作動システムに係り、詳しくは車両乗員により操作部が操作されることによって作動する作動装置を備える車両用作動システムの構築技術に関するものである。
従来、下記特許文献1には、車両乗員の操作によって作動する作動装置の一例として、車両用照明装置が開示されている。この車両用照明装置をはじめ、各種の作動装置を作動させる際には、車両乗員が作動装置の操作スイッチに自ら手をのばして手探りでスイッチ操作を行なったり、このスイッチ操作において操作スイッチの方向に一定時間目を向ける場合が想定されるところ、この種のシステムの設計においては、作動装置を作動させるための操作を簡便に行うことを可能とする技術に対する要請がある。
特開2005−254906号公報
そこで、本発明は、かかる点に鑑みてなされたものであり、車両乗員により操作部が操作されることによって作動する作動装置を備える車両用作動システムにおいて、作動装置を作動させるための操作を簡便に行うことを可能とするのに有効な技術を提供することを課題とする。
前記課題を解決するために、本発明が構成される。本発明は、典型的には自動車に搭載される車両用作動システムに対し適用されるが、自動車以外の車両に搭載される車両用作動システムにおいても同様に、本発明を適用することが可能である。
本発明にかかる車両用作動システムは、車両に搭載されるシステムであって、作動装置、検出部、音声入力部、制御部を少なくとも備える構成とされる。
作動装置は、車両乗員により操作部が操作されることによって作動する装置として構成される。この作動装置として、典型的には、車内用ないし車外用照明、エアコンディショナー、ドアミラー、カーナビゲーション、オーディオなどを用いることができる。車両乗員の掌部及び甲部は、車両乗員の手の各部位のうち手首から先であって指を含む部位をいう。また、ここでいう車両乗員には、車両操舵用ハンドルを操作するべく運転席に着座する乗員のみならず、助手席等に着座する乗員が広く包含される。
検出部は、操作部から所定範囲の操作領域における三次元画像を検出する機能を有する。この検出部として、典型的には、非接触型三次元測定器としての単眼C−MOS3Dカメラや複眼ステレオ3Dカメラ、また3Dスキャナーなどを用いることができる。この検出部の設置場所に関しては、所望の操作部の位置に応じて適宜選択することが可能であり、典型的にはインナーリヤビューミラー周辺部、ダッシュボード、天井部、ピラーなどを選択することができる。
音声入力部は、車両乗員により予定された予定操作部に関する情報が音声入力される。ここでいう「予定操作部に関する情報」には、予定操作部自体を示す情報のみならず、予定操作部を直接的ないし間接的に示唆する情報が広く包含される。
本発明にかかる車両用作動システムは、操作部が車両乗員によって直に手動操作されて作動装置が作動する第1の作動モードと、制御部の制御により操作部が直に手動操作されることなく非接触にて作動装置が作動する第2の作動モードを少なくとも有する。
制御部は、第2の動作モードにおいて、音声入力部に音声入力された情報に基づいて、車両乗員により予定された予定操作部を特定するとともに、検出部によって検出された三次元画像に基づいて、操作部から所定範囲の操作領域に車両乗員の掌部ないし甲部が存在すると判定した場合には、車両乗員の掌部ないし甲部が存在すると判定した操作領域に対応する操作部と、特定した予定操作部とが合致することを条件として、作動装置を作動させる制御を行う。操作領域に車両乗員の掌部ないし甲部が存在するか否かの判定に関しては、操作領域に人体が検出された場合に、この被検出体の大きさが予め規定された掌部ないし甲部に相当するか否かを判定してもよいし、或いは操作領域に掌部ないし甲部に相当する大きさの被検出体があるか否かを判定してもよい。
このような構成により、車両乗員は、運転前後や車両停止時に作動装置を作動させる際には第1の作動モード或いは第2の作動モードを選択し、運転中に作動装置を作動させる際には第2の作動モードを選択することができる。とりわけ、正規位置に着座した車両乗員が運転中に限られた大きさの操作部を直接操作する場合には、操作部に対し目を向ける時間がある程度必要となり、また正規位置から外れることがあり、車両乗員の注意力の低下が懸念される。本発明に係る車両用作動システムでは、操作部のまわりの操作領域に単に掌部ないし甲部を移動させる第2の作動モードを必要に応じて選択することにより、作動装置を作動させるのに必要な掌部ないし甲部の操作範囲が広がる。これにより、作動装置を作動させるための操作を簡便に行うことでき、車両乗員の注意力低下を抑えることが可能となる。
また、三次元画像を用いることによって、操作部の操作領域における情報を精度良く検出することが可能とされる。すなわち、三次元画像を用いる場合には、背景と車両乗員との色の差や、肌と服との色の差が少ないような場合等であっても、距離により情報を抽出することが可能であるため、二次元画像を検出する構成に比して、高い検出精度を確保することが可能となる。
また、操作を予定する予定操作部に関する情報を予め音声入力して予告することで、車両乗員が意図する作動装置のみを作動対象とすることができる。これにより、作動装置の誤動作を防止することが可能となる。
なお、本発明の検出部は、1または複数の操作領域における三次元画像を検出する単一の検出部として構成されてもよいし、或いは複数の検出部として構成されてもよい。また、複数の操作領域は、各々が独立した領域として構成されてもよいし、或いは単一の操作領域のうちの各部位として構成されてもよい。例えば、単一の検出部によって少なくとも2つの作動装置に対応した制御を行なう場合、各作動装置の操作部同士が近接しているときには、単一の操作領域のうちの第1の部位を一方の作動装置の作動に関与する操作領域とし、単一の操作領域のうちの第2の部位を他方の作動装置の作動に関与する操作領域とすることができる。すなわち、単一の操作領域のうちのどの部位に車両乗員の掌部ないし甲部が存在するかで、作動させる作動装置を特定することができる

本発明にかかる更なる形態の車両用作動システムでは、前記の制御部は、第2の作動モードにおいて、検出部によって検出された三次元画像に基づいて、操作領域に車両乗員の掌部ないし甲部が存在すると判定した場合には、更にこの操作領域に存在する掌部ないし甲部の動作を判定し、作動装置を作動させる際に、当該掌部ないし甲部の動作に基づいて作動装置の作動態様を可変制御する。ここでいう掌部ないし甲部の動作に関しては、操作領域における掌部ないし甲部の移動量、移動速度、移動加速度、滞留時間などが挙げられる。
このような構成によれば、車両乗員が作動装置の所望の作動態様に応じた掌部ないし甲部の動作を適宜選択することによって、操作部を直に手動操作することなく作動装置のきめ細かい制御を行うことが可能となる。
本発明にかかる車両は、エンジン走行系統と、電装系統と、車両制御装置と、前述の車両用作動システムを少なくとも備える車両として構成される。エンジン走行系統は、エンジン及び車両の走行に関与する系統として構成される。電装系統は、車両に使われる電機部品に関与する系統として構成される。車両制御装置は、エンジン走行系統及び電装系統の駆動制御を行う機能を有する装置として構成される。
このような構成によれば、車両乗員が必要に応じて操作部を直に手動操作することなく作動装置を作動させることが可能な車両用作動システムを搭載した車両が実現される。
以上のように、本発明によれば、車両乗員により操作部が操作されることによって作動する作動装置を備える車両用作動システムにおいて、特に操作部の操作領域における三次元画像を検出するとともに、検出したこの三次元画像に基づいて、操作領域に車両乗員の掌部ないし甲部が存在するか否かを判定し、操作領域に車両乗員の掌部ないし甲部が存在すると判定した場合に作動装置を作動させる構成を採用することによって、作動装置を作動させるための操作を簡便に行うことが可能となった。
以下、本発明の実施の形態につき図面を参照しつつ詳細に説明する。まず、図1を参照しながら、本発明における「車両用作動システム」の一実施の形態である車両用作動システム100の構成につき説明する。
本実施の形態の車両用作動システム100のシステム構成が図1に示される。図1に示すように、車両用作動システム100は、本発明における「車両」としての自動車車両に搭載されるものであり、撮影手段110、制御手段120、ECU170及び作動装置180を少なくとも備える構成とされる。当該車両は、特に図示しないものの、エンジン及び車両の走行に関与する系統であるエンジン走行系統(本発明における「エンジン走行系統」に相当)、車両に使われる電機部品に関与する系統である電装系統(本発明における「電装系統」に相当)、エンジン走行系統及び電装系統の駆動制御を行う車両制御装置(ECU170)を少なくとも備える。この場合の車両制御装置が、本発明における「車両制御装置」に相当する。
本実施の形態の撮影手段110は、撮影デバイスとしての3Dカメラ112及びデータ転送回路を含む構成とされる。3Dカメラ112は、C−MOS又はCCD(電荷結合素子)を用いたうえで、光センサをアレイ状(格子状)に配置した3D(三次元画像)式のカメラ(「モニター」といもいう)として構成される。この3Dカメラ112は、典型的には運転席乗員や助手席乗員を正面から撮影するべく、例えばダッシュボードの左右センター部分やインナーリヤビューミラー周辺部に配設される。この3Dカメラ112によって、単一視点に関する三次元画像が得られることとなり、運転席乗員や助手席乗員までの距離が複数回計測されて立体表面形状が検出されることで、当該運転席乗員や助手席乗員に関する情報が、周期的に複数回、計測されることとなる。この3Dカメラ112として、非接触型三次元測定器としての単眼C−MOS3Dカメラや複眼ステレオ3Dカメラを用いることができる。この3Dカメラ112にかえて、三次元画像を得る3Dスキャナーを用いることもできる。
また、特に図示しないものの、本実施の形態の車両用作動システム100には、車両バッテリの電力をこの3Dカメラ112に供給する電源装置が搭載されている。この3Dカメラ112によるこの撮影は、例えばイグニッションキーがON状態になったとき、あるいは運転席内に装着された着座センサ(図示省略)が、当該運転席に着座した乗員を検知したときに開始されるように設定される。
本実施の形態の制御手段120は、画像処理部130、演算部(MPU)140、記憶部150、入出力部160、また特に図示しないものの各種の周辺装置を少なくとも備える。この制御手段120は、3Dカメラ112によって撮影された画像から、後述する所定の操作領域C(後述する操作部180aから所定範囲の操作領域)における三次元画像を検出する処理を行うとともに、この検出情報に基づいて作動装置180を制御する機能を有する。ここでいう制御手段120に撮影手段110を含めて、本発明における「検出部」及び「制御部」が構成される。
画像処理部130は、品質の良い画像を得るためのカメラ制御や、3Dカメラ112によって撮影した画像を加工分析するための画像処理制御を行う手段として構成される。具体的には、カメラ制御においては、フレームレート、シャッター時間、感度調整、精度補正が行われ、ダイナミックレンジや輝度、ホワイトバランスなどが調整される。また、この画像処理制御においては、画像の回転補正やレンズ歪み補正、フィルター演算、差分演算などの画像前処理演算と、形状判定やトラッキングなどの画像認識処理演算が実行される。これにより、3Dカメラ112によって撮影された車両乗員の三次元画像は、XYZ座標系内の画素によって表現される。ここでいう「画素」は、「ピクセル」とも称呼され、デジタル画像を構成する単位である、色のついた「点」とされ、距離(奥行き)や透明度などの情報を含む。
なお、車両乗員の三次元画像は、既知の技術によって、3Dカメラ112を中心とした座標系A(X,Y,Z)から、車体を中心とした座標系B(X’,Y’,Z’)へと座標変換されるのが好ましい。ここで、図2には、図1中の3Dカメラ112をダッシュボード上に設置した場合の座標系A(X,Y,Z)の側面図が示され、図3には、図2中の座標系A(X,Y,Z)の背面図が示される。また、図4には、図1中の3Dカメラ112をダッシュボード上に設置した場合の座標系B(X’,Y’,Z’)の側面図が示され、図5には、図4中の座標系B(X’,Y’,Z’)の背面図が示される。車体を中心とした座標系Bに関し、X’軸は車体の床面と車両左右方向に平行とされ、Y’軸は車体の床面に垂直で車両上下方向に平行とされ、Z’軸は車体の床面と車両前後方向に平行とされる。このような座標変換を行うことによって、操作領域Cの定義が容易になる。
本実施の形態の演算部140は、画像処理部130からの情報に基づいて、当該情報を処理する機能を有し、情報抽出処理部142及び判定処理部144を含む構成とされる。情報抽出処理部142は、画像処理部130による情報から、所定の操作領域Cの三次元画像を抽出(「検出」ともいう)する機能を有する。判定処理部144は、情報抽出処理部142によって抽出した操作領域Cの三次元画像に基づいて、当該操作領域Cに車両乗員の掌部ないし甲部、すなわち手の各部位のうち手首から先であって指を含む部位が存在するか否かを判定する処理を行う。この判定処理に関しては、操作領域Cに人体が検出された場合に、この被検出体の大きさが予め規定された掌部ないし甲部に相当するか否かを判定してもよいし、或いは操作領域Cに掌部ないし甲部に相当する大きさの被検出体があるか否かを判定してもよい。そして、当該操作領域Cに車両乗員の掌部ないし甲部が存在すると判定した場合、作動装置180を作動させるための制御信号を出力する。
本実施の形態の記憶部150は、演算制御ソフトウエアに加えて、補正用のデータや前処理用のバッファーフレームメモリー、認識演算のための定義データや基準パターン、演算部140において予め設定された操作領域Cに関する情報や、演算部140における各種の処理結果を記録(記憶)する手段として構成される。
本実施の形態の入出力部160は、車両全体に関する制御を行うECU170との間で、演算部140における判定結果をはじめ、車両に関する情報、周辺の交通状況に関する情報、天候や時間帯に関する情報などが入力され認識結果を出力する。車両に関する情報の具体例としては、レーダーやカメラによる車両の衝突予知情報、車両ドアの開閉、シートベルトの装脱着、ブレーキの作動、車速、ステアリング操舵角度などがある。
本実施の形態の作動装置180は、ECU170からの制御信号によって作動する作動デバイスとして構成される。この作動装置180は、車両乗員によって操作される操作部180aを備え、この操作部180aが直に手動操作されることによって、作動装置180が作動する、或いは作動態様が可変とされる。このときの操作モードは、操作部180aが直に手動操作されて作動装置180が作動するモードであり、本発明における「第1の作動モード」に相当する。この作動装置180として、典型的には、車内用ないし車外用照明、エアコンディショナー、ドアミラー、カーナビゲーション、オーディオなどを用いることができる。また、この作動装置180の操作部180aは、典型的には、スライド式、プッシュ式、回転式等、各種のスイッチ類やボタン類によって構成される。ここでいう作動装置180が、本発明における「作動装置」に相当し、この作動装置180の操作部180aが、本発明における「操作部」に相当する。
本実施の形態では、前記の判定処理部144において所定の操作領域Cに車両乗員の掌部ないし甲部が存在すると判定した場合、この車両乗員が作動装置180を作動させる意思があると判断して、ECU170が作動装置180に対し作動信号を出力する構成とされる。このときの制御モードは、操作部180aに非接触にて作動装置180が作動するモードであり、本発明における「第2の作動モード」に相当する。なお、本実施の形態では、演算部140における処理に基づいて作動装置180に対し作動信号が出力される構成であればよく、図1に示すように、演算部140と作動装置180との間にECU170が介在する構成であってもよいし、或いは演算部140からの作動信号を作動装置180に対し直接的に出力する構成であってもよい。
(第1の処理態様)
ここで、本実施の形態の演算部140による第1の処理態様を、図6及び図7を参照しながら説明する。
図6には、本実施の形態の操作部180aから所定範囲の操作領域Cにおいて、車両乗員の掌部ないし甲部Hの存在を検出する様子が模式的に示される。この図6に示す例では、本実施の形態の操作領域Cを、X’軸、Y’軸、Z’軸に関する中心が(a,b,c)で、半径がrの球の内部空間として規定している。この場合、この操作領域Cは、(x−a)+(y−b)+(z−c)≦rの式で示されるエリアとすることができる。演算部140は、この式によって示されるエリアに存在する画素数pが一定値m以上である場合に、操作領域C内に物体(被検出体)が存在すると判定する。更に、当該画素数pが一定値n(>m)以下である場合に、操作領域C内に存在する物体が車両乗員の掌部ないし甲部Hであると判定する。すなわち、当該画素数pに関し、m≦p≦nの関係が成立する場合に、操作領域Cに車両乗員の掌部ないし甲部Hに相当する大きさの物体が存在すると判定される。なお、画素数pに関する一定値m,nは、記憶部150にて予め記憶される。一定値m、nとして、例えばm=200、n=300の値を採用することができる。また、車両乗員の掌部ないし甲部の存在を検出するべく設定される操作領域は、操作領域Cのような球のほか、立方体や直方体等、必要に応じて各種の形状として規定され得る。また、この操作領域を規定する操作部180aからの離間距離は、想定する掌部ないし甲部Hの大きさなどに応じて適宜設定可能である。当該操作領域が、本発明における「操作領域」に相当する。
図7には、図6中の操作領域Cにおける車両乗員の掌部ないし甲部Hの検出に基づいて、作動装置180が作動するまでのフローが示される。この図7に示すように、車両乗員が作動装置180を作動させるべく、手Hを操作領域Cへと移動させることによって、この掌部ないし甲部Hを3Dカメラ112が検出する。そして、演算部140が操作領域Cに車両乗員の掌部ないし甲部Hが存在すると判定した場合、車両乗員が作動装置180を作動させようとする意思があると判断して、この作動装置180を作動させる制御が遂行される。例えば、車内用照明スイッチの操作領域に車両乗員の掌部ないし甲部が存在すると判定した場合には、車内用照明スイッチが直接操作されることがなくても、車内用照明が点灯状態とされる。また、オーディオスイッチの操作領域に車両乗員の掌部ないし甲部が存在すると判定した場合には、オーディオスイッチが直接操作されることがなくても、オーディオが作動状態とされる。なお、作動装置180の作動後に関しては、一定時間経過後に作動装置180が自動的に停止される構成や、一定時間経過後に再び操作領域Cにおいて車両乗員の掌部ないし甲部Hが検出されることを条件として作動装置180を停止させる構成などを採用することができる。
なお、本実施の形態において、撮影手段110は、1または複数の操作領域における三次元画像を検出する単一の撮影デバイス(3Dカメラ112等)として構成されてもよいし、或いは複数の撮影デバイスとして構成されてもよい。また、複数の操作領域は、各々が独立した領域として構成されてもよいし、或いは単一の操作領域のうちの各部位として構成されてもよい。例えば、単一の撮影デバイスによって少なくとも2つの作動装置、例えばエアコンディショナーとオーディオに対応した制御を行なう場合、各作動装置の操作部同士が近接しているときには、単一の操作領域のうちの第1の部位をエアコンディショナーの作動に関与する操作領域とし、単一の操作領域のうちの第2の部位をオーディオの作動に関与する操作領域とすることができる。すなわち、単一の操作領域のうちのどの部位に車両乗員の掌部ないし甲部が存在するかで、作動させる作動装置を特定することができる。
(第2の処理態様)
本実施の形態の演算部140による第2の処理態様に関しては、図8及び図9が参照される。
図8には、本実施の形態の操作部180aが存在する所定の操作領域Cにおいて車両乗員の掌部ないし甲部Hの動作を検出する様子が模式的に示される。この図8に示す例では、操作領域Cにおける画素の中心位置の変化によって、車両乗員の掌部ないし甲部Hの動作を検出する。具体的には、操作領域Cにおける画素の座標を(Xk,Yk,Zk)、画素数をNとした場合、Σがk=1〜Nの和となり、画素の中心位置は(Σ(Xk)/N,Σ(Yk)/N,Σ(Zk)/N)で求めることができる。そして、一定時間内におけるこの画素の中心位置の標準偏差によって、操作領域Cにおける手Hの移動量を求め、これによって車両乗員の掌部ないし甲部Hの動作の種類を判定する。操作領域Cにおける手Hの移動量以外に、手Hの移動量、移動速度、移動加速度、滞留時間などを用いることもできる。
図9には、図7中の操作領域Cにおける車両乗員の掌部ないし甲部Hの動作の検出に基づいて、作動装置180が作動するまでのフローが示される。この図9に示すように、車両乗員が作動装置180を所定の態様にて作動させるべく、手Hを操作領域Cへと移動させて特定の動作を行うことによって、この掌部ないし甲部Hを3Dカメラ112が検出する。そして、演算部140が操作領域Cに車両乗員の掌部ないし甲部Hが存在すると判定し、更にこの掌部ないし甲部Hの特定の動作を検出した場合、車両乗員が作動装置180を所定の態様で作動させようとする意思があると判断して、この作動装置180を所定の態様で作動させる制御が遂行される。例えば、オーディオスイッチの操作領域において、車両乗員の握り拳の上下運動を検出した場合には、オーディオスイッチが直接操作されることがなくても、オーディオの音量が大きくなる制御が行われる。なお、作動装置180の作動後に関しては、一定時間経過後に作動装置180が自動的に停止される構成や、一定時間経過後に再び操作領域Cにおいて車両乗員の掌部ないし甲部Hの特定の動作が検出されることを条件として作動装置180を停止させる構成などを採用することができる。
(第3の処理態様)
本実施の形態の演算部140による第3の処理態様では、前述の第1の処理態様において、更に車両乗員が手Hを操作領域Cへと移動させる前に、操作領域Cに対応した作動装置180を特定するための情報を予め音声によって予告する。この場合、システム構成として、図1中の二点鎖線で示す音声入力部190が追加される。この音声入力部190は、典型的には音声入力用のマイクロフォンによって構成される。ここでいう音声入力部190は、車両乗員により予定された予定操作部に関する情報が音声入力されるものであり、本発明における「音声入力部」に相当する。
この第3の処理態様においては、車両乗員は、これから作動させようとする作動装置180に関する情報を音声入力部190に音声入力する。これにより、車両乗員による操作予定の予定操作部が特定される。なお、作動装置180に関する情報としては、作動装置180自体を示す単語であってもよいし、或いは当該単語を含む言葉であってもよい。その後、音声入力部190に音声入力されたこの情報に基づいて、演算部140は、操作領域にて検出した手に対応する操作部と、予め特定した予定操作部とが合致することを条件として、作動装置180を作動させる制御を行う。例えば、車両乗員がオーディオを音声によって予告した(「オーディオ」や「オーディオを動作します」などの音声を発した)のちに、オーディオスイッチの操作領域に車両乗員の掌部ないし甲部が存在すると判定した場合には、オーディオスイッチが直接操作されることがなくても、オーディオが作動状態とされる。
(第4の処理態様)
本実施の形態の演算部140による第4の処理態様では、前述の第2の処理態様において、更に車両乗員が手Hを操作領域Cへと移動させる前に、操作領域Cに対応した作動装置180を特定するための情報を予め音声によって予告する。この場合、システム構成として、第3の処理態様と同様の音声入力部190が追加される。
この第4の処理態様においては、車両乗員は、これから作動させようとする作動装置180に関する情報を音声入力部190に音声入力する。これにより、車両乗員による操作予定の予定操作部が特定される。その後、音声入力部190に音声入力されたこの情報に基づいて、演算部140は、操作領域Cにて検出した手Hに対応する操作部と、予め特定した予定操作部とが合致することを条件として、作動装置180を作動させる制御を行うとともに、この作動装置180の作動態様を手Hの動作に基づいて可変制御する。例えば、車両乗員がオーディオを音声によって予告した(「オーディオ」や「オーディオを動作します」などの音声を発した)のちに、オーディオスイッチの操作領域において、握り拳の上下運動を検出した場合には、オーディオスイッチが直接操作されることがなくても、オーディオの音量が大きくなる制御が行われる。
以上のように、本実施の形態の車両用作動システム100、或いはこの車両用作動システム100を搭載する車両によれば、操作部180aが車両乗員によって直に手動操作されて作動装置180が作動する第1の作動モードと、操作部180aが直に手動操作されることなく非接触にて作動装置180が作動する第2の作動モードを少なくとも有するため、車両乗員は、運転前後や車両停止時に作動装置180を作動させる際には第1の作動モード或いは第2の作動モードを選択し、運転中に作動装置を作動させる際には第2の作動モードを選択することができる。とりわけ、正規位置に着座した車両乗員が運転中に限られた大きさの操作部180aを直接操作する場合には、操作部180aに対し目を向ける時間がある程度必要となり、また正規位置から外れることがあり、これによって車両乗員の注意力の低下が懸念されるが、操作部180aのまわりの操作領域に単に手を移動させる第2の作動モードを必要に応じて選択すれば、作動装置180を作動させるのに必要な手の操作範囲が広がるため、作動装置180を作動させるための操作を簡便に行うことでき、これによって車両乗員の注意力低下を抑えることが可能となる。
このとき、3Dカメラ112によって撮影された三次元画像に基づく各処理によって、所望の操作領域の情報を精度良く検出することが可能とされる。すなわち、三次元画像を用いる場合には、背景と車両乗員との色の差や、肌と服との色の差が少ないような場合等であっても、距離により情報を抽出することが可能であるため、二次元画像を検出する構成に比して、高い検出精度を確保することが可能となる。
また、本実施の形態によれば、前述の第2の処理態様のように、車両乗員が作動装置の所望の作動態様に応じた手の動作を適宜選択することによって、操作部を直に手動操作することなく作動装置のきめ細かい制御を行うことが可能となる。
また、本実施の形態によれば、前述の第3の処理態様や第4の処理態様のように、操作を予定する予定操作部に関する情報を予め音声入力して予告することで、車両乗員が意図する作動装置のみを作動対象とすることができ、これによって作動装置の誤動作を防止することが可能となる。
(他の実施の形態)
本発明は上記の実施の形態のみに限定されるものではなく、種々の応用や変形が考えられる。例えば、上記実施の形態を応用した次の各形態を実施することもできる。
上記実施の形態では、自動車に装着される車両用作動システム100の構成について記載したが、自動車をはじめ、航空機、船舶、バス、電車等の各種の車両に装着される車両用作動システムの構成に対し本発明を適用することができる。
本実施の形態の車両用作動システム100のシステム構成を示す図である。 図1中の3Dカメラ112をダッシュボード上に設置した場合の座標系A(X,Y,Z)の側面図である。 図2中の座標系A(X,Y,Z)の背面図である。 図1中の3Dカメラ112をダッシュボード上に設置した場合の座標系B(X’,Y’,Z’)の側面図である。 図4中の座標系B(X’,Y’,Z’)の背面図である。 本実施の形態の操作部180aから所定範囲の操作領域Cにおいて、車両乗員の掌部ないし甲部Hの存在を検出する様子を模式的に示す図である。 図6中の操作領域Cにおける車両乗員の掌部ないし甲部Hの検出に基づいて、作動装置180が作動するまでのフローを示す図である。 本実施の形態の操作部180aが存在する所定の操作領域Cにおいて車両乗員の掌部ないし甲部Hの動作を検出する様子を模式的に示す図である。 図7中の操作領域Cにおける車両乗員の掌部ないし甲部Hの動作の検出に基づいて、作動装置180が作動するまでのフローを示す図である。
符号の説明
100…車両用作動システム
110…撮影手段
112…3Dカメラ
120…制御手段
130…画像処理部
140…演算部(MPU)
142…情報抽出処理部
144…判定処理部
150…記憶部
160…入出力手段
170…ECU
180…作動装置
180a…操作部
190…音声入力部

Claims (3)

  1. 車両に搭載される車両用作動システムであって、
    車両乗員により操作部が操作されることによって作動する作動装置と、
    前記操作部から所定範囲の操作領域における三次元画像を検出する検出部と、
    車両乗員により予定された予定操作部に関する情報が音声入力される音声入力部と、
    制御部を備え、
    前記操作部が直に手動操作されて前記作動装置が作動する第1の作動モードと、前記制御部の制御により前記操作部が直に手動操作されることなく非接触にて前記作動装置が作動する第2の作動モードを有し、
    前記制御部は、前記第2の作動モードにおいて、前記音声入力部に音声入力された情報に基づいて、車両乗員により予定された予定操作部を特定するとともに、前記検出部によって検出された三次元画像に基づいて、操作部から所定範囲の操作領域に車両乗員の掌部ないし甲部が存在すると判定した場合には、前記車両乗員の掌部ないし甲部が存在すると判定した操作領域に対応する操作部と、前記特定した予定操作部とが合致することを条件として、前記作動装置を作動させる制御を行う構成であることを特徴とする車両用作動システム。
  2. 請求項1に記載の車両用作動システムであって、
    前記制御部は、前記第2の作動モードにおいて、前記検出部によって検出された三次元画像に基づいて、前記操作領域に車両乗員の掌部ないし甲部が存在すると判定した場合には、更に、当該判定した操作領域に存在する掌部ないし甲部の動作を判定し、前記作動装置を作動させる際に、当該判定した掌部ないし甲部の動作に基づいて、前記作動装置の作動態様を可変制御する構成であることを特徴とする車両用作動システム。
  3. エンジン走行系統と、
    電装系統と、
    前記エンジン走行系統及び電装系統の駆動制御を行う車両制御装置と、
    請求項1または2に記載の車両用作動システムと、
    を有することを特徴とする車両。
JP2006353195A 2006-12-27 2006-12-27 車両用作動システム、車両 Expired - Fee Related JP5030580B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2006353195A JP5030580B2 (ja) 2006-12-27 2006-12-27 車両用作動システム、車両
EP07023042A EP1947548B1 (en) 2006-12-27 2007-11-28 Actuation system for functions in a vehicle and vehicle
DE602007003799T DE602007003799D1 (de) 2006-12-27 2007-11-28 Bediensystem zum Bedienen von Funktionen in einem Fahrzeug und Fahrzeug
CNA2007101989980A CN101211173A (zh) 2006-12-27 2007-12-11 车辆用动作系统、车辆
US12/000,885 US7983475B2 (en) 2006-12-27 2007-12-18 Vehicular actuation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006353195A JP5030580B2 (ja) 2006-12-27 2006-12-27 車両用作動システム、車両

Publications (2)

Publication Number Publication Date
JP2008162376A JP2008162376A (ja) 2008-07-17
JP5030580B2 true JP5030580B2 (ja) 2012-09-19

Family

ID=39321555

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006353195A Expired - Fee Related JP5030580B2 (ja) 2006-12-27 2006-12-27 車両用作動システム、車両

Country Status (5)

Country Link
US (1) US7983475B2 (ja)
EP (1) EP1947548B1 (ja)
JP (1) JP5030580B2 (ja)
CN (1) CN101211173A (ja)
DE (1) DE602007003799D1 (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4973667B2 (ja) * 2009-01-16 2012-07-11 株式会社デンソー 操作推定装置およびプログラム
JP5569062B2 (ja) * 2010-03-15 2014-08-13 オムロン株式会社 ジェスチャ認識装置、ジェスチャ認識装置の制御方法、および、制御プログラム
KR101676881B1 (ko) * 2010-08-17 2016-11-16 엘지전자 주식회사 디스플레이 장치 및 그의 제어 방법
KR101795574B1 (ko) 2011-01-06 2017-11-13 삼성전자주식회사 모션에 의해 제어되는 전자기기 및 그 제어 방법
KR101858531B1 (ko) 2011-01-06 2018-05-17 삼성전자주식회사 모션에 의해 제어되는 디스플레이 장치 및 그 모션 제어 방법
US8942881B2 (en) * 2012-04-02 2015-01-27 Google Inc. Gesture-based automotive controls
US20140074480A1 (en) * 2012-09-11 2014-03-13 GM Global Technology Operations LLC Voice stamp-driven in-vehicle functions
DE102013010932B4 (de) * 2013-06-29 2015-02-12 Audi Ag Verfahren zum Betreiben einer Bedienschnittstelle, Bedienschnittstelle sowie Kraftfahrzeug mit einer Bedienschnittstelle
DE102013011533B4 (de) 2013-07-10 2015-07-02 Audi Ag Erfassungsvorrichtung zum Bestimmen einer Position eines Objekts in einem Innenraum eines Kraftfahrzeugs
US9857971B2 (en) * 2013-12-02 2018-01-02 Industrial Technology Research Institute System and method for receiving user input and program storage medium thereof
KR101976497B1 (ko) * 2013-12-10 2019-05-10 현대자동차 주식회사 차량용 조작계 보조 시스템 및 그 방법
KR102029842B1 (ko) * 2013-12-19 2019-10-08 현대자동차 주식회사 차량 제스처 인식 시스템 및 그 제어 방법
JP6269343B2 (ja) * 2014-06-23 2018-01-31 トヨタ自動車株式会社 車両用操作装置
JP6413645B2 (ja) * 2014-10-31 2018-10-31 三菱自動車工業株式会社 操作入力装置
DE102015201613A1 (de) * 2015-01-30 2016-08-04 Robert Bosch Gmbh Verfahren und Vorrichtung zum Betreiben einer Eingabevorrichtung, Eingabevorrichtung
DE112016001738T5 (de) 2015-04-15 2017-12-21 Denso Corporation Heizervorrichtung
EP3133469B1 (en) * 2015-08-18 2019-11-13 Sikorsky Aircraft Corporation System and method for digitization of vehicular components
US20180300965A1 (en) * 2015-10-22 2018-10-18 Honda Motor Co., Ltd. Vehicle communication device and vehicle communication system
KR101846184B1 (ko) * 2016-06-14 2018-04-06 엘지전자 주식회사 차량 운전 보조장치 및 이를 포함하는 차량
CN107609457B (zh) * 2016-07-12 2021-11-12 比亚迪股份有限公司 车体颜色识别系统和车辆以及车体颜色识别方法
CN108791119A (zh) * 2017-05-04 2018-11-13 奥迪股份公司 车辆控制系统及方法
FR3086902B1 (fr) * 2018-10-03 2021-01-08 Faurecia Interieur Ind Procede, dispositif et programme de reglage de retroviseurs de vehicule automobile
DE102019210008A1 (de) * 2019-07-08 2021-01-14 Volkswagen Aktiengesellschaft Verfahren zum Betreiben eines Bediensystems und Bediensystem
JP2021133877A (ja) * 2020-02-28 2021-09-13 株式会社Subaru 車両の乗員監視装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0183299B1 (ko) * 1996-11-04 1999-04-15 삼성전자주식회사 자동차의 주변사항을 알려주는 네비게이션 장치 및 그 제어방법
US6757009B1 (en) * 1997-06-11 2004-06-29 Eaton Corporation Apparatus for detecting the presence of an occupant in a motor vehicle
JP3286219B2 (ja) * 1997-09-11 2002-05-27 トヨタ自動車株式会社 座席の使用状況判定装置
JP4099552B2 (ja) * 1998-08-03 2008-06-11 ソニー株式会社 撮像表示装置及び撮像表示装置の制御方法
KR100736472B1 (ko) * 2000-11-14 2007-07-06 지멘스 악티엔게젤샤프트 차량 내부의 탑승 유무를 결정하는 방법 및 장치
JP4294853B2 (ja) * 2000-12-19 2009-07-15 アルパイン株式会社 操作指示装置
JP3943367B2 (ja) * 2001-10-31 2007-07-11 株式会社デンソー 車両用乗員頭部検出装置
KR100575906B1 (ko) 2002-10-25 2006-05-02 미츠비시 후소 트럭 앤드 버스 코포레이션 핸드 패턴 스위치 장치
US20040143440A1 (en) * 2003-01-03 2004-07-22 Venkatesh Prasad Vehicle speech recognition system
JP2005063090A (ja) * 2003-08-11 2005-03-10 Keio Gijuku ハンドパターンスイッチ装置
JP3752246B2 (ja) * 2003-08-11 2006-03-08 学校法人慶應義塾 ハンドパターンスイッチ装置
JP2005254906A (ja) * 2004-03-10 2005-09-22 Kojima Press Co Ltd 車両用照明装置
JP4622289B2 (ja) 2004-04-07 2011-02-02 株式会社デンソー 車両用操作装置
JP2006350844A (ja) * 2005-06-17 2006-12-28 Nissan Motor Co Ltd コマンド入力装置
US20090287361A1 (en) 2005-04-05 2009-11-19 Nissan Motor Co., Ltd Command Input System
JP2006285923A (ja) * 2005-04-05 2006-10-19 Nissan Motor Co Ltd コマンド入力装置
DE102006037156A1 (de) 2006-03-22 2007-09-27 Volkswagen Ag Interaktive Bedienvorrichtung und Verfahren zum Betreiben der interaktiven Bedienvorrichtung

Also Published As

Publication number Publication date
US20080181456A1 (en) 2008-07-31
EP1947548B1 (en) 2009-12-16
JP2008162376A (ja) 2008-07-17
EP1947548A1 (en) 2008-07-23
DE602007003799D1 (de) 2010-01-28
CN101211173A (zh) 2008-07-02
US7983475B2 (en) 2011-07-19

Similar Documents

Publication Publication Date Title
JP5030580B2 (ja) 車両用作動システム、車両
JP4863741B2 (ja) 対象物検出システム、駆動装置、車両
JP4898261B2 (ja) 対象物検出システム、作動装置制御システム、車両、対象物検出方法
JP6380410B2 (ja) 画像表示制御装置および画像表示システム
US7847229B2 (en) Object detecting system
WO2019191313A1 (en) Remote operation of vehicles using immersive virtual reality environments
JP2007276577A (ja) 対象物検出システム、作動装置制御システム、車両、対象物検出方法
US20160091978A1 (en) Gesture recognition apparatus, vehicle having the same and method for controlling the same
US11132534B2 (en) Monitoring system
JP2008129948A (ja) 乗員検出装置、作動装置制御システム、シートベルトシステム、車両
US20170305345A1 (en) Image display control apparatus and image display system
JP2008052029A (ja) 撮像システム、車両乗員検出システム、作動装置制御システム、車両
US20200098128A1 (en) Indoor monitoring device
JP7215228B2 (ja) 制御装置、制御方法、制御プログラム
JP2012086684A (ja) 駐車支援装置
WO2017195459A1 (ja) 撮像装置、および撮像方法
CN114787890A (zh) 车辆驾驶系统
CN110281925B (zh) 行驶控制装置、车辆以及行驶控制方法
JP4930728B2 (ja) 表示装置
WO2021172491A1 (ja) 画像処理装置、表示システム、画像処理方法及び記録媒体
KR102373159B1 (ko) 듀얼 카메라 기반 버스차량 사각지대 모니터링 시스템
JP2021145300A (ja) 車両制御装置、車両、および制御方法
JP2023101066A (ja) 車両制御システム
JP2019086932A (ja) ドライバ行動予測装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120229

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120530

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120626

R150 Certificate of patent or registration of utility model

Ref document number: 5030580

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150706

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S343 Written request for registration of root pledge or change of root pledge

Free format text: JAPANESE INTERMEDIATE CODE: R316354

SZ02 Written request for trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R316Z02

S343 Written request for registration of root pledge or change of root pledge

Free format text: JAPANESE INTERMEDIATE CODE: R316354

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S343 Written request for registration of root pledge or change of root pledge

Free format text: JAPANESE INTERMEDIATE CODE: R316354

SZ02 Written request for trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R316Z02

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees