JP4577387B2 - 車両用操作入力装置 - Google Patents

車両用操作入力装置 Download PDF

Info

Publication number
JP4577387B2
JP4577387B2 JP2008078586A JP2008078586A JP4577387B2 JP 4577387 B2 JP4577387 B2 JP 4577387B2 JP 2008078586 A JP2008078586 A JP 2008078586A JP 2008078586 A JP2008078586 A JP 2008078586A JP 4577387 B2 JP4577387 B2 JP 4577387B2
Authority
JP
Japan
Prior art keywords
operation input
sight
vehicle
operation unit
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008078586A
Other languages
English (en)
Other versions
JP2009227246A (ja
Inventor
信輔 久次
青木  隆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2008078586A priority Critical patent/JP4577387B2/ja
Priority to US12/401,881 priority patent/US8106783B2/en
Publication of JP2009227246A publication Critical patent/JP2009227246A/ja
Application granted granted Critical
Publication of JP4577387B2 publication Critical patent/JP4577387B2/ja
Priority to US13/099,523 priority patent/US20110206239A1/en
Priority to US13/099,553 priority patent/US20110205018A1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/149Instrument input by detecting viewing direction not otherwise provided for

Landscapes

  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Description

本発明は車両用操作入力装置に関する。
特開2000−6687号公報 特開2007−198574号公報 特開2000−106069号公報
近年では、操作入力装置(特許文献1)として、プロンプター方式等の遠隔的に機器操作を行う操作入力装置が開発されている。このような操作入力装置は、操作画面(メイン画面)を表示する表示装置とは別に、操作者の手元に遠隔操作部を設け、さらに、その遠隔操作部を操作する手を撮影・抽出し、得られた手画像および手操作を表示装置の操作画面(メイン画面)に反映して、あたかも操作画面を直接タッチ操作しているかのように表示制御するものである。また、このような操作入力装置のうち、車両に設けられるものについては、その操作性を増すために、遠隔操作部が座席に着座したユーザーの手元に設けられる。そして、その遠隔操作部は、タッチ操作面を有してなるタッチ操作式の操作部として構成されることが多い。
上記のような運転者周辺に配置される操作入力装置では、遠隔操作部がユーザーの手元に設けられるので、意図しないで操作部に触れてしまい、誤った操作入力がされることが問題となる。特に、運転者が眠気に襲われているような意識レベルが低下した状態においては、ユーザー周辺の操作部に対し誤操作入力が生じ易くなる。さらにいえば、そうした操作部がタッチ操作式の操作部であれば、何かのはずみで軽く触れただけで簡単に誤操作入力がされてしまうことがある。
これに対し、従来、操作部への通常操作を予めロックしておき、所定のロック解除操作がなされた場合に当該ロックを解除して操作入力が受け付けられるようにする技術がある。一般的には、通常の操作部とは別にそれら操作部へのロック・ロック解除を行うためのスイッチを設け、ユーザーに直接的なロック解除操作を強いる構成が知られている。
また、既存のスイッチに一定時間以上手を接触させ続ける、あるいは既存のスイッチに対し特定のパターンでのスイッチ操作を行う技術がある(特許文献2)。ところが、こうした技術においては、別途スイッチを設ける必要がないという点で、近年のスイッチの多数化に伴い生ずる配置スペースの課題を解決することはできるが、ユーザーのロック解除操作はより面倒な形で定められており、解除操作が煩わしくなるという課題があった。
さらに、従来、光学式の近接センサにより操作部への手の接近を検出し、接近が検出された操作部の操作対象を起動する技術がある(特許文献3)。ところが、この構成においては、何気なく手が操作部に接近した場合であっても操作対象が起動して操作可能となってしまい、誤操作防止の効果としては弱い。
本発明の課題は、車両乗員の周辺に設けられた操作部において、誤操作を確実に防止しつつ、ユーザーが操作の意思を持った場合にはその操作入力を速やかに実行できる車両用操作入力装置を提供することにある。
課題を解決するための手段および発明の効果
上記課題を解決するために、本発明の車両用操作入力装置は、
車両乗員が操作する操作部を有した車両用操作入力装置であって、
操作部を操作する操作者の視線を検出する視線検出手段と、
検出された視線が、操作部への操作入力禁止状態を解除するための予め定められた操作入力解除視線状態となったか否かを特定する操作入力禁止解除視線特定手段と、
操作部に設定される操作入力モードとして当該操作部への操作入力を禁止する操作入力禁止モードを設定する一方で、操作入力解除視線状態が特定された場合には、当該操作部への操作入力を許可する操作入力許可モードに切り替える操作入力モード設定手段と、
を備えるとともに、操作入力解除視線状態は、視線検出手段により検出された視線が、少なくとも予め定められた操作入力解除視線領域に向けられた状態であって、かつ当該操作入力解除視線領域に進入する際に、当該視線の移動速度が所定速度レベル以下に減じられた状態であることを特徴とする。
上記本発明の構成によれば、操作がロック(禁止)された操作部のロック解除操作を、視線、つまりユーザーの目の動きにより行うことができる。また、視線を所定の状態にするという形でユーザーが操作意思を示さない限り操作ロックは解除されないので、従来のように、操作部付近に手があるだけで操作ロックが解除されてしまうような機構とは異なり、操作部への誤操作を確実に防ぐことができる。また、視線の動きは、手操作ほどの負担を感じることなくできるので、ロック解除操作の煩わしさを大幅に低減できる。
なお、視線検出手段は、操作者の顔画像を撮影する顔画像撮影手段を備え、当該顔画像に基づいて、操作者の視線を検出するものとすることができる。運転者の顔画像の撮影は、近年、脇見運転の検出や、覚醒状態の検出等の様々な技術において実施されており、これらに兼用した形で撮影手段を設ければ、トータルでのコスト面を考えた場合に利益がある。
操作入力解除視線状態は、視線検出手段により検出された視線が、少なくとも予め定められた操作入力解除視線領域に向けられた状態とすることができる。ロック操作が解除される視線(視認先)を予め決めておくことで、ユーザーはその位置に眼をやるだけで簡単に操作ロックを解除できる。こうした操作入力解除視線領域は、運転者前方のフロントガラス、サイドミラー、表示装置の画面等、運転時に視認する領域とは異なる位置に設けられることで、誤ったロック解除がよりされにくくなる。
また、操作入力解除視線状態は、視線検出手段により検出された視線が、操作入力解除視線領域を予め定められた視認時間の間継続して向けられていた状態として定めることができる。これにより、所定の操作入力解除視線領域を確実に注視した場合にのみ操作ロックが解除されるから、誤ったロック解除がよりされにくくなる。例えば、視線が操作入力解除視線領域上を通過しただけの場合はロック解除がされなくなる。また、ロック解除駆動数も減じられるので、操作ロック機構の省電力化にも貢献する。なお、上記視認時間の上限は、1.5秒以下に定めることができ、下限は、運転状況や車両周辺状況に応じて適宜、安全に運転できるような時間を設定することができる。
なお、操作入力解除視線領域は、運転者前方のフロントガラス、サイドミラー、表示装置の画面等、運転時に視認する領域とは異なる位置に設けられているような場合、操作入力解除視線状態は、視線検出手段により検出された視線が、操作入力解除視線領域に進入する際に、当該視線の移動速度が所定速度レベル以下に減じられた状態として定めることもできる。この場合、視線移動中に、操作入力解除視線領域上でその速度が減じられただけでロック解除を行うことができるから、よりロック解除がしやすくなる。
上記した操作入力解除視線領域は、例えば、操作入力モードの設定対象として定められた操作部の配置領域として定めることができる。操作部への操作が、一般的にはユーザーがその操作位置を視認してから行われることを考えれば、その視認時に操作ロックが解除されるようになるから、従来のようなロック解除用のワンアクションが不要となり、ロック解除操作の煩雑さが少なく操作性に優れる。
また、操作入力モードの設定対象として定められる操作部は複数設けることができる。この場合、それら操作部において複数の操作部からなる操作部群が予め定め、該操作部群に対応付けられた形で操作入力解除視線領域を個別に定めることができる。そして、操作入力禁止解除視線特定手段が、操作入力解除視線状態を特定するとともに、当該操作入力解除視線状態において視線が向けられた操作部群を操作許可対象操作部群として特定し、操作入力モード設定手段が、操作入力解除視線状態が特定された場合には、特定された操作許可対象操作部群に含まれる操作部に設定される操作入力モードを一括して操作入力許可モードに切り替えて設定する一方で、残余の操作部の操作入力モードについては、操作入力禁止モードを保持するように構成できる。これにより、車室内に多数設けられた操作部を、操作部群としてまとめて、それら操作部群毎に、操作入力モードを設定可能となる。1つ1つのスイッチやボタンに応じて個別に操作入力モードを定めるよりも処理負担を減じることができる。
具体的に言えば、操作入力解除視線領域が対応付けられる操作部群は、複数設けられた操作部のうち、操作対象となる機器ないし機器機能が同一となる複数の操作部からなる操作部群として定めることができる。機器ないし機器機能が関連する操作部は、連続して操作される可能性もあり、これらの操作入力モードを一括して切り替え可能とすることで、処理負担を大きく減じることができる。また、操作入力解除視線領域が対応付けられる操作部群は、複数設けられた操作部のうち予め定められた配置領域内に存在する複数の操作部からなる操作部群として定めることができる。互いに近接した位置にある操作部は、一方を操作したついでに他方の操作を行う可能性もあるので、これらの操作入力モードを一括して切り替え可能とすることで、処理負担を大きく減じることができる。
また、本発明において、操作入力モード設定手段により操作入力許可モードが設定された後、予め定められた操作入力許可時間が経過するに伴い設定された操作入力許可モードを操作入力禁止モードに切り替える操作入力禁止モード復帰手段を設けることができる。この構成によれば、一度操作入力許可モードとされた操作入力モードを確実に操作入力禁止モードに戻すことができる。
ところで、本発明において、誤操作防止の対象となる操作部は、接触操作により操作入力がなされるタッチ操作面を有した接触操作部とすることができる。接触するだけで入力がなされる接触操作部では意図無く接触してしまうような誤操作が生じ易いので、誤操作を防止可能な本発明に好適である。
また、誤操作防止の対象となる操作部は、車両乗員が背もたれにもたれた形で車両の座席に着座した状態にて操作可能な位置に固定配置された乗員近傍操作部とすることができる。乗員が触れやすい位置にある操作部であるほど誤操作を防止可能な本発明に好適である。
また、誤操作防止の対象となる操作部は、別途設けられた主操作部よりも予め定められた座席に近い位置に固定配置され、当該主操作部への操作入力を遠隔的に行うことが可能な遠隔操作部とすることができる。主操作部よりも操作されやすいより近い位置に設けられた遠隔操作部も、誤操作を防止可能な本発明に好適である。
また、上記構成の場合、少なくとも車両の運転席に着座した車両乗員から画面視認可能となるよう当該車両乗員よりも車両前方側に配置された表示装置を備え、上記主操作部が、当該表示装置に設けられた表示面接触型の操作部であり、上記遠隔操作部が、運転席の座部と助手席の座部との間に設けられてなる車両用操作入力装置に適用することができる。
さらに、この車両用操作入力装置は、遠隔操作部を操作する操作者の手画像を撮影する手画像撮影手段と、撮影された手画像から表示画面上における対応する指示位置を特定して、特定された指示位置に位置指示画像を合成あるいは重畳して表示する手画像表示手段と、を備える形で構成できる。これにより、遠隔操作部の操作性が増す。
なお、誤操作防止の対象となる操作部は、車載電子機器の操作部とすることができ、例えば、エアコン操作部、オーディオ操作部、ナビゲーション操作部、パワーウィンドウ操作部、及びシート位置調整操作部のうち、1以上のものとすることができる。
以下、本発明の操作入力装置の一実施形態を、図面を参照して説明する。
図1は、本発明の操作入力装置を用いた車両用ナビゲーション装置の構成を示すブロック図である。本実施形態においては、操作入力装置1として、表示画面上にタッチ操作用のスイッチ画像(操作アイコン)等の操作入力用画像を表示可能な表示装置15と、それら表示画面へのタッチ操作を遠隔的に行うための操作パネル12とが別位置に設けられてなるプロンプター方式操作入力装置を採用している。なお、本実施形態のタッチ式操作入力装置の操作対象は、ナビゲーション機能のみに限られず、制御回路18が車内LAN50を介して接続するECU101,201,301,401等の制御部が制御する他の車載電子機器や機器機能(ここでは、エアコン100、パワーウィンドウシステム200、オーディオ装置300、シート調整装置400等)も含むことができる。
ナビゲーション装置10は、車両の現在位置を検出するためにGPS(Global Positioning System)等を備えて構成される位置検出器11と、運転者等の操作者からの各種指示を入力するための操作情報入力部12と、地図データや各種の情報を記録した外部記録媒体から地図データ等を入力する地図データ入力器14と、地図表示画面やTV(Television)画面等の各種表示を行うための表示装置15と、車両情報等の各種のデータを記憶するためのハードディスク記憶装置17と、車両情報の授受を行うための車両I/F(Interface)部19と、これらと接続する制御回路18とを備えている。また、制御回路18は、操作者の顔画像を撮影する撮影手段であるカメラ20とも接続している。
操作情報入力部12は、図8に示すように、予め定められた波長帯の光を照射する光源12cと、該光源12cからの照射光が裏面12a2側から表面12a1側に向けて透過するよう配置された透光性を有する操作パネル12aと、該操作パネル12aを撮影範囲に含む形で該操作パネル12aの裏面12a2側から撮影するカメラ(接近対象物撮影手段)12bと、を備えている。
なお、本実施形態の操作情報入力部12は、図7に示すように、車両のセンターコンソール部Cのような、車両のフロントガラスFG下縁よりも下側で、かつ隣接する左右両座席から操作可能な位置に設置されている。さらに言えば、表示装置15よりも下側で、かつ隣接する左右両座席の両座部の間の前側で、左右両座席に座して背もたれにもたれた状態でも操作可能となる位置に配置されている。なお、本実施形態における隣接する左右両座席とは、図7の運転席2D及び助手席2Pのことである。
操作パネル12aは、少なくとも光源12cから照射される光に対して透光性を有したパネルからなる。本実施形態においては縦方向透明電極と横方向透明電極とを備えた周知の抵抗膜方式のタッチパネルとして構成されており、その出力が制御回路18に入力される。本実施形態においては、この操作パネル12aが、操作ロックの対象とされる操作ロック対象操作部として予め定められている。
図1に戻り、表示装置15は、図7に示すように、運転席2D及び助手席2Pに着座した双方の車両乗員から画面視認可能となるようそれら車両乗員よりも車両前方側に配置されたカラー表示装置である。図7に示すようなセンターコンソールC内に配置されるものに限られず、例えばフロントガラスFG下縁よりも上方に設置されるものであってもよい。具体的には、車両のフロントガラスFGに、上述の画像・データを表示するヘッドアップディスプレイ(HUD)や、ステアリングホイール6の奥に位置するメーター表示装置等を例示できる。
制御回路18は、図示しない周知のCPU,ROM,RAM,I/O(Input/Output)およびこれらの構成を接続するバスライン等からなる周知のマイクロコンピュータを中心に構成されており、ROM等の記憶部に記憶されたプログラムに基づいて、周知のナビゲーション機能に係る各種制御を実施する。また、LAN I/F19及び車載LAN50を介して、例えば他のECU101,201,301,401等、外部からのデータ取り込みを行うことができる。
ところで、制御回路18には、カメラ20が接続されている。カメラ20は、所定の座席に座した乗員の顔を撮影するものであり、顔画像撮影手段として機能するものである。本実施形態においては、図5に示すように、操作部12aを操作する操作者Aの目位置よりも下方で、操作部12aよりも上方となる位置に固定配置されている。さらに、その固定位置は、車両左右方向において当該操作者Aよりも操作部12a側(ここでは操作者Aが運転者であるから左側)で、かつ車両前後方向において当該操作者Aの車両前方側とされている。これにより、操作者Aが下方に位置する操作部12aを視認した際の視線をより検出しやすいようになっている。なお、ここでは表示装置15に隣接する形で取り付けられている。また、カメラ20は、撮影範囲に座席に座した乗員の顔全体が含まれるように配置方向が定められている。なお、車室内に目に光を照射する光源(例えば赤外線光源:撮影対象者に対して不可視であり、自然光のノイズから逃れることができる)を設け、その反射光をカメラ20でとらえて撮影する(眼球表面における反射光を撮影する)ようにすることで、光量の少ない夜間等においても撮影が可能となる。
カメラ20により撮影された撮影画像170は、画像解析部18bに入力されて、視線(視線ベクトル)Vの検出がなされる。ここでは、周知の角膜反射法を利用して視線検出がなされるものとするが、他の方法であってもよい。具体的には、図6に示すように、画像解析部18bにて、まずは、顔画像170Fの抽出がなされ、顔画像170Fに含まれる基準部位画像(例えば目170A、鼻170B、耳170C、口170D等)の配置位置関係から、車両内に定められた三次元空間座標系(X方向:車両前後方向、Y方向:車両左右方向、Z方向:車両上下方向。以下、車室内座標系という)における顔の正面方向、つまり顔の向きを特定する。続いて、顔画像170Fから目画像170Eを抽出して、さらに、その目画像170Aから目の角膜表面における点光源の反射像170R(点光源反射像中心170R1)および瞳孔170E(瞳孔中心170E1)を特定し、それらと上記の顔の向きとに基づいて、車室内座標系における瞳孔位置(瞳孔中心位置)及び視線ベクトルVを算出する。
さらに、制御回路18では、車室内座標系における所定の操作部の配置領域が座標情報として予め記憶されており、瞳孔位置から視線方向に向かう視線上に、操作ロック対象操作部をなす操作部12aが存在するか否かを判定する。本実施形態においては、当該視線上に、操作ロック対象操作部をなす操作部12aが存在する場合に、当該操作部12aに設定された操作入力禁止モード(操作ロック)が一時的に解除され、操作入力が可能な状態(操作入力許可モード)に切り替えられる。
上記構成を有する本実施形態の車両用操作入力装置1は、制御回路18において、操作ロック対象操作部をなす操作部12aを操作する操作者の視線を検出するとともに、検出された視線が、操作部への操作入力禁止状態を解除するための予め定められた操作入力解除視線状態となったか否かを特定する。当該操作部12aに設定される操作入力モードは、通常は当該操作部12aへの操作入力を禁止する操作入力禁止モードが設定されているが、操作入力解除視線状態が特定された場合には、当該操作部12aへの操作入力を許可する操作入力許可モードに設定が切り替えられる。この構成により、操作がロック(禁止)された操作部12aのロック解除操作が、視線、つまりユーザーの目の動きにより行われるから、従来のロック解除操作の煩わしさを大幅に低減できる。また、操作部12aへの誤操作を確実に防ぐことも可能となる。従来のように、操作部付近に手があるだけで操作ロックが解除されてしまうような機構においては、例えば図7において、操作者の手Hがもともとステアリング6にあったとして、これを缶ホルダ30に向けて移動した場合に、操作部12aを通過しただけでそのロックが解除される恐れがあった。缶ホルダ30からステアリング6に手Hを戻す場合も同様である。本構成によれば、このような誤ったロック解除がなされることはない。
なお、本実施形態において、操作入力解除視線状態は、視線検出手段により検出された視線が、少なくとも予め定められた操作入力解除視線領域に向けられた状態とする。具体的には、視線検出手段により検出された視線が、操作入力解除視線領域を予め定められた視認時間t0(1.5秒以下に定められる)の間継続して向けられていた状態として定める。そして、本実施形態における操作入力解除視線領域は、操作入力モードの設定対象として定められた操作部の配置領域として定める。
また、本実施形態において、カメラ20は、表示装置15の両サイドにそれぞれ設けられ、それぞれが運転者ないし助手席搭乗者を撮影対象としている。ここではカメラ21(20)が運転者を、カメラ22(20)が助手席搭乗者を撮影している。そして、上記のような操作入力モードの設定対象の対象となる操作部は、少なくとも所定の座席の搭乗者が操作可能な位置に固定配置された操作部とすることができ、さらにいえば、車両乗員が着座した状態で操作可能な位置に固定配置された乗員近傍操作部とすることができる。本実施形態においては、運転者及び助手席の双方から操作可能に固定配置された遠隔操作部をなす操作パネル12aが操作入力モードの設定対象として定めている。
なお、本実施形態において、操作入力モードの設定対象である操作パネル12aは、表示装置15に別途設けられた操作パネル15aを主操作部としており、当該主操作部12aへの操作入力を遠隔的に行うことが可能な遠隔操作部である。さらにいえば、操作入力モードの設定対象である操作パネル12aは、操作対象として、空調装置100、パワーウィンドウシステム200、オーディオ装置300、シート調整機能を備えるシート調整システム400等といった他の車載電子機器の操作入力も可能であるから、これらの操作部140、240、340、440を主操作部とし、当該主操作部140、240、340、440への操作入力を遠隔的に行うことが可能な遠隔操作部であるともいえる。これらの主操作部15a、140、240、340、440は、遠隔操作部をなす操作パネル15aよりも操作者(ここでは運転者)から遠い位置に固定的に配置されており、操作入力モードの設定対象である遠隔操作部12aよりも操作がしにくい位置にある。
ここで、制御回路18により実行される、遠隔操作部をなす操作パネル12aへの操作入力制限処理について、図2を用いて説明する。当該処理は、制御回路18の所定記憶部に記憶されたプログラムをCPUが実行する形でなされる。なお、当該操作入力制限処理の開始に際して、操作入力モードの設定対象である操作パネル12aには、操作入力モードとして操作入力禁止モードが設定される。
S1では、制御回路18が、カメラ20により撮影された撮影画像に基づいて、所定の車室内座標系における瞳孔位置及び視線ベクトルを算出する。
S2では、制御回路18が、S1で検出された視線状態が予め定められた操作入力解除視線状態であるか否かを判定する。本実施形態における操作入力解除視線状態は、検出された視線が、操作入力解除視線領域である操作パネル12aを、所定視認時間t0(ここでは1秒)の間継続して向けられていた状態として定められている。当該操作入力解除視線状態が検出された場合にはS3に進み、検出されなければS5に進む。
S3では、操作入力モードの設定対象である操作パネル12aに設定されている操作入力禁止モードを解除して、操作入力許可モードを設定する。当該操作入力許可モードは、予め定められた操作入力許可時間t1(ここでは1分)の間だけ設定され、S4にて当該時間t1の経過に伴いS5に進んで操作入力禁止モードに復帰する。なお、操作入力モードは、制御回路18の所定の記憶領域(操作入力モード記憶部)に現在の状態が記憶される。S3の実行後には、当該記憶領域に操作入力許可モードが記憶され、S5の実行後には、当該記憶領域に操作入力禁止モードが記憶される。
S5の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施され、制御回路18は、そのときどきに検出される操作入力解除視線状態に応じて、上記操作入力モードを切り替える。
なお、制御回路18は、この操作入力制限処理を実行することにより、視線検出手段、操作入力禁止解除視線特定手段、操作入力モード設定手段として機能する。
次に、操作入力モードの設定対象である操作パネル12aへの操作入力処理について、図3を用いて説明する。
S11では、制御回路18が、操作パネル12aへの操作の有無を判定する。操作パネル12aはタッチパネルとして構成されているので、タッチ操作があると、その操作信号が制御回路18に入力されるので、その入力の有無に基づいて判定する。操作パネル12aへのタッチ操作があった場合はS12に進み、タッチ操作が無かった場合は本処理を終了する。
S12では、制御回路18が、現在の操作入力モードが操作入力許可モードであるか否かを判定する。現在の操作入力モードは、制御回路18の所定記憶領域(操作入力モード記憶部)に記憶されているので、これを読み出すことにより判定処理を行う。操作入力許可モードであればS13に進む。
S13では、制御回路18が、タッチ操作面12a1上へのタッチ操作位置を特定する。操作パネル12aはタッチパネルとして構成されており、タッチ操作に伴い制御回路18に入力される操作信号には、タッチ操作位置情報として、操作面12a1に定められた操作座標系上の座標情報が反映されている。制御回路18は、この操作信号に基づいて、タッチ操作がなされた座標位置を特定する。
S14では、操作パネル12aへのタッチ操作位置に対応する制御を実施する。操作パネル12aのタッチ操作面12a1上の各位置は、表示画面15の表示画面上の位置と対応しているので、S103にて特定されたタッチ操作面12a1上の位置に対応する、表示画面15の表示画面上の位置を特定し、特定された画面位置に対応する制御内容を実施する。具体的には、制御回路18が、当該制御内容を実施するための制御信号を出力する形でなされる。例えばS13にて特定されたタッチ操作面12a1上の位置が、表示画面15の表示画面に表示されたスイッチ画像160Iに位置に対応していれば、制御回路18は、当該スイッチ画像に割り当てられた制御内容を実行するための制御信号を出力する。
なお、S12にて、操作入力禁止モードであると判定されれば、S13及びS14のような、操作に対応する制御内容が実行されることなく、本処理を終了する。つまり、行われた操作は誤操作として解され、その操作入力が無効化される。
S14の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施される。
なお、制御回路18は、この操作入力処理を実行することにより、操作入力モードの設定対象である操作部への操作が検出された際に、操作入力モードとして操作入力許可モードが設定されている場合には当該操作に対応する制御内容を実行し、操作禁止モードが設定されている場合には当該操作を無効化して、当該操作に対応する制御内容を実行しない操作入力受付手段として機能する。
次に、表示装置15の表示される位置指示画像の表示処理について、図4を用いて説明する。当該処理は、制御回路18の所定記憶部に記憶されたプログラムをCPUが実行する形でなされる。
S21では、制御回路18が、カメラ12bによって撮影された撮影画像に基づいて、操作者の手の画像を取得したか否かを判定する。カメラ12bは、操作パネル12aの裏面12a2側から該操作パネル12aを介してタッチ操作面(表面)12a1側に接近する接近対象物(例えば運転者等の操作者の手)Hを常時撮影しており、その撮影画像は常に制御回路18の画像処理部18aに入力されている。タッチ操作面12a1と対面する位置に接近対象物Hが進入してくると、当然その接近対象物Hを含む撮影画像150が画像処理部18aに入力される。入力された撮影画像は、画像処理部18aにて公知の画像解析手法によって解析され、色の相違等に基づいて接近対象物画像150Hが抽出される。そして、抽出された接近対象物画像150Hの形状から、当該画像150Hが人の手の画像であるか否かを判定する。判定結果は制御回路18に出力され、手の画像が認識されたと判定された場合にはS22に進み、判定されなければ本処理を終了する。
S22では、制御回路18が、タッチ操作面12a1上における指示位置を特定する。具体的にいえば、S21にて、手の画像を抽出した画像処理部18aが、その手画像の全体形状から、所定長さ以上の軸線を有する略直線的な棒状の画像パターンを識別して指を特定し、さらに特定された指から指先位置を特定する。本実施形態においては、カメラ12bによって撮影された撮影画像上に、タッチ操作面12a1が位置する操作パネル画像領域を特定するとともに、当該操作パネル画像領域上にタッチ操作面12aの操作座標系を設定し、その上で、上記の指先位置を、設定された該操作座標系上で特定する。なお、本実施形態においては、図9及び図10の(b)に示す撮影画像(2値化画像)150が、タッチ操作面12a1の全体を撮影した操作パネル画像領域となっている。
さらにS23では、図9及び図10の(c)に示すように、表示装置15の表示画面の、上記操作パネル画像領域上にて特定された指先位置に、位置指示画像160Hを表示する(位置指示画像表示手段)。本実施形態においては、S15にて、操作座標系上で特定された指先位置に対応する、表示装置15の表示画面上の位置を特定する。表示画面上には、上記操作座標系との対応関係を有した表示座標系が定められているので、操作座標系上における指先座標位置に対応する表示座標系の位置座標を特定し、当該位置座標を位置指示するように表示画面に位置指示画像160Hを表示する。本実施形態の位置指示画像は、手画像150Hの輪郭(外形形状)が明確に表示され、かつ輪郭内部が半透過状態とされた加工画像160Hであり、表示装置15の画面上に特定された座標位置に、メイン画像160Bに重畳する形で表示される。
S23の終了により本処理は終了となる。なお、本処理は終了後も所定周期で繰り返し実施され、操作パネル12aに対向する手・指が移動すると、これに合わせて、表示装置15の表示画面に表示される位置指示画像(加工画像)160Hの表示位置も移動する。
なお、制御回路18は、この位置指示画像の表示処理を実行することにより、位置指示画像表示手段として機能する。
以下、本実施形態における操作情報入力部12及び表示装置15について詳説する。
本実施形態の操作パネル12aは、図8に示すように、中空の筐体12fの前端開口に嵌め込まれており、表面12a1がタッチ操作面(遠隔タッチ操作面)とされている。前端開口を形成する筐体前端部121eの外縁からは、後方に向けて筒状の壁部122eが設けられており、その後端部が回路基板12fに固定されている。この筐体12fは、車室内の所定位置の固定配置されており、内部には、カメラ12b及び光源12cが配置されている。
光源12cは、図8に示すように、操作パネル12aを裏面12a2から表面12a1に透過させる形で光を照射する。光源12cからの光(照射光)は、タッチ操作面12a1を被うように位置する接近対象物(例えば手等)が存在しない限り、該タッチ操作面12a1から外に通過していくが、該タッチ操作面12a1に対向する形で接近した接近対象物Hが存在する場合には、当該接近対象物Hに反射して、その光(反射光)の一部は裏面12a2側に戻り、カメラ12bに捉えられる。
カメラ12bは、光源12cから照射された光が接近対象物Hにて反射した反射光を捉える形で、当該接近対象物Hを操作パネル12aの裏面12a2側から撮影するものであり、予め定められた撮影範囲を撮影するよう車体側に固定されている。具体的にいえば、カメラ12bは、反射部材12rの反射面を撮影しており、当該反射面に映し出される画像(反射画像)に上記撮影範囲が含まれるように各々が配置されている。反射部材12rが無い場合は、当該撮影範囲をカメラ12bにより直接撮影する形となるから、撮影後の画像に左右反転処理を施す必要がある。
なお、本実施形態の光源12cは赤外光光源である。具体的にいえば、操作パネル12aの裏面側後方に位置するLEDである。一方で、本実施形態のカメラ12bは、暗所での撮影にも適した赤外線カメラ(可視光をシャットアウトする図示しない赤外線フィルタを備え、これを介して撮影を行う)であり、赤外光光源12cから照射された光(赤外線)が接近対象物Hにて反射した反射光をカメラ12bが捉える形で撮影がなされる。ここでのカメラ12bは、車体側に固定された基板上に固定配置されており、撮影範囲として、タッチ操作面12a1が含まれる範囲が設定されている。また、本実施形態の操作パネル12aは、光源12cの光に対してのみ透光性を有した材料にて構成されている。このため、本実施形態においては、カメラ12b内の赤外線フィルタを不要とすることができ、かつ、筐体12fの内部が外部から視認できないようになっている。
本実施形態におけるカメラ12bは、操作パネル12aに対向する形で接近する接近対象物を撮影する接近対象物撮影手段として機能するものであり、接近対象物に手が含まれることを考慮すれば、その手の画像を撮影する手画像撮影手段として機能しているともいえる。
図9及び図10は、操作パネル12aに対向する手Hの撮影を説明する図である。各図の(a)は、操作パネル12aと、その表面12a1に対向する手の状態(指の状態)を示しており、各図の(b)は、(a)の状態の手(指)をカメラ12bにて撮影した映像150であり、操作パネル12a全体を撮影領域として撮影された画像である。ただし、本実施形態における(b)の映像150は、撮影後にその映像を2値化したものである。(b)において、符号150Hは接近対象物Hが映った領域、符号150Bは何も映らなかった領域である。符号150Bの領域は本来、操作パネル12aが映る領域であるが、該操作パネル12aが光源12cの光に対し透光性を有するので映らない。また、それであっても、その操作パネル12a越しに背景(本実施形態でいえば車両の天井面等)が映っていてもおかしくないが、赤外反射光を十分に捉えることができずに映像として映らなかったか、多少の赤外反射光が捉えられたものの2値化処理により背景と同一化されたかのいずれかである。ちなみに、各図の(c)は、(b)の映像150が撮影されているときの、表示装置15における画面表示の一例である。
一方、本実施形態の表示装置15は、車両が備える機器の操作などを行うための表示面を有するものであって、本実施形態での当該表示面は、接触操作を行うための接触操作型の操作部として機能するものである。具体的には、接触操作型の操作部として機能するように、表示画面上にタッチパネル15aを備えて構成されている。既に述べた操作情報入力部12のタッチパネル12aは、当該タッチパネル15aの操作を、それよりも運転者や助手席搭乗者に近い位置から遠隔的に操作できるよう設けられた遠隔操作部である。当該タッチ操作面(以下、遠隔操作面ともいう)12a1になされたタッチ操作に基づいて、そのタッチ操作位置に対応した、表示装置15の画面位置(タッチパネル15aのタッチ操作面位置)への入力が受け付けられる。具体的にいえば、表示装置15の表示画面上に定められる二次元座標系(タッチパネル15aのタッチ操作面上に定められる二次元座標系)と、該操作パネル12aのタッチ操作面12a1上に定められる二次元座標系との間には一義的な対応関係が予め定められており、一方の面内位置に対応する他方の面内位置が一義的に特定可能とされており、タッチ操作面12a1にタッチ操作があった場合には、その対応関係に基づいて、当該タッチ操作がなされた位置座標に対応する、表示装置15の表示画面上の位置座標への操作入力が受け付けられる。
つまり、遠隔操作面をなすタッチ操作面12a1にタッチ操作があった場合には、制御回路18が、そのタッチ操作がなされたタッチ操作面12a1上の位置座標を特定し、さらに、特定したタッチ操作面12a1上の位置座標に対応する、表示装置15の表示画面上の位置座標を特定して、その上で、特定された当該位置座標に対応する制御内容を実行する制御信号を出力する。例えば、表示装置15の表示画面にスイッチ画像(操作アイコン等)160Iが表示された場合には、タッチ操作面12a1上において、当該スイッチ画像160Iに対応する位置にタッチ操作をすれば、制御回路18が、当該スイッチ画像160Iへのタッチ操作があったとして入力が受け付け(入力受付手段)、これに伴い当該スイッチ画像160Iに対応する制御内容を実行する。表示装置15の表示画面にて表示送り可能な地図画面(地図操作用画像)が表示された場合には、タッチ操作面12a1上において、該地図上の位置にタッチ操作をすれば、制御回路18では、当該タッチ操作位置への入力が受け付けられ、これに伴い該タッチ操作位置を新たな画面中心として地図を表示する表示送り制御が実行される。
なお、制御回路18のROM等の記憶部には、スイッチ画像160Iを表示するためのスイッチ画像データが記憶されており、スイッチ画像160Iの重ね表示ないし合成表示に用いられている。一方で、制御回路18のROM等の記憶部には、各スイッチ画像160Iに対応付けた形で、各々への操作入力(対応するタッチ操作面12a1上の領域へのタッチ入力)により実施される制御内容も記憶されている。制御回路18により、表示画面に表示されたメイン画像160B上にスイッチ画像160Iが重なった画像160が表示されると、タッチパネル12a,15aの双方のタッチ操作面には、スイッチ画像160Iの表示位置に対応する領域に操作入力受付範囲(操作入力位置)が設定される(操作入力位置設定手段)。また、表示画面に、メイン画像160Bとして表示送り可能な地図画面(地図操作用画像)が表示されると、表示されている地図領域全体に操作入力受付範囲(操作入力位置)が設定される(操作入力位置設定手段)。
以下、本実施形態における位置指示画像160Hの表示について詳説する。
本実施形態の制御回路18は、ROM等の記憶部に記憶されたプログラムに基づいて、スイッチ画像(操作アイコン)160I、操作情報入力部12から取得した接近対象物画像150Hに基づく加工画像160H等をサブ画像とし、これらをメイン画像160B(地図操作用画像等)に合成して表示する、あるいは重ね表示するための画像処理部18aを有している。本実施形態においては、接近対象物画像150Hが手の画像である場合、撮影された手の画像150Hに基づいて、当該手画像Hに基づいて生成された加工画像160を位置指示画像として、その手(指先)により位置指示された表示画面上の位置に重ね表示する。
なお、接近対象物画像150Hに基づく加工画像160Hとは、本実施形態においては、当該接近対象物画像150Hの外形形状が反映されるよう加工・生成された接近対象物外形反映画像160Hである。そして、この画像160Hがメイン画像160Bに重畳表示される。重畳表示ではなく、画像160Hをメイン画像160Bに合成して表示してもよい。これにより、運転者等の操作者が、例えば手の指等を、操作パネル12aのタッチ操作面12a1に対面させる形で移動させると、これに併せて、表示装置15の表示画面上には手形状(指形状)を反映した加工画像160Hが移動して表示され、あたかも表示装置15の表示画面に操作パネル12aが存在しているかのような感覚で操作を行うことができる。
また、位置指示画像160Hは、必ずしも撮影された手形状・指形状の輪郭を反映していなくともよく、少なくとも撮影された手の指が指し示す位置を指示する画像であればよく、例えばポインタ画像等のシンボル画像であってもよい。また、位置指示画像160Hとして、カメラ12bにより撮影された手の画像(ないし指の画像)150Hを加工せずにそのまま表示(重畳表示や合成表示)しても問題はないが、これと重なる位置に表示されるはずのメイン画像160Bの一部分が見えなくなること等を考慮すると、より操作がし易くなるような加工(例えば半透過合成)を施しておいた方がより望ましい。
なお、本実施形態においては、光源12cが配置されており、カメラ12bは、当該光源12cの反射光を捉える形で撮影を行っている。従って、撮影映像150に現れる色の階調には反射光強度が反映されており、高強度の反射光を捉えたところほど階調レベルが高く現れる。つまり、本実施形態のカメラ12bにより撮影される撮影映像150は多階調の撮影画像(本実施形態ではモノクロの撮影画像)であるから、画像処理部18aでは、これを予め定められた階調閾値を用いて各画素の階調レベルを2値化して、図9及び図10の(b)のようにし、当該階調閾値を上回る領域を接近対象物画像150Hとして抽出する。また、画像処理部18aでは、抽出された接近対象物画像150Hから人の手・指の画像を特定するために、当該接近対象物画像150Hの形状と、制御回路18の記憶部に記憶された手形状パターンと比較して、それらパターンに合致する接近対象物画像150Hを手の画像として認識する。
最後に、本実施形態における車載電子機器100〜400について簡単に説明しておく。
エアコン(空調装置)100は、エアコンECU101に、図示しないセンサ部、駆動部130、操作部140が接続して構成されている。センサ部は、内気温センサ、外気温センサ、エバポレータ後センサ、及び日射センサ等の周知の空調制御用センサからなる。駆動部130は、エアミックスダンパーや内外気切替ダンパー、吹出口切替用ダンパー等の各種ダンパーの開閉状態を切り替えるモータ及びその駆動回路等を含んで構成された駆動機構である。操作部140は、空調装置100の主操作部であり、センターコンソール部Cの正面中央の操作パネルに設けられ、運転席2Dと助手席2Pに着座するユーザーにより操作可能となっている。具体的には、AUTOスイッチ,OFFスイッチ,吹出口切替スイッチ(MODEスイッチ),内外気切替スイッチ,風量切替スイッチ,温度設定スイッチ,デフロスタスイッチ,A/Cスイッチ,独立/一括制御切替スイッチ(DUALスイッチ)等の周知の空調制御用操作部により構成されている。
パワーウィンドウシステム200は、パワーウィンドウECU201に、駆動部230、及び操作部240が接続して構成されている。駆動部230は、対応する座席の窓ガラスを開閉駆動するためのモータ及びその駆動回路である。操作部240は、座席2毎に設けられており、対応する座席の窓ガラスを開閉駆動するための開閉操作部である。具体的には、各座席2に着座するユーザーが背もたれ2bにもたれる形で着座した状態で操作可能となる位置に設けられており、ここでは、各座席2に対応するドアに設けられている。
オーディオ装置300は、オーディオECU301、駆動部330、及び操作部340を備えて構成されている。オーディオECU301は、CPU、ROM、RAM等を備える周知の構成を有するとともに、所定のメディア(記憶媒体)から音楽ソースデータを取得する音楽データ入力器と、音楽ソースデータを記憶する外部記憶装置である音楽データベースと接続している。操作部340は、本実施形態においては、車両のセンターコンソール部Cに設けられ、運転席2Dと助手席2Pに着座するユーザーにより操作可能となっており、ボリューム調整操作部、メディア選択操作部、選曲操作部等の周知のオーディオ用操作部として構成されている。オーディオECU301は、これらの操作部により出力対象曲が指定されると、指定された曲の音楽ソースデータを、メディアや音楽データベースから読み出して、駆動部330に出力する。その音楽ソースデータは、駆動部330において、まず、デジタル音楽波形データにデコードされ、アナログ変換された後、プリアンプ及びパワーアンプを経て、指定されたボリュームにてスピーカから出力される。
シート調整装置400は、シート調整ECU401に、駆動部430及び操作部440を接続して構成されている。駆動部430は、シート2を前後方向、シート2の前端の上下方向、シート2の後端の上下方向、背もたれの傾斜を電動駆動するためのモータ及び駆動回路である。操作部440は、ユーザー操作により上記したシートポジション調整を行うためのシート調整操作部であり、各座席2に着座するユーザーが背もたれ2bにもたれる形で操作可能な位置に設けられており、本実施形態においては、各座席2の側面に設けられている。
以上、本発明の一実施形態を説明したが、これはあくまでも例示にすぎず、本発明はこれに限定されるものではなく、特許請求の範囲の趣旨を逸脱しない限りにおいて、当業者の知識に基づく種々の変更が可能である。以下、上記実施形態とは異なる実施形態について説明する。なお、共通する構成については、同符号を用いることで説明を略する。
上記実施形態においては、操作入力解除視線状態として、操作入力解除視線領域を所定時間t0の間継続して視線を向けた状態と定めているが、他の状態であってもよい。例えば、視線を所定のパターンで動かし、当該移動パターンが検出された場合に、操作入力禁止モードの解除(ロック解除)がなされるようにすることができる。
また、操作入力解除視線状態として、視線が操作入力解除視線領域に進入する際に、当該視線の移動速度が所定速度レベル以下に減じられた状態として定めることもできる。これにより、操作入力禁止モードの解除(ロック解除)がより容易に行える。操作入力解除視線状態において視認が必須となる領域(操作入力解除視線領域)が、例えば、運転者前方のフロントガラス、バックミラー、サイドミラー、表示装置の画面等の、運転時において視認頻度の高い領域とは異なる領域で、特に通常視線が通過しないような領域に設けられているような場合、視線がそうした領域に向けられる可能性は低く、操作入力禁止モードが誤って解除されにくいから、上記のように操作入力禁止モードの解除がより容易に行えるようにしてもよい。
上記実施形態においては、操作入力モードの設定対象として定められる操作部が操作パネル12aの1つだけであったが、複数設けることもできる。例えば、上記実施形態においては主操作部として定められていたエアコン操作部140やパワーウィンドウ操作部240、オーディオ操作部340、シート調整操作部440をなす各種プッシュスイッチやシーソースイッチ、ダイアルスイッチ等を、操作入力モードの設定対象として定めることができる。
また、それら多数の操作部の中から、複数の操作部からなる操作部群を予め定め、さらに、上記操作入力解除視線領域を、当該操作部群に対応付けた形で個別に定めて、当該操作部群毎に操作入力モードを設定するように構成することができる。操作入力解除視線領域が対応付けられる操作部群としては、操作対象となる機器ないし機器機能が同一である複数の操作部を操作部群として予め定めることができる。また、操作入力解除視線領域が対応付けられる操作部群として、複数設けられた操作部のうち予め定められた配置領域内に存在する複数の操作部を操作部群として定めることもできる。
これらの構成の場合、図2のS3の処理において、S1で特定された視線の先にある操作入力解除視線領域がどの操作部群に対応する領域であるかを特定し、特定した操作部群に含まれる操作部の操作入力モードのみを一括して操作入力許可モードに切り替えて設定し、残余の操作部の操作入力モードについては、操作入力禁止モードを保持するように処理内容を変更する。
ところで、上記した実施形態においては、操作入力モードの設定対象として定められる操作部が接触操作により操作入力がなされるタッチ操作面を有した接触操作部として定められているが、本発明においては必ずしもこれに限られるものではない。他のプッシュスイッチ、ダイアルスイッチ等であっても当然よい。ただし、タッチ操作面を有した接触操作部の方が操作が容易であり、誤操作がされやすいという観点からすると、当該接触操作部の方が得られる効果が大きい。
また、上記実施形態においては、主操作部に対する遠隔操作部を、操作入力モードの設定対象として定められる操作部としているが、本発明においては、主操作部を有さない通常の操作部を、操作入力モードの設定対象として定めてもよい。特に、御操作防止という観点からすれば、座席に座した乗員に近い位置に固定配置された操作部、中でも、車両の座席に着座した車両乗員が背もたれにもたれた状態にて操作可能な位置に固定配置された乗員近傍操作部が、操作入力モードの設定対象として定められるとよい。
また、上記実施形態においては、操作入力モードの設定対象として定められる操作部での操作状態が表示装置に画面表示される構成であるが、本発明においては、操作入力モードの設定対象として定められる操作部として、表示装置と無関係に設けられた操作部を定めてもよい。
また、上記実施形態において、操作入力モードの設定対象として定められる操作部は、抵抗膜式のタッチパネル12aとされているが、他の方式のタッチパネルを用いてもよい。
また、操作パネル12aとして、タッチ操作の位置検出を、カメラ等の撮影手段により撮影された撮影画像への画像処理により行うものを、タッチパネルに代わって採用してもよい。具体的にいえば、操作パネル12aを、表面12a1がタッチ操作面をなす透光性を有したパネルとし、この操作パネル12aにタッチ操作面12a1側から接近する接近対象物に予め定められた波長帯の光を、当該操作パネル12aを介して照射する光源12cを設ける。そして、手画像撮影手段をなすカメラ12bを、少なくともその光源12cから照射された光が接近対象物にて反射した反射光を捉える形で、当該接近対象物を操作パネル12a1の裏面12a2側から撮影する撮影手段とする。さらに、制御回路18を、このカメラ12bにより撮影された画像上において、反射光の強度が予め定められた閾強度を上回る光反射領域を特定する光反射領域特定手段として機能させるとともに、特定されたこの光反射領域に基づいて、当該光反射領域へのタッチ入力を受け付ける入力受付手段としても機能させるように構成する。
この構成によると、カメラ12bの撮影画像に予め定められた閾強度を上回る光反射領域が特定された場合に、その特定された領域にタッチ操作入力があったと判定して、入力が受け付けられる。つまり、カメラ12bの撮影画像は、上記した実施形態と同様に位置指示画像の表示に利用されるだけでなく、光反射領域の特定にも利用されるように構成されている。また、この場合、特定された前記光反射領域の面積が予め定められた閾面積を上回った場合に、当該光反射領域へのタッチ操作入力を受け付けるようにすることもできる。
また、上記全ての実施形態において、操作入力モードの設定対象として定められる操作部は、運転席及び助手席から操作可能な操作部とされているが、他の座席から操作可能な操作部に設定することもできるし、運転席及び助手席の一方からのみ操作可能な操作部であってもよい。
本発明のタッチ式操作入力装置の一例である車両用プロンプター方式操作入力装置を用いた車両用ナビゲーション装置の構成を示すブロック図。 操作入力制限処理の流れを示すフローチャート。 操作入力処理の流れを示すフローチャート。 位置指示画像の表示処理の流れを示すフローチャート。 操作者の撮影を説明する図。 視線検出方法の一例を説明する図。 車両用プロンプター方式操作入力装置が設けられた車室内斜視図。 操作情報入力部の構成の一例を示す断面図。 操作パネルに対向する手の撮影を説明する第一の図。 操作パネルに対向する手の撮影を説明する第二の図。
符号の説明
10 車両用ナビゲーション装置
12 操作情報入力部
12a 操作パネル(遠隔操作部)
12b カメラ(手画像撮影手段)
12c 光源
15 表示装置(表示手段)
15a タッチパネル(主操作部)
18 制御回路
18a 画像処理部
18b 画像解析部
20 カメラ(顔画像撮影手段)
50 車両内LAN
100 車載空調装置
200 パワーウィンドウシステム
300 オーディオ装置
400 シート調整装置
150 カメラ12bによる撮影画像
160B メイン画像
160I スイッチ画像(操作アイコン)
160H 接近対象物画像(手画像や指画像:位置指示画像)
H 接近対象物(手・指)
170 カメラ20による撮影画像
170F 顔画像
170A 目画像
170E 瞳孔画像

Claims (13)

  1. 車両乗員が操作する操作部を有した車両用操作入力装置であって、
    前記操作部を操作する操作者の視線を検出する視線検出手段と、
    検出された前記視線が、前記操作部への操作入力禁止状態を解除するための予め定められた操作入力解除視線状態となったか否かを特定する操作入力禁止解除視線特定手段と、
    前記操作部に設定される操作入力モードとして当該操作部への操作入力を禁止する操作入力禁止モードを設定する一方で、前記操作入力解除視線状態が特定された場合には、当該操作部への操作入力を許可する操作入力許可モードに切り替える操作入力モード設定手段と、
    を備えるとともに、前記操作入力解除視線状態は、前記視線検出手段により検出された視線が、少なくとも予め定められた操作入力解除視線領域に向けられた状態であって、かつ当該操作入力解除視線領域に進入する際に、当該視線の移動速度が所定速度レベル以下に減じられた状態であることを特徴とする車両用操作入力装置。
  2. 前記視線検出手段は、前記操作者の顔画像を撮影する顔画像撮影手段を備え、当該顔画像に基づいて、前記操作者の視線を検出するものである請求項1記載の車両用操作入力装置。
  3. 前記操作入力解除視線状態は、前記視線検出手段により検出された視線が、前記操作入力解除視線領域を予め定められた視認時間の間継続して向けられていた状態として定められている請求項1又は請求項2に記載の車両用操作入力装置。
  4. 前記操作入力解除視線領域は、前記操作入力モードの設定対象として定められた前記操作部の配置領域として定められている請求項1ないし請求項3のいずれか1項に記載の車両用操作入力装置。
  5. 前記操作入力モードの設定対象として定められる前記操作部が複数設けられ、それら操作部において複数の操作部からなる操作部群が予め定められるとともに、該操作部群に対応付けられた形で前記操作入力解除視線領域が個別に定められており、
    前記操作入力禁止解除視線特定手段は、前記操作入力解除視線状態を特定するとともに、当該操作入力解除視線状態において前記視線が向けられた前記操作部群を操作許可対象操作部群として特定し、
    前記操作入力モード設定手段は、前記操作入力解除視線状態が特定された場合には、特定された前記操作許可対象操作部群に含まれる操作部に設定される操作入力モードを一括して前記操作入力許可モードに切り替えて設定する一方で、残余の操作部の操作入力モードについては、前記操作入力禁止モードを保持するものとする請求項4に記載の車両用操作入力装置。
  6. 前記操作入力解除視線領域が対応付けられる前記操作部群は、複数設けられた前記操作部のうち、操作対象となる機器ないし機器機能が同一となる複数の操作部からなる操作部群として定められている請求項5に記載の車両用操作入力装置。
  7. 前記操作入力解除視線領域が対応付けられる前記操作部群は、複数設けられた前記操作部のうち予め定められた配置領域内に存在する複数の操作部からなる操作部群として定められている請求項5に記載の車両用操作入力装置。
  8. 前記操作入力モード設定手段により前記操作入力許可モードが設定された後、予め定められた操作入力許可時間が経過するに伴い設定された前記操作入力許可モードを前記操作入力禁止モードに切り替える操作入力禁止モード復帰手段を備える請求項1ないし請求項7のいずれか1項に記載の車両用操作入力装置。
  9. 前記操作部は、接触操作により操作入力がなされるタッチ操作面を有した接触操作部である請求項1ないし請求項8のいずれか1項に記載の車両用操作入力装置。
  10. 前記操作部は、車両乗員が背もたれにもたれた形で車両の座席に着座した状態にて操作可能な位置に固定配置された乗員近傍操作部である請求項1ないし請求項9のいずれか1項に記載の車両用操作入力装置。
  11. 前記操作部は、別途設けられた主操作部よりも所定の座席に近い位置に固定配置され、当該主操作部への操作入力を遠隔的に行うことが可能な遠隔操作部である請求項1ないし請求項10のいずれか1項に記載の車両用操作入力装置。
  12. 少なくとも車両の運転席に着座した車両乗員から画面視認可能となるよう当該車両乗員よりも車両前方側に配置された表示装置を備え、前記主操作部は、当該表示装置に設けられた表示面接触型の操作部であり、前記遠隔操作部は、前記車両の運転席の座部と助手席の座部との間に設けられている請求項11に記載の車両用操作入力装置。
  13. 前記遠隔操作部を操作する操作者の手画像を撮影する手画像撮影手段と、
    撮影された前記手画像から前記表示装置の表示画面上における対応する指示位置を特定して、特定された指示位置に位置指示画像を合成あるいは重畳して表示する手画像表示手段と、
    を備える請求項12に記載の車両用操作入力装置。
JP2008078586A 2008-03-12 2008-03-25 車両用操作入力装置 Expired - Fee Related JP4577387B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2008078586A JP4577387B2 (ja) 2008-03-25 2008-03-25 車両用操作入力装置
US12/401,881 US8106783B2 (en) 2008-03-12 2009-03-11 Input apparatus, remote controller and operating device for vehicle
US13/099,523 US20110206239A1 (en) 2008-03-12 2011-05-03 Input apparatus, remote controller and operating device for vehicle
US13/099,553 US20110205018A1 (en) 2008-03-12 2011-05-03 Input apparatus, remote controller and operating device for vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008078586A JP4577387B2 (ja) 2008-03-25 2008-03-25 車両用操作入力装置

Publications (2)

Publication Number Publication Date
JP2009227246A JP2009227246A (ja) 2009-10-08
JP4577387B2 true JP4577387B2 (ja) 2010-11-10

Family

ID=41243145

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008078586A Expired - Fee Related JP4577387B2 (ja) 2008-03-12 2008-03-25 車両用操作入力装置

Country Status (1)

Country Link
JP (1) JP4577387B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010215194A (ja) * 2009-03-19 2010-09-30 Hyundai Motor Co Ltd 車載機器の操作装置
JP5345660B2 (ja) 2011-09-08 2013-11-20 本田技研工業株式会社 車載機器特定装置
JP5945417B2 (ja) * 2012-01-06 2016-07-05 京セラ株式会社 電子機器
JP2013256245A (ja) * 2012-06-14 2013-12-26 Calsonic Kansei Corp 車両用表示機構
CN104349002B (zh) 2013-07-30 2017-11-21 柯尼卡美能达株式会社 操作装置以及图像处理装置
JP5831715B2 (ja) * 2013-07-30 2015-12-09 コニカミノルタ株式会社 操作装置および画像処理装置
JP2015087824A (ja) 2013-10-28 2015-05-07 オムロン株式会社 画面操作装置および画面操作方法
JP6343953B2 (ja) 2014-02-13 2018-06-20 オムロン株式会社 プログラマブル表示器、携帯端末装置、データ処理方法、およびプログラム
KR101632009B1 (ko) 2014-11-26 2016-06-21 엘지전자 주식회사 전자기기 및 그것의 제어방법
JP7252107B2 (ja) * 2019-09-25 2023-04-04 株式会社日立国際電気 監視システム及び監視方法
JP7347477B2 (ja) * 2021-08-23 2023-09-20 日本電気株式会社 情報処理装置、情報処理方法及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001222271A (ja) * 2000-02-10 2001-08-17 Calsonic Kansei Corp メニュー画面表示方法及びそれを用いた表示装置
JP2006205938A (ja) * 2005-01-28 2006-08-10 Denso Corp 車載表示装置
JP2007276615A (ja) * 2006-04-06 2007-10-25 Denso Corp プロンプター方式操作装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07144556A (ja) * 1993-11-26 1995-06-06 Mitsubishi Electric Corp 車両用走行制御装置
JPH0858302A (ja) * 1994-08-22 1996-03-05 Tokai Rika Co Ltd 車両用操作装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001222271A (ja) * 2000-02-10 2001-08-17 Calsonic Kansei Corp メニュー画面表示方法及びそれを用いた表示装置
JP2006205938A (ja) * 2005-01-28 2006-08-10 Denso Corp 車載表示装置
JP2007276615A (ja) * 2006-04-06 2007-10-25 Denso Corp プロンプター方式操作装置

Also Published As

Publication number Publication date
JP2009227246A (ja) 2009-10-08

Similar Documents

Publication Publication Date Title
JP4577387B2 (ja) 車両用操作入力装置
US11124118B2 (en) Vehicular display system with user input display
US8050858B2 (en) Multiple visual display device and vehicle-mounted navigation system
US8106783B2 (en) Input apparatus, remote controller and operating device for vehicle
CN108621937B (zh) 车载显示设备、车载显示设备的控制方法以及存储车载显示设备的控制程序的存储介质
US9753535B2 (en) Visual line input apparatus
KR101537936B1 (ko) 차량 및 그 제어방법
JP6214752B2 (ja) 表示制御装置、表示制御装置の表示制御方法、視線方向検出システムおよび視線方向検出システムのキャリブレーション制御方法
JP2009213779A (ja) 車両用操作入力装置
JP5029470B2 (ja) プロンプター式操作装置
US20150054933A1 (en) Motor vehicle with multifunctional display instrument
JP5093611B2 (ja) 車両周辺確認装置
JP2004067031A (ja) 操作者判別装置およびこれを用いた車載装置
JP4670914B2 (ja) 車両用操作装置
JP5382313B2 (ja) 車両用操作入力装置
JP5201480B2 (ja) 車両用操作装置
JP2008018760A (ja) 運転支援装置
CN108136908A (zh) 用于在车辆中操作至少一个功能的方法和操作系统
KR20170105093A (ko) 차량에서 비-차량 오브젝트의 위치 결정
JP5549571B2 (ja) 車内状況表示装置
JP5666066B2 (ja) 車載用ナビゲーション装置
CN114954486A (zh) 车辆的乘员监视装置
JP2005088759A (ja) 幅寄せカメラ
JP2020082974A (ja) 車室内撮像装置
JP4123985B2 (ja) カメラシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091030

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100312

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100318

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100727

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100809

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130903

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4577387

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130903

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees