JPWO2020152849A1 - タッチパネル制御装置及びタッチパネル制御方法 - Google Patents

タッチパネル制御装置及びタッチパネル制御方法 Download PDF

Info

Publication number
JPWO2020152849A1
JPWO2020152849A1 JP2020563804A JP2020563804A JPWO2020152849A1 JP WO2020152849 A1 JPWO2020152849 A1 JP WO2020152849A1 JP 2020563804 A JP2020563804 A JP 2020563804A JP 2020563804 A JP2020563804 A JP 2020563804A JP WO2020152849 A1 JPWO2020152849 A1 JP WO2020152849A1
Authority
JP
Japan
Prior art keywords
touch
touch operation
determination unit
person
operation surface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020563804A
Other languages
English (en)
Other versions
JP6833146B2 (ja
Inventor
村上 洋介
洋介 村上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2020152849A1 publication Critical patent/JPWO2020152849A1/ja
Application granted granted Critical
Publication of JP6833146B2 publication Critical patent/JP6833146B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Abstract

タッチパネル制御装置(10A)は、タッチパネル(21)のタッチ操作面における周囲を撮影するカメラ(12)から、撮影画像の画像データを取得する画像データ取得部(31)と、画像データに基づいて、タッチ操作面の周囲に存在する人物の視線が、タッチ操作面に向いているか否かを判定する視線判定部(32)と、画像データに基づいて、タッチ操作面の周囲に存在する人物の手が、タッチ操作面の前方に設定される検出領域内に存在し、且つ、タッチ操作面に触れていない状態であるか否かを判定する動作判定部(33)と、視線判定部(32)の判定結果及び動作判定部(33)の判定結果に基づいて、人物のタッチ操作面でのタッチ操作を許可するか否かを判定する操作許可判定部(34)と、操作許可判定部(34)の判定結果に基づいて、タッチパネル21を制御する制御部(35)とを備える。

Description

この発明は、タッチパネルを制御するタッチパネル制御装置及びタッチパネル制御方法に関する。
従来、ユーザの視線をカメラによって検出した場合に、タッチパネルでのタッチ操作を許可するタッチパネル制御装置が提供されている。このタッチパネル制御装置は、例えば、特許文献1に開示されている。
特開2009−227246号公報
上記従来のタッチパネル制御装置は、座席に着座したユーザの手元に設けられるアームレストのような、ユーザの操作意図が無くても、その手が置かれてしまう可能性が高い場所に、タッチパネルを設置することを想定したものではない。このため、上記従来のタッチパネル制御装置は、ユーザの視線を検出した状態で、ユーザの手がタッチパネルに触れているが、当該ユーザの操作意図が無い場合でも、そのタッチ操作を受け付けてしまい、誤操作を招くおそれがある。
この発明は、上記のような課題を解決するためになされたもので、意図しないタッチ操作を防止することができるタッチパネル制御装置を提供することを目的とする。
この発明に係るタッチパネル制御装置は、タッチパネルのタッチ操作面における周囲を撮影するカメラから、撮影画像の画像データを取得する画像データ取得部と、画像データ取得部によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の視線が、タッチ操作面に向いているか否かを判定する視線判定部と、画像データ取得部によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の手が、タッチ操作面の前方に設定される検出領域内に存在し、且つ、タッチ操作面に触れていない状態であるか否かを判定する動作判定部と、視線判定部の判定結果、及び、動作判定部の判定結果に基づいて、人物のタッチ操作面でのタッチ操作を許可するか否かを判定する操作許可判定部と、操作許可判定部の判定結果に基づいて、タッチパネルを制御する制御部とを備えることを特徴とするものである。
この発明によれば、意図しないタッチ操作を防止することができる。
実施の形態1に係るタッチパネル制御装置を備えたタッチパネルディスプレイの構成を示したブロック図である。 実施に形態1に係るタッチパネル制御装置に接続されるタッチパネルディスプレイの構成を示したブロック図である。 実施の形態1に係るタッチパネル制御装置の構成を示したブロック図である。 図4Aは実施の形態1に係るタッチパネル制御装置のハードウェア構成例を示した図である。図4Bは実施の形態1に係るタッチパネル制御装置の他のハードウェア構成例を示した図である。 実施の形態1に係るタッチパネル制御装置の動作手順を示したフローチャートである。 実施の形態1に係るタッチパネル制御装置における人物に操作継続意図がある場合の動作手順を示したフローチャートである。 実施の形態2に係るタッチパネル制御装置を備えたタッチパネルディスプレイの構成を示したブロック図である。 実施に形態2に係るタッチパネル制御装置に接続されるタッチパネルディスプレイの構成を示したブロック図である。 実施の形態2に係るタッチパネル制御装置の構成を示したブロック図である。 実施の形態2に係るタッチパネル制御装置の動作手順を示したフローチャートである。 実施の形態2に係るタッチパネル制御装置における表示画面の分割が必要となる場合の動作手順を示したフローチャートである。 実施の形態2に係るタッチパネル制御装置を車室内のアームレストに搭載されたタッチパネルディスプレイに適用した場合における当該タッチパネル制御装置の動作を説明した図である。図12Aは複数の操作対象デバイスに対して、タッチパネルディスプレイが個々に設けられる場合の動作説明図である。図12Bは複数の操作対象デバイスに対して、互いに共通のタッチパネルディスプレイが設けられる場合の動作説明図である。図12Cは複数の操作対象デバイスに対して、互いに共通のタッチパネルディスプレイが設けられる場合の他の動作説明図である。図12Dは複数の操作対象デバイスに対して、互いに共通のタッチパネルディスプレイが設けられる場合の更に他の動作説明図である。
以下、この発明をより詳細に説明するために、この発明を実施するための形態について、添付の図面に従って説明する。
実施の形態1.
実施の形態1に係るタッチパネル制御装置について、図1から図6を用いて説明する。この実施の形態1に係るタッチパネル制御装置は、タッチパネルのタッチ操作面をタッチ操作する人物が独りとなる場合を想定している。
先ず、実施の形態1に係るタッチパネル制御装置10Aが適用されるタッチパネルディスプレイ1A,1Bについて、図1及び図2を用いて説明する。図1は、実施の形態1に係るタッチパネル制御装置を備えたタッチパネルディスプレイの構成を示したブロック図である。図2は、実施に形態1に係るタッチパネル制御装置に接続されるタッチパネルディスプレイの構成を示したブロック図である。
実施の形態1に係るタッチパネルディスプレイ1Aは、車室内に設けられている。このタッチパネルディスプレイ1Aは、タッチパネル制御装置10A、表示装置11、カメラ12、画像変換部13、及び、タッチセンサ14を備えている。
表示装置11は、タッチパネル21及び表示部22を有している。タッチパネル21は、タッチ操作面を有している。このタッチ操作面は、人物の手によるタッチ操作を受け付ける。表示部22は、人物のタッチ操作面での操作に対応する表示画面を表示する。
カメラ12は、タッチパネル21のタッチ操作面における周囲を撮影する。このカメラ12は、撮影した撮影画像の画像データをタッチパネル制御装置10Aに出力する。
画像変換部13は、タッチパネル制御装置10Aから取得した画像データを、表示部22で表示可能となる画像に変換する。
タッチセンサ14は、タッチパネル21に設けられている。このタッチセンサ14は、人物のタッチ操作面でのタッチ位置を検出する。このタッチセンサ14は、タッチ位置に関するタッチ位置情報をタッチパネル制御装置10Aに出力する。
タッチパネル制御装置10Aは、カメラ12から取得した画像データに基づいて、タッチ操作面の周囲に存在する人物のタッチ操作面でのタッチ操作を許可するか否かを判定する。また、タッチパネル制御装置10Aは、タッチ操作を許可した場合に、タッチセンサ14からタッチ位置情報を取得し、タッチ操作を許可しない場合に、タッチセンサ14からタッチ位置情報を取得しない。
但し、図1に示したタッチパネルディスプレイ1Aの構成を簡素にしたい場合には、当該タッチパネルディスプレイ1Aは、タッチパネル制御装置10A及びカメラ12をその構成から除外して、それらを外部装置とすれば良い。
例えば、図2に示したタッチパネルディスプレイ1Bは、外部に設置された制御ユニット3及びカメラ12と接続している。タッチパネルディスプレイ1B及びカメラ12は、車室内に設けられている。このタッチパネルディスプレイ1Bは、表示装置11、画像変換部13、タッチセンサ14、及び、I/F部16を備えている。I/F部16は、画像変換部13及びタッチセンサ14と接続している。
制御ユニット3は、タッチパネル制御装置10A及びI/F部17を備えている。タッチパネル制御装置10Aは、カメラ12及びI/F部17と接続している。I/F部17は、I/F部16と接続している。
また、タッチパネルディスプレイ1Bを車室内に設置する場合には、カメラ12は、専用のカメラではなく、ドライバーモニタリングシステムのカメラを適用しても構わない。
次に、実施の形態1に係るタッチパネル制御装置10Aについて、図3を用いて説明する。図3は、実施の形態1に係るタッチパネル制御装置の構成を示したブロック図である。
実施の形態1に係るタッチパネル制御装置10Aは、画像データ取得部31、視線判定部32、動作判定部33、操作許可判定部34、及び、制御部35を備えている。
画像データ取得部31は、カメラ12から、当該カメラ12が撮影した撮影画像の画像データを取得する。この画像データ取得部31は、画像データを視線判定部32及び動作判定部33に出力する。
視線判定部32は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の視線が、タッチ操作面に向いているか否かを判定する。この視線判定部32は、判定結果を操作許可判定部34に出力する。
動作判定部33は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の手が、当該タッチ操作面の前方に設定される検出領域内に存在し、且つ、タッチ操作面に触れていない状態であるか否かを判定する。この動作判定部33は、判定結果を操作許可判定部34に出力する。
動作判定部33の判定動作時に使用される検出領域は、タッチ操作面から前方に向けて所定の距離で、且つ、当該タッチ操作面に対して、垂直方向に設定されている。これにより、検出領域は、人物の手がタッチ操作面をタッチ操作しようとするときに、当該人物の手が通過する空間領域となっている。なお、タッチ操作面の前方とは、タッチ操作面から見て車室側の方向である。また、所定の距離とは、例えば、タッチ操作面から前方に向けて、2〜5cmの範囲である。
操作許可判定部34は、視線判定部32の判定結果、及び、動作判定部33の判定結果に基づいて、人物のタッチ操作面でのタッチ操作を許可するか否かを判定する。この操作許可判定部34は、その判定結果を制御部35に出力する。
具体的には、操作許可判定部34は、視線判定部32が、人物の視線がタッチ操作面に向いていると判定し、動作判定部33が、人物の手が検出領域内に存在し、且つ、タッチ操作面に触れていない状態であると判定した場合に、人物のタッチ操作面でのタッチ操作を許可する。一方、操作許可判定部34は、動作判定部33が、人物の手が検出領域内に存在し、且つ、タッチ操作面に触れていない状態であると判定した場合であっても、視線判定部32が、人物の視線がタッチ操作面に向いていないと判定した場合には、人物のタッチ操作面でのタッチ操作を許可しない。
また、操作許可判定部34は、人物のタッチ操作面でのタッチ操作を一旦許可した後に、視線判定部32が、人物の視線がタッチ操作面に向いていないと判定した場合、または、動作判定部33が、人物の手が検出領域内に存在しないと判定した場合に、人物のタッチ操作面でのタッチ操作許可を解除する。
制御部35は、操作許可判定部34の判定結果に基づいて、タッチパネル21を制御する。
具体的には、制御部35は、操作許可判定部34が、人物のタッチ操作面でのタッチ操作を許可すると判定した場合に、タッチパネル制御装置10Aによるタッチセンサ14からのタッチ位置情報の取得を許可することにより、人物のタッチ操作面でのタッチ操作を操作対象デバイスに反映する。一方、制御部35は、操作許可判定部34が、人物のタッチ操作面でのタッチ操作を許可しないと判定した場合に、タッチパネル制御装置10Aによるタッチセンサ14からのタッチ位置情報の取得を許可しないことにより、人物のタッチ操作面でのタッチ操作を操作対象デバイスに反映しない。なお、操作対象デバイスとしては、例えば、オーディオ装置、ナビゲーション装置、及び、リヤシートエンタテイメント装置等である。
次に、実施の形態1に係るタッチパネル制御装置10Aのハードウェア構成例について、図4を用いて説明する。図4Aは、実施の形態1に係るタッチパネル制御装置のハードウェア構成例を示した図である。図4Bは、実施の形態1に係るタッチパネル制御装置の他のハードウェア構成例を示した図である。
図4Aに示す如く、タッチパネル制御装置10Aは、コンピュータにより構成されており、当該コンピュータは、プロセッサ51及びメモリ52を有している。メモリ52には、そのコンピュータを、画像データ取得部31、視線判定部32、動作判定部33、操作許可判定部34、及び、制御部35として機能させるためのプログラムが記憶されている。メモリ52に記憶されているプログラムをプロセッサ51が読み出して実行することにより、画像データ取得部31、視線判定部32、動作判定部33、操作許可判定部34、及び、制御部35の機能が実現される。
または、図4Bに示す如く、タッチパネル制御装置10Aは、処理回路53を有するものであっても良い。この場合、画像データ取得部31、視線判定部32、動作判定部33、操作許可判定部34、及び、制御部35の機能が処理回路53により実現されるものであっても良い。
または、タッチパネル制御装置10Aは、プロセッサ51、メモリ52、及び、処理回路53を有するものであっても良い(不図示)。この場合、画像データ取得部31、視線判定部32、動作判定部33、操作許可判定部34、及び、制御部35の機能のうちの一部がプロセッサ51及びメモリ52により実現されて、残余の機能が処理回路53により実現されるものであっても良い。
プロセッサ51は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、マイクロプロセッサ、マイクロコントローラ又はDSP(Digital Signal Processor)のうちの少なくとも一つを用いたものである。
メモリ52は、例えば、半導体メモリ又は磁気ディスクのうちの少なくとも一方を用いたものである。より具体的には、メモリ52は、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read−Only Memory)、SSD(Solid State Drive)又はHDD(Hard Disk Drive)のうちの少なくとも一つを用いたものである。
処理回路53は、例えば、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field−Programmable Gate Array)、SoC(System−on−a−Chip)又はシステムLSI(Large−Scale Integration)のうちの少なくとも一つを用いたものである。
次に、実施の形態1に係るタッチパネル制御装置10Aの動作について、図5及び図6を用いて説明する。
図5は、実施の形態1に係るタッチパネル制御装置の動作手順を示したフローチャートである。
ステップST11において、制御部35は、タッチパネル21をタッチ操作制限状態とし、人物のタッチ操作面でのタッチ操作を受け付けない。即ち、制御部35は、人物のタッチ操作面でのタッチ操作を操作対象デバイスに反映しない。
ステップST12において、画像データ取得部31は、カメラ12から、当該カメラ12が撮影した撮影画像の画像データを取得する。
ステップST13において、視線判定部32は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の視線が、タッチ操作面に向いているか否かを判定する。ここで、視線判定部32が、その視線がタッチ操作面に向いていると判定した場合には、タッチパネル制御装置10Aの動作は、ステップST14に進む。一方、視線判定部32が、その視線がタッチ操作面に向いていないと判定した場合には、タッチパネル制御装置10Aの動作は、ステップST11に戻る。
ステップST14において、動作判定部33は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の手が、検出領域内に存在し、且つ、タッチ操作面に触れていない状態であるか否かを判定する。ここで、動作判定部33が、その手が検出領域内に存在し、且つ、タッチ操作面に触れていない状態であると判定した場合には、タッチパネル制御装置10Aの動作は、ステップST15に進む。一方、動作判定部33が、その手が検出領域内に存在しないと判定した場合には、タッチパネル制御装置10Aの動作は、ステップST11に戻る。
ステップST15において、操作許可判定部34は、人物のタッチ操作面でのタッチ操作を許可する。
ステップST16において、制御部35は、タッチパネル21を制御する。即ち、制御部35は、人物のタッチ操作面でのタッチ操作を操作対象デバイスに反映する。そして、タッチパネル制御装置10Aの動作は、終了する。
図6は、実施の形態1に係るタッチパネル制御装置における人物に操作継続意図がある場合の動作手順を示したフローチャートである。
ステップST21において、制御部35は、タッチパネル21をタッチ操作制限状態とし、人物のタッチ操作面でのタッチ操作を受け付けない。即ち、制御部35は、人物のタッチ操作面でのタッチ操作を操作対象デバイスに反映しない。
ステップST22において、画像データ取得部31は、カメラ12から、当該カメラ12が撮影した撮影画像の画像データを取得する。
ステップST23において、視線判定部32は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の視線が、タッチ操作面に向いているか否かを判定する。ここで、視線判定部32が、その視線がタッチ操作面に向いていると判定した場合には、タッチパネル制御装置10Aの動作は、ステップST24に進む。一方、視線判定部32が、その視線がタッチ操作面に向いていないと判定した場合には、タッチパネル制御装置10Aの動作は、ステップST21に戻る。
ステップST24において、動作判定部33は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の手が、検出領域内に存在し、且つ、タッチ操作面に触れていない状態であるか否かを判定する。ここで、動作判定部33が、その手が検出領域内に存在し、且つ、タッチ操作面に触れていない状態であると判定した場合には、タッチパネル制御装置10Aの動作は、ステップST25に進む。一方、動作判定部33が、その手が検出領域内に存在しないと判定した場合には、タッチパネル制御装置10Aの動作は、ステップST21に戻る。
ステップST25において、操作許可判定部34は、人物のタッチ操作面でのタッチ操作を許可する。
ステップST26において、制御部35は、タッチパネル21を制御する。即ち、制御部35は、人物のタッチ操作面でのタッチ操作を操作対象デバイスに反映する。
ステップST27において、タッチパネル制御装置10Aは、タッチセンサ14からタッチ位置情報を取得してから、一定時間経過したか否かを判定する。ここで、タッチパネル制御装置10Aが、一定時間経過したと判定した場合には、当該タッチパネル制御装置10Aの動作は、ステップST28に進む。一方、タッチパネル制御装置10Aが、一定時間経過していないと判定した場合には、当該タッチパネル制御装置10Aの動作は、ステップST27を繰り返す。なお、一定時間とは、例えば、2秒である。
ステップST28において、視線判定部32は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面でのタッチ操作を一旦許可された人物の視線が、タッチ操作面に向いているか否かを判定する。ここで、視線判定部32が、その視線がタッチ操作面に向いていると判定した場合には、タッチパネル制御装置10Aの動作は、ステップST29に進む。一方、視線判定部32が、その視線がタッチ操作面に向いていないと判定した場合には、タッチパネル制御装置10Aの動作は、ステップST30に進む。
ステップST29において、動作判定部33は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面でのタッチ操作を一旦許可された人物の手が、検出領域内に存在しているか否を判定する。このとき、動作判定部33は、人物の手がタッチ操作面に触れているか否かについては問わない。ここで、動作判定部33が、その手が検出領域内に存在していると判定した場合には、タッチパネル制御装置10Aの動作は、ステップST27に戻る。一方、動作判定部33が、その手が検出領域内に存在しないと判定した場合には、タッチパネル制御装置10Aの動作は、ステップST30に進む。
ステップST30において、操作許可判定部34は、タッチ操作面での操作を一旦許可された人物のタッチ操作面でのタッチ操作許可を解除する。そして、タッチパネル制御装置10Aの動作は、ステップST21に戻る。
以上より、実施の形態1に係るタッチパネル制御装置10Aは、タッチパネル21のタッチ操作面における周囲を撮影するカメラ12から、撮影画像の画像データを取得する画像データ取得部31と、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の視線が、タッチ操作面に向いているか否かを判定する視線判定部32と、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の手が、タッチ操作面の前方に設定される検出領域内に存在し、且つ、タッチ操作面に触れていない状態であるか否かを判定する動作判定部33と、視線判定部32の判定結果、及び、動作判定部33の判定結果に基づいて、人物のタッチ操作面でのタッチ操作を許可するか否かを判定する操作許可判定部34と、操作許可判定部34の判定結果に基づいて、タッチパネル21を制御する制御部35とを備えている。これにより、タッチパネル制御装置10Aは、意図しないタッチ操作を防止することができる。
実施の形態1に係るタッチパネル制御装置10Aの操作許可判定部34は、視線判定部32が、人物の視線がタッチ操作面に向いていると判定し、動作判定部33が、人物の手が検出領域内に存在し、且つ、タッチ操作面に触れていない状態であると判定した場合に、人物のタッチ操作面でのタッチ操作を許可し、視線判定部32が、人物の視線がタッチ操作面に向いていないと判定した場合に、人物のタッチ操作面でのタッチ操作を許可しない。これにより、タッチパネル制御装置10Aは、人物の視線がタッチ操作面に向いていることを前提にして、人物の手の位置に基づいて、当該人物のタッチ操作面でのタッチ操作を許可する。従って、タッチパネル制御装置10Aは、人物の手がタッチ操作面に触れている状態で、人物の視線がその後からタッチ操作面に向いても、人物のタッチ操作面でのタッチ操作を許可することはない。
実施の形態1に係るタッチパネル制御装置10Aの操作許可判定部34は、人物のタッチ操作面でのタッチ操作を一旦許可した後に、視線判定部32が、人物の視線がタッチ操作面に向いていないと判定した場合、または、動作判定部33が、人物の手が検出領域内に存在しないと判定した場合に、人物のタッチ操作面でのタッチ操作許可を解除する。これにより、タッチパネル制御装置10Aは、人物のタッチ操作面でのタッチ操作を一旦許可した場合であっても、その後におけるタッチ操作面での誤操作を防止することができる。
実施の形態1に係るタッチパネル制御方法は、画像データ取得部31が、タッチパネル21のタッチ操作面における周囲を撮影するカメラ12から、撮影画像の画像データを取得し、視線判定部32が、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の視線が、タッチ操作面に向いているか否かを判定し、動作判定部33が、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の手が、タッチ操作面の前方に設定される検出領域内に存在し、且つ、タッチ操作面に触れていない状態であるか否かを判定し、操作許可判定部34が、視線判定部32の判定結果、及び、動作判定部33の判定結果に基づいて、人物のタッチ操作面でのタッチ操作を許可するか否かを判定し、制御部35が、操作許可判定部34の判定結果に基づいて、タッチパネル21を制御する。これにより、タッチパネル制御方法は、意図しないタッチ操作を防止することができる。
実施の形態2.
実施の形態2に係るタッチパネル制御装置について、図7から図12を用いて説明する。この実施の形態2に係るタッチパネル制御装置は、タッチパネルのタッチ操作面をタッチ操作する人物が複数となる場合を想定している。
先ず、実施の形態2に係るタッチパネル制御装置10Bが適用されるタッチパネルディスプレイ2A,2Bについて、図7及び図8を用いて説明する。図7は、実施の形態2に係るタッチパネル制御装置を備えたタッチパネルディスプレイの構成を示したブロック図である。図8は、実施に形態2に係るタッチパネル制御装置に接続されるタッチパネルディスプレイの構成を示したブロック図である。
図7に示した実施の形態2に係るタッチパネルディスプレイ2Aは、図1に示した実施の形態1に係るタッチパネルディスプレイ1Aに対して、タッチパネル制御装置10Aからタッチパネル制御装置10Bに変更すると共に、指紋センサ15を追加した構成となっている。これにより、タッチパネルディスプレイ2Aは、タッチパネル制御装置10B、表示装置11、カメラ12、画像変換部13、タッチセンサ14、及び、指紋センサ15を備えている。
指紋センサ15は、タッチパネル21のタッチ操作面をタッチ操作している手の指紋を検出する。この指紋センサ15は、指紋に関する指紋情報をタッチパネル制御装置10Bに出力する。
タッチパネル制御装置10Bは、カメラ12から取得した画像データに基づいて、タッチ操作面の周囲に存在する全ての人物の中から選ばれた独りの人物または複数の人物のタッチ操作面でのタッチ操作を許可するか否かを判定する。
但し、図7に示したタッチパネルディスプレイ2Aの構成を簡素にしたい場合には、当該タッチパネルディスプレイ2Aは、タッチパネル制御装置10B及びカメラ12をその構成から除外して、それらを外部装置とすれば良い。
例えば、図8に示したタッチパネルディスプレイ2Bは、外部に設置された制御ユニット3及びカメラ12と接続している。このタッチパネルディスプレイ2Bは、表示装置11、画像変換部13、タッチセンサ14、指紋センサ15、及び、I/F部16を備えている。I/F部16は、画像変換部13、タッチセンサ14、及び、指紋センサ15と接続している。
また、タッチパネルディスプレイ2Bを車室内に設置する場合には、カメラ12は、専用のカメラではなく、ドライバーモニタリングシステムのカメラを適用しても構わない。
次に、実施の形態2に係るタッチパネル制御装置10Bについて、図9を用いて説明する。図9は、実施の形態2に係るタッチパネル制御装置の構成を示したブロック図である。
実施の形態2に係るタッチパネル制御装置10Bは、実施の形態1に係るタッチパネル制御装置10Aの構成に、指紋情報取得部36、操作者判定部37、画像処理部38、表示出力部39、及び、タッチ位置情報取得部40を追加した構成となっている。即ち、タッチパネル制御装置10Bは、画像データ取得部31、視線判定部32、動作判定部33、操作許可判定部34、制御部35、指紋情報取得部36、操作者判定部37、画像処理部38、表示出力部39、及び、タッチ位置情報取得部40を備えている。
指紋情報取得部36は、指紋センサ15から、タッチパネル21のタッチ操作面をタッチ操作している手の指紋に関する指紋情報を取得する。この指紋情報取得部36は、指紋に関する指紋情報を操作者判定部37に出力する。
操作者判定部37は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物が複数であると判定した場合に、その全ての人物の中から、当該画像データに基づいて、タッチ操作面に対するタッチ操作を行おうとする人物を判定する。また、操作者判定部37は、画像データ取得部31によって取得された画像データ、及び、指紋情報取得部36によって取得された指紋情報に基づいて、タッチ操作面をタッチ操作している人物を判定する。この操作者判定部37は、判定結果を、操作許可判定部34及び制御部35に出力する。
画像処理部38は、表示部22で表示する画像の画像データを、制御部35からの動作指示に基づいて生成する。例えば、画像処理部38は、人物のタッチ操作面でのタッチ操作に対応する表示画面を、操作許可判定部34によって判定された人物ごとに対応して分割表示するための画像データを生成する。この画像処理部38は、生成した画像データを表示出力部39に出力する。
表示出力部39は、画像処理部38が生成した画像データを、表示部22で表示可能となる画像に変換する。この表示出力部39は、変換した画像を画像変換部13に出力する。
タッチ位置情報取得部40は、タッチセンサ14から、人物のタッチ操作でのタッチ位置に関するタッチ位置情報を取得する。このタッチ位置情報取得部40は、タッチ位置に関するタッチ位置情報を制御部35に出力する。
操作許可判定部34は、視線判定部32の判定結果、動作判定部33の判定結果、及び、操作者判定部37の判定結果に基づいて、人物のタッチ操作面でのタッチ操作を許可するか否かを判定する。
具体的には、操作許可判定部34は、視線判定部32によって、タッチ操作面に向いていると判定された視線と、動作判定部33によって、検出領域内に存在し、且つ、タッチ操作面に触れていない状態であると判定された手と、操作者判定部37によって、タッチ操作面に対するタッチ操作を行おうとする人物であると判定された人物とが関連付けられた場合に、視線判定部32によって判定された視線を有する人物と、動作判定部33によって判定された手を有する人物と、操作者判定部37によって判定された人物とが、一致していると判定し、この一致していると判定した人物のタッチ操作面でのタッチ操作を許可する。
一方、操作許可判定部34は、視線判定部32によって、タッチ操作面に向いていると判定された視線と、動作判定部33によって、検出領域内に存在し、且つ、タッチ操作面に触れていない状態であると判定された手と、操作者判定部37によって、タッチ操作面に対するタッチ操作を行おうとする人物であると判定された人物とが関連付けられない場合に、視線判定部32によって判定された視線を有する人物と、動作判定部33によって判定された手を有する人物と、操作者判定部37によって判定された人物とが、一致していないと判定し、この一致していないと判定した人物のタッチ操作面でのタッチ操作を許可しない。
また、操作許可判定部34は、複数の操作対象デバイスが互い共通のタッチ操作面を用いて操作される場合に、当該操作対象デバイスごとに、人物のタッチ操作面でのタッチ操作を許可するか否かを判定する。
制御部35は、操作者判定部37によって判定された人物がタッチ操作面をタッチ操作したときに、タッチ位置情報取得部40によって取得されたタッチ位置情報に基づいて、当該人物に対するタッチ操作面のタッチ操作領域を設定する。また、制御部35は、画像処理部38が生成した画像データに基づいて、表示部22において分割表示された各表示画面に対応して、タッチ操作面のタッチ操作領域を分割する。
なお、タッチパネル制御装置10Bのハードウェア構成としては、図4A及び図4Bに示したタッチパネル制御装置10Aのハードウェア構成を採用すれば良い。即ち、タッチパネル制御装置10Aは、プロセッサ51及びメモリ52を有するか、または、プロセッサ51、メモリ52、及び、処理回路53を有するものであっても良い。
次に、実施の形態2に係るタッチパネル制御装置10Bの動作について、図10及び図11を用いて説明する。
図10は、実施の形態2に係るタッチパネル制御装置の動作手順を示したフローチャートである。
ステップST41において、制御部35は、タッチパネル21をタッチ操作制限状態とし、人物のタッチ操作面でのタッチ操作を受け付けない。即ち、制御部35は、人物のタッチ操作面でのタッチ操作を操作対象デバイスに反映しない。
ステップST42において、画像データ取得部31は、カメラ12から、当該カメラ12が撮影した撮影画像の画像データを取得する。
ステップST43において、視線判定部32は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の視線が、タッチ操作面に向いているか否かを判定する。この視線判定部32の判定動作は、タッチ操作面の周囲に存在する全ての人物に対して行われる。ここで、視線判定部32が、一人でも、その視線がタッチ操作面に向いていると判定した場合には、タッチパネル制御装置10Bの動作は、ステップST44に進む。一方、視線判定部32が、タッチ操作面の周囲に存在する全て人物の視線がタッチ操作面に向いていないと判定した場合には、タッチパネル制御装置10Bの動作は、ステップST41に戻る。
ステップST44において、動作判定部33は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の手が、検出領域内に存在し、且つ、タッチ操作面に触れていない状態であるか否かを判定する。この動作判定部33の判定動作は、タッチ操作面の周囲に存在する全ての人物に対して行われる。ここで、動作判定部33が、一人でも、その手が検出領域内に存在し、且つ、タッチ操作面に触れていない状態であると判定した場合には、タッチパネル制御装置10Bの動作は、ステップST45に進む。一方、動作判定部33が、タッチ操作面の周囲に存在する全ての人物の手が検出領域内に存在しないと判定した場合には、タッチパネル制御装置10Bの動作は、ステップST41に戻る。
ステップST45において、操作者判定部37は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する全ての人物の中から、タッチ操作面に対するタッチ操作を行おうとする一人以上の人物を判定する。
ステップST46において、操作許可判定部34は、視線判定部32によって判定された視線の人物と、動作判定部33によって判定された手の人物と、操作者判定部37によって判定された人物とに基づいて、人物のタッチ操作面でのタッチ操作を許可するか否かを判定する。この操作許可判定部34の判定動作は、タッチ操作面に対するタッチ操作を行おうとする一人以上の全ての人物に対して行われる。ここで、操作許可判定部34が、一人でも、人物にタッチ操作を許可した場合には、タッチパネル制御装置10Bの動作は、ステップST47に進む。一方、操作許可判定部34が、タッチ操作面に対するタッチ操作を行おうとする一人以上の全ての人物にタッチ操作を許可しない場合には、タッチパネル制御装置10Bの動作は、ステップST41に戻る。
ステップST47において、制御部35は、選ばれた一人または複数の人物のタッチ操作面でのタッチ操作を操作対象デバイスに反映する。
ステップST48において、タッチパネル制御装置10Bは、タッチセンサ14からタッチ位置情報を取得してから、一定時間経過したか否かを判定する。ここで、タッチパネル制御装置10Bが、一定時間経過したと判定した場合には、当該タッチパネル制御装置10Bの動作は、ステップST49に進む。一方、タッチパネル制御装置10Bが、一定時間経過していないと判定した場合には、当該タッチパネル制御装置10Bの動作は、ステップST48を繰り返す。
ステップST49において、視線判定部32は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面でのタッチ操作を一旦許可された人物の視線が、タッチ操作面に向いているか否かを判定する。この視線判定部32の判定動作は、タッチ操作面でのタッチ操作を一旦許可された全ての人物に対して行われる。ここで、視線判定部32が、一人でも、その視線がタッチ操作面に向いていると判定した場合には、タッチパネル制御装置10Bの動作は、ステップST50に進む。一方、視線判定部32が、タッチ操作面でのタッチ操作を一旦許可された全ての人物の視線がタッチ操作面に向いていないと判定した場合には、タッチパネル制御装置10Bの動作は、ステップST51に進む。
ステップST50において、動作判定部33は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面でのタッチ操作を一旦許可された人物の手が、検出領域内に存在しているか否を判定する。このとき、動作判定部33は、その人物の手がタッチ操作面に触れているか否かについては問わない。この動作判定部33の判定動作は、タッチ操作面でのタッチ操作を一旦許可された全ての人物に対して行われる。ここで、動作判定部33が、一人でも、その手が検出領域内に存在していると判定した場合には、タッチパネル制御装置10Bの動作は、ステップST48に戻る。一方、動作判定部33が、タッチ操作面でのタッチ操作を一旦許可された全ての人物の手が検出領域内に存在しないと判定した場合には、タッチパネル制御装置10Bの動作は、ステップST51に進む。
ステップST51において、操作許可判定部34は、タッチ操作面での操作を一旦許可された全ての人物のタッチ操作面でのタッチ操作許可を解除する。そして、タッチパネル制御装置10Bの動作は、ステップST21に戻る。
図11は、実施の形態2に係るタッチパネル制御装置における表示画面の分割が必要となる場合の動作手順を示したフローチャートである。
ステップST61において、制御部35は、タッチパネル21をタッチ操作制限状態とし、人物のタッチ操作面でのタッチ操作を受け付けない。即ち、制御部35は、人物のタッチ操作面でのタッチ操作を反映しない。
ステップST62において、画像データ取得部31は、カメラ12から、当該カメラ12が撮影した撮影画像の画像データを取得する。
ステップST63において、視線判定部32は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の視線が、タッチ操作面に向いているか否かを判定する。この視線判定部32の判定動作は、タッチ操作面の周囲に存在する全ての人物に対して行われる。ここで、視線判定部32が、一人でも、その視線がタッチ操作面に向いていると判定した場合には、タッチパネル制御装置10Bの動作は、ステップST64に進む。一方、視線判定部32が、タッチ操作面の周囲に存在する全て人物の視線がタッチ操作面に向いていないと判定した場合には、タッチパネル制御装置10Bの動作は、ステップST61に戻る。
ステップST64において、動作判定部33は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物の手が、検出領域内に存在し、且つ、タッチ操作面に触れていない状態であるか否かを判定する。この動作判定部33の判定動作は、タッチ操作面の周囲に存在する全ての人物に対して行われる。ここで、動作判定部33が、一人でも、その手が検出領域内に存在し、且つ、タッチ操作面に触れていない状態であると判定した場合には、タッチパネル制御装置10Bの動作は、ステップST65に進む。一方、動作判定部33が、タッチ操作面の周囲に存在する全ての人物の手が検出領域内に存在しないと判定した場合には、タッチパネル制御装置10Bの動作は、ステップST61に戻る。
ステップST65において、操作者判定部37は、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する全ての人物の中から、タッチ操作面に対するタッチ操作を行おうとする一人以上の人物を判定する。
ステップST66において、操作許可判定部34は、視線判定部32によって判定された視線の人物と、動作判定部33によって判定された手の人物と、操作者判定部37によって判定された人物とに基づいて、人物のタッチ操作面でのタッチ操作を許可するか否かを判定する。この操作許可判定部34の判定動作は、タッチ操作面に対するタッチ操作を行おうとする一人以上の全ての人物に対して行われる。ここで、操作許可判定部34が、一人でも、人物にタッチ操作を許可した場合には、タッチパネル制御装置10Bの動作は、ステップST67に進む。一方、操作許可判定部34が、タッチ操作面に対するタッチ操作を行おうとする一人以上の全ての人物にタッチ操作を許可しない場合には、タッチパネル制御装置10Bの動作は、ステップST61に戻る。
ステップST67において、制御部35は、操作許可判定部34によって判定された人物の人数に対応した画像データを、画像処理部38に生成させる。また、制御部35は、画像処理部38によって生成された上記画像データに基づいて、表示部22において分割表示された各表示画面に対応して、タッチ操作面のタッチ操作領域を分割する。
ステップST68において、制御部35は、選ばれた複数の人物の各タッチ操作領域でのタッチ操作を各操作対象デバイスに反映する。
ステップST69において、タッチパネル制御装置10Bは、タッチセンサ14からタッチ位置情報を取得してから、一定時間経過したか否かを判定する。ここで、タッチパネル制御装置10Bが、一定時間経過したと判定した場合には、当該タッチパネル制御装置10Bの動作は、ステップST70に進む。一方、タッチパネル制御装置10Bが、一定時間経過していないと判定した場合には、当該タッチパネル制御装置10Bの動作は、ステップST69を繰り返す。
ステップST70において、視線判定部32は、画像データ取得部31によって取得された画像データに基づいて、分割されたタッチ操作領域でのタッチ操作を一旦許可された人物の視線が、タッチ操作面に向いているか否かを判定する。この視線判定部32の判定動作は、ここで、視線判定部32が、一人でも、その視線がタッチ操作面に向いていると判定した場合には、タッチパネル制御装置10Bの動作は、ステップST71に進む。一方、視線判定部32が、分割された各タッチ操作領域でのタッチ操作を一旦許可された全ての人物の視線がタッチ操作面に向いていないと判定した場合には、タッチパネル制御装置10Bの動作は、ステップST72に進む。
ステップST71において、動作判定部33は、画像データ取得部31によって取得された画像データに基づいて、分割されたタッチ操作領域でのタッチ操作を一旦許可された人物の手が、検出領域内に存在しているか否を判定する。このとき、動作判定部33は、その人物の手がタッチ操作面に触れているか否かについては問わない。この動作判定部33の判定動作は、分割された各タッチ操作領域でのタッチ操作を一旦許可された全ての人物に対して行われる。ここで、動作判定部33が、一人でも、その手が検出領域内に存在していると判定した場合には、タッチパネル制御装置10Bの動作は、ステップST69に戻る。一方、動作判定部33が、分割された各タッチ操作領域でのタッチ操作を一旦許可された全ての人物の手が検出領域内に存在しないと判定した場合には、タッチパネル制御装置10Bの動作は、ステップST72に進む。
ステップST72において、操作許可判定部34は、分割された各タッチ操作領域での操作を一旦許可された全ての人物の当該タッチ操作領域でのタッチ操作許可を解除する。そして、タッチパネル制御装置10Bの動作は、ステップST61に戻る。
次に、実施の形態2に係るタッチパネル制御装置を車室内のアームレストに搭載されたタッチパネルディスプレイに適用した場合における当該タッチパネル制御装置の動作について、図12を用いて説明する。なお、図12Aから図12Cで示した点線は、人物の視線の向きを表している。
図12Aは、複数の操作対象デバイスに対して、タッチパネルディスプレイが個々に設けられる場合の動作説明図である。この図12Aに示した2人の人物は、車室内に設けられた左右両側の後部座席61,62にそれぞれ着座している。アームレスト71,72は、後部座席61,62に対応して設けられている。タッチパネル21は、アームレスト71,72のそれぞれに設けられている。右側の後部座席62に着座した人物は、手がタッチパネル21のタッチ操作面に触れているが、視線がそのタッチ操作面に向いていない。これにより、タッチパネル制御装置10Bは、後部座席62に着座した人物のタッチ操作面での操作を受け付けない。
図12Bは、複数の操作対象デバイスに対して、互いに共通のタッチパネルディスプレイが設けられる場合の動作説明図である。この図12Bに示した2人の人物は、後部座席61,62にそれぞれ着座している。アームレスト73は、後部座席61,62の間に設けられている。タッチパネル21は、アームレスト73に設けられている。左側の後部座席61に着座した人物は、視線がタッチ操作面に向いているが、手がタッチ操作面に触れていない。また、右側の後部座席62に着座した人物は、手がタッチパネル21のタッチ操作面に触れているが、視線がそのタッチ操作面に向いていない。これにより、タッチパネル制御装置10Bは、2人の人物のタッチ操作面での操作を受け付けない。
図12Cは、複数の操作対象デバイスに対して、互いに共通のタッチパネルディスプレイが設けられる場合の他の動作説明図である。この図12Cに示した2人の人物は、互いに異なった操作対象デバイスを、互いに共通のタッチパネル21を用いて操作し、且つ、そのタッチ操作面でのタッチ操作を許可された人物である。これにより、タッチパネル制御装置10Bは、2人の人物のタッチ操作面での操作を同時に受け付ける。
図12Dは、複数の操作対象デバイスに対して、互いに共通のタッチパネルディスプレイが設けられる場合の更に他の動作説明図である。この図12Dに示した2人の人物は、互いに異なった操作対象デバイスを、互いに共通のタッチパネル21を用いて操作し、且つ、そのタッチ操作面でのタッチ操作を許可された人物である。これにより、タッチパネル制御装置10Bは、2人の人物のタッチ操作面での操作を同時に受け付ける。このとき、タッチパネル制御装置10Bは、タッチ操作面のタッチ操作領域と、これに対応する表示部22の表示画面とを、人物の人数に基づいて、占有領域として2つに分割する。それらの分割方向は、人物の配置に基づいて行われる。
但し、図12Aから図12Dに示したタッチパネル制御装置10Bは、車室内のアームレスト71〜73に搭載されたタッチパネルディスプレイに適用しているが、机の上面及び壁面に埋め込まれたタッチパネルディスプレイに適用することもできる。
以上より、実施の形態2に係るタッチパネル制御装置10Bは、画像データ取得部31によって取得された画像データに基づいて、タッチ操作面の周囲に存在する人物が複数であると判定した場合に、その複数の人物の中から、当該画像データに基づいて、タッチ操作面に対するタッチ操作を行おうとする人物を判定する操作者判定部37を備えている。また、操作許可判定部34は、視線判定部32の判定結果、動作判定部33の判定結果、及び、操作者判定部37の判定結果に基づいて、人物のタッチ操作面でのタッチ操作を許可するか否かを判定する。これにより、タッチパネル制御装置10Bは、タッチ操作面の周囲に存在する人物が複数であっても、意図しないタッチ操作を防止することができる。
実施の形態2に係るタッチパネル制御装置10Bの操作許可判定部34は、視線判定部32によって、タッチ操作面に向いていると判定された視線と、動作判定部33によって、検出領域内に存在し、且つ、タッチ操作面に触れていない状態であると判定された手と、操作者判定部37によって、タッチ操作面に対するタッチ操作を行おうとする人物であると判定された人物とが関連付けられた場合に、視線判定部32によって判定された視線を有する人物と、動作判定部33によって判定された手を有する人物と、操作者判定部37によって判定された人物とが、一致していると判定し、この一致していると判定した人物のタッチ操作面でのタッチ操作を許可する。また、操作許可判定部34は、視線判定部32によって、タッチ操作面に向いていると判定された視線と、動作判定部33によって、検出領域内に存在し、且つ、タッチ操作面に触れていない状態であると判定された手と、操作者判定部37によって、タッチ操作面に対するタッチ操作を行おうとする人物であると判定された人物とが関連付けられない場合に、視線判定部32によって判定された視線を有する人物と、動作判定部33によって判定された手を有する人物と、操作者判定部37によって判定された人物とが、一致していないと判定し、この一致していないと判定した人物のタッチ操作面でのタッチ操作を許可しない。これにより、タッチパネル制御装置10Bは、タッチ操作面に向いている視線の人物と、タッチ操作面に対するタッチ操作を行おうとする手の人物とが、異なる場合であっても、意図しないタッチ操作を防止することができる。
実施の形態2に係るタッチパネル制御装置10Bは、人物のタッチ操作面でのタッチ位置を検出するタッチセンサ14から、タッチ位置に関するタッチ位置情報を取得するタッチ位置情報取得部40を備えている。また、制御部35は、操作者判定部37によって判定された人物がタッチ操作面をタッチ操作したときに、タッチ位置情報取得部40によって取得されたタッチ位置情報に基づいて、当該人物に対するタッチ操作面のタッチ操作領域を設定する。これにより、タッチパネル制御装置10Bは、タッチ操作面でのタッチ操作を許可した人物がタッチ操作し易い位置で、当該人物のタッチ操作を行わせることができる。
実施の形態2に係るタッチパネル制御装置10Bは、タッチ操作面をタッチ操作している手の指紋を検出する指紋センサ15から、指紋に関する指紋情報を取得する指紋情報取得部36を備えている。また、操作者判定部37は、画像データ取得部31によって取得された画像データ、及び、指紋情報取得部36によって取得された指紋情報に基づいて、タッチ操作面をタッチ操作している人物を判定する。これにより、タッチパネル制御装置10Bは、タッチ操作面でのタッチ操作を許可した人物が、タッチ操作をしている最中でも、当該人物が操作を許可した人物であるか否を判定することができる。
実施の形態2に係るタッチパネル制御装置10Bの操作許可判定部34は、複数の操作対象デバイスが互いに共通のタッチ操作面を用いて操作される場合に、操作対象デバイスごとに、人物のタッチ操作面でのタッチ操作を許可するか否かを判定する。これにより、タッチパネル制御装置10Bは、複数の人物の中でも、タッチ操作面でのタッチ操作を許可した人物のタッチ操作のみを受け付けることができる。
実施の形態2に係るタッチパネル制御装置10Bは、人物のタッチ操作面でのタッチ操作に対応する表示画面を、操作許可判定部34によって判定された人物ごとに対応して分割表示するための画像データを生成する画像処理部38と、画像処理部38が生成した画像データを、当該画像データを表示部22で表示可能となる画像に変換するための画像変換部13に出力する表示出力部39とを備えている。これにより、タッチパネル制御装置10Bは、複数の人物のタッチ操作面でのタッチ操作を同時に受け付けることができる。
実施の形態2に係るタッチパネル制御装置10Bの制御部35は、画像処理部38が生成した画像データに基づいて、表示部22において分割表示された各表示画面に対応して、タッチ操作面のタッチ操作領域を占有領域として分割する。これにより、タッチパネル制御装置10Bは、複数の人物がタッチ操作面でのタッチ操作を行う場合であっても、他の人物のタッチ操作面でのタッチ操作を受け付けることはない。
なお、本願発明は、その発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは、各実施の形態における任意の構成要素の変形、もしくは、各実施の形態における任意の構成要素の省略が可能である。
この発明に係るタッチパネル制御装置及びタッチパネル制御方法は、人物のタッチ操作面でのタッチ操作を許可するか否かを判定して、意図しないタッチ操作を防止することができるので、タッチパネルを制御するタッチパネル制御装置及びタッチパネル制御方法等に用いるのに適している。
1A,1B,2A,2B タッチパネルディスプレイ、3 制御ユニット、10A,10B タッチパネル制御装置、11 表示装置、12 カメラ、13 画像変換部、14 タッチセンサ、15 指紋センサ、16,17 I/F部、21 タッチパネル、22 表示部、31 画像データ取得部、32 視線判定部、33 動作判定部、34 操作許可判定部、35 制御部、36 指紋情報取得部、37 操作者判定部、38 画像処理部、39 表示出力部、40 タッチ位置情報取得部、51 プロセッサ、52 メモリ、53 処理回路、61,62 後部座席、71〜73 アームレスト。

Claims (12)

  1. タッチパネルのタッチ操作面における周囲を撮影するカメラから、撮影画像の画像データを取得する画像データ取得部と、
    前記画像データ取得部によって取得された画像データに基づいて、前記タッチ操作面の周囲に存在する人物の視線が、前記タッチ操作面に向いているか否かを判定する視線判定部と、
    前記画像データ取得部によって取得された画像データに基づいて、前記タッチ操作面の周囲に存在する人物の手が、前記タッチ操作面の前方に設定される検出領域内に存在し、且つ、前記タッチ操作面に触れていない状態であるか否かを判定する動作判定部と、
    前記視線判定部の判定結果、及び、前記動作判定部の判定結果に基づいて、人物の前記タッチ操作面でのタッチ操作を許可するか否かを判定する操作許可判定部と、
    前記操作許可判定部の判定結果に基づいて、前記タッチパネルを制御する制御部とを備える
    ことを特徴とするタッチパネル制御装置。
  2. 前記操作許可判定部は、
    前記視線判定部が、人物の視線が前記タッチ操作面に向いていると判定し、前記動作判定部が、人物の手が前記検出領域内に存在し、且つ、前記タッチ操作面に触れていない状態であると判定した場合に、人物の前記タッチ操作面でのタッチ操作を許可し、
    前記視線判定部が、人物の視線が前記タッチ操作面に向いていないと判定した場合に、人物の前記タッチ操作面でのタッチ操作を許可しない
    ことを特徴とする請求項1記載のタッチパネル制御装置。
  3. 前記操作許可判定部は、
    人物の前記タッチ操作面でのタッチ操作を一旦許可した後に、
    前記視線判定部が、人物の視線が前記タッチ操作面に向いていないと判定した場合、または、前記動作判定部が、人物の手が前記検出領域内に存在しないと判定した場合に、
    人物の前記タッチ操作面でのタッチ操作許可を解除する
    ことを特徴とする請求項2記載のタッチパネル制御装置。
  4. 前記画像データ取得部によって取得された画像データに基づいて、前記タッチ操作面の周囲に存在する人物が複数であると判定した場合に、その全ての人物の中から、当該画像データに基づいて、前記タッチ操作面に対するタッチ操作を行おうとする人物を判定する操作者判定部を備え、
    前記操作許可判定部は、
    前記視線判定部の判定結果、前記動作判定部の判定結果、及び、前記操作者判定部の判定結果に基づいて、人物の前記タッチ操作面でのタッチ操作を許可するか否かを判定する
    ことを特徴とする請求項1記載のタッチパネル制御装置。
  5. 前記操作許可判定部は、
    前記視線判定部によって、前記タッチ操作面に向いていると判定された視線と、前記動作判定部によって、前記検出領域内に存在し、且つ、前記タッチ操作面に触れていない状態であると判定された手と、前記操作者判定部によって、前記タッチ操作面に対するタッチ操作を行おうとする人物であると判定された人物とが関連付けられた場合に、前記視線判定部によって判定された視線を有する人物と、前記動作判定部によって判定された手を有する人物と、前記操作者判定部によって判定された人物とが、一致していると判定し、この一致していると判定した人物の前記タッチ操作面でのタッチ操作を許可し、
    前記視線判定部によって、前記タッチ操作面に向いていると判定された視線と、前記動作判定部によって、前記検出領域内に存在し、且つ、前記タッチ操作面に触れていない状態であると判定された手と、前記操作者判定部によって、前記タッチ操作面に対するタッチ操作を行おうとする人物であると判定された人物とが関連付けられない場合に、前記視線判定部によって判定された視線を有する人物と、前記動作判定部によって判定された手を有する人物と、前記操作者判定部によって判定された人物とが、一致していないと判定し、この一致していないと判定した人物の前記タッチ操作面でのタッチ操作を許可しない
    ことを特徴とする請求項4記載のタッチパネル制御装置。
  6. 人物の前記タッチ操作面でのタッチ位置を検出するタッチセンサから、タッチ位置に関するタッチ位置情報を取得するタッチ位置情報取得部を備え、
    前記制御部は、
    前記操作者判定部によって判定された人物が前記タッチ操作面をタッチ操作したときに、前記タッチ位置情報取得部によって取得されたタッチ位置情報に基づいて、当該人物に対する前記タッチ操作面のタッチ操作領域を設定する
    ことを特徴とする請求項4に記載のタッチパネル制御装置。
  7. 前記タッチ操作面をタッチ操作している手の指紋を検出する指紋センサから、指紋に関する指紋情報を取得する指紋情報取得部を備え、
    前記操作者判定部は、
    前記画像データ取得部によって取得された画像データ、及び、前記指紋情報取得部によって取得された指紋情報に基づいて、前記タッチ操作面をタッチ操作している人物を判定する
    ことを特徴とする請求項4記載のタッチパネル制御装置。
  8. 前記操作許可判定部は、
    複数の操作対象デバイスが互いに共通の前記タッチ操作面を用いて操作される場合に、前記操作対象デバイスごとに、人物の前記タッチ操作面でのタッチ操作を許可するか否かを判定する
    ことを特徴とする請求項4記載のタッチパネル制御装置。
  9. 人物の前記タッチ操作面でのタッチ操作に対応する表示画面を、前記操作許可判定部によって判定された人物ごとに対応して分割表示するための画像データを生成する画像処理部と、
    前記画像処理部が生成した画像データを、当該画像データを表示部で表示可能となる画像に変換するための画像変換部に出力する表示出力部とを備える
    ことを特徴とする請求項4記載のタッチパネル制御装置。
  10. 前記制御部は、
    前記画像処理部が生成した画像データに基づいて、前記表示部において分割表示された各表示画面に対応して、前記タッチ操作面のタッチ操作領域を占有領域として分割する
    ことを特徴とする請求項9記載のタッチパネル制御装置。
  11. 前記検出領域は、前記タッチ操作面に対して、垂直方向に設定される
    ことを特徴とする請求項1記載のタッチパネル制御装置。
  12. 画像データ取得部が、タッチパネルのタッチ操作面における周囲を撮影するカメラから、撮影画像の画像データを取得し、
    視線判定部が、前記画像データ取得部によって取得された画像データに基づいて、前記タッチ操作面の周囲に存在する人物の視線が、前記タッチ操作面に向いているか否かを判定し、
    動作判定部が、前記画像データ取得部によって取得された画像データに基づいて、前記タッチ操作面の周囲に存在する人物の手が、前記タッチ操作面の前方に設定される検出領域内に存在し、且つ、前記タッチ操作面に触れていない状態であるか否かを判定し、
    操作許可判定部が、前記視線判定部の判定結果、及び、前記動作判定部の判定結果に基づいて、人物の前記タッチ操作面でのタッチ操作を許可するか否かを判定し、
    制御部が、前記操作許可判定部の判定結果に基づいて、前記タッチパネルを制御する
    ことを特徴とするタッチパネル制御方法。
JP2020563804A 2019-01-25 2019-01-25 タッチパネル制御装置及びタッチパネル制御方法 Expired - Fee Related JP6833146B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/002484 WO2020152849A1 (ja) 2019-01-25 2019-01-25 タッチパネル制御装置及びタッチパネル制御方法

Publications (2)

Publication Number Publication Date
JPWO2020152849A1 true JPWO2020152849A1 (ja) 2021-02-18
JP6833146B2 JP6833146B2 (ja) 2021-02-24

Family

ID=71736748

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020563804A Expired - Fee Related JP6833146B2 (ja) 2019-01-25 2019-01-25 タッチパネル制御装置及びタッチパネル制御方法

Country Status (2)

Country Link
JP (1) JP6833146B2 (ja)
WO (1) WO2020152849A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7014874B1 (ja) 2020-09-24 2022-02-01 レノボ・シンガポール・プライベート・リミテッド 情報処理装置及び情報処理方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5077774B2 (ja) * 2008-03-19 2012-11-21 株式会社デンソー 車両用操作入力装置
JP2011054069A (ja) * 2009-09-04 2011-03-17 Sharp Corp 表示装置及びプログラム
JP6200270B2 (ja) * 2013-10-11 2017-09-20 サターン ライセンシング エルエルシーSaturn Licensing LLC 情報処理装置及び情報処理方法、並びにコンピューター・プログラム
JP6101393B1 (ja) * 2016-08-28 2017-03-22 功 藤野 情報処理装置、制御方法およびプログラム

Also Published As

Publication number Publication date
JP6833146B2 (ja) 2021-02-24
WO2020152849A1 (ja) 2020-07-30

Similar Documents

Publication Publication Date Title
US6531999B1 (en) Pointing direction calibration in video conferencing and other camera-based system applications
WO2007066488A1 (ja) 表示装置及びタッチパネル操作制御方法
EP1983402A1 (en) Input device and its method
JP6275363B1 (ja) エレベータ表示システム
US20210074144A1 (en) Vehicle interior monitoring device and vehicle interior monitoring method
JP6039074B2 (ja) 撮像システム
US20200169705A1 (en) Vehicle system
JP2017199302A (ja) 判定装置、判定方法、判定プログラム及び記録媒体
CN110341475B (zh) 车辆用显示装置
JP6833146B2 (ja) タッチパネル制御装置及びタッチパネル制御方法
JP2011203873A (ja) 情報処理装置、表示切換え方法、プログラム及び記録媒体
JP2021512392A (ja) バーチャルコンテンツを表示するためのヘッドマウント式電子ディスプレイ装置の操作方法およびバーチャルコンテンツを表示するためのディスプレイシステム
JP6065985B2 (ja) ロボット、制御方法、及びプログラム
JP2006506681A (ja) ミラーディスプレイメッセージボード
JP2007238002A (ja) 車載電子機器およびメニュー提供方法
JP4888063B2 (ja) 手動操作装置
JP5857183B2 (ja) ジェスチャー解読装置
KR20150067679A (ko) 차량용 제스처 인식 시스템 및 그 방법
US20210256711A1 (en) Object tracking apparatus, object tracking method, and program
TW201926050A (zh) 車輛多螢幕控制系統及車輛多螢幕控制方法
JP2013196457A (ja) 表示装置、表示方法、及び表示プログラム
JP7272764B2 (ja) 情報提供システム
WO2024142170A1 (ja) 情報処理装置、情報処理方法、及び記録媒体
JP2016213675A (ja) 遠隔コミュニケーションシステム、その制御方法、及びプログラム
US11320669B2 (en) Non-contact operating apparatus for vehicle and vehicle

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201111

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20201111

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20201221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210202

R150 Certificate of patent or registration of utility model

Ref document number: 6833146

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees