JP6654743B2 - 電子機器、電子機器の操作制御方法および操作制御プログラム - Google Patents

電子機器、電子機器の操作制御方法および操作制御プログラム Download PDF

Info

Publication number
JP6654743B2
JP6654743B2 JP2015155208A JP2015155208A JP6654743B2 JP 6654743 B2 JP6654743 B2 JP 6654743B2 JP 2015155208 A JP2015155208 A JP 2015155208A JP 2015155208 A JP2015155208 A JP 2015155208A JP 6654743 B2 JP6654743 B2 JP 6654743B2
Authority
JP
Japan
Prior art keywords
unit
display object
user
touch
tactile
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015155208A
Other languages
English (en)
Other versions
JP2016095832A (ja
Inventor
芳賀 浩史
浩史 芳賀
山口 雄司
雄司 山口
Original Assignee
天馬微電子有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 天馬微電子有限公司 filed Critical 天馬微電子有限公司
Priority to CN201510732226.5A priority Critical patent/CN105589594B/zh
Priority to US14/933,649 priority patent/US11275440B2/en
Publication of JP2016095832A publication Critical patent/JP2016095832A/ja
Application granted granted Critical
Publication of JP6654743B2 publication Critical patent/JP6654743B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)

Description

本発明は電子機器、電子機器の操作制御方法およびプログラムに関し、特に視覚に障害のある人でも容易に操作することを可能とする電子機器等に関する。
従来より、指で入力可能なタッチパネルが搭載された表示装置は、入力に応じて表示内容や機器の動作を制御するシステムに組み込まれることで、使い勝手の良いインタラクティブな操作性の実現に貢献している。このため、スマートフォンやタブレット端末などのような、タッチパネルが組み込まれた電子機器が急速に普及している。
また、この種の電子機器の中で、不特定多数によって操作されることを前提とする公共性の高い用途の機器にも、そのようなタッチパネル付き表示装置を備えたものが多くなっている。より具体的には、駅にある券売機、銀行などにあるATM(現金自動預け払い機、Automated Teller Machine)、コンビニエンスストア店頭などにあるマルチメディアキオスク端末装置(例:株式会社ローソンの「Loppi(登録商標)」、株式会社ファミリーマートの「Famiポート(登録商標)」など)、あるいは飲料水の自動販売機などがそうである。
その一方で、タッチパネル付き表示装置の表面は一様に硬く、画面上に表示されているどの部分を触っても同じ触覚を持つ。そのため、タッチパネルのどこを触れば有効な入力が可能であるか、また有効な入力がなされたか否かを、視覚に頼ることなく(当該パネルを見ずに)知覚することは事実上不可能である。
視覚に障害のある人でも、テレビジョン受信機のリモコン、従来型の携帯電話端末(フィーチャーフォン)、パーソナルコンピュータのキーボードなどのように、各々独立した操作キーを備えた機器であれば、操作キーの位置や配置を覚えさえすれば操作することは可能ではある。しかしながら、視覚に障害のある人が、タッチパネル付き表示装置を備えた電子機器を操作することはほとんど不可能である。特に、前述した券売機やATMなどのような機器で、視覚障害者がそれらの機器を利用しやすくするための対策が求められている。
特許文献1には、タッチパネル付き表示装置の前面の特定の位置に電極を埋め込み、その電極に特定の周波数の電圧信号を印加することによって、その電極を埋め込んだ箇所を電気的に振動させ、これを利用して当該装置表面に触れたユーザの指に触覚(テクスチャ感、ざらざら感)を提示するという技術が記載されている。
しかしながら、この技術では、電極に電圧信号を伝えるための配線にまでテクスチャ感が与えられることとなる。特に、多くの箇所にテクスチャ感を与えようとして多くの電極を埋め込むと、複雑な配線が必要となり、必要のない箇所にテクスチャ感が与えられることが多くなる。
さらに、この技術では、あらかじめ電極の埋め込まれている箇所にしかテクスチャ感を提示することができない。表示オブジェクトに対応してテクスチャ感を提示する位置や個数を変更することは、電極の再配置を伴うので、事実上不可能である。
また、他にこれに関連する技術文献として、以下の各々もある。特許文献2には、タッチパネルを振動させて操作するユーザの指先にフィードバックを与えるという技術で、当該タッチパネルを小型化かつ省電力化するという技術が記載されている。特許文献3には、タッチパネルが振動し、指を離した時点でユーザが触れていたキーの内容を入力内容とするという技術が記載されている。
特許文献4には、プリンタやコピーなどの機能を合わせたいわゆる複合機において、タッチパネルにユーザが触れる位置と時間に応じて当該機器の設定操作を行う際、その設定内容を音声によって読み上げ、かつその設定に応じたパターンに従って当該タッチパネルを振動させるという技術が記載されている。
特開2011−248884号公報 特開2009−169612号公報 特開2003−016502号公報 特開2014−131133号公報 国際公開第2011/052484号明細書 米国特許出願公開第2008/0204420号明細書
前述した特許文献1に記載した先行技術に示した触覚提示装置を備えたタッチパネル付き表示装置によれば、ユーザは視覚に頼らなくても、タッチ入力の対象である表示オブジェクトの所在を触覚のみで探り当てることは一応できる。
しかしながら、実際に当該機器を視覚に頼らずに操作するには、各表示オブジェクトの配置と、それら各々に対応する操作内容とを、あらかじめ記憶している必要がある。なぜなら、触覚を通じて知ることができるのは「表示オブジェクトの所在」のみであり、各々の表示オブジェクトがどのような操作内容に対応しているかを視覚に頼らずにその場で知る方法は無いからである。
券売機やATMなどのような公共性の高い用途に利用される機器で、視覚障害者がそれらの機器を利用しやすくするための対策が求められていることは前述の通りであるが、それらの機器において、表示オブジェクトの配置とそれらに対応する操作内容は、各々の機器ごと、あるいは同一の機器でもその入力操作を行う場面ごとに、千差万別である。パーソナルコンピュータのキーボードのいわゆるQWERTY配列などのように、それらの機器全てで、また入力操作を行う場面の全てで、操作体系を統一された共通のフォーマットとすることは現実的に可能なことではない。
従って、それらの機器ごとに異なる表示オブジェクトの配置と操作内容とを、ユーザが予め記憶するということは極めて困難である。視覚障害者が当該機器を利用しやすくするための対策として、これではまだ不十分であり、さらに特許文献1に記載した先行技術には、前述したような「必要のない箇所にテクスチャ感が与えられる」という問題や、「位置や個数の変更が事実上不可能である」という問題などもある。以上のような点を解決する技術は、残る特許文献2〜4のいずれにも記載されていない。
本発明の目的は、視覚に障害のある人でも、表示オブジェクトに対応した位置に提示された触覚(テクスチャ感)を利用して容易に利用することを可能とする電子機器、電子機器の操作制御方法およびプログラムを提供することにある。
上記目的を達成するため、本発明に係る電子機器は、ユーザによる操作対象範囲を含む操作画面を表示する視覚表示部と、操作対象範囲内に表示されている表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容を検出するタッチ座標検出部と、操作画面上で当該ユーザが知覚可能な触覚を提示する触覚提示部とを備えた電子機器であって、操作画面上に表示オブジェクトに対応した触覚を触覚提示部を介してユーザに提示する触覚提示制御手段と、タッチ座標検出部によって表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が1秒間以上続いたか否かを検出する操作内容取得手段と、当該状態が1秒間以上続いた場合に、当該表示オブジェクトの意味を理解することのできる音を予め備えられた出力部を介して外部出力する出力制御手段とを有すること、を特徴とする。そして、操作内容取得手段は、タッチ位置の時間的な変化の検出にかかわらず、表示オブジェクトに対応する位置で操作画面上を叩く動作を検出した場合に、表示オブジェクトに対応づけられた所定の機能を実行するように制御される。
上記目的を達成するため、本発明に係る電子機器の操作制御方法は、ユーザによる操作対象範囲を含む操作画面を表示する視覚表示部を備えた電子機器を操作制御する方法であって、アプリケーション実行手段が処理を実行して得られる内容である操作画面を操作画面表示制御手段が作成して視覚表示部に表示させ、この操作画面上の操作対象範囲内に当該ユーザが知覚可能な操作画面に対応した触覚を触覚提示制御手段が触覚提示部を介して提示し、操作対象範囲内に表示されている表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容をタッチ座標検出部が検出し、表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が1秒間以上続いたか否かを操作内容取得手段が検出し、当該状態が1秒間以上続いた場合に、当該表示オブジェクトの意味を理解することのできる音出力制御手段が予め備えられた出力部を介して外部出力すること、を特徴とする。そして、操作内容取得手段が、タッチ位置の時間的な変化の検出にかかわらず、表示オブジェクトに対応する位置で操作画面上を叩く動作があったか否かを検出し、叩く動作が検出された場合に、操作内容取得手段が、表示オブジェクトに対応する操作内容をアプリケーション実行手段に実行させる。
上記目的を達成するため、本発明に係る電子機器の操作制御プログラムは、ユーザによる操作対象範囲を含む操作画面を表示する視覚表示部と、操作対象範囲内に表示されている表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容を検出するタッチ座標検出部と、操作画面上で当該ユーザが知覚可能な触覚を提示する触覚提示部とを備えた電子機器にあって、電子機器が備えるプロセッサに、処理を実行して得られる内容である操作画面を作成して視覚表示部に表示させる手順、この操作画面上の操作対象範囲内に当該ユーザが知覚可能な操作画面に対応した触覚を触覚提示部を介して提示する手順、操作対象範囲内に表示されている表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容を検出する手順、表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が1秒間以上続いたか否かを検出する手順、および当該状態が1秒間以上続いた場合に、当該表示オブジェクトの意味を理解することのできる音出力制御手段が予め備えられた出力部を介して外部出力する手順を実行させること、を特徴とする。そして、タッチ位置の時間的な変化の検出にかかわらず、表示オブジェクトに対応する位置で操作画面上を叩く動作があったか否かを検出し、叩く動作が検出された場合に、表示オブジェクトに対応する操作内容を実行する手順をさらに実行させる。
本発明は、上記した通り、表示オブジェクトに対応した触覚を提示し、タッチ位置の時間に伴う変化が閾値以下である状態が1秒間以上続いた場合に表示オブジェクトに対応する音を出力するように構成したので、表示オブジェクトの配置とそれに対応する操作内容とをユーザが予め記憶していなくても、ユーザがその触覚を感知して操作を行うことが可能となる。これによって、視覚に障害のある人でも容易に利用しうる電子機器、電子機器の操作制御方法およびプログラムを提供することができる。
一方、本発明は、タッチ位置の時間に伴う変化が閾値以下である状態が1秒間以上続いた場合に表示オブジェクトに対応する音を出力するように構成したので、視覚に障害が無い人が表示オブジェクトに対してタップ等の操作をした場合には、音が出力されない。このため視覚に障害が無い人にとっては、本来不要な音が出力されない状態で入力操作ができるので快適に利用できる。
このように、本発明は視覚に障害のある人も無い人も、容易にあるいは快適に利用しうる電子機器、電子機器の操作制御方法およびプログラムを提供することができる。
第1の実施形態に係る電子機器の構成について示す説明図である。 図1に示した電子機器で、統括制御部のより詳しい構成について概念的に示す説明図である。 図1に示した電子機器で、触覚提示部のより詳しい構成について概念的に示す説明図である。 図3に示した触覚提示部の駆動方法について示す説明図である。 図3および図4で示した触覚提示部の断面モデルについて示す説明図である。 図3〜4に示した触覚提示装置で、指に働く引力の周波数に対する触覚の変化をユーザが知覚するために必要な電圧信号の振幅の閾値の関係を測定したグラフである。 図1〜2に示した電子機器で、統括制御部(特に操作内容取得手段)が行う動作について示すフローチャートである。 図1〜2に示した電子機器の操作方法について示す説明図である。図8(a)は操作画面表示制御手段が操作画面を視覚表示部(操作対象範囲)に表示させた状態、図8(b)は操作対象範囲上にユーザが指を置いてサーチを行っている状態、図8(c)はユーザが操作対象範囲上の特定の位置を長押ししている状態、図8(d)はユーザが操作対象範囲上の特定の位置をタップしている状態を各々示す。 関連技術に係る電子機器の動作を示すフローチャートである。 指の速度の測定に用いた装置およびユーザの手の写真である。図10(a)はユーザが操作対象領域をサーチしていない時の写真、図10(b)はユーザが対象領域をサーチしている時の写真である。 指先の速度の時刻変化を測定した結果を示すグラフである。 関連技術に係る電子機器における表示オブジェクトの位置と触覚の位置とのズレを説明する図である。図12(a)は指を右方向に動かした場合の表示オブジェクトの位置と触覚が発生するときに指が存在する位置とを示した図であり、図12(b)は指を左右方向に動かした場合の表示オブジェクトの位置と触覚が発生するときに指が存在する位置とを示した図である。 第1の実施形態に係る電子機器の動作を示すフローチャートである。 第1の実施形態に係る電子機器における表示オブジェクトの位置と触覚の位置とのズレを説明する図である。図14(a)は指を右方向に動かした場合の表示オブジェクトの位置と触覚が発生する位置とを示した図であり、図14(b)は指を左右方向に動かした場合の表示オブジェクトの位置と触覚が発生する位置とを示した図である。 本発明の第2の実施形態に係る電子機器の構成について示す説明図である。 図15に示した電子機器で、統括制御部のより詳しい構成について概念的に示す説明図である。 図15〜16に示した電子機器で、統括制御部(特に操作内容取得手段)が行う動作について示すフローチャートである。 本発明の第3の実施形態に係る電子機器の構成について示す説明図である。 図18に示した電子機器を搭載した移動体を説明する図である。
(第1の実施形態)
以下、本発明の第1の実施形態の構成について図1に基づいて説明する。
本発明の第1の実施形態に係る電子機器100は、ユーザによる操作対象範囲61を含む操作画面を表示する視覚表示部20と、操作対象範囲内に表示されている表示オブジェクト62a、62b、…に対して当該ユーザが行ったタッチ操作の内容を検出するタッチ座標検出部30と、操作画面上で当該ユーザが知覚可能な触覚を提示する触覚提示部40とを備えた電子機器である。ここで、電子機器100は、操作画面上に表示オブジェクトに対応した触覚を触覚提示部を介してユーザに提示する触覚提示制御手段13と、タッチ座標検出部によって表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が予め設定した時間以上続いたか否かを検出する操作内容取得手段14と、当該表示オブジェクトに対応する感覚刺激情報を予め備えられた感覚刺激情報出力部(音出力部50)を介して外部出力する感覚刺激情報出力制御手段(音出力制御手段15)とを有する。この感覚刺激情報は、音として構成することができる。
ここで、触覚提示部40は、操作画面上の第1の領域と第2の領域とで、同時に異なる触覚を提示可能に構成されている。また、統括制御部10は、作成された操作画面上の表示オブジェクトに対応する位置に対して、当該ユーザがタッチ操作を行うよりも前の時点で、当該ユーザが知覚可能な触覚を提示させるよう、触覚提示部40を駆動する触覚提示制御手段13を備える。
そして、操作内容取得手段14は、表示オブジェクトに対応する位置で操作画面上を叩く動作が検出された場合に、当該表示オブジェクト62a、62b、…に対応づけられた所定の機能を実行するように制御される。
以上の構成を備えることにより、この電子機器100は、視覚に障害のある人でも、提示された触覚(テクスチャ感)を利用して容易に利用できるものとなる。
以下、これをより詳細に説明する。
図1は、本発明の第1の実施形態に係る電子機器100の構成について示す説明図である。電子機器100は、視覚表示部20と、タッチ座標検出部30と、触覚提示部40と、これら全体の動作を統括制御する統括制御部10とを備える。視覚表示部20は、典型的には液晶ディスプレイ装置であり、統括制御部10によって行われた処理の結果としての操作画面をユーザに対して表示する。
タッチ座標検出部30は、典型的には液晶ディスプレイ装置である視覚表示部20の額縁部分に配設した光学式のタッチセンサであり、視覚表示部20に表示された操作画面に対してユーザが行うタッチなどの操作を受け付け、当該操作画面上でその操作が行われた点を座標入力情報として統括制御部10に入力する。
触覚提示部40は、視覚表示部20の表面に貼られた触覚提示パネルである。視覚表示部20、タッチ座標検出部30、および触覚提示部40は、共通した操作対象範囲61を持つ。操作対象範囲61は、視覚表示部20が操作画面を表示する範囲であり、かつタッチ座標検出部30がユーザが行う操作を受け付ける範囲でもある。なお、図1では下から視覚表示部20、触覚提示部40、タッチ座標検出部30の順で積層されている形で図示しているが、操作対象範囲61が共通して機能してさえいれば、その順序は特に問わない。
より具体的な構成については後述するが、触覚提示部40は、操作対象範囲61の中の(操作ボタンなど)特定の表示オブジェクト62a、62b、…の個々に対応した位置に触覚(テクスチャ感)を提示し、ユーザが当該表示オブジェクトの位置を触覚のみで判別可能とする。
統括制御部10は、典型的にはコンピュータプログラムを実行する主体としてのプロセッサであり、操作制御プログラムが実行されることによって次段で説明する各動作手段として機能する。また、統括制御部10には音出力部50も併設されている。音出力部50は、典型的にはスピーカーやイヤホンなどであり、統括制御部10によって行われた処理の結果としての音をユーザに対して出力する。なお、統括制御部10が、視覚表示部20とタッチ座標検出部30および触覚提示部40と同一の筐体内にある必要はない。
図2は、図1に示した電子機器100で、統括制御部10のより詳しい構成について概念的に示す説明図である。統括制御部10は、操作制御プログラムが実行されることにより、アプリケーション実行手段11、操作画面表示制御手段12、触覚提示制御手段13、操作内容取得手段14、および音出力制御手段15の各々として機能する。また、統括制御部10は、操作制御プログラムの動作に必要な各種データ(後述する時刻パラメータ、タッチ位置ベクトルなど)を一時的に記憶する一時記憶手段16も併設されている。
アプリケーション実行手段11は、視覚表示部20およびタッチ座標検出部30によって行われるユーザの入力操作に対応する一般的な動作を行い、その結果としての操作画面を視覚表示部20に表示させる。また、視覚表示部20に表示された操作画面の内容に応じて、触覚提示部40にも動作指令を与える。また、音出力制御手段15に対して再生すべき音を指定し、当該音を再生するように指令を与える。
ここでいう一般的な動作とは、電子機器100が券売機や自販機などである場合には、ユーザが選択した物の販売などである。また、電子機器100が銀行ATMである場合には、ユーザの操作に応じた入出金、振込、振替などの処理である。もちろん、電子機器100にはそれらの動作を行うための特有の機構なども備えられているが、それらはここで詳しく説明する必要の無いものであるので、特に図示していない。
操作画面表示制御手段12は、アプリケーション実行手段11の行っている動作に対応した操作画面を視覚表示部20に表示させる。触覚提示制御手段13は、その操作画面の中で特定の表示オブジェクト62a、62b、…に対応した位置に触覚(テクスチャ感)を提示するよう、触覚提示部40を制御する。
操作内容取得手段14は、表示された操作画面に対してユーザがタッチ座標検出部30に入力した操作の内容である座標入力情報から、ユーザが意図する操作内容を検出し、検出された操作内容をアプリケーション実行手段11に渡す。音出力制御手段15は、アプリケーション実行手段11からの出力を受け、アプリケーション実行手段11によって指定された音を音出力部50を介して出力する。
(第1の実施形態:触覚提示部について)
図3は、図1に示した電子機器100で、触覚提示部40のより詳しい構成について概念的に示す説明図である。触覚提示部40は、平面状の支持基板41上のx方向に延在する複数のX電極42と、支持基板41上でX電極42と直交するy方向に延在する複数のY電極43と、X電極42の各々に接続されたX電極駆動回路44と、Y電極43の各々に接続されたY電極駆動回路45と、X電極駆動回路44およびY電極駆動回路45の各々に接続された制御部46とによって構成されている。
X電極42とY電極43とはその交差部で絶縁膜を介して交差し、両者の電気的な絶縁が保たれている。また、X電極42とY電極43の上には絶縁膜が形成され、ユーザが電子機器100表面を上から指で触った場合に、X電極42と指、およびY電極43と指との間を電気的に絶縁している。
制御部46は、触覚提示制御手段13から入力されたテクスチャ感を提示しようとする対象領域についての情報に基づいてX電極駆動回路44およびY電極駆動回路45を制御する。X電極駆動回路44およびY電極駆動回路45は、制御部46から入力された制御情報に応じて、X電極42もしくはY電極43のうちの必要な範囲の電極に、必要な周波数の電圧信号を印加する。
図4は、図3に示した触覚提示部40の駆動方法について示す説明図である。ここで、各々のX電極42およびY電極43には、各電極ごとに異なる記号によって区別するものとする。即ち、図4に示す例では、支持基板41上に28本のX電極42と46本のY電極43とが形成されているが、それら各々のX電極42を下から上方向にX00〜X27といい、各々のY電極43を右から左方向にY03〜Y48という。
また、テクスチャ感を提示しようとする領域を対象領域47とする。対象領域47は、X電極42ではX11〜X14の範囲、Y電極43ではY24〜Y27の範囲である。制御部46は、外部から与えられた対象領域47の情報に基づいて、X電極駆動回路44およびY電極駆動回路45に制御信号を与える。
この制御信号を受けて、X電極駆動回路44はX11〜X14に周波数f=1000Hzの電圧信号を印加し、Y電極駆動回路45はY24〜Y27に周波数f=1240Hzの電圧信号を印加する。ここで、X電極駆動回路44およびY電極駆動回路45は、それらに該当しないX電極42およびY電極43について、電極同士の容量結合によって電圧が誘起されることを防ぐため、図4に示した例では接地している。または、接地するかわりに直流電圧、もしくは2240Hz以上の周波数の電圧信号を印加してもよい(この点について理由は後述する)。
X電極42およびY電極43に上記の信号を印加し、触覚提示部40の表面を指でなぞるとX11〜X14とY24〜Y27が交差する対象領域47のみでテクスチャ感が知覚される。この電圧信号を印加する電極を任意に選択することで、任意の所定の領域にテクスチャ感を提示することができる。また、全てのX電極および全てのY電極を選択することで、X電極とY電極の交差部全てを内包する領域全体にテクスチャ感を提示することもできる。
発明者らは、実験によって、X11〜X14の電極上の領域から対象領域47を除いた領域ではテクスチャ感が提示されず、またY24〜Y27電極上の領域から対象領域47を除いた領域でもテクスチャ感が提示されないことを確認した。即ち、人間の指は電極に印加する電圧信号の周波数が1000Hzや1240Hzの場合にはテクスチャ感を知覚しない性質であることを、発明者らは確認した。
一方、対象領域47では、f=1000Hzの電圧信号が印加されたX電極とf=1240Hzの電圧信号が印加されたY電極とが互いに隣接しているので、波動の分野で知られるうなりが生じている。以下、うなりによってテクスチャ感が提示される機構について説明する。
図5は、図3および図4で示した触覚提示部40の断面モデルについて示す説明図である。前述の通り、複数のX電極42と複数のY電極43とは、平面状の支持基板41(図5上には示されない)上で隣り合うように配置されている。ここで、X電極42およびY電極43のうち、対象領域47内に配置された2つのX電極42と2つのY電極43とに対向する位置に、指をモデル化した電極48が一つ配置されている。人体には接地効果があるので、この電極48は抵抗値Rを有する抵抗49を介して接地されているものとしてモデル化することができる。
今、対象領域47内のX電極42に、V=Acos(2πft)で表される電圧信号Vを印加する。電圧信号Vの振幅はA、周波数はfであり、tは時刻を表す。また、対象領域47内のY電極43に、V=Acos(2πft)で表される電圧信号Vを印加する。電圧信号Vの振幅は電圧信号Vの振幅と等しいA、周波数はfである。
電極48と対象領域47内のX電極42の各々との間は静電容量Cを有する平行平板コンデンサとしてモデル化することができ、電極48と対象領域47内のY電極43の各々との間は静電容量Cを有する平行平板コンデンサとしてモデル化することができる。
このとき、電極48に現れる電圧Vは、抵抗値Rが十分高いとき、V=(V+V)/2となる。
ひとつのX電極42と指をモデル化した電極48との間に働く静電気力を図3に示すようにFe1とあらわす。Fe1は、平行平板コンデンサの電極間に働く力として知られている公式を適用すると、次のように求められる。ここでεはX電極上の絶縁膜の誘電率、Sは平行平板コンデンサの電極面積である。
Figure 0006654743
同様に、ひとつのY電極43と指をモデル化した電極48との間に働く静電気力を図3に示すようにFe2とあらわすとFe2は次のように求められる。
Figure 0006654743
静電気力Fe1と静電気力Fe2とを人の指先で区別できない程度に電極の間隔が細かいのであれば、Fe1およびFe2の個々の力を合計した力がマクロ的に指に働くものとみなすことができる。指をモデル化した電極48に働くすべての力の合計Fは、図3よりF=2(Fe1+Fe2)であるから、前記のV、V、数1および数2の値を用いることで、次のように得ることができる。
Figure 0006654743
〔数3〕より、モデル化した電極48に働くすべての力の合計Fは、値域が[0、A/(εS)]で周波数が(f+f)である周期関数に、値域が[0、2]で、周波数が(f−f)の絶対値である周期関数を乗算して得られるものであることがわかる。その包絡線の周波数は(f−f)の絶対値となる。
この基本形態では、周波数f=1000Hz、周波数f=1240Hzとしているため、その差の絶対値は240Hzとなる。このため指に働く引力Fは、〔数3〕に示すように240Hzで変化する。従って、人間が触覚提示部40の表面を指でなぞると、240Hzの周波数で摩擦力の変化が生じる。240Hzは人間の皮膚の機械受容器が感度を有する周波数であるので、テクスチャ感の知覚をもたらすことができる。
さらに発明者らは、電圧信号の周波数に対するテクスチャ感の知覚の有無を実験によって確認した。支持基板41上の全てのX電極42およびY電極43に同一の電圧信号を印加し、テクスチャ感の有無を確認した結果、電圧信号の周波数が5Hzより大きく500Hz未満の範囲内にある場合にテクスチャ感が知覚され、電圧信号の周波数がこの範囲内にない場合にはテクスチャ感が知覚されないことが確認された。
また、支持基板41上の全てのX電極42に周波数fの電圧信号を印加し、全てのY電極43に周波数fの電圧信号を印加し、fとfとの差の絶対値に対するテクスチャ感の知覚の有無を実験的に確認した。その結果、fとfとの差の絶対値が10Hzより大きく1000Hz未満の場合テクスチャ感が知覚され、fとfとの差の絶対値が10Hz以下または1000Hz以上の場合テクスチャ感が知覚されないことが確認された。
これらの結果から、X電極に印加する電圧信号の周波数をfとし、Y電極に印加する電圧信号の周波数をfとした場合、fおよびfを共に500Hz以上とし、fとfとの差の絶対値が10Hzより大きく1000Hz未満となるようにfとfを設定すれば、周波数fの電圧信号を与えたX電極と周波数fの電圧信号を与えたY電極とが交差する領域にテクスチャ感を提示し、他の領域にはテクスチャ感を提示しない触覚提示部40が実現可能となる。
さらに、〔数3〕とその考察に記載した事項から、指に働く引力の周波数がテクスチャ感の知覚に作用していると考えられたので、発明者らは指に働く引力の周波数と触覚の知覚との関係を確認する実験を行った。図6は、図3〜4に示した触覚提示部40で、指に働く引力の周波数に対する触覚の変化をユーザが知覚するために必要な電圧信号の振幅の閾値の関係を測定したグラフである。
図6のグラフは、支持基板41上の全てのX電極42と全てのY電極43に、同一の電圧信号を周波数を変えながら印加し、触覚の変化を知覚するのに必要な振幅の閾値を測定した結果である。下軸は全てのX電極42と全てのY電極43に印加した電圧信号の周波数、左軸は触覚の変化を知覚するのに必要な電圧信号の振幅の閾値を示している。
この実験では、操作者の指に働く引力の周波数は印加した電圧信号の周波数fの2倍となる。この関係を導出するためには、図5に示した抵抗R49の抵抗値を無限大を除いた有限な値、極端にはゼロと置き、X電極42およびY電極43に印加する電圧信号の周波数を共にfと置いて静電気力Fを求めればよい。図6では、指に働く引力の周波数を上軸に示している。即ち、指に働く引力の周波数と知覚に必要な振幅の閾値との関係は図6の上軸と左軸とによって表される。
図6のグラフより、指に働く引力の周波数が200Hz付近のとき、閾値が最小値となることがわかる。即ち、人間の皮膚の受容器は、指に働く引力の周波数が200Hz付近で、最も高い感度でテクスチャ感を知覚するといえる。また、この図6のグラフより、閾値と周波数の関係のグラフの谷底は指に働く引力の周波数が200Hz付近であることだけでなく、グラフの谷の始まりと終わりは各々10Hz付近と1000Hz付近であることもわかる。
即ち、引力の周波数が10〜1000Hzの範囲内でテクスチャ感が知覚される。この範囲外の周波数ではテクスチャ感が知覚されず、摩擦感が知覚される。
以上の実験での作用は、次の通り説明できる。支持基板41上の所定のX電極42に周波数fの電圧信号を印加し、所定のY電極43に周波数fと異なる周波数fの電圧信号を印加すると、当該X電極と当該Y電極の交差部を含む対象領域47では周波数(f−f)の絶対値の引力が指に働く。
このため、周波数(f−f)の絶対値を10Hzより大きく1000Hz未満とすれば、所定のX電極42と所定のY電極43の交差部を含んでなる対象領域47にテクスチャ感を提示することができる。
当該交差部を含んでなる対象領域47を除いた前記X電極上の領域では、平行平板コンデンサの電極間に働く力の公式から、周波数fの2倍の周波数の引力が指にはたらき、当該交差部を含んでなる対象領域47を除いた前記Y電極上の領域では周波数fの2倍の周波数の引力が指に働く。
このためfおよびfを共に500Hz以上とすることで所定のX電極と所定のY電極の交差部を含んでなる対象領域47を除く所定のX電極上の領域又は所定のY電極上の領域では共に1000Hz以上の引力が指に働き、テクスチャ感が提示されない。従って、対象領域47を第1の領域と称し、他の領域を第2の領域と称すと、当該触覚提示部を第1の領域と第2の領域とで、同時に異なる触覚を提示可能なように構成することもできる。
既存の触覚提示装置(前述の特許文献1)では、テクスチャ感を提示するための各電極に対して独立した複数の配線を引き回すためのスペースが必要であり、その結果テクスチャ感を提示するための電極同士の間隔が広くなり、触覚提示装置の空間解像度が低い、という問題点を有している。その点、この触覚提示部40では、テクスチャ感を提示するための電極が配線を兼ねているので、空間解像度を高めることができる。
さらにこの形態によれば、電極の形状が視認されにくくなるため、視覚表示部20と重ね合わせて利用する場合にも、表示装置本来の表示品位の低下を抑制することができる。そして、既存の触覚提示装置では、配線が引き回された領域に本来不要なテクスチャ感が提示されるという問題を有しているが、この形態によればこの問題も解消される。
以上で説明した例では対象領域47が1つのみであるが、この例は対象領域が複数箇所である場合にも容易に拡張できる。即ち、X電極とY電極の各々に印加される周波数の差の絶対値が、各々の対象領域においては10〜1000Hzの範囲内(望ましくは200Hz付近)、対象領域以外においてはその範囲外となるよう、電圧信号を印加する電極番号とその周波数とを決定すればよい。
このように、この触覚提示部40は、X電極42およびY電極43の上の触覚提示面上の任意の領域に、他の領域と異なる触覚を提示することが可能である。その領域の位置あるいは触覚提示の有無は、X電極42およびY電極43に印加する電圧信号によって自在に制御可能である。また、その電圧信号の波形および振幅を変更することによって、多様な触覚を提示することが可能である。
第1の実施形態で用いた触覚提示部は次の特徴を有する触覚提示装置で構成される。即ち、支持基板41と、支持基板上の第1の方向に延在している互いに平行な複数のX電極42と、支持基板上の第2の方向に延在しかつX電極と互いに絶縁されている互いに平行な複数のY電極43とを備え、各X電極のうち外部から入力された対象領域47に該当するX電極に対して第1の周波数の電圧信号を印加し、各Y電極のうち対象領域に該当するY電極に対して第2の周波数の電圧信号を印加する駆動回路を備えると共に、第1および第2の周波数がいずれも500[Hz]以上であり、第1および第2の周波数の差の絶対値が10[Hz]より大きく1000[Hz]未満である期間を有する触覚提示装置である。
(第1の実施形態:操作内容取得手段について)
図7は、図1〜2に示した電子機器100で、統括制御部10(特に操作内容取得手段14)が行う動作について示すフローチャートである。ここで説明する動作において、操作内容取得手段14が検出する入力操作と、その操作の検出条件についてまず説明する。
まず、電子機器100で、視覚表示部20が操作画面を表示する範囲であり、かつタッチ座標検出部30がユーザが行う操作を受け付ける範囲でもあり、さらに触覚提示部40が操作画面の中の(操作ボタンなど)特定の表示オブジェクト62a、62b、…に対応した位置に触覚(テクスチャ感)を提示する対象でもある範囲のことを、操作対象範囲61と呼ぶことにする。
そして、ユーザの指が操作対象範囲61に触れることを「タッチダウン」という。タッチダウンの最中、タッチ座標検出部30によって座標入力情報が検出される。またユーザの指が操作対象範囲61から離れることを「タッチアップ」という。
ユーザの指が操作対象範囲61を軽く叩く動作を「タップ」という。タップの発生条件は、「タッチダウンの発生後1秒以内に、タッチアップが、タッチ位置の変化を伴わずに行われた」ということである。ここで、人間が自分の指で行う操作の誤差などに起因するタッチ位置の変動の影響を抑制するため、タッチダウンとタッチアップの各々の発生時点におけるタッチ位置の変化が、タップ検出閾値Sより小さければ「タッチ位置が変化していない」と判断する。
ユーザの指が操作対象範囲61を触りながら移動し続ける、即ちステップS102の処理によって触覚(テクスチャ感)が提示されている表示オブジェクト62a、62b、…を手探りで探す動作を「サーチ」という。サーチの継続条件は、「1秒以上の静止を伴わずに、タッチ位置を変化させ続けている」ということである。ここでも、操作の誤差などに起因するタッチ位置の変動の影響を抑制するため、位置検出の処理が行われる1サイクル(典型的には1/120秒間)のタッチ位置の移動が静止検出閾値vより小さければ「静止している」と判断する。
タップ検出閾値Sが「1秒間のタッチ位置の変化」を判断するための閾値であるのに対して、静止検出閾値vは「1サイクル(1/120秒間)のタッチ位置の変化」を判断するための閾値であるという点で違いがある。もちろんこの「1秒間」「1/120秒間」などの時間的条件は、必要に応じて変更可能な設計事項である。
ユーザの指が操作対象範囲61上の特定の位置で1秒以上静止させる動作を「長押し」という。長押しの発生条件は「同じ位置にタッチした状態が1秒以上継続された」ということである。ここでも、「サーチ」の判定と同様の条件で、タッチ位置が静止しているか否かを判断する。
アプリケーション実行手段11がユーザによる入力操作を受け付ける状態になると、操作画面表示制御手段12がその入力操作を受け付ける状態の操作画面を視覚表示部20(操作対象範囲61)に表示させ(ステップS101)、また触覚提示制御手段13がそれに対応してその操作対象範囲61中の特定の表示オブジェクト62a、62b、…に対応した位置に触覚(テクスチャ感)を提示するよう触覚提示部40を制御する(ステップS102)。
そして操作内容取得手段14は、時刻パラメータk=0、タッチ位置ベクトルr=(0,0)と初期設定して一時記憶手段16に記憶し(ステップS103)、操作対象範囲61内でのタッチダウンの発生を待ち受ける状態となる(ステップS104)。もちろんこのrの初期値は設定例の一つに過ぎない。
タッチダウンが発生しなければ(ステップS104がノー)、その待ち受け状態を継続する。タッチダウンが発生すれば(ステップS104がイエス)、操作内容取得手段14は、時刻パラメータn=0と初期設定して(ステップS105)、nの値をインクリメント(1つ増加)して一時記憶手段16に記憶し(ステップS106)、現在の時刻パラメータnの値においてのタッチ位置であるタッチ位置ベクトルrを取得し、同時にこれを一時記憶手段16に記憶する(ステップS107)。
そして操作内容取得手段14は、現在の時刻パラメータ(n)におけるタッチ位置ベクトルrと、一時記憶手段16に記憶されている現在より一つ前の時刻パラメータ(n−1)におけるタッチ位置ベクトルrn−1との間の距離が、静止検出閾値vより小さいか否か、即ち|r−rn−1|<vか否かを判定する(ステップS108)。
典型的にはこの位置検出の処理は1秒間に120回の頻度で行われるので、rn−1は換言すればrよりも1/120秒前の時刻におけるタッチ位置であり、|r−rn−1|は1/120秒間におけるタッチ位置の移動速度であると考えることができる。これが静止検出閾値vより小さいか否かを判断するということは、人間が自分の指で行う操作の誤差などに起因するタッチ位置の変動を考慮に含めつつ、タッチ位置が変化せずに静止した状態であるか否かを判断するということを意味する。
静止していないと判断されたら(ステップS108がノー)、操作内容取得手段14は、時刻パラメータk=0にリセットして一時記憶手段16に記憶し(ステップS109)、タッチアップの発生を待ち受ける状態となる(ステップS110)。タッチアップが発生しなければ(ステップS110がノー)、ステップS106からの処理を繰り返す。
タッチアップが発生すれば(ステップS110がイエス)、操作内容取得手段14は、タッチアップが発生した時点のタッチ位置ベクトルであるrと、一時記憶手段16に記憶されているタッチダウンが発生した時点のタッチ位置ベクトルであるrとの間の距離が、タップ検出閾値Sより小さいか否か、即ち|r−r|<Sか否かを判定する(ステップS111)。これがイエスであれば、操作内容取得手段14は引き続いて時刻パラメータk<120であるか否かを判定する(ステップS112)。ステップS111およびS112のいずれかがノーであればステップS103に処理が戻り、初期設定から操作内容取得手段14による処理をやり直すこととなる。
この、タッチダウンとタッチアップの各々の発生時点におけるタッチ位置の変化が、タップ検出閾値Sより小さいか否かを判断するということは、前述のような操作の誤差などに起因するタッチ位置の変動を考慮に含めつつ、タッチダウンからタッチアップまでの間でタッチ位置が変化していない状態であるか否かを判断するということを意味する。そして時刻パラメータk<120であるか否かを判断するということは、位置検出の処理は1秒間に120回の頻度で行われるので、タッチダウンからタッチアップまでの時刻が1秒以内であるか否かを判断するということを意味する。
ステップS111およびS112の両方がイエスであれば、「タッチダウンの発生後1秒以内に、タッチアップが、タッチ位置の変化を伴わずに行われた」ことという「タップの発生条件」を満たしたこととなるので、操作内容取得手段14はアプリケーション実行手段11に、その座標位置においてタップ操作が発生したことを通知して(ステップS113)ステップS103に処理を戻す。
ステップS108がイエス、即ち静止している状態でタッチが継続されている状態と判断されたら、操作内容取得手段14は時刻パラメータkの値をインクリメントして一時記憶手段16に記憶し(ステップS114)、k>120であるか否か、即ちタッチが1秒以上継続されたか否かを判定する(ステップS115)。これがノーであれば、ステップS110に進んでタッチアップの発生を待ち受ける。
ステップS115がノーとなるという状態は、即ちユーザが操作対象範囲61に触れながら、ステップS102の処理によって触覚(テクスチャ感)が提示されている箇所を手探りで探している状態、即ち「1秒以上の静止を伴わずに、タッチ位置を変化させ続けている」という「サーチの継続条件」を満たしている。従って、この状態では、時刻パラメータkのリセットは伴わない。
ステップS115がイエスであれば、「同じタッチ位置にタッチした状態が1秒以上継続された」という「長押しの発生条件」を満たすので、操作内容取得手段14は、アプリケーション実行手段に対して、長押しの発生条件が満たされたことおよびそのタッチ座標を送信する。アプリケーション実行手段11はそのタッチ座標に基づいて表示オブジェクトに対応した音を出力するよう音出力制御手段15に指示してから(ステップS116)、時刻パラメータkを0にリセットして(ステップS117)、ステップS106からの処理を繰り返す。指示を受けた音出力制御手段15は、その音を音出力部50を介して出力する。以後、この動作は電子機器100が動作を終了するまで繰り返される。
(第1の実施形態:具体的な操作方法)
以上で説明した動作によって実現される電子機器100の操作方法について説明する。図8は、図1〜2に示した電子機器100の操作方法について示す説明図である。図8(a)は操作画面表示制御手段12が操作画面を視覚表示部20(操作対象範囲61)に表示させた状態、図8(b)は操作対象範囲61上にユーザが指を置いてサーチを行っている状態、図8(c)はユーザが操作対象範囲61上の特定の位置を長押ししている状態、図8(d)はユーザが操作対象範囲61上の特定の位置をタップしている状態を各々示す。
操作画面表示制御手段12が視覚表示部20(操作対象範囲61)に表示させた操作画面には、複数の表示オブジェクト62a、62b、…が表示されている。表示オブジェクトは単数でも複数でもよく、また表示させる項目およびそれらの配置や位置関係なども任意に決定することができる。たとえば0〜9の数字を入力するテンキーとしてもよいし、アルファベットやカナ文字などを入力するものとしてもよいし、「OK」もしくは「キャンセル」を入力するものとしてもよい。
ただし、各々の表示オブジェクト62a、62b、…が表示された位置は、同時にタッチ座標検出部30が表示項目に対応する入力操作を受け付ける位置となり、さらに触覚提示部40が触覚(テクスチャ感)を提示する位置ともなる。図8(a)に示した例では、表示オブジェクト62a、62b、…としてテンキーが表示されている。
図8(b)に示した例は、ユーザが、操作対象範囲61を指63で触りながら移動しつつ、触覚(テクスチャ感)が提示されている表示オブジェクト62a、62b、…を手探りでサーチしているという状態である。この時のユーザは、触覚によって表示オブジェクト62a、62b、…の所在を探り当てることはできるが、どの表示オブジェクトがどの入力内容(文字など)に対応するかまではわからない。
そこでユーザは、図8(c)に示すように、表示オブジェクト62a、62b、…の一つが探り当てられた位置で指63の移動を止め、同じタッチ位置で1秒以上静止させる。すると図7のステップS115〜117で示した「長押し」が検出され、音出力制御手段15がその表示オブジェクトに対応する内容の音を出力する。たとえばこれがテンキーのうちの「1」を入力するキーに相当するものであれば、「イチ」の音が音出力部50から出力されることとなる。
そして出力された音がユーザの意図したものであれば、図8(d)に示すように、ユーザはその位置を軽く叩く、即ち「タップ」の操作を行う。するとその内容、この例では「1」を入力するという操作内容が、アプリケーション実行手段11によって動作しているソフトウェアに渡されることとなる。「1」がユーザの意図した内容でなければ、ユーザはそのまま図8(b)に示す指の移動、即ちサーチを継続する。
上で示したように、第1の実施形態の電子機器は、操作内容取得手段14が、表示オブジェクトに対応する位置で操作画面上を叩く動作を検出した場合に、アプリケーション実行手段11を介して、当該表示オブジェクトに対応づけられた所定の機能(この例では動作しているソフトウェアに「1」を入力するという操作)を実行するように制御される。
上の例では、数字「1」が書かれたボタンの表示オブジェクトを長押しすると「イチ」の音が出力される例を説明したが、出力される音は人間が発声器官を通じて発する音を模した音に限定されるものではない。例えば、モールス符号の「・−−−−」というような、音の発生と停止とで構成されるパターンを出力してもよい。あるいは、表示オブジェクトのボタンの機能が特定の楽曲を再生することに割り当てられている場合は、その楽曲の一部あるいは全部を音として出力してもよい。
また、上の例では、数字「1」が書かれたボタンの表示オブジェクトを長押しすると「イチ」の音が出力される例を説明したが、出力される情報は音に限定されるものではなく、あらゆる感覚器を刺激する情報(感覚刺激情報)、すなわち、聴覚、触覚、味覚、視覚、嗅覚を刺激する情報を用いることができる。例えば、ユーザの視覚障害の程度が、文字は読めないが明暗は認識できる程度である、という場合は、モールス符号に準じて画面の明暗を制御することで、ユーザは表示オブジェクトの意味を理解することができる。
あるいは、画面をモールス符号に準じて振動させても、ユーザは表示オブジェクトの意味を理解することができる。あるいは味覚提示手段を備え、表示オブジェクトに対応した味覚を提示することで、ユーザは表示オブジェクトの意味を理解することができる。あるいは嗅覚提示手段を備え、表示オブジェクトに対応した匂いを提示することで、ユーザは表示オブジェクトの意味を理解することができるものとしてもよい。
してみれば、本発明の電子機器は、以下のように表現される。
即ち、ユーザによる操作対象範囲を含む操作画面を表示する視覚表示部と、前記操作対象範囲内に表示されている表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容を検出するタッチ座標検出部と、前記操作画面上で当該ユーザが知覚可能な触覚を提示する触覚提示部とを備えた電子機器であって、
前記操作画面上に前記表示オブジェクトに対応した触覚を前記触覚提示部を介してユーザに提示させる触覚提示制御手段と、
前記タッチ座標検出部によって前記表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め与えられた閾値以下で且つその状態が所定時間以上続いたか否かを検出する操作内容取得手段と、
当該状態が前記所定時間以上続いた場合に当該表示オブジェクトに対応する、感覚刺激情報を、予め備えられた感覚刺激情報出力部を介して外部出力する感覚刺激情報出力制御手段とを有すること、を特徴とするものである。
(第1の実施形態の全体的な動作と効果)
次に、第1の実施形態の全体的な動作について説明する。
本実施形態に係る電子機器の操作制御方法は、ユーザによる操作対象範囲61を含む操作画面を表示する視覚表示部20を備えた電子機器100を操作制御する方法であって、アプリケーション実行手段11が処理を実行して得られる内容である操作画面を操作画面表示制御手段12が作成して視覚表示部20に表示させ(図7:ステップS101)、この操作画面上の操作対象範囲61内に当該ユーザが知覚可能な操作画面に対応した触覚を触覚提示制御手段13が触覚提示部40を介して提示し(図7:ステップS102)、操作対象範囲61内に表示されている表示オブジェクト62a、62b、…に対して当該ユーザが行ったタッチ操作の内容をタッチ座標検出部30が検出し(図7:ステップS107)、表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が予め設定した時間以上続いたか否かを操作内容取得手段14が検出し(図7:ステップS108,115)、当該状態が予め設定した時間以上続いた場合に当該表示オブジェクトに対応する感覚刺激情報を感覚刺激情報出力制御手段(音出力制御手段15)が予め備えられた感覚刺激情報出力部(音出力部50)を介して外部出力する(図7:ステップS116)。この感覚刺激情報は、音として構成することができる。
ここで、前述の触覚提示部40が触覚を提示する工程は、操作画面上の表示オブジェクト62a、62b、…に対応する位置に触覚提示部40が当該ユーザが知覚可能な触覚を提示するものである(図7:ステップS102)。また、操作内容取得手段14が表示オブジェクト62a、62b、…に対応する位置で操作画面上を叩く動作があったか否かを検出し(図7:ステップS110〜112)、これが検出された場合に、操作内容取得手段14が、当該表示オブジェクトに対応する操作内容をアプリケーション実行手段11に実行させる(図7:ステップS113)。
ここで、上記各動作ステップについては、これをコンピュータで実行可能にプログラム化し、これらを前記各ステップを直接実行する統括制御部10が備えるプロセッサに実行させるようにしてもよい。本プログラムは、非一時的な記録媒体、例えば、DVD、CD、フラッシュメモリ等に記録されてもよい。その場合、本プログラムは、記録媒体からコンピュータによって読み出され、実行される。
この動作により、本実施形態は以下のような効果を奏する。
前述の通り、先行技術に示した触覚提示装置を電子機器に応用すれば、ユーザは視覚に頼らなくても、タップ入力の対象である表示オブジェクトの所在を探り当てることはできる。しかしながら、実際に当該機器を視覚に頼らずに操作するには、各表示オブジェクトの配置と、それら各々に対応する操作内容とを、あらかじめ記憶している必要がある。特に視覚障害者が当該電子機器を利用しやすくするための対策として、これではまだ不十分である。
本実施形態では、ユーザが、操作キーに対応する位置にタッチの情報を使わずに予め触覚が提示されている表示オブジェクトの所在を探り当てたら、その表示オブジェクトに対応する操作内容が、音によって読み上げられる。これによって、各表示オブジェクトの配置と操作内容とを記憶していないユーザでも、その電子機器を視覚に頼ることなく容易に操作できるようになる。また、ユーザが複数の指で同時に操作対象範囲に触れた場合でも、この例と同じように操作できるので、この点でも操作性を向上させることができる。
(第1の実施形態と、後述の第2の実施形態とに共通する効果)
また、本発明は、タッチ位置の時間に伴う変化が閾値以下である状態が続いた場合に表示オブジェクトに対応する音を出力するように構成したので、視覚に障害が無いユーザが表示オブジェクトに対してタップ等の操作をした場合には、音が出力されない。このため視覚に障害が無いユーザにとっては、本来不要な音が出力されない状態で入力操作ができるので快適に利用できる。
このように、本発明は視覚に障害のあるユーザが使用する場合と、そうでないユーザが使用する場合との間で機器設定の変更などを必要とせず、どちらのユーザにとっても容易にあるいは快適に利用しうる電子機器、電子機器の操作制御方法およびプログラムを提供することができる。
(第1の実施形態に特有の効果)
また、本実施形態では、表示オブジェクトの位置の情報に基づいて、表示オブジェクトの位置にテクスチャ感を局在化して提示する構成としたため、先行技術の課題の一つであるタイムラグに起因した位置ズレの問題が解消される。例えば、前述の特許文献4には「入力操作の内容に応じて」音声出力とパネルの振動を行うという技術が記載されているが、これはタッチパネルを介して行われた入力操作を判定し、その結果に応じてパネルを振動させるものである。即ち、その判定に起因するタイムラグによって、操作キーの位置と触覚が発生する位置との間にズレが生じる問題が存在していた。
これに対して本実施形態では、触覚を提示するためにタッチパネルを介して行われた入力操作の情報を必要としない。第1の実施形態の触覚提示部は、操作画面上の第1の領域と第2の領域とで、同時に異なる触覚を提示可能に構成されているため、ユーザが表示オブジェクトに対してタッチ操作をするよりも前の時点で、当該ユーザが知覚可能な触覚を表示オブジェクトの位置に提示させるよう、触覚提示部を駆動する触覚提示制御手段を備えることで、表示オブジェクトの位置にあらかじめ他と異なる触覚を提示することが可能となる。このため位置ズレの問題が発生しない。従って、ユーザが素早くサーチした場合であっても、表示オブジェクトの位置とテクスチャ感の位置は常に一致しており、操作性が顕著に向上する。
(第1の実施形態の効果の追加)
表示オブジェクトの位置と触覚が発生する位置との間にズレが生じる問題は、本願発明者の思考や実験を通して見出された課題である。以下に詳細に述べる。
図9は、特許文献3の記載に基づいて本発明者が作成したフローチャートである。このフローチャートは、特許文献3に記載された、「表示部に取引選択画面を表示し、タッチパネルに触れた顧客の指の位置が表示部に表示されたキーのエリアに入ったとき、振動発生部によりタッチパネルを振動させ」の工程をあらわす。当該工程は次のステップを順に経る。
・視覚表示部(表示部)に操作キー(キー)に対応する表示オブジェクトを含む取引選択画面を表示する(S301)。
・ユーザ(顧客)が画面(タッチパネル面)を指でタッチする(S302)。
・タッチ座標検出部がタッチを検出しタッチ座標を検出する(S303)。
・タッチ座標と表示オブジェクトの位置(エリア)とを比較する(S304)。
・タッチ座標が表示オブジェクトのエリア範囲内であればアクチュエータ(振動発生部)を駆動する信号を発生する。(S305)
・アクチュエータがタッチパネル面を振動させる(S306)。
上記ステップを順に経るため、ユーザが操作キーをサーチによって探す場合、ユーザの指が表示オブジェクトの範囲に入ってからタッチ面が振動するまでに所定の時間が経過する。この時間のことをディレイとかタイムラグと呼ぶ。このタイムラグ(すなわち、ステップS302の処理が終わってから、ステップS303〜S305の処理を経て、ステップS306において実際にタッチ面が振動し始めるまでの時間)は、現行のスマートフォンの応答時間を参考にすると、55ミリ秒以上であると推定される。
一方、ユーザが操作キーの位置をサーチする場合、ユーザの指の速度は700mm/秒を超えることが、本発明者等の実験でわかった。タイムラグと指の速度との積は38.5mmであり、この値が表示オブジェクトの位置と触覚が発生する時に指が存在する位置とのズレを表す。
ユーザの指の速度の測定について図10および図11を用いて説明する。図10は、第1の実施形態の電子機器であって、対角10.4インチの視覚表示部および触覚提示部を有するものを示す。この電子機器に、表示オブジェクトとして9個の正方形のボタンを3行3列の形態で表示した。それらの表示オブジェクトの位置に、触覚提示部を用いて触覚を提示した。この状態を、図10(a)に、ユーザがサーチしていない時として示す。
この電子機器を用いて、ユーザにボタンの位置を触覚で探す(サーチする)というタスクを与え、その時の指の動きを動画で撮影し、指先の速度を求めた。このタスクの最中に撮影した写真を図10(b)に、ユーザがサーチしている時として示す。
図11は、測定された指先の速度の時刻変化を示す図である。測定された指先の最高速度は700mm/秒を超える。ユーザは、指を画面の左右方向に走査しサーチしながら、その左右方向への走査の位置を徐々に画面の上下方向に移動させた。ユーザの指先が画面の左右端に達した時に指先の速度は極小値をとり、ユーザの指が画面中央付近の時に指先の速度は極大値をとった。
これらの結果に基づき、表示オブジェクトの位置と触覚が発生する時に指が存在する位置とのズレを図12のように可視化した。図12(a)は、関連技術に基づき本発明者が書き起こした、ステップS301〜S306を順に経る電子機器において、指を右方向(移動方向631)に動かしサーチした場合の表示オブジェクト621の位置と触覚が発生する時に指が存在する位置とを相対的に示したものである。視覚によって知覚される表示オブジェクト621の位置を「視覚」のラベルで示した。画面の一例として、表示オブジェクト621を黒の四角形で表示し、背景の色を白色で表示した場合、視覚のラベルで示されたパルス波形は、その横軸が位置に対応し縦軸が表示オブジェクト621の輝度に対応する。また触覚で知覚される位置を「触覚」のラベルで示した。触覚のラベルで示されたパルス波形は、その横軸が位置に対応し縦軸が知覚された振動の強さに対応する。尚、本例の表示オブジェクト621は、タップ入力で使用するボタンとしている。
図12(a)から理解できる通り、触覚が発生する時に指が存在する位置は表示オブジェクト621が存在する位置である視覚に対して38.5mm右側にずれる。タップ入力の対象である表示オブジェクト621の左右方向のサイズが38.5mmより小さい場合、触覚で知覚されたタップ入力のボタンの位置と表示オブジェクト621の位置との関係において、両者の間に図形演算でいうところの積が存在しないため、触覚で知覚されたボタンの位置をタップしてもそのボタンの機能は実行されないという問題が生じる。
図12(b)は、指を右方向(移動方向631)および左方向(移動方向632)に動かしてサーチする場合の表示オブジェクト622の位置と、触覚が発生する時に指が存在する位置とを相対的に示したものである。右方向にサーチした場合に指によって触覚が知覚される位置を「触覚(1)」のラベルで示している。図で触覚が知覚される場合は縦軸の振動の強さが大きくなり、触覚が知覚されない場合は振動の強さが小さくなるため、指を右方向に動かしてサーチする場合は位置に対してパルス状の変化を示す。同様に、左方向にサーチした場合に触覚が知覚される位置を「触覚(2)」のラベルで示した。
図12(b)から理解できる通り、指を右方向に動かしてサーチした場合、触覚が発生する時に指が存在する位置は視覚に対して38.5mm右側にずれる。一方、指を左方向に動かしてサーチした場合、触覚が発生する時に指が存在する位置は視覚に対して38.5mm左側にずれる。タップ入力の対象である表示オブジェクト622の左右方向のサイズが77.0mmより小さい場合、右方向にサーチして知覚されたタップ入力のボタンの位置と、左方向にサーチして知覚されたタップ入力のボタンの位置との関係において、両者の間に図形演算でいうところの積が存在しない。つまり右方向にサーチして知覚されたボタンの位置と左方向にサーチして知覚されたボタンの位置とが大きく異なることとなり、ユーザは戸惑い、タップ入力に支障が生じる。
このように、特許文献3のような関連技術を用いて、表示オブジェクトの表示と触覚の提示とを行う場合、表示と触覚の提示の間にタイムラグ(ディレイ)が存在する。このため、上述のように、触覚提示位置をサーチする際に、表示位置と実際に振動が発生し触覚を感じる位置との間に大きな位置ズレが発生する。この位置ズレは、ユーザビリティを著しく低下させていた。
一方、本実施形態に係る電子機器におけるフローチャートを図13に示す。本実施形態の電子機器は、図1乃至図8を用いた構造および動作を有し、次のステップを順に経る工程を有する。
・視覚表示部20に操作キーに対応する表示オブジェクトを表示する(S311)。
・表示オブジェクトに対応する位置に局在化された触覚(テクスチャ感)を提示するように触覚提示パネル(触覚提示部40)を駆動する(S312)。
・ユーザが操作対象範囲61をタッチする(S313)。
本実施形態の電子機器100は、面上に異なる触感を同時に提示可能な触覚提示部40を有する。このため、上記フローチャートに示すように、ユーザが操作対象範囲61に触るよりも前の時点から触覚提示部40を駆動することが可能となる。この結果、関連技術の課題の一つであるタイムラグに起因した位置ズレの問題を解消することができる。
図14は、前述のステップS311〜S313を順に経る、本実施形態の電子機器100における、表示オブジェクトの位置と触覚の位置とのズレを説明する図である。図14(a)は指を右方向(移動方向631)に動かした場合の表示オブジェクト621の位置と触覚が発生する位置とを示した図であり、図14(b)は指を右方向(移動方向631)および左方向(移動方向632)に動かした場合の表示オブジェクト621の位置と触覚が発生する位置とを示した図である。図12と同様に図14でも、視覚によって知覚される表示オブジェクト621の位置を「視覚」のラベルで示し、その横軸は位置に対応し縦軸は表示オブジェクト621の輝度に対応する。また触覚で知覚される位置を「触覚」のラベルで示し、その横軸は位置に対応し縦軸は知覚されたテクスチャ感の強さに対応する。本実施形態では、表示オブジェクトの位置に局在化されたテクスチャ感を提示しているため、位置に対してパルス状の変化を示す。
前述の通り、本実施形態の触覚提示部40は、操作画面上の第1の領域と第2の領域とで、同時に異なる触覚を提示可能に構成されている。この触覚提示部40と、ユーザが表示オブジェクトに対してタッチ操作をするよりも前の時点で、当該ユーザが知覚可能な触覚を表示オブジェクトの位置に提示させるよう、触覚提示部40を駆動する触覚提示制御手段13とを備えることで、表示オブジェクトの位置にあらかじめ他と異なる触覚を提示することが可能となる。このため位置ズレの問題が発生しない。
これらの図から理解できるように、本実施形態の電子機器100では、表示オブジェクトの位置と触覚が発生する位置とのズレがゼロである。その理由は、ユーザが操作対象範囲61に触るよりも前の時点から、触覚提示部40の表示オブジェクトの領域が駆動されているからである。あるいはタッチ位置と表示オブジェクトの位置との比較動作が不要であるからである。従って、ユーザが素早くサーチした場合であっても、表示オブジェクトの位置と触覚が発生する位置とは一致し、操作性が顕著に向上する。
以上で説明した本実施形態による動作では、ユーザが当該機器に対して行っている操作の内容が、全て音出力部を介して出力されることになる。例えば銀行などのATMで暗証番号を入力する時などのように、操作の内容を他者に聞かれたら困る場合も考えられるが、そのような場合にはイヤホンなどを利用して、音出力を他者に聞かれないようにすることもできる。
本発明の電子機器は、別の側面から次の特徴を有する電子機器ともいえる。すなわち、本発明の電子機器は、
・面の一部の領域の触感を変更可能な触覚提示部、言い換えると、面上に異なる触感を同時に提示可能な触覚提示部と、
・触覚提示部に対するユーザの接触を検出するタッチ検出部と、
・前記触覚提示部の所定の領域の触感を変更することで提示された触覚オブジェクトと、
を備え、
・ユーザが当該触覚オブジェクトに接触するよりも前の時点で、当該触覚オブジェクトを提示させるよう、前記触覚提示部を駆動する触覚提示制御手段を備え、
・前記触覚オブジェクトに対して所定のタッチ動作が検出された場合、前記触覚オブジェクトに対応づけられた動作が実行される
という特徴を有する。
このように、本発明において視覚提示部を省略することも可能である。その場合、「表示オブジェクト」を「触覚オブジェクト」に代える。
(第2の実施形態)
本発明の第2の実施形態に係る電子機器200は、前述した第1の実施形態の構成に替えて、統括制御部210が、操作内容取得手段214が表示オブジェクト62a、62b、…上にタッチ位置を検出した場合に、操作対象範囲61全体を直接的に振動させるよう、触覚提示部に替えて予め備えられた振動提示部240の動作を制御する振動提示制御手段213を備えるものとした。
この構成によれば、第1の実施形態と同一の効果をより低コストに得ることができ、また既存の機器に対してもソフトウェアの追加および置換のみでその効果を得ることが可能となる。
以下、これをより詳細に説明する。
図15は、本発明の第2の実施形態に係る電子機器200の構成について示す説明図である。電子機器200は、前述した第1の実施形態に係る電子機器100と共通する構成および内容を多く含むので、共通する点については第1の実施形態と同一の呼称および参照番号で示す。この電子機器200は、第1の実施形態と共通する視覚表示部20を備えると共に、第1の実施形態とは異なる振動提示部240と、第1の実施形態とは異なるタッチ座標検出部230と、第1の実施形態とは異なる統括制御部210とを備える。
タッチ座標検出部230は、典型的には液晶ディスプレイ装置である視覚表示部20の表面に配設したタッチパネルである。このタッチパネルの周辺に機械的振動子をとりつけることで、タッチパネルに振動提示の機能を付与した。このため本電子機器200は、タッチパネルが触覚提示部を兼ねる構成である。
第1の実施形態における触覚提示部40は、操作対象範囲61の中の特定の表示オブジェクト62a、62b、…の個々に対応した位置に触覚(テクスチャ感)を提示するものである。これに対して振動提示部240は、操作対象範囲61全体、即ちユーザが操作のためにタッチする面全体を直接的に振動させ、ユーザに対して触覚を提示するものである。具体的には、ピエゾ振動子、あるいは携帯電話端末用のバイブレータで使用されている小型モーターなどを利用して実現することができる。
図16は、図15に示した電子機器200で、統括制御部210のより詳しい構成について概念的に示す説明図である。統括制御部210は、操作制御プログラムが実行されることにより、アプリケーション実行手段11、操作画面表示制御手段12、振動提示制御手段213、操作内容取得手段214、および音出力制御手段15の各々として機能する。振動提示制御手段213および操作内容取得手段214以外は、第1の実施形態と共通である。また、統括制御部210は、第1の実施形態と共通する音出力部50および一時記憶手段16も併設されている。
振動提示制御手段213は、アプリケーション実行手段11からの動作指示により、振動提示部240を制御して操作対象範囲61全体を振動させ、ユーザに対して振動を提示する。
図17は、図15〜16に示した電子機器200で、統括制御部210(特に操作内容取得手段214)が行う動作について示すフローチャートである。この図17も、図7で示した第1の実施形態と共通する動作を多く含むので、共通する動作については同一の参照番号で示す。操作内容取得手段214が検出する「タッチダウン」「タッチアップ」「長押し」「サーチ」「タップ」の各々の動作の定義とそれら各々の検出条件もまた、第1の実施形態と同一である。
アプリケーション実行手段11がユーザによる入力操作を受け付ける状態になると、操作内容取得手段214は図7のステップS101〜ステップS104と同一の動作を、ステップS102を省略して行う。
そしてタッチダウンが発生すれば(ステップS104がイエス)、操作内容取得手段214は、図7のステップS105〜ステップS107と同一の動作を行う。操作内容取得手段214は、タッチダウンが発生したという情報とステップS107で取得したタッチ位置ベクトルrとをアプリケーション実行手段に送信する。アプリケーション実行手段は、ステップS107で取得したタッチ位置ベクトルrの座標が表示オブジェクト62a、62b、…に該当する位置であるか否かについて判断する(ステップS201)。
の座標が表示オブジェクトに該当すれば(ステップS201がイエス)、アプリケーション実行手段11は振動提示制御手段213に対して振動を発生させるよう指示してから(ステップS202)ステップS108以降の処理に進む。指示を受けた振動提示制御手段213は、振動提示部240を介して操作対象範囲61全体を振動させる。
の座標が表示オブジェクトに該当しなければ(ステップS201がノー)そのままステップS108以降の処理に進む。ステップS108以降の処理は、図7で説明した第1の実施形態の動作と同一である。
以上で説明した本実施形態に係る電子機器200によれば、前述した第1の実施形態に係る電子機器100と同一の効果を、表示オブジェクト個々の位置に対応した位置に触覚(テクスチャ感)を提示する触覚提示部を備えていない機器においても得ることができる。即ち、ピエゾ振動子や携帯電話端末用バイブレータなどを備えていればよいので、より低コストに本願発明の効果を得ることができる。また、既存の機器に対しても、ソフトウェアの追加および置換のみで本実施形態を実施してその効果を得ることが可能となる。
(第3の実施形態)
本発明の第3の実施形態に係る電子機器は、前述した第1の実施形態に対して視覚表示部と触覚提示部とが空間的に分離している点が主な相違点である。視覚表示部と触覚提示部が空間的に分離しているため、操作の対象をあらわす視覚オブジェクトの寸法と触覚オブジェクトの寸法とを一致させる必要は無く、視覚表示部に表示される表示オブジェクトの相対的な位置と触覚提示部に提示される触覚オブジェクトの相対的な位置とが略一致するように制御されればよい。本実施形態は、視覚に障害が無いユーザによる利用を想定し、自動車内の運転手向けのインタフェース機器に本発明を適用した例である。
以下、図18および図19を参照して、当該インタフェース機器について、空調装置の温度設定操作を例に用いて詳細に説明する。
図18は第3の実施形態に係る電子機器300の構成について示す説明図であり、図19は電子機器300を搭載した移動体である。電子機器300は、前述した第1の実施形態に係る電子機器100と共通する構成および内容を多く含むので、それらの共通する点については第1の実施形態と同一の呼称および参照番号で示す。
この電子機器300は、第1の実施形態と共通する触覚提示部40とタッチ座標検出部30とを操作対象範囲61に備える。一方、視覚表示部320は、触覚提示部40やタッチ座標検出部30とは一体化されず、任意の場所に配置可能に構成される。視覚表示部320は、可視光に対して透明なスクリーンと投影光学系とで構成されるプロジェクタ型の表示装置である。視覚表示部320を操作対象範囲61と独立に配置することができるため、視覚表示部320と操作対象範囲61とのそれぞれを、ユーザが最も使いやすい位置に配置可能である。その結果、ユーザビリティが向上する効果が得られる。
図19に示すように、視覚表示部320は運転席前方のダッシュボード上に配設され、ユーザに対するヘッドアップディスプレイとして機能する。一方、触覚提示部40とタッチ座標検出部30とを含んで構成される操作対象範囲61はユーザが右腕を肘掛けに載せたときに右手の指が位置する場所付近に配置される。
触覚提示部40には、視覚表示部320に表示された表示オブジェクト362a、362bに対応する触覚オブジェクト70a、70bが提示される。表示オブジェクト362aは、視覚表示部320の画面の下半分かつ左半分の領域に表示される。これに対応する触覚オブジェクト70aは、操作対象範囲61の下半分かつ左半分の領域に表示される。表示オブジェクト362bは、視覚表示部320の画面の下半分かつ右半分の領域に表示される。これに対応する触覚オブジェクト70bは、操作対象範囲61の下半分かつ右半分の領域に表示される。
本実施形態は第1の実施形態と異なり、視覚表示部320は触覚提示部40と一体化されていないため、表示オブジェクト362aの縁と触覚オブジェクト70aの縁とを一致させるという概念は存在しない。そのため、本実施形態では、視覚表示部320に表示された表示オブジェクト362a、362bそれぞれの相対的な位置関係と触覚提示部40に提示された触覚オブジェクト70a、70bそれぞれの相対的な位置関係とが大まかに一致するように、統括制御部310によって制御、駆動される。あるいは、視覚表示部320および表示オブジェクト362a、362bを平面視して得られる図形と、操作対象範囲61および触覚オブジェクト70a、70bを平面視して得られる図形とがほぼ相似の関係となるように、統括制御部310が制御、駆動する。
統括制御部310には実施形態1同様に操作内容取得手段が含まれるが、その働きは実施形態1と異なる。すなわち、本実施形態の操作内容取得手段は、触覚オブジェクト70a、70bに対応する位置で操作対象範囲61を叩く動作(タップ操作)が検出された場合に、触覚オブジェクト70a、70bに対応付けられた所定の機能を実行するように制御される。
触覚オブジェクト70a、70bの領域には、第1の実施形態と同様に、ユーザによる入力操作を受け付ける状態になると、テクスチャ感が局在的に提示される。すなわち、触覚提示部40はユーザが触覚オブジェクト70a、70bの領域に接触するよりも前の時点で、触覚オブジェクト70a、70bの領域にテクスチャ感を提示するように駆動される。
統括制御部310には空調装置370が接続される。視覚表示部320には温度表示領域362cが設けられている。
次に、図18に示す「Down」と書かれた表示オブジェクト362aを、ユーザが選択し入力する場合について説明する。本実施形態ではユーザは視覚表示部320を視認し表示オブジェクト362a、362bの位置および機能を認識し、操作対象範囲61を操作する。操作対象範囲61には表示オブジェクト362a、362bに対応する位置に触覚オブジェクト70a、70bが提示されているため、操作対象範囲61を視認することなくタップ操作をすべき位置を知ることができる。
設定温度を下げたい意思を持ったユーザは、視覚表示部320を視認することで、設定温度を下げる表示オブジェクト362aが左下にあり、設定温度を上げる表示オブジェクト362bが右下にあることを認識する。その後、ユーザは操作対象範囲61をサーチすることで、左右に並ぶ触覚オブジェクト70a、70bを知覚し、触覚オブジェクト70aの位置でタップ操作をする。この操作により設定温度が例えば1目盛分下がる。
本実施形態では空調装置370の設定温度の制御について説明したが、本発明はこれに限定されず、多様な付帯機器を動作、制御するために適用できる。
(第3の実施形態の効果)
第3の実施形態の電子機器300およびこれを搭載した移動体における効果を説明する。ひとつの効果は、視覚表示部320と操作対象範囲61とのそれぞれを、ユーザが最も使いやすい位置に配置することでユーザビリティが向上する効果が得られることである。
ユーザは運転中、前方に注意する義務を負う。図19に示した移動体の例では、ユーザが注意をはらうために目配りする視線の極めて近くに視覚表示部320が設けられており、かつ操作対象範囲を視認することなく設定温度を下げたり上げたりできる。そのため、ユーザは前方注意義務の履行に専念しつつ空調装置370の操作を行うことが可能となり、安全運転を継続することが可能となる。
他の効果は、ユーザが触覚オブジェクト70a、70bをサーチで探りあてる際、ユーザによって知覚される触覚オブジェクト70a、70bの位置が、指の速度に関わらず一定であり、ユーザがタップ操作をすべき位置を正しく知ることができることである。
この理由は、第1の実施形態と同様、触覚提示部40はユーザが触覚オブジェクト70a、70bの領域に接触するよりも前の時点で、触覚オブジェクト70a、70bの領域にテクスチャ感を提示するように駆動されるからである。このため、触覚オブジェクト70a、70bの位置とユーザによって知覚される触覚オブジェクト70a、70bの位置とのずれが生じない。
一方、関連技術を適用した場合、ユーザの指のタッチ座標を検出し、検出された座標があらかじめ決められた所定の領域(タップ操作を受け付ける領域)内であるかどうかを比較し、タッチ座標が当該領域内であればアクチュエータを駆動する信号を発生し、タッチ面を振動させるという工程を経るため、ユーザの指が当該領域に入ってからタッチ面が振動するまでにタイムラグが生じる。このため、当該領域と、触覚が発生するときに指が存在する位置とが、指の速度に応じてずれる問題が生じる。つまりユーザが触覚で知覚したタップ操作を受け付ける領域の位置と実際にタップ操作を受け付ける領域の位置とが異なる問題が生じる。
尚、触覚を局在化して提示する触覚提示部40は、実施形態1で説明した構成、すなわちXY電極をマトリクス状に配設した構成に限定されない。たとえば、特許文献1に記載された、複数のセグメント電極を基板上に配設した構成を用いることができる。あるいは特許文献5に記載された、複数の形状記憶合金を基板上に配設した構成を用いることができる。あるいは特許文献6に記載された、触知ピンをマトリクス状に配列した構成を用いることができる。あるいは、当該文献から類推できる構成、例えばピエゾ振動子を複数個面上マトリクス状に配列した構成を用いることができる。
(実施形態の拡張)
以上で説明した第1乃至第3の実施形態は、その趣旨を改変しない範囲で、種々の拡張が可能である。以下、この拡張について説明する。
以上で説明した各実施形態は、ユーザが「タップ」の操作を行った場合に、その操作内容がアプリケーション実行手段11によって動作しているソフトウェアに渡されるというものであった。第1および第2の実施形態のいずれにおいても、「タップ」のかわりに「押し込み」、即ち「長押し」の操作で同じタッチ位置で静止していた指をそのままの静止状態でさらに押す力を強めるという操作に置き換えることもできる。
この場合は、操作対象範囲(視覚表示部20、タッチ座標検出部30、および触覚提示部40)にさらに荷重センサを追加して、押す力が強まったことを検出したら「押し込み」が発生したと判定するようにしてもよい。また、操作対象範囲に接触している指の面積を操作内容取得手段14(または214)が検知することができる構成として、その面積が拡大したことを検出したら「押し込み」が発生したと判定するようにしてもよい。この例の電子機器は、操作内容取得手段14が、表示オブジェクトに対応する位置で操作画面を押し込む動作を検出した場合に、アプリケーション実行手段11を介して、当該表示オブジェクトに対応づけられた所定の機能を実行するように制御される。
これまで本発明について図面に示した特定の実施形態をもって説明してきたが、本発明は図面に示した実施形態に限定されるものではなく、本発明の効果を奏する限り、本発明の構成要素として、これまで知られたいかなる構成であっても採用することができる。
本発明は、タッチパネルを搭載した電子機器全般に対して適用可能である。前述したような券売機、ATM、マルチメディアキオスク端末装置などのみならず、個人によって所有および使用されることを前提とするスマートフォン、タブレット端末、ノートブック型パーソナルコンピュータなどにおいても、視覚障害者が利用しやすいものとするための対策が求められることがあるので、本発明を適用する意義がある。
100、200、300 電子機器
10、210、310 統括制御部
11 アプリケーション実行手段
12 操作画面表示制御手段
13 触覚提示制御手段
14、214 操作内容取得手段
15 音出力制御手段
16 一時記憶手段
20、320 視覚表示部
30、230 タッチ座標検出部
40 触覚提示部
41 支持基板
42 X電極
43 Y電極
44 X電極駆動回路
45 Y電極駆動回路
46 制御部
47 対象領域
48 電極
49 抵抗
50 音出力部
61 操作対象範囲
62a、62b、362a、362b 表示オブジェクト
362c 温度表示領域
63 指
70a、70b 触覚オブジェクト
213 振動提示制御手段
240 振動提示部
370 空調装置
621、622 表示オブジェクト
631、632 移動方向

Claims (10)

  1. ユーザによる操作対象範囲を含む操作画面を表示する視覚表示部と、前記操作対象範囲内に表示されている表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容を検出するタッチ座標検出部と、前記操作画面上で当該ユーザが知覚可能な触覚を提示する触覚提示部とを備えた電子機器であって、
    前記操作画面上に前記表示オブジェクトに対応した触覚を前記触覚提示部を介してユーザに提示する触覚提示制御手段と、
    前記タッチ座標検出部によって前記表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が1秒間以上続いたか否かを検出する操作内容取得手段と、
    当該状態が前記1秒間以上続いた場合に、当該表示オブジェクトの意味を理解することのできる音を予め備えられた出力部を介して外部出力する出力制御手段とを有し、
    前記操作内容取得手段は、前記タッチ位置の時間的な変化の検出にかかわらず、前記表示オブジェクトに対応する位置で前記操作画面上を叩く動作を検出した場合に、当該表示オブジェクトに対応づけられた所定の機能を実行するように制御されること、を特徴とする電子機器。
  2. 前記触覚提示部は、前記操作画面上の第1の領域と第2の領域とで、同時に異なる触覚を提示可能に構成されていることを特徴とする請求項1記載の電子機器。
  3. 前記表示オブジェクトの表示位置に基づいて、当該位置に対して、当該ユーザがタッチ操作を行うよりも前の時点で、当該ユーザが知覚可能な触覚を提示させるよう、前記触覚提示部を駆動する触覚提示制御手段を備えること、を特徴とする請求項に記載の電子機器。
  4. 前記触覚提示部が、
    支持基板と、前記支持基板上の第1の方向に延在している互いに平行な複数のX電極と、前記支持基板上の第2の方向に延在しかつ前記X電極と互いに絶縁されている互いに平行な複数のY電極とを備え、
    前記各X電極のうち外部から入力された対象領域に該当するX電極に対して第1の周波数の電圧信号を印加し、前記各Y電極のうち前記対象領域に該当するY電極に対して第2の周波数の電圧信号を印加する駆動回路を備えると共に、
    前記第1および第2の周波数がいずれも500[Hz]以上であり、
    前記第1および第2の周波数の差の絶対値が10[Hz]より大きく1000[Hz]未満である期間を有すること、を特徴とする請求項に記載の電子機器。
  5. 前記操作内容取得手段が前記表示オブジェクト上に前記タッチ位置を検出した場合に、前記操作対象範囲全体を直接的に振動させるよう、前記触覚提示部に替えて予め備えられた振動提示部の動作を制御する振動提示制御手段を備えること、を特徴とする請求項1に記載の電子機器。
  6. 前記操作内容取得手段が、
    前記表示オブジェクトに対応する位置で前記操作画面を押し込むという動作を検出した場合に、当該表示オブジェクトに対応づけられた所定の機能を実行するように制御されること、を特徴とする請求項1に記載の電子機器。
  7. ユーザによる操作対象範囲を含む操作画面を表示する視覚表示部を備えた電子機器を操作制御する方法であって、
    アプリケーション実行手段が処理を実行して得られる内容である前記操作画面を操作画面表示制御手段が作成して前記視覚表示部に表示させ、
    この操作画面上の前記操作対象範囲内に当該ユーザが知覚可能な前記操作画面に対応した触覚を触覚提示制御手段が触覚提示部を介して提示し、
    前記操作対象範囲内に表示されている表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容をタッチ座標検出部が検出し、
    前記表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が1秒間以上続いたか否かを操作内容取得手段が検出し、
    当該状態が1秒間以上続いた場合に、当該表示オブジェクトの意味を理解することのできる音出力制御手段が予め備えられた出力部を介して外部出力し、
    前記操作内容取得手段が、前記タッチ位置の時間的な変化の検出にかかわらず、前記表示オブジェクトに対応する位置で前記操作画面上を叩く動作があったか否かを検出し、
    この叩く動作が検出された場合に、前記操作内容取得手段が、当該表示オブジェクトに対応する前記操作内容を前記アプリケーション実行手段に実行させること、を特徴とする操作制御方法。
  8. 前記触覚提示部が触覚を提示する工程が、
    前記操作画面上の前記表示オブジェクトの表示位置に基づいて、当該位置に前記触覚提示部が当該ユーザが知覚可能な触覚を提示するものであること、を特徴とする請求項に記載の操作制御方法。
  9. ユーザによる操作対象範囲を含む操作画面を表示する視覚表示部と、前記操作対象範囲内に表示されている表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容を検出するタッチ座標検出部と、前記操作画面上で当該ユーザが知覚可能な触覚を提示する触覚提示部とを備えた電子機器にあって、
    前記電子機器が備えるプロセッサに、
    処理を実行して得られる内容である前記操作画面を作成して前記視覚表示部に表示させる手順、
    この操作画面上の前記操作対象範囲内に当該ユーザが知覚可能な前記操作画面に対応した触覚を前記触覚提示部を介して提示する手順、
    前記操作対象範囲内に表示されている前記表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容を検出する手順、
    前記表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が1秒間以上続いたか否かを検出する手順、
    および当該状態が前記1秒間以上続いた場合に、当該表示オブジェクトの意味を理解することのできる音出力制御手段が予め備えられた出力部を介して外部出力する手順を実行させ、
    前記タッチ位置の時間的な変化の検出にかかわらず、前記表示オブジェクトに対応する位置で前記操作画面上を叩く動作があったか否かを検出し、
    この叩く動作が検出された場合に、当該表示オブジェクトに対応する前記操作内容を実行する手順をさらに実行させること、を特徴とする操作制御プログラム。
  10. 前記触覚提示部に触覚を提示させる手順が、
    前記操作画面上の前記表示オブジェクトに対応する位置に当該ユーザが知覚可能な触覚を提示させるものであること、を特徴とする請求項に記載の操作制御プログラム。
JP2015155208A 2014-11-06 2015-08-05 電子機器、電子機器の操作制御方法および操作制御プログラム Active JP6654743B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201510732226.5A CN105589594B (zh) 2014-11-06 2015-11-02 电子装置和电子装置的操作控制方法
US14/933,649 US11275440B2 (en) 2014-11-06 2015-11-05 Electronic apparatus and electronic apparatus operation control method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2014225799 2014-11-06
JP2014225799 2014-11-06

Publications (2)

Publication Number Publication Date
JP2016095832A JP2016095832A (ja) 2016-05-26
JP6654743B2 true JP6654743B2 (ja) 2020-02-26

Family

ID=56071818

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015155208A Active JP6654743B2 (ja) 2014-11-06 2015-08-05 電子機器、電子機器の操作制御方法および操作制御プログラム

Country Status (1)

Country Link
JP (1) JP6654743B2 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6990895B2 (ja) * 2016-03-09 2022-01-12 株式会社三洋物産 遊技機
JP6990896B2 (ja) * 2016-03-09 2022-01-12 株式会社三洋物産 遊技機
JP6990894B2 (ja) * 2016-03-09 2022-01-12 株式会社三洋物産 遊技機
JP7085741B2 (ja) * 2016-03-09 2022-06-17 株式会社三洋物産 遊技機
JP6990897B2 (ja) * 2016-03-09 2022-01-12 株式会社三洋物産 遊技機
JP6775774B2 (ja) * 2016-09-29 2020-10-28 天馬微電子有限公司 触覚提示装置及びその制御方法
CN110413102A (zh) 2018-04-26 2019-11-05 天马日本株式会社 电子设备以及用于电子设备的控制方法
CN110850966A (zh) * 2019-10-22 2020-02-28 深圳市云顶信息技术有限公司 电动牙刷控制方法、装置、计算机设备和存储介质
JP2020168495A (ja) * 2020-07-13 2020-10-15 株式会社三洋物産 遊技機
JP2020168493A (ja) * 2020-07-13 2020-10-15 株式会社三洋物産 遊技機
JP2020168494A (ja) * 2020-07-13 2020-10-15 株式会社三洋物産 遊技機
JP2020168522A (ja) * 2020-07-15 2020-10-15 株式会社三洋物産 遊技機
CN113268385B (zh) * 2021-05-21 2023-05-12 中国船舶工业综合技术经济研究院 基于视触觉的多指按压力相位协同能力测量系统及方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003067119A (ja) * 2001-08-24 2003-03-07 Ricoh Co Ltd 機器操作装置、プログラムおよび記録媒体
JP3726798B2 (ja) * 2002-10-25 2005-12-14 村田機械株式会社 通信端末装置
JP2004255703A (ja) * 2003-02-26 2004-09-16 Murata Mach Ltd 画像処理装置
JP2005216110A (ja) * 2004-01-30 2005-08-11 Nissan Motor Co Ltd 情報操作装置
JP2007022226A (ja) * 2005-07-14 2007-02-01 Altia Hashimoto Co Ltd 可動装置の報知システム
JP2007310496A (ja) * 2006-05-16 2007-11-29 Alps Electric Co Ltd タッチ操作入力装置
US9056549B2 (en) * 2008-03-28 2015-06-16 Denso International America, Inc. Haptic tracking remote control for driver information center system
JP5110438B2 (ja) * 2008-10-23 2012-12-26 トヨタ自動車株式会社 入力装置
US9696803B2 (en) * 2009-03-12 2017-07-04 Immersion Corporation Systems and methods for friction displays and additional haptic effects
JP5948711B2 (ja) * 2009-12-18 2016-07-06 本田技研工業株式会社 触覚制御用可変形パッド
WO2012108203A1 (ja) * 2011-02-10 2012-08-16 京セラ株式会社 電子機器及び電子機器の制御方法
JP2012178103A (ja) * 2011-02-28 2012-09-13 Kyocera Document Solutions Inc 入力装置及び画像形成装置
JP5782965B2 (ja) * 2011-09-29 2015-09-24 カシオ計算機株式会社 接触入力装置
US9235265B2 (en) * 2012-05-17 2016-01-12 Sharp Kabushiki Kaisha Touch-screen device including tactile feedback actuator
US9335823B2 (en) * 2013-04-26 2016-05-10 Immersion Corporation Systems and methods for haptically-enabled conformed and multifaceted displays

Also Published As

Publication number Publication date
JP2016095832A (ja) 2016-05-26

Similar Documents

Publication Publication Date Title
JP6654743B2 (ja) 電子機器、電子機器の操作制御方法および操作制御プログラム
CN105589594B (zh) 电子装置和电子装置的操作控制方法
JP5110438B2 (ja) 入力装置
US7187394B2 (en) User friendly selection apparatus based on touch screens for visually impaired people
JP5529663B2 (ja) 入力装置
JP4039344B2 (ja) タッチパネルを備えた表示装置
US9904363B2 (en) Input apparatus for generating tactile sensations and control method of input apparatus
EP3422156B1 (en) Control unit for vehicle and control method for the same
US10963089B2 (en) Tactile sensation providing apparatus and tactile sensation providing method
US9557815B2 (en) Electronic device
CN110989826B (zh) 引导装置、控制系统以及记录介质
WO2003104967A1 (ja) 3次元空間内の任意の点を指定する処理のための情報処理方法
JP2008071102A (ja) 点図ディスプレイ装置
TW201033871A (en) Touch panel device, display device equipped with touch panel device, and control method of touch panel device
JP4456434B2 (ja) 触覚ディスプレイ
US20090167715A1 (en) User interface of portable device and operating method thereof
WO2008062586A1 (fr) Dispositif d'affichage, procédé d'affichage, programme d'affichage, et support d'enregistrement
JP2005316790A (ja) 情報入力方法および情報入出力装置並びにプログラム
KR20100075281A (ko) 공간 투영 및 공간 터치 기능이 구비된 단말 장치 및 그 제어 방법
JP5766398B2 (ja) 触感呈示装置
KR101457639B1 (ko) 음원출력 기능이 구비된 사진액자 및, 이 사진액자에 입력되기 위한 음원출력 소스데이터를 생성하는 프로그램을 기억한 기억매체
JP2001282433A (ja) 表示入力装置
JP2008204275A (ja) 入力操作装置および入力操作方法
JP6528086B2 (ja) 電子機器
JP2013168093A (ja) 画像表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180715

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190510

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190521

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190809

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190820

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191008

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20191105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200123

R150 Certificate of patent or registration of utility model

Ref document number: 6654743

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250