JP5718475B2 - 触感呈示装置 - Google Patents
触感呈示装置 Download PDFInfo
- Publication number
- JP5718475B2 JP5718475B2 JP2013540662A JP2013540662A JP5718475B2 JP 5718475 B2 JP5718475 B2 JP 5718475B2 JP 2013540662 A JP2013540662 A JP 2013540662A JP 2013540662 A JP2013540662 A JP 2013540662A JP 5718475 B2 JP5718475 B2 JP 5718475B2
- Authority
- JP
- Japan
- Prior art keywords
- tactile sensation
- contact
- display
- layer
- touch sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000035807 sensation Effects 0.000 claims description 295
- 238000001514 detection method Methods 0.000 description 58
- 238000000034 method Methods 0.000 description 26
- 230000008569 process Effects 0.000 description 23
- 230000004044 response Effects 0.000 description 15
- 230000004913 activation Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 13
- 230000015541 sensory perception of touch Effects 0.000 description 11
- 230000008859 change Effects 0.000 description 7
- 239000012212 insulator Substances 0.000 description 6
- 238000002834 transmittance Methods 0.000 description 6
- 239000011521 glass Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000004936 stimulating effect Effects 0.000 description 2
- 235000009854 Cucurbita moschata Nutrition 0.000 description 1
- 240000001980 Cucurbita pepo Species 0.000 description 1
- 235000009852 Cucurbita pepo Nutrition 0.000 description 1
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- NIXOWILDQLNWCW-UHFFFAOYSA-N acrylic acid group Chemical group C(C=C)(=O)O NIXOWILDQLNWCW-UHFFFAOYSA-N 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 235000020354 squash Nutrition 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1626—Constructional details or arrangements for portable computers with a single-body enclosure integrating a flat display, e.g. Personal Digital Assistants [PDAs]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1637—Details related to the display arrangement, including those related to the mounting of the display in the housing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1637—Details related to the display arrangement, including those related to the mounting of the display in the housing
- G06F1/1643—Details related to the display arrangement, including those related to the mounting of the display in the housing the display being associated to a digitizer, e.g. laptops that can be used as penpads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0412—Digitisers structurally integrated in a display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0483—Interaction with page-structured environments, e.g. book metaphor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- User Interface Of Digital Computer (AREA)
Description
本出願は、2011年10月27日に出願された日本国特許出願2011−236414号の優先権を主張するものであり、この先の出願の開示全体を、ここに参照のために取り込む。
本発明は、触感を呈示する装置に関するものである。より詳細には、本発明は、タッチセンサに対する接触操作に基づいて触感を呈示する装置に関するものである。
近年、携帯電話等の携帯端末において、ユーザによる操作を検出する操作部やスイッチ等の入力装置として、タッチパネルやタッチスイッチ等のタッチセンサが採用されているものがある。携帯端末以外に、電卓、券売機等の情報機器や、電子レンジ、テレビ、照明器具等の家電製品、産業用機器(FA機器)等にも、タッチセンサを備える入力装置は広く使用されている。
このようなタッチセンサには、抵抗膜方式、静電容量方式、光学式等の種々の方式が知られている。しかしながら、いずれの方式のタッチセンサにおいても、指やスタイラスペンによる接触を検出するものであって、タッチセンサ自体は、接触されても、押しボタンスイッチのようには物理的に変位しない。
したがって、操作者は、接触による操作が入力装置に認識されても、当該操作に対するフィードバックを得ることができない。このため、タッチセンサに対して操作を行う操作者は、機械式の押しボタンスイッチで構成されるキーやボタンを押下する際に得られるような操作感を得ることができない。その結果、操作者は、タッチセンサに対する接触に基づいて入力装置が所定の処理を開始しない限り、自らの接触操作が入力装置に適切に認識されたことを知る術がないという問題がある。
そこで、従来、聴覚または視覚によらず、タッチセンサが接触を検出すると、タッチセンサに振動を発生させるようにしたフィードバック方法が提案されている(例えば、特許文献1および特許文献2参照)。
この特許文献1および特許文献2に開示の技術によれば、タッチセンサに対する操作が検出された際に、操作者の指先などに、振動を発生させることができる。したがって、このような装置を用いて操作を行う操作者は、タッチセンサに対して行った操作が装置に正しく認識されたことを、触覚により認識することができる。
しかしながら、従来、操作者による操作に基づいてフィードバックを提供する装置においては、表示部に表示されたオブジェクトのどの位置において操作者がタッチセンサを接触したとしても、提供されるフィードバックは同じであった。すなわち、従来の装置においては、操作者がタッチセンサのどの位置を接触したとしても、当該接触に応じて得られるフィードバックは、デバイスに依存する一様なものであった。例えば、従来の装置においては、操作者がタッチセンサ上で接触する位置が、表示部に表示したオブジェクトの何れの領域に対応する位置であったとしても、同じ態様の振動が得られるものであった。
さらに、従来の装置においては、例えば1つのオブジェクトが画像で表示された領域に対応する位置のタッチセンサにおいて、部分的に異なるフィードバックを提供することもできなかった。例えば、従来の装置においては、オブジェクトの縁辺部分に対応する位置のタッチセンサに接触が検出された場合にのみ、接触が検出されたのは縁辺部分であることを示唆するようなフィードバックを提供する、というような柔軟なフィードバックの設定を行うことは困難であった。このような装置では、タッチパネルに対する接触に基づいて呈示される触感を、表示部に表示する画像に対応させて高い自由度で設定することはできない。
かかる事情に鑑みてなされた本発明の目的は、タッチパネルに対する接触に基づいて呈示される触感を、表示部に表示する画像に対応させて高い自由度で設定することができる触感呈示装置を提供することにある。
上記目的を達成する第1の観点に係る触感呈示装置の発明は、
タッチセンサと、
前記タッチセンサのタッチ面を振動させる触感呈示部と、
表示部と、
前記表示部が画像を表示するように制御する制御部と、
を備える触感呈示装置であって、
前記制御部はさらに、前記触感呈示部が呈示する触感を前記画像の画素に設定するように制御することにより、前記タッチセンサが当該画素に対応する位置における接触を検出すると、当該画素に割り当てられた所定の処理を行うように制御するとともに、前記タッチ面に接触している接触対象に対して、当該画素に設定された触感を呈示するように前記触感呈示部を制御し、
前記制御部は、前記表示部が画像を複数のレイヤで表示する場合、前記複数のレイヤのうち1のレイヤの画素において、当該1のレイヤよりも下位のレイヤに設定された触感の呈示の有効または無効を設定することを特徴とするものである。
タッチセンサと、
前記タッチセンサのタッチ面を振動させる触感呈示部と、
表示部と、
前記表示部が画像を表示するように制御する制御部と、
を備える触感呈示装置であって、
前記制御部はさらに、前記触感呈示部が呈示する触感を前記画像の画素に設定するように制御することにより、前記タッチセンサが当該画素に対応する位置における接触を検出すると、当該画素に割り当てられた所定の処理を行うように制御するとともに、前記タッチ面に接触している接触対象に対して、当該画素に設定された触感を呈示するように前記触感呈示部を制御し、
前記制御部は、前記表示部が画像を複数のレイヤで表示する場合、前記複数のレイヤのうち1のレイヤの画素において、当該1のレイヤよりも下位のレイヤに設定された触感の呈示の有効または無効を設定することを特徴とするものである。
本発明によれば、タッチパネルに対する接触に基づいて呈示される触感を、表示部に表示する画像に対応させて、極めて高い自由度で設定することができる。
以下、本発明の実施の形態について、図面を参照して説明する。
図1は、本発明の実施の形態に係る触感呈示装置の概略構成を示すブロック図である。
図1に示すように、触感呈示装置1は、表示/触感制御部10と、アプリケーション実行部20と、表示部30と、タッチセンサ40と、触感呈示部50と、押圧検出部60と、記憶部80と、を備えている。
記憶部80は、例えばNAND型フラッシュメモリやRAM等によって構成することができる。記憶部80のメモリ領域には、各種のアプリケーションソフトウェア(以下、単に「アプリケーション」と記す)を記憶する領域のほか、オブジェクトおよび画像ファイルなどの表示用リソースを記憶する領域などが含まれる。この記憶部80から供給される表示用リソースのデータには、後述するように、触感制御情報が付加されている。
アプリケーション実行部20は、CPU等のプロセッサによって構成することができ、各種のアプリケーションのうち指定されたものを記憶部80から読み込んで、当該アプリケーションに基づく処理を実行するとともに、各機能部を当該アプリケーションに基づいて制御する。
表示部30は、背景画像などを表示したり、ボタンおよびキー等(以下、単に「キー等」と総称する)のようなオブジェクトを画像表示したりする。このオブジェクトは、接触すべき領域または位置を操作者に示唆する画像である。このような画像のデータは、アプリケーション実行部20の制御により、表示/触感制御部10から供給される。表示部30は、例えば、液晶表示パネル(LCD)や有機EL表示パネル等を用いて構成する。
タッチセンサ40は、通常は表示部30の前面側に配置して、表示部30に表示したオブジェクトに対する操作者の指等(接触対象)による接触(または接触の解除)を、対応する位置のタッチ面において検出する。また、タッチセンサ40は、タッチ面に対する接触の位置を検出し、当該検出した接触の位置を、表示/触感制御部10に通知する。このタッチセンサ40は、例えば抵抗膜方式、静電容量方式、光学式等の方式のもので構成することができる。
触感呈示部50は、例えば圧電振動子等を用いて構成し、タッチセンサ40のタッチ面に、所定の振動パターンによる振動を発生させる。この触感呈示部50は、タッチセンサ40のタッチ面に振動を発生させることにより、タッチ面を接触している接触対象に対して触感を呈示する。また、触感呈示部50は、振動モータ(偏心モータ)などによる振動を触感呈示装置1に伝達させることにより、タッチセンサ40のタッチ面を間接的に振動させるように構成することもできる。
押圧検出部60は、タッチセンサ40のタッチ面に対してユーザが操作を行う際の押圧を検出するもので、例えば、押圧に応じて物理的または電気的な特性(歪み、抵抗、電圧等)が変化する歪みゲージセンサや圧電素子等の素子等を用いて構成する。押圧検出部60が、例えば、圧電素子等を用いて構成された場合、押圧検出部60の圧電素子は、タッチセンサ40に対する押圧に係る荷重(力)の大きさ(または、荷重(力)の大きさが変化する速さ(加速度))に応じて、電気的な特性である電圧の大きさ(電圧値(以下、押圧に基づくデータと称する))が変化する。この場合、後述する表示/触感制御部10は、押圧検出部60が押圧に基づくデータを表示/触感制御部10に通知することにより、または、表示/触感制御部10が、押圧検出部60の押圧に基づくデータを検出することにより、当該押圧に基づくデータを取得する。つまり、表示/触感制御部10は、タッチセンサ40に対する押圧に基づくデータを押圧検出部60から取得する。なお、押圧に基づくデータは、電圧値の代わりに、押圧に係る荷重の大きさ、電力値、抵抗値等でもよい。そして、アプリケーション実行部20は、タッチセンサ40のタッチ面に対する押圧に基づくデータが所定の閾値以上であることを表示/触感制御部10から通知されると、例えばアプリケーション基づくなどして、所定の処理を行うように制御することができる。
なお、押圧検出部60は、タッチセンサ40がユーザに押圧されたときに生じる、タッチセンサ40と表示部30との隙間の変化を測定するものであってもよい。この場合、押圧に基づくデータは、隙間の変化値に対応する。なお、押圧検出部60は、タッチセンサ40と他の部品、例えば回路基板との隙間の変化を測定するものであってもよい。
また、押圧検出部60は、タッチセンサ40における接触検出方式に応じて構成することができる。例えば、タッチセンサ40が抵抗膜方式の場合には、接触面積の大きさに応じた抵抗の大きさを、タッチセンサ40のタッチ面に対する押圧の荷重(力)に対応付けることにより、歪みゲージセンサや圧電素子等を用いることなく構成することができる。あるいは、タッチセンサ40が静電容量方式の場合には、静電容量の大きさを、タッチセンサ40に対する押圧の荷重(力)に対応付けることにより、歪みゲージセンサや圧電素子等を用いることなく構成することができる。
上述した触感呈示部50は、押圧検出部60が検出する押圧(タッチパネルに対する押圧)に応じて触感呈示部を振動させることにより、振動を発生してユーザの指などに触感を呈示して、タッチセンサ40を押圧しているユーザに操作したことが感覚的に分かるようにできる。なお、押圧検出部60は、触感呈示部50と一体化して構成することもできる。特に、押圧検出部60および触感呈示部50は、圧電素子を用いて構成する場合は、圧電素子を共用して押圧検出部兼触感呈示部を構成することもできる。圧電素子は、圧力が加わると電圧を発生し、電圧が加えられると変形するためである。
また、触感呈示部50は、押圧検出部60も兼ねる圧電素子の電圧の大きさ(電圧値(データ))が所定の基準を満たした際に(接触検出部40がプレスされると)、当該圧電素子を駆動することにより振動を発生するようにもできる。ここで、圧電素子の電圧の大きさ(電圧値(データ))が所定の基準を満たした際とは、電圧値(データ)が所定の基準値に達した際であってもよいし、電圧値(データ)が所定の基準値を超えた際でもよいし、所定の基準値と等しい電圧値(データ)が検出された際でもよい。
表示/触感制御部10は、CPU等のプロセッサによって構成することができ、アプリケーション実行部20からの表示指示に基づいて、表示部30に背景画像やオブジェクトの画像などを表示したり、あるいは当該画像の表示を変更したりする等、表示部30における表示に係る制御を行う。アプリケーション実行部20が表示/触感制御部10に対して表示指示を行う際には、表示部30に表示する画像の表示データなどは、記憶部80に記憶させておいた画像のデータを読み出すことができる。表示/触感制御部10は、このように記憶部80から読み出した画像のデータの供給を受けて、所定の画像を表示部30における所定の位置に描画するように制御する。さらに、表示/触感制御部10は、表示部30が画像を複数のレイヤで表示するように制御することもできる。
ここで、レイヤ表示とは、表示部に画像を表示する際に、複数の仮想的なレイヤを重畳させたものとして画像を合成して表示することである。例えば透過率が0%の(つまり透過しない)画像がレイヤによって重畳表示される場合、表示部においては画像が表示されたレイヤのうち最上位のレイヤの画像のみが表示され、下位のレイヤの画像のうち重畳された箇所は表示されない。一方、例えば透過率が0%でない(つまり透過する)画像がレイヤによって重畳表示される場合、表示部において画像が表示されたレイヤのうち最上位のレイヤの画像を透過して下位のレイヤの画像も表示される。
なお、レイヤ表示において、複数の階層構造はあくまでも仮想的なものであり、実際の表示部においては、1枚の画像が表示されるだけである。このため、表示部に表示したオブジェクトの領域に対応する位置においてタッチセンサが接触を検出したことにより触感を呈示しようとしても、オブジェクトをレイヤ表示すると、当該接触がどのレイヤにおけるオブジェクトに対応する入力なのかを判別することができない。
そこで、特にオブジェクトを透過率が0%の画像により表示するような場合、画像が表示された複数のレイヤのうち最上位のレイヤに表示されたオブジェクトの領域に対応する位置において、タッチセンサが接触を検出するような態様も考えられる。しかしながら、このように画像が表示されたレイヤのうち最上位のレイヤに表示されたオブジェクトのみを考慮して接触を検出して触感を呈示する場合、アプリケーションプログラムを実行する要素が、常に表示部において画像が表示されたレイヤのうち最上位のレイヤに表示されたオブジェクトを認識している必要がある。
また、このように画像が表示されたレイヤのうち最上位のレイヤに表示されたオブジェクトのみを考慮する場合、複数のオブジェクトが複数のレイヤの同じ位置に重畳表示されていると、当該最上位のレイヤ以外のレイヤに表示されたオブジェクトに対する接触を検出することはできない。特に、例えば携帯電話のような小型の端末装置にタッチパネルを採用する場合、その表示部およびタッチセンサともに小型にせざるを得ない。
このように、小型の装置において操作者が接触すべき箇所を表示部に表示する場合、オブジェクトに対応する位置におけるタッチセンサに対する接触に応じて提供するフィードバックを設定する際、当該設定の自由度は著しく制約されることが想定される。しかしながら、本実施の形態の触感呈示装置1によれば、表示部30において複数のオブジェクトを透過率が0%でない画像により複数のレイヤで表示して、任意のレイヤのオブジェクトに対する接触を検出することができる。したがって、本実施の形態の触感呈示装置1によれば、表示部30およびタッチセンサ40の面積が小さくとも、その面積を有効利用することができる。
本実施の形態において、表示/触感制御部10は、アプリケーション実行部20により指定された画素データおよび当該画素データに付加されている触感制御情報に基づいて触感の設定を行う。特に、本実施の形態において、表示/触感制御部10は、触感呈示部50が呈示する触感を、表示部30に表示する画像の「画素」に設定するように制御する。すなわち、本実施の形態においては、表示部30にオブジェクト等を画像として表示する際に、当該画像と対応付けて、当該画像の画素ごとに、呈示される触感を設定する。
したがって、本実施の形態においては、表示/触感制御部10を含んで本発明の制御部が構成される。
また、表示/触感制御部10は、上述した触感の設定に基づいて、所定の条件に応じて所定のパターンの振動を発生するように触感呈示部50を制御する。例えば、表示/触感制御部10は、タッチセンサ40が表示部30に表示された所定のオブジェクト等の画像の領域に対応する位置における接触を検出したら、当該画像に割り当てられた所定の処理を行うように制御するとともに、タッチセンサ40のタッチ面を接触している接触対象に対して当該画像の画素に設定された触感を呈示するように触感呈示部50を制御する。
特に、本実施の形態においては、表示/触感制御部10は、表示部30において触感が設定されたレイヤに表示された画像に対応する位置における接触をタッチセンサ40が検出すると、当該画像に割り当てられた処理を行うように制御するとともに、当該レイヤに設定された触感を呈示するように触感呈示部50を制御するのが好適である。
すなわち、表示/触感制御部10は、タッチセンサ40がオブジェクト等の画像の画素に対応する位置における接触を検出すると、当該画素に割り当てられた所定の処理を行うように制御する。ここで「所定の処理」とは、例えばアプリケーションのアイコンの画像に対応する位置における接触に対しては、当該アプリケーションを起動する処理などとすることができる。その他、「所定の処理」とは、例えばキー等のオブジェクトの画像に対応する位置における接触に対しては、当該キー等に対応する文字を表示部30に表示する処理などとすることができる。また、これとともに、表示/触感制御部10は、タッチセンサ30のタッチ面に接触している接触対象に対して、当該「画素」に設定された触感を呈示するように触感呈示部50を制御する。
また、本実施の形態による触感呈示装置1は、操作者がタッチセンサ40に対する接触操作を行う際の接触の態様に応じて、異なる処理を区別して実行するのが好適である。すなわち、表示/触感制御部10は、タッチセンサ40が検出する接触の態様に応じて、表示部30に表示する画像の画素に割り当てられた複数の所定の処理を区別して行うように制御するのが好適である。例えば、表示/触感制御部10は、タッチセンサ40がシングルタップの接触を検出した場合と、ダブルタップの接触を検出した場合とで、異なる処理を区別して実行するように制御する。また、例えば、表示/触感制御部10は、タッチセンサ40が通常のスライド操作による接触を検出した場合と、スライド操作よりも素早いフリック操作による接触を検出した場合とで、異なる処理を区別して実行するように制御することもできる。
なお、本実施の形態による触感呈示装置1は、誤操作の防止およびリアルな操作感(触感)の呈示のために、操作者がオブジェクトに対応する位置においてタッチセンサ40にごく弱く触れた(接触)だけでは、所定の処理を実行せず、触感も呈示しないのが好適である。本実施の形態において、触感呈示装置1は、操作者がオブジェクトに対応する位置においてタッチセンサ40に接触した状態で、押圧検出部60が検出する押圧に基づくデータが所定の基準を満たして初めて、所定の処理を実行するとともに触感を呈示するのが好適である。
すなわち、表示/触感制御部10は、タッチセンサ40がオブジェクトなどの画像の画素に対応する位置における接触を検出している際に、押圧検出部60が検出する押圧に基づくデータが、当該画素について設定された基準を満たしたら、当該画素に割り当てられた所定の処理を行うように制御する。また、これとともに、表示/触感制御部10は、当該画素について設定された触感を呈示するように触感呈示部50を制御する。
さらに、本実施の形態による触感呈示装置1は、操作者がタッチセンサ40に対する接触操作を行う際に押圧検出部60が検出する押圧に基づくデータに応じて、異なる処理を区別して実行するのが好適である。すなわち、例えば、触感呈示装置1は、同一のオブジェクトに対応する位置において、操作者がタッチセンサ40に第1段階の力で押圧した場合と、第1段階よりも強い第2段階の力で押圧した場合とで、異なる処理を実行させることができる。
この場合には、表示/触感制御部10は、触感呈示部50が触感を呈示するための所定の基準をオブジェクトなどの画像の画素について、複数段階設定するように制御する。そして、表示/触感制御部10は、タッチセンサ40が前記画素に対応する位置における接触を検出している際に、押圧検出部60が検出する押圧に基づくデータが、当該画素について複数段階設定された基準の何れかを満たすと、当該満たされた基準の段階に応じて、前記画素に割り当てられた複数の所定の処理を区別して行うように制御する。
また、本実施の形態による触感呈示装置1は、表示部30が画像を複数のレイヤで表示する際には、操作者がタッチセンサ40に対する接触操作を行う際の接触の態様に応じて、操作者がどのレイヤに対する接触を行っているのかを区別することもできる。すなわち、表示/触感制御部10は、表示部30が画像を複数のレイヤで表示する場合、タッチセンサ40が検出する接触の態様に応じて、当該接触が前記複数のレイヤのうち何れのレイヤの画素に対応する位置における接触であるかを決定することができる。
例えば、表示/触感制御部10は、タッチセンサ40がシングルタップの接触を検出した場合と、ダブルタップの接触を検出した場合とで、異なるレイヤに対する接触が検出されたものとして、複数の処理を区別して実行するように制御することができる。また、例えば、表示/触感制御部10は、タッチセンサ40が通常のスライド操作による接触を検出した場合と、スライド操作よりも素早いフリック操作による接触を検出した場合とで、異なるレイヤに対する接触が検出されたものとして、複数の処理を区別して実行するように制御することができる。
さらに、本実施の形態による触感呈示装置1は、操作者がタッチセンサ40を押圧する際に押圧検出部60が検出する押圧に基づくデータに応じて、操作者がどのレイヤに対する接触を行っているのかを区別することもできる。すなわち、表示/触感制御部10は、表示部30が画像を複数のレイヤで表示する場合、押圧検出部60が検出する押圧に基づくデータに応じて、タッチセンサ30に対する接触が前記複数のレイヤのうち何れのレイヤの画素に対応する位置における接触であるかを決定することができる。
この場合、表示/触感制御部10は、所定の処理を開始するとともに触感呈示部50が触感を呈示するための基準を、各画素が存在するレイヤごとに設定する。この場合、例えば、押圧に基づくデータが満たすべき基準を複数段階設定し、押圧検出部60が検出する押圧に基づくデータが満たした基準の段階が大きくなるにつれて、より下位のレイヤに対する接触に対応するような設定とすることができる。そして、表示/触感制御部10は、表示部30において触感が設定されたレイヤに表示された画像の画素に対応する位置における接触をタッチセンサ40が検出している際に、押圧検出部60が検出する押圧に基づくデータが、当該レイヤに表示された画素に設定された基準を満たすと、当該画素に割り当てられた処理を行うように制御する。これとともに、表示/触感制御部10は、当該レイヤに表示された画素に設定された触感を呈示するように触感呈示部50を制御する。なお、このような場合、表示/触感制御部10は、タッチセンサ40によって接触が検出された位置の情報や押圧検出部60によって検出された押圧に基づくデータ等の情報を、適切なタイミングでアプリケーション実行部20に通知する。
図2は、図1に示した触感呈示装置1のうち、表示部30、タッチセンサ40、触感呈示部50、および押圧検出部60を中心とする実装構造の一例を示すもので、図2(A)は要部断面図であり、図2(B)は要部平面図である。表示部30は、筐体71内に収納保持される。表示部30上には、弾性部材からなるインシュレータ72を介して、タッチセンサ40が保持される。なお、本実施の形態に係る触感呈示装置1においては、表示部30およびタッチセンサ40は、平面視で矩形状としてある。しかしながら、タッチセンサ40および表示部30は、触感呈示装置1の構成などの諸条件に応じた形状とすることができる。また、触感呈示装置1において、タッチセンサ40は、図2(B)に仮想線で示す表示部30の表示領域Aから外れた4隅に配設したインシュレータ72を介して表示部30上に保持される。
また、筐体71には、表示部30の表示領域から外れたタッチセンサ40の表面領域を覆うようにアッパカバー73が設けられ、このアッパカバー73とタッチセンサ40との間に、弾性部材からなるインシュレータ74が配設される。なお、図2に示すタッチセンサ40において、タッチ面40aを有する表面部材は、例えば透明フィルムまたはガラスで構成され、裏面部材はガラスまたはアクリルで構成される。タッチセンサ40は、タッチ面40aが押圧されると、押圧部分が押圧力に応じて微少量撓む(歪む)、または構造体そのものが微少量撓む構造のものを用いる。
タッチセンサ40の表面上には、アッパカバー73で覆われる各辺の近傍に、タッチセンサ40に加わる押圧を検出するための歪みゲージセンサ62がそれぞれ接着等により設けられる。さらに、タッチセンサ40の裏面上には、対向する2つの辺の近傍に、タッチセンサ40を振動させるための圧電振動子52がそれぞれ接着等により設けられる。すなわち、図2に示す触感呈示装置1は、図1に示した押圧検出部60が4つの歪みゲージセンサ62を用いて構成され、触感呈示部50が2つの圧電振動子52を用いて構成されている。そして、触感呈示部50は、タッチセンサ40を振動させることにより、タッチ面40aを振動させるようにしている。なお、図2(B)は、図2(A)に示した筐体71、アッパカバー73およびインシュレータ74の図示を省略している。
次に、本実施の形態による触感呈示装置1において使用されるアプリケーションが供給する画像のデータに付加された、触感の制御に係る情報(以下、適宜「触感制御情報」と記す)について説明する。
図3は、触感制御情報が表示用リソースの画素データに付加された構成の一例を説明する図である。本実施の形態においては、上述したように、表示部に画像を複数のレイヤで表示することができ、当該複数のレイヤのそれぞれにおいて呈示される触感を画素単位で設定する。図3(A)においては、説明を容易にするために、表示部30に画像を表示する際の複数のレイヤを、上位レイヤ、中位レイヤ、および下位レイヤの3つとしている。しかしながら、本実施の形態による複数のレイヤによる画像の表示は3つのレイヤに限定されるものではなく、例えば4つ以上のレイヤとするなど、任意の数のレイヤを構成することができる。
図3(A)に示すように、上位、中位、下位のレイヤは、それぞれ、データの開始を示す情報(FB)およびデータの終了を示す情報(EB)を含んでいる。すなわち、各レイヤのデータは、FBで開始してEBで終了となる。また、各レイヤにおいて、FBとEBとの間には、表示部30に画像を表示するための画素の数だけ画素データが含まれている。例えば、表示部30の解像度がQVGAである場合は、320×240の画素数と同数の画素データが含まれる。図3(A)においては、このように多数の画素データの一部のみを示してある。
図3(B)は、各レイヤにおける画素ごとに、画素データに触感制御情報が付加されている様子を説明する図である。図3(B)においては、例として、上位レイヤに含まれる1つの画素に対応する画素データおよび触感制御情報を示しているが、上位レイヤに含まれる他の画素についても、また他のレイヤに含まれる他の画素についても同様である。
図3(B)に示すように、各レイヤに含まれる1つの画素に対応する描画データおよび触感制御情報には、例えば以下の情報が含まれる。
(1)R
− 当該画素の赤色要素を示す情報
(2)G
− 当該画素の緑色要素を示す情報
(3)B
− 当該画素の青色要素を示す情報
(4)透過
− 当該画素の透過率を示す情報であって、例えばアルファチャンネルなどを示す情報とすることができる
(5)触感制御情報
− 当該画素に対応する位置におけるタッチセンサ40に対して接触が検出された際に呈示される触感を設定するための情報
(1)から(4)までの情報に基づいて、各レイヤの画面全体を構成する画素のうち1つぶんが規定される。したがって、各レイヤにおいて全ての画素について上記情報を規定することにより、各レイヤにおいて透明(画像が表示されない)部分も含めて、種々の背景画像やオブジェクトなどにより構成される1画面分の画像全体が規定される。
(1)R
− 当該画素の赤色要素を示す情報
(2)G
− 当該画素の緑色要素を示す情報
(3)B
− 当該画素の青色要素を示す情報
(4)透過
− 当該画素の透過率を示す情報であって、例えばアルファチャンネルなどを示す情報とすることができる
(5)触感制御情報
− 当該画素に対応する位置におけるタッチセンサ40に対して接触が検出された際に呈示される触感を設定するための情報
(1)から(4)までの情報に基づいて、各レイヤの画面全体を構成する画素のうち1つぶんが規定される。したがって、各レイヤにおいて全ての画素について上記情報を規定することにより、各レイヤにおいて透明(画像が表示されない)部分も含めて、種々の背景画像やオブジェクトなどにより構成される1画面分の画像全体が規定される。
図3(C)は、各レイヤの画素における(5)の触感制御情報の内容の詳細を説明する図である。図3(C)においては、例として上位レイヤの1つの画素における触感制御情報の内容を説明しているが、他のレイヤまたは他の画素において、情報の内容は異なるにしても、情報の構成は同様である。図3(C)に示すように、各レイヤの触感制御情報には、それぞれ、以下のような情報が含まれる。
(1)触感活性化フラグ
− 当該レイヤにおいて触感の呈示を行うか否かを示すフラグ(例えば、「ON」であれば当該レイヤに対応する接触に応じて所定の触感を呈示し、「OFF」であれば当該レイヤに対応する接触が検出されても触感を呈示しない)
− 当該レイヤにおいて触感の呈示を行うか否かを示すフラグ(例えば、「ON」であれば当該レイヤに対応する接触に応じて所定の触感を呈示し、「OFF」であれば当該レイヤに対応する接触が検出されても触感を呈示しない)
(2)下位レイヤ制御フラグ
− 表示部30において複数のレイヤで画像を表示している場合、当該レイヤよりも下位に存在するレイヤに対応する接触を許可するか否かを示すフラグ(例えば「ON」であれば当該レイヤよりも下位のレイヤに対応する接触を検出するが、「OFF」であれば、当該レイヤよりも下位のレイヤに対応する接触は検出しないものとする)
− 表示部30において複数のレイヤで画像を表示している場合、当該レイヤよりも下位に存在するレイヤに対応する接触を許可するか否かを示すフラグ(例えば「ON」であれば当該レイヤよりも下位のレイヤに対応する接触を検出するが、「OFF」であれば、当該レイヤよりも下位のレイヤに対応する接触は検出しないものとする)
(3)クリック触感閾値
− 当該レイヤに対応する押圧操作であると認識してクリック触感を呈示するための基準となる押圧に基づくデータの閾値(すなわち、操作者のタッチセンサ40に対する押圧により、押圧検出部60が検出する押圧に基づくデータが当該クリック触感閾値に達したら、触感呈示装置1はクリック触感を呈示する)
− 当該レイヤに対応する押圧操作であると認識してクリック触感を呈示するための基準となる押圧に基づくデータの閾値(すなわち、操作者のタッチセンサ40に対する押圧により、押圧検出部60が検出する押圧に基づくデータが当該クリック触感閾値に達したら、触感呈示装置1はクリック触感を呈示する)
(4)リリース触感閾値
− 当該レイヤに対応する押圧操作が解除されたと認識してリリース触感を呈示するための基準となる押圧に基づくデータの閾値(すなわち、操作者のタッチセンサ40に対する押圧が弱まり、押圧検出部60が検出する押圧に基づくデータが当該リリース触感閾値を下回ったら、触感呈示装置1は(まだ接触が検出されていても)リリース触感を呈示する)
− 当該レイヤに対応する押圧操作が解除されたと認識してリリース触感を呈示するための基準となる押圧に基づくデータの閾値(すなわち、操作者のタッチセンサ40に対する押圧が弱まり、押圧検出部60が検出する押圧に基づくデータが当該リリース触感閾値を下回ったら、触感呈示装置1は(まだ接触が検出されていても)リリース触感を呈示する)
(5)振動波形
− 触感呈示部50が当該レイヤに設定された触感を呈示する際に使用する振動の波形データそのもの、または予め用意された振動パターン等とすることができる(すなわち、当該振動波形の情報により、表示/触感制御部10は、触感呈示部50が種々の所定の触感を呈示するように制御することができる)
− 触感呈示部50が当該レイヤに設定された触感を呈示する際に使用する振動の波形データそのもの、または予め用意された振動パターン等とすることができる(すなわち、当該振動波形の情報により、表示/触感制御部10は、触感呈示部50が種々の所定の触感を呈示するように制御することができる)
(6)触感呈示の段階の数
− 例えば押圧に基づくデータが満たすべき基準を複数段階設定して段階的に押圧を検出したり、接触の態様に応じて異なる接触として検出する場合、いくつの段階の異なる押圧または接触として区別して検出し、対応する触感を呈示するかを示す数
− 例えば押圧に基づくデータが満たすべき基準を複数段階設定して段階的に押圧を検出したり、接触の態様に応じて異なる接触として検出する場合、いくつの段階の異なる押圧または接触として区別して検出し、対応する触感を呈示するかを示す数
なお、「クリック触感」とは、機械式の押しボタンスイッチで構成されるキーやボタンが押下された際に呈示されるような、キーが挫屈する際の触感のことである。また、「リリース触感」とは、機械式の押しボタンスイッチで構成されるキーやボタンが押下された後に押圧力が弱められた際に得られるような、挫屈したキーが元の状態に戻る際に呈示される触感のことである。
このように、本実施の形態による触感呈示装置1は、画素ごとに触感制御情報を付加することにより、各画素に対応する接触または押圧を区別して検出し、当該検出に応じて画素ごとに異なる触感を呈示することができる。また、上述したように、本実施の形態による触感呈示装置1は、触感制御情報に(1)の触感活性化フラグを含ませることにより、任意のレイヤにおいて触感呈示処理を行うかどうかを自由に設定することができる。また、本実施の形態による触感呈示装置1は、触感制御情報に(2)の下位レイヤ制御フラグを含ませることにより、当該レイヤよりも下位レイヤにおいて触感呈示処理を行うか否かを自由に設定することができる。すなわち、触感呈示装置1において、表示/触感制御部10は、複数のレイヤのうち1のレイヤにおいて、当該1のレイヤよりも下位のレイヤに設定された触感の呈示の有効または無効を設定する。
なお、一般的なユーザインタフェース(UI)においては、例えばアプリケーションの起動時や、キーの押下に応じてアプリケーションに基づく処理が開始される時に、オブジェクトの配置が変更されたり、UIの構成が変更されたりすることが多い。したがって、表示/触感制御部10が各画素における触感を設定するのは、上述のような、アプリケーションの起動時や、キーの押下に応じてアプリケーションに基づく処理が開始される際など、所定のイベント発生時とするのが好適である。すなわち、触感呈示装置1において、表示/触感制御部10は、所定のイベントの発生に基づいて、表示部30が表示する画像を変更するように制御するとともに、触感呈示部50が呈示する触感を前記画像の画素に設定するように制御するのが好適である。
このように、本実施の形態による触感呈示装置1によれば、画素単位で触感制御情報に基づく触感の設定をすることができる。したがって、本実施の形態による触感呈示装置1によれば、タッチセンサ40に対する接触に基づいて呈示される触感を、表示部30に表示する画像に対応させて高い自由度で設定することができる。また、表示部においてオブジェクトなどを複数のレイヤで重ねて表示したとしても、単に表示の制御を行うだけでは、接触または押圧の検出および当該検出に応じた触感の呈示は、あくまでも2次元的な制御に限定されてしまう。しかしながら、本実施の形態の触感呈示装置1によれば、接触または押圧の検出および当該検出に応じた触感の呈示を各レイヤ単位で行うことにより、3次元的な制御を行うことができる。
次に、本実施の形態の触感呈示装置1による動作を、具体例を用いて説明する。図4は、触感呈示装置1の表示部30に3つのレイヤを用いて画像を重ね合わせた様子を表す図である。以下の説明においては、本来は重畳されている表示部30における画像の表示を、説明のために、レイヤごとに離間して図示してある。また、以下の説明においては、表示部30に表示したオブジェクトの領域に対応する位置においてタッチセンサ40が検出する接触または押圧のことを、適宜、単に「オブジェクトに対する接触または押圧」のように記す。
図4において、(A)に示すレイヤは最下位のレイヤを現し、以下単に「下位レイヤ」と記す。また、(B)に示すレイヤは上述した下位レイヤの直近上位に重なるレイヤを現し、以下単に「中位レイヤ」と記す。さらに、(C)に示すレイヤは上述した中位レイヤの直近上位に重なるレイヤを現し、以下単に「上位レイヤ」と記す。なお、本例においては、説明を簡単にするために、表示部30の表示が3つのレイヤにより構成される場合について説明するが、本実施の形態による触感呈示装置1において、レイヤの数は任意とすることができる。
図4(A)に示すように、下位レイヤにおいては、例えば音楽プレーヤのアプリケーションの実行により、背景色が画像として表示されたり、またはアプリケーションに基づく処理を行うためのキー等のオブジェクトが画像として表示される。また、図4(B)に示すように、中位レイヤにおいては、例えば電子メール作成アプリケーションを実行することにより、文字編集画面が表示される。さらに、図4(C)に示すように、上位レイヤにおいては、例えば電話の着信があった際に当該着信を接続するか否かを操作者に選択させるべく、ポップアップ表示のオブジェクトが画像として表示される。
本実施の形態による触感呈示装置1は、図4に示したように、表示部30に表示されるオブジェクトなどの画像に対応して呈示される触感を設定する際に、当該画像を構成する「画素ごとに」呈示される触感を設定することができる。したがって、例えば、図4(A)に示した音楽プレーヤのユーザインタフェースにおいて、ボタンを画像で表した3つのオブジェクトのそれぞれについて、異なる触感が呈示されるように設定することができる。
また、例えば、図4(A)に示した3つのオブジェクト内においては上述したクリック触感が呈示されるように設定することができる。これとともに、図4(A)に示した3つのオブジェクトそれぞれの縁辺部分については、クリック触感が呈示される際よりも弱い押圧に応じて、ボタンの縁辺部分である旨を示すような触感が呈示されるように設定することもできる。その他、例えば、大きめのオブジェクトの画像を構成する多数の画素において、所定の間隔ごとの画素が触感を呈示するように設定することにより、操作者のスライド操作に応じてザラザラしたようなさわり心地のなぞり触感を呈示することなども考えられる。
このように、本実施の形態によれば、非常に高い自由度で、表示部に描画する画像に対応して呈示される触感を設定することができる。
なお、図4(C)の上位レイヤにおいては、ポップアップ表示が行われた様子を図示してあるが、通常の動作時でポップアップ表示が行われていない場合には、図5(C)に示すように、当該レイヤにおいて画像は何も表示されない。また、本例においては、図4に示したような各レイヤに表示されるオブジェクトがそれぞれ透過表示をするものとする。すなわち、複数のレイヤのオブジェクトが位置的に重なって表示されたとしても、各レイヤに表示されたオブジェクトがそれぞれ透過して表示されるようにする。このような透過表示は、図3(B)において説明した(4)の透過の情報において、透過率などを設定することにより行うことができる。また、図5(C)に示したようにオブジェクトが表示されていないレイヤは透明色などで透過表示を行うものとする。
本例における触感呈示装置1は、複数のアプリケーションを同時に実行するマルチタスクによる処理を行うことができるものとし、アプリケーションごとに異なるレイヤに表示することで、操作者による操作をレイヤごとに区別して検出する。さらに、本例においては、押圧または接触の操作を、いくつかの段階に区別して異なるものとして検出することができるものとする。すなわち、本例においては、触感呈示装置1は、操作者がタッチセンサ40に対する接触操作を行う際の押圧に基づくデータが満たす基準の段階に応じて、異なるレイヤに対する押圧、または所定の1つのレイヤにおいて異なる段階の押圧として検出することができるようにする。さらに、本例においては、触感呈示装置1は、操作者がタッチセンサ40に対する接触操作を行う際の接触の態様に応じて、異なるレイヤに対する接触、または所定の1つのレイヤにおいて異なる段階の接触として検出することもできるようにする。
図5は、図4に示したレイヤ表示により、触感呈示装置1において音楽プレーヤのアプリケーションを起動しつつ電子メール作成のアプリケーションも起動している際の、通常の表示を示す図である。通常の表示とは、表示部30において操作者に注意を促すようなポップアップ表示を行っていない場合の表示のことである。
図5(C)に示すように、ポップアップ表示を行っていない場合の上位レイヤにおいては、図3(C)で説明した(1)触感活性化フラグがOFFであるため、当該レイヤに対する接触は検出されず、触感も呈示されない。また、(2)下位レイヤ制御フラグはONであるため、当該上位レイヤにおいては接触を検出しないが、当該上位レイヤよりも下位のレイヤに対する接触は検出する。なお、当該上位レイヤにおいては接触を検出しないため(6)触感呈示の段階の数はゼロに設定されている。
次に、図5(B)に示すように、上位レイヤにポップアップ表示を行っていない場合の中位レイヤにおいて、(1)触感活性化フラグがONであるため、当該レイヤに対する接触は検出され、当該検出に応じて触感が呈示される。すなわち、電子メール作成アプリケーションによるオブジェクトが表示されている箇所に対する接触は検出され、当該接触が検出されると、所定の処理が行われるとともに、当該位置の画素に設定された触感が呈示される。また、(2)下位レイヤ制御フラグはONであるため、当該中位レイヤにおいて接触を検出しつつ、さらに当該中位レイヤよりも下位のレイヤに対する接触も検出する。なお、当該中位レイヤにおいて接触を検出する際の(6)触感呈示の段階の数は1に設定されている。
さらに、図5(A)に示すように、上位レイヤにポップアップ表示を行っていない場合の下位レイヤにおいては、(1)触感活性化フラグがONであるため、当該レイヤに対する接触は検出され、当該検出に応じて触感が呈示される。すなわち、画面下部に表示されているキー等のオブジェクトが表示されている箇所に対する接触は検出され、当該検出に応じて対応する触感が呈示される。なお、当該下位レイヤにおいては、各オブジェクトに対して2段階の接触または押圧を検出するため(6)触感呈示の段階の数は2に設定されている。すなわち、本例においては、下位レイヤに対する押圧に基づくデータが満たすべき多段階の基準による押圧の区別や、接触または押圧の態様による区別を行うことにより、2段階の接触または押圧を検出する。本例においては、図5(B)に示すように、すでに中位レイヤにおいて1段階目の接触または押圧を検出するため、実際には、図5(C)に示す下位レイヤにおいては2段階目および3段階目の接触または押圧を検出することになる。
したがって、操作者は、1段階目の接触または押圧を行うことにより、中位レイヤにおける電子メール作成アプリケーションに対する操作を行うことができる。さらに、操作者は、2段階目および3段階目の接触または押圧を行うことにより、下位レイヤにおける音楽プレーヤアプリケーションに対する操作を行うことができる。この場合、例えば、2段階目の接触または押圧を検出することにより、音楽プレーヤにおいて次の曲を再生することができ、3段階目の接触または押圧を検出することにより、音楽プレーヤの再生の音量を上げる、などの処理を割り当てることができる。
次に、触感呈示装置1が備えている電話の通話アプリケーションにより、通話を着信したため、通話アプリケーションの割り込み処理により、着信中の通話を接続するか否かを問うイベントが発生したとする。
このようなイベント発生時に、図3(B)にて説明した(1)乃至(4)の画素データにより、表示部30における新たな表示が構成されるとともに、(5)触感制御情報により、表示/触感制御部10が触感呈示部50を制御する際の設定も画素単位で変更される。この例の場合、着信中の通話を接続するか否かを操作者に確認するために、図6(C)に示すようなポップアップ表示が上位レイヤにおいて行われる。なお、図6(C)に示す上位レイヤにおいては、「着信中」の旨を示すオブジェクトにおいて「はい」の部分に対する接触の検出に応じて、触感呈示装置1は着信中の通話を接続する処理を行うものとする。すなわち、操作者は、上位レイヤに表示された「着信中」の旨を示すオブジェクトにおける「はい」の部分に対して指などで接触することにより、着信中の通話を接続して、通話を行うことができる。
図6は、触感呈示装置1において中位レイヤおよび下位レイヤにおいてそれぞれ別のアプリケーションを実行中に、通話を着信した旨のポップアップをレイヤにより表示部30に表示した様子を示す図である。
図6(C)に示すように、表示の変更とともに、ポップアップ表示を行う場合の上位レイヤにおいて、(1)触感活性化フラグがONに設定されて、当該レイヤに対する接触が検出されるようになり、当該検出に応じて触感が呈示される。また、(2)下位レイヤ制御フラグはONに設定されたままであるため、当該上位レイヤよりも下位のレイヤに対する接触は検出される。なお、当該上位レイヤにおいて、各オブジェクトに対して1段階の接触または押圧を検出するため(6)触感呈示の段階の数は1に設定される。したがって、上位レイヤに表示したポップアップのオブジェクトに対する1段階目の接触は検出され、当該接触の検出に応じて触感が呈示され、着信中の通話が接続される。
図6(B)に示すように、中位レイヤにおいては(1)触感活性化フラグはONのままであるため、当該レイヤに対する接触が検出され、当該検出に応じて触感が呈示される。したがって、中位レイヤに表示した電子メール作成アプリケーションに基づくオブジェクトに対する接触は検出されるため、操作者は、上位レイヤにポップアップ表示がされたままであっても、電子メール作成アプリケーションに対する操作を行うことができる。この中位レイヤに対する操作を行うためには、操作者は、2段階目の接触または押圧を行えばよい。しかしながら、図6(B)に示すように、(2)下位レイヤ制御フラグはOFFであるため、当該中位レイヤにおいて接触を検出しても、当該中位レイヤよりも下位のレイヤに対する接触は検出されなくなる。このため、図6(A)に示すように、下位レイヤにおいては(1)触感活性化フラグはONであるが、当該レイヤに対する接触は検出されなくなり、触感も呈示されなくなる。したがって、操作者は、図6に示すように、上位レイヤにポップアップ表示がされた状態では、音楽プレーヤのアプリケーションに対する操作を行うことはできなくなる。
このように、触感呈示装置1によれば、音楽プレーヤおよび電子メール作成の2つのアプリケーションを同時に実行中に電話の通話を着信した場合、電子メール作成のアプリケーションに対する操作は有効のままとしつつ、音楽プレーヤのアプリケーションに対する操作は無効にすることができる。
次に、本実施の形態の触感呈示装置1による動作を、他の具体例を用いてさらに説明する。図7は、図5にて説明した通常の表示をしている際に電話の通話を着信した場合の、触感呈示装置1による動作の他の例を説明する図である。すなわち、上述した例においては、触感呈示装置1による動作は、図5に示した状態から図6に示した状態に移行したが、以下の例においては、図5に示した状態から図7に示した状態に移行する。
図7は、触感呈示装置1において中位レイヤおよび下位レイヤにおいてそれぞれ別のアプリケーションを実行中に、通話を着信した旨のポップアップをレイヤにより表示部30に表示した様子を示す図である。
図7(C)に示すように、表示の変更とともに、ポップアップ表示を行う場合の上位レイヤにおいて、(1)触感活性化フラグがONに設定されて、当該レイヤに対する接触が検出されるようになり、当該検出に応じて触感が呈示される。また、(2)下位レイヤ制御フラグはONに設定されたままであるため、当該上位レイヤよりも下位のレイヤに対する接触は検出される。なお、当該上位レイヤにおいて、各オブジェクトに対して1段階の接触または押圧を検出するため(6)触感呈示の段階の数は1に設定される。したがって、上位レイヤに表示したポップアップのオブジェクトに対する1段階目の接触は検出され、当該接触の検出に応じて触感が呈示され、着信中の通話が接続される。
一方、図7(B)に示すように、中位レイヤにおいては(1)触感活性化フラグはOFFであるため、当該レイヤに対する接触は検出されず、触感も呈示されなくなる。したがって、中位レイヤに表示した電子メール作成アプリケーションに基づくオブジェクトに対する接触は検出されないようになり、操作者は電子メール作成アプリケーションに対する操作を行うことができなくなる。しかしながら、図7(B)に示すように、(2)下位レイヤ制御フラグはONであるため、当該中位レイヤにおいて接触を検出しなくとも、当該中位レイヤよりも下位のレイヤに対する接触は検出される。
図7(A)に示すように、下位レイヤにおいては(1)触感活性化フラグはONであるため、当該レイヤに対する接触は検出され、当該検出に応じて触感が呈示される。なお、当該下位レイヤにおいては、各オブジェクトに対して2段階の接触または押圧を検出するため(6)触感呈示の段階の数は2に設定されている。すなわち、本例において、下位レイヤに対する押圧に基づくデータが満たすべき多段階の基準による押圧の区別や、接触または押圧の態様による区別を行うことにより、2種類の接触または押圧を検出する。本例においては、図7(C)に示したように、すでに上位レイヤにおいて1段階目の接触または押圧を検出するため、実際には、図7(C)に示す下位レイヤにおいては2段階目および3段階目の接触または押圧を検出することになる。この場合、例えば、2段階目の接触または押圧を検出することにより、音楽プレーヤにおいて前の曲を再生することができ、3段階目の接触または押圧を検出することにより、音楽プレーヤの再生の音量を下げる、などの処理を割り当てることができる。
このように、触感呈示装置1によれば、音楽プレーヤおよび電子メール作成の2つのアプリケーションを同時に実行中に電話の通話を着信した場合、例えば電子メール作成のアプリケーションに対する操作は無効化しつつ、音楽プレーヤのアプリケーションに対する操作は有効のままにしておくことができる。
次に、本実施の形態の触感呈示装置1による動作を、さらに他の具体例を用いて説明する。図8は、図5にて説明した通常の表示をしている際に電話の通話を着信した場合の、触感呈示装置1による動作の他の例を説明する図である。すなわち、以下説明する例においては、触感呈示装置1による動作は、図5に示した状態から図8に示した状態に移行する。
図8は、触感呈示装置1において中位レイヤおよび下位レイヤにおいてそれぞれ別のアプリケーションを実行中に、通話を着信した旨のポップアップをレイヤにより表示部30に表示した様子を示す図である。
図8(C)に示すように、表示の変更とともに、ポップアップ表示を行う場合の上位レイヤにおいて、(1)触感活性化フラグがONに設定されて、当該レイヤに対する接触が検出されるようになり、当該検出に応じて触感が呈示される。一方、(2)下位レイヤ制御フラグはOFFに設定されたため、当該上位レイヤよりも下位のイヤに対する接触は検出されず、触感も呈示されなくなる。したがって、上位レイヤに表示したポップアップのオブジェクトに対する1段階目の接触は検出され、当該接触の検出に応じて触感が呈示され、着信中の通話が接続されるようになるが、中位レイヤおよび下位レイヤにおいては接触が検出されなくなる。本例の場合、中位レイヤおよび下位レイヤにおいて(1)触感活性化フラグはONであるが、接触は検出されずに、触感も呈示されなくなる。
このように、触感呈示装置1によれば、音楽プレーヤおよび電子メール作成の2つのアプリケーションを同時に実行中に電話の通話を着信した場合、電子メール作成のアプリケーションに対する操作も音楽プレーヤのアプリケーションに対する操作も無効化することができる。この場合、上位レイヤに表示されたポップアップ表示に対する接触または押圧のみが検出されることになる。
本実施の形態の触感呈示装置1によれば、表示部30に表示するオブジェクトの画像を構成する画素ごとに、呈示される触感を設定できるため、従来のフィードバック方式に比べて、格段に高い自由度で、触感の設定および呈示を行うことができる。また、上述した例に示したように、本実施の形態の触感呈示装置1によれば、表示部30に画像をレイヤ表示して、タッチセンサ40が各レイヤの画像に対応する接触を検出することにより、各レイヤの触感を呈示することができる。したがって、本実施の形態の触感呈示装置1によれば、接触または押圧の検出および当該検出に応じた触感の呈示を各レイヤ単位で行って、触感を3次元的に制御することができるため、タッチセンサ40および表示部30を有効に活用することができる。
なお、表示部30にキー等のオブジェクトが表示された位置に対応するタッチセンサ40に対する接触または押圧に応じて、触感呈示部50が押圧対象に対して呈示する触感は、上述したクリック触感のようなリアルな触感とすることができる。操作者に対してリアルなクリック触感を呈示するためには、触感呈示装置1は、以下のような処理を行うことにより、操作者の圧覚を刺激した状態で触覚を刺激する。すなわち、触感呈示装置1は、タッチセンサ40に荷重が加わって、荷重検出部60が検出する押圧に基づくデータが、触感を呈示する基準(例えば1Nの押圧に基づくデータが満たすべき基準)を満たすまでは、圧覚を刺激するようにする。そして、押圧に基づくデータが当該基準を満たすと、触感呈示装置1は、圧電振動子52を所定の駆動信号で駆動してタッチ面40aを振動させて触覚を刺激する。これにより、触感呈示装置1は、押しボタンスイッチ(プッシュ式ボタンスイッチ)のようなボタンスイッチを押した際に得られるのと同様なクリック触感を、操作者に呈示することができる。したがって、操作者は、タッチセンサ上部に描画されたオブジェクトの押しボタンスイッチであっても、押しボタンスイッチを操作した場合と同様のリアルなクリック触感を得ながら、タッチセンサ40に対して操作を行うことができるので、違和感を覚えることがない。また、タッチセンサ11を「押した」という意識との連動で操作を行うことができるので、意図しない微かな接触による操作ミスも防止することができる。
上述したクリック触感を呈示する際の駆動信号、すなわち触覚を刺激する一定周波数、周期(波長)、波形、振幅は、呈示するクリック触感に応じて適宜設定することができる。例えば、携帯端末に使用されているメタルドームスイッチに代表されるクリック触感を呈示する場合、例えば、170Hzの一定周波数のSin波からなる1周期分の駆動信号により触感呈示部50を駆動してもよい。このような駆動信号により触感呈示部50を駆動させて、タッチ面40aを、荷重検出部60により検出される押圧に基づくデータが所定の基準を満たした状態で、約15μm振動させる。これにより、実際のキーをクリックした場合のような、リアルなクリック触感を操作者に呈示することができる。
また、上述した実施の形態の各例においては、触感呈示装置1は、タッチセンサ40が接触を検出した時点ではまだ触感は呈示せずに、押圧検出部60が検出する押圧に基づくデータが所定の基準を満たした時点で触感を呈示した。しかしながら、押圧検出部60による押圧の検出を省略して、タッチセンサ40に対する接触の有無および当該接触の位置のみを検出することによっても、本実施の形態による触感の呈示を行うこともできる。この場合、表示/触感制御部10は、タッチセンサ40が接触を検出することに基づいて、所定の処理を開始するとともに、触感を呈示するようにする。また、この場合、荷重の段階的な検出によって異なる処理を割り当てることはできないため、タッチセンサ40に対する接触の態様に応じて異なる処理を割り当てるようにする。すなわち、この場合、タッチセンサ40に対する接触の態様に応じて、異なるレイヤに対する接触、または所定の1つのレイヤにおいて異なる段階の接触を検出するようにする。
なお、本発明は、上記実施の形態にのみ限定されるものではなく、幾多の変形または変更が可能である。例えば、上述した実施の形態では、表示/触感制御部10が、表示部30の制御および触感呈示部50の制御を行う構成について説明したが、本発明は、当該構成に限定されるものではなく、設計の際の要求に応じて種々の構成を採ることができる。例えば、図9に示すように、表示部30については表示制御部12が制御を行い、また触感呈示部50については触感制御部14が制御を行うような構成とすることもできる。この場合には、表示制御部12は図3(B)に示した(1)乃至(4)の画素データに基づいて表示部30が画像を表示するように制御を行い、触感制御部14は図3(B)に示した(5)の触感制御情報に基づいて触感呈示部50が所定の触感を呈示するように制御を行う。
さらに、上述した実施の形態では、表示/触感制御部10とアプリケーション実行部20とが別個の機能部であるものとして説明したが、例えば、表示/触感制御部10およびアプリケーション実行部20の機能を単一のプロセッサに統合するようにもできる。あるいは、表示/触感制御部10およびアプリケーション実行部20の一方が他方を含むような構成とすることもできる。
また、上記実施の形態では、タッチセンサ40を用いて、当該タッチセンサのタッチ面に対する接触を検出したが、荷重センサ(押圧検出部)を用いて、押圧に基づくデータが所定の基準を満たした際に、接触がなされたものと判定することもできる。このような押圧検出部は、上述した実施の形態の押圧検出部60と同様に、任意の個数の歪みゲージセンサ等を用いて構成することができる。
また、触感呈示部は、任意の個数の圧電振動子を用いて構成したり、タッチセンサの全面に透明圧電素子を設けて構成したり、触感を呈示する振動を表現できるのであれば、偏心モータを駆動信号の1周期で1回転させるようにして構成したり、することもできる。
また、本発明に係る触感呈示装置は、押圧検出部60により検出される押圧に基づくデータが、触感を呈示する所定の基準を満たした際に、当該押圧検出部60を駆動することを想定して説明した。ここで、押圧に基づくデータが、触感を呈示する所定の基準を満たした際とは、押圧に基づくデータが所定の基準値に達した際であってもよいし、押圧に基づくデータが所定の基準値を超えた際でもよいし、触感を呈示する基準値に対応するデータが押圧検出部60から出力された際でもよい。
1 触感呈示装置
10 表示/触感制御部
20 アプリケーション実行部
30 表示部
40 タッチセンサ
40a タッチ面
50 触感呈示部
52 圧電振動子
60 押圧検出部
62 歪みゲージセンサ
71 筐体
72 インシュレータ
73 アッパカバー
74 インシュレータ
80 記憶部
10 表示/触感制御部
20 アプリケーション実行部
30 表示部
40 タッチセンサ
40a タッチ面
50 触感呈示部
52 圧電振動子
60 押圧検出部
62 歪みゲージセンサ
71 筐体
72 インシュレータ
73 アッパカバー
74 インシュレータ
80 記憶部
Claims (1)
- タッチセンサと、
前記タッチセンサのタッチ面を振動させる触感呈示部と、
表示部と、
前記表示部が画像を表示するように制御する制御部と、
を備える触感呈示装置であって、
前記制御部はさらに、前記触感呈示部が呈示する触感を前記画像の画素に設定するように制御することにより、前記タッチセンサが当該画素に対応する位置における接触を検出すると、当該画素に割り当てられた所定の処理を行うように制御するとともに、前記タッチ面に接触している接触対象に対して、当該画素に設定された触感を呈示するように前記触感呈示部を制御し、
前記制御部は、前記表示部が画像を複数のレイヤで表示する場合、前記複数のレイヤのうち1のレイヤの画素において、当該1のレイヤよりも下位のレイヤに設定された触感の呈示の有効または無効を設定する触感呈示装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013540662A JP5718475B2 (ja) | 2011-10-27 | 2012-10-26 | 触感呈示装置 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011236414 | 2011-10-27 | ||
JP2011236414 | 2011-10-27 | ||
JP2013540662A JP5718475B2 (ja) | 2011-10-27 | 2012-10-26 | 触感呈示装置 |
PCT/JP2012/006878 WO2013061605A1 (ja) | 2011-10-27 | 2012-10-26 | 触感呈示装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2013061605A1 JPWO2013061605A1 (ja) | 2015-04-02 |
JP5718475B2 true JP5718475B2 (ja) | 2015-05-13 |
Family
ID=48167454
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013540662A Active JP5718475B2 (ja) | 2011-10-27 | 2012-10-26 | 触感呈示装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9519347B2 (ja) |
JP (1) | JP5718475B2 (ja) |
WO (1) | WO2013061605A1 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5707454B2 (ja) * | 2013-07-22 | 2015-04-30 | 京セラ株式会社 | 電子機器 |
JP6644466B2 (ja) * | 2013-12-31 | 2020-02-12 | イマージョン コーポレーションImmersion Corporation | 触覚通知を提供するシステム及び方法 |
JP6289100B2 (ja) * | 2014-01-06 | 2018-03-07 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
CN106104426B (zh) * | 2014-03-21 | 2020-04-03 | 意美森公司 | 用于基于力的对象操纵和触觉检测的系统、方法和计算机可读介质 |
JP2017111462A (ja) * | 2015-11-27 | 2017-06-22 | 京セラ株式会社 | 触感呈示装置及び触感呈示方法 |
KR102307215B1 (ko) * | 2016-02-04 | 2021-10-01 | 후아웨이 테크놀러지 컴퍼니 리미티드 | 데이터 처리 방법 및 전자 디바이스 |
JP2018036959A (ja) * | 2016-09-01 | 2018-03-08 | 株式会社デンソーテン | 制御装置、入力装置、入力システム、表示装置および制御方法 |
DE102017000569A1 (de) | 2017-01-23 | 2018-07-26 | e.solutions GmbH | Verfahren, Computerprogrammprodukt und Vorrichtung zum Ermitteln von Eingabebereichen an einer grafischen Benutzeroberfläche |
WO2019023724A1 (de) * | 2017-07-31 | 2019-02-07 | Keba Ag | Industriebedienpanel |
JP2020071641A (ja) * | 2018-10-31 | 2020-05-07 | 株式会社デンソー | 入力操作装置及びユーザインタフェースシステム |
TWI844940B (zh) * | 2022-09-04 | 2024-06-11 | 致伸科技股份有限公司 | 觸控板模組以及具有觸控板模組的電子計算機 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003288158A (ja) | 2002-01-28 | 2003-10-10 | Sony Corp | タクタイル・フィードバック機能を持つ携帯型機器 |
JP2006163579A (ja) * | 2004-12-03 | 2006-06-22 | Sony Corp | 情報処理システム、情報処理装置及び情報処理方法 |
JP2008130055A (ja) | 2006-11-27 | 2008-06-05 | Sony Corp | タッチパネルディスプレイ装置および駆動方法並びに電子機器 |
US8681108B2 (en) * | 2007-07-30 | 2014-03-25 | Kyocera Corporation | Input apparatus |
WO2011128959A1 (ja) * | 2010-04-13 | 2011-10-20 | パナソニック株式会社 | 触覚制御情報生成装置 |
JP2011187087A (ja) * | 2011-06-28 | 2011-09-22 | Kyocera Corp | 入力装置および入力装置の制御方法 |
-
2012
- 2012-10-26 US US14/354,164 patent/US9519347B2/en active Active
- 2012-10-26 JP JP2013540662A patent/JP5718475B2/ja active Active
- 2012-10-26 WO PCT/JP2012/006878 patent/WO2013061605A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
US9519347B2 (en) | 2016-12-13 |
JPWO2013061605A1 (ja) | 2015-04-02 |
US20140320440A1 (en) | 2014-10-30 |
WO2013061605A1 (ja) | 2013-05-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5718475B2 (ja) | 触感呈示装置 | |
JP5654114B2 (ja) | タッチセンサを備えた電子機器 | |
JP5705243B2 (ja) | 電子機器及び電子機器の制御方法 | |
JP5555612B2 (ja) | 触感呈示装置 | |
US10795492B2 (en) | Input device and method for controlling input device | |
EP2383631A1 (en) | Hand-held mobile device and method for operating the hand-held mobile device | |
JP6246640B2 (ja) | 電子機器 | |
JPWO2013001775A1 (ja) | 電子機器 | |
WO2011077612A1 (ja) | 触感呈示装置 | |
JP5766398B2 (ja) | 触感呈示装置 | |
JP5243379B2 (ja) | 入力装置 | |
JP5587759B2 (ja) | 触感呈示装置、当該装置に用いるプログラムおよび触感呈示方法 | |
WO2011077687A1 (ja) | 触感呈示装置および触感呈示装置の制御方法 | |
JP5587596B2 (ja) | 触感呈示装置 | |
JP5292244B2 (ja) | 入力装置 | |
JP5763579B2 (ja) | 電子機器 | |
JP2015106173A (ja) | 電子機器 | |
JP5706676B2 (ja) | 触感呈示装置 | |
JP5591646B2 (ja) | 電子情報機器 | |
JP2011095925A (ja) | 入力装置 | |
JP2011095928A (ja) | 入力装置 | |
JP2011095926A (ja) | 入力装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150206 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150303 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150318 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5718475 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |