JP5809079B2 - 電子機器及び電子機器の制御方法 - Google Patents

電子機器及び電子機器の制御方法 Download PDF

Info

Publication number
JP5809079B2
JP5809079B2 JP2012027469A JP2012027469A JP5809079B2 JP 5809079 B2 JP5809079 B2 JP 5809079B2 JP 2012027469 A JP2012027469 A JP 2012027469A JP 2012027469 A JP2012027469 A JP 2012027469A JP 5809079 B2 JP5809079 B2 JP 5809079B2
Authority
JP
Japan
Prior art keywords
image
tactile sensation
control unit
touch sensor
electronic device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012027469A
Other languages
English (en)
Other versions
JP2012181833A (ja
Inventor
上野 泰弘
泰弘 上野
政継 中村
政継 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2012027469A priority Critical patent/JP5809079B2/ja
Publication of JP2012181833A publication Critical patent/JP2012181833A/ja
Application granted granted Critical
Publication of JP5809079B2 publication Critical patent/JP5809079B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus

Description

この発明は、電子機器及び電子機器の制御方法に関する。
現在、タッチパネルやタッチパッドなどが広く用いられている。そのタッチパネルやタッチパッドなどを操作した際に、タッチパネルやタッチパネルを湾曲振動させることにより、操作者の指先などに操作感をフィードバックするものが提案されている(例えば、特許文献1参照)。
特開2006−215776号公報
ところで、特許文献1記載の電子機器は、タッチパネル全体に一定の触感を呈示するものであって、例えば、タッチパネルに表示される画像の特徴に応じて、位置によって触感を変化させることができないという問題がある。そのため、従来、タッチパネルにおいて画像の触感を表現するためには、画像に文書としてコメントを付加したり、吹き出しや矢印をつけて説明を付加する必要があった。しかし、文字で表現された触感に対する感覚は人によって異なるため、文字による説明では表現者と受信者とのギャップを埋めることができなかった。
したがって、かかる点に鑑みてなされた本発明の目的は、表示する画像の特徴に応じて対応する触感を呈示可能な電子機器を提供することにある。
上述した諸課題を解決すべく、第1の発明による電子機器は、
画像を表示する表示部と、
接触を検出するタッチセンサと、
前記タッチセンサのタッチ面に対して触感を呈示する触感呈示部と、
前記画像を複数の領域に分割し、前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出すると、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御する制御部と、
を備える電子機器であって、
前記制御部は、前記画像の輝度若しくは色に基づくスペクトル分布及び前記画像の周波数スペクトルの少なくともいずれか一方に基づき、前記複数の領域に対応付ける触感を設定するものである。
また、第2の発明による電子機器は、
前記制御部が、前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出し、当該接触の押圧に基づくデータが所定の閾値を満たした場合、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御するものである。
また、第3の発明による電子機器は、
前記制御部が、前記画像の輝度若しくは色に基づくスペクトル分布及び前記画像の周波数スペクトルの少なくともいずれか一方に基づき、前記画像を複数の領域に分割するものである。
また、第4の発明による電子機器は、
画像を表示する表示部と、
接触を検出するタッチセンサと、
前記タッチセンサのタッチ面に対して触感を呈示する触感呈示部と、
前記画像を複数の領域に分割し、前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出すると、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御する制御部と、
を備える電子機器であって、
前記制御部は、前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出し、当該接触の押圧に基づくデータが所定の閾値を満たした場合、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御し、
前記制御部、前記画像の輝度若しくは色に基づくスペクトル分布及び前記画像の周波数スペクトルの少なくともいずれか一方に基づき、前記所定の閾値を設定するものである。
また、第の発明による電子機器は、
前記画像のデータを所定の画像フォーマットで記憶する記憶部を備え、
前記制御部は、前記画像フォーマットの付加領域に前記複数の領域の情報及び前記複数の領域に対応付けられた触感の情報を含めて前記記憶部に記憶させるものである。
また、第の発明による電子機器は、
通信部を備え、
前記制御部は、前記画像フォーマットによって、前記画像のデータと共に、前記複数の領域の情報及び前記複数の領域に対応付けられた触感の情報を前記通信部により送信するものである。
上述したように本発明の解決手段を装置として説明してきたが、本発明はこれらに実質的に相当する方法、プログラム、プログラムを記録した記憶媒体としても実現し得るものであり、本発明の範囲にはこれらも包含されるものと理解されたい。
例えば、本発明を方法として実現させた第の発明による電子機器の制御方法は、
画像を表示する表示部と、
接触を検出するタッチセンサと、
前記タッチセンサのタッチ面に対して触感を呈示する触感呈示部と、を備える電子機器の制御方法であって、
前記画像を複数の領域に分割するステップと、
前記画像の輝度若しくは色に基づくスペクトル分布及び前記画像の周波数スペクトルの少なくともいずれか一方に基づき、前記複数の領域に対応付ける触感を設定するステップと、
前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出すると、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御するステップと、を有するものである。
また、本発明を方法として実現させた第8の発明による電子機器の制御方法は、
画像を表示する表示部と、
接触を検出するタッチセンサと、
前記タッチセンサのタッチ面に対して触感を呈示する触感呈示部と、を備える電子機器の制御方法であって、
前記画像を複数の領域に分割するステップと、
前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出し、当該接触の押圧に基づくデータが所定の閾値を満たした場合、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御するステップと、
前記画像の輝度若しくは色に基づくスペクトル分布及び前記画像の周波数スペクトルの少なくともいずれか一方に基づき、前記所定の閾値を設定するステップと、
を有するものである。
本発明に係る電子機器及び電子機器の制御方法によれば、表示する画像の特徴に応じて対応する触感を呈示することが可能となる。
図1は、本発明の一実施形態に係る電子機器の機能ブロック図である。 図2は、図1に示す電子機器の正面図である。 図3は、触感パターンテーブルの一例を示す図である。 図4は、ヒストグラムを用いた画像の領域分割の一例を示す図である。 図5は、図1に示す電子機器の動作フローチャートである。 図6は、分割された領域の一例を示す図である。 図7は、分割された領域への触感選択ウィンドウの一例を示す図である。 図8は、分割された領域への触感設定画面の一例を示す図である。
以降、諸図面を参照しながら、本発明の実施態様を詳細に説明する。以下の実施形態においては、本発明の電子機器の一例として、携帯電話やPDAなどのような電子機器であってタッチパネルを備えているものを想定して説明する。しかしながら、本発明の電子機器は、これらの端末に限定されるものではなく、例えば、ゲーム機、デジタルカメラ、ポータブルオーディオプレーヤ、ノートPC、ミニノートPC、デスクトップPC、デジタルサイネージ(電子看板)装置などの種々の電子機器とすることができる。
図1は、本発明の一実施形態に係る電子機器10の内部構成を概略的に示す機能ブロック図である。図1に示すように、電子機器10は、タッチパネル101と、触感呈示部104と、押圧検出部105と、撮像部106と、通信部107と、記憶部108と、制御部109とを備えている。
本実施形態では、タッチパネル101は、表示部102と、タッチセンサ103とを備えている。このタッチパネル101は、ユーザの接触を検出するタッチセンサ103を、表示部102の前面に重畳させて配置することにより構成する。図2は、電子機器10の正面図であり、電子機器10の正面にはタッチパネル101(表示部102及びタッチセンサ103)及び撮像部106が設けられている。なお、本実施形態は、表示部102の前面に指示部材を介してタッチセンサ103を形成する場合も含むものとする。
タッチパネル101の表示部102は、例えば液晶ディスプレイ(LCD)または有機ELディスプレイなどで構成される。表示部102は、撮像部106により取得した画像、通信部107を介して取得した画像、及び記憶部108に記憶されている画像などを表示する。なお、画像とは、静止画だけでなく動画をも含むものである。表示部102の前面には、ユーザの指などによるタッチ面への接触を検出するタッチセンサ103が配設される。このタッチセンサ103は、例えば抵抗膜方式、静電容量方式、光学式等の公知の方式のもので構成される。タッチセンサ103は、ユーザの指などの接触を検知すると、接触位置の情報を制御部109に供給する。なお、タッチセンサ103が接触を検出する上で、ユーザの指等がタッチセンサ103に物理的に接触することは必須ではない。例えば、タッチセンサ103が光学式である場合には、タッチセンサ103は、赤外線が指等により遮られた位置を検出するため、物理的な接触がない場合でも接触を検出することができる。
触感呈示部104は、タッチセンサ103のタッチ面に振動を伝えるもので、例えば、圧電素子または超音波振動子などを用いて構成する。この触感呈示部104が振動することにより、タッチセンサ103に接触しているユーザの指などに対して触感を呈示することができる。また、触感呈示部104は、振動モータ(偏心モータ)により電子機器10を振動させることにより、タッチセンサ103のタッチ面を間接的に振動させるように構成することもできる。
押圧検出部105は、タッチセンサ103のタッチ面に対する押圧を検出するもので、例えば圧電素子、歪みゲージセンサなどを用いて構成する。押圧検出部105は、検出した押圧に基づくデータを制御部109に供給する。押圧に基づくデータとは、例えば押圧荷重、電圧、電力、抵抗などである。なお、例えば、触感呈示部104及び押圧検出部105を共に圧電素子を用いて構成する場合は、触感呈示部104及び押圧検出部105を共通の圧電素子により一体化して構成することができる。圧電素子は、圧力が加えられると電力を発生し、電力が加えられると変形するという性質を有するためである。このように、圧電素子により一体化して構成する場合、表示部102の四隅に形成した弾性部材を介してタッチセンサ103を保持し、タッチセンサ103の底面の辺側に圧電素子を貼り付けるような構成とすればよい。
撮像部106は、実環境を撮像して画像を取得するもので、例えば、撮像レンズ、撮像素子などから構成される。撮像部106によって取得された画像は制御部109に供給される。また、撮像部106によって、撮像が確定されていない状態(プレビュー状態)において取得された画像も、制御部109に供給される。
通信部107は、外部装置(図示せず)との間で通信を行うものであり、例えば、任意の無線通信又は有線通信に対応したインタフェース機器等によって構成される。例えば、通信部107は、外部装置との間で、画像データの送受信や、電子メールの送受信などを行う。
記憶部108は、例えばJPEGフォーマットの画像データや、触感呈示部104が呈示する触感パターンなどを記憶するとともに、ワークメモリなどとしても機能する。ここで、触感パターンとは、振動の仕方(周波数、位相、振動間隔、振動回数など)や振動の強さ(振幅など)等により規定されるものである。図3は触感パターンのテーブルの一例を示す図である。図3(a)は予め設定されている触感パターンのテーブルを示すものであって、「ふさふさ」「かさかさ」「もさもさ」といった触感に対応する振動のパターンが規定されている。図3(b)は、ユーザがオリジナルで設定する触感パターンのテーブルを示すものであって、ユーザは自ら「オリジナルA」「オリジナルB」といった触感に対応する振動パターンを規定することができる。
制御部109は、電子機器10の各機能部をはじめとして電子機器10の全体を制御および管理するものであり、CPU等の好適なプロセッサによって構成される。特に、制御部109は、画像を複数の領域に分割し、各領域に触感を対応付ける。また、制御部109は、複数の領域の内のいずれかの領域への接触を検出すると、当該領域に対応付けられた触感を呈示するように触感呈示部104を制御する。なお、接触検出による触感呈示に関し、制御部109は、接触の押圧が所定の閾値を満たした場合に、領域への接触が行われたものとして、当該領域に対応付けられた触感を呈示するように触感呈示部104を制御することもできる。
制御部109は、画像の輝度若しくは色のスペクトラム分布及び画像の周波数スペクトルに基づき、前記画像を複数の領域に分割することができる。画像の輝度若しくは色のスペクトラム分布をグラフ化したものが画像のヒストグラムである。画像のヒストグラムとは、画像の色情報(RGB)それぞれのヒストグラムや、画像をグレースケールに変換したあとのヒストグラムや、輝度のヒストグラムなど、画像に関するあらゆる値のヒストグラムを含むものである。図4は、画像の色情報のヒストグラムの一例を示す図である。図4(a)に示す画像の色情報のヒストグラムは、図4(b)のように表される。図4(b)のヒストグラムのピークを基準に、色情報に基づいて画像を3つに分割すると、図4(c)〜(e)の画像を取得できる。一般に、画像の黒い部分ほどRGBの値が低く、画像の白い部分ほどRGBの値が高いことが知られている。そのため、図4(c)のように、動物の目や鼻といった画像の黒い部分は、ヒストグラムのRGBが低い領域から抽出することができる。また、図4(d)及び図4(e)のように、動物の体毛のような画像の白い部分は、ヒストグラムの高い領域から抽出することができる。
画像の周波数スペクトルとは、画像の周波数成分を示すものであって、画像の色情報(RGB)の周波数スペクトルや、画像をグレースケールに変換したあとの周波数スペクトルや、輝度の周波数スペクトルなど、画像に関するあらゆる値の周波数スペクトルを含むものである。画像の周波数スペクトルは、画像の水平方向及び垂直方向に対してFFT(Fast Fourier Translation)を行うことによって取得することができる。例えば、図4(a)の画像のうち、図4(c)で抽出した動物の目の部分と鼻の部分との周波数スペクトルを求めるとする。この場合、大部分が黒い画素となる目の部分は低い周波数領域の値が高くなり、色の変化がある鼻の部分では、目の部分に比べ、高い周波数領域の値が高くなる。このため、図4(c)で抽出した動物の目の部分と鼻の部分とは、周波数スペクトルの違いにより分割することができる。また、例えば、図4(a)の画像のうち、図4(d)及び図4(e)で抽出した動物の体毛部分の周波数スペクトルを求めるとする。この場合、図4(d)及び図4(e)で抽出した領域は共に細かい体毛が大部分を占める部分となるため、図4(d)及び図4(e)で抽出した領域の周波数スペクトルは比較的高い相関を持つことになる。このため、ヒストグラムに基づき、図4(d)及び図4(e)と複数の領域として抽出された動物の体毛部分は、周波数スペクトルにより1つの領域として統合することができる。
なお、制御部109は、フォーカスの具合(たとえばボケの状態)によって画像を複数の領域を分割することができる。また、制御部109は、エッジ抽出などの画像処理や、予め記憶部108に記憶してある画像の特徴データ(形状、模様、色彩など)によるパターンマッチングなどを用いて、画像を複数の領域を分割することもできる。また、制御部109は、画像が動画像の一部である場合には、前後の画像から求まる動きベクトルを用いて画像を複数の領域にすることができる。また、制御部109は、撮像部106が複数台ある場合など、画像の3次元情報を取得することができる場合には、当該3次元情報を基に画像を複数の領域に分割することができる。
また、制御部109は、領域分割後、各領域に触感を対応付ける。制御部109は、画像のヒストグラム及び画像の周波数スペクトルに基づき、領域に対応付ける触感を設定することができる。例えば、制御部109は、黒の要素が強い領域に「すべすべ」という触感を設定し、白の要素が強い領域に「ふさふさ」という触感を設定することができる。また、制御部109は、周波数が高い領域に細かい触感を設定し、周波数が低い領域に周期の長い触感を設定することができる。また、制御部109は、記憶部108が色情報及び周波数情報と物体の材質(金属、弾性体など)との対応テーブルを記憶している場合には、当該テーブルを用いて触感を設定することができる。また、制御部109は、記憶部108が色情報及び周波数情報によって特定される物体の概念的な情報(「豆腐は柔らかい」など)を記憶している場合には、当該情報を用いて触感を設定することができる。
また、制御部109は、接触の判定に押圧に基づくデータの閾値を用いる場合、画像のヒストグラム及び画像の周波数スペクトルに基づき、当該閾値を設定することができる。例えば、制御部109は、フォーカスが甘く周波数の低い領域は押圧に基づくデータの閾値を高く設定し、フォーカスがあっており周波数が高い領域は押圧に基づくデータの閾値を低く設定することができる。また、制御部109は、記憶部108が色情報及び周波数情報と物体の材質との対応テーブルを記憶している場合には、当該テーブルを用いて押圧に基づくデータの閾値を設定することができる。また、制御部109は、記憶部108が色情報及び周波数情報によって特定される物体の概念的な情報を記憶している場合には、当該情報を用いて押圧に基づくデータの閾値を設定することができる。
なお、制御部109は、画像データの画像フォーマットの付加領域に、画像を分割した領域の情報と、領域に対応付けた触感との情報とを含めて、記憶部108に記憶させることができる。また、制御部109は、画像フォーマットの付加領域に、領域に設定した押圧に基づくデータの閾値を含めて記憶部108に記憶させることができる。例えば、画像データと共に、分割した領域、設定した触感及び閾値の情報を記憶するには、JPEGの画像フォーマットを利用することができる。JPEGフォーマットは、画像データのみならず、撮影日、撮影条件、場所等の付加が出来る付加領域として、Exif領域を有している。そのため、このExif領域を利用して、分割した領域、設定した触感及び閾値の情報を画像データに埋め込むことが可能となる。なお、付加領域を有する画像フォーマットであれば、JPEGフォーマット以外の画像フォーマットを利用することも可能である。
また、制御部109は、所定の画像フォーマットによって、画像のデータと共に、分割した領域の情報及び各領域に対応付けられた触感の情報を通信部107により送信することができる。また、制御部109は、所定の画像フォーマットによって、画像のデータと共に、領域に設定した押圧の閾値を通信部107により送信することができる。例えば、JPEGフォーマットを用いて、画像データ自体と、分割した領域、設定した触感及び閾値の情報を1つの画像ファイル(以下、「触感付き画像ファイル」と称する)にまとめた場合、制御部109は、通常の画像ファイルと同様に、当該触感付き画像ファイルを通信部107から送信することができる。外部装置(図示せず)が触感付き画像ファイルを受信し、分割した領域、設定した触感及び閾値の情報を自装置で再現できる場合には、外部装置は画像ファイルの情報に従って画像に領域設定を行い、接触を検出した場合には領域に対応する触感を呈示することができる。また、外部装置が触感付き画像ファイルに対する対応を自装置で再現できない場合であっても、JPEGの画像データ自体を再生することは可能であるため、JPEGフォーマットを用いた触感付き画像ファイルが未対応装置に悪影響を与えることはない。
図5は、電子機器10の動作フローチャートである。まず、制御部109は、例えば撮像部106を通して画像を取得する(ステップS101)。なお、制御部109は、通信部107を介して取得した画像、又は、記憶部108に記憶されている画像を取得することもできる。次に、制御部109は、取得した画像を複数の領域に分割する(ステップS102)。制御部109は、画像のヒストグラム及び画像の周波数スペクトルに基づき、画像を複数の領域に分割することができる。画像を領域に分割した後、制御部109は、領域毎に触感を割り当てる(ステップS103)。制御部109は、画像のヒストグラム及び画像の周波数スペクトルに基づき、領域に触感を割り当てることができる。その後、制御部109は、領域への接触を検出すると(ステップS104)、領域に割り当てられた触感を呈示するように触感呈示部104を制御する(ステップS105)。なお制御部109は、接触の押圧に基づくデータが所定の閾値を満たした場合、当該領域に対応付けられた触感を呈示するように触感呈示部104を制御することができる。なお、制御部109は、画像のヒストグラムに代えて画像のコントラストに基づき、領域の分割、触感の割り当て、所定の閾値の設定を行っても良い。
図6は、画像の領域分割の一例を示す図である。図6(a)に示す画像に対して、制御部109は、図6(b)に示すような領域分割を行うことができる。例えば、制御部109は、画像のヒストグラム及び周波数スペクトルに基づき、画像を、目に対応する領域R1と、体毛に対応する領域R2と、鼻に対応する領域R3とに分割することができる。次いで制御部109は、目に対応する領域R1に「つるつる」する触感を割り当て、体毛に対応する領域R2に「ふさふさ」する触感を割り当て、鼻に対応する領域R3に「ぷにぷに」という触感を割り当てる。これにより、例えばユーザが目に対応する領域R1に接触を行った場合、電子機器10は、ユーザに対して「つるつる」という触感を呈示することができる。なお、図6(b)に示す各領域の範囲を示す線分は、ユーザに対して非表示にすることができることに留意されたい。
図7は、領域が重複した場合の触感選択ウィンドウ表示の一例を示す図である。図7(a)のように、制御部109は、画像のヒストグラム及び周波数スペクトルに基づき、画像を、目に対応する領域R1と、体毛に対応する領域R2と、鼻に対応する領域R3と、顔中央に対応する領域R4とに分割している。ここで、鼻に対応する領域R3と、顔中央に対応する領域R4とは、重なって設定されているため、制御部109は、図7(b)に示すように、触感選択ウィンドウを表示させることによって、ユーザに手動で触感を選択させることができる。なお、領域が重なっている場合には、制御部109は、それぞれの領域の触感を合成して呈示したり、一定周期毎にそれぞれの触感を切替えて呈示しても良い。また、制御部109は、重なった領域の触感を合成すると、互いに打ち消しあって有意な触感を呈示できないと判断した場合に、触感選択ウィンドウを表示させることができる。
このように、本実施形態によれば、制御部109は、画像を複数の領域に分割し、タッチセンサ103における複数の領域のいずれかの領域に対応する位置への接触を検出すると、当該領域に対応付けられた触感を呈示するように触感呈示部104を制御する。これにより、表示する画像の特徴に応じて対応する触感を呈示することが可能となる。即ち、画像に文字の説明を付加することなく、意図した触感を画像と関連付けて表現することが可能となる。
また、本実施形態によれば、制御部109は、タッチセンサ103における複数の領域のいずれかの領域に対する位置への接触を検出し、当該接触の押圧に基づくデータが所定の閾値を満たした場合、当該領域に対応付けられた触感を呈示するように触感呈示部104を制御することができる。これにより、ユーザから明確な接触があったときにのみ触感を呈示することができるため、ユーザが誤ってタッチパネルに触れてしまった場合など、ユーザの意図しない接触による誤操作を防ぐことができる。
また、本実施形態によれば、制御部109は、画像の輝度若しくは色に基づくスペクトル分布及び画像の周波数スペクトルの少なくともいずれか一方に基づき、画像を複数の領域に分割することができる。これにより、画像の特徴に基づき領域を分割することが可能になる。
また、本実施形態によれば、制御部109は、画像の輝度若しくは色に基づくスペクトル分布及び画像の周波数スペクトルの少なくともいずれか一方に基づき、複数の領域に対応付ける触感を設定することができる。これにより、各領域に対して、堅い部分、柔らかい部分など、画像の特徴に応じた触感を設定することが可能になる。
また、本実施形態によれば、制御部109は、画像の輝度若しくは色に基づくスペクトル分布及び画像の周波数スペクトルの少なくともいずれか一方に基づき、接触の押圧に基づくデータに関する所定の閾値を設定することができる。これにより、各領域に対して、触感を呈示しにくい部分、触感を呈示しやすい部分など、画像の特徴に応じた閾値を設定することが可能になる。
また、本実施形態によれば、制御部109は、複数の領域毎に接触の押圧に関する所定の閾値を設定する。これにより、各領域に対して、接触しにくい部分、接触しやすい部分など、領域毎に閾値を設定することが可能になる。
また、本実施形態によれば、制御部109は、画像フォーマットの付加領域に複数の領域の情報及び複数の領域に対応付けられた触感の情報を含めて記憶部108に記憶させることができる。これにより、画像のデータと、複数の領域の情報及び複数の領域に対応付けられた触感の情報などを1つのファイルにまとめることができる。また、ユーザは記憶部108から過去に触感を設定したデータを適宜読み出して再生することが可能になる。
また、本実施形態によれば、制御部109は、所定の画像フォーマットによって、画像のデータと共に、複数の領域の情報及び複数の領域に対応付けられた触感の情報を通信部により送信することができる。これにより、例えば他のユーザに対して触感付き画像ファイルを送信することができる。例えば、触感付き画像ファイルをメールにて送信する場合、撮影者の気持ちを受信者に伝えることができる。例えば、赤ちゃんの写真を撮影してほっぺたの柔らかい感覚を伝えたい場合や、ペットの写真を撮影して毛のふさふさ感を伝えたい場合など、多様な利用シーンにおいて、送信者と受信者との間で気持ちの共有を図ることが可能となる。また、例えば、Web上の画像として、触感付き画像ファイルをサーバにアップロードすることができる。この場合、タッチパネル端末でWebサイトを閲覧しているユーザが触感付き画像ファイルを触ると、接触領域に応じた触感がユーザに伝わることになる。この技術によって、例えばニュース配信の臨場感を向上させることができる。また、製品紹介やレビューなどのページにおいてより詳細に情報を伝えることが可能になる。また、SNS(Social Networking Service)やブログにおいて、より表現力を高めることができる。さらに、現在、駅などで設置されている看板の電子化が進んでいる。このため、触感付き画像ファイルを電子看板に配信することにより、より注目度の高い宣伝広告を実現することが可能となる。
本発明を諸図面や実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。従って、これらの変形や修正は本発明の範囲に含まれることに留意されたい。例えば、各部材、各手段、各ステップなどに含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の手段やステップなどを1つに組み合わせたり、或いは分割したりすることが可能である。
例えば、本発明にかかる電子機器において、画像の領域分割までは電子機器で自動的に行い、各領域への触感設定についてはユーザが手動で行うことも可能である。図8は、手動による触感割当画面の一例を示す図である。ユーザは、所望の領域に所望の触感を設定することができる。この場合、電子機器10は、ユーザが「ふわふわ」「かさかさ」等の設定キーに対して接触を行った場合、設定キーに対応する触感をユーザに呈示することができる。これにより、ユーザは「ふわふわ」「かさかさ」といった触感を実際に確認しながら、各領域に対して触感を割り当てることが可能となる。
なお、上記実施形態における表示部及びタッチセンサは、これら両機能を共通の基板に持たせる等により、一体化した装置によって構成されるようにしてもよい。このように表示部とタッチセンサとの両機能を一体化した装置の構成の一例としては、液晶パネルが有するマトリクス状配列の画素電極群に、フォトダイオード等の複数の光電変換素子を規則的に混在させたものを挙げることができる。この装置は、液晶パネル構造によって画像を表示する一方で、パネル表面の所望位置を接触するペンの先端で液晶表示用のバックライトの光を反射し、この反射光を周辺の光電変換素子が受光することによって、接触位置を検出することができる。
また、上記実施形態における制御部は、押圧検出部により検出される接触の押圧が、所定の閾値を満たした際に、接触領域に対応付けられた触感を呈示するように触感呈示部を制御する。この場合において、押圧検出部により検出される押圧が所定の閾値を満たした際とは、押圧検出部により検出される押圧に基づくデータが所定値に達した際であってもよいし、押圧検出部により検出される押圧に基づくデータが所定値を超えた際でもよいし、押圧検出部により所定値が検出された際でもよい。
また、上述の説明において、例えば、所定値「以上」または所定値「以下」のような表現の技術的思想が意味する内容は必ずしも厳密な意味ではなく、携帯端末の仕様に応じて、基準となる値を含む場合または含まない場合の意味を包含するものとする。例えば、所定値「以上」とは、増大する値が所定値に達した場合のみならず、所定値を超えた場合も含意し得るものとする。また、例えば所定値「以下」とは、減少する値が所定値に達した場合のみならず、所定値を下回った場合、つまり所定値未満になった場合も含意し得るものとする。
10 電子機器
101 タッチパネル
102 表示部
103 タッチセンサ
104 触感呈示部
105 押圧検出部
106 撮像部
107 通信部
108 記憶部
109 制御部

Claims (8)

  1. 画像を表示する表示部と、
    接触を検出するタッチセンサと、
    前記タッチセンサのタッチ面に対して触感を呈示する触感呈示部と、
    前記画像を複数の領域に分割し、前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出すると、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御する制御部と、
    を備える電子機器であって、
    前記制御部は、前記画像の輝度若しくは色に基づくスペクトル分布及び前記画像の周波数スペクトルの少なくともいずれか一方に基づき、前記複数の領域に対応付ける触感を設定する、電子機器。
  2. 前記制御部は、前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出し、当該接触の押圧に基づくデータが所定の閾値を満たした場合、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御する、請求項1に記載の電子機器。
  3. 前記制御部は、前記画像の輝度若しくは色に基づくスペクトル分布及び前記画像の周波数スペクトルの少なくともいずれか一方に基づき、前記画像を複数の領域に分割する、請求項1又は2に記載の電子機器。
  4. 画像を表示する表示部と、
    接触を検出するタッチセンサと、
    前記タッチセンサのタッチ面に対して触感を呈示する触感呈示部と、
    前記画像を複数の領域に分割し、前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出すると、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御する制御部と、
    を備える電子機器であって、
    前記制御部は、前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出し、当該接触の押圧に基づくデータが所定の閾値を満たした場合、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御し、
    前記制御部は、前記画像の輝度若しくは色に基づくスペクトル分布及び前記画像の周波数スペクトルの少なくともいずれか一方に基づき、前記所定の閾値を設定する、電子機器。
  5. 前記画像のデータを所定の画像フォーマットで記憶する記憶部を備え、
    前記制御部は、前記画像フォーマットの付加領域に前記複数の領域の情報及び前記複数の領域に対応付けられた触感の情報を含めて前記記憶部に記憶させる、請求項1乃至のいずれか一項に記載の電子機器。
  6. 通信部を備え、
    前記制御部は、前記画像フォーマットによって、前記画像のデータと共に、前記複数の領域の情報及び前記複数の領域に対応付けられた触感の情報を前記通信部により送信する、請求項に記載の電子機器。
  7. 画像を表示する表示部と、
    接触を検出するタッチセンサと、
    前記タッチセンサのタッチ面に対して触感を呈示する触感呈示部と、を備える電子機器の制御方法であって、
    前記画像を複数の領域に分割するステップと、
    前記画像の輝度若しくは色に基づくスペクトル分布及び前記画像の周波数スペクトルの少なくともいずれか一方に基づき、前記複数の領域に対応付ける触感を設定するステップと、
    前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出すると、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御するステップと、
    を有する電子機器の制御方法。
  8. 画像を表示する表示部と、
    接触を検出するタッチセンサと、
    前記タッチセンサのタッチ面に対して触感を呈示する触感呈示部と、を備える電子機器の制御方法であって、
    前記画像を複数の領域に分割するステップと、
    前記タッチセンサにおける複数の領域のいずれかの領域に対応する位置への接触を検出し、当該接触の押圧に基づくデータが所定の閾値を満たした場合、当該領域に対応付けられた触感を呈示するように前記触感呈示部を制御するステップと、
    前記画像の輝度若しくは色に基づくスペクトル分布及び前記画像の周波数スペクトルの少なくともいずれか一方に基づき、前記所定の閾値を設定するステップと、
    を有する電子機器の制御方法。
JP2012027469A 2011-02-10 2012-02-10 電子機器及び電子機器の制御方法 Active JP5809079B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012027469A JP5809079B2 (ja) 2011-02-10 2012-02-10 電子機器及び電子機器の制御方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011026765 2011-02-10
JP2011026765 2011-02-10
JP2012027469A JP5809079B2 (ja) 2011-02-10 2012-02-10 電子機器及び電子機器の制御方法

Publications (2)

Publication Number Publication Date
JP2012181833A JP2012181833A (ja) 2012-09-20
JP5809079B2 true JP5809079B2 (ja) 2015-11-10

Family

ID=46636528

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012027469A Active JP5809079B2 (ja) 2011-02-10 2012-02-10 電子機器及び電子機器の制御方法

Country Status (2)

Country Link
US (1) US9542000B2 (ja)
JP (1) JP5809079B2 (ja)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9891709B2 (en) * 2012-05-16 2018-02-13 Immersion Corporation Systems and methods for content- and context specific haptic effects using predefined haptic effects
KR101946366B1 (ko) * 2012-08-23 2019-02-11 엘지전자 주식회사 디스플레이 디바이스 및 그 제어 방법
CN103677374B (zh) * 2012-09-24 2019-07-26 联想(北京)有限公司 一种输出方法以及一种电子设备
CN103777743B (zh) * 2012-10-23 2016-12-28 联想(北京)有限公司 一种信息处理的方法及电子设备
CN103780652B (zh) * 2012-10-23 2017-12-01 腾讯科技(深圳)有限公司 一种微博资源分享的方法及系统
CN103902081B (zh) * 2012-12-27 2018-04-27 联想(北京)有限公司 触感反馈的方法及电子设备
US9880623B2 (en) * 2013-01-24 2018-01-30 Immersion Corporation Friction modulation for three dimensional relief in a haptic device
EP2976694B1 (en) * 2013-03-20 2019-10-09 Nokia Technologies Oy A touch display device with tactile feedback
US9245916B2 (en) 2013-07-09 2016-01-26 Rememdia LC Optical positioning sensor
JP6289100B2 (ja) * 2014-01-06 2018-03-07 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
WO2015121970A1 (ja) * 2014-02-14 2015-08-20 富士通株式会社 教育用触感提供装置、及び、システム
JPWO2016013068A1 (ja) * 2014-07-23 2017-04-27 富士通株式会社 触感データ処理装置、触感提供システム、及び触感データ処理方法
KR102194571B1 (ko) * 2014-10-23 2020-12-24 엘지디스플레이 주식회사 데이터 변환부와 데이터 변환부의 데이터 변환 방법
KR20160050664A (ko) * 2014-10-30 2016-05-11 삼성전자주식회사 촉감 센서를 포함하는 전자 장치, 그의 운용 방법 및 시스템
US9971406B2 (en) * 2014-12-05 2018-05-15 International Business Machines Corporation Visually enhanced tactile feedback
US10591869B2 (en) * 2015-03-24 2020-03-17 Light Field Lab, Inc. Tileable, coplanar, flat-panel 3-D display with tactile and audio interfaces
US9851196B2 (en) 2015-04-17 2017-12-26 Rememdia LC Sensor
JP6111315B1 (ja) * 2015-11-27 2017-04-05 京セラ株式会社 触感呈示装置
JP6528695B2 (ja) * 2016-01-29 2019-06-12 株式会社ニコン 電子機器、およびプログラム
US11422631B2 (en) 2016-03-31 2022-08-23 Sensel, Inc. Human-computer interface system
US10866642B2 (en) 2016-03-31 2020-12-15 Sensel Inc. System and method for detecting and responding to touch inputs with haptic feedback
WO2017173386A1 (en) * 2016-03-31 2017-10-05 Sensel Inc. Human-computer interface system
US11460926B2 (en) 2016-03-31 2022-10-04 Sensel, Inc. Human-computer interface system
US10663657B2 (en) 2016-07-15 2020-05-26 Light Field Lab, Inc. Selective propagation of energy in light field and holographic waveguide arrays
CN111316210B (zh) * 2017-09-06 2024-03-22 深圳传音通讯有限公司 终端防误触的控制方法、移动终端及计算机可读存储介质
EP3737982B1 (en) 2018-01-14 2024-01-10 Light Field Lab, Inc. Energy field three-dimensional printing system
US11181749B2 (en) 2018-01-14 2021-11-23 Light Field Lab, Inc. Systems and methods for transverse energy localization in energy relays using ordered structures
JPWO2021060019A1 (ja) * 2019-09-25 2021-04-01
US11880506B2 (en) 2020-10-06 2024-01-23 Sensel, Inc. Haptic keyboard system

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10293644A (ja) * 1997-04-18 1998-11-04 Idec Izumi Corp タッチパネル付表示装置
JP3418157B2 (ja) 2000-05-31 2003-06-16 株式会社国際電気通信基礎技術研究所 画像領域分割装置および画像領域分割方法
WO2003038800A1 (en) * 2001-11-01 2003-05-08 Immersion Corporation Method and apparatus for providing tactile sensations
US6898316B2 (en) 2001-11-09 2005-05-24 Arcsoft, Inc. Multiple image area detection in a digital image
US7248301B2 (en) * 2003-05-02 2007-07-24 Hewlett-Packard Development Company, L.P. System and method for providing camera focus feedback
JP2006163579A (ja) * 2004-12-03 2006-06-22 Sony Corp 情報処理システム、情報処理装置及び情報処理方法
JP4056528B2 (ja) 2005-02-03 2008-03-05 Necインフロンティア株式会社 電子機器
JP4654874B2 (ja) * 2005-10-17 2011-03-23 株式会社ニコン 被写体解析装置、撮像装置、および画像処理プログラム
US20080298702A1 (en) * 2007-06-04 2008-12-04 Aricent Inc. Fixed rate JPEG encoding
US8135216B2 (en) 2007-12-11 2012-03-13 Flashfoto, Inc. Systems and methods for unsupervised local boundary or region refinement of figure masks using over and under segmentation of regions
US8138896B2 (en) 2007-12-31 2012-03-20 Apple Inc. Tactile feedback in an electronic device
US9829977B2 (en) * 2008-04-02 2017-11-28 Immersion Corporation Method and apparatus for providing multi-point haptic feedback texture systems
US20090251421A1 (en) * 2008-04-08 2009-10-08 Sony Ericsson Mobile Communications Ab Method and apparatus for tactile perception of digital images
EP3130983B1 (en) * 2008-07-15 2018-11-14 Immersion Corporation Systems and methods for shifting haptic feedback function between passive and active modes
KR20100065640A (ko) * 2008-12-08 2010-06-17 삼성전자주식회사 터치스크린의 햅틱 피드백 방법
US10564721B2 (en) * 2009-03-12 2020-02-18 Immersion Corporation Systems and methods for using multiple actuators to realize textures
US9003290B2 (en) * 2009-12-02 2015-04-07 T-Mobile Usa, Inc. Image-derived user interface enhancements

Also Published As

Publication number Publication date
JP2012181833A (ja) 2012-09-20
US20120206390A1 (en) 2012-08-16
US9542000B2 (en) 2017-01-10

Similar Documents

Publication Publication Date Title
JP5809079B2 (ja) 電子機器及び電子機器の制御方法
CN104641322B (zh) 用于提供局部反馈的用户终端装置及其方法
US8106787B2 (en) Warning system indicating excessive force on a touch screen or display
US10002501B2 (en) Electronic device
JP6202345B2 (ja) 表示制御装置、表示制御方法、およびプログラム
US9628646B2 (en) Augmented reality operation system and augmented reality operation method
KR20160091121A (ko) 화면 구성 방법, 전자 장치 및 저장 매체
EP2800025B1 (en) Portable terminal and method for protecting a displayed object
US20160275873A1 (en) Modifying content for electronic paper display devices
KR20170079549A (ko) 이동 단말기 및 그 제어방법
EP3271914A1 (en) Providing content to electronic paper display devices
JP6063274B2 (ja) 触覚提示制御装置及び触覚提示制御プログラム
WO2016153858A1 (en) Augmenting content for electronic paper display devices
JP5689529B2 (ja) 通信機器および通信システム
CN110634095A (zh) 水印添加方法、水印识别方法、装置和电子设备
JP5697525B2 (ja) 通信端末、サーバ、触覚フィードバック生成方法および通信システム
US10354271B2 (en) Electronic device and play and interactive method for electronic advertising
KR20100046148A (ko) 머신 비전 사용자 인터페이스 관련 장치, 시스템 및 방법
US20130285958A1 (en) Electronic device and control method for electronic device
JPWO2015121972A1 (ja) 駆動制御装置、電子機器、システム、及び駆動制御方法
TWI493404B (zh) 顯示方法與可攜式裝置
WO2014103544A1 (ja) 表示制御装置、表示制御方法および記録媒体
JP2014203131A (ja) 入力装置、入力処理方法及びプログラム
KR20160020896A (ko) 디지털 영상 처리 방법, 상기 방법을 기록한 컴퓨터 판독 가능 저장매체 및 디지털 영상 처리 장치.
JP2015121996A (ja) 電子機器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140514

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150324

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150901

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150910

R150 Certificate of patent or registration of utility model

Ref document number: 5809079

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150