JP6044791B2 - 触感呈示装置および触感呈示方法 - Google Patents

触感呈示装置および触感呈示方法 Download PDF

Info

Publication number
JP6044791B2
JP6044791B2 JP2013556231A JP2013556231A JP6044791B2 JP 6044791 B2 JP6044791 B2 JP 6044791B2 JP 2013556231 A JP2013556231 A JP 2013556231A JP 2013556231 A JP2013556231 A JP 2013556231A JP 6044791 B2 JP6044791 B2 JP 6044791B2
Authority
JP
Japan
Prior art keywords
panel
image
tactile sensation
frequency
carrier signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013556231A
Other languages
English (en)
Other versions
JPWO2013114792A1 (ja
Inventor
良文 廣瀬
良文 廣瀬
荒木 昭一
昭一 荒木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2013114792A1 publication Critical patent/JPWO2013114792A1/ja
Application granted granted Critical
Publication of JP6044791B2 publication Critical patent/JP6044791B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/014Force feedback applied to GUI
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range

Description

本発明は、ユーザがパネルにタッチした際に、触感(haptics)を呈示する触感呈示装置に関する。
従来、タッチパネルを備える公共端末(例えば、ATM(Automated Teller Machine)あるいは自動券売機など)、がある。また、タッチパネルを備える個人用機器(例えば、タブレットPC(Personal Computer)あるいはスマートフォンなど)も増加している。
タッチパネルとは、パネルへのタッチを入力として検出する入力装置である。タッチパネルは、表示領域に表示されたGUI(Graphical User Interface)オブジェクト(例えばボタンなど)に対するユーザのタッチを検出する。
このようなタッチパネルを用いたユーザインタフェースは、GUIオブジェクトの配置に対する柔軟性が高いという利点を有する。しかし、タッチパネルを用いたユーザインタフェースでは、従来の機械式ボタンを用いたユーザインタフェースと比較して、ボタンを押下したときの感覚のフィードバックが小さい。そのため、ユーザは、タッチパネルをタッチしたときに、そのタッチが正しく検出されたか否かを認識することが困難である。
これに対して、タッチパネルを振動させることにより触感を呈示する技術が提案されている(例えば、特許文献1を参照)。特許文献1の技術では、タッチパネルを効率的に振動させるために、タッチパネル上のタッチされた位置(タッチ位置)に応じてタッチパネルを振動させるための周波数が変更されている。
特表2011‐501296号公報
しかしながら、上記従来の技術では、パネルをタッチしているユーザに適切な触感を呈示することが難しい場合がある。
そこで、本発明は、パネルをタッチしているユーザに適切な触感を呈示することができる触感呈示装置を提供する。
パネルをタッチしたユーザに触感を呈示する触感呈示装置であって、パネルと、前記パネル上の位置であって前記ユーザによりタッチされた位置である第1タッチ位置と、前記パネル上の位置であって前記第1タッチ位置がタッチされた後に前記ユーザによりタッチされた位置である第2タッチ位置とを取得する位置取得部と、前記パネルに画像を表示する画像表示部と、前記パネルに表示された画像の空間周波数を特徴として抽出する画像特徴抽出部と、前記第1タッチ位置から前記第2タッチ位置へのタッチの移動速度を算出する速度算出部と、前記移動速度が大きいほど高い周波数の成分を有する変調信号を生成する変調信号生成部と、前記パネルの複数の共振周波数の中から前記空間周波数が高いほど高い共振周波数を搬送信号のための周波数と決定する搬送周波数決定部と、前記パネルを振動させるための信号であって決定された前記共振周波数の成分を有する信号を前記搬送信号として生成する搬送信号生成部と、生成された前記搬送信号を、前記変調信号を用いて変調する変調部と、変調された前記搬送信号に従って前記パネルを振動させることにより、前記ユーザに触感を呈示するアクチュエータと、を備える。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
本発明の一態様に係る触感呈示装置によれば、パネルをタッチしているユーザに適切な触感を呈示することができる。
図1は、実施の形態1における触感呈示装置の構成図である。 図2は、実施の形態1におけるパネルの平面図である。 図3は、パネルに表示される画像の一例を示す図である。 図4Aは、パネルに表示される画像の一例を示す図である。 図4Bは、パネルに表示される画像の空間周波数特性の一例を示す図である。 図5は、タッチ速度が単調に増加し、かつ空間周波数が一定である場合の変調信号および触感信号を示すグラフである。 図6は、タッチ速度が一定であり、かつ空間周波数が単調に増加する場合の変調信号および触感信号を示すグラフである。 図7は、タッチ速度が単調に増加し、かつ空間周波数が増加した後に減少する場合の変調信号および触感信号を示すグラフである。 図8は、パネルの振動特性の一例を示す図である。 図9は、実施の形態1における触感呈示装置の処理を示すフローチャートである。 図10は、実施の形態2における触感呈示装置の構成図である。 図11は、実施の形態2における空間周波数と搬送周波数との対応関係を示すグラフである。 図12は、実施の形態2における触感呈示装置の処理を示すフローチャートである。 図13は、実施の形態3における触感呈示装置の構成図である。 図14は、実施の形態3における弾性率と搬送周波数との対応関係を示すグラフである。 図15は、実施の形態3における触感呈示装置の処理を示すフローチャートである。 図16は、変形例における触感呈示装置の構成図である。 図17は、変形例における触感呈示装置の処理を示すフローチャートである。
(本発明の基礎となった知見)
上記従来の技術では、パネルの特性およびタッチ位置に適した周波数でパネルを振動させることができるので、より強い触感をユーザに効率的に呈示することができる。しかし、パネルにタッチしているユーザに触感を呈示する際に、単に強い触感を呈示するだけでは、タッチに適した触感を呈示できない場合がある。
そこで、本発明の一態様に係る触感呈示装置は、パネルをタッチしたユーザに触感を呈示する触感呈示装置であって、パネルと、前記パネル上の位置であって前記ユーザによりタッチされた位置である第1タッチ位置と、前記パネル上の位置であって前記第1タッチ位置がタッチされた後に前記ユーザによりタッチされた位置である第2タッチ位置とを取得する位置取得部と、前記第1タッチ位置から前記第2タッチ位置へのタッチの移動速度を算出する速度算出部と、前記移動速度が大きいほど高い周波数の成分を有する変調信号を生成する変調信号生成部と、前記パネルを振動させるための搬送信号を生成する搬送信号生成部と、生成された前記搬送信号を、前記変調信号を用いて変調する変調部と、変調された前記搬送信号に従って前記パネルを振動させることにより、前記ユーザに触感を呈示するアクチュエータと、を備える。
この構成によれば、タッチの移動速度が大きいほど高い周波数の成分を有する変調信号を用いて搬送信号を変調し、変調された搬送信号に従ってパネルを振動させることができる。したがって、タッチの移動速度が大きいほどパネル振動の振幅を速く変化させることができ、パネルにタッチしているユーザにタッチの移動速度に適した触感を呈示することができる。その結果、ユーザは、タッチが正しく検出されていることを、触感を介して容易に認識することが可能となる。
例えば、前記触感呈示装置は、さらに、前記パネルに画像を表示する画像表示部と、前記パネルに表示された画像の特徴を抽出する画像特徴抽出部とを備え、前記変調信号生成部は、前記移動速度が大きいほど高い周波数であって前記画像の特徴に応じた周波数の成分を有する前記変調信号を生成してもよい。
この構成によれば、さらに画像の特徴に応じて変調信号の周波数を調整することができる。したがって、パネルに表示されている画像に応じた触感を呈示することが可能となる。
例えば、前記画像特徴抽出部は、前記画像の空間周波数を前記画像の特徴として抽出し、前記変調信号生成部は、前記移動速度が大きいほど高く、かつ前記空間周波数が高いほど高い周波数の成分を有する前記変調信号を生成してもよい。
この構成によれば、タッチの移動速度が大きいほど高く、かつ画像の空間周波数が高いほど高い周波数の成分を有する変調信号を生成することができる。したがって、高い空間周波数を有する画像が表示されている場合に、パネル振動の振幅を速く変化させることができ、パネルにタッチしているユーザに、パネルに表示されている画像に適した触感を呈示することができる。
例えば、前記画像特徴抽出部は、前記画像の一部の領域であって前記第2タッチ位置を含む領域から前記画像の特徴を抽出してもよい。
この構成によれば、第2タッチ位置を含む一部の領域から画像の特徴を抽出することができる。したがって、タッチ位置に表示されている画像に適した変調信号を生成することができ、パネルをタッチしているユーザにより適切な触感を呈示することができる。
例えば、前記画像特徴抽出部は、前記移動速度が大きいほど広い前記領域から前記画像の特徴を抽出してもよい。
この構成によれば、タッチの移動速度が大きいほど広い領域から画像の特徴を抽出することができる。したがって、タッチの移動速度に適した領域から画像の特徴を抽出することが可能となる。
例えば、前記画像特徴抽出部は、前記パネルに表示された画像が更新されるたびに、前記画像の特徴を抽出し、前記変調信号生成部は、前記画像の特徴が抽出されるたびに、前記変調信号を生成してもよい。
この構成によれば、画像が更新されるたびに画像の特徴を抽出することができる。したがって、パネルに表示されている画像の変化に同期させて画像の特徴を抽出することができる。したがって、ユーザの視覚に連動した自然な触感を呈示することが可能となる。
例えば、前記搬送信号生成部は、前記画像の特徴に応じた周波数の成分を有する信号を前記搬送信号として生成してもよい。
この構成によれば、画像の特徴に応じた周波数の成分を有する搬送信号を生成することができる。したがって、画像の特徴に応じてパネルを振動させることができ、パネルをタッチしているユーザにより適切な触感を呈示することができる。
例えば、前記画像特徴抽出部は、前記画像の空間周波数を前記画像の特徴として抽出し、前記搬送信号生成部は、前記空間周波数が高いほど高い周波数の成分を有する信号を前記搬送信号として生成してもよい。
この構成によれば、画像の空間周波数が高いほど高い周波数の成分を有する搬送信号を生成することができる。したがって、高い空間周波数を有する画像が表示されている場合に、パネル振動の周波数を高くすることができ、パネルにタッチしているユーザに、パネルに表示されている画像に適した触感を呈示することができる。
例えば、前記触感呈示装置は、さらに前記パネルの複数の共振周波数の中から前記空間周波数が高いほど高い共振周波数を前記搬送信号のための周波数と決定する搬送周波数決定部を備え、前記搬送信号生成部は、決定された前記共振周波数の成分を有する信号を前記搬送信号として生成してもよい。
この構成によれば、空間周波数が高いほど高い共振周波数の成分を有する搬送信号を生成することができる。したがって、パネルに表示されている画像に適した触感を呈示するとともに、パネルを効率的に振動させることができる。
例えば、前記搬送信号生成部は、前記パネルの共振周波数の成分を有する信号を前記搬送信号として生成してもよい。
この構成によれば、パネルの共振周波数の成分を有する搬送信号を生成することができ、パネルを効率的に振動させることが可能となる。
例えば、前記搬送信号生成部は、前記パネルの複数の共振周波数のうちの前記第2タッチ位置に対応する共振周波数の成分を有する信号を前記搬送信号として生成してもよい。
この構成によれば、第2タッチ位置に対応する共振周波数の成分を有する搬送信号を生成することができる。したがって、タッチ位置を効率的に振動させることができる共振周波数の成分を有する搬送信号を生成することができ、パネルを効率的に振動させることが可能となる。
例えば、前記触感呈示装置は、さらに、前記画像に含まれるオブジェクトの硬さを表す値を取得する硬さ取得部を備え、前記搬送信号生成部は、前記硬さを表す値が大きいほど高い周波数の成分を有する信号を前記搬送信号として生成してもよい。
この構成によれば、画像に含まれるオブジェクトの硬さを表す値が大きいほど高い周波数の成分を有する搬送信号を生成することができる。したがって、ユーザが実際にオブジェクトを触っているときに得られる触感に近い触感を呈示することができ、パネルをタッチしているユーザにより適切な触感を呈示することが可能となる。
例えば、前記触感呈示装置は、さらに、前記第2タッチ位置におけるタッチの圧力を測定する圧力測定部を備え、前記変調信号生成部は、測定された前記圧力が大きいほど高い周波数の成分を有する前記変調信号を生成してもよい。
この構成によれば、タッチの圧力が大きいほど高い周波数の成分を有する変調信号を生成することができる。したがって、パネルにタッチしているユーザに、タッチの圧力に適した触感を呈示することができる。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
以下、実施の形態について図面を参照しながら具体的に説明する。
なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、請求の範囲を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態1)
図1は、実施の形態1における触感呈示装置100の構成図である。この触感呈示装置100は、パネルをタッチしているユーザに触感を呈示する。
図1に示すように、触感呈示装置100は、パネル101と、位置取得部102と、画像表示部103と、画像特徴抽出部104と、速度算出部105と、圧力測定部106と、変調信号生成部107と、搬送信号生成部108と、変調部109と、アクチュエータ110とを備える。
以下に触感呈示装置100の各構成要素について説明する。
<パネル101>
図2は、実施の形態1におけるパネル101の平面図である。パネル101は、ユーザからタッチ入力を受け付ける。また、パネル101は、パネル101の表面をタッチしているユーザに触感を呈示するための振動を伝達する。さらに、パネル101には、画像表示部103によって画像が表示される。
本実施の形態では、パネル101は、タッチディスプレイである。具体的には、パネル101は、例えば、静電容量方式あるいは感圧方式などのタッチパネルと、液晶ディスプレイあるいは有機ELディスプレイなどの表示デバイスとを含む。 パネル101の表面は、例えばガラス製あるいはアクリル製の板状部材により構成される。
なお、パネル101は、少なくとも1つの共振周波数を有する。共振周波数とは、パネル101が固有振動する際の周波数(固有振動数)である。共振周波数は、パネル101の部材や大きさなどに依存する。
<位置取得部102>
位置取得部102は、ユーザがパネル101をタッチした際、そのパネル101上のタッチされた位置(タッチ位置)を取得する。以下において、時間的に前後してタッチされた2つのタッチ位置を、第1タッチ位置および第2タッチ位置と区別する場合がある。
位置取得部102は、例えば静電容量方式や感圧方式などによりタッチ位置を取得する。具体的には、位置取得部102は、例えば指あるいはスタイラスペンが接触しているパネル101上の領域(接触領域)の中央位置をタッチ位置として、所定の時間間隔で取得する。また、位置取得部102は、接触領域における荷重の重心位置をタッチ位置として取得してもよい。なお、タッチ位置の取得方法は、静電容量方式および抵抗膜方式に限定される必要はない。
<画像表示部103>
画像表示部103は、例えばGPU(Graphics Processing Unit)であり、画像をパネル101に表示する。画像表示部103は、例えば図3に示すようなストライプ模様の画像をパネル101に表示する。
なお、画像表示部103が表示する画像は、図3に示すような画像に限定されない。画像表示部103は、例えば、GUIオブジェクトをパネル101に表示してもよい。また、画像表示部103は、カメラによって撮影された画像をパネル101に表示してもよい。
画像表示部103は、ユーザのタッチ操作に応じて、表示している画像の状態を変更してもよい。例えば、画像表示部103は、位置取得部102によって取得されたタッチ位置の時間的な変化(例えば、ピンチイン、ピンチアウトあるいはフリックなど)に応じて、画像の状態を変更してもよい。
具体的には、画像表示部103は、例えば、ピンチインが検出されたときに、表示されている画像を縮小する。また例えば、ピンチアウトが検出されたときに、画像表示部103は、表示されている画像を拡大する。また例えば、フリックが検出されたときに、画像表示部103は、画像をフリック方向に移動させる。なお、画像の状態の変更方法は、これらに限るものではない。
なお、画像表示部103は、ユーザのタッチ操作とは異なる情報に基づいて、表示されている画像を変更してもよい。例えば、画像表示部103は、パネル101が傾いている方向に画像を移動させてもよい。
<画像特徴抽出部104>
画像特徴抽出部104は、パネル101に表示されている画像の特徴を抽出する。画像の特徴は、例えばテクスチャ情報あるいは形状情報である。具体的には、画像の特徴は、画像の空間周波数あるいは輝度などである。
例えば、画像特徴抽出部104は、画像に離散フーリエ変換(DFT)を行うことにより、画像から空間周波数を抽出する。
具体的には、例えばパネル101に表示された画像の空間周波数や輝度などが一様である場合、画像特徴抽出部104は、パネル101上の任意の点の空間周波数や輝度などを画像の特徴として取得してもよい。また、例えばパネル101に表示されている画像の空間周波数や輝度などが一様でない場合、画像特徴抽出部104は、位置取得部102により取得したタッチ位置の周辺の空間周波数や輝度などを画像の特徴として取得してもよい。つまり、画像特徴抽出部104は、画像の一部の領域であって第2タッチ位置を含む領域から、画像の特徴を抽出してもよい。
このとき、画像特徴抽出部104は、例えば適当な窓関数を用いて画像情報を切り出すことで、局所的な空間周波数や輝度などを取得してもよい。これにより、画像特徴抽出部104は、タッチ位置に応じた特徴を抽出することができる。
なお、画像特徴抽出部104は、パネル101に表示されている画像が更新されるたびに、画像の特徴を抽出してもよい。これにより、画像特徴抽出部104は、表示されている画像の状態の変化に同期させて画像の特徴を抽出することができる。この場合、画像の特徴を定量的に示す画像特徴量λは、式(1)に示すように時間の関数として表される。
Figure 0006044791
なお、画像特徴抽出部104は、画像の特徴を例えば所定の時間間隔で抽出してもよい。この場合、画像特徴抽出部104は、所定の時間間隔が短いほど、表示されている画像の変化に追随して画像の特徴を抽出することができる。
<速度算出部105>
速度算出部105は、ユーザによるタッチの移動速度(タッチ速度)を算出する。具体的には、速度算出部105は、例えば位置取得部102により取得された第1タッチ位置および第2タッチ位置の各々がタッチされた時刻(タッチ時刻)を取得することで、タッチ速度を算出する。より具体的には、速度算出部105は、例えば、時刻tにタッチされた第2タッチ位置(xt、yt)と、時刻(t−Δt)にタッチされた第1タッチ位置(xt-1、yt-1)とを用いて、式(2)に従ってタッチ速度を算出する。
Figure 0006044791
ここで、vxは横方向(水平方向)のタッチ速度を示し、vyは縦方向(垂直方向)のタッチ速度を示す。
なお、位置取得部102は、例えば、取得したタッチ位置およびタッチ時刻を対応付けてメモリに格納してもよい。この場合、速度算出部105は、第1タッチ位置および第1タッチ位置のタッチ時刻をメモリから取得してもよい。
<圧力測定部106>
圧力測定部106は、位置取得部102により取得されたタッチ位置におけるタッチの圧力(タッチ圧力)を測定する。或いは、圧力測定部106は、タッチ位置の指の接触面積から圧力を推定しても良い。
タッチ圧力は、感圧方式のタッチパネルや加重センサーを用いることで取得できる。
<変調信号生成部107>
変調信号生成部107は、画像特徴抽出部104により抽出された画像の特徴を用いて変調信号を生成する。画像の特徴としては、例えば、画像の空間周波数または輝度などが用いられる。具体的には、変調信号生成部107は、例えば、画像特徴抽出部104が抽出した画像の特徴に応じた周波数の成分を有する変調信号を生成する。例えば、変調信号生成部107は、画像の特徴と周波数とが対応付けられたテーブル、または、画像の特徴と周波数との関係を示す数式などを参照して、画像の特徴に応じた周波数を決定する。
また例えば、変調信号生成部107は、画像の空間周波数が高いほど高い周波数の成分を有する変調信号を生成してもよい。このような変調信号を用いて変調された搬送信号に従ってパネルを振動させることにより、触感呈示装置100は、画像の空間周波数が高い場合に強い触感をユーザに呈示することができる。そのため、触感呈示装置100は、画像からユーザが一般的に想起される触感に近い触感を呈示できる。
なお、変調信号生成部107は、画像特徴抽出部104により抽出された画像の特徴に加えて、速度算出部105により算出されたタッチ速度を用いて変調信号を生成してもよい。具体的には、変調信号生成部107は、例えば、タッチ速度が大きいほど高い周波数の成分を有する変調信号を生成してもよい。
ここで、タッチ速度と空間周波数との両方を用いて変調信号が生成される場合について説明する。
例えば、パネル101に表示された画像が、図4Aに示すようなテクスチャ画像である場合、画像特徴抽出部104は、画像の一部の領域であって現在のタッチ位置(第2タッチ位置)を含む領域を切り出す。そして、画像特徴抽出部104は、切り出された画像をフーリエ変換することにより、図4Bに示すような空間周波数特性を取得する。画像特徴抽出部104は、このように取得された空間周波数特性を用いて空間周波数を取得する。
例えば、画像特徴抽出部104は、タッチの移動方向の空間周波数の成分のうち、所定の強度よりも強い成分の空間周波数を、画像特徴量λiとして抽出する。図4Bの例では、画像特徴抽出部104は、空間周波数λ1およびλ2を画像特徴量として抽出している。また例えば、画像特徴抽出部104は、タッチの移動方向の空間周波数の成分のうち、最も強い成分の空間周波数を画像特徴量として抽出してもよい。
なお、画像特徴抽出部104は、タッチ速度が大きい場合には広い領域を、タッチ速度が小さい場合には狭く領域を切り出してもよい。つまり、画像特徴抽出部104は、タッチ速度が大きいほど広い領域から画像の特徴を抽出してもよい。具体的には、画像特徴抽出部104は、例えば、タッチ位置からタッチの移動方向にタッチ速度に応じた長さを有する領域を切り出してもよい。これにより、画像特徴抽出部104は、タッチ速度に適した領域から画像の特徴を抽出できる。また、画像特徴抽出部104は、ハニング窓などの適当な窓関数を用いることにより、切り出しの影響による信号の不連続感を解消できる。
以下に、画像の空間周波数とタッチ速度とを用いて変調信号を生成する具体例について説明する。
例えば、パネル101上に表示されている画像が図3に示すようなストライプ状の画像であり、ユーザがその画像をなぞるようにタッチした場合、変調信号生成部107は、式(3)を用いて変調信号を生成する。
Figure 0006044791
ここで、smは変調信号を示し、Aiはi番目の空間周波数成分の強度を示し、λi(1/mm)はi番目の空間周波数を示し、v(mm/s)はタッチ速度を示す。図3の例では、凹凸の間隔が2mmであるため、単一の空間周波数(n=1)が、画像特徴量λ1=0.5(1/mm)として抽出される。このとき、変調信号生成部107は、タッチ速度vおよび画像特徴量λ1に比例する周波数の正弦波を変調信号として生成する。
ここで、タッチ速度および画像の空間周波数が変化した場合変調信号および変調信号を用いて変調された搬送信号(触感信号)を図5〜図7を用いて説明する。
図5〜図7において、(a)は、タッチ速度の時間変化を示すグラフである。また、(b)は、画像の空間周波数の時間変化を示すグラフである。また、(c)は、変調信号を示すグラフである。また、(d)は触感信号を示すグラフである。
図5は、タッチ速度が単調に増加し、かつ空間周波数が一定である場合の変調信号および触感信号を示す。
図5の(a)では、タッチ速度v(t)は、0[mm/s]から10[mm/s]まで単調に増加している。また、図5の(b)では、パネル101に表示されている画像の空間周波数は、0.2[1/mm]で一定である。この場合、変調信号生成部107は、式(3)を用いて、図5の(c)に示す変調信号を生成する。また、図5の(c)に示す変調信号によって変調された搬送信号(触感信号)は、図5の(d)のようになる。
図6は、タッチ速度が一定であり、かつ空間周波数が単調に増加する場合の変調信号および触感信号を示す。
図6の(a)では、タッチ速度v(t)は、20mm/sで一定である。また、図6の(b)では、画像の空間周波数は0[1/mm]から0.3[1/mm]まで単調に増加している。この場合、変調信号生成部107は、式(3)を用いて、図6の(c)に示す変調信号を生成する。また、図6の(c)に示す変調信号によって変調された搬送信号(触感信号)は、図6の(d)のようになる。
図7は、タッチ速度が単調に増加し、かつ空間周波数が増加した後に減少する場合の変調信号および触感信号を示す。
図7の(a)では、タッチ速度v(t)は、0mm/sから10mm/sまで単調に増加している。また、図7の(b)では、空間周波数は、0[1/mm]から0.3[1/mm]まで増加し、その後0[1/mm]まで減少している。例えば、パネル101に表示されている画像が縮小された後に拡大された場合に、図7の(b)に示すような空間周波数の時間変化が得られる。
この場合、変調信号生成部107は、式(3)を用いて、図7の(c)に示す変調信号を生成する。また、この場合、図6の(c)に示す変調信号によって変調された搬送信号(触感信号)は、図7の(d)のようになる。
つまり、空間周波数が増加する(画像が縮小される)と共にタッチ速度が増加している状態では、変調信号の周波数は増加する。一方、空間周波数が減少する(画像が拡大される)と共にタッチ速度が増加している状態では、変調信号の周波数の変化は抑制される。
なお、変調信号生成部107は、画像特徴抽出部104により抽出された画像の特徴に加えて、圧力測定部106により測定されたタッチ圧力を用いて変調信号を生成してもよい。具体的には、変調信号生成部107は、例えば、タッチ圧力が大きいほど高い周波数の成分を有する変調信号を生成してもよい。これにより、触感呈示装置100は、ユーザがパネル101を強くタッチしたときに強い触感を呈示することができる。
なお、変調信号生成部107は、タッチ位置における輝度を画像の特徴として用いて、変調信号を生成してもよい。具体的には、変調信号生成部107は、タッチ位置における輝度に対応する振幅の変調信号を生成する。
ここで、輝度を画像の特徴として用いて変調信号が生成される場合についてより具体的に説明する。
変調信号生成部107は、例えば、タッチ位置における画像の輝度が高いほど大きい振幅の変調信号を生成する。これにより、例えば輝度がシーンの奥行きに対応する場合(例えば被写体の前方から強い光が照らされている場合など)、奥行きの変化が大きいほど高い周波数の成分が変調信号に含まれる。その結果、触感呈示装置100は、ユーザが一般的に画像から想起される触感を呈示することができる。
なお、輝度とシーンの奥行きとは、例えば式(4)に示す対応関係を有する場合がある。
Figure 0006044791
ここで、Dは、パネル101上の位置(x,y)におけるシーンの奥行きを示す。また、Bは、パネル101上の位置(x,y)における輝度を示す。この場合、変調信号生成部107は、例えば式(5)を用いて変調信号を生成する。
Figure 0006044791
ここで、D(p(t))は、時刻tにおけるタッチ位置p(t)=(x、y)の奥行きを示す。また、B(p(t))は、時刻tにおけるタッチ位置p(t)=(x、y)における輝度を示す。
なお、変調信号生成部107が生成する変調信号の生成方法は、これに限定するものではなく、奥行き情報に反比例する方法であればよい。
<搬送信号生成部108>
搬送信号生成部108は、パネル101を振動させるための搬送信号を生成する。すなわち、搬送信号生成部108は、パネル101の振動特性に応じた周波数の成分を有する搬送信号を生成する。つまり、搬送信号生成部108は、パネル101の振動に適した周波数の成分を有する搬送信号を生成する。具体的には、搬送信号生成部108は、例えば、式(6)に示すように、周波数Fcの正弦波を搬送信号scとして生成する。
Figure 0006044791
以下において、周波数Fcを搬送信号の周波数と呼ぶ場合がある。
なお、搬送信号の周波数は、パネル101の共振周波数であってもよい。つまり、搬送信号生成部108は、パネルの共振周波数の成分を有する信号を搬送信号として生成してもよい。これにより、触感呈示装置100は、効率的にパネル101を振動させることができ、少ないエネルギーでユーザに触感を呈示できる。
図8は、パネル101の振動特性の一例を示す。図8に示すように、複数の共振周波数が存在する場合、搬送信号生成部108は、強度が最も強い共振周波数Fc3の成分を有する信号を搬送信号として生成すればよい。これにより、触感呈示装置100は、さらに効率よくパネル101を振動させることができるので、より省電力化が可能となる。
なお、パネル101の振動特性は、パネル101上の位置によって異なる場合がある。この場合、搬送信号生成部108は、パネル101上の複数の位置に適した複数の共振周波数の平均値の成分を有する信号を搬送信号として生成してもよい。あるいは、搬送信号生成部108は、位置取得部102により取得されたタッチ位置に適した共振周波数の成分を有する信号を搬送信号として生成してもよい。つまり、搬送信号生成部108は、パネル101の複数の共振周波数のうちのタッチ位置に対応する共振周波数の成分を有する信号を搬送信号として生成してもよい。
<変調部109>
変調部109は、搬送信号生成部108により生成された搬送信号を、変調信号生成部107により生成された変調信号を用いて変調する。具体的には、変調部109は、例えば振幅変調(AM:Amplitude Modulation)を行う。より具体的には、変調部109は、例えば式(7)のように、搬送信号の振幅変調を行ってもよい。
Figure 0006044791
ここで、sは触感信号を示し、smは変調信号を示し、scは搬送信号を示す。
また、変調部109は、例えば式(8)のように、搬送信号の振幅変調を行なってもよい。
Figure 0006044791
図5の(d)、図6の(d)および図7の(d)に、実際に変調された搬送信号(触感信号)の例を示す。変調部109は、変調信号を用いて搬送信号を振幅変調することにより、アクチュエータ110を駆動するための触感信号を生成する。
なお、変調部109により生成された触感信号は、必要に応じて、アクチュエータ110を駆動するために増幅される。増幅の方法は特に限定するものではない。また具体的な増幅率は、アクチュエータ110の特性に基づいて決定されればよい。
<アクチュエータ110>
アクチュエータ110は、変調部109により変調された搬送信号(触感信号)により駆動され、パネル101を振動させる。パネル101を振動させることによりユーザに触感が呈示される。つまり、アクチュエータ110は、変調された搬送信号に従ってパネル101を振動させることによりユーザに触感を呈示する。
アクチュエータ110は、例えば、パネル101に貼付される。例えば、図2に示すように、第1アクチュエータ110Aと第2アクチュエータ110Bとを含むアクチュエータ110は、パネル101の周縁部に配置される。このようにアクチュエータ110がパネル101の周縁部に配置されることにより、画像が表示される領域にアクチュエータ110を配置する必要がなくなり、設計の自由度を向上させることができる。
なお、アクチュエータの数は、2つに限られない。つまり、アクチュエータ110は、1つのアクチュエータのみを含んでもよいし、3つ以上のアクチュエータを含んでもよい。
アクチュエータ110の種類は特に限定するものではないが、例えばピエゾ素子のような圧電素子をアクチュエータ110として用いることでパネル101を振動させることができる。あるいは、アクチュエータ110としてボイスコイルが用いられてもよい。
なお、アクチュエータ110は、触感信号を増幅させるためのアンプを備えてもよい。この場合、アクチュエータ110は、増幅された触感信号を用いて駆動されればよい。なお、搬送信号生成部108で増幅された触感信号を用いて駆動されてもよい。アクチュエータ110は、増幅された触感信号を用いて駆動されることで、アクチュエータ110の駆動エネルギーをより大きくでき、ユーザに強い触感を呈示できる。
次に、以上のように構成された触感呈示装置100の動作の一例について説明する。図9は、実施の形態1における触感呈示装置100の処理を示すフローチャートである。
(ステップS101)
位置取得部102は、パネル101上のユーザによりタッチされた位置(タッチ位置)を所定の時間間隔で取得する。
(ステップS102)
位置取得部102は、ステップS101で取得されたタッチ位置に応じて触感呈示が必要か否かを判断する。
例えば、図3の縞模様のテクスチャ画像が表示されている場合は、位置取得部102は、タッチ位置が縞模様のテクスチャ画像の領域内に存在しているか否かに基づいて、触感呈示が必要か否かを判断する。または、GUIオブジェクトとしてボタンが表示されている場合は、位置取得部102は、タッチ位置がボタンの領域内に存在しているか否かに基づいて、触感呈示が必要か否かを判断する。触感呈示が必要と判断されれば、ステップS103に進む。触感呈示が必要と判断されなければ、ステップS101に戻る。
なお、触感呈示が必要か否かの判断基準は、上記に限定されない。例えば、パネル101に画像が表示されている場合は、位置取得部102は、タッチ位置が画像の領域内に存在し、かつタッチ位置が動いているときに、触感呈示が必要と判断してもよい。
(ステップS103)
画像表示部103は、位置取得部102により取得されたタッチ位置に応じてパネル101上に表示している画像の状態を変更する。
(ステップS104)
画像特徴抽出部104は、パネル101上に表示されている画像の特徴を所定の時間間隔で抽出する。
(ステップS105)
変調信号生成部107は、ステップS104で抽出された画像の特徴を用いて変調信号を生成する。
(ステップS106)
搬送信号生成部108は、パネル101を振動させるための搬送信号を生成する。
(ステップS107)
変調部109は、ステップS106で生成された搬送信号を、ステップS105で生成された変調信号を用いて変調する。
(ステップS108)
アクチュエータ110は、ステップS107で変調された搬送信号(触感信号)に従ってパネル101を振動させることにより、ユーザに触感を呈示する。
これにより、触感呈示装置100は、パネル101上に表示されている画像の特徴に応じた触感をユーザに呈示できる。
以上に述べたように、本実施の形態における触感呈示装置100によれば、パネル101を振動させることにより、パネル101に表示された画像に基づいた触感を呈示することができる。さらに、パネル101に表示されている画像が変化した場合にも、触感呈示装置100は、その画像の変化を触感に随時反映することができるため、視覚に連動した自然な触感を呈示することができる。
さらに、本実施の形態における触感呈示装置100によれば、タッチの移動速度が大きいほど高い周波数の成分を有する変調信号を用いて搬送信号を変調し、変調された搬送信号に従ってパネルを振動させることができる。したがって、触感呈示装置100は、タッチの移動速度が大きいほどパネル振動の振幅を速く変化させることができ、パネルにタッチしているユーザにタッチの移動速度に適した触感を呈示することができる。その結果、ユーザは、タッチが正しく検出されていることを、触感を介して容易に認識することが可能となる。
(実施の形態2)
次に、実施の形態2について図面を用いて具体的に説明する。
本実施の形態における触感呈示装置と実施の形態1における触感呈示装置との違いは、画像の特徴に基づいて搬送信号の周波数を変更する点である。以下この点を中心に説明する。なお、実施の形態1と同様の構成要素に関しては詳細な説明を省略する。
図10は、実施の形態2における触感呈示装置200の構成図である。図10において、図1と同様の構成については同一の符号を付し、適宜説明を省略する。
触感呈示装置200は、パネル101と、位置取得部102と、画像表示部103と、画像特徴抽出部104と、変調信号生成部107と、搬送信号生成部208と、変調部109と、アクチュエータ110と、搬送周波数記憶部211と、搬送周波数決定部212とを備える。
<搬送周波数記憶部211>
搬送周波数記憶部211は、搬送信号の周波数を画像の特徴毎に記憶する。
<搬送周波数決定部212>
搬送周波数決定部212は、画像特徴抽出部104により抽出された画像の特徴に対応する周波数を搬送周波数記憶部211から取得する。
まず、画像特徴抽出部104により抽出された画像特徴量λが単一である場合について説明する。
画像表示部103が表示する画像が、例えば図3に示すように一様で単一の縞模様であった場合、画像特徴量λは1つの値を持つ。例えば図3の場合、画像特徴量λは、0.5[本/mm]という値を持つ。
搬送周波数決定部212は、この画像特徴量λが大きいほど搬送信号の周波数が高くなるように、搬送信号の周波数を決定する。逆に、搬送周波数決定部212は、画像特徴量λが小さいほど搬送信号の周波数が低くなるように、搬送信号の周波数を決定する。つまり、搬送信号の周波数は、式(9)に示すように、画像特徴量λの関数として表される。
搬送信号の周波数の具体的な決定方法は特に限定するものではないが、例えば、パネル101が図8に示すような振動特性を持ち、かつ画像特徴量λが空間周波数である場合は、搬送周波数決定部212は、図11に示すように搬送信号の周波数を決定する。具体的には、搬送周波数決定部212は、0≦λ<λ1の場合に搬送信号の周波数をFc1と決定する。また、搬送周波数決定部212は、λ1≦λ<λ2の場合に搬送信号の周波数をFc2と決定する。また、搬送周波数決定部212は、λ2≦λの場合に搬送信号の周波数をFc3と決定する。
つまり、搬送周波数決定部212は、空間周波数が高いほど高い周波数を搬送信号の周波数として決定する。より具体的には、搬送周波数決定部212は、空間周波数の増加したときにステップ状に増加するように搬送信号の周波数を、決定する。なお、空間周波数の閾値λ1およびλ2は、経験あるいは実験により適宜調整されればよい。なお、搬送周波数決定部212は、空間周波数の増加したときに、比例的にあるいは指数関数的に増加するように搬送信号の周波数を決定してもよい。
Figure 0006044791
ところで、パネル101は、すべての周波数で一様に振動することはない。パネル101の特性(大きさ、厚さ、硬さ等)に応じて、パネル101の振動特性は異なる。例えば、図8に示すように、パネル101は、共振により特定の周波数(共振周波数)で大きく振動する。搬送信号の周波数としてこのような共振周波数が用いられれば、効率よくパネル101を振動させることが可能である。
そこで、搬送周波数決定部212は、例えば、パネル101の共振周波数を搬送信号の周波数として決定する。このとき、搬送周波数決定部212は、パネル101の複数の共振周波数の中から、空間周波数λが大きいほど高い共振周波数を搬送信号のための周波数として決定する。
次に、画像特徴抽出部104により抽出された画像特徴量λが単一でない場合について説明する。例えば、図4Aのように複数の画像特徴量を持つ画像が表示されている場合は、搬送周波数決定部212は、図4Bに示すような画像の空間周波数特性に基づいて搬送信号の周波数を決定する。具体的には、搬送周波数決定部212は、最も大きい強度を持つ成分の空間周波数を当該画像の空間周波数として用いて、搬送信号の周波数を決定する。
また例えば、搬送周波数決定部212は、所定の閾値以上の強度を持つ成分の空間周波数を用いて搬送信号の周波数を決定してもよい。このとき、所定の閾値以上の強度を持つ成分の空間周波数が複数ある場合、搬送周波数決定部212は、複数の空間周波数を用いて搬送信号の複数の周波数をそれぞれ決定してもよい。
<搬送信号生成部208>
搬送信号生成部208は、搬送周波数決定部212により決定された周波数の成分を有する搬送信号を生成する。つまり、搬送信号生成部208は、例えば、画像特徴抽出部104により抽出された画像の特徴に応じた周波数の成分を有する信号を搬送信号として生成する。具体的には、搬送信号生成部208は、例えば、画像の空間周波数が高いほど高い周波数の成分を有する信号を搬送信号として生成する。より具体的には、搬送信号生成部208は、例えば、パネル101の複数の共振周波数の中から空間周波数が高いほど高い共振周波数の成分を有する信号を搬送信号として生成する。
ここで、搬送周波数決定部212によって複数の周波数が決定された場合について説明する。この場合、搬送信号生成部208は、決定された複数の周波数の成分を有する信号を搬送信号として生成する。つまり、搬送信号生成部208は、決定された複数の周波数の正弦波を重ね合わせることで搬送信号を生成する。具体的には、搬送信号生成部208は、式(10)に示すように、複数の周波数の正弦波を加算することにより搬送信号を生成する。
Figure 0006044791
次に、以上のように構成された触感呈示装置200の動作を説明する。図12は、実施の形態2における触感呈示装置200の処理を示すフローチャートである。なお、図12において、図9と同じ処理については、適宜詳細な説明を省略する。
(ステップS201)
位置取得部102はタッチ位置を取得する。
(ステップS202)
位置取得部102は、触感呈示が必要か否かを判断する。
(ステップS203)
画像表示部103は、必要に応じて、表示されている画像を更新する。
(ステップS204)
画像特徴抽出部104は、画像表示部103が表示している画像の特徴を抽出する。
(ステップS205)
搬送周波数決定部212は、画像特徴抽出部104により抽出された画像の特徴に基づいて、搬送信号の周波数を決定する。例えば、搬送周波数決定部212は、画像の空間周波数が高いほど周波数が高くなるように搬送信号の周波数を決定する。
(ステップS206)
画像特徴抽出部104により抽出された画像の特徴と、位置取得部102により取得されたタッチ位置とに基づいて触感信号が生成される。具体的には、変調信号生成部107は、画像の特徴量に対応する周波数の成分を有する変調信号を生成する。さらに、搬送信号生成部208は、搬送周波数決定部212により決定された周波数の成分を有する搬送信号を生成する。そして、変調部109は、変調信号を用いて搬送信号を振幅変調することにより触感信号を生成する。
(ステップS207)
アクチュエータ110は、ステップS206で生成された触感信号を用いて駆動される。つまり、アクチュエータ110は、触感信号に従ってパネル101を振動させることにより、ユーザに触感を呈示する。
以上に述べたように、本実施の形態における触感呈示装置200によれば、パネル101を振動させることにより、パネル101に表示された画像に基づいた触感を呈示することができる。さらに、触感呈示装置200は、パネル101に表示されている画像の特徴に応じて、搬送信号の周波数を変更することができる。したがって、触感呈示装置200は、空間周波数が低い場合には柔らかく滑らかな触感を呈示することができ、空間周波数が高い場合にはより細い振動を呈示することができる。つまり、触感呈示装置200は、画像の特徴に応じた周波数の成分を有する搬送信号を生成することができるので、パネルにタッチしているユーザに、パネルに表示されている画像に適した触感を呈示することができる。
また、実施の形態1と同様に、パネル101に表示されている画像が変化した場合にも、触感呈示装置200は、その画像の変化を触感に随時反映することができるため、視覚に連動した自然な触感を呈示することができる。
なお、本実施の形態における触感呈示装置200は、実施の形態1と同様に、さらに、速度算出部105および圧力測定部106を備えてもよい。その場合、変調信号生成部107は、実施の形態1と同様に、例えばタッチ速度が大きいほど高い周波数の成分を有する変調信号を生成すればよい。また、変調信号生成部107は、タッチ圧力が大きいほど高い周波数の成分を有する変調信号を生成してもよい。
(実施の形態3)
次に、実施の形態3について説明する。実施の形態3では、画像に含まれるオブジェクトの硬さに応じて搬送信号の周波数が変化する点が実施の形態1と異なる。
図13は、実施の形態3における触感呈示装置300の構成図である。図13において、図1と同様の構成要素に関しては同一の符号を付し、適宜説明を省略する。
触感呈示装置300は、パネル101と、位置取得部102と、画像表示部103と、画像特徴抽出部104と、変調信号生成部107と、変調部109と、アクチュエータ110と、弾性率記憶部313と、弾性率決定部314と、搬送周波数記憶部311と、搬送周波数決定部312と、搬送信号生成部308とを備える。
<弾性率記憶部313>
弾性率記憶部313は、弾性率[Pa]を画像の特徴毎に記憶している。
弾性率は、パネル101に表示されている画像に含まれるオブジェクトの硬さを表す値の一例である。つまり、弾性率は、パネル101上に表示されている画像に含まれるオブジェクトの素材感を表す。つまり、同じ空間周波数をもつテクスチャ画像であっても、金属のように硬い素材の画像もあれば、ゴムのように柔らかい素材の画像もある。そこで、弾性率記憶部313は、画像の特徴毎に、当該画像の特徴に対応する素材の硬さを表す値を記憶している。本実施の形態では、素材の硬さを示す尺度として弾性率を用いているが、これに限定されるわけではない。すなわち、素材の硬さ/柔らかさを表現できる尺度であれば、どのような尺度が用いられても良い。
<弾性率決定部314>
弾性率決定部314は、硬さ取得部の一例である。弾性率決定部314は、画像特徴抽出部104により抽出された画像の特徴に基づいて弾性率を決定する。つまり、弾性率決定部314は、抽出された画像の特徴に対応する弾性率を弾性率記憶部313から取得する。
<搬送周波数記憶部311>
搬送周波数記憶部311は、搬送信号の周波数を弾性率毎に記憶している。つまり、搬送周波数記憶部311は、複数の弾性率にそれぞれ対応付けて複数の周波数を記憶している。
<搬送周波数決定部312>
搬送周波数決定部312は、弾性率決定部314により決定された弾性率に基づいて搬送信号の周波数を決定する。具体的には、搬送周波数決定部312は、決定された弾性率に対応する周波数を、搬送周波数記憶部311から取得する。
より具体的には、図14に示すように、搬送周波数決定部312は、弾性率Kが大きいほど高い周波数を搬送信号の周波数として決定する。なお、実施の形態2と同様に、搬送信号の周波数は、パネル101の複数の共振周波数の中から選択されることが望ましい。
<搬送信号生成部308>
搬送信号生成部308は、搬送周波数決定部312により決定された周波数の成分を有する搬送信号を生成する。つまり、搬送信号生成部308は、画像に含まれるオブジェクトの硬さを表す値が大きいほど高い周波数の成分を有する信号を搬送信号として生成する。
次に、以上のように構成された触感呈示装置300の具体的な動作について説明する。図15は、実施の形態3における触感呈示装置300の処理を示すフローチャートである。なお、図15において、図9と同じ処理については、適宜詳細な説明を省略する。
(ステップS301)
位置取得部102は、タッチ位置を取得する。
(ステップS302)
位置取得部102は、触感呈示が必要か否かを判断する。
(ステップS303)
画像表示部103は、必要に応じて、表示されている画像を更新する。
(ステップS304)
画像特徴抽出部104は、画像表示部103が表示している画像の特徴を抽出する。
(ステップS305)
弾性率決定部314は、画像の特徴に基づいて、弾性率記憶部313から弾性率を取得する。
(ステップS306)
搬送周波数決定部312は、弾性率に基づいて、搬送信号の周波数を決定する。具体的には、搬送周波数決定部312は、弾性率が大きいほど搬送信号の周波数が高くなるように、搬送信号の周波数を決定する。逆に、搬送周波数決定部312は、弾性率が小さいほど搬送信号の周波数が低くなるように、搬送信号の周波数を決定する。
(ステップS307)
画像特徴抽出部104により抽出された画像の特徴と、位置取得部102により取得されたタッチ位置と、搬送周波数決定部312により決定された搬送周波数とに基づいて触感信号が生成される。具体的には、変調信号生成部107は、画像特徴量(空間周波数)に対応する周波数の成分を有する変調信号を生成する。さらに、搬送信号生成部308は、搬送周波数決定部312によって決定された周波数の成分を有する搬送信号を生成する。そして、変調部109は、変調信号を用いて搬送信号を振幅変調することにより触感信号を生成する。
(ステップS308)
アクチュエータ110は、ステップS307で生成された触感信号を用いて駆動される。つまり、アクチュエータ110は、触感信号に従ってパネル101を振動させることにより、ユーザに触感を呈示する。
以上に述べたように、本実施の形態における触感呈示装置300によれば、パネル101を振動させることにより、パネル101に表示された画像に基づいた触感を呈示することができる。さらに、触感呈示装置300は、パネル101に表示されている画像に含まれるオブジェクトの素材感に応じて、搬送信号の周波数を変更することができる。
したがって、触感呈示装置300は、柔らかいオブジェクトが含まれる場合には、柔らかく滑らかな触感を呈示することができ、硬いオブジェクトが含まれる場合には、より細い振動を呈示することができる。つまり、触感呈示装置300は、ユーザが実際にオブジェクトを触っているときに得られる触感に近い触感を呈示することができ、パネルをタッチしているユーザにより適切な触感を呈示することが可能となる。
また、実施の形態1と同様に、パネル101に表示されている画像が変化した場合にも、触感呈示装置300は、その画像の変化を触感に随時反映することができるため、視覚に連動した自然な触感を呈示することができる。
なお、本実施の形態では、画像に含まれるオブジェクトの硬さを表す値(弾性率)が画像の特徴から取得されていたが、硬さを表す値の取得方法はこれに限られない。例えば、弾性率決定部314は、ユーザから硬さを表す値の入力を受け付けてもよい。この場合、硬さを表す値は、例えば硬さのレベルを表す値(例えば1〜5)などであってもよい。
また、本実施の形態における触感呈示装置300は、実施の形態1と同様に、さらに、速度算出部105および圧力測定部106を備えてもよい。その場合、変調信号生成部107は、実施の形態1と同様に、例えばタッチ速度が大きいほど高い周波数の成分を有する変調信号を生成すればよい。また、変調信号生成部107は、タッチ圧力が大きいほど高い周波数の成分を有する変調信号を生成してもよい。
以上、1つまたは複数の態様に係る触感呈示装置について、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、1つまたは複数の態様の範囲内に含まれてもよい。
例えば、触感呈示装置は、図1、図10または図15に示す構成要素を必ずしもすべて備える必要はない。つまり、触感呈示装置は、図1、図10または図15に示す構成要素のいくつかを備えなくてもよい。例えば、触感呈示装置は、図16に示すように構成されてもよい。
図16は、変形例における触感呈示装置400の構成図である。また、図17は、変形例における触感呈示装置の処理を示すフローチャートである。この触感呈示装置400は、パネル101をタッチしているユーザに触感を呈示する際に、画像の特徴を用いない。
図16に示すように、触感呈示装置400は、パネル101と、位置取得部102と、速度算出部105と、変調信号生成部407と、搬送信号生成部108と、変調部109と、アクチュエータ110とを備える。
(ステップS401)
位置取得部102は、所定の時間間隔でパネル101上のタッチ位置を取得する。つまり、位置取得部102は、パネル101上の、ユーザによりタッチされた第1タッチ位置と、第1タッチ位置がタッチされた後にユーザによりタッチされた第2タッチ位置とを取得する。
(ステップS402)
速度算出部105は、第1タッチ位置から第2タッチ位置へのタッチの移動速度(タッチ速度)を算出する。
(ステップS403)
変調信号生成部407は、タッチ速度が大きいほど高い周波数の成分を有する変調信号を生成する。具体的には、変調信号生成部407は、例えば式(11)に示すように、タッチ速度vに比例定数k(k>0)で比例する周波数の正弦波を変調信号smとして生成する。
Figure 0006044791
なお、変調信号の周波数は、タッチ速度に比例しなくてもよい。つまり、第1タッチ速度のときの周波数よりも、第2タッチ速度(第1タッチ速度よりも大きい速度)のときの周波数が高ければよい。
(ステップS404)
搬送信号生成部108は、パネル101を振動させるための搬送信号を生成する。例えば、搬送信号生成部108は、パネル101の共振周波数の成分を有する信号を搬送信号として生成する。なお、搬送信号生成部108は、パネル101の共振周波数とは異なる周波数の成分を有する信号を搬送信号として生成してもよい。つまり、搬送信号生成部108は、ユーザが触覚により知覚できる周波数の成分を有する搬送信号を生成すればよい。
(ステップS405)
変調部109は、変調信号を用いて搬送信号を変調することにより触感信号を生成する。具体的には、変調部109は、例えば、式(7)または式(8)に示すように触感信号を生成する。
(ステップS406)
アクチュエータ110は、変調された搬送信号(触感信号)に従ってパネル101を振動させることにより、ユーザに触感を呈示する。
以上にように、変形例における触感呈示装置400によれば、タッチの移動速度が大きいほど高い周波数の成分を有する変調信号を用いて搬送信号を変調し、変調された搬送信号に従ってパネルを振動させることができる。したがって、触感呈示装置400は、タッチの移動速度が大きいほどパネル振動の振幅を速く変化させることができ、パネルにタッチしているユーザにタッチの移動速度に適した触感を呈示することができる。その結果、ユーザは、タッチが正しく検出されていることを、触感を介して容易に認識することが可能となる。
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態の触感呈示装置などを実現するソフトウェアは、次のようなプログラムである。
すなわち、このプログラムは、コンピュータに、パネルをタッチしているユーザに触感を呈示する触感呈示方法であって、前記パネル上の位置であって前記ユーザによりタッチされた位置である第1タッチ位置と、前記パネル上の位置であって前記第1タッチ位置がタッチされた後に前記ユーザによりタッチされた位置である第2タッチ位置とを取得する位置取得ステップと、前記第1タッチ位置から前記第2タッチ位置へのタッチの移動速度を算出する速度算出ステップと、前記移動速度が大きいほど高い周波数の成分を有する変調信号を生成する変調信号生成ステップと、前記パネルを振動させるための搬送信号を生成する搬送信号生成ステップと、生成された前記搬送信号を、前記変調信号を用いて変調する変調ステップと、変調された前記搬送信号に従って前記パネルを振動させることにより、前記ユーザに触感を呈示する触感呈示ステップと、を含む触感呈示方法を実行させる。
本発明の一態様に係る触感呈示装置は、パネルをタッチしているユーザに触感を呈示することができるので、タッチパネルを備える、TV、デジタルスチルカメラ、デジタルムービーカメラ、パーソナルコンピュータ、携帯情報端末、または携帯電話などに有用である。
100、200、300、400 触感呈示装置
101 パネル
102 位置取得部
103 画像表示部
104 画像特徴抽出部
105 速度算出部
106 圧力測定部
107、407 変調信号生成部
108、208、308 搬送信号生成部
109 変調部
110 アクチュエータ
110A 第1アクチュエータ
110B 第2アクチュエータ
211、311 搬送周波数記憶部
212、312 搬送周波数決定部
313 弾性率記憶部
314 弾性率決定部

Claims (12)

  1. パネルをタッチしたユーザに触感を呈示する触感呈示装置であって、
    パネルと、
    前記パネル上の位置であって前記ユーザによりタッチされた位置である第1タッチ位置と、前記パネル上の位置であって前記第1タッチ位置がタッチされた後に前記ユーザによりタッチされた位置である第2タッチ位置とを取得する位置取得部と、
    前記パネルに画像を表示する画像表示部と、
    前記パネルに表示された画像の空間周波数を特徴として抽出する画像特徴抽出部と、
    前記第1タッチ位置から前記第2タッチ位置へのタッチの移動速度を算出する速度算出部と、
    前記移動速度が大きいほど高い周波数の成分を有する変調信号を生成する変調信号生成部と、
    前記パネルの複数の共振周波数の中から前記空間周波数が高いほど高い共振周波数を搬送信号のための周波数と決定する搬送周波数決定部と、
    前記パネルを振動させるための信号であって決定された前記共振周波数の成分を有する信号を前記搬送信号として生成する搬送信号生成部と、
    生成された前記搬送信号を、前記変調信号を用いて変調する変調部と、
    変調された前記搬送信号に従って前記パネルを振動させることにより、前記ユーザに触感を呈示するアクチュエータと、を備える
    触感呈示装置。
  2. 前記変調信号生成部は、前記移動速度が大きいほど高い周波数であって前記画像の特徴に応じた周波数の成分を有する前記変調信号を生成する
    請求項1に記載の触感呈示装置。
  3. 前記搬送周波数決定部は、前記パネルの複数の共振周波数の中から、前記移動速度が大きいほど高く、かつ前記空間周波数が高いほど高い周波数の成分を有する共振周波数を前記搬送信号のための周波数と決定する
    請求項2に記載の触感呈示装置。
  4. 前記画像特徴抽出部は、前記画像の一部の領域であって前記第2タッチ位置を含む領域から前記画像の特徴を抽出する
    請求項2または3に記載の触感呈示装置。
  5. 前記画像特徴抽出部は、前記移動速度が大きいほど広い前記領域から前記画像の特徴を抽出する
    請求項4に記載の触感呈示装置。
  6. 前記画像特徴抽出部は、前記パネルに表示された画像が更新されるたびに、前記画像の特徴を抽出し、
    前記変調信号生成部は、前記画像の特徴が抽出されるたびに、前記変調信号を生成する
    請求項2〜5のいずれか1項に記載の触感呈示装置。
  7. 前記搬送信号生成部は、前記パネルの共振周波数の成分を有する信号を前記搬送信号として生成する
    請求項1〜6のいずれか1項に記載の触感呈示装置。
  8. 前記搬送信号生成部は、前記パネルの複数の共振周波数のうちの前記第2タッチ位置に対応する共振周波数の成分を有する信号を前記搬送信号として生成する
    請求項に記載の触感呈示装置。
  9. 前記触感呈示装置は、さらに、
    前記画像に含まれるオブジェクトの硬さを表す値を取得する硬さ取得部を備え、
    前記搬送信号生成部は、前記硬さを表す値が大きいほど高い周波数の成分を有する信号を前記搬送信号として生成する
    請求項1〜6のいずれか1項に記載の触感呈示装置。
  10. 前記触感呈示装置は、さらに、
    前記第2タッチ位置におけるタッチの圧力を測定する圧力測定部を備え、
    前記変調信号生成部は、測定された前記圧力が大きいほど高い周波数の成分を有する前記変調信号を生成する
    請求項1〜のいずれか1項に記載の触感呈示装置。
  11. パネルをタッチしているユーザに触感を呈示する触感呈示方法であって、
    前記パネル上の位置であって前記ユーザによりタッチされた位置である第1タッチ位置と、前記パネル上の位置であって前記第1タッチ位置がタッチされた後に前記ユーザによりタッチされた位置である第2タッチ位置とを取得する位置取得ステップと、
    前記パネルに画像を表示する画像表示ステップと、
    前記パネルに表示された画像の空間周波数を特徴として抽出する画像特徴抽出ステップと、
    前記第1タッチ位置から前記第2タッチ位置へのタッチの移動速度を算出する速度算出ステップと、
    前記移動速度が大きいほど高い周波数の成分を有する変調信号を生成する変調信号生成ステップと、
    前記パネルの複数の共振周波数の中から前記空間周波数が高いほど高い共振周波数を搬送信号のための周波数と決定する搬送周波数決定ステップと、
    前記パネルを振動させるための信号であって、決定された前記共振周波数の成分を有する信号を前記搬送信号として生成する搬送信号生成ステップと、
    生成された前記搬送信号を、前記変調信号を用いて変調する変調ステップと、
    変調された前記搬送信号に従って前記パネルを振動させることにより、前記ユーザに触感を呈示する触感呈示ステップと、を含む
    触感呈示方法。
  12. 請求項11に記載の触感呈示方法をコンピュータに実行させるためのプログラム。
JP2013556231A 2012-01-31 2013-01-16 触感呈示装置および触感呈示方法 Active JP6044791B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012017689 2012-01-31
JP2012017689 2012-01-31
PCT/JP2013/000142 WO2013114792A1 (ja) 2012-01-31 2013-01-16 触感呈示装置および触感呈示方法

Publications (2)

Publication Number Publication Date
JPWO2013114792A1 JPWO2013114792A1 (ja) 2015-05-11
JP6044791B2 true JP6044791B2 (ja) 2016-12-14

Family

ID=48904845

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013556231A Active JP6044791B2 (ja) 2012-01-31 2013-01-16 触感呈示装置および触感呈示方法

Country Status (4)

Country Link
US (1) US9292090B2 (ja)
EP (1) EP2811374B1 (ja)
JP (1) JP6044791B2 (ja)
WO (1) WO2013114792A1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130318437A1 (en) * 2012-05-22 2013-11-28 Samsung Electronics Co., Ltd. Method for providing ui and portable apparatus applying the same
US9880623B2 (en) * 2013-01-24 2018-01-30 Immersion Corporation Friction modulation for three dimensional relief in a haptic device
FR3015383B1 (fr) * 2013-12-19 2017-01-13 Dav Dispositif de controle pour vehicule automobile et procede de commande
JP2015121983A (ja) * 2013-12-24 2015-07-02 京セラ株式会社 触感呈示装置
JP2016057764A (ja) * 2014-09-08 2016-04-21 株式会社東海理化電機製作所 触覚呈示装置
DE102014224102A1 (de) * 2014-11-26 2016-06-02 Robert Bosch Gmbh Verfahren zur taktilen Interaktion eines Benutzers mit einem elektronischen Gerät und elektronisches Gerät hierzu
DE102014224110A1 (de) * 2014-11-26 2016-06-02 Robert Bosch Gmbh Verfahren zur taktilen Interaktion eines Benutzers mit einem elektronischen Gerät und elektronisches Gerät hierzu
US9971406B2 (en) 2014-12-05 2018-05-15 International Business Machines Corporation Visually enhanced tactile feedback
CN107615213A (zh) 2015-04-21 2018-01-19 意美森公司 蚀刻输入的动态呈现
KR101902248B1 (ko) 2015-08-17 2018-09-28 엘지전자 주식회사 압력 반응형 햅틱 장치
DE102015015075A1 (de) * 2015-11-20 2017-05-24 Audi Ag Verfahren zum Betreiben einer Eingabevorrichtung und Eingabevorrichtung
KR102456953B1 (ko) * 2016-03-11 2022-10-21 한국전자통신연구원 이미지 제공 장치 및 방법
US10430042B2 (en) * 2016-09-30 2019-10-01 Sony Interactive Entertainment Inc. Interaction context-based virtual reality
GB2561883A (en) * 2017-04-27 2018-10-31 Cambridge Touch Tech Ltd Touchscreen panel haptics
US20190073031A1 (en) * 2017-09-01 2019-03-07 Denso International America, Inc. Dynamic feedback system and method for providing dynamic feedback
JP7087367B2 (ja) * 2017-12-08 2022-06-21 富士フイルムビジネスイノベーション株式会社 情報処理装置、プログラム及び制御方法
DE102018209963A1 (de) * 2018-06-20 2019-12-24 Robert Bosch Gmbh Verfahren zur taktilen Interaktion eines Benutzers mit einem elektronischen Gerät sowie ein Computerprogrammprodukt und ein elektronisches Gerät
JP7207017B2 (ja) * 2019-03-01 2023-01-18 株式会社デンソー 入力装置
WO2023119483A1 (ja) * 2021-12-22 2023-06-29 三菱電機株式会社 触覚提示装置、ディスプレイ装置、データ端末装置、および触覚提示方法

Family Cites Families (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07284166A (ja) * 1993-03-12 1995-10-27 Mitsubishi Electric Corp 遠隔操作装置
JPH06297383A (ja) 1993-04-12 1994-10-25 Olympus Optical Co Ltd 触覚呈示装置
JP3171738B2 (ja) 1993-10-22 2001-06-04 シャープ株式会社 毛筆書体生成装置
US6115482A (en) * 1996-02-13 2000-09-05 Ascent Technology, Inc. Voice-output reading system with gesture-based navigation
JP4567817B2 (ja) 1997-09-11 2010-10-20 ソニー株式会社 情報処理装置及びその制御方法
US6822635B2 (en) * 2000-01-19 2004-11-23 Immersion Corporation Haptic interface for laptop computers and other portable devices
KR100847081B1 (ko) * 2000-04-28 2008-07-18 학교법인 일본대학 비접촉물성 측정장치
US7170488B2 (en) * 2000-12-22 2007-01-30 Logitech Europe S.A. Pointing device with solid-state roller
JP3974628B2 (ja) * 2003-06-30 2007-09-12 日本電信電話株式会社 電界検出光学装置、トランシーバ、位置情報取得システム、及び情報入力システム
JP4860625B2 (ja) 2004-10-08 2012-01-25 イマージョン コーポレーション タッチ式入力装置におけるボタンおよびスクロール動作シミュレーション用の触覚フィードバック
US20060097996A1 (en) 2004-11-10 2006-05-11 Alps Electric Co., Ltd. Input device
JP2006139371A (ja) * 2004-11-10 2006-06-01 Alps Electric Co Ltd 入力装置
JP4419903B2 (ja) * 2005-04-15 2010-02-24 ソニー株式会社 入力装置、入力方法および入力制御プログラム、ならびに、再生装置、再生制御方法および再生制御プログラム
JP4736605B2 (ja) 2005-08-01 2011-07-27 ソニー株式会社 表示装置、情報処理装置、及びその制御方法
US8169421B2 (en) * 2006-06-19 2012-05-01 Cypress Semiconductor Corporation Apparatus and method for detecting a touch-sensor pad gesture
JP4184402B2 (ja) 2006-11-10 2008-11-19 株式会社 日立コンサルティング 情報処理装置、健康に及ぼす要因を検出する方法、及びプログラム
US8525799B1 (en) * 2007-04-24 2013-09-03 Cypress Semiconductor Conductor Detecting multiple simultaneous touches on a touch-sensor device
FR2916545B1 (fr) * 2007-05-23 2009-11-20 Inst Pour Le Dev De La Science Procede pour localiser un toucher sur une surface et dispositif pour la mise en oeuvre de ce procede.
US8098235B2 (en) * 2007-09-28 2012-01-17 Immersion Corporation Multi-touch device having dynamic haptic effects
US8325144B1 (en) 2007-10-17 2012-12-04 Immersion Corporation Digital envelope modulator for haptic feedback devices
US8253686B2 (en) * 2007-11-26 2012-08-28 Electronics And Telecommunications Research Institute Pointing apparatus capable of providing haptic feedback, and haptic interaction system and method using the same
US8749494B1 (en) * 2008-06-24 2014-06-10 Sprint Communications Company L.P. Touch screen offset pointer
KR101498623B1 (ko) * 2008-06-25 2015-03-04 엘지전자 주식회사 휴대 단말기 및 그 제어방법
GB2462465B (en) * 2008-08-08 2013-02-13 Hiwave Technologies Uk Ltd Touch sensitive device
US8749495B2 (en) * 2008-09-24 2014-06-10 Immersion Corporation Multiple actuation handheld device
MX2011009186A (es) * 2009-03-10 2011-09-26 Bayer Materialscience Ag Transductores de polimeros electroactivos para dispositivos de retroalimentacion tactil.
GB2474047B (en) * 2009-10-02 2014-12-17 New Transducers Ltd Touch sensitive device
US8717020B2 (en) * 2009-10-22 2014-05-06 Mark A. Griswold Non-cartesian caipirinha
JP5766398B2 (ja) * 2009-12-21 2015-08-19 京セラ株式会社 触感呈示装置
JP5360499B2 (ja) 2010-02-01 2013-12-04 国立大学法人東北大学 力覚提示方法および力覚提示装置
JP5427070B2 (ja) * 2010-03-05 2014-02-26 株式会社ワコム 位置検出装置
US8612156B2 (en) * 2010-03-05 2013-12-17 Vialogy Llc Active noise injection computations for improved predictability in oil and gas reservoir discovery and characterization
US20120023426A1 (en) * 2010-07-22 2012-01-26 Mediatek Inc. Apparatuses and Methods for Position Adjustment of Widget Presentations
US8856648B2 (en) * 2010-08-04 2014-10-07 Mediatek Inc. Apparatuses and methods for rearranging menu items
FR2978570B1 (fr) * 2011-07-28 2013-08-16 Commissariat Energie Atomique Systeme et procede de detection et de localisation d'une perturbation d'un milieu
US9933620B2 (en) * 2011-12-06 2018-04-03 E-Vision Smart Optics, Inc. Eye-mounted display system and method for providing images
CN103314347A (zh) * 2012-01-17 2013-09-18 松下电器产业株式会社 电子设备
US9152232B2 (en) * 2012-01-30 2015-10-06 Panasonic Intellectual Property Management Co., Ltd. Haptic feedback device and haptic feedback method
WO2014040954A1 (en) * 2012-09-11 2014-03-20 Koninklijke Philips N.V. Measurement of magnetic resonance rheology transducer vibrations using navigators

Also Published As

Publication number Publication date
EP2811374A4 (en) 2015-06-17
EP2811374B1 (en) 2018-01-10
US9292090B2 (en) 2016-03-22
EP2811374A1 (en) 2014-12-10
JPWO2013114792A1 (ja) 2015-05-11
US20140062927A1 (en) 2014-03-06
WO2013114792A1 (ja) 2013-08-08

Similar Documents

Publication Publication Date Title
JP6044791B2 (ja) 触感呈示装置および触感呈示方法
JP6112458B2 (ja) 触感呈示装置および触感呈示方法
JP5780368B1 (ja) 駆動制御装置、電子機器、及び駆動制御方法
JP6183476B2 (ja) 電子機器及び駆動制御方法
US20220276713A1 (en) Touch Display Device with Tactile Feedback
JP6392747B2 (ja) ディスプレイ装置
JP6399865B2 (ja) スペクトログラムの視覚処理をして触覚効果を生成するためのシステム及び方法
JP6172284B2 (ja) 駆動制御装置、電子機器、及び駆動制御方法
JP2010231609A (ja) 触感呈示装置及び方法
JPWO2015121955A1 (ja) 電子機器、入力装置、及び駆動制御方法
JP6406025B2 (ja) 電子機器
JP6123850B2 (ja) 駆動制御装置、電子機器、及び駆動制御方法
JP6784297B2 (ja) 電子機器
US20180067559A1 (en) Electronic apparatus and non-transitory recording medium having stored therein
US20140003610A1 (en) Method of reproducing sound source of terminal and terminal thereof
JP6512299B2 (ja) 駆動制御装置、電子機器、駆動制御プログラム、及び駆動制御方法
JP2016161953A (ja) 電子機器及び接触座標決定プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161101

R151 Written notification of patent or utility model registration

Ref document number: 6044791

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03