JP6660637B2 - 触質情報処理装置および触質情報処理方法 - Google Patents

触質情報処理装置および触質情報処理方法 Download PDF

Info

Publication number
JP6660637B2
JP6660637B2 JP2018515325A JP2018515325A JP6660637B2 JP 6660637 B2 JP6660637 B2 JP 6660637B2 JP 2018515325 A JP2018515325 A JP 2018515325A JP 2018515325 A JP2018515325 A JP 2018515325A JP 6660637 B2 JP6660637 B2 JP 6660637B2
Authority
JP
Japan
Prior art keywords
tactile
information
target information
feature amount
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018515325A
Other languages
English (en)
Other versions
JPWO2018211767A1 (ja
Inventor
理絵子 鈴木
理絵子 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
FACETHERAPIE INC.
Original Assignee
FACETHERAPIE INC.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by FACETHERAPIE INC. filed Critical FACETHERAPIE INC.
Publication of JPWO2018211767A1 publication Critical patent/JPWO2018211767A1/ja
Application granted granted Critical
Publication of JP6660637B2 publication Critical patent/JP6660637B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、触質情報処理装置および触質情報処理方法に関し、特に、入力情報を触質情報に変換して情報伝達メディアとして利用可能にするための技術に関するものである。
人間が有する五感のうち、情報伝達の手段としては、視覚および聴覚を利用したものが広く提供されてきた。視覚および聴覚を利用した情報伝達メディアは多種多様であり、その発達には目覚しいものがある。これに対し、触覚を利用した情報伝達メディアとしては、点字などが提供されているが、視覚および聴覚を利用した情報伝達メディアに比べて発達の程度はかなり低い。これまで、触覚のみによって何らかの情報を伝達するという試みは、点字以外には殆ど行われていないのが実情である。
このような実情の中、視覚または聴覚で感じる情報を触覚から伝えようとする感覚代行技術の研究が行われている。すなわち、視覚情報は眼から、聴覚情報は耳から伝わるのが一般的であるが、これらの情報を触覚から伝えようとする試みがなされている。例えば、聴覚情報である音声信号を触覚効果の情報に変換して利用するようにしたシステムが知られている(例えば、特許文献1,2参照)。
特許文献1に記載の触覚効果生成システムは、音声信号に関係付けられるエンベロープを決定し、エンベロープに基づいて触覚効果(例えば、タッチスクリーンまたはタッチパッドのタッチ面を動かす振動触覚効果)を決定し、当該触覚効果に関係付けられる触覚信号(例えば、アクチュエータの駆動信号)を出力するように構成されている。
また、特許文献2に記載のシステムでは、マイクロフォンから入力した音声信号の特徴(周波数、振幅、継続期間など)を判断し、当該特徴の少なくとも一部に基づいて、特徴に関連した触覚効果ライブラリから触覚効果を識別することによって、当該特徴に関連した触覚効果をアクチュエータに出力させるためのアクチュエータ信号を生成する。
また、センサにより検出されるセンサ信号に基づいて仮想メッセージオブジェクトの仮想物理パラメータを決定し、当該仮想物理パラメータに基づいて触覚効果を決定して、その触覚効果をアクチュエータに出力させるための触覚信号を生成するようにした技術も知られている(例えば、特許文献3参照)。この特許文献3には、センサの一例として、接触、圧力、加速度、傾き、慣性、位置を検出することが記載され、具体例として、加速度計、ジャイロスコープ、タッチセンサ式入力装置、カメラ、GPSセンサが記載されている。また、特許文献3には、センサ信号がジェスチャと関連付けられた信号であることも記載されている。
さらに、特許文献3には、仮想物理特性が、サイズ、質量、形状、衝突挙動、またはテクスチャを含むことが記載されている。また、特許文献3には、仮想物理特性が、仮想メッセージオブジェクトと関連付けられるファイルサイズ、仮想メッセージオブジェクトと関連付けられるテキストメッセージの長さ、仮想メッセージオブジェクトと関連付けられる画像の幅および長さ、仮想メッセージオブジェクトと関連付けられる歌曲の長さ、または仮想メッセージオブジェクトと関連付けられるビデオの長さに基づくことが記載されている。
特開2015−53053号公報 特開2015−156229号公報 特開2011−528474号公報
上記特許文献1〜3に記載された感覚代行技術によれば、視覚や聴覚などの触覚以外の情報を触覚信号(アクチュエータ信号などの振動情報)に変換して、機器等に触覚効果を与えるために利用することが可能である。しかしながら、変換した触覚信号を情報伝達メディアとして利用するものではなく、触覚情報として閲覧したり検索したりすることはできなかった。
本発明は、このような問題を解決するために成されたものであり、触覚を情報伝達メディアとして有効に利用できるようにすることを目的とする。
上記した課題を解決するために、本発明では、処理対象とする対象情報から、それぞれが触感の一要素を表したn個(n≧2)の触質点パラメータの組み合わせを2組以上生成し、さらに、当該2組以上の触質点パラメータに基づいて、対象情報が有している触覚の性質を表した触質特徴量をn個の触質点パラメータの組み合わせから算出し、かつ当該触質特徴量を複数種類算出し、当該複数種類の触質特徴量の組み合わせを記憶する。そして、記憶された触質特徴量の組み合わせを用いて、ユーザ操作に応じた処理を実行し、その実行結果をユーザに提供するようにしている。
上記のように構成した本発明によれば、処理対象として入力された対象情報(視覚や聴覚などの情報の他、触覚に関する情報を含む)から、触感の一要素を表した触質点パラメータを基にした触質特徴量が生成される。触質特徴量は、入力された対象情報が潜在的に持っている触覚の性質を表したものと言える。本発明によれば、この触質特徴量を用いて、ユーザ操作に応じた処理を実行し、その実行結果をユーザに提供することが可能である。これにより、対象情報に対応する触覚(触質特徴量)を情報伝達メディアとして有効に利用することができる。
本実施形態による触質情報処理装置の機能構成例を示すブロック図である。 本実施形態の第1例に関し、波形情報を入力した場合における触質点パラメータ生成部による処理内容の一例を説明するための図である。 本実施形態の処理実行部によりディスプレイに表示される画像の一例を示す図である。 対象情報から触質特徴量を算出して記憶する際の動作例を示すフローチャートである。 触質特徴量を利用してマップ表示処理を実行する際の動作例を示すフローチャートである。 本実施形態による触質情報処理装置の他の機能構成例を示すブロック図である。 触質特徴量を利用して検索処理を実行する際の動作例を示すフローチャートである。 本実施形態の第2例に関し、ヒストグラム情報を入力した場合における触質点パラメータ生成部による処理内容の一例を説明するための図である。 本実施形態の第3例に関し、画像情報を入力した場合における触質点パラメータ生成部による処理内容の一例を説明するための図である。 本実施形態の第5例に関し、テキスト情報を入力した場合における触質点パラメータ生成部による処理内容の一例を説明するための図である。 本実施形態の第6例に関し、マッサージの動作情報を入力した場合における触質点パラメータ生成部による処理内容の一例を説明するための図である。 本実施形態による触質情報処理装置の他の機能構成例を示すブロック図である。 本実施形態による触質情報処理装置の他の機能構成例を示すブロック図である。
以下、本発明の一実施形態を図面に基づいて説明する。図1は、本実施形態による触質情報処理装置の機能構成例を示すブロック図である。図1に示すように、本実施形態の触質情報処理装置は、記憶媒体として触質特徴量記憶部10を備えている。また、本実施形態の触質情報処理装置は、その機能構成として、対象情報入力部11、触質点パラメータ生成部12、触質特徴量算出部13および処理実行部14を備えている。
上記各機能ブロック11〜14は、ハードウェア、DSP(Digital Signal Processor)、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、上記各機能ブロック11〜14は、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶されたプログラムが動作することによって実現される。
対象情報入力部11は、処理対象の情報を入力する。本実施形態では、対象情報の一例として、波形情報(音声信号、映像信号、振動信号、地震計・風力計・光量計など各種計測機器の測定信号、オシロスコープによる波形測定データ、株価変動データなど)を入力する。波形情報は、情報の強度に関する第1の触質点パラメータと、情報の分割区間の長さに関する第2の触質点パラメータとにより特定される固有の触覚効果を持った情報である。
すなわち、波形情報は、強度に相当する振幅が時間軸に沿って連続的(アナログ信号の場合)または断続的(デジタルデータの場合)に連なっている情報である。この場合、情報の強度に関する第1の触質点パラメータは振幅、情報の分割区間の長さに関する第2の触質点パラメータは、波形情報を時間軸方向に複数に分割した場合の各分割区間の時間の長さである。強度および分割区間の長さは、何れも触感の一要素(触感の強さ、長さ)を成すものである。
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報から、第1の触質点パラメータ(強度に関する情報)および第2の触質点パラメータ(分割区間の長さに関する情報)の組み合わせを2組以上生成する。
すなわち、触質点パラメータ生成部12は、まず、対象情報入力部11により入力された波形情報を時間軸方向に複数に分割する。そして、それぞれの分割区間から、分割区間内の代表振幅を第1の触質点パラメータとして特定するとともに、分割区間の時間の長さを第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
なお、触質点パラメータ生成部12は、前処理として、波形情報にローパスフィル処理を施すことにより、入力された波形情報のエンベロープを抽出し、当該エンベロープを対象として、複数の分割区間から第1の触質点パラメータおよび第2の触質点パラメータを特定するようにしてもよい。
図2は、触質点パラメータ生成部12による処理内容の一例を説明するための図である。図2は、対象情報入力部11により入力された波形情報(または、触質点パラメータ生成部12により前処理としてローパスフィルタ処理が施されたエンベロープ波形情報)を示している。
触質点パラメータ生成部12は、まず、図2に示す波形情報を時間軸方向に複数に分割する。図2では一例として、波形の振幅が極小となる時間毎に分割している。すなわち、波形の開始点から1つ目の極小値までを第1の分割区間T1、1つ目の極小値から2つ目の極小値までを第2の分割区間T2、2つ目の極小値から3つ目の極小値までを第3の分割区間T3、・・・のように、波形情報を時間軸方向に複数に分割している。
なお、波形情報の分割のし方は、図2に示した例に限定されない。例えば、波形の振幅が極大となる時間毎に波形情報を複数の区間に分割するようにしてもよい。あるいは、正の値の振幅および負の値の振幅がある波形情報の場合は、振幅値がゼロとなる時間毎に波形情報を複数の区間に分割するようにしてもよい。
触質点パラメータ生成部12は、それぞれの分割区間T1,T2,T3,・・・から、第1の触質点パラメータとして代表振幅h1,h2,h3,・・・を特定するとともに、第2の触質点パラメータとして分割区間の時間の長さt1,t2,t3,・・・を特定する。ここで、代表振幅h1,h2,h3,・・・は、それぞれの分割区間T1,T2,T3,・・・における開始点の極小値または終了点の極小値のうち値が大きい方と、分割区間T1,T2,T3,・・・における極大値との差分の値を示している。
すなわち、分割区間T1に関しては、極小値が1つしかないので、この極小値と極大値との差分が代表振幅h1となる。分割区間T2に関しては、当該区間の開始点の極小値の方が終了点の極小値よりも大きいので、開始点の極小値と極大値との差分が代表振幅h2となる。分割区間T3に関しては、当該区間の開始点の極小値よりも終了点の極小値の方が大きいので、終了点の極小値と極大値との差分が代表振幅h3となる。
なお、ここで示した代表振幅の特定方法は一例であり、これに限定されるものではない。例えば、それぞれの分割区間T1,T2,T3,・・・における開始点の極小値または終了点の極小値のうち値が小さい方と、分割区間T1,T2,T3,・・・における極大値との差分を代表振幅として特定するようにしてもよい。
また、正の値の振幅および負の値の振幅がある波形情報を、振幅値がゼロとなる時間毎に分割した場合は、各分割区間における正の極大値または負の極小値を第1の触質点パラメータの代表振幅として特定するようにしてもよい。ここで、負の極小値に関しては、その絶対値を第1の触質点パラメータの代表振幅として特定するようにしてもよい。
触質特徴量算出部13は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータ(第1の触質点パラメータおよび第2の触質点パラメータの2組以上の組み合わせ)に基づいて、対象情報入力部11により入力された波形情報に関する複数種類の触質特徴量を算出する。本実施形態では、第1の触質点パラメータと第2の触質点パラメータとを用いた四則演算値を算出し、同じ四則演算値が現れる区間の長さを第1の触質特徴量として算出する。また、四則演算値の多様度を第2の触質特徴量として算出する。
例えば、分割区間の数がn個の場合、触質特徴量算出部13は、それぞれの分割区間Ti(i=1〜n)ごとにhi/tiの値を求める。そして、同じhi/tiの値が出現する区間の長さを第1の触質特徴量P1として算出する。例えば、分割区間T1におけるh1/t1の値と、分割区間T3におけるh3/t3の値とが同じになった場合、第1の触質特徴量P1は、次の式により求められる。
P1=t1+t2
あるいは、同じhi/tiの値が出現するまでの区間数を区間の長さとして、第1の触質特徴量P1を算出するようにしてもよい。この場合、上述した例のケースでは、分割区間T1から分割区間T3までの区間数である“2”が第1の触質特徴量P1ということになる。
なお、同じhi/tiの値が出現する区間が複数存在する場合は、それぞれの区間ごとに第1の触質特徴量P1を算出し、その平均値を最終的な第1の触質特徴量P1として決定する。あるいは、平均値に代えて、最大値、最小値、中央値などを第1の触質特徴量P1として決定するようにしてもよい。
また、触質特徴量算出部13は、分割区間ごとに算出した複数のhi/tiの値の分散を第2の触質特徴量P2として算出する。すなわち、第2の触質特徴量P2は、次の式により求められる。
P2=Σ(hi/ti−m)2/n (i=1〜n)
ただし、mはhi/ti(i=1〜n)の平均値
上記のように求められる第1の触質特徴量P1は、対象情報入力部11により入力された波長情報が潜在的に持っている触感のリズムを表している。また、第2の触質特徴量P2は、対象情報入力部11により入力された波長情報が潜在的に持っている触感の多様度を表している。本実施形態では、この触感のリズムおよび多様度を示唆する2種類の触質特徴量によって、対象情報入力部11により入力された波長情報を特徴付けるようにしている。
なお、ここではhi/tiの値を算出しているが、他の四則演算値を算出するようにしてもよい。例えば、ti/hiの値、hi×tiの値、hi+tiの値、hi−tiの値などを算出するようにしてもよい。
触質特徴量記憶部10は、触質特徴量算出部13により算出された2種類の触質特徴量の組み合わせを、対象情報入力部11により入力された対象情報を識別可能なラベル情報と共に記憶する。ラベル情報は、対象情報を識別可能なものであれば何でもよい。例えば、対象情報に付与されている名称、タイトル、ID番号などを用いることが可能である。本実施形態では、対象情報に対応する触覚を情報伝達メディアとして利用することを目的としているので、ラベル情報は、人が見て対象情報を認識しやすいものが好ましい。
処理実行部14は、触質徴量記憶部10に記憶された2種類の触質特徴量の組み合わせを用いて、ユーザ操作に応じた処理を実行し、その実行結果をラベル情報と共にユーザに提供する。例えば、処理実行部14は、ユーザ操作によるマップ表示要求に応じて、触質特徴量記憶部10に記憶された2種類の触質特徴量の組み合わせを、所定の座標空間上にマッピングしてラベル情報と共に表示する。
所定の座標空間は、例えば、横軸(x軸)に第1の触質特徴量P1、縦軸(y軸)に第2の触質特徴量P2をとった2次元座標とすることが可能である。この場合、処理実行部14は、ディスプレイの画面上に2次元座標を表示し、(x,y)=(P1,P2)とするxy座標に所定のマークをプロットするとともに、そのプロット点の近傍にラベル情報を表示する処理を実行する。
触質特徴量記憶部10に触質特徴量の組み合わせが複数組記憶されている場合は、その全ての組み合わせ、またはユーザ操作により任意に指定された1つまたは複数の組み合わせについて、上述のようなマップ表示処理を実行する。なお、触質特徴量の指定は、例えば、ディスプレイ画面に表示されたラベル情報の指定によって行うことが可能である。
図3は、処理実行部14によりディスプレイに表示される画像の一例を示す図である。図3に示すように、処理実行部14は、横軸に第1の触質特徴量P1、縦軸に第2の触質特徴量P2をとった2次元座標をディスプレイの画面上に表示し、触質特徴量記憶部10から読み出した触質特徴量の組み合わせ(P1,P2)で特定されるxy座標に菱形のマークをプロットするとともに、そのプロット点の近傍にラベル情報を表示する。
ユーザは、このマップ表示を見ることにより、プロット点間の距離が近い対象情報どうしは触質特徴量が近似し、プロット点間の距離が遠い対象情報どうしは触質特徴量が類似しないことを直感的に把握することができる。これにより、ある対象情報と触質の特徴が似たもの(または似ていないもの)を容易に探すことが可能となる。また、多種多様な対象情報の中から、触感のリズムが早いもの(または遅いもの)や、触感の多様度が大きいもの(または小さいもの)を容易に探すことも可能である。
図4および図5は、上記のように構成した本実施形態による触質情報処理装置の動作例を示すフローチャートである。図4は、対象情報入力部11により入力された対象情報から触質特徴量を算出して触質特徴量記憶部10に記憶する際の動作例を示す。図5は、触質特徴量記憶部10に記憶された触質特徴量を利用してマップ表示処理を実行する際の動作例を示す。
図4において、まず、対象情報入力部11は、対象情報を入力する(ステップS1)。次に、触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報に対して、必要に応じて前処理を行う(ステップS2)。ここで、前処理とは、波形情報にローパスフィル処理を施すことによってエンベロープを抽出する処理である。
次に、触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報(前処理が行われたものについては、前処理後の情報)を複数に分割し(ステップS3)、それぞれの分割区間から第1の触質点パラメータおよび第2の触質点パラメータを特定することにより、当該第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する(ステップS4)。
さらに、触質特徴量算出部13は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータ(各分割区間Tiにおける代表振幅hiおよび分割区間の時間の長さti)に基づいて、対象情報入力部11により入力された対象情報に関する2種類の触質特徴量(第1の触質特徴量P1および第2の触質特徴量P2)を算出し(ステップS5)、これを触質特徴量記憶部10に記憶させる(ステップS6)。
以上により、1つの対象情報に関する触質特徴量の算出処理が終了する。複数の対象情報について触質特徴量を算出する場合は、図4に示すフローチャートの処理を繰り返し実行する。これにより、触質特徴量記憶部10には、複数の対象情報について算出された第1の触質特徴量P1および第2の触質特徴量P2の組み合わせが、それぞれのラベル情報と共に複数組記憶されることになる。
図5において、処理実行部14は、マップ表示要求のユーザ操作を受け付けたか否かを判定する(ステップS11)。マップ表示要求のユーザ操作を受け付けた場合、処理実行部14は、触質特徴量記憶部10に記憶されている触質特徴量を読み出し(ステップS12)、第1の触質特徴量P1と第2の触質特徴量P2との組み合わせを2次元座標上にマッピングしてラベル情報と共に表示する(ステップS13)。
ここで、ステップS11のマップ表示要求において、マップ表示の対象とするラベル情報が指定された場合、処理実行部14は、その指定に係る触質特徴量だけを2次元座標上にマッピングして表示する。一方、マップ表示の対象とするラベル情報が指定されていない場合、処理実行部14は、触質特徴量記憶部10に記憶されている全ての触質特徴量を2次元座標上にマッピングして表示する。
なお、ここでは、処理実行部14による処理の一例としてマップ表示を説明したが、これに限定されない。例えば、触質特徴量を利用した検索処理を実行することも可能である。図6は、検索処理を実行する場合における触質情報処理装置の機能構成例を示す図である。図6に示す触質情報処理装置は、その機能構成として、類似度算出部15を更に備えている。また、処理実行部14に代えて処理実行部14’を備えている。
類似度算出部15は、複数の対象情報について触質特徴量記憶部10に記憶された複数組の触質特徴量の組み合わせに基づいて、複数の対象情報の類似度を算出する。対象情報の類似度は、当該対象情報に係る触質特徴量の類似度によって算出する。すなわち、2つの触質特徴量の類似度が高ければ、それらの触質特徴量に対応する2つの対象情報どうしは類似度が高いものとする。
例えば、類似度算出部15は、処理実行部14’により図3のように2次元座標上にマッピングされたプロット点の距離を、触質特徴量の類似度を表す指標値として算出することが可能である。別の例として、類似度算出部15は、第1の触質特徴量P1および第2の触質特徴量P2を2変数としてマハラノビス距離を算出し、これを触質特徴量の類似度を表す指標値として用いるようにしてもよい。プロット点間の距離もマハラノビス距離も、距離の値が小さいほど類似度は高く、距離の値が大きいほど類似度は低いことを示す。なお、ここに示した類似度の指標値は一例に過ぎず、他の公知の指標値を用いてもよい。
処理実行部14’は、ユーザ操作により対象情報が指定されたときに、類似度算出部15により算出された触質特徴量の類似度に基づいて、当該指定された対象情報に対する類似度が所定レベル以上(触質特徴量の類似度の指標値である距離が所定値以下)の対象情報を検索する処理を実行する。処理実行部14’は、検索された対象情報に対応するラベル情報を検索結果としてディスプレイ画面に表示する。なお、検索キーとする対象情報の指定は、ディスプレイ画面に表示されたラベル情報の指定によって行うことが可能である。
図7は、図6のように構成した触質情報処理装置の動作例を示す図である。なお、対象情報入力部11により入力された対象情報から触質特徴量を算出して触質特徴量記憶部10に記憶する際の動作は、図4と同様である。図7は、触質特徴量記憶部10に記憶された触質特徴量を利用して検索処理を実行する際の動作例を示す。
図7において、処理実行部14’は、対象情報(ラベル情報)を指定した検索要求のユーザ操作を受け付けたか否かを判定する(ステップS21)。検索表示要求のユーザ操作を受け付けた場合、処理実行部14’は、類似度算出部15に類似度算出の指示を出す。類似度算出部15は、ステップS21で指定された対象情報に対応する触質特徴量を触質特徴量記憶部10から読み出し、触質特徴量記憶部10に記憶されている他の触質特徴量との類似度を算出する(ステップS22)。
次いで、処理実行部14’は、類似度算出部15により算出された触質特徴量の類似度に基づいて、ステップS21で指定された対象情報に対する類似度が所定レベル以上(触質特徴量の類似度が所定値以上)の対象情報を検索する(ステップS23)。そして、処理実行部14’は、検索された対象情報に対応するラベル情報を検索結果としてディスプレイ画面に表示する(ステップS24)。これにより、図7に示すフローチャートの処理は終了する。
なお、上記実施形態では、対象情報入力部11が入力する対象情報の例として波形情報を説明したが、これに限定されない。本実施形態において処理対象として入力可能な情報は、n個(n≧2)の触質点パラメータにより特定される固有の触覚効果を持った情報である。特に、強度に相当する値が連続的または断続的に連なっているもの、あるいは、連なっている状態に変換可能なものであれば、対象情報として入力することが可能である。
上述した波形情報は、強度に相当する振幅が時間軸に沿って連続的(アナログ信号の場合)または断続的(デジタルデータの場合)に連なっている情報であり、本実施形態において扱うことが可能な情報の典型例である。
別の例として、文字列から成るテキスト情報は、これ自体は強度に相当する値が連なっている情報ではないが、詳細を後述するように、そのような情報に変換可能な情報である。よって、テキスト情報も、本実施形態において扱うことが可能な情報の1つである。この場合、第1の触質点パラメータおよび第2の触質点パラメータがそれぞれ何であるかについては後述する。
基本的に、情報量が単一のもの以外は、本実施形態において扱うことが可能な情報と言える。例えば、テキスト情報の場合、“あ”のように1文字のみから成るものは、強度に相当する値が連なっている情報とは言えず、また、これに変換することもできないので、本実施形態の対象外となる。一方、複数の文字から成るテキスト情報であれば、後述するように、強度に相当する値が連なっている情報に変換可能なので、本実施形態において扱うことが可能な情報となる。
音声信号の場合、ある程度の時間的な長さを持ったものであれば、上述の通り本実施形態において扱うことが可能な情報である。一方、一瞬で終わる音の場合、振幅は存在するが、時間軸に沿って複数に分割可能な長さを持たない。そのため、このままでは本実施形態において扱うことが可能な情報ではない。しかし、その瞬時音を周波数解析して周波数軸の信号に変換すると、周波数毎に異なる振幅を持った情報、つまり、強度に相当する振幅が周波数軸に沿って連なった情報となるため、本実施形態において扱うことが可能な情報となる。
音声信号やテキスト情報に限らず、それ以外のあらゆる情報についても同様のことが言える。すなわち、もともと情報量が単一でないものは、強度に相当する値が連なっているものと言えるので、本実施形態において扱うことが可能な情報である。一方、もとは情報量が単一であっても、強度に相当する値が連なっている情報に変換可能なものも、本実施形態において扱うことが可能な情報である。
以下に、対象情報入力部11により入力される対象情報の種類に応じた触質点パラメータの具体的な生成例について説明する。なお、対象情報が波形情報である場合については既に第1例として説明したので、それ以外の情報が対象情報である場合について説明する。
<第2例:ヒストグラム情報の場合>
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報が、周波数の違いに応じて強度が変化するヒストグラム情報である場合、当該ヒストグラム情報を周波数軸方向に複数に分割する。そして、それぞれの分割区間から、分割区間内の代表強度を第1の触質点パラメータとして特定するとともに、分割区間の周波数幅を第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
図8は、ヒストグラム情報を入力した場合における触質点パラメータ生成部12による処理内容の一例を説明するための図である。図8(a)は、対象情報入力部11により入力されたヒストグラム情報を示している。図8(a)に示す通り、ヒストグラム情報は、外形は波形情報と同様である。そのため、波形情報と同様の処理を適用することが可能である。この場合も、前処理として、図8(b)のようにヒストグラム情報のエンベロープを抽出し、当該エンベロープを対象として第1の触質点パラメータおよび第2の触質点パラメータを特定するようにしてもよい。
すなわち、触質点パラメータ生成部12は、まず、図8(a)に示すヒストグラム情報(または図8(b)に示すエンベロープ情報)を周波数軸方向に複数に分割する。図8では一例として、エンベロープの振幅が極小となる時間毎に分割している。すなわち、エンベロープの開始点から1つ目の極小値までを第1の分割区間F1、1つ目の極小値から2つ目の極小値までを第2の分割区間F2、2つ目の極小値から3つ目の極小値までを第3の分割区間F3、・・・のように、ヒストグラム情報を周波数軸方向に複数に分割している。ただし、分割法はこれに限定されない。
触質点パラメータ生成部12は、それぞれの分割区間F1,F2,F3,・・・から、第1の触質点パラメータとして代表強度h1,h2,h3,・・・を特定するとともに、第2の触質点パラメータとして分割区間の周波数幅f1,f2,f3,・・・を特定する。ここで、代表強度h1,h2,h3,・・・は、それぞれの分割区間F1,F2,F3,・・・における極大値を示している。ただし、代表強度の取り方はこれに限定されない。
<第3例:空間分布情報の場合>
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報が、位置または領域の違いに応じて強度が変化する空間分布情報である場合、当該空間分布情報を位置または領域に応じて複数に分割する。そして、それぞれの分割区間から、分割区間内の代表強度を第1の触質点パラメータとして特定するとともに、分割区間の終始点間の長さまたは面積を第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
空間分布情報の一例として、画像情報が挙げられる。画像情報は、画素の位置または複数の画素群から成る領域に応じて、強度の要素を有する色情報や輝度情報が変化する情報である。触質点パラメータ生成部12は、このような画像情報を、画素の位置または画素群の領域に応じて複数に分割し、それぞれの分割区間から第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを生成する。
図9は、画像情報を入力した場合における触質点パラメータ生成部12による処理内容の一例を説明するための図である。図9(a)に示す画像情報は、縦横が様々な大きさのメッシュ状に分割されたパターン画像の例を示している。第3例は、このようなパターン画像から第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを生成するのに適している。
触質点パラメータ生成部12は、まず、図9(a)に示すパターン画像をメッシュの領域に応じて複数に分割する。図9(a)では一例として、最も左上のメッシュを第1の分割区間A1、その右側のメッシュを第2の分割区間A2、更にその右側のメッシュを第3の分割区間A3、・・・としていき、右端までいったら1つの下の段に降りて左端から右端に向かって順に分割していく。これを最も右下のメッシュまで行うことにより、パターン画像の全体を各メッシュの領域に応じて複数に分割している。
触質点パラメータ生成部12は、それぞれの分割区間A1,A2,A3,・・・から、第1の触質点パラメータとして代表強度h1,h2,h3,・・・を特定するとともに、第2の触質点パラメータとして分割区間の面積a1,a2,a3,・・・を特定する。ここで、代表強度h1,h2,h3,・・・は、それぞれの分割区間A1,A2,A3,・・・における彩度、明度または輝度の何れかの平均値などを用いることが可能である。
なお、ここでは、複数のメッシュが縦横に区切られた2次元のパターン画像の例を示したが、図9(b)のような1次元のパターン画像(縦方向は1画素、横方向は複数画素のライン画像)であってもよい。この場合、触質点パラメータ生成部12は、それぞれの分割区間A1,A2,A3,・・・から、第2の触質点パラメータとして、分割区間の始点から終点までの長さ(画素数に相当)を特定すればよい。
<第4例:周波数スペクトル情報の場合>
対象情報入力部11により入力された画像情報が、図9に示したシンプルなパターン画像ではなく、写真や絵画のような複雑な画像情報の場合、第3例を適用するのは難しい。このような画像情報を処理対象とする場合、触質点パラメータ生成部12は、前処理として画像情報を周波数スペクトル情報に変換し、その周波数スペクトル情報から第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
すなわち、触質点パラメータ生成部12は、対象情報入力部11により入力された画像情報を分析して強度−周波数分布の周波数スペクトル情報を生成した後、当該周波数スペクトル情報を周波数軸方向に複数に分割し、それぞれの分割区間から、分割区間内の代表強度を第1の触質点パラメータとして特定するとともに、分割区間の周波数幅を第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
この場合における具体的な処理例は、図8を用いて説明した第2例と同様なので、説明を割愛する。なお、画像情報の他に、音声信号に対してもこの第4例を適用することが可能である。上述したように、一瞬で終わる単発の音の場合は、第1例を適用することができない。しかし、第4例を適用することは可能である。すなわち、瞬時音を分析して強度−周波数分布の周波数スペクトル情報を生成することにより、その周波数スペクトル情報から第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成することが可能である。
<第5例:テキスト情報の場合>
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報がテキスト情報である場合、テキスト情報を形態素解析してセンテンス毎に分割するとともに、各センテンス内を分節毎に区切り、各文節の音素数を特定する。そして、それぞれのセンテンスから、センテンス内の代表音素数の逆数を強度とみなして第1の触質点パラメータとして特定するとともに、センテンス内の文節数を第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
図10は、テキスト情報を入力した場合における触質点パラメータ生成部12による処理内容の一例を説明するための図である。図10は、対象情報入力部11により入力されたテキスト情報にカナを併記したものを示している。図10に示す例において入力されたテキスト情報は、「今日は日曜日。私は今日学校に行きました。」という文章の文字列から成る情報である。
触質点パラメータ生成部12は、まず、「今日は日曜日。私は今日学校に行きました。」という文章のテキスト情報をセンテンス毎に分割する。すなわち、「今日は日曜日」および「私は今日学校に行きました」の2つに分割する。1つ目のセンテンスが第1の分割区間B1、2つ目のセンテンスが第2の分割区間B2となる。
次に、触質点パラメータ生成部12は、それぞれのセンテンスを形態素解析し、各センテンス内を分節毎に区切り、各文節の音素数を特定する。すなわち、第1の分割区間B1に関しては、センテンスを「今日は」および「日曜日」の2つの文節に区切る。そして、1つ目の文節「キョウハ」の音素数を“3”と特定し、2つ目の文節「ニチヨウビ」の音素数を“5”と特定する。同様に、第2の分割区間B2に関しては、センテンスを「私は」、「今日」、「学校に」および「行きました」の4つの文節に区切る。そして、各文節の音素数をそれぞれ“4”、“2”、“5”、“5”と特定する。
そして、触質点パラメータ生成部12は、第1の分割区間B1および第2の分割区間B2のそれぞれから、分割区間内の代表音素数の逆数を強度とみなして、これを第1の触質点パラメータとして特定する。代表音素数は、例えば、分割区間内で最小の音素数、最大の音素数、または平均音素数とすることが可能である。例えば、平均音素数を用いる場合、第1の分割区間B1の平均音素数は“4”であり、これの逆数を第1の触質点パラメータとして特定する。また、第2の分割区間B2の平均音素数も“4”であり、これの逆数を第1の触質点パラメータとして特定する。
また、触質点パラメータ生成部12は、第1の分割区間B1および第2の分割区間B2のそれぞれから、文節数を第2の触質点パラメータとして特定する。すなわち、第1の分割区間B1については文節数“2”を第2の触質点パラメータとして特定し、第2の分割区間B2については文節数“4”を第2の触質点パラメータとして特定する。
<第6例:動作情報の場合>
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報が、人の動きを表す一連の動作情報である場合、当該一連の動作情報を一動作毎に分割する。そして、それぞれの動作から、当該動作による加圧力、速度、加速度または人体の到達高さに関する代表値を強度とみなし第1の触質点パラメータとして特定するとともに、一動作にかかる時間の長さを第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
人の動きを表す一連の動作情報の一例として、マッサージの施術の動きを表した動作情報が挙げられる。図11は、マッサージの動作情報を入力した場合における触質点パラメータ生成部12による処理内容の一例を説明するための図である。マッサージは、複数の手技の組み合わせで行われる。そして、1つの手技は、圧力を所定時間加えることによって成される。
したがって、このようなマッサージの施術の動きを表した動作情報は、図11に示すように、横軸を時間軸とし、縦軸を圧力として描かれる棒グラフのような情報で表すことができる。なお、隣接する棒グラフの間が開いている箇所は、2つの手技が時間を置いて行われることを意味する。また、隣接する棒グラフの間が接続している箇所は、2つの手技が時間を置かずに連続して行われることを意味する。例えば、表面に圧力センサを備えた人型の人形等に対して実際にマッサージを施術すると、図11に示すようなセンサ情報が得られるので、これを対象情報入力部11への入力とすることが可能である。
触質点パラメータ生成部12は、対象情報入力部11により入力される、複数の手技の組み合わせから成る一連の動作情報を、1つ1つの手技(一動作)毎に分割する。図11のイメージで説明すると、1つ1つの棒グラフに分割することに相当する。この場合、1つの手技(棒グラフ)が1つの分割区間に相当する。すなわち、1つ目の手技を第1の分割区間M1,2つ目の手技を第2の分割区間M2、3つ目の手技を第3の分割区間M3、・・・のように、一連の動作情報を手技毎に分割していく。
そして、触質点パラメータ生成部12は、それぞれの分割区間M1,M2,M3,・・・から、当該分割区間M1,M2,M3,・・・の手技による加圧力p1,p2,p3,・・・を第1の触質点パラメータとして特定するとともに、各手技を行うの要する所要時間の長さt1,t2,t3,・・・を第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
また、人の動きを表す一連の動作情報の別の例として、モーションキャプチャで捉えた動作情報が挙げられる。モーションキャプチャによる動作情報は、人の動きをデジタル的に記録した動画情報として提供される。触質点パラメータ生成部12は、この動画情報を画像解析して、人の特定部位(例えば、手)の動きの開始点を特定し、その開始点に手が戻ってくるまでの動きを一動作として捉える。そして、一連の動作情報を一動作毎に分割する。この場合、手が開始点に戻ってくるまでの一動作が1つの分割区間に相当する。
そして、触質点パラメータ生成部12は、それぞれの分割区間から、当該分割区間の動作による速度、加速度または人体の到達高さに関する代表値を強度とみなし、これを強度に関する第1の触質点パラメータとして特定する。例えば、動作の速度の代表値を第1の触質点パラメータとする場合、一動作の中の最大速度、最小速度または平均速度を代表値として用いることが可能である。また、人体の到達高さの代表値を第1の触質点パラメータとする場合、例えば手を動かして動作したときの床からの最高点を代表値として用いることができる。また、触質点パラメータ生成部12は、一動作にかかる時間の長さを第2の触質点パラメータとして特定する。
<第7例:動画情報の場合>
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報が動画情報である場合、当該動画情報をオプティカルフロー解析してフレーム画像間の変位量を演算することにより、時間の経過と共に変位量が変化する波形情報に変換する。そして、当該波形情報を時間軸方向に複数に分割し、それぞれの分割区間から、分割区間内の代表強度を第1の触質点パラメータとして特定するとともに、分割区間の時間の長さを第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを1組以上生成する。
動画情報は、上述したモーションキャプチャによる動作情報を含む、任意の動画情報である。オプティカルフロー解析は、公知の方法を適用することが可能である。まず、時間t1における1番目のフレーム画像と、時間t2における2番目のフレーム画像との差分であるオプティカルフロー値を求める。ここで、各画素に対して求まるx,y方向のオプティカルフロー値をFx,Fyとした場合、例えば(Fx2+Fy2)/2の値を画素毎に求め、さらに全画素における平均値を求めることにより、この平均値を時間t2における変位量とする。
次に、時間t2における2番目のフレーム画像と、時間t3における3番目のフレーム画像との間で、x,y方向のオプティカルフロー値Fx,Fyをもとに(Fx2+Fy2)/2の値を画素毎に求め、さらに全画素における平均値を求めることにより、この平均値を時間t3における変位量とする。以降も同様にしてフレーム毎に変位量を求めることにより、時間の経過と共に変位量が変化する波形情報が得られる。このようにして波形情報を得た後の処理は、図2を用いて説明した第1例と同様なので、説明を割愛する。
以上詳しく説明したように、本実施形態では、処理対象とする対象情報から、それぞれが触感の一要素を表した2個の触質点パラメータ(第1の触質点パラメータおよび第2の触質点パラメータ)の組み合わせを2組以上生成し、さらに、当該2組以上の触質点パラメータに基づいて、対象情報に関する2種類の触質特徴量(第1の触質特徴量および第2の触質特徴量)を算出し、当該2種類の触質特徴量の組み合わせをラベル情報と共に記憶する。そして、記憶された触質特徴量の組み合わせを用いて、ユーザ操作に応じた処理を実行し、その実行結果をラベル情報と共にユーザに提供するようにしている。
このように構成した本実施形態によれば、処理対象として入力された対象情報から、触感の一要素を表した触質点パラメータを基にした触質特徴量が生成される。触質特徴量は、入力された対象情報が潜在的に持っている触覚の性質を表したものと言える。本実施形態によれば、この触質特徴量を用いて、ユーザ操作に応じた処理を実行し、その触質特徴量に対応する対象情報のラベル情報と共に処理の実行結果をユーザに提供することが可能である。これにより、対象情報に対応する触覚を情報伝達メディアとして有効に利用することができる。
例えば、多種多様な情報を触質特徴量に変換してデータベース化することにより、触質特徴量を検索キーとして、当該検索キーと同一または類似の触質を持った情報を検索することが可能である。このようにすれば、元の情報は全く異なる種類のものであっても、触感として同様のイメージを有するものを逆引きすることが可能となる。例えば、お気に入りの楽曲がある場合に、その楽曲と似た感覚の他の楽曲を検索するといった使い方が可能である。
また、多種多様な情報から生成した触質特徴量の類似度を判定し、分類を与えることも可能である。このようにして分類した各種情報を、分類毎に閲覧にしたり、分類による絞り込み検索をしたりすることも可能である。
なお、上記実施形態では、n=2とし、2個の触質点パラメータとして、情報の強度に関する第1の触質点パラメータと、情報の分割区間の長さに関する第2の触質点パラメータとを生成する例について説明したが、nは3以上であってもよい。また、上記実施形態では、情報の強度に関する第1の触質点パラメータと、情報の分割区間の長さに関する第2の触質点パラメータとの両方を生成する例について説明したが、何れか一方のみとしてもよい。
すなわち、触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報を複数に分割し、それぞれの分割区間から、情報の強度に関する第1の触質点パラメータおよび分割区間の長さに関する第2の触質点パラメータの少なくとも一方を用いて、n個(n≧2)の触質点パラメータを特定することにより、n個の触質点パラメータの組み合わせを2組以上生成することが可能である。
例えば、n=3とする場合、第1の触質点パラメータを1個または2個生成するとともに、第2の触質点パラメータを2個または1個生成するといったことが可能である。あるいは、第1の触質点パラメータとして異なるものを3個生成するようにしてもよいし、第2の触質点パラメータとして異なるものを3個生成するようにしてもよい。
情報の強度に関する第1の触質点パラメータだけでn個の触質点パラメータを生成する場合、例えば、対象情報入力部11によりn種の対象情報を入力するようにする。そして、触質点パラメータ生成部12は、入力されたn種の対象情報をそれぞれ複数に分割し、n種の対象情報のそれぞれの分割区間から、第1の触質点パラメータを1個ずつ特定することにより、n個の第1の触質点パラメータの組み合わせを2組以上生成する。
一例として、対象情報入力部11が、心拍、加速度(身体の動き)、血流量の3種の情報に関して以下のようなデジタル値を対象情報として入力したとする。
心拍 :79,60,79,75,74,79,75
加速度:40,10,30,40,35,40,20
血流量:80,60,40,60,80,60,80
この場合、触質点パラメータ生成部12は、入力された3種の対象情報をそれぞれ入力値ごとに分割し、3種の対象情報のそれぞれの分割区間から、第1の触質点パラメータを特定することにより、3個の第1の触質点パラメータの組み合わせを以下のように生成する。
{79,40,80},{60,10,60},{79,30,40},・・・
また、情報の分割区間の長さに関する第2の触質点パラメータだけでn個の触質点パラメータを生成する場合も、例えば、対象情報入力部11によりn種の対象情報を入力するようにする。そして、触質点パラメータ生成部12は、入力されたn種の対象情報をそれぞれ複数に分割し、n種の対象情報のそれぞれの分割区間から、第2の触質点パラメータを1個ずつ特定することにより、n個の第2の触質点パラメータの組み合わせを2組以上生成する。
一例として、対象情報入力部11が、心拍、加速度、血流量の3種の情報に関して、上記と同様のデジタル値を入力したとする。この場合、触質点パラメータ生成部12は、例えば、同じ値が入力されるまでを単位として3種の対象情報をそれぞれ分割し、3種の対象情報のそれぞれの分割区間から、第2の触質点パラメータを特定することにより、3個の第2の触質点パラメータの組み合わせを生成する。
上記の例の場合、心拍に関して、最初の“79”と同じ値が次に現れるのは2つ後、その次に同じ値が現れるのは更に3つ後なので、分割区間の長さは2,3となる。加速度に関して、最初の“40” と同じ値が次に現れるのは3つ後、その次に同じ値が現れるのは更に2つ後なので、分割区間の長さは3,2となる。血流量に関して、最初の“80”と同じ値が次に現れるのは4つ後、その次に同じ値が現れるのは更に2つ後なので、分割区間の長さは4,2となる。これにより、3個の第2の触質点パラメータの組み合わせは以下のようになる。
{2,3,4},{3,2,2},・・・
このように、3個の触質点パラメータを生成した場合、触質特徴量算出部13は、当該3個の触質点パラメータを用いた四則演算値を算出し、同じ四則演算値が出現する区間の長さを第1の触質特徴量P1として算出するとともに、四則演算値の多様度を第2の触質特徴量P2として算出する。この場合における四則演算の内容は、任意に定めることが可能である。
なお、ここでは、3個の触質点パラメータを生成する具体例として、複数種類の触質変換対象の情報としてデジタル値を入力する例について説明したが、アナログ信号を入力するようにしてもよいことは言うまでもない。この場合、強度に関する触質点パラメータおよび分割区間の長さに関する触質点パラメータの生成法は、上記実施形態で説明した方法を適用することが可能である。
また、ここでは、強度に関する触質点パラメータ、あるいは分割区間の長さに関する触質点パラメータの何れか一方のみを、複数種類の対象情報から生成する例について説明したが、1種類の対象情報から生成するようにしてもよい。例えば、上記実施形態と同様にして1種類の対象情報を複数の区間に分割し、それぞれの分割区間から、強度に関する触質点パラメータを複数生成するようにしてもよい(例えば、強度の最大値と最小値をそれぞれ触質点パラメータとするなど)。また、1種類の対象情報を複数の区間に分割する際に、異なる方法に従って複数の区間に分割し、それぞれの方法で分割した分割区間の長さを触質点パラメータとするようにしてもよい。
また、ここでは、複数種類の対象情報から、強度に関する触質点パラメータだけ、あるいは分割区間の長さに関する触質点パラメータだけを生成する例について説明したが、本発明はこれに限定されない。例えば、複数種類の対象情報から、強度に関する触質点パラメータおよび分割区間の長さに関する触質点パラメータの両方を組み合わせて生成するようにしてもよい。
また、上記実施形態では、複数の分割区間ごとにn個の四則演算値(hi/tiの値)を算出し、同じ四則演算値が出現する区間の長さを第1の触質特徴量P1として算出する例について説明したが、本発明はこれに限定されない。例えば、それぞれの分割区間ごとにn個の触質点パラメータを用いた四則演算値を算出し、当該分割区間ごとに算出した複数の四則演算値のm階差分値(m≧1)の平均値または代表値(最大値、最小値または中央値など)を第1の触質特徴量P1としてもよい。具体例として、それぞれの分割区間ごとにn個の四則演算値(hi/tiの値)を算出し、当該分割区間ごとに算出した複数の四則演算値の1階差分値{(h2/t2−h1/t1),(h3/t3−h2/t2),・・・}の平均値を第1の触質特徴量P1とすることが考えられる。
また、上記実施形態では、複数の分割区間ごとに算出した複数の四則演算値(hi/tiの値)の分散を多様度(第2の触質特徴量P2)の一例として算出する例について説明したが、本発明はこれに限定されない。例えば、分割区間ごとに算出した複数の四則演算値の最小値から最大値までのレンジ、または当該レンジと中央値との組を第2の触質特徴量P2として算出するようにしてもよい。あるいは、分割区間ごとに算出した複数の四則演算値の情報量を第2の触質特徴量P2として算出するようにしてもよい。ここで、情報量の一例としては、次式により算出されるエントロピーH(シャノンの平均情報量)とすることが可能である。ここでp(ei)は、各四則演算値の生起確率を示す。
H=−Σp(ei)log2p(ei) (i=1〜n)
例えば、複数の分割区間ごとに算出した複数の四則演算値(hi/tiの値)が以下の通りであったとする。
20,18,1,9,11,1,1,1,38,38,1,16
この場合、分散は191.8、レンジは37、中央値は16、 エントロピーは0.48となる。触質特徴量算出部13は、このように算出される分散、レンジと中央値との組、またはエントロピーを、四則演算値の多様度を表す第2の触質特徴量P2として用いることが可能である。
なお、レンジと中央値との組を第2の触質特徴量P2として用いる場合、第2の触質特徴量P2として2つの値が存在することになる。第1の触質特徴量P1を合わせると、3つの値が存在することになる。よって、これをそのままの形で、横軸(x軸)に第1の触質特徴量P1、縦軸(y軸)に第2の触質特徴量P2をとった2次元座標にプロットすることはできない。そこで、例えば、レンジと中央値とを用いて四則演算を行うことによって1つの値に置換し、これをy座標の値として用いるようにすることが考えられる。あるいは、x軸に第1の触質特徴量P1、y軸に1つ目の第2の触質特徴量P2であるレンジ、z軸に2つ目の第2の触質特徴量P2である中央値をとった3次元座標に所定のマークをプロットするようにしてもよい。
また、上記実施形態では、四則演算値の多様度を第2の触質特徴量として算出する例について説明したが、本発明はこれに限定されない。例えば、触質特徴量算出部13は、分割区間ごとに算出した複数の四則演算値のm階差分値(m≧1)を更に算出し、上述した四則演算値に代えてm階差分値を用いるようにしてもよい。すなわち、同じm階差分値が出現する区間の長さを第1の触質特徴量P1として算出するとともに、m階差分値の多様度を第2の触質特徴量P2として算出するようにしてもよい。
例えば、複数の分割区間ごとに算出した複数の四則演算値(hi/tiの値)が以下の通りであったとする。
20,18,1,9,11,1,1,1,38,38,1,16
この場合、1階差分値(m=1)の絶対値は以下の通りとなる。
2,17,8,2,10,0,0,37,0,37,15
また、2階差分値(m=2)の絶対値は以下の通りとなる。
15,9,6,8,10,0,37,37,37,22
触質特徴量算出部13は、このように算出される複数のm階差分値の多様度を第2の触質特徴量P2として用いてもよい。m階差分値の多様度を第2の触質特徴量P2として算出する場合も、多様度として、複数のm階差分値の分散、レンジ、レンジと中央値との組、またはエントロピーを用いることが可能である。
このように、m階差分値を用いるのは、触質点パラメータの四則演算値の変化の仕方が触質に影響するからである。例えば、m階差分値に大きな値が含まれる場合は、触質に大きな変化があり、触質は硬くなることを意味する。一方、m階差分値に小さな値が含まれる場合は、触質に小さな変化があり、触質は柔らかくなることを意味する。
また、上記実施形態では、2種類の触質特徴量の組み合わせを算出する例について説明したが、3種類以上の触質特徴量の組み合わせを算出するようにしてもよい。例えば、3種類の触質特徴量を算出した場合、これを用いたマップ表示は、3次元座標情報へのプロット点の表示によって行うことが可能である。3種類目の触質特徴量としては、例えば、分割区間の長さの平均値(最小値または最大値であってもよい)を用いることが可能である。この分割区間の長さの平均値等は、対象情報が潜在的に持っている触感のテンポを表していると言える。
または、触質特徴量算出部13は、上述したように、分割区間ごとに算出した複数の四則演算値のm階差分値(m≧1)を更に算出し、m階差分値の多様度を第3の触質特徴量として更に算出するようにしてもよい。すなわち、同じ四則演算値が出現する区間の長さを第1の触質特徴量とし、四則演算値の多様度を第2の触質特徴量とし、m階差分値の多様度を第3の触質特徴量として用いるようにしてもよい。m階差分値の多様度を第3の触質特徴量として算出する場合も、多様度として、複数のm階差分値の分散、レンジ、レンジと中央値との組、またはエントロピーを用いることが可能である。
例えば、ある2つの対象情報1,2について複数の分割区間ごとに算出した複数の四則演算値(hi/tiの値)が、それぞれ以下の通りであったとする。
対象情報1):1,2,100,1,2,100
対象情報2):1,2,3,1,2,3
この場合、同じ四則演算値が出現するまでの区間数を第1の触質特徴量P1、四則演算値のエントロピーを第2の触質特徴量P2とすると、対象情報1,2の何れもP1=3、P2=log23(=−3×(1/3)log2 (1/3))となる。
これに対して、四則演算値の1階差分値を更に算出し、当該1階差分値のレンジを第3の触質特徴量P3として算出すると、対象情報1,2における第3の触質特徴量P3はそれぞれ以下のようになる。
対象情報1):P3=98
(1階階差分値の絶対値:1,98,99,1,98)
対象情報2:P3=1
(1階階差分値の絶対値:1,1,2,1,1)
このように、第1の触質特徴量P1および第2の触質特徴量P2が共に同じ値となる対象情報どうしであっても、第3の触質特徴量P3を加えることによって、触質特徴量に差を出すことが可能となる。
また、上記実施形態では、触質特徴量算出部13により算出された触質特徴量をラベル情報と共に触質特徴量記憶部10に記憶する例について説明したが、これに加えて、対象情報入力部11により入力された対象情報も関連付けて記憶するようにしてもよい。この場合、例えばマップ表示されたプロット点またはラベル情報をクリックしたり、検索結果として表示されたラベル情報をクリックしたりすることにより、対応する対応情報を再生できるようにしてもよい。
また、上記実施形態では、触質特徴量算出部13により算出された触質特徴量をラベル情報と共に触質特徴量記憶部10に記憶させ、処理実行部14,14’による処理の実行結果をラベル情報と共にユーザに提供する例について説明したが、ラベル情報はなくてもよい。
例えば、図1の処理実行部14は、図3に示したようなマップにおいて、各プロット点をラベル情報なしで表示させ、ユーザが所望のプロット点をマウス操作またはタッチパネル操作などにより指定したときに、指定されたプロット点に対応する対象情報そのものを提供するように構成してもよい。また、図6の処理実行部14’は、ユーザ操作により指定された対象情報に対する触質特徴量の類似度が所定レベル以上のものとして検索された対象情報そのものを、検索結果として提供するように構成してもよい。
ここで、対象情報そのものを提供する処理とは、例えば対象情報が音声信号のように聴取可能なものの場合に、当該音声信号をスピーカから出力する処理や、音声信号を触質情報処理装置の外部の記憶媒体に記録する処理、音声信号を触質情報処理装置の外部のネットワークに送信する処理などをいう。例えば、本実施形態の触質情報処理装置を、音声再生機能を備えた機器に内蔵させ、触質情報処理装置により検索された音声信号を当該機器のスピーカから出力したり、当該機器に装着されたリムーバルメモリに記録したり、当該機器に通信ネットワークを介して接続された外部装置に送信したりする形態が考えられる。
また、対象情報そのものを提供する処理とは、例えば対象情報が映像信号のように表示可能なものの場合に、当該映像信号をディスプレイに表示する処理や、映像信号を触質情報処理装置の外部の記憶媒体に記録する処理、映像信号を触質情報処理装置の外部のネットワークに送信する処理などをいう。例えば、本実施形態の触質情報処理装置を、映像再生機能を備えた機器に内蔵させ、触質情報処理装置により検索された映像信号を当該機器のディスプレイに表示させたり、当該機器に装着されたリムーバルメモリに記録したり、当該機器に通信ネットワークを介して接続された外部装置に送信したりする形態が考えられる。
また、対象情報そのものを提供する処理とは、例えば対象情報が振動信号の場合に、振動を出力することによって所与の効果を与える機器(例えば、マッサージ器、美顔器、振動アラーム、電動歯ブラシ、ゲーム機のコントローラ、振動フィードバック付きタッチパネルなど)に対して、検索結果の振動信号を出力する処理などをいう。例えば、本実施形態の触質情報処理装置を、振動付与機能を備えた機器(例えば、上記した何れかの機器)に内蔵させ、触質情報処理装置により検索された振動信号を当該機器の振動付与体に供給する形態が考えられる。
また、上記実施形態では、触質特徴量算出部13は、それぞれの分割区間ごとにn個の触質点パラメータを用いた四則演算値を算出し、この四則演算値を用いて触質特徴量を算出する例について説明したが、本発明はこれに限定されない。例えば、触質特徴量算出部13は、第1の触質点パラメータと第2の触質点パラメータとの組み合わせで同じものが現れる区間の長さを第1の触質特徴量として算出するとともに、第1の触質点パラメータと第2の触質点パラメータとの組み合わせの多様度を第2の触質特徴量として算出するようにしてもよい。
また、上記実施形態では、触質特徴量算出部13が、触質点パラメータ生成部12により生成された2組以上の触質点パラメータに基づいて、対象情報に関する複数種類の触質特徴量を算出する例について説明したが、本発明はこれに限定されない。例えば、触質点パラメータに代えて、以下に述べる触質パラメータに基づいて、対象情報に関する複数種類の触質特徴量を算出するようにしてもよい。
図12は、触質パラメータに基づいて触質特徴量を算出する場合における触質情報処理装置の機能構成例を示す図である。ここで、図12(a)は、図1に対する変形例を示し、図12(b)は、図6に対する変形例を示している。この図12において、図1および図6に示した符号と同一の符号を付したものは同一の機能を有するものであるので、ここでは重複する説明を省略する。
触質パラメータ生成部16は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータについて、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、n個の触質パラメータの組み合わせを2組以上生成する。触質特徴量算出部13’は、触質パラメータ生成部16により生成された触質パラメータを用いて、上記実施形態で説明した触質特徴量を算出する。
すなわち、n=2の場合、触質パラメータ生成部16は、2つの組間で、第1の触質点パラメータどうしの差分値を計算することによって第1の触質パラメータを生成するとともに、第2の触質点パラメータどうしの差分値を計算することによって第2の触質パラメータを生成する。この計算を複数の組み合わせで順次行うことにより、第1の触質パラメータと第2の触質パラメータとの組み合わせを2組以上生成する。
例えば、触質点パラメータ生成部12により生成された2組以上の触質点パラメータが、{p11,p21},{p12,p22},{p13,p23}の3組であったとする。ここで、p11,p12,p13が第1の触質点パラメータ、p21,p22,p23が第2の触質点パラメータである。この場合、触質パラメータ生成部16は、{p11,p21}および{p12,p22}の2つの組間で触質点パラメータの差分値を計算するとともに、{p12,p22},{p13,p23}の2つの組間で触質点パラメータの差分値を計算することにより、次のような2組の触質パラメータを生成する。
{p12−p11,p22−p21},{p13−p12,p23−p22}
以下に、触質パラメータ生成部16により生成される触質パラメータについて、より具体的に説明する。例えば、対象情報入力部11により入力された対象情報が、図2に例示した波形情報の場合、触質パラメータ生成部16は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータ{h1,t1},{h2,t2},{h3,t3},・・・について、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、次に示すような第1の触質パラメータと第2の触質パラメータとの組み合わせを2組以上生成する。
{h2−h1,t2−t1},{h3−h2,t3−t2},・・・
また、対象情報入力部11により入力された対象情報が、図8に例示したヒストグラム情報である場合、触質パラメータ生成部16は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータ{h1,f1},{h2,f2},{h3,f3},・・・について、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、次に示すような第1の触質パラメータと第2の触質パラメータとの組み合わせを2組以上生成する。
{h2−h1,f2−f1},{h3−h2,f3−f2},・・・
また、対象情報入力部11により入力された対象情報が、図9に例示した空間分布情報である場合、触質パラメータ生成部16は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータ{h1,a1},{h2,a2},{h3,a3},・・・について、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、次に示すような第1の触質パラメータと第2の触質パラメータとの組み合わせを2組以上生成する。
{h2−h1,a2−a1},{h3−h2,a3−a2},・・・
また、対象情報入力部11により入力された対象情報が、図10に例示したテキスト情報である場合、触質パラメータ生成部16は、触質点パラメータ生成部12により生成された2組の触質点パラメータ{1/4,2},{1/4,4}について、触質点パラメータの差分値を計算することにより、{0,2}という第1の触質パラメータと第2の触質パラメータとの組み合わせを1組生成する。テキスト情報がこれよりも長文の場合は、第1の触質パラメータと第2の触質パラメータとの組み合わせを2組以上生成することが可能である。
また、対象情報入力部11により入力された対象情報が、図11に例示した動作情報(マッサージの施術の動き情報)である場合、触質パラメータ生成部16は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータ{p1,t1},{p2,t2},{p3,t3},・・・について、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、次に示すような第1の触質パラメータと第2の触質パラメータとの組み合わせを2組以上生成する。
{p2−p1,t2−t1},{p3−p2,t3−t2},・・・
また、上記実施形態では、類似度算出部15が、複数の対象情報について触質特徴量記憶部10に記憶された複数組の触質特徴量の組み合わせに基づいて、複数の対象情報の類似度を算出し、処理実行部14’が、ユーザ操作により指定された対象情報に対する類似度が所定レベル以上の対象情報を検索する例について説明したが、本発明はこれに限定されない。
例えば、処理実行部14’は、ユーザ操作により指定された対象情報に対する類似度が所定レベル以下の対象情報を検索するようにしてもよい。このようにすれば、触質特徴量を検索キーとして、当該検索キーと異質の触質を持った情報を検索することが可能である。これにより、例えば、元の情報が同じ種類のものであっても、触感として異なるイメージを有するものを逆引きすることが可能となる。例えば、聞き飽きた楽曲がある場合に、その楽曲と異なる感覚の他の楽曲を検索するといった使い方が可能である。
また、図13に示すように、類似度算出部15に代えて、複数の対象情報について触質特徴量記憶部10に記憶された複数組の触質特徴量の組み合わせに基づいて、複数の対象情報の異質度を算出する異質度算出部17を備えるようにし、処理実行部14”が、ユーザ操作により指定された対象情報に対する異質度が所定レベル以上または所定レベル以下の対象情報を検索するようにしてもよい。
ここで、異質度算出部17は、処理実行部14”により図3のように2次元座標上にマッピングされたプロット点の距離を、触質特徴量の異質度を表す指標値として算出することが可能である。プロット点間の距離を異質度として算出する場合、距離の値が大きいほど異質度は高く、距離の値が小さいほど異質度は低いことを示す。
別の例として、異質度算出部17は、第1の触質特徴量および第2の触質特徴量を2変数としてマハラノビス距離の逆数を算出し、これを触質特徴量の異質度を表す指標値として用いるようにしてもよい。マハラノビス距離の逆数は、その値が小さいほど異質度は高く、値が大きいほど異質度は低いことを示す。なお、ここに示した異質度の指標値は一例に過ぎず、他の公知の指標値を用いてもよい。
その他、上記実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
10 触質特徴量記憶部
11 対象情報入力部
12 触質点パラメータ生成部
13,13’ 触質特徴量算出部
14,14’,14” 処理実行部
15 類似度算出部
16 触質パラメータ生成部
17 異質度算出部

Claims (11)

  1. 処理対象の情報を入力する対象情報入力部と、
    上記対象情報入力部により入力された対象情報から、それぞれが触感の一要素を表したn個(n≧2)の触質点パラメータの組み合わせを2組以上生成する触質点パラメータ生成部と、
    上記触質点パラメータ生成部により生成された2組以上の触質点パラメータに基づいて、上記対象情報が有している触覚の性質を表した触質特徴量を上記n個の触質点パラメータの組み合わせから算出し、かつ当該触質特徴量を複数種類算出する触質特徴量算出部と、
    上記触質特徴量算出部により算出された上記複数種類の触質特徴量の組み合わせを記憶する触質特徴量記憶部と、
    上記触質徴量記憶部に記憶された上記触質特徴量の組み合わせを用いて、ユーザ操作に応じた処理を実行し、その実行結果をユーザに提供する処理実行部とを備えたことを特徴とする触質情報処理装置。
  2. 上記処理実行部は、上記ユーザ操作によるマップ表示要求に応じて、上記触質特徴量記憶部に記憶された上記触質特徴量の組み合わせを、所定の座標空間上にマッピングして表示する処理を実行することを特徴とする請求項1に記載の触質情報処理装置。
  3. 上記触質特徴量記憶部は、上記触質特徴量算出部により算出された上記複数種類の触質特徴量の組み合わせを、当該対象情報を識別可能なラベル情報と共に記憶し、
    上記処理実行部は、上記触質徴量記憶部に記憶された上記触質特徴量の組み合わせを用いて、上記ユーザ操作に応じた処理を実行し、その実行結果を上記ラベル情報と共にユーザに提供することを特徴とする請求項1に記載の触質情報処理装置。
  4. 上記処理実行部は、上記ユーザ操作によるマップ表示要求に応じて、上記触質特徴量記憶部に記憶された上記触質特徴量の組み合わせを、上記所定の座標空間上にマッピングして上記ラベル情報と共に表示することを特徴とする請求項3に記載の触質情報処理装置。
  5. 複数の上記対象情報について上記触質特徴量記憶部に記憶された複数組の上記触質特徴量の組み合わせに基づいて、上記複数の対象情報の類似度を算出する類似度算出部を更に備え、
    上記処理実行部は、上記ユーザ操作により指定された上記対象情報に対する類似度が所定レベル以上または所定レベル以下の対象情報を検索する処理を実行することを特徴とする請求項1に記載の触質情報処理装置。
  6. 複数の上記対象情報について上記触質特徴量記憶部に記憶された複数組の上記触質特徴量の組み合わせに基づいて、上記複数の対象情報の異質度を算出する異質度算出部を更に備え、
    上記処理実行部は、上記ユーザ操作により指定された上記対象情報に対する異質度が所定レベル以上または所定レベル以下の対象情報を検索する処理を実行することを特徴とする請求項1に記載の触質情報処理装置。
  7. 上記触質点パラメータ生成部は、上記対象情報入力部により入力された対象情報を複数に分割し、それぞれの分割区間から、情報の強度に関する触質点パラメータおよび分割区間の長さに関する触質点パラメータの少なくとも一方について、上記n個の触質点パラメータを特定することにより、上記n個の触質点パラメータの組み合わせを2組以上生成し、
    上記触質特徴量算出部は、それぞれの分割区間ごとに上記n個の触質点パラメータを用いた四則演算値を算出し、当該分割区間ごとに算出した複数の四則演算値のm階差分値(m≧1)の平均値または代表値を第1の触質特徴量として算出するとともに、上記n個の触質点パラメータの組み合わせの多様度を第2の触質特徴量として算出することを特徴とする請求項1〜6の何れか1項に記載の触質情報処理装置。
  8. 上記触質特徴量算出部は、上記分割区間ごとに算出した複数の上記四則演算値の分散を上記第2の触質特徴量として算出することを特徴とする請求項7に記載の触質情報処理装置。
  9. 上記触質特徴量算出部は、上記分割区間ごとに算出した複数の上記四則演算値の情報量を上記第2の触質特徴量として算出することを特徴とする請求項7に記載の触質情報処理装置。
  10. 上記触質点パラメータ生成部により生成された2組以上の触質点パラメータについて、2つの組間で上記触質点パラメータの差分値をそれぞれ計算することにより、n個の触質パラメータの組み合わせを2組以上生成する触質パラメータ生成部を更に備え、
    上記触質特徴量算出部は、上記触質点パラメータ生成部により生成された上記触質点パラメータに代えて、上記触質パラメータ生成部により生成された上記触質パラメータを用いて、上記触質特徴量を算出することを特徴とする請求項1〜9の何れか1項に記載の触質情報処理装置。
  11. 触質情報処理装置の対象情報入力部が、処理対象の情報を入力する第1のステップと、
    上記触質情報処理装置の触質点パラメータ生成部が、上記対象情報入力部により入力された対象情報から、それぞれが触感の一要素を表したn個(n≧2)の触質点パラメータの組み合わせを2組以上生成する第2のステップと、
    上記触質情報処理装置の触質特徴量算出部が、上記触質点パラメータ生成部により生成された2組以上の触質点パラメータに基づいて、上記対象情報が有している触覚の性質を表した触質特徴量を上記n個の触質点パラメータの組み合わせから算出し、かつ当該触質特徴量を複数種類算出する第3のステップと、
    上記触質情報処理装置の処理実行部が、上記触質特徴量算出部により算出された上記複数種類の触質特徴量の組み合わせを用いて、ユーザ操作に応じた処理を実行し、その実行結果をユーザに提供する第4のステップとを有することを特徴とする触質情報処理方法。
JP2018515325A 2017-05-16 2018-02-22 触質情報処理装置および触質情報処理方法 Active JP6660637B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017097023 2017-05-16
JP2017097023 2017-05-16
PCT/JP2018/006519 WO2018211767A1 (ja) 2017-05-16 2018-02-22 触質情報処理装置および触質情報処理方法

Publications (2)

Publication Number Publication Date
JPWO2018211767A1 JPWO2018211767A1 (ja) 2019-06-27
JP6660637B2 true JP6660637B2 (ja) 2020-03-11

Family

ID=64273713

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018515325A Active JP6660637B2 (ja) 2017-05-16 2018-02-22 触質情報処理装置および触質情報処理方法

Country Status (2)

Country Link
JP (1) JP6660637B2 (ja)
WO (1) WO2018211767A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2021111964A1 (ja) * 2019-12-04 2021-06-10
JP7136141B2 (ja) 2020-02-07 2022-09-13 カシオ計算機株式会社 情報管理装置、情報管理方法及びプログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017021633A (ja) * 2015-07-13 2017-01-26 コニカミノルタ株式会社 触覚提示装置および触覚提示方法

Also Published As

Publication number Publication date
JPWO2018211767A1 (ja) 2019-06-27
WO2018211767A1 (ja) 2018-11-22

Similar Documents

Publication Publication Date Title
Csapó et al. Overview of auditory representations in human-machine interfaces
Caramiaux et al. Mapping through listening
JP4736771B2 (ja) 効果音生成装置及び効果音生成方法、並びにコンピュータ・プログラム
JP5967838B2 (ja) 人間型ロボットのジェスチャと音声の同期
WO2011027535A1 (ja) 触感再現方法、装置、コンピュータプログラムおよびコンピュータプログラムを記録した記録媒体
JP6660637B2 (ja) 触質情報処理装置および触質情報処理方法
Culbertson et al. Should haptic texture vibrations respond to user force and speed?
Clarke et al. Diffimpact: Differentiable rendering and identification of impact sounds
JP2005241997A (ja) 音声解析装置、音声解析方法及び音声解析プログラム
KR101403599B1 (ko) 로봇의 춤동작 표현 자동 생성 방법
Conan et al. A synthesis model with intuitive control capabilities for rolling sounds
Chan et al. Hasti: Haptic and audio synthesis for texture interactions
CN113841107A (zh) 空间音频和触觉
Nymoen Methods and technologies for analysing links between musical sound and body motion
CN106847257A (zh) 合成声音的方法和装置
JP6401758B2 (ja) 触質コンテンツ生成装置、触質コンテンツ生成方法および触質コンテンツ利用機器
WO2019111340A1 (ja) 触覚コンテンツ生成装置、音響コンテンツ生成装置、音響再生装置、触覚コンテンツ生成方法および音響コンテンツ生成方法
JP5002818B2 (ja) 接触音のリアルタイム生成装置、方法、プログラムおよびプログラムを格納した記録媒体
KR101284642B1 (ko) 로봇의 감정 생성 장치
Kim et al. Perceptually motivated automatic dance motion generation for music
Lucero et al. Empirical modeling of human face kinematics during speech using motion clustering
Papetti Design and perceptual investigations of audio-tactile interactions
JP6644293B1 (ja) コンテンツ供給装置、コンテンツ提供システム、コンテンツ提供サーバ装置、コンテンツ提供方法およびコンテンツ提供用プログラム
JP2020078446A (ja) バイブレーション装置
JP7474175B2 (ja) 音像描画装置及び音像描画方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180322

AA64 Notification of invalidation of claim of internal priority (with term)

Free format text: JAPANESE INTERMEDIATE CODE: A241764

Effective date: 20180529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190611

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200203

R150 Certificate of patent or registration of utility model

Ref document number: 6660637

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250