JP6401758B2 - 触質コンテンツ生成装置、触質コンテンツ生成方法および触質コンテンツ利用機器 - Google Patents

触質コンテンツ生成装置、触質コンテンツ生成方法および触質コンテンツ利用機器 Download PDF

Info

Publication number
JP6401758B2
JP6401758B2 JP2016164486A JP2016164486A JP6401758B2 JP 6401758 B2 JP6401758 B2 JP 6401758B2 JP 2016164486 A JP2016164486 A JP 2016164486A JP 2016164486 A JP2016164486 A JP 2016164486A JP 6401758 B2 JP6401758 B2 JP 6401758B2
Authority
JP
Japan
Prior art keywords
tactile
information
point parameter
content
parameters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016164486A
Other languages
English (en)
Other versions
JP2018032236A5 (ja
JP2018032236A (ja
Inventor
理絵子 鈴木
理絵子 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
FACETHERAPIE INC.
Original Assignee
FACETHERAPIE INC.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by FACETHERAPIE INC. filed Critical FACETHERAPIE INC.
Priority to JP2016164486A priority Critical patent/JP6401758B2/ja
Publication of JP2018032236A publication Critical patent/JP2018032236A/ja
Publication of JP2018032236A5 publication Critical patent/JP2018032236A5/ja
Application granted granted Critical
Publication of JP6401758B2 publication Critical patent/JP6401758B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • User Interface Of Digital Computer (AREA)

Description

本発明は、触質コンテンツ生成装置触質コンテンツ生成方法および触質コンテンツ利用機器に関し、特に、所与の触覚効果を与える触質コンテンツを生成する装置および方法、並びに当該触質コンテンツを利用した機器に関するものである。
人間が有する五感のうち、情報伝達の手段としては、視覚および聴覚を利用したものが広く提供されてきた。視覚および聴覚を利用した情報伝達メディアは多種多様であり、その発達には目覚しいものがある。これに対し、触覚を利用した情報伝達メディアとしては、点字などが提供されているが、視覚および聴覚を利用した情報伝達メディアに比べて発達の程度はかなり低い。これまで、触覚のみによって何らかの情報を伝達するという試みは、点字以外には殆ど行われていないのが実情である。
このような実情の中、視覚または聴覚で感じる情報を触覚から伝えようとする感覚代行技術の研究が行われている。すなわち、視覚情報は眼から、聴覚情報は耳から伝わるのが一般的であるが、これらの情報を触覚から伝えようとする試みがなされている。例えば、聴覚情報である音声信号を触覚効果の情報に変換して利用するようにしたシステムが知られている(例えば、特許文献1,2参照)。
特許文献1に記載の触覚効果生成システムは、音声信号に関係付けられるエンベロープを決定し、エンベロープに基づいて触覚効果(例えば、タッチスクリーンまたはタッチパッドのタッチ面を動かす振動触覚効果)を決定し、当該触覚効果に関係付けられる触覚信号(例えば、アクチュエータの駆動信号)を出力するように構成されている。
また、特許文献2に記載のシステムでは、マイクロフォンから入力した音声信号の特徴(周波数、振幅、継続期間など)を判断し、当該特徴の少なくとも一部に基づいて、特徴に関連した触覚効果ライブラリから触覚効果を識別することによって、当該特徴に関連した触覚効果をアクチュエータに出力させるためのアクチュエータ信号を生成する。
また、センサにより検出されるセンサ信号に基づいて仮想メッセージオブジェクトの仮想物理パラメータを決定し、当該仮想物理パラメータに基づいて触覚効果を決定して、その触覚効果をアクチュエータに出力させるための触覚信号を生成するようにした技術も知られている(例えば、特許文献3参照)。この特許文献3には、センサの一例として、接触、圧力、加速度、傾き、慣性、位置を検出することが記載され、具体例として、加速度計、ジャイロスコープ、タッチセンサ式入力装置、カメラ、GPSセンサが記載されている。また、特許文献3には、センサ信号がジェスチャと関連付けられた信号であることも記載されている。
さらに、特許文献3には、仮想物理特性が、サイズ、質量、形状、衝突挙動、またはテクスチャを含むことが記載されている。また、特許文献3には、仮想物理特性が、仮想メッセージオブジェクトと関連付けられるファイルサイズ、仮想メッセージオブジェクトと関連付けられるテキストメッセージの長さ、仮想メッセージオブジェクトと関連付けられる画像の幅および長さ、仮想メッセージオブジェクトと関連付けられる歌曲の長さ、または仮想メッセージオブジェクトと関連付けられるビデオの長さに基づくことが記載されている。
なお、発明者は、マッサージの施術のし方を五線譜と音符とにより表した「触譜」というものを考案している(例えば、非特許文献1,2参照)。触譜では、五線譜の音の高低がマッサージの圧力に対応し、音符がマッサージのリズムに対応する。例えば、熟練の施術者が行っている施術方法を触譜に記述することにより、熟練の施術者がどのようなイメージをもって、どのような順序で施術をしているのかを可視化することが可能となる。
特開2015−53053号公報 特開2015−156229号公報 特開2011−528474号公報
Tactile Score, Springer Verlag:Yasuhiro Suzuki and Rieko Suzuki,2013 「情報を生み出す触覚の知性:情報社会をいきるための感覚のリテラシー」p155-p167 渡邊淳司著 2014年12月22日発行
上述のように、従来、視覚情報や聴覚情報を触覚情報に変換する感覚代行技術が提供されている。しかしながら、視覚情報や聴覚情報に関して、入力信号(マイクより入力される音声信号、センサにより検出されるセンサ信号など)の値を単に所定の規則に従って触覚情報に変換するだけでは、触覚によって何らかの情報を伝達することが十分にできないという問題があった。
すなわち、触覚によって何らかのメッセージを人に伝える場合、触感に差異を作ることが大事である。例えば、人は、ずっと同じ圧力を受け続けると圧力を感じなくなるが、圧力に差異を作ると、より強く圧力を感じるようになる。そして、その差異の連なりから、ある種のメッセージを感じ取ることが可能となる。しかしながら、従来の技術では、この触感の差異というものを考慮した変換を行っていないため、視覚情報や聴覚情報を、触感として真に有意な触覚情報に変換することができていないという問題があった。
本発明は、このような問題を解決するために成されたものであり、視覚情報や聴覚情報を含む多種多様な情報を、触感として真に有意な触覚情報(触質コンテンツ)に変換することができるようにすることを目的とする。
上記した課題を解決するために、本発明では、触質変換対象として入力された対象情報から、それぞれが触感の一要素を表したn個(n≧2)の触質点パラメータの組み合わせを2組以上生成した後、生成した2組以上の触質点パラメータについて、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、n個の触質パラメータの組み合わせを1組以上生成し、そのn個の触質パラメータの組み合わせに対応する1以上の触質コンテンツを、n個の触質パラメータの組み合わせに対応付けて各触質コンテンツを記憶した触質コンテンツ記憶部から抽出するようにしている。
上記のように構成した本発明によれば、触質変換対象として入力された対象情報が、それぞれが触感の一要素を表したn個の触質点パラメータの組(2組以上)に置換され、さらに、触質点パラメータどうしの差分値が計算されてn個の触質パラメータの組(1組以上)に置換され、当該n個の触質パラメータの組み合わせに対応した1以上の触質コンテンツが抽出される。そのため、本発明によって抽出される触質コンテンツは、触感の一要素を表した触質点パラメータどうしの差分値に基づく相対情報によって触感の差異が表されたものになる。これにより、本発明によれば、視覚情報や聴覚情報を含む多種多様な情報を、触感として真に有意な触覚情報(触質コンテンツ)に変換することができるようになる。
本実施形態による触質コンテンツ生成装置の構成例を示す機能ブロック図である。 本実施形態の触質コンテンツ記憶部が記憶する触質コンテンツの記憶例を模式的に示す図である。 本実施形態の第1例に関し、波形情報を入力した場合における触質点パラメータ生成部による処理内容の一例を説明するための図である。 本実施形態の第2例に関し、ヒストグラム情報を入力した場合における触質点パラメータ生成部による処理内容の一例を説明するための図である。 本実施形態の第3例に関し、画像情報を入力した場合における触質点パラメータ生成部による処理内容の一例を説明するための図である。 本実施形態の第5例に関し、テキスト情報を入力した場合における触質点パラメータ生成部による処理内容の一例を説明するための図である。 本実施形態の第6例に関し、マッサージの動作情報を入力した場合における触質点パラメータ生成部による処理内容の一例を説明するための図である。 本実施形態による触質コンテンツ生成装置の動作例を示すフローチャートである。
以下、本発明の一実施形態を図面に基づいて説明する。図1は、本実施形態による触質コンテンツ生成装置の構成例を示す機能ブロック図である。図1に示すように、本実施形態の触質コンテンツ生成装置は、記憶媒体として触質コンテンツ記憶部10を備えている。また、本実施形態の触質コンテンツ生成装置は、その機能構成として、対象情報入力部11、触質点パラメータ生成部12、触質パラメータ生成部13および触質コンテンツ抽出部14を備えている。
上記各機能ブロック11〜14は、ハードウェア、DSP(Digital Signal Processor)、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、上記各機能ブロック11〜14は、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶されたプログラムが動作することによって実現される。
触質コンテンツ記憶部10は、n個(n≧2)の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、n個の触質パラメータの組み合わせに対応付けて記憶する。本実施形態では、n=2の例を示す。また、2個の触質パラメータとして、情報の強度に関する第1の触質パラメータと、情報の分割区間の長さに関する第2の触質パラメータとを用いる例を示す。強度および分割区間の長さは、何れも触感の一要素を成すものである。
すなわち、本実施形態において、触質コンテンツ記憶部10は、情報の強度に関する第1の触質パラメータおよび情報の分割区間の長さに関する第2の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、第1の触質パラメータおよび第2の触質パラメータの組み合わせに対応付けて記憶する。なお、触質パラメータは、後述する触質点パラメータの差分値を計算することによって得られるパラメータである。触質点パラメータが絶対値を示すのに対し、触質パラメータは相対値を示すものである。
本実施形態では、触質変換対象として入力する情報の種類として、強度に相当する値が連続的または断続的に連なっているもの、あるいは、連なっている状態に変換可能なものを扱う。
例えば、音声信号は、強度に相当する振幅が時間軸に沿って連続的(アナログ信号の場合)または断続的(デジタルデータの場合)に連なっている波形情報であり、本実施形態において扱うことが可能な情報の典型例である。この場合、情報の強度に関する第1の触質点パラメータは振幅、情報の分割区間の長さに関する第2の触質点パラメータは、波形情報を時間軸方向に複数に分割した場合の各分割区間の時間の長さということになる。
別の例として、文字列から成るテキスト情報は、これ自体は強度に相当する値が連なっている情報ではないが、詳細を後述するように、そのような情報に変換可能な情報である。よって、テキスト情報も、本実施形態において触質変換対象として扱うことが可能な情報の1つである。この場合、第1の触質点パラメータおよび第2の触質点パラメータがそれぞれ何であるかについては後述する。
基本的に、情報量が単一のもの以外は、本実施形態において扱うことが可能な情報と言える。例えば、テキスト情報の場合、“あ”のように1文字のみから成るものは、強度に相当する値が連なっている情報とは言えず、また、これに変換することもできないので、本実施形態の対象外となる。一方、複数の文字から成るテキスト情報であれば、後述するように、強度に相当する値が連なっている情報に変換可能なので、本実施形態において扱うことが可能な情報となる。
音声信号の場合、ある程度の時間的な長さを持ったものであれば、上述の通り本実施形態において扱うことが可能な情報である。一方、一瞬で終わる音の場合、振幅は存在するが、時間軸に沿って複数に分割可能な長さを持たない。そのため、このままでは本実施形態において扱うことが可能な情報ではない。しかし、その瞬時音を周波数解析して周波数軸の信号に変換すると、周波数毎に異なる振幅を持った情報、つまり、強度に相当する振幅が周波数軸に沿って連なった情報となるため、本実施形態において扱うことが可能な情報となる。
音声信号やテキスト情報に限らず、それ以外のあらゆる情報についても同様のことが言える。すなわち、もともと情報量が単一でないものは、強度に相当する値が連なっているものと言えるので、本実施形態において扱うことが可能な情報である。一方、もとは情報量が単一であっても、強度に相当する値が連なっている情報に変換可能なものも、本実施形態において扱うことが可能な情報といえる。このような多種多様な情報について、何を第1の触質点パラメータとし、何を第2の触質点パラメータとするかの具体例については後述する。
なお、触質点パラメータとは、例えば<硬い−柔らかい>、<粗い−滑らか>のように対立する触質(以下、触質対という)の程度を表すパラメータである。例えば、<硬い−柔らかい>という触質対に関する触質点パラメータとして、情報の強度を用いることが可能である。すなわち、強度を表す値が大きいほど硬いことを表し、強度を表す値が小さいほど柔らかいことを表す。また、<粗い−滑らか>という触質対に関する触質点パラメータとして、情報の分割区間の長さを用いることが可能である。すなわち、長さを表す値が大きいほど滑らかであることを表し、長さを表す値が小さいほど粗いことを表す。
図2は、触質コンテンツ記憶部10が記憶する触質コンテンツの記憶例を模式的に示す図である。図2は、縦軸に第1の触質パラメータとしての「強度の変化量」をとり、横軸に第2の触質パラメータとしての「分割区間の長さの変化量」をとって表したマトリクス状の触質対空間を示している。図2の例では、第1の触質パラメータ(強度の変化量)で表される触質対として<硬い−柔らかい>を用い、第2の触質パラメータ(分割区間の長さの変化量)で表される触質対として<粗い−滑らか>を用いたものを示している。
図2の例では、強度の変化量の最大値から最小値までを5段階に分けるとともに、分割区間の長さの変化量の最大値から最小値までを5段階に分けることにより、25個のマトリクス空間を形成している。25個のマトリクス空間には、それぞれ1番〜25番のインデックス番号が付与されている。触質コンテンツ記憶部10は、これら25個のマトリクス空間内にそれぞれ、強度の変化量および分割区間の長さの変化量の組み合わせに応じた触質コンテンツを記憶する。
ここで記憶する触質コンテンツは、人が触感を得ることが可能な情報である。触質コンテンツの典型例として、振動情報が挙げられる。触質コンテンツとして振動情報を記憶する場合、例えばインデックス番号“1”の位置には、強度の変化量が最大で分割区間の長さの変化量が最小の振動情報、つまり、硬さが最も大きく変化して滑らかさが最も小さく変化するというイメージを伝達可能な振動情報が記憶される。また、例えばインデックス番号“25”の位置には、強度の変化量が最小で分割区間の長さの変化量が最大の振動情報、つまり、硬さの変化が最も小さくて滑らかさの変化も最も大きいというイメージを伝達可能な振動情報が記憶される。
なお、触質コンテンツを特定するための2組の触質対として何を用いるかは、本実施形態の触質コンテンツ生成装置において生成する触質コンテンツの用途に応じて任意に定めることが可能である。すなわち、ここでは2組の触質対として<硬い−柔らかい>および<粗い−滑らか>を用いているが、本発明はこれに限定されない。例えば、触質対の別の例として、<大きい−小さい>、<鋭い−鈍い>、<重い−軽い>、<ざらざら−つるつる>などを用いてもよい。
また、ここでは触質コンテンツ記憶部10に記憶する触質コンテンツとして振動情報を用いているが、本発明はこれに限定されるものではない。触質コンテンツの別の例として、機器を駆動するアクチュエータの駆動情報、様々な製品に用いる材料で人の肌触りに影響する材質情報などが考えられる。
対象情報入力部11は、触質変換対象の情報を入力する。本実施形態では、1種類の対象情報を入力する。上述したように、強度に相当する値が連続的または断続的に連なっている情報、あるいは、連なっている状態に変換可能な情報は、本実施形態の触質変換対象の情報として扱うことが可能な情報である。例えば、波形情報(音声信号はその典型例である。その他、映像信号、地震計・風力計・光量計など各種計測機器の測定信号、オシロスコープによる波形測定データ、株価変動データなども波形情報の一例である)、ヒストグラム情報、絵画や写真等の画像情報、動画情報、テキスト情報、物体の動きを表す動作情報などを触質変換対象の情報として入力し得る。
触質点パラメータ生成部12は、対象情報入力部11により入力された1種の対象情報から、第1の触質点パラメータ(強度に関する情報)および第2の触質点パラメータ(分割区間の長さに関する情報)の組み合わせを2組以上生成する。第1の触質点パラメータおよび第2の触質点パラメータの生成法は、対象情報入力部11により入力される対象情報の種類により異なる。対象情報の種類に応じた触質点パラメータの生成法の具体例については後述する。
触質パラメータ生成部13は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータについて、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、2個の触質パラメータの組み合わせを1組以上生成する。すなわち、触質パラメータ生成部13は、2つの組間で、第1の触質点パラメータどうしの差分値を計算することによって第1の触質パラメータを生成するとともに、第2の触質点パラメータどうしの差分値を計算することによって第2の触質パラメータを生成する。この計算を複数の組み合わせで順次行うことにより、第1の触質パラメータと第2の触質パラメータとの組み合わせを1組以上生成する。
例えば、触質点パラメータ生成部12により生成された2組以上の触質点パラメータが、{p11,p21},{p12,p22},{p13,p23}の3組であったとする。ここで、p11,p12,p13が第1の触質点パラメータ、p21,p22,p23が第2の触質点パラメータである。この場合、触質パラメータ生成部13は、{p11,p21}および{p12,p22}の2つの組間で触質点パラメータの差分値を計算するとともに、{p12,p22},{p13,p23}の2つの組間で触質点パラメータの差分値を計算することにより、次のような2組の触質パラメータを生成する。
{p12−p11,p22−p21},{p13−p12,p23−p22}
触質コンテンツ抽出部14は、触質パラメータ生成部13により生成された第1の触質パラメータおよび第2の触質パラメータの組み合わせを指定して、当該指定した組み合わせに対応する1以上の触質コンテンツを触質コンテンツ記憶部10から抽出する。触質コンテンツ抽出部14により抽出される1以上の触質コンテンツの組み合わせが、本実施形態の触質コンテンツ生成装置により生成される触質コンテンツである。
なお、触質コンテンツ抽出部14により抽出された触質コンテンツは、例えば、触質コンテンツ生成装置が備える記憶媒体、あるいは触質コンテンツ生成装置に着脱可能なリムーバル記憶媒体に保存される。または、触質コンテンツ生成装置に通信ネットワークを介して接続された外部機器(例えば、外部ストレージ、サーバなど)に触質コンテンツを送信して保存するようにしてもよい。このように保存された触質コンテンツは、その後、様々な製品や様々な用途に利用することが可能である。
例えば、振動を媒体として所与の機能を発揮する各種製品(一例として、マッサージ器、美容器、ヘアブラシの柄、電動歯ブラシ、玩具、携帯電話のバイブレータ等)、アクチュエータによる部材の動きを媒体として所与の機能を発揮する各種製品(一例として、マッサージ器等)、触感を媒体として所与の機能を発揮する各種製品(一例として、衣類、ベッド、寝具、家具、建具、その他、人体が触れることのある各種機器)などに対し、本実施形態の触質コンテンツ生成装置により生成した触質コンテンツを利用することが可能である。
例えば、触質コンテンツをマッサージ器に利用する場合、マッサージ器の揉み玉を振動、回転あるいは移動させるために必要なアクチュエータの駆動情報を触質コンテンツとして触質コンテンツ記憶部10に記憶しておく。このようにすれば、触質コンテンツ記憶部10から抽出した触質コンテンツは、マッサージ器の揉み玉を制御するための情報として利用することが可能である。
また、触質コンテンツを超音波美顔器に利用する場合、超音波を出力させるための振動情報を触質コンテンツとして触質コンテンツ記憶部10に記憶しておく。このようにすれば、触質コンテンツ記憶部10から抽出した触質コンテンツは、超音波美顔器における超音波出力を制御するための情報として利用することが可能である。
以下に、触質点パラメータ生成部12の具体的な処理内容、すなわち、対象情報入力部11により入力される対象情報の種類に応じた触質点パラメータの具体的な生成例について説明する。
<第1例:波形情報の場合>
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報が、時間の経過と共に振幅が変化する波形情報である場合、当該波形情報を時間軸方向に複数に分割する。そして、それぞれの分割区間から、分割区間内の代表振幅を第1の触質点パラメータとして特定するとともに、分割区間の時間の長さを第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。このとき、前処理として、波形情報にローパスフィル処理を施すことにより、入力された波形情報のエンベロープを抽出し、当該エンベロープを対象として、複数の分割区間から第1の触質点パラメータおよび第2の触質点パラメータを特定するようにしてもよい。
図3は、波形情報を入力した場合における触質点パラメータ生成部12による処理内容の一例を説明するための図である。図3は、対象情報入力部11により入力された波形情報(または、触質点パラメータ生成部12により前処理としてローパスフィルタ処理が施されたエンベロープ波形情報)を示している。
触質点パラメータ生成部12は、まず、図3に示す波形情報を時間軸方向に複数に分割する。図3では一例として、波形の振幅が極小となる時間毎に分割している。すなわち、波形の開始点から1つ目の極小値までを第1の分割区間T1、1つ目の極小値から2つ目の極小値までを第2の分割区間T2、2つ目の極小値から3つ目の極小値までを第3の分割区間T3、・・・のように、波形情報を時間軸方向に複数に分割している。
なお、波形情報の分割のし方は、図3に示した例に限定されない。例えば、波形の振幅が極大となる時間毎に波形情報を複数の区間に分割するようにしてもよい。あるいは、正の値の振幅および負の値の振幅がある波形情報の場合は、振幅値がゼロとなる時間毎に波形情報を複数の区間に分割するようにしてもよい。
触質点パラメータ生成部12は、それぞれの分割区間T1,T2,T3,・・・から、第1の触質点パラメータとして代表振幅h1,h2,h3,・・・を特定するとともに、第2の触質点パラメータとして分割区間の時間の長さt1,t2,t3,・・・を特定する。ここで、代表振幅h1,h2,h3,・・・は、それぞれの分割区間T1,T2,T3,・・・における開始点の極小値または終了点の極小値のうち値が大きい方と、分割区間T1,T2,T3,・・・における極大値との差分の値を示している。
すなわち、分割区間T1に関しては、極小値が1つしかないので、この極小値と極大値との差分が代表振幅h1となる。分割区間T2に関しては、当該区間の開始点の極小値の方が終了点の極小値よりも大きいので、開始点の極小値と極大値との差分が代表振幅h2となる。分割区間T3に関しては、当該区間の開始点の極小値よりも終了点の極小値の方が大きいので、終了点の極小値と極大値との差分が代表振幅h3となる。
なお、ここで示した代表振幅の特定方法は一例であり、これに限定されるものではない。例えば、それぞれの分割区間T1,T2,T3,・・・における開始点の極小値または終了点の極小値のうち値が小さい方と、分割区間T1,T2,T3,・・・における極大値との差分を代表振幅として特定するようにしてもよい。
また、正の値の振幅および負の値の振幅がある波形情報を、振幅値がゼロとなる時間毎に分割した場合は、各分割区間における正の極大値または負の極小値を第1の触質点パラメータの代表振幅として特定するようにしてもよい。ここで、負の極小値に関しては、その絶対値を第1の触質点パラメータの代表振幅として特定するようにしてもよい。
この図3に示した例の場合、触質パラメータ生成部13は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータ{h1,t1},{h2,t2},{h3,t3},・・・について、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、次に示すような第1の触質パラメータと第2の触質パラメータとの組み合わせを1組以上生成する。
{h2−h1,t2−t1},{h3−h2,t3−t2},・・・
さらに、触質コンテンツ抽出部14は、触質パラメータ生成部13により生成された1組以上の触質パラメータの組み合わせを指定する。そして、触質コンテンツ記憶部10に記憶されている触質コンテンツのマトリクス空間(図2において、縦軸を振幅の変化量、横軸を分割区間の時間の長さの変化量としたマトリクス空間)上において、上記指定したそれぞれの組み合わせに対応する触質コンテンツをそれぞれ抽出する。
<第2例:ヒストグラム情報の場合>
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報が、周波数の違いに応じて強度が変化するヒストグラム情報である場合、当該ヒストグラム情報を周波数軸方向に複数に分割する。そして、それぞれの分割区間から、分割区間内の代表強度を第1の触質点パラメータとして特定するとともに、分割区間の周波数幅を第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
図4は、ヒストグラム情報を入力した場合における触質点パラメータ生成部12による処理内容の一例を説明するための図である。図4(a)は、対象情報入力部11により入力されたヒストグラム情報を示している。図4(a)に示す通り、ヒストグラム情報は、外形は波形情報と同様である。そのため、波形情報と同様の処理を適用することが可能である。この場合も、前処理として、図4(b)のようにヒストグラム情報のエンベロープを抽出し、当該エンベロープを対象として第1の触質点パラメータおよび第2の触質点パラメータを特定するようにしてもよい。
すなわち、触質点パラメータ生成部12は、まず、図4(a)に示すヒストグラム情報(または図4(b)に示すエンベロープ情報)を周波数軸方向に複数に分割する。図4では一例として、エンベロープの振幅が極小となる時間毎に分割している。すなわち、エンベロープの開始点から1つ目の極小値までを第1の分割区間F1、1つ目の極小値から2つ目の極小値までを第2の分割区間F2、2つ目の極小値から3つ目の極小値までを第3の分割区間F3、・・・のように、ヒストグラム情報を周波数軸方向に複数に分割している。ただし、分割法はこれに限定されない。
触質点パラメータ生成部12は、それぞれの分割区間F1,F2,F3,・・・から、第1の触質点パラメータとして代表強度h1,h2,h3,・・・を特定するとともに、第2の触質点パラメータとして分割区間の周波数幅f1,f2,f3,・・・を特定する。ここで、代表強度h1,h2,h3,・・・は、それぞれの分割区間F1,F2,F3,・・・における極大値を示している。ただし、代表強度の取り方はこれに限定されない。
この図4に示した例の場合、触質パラメータ生成部13は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータ{h1,f1},{h2,f2},{h3,f3},・・・について、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、次に示すような第1の触質パラメータと第2の触質パラメータとの組み合わせを1組以上生成する。
{h2−h1,f2−f1},{h3−h2,f3−f2},・・・
さらに、触質コンテンツ抽出部14は、触質パラメータ生成部13により生成された1組以上の触質パラメータの組み合わせを指定する。そして、図2に示した触質コンテンツのマトリクス空間(図2において、縦軸を強度の変化量、横軸を分割区間の周波数幅の変化量としたマトリクス空間)上において、上記指定したそれぞれの組み合わせに対応する触質コンテンツをそれぞれ抽出する。
<第3例:空間分布情報の場合>
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報が、位置または領域の違いに応じて強度が変化する空間分布情報である場合、当該空間分布情報を位置または領域に応じて複数に分割する。そして、それぞれの分割区間から、分割区間内の代表強度を第1の触質点パラメータとして特定するとともに、分割区間の終始点間の長さまたは面積を第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
空間分布情報の一例として、画像情報が挙げられる。画像情報は、画素の位置または複数の画素群から成る領域に応じて、強度の要素を有する色情報や輝度情報が変化する情報である。触質点パラメータ生成部12は、このような画像情報を、画素の位置または画素群の領域に応じて複数に分割し、それぞれの分割区間から第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを生成する。
図5は、画像情報を入力した場合における触質点パラメータ生成部12による処理内容の一例を説明するための図である。図5(a)に示す画像情報は、縦横が様々な大きさのメッシュ状に分割されたパターン画像の例を示している。第3例は、このようなパターン画像から第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを生成するのに適している。
触質点パラメータ生成部12は、まず、図5(a)に示すパターン画像をメッシュの領域に応じて複数に分割する。図5(a)では一例として、最も左上のメッシュを第1の分割区間A1、その右側のメッシュを第2の分割区間A2、更にその右側のメッシュを第3の分割区間A3、・・・としていき、右端までいったら1つの下の段に降りて左端から右端に向かって順に分割していく。これを最も右下のメッシュまで行うことにより、パターン画像の全体を各メッシュの領域に応じて複数に分割している。
触質点パラメータ生成部12は、それぞれの分割区間A1,A2,A3,・・・から、第1の触質点パラメータとして代表強度h1,h2,h3,・・・を特定するとともに、第2の触質点パラメータとして分割区間の面積a1,a2,a3,・・・を特定する。ここで、代表強度h1,h2,h3,・・・は、それぞれの分割区間A1,A2,A3,・・・における彩度、明度または輝度の何れかの平均値などを用いることが可能である。
この図5(a)に示した例の場合、触質パラメータ生成部13は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータ{h1,a1},{h2,a2},{h3,a3},・・・について、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、次に示すような第1の触質パラメータと第2の触質パラメータとの組み合わせを1組以上生成する。
{h2−h1,a2−a1},{h3−h2,a3−a2},・・・
さらに、触質コンテンツ抽出部14は、触質パラメータ生成部13により生成された1組以上の触質パラメータの組み合わせを指定する。そして、触質コンテンツ記憶部10に記憶されている触質コンテンツのマトリクス空間(図2において、縦軸を強度の変化量、横軸を分割区間の面積の変化量としたマトリクス空間)上において、上記指定したそれぞれの組み合わせに対応する触質コンテンツをそれぞれ抽出する。
なお、ここでは、複数のメッシュが縦横に区切られた2次元のパターン画像の例を示したが、図5(b)のような1次元のパターン画像(縦方向は1画素、横方向は複数画素のライン画像)であってもよい。この場合、触質点パラメータ生成部12は、それぞれの分割区間A1,A2,A3,・・・から、第2の触質点パラメータとして、分割区間の始点から終点までの長さ(画素数に相当)を特定すればよい。
<第4例:周波数スペクトル情報の場合>
対象情報入力部11により入力された画像情報が、図5に示したシンプルなパターン画像ではなく、写真や絵画のような複雑な画像情報の場合、第3例を適用するのは難しい。このような画像情報を触質変換対象とする場合、触質点パラメータ生成部12は、前処理として画像情報を周波数スペクトル情報に変換し、その周波数スペクトル情報から第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
すなわち、触質点パラメータ生成部12は、対象情報入力部11により入力された画像情報を分析して強度−周波数分布の周波数スペクトル情報を生成した後、当該周波数スペクトル情報を周波数軸方向に複数に分割し、それぞれの分割区間から、分割区間内の代表強度を第1の触質点パラメータとして特定するとともに、分割区間の周波数幅を第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
この場合における具体的な処理例は、図4を用いて説明した第2例と同様なので、説明を割愛する。なお、画像情報の他に、音声信号に対してもこの第4例を適用することが可能である。上述したように、一瞬で終わる単発の音の場合は、第1例を適用することができない。しかし、第4例を適用することは可能である。すなわち、瞬時音を分析して強度−周波数分布の周波数スペクトル情報を生成することにより、その周波数スペクトル情報から第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成することが可能である。
<第5例:テキスト情報の場合>
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報がテキスト情報である場合、テキスト情報を形態素解析してセンテンス毎に分割するとともに、各センテンス内を分節毎に区切り、各文節の音素数を特定する。そして、それぞれのセンテンスから、センテンス内の代表音素数の逆数を強度とみなして第1の触質点パラメータとして特定するとともに、センテンス内の文節数を第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
図6は、テキスト情報を入力した場合における触質点パラメータ生成部12による処理内容の一例を説明するための図である。図6は、対象情報入力部11により入力されたテキスト情報にカナを併記したものを示している。図6に示す例において入力されたテキスト情報は、「今日は日曜日。私は今日学校に行きました。」という文章の文字列から成る情報である。
触質点パラメータ生成部12は、まず、「今日は日曜日。私は今日学校に行きました。」という文章のテキスト情報をセンテンス毎に分割する。すなわち、「今日は日曜日」および「私は今日学校に行きました」の2つに分割する。1つ目のセンテンスが第1の分割区間B1、2つ目のセンテンスが第2の分割区間B2となる。
次に、触質点パラメータ生成部12は、それぞれのセンテンスを形態素解析し、各センテンス内を分節毎に区切り、各文節の音素数を特定する。すなわち、第1の分割区間B1に関しては、センテンスを「今日は」および「日曜日」の2つの文節に区切る。そして、1つ目の文節「キョウハ」の音素数を“3”と特定し、2つ目の文節「ニチヨウビ」の音素数を“5”と特定する。同様に、第2の分割区間B2に関しては、センテンスを「私は」、「今日」、「学校に」および「行きました」の4つの文節に区切る。そして、各文節の音素数をそれぞれ“4”、“2”、“5”、“5”と特定する。
そして、触質点パラメータ生成部12は、第1の分割区間B1および第2の分割区間B2のそれぞれから、分割区間内の代表音素数の逆数を強度とみなして、これを第1の触質点パラメータとして特定する。代表音素数は、例えば、分割区間内で最小の音素数、最大の音素数、または平均音素数とすることが可能である。例えば、平均音素数を用いる場合、第1の分割区間B1の平均音素数は“4”であり、これの逆数を第1の触質点パラメータとして特定する。また、第2の分割区間B2の平均音素数も“4”であり、これの逆数を第1の触質点パラメータとして特定する。
また、触質点パラメータ生成部12は、第1の分割区間B1および第2の分割区間B2のそれぞれから、文節数を第2の触質点パラメータとして特定する。すなわち、第1の分割区間B1については文節数“2”を第2の触質点パラメータとして特定し、第2の分割区間B2については文節数“4”を第2の触質点パラメータとして特定する。
この図6に示した例の場合、触質パラメータ生成部13は、触質点パラメータ生成部12により生成された2組の触質点パラメータ{1/4,2},{1/4,4}について、触質点パラメータの差分値を計算することにより、{0,2}という第1の触質パラメータと第2の触質パラメータとの組み合わせを1組生成する。
さらに、触質コンテンツ抽出部14は、触質パラメータ生成部13により生成された1組の触質パラメータの組み合わせ{0,2}を指定する。そして、触質コンテンツ記憶部10に記憶されている触質コンテンツのマトリクス空間(図2において、縦軸を音素数の逆数の変化量、横軸を文節数の変化量としたマトリクス空間)上において、上記指定した組み合わせ{0,2}に対応する触質コンテンツを抽出する。
<第6例:動作情報の場合>
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報が、人の動きを表す一連の動作情報である場合、当該一連の動作情報を一動作毎に分割する。そして、それぞれの動作から、当該動作による加圧力、速度、加速度または人体の到達高さに関する代表値を強度とみなし第1の触質点パラメータとして特定するとともに、一動作にかかる時間の長さを第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
人の動きを表す一連の動作情報の一例として、マッサージの施術の動きを表した動作情報が挙げられる。図7は、マッサージの動作情報を入力した場合における触質点パラメータ生成部12による処理内容の一例を説明するための図である。マッサージは、複数の手技の組み合わせで行われる。そして、1つの手技は、圧力を所定時間加えることによって成される。
したがって、このようなマッサージの施術の動きを表した動作情報は、図7に示すように、横軸を時間軸とし、縦軸を圧力として描かれる棒グラフのような情報で表すことができる。なお、隣接する棒グラフの間が開いている箇所は、2つの手技が時間を置いて行われることを意味する。また、隣接する棒グラフの間が接続している箇所は、2つの手技が時間を置かずに連続して行われることを意味する。例えば、表面に圧力センサを備えた人型の人形等に対して実際にマッサージを施術すると、図7に示すようなセンサ情報が得られるので、これを対象情報入力部11への入力とすることが可能である。
触質点パラメータ生成部12は、対象情報入力部11により入力される、複数の手技の組み合わせから成る一連の動作情報を、1つ1つの手技(一動作)毎に分割する。図7のイメージで説明すると、1つ1つの棒グラフに分割することに相当する。この場合、1つの手技(棒グラフ)が1つの分割区間に相当する。すなわち、1つ目の手技を第1の分割区間M1,2つ目の手技を第2の分割区間M2、3つ目の手技を第3の分割区間M3、・・・のように、一連の動作情報を手技毎に分割していく。
そして、触質点パラメータ生成部12は、それぞれの分割区間M1,M2,M3,・・・から、当該分割区間M1,M2,M3,・・・の手技による加圧力p1,p2,p3,・・・を第1の触質点パラメータとして特定するとともに、各手技を行うの要する所要時間の長さt1,t2,t3,・・・を第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する。
この図7に示した例の場合、触質パラメータ生成部13は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータ{p1,t1},{p2,t2},{p3,t3},・・・について、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、次に示すような第1の触質パラメータと第2の触質パラメータとの組み合わせを1組以上生成する。
{p2−p1,t2−t1},{p3−p2,t3−t2},・・・
さらに、触質コンテンツ抽出部14は、触質パラメータ生成部13により生成された1組以上の触質パラメータの組み合わせを指定する。そして、図2に示した触質コンテンツのマトリクス空間(図2において、縦軸を圧力の変化量、横軸を施術の所要時間の変化量としたマトリクス空間)上において、上記指定したそれぞれの組み合わせに対応する触質コンテンツをそれぞれ抽出する。
なお、ここでは、圧力センサにより検出されるセンサ情報をマッサージの施術に関する動作情報として入力する例について説明したが、本発明はこれに限定されない。例えば、非特許文献1,2に記載された触譜情報を、マッサージの施術に関する動作情報として入力するようにしてもよい。触譜情報では、圧力をMIDIのノートナンバ(音階)に置き換え、手技の所要時間を音符(全音符、2分音符、4分音符、・・・64分音符)に置き換えて表現したものである。したがって、触譜情報で表される施術の一連の動作情報を手技毎に分割し、それぞれの分割区間から、圧力を第1の触質点パラメータとして特定するとともに、手技の所要時間の長さを第2の触質点パラメータとして特定することが可能である。
また、人の動きを表す一連の動作情報の別の例として、モーションキャプチャで捉えた動作情報が挙げられる。モーションキャプチャによる動作情報は、人の動きをデジタル的に記録した動画情報として提供される。触質点パラメータ生成部12は、この動画情報を画像解析して、人の特定部位(例えば、手)の動きの開始点を特定し、その開始点に手が戻ってくるまでの動きを一動作として捉える。そして、一連の動作情報を一動作毎に分割する。この場合、手が開始点に戻ってくるまでの一動作が1つの分割区間に相当する。
そして、触質点パラメータ生成部12は、それぞれの分割区間から、当該分割区間の動作による速度、加速度または人体の到達高さに関する代表値を強度とみなし、これを強度に関する第1の触質点パラメータとして特定する。例えば、動作の速度の代表値を第1の触質点パラメータとする場合、一動作の中の最大速度、最小速度または平均速度を代表値として用いることが可能である。また、人体の到達高さの代表値を第1の触質点パラメータとする場合、例えば手を動かして動作したときの床からの最高点を代表値として用いることができる。また、触質点パラメータ生成部12は、一動作にかかる時間の長さを第2の触質点パラメータとして特定する。
この例の場合、触質パラメータ生成部13は、各分割区間から特定された代表速度、代表加速度または最高到達点の高さの何れか(強度に相当)と、一動作の所要時間(分割区間の時間の長さに相当)とから触質点パラメータ生成部12により生成された2組以上の触質点パラメータについて、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、第1の触質パラメータと第2の触質パラメータとの組み合わせを1組以上生成する。
さらに、触質コンテンツ抽出部14は、触質パラメータ生成部13により生成された1組以上の触質パラメータの組み合わせを指定する。そして、図2に示した触質コンテンツのマトリクス空間(図2において、縦軸を速度等の変化量、横軸を動作の所要時間の変化量としたマトリクス空間)上において、上記指定したそれぞれの組み合わせに対応する触質コンテンツをそれぞれ抽出する。
<第7例:動画情報の場合>
触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報が動画情報である場合、当該動画情報をオプティカルフロー解析してフレーム画像間の変位量を演算することにより、時間の経過と共に変位量が変化する波形情報に変換する。そして、当該波形情報を時間軸方向に複数に分割し、それぞれの分割区間から、分割区間内の代表強度を第1の触質点パラメータとして特定するとともに、分割区間の時間の長さを第2の触質点パラメータとして特定することにより、第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを1組以上生成する。
動画情報は、上述したモーションキャプチャによる動作情報を含む、任意の動画情報である。オプティカルフロー解析は、公知の方法を適用することが可能である。まず、時間t1における1番目のフレーム画像と、時間t2における2番目のフレーム画像との差分であるオプティカルフロー値を求める。ここで、各画素に対して求まるx,y方向のオプティカルフロー値をFx,Fyとした場合、例えば(Fx2+Fy2)/2の値を画素毎に求め、さらに全画素における平均値を求めることにより、この平均値を時間t2における変位量とする。
次に、時間t2における2番目のフレーム画像と、時間t3における3番目のフレーム画像との間で、x,y方向のオプティカルフロー値Fx,Fyをもとに(Fx2+Fy2)/2の値を画素毎に求め、さらに全画素における平均値を求めることにより、この平均値を時間t3における変位量とする。以降も同様にしてフレーム毎に変位量を求めることにより、時間の経過と共に変位量が変化する波形情報が得られる。このようにして波形情報を得た後の処理は、図3を用いて説明した第1例と同様なので、説明を割愛する。
図8は、上記のように構成した本実施形態による触質コンテンツ生成装置の動作例を示すフローチャートである。まず、対象情報入力部11は、触質変換対象の情報を入力する(ステップS1)。次に、触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報に対して、必要に応じて前処理を行う(ステップS2)。ここで、前処理とは、第4例のように、画像情報を周波数スペクトル情報に変換する処理である。また、第5例のように、テキスト情報を形態素解析する処理である。また、第7例のように、動画情報をオプティカルフロー解析する処理である。また、波形情報にローパスフィル処理を施すことによってエンベロープを抽出する処理も前処理の1つである。
次に、触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報(前処理が行われたものについては、前処理後の情報)を複数に分割し(ステップS3)、それぞれの分割区間から第1の触質点パラメータおよび第2の触質点パラメータを特定することにより、当該第1の触質点パラメータおよび第2の触質点パラメータの組み合わせを2組以上生成する(ステップS4)。
さらに、触質パラメータ生成部13は、触質点パラメータ生成部12により生成された2組以上の触質点パラメータについて、2つの組間で触質点パラメータの差分値をそれぞれ計算することにより、第1の触質パラメータおよび第2の触質パラメータの組み合わせを1組以上生成する(ステップS5)。
そして、触質コンテンツ抽出部14は、触質パラメータ生成部13により生成された第1の触質パラメータおよび第2の触質パラメータの組み合わせを指定して、当該指定した組み合わせに対応する1以上の触質コンテンツを触質コンテンツ記憶部10から抽出する(ステップS6)。
以上詳しく説明したように、本実施形態では、触質変換対象として入力された対象情報(音声に代表される各種波形情報、ヒストグラム情報、パターン画像/写真/絵画等の各種画像情報、テキスト情報、動作情報、動画情報など)から、それぞれが触感の一要素を表した情報の強度に関する第1の触質点パラメータおよび情報の分割区間の長さに関する第2の触質点パラメータの組み合わせを2組以上生成した後、生成した2組以上の触質点パラメータについて、2つの組間の差分値をそれぞれ計算することにより、第1の触質パラメータおよび第2の触質パラメータの組み合わせを1組以上生成し、その組み合わせに対応する1以上の触質コンテンツを触質コンテンツ記憶部10から抽出して触質コンテンツを生成するようにしている。
このように構成した本実施形態によれば、触質変換対象として入力された多種多様な対象情報が、強度に関する第1の触質点パラメータおよび分割区間の長さに関する第2の触質点パラメータという、触覚による情報伝達として有意な2つの触質点パラメータに置換され、さらに、触質点パラメータどうしの差分値が計算されて触質パラメータに置換され、当該2つの触質パラメータの組み合わせに対応した触質コンテンツが抽出される。そのため、本実施形態によって抽出される触質コンテンツは、触覚による情報伝達として有意な二元的な情報を有し、かつ、触質点パラメータどうしの差分値に基づく相対情報によって触感の差異が表されたものになる。これにより、本実施形態によれば、視覚情報や聴覚情報を含む多種多様な情報を、情報伝達手段としてより有用で、かつ、触感として真に有意な触覚情報(触質コンテンツ)に変換することができるようになる。
なお、本実施形態の触質コンテンツ生成装置により生成される触質コンテンツは、上述したように各種製品へ適用すること以外に、以下のように利用することも可能である。
例えば、多種多様な情報を触質コンテンツに変換してデータベース化することにより、触質コンテンツを検索キーとして、当該検索キーと同一または類似の触質を持った情報を検索するような検索システムを構築することが可能である。このようにすれば、元の情報は全く異なる種類のものであっても、触感として同様のイメージを有するものを逆引きすることが可能となる。例えば、お気に入りの楽曲がある場合に、その楽曲と似た感覚の他の楽曲を検索するといった使い方が可能である。
また、多種多様な情報から生成した触質コンテンツの類似度を判定し、分類を与えることも可能である。この場合の類似度として、例えば、触質コンテンツ抽出部14により抽出された1以上の触質コンテンツの組み合わせパターンに関する類似度を用いることが可能である。このようにして分類した各種情報を、分類毎に閲覧にしたり、分類による絞り込み検索をしたりすることも可能である。
また、従来は可視化していた情報を触質コンテンツに変換することにより、可視化とは異なった観点から情報の特徴づけを行うことが可能となる。特に、非線形性が高い現象を持つ情報の場合に、従来法とは異なった観点から情報を捉えることができる。例えば、地下活動のモニタリングデータ(温度、水流、ガスなどの観測データ)を1以上の触質コンテンツに変換し、その組み合わせのパターンから地震との関連を推定し、地震の予測に利用すること可能である。
また、多種多様な情報をいったん触質コンテンツに変換した後、それを更に視覚情報または聴覚情報に変化するようにしてもよい。例えば、触質コンテンツにより表される触質の状態を可視化して画面表示させるようにすることなどが一例として考えられる。
また、生体情報(心拍、血流、心電図など)の測定データを触質コンテンツに変換し、健常な状態と現状とを比較して表示することで、現在の健康状態を把握できるようにすることも可能である。
また、触質コンテンツを利用したコミュニケーションを行うことも可能である。すなわち、人の間でのコミュニケーション(振る舞い・動き、声・口調、映像など)を触質コンテンツに変換して提示することにより、例えば、電話やテレビ電話等で相手にどのような触質が伝わっているかを、会話しながら確認することが可能となる。別の例として、動植物間のコミュニケーション(Plant talk、植物間コミュニケーションなど)や、細胞・分子間のコミュニケーション(細胞イメージング、脳細胞イメージングによる1細胞計測技術など)など、近年発展している生物間コミュニケーションのデータ解析に応用することにより、新薬開発などの生命科学への応用も可能である。
また、人工知能技術への応用も可能である。すなわち、近年の人工知能技術の飛躍的発展により、人工知能は、人間の能力に近い、もしくは人間の能力を凌駕する性能をもつに至っている。そこで問題になるのが、人工知能・ロボットの「意志」である。ひとつの方法として、触質空間でバランスをとるように制御することにより、意志に類するものを創生することが可能となり、ヒトとコミュニケーションをとるロボットや人工知能などを創出することが可能である。
また、上記実施形態では、図2に示すように、横軸に分割区分の長さの変化量をとる例について説明したが、当該長さの逆数の変化量を取るようにしてもよい。
また、上記実施形態では、n=2とし、2個の触質点パラメータとして、情報の強度に関する第1の触質点パラメータと、情報の分割区間の長さに関する第2の触質点パラメータとを生成する例について説明したが、nは3以上であってもよい。なお、n≧3とする場合、図2のような2次元状のマトリクス空間ではなく、3階層以上のn次元階層空間として、n個の触質パラメータの組み合わせに対応する触質コンテンツをそれぞれ記憶することになる。
また、上記実施形態では、情報の強度に関する第1の触質点パラメータと、情報の分割区間の長さに関する第2の触質点パラメータとの両方を生成する例について説明したが、何れか一方のみとしてもよい。
すなわち、触質点パラメータ生成部12は、対象情報入力部11により入力された対象情報を複数に分割し、それぞれの分割区間から、情報の強度に関する第1の触質点パラメータおよび分割区間の長さに関する第2の触質点パラメータの少なくとも一方を用いて、n個(n≧2)の触質点パラメータを特定することにより、n個の触質点パラメータの組み合わせを2組以上生成することが可能である。
例えば、n=3とする場合、第1の触質点パラメータを1個または2個生成するとともに、第2の触質点パラメータを2個または1個生成するといったことが可能である。あるいは、第1の触質点パラメータとして異なるものを3個生成するようにしてもよいし、第2の触質点パラメータとして異なるものを3個生成するようにしてもよい。
情報の強度に関する第1の触質点パラメータだけでn個の触質点パラメータを生成する場合、例えば、対象情報入力部11によりn種の対象情報を入力するようにする。そして、触質点パラメータ生成部12は、入力されたn種の対象情報をそれぞれ複数に分割し、n種の対象情報のそれぞれの分割区間から、第1の触質点パラメータを1個ずつ特定することにより、n個の第1の触質点パラメータの組み合わせを2組以上生成する。
一例として、対象情報入力部11が、触質変換対象の情報として、心拍、加速度(身体の動き)、血流量の3種の情報に関して以下のようなデジタル値を入力したとする。
心拍 :79,60,79,75,74,79,75
加速度:40,10,30,40,35,40,20
血流量:80,60,40,60,80,60,80
この場合、触質点パラメータ生成部12は、入力された3種の対象情報をそれぞれ入力値ごとに分割し、3種の対象情報のそれぞれの分割区間から、第1の触質点パラメータを特定することにより、3個の第1の触質点パラメータの組み合わせを以下のように生成する。
{79,40,80},{60,10,60},{79,30,40},・・・
この場合、触質パラメータ生成部13は、以下のように、第1の触質パラメータの組み合わせを生成する。
{−19,−30,−20},{19,20,−20},・・・
触質コンテンツ抽出部14は、このように生成された第1の触質パラメータの組み合わせを指定して、{−19,−30,−20}の組み合わせに対応する触質コンテンツ、{19,20,−20}の組み合わせに対応する触質コンテンツ,・・・を触質コンテンツ記憶部10から抽出する。
また、情報の分割区間の長さに関する第2の触質点パラメータだけでn個の触質点パラメータを生成する場合も、例えば、対象情報入力部11によりn種の対象情報を入力するようにする。そして、触質点パラメータ生成部12は、入力されたn種の対象情報をそれぞれ複数に分割し、n種の対象情報のそれぞれの分割区間から、第2の触質点パラメータを1個ずつ特定することにより、n個の第2の触質点パラメータの組み合わせを2組以上生成する。
一例として、対象情報入力部11が、心拍、加速度、血流量の3種の情報に関して、上記と同様のデジタル値を入力したとする。この場合、触質点パラメータ生成部12は、例えば、同じ値が入力されるまでを単位として3種の対象情報をそれぞれ分割し、3種の対象情報のそれぞれの分割区間から、第2の触質点パラメータを特定することにより、3個の第2の触質点パラメータの組み合わせを生成する。
上記の例の場合、心拍に関して、最初の“79”と同じ値が次に現れるのは2つ後、その次に同じ値が現れるのは更に3つ後なので、分割区間の長さは2,3となる。加速度に関して、最初の“40” と同じ値が次に現れるのは3つ後、その次に同じ値が現れるのは更に2つ後なので、分割区間の長さは3,2となる。血流量に関して、最初の“80”と同じ値が次に現れるのは4つ後、その次に同じ値が現れるのは更に2つ後なので、分割区間の長さは4,2となる。
この場合、触質点パラメータ生成部12は、第2の触質点パラメータの組み合わせを{2,3,4},{3,2,2}のように生成する。また、触質パラメータ生成部13は、この第2の触質点パラメータの差分値を計算することにより、第2の触質パラメータの組み合わせを{1,−1,−2}のように生成する。さらに、触質コンテンツ抽出部14は、このように生成された第2の触質パラメータの組み合わせを指定して、{1,−1,−2}の組み合わせに対応する触質コンテンツを触質コンテンツ記憶部10から抽出する。
なお、ここでは、複数種類の触質変換対象の情報としてデジタル値を入力する例について説明したが、アナログ信号を入力するようにしてもよいことは言うまでもない。この場合、強度に関する触質点パラメータおよび分割区間の長さに関する触質点パラメータの生成法は、上記実施形態で説明した方法を適用することが可能である。
また、ここでは、強度に関する触質点パラメータ、あるいは分割区間の長さに関する触質点パラメータの何れか一方のみを、複数種類の触質変換対象の入力情報から生成する例について説明したが、1種類の対象情報から生成するようにしてもよい。例えば、上記実施形態と同様にして1種類の対象情報を複数の区間に分割し、それぞれの分割区間から、強度に関する触質点パラメータを複数生成するようにしてもよい(例えば、強度の最大値と最小値をそれぞれ触質点パラメータとするなど)。また、1種類の対象情報を複数の区間に分割する際に、異なる方法に従って複数の区間に分割し、それぞれの方法で分割した分割区間の長さを触質点パラメータとするようにしてもよい。
また、ここでは、複数種類の触質変換対象の入力情報から、強度に関する触質点パラメータだけ、あるいは分割区間の長さに関する触質点パラメータだけを生成する例について説明したが、本発明はこれに限定されない。例えば、複数種類の触質変換対象の入力情報から、強度に関する触質点パラメータおよび分割区間の長さに関する触質点パラメータの両方を組み合わせて生成するようにしてもよい。
また、上記実施形態では、触質点パラメータの差分値を計算することによって触質パラメータを生成する例について説明したが、さらに、この触質パラメータの差分値を計算するようにしてもよい。すなわち、触質パラメータは、触質点パラメータの1階差分情報であってもよいし、m階(m≧2)差分情報であってもよい。
その他、上記実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
10 触質コンテンツ記憶部
11 対象情報入力部
12 触質点パラメータ生成部
13 触質パラメータ生成部
14 触質コンテンツ抽出部

Claims (18)

  1. 触質変換対象の情報を入力する対象情報入力部と、
    上記対象情報入力部により入力された対象情報から、それぞれが触感の一要素を表したn個(n≧2)の触質点パラメータの組み合わせを2組以上生成する触質点パラメータ生成部と、
    上記触質点パラメータ生成部により生成された2組以上の触質点パラメータについて、2つの組間で上記触質点パラメータの差分値をそれぞれ計算することにより、n個の触質パラメータの組み合わせを1組以上生成する触質パラメータ生成部と、
    上記n個の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、上記n個の触質パラメータの組み合わせに対応付けて記憶する触質コンテンツ記憶部と、
    上記触質パラメータ生成部により生成された上記n個の触質パラメータの組み合わせを1組以上指定して、当該指定した1組以上の組み合わせに対応する1以上の触質コンテンツを上記触質コンテンツ記憶部から抽出する触質コンテンツ抽出部とを備えたことを特徴とする触質コンテンツ生成装置。
  2. 上記触質点パラメータ生成部は、上記対象情報入力部により入力された対象情報を複数に分割し、それぞれの分割区間から、情報の強度に関する触質点パラメータおよび分割区間の長さに関する触質点パラメータの少なくとも一方について、上記n個の触質点パラメータを特定することにより、上記n個の触質点パラメータの組み合わせを2組以上生成することを特徴とする請求項1に記載の触質コンテンツ生成装置。
  3. 上記触質点パラメータ生成部は、上記対象情報入力部により入力された1種の対象情報を複数に分割し、それぞれの分割区間から、情報の強度に関する触質点パラメータおよび分割区間の長さに関する触質点パラメータを特定することにより、2個の触質点パラメータの組み合わせを2組以上生成することを特徴とする請求項1に記載の触質コンテンツ生成装置。
  4. 上記触質点パラメータ生成部は、上記対象情報入力部により入力された複数種の対象情報をそれぞれ複数に分割し、上記複数種の対象情報のそれぞれの分割区間から、情報の強度に関する触質点パラメータおよび分割区間の長さに関する触質点パラメータの少なくとも一方を特定することにより、上記n個の触質点パラメータの組み合わせを2組以上生成することを特徴とする請求項1に記載の触質コンテンツ生成装置。
  5. 上記触質点パラメータ生成部は、上記対象情報入力部により入力された上記1種の対象情報が、時間の経過と共に振幅が変化する波形情報である場合、当該波形情報を時間軸方向に複数に分割し、それぞれの分割区間から、分割区間内の代表振幅を上記情報の強度に関する第1の触質点パラメータとして特定するとともに、上記分割区間の時間の長さを上記分割区間の長さに関する第2の触質点パラメータとして特定することにより、上記第1の触質点パラメータおよび上記第2の触質点パラメータの組み合わせを2組以上生成することを特徴とする請求項3に記載の触質コンテンツ生成装置。
  6. 上記触質点パラメータ生成部は、上記対象情報入力部により入力された上記1種の対象情報が、周波数の違いに応じて強度が変化するヒストグラム情報である場合、当該ヒストグラム情報を周波数軸方向に複数に分割し、それぞれの分割区間から、分割区間内の代表強度を上記情報の強度に関する第1の触質点パラメータとして特定するとともに、上記分割区間の周波数幅を上記分割区間の長さに関する第2の触質点パラメータとして特定することにより、上記第1の触質点パラメータおよび上記第2の触質点パラメータの組み合わせを2組以上生成することを特徴とする請求項3に記載の触質コンテンツ生成装置。
  7. 上記触質点パラメータ生成部は、上記対象情報入力部により入力された上記1種の対象情報が、位置または領域の違いに応じて上記強度が変化する空間分布情報である場合、当該空間分布情報を位置または領域に応じて複数に分割し、それぞれの分割区間から、分割区間内の代表強度を上記情報の強度に関する第1の触質点パラメータとして特定するとともに、上記分割区間の終始点間の長さまたは面積を上記分割区間の長さに関する第2の触質点パラメータとして特定することにより、上記第1の触質点パラメータおよび上記第2の触質点パラメータの組み合わせを2組以上生成することを特徴とする請求項3に記載の触質コンテンツ生成装置。
  8. 上記触質点パラメータ生成部は、上記対象情報入力部により入力された上記1種の対象情報を分析して強度−周波数分布の周波数スペクトル情報を生成した後、当該周波数スペクトル情報を周波数軸方向に複数に分割し、それぞれの分割区間から、分割区間内の代表強度を上記情報の強度に関する第1の触質点パラメータとして特定するとともに、上記分割区間の周波数幅を上記分割区間の長さに関する第2の触質点パラメータとして特定することにより、上記第1の触質点パラメータおよび上記第2の触質点パラメータの組み合わせを2組以上生成することを特徴とする請求項3に記載の触質コンテンツ生成装置。
  9. 上記触質点パラメータ生成部は、上記対象情報入力部により入力された上記1種の対象情報がテキスト情報である場合、上記テキスト情報をセンテンス毎に分割するとともに、各センテンス内を分節毎に区切り、各文節の音素数を特定し、それぞれのセンテンスから、センテンス内の代表音素数の逆数を上記情報の強度に関する第1の触質点パラメータとして特定するとともに、センテンス内の文節数を上記分割区間の長さに関する第2の触質点パラメータとして特定することにより、上記第1の触質点パラメータおよび上記第2の触質点パラメータの組み合わせを2組以上生成することを特徴とする請求項3に記載の触質コンテンツ生成装置。
  10. 上記触質点パラメータ生成部は、上記対象情報入力部により入力された上記1種の対象情報が、人の動きを表す一連の動作情報である場合、当該一連の動作情報を一動作毎に分割し、それぞれの動作から、当該動作による加圧力、速度、加速度または人体の到達高さに関する代表値を上記情報の強度に関する第1の触質点パラメータとして特定するとともに、一動作にかかる時間の長さを上記分割区間の長さに関する第2の触質点パラメータとして特定することにより、上記第1の触質点パラメータおよび上記第2の触質点パラメータの組み合わせを2組以上生成することを特徴とする請求項3に記載の触質コンテンツ生成装置。
  11. 上記触質点パラメータ生成部は、上記対象情報入力部により入力された上記1種の対象情報が動画情報である場合、当該動画情報をオプティカルフロー解析してフレーム画像間の変位量を演算することにより、時間の経過と共に上記変位量が変化する波形情報に変換し、当該波形情報を時間軸方向に複数に分割し、それぞれの分割区間から、分割区間内の代表強度を上記情報の強度に関する第1の触質点パラメータとして特定するとともに、上記分割区間の時間の長さを上記分割区間の長さに関する第2の触質点パラメータとして特定することにより、上記第1の触質点パラメータおよび上記第2の触質点パラメータの組み合わせを2組以上生成することを特徴とする請求項3に記載の触質コンテンツ生成装置。
  12. 上記触質コンテンツは、振動情報であることを特徴とする請求項1〜11の何れか1項に記載の触質コンテンツ生成装置。
  13. 上記触質コンテンツは、アクチュエータの駆動情報であることを特徴とする請求項1〜11の何れか1項に記載の触質コンテンツ生成装置。
  14. 上記触質コンテンツは、材質情報であることを特徴とする請求項1〜11の何れか1項に記載の触質コンテンツ生成装置。
  15. n個(n≧2)の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、上記n個の触質パラメータの組み合わせに対応付けて記憶する触質コンテンツ記憶部を備えたコンピュータにおいて、触質コンテンツを生成するための方法であって、
    上記コンピュータの対象情報入力部が、触質変換対象の情報を入力する第1のステップと、
    上記コンピュータの触質点パラメータ生成部が、上記対象情報入力部により入力された対象情報から、上記それぞれが触感の一要素を表したn個の触質点パラメータの組み合わせを2組以上生成する第2のステップと、
    上記コンピュータの触質パラメータ生成部が、上記触質点パラメータ生成部により生成された2組以上の触質点パラメータについて、2つの組間で上記触質点パラメータの差分値をそれぞれ計算することにより、上記n個の触質パラメータの組み合わせを1組以上生成する第3のステップと、
    上記コンピュータの触質コンテンツ抽出部が、上記触質パラメータ生成部により生成された上記n個の触質パラメータの組み合わせを1組以上指定して、当該指定した1組以上の組み合わせに対応する1以上の触質コンテンツを上記触質コンテンツ記憶部から抽出する第4のステップとを有することを特徴とする触質コンテンツ生成方法。
  16. 振動を媒体として所与の機能を発揮する機器であって、
    請求項12に記載の触質コンテンツ生成装置を備え、
    上記触質コンテンツ記憶部から抽出した上記触質コンテンツである振動情報を上記振動の駆動源として利用することを特徴とする触質コンテンツ利用機器。
  17. アクチュエータによる部材の動きを媒体として所与の機能を発揮する機器であって、
    請求項13に記載の触質コンテンツ生成装置を備え、
    上記触質コンテンツ記憶部から抽出した上記触質コンテンツである駆動情報を上記アクチュエータの駆動源として利用することを特徴とする触質コンテンツ利用機器。
  18. 振動を媒体として所与の機能を発揮する機器であって、
    請求項1〜11の何れか1項に記載の触質コンテンツ生成装置により生成された上記触質コンテンツを記憶したリムーバル記憶媒体または外部機器と接続され、
    上記リムーバル記憶媒体または上記外部機器より取得される上記触質コンテンツを上記振動の駆動源として利用することを特徴とする触質コンテンツ利用機器。
JP2016164486A 2016-08-25 2016-08-25 触質コンテンツ生成装置、触質コンテンツ生成方法および触質コンテンツ利用機器 Active JP6401758B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016164486A JP6401758B2 (ja) 2016-08-25 2016-08-25 触質コンテンツ生成装置、触質コンテンツ生成方法および触質コンテンツ利用機器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016164486A JP6401758B2 (ja) 2016-08-25 2016-08-25 触質コンテンツ生成装置、触質コンテンツ生成方法および触質コンテンツ利用機器

Publications (3)

Publication Number Publication Date
JP2018032236A JP2018032236A (ja) 2018-03-01
JP2018032236A5 JP2018032236A5 (ja) 2018-09-27
JP6401758B2 true JP6401758B2 (ja) 2018-10-10

Family

ID=61303438

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016164486A Active JP6401758B2 (ja) 2016-08-25 2016-08-25 触質コンテンツ生成装置、触質コンテンツ生成方法および触質コンテンツ利用機器

Country Status (1)

Country Link
JP (1) JP6401758B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109559758B (zh) * 2018-11-05 2023-01-24 清华大学 一种基于深度学习的将纹理图像转换成触觉信号的方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7623114B2 (en) * 2001-10-09 2009-11-24 Immersion Corporation Haptic feedback sensations based on audio output from computer devices
US7979146B2 (en) * 2006-04-13 2011-07-12 Immersion Corporation System and method for automatically producing haptic events from a digital audio signal
EP2723107B1 (en) * 2008-07-15 2019-05-15 Immersion Corporation Systems and methods for transmitting haptic messages
US8902050B2 (en) * 2009-10-29 2014-12-02 Immersion Corporation Systems and methods for haptic augmentation of voice-to-text conversion
US9576445B2 (en) * 2013-09-06 2017-02-21 Immersion Corp. Systems and methods for generating haptic effects associated with an envelope in audio signals

Also Published As

Publication number Publication date
JP2018032236A (ja) 2018-03-01

Similar Documents

Publication Publication Date Title
US20230042654A1 (en) Action synchronization for target object
Wei Resistance is fertile: Gesture and agency in the field of responsive media
JP6401758B2 (ja) 触質コンテンツ生成装置、触質コンテンツ生成方法および触質コンテンツ利用機器
Tóth et al. 3D convolutional neural networks for ultrasound-based silent speech interfaces
CN116883608B (zh) 一种多模态数字人社交属性控制方法及相关装置
Glowinski et al. Body, space, and emotion: A perceptual study
Luciani et al. Ergotic sounds: A new way to improve playability, believability and presence of virtual musical instruments
JP6660637B2 (ja) 触質情報処理装置および触質情報処理方法
WO2019111340A1 (ja) 触覚コンテンツ生成装置、音響コンテンツ生成装置、音響再生装置、触覚コンテンツ生成方法および音響コンテンツ生成方法
Barrett Creating tangible spatial-musical images from physical performance gestures.
Nakatsuka et al. Audio-guided Video Interpolation via Human Pose Features.
Moustakas et al. Using modality replacement to facilitate communication between visually and hearing-impaired people
Lucero et al. Empirical modeling of human face kinematics during speech using motion clustering
Shelley et al. Interactive sonification of curve shape and curvature data
CN106446594A (zh) 一种数据处理方法及装置
KR102479035B1 (ko) 청각장애인용 언어학습 시스템 및 방법
JP6383765B2 (ja) 触覚コンテンツ生成装置、触覚コンテンツ生成方法および触覚コンテンツ利用機器
JP6644293B1 (ja) コンテンツ供給装置、コンテンツ提供システム、コンテンツ提供サーバ装置、コンテンツ提供方法およびコンテンツ提供用プログラム
Evreinova et al. An exploration of volumetric data in auditory space
Nogueira et al. Understanding Art through Augmented Reality: Exploring Mobile Tools for Everyone's Use
Strumillo et al. A mobile application for interactive sonification of images for the visually impaired
Ryokai et al. Personal laughter archives: reflection through visualization and interaction
Yamaguchi et al. Learning and association of synaesthesia phenomenon using deep neural networks
McGregor et al. Using participatory visualisation of soundscapes to compare designers’ and listeners’ experiences of sound designs
Yu A real-time 3d visual singing synthesis: From appearance to internal articulators

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180322

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180815

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180815

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180816

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180828

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180907

R150 Certificate of patent or registration of utility model

Ref document number: 6401758

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250