JP6383765B2 - 触覚コンテンツ生成装置、触覚コンテンツ生成方法および触覚コンテンツ利用機器 - Google Patents

触覚コンテンツ生成装置、触覚コンテンツ生成方法および触覚コンテンツ利用機器 Download PDF

Info

Publication number
JP6383765B2
JP6383765B2 JP2016164485A JP2016164485A JP6383765B2 JP 6383765 B2 JP6383765 B2 JP 6383765B2 JP 2016164485 A JP2016164485 A JP 2016164485A JP 2016164485 A JP2016164485 A JP 2016164485A JP 6383765 B2 JP6383765 B2 JP 6383765B2
Authority
JP
Japan
Prior art keywords
tactile
content
unit
parameter
haptic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016164485A
Other languages
English (en)
Other versions
JP2018029802A (ja
JP2018029802A5 (ja
Inventor
理絵子 鈴木
理絵子 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
FACETHERAPIE INC.
Original Assignee
FACETHERAPIE INC.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by FACETHERAPIE INC. filed Critical FACETHERAPIE INC.
Priority to JP2016164485A priority Critical patent/JP6383765B2/ja
Publication of JP2018029802A publication Critical patent/JP2018029802A/ja
Publication of JP2018029802A5 publication Critical patent/JP2018029802A5/ja
Application granted granted Critical
Publication of JP6383765B2 publication Critical patent/JP6383765B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Percussion Or Vibration Massage (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、触覚コンテンツ生成装置、触覚コンテンツ生成方法および触覚コンテンツ利用機器に関し、特に、所与の触覚効果を与える触覚コンテンツを生成する装置および方法、並びに当該触覚コンテンツを利用した機器に関するものである。
従来、人間の五感を利用した様々な機器が提供されている。このうち、触覚を利用した機器の多くは、所定の振動を出力することによって、所与の効果を付与するようになされている。一例として、マッサージ器、美容器、振動アラーム、電動歯ブラシ、ゲーム機のコントローラ、振動フィードバック付きタッチパネルなどが知られている。
ここで、機器に与えられる振動は、その機器に求められる所与の効果を発揮しやすいものが設定される。例えば、マッサージ器であれば、人間の手による施術にできるだけ近い触感となるような振動が揉み玉に付与されるように設計されたものが多い。人の施術によるマッサージには、気持ちよいマッサージと気持ちよくないマッサージとがあるが、基本的にマッサージ器の開発は、気持ち良いマッサージを行うことを目的としてなされている。
この気持よいマッサージを行うことを目的としたマッサージ器の一例として、再生されている音楽の音の高低、大小、リズムおよびメロディの抑揚に合わせて、特定のマッサージを対応して実行するものが知られている(例えば、特許文献1参照)。この特許文献1に記載のマッサージ器によれば、使用者は、音楽と同調したマッサージを受けることができ、心身のリラクゼーションに効果を発揮する。
また、発明者は、マッサージの施術のし方を五線譜と音符とにより表した「触譜」というものを考案している(例えば、非特許文献1,2参照)。触譜では、五線譜の音の高低がマッサージの圧力に対応し、音符がマッサージのリズムに対応する。例えば、熟練の施術者が行っている施術方法を触譜に記述することにより、熟練の施術者がどのようなイメージをもって、どのような順序で施術をしているのかを可視化することが可能となる。
なお、マッサージに限らず、音声信号を触覚効果の情報に変換して利用するようにしたシステムが他にも知られている(例えば、特許文献2,3参照)。特許文献2に記載の触覚効果生成システムは、音声信号に関係付けられるエンベロープを決定し、エンベロープに基づいて触覚効果(例えば、タッチスクリーンまたはタッチパッドのタッチ面を動かす振動触覚効果)を決定し、当該触覚効果に関係付けられる触覚信号(例えば、アクチュエータの駆動信号)を出力するように構成されている。
また、特許文献3に記載のシステムでは、マイクロフォンから入力した音声信号の特徴(周波数、振幅、継続期間など)を判断し、当該特徴の少なくとも一部に基づいて、特徴に関連した触覚効果ライブラリから触覚効果を識別することによって、当該特徴に関連した触覚効果をアクチュエータに出力させるためのアクチュエータ信号を生成する。
特開2005−130883号公報 特開2015−53053号公報 特開2015−156229号公報
Tactile Score, Springer Verlag:Yasuhiro Suzuki and Rieko Suzuki,2013 「情報を生み出す触覚の知性:情報社会をいきるための感覚のリテラシー」p155-p167 渡邊淳司著 2014年12月22日発行
上述のように、音声を触覚効果(振動など)に変換する技術は種々提案されている。しかしながら、触覚効果を受ける人がそれを心地よい、気持ち良いなどと感じるためには、音声をただ触覚効果に変換すればよいというわけではない。すなわち、人間の感性に訴えるような、意味のある触覚効果に変換することが望まれる。「意味のある触覚効果」とは、それを受ける人に対して何らかのメッセージを伝えることができるような触覚効果のことである。
本発明は、このような問題を解決するために成されたものであり、受け手にとって意味のあるメッセージを触覚効果によって伝えることが可能な触覚コンテンツを生成できるようにすることを目的とする。
上記した課題を解決するために、本発明では、それぞれが触感の一要素を表したn個(n≧2)の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、n個の触質パラメータの組み合わせに対応付けて記憶する触質コンテンツ記憶部を備えている。そして、n個の触質パラメータの組み合わせを複数組順に指定することにより、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを触質コンテンツ記憶部から順に抽出し、当該抽出した複数の触質コンテンツの中から、2つ以上の異なる触質コンテンツの組み合わせから成るパターンの繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成するようにしている。
上記のように構成した本発明によれば、n個の触質パラメータの組み合わせを複数組指定することにより、複数の触質コンテンツが抽出される。ここで、それぞれの触質コンテンツは、それぞれに固有の触覚効果を付与することが可能なものであるから、順に抽出される複数の触質コンテンツの差異の連なりにより、その連なりに固有の意味を持った触覚効果を有するものといえる。さらに、本発明では、繰り返しを構成している触質コンテンツ群だけが更に抽出されて触覚コンテンツとされるため、生成される触覚コンテンツは、触質コンテンツの繰り返しによって触覚のメッセージ性(物語性)が受け手に明確に伝えられるものとなっている。このように、本発明によれば、受け手にとって意味のあるメッセージを触覚効果によって伝えることが可能な触覚コンテンツを生成することができる。
本実施形態による触覚コンテンツ生成装置の基本構成例を示す機能ブロック図である。 本実施形態の触質コンテンツ記憶部が記憶する触質コンテンツの記憶例を模式的に示す図である。 本実施形態の触覚コンテンツ生成部による繰り返しパターンの判定アルゴリズムを説明するための図である。 図1のように構成した触覚コンテンツ生成装置の動作例を示すフローチャートである。 外部入力信号の解析機能を加えた本実施形態による触覚コンテンツ生成装置の機能構成例を示すブロック図である。 本実施形態の触質パラメータ特定部による処理内容を説明するための図である。 図5のように構成した触覚コンテンツ生成装置の動作例を示すフローチャートである。
以下、本発明の一実施形態を図面に基づいて説明する。図1は、本実施形態による触覚コンテンツ生成装置の基本構成例を示す機能ブロック図である。図1に示すように、本実施形態の触覚コンテンツ生成装置は、記憶媒体として触質コンテンツ記憶部10を備えている。また、本実施形態の触覚コンテンツ生成装置は、その機能構成として、触質コンテンツ抽出部11および触覚コンテンツ生成部12を備えている。
上記各機能ブロック11,12は、ハードウェア、DSP(Digital Signal Processor)、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、上記各機能ブロック11,12は、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶されたプログラムが動作することによって実現される。
触質コンテンツ記憶部10は、それぞれが触感の一要素を表したn個(n≧2)の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、n個の触質パラメータの組み合わせに対応付けて記憶する。本実施形態では、n=2の例を示す。また、2個の触質パラメータとして、情報の強度に関する第1の触質パラメータと、情報の分割区間の長さに関する第2の触質パラメータとを用いる例を示す。強度および分割区間の長さは、何れも触感の一要素を成すものである。
すなわち、本実施形態において、触質コンテンツ記憶部10は、情報の強度に関する第1の触質パラメータおよび情報の分割区間の長さに関する第2の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、第1の触質パラメータおよび第2の触質パラメータの組み合わせに対応付けて記憶する。触質パラメータとは、例えば<硬い−柔らかい>、<粗い−滑らか>のように対立する触質(以下、触質対という)の程度を表すパラメータである。
例えば、<硬い−柔らかい>という触質対に関する触質パラメータとして、情報の強度を用いることが可能である。すなわち、強度を表す値が大きいほど硬いことを表し、強度を表す値が小さいほど柔らかいことを表す。また、<粗い−滑らか>という触質対に関する触質パラメータとして、情報の分割区間の長さを用いることが可能である。すなわち、長さを表す値が大きいほど滑らかであることを表し、長さを表す値が小さいほど粗いことを表す。
図2は、触質コンテンツ記憶部10が記憶する触質コンテンツの記憶例を模式的に示す図である。図2は、縦軸に第1の触質パラメータとしての「強度」をとり、横軸に第2の触質パラメータとしての「分割区間の長さ」をとって表したマトリクス状の触質対空間を示している。図2の例では、第1の触質パラメータ(強度)で表される触質対として<硬い−柔らかい>を用い、第2の触質パラメータ(分割区間の長さ)で表される触質対として<粗い−滑らか>を用いたものを示している。
図2の例では、強度の最大値から最小値までを5段階に分けるとともに、分割区間の長さの最大値から最小値までを5段階に分けることにより、25個のマトリクス空間を形成している。25個のマトリクス空間には、それぞれ1番〜25番のインデックス番号が付与されている。触質コンテンツ記憶部10は、これら25個のマトリクス空間内にそれぞれ、強度および分割区間の長さの組み合わせに応じた触質コンテンツを記憶する。
ここで記憶する触質コンテンツは、人が触感を得ることが可能な情報である。触質コンテンツの典型例として、振動情報が挙げられる。触質コンテンツとして振動情報を記憶する場合、例えばインデックス番号“1”の位置には、強度が最大で分割区間の長さが最小の振動情報、つまり、最も硬くて最も粗いというイメージを伝達可能な振動情報が記憶される。また、例えばインデックス番号“25”の位置には、強度が最小で分割区間の長さが最大の振動情報、つまり、最も柔らかくても最も滑らかというイメージを伝達可能な振動情報が記憶される。
なお、触質コンテンツを特定するための2組の触質対として何を用いるかは、本実施形態の触覚コンテンツ生成装置において生成する触覚コンテンツの用途に応じて任意に定めることが可能である。すなわち、ここでは2組の触質対として<硬い−柔らかい>および<粗い−滑らか>を用いているが、本発明はこれに限定されない。例えば、触質対の別の例として、<大きい−小さい>、<鋭い−鈍い>、<重い−軽い>、<ざらざら−つるつる>などを用いてもよい。
また、ここでは触質コンテンツ記憶部10に記憶する触質コンテンツとして振動情報を用いているが、本発明はこれに限定されるものではない。触質コンテンツの別の例として、機器を駆動するアクチュエータの駆動情報、様々な製品に用いる材料で人の肌触りに影響する材質情報などが考えられる。
触質コンテンツ抽出部11は、第1の触質パラメータおよび第2の触質パラメータの組み合わせを複数組順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを触質コンテンツ記憶部10から順に抽出する。第1の触質パラメータおよび第2の触質パラメータの指定は、所望の触覚コンテンツを生成したいユーザが手動で指定することが可能である。
例えば、触質コンテンツ抽出部11は、図2に例示したマトリクスをコンピュータの画面上に表示させ、タッチパネルやマウス等の操作デバイスを用いてユーザに所望の位置を順に指定させることにより、第1の触質パラメータおよび第2の触質パラメータの組み合わせを複数組順に指定する。この場合、触質コンテンツ抽出部11は、マトリクス上で順に指定された位置に対応する触質コンテンツを順次触質コンテンツ記憶部10から抽出する。
第1の触質パラメータおよび第2の触質パラメータの指定を、触質コンテンツ抽出部11が自動的に行うようにすることも可能である。例えば、触質コンテンツ抽出部11がランダムに、あるいは所定の規則に従って第1の触質パラメータおよび第2の触質パラメータの組み合わせを順次指定するようにすることが可能である。
あるいは、外部入力信号を解析することより、当該外部入力信号から特定された第1の触質パラメータおよび第2の触質パラメータを触質コンテンツ抽出部11が入力することによって、第1の触質パラメータおよび第2の触質パラメータの組み合わせを順次指定するようにすることも可能である。なお、これに関する具体例は後述する。
触覚コンテンツ生成部12は、触質コンテンツ抽出部11により順に抽出された複数の触質コンテンツが、2つ以上の異なる触質コンテンツの組み合わせから成るパターンの繰り返しを有するか否かを判定し、繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成する。繰り返しを構成している触質コンテンツ群は、受け手に対して意味のあるメッセージを伝えることが可能な情報であり、本実施形態ではこれを触覚コンテンツとして生成するようにしている。その理由を以下に説明する。
触覚によって何らかのメッセージを人に伝える場合、第1に、触感に差異を作ることが大事である。例えば、人は、ずっと同じ圧力を受け続けると圧力を感じなくなるが、圧力に差異を作ると、より強く圧力を感じるようになる。そして、その差異の連なりから、ある種のメッセージを表現することが可能となる。例えば、図2に示したマトリクス空間において、インデックス番号が20番の触質コンテンツと25番の触質コンテンツとを順に抽出すると、比較的弱い強度で長い時間をかけてゆったりと強度が変化するという差異が生じ、この差異によって「柔らかくて滑らか」な感じというメッセージを表現することが可能となる。
第2に、上記のような触感の差異を2回以上繰り返すことにより、それが何か特別なもの(偶然ではないもの)という印象を人に与えることができる。すなわち、20番の触質コンテンツと25番の触質コンテンツとを順に1回ずつ抽出するだけなく、20番→25番→20番→25番のように2回以上繰り返すことにより、差異によって生じるメッセージをより強く伝えることが可能となる。なお、ここでは2つの触質コンテンツが繰り返される例を示したが、3つ以上の触質コンテンツが繰り返されるものも触覚コンテンツとなる。
なお、触覚コンテンツ生成部12により生成された触覚コンテンツは、例えば、触覚コンテンツ生成装置が備える記憶媒体、あるいは触覚コンテンツ生成装置に着脱可能なリムーバル記憶媒体に保存される。または、触覚コンテンツ生成装置に通信ネットワークを介して接続された外部機器(例えば、外部ストレージ、サーバなど)に触覚コンテンツを送信して保存するようにしてもよい。このように保存された触覚コンテンツは、その後、様々な製品や様々な用途に利用することが可能である。
例えば、振動を媒体として所与の機能を発揮する各種製品(一例として、マッサージ器、美容器、ヘアブラシの柄、電動歯ブラシ、玩具、携帯電話のバイブレータ等)、アクチュエータによる部材の動きを媒体として所与の機能を発揮する各種製品(一例として、マッサージ器等)、触感を媒体として所与の機能を発揮する各種製品(一例として、衣類、ベッド、寝具、家具、建具、その他、人体が触れることのある各種機器)などに対し、本実施形態の触覚コンテンツ生成装置により生成した触覚コンテンツを利用することが可能である。
例えば、触覚コンテンツをマッサージ器に利用する場合、マッサージ器の揉み玉を振動、回転あるいは移動させるために必要なアクチュエータの駆動情報を触質コンテンツとして触質コンテンツ記憶部10に記憶しておく。このようにすれば、触質コンテンツ記憶部10から抽出した触質コンテンツをもとに生成した触覚コンテンツは、繰り返しのパターンから成る駆動情報そのものであり、マッサージ器の揉み玉を制御するための情報として利用することが可能である。
また、触覚コンテンツを超音波美顔器に利用する場合、超音波を出力させるための振動情報を触質コンテンツとして触質コンテンツ記憶部10に記憶しておく。このようにすれば、触質コンテンツ記憶部10から抽出した触質コンテンツをもとに生成した触覚コンテンツは、繰り返しのパターンから成る超音波振動情報そのものであり、超音波美顔器における超音波出力を制御するための情報として利用することが可能である。
以下に、触覚コンテンツ生成部12による繰り返しパターンの判定アルゴリズムの一例を説明する。図3は、触覚コンテンツ生成部12による繰り返しパターンの判定アルゴリズムを説明するための図である。図3(a)は、触質コンテンツ抽出部11により順に抽出された10個の触質コンテンツのインデックス番号の順列を示している。
触覚コンテンツ生成部12は、まず、触質コンテンツ抽出部11により抽出された先頭のインデックス番号をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出する。ここで、パターンとは、2つ以上の異なるインデックス番号(それにより示される触質コンテンツ)の組み合わせをいうものとする。
例えば、keyと同じインデックス番号が連続する場合(例えば、“11”のようなケース)、「2つ以上の異なる」という制限を設けることなく、keyと同じインデックス番号が出現する直前までをパターンとして抽出すると、最初の1つ目のインデックス番号“1”だけがパターンとして抽出されることになる。本実施形態では、このような1つのインデックス番号のみから成るものをパターンとしては抽出しない。これをパターンとして抽出すると、“11”は“1”が2回繰り替えされている触覚コンテンツとなってしまうが、これだと触質コンテンツの連なりに差異がないので、触覚コンテンツとしては不適だからである。
触覚コンテンツ生成部12は、1つのパターンを抽出したら、次に、当該抽出したパターンの次のインデックス番号をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして新たに抽出する。触覚コンテンツ生成部12は、以上の処理を、触質コンテンツ抽出部11により順に抽出されたインデックス番号の最後まで行う。
なお、先頭のインデックス番号をkeyとして、最後のインデックス番号まで探索を行っても、そのkeyと同じインデックス番号が見つからない場合は、先頭から2番目のインデックス番号をkeyに設定し直して、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出する。この処理は、パターンが見つかるまで、keyを変えながら繰り返し行う。図3(b)は、このようなパターン抽出処理を行った結果を示している。
図3の例では、まず、先頭のインデックス番号“1”をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出している。これにより、“123”が1つ目のパターンとして抽出されている。次に、抽出した1つ目のパターンの次のインデックス番号(4番目のインデックス番号)“1”をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出している。これにより、“123”が2つ目のパターンとして抽出されている。
次に、抽出した2つ目のパターンの次のインデックス番号(7番目のインデックス番号)“1”をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出している。これにより、“14”が3つ目のパターンとして抽出されている。さらに、抽出した3つ目のパターンの次のインデックス番号(9番目のインデックス番号)“1”をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出しようとしたが、同じインデックス番号はみつからず、残りの “13”が4つ目のパターンとして抽出されている。
図3の例では、“123”のパターンが2回繰り返されている。よって、触覚コンテンツ生成部12は、この繰り返しを構成している触質コンテンツ群“123123”を抽出し、これを触覚コンテンツとして生成する。
なお、図3の例では、図3(c)に示すように、2番目のインデックス番号“2”をkeyとして設定すると、“231”というパターンの繰り返しを抽出することができる。そこで、触覚コンテンツ生成部12は、keyの設定位置を先頭から順に変えながらパターン抽出処理を行うことにより、繰り返しを構成している複数の触質コンテンツ群“123123”、“231231”を抽出し、これらを触覚コンテンツとして生成するようにしてもよい。また、インデックス番号の全てを順次keyに設定して、繰り返しパターンの判定処理を行うようにしてもよい。
なお、ここでは、触質コンテンツ抽出部11により抽出された触質コンテンツが10個の場合における繰り返しパターンの判定例を説明したが、触質コンテンツが多数の場合もある。そこで、触覚コンテンツ生成部12は、触質コンテンツ抽出部11により順に抽出された複数の触質コンテンツを先頭から所定数毎に区切ってグループ化し、グループ毎に繰り返しパターンの判定処理を行うようにしてもよい。
図4は、図1のように構成した触覚コンテンツ生成装置の動作例を示すフローチャートである。まず、触質コンテンツ抽出部11は、第1の触質パラメータおよび第2の触質パラメータの組み合わせを複数組順に指定する(ステップS1)。上述したように、この指定方法は任意であるが、例えば、ユーザによるタッチパネルやマウス等の操作に応じて、触質コンテンツ抽出部11が第1の触質パラメータおよび第2の触質パラメータの組み合わせを複数組順に指定する。
次に、触質コンテンツ抽出部11は、指定した複数組のパラメータの組み合わせに対応する複数の触質コンテンツを触質コンテンツ記憶部10から順に抽出する(ステップS2)。次いで、触覚コンテンツ生成部12は、触質コンテンツ抽出部11により順に抽出された複数の触質コンテンツが繰り返しのパターンを有するか否かを判定する(ステップS3)。そして、触覚コンテンツ生成部12は、繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成する(ステップS4)。
以下に、外部入力信号を解析することより、第1の触質パラメータおよび第2の触質パラメータの組み合わせを指定する例について説明する。図5は、外部入力信号の解析機能を加えた触覚コンテンツ生成装置の機能構成例を示すブロック図である。なお、この図5において、図1に示した符号と同一の符号を付したものは同一の機能を有するものであるので、ここでは重複する説明を省略する。
図5に示す例において、触覚コンテンツ生成装置は、その機能構成として、対象情報入力部41および触質パラメータ特定部42を更に備えている。また、触質コンテンツ抽出部11に代えて触質コンテンツ抽出部11’を備えている。
対象情報入力部41は、強度に相当する値が連続的または断続的に連なって成る対象情報を入力する。当該対象情報の一例として、本実施形態では時系列の波形情報を入力する。ここで入力する波形情報は、アナログ信号でもよいし、デジタルデータでもよい。また、入力する波形情報は、時間の経過と共に振幅が変化する情報であればよく、その種類は任意である。例えば、音声信号、映像信号、地震計・風力計・光量計など各種計測機器の測定信号、オシロスコープによる波形測定データ、株価変動データなどが挙げられるが、これらは一例に過ぎない。
触質パラメータ特定部42は、対象情報入力部41により入力された波形情報を時間軸方向に複数に分割し、それぞれの分割区間から、第1の触質パラメータとして振幅を特定するとともに、第2の触質パラメータとして分割区間の時間の長さを特定する。このとき、前処理として、波形情報にローパスフィル処理を施すことにより、入力された波形情報のエンベロープを抽出し、当該エンベロープを対象として、複数の分割区間から第1の触質パラメータ(振幅)および第2の触質パラメータ(分割区間の時間の長さ)を特定するようにしてもよい。
図6は、触質パラメータ特定部42による処理内容の一例を説明するための図である。図6は、対象情報入力部41により入力された波形情報(または、触質パラメータ特定部42により前処理としてローパスフィルタ処理が施されたエンベロープ波形情報)を示している。
触質パラメータ特定部42は、まず、図6に示す波形情報を時間軸方向に複数に分割する。図6では一例として、波形の振幅が極小となる時間毎に分割している。すなわち、波形の開始点から1つ目の極小値までを第1の分割区間T1、1つ目の極小値から2つ目の極小値までを第2の分割区間T2、2つ目の極小値から3つ目の極小値までを第3の分割区間T3、・・・のように、波形情報を時間軸方向に複数に分割している。
なお、波形情報の分割のし方は、図6に示した例に限定されない。例えば、波形の振幅が極大となる時間毎に波形情報を複数の区間に分割するようにしてもよい。あるいは、正の値の振幅および負の値の振幅がある波形情報の場合は、振幅値がゼロとなる時間毎に波形情報を複数の区間に分割するようにしてもよい。
触質パラメータ特定部42は、それぞれの分割区間T1,T2,T3,・・・から、第1の触質パラメータとして代表振幅h1,h2,h3,・・・を特定するとともに、第2の触質パラメータとして分割区間の時間の長さt1,t2,t3,・・・を特定する。ここで、代表振幅h1,h2,h3,・・・は、それぞれの分割区間T1,T2,T3,・・・における開始点の極小値または終了点の極小値のうち値が大きい方と、分割区間T1,T2,T3,・・・における極大値との差分の値を示している。
すなわち、分割区間T1に関しては、極小値が1つしかないので、この極小値と極大値との差分が代表振幅h1となる。分割区間T2に関しては、当該区間の開始点の極小値の方が終了点の極小値よりも大きいので、開始点の極小値と極大値との差分が代表振幅h2となる。分割区間T3に関しては、当該区間の開始点の極小値よりも終了点の極小値の方が大きいので、終了点の極小値と極大値との差分が代表振幅h3となる。
なお、ここで示した代表振幅の特定方法は一例であり、これに限定されるものではない。例えば、それぞれの分割区間T1,T2,T3,・・・における開始点の極小値または終了点の極小値のうち値が小さい方と、分割区間T1,T2,T3,・・・における極大値との差分を代表振幅として特定するようにしてもよい。
また、正の値の振幅および負の値の振幅がある波形情報を、振幅値がゼロとなる時間毎に分割した場合は、各分割区間における正の極大値または負の極小値を第1の触質パラメータの代表振幅として特定するようにしてもよい。ここで、負の極小値に関しては、その絶対値を第1の触質パラメータの代表振幅として特定するようにしてもよい。
また、触質コンテンツ抽出部11’は、触質パラメータ特定部42によりそれぞれの分割区間から特定された第1の触質パラメータ(振幅)および第2の触質パラメータ(分割区間の時間の長さ)の組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを触質コンテンツ記憶部10から順に抽出する。
すなわち、触質コンテンツ抽出部11’は、各分割区間T1,T2,T3,・・・から特定された代表振幅および分割区間の長さの組み合わせ{h1,t1},{h2,t2},{h3,t3},・・・を指定する。そして、図2に示した触質コンテンツのマトリクス空間上において、上記指定したそれぞれの組み合わせに対応する触質コンテンツを順に抽出する。
図7は、上記のように構成した本実施形態による触覚コンテンツ生成装置の動作例を示すフローチャートである。まず、対象情報入力部41は、時系列の波形情報を入力する(ステップS11)。次に、触質パラメータ特定部42は、対象情報入力部41により入力された波形情報にローパスフィル処理を施すことにより、波形情報のエンベロープを抽出する(ステップS12)。
次いで、触質パラメータ特定部42は、エンベロープ波形情報を時間軸方向に複数に分割し(ステップS13)、それぞれの分割区間から、第1の触質パラメータとして振幅を特定するとともに、第2の触質パラメータとして分割区間の時間の長さを特定する(ステップS14)。
次に、触質コンテンツ抽出部11’は、触質パラメータ特定部42によりそれぞれの分割区間から特定された振幅および分割区間の時間の長さの組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを触質コンテンツ記憶部10から順に抽出する(ステップS15)。
さらに、触覚コンテンツ生成部12は、触質コンテンツ抽出部11’により順に抽出された複数の触質コンテンツが繰り返しのパターンを有するか否かを判定する(ステップS16)。そして、触覚コンテンツ生成部12は、繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成する(ステップS17)。
以上詳しく説明したように、本実施形態によれば、第1の触質パラメータおよび第2の触質パラメータの組み合わせを複数組指定することにより、触質コンテンツ記憶部10から複数の触質コンテンツが抽出され、その中からさらに、2つ以上の異なる触質コンテンツの組み合わせから成るパターンの繰り返しを構成している触質コンテンツ群が抽出されて触覚コンテンツとして生成される。このようにして生成した触覚コンテンツを様々な媒体を通じて人に伝達することにより、繰り返される複数の触質コンテンツの差異の連なりにより、意味を持った触覚効果を与え、触覚のメッセージ性(物語性)を受け手に明確に伝えることができる。
なお、上記実施形態では、触質コンテンツ記憶部10より抽出した複数の触質コンテンツの中から、1種類の繰り返しパターンから成る触質コンテンツ群を抽出し、抽出した触質コンテンツ群をそのまま触覚コンテンツとする例について説明したが、本発明はこれに限定されない。例えば、複数種類の繰り返しパターンから成る触質コンテンツ群を抽出し、これらを組み合わせることによって触覚コンテンツを生成するようにしてもよい。
また、上記実施形態では、1つのインデックス番号をKeyに設定して、そのKeyと同じインデックス番号が出現する直前までをパターンとして抽出する例について説明したが、本発明はこれに限定されない。例えば、複数のインデックス番号の組み合わせをKeyに設定して、そのKeyと同じインデックス番号の組み合わせが出現する直前までをパターンとして抽出するようにしてもよい。
また、上記実施形態では、例えば図3(b)のように“123|123”とパターンの繰り返しが検出された場合に、その繰り返しを構成している触質コンテンツ群“123123”を触覚コンテンツとして生成する例について説明したが、本発明はこれに限定されない。例えば、“123”を任意の数だけ組み合わせたものを触覚コンテンツとして生成するようにしてもよい。
また、“123”の順序をサイクリックに置き換えたもの(“231”または“312”)を生成し、これを組み合わせたものを触覚コンテンツとして生成するようにしてもよい。ここで、“231231”や “312312”のように、同一のパターンを組み合わせて触覚コンテンツを生成してもよいし、“123231312”のように、異なるパターンを任意に組み合わせて触覚コンテンツを生成するようにしてもよい。
また、上記実施形態では、対象情報入力部41により入力する対象情報として、強度に相当する値が連続的または断続的に連なっている形態の波形情報を扱う例について説明したが、元々がそのような形態になっていない情報を当該形態に変換した情報を入力するようにしてもよい。
例えば、音声信号の場合、ある程度の時間的な長さを持ったものであれば、強度に相当する値が連続的または断続的に連なっているものといえる。一方、一瞬で終わる音の場合、振幅は存在するが、時間軸に沿って複数に分割可能な長さを持たない。しかし、その瞬時音を周波数解析して周波数軸の信号に変換すると、周波数毎に異なる振幅を持った情報、つまり、強度に相当する振幅が周波数軸に沿って連なった情報となるため、対象情報入力部41において入力可能な情報となる。その他、周波数スペクトル情報、ヒストグラム情報、画像情報、動画情報、テキスト情報、物体の動きを表す動作情報なども、対象情報入力部41より対象情報として入力し得る。
また、上記実施形態では、図2に示すように、横軸に分割区分の長さをとる例について説明したが、当該長さの逆数を取るようにしてもよい。
また、上記実施形態では、n=2とし、2個の触質パラメータとして、情報の強度に関する第1の触質パラメータと、情報の分割区間の長さに関する第2の触質パラメータとを特定する例について説明したが、nは3以上であってもよい。なお、n≧3とする場合、図2のような2次元状のマトリクス空間ではなく、3階層以上のn次元階層空間として、n個の触質パラメータの組み合わせに対応する触質コンテンツをそれぞれ記憶することになる。
また、上記実施形態では、情報の強度に関する第1の触質パラメータと、情報の分割区間の長さに関する第2の触質パラメータとの両方を特定する例について説明したが、何れか一方のみとしてもよい。
すなわち、触質パラメータ特定部42は、対象情報入力部41により入力された対象情報を複数に分割し、それぞれの分割区間から、情報の強度に関する第1の触質パラメータおよび分割区間の長さに関する第2の触質パラメータの少なくとも一方を用いて、n個(n≧2)の触質パラメータを特定することが可能である。
例えば、n=3とする場合、第1の触質パラメータを1個または2個特定するとともに、第2の触質パラメータを2個または1個特定するといったことが可能である。あるいは、第1の触質パラメータとして異なるものを3個特定するようにしてもよいし、第2の触質パラメータとして異なるものを3個特定するようにしてもよい。
情報の強度に関する第1の触質パラメータだけでn個の触質パラメータを特定する場合、例えば、対象情報入力部41によりn種の対象情報を入力するようにする。そして、触質パラメータ特定部42は、入力されたn種の対象情報をそれぞれ複数に分割し、n種の対象情報のそれぞれの分割区間から、第1の触質パラメータを1個ずつ特定することにより、n個の第1の触質パラメータの組み合わせを複数組特定する。
一例として、対象情報入力部41が、触質変換対象の情報として、心拍、加速度(身体の動き)、血流量の3種の情報に関して以下のようなデジタル値を入力したとする。
心拍 :79,60,79,75,74,79,75
加速度:40,10,30,40,35,40,20
血流量:80,60,40,60,80,60,80
この場合、触質パラメータ特定部42は、入力された3種の対象情報をそれぞれ入力値ごとに分割し、3種の対象情報のそれぞれの分割区間から、第1の触質パラメータを特定することにより、3個の第1の触質パラメータの組み合わせを以下のように特定する。
{79,40,80},{60,10,60},{79,30,40},・・・
また、情報の分割区間の長さに関する第2の触質パラメータだけでn個の触質パラメータを特定する場合も、例えば、対象情報入力部41によりn種の対象情報を入力するようにする。そして、触質パラメータ特定部42は、入力されたn種の対象情報をそれぞれ複数に分割し、n種の対象情報のそれぞれの分割区間から、第2の触質パラメータを1個ずつ特定することにより、n個の第2の触質パラメータの組み合わせを複数組生成する。
一例として、対象情報入力部41が、心拍、加速度、血流量の3種の情報に関して、上記と同様のデジタル値を入力したとする。この場合、触質パラメータ特定部42は、例えば、同じ値が入力されるまでを単位として3種の対象情報をそれぞれ分割し、3種の対象情報のそれぞれの分割区間から、第2の触質パラメータを特定することにより、3個の第2の触質パラメータの組み合わせを複数組特定する。
上記の例の場合、心拍に関して、最初の“79”と同じ値が次に現れるのは2つ後、その次に同じ値が現れるのは更に3つ後なので、分割区間の長さは2,3となる。加速度に関して、最初の“40” と同じ値が次に現れるのは3つ後、その次に同じ値が現れるのは更に2つ後なので、分割区間の長さは3,2となる。血流量に関して、最初の“80”と同じ値が次に現れるのは4つ後、その次に同じ値が現れるのは更に2つ後なので、分割区間の長さは4,2となる。この場合、触質パラメータ特定部42は、第2の触質パラメータの組み合わせを{2,3,4},{3,2,2}のように特定する。
なお、ここでは、複数種類の触質変換対象の情報としてデジタル値を入力する例について説明したが、アナログ信号を入力するようにしてもよいことは言うまでもない。この場合、強度に関する触質パラメータおよび分割区間の長さに関する触質パラメータの特定法は、上記実施形態で説明した方法を適用することが可能である。
また、ここでは、強度に関する触質パラメータ、あるいは分割区間の長さに関する触質パラメータの何れか一方のみを、複数種類の触質変換対象の入力情報から特定する例について説明したが、1種類の対象情報から特定するようにしてもよい。例えば、上記実施形態と同様にして1種類の対象情報を複数の区間に分割し、それぞれの分割区間から、強度に関する触質パラメータを複数特定するようにしてもよい(例えば、強度の最大値と最小値をそれぞれ触質パラメータとするなど)。また、1種類の対象情報を複数の区間に分割する際に、異なる方法に従って複数の区間に分割し、それぞれの方法で分割した分割区間の長さを触質パラメータとするようにしてもよい。
また、ここでは、複数種類の触質変換対象の入力情報から、強度に関する触質パラメータだけ、あるいは分割区間の長さに関する触質パラメータだけを特定する例について説明したが、本発明はこれに限定されない。例えば、複数種類の触質変換対象の入力情報から、強度に関する触質パラメータおよび分割区間の長さに関する触質パラメータの両方を組み合わせて特定するようにしてもよい。
その他、上記実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
10 触質コンテンツ記憶部
11,11’ 触質コンテンツ抽出部
12 触覚コンテンツ生成部
41 対象情報入力部
42 触質パラメータ特定部

Claims (12)

  1. それぞれが触感の一要素を表したn個(n≧2)の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、上記n個の触質パラメータの組み合わせに対応付けて記憶する触質コンテンツ記憶部と、
    上記n個の触質パラメータの組み合わせを複数組順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出する触質コンテンツ抽出部と、
    上記触質コンテンツ抽出部により順に抽出された上記複数の触質コンテンツが、2つ以上の異なる触質コンテンツの組み合わせから成るパターンの繰り返しを有するか否かを判定し、繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成する触覚コンテンツ生成部と、
    上記触覚コンテンツ生成部により生成された上記触覚コンテンツを、内部の記憶媒体、リムーバル記憶媒体または外部機器に記憶させる触覚コンテンツ記憶部とを備えたことを特徴とする触覚コンテンツ生成装置。
  2. 触質変換対象の情報を入力する対象情報入力部と、
    上記対象情報入力部により入力された対象情報を複数に分割し、それぞれの分割区間から、情報の強度に関する触質パラメータおよび分割区間の長さに関する触質パラメータの少なくとも一方について、上記n個の触質パラメータを特定する触質パラメータ特定部とを更に備え、
    上記触質コンテンツ抽出部は、上記触質パラメータ特定部により上記それぞれの分割区間から特定された上記n個の触質パラメータの組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出することを特徴とする請求項1に記載の触覚コンテンツ生成装置。
  3. 触質変換対象の情報を入力する対象情報入力部と、
    上記対象情報入力部により入力された1種の対象情報を複数に分割し、それぞれの分割区間から、情報の強度に関する触質パラメータおよび分割区間の長さに関する触質パラメータを特定することにより、2個の触質パラメータの組み合わせを複数組特定する触質パラメータ特定部とを更に備え、
    上記触質コンテンツ抽出部は、上記触質パラメータ特定部により上記それぞれの分割区間から特定された上記2個の触質パラメータの組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出することを特徴とする請求項1に記載の触覚コンテンツ生成装置。
  4. 触質変換対象の情報を入力する対象情報入力部と、
    上記対象情報入力部により入力された複数種の対象情報をそれぞれ複数に分割し、上記複数種の対象情報のそれぞれの分割区間から、情報の強度に関する触質パラメータおよび分割区間の長さに関する触質パラメータの少なくとも一方を特定することにより、上記n個の触質パラメータの組み合わせを複数組特定する触質パラメータ特定部とを更に備え、
    上記触質コンテンツ抽出部は、上記触質パラメータ特定部により上記それぞれの分割区間から特定された上記n個の触質パラメータの組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出することを特徴とする請求項1に記載の触覚コンテンツ生成装置。
  5. 強度に相当する値が連続的または断続的に連なって成る対象情報を入力する対象情報入力部と、
    上記対象情報入力部により入力された上記対象情報を複数に分割し、それぞれの分割区間から、分割区間内の代表強度を第1の触質パラメータとして特定するとともに、上記分割区間の長さを第2の触質パラメータとして特定する触質パラメータ特定部とを備え、
    上記触質コンテンツ抽出部は、上記触質パラメータ特定部により上記それぞれの分割区間から特定された上記第1の触質パラメータおよび上記第2の触質パラメータの組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出することを特徴とする請求項1に記載の触覚コンテンツ生成装置。
  6. 上記触質コンテンツは、振動情報であることを特徴とする請求項1〜5の何れか1項に記載の触覚コンテンツ生成装置。
  7. 上記触質コンテンツは、アクチュエータの駆動情報であることを特徴とする請求項1〜5の何れか1項に記載の触覚コンテンツ生成装置。
  8. 上記触質コンテンツは、材質情報であることを特徴とする請求項1〜5の何れか1項に記載の触覚コンテンツ生成装置。
  9. それぞれが触感の一要素を表したn個(n≧2)の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、上記n個の触質パラメータの組み合わせに対応付けて記憶する触質コンテンツ記憶部を備えたコンピュータにおいて、触覚コンテンツを生成するための方法であって、
    上記コンピュータの触質コンテンツ抽出部が、上記n個の触質パラメータの組み合わせを複数組順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出するステップと、
    上記コンピュータの触覚コンテンツ生成部が、上記触質コンテンツ抽出部により順に抽出された上記複数の触質コンテンツが、2つ以上の異なる触質コンテンツの組み合わせから成るパターンの繰り返しを有するか否かを判定し、繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成するステップと、
    上記コンピュータの触覚コンテンツ記憶部が、上記触覚コンテンツ生成部により生成された上記触覚コンテンツを、内部の記憶媒体、リムーバル記憶媒体または外部機器に記憶させるステップとを有することを特徴とする触覚コンテンツ生成方法。
  10. 振動を媒体として所与の機能を発揮する機器であって、
    請求項6に記載の触覚コンテンツ生成装置を備え、
    上記触質コンテンツ記憶部から抽出した上記触質コンテンツをもとに生成した振動情報を上記振動の駆動源として利用することを特徴とする触覚コンテンツ利用機器。
  11. 振動を媒体として所与の機能を発揮する機器であって、
    請求項7に記載の触覚コンテンツ生成装置を備え、
    上記触質コンテンツ記憶部から抽出した上記触質コンテンツをもとに生成した駆動情報を上記アクチュエータの駆動源として利用することを特徴とする触覚コンテンツ利用機器。
  12. 振動を媒体として所与の機能を発揮する機器であって、
    請求項1に記載の触覚コンテンツ生成装置により生成された上記触覚コンテンツを記憶したリムーバル記憶媒体または外部機器と接続され、
    上記リムーバル記憶媒体または上記外部機器より取得される上記触覚コンテンツを上記振動の駆動源として利用することを特徴とする触覚コンテンツ利用機器。
JP2016164485A 2016-08-25 2016-08-25 触覚コンテンツ生成装置、触覚コンテンツ生成方法および触覚コンテンツ利用機器 Active JP6383765B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016164485A JP6383765B2 (ja) 2016-08-25 2016-08-25 触覚コンテンツ生成装置、触覚コンテンツ生成方法および触覚コンテンツ利用機器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016164485A JP6383765B2 (ja) 2016-08-25 2016-08-25 触覚コンテンツ生成装置、触覚コンテンツ生成方法および触覚コンテンツ利用機器

Publications (3)

Publication Number Publication Date
JP2018029802A JP2018029802A (ja) 2018-03-01
JP2018029802A5 JP2018029802A5 (ja) 2018-06-21
JP6383765B2 true JP6383765B2 (ja) 2018-08-29

Family

ID=61303091

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016164485A Active JP6383765B2 (ja) 2016-08-25 2016-08-25 触覚コンテンツ生成装置、触覚コンテンツ生成方法および触覚コンテンツ利用機器

Country Status (1)

Country Link
JP (1) JP6383765B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3557388A1 (en) * 2012-02-03 2019-10-23 Immersion Corporation Sound to haptic effect conversion system using waveform
US8860563B2 (en) * 2012-06-14 2014-10-14 Immersion Corporation Haptic effect conversion system using granular synthesis
US9898084B2 (en) * 2012-12-10 2018-02-20 Immersion Corporation Enhanced dynamic haptic effects
JP6527339B2 (ja) * 2015-01-27 2019-06-05 任天堂株式会社 振動信号生成プログラム、振動生成装置、振動生成システム、および振動信号生成方法

Also Published As

Publication number Publication date
JP2018029802A (ja) 2018-03-01

Similar Documents

Publication Publication Date Title
Huisman et al. The TaSSt: Tactile sleeve for social touch
Tan et al. Methodology for maximizing information transmission of haptic devices: A survey
Remache-Vinueza et al. Audio-tactile rendering: a review on technology and methods to convey musical information through the sense of touch
Varni et al. Interactive sonification of synchronisation of motoric behaviour in social active listening to music with mobile devices
Shim et al. palmScape: Calm and pleasant vibrotactile signals
JP6322780B1 (ja) 触覚コンテンツ生成装置、音響コンテンツ生成装置、音響再生装置、触覚コンテンツ生成方法および音響コンテンツ生成方法
Hassan et al. Authoring new haptic textures based on interpolation of real textures in affective space
Mullen et al. MindMusic: playful and social installations at the interface between music and the brain
Ujitoko et al. GAN-based fine-tuning of vibrotactile signals to render material surfaces
Dandu et al. Rendering spatiotemporal haptic effects via the physics of waves in the skin
Sabnis et al. Tactile Symbols with Continuous and Motion-Coupled Vibration: An Exploration of using Embodied Experiences for Hermeneutic Design
JP6383765B2 (ja) 触覚コンテンツ生成装置、触覚コンテンツ生成方法および触覚コンテンツ利用機器
WO2018139150A1 (ja) マスク型振動マッサージ装置
McGowan et al. Cymasense: A real-time 3d cymatics-based sound visualisation tool
Luciani et al. Ergotic sounds: A new way to improve playability, believability and presence of virtual musical instruments
Kiefer A Malleable Interface for Sonic Exploration.
WO2020158036A1 (ja) 情報処理装置
JP6401758B2 (ja) 触質コンテンツ生成装置、触質コンテンツ生成方法および触質コンテンツ利用機器
Burger et al. Communication of musical expression by means of mobile robot gestures
JP6660637B2 (ja) 触質情報処理装置および触質情報処理方法
JP6644293B1 (ja) コンテンツ供給装置、コンテンツ提供システム、コンテンツ提供サーバ装置、コンテンツ提供方法およびコンテンツ提供用プログラム
JP2020078446A (ja) バイブレーション装置
Winters et al. Hearing Artificial Intelligence: Sonification Guidelines & Results From a Case-Study in Melanoma Diagnosis
Papetti Design and perceptual investigations of audio-tactile interactions
Sun et al. PalmBeat: A Kinesthetic Way to Feel Groove With Music

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180514

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180514

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180514

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180601

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180626

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180706

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180724

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180806

R150 Certificate of patent or registration of utility model

Ref document number: 6383765

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250