JP2016123075A - 高帯域幅の触覚効果の音声増幅シミュレーション - Google Patents

高帯域幅の触覚効果の音声増幅シミュレーション Download PDF

Info

Publication number
JP2016123075A
JP2016123075A JP2015218529A JP2015218529A JP2016123075A JP 2016123075 A JP2016123075 A JP 2016123075A JP 2015218529 A JP2015218529 A JP 2015218529A JP 2015218529 A JP2015218529 A JP 2015218529A JP 2016123075 A JP2016123075 A JP 2016123075A
Authority
JP
Japan
Prior art keywords
haptic effect
audio
signal
effect signal
actuator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015218529A
Other languages
English (en)
Inventor
クリストファー ジェイ. ウルリッチ
j ulrich Christopher
クリストファー ジェイ. ウルリッチ
ウィリアム エス. リーン
S Rihn William
ウィリアム エス. リーン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Immersion Corp
Original Assignee
Immersion Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Immersion Corp filed Critical Immersion Corp
Publication of JP2016123075A publication Critical patent/JP2016123075A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B6/00Tactile signalling systems, e.g. personal calling systems
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/28Output arrangements for video game devices responding to control signals received from the game device for affecting ambient conditions, e.g. for vibrating players' seats, activating scent dispensers or affecting temperature or light
    • A63F13/285Generating tactile feedback signals via the game input device, e.g. force feedback
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/54Controlling the output signals based on the game progress involving acoustic signals, e.g. for simulating revolutions per minute [RPM] dependent engine sounds in a driving game or reverberation against a virtual wall
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/013Force feedback applied to a game
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/014Force feedback applied to GUI
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures

Abstract

【課題】システムは、少なくとも1つのアクチュエータと少なくとも1つのスピーカとを用いて触覚効果の生成を提供する。
【解決手段】システムは、高品位(「HD」)触覚効果信号と、音声が再生される場合には対応する音声信号とを受信する。システムは、少なくともHD触覚効果信号に基づいて標準品位(「SD」)触覚効果信号を生成し、かつ少なくともHD触覚効果信号に基づいて音声ベースの触覚効果信号を生成する。システムは、音声信号と音声ベースの触覚効果信号とを混合し、次いで、実質的に同時に、アクチュエータでSD触覚効果信号を再生し、かつ混合信号をスピーカで再生する。
【選択図】図1

Description

一実施形態は、一般に触覚効果、具体的には高品位/高帯域幅の触覚効果を対象とする。
電子機器の製造者は、ユーザにとって豊かなインターフェースを製造しようと努力している。従来の機器は、視覚的および聴覚的合図を用いてユーザにフィードバックを提供する。一部のインターフェース機器では、運動感覚フィードバック(作用力および抵抗力によるフィードバックなど)および/または触知フィードバック(振動、触感、熱など)もユーザに提供され、より一般的には、総称して「触覚フィードバック」または「触覚効果」と呼ばれる。触覚フィードバックは、ユーザインターフェースを強化および単純化する合図を提供できる。具体的には、振動効果、すなわち振動触覚効果は、電子機器のユーザに合図を提供することで、ユーザに特定のイベントを通知したり、現実的なフィードバックを提供して、シミュレート環境または仮想環境内で感覚をより高めるのに有用である。
振動効果を生成するために、多くの装置では、ある種のアクチュエータまたは触覚出力装置を利用する。この目的に使用される既知の触覚出力装置には、モータで偏心質量を移動させる偏心回転質量(Eccentric Rotating Mass 「ERM」)、ばねに取り付けられた質量が前後に駆動されるリニア振動アクチュエータ(Linear Resonant Actuator 「LRA」)、または、圧電性高分子、電気活性高分子、もしくは形状記憶合金などの「スマート材料」が挙げられる。触覚出力装置としては、大まかに、静電摩擦(electrostatic friction 「ESF」)、超音波表面摩擦(ultrasonic surface friction 「USF」)を使用するもの、または超音波触覚変換器を用いて音響放射圧を誘導するもの、または触覚基板と柔軟性表面もしくは可変表面とを使用するもの、またはエアジェットを用いたエア吐き出しなどの射出触覚出力を提供するものなど、非機械的または非振動型の装置が挙げられる。
スマートフォンやタブレットといった最近の高解像度モバイル機器の開発に伴い、現在ユーザは、これまでは映画館、テレビ、またはホームシアターシステムでしか見られなかった高品位の音声や映像を携帯端末で視聴することができる。音声および映像ンテンツコンポーネントに加えて触覚コンテンツコンポーネントがあれば、これまでの経験から、触覚的に使用可能なモバイル機器を用いて、コンテンツ視聴が十分に強化され、視聴者はそれを楽しむ。しかしながら、高品位の音声/映像に対応するには、相応の高品位または高帯域幅の触覚効果も生成する必要がある。
一実施形態は、少なくとも1つのアクチュエータと少なくとも1つのスピーカとを用いて触覚効果を生成するシステムである。システムは、高品位(high definition HD)触覚効果信号と、音声が再生される場合には対応する音声信号とを受信する。システムは、少なくともHD触覚効果信号に基づいて標準品位(standard definition 「SD」)触覚効果信号を生成し、かつ少なくともHD触覚効果信号に基づいて音声ベースの触覚効果信号を生成する。システムは、音声信号と音声ベースの触覚効果信号とを混合し、次いで、実質的に同時に、アクチュエータでSD触覚効果信号を再生し、かつ混合信号をスピーカで再生する。
本発明の一実施形態による触覚的に使用可能なシステム/装置のブロック図である。 本発明の実施形態による図1のシステムの機能の流れ図である。 一実施形態による図1のシステムなどの標的装置のためにシステム同定またはプラントモデルを決定するプロセスの説明である。 本発明の実施形態による図1のシステムの機能の流れ図である。 本発明の実施形態による図1のシステムの機能の流れ図である。
一実施形態では、アクチュエータが「標準品位」アクチュエータであっても、アクチュエータとスピーカとが一緒に配置された装置で、高帯域幅/高品位(high bandwidth/definition)(「HD」)触覚効果を生成する。音声コンポーネントは、装置のプラントモデルに基づいて、アクチュエータが生成した触覚効果を増幅する装置のケーシングを振動させることによって、スピーカに振動触覚効果を生成させるものとされる。アクチュエータとスピーカとによって生成される触覚効果の組み合わせが累積触覚効果を引き起こし、高帯域幅の触覚効果となる。したがって、音声スピーカと連動する標準品位アクチュエータの高速応答と強度を利用し、ユーザに向けてHDのような体験を生成する。
図1は、本発明の一実施形態による触覚的に使用可能なシステム/装置10のブロック図である。システム10は、ハウジング15内に搭載された接触感知面11または他の種類のユーザインターフェースを含み、かつ機械式キー/ボタン13を含むことができる。
システム10の内部は、システム10で触覚効果を生成する触覚フィードバックシステムであり、プロセッサまたはコントローラ12を含む。プロセッサ12にはメモリ20とアクチュエータ駆動回路16が接続されており、アクチュエータ駆動回路16にはアクチュエータ18が接続されている。プロセッサ12は、任意の種類の汎用プロセッサであってよく、または、特定用途向け集積回路(「ASIC」)などの、触覚効果を提供するよう明確に設計されたプロセッサであってもよい。プロセッサ12は、システム10全体を動作するプロセッサと同じプロセッサであっても、別個のプロセッサであってもよい。プロセッサ12は、高次元パラメータに基づいて、再生すべき触覚効果や、再生する効果の順番を決定できる。一般に、特定の触覚効果を定義する高次元パラメータは、大きさ、周波数、継続時間を含む。また、ストリーミングモータコマンドなどの低次元パラメータを使用して、特定の触覚効果を決定してもよい。触覚効果が生成されるときのこれらのパラメータの一部の変化、またはユーザの相互作用に基づくこれらのパラメータの変化を含む場合、触覚効果は「動的」と見すことができる。一実施形態における触覚フィードバックシステムは、システム10で振動30、31、または他の種類の触覚効果を生成する。
プロセッサ12は制御信号をアクチュエータ駆動回路16に出力する。アクチュエータ駆動回路16は、必要な電流と電圧(すなわち、「モータ信号」)をアクチュエータ18に供給して所望の触覚効果を引き起こすのに使用される電子部品と回路機構とを備える。システム10は1つ以上のアクチュエータ18を備えてよく、各アクチュエータは、共通のプロセッサ12にすべて接続された別個の駆動回路16を備えてよい。
システム10は、少なくとも1つのスピーカ26と、プロセッサ12に接続された対応するスピーカドライバ25とをさらに備える。スピーカ26は、電気的音声信号を対応する音に変換することによって音声出力27を生成する、任意の種類の音声スピーカ、またはラウドスピーカ、または電気音響変換器であり得る。周知の通り、音声27の生成と同時に、スピーカ26は、例えばシステム10のハウジング/ケーシングを振動させることによって、システム10で振動28を生成する。システム10と接しているユーザが振動28を感じる程度は、システム10の物理的構造、すなわち「プラントモデル」にある程度依存する。
メモリ20は、ランダムアクセスメモリ(「RAM」)もしくは読み出し専用メモリ(「ROM」)などの任意の種類の記憶装置またはコンピュータ可読媒体であってよい。メモリ20は、プロセッサ12によって実行された命令を記憶する。メモリ20は、命令の中に音声触覚シミュレーションモジュール22を含む。これは、プロセッサ12によって実行されると、スピーカ28とアクチュエータ18とを用いて高帯域幅の触覚効果を生成する命令であり、以下でさらに詳細に開示する。メモリ20は、プロセッサ12の内部、または内部メモリと外部メモリとの組み合わせの内部に配置してもよい。
システム10は、任意の種類の携帯/モバイル機器、例えば携帯電話、携帯情報端末(「PDA」)、スマートフォン、タブレット型コンピュータ、ゲーム機、リモコン、または、1つ以上のアクチュエータと1つ以上のスピーカとを備える触覚効果システムを備える任意の他の種類の装置であってよい。システム10は、リストバンド、ヘッドバンド、眼鏡、指輪、レッグバンド、衣類の装飾などのウェアラブルデバイス、または付属具や車両用ステアリングホイールを含む、ユーザが身体に装着できるか、もしくはユーザが手に持つことができ、かつ触覚的に使用可能な任意の他の種類の装置であってよい。さらに、システム10の要素または機能の一部は、離れた場所に配置するか、またはシステム10の残りの要素と通信している別の装置に実装してもよい。
アクチュエータ18は、触覚効果を生成できる任意の種類のアクチュエータであってよい。一実施形態では、アクチュエータ18は単一の周波数で振動触覚効果を生成する「標準品位」(standard definition「SD」)アクチュエータである。SDアクチュエータの例として、偏心回転質量モータ(eccentric rotating mass motor 「ERM」)やリニア振動アクチュエータ(linear resonant actuator 「LRA」)が挙げられる。SDアクチュエータに対し、HDアクチュエータまたは高忠実度アクチュエータ、例えば圧電性アクチュエータもしくは電気活性ポリマー(electroactive polymer 「EAP」)アクチュエータは、複数の周波数で高帯域幅/高品位の触覚効果を生成することができる。HDアクチュエータは、変動振幅と、過渡駆動信号に対する高速応答とを有する広帯域幅のタクタイル効果をもたらすことができるのが特徴である。しかしながら、HDアクチュエータは、SDアクチュエータと比べて物理的寸法が大きく、SDアクチュエータよりも高価である。そのため、たいていの装置は、HDアクチュエータの代わりに1つのみまたは複数のSDアクチュエータを備える。したがって、本発明の実施形態は、それらの装置における既存の1つまたは複数のスピーカとSDアクチュエータとを組み合わせて活用することで、HD触覚効果をシミュレートし、HDアクチュエータを必要とせずにHD様触覚経験をもたらす。
アクチュエータ18に加えて、またはアクチュエータ18の代わりに、システム10は他の種類の触覚出力装置(図示せず)を備えてもよい。他の種類の触覚出力装置は、非機械的または非振動的な装置、例えば、静電摩擦(「ESF」)、超音波表面摩擦(「USF」)を用いる装置、超音波触覚変換器を用いて音響放射圧を誘導する装置、触覚基板および柔軟表面もしくは可変表面、または形状変形装置を用いて、ユーザの身体に装着できる装置、エアジェットを用いた空気の吹き出しなどの投射触覚出力を提供する装置などであってよい。
図2は、本発明の実施形態による図1のシステム10の機能の流れ図である。一実施形態では、図2(および以下の図4aと4b)の流れ図の機能は、メモリ、または他のコンピュータ可読媒体もしくは有形媒体に収納されたソフトウェアに実装され、プロセッサによって実行される。別の実施形態において、機能はハードウェアで(例えば、特定用途向け集積回路(application specific integrated circuit 「ASIC」)、プログラマブルゲートアレイ(programmable gate array 「PGA」)、フィールドプログラマブルゲートアレイ(field programmable gate array 「FPGA」)などの使用を通じて)実行できる。
201ではHD触覚効果信号が受信される。HD信号は、Immersion Corp.の「TouchSense Studio(登録商標)」などの既知のツール、またはAvid Technology,Inc.の「Pro Tools」などの業界標準音声生成ツールを用いて触覚効果デザイナが作成できる。SD触覚効果信号と比べて、HD触覚効果信号は、触覚帯域幅が広く(例えば、1〜350Hz)、領域が広く、強度、精度およびサンプリングレートが高い。201のHD信号は、例えば音声/映像から触覚効果への自動変換ツールを用いて、または粒状合成、物理的合成などの触覚−音声合成アルゴリズムを用いて既知の方法でも生成できる。別の実施形態では、HD信号は、高解像度信号、広帯域加速度信号、および/または音声信号を取得する1つ以上のセンサを用いることによって得られる。HD信号は、「YHD(t)」の形式であり、このときYはHD信号の時間「t」による振幅である。
202で音声信号が受信される。音声信号およびHD信号は、相互に補完し合うことを目的とし、映像が利用可能な場合には同じ映像表示に対応する。HD信号は、音声信号と連動して生成される。別の実施形態では、音声信号は必要なく、HD信号のみ再生される。
203でSD信号はHD信号から抽出される。得られる信号は、例えばLRA共振を除去するノッチフィルタを使用することによって決定される「YHD−SD(t)」(すなわち、HD信号からSD信号を引く)と、信号振幅(すなわち、音声ベースの触覚効果信号)を計算することによって決定されるYSD(t)(すなわち、SD信号)である。他の種類のSDアクチュエータでは、線形フィルタリングおよび非線形フィルタリングなど、他のSD抽出アルゴリズムが必要な場合もある。
205でSD信号はモータ信号に変換され、206でモータ信号は触覚ドライバに送信され、そこでLRAアクチュエータなどのSDアクチュエータを用いてSD振動触覚効果に変換される。
204で、HD部分からSD部分を引いたフィルタリングした信号は、音声入力に変換され、スピーカが音声を再生するとき、この音声入力が、触覚効果のHDコンポーネントをスピーカに生成させる。一般に、フィルタは、「YHD−SD(t)*h(t)」の関数を適用し、音声信号「Y触覚−音声(t)」を生成する。これは、システム10で音声システム28によって生成される加速度を求める、フィルタリングしたHD信号YHD−SD(t)と逆プラントモデルとの畳み込み積である。フィルタと関数は、システム10などの標的装置(すなわち、アクチュエータとスピーカとを備え、かつ触覚効果が生成される装置)の決定されたプラントモデルに基づく。しかしながら、所望の加速度を生成する音声信号を生成する他の方法も使用できる。例えば、ルックアップテーブル、フィードフォワードシステムモデル、ニューラルネットワーク、または他のシステム推定技術を使用できる。
208で、204で生成された音声ベースの触覚効果信号Y触覚−音声(t)と、202の対応する入力音声信号(音声信号が再生される場合)とを、任意選択でイコライザを使用して混合し、207の音声ドライバに送信すると、混合された音声信号がスピーカによって再生される。204のフィルタまたは207の音声ドライバは、202の音声信号とフィルタリングした出力Y触覚−音声(t)との間で重複する周波数を均一化し、得られる音圧レベルと誘導加速度の両方を維持する必要があるかもしれない。
図2と併せて説明したように、204のフィルタリングは、入力時に、触覚効果を生成することになる標的装置のプラントモデルを必要とする。プラントモデルは、標的装置の、測定された、またはモデル化された周波数応答特性に基づく入出力システムモデルである。プラントモデルは、システム同定、「音響モデル」、または「触覚スピーカモデル」を用いたフィルタ/イコライザパラメータの推定とも称される。システム同定のフィールドは統計的方法を使用し、測定したデータから動的システムの数学モデルを作成する。システム同定は、そうしたモデルのフィッティングおよびモデル縮小のための有益なデータを効率的に生成する最適な実験計画も含む。
図3は、一実施形態によるシステム10などの標的装置のためにシステム同定またはプラントモデルを決定するプロセスを説明する。音声インパルスに対する加速度応答を取得する音声システムのためにインパルス応答が取得される。システム10が線形応答を有するとすれば、このインパルス応答301を、図3に示すように、図2の204でフィルタを作成するのに直接用いることができる。まず、Z変換(302)を用いてインパルス応答を変換し、プラントモデルを作成する。次いで、プラントモデルを反転し(303)、線形システムダイナミクスの逆を表すことができるZ空間関数を作成する。この関数は「逆伝達関数(inverse transfer function)」とも称される。最終的に、逆伝達関数を逆変換し(304)、逆システムダイナミクスを表すフィルタを作成する。301が音声刺激から加速度への変換を表すのに対し、304のフィルタは、標的加速度を音声に変換する(すなわち、加速度に対してシステム10の逆を表す)。これは入出力モデル(すなわち、プラントモデル)であり、ここで、「h(t)」は、畳み込みY触覚−音声(t)=YHD−SD(t)*h(t)を用いて図2の204で触覚信号に適用できる離散時間フィルタである。
図4aおよび4bは、本発明の実施形態による図1のシステム10の機能の流れ図である。図4aは、「オフライン」の実施形態と見なすことができ、図4bは「オンライン」または「リアルタイム」の実施形態と見なすことができる。
402で、作成者またはコンテンツクリエイタは、利用可能なコンテンツオーサリングツールを用いて新しいHD触覚効果を作成する。HD効果は、音声変換ツールを用いて、または直接合成を用いて作成できる。音声変換ツールの一例が、Immersion Corp.の「TouchSense Studio(登録商標)」である。別の実施形態では、低周波信号を有する音声効果は402で作成でき、これはSD触覚効果に相当する。この実施形態では、TouchSense Studio(登録商標)の代わりに、例えば、コンテンツ作成者はPro Toolsなどの音声ワークフローで作業してもよい。作成者はHD低周波信号を直接作成してもよい(例えば、「5.1」サラウンド音声における「0.1」信号)。作成者は、0.1トラックが、SDアクチュエータを直接駆動する正しい混合信号を含むように信号を作成することでき、かつ上に開示したように、装置に搭載されたスピーカを用いてHD効果を作成できる。
別の実施形態では、コンテンツ作成者は、音声ツールでHD音声を直接制作でき、かつ音声ツールまたはTouchSense Studio(登録商標)を用いてSD効果を生成できる。この実施形態では、SD信号とHD信号とがすでに異なっているため、図2の204でフィルタリングが不要である。
403で標的装置を選択する。403で選択される、記憶されるそれぞれの標的装置ついて、対応するプラントモデル、各アクチュエータの種類/数/位置、および/または各スピーカの種類/数/位置が記憶される。一実施形態では、コンテンツオーサリングツールまたは後処理ツールでエクスポートフィルタを用いて、ユーザは、効果を展開する特定の標的装置(例えば、Galaxy S5、Galaxy Gear、Apple Watchなど)を選択できる。
404で、モデルプラント反転を用いて標的装置信号を生成する。標的装置信号は、Y触覚−音声(t)(すなわち、音声ベースの触覚信号)と、図2に示すY触覚−音声(t)(すなわち、SD触覚信号)である。実施形態では、事前に作成した標的装置の機械式モデルと音響モデルとを使用し、HD効果を、機械式アクチュエータを用いてレンダリングされるコンポーネントと、スピーカを用いてを用いてレンダリングされるコンポーネントとに分割する。これは、一実施形態では、上述のように、伝達関数、反復/最適化、および他のモデルベースの信号変換を用いて実現できる。生成された2つの触覚信号は、適切なエンコーディングを用いて、例えば音声信号を.wavファイルとして保存するステップ、および触覚信号を.haptファイルとして保存するステップを用いて保存する。
触覚効果と同時に音声を再生する場合、405で音声−触覚信号を他の同時音声と混合する。
406で音声−触覚信号(すなわち、Y触覚−音声(t))と触覚信号(すなわち、Y触覚−音声(t))とを、ソフトウェア開発キット(「SDK」)または他のプログラミング方法を用いて、実行時に標的装置で同時に、または実質的に同時に再生する。
図4bの402では、HD触覚効果は、図4aの402のように作成される。
413で、HD触覚効果は無損失エンコーディング(例えば、.ivtエンコーディング)にエクスポートされる。
414で、再生時に、特定の標的装置用に設定されたプラントモデルを使用し、リアルタイムで、または実質的にリアルタイムで機械的駆動信号と音響的駆動信号とを生成する。これは伝達関数、反復/最適化、および他のリアルタイムベースの信号変換を用いて実現できる。
405および406は、図4aの405および406と同じ機能である。
別の実施形態では、SD触覚効果と触覚−音声効果は、プロセスの最初で(すなわち、図4aの402の代わりに)直接作成される。この実施形態では、図4aの403と404は省略でき、405と406を実行して触覚効果を再生する。
開示したように、実施形態ではSD触覚効果と音声ベースの触覚効果を受け取る。SD触覚効果はアクチュエータによって再生され、このアクチュエータはSDアクチュエータであってよい。音声ベースの触覚効果は、対応する音声と同時にスピーカによって再生される。アクチュエータとスピーカによって生成される振動触覚効果の組み合わせは、HDアクチュエータを必要とせずに、広帯域幅を有するHD様触覚効果を提供する。
いくつかの実施形態を、本明細書に具体的に説明および/または記述している。しかしながら、開示した実施形態の修正および変形は、本発明の精神と意図された範囲から逸脱することなく、上記の教示および添付の特許請求の範囲に含まれることが理解されよう。

Claims (29)

  1. 少なくとも1つのアクチュエータと少なくとも1つのスピーカとを備える装置で触覚効果を生成する方法であって、
    高品位(HD)触覚効果信号を受信するステップと、
    少なくともHD触覚効果信号に基づいて標準品位(SD)触覚効果信号を生成するステップと、
    少なくとも前記HD触覚効果信号に基づいて音声ベースの触覚効果信号を生成するステップと、
    実質的に同時に、前記アクチュエータで前記SD触覚効果信号を再生し、かつ前記スピーカで前記音声ベースの触覚効果を再生するステップと、
    を有する方法。
  2. 音声信号を受信するステップと、
    前記音声信号と前記音声ベースの触覚効果信号とを混合するステップと、
    をさらに含む方法であって、
    前記スピーカで前記音声ベースの触覚効果を再生するステップが、前記スピーカで混合信号を再生するステップを含む、
    請求項1に記載の方法。
  3. 前記SD触覚効果信号は、単一の周波数からなる、請求項1に記載の方法。
  4. 前記音声ベースの触覚効果信号は、複数の周波数を含む、請求項1に記載の方法。
  5. 前記音声ベースの触覚効果信号は、前記装置のプラントモデルを決定すること、及び前記プラントモデルに基づいて前記音声ベースの触覚効果信号を変換することによって生成される、請求項1に記載の方法。
  6. 前記SD触覚効果信号は、前記HD触覚効果信号からの抽出によって生成される、請求項1に記載の方法。
  7. 前記アクチュエータは、リニア振動アクチュエータである、請求項1に記載の方法。
  8. 前記HD触覚効果信号は、オーサリングツールを用いて生成される、請求項5に記載の方法。
  9. 前記装置のプラントモデルを決定するステップは、前記オーサリングツールで標的装置を選択するステップを含み、前記音声ベースの触覚効果信号を生成するステップは、前記オーサリングツールによって実行される、請求項8に記載の方法。
  10. 前記音声ベースの触覚効果信号を生成するステップは、前記装置によって実行される、請求項1に記載の方法。
  11. 前記混合するステップは、前記音声信号と前記音声ベースの触覚効果信号との間で重複する周波数を均一化するステップを含む、請求項2に記載の方法。
  12. プロセッサで実行されるとき、前記プロセッサに、少なくとも1つのアクチュエータと少なくとも1つのスピーカとを備える装置で触覚効果を生成させる命令を記憶したコンピュータ可読媒体であって、前記触覚効果を生成するステップは、
    高品位(HD)触覚効果信号を受信するステップと、
    少なくともHD触覚効果信号に基づいて標準品位(SD)触覚効果信号を生成するステップと、
    少なくとも前記HD触覚効果信号に基づいて音声ベースの触覚効果信号を生成するステップと、
    実質的に同時に、前記アクチュエータで前記SD触覚効果信号を再生し、かつ前記スピーカで前記音声ベースの触覚効果を再生するステップと、
    を含む、コンピュータ可読媒体。
  13. 前記触覚効果を生成するステップは、
    音声信号を受信するステップと、
    前記音声信号と前記音声ベースの触覚効果信号とを混合するステップと、
    をさらに含み、
    前記スピーカで前記音声ベースの触覚効果を再生するステップは、前記スピーカで混合信号を再生するステップを含む、
    請求項12に記載のコンピュータ可読媒体。
  14. 前記SD触覚効果信号は、単一の周波数からなる、請求項12に記載のコンピュータ可読媒体。
  15. 前記音声ベースの触覚効果信号は、複数の周波数を含む、請求項12に記載のコンピュータ可読媒体。
  16. 前記音声ベースの触覚効果信号は、前記装置のプラントモデルを決定すること、及び前記プラントモデルに基づいて前記音声ベースの触覚効果信号を変換することによって生成される、請求項12に記載のコンピュータ可読媒体。
  17. 前記SD触覚効果信号は、前記HD触覚効果信号からの抽出によって生成される、請求項12に記載のコンピュータ可読媒体。
  18. 前記アクチュエータは、リニア振動アクチュエータである、請求項12に記載のコンピュータ可読媒体。
  19. 前記HD触覚効果信号は、オーサリングツールを用いて生成される、請求項16に記載のコンピュータ可読媒体。
  20. 前記装置のプラントモデルを決定するステップは、前記オーサリングツールで標的装置を選択するステップを含み、前記音声ベースの触覚効果信号を生成するステップは、前記オーサリングツールによって実行される、請求項19に記載のコンピュータ可読媒体。
  21. 前記音声ベースの触覚効果信号を生成するステップは、前記装置によって実行される、請求項12に記載のコンピュータ可読媒体。
  22. 混合するステップは、音声信号と前記音声ベースの触覚効果信号との間で重複する周波数を均一化するステップを含む、請求項12に記載のコンピュータ可読媒体。
  23. 少なくとも1つのアクチュエータと、
    少なくとも1つのスピーカと、
    少なくとも受信された高品位(HD)触覚効果信号に基づいて標準品位(SD)触覚効果信号を生成するエクストラクタと、
    少なくとも前記HD触覚効果信号に基づいて音声ベースの触覚効果信号を生成するフィルタと、
    実質的に同時に、前記アクチュエータで前記SD触覚効果信号を再生し、かつ前記スピーカで前記音声ベースの触覚効果を再生するプレーヤと、
    を含む、触覚的に使用可能な装置。
  24. 音声信号と前記音声ベースの触覚効果信号とを混合するミキサをさらに含み、
    前記スピーカで前記音声ベースの触覚効果を再生することは、前記スピーカで混合信号を再生することを含む、
    請求項23に記載の装置。
  25. 前記SD触覚効果信号は、単一の周波数からなる、請求項23に記載の装置。
  26. 前記音声ベースの触覚効果信号は、複数の周波数を含む、請求項23に記載の装置。
  27. 前記音声ベースの触覚効果信号は、前記装置のプラントモデルを決定すること、及び前記プラントモデルに基づいて前記音声ベースの触覚効果信号を変換することによって生成される、請求項23に記載の装置。
  28. 前記ミキサは、前記音声信号と前記音声ベースの触覚効果信号との間で重複する周波数を均一化するイコライザをさらに含む、請求項24に記載の装置。
  29. 前記アクチュエータは、リニア振動アクチュエータまたは偏心回転質量モータである、請求項23に記載の装置。

JP2015218529A 2014-12-24 2015-11-06 高帯域幅の触覚効果の音声増幅シミュレーション Pending JP2016123075A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US14/582,404 2014-12-24
US14/582,404 US9891714B2 (en) 2014-12-24 2014-12-24 Audio enhanced simulation of high bandwidth haptic effects

Publications (1)

Publication Number Publication Date
JP2016123075A true JP2016123075A (ja) 2016-07-07

Family

ID=54544946

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015218529A Pending JP2016123075A (ja) 2014-12-24 2015-11-06 高帯域幅の触覚効果の音声増幅シミュレーション

Country Status (5)

Country Link
US (2) US9891714B2 (ja)
EP (1) EP3040810B1 (ja)
JP (1) JP2016123075A (ja)
KR (1) KR20160078226A (ja)
CN (1) CN105739674A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10758821B2 (en) 2017-11-10 2020-09-01 Bandai Namco Entertainment Inc. Operation input system, operation input device, and game system for adjusting force feedback control

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10699538B2 (en) 2016-07-27 2020-06-30 Neosensory, Inc. Method and system for determining and providing sensory experiences
US10198076B2 (en) 2016-09-06 2019-02-05 Neosensory, Inc. Method and system for providing adjunct sensory information to a user
EP3907734B1 (en) * 2016-11-14 2022-11-02 Goodix Technology (HK) Company Limited Linear resonant actuator controller
US10104471B2 (en) * 2016-11-30 2018-10-16 Google Llc Tactile bass response
WO2018151770A1 (en) 2017-02-16 2018-08-23 Neosensory, Inc. Method and system for transforming language inputs into haptic outputs
US10744058B2 (en) 2017-04-20 2020-08-18 Neosensory, Inc. Method and system for providing information to a user
US10732714B2 (en) 2017-05-08 2020-08-04 Cirrus Logic, Inc. Integrated haptic system
KR101899538B1 (ko) * 2017-11-13 2018-09-19 주식회사 씨케이머티리얼즈랩 햅틱 제어 신호 제공 장치 및 방법
US10360774B1 (en) * 2018-01-05 2019-07-23 Immersion Corporation Method and device for enabling pitch control for a haptic effect
IT201800002274A1 (it) * 2018-01-31 2019-07-31 Wugim Set S R L Dispositivo per la stimolazione vibroacustica
US10832537B2 (en) * 2018-04-04 2020-11-10 Cirrus Logic, Inc. Methods and apparatus for outputting a haptic signal to a haptic transducer
US11269415B2 (en) * 2018-08-14 2022-03-08 Cirrus Logic, Inc. Haptic output systems
US20220050525A1 (en) * 2018-09-18 2022-02-17 Sony Corporation Sensation induction device and sound output system
GB201817495D0 (en) 2018-10-26 2018-12-12 Cirrus Logic Int Semiconductor Ltd A force sensing system and method
EP3677996B1 (en) 2019-01-07 2022-03-23 Goodix Technology (HK) Company Limited Audio-haptic signal generator
US10992297B2 (en) 2019-03-29 2021-04-27 Cirrus Logic, Inc. Device comprising force sensors
US11509292B2 (en) 2019-03-29 2022-11-22 Cirrus Logic, Inc. Identifying mechanical impedance of an electromagnetic load using least-mean-squares filter
US11644370B2 (en) 2019-03-29 2023-05-09 Cirrus Logic, Inc. Force sensing with an electromagnetic load
US10955955B2 (en) 2019-03-29 2021-03-23 Cirrus Logic, Inc. Controller for use in a device comprising force sensors
US10828672B2 (en) 2019-03-29 2020-11-10 Cirrus Logic, Inc. Driver circuitry
US20220113801A1 (en) * 2019-04-26 2022-04-14 Hewlett-Packard Development Company, L.P. Spatial audio and haptics
US10976825B2 (en) 2019-06-07 2021-04-13 Cirrus Logic, Inc. Methods and apparatuses for controlling operation of a vibrational output system and/or operation of an input sensor system
GB2604215B (en) 2019-06-21 2024-01-31 Cirrus Logic Int Semiconductor Ltd A method and apparatus for configuring a plurality of virtual buttons on a device
CN110312038B (zh) * 2019-06-28 2020-10-02 Oppo(重庆)智能科技有限公司 信息提示方法及装置、电子设备、计算机可读存储介质
US11467667B2 (en) 2019-09-25 2022-10-11 Neosensory, Inc. System and method for haptic stimulation
EP4046001A1 (en) * 2019-10-14 2022-08-24 Lofelt GmbH Systems and methods for authoring an audio signal and for transforming the authored audio signal into a haptic data file
US11408787B2 (en) 2019-10-15 2022-08-09 Cirrus Logic, Inc. Control methods for a force sensor system
US11467668B2 (en) 2019-10-21 2022-10-11 Neosensory, Inc. System and method for representing virtual object information with haptic stimulation
US11380175B2 (en) 2019-10-24 2022-07-05 Cirrus Logic, Inc. Reproducibility of haptic waveform
US11545951B2 (en) 2019-12-06 2023-01-03 Cirrus Logic, Inc. Methods and systems for detecting and managing amplifier instability
US11079854B2 (en) 2020-01-07 2021-08-03 Neosensory, Inc. Method and system for haptic stimulation
US11662821B2 (en) 2020-04-16 2023-05-30 Cirrus Logic, Inc. In-situ monitoring, calibration, and testing of a haptic actuator
CN112083807B (zh) * 2020-09-20 2021-10-29 吉林大学 一种基于音触转换的足部地形触觉再现方法及装置
US11497675B2 (en) 2020-10-23 2022-11-15 Neosensory, Inc. Method and system for multimodal stimulation
US11933822B2 (en) 2021-06-16 2024-03-19 Cirrus Logic Inc. Methods and systems for in-system estimation of actuator parameters
US11908310B2 (en) 2021-06-22 2024-02-20 Cirrus Logic Inc. Methods and systems for detecting and managing unexpected spectral content in an amplifier system
US11765499B2 (en) 2021-06-22 2023-09-19 Cirrus Logic Inc. Methods and systems for managing mixed mode electromechanical actuator drive
US11862147B2 (en) 2021-08-13 2024-01-02 Neosensory, Inc. Method and system for enhancing the intelligibility of information for a user
US20240045505A1 (en) * 2022-08-03 2024-02-08 Qualcomm Incorporated Audio and haptic signal processing

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6822635B2 (en) * 2000-01-19 2004-11-23 Immersion Corporation Haptic interface for laptop computers and other portable devices
US20040264705A1 (en) * 2003-06-30 2004-12-30 Nokia Corporation Context aware adaptive equalization of user interface sounds
US7791588B2 (en) * 2003-12-22 2010-09-07 Immersion Corporation System and method for mapping instructions associated with haptic feedback
US20060017691A1 (en) 2004-07-23 2006-01-26 Juan Manuel Cruz-Hernandez System and method for controlling audio output associated with haptic effects
WO2006067751A1 (en) * 2004-12-21 2006-06-29 Retract A Canopy (Pty) Ltd A canopy for an open load carrying vehicle
JP5025721B2 (ja) * 2006-04-06 2012-09-12 イマージョン コーポレイション 触覚効果強化のためのシステムおよび方法
US8621348B2 (en) * 2007-05-25 2013-12-31 Immersion Corporation Customizing haptic effects on an end user device
EP2417776A1 (en) * 2009-04-10 2012-02-15 Immerz Inc. Systems and methods for acousto-haptic speakers
US8710968B2 (en) * 2010-10-07 2014-04-29 Motorola Mobility Llc System and method for outputting virtual textures in electronic devices
US9448626B2 (en) * 2011-02-11 2016-09-20 Immersion Corporation Sound to haptic effect conversion system using amplitude value
JP6081705B2 (ja) 2012-02-03 2017-02-15 イマージョン コーポレーションImmersion Corporation 波形を利用した音響−触覚効果変換システム
EP3321780A1 (en) * 2012-02-15 2018-05-16 Immersion Corporation High definition haptic effects generation using primitives
US9143858B2 (en) * 2012-03-29 2015-09-22 Csr Technology Inc. User designed active noise cancellation (ANC) controller for headphones
US9128523B2 (en) * 2012-12-20 2015-09-08 Amazon Technologies, Inc. Dynamically generating haptic effects from audio data
US9158379B2 (en) 2013-09-06 2015-10-13 Immersion Corporation Haptic warping system that transforms a haptic signal into a collection of vibrotactile haptic effect patterns
US9245429B2 (en) 2013-09-06 2016-01-26 Immersion Corporation Haptic warping system

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10758821B2 (en) 2017-11-10 2020-09-01 Bandai Namco Entertainment Inc. Operation input system, operation input device, and game system for adjusting force feedback control

Also Published As

Publication number Publication date
US20160187987A1 (en) 2016-06-30
US20180164896A1 (en) 2018-06-14
KR20160078226A (ko) 2016-07-04
EP3040810A1 (en) 2016-07-06
US9891714B2 (en) 2018-02-13
CN105739674A (zh) 2016-07-06
US10429933B2 (en) 2019-10-01
EP3040810B1 (en) 2019-08-21

Similar Documents

Publication Publication Date Title
US10429933B2 (en) Audio enhanced simulation of high bandwidth haptic effects
JP6434669B2 (ja) 低周波数効果ハプティック変換システム
JP6730398B2 (ja) 複数のアクチュエータを用いた音からハプティック効果への変換システム
EP2703951B1 (en) Sound to haptic effect conversion system using mapping
JP2020173821A (ja) ストリームに依存しない音をハプティック効果に変換するシステム
EP2624099B1 (en) Method and system for sound to haptic effect conversion using waveform
US20190267043A1 (en) Automated haptic effect accompaniment
JP6757853B2 (ja) 知覚可能な低音レスポンス
JP2018513430A (ja) スローモーションのためのハプティック効果の修正
US8494206B2 (en) Electronic device and method thereof
JP2017506008A (ja) 自己回帰モデルを用いて触覚係数を発生するための方法、そのような係数を再生するための信号およびデバイス
JPWO2020003728A1 (ja) 符号化装置、符号化方法、復号装置、復号方法、プログラム
WO2020176383A1 (en) Audio data with embedded tags for rendering customized haptic effects

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181002

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191023

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200123

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200616