一実施形態は、高定義(high−definition)ハプティック出力装置(線形共鳴アクチュエータまたは圧電アクチュエータなど)のために設計されるハプティック信号を、標準定義(standard−definition)ハプティック出力装置(偏心回転体モータなど)のために設計される振動触覚ハプティック効果パターンの集合を含む特定の種類のハプティック信号(または一部の他の種類のハプティック効果パターン)に変換するまたは「ワープする(warp)」システムである。ハプティック信号を変換するまたは「ワープする」際に、システムは、ハプティック信号内に含まれるハプティック効果パターンを、振動触覚ハプティック効果パターンと置き換える。ハプティック効果パターンは、ハプティック出力装置にハプティック効果を生成させるデータの集合である。振動触覚ハプティック効果パターン(「振動パターン」としても識別される)は、標準定義ハプティック出力装置に、特定の持続時間の間、振動触覚ハプティック効果を生成させ、特定の持続時間の間、振動触覚ハプティック効果の生成を停止させる、特有の種類のハプティック効果パターンである。ハプティック信号は、(例えば、オーディオ入力、ビデオ入力および/またはセンサ入力から)自動的に作成されるか、または(例えば、ハプティック効果開発プラットフォームを使用してハプティック効果設計者によって)手動で作成されるハプティック信号であってもよい。振動触覚ハプティック効果パターンは、元のハプティック信号の関連のある質のハプティック効果を再生することによって、標準定義ハプティック出力装置が備わった装置で再生される場合、最適なハプティック経験を生成できる。
実施形態によれば、システムは、各々のハプティック効果パターンがテクスチャハプティック効果パターンであるか否かに関わらず、各々のハプティック効果パターンが開始および終了する場合などのハプティック信号内に含まれるハプティック効果パターンのタイミングおよび特性を検出する。このシステムはさらに、標準定義ハプティック出力装置の応答時間に適合し、各々のハプティック効果パターンの種類および持続時間に基づいて特定の振動触覚ハプティック効果パターンを各々のハプティック効果パターンに割り当てるように時間内にハプティック効果パターンをシフトさせる。システムはさらに、快適なハプティック経験を維持するように、振動触覚ハプティック効果パターンの持続時間を最大に制限できる。振動触覚ハプティック効果パターンは、プリセット装置固有パラメータを使用して自動的に導き出され得るか、または任意の種類のハプティック出力装置に適合するように作成され得る。システムは、装置の一部であってもよく、振動触覚ハプティック効果パターンの集合を含む特別な種類のハプティック信号へのハプティック信号の変換は、「オンライン」または「オフライン」のいずれかで実行され得る。あるいは、システムは装置の外部にあるサーバまたはマイクロプロセッサの一部であってもよく、振動触覚ハプティック効果は、装置にストリーミングされてもよいか、または装置に送信されるマルチメディアファイル内に内蔵されてもよい。システムは任意の種類のハプティック信号を変換でき、マルチメディア関連ハプティック信号に制限されない。
標準定義ハプティック出力装置の例は標準定義アクチュエータである。「標準定義」アクチュエータは、ベースライン範囲の振動強度を有するベースライン範囲の異なる振動効果を提供できるアクチュエータである。標準定義アクチュエータの例としては、線形共鳴アクチュエータまたは偏心回転体モータが挙げられ得る。高定義ハプティック出力装置の例は高定義アクチュエータである。「高定義」アクチュエータは、増加した範囲の振動強度を有する増加した範囲の異なる振動効果を提供できるアクチュエータである。さらに、高定義アクチュエータは、動的ハプティック効果を急速に強制的に変化させることができるように十分な速度でその強度レベルを増加させ、減少させることができる。高定義アクチュエータの例としては、圧電アクチュエータまたは電気活性ポリマーアクチュエータが挙げられ得る。したがって、標準定義アクチュエータと比較して、高定義アクチュエータは、速い応答時間、高いダイナミックレンジおよびまた、広い周波数応答を有する。高定義アクチュエータは、複数の周波数(例えば、100ヘルツ(「Hz」)から400Hz)にてハプティック効果を作成できる。対照的に、標準定義アクチュエータは、高定義アクチュエータと比較して、制限された範囲の大きさまたは制限された範囲の周波数を生成でき、遅い応答時間を有するアクチュエータである。
図1は、本発明の一実施形態に係るシステム10のブロック図を示す。一実施形態において、システム10はモバイル機器の一部であり、システム10はモバイル機器のためのハプティック効果パターン変換機能を提供する。別の実施形態において、システム10はウェアラブルデバイスの一部であり、システム10はウェアラブルデバイスのためのハプティック効果パターン変換機能を提供する。ウェアラブルデバイスの例としては、リストバンド、ヘッドバンド、眼鏡、リング、レッグバンド、衣服に取り付けられるアレイ、またはユーザが身体に装着できるもしくはユーザにより保持され得る任意の他の種類のデバイスが挙げられる。一部のウェアラブルデバイスは「ハプティック動作可能」であり得、それらがハプティック効果を生成するための機構を備えることを意味する。別の実施形態において、システム10は、デバイス(例えばモバイル機器またはウェアラブルデバイス)から分離され、デバイスのためのハプティック効果パターン変換機能をリモートで提供する。単一のシステムとして示されるが、システム10の機能は分散システムとして実装されてもよい。システム10は、情報を通信するためのバス12または他の通信機構、および情報を処理するためのバス12に連結されるプロセッサ22を含む。プロセッサ22は汎用または特定目的のプロセッサのいずれの種類であってもよい。システム10はさらに、情報を記憶するためのメモリ14およびプロセッサ22により実行される命令を含む。メモリ14は、ランダムアクセスメモリ(「RAM」)、リードオンリメモリ(「ROM」)、磁気ディスクもしくは光ディスクなどの静的記憶デバイス、または任意の他の種類のコンピュータ可読媒体の任意の組み合わせから構成されてもよい。
コンピュータ可読媒体は、プロセッサ22によりアクセスされ得る任意の利用可能な媒体であってもよく、揮発性媒体および非揮発性媒体の両方、リムーバルおよびノンリムーバル媒体、通信媒体、ならびに記憶媒体を含んでもよい。通信媒体は、搬送波または他の搬送機構などの変調データ信号内にコンピュータ可読命令、データ構造、プログラムモジュールまたは他のデータを含んでもよく、当該技術分野において公知の任意の他の形態の情報送信媒体を含んでもよい。記憶媒体は、RAM、フラッシュメモリ、ROM、消去可能プログラマブルリードオンリメモリ(「EPROM」)、電気的消去可能プログラマブルリードオンリメモリ(「EEPROM」)、レジスタ、ハードディスク、リムーバルディスク、コンパクトディスクリードオンリメモリ(「CD−ROM」)、または当該技術分野において公知の任意の他の形態の記憶媒体を含んでもよい。
一実施形態において、メモリ14は、プロセッサ22により実行される場合、機能性を提供するソフトウェアモジュールを記憶する。モジュールは、システム10のためのオペレーティングシステム機能性を提供するオペレーティングシステム15、ならびに一実施形態におけるモバイル機器の残りを含む。モジュールはさらに、以下により詳細に開示されるようにハプティック信号を振動触覚ハプティック効果パターンの集合に変換するまたは「ワープする」ハプティック効果パターン変換モジュール16を含む。特定の実施形態において、ハプティック効果パターン変換モジュール16は複数のモジュールを含んでもよく、各々のモジュールはハプティック信号を振動触覚ハプティック効果パターンの集合に変換するまたは「ワープする(ワーピング)」ための特定の個々の機能性を提供する。システム10は典型的に、Immersion CorporationによるIntegrator(商標)ソフトウェアなどの追加の機能を含むように1つ以上の追加のアプリケーションモジュール18を含む。
リモートソースからデータを送信および/または受信する実施形態において、システム10はさらに、赤外線、無線、Wi−Fi、またはセルラーネットワーク通信などの移動無線ネットワーク通信を提供するために、ネットワークインターフェースカードなどの通信デバイス20を含む。他の実施形態において、通信デバイス20は、イーサネット(登録商標)接続またはモデムなどの有線ネットワーク接続を提供する。
プロセッサ22はさらに、バス12を介して、グラフィック表現を与えるための液晶ディスプレイ(「LCD」)などのディスプレイ24またはユーザに対するユーザインターフェースに接続される。ディスプレイ24は、プロセッサ22から信号を送信し、受信するように構成される、タッチスクリーンなどのタッチセンサ入力デバイスであってもよく、マルチタッチのタッチスクリーンであってもよい。
一実施形態において、システム10はさらに、アクチュエータ26を含む。プロセッサ22は、生成されたハプティック効果に関連するハプティック信号をアクチュエータ26に送信してもよく、次いで振動触覚ハプティック効果、静電摩擦ハプティック効果または変形ハプティック効果などのハプティック効果を出力する。アクチュエータ26はアクチュエータ駆動回路を含む。アクチュエータ26は、例えば、電気モータ、電磁気アクチュエータ、音声コイル、形状記憶合金、電気活性ポリマー、ソレノイド、偏心回転体モータ(「ERM」)、線形共鳴アクチュエータ(「LRA」)、圧電アクチュエータ、高帯域アクチュエータ、電気活性ポリマー(「EAP」)アクチュエータ、静電摩擦ディスプレイ、または超音波振動発生器であってもよい。代替の実施形態において、システム10は、アクチュエータ26に加えて1つ以上の追加のアクチュエータを含んでもよい(図1に示さず)。アクチュエータ26はハプティック出力装置の一例であり、ハプティック出力装置は、駆動信号に応答して振動触覚ハプティック効果、静電摩擦ハプティック効果または変形ハプティック効果などのハプティック効果を出力するように構成されるデバイスである。代替の実施形態において、アクチュエータ26は一部の他の種類のハプティック出力装置により置き換えられてもよい。さらに、他の代替の実施形態において、システム10はアクチュエータ26を含まなくてもよく、システム10とは別個のデバイスが、ハプティック効果を生成するアクチュエータまたは他のハプティック出力装置を含み、システム10は、生成されたハプティック信号を、通信デバイス20を介して、そのデバイスに送信する。
一実施形態において、システム10はさらに、スピーカ28を含む。プロセッサ22はオーディオ信号をスピーカ28に送信でき、次にオーディオ効果を出力する。スピーカ28は、例えば、ダイナミックラウドスピーカ、動電型スピーカ、圧電ラウドスピーカ、磁気歪みラウドスピーカ、静電ラウドスピーカ、リボンおよび平面磁気ラウドスピーカ、屈曲波ラウドスピーカ、平面パネルラウドスピーカ、ハイルエアモーショントランスデューサ(heil air motion transducer)、プラズマアークスピーカおよびデジタルラウドスピーカであってもよい。代替の実施形態において、システム10はスピーカ28に加えて1つまたは複数のさらなるスピーカ(図1に示さず)を含んでもよい。さらに、他の代替の実施形態において、システム10はスピーカ28を含まなくてもよく、システム10とは別のデバイスが、オーディオ効果を出力するスピーカを含む。システム10は通信デバイス20を介してオーディオ信号をそのデバイスに送信する。
一実施形態において、システム10はさらにセンサ30を含む。センサ30は、エネルギーの形態、または限定されないが、音、運動、加速度、生体信号、距離、流量、力/圧力/歪/屈曲、湿度、線形位置、配向/傾斜、無線周波数、回転位置、回転速度、スイッチの操作、温度、振動、または可視光強度などの他の物理特性を検出するように構成されてもよい。センサ30はさらに、検出されたエネルギーまたは他の物理特性を、電気信号または仮想センサ情報を表す任意の信号に変換するように構成されてもよい。センサ30は、限定されないが、加速度計、心電図、脳電図、筋電図、眼電図、電子口蓋図(electropalatograph)、電気皮膚反応センサ、容量センサ、ホール効果センサ、赤外線センサ、超音波センサ、圧力センサ、光ファイバセンサ、屈曲センサ(flexion sensor)(または屈曲センサ(bend sensor))、力感応抵抗器、ロードセル、LuSense CPS2155、小型圧力トランスデューサ、圧電センサ、歪みゲージ、湿度計、線形位置タッチセンサ、線形電位差計(またはスライダ)、線形可変差動変圧器、コンパス、傾斜計、磁性タグ(または無線周波数識別タグ)、回転エンコーダ、回転式ポテンショメータ、ジャイロスコープ、オン・オフスイッチ、温度センサ(例えば温度計、熱電対、抵抗温度検出器、サーミスタ、または温度変換集積回路)、マイクロフォン、光度計、高度計、温度計、生物学的モニター、カメラまたは光依存性抵抗器などの任意のデバイスであってもよい。代替の実施形態において、システム10は、センサ30に加えて、1つ以上のさらなるセンサ(図1に示さず)を含んでもよい。これらの実施形態の一部において、センサ30および1つ以上の追加のセンサはセンサアレイの一部であってもよく、またはセンサの集合の一部の他の種類であってもよい。さらに、他の代替の実施形態において、システム10はセンサ30を含まなくてもよく、システム10とは別個のデバイスがエネルギーの形態または他の物理特性を検出するセンサを含み、検出されたエネルギーまたは他の物理特性を仮想センサ情報を表す電気信号または他の種類の信号に変換する。デバイスは次いで、変換された信号を通信デバイス20を介してシステム10に送信する。あるいは、デバイスはセンサ30のセンサ信号をハプティック効果トラックまたはファイルに変換してもよい。
図2は、本発明の一実施形態に係る、ハプティック信号を振動触覚ハプティック効果パターン(または他の種類のハプティック効果パターン)の集合に変換するまたは「ワープする」システムのフロー図を示す。一実施形態において、図2の機能性ならびに以下に記載される図3、4、5および6の機能性は、メモリまたは他のコンピュータ可読媒体もしくは有形的表現媒体に保存されたソフトウェアにより実装され、プロセッサにより実行される。他の実施形態において、各機能性は、ハードウェアにより(例えば、特定用途向け集積回路(「ASIC」)、プログラマブルゲートアレイ(「PGA」)、フィールドプログラマブルゲートアレイ(「FPGA」)などの使用により)またはハードウェアとソフトウェアの任意の組合せにより実施されてもよい。
一実施形態によれば、フローは210で開始する。210において、ハプティック信号が受信され、ハプティック信号は波形などのデータを含んでもよく、波形はパルス符号変調(「PCM」)フォーマットにおける1つまたは複数の信号値のセットである。ハプティック信号はハプティック効果に関連してもよく、ハプティック信号はアクチュエータなどのハプティック出力装置に送信されてもよく、ハプティック出力装置はハプティック信号に基づいてハプティック効果を出力できる。ハプティック効果の例はハプティック出力装置のユーザが感じる振動を生成できる振動触覚ハプティック効果である。ハプティック効果の他の例は静電摩擦ハプティック効果または変形ハプティック効果を含んでもよい。
220によれば、ハプティック信号は、入力信号から自動的に作成されるか、またはハプティック効果開発プラットフォームを使用して手動で作成されてもよい。より具体的には、入力信号が受信されてもよく、ハプティック信号は自動的に入力信号に基づいて生成されてもよい。入力信号の例は、オーディオ信号、ビデオ信号、加速度信号、配向信号、周辺光信号、動作信号、温度信号または他の同様の種類の信号を含む。代替の実施形態において、入力信号に基づいて自動的に生成される以外に、ハプティック信号は、Immersion CorporationによるHaptic Studio(商標)などのハプティック効果開発プラットフォームを使用して手動で生成されてもよい。ハプティック効果開発プラットフォームを使用して、ハプティック効果ディベロッパーは所望のハプティック効果を生成するために使用され得るハプティック信号の1つまたは複数の特性を定義でき、ハプティック効果開発プラットフォームは1つまたは複数の定義された特性に基づいてハプティック信号を生成できる。さらに、ハプティック信号は特定の種類のハプティック出力装置のために設計されてもよい。より具体的には、ハプティック信号はハプティック効果空間に関連してもよく、ハプティック効果空間は、可能な場合、ハプティック出力装置によって生成され得るハプティック効果のセットを含む。次いでフローは230に進む。
230において、ハプティック信号は、振動触覚ハプティック効果パターン(またはいくつかの他の種類のハプティック効果パターン)の集合を含む特定の種類のハプティック信号に変換され得るまたは「ワープされ得る」(「適合する」として図2に特定した)。以前に記載されているように、振動触覚ハプティック効果パターンは、標準定義ハプティック出力装置(ERMなど)に、特定の時間の間、振動触覚ハプティック効果を生成させ、特定の時間の間、振動触覚ハプティック効果の生成を停止させる特定の種類のハプティック効果パターンである。振動触覚ハプティック効果パターン内に含まれるデータは、元のハプティック信号内に含まれるデータに基づく。実施形態によれば、ハプティック信号は、元のハプティック信号内に含まれる各々のハプティック効果パターンを、1つもしくは複数の振動触覚ハプティック効果パターンに置き換えることによって変換されるまたは「ワープされる」。このような変換または「ワーピング」はさらに図4〜6と併せて以下により詳細に記載されている。240によれば、元のハプティック信号の、振動触覚ハプティック効果パターンの集合への変換は対象の標準定義ハプティック出力装置の1つまたは複数の特性に基づいてもよい。例えば、振動触覚ハプティック効果パターンが、振動触覚ハプティック効果パターンを生成するために指定された時間および振動触覚ハプティック効果パターンの生成を停止させるために指定された時間を必要とする標準定義ハプティック出力装置に送信される場合、振動触覚ハプティック効果パターンの生成は、標準定義ハプティック出力装置が振動触覚ハプティック効果を生成するために必要とする時間および標準定義ハプティック出力装置が振動触覚ハプティック効果の生成を停止させるのに必要とする時間を考慮され得る。したがって、振動触覚ハプティック効果パターンが、標準定義ハプティック出力装置で再生される場合、適切な信号触覚ハプティック効果を生成するように、振動触覚ハプティック効果パターンは生成され得る。次いで振動触覚ハプティック効果パターンは、標準ハプティック出力装置(図2において「再生装置」と特定される)に送信されてもよく、振動触覚ハプティック効果パターンは振動触覚ハプティック効果を生成するために再生される。特定の実施形態において、元のハプティック信号はまた、標準定義ハプティック出力装置によって生成される振動触覚ハプティック効果を補完する補完的ハプティック効果を生成するために異なるハプティック出力装置(図2に示さず)に送信されてもよい。次いでフローは終了する。
特定の実施形態において、生成される振動触覚ハプティック効果パターンの集合は、ユーザのマルチメディア視聴体験を増強するために1つまたは複数のオーディオ信号および/またはビデオ信号と一緒に再生されてもよい。これらの実施形態のいくつかにおいて、標準定義ハプティック出力装置はオーディオ/ビデオ出力装置(例えば、モバイル機器)と同じであってもよい。これらの実施形態の他のいくつかにおいて、標準定義ハプティック出力装置はオーディオ/ビデオ出力装置と別個であってもよい(例えば、ハプティックチェア、ハプティックチェア、ウェアラブルハプティック装置など)。
さらに、特定の実施形態において、ハプティック信号を振動触覚ハプティック効果パターンの集合に変換するまたは「ワープする」は、サーバなどのハプティック信号を受信する装置と別個の装置により「オフライン」で行われてもよい。変換が「オフライン」である場合、全入力ハプティック信号のデータがハプティック信号を振動触覚ハプティック効果パターンの集合に変換するために使用されてもよい。次いで振動触覚ハプティック効果パターンの集合は元の装置に戻すようにストリーミングされてもよく、元の装置は振動触覚ハプティック効果パターンの集合を標準定義ハプティック出力装置に送信してもよい。代替の実施形態において、ハプティック信号の、振動触覚ハプティック効果パターンへの変換または「ワーピング」は、ハプティック信号を受信する同じ装置によって「オンライン」で行われてもよく、変換はリアルタイムまたは準リアルタイムで実施されてもよい。これらの実施形態において、ハプティック信号の異なる部分が、ハプティック信号を振動触覚ハプティック効果パターンの集合に変換するために連続して使用されてもよく、全入力ハプティック信号は任意の特定の時間において利用できない。なおさらに、特定の実施形態において、振動触覚ハプティック効果パターンの集合は、ハプティック出力装置にすぐに送信されるというよりむしろ、コンピュータファイルまたは複数のコンピュータファイルに保存されてもよい。これらの実施形態において、振動触覚ハプティック効果パターンの集合はコンピュータファイルまたは複数のコンピュータファイルから後で読み出されてもよく、振動触覚ハプティック効果パターンの集合は標準定義ハプティック出力装置に送信されてもよいか、または1つもしくは複数のオーディオ信号および/もしくはビデオ信号と混合されてもよい。
図3は、本発明の一実施形態に係る、ハプティック効果パターン変換モジュール(図1のハプティック効果パターン変換モジュール16など)の機能性のフロー図を示す。特定の実施形態において、機能性の一部は省略されてもよい。以前に記載されているように、ハプティック効果パターン変換モジュールは、ハプティック信号を振動触覚ハプティック効果パターンの集合に変換するまたは「ワープする」ことによって標準定義ハプティック出力装置で高定義ハプティック出力装置のために設計されたハプティック効果を再現できる。一部の実施形態において、標準定義ハプティック出力装置はERMであってもよい。さらに、特定の実施形態において、ハプティック効果パターン変換モジュールはリモートサーバで実行され得る。他の実施形態において、ハプティック効果パターン変換モジュールは標準定義ハプティック出力装置で実行され得る。さらに、一部の実施形態において、ハプティック効果パターン変換モジュールの1つまたは複数のパラメータは、特定の標準定義ハプティック出力装置の特性に適合するように調整され得るので、特定の標準定義ハプティック出力装置のための最適な経験を提供する。他の代替の実施形態において、ハプティック効果パターン変換モジュールの1つまたは複数のパラメータは、全ての種類の標準定義ハプティック出力装置のための多くの一般的な方式で使用され得る。
フローが開始し、310に進む。310において、複数のハプティック効果パターンを含むハプティック信号が受信される。一実施形態において、ハプティック信号は単一のハプティック効果パターンを含んでもよい。各々のハプティック効果パターンは、ハプティック出力装置に、振動触覚ハプティック効果、静電摩擦ハプティック効果、または変形ハプティック効果などのハプティック効果を生成させるデータを含んでもよい。さらに、各々のハプティック効果パターンは、ハプティック効果が開始するときを定義する開始時間およびハプティック効果が終了するときを定義する終了時間を含んでもよい。一部の実施形態において、開始時間および終了時間はそれぞれ、マルチメディア信号(オーディオ信号、ビデオ信号、加速度信号、または一部の他の種類の入力信号など)におけるイベントの開始時間および終了時間に対応する。特定の実施形態において、ハプティック信号は入力信号から自動的に作成され得る。他の実施形態において、ハプティック信号は、ハプティック効果開発プラットフォームを使用して手動で作成され得る。ハプティック信号が振幅値(PCM信号など)としてエンコードされない特定の実施形態において、エンベロープ(すなわち、1つまたは複数の振幅値)はさらに、ハプティック信号から抽出されてもよい。次いでフローは320に進む。
320において、開始時間および終了時間は、ハプティック信号内に含まれる複数のハプティック効果パターン(または単一ハプティック効果パターン)のうちの各々のハプティック効果パターンについて検出される。したがって、実施形態によれば、ハプティック信号内に含まれるハプティック効果パターンは、各々のハプティック効果パターンが開始し、終了するときを決定することによって描写され得る。実施形態によれば、ハプティック効果パターンを描写することは、少なくとも部分的に、ハプティック信号内に含まれるハプティック効果パターンを分離する「ハプティックサイレンス」を検出することによって達成され得る。「ハプティックサイレンス」は、ハプティック出力装置にハプティック効果を生成させないデータを含んでもよく、または任意のデータを含まないハプティック信号の一部を含んでもよい。さらに、ハプティックサイレンスは、最小持続時間以上の持続時間、および最大持続時間以下の持続時間を有してもよい。これにより、ハプティックサイレンスとしてハプティック信号の終了部分の考慮を回避でき、さらに、複数のハプティック効果パターンとして単一ハプティック効果パターン(例えば、高周波数を有するハプティック効果パターン)の考慮を回避できる。次いでフローは330に進む。
330において、ハプティック信号内に含まれる複数のハプティック効果パターン(または単一ハプティック効果パターン)のうちの少なくとも1つのハプティック効果パターンは「テクスチャハプティック効果パターン」として検出され、少なくとも1つの検出されたテクスチャハプティック効果パターンは少なくとも1つの置換テクスチャハプティック効果パターンと置き換えられる。「テクスチャハプティック効果パターン」は、規定の閾値(「テクスチャ閾値」として識別される)以下の持続時間を有するハプティック効果パターンであり、それはテクスチャ閾値以下の持続時間によって後のハプティック効果パターンと分離される。一実施形態において、テクスチャ閾値は50ミリ秒(「ms」)の持続時間である。しかしながら、これは単なる実施形態であり、他の代替の実施形態において、テクスチャ閾値は任意の持続時間であってもよい。さらに、「置換テクスチャハプティック効果パターン」は、標準定義アクチュエータに特有に生成されるテクスチャハプティック効果パターンであるので、その対応するテクスチャハプティック効果パターンと異なり、標準定義ハプティック出力装置により適した特性を有してもよい。したがって、言い換えれば、長い、より一般化されたハプティック効果(「buzzハプティック効果」としても識別される)と対照的に、短い連続したハプティック効果(「テクスチャハプティック効果」または単に「テクスチャ」としても識別される)が検出され、検出されたテクスチャハプティック効果は置換テクスチャハプティック効果と置き換えられ、置換テクスチャハプティック効果は、ERMなどの標準定義ハプティック出力装置により適している。例示的なテクスチャハプティック効果パターンは図7と併せてさらに以下に記載される。これは例示的な実施形態であり、他の代替の実施形態において、ハプティック信号内に含まれるハプティック効果パターンは一部の他の種類の特性に基づいて検出され得る。
特定の実施形態において、置換テクスチャハプティック効果パターンの持続時間は、対応するテクスチャハプティック効果パターンの持続時間および対応するテクスチャハプティック効果パターンの最大振幅に基づき得る。さらに、これらの実施形態の一部において、各々の置換テクスチャハプティック効果パターンは互いに同じ持続時間を有してもよく、各々の置換テクスチャハプティック効果パターンは同じサイレント持続時間によって互いに分離されてもよい。なおさらに、これらの実施形態の一部において、標準ハプティック出力装置が各々の対応するハプティック効果を適切に与えることができるように、サイレント持続時間は、各々の置換テクスチャハプティック効果パターンの持続時間の2倍の長さであってもよい。したがって、一部の実施形態において、元のテクスチャハプティック効果パターンと置き換えられる置換テクスチャハプティック効果パターンの数は、元のテクスチャハプティック効果パターンの数未満であり得る。しかしながら、他の実施形態において、置換テクスチャハプティック効果パターンの数は、元のテクスチャハプティック効果パターンの数以上であってもよい。さらに、代替の実施形態において、ハプティック信号内に含まれるハプティック効果パターンは、テクスチャハプティック効果パターンとして検出されないか、または置換テクスチャハプティック効果パターンと置き換えられない。次いでフローは340に進む。
340において、ハプティック信号内に含まれる複数のハプティック効果パターン(または単一ハプティック効果パターン)のうちの少なくとも1つのハプティック効果パターンは「大きなハプティック効果パターン」として検出され、少なくとも1つの検出された大きなハプティック効果パターンは、複数の「小さなハプティック効果パターン」に分割される。「大きなハプティック効果パターン」は、規定の閾値(「サイズ閾値」として識別される)以上の持続時間を有するハプティック効果パターンである。さらに、「小さなハプティック効果パターン」は、サイズ閾値未満の持続時間を有するハプティック効果パターンである。
実施形態によれば、大きなハプティック効果パターンが意図的に作成され得るが、大きなハプティック効果パターンはまた、インターリーブ持続時間を有する連続した別個のハプティック効果パターンの重ね合わせの結果であり得る。さらに、標準定義ハプティック出力装置で再生される長いハプティック効果はネガティブなユーザ経験を送達できる。したがって、大きなハプティック効果パターンは2つ以上の小さなハプティック効果パターンの重複として検出され得、大きなハプティック効果パターンは2つ以上の小さなハプティック効果パターンに分割され得る。実施形態によれば、大きなハプティック効果パターンの「時間ウインドウ」をサンプリングすることによって大きなハプティック効果パターンを分割する部分、「時間ウインドウ」が規定の持続時間(20msまたは40msなど)にわたって大きなハプティック効果パターンの一部である部分を決定できる。各々の時間ウインドウについての振幅値が続いて算出されてもよく、振幅値は最大振幅値、平均振幅値、二乗平均(「RMS」)振幅値、または一部の他の種類の振幅値であってもよい。連続時間ウインドウの各セットについての振幅値が比較されてもよく、振幅値の変化が規定の閾値(「振幅変化閾値」として識別される)以上であるかどうかが決定できる。2つの連続時間ウインドウの間の振幅値の変化が振幅の変化閾値以上である場合、2つの連続時間ウインドウの間の位置が、大きなハプティック効果(「分割位置」としても識別される)を分割するために大きなハプティック効果パターン内の位置として検出され得る。全ての分割位置が検出された後、大きなハプティック効果パターンは、大きなハプティック効果パターンを複数の小さなハプティック効果パターンに分割するために、分割位置において分割されてもよい。さらに、代替の実施形態において、ハプティック信号内に含まれるハプティック効果パターンは、大きなハプティック効果パターンとして検出されないか、または小さなハプティック効果パターンに分割されない。次いでフローは350に進む。
350において、ハプティック信号内に含まれる複数のハプティック効果パターン(または単一ハプティック効果パターン)のうちの各々のハプティック効果パターンについての開始時間は、規定の持続時間(「シフト持続時間」として識別される)、戻るようにシフトされる。標準定義ハプティック出力装置(ERMなど)は、特に高定義ハプティック出力装置と比較して、遅延応答時間を有してもよい。各々のハプティック効果パターンの開始時間のシフト持続時間へのシフトバックは、標準定義ハプティック出力装置の遅延応答時間を補償できる。例えば、ハプティック効果が3秒(「s」)の時間で出力される場合、対応するハプティック効果パターンの開始時間は、3sから2.96sまで40msシフトバックされ得るので、ハプティック効果は、3sにてユーザに感知されるが、3sよりむしろ2.96sにて標準定義ハプティック出力装置によって出力される。次いでフローは360に進む。
360において、振動触覚ハプティック効果パターンは、ハプティック信号内に含まれる複数のハプティック効果パターン(または単一ハプティック効果パターン)のうちの各々のハプティック効果パターンに割り当てられる。各々の振動触覚ハプティック効果パターンは、標準定義ハプティック出力装置(ERMなど)に、規定の持続時間(「アクティブ持続時間」として識別される)の間、振動触覚ハプティック効果を生成させ、規定の持続時間(「サイレント持続時間」として識別される)の間、振動触覚ハプティック効果の生成を停止させるデータを含んでもよい。したがって、実施形態によれば、振動触覚ハプティック効果パターンの集合が生成され(または「与えられ」)、各々の振動触覚ハプティック効果パターンはハプティック信号内に含まれるハプティック効果パターンに割り当てられる。特定の実施形態において、振動触覚ハプティック効果パターンのレンダリングは、振動触覚ハプティック効果パターンのアクティブ持続時間を規定の最大持続時間(「最大持続時間」として識別される)に制限することを含む。長い振動触覚ハプティック効果は、ERM、または他の種類の標準定義ハプティック出力装置で出力される場合、一般に不快であるため、アクティブ持続時間の制限は実施され得る。実施形態によれば、アクティブ持続時間の制限は、大きなハプティック効果パターンの分割後、振動触覚ハプティック効果パターンをハプティック効果パターンに割り当てる前、およびシフト持続時間による各々のハプティック効果パターンの開始時間のシフトバックの前または後のいずれかに実施され得る。さらに、一部の実施形態において、振動触覚ハプティック効果パターンの集合は、テキストファイルまたはオーディオファイル(例えば、PCMファイル)などのコンピュータファイル内に記憶され得る。
特定の実施形態において、ハプティック信号内に含まれる対応するハプティック効果パターンに後で割り当てられる振動触覚ハプティック効果パターンのレンダリングは、対応するハプティック効果パターンであるハプティック効果パターンの種類に基づいて異なって実施される。対応するハプティック効果パターンの持続時間が規定の閾値(「持続時間閾値」として識別される)未満である場合、振動触覚ハプティック効果パターンのアクティブ持続時間およびサイレント持続時間が各々、対応するハプティック効果パターンの最大振幅に対する持続時間に設定されるように振動触覚ハプティック効果パターンが与えられる。より具体的には、振動触覚ハプティック効果パターンのアクティブ持続時間は、対応するハプティック効果パターンの持続時間と、対応するハプティック効果パターンの最大振幅との積に設定され、振動触覚ハプティック効果パターンのサイレント持続時間は、対応するハプティック効果パターンの持続時間と、1と対応するハプティック効果パターンの最大振幅の差との積に設定される。この状況において振動触覚ハプティック効果パターンのレンダリングはさらに図4と併せて以下により詳細に記載される。
これらの実施形態において、対応するハプティック効果パターンの持続時間が持続時間閾値以上である場合、「ランプアップ時間」が最初に、最大振動強度(「強度」として識別される)に到達する標準定義ハプティック出力装置の持続時間を示す規定値と、対応するハプティック効果パターンの最大振幅との積として算出される。したがって、ランプアップ時間は、対応するハプティック効果パターンの最大振幅に対応する振動強度に到達する標準定義ハプティック出力装置の持続時間を示す。ランプアップ時間が対応するハプティック効果パターンの持続時間の半分以上である場合、振動触覚ハプティック効果パターンのアクティブ持続時間およびサイレント持続時間が各々、対応するハプティック効果パターンの持続時間の半分に設定されるように、振動触覚ハプティック効果パターンは与えられる。したがって、元のハプティック効果パターンは、元のハプティック効果パターンの持続時間全体をまとめて含む等しいアクティブおよびサイレント持続時間を有する振動触覚ハプティック効果パターンに置き換えられる。この状況において振動触覚ハプティック効果パターンのレンダリングはさらに図5と併せて以下により詳細に記載される。
さらに、これらの実施形態によれば、ランプアップ時間が対応するハプティック効果パターンの持続時間の半分未満である場合、アクティブ持続時間およびサイレント持続時間に加えて、振動触覚ハプティック効果パターンがまた、標準定義ハプティック出力装置に、交互に、振動触覚ハプティック効果を生成させ、アクティブ持続時間とサイレント持続時間(「維持持続時間」として識別される)との間、規定の持続時間の間、機能を維持するのに従って振動触覚ハプティック効果の生成を停止させるデータを含むように、振動触覚ハプティック効果パターンは与えられる。維持機能は、特定のレベルにおいて標準定義ハプティック出力装置の振動強度を維持するために、等しいサイクルのアクティブ持続時間およびサイレント持続時間を交互にする機能である。振動触覚ハプティック効果パターンのアクティブ持続時間およびサイレント持続時間が各々、ランプアップ時間に設定され、維持持続時間が、対応するハプティック効果パターンの持続時間とランプアップ時間の2倍の差に設定されるように、振動触覚ハプティック効果パターンはさらに与えられる。したがって、元のハプティック効果パターンは、(a)標準定義ハプティック出力装置が、元のハプティック効果の終わりに振動触覚ハプティック効果を生成させるようなアクティブ持続時間およびサイレント持続時間;ならびに(b)標準定義ハプティック出力装置の振動振幅を維持する連続した短いアクティブ/サイレントサイクルの維持持続時間を有する振動触覚ハプティック効果パターンに置き換えられる。この状況において振動触覚ハプティック効果パターンのレンダリングは図6と併せて以下により詳細に記載される。次いでフローは370に進む。
370において、振動触覚ハプティック効果パターンは、1つまたは複数の振動触覚ハプティック効果を生成するために標準定義ハプティック出力装置に送信される。特定の実施形態において、振動触覚ハプティック効果パターンは、特定の種類のハプティック信号内の標準定義ハプティック出力装置に送信される。これらの実施形態の一部において、特定の種類のハプティック信号は、マルチメディアデータを含むマルチメディアコンピュータファイル内に内臓されてもよいか、または特定の種類のハプティック信号は独立したコンピュータファイルとして保存され得るか、またはストリーミングされ得る。次いでフローは終了する。
振動触覚ハプティック効果パターンのレンダリングがここで詳細に記載される。以前に記載されているように、標準定義ハプティック出力装置(ERMなど)を使用して効果的にハプティック信号のハプティック効果の各々を与えるために、振動触覚ハプティック効果パターンの集合が生成され(すなわち、与えられ)、振動触覚ハプティック効果パターンの集合は、標準定義ハプティック出力装置の制御信号として使用される。より具体的には、振動触覚ハプティック効果パターン[a,b,c,d,...]が与えられ、検出されたハプティック効果パターンXに割り当てられ、振動触覚ハプティック効果パターン[a,b,c,d,...]は最初に、a msの間、振動触覚ハプティック効果を生成するために標準定義ハプティック出力装置を制御し、次いで、b msの間、振動触覚ハプティック効果の生成を停止させるために標準定義ハプティック出力装置を制御し、次いで、c msの間、振動触覚ハプティック効果を再び生成するように標準定義ハプティック出力装置を制御し、次いで、d msの間、振動触覚ハプティック効果の生成を再び停止させるように標準定義ハプティック出力装置を制御するなどである。一実施形態において、振動触覚ハプティック効果パターンの持続時間(およびそれにより、得られた振動触覚ハプティック効果の持続時間)は、不快なハプティック経験を生じ得る、長い振動触覚ハプティック効果を回避するために指定された最大持続時間に制限され得る。さらに、特定の実施形態において、各々の検出されたハプティック効果パターンXは、(a)(可能な場合、切り捨てられる)ハプティック効果パターンXの持続時間、dur(X);および(b)ハプティック効果パターンXの持続時間の最大振幅、max_amp(X)に基づいて振動触覚ハプティック効果パターンに翻訳され得る。dur(X)は持続時間(ms)であり得、max_amp(X)は0から1の値であり得る。図4〜6と併せて以下により詳細に記載されているように、異なるレンダリングシナリオが可能である。
図4は、本発明の一実施形態に係る、ハプティック信号のハプティック効果パターン410に割り当てられる振動触覚ハプティック効果パターン420の例示的なレンダリングを示す。このレンダリングシナリオにおいて、dur(X)は特定の閾値、th_sh_lg未満である。このレンダリングシナリオによれば、ハプティック効果パターンXは、以下の振動触覚ハプティック効果パターン:[dur(X)*max_amp(X)、dur(X)*(1−max_amp(X))]によって表され得る。これは図4に示され、ハプティック効果パターン410は振動触覚ハプティック効果パターン420によって表され、振動触覚ハプティック効果パターン420は標準定義ハプティック出力装置において再生され得る。実施形態によれば、振動触覚ハプティック効果パターン[dur(X)*max_amp(X)、dur(X)*(1−max_amp(X))]は最初に、dur(X)*max_amp(X)に等しい持続時間の間、振動触覚ハプティック効果を生成するために標準定義ハプティック出力装置を制御し、次いで、dur(X)*(1−max_amp(X))に等しい持続時間の間、振動触覚ハプティック効果の生成を停止させるように標準定義ハプティック出力装置を制御する。
図5は、本発明の一実施形態に係る、ハプティック信号のハプティック効果パターン510に割り当てられる振動触覚ハプティック効果パターン520の別の例示的なレンダリングを示す。このレンダリングシナリオにおいて、dur(X)はth_sh_lg以上である。このレンダリングシナリオによれば、持続時間、ramp_upが算出され、ここで、ramp_upは、ハプティック効果パターンの最大振幅に対応する振動強度に到達する標準定義ハプティック出力装置(ERMなど)についての持続時間(ms)を示す。ramp_upは以下のように算出される:ramp_up=強度*max_amp(X)、ここで、強度は、所望の最大振動強度に到達する標準定義ハプティック出力装置についての持続時間(ms)を示すプリセット値である。
さらに、このレンダリングシナリオにおいて、ramp_upはdur(X)/2以上である。このレンダリングシナリオによれば、ハプティック効果パターンXは、以下の振動触覚ハプティック効果パターン:[dur(X)/2、dur(X)/2]によって表され得る。これは図5に示され、ハプティック効果パターン510は振動触覚ハプティック効果パターン520によって表され、振動触覚ハプティック効果パターン520は標準定義ハプティック出力装置において再生され得る。実施形態によれば、振動触覚ハプティック効果パターン[dur(X)/2、dur(X)/2]は最初に、dur(X)/2に等しい持続時間の間、振動触覚ハプティック効果を生成するために標準定義ハプティック出力装置を制御し、次いで、dur(X)/2に等しい持続時間の間、振動触覚ハプティック効果の生成を停止させるように標準定義ハプティック出力装置を制御する。
図6は、本発明の一実施形態に係る、ハプティック信号のハプティック効果パターン610に割り当てられる振動触覚ハプティック効果パターン620の別の例示的なレンダリングを示す。このレンダリングシナリオにおいて、図5と併せて以前に記載されたレンダリングシナリオと同様に、dur(X)はth_sh_lg以上である。このレンダリングシナリオによれば、持続時間、ramp_upは図5と併せて以前に記載されたように算出される。
さらに、このレンダリングシナリオにおいて、ramp_upはdur(X)/2未満である。このレンダリングシナリオによれば、ハプティック効果パターンXは、以下の振動触覚ハプティック効果パターン:[ramp_up、sustain(dur(X)−2*ramp_up)、ramp_up」によって表され得、ここで、sustainは、特定のレベルにおいて標準定義ハプティック出力装置の振動強度を維持するために、アクティブ/サイレント持続時間の等しいサイクルを交互にする機能である。これは図6に示され、ハプティック効果パターン610は振動触覚ハプティック効果パターン620によって表され、振動触覚ハプティック効果パターン620は標準定義ハプティック出力装置にて再生され得る。実施形態によれば、振動触覚ハプティック効果パターン[ramp_up、sustain(dur(X)−2*ramp_up)、ramp_up]は最初に、ramp_upに等しい持続時間の間、振動触覚ハプティック効果を生成するために標準定義ハプティック出力装置を制御し、次いで、sustain機能に基づいて等しいサイクルのアクティブ/サイレント持続時間を交互にするように標準定義ハプティック出力装置を制御し、次いで、ramp_upに等しい持続時間の間、振動触覚ハプティック効果の生成を停止させるように標準定義ハプティック出力装置を制御する。
図7は、本発明の一実施形態に係る、例示的なテクスチャハプティック効果パターンを示す。より具体的には、図7は、テクスチャハプティック効果パターン711を含む元のハプティック信号770を示す。図7はさらに、置換テクスチャハプティック効果パターン721を含むワープしたハプティック信号720を示す。
このように、一実施形態において、システムは、ERMなどの標準定義ハプティック出力装置について、ハプティック信号内に含まれる各々のハプティック効果パターンを、標準定義ハプティック出力装置に適した1つまたは複数の振動触覚ハプティック効果パターンと置き換えることによって、ハプティック信号を振動触覚ハプティック効果パターンの集合に変換できる。このように、システムは、(自動または手動のいずれかで)高定義ハプティック出力装置のために作成された任意のハプティックコンテンツを標準定義ハプティック出力装置に適合できるので、完全なハプティック経験が標準定義ハプティック出力装置のユーザにより感知され得る。したがって、ハプティック設計者は、ハプティック効果を一度設計するか、または入力のハプティック効果への自動変換を一度実行することを必要とするだけである。次いでハプティック効果が、標準定義ハプティック出力装置に適したハプティック効果に変換され得る。これにより、標準定義ハプティック出力装置のために別のハプティック効果を作成する要求が排除される。
本明細書の全体にわたり記載された本発明の特徴、構造、または特性は、一つ以上の実施形態において任意の適切な様式で組み合わされうる。例えば、本明細書の全体にわたる「一実施形態」、「一部の実施形態」、「ある実施形態」、「ある実施形態(複数)」、または他の類似の語の使用は、実施形態に関連して記載された特定の特徴、構造、または特性が本発明の少なくとも一つの実施形態に含まれうるという事実をさす。したがって、本明細書の全体にわたって見られる「一実施形態」、「一部の実施形態」、「ある実施形態」、「ある実施形態(複数)」の語句または他の類似の語は、全てが必ずしも同じ実施形態のグループをさすわけではなく、記載された特徴、構造、または特性は、一つ以上の実施形態で任意の適切な様式で組み合わせられうる。
通常の技術を有する当業者は、上述の本発明が、異なる順序のステップを用いて、および/または開示されたものとは異なる構成の要素を用いて実施されうることを容易に理解するであろう。したがって、本発明はこれらの好ましい実施形態に基づいて記載されているが、一定の修正、変形、および代替的構造が明らかであり、本発明の趣旨および範囲内にもとどまることが当業者には明らかである。したがって、本発明の境界および限界を決定するためには、添付の請求の範囲が参照されなければならない。