JP2019175485A - ハプティック信号の多重化および逆多重化 - Google Patents

ハプティック信号の多重化および逆多重化 Download PDF

Info

Publication number
JP2019175485A
JP2019175485A JP2019099890A JP2019099890A JP2019175485A JP 2019175485 A JP2019175485 A JP 2019175485A JP 2019099890 A JP2019099890 A JP 2019099890A JP 2019099890 A JP2019099890 A JP 2019099890A JP 2019175485 A JP2019175485 A JP 2019175485A
Authority
JP
Japan
Prior art keywords
haptic
signal
multiplexed signal
demultiplexing
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019099890A
Other languages
English (en)
Inventor
ステファン ディー. ランク
D Rank Stephen
ステファン ディー. ランク
サトヴィル シン バティア
Satvir Singh Bhatia
サトヴィル シン バティア
アーナブ セン
Arnab Sen
アーナブ セン
ユアン マヌエル クルス−エルナンデス
Manuel Cruz-Hernandez Juan
ユアン マヌエル クルス−エルナンデス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Immersion Corp
Original Assignee
Immersion Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Immersion Corp filed Critical Immersion Corp
Publication of JP2019175485A publication Critical patent/JP2019175485A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B6/00Tactile signalling systems, e.g. personal calling systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23614Multiplexing of additional data and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4126The peripheral being portable, e.g. PDAs or mobile phones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4131Peripherals receiving signals from specially adapted client devices home appliance, e.g. lighting, air conditioning system, metering devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/435Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/014Force feedback applied to GUI
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/23439Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements for generating different versions

Abstract

【解決手段】システムは、エンコードされた2つ以上の異なるタイプのハプティック信号を有する多重化信号を受信する。ハプティック信号の各タイプは、ハプティック出力装置の異なるタイプについてのハプティック効果を表す。システムは、ハプティック再生装置に位置する対象のハプティック出力装置を決定する。システムは、多重化信号を少なくとも対象の出力装置に対応するハプティック信号のタイプに逆多重化する。システムは逆多重化ハプティック信号を対象のハプティック出力装置に提供する。【効果】ハプティック設計者は、様々なハプティック出力デバイスを有する様々な対象の装置で再生するための多重化されたハプティックストリームを有する単一信号を作成できる。【選択図】図3

Description

関連出願の相互参照
本出願は、2013年11月21日に出願された仮特許出願番号61/907,138および2013年9月6日に出願された仮特許出願番号61/874,920号の優先権を主張し、その各々の内容は本明細書に参照として組み込まれる。
分野
一実施形態はハプティック動作可能な装置に関する。より特には、一実施形態はハプティック効果を生成するためにハプティック信号を多重化または逆多重化するシステムに関する。
電子デバイスの製造者はユーザにとって豊かなインターフェースを製造することに注力している。従来のデバイスは、ユーザにフィードバックを提供するために、視覚的及び聴覚的合図を用いている。一部のインターフェースデバイスにおいて、より一般的には総括して「ハプティックフィードバック(触覚フィードバック)」または「ハプティック効果(触覚的効果)」として知られる、運動感覚フィードバック(作用力および抵抗力フィードバック等)および/またはタクタイル(触知的)フィードバック(振動、触感、及び熱等)もまた、ユーザに提供される。ハプティックフィードバックは、ユーザインターフェースを強化および単純化するきっかけを提供し得る。例えば、振動効果、すなわち振動ハプティック効果は、ユーザに特定のイベントを通知するために、電子デバイスのユーザへの合図を提供するのに有用であり得るか、またはシミュレート環境もしくは仮想環境内でより大きく感覚を集中させるために、現実的なフィードバックを提供し得る。
ハプティックフィードバックはまた、携帯電話、スマートフォン、ポータブルゲーム機器、通信手段ベースのデバイスおよびインターフェースならびに様々な他のポータブル電子機器などの携帯用電子機器に次第に組み込まれている。例えば、一部のポータブルゲームアプリケーションは、ハプティックフィードバックを提供するように構成される、より大きなスケールのゲームシステムと共に使用されるコントロールデバイス(例えばジョイスティックなど)と同じように振動できる。
振動効果または他の効果を生成するために、多くのデバイスは一部のタイプのアクチュエータまたはハプティック出力デバイスを利用する。この目的のために用いられる公知のアクチュエータとしては、ソレノイドアクチュエータ、偏心体がモータによって動かされる偏心回転体(「ERM」)アクチュエータ、線形共鳴アクチュエータ振動モータ(「LRA」)または圧電アクチュエータなどの電磁アクチュエータが挙げられる。これらの対象のハプティックアクチュエータの各々はハプティック効果のためのパラメータを提供するハプティック制御信号を受信する。しかしながら、特定のハプティック効果に関して、ハプティック制御信号はハプティック効果を提供するアクチュエータに基づいて変化することを必要とし得る。したがって、1つのハプティックアクチュエータに関して、制御信号は、例えばオンまたはオフ状態を表す1種類の信号であってもよく、別のハプティックアクチュエータに関して、制御信号は、例えば、位置値を表す信号の別の種類であってもよい。
一実施形態は、エンコードされた2つ以上の異なる種類のハプティック信号を有する多重化信号を受信する。ハプティック信号の各々の種類は異なる種類のハプティック出力装置についてのハプティック効果を表す。そのシステムはハプティック再生装置に位置する対象のハプティック出力装置を決定する。そのシステムは、多重化信号を少なくとも対象の出力装置に対応するハプティック信号の種類に逆多重化する。そのシステムは、逆多重化ハプティック信号を対象のハプティック出力装置に提供する。
図1は、本発明の一実施形態に係る、ハプティック動作可能なシステムの図である。 図2は、一実施形態に係る、高レベルロジック多重化ハプティック制御信号を示すブロック図である。 図3は、一実施形態に係る、多重化および逆多重化ハプティック制御信号を示すフロー図である。 図4は、一実施形態に係る、多重化および逆多重化ハプティック制御信号を示すフロー図である。 図5は、一実施形態に係る、多重化および逆多重化ハプティック制御信号を示すフロー図である。 図6は、一実施形態に係る、多重化および逆多重化ハプティック制御信号を示すフロー図である。 図7は、一実施形態に係る、マルチチャネルストリーム内に高レベルロジック多重化ハプティック制御信号を示すブロック図である。 図8は、一実施形態に係る、マルチチャネルファイルのためのヘッダ情報の例を含む。 図9は、一実施形態に係る、多重化および逆多重化ハプティック制御信号を示すフロー図である。
一実施形態は、同じ入力またはソースから少なくとも2つのハプティック信号を生成するシステムである。2つのハプティック信号は、2つの異なる対象のハプティック出力装置で再生されるハプティック効果を表す。そのシステムは、信号を、ハプティック再生装置に送信された単一の多重化ハプティック信号ストリームに多重化/エンコードする。ハプティック再生装置において、信号は逆多重化/デコードされ、適切なハプティック信号がハプティック出力装置のタイプに基づいた装置で再生される。
図1は、本発明の一実施形態に係るハプティック動作可能(haptically−enabled)システム10のブロック図である。システム10は、ハウジング15内に装着されたタッチセンサ式表面11または他のタイプのユーザインターフェースを含み、かつメカニカルキー/ボタン13を含んでもよい。システム10に振動を生成するハプティックフィードバックシステムはシステム10内部にある。一実施形態において、振動はタッチ表面11上で生成される。
ハプティックフィードバックシステムはプロセッサまたは制御装置12を含む。メモリ20およびアクチュエータ駆動回路16はプロセッサ12に接続され、その駆動回路16はアクチュエータ18に連結されている。アクチュエータ18は任意のタイプの直流(「DC」)モータであってもよく、限定されないが、偏心回転体(「ERM」)、線形共鳴アクチュエータ信号モータ(「LRA」)、圧電モータまたはソレノイドアクチュエータが挙げられる。アクチュエータ18に加えてまたはその代わりに、システム10は、静電摩擦(「ESF」)、超音波表面摩擦(「USF」)を使用する装置、超音波ハプティック振動子を用いて音響放射圧を誘導する装置、装置を変化させるハプティック基板およびフレキシブルまたは変形可能な表面または形状を使用する装置、ならびにユーザの身体に取り付けられ得る装置、空気ジェットを使用した空気の吐き出しなどの突出したハプティック出力を提供する装置、電気による筋肉刺激を提供する装置などの非機械的または非振動装置であり得る他の種類のハプティック出力装置(図示せず)を含んでもよい。
プロセッサ12は任意のタイプの汎用目的のプロセッサであってもよく、または、特定用途向け集積回路(「ASIC」)等、ハプティック効果を提供するように特定的に設計されたプロセッサであってもよい。プロセッサ12はシステム10全体を作動させる同じプロセッサであってもよく、または別個のプロセッサであってもよい。プロセッサ12は、何のハプティック効果が再生されるかを決定することができ、かつ、そうした効果が高レベルのパラメータに基づいて再生される順序を決定することができる。一般に、特定のハプティック効果を定義する高レベルのパラメータは、大きさ(強さ)、頻度(周波数)、および期間を含む。ストリーミングモーターコマンド等の低レベルパラメータはまた、特定のハプティック効果を決定するために用いられることができる。ハプティック効果は、そのハプティック効果が生成された場合にそれがこれらのパラメータから生じた一部のものを含む場合、あるいはユーザのやり取りに基づいたこれらのパラメータから生じたものである場合、「動的」であると想定してよい。
プロセッサ12はアクチュエータ駆動回路16に制御信号を出力し、このアクチュエータ駆動回路16は電子構成要素および回路を備え、これらはアクチュエータ18に必要な電流および電圧(すなわち「モータ信号」)を供給してそれにより所望のハプティック効果を生じさせる。ハプティック効果が、ビデオファイルなどのマルチメディアファイルの再生装置に対応する例において、プロセッサ12はハプティック制御信号をハプティック駆動回路に提供できる。システム10は2つ以上のアクチュエータ18を備えてよく、各々のアクチュエータは別個の駆動回路16を備えてよく、それら全ては共通のプロセッサ12に連結される。メモリデバイス20は任意のタイプの保存デバイス、あるいはランダムアクセスメモリ(RAM)または読み出し専用メモリ(ROM)等のコンピュータ可読媒体であってもよい。メモリ20はプロセッサ12によって実行される命令を保存する。命令の中でも、メモリ20はハプティック効果モジュール22を含んでおり、これは複数の命令であって、プロセッサ12によって実行される場合に、以下により詳細に開示するようにハプティック効果を提供するアクチュエータ18のために駆動信号を生成する。メモリ20はまたプロセッサ12内部に位置してよく、または、内部メモリおよび外部メモリの任意の組み合わせであってもよい。
タッチ表面11は接触を認識し、かつその表面上の接触の位置および大きさ(強さ)も認識できる。この接触に対応したデータはプロセッサ12またはシステム10内の別のプロセッサに送信され、プロセッサ12はその接触を解釈して、それに応じてハプティック効果信号を生成する。タッチ表面11は任意の感知検出技術、例えば、静電容量性による検出、抵抗性による検出、表面音響波による検出、圧力による検出、光学による検出等を含む技術を利用して接触を感知し得る。タッチ表面11はマルチタッチ接触を感知してよく、かつ同時に生じるマルチタッチを識別することができてよい。タッチ表面11は、キー、ダイアル等を用いてユーザがやり取りする画像を生成および表示するタッチスクリーンであってもよく、または最小限の画像または画像のないタッチパッドであってもよい。
システム10は、セル式電話、携帯情報端末(PDA)、スマートフォン、コンピュータタブレット、ゲーム機、乗り物ベースのインターフェース等のハンドヘルドデバイスであってもよく、あるいは1つ以上のアクチュエータを備えるハプティック効果システムを備える任意の他のタイプのデバイスであってもよい。ユーザインターフェースは、タッチセンサ式表面であってよく、あるいは、マウス、タッチパッド、ミニジョイスティック、スクロールホイール、トラックボール、ゲームパッド、またはゲームコントローラ等の任意の他のタイプのユーザインターフェースであってよい。2つ以上のアクチュエータを用いた実施形態において、各アクチュエータはデバイス上で広範なハプティック効果を生成するために異なる回転能力を有してもよい。
ユーザにインターフェースハプティック効果を提供することに加えて、システム10は、例えば、ビデオまたはオーディオファイルと共にシステム10において再生するための静的に生成されたハプティック効果を提供してもよい。
異なる装置はハプティック再生能力の異なるレベルをサポートする。ハプティック再生装置によってサポートされるハプティック信号の種類は、使用されるアクチュエータとアクチュエータの駆動回路との組合せに依存する。一部の装置は、オン/オフ2値信号に従ってアクチュエータをオンまたはオフにするハプティック信号と共にアクチュエータ18などのハプティックアクチュエータを制御する「基礎ハプティック」のみをサポートし得る。基礎ハプティック信号についての1つのサンプルレートは200Hzであり得るが、他のサンプルレートが使用されてもよい。基礎ハプティック信号の一例において、ERMアクチュエータは基礎ハプティック信号に応答するように構成され得る。制御信号が、ERMがオンであることを知らせる場合、ERMアクチュエータについてのハプティック駆動回路(例えば駆動回路16)は、基礎ハプティック信号に従ってERMアクチュエータをオンにする。
一部の装置は、標準定義ハプティック信号の各サンプルについて128非ネガティブ値の1つでエンコードされた信号に従ってハプティック効果の強度を変化させるハプティック信号によりアクチュエータ18などのハプティックアクチュエータを制御する「標準定義」ハプティックをサポートし得る。標準ハプティック信号についての1つのサンプルレートは200Hzであり得るが、他のサンプルレートが使用されてもよい。標準定義ハプティック信号の1つの例において、LRAアクチュエータが標準定義ハプティック信号に応答するように構成され得る。LRAアクチュエータについてのハプティック駆動回路は、各々5msサンプルにて振幅情報に従ってLRAアクチュエータを制御する。
一部の装置は、高定義ハプティック信号の各サンプルについて+/−127の値でエンコードされた信号に従ってハプティック効果の強度を変化させるハプティック信号によりアクチュエータ18などのハプティックアクチュエータを制御する「高定義」ハプティックをサポートし得る。高定義ハプティック信号についての1つのサンプルレートは8kHzであり得るが、他のサンプルレートが使用されてもよい。高定義ハプティック信号は典型的に、基礎ハプティックまたは標準定義ハプティック信号より高いサンプルレートを有する。高定義ハプティック信号の一例において、圧電アクチュエータが高定義ハプティック信号に応答するように構成され得る。圧電アクチュエータのためのハプティック駆動回路は、125μs毎に振幅情報に従って圧電アクチュエータを制御し得る。
さらに、増加/減少時間は、LRAアクチュエータとERMアクチュエータとの間、およびさらにERMアクチュエータの異なるモデルの間で顕著に変化する。このことは、同じ種類の信号が複数のERMについて使用され得るとしても、ハプティック効果プログラマは、各アクチュエータの能力に基づいて異なる効果を指定することを望み得ることを意味する。ハプティック効果プログラマは、各信号が同じソースから生成される複数の対象の装置についてカスタマイズされたハプティック信号を提供することを望み得る。
最も広い範囲の装置にわたって十分に妥当に再生する単一のメディアコンテンツを送達しようとするときに問題が生じる。したがって、ハプティック効果プログラマが直面する1つの問題は、彼らが、アクチュエータのタイプまたは再生装置における他のハプティック出力装置に基づいて複数のハプティック効果信号を提供することを考慮する必要があり得ることである。さらに、プログラマは、どのタイプのハプティック出力装置が再生装置で使用中であるかを知ることができない。この問題を扱うために、プログラマは、圧電アクチュエータまたはLRAアクチュエータを対象とした高定義または標準定義の信号を提供でき、端末装置は、必要な場合、その信号を小さなまたは大きな定義信号に「ワープ」することができる。このことは、例えば、LRAアクチュエータを対象とするが、実際に圧電アクチュエータで再生している標準定義ハプティック信号の場合、精度が、200Hz信号を8kHz信号へ変換する際に損失し、圧電アクチュエータを基本的に高価なLRAアクチュエータに変えるため、理想的ではない。圧電アクチュエータを対象とするが、実際に基礎ハプティックのみをサポートしているERMアクチュエータで再生している高定義信号の場合、変換はERMアクチュエータを無効にし得る。
1つのオプションは、端末装置において予想される範囲のハプティック出力装置の各々についてハプティック制御信号を提供できるが、そのようにする際に、ハプティック信号についての帯域幅要件は増加し、いくつかの送達機構が信号を体系化するのに必要とされる。別のオプションは、最高のビットレート信号について正常に割り当てられた帯域幅を使用して1つの信号内に2つ以上のハプティック信号からのデータを組み込むのに損失のある方式で2つ以上のハプティック信号を一緒にエンコードできる。これらのアプローチの両方は本明細書に意図される。
エンコード/デコード多重化
いくつかの実施形態は、各々が、1つのフォーマットを別のフォーマットに変換するための装置10などの端末装置を必要とせず、およびハプティック制御信号を提供するのに必要とされる帯域幅を増加させずにその元の表現を保持するように、複数のハプティック信号を多重化する。これらの実施形態は基礎ハプティック信号についての少なくとも1つのエンドポイントソルーションを提供する。なぜなら、端末装置の能力は、利用可能な少なくとも1つの基礎ハプティック信号を有さずに、前もってハプティックプログラマに必ずしも知られておらず、再生装置で再生しているアプリケーション内のコンテンツ再生は、不適切なハプティック信号変換結果によって強くハムストラング(hamstrung)され得るからである。基礎ハプティック信号を合成したハプティック波形に多重化することによって、少なくとも1つの高品質の基礎ハプティック経験が生成される。
図2は、一実施形態に従って、高レベルの論理多重化ハプティック制御信号を示すブロック図である。要素205、210および215はそれぞれ、ハプティックストリームA、BおよびCに対応する。220において、ハプティックストリームA、B、およびCは、単一の合成されたストリームに多重化される。225において、合成されたストリームはハプティック効果に翻訳するために再生装置に送達される。230において、合成されたストリームは、ユーザに提示するために図1の装置10などの再生装置において逆多重化される。240において、ハプティックストリームAはプロセッサ12で考慮され、ストリームAについてのストリームタイプが、244においてシステムで使用されるアクチュエータのタイプに対応する場合、ストリームは、駆動回路16およびアクチュエータ18によってシステムで再生され、そうでなれば242においてストリームは無視される。250において、ハプティックストリームBはプロセッサ12において考慮され、ストリームBについてのストリームタイプが、254においてシステムで使用されるアクチュエータのタイプに対応する場合、ストリームは、駆動回路16およびアクチュエータ18によってシステムで再生され、そうでなければ252においてストリームは無視される。260において、ハプティックストリームCはプロセッサ12で考慮され、ストリームCについてのストリームタイプが、264においてシステムで使用されるアクチュエータのタイプに対応する場合、ストリームは駆動回路16およびアクチュエータ18によってシステムで再生され、そうでなければ262においてストリームは無視される。あるいは、いくつかの実施形態において、デマルチプレクサ230はシステム10で使用されるアクチュエータのタイプを示す情報へのアクセスを有する。このような実施形態において、デマルチプレクサ230にて、デマルチプレクサは適切なハプティックストリームを抽出し、駆動回路16へ送信する。
いくつかの実施形態において、多重化は、ハプティックプログラマによって、またはビデオファイルに関連したオーディオファイルなどのオーディオファイルを分析でき、オーディオファイルに対応するようにハプティック効果ファイルを生成できるツールを使用することによってハプティックプログラミング環境内で実施される。例えば、Avid Corporation’s Pro Tools「AudioSuite」プラグインは、オフラインのオーディオ−to−ハプティック変換器を含み得る。変換アルゴリズムはまた、オーディオ信号をハプティック信号に変換するためのバッチコマンドラインフォーマットにおいて使用され得、また、本明細書に記載されている信号を多重化するために使用され得る。3つの基礎タイプのハプティック効果ファイルが生成され得る:基礎ハプティック信号、標準定義ハプティック信号、および高定義ハプティック信号(これらの3つはまた、本明細書において「制御信号」と称される)。当業者は、さらなるタイプが開発されてもよいこと、および各タイプがハプティックストリームの多重バリエーションを有し得るように他のパラメータが変換に含まれてもよいことを理解するであろう。ソースがオーディオソース変換であるかまたはハプティックプログラマによって指定されたハプティック効果であるかに関わらず、これらの3つのハプティックストリームの各々は、同じ入力またはソースに由来する(および同じ一般的ハプティック効果を提供することを意図する)が、利用可能な異なるハプティック出力装置技術に起因して異なる。これらの3つのストリームは220において単一ストリームに多重化され得る。次いで多重化信号はハプティック再生装置10でダウンロードまたはストリームされ得る。多重化および逆多重化は異なる装置または同じ装置で行われてもよい。多重化信号は再生装置10において230で逆多重化され、再生装置10においてアクチュエータ18のタイプに対応するハプティック信号がハプティック効果を再生するために使用される。他のストリームは無視され得る。いくつかの実施形態において、230における逆多重化は、アクチュエータ18のタイプに基づいて特定のハプティック信号を要求する再生装置10を用いてストリーミングサーバで行われ得る。次いでストリーミングサーバは、ハプティック信号を逆多重化し、アクチュエータ18のための適切なハプティック信号をストリーミングし得る。
図3は、一実施形態に従って多重化および逆多重化ハプティック制御信号を示すフロー図である。一実施形態において、図3(ならびに以下の図4〜6および9)のフロー図の機能性は、メモリまたは他のコンピュータ可読もしくは有形的表現媒体に格納されたソフトウェアによって実装され、プロセッサによって実行される。他の実施形態において、機能性は、ハードウェア(例えば、特定用途向け集積回路(「ASIC」)、プログラマブルゲートアレイ(「PGA」)、フィールドプログラマブルゲートアレイ(「FPGA」など)の使用によって)またはハードウェアとソフトウェアの任意の組合せによって実施されてもよい。
いくつかの実施形態において、基礎ハプティック信号は標準定義信号により多重化される。上記のように、基礎ハプティック信号は一般に、約5msまたは200Hzの周波数でオンまたはオフ状態を表す情報のシングルビットの離散サンプルから構成されている。標準定義制御信号は一般に、200Hzの周波数においても情報の符号付きバイトの離散振幅サンプルから構成されている。一実施形態において図3における多重化プロセスはビットフィールドコンビネーションであり、標準定義信号の符号ビットが、代わりに基礎ハプティック信号をエンコードするために使用される。
305において、基礎ハプティックサンプルおよび標準定義サンプルがそれぞれ、基礎ハプティックストリームおよび標準定義ストリームから受信される。310において、標準定義信号の下位の7ビットが、値0x7F(01111111)を有するバイトをビットワイズAND−ingすることによって抽出される。得られたバイトは常に0(ゼロ)を先頭にする。いくつかの実施形態において、標準定義信号が+/−127の値を使用した全範囲信号である場合、サンプルバイトは値を2で割るために右に移動できるが、符号ビットを保存する。315において、基礎ハプティック信号はバイト(16進数において0x00または0x01のいずれか)によって表され、ビットは7回左に移動され、最小位ビットを最上位ビットに移動し、0x80または0x00の値のいずれかが得られる。320において、標準定義および基礎ハプティック信号は、1バイトを生成するために2値をビットワイズOR−ingすることによって合成され(またはそれらは一緒に加えられてもよい)、最上位ビットは基礎ハプティック信号に対応し、最小位ビットは標準定義信号に対応する。これは完全な多重化ハプティック信号を生成するために全てのサンプルについて繰り返される。
350で再生時間において合成信号を逆多重化するために、合成信号は、サンプルのための情報の1バイトとして受信される。355において、標準定義信号サンプルは、標準定義サンプルバイトを生成するために0x7Fを有するバイトをビットワイズAND−ingすることによって抽出される。いくつかの実施形態において、標準定義信号が+/−127の元の値を使用した全範囲信号である場合、信号サンプルはサンプル値に2を掛けるために左に移動でき、符号ビットを復元する。以下にさらに詳細に説明される補間が、全範囲の標準定義信号を2で割った場合に失った信号レベル間の粒度を復元するために使用されてもよい。360において、基礎ハプティック信号は、元の合成された信号を得、右に7回移動し、最上位ビットを最下位ビットの場所に置き、先行ゼロで満たすことによって抽出される。365において、適切な信号が装置で見られるアクチュエータタイプのために選択される。適切な逆多重化信号はプロセッサ12によってアクチュエータ18に送信される。
図4は、一実施形態に従ってハプティック制御信号を多重化および逆多重化することを示すフロー図である。この実施形態に関して、高定義ハプティック信号(例えば、圧電アクチュエータと共に使用される)は、標準定義ハプティック信号と共に多重化される。いくつかの実施形態において、高定義ハプティック信号は−127〜127の範囲の値を有する1バイトの情報である任意の所与のサンプルにおける値を有して8kHzにて全波形により表される。他の実施形態は、16kHzの周波数などの他の周波数および範囲において全波形によって高定義ハプティック信号を表し得る。いくつかの実施形態において、高定義信号の周波数は変化してもよい。いくつかの実施形態において、標準定義制御信号(例えば、LRAアクチュエータと共に使用される)は、任意の所与のサンプルにおける情報の符号付きバイトによって表される200Hzにおける振幅信号である。他の実施形態は300Hzの周波数などの他の周波数および範囲における標準定義信号を表し得る。いくつかの実施形態において、標準定義信号の周波数もまた、変化してもよい。当業者は、これらの周波数および範囲は変化してもよいことを理解するが、高定義信号を再生するように設計されるアクチュエータが典型的に、標準定義信号を再生するように設計されるアクチュエータより非常に多くの周波数信号を処理できることを理解する。図4における多重化プロセスは、高定義信号のサンプルサブセットにわたってDCオフセットを生成できる。
405において、高定義および標準定義制御信号が受信される。410において、標準定義制御信号は、高定義制御信号周波数に適合するようにアップサンプルされる。ステアステッピングを減少させ、平滑化を提供するためのいくつかの補間が、標準定義信号周波数が高定義制御周波数の直接多重であるかどうかに応じて望まれ得る。415において、2つの信号は2で割られ、余りは失う。この分割は、各サンプルを1つの場所で右に移動することによって実施され得、最下位ビットを失う。他の実施形態において、415にて、2つの信号が、それらの加算が出力の予想される範囲内に入るようにスケーリングされる。例えば、出力が、一実施形態において、+/−127の範囲であると予想される場合、高定義信号は60%スケーリングされてもよく、標準定義信号は40%スケーリングされてもよく、これらの加算は100%に等しい。これは、公知の手段、例えば、浮動小数点値による乗数によって、またはスケーリングした値による除算によって達成され得る。値は、設計者が他の信号より1つの信号の精度を重視することを望む方法に応じて任意の表現にてスケーリングされ得る。一般に、高くスケーリングされた信号は、デコード/逆多重化する場合、より正確になる。420において、2つの信号が合成信号を生成するために一緒に加算される。いくつかの信号に関して、これは高定義信号に対してDCオフセットを効果的に生成する。なぜなら、標準定義信号は高定義信号よりはるかに低い周波数で変化するので、高定義制御信号に対するDCオフセットのように見えるからである。2つの信号は2で割られる(または上記のようにいくつかの他の値にスケーリングされる)ので、いくつかの粒度は両方の信号について失われる。なぜなら範囲が−127から127〜−63から63に減少したからである。これは全多重化ハプティック信号を生成するために全てのサンプルについて反復される。
450で、再生装置10において合成信号を逆多重化するために、合成された多重化信号が受信される。8kHz合成信号の任意の所与のサンプルは1バイトにより表される。455において、DCオフセットが除去される。DCオフセットを除去するための技術は当該分野において公知である。標準的な定義信号に関して、合成信号がローパスフィルタを通して加えられ得、低周波標準定義信号が通過することを可能にするが、高周波高定義信号が通過することを防ぐ。高定義信号に関して、標準定義信号が高定義信号を生成するために合成信号から差し引かれ得る。あるいは、合成信号はハイパスフィルタを通して加えられ得、高周波高定義信号が通過することを可能にするが、低周波標準定義信号が通過することを防ぐ。DCオフセットを除去するために使用され得る他の技術は、この実施例においてローパスフィルタと同様であるエンベロープ技術を含む。460において、標準定義制御および高定義制御のための抽出された信号の各々は、それらを多重化前の適切な値に戻すために2を掛けられる(または上記のようにそれらの元の比例値に縮小される、例えば、高定義信号の場合、60%で割られる)。一実施形態において、粒度を改良するために、所望の場合、より平滑な遷移を提供するために補間が値の間で使用されてもよい。例えば、逆多重化および倍化した後、値4、4、6、6、8、8、10を有するサンプルのセットが、4、5、6、7、8、9、10であるように補間され得る。また、460において、標準定義信号が200Hzに戻るようにダウンサンプルされ得るか、またはどんな開始周波数でもよい。465において、適切な信号が装置10に見られるアクチュエータタイプのために選択される。適切な逆多重化信号がプロセッサ12によってアクチュエータ18に送信される。
いくつかの実施形態において、多重化および逆多重化は標準定義および高定義信号の有効周波数の特徴を考慮に入れられ得る。高定義信号は標準定義信号より大きい周波数でサンプリングされるとしても、標準定義信号は高定義信号に適合するようにアップサンプリングされ得る。これらの信号はサンプルごとに2つの信号の平均をとることによって合成されてもよい(各サンプルを2で割り、それらを加算する)。信号を2で割る作用は、各々の解像度を1ビット減少させる(サンプル信号当たり8ビットがサンプル信号当たり7ビットになる)。解像度のこの損失により、両方の信号の忠実性がわずかに減少する。2つの信号が合成された後、アップサンプリングされた標準定義信号は高定義信号に対するDCオフセットと同様である。標準定義信号を抽出するために、ローパスフィルタがDCオフセットを分離するために使用されてもよい。ノッチまたはハイパスフィルタが高定義信号の周波数を分離するために使用されてもよい。
多重化前に高定義信号はDCオフセットを含んでもよい。この場合、標準定義信号における加算が増加し得るか、または多重化信号のDCオフセットを無効化し、多重化後、低周波数での高定義信号において情報の損失、および高定義信号からの低周波数情報の内容物から標準定義信号において歪みが生じる。このように、いくつかの実施形態において、上記のフローは、415において、標準定義信号周波数がかなり低い、例えば30Hz未満の場合、ハイパスフィルタにより2つの信号を一緒に加算する前に、高定義信号をフィルタリングするように、または標準定義が、多く、例えば175Hz〜250Hzの周波数変化する場合、ノッチフィルタにより高定義信号をノッチフィルタリングするように変更されてもよい。次いで逆多重化側で、455にて、ハイパスフィルタが415における高定義信号に適用される場合、ローパスフィルタが標準定義信号を抽出するために多重化信号に適用され得る。ノッチフィルタが415にて高定義信号に適用される場合、バンドパスフィルタが標準定義信号を抽出するために使用されてもよい。標準定義信号が高定義信号においてフィルタされたスポットに充填され得るので、多重化信号が高定義信号のために使用されてもよい。平滑化フィルタが高定義信号で使用されてもよい。
さらに、図3および4における2つの多重化技術が、基礎ハプティック信号、標準定義ハプティック信号、および高定義ハプティック信号を含む3方向多重化信号を提供するために組み合わされてもよい。信号を多重化するために、第1の基礎ハプティック信号は図3Bと併せて記載されている標準定義ハプティック信号により多重化され、次いで多重化基礎/標準定義信号は、図4と併せた記載した上記のように高定義信号により多重化するための標準定義信号として機能する。逆多重化するために、第1の基礎/標準定義信号は図4と併せた記載したように高定義から逆多重化される。次に、標準定義および基礎ハプティック信号は図3と併せて上記したように逆多重化される。
図5は、一実施形態に従ってハプティック制御信号を多重化および逆多重化するステップを示すフロー図である。全てのサンプリングされたバイトについて合成された信号を生成するための標準定義および高定義信号を組み合わせるというよりむしろ、図4における多重化技術に対する代替として、2つの信号がインターレースされてもよい。505において、標準定義および高定義ハプティック制御信号が受信される。510において、信号は、標準定義信号のサンプルを高定義信号に置き換えることによって合成される。標準定義信号は高定義信号と比較して非常に低い周波数で生じるので、高定義信号についてのサンプルは、高定義信号を多く損失せずに標準定義信号についてのサンプルと置き換えられ得る。例えば、高定義信号が8kHzであり、標準定義信号が200Hzである場合、標準定義サンプルは全ての40の高定義サンプルについて一度に生じる。したがって40番目の高定義サンプルは対応する標準定義サンプルと置き換えられてもよい。もちろん、このことにより、圧電信号のいくつかのサンプルは損失する。
いくつかの実施形態において、標準定義信号はまた、置き換えがより多く起こることを可能にするためにアップサンプルされてもよい。例えば、標準定義信号は、全ての第8番目の高定義サンプルを標準定義サンプルと置き換え、同じ値の標準定義サンプルと同じ置き換えを5回繰り返すことによって1kHzに効果的にアップサンプルされ得る。いくつかの実施形態において、標準定義信号周波数がかなり高い、例えば175Hz〜250Hzの周波数の場合、標準定義信号のエンベロープは、公知の技術を使用して抽出され、アップサンプルされ得、ハプティックの意図およびコンテンツを保存する。次いで、新たな標準定義信号が、より高いサンプリングレート(上記のように1kHzなど)で生成され得、その信号はエンベロープを掛けられる。置換周波数を増加させることは、より少ない処理バッファを提供することによって、高定義および標準定義制御信号を必要に応じてアクチュエータに通過させることに役立つ。また、置換周波数を増加させることは、標準定義サンプルが処理される粒度を増加させ、より良い性能を提供できる。しかしながら、置換周波数を増加させることはまた、高定義信号における信号情報の損失を増加させる。いくつかの実施形態において、どんな置換周波数が選択されようと、損失は、前のサンプルの最上位ビットを、除去されるサンプルの最下位ビットに置き換えるために置換される値の直前に高定義信号値サンプルをエンコードすることによって最小化され得る。これにより、以前のサンプル内にエンコードすることによって除去されるサンプルについてのサンプル情報のいくつかが保持される。
組み合わされた標準定義および高定義制御信号を逆多重化するために、550において、多重化信号が受信される。555において、多重化信号が、置換が使用される同じ周波数でサブサンプリングされる。置換が200Hz(標準定義信号周波数と同様)で起こる場合、これは5ms毎である。サブサンプルは標準定義信号を表すために組み合わされてもよく、残りのサンプルは高定義信号を表すために組み合わされてもよい。560において、残りの信号が高定義信号について処理される。標準定義信号を除去することにより、高定義信号においてホールを残し、標準定義信号は置換される。ホールは、ホールの前および後の信号値の平均を取ることによって、ホールの前に信号値を反復することによって、またはホールの後に信号値を反復することによって充填され得る。いくつかの実施形態において、以前のサンプルの4つの最上位ビットが、上記のように損失したサンプル情報の4つの最下位ビットによりエンコードされる場合、損失したサンプルは、損失したサンプルの4つの最下位ビットとして以前のサンプルの4つの最上位ビットを取り、以前のサンプルおよび損失サンプルの両方について以前のサンプルに先行するサンプルの4つの最上位ビットを借りることによってデコードされ得る。一実施形態において、損失サンプルの4つの最上位ビットが損失サンプルの直後にサンプルから借りられてもよい。つまり、一連のサンプルを考慮することにより、損失サンプルについての4つの最上位ビットはサンプルから右に進み、以前のサンプルについての4つの最上位ビットはサンプルから左に進む。最上位ビットが1つのサンプルから次まで変化しそうにないのでこのエンコード/デコード技術は性能を改良するが、多くのサンプルにわたって十分に徐々に変化する。
さらに、図3および5における2つの多重化技術が、基礎ハプティック信号、標準定義ハプティック信号、および高定義ハプティック信号を含む3方向多重化信号を提供するように組み合わされてもよい。信号を多重化するために、第1の基礎ハプティック信号は図3と併せて記載されている標準定義ハプティック信号により多重化され、次いで多重化された基礎/標準定義信号は、図5と併せて記載されている高定義信号により多重化するための標準定義信号として機能する。逆多重化するために、第1の基礎/標準定義信号は、図5と併せて記載されている高定義信号から逆多重化される。次に、標準定義および基礎ハプティック信号は図3と併せて上記されているように逆多重化される。
図6は、一実施形態に従ってハプティック制御信号を多重化および逆多重化するステップを示すフロー図である。振幅変調が、複数の代替の基礎ハプティック、標準定義、および高定義信号を含む、全ての利用可能なハプティック信号を多重化するために使用され得る。605において、全てのハプティック信号が受信される。610において、選択された搬送波のどれも互いにオクターブ(倍数)でないように、正弦搬送波が信号の各々について選択される。615において、時間により順序付けられた振幅信号がハプティック信号の各々について生成される。620において、振幅信号の各々が選択された搬送波の各々に加えられる。625において、搬送波/振幅信号の各々は多重化された信号を生成するために一緒に組み合わされる。信号のデータサイズは搬送波について選択される周波および有効な範囲の値に依存する。例えば、合成された搬送波により、任意の所与のサンプルについて多重化された値が8ビット数より大きくなり得る場合、余分なビットが合成信号に加えられるのに必要とされるので、サイズおよび複雑性が増加する。さらに、合成された搬送波は、搬送波およびハプティック信号データの最大周波数にてサンプリングされるべきである。したがって、データサイズは搬送波の選択に依存し、それに応じて変化し得る。
合成された振幅変調ハプティック信号ソースを逆多重化するために、650において、多重化信号が受信される。655において、多重化信号は、所望されるソースハプティック信号のための信号についての適切な段階において搬送波で乗算される。660において、得られた信号はソースハプティック信号を見つけるために平方根を求められる。665において、追加のハプティック信号が合成波に見られることを必要とする場合、655に戻る。これはハプティックソース信号の全てを見つけるために使用される搬送波の各々について反復される。受信ステップの最後において、ハプティックソース信号の1つのみが必要とされる場合、対応する搬送波のみが変調信号に対して処理されることを必要とする。670において、適切なハプティック信号が再生装置10におけるアクチュエータのタイプに基づいて選択される。
チャネル多重化
他の実施形態において、複数のハプティック信号をハプティック再生装置に提供することは、ハプティック信号の全てをマルチチャネル再生ストリームに合成することによって達成され得る。チャネル多重化を実装する実施形態において、上記の基礎ハプティック、標準定義および高定義信号などの信号のタイプは、チャネル多重化に使用され得る同じタイプの信号のままである。さらに、ハプティックストリームは、上記のハプティックプログラミングおよびオーディオ変換ツールを使用して作成され得る。
一実施形態において、ハプティックエレメントリストリーム(「HES」)は、2つ以上のハプティックストリームを提供し得るマルチチャネルストリームのコンテンツを示すためにヘッダ情報を提供することによって作成される。このようなストリームは、各HESが実装によって255までのストリームを保持できることを除いて、右トラックおよび左トラックを有するステレオ音声ストリームと同様である。当業者は、チャネル識別子のアドレススペースを増加または低下させることによって上下のいずれかにサポートされるストリームの数の制限を容易に変更できる。
図7は、一実施形態に従ってマルチチャネルストリームへの高レベル論理多重化ハプティック制御信号を示すブロック図である。要素705、710および715はそれぞれ、ハプティックストリームA、BおよびCに対応する。720において、ハプティックストリームA、BおよびCは、シングルマルチチャネルストリームに合成される。725において、マルチチャネルストリームはハプティック効果に翻訳するために再生装置に送信される。いくつかの実施形態において、マルチチャネルストリームは、再生装置のための適切なハプティックストリームを選択でき、典型的にオーディオまたはビデオと共にそのストリームのみを再生装置に提供できるマルチメディアサーバに送信される。730において、合成ストリームは、ユーザに提示するために図1の装置10(またはサーバ)などの再生装置においてマルチチャネルストリームから個々のストリームに逆多重化される。740において、ハプティックストリームAはプロセッサ12において考慮され、ストリームAについてのストリームタイプがシステムに使用されるアクチュエータのタイプに対応する場合、744において、ストリームは駆動回路16およびアクチュエータ18によってシステムで再生され、あるいは742において、ストリームは無視される。750において、ハプティックストリームBはプロセッサ12において考慮され、ストリームBについてのストリームタイプがシステムに使用されるアクチュエータのタイプに対応する場合、754において、ストリームは駆動回路16およびアクチュエータ18によってシステムで再生され、あるいは752において、ストリームは無視される。760において、ハプティックストリームCはプロセッサ12において考慮され、ストリームCについてのストリームタイプがシステムに使用されるアクチュエータのタイプに対応する場合、764において、ストリームが駆動回路16およびアクチュエータ18によってシステムで再生され、あるいは762において、ストリームは無視される。いくつかの実施形態において、デマルチプレクサ730はシステム10に使用されるアクチュエータのタイプを示す情報へのアクセスを有し得る。このような実施形態において、デマルチプレクサ730において、デマルチプレクサは、適切なハプティックストリームを抽出し、駆動回路16に送信する。
マルチチャネルストリームの各サンプルは各チャネルについて1バイトを含み得る。例えば、マルチチャネルストリーム中に2つのストリームが存在する場合、1つのサンプルにつき合計16ビットを有する2つのチャネルが存在する。1つのサンプルにつき8ビットより大きいハプティックストリームに関して、各チャネルにより使用されるビット数はそれに応じて増加し得る。いくつかの実施形態において、ビット数は、最も近いバイト長さまたはニブル長さまで切り上げられ得る。例えば、ハプティック信号が10ビットをとる値を有するサンプルを有する場合、バイト長さによって切り上げられる場合、16ビットまたはニブル長さによって切り上げられる場合、12ビットであるHESのチャネルに記憶され得る。
HESファイルがどのように体系化されるかについての情報はヘッダ内に含まれてもよい。HESファイルヘッダは、チャネル数、サンプル当たりのビット数、サンプルレート、どのチャネルがどのタイプのハプティック信号に対応するかを示すインジケータまたは目的とするハプティック再生装置のタイプ、エンコード情報、圧縮情報およびバージョン情報などのストリームのコンテンツを示す情報を含んでもよい。
図8は、一実施形態に係るマルチチャネルファイルについてのヘッダ情報の一例を含む。16個のスロットのラインの各スロットはニブルを表し、2つの連続したスロットは1バイトを表す。805において、HESファイルは、標準リソース交換ファイルフォーマット(「RIFF」)ファイルエンベロープ内に含まれる。HESファイルは、810におけるように定義されるヘッダフォーマットおよび815におけるように定義されるデータ部分からなり得る。ヘッダ810において、820についてのバイトは、HESファイルに関連するメジャーバージョンを識別するためにメジャーバージョン識別子を表す。825についてのバイトは、HESファイルに関連するマイナーバージョンを識別するためにマイナーバージョン識別子を表す。例えば、HESバージョンが6.2である場合、6は、メジャーバージョンに対応し得、2はマイナーバージョンに対応し得る。830についてのバイトは、「非圧縮LPCM」、「時間順振幅」などのエンコードスキームに対応する値を含み得るファイル内のデータについての情報をエンコードすることを表す。835についてのバイトは、将来のバージョンに関連する将来の使用のためにリザーブされ得る。840についての4バイトは、ヘルツでサンプリングレートを表し得る。845についての2バイトはサンプル当たりのビット数を表し得る。850についてのバイトはファイル内のチャネル数を表し得る。855、860および865についてのバイトは、各チャネルについての特定のアクチュエータまたは端末装置のタイプを示し得る。各チャネルを示すためにリザーブされたバイト数は、チャネル数、各チャネルについて1つに対応するべきである。したがって、855についてのバイトはチャネル1についての対象ハプティック装置を特定でき、860についてのバイトはチャネル2についての対象のハプティック装置を特定でき、865についてのバイトはチャネルNについての対象のハプティック装置を特定できる。870についてのバイトはデータに加えられる圧縮スキームを表し得る。例えば、既知の損失性データおよび無損失性データ圧縮シームがデータに適用され得る。
HESデータ815について、各チャネルについて8ビットを有する、各サンプルについて2つのチャネルを特定する例示的な例が示される。875についての2バイトは第1のサンプルを表し得、第1の2つのニブルは第1のチャネルハプティックストリームを表し得るのに対して、第2の2つのニブルは第2のチャネルハプティックストリームを表し得る。880についての2バイトは875と同様に設定されているが、異なる値を有してもよい。パターンは、2バイト885により表されている、最後のサンプル、サンプルNまで全てのサンプルについて反復され得る。当業者は、HESヘッダ810のフィールドの各々に使用されるニブルまたはバイトの数が、特定の選択に従って任意に変化されてもよいことを認識するであろう。さらに、当業者は、HESデータ815のフォーマットが、サンプル当たりのチャネル数およびサンプル当たりのビット数を増加できる、ヘッダ部分で確立されたパラメータに基づいて変化することを認識するであろう。
図9は、一実施形態に従ってハプティック制御信号を多重化および逆多重化するステップを示すフロー図である。マルチチャネル多重化のために、905において、ハプティック信号が受信される。上記のように、これらの信号は同じソースから生成され得、異なる対象のハプティック再生装置上であるが、一般に同じハプティック効果を表し得る。いくつかの実施形態において、マルチチャネル信号は他のハプティック効果を表すためのチャネルも含んでもよい。例えば、マルチチャネルハプティック信号は、1つのソースからの1つのハプティック効果について3つのチャネルおよび別のハプティック効果について別のソースからの3つのチャネルを含んでもよい。このような場合、対象のハプティック再生装置は複数のハプティック出力装置を有してもよく、各々のソースは1つのハプティック出力装置に対応する。910において、受信された信号が分析され、最高の周波数信号にアップサンプルされる。また、910において、サンプルは、マルチチャネルストリームの各サンプルについての各チャネルについて均一幅サブサンプルを生成するために埋め込まれる。例えば、基礎ハプティック信号は標準定義ハプティック信号のサンプリング周波数に適合するようにアップサンプルされ得る。基礎ハプティック信号はまた、ゼロで埋め込まれてもよく、それによりこれは標準定義信号と同じビット数を含む。いくつかの実施形態において、しかしながら、設定オプションにより、異なるチャネルが各サブサンプルにおいて異なるビット数を有し得る。
915において、各ストリームについての情報がヘッダを定義するために使用される。追加パラメータが、各チャネルについての対象のハプティック出力装置などの他の要素を定義するために特定されてもよい。920において、各信号の各サンプルは、合成された各サンプルと同じビット数を有するデータサンプルを作成するために合成される。各サンプルは、任意の所与のサンプルにおいてマルチチャネルストリームについてのサブサンプルまたはチャネルサンプルになる。
逆多重化のために、950において、マルチチャネル多重化ストリームは逆多重化のための装置によって受信される。上記で参照されるように、装置は、ハプティック再生装置を提供するようにストリームを抽出するハプティック再生装置またはサーバであってもよい。いくつかの実施形態において、再生装置は、再生装置の機能に基づいてチャネルを選択し、選択されたチャネルのみを再生装置にストリーミングするストリーミングサーバに対してその機能を提示でき、それによりハプティックコンテンツを再生するために必要とされるバンド幅を減少させる。955において、マルチチャネルストリームのヘッダ情報が分析される。チャネル数および特性が決定される。ビット数およびチャネル数に基づいて、データは個々のストリームに構文解析され得る。960において、逆多重化に対するチャネルは対象のハプティック再生装置の特性に基づいて選択される。965において、ハプティック信号はデータをマルチチャネルストリームに構文解析することによって抽出される。データは、加えられた埋め込みを除去するために切り捨てられ得、ハプティック出力装置で再生するためにダウンサンプルされ得る。
開示されるように、実施形態は、2つ以上のハプティック信号を1つの多重化信号に多重化し得るハプティックソース信号マルチプレクサを実装する。多重化信号は、対象の装置および対象の装置のハプティックシステムでの再生のために選択される適切な信号で逆多重化され得る。したがって、ハプティック設計者は、様々なハプティック出力デバイスを有する様々な対象の装置で再生するための多重化されたハプティックストリームを有する単一信号を作成できる。
いくつかの実施形態は本明細書に具体的に示されおよび/または記載されている。しかしながら、開示された実施形態の修飾および変更は上記の教示に含まれ、本発明の精神および意図する範囲から逸脱せずに添付の特許請求の範囲内であることは理解される。

Claims (36)

  1. プロセッサによって実行される場合、前記プロセッサにハプティック信号を逆多重化させる、記憶された命令を有するコンピュータ可読媒体であって、前記逆多重化は、
    2つ以上の異なるタイプのハプティック信号を含む多重化信号を受信するステップであって、ハプティック信号の各タイプは、異なるハプティック出力装置についてのハプティック効果を表す、ステップと、
    ハプティック再生装置において対象のハプティック出力装置を決定するステップと、
    前記多重化信号を、前記対象のハプティック出力装置で再生するためのハプティック信号に逆多重化するステップと、
    逆多重化された前記ハプティック信号を前記対象のハプティック出力装置に提供するステップと、
    を含む、コンピュータ可読媒体。
  2. 前記対象のハプティック出力装置が基礎ハプティック信号を再生でき、前記多重化信号を逆多重化するステップが、各サンプルについて、前記多重化信号の基礎ハプティック信号部分を選択するステップを含む、請求項1に記載のコンピュータ可読媒体。
  3. 前記多重化信号を逆多重化するステップが、前記多重化信号の基礎ハプティック信号部分を選択するステップの前に、前記多重化信号に周波数フィルタを適用するステップをさらに含む、請求項2に記載のコンピュータ可読媒体。
  4. 前記対象のハプティック出力装置が標準定義ハプティック信号を再生でき、前記多重化信号を逆多重化するステップが、各サンプルについて、前記多重化信号の標準定義部分を選択するステップを含む、請求項1に記載のコンピュータ可読媒体。
  5. 前記逆多重化するステップが、最上位ビットをゼロと置き換える前に、前記多重化信号に周波数フィルタを適用するステップをさらに含む、請求項4に記載のコンピュータ可読媒体。
  6. 前記対象のハプティック出力装置が高定義ハプティック信号を再生でき、前記多重化信号を逆多重化するステップが、周波数フィルタを前記多重化信号に適用するステップを含み、続いて、各サンプルについて、各サンプル値に2を掛けるステップを含む、請求項1に記載のコンピュータ可読媒体。
  7. 前記対象のハプティック出力装置が標準定義ハプティック信号を再生でき、前記多重化信号を逆多重化するステップが、
    標準定義ハプティック信号について使用される搬送波について、二乗信号を見つけるために前記多重化信号に前記搬送波を掛けるステップと、
    前記標準定義ハプティック信号を見つけるために前記二乗信号の平方根を求めるステップと、
    を含む、請求項1に記載のコンピュータ可読媒体。
  8. 前記逆多重化するステップが、
    前記多重化信号の周期的なサンプルを得るステップと、
    前記多重化信号から前記サンプルを除去するステップと、
    前記周期的なサンプルの直前のサンプルに基づいて前記多重化信号についての置換サンプルを演算するステップと、
    を含む、請求項1に記載のコンピュータ可読媒体。
  9. 前記逆多重化するステップが、
    前記多重化信号についてのチャネル情報を抽出するステップと、
    サンプルデータを構文解析して、前記チャネル情報に基づいて前記多重化信号からチャネルを抽出するステップと、
    を含む、請求項1に記載のコンピュータ可読媒体。
  10. 前記チャネル情報が、基礎ハプティック信号、標準定義ハプティック信号、または高定義ハプティック信号の少なくとも2つに対応するハプティックストリームについての情報を含む、請求項9に記載のコンピュータ可読媒体。
  11. 前記逆多重化するステップがサーバ上で行われ、前記提供するステップは前記サーバからハプティックストリームを受信し、前記対象のハプティック出力装置に前記ハプティックストリームを提供するステップを含む、請求項1に記載のコンピュータ可読媒体。
  12. ハプティック信号の各タイプが同じソースまたは入力に由来する、請求項1に記載のコンピュータ可読媒体。
  13. 2つ以上の異なるタイプのハプティック信号を含む多重化信号を受信するステップであって、ハプティック信号の各タイプは異なるハプティック出力装置についてのハプティック効果を表す、ステップと、
    ハプティック再生装置において対象のハプティック出力装置を決定するステップと、
    前記多重化信号を、前記対象のハプティック出力装置で再生するためのハプティック信号に逆多重化するステップと、
    逆多重化された前記ハプティック信号を前記対象のハプティック出力装置に提供するステップと、
    を含む、ハプティック信号を逆多重化する方法。
  14. 前記対象のハプティック装置が基礎ハプティック信号を再生でき、前記多重化信号を逆多重化するステップが、各サンプルについて、前記多重化信号の基礎ハプティック信号部分を選択するステップを含む、請求項13に記載の方法。
  15. 前記多重化信号を逆多重化するステップが、前記多重化信号の前記基礎ハプティック信号部分を選択するステップの前に、周波数フィルタを前記多重化信号に適用するステップをさらに含む、請求項14に記載の方法。
  16. 前記対象のハプティック出力装置が標準定義ハプティック信号を再生でき、前記多重化信号を逆多重化するステップが、各サンプルについて、前記多重化信号の標準定義部分を選択するステップを含む、請求項13に記載の方法。
  17. 前記逆多重化するステップが、最上位ビットをゼロと置き換える前に、前記多重化信号に周波数フィルタを適用するステップをさらに含む、請求項16に記載の方法。
  18. 前記対象のハプティック出力装置が高定義ハプティック信号を再生でき、前記多重化信号を逆多重化するステップが、周波数フィルタを前記多重化信号に適用するステップを含み、続いて、各サンプルについて、各サンプル値に2を掛けるステップを含む、請求項13に記載の方法。
  19. 前記対象のハプティック出力装置が標準定義ハプティック信号を再生でき、前記多重化信号を逆多重化するステップが、
    標準定義ハプティック信号について使用される搬送波について、二乗信号を見つけるために前記多重化信号に前記搬送波を掛けるステップと、
    前記標準定義ハプティック信号を見つけるために前記二乗信号の平方根を求めるステップと、
    を含む、請求項13に記載の方法。
  20. 前記逆多重化するステップが、
    前記多重化信号の周期的なサンプルを得るステップと、
    前記多重化信号から前記サンプルを除去するステップと、
    前記周期的なサンプルの直前のサンプルに基づいて前記多重化信号についての置換サンプルを演算するステップと、
    を含む、請求項13に記載の方法。
  21. 前記逆多重化するステップが、
    前記多重化信号についてのチャネル情報を抽出するステップと、
    サンプルデータを構文解析して、前記チャネル情報に基づいて前記多重化信号からチャネルを抽出するステップと、
    を含む、請求項13に記載の方法。
  22. 前記チャネル情報が、基礎ハプティック信号、標準定義ハプティック信号、または高定義ハプティック信号の少なくとも2つに対応するハプティックストリームについての情報を含む、請求項21に記載の方法。
  23. 前記逆多重化するステップがサーバ上で行われ、前記提供するステップは前記サーバからハプティックストリームを受信し、前記対象のハプティック出力装置に前記ハプティックストリームを提供するステップを含む、請求項13に記載の方法。
  24. ハプティック信号の各タイプが同じソースまたは入力に由来する、請求項13に記載の方法。
  25. 2つ以上の異なるタイプのハプティック信号を含む多重化信号を受信するためのレシーバであって、ハプティック信号の各タイプは異なるハプティック出力装置についてのハプティック効果を表す、レシーバと、
    前記多重化信号を、対象のハプティック出力装置において再生するためのハプティック信号に逆多重化するためのデマルチプレクサであって、前記対象のハプティック出力装置はハプティック再生装置に基づいて決定される、デマルチプレクサと、
    逆多重化された前記ハプティック信号を前記対象のハプティック出力装置に提供するためのハプティック再生エンジンと、
    を含む、ハプティック信号を逆多重化するためのシステム。
  26. 前記対象のハプティック装置が基礎ハプティック信号を再生でき、前記多重化信号を逆多重化するステップが、各サンプルについて、前記多重化信号の基礎ハプティック信号部分を選択するステップを含む、請求項25に記載のシステム。
  27. 前記多重化信号を逆多重化するステップが、前記多重化信号の前記基礎ハプティック信号部分を選択するステップの前に、周波数フィルタを前記多重化信号に適用するステップをさらに含む、請求項26に記載のシステム。
  28. 前記対象のハプティック出力装置が標準定義ハプティック信号を再生でき、前記多重化信号を逆多重化するステップが、各サンプルについて、前記多重化信号の標準定義部分を選択するステップを含む、請求項25に記載のシステム。
  29. 前記逆多重化するステップが、最上位ビットをゼロと置き換える前に、前記多重化信号に周波数フィルタを適用するステップをさらに含む、請求項28に記載のシステム。
  30. 前記対象のハプティック出力装置が高定義ハプティック信号を再生でき、前記多重化信号を逆多重化するステップが、周波数フィルタを前記多重化信号に適用するステップを含み、続いて、各サンプルについて、各サンプル値に2を掛けるステップを含む、請求項25に記載のシステム。
  31. 前記対象のハプティック出力装置が標準定義信号を再生でき、前記多重化信号を逆多重化するステップが、
    標準定義ハプティック信号について使用される搬送波について、二乗信号を見つけるために前記多重化信号に前記搬送波を掛けるステップと、
    前記標準定義ハプティック信号を見つけるために前記二乗信号の平方根を求めるステップと、
    を含む、請求項25に記載のシステム。
  32. 前記逆多重化するステップが、
    前記多重化信号の周期的なサンプルを得るステップと、
    前記多重化信号から前記サンプルを除去するステップと、
    前記周期的なサンプルの直前のサンプルに基づいて前記多重化信号についての置換サンプルを演算するステップと、
    を含む、請求項25に記載のシステム。
  33. 前記逆多重化するステップが、
    前記多重化信号についてのチャネル情報を抽出するステップと、
    サンプルデータを構文解析して、前記チャネル情報に基づいて前記多重化信号からチャネルを抽出するステップと、
    を含む、請求項25に記載のシステム。
  34. 前記チャネル情報が、基礎ハプティック信号、標準定義ハプティック信号、または高定義ハプティック信号の少なくとも2つに対応するハプティックストリームについての情報を含む、請求項33に記載のシステム。
  35. 前記逆多重化するステップがサーバ上で行われ、前記提供するステップは前記サーバからハプティックストリームを受信し、前記対象のハプティック出力装置に前記ハプティックストリームを提供するステップを含む、請求項25に記載のシステム。
  36. ハプティック信号の各タイプが同じソースまたは入力に由来する、請求項25に記載のシステム。
JP2019099890A 2013-09-06 2019-05-29 ハプティック信号の多重化および逆多重化 Pending JP2019175485A (ja)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US201361874920P 2013-09-06 2013-09-06
US61/874,920 2013-09-06
US201361907138P 2013-11-21 2013-11-21
US61/907,138 2013-11-21
US14/185,102 US9317120B2 (en) 2013-09-06 2014-02-20 Multiplexing and demultiplexing haptic signals
US14/185,102 2014-02-20

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2014172417A Division JP6534799B2 (ja) 2013-09-06 2014-08-27 ハプティック信号の多重化および逆多重化

Publications (1)

Publication Number Publication Date
JP2019175485A true JP2019175485A (ja) 2019-10-10

Family

ID=51383539

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2014172417A Active JP6534799B2 (ja) 2013-09-06 2014-08-27 ハプティック信号の多重化および逆多重化
JP2019099890A Pending JP2019175485A (ja) 2013-09-06 2019-05-29 ハプティック信号の多重化および逆多重化

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2014172417A Active JP6534799B2 (ja) 2013-09-06 2014-08-27 ハプティック信号の多重化および逆多重化

Country Status (5)

Country Link
US (3) US9317120B2 (ja)
EP (2) EP3582085A1 (ja)
JP (2) JP6534799B2 (ja)
KR (1) KR102274718B1 (ja)
CN (2) CN104423590B (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017506008A (ja) * 2013-11-25 2017-02-23 トムソン ライセンシングThomson Licensing 自己回帰モデルを用いて触覚係数を発生するための方法、そのような係数を再生するための信号およびデバイス
US20160150294A1 (en) * 2014-11-20 2016-05-26 Adobe Systems Incorporated Video Content Metadata for Enhanced Video Experiences
EP3112987A1 (en) * 2015-06-29 2017-01-04 Thomson Licensing Method and schemes for perceptually driven encoding of haptic effects
US9711015B2 (en) * 2015-09-16 2017-07-18 Immersion Corporation Customizing haptic feedback in live events
US10075251B2 (en) * 2017-02-08 2018-09-11 Immersion Corporation Haptic broadcast with select haptic metadata based on haptic playback capability
US20190103004A1 (en) * 2017-10-02 2019-04-04 Immersion Corporation Haptic pitch control
CN108664903B (zh) * 2018-04-23 2019-12-31 江苏大学 一种触觉信号自动采集装置
WO2020003727A1 (ja) * 2018-06-28 2020-01-02 ソニー株式会社 復号装置、復号方法、プログラム
US11922797B2 (en) 2018-06-28 2024-03-05 Sony Corporation Encoding device, encoding method, decoding device, decoding method, and program
DE112019003391T5 (de) * 2018-07-03 2021-04-15 Sony Corporation Codiervorrichtung, codierverfahren, decodiervorrichtung, decodierverfahren, übertragungssystem, empfangsvorrichtung und programm
KR102273804B1 (ko) * 2019-02-19 2021-07-06 주식회사 동운아나텍 사용자 입력신호를 고려한 햅틱 모터 구동 방법
KR102141889B1 (ko) * 2019-02-19 2020-08-06 주식회사 동운아나텍 적응적 햅틱 신호 발생 장치 및 방법
KR20200133127A (ko) * 2019-05-17 2020-11-26 한국전자기술연구원 실시간 몰입형 콘텐츠 제공 시스템 및 이의 햅틱 효과 전송 방법
US11302342B1 (en) * 2019-09-25 2022-04-12 Amazon Technologies, Inc. Inter-channel level difference based acoustic tap detection
WO2021074107A1 (en) * 2019-10-14 2021-04-22 Lofelt Gmbh Systems and methods for authoring an audio signal and for transforming the authored audio signal into a haptic data file
KR102371340B1 (ko) * 2019-12-06 2022-03-07 주식회사 세라젬 음원 신호 분리기 및 이를 포함하는 뮤직 싱크 저주파 자극기
US11567575B2 (en) * 2021-06-14 2023-01-31 Microsoft Technology Licensing, Llc Haptic response control

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011501575A (ja) * 2007-10-16 2011-01-06 イマージョン コーポレイション 媒体トランスポートストリームにおける触覚効果データの同期化
JP2013511108A (ja) * 2009-11-17 2013-03-28 イマージョン コーポレイション 電子デバイスにおける触覚帯域を増加するためのシステム及び方法
WO2013096327A1 (en) * 2011-12-21 2013-06-27 Qualcomm Incorporated Using haptic technologies to provide enhanced media experiences

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3665304A (en) * 1970-12-28 1972-05-23 Bell Telephone Labor Inc Signal amplitude and phase homodyne
JP3018366B2 (ja) * 1989-02-08 2000-03-13 ソニー株式会社 ビデオ信号処理回路
JP3348265B2 (ja) * 1995-03-27 2002-11-20 富士通株式会社 架間転送制御方式
US5999168A (en) 1995-09-27 1999-12-07 Immersion Corporation Haptic accelerator for force feedback computer peripherals
US7124425B1 (en) * 1999-03-08 2006-10-17 Immersion Entertainment, L.L.C. Audio/video system and method utilizing a head mounted apparatus with noise attenuation
US6483857B1 (en) * 1999-05-07 2002-11-19 Nortel Networks Limited Method and apparatus for transmitting control information over an audio data stream
US6480528B1 (en) * 1999-06-11 2002-11-12 Qualcomm Incorporated Automatic gain control for improved decoding of multi-carrier signal
US7242773B2 (en) * 2002-09-09 2007-07-10 Sony Corporation Multiple partial encryption using retuning
US6961644B2 (en) * 2002-12-12 2005-11-01 Alps Automotive, Inc. Dual haptic vehicle control and display system
JP2005258666A (ja) * 2004-03-10 2005-09-22 Sony Corp 入力装置および電子機器並びに電子機器の感触フィードバック入力方法
US20060017691A1 (en) * 2004-07-23 2006-01-26 Juan Manuel Cruz-Hernandez System and method for controlling audio output associated with haptic effects
KR101384434B1 (ko) * 2006-04-06 2014-04-10 임머숀 코퍼레이션 햅틱 효과 개선을 위한 시스템들 및 방법들, 및 기록 매체
JP5137955B2 (ja) * 2007-08-01 2013-02-06 パナソニック株式会社 デジタル放送送信装置、デジタル放送受信装置
US7911328B2 (en) * 2007-11-21 2011-03-22 The Guitammer Company Capture and remote reproduction of haptic events in synchronous association with the video and audio capture and reproduction of those events
US8686952B2 (en) * 2008-12-23 2014-04-01 Apple Inc. Multi touch with multi haptics
KR20170016521A (ko) * 2009-03-12 2017-02-13 임머숀 코퍼레이션 다수의 액츄에이터를 사용하여 텍스처를 실현하는 시스템 및 방법
US10007340B2 (en) 2009-03-12 2018-06-26 Immersion Corporation Systems and methods for interfaces featuring surface-based haptic effects
CN101907922B (zh) * 2009-06-04 2015-02-04 新励科技(深圳)有限公司 一种触感触控系统
US8294557B1 (en) 2009-06-09 2012-10-23 University Of Ottawa Synchronous interpersonal haptic communication system
JP4599453B1 (ja) * 2009-08-31 2010-12-15 株式会社東芝 受信機、受信方法
KR20110051044A (ko) * 2009-11-09 2011-05-17 광주과학기술원 사용자에게 3차원 객체의 촉감 정보를 제공하는 방법 및 장치
WO2011062910A1 (en) * 2009-11-17 2011-05-26 Immersion Corporation Systems and methods for a friction rotary device for haptic feedback
US8605053B2 (en) * 2009-12-02 2013-12-10 Analog Devices, Inc. Method and device for detecting user input
WO2011161637A2 (en) * 2010-06-22 2011-12-29 Technion R&D Foundation Optical network unit, optical access network and a method for exchanging information
US8798534B2 (en) * 2010-07-09 2014-08-05 Digimarc Corporation Mobile devices and methods employing haptics
EP3043231A1 (en) * 2010-12-02 2016-07-13 SeeScan, Inc. Magnetically sensed user interface devices
US9083821B2 (en) 2011-06-03 2015-07-14 Apple Inc. Converting audio to haptic feedback in an electronic device
KR101891858B1 (ko) 2011-09-06 2018-08-24 임머숀 코퍼레이션 햅틱 출력 장치 및 햅틱 출력 장치에서 햅틱 효과를 생성하는 방법
US9495010B2 (en) 2011-10-26 2016-11-15 Nokia Technologies Oy Apparatus and associated methods
JP6541292B2 (ja) 2012-02-15 2019-07-10 イマージョン コーポレーションImmersion Corporation プリミティブを用いた高解像度ハプティック効果生成
KR101922589B1 (ko) 2012-02-15 2018-11-27 삼성전자주식회사 디스플레이장치 및 그 시선추적방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011501575A (ja) * 2007-10-16 2011-01-06 イマージョン コーポレイション 媒体トランスポートストリームにおける触覚効果データの同期化
JP2013511108A (ja) * 2009-11-17 2013-03-28 イマージョン コーポレイション 電子デバイスにおける触覚帯域を増加するためのシステム及び方法
WO2013096327A1 (en) * 2011-12-21 2013-06-27 Qualcomm Incorporated Using haptic technologies to provide enhanced media experiences

Also Published As

Publication number Publication date
CN104423590A (zh) 2015-03-18
JP6534799B2 (ja) 2019-06-26
US10152126B2 (en) 2018-12-11
US20190107891A1 (en) 2019-04-11
US20160231816A1 (en) 2016-08-11
EP3582085A1 (en) 2019-12-18
CN104423590B (zh) 2019-01-04
KR102274718B1 (ko) 2021-07-09
KR20150028735A (ko) 2015-03-16
JP2015053044A (ja) 2015-03-19
US20150070152A1 (en) 2015-03-12
US9317120B2 (en) 2016-04-19
EP2846223B1 (en) 2019-07-31
CN109656368B (zh) 2022-05-27
EP2846223A1 (en) 2015-03-11
CN109656368A (zh) 2019-04-19

Similar Documents

Publication Publication Date Title
JP2019175485A (ja) ハプティック信号の多重化および逆多重化
US10467870B2 (en) Sound to haptic effect conversion system using multiple actuators
US10542325B2 (en) Method and system for haptic data encoding and streaming using a multiplexed data stream
JP6096092B2 (ja) 記憶された効果を有する触覚フィードバックシステム
US9245429B2 (en) Haptic warping system
KR20140122210A (ko) 오프라인 햅틱 변환 시스템
CN104063056A (zh) 用于增强的触觉效果的系统和方法
JP7297086B2 (ja) セッションのメディアデータを受信するための方法、装置、およびプログラム
CN113748659B (zh) 接收会话的媒体数据的方法、装置和非易失性计算机可读介质
EA032768B1 (ru) Передача данных восстановления в многоуровневой иерархии качества сигнала
CN104506920A (zh) 一种播放全媒体数据信息的方法及装置
EP4160361A1 (en) Method and apparatus of encoding/decoding haptics data

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190529

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190529

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200901

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210330