JP2017506008A - 自己回帰モデルを用いて触覚係数を発生するための方法、そのような係数を再生するための信号およびデバイス - Google Patents
自己回帰モデルを用いて触覚係数を発生するための方法、そのような係数を再生するための信号およびデバイス Download PDFInfo
- Publication number
- JP2017506008A JP2017506008A JP2016534158A JP2016534158A JP2017506008A JP 2017506008 A JP2017506008 A JP 2017506008A JP 2016534158 A JP2016534158 A JP 2016534158A JP 2016534158 A JP2016534158 A JP 2016534158A JP 2017506008 A JP2017506008 A JP 2017506008A
- Authority
- JP
- Japan
- Prior art keywords
- haptic
- coefficients
- information
- document
- sequence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/854—Content authoring
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/8126—Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts
- H04N21/8133—Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts specifically related to the content, e.g. biography of the actors in a movie, detailed information about an article seen in a video program
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/235—Processing of additional data, e.g. scrambling of additional data or processing content descriptors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/4104—Peripherals receiving signals from specially adapted client devices
- H04N21/4131—Peripherals receiving signals from specially adapted client devices home appliance, e.g. lighting, air conditioning system, metering devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/4302—Content synchronisation processes, e.g. decoder synchronisation
- H04N21/4307—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
- H04N21/43074—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of additional data with content streams on the same device, e.g. of EPG data or interactive icon with a TV program
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/4302—Content synchronisation processes, e.g. decoder synchronisation
- H04N21/4307—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
- H04N21/43079—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of additional data with content streams on multiple devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/435—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/84—Generation or processing of descriptive data, e.g. content descriptors
Abstract
本発明は、オーディオビジュアルドキュメントに関連する触覚係数を発生するための方法に関する。初めにデータが、オーディオおよび/またはビデオトラックから抽出され、読み出されたデータに適用される自己回帰モデルから、触覚係数の少なくとも1つの第1のグループを計算するために用いられる。これらの触覚係数は、少なくとも1つの触覚アクチュエータを制御するための制御パラメータを、出力に供給するフィルタをプログラムするように設計される。次いでオーディオビジュアルドキュメントの「触覚」シーケンスが決定され、計算された触覚パラメータが、決定されたシーケンスに関連付けられる。このように、1または複数のアクチュエータの制御を可能にする触覚パラメータは、容易に計算され、容易に再生可能となる。計算に用いられるデータは、選択されたシーケンスから抽出されるので有利である。
Description
本開示の分野は、オーディオビジュアルコンテンツの再生時に用いられるように設計された触覚(haptic)係数の発生の分野である。より具体的には本開示は、触覚アクチュエータ制御信号を生成するための自己回帰モデルの使用に関する。
現在では、映画技術はオーディオビジュアルドキュメント、および観客が感じるものの質を高めることができる。観客が座っている座席に機器が追加されて、観客等に視覚および聴覚によってもたらされるもの以外の他の感覚をもたらす。従って今では、座席はいくつかの自由軸に沿って動き、視覚および/またはオーディオコンテンツに関連して観客を動かすことができる。観客は、オーディオビジュアルドキュメント内にある画像および/または音声に同期した感覚を知覚する。従ってドキュメントの再生における観客の没入感はより大きくなり、出来事への観客の実感はより強くなる。例えばローラーコースターの前部で撮影された映画の場合、映画館のスクリーン上に急降下が再生されたときは、観客の座席はわずかに前方に動く。別の例は、シーンの再生時に左から右に映画館の座席を強く振動させることを含む。
触覚強化を有するオーディオビジュアルコンテンツは、ドキュメントの再生時に観客を動かすアクチュエータを制御するために用いられる。再生時には、種々のオーディオトラック、ビデオ、挿入するテキストなどが読み出される。触覚強化を有するドキュメントの場合、オーディオビジュアルドキュメントの一部であるトラックは、発生する触覚効果を定義するパラメータを含む。これらのパラメータは、ドキュメントの再生時に観客によって利用可能な異なるアクチュエータに適用するコマンドのリストである。
最も頻繁には、触覚強化は、既に実現された映画に対して追加される。操作者は映画を見て、本人に対して実行される動きによって、その知覚が観客のために補強され得るシーケンスを決定する。操作者は、手動で動きのタイプ(動き、振動、カチカチと音を立てる、震えなど)を決定し、このシーケンスの間の特定のアクチュエータの起動をプログラムする。触覚パラメータは、特定のサポートに対してビデオ信号および場合によってはオーディオに追加される。再生時に触覚パラメータは読み出され、観客に刺激を与えることを受け持つアクチュエータに送信される。これらの刺激は、すべての種類の感覚、幸福、恐れ、自信、小ささ、めまいなどを発生させることができる。
現在、これらの触覚パラメータは、ビデオまたはオーディオビジュアルドキュメントを見ている操作者によって手動で計算される。従って触覚アクチュエータ制御パラメータの生成、および新しいビデオドキュメントの強化の自動化を可能にする新しい技術の実際の必要性がある。
本開示は、触覚効果をレンダリングするための方法の形において、背景技術のこれらの問題の少なくとも1つを解決する新しい解決策を提案し、方法は、
− 持続時間を表す第1の情報、およびレンダリングされる上記触覚効果を表す少なくとも1つの係数を表す第2の情報を受信するステップと、
− レンダリングされる上記触覚効果を表す信号を発生するステップであって、上記信号は上記第2の情報、および上記第1の情報に依存する持続時間を有するホワイトノイズを用いて、自己回帰フィルタから発生される、ステップと、
を含む。
− 持続時間を表す第1の情報、およびレンダリングされる上記触覚効果を表す少なくとも1つの係数を表す第2の情報を受信するステップと、
− レンダリングされる上記触覚効果を表す信号を発生するステップであって、上記信号は上記第2の情報、および上記第1の情報に依存する持続時間を有するホワイトノイズを用いて、自己回帰フィルタから発生される、ステップと、
を含む。
本開示はまた、データトラックを備えたオーディオビジュアルドキュメントに関連する、触覚係数発生方法に関する。上記方法は、
− データトラックから抽出されたデータを読み出すステップ、および上記読み出されたデータから触覚係数の少なくとも1つのグループを計算するステップであって、上記係数は上記読み出されたデータに適用される自己回帰モデルから計算され、触覚アクチュエータを制御するための制御パラメータを出力に供給するフィルタをプログラムするように設計される、ステップと、
− オーディオビジュアルドキュメントの「触覚」と呼ばれるシーケンスを決定するステップと、
− 上記決定されたシーケンスにおいて計算された触覚係数を関連付けるステップ、および上記オーディオビジュアルドキュメントの触覚トラックに、計算された触覚係数を組み込むステップと、
を含む。
− データトラックから抽出されたデータを読み出すステップ、および上記読み出されたデータから触覚係数の少なくとも1つのグループを計算するステップであって、上記係数は上記読み出されたデータに適用される自己回帰モデルから計算され、触覚アクチュエータを制御するための制御パラメータを出力に供給するフィルタをプログラムするように設計される、ステップと、
− オーディオビジュアルドキュメントの「触覚」と呼ばれるシーケンスを決定するステップと、
− 上記決定されたシーケンスにおいて計算された触覚係数を関連付けるステップ、および上記オーディオビジュアルドキュメントの触覚トラックに、計算された触覚係数を組み込むステップと、
を含む。
このように、ポストプロダクションにおいて操作者は、アクチュエータの制御パラメータを手動で決定する必要がなく、このように計算された係数は、上記係数によってプログラムされたフィルタを用いてアクチュエータの制御信号を発生するために、読み出し装置によって直接用いられ得る。
第1の実施形態によれば、上記触覚係数を発生するために分析される上記オーディオおよび/またはビデオデータは、上記決定されたシーケンスから抽出される。そのため、このように計算された係数は、関連するシーケンスに完全に適する。
他の実施形態によれば、方法は、上記シーケンスの一部を選択するステップを含み、上記触覚係数を発生するために分析される上記オーディオおよび/またはビデオデータは、この部分から抽出される。このようにして、係数の計算は容易化される。
他の実施形態によれば、上記触覚係数は、他のオーディオビジュアルドキュメントに由来するシーケンスの分析から取得された係数のライブラリから抽出される。このように係数は、発生させる触覚効果に適合されたシーケンスから予め計算され、これはそのドキュメントの再生時に感じられる感覚を改善する。
他の実施形態によれば、上記方法は、上記決定されたオーディオビジュアルドキュメントを再生するステップであって、その再生中に上記触覚シーケンスに関連する係数が、上記シーケンスの再生時に少なくとも1つの触覚アクチュエータに対して触覚コマンドを発生させる目的で、少なくとも1つのフィルタに適用される、ステップを含む。このようにして観客は、ドキュメントを見ることにより、および聞くことにより、より多くの感覚を受け取る。
他の実施形態によれば、上記方法はまた、触覚係数のグループを異なるアクチュエータに関連付けるステップを含み、上記グループは、上記オーディオビジュアルドキュメントの上記触覚トラックに含められる。上記再生ステップ時に、触覚係数のグループと同数のフィルタがプログラムされる。各フィルタによってこのように発生される上記触覚制御は、上記対応するアクチュエータに送信される。このようにして観客は、いくつかの作動によって、ドキュメントに関連する振動を知覚する。
他の実施形態によれば、上記方法は、異なるタイプのアクチュエータを、複数のグループの中から、触覚係数のグループに関連付けるステップを含む。上記複数のグループは、上記オーディオビジュアルドキュメントの上記触覚トラックに含められる。ドキュメントの再生時に、アクチュエータタイプに従って、上記の複数から係数のグループが選択され、このようして発生された触覚制御は、上記対応するアクチュエータに送信される。このように、同じドキュメントが、異なるアクチュエータを有するシステム上で再生され得る。
他の態様によれば本発明は、少なくとも1つのオーディオおよび/またはビデオデータトラックを含んだ、少なくとも1つのオーディオビジュアルドキュメントを再生するためのシステムに関し、上記オーディオおよび/またはビデオデータを読み出すための手段、および少なくとも1つの触覚アクチュエータを備える。このシステムは、
− 入力においてホワイトノイズを受信し、上記ドキュメントの触覚トラックから読み出された触覚係数のグループによりプログラムされたフィルタであって、上記係数は、上記オーディオおよび/またはビデオデータに適用される自己回帰モデルから計算される、フィルタと、
− 上記触覚トラックから読み出された上記係数に関連する上記オーディオまたはビデオコンテンツのシーケンスの再生時に、上記フィルタの出力信号を少なくとも1つの触覚アクチュエータに送信するための手段と、
を備える。
− 入力においてホワイトノイズを受信し、上記ドキュメントの触覚トラックから読み出された触覚係数のグループによりプログラムされたフィルタであって、上記係数は、上記オーディオおよび/またはビデオデータに適用される自己回帰モデルから計算される、フィルタと、
− 上記触覚トラックから読み出された上記係数に関連する上記オーディオまたはビデオコンテンツのシーケンスの再生時に、上記フィルタの出力信号を少なくとも1つの触覚アクチュエータに送信するための手段と、
を備える。
他の態様によれば本発明は、オーディオビジュアルドキュメントの再生信号に関する。この信号は、少なくとも1つのオーディオまたはビデオデータトラックと、触覚係数のグループを含んだ1つのトラックとを備え、上記係数は、オーディオおよび/またはビデオデータに適用される自己回帰モデルから計算され、上記係数は入力においてホワイトノイズを受信し、上記オーディオビジュアルドキュメントの再生時に触覚アクチュエータを制御するように設計された値を発生する、フィルタをプログラムすることを目的とする。
本開示の他の特徴および利点は、簡単な例示の非限定的な例としてもたらされ、添付の図面を参照した特定の実施形態の以下の説明を読めば、より明らかになるであろう。
特定の実施形態による、方法を実施するためのステップのフローチャートの例を示す図である。
オーディオビジュアルドキュメントを再生し、触覚アクチュエータを制御するためのシステムの例の図である。
観客によって占有されていない、触覚アクチュエータが装備された座席の例を示す図である。
観客によって占有されている、触覚アクチュエータが装備された座席の例を示す図である。
触覚係数によってプログラムされたフィルタの入力および出力における、周波数信号の一連の例を示す図である。
本開示の非限定的な実施形態によれば、オーディオビジュアルドキュメントに関連する触覚係数を発生するための方法が述べられる。初めに、データがオーディオおよび/またはビデオトラックから抽出され、上記読み出されたデータに適用される自己回帰モデルから、触覚係数の少なくとも1つの第1のグループを計算するために用いられる。これらの触覚係数は、少なくとも1つの触覚アクチュエータを制御するための制御パラメータを出力に供給するフィルタをプログラムするように設計される。次いでオーディオビジュアルドキュメントの「触覚」シーケンスが決定され、計算された触覚パラメータが、決定されたシーケンスに関連付けられる。このように、アクチュエータの制御を可能にする触覚パラメータは、容易に計算され、容易に再生可能となる。計算に用いられるデータは、選択されたシーケンスから抽出されるので有利である。
図1は、本原理の特定の非限定的な実施形態による方法の実現のためのステップのフローチャートの例を示す。
初めに、ステップ1.1では、少なくとも1つのビデオトラックおよび少なくとも1つのオーディオトラックを含む最初のバージョンにより、ビデオまたはオーディオビジュアルコンテンツが生成される。この最初のバージョンから、それが未だ有していない、触覚要素を追加することによってそれを強化することが、関心を引くものとなり得る。この追加ステップは具体的には、その間にダビングおよび字幕付けも追加されるフェーズであるポストプロダクションフェーズにおいて生じる。このため、ステップ1.2の間に、操作者はビデオまたはオーディオビジュアルドキュメントを再生し、操作者および/またはシステムは触覚効果に関連付けられ得るシーケンス(少なくとも1つ)を決定する。例えば、線路上を走る列車内で映画のシーンが撮影される場合があり、映画館または個人の家での映画の視聴時に、触覚アクチュエータによって、動きによる規則的な揺れが再生される。
ステップ1.3では、強化するシーケンスの開始および終了が正確に(例えば操作者により、またはシステムによって自動的に)決定され、追加する触覚効果が何であるかを決定する。単純な状況において、強化されたドキュメントの再生時に用いられるアクチュエータは、観客が座っている座席内に一体化された振動発生器である。このようなアクチュエータは、再生ユニットによって送信されるアナログまたはディジタル信号によって制御される。本実施形態によればアクチュエータは、最終のドキュメントの制作段階時に計算され、ドキュメントの特定のシーケンスに関連付けられた触覚係数に基づいて制御される。
第1の実施形態によれば、初めのドキュメントにすでに存在するシーケンスのデータが、触覚係数を計算するために用いられ、これらは次いでこのシーケンスに関連付けられることになる。操作者および/またはシステムは、選択メニューにおけるコマンドを導入することによって、この第1の実施形態を選択する(ステップ1.4)。この第1の実施形態によれば、ステップ1.5において操作者および/またはシステムは、触覚係数を計算するために用いられるデータのタイプ、例えばオーディオ、ビデオ、触覚を選択する。触覚タイプは、触覚データがドキュメントの撮影時に加速度計、ジャイロメータ、または磁気計などのセンサを用いて記録されたことを指す。オーディオおよびビデオデータと同じように、このデータはドキュメントの再生時に触覚アクチュエータを制御するために直接使用可能ではない。このため、例えばステップ1.6に関して述べられるように、それらを処理してそれらから触覚係数を発生することが必要であり、これらはアクチュエータに対してコマンドを発生させるために用いられることになる。
ステップ1.6では、触覚係数が計算される。このために、選択されたデータのスペクトル成分は、自己回帰フィルタ(より一般には略して「AR」と呼ばれる)によりモデリングされる。自己回帰モデルは、入力u(k)を出力x(k)に結び付ける伝達関数を有する式によって特徴づけられる。このような関数のz変換は、以下の式によって計算される。
伝達関数は以下の式によって表される。
このようなフィルタの出力は、出力の前のサンプル、およびノイズの現在のサンプルに依存する。係数aiは、出力の前のサンプルのみに作用する。最小品質を有するスペクトル成分を捕捉するように、1Hzの特性周波数および20Hzのサンプルがとられ得る。実施形態によれば、100個の係数が計算され、例えば128の値(これは2のべき乗である)が用いられる。自己回帰フィルタの係数の計算について、いくつかの方法が知られている。それらの中で、ユールウォーカー方程式の分解による計算方法を挙げることができる。例えば、以下では、3つの計算モードを説明する。
モードI:関数は、モデルへの信号のサンプルのみをそれに与えることによって呼び出される。関数は、異なる基準における変化を調べ、各基準に対する理想的な順序を指定する。それは、最小化を考慮せずに計算されたすべての係数を返す。このモードは、各基準の間の差を見ることができる。
モードII:関数は、最小化するために信号のサンプルならびに基準をそれに与えることによって呼び出される。関数は基準を最小化し、この係数に関連付けられたモデルの係数を返す。
モードIII:関数は、信号のサンプルならびにモデルに対して必要な順序をそれに与えることによって呼び出される。エラー最小化は行われず、係数は直接返される。
触覚係数が計算された後に、ステップ1.6でそれらはグループ化され、強化するシーケンスに関連付けられる。一連の係数グループは、オーディオまたはオーディオビジュアルドキュメント内でアクセスされ得る触覚トラックを構成する。発生におけるこの段階で、ドキュメントは、少なくとも1つのビデオトラック、オーディオトラック、触覚トラック、および例えばダビングおよび字幕付けのための追加の要素を備える。
第2の実施形態によれば、操作者および/またはシステムは、ステップ1.4で選定して、触覚係数のライブラリの係数のグループを選択する(ステップ1.7)。このライブラリに保存された係数は、第2のオーディオビジュアルドキュメントと呼ばれる他のオーディオビジュアルドキュメント内で見出されたシーケンスから抽出されたオーディオおよび/またはビデオデータから計算されたものである。言い換えればライブラリは、少なくとも1つの第2のオーディオビジュアルドキュメントのシーケンスから抽出されたデータから計算された、係数の少なくとも1つの第2のグループを含む。例えば映画が列車内で撮影されたシーンを含み、オーディオデータの品質は、良好な触覚係数が計算されることを可能にする。この場合、操作者および/またはシステムは、分析するためのシーケンスの開始および終了を決定することによって触覚係数計算を実行し、計算された係数のグループをライブラリに保存する。従ってグループは、発生された触覚効果のタイプ、および場合によっては以下などの追加の要素によって識別される。
− 分析されたシーケンスのドキュメントの識別子、
− 分析されたシーケンスのドキュメント内の位置、
− 分析されたシーケンスの持続時間、
− これらのパラメータで用いるためのフィルタのサイズ、
− ・・・。
− 分析されたシーケンスのドキュメント内の位置、
− 分析されたシーケンスの持続時間、
− これらのパラメータで用いるためのフィルタのサイズ、
− ・・・。
自己回帰モデルの使用は、時間の持続が制限されない効果を発生させる触覚係数の計算を可能にする。例えば初めのシーケンスが20秒間続くと仮定すると、このシーケンスによって発生された触覚係数は、もっと長い期間、例えば50秒に対して用いることができる。このため、一実施形態によれば、特定のオーディオビジュアルシーケンスから計算された係数を、同じドキュメントまたは別のドキュメントの他のシーケンスに対して用いることが可能である。操作者および/またはシステムは、このように計算された係数のグループをライブラリに加え、次いでそれらを他のシーケンスに対して用いるように、特定の触覚効果の係数の発生のために特に適したシーケンスを選定する。従って、ライブラリに加えられた触覚係数のグループは、再生の時点で発生される必要がある触覚効果の持続時間に関わらず用いられ得ることが分かる。さらに、触覚効果は少数の、多くてもおよそ10個の係数によって特徴づけられ、従って触覚による質の向上によって、ドキュメント内で占有される場所は非常に小さい。
第1の実施形態において用いることができる改良点によれば、操作者および/またはシステムは、質を高めるシーケンスの部分を選択し、この部分のデータを用いることによって触覚係数を計算する。このように操作者および/またはシステムは、データの品質が良好な部分、例えば走行のノイズは明瞭に聞こえるが会話は聞こえないサウンドトラックを選択し、それを用いて関連した係数を計算することができる。この部分の選択は、シーケンス内のこの部分の開始および終了を高精度で導入することによって実行される。
ドキュメントは、その触覚トラックによって強化された後に、販売用に計画され、多くのユーザに対して流通される(ステップ1.8)。ドキュメントはマルチメディアコンテンツファイルとして公開され、サーバからダウンロードされ、またはCDもしくはDVD、ブルーレイなどの形式で送付され得る。
触覚効果により強化されたドキュメントの再生
ユーザは強化されたドキュメントを取得し、ステップ1.9で、アクチュエータに接続されたプレーヤにおいてその再生を開始する。
ユーザは強化されたドキュメントを取得し、ステップ1.9で、アクチュエータに接続されたプレーヤにおいてその再生を開始する。
図2は、ビデオドキュメントを再生するため、および触覚アクチュエータを制御するためのデバイスの図を示す。このデバイスは一般に例えば映画館など、このようなドキュメントの再生のための専用の室内に設置されるが、本発明はまた触覚アクチュエータに命令するように設計されたパラメータにより強化されたオーディオビジュアルドキュメントを受け取る、家庭内の設置の場合も包含する。好ましい実施形態によれば、このようなデバイスは、以下を備える。
− 質が高められたオーディオビジュアルドキュメントのプレーヤ1であって、DVDもしくはブルーレイを読み出す、またはこのようなドキュメントがダウンロードされるハードディスクを含むことができるプレーヤ、
− フラットスクリーン、または画像をスクリーン上に投影するビデオプロジェクタとすることができる、再生スクリーン2、
− 典型的には室内に分散された音響スピーカである、少なくとも1つの音声再生手段3、
− スクリーン2に対向して配置された少なくとも1つの触覚座席4であって、例えば2つのハンドアクチュエータ5、およびヘッドアクチュエータ6を備える座席。
− フラットスクリーン、または画像をスクリーン上に投影するビデオプロジェクタとすることができる、再生スクリーン2、
− 典型的には室内に分散された音響スピーカである、少なくとも1つの音声再生手段3、
− スクリーン2に対向して配置された少なくとも1つの触覚座席4であって、例えば2つのハンドアクチュエータ5、およびヘッドアクチュエータ6を備える座席。
触覚ドキュメントの再生時にプレーヤ1は、種々の、特にオーディオ、ビデオ、および触覚トラックを読み出し、再生スクリーン2、音響スピーカ3、およびすべての触覚座席4に送るための信号を発生する。データは、これらの異なる要素を接続するケーブルによって、または無線もしくは赤外線波によって送信され得る。
プレーヤは、自己回帰モデルによって計算された触覚係数によりプログラムされたフィルタを実行するように設計されたソフトウェアモジュールを有する。プレーヤは、触覚トラック上に、すぐに再生されることになるシーケンスに関連する係数のグループを検出したときは、このシーケンスに関連する触覚係数によりフィルタをプログラムし、入力にホワイトノイズを導入する。シーケンスが始まったときは、プレーヤ1はフィルタの出力における信号を種々のアクチュエータに送る。図2に表された例において、アクチュエータは、プレーヤ1内で実行されるフィルタによって生成される周波数に従って同じように振動する。観客が見るものおよび聴くものによってもたらされるドキュメントの知覚は、観客が彼の身体を通して知覚する振動によって強化される。
図3aおよび3bは、本原理の例示的実施形態による、触覚トラックによって質が高められたドキュメントの再生時に用いられ得る触覚座席4を示す。この座席は、座席および背もたれを備える。ハンドアクチュエータ5は、観客が容易に握ることができる位置に、座席の両側に配置される。第3の「ヘッド」アクチュエータ6は、ヘッドレストに配置される。ヘッドアクチュエータ6は十字形のクッションを備え、そのくぼみに観客は彼の頭部を置く。座席4のレベルでの各アクチュエータの位置は、各観客のサイズおよび身体形状に適合されるように調整される。図3bは着席した観客を示し、それぞれアクチュエータ5のノブを持ち、第3のアクチュエータ6のクッションに彼の頭部を置いている。図3aおよび3bは、単に例示的な例として引用され、図に表されたもの以外の多くの他のアクチュエータのモデルが、肘掛け、または観客が彼の足を置く板、または観客の身体と接触した任意の他の要素を振動させることができる。
図4は、データ値、およびそれらの自己回帰モデリングの前および後の周波数分解の例を示す。12個のオシログラムが、4個の画像の3つの行の形で示される。各行の第1の画像は、オーディオビジュアルドキュメントの特定のデータ項目の振幅値、すなわちオーディオトラックの元の信号を時間に従って示す。第1の行は自転車の使用時に採取されたオーディオシーケンスを示し、第2は自動車の隣で、第3はローラーコースター車両から採取されたものである。各行の第2の画像は、すぐ左の画像の信号のFFT(高速フーリエ変換)、すなわちそのスペクトル成分を表す。各行の第3の画像は、元の信号のARモデリングによって発生された成分を表す。各行の第4の画像は、触覚係数によりプログラムされ、入力においてホワイトノイズを受信するフィルタによって発生された成分のFFTを表す。従って、元の信号の周波数と、フィルタによってモデリングされた信号内にある周波数との間の類似性が分かる。
改良によって、操作者および/またはポストプロダクションシステムは、触覚効果における上昇および、上記効果における下降を指定する。上昇時間は、触覚効果がゼロの振幅から開始して最大振幅までの時間である。同様に下降時間は、触覚効果が最大振幅から開始してゼロの振幅に達するまでの時間である。
本発明の改良点によれば、操作者および/またはポストプロダクションシステムは、複数のアクチュエータ、および各アクチュエータに対する動きの自由度を指定する。係数のグループのセットはこのようにステップ1.6で計算され、各グループはアクチュエータまたはアクチュエータの動きの自由度に関連付けられる。再生中にプレーヤ1は、係数のグループのセットを読み出し、制御するアクチュエータと同数のフィルタをプログラムし、それらのそれぞれの入力にホワイトノイズを印加し、上記フィルタによって供給される信号を、これらの信号に関連付けられたアクチュエータに送る。
本開示を特定の例示された実施形態を参照して述べたが、上記発明はこれらの実施形態に限定されることは全くなく、添付の特許請求の範囲のみによって限定されるものである。前に述べられた実施形態に対して、本開示の範囲から逸脱せずに当業者によって変更または変形がなされ得ることが留意されるであろう。
非限定的な実施形態によれば、本開示はまた触覚効果、例えば振動触覚効果をレンダリングするための方法に関し、以下のステップを含む。
− オーディオビジュアルドキュメントの少なくとも一部を選択するステップ。
− 上記選択されたオーディオビジュアルドキュメントの少なくとも一部において触覚効果を表すモデルを関連付けるステップであって、モデルは有限個の係数によって表される、ステップ。
− モデルの入力に、オーディオビジュアルドキュメントの少なくとも一部の持続時間に等しい持続時間のホワイトノイズを表す信号を供給することによって、触覚効果をレンダリングするステップ。
− オーディオビジュアルドキュメントの少なくとも一部を選択するステップ。
− 上記選択されたオーディオビジュアルドキュメントの少なくとも一部において触覚効果を表すモデルを関連付けるステップであって、モデルは有限個の係数によって表される、ステップ。
− モデルの入力に、オーディオビジュアルドキュメントの少なくとも一部の持続時間に等しい持続時間のホワイトノイズを表す信号を供給することによって、触覚効果をレンダリングするステップ。
他の非限定的な実施形態によれば、本開示はまた触覚効果をレンダリングするための方法に関し、
− 持続時間を表す第1の情報、およびレンダリングされる触覚効果を表す少なくとも1つの係数を表す第2の情報を受信するステップと、
− レンダリングされる触覚効果を表す信号を発生するステップであって、信号は上記第2の情報、および上記第1の情報に依存する持続時間を有するホワイトノイズを用いて、自己回帰フィルタから発生される、ステップと、
を含む。
− 持続時間を表す第1の情報、およびレンダリングされる触覚効果を表す少なくとも1つの係数を表す第2の情報を受信するステップと、
− レンダリングされる触覚効果を表す信号を発生するステップであって、信号は上記第2の情報、および上記第1の情報に依存する持続時間を有するホワイトノイズを用いて、自己回帰フィルタから発生される、ステップと、
を含む。
次いで信号は、触覚効果をレンダリングするために1つまたはいくつかの触覚アクチュエータ、例えば図3Aおよび3Bの触覚座席に送信することができる。
振動触覚効果の代表的モデルは、各モデルが特定の振動触覚効果を表す、ライブラリの複数のモデルから選択されるので有利である。
特定の特徴によれば、モデルは、オーディオビジュアルドキュメントと異なるかまたは異ならない決定されたドキュメントからのオーディオビジュアルコンテンツ(例えばオーディオトラック、加速度計を通じた取得に基づくデータなどから)に関連する振動シーケンスから発生される。
モデルは例えば、いくつかの例えば128に等しい係数を有するFIRフィルタ(有限インパルス応答フィルタ)である。
当然ながら本開示は、前に述べられた実施形態に限定されない。
特に、本開示はアクチュエータを制御するための方法に限定されず、この方法を実施する任意のデバイス、および特に少なくとも1つのCPUおよび/または少なくとも1つのGPUを備えた任意のデバイスにも及ぶ。
本開示はまた、触覚効果を発生させるための方法(および構成されたデバイス)に関し、例えば、ビデオデータストリーム、およびレンダリングされる触覚効果の持続時間を表す情報、およびレンダリングされる触覚効果に関連する自己回帰フィルタの触覚係数を表す情報を受信するように構成され、および/またはレンダリングされる触覚効果を表す信号を送信するように構成された、通信インターフェース(例えば、イーサネット(登録商標)および/またはWifiおよび/またはBluetooth(登録商標)標準に準拠したインターフェース)を備えた、セットトップボックスにおいて実施される。
本明細書で述べられる実装形態は、例えば方法もしくはプロセス、装置、ソフトウェアプログラム、データストリーム、または信号において実施され得る。単一の形式の実装形態の文脈において論じられた(例えば方法またはデバイスとしてのみ論じられた)としても、論じられた特徴の実装形態は他の形(例えばプログラム)においても実施され得る。装置は、例えば適切なハードウェア、ソフトウェア、およびファームウェアにおいて実施され得る。例えば、方法は、例えばコンピュータ、マイクロプロセッサ、集積回路、またはプログラマブルロジックデバイスを含む処理デバイスを一般に指す、例えばプロセッサなどの装置において実施され得る。プロセッサはまた、例えばスマートフォン、タブレット、コンピュータ、携帯電話、携帯情報端末(「PDA」)、およびエンドユーザ間での情報の通信を容易にする他のデバイスなどの、通信デバイスを含む。
本明細書で述べられた様々なプロセスおよび特徴の実装形態は、多様な異なる機器またはアプリケーション、具体的には例えばデータ符号化、データ復号、ビュー発生、テクスチャ処理、ならびに他の、画像および関連するテクスチャ情報および/または深さ情報の処理に関連する、機器またはアプリケーションにおいて具現化され得る。このような機器の例は、符号化器、デコーダ、デコーダからの出力を処理するポストプロセッサ、符号化器への入力をもたらすプリプロセッサ、ビデオコーダ、ビデオデコーダ、ビデオコーデック、ウェブサーバ、セットトップボックス、ラップトップ、パーソナルコンピュータ、携帯電話、PDA、および他の通信デバイスを含む。明らかなように、機器はモバイルとすることができ、さらには移動体にインストールされ得る。
さらに、方法は、プロセッサによって行われる命令によって実施することができ、このような命令(および/または実装形態によって生成されるデータ値)は、例えば集積回路、ソフトウェアキャリア、または例えばハードディスク、コンパクトディスケット(「CD」)、光ディスク(例えばしばしばディジタル多用途ディスクまたはディジタルビデオディスクと呼ばれるDVDなど)、ランダムアクセスメモリ(「RAM」)、もしくはリードオンリメモリ(「ROM」)などの他の記憶装置などの、(非一時的)プロセッサ可読媒体に記憶され得る。命令は、プロセッサ可読媒体上に有形に具現化されたアプリケーションプログラムを形成することができる。命令は、例えばハードウェア、ファームウェア、ソフトウェア、または組み合わせにおけるものとすることができる。命令は、例えばオペレーティングシステム、個別のアプリケーション、または両方の組み合わせにおいて見出され得る。従ってプロセッサは、例えばプロセスを実行するように構成されたデバイス、およびプロセスを実行するための命令を有するプロセッサ可読媒体を含むデバイス(記憶装置など)の両方として特徴付けられ得る。さらに、プロセッサ可読媒体は、命令に加えてまたはその代わりに、実装形態によって生成されたデータ値を記憶することができる。
当業者には明らかになるように実装形態は、例えば記憶または送信され得る情報を運ぶようにフォーマットされた多様な信号を生成することができる。情報は、例えば方法を行うための命令、または述べられた実装形態の1つによって生成されたデータを含むことができる。例えば信号は、述べられた実施形態の構文を書き込みまたは読み出すための規則をデータとして運ぶ、または述べられた実施形態によって書き込まれた実際の構文値をデータとして運ぶようにフォーマットされ得る。このような信号は、例えば電磁波として(例えばスペクトルの無線周波数部分を用いて)、またはベースバンド信号としてフォーマットされ得る。フォーマットは、例えばデータストリームを符号化すること、および符号化されたデータストリームによりキャリアを変調することを含むことができる。信号が運ぶ情報は、例えばアナログまたはディジタル情報とすることができる。信号は、知られているように多様な種々の有線または無線リンクを通して送信され得る。信号は、プロセッサ可読媒体上に記憶され得る。
いくつかの実装形態が述べられた。それでも、様々な変更がなされ得ることが理解されるであろう。例えば、異なる実装形態の要素は、他の実装形態を生成するように組み合わされ、補完され、変更され、または取り除かれ得る。さらに、当業者は、他の構造およびプロセスが、開示されたものの代わりに使われることができ、結果としての実装形態は、少なくとも実質的に同じ方法で、開示された実装形態と少なくとも実質的に同じ結果を達成するように、少なくとも実質的に同じ機能を行うようになることを理解するであろう。従って、これらのおよび他の実装形態は、本願によって企図される。
Claims (10)
- 触覚効果をレンダリングする方法であって、
− 持続時間を表す第1の情報、およびレンダリングされる前記触覚効果を表す少なくとも1つの係数を表す第2の情報を受信するステップと、
− レンダリングされる前記触覚効果を表す信号を発生するステップであって、前記信号は、前記第2の情報、および前記第1の情報に依存する持続時間を有するホワイトノイズを用いて、自己回帰フィルタから発生される、前記ステップと、
を含む、前記方法。 - 前記信号を少なくとも1つの触覚アクチュエータに送信するステップをさらに含む、請求項1に記載の方法。
- ビデオデータストリームを受信するステップを含み、前記第1の情報および前記第2の情報は前記ビデオデータストリームの少なくとも一部に関連付けられる、請求項1または2に記載の方法。
- 前記少なくとも1つの係数は係数のグループのライブラリから選択され、各グループは異なる触覚効果に関連付けられる、請求項1乃至3のいずれか一項に記載の方法。
- 触覚効果をレンダリングするように構成されたデバイスであって、
− 持続時間を表す第1の情報、およびレンダリングされる前記触覚効果を表す少なくとも1つの係数を表す第2の情報を受信するように構成された通信インターフェースと、
− レンダリングされる前記触覚効果を表す信号を発生するように構成されたプロセッサであって、前記信号は、前記第2の情報、および前記第1の情報に依存する持続時間を有するホワイトノイズを用いて、自己回帰フィルタから発生される、プロセッサと、
を備える、前記デバイス。 - 前記通信インターフェースは、前記信号を少なくとも1つの触覚アクチュエータに送信するようにさらに構成される、請求項6に記載のデバイス。
- 前記通信インターフェースは、ビデオデータストリームを受信するようにさらに構成され、前記第1の情報および前記第2の情報は前記ビデオデータストリームの少なくとも一部に関連付けられる、請求項5または6に記載のデバイス。
- 前記少なくとも1つの係数は係数のグループのライブラリから選択され、各グループは異なる触覚効果に関連付けられる、請求項5乃至7のいずれか一項に記載のデバイス。
- コンピュータプログラム製品であって、前記プログラムがコンピュータ上で実行されたときに請求項1乃至5のいずれか一項に記載の方法のステップを実行するための、プログラムコードの命令を備えた、前記コンピュータプログラム製品。
- コンピュータ可読媒体であって、そこに記録されプロセッサによって実行することができるコンピュータプログラム製品を含み、請求項1乃至5のいずれか一項に記載の方法を実施するためのプログラムコード命令を含む、前記コンピュータ可読媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR1361578 | 2013-11-25 | ||
FR1361578 | 2013-11-25 | ||
PCT/EP2014/075302 WO2015075191A1 (en) | 2013-11-25 | 2014-11-21 | Method for generating haptic coefficients using an autoregressive model, signal and device for reproducing such coefficients |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017506008A true JP2017506008A (ja) | 2017-02-23 |
Family
ID=50289844
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016534158A Pending JP2017506008A (ja) | 2013-11-25 | 2014-11-21 | 自己回帰モデルを用いて触覚係数を発生するための方法、そのような係数を再生するための信号およびデバイス |
Country Status (6)
Country | Link |
---|---|
US (1) | US10440446B2 (ja) |
EP (1) | EP3075163A1 (ja) |
JP (1) | JP2017506008A (ja) |
KR (1) | KR20160089374A (ja) |
CN (1) | CN105850139A (ja) |
WO (1) | WO2015075191A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9866924B2 (en) * | 2013-03-14 | 2018-01-09 | Immersion Corporation | Systems and methods for enhanced television interaction |
NL2020023B1 (en) * | 2017-12-05 | 2019-06-13 | Feel Robotics B V | Method and apparatus for adding a control signal for an auxiliary device to a sexually arousing video movie |
US20200012347A1 (en) * | 2018-07-09 | 2020-01-09 | Immersion Corporation | Systems and Methods for Providing Automatic Haptic Generation for Video Content |
FR3106008B1 (fr) * | 2020-01-03 | 2022-01-14 | Faurecia Services Groupe | Procédé de commande d’équipements d’un habitacle d’un véhicule et dispositifs associés |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2835124B1 (fr) * | 2002-01-24 | 2004-03-19 | Telediffusion De France Tdf | Procede de synchronisation de deux flux de donnees numeriques de meme contenu |
JP2005523612A (ja) | 2002-04-22 | 2005-08-04 | インテロシティ ユーエスエー,インコーポレイテッド | データ受信器と制御装置の方法及び装置 |
US8000825B2 (en) * | 2006-04-13 | 2011-08-16 | Immersion Corporation | System and method for automatically producing haptic events from a digital audio file |
WO2009051428A1 (en) | 2007-10-16 | 2009-04-23 | Electronics And Telecommunications Research Institute | Sensory effect media generating and consuming method and apparatus thereof |
US9019087B2 (en) * | 2007-10-16 | 2015-04-28 | Immersion Corporation | Synchronization of haptic effect data in a media stream |
US20120303332A1 (en) | 2010-04-28 | 2012-11-29 | Empire Technology Development Llc | Estimating forces on complex surfaces |
US20150100669A1 (en) * | 2012-03-18 | 2015-04-09 | Lg Electronics Inc. | Control device and method for operating same, and server and method for operating same |
US9317120B2 (en) * | 2013-09-06 | 2016-04-19 | Immersion Corporation | Multiplexing and demultiplexing haptic signals |
US9652945B2 (en) * | 2013-09-06 | 2017-05-16 | Immersion Corporation | Method and system for providing haptic effects based on information complementary to multimedia content |
-
2014
- 2014-11-21 KR KR1020167013691A patent/KR20160089374A/ko not_active Application Discontinuation
- 2014-11-21 EP EP14802639.6A patent/EP3075163A1/en not_active Withdrawn
- 2014-11-21 CN CN201480064388.XA patent/CN105850139A/zh active Pending
- 2014-11-21 WO PCT/EP2014/075302 patent/WO2015075191A1/en active Application Filing
- 2014-11-21 JP JP2016534158A patent/JP2017506008A/ja active Pending
- 2014-11-21 US US15/038,245 patent/US10440446B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
EP3075163A1 (en) | 2016-10-05 |
US10440446B2 (en) | 2019-10-08 |
CN105850139A (zh) | 2016-08-10 |
WO2015075191A1 (en) | 2015-05-28 |
KR20160089374A (ko) | 2016-07-27 |
US20160295302A1 (en) | 2016-10-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101490725B1 (ko) | 비디오 디스플레이 장치, 오디오-비디오 시스템, 음향 재생을 위한 방법 및 로컬라이즈된 지각적 오디오를 위한 음향 재생 시스템 | |
KR101884483B1 (ko) | 미디어 인식 및 움직임 신호와의 동기화 | |
JP2016123075A (ja) | 高帯域幅の触覚効果の音声増幅シミュレーション | |
CN107835971B (zh) | 基于用户触觉空间(HapSpace)提供触觉反馈和交互的方法和装置 | |
JP2019533404A (ja) | バイノーラルオーディオ信号処理方法及び装置 | |
KR20190013900A (ko) | 3d 오디오 포지셔닝을 이용하는 가상 또는 증강 현실 프레젠테이션을 생성하기 위한 방법 및 장치 (method and apparatus for generating virtual or augmented reality presentations with 3d audio positioning) | |
KR20220077132A (ko) | 시청각 콘텐츠용 바이노럴 몰입형 오디오 생성 방법 및 시스템 | |
JP2017506008A (ja) | 自己回帰モデルを用いて触覚係数を発生するための方法、そのような係数を再生するための信号およびデバイス | |
Llorach et al. | Towards realistic immersive audiovisual simulations for hearing research: Capture, virtual scenes and reproduction | |
JP2016513991A (ja) | ハプティックアクチュエータ制御パラメータを有するオーディオビジュアルコンテンツのアイテムを再生するための方法、および方法を実施するデバイス | |
Sakamoto et al. | Body vibration effects on perceived reality with multi-modal contents | |
CN114915874B (zh) | 音频处理方法、装置、设备及介质 | |
JP4529360B2 (ja) | 体感装置、モーション信号の生成方法およびプログラム | |
Walker et al. | Perception of audio-generated and custom motion programs in multimedia display of action-oriented DVD films | |
KR102058228B1 (ko) | 입체 음향 컨텐츠 저작 방법 및 이를 위한 어플리케이션 | |
KR101756298B1 (ko) | 진동 신호 생성 방법, 진동 신호를 이용한 영상 상영 방법 및 이를 수행하기 위한 프로그램 | |
KR20190081163A (ko) | 입체 음향 컨텐츠 저작 툴을 이용한 선택적 광고 제공 방법 및 이를 위한 어플리케이션 | |
US20230104111A1 (en) | Determining a virtual listening environment | |
US11964200B2 (en) | Method and apparatus for providing haptic feedback and interactivity based on user haptic space (HapSpace) | |
US20230421981A1 (en) | Reproducing device, reproducing method, information processing device, information processing method, and program | |
CN107566887A (zh) | 一种生成多媒体数据、播放多媒体数据的方法及装置 | |
CN114830675A (zh) | 用于使媒体内容的观看者效果信号与媒体内容的媒体信号同步的方法和系统 | |
KR20190082055A (ko) | 입체 음향 컨텐츠 저작 툴을 이용한 광고 제공 방법 및 이를 위한 어플리케이션 | |
WO2023150486A1 (en) | Gesture controlled audio and/or visual rendering | |
KR20190081160A (ko) | 입체 음향 컨텐츠 저작 툴을 이용한 광고 제공 방법 및 이를 위한 어플리케이션 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20161202 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20161202 |