JP4700071B2 - 波面合成システムをシミュレートするための装置および方法 - Google Patents

波面合成システムをシミュレートするための装置および方法 Download PDF

Info

Publication number
JP4700071B2
JP4700071B2 JP2007556535A JP2007556535A JP4700071B2 JP 4700071 B2 JP4700071 B2 JP 4700071B2 JP 2007556535 A JP2007556535 A JP 2007556535A JP 2007556535 A JP2007556535 A JP 2007556535A JP 4700071 B2 JP4700071 B2 JP 4700071B2
Authority
JP
Japan
Prior art keywords
audio
sound source
virtual sound
wavefront synthesis
simulating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007556535A
Other languages
English (en)
Other versions
JP2008532373A (ja
Inventor
ライヒェルト カーティン
ガッツシェ ガブリエル
メルヒオア フランク
ブリックス ザンドラ
Original Assignee
フラウンホーファーゲゼルシャフト ツール フォルデルング デル アンゲヴァンテン フォルシユング エー.フアー.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by フラウンホーファーゲゼルシャフト ツール フォルデルング デル アンゲヴァンテン フォルシユング エー.フアー. filed Critical フラウンホーファーゲゼルシャフト ツール フォルデルング デル アンゲヴァンテン フォルシユング エー.フアー.
Publication of JP2008532373A publication Critical patent/JP2008532373A/ja
Application granted granted Critical
Publication of JP4700071B2 publication Critical patent/JP4700071B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S3/00Systems employing more than two channels, e.g. quadraphonic
    • H04S3/008Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2420/00Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/13Application of wave-field synthesis in stereophonic audio systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Stereophonic System (AREA)
  • Waveguide Switches, Polarizers, And Phase Shifters (AREA)
  • Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)

Description

本発明は、波面合成技術に関し、より特定的には、オーディオシーン記述を作成するためのツールおよび/またはオーディオシーン記述を検証するためのツールに関する。
娯楽用電子機器の分野において、新しい技術や画期的な製品がますます求められている。新しいマルチメディアシステムの成功にとって不可欠なのは、最適な機能性や能力を提供することである。これは、デジタル技術、特にコンピュータ技術を利用することによって達成される。その例として、より現実に近い視聴覚印象を与えるアプリケーションがある。これまでのオーディオシステムは、自然環境ばかりでなく仮想環境における空間的な音の再生の質に実質的に問題があった。
オーディオ信号のマルチチャネルラウンドスピーカによる再生方法が以前より知られており長年にわたって標準化されてきている。しかし、全ての通常の技術では必ず、ラウンドスピーカの場所と聞き手の位置とが伝送フォーマット上に印加されてしまっているという欠点がある。聞き手に対してラウンドスピーカを間違って配置すると、オーディオの質が大いに劣化する。最適な音は、狭い再生スペース、いわゆるスィートスポットでのみ実現される。
オーディオ再生時、より自然な空間的印象およびより大きなエンクロージャまたはエンベロープが、新しい技術の助けにより達成され得る。この技術の原理、いわゆる波面合成法(WFS)は、デルフト工科大学(TU Delft)において研究され、80年代後半に最初に紹介された(Berkout, A.J.; de Vries, D.; Vogel, P.:「波面合成法による音響制御(“Acoustic control by Wave field Synthesis”)」、JASA 93、1993年)。
波面合成法は、コンピュータの多大なパワーおよび高速の転送レートを要求するので、これまでのところ実際にはほとんど用いられていない。今日の具体的な用途にこの技術を利用できるようにするには、マイクロプロセッサ技術およびオーディオ符号化の分野における進展がなければならない。プロフェッショナルな領域での初代の製品の登場が、翌年に予定されている。数年後には、消費者層のための初代の波面合成アプリケーションが市場に出てくるであろう。
WFSの基本的な概念は、以下のような、ホイヘンス(Huygens)の波動理論の原理の応用に基づいている:
すなわち、波によって捉えられる各点は、球面状または円状に伝搬する素元波の出発点である。
これを音響に応用すると、入来する波先はどのような形状であっても、互いに近接して配置された多数のラウンドスピーカ(いわゆるラウンドスピーカアレイ)によって再現することができる。再現されるのが単一の点音源であって複数のラウンドスピーカが直線状に配置されているような最も単純な場合、各ラウンドスピーカのオーディオ信号は、個々のラウンドスピーカの放射する音場が正しく重なり合うように、時間遅延および振幅のスケーリングがなされなければならない。音源が複数の場合には、各音源について、各ラウンドスピーカに対する寄与が個々に計算され、結果として得られる複数の信号が合算される。再生されるべき複数の音源が1つの部屋の中にあってその部屋の壁が反響する場合には、反響音もまた、付加的な音源としてラウンドスピーカアレイによって再生されねばならない。したがって、その計算の負担は、音源の数と、録音室の反響特性と、ラウンドスピーカの数とに大いに依存する。
特に、この技術の利点は、非常に広い再生スペースにわたって、音について自然な空間的印象を達成することができることである。公知の技術とは異なり、複数の音源の方向と距離とが非常に正確に再生される。現実のラウンドスピーカアレイと聞き手との間に複数の仮想音源を位置付けることすら、ある程度まで可能である。
このような波面合成は特性の知られている環境においてはうまく機能するが、その特性が変化するか、または、その環境の実際の特性と合致しない環境特性に基づいて波面合成が行なわれると、狂いが生じる。
周辺環境の特性は、その周辺環境のインパルス応答によっても記述され得る。
これについて以下の例に基づいてより詳細に説明する。ここで、ラウンドスピーカが壁に対して音響信号を送出し、壁の反響が望まれていないものとする。この単純な例については、波面合成を用いた空間補償は以下のようになる。まず、壁から反射した音響信号がいつラウンドスピーカに戻ってきてどのような振幅を有するのか、を確かめる目的で、この壁の反響を判定する。壁からの反響が望ましくない場合、波面合成法によれば、反射信号と同様の振幅を有しかつ反射信号と位相が反対である信号をラウンドスピーカ上に印加することで、伝搬する補償波が反射波と相殺し、それにより、この壁からの反響を問題の周辺環境において除去する、というように、壁からの反響を排除できる可能性がある。これは、最初にその周辺環境のインパルス応答を計算し、その後、その周辺環境のインパルス応答に基づいて、その壁の特性および位置を判定することによって達成することができ、その壁は、ミラー音源、すなわち、入来する音を反射する音源、と解釈される。
最初にその周辺環境のインパルス応答を測定し、その後、オーディオ信号に重畳するようにラウンドスピーカに印加されるべき補償信号を計算すれば、この壁からの反響は相殺され、その周辺環境の中にいる聞き手は、壁が全く存在しないような印象を得るようになる。
しかしながら、反射波の最適な補償のためには、補償の過不足が生じないように、その部屋のインパルス応答を正確に判定することが重要となる。
波面合成は、広い再生エリアにわたって仮想音源の正しいマッピングを行なう。それと同時に、波面合成は、サウンドマスタおよびサウンドエンジニアに対して、より一層複雑な音の風景を作成する新しい技術的かつ創造的可能性をもたらす。80年代末期にデルフト工科大学で開発された波面合成法(WFS、または音場合成法)は、音の再生にホログラフィ技術を取入れたものであり、キルヒホッフ−ヘルムホルツ(Kirchhoff-Helmholtz)の積分がその基礎となっている。それによれば、閉じた体積内の任意の音場は、その体積の表面上に、単極および双極の音源(ラウンドスピーカアレイ)を分布させることによって生成することができる。
波面合成においては、ラウンドスピーカアレイのラウンドスピーカごとの合成信号が、仮想位置における仮想音源から送出される音声信号から計算される。ここで、それら合成信号は、振幅および位相に関して、ラウンドスピーカアレイ内に存在する複数のラウンドスピーカによって出力される個々の音波の重畳から得られる波が、もし仮想位置における仮想音源が実際の位置における実際の音源であった場合にその仮想位置におけるその仮想音源によって生じたであろう波に対応するように、形成される。
通常、様々な仮想位置に複数の仮想音源が存在する。合成信号の計算は、各仮想位置における各仮想音源について行なわれ、通常は、1つの仮想音源から複数のラウンドスピーカに対する複数の合成信号が得られる。1つのラウンドスピーカから見ると、そのラウンドスピーカは複数の合成信号を受取り、それらは様々な仮想音源に遡る。それらの音源の、線形重ね合わせ原理により可能となる重畳の結果が、そのラウンドスピーカから実際に送出される再生信号となる。
より大きなラウンドスピーカアレイ、すなわち、より多くのラウンドスピーカが提供されれば、波面合成が利用され得る可能性はより高くなる。しかしながらそれに伴って、波面合成ユニットが必要とする計算のパワーもまた増大する。というのも、チャネル情報もまた通常は考慮に入れねばならなくなるからである。すなわちこれは、原則として、各仮想音源から各ラウンドスピーカへは独自の伝送チャネルが存在すること、また原則として、各仮想音源が各ラウンドスピーカに対して1つの合成信号をもたらし、および/または、各ラウンドスピーカが仮想音源と同じ数の合成信号を得ること、を意味する。
特に、仮想音源もまた移動し得る映画館のような用途に波面合成の可能性が利用される場合、合成信号の計算、チャネル情報の計算、および、チャネル情報と合成信号との組み合わせによる再生信号の生成のために、相当な量の計算パワーがかかわってくることが予想される。
さらに、ここで注記すべきは、オーディオ再生の質が、利用可能なラウンドスピーカの数が増加するほど高まることである。これは、ラウンドスピーカアレイ内のラウンドスピーカの数が多くなるほど、オーディオ再生の質がよりよくなり、より現実に近づくことを意味する。
上記の場合、個々のラウンドスピーカに対する完全にレンダリングされかつアナログ−デジタル変換された再生信号は、たとえば、波面合成中央ユニットから個々のラウンドスピーカへと2線式ラインを介して伝送され得る。この場合、すべてのラウンドスピーカがほぼ確実に同時に作動することで、同期化のためのさらなる方策が必要ではなくなる、という利点がある。ただし、波面合成中央ユニットは必ず、特定の再生ルームのため、または、決まった数のラウンドスピーカでの再生のためだけに製造される。このことは、各再生ルームについて、独自の波面合成中央ユニットが作成されねばならないことを意味する。また、そのユニットは、多大な計算パワーを行使せねばならない。というのも、オーディオ再生信号の計算が、多くのラウンドスピーカおよび/または多くの仮想音源について、少なくともその一部が並行かつリアルタイムで行なわれねばならないからである。
ドイツ国特許DE 10254404 B4は、図7に示すようなシステムを開示している。その一部は中央波面合成モジュール10である。残りの部分は、個々のラウンドスピーカモジュール12a、12b、12c、12d、および12eからなり、それらは図1に示すように、実際の物理的なラウンドスピーカ14a、14b、14c、14d、および14eに接続されている。なお、ラウンドスピーカ14a〜14eの数は50を上回り、一般的な用途においては通常は優に100を超える。個々のラウンドスピーカが各ラウンドスピーカと関連付けられている場合には、対応する数のラウンドスピーカモジュールもまた必要である。しかしながら、用途によっては、隣接する複数のラウンドスピーカの小さな群に1つのラウンドスピーカモジュールで対処することが好ましい。これに関連して、たとえば4つのラウンドスピーカに接続された1つのラウンドスピーカモジュールがその4つのラウンドスピーカに同じ再生信号を与えるか、それとも、それら4つのラウンドスピーカについて対応する異なる合成信号が計算されるか、は任意である。そこで、そのようなラウンドスピーカモジュールは実際には、いくつかの個々のラウンドスピーカモジュールからなり、それらが物理的に1つのユニットにまとめられている。
波面合成モジュール10とそれぞれ個々のラウンドスピーカ12a〜12eとの間には、独自の伝送経路16a〜16eが存在し、各伝送経路は、中央波面合成モジュールおよび、対応するラウンドスピーカモジュールに結合されている。
波面合成モジュールからラウンドスピーカモジュールにデータを伝送するためのデータ伝送モードとしては、高いデータレートを提供するシリアル伝送フォーマット、たとえばいわゆるファイヤワイヤ(Firewire)伝送フォーマットまたはUSBデータフォーマットが好ましい。100メガビット/秒を超えるデータ転送レートが有利である。
波面合成モジュール10からラウンドスピーカモジュールに伝送されるデータストリームは、波面合成モジュール内で選ばれたデータフォーマットに従ってフォーマット化されており、通常のシリアルデータフォーマットで提供される同期化情報を備える。この同期化情報は、個々のラウンドスピーカモジュールによってデータストリームから抽出され、そして、個々のラウンドスピーカモジュールをそれらの再生に関して、すなわち、最終的にはアナログのスピーカ信号を得るためのアナログ−デジタル変換、および、その目的のために提供されるサンプリング(リサンプリング)に関して、同期化するために使用される。中央波面合成モジュールがマスタとして機能し、すべてのラウンドスピーカモジュールがクライアントとして機能する。ここで、個々のデータストリームはすべて、複数の伝送経路16a〜16eを介して中央モジュール10から同じ同期化情報を得る。これにより、すべてのラウンドスピーカモジュールが同時に作動すること、つまりマスタ10と同期することが確実となる。このことは、オーディオ再生システムにとって、オーディオの質の低下を防ぐために重要である。これにより、波面合成モジュールによって計算された合成信号が、対応するオーディオレンダリングの後に、個々のラウンドスピーカから時間的にオフセットされた形で発せられる事態が防げる。
ここに述べた概念は、波面合成システムに対して非常に高い柔軟性を提供するものであり、それは種々の用途に対して適応可能である。しかしそれは、実際の主要なレンダリングを行なっている、すなわち仮想音源の位置に応じてまたラウンドスピーカの位置に応じてそれらラウンドスピーカに対する個々の合成信号を計算している中央波面合成モジュールが、システム全体に対する「ボトルネック」となっている、という問題を未だに抱えている。このシステムにおいては、「ポストレンダリング」、すなわち、合成信号にチャネル伝送機能を付すこと等が、既に分散形式で行なわれており、したがって、中央レンダラモジュールと個々のラウンドスピーカモジュールとの間で必要なデータ伝送容量は既に、所定のしきい値エネルギよりも低いエネルギで合成信号を選択することにより減じられているが、それでもなお、すべての仮想音源はすべてのラウンドスピーカモジュールに対して何らかの方法でレンダリングされねばならず、つまりは合成信号に変換されねばならず、その選択は、レンダリングの後にしか行なうことができない。
このことは、レンダリングが未だにシステムの全体的な能力を決定することを意味する。もし中央レンダリングユニットがたとえば32個の仮想音源を同時にレンダリングすることが可能であって、それら32個の仮想音源についての合成信号を同時に計算することが可能である場合、もし1つのオーディオシーンで32個を上回る数の音源が同時にアクティブであるとすると、能力に関して深刻なボトルネックが生じる。単純なシーンの場合にはこれは十分である。しかし、より複雑なシーンで、たとえば雨が降っており多くの雨粒が個々の音源となるような、没入型の音の印象がある場合には、最大で32個の音源という容量がもはや十分でないことはすぐにわかることである。同様の状況は、大規模なオーケストラであって、実際に個々のオーケストラプレーヤを処理すること、または少なくとも各楽器グループをその位置における独自の音源として処理することが望まれる場合に、生じる。このとき、32個の仮想音源ではすぐに少な過ぎることになる。
通常、公知の波面合成の概念においては、シーン記述が使用される。シーン記述では、そのシーン記述内のデータと個々の仮想音源に対するオーディオデータとを使用して、完全なシーンが1つのレンダラまたは1つのマルチレンダリング構造でレンダリングできるように、個々のオーディオオブジェクトがまとめて定義される。ここでは、各オーディオオブジェクトについて、そのオーディオオブジェクトがどこで始まりどこで終わるべきかが厳密に定義される。さらに、各オーディオオブジェクトについて、仮想音源のあるべき位置、すなわち、波面合成レンダリング手段へと入れられるべき位置が厳密に示されており、それにより、対応する合成信号が各ラウンドスピーカに対して生成されるようになっている。その結果、個々のラウンドスピーカから出力される音波をそれら合成信号に対する反応として重ね合わせることにより、音源が、再生ルームの中または外の、仮想音源の音源位置によって規定される位置にあたかも位置付けられているかのような印象が、聞き手にもたらされる。
上述の概念では、特にオーディオシーン記述の作成において比較的厳格であるという欠点がある。サウンドマスタは、再生ルーム内での機器の状況を正確に知っている特定の波面合成機器のためだけにオーディオシーンを作成し、それが作成者にとって公知である規定された波面合成システム上でスムーズに実行されるように、そのオーディオシーン記述を作成する。
これに関して、サウンドマスタはオーディオシーン記述の作成にあたって、波面合成レンダリング手段の最大容量および、再生ルームにおける波面の要件を、考慮に入れている。たとえば、レンダラが最大で32個のオーディオ音源を処理できる能力を有している場合、サウンドマスタは、同時に32個を上回る数の音源が処理されることのないように、オーディオシーン記述を編集するよう気をつけている。
さらに、サウンドマスタは、再生ルーム全体に対して、たとえばバスギターおよびリードギターのようなそれらの広がりについてその作者がよく知っている2つの楽器を位置付ける際に、音のランタイムが合致すべきであることを考慮に入れている。明瞭でぼやけていないサウンドイメージを得るには、たとえばバスギターとリードギターとが聞き手によって比較的均一な態様で知覚されることが重要である。そこで、サウンドマスタは、仮想位置付けにおいて、すなわち仮想位置のそれら2つの音源との対応付けにおいて、それら2つの楽器からの波先が、再生ルーム全体においてほぼ同時に聞き手に到達するように注意する。
したがって、オーディオシーン記述は、一連のオーディオオブジェクトを含み、各オーディオオブジェクトは、仮想位置と、開始時刻、終了時刻、または期間とを含む。
通常は手作業のチェックにより、すなわち、再生ルーム内での種々の場所での試験聴取により、オーディオシーン記述が記述どおりとなるか、すなわち、オーディオシーン記述の作成者が実際によい仕事をして波面合成システムのすべての要件を満たしたかどうか、が実際にチェックされる。
この概念は、オーディオシーン記述を作成するサウンドマスタが波面合成システムの境界条件に注意を向けねばならない、という点で不利である。波面合成システムは実際にはオーディオシーンの創造的な側面には関係がない。サウンドマスタが創造的な局面のみに集中できること、すなわち、オーディオシーンがその上で実行されるべき特定の波面合成システムを考慮に入れる必要がなくなること、が望ましい。
上記の概念は、さらに、オーディオシーン記述がそれに対して設計された何らかの第1の挙動を有する波面合成システムによるオーディオシーン記述が、オーディオシーンがそれに対して設計されたものではない第2の挙動を有する別の波面合成システム上で実行されることになるときに、不利である。
もし、システム上で実行されるオーディオシーン記述として、別のシステムのために設計されたオーディオシーン記述しかない場合、第2のシステムが第1のシステムよりもパワーが小さい場合に、聞き取れるほど大きなエラーが導入されるという問題が生じ得る。
これに対し、第2のシステムが第1のシステムよりもよりパワフルであれば、そのオーディオシーン記述は、第1のシステムの性能の範囲内の性能を第2のシステムに求めるだけであり、第2のシステムの追加の能力を消耗させることはない。
もし第2のシステムがさらに、たとえばより広い再生ルームに対応するものであった場合、たとえばバスギターとリードギターとの2つの仮想音源の波先がほぼ同時に到達するということが、場所によってはもはや確実ではなくなってしまう。
特に、同期を取るべき2つの仮想音源を同時またはほぼ同時に知覚するという課題は、非常に大きな問題をはらんでいる。というのも、これまでは、この目的のために、手作業による試聴行為および、再生ルーム内の複数の所定位置での質の主観的な評価のみが可能だったからである。
そのような主観的な評価に応じて、サウンドマスタはその後、第2のシステムに対して、実際に既に仕上がっていたオーディオシーン記述を完全に見直さなければならず、これは、時間的な資源および経済的な資源の両方を必要とする。
特に、次代において波面合成システムが広く普及することが予期されているので、CDまたはDVDについての通常の先行技術の場合のように、将来において同様の可搬性または互換性を達成する目的で、どのようなシステム上でも例外なく再生することのできる柔軟なオーディオシーン記述の問題が、ますます浮上してくるであろう。
本発明の目的は、オーディオシーン記述が何らかの波面合成システムに対してエラーがないかどうか、および、それに関連して潜在的に生じるエラーがないかどうかを効率的にチェックすることのできる、波面合成システムをシミュレートするための概念を提供することである。
この目的は、請求項1に記載の波面合成システムをシミュレートするための装置、請求項15に記載の波面合成システムをシミュレートするための方法、または、請求項16に記載のコンピュータプログラム、によって達成される。
本発明は、以下の発見に基づいている。すなわち、オーディオオブジェクトの時間的なシーケンスを定義するオーディオシーン記述とは別に、出力条件もまた、オーディオシーン記述内にまたはオーディオシーン記述とは別個に提供することにより、オーディオシーン記述がその上で実行される波面合成システムの挙動をシミュレートすることができる。そして、波面合成システムのシミュレートされた挙動および出力条件に基づいて、その波面合成システムのシミュレートされた挙動がその出力条件を満たすかどうかをチェックすることができる。
この概念によれば、別の波面合成システムに対してオーディオシーン記述を容易にシミュレートすることができ、また、その別の波面合成システムに対して、システムとは独立した一般的な出力条件を考慮することができる。その際、オーディオシーン記述の作者またはサウンドマスタは、実際の波面合成システムの「世俗的な(secular)」事象を扱う必要がない。本発明の装置によれば、たとえば再生ルーム内のラウンドスピーカアレイのサイズもしくは数、またはレンダラの能力に関連して、波面合成システムの実際の境界条件を扱うことは、サウンドマスタの手から離れる。サウンドマスタは、単に、自身がやりたいように創造的なアイディアにしたがってのみオーディオシーン記述を書くことが可能であり、システムとは独立した出力条件によって芸術的な印象を確保することができる。
そして、本発明の概念によれば、特別なシステムのためではなく普遍的に書かれたオーディオシーン記述が、特別なシステム上で実行可能であるかどうか、再生ルームの中で問題が起きるかどうか、またどこで問題が起き得るか、がチェックされる。本発明に従えば、これは、その処理における集中的な聴取試験を待つまでもなく、エディタがほぼリアルタイムで波面合成システムの挙動をシミュレートし、与えられた出力条件に基づいてそれを検証することができる。
本発明に従えば、出力条件は、レンダラ手段の最大処理能力等の、波面合成システムのハードウェアの局面に関するか、または、再生ルーム内の音場に関する事柄にも関する。これはたとえば、2つの仮想音源の波先が最大時間差内で知覚されねばならないことや、再生ルームにおけるすべての地点または少なくともいくつかの地点で、2つの仮想音源のレベル差が予め定められた領域内にあらねばならないこと、を含む。ハードウェアに関する出力条件に関しては、柔軟性および互換性の要件という観点から、それらをオーディオシーン記述の中に挿入しないことが好ましく、それらは、検査用の手段に対して外部から与えられた方がよい。
しかしながら、音場に関連する出力条件、すなわち、音場が再生ルーム内で満たすべき事柄を規定する出力条件に関しては、それらをオーディオシーン記述内に含めることが好ましい。そうすることで、オーディオシーン記述の作者は、確実に、少なくとも音の印象に対する最小の要件を満たしながらも、波面合成レンダリング内で何らかの柔軟性が残るようにすることができる。その目的は、オーディオシーン記述を、単一の波面合成システムにおいて最適な質で再生できるばかりでなく、様々な波面合成システムにおいて再生できるようにすることである。これは、オーディオシーン記述のインテリジェント・ポストプロセッシングにより作者によって与えられた柔軟性を有利に利用することで行なわれるが、それは自動的に行なわれるのが好ましい。
換言すれば、本発明は、オーディオシーン記述の出力条件が波面合成システムによって満たされ得るかどうかを検証するツールとして機能する。出力条件違反があった場合、本発明の概念は、好ましい実施例においては、どの仮想音源が問題を含むのか、再生ルーム内のどこで、またいつ、出力条件違反が起きるか、をユーザに知らせる。これにより、オーディオシーン記述がいかなる波面合成システムにおいても問題なく実行され得るかどうか、オーディオシーン記述が出力条件の深刻な違反により書き直されねばならないか、それとも、出力条件の違反は実際には起こるがそれらはオーディオシーン記述が実際に操作されねばならないほど深刻なものではないか、を評価することができる。
以下に、本発明の好ましい実施例について、図面を参照してより詳細に説明する。
図1aは、1または複数のラウンドスピーカアレイおよびそのラウンドスピーカアレイに結合された波面合成レンダリング手段をその中に装着することが可能な再生ルームを用いて、波面合成システムをシミュレートするための本発明の装置を示す概略図である。本発明の装置は、オーディオオブジェクトの時間的なシーケンスを定義するオーディオシーン記述を提供するための手段1を含む。オーディオオブジェクトは、仮想音源に対するオーディオファイルまたはそのオーディオファイルの参照、および、その仮想音源の音源位置に関する情報を含む。オーディオファイルは、オーディオシーン記述内に直接含まれてもよく、または、オーディオファイルデータベース2内のオーディオファイルを参照することによって識別可能であって、波面合成システムの挙動をシミュレートするための手段3に与えられる。
実現例によっては、オーディオファイルは制御線1aを介して制御されるか、または、線1bを介してシミュレーション手段2に与えられ、その中には音源位置もまた含まれる。しかしながら、それらのファイルがオーディオファイルデータベース2から波面合成システムの挙動をシミュレートするための手段3に直接与えられる場合には、線3aがアクティブとなり、それが図1aでは破線で示されている。波面合成システムをシミュレートするための手段3は、波面合成システムに関する情報を使用するよう形成され、その後、出力側において波面合成システムのシミュレートされた挙動を、出力条件をチェックするための手段4に提供する。
手段4は、波面合成システムのシミュレートされた挙動が出力条件を満たすかどうかをチェックするよう形成される。この目的のために、チェックするための手段4は、入力線4aを介して出力条件を得る。出力条件は、手段4に外部から供給されるか、代替的に、オーディオシーン記述から得ることも可能である。これを破線4bで示している。
出力条件が外部から供給される第1のケースは、その出力条件が波面合成システムに関するハードウェアの技術的な条件である場合に好ましい。その例としては、データ接続の最大伝送容量、または、処理全体のボトルネックとなる、レンダラの、マルチレンダラシステムの場合には個々のレンダラモジュールの、最大計算能力等が挙げられる。
レンダラは、ラウンドスピーカに関する情報を使用し、また、仮想音源の音源位置に関する情報を使用して、オーディオファイルから合成信号を生成する。すなわち、多数のラウンドスピーカの各々について独自の信号を1つ生成する。合成信号は、互いに対して異なる位相および振幅比を有し、それにより、多数のラウンドスピーカは、波面合成の理論に従って、再生ルーム内で伝搬する共通の波先を生成する。合成信号の計算は非常に複雑なので、一般的なレンダラモジュールはその能力が、たとえば同時に最大で32個の仮想音源を処理することのできる能力に限定される。そのような出力条件、すなわち、1つのレンダラが一度に最大で32個の音源を処理することが許容されることは、たとえば、出力条件をチェックするための手段4に提供され得る。
本発明に従ったオーディオシーン記述内に典型的に含まれる他の出力条件は、再生ルーム内の音場に関するものである。特に、出力条件は、再生ルーム内の音場または音場の何らかの特性を定義する。
この場合、波面合成システムをシミュレートするための手段3は、再生ルーム内の1または複数のラウンドスピーカアレイの配列に関する情報およびオーディオデータを使用して、再生ルーム内の音場をシミュレートするよう形成される。
さらに、この場合、チェックするための手段4は、シミュレートされた音場が再生ルーム内で出力条件を満たすかどうかをチェックするよう形成される。
さらに、本発明の好ましい実施例においては、手段4は、出力条件が満たされないか、完全に満たされるか、それとも部分的に満たされるか、をユーザに通知する指示、たとえば光学的な指示、を提供するよう形成される。条件が部分的に満たされる場合には、チェックするための手段4はさらに、図1dに基づいて示されるように、たとえば、再生ルーム(RPR)内のたとえば波先出力条件が満たされない、問題のゾーンを特定するよう形成される。その後、シミュレーションツールのユーザは、この情報に基づいて、その部分的な違反を受入れるかどうか、または、出力条件の違反をより少なくするために何らかの手段を講じるかどうか、を決定することができる。
図1bは、波面合成システムをシミュレートするための手段3の好ましい実現例を示す。図1bに示す本発明の好ましい実施例においては、手段3は、波面合成システムに不可欠な、波面合成レンダリング手段3bを含む。これは、シーン記述、オーディオファイル、ラウンドスピーカの位置に関する情報、および/または、必要であればたとえば再生ルームの音響等に関するさらなる情報から、合成信号を生成する。それらの信号はその後、ラウンドスピーカシミュレータ3cに与えられる。ラウンドスピーカシミュレータは、好ましくは、再生ルームの問題の各位置において、再生ルーム内の音場を判定するよう形成される。以下に図1cを参照して説明する手順に基づいて、再生ルーム内の求められる各地点において、問題が生じたかどうかが判定され得る。
図1cに示すフローチャートにおいて、まず、シミュレートするための手段3によって、最初の仮想音源について、再生ルーム内で波先がシミュレートされる(5a)。その後、手段3によって第2の仮想音源について、再生ルーム内で波先がシミュレートされる(5b)。もちろん、これら2つのステップ5aおよび5bは、対応する計算能力があれば、並行に、すなわち同時に実行され得る。その後、ステップ5cにおいて、第1の仮想音源に対する第1の波先および第2の仮想音源に対する第2の波先に基づいて、シミュレートされるべき特性が計算される。好ましくは、この特性は、何らかの2つの仮想音源間で満たされるべき特性であり、たとえばレベルの差、ランタイムの差、等である。ステップ5cでどのような特性が計算されるかは出力条件に依存する。というのも、もちろん、出力条件と比較されるべき情報のみがシミュレートされねばならないからである。計算された特性、すなわちステップ5cの結果と、出力条件との実際の比較は、ステップ5dで行なわれる。
ステップ5aから5dのシーケンスが複数の地点について行なわれる場合、ステップ5eでは、ある条件が満たされるかどうかが示されるばかりでなく、その条件が再生ルーム内のどこで満たされないかもまた示され得る。さらに、図1cに示す実施例においては、問題のある仮想音源もまた特定され得る(5f)。
次に、図1dを参照して、本発明の好ましい実施例を説明する。図1で考えられる出力条件は、オーディオデータに関連して音のランタイムを定義する。たとえば、オーディオシーン記述においては、再生ルーム内の各地点において、ギターによる波先とバスによる波先とが互いに対して最大で所定の時間期間Δtmaxしか離れて到着してはならないことを示すことが好ましい。再生ルーム内、特に、図1dに示すような、4つのラウンドスピーカアレイLSA1、LSA2、LSA3、LSA4によって囲まれている再生ルーム内で、音源がオーディオシーン記述に従って互いに対して大きく離れて位置付けられている場合には、再生ルーム内の各地点において、上記の条件を満たすことは不可能であろう。本発明の概念によって特定される再生ルーム内の問題のゾーンが図1dに示されている。
図1dに示す実施例においては、プロデューサはたとえば、ギターとバスとを100mの距離で位置付けた。さらに、再生ルーム全体に対して10mの最大ランタイム差、すなわち、音速で割られた10mの期間、が出力条件として与えられた。図1に基づいて説明した本発明の手順は、図1dに示すような問題のゾーンを見つけ出し、プロデューサまたはサウンドマスタに対して、図1dに示される波面合成システムに関連するオーディオシーン記述を通知する。
このように、本発明に従えば、性能のボトルネックおよび質の欠陥が予測され得る。これは、中央データ管理が好まれること、すなわち、シーン記述とオーディオファイルとの両方がインテリジェントデータベースに格納されること、および、波面合成システムのほぼ正確なシミュレーションを提供する、波面合成システムをシミュレートするための手段3もまた提供されること、によって達成される。これにより、集中的な手作業による試験も、性能的にまた質的に安全であると考えられる尺度までシステムのパワーを人為的に制限することも、排除することができる。
特に、種々の仮想音源の時間的な基準に関して、出力条件を固定することが好ましい。種々のオーディオ音源は、ある程度固定された時間的な基準を有する。風の音の開始が50ミリ秒遅れたとしても特に目立った質の低下を伴うことはないが、ギターとバスの合成信号同士のずれは、知覚されたオーディオ信号において大きな質の低下につながり得る。知覚される質の低下の大きさは、再生ルーム内の聞き手の位置に依存する。本発明に従えば、再生ルーム内のそのような問題のゾーンは自動的に判断され、視覚化されるかディスエーブルされる。
本発明に従えば、出力条件の特に好ましい定義について、複数のオーディオオブジェクトの互いに対する相対的な定義および、特にタイムスパンまたはロケーションスパン内で可変な位置付けが好ましい。このことは、図3に基づいても説明する。
データベースを使用するかまたは使用しない、複数のオーディオオブジェクト/オーディオファイルの相対的な位置付けまたは配置は、出力条件を定義する有用な方法を提供する。それらは好ましくは、2つの仮想オブジェクトの互いに対する特性を有し、すなわち、やはりオブジェクトに関するものである。好ましくは、そのような関連付け/出力条件を再利用することができるように、データベースもまた用いられる。
さらに、複数のオーディオオブジェクトの互いに対する相対的な関連付けによって、シーンの取扱いに関してより高い柔軟性が達成される。たとえば、ギターは、同時に起きる複数のステップと時間的にリンクされる。ギターを未来に10秒だけシフトすることで、自動的に、それらのステップが未来に10秒だけシフトされるが、このとき、「ステップオブジェクト」内の特性を変更する必要はない。
本発明に従えば、相対的な制約および可変の制約の両方を使用して、異なるシステムに対する音に関する要件の違反がチェックされる。そのような出力条件は、たとえば、時刻t0において2つのオーディオオブジェクトAおよびBによってトリガされる音は、たとえばt=15msの最大差で聞き手に到達し得る、と定義される。その後、オーディオオブジェクトAおよびBが空間内に位置付けられる。そして、チェック用の機構が、波面合成ラウンドスピーカアレイによって与えられる現在の再生エリアについて、その出力条件が違反される位置があるかどうかをチェックする。違反は、好ましくはそのサウンドシーンの作者にも通知される。
実現例によっては、本発明のシミュレーション装置は、出力条件の状況、すなわち、それが違反されているかどうか、またおそらくはそれがどこで違反されていてどこで違反されていないか、の表示のみを提供し得る。しかしながら好ましくは、本発明のシミュレーション装置は、問題のある仮想音源を特定するばかりではなく、エディタに対して解決策を提案するように形成される。音のランタイムの基準の例においては、解決策はたとえば、ギターとバスとを、それらの波先が再生ルーム内のどの場所でも出力条件によって固定された要求の差以内に実際に到達するようにするのに十分な、短い距離を隔てた仮想位置に位置付けることを含む。ここでは、シミュレーション手段は反復的な手法を使用することが可能であり、音源同士は互いに対してある刻み幅で少しずつ近づけられ、再生ルームにおける先に問題のあった地点で今ではその出力条件が満たされるかどうかが判断される。したがって、「コスト関数」は、先の反復パスにおけるよりも少ない数の出力条件違反点が存在するかどうか、である。
この目的のために、本発明の装置は、オーディオオブジェクトが出力条件を違反した場合に、オーディオオブジェクトを操作するための手段を含む。この操作は、ユーザに対して位置付けの提案を行なう目的で、反復操作を含み得る。
これに代えて、この操作手段を有する本発明の概念はまた、波面合成レンダリングにおいても用いられ得る。シーン記述から実際のシステムに適合されるスケジュールを生成するためである。この実現は、オーディオオブジェクトが時間および場所に関して固定的に与えられているのではなく、時間および場所に関してタイムスパンおよび/またはロケーションスパンが与えられていて、オーディオオブジェクト操作手段が、サウンドマスタにさらに問い合わせをすることなく、自動でオーディオオブジェクトを操作し得る場合に、特に好ましい。本発明に従えば、もちろん、そのようなリアルタイムのシミュレーション/レンダリングにおいて、出力条件が、タイムスパンまたはロケーションスパン内のシフトによってさらに違反されることがないように注意される。
これに代えて、本発明の装置は、オーディオシーン記述からのオーディオオブジェクト操作によってスケジュールファイルを書くことにより、オフラインで作動することも可能である。スケジュールファイルは、種々の出力条件に対するシミュレーション結果に基づいており、その後、オリジナルのオーディオシーン記述に代えて、波面合成システム内でレンダリングされ得る。この実現の利点は、オーディオスケジュールファイルが、サウンドマスタの介在なしに、すなわち、作成者の時間的および経済的資源を消費することなく、書かれることである。
次に、図2を参照して、オーディオオブジェクトが有するのが望ましい情報について説明する。オーディオオブジェクトは、仮想音源のオーディオコンテントを何らかの方法で表わすオーディオファイルを特定するものである。しかしながら、オーディオオブジェクトは、オーディオファイルを含む必要はなく、実際のオーディオファイルが格納されているデータベース内の定義された場所を指すインデックスを有してもよい。
さらに、オーディオオブジェクトは、好ましくは、仮想音源の識別情報を含む。これはたとえば、音源の番号、または有意のファイル名等である。さらに、本発明においては、オーディオオブジェクトは、仮想音源の、すなわち、オーディオファイルの、最初および/または最後に対するタイムスパンを特定する。最初に対するタイムスパンのみが特定された場合、それは、そのファイルのレンダリングの実際の開始点がそのタイムスパン内でレンダラによって変更され得ることを示す。最後に対するタイムスパンが追加で与えられている場合、それは、その終了点もまたそのタイムスパン内で変更されることを示しており、この場合には、オーディオファイルがその長さについても実現に応じて変更され得ることになる。種々の実現が可能である。たとえば、開始点が実際にシフトすることが許されるが、その長さは決して変更してはならならず、したがって、そのオーディオファイルの終了点もまた自動的にシフトされる、というようなオーディオファイルの開始/終了時間の定義もまた可能である。ノイズについては、特に、その終了点もまた可変であるようにしておくことが望ましい。なぜなら、たとえば風の音がいくぶん早くまたは遅く開始しまたいくぶん早くまたは遅く終了しても、通常は問題にはならないからである。実現によってはさらなる特定が可能であるおよび/または望ましく、たとえば、開始点が実際に変化することが許されるが終了点の変化は許されない、等と規定することもできる。
好ましくは、オーディオオブジェクトは、位置に対するロケーションスパンをさらに含む。あるオーディオオブジェクトについては、それらがたとえば正面の左側から来るのかあるいは正面の中央から来るのか、または、それらが再生ルーム内の基準点に対してある(小さな)角度でもってシフトされるかどうか、は重要ではないだろう。しかしながら、上述のように、特にやはりノイズ領域では、どのような場所にも位置付けることができ、かつしたがって最大のロケーションスパンを有するオーディオオブジェクトが存在し、それらはたとえば、オーディオオブジェクト内で、「任意」というコードで特定されるか、または、コードなし(暗示的)で特定され得る。
オーディオオブジェクトは、仮想音源の種類を示す情報のような、さらなる情報を含み得る。これは、その仮想音源が、音波の点源であるか、平面波の音源であるか、それとも任意の波先の複数の音源を生成する音源であるか、を示す情報であり、レンダラモジュールがそのような情報を処理可能な場合に限り含まれ得る。
図3は、シーン記述を例示的に示す概略図である。その中で、種々のオーディオオブジェクトAO1、…、AOn+1の時間シーケンスが示されている。これは特に、オーディオオブジェクトAO3に向けられており、それに対してタイムスパンが、図3に示すように規定されている。図3におけるオーディオオブジェクトAO3の開始点および終了点は両方とも、そのタイムスパンによってシフトすることが可能である。しかしながら、オーディオオブジェクトAO3の定義は、その長さは変更されてはならない、というものである。ただしこれは、オーディオオブジェクトごとに可変的に調整可能である。
オーディオオブジェクトAO3を時間の正方向にシフトすることにより、オーディオオブジェクトAO3がオーディオオブジェクトAO2の後になって開始されるようにすることができることがわかる。両方のオーディオオブジェクトが同じレンダラ上で再生された場合にさもなければ起こり得たであろう短い重複20を、この方法によって避けることが可能である。もしオーディオオブジェクトAO3が、オーディオオブジェクトAO2およびAO1等のレンダラ上で処理されるべき既存のすべての別のオーディオオブジェクトのせいで、先行技術におけるレンダラの容量を超えて存在するオーディオオブジェクトであった場合には、タイムスパン20が非常に小さいものであったにせよ、本発明なしでは、オーディオオブジェクトAO3が全く処理されない事態が生じたであろう。本発明に従えば、オーディオオブジェクトAO3はオーディオオブジェクト操作手段3により、容量の超過が起こらないように、またしたがって、オーディオオブジェクトAO3が全く処理されない事態が生じないように、シフトされる。
本発明の好ましい実施例においては、相対的な表示を有するシーン記述が使用される。オーディオオブジェクトAO2の開始が、もはや絶対的な時間点ではなく、オーディオオブジェクトAO1に対する相対的な時間期間で与えられることで、柔軟性が増大される。これに対応して、ロケーション表示の相対的な記述が好ましい。すなわち、オーディオオブジェクトが再生ルームにおけるある地点xyに配置されるのではなく、たとえば、別のオーディオオブジェクトまたは基準オブジェクトに対してあるベクトルでオフセットされる。
これにより、タイムスパン情報および/またはロケーションスパン情報は、非常に効率的に適用され得る。すなわち、タイムスパンを単に、オーディオオブジェクトAO3が、オーディオオブジェクトAO1の開始後、2分から2分20秒の間の時間期間において開始し得る、ということを表わすように、決めることができる。
このような空間および時間の条件の相対的な定義によって、制約という形の、データベース効率のよい表現がもたらされる。これについてはたとえば次の文献に記載されている。「マルチメディアデータベースシステムにおけるモデリング用出力制約("Modeling Output Constraints in Multimedia Database Systems")」、T. Heimrich、第1回国際マルチメディアモデリング会議(1th International Multimedia Modelling Conference)、IEEE、2005年1月2日〜2005年1月14日、メルボルン(Melbourne)。ここで、一貫したデータベースの状態を定義するのに、データベースシステムにおける制約の使用が示されている。特に、アレン(Allen)の関係式を使用して時間的な制約が記述されており、空間的関係式を使用して空間的な制約が記述されている。ここから、同期化の目的で、好適な出力制約を規定することができる。そのような出力制約としては、複数のオブジェクト間の時間的または空間的条件、制約に違反があった場合の反応、および、そのような制約をいつチェックすべきかを表わすチェック時間、等がある。
本発明の好ましい実施例においては、各シーンの空間的/時間的出力オブジェクトは、互いに対して相対的にモデリングされる。オーディオオブジェクト操作手段は、これらの相対的かつ可変な定義を、絶対的な空間的かつ時間的順序へと変換する。この順序は、図1に示されるシステムの出力6aで得られ、波面合成システム内のレンダラモジュールが特にどのようにアドレスされるかを定義する出力スケジュールを表わすものである。このスケジュールは、出力条件に対応するオーディオデータ内に配される出力プランである。
次に、図4に基づいて、そのような出力スケジュールの好ましい実施例について説明する。特に、図4は、図4に従って左から右に伝送される、すなわち、図1のオーディオオブジェクト操作手段3から図1の波面合成システム0の1または複数の波面合成レンダラへと伝送される、データストリームを示す。特に、データストリームは、図4に示される実施例においては、各オーディオオブジェクトにつき、まずヘッダHを含み、その中に位置情報および時間情報が含まれ、その下流に、その特定のオーディオオブジェクトに対するオーディオファイルを含み、これが、図4では、最初のオーディオオブジェクトに対してはAO1で、2番目のオーディオオブジェクトに対してはAO2で、以下同様に示されている。
その後、波面合成レンダラがそのデータストリームを受け、たとえば現在の固定的に合意された同期化情報から、ヘッダが入来した時点を認識する。さらなる同期化情報に基づいて、レンダラはその後、ヘッダが終わった時点を認識する。これに代えて、各ヘッダについてビット単位の固定長さを取決めることも可能である。
図4に示される本発明の好ましい実施例におけるオーディオレンダラは、ヘッダを受取った後に、自動的に、後続のオーディオファイル、すなわちたとえばAO1が、オーディオオブジェクトに属すること、すなわち、そのヘッダ内で特定された音源位置に属すること、を知る。
図4は、波面合成レンダラに対するシリアルデータ伝送を示す。もちろん、複数のオーディオオブジェクトは、1つのレンダラ内で同時に再生される。このため、レンダラは、データストリームの構文解析のために、入力バッファの前にデータストリーム読出手段が設けられることを求める。データストリーム読出手段がヘッダを解釈し、対応して付随するオーディオファイルを格納し、その後、レンダラが、入力バッファから正しいオーディオファイルおよび正しい音源位置を読み出し、そして、オーディオオブジェクトがレンダリングされる番になる。データストリームのための他のデータもまたもちろん可能である。時間/場所情報および実際のオーディオデータを別々に伝送することも可能である。しかしながら、図4に示される組み合わせられた伝送が好ましい。というのも、位置/時間情報をオーディオファイルと連結することにより、データの整合性の問題が排除されるからである。なぜなら、レンダラがオーディオデータに対する正しい音源位置を有しており、また、先の音源のオーディオファイル等を未だにレンダリングしているのではなく、新しい音源の位置情報を既に使用してレンダリングしていることが、常に確実となるからである。
本発明は、オブジェクト指向の方法に基づいている。すなわち、個々の仮想音源は、オーディオオブジェクトおよび仮想の空間地点によって特徴付けられた、またおそらくは、それが音波の点源であるか、平面波の音源であるか、他の形状の複数音源のための音源であるか、という、音源の種類によって特徴付けられた、オブジェクトとして理解される。
上述のように、波面の計算は非常に時間がかかるものであり、計算アルゴリズムの効率性に関連して、サウンドカードおよびコンピュータ等の使用されるハードウェアの容量により制限されるものである。したがって、非常に高性能なPCベースの解決策であったとしても、要求の厳しい音の事象が多数同時に表現されるべき場合には、波面合成の計算の限界にすぐに到達してしまう。使用されるソフトウェアおよびハードウェアの容量的な限界が、ミキシングおよび再生における仮想音源の数に関して限界を与えることになる。
図6は、そのような、容量に限界のある公知の波面合成概念を示す。これは、オーサリングツール60と、コントロールレンダラモジュール62と、オーディオサーバ64とを含む。コントロールレンダラモジュールは、ラウンドスピーカアレイ66にデータを供給するように形成され、ラウンドスピーカアレイ66は、個々のラウンドスピーカ70の個々の波の重畳によって、所望の波先68を生成する。オーサリングツール60は、ユーザが、シーンを作成しかつ編集し、波面合成ベースのシステムを制御することを可能にする。シーンは、個々の仮想オーディオ音源に関する情報と、オーディオデータとからなる。オーディオ音源の特性および、オーディオデータへの参照は、XMLシーンファイルに格納される。オーディオデータそのものはオーディオサーバ64上にファイルされ、そこからレンダラモジュールへと伝送される。同時に、レンダラモジュールは、オーサリングツールから制御データを獲得し、それにより、中央に実現されているコントロールレンダラモジュール62は、個々のラウンドスピーカに対して合成信号を生成することができる。図6に示される概念は、「波面合成のためのオーサリングシステム("Authoring System for Wave Field Synthesis")」、F. Melchior, T. Roeder, S. Brix, S. WabnikおよびC. Riegel、AESコンベンション紙(AES Convention Paper)、第115回AESコンベンション、2003年10月10日、ニューヨーク(New York)、に記載されている。
この波面合成システムがいくつかのレンダラモジュールとともに作動される場合、各レンダラは、そのレンダラがそれに関連付けられている限られた数のラウンドスピーカによる再生のために、そのデータを必要とするかしないかにかかわらず、同じオーディオデータが供給される。現在のコンピュータは各々、32個のオーディオ音源を計算することが可能であるので、これがシステムの限界を表わす。他方、システム全体においてレンダリングすることが可能な音源の数は、効率的な態様で大いに増大させることができる。これは、映画のような複雑な用途、雨や拍手のような没入型の雰囲気、または他の複雑なオーディオシーンのための、実質的な必須条件の1つである。
本発明に従えば、波面合成マルチレンダラシステムにおいて、冗長なデータ伝送プロセスおよびデータ処理プロセスの減少を達成することができる。これは、計算能力の強化および/または同時に計算可能なオーディオ音源の数の増加につながる。
マルチレンダラシステムの個々のレンダラへのオーディオデータおよびメタデータの冗長な伝送および処理を減少させるために、オーディオサーバは、データ出力手段によって拡張され、データ出力手段は、どのレンダラがどのオーディオデータおよびメタデータを必要とするかを判断することが可能である。データマネージャによっておそらくは支援されるデータ出力手段は、好ましい実施例においては、いくつかの情報を必要とする。この情報とは、まず、オーディオデータであり、そして、音源の時間および位置データであり、最後に、レンダラの構成、すなわち、接続されるラウンドスピーカおよびそれらの位置ならびにそれらの容量に関する情報である。データ管理技術および出力条件の定義の助けにより、出力スケジュールが、オーディオオブジェクトの時間的および空間的構成とともに、データ出力手段により生成される。その後、空間的構成、時間的スケジュールおよびレンダラ構成から、データ管理モジュールが、ある時刻においてどの音源がどのレンダラに関連しているのかを計算する。
好ましい全体的な概念を図5に示す。データベース22は出力側のデータ出力手段24によって補われる。データ出力手段はスケジューラとも称される。このスケジューラは、ラウンドスピーカアレイの対応するラウンドスピーカが供給されるように、その出力20a、20b、20cにおいて種々のレンダラ50に対するレンダラ入力信号を生成する。
好ましくは、スケジューラ24もまた、ストレージマネージャ52によって支援されるが、これは、データベース42を、RAIDシステムおよび対応するデータ構造のデフォルトによって構成するためである。
入力側にはデータジェネレータ54が存在するが、これはたとえば、オーディオシーンをオブジェクト指向の態様でモデリングするまたは記述する、オーディオエンジニアまたはサウンドマスタであり得る。ここで、データジェネレータは、対応する出力条件56を含むシーン記述を与え、それらの条件は、必要であれば変換58の後に、データベース22内にオーディオデータとともに格納される。オーディオデータは、挿入/更新ツール59によって操作および更新され得る。
本発明の方法は、諸条件に応じて、ハードウェアでもソフトウェアでも実現され得る。その実現は、その方法が実行されるようにプログラマブルコンピュータシステムとともに協働することが可能な、電子的に読出可能な制御信号を有して、デジタル記憶媒体上、特に、フロッピーディスク(登録商標)またはCD上であってもよい。本発明は一般に、コンピュータプログラムプロダクトであってもよく、それは、そのコンピュータプログラムプロダクトがコンピュータ上で実行されたときに当該方法を行なうための機械で読取可能なキャリア上に記憶されたプログラムコードを有する。言い換えれば、本発明は、コンピュータ上で実行されたときに当該方法を行なうためのプログラムコードを有する、コンピュータプログラムとして実現することも可能である。
波面合成システムをシミュレートするための本発明の装置のブロック回路図である。 図1aに示したシミュレートするための手段の具体的な実現例を示す図である。 2つの仮想音源間の特性を規定する出力条件における処理を示すフローチャートである。 本発明の好ましい実施例における再生ルームおよび問題のゾーンを概略的に示す図であって、音場同士の衝突時刻が出力条件内に含まれる場合を示す図である。 オーディオオブジェクトの例を示す図である。 シーン記述の例を示す図である。 現在の時間データおよび位置データを有するヘッダが、各オーディオオブジェクトと関連付けられている、ビットストリームを示す図である。 本発明の概念を波面合成システム全体に組み込んだ様子を示す図である。 公知の波面合成の概念を説明する概略図である。 公知の波面合成の概念を説明するさらなる図である。

Claims (17)

  1. 波面合成レンダリング手段に結合され得る1または複数のラウンドスピーカレイを装着可能な再生ルームに対して、波面合成システムをシミュレートするための装置であって、
    オーディオオブジェクトの時間的なシーケンスを定義するオーディオシーン記述を提供するための手段(1)を含み、オーディオオブジェクトは、仮想音源に対するオーディオファイルまたはそのオーディオファイルの参照、および、その仮想音源の音源位置に関する情報を含み、出力条件が該波面合成システムに対して与えられ、該装置はさらに、
    該波面合成システムに関する情報およびオーディオファイルを使用して、該波面合成システムの挙動をシミュレートするための手段(3)と、
    そのシミュレートされた挙動が出力条件を満たすかどうかをチェックするための手段(4)とを含む、装置。
  2. 出力条件は、再生ルーム内の音場の挙動を定義し、
    該シミュレートするための手段は、再生ルーム内の音場をシミュレートするよう形成され、
    該チェックするための手段(4)は、そのシミュレートされた音場が再生ルーム内で出力条件を満たすかどうかをチェックするよう形成される、請求項1に記載の装置。
  3. 該シミュレートするための手段(3)は、
    オーディオシーン記述および再生ルーム内のラウンドスピーカの位置に関する情報から合成信号を生成するよう形成される波面合成レンダリング手段(3b)と、
    合成信号に基づいて、ラウンドスピーカによって生成される音場をシミュレートするためのラウンドスピーカシミュレータ(3c)とを含む、請求項1に記載の装置。
  4. 該提供するための手段(1)は、仮想音源の、別の仮想音源に対する規定された特性を含む出力条件を提供するよう形成され、
    該シミュレートするための手段(3)は、前記別の仮想音源がない状態での第1の仮想音源による再生ルーム内の第1の音場と、前記仮想音源がない状態での前記別の仮想音源による再生ルーム内の第2の音場と、をシミュレートするよう形成され、
    該チェックするための手段(4)は、該第1の音場および該第2の音場に基づいて、規定された特性をチェックするよう形成される、請求項1〜3のいずれかに記載の装置。
  5. 該シミュレートするための手段(3)は、再生ルーム内の種々の位置について音場をシミュレートするよう形成され、
    該チェックするための手段(4)は、それら種々の位置について出力条件をチェックするよう形成される、請求項1〜4のいずれかに記載の装置。
  6. 該波面合成システムにおいて出力条件が満たされるか満たされないか、および、どこで満たされるか満たされないか、を示すための手段(5e)をさらに含む、請求項1〜5のいずれかに記載の装置。
  7. 複数の出力条件のうちどの条件が満たされないか、および、複数の仮想音源のうちどの仮想音源によってその出力条件が違反されるか、を特定するための手段(5f)をさらに含む、請求項1〜6のいずれかに記載の装置。
  8. 出力条件は、仮想音源による波先およびの仮想音源による波先が、再生ルーム内のある地点に予め定められた時間期間内で到達せねばならないことを規定し、
    該シミュレートするための手段(3)は、該仮想音源による波先の衝突と該の仮想音源による波先の衝突との時間差を計算するよう形成され、
    前記規定された特性は、前記計算された時間差であり、
    該チェックするための手段(4)は、その計算された時間差を出力条件と比較するよう形成される、請求項に記載の装置。
  9. 該チェックするための手段(4)が、オーディオオブジェクトが出力条件を満たさないと判定した場合に、そのオーディオオブジェクトを操作するための手段をさらに含む、請求項1〜8のいずれかに記載の装置。
  10. 該操作するための手段は、オーディオオブジェクトの仮想位置、開始時刻もしくは終了時刻を操作するように、または、オーディオシーン内のオーディオオブジェクトを問題ありとマークすることにより、そのオーディオオブジェクトがオーディオシーンの再生時に処理されないようにすることができるように形成される、請求項9に記載の装置。
  11. 出力条件は、仮想音源と別の仮想音源との音の大きさの差を規定し、
    該シミュレートするための手段(3)は、再生ルーム内のある場所における仮想音源と別の仮想音源との音の大きさの差を判定するよう形成され、
    前記判定された音の大きさの差は、前記規定された特性であり、
    該チェックするための手段(4)は、その判定された音の大きさの差を出力条件と比較するよう形成される、請求項に記載の装置。
  12. 出力条件は、1つの波面合成レンダラ手段によって同時に処理されるオーディオオブジェクトの最大数であって、
    該シミュレートするための手段(3)は、該波面合成レンダラ手段の利用率を判定するよう形成され、
    該チェックするための手段(4)は、計算された利用率を出力条件と比較するよう形成される、請求項1〜11のいずれかに記載の装置。
  13. オーディオシーン記述内のオーディオオブジェクトは、関連付けられた仮想音源に対する時間的な開始または時間的な終了を規定し、仮想音源のオーディオオブジェクトは、その開始または終了がその中にあるべきタイムスパンを含むか、または、仮想音源の位置がその中にあるべきロケーションスパンを含む、請求項に記載の装置。
  14. 出力条件の違反に応じて、タイムスパン内でオーディオオブジェクトの実際の開始点もしくは終了点を変更するか、または、ロケーションスパン内で仮想音源の実際の位置を変更するためのオーディオオブジェクト操作するための手段をさらに含む、請求項13に記載の装置
  15. タイムスパンまたはロケーションスパン内でオーディオオブジェクトを変更することによって出力条件の違反が直せるかどうかを検査するようさらに形成される、請求項14に記載の装置。
  16. 波面合成レンダリング手段に結合され得る1または複数のラウンドスピーカアレイを装着可能な再生ルームに対して、波面合成システムをシミュレートするための方法であって、
    オーディオオブジェクトの時間的なシーケンスを定義するオーディオシーン記述を提供するステップ(1)を含み、オーディオオブジェクトは、仮想音源に対するオーディオファイルまたはそのオーディオファイルの参照、および、その仮想音源の音源位置に関する情報を含み、出力条件が該波面合成システムに対して与えられ、該方法はさらに、
    該波面合成システムに関する情報およびオーディオファイルを使用して、該波面合成システムの挙動をシミュレートするステップ(3)と、
    そのシミュレートされた挙動が出力条件を満たすかどうかをチェックするステップ(4)とを含む、方法。
  17. コンピュータ上で実行されたときに請求項16に記載の波面合成システムをシミュレートする方法を行なうための、プログラムコードを有するコンピュータプログラム。
JP2007556535A 2005-02-23 2006-02-16 波面合成システムをシミュレートするための装置および方法 Active JP4700071B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102005008369A DE102005008369A1 (de) 2005-02-23 2005-02-23 Vorrichtung und Verfahren zum Simulieren eines Wellenfeldsynthese-Systems
DE102005008369.2 2005-02-23
PCT/EP2006/001413 WO2006089683A1 (de) 2005-02-23 2006-02-16 Vorrichtung und verfahren zum simulieren eines wellenfeldsynthese-systems

Publications (2)

Publication Number Publication Date
JP2008532373A JP2008532373A (ja) 2008-08-14
JP4700071B2 true JP4700071B2 (ja) 2011-06-15

Family

ID=36282944

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007556535A Active JP4700071B2 (ja) 2005-02-23 2006-02-16 波面合成システムをシミュレートするための装置および方法

Country Status (6)

Country Link
US (1) US7809453B2 (ja)
EP (1) EP1844627B1 (ja)
JP (1) JP4700071B2 (ja)
AT (1) ATE421846T1 (ja)
DE (2) DE102005008369A1 (ja)
WO (1) WO2006089683A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102005008342A1 (de) * 2005-02-23 2006-08-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Speichern von Audiodateien
DE102005033238A1 (de) * 2005-07-15 2007-01-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Ansteuern einer Mehrzahl von Lautsprechern mittels eines DSP
DE102005033239A1 (de) * 2005-07-15 2007-01-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Steuern einer Mehrzahl von Lautsprechern mittels einer graphischen Benutzerschnittstelle
KR101396140B1 (ko) * 2006-09-18 2014-05-20 코닌클리케 필립스 엔.브이. 오디오 객체들의 인코딩과 디코딩
EP2663099B1 (en) * 2009-11-04 2017-09-27 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for providing drive signals for loudspeakers of a loudspeaker arrangement based on an audio signal associated with a virtual source
WO2013068402A1 (en) 2011-11-10 2013-05-16 Sonicemotion Ag Method for practical implementations of sound field reproduction based on surface integrals in three dimensions
DE102012200512B4 (de) 2012-01-13 2013-11-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Berechnen von Lautsprechersignalen für eine Mehrzahl von Lautsprechern unter Verwendung einer Verzögerung im Frequenzbereich
WO2013184215A2 (en) * 2012-03-22 2013-12-12 The University Of North Carolina At Chapel Hill Methods, systems, and computer readable media for simulating sound propagation in large scenes using equivalent sources
KR101828448B1 (ko) * 2012-07-27 2018-03-29 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 확성기-인클로져-마이크로폰 시스템 표현을 제공하기 위한 장치 및 방법
CN104019885A (zh) 2013-02-28 2014-09-03 杜比实验室特许公司 声场分析系统
US9979829B2 (en) 2013-03-15 2018-05-22 Dolby Laboratories Licensing Corporation Normalization of soundfield orientations based on auditory scene analysis
CN105264914B (zh) 2013-06-10 2017-03-22 株式会社索思未来 音频再生装置以及方法
US10679407B2 (en) 2014-06-27 2020-06-09 The University Of North Carolina At Chapel Hill Methods, systems, and computer readable media for modeling interactive diffuse reflections and higher-order diffraction in virtual environment scenes
US9977644B2 (en) 2014-07-29 2018-05-22 The University Of North Carolina At Chapel Hill Methods, systems, and computer readable media for conducting interactive sound propagation and rendering for a plurality of sound sources in a virtual environment scene
MX2017006581A (es) * 2014-11-28 2017-09-01 Sony Corp Dispositivo de transmision, metodo de transmision, dispositivo de recepcion, y metodo de recepcion.
US9949052B2 (en) 2016-03-22 2018-04-17 Dolby Laboratories Licensing Corporation Adaptive panner of audio objects
US10248744B2 (en) 2017-02-16 2019-04-02 The University Of North Carolina At Chapel Hill Methods, systems, and computer readable media for acoustic classification and optimization for multi-modal rendering of real-world scenes
JP7313361B2 (ja) 2018-02-15 2023-07-24 マジック リープ, インコーポレイテッド 複合現実楽器
US11337023B2 (en) * 2019-12-20 2022-05-17 Magic Leap, Inc. Physics-based audio and haptic synthesis
WO2021243098A1 (en) 2020-05-29 2021-12-02 Magic Leap, Inc. Surface appropriate collisions

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000267675A (ja) * 1999-03-16 2000-09-29 Sega Enterp Ltd 音響信号処理装置
JP2001042865A (ja) * 1999-08-03 2001-02-16 Sony Corp オーディオデータ送信装置および方法、オーディオデータ受信装置および方法、並びに記録媒体
JP2002123262A (ja) * 2000-10-18 2002-04-26 Matsushita Electric Ind Co Ltd 対話型音場シミュレーション装置、並びに、対話形式によって音場をシミュレートする方法およびそのプログラムを記録した記録媒体
JP2004007211A (ja) * 2002-05-31 2004-01-08 Victor Co Of Japan Ltd 臨場感信号の送受信システム、臨場感信号伝送装置、臨場感信号受信装置、及び臨場感信号受信用プログラム
WO2004103024A1 (de) * 2003-05-15 2004-11-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung zum pegel-korrigieren in einem wellenfeldsynthesesystem

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE4327200A1 (de) * 1993-08-13 1995-02-23 Blaupunkt Werke Gmbh Einrichtung zur stereophonen Wiedergabe
US5390138A (en) * 1993-09-13 1995-02-14 Taligent, Inc. Object-oriented audio system
JPH07303148A (ja) 1994-05-10 1995-11-14 Nippon Telegr & Teleph Corp <Ntt> 通信会議装置
JPH08272380A (ja) * 1995-03-30 1996-10-18 Taimuuea:Kk 仮想3次元空間音響の再生方法および装置
JPH10211358A (ja) 1997-01-28 1998-08-11 Sega Enterp Ltd ゲーム装置
JPH1127800A (ja) 1997-07-03 1999-01-29 Fujitsu Ltd 立体音響処理システム
JP2002199500A (ja) 2000-12-25 2002-07-12 Sony Corp 仮想音像定位処理装置、仮想音像定位処理方法および記録媒体
JP2003284196A (ja) 2002-03-20 2003-10-03 Sony Corp 音像定位信号処理装置および音像定位信号処理方法
WO2004036955A1 (en) 2002-10-15 2004-04-29 Electronics And Telecommunications Research Institute Method for generating and consuming 3d audio scene with extended spatiality of sound source
DE10254404B4 (de) 2002-11-21 2004-11-18 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audiowiedergabesystem und Verfahren zum Wiedergeben eines Audiosignals
US7706544B2 (en) 2002-11-21 2010-04-27 Fraunhofer-Geselleschaft Zur Forderung Der Angewandten Forschung E.V. Audio reproduction system and method for reproducing an audio signal
EP1568251B1 (en) 2002-12-02 2007-01-24 Thomson Licensing Method for describing the composition of audio signals
JP4601905B2 (ja) 2003-02-24 2010-12-22 ソニー株式会社 デジタル信号処理装置およびデジタル信号処理方法
DE10321980B4 (de) 2003-05-15 2005-10-06 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Berechnen eines diskreten Werts einer Komponente in einem Lautsprechersignal
DE10328335B4 (de) 2003-06-24 2005-07-21 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Wellenfeldsyntesevorrichtung und Verfahren zum Treiben eines Arrays von Lautsprechern

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000267675A (ja) * 1999-03-16 2000-09-29 Sega Enterp Ltd 音響信号処理装置
JP2001042865A (ja) * 1999-08-03 2001-02-16 Sony Corp オーディオデータ送信装置および方法、オーディオデータ受信装置および方法、並びに記録媒体
JP2002123262A (ja) * 2000-10-18 2002-04-26 Matsushita Electric Ind Co Ltd 対話型音場シミュレーション装置、並びに、対話形式によって音場をシミュレートする方法およびそのプログラムを記録した記録媒体
JP2004007211A (ja) * 2002-05-31 2004-01-08 Victor Co Of Japan Ltd 臨場感信号の送受信システム、臨場感信号伝送装置、臨場感信号受信装置、及び臨場感信号受信用プログラム
WO2004103024A1 (de) * 2003-05-15 2004-11-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung zum pegel-korrigieren in einem wellenfeldsynthesesystem
JP2007502589A (ja) * 2003-05-15 2007-02-08 フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ ウェーブフィールド合成システムにおけるレベル修正のためのデバイス

Also Published As

Publication number Publication date
US20080013746A1 (en) 2008-01-17
JP2008532373A (ja) 2008-08-14
ATE421846T1 (de) 2009-02-15
DE102005008369A1 (de) 2006-09-07
US7809453B2 (en) 2010-10-05
WO2006089683A1 (de) 2006-08-31
EP1844627B1 (de) 2009-01-21
EP1844627A1 (de) 2007-10-17
DE502006002710D1 (de) 2009-03-12
DE102005008369A8 (de) 2007-02-01

Similar Documents

Publication Publication Date Title
JP4700071B2 (ja) 波面合成システムをシミュレートするための装置および方法
JP4620133B2 (ja) オーディオオブジェクトを用いて波面合成レンダラ手段を制御するための装置および方法
JP4547009B2 (ja) 波面合成レンダリング手段を制御するための装置および方法
Savioja Modeling techniques for virtual acoustics
US7962231B2 (en) Apparatus and method for providing data in a multi-renderer system
EP2382803B1 (en) Method and apparatus for three-dimensional acoustic field encoding and optimal reconstruction
US20200374645A1 (en) Augmented reality platform for navigable, immersive audio experience
JP2007501553A (ja) オーディオシーンでのオーディオ表現を生成し、保存し、編集するための装置および方法
US7813826B2 (en) Apparatus and method for storing audio files
JP5168373B2 (ja) 音声信号処理方法、音場再現システム
JP2007041164A (ja) 音声信号処理方法、音場再現システム
Mores Music studio technology
CA3044260A1 (en) Augmented reality platform for navigable, immersive audio experience
Lengelé The Story and the Insides of a Spatial Performance Tool: Live 4 Life
Väänänen Parametrization, auralization, and authoring of room acoustics for virtual reality applications
Faria et al. Audience-audio immersion experiences in the caverna digital
US20240233746A9 (en) Audio rendering method and electronic device performing the same
US20240135953A1 (en) Audio rendering method and electronic device performing the same
Potard et al. Using XML schemas to create and encode interactive 3-D audio scenes for multimedia and virtual reality applications
Malyshev Sound production for 360 videos: in a live music performance case study
Werner et al. Guitars with Ambisonic Spatial Performance (GASP): An immersive guitar system
Laine Cinematic music creation in Dolby Atmos: producing and mixing contemporary cinematic music in immersive audio
Potard et al. Encoding 3D sound scenes and music in XML
Thomaz et al. Orchestra spatialization using the AUDIENCE engine
JP3180714U (ja) 立体音響生成装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080520

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20081218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101001

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110215

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110303

R150 Certificate of patent or registration of utility model

Ref document number: 4700071

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250