JP4875142B2 - マルチチャネル・サラウンドサウンドのためのデコーダのための方法及び装置 - Google Patents

マルチチャネル・サラウンドサウンドのためのデコーダのための方法及び装置 Download PDF

Info

Publication number
JP4875142B2
JP4875142B2 JP2009502725A JP2009502725A JP4875142B2 JP 4875142 B2 JP4875142 B2 JP 4875142B2 JP 2009502725 A JP2009502725 A JP 2009502725A JP 2009502725 A JP2009502725 A JP 2009502725A JP 4875142 B2 JP4875142 B2 JP 4875142B2
Authority
JP
Japan
Prior art keywords
signal
channel
linear combination
matrix
surround audio
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009502725A
Other languages
English (en)
Other versions
JP2009531735A (ja
Inventor
アニッセ タレブ,
Original Assignee
テレフオンアクチーボラゲット エル エム エリクソン(パブル)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テレフオンアクチーボラゲット エル エム エリクソン(パブル) filed Critical テレフオンアクチーボラゲット エル エム エリクソン(パブル)
Publication of JP2009531735A publication Critical patent/JP2009531735A/ja
Application granted granted Critical
Publication of JP4875142B2 publication Critical patent/JP4875142B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S3/00Systems employing more than two channels, e.g. quadraphonic
    • H04S3/02Systems employing more than two channels, e.g. quadraphonic of the matrix type, i.e. in which input signals are combined algebraically, e.g. after having been phase shifted with respect to each other
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2420/00Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/03Application of parametric coding in stereophonic audio systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Mathematical Physics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Algebra (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Stereophonic System (AREA)

Description

本発明は、マルチチャネル・サラウンドオーディオのビットストリームのデコードに関する。本発明は特に、信号デコードのために空間共分散行列の外挿を使用する方法及び装置に関する。
世界中の映画館では長らく、マルチチャネル・サラウンドオーディオシステムによって、映画の観客は上映されている映画の場面のオーディオ空間の中心に置かれてきた。そして、現実感があり説得力のある「臨場感」が映画の観客に与えられている。このオーディオ技術は、ホーム・サラウンドサウンド・シアターシステムとして一般人の家庭に導入されてきており、今日では、一般人のリビングルームにおいて彼らに「臨場感」をもたらしている。
この技術が使用されるであろう次の分野には、移動無線ユニット又は移動無線端末、特に、セルラ電話、MP3プレーヤ(類似する音楽プレーヤを含む)、及びPDA(携帯情報端末)が含まれる。ここでは、画面が小さいので、サラウンドサウンドのリアルな性質はずっと重要である。しかしながら、この技術を移動端末に導入することは些細なことではない。主要な障害には次に挙げるものが含まれる。
− 多くの場合、特に無線移動チャネルにおいては、利用可能なビットレートが低い
− 移動端末の処理能力はかなり限られている
− 小さな移動端末は一般的に、2つのマイクロスピーカと、イヤプラグ又はヘッドフォンとを有するのみである
このことは、特にセルラ電話などの移動端末にとっては、例えばドルビーデジタル5.1システムにおいて使用されている384kbit/secと比べて、移動端末上でのサラウンドサウンドのソリューションではずっと低いビットレートを使用しなければならないということを意味する。処理能力が限られていることが原因で、移動端末のデコーダはコンピュータにとって最適化されていなければならないし、移動端末のスピーカ構成が原因で、サラウンドサウンドはイヤプラグ又はヘッドフォンを介して伝達されざるを得ない。
ヘッドフォン又はイヤプラグを介してマルチチャネル・サラウンドサウンドを伝達する標準的な方法は、マルチチャネル・サラウンドサウンドに対して3Dオーディオレンダリング又はバイノーラルレンダリングを実行することである。
一般的に、3Dオーディオレンダリングにおいては、オーディオシーンのモデルが使用され、各々の入力モノラル信号は、ヒトの頭、胴、及び耳によってなされる変換をモデル化したフィルタセットを介してフィルタリングされる。これらのフィルタはhead related filters(HRF)と呼ばれ、頭部に関連する(head related)伝達関数(HRTF)を持ち、適切に設計されれば、良好な3Dオーディオシーンの知覚をもたらす。
図1は、マルチチャネル5.1オーディオ信号に対して完全な3Dオーディオレンダリングを行う方法を示す。6つのマルチチャネル信号は、サラウンド・ライト(SR)、ライト(R)、センター(C)、低周波要素(LFE)、レフト(L)、及びサラウンド・レフト(SL)である。
図1に示す例では、センターの信号と低周波信号とが1つの信号に結合されている。従って、このHRFの方法を実装するためには、
Figure 0004875142

Figure 0004875142

Figure 0004875142

Figure 0004875142

Figure 0004875142
と記述される5つの異なるフィルタが必要である。SR信号はフィルタ
Figure 0004875142
及び
Figure 0004875142
に入力され、R信号はフィルタ
Figure 0004875142
及び
Figure 0004875142
に入力され、C信号及びLFE信号はまとめてフィルタ
Figure 0004875142
に入力され、L信号はフィルタ
Figure 0004875142
及び
Figure 0004875142
に入力され、SL信号はフィルタ
Figure 0004875142
及び
Figure 0004875142
に入力される。フィルタ
Figure 0004875142

Figure 0004875142

Figure 0004875142

Figure 0004875142
、及び
Figure 0004875142
から出力される信号は、右合計要素1Rにおいて合計され、不図示の右側ヘッドフォンに提供することを意図した信号をもたらす。フィルタ
Figure 0004875142

Figure 0004875142

Figure 0004875142

Figure 0004875142
、及び
Figure 0004875142
から出力される信号は、左合計要素1Lにおいて合計され、不図示の左側ヘッドフォンに提供することを意図した信号をもたらす。この場合、左右対称の頭部を想定しているので、左耳のためのフィルタと右耳のためのフィルタとは、相似することが想定される。
このようなレンダリングによる3Dの知覚に関する品質は、リスナーが聴いている時のリスナー自身の頭部関連フィルタリングを、HRFがどれくらい厳密にモデル化或いは表現しているかに依存する。従って、良好な或いは極めて良好な品質が望まれる場合、各リスナーに対してHRFを適合或いはパーソナライズすることができれば有益であろう。この適合させてパーソナライズするステップには、知覚される3Dオーディオシーンの品質を精緻化するために、モデリング、計測、及び一般にユーザ依存のチューニングが含まれ得る。
現在の最高水準の標準化されたマルチチャネル・オーディオのコーデックは、受容できる品質を達成するために大量の帯域を必要とし、そのため、無線移動ストリーミングなどのサービスのためにそのようなコーデックを使用することが妨げられている。
例えば、AAC(Advanced Audio Coding)マルチチャネル・コーデックと比べた場合にドルビーデジタル5.1(AC−3コーデック)は複雑性が極めて小さかったとしても、同様の品質をもたらすためにはずっと高いビットレート必要とする。今日に至るまで、AACマルチチャネル・コーデックとAC−3コーデックのいずれのコーデックも、計算上の複雑性とビットレートとに関する高い要求が原因で、無線移動の領域では使用に適さないままである。
バイノーラルのキュー・コーディング(cue coding)の原理に基づく新しいパラメトリック・マルチチャネル・コーデックが開発されてきた。最近標準化されたMPEGパラメトリック・ステレオツールは、ステレオサウンドのエンコードに関する低複雑性/高品質のパラメトリック技術の好例である。マルチチャネル・コーディングにパラメトリック・ステレオを拡張することが、MPEGにおいてSpatial Audioコーディングの名の下で、現在標準化が行われており、これはMPEGサラウンドとしても知られている。
パラメトリック・マルチチャネル・コーディングの背景にある原理は、一般的な事例を示した図2のブロック図により説明して理解することができる。
マルチチャネル・パラメトリック・サラウンドエンコーダとも呼ばれるパラメトリック・サラウンドエンコーダ3は、別個の信号
Figure 0004875142
から
Figure 0004875142
までを含むマルチチャネル・オーディオ信号を受信する。ここで、Nは、入力チャネルの数である。エンコーダ3は次に、ダウンミキシングユニット5において、個別のダウンミキシング信号
Figure 0004875142
から
Figure 0004875142
までを含むダウンミキシング信号を形成する。ダウンミキシングチャネルの数M<Nは、望まれるビットレートと、品質と、Mチャネル・オーディオエンコーダ7の可用性とに依存する。エンコード処理に関する1つの重要な側面は、典型的にはステレオ信号であるがモノラル信号でも構わないダウンミキシング信号が、マルチチャネル・入力信号から導出されることであり、元のマルチチャネル信号ではなくこのダウンミキシング信号が、無線チャネル11を介した伝送のためにオーディオエンコーダ7において圧縮される。加えて、パラメトリック・サラウンドエンコーダは、空間パラメータ推定ユニット9も含む。空間パラメータ推定ユニット9は、入力信号
Figure 0004875142
から
Figure 0004875142
から、例えばチャネル間のレベル差や時間差やコヒーレンスといった空間キュー或いは空間パラメータを算出する。Mチャネルオーディオエンコーダから出力される圧縮オーディオ信号(メイン信号)は、付帯情報を構成する空間パラメータと共に、ここの事例では典型的に移動端末であるものとする受信側へと送信される。
受信側では、パラメトリック・サラウンドデコーダ13が、Mチャネル・オーディオデコーダ15を含む。オーディオデコーダ15は、
Figure 0004875142
から
Figure 0004875142
の符号化バージョンである
Figure 0004875142
から
Figure 0004875142
を生成する。これらは、空間パラメータと共に空間合成ユニット17へと入力される。空間合成ユニット17は、出力信号
Figure 0004875142
から
Figure 0004875142
を生成する。デコード処理は本質的にパラメトリックであるので、デコード信号
Figure 0004875142
から
Figure 0004875142
は必ずしも、元のマルチチャネル信号
Figure 0004875142
から
Figure 0004875142
に客観的に近いとは限らないが、マルチチャネル・オーディオシーンを主観的には忠実に再現するものである。
インタフェース11を介する伝送チャネルの帯域(これは一般的に、比較的小さい)にもよるが、情報の損失が発生する場合があり、それゆえ、受信側での信号
Figure 0004875142
から
Figure 0004875142

Figure 0004875142
から
Figure 0004875142
とが送信側の対応するものと同じになれないということは、明らかである。これらの信号がその対応するものと完全には同等でないとしても、十分に良好な同等物であろう。
一般的に、そのようなサラウンド・エンコーディング処理は、図2のユニットエンコーダ7(コアエンコーダ)及びオーディオデコーダ15(コアデコーダ)において使用される圧縮アルゴリズムから独立している。このコアエンコーディング処理は、例えばAMR−WB+(拡張適応マルチレート・ワイドバンド)、MPEG−1レイヤIII(Moving Picture Experts Group)、MPEG−4 AAC、或いはMPEG−4 High Efficiency AACなどの多数の高性能圧縮アルゴリズムのいずれをも使用することができ、PCM(パルス符号変調)でさえ使用可能である。
一般的に、上述の作業はフーリエ変換などの変換信号領域において、一般的に時間と周波数とを分解して行われる。ユニット9及び17における空間パラメータの推定及び合成が、オーディオエンコーダ7において使用されるものと同種の変換を使用する場合に、このことは特に有益である。
図3は、効率的なパラメトリック・オーディオエンコーダの詳細なブロック図である。
Figure 0004875142
というベクトル形式で記述されるNチャネルの離散時間入力信号が、最初に、変換ユニット21において周波数領域に変換されて信号
Figure 0004875142
がもたらされる。インデックスkは、変換係数或いは周波数サブバンドのインデックスである。インデックスmは、重複したフレームを通った可能性のある入力信号にも関係する、削減された時間領域のインデックスを表す。
信号はその後、ダウンミキシングユニット5においてダウンミキシングされ、Mチャネルのダウンミキシング信号
Figure 0004875142
が生成される。ここで、M<Nである。一連の空間モデルパラメータベクトル
Figure 0004875142
が推定ユニット9において推定される。これは、開ループ方式でも閉ループ方式でも実行可能である。
空間パラメータは、サラウンドサウンド知覚を代表する心理音響学のキュー(cue)から構成される。例えば、これらのパラメータは、送信されるダウンミキシング信号
Figure 0004875142
(或いは、閉ループの場合はデコード信号
Figure 0004875142
)に関連するマルチチャネル・オーディオ信号の空間イメージを捕捉する、チャネル間のレベル差(ILD)、チャネル間の時間差(ITD)、及びチャネル間のコヒーレンス(IC)から構成される。キュー
Figure 0004875142
は、空間パラメータエンコーダ25の前で信号
Figure 0004875142
を生成する空間パラメータ量子化ユニット23などにおいて、極めてコンパクトな形式にエンコードすることができる。Mチャネルのオーディオエンコーダ7は、メインビットストリームを生成し、これはマルチプレクサ27において、パラメータエンコーダによって生成された空間付帯情報と多重化される。マルチプレクサからは、多重化信号が受信側のデマルチプレクサ29へと送信され、受信側では、付帯情報とメインビットストリームとが、図4のブロック図に見られるように復元される。
受信側では、メインビットストリームがデコードされ、受信された空間パラメータを使用して高品質なマルチチャネルの表現が合成される。メインビットストリームは最初にMチャネルのオーディオデコーダ31においてデコードされ、ここから、デコード信号
Figure 0004875142
が空間合成ユニット17へと入力される。空間パラメータを保持する空間付帯情報がデマルチプレクサ29によって抽出され、空間パラメータデコーダ33に提供される。空間パラメータデコーダ33は、デコードパラメータ
Figure 0004875142
を生成して合成ユニット17へ送信する。空間合成ユニットは信号
Figure 0004875142
を生成し、これは、信号の周波数対時間の変換ユニット35に提供され、信号
Figure 0004875142
、即ちマルチチャネル・デコード信号が生成される。
マルチチャネル・サラウンドサウンドについてのパーソナライズされた3Dオーディオレンダリングは、例えば図4を参照して上述したマルチチャネル・デコーダを使用して最初に複数のサラウンドサウンド・チャネルを取得する効率的なパラメトリック・サラウンドデコーダを使用することにより、移動端末のユーザへと伝達可能である。その後、バイノーラルの3Dオーディオレンダリングされたマルチチャネル信号を合成するために図1に示すシステムが使用される。この動作を図5の概略図に示す。
サブバンド領域において空間フィルタリング或いは3Dオーディオフィルタリングを実行する作業も行われている。C.A. Lanciani, and R. W. Schafer, "Application of Head-related Transfer Functions to MPEG Audio Signals", Proc. 31st Symposium on System Theory, March 21-23, 1999, Auburn, AL, U.S.A.は、サブバンド領域においてHRフィルタリング動作を実行することによってMPEG符号化されたモノラル信号をどのようにして空間化することができるかを開示している。A. B. Touimi, M. Emerit and J. M. Pernaux, "Efficient Method for Multiple Compressed Audio Streams Spatialization," Proc. 3rd International Conference on Mobile and Ubiquitous Multimedia, pp. 229-235, October 27-29, 2004, College Park, Maryland, U.S.A.は、スババンド領域において頭部関連(HR)フィルタリングを行うことによって個別にMPEG符号化された多数のモノラル信号をどのようにして空間化することができるかを開示している。このソリューションはHRフィルタの空間的実装に基づいており、全てのHRフィルタは、いくつかの事前定義された基準フィルタの線形結合としてモデル化されている。
3Dオーディオレンダリングのアプリケーションは多様であり、おしゃべり(gamming)、3GPP MBMSやDVB−Hなどの標準を使用したモバイルTVショー、音楽コンサートの鑑賞、映画の視聴、及び、概してマルチチャネル・オーディオコンポーネントを含むマルチメディアサービスが含まれる。
マルチチャネル・サラウンドサウンドをレンダリングする上述の方法は、無線移動ユニットに対して完全に新しいサービスセットを提供することを可能にするので魅力的であるが、多くの欠点を有する。
第1に、デコードと3Dレンダリングとを並行してリアルタイムに実行しなければならないので、そのようなレンダリングに関する計算上の要件は極めて高い。パラメトリック・マルチチャネル・デコーダの複雑性は、全波形マルチチャネル・デコーダと比べれば低いかもしれないが、依然として極めて高く、少なくとも単純なステレオデコーダよりも高い。空間デコーディングの合成ステージは、エンコードチャネルの数に少なくとも比例する複雑性を有する。加えて、3Dレンダリングのフィルタリング動作も、チャネルの数に比例する。
第2の欠点は、中間デコードチャネルを格納するために必要とされるテンポラリメモリに関する。3Dレンダリングの第2のステージで必要なので、これらのチャネルは実際にバッファリングされる。
最後に、主要な欠点のうちの1つは、チャネル間の相関がキャンセルされるかもしれないという事実が原因で、そのような3Dオーディオレンダリングの品質が極めて限定されたものとなり得ることである。チャネル間の相関は、パラメトリック・マルチチャネル・コーディングが信号を合成する方法に起因して、不可欠なものである。
MPEGサラウンドでは、例えば、相関(ICC)及びチャネルレベル差(CLD)は、チャネルのペアの間でしか推定されない。ICCパラメータ及びCLDパラメータは、エンコードされてデコーダへと送信される。デコーダでは、受信したパラメータは、1つの5−1−5構成(本例では、5−1−5構成)について図7に描写するような合成ツリーにおいて使用される。図6は、5−1−5パラメータ化を有するサラウンドシステムの構成を示す。図6から、5−1−5構成におけるCLDパラメータ及びICCパラメータがチャネルのペアの間でのみ推定されることが見られる。
相関(ICC)及びチャネルレベル差(CLD)がチャネルのペアの間でしか推定されないことが原因で、1つ1つの相関全てが得られる訳ではない。その結果、例えば3Dレンダリングとして、個別のチャネルの操作や再利用が妨げられる。事実、例えばRF及びRSという2つの非コーディングチャネルに例えば相関が無く、5−1−5構成を使用してこれらをエンコードする場合、これらの相関に対する制御を行うことができない。というのも、相関はそれ自体としてはデコーダへ送信されることはなく、ツリーの第2レベルでの相関のみが提供されるからである。デコーダ側では、これは2つの相関のあるデコードチャネルという結果に到る。事実デコーダは、ある個別のチャネル間の相関にアクセスできないし、制御することもできない。これらのチャネルは別々の第3レベルのボックスに属する。図6の例では、これらは全て、別々のスピーカ分類に属するチャネルのペアである。このことは図7においても見られる。チャネルのペアは、5−1−5構成において別々の第3レベルのツリーボックス(OTT3,OTT4,OTT2)に属するものである。スピーカの環境において聴く場合にはこれは問題ではないかもしれない。しかしながら、3Dレンダリングにおけるようにチャネルが一緒に結合される場合には、これは問題となって、望まれざるチャネルのキャンセルや過剰な増幅を招来する可能性がある。
本発明の目的は、パラメトリック・マルチチャネル・デコーダにおける、所与のチャネルに関する望まれざるチャネルのキャンセル及び/又は(and/or)望まれざる増幅の可能性に関する欠点を克服することである。このことは、全チャネルの完全な共分散行列に到るために部分的に既知の共分散を外挿することによりデコードマルチチャネル信号の任意の線形結合をレンダリングし、外挿された共分散に基づいて、任意の線形結合の推定値を合成することにより、達成される。
本発明の第1の態様によれば、マルチチャネル・サラウンドオーディオ信号の任意の所定の線形結合を合成する方法が提供される。本方法は、前記任意の所定の線形結合の記述Hを受信するステップと、前記マルチチャネル・サラウンドオーディオ信号のデコードされたダウンミキシング信号を受信するステップと、前記マルチチャネル・オーディオ信号の相関とチャネルレベル差とを含む空間パラメータを受信するステップと、前記マルチチャネル・オーディオ信号の相関とチャネルレベル差とを含む前記受信した空間パラメータに基づいて、部分的に既知の空間共分散を取得するステップと、完全な空間共分散を取得するために、前記部分的に既知の空間共分散を外挿するステップと、前記外挿された完全な空間共分散と、前記受信したデコードされたダウンミキシング信号と、前記任意の所定の線形結合の前記記述とに少なくとも基づいて、前記マルチチャネル・サラウンドオーディオ信号の前記任意の所定の線形結合の推定値を、忠実度の基準に従って形成するステップと、前記マルチチャネル・サラウンドオーディオ信号の前記任意の所定の線形結合の前記推定値に基づいて、マルチチャネル・サラウンドオーディオ信号の前記任意の所定の線形結合を合成するステップと、を備える。
本発明の第2の態様によれば、マルチチャネル・サラウンドオーディオ信号の任意の所定の線形結合を合成する装置が提供される。本装置は、前記マルチチャネル・オーディオ信号の相関とチャネルレベル差とを含む受信した空間パラメータに基づいて、部分的に既知の空間共分散を取得する相関器と、完全な空間共分散を取得するために、前記部分的に既知の空間共分散を外挿する外挿器と、前記外挿された完全な空間共分散と、受信したデコードされたダウンミキシング信号と、前記任意の所定の線形結合を与える係数の記述とに少なくとも基づいて、前記マルチチャネル・サラウンドオーディオ信号の前記任意の所定の線形結合の推定値を、忠実度の基準に従って形成する推定器と、前記マルチチャネル・サラウンドオーディオ信号の前記任意の所定の線形結合の前記推定値に基づいて、マルチチャネル・サラウンドオーディオ信号の前記任意の所定の線形結合を合成する合成器と、を備える。
従って、本発明は、パラメトリック・エンコーダによってエンコードされたサラウンドサウンドを移動デバイスにおいてレンダリングする単純で効率的な方法を可能にする。その利点には、直接マルチチャネル信号に対して3Dレンダリングを使用することによって得られるものに比べて、複雑性が緩和されること、及び、品質が向上することが含まれる。
特に、本発明は、マルチチャネル・サラウンドサウンドに関する任意のバイノーラルのデコードを可能にする。
更なる利点は、作業が周波数領域において行われるために、システムの複雑性が緩和されることである。
更なる利点は、信号のデコーディングステップにおいて出力が直接得られるので、信号のサンプルをバッファリングする必要が無いことである。
本発明の基本的な概念は、受信した空間パラメータに基づいてマルチチャネル・サラウンドサウンドの部分的に既知の空間共分散を取得し、取得した部分的に既知の空間共分散を外挿して完全な空間共分散を取得することである。そして、忠実度の基準に従って、マルチチャネル・サラウンドサウンドオーディオ信号に関する所定の任意の線形結合が、少なくとも外挿された完全な空間共分散と、受信したデコードダウンミキシング信号mと、所定の任意の線形結合の記述Hとに基づいて推定され、その推定に基づいてマルチチャネル・サラウンドオーディオ信号の所定の線形結合を合成することが可能になる。マルチチャネル・サラウンドオーディオ信号の所定の任意の線形結合は、例えば頭部関連フィルタリングやバイノーラルフィルタリングなどのマルチチャネル信号のフィルタリングの、概念上の表現となり得る。それは、反響などの他の音響効果も表現可能である。
従って、本発明は、デコーダのための方法とデコーダのための装置とに関する。この装置が図10aに示されており、相関器902aと、外挿器902bと、推定器903と、合成器904とを備える。相関器902aは、マルチチャネル・サラウンドオーディオ信号の相関(ICC)とチャネルレベル差(CLD)とを含む受信した空間パラメータ901に基づいて、部分的に既知の空間共分散行列911を取得するように構成される。外挿器902bは、適切な外挿方法を使用して、完全な空間共分散行列を取得するために部分的に既知の空間共分散行列を外挿するように構成される。更に、推定器903は、受信したデコードダウンミキシング信号と、所定の任意の線形結合の記述を表現する係数である行列
Figure 0004875142
と組み合わせて、外挿した完全な共分散行列912を使用することにより、忠実度の基準に従って、マルチチャネル・サラウンドオーディオ信号の線形結合913を推定するように構成される。最後に、合成器904は、マルチチャネル・サラウンドオーディオ信号の線形結合に関する前記推定913に基づいて、マルチチャネル・サラウンドオーディオ信号の線形結合914を合成するように構成される。
MPEGサラウンドデコーダに関連して、本発明の好適な実施形態を説明する。なお、MPEGサラウンドデコーダを参照して本発明の好適な実施形態を説明するが、他のパラメトリックデコーダやパラメトリックシステムもまた本発明に関連した使用に適しているであろうことを理解されたい。
本発明の本質から逸脱せずに単純化するために、図7に示す5−1−5MPEGサラウンド構成を考える。この構成は、接続された複数のOTT(one−to−two)ボックスを備える。チャネルレベル差(CLD)及び相関(ICC)と呼ばれる空間パラメータに関する、resのような付帯情報が、OTTボックスに入力される。mは、マルチチャネル信号のダウンミキシング信号である。
マルチチャネル信号の合成は、ハイブリッド周波数領域において行われる。この周波数分割は、ヒトの耳の時間−周波数分析をある程度真似ることを意図しており、非線形である。
以下、全てのハイブリッド・サブバンドにはkというインデックスが付けられ、全てのタイムスロットにはnというインデックスが付けられる。ビットレートの要件を低くするために、MPEGサラウンド空間パラメータは、パラメータ・タイムスロットlと呼ばれるダウンサンプリング・タイムスロットと、処理バンドmと呼ばれるダウンサンプリング・ハイブリッド周波数領域とに関してのみ、定義される。nとlとの間の関係、及びmとkとの間の関係を、図8に示す。このように、周波数バンドm0は周波数バンドk0及びk1を含み、周波数バンドm1は周波数バンドk2及びk3を含む。また、タイムスロットlは、タイムスロットnをダウンサンプリングしたバージョンである。CLDパラメータ及びICCパラメータはそれゆえ、そのパラメータ・タイムスロット及び処理バンドにとって有効である。全ての処理パラメータが、全ての処理バンドについて算出され、続いて、全てのハイブリッドバンドにマッピングされる。その後、全ての処理パラメータが、パラメータ・タイムスロットから全てのタイムスロットnへと内挿される。
図7に示すデコーダのOTTボックスは、図9aに示すように視覚化することができる。
この図解に基づけば、任意のOTTボックスに関する出力は、2つの元のチャネル
Figure 0004875142
及び
Figure 0004875142
の間の相関を復元して2つの推定チャネル
Figure 0004875142
及び
Figure 0004875142
にすることを意図したものである。
エンコーダにおいて行われる推定パートの検査によって、このことをより良く理解することができるであろう。図9bに示すように、エンコーダは、OTTボックスを逆にしたものであるR−OTTボックスを含む。R−OTTボックスは、ステレオ信号を変換して、モノラル信号と、これに組み合わされる、各入力信号間の空間キューを表現するパラメータ抽出とにする。これらのR−OTTボックスそれぞれへの入力信号は、元のチャネル
Figure 0004875142
及び
Figure 0004875142
である。各R−OTTボックスは、次式に示すように、入力信号に関して対応する時間/周波数のタイルの電力の割合を算出する(これは、「Channel Level Difference」又はCLDと記述される)。
Figure 0004875142
そして、各R−OTTボックスは、次式の相互相関で示されるように、入力信号に関して対応する時間/周波数のタイルの同様の尺度を算出する(これは、「Inter−Channel Correlation」又はICCと記述される)。
Figure 0004875142
加えて、R−OTTボックスは、下記のようにモノラル信号を生成する。
Figure 0004875142
ここで、g,gは適切なゲインである。g=g=1/2であれば、モノラル信号が生成される。他の選択肢は、g,gを次のように選択することである。
Figure 0004875142
これは次式を使用して実現される。
Figure 0004875142
以下、上の式が成立して、R−OTTxボックスの出力エネルギーが入力エネルギーの合計に等しいものとする。
R−OTTボックスに入力されるあらゆる2つのチャネル間の相関(ICC)及びチャネルレベル差(CLD)は、量子符号化されてデコーダへと送信される。
本発明のこの実施形態は、空間共分散行列を構築するために、各(R)−OTTボックスに対応するCLD及びICCを使用するが、相関及びチャネルレベル差に関する他の尺度を使用してもよい。
その結果、あらゆる2つのチャネル間の共分散行列は、下記のようになる。
Figure 0004875142
MPEGサラウンドデコーダでは実数の相関のみを利用可能なので、一般性を失うことなく、実数の相関行列を仮定することができる。それゆえ、OTTボックスの各出力チャネル(これはR−OTTボックスへの入力である)は、下記の共分散行列を持つものとして示すことができる。
Figure 0004875142
ここで、
Figure 0004875142
はOTTxボックスの入力エネルギー(或いは、R−OTTxボックスの出力エネルギー)を意味し、方程式の右手側の第2項は表記を単純化するために示されている。
OTT及びOTTの出力に対応するチャネルベクトルが
Figure 0004875142
のように示される場合、これらの表記に従い、5−1−5MPEGサラウンドの事例における空間共分散行列は、ブロック行列で記述可能であり、その行列は以下に示すように部分的に未知である。
Figure 0004875142
未知の2x2行列を「?」で示している。従って、空間パラメータCLD及びICCに基づいて、部分的に既知の空間共分散行列を取得することができる。
更に、OTT及びOTTの入力は相互に関連し、共分散行列
Figure 0004875142
によって表現される。この場合、以下の通り、両方のエネルギー、即ち
Figure 0004875142
及び
Figure 0004875142
を関連付けるのは容易である。
Figure 0004875142
それゆえ、最初の4つのチャネルに関する共分散行列は、次のように記述することができる。
Figure 0004875142
MPEGサラウンドの標準では、ρ=ICCの値は存在せず、1に等しいものとして概念的に仮定される。即ち、センターとLFEとは、倍率の係数を除けば同一である。しかしながら、汎用的な開発を行うために、この仮定は行わないものとする。
最後の行列方程式は、多数の未知の空間チャネル間相関が存在するということを示す。即ち、
Figure 0004875142

Figure 0004875142

Figure 0004875142

Figure 0004875142
であるが、OTT及びOTTへの2つの入力の相互相関は、ICC=ρに等しい。そうであるならば、先の行列方程式に従えば、次式のようになる。
Figure 0004875142
従って、失われている量が次式を満足しなければならないということが即座に理解できよう。
Figure 0004875142
この制約単独では全ての失われた空間変数を決定することができないということも明らかである。
個別のチャネルを更に操作するために、本発明のこの実施形態は、この相関合計の制約を維持したまま、失われた相関量を外挿する。なお、そのような行列を外挿することは、結果として得られる外挿行列が対称的で符号が正に定まるようなものでなければならない。これは事実、共分散行列として受容できるあらゆる行列に対する必要条件である。
完全な共分散行列を取得するために部分的に既知の共分散行列を外挿するために、いくつかの技術を文献から使用することができる。ある方法やその他の方法を使用することは、本発明の範囲内である。
好適な実施形態によれば、外挿法として最大エントロピー原理を使用する。このことは容易な実装につながり、オーディオ品質という点で極めて良好な性能を示す。
従って、外挿される相関量は、共分散行列の行列式を最大化するように、即ち次式のように、選択される。
Figure 0004875142
これは、下記の制約の下でのものである。
Figure 0004875142
これは凸最適化問題であり、閉形式解(closed form solution)が存在する。表記を単純化するために、汎用共分散行列のためのソリューションを導入する。
Figure 0004875142
最初に、Γの行列式を最大化することは、下記の行列の行列式を最大化することと同等でもあるということに注意されたい。
Figure 0004875142
これはまた、センターチャネル(C及びLFE)及びフロントチャネル(FL及びFR)から取得される、モノラルチャネル及びサイドチャネルの共分散行列を評価することとも同等であり、即ち次式の通りである。
Figure 0004875142
ここで明らかなように、行列Γに関する制約は容易に次式のように変換される。
Figure 0004875142
残りの未知の相関は
Figure 0004875142
,及び
Figure 0004875142
であり、
Figure 0004875142
は、Γ’の行列式の最大化を用いて外挿され、算出ステップは極めて煩雑であるが、その結果は最終的に極めて単純であり、下記の閉形式の式になる。
Figure 0004875142
これらの量はそれゆえ、入手可能なデータから極めて容易に外挿可能である。最後に、完全な外挿された共分散行列Γについて、以下のように単純な行列乗算が必要である。
Figure 0004875142
これらのステップは、更なる2つのチャネル、即ちLS及びRSの全体の共分散行列を外挿するためにも適用される。次式のように、全体が外挿された共分散行列が導かれる。
Figure 0004875142
同じアプローチを用いることにより、即ち複数のチャネルを仮想的なモノラルチャネルとサイドチャネルとに変換することにより、外挿される共分散行列のための閉形式の式を導出することは極めて容易である。
ここまでで提案してきたのは、チャネル[lf rf c lfe]に関する部分的な共分散行列を最初に外挿してから全チャネルの全体の共分散行列を外挿するという、2ステップのアプローチである。しかしながら、全体の不完全な共分散行列を算出してから全ての相関を全体的に外挿するという、他のアプローチもあるだろう。この2つのアプローチは、概念的には同等である。しかしながら、2番目のアプローチはより効果的である。というのも、前者は2ステップのアプローチを暗示する一方で、2番目のアプローチは全ての可能性のある相関を全体的に外挿するからである。
両方のアプローチは実装に関して類似しており、最大エントロピー(即ち、行列式の最大化)のアプローチに基づいている。
なお、全ての量は時間と周波数の両方に依存する。明瞭化のためにインデックスを付けることは省略した。時間のインデックスは、パラメータ・タイムスロットlに対応し、周波数のインデックスは処理バンドのインデックスmに対応する。最後に、結果として得られる全ての相関は、
Figure 0004875142
によって表現されるモノラルのダウンミキシング信号のエネルギーに対して相対的に定義されるであろうということを指摘しておく。このことは事実、
Figure 0004875142
という項が存在することが原因で、あらゆるOTTxボックスに対して成立する。
以下、モノラルのダウンミキシングエネルギーの表記を単純化するために、正規化された外挿された共分散行列を以下のように定義する。
Figure 0004875142
外挿された共分散行列に基づいて任意のチャネルを推定して合成することを以下に説明する。
元のチャネルの所定の任意の線形結合として定義される任意のチャネルが、例えば以下のようにデコード/合成されるものとする。
Figure 0004875142
ここで、行列
Figure 0004875142
は、所定の任意の線形結合の記述を表現する係数の行列を示し、
Figure 0004875142
は、望まれる線形結合、即ち望まれる出力信号である。先行技術に示される技術では、デコーダの出力の単純な線形結合として
Figure 0004875142
を直接算出することになろう。即ち、周波数領域において行列
Figure 0004875142
をデコードチャネル
Figure 0004875142
に適用することになろう。形式上、これは以下のように記述されるであろう。
Figure 0004875142
これは、出力に関する品質を制限し、望まれないチャネルの相関を引き起こしたり、可能性として望まれないチャネルのキャンセルを引き起こしたりすることになろう。
前述したように、各R−OTTボックスの出力は線形結合をもたらす。それゆえ、ダウンミキシング信号が実際に全てのチャネルの線形結合であるということは容易に理解できる。
Figure 0004875142
と記述されるダウンミキシング信号はそれゆえ、次式のように記述できる。
Figure 0004875142
係数である
Figure 0004875142
行列は既知であり、受信したCLDxパラメータにのみ依存する。単一のチャネルのダウンミキシングの場合、即ちダウンミキシング信号がモノラルのみの信号から構成される場合、行列
Figure 0004875142
は、上の方程式に示すように実際に行ベクトルである。従って、この問題は最小平均平方問題の観点で述べることもできるし、或いは一般的には、加重最小平均平方問題として述べることもできる。
モノラルのダウンミキシング信号
Figure 0004875142
を考えると、チャネル
Figure 0004875142
の線形推定は、次式のようにすることができる。
Figure 0004875142
ここで、
Figure 0004875142
は、本事例ではモノラルチャネル
Figure 0004875142
であるダウンミキシングチャネルに適用された場合などに最適化される必要のある行列であり、元の線形結合である
Figure 0004875142
で得られたものにできるだけ近い結果をもたらさなければならない。
その目標はそれゆえ、何らかの忠実度の基準(本事例では平均平方誤差基準)に関して誤差
Figure 0004875142
を最小化することである。このことは、次式を最小化することにつながる。
Figure 0004875142
この行列が静的であると仮定すれば、即ち、平均化の演算子からこの行列を除外できると仮定すれば、この問題に対する平均平方解は
Figure 0004875142
に関して容易に解くことができ、次式の結果になる。
Figure 0004875142
行列
Figure 0004875142
は、チャネルの共分散行列を示す。即ち、次式の通りである。
Figure 0004875142
これは、前述したように、デコーダでは入手できないかもしれないが、先に述べた技法に従って外挿される。ここでは、共分散行列を複素数として示す。しかしながら、実数の相関のみが使用されるので、その結果は実数の共分散行列についても依然として有効であることを容易に示すことができる。
ここまでで示してきたのは、全てのハイブリッド・サブバンドkと全てのタイムスロットnとについて最小平均平方が推定されるということである。ある程度の数のタイムスロットについて平均平方の推定値を算出して、これを全てのタイムスロットに拡張するために外挿を用いれば、実際に、かなりの量の複雑性を減少させることができる。例えば、パラメータのために使用されるものと同じタイムスロットに対して推定値をマッピングすること、即ち、パラメータ・タイムスロットのインデックスlに対してのみ共分散行列を算出することは、有益である。複雑性の緩和に関する同様の技法は、パラメータ・バンドのインデックスmに対してのみ算出される平均平方推定値をマッピングすることによって使用することもできる。しかしながら、これは一般的には、時間のインデックスに対してするほどは直接的でない。というのも、行列
Figure 0004875142
の動きを効率的に表現するためには、ある程度の量の周波数分解能が必要とされるであろうからである。以下、サブサンプリングされたパラメータ領域、即ち、l,mについて考える。
既に前述したように、共分散行列
Figure 0004875142
は、モノラルのダウンミキシング信号、即ち
Figure 0004875142
のエネルギーに対して相対的に既知であるに過ぎない。この制約のために、全てのl,mについて
Figure 0004875142
であることを容易に示すことができる。最小平均平方推定値はそれゆえ、次式のように記述できる。
Figure 0004875142
なお、
Figure 0004875142
は、デコーダで入手可能な既知の量にのみ依存する。実際、
Figure 0004875142
は外部入力であり、望まれる線形結合を記述する行列である一方、
Figure 0004875142
及び
Figure 0004875142
は、受信したビットストリームに含まれる空間パラメータから導出される。
最小平方推定値はその性質上、エネルギー損失を発生させるものであり、これは合成チャネルの品質に悪影響を与える可能性がある。エネルギー損失は、デコード信号に適用されるモデルと本当の信号との間の不適合に起因する。最小平方の技術用語では、これは雑音部分空間と呼ばれる。空間聴覚においては、この用語は、拡散音場と呼ばれる。即ち、マルチチャネル信号の一部が無相関(uncorrelated)であるか拡散している。これを回避するために、雑音部分空間及び拡散音場を満たしてそれによって望まれる信号に心理音響学的に近似する推定信号を取得するために、多数の非相関信号(decorrelated signals)が使用される。
最小平均平方の直交性質が原因で、望まれる信号のエネルギーは次式のように表現できる。
Figure 0004875142
従って、l,m領域における誤差に関する正規化された共分散行列は、次式のように表現できる。
Figure 0004875142
望まれる信号
Figure 0004875142
と同じ心理音響学的性質を持つ推定信号
Figure 0004875142
を生成するために、
Figure 0004875142
から独立した誤差信号が生成される。誤差信号は、本当の誤差信号である
Figure 0004875142
の共分散行列に近い共分散行列を持たなければならず、更に、平均平方推定値
Figure 0004875142
とは無相関でなければならない。
Figure 0004875142
と記述される人工的な誤差信号が次いで、平均平方誤差推定値に加算され、最終的な推定値である
Figure 0004875142
が形成される。
誤差信号に近似する信号を生成する1つの方法は、モノラルのダウンミキシング信号に対して適用される非相関の使用を介するものである。これにより、誤差信号が平均平方推定値とは無相関になることが保証される。というのも、
Figure 0004875142
はモノラルのダウンミキシング信号に直接依存するからである。しかしながら、それ自体では不十分であり、非相関は、その共分散行列が本当の誤差信号である
Figure 0004875142
の相関に適合するように空間的に形成されている必要がある。
これを行う単純な方法は、生成された非相関信号がそれら自体の間でも無相関なようにし、
Figure 0004875142
と呼ばれる相関形成行列を適用することである。
Figure 0004875142
が非相関のベクトル出力を記述するものであれば、形成行列
Figure 0004875142
は次式を満足しなければならない。
Figure 0004875142
しかしながら、
Figure 0004875142
は正規化された共分散行列としてのみ定義されているので、(モノラルのダウンミキシング信号のエネルギーと相対的に)非相関は、モノラルのダウンミキシングエネルギーの共分散行列に対して相対的に定義された共分散行列も持たなければならない。
先行技術に従えば、これを確かにする単純な方法は、全通過フィルタリング非相関を使用することであり、こうして、(モノラルの信号エネルギーに関して)正規化された、
Figure 0004875142
と記述される共分散行列、即ち、単位行列が導出され、形成行列
Figure 0004875142
を適用する。
Figure 0004875142
の単純なコレスキー(Cholesky)分解が適切な行列
Figure 0004875142
を生成できるということが、容易に理解できる。もちろん、他の分解も可能であり、例えば、正規化された誤差共分散行列のアイゲンベクトル(Eigen-vectors)及びアイゲン値を使用することができる。加えて、パラメータ領域、即ちl,mにおいてのみ
Figure 0004875142
を評価することにより、利点が得られる。
最後に、全体の合成は次式のように記述することができる。
Figure 0004875142
ここで、行列
Figure 0004875142
は、時間領域(即ち、lからn)において行列
Figure 0004875142
を外挿して、サブバンド・パラメータバンドをハイブリッドバンド(即ち、mからk)にマッピングすることにより、得られる。
そして同様に、行列
Figure 0004875142
は、次式によって定義される行列
Figure 0004875142
を外挿してマッピングすることにより、得られる。
Figure 0004875142
図10bは、上述した本発明の実施形態に従って任意のチャネルを合成するために使用される装置を要約して示す。参照符号は、図10aのそれに対応する。本実施形態において、推定器903は、マルチチャネル・サラウンドオーディオ信号の推定線形結合とマルチチャネル・サラウンドオーディオ信号の任意の所定の線形結合との間の平均平方誤差(即ち、
Figure 0004875142
)を最小化することによって行列Qを決定するように構成された、ユニット905を備える。なお、マルチチャネル・サラウンドサウンド信号の任意の所定の線形結合にアクセス可能である必要は無く、マルチチャネル・サラウンドサウンド信号の線形結合の推定値を形成するためには、元のマルチチャネル信号の共分散行列に関する知識があれば十分である。後者のものは、部分的に既知の共分散行列を形成して、最大エントロピー原理などの原理を用いてこれを外挿することを通して、受信したビットストリームから得られる。
また、推定器903は、マルチチャネル・サラウンドオーディオ信号の線形結合の推定値913を取得するために、
Figure 0004875142
にダウンミキシング信号を乗ずるように構成された更なるユニット907を備える。推定器903は、非相関信号の量を示す非相関信号形成行列
Figure 0004875142
を決定するように適合されたユニット905を更に備える。本実施形態では、合成器904は、908,909で
Figure 0004875142
を算出し、次いで
Figure 0004875142
を算出することにより、線形結合を合成するように構成される。ここで、
Figure 0004875142
は、各周波数バンド及び各タイムスロットのためにエネルギー損失を補償するための「非相関信号」である。更に、本装置は、内挿及びマッピングのユニット906も備える。このユニットは、時間領域において行列
Figure 0004875142
を内挿し、ダウンサンプリングされた周波数バンドmをハイブリッドバンドkにマッピングし、時間領域において行列
Figure 0004875142
を内挿し、ダウンサンプリングされた周波数バンドmをハイブリッドバンドkにマッピングするように構成可能である。外挿器902bは、上述したように、外挿相関量が所定の条件下で共分散行列の行列式を最大化するように外挿相関量を選択することによって、最大エントロピー原理を使用することができる。
ここで図11に移ると、図11は、本発明の実施形態のフローチャートを示す。本方法は、以下のステップを備える。
1000. 任意の所定の線形結合の記述Hを受信する。
1001. マルチチャネル・サラウンドオーディオ信号のデコードダウンミキシング信号を受信する。
1002. マルチチャネル・オーディオ信号の相関とチャネルレベル差とを含む空間パラメータを受信する。
1003. 受信した、マルチチャネル・オーディオ信号の相関とチャネルレベル差とを含む空間パラメータに基づいて、部分的に既知の空間共分散行列を取得する。
1004. 部分的に既知の空間共分散行列を外挿して、完全な空間共分散行列を取得する。
1005. 外挿された完全な空間共分散行列と、受信したデコードダウンミキシング信号と、任意の所定の線形結合の前記記述とに少なくとも基づいて、マルチチャネル・サラウンドオーディオ信号の前記任意の所定の線形結合の推定値を、忠実度の基準に従って形成する。
1006. マルチチャネル・サラウンドオーディオ信号の任意の所定の線形結合の前記推定値に基づいて、マルチチャネル・サラウンドオーディオ信号の前記任意の所定の線形結合を合成する。
ステップ1005は下記のステップを更に備えてもよい。
1005a. マルチチャネル・サラウンドオーディオ信号の推定線形結合と、マルチチャネル・サラウンドオーディオ信号の任意の所定の線形結合との間の、平均平方誤差を最小化することにより、行列Qを決定する。
1005b. Qにダウンミキシング信号を乗じて、マルチチャネル・サラウンドオーディオ信号の任意の所定の線形結合の推定値を取得する。
1005c. 非相関信号の量を示す非相関信号形成行列Zを決定する。
1005d. 時間領域においてQ及びZを内挿する。
1005e. ダウンサンプリング周波数バンドmをハイブリッドバンドkにマッピングする。
本方法は、移動端末のデコーダ内に実装することができる。
本発明は、上述した好適な実施形態に限定されない。多様な代替例、変形例、及び均等物を使用することができる。それゆえ、上述の実施形態は、本発明の範囲を限定するものとして捉えられてはならない。本発明の範囲は、添付の請求の範囲によって規定される。
<略語>
AAC Advanced Audio Coding
AMR−WB+ 拡張適応マルチレート・ワイドバンド
C センター
CLD チャネルレベル差
HR 頭部関連
HRF 頭部関連フィルタ
HRTF 頭部関連伝達関数
IC チャネル間コヒーレンス
ICC 相関
ILD チャネル間レベル差
ITD チャネル間時間差
L レフト
LFE 低周波要素
MPEG Moving Picture Experts Group
OTT One−to−two
PCM パルス符号変調
PDA 携帯情報端末
R ライト
R−OTT Reversed one−to−two
SL サラウンド・レフト
SR サラウンド・ライト
5.1オーディオ信号についての可能な3Dオーディオレンダリング又はバイノーラルレンダリングを示すブロック図である。 パラメトリック・マルチチャネル・コーディングシステム及びパラメトリック・マルチチャネル・デコーディングシステムの原理に関する高レベルの説明図である。 パラメトリック・マルチチャネル・オーディオエンコーダの詳細な説明図である。 パラメトリック・マルチチャネル・オーディオデコーダの詳細な説明図である。 デコードされたマルチチャネル信号の3Dレンダリングを示す図である。 5−1−5構成のための空間オーディオ処理のパラメータによる表示である。 5−1−5構成のための空間オーディオ処理のツリー構造表示である。 サブバンドkとハイブリッド・サブバンドmとの間の関係と、タイムスロットnとダウンサンプリング・タイムスロットlとの間の関係とを示す図である。 図7に示すOTTボックスを示す図である。 対応するR−OTTボックスを示す図である。 本発明に従う装置を示す図である。 本発明の実施形態を示す図である。 本発明の実施形態に従う方法を示すフローチャートである。

Claims (20)

  1. マルチチャネル・サラウンドオーディオ信号の所定の線形結合を合成する方法であって、
    前記所定の線形結合の記述Hを受信するステップ(1000)と、
    前記マルチチャネル・サラウンドオーディオ信号のデコードされたダウンミキシング信号を受信するステップ(1001)と、
    前記マルチチャネル・サラウンドオーディオ信号の相関とチャネルレベル差とを含む空間パラメータを受信するステップ(1002)と、
    前記マルチチャネル・サラウンドオーディオ信号の相関とチャネルレベル差とを含む前記受信した空間パラメータに基づいて、前記マルチチャネル・サラウンドオーディオ信号の部分的に既知の空間共分散行列を取得するステップ(1003)と、
    前記マルチチャネル・サラウンドオーディオ信号の完全な空間共分散行列を取得するために、前記部分的に既知の空間共分散行列を外挿するステップ(1004)と、
    前記外挿された完全な空間共分散行列と、前記受信したデコードされたダウンミキシング信号と、前記所定の線形結合の前記記述Hとに少なくとも基づいて、前記マルチチャネル・サラウンドオーディオ信号の前記所定の線形結合の推定を、忠実度の基準に従って形成するステップ(1005)と、
    前記マルチチャネル・サラウンドオーディオ信号の前記所定の線形結合の推定に基づいて、マルチチャネル・サラウンドオーディオ信号の前記所定の線形結合を合成するステップ(1006)と、
    を備えることを特徴とする方法。
  2. 前記形成するステップは、
    前記マルチチャネル・サラウンドオーディオ信号の前記線形結合の推定と、前記マルチチャネル・サラウンドオーディオ信号の前記所定の線形結合との間の、平均平方誤差を最小化することにより、行列Qを決定するステップと、
    マルチチャネル・サラウンドオーディオ信号の前記所定の線形結合の推定を取得するために、前記行列Qに前記ダウンミキシング信号を乗じるステップと、
    を更に備えることを特徴とする請求項1に記載の方法。
  3. 前記形成するステップは、非相関信号の量を示す非相関信号形成する行列Zを決定するステップを更に備えることを特徴とする請求項2に記載の方法。
  4. 前記合成するステップは、エネルギー損失を補償するために、各周波数バンド及び各タイムスロットに対して、
    Q*m+Z*「非相関信号」
    を実行するステップを備える、ことを特徴とする請求項3に記載の方法。
  5. 前記部分的に既知の共分散行列は、ダウンサンプリングされたタイムスロットlにおいてダウンサンプリングされた周波数バンドmに関して、外挿されることを特徴とする請求項4に記載の方法。
  6. 前記部分的に既知の共分散行列は、ダウンサンプリングされたタイムスロットlにおいてダウンサンプリングされた周波数バンドmに関して、外挿されることを特徴とする請求項2又は3に記載の方法。
  7. 時間領域において前記行列Qを内挿するステップと、
    ダウンサンプリングされた周波数バンドmをハイブリッドバンドkにマッピングするステップと、
    を更に備えることを特徴とする請求項5に記載の方法。
  8. 時間領域において前記行列Zを内挿するステップと、
    ダウンサンプリングされた周波数バンドmをハイブリッドバンドkにマッピングするステップと、
    を更に備えることを特徴とする請求項6に記載の方法。
  9. 前記外挿するステップは、外挿された相関量が、最大エントロピー原理を使用することによって、所定の制約の下で共分散行列の行列式を最大化させる外挿された相関量を選択することにより、実行されることを特徴とする請求項1乃至8のいずれか1項に記載の方法。
  10. 移動端末のデコーダ内に実装されていることを特徴とする請求項1乃至9のいずれか1項に記載の方法。
  11. マルチチャネル・サラウンドオーディオ信号の所定の線形結合を合成する装置であって、
    前記マルチチャネル・サラウンドオーディオ信号の相関とチャネルレベル差とを含む受信した空間パラメータに基づいて、部分的に既知の空間共分散行列を取得する相関器と、
    前記マルチチャネル・サラウンドオーディオ信号の完全な空間共分散行列を取得するために、前記部分的に既知の空間共分散行列を外挿する外挿器と、
    前記外挿された完全な空間共分散行列と、受信したデコードされたダウンミキシング信号と、前記所定の線形結合を与える係数の記述を表現するHとに少なくとも基づいて、前記マルチチャネル・サラウンドオーディオ信号の前記所定の線形結合の推定を、忠実度の基準に従って形成する推定器と、
    前記マルチチャネル・サラウンドオーディオ信号の前記所定の線形結合の推定に基づいて、マルチチャネル・サラウンドオーディオ信号の前記所定の線形結合を合成する合成器と、
    を備えることを特徴とする装置。
  12. 前記推定器は、
    前記マルチチャネル・サラウンドオーディオ信号の前記線形結合の推定と、前記マルチチャネル・サラウンドオーディオ信号の前記所定の線形結合との間の、平均平方誤差を最小化することにより、行列Qを決定する手段と、
    マルチチャネル・サラウンドオーディオ信号の前記所定の線形結合の推定を取得するために、前記行列Qに前記ダウンミキシング信号を乗じる手段と、
    を更に備えることを特徴とする請求項11に記載の装置。
  13. 前記推定器は、非相関信号の量を示す非相関信号形成する行列Zを決定する手段を更に備えることを特徴とする請求項12に記載の装置。
  14. 前記合成器は、エネルギー損失を補償するために、各周波数バンド及び各タイムスロットに対して、
    Q*m+Z*「非相関信号」
    を実行する手段を備える、ことを特徴とする請求項13に記載の装置。
  15. 前記外挿器は、ダウンサンプリングされたタイムスロットlにおいてダウンサンプリングされた周波数バンドmに関して前記部分的に既知の共分散行列を外挿する手段を備える、ことを特徴とする請求項14に記載の装置。
  16. 前記外挿器は、ダウンサンプリングされたタイムスロットlにおいてダウンサンプリングされた周波数バンドmに関して前記部分的に既知の共分散行列を外挿する手段を備えることを特徴とする請求項12又は13に記載の装置。
  17. 前記推定器は、時間領域において前記行列Qを内挿し、且つダウンサンプリングされた周波数バンドmをハイブリッドバンドkにマッピングする手段を更に備えることを特徴とする請求項15に記載の装置。
  18. 前記推定器は、時間領域において前記行列Zを内挿し、且つダウンサンプリングされた周波数バンドmをハイブリッドバンドkにマッピングする手段を更に備えることを特徴とする請求項16に記載の装置。
  19. 前記外挿器は、最大エントロピー原理を使用することによって、所定の制約の下で共分散行列の行列式を最大化させる外挿された相関量を選択することにより、前記外挿を実行する手段を備えることを特徴とする請求項11乃至18のいずれか1項に記載の装置。
  20. 移動端末のデコーダ内に実装されていることを特徴とする請求項11乃至19のいずれか1項に記載の装置。
JP2009502725A 2006-03-28 2007-03-28 マルチチャネル・サラウンドサウンドのためのデコーダのための方法及び装置 Expired - Fee Related JP4875142B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US74387106P 2006-03-28 2006-03-28
US60/743,871 2006-03-28
PCT/SE2007/050194 WO2007111568A2 (en) 2006-03-28 2007-03-28 Method and arrangement for a decoder for multi-channel surround sound

Publications (2)

Publication Number Publication Date
JP2009531735A JP2009531735A (ja) 2009-09-03
JP4875142B2 true JP4875142B2 (ja) 2012-02-15

Family

ID=38541553

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009502725A Expired - Fee Related JP4875142B2 (ja) 2006-03-28 2007-03-28 マルチチャネル・サラウンドサウンドのためのデコーダのための方法及び装置

Country Status (6)

Country Link
US (1) US8126152B2 (ja)
EP (1) EP2000001B1 (ja)
JP (1) JP4875142B2 (ja)
CN (1) CN101411214B (ja)
AT (1) ATE538604T1 (ja)
WO (1) WO2007111568A2 (ja)

Families Citing this family (48)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4988716B2 (ja) 2005-05-26 2012-08-01 エルジー エレクトロニクス インコーポレイティド オーディオ信号のデコーディング方法及び装置
EP1899958B1 (en) * 2005-05-26 2013-08-07 LG Electronics Inc. Method and apparatus for decoding an audio signal
EP1938312A4 (en) * 2005-09-14 2010-01-20 Lg Electronics Inc METHOD AND APPARATUS FOR DECODING AN AUDIO SIGNAL
WO2007083953A1 (en) * 2006-01-19 2007-07-26 Lg Electronics Inc. Method and apparatus for processing a media signal
AU2007212845B2 (en) * 2006-02-07 2010-01-28 Lg Electronics Inc. Apparatus and method for encoding/decoding signal
WO2008046530A2 (en) * 2006-10-16 2008-04-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for multi -channel parameter transformation
CN101529501B (zh) * 2006-10-16 2013-08-07 杜比国际公司 音频对象编码器和音频对象编码方法
KR101061129B1 (ko) * 2008-04-24 2011-08-31 엘지전자 주식회사 오디오 신호의 처리 방법 및 이의 장치
EP2144230A1 (en) 2008-07-11 2010-01-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Low bitrate audio encoding/decoding scheme having cascaded switches
US8705749B2 (en) 2008-08-14 2014-04-22 Dolby Laboratories Licensing Corporation Audio signal transformatting
CN101673545B (zh) * 2008-09-12 2011-11-16 华为技术有限公司 一种编解码方法及装置
BR122021008665B1 (pt) 2009-10-16 2022-01-18 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Mecanismo e método para fornecer um ou mais parâmetros ajustados para a provisão de uma representação de sinal upmix com base em uma representação de sinal downmix e uma informação lateral paramétrica associada com a representação de sinal downmix, usando um valor médio
EP2323130A1 (en) 2009-11-12 2011-05-18 Koninklijke Philips Electronics N.V. Parametric encoding and decoding
WO2011061174A1 (en) 2009-11-20 2011-05-26 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus for providing an upmix signal representation on the basis of the downmix signal representation, apparatus for providing a bitstream representing a multi-channel audio signal, methods, computer programs and bitstream representing a multi-channel audio signal using a linear combination parameter
KR101410575B1 (ko) * 2010-02-24 2014-06-23 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 강화 다운믹스 신호를 생성하는 장치, 강화 다운믹스 신호를 생성하는 방법 및 컴퓨터 프로그램
WO2011107951A1 (en) * 2010-03-02 2011-09-09 Nokia Corporation Method and apparatus for upmixing a two-channel audio signal
KR101666465B1 (ko) * 2010-07-22 2016-10-17 삼성전자주식회사 다채널 오디오 신호 부호화/복호화 장치 및 방법
US8908874B2 (en) 2010-09-08 2014-12-09 Dts, Inc. Spatial audio encoding and reproduction
KR101697550B1 (ko) * 2010-09-16 2017-02-02 삼성전자주식회사 멀티채널 오디오 대역폭 확장 장치 및 방법
KR20120038311A (ko) * 2010-10-13 2012-04-23 삼성전자주식회사 공간 파라미터 부호화 장치 및 방법,그리고 공간 파라미터 복호화 장치 및 방법
US9078077B2 (en) 2010-10-21 2015-07-07 Bose Corporation Estimation of synthetic audio prototypes with frequency-based input signal decomposition
US8675881B2 (en) * 2010-10-21 2014-03-18 Bose Corporation Estimation of synthetic audio prototypes
JP6088444B2 (ja) * 2011-03-16 2017-03-01 ディーティーエス・インコーポレイテッドDTS,Inc. 3次元オーディオサウンドトラックの符号化及び復号
KR20120128542A (ko) * 2011-05-11 2012-11-27 삼성전자주식회사 멀티 채널 에코 제거를 위한 멀티 채널 비-상관 처리 방법 및 장치
EP2560161A1 (en) 2011-08-17 2013-02-20 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Optimal mixing matrices and usage of decorrelators in spatial audio processing
EP2856776B1 (en) * 2012-05-29 2019-03-27 Nokia Technologies Oy Stereo audio signal encoder
RU2667630C2 (ru) 2013-05-16 2018-09-21 Конинклейке Филипс Н.В. Устройство аудиообработки и способ для этого
EP3022949B1 (en) * 2013-07-22 2017-10-18 Fraunhofer Gesellschaft zur Förderung der angewandten Forschung E.V. Multi-channel audio decoder, multi-channel audio encoder, methods, computer program and encoded audio representation using a decorrelation of rendered audio signals
EP2830051A3 (en) 2013-07-22 2015-03-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio encoder, audio decoder, methods and computer program using jointly encoded residual signals
EP2830336A3 (en) * 2013-07-22 2015-03-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Renderer controlled spatial upmix
EP2830334A1 (en) 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Multi-channel audio decoder, multi-channel audio encoder, methods, computer program and encoded audio representation using a decorrelation of rendered audio signals
TWI847206B (zh) 2013-09-12 2024-07-01 瑞典商杜比國際公司 多聲道音訊系統中之解碼方法、解碼裝置、包含用於執行解碼方法的指令之非暫態電腦可讀取的媒體之電腦程式產品、包含解碼裝置的音訊系統
US9779739B2 (en) 2014-03-20 2017-10-03 Dts, Inc. Residual encoding in an object-based audio system
WO2016003206A1 (ko) * 2014-07-01 2016-01-07 한국전자통신연구원 다채널 오디오 신호 처리 방법 및 장치
CN110992964B (zh) 2014-07-01 2023-10-13 韩国电子通信研究院 处理多信道音频信号的方法和装置
US9774974B2 (en) 2014-09-24 2017-09-26 Electronics And Telecommunications Research Institute Audio metadata providing apparatus and method, and multichannel audio data playback apparatus and method to support dynamic format conversion
CN106796804B (zh) 2014-10-02 2020-09-18 杜比国际公司 用于对话增强的解码方法和解码器
EP3007167A1 (en) * 2014-10-10 2016-04-13 Thomson Licensing Method and apparatus for low bit rate compression of a Higher Order Ambisonics HOA signal representation of a sound field
US12125492B2 (en) 2015-09-25 2024-10-22 Voiceage Coproration Method and system for decoding left and right channels of a stereo sound signal
EP4235659A3 (en) 2015-09-25 2023-09-06 VoiceAge Corporation Method and system using a long-term correlation difference between left and right channels for time domain down mixing a stereo sound signal into primary and secondary channels
GB201718341D0 (en) 2017-11-06 2017-12-20 Nokia Technologies Oy Determination of targeted spatial audio parameters and associated spatial audio playback
GB2572650A (en) 2018-04-06 2019-10-09 Nokia Technologies Oy Spatial audio parameters and associated spatial audio playback
GB2574239A (en) * 2018-05-31 2019-12-04 Nokia Technologies Oy Signalling of spatial audio parameters
KR102798446B1 (ko) * 2019-06-14 2025-04-22 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 매개변수 인코딩 및 디코딩
EP4229630A1 (en) * 2020-10-13 2023-08-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for encoding a plurality of audio objects using direction information during a downmixing or apparatus and method for decoding using an optimized covariance synthesis
AU2021359779B2 (en) 2020-10-13 2025-05-22 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for encoding a plurality of audio objects and apparatus and method for decoding using two or more relevant audio objects
EP4430853A1 (en) * 2021-11-09 2024-09-18 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus, method or computer program for synthesizing a spatially extended sound source using variance or covariance data
CN118202669A (zh) * 2021-11-11 2024-06-14 索尼集团公司 信息处理装置、信息处理方法和程序

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004019656A2 (en) * 2001-02-07 2004-03-04 Dolby Laboratories Licensing Corporation Audio channel spatial translation
US20050157883A1 (en) * 2004-01-20 2005-07-21 Jurgen Herre Apparatus and method for constructing a multi-channel output signal or for generating a downmix signal
US20060060278A1 (en) * 2004-09-17 2006-03-23 Youji Noguchi Pneumatic tire
US20060085200A1 (en) * 2004-10-20 2006-04-20 Eric Allamanche Diffuse sound shaping for BCC schemes and the like
WO2006132857A2 (en) * 2005-06-03 2006-12-14 Dolby Laboratories Licensing Corporation Apparatus and method for encoding audio signals with decoding instructions
WO2007016107A2 (en) * 2005-08-02 2007-02-08 Dolby Laboratories Licensing Corporation Controlling spatial audio coding parameters as a function of auditory events
EP1761110A1 (en) * 2005-09-02 2007-03-07 Ecole Polytechnique Fédérale de Lausanne Method to generate multi-channel audio signals from stereo signals
WO2007089129A1 (en) * 2006-02-03 2007-08-09 Electronics And Telecommunications Research Institute Apparatus and method for visualization of multichannel audio signals
JP2009508432A (ja) * 2005-09-14 2009-02-26 エルジー エレクトロニクス インコーポレイティド オーディオ信号のデコーディング方法及び装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1139300C (zh) * 1997-05-20 2004-02-18 日本胜利株式会社 处理音频环绕信号的方法和系统
EP1054575A3 (en) * 1999-05-17 2002-09-18 Bose Corporation Directional decoding
US7254239B2 (en) * 2001-02-09 2007-08-07 Thx Ltd. Sound system and method of sound reproduction
KR100522593B1 (ko) * 2002-07-08 2005-10-19 삼성전자주식회사 다채널 입체음향 사운드 생성방법 및 장치
DE102004042819A1 (de) * 2004-09-03 2006-03-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Erzeugen eines codierten Multikanalsignals und Vorrichtung und Verfahren zum Decodieren eines codierten Multikanalsignals
WO2006060278A1 (en) * 2004-11-30 2006-06-08 Agere Systems Inc. Synchronizing parametric coding of spatial audio with externally provided downmix
WO2008006108A2 (en) * 2006-07-07 2008-01-10 Srs Labs, Inc. Systems and methods for multi-dialog surround audio

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004019656A2 (en) * 2001-02-07 2004-03-04 Dolby Laboratories Licensing Corporation Audio channel spatial translation
US20050157883A1 (en) * 2004-01-20 2005-07-21 Jurgen Herre Apparatus and method for constructing a multi-channel output signal or for generating a downmix signal
US20060060278A1 (en) * 2004-09-17 2006-03-23 Youji Noguchi Pneumatic tire
US20060085200A1 (en) * 2004-10-20 2006-04-20 Eric Allamanche Diffuse sound shaping for BCC schemes and the like
WO2006132857A2 (en) * 2005-06-03 2006-12-14 Dolby Laboratories Licensing Corporation Apparatus and method for encoding audio signals with decoding instructions
WO2007016107A2 (en) * 2005-08-02 2007-02-08 Dolby Laboratories Licensing Corporation Controlling spatial audio coding parameters as a function of auditory events
EP1761110A1 (en) * 2005-09-02 2007-03-07 Ecole Polytechnique Fédérale de Lausanne Method to generate multi-channel audio signals from stereo signals
JP2009508432A (ja) * 2005-09-14 2009-02-26 エルジー エレクトロニクス インコーポレイティド オーディオ信号のデコーディング方法及び装置
WO2007089129A1 (en) * 2006-02-03 2007-08-09 Electronics And Telecommunications Research Institute Apparatus and method for visualization of multichannel audio signals

Also Published As

Publication number Publication date
US8126152B2 (en) 2012-02-28
EP2000001A2 (en) 2008-12-10
US20090110203A1 (en) 2009-04-30
JP2009531735A (ja) 2009-09-03
ATE538604T1 (de) 2012-01-15
CN101411214A (zh) 2009-04-15
WO2007111568A3 (en) 2007-12-13
WO2007111568A2 (en) 2007-10-04
CN101411214B (zh) 2011-08-10
EP2000001B1 (en) 2011-12-21

Similar Documents

Publication Publication Date Title
JP4875142B2 (ja) マルチチャネル・サラウンドサウンドのためのデコーダのための方法及び装置
JP4944902B2 (ja) バイノーラルオーディオ信号の復号制御
JP5227946B2 (ja) フィルタ適応周波数分解能
RU2520359C2 (ru) Устройство подавления акустического эха и фронтальное устройство конференцсвязи
CN102523551B (zh) 用于确定空间输出多声道音频信号的装置
CN101390443B (zh) 音频编码和解码
CN111970630B (zh) 音频解码器和解码方法
US8880413B2 (en) Binaural spatialization of compression-encoded sound data utilizing phase shift and delay applied to each subband
CN102077276B (zh) 多声道音频信号的空间合成
CN101433099A (zh) 多声道环绕声的个性化解码
JP2009522895A (ja) バイノーラルオーディオ信号の復号
Villemoes et al. MPEG Surround: the forthcoming ISO standard for spatial audio coding
EA034936B1 (ru) Кодирование и декодирование звука с использованием параметров преобразования представления
JP2008543227A (ja) サイド情報を有するチャンネルの再構成
JP2023536156A (ja) オーディオ信号を符号化する、又は符号化オーディオシーンを復号化する装置、方法及びコンピュータープログラム
EP3808106A1 (en) Spatial audio capture, transmission and reproduction
CN102027535A (zh) 信号处理
HK40035948A (en) Audio decoder and decoding method
HK40035948B (en) Audio decoder and decoding method
HK40035960B (en) Audio decoder and decoding method
HK40035960A (en) Audio decoder and decoding method
Plogsties et al. MPEG Surround binaural rendering–Surround sound for mobile devices (Binaurale Wiedergabe mit MPEG Surround–Surround sound für mobile Geräte)
HK1129535A (en) Decoding of binaural audio signals

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110624

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111118

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111124

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141202

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4875142

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees