JP2008522243A - 外部的に供給されるダウンミックスとの空間オーディオのパラメトリック・コーディングの同期化 - Google Patents

外部的に供給されるダウンミックスとの空間オーディオのパラメトリック・コーディングの同期化 Download PDF

Info

Publication number
JP2008522243A
JP2008522243A JP2007544407A JP2007544407A JP2008522243A JP 2008522243 A JP2008522243 A JP 2008522243A JP 2007544407 A JP2007544407 A JP 2007544407A JP 2007544407 A JP2007544407 A JP 2007544407A JP 2008522243 A JP2008522243 A JP 2008522243A
Authority
JP
Japan
Prior art keywords
channel
channels
codes
time lag
downmixed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007544407A
Other languages
English (en)
Other versions
JP5017121B2 (ja
Inventor
フォラー,クリストフ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Agere Systems LLC
Original Assignee
Agere Systems LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Agere Systems LLC filed Critical Agere Systems LLC
Publication of JP2008522243A publication Critical patent/JP2008522243A/ja
Application granted granted Critical
Publication of JP5017121B2 publication Critical patent/JP5017121B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/08Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Stereophonic System (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本発明の実施形態は、自動的にダウンミキシングされたオーディオ信号ではなく、外部的に供給されるオーディオ信号(たとえば、スタジオ・エンジニアリング・オーディオ信号)が、導出されたキュー・コードと共にレシーバに送出される、バイノーラル・キュー・コーディング(BCC)方式を対象とする。キュー・コードは、外部的にダウンミキシングされたオーディオ信号とキュー・コードの生成に使用されるマルチチャネル信号との間のタイム・ラグ(およびこれらのタイム・ラグの変化)を補償するために、外部的に供給されるオーディオ信号と(適応式に)同期化される。

Description

関連出願の相互参照
本願は、その教示が参照によって本明細書に組み込まれている、弁理士整理番号Faller 21として2004年11月30日に出願した米国仮出願第60/631808号の利益を主張するものである。
本願の主題は、次の米国特許出願の主題に関連し、これらの米国特許出願のすべての教示が、参照によって本明細書に組み込まれている。
○弁理士整理番号Faller 5として2001年5月4日に出願した米国特許出願第09/848877号、
○弁理士整理番号Baumgarte 1−6−8として2001年11月7日に出願した米国特許出願第10/045458号(これ自体は、2001年8月10日に出願した米国仮出願第60/311565号の利益を主張する)、
○弁理士整理番号Baumgarte 2−10として2002年5月24日に出願した米国特許出願第10/155437号、
○弁理士整理番号Baumgarte 3−11として2002年9月18日に出願した米国特許出願第10/246570号、
○弁理士整理番号Baumgarte 7−12として2004年4月1日に出願した米国特許出願第10/815591号、
○弁理士整理番号Baumgarte 8−7−15として2004年9月8日に出願した米国特許出願第10/936464号、
○2004年1月20日に出願した米国特許出願第10/762100号(Faller 13−1)、
○弁理士整理番号Allamanche 1−2−17−3として2004年12月7日に出願した米国特許出願第11/006492号、
○弁理士整理番号Allamanche 2−3−18−4として2004年12月7日に出願した米国特許出願第11/006482号、
○弁理士整理番号Faller 22−5として2005年1月10日に出願した米国特許出願第11/032689号、および
○弁理士整理番号Faller 20として2005年2月15日に出願した米国特許出願第11/058747号(これ自体は、2004年11月30日に出願した米国仮出願第60/631917号の利益を主張する)。
本願の主題は、次の論文に記載の主題にも関連し、これらの論文のすべての教示が、参照によって本明細書に組み込まれている。
○F.Baumgarte and C.Faller、「Binaural Cue Coding−Part I:Psychoacoustic fundamentals and design principles」、IEEE Trans.on Speech and Audio Proc.,vol.11,no.6、2003年11月、
○C.Faller and F.Baumgarte、「Binaural Cue Coding−Part II:Schemes and applications」、IEEE Trans.on Speech and Audio Proc.,vol.11,no.6、2003年11月、および
○C.Faller、「Coding of spatial audio compatible with different playback formats」、Preprint 117th Conv.Aud.Eng.Soc.、2004年10月。
本発明は、オーディオ信号のエンコーディングと、エンコードされたオーディオ・データからのオーディトリ・シーン(auditory scene)の後続合成とに関する。
人が、特定のオーディトオ・ソースによって生成されたオーディオ信号(すなわち、サウンド)を聞く時に、そのオーディオ信号は、通常、その人の左右の耳に、2つの異なる時刻に2つの異なるオーディオ(たとえば、デシベル)レベルで到着し、ここで、この異なる時刻およびレベルは、それを介してオーディオ信号が移動してそれぞれ左右の耳に達する経路の差の関数である。その人の脳は、時刻およびレベルにおけるこれらの差を解釈して、その人に、受け取られたオーディオ信号がその人に対する相対的な特定の位置(たとえば、方向および距離)に置かれたオーディトオ・ソースによって生成されていることの知覚を与える。オーディトリ・シーンは、ある人に対して相対的な1つまたは複数の異なる位置に置かれた1つまたは複数の異なるオーディトオ・ソースによって生成されるオーディオ信号をその人が同時に聞くことの正味の影響である。
脳によるこの処理の存在を使用して、オーディトリ・シーンを合成することができ、ここで、1つまたは複数の異なるオーディトオ・ソースからのオーディオ信号は、異なるオーディトオ・ソースがリスナに対して相対的に異なる位置に置かれていることの知覚を与える左右のオーディオ信号を生成するために意図的に変更される。
図1に、従来のバイノーラル信号シンセサイザ100の高水準ブロック図を示すが、このバイノーラル信号シンセサイザ100は、単一のオーディトオ・ソース信号(たとえば、モノ信号)をバイノーラル信号の左右のオーディオ信号に変換し、ここで、バイノーラル信号は、リスナの鼓膜で受け取られる2つの信号と定義される。オーディトオ・ソース信号に加えて、シンセサイザ100は、リスナに対する相対的なオーディトオ・ソースの所望の位置に対応する空間的キュー(spatial cue)の組を受け取る。通常の実施態様では、空間的キューの組に、チャネル間レベル差(inter−channel level difference、ICLD)値(それぞれ左右の耳で受け取られた左右のオーディオ信号の間のオーディオ・レベルの差を識別する)と、チャネル間時間差(inter−channel time difference、ICTD)値(それぞれ左右の耳で受け取られた左右のオーディオ信号の間の到着の時刻の差を識別する)とが含まれる。それに加えてまたは代替物として、いくつかの合成技法は、頭部伝達関数(HRTF)とも称する、信号源から鼓膜までのサウンドに関する方向依存の伝達関数のモデリングを用いる。たとえば、その教示が参照によって本明細書に組み込まれている、J.Blauert、「The Psychophysics of Human Sound Localization」、MIT Press、1983年を参照されたい。
図1のバイノーラル信号シンセサイザ100を使用することによって、単一オーディトオ・ソースによって生成されたモノ・オーディオ信号を処理し、ヘッドホンを介して聞かれる時に、耳ごとのオーディオ信号を生成するために空間的キューの適当な組(たとえば、ICLD、ICTD、および/またはHRTF)を適用することによって、オーディトオ・ソースが空間的に置かれるようにすることができる。たとえば、D.R.Begault、「3−D Sound for Virtual Reality and Multimedia」、Academic Press、米国マイアミ州ケンブリッジ、1994年を参照されたい。
図1のバイノーラル信号シンセサイザ100は、最も単純なタイプのオーディトリ・シーンすなわち、リスナに対して相対的に置かれた単一の音源を有するオーディトリ・シーンを生成する。リスナに対して相対的に異なる位置に置かれた2つ以上の音源を含むより複雑なオーディトリ・シーンは、本質的にバイノーラル信号シンセサイザの2つ以上のインスタンスを使用して実施されるオーディトリ・シーン・シンセサイザを使用して生成することができ、ここで、各バイノーラル信号シンセサイザ・インスタンスは、異なるオーディオ・ソースに対応するバイノーラル信号を生成する。各異なるオーディオ・ソースは、リスナに対して相対的に異なる位置を有するので、空間的キューの異なる組が、異なるオーディオ・ソースごとにバイノーラル・オーディオ信号を生成するのに使用される。
米国仮出願第60/631808号 米国特許出願第09/848877号 米国特許出願第10/045458号 米国仮出願第60/311565号 米国特許出願第10/155437号 米国特許出願第10/246570号 米国特許出願第10/815591号 米国特許出願第10/936464号 米国特許出願第10/762100号 米国特許出願第11/006492号 米国特許出願第11/006482号 米国特許出願第11/032689号 米国特許出願第11/058747号 米国仮出願第60/631917号 F.Baumgarte and C.Faller、「Binaural Cue Coding−Part I:Psychoacoustic fundamentals and design principles」、IEEE Trans.on Speech and Audio Proc.,vol.11,no.6、2003年11月 C.Faller and F.Baumgarte、「Binaural Cue Coding−Part II:Schemes and applications」、IEEE Trans.on Speech and Audio Proc.,vol.11,no.6、2003年11月 C.Faller、「Coding of spatial audio compatible with different playback formats」、Preprint 117th Conv.Aud.Eng.Soc.、2004年10月 J.Blauert、「The Psychophysics of Human Sound Localization」、MIT Press、1983年 D.R.Begault、「3−D Sound for Virtual Reality and Multimedia」、Academic Press、米国マイアミ州ケンブリッジ、1994年 C.Faller、「Parametric multi−channel audio coding:Synthesis of coherence cues」、IEEE Trans.on Speech and Audio Proc.、2003年 E.Schuijers、W.Oomen、B.den Brinker、およびJ.Breebaart、「Advances in parametric coding for high−quality audio」、Preprint 114th Conv.Aud.Eng.Soc.、2003年3月 J.Engdegard、H.Purnhagen、J.Roden、およびL.Liljeryd、「Synthetic ambience in parametric stereo coding」、Preprint 117th Conv.Aud.Eng.Soc.、2004年5月
改善されたオーディオ・チャネルをエンコードする方法、装置、および機械可読媒体を提供することにある。
一実施形態によれば、本発明は、オーディオ・チャネルをエンコードする方法、装置、および機械可読媒体である。1つまたは複数のキュー・コードが、C個の入力チャネルについて生成され、C個の入力チャネルは、少なくとも1つのダウンミキシングされたチャネルを生成するためにダウンミキシングされる。タイム・ラグが、少なくとも1つのダウンミキシングされたチャネルとE個の外部的に供給されるチャネルのうちの少なくとも1つとの間で推定され、C>E≧1である。E個の外部的に供給されるチャネルと1つまたは複数のキュー・コードとの間の相対タイミングが、E個の外部的に供給されるチャネルと1つまたは複数のキュー・コードとの間の同期化を改善するために、推定されたタイム・ラグに基づいて調整される。E個の外部的に供給されるチャネルおよび1つまたは複数のキュー・コードは、デコーダが1つまたは複数のキュー・コードに基づいてE個の外部的に供給されるチャネルのデコーディング中に合成処理を実行できるようにするために送出される。
もう1つの実施形態によれば、本発明は、(1)C個の入力チャネルの1つまたは複数のキュー・コードを生成することと、(2)少なくとも1つのダウンミキシングされたチャネルを生成するために、C個の入力チャネルをダウンミキシングすることと、(3)C>E≧1である、少なくとも1つのダウンミキシングされたチャネルとE個の外部的に供給されるチャネルのうちの少なくとも1つとの間のタイム・ラグを推定することと、(4)E個の外部的に供給されるチャネルと1つまたは複数のキュー・コードとの間の同期化を改善するために、推定されたタイム・ラグに基づいて、E個の外部的に供給されるチャネルと1つまたは複数のキュー・コードとの間の相対タイミングを調整することと、(5)エンコードされたオーディオ・ビットストリームを形成するために、E個の外部的に供給されるチャネルおよび1つまたは複数のキュー・コードを組み合わせることとによって生成されるエンコードされたオーディオ・ビットストリームである。
本発明の他の態様、特徴、および利点は、次の詳細な説明、添付の特許請求の範囲、および添付図面からより十分に明白になり、添付図面では、類似する符号が類似する要素または同一の要素を識別する。
バイノーラル・キュー・コーディング(binaural cue coding、BCC)では、エンコーダは、C個の入力オーディオ・チャネルをエンコードしてE個の被送出オーディオ・チャネルを生成し、ここでC>E≧1である。具体的に言うと、C個の入力チャネルのうちの2つ以上が、周波数領域で供給され、1つまたは複数のキュー・コードが、周波数領域のその2つ以上の入力チャネル内の1つまたは複数の異なる周波数帯のそれぞれについて生成される。さらに、C個の入力チャネルが、E個の被送出チャネルを生成するためにダウンミキシングされる。いくつかのダウンミキシング実施態様では、E個の被送出チャネルのうちの少なくとも1つは、C個の入力チャネルのうちの2つ以上に基づき、E個の被送出チャネルのうちの少なくとも1つは、C個の入力チャネルのうちの単一の1つだけに基づく。
一実施形態で、BCCコーダは、2つ以上のフィルタ・バンク、コード・エスティメータ、およびダウンミキサを有する。2つ以上のフィルタ・バンクは、C個の入力チャネルのうちの2つ以上を時間領域から周波数領域に変換する。コード・エスティメータは、2つ以上の変換された入力チャネル内の1つまたは複数の異なる周波数帯のそれぞれについて1つまたは複数のキュー・コードを生成する。ダウンミキサは、C個の入力チャネルをダウンミキシングして、E個の被送出チャネルを生成し、ここで、C>E≧1である。
BCCデコーディングでは、E個の被送出オーディオ・チャネルが、C個の再生(すなわち、合成された)オーディオ・チャネルを生成するためにデコードされる。具体的に言うと、1つまたは複数の異なる周波数帯のそれぞれについて、E個の被送出チャネルのうちの1つまたは複数が、周波数領域でアップミキシングされて、周波数領域のC個の再生チャネルのうちの2つ以上を生成し、ここで、C>E≧1である。1つまたは複数のキュー・コードが、周波数領域の2つ以上の再生チャネル内の1つまたは複数の異なる周波数帯のそれぞれに適用されて、2つ以上の変更されたチャネルが生成され、これらの2つ以上の変更されたチャネルは、周波数領域から時間領域に変換される。いくつかのアップミキシング実施態様では、C個の再生チャネルのうちの少なくとも1つは、E個の被送出チャネルのうちの少なくとも1つおよび少なくとも1つのキュー・コードに基づき、C個の再生チャネルのうちの少なくとも1つは、E個の被送出チャネルのうちの単一の1つだけに基づき、どのキュー・コードからも独立である。
一実施形態で、BCCデコーダは、アップミキサ、シンセサイザ、および1つまたは複数の逆フィルタ・バンクを有する。1つまたは複数の異なる周波数帯のそれぞれについて、アップミキサは、周波数領域のE個の被送出チャネルのうちの1つまたは複数をアップミキシングして、周波数領域のC個の再生チャネルのうちの2つ以上を生成し、ここで、C>E≧1である。シンセサイザは、1つまたは複数のキュー・コードを周波数領域の2つ以上の再生チャネル内の1つまたは複数の異なる周波数帯のそれぞれに適用して、2つ以上の変更されたチャネルを生成する。1つまたは複数の逆フィルタ・バンクは、2つ以上の変更されたチャネルを周波数領域から時間領域に変換する。
特定の実施態様に応じて、所与の再生チャネルを、2つ以上の被送出チャネルの組合せではなく、単一の被送出チャネルに基づくものとすることができる。たとえば、1つの被送出チャネルだけがある場合に、C個の再生チャネルのそれぞれは、その1つの被送出チャネルに基づく。これらの情況では、アップミキシングは、対応する被送出チャネルをコピーすることに対応する。したがって、1つの被送出チャネルだけがある応用例では、アップミキサを、再生チャネルごとに被送出チャネルをコピーするリプリケータを使用して実施することができる。
BCCエンコーダおよび/またはBCCデコーダを、たとえば、ディジタル・ビデオ・レコーダ/プレイヤ、ディジタル・オーディオ・レコーダ/プレイヤ、コンピュータ、衛星送信器/受信器、ケーブル送信器/受信器、地上波放送送信器/受信器、ホーム・エンターテイメント・システム、およびムービー・シアター・システムを含む2つ以上のシステムまたは応用例に組み込むことができる。
包括的なBCC処理
図2は、エンコーダ202とデコーダ204とを含む包括的なバイノーラル・キュー・コーディング(BCC)オーディオ処理システム200のブロック図である。エンコーダ202には、ダウンミキサ206とBCCエスティメータ208とが含まれる。
ダウンミキサ206は、C個の入力オーディオ・チャネルx(n)をE個の被送出オーディオ・チャネルy(n)に変換し、ここで、C>E≧1である。本明細書では、変数nを使用して表される信号は、時間領域信号であり、変数kを使用して表される信号は、周波数領域信号である。特定の実施態様に応じて、ダウンミキシングを、時間領域または周波数領域のいずれかで実施することができる。BCCエスティメータ208は、C個の入力オーディオ・チャネルからBCCコードを生成し、これらのBCCコードを、E個の被送出オーディオ・チャネルに対する帯域内サイド情報または帯域外サイド情報のいずれかとして送出する。通常のBCCコードには、周波数および時間の関数として入力チャネルのある対の間で推定された、チャネル間時間差(ICTD)データ、チャネル間レベル差(ICLD)データ、およびチャネル間相関(inter−channel correlation、ICC)データのうちの1つまたは複数が含まれる。特定の実施態様は、入力チャネルのどの特定の対の間でBCCコードが推定されるかを規定する。
ICCデータは、バイノーラル信号のコヒーレンスに対応し、このコヒーレンスは、オーディオ・ソースの知覚される幅に関連する。オーディオ・ソースが幅広いほど、結果のバイノーラル信号の左チャネルと右チャネルとの間のコヒーレンスは小さい。たとえば、公会堂のステージ全体に広がったオーケストラに対応するバイノーラル信号のコヒーレンスは、通常、単独で演奏される単一のバイオリンに対応するバイノーラル信号のコヒーレンスより小さい。一般に、より小さいコヒーレンスを有するオーディオ信号は、通常、聴覚空間内でより広がっているものとして知覚される。したがって、ICCデータは、通常、見かけのソース幅とリスナ・エンベロップメント(listener envelopment)の度合とに関連する。たとえば、J.Blauert、「The Psychophysics of Human Sound Localization」、MIT Press、1983年を参照されたい。
特定の応用例に応じて、E個の被送出オーディオ・チャネルおよび対応するBCCコードを、デコーダ204に直接に送出するか、デコーダ204による後続アクセスのためにある適切なタイプのストレージ・デバイスに保管することができる。情況に応じて、用語「送出」は、デコーダへの直接送出またはデコーダへの後続供給のための保管のいずれかを指すことができる。どちらの場合でも、デコーダ204は、被送出オーディオ・チャネルとサイド情報とを受け取り、アップミキシングおよびBCCコードを使用するBCC合成を実行して、E個の被送出オーディオ・チャネルを、オーディオ再生用のE個を超える(必ずではないが通常はC個の)再生オーディオ・チャネル
Figure 2008522243
に変換する。特定の実施態様に応じて、アップミキシングを、時間領域または周波数領域のいずれかで実行することができる。
図2に示されたBCC処理に加えて、包括的なBCCオーディオ処理システムには、さらに、それぞれ、エンコーダでオーディオ信号を圧縮し、デコーダでオーディオ信号を圧縮解除するために、追加のエンコーディング・ステージおよびデコーディング・ステージを含めることができる。これらのオーディオ・コーデックは、パルス符号変調(PCM)、差分PCM(DPCM)、または適応DPCM(ADPCM)に基づくものなどの従来のオーディオ圧縮/圧縮解除技法に基づくものとすることができる。
ダウンミキサ206が単一の和信号を生成する(すなわち、E=1)場合に、BCCコーディングは、モノ・オーディオ信号を表すのに必要なものよりごくわずかに高いビットレートでマルチチャネル・オーディオ信号を表すことができる。これがそうであるのは、チャネル対の間の推定されたICTDデータ、ICLDデータ、およびICCデータが、オーディオ波形より約2桁少ない情報を含むからである。
BCCコーディングの低いビットレートだけではなく、その後方互換性態様も、重要である。単一の被送出和信号は、オリジナルのステレオ信号またはマルチチャネル信号のモノ・ダウンミックスに対応する。ステレオ・サウンド再現またはマルチチャネル・サウンド再現をサポートしないレシーバについて、被送出和信号に聞き入ることは、低プロファイル・モノ再現機器でオーディオ素材を提示する有効な方法である。したがって、BCCコーディングは、モノ・オーディオ素材の配信を伴う既存サービスをマルチチャネル・オーディオに向かって機能強化するのに使用することもできる。たとえば、BCCサイド情報を既存送出チャネルに埋め込むことができる場合に、既存のモノ・オーディオ・ラジオ放送システムを、ステレオ再生またはマルチチャネル再生のために機能強化することができる。マルチチャネル・オーディオをステレオ・オーディオに対応する2つの和信号にダウンミキシングする場合に、類似する機能が存在する。
BCCは、ある時間および周波数の分解能を用いてオーディオ信号を処理する。使用される周波数分解能は、主に、人間の聴覚系の周波数分解能によって誘導される。音響心理学は、空間的知覚が、音響入力信号の臨界帯域表現に基づく可能性が最も高いことを示唆する。この周波数分解能は、人間の聴覚系の臨界帯域幅と等しいかこれに比例する帯域幅を有するサブバンドを有する可逆フィルタ・バンク(たとえば、高速フーリエ変換(FFT)または直交ミラー・フィルタ(QMF)に基づく)を使用することによって考慮される。
包括的なダウンミキシング
好ましい実施態様では、1つまたは複数の被送出和信号に、入力オーディオ信号の信号成分のすべてが含まれる。目標は、各信号成分が十分に維持されることである。オーディオ入力チャネルの単純な合計は、しばしば、信号成分の増幅または減衰をもたらす。言い換えると、「単純な」和の信号成分の電力は、しばしば、各チャネルの対応する信号成分の電力の和より大きいまたはこれより小さい。和信号の信号成分の電力が、全入力チャネルの対応する電力とほぼ同一になるように和信号を等化するダウンミキシング技法を、使用することができる。
図3に、BCCシステム200のある種の実施態様による、図2のダウンミキサ206に使用できるダウンミキサ300のブロック図を示す。ダウンミキサ300は、入力チャネルx(n)ごとのフィルタ・バンク(FB)302、ダウンミキシング・ブロック304、任意選択のスケーリング/遅延ブロック306、およびエンコードされたチャネルy(n)ごとの逆FB(IFB)308を有する。
各フィルタ・バンク302は、時間領域の対応するディジタル入力チャネルx(n)の各フレーム(たとえば、20ミリ秒)を周波数領域の1組の入力係数
Figure 2008522243
に変換する。ダウンミキシング・ブロック304は、C個の対応する入力係数の各サブバンドを、E個のダウンミキシングされた周波数領域係数の対応するサブバンドにダウンミキシングする。式(1)は、入力係数のk番目のサブバンド
Figure 2008522243
の、次のようなダウンミキシングされた係数のk番目のサブバンド
Figure 2008522243
を生成するためのダウンミキシングを表す。
Figure 2008522243
ここで、DCEは、実数値を有するC×Eダウンミキシング行列である。
任意選択のスケーリング/遅延ブロック306には、乗算器310の組が含まれ、この乗算器310のそれぞれは、対応するダウンミキシングされた係数
Figure 2008522243
に倍率e(k)を乗じて、対応するスケーリングされた係数
Figure 2008522243
を生成する。このスケーリング演算の動機付けは、チャネルごとの任意の重み付け因数を用いるダウンミキシングについて一般化された等化と同等である。入力チャネルが独立である場合に、各サブバンド内のダウンミキシングされた信号の電力
Figure 2008522243
は、次の式(2)によって与えられる。
Figure 2008522243
ここで、
Figure 2008522243
は、C×Eダウンミキシング行列DCEの各行列要素を二乗することによって導出され、
Figure 2008522243
は、入力チャネルiのサブバンドkの電力である。
サブバンドが独立でない場合に、ダウンミキシングされた信号の電力値
Figure 2008522243
は、それぞれ信号成分が同相または位相外れである場合の信号増幅または信号打ち消しに起因して、式(2)を使用して計算される値より大きいまたはこれより小さい。これを防ぐために、式(1)のダウンミキシング動作が、サブバンドで適用され、これに、乗算器310によるスケーリング動作が続く。倍率e(k)(1≦i≦E)は、次の式(3)を使用して導出することができる。
Figure 2008522243
ここで、
Figure 2008522243
は、式(2)によって計算されるサブバンド電力であり、
Figure 2008522243
は、対応するダウンミキシングされたサブバンド信号
Figure 2008522243
の電力である。
任意選択のスケーリングを提供することに加えて、またはその代わりに、スケーリング/遅延ブロック306は、任意選択として信号に遅延を適用することができる。
各逆フィルタ・バンク308は、周波数領域の対応するスケーリングされた係数
Figure 2008522243
を、対応するディジタルの被送出チャネルy(n)のフレームに変換する。
図3には、C個すべての入力チャネルが後続ダウンミキシングのために周波数領域に変換されることが示されているが、代替実施態様では、C個の入力チャネルのうちの1つまたは複数(ただし、C−1個未満)が、図3に示された処理の一部またはすべてを迂回し、同等の個数の変更されないオーディオ・チャネルとして送出されることができる。特定の実施態様に応じて、これらの変更されないオーディオ・チャネルは、被送出BCCコードを生成する際に図2のBCCエスティメータ208によって使用されてもされなくてもよい。
単一の和信号y(n)を生成するダウンミキサ300の実施態様では、E=1であり、各入力チャネルcの各サブバンドの信号
Figure 2008522243
は、以下のように、次の式(4)に従って加算され、因数e(k)をかけられる。
Figure 2008522243
因数e(k)は、次の式(5)によって、次のように与えられる。
Figure 2008522243
ここで、
Figure 2008522243
は、時間インデックスkでの
Figure 2008522243
の電力の短時間推定値であり、
Figure 2008522243
は、
Figure 2008522243
の電力の短時間推定値である。等化されたサブバンドは、時間領域に戻って変換され、和信号y(n)をもたらし、この和信号y(n)がBCCデコーダに送出される。
包括的なBCC合成
図4に、BCCシステム200のある種の実施態様による、図2のデコーダ204に使用できるBCCシンセサイザ400のブロック図を示す。BCCシンセサイザ400は、被送出チャネルy(n)ごとのフィルタ・バンク402、アップミキシング・ブロック404、遅延406、乗算器408、デ・コリレーション(de−correlation)ブロック410、および再生チャネル
Figure 2008522243
ごとの逆フィルタ・バンク412を有する。
各フィルタ・バンク402は、時間領域の対応するディジタル被送出チャネルy(n)の各フレームを、周波数領域の入力係数
Figure 2008522243
の組に変換する。アップミキシング・ブロック404は、E個の対応する被送出チャネル係数の各サブバンドを、C個のアップミキシングされた周波数領域係数の対応するサブバンドにアップミキシングする。式(4)は、被送出チャネル係数のk番目のサブバンド
Figure 2008522243
の、アップミキシングされた係数のk番目のサブバンド
Figure 2008522243
を生成するための、次のようなアップミキシングを表す。
Figure 2008522243
ここで、UECは、実数値を有するE×Cアップミキシング行列である。周波数領域でアップミキシングを実行することは、アップミキシングを各異なるサブバンドで個別に適用することを可能にする。
各遅延406は、ICTDデータの対応するBCCコードに基づく遅延値d(k)を適用して、所望のICTD値が再生チャネルのある対の間に現れることを保証する。各乗算器408は、ICLDデータの対応するBCCコードに基づく倍率a(k)を適用して、所望のICLD値が再生チャネルのある対の間に現れることを保証する。デ・コリレーション・ブロック410は、ICCデータの対応するBCCコードに基づくデ・コリレーション動作Aを実行して、所望のICC値が再生チャネルのある対の間に現れることを保証する。デ・コリレーション・ブロック410の動作のさらなる詳細は、Baumgarte 2−10として2002年5月24日に出願した米国特許出願第10/155437号に見出すことができる。
ICLD値の合成は、ICTD値およびICC値の合成より面倒でない可能性がある。というのは、ICLD合成が、単にサブバンド信号のスケーリングを用いるからである。ICLDキューは、最も一般的に使用されるディレクショナル・キュー(directional cue)なので、通常は、ICLD値がオリジナル・オーディオ信号のICLD値を近似することが、より重要である。したがって、ICLDデータを、すべてのチャネル対の間で推定することができる。各サブバンドの倍率a(k)(1≦i≦C)は、各再生チャネルのサブバンド電力がオリジナル入力オーディオ・チャネルの対応する電力を近似するようになるように選択されることが好ましい。
1つの目標は、ICTD値およびICC値の合成に関して相対的に少数の信号変更を適用することとすることができる。したがって、BCCデータに、すべてのチャネル対のICTD値およびICC値を含めないものとすることができる。その場合に、BCCシンセサイザ400は、あるチャネル対の間でのみICTD値およびICC値を合成するはずである。
各逆フィルタ・バンク412は、周波数領域の対応する合成された係数
Figure 2008522243
の組を、対応するディジタル再生チャネル
Figure 2008522243
のフレームに変換する。
図4には、E個のすべての被送出チャネルが後続のアップミキシングおよびBCC処理のために周波数領域に変換されることが示されているが、代替実施態様では、E個の被送出チャネルのうちの1つまたは複数(ただし、すべてではない)が、図4に示された処理の一部またはすべてを迂回することができる。たとえば、1つまたは複数の被送出チャネルを、アップミキシングを一切受けない変更されないチャネルとすることができる。C個の再生チャネルのうちの1つまたは複数であることに加えて、これらの変更されないチャネルを、他の再生チャネルのうちの1つまたは複数を合成するためにBCC処理が適用される基準チャネルとして使用することができるが、そうする必要はない。どちらの場合でも、そのような変更されないチャネルは、残りの再生チャネルを生成するのに使用されるアップミキシングおよび/またはBCC処理に伴う処理時間を補償するために、遅延を受ける場合がある。
図4には、C個の再生チャネルがE個の被送出チャネルから合成されることが示され、Cは、オリジナル入力チャネルの個数でもあったが、BCC合成が、再生チャネルのその個数に限定されないことに留意されたい。一般に、再生チャネルの個数は、Cより大きい個数またはCより小さい個数を含む、おそらくは再生チャネルの個数が被送出チャネルの個数以下である情況さえ含む、チャネルの任意の個数とすることができる。
オーディオ・チャネルの間の「知覚的に関連する差」
単一の和信号を仮定すると、BCCは、ICTD、ICLD、およびICCがオリジナル・オーディオ信号の対応するキューを近似するように、ステレオ・オーディオ信号またはマルチチャネル・オーディオ信号を合成する。次では、オーディトリ・スペイシャル・イメージ(auditory spatial image)属性に関するICTD、ICLD、およびICCの役割を述べる。
スペイシャル・ヒアリング(spatial hearing)に関する知識は、1つのオーディトリ・イベントについて、ICTDおよびICLDが、知覚される方向に関連することを暗示する。1つのソースのバイノーラル・ルーム・インパルス応答(binaural room impulse response、BRIR)を考慮する場合に、オーディトリ・イベントの幅とリスナ・エンベロップメントとBRIRの早期の部分および後期の部分について推定されたICCデータとの間に関係がある。しかし、ICCと一般的な信号のこれらのプロパティ(BRIRだけではなく)との間の関係は、単純ではない。
ステレオ・オーディオ信号およびマルチチャネル・オーディオ信号は、通常、囲まれた空間での録音から生じる反射信号成分によって重畳されるまたは空間的印象を人工的に作成するために録音エンジニアによって追加される同時にアクティブなソース信号の複雑な混合物を含む。異なるソース信号およびその反射は、時間−周波数平面内で異なる領域を占める。これは、ICTD、ICLD、およびICCによって反映され、この3つは、時間および周波数の関数として変化する。この場合に、瞬間的なICTD、ICLD、およびICCとオーディトリ・イベント方向と空間的印象との間の関係は、明白ではない。BCCのある種の実施形態の戦略は、これらのキューがオリジナル・オーディオ信号の対応するキューを近似するように、これらのキューを盲目的に合成することである。
等価長方形帯域幅(equivalent rectangular bandwidth、ERB)の2倍と等しい帯域幅のサブバンドを有するフィルタ・バンクが、使用される。インフォーマル・リスニング(informal listening)は、BCCのオーディオ品質が、より高い周波数分解能を選択した時に顕著には改善されないことを明らかにする。より低い周波数分解能が望ましい可能性がある。というのは、より低い周波数分解能が、デコーダに送出される必要があるより少ないICTD値、ICLD値、およびICC値をもたらし、したがってより低いビットレートをもたらすからである。
時間分解能に関して、ICTD、ICLD、およびICCは、通常、規則的な時間間隔で考慮される。ICTD、ICLD、およびICCが約4msから約16msおきに考慮される時に、高い性能が得られる。キューが非常に短い時間間隔で考慮されない限り、先行音効果が直接には考慮されないことに留意されたい。古典的なサウンド刺激のリード/ラグ対(lead−lag pair)を仮定すると、リードおよびラグが、1組のキューだけが合成される時間間隔に含まれる場合に、リードの局所化優位(localization dominance)は、考慮されない。これにもかかわらず、BCCは、平均して約87(すなわち、「優秀な」オーディオ品質)、およびある種のオーディオ信号についてほぼ100までの平均MUSHRAスコアに反映されるオーディオ品質を達成する。
基準信号と合成された信号との間のしばしば達成される知覚的に小さい差は、広範囲のオーディトリ・スペイシャル・イメージ属性に関連するキューが、規則的な時間間隔でICTD、ICLD、およびICCを合成することによって暗黙のうちに考慮されていることを暗示する。次では、ICTD、ICLD、およびICCが、ある範囲のオーディトリ・スペイシャル・イメージ属性にどのように関係し得るかに関するいくつかの議論を与える。
空間的キューの推定
次では、ICTD、ICLD、およびICCがどのように推定されるかを説明する。これらの(量子化され、コーディングされた)空間的キューの送出のビットレートは、2〜3kb/sに過ぎないものとすることができ、したがって、BCCを用いると、ステレオ・オーディオ信号およびマルチチャネル・オーディオ信号を、単一オーディオ・チャネルに必要なものに近いビットレートで送出することが可能である。
図5に、本発明の一実施形態による図2のBCCエスティメータ208のブロック図を示す。BCCエスティメータ208には、図3のフィルタ・バンク302と同一とすることができるフィルタ・バンク(FB)502と、フィルタ・バンク502によって生成された異なる周波数サブバンドごとにICTD空間的キュー、ICLD空間的キュー、およびICC空間的キューを生成する推定ブロック504とが含まれる。
ステレオ信号のICTD、ICLD、およびICCの推定
次の測定値が、2つの(たとえば、ステレオ)オーディオ・チャネルの対応するサブバンド信号
Figure 2008522243
および
Figure 2008522243
のICTD、ICLD、およびICCに使用される。
○ICTD[サンプル単位]:
Figure 2008522243
正規化された相互相関関数の短時間推定値は、次の式(8)によって与えられる。
Figure 2008522243
ここで、
=max{−d,0}
=max{d,0} (9)
であり、
Figure 2008522243
は、
Figure 2008522243
の平均値の短時間推定値である。
○ICLD[dB]:
Figure 2008522243
○ICC:
Figure 2008522243
正規化された相互相関の絶対値が考慮され、c12(k)が[0,1]の範囲を有することに留意されたい。
マルチチャネル・オーディオ信号のICTD、ICLD、およびICCの推定
3つ以上の入力チャネルがある場合には、通常、C=5チャネルの場合について図6に示されているように、基準チャネル(たとえば、チャネル番号1)と他のチャネルとの間でICTDおよびICLDを定義することが十分であり、ここで、τ1c(k)およびΔL1c(k)は、それぞれ基準チャネル1とチャネルcとの間のICTDおよびICLDを表す。
ICTDおよびICLDとは異なって、ICCは、通常、より多くの自由度を有する。定義されるICCは、すべての可能な入力チャネル対の間で異なる値を有することができる。C個のチャネルについて、C(C−1)/2個の可能なチャネル対があり、たとえば、5チャネルの場合には、図7(a)に示されているように10個のチャネル対がある。しかし、そのような方式は、各時間インデックスに、サブバンドごとに、C(C−1)/2個のICC値が推定され、送出されることを必要とし、高い計算的複雑さおよび高いビットレートをもたらす。
代替案では、サブバンドごとに、ICTDおよびICLDが、サブバンド内の対応する信号成分のオーディトリ・イベントがレンダリングされる方向を決定する。次に、サブバンドごとに1つの単一のICCパラメータを使用して、すべてのオーディオ・チャネルの間の全体的コヒーレンスを記述することができる。各時間インデックスに各サブバンド内で最大のエネルギを有する2つのチャネルの間でのみICCキューを推定し、送出することによって、よい結果を得ることができる。これが図7(b)に示されており、図7(b)では、時刻k−1およびkについて、それぞれチャネル対(3,4)および(1,2)が最も強い。ヒューリスティック・ルールを、他のチャネル対の間のICCを決定するのに使用することができる。
空間的キューの合成
図8に、単一の被送出和信号s(n)と空間的キューとを与えられてステレオ・オーディオ信号またはマルチチャネル・オーディオ信号を生成するのにBCCデコーダ内で使用できる、図4のBCCシンセサイザ400の実施態様のブロック図を示す。和信号s(n)は、サブバンドに分解され、ここで、
Figure 2008522243
は、1つのそのようなサブバンドを表す。出力チャネルのそれぞれの対応するサブバンドを生成するために、遅延d、倍率a、およびフィルタhが、和信号の対応するサブバンドに適用される(表記を単純にするために、時間インデックスkは、遅延、倍率、およびフィルタでは無視される)。ICTDは、遅延を課すことによって合成され、ICLDは、スケーリングを課すことによって合成され、ICCは、デ・コリレーション・フィルタを課すことによって合成される。図8に示された処理は、各サブバンドに独立に適用される。
ICTD合成
遅延dは、次の式(12)に従って、ICTD τ1c(k)から決定される。
Figure 2008522243
基準チャネルの遅延dは、遅延dの最大の大きさが最小化されるように計算される。サブバンド信号がより小さく変更されるほど、アーチファクトが発生する危険が少ない。サブバンド・サンプリング・レートが、ICTD合成について十分に高い時間分解能を提供しない場合には、適切な全通過フィルタを使用することによって、遅延をより正確に課すことができる。
ICLD合成
出力サブバンド信号が、チャネルcと基準チャネル1との間で所望のICLD ΔL12(k)を有するためには、利得係数aが、次の式(13)を満足しなければならない。
Figure 2008522243
さらに、出力サブバンドは、全出力チャネルの電力の和が入力和信号の電力と等しくなるように正規化されることが好ましい。各サブバンドの総オリジナル信号電力が、和信号で保存されるので、この正規化は、各出力チャネルの絶対サブバンド電力がオリジナル・エンコーダ入力オーディオ信号の対応する電力を近似することをもたらす。これらの制約を与えられて、倍率aは、次の式(14)によって与えられる。
Figure 2008522243
ICC合成
ある種の実施形態で、ICC合成の目的は、ICTDおよびICLDに影響せずに、遅延およびスケーリングが適用された後のサブバンド間の相関を減らすことである。これは、ICTDおよびICLDが、平均変動が各サブバンド内で0になる(聴覚臨界帯域)ように周波数の関数として効果的に変更されるように、図8のフィルタhを指定することによって達成することができる。
図9に、ICTDおよびICLDが周波数の関数としてサブバンド内でどのように変更されるかを示す。ICTDおよびICLDの変動の振幅は、デ・コリレーションの度合を決定し、ICCの関数として制御される。ICTDが、滑らかに変更される(図9(a)に示されているように)が、ICLDが、ランダムに変更される(図9(b)に示されているように)ことに留意されたい。ICLDをICTDのように滑らかに変更することができるが、これは、結果のオーディオ信号のより多くの相関をもたらすはずである。
ICCを合成する、特にマルチチャネルICC合成に適する、もう1つの方法が、その教示が参照によって本明細書に組み込まれているC.Faller、「Parametric multi−channel audio coding:Synthesis of coherence cues」、IEEE Trans.on Speech and Audio Proc.、2003年でより詳細に説明されている。時間および周波数の関数として、ある量の人工的な後期残響が、所望のICCを達成するために出力チャネルのそれぞれに追加される。さらに、結果の信号のスペクトル包絡がオリジナル・オーディオ信号のスペクトル包絡に近づくように、スペクトル変更を適用することができる。
ステレオ信号(またはオーディオ・チャネル対)に関する他の関連するおよび関連しないICC合成技法が、その両方の教示が参照によって本明細書に組み込まれている、E.Schuijers、W.Oomen、B.den Brinker、およびJ.Breebaart、「Advances in parametric coding for high−quality audio」、Preprint 114th Conv.Aud.Eng.Soc.、2003年3月と、J.Engdegard、H.Purnhagen、J.Roden、およびL.Liljeryd、「Synthetic ambience in parametric stereo coding」、Preprint 117th Conv.Aud.Eng.Soc.、2004年5月とに提示されている。
C−to−E BCC
前に説明したように、BCCは、2つ以上の送出チャネルを用いて実施することができる。C個のオーディオ・チャネルを1つの単一(被送出)チャネルではなくE個のチャネルとして表す、C−to−E BCCと表されるBCCの変形形態を説明した。C−to−E BCCには、次の(少なくとも)2つの動機付けがある。
○1つの送出チャネルを用いるBCCは、ステレオ・オーディオ再生またはマルチチャネル・オーディオ再生のために既存のモノ・システムをアップグレードする後方互換性経路を提供する。アップグレードされたシステムは、さらにBCCサイド情報を送出しながら、既存のモノ・インフラストラクチャを介してBCCダウンミキシングされた和信号を送出する。C−to−E BCCは、C個のチャネルのオーディオの、E個のチャネルの後方互換性コーディングに適用可能である。
○C−to−E BCCは、被送出チャネルの個数の削減の異なる度合に関するスケーラビリティを導入する。送出されるオーディオ・チャネルが多いほど、オーディオ品質がよりよくなることが期待される。
ICTDキュー、ICLDキュー、およびICCキューを定義する方法など、C−to−E BCCの信号処理の詳細は、2004年1月20日に出願した米国特許出願第10/762100号(Faller 13−1)に記載されている。
外部的に供給されるダウンミックスとのコーディングの同期化
図2に、C個の入力チャネルがE個のダウンミキシングされたチャネルにダウンミキシングされ、このE個のダウンミキシングされたチャネルが、サイド情報としてのC個の入力チャネルから導出された空間的キュー(たとえば、ICTD、ICLD、および/またはICC)と一緒に送出/コーディングされる、C−to−E BCC方式を示す。例示的な5−to−2 BCC方式では、5つのサラウンド・チャネルが、ステレオにダウンミキシングされる。レガシ・レシーバは、ステレオを再生するが、機能強化された(すなわち、BCC対応の)レシーバは、サイド情報に基づいてBCC合成を実施して、5チャネル・サラウンド信号を回復する。
通常、ステレオ信号およびマルチチャネル(たとえば、サラウンド)信号が作られる時に、これらの信号は、スタジオ・エンジニアによって個別に最適化/ミキシングされる。図2のダウンミキサ206によって実施されるものなどのマルチチャネル信号の自動ダウンミキシングによって生成されるステレオ信号は、通常、スタジオ・エンジニアによる手動最適制作によって生成されるステレオ信号より劣る。レガシ・レシーバが高品質ステレオを再生できるようにするためには、1つの可能性は、ダウンミキサ206によって生成されるものなどのダウンミキシングされたステレオ信号ではなく、スタジオ・エンジニアによって生成されたステレオ信号などの外部的に供給されるステレオ信号を空間的キューと共に送出することである。
図10は、BCCエンコーダ1002とBCCデコーダ1004とを有するBCCオーディオ処理システム1000のブロック図である。BCCエスティメータ1008(図2のBCCエスティメータ208に類似する)は、マルチチャネル(たとえば、サラウンド)入力信号(x(n),…,x(n))からBCCサイド情報1010を生成し、エンコーダ1002は、そのBCCサイド情報を、マルチチャネル信号に対応する外部的に供給されるステレオ信号(y(n),y(n))と一緒にデコーダ1004に送出する。BCCシンセサイザ1012(図2のBCCシンセサイザに類似する)は、受け取ったBCCサイド情報1010を受け取ったステレオ信号(y(n),y(n))に適用して、マルチチャネル信号の合成された版
Figure 2008522243
を生成する。
マルチチャネル入力信号がBCCエスティメータ1008に供給されることに加えて、図10には、外部的に供給されるステレオ信号がBCCエスティメータ1008に印加されることも示されている。ある種の実施態様で、BCCエスティメータ1008は、BCCサイド情報を生成する際に、外部的に供給されるステレオ信号に絶対に頼らない。他の実施態様では、ある種の情況で、BCCエスティメータ1008が、たとえば、スタジオ・エンジニアリングされるダウンミキシング過程の結果として、外部的に供給されるステレオ信号がマルチチャネル入力信号と十分に異なる時に、BCCサイド情報を生成するのに、外部的に供給されるステレオ信号を使用する場合がある。
図10に示されたBCC方式は、外部的に供給されるステレオ信号が、マルチチャネル入力信号とよく同期化されていることを前提とする。これが、真ではない場合がある。ステレオ信号とマルチチャネル信号との間に遅延がある場合があるだけではなく、その遅延が、時間の関数として変化する場合がある。
図11は、本発明の一実施形態による、BCCエンコーダ1102とBCCデコーダ1104とを有するBCCオーディオ処理システム1100のブロック図である。図11からわかるように、図10のBCCエスティメータ1008に類似するBCCエスティメータ1108に加えて、BCCエンコーダ1102は、ダウンミキサ1106(図2のダウンミキサ206に類似する)と、固定遅延モジュール1114および1116と、遅延エスティメータ1118と、プログラマブル遅延モジュール1120とを含む。
ダウンミキサ1106は、マルチチャネル入力信号をダウンミキシングして、ダウンミキシングされたステレオ信号を生成し、このダウンミキシングされたステレオ信号は、固定遅延モジュール1114および1116からの外部的に供給されるステレオ信号の遅延された版と一緒に遅延エスティメータ1118に印加される。遅延エスティメータ1118は、この2つのステレオ信号を比較して、この2つのステレオ信号の間の遅延の推定値を生成する(たとえば、時間において適応式に、およびおそらくは異なる周波数帯について個別に)。その推定された遅延に基づいて、遅延エスティメータ1118は、制御信号を生成し、この制御信号は、この2つのステレオ信号の間の推定された遅延について補償するためにBCCエスティメータ1108によって生成されるBCCサイド情報にプログラマブル遅延モジュール1120によって適用される遅延の量を制御し、その結果、サイド情報1110が、デコーダ1104への送出について、遅延されたステレオ信号とよく同期化されるようになる。
固定遅延モジュール1114および1116によって適用される遅延は、(1)ダウンミキサ1106、BCCエスティメータ1108、および遅延エスティメータ1118に関連する処理遅延について補償し、(2)プログラマブル遅延モジュール1120によって適用される遅延が必ず正の遅延であることを保証するように設計される。
特定の実施態様に応じて、プログラマブル遅延モジュール1120は、必要に応じてキューをスキップするか繰り返すことによって、あるいは、より洗練されて、ある適切な補間技法(たとえば、線形補間)を適用することによって、BCCサイド情報に適用される遅延を調整することができる。理論上、代替の(より非実用的ではあるが)実施形態では、BCCサイド情報を圧縮しまたは展開するのではなく、BCCサイド情報と外部的に供給されるステレオ信号との相対タイミングを、ステレオ信号および/またはマルチチャネル入力信号を圧縮しまたは展開することによって調整することができる。
図12は、本発明の一実施形態による、2つのオーディオ波形z(n)とz(n)との間の遅延を推定するために遅延エスティメータ1118によって実施される処理を表すブロック図である。一実施態様で、z(n)は、図11のダウンミキサ1106によって生成されたダウンミキシングされたステレオ信号の特定のチャネル(たとえば、右チャネルまたは左チャネル)に対応するものとすることができ、その場合に、z(n)は、遅延された外部的に供給されるステレオ信号の対応するチャネルに対応する。もう1つの可能な実施態様では、z(n)は、図11のダウンミキサ1106によって生成されたダウンミキシングされたステレオ信号のチャネルの和に対応するものとすることができ、この場合に、z(n)は、遅延された外部的に供給されるステレオ信号のチャネルの対応する和に対応する。
図12で表されているように、各オーディオ波形は、対応するフィルタ・バンク(FB)1202によって、サブバンド領域に変換される。遅延推定ブロック1204は、これらのサブバンドのうちの1つまたは複数(おそらくはすべて)の電力の短時間推定値を生成し、ここで、時刻kのサブバンド電力推定値のベクトルを、Z(k)およびZ(k)と表す(代替案では、サブバンドの大きさの短時間推定値を使用することができる)。遅延推定ブロック1204は、次の式(15)に従って、正規化されたベクトル相互相関関数csz(d)を計算することによって、この2つの波形の間の時間的スペクトル的類似性を測定する。
Figure 2008522243
ここで、E{・}は、数学的期待値を表し、「・」は、ベクトル・ドット積演算子であり、dは、タイム・ラグ・インデックスである。
この2つの波形の間の遅延は、経時的に変化する可能性があるので、式(15)の短時間推定値γ(k,d)を、次の式(16)に従って計算することができる。
Figure 2008522243
ここで、
12(k,d)=αZ(k)・Z(k−d)+(1−α)a12(k−1,d)
11(k,d)=αZ(k−d)・Z(k−d)+(1−α)a11(k−1,d)
22(k,d)=αZ(k)・Z(k)+(1−α)a22(k−1,d)
であり、α∈[0,1]は、次の式(17)によって与えられる指数関数的に減衰する推定ウィンドウTの時定数を決定する、指定された定数である。
Figure 2008522243
ここで、fは、(ダウンサンプリングされた)サブバンド・サンプリング周波数を表す。
遅延推定ブロック1204は、次の式(18)に従って、正規化されたベクトル相互相関関数γ(k,d)の最大値のラグdとして遅延d(k)を推定する。
Figure 2008522243
計算された遅延d(k)の時間分解能が、サブバンド・サンプリング・インターバル1/fによって制限されることに留意されたい。
相互相関関数の正規化は、次の式(19)に従って、瞬間的な正規化された相互相関関数の最大値として定義される2つの波形の間の類似性の推定値(たとえば、コヒーレンスc12(n))を得るために導入される。
Figure 2008522243
品質を改善するために、コヒーレンスc12(n)が1に十分に近くはない場合に、外部的に供給されるステレオ信号がマルチチャネル・オーディオ内容に非常に似てはいないという仮定の下でよりよい結果が得られるように、BCCキューを調整することができる。
図12に表された処理は、2つのフルバンド・オーディオ波形に適用することができるが、代替実施態様では、この処理を、異なる周波数で異なる遅延を有するオーディオ信号に関して異なる周波数帯で独立に適用することができる。
本発明のある種の実施態様で、遅延エスティメータ1118が2つのステレオ信号の間のタイム・ラグの推定値を生成するために、1つのダウンミキシングされたステレオ・チャネルだけ(たとえば、右チャネルだけまたは左チャネルだけのいずれか)が、対応する遅延された外部的に供給されるステレオ・チャネルと共に遅延エスティメータ1118に供給される必要があることに留意されたい。代替案では、1つの遅延推定値を、左チャネルについて生成し、もう1つの推定値を、右チャネルについて生成することができる。その場合に、より大きいコヒーレンスc12(n)を有する遅延推定値を使用することができ、あるいは、この2つの遅延推定値の加重平均を計算することができ、ここで、重み付けは、2つの遅延推定値に関連するコヒーレンスの相対的な大きさの関数である。
説明された遅延推定アルゴリズムは、サブバンド信号の時間包絡の間の遅延を推定することに基づく。時間包絡(たとえば、電力値/大きさ値だけ)の使用は、このアルゴリズムを位相に鈍感にするので、このアルゴリズムは、オーディオ波形がかなり異なる時、たとえば、オーディオ効果がマルチチャネル・ステレオと外部的に供給されるステレオ信号との間で異なって処理される時に、堅牢である。
本発明をC−to−2 BCC方式の文脈で説明してきたが、本発明は、C>E≧1である任意の適切なC−to−E BCC方式で実施することができる。
さらなる代替実施形態
本発明を、キュー・コードが1つまたは複数のオーディオ・チャネル(すなわち、E個の被送出チャネル)と共に送出されるBCCコーディング方式の文脈で説明してきたが、代替実施形態では、キュー・コードを、被送出チャネルを既に有し、おそらくは他のBCCコードを既に有する場所(たとえば、デコーダまたはストレージ・デバイス)に送出することができる。
本発明を、BCCコーディング方式の文脈で説明してきたが、本発明は、オーディオ信号がデ・コリレートされる他のオーディオ処理システムまたは信号をデ・コリレートする必要がある他のオーディオ処理の文脈で実施することもできる。
本発明を、エンコーダが、時間領域の入力オーディオ信号を受け取り、時間領域の被送出オーディオ信号を生成し、デコーダが、時間領域の被送出オーディオ信号を受け取り、時間領域の再生オーディオ信号を生成する実施態様の文脈で説明してきたが、本発明は、それに限定されない。たとえば、他の実施態様では、入力オーディオ信号、被送出オーディオ信号、および再生オーディオ信号のうちのいずれか1つまたは複数を、周波数領域で表すことができる。
BCCエンコーダおよび/またはBCCデコーダを、テレビジョン配信または電子音楽配信、ムービー・シアター、放送、ストリーミング、および/または受信のためのシステムを含むさまざまな異なる応用例またはシステムと共に使用するかこれに組み込むことができる。これには、たとえば、地上波、衛星、ケーブル、インターネット、イントラネット、または物理的媒体(たとえば、コンパクト・ディスク、ディジタル多用途ディスク、半導体チップ、ハード・ドライブ、メモリ・カード、および類似物)を介する送出をエンコードし/デコードするシステムが含まれる。BCCエンコーダおよび/またはBCCデコーダを、たとえば、2つ以上の機械、プラットフォーム、もしくは媒体について発行することができる、娯楽(アクション、ロール・プレイ、ストラテジ、アドベンチャ、シミュレーション、レース、スポーツ、アーケード、トランプ、およびボード・ゲーム)および/または教育のためにユーザと対話することを意図された対話型ソフトウェア製品を含む、ゲームおよびゲーム・システムで使用することもできる。さらに、BCCエンコーダおよび/またはBCCデコーダを、オーディオ・レコーダ/プレイヤまたはCD−ROM/DVDシステムに組み込むことができる。BCCエンコーダおよび/またはBCCデコーダを、ディジタル・デコーディングを組み込んだPCソフトウェア・アプリケーション(たとえば、プレイヤ、デコーダ)およびディジタル・エンコーディング機能を組み込んだソフトウェア・アプリケーション(たとえば、エンコーダ、リッパ、レコーダ、およびジュークボックス)に組み込むこともできる。
本発明を、単一の集積回路(ASICまたはFPGAなど)、2つ以上チップ・モジュール、単一のカード、または2つ以上カード回路パックとしての可能な実施態様を含む、回路に基づくプロセスとして実施することができる。当業者に明白であるとおり、回路要素のさまざまな機能を、ソフトウェア・プログラム内の処理ステップとして実施することもできる。そのようなソフトウェアは、たとえば、ディジタル信号プロセッサ、マイクロコントローラ、または汎用コンピュータ内で使用することができる。
本発明は、方法およびこれらの方法を実践する装置の形で実施することができる。本発明は、フロッピ・ディスケット、CD−ROM、ハード・ドライブ、または任意の他の機械可読記憶媒体などの有形の媒体内で実施されたプログラム・コードの形で実施することもでき、ここで、そのプログラム・コードがコンピュータなどの機械にロードされ、その機械によって実行される時に、その機械は、本発明を実践する装置になる。本発明を、たとえば、記憶媒体に保管される、機械にロードされかつ/または機械によって実行される、あるいは電気的ワイヤリングもしくはケーブリングを介して、光ファイバを介して、または電磁放射を介してなどのある送出媒体または担体を介して送出されるいずれかのプログラム・コードの形で実施することもでき、ここで、そのプログラム・コードがコンピュータなどの機械にロードされ、その機械によって実行される時に、その機械は、本発明を実践する装置になる。汎用プロセッサで実施される時に、プログラム・コード・セグメントは、プロセッサと組み合わさって、特定の論理回路に似て動作する独自のデバイスを提供する。
本発明を、本発明の方法および/または装置を使用して生成される、媒体を介して電気的にまたは光学的に送出される信号値、磁気記録媒体内に保管された磁界変動などのビットストリームまたは他のシーケンスの形で実施することもできる。
さらに、本発明の性質を説明するために説明され、図示された詳細、材料、および部分の配置におけるさまざまな変更を、添付の特許請求の範囲で表される本発明の範囲から逸脱せずに当業者が作ることができることを理解されたい。
添付の特許請求の範囲の方法クレームの工程は、存在する場合に、対応するラベル付けを有する特定のシーケンスで列挙されるが、請求項の詳説がこれらの工程の一部またはすべてを実施する特定のシーケンスを他の形で暗示しない限り、これらの工程は、その特定のシーケンスで実施されることに限定されることを必ずしも意図されていない。
従来のバイノーラル信号シンセサイザを示す高水準ブロック図である。 包括的なバイノーラル・キュー・コーディング(BCC)オーディオ処理システムを示すブロック図である。 図2のダウンミキサに使用できるダウンミキサを示すブロック図である。 図2のデコーダに使用できるBCCシンセサイザを示すブロック図である。 本発明の一実施形態による図2のBCCエスティメータを示すブロック図である。 5チャネル・オーディオのICTDデータおよびICLDデータの生成を示す図である。 5チャネル・オーディオのICCデータの生成を示す図である。 単一の被送出和信号s(n)と空間的キューとを与えられてステレオ・オーディオ信号またはマルチチャネル・オーディオ信号を生成するのにBCCデコーダ内で使用できる、図4のBCCシンセサイザの実施態様を示すブロック図である。 ICTDおよびICLDが周波数の関数としてサブバンド内でどのように変更されるかを示す図である。 外部的に供給されるダウンミキシングされた信号と一緒にBCCサイド情報を送出するBCCオーディオ処理システムを示すブロック図である。 本発明の一実施形態によるBCCオーディオ処理システムを示すブロック図である。 本発明の一実施形態による、2つのオーディオ波形の間の遅延を推定するために図11の遅延エスティメータによって実施される処理を示すブロック図である。

Claims (24)

  1. オーディオ・チャネルをエンコードする方法であって、
    C個の入力チャネルの1つまたは複数のキュー・コードを生成することと、
    少なくとも1つのダウンミキシングされたチャネルを生成するために前記C個の入力チャネルをダウンミキシングすることと、
    前記少なくとも1つのダウンミキシングされたチャネルとE個の外部的に供給されるチャネルのうちの少なくとも1つとの間のタイム・ラグを推定することであって、C>E≧1である、推定することと、
    前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の同期化を改善するために、前記推定されたタイム・ラグに基づいて、前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の相対タイミングを調整することと、
    デコーダが前記1つまたは複数のキュー・コードに基づいて前記E個の外部的に供給されるチャネルのデコーディング中に合成処理を実行できるようにするために、前記E個の外部的に供給されるチャネルおよび前記1つまたは複数のキュー・コードを送出することと
    を含む方法。
  2. 前記C個の入力チャネルは、E個のダウンミキシングされたチャネルを生成するためにダウンミキシングされ、E>1であり、
    前記E個の外部的に供給されるチャネルと前記E個のダウンミキシングされたチャネルとの間の推定されたタイム・ラグは、各外部的に供給されるチャネルと対応するダウンミキシングされたチャネルとの間のチャネル間タイム・ラグを推定することによって生成される
    請求項1に記載の発明。
  3. 前記推定されたタイム・ラグは、2つ以上のチャネル間タイム・ラグの加重平均に基づく請求項2に記載の発明。
  4. 前記推定されたタイム・ラグは、最大のコヒーレンスを有する対応するチャネルの対の前記チャネル間タイム・ラグに対応する請求項2に記載の発明。
  5. 前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の前記相対タイミングは、必要に応じてキュー・コードをスキップするか繰り返すことによって調整される請求項1に記載の発明。
  6. 前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の前記相対タイミングは、必要に応じてキュー・コードの間で補間することによって調整される請求項1に記載の発明。
  7. 前記少なくとも1つのダウンミキシングされたチャネルと前記少なくとも1つの外部的に供給されるチャネルとの間の前記タイム・ラグは、
    この2つのチャネルをサブバンド領域に変換することと、
    前記サブバンド領域で1つまたは複数のサブバンドのチャネル電力または大きさの短時間推定値を計算することと、
    前記短時間推定値に基づいて、正規化されたベクトル相互相関関数を計算することと、
    前記正規化されたベクトル相互相関関数を最大にする遅延値に基づいて前記タイム・ラグを選択することと
    によって推定される請求項1に記載の発明。
  8. 前記正規化されたベクトル相互相関関数csz(d)は、
    Figure 2008522243
    によって与えられ、ここで、
    E{・}は、数学的期待値を表し、
    (k)は、時刻kの前記2つのチャネルのうちの一方の短期間推定値のベクトルであり、
    (k−d)は、時刻(k−d)の他方のチャネルの前記短期間推定値のベクトルであり、
    「・」は、ベクトル・ドット積演算子であり、
    dは、タイム・ラグ・インデックスである
    請求項7に記載の発明。
  9. 前記正規化されたベクトル相互相関関数γ(k,d)は、
    Figure 2008522243
    によって与えられ、ここで、
    12(k,d)=αZ(k)・Z(k−d)+(1−α)a12(k−1,d)
    11(k,d)=αZ(k−d)・Z(k−d)+(1−α)a11(k−1,d)
    22(k,d)=αZ(k)・Z(k)+(1−α)a22(k−1,d)
    (k)は、時刻kの前記2つのチャネルのうちの一方の前記短期間推定値のベクトルであり、
    (k−d)は、時刻(k−d)の他方のチャネルの前記短期間推定値のベクトルであり、
    α∈[0,1]は、両端を含む0と1との間の指定された定数である
    請求項7に記載の発明。
  10. 前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の前記相対タイミングの調整が正の時間遅延を伴うことを保証するために、前記E個の外部的に供給されるチャネルを遅延させることをさらに含む請求項1に記載の発明。
  11. オーディオ・チャネルをエンコードする装置であって、
    C個の入力チャネルの1つまたは複数のキュー・コードを生成する手段と、
    少なくとも1つのダウンミキシングされたチャネルを生成するために前記C個の入力チャネルをダウンミキシングする手段と、
    前記少なくとも1つのダウンミキシングされたチャネルとE個の外部的に供給されるチャネルのうちの少なくとも1つとの間のタイム・ラグを推定する手段であって、C>E≧1である、推定する手段と、
    前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の同期化を改善するために、前記推定されたタイム・ラグに基づいて、前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の相対タイミングを調整する手段と、
    デコーダが前記1つまたは複数のキュー・コードに基づいて前記E個の外部的に供給されるチャネルのデコーディング中に合成処理を実行できるようにするために、前記E個の外部的に供給されるチャネルおよび前記1つまたは複数のキュー・コードを送出する手段と
    を含む装置。
  12. オーディオ・チャネルをエンコードする装置であって、
    C個の入力チャネルの1つまたは複数のキュー・コードを生成するように適合されたコード・エスティメータと、
    少なくとも1つのダウンミキシングされたチャネルを生成するために前記C個の入力チャネルをダウンミキシングするように適合されたダウンミキサと、
    前記少なくとも1つのダウンミキシングされたチャネルとE個の外部的に供給されるチャネルのうちの少なくとも1つとの間のタイム・ラグを推定するように適合された遅延エスティメータであって、C>E≧1である、遅延エスティメータと、
    前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の同期化を改善するために、前記推定されたタイム・ラグに基づいて、前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の相対タイミングを調整するように適合されたプログラマブル遅延モジュールと
    を含み、前記装置は、デコーダが前記1つまたは複数のキュー・コードに基づいて前記E個の外部的に供給されるチャネルのデコーディング中に合成処理を実行できるようにするために、前記E個の外部的に供給されるチャネルおよび前記1つまたは複数のキュー・コードを送出するように適合される
    装置。
  13. 前記装置は、ディジタル・ビデオ・レコーダ、ディジタル・オーディオ・レコーダ、コンピュータ、衛星送信器、ケーブル送信器、地上波放送送信器、ホーム・エンターテイメント・システム、およびムービー・シアター・システムからなる群から選択されたシステムであり、
    前記システムは、前記コード・エスティメータ、前記ダウンミキサ、前記遅延エスティメータ、および前記プログラマブル遅延モジュールを含む
    請求項12に記載の装置。
  14. 前記ダウンミキサは、E個のダウンミキシングされたチャネルを生成するために前記C個の入力チャネルをダウンミキシングするように適合され、E>1であり、
    前記遅延エスティメータは、前記E個の外部的に供給されるチャネルと前記E個のダウンミキシングされたチャネルとの間の推定されたタイム・ラグを、各外部的に供給されるチャネルと対応するダウンミキシングされたチャネルとの間のチャネル間タイム・ラグを推定することによって生成するように適合される
    請求項12に記載の発明。
  15. 前記遅延エスティメータは、2つ以上のチャネル間タイム・ラグの加重平均に基づいて前記推定されたタイム・ラグを生成するように適合される請求項14に記載の発明。
  16. 前記遅延エスティメータは、最大のコヒーレンスを有する対応するチャネルの対の前記チャネル間タイム・ラグに対応する前記推定されたタイム・ラグを選択するように適合される請求項14に記載の発明。
  17. 前記プログラマブル遅延モジュールは、必要に応じてキュー・コードをスキップするか繰り返すことによって、前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の前記相対タイミングを調整するように適合される請求項12に記載の発明。
  18. 前記プログラマブル遅延モジュールは、必要に応じてキュー・コードの間で補間することによって、前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の前記相対タイミングを調整するように適合される請求項12に記載の発明。
  19. 前記遅延エスティメータは、前記少なくとも1つのダウンミキシングされたチャネルと前記少なくとも1つの外部的に供給されるチャネルとの間の前記タイム・ラグを、
    この2つのチャネルをサブバンド領域に変換することと、
    前記サブバンド領域で1つまたは複数のサブバンドのチャネル電力または大きさの短時間推定値を計算することと、
    前記短時間推定値に基づいて、正規化されたベクトル相互相関関数を計算することと、
    前記正規化されたベクトル相互相関関数を最大にする遅延値に基づいて前記タイム・ラグを選択することと
    によって推定するように適合される請求項12に記載の発明。
  20. 前記正規化されたベクトル相互相関関数csz(d)は、
    Figure 2008522243
    によって与えられ、ここで、
    E{・}は、数学的期待値を表し、
    (k)は、時刻kの前記2つのチャネルのうちの一方の短期間推定値のベクトルであり、
    (k−d)は、時刻(k−d)の他方のチャネルの前記短期間推定値のベクトルであり、
    「・」は、ベクトル・ドット積演算子であり、
    dは、タイム・ラグ・インデックスである
    請求項19に記載の発明。
  21. 前記正規化されたベクトル相互相関関数γ(k,d)は、
    Figure 2008522243
    によって与えられ、ここで、
    12(k,d)=αZ(k)・Z(k−d)+(1−α)a12(k−1,d)
    11(k,d)=αZ(k−d)・Z(k−d)+(1−α)a11(k−1,d)
    22(k,d)=αZ(k)・Z(k)+(1−α)a22(k−1,d)
    (k)は、時刻kの前記2つのチャネルのうちの一方の前記短期間推定値のベクトルであり、
    (k−d)は、時刻(k−d)の他方のチャネルの前記短期間推定値のベクトルであり、
    α∈[0,1]は、両端を含む0と1との間の指定された定数である
    請求項19に記載の発明。
  22. 前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の前記相対タイミングの調整が正の時間遅延を伴うことを保証するために、前記E個の外部的に供給されるチャネルを遅延させるように適合されたE個の遅延モジュールをさらに含む請求項12に記載の発明。
  23. その上にプログラム・コードをエンコードされた機械可読媒体であって、前記プログラム・コードが機械によって実行される時に、前記機械は、オーディオ・チャネルをエンコードする方法を実施し、前記方法は、
    C個の入力チャネルの1つまたは複数のキュー・コードを生成することと、
    少なくとも1つのダウンミキシングされたチャネルを生成するために前記C個の入力チャネルをダウンミキシングすることと、
    前記少なくとも1つのダウンミキシングされたチャネルとE個の外部的に供給されるチャネルのうちの少なくとも1つとの間のタイム・ラグを推定することであって、C>E≧1である、推定することと、
    前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の同期化を改善するために、前記推定されたタイム・ラグに基づいて、前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の相対タイミングを調整することと、
    デコーダが前記1つまたは複数のキュー・コードに基づいて前記E個の外部的に供給されるチャネルのデコーディング中に合成処理を実行できるようにするために、前記E個の外部的に供給されるチャネルおよび前記1つまたは複数のキュー・コードを送出することと
    を含む機械可読媒体。
  24. C個の入力チャネルの1つまたは複数のキュー・コードを生成することと、
    少なくとも1つのダウンミキシングされたチャネルを生成するために前記C個の入力チャネルをダウンミキシングすることと、
    前記少なくとも1つのダウンミキシングされたチャネルとE個の外部的に供給されるチャネルのうちの少なくとも1つとの間のタイム・ラグを推定することであって、C>E≧1である、推定することと、
    前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の同期化を改善するために、前記推定されたタイム・ラグに基づいて、前記E個の外部的に供給されるチャネルと前記1つまたは複数のキュー・コードとの間の相対タイミングを調整することと、
    エンコードされたオーディオ・ビットストリームを形成するために、前記E個の外部的に供給されるチャネルおよび前記1つまたは複数のキュー・コードを組み合わせることと
    によって生成されるエンコードされたオーディオ・ビットストリーム。
JP2007544407A 2004-11-30 2005-11-22 外部的に供給されるダウンミックスとの空間オーディオのパラメトリック・コーディングの同期化 Active JP5017121B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US63180804P 2004-11-30 2004-11-30
US60/631,808 2004-11-30
PCT/US2005/042771 WO2006060278A1 (en) 2004-11-30 2005-11-22 Synchronizing parametric coding of spatial audio with externally provided downmix

Publications (2)

Publication Number Publication Date
JP2008522243A true JP2008522243A (ja) 2008-06-26
JP5017121B2 JP5017121B2 (ja) 2012-09-05

Family

ID=36011656

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007544407A Active JP5017121B2 (ja) 2004-11-30 2005-11-22 外部的に供給されるダウンミックスとの空間オーディオのパラメトリック・コーディングの同期化

Country Status (6)

Country Link
US (1) US7761304B2 (ja)
EP (1) EP1817766B1 (ja)
JP (1) JP5017121B2 (ja)
KR (1) KR101236259B1 (ja)
DE (1) DE602005017302D1 (ja)
WO (1) WO2006060278A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009543142A (ja) * 2006-07-07 2009-12-03 フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ 複数のパラメータ的に符号化された音源を合成するための概念
JP2010506230A (ja) * 2006-10-12 2010-02-25 エルジー エレクトロニクス インコーポレイティド ミックス信号処理装置及びその方法

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4988717B2 (ja) 2005-05-26 2012-08-01 エルジー エレクトロニクス インコーポレイティド オーディオ信号のデコーディング方法及び装置
EP1905002B1 (en) * 2005-05-26 2013-05-22 LG Electronics Inc. Method and apparatus for decoding audio signal
KR100644715B1 (ko) * 2005-12-19 2006-11-10 삼성전자주식회사 능동적 오디오 매트릭스 디코딩 방법 및 장치
US8111830B2 (en) * 2005-12-19 2012-02-07 Samsung Electronics Co., Ltd. Method and apparatus to provide active audio matrix decoding based on the positions of speakers and a listener
BRPI0707136A2 (pt) * 2006-01-19 2011-04-19 Lg Electronics Inc método e aparelho para processamento de um sinal de mìdia
CA2637722C (en) * 2006-02-07 2012-06-05 Lg Electronics Inc. Apparatus and method for encoding/decoding signal
KR100754220B1 (ko) * 2006-03-07 2007-09-03 삼성전자주식회사 Mpeg 서라운드를 위한 바이노럴 디코더 및 그 디코딩방법
JP4875142B2 (ja) * 2006-03-28 2012-02-15 テレフオンアクチーボラゲット エル エム エリクソン(パブル) マルチチャネル・サラウンドサウンドのためのデコーダのための方法及び装置
EP1853092B1 (en) 2006-05-04 2011-10-05 LG Electronics, Inc. Enhancing stereo audio with remix capability
US8379868B2 (en) * 2006-05-17 2013-02-19 Creative Technology Ltd Spatial audio coding based on universal spatial cues
US8374365B2 (en) * 2006-05-17 2013-02-12 Creative Technology Ltd Spatial audio analysis and synthesis for binaural reproduction and format conversion
US9697844B2 (en) * 2006-05-17 2017-07-04 Creative Technology Ltd Distributed spatial audio decoder
US8712061B2 (en) * 2006-05-17 2014-04-29 Creative Technology Ltd Phase-amplitude 3-D stereo encoder and decoder
US8391513B2 (en) * 2007-10-16 2013-03-05 Panasonic Corporation Stream synthesizing device, decoding unit and method
KR101438389B1 (ko) * 2007-11-15 2014-09-05 삼성전자주식회사 오디오 매트릭스 디코딩 방법 및 장치
WO2009075511A1 (en) 2007-12-09 2009-06-18 Lg Electronics Inc. A method and an apparatus for processing a signal
DE102008009024A1 (de) * 2008-02-14 2009-08-27 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum synchronisieren von Mehrkanalerweiterungsdaten mit einem Audiosignal und zum Verarbeiten des Audiosignals
DE102008009025A1 (de) * 2008-02-14 2009-08-27 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Berechnen eines Fingerabdrucks eines Audiosignals, Vorrichtung und Verfahren zum Synchronisieren und Vorrichtung und Verfahren zum Charakterisieren eines Testaudiosignals
KR101614160B1 (ko) 2008-07-16 2016-04-20 한국전자통신연구원 포스트 다운믹스 신호를 지원하는 다객체 오디오 부호화 장치 및 복호화 장치
CN102292769B (zh) 2009-02-13 2012-12-19 华为技术有限公司 一种立体声编码方法和装置
CN101848412B (zh) 2009-03-25 2012-03-21 华为技术有限公司 通道间延迟估计的方法及其装置和编码器
US8848925B2 (en) * 2009-09-11 2014-09-30 Nokia Corporation Method, apparatus and computer program product for audio coding
CN102986254B (zh) * 2010-07-12 2015-06-17 华为技术有限公司 音频信号产生装置
TWI462087B (zh) 2010-11-12 2014-11-21 Dolby Lab Licensing Corp 複數音頻信號之降混方法、編解碼方法及混合系統
EP2671221B1 (en) * 2011-02-03 2017-02-01 Telefonaktiebolaget LM Ericsson (publ) Determining the inter-channel time difference of a multi-channel audio signal
EP2565667A1 (en) 2011-08-31 2013-03-06 Friedrich-Alexander-Universität Erlangen-Nürnberg Direction of arrival estimation using watermarked audio signals and microphone arrays
US8804971B1 (en) 2013-04-30 2014-08-12 Dolby International Ab Hybrid encoding of higher frequency and downmixed low frequency content of multichannel audio
US9818412B2 (en) 2013-05-24 2017-11-14 Dolby International Ab Methods for audio encoding and decoding, corresponding computer-readable media and corresponding audio encoder and decoder
CN104700839B (zh) * 2015-02-26 2016-03-23 深圳市中兴移动通信有限公司 多声道声音采集的方法、装置、手机及系统
EP3424048A1 (en) * 2016-03-03 2019-01-09 Nokia Technologies OY Audio signal encoder, audio signal decoder, method for encoding and method for decoding

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003090208A1 (en) * 2002-04-22 2003-10-30 Koninklijke Philips Electronics N.V. pARAMETRIC REPRESENTATION OF SPATIAL AUDIO
WO2003090207A1 (en) * 2002-04-22 2003-10-30 Koninklijke Philips Electronics N.V. Parametric multi-channel audio representation
JP2004078183A (ja) * 2002-06-24 2004-03-11 Agere Systems Inc オーディオ信号のマルチチャネル/キュー符号化/復号化
JP2004535145A (ja) * 2001-07-10 2004-11-18 コーディング テクノロジーズ アクチボラゲット 低ビットレートオーディオ符号化用の効率的かつスケーラブルなパラメトリックステレオ符号化

Family Cites Families (79)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US678236A (en) * 1901-04-04 1901-07-09 Gen Electric Electric measuring instrument.
US4236039A (en) * 1976-07-19 1980-11-25 National Research Development Corporation Signal matrixing for directional reproduction of sound
CA1268546A (en) 1985-08-30 1990-05-01 Shigenobu Minami Stereophonic voice signal transmission system
DE3639753A1 (de) * 1986-11-21 1988-06-01 Inst Rundfunktechnik Gmbh Verfahren zum uebertragen digitalisierter tonsignale
DE3943879B4 (de) * 1989-04-17 2008-07-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Digitales Codierverfahren
CA2077662C (en) 1991-01-08 2001-04-17 Mark Franklin Davis Encoder/decoder for multidimensional sound fields
DE4209544A1 (de) 1992-03-24 1993-09-30 Inst Rundfunktechnik Gmbh Verfahren zum Übertragen oder Speichern digitalisierter, mehrkanaliger Tonsignale
US5956352A (en) * 1992-04-24 1999-09-21 Digital Equipment Corporation Adjustable filter for error detecting and correcting system
US5703999A (en) 1992-05-25 1997-12-30 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Process for reducing data in the transmission and/or storage of digital signals from several interdependent channels
DE4236989C2 (de) * 1992-11-02 1994-11-17 Fraunhofer Ges Forschung Verfahren zur Übertragung und/oder Speicherung digitaler Signale mehrerer Kanäle
US5371799A (en) * 1993-06-01 1994-12-06 Qsound Labs, Inc. Stereo headphone sound source localization system
US5463424A (en) 1993-08-03 1995-10-31 Dolby Laboratories Licensing Corporation Multi-channel transmitter/receiver system providing matrix-decoding compatible signals
JP3227942B2 (ja) 1993-10-26 2001-11-12 ソニー株式会社 高能率符号化装置
DE4409368A1 (de) * 1994-03-18 1995-09-21 Fraunhofer Ges Forschung Verfahren zum Codieren mehrerer Audiosignale
JP3277679B2 (ja) * 1994-04-15 2002-04-22 ソニー株式会社 高能率符号化方法と高能率符号化装置及び高能率復号化方法と高能率復号化装置
JPH0969783A (ja) 1995-08-31 1997-03-11 Nippon Steel Corp オーディオデータ符号化装置
US5956674A (en) 1995-12-01 1999-09-21 Digital Theater Systems, Inc. Multi-channel predictive subband audio coder using psychoacoustic adaptive bit allocation in frequency, time and over the multiple channels
US5771295A (en) 1995-12-26 1998-06-23 Rocktron Corporation 5-2-5 matrix system
WO1997029555A1 (en) 1996-02-08 1997-08-14 Philips Electronics N.V. N-channel transmission, compatible with 2-channel transmission and 1-channel transmission
US7012630B2 (en) * 1996-02-08 2006-03-14 Verizon Services Corp. Spatial sound conference system and apparatus
US5825776A (en) 1996-02-27 1998-10-20 Ericsson Inc. Circuitry and method for transmitting voice and data signals upon a wireless communication channel
US5889843A (en) 1996-03-04 1999-03-30 Interval Research Corporation Methods and systems for creating a spatial auditory environment in an audio conference system
US5812971A (en) 1996-03-22 1998-09-22 Lucent Technologies Inc. Enhanced joint stereo coding method using temporal envelope shaping
KR0175515B1 (ko) 1996-04-15 1999-04-01 김광호 테이블 조사 방식의 스테레오 구현 장치와 방법
US6987856B1 (en) * 1996-06-19 2006-01-17 Board Of Trustees Of The University Of Illinois Binaural signal processing techniques
US6697491B1 (en) * 1996-07-19 2004-02-24 Harman International Industries, Incorporated 5-2-5 matrix encoder and decoder system
JP3707153B2 (ja) 1996-09-24 2005-10-19 ソニー株式会社 ベクトル量子化方法、音声符号化方法及び装置
SG54379A1 (en) * 1996-10-24 1998-11-16 Sgs Thomson Microelectronics A Audio decoder with an adaptive frequency domain downmixer
SG54383A1 (en) * 1996-10-31 1998-11-16 Sgs Thomson Microelectronics A Method and apparatus for decoding multi-channel audio data
US5912976A (en) * 1996-11-07 1999-06-15 Srs Labs, Inc. Multi-channel audio enhancement system for use in recording and playback and methods for providing same
US6131084A (en) * 1997-03-14 2000-10-10 Digital Voice Systems, Inc. Dual subframe quantization of spectral magnitudes
US6111958A (en) 1997-03-21 2000-08-29 Euphonics, Incorporated Audio spatial enhancement apparatus and methods
US6236731B1 (en) 1997-04-16 2001-05-22 Dspfactory Ltd. Filterbank structure and method for filtering and separating an information signal into different bands, particularly for audio signal in hearing aids
US5946352A (en) 1997-05-02 1999-08-31 Texas Instruments Incorporated Method and apparatus for downmixing decoded data streams in the frequency domain prior to conversion to the time domain
US5860060A (en) * 1997-05-02 1999-01-12 Texas Instruments Incorporated Method for left/right channel self-alignment
US6108584A (en) * 1997-07-09 2000-08-22 Sony Corporation Multichannel digital audio decoding method and apparatus
DE19730130C2 (de) * 1997-07-14 2002-02-28 Fraunhofer Ges Forschung Verfahren zum Codieren eines Audiosignals
US5890125A (en) * 1997-07-16 1999-03-30 Dolby Laboratories Licensing Corporation Method and apparatus for encoding and decoding multiple audio channels at low bit rates using adaptive selection of encoding method
US6021389A (en) * 1998-03-20 2000-02-01 Scientific Learning Corp. Method and apparatus that exaggerates differences between sounds to train listener to recognize and identify similar sounds
US6016473A (en) 1998-04-07 2000-01-18 Dolby; Ray M. Low bit-rate spatial coding method and system
TW444511B (en) 1998-04-14 2001-07-01 Inst Information Industry Multi-channel sound effect simulation equipment and method
JP3657120B2 (ja) * 1998-07-30 2005-06-08 株式会社アーニス・サウンド・テクノロジーズ 左,右両耳用のオーディオ信号を音像定位させるための処理方法
JP2000152399A (ja) * 1998-11-12 2000-05-30 Yamaha Corp 音場効果制御装置
US6408327B1 (en) * 1998-12-22 2002-06-18 Nortel Networks Limited Synthetic stereo conferencing over LAN/WAN
US6282631B1 (en) * 1998-12-23 2001-08-28 National Semiconductor Corporation Programmable RISC-DSP architecture
US6539357B1 (en) 1999-04-29 2003-03-25 Agere Systems Inc. Technique for parametric coding of a signal containing information
JP4438127B2 (ja) 1999-06-18 2010-03-24 ソニー株式会社 音声符号化装置及び方法、音声復号装置及び方法、並びに記録媒体
US6823018B1 (en) * 1999-07-28 2004-11-23 At&T Corp. Multiple description coding communication system
US6434191B1 (en) * 1999-09-30 2002-08-13 Telcordia Technologies, Inc. Adaptive layered coding for voice over wireless IP applications
US6614936B1 (en) * 1999-12-03 2003-09-02 Microsoft Corporation System and method for robust video coding using progressive fine-granularity scalable (PFGS) coding
US6498852B2 (en) * 1999-12-07 2002-12-24 Anthony Grimani Automatic LFE audio signal derivation system
US6845163B1 (en) * 1999-12-21 2005-01-18 At&T Corp Microphone array for preserving soundfield perceptual cues
WO2001049073A2 (en) * 1999-12-24 2001-07-05 Koninklijke Philips Electronics N.V. Multichannel audio signal processing device
US6782366B1 (en) 2000-05-15 2004-08-24 Lsi Logic Corporation Method for independent dynamic range control
US6850496B1 (en) * 2000-06-09 2005-02-01 Cisco Technology, Inc. Virtual conference room for voice conferencing
US6973184B1 (en) * 2000-07-11 2005-12-06 Cisco Technology, Inc. System and method for stereo conferencing over low-bandwidth links
US7236838B2 (en) 2000-08-29 2007-06-26 Matsushita Electric Industrial Co., Ltd. Signal processing apparatus, signal processing method, program and recording medium
JP3426207B2 (ja) 2000-10-26 2003-07-14 三菱電機株式会社 音声符号化方法および装置
TW510144B (en) 2000-12-27 2002-11-11 C Media Electronics Inc Method and structure to output four-channel analog signal using two channel audio hardware
US6885992B2 (en) * 2001-01-26 2005-04-26 Cirrus Logic, Inc. Efficient PCM buffer
US7006636B2 (en) 2002-05-24 2006-02-28 Agere Systems Inc. Coherence-based audio coding and synthesis
US7116787B2 (en) * 2001-05-04 2006-10-03 Agere Systems Inc. Perceptual synthesis of auditory scenes
US20030035553A1 (en) 2001-08-10 2003-02-20 Frank Baumgarte Backwards-compatible perceptual coding of spatial cues
US6934676B2 (en) * 2001-05-11 2005-08-23 Nokia Mobile Phones Ltd. Method and system for inter-channel signal redundancy removal in perceptual audio coding
US7668317B2 (en) * 2001-05-30 2010-02-23 Sony Corporation Audio post processing in DVD, DTV and other audio visual products
CN1705980A (zh) 2002-02-18 2005-12-07 皇家飞利浦电子股份有限公司 参数音频编码
US20030187663A1 (en) * 2002-03-28 2003-10-02 Truman Michael Mead Broadband frequency translation for high frequency regeneration
CA2473343C (en) 2002-05-03 2012-03-27 Harman International Industries, Incorporated Multichannel downmixing device
US6940540B2 (en) * 2002-06-27 2005-09-06 Microsoft Corporation Speaker detection and tracking using audiovisual data
RU2363116C2 (ru) * 2002-07-12 2009-07-27 Конинклейке Филипс Электроникс Н.В. Аудиокодирование
JP4649208B2 (ja) * 2002-07-16 2011-03-09 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ オーディオコーディング
BR0305555A (pt) 2002-07-16 2004-09-28 Koninkl Philips Electronics Nv Método e codificador para codificar um sinal de áudio, aparelho para fornecimento de um sinal de áudio, sinal de áudio codificado, meio de armazenamento, e, método e decodificador para decodificar um sinal de áudio codificado
EP1568010B1 (en) 2002-11-28 2006-12-13 Koninklijke Philips Electronics N.V. Coding an audio signal
WO2004072956A1 (en) 2003-02-11 2004-08-26 Koninklijke Philips Electronics N.V. Audio coding
FI118247B (fi) 2003-02-26 2007-08-31 Fraunhofer Ges Forschung Menetelmä luonnollisen tai modifioidun tilavaikutelman aikaansaamiseksi monikanavakuuntelussa
CN1765153A (zh) 2003-03-24 2006-04-26 皇家飞利浦电子股份有限公司 表示多信道信号的主和副信号的编码
US20050069143A1 (en) * 2003-09-30 2005-03-31 Budnikov Dmitry N. Filtering for spatial audio rendering
US7394903B2 (en) 2004-01-20 2008-07-01 Fraunhofer-Gesellschaft Zur Forderung Der Angewandten Forschung E.V. Apparatus and method for constructing a multi-channel output signal or for generating a downmix signal
US7742913B2 (en) * 2005-10-24 2010-06-22 Lg Electronics Inc. Removing time delays in signal paths

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004535145A (ja) * 2001-07-10 2004-11-18 コーディング テクノロジーズ アクチボラゲット 低ビットレートオーディオ符号化用の効率的かつスケーラブルなパラメトリックステレオ符号化
WO2003090208A1 (en) * 2002-04-22 2003-10-30 Koninklijke Philips Electronics N.V. pARAMETRIC REPRESENTATION OF SPATIAL AUDIO
WO2003090207A1 (en) * 2002-04-22 2003-10-30 Koninklijke Philips Electronics N.V. Parametric multi-channel audio representation
JP2005523479A (ja) * 2002-04-22 2005-08-04 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ パラメータによるマルチチャンネルオーディオ表示
JP2005523480A (ja) * 2002-04-22 2005-08-04 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 空間的オーディオのパラメータ表示
JP2004078183A (ja) * 2002-06-24 2004-03-11 Agere Systems Inc オーディオ信号のマルチチャネル/キュー符号化/復号化

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009543142A (ja) * 2006-07-07 2009-12-03 フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ 複数のパラメータ的に符号化された音源を合成するための概念
JP2010506230A (ja) * 2006-10-12 2010-02-25 エルジー エレクトロニクス インコーポレイティド ミックス信号処理装置及びその方法

Also Published As

Publication number Publication date
KR20070086849A (ko) 2007-08-27
DE602005017302D1 (de) 2009-12-03
EP1817766B1 (en) 2009-10-21
KR101236259B1 (ko) 2013-02-22
WO2006060278A1 (en) 2006-06-08
JP5017121B2 (ja) 2012-09-05
EP1817766A1 (en) 2007-08-15
US7761304B2 (en) 2010-07-20
US20090150161A1 (en) 2009-06-11

Similar Documents

Publication Publication Date Title
JP5017121B2 (ja) 外部的に供給されるダウンミックスとの空間オーディオのパラメトリック・コーディングの同期化
JP5106115B2 (ja) オブジェクト・ベースのサイド情報を用いる空間オーディオのパラメトリック・コーディング
JP4856653B2 (ja) 被送出チャネルに基づくキューを用いる空間オーディオのパラメトリック・コーディング
AU2005324210C1 (en) Compact side information for parametric coding of spatial audio
CA2582485C (en) Individual channel shaping for bcc schemes and the like

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110902

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110912

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120514

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120611

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150615

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5017121

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250