JP2012502570A - マイクロホン信号に基づいて一組の空間手がかりを供給する装置、方法およびコンピュータ・プログラムと2チャンネルのオーディオ信号および一組の空間手がかりを供給する装置 - Google Patents

マイクロホン信号に基づいて一組の空間手がかりを供給する装置、方法およびコンピュータ・プログラムと2チャンネルのオーディオ信号および一組の空間手がかりを供給する装置 Download PDF

Info

Publication number
JP2012502570A
JP2012502570A JP2011526399A JP2011526399A JP2012502570A JP 2012502570 A JP2012502570 A JP 2012502570A JP 2011526399 A JP2011526399 A JP 2011526399A JP 2011526399 A JP2011526399 A JP 2011526399A JP 2012502570 A JP2012502570 A JP 2012502570A
Authority
JP
Japan
Prior art keywords
channel
signal
information
spatial
microphone
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011526399A
Other languages
English (en)
Other versions
JP5520300B2 (ja
Inventor
クリストフ フォーラー
Original Assignee
フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ filed Critical フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ
Publication of JP2012502570A publication Critical patent/JP2012502570A/ja
Application granted granted Critical
Publication of JP5520300B2 publication Critical patent/JP5520300B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S1/00Two-channel systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S5/00Pseudo-stereo systems, e.g. in which additional channel signals are derived from monophonic signals by means of phase shifting, time delay or reverberation 
    • H04S5/02Pseudo-stereo systems, e.g. in which additional channel signals are derived from monophonic signals by means of phase shifting, time delay or reverberation  of the pseudo four-channel type, e.g. in which rear channel signals are derived from two-channel stereo signals
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Acoustics & Sound (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Stereophonic System (AREA)
  • Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)
  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)

Abstract

2チャンネルのマイクロホン信号に基づいて、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給するための装置は、信号解析器と空間補助情報生成器を含む。信号解析器は、成分エネルギー情報が2チャンネルのマイクロホン信号の直接音成分の、そして、2チャンネルのマイクロホン信号の拡散音成分のエネルギーの推定値を表すように、そして、方向情報が2チャンネルのマイクロホン信号の直接音成分が生じる方向の推定値を表すように、2チャンネルのマイクロホン信号に基づいて成分エネルギー情報および方向情報を得るように構成される。空間補助情報生成器は、成分エネルギー情報および方向情報を2本以上のチャンネルを有するアップミックスオーディオ信号と関連した空間手がかりの一組を表している空間手がかり情報に写像するように構成される。
【選択図】図1

Description

本発明による実施形態は、2チャンネルのマイクロホン信号に基づいて2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給する装置に関する。本発明による別の実施形態は、対応する方法に、そして、対応するコンピュータ・プログラムに関する。本発明による別の実施形態は、処理された、または、未処理の2チャンネルのオーディオ信号および一組の空間手がかりを供給する装置に関する。
本発明による他の実施形態は、空間オーディオ符号器のためのマイクロホンの前工程に関する。
以下に、オーディオ信号のパラメータ表示の分野へのイントロダクションが与えられる。
ステレオおよびサラウンドオーディオ信号のパラメータ表示は、ここ数十年にわたって開発されて、成熟した技術水準に達した。インテンシティステレオ(Intensity stereo)(R.ウォール、R.ヴェルトハイス、「ステレオ・デジタルオーディオ信号のサブバンド符号化」 IEEE会報 ICASSP 1991、ページ3601〜3604、1991)、(J.ヘール、K.ブランデンブルグ、D.レーデラー、「インテンシティステレオ符号化」、第96回AESコンベンション 1994年2月、アムステルダム(プレプリント 3799)1994)は、MP3(ISO/IEC、最高約1.5Mbit/sのデジタル蓄積メディアのための動画および関連オーディオの符号化 ―パート3:オーディオ ISO/IEC 11172―3 国際規格、1993、jTC1/SC29/WG11)、および、MPEG−2 AAC(ISO/IEC、動画および関連オーディオ情報のジェネリック符号化 ―パート7:音楽データの信号圧縮方式 ISO/IEC 13818―7 国際規格、1997、jTC1/SC29/WG11)、他のオーディオ符号器で用いられる。インテンシティステレオは、最初のパラメータステレオ符号化技術であり、ダウンミックスやレベル差情報によりステレオ信号を示している。バイノーラルキュー符号化(BCC:Binaural Cue Coding)(C.ファーラー、F.バウムガルテ、「知覚的なパラメータ表示を用いた空間オーディオ符号化の効率的表現」、IEEE会報、オーディオ及び音響への信号処理応用研究会、2001年10月、ページ199〜202)、(C.ファーラー、F.バウムガルテ、「バイノーラルキュー符号化 −パート2:方式及び用途」、音声及びオーディオ、IEEE通信 11巻、No.6、ページ520〜531、2003年11月)は、オーディオ符号化のためというより、むしろパラメトリックステレオ/サラウンド符号化のために異なるフィルタバンクを使用することで、オーディオの品質の大幅な改善を可能にした(F.バウムガルテ、C.ファーラー、「バイノーラルキュー符号化がインテンシティステレオ符号化より良い理由」、オーディオ技術協会第112回総会配布冊子、2002年5月)。すなわち、それは、従来のオーディオ符号器への前・後処理装置として見られる。更に、それは、レベル差だけというよりは、パラメータ化のための追加の空間手がかり(spatial cues)、すなわち時間差やチャンネル間コヒーレンスを使用する。IEC/ISO MPEGにて規格化されたパラメトリックステレオ(PS:Parametric Stereo)(E.シュイヤース、J.ブリーバールト、H.パルンハーゲン、J.エングデガルト、「低煩雑性パラメトリックステレオ符号化」、オーディオ技術協会第117回総会配布冊子、2004年5月)は、時間差とは対照的に位相差を用い、それは時間遅延合成よりも人為影響のない合成が得られる。叙述されたパラメトリックステレオ概念は、また、BCCによるサラウンドサウンドに適用された。MP3サラウンド(J.ヘーレ、C.ファーラー、C.エルテル、J.ヒルペルト、A.ホエルツァーおよびC.スペンガー、「MP3 Surround:マルチチャンネル・オーディオの効率的かつ互換性を持つ符号化」、オーディオ技術協会第116回総会配布冊子、2004年5月)、(C.ファーラー、「異なる再生フォーマットと互換性を持つ空間オーディオ符号化」、オーディオ技術協会第117回総会配布冊子、2004年10月)やMPEGサラウンド(J.ヘーレ、K.クジュルリング、J.ブリーバールト、C.ファーラー、S.ディッシュ、H.パルンハーゲン、J.コッペンス、J.ヒルペルト、J.レーデン、W.オーメン、K.リンツマイヤー、K.S.チョン、「MPEGサラウンド ―効率的かつ互換性を持つマルチチャンネル・オーディオ符号化のためのiso/MPEG基準」、オーディオ技術協会第122回総会配布冊子、2007年5月)のオーディオ符号器は、ステレオ・ダウンミックスに基づいた空間合成を導入した。BCCやMP3サラウンド、MPEGサラウンドのようなパラメータ・マルチチャンネル・オーディオ符号器は、しばしば、空間オーディオ符号器(SAC:Spatial Audio Coder)と称される。
近年、注目すべき空間インパルス応答生成(SIRR:spatial impulse response rendering)(J.メリマー、V.プルキ、「空間インパルス応答の生成i:分析と統合」、オーディオ技術協会誌、53巻、No.12、2005)、(V.プルキ、J.メリマー、「空間インパルス応答の生成ii:拡散音の再生および試聴テスト」、オーディオ技術協会誌、54巻、No.1、2006)という技術が提案され、それは、B-フォーマット信号から得られた空間情報を加えた単一のオーディオチャンネル(B‐フォーマットのWシグナル(M.A.ガーゾン、「Periphony(取り囲み音響):幅―高さサウンド再生」オーディオ技術協会誌、21巻、No.1、ページ2〜10、1973)、(K.ファーラー、「サウンドフィールドマイクロホン」、ワイヤレスワールド、ページ48〜50、1979年10月)に基づいて(マイクロホンの位置に対する)いかなる方向のインパルス応答も合成する。この技術は、また、後にインパルス応答とは対照的にオーディオ信号にも適用され、方向オーディオ符号化(DirAC:directional audio coding)(V.プルキ、C.ファーラー、「方向オーディオ符号化:フィルタバンクおよびSTFTベースの設計」、オーディオ技術協会第120回総会配布冊子、2006年5月、プレプリント6658)と呼ばれた。方向オーディオ符号化は、直接マイクロホン信号に応用できるSACとしてみなすことができる。様々なマイクロホン構造が、方向オーディオ符号化を用いた使用のために提案されている(J.アホネン、G.D.ガルド、M.カリンガー、F.キュッヒ、V.プルキ、R.シュルツ―アムリング、「方向オーディオ符号化のアプリケーションのための平面マイクロホンアレイの分析および調整」、オーディオ技術協会第124回総会配布冊子、2008年5月)、(J.アホネン、M.カリンガー、F.キュッヒ、V.プルキ、R.シュルツ―アムリング、「線形マイクロホン配列を有する音場および音再生のアプリケーションの方向性の分析」、オーディオ技術協会第124回総会配布冊子、2008年5月)。方向オーディオ符号化は、いつもB-フォーマット信号に基づいており、様々なマイクロホン構造の信号は、B-フォーマットを得るために処理され、それは、そのとき方向オーディオ符号化の方向解析において使用される。
R.ウォール、R.ヴェルトハイス、「ステレオ・デジタルオーディオ信号のサブバンド符号化」 IEEE会報 ICASSP 1991、ページ3601〜3604、1991(R. Waal and R. Veldhuis, "Subband coding of stereophonic digital audio signals," Proc. IEEE ICASSP 1991, pp. 3601−3604, 1991.) J.ヘール、K.ブランデンブルグ、D.レーデラー、「インテンシティステレオ符号化」、第96回AESコンベンション 1994年2月、アムステルダム(プレプリント 3799)1994(J. Herre, K. Brandenburg, and D. Lederer, "Intensity stereo coding," 96th AES Conv., Feb. 1994, Amsterdam (preprint 3799), 1994.) ISO/IEC、最高約1.5Mbit/sのデジタル蓄積メディアのための動画および関連オーディオの符号化 ―パート3:オーディオ ISO/IEC 11172―3 国際規格、1993、jTC1/SC29/WG11(ISO/IEC, Coding of moving pictures and associated audio for digital storage media at up to about 1.5 Mbit/s − Part 3: Audio.ISO/IEC 11172−3 International Standard, 1993, jTC1/SC29/WG11.) ISO/IEC、動画および関連オーディオ情報のジェネリック符号化 ―パート7:音楽データの信号圧縮方式 ISO/IEC 13818―7 国際規格、1997、jTC1/SC29/WG11(ISO/IEC, Generic coding of moving pictures and associated audio information − Part 7: Advanced Audio Coding.ISO/IEC 13818−7 International Standard, 1997, jTC1/SC29/WG11.) C.ファーラー、F.バウムガルテ、「知覚的なパラメータ表示を用いた空間オーディオ符号化の効率的表現」、IEEE会報、オーディオ及び音響への信号処理応用研究会、2001年10月、ページ199〜202(C. Faller and F. Baumgarte, "Efficient representation of spatial audio using perceptual parametrization," in Proc. IEEE Workshop on Appl. Of Sig.Proc. to Audio and Acoust., Oct. 2001, pp. 199−202.) C.ファーラー、F.バウムガルテ、「バイノーラルキュー符号化 −パート2:方式及び用途」、音声及びオーディオ、IEEE通信 11巻、No.6、ページ520〜531、2003年11月(C. Faller and F. Baumgarte, "Binaural Cue Coding − Part II:Schemes and applications,"IEEE Trans. on Speech and Audio Proc., vol. 11, no. 6, pp. 520−531, Nov. 2003.) F.バウムガルテ、C.ファーラー、「バイノーラルキュー符号化がインテンシティステレオ符号化より良い理由」、オーディオ技術協会第112回総会配布冊子、2002年5月(F. Baumgarte and C. Faller, "Why Binaural Cue Coding is better than Intensity Stereo Coding," in Preprint 112th Conv.Aud.Eng. Soc., May 2002) E.シュイヤース、J.ブリーバールト、H.パルンハーゲン、J.エングデガルト、「低煩雑性パラメトリックステレオ符号化」、オーディオ技術協会第117回総会配布冊子、2004年5月(E. Schuijers, J. Breebaart, H. Purnhagen, and J. Engdegard, "Low complexity parametric stereo coding," in Preprint 117th Conv.Aud.Eng. Soc., May 2004.) J.ヘーレ、C.ファーラー、C.エルテル、J.ヒルペルト、A.ホエルツァーおよびC.スペンガー、「MP3 Surround:マルチチャンネル・オーディオの効率的かつ互換性を持つ符号化」、オーディオ技術協会第116回総会配布冊子、2004年5月(J. Herre, C. Faller, C. Ertel, J. Hilpert, A. Hoelzer, and C. Spenger, "MP3 Surround:Efficient and compatible coding of multi−channel audio," in Preprint 116th Conv.Aud.Eng. Soc., May 2004.) C.ファーラー、「異なる再生フォーマットと互換性を持つ空間オーディオ符号化」、オーディオ技術協会第117回総会配布冊子、2004年10月(C. Faller, "Coding of spatial audio compatible with different playback formats," in Preprint 117th Conv.Aud.Eng. Soc., October 2004.) J.ヘーレ、K.クジュルリング、J.ブリーバールト、C.ファーラー、S.ディッシュ、H.パルンハーゲン、J.コッペンス、J.ヒルペルト、J.レーデン、W.オーメン、K.リンツマイヤー、K.S.チョン、「MPEGサラウンド ―効率的かつ互換性を持つマルチチャンネル・オーディオ符号化のためのiso/MPEG基準」、オーディオ技術協会第122回総会配布冊子、2007年5月(J. Herre, K.Kjoerling, J. Breebaart, C. Faller, S. Disch, H. Purnhagen, J. Koppens, J. Hilpert, J.Roeden, W. Oomen, K. Linzmeier, and K. S. Chong, "Mpeg surround − the iso/mpeg standard for efficient and compatible multi−channel audio coding," in Preprint 122th Conv.Aud.Eng. Soc., May 2007.) J.メリマー、V.プルキ、「空間インパルス応答の生成i:分析と統合」、オーディオ技術協会誌、53巻、No.12、2005(J. Merimaa and V. Pulkki, "Spatial impulse response rendering i:Analysis and synthesis," J. Aud.Eng. Soc., vol. 53, no. 12, 2005.) V.プルキ、J.メリマー、「空間インパルス応答の生成ii:拡散音の再生および試聴テスト」、オーディオ技術協会誌、54巻、No.1、2006(V. Pulkki and J. Merimaa, "Spatial impulse response rendering ii:Reproduction of diffuse sound and listening tests," J. Aud.Eng. Soc., vol. 54, no. 1, 2006.) M.A.ガーゾン、「Periphony(取り囲み音響):幅―高さサウンド再生」オーディオ技術協会誌、21巻、No.1、ページ2〜10、1973(M. A. Gerzon, "Periphony:Width−Height Sound Reproduction," J. Aud.Eng. Soc., vol. 21, no. 1, pp. 2−10, 1973.) K.ファーラー、「音場マイクロホン」、ワイヤレスワールド、ページ48〜50、1979年10月(K. Farrar, "Soundfield microphone," Wireless World, pp. 48−50, Oct. 1979.) V.プルキ、C.ファーラー、「方向性オーディオ符号化:フィルタバンクおよびSTFTベースの設計」、オーディオ技術協会第120回総会配布冊子、2006年5月、プレプリント6658(V. Pulkki and C. Faller, "Directional audio coding:Filterbank and STFTbased design," in Preprint 120th Conv.Aud.Eng. Soc., May 2006, p. preprint 6658.) J.アホネン、G.D.ガルド、M.カリンガー、F.キュッヒ、V.プルキ、R.シュルツ―アムリング、「方向オーディオ符号化のアプリケーションのための平面マイクロホン配列の分析および調整」、オーディオ技術協会第124回総会配布冊子、2008年5月(J. Ahonen, G. D. Galdo, M. Kallinger, F.Kuech, V. Pulkki, and R. Schultz−Amling, "Analysis and adjustment of planar microphone arrays for application in directional audio coding," in Preprint 124th Conv.Aud.Eng. Soc., May. 2008.) J.アホネン、M.カリンガー、F.キュッヒ、V.プルキ、R.シュルツ―アムリング、「線形マイクロホン配列を有する音場および音再生のアプリケーションの方向性の分析」、オーディオ技術協会第124回総会配布冊子、2008年5月(J. Ahonen, M. Kallinger, F.Kuech, V. Pulkki, and R. Schultz−Amling, "Directional analysis of sound field with linear microphone array and applications in sound reproduction," in Preprint 124th Conv.Aud.Eng. Soc., May. 2008.). J.ブラウエルト、空間聴覚:人間の音の定位の精神物理学、修正編集.ケンブリッジ、マサチューセッツ州、USA:The MIT Press、1997(J. Blauert, Spatial Hearing: The Psychophysics of Human Sound Localization, revised ed. Cambridge, Massachusetts, USA: The MIT Press, 1997) J.M.アーグル、「マルチチャンネルステレオマトリクスシステム:概要」、音声及びオーディオ IEEE通信、19巻、No.7、ページ552〜559、1971年7月(J. M. Eargle, "Multichannel stereo matrix systems: An overview," IEEE Trans. on Speech and Audio Proc., vol. 19, no. 7, pp. 552−559, July 1971.) K.ガンドレー、「サラウンドサウンドのための新規なアクティブマトリクス復号器」、AES会報第19回、国際会議、2001年6月(K. Gundry, "A new active matrix decoder for surround sound," in Proc. AES 19th Int. Conf., June 2001.) C.ファーラー、「改良されたマトリクスサラウンド」、オーディオ技術協会第30回国際会議配布冊子、2007年3月(C. Faller, "Matrix surround revisited," in Proc. 30th Int. Conv. Aud. Eng. Soc., March 2007.) C.ファーラー、「ステレオ信号のマルチスピーカ再生」、オーディオ技術協会誌、54巻、No.1、ページ1051〜1064、2006年11月(C. Faller,"Multi−loudspeaker playback of stereo signals," J. of the Aud. Eng. Soc., vol. 54, no. 11, pp. 1051−1064, Nov. 2006.) C.ファーラー、「高指向式2カプセルベースのマイクロホンシステム」、オーディオ技術協会第123回総会配布冊子、2007年10月(C. Faller,"A highly directive 2−capsule based microphone system," in Preprint 123rd Conv. Aud. Eng. Soc., Oct. 2007.) ITU(rec.ITU―R BS.775、画像添付あり又はなしのマルチチャンネルステレオサウンドシステム、ITU(1993)、http://www.itu.org.)ITU (Rec. ITU−R BS.775, Multi−Channel Stereophonic Sound System with or without Accompanying Picture. ITU, 1993, http://www.itu.org.) S.ヘイキン、適応フィルタ理論(第三版)、プレンティス・ホール、1996(S. Haykin, Adaptive Filter Theory (third edition). Prentice Hall, 1996.) V.プルキ、「ベクトルベースの振幅パンニングを用いた仮想音源位置決め」、オーディオ技術協会誌、45巻、ページ456〜466、1997年6月(V. Pulkki, "Virtual sound source positioning using Vector Base Amplitude Panning," J. Audio Eng. Soc., vol. 45, pp. 456−466, June 1997.) D.グリージンガー、「実施におけるステレオおよびサラウンドパンニング」、オーディオ技術協会第112回総会配布冊子、2002年5月(D. Griesinger, "Stereo and surround panning in practice," in Preprint 112th Conv. Aud. Eng. Soc., May 2002.)
上記を考慮して、空間手がかり情報を得るための計算処理上効率的な構想を生み出し、その一方で、音響変換のための労力を合理的に小さく保つことが本発明の目的である。
この問題は、2チャンネルのマイクロホン信号に基づいて2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給するための請求項1に記載の装置、2チャンネルのオーディオ信号と2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給するための請求項10に記載の装置、2チャンネルのマイクロホン信号に基づいて処理された2チャンネルのオーディオ信号と2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給するための請求項11に記載の装置、2チャンネルのマイクロホン信号に基づいて2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給するための請求項12に記載の方法および請求項13に記載のコンピュータ・プログラムによって解決される。
本発明による実施形態は、2チャンネルのマイクロホン信号に基づいて2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給する装置を製作する。その装置は、成分エネルギー情報が2チャンネルのマイクロホン信号の直接音成分の、そして、2チャンネルのマイクロホン信号の拡散音成分のエネルギーの推定値を表すように、そして、方向情報が2チャンネルのマイクロホン信号の直接音成分が生じる方向の推定値を表すように、2チャンネルのマイクロホン信号に基づいて、成分エネルギー情報と方向情報を得るように構成された信号解析器を含む。その装置は、また、2チャンネルのマイクロホン信号の成分エネルギー情報と2チャンネルのマイクロホン信号の方向情報を、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを表す空間手がかり情報に写像するように構成された空間補助情報生成器を含む。
この実施形態は、直接音成分と拡散音成分のエネルギーおよび方向情報の推定値が2チャンネルの信号から取り出され、空間手がかりに写像される場合、アップミックスオーディオ信号の空間手がかりが特に効率的な方法で算出できるという発見に基づく。というのは、成分エネルギー情報および方向情報は、一般的に2本のチャンネルだけを有するオーディオ信号から適度な計算量によって取り出すことができるが、それでいて、2本以上のチャンネルを有するアップミックス信号と関連した空間手がかりの計算のための非常に良い基準を構成することができるからである。換言すれば、成分エネルギー情報および方向情報が2チャンネル信号に基づく場合であっても、この情報は中間の量として実際にアップミックスオーディオチャンネルを使用することなく、空間手がかりの直接の計算にかなり適している。
好ましい実施形態において、空間補助情報生成器は、方向情報を、方向に依存している直接音からサラウンドオーディオチャンネルへの写像を表している一組の利得係数に写像するように構成される。加えて、空間補助情報生成器は、成分エネルギー情報および利得係数に基づいて、2本以上のサラウンドチャンネルの推定された強度を表しているチャンネル強度推定値を得るように構成される。この場合、空間補助情報生成器は、チャンネル強度推定値に基づいてアップミックスオーディオ信号と関連した空間手がかりを決定するように好ましくは構成される。この実施形態は、アップミックスオーディオ信号を表していて、空間手がかり情報の計算のための基礎を形成している、意味があるチャンネル推定値を得ることが可能であるように、2チャンネルのマイクロホン信号が、方向情報を、方向に依存している方向音からサラウンドオーディオチャンネルへの写像を表している一組の利得係数に、良い結果を有して写像できる方向情報の取り出しを可能にするという発見に基づく。
好ましい実施形態において、空間補助情報生成器は、成分エネルギー情報および利得係数に基づいて、アップミックス信号の異なるチャンネル間の相関を表しているチャンネル相関情報を得るようにも構成される。この実施形態において、空間補助情報生成器は、一つ以上のチャンネル強度推定およびチャンネル相関情報に基づいてアップミックス信号と関連した空間手がかりを決定するように好ましくは構成される。チャンネル相関情報が(アップミックス信号のチャンネルに拡散音の分布を反映しているいくつかの定数を除いて)いかなる別の変数も使用せずに好ましくは計算できるように成分エネルギー情報および利得係数が、チャンネル相関情報の計算に充分である情報を構成することが分かった。更に、チャンネル強度推定値とチャンネル相関情報が知られるとすぐに、アップミックス信号の相互チャンネルの相関を表している空間手がかりを決定することが容易に可能であることが認められた。
他の好ましい実施形態において、空間補助情報生成器は、チャンネルの強度推定を得るために、2チャンネルのマイクロホン信号の直接音成分の強度の推定値および2チャンネルのマイクロホン信号の拡散音成分の強度の推定値を線形に結合するように構成される。この実施形態において、空間補助情報生成器は、利得係数に依存して、そして、方向情報に依存して、直接音成分の強度の推定に重みを加えるように好ましくは構成される。選択的に、空間補助情報生成器は、アップミックスオーディオ信号の異なるチャンネルに拡散音成分の分布を反映している一定値に依存して拡散音成分の強度推定値に重みを加えるように更に構成されることが可能である。成分エネルギー情報から、非常に単純な数学的演算、すなわち、線形結合によってチャンネル強度推定値を引き出すことが可能であることが認められた。ここで、効率的に2チャンネルのマイクロホン信号から引き出すことが可能である利得係数は、適当な重み係数を構成する。
本発明による他の実施形態は、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した2チャンネルのオーディオ信号および一組の空間手がかりを供給する装置を製作する。その装置は、第1の指向性マイクロホンおよび第2の指向性マイクロホンを含んでいるマイクロホン装置を含む。そこにおいて、第1の指向性マイクロホンおよび第2の指向性マイクロホンは好ましくはわずか30センチメートル(またはたったの5センチメートル)の間隔をあけ、そして、第2の指向性マイクロホンの方向性の特性が第1の指向性マイクロホンの方向特性の回転したバージョンであるように、第1の指向性マイクロホンおよび第2の指向性マイクロホンは方向を定められる。2チャンネルのオーディオ信号を供給するためのその装置は、また、上記のように、2チャンネルのマイクロホン信号に基づいて、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給する装置を含む。アップミックスオーディオ信号と関連した一組の空間手がかりを供給するためのその装置は、2チャンネルのマイクロホン信号として第1および第2の指向性マイクロホンのマイクロホン信号を受けて、それに基づいて空間手がかりの一組を供給するように好ましくは構成される。2チャンネルのオーディオ信号を供給するためのその装置は、第1および第2の指向性マイクロホンのマイクロホン信号、あるいは、その処理されたバージョンを2チャンネルのオーディオ信号として、供給するように構成される2チャンネルのオーディオ信号プロバイダも含む。本発明によれば、この実施形態は、マイクロホンの方向特性が互いに対して回転されたものである場合、小距離を有するマイクロホンが適当な空間手がかり情報を供給するために使用できるという発見に基づく。このように、比較的小さい物理的な配置に基づいて、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した、意味がある空間手がかりを計算することが可能であることが認められた。特に、2チャンネルのマイクロホン信号を供給している2つのマイクロホンが比較的小さい距離間隔(例えば、30センチメートルを上回っていない間隔)で配置されて、結果的に非常に似た拡散音情報を含む場合、空間手がかり情報の効率的な計算を可能にする成分エネルギー情報および方向情報は低い労力で引き出すことができることが分かった。更に、異なる方向特性は直接音および拡散音との間の分離を可能にするので、互いに対して回転された方向特性を有する指向性マイクロホンの使用法が成分エネルギー情報および方向情報の計算を可能にすることが分かった。
本発明による他の実施形態は、2チャンネルのマイクロホン信号に基づいて2本以上のチャンネルを有するアップミックス信号と関連した、処理された2チャンネルのオーディオ信号および一組の空間手がかりを供給する装置を作製する。その処理された2チャンネルのオーディオ信号を供給するための装置は、2チャンネルのマイクロホン信号に基づいて、上記のように2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給する装置を含む。処理された2チャンネル信号および一組の空間手がかりを供給するための装置は、2チャンネルのマイクロホン信号に基づいて処理された2チャンネルのオーディオ信号を供給するように構成された2チャンネルのオーディオ信号プロバイダを含む。2チャンネルのオーディオ信号プロバイダは、処理された2チャンネルのオーディオ信号のうちの第1の処理されたオーディオ信号を得るために、1つ以上の第1のマイクロホン信号のスケーリングファクタを使用して、2チャンネルのマイクロホン信号の第1のオーディオ信号をスケールするように好ましくは構成される。2チャンネルのオーディオ信号プロバイダは、また、処理された2チャンネルのオーディオ信号のうちの第2の処理されたオーディオ信号を得るために、1つ以上の第2のマイクロホン信号のスケーリングファクタを使用して、2チャンネルのマイクロホン信号の第2のオーディオ信号をスケールするようにも好ましくは構成される。2チャンネルのオーディオ信号プロバイダは、一組の空間手がかりを供給するための装置の信号解析器によって供給された成分エネルギー情報に基づいて、1つ以上の第1のマイクロホン信号のスケーリングファクタおよび1つ以上の第2のマイクロホン信号のスケーリングファクタを割り出すように好ましくは構成される。結果として、空間手がかりおよびマイクロホン信号のスケーリングファクタの両方が成分エネルギー情報によって決定される。この実施形態は、一組空間手がかりの計算のための、そして、マイクロホン信号の適当なスケーリングのための信号解析器によって供給される成分エネルギー情報を使用することが効率的であるという考えに基づく。ここにおいて、マイクロホン信号を適当にスケールすることは、結果として、マイクロホン信号および空間手がかりの適合をもたらす。その結果、処理されたマイクロホン信号および空間手がかりを含んでいる複合情報は、所望の空間オーディオ符号化の工業規格(例えばMPEGサラウンド)に適合し、それによって、従来の空間オーディオ符号化復号器(例えば従来のMPEGサラウンド復号器)上のオーディオ内容を再生するという可能性を供給する。
本発明の他の実施形態は、2チャンネルのマイクロホン信号に基づいて2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給する方法を創作する。
本発明によるさらに他の実施形態は、方法を実行するためのコンピュータ・プログラムを創作する。
本発明による実施形態は、同封された図を参照にして、続いて説明される。
図1は、本発明の一実施形態に従った、2チャンネルのマイクロホン信号に基づいて、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給するための装置のブロック略図を示す。 図2は、本発明の他の実施例に従った、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給するための装置のブロック略図を示す。 図3は、本発明の他の実施形態に従った、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給するための装置のブロック略図を示す。 図4は、本発明の実施例において使用できる2つの双指向性マイクロホンの方向応答性のグラフ表示を示す。 図5aは、双指向性ステレオマイクロホンのための音響の到達の方向の関数として、左右間の振幅比のグラフ表示を示す。 図5bは、双指向性ステレオマイクロホンのための音響の到達の方向の関数として、全出力のグラフ表示を示す。 図6は、本発明のいくつかの実施形態において使用できる2つのカージオイドのマイクロホンの方向応答性のグラフ表示を示す。 図7aは、カージオイドのステレオマイクロホンのための音響の到達の方向の関数として、左右間の振幅比のグラフ表示を示す。 図7bは、カージオイドのステレオマイクロホンのための音響の到達の方向の関数として、全出力の図示を示す。 図8は、本発明のいくつかの実施形態において使用できる2つのスーパーカージオイドのマイクロホンの方向応答性のグラフ表示を示す。 図9aは、スーパーカージオイドのステレオマイクロホンのための音響の到達の方向の関数として、左右間の振幅比のグラフ表示を示す。 図9bは、スーパーカージオイドのステレオマイクロホンのための音響の到達の方向の関数として、全出力のグラフ表示を示す。 図10aは、カージオイドのステレオマイクロホンのための音響の到達の方向の関数として、利得修正のグラフ表示を示す。 図10bは、カージオイドのステレオマイクロホンのための音響の到達の方向の関数として、全出力(実線:利得修正なし、破線:利得修正あり)のグラフ表示を示す。 図11aは、スーパーカージオイドのステレオマイクロホンのための音響の到達の方向の関数として、利得修正のグラフ表示を示す。 図11bは、スーパーカージオイドのステレオマイクロホンのための音響の到達の方向の関数として、全出力(実線:利得修正なし、破線:利得修正あり)のグラフ表示を示す。 図12は、本発明の他の実施形態に従った、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給する装置のブロック略図を示す。 図13は、ステレオマイクロホン信号をSAC互換のダウンミックスおよび補助情報に変換する符号器と対応する(従来の)SAC復号器のブロック略図を示す。 図14は、ステレオマイクロホン信号をSAC互換の空間補助情報に変換する符号器のブロック略図を示し、また、ダウンミックス処理を有する対応するSAC復号器のブロック略図を示す。 図15は、SACダウンミックスおよびSAC空間補助情報がステレオマイクロホン信号の解析処理によって得られることを特徴とする、ステレオマイクロホン信号を直接供給することができるブラインドSAC復号器のブロック略図を示す。 図16は、本発明の一実施形態に従った一組の空間手がかりを供給する方法のフローチャートを示す。
図1は、2チャンネルのマイクロホン信号に基づいて2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりに供給する装置100のブロック略図を示す。装置100は2チャンネルのマイクロホン信号を受けるように構成される。そして、それは、例えば、第1のチャンネル信号110(また、x1によって指定される)および第2のチャンネル信号112(また、x2によって指定される)を含みうる。装置100は、空間手がかり情報120を供給するように更に構成される。
装置100は、第1のチャンネル信号110および第2のチャンネル信号112を受けるように構成された信号解析器130を含む。信号解析器130は、2チャンネルのマイクロホン信号に基づいて、すなわち、第1のチャンネル信号110および第2のチャンネル信号112に基づいて、成分エネルギー情報132および方向情報134を得るように構成される。好ましくは、信号解析器130は、成分エネルギー情報132が2チャンネルのマイクロホン信号の直接音成分の、そして、2チャンネルのマイクロホン信号の拡散音成分のエネルギーの推定値を表すように、そして、方向情報134が2チャンネルのマイクロホン信号110、112の直接音成分が生じる方向の推定値を表すように、成分エネルギー情報132および方向情報134を得るように構成される。
装置100は、また、成分エネルギー情報132および方向情報134を受けるように、そして、それらに基づいて空間手がかり情報120を供給するように構成された空間補助情報生成器140を含む。好ましくは、空間補助情報生成器140は、2チャンネルのマイクロホン信号110、112の成分エネルギー情報132および2チャンネルのマイクロホン信号110、112の方向情報134を空間手がかり情報120に写像するように構成される。したがって、空間手がかり情報120が2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを表すように、空間補助情報120は得られる。
このように、装置120は、2チャンネルのマイクロホン信号に基づいて、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した空間手がかり情報の計算処理上非常に効率的な計算を可能にする。信号解析器130は、2チャンネルのマイクロホン信号から、大量の情報、すなわち、直接音成分のエネルギーの推定値および拡散音成分のエネルギーの推定値を表している成分エネルギー情報と2チャンネルのマイクロホン信号の直接音成分が生じる方向の推定値を表している方向情報を得ることができる。2チャンネルのマイクロホン信号110、112に基づいて信号解析器によって得ることができるこの情報は、2本以上のチャンネルを有するアップミックスオーディオ信号に関してさえ空間手がかり情報を引き出すのに十分であることが分かった。重要なことに、成分エネルギー132および方向情報134が、中間量として実際にアップミックスオーディオチャンネルを使用することなしで、空間手がかり情報120を直接決定するのに十分であることが分かった。
以下に、装置100のいくつかの拡張が、図2および3を参照として説明される。
図2は、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した2チャンネルのオーディオ信号および一組の空間手がかりを供給する装置200のブロック略図を示す。装置200は、第1のチャンネル信号212および第2のチャンネル信号214を含んでいる2チャンネルのマイクロホン信号を供給するように構成されたマイクロホン装置210を含む。図1に関して説明されたように、装置200は、2チャンネルのマイクロホン信号に基づいて2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給する装置100を更に含む。装置100は、その入力信号として、マイクロホン装置210によって供給される第1のチャンネル信号212および第2のチャンネル信号214を受けるように構成される。装置100は、空間手がかり情報120と同一でもありうる空間手がかり情報220を供給するように更に構成される。装置200は、マイクロホン装置210によって供給された第1のチャンネル信号212および第2のチャンネル信号214を受けるように、そして、第1のチャンネルのマイクロホン信号212および第2のチャンネルのマイクロホン信号214またはその処理されたバージョンを2チャンネルオーディオ信号232として供給するように構成された、2チャンネルオーディオ信号プロバイダ230を更に含む。
マイクロホンアレイ210は、第1の指向性マイクロホン216と第2の指向性マイクロホン218を含む。第1の指向性マイクロホン216および第2の指向性マイクロホン218は、好ましくはわずか30センチメートルの間隔で置かれる。したがって、第1の指向性マイクロホン216および第2の指向性マイクロホン218によって受ける信号は、強く相関しており、そのことが信号解析器130によって成分エネルギー情報および方向情報の計算のために有益であると分かった。しかし、第2の指向性マイクロホン218の方向特性219が第1の指向性マイクロホン216の方向特性217の回転されたバージョンであるように、第1の指向性マイクロホン216および第2の指向性マイクロホン218は方向を合わせられる。したがって、第1のチャンネルのマイクロホン信号212および第2のチャンネルのマイクロホン信号214は、(マイクロホン216、218の空間的近接のため)強く相関しているが、(指向性マイクロホン216、218の異なる方向特性217、219のため)異なったものである。特に、ほぼ一定方向からのマイクロホン装置210への指向性の信号の入射によって、時間的に一定の方向に依存する振幅比(または強度比)を有する第1のチャンネルのマイクロホン信号212および第2のチャンネルのマイクロホン信号214の強く相関している信号成分が生じる。時間的に変化する方向からのマイクロホン装置210への周囲のオーディオ信号の入射によって、重要な相関を有するが、時間的に振幅比(または強度比)が変動する第1のチャンネルのマイクロホン信号212および第2のチャンネルのマイクロホン信号214の信号成分が生じる。したがって、マイクロホン装置210は、2チャンネルのマイクロホン信号212、214を供給する。そして、それは、マイクロホン216、218が間隔をつめて置かれる場合であっても、装置100の信号解析器130が直接音および拡散音を区別することを可能にする。このように、装置200は、空間的にコンパクトな形で実施でき、それでいて、2本以上のチャンネルを有する2チャンネルのアップミックス信号と関連した空間手がかりを供給することが可能であるオーディオ信号プロバイダを構成する。空間手がかり220は、サラウンドサウンド出力信号を供給するために、空間オーディオ復号器によって、供給された2チャンネルのオーディオ信号232と組み合わせて使用できる。
図3は、2チャンネルのマイクロホン信号に基づいて2本以上のチャンネルを有するアップミックス信号と関連した処理された2チャンネルのオーディオ信号および一組の空間手がかりを供給するための装置300のブロック略図を示す。装置300は、第1のチャンネル信号312および第2のチャンネル信号314を含んでいる2チャンネルのマイクロホン信号を受けるように構成される。装置300は、2チャンネルのマイクロホン信号312、314に基づいて、空間手がかり情報316を供給するように構成される。加えて、装置300は、2チャンネルのマイクロホン信号の処理されたバージョンを供給するように構成される。ここにおいて、2チャンネルのマイクロホン信号の処理されたバージョンは、第1のチャンネルの信号322および第2のチャンネル信号324を含む。
装置300は、2チャンネル信号312、314に基づいて2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給する装置100を含む。装置300において、装置100は、その入力信号110、112として、第1のチャンネル信号312および第2のチャンネル信号314を受けるように構成される。更に、装置100によって供給される空間手がかり情報120は、装置300の出力情報316を構成する。
加えて、装置300は2チャンネルのオーディオ信号プロバイダ340を含む。そして、それは第1のチャンネル信号312および第2のチャンネル信号314を受けるように構成される。2チャンネルのオーディオ信号プロバイダ340はまた、成分エネルギー情報342を受けるように更に構成される。そして、それは装置100の信号解析器130によって供給される。2チャンネルのオーディオ信号プロバイダ340は、処理された2チャンネルのオーディオ信号の第1のチャンネル信号322および第2のチャンネル信号324を供給するように更に構成される。
2チャンネルのオーディオ信号プロバイダは、好ましくは、2チャンネルのオーディオ信号のうちの第1のチャンネル信号322を得るために、2チャンネルのマイクロホン信号の第1のチャンネル信号312を受けるように、そして、第1のチャンネル信号312、または、個々の時間/周波数ビンをスケールするように構成されるスケーラ350を含む。スケーラ350は、また、処理された2チャンネルのオーディオ信号うちの第2のチャンネル信号324を得るために、2チャンネルのマイクロホン信号の第2のチャンネル信号314を受けるように、そして、第2のチャンネル信号314、または、個々の時間/周波数ビンをスケールするように構成される。
2チャンネルのオーディオ信号プロバイダ340は、また、成分エネルギー情報342に基づいてスケーラ350により用いられることになるスケーリングファクタを計算するように構成される、スケーリングファクタ計算機360も含む。したがって、2チャンネルのマイクロホン信号の直接音成分の、更には、2チャンネルのマイクロホン信号の拡散音成分のエネルギーの推定値を表す成分エネルギー情報342は、2チャンネルのマイクロホン信号の第1のチャンネル信号312および第2のチャンネル信号314のスケーリングを決定する。そして、そのスケーリングは、2チャンネルのマイクロホン信号から処理された2チャンネルのオーディオ信号の第1のチャンネル信号322および第2のチャンネル信号324を引き出すために適用される。したがって、同成分エネルギー情報は、2チャンネルのマイクロホン信号の第1のチャンネル信号312および第2のチャンネル信号314のスケーリング、更には、空間手がかり情報120を決定するために使用される。成分エネルギー情報342の二重の使用法が、計算的に非常に効率的な解決案であり、また、処理された2チャンネルのオーディオ信号および空間手がかり情報との間により良い整合性を確かにすることが分かった。したがって、処理された2チャンネルのオーディオ信号および空間手がかり情報が、標準化されたサラウンド復号器を使用して2チャンネルのマイクロホン信号312、314によって示されるオーディオ内容のサラウンド再生を可能にするように、それらを生成することが可能である。
[実施例の詳細−サラウンド録音のためのステレオマイクロホンおよびそれらの適合性]
この節では、さまざまな2チャンネルのマイクロホン構造が、後処理によってサラウンドサウンド信号を生成するためのそれらの適合性に関して述べられる。次の節は、これらの洞察を、ステレオマイクロホンを有する空間オーディオ符号化(SAC:spatial audio coding)の使用に適用する。
ここで説明されるマイクロホン構造は、例えば、2チャンネルのマイクロホン信号110、112または2チャンネルのマイクロホン信号212、214または2チャンネルのマイクロホン信号312、314を得るために使用されうる。ここで説明されるマイクロホン構造は、マイクロホン装置210において使用されうる。
Figure 2012502570
振幅比が、レベル差、および、同相(a(α)>0)または異相(a(α)<0)にあるかどうかの情報を取り込むことに留意されたい。(例えばマイクロホン信号x1(n)、x2(n)の)複合の信号表現が使用される場合、短時間フーリエのような、a(α)という位相は、信号間の位相差についての情報とその遅延についての情報を与える。マイクロホンが一致しないときにこの情報は役立つ。
Figure 2012502570
2つの双指向性マイクロホンが全方向からの同じ総応答(0dB)を有する音をとらえることに留意されたい。
上記説明から、図4で示すような応答を有する2つの双指向性マイクロホンが、サラウンドサウンド信号生成にはあまり適していないと結論付けることができる。それは、これらの理由のためである。
・180度の角度範囲の用途にだけ、振幅比は、一意的に音の到達方向を決定する。
・背面および正面の音は、同じ総応答でとらえられる。振幅比が一意である範囲の外の方向からの音の除去はない。
考慮される次のマイクロホン構造は、図6に示すような応答を有する±45度の方へ向いている2つのカージオイドから成る。前と同様の解析の結果が図7に示される。図7(a)は、音の到達方向の関数としてa(α)を示す。−135度と135度の間の方向には、a(α)は一意的にマイクロホンで音の到達方向を決定することに留意されたい。図7(b)は、到達方向の関数として、総応答を示す。正面の方向からの音がより強くとらえられ、そして、背面からより多く音が到達するにつれてより弱くとらえられることに留意されたい。
この説明から、図6で示すような応答を有する2つのカージオイド・マイクロホンが、以下の理由のために、サラウンドサウンド生成に適していることを結論付けることできる。
・すべての可能な到達方向の4分の3(270度)、すなわち、±135度の間の方向から到達している音は、振幅比a(α)を測定することによって、一意的に決定できる。
・一意的に決定できない方向から、すなわち、135度と225度の間の背面から到達している音は、減衰させられ、そして、正面方向からくるようなこれらの音を判断することについての負の効果を部分的に軽減する。
特に適したマイクロホン構造は、スーパーカージオイド・マイクロホンまたは負の背面の丸い突出部を有する他のマイクロホンと関係する。約±60度を向いている2つのスーパーカージオイド・マイクロホンの応答が、図8に示される。到達角の関数としての振幅比は、図9(a)に示される。振幅比が一意的に音の到達方向を決定することに留意されたい。これは、両方のマイクロホンが180度での空白応答(null response)を有するように、我々がマイクロホン方向を選択したからである。他の空白応答は、約±60度である。
このマイクロホン構造が、約±60度の範囲の正面方向のための同位相(a(α)>0)の音をとらえることに留意されたい。背面の音は、異相(a(α)<0)で、すなわち、異なる符号でとらえられる。マトリクスサラウンド符号化(J.M.アーグル、「マルチチャンネルステレオマトリクスシステム:概要」、音声及びオーディオ IEEE通信、19巻、No.7、ページ552〜559、1971年7月)(K.ガンドレー、「サラウンドサウンドのための新規なアクティブマトリクス復号器」、AES会報第19回、国際会議、2001年6月)は、マトリクス符号化された2チャンネル信号において、同様の振幅比の手がかり(C.ファーラー、「改良されたマトリクスサラウンド」、オーディオ技術協会第30回国際会議配布冊子、2007年3月)を与える。この見解から、このマイクロホン構造は、とらえた信号を処理することによってサラウンドサウンド信号を生成することに適している。
図9(b)は、到達方向の関数として、マイクロホン構造の総応答を示す。方向のかなりの範囲において、音は同様の強度でとらえられる。総応答は、それが180度でゼロ(マイナス無限大dB)に達するまで、背面へ向かって減衰していく。
Figure 2012502570
図6で示すような2つのカージオイドの例として、到達方向は、±135度の範囲であるだろう。音がこの範囲の外側から到達する場合、その振幅比は誤って解釈され、±135度間の範囲の方向がその関数によって返される。図8で示すような2つのスーパーカージオイド・マイクロホンの例では、両方のマイクロホンが180度でそれらのヌル(null)を有するため、決定された到達方向は、180度以外の任意の値でありえる。
Figure 2012502570
Figure 2012502570
同様の解析は、スーパーカージオイドのマイクロホンの対の場合で行われる。図11(a)は、この場合のための利得修正を示す。180度の近くでは許容値G=10dBに達する点に留意されたい。図11(b)は、総応答(実線)および利得修正が適用される場合の総応答(破線)を示す。利得修正の上限のため、総応答は、背面に向かって減少していく。(180度においてヌルのため、無限の修正が必要となる)。利得修正後、音はおよそ160度の範囲の最大水準(0dB)でとらえられ、そして、それは原則としてこのステレオマイクロホン構造を、サラウンドサウンド信号に変換されるための信号をとらえるのに非常に適するようにする。
これまでの解析法は原則として、2つのマイクロホンが、サラウンドサウンドオーディオ信号を生成するために充分な情報を含む信号を、取り込むために使用できることを示す。以下において、我々はそれを達成するために空間オーディオ符号化(SAC:spatial audio coder)を使用する方法を説明している。
[実施例の詳細−空間オーディオ符号器を有するステレオマイクロホンの使用]
以下に、本発明の概念が、図12を参照として詳細に説明される。図12は、2チャンネルの入力オーディオ信号(一般的に2チャンネルのマイクロホン信号)に基づいて2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを表している処理されたマイクロホン信号および空間手がかり情報の両方を供給するための装置の実施形態を示す。
図12の装置1200は、関連する機能を示す。しかし、3つの異なる構成は、マルチチャンネル・サラウンド信号を生成するために空間オーディオ符号器(SAC)を有するステレオマイクロホンを使用する方法について説明される。図13、14および15を参照として説明される3つの構成は、同一の機能を含みうる。そこにおいて、前記機能を実施しているブロックは、符号器側および復号器側に異なって分配される。
前節では、適したステレオマイクロホン構造の2つの例(すなわち、2つのカージオイドのマイクロホンを含んでいる装置および2つのスーパーカージオイドのマイクロホンを含んでいる装置)が挙げられていることもまた、留意すべきである。しかし、機能がいくらか劣化しうる場合であっても、双指向性マイクロホンを含んでいる装置のような他のマイクロホン装置もまた、当然に使用されうる。
[十分にSAC後方互換性のあるシステム]
第1の可能性は、SACとの互換性を持つダウンミックスおよびビットストリームを生成している符号器を使用することである。図12および13は、SACと互換性を持つ符号器1200および1300を示す。2つのマイクロホン信号x1(t)、x2(t)および対応する方向応答性情報1310が与えられると、SAC復号器1370と互換性を持つ、SAC補助情報1220、1320が生成される。加えて、2つのマイクロホン信号x1(t)、x2(t)は、SAC復号器1370と互換性を持つダウンミックス信号1322を生成するように処理される。符号器1200、1300でサラウンドオーディオ信号を生成する必要がなく、結果として低い計算量および低い所要メモリ量になることは留意されたい。
[十分にSAC後方互換性のあるシステム −マイクロホン信号解析]
以下に、信号解析器1212によって、または、解析装置1312によって実行されうるマイクロホン信号解析が説明される。
Figure 2012502570
Figure 2012502570
Figure 2012502570
Figure 2012502570
Figure 2012502570
Figure 2012502570
Figure 2012502570
Figure 2012502570
(11)のもう一方の解は、マイクロホン信号エネルギーより大きい拡散音エネルギーを生み出す。そして、それは物理的に不可能である。
Figure 2012502570
直接音の到達方向α(k,i)は、(4)のα(k,i)を使用して計算される。
上記を要約すると、直接音エネルギー情報E{SS*}、拡散音エネルギー情報E{NN*}および方向情報a、αは、信号解析器1212または解析装置1312によって得られる。マイクロホンの方向特性についての情報は、ここで活用される。2チャンネルのマイクロホン信号を供給しているマイクロホンの方向特性についての情報は、(例えば、方程式(8)に従って)推定された相関係数Φdiffの計算を可能にし、そして、それは拡散音の信号が、方向音成分より、異なる相関特性を呈するという事実を反映する。マイクロホン特性についての情報は、信号解析器1212、1312の設計時に適用されうるか、または、実行時間に活用されうる。場合によっては、信号解析器1212、1312は、マイクロホンの方向特性を表している情報を受けるように構成されうる。その結果、信号解析器1212、1312は、マイクロホン特性に動的に適合されることが可能である。
更に上記を要約すると、解析器1212、1312が、連立方程式を解くように構成されることを言うことができ、その連立方程式は、以下を表している:
(1)2チャンネル・マイクロホン信号の第1のチャンネル・マイクロホン信号の推定エネルギー(または強度)、2チャンネル・マイクロホン信号の直接音成分の推定エネルギー(または強度)および2チャンネルのマイクロホン信号の拡散音成分の推定エネルギーの関係;
(2)2チャンネル・マイクロホン信号の第2のチャンネル・マイクロホン信号の推定エネルギー(または強度)、2チャンネル・マイクロホン信号の直接音成分の推定エネルギー(または強度)および2チャンネルのマイクロホン信号の拡散音成分の推定エネルギーの関係、そして;
(3)第1のチャンネル・マイクロホン信号および第2のマイクロホン信号の推定相関値、2チャンネル・マイクロホン信号の直接音成分の推定エネルギー(または強度)および2チャンネル・マイクロホン信号の拡散音成分の推定エネルギー(または強度)の関係;
(方程式(10)を参照のこと)
この連立方程式を解くときに、信号解析器は、拡散音成分のエネルギーが、第1のチャンネル・マイクロホン信号および第2のチャンネル・マイクロホン信号において等しいという仮定を考慮しうる。加えて、第1のマイクロホン信号および第2のマイクロホン信号の直接音成分のエネルギーの比率が方向に依存することは、考慮されうる。さらに、第1のマイクロホン信号および第2のマイクロホン信号の拡散音成分間の正規化相関係数が1より小さい一定値をとることが考慮されうる。そして、その一定値は、第1のマイクロホン信号および第2のマイクロホン信号を供給しているマイクロホンの方向特性に依存している。方程式(8)において与えられる相関係数は、設計時に事前計算されうる、または、マイクロホン特性を表している情報に基づいて、実行時間に計算されうる。
したがって、まず、第1のマイクロホン信号x1の自己相関、第2のマイクロホン信号x2の自己相関および第1のマイクロホン信号x1と第2のマイクロホン信号x2間の相互相関を計算することが可能であり、そして、例えば、方程式(12)、(13)および(14)を使用して、得られた自己相関値および得られた相互相関値から、成分エネルギー情報および方向情報を導き出すことが可能である。
これまで論じたマイクロホン信号解析は、例えば、信号解析器1212によって、または、解析装置1312によって実行されうる。
[十分にSAC後方互換性のあるシステム −SACダウンミックス信号の生成]
好ましい実施形態において、本発明の装置は、SACダウンミックス信号生成器1214、1314を含み、それは2チャンネルのマイクロホン信号x1、x2に基づいてSACダウンミックス信号1222、1322を供給するためにダウンミックス処理を実行するように構成される。このように、SACダウンミックス信号生成器1214およびダウンミックス処理1314は、2チャンネルのマイクロホン信号x1、x2のうちの処理されたバージョン1222、1322は、SACダウンミックス信号の特性を含み、そして、従来のSAC復号器に入力信号として適用できるように、2チャンネルのマイクロホン信号x1、x2を処理または修正するように構成されうる。しかし、SACダウンミックス生成器1214およびダウンミックス処理1314は、選択的であるものとして考慮されるべきだということは、留意すべきである。
Figure 2012502570
Figure 2012502570
Figure 2012502570
ウィナーフィルタ係数は、例えば、方程式(18)に与えられるように、例えば、SACダウンミックス生成器1214のフィルタ係数計算機(またはスケーリングファクタ計算機)1214a、によって計算されうる。一般的に言って、ウィナーフィルタ係数は、ダウンミックス処理1314によって計算できる。更に、ウィナーフィルタ係数は、処理された2チャンネルのオーディオ信号を得るために、フィルタ(またはスケーラ)1214bによって、2チャンネルのマイクロホン信号x1、x2に適用されうる、または、処理された第1のチャンネル信号および処理された第2のマイクロホン信号を含んでいるチャンネル・マイクロホン信号1222へと処理されうる。一般的に言って、ウィナーフィルタ係数は、2チャンネルのマイクロホン信号x1、x2からSACダウンミックス信号1322を引き出すために、ダウンミックス処理1314によって適用されうる。
[十分にSAC後方互換性のあるシステム −空間補助情報の生成]
以下に、空間手がかり情報1220が、どのように装置1200の空間補助情報生成器1216によって得られるか、そして、SAC補助情報1320がどのように装置1300の解析装置1312によって得られるかが、説明される。空間補助情報生成器1216および解析装置1312の両方とも、同じ出力情報を供給するように構成され、結果として空間手がかり情報1220がSAC補助情報1320と等しいものでありうることは留意すべきことである。
Figure 2012502570
第一段階において、直接音α(k,i)の到達方向の関数として、マルチチャンネル振幅パンニング法(V.プルキ、「ベクトルベースの振幅パンニングを用いた仮想音源位置決め」、オーディオ技術協会誌、45巻、ページ456〜466、1997年6月)、(D.グリージンガー、「実施におけるステレオおよびサラウンドパンニング」、オーディオ技術協会第112回総会配布冊子、2002年5月)が、利得係数g1〜g5を決定するのに適用される。この計算は、空間補助情報生成器1216の利得係数計算機1216aによって実行されうる。それから、発見的手順(heuristic procedure)は、拡散音利得h1〜h5を決定するのに使用される。設計時に選択されうる一定値h1=1:0、h2=1:0、h3=0、h4=1:0およびh5=1:0は、合理的な選択である、すなわち、アンビエンス(ambience)が正面や背面に均等に分配され、その一方で、センターチャンネルはドライ信号として生成される。
サラウンド信号モデル(19)を与えられて、使用された特定のSACの空間手がかり解析は、空間手がかりを得るために、信号モデルに適用される。以下で、我々はMPEGサラウンドのために必要とされる手がかりを引き出しており、それは出力情報1220として空間補助情報生成器1216によって得られうる、または、それは解析装置1312によるSAC補助情報1320として得られうる。
Figure 2012502570
これらのパワースペクトルは、例えばh1〜h5に関する一定値を考慮に入れて、信号解析器1212および利得係数計算機1216によって供給される情報に基づいて、チャンネル強度推定計算機1216bによって計算されうる。あるいは、これらのパワースペクトルは、解析装置1312によって計算されうる。
Figure 2012502570
相互スペクトルは、チャンネル強度推定計算機1216bによっても計算されうる。あるいは、相互スペクトルは、解析装置1312によって計算されうる。
Figure 2012502570
したがって、空間手がかり計算機1216は、チャンネル強度推定計算機1216bによって供給されるチャンネル強度推定値および相互スペクトルに基づいて、方程式(22)で定義した空間手がかりICLDLLsおよびICCLLsを計算するように構成されうる。あるいは、解析装置1312は、方程式(22)において定義した空間手がかりを計算しうる。
Figure 2012502570
したがって、空間手がかり計算機1216cは、チャンネル強度推定計算機1216bによって供給されたチャンネル強度推定値および相互スペクトルに基づいて、方程式(23)で定義した空間手がかりICLDRRsおよびICCRRsを計算するように構成されうる。あるいは、解析装置1312は、方程式(23)で定義した空間手がかりICLDRRsおよびICCRRsを計算しうる。
Figure 2012502570
したがって、空間手がかり計算機1216cは、チャンネル強度推定計算機1216bによって供給されたチャンネル強度推定値に基づいて、方程式(24)で定義した空間手がかりICLD1およびICLD2を計算するように構成されうる。あるいは、解析装置1312は、方程式(24)において定義した空間手がかりICLD1、ICLD2を計算しうる。
インデックスiおよびkが、表記の簡潔さのために、再度無視されたことは留意されたい。
当然、空間手がかり計算機1216cが、上述の手がかりICLDLLs、ICLDRRs、ICLD1、ICLD2、ICCLLs、ICCRRsの全てを計算することは、必須ではない。むしろ、空間手がかり計算機1216c(または解析装置1312)が、実際の用途に必要とされるいずれかであるこれらの空間手がかりのサブセットを計算する場合、それで充分である。同様に、チャンネル強度推定器1216b(または解析装置1312)がチャンネル強度推定値PL、PR、PC、PLs、PRsおよび上述の相互スペクトルPLLs、PRRsの全てを計算することは必ずしも必要ではない。むしろ、チャンネル強度推定計算機1216bが、空間手がかり計算機1216による、後に続く所望の空間手がかりの計算処理に必要とされるそれらのチャンネル強度推定値および相互スペクトルを計算する場合は、それで当然充分である。
[ダウンミックスとしてマイクロホン信号を使用しているシステム]
SAC互換のダウンミックス1222、1322および空間補助情報1220、1320を生成している符号器1200、1300を使用するという先に述べたシナリオは、従来のSAC復号器1320がサラウンドオーディオ信号を生成するために使用できるという利点を有する。
後方互換性が役割を果たさない場合、そして、何かの理由で修正していないマイクロホン信号x1、x2をダウンミックス信号として使用することが所望である場合、 図14に示すように、「ダウンミックス処理」は、符号器1300から復号器1370に移動させることができる。このシナリオにおいてダウンミックス処理、すなわち、(18)のために必要とされる情報は、(空間補助情報からこの情報を引き出す発見的アルゴリズム(heuristic algorithm)がうまく設計されない限り)空間補助情報に加えて、復号器に送られなければならないことは、留意すべきである。
換言すれば、図14は、空間オーディオ符号化符号器および空間オーディオ符号化復号器のブロック略図を示す。符号器1400は、解析装置1410を含み、その解析装置は、解析装置1310と同一でありうるし、それ故、信号解析器1212の、そして、空間補助情報生成器1216の機能を含みうる。図14の実施形態において、符号器1400から拡張復号器1470へ送られる信号は、2チャンネルのマイクロホン信号x1、x2(またはそれらの符号化された表現)を含む。更に、符号器1400から拡張復号器1470へ送られる信号は、例えば、直接音エネルギー情報E{SS*}および拡散音エネルギー情報E{NN*}(またはそれらの符号化されたバージョン)を含みうる情報1413も含む。さらにまた、符号器1400から拡張復号器1470へ送られる情報は、空間手がかり情報1220と、または、SAC補助情報1320と同一でありうるSAC補助情報1420を含む。図14の実施形態において、拡張復号器1470は、SACダウンミックス信号生成器1214の、または、ダウンミックス処理装置1314の機能を引きつぐダウンミックス処理1472を含む。拡張復号器1470は、SAC復号器1370と機能が同一でありうる従来のSAC復号器1480も含みうる。SAC復号器1480は、従って、符号器1400の解析装置1410によって供給されるSAC補助情報1420、符号器1400によって供給されるx1、x2に基づいてその復号器のダウンミックス処理により供給されるSACダウンミックス情報1474、および、符号器1400によって供給される付加情報1413を受けるように構成できる。SACダウンミックス情報1474は、SACダウンミックス情報1322と同等でありうる。SAC復号器1480は、従って、SACダウンミックス信号1474およびSAC補助情報1420に基づいて2つ以上のオーディオチャンネルを含んでいるサラウンドサウンド出力信号を供給するように構成できる。
[ブラインド・システム]
ステレオマイクロホンを有するSACを使用するための、説明される第三のシナリオは、サラウンドサウンド信号を生成するために直接マイクロホン信号x1、x2を与えられることが可能である修正された「ブラインド」SAC復号器である。これは、図15に示すように、「ダウンミックス処理」ブロック1314だけでなく「解析」ブロック1312も符号器1300から復号器1370に移動させることに対応する。第1の2つの提案されたシステムの復号器とは対照的に、ブラインドSAC復号器は、使用される特定のマイクロホン構造に関する情報を必要とする。
この種の修正されたブラインドSAC復号器のブロック略図は、図15に示される。図に示すように、修正されたブラインドSAC復号器1500は、マイクロホン信号x1、x2および選択的に、マイクロホン信号x1、x2を生み出しているマイクロホン装置の方向応答性を特徴づけている方向応答性情報を受けとるように構成される。図15に示すように、その復号器は、解析装置1310および解析装置1410と同等である解析装置1510を含む。加えて、ブラインドSAC復号器1500は、ダウンミックス処理1314、1472と同一であるダウンミックス処理1514を含む。加えて、修正されたブラインドSAC復号器1500は、SAC復号器1370、1480と同等でありうるSAC合成1570を含む。したがって、上述された構成要素1510、1514、1540、1570の全てが復号器側に配置されることを除いて、ブラインドSAC復号器1500の機能は、符号器/復号器システム1300、1370および符号器/復号器システム1400、1470の機能と同一である。従って、SAC復号器1370によって受けとられる処理されたマイクロホン信号1322よりはむしろ、未処理のマイクロホン信号x1、x2は、ブラインドSAC復号器1500によって好ましくは受けとられる。加えて、ブラインドSAC復号器1500は、符号器からそれを受けることより、むしろSAC空間手がかりの形でそれだけでSAC補助情報を引き出すように構成される。
SAC復号器1370、1480、1570に関して、この装置がダウンミックスオーディオ信号および空間手がかり1320、1420、1520に基づいてサラウンドサウンド出力信号を供給する役割を果たす点に留意する必要がある。このように、SAC復号器1370、1480、1570は、空間手がかり情報が一般的に以下のパラメータ、すなわち、チャンネル間レベル差(ICLD:inter−channel level difference)およびチャンネル間相関(ICC:inter−channel correlation)の一つ以上を含むことを特徴とする空間手がかり情報を使用して、ダウンミックス信号(例えば未処理の、または、処理された2チャンネルのマイクロホン信号)に基づいてサラウンドサウンド出力信号(それは、一般的に2つ以上のオーディオチャンネルを含み、好ましくは、6またはそれ以上のオーディオチャンネル(例えば、5つのサラウンドチャンネルと1つの低周波チャンネル)を含む)を合成するように構成されたアップミキサー(upmixer)を含む。
[方法]
図16は、2チャンネルのマイクロホン信号に基づいて2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給する方法1600のフローチャートを示す。方法1600は、成分エネルギー情報が2チャンネルのマイクロホン信号の直接音成分の、そして、2チャンネルのマイクロホン信号の拡散音成分のエネルギーの推定値を表すように、および、方向情報が2チャンネルのマイクロホン信号の直接音成分が生じる方向の推定を表すように、2チャンネルのマイクロホン信号に基づいて成分エネルギー情報および方向情報を得るという第1のステップ1610を含む。方法1600はまた、2チャンネルのマイクロホン信号の成分エネルギー情報および2チャンネルのマイクロホン信号の方向情報を、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した空間手がかりを表している空間手がかり情報に写像するステップ1620を含む。当然、方法1600は、ここに述べられた本発明の装置の特徴および機能のいずれかによって補うことができる。
[コンピュータ実施例]
装置についての文脈において、いくつかの態様が説明されたが、これらの態様が、対応する方法についての記載を示すこともまた明らかである。ここで、ブロックまたは装置は方法ステップまたは方法ステップの機能に対応する。類似して、方法ステップの文脈において説明された態様は、また、対応するブロックまたは項目、または、対応する装置の機能の記載を示す。
本発明の符号化されたオーディオ信号、例えばSAC補助情報1320と結合するSACダウンミックス信号1322、または情報1413と結合するマイクロホン信号x1、x2およびSAC補助情報1420、または、マイクロホン信号x1、x2は、デジタル記憶媒体に格納できる、または、無線伝送媒体のような伝送媒体またはインターネットのような有線伝送媒体で送信できる。
特定の実施要件に応じて、本発明の実施形態は、ハードウェアにおいて、または、ソフトウェアにおいて実施できる。本実施例は、その上に格納される電子的に読み込み可能な制御信号を有するデジタル記憶媒体、例えばフロッピー(登録商標)ディスク、DVD、ブルーレイ、CD、ROM、PROM、EPROM、EEPROMまたはFLASHメモリを使用して実行できる。各方法が実行されるように、それはプログラミング可能な計算機システムと協動する(または協動できる)。従って、デジタル記憶媒体は、計算機読み込み可能でありうる。
本発明によるいくつかの実施形態は、ここに説明された方法のうちの1つが実行されるように、プログラミング可能な計算機システムと協動可能である、電子的に読み込み可能な制御信号を有するデータキャリアを含む。
一般的に、本発明の実施形態は、プログラムコードを有するコンピュータ・プログラム製品として実施でき、コンピュータ・プログラム製品がコンピュータ上で動作するときに、プログラムコードは、その方法のうちの1つを実行する働きをしている。プログラムコードは、例えば機械読み取り可能なキャリアに格納できる。
他の実施形態は、ここで説明された、機械読み取り可能なキャリアに格納される方法のうちの1つを実行するためのコンピュータ・プログラムを含む。
従って、換言すれば、本発明の方法の実施形態は、コンピュータ・プログラムがコンピュータ上で動作するときに、ここにおいて説明された方法のうちの1つを実行するためのプログラムコードを有するコンピュータ・プログラムである。
従って、本発明の方法の別の実施形態は、その上に記録されて、ここで説明された方法のうちの1つを実行するためのコンピュータ・プログラムを含んでいるデータキャリア(またはデジタル記憶媒体またはコンピュータ可読媒体)である。
従って、発明の方法の別の実施形態は、ここで説明された方法のうちの1つを実行するためのコンピュータ・プログラムを示しているデータ・ストリームまたは信号のシーケンスである。データ・ストリームまたは信号のシーケンスは、データ通信コネクションを介して、例えばインターネットを介して転送されるように例えば構成されうる。
別の実施形態は、ここで説明された方法の一つを実行するように構成された、または、適用された処理手段、例えばコンピュータまたはプログラム可能な論理装置を含む。
別の実施形態は、その上に、ここで説明された方法のうちの1つを実行するためのコンピュータ・プログラムをインストールされたコンピュータを含む。
いくつかの実施形態では、プログラム可能な論理装置(例えばフィールド・プログラマブル・ゲートアレイ)は、ここで説明された方法の機能のいくつかまたは全てを実行するために使用されうる。いくつかの実施形態では、フィールド・プログラマブル・ゲートアレイは、ここで説明された方法のうちの1つを実行するために、マイクロプロセッサと協動しうる。一般的に、その方法は、いかなるハードウェア装置によっても好ましくは実行される。
上記の実施形態は、本発明の原理のために、単に図示しているだけである。ここで説明された装置やその詳細の修正および変更は、他の当業者にとって明らかであるものと理解される。従って、間近に迫った特許請求の範囲だけによって制限され、本明細書での実施形態の記載および説明として示された具体的な詳細によっては制限されないという意図である。
[結論]
空間オーディオ符号化(SAC)を使用することによるサラウンドサウンド録音のためのステレオマイクロホンの適合性が説明された。ステレオマイクロホン信号に基づくマルチチャンネルサラウンドオーディオを生成するためにSACを使用している3つのシステムが示された。これらのシステム、すなわち、図12および13による手がかりシステムのうちの1つは、現存のSACと互換性を持つビットストリームおよび復号器である。ここで、専用の符号器は、直接、マイクロホンステレオ信号から互換性を持つダウンミックスステレオ信号および補助情報を生成する。図14に関して説明された第2の提案されたシステムは、SACダウンミックス信号としてマイクロホンステレオ信号を直接使用する、そして、図15に関して説明された第3のシステムは、ステレオマイクロホン信号をマルチチャンネルサラウンドオーディオ信号に直接変換している「ブラインド」SAC復号器である。
3つの異なる構成は、マルチチャンネルサラウンドオーディオ信号を生成するために、空間オーディオ符号器(SAC)を有するステレオマイクロホンを使用する方法に関して説明された。前節において、特に適したステレオマイクロホン構造の2つの例が挙げられた。
本発明による実施形態は、符号化サラウンドサウンドを直接とらえるために、従来のSACの使用に、多くの2カプセルベースのマイクロホンの前工程を創作した。提案された方式の機能は、以下の通りである:
・マイクロホン構造は、従来のステレオマイクロホンでありえ、または、特にこの目的のためにステレオマイクロホンを最適化されたものでありうる。
・符号器でサラウンド信号を生成する必要なしで、SAC互換のダウンミックスおよび補助情報が生成される。
・高品質ステレオ・ダウンミックス信号が生成され、サラウンドサウンドを生成するためにSAC復号器によって使用される。
・符号化が所望でない場合、修正された「ブラインド」SAC復号器がマイクロホン信号をサラウンドオーディオ信号に直接変換するために使用できる。
本記載において、サラウンドサウンド情報を取り込むための異なるステレオマイクロホン構造の適合性は論じられた。これらの洞察に基づいて、ステレオマイクロホンを用いたSACの使用のための3つのシステムは提案され、そして、いくつかの結論が提示された。
サラウンドサウンド情報を取り込むための異なるステレオマイクロホン構造の適合性は、「サラウンド録音のためのステレオマイクロホンおよびそれらの適合性」というタイトルの節の下で論じられた。3つのシステムは、「空間オーディオ符号器を有するステレオマイクロホンの使用」というタイトルの節において説明された。
更に要約すると、例えばMPEGサラウンドのような空間オーディオ符号器は、低ビットレートで、ステレオ後方互換のあるマルチチャンネルサラウンドオーディオの符号化を可能にする。方向オーディオ符号化(DirAC)は、特定のマイクロホンの前工程あたりで設計された空間オーディオ符号化としてみなすことができる。DirACは、B-フォーマット空間音響分析に基づいており、直接のステレオ後方互換を有しない。本発明は、多くの2カプセルベースのステレオ互換性を持つマイクロホンの前工程および対応する空間オーディオ符号器修正を生み出し、それは、直接サラウンドサウンドをとらえ、符号化するための空間オーディオ符号器の使用を可能にする。

Claims (13)

  1. 2チャンネルのマイクロホン信号(X1(t)、X2(t))に基づいて、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかり(ICLDLLs、ICCLLs、ICLDRRs、ICCRRs、ICLD1、ICLD2)を供給するための装置(100;200;300;1200;1300;1400;1500)であって、前記装置は、

    成分エネルギー情報(E{SS*}、E{NN*})が、前記2チャンネルのマイクロホン信号の直接音成分(S)の、そして、前記2チャンネルのマイクロホン信号の拡散音成分(N)のエネルギーの推定値を表すように、および、方向情報(a、α)が、前記2チャンネルのマイクロホン信号の前記直接音成分(S)が生じる方向の推定値を表すように、前記2チャンネルのマイクロホン信号(X1(t)、X2(t))に基づいて、前記成分エネルギー情報(E{SS*}、E{NN*})および前記方向情報(a、α)を得るように構成された信号解析器(130;1212;1312;1410;1510)と、

    前記2チャンネルのマイクロホン信号の前記成分エネルギー情報(E{SS*}、E{NN*})および前記2チャンネルのマイクロホン信号の前記方向情報(a、α)を、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した前記一組の空間手がかりを表している空間手がかり情報に、写像するように構成された空間補助情報生成器(140;1216;1312;1410;1510)と、を含むこと、を特徴とする、装置。
  2. 前記空間補助情報生成器(140;1216;1312;1410;1510)が、直接、前記2チャンネルのマイクロホン信号(X1(t)、X2(t))の前記成分エネルギー情報(E{SS*}、E{NN*})および前記2チャンネルのマイクロホン信号(X1(t)、X2(t))の前記方向情報(a、α)を、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した前記一組の空間手がかりを表している前記空間手がかり情報に、写像するように構成されること、を特徴とする、請求項1に記載の装置(100;200;300;1200;1300;1400;1500)。
  3. 前記空間補助情報生成器(140;1216;1312;1410;1510)が、前記2チャンネルのマイクロホン信号(X1(t)、X2(t))の前記成分エネルギー情報(E{SS*}、E{NN*})および前記2チャンネルのマイクロホン信号(X1(t)、X2(t))の前記方向情報(a、α)を、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した前記一組の空間手がかりを表している前記空間手がかり情報(ICLDLL、ICCLLs、ICLDRRs、ICLD1、ICLD2)に、中間量として前記アップミックスオーディオチャンネルを実際に使用しないで、写像するように構成されること、を特徴とする、請求項1又は請求項2に記載の装置(100;200;300;1200;1300;1400;1500)。
  4. 前記空間補助情報生成器(140;1216;1312;1410;1510)は、方向に依存している直接音からサラウンドオーディオチャンネルへの写像を表している一組の利得係数(g1、g2、g3、g4、g5)に、前記方向情報(a、α)を写像するように構成されることと、

    前記空間補助情報生成器は、また、前記成分エネルギー情報(E{SS*}、E{NN*})および前記利得係数(g1、g2、g3、g4、g5)に基づいて、2本以上のサラウンドチャンネル(L、R、C、Ls、Rs)の推定された強度を表しているチャンネル強度推定値(PL、PR、PC、PLs、PRs)を得るようにも構成されることと、

    前記空間補助情報生成器は、前記チャンネル強度推定値(PL、PR、PC、PLs、PRs)に基づいて、前記アップミックスオーディオ信号と関連した前記空間手がかり(ICLDLLs、ICCLLs、ICLDRRs、ICLD1、ICLD2)を決定するように構成されることと、を特徴とする、請求項1〜請求項3のうちの1つに記載の装置(100;200;300;1200;1300;1400;1500)。
  5. 前記空間補助情報生成器(140;1216;1312;1410;1510)は、また、前記成分エネルギー情報(E{SS*}、E{NN*})および前記利得係数(g1、g2、g4、g5)に基づいて、前記アップミックス信号の異なるチャンネル(L、Ls、R、Rs)間の相関を表しているチャンネル相関情報(PLLs、PRRs)を得るようにも構成されることと、

    前記空間補助情報生成器(140;1216;1312;1410;1510)は、また、前記チャンネル強度推定値(PL、PLs、PR、PRs)の一つ以上、および、前記チャンネル相関情報(PLLs、PRRs)に基づいて、前記アップミックス信号と関連した空間手がかり(ICCLLs、ICCRRs)を決定するようにも構成されることと、を特徴とする、請求項4に記載の装置(100;200;300;1200;1300;1400;1500)。
  6. 前記空間補助情報生成器(140;1216;1312;1410;1510)は、前記チャンネル強度推定値(PL、PR、PC、PLs、PRs)を得るために、前記2チャンネルのマイクロホン信号(X1(t)、X2(t))の直接音成分(S)の強度の推定値(E{SS*})と前記2チャンネルのマイクロホン信号の拡散音成分(N)の強度の推定値(E{NN*})を線形に結合するように構成されることと、

    前記空間補助情報生成器は、前記利得係数(g1、…、g5)に依存して、そして、前記方向情報(a、α)に依存して、前記直接音成分の前記強度の前記推定値(E{SS*})に重みを加えるように構成されることと、を特徴とする、請求項4または請求項5に記載の装置(100;200;300;1200;1300;1400;1500)。
  7. Figure 2012502570
  8. Figure 2012502570
  9. 前記信号解析器(130;1212;1312;1410;1510)は、

    (1)前記2チャンネルのマイクロホン信号の第1のチャンネルのマイクロホン信号(X1)の推定されたエネルギー(E{X11 *})、前記2チャンネルのマイクロホン信号の前記直接音成分(S)の前記推定されたエネルギー(E{SS*})および前記2チャンネルのマイクロホン信号の前記拡散音成分(N)の前記推定されたエネルギー(E{NN*})間の関係、

    (2)前記2チャンネルのマイクロホン信号の第2のチャンネルのマイクロホン信号(X2)の推定されたエネルギー(E{X22 *})、前記2チャンネルのマイクロホン信号の前記直接音成分(S)の前記推定されたエネルギー(E{SS*})および前記2チャンネルのマイクロホン信号の前記拡散音成分(N)の前記推定されたエネルギー(E{NN*})間の関係、および

    (3)前記第1のチャンネルのマイクロホン信号(X1)と前記第2のチャンネルのマイクロホン信号(X2)の推定された相互相関値(E{X12 *})、前記2チャンネルのマイクロホン信号の前記直接音成分(S)の前記推定されたエネルギー(E{SS*})および前記2チャンネルのマイクロホン信号の前記拡散音成分(N)の前記推定されたエネルギー(E{NN*})間の関係、を表している連立方程式を、

    前記拡散音成分(N)の前記エネルギー(E{NN*})が前記第1のチャンネルのマイクロホン信号(X1)および前記第2のチャンネルのマイクロホン信号(X2)において同一であるという仮定、

    前記第1のマイクロホン信号(X1)および前記第2のマイクロホン信号(X2)における前記直接音成分(S)のエネルギーの比率(E{SS*}、a2E{SS*})が、方向に依存しているという仮定、および、

    前記第1のマイクロホン信号(X1)および前記第2のマイクロホン信号(X2)における前記拡散音成分(N1、N2)間の正規化相互相関係数(Φ)が、1より小さい一定値をとり、その一定値が、前記第1のマイクロホン信号(X1)および前記第2のマイクロホン信号(X2)を供給しているマイクロホンの方向特性に依存しているという仮定、を考慮に入れて、解くように構成されることを、を特徴とする、請求項1〜請求項8のうちの1つに記載の装置(100;200;300;1200;1300;1400;1500)。
  10. Figure 2012502570
  11. Figure 2012502570
  12. 2チャンネルのマイクロホン信号に基づいて、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した一組の空間手がかりを供給するための方法(1600)であって、前記方法は、

    成分エネルギー情報が前記2チャンネルのマイクロホン信号の直接音成分の、および、前記2チャンネルのマイクロホン信号の拡散音成分のエネルギーの推定値を表しているように、そして、方向情報が前記2チャンネルのマイクロホン信号の前記直接音成分が生じる方向の推定値を表すように、前記2チャンネルのマイクロホン信号に基づいて前記成分エネルギー情報および前記方向情報を得るステップ(1610)と、

    前記2チャンネルのマイクロホン信号の前記成分エネルギー情報、および、前記2チャンネルのマイクロホン信号の前記方向情報を、2本以上のチャンネルを有するアップミックスオーディオ信号と関連した空間手がかりを表している空間手がかり情報に写像するステップ(1620)と、を含むこと、を特徴とする、方法。
  13. コンピュータ・プログラムがコンピュータ上で動作するときに、請求項12に記載の方法を実行するための前記コンピュータ・プログラム。
JP2011526399A 2008-09-11 2009-09-04 マイクロホン信号に基づいて一組の空間手がかりを供給する装置、方法およびコンピュータ・プログラムと2チャンネルのオーディオ信号および一組の空間手がかりを供給する装置 Active JP5520300B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US9596208P 2008-09-11 2008-09-11
US61/095,962 2008-09-11
PCT/EP2009/006457 WO2010028784A1 (en) 2008-09-11 2009-09-04 Apparatus, method and computer program for providing a set of spatial cues on the basis of a microphone signal and apparatus for providing a two-channel audio signal and a set of spatial cues

Publications (2)

Publication Number Publication Date
JP2012502570A true JP2012502570A (ja) 2012-01-26
JP5520300B2 JP5520300B2 (ja) 2014-06-11

Family

ID=41395014

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011526399A Active JP5520300B2 (ja) 2008-09-11 2009-09-04 マイクロホン信号に基づいて一組の空間手がかりを供給する装置、方法およびコンピュータ・プログラムと2チャンネルのオーディオ信号および一組の空間手がかりを供給する装置

Country Status (10)

Country Link
EP (1) EP2347410B1 (ja)
JP (1) JP5520300B2 (ja)
KR (2) KR101392546B1 (ja)
CN (1) CN102209988B (ja)
AU (1) AU2009291259B2 (ja)
BR (1) BRPI0913460B1 (ja)
CA (1) CA2736709C (ja)
MX (1) MX2011002626A (ja)
RU (1) RU2493617C2 (ja)
WO (1) WO2010028784A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013520691A (ja) * 2010-02-24 2013-06-06 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン 拡張ダウンミックス信号を発生するための装置、拡張ダウンミックス信号を発生するための方法及びコンピュータプログラム

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9313599B2 (en) * 2010-11-19 2016-04-12 Nokia Technologies Oy Apparatus and method for multi-channel signal playback
US9456289B2 (en) 2010-11-19 2016-09-27 Nokia Technologies Oy Converting multi-microphone captured signals to shifted signals useful for binaural signal processing and use thereof
US9055371B2 (en) 2010-11-19 2015-06-09 Nokia Technologies Oy Controllable playback system offering hierarchical playback options
WO2012072787A1 (en) * 2010-12-03 2012-06-07 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for spatially selective sound acquisition by acoustic triangulation
RU2570359C2 (ru) 2010-12-03 2015-12-10 Фраунхофер-Гезелльшафт Цур Фердерунг Дер Ангевандтен Форшунг Е.Ф. Прием звука посредством выделения геометрической информации из оценок направления его поступления
CN104335599A (zh) 2012-04-05 2015-02-04 诺基亚公司 柔性的空间音频捕捉设备
KR101694225B1 (ko) * 2013-01-04 2017-01-09 후아웨이 테크놀러지 컴퍼니 리미티드 스테레오 신호를 결정하는 방법
US10635383B2 (en) 2013-04-04 2020-04-28 Nokia Technologies Oy Visual audio processing apparatus
US9706324B2 (en) 2013-05-17 2017-07-11 Nokia Technologies Oy Spatial object oriented audio apparatus
EP2866227A1 (en) * 2013-10-22 2015-04-29 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Method for decoding and encoding a downmix matrix, method for presenting audio content, encoder and decoder for a downmix matrix, audio encoder and audio decoder
RU2643646C2 (ru) 2013-11-13 2018-02-02 Фраунхофер-Гезелльшафт Цур Фердерунг Дер Ангевандтен Форшунг Е.Ф. Кодер для кодирования аудиосигнала, система передачи аудио и способ определения значений коррекции
CN103702258B (zh) * 2013-12-27 2017-02-22 深圳泰山在线科技有限公司 麦克风装置及消除近场声源干扰的麦克风设置方法
EP3222053B1 (en) * 2014-12-18 2019-11-27 Huawei Technologies Co. Ltd. Surround sound recording for mobile devices
DE102015104699A1 (de) * 2015-03-27 2016-09-29 Hamburg Innovation Gmbh Verfahren zur Analyse und Dekomposition von Stereoaudiosignalen
US10708701B2 (en) * 2015-10-28 2020-07-07 Music Tribe Global Brands Ltd. Sound level estimation
CN106019230B (zh) * 2016-05-27 2019-01-08 南京邮电大学 一种基于i-vector说话人识别的声源定位方法
EP3321709A1 (en) * 2016-11-11 2018-05-16 Fraunhofer Gesellschaft zur Förderung der Angewand User equipment localization in a mobile communication network based on delays and path strengths
GB2559765A (en) * 2017-02-17 2018-08-22 Nokia Technologies Oy Two stage audio focus for spatial audio processing
EP3606090A4 (en) * 2017-03-24 2021-01-06 Yamaha Corporation SOUND RECORDING DEVICE AND SOUND RECORDING METHOD
JP6828804B2 (ja) 2017-03-24 2021-02-10 ヤマハ株式会社 収音装置および収音方法
GB2572650A (en) * 2018-04-06 2019-10-09 Nokia Technologies Oy Spatial audio parameters and associated spatial audio playback
CN110068797B (zh) * 2019-04-23 2021-02-02 浙江大华技术股份有限公司 一种校准麦克风阵列的方法、声源定位方法及相关设备
CN111256238A (zh) * 2020-01-21 2020-06-09 金文睿 负离子发生仪的方向调整方法、系统及负离子发生仪系统
WO2022016533A1 (zh) * 2020-07-24 2022-01-27 深圳市大疆创新科技有限公司 音频处理方法和电子设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04158000A (ja) * 1990-10-22 1992-05-29 Matsushita Electric Ind Co Ltd 音場再生システム
JP2004289762A (ja) * 2003-01-29 2004-10-14 Toshiba Corp 音声信号処理方法と装置及びプログラム
WO2006132857A2 (en) * 2005-06-03 2006-12-14 Dolby Laboratories Licensing Corporation Apparatus and method for encoding audio signals with decoding instructions
EP1761110A1 (en) * 2005-09-02 2007-03-07 Ecole Polytechnique Fédérale de Lausanne Method to generate multi-channel audio signals from stereo signals
JP2007235334A (ja) * 2006-02-28 2007-09-13 Victor Co Of Japan Ltd オーディオ装置及び指向音生成方法
WO2007110101A1 (en) * 2006-03-28 2007-10-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Enhanced method for signal shaping in multi-channel audio reconstruction

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6154549A (en) * 1996-06-18 2000-11-28 Extreme Audio Reality, Inc. Method and apparatus for providing sound in a spatial environment
DE60225806T2 (de) * 2001-02-07 2009-04-30 Dolby Laboratories Licensing Corp., San Francisco Audiokanalübersetzung
US7583805B2 (en) * 2004-02-12 2009-09-01 Agere Systems Inc. Late reverberation-based synthesis of auditory scenes
US7006636B2 (en) * 2002-05-24 2006-02-28 Agere Systems Inc. Coherence-based audio coding and synthesis
JP4195267B2 (ja) * 2002-03-14 2008-12-10 インターナショナル・ビジネス・マシーンズ・コーポレーション 音声認識装置、その音声認識方法及びプログラム
FR2858403B1 (fr) * 2003-07-31 2005-11-18 Remy Henri Denis Bruno Systeme et procede de determination d'une representation d'un champ acoustique
SE0400997D0 (sv) * 2004-04-16 2004-04-16 Cooding Technologies Sweden Ab Efficient coding of multi-channel audio
US7961890B2 (en) * 2005-04-15 2011-06-14 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung, E.V. Multi-channel hierarchical audio coding with compact side information
KR101356586B1 (ko) * 2005-07-19 2014-02-11 코닌클리케 필립스 엔.브이. 다중 채널 오디오 신호를 생성하기 위한 디코더, 수신기 및 방법
US20080004729A1 (en) * 2006-06-30 2008-01-03 Nokia Corporation Direct encoding into a directional audio coding format

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04158000A (ja) * 1990-10-22 1992-05-29 Matsushita Electric Ind Co Ltd 音場再生システム
JP2004289762A (ja) * 2003-01-29 2004-10-14 Toshiba Corp 音声信号処理方法と装置及びプログラム
WO2006132857A2 (en) * 2005-06-03 2006-12-14 Dolby Laboratories Licensing Corporation Apparatus and method for encoding audio signals with decoding instructions
JP2008543227A (ja) * 2005-06-03 2008-11-27 ドルビー・ラボラトリーズ・ライセンシング・コーポレーション サイド情報を有するチャンネルの再構成
EP1761110A1 (en) * 2005-09-02 2007-03-07 Ecole Polytechnique Fédérale de Lausanne Method to generate multi-channel audio signals from stereo signals
JP2007235334A (ja) * 2006-02-28 2007-09-13 Victor Co Of Japan Ltd オーディオ装置及び指向音生成方法
WO2007110101A1 (en) * 2006-03-28 2007-10-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Enhanced method for signal shaping in multi-channel audio reconstruction
JP2009531724A (ja) * 2006-03-28 2009-09-03 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン マルチチャネルオーディオ再構成における信号整形のための改善された方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013520691A (ja) * 2010-02-24 2013-06-06 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン 拡張ダウンミックス信号を発生するための装置、拡張ダウンミックス信号を発生するための方法及びコンピュータプログラム

Also Published As

Publication number Publication date
EP2347410B1 (en) 2018-04-11
CN102209988B (zh) 2014-01-08
KR101392546B1 (ko) 2014-05-08
BRPI0913460B1 (pt) 2024-03-05
JP5520300B2 (ja) 2014-06-11
RU2493617C2 (ru) 2013-09-20
MX2011002626A (es) 2011-04-07
AU2009291259A1 (en) 2010-03-18
KR101296757B1 (ko) 2013-08-14
WO2010028784A1 (en) 2010-03-18
CA2736709C (en) 2016-11-01
BRPI0913460A2 (pt) 2023-03-28
CA2736709A1 (en) 2010-03-18
EP2347410A1 (en) 2011-07-27
RU2011113850A (ru) 2012-10-20
KR20130031923A (ko) 2013-03-29
CN102209988A (zh) 2011-10-05
KR20110063826A (ko) 2011-06-14
AU2009291259B2 (en) 2013-10-31

Similar Documents

Publication Publication Date Title
JP5520300B2 (ja) マイクロホン信号に基づいて一組の空間手がかりを供給する装置、方法およびコンピュータ・プログラムと2チャンネルのオーディオ信号および一組の空間手がかりを供給する装置
US8023660B2 (en) Apparatus, method and computer program for providing a set of spatial cues on the basis of a microphone signal and apparatus for providing a two-channel audio signal and a set of spatial cues
US20240171931A1 (en) Method for processing an audio signal, signal processing unit, binaural renderer, audio encoder and audio decoder
US8265284B2 (en) Method and apparatus for generating a binaural audio signal
RU2558612C2 (ru) Декодер аудиосигнала, способ декодирования аудиосигнала и компьютерная программа с использованием ступеней каскадной обработки аудиообъектов
JP5133401B2 (ja) 出力信号の合成装置及び合成方法
RU2759160C2 (ru) УСТРОЙСТВО, СПОСОБ И КОМПЬЮТЕРНАЯ ПРОГРАММА ДЛЯ КОДИРОВАНИЯ, ДЕКОДИРОВАНИЯ, ОБРАБОТКИ СЦЕНЫ И ДРУГИХ ПРОЦЕДУР, ОТНОСЯЩИХСЯ К ОСНОВАННОМУ НА DirAC ПРОСТРАНСТВЕННОМУ АУДИОКОДИРОВАНИЮ
JP5081838B2 (ja) オーディオ符号化及び復号
TW201036464A (en) Binaural rendering of a multi-channel audio signal
Breebaart et al. Binaural rendering in MPEG Surround

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130305

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130529

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140318

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140404

R150 Certificate of patent or registration of utility model

Ref document number: 5520300

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250