JP4734070B2 - ノイズ低減による多重チャンネル適応の音声信号処理 - Google Patents

ノイズ低減による多重チャンネル適応の音声信号処理 Download PDF

Info

Publication number
JP4734070B2
JP4734070B2 JP2005276909A JP2005276909A JP4734070B2 JP 4734070 B2 JP4734070 B2 JP 4734070B2 JP 2005276909 A JP2005276909 A JP 2005276909A JP 2005276909 A JP2005276909 A JP 2005276909A JP 4734070 B2 JP4734070 B2 JP 4734070B2
Authority
JP
Japan
Prior art keywords
signal
adaptive
microphone
noise
processing means
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2005276909A
Other languages
English (en)
Other versions
JP2006094522A (ja
Inventor
バック マルクス
ハウリック ティム
ヘザーリントン フィル
ザカラースカス ピエール
Original Assignee
ハーマン ベッカー オートモーティブ システムズ ゲーエムベーハー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ハーマン ベッカー オートモーティブ システムズ ゲーエムベーハー filed Critical ハーマン ベッカー オートモーティブ システムズ ゲーエムベーハー
Publication of JP2006094522A publication Critical patent/JP2006094522A/ja
Application granted granted Critical
Publication of JP4734070B2 publication Critical patent/JP4734070B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/20Speech recognition techniques specially adapted for robustness in adverse environments, e.g. in noise, of stress induced speech
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/005Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • G10L21/0216Noise filtering characterised by the method used for estimating noise
    • G10L2021/02161Number of inputs available containing the signal or the noise to be suppressed
    • G10L2021/02166Microphone arrays; Beamforming
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • G10L21/0216Noise filtering characterised by the method used for estimating noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00Signal processing covered by H04R, not provided for in its groups
    • H04R2430/20Processing of the output signals of the acoustic transducers of an array for obtaining a desired directivity characteristic
    • H04R2430/25Array processing for suppression of unwanted side-lobes in directivity characteristics, e.g. a blocking matrix
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2499/00Aspects covered by H04R or H04S not otherwise provided for in their subgroups
    • H04R2499/10General applications
    • H04R2499/13Acoustic transducers and sound field adaptation in vehicles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R29/00Monitoring arrangements; Testing arrangements
    • H04R29/004Monitoring arrangements; Testing arrangements for microphones
    • H04R29/005Microphone arrays
    • H04R29/006Microphone matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • General Health & Medical Sciences (AREA)
  • Otolaryngology (AREA)
  • Mathematical Physics (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Soundproofing, Sound Blocking, And Sound Damping (AREA)
  • Noise Elimination (AREA)

Description

(発明の記載)
本発明は、ノイズ低減による音声信号処理に関する。詳細には、多重チャンネルの音声信号処理に関する。
音声信号処理は、ノイズが存在する環境において多く達成されている。顕著な例は、車中におけるハンズフリーの音声通信である。このようなハンズフリー通信においては、マイクロホン信号が相対的に低いSN比(SNR)の影響を受ける。その結果、この音声信号の質を改善するために、一定のノイズの低減が使用されなければならない。
音声を取得する距離において、この信号の質を改善するための一般的な方法では、多重チャンネルシステムを活用する(例えば、「Microphone Arrays: Signal Processing Techniques and Applications」,eds. Brandstein,M.およびWard,D.,Springer,Berlin 2001に記載のマイクロホンアレイ)。
現在の多重チャンネルシステムは主に、いわゆる「General Sidelobe Canceller」(GSC)を使用する(参照、例えば、Griffiths,L.J.およびJim,C.W.による「An alternative approach to linearly constrained adaptive beamforming」、アンテナおよび伝搬についてのIEEE報告書,vol.30.,p27,1982)。GSCは、2つの信号処理経路からなり、それは、ブロッキングマトリクスおよび適応するノイズキャンセリング手段を用いる第1の(または下側の)適応経路、および固定ビームフォーマーを用いる第2の(上側の)非適応経路である。
固定ビームフォーマーは、例えば、固定ビームパターンを使用する時間遅延補償によって、前処理された信号を改善する。適応処理方法は、例えばシステム操作中のフィルター係数のような、処理パラメータの永久適応により特徴付けられる。このGSCの下側の信号処理経路では、固定ビームフォーマーの出力信号の残余ノイズを低減するために使用されるノイズ参照信号を生成するように最適化される。
下側の信号処理手段は、マイクロホン信号からノイズ参照信号を生成するために使用されるブロッキングマトリクスを備える(例えば、Herbordt,W.,およびKellermann.による「Adaptive beamforming for audio signal acquisition」,「Adaptive signal processing:applications to real−world problems」中のp155,Springer,Berlin 2003)。この妨害信号によって、固定ビームフォーマーの出力信号の残余ノイズは低減され得、適応フィルターを使用する一定の適応ノイズキャンセリング手段を与える。
現在のGSC設計における焦点は、固定ビームフォーマーの出力信号を歪ませることなく、下側の経路によってノイズを最適に抑制することにある。しかし、この固定ビームフォーマーに対する、いずれの最適化もこれまで決してなされてこなかった。むしろ、音声信号は一定の時間遅延の分だけ異なるのみで、音声信号およびノイズ信号はマイクロホンアレイの各マイクロホンにおいて同じエネルギーレベルを示すと考えられる。
多くの実用化に対しては、マイクロホンアレイの異なるマイクロホンのSNRはお互いに異なり、GSCの性能を低下させる結果となる。低いSNRをもつチャンネルにより、非最適化の固定ビームフォーマーの性能が悪化さえし得、改善し得ない。このようにして、実際のGSCの実行は信頼できるほどに十分働かず、無指向性のマイクロホンまたは同じ方向にポインティングする同じ型の指向性のマイクロホンからなるマイクロホンアレイに対していくらか実際に使用するのみである。
それゆえ、本発明に存在する課題は、上述のようなドローバックを克服し、音声信号処理システムおよび方法および改善された音響特性、特に、良好なSN比(SNR)を示し、および経済的に実行できるハンズフリーシステムシステムを提供することである。
この課題は、請求項1に記載のノイズ低減による音声信号処理のためのシステム、および請求項12に記載の方法によって解決される。本発明によるこのシステムは、
マイクロホン信号を検出するために少なくとも2つのマイクロホンを有するマイクロホンアレイと、
前処理信号を得るために該マイクロホン信号の時間遅延補償を達成するように構成される手段を有し、該マイクロホン信号を受信するために該マイクロホンアレイに接続される前処理手段と、
少なくとも1つのノイズ参照信号、特に、各マイクロホン信号に対して1つのノイズ参照信号)を生成するように構成される手段を有し、前処理信号を受信するために前処理手段に接続される第1の信号処理手段と、
ビームフォームされた信号を得るために適応するビームフォーマーを有し、前処理信号を受信するための前処理手段に接続される第2の信号処理手段と、
少なくとも1つのノイズ参照信号に基づいて、ビームフォームされた信号のノイズを低減するように構成される適応するノイズキャンセリング手段と
を備える。
音声信号処理のための本発明のシステム、特に、例えば、音声信号およびノイズ信号が、マイクロホンアレイの各マイクロホンにおいて同じレベルを示さない場合、第2の信号処理手段の最適化は、主に音声信号のSNRを改善する。実際の適用においては、このような場合が一般的であり、それは、例えば、a)話し手とマイクロホンとの距離が会話中で異なり得るために、そのマイクロホンにおいて異なる音声レベルが生ずる、b)ノイズ領域が不均一であり得、このため、異なるノイズレベルがそのマイクロホンにおいて生ずる、およびc)そのマイクロホンアレイが、空間において異なる方向にポインティングする指向性マイクロホンからなり得るために、異なるノイズおよび音声レベルを得る、ためである。
所望のターゲット信号にマイクロホン信号を同期するために、各信号の時間遅延が、その前処理手段によって計算および補償される必要がある。
第2の信号処理手段はビームフォーマーを備える。本発明によるビームフォーマーは、適応する重み付きの和で表されたビームフォーマーであり、これはM個のマイクロホンの前処理信号、詳細には時間遅延信号XT,mを重ね合わせ、改善されたSNRを有する1つの出力信号Yを得る。
Figure 0004734070
重みAは、従来の遅延和(delay−and−sum)ビームフォーマーにおけるように時間に関して独立ではないが、例えば、所望の方向における感度を維持し、およびノイズ源の方向において感度を最小化するために、必要数を繰り返して再計算される必要がある。
詳細には、第1の信号処理手段は、ノイズ参照信号をできるだけ正確に評価するように設計される。これらのノイズ参照信号は、当業者に周知の適応ノイズキャンセリング手段により、入力信号として使用される。
適応ノイズキャンセリング手段は、第2の信号処理手段により生成された出力信号からの低減されたノイズ信号を生成する。適応ノイズキャンセリング手段は、反復計算(例えば、正規化された最小二乗(NLMS)アルゴリズムにより)される適応するフィルターを備える。
有利には、少なくとも1つのノイズ参照信号を生成するように構成される手段は、非適応のブロッキングマトリクスまたは適応するブロッキングマトリクスを備え得る。
非適応のブロッキングマトリクスは使用するのに技術的に容易であり、製造するのに安価でもあるが、適応するブロッキングマトリクスの使用は主に、ノイズ参照信号における音声信号部分の低減を改善する。ブロッキングマトリクスは、隣のチャンネルを単に低減することによって働き得る。異なるチャンネルのうち1つを除く各チャンネルの場合には、参照信号が、時間遅延マイクロホン信号により生成される。
好ましくは、この前処理手段は、時間遅延補償された各マイクロホン信号の位相および振幅を一致させるように構成される適応するセルフキャリブレーション手段をさらに備え得る。適応するノイズキャンセリング手段の場合のように、適応するセルフキャリブレーション手段の適応するフィルターがNLMSアルゴリズムの手段により計算され得る。
時間遅延補償の後、このマイクロホン信号は正確には一致し得ない(例えば、話し手の動きおよび異なるマイクロホンの位相および振幅の不一致のため)。この適応するセルフキャリブレーションによって、位相および振幅の不一致は最小化される。したがって、各チャンネルにおける所望の信号が時間(位相)調整され、所望信号部分の振幅は各チャンネルにおいてほぼ等しく、この信号はほぼ同じ周波数特性を示すことが予測される。
結果的には、実際の適用により要求されるSNRに依存して、第1の信号処理手段における非適応のブロッキングマトリクスを使用するのに十分であり得、この処理手段は少なくとも1つのノイズ参照信号を得る。しかし、適応するブロッキングマトリクスは、少なくとも1つのノイズ参照信号の正確性を改善するために使用され得る。
本発明のシステムの好ましい実施形態によれば、適応する処理手段の適応を制御するように構成される適応する制御手段が使用され得る。これらの適応する処理手段は、適応するビームフォーマー、適応するノイズキャンセリング手段および適応するものとして選択される場合にはブロッキングマトリクスを備え得る。
さらに、適応する制御手段は、瞬時のSNR、および/または音声が検出されるかどうか、および/または検出された音声信号のエネルギーが一定の規定値で同時に検出されたバックグラウンドノイズのエネルギーを超過するかどうか、および/または音響信号が到来する方向、に依存して適応を開始するように構成され得る。
適応する制御が、第2の適応処理手段に依存して第1の適応処理手段の適応を開始するように構成されることが望まれ得、ここで、第1の適応処理手段および第2の適応処理手段は、適応するビームフォーマー、適応するブロッキングマトリクスおよび適応するノイズキャンセリング手段のうちの1つである。
例えば、適応するビームフォーマーにより使用される重みが適応する場合、適応するブロッキングマトリクス、適応される場合には、および/または適応するノイズキャンセリング手段のフィルターを適応させることも望まれ得る。
さらに、前処理手段および/または第1の処理手段および/または第2の処理手段は、時間領域でまたは周波数領域でまたはサブバンド周波数領域で音声信号処理を達成するように構成され得る。
次の信号処理が周波数領域でなされる場合、前処理手段は高速フーリエ変換を達成するための手段を備え得る。フーリエ変換を避けるために、全時間領域における少なくとも一部分の処理がなされ得る。
本発明のシステムのマイクロホンアレイは、少なくとも1つの指向性マイクロホンを備え得る。詳細には、このマイクロホンアレイは1より多くの指向性マイクロホンを備え得、これらは異なる方向を向く(例えば、コンパクトマイクロホンアレイは、異なる方向を向く少なくとも2つの指向性マイクロホンを備える)。同じ方向を向かない複数のマイクロホンが与えられる場合には、固定ビームフォームを使用する従来の音声信号処理のシステムは相対的に低い性能を示すが、本発明はマイクロホンが異なる方向を向く場合でさえ、高いSNRを補償する。
1つの有利な実施形態によれば、本発明のシステムは少なくとも2つのサブアレイを備え得る。この場合、各サブアレイは、改善された全体の指向性および感度を生ずる特定の周波数帯域に最適化され得る。
好ましくは、本発明のシステムはフレームを備え、このフレーム内外に所定の、さらに詳細には定位置にマイクロホンアレイの各マイクロホンが配列される。このことから、マイクロホンを有するフレームの製造後に、マイクロホンの相対位置が既知となることが保証される。
低減されたノイズにより改善された音声信号処理の本発明のシステムおよび方法は、特に、ハンズフリーシステムに有効であり、これは、ハンズフリー通信がノイズ環境で達成されるからである。
さらに、本発明は、車中における音声信号処理のための、およびハンズフリーシステムのための先述のシステムの使用に向ける。改善されたSNRは、車両キャビン中の通信装置の音響的に興味深いコンテンツにおいて特に望まれる。上述した実施形態にしたがって、マイクロホンアレイがフレームにおいて配置される場合、マイクロホンアレイは容易に車両キャビン中に搭載され得る。
本発明により、音声信号処理およびハンズフリーシステムための、上述したシステムの1つを備える車両も提供される。
さらに、本発明は、ノイズ低減による音声信号処理のための方法を提供し、該方法は、
少なくとも2つのマイクロホンを備えるマイクロホンアレイによってマイクロホン信号を検出することと、マイクロホン信号を前処理することであって、前処理することが、前処理信号を得るためにマイクロホン信号の時間遅延補償を包含することと、第1信号処理のための、および第2の信号処理のための入力信号として前処理信号を使用することであって、該第1信号処理が少なくとも1つのノイズ参照信号生成することを含み、第2の信号処理がビームフォームされた信号を得るために、適応するビームフォーミングをすることを含む、ことと、適応ノイズキャンセリング手段を使用してノイズ参照信号に基づくビームフォームされた信号のノイズを低減することとを包含する。
非適応のブロッキングマトリクスまたは適応のブロッキングマトリクスを使用して、少なくとも1つのノイズ参照信号が生成され得る。
マイクロホン信号の前処理は、時間遅延補償された信号を、適応するセルフキャリブレーションすることを包含し得、これらの信号の位相および振幅を一致させる。
適応する処理ステップの適応、特に、適応するビームフォーミング、適応するブロッキングマトリクスの計算、適応するものであるように選択される場合には、および適応するノイズキャンセリングが、一定の適応する制御手段によって達成され得る。
さらに、適応ステップの制御は第1の適応処理手段に適応することを包含し得、この処理手段は、第2の適応処理手段の適応に依存し、ここで、第1の適応処理手段および第2の適応処理手段は、適応するビームフォーマー、適応するブロッキングマトリクス、および適応するノイズキャンセリング手段のうち1つである。
有利には、瞬時のSNR、および/または音声が検出されるかどうか、および/または検出された音声信号のエネルギーが一定の規定値で同時に検出されたバックグラウンドノイズのエネルギーを超過するかどうか、および/または音響信号が到来する方向、に依存して適応が制御され得る。
前処理手段および/または第1の処理手段および/または第2の処理手段が、時間領域または周波数領域またはサブバンド周波数領域で、処理を達成し得る。
本発明はコンピュータプログラム製品をさらに提供し、この製品は、上述のようなノイズ低減による音声信号処理のための本発明のステップを達成するためのコンピュータの実行可能な命令を有する1以上のコンピュータ読み取り可能な媒体を備える。
本発明は、さらに以下の手段を提供する。
(項目1)
ノイズ低減による音声信号処理のためのシステムであって、
マイクロホン信号を検出するために少なくとも2つのマイクロホンを有するマイクロホンアレイと、
前処理信号を得るために該マイクロホン信号の時間遅延補償を達成するように構成される手段を有し、マイクロホン信号を受信するために該マイクロホンアレイに接続される前処理手段と、
少なくとも1つのノイズ参照信号、特に、各マイクロホン信号に対して1つのノイズ参照信号を生成するように構成される手段を有し、該前処理信号を受信するために該前処理手段に接続される第1の信号処理手段と、
ビームフォームされた信号を得るために適応するビームフォーマーを有し、該前処理信号を受信するための該前処理手段に接続される第2の信号処理手段と、
該少なくとも1つのノイズ参照信号に基づいて、該ビームフォームされた信号のノイズを低減するように構成される適応するノイズキャンセリング手段と
を備える、システム。
(項目2)
上記少なくとも1つのノイズ参照信号を生成するように構成される手段が、非適応のブロッキングマトリクスまたは適応のブロッキングマトリクスを備える、項目1に記載のシステム。
(項目3)
上記前処理手段が、時間遅延補償されたマイクロホン信号の位相および振幅を一致するように構成される適応するセルフキャリブレーション手段をさらに備える、項目1から項目2のいずれか1項に記載のシステム。
(項目4)
上記適応処理手段、特に、上記適応ビームフォーマーおよび上記適応ノイズキャンセリング手段の適応を制御するように構成される適応する制御手段をさらに備える、項目1から項目3のいずれか1項に記載のシステム。
(項目5)
第2の適応処理手段の適応に依存する第1の適応処理手段の適応を開始するように上記適応制御手段が構成され、該第1の適応処理手段および該第2の適応処理手段が上記適応ビームフォーマー、上記適応ブロッキングマトリクスおよび上記適応ノイズキャンセリング手段のうちの1つである、項目4に記載のシステム。
(項目6)
上記適応制御手段が、瞬時のSNR、および/または音声が検出されるかどうか、および/または検出された音声信号のエネルギーが一定の規定値で同時に検出されたバックグラウンドノイズのエネルギーを超過するかどうか、および/または音響信号が到来する方向、に依存して適応を開始するように構成される、項目4または項目5に記載のシステム。
(項目7)
上記前処理手段および/または上記第の1処理手段および/または上記第2の処理手段が、時間領域または周波数領域またはサブバンド周波数領域で、処理を達成するように構成される、項目1から項目6のいずれか1項に記載のシステム。
(項目8)
上記マイクロホンアレイが、少なくとも1つの指向性マイクロホン、詳しくは、異なる方向を向く1より多い指向性マイクロホンを備える、項目1から項目7のいずれか1項に記載のシステム。
(項目9)
上記マイクロホンアレイが少なくとも2つのサブアレイを備える、項目1から項目8のいずれか1項に記載のシステム。
(項目10)
フレームをさらに備え、上記マイクロホンアレイが、該フレーム中または該フレーム上に、所定の、特に、定位置に配置される、項目1から項目9のいずれか1項に記載のシステム。
(項目11)
項目1から項目10のいずれか1項に記載のノイズ低減による音声信号処理のためのシステムを備えるハンズフリーシステム。
(項目12)
ノイズ低減による音声信号を処理するための方法であって、
少なくとも2つのマイクロホンを備えるマイクロホンアレイによってマイクロホン信号を検出することと、
該マイクロホン信号を前処理することであって、該前処理することが、前処理信号を得るために該マイクロホン信号の時間遅延補償を包含することと、
第1の信号処理のためのおよび第2の信号処理のための入力信号として該前処理信号を使用することであって、該第1の信号処理が少なくとも1つのノイズ参照信号を生成することを含み、該第2の信号処理がビームフォームされた信号を得るために、適応するビームフォーミングをすることを含む、ことと、
適応するノイズキャンセリング手段を使用して、該ノイズ参照信号に基づいてビームフォームされた信号のノイズを低減すること
を包含する、方法。
(項目13)
上記少なくとも1つのノイズ参照信号が、非適応のブロッキングマトリクスまたは適応のブロッキングマトリクスを使用して生成される、項目12に記載の方法。
(項目14)
上記マイクロホン信号を前処理することが、これらの信号の位相および振幅を一致させるために、上記時間遅延補償された信号を適応セルフキャリブレーションすることをさらに包含する、項目12または項目13に記載の方法。
(項目15)
適応処理ステップ、特に、上記適応ビームフォーミングおよび上記適応ノイズキャンセリングの適応を制御することをさらに包含する、項目12から項目14のいずれか1項に記載の方法。
(項目16)
上記制御することが、第2の適応処理手段の適応に依存する第1の適応処理手段を適応することを包含し、該第1の適応処理手段および該第2の適応処理手段が、上記適応ビームフォーマー、上記適応ブロッキングマトリクス、および上記適応ノイズキャンセリング手段のうちの1つである、項目15に記載の方法。
(項目17)
上記適応が、瞬時のSNR、および/または音声が検出されるかどうか、および/または検出された音声信号のエネルギーが一定の規定値で同時に検出されたバックグラウンドノイズのエネルギーを超過するかどうか、および/または音響信号が到来する方向、に依存して制御される、項目12から項目16のいずれか1項に記載の方法。
(項目18)
上記前処理手段および/または上記第1の処理手段および/または上記第2の処理手段が、時間領域または周波数領域またはサブバンド周波数領域において、処理を達成する、項目12から項目17のいずれか1項に記載のシステム。
(項目19)
項目12から項目18のいずれか1項に記載の方法のステップを達成するためのコンピュータ実行可能な命令を有する1以上のコンピュータ読み取り可能な媒体を備える、コンピュータプログラム製品。
本発明のさらなる特徴および利点は図面を参照して記載される。この明細書では、本発明の好ましい実施形態を例示することを意味する添付図面を参照する。このような実施形態は本発明の全ての範囲を表現していないことが理解される。
本発明による音声信号処理の一実施形態の一般的な構成が図1に示される。例示目的のでは、記載されるサブバンド領域において、この処理がなされる。代替的には、このアルゴリズムが、全時間領域において適用され得る。
図1に示されるこの音声処理手段は、GSCの一般的な表現とみなされ得る。しかし、標準的なGSC法によると、2つの信号処理手段または経路がある。それは、1つの非適応経路(上側の経路、固定ビームフォーマー)および1つの適応する経路(下側の経路、適応するノイズキャンセリング手段)である。本発明においては、上側の経路においてビームフォーマーと適応することも提案される。
例えば、車両の内側に搭載されるマイクロホンアレイ(示されてない)は、音声信号を検出する。検出されるマイクロホン信号は、ノイズを低減する前に、前処理される。前処理は、高速フーリエ変換を包含し得る。サブバンド領域における複素数のマイクロホン信号X(n,k)〜X(n,k)は、時間遅延補償11をされ、ここで、Mはマイクロホン数を示し、ならびにnおよびkは、周波数の引数(index)、時間の引数それぞれを示す。各マイクロホン信号に対して、この時間遅延は、所望のターゲット信号に対応してマイクロホン信号を同期するために、例えば、マイクロホンの幾何形状に基づいて、計算および補償される必要がある。この遅延は、音速により音が伝播するための、および異なる方向および/または位置から伝播するための音響での時間遅延に対応する。
この時間遅延信号XT,1〜XT,Mは、2つの異なる信号処理手段によってさらに処理され、これらは例えば、2つの信号処理経路に入力される:この経路は、ブロッキングマトリクス12を有する第1の(下側の)適応する経路および適応するノイズキャンセリング手段13および適応する重み付き和のビームフォーマー14を有する第2の(上側の)経路である。
各チャンネルにおける信号部分のノイズレベルは互いに異なることが多い。異なるチャンネルの単純平均をとる(遅延和ビームフォーマー)ことにより、まさに低いSNRを有するチャンネルは、出力信号のSNRを低減し得る。このように、異なるチャンネルには重み係数(重み)を導入することが望まれ得る。
平均をとる前に、各サブバンドnにおける各チャンネルmに実数の重みA(n)を適用することによって、出力信号YのSNRは、原理的に最大化され得る。
Figure 0004734070
次の手順により、重みA(n)を決定することが可能になる。入力信号XT,Mはそれぞれ、信号部分S(n,k)およびノイズ部分N(n,k)からなる。
Figure 0004734070
簡単のために、この信号部分は正の実数のスケーリングファクターαによってのみ変化することを仮定する。
Figure 0004734070
ノイズ部分は、互いに完全な直交性を有し、異なるパワーεを有し得ると仮定される。
Figure 0004734070
ここで、βはある正の実数値である。これらの仮定に対する最適な重みは、以下のように計算され得る(参照:Van Veen,B.D.およびBuckley,K.M.による「Beamforming:A Versatile Approach to Spatial Filtering」,IEEE ASSP Magazine,vol.5,no.2,p.4,1999)。
Figure 0004734070
この重みは、所望の信号部分に対する唯一の応答を得るために正規化され得る。
Figure 0004734070
実際の適用では、α(n)およびβ(n)の数は時刻に依存し得る。このようにして、一時的な変化をトラックする(例えば、ε{|N(n,k)|}ノイズのパワーおよび異なるチャンネルの音声振幅比を評価することによって)ことが必要である。その結果、最適な重みA(n,k)はさらに、時刻の変化量でもあり、繰り返し計算される必要があり、これにより、ビームフォーマーが適応するものとなる。
適応する重み和ビームフォーマーY(n,k)の出力信号は中間値として示される。このSNRが出来るだけ適切であり得るために、このビームフォーマーは適応する重みA(n,k)の決定により達成される。
ブロッキングマトリクス12は、ノイズ参照信号を得るために設計される。これらの信号の中には、所望の音声はできる限り存在し得ない。容易な理解のために、このブロッキングマトリクスは、隣のチャンネルとの減算を達成する。
好ましくは、このブロッキングマトリクス12は適応するものである。入力信号XT,1〜XT,Mは、「ノイズプレーン(noise plane)」上に作られる。XB,1〜XB,M−1は、このブロッキングマトリクスによって生じるノイズ参照信号出力であり、このブロッキングマトリクスは、この入力信号内で、所望のまたは有効な信号を理論的には完全にブロックし得る。Walsh−Hadamard型のブロッキングマトリクスは、Griffiths−Jim型のブロッキングマトリクスよりも一般的に好まれるが、それは、Walsh−Hadamard型のブロッキングマトリクスを用いると、多くのフィルターが省略され得るからである。他方、Walsh−Hadamard型のブロッキングマトリクスは、M=2のマイクロホンのみからなるアレイに成り立ち得る。
好ましくは、ノイズ参照信号XB,1〜XB,Mは、適応するノイズキャンセリング手段13の入力信号として使用される。適応するノイズキャンセルはフィルターHGSC,m(n,k)により行われる。これらのフィルターは、出力信号パワーε{|YGSC,m(n,k)|}を最小化するように適応される。参照信号は理論的には信号部分を有しないので、この残余ノイズの信号Y(n,k)が低減され、これにより、SNRが増加する。
フィルターの適応のために、NLMSアルゴリズムは使用され得、このアルゴリズムは次のとおりである:
Figure 0004734070
ここで、アスタリスクは、このノイズ参照信号の複素共役を示す。したがって、ノイズ参照信号およびフィルターHGSC,m(n,k)は、ノイズ信号を生成するために使用され、該ノイズ信号は、適応するビームフォーマー14によって、ビームフォームされた信号Y出力から減算される。この減算によって得られた最終的な出力信号YGSCは、当業者に周知のものよりも高品質な音声取得を可能にする、高品質の音声信号を示す。
第1の信号処理および第2の信号処理の適応するステップは、適応する制御15によって制御される必要がある。上側の信号処理経路が適応されると、一般的に下側の信号処理経路の最適解の設定は変化する。それゆえ、下側の信号処理経路は、有利的に再適応される必要がある。
出力信号における結果を得るために、この適応ステップは注意深く制御される必要がある。好ましくは、SNRを最適化する重み和ビームフォーマー14は瞬間にのみ適応され、ここで、(音声)信号は、バックグラウンドノイズ上で十分なエネルギーを有して存在する。有利なことに、適応するノイズキャンセリング手段13は、ノイズが存在する場合、および音声信号が検出されないかまたはほとんど音声信号が検出されない場合にのみ適用され得る。
異なるユニットの適応のためのステップ数を制御するために、いくつかの情報のソースが考慮され得る。例えば、このステップ数は、SNR、および/または音声が検出されるかどうか、および/または音声の伝播方向に依存し得る。
図2は、本発明のGSCの他の実施形態を示す。ここで、図1に示される構成は、適応するセルフキャリブレーティングユニット26により提供される。この実施形態による前処理手段は、時間遅延補償21、およびマイクロホン入力を前処理するために適応するセルフキャリブレーティングユニット26を備える。
実際の適用では、時間遅延補償後に、このマイクロホン信号は最適方法においてまだ一致していない。いくつかのマイクロホンは、異なるチャンネルにおける位相および振幅に関して一致し得ないが、それは、所望の方向から外れた話し手の動きおよびエコーがかかる部屋の音響(例えば、境界反射のような)が理想的でない条件を引き起こすからである。
適応するセルフキャリブレーションユニット26によって、異なるチャンネルの不一致は最小化される。これは、位相および振幅に対してなされる。次いで、各チャンネルにおける所望の信号は時刻歴信号であり得、ほぼ同じ周波数特性を有し得る。
適応するセルフキャリブレーションのための1つの効果的な方法は次の通りである。このセルフキャリブレーションフィルターHC,m(n,k)は、以下に示す各チャンネルにおける信号の一致を達成する。
Figure 0004734070
ここで、EC,m(n,k)は誤差信号を示す。(複素数の)フィルターHC,m(n,k)は、
誤差信号のパワーε{|NC,m(n,k)|}を最小化することを目的とするNLMSアルゴリズムにより再度適応され得る。
Figure 0004734070
次いで、このフィルターは再計測されて、唯一の手段応答を得る。
Figure 0004734070
図2に示される実施形態による前処理手段は、適応するようにセルフキャリブレートされた信号XC,Mを出力し、この信号は、第1の処理手段(下側の処理経路)および第2の処理手段(上側の処理経路)によって、詳細には本発明の実施形態による、ブロッキングマトリクス22および適応するビームフォーマー24によって、さらに処理される。
ブロッキングマトリクス22は、非適応または適応するものであり得る。この入力信号は前に、適応してセルフキャリブレートされるので、実際の適用に基づいて、非適応のマトリクスは、十分正確なノイズ参照信号を生成し得るとみなされ得る。
音声信号がバックグラウンドノイズ上で十分なエネルギーを有し、適応するセルフキャリブレーションユニット26が適用される場合には、その適応のみ達成され得る。
図3は、ノイズ低減による音声信号処理のための本発明の方法に記載の選択されたステップの機能を示す。少なくとも2つのマイクロホンが口頭発声を検出する(31)。ステップ33において、マイクロホン出力が生成され、次いで、この出力は、例えば、高速フーリエ変換(例えば、毎秒128点の変換)によりマイクロホン出力32を通すことにより周波数領域において処理される。次のステップにおいては、時間遅延補償が周波数領域34において達成される。このステップは、マイクロホン信号を前処理する間においては最終ステップであり得る。
時間遅延補償後の多くの適用としては、マイクロホン信号は十分に一致しない。それゆえ、信号を適応的にセルフキャリブレートする(35)ことによって、多重チャンネルの不一致を最小化することは有利な点であり、その後、キャリブレートされた信号を前処理するステップは、所望の信号に関して位相整列され、所望信号部分の振幅は、各多重チャンネルにおいて等しい。
ノイズ部分のレベルはまだ概して、他の各チャンネルとは異なる。キャリブレートされた信号はさらに、適応するビームフォーマーによって処理され、最大のSNRを有するビームフォームされた信号を得る。このためには、重み付きの係数(重み)A(n)が計算される必要があり(36)、前処理された異なる入力信号の重み付きの和をとる。従来の遅延和ビームフォーマーと異なり、この計算は、本発明の方法に従って、時間依存で達成される。
計算された重み付きの係数A(n)により、適応するビームフォーマー出力信号Y(N,k)が決定される(37)。この信号は、適応するノイズキャンセリング手段によってノイズ部分を減算することによりさらに処理され得、このノイズキャンセリング手段は、異なるチャンネルに対するノイズ参照信号に基づいて働き、このノイズ参照信号はブロッキングマトリクス(示されてない)により得られる。結果的に、生じた信号は高速逆フーリエ変換により時間領域に戻るように変換される。
先に議論されたすべての実施形態は限定として意図されるのではなく、本発明の特徴および利点を示す例示として示される。上記されたいくつかまたはすべての特徴は異なる方法で結合されることが理解される。
本発明による音声信号処理手段の一実施形態を示し、この手段は、適応するビームフォーマー、時間遅延補償を達成するように構成される手段、ブロックマトリクスおよび適応するノイズキャンセリング手段を備える。 図1において示されるものと同様な音声信号処理手段の他の実施形態を示すが、さらに、適応するセルフキャリブレーション手段を備える。 ノイズ低減による音声信号処理のための本発明の方法の選択されたステップを示す。
符号の説明
11、21 時間遅延補償
12、22 ブロッキングマトリクス
13、23 適応ノイズキャンセラ
14、24 重み付き和ビームフォーマー
15、25 適応制御
26 セルフキャリブレーティングユニット

Claims (19)

  1. ノイズ低減による音声信号処理のためのシステムであって、
    複数のマイクロホン信号を検出するために少なくとも2つのマイクロホンを有するマイクロホンアレイであって、該複数のマイクロホン信号の数は、該少なくとも2つのマイクロホンの数に等しく、それぞれのマイクロホン信号は、該少なくとも2つのマイクロホンのうち対応する1つのマイクロホンによって検出される、マイクロホンアレイと、
    該複数のマイクロホン信号を受信するように該マイクロホンアレイに接続されている前処理手段であって、該複数のマイクロホン信号の時間遅延補償を行うことにより、前処理された信号を取得するように構成されている手段を有する前処理手段と、
    該前処理された信号を受信するように該前処理手段に接続されている第1の信号処理手段であって、それぞれのマイクロホン信号に対してそれぞれ1つのノイズ参照信号を生成するように構成されている手段を有する第1の信号処理手段と、
    該前処理された信号を受信するように該前処理手段に接続されている第2の信号処理手段であって、該第2の信号処理手段は、それぞれのマイクロホン信号に対して適応された重みを用いることにより、ビームフォームされた信号を取得する適応型のビームフォーマーを有し、該重みは、時間経過につれて適応される、第2の信号処理手段と、
    それぞれのマイクロホン信号に対するそれぞれ1つのノイズ参照信号に基づいて、該ビームフォームされた信号のノイズを低減するように構成されている適応型のノイズキャンセリング手段と
    を含む、システム。
  2. それぞれのマイクロホン信号に対してそれぞれ1つのノイズ参照信号を生成するように構成されている手段は、非適応型のブロッキングマトリクスまたは適応型のブロッキングマトリクスを含む、請求項1に記載のシステム。
  3. 前記前処理手段は、時間遅延補償された複数のマイクロホン信号の位相および振幅を適応的に互いに一致させる手段をさらに含む、請求項1から請求項2のいずれか1項に記載のシステム。
  4. 適応処理手段の適応を制御するように構成されている適応制御をさらに含み、該適応処理手段は、前記適応型のビームフォーマーおよび前記適応型のノイズキャンセリング手段のうちの少なくとも1つを含む、請求項1から請求項3のいずれか1項に記載のシステム。
  5. 前記適応制御は、第2の適応処理手段の適応が生じる場合に第1の適応処理手段の適応を開始するように構成されており、該第1の適応処理手段および該第2の適応処理手段は、前記適応型のビームフォーマー、前記適応型のブロッキングマトリクス、前記適応型のノイズキャンセリング手段のうちの1つである、請求項4に記載のシステム。
  6. 前記適応制御は、瞬時のSNR、および/または、音声が検出されるかどうか、および/または、検出された音声信号のエネルギーが同時に検出されたバックグラウンドノイズのエネルギーよりも所定の値の分だけ超過するかどうか、および/または、音響信号が到来する方向に依存して、適応を開始するように構成されている、請求項4または請求項5に記載のシステム。
  7. 前記前処理手段および/または前記第の1処理手段および/または前記第2の処理手段は、時間領域または周波数領域またはサブバンド周波数領域において、処理を実行するように構成されている、請求項1から請求項6のいずれか1項に記載のシステム。
  8. 前記マイクロホンアレイは、複数の異なる方向を向く2つ以上の指向性マイクロホンを含む、請求項1から請求項7のいずれか1項に記載のシステム。
  9. 前記マイクロホンアレイは、少なくとも2つのサブアレイを含み、各サブアレイは、前記前処理手段によって受信されるために特定の周波数帯域のマイクロホン信号を出力するように最適化されている、請求項1から請求項8のいずれか1項に記載のシステム。
  10. フレームをさらに含み、前記マイクロホンアレイの各マイクロホンは、該フレーム中または該フレーム上の所定の位置に配置され、該所定の位置は、固定されている、請求項1から請求項9のいずれか1項に記載のシステム。
  11. 請求項1から請求項10のいずれか1項に記載のノイズ低減による音声信号処理のためのシステムを含むハンズフリーシステム。
  12. ノイズ低減による音声信号処理のための方法であって、該方法は、
    少なくとも2つのマイクロホンを有するマイクロホンアレイによって複数のマイクロホン信号を検出することであって、該複数のマイクロホン信号の数は、該少なくとも2つのマイクロホンの数に等しく、それぞれのマイクロホン信号は、該少なくとも2つのマイクロホンのうち対応する1つのマイクロホンによって検出される、ことと、
    該複数のマイクロホン信号を前処理することであって、該前処理することは、該複数のマイクロホン信号の時間遅延補償を行うことにより、前処理された信号を取得することと、第1の信号処理のための入力信号および第2の信号処理のための入力信号として該前処理された信号を用いることとを含み、該第1の信号処理は、それぞれのマイクロホン信号に対してそれぞれ1つのノイズ参照信号を生成することを含み、該第2の信号処理は、それぞれのマイクロホン信号に対して適応された重みの適応を行うことにより、ビームフォームされた信号を取得することを含む適応型のビームフォーミングを含み、該重みは、時間経過につれて適応される、ことと、
    適応型のノイズキャンセリング手段を用いて、それぞれのマイクロホン信号に対するそれぞれ1つのノイズ参照信号に基づいてビームフォームされた信号のノイズを低減することと
    を含む、方法。
  13. それぞれのマイクロホン信号に対するそれぞれ1つのノイズ参照信号は、非適応型のブロッキングマトリクスまたは適応型のブロッキングマトリクスを用いて生成される、請求項12に記載の方法。
  14. 前記複数のマイクロホン信号を前処理することは、時間遅延補償された信号の位相および振幅を適応的に互いに一致させることをさらに含む、請求項12または請求項13に記載の方法。
  15. 適応処理ステップの適応を制御することをさらに含み、該適応処理ステップは、前記適応型のビームフォーミングおよび前記適応型のノイズキャンセリング手段を用いてビームフォームされた信号のノイズを低減することのうちの少なくとも1つを含む、請求項12から請求項14のいずれか1項に記載の方法。
  16. 前記制御することは、第2の適応処理手段の適応が生じる場合に第1の適応処理手段を適応することを含み、該第1の適応処理手段および該第2の適応処理手段は、前記適応型のビームフォーミング、前記適応型のブロッキングマトリクス、前記適応型のノイズキャンセリング手段のうちの1つである、請求項15に記載の方法。
  17. 前記適応処理ステップの適応は、瞬時のSNR、および/または、音声が検出されるかどうか、および/または、検出された音声信号のエネルギーが同時に検出されたバックグラウンドノイズのエネルギーよりも所定の値の分だけ超過するかどうか、および/または、音響信号が到来する方向に依存して、制御される、請求項15に記載の方法。
  18. 前記前処理手段および/または前記第1の処理手段および/または前記第2の処理手段は、時間領域または周波数領域またはサブバンド周波数領域において、処理を実行する、請求項12から請求項17のいずれか1項に記載のシステム。
  19. 請求項12から請求項18のいずれか1項に記載の方法のステップを実行するためのコンピュータ実行可能な命令を有する1以上のコンピュータ読み取り可能な媒体を含むコンピュータプログラム製品。
JP2005276909A 2004-09-23 2005-09-22 ノイズ低減による多重チャンネル適応の音声信号処理 Active JP4734070B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP04022677.1 2004-09-23
EP04022677A EP1640971B1 (en) 2004-09-23 2004-09-23 Multi-channel adaptive speech signal processing with noise reduction

Publications (2)

Publication Number Publication Date
JP2006094522A JP2006094522A (ja) 2006-04-06
JP4734070B2 true JP4734070B2 (ja) 2011-07-27

Family

ID=34926680

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005276909A Active JP4734070B2 (ja) 2004-09-23 2005-09-22 ノイズ低減による多重チャンネル適応の音声信号処理

Country Status (8)

Country Link
US (1) US8194872B2 (ja)
EP (1) EP1640971B1 (ja)
JP (1) JP4734070B2 (ja)
KR (1) KR101239604B1 (ja)
CN (1) CN1753084B (ja)
AT (1) ATE405925T1 (ja)
CA (1) CA2518684C (ja)
DE (1) DE602004015987D1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3823315A1 (en) 2019-11-18 2021-05-19 Panasonic Intellectual Property Corporation of America Sound pickup device, sound pickup method, and sound pickup program

Families Citing this family (149)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8543390B2 (en) * 2004-10-26 2013-09-24 Qnx Software Systems Limited Multi-channel periodic signal enhancement system
DE102005047047A1 (de) * 2005-09-30 2007-04-12 Siemens Audiologische Technik Gmbh Mikrofonkalibrierung bei einem RGSC-Beamformer
KR100751927B1 (ko) * 2005-11-11 2007-08-24 고려대학교 산학협력단 멀티음성채널 음성신호의 적응적 잡음제거를 위한 전처리 방법 및 장치
US8345890B2 (en) 2006-01-05 2013-01-01 Audience, Inc. System and method for utilizing inter-microphone level differences for speech enhancement
US9185487B2 (en) * 2006-01-30 2015-11-10 Audience, Inc. System and method for providing noise suppression utilizing null processing noise subtraction
US8194880B2 (en) 2006-01-30 2012-06-05 Audience, Inc. System and method for utilizing omni-directional microphones for speech enhancement
US8204252B1 (en) 2006-10-10 2012-06-19 Audience, Inc. System and method for providing close microphone adaptive array processing
US8744844B2 (en) 2007-07-06 2014-06-03 Audience, Inc. System and method for adaptive intelligent noise suppression
WO2007103037A2 (en) * 2006-03-01 2007-09-13 Softmax, Inc. System and method for generating a separated signal
US8180067B2 (en) * 2006-04-28 2012-05-15 Harman International Industries, Incorporated System for selectively extracting components of an audio input signal
US8706482B2 (en) * 2006-05-11 2014-04-22 Nth Data Processing L.L.C. Voice coder with multiple-microphone system and strategic microphone placement to deter obstruction for a digital communication device
US8204253B1 (en) 2008-06-30 2012-06-19 Audience, Inc. Self calibration of audio device
US8150065B2 (en) 2006-05-25 2012-04-03 Audience, Inc. System and method for processing an audio signal
US8849231B1 (en) 2007-08-08 2014-09-30 Audience, Inc. System and method for adaptive power control
US8934641B2 (en) 2006-05-25 2015-01-13 Audience, Inc. Systems and methods for reconstructing decomposed audio signals
US8949120B1 (en) 2006-05-25 2015-02-03 Audience, Inc. Adaptive noise cancelation
EP1879181B1 (en) * 2006-07-11 2014-05-21 Nuance Communications, Inc. Method for compensation audio signal components in a vehicle communication system and system therefor
EP2044700B1 (en) * 2006-07-12 2015-10-21 Intel Corporation Systems and methods for determining a predictable modulation and coding scheme
US8214219B2 (en) * 2006-09-15 2012-07-03 Volkswagen Of America, Inc. Speech communications system for a vehicle and method of operating a speech communications system for a vehicle
US8036767B2 (en) * 2006-09-20 2011-10-11 Harman International Industries, Incorporated System for extracting and changing the reverberant content of an audio input signal
WO2008062850A1 (fr) 2006-11-22 2008-05-29 Funai Electric Advanced Applied Technology Research Institute Inc. Dispositif d'entrée vocale, procédé de production de ce dernier et système de traitement d'informations
WO2008062848A1 (fr) 2006-11-22 2008-05-29 Funai Electric Advanced Applied Technology Research Institute Inc. Dispositif d'entrée vocale, procédé de production de ce dernier et système de traitement d'informations
US20080175407A1 (en) * 2007-01-23 2008-07-24 Fortemedia, Inc. System and method for calibrating phase and gain mismatches of an array microphone
US8259926B1 (en) 2007-02-23 2012-09-04 Audience, Inc. System and method for 2-channel and 3-channel acoustic echo cancellation
JP2010519602A (ja) * 2007-02-26 2010-06-03 クゥアルコム・インコーポレイテッド 信号分離のためのシステム、方法、および装置
US8160273B2 (en) * 2007-02-26 2012-04-17 Erik Visser Systems, methods, and apparatus for signal separation using data driven techniques
US8189766B1 (en) 2007-07-26 2012-05-29 Audience, Inc. System and method for blind subband acoustic echo cancellation postfiltering
DE602007003220D1 (de) 2007-08-13 2009-12-24 Harman Becker Automotive Sys Rauschverringerung mittels Kombination aus Strahlformung und Nachfilterung
GB2453117B (en) * 2007-09-25 2012-05-23 Motorola Mobility Inc Apparatus and method for encoding a multi channel audio signal
ATE456130T1 (de) 2007-10-29 2010-02-15 Harman Becker Automotive Sys Partielle sprachrekonstruktion
US8121311B2 (en) * 2007-11-05 2012-02-21 Qnx Software Systems Co. Mixer with adaptive post-filtering
US9392360B2 (en) 2007-12-11 2016-07-12 Andrea Electronics Corporation Steerable sensor array system with video input
WO2009076523A1 (en) * 2007-12-11 2009-06-18 Andrea Electronics Corporation Adaptive filtering in a sensor array system
US8175291B2 (en) * 2007-12-19 2012-05-08 Qualcomm Incorporated Systems, methods, and apparatus for multi-microphone based speech enhancement
US8180064B1 (en) 2007-12-21 2012-05-15 Audience, Inc. System and method for providing voice equalization
US8143620B1 (en) 2007-12-21 2012-03-27 Audience, Inc. System and method for adaptive classification of audio sources
US8194882B2 (en) 2008-02-29 2012-06-05 Audience, Inc. System and method for providing single microphone noise suppression fallback
US8812309B2 (en) * 2008-03-18 2014-08-19 Qualcomm Incorporated Methods and apparatus for suppressing ambient noise using multiple audio signals
US8355511B2 (en) 2008-03-18 2013-01-15 Audience, Inc. System and method for envelope-based acoustic echo cancellation
US8184816B2 (en) * 2008-03-18 2012-05-22 Qualcomm Incorporated Systems and methods for detecting wind noise using multiple audio sources
US8831936B2 (en) * 2008-05-29 2014-09-09 Qualcomm Incorporated Systems, methods, apparatus, and computer program products for speech signal processing using spectral contrast enhancement
US8321214B2 (en) * 2008-06-02 2012-11-27 Qualcomm Incorporated Systems, methods, and apparatus for multichannel signal amplitude balancing
KR101470528B1 (ko) * 2008-06-09 2014-12-15 삼성전자주식회사 적응 빔포밍을 위한 사용자 방향의 소리 검출 기반의 적응모드 제어 장치 및 방법
CN102077277B (zh) * 2008-06-25 2013-06-12 皇家飞利浦电子股份有限公司 音频处理
US8774423B1 (en) 2008-06-30 2014-07-08 Audience, Inc. System and method for controlling adaptivity of signal modification using a phantom coefficient
US8521530B1 (en) 2008-06-30 2013-08-27 Audience, Inc. System and method for enhancing a monaural audio signal
KR20100003530A (ko) * 2008-07-01 2010-01-11 삼성전자주식회사 전자기기에서 음성 신호의 잡음 제거 장치 및 방법
US8538749B2 (en) * 2008-07-18 2013-09-17 Qualcomm Incorporated Systems, methods, apparatus, and computer program products for enhanced intelligibility
US8391507B2 (en) * 2008-08-22 2013-03-05 Qualcomm Incorporated Systems, methods, and apparatus for detection of uncorrelated component
EP2197219B1 (en) 2008-12-12 2012-10-24 Nuance Communications, Inc. Method for determining a time delay for time delay compensation
US8401206B2 (en) * 2009-01-15 2013-03-19 Microsoft Corporation Adaptive beamformer using a log domain optimization criterion
US9202456B2 (en) * 2009-04-23 2015-12-01 Qualcomm Incorporated Systems, methods, apparatus, and computer-readable media for automatic control of active noise cancellation
KR101581885B1 (ko) * 2009-08-26 2016-01-04 삼성전자주식회사 복소 스펙트럼 잡음 제거 장치 및 방법
KR101587844B1 (ko) 2009-08-26 2016-01-22 삼성전자주식회사 마이크로폰의 신호 보상 장치 및 그 방법
KR101601197B1 (ko) * 2009-09-28 2016-03-09 삼성전자주식회사 마이크로폰 어레이의 이득 조정 장치 및 방법
KR101387195B1 (ko) 2009-10-05 2014-04-21 하만인터내셔날인더스트리스인코포레이티드 오디오 신호의 공간 추출 시스템
US9215527B1 (en) * 2009-12-14 2015-12-15 Cirrus Logic, Inc. Multi-band integrated speech separating microphone array processor with adaptive beamforming
US8565446B1 (en) * 2010-01-12 2013-10-22 Acoustic Technologies, Inc. Estimating direction of arrival from plural microphones
US8718290B2 (en) * 2010-01-26 2014-05-06 Audience, Inc. Adaptive noise reduction using level cues
US9008329B1 (en) 2010-01-26 2015-04-14 Audience, Inc. Noise reduction using multi-feature cluster tracker
US20110200205A1 (en) * 2010-02-17 2011-08-18 Panasonic Corporation Sound pickup apparatus, portable communication apparatus, and image pickup apparatus
US8798290B1 (en) 2010-04-21 2014-08-05 Audience, Inc. Systems and methods for adaptive signal equalization
US9558755B1 (en) 2010-05-20 2017-01-31 Knowles Electronics, Llc Noise suppression assisted automatic speech recognition
US9053697B2 (en) 2010-06-01 2015-06-09 Qualcomm Incorporated Systems, methods, devices, apparatus, and computer program products for audio equalization
KR101782050B1 (ko) 2010-09-17 2017-09-28 삼성전자주식회사 비등간격으로 배치된 마이크로폰을 이용한 음질 향상 장치 및 방법
CN103299656B (zh) * 2010-11-29 2016-08-10 纽昂斯通讯公司 动态麦克风信号混合器
US9100735B1 (en) 2011-02-10 2015-08-04 Dolby Laboratories Licensing Corporation Vector noise cancellation
US9253566B1 (en) * 2011-02-10 2016-02-02 Dolby Laboratories Licensing Corporation Vector noise cancellation
WO2012107561A1 (en) * 2011-02-10 2012-08-16 Dolby International Ab Spatial adaptation in multi-microphone sound capture
KR101248971B1 (ko) * 2011-05-26 2013-04-09 주식회사 마이티웍스 방향성 마이크 어레이를 이용한 신호 분리시스템 및 그 제공방법
GB2493327B (en) * 2011-07-05 2018-06-06 Skype Processing audio signals
US8340975B1 (en) * 2011-10-04 2012-12-25 Theodore Alfred Rosenberger Interactive speech recognition device and system for hands-free building control
JP5333559B2 (ja) * 2011-10-07 2013-11-06 株式会社デンソー 車両用装置
CN102664023A (zh) * 2012-04-26 2012-09-12 南京邮电大学 一种麦克风阵列语音增强的优化方法
US9584909B2 (en) * 2012-05-10 2017-02-28 Google Inc. Distributed beamforming based on message passing
US20130329908A1 (en) * 2012-06-08 2013-12-12 Apple Inc. Adjusting audio beamforming settings based on system state
WO2013187932A1 (en) 2012-06-10 2013-12-19 Nuance Communications, Inc. Noise dependent signal processing for in-car communication systems with multiple acoustic zones
FR2992459B1 (fr) * 2012-06-26 2014-08-15 Parrot Procede de debruitage d'un signal acoustique pour un dispositif audio multi-microphone operant dans un milieu bruite.
CN102831894B (zh) * 2012-08-09 2014-07-09 华为终端有限公司 指令处理方法、装置和系统
DE112012006876B4 (de) 2012-09-04 2021-06-10 Cerence Operating Company Verfahren und Sprachsignal-Verarbeitungssystem zur formantabhängigen Sprachsignalverstärkung
US9640194B1 (en) 2012-10-04 2017-05-02 Knowles Electronics, Llc Noise suppression for speech processing based on machine-learning mask estimation
US9232310B2 (en) 2012-10-15 2016-01-05 Nokia Technologies Oy Methods, apparatuses and computer program products for facilitating directional audio capture with multiple microphones
WO2014070139A2 (en) 2012-10-30 2014-05-08 Nuance Communications, Inc. Speech enhancement
CN103811013B (zh) * 2012-11-07 2017-05-03 中国移动通信集团公司 噪声抑制方法、装置、电子设备和通信处理方法
US9251804B2 (en) * 2012-11-21 2016-02-02 Empire Technology Development Llc Speech recognition
WO2014149050A1 (en) * 2013-03-21 2014-09-25 Nuance Communications, Inc. System and method for identifying suboptimal microphone performance
US9269352B2 (en) * 2013-05-13 2016-02-23 GM Global Technology Operations LLC Speech recognition with a plurality of microphones
US9747917B2 (en) * 2013-06-14 2017-08-29 GM Global Technology Operations LLC Position directed acoustic array and beamforming methods
US9536540B2 (en) 2013-07-19 2017-01-03 Knowles Electronics, Llc Speech signal separation and synthesis based on auditory scene analysis and speech modeling
US9418671B2 (en) 2013-08-15 2016-08-16 Huawei Technologies Co., Ltd. Adaptive high-pass post-filter
US20150063589A1 (en) * 2013-08-28 2015-03-05 Csr Technology Inc. Method, apparatus, and manufacture of adaptive null beamforming for a two-microphone array
CN104464739B (zh) 2013-09-18 2017-08-11 华为技术有限公司 音频信号处理方法及装置、差分波束形成方法及装置
US9742573B2 (en) * 2013-10-29 2017-08-22 Cisco Technology, Inc. Method and apparatus for calibrating multiple microphones
WO2015065362A1 (en) 2013-10-30 2015-05-07 Nuance Communications, Inc Methods and apparatus for selective microphone signal combining
US9706299B2 (en) * 2014-03-13 2017-07-11 GM Global Technology Operations LLC Processing of audio received at a plurality of microphones within a vehicle
DE112015003945T5 (de) 2014-08-28 2017-05-11 Knowles Electronics, Llc Mehrquellen-Rauschunterdrückung
US9482592B2 (en) * 2014-09-24 2016-11-01 General Monitors, Inc. Directional ultrasonic gas leak detector
EP3007170A1 (en) 2014-10-08 2016-04-13 GN Netcom A/S Robust noise cancellation using uncalibrated microphones
WO2016093855A1 (en) 2014-12-12 2016-06-16 Nuance Communications, Inc. System and method for generating a self-steering beamformer
US10242690B2 (en) 2014-12-12 2019-03-26 Nuance Communications, Inc. System and method for speech enhancement using a coherent to diffuse sound ratio
CN104835503A (zh) * 2015-05-06 2015-08-12 南京信息工程大学 一种改进gsc自适应语音增强方法
US9865265B2 (en) 2015-06-06 2018-01-09 Apple Inc. Multi-microphone speech recognition systems and related techniques
US10013981B2 (en) 2015-06-06 2018-07-03 Apple Inc. Multi-microphone speech recognition systems and related techniques
US10026399B2 (en) * 2015-09-11 2018-07-17 Amazon Technologies, Inc. Arbitration between voice-enabled devices
CN108352166B (zh) * 2015-09-25 2022-10-28 弗劳恩霍夫应用研究促进协会 使用线性预测编码对音频信号进行编码的编码器和方法
KR102476600B1 (ko) 2015-10-21 2022-12-12 삼성전자주식회사 전자 장치, 그의 음성 인식 방법 및 비일시적 컴퓨터 판독가능 기록매체
US10320964B2 (en) * 2015-10-30 2019-06-11 Mitsubishi Electric Corporation Hands-free control apparatus
CN107040856B (zh) * 2016-02-04 2023-12-08 共达电声股份有限公司 一种麦克风阵列模组
CN105702261B (zh) * 2016-02-04 2019-08-27 厦门大学 带相位自校正功能的声聚焦麦克风阵列长距离拾音装置
KR20170097519A (ko) * 2016-02-18 2017-08-28 삼성전자주식회사 음성 처리 방법 및 장치
US10431211B2 (en) * 2016-07-29 2019-10-01 Qualcomm Incorporated Directional processing of far-field audio
CN106454673B (zh) * 2016-09-05 2019-01-22 广东顺德中山大学卡内基梅隆大学国际联合研究院 基于rls算法的麦克风阵列输出信号自适应校准方法
CN106710601B (zh) * 2016-11-23 2020-10-13 合肥美的智能科技有限公司 一种语音信号降噪拾音处理方法和装置及冰箱
EP3557576B1 (en) * 2016-12-16 2022-12-07 Nippon Telegraph and Telephone Corporation Target sound emphasis device, noise estimation parameter learning device, method for emphasizing target sound, method for learning noise estimation parameter, and program
EP3392882A1 (en) * 2017-04-20 2018-10-24 Thomson Licensing Method for processing an input audio signal and corresponding electronic device, non-transitory computer readable program product and computer readable storage medium
CN107316649B (zh) * 2017-05-15 2020-11-20 百度在线网络技术(北京)有限公司 基于人工智能的语音识别方法及装置
EP3416407B1 (en) * 2017-06-13 2020-04-08 Nxp B.V. Signal processor
JP2019010436A (ja) * 2017-06-30 2019-01-24 ヤマハ株式会社 生体センサおよび生体センサの信号取得方法
DE102018117558A1 (de) * 2017-07-31 2019-01-31 Harman Becker Automotive Systems Gmbh Adaptives nachfiltern
CN107301869B (zh) * 2017-08-17 2021-01-29 珠海全志科技股份有限公司 麦克风阵列拾音方法、处理器及其存储介质
GB2568940A (en) 2017-12-01 2019-06-05 Nokia Technologies Oy Processing audio signals
CN108109617B (zh) * 2018-01-08 2020-12-15 深圳市声菲特科技技术有限公司 一种远距离拾音方法
KR102478393B1 (ko) * 2018-02-12 2022-12-19 삼성전자주식회사 노이즈가 정제된 음성 신호를 획득하는 방법 및 이를 수행하는 전자 장치
US10522167B1 (en) * 2018-02-13 2019-12-31 Amazon Techonlogies, Inc. Multichannel noise cancellation using deep neural network masking
CN108091344A (zh) * 2018-02-28 2018-05-29 科大讯飞股份有限公司 一种降噪方法、装置及系统
CN108771531A (zh) * 2018-05-28 2018-11-09 王美金 一种人工智能生命监测床和方法
JP2020036304A (ja) * 2018-08-29 2020-03-05 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 信号処理方法及び信号処理装置
US10708702B2 (en) * 2018-08-29 2020-07-07 Panasonic Intellectual Property Corporation Of America Signal processing method and signal processing device
CN108932949A (zh) * 2018-09-05 2018-12-04 科大讯飞股份有限公司 一种参考信号获取方法及装置
CN109243482B (zh) * 2018-10-30 2022-03-18 深圳市昂思科技有限公司 改进acranc与波束形成的微型阵列语音降噪方法
US11070907B2 (en) 2019-04-25 2021-07-20 Khaled Shami Signal matching method and device
WO2021003334A1 (en) 2019-07-03 2021-01-07 The Board Of Trustees Of The University Of Illinois Separating space-time signals with moving and asynchronous arrays
CN110600022B (zh) * 2019-08-12 2024-02-27 平安科技(深圳)有限公司 一种音频处理方法、装置及计算机存储介质
CN110675887B (zh) * 2019-09-12 2021-12-21 厦门亿联网络技术股份有限公司 一种用于会议系统的多麦克风切换方法和系统
CN110534127A (zh) * 2019-09-24 2019-12-03 华南理工大学 应用于室内环境中的麦克风阵列语音增强方法及装置
CN114902697A (zh) * 2019-12-30 2022-08-12 哈曼贝克自动系统股份有限公司 汽车传声器系统的匹配和均衡传声器输出
CN111462743B (zh) * 2020-03-30 2023-09-12 北京声智科技有限公司 一种语音信号处理方法及装置
CN111583927A (zh) * 2020-05-08 2020-08-25 安创生态科技(深圳)有限公司 多通道i2s语音唤醒低功耗电路数据处理方法及装置
CN111798860B (zh) * 2020-07-17 2022-08-23 腾讯科技(深圳)有限公司 音频信号处理方法、装置、设备及存储介质
FR3113537B1 (fr) * 2020-08-19 2022-09-02 Faurecia Clarion Electronics Europe Procédé et dispositif électronique de réduction du bruit multicanale dans un signal audio comprenant une partie vocale, produit programme d’ordinateur associé
CN112331226B (zh) * 2020-09-29 2024-04-12 江苏清微智能科技有限公司 一种针对主动降噪系统的语音增强系统及方法
KR102483990B1 (ko) * 2021-01-05 2023-01-04 국방과학연구소 적응 빔포밍 방법 및 이를 이용한 능동 소나 장치
CN113470681B (zh) * 2021-05-21 2023-09-29 中科上声(苏州)电子有限公司 一种麦克风阵列的拾音方法、电子设备及存储介质
TWI777729B (zh) * 2021-08-17 2022-09-11 達發科技股份有限公司 適應性主動雜訊消除裝置以及使用其之聲音播放系統
CN115914910A (zh) 2021-08-17 2023-04-04 达发科技股份有限公司 适应性主动噪声消除装置以及使用其的声音播放系统
CN114220448A (zh) * 2021-12-16 2022-03-22 游密科技(深圳)有限公司 语音信号生成方法、装置、计算机设备和存储介质
US20230230581A1 (en) * 2022-01-20 2023-07-20 Nuance Communications, Inc. Data augmentation system and method for multi-microphone systems
US20230230580A1 (en) * 2022-01-20 2023-07-20 Nuance Communications, Inc. Data augmentation system and method for multi-microphone systems
CN114928659B (zh) * 2022-07-20 2022-09-30 深圳市子恒通讯设备有限公司 一种多路复用通信的排气消声方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5353376A (en) * 1992-03-20 1994-10-04 Texas Instruments Incorporated System and method for improved speech acquisition for hands-free voice telecommunication in a noisy environment
US5590241A (en) * 1993-04-30 1996-12-31 Motorola Inc. Speech processing system and method for enhancing a speech signal in a noisy environment
DE4330243A1 (de) 1993-09-07 1995-03-09 Philips Patentverwaltung Sprachverarbeitungseinrichtung
JP3216704B2 (ja) 1997-08-01 2001-10-09 日本電気株式会社 適応アレイ装置
JP4163294B2 (ja) * 1998-07-31 2008-10-08 株式会社東芝 雑音抑圧処理装置および雑音抑圧処理方法
JP2000181498A (ja) * 1998-12-15 2000-06-30 Toshiba Corp ビームフォーマを用いた信号入力装置及び信号入力用プログラムを記録した記録媒体
DE19934724A1 (de) 1999-03-19 2001-04-19 Siemens Ag Verfahren und Einrichtung zum Aufnehmen und Bearbeiten von Audiosignalen in einer störschallerfüllten Umgebung
DK1198974T3 (da) 1999-08-03 2003-06-23 Widex As Høreapparat med adaptiv tilpasning af mikrofonerne
CA2354808A1 (en) * 2001-08-07 2003-02-07 King Tam Sub-band adaptive signal processing in an oversampled filterbank
JP2003271191A (ja) * 2002-03-15 2003-09-25 Toshiba Corp 音声認識用雑音抑圧装置及び方法、音声認識装置及び方法並びにプログラム
KR100480789B1 (ko) * 2003-01-17 2005-04-06 삼성전자주식회사 피드백 구조를 이용한 적응적 빔 형성방법 및 장치

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3823315A1 (en) 2019-11-18 2021-05-19 Panasonic Intellectual Property Corporation of America Sound pickup device, sound pickup method, and sound pickup program
US11900920B2 (en) 2019-11-18 2024-02-13 Panasonic Intellectual Property Corporation Of America Sound pickup device, sound pickup method, and non-transitory computer readable recording medium storing sound pickup program

Also Published As

Publication number Publication date
ATE405925T1 (de) 2008-09-15
CN1753084A (zh) 2006-03-29
US8194872B2 (en) 2012-06-05
DE602004015987D1 (de) 2008-10-02
JP2006094522A (ja) 2006-04-06
CN1753084B (zh) 2010-06-23
EP1640971B1 (en) 2008-08-20
EP1640971A1 (en) 2006-03-29
KR20060051582A (ko) 2006-05-19
US20060222184A1 (en) 2006-10-05
CA2518684C (en) 2015-07-21
CA2518684A1 (en) 2006-03-23
KR101239604B1 (ko) 2013-03-05

Similar Documents

Publication Publication Date Title
JP4734070B2 (ja) ノイズ低減による多重チャンネル適応の音声信号処理
US9966059B1 (en) Reconfigurale fixed beam former using given microphone array
US10229698B1 (en) Playback reference signal-assisted multi-microphone interference canceler
JP5123473B2 (ja) 結合されたノイズ低減およびエコー補償による音声信号処理
US9520139B2 (en) Post tone suppression for speech enhancement
US8000482B2 (en) Microphone array processing system for noisy multipath environments
JP4955676B2 (ja) 音響ビーム形成装置及び方法
JP5436814B2 (ja) ビームフォーミングおよびポストフィルタリングの組み合わせによる雑音低減
JP7041157B6 (ja) ビームフォーミングを使用するオーディオキャプチャ
EP1879180A1 (en) Reduction of background noise in hands-free systems
US10638224B2 (en) Audio capture using beamforming
CN110741434A (zh) 用于具有可变麦克风阵列定向的耳机的双麦克风语音处理
JP2008512888A (ja) 改善した雑音抑圧を有する電話装置
TW200818959A (en) Small array microphone apparatus and noise supression method thereof
JP2020503780A (ja) ビームフォーミングを使用するオーディオキャプチャのための方法及び装置
US9589572B2 (en) Stepsize determination of adaptive filter for cancelling voice portion by combining open-loop and closed-loop approaches
US20150318000A1 (en) Single MIC Detection in Beamformer and Noise Canceller for Speech Enhancement
CN110140171B (zh) 使用波束形成的音频捕获
US9510096B2 (en) Noise energy controlling in noise reduction system with two microphones
Priyanka et al. Adaptive Beamforming Using Zelinski-TSNR Multichannel Postfilter for Speech Enhancement
JP2005514668A (ja) スペクトル出力比依存のプロセッサを有する音声向上システム
Rotaru et al. An efficient GSC VSS-APA beamformer with integrated log-energy based VAD for noise reduction in speech reinforcement systems
Li et al. Multi-channel noise reduction in noisy environments

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100420

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100716

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100722

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110425

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4734070

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 3

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 3

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250