JP2006101499A - 結合されたノイズ低減およびエコー補償による音声信号処理 - Google Patents

結合されたノイズ低減およびエコー補償による音声信号処理 Download PDF

Info

Publication number
JP2006101499A
JP2006101499A JP2005255760A JP2005255760A JP2006101499A JP 2006101499 A JP2006101499 A JP 2006101499A JP 2005255760 A JP2005255760 A JP 2005255760A JP 2005255760 A JP2005255760 A JP 2005255760A JP 2006101499 A JP2006101499 A JP 2006101499A
Authority
JP
Japan
Prior art keywords
adaptive
signal
filter
beamforming
echo
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005255760A
Other languages
English (en)
Other versions
JP5123473B2 (ja
Inventor
Walter Kellermann
ケラーマン ウォルター
Wolfgang Herbordt
ハーボート ウォルフガング
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harman Becker Automotive Systems GmbH
Original Assignee
Harman Becker Automotive Systems GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harman Becker Automotive Systems GmbH filed Critical Harman Becker Automotive Systems GmbH
Publication of JP2006101499A publication Critical patent/JP2006101499A/ja
Application granted granted Critical
Publication of JP5123473B2 publication Critical patent/JP5123473B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M9/00Arrangements for interconnection not involving centralised switching
    • H04M9/08Two-way loud-speaking telephone systems with means for conditioning the signal, e.g. for suppressing echoes for one or both directions of traffic
    • H04M9/082Two-way loud-speaking telephone systems with means for conditioning the signal, e.g. for suppressing echoes for one or both directions of traffic using echo cancellers
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/20Speech recognition techniques specially adapted for robustness in adverse environments, e.g. in noise, of stress induced speech
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • G10L2021/02082Noise filtering the noise being echo, reverberation of the speech
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • G10L21/0216Noise filtering characterised by the method used for estimating noise
    • G10L2021/02161Number of inputs available containing the signal or the noise to be suppressed
    • G10L2021/02166Microphone arrays; Beamforming

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
  • Telephone Function (AREA)
  • Noise Elimination (AREA)

Abstract

【課題】マイクロホンによって再度受信される遠隔利用者からの信号を抑制する。
【解決手段】第1の音声信号を受信し、適応ビームフォーム信号を取得するように構成された適応ビームフォーミング信号処理手段13、適応ビームフォーム信号中の音響エコーを低減するように構成された適応エコー補償手段14、および適応ビームフォーミング手段および適応エコー補償手段の結合された適応を同時に実行するように構成された適応手段を備える、結合されたノイズ低減およびエコー補償を有する音声信号処理のためのシステム。
【効果】出力のマイクロホン信号は、所望のターゲット信号に対応して同期化される。
【選択図】図1

Description

本発明は、結合されたノイズ低減および音響エコー補償による多重チャネル音声信号処理のためのシステムおよび方法に関する。
音声信号処理は、背後に存在するノイズ環境において実施されることを必要とすることが多い。車両中のハンズフリーの音声通信が顕著な例である。ハンズフリーの電話機は、自動車における特定用途の快適な通信システムおよび安全な通信システムを提供する。ハンズフリー電話機の場合、通信を保証するためにノイズを抑制することが必須である。ノイズ信号の振幅および周波数は、例えば、車両の速さおよび道路からのノイズにより、時間的に変化する。
特に重要なのは、拡声器によって発せられ、マイクロホンによって再度受信される遠隔利用者からの信号を抑制することであり、それは、不快なエコーが、会話音声の品質および明瞭性に影響を与え得るからである。最も悪い場合では、音響のフィードバックにより、コミュニケーションが完全に停止し得る。
1つの主な問題は、部屋の反響特性にある。自動車におけるハンズフリー電話機の場合には、例えば、自動車の乗員の動きによる音響中の急激な変化が識別される必要があるので、内部音響の検出は非常に難しい。
上述の問題を克服するために、音響エコー補償(acoustic echo compensation(AEC))手段が提供され、基本的にこれは次のように働く。線形(EP 0204718B1)適応フィルタまたは非線形(EP 1020068 B1;WO−A−96/26592)適応フィルタによって、音響フィードバックの複製が同期化され、補償信号が拡声器の受信信号から取得される。補償信号はマイクロホンの送信信号から減算され、これによって生じる信号を生成して、遠隔利用者に送信される。
ハンズフリー通信では、音響エコーに加え、相対的に低いSNR(signal−to−noise ratio)に苦しめられる。結果的には、音声信号の質を改善するために何らかのノイズ低減が使用され得る。
現在の多重チャネルシステムは主に、適応ビームフォーマーまたは非適応ビームフォーマー(例えば、H.L. van Trees、Wiley & Sonsによる「Optimum Array Processing,PartIV of Detection,Estimation,and Modulation Theory」,New York 2002参照)を活用する。このビームフォーマーは、複数のマイクロホン入力信号と向上したSNRを有する1つのビームフォーム信号とを結合する。
AEC手段と適応ビームフォーマーとの結合は技術として知られている(例えば、Kellermann,W,Springer,Berlin,2001による「Microphone Array:Signal Processing Tecniques and Applications」参照)。しかしながら、現実の実施によると、適応ビームフォーマーとエコー消去手段との様々な収束特性が、共作用効果および/または1つのエコー補償手段の使用必要性を抑止し得る。
(発明の要旨)
近年の発達および改善にもかかわらず、音声信号処理においては、効果的なエコー補償およびノイズ低減が主要な課題であることがわかる。それゆえ、上述される欠点を克服することおよび音声信号処理のためのシステムおよび方法を提供することが本発明に存する課題であり、より詳細には、SNR(signal−to−noise)および有効な音響エコー補償のように改善された音響特性を示すハンズフリーの遠距離通信システムのために適切なシステムおよび方法を提供することである。
問題は、請求項1に記載のノイズ低減およびエコー補償による音声信号処理のシステムおよび請求項12に記載の方法によって解決される。本発明によるシステムは、第1の音声信号受信し、第1の音声信号から適切なビームフォームされた信号を得るように構成される適応ビームフォーミング信号処理手段、適切にビームフォームされた信号中の音響エコーを減少させるように構成される適応エコー補償手段、および適応ビームフォーミング手段と適応エコー補償手段の結合された適応を同時に実行されるように構成される適応手段、を備える。
本発明のシステムは、第2の音声信号を有する拡声器信号を出力するための少なくとも1つの拡声器と同様に、マイクロホン信号を検出するために少なくとも2つのマイクロホンを有するマイクロホンアレイをさらに備え得、上述された第1の音声信号は、マイクロホン信号に基づいて得られ得、適応エコー補償手段は、拡声器信号に基づいて、適応ビームフォーム信号中の音響のエコーを低減し得る。
音声信号処理のためのこのようなシステムは、有意に向上したSNRを提供し、理想的には、完全なエコー消去を提供する。音声信号は、発声情報を示すいずれかの信号を意味する。本発明のシステムにより処理された音声信号は、例えば、離散化された時刻を引数とする関数として、または周波数領域にフーリエ変換された信号として利用され得る。このマイクロホンは、音声信号を検出するだけでなく、ノイズおよび音響のエコーも検出する。結果的に、適応ビームフォーミング手段は、音声信号を受信するだけでなく、ノイズおよびエコー信号をも受信する。
ビームフォーミング手段およびエコー補償手段は、それらの手段が、一時的に変化するフィルタベクトルを有するフィルタを使用することを意味する適応手段であり、このフィルタベクトルは音声通信中に連続的に再計算され、ノイズ低減およびエコー補償について音声信号処理を最適化する。エコー補償手段は、単一のチャネル手段または複数のチャネル手段であり得る。
適応ビームフォーミング手段および適応エコー消去手段の同時適応および結合された適応は、所望の共作用効果を生じる。
技術的に話すと、結合された適応は有効な重みベクトルの適応により実現され、重みベクトルはビームフォーミング手段およびAEC手段の適応フィルタの結合された重みを示す。
適応ビームフォーミング手段の第1の使用とこれに引き続いたAEC手段の使用とを特徴とする典型的な最先端のシステムとは異なるが(AEC手段は、低い収束速度の影響を受け、その結果、エコー消去に貢献し得ないことが多い)、本発明のシステムにより、ノイズとエコー消去はともに非常に効率よく実行される。この技術とは逆に、適応ビームフォーミング手段および適応AEC手段の本発明の結合された適応は、両手段を同時に更新することを可能にする(すなわち、追従問題(tracking problem)は全く生じない)。
本発明によれば、唯一のエコー補償手段が必要であることも注目すべきである。これは、各マイクロホンのチャネルに対して1つのAEC手段を必要とし、第1にAEC手段を使用し、次にビームフォーミング手段を使用するという技術から知られる構成とは異なる。
さらに、ノイズ低減とエコー消去の両方に対する自由度の数は、拡声器の数により増加し、ビームフォーミング手段およびAEC手段それぞれによって使用される適応フィルタの最適化を改善する。
本発明の一実施形態によれば、適応ビームフォーミング信号処理手段は適応ビームフォーマーである。
本発明のシステムの実現化は、最も単純かつ安易なもののように思える。ビームフォーマーは、同時受信された異なる入力信号を、ある単一のビームフォーム信号へと結合する。各チャネルにおける信号部分のノイズレベルは互いに異なる。非常に低いSNRを有するその異なるチャネルの単純平均により、出力信号のSNRを悪化し得る。その結果、異なるチャネルに対して重み係数(重み)を導入することが望まれ、この係数は、好ましくは、音声検出条件の変更(例えば、時間依存のノイズおよび/または拡声器の動き)に応答して、時間に依存して計算される。好都合な一実施形態によれば、ビームフォーム信号は、重み付きの同時受信の入力信号を加算することにより得られる。
しかし、本出願により、改善された性能が望まれ得る。
その結果、本発明の他の実施形態によれば、適応ビームフォーミング信号処理手段は、第1の音声信号を受信しおよびノイズ基準信号を得るように構成されるブロッキングマトリクス(blocking matrix)、ノイズ基準信号を受信しおよび適応ノイズ信号を得るように構成される適応ノイズ消去手段、第1の音声信号を受信しおよび第1のビームフォーム信号を得るように構成されるビームフォーマー、および適応ノイズ消去手段により得られた適応ノイズ信号を第1のビームフォーム信号から減算して適応ビームフォーム信号を得るように構成される手段を備える。
ビームフォーマー、ブロッキングマトリクス(非適応または適応のものとして選択され得る)、および適応ノイズ消去手段を備える一般的な構成は、GSC(General Sidelobe Canceller)である。GSC設計は、2つの信号処理経路を備え、1つはノイズ低減経路であり、もう1つは基準信号処理手段経路である。基準信号処理経路はビームフォーマーを備え、このビームフォーマーは、マイクロホンアレイにより検出される1以上の所望の信号源に向けられる。マイクロホンアレイにより同時検出され、所望の音声信号とともにノイズおよびエコーを有するマイクロホン信号は、向上したSNRを有する1つのビームフォーム信号に結合される。
ノイズ低減信号処理経路は、音声信号を受信し、ノイズ基準信号を生成するように使用されるブロッキングマトリクスを備えることが多い。最も容易な実現においては、ブロッキングマトリクスが隣接チャネルの受信信号の減算を実行する。
ノイズ基準信号は、適応ノイズ消去手段の入力信号としての機能を果たす。適応ノイズ消去は、(複素化された)フィルタによってなされる。これらのフィルタは、出力信号のパワが最小化されるという目的で適応されることが多い。従来のGSCにおいては、適応ノイズ消去手段の出力信号をビームフォーム信号から減算して出力信号を得る。本発明によれば、適応ノイズ消去は、適応エコー消去と結合される。結合された適応ノイズ消去手段および適応エコー消去手段のフィルタは、同時に適応される。
GSC構成の取り込みは処理負荷を有意に低減する。GSC手段およびAEC手段の以前の組合せとは異なり、GSCおよびAECの構成要素の本発明の同時適応および結合された適応は、音響のエコーが効率的に抑制される場合でさえ、ブロッキングマトリクス手段および適応ノイズ消去手段を介して音響のエコーの漏洩を抑制する。
さらに、この技術とは異なり、本発明のシステムは、このマイクロホンアレイによって局所的な強いノイズ信号が検出される場合および/またはこのエコー経路が連続的に変化する場合でさえ、確実に働く。
適応ノイズ消去手段および適応エコー補償手段は適応フィルタを備え、好ましくは、適応エコー補償手段の適応フィルタのフィルタ長は、適応ノイズ消去手段の適応フィルタのフィルタ長と等しいかそれより長い。
一般的に「フィルタ長」はフィルタ係数の数を意味する。AEC手段は、非常に多くのフィルタ係数が十分確実に作用することを必要とし、AEC手段は、適応ビームフォーミング手段と比べると低い収束速度となる。しかし、相対的に低い残響を有するノイズ環境では、例えば車中では、AEC手段およびビームフォーミング手段に対して同等または等しい数のフィルタ係数の選択が相当とされ得る。
適応手段が、最小二乗の最適化基準を適用することによって、適応ビームフォーミング手段と適応エコー補償手段との結合された適応を同時に実行することが望まれ得る。
最小二乗の最適化は、複素フィルタを適応するための音声信号処理におけるウェル−テステッドおよびロバスト法を示し、これを使用することは比較的単純である。これは、少なくとも出力信号の一様性を仮定する制限に制約される平方出力信号の標本値のウィンドウ和(windowed sum)を最小化することによって実行される。総和において使用されるウィンドウ関数(windowing function)は、最適化手順として考えられる出力信号のサンプルを選択する。
最小二乗の最適化基準の制限は、
Figure 2006101499
として数式化され得、ここで、上付きの添字Tは、ベクトルの転置操作を示し、
Figure 2006101499
は、線形拘束付最小分散ビームフォーミング(linearly−constrained minimum variance beamforming)から既知の従来の制限行列であり、w(k)およびa(k)はそれぞれ、適応ビームフォーミングのフィルタおよび適応ノイズ消去のフィルタであり、Qは少なくとも1つの拡声器の数であり、Nは適応エコー消去手段のフィルタのフィルタ係数の数であり、cは制限Cを示す制限ベクトルである。
これらの制限は、マトリクス(w(k),a(k))により、適応ビームフォーミング手段および適応エコー補償手段のフィルタの結合された適応を示す。零行列C×QNの次元は、拡声器信号が無相関であるという適切な仮定から生じる。
本発明によるこのシステムはさらに、マイクロホン信号の時間遅延補償を実行するように構成される手段を備え得て第1の音声信号を得、この第1の信号は適応ビームフォーマーまたはGSCは同じ構成であるが、適合ビームフォーミング手段に対する入力信号として連続的に使用される。
所望のターゲット信号(target signal)に対応してマイクロホン信号を同期し、さらに本発明のシステムの性能を改善することは有利なことであり得る。この目的のために、各信号の時間遅延が計算および補償される必要がある。
第1の音声信号を得るために、マイクロホン信号または時間遅延補償マイクロホン信号の位相および振幅を一致するように構成された適応セルフキャリブレーション手段をさらに使用することは、好ましいことであり得る。
適応セルフキャリブレーション手段の適応フィルタは、正規化最小平均二乗アルゴリズムにより計算され得る。時間遅延補償の後、マイクロホン信号は、正確には整合され得ないが、それは、例えば話し手の動き、および異なるマイクロホンの位相および振幅の不一致によるものである。適応セルフキャリブレーションにより、位相および振幅に関する不一致は最小化される。したがって、各チャネルにおける所望の信号は、時刻(位相)列であり、所望の信号部分の振幅は各チャネルにおいてほとんど等しく、この信号は、非常に近い周波数特性を示すと予測される。
適応ビームフォーミング信号処理手段および適応エコー補償手段および/またはマイクロホン信号の時間遅延補償を実行するように構成される手段および/または適合セルフキャリブレーション手段は、時間領域または周波数領域または副バンド周波数領域において処理を実行するように構成される。
適応周波数領域は、より良い収束特性およびトラッキングケイパビリティー(tracking capability)を示し得る。高速フーリエ変換および必要に応じて逆高速フーリエ変換を実行するための適切な手段は、公知技術から既知であるので、周波数領域で作用する本発明のシステムの実現には都合がよいと考えられ得る。
本発明は、上述のような音声信号処理のためのシステムをさらに提供し、そこでマイクロホンアレイは、少なくとも指向性のマイクロホンを備える。
さらに、本発明は、上述のような結合されたノイズ低減およびエコー補償による音声信号処理のための本発明のシステムを備えるハンズフリーシステムを提供する。
さらに、本発明は、車中における、音声信号処理のための前記システムおよびハンズフリーシステムの使用に向けられる。改善されたSNRおよびエコー消去は、車両キャビン中の通信機器の音響のチャレンジングコンテンツ(challenging contents)において特に望まれる。
さらに、本発明により、音声信号処理のために1つの上述されたシステムおよびハンズフリーシステムを備える車両が提供される。
さらに、本発明は、結合されたノイズ低減およびエコー補償による音声信号処理のための方法を提供し、適応ビームフォーミングフィルタを使用する適応ビームフォーミングのための入力信号として第1の音声信号を受信することと、適応エコー補償フィルタを使用する音響エコーの適応補償のための入力信号を受信することと、適応ビームフォーミングフィルタおよび適応エコー補償フィルタから結合された適応フィルタを決定することと、結合された適応フィルタを適応することによって適応ビームフォーミングフィルタおよび適応エコー補償フィルタを同時に適応することと、および適応ビームフォーミングおよびエコー補償適応ビームフォームされた信号によって適応してビームフォームされた信号を得て、音声信号処理の出力信号を得ること、を含む。
適応エコー補償と同様、適応ビームフォーミングは、それぞれの適応フィルタを利用して実行される。関連する重みベクトルは、結合された1つのフィルタベクトルに結合され得る。この結合されたフィルタベクトルの適応は、結合された適応ビームフォーミング手段および適応エコー補償手段のフィルタの同時適応となる。
本発明の方法は、好ましくは、少なくとも2つのマイクロホンを備えるマイクロホンアレイによりマイクロホン信号を検出することと、および少なくとも1つの拡声器により出力される第2の音声信号を備える拡声器信号を得ること、を含む。この場合、上述の第1の音声信号が、マイクロホン信号に基づいて得られ得、拡声器信号は、音響エコーの適合補償に対する入力信号として使用され得る。
適応ビームフォーミングは、適応ビームフォーマーによって、つまり、ブロッキングマトリクスにより第1の音声信号を受信および処理しノイズ基準信号を得るステップ、適応ノイズ九案背リング手段によりノイズ基準信号を処理し適応ノイズ信号を得るステップ、ビームフォーマーにより第1の音声信号を受信および処理し、第1のビームフォームされた信号を得るステップ、および適応ノイズ消去手段によって得られた適応ノイズ信号を第1のビームフォームされた信号から減算し適応ビームフォームされた信号を得るステップ、により実行され得る。
適応フィルタは、適応エコー補償および適応ノイズ消去のために使用され、適応エコー補償手段のフィルタのフィルタ長は、好ましくは、適応ノイズ消去手段のフィルタのフィルタ長と等しいかまたはそれより長い。
結合された適応フィルタは、好ましくは、以下による制限を有する最小二乗の最適化基準を適用することにより適応される。
Figure 2006101499
ここで、上付きの添字Tは、ベクトルの転置操作を示し、
Figure 2006101499
は、LCMVビームフォーミングから既知の従来の制限行列であり、w(k)およびa(k)はそれぞれ、適応ビームフォーミングのフィルタおよび適応ノイズ消去のフィルタであり、Qは、少なくとも1つの拡声器の数であり、Nは、適応エコー消去手段のフィルタのフィルタ係数の数であり、cは、制限Cを示す制限ベクトルである。
好都合には、マイクロホン信号は時間遅延に対して補償され、第1の音声信号を得、マイクロホン信号または時間遅延補償マイクロホン信号は、適応セルフキャリブレーションされ得る。
適応ビームフォーミングおよび適合エコー補償および/または時間遅延補償および/または適応セルフキャリブレーティングは、時間領域または周波数領域または副バンド周波数領域で実行され得る。
さらに、本発明はコンピュータプログラム製品を提供し、この製品は、上述のようにノイズ低減による音声信号処理のための本発明の方法のステップを実行するためのコンピュータが実行可能な命令を有する1以上のコンピュータ読み取り可能媒体を備える。
さらに、本発明は以下:
(項目1) 第1の音声信号を受信し、適合ビームフォーム信号を該第1の音声信号から得るように構成される適合ビームフォーミング信号処理手段(13)、
該適応ビームフォーム信号中の音響エコーを低減するように構成された適応エコー補償手段(14,24)、および
該適応ビームフォーミング手段と該適応エコー補償手段との結合された適応を同時に実行するように構成された適応手段、
を備える、結合されたノイズ低減およびエコー補償による音声信号処理システム、
(項目2) マイクロホン信号を検出するための少なくとも2つのマイクロホンを備えるマイクロホンアレイ(11,21)、
第2の音声信号を有する拡声器信号を出力するための少なくとも1つの拡声器(12,22)を備え、
前記第1の音声信号が該マイクロホン信号に基づいて得られ、
前記適応エコー補償手段(14,24)が、該拡声器信号に基づいて、前記適応ビームフォーム信号中の音響エコーを低減する、項目1に記載のシステム、
(項目3) 前記適応ビームフォーミング信号処理手段が適応ビームフォーマー(13)である、項目1または項目2に記載のシステム、
(項目4) 前記適応ビームフォーミング信号処理手段が、
前記第1の音声信号を受信し、ノイズ基準信号を取得するように構成されたブロッキングマトリクス(25)、
該ノイズ基準信号を受信し、適応ノイズ信号を取得するように構成された適応ノイズ消去手段(26)、および
該第1の音声信号を受信し、第1のビームフォーム信号を取得するように構成されたビームフォーマー(23)、および
前記適応ビームフォーム信号を取得するために、該第1のビームフォーム信号から該適応ノイズ消去手段(26)により取得された該適応ノイズ信号を減算するように構成された手段、
を備える、項目1または項目2に記載のシステム、
(項目5) 前記適応ノイズ消去手段(26)および前記適応エコー補償手段(24)が適応フィルタを備え、該適応エコー補償手段の適応フィルタのフィルタ長が、該適応ノイズ消去手段の適応フィルタのフィルタ長と等しいか、またはそれより長い、項目4に記載のシステム、
(項目6) 前記適応手段が、最小二乗の最適化基準を適用することにより、前記適応ビームフォーミング手段および前記適応エコー補償手段の結合された適応を同時に実行する、項目1から項目5のいずれか1項に記載のシステム、
(項目7) 最小二乗の最適化基準の制限が、
Figure 2006101499
を示し、ここで、上付きの添字Tはベクトル転置操作を示し、
Figure 2006101499
は線形拘束付最小分散ビームフォーミングから既知の従来の制限行列であり、w(k)およびa(k)はそれぞれ、前記適応ビームフォーミングおよび適応ノイズ消去のフィルタであり、Qは前記少なくとも1つの拡声器数であり、Nは前記適応エコー消去手段のフィルタのフィルタ係数の数であり、cは制限Cを示す制限ベクトルである、項目6に記載のシステム、
(項目8) 前記第1の音声信号を取得するために、前記マイクロホン信号の時間遅延補償を実行するように構成される手段をさらに備える、項目1から項目7のいずれか1項に記載のシステム、
(項目9) 前記第1の音声信号を取得するために、マイクロホン信号または前記時間遅延補償マイクロホン信号の位相および振幅を一致するように構成された適応セルフキャリブレーション手段をさらに備える、項目1から項目7のいずれか1項に記載のシステム、
(項目10) 前記適応ビームフォーミング信号処理手段および前記適応エコー補償手段および/または前記マイクロホン信号の時間遅延補償を実行するように構成された手段および/または適応セルフキャリブレーション手段が、時間領域または周波数領域または副バンド周波数領域において処理を実行するように構成される、項目1から項目9のいずれか1項に記載のシステム、
(項目11) 前記マイクロホンアレイが、方向性を有する少なくとも1つのマイクロホンを備える、項目1から項目10のいずれか1項に記載のシステム、
(項目12) 適応ビームフォーミングフィルタを使用する適応ビームフォーミングのために入力信号として第1の音声信号を受信すること、
適応エコー補償フィルタを使用する音響エコーの適応補償のために入力信号を受信すること、
該適応ビームフォーミングフィルタおよび該適応エコー補償フィルタから、結合された適応フィルタを決定すること、
結合された適応フィルタを適応することによって、該適応ビームフォーミングフィルタおよび該適応エコー補償フィルタを同時に適応すること、および
該音声信号処理の出力信号を取得するために、適応ビームフォーム信号を該適応ビームフォーミングおよびエコー補償することによって、適応ビームフォーム信号を取得すること、
を含む、結合されたノイズ低減およびエコー補償による音声信号処理の方法、
(項目13) 少なくとも2つのマイクロホンを備えるマイクロホンアレイによって、マイクロホン信号を検出すること、
少なくとも1つの拡声器によって、第2の音声信号出力を備える拡声器信号を取得することを含む方法であって、
前記第1の音声信号が、該マイクロホン信号に基づいて取得され、および
音響エコーの適応補償のための入力信号が拡声器信号である、項目12に記載の方法、
(項目13) 前記適応ビームフォーミングが適応ビームフォーマーにより実行される、項目11または項目12に記載の方法、
(項目14) 前記適応ビームフォーミングが、
ノイズ基準信号を取得するためにブロッキングマトリクスにより、前記第1の音声信号を受信および処理すること、
適応ノイズ信号を取得するために、適応ノイズ消去手段により、該ノイズ基準信号を処理すること、および
第1のビームフォーム信号を取得するために、ビームフォーマーにより該第1の音声信号を受信および処理すること、および
適応ビームフォーム信号を取得するために、該第1のビームフォーム信号から、該適応ノイズ消去手段により取得された前記適応ノイズ信号を減算すること、
を備える、項目11または項目12に記載の方法、
(項目15) 前記適応エコー補償および前記適応ノイズ消去に対して適応フィルタが使用され、該適応エコー補償手段のフィルタのフィルタ長が、該適応ノイズ消去手段のフィルタのフィルタ長と等しいかまたはそれより長い、項目14に記載の方法、
(項目16) 最小平方の最適化基準を適用することによって、前記結合された適応フィルタが適応される、項目12から項目15のいずれか1項に記載の方法、
(項目17) 最小二乗の最適化基準の制限が、
Figure 2006101499
を示し、ここで、上付きの添字Tはベクトル転置操作を示し、
Figure 2006101499
はLCMVビームフォーミングから既知の従来の制限行列であり、w(k)およびa(k)はそれぞれ、前記適応ビームフォーミングおよび適応ノイズ消去のフィルタであり、Qは前記少なくとも1つの拡声器数であり、Nは前記適応エコー消去手段のフィルタのフィルタ係数の数であり、cは制限Cを示す制限ベクトルである、項目16に記載の方法、
(項目18) 前記マイクロホン信号が、前記第1の音声信号を取得するために、時間遅延が補償される、項目13から項目17のいずれか1項に記載の方法、
(項目19) 前記第1の音声信号を取得するために、前記マイクロホン信号または前記時間遅延補償マイクロホン信号が適応セルフキャリブレーションをされる、項目13から項目18のいずれか1項に記載の方法、
(項目20) 前記適応ビームフォーミングおよび適応エコー補償および/または前記時間遅延補償および/または前記適応セルフキャリブレーションが、時間領域または周波数領域または副バンド周波数領域実行される、項目13から項目19のいずれか1項に記載の方法。
(項目21) 項目12から項目18のいずれか1項に記載の方法のステップを実行するために、コンピュータ実行可能な命令を有する、1以上のコンピュータ読み取り可能媒体を備えるコンピュータプログラム製品、
を提供する。
本発明は、結合されたノイズ低減およびエコー補償を有する音声信号処理のためのシステムに関し、第1の音声信号を受信し第1の音声信号から適応ビームフォーム信号を得るように構成された適応ビームフォーミング信号処理手段、適応ビームフォーム信号中の音響エコーを低減するように構成される適応エコー補償手段、および結合された適応の適応ビームフォーミング手段および適応エコー補償手段を同時に実行するように構成される適応手段を、
備える。
本発明による音声信号処理の一実施形態の一般的な構成は、図1に示される。例示の目的として、この処理は離散化の時間領域においてなされる。代替的には、このアルゴリズムは、全離散フーリエ変換領域または副バンド領域において適用され得る。
M個のマイクロホン11により検出されたマイクロホン信号が、x(k)(kは離散化された時間の引数)として利用され得、および線形和で表される信号であると仮定される。
x(k)=d(k)+n(k)+e(k)
ここで、d(k)、n(k)およびe(k)はそれぞれ、所望の信号、局所的なノイズ信号、および音響エコー信号を示す。このエコーは、少なくとも1つの拡声器12の出力信号により引き起こされ、その部屋の反響特性を示す。
信号x(k)は、結合された適応ビームフォーマーにより処理される。ビームフォーマーは、異なるM個のマイクロホンチャネルの入力信号を、信号−ノイズ比(SNR)を有する1つの単一のビームフォームされた出力信号に結合するように設計される。この目的のために、ビームフォーマーは、適応フィルタw(k)を利用する。AEC手段はこのエコー経路(例えば、線形応答のような)をモデル化する。適応フィルタa(k)により、処理されたマイクロホン信号のエコー部分は減算され得る。
結合されたシステムの出力信号は、適応フィルタw(k)およびa(k)と同様、センサ信号x(k)、拡声器信号v(k)の関数として記載され得る。
Figure 2006101499
ここで、
Figure 2006101499
またここで、上付きの添字Tは、ベクトルの転置操作を示す。拡声器チャネルQの拡声器信号v(k)は、一般に、音響エコーのための基準信号である(すなわち、この基準信号は、適応エコー補償手段14入力信号として役に立つ)。この信号v(k)は、ビームフォーマーのさらなるセンサチャネルまたは経路としてみなされ得、それによって、適応ビームフォーミングに有効な自由度を増加させる。
同時に適応される手段(図1においては、破線ボックスで示される)によって、ビームフォーマーゲインが維持され、音響エコーが抑制されるという方法で、適応ビームフォーマー(すなわち、フィルタ係数Nを有する適応フィルタw(k))およびAEC手段(すなわち、フィルタ係数Nを有する適応フィルタa(k))は、ここで結合して最適化される。最適手順として、最小二乗の最適化基準が適用され得る。原理では、この数学的技法は、従来の線形拘束付最小分散(LCMV)ビームフォーマー(例えば、H.L. van Trees,Wiley & Sonsによる「Opimum Array Processing,Part IV of Detection,Estimation,and Modulation Theory」,New York 2002参照)に適用されたものと類似している。1つは、以下のようして解く必要がある。
Figure 2006101499
ここで、
Figure 2006101499
さらにここで、
Figure 2006101499
は、LCMVビームフォーマーから既知の従来の制限行列(MN×C)であり、c(k)は、ビームフォームされた出力信号の一様性を仮定するために制限Cを示す長さCの制限ベクトルである。制限行列中の零行列C×QNaは妥当な仮定から生じ、それは拡声器信号v(k)が無相関であるということである。この窓関数(windowing function)wが、最適化手順中に含まれ得る出力信号から所望の標本値を抽出する。
上述の最適化基準により、任意の数のマイクロホンに対して、唯一の誤り信号が最小化される必要があることに注目したい。この最適化問題の数学的解法は、信号処理技術の状態である。
図2は、同時に最適化される一般化サイドローブキャンセラ(GSC)手段およびAEC手段を備える本発明による音声信号処理手段の一実施形態を示す。図1のビームフォーマーは、GSC構成により置き換えられている。GSCは、適応ビームフォーマー1つの好都合な実現とみなされ得、2つの信号処理経路を備える。
基準(または、上側の)信号処理経路は固定ビームフォーマー23を備え、この固定ビームフォーマーは、マイクロホン21によって検出される1以上の所望の信号源に向けられる。このビームフォームされた信号yWc(k)は、向上したSNRを特徴とする。
ノイズ低減(下側の)信号処理経路は、ノイズ基準信号y(k)を生成する非適応または適応のブロッキングマトリクス25を備える。これらの信号中には、所望の音声信号はほとんど存在しない。最も簡単な実現においては、ブロッキングマトリクスは、隣接チャネルの減算を実行する。
ノイズ基準信号y(k)は、適応ノイズ消去手段26に対する入力信号として使用される。適応ノイズ消去が、複素値フィルタW(k)によりなされる。これらのフィルタは、出力信号のパワが最小化される目的で適応されることが多い。次いで、適応ノイズ消去手段の出力信号は、ビームフォームされた信号から減算される。理想的には基準信号は信号部分を含まないので、信号yWC(k)の残余ノイズは、適応ノイズ消去手段によってほとんど完全に低減され、それによって、最終的な出力信号y(k)のSNRは増加する。
ノイズ低減のためのフィルタ適応の従来の設定においては、正規化最小平均二乗法(NLMS)アルゴリズムが使用され得、以下を読み取る。
Figure 2006101499
ここで、yGSCは、GSC単独の出力信号を示し(すなわちAEC手段が存在しない場合)、βはある正の実数値であり、アスタリスクはノイズ基準信号の複素共役を示す。したがって、ノイズ基準信号および適応フィルタw(k)が、ビームフォーマー23によりビームフォームされた信号yWcの出力から減算される適応ノイズ信号を生成するために使用される。
しかし、本発明により、GSC手段およびAEC手段の両方の適応フィルタは、
Figure 2006101499
に対する最適化をすることによって、同時に適応される必要がある。したがって、代数がさらに含まれる。
図1の記載中に導入される重みベクトル
Figure 2006101499
は、2つの直交部分空間上に射影(project)され得、そのうちの1つである
Figure 2006101499
は、制限C(制限部分空間)を満たすように選択され得る。
Figure 2006101499
第2の部分空間は、以下のように選択され得る。
Figure 2006101499
ここで、
Figure 2006101499
および
Figure 2006101499
である。さらに、IQNa QNaは、大きさがQNa×QNaの恒等行列であり、および行列B(k)の列は、制限行列
Figure 2006101499
の列に対して直交である。最終的な出力信号y(k)の最小二乗の最小化は、ここで以下を読み込む。
Figure 2006101499
ここで、
Figure 2006101499
は、重み付きベクトル
Figure 2006101499
の第2の直交部分空間への射影であり、この部分空間は最適化問題の制限を満たす。
最小化問題の解法により、最適な重み付きベクトル
Figure 2006101499
を得、これは、
Figure 2006101499
と示され、ここで、
Figure 2006101499
である。
データベクトル
Figure 2006101499
の標本相関行列は、
Figure 2006101499
によって示され、上付きの添字は、擬似逆行列(the pseudoinverse of the matrix)を意味する。形式的には、この最適化重み付きベクトルの解法は、GSCに対する最適化の重み付きベクトルと等しい(例えば、「Broad band beamforming and the generalized sidelobe canceller」,IEEE Trans.on Acoustic Speech and Signal Processing, vol.34 p.1322参照)。
図3は、1つの好ましい実施形態による本発明の音声信号処理の基本ステップを示す。少なくとも2つのマイクロホンを備えるマイクロホンアレイは、音声信号31、ノイズ信号32およびエコー信号33からなる信号30を検出し、マイクロホン出力34を生成する。
この実施形態によれば、出力のマイクロホン信号は、所望のターゲット信号に対応して同期化される。この目的のために、各信号の時間遅延は、計算および補償される必要がある35。
同期化信号は、使用されるGSCの信号処理経路のどちらに対しても入力信号として有効である。従来の上側の信号処理経路の遅延和ビームフォーマー(delay−and−sum beamformer)は信号を結合し得、向上したSNRを有する出力信号36を得る。ブロッキングマトリクスは、隣接チャネルを減算することによって、ノイズ基準信号37を生成する。代替的には、例えば、ブロッキングマトリクスのWalsh−Hadamard、またはGriffiths−Jimブロッキングマトリクスのような技術から既知のさらに複雑な行列が使用され得る。
ノイズ基準信号は、適応ノイズ消去38に対する入力信号として使用される。1つの実用的な問題は、ノイズ消去手段の適応フィルタの最適化にある。ノイズ低減に加え、本発明の音声信号システムは、エコー補償を提供する。AEC手段は拡声器信号39を利用して音響エコー40を補償する。
本発明により、GSC手段およびAEC手段の両方のフィルタの適応は同時に実行される。ビームフォーミング36により得られたビームフォーム信号は、適応ノイズ消去36および適応エコー補償40によってさらに処理され、高純度の出力信号41を得る。
適応して時間遅延信号をセルフキャリブレーションすること(示されず)によるマイクロホン出力信号の時間遅延補償35のステップを補充することは好都合であり得る。理想的には、さらなる処理ステップの後、キャリブレーションされた信号は所望の信号に関する位相列であり、所望の信号部分の振幅は複数のチャネルのそれぞれに等しい。
各チャネルにおける時間遅延信号のマッチングを実行する複素セルフキャリブレーションフィルタは、誤り信号のパワが最小化するという目的のNLMSアルゴリズム(上記参照)によって適応され得る。
前述の実施形態のすべては、制限として意図されるのではなく、本発明の特徴または利点を示す実施例として有効である。上述の特徴の一部またはすべてが、様々な方法で組み合わされ得ることが理解され得る。
本発明のさらなる特徴および利点は、明細書中の図面を参照して記載され得、本発明の好ましい実施形態を例示し得る添付図面が参照される。このような実施形態は、本発明のすべての範囲を表現しているわけではないことが理解される。
同時に最適化される適応ビームフォーマーおよびAEC手段を備える本発明の音声信号処理手段の一実施形態を示す。 同時に最適化されるGSC手段およびAEC手段を備える本発明による音声信号処理手段の他の実施形態を示す。 結合されたノイズ低減および音響エコー補償を有する音声信号処理のために本発明の方法の選択ステップを示す。

Claims (22)

  1. 第1の音声信号を受信し、適合ビームフォーム信号を該第1の音声信号から得るように構成される適合ビームフォーミング信号処理手段(13)、
    該適応ビームフォーム信号中の音響エコーを低減するように構成された適応エコー補償手段(14,24)、および
    該適応ビームフォーミング手段と該適応エコー補償手段との結合された適応を同時に実行するように構成された適応手段、
    を備える、結合されたノイズ低減およびエコー補償による音声信号処理システム。
  2. マイクロホン信号を検出するための少なくとも2つのマイクロホンを備えるマイクロホンアレイ(11,21)、
    第2の音声信号を有する拡声器信号を出力するための少なくとも1つの拡声器(12,22)を備え、
    前記第1の音声信号が該マイクロホン信号に基づいて得られ、
    前記適応エコー補償手段(14,24)が、該拡声器信号に基づいて、前記適応ビームフォーム信号中の音響エコーを低減する、請求項1に記載のシステム。
  3. 前記適応ビームフォーミング信号処理手段が適応ビームフォーマー(13)である、請求項1または請求項2に記載のシステム。
  4. 前記適応ビームフォーミング信号処理手段が、
    前記第1の音声信号を受信し、ノイズ基準信号を取得するように構成されたブロッキングマトリクス(25)、
    該ノイズ基準信号を受信し、適応ノイズ信号を取得するように構成された適応ノイズ消去手段(26)、および
    該第1の音声信号を受信し、第1のビームフォーム信号を取得するように構成されたビームフォーマー(23)、および
    前記適応ビームフォーム信号を取得するために、該第1のビームフォーム信号から該適応ノイズ消去手段(26)により取得された該適応ノイズ信号を減算するように構成された手段、
    を備える、請求項1または請求項2に記載のシステム。
  5. 前記適応ノイズ消去手段(26)および前記適応エコー補償手段(24)が適応フィルタを備え、該適応エコー補償手段の適応フィルタのフィルタ長が、該適応ノイズ消去手段の適応フィルタのフィルタ長と等しいか、またはそれより長い、請求項4に記載のシステム。
  6. 前記適応手段が、最小二乗の最適化基準を適用することにより、前記適応ビームフォーミング手段および前記適応エコー補償手段の結合された適応を同時に実行する、請求項1から請求項5のいずれか1項に記載のシステム。
  7. 最小二乗の最適化基準の制限が、
    Figure 2006101499
    を示し、ここで、上付きの添字Tはベクトル転置操作を示し、
    Figure 2006101499
    は線形拘束付最小分散ビームフォーミングから既知の従来の制限行列であり、w(k)およびa(k)はそれぞれ、前記適応ビームフォーミングおよび適応ノイズ消去のフィルタであり、Qは前記少なくとも1つの拡声器数であり、Nは前記適応エコー消去手段のフィルタのフィルタ係数の数であり、cは制限Cを示す制限ベクトルである、請求項6に記載のシステム。
  8. 前記第1の音声信号を取得するために、前記マイクロホン信号の時間遅延補償を実行するように構成される手段をさらに備える、請求項1から請求項7のいずれか1項に記載のシステム。
  9. 前記第1の音声信号を取得するために、マイクロホン信号または前記時間遅延補償マイクロホン信号の位相および振幅を一致するように構成された適応セルフキャリブレーション手段をさらに備える、請求項1から請求項7のいずれか1項に記載のシステム。
  10. 前記適応ビームフォーミング信号処理手段および前記適応エコー補償手段および/または前記マイクロホン信号の時間遅延補償を実行するように構成された手段および/または適応セルフキャリブレーション手段が、時間領域または周波数領域または副バンド周波数領域において処理を実行するように構成される、請求項1から請求項9のいずれか1項に記載のシステム。
  11. 前記マイクロホンアレイが、方向性を有する少なくとも1つのマイクロホンを備える、請求項1から請求項10のいずれか1項に記載のシステム。
  12. 適応ビームフォーミングフィルタを使用する適応ビームフォーミングのために入力信号として第1の音声信号を受信すること、
    適応エコー補償フィルタを使用する音響エコーの適応補償のために入力信号を受信すること、
    該適応ビームフォーミングフィルタおよび該適応エコー補償フィルタから、結合された適応フィルタを決定すること、
    結合された適応フィルタを適応することによって、該適応ビームフォーミングフィルタおよび該適応エコー補償フィルタを同時に適応すること、および
    該音声信号処理の出力信号を取得するために、適応ビームフォーム信号を該適応ビームフォーミングおよびエコー補償することによって、適応ビームフォーム信号を取得すること、
    を含む、結合されたノイズ低減およびエコー補償による音声信号処理の方法。
  13. 少なくとも2つのマイクロホンを備えるマイクロホンアレイによって、マイクロホン信号を検出すること、
    少なくとも1つの拡声器によって、第2の音声信号出力を備える拡声器信号を取得することを含む方法であって、
    前記第1の音声信号が、該マイクロホン信号に基づいて取得され、および
    音響エコーの適応補償のための入力信号が拡声器信号である、請求項12に記載の方法。
  14. 前記適応ビームフォーミングが適応ビームフォーマーにより実行される、請求項11または請求項12に記載の方法。
  15. 前記適応ビームフォーミングが、
    ノイズ基準信号を取得するためにブロッキングマトリクスにより、前記第1の音声信号を受信および処理すること、
    適応ノイズ信号を取得するために、適応ノイズ消去手段により、該ノイズ基準信号を処理すること、および
    第1のビームフォーム信号を取得するために、ビームフォーマーにより該第1の音声信号を受信および処理すること、および
    適応ビームフォーム信号を取得するために、該第1のビームフォーム信号から、該適応ノイズ消去手段により取得された前記適応ノイズ信号を減算すること、
    を備える、請求項11または請求項12に記載の方法。
  16. 前記適応エコー補償および前記適応ノイズ消去に対して適応フィルタが使用され、該適応エコー補償手段のフィルタのフィルタ長が、該適応ノイズ消去手段のフィルタのフィルタ長と等しいかまたはそれより長い、請求項14に記載の方法。
  17. 最小平方の最適化基準を適用することによって、前記結合された適応フィルタが適応される、請求項12から請求項15のいずれか1項に記載の方法。
  18. 最小二乗の最適化基準の制限が、
    Figure 2006101499
    を示し、ここで、上付きの添字Tはベクトル転置操作を示し、
    Figure 2006101499
    はLCMVビームフォーミングから既知の従来の制限行列であり、w(k)およびa(k)はそれぞれ、前記適応ビームフォーミングおよび適応ノイズ消去のフィルタであり、Qは前記少なくとも1つの拡声器数であり、Nは前記適応エコー消去手段のフィルタのフィルタ係数の数であり、cは制限Cを示す制限ベクトルである、請求項16に記載の方法。
  19. 前記マイクロホン信号が、前記第1の音声信号を取得するために、時間遅延が補償される、請求項13から請求項17のいずれか1項に記載の方法。
  20. 前記第1の音声信号を取得するために、前記マイクロホン信号または前記時間遅延補償マイクロホン信号が適応セルフキャリブレーションをされる、請求項13から請求項18のいずれか1項に記載の方法。
  21. 前記適応ビームフォーミングおよび適応エコー補償および/または前記時間遅延補償および/または前記適応セルフキャリブレーションが、時間領域または周波数領域または副バンド周波数領域実行される、請求項13から請求項19のいずれか1項に記載の方法。
  22. 請求項12から請求項18のいずれか1項に記載の方法のステップを実行するために、コンピュータ実行可能な命令を有する、1以上のコンピュータ読み取り可能媒体を備えるコンピュータプログラム製品。
JP2005255760A 2004-09-03 2005-09-02 結合されたノイズ低減およびエコー補償による音声信号処理 Active JP5123473B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP04021055A EP1633121B1 (en) 2004-09-03 2004-09-03 Speech signal processing with combined adaptive noise reduction and adaptive echo compensation
EP04021055.1 2004-09-03

Publications (2)

Publication Number Publication Date
JP2006101499A true JP2006101499A (ja) 2006-04-13
JP5123473B2 JP5123473B2 (ja) 2013-01-23

Family

ID=34926424

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005255760A Active JP5123473B2 (ja) 2004-09-03 2005-09-02 結合されたノイズ低減およびエコー補償による音声信号処理

Country Status (8)

Country Link
US (1) US7747001B2 (ja)
EP (1) EP1633121B1 (ja)
JP (1) JP5123473B2 (ja)
KR (1) KR101178313B1 (ja)
CN (1) CN1750573B (ja)
AT (1) ATE413769T1 (ja)
CA (1) CA2518134A1 (ja)
DE (1) DE602004017603D1 (ja)

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007208503A (ja) * 2006-01-31 2007-08-16 Yamaha Corp 音声会議装置
JP4957810B2 (ja) * 2008-02-20 2012-06-20 富士通株式会社 音処理装置、音処理方法及び音処理プログラム
JP2013546247A (ja) * 2010-10-29 2013-12-26 マイティワークス マルチビーム音響システム
JP2014510452A (ja) * 2011-02-10 2014-04-24 ドルビー ラボラトリーズ ライセンシング コーポレイション ノイズ、エコーおよびロケーション外(out−of−location)信号の合成された抑制
US10367948B2 (en) 2017-01-13 2019-07-30 Shure Acquisition Holdings, Inc. Post-mixing acoustic echo cancellation systems and methods
USD865723S1 (en) 2015-04-30 2019-11-05 Shure Acquisition Holdings, Inc Array microphone assembly
USD944776S1 (en) 2020-05-05 2022-03-01 Shure Acquisition Holdings, Inc. Audio device
US11297426B2 (en) 2019-08-23 2022-04-05 Shure Acquisition Holdings, Inc. One-dimensional array microphone with improved directivity
US11297423B2 (en) 2018-06-15 2022-04-05 Shure Acquisition Holdings, Inc. Endfire linear array microphone
US11302347B2 (en) 2019-05-31 2022-04-12 Shure Acquisition Holdings, Inc. Low latency automixer integrated with voice and noise activity detection
US11303981B2 (en) 2019-03-21 2022-04-12 Shure Acquisition Holdings, Inc. Housings and associated design features for ceiling array microphones
US11310596B2 (en) 2018-09-20 2022-04-19 Shure Acquisition Holdings, Inc. Adjustable lobe shape for array microphones
US11438691B2 (en) 2019-03-21 2022-09-06 Shure Acquisition Holdings, Inc. Auto focus, auto focus within regions, and auto placement of beamformed microphone lobes with inhibition functionality
US11445294B2 (en) 2019-05-23 2022-09-13 Shure Acquisition Holdings, Inc. Steerable speaker array, system, and method for the same
US11523212B2 (en) 2018-06-01 2022-12-06 Shure Acquisition Holdings, Inc. Pattern-forming microphone array
US11552611B2 (en) 2020-02-07 2023-01-10 Shure Acquisition Holdings, Inc. System and method for automatic adjustment of reference gain
US11558693B2 (en) 2019-03-21 2023-01-17 Shure Acquisition Holdings, Inc. Auto focus, auto focus within regions, and auto placement of beamformed microphone lobes with inhibition and voice activity detection functionality
US11678109B2 (en) 2015-04-30 2023-06-13 Shure Acquisition Holdings, Inc. Offset cartridge microphones
US11706562B2 (en) 2020-05-29 2023-07-18 Shure Acquisition Holdings, Inc. Transducer steering and configuration systems and methods using a local positioning system
US11785380B2 (en) 2021-01-28 2023-10-10 Shure Acquisition Holdings, Inc. Hybrid audio beamforming system

Families Citing this family (76)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8594320B2 (en) * 2005-04-19 2013-11-26 (Epfl) Ecole Polytechnique Federale De Lausanne Hybrid echo and noise suppression method and device in a multi-channel audio signal
US8275120B2 (en) * 2006-05-30 2012-09-25 Microsoft Corp. Adaptive acoustic echo cancellation
US20080043997A1 (en) * 2006-08-01 2008-02-21 Acoustic Technologies, Inc. Noise threshold matrix for controlling audio processing
DE102006056158B4 (de) * 2006-11-28 2011-11-17 Infineon Technologies Ag Kanalschätzung für OFDM Systeme
US20080175407A1 (en) * 2007-01-23 2008-07-24 Fortemedia, Inc. System and method for calibrating phase and gain mismatches of an array microphone
US8005237B2 (en) * 2007-05-17 2011-08-23 Microsoft Corp. Sensor array beamformer post-processor
ATE524015T1 (de) 2007-05-22 2011-09-15 Harman Becker Automotive Sys Verfahren und vorrichtung zur verarbeitung mindestens zweier mikrofonsignale zur sendung eines ausgangssignals mit reduzierter interferenz
US8812309B2 (en) * 2008-03-18 2014-08-19 Qualcomm Incorporated Methods and apparatus for suppressing ambient noise using multiple audio signals
US8184816B2 (en) * 2008-03-18 2012-05-22 Qualcomm Incorporated Systems and methods for detecting wind noise using multiple audio sources
US8611554B2 (en) * 2008-04-22 2013-12-17 Bose Corporation Hearing assistance apparatus
JP4889810B2 (ja) * 2008-06-11 2012-03-07 三菱電機株式会社 エコーキャンセラ
US8385557B2 (en) * 2008-06-19 2013-02-26 Microsoft Corporation Multichannel acoustic echo reduction
WO2010043998A1 (en) 2008-10-16 2010-04-22 Nxp B.V. Microphone system and method of operating the same
EP2197219B1 (en) * 2008-12-12 2012-10-24 Nuance Communications, Inc. Method for determining a time delay for time delay compensation
US8401206B2 (en) * 2009-01-15 2013-03-19 Microsoft Corporation Adaptive beamformer using a log domain optimization criterion
EP2222091B1 (en) * 2009-02-23 2013-04-24 Nuance Communications, Inc. Method for determining a set of filter coefficients for an acoustic echo compensation means
US8249862B1 (en) * 2009-04-15 2012-08-21 Mediatek Inc. Audio processing apparatuses
US9185233B2 (en) * 2010-05-25 2015-11-10 Intel Deutschland Gmbh Audio communication device and method using fixed echo cancellation filter coefficients
CN102376309B (zh) * 2010-08-17 2013-12-04 骅讯电子企业股份有限公司 降低环境噪音的系统、方法与应用的装置
TWI458361B (zh) * 2010-09-14 2014-10-21 C Media Electronics Inc 降低環境噪音之系統、方法與應用之裝置
US8861756B2 (en) 2010-09-24 2014-10-14 LI Creative Technologies, Inc. Microphone array system
WO2012157783A1 (ja) * 2011-05-19 2012-11-22 日本電気株式会社 音声処理装置、音声処理方法および音声処理プログラムを記録した記録媒体
GB2493327B (en) 2011-07-05 2018-06-06 Skype Processing audio signals
DK2568695T3 (en) * 2011-07-08 2016-11-21 Goertek Inc Method and device for suppressing residual echo
US9245514B2 (en) * 2011-07-28 2016-01-26 Aliphcom Speaker with multiple independent audio streams
US8818800B2 (en) 2011-07-29 2014-08-26 2236008 Ontario Inc. Off-axis audio suppressions in an automobile cabin
GB2495472B (en) * 2011-09-30 2019-07-03 Skype Processing audio signals
GB2495129B (en) 2011-09-30 2017-07-19 Skype Processing signals
GB2495131A (en) 2011-09-30 2013-04-03 Skype A mobile device includes a received-signal beamformer that adapts to motion of the mobile device
GB2495128B (en) 2011-09-30 2018-04-04 Skype Processing signals
GB2496660B (en) 2011-11-18 2014-06-04 Skype Processing audio signals
GB201120392D0 (en) 2011-11-25 2012-01-11 Skype Ltd Processing signals
GB2497343B (en) 2011-12-08 2014-11-26 Skype Processing audio signals
US9768829B2 (en) 2012-05-11 2017-09-19 Intel Deutschland Gmbh Methods for processing audio signals and circuit arrangements therefor
US9497544B2 (en) 2012-07-02 2016-11-15 Qualcomm Incorporated Systems and methods for surround sound echo reduction
FR2996043B1 (fr) * 2012-09-27 2014-10-24 Univ Bordeaux 1 Procede et dispositif pour separer des signaux par filtrage spatial a variance minimum sous contrainte lineaire
US9813262B2 (en) 2012-12-03 2017-11-07 Google Technology Holdings LLC Method and apparatus for selectively transmitting data using spatial diversity
US9595997B1 (en) * 2013-01-02 2017-03-14 Amazon Technologies, Inc. Adaption-based reduction of echo and noise
US9979531B2 (en) 2013-01-03 2018-05-22 Google Technology Holdings LLC Method and apparatus for tuning a communication device for multi band operation
US10229697B2 (en) * 2013-03-12 2019-03-12 Google Technology Holdings LLC Apparatus and method for beamforming to obtain voice and noise signals
US9257113B2 (en) * 2013-08-27 2016-02-09 Texas Instruments Incorporated Method and system for active noise cancellation
US9549079B2 (en) * 2013-09-05 2017-01-17 Cisco Technology, Inc. Acoustic echo cancellation for microphone array with dynamically changing beam forming
US9385779B2 (en) 2013-10-21 2016-07-05 Cisco Technology, Inc. Acoustic echo control for automated speaker tracking systems
US9947334B2 (en) * 2014-12-12 2018-04-17 Qualcomm Incorporated Enhanced conversational communications in shared acoustic space
EP3230981B1 (en) 2014-12-12 2020-05-06 Nuance Communications, Inc. System and method for speech enhancement using a coherent to diffuse sound ratio
US9712866B2 (en) 2015-04-16 2017-07-18 Comigo Ltd. Cancelling TV audio disturbance by set-top boxes in conferences
KR101649198B1 (ko) * 2015-06-19 2016-08-18 국방과학연구소 빔형성 정보 기반 최적 스무딩 필터를 이용한 객체 궤적 추정 방법 및 장치
KR101733009B1 (ko) 2015-08-17 2017-05-08 국방과학연구소 간섭환경에 적용 가능한 적응형 부엽차단 방법 및 장치
CN105681972B (zh) * 2016-01-14 2018-05-01 南京信息工程大学 线性约束最小方差对角加载的稳健频率不变波束形成方法
KR20170142001A (ko) 2016-06-16 2017-12-27 삼성전자주식회사 전자 장치, 그의 반향 신호 제거 방법 및 비일시적 컴퓨터 판독가능 기록매체
CN106454673B (zh) * 2016-09-05 2019-01-22 广东顺德中山大学卡内基梅隆大学国际联合研究院 基于rls算法的麦克风阵列输出信号自适应校准方法
CN110140346B (zh) * 2016-12-30 2021-07-27 哈曼贝克自动系统股份有限公司 声回波消除
WO2018127359A1 (en) * 2017-01-04 2018-07-12 Harman Becker Automotive Systems Gmbh Far field sound capturing
US10237647B1 (en) * 2017-03-01 2019-03-19 Amazon Technologies, Inc. Adaptive step-size control for beamformer
JP2018191145A (ja) * 2017-05-08 2018-11-29 オリンパス株式会社 収音装置、収音方法、収音プログラム及びディクテーション方法
WO2018230062A1 (ja) 2017-06-12 2018-12-20 株式会社オーディオテクニカ 音声信号処理装置と音声信号処理方法と音声信号処理プログラム
US10200540B1 (en) * 2017-08-03 2019-02-05 Bose Corporation Efficient reutilization of acoustic echo canceler channels
US10219072B1 (en) * 2017-08-25 2019-02-26 Panasonic Automotive Systems Company Of America, Division Of Panasonic Corporation Of North America Dual microphone near field voice enhancement
CN107564539B (zh) * 2017-08-29 2021-12-28 苏州奇梦者网络科技有限公司 面向麦克风阵列的声学回声消除方法及装置
US10090000B1 (en) * 2017-11-01 2018-10-02 GM Global Technology Operations LLC Efficient echo cancellation using transfer function estimation
US11430421B2 (en) 2017-11-01 2022-08-30 Bose Corporation Adaptive null forming and echo cancellation for selective audio pick-up
CN109859749A (zh) * 2017-11-30 2019-06-07 阿里巴巴集团控股有限公司 一种语音信号识别方法和装置
US10938994B2 (en) 2018-06-25 2021-03-02 Cypress Semiconductor Corporation Beamformer and acoustic echo canceller (AEC) system
US10636434B1 (en) * 2018-09-28 2020-04-28 Apple Inc. Joint spatial echo and noise suppression with adaptive suppression criteria
US11277685B1 (en) * 2018-11-05 2022-03-15 Amazon Technologies, Inc. Cascaded adaptive interference cancellation algorithms
US11776538B1 (en) * 2019-04-01 2023-10-03 Dialog Semiconductor B.V. Signal processing
US11107488B1 (en) * 2019-10-24 2021-08-31 Amazon Technologies, Inc. Reduced reference canceller
WO2021107925A1 (en) * 2019-11-26 2021-06-03 Bose Corporation Adaptive null forming and echo cancellation for selective audio pick-up
KR102306739B1 (ko) 2020-06-26 2021-09-30 김현석 차량 내부 음성전달 강화 방법 및 장치
CN112530451A (zh) * 2020-10-20 2021-03-19 国网黑龙江省电力有限公司伊春供电公司 基于去噪自编码器的语音增强方法
CN112542176B (zh) * 2020-11-04 2023-07-21 北京百度网讯科技有限公司 信号增强方法、装置及存储介质
EP4016977A1 (en) * 2020-12-17 2022-06-22 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for filtered-reference acoustic echo cancellation
WO2022139177A1 (ko) * 2020-12-24 2022-06-30 삼성전자주식회사 전자 장치 및 그 제어 방법
CN113163152B (zh) * 2021-03-30 2022-08-16 九音(南京)集成电路技术有限公司 一种多维拾音降噪方法、视频电话会议系统和计算机存储介质
CN113286047B (zh) * 2021-04-22 2023-02-21 维沃移动通信(杭州)有限公司 语音信号处理方法、装置及电子设备
CN114613383B (zh) * 2022-03-14 2023-07-18 中国电子科技集团公司第十研究所 一种机载环境下多输入语音信号波束形成信息互补方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06152724A (ja) * 1992-10-30 1994-05-31 Sony Corp 通話装置
JP2002525982A (ja) * 1998-09-18 2002-08-13 アンドレア エレクトロニクス コーポレイション 混信消去方法及び装置
JP2003535510A (ja) * 2000-05-26 2003-11-25 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 適応ビームフォーミングと結合される音声エコーキャンセレーションのための方法と装置
JP2004537232A (ja) * 2001-07-20 2004-12-09 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 多数のマイクロフォンのエコーを抑圧する回路をポストプロセッサとして有する音響補強システム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4629829A (en) 1984-12-14 1986-12-16 Motorola, Inc. Full duplex speakerphone for radio and landline telephones
US5768308A (en) * 1994-12-19 1998-06-16 Northern Telecom Limited System for TDMA mobile-to-mobile VSELP codec bypass
US5680450A (en) 1995-02-24 1997-10-21 Ericsson Inc. Apparatus and method for canceling acoustic echoes including non-linear distortions in loudspeaker telephones
DE19743192C2 (de) 1997-09-30 1999-09-09 Siemens Ag Echokompensationsverfahren, Echokompensationsvorrichtung und Telekommunikationsgerät
KR100561390B1 (ko) * 1999-08-27 2006-03-16 삼성전자주식회사 디지털 에코 제거장치
JP3724398B2 (ja) * 2001-02-20 2005-12-07 ティアック株式会社 信号処理回路及び信号処理方法
CN1219368C (zh) * 2002-08-16 2005-09-14 乐金电子(惠州)有限公司 数字音频装置中调制信号时清除噪声的方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06152724A (ja) * 1992-10-30 1994-05-31 Sony Corp 通話装置
JP2002525982A (ja) * 1998-09-18 2002-08-13 アンドレア エレクトロニクス コーポレイション 混信消去方法及び装置
JP2003535510A (ja) * 2000-05-26 2003-11-25 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 適応ビームフォーミングと結合される音声エコーキャンセレーションのための方法と装置
JP2004537232A (ja) * 2001-07-20 2004-12-09 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 多数のマイクロフォンのエコーを抑圧する回路をポストプロセッサとして有する音響補強システム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JPN6011007848; 宝珠山治,杉山昭彦: 'タップ係数拘束適応フィルタによるブロッキング行列を用いたロバスト適応ビームフォーマ' 電子情報通信学会総合大会講演論文集 基礎・境界, 19950327, p222, 社団法人電子情報通信学会 *
JPN6011007850; 小林和則,古家賢一,片岡章俊: 'エコーキャンセラ一体型マイクロホンアレー' 電子情報通信学会論文誌. A, 基礎・境界 J87-A(2), 20040201, p143-152, 社団法人電子情報通信学会 *

Cited By (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007208503A (ja) * 2006-01-31 2007-08-16 Yamaha Corp 音声会議装置
US8144886B2 (en) 2006-01-31 2012-03-27 Yamaha Corporation Audio conferencing apparatus
JP4957810B2 (ja) * 2008-02-20 2012-06-20 富士通株式会社 音処理装置、音処理方法及び音処理プログラム
JP2013546247A (ja) * 2010-10-29 2013-12-26 マイティワークス マルチビーム音響システム
JP2014510452A (ja) * 2011-02-10 2014-04-24 ドルビー ラボラトリーズ ライセンシング コーポレイション ノイズ、エコーおよびロケーション外(out−of−location)信号の合成された抑制
US11678109B2 (en) 2015-04-30 2023-06-13 Shure Acquisition Holdings, Inc. Offset cartridge microphones
USD940116S1 (en) 2015-04-30 2022-01-04 Shure Acquisition Holdings, Inc. Array microphone assembly
US11832053B2 (en) 2015-04-30 2023-11-28 Shure Acquisition Holdings, Inc. Array microphone system and method of assembling the same
USD865723S1 (en) 2015-04-30 2019-11-05 Shure Acquisition Holdings, Inc Array microphone assembly
US11310592B2 (en) 2015-04-30 2022-04-19 Shure Acquisition Holdings, Inc. Array microphone system and method of assembling the same
US11477327B2 (en) 2017-01-13 2022-10-18 Shure Acquisition Holdings, Inc. Post-mixing acoustic echo cancellation systems and methods
US10367948B2 (en) 2017-01-13 2019-07-30 Shure Acquisition Holdings, Inc. Post-mixing acoustic echo cancellation systems and methods
US11800281B2 (en) 2018-06-01 2023-10-24 Shure Acquisition Holdings, Inc. Pattern-forming microphone array
US11523212B2 (en) 2018-06-01 2022-12-06 Shure Acquisition Holdings, Inc. Pattern-forming microphone array
US11297423B2 (en) 2018-06-15 2022-04-05 Shure Acquisition Holdings, Inc. Endfire linear array microphone
US11770650B2 (en) 2018-06-15 2023-09-26 Shure Acquisition Holdings, Inc. Endfire linear array microphone
US11310596B2 (en) 2018-09-20 2022-04-19 Shure Acquisition Holdings, Inc. Adjustable lobe shape for array microphones
US11303981B2 (en) 2019-03-21 2022-04-12 Shure Acquisition Holdings, Inc. Housings and associated design features for ceiling array microphones
US11558693B2 (en) 2019-03-21 2023-01-17 Shure Acquisition Holdings, Inc. Auto focus, auto focus within regions, and auto placement of beamformed microphone lobes with inhibition and voice activity detection functionality
US11438691B2 (en) 2019-03-21 2022-09-06 Shure Acquisition Holdings, Inc. Auto focus, auto focus within regions, and auto placement of beamformed microphone lobes with inhibition functionality
US11778368B2 (en) 2019-03-21 2023-10-03 Shure Acquisition Holdings, Inc. Auto focus, auto focus within regions, and auto placement of beamformed microphone lobes with inhibition functionality
US11800280B2 (en) 2019-05-23 2023-10-24 Shure Acquisition Holdings, Inc. Steerable speaker array, system and method for the same
US11445294B2 (en) 2019-05-23 2022-09-13 Shure Acquisition Holdings, Inc. Steerable speaker array, system, and method for the same
US11302347B2 (en) 2019-05-31 2022-04-12 Shure Acquisition Holdings, Inc. Low latency automixer integrated with voice and noise activity detection
US11688418B2 (en) 2019-05-31 2023-06-27 Shure Acquisition Holdings, Inc. Low latency automixer integrated with voice and noise activity detection
US11750972B2 (en) 2019-08-23 2023-09-05 Shure Acquisition Holdings, Inc. One-dimensional array microphone with improved directivity
US11297426B2 (en) 2019-08-23 2022-04-05 Shure Acquisition Holdings, Inc. One-dimensional array microphone with improved directivity
US11552611B2 (en) 2020-02-07 2023-01-10 Shure Acquisition Holdings, Inc. System and method for automatic adjustment of reference gain
USD944776S1 (en) 2020-05-05 2022-03-01 Shure Acquisition Holdings, Inc. Audio device
US11706562B2 (en) 2020-05-29 2023-07-18 Shure Acquisition Holdings, Inc. Transducer steering and configuration systems and methods using a local positioning system
US11785380B2 (en) 2021-01-28 2023-10-10 Shure Acquisition Holdings, Inc. Hybrid audio beamforming system

Also Published As

Publication number Publication date
CA2518134A1 (en) 2006-03-03
DE602004017603D1 (de) 2008-12-18
JP5123473B2 (ja) 2013-01-23
KR101178313B1 (ko) 2012-08-29
ATE413769T1 (de) 2008-11-15
EP1633121A1 (en) 2006-03-08
CN1750573A (zh) 2006-03-22
US20060153360A1 (en) 2006-07-13
CN1750573B (zh) 2015-12-02
EP1633121B1 (en) 2008-11-05
US7747001B2 (en) 2010-06-29
KR20060050991A (ko) 2006-05-19

Similar Documents

Publication Publication Date Title
JP5123473B2 (ja) 結合されたノイズ低減およびエコー補償による音声信号処理
CN110741434B (zh) 用于具有可变麦克风阵列定向的耳机的双麦克风语音处理
JP4734070B2 (ja) ノイズ低減による多重チャンネル適応の音声信号処理
US9589556B2 (en) Energy adjustment of acoustic echo replica signal for speech enhancement
US8204252B1 (en) System and method for providing close microphone adaptive array processing
JP5394373B2 (ja) オーディオ信号を処理する装置及び方法
KR101610656B1 (ko) 널 프로세싱 노이즈 감산을 이용한 노이즈 억제 시스템 및 방법
US7587056B2 (en) Small array microphone apparatus and noise suppression methods thereof
US9613634B2 (en) Control of acoustic echo canceller adaptive filter for speech enhancement
US8958572B1 (en) Adaptive noise cancellation for multi-microphone systems
US8165310B2 (en) Dereverberation and feedback compensation system
US8774423B1 (en) System and method for controlling adaptivity of signal modification using a phantom coefficient
US20090316923A1 (en) Multichannel acoustic echo reduction
US9083782B2 (en) Dual beamform audio echo reduction
US8175290B2 (en) Feedback reduction system
JP2004537233A (ja) エコー抑圧回路及びラウドスピーカ・ビームフォーマを有する音響補強システム
JP2004537232A (ja) 多数のマイクロフォンのエコーを抑圧する回路をポストプロセッサとして有する音響補強システム
KR20160003844A (ko) 멀티-채널 에코 소거 및 잡음 억제
US9508359B2 (en) Acoustic echo preprocessing for speech enhancement
KR101182017B1 (ko) 휴대 단말기에서 복수의 마이크들로 입력된 신호들의잡음을 제거하는 방법 및 장치
US9646629B2 (en) Simplified beamformer and noise canceller for speech enhancement
US9510096B2 (en) Noise energy controlling in noise reduction system with two microphones
EP2802157B1 (en) Dual beamform audio echo reduction

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100819

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110525

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20110819

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110915

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120605

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120904

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120911

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121001

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121026

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151102

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5123473

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250