JP2021184587A - エコー抑圧装置、エコー抑圧方法及びエコー抑圧プログラム - Google Patents

エコー抑圧装置、エコー抑圧方法及びエコー抑圧プログラム Download PDF

Info

Publication number
JP2021184587A
JP2021184587A JP2020177958A JP2020177958A JP2021184587A JP 2021184587 A JP2021184587 A JP 2021184587A JP 2020177958 A JP2020177958 A JP 2020177958A JP 2020177958 A JP2020177958 A JP 2020177958A JP 2021184587 A JP2021184587 A JP 2021184587A
Authority
JP
Japan
Prior art keywords
echo
signal
nonlinear
linear
input signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020177958A
Other languages
English (en)
Inventor
友樹 寺嶋
Yuki Terashima
慎一 杠
Shinichi Yuzuriha
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Corp of America
Original Assignee
Panasonic Intellectual Property Corp of America
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Corp of America filed Critical Panasonic Intellectual Property Corp of America
Publication of JP2021184587A publication Critical patent/JP2021184587A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/02Circuits for transducers, loudspeakers or microphones for preventing acoustic reaction, i.e. acoustic oscillatory feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/002Applications of echo suppressors or cancellers in telephonic connections
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M9/00Arrangements for interconnection not involving centralised switching
    • H04M9/08Two-way loud-speaking telephone systems with means for conditioning the signal, e.g. for suppressing echoes for one or both directions of traffic
    • H04M9/082Two-way loud-speaking telephone systems with means for conditioning the signal, e.g. for suppressing echoes for one or both directions of traffic using echo cancellers
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering
    • G10L2021/02082Noise filtering the noise being echo, reverberation of the speech

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Acoustics & Sound (AREA)
  • Otolaryngology (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Computational Linguistics (AREA)
  • Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
  • Telephone Function (AREA)
  • Circuit For Audible Band Transducer (AREA)

Abstract

【課題】マイクロホンによって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することができる技術を提供する。【解決手段】エコー抑圧装置1は、マイクロホン13によって取得された入力信号から線形エコー信号を抑圧するエコーキャンセラ14と、スピーカ12へ出力される受話信号及び入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号及び入力信号の少なくとも一方から入力信号に含まれる非線形エコー信号を推定する非線形エコー推定部18と、推定された非線形エコー信号を用いて、エコーキャンセラ14の出力信号から非線形エコー信号を抑圧する非線形エコー抑圧部19と、エコーキャンセラ14によって抑圧されなかった残留線形エコー信号を、非線形エコー抑圧部19の出力信号から抑圧するエコーサプレッサ20とを備える。【選択図】図3

Description

本開示は、マイクロホンによって取得された入力信号に含まれる線形エコー信号及び非線形エコー信号を抑圧する技術に関するものである。
ハンズフリー通話システム及びテレビ会議システム等において、スピーカ及びマイクロホンを用いた拡声通話が行われる場合、送話側の話者が話した音声は、送話側のマイクロホンに入力され、送話信号としてネットワーク回線を介して受話側の機器へ送信される。受話側のスピーカから拡声された音声は、受話側のマイクロホンで収音され、ネットワーク回線を介して送信側の機器へ送信される。このとき、送話側のスピーカからは、ネットワーク回線を通過した時間と受話側の空間を伝搬した時間とを経過した自身の発話した音声が再生される。このように、受話側のスピーカからマイクロホンの間で伝搬する音声は、エコーと呼ばれ、通話を妨げる要因となる。そのため、エコーキャンセラ及びエコーサプレッサなどのエコー抑圧技術が提案されている。
例えば、特許文献1に示すエコー抑圧装置は、スピーカにおいて受話信号を再生する際に、受話信号のレベルが大きいために再生音に歪みが生じる可能性がある場合、仮に歪みが生じない場合に用いるゲインよりも、抑圧量の大きいゲインを周波数毎に求め、周波数領域の収音信号に基づく値にゲインを乗じる。
また、例えば、特許文献2に示すエコー抑圧装置は、いずれかの周波数値の再生信号のパワーが予め定めた閾値より大きい場合であって、かつ、その周波数値のm(m=2,3,・・・,M)倍の周波数値またはm倍の周波数値の周辺の周波数値の場合には、m倍の周波数値及びその周辺の周波数値に対応するゲイン係数を0に近づけた値を第2ゲイン係数として求め、それ以外の場合には、ゲイン係数を第2ゲイン係数として求める。
特開2017−191992号公報 特開2010−103875号公報
しかしながら、上記従来の技術では、マイクロホンによって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することが困難であり、更なる改善が必要とされていた。
本開示は、上記の問題を解決するためになされたもので、マイクロホンによって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することができる技術を提供することを目的とするものである。
本開示の一態様に係るエコー抑圧装置は、マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧する第1の線形エコー抑圧部と、スピーカへ出力される受話信号及び前記入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、前記受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定する非線形エコー推定部と、前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記第1の線形エコー抑圧部の出力信号から前記非線形エコー信号を抑圧する非線形エコー抑圧部と、前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記非線形エコー抑圧部の出力信号から前記残留線形エコー信号を抑圧する第2の線形エコー抑圧部と、を備える。
本開示によれば、マイクロホンによって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することができる。
スピーカ歪みによる非線形エコーが入力信号に含まれない場合におけるマイクロホン信号、エコーキャンセラ出力信号及びエコーサプレッサ出力信号を示す図である。 スピーカ歪みによる非線形エコーが入力信号に含まれる場合におけるマイクロホン信号、エコーキャンセラ出力信号及びエコーサプレッサ出力信号を示す図である。 本開示の実施の形態1における通話装置の構成を示す図である。 本実施の形態1におけるエコー抑圧装置の各部から出力される信号の一例を示す図である。 本開示の実施の形態1におけるエコー抑圧装置の動作を説明するためのフローチャートである。 本開示の実施の形態1における学習装置の構成を示す図である。 本実施の形態1における学習装置の各部から出力される信号の一例を示す図である。 1/3オクターブバンドノイズを含む受話信号の振幅スペクトルを示す図である。 図8に示す受話信号が拡声された際にマイクロホンで得られる入力信号に含まれる非線形エコー信号の正解値及び推定値の振幅スペクトルを示す図である。 女性の声を含む受話信号の振幅スペクトルを示す図である。 図10に示す受話信号が拡声された際にマイクロホンで得られる入力信号に含まれる非線形エコー信号の正解値及び推定値の振幅スペクトルを示す図である。 従来のエコー抑圧装置からの出力信号及び本実施の形態1のエコー抑圧装置からの出力信号を周波数解析した結果を示す図である。 男性の声を含む入力信号の振幅の時間変化と、入力信号に対するエコー抑圧量(ERLE)の時間変化とを示す図である。 本開示の実施の形態2における通話装置の構成を示す図である。 本開示の実施の形態3における通話装置の構成を示す図である。 本開示の実施の形態4における通話装置の構成を示す図である。 本開示の実施の形態5における通話装置の構成を示す図である。 本開示の実施の形態6における通話装置の構成を示す図である。 本開示の実施の形態7における通話装置の構成を示す図である。
(本開示の基礎となった知見)
エコーキャンセラは、適応フィルタによってエコー信号を推定し、推定したエコー信号をマイクロホンで収音した信号から差し引くことでエコーを除去する技術である。エコーは、スピーカから拡声された音の直接音と反射音との重ね合わせである。そのため、スピーカとマイクロホンとの間の伝達特性は、FIR(Finite Impulse Response)フィルタで表現することができる。FIR型適応フィルタは、伝達特性を近似するように学習し、受話信号にフィルタ係数を畳み込むことでエコーの推定値である疑似エコー信号を生成する。適応フィルタの学習アルゴリズムとしては、LMS(Least Mean Square)法、NLMS(Normalized LMS)法及びICA(Independent Component Analysis)に基づく手法などが提案されている。
一方、エコーサプレッサは、周波数領域におけるエコーのパワースペクトルを推定し、推定したエコーのパワースペクトルをマイクロホンで収音した信号のパワースペクトルから差し引くことでエコーを抑圧する技術である。エコーサプレッサは、例えば、スペクトルサブトラクション法又はウィナーフィルタ法によりエコーを抑圧する。前述のエコーキャンセラは適応フィルタの学習に時間がかかるため、電源を入れた直後及びエコーパスが変動した際に、残留エコーが生じるおそれがある。また、スピーカ又はマイクロホンで発生する雑音又は送話信号が適応フィルタの誤学習を引き起こし、疑似エコー信号に推定誤差が生じ、残留エコーが増加するおそれがある。このため、エコーサプレッサはエコーキャンセラの後段でエコー抑圧を補う目的で使用されるのが一般的である。
従来のエコーキャンセラ及び従来のエコーサプレッサは、線形モデルでエコーを推定するため、スピーカ歪みのような非線形雑音が付与された非線形エコーを抑圧することが困難であるという課題がある。ノートパソコン又は可搬型テレビ会議システムに用いられる機器では、小口径スピーカから大音量の音が拡声されるため、スピーカ歪みに起因する非線形エコーの影響が顕著に現れ、快適に通話できないおそれがある。
また、上記の特許文献1では、高調波歪みのように、受話信号に含まれない周波数成分の非線形エコー信号を抑圧することが困難である。
また、上記の特許文献2では、広帯域な歪み成分を抑圧することが困難であり、整数倍の周波数値以外の周波数値で生じる歪み成分を抑圧することが困難である。
以上の課題を解決するために、本開示の一態様に係るエコー抑圧装置は、マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧する第1の線形エコー抑圧部と、スピーカへ出力される受話信号及び前記入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、前記受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定する非線形エコー推定部と、前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記第1の線形エコー抑圧部の出力信号から前記非線形エコー信号を抑圧する非線形エコー抑圧部と、前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記非線形エコー抑圧部の出力信号から前記残留線形エコー信号を抑圧する第2の線形エコー抑圧部と、を備える。
この構成によれば、スピーカへ出力される受話信号及び入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号及び入力信号の少なくとも一方から入力信号に含まれる非線形エコー信号が推定され、推定された非線形エコー信号を用いて、第1の線形エコー抑圧部の出力信号から非線形エコー信号が抑圧される。したがって、マイクロホンによって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することができる。
また、第2の線形エコー抑圧部によって、非線形エコー信号が抑圧された出力信号から残留線形エコー信号が抑圧される。したがって、第2の線形エコー抑圧部の動作を安定させることができ、線形エコー信号の抑圧性能を向上させることができる。
また、上記のエコー抑圧装置において、前記非線形エコーモデルは、前記受話信号及び前記入力信号の少なくとも一方と、前記入力信号から線形エコー信号を抑圧する前記第1の線形エコー抑圧部の出力信号から前記残留線形エコー信号を抑圧する前記第2の線形エコー抑圧部の出力信号とを教師データとして用い、入力を前記受話信号及び前記入力信号の少なくとも一方とし、出力を前記非線形エコー信号として学習されてもよい。
この構成によれば、第1の線形エコー抑圧部及び第2の線形エコー抑圧部は線形エコー信号のみを抑圧して非線形エコー信号を抑圧しないので、第1の線形エコー抑圧部及び第2の線形エコー抑圧部によって線形エコー信号が抑圧された信号を、非線形エコー信号として教師データに用いることができる。
また、受話信号及び入力信号の少なくとも一方と、第2の線形エコー抑圧部の出力信号とを教師データとして用いて非線形エコー信号が学習されるので、スピーカによる複雑な歪みを正確にモデル化することができ、非線形エコー信号の推定精度を向上させることができる。
また、上記のエコー抑圧装置において、前記非線形エコーモデルは、ニューラルネットワークであってもよい。
この構成によれば、ニューラルネットワークにより非線形エコーモデルを実現することができる。
また、上記のエコー抑圧装置において、前記非線形エコー推定部は、前記受話信号と前記非線形エコー信号との関係性を示す前記非線形エコーモデルを用いて、前記受話信号から前記入力信号に含まれる前記非線形エコー信号を推定してもよい。
この構成によれば、受話信号と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号から非線形エコー信号が推定されるので、受話信号から非線形エコー信号を容易に推定することができる。
また、上記のエコー抑圧装置において、前記非線形エコー推定部は、前記受話信号及び前記入力信号と、前記非線形エコー信号との関係性を示す前記非線形エコーモデルを用いて、前記受話信号及び前記入力信号から前記入力信号に含まれる前記非線形エコー信号を推定してもよい。
この構成によれば、受話信号だけでなく、受話信号及び入力信号から非線形エコー信号が推定されるので、非線形エコー信号の推定精度を向上させることができる。
また、上記のエコー抑圧装置において、前記非線形エコー推定部は、前記受話信号及び前記第1の線形エコー抑圧部の出力信号と、前記非線形エコー信号との関係性を示す前記非線形エコーモデルを用いて、前記受話信号及び前記第1の線形エコー抑圧部の出力信号から前記入力信号に含まれる前記非線形エコー信号を推定してもよい。
この構成によれば、受話信号だけでなく、受話信号及び第1の線形エコー抑圧部の出力信号から非線形エコー信号が推定されるので、非線形エコー信号の推定精度を向上させることができる。
また、上記のエコー抑圧装置において、前記第1の線形エコー抑圧部は、フィルタ係数と前記受話信号とを畳み込むことにより前記入力信号に含まれる前記受話信号の成分を示す擬似線形エコー信号を生成する適応フィルタと、前記入力信号から前記擬似線形エコー信号を減算する減算部とを含み、前記非線形エコー推定部は、前記受話信号及び前記適応フィルタからの前記擬似線形エコー信号と、前記非線形エコー信号との関係性を示す前記非線形エコーモデルを用いて、前記受話信号及び前記適応フィルタからの前記擬似線形エコー信号から前記入力信号に含まれる前記非線形エコー信号を推定してもよい。
この構成によれば、受話信号だけでなく、受話信号及び第1の線形エコー抑圧部の適応フィルタからの擬似線形エコー信号から非線形エコー信号が推定されるので、非線形エコー信号の推定精度を向上させることができる。
また、上記のエコー抑圧装置において、前記非線形エコー推定部は、前記入力信号と前記非線形エコー信号との関係性を示す前記非線形エコーモデルを用いて、前記入力信号から前記入力信号に含まれる前記非線形エコー信号を推定してもよい。
この構成によれば、入力信号と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、入力信号から非線形エコー信号が推定されるので、入力信号から非線形エコー信号を容易に推定することができる。
また、上記のエコー抑圧装置において、前記非線形エコー抑圧部の出力信号及び前記第2の線形エコー抑圧部の出力信号のいずれかを最小化するための可変ゲインを算出し、算出した前記可変ゲインを用いて前記非線形エコー推定部によって推定された前記非線形エコー信号を補正する補正部をさらに備えてもよい。
この構成によれば、非線形エコー信号の推定誤差を補正することができ、非線形エコー信号の抑圧性能を向上させることができる。
本開示の他の態様に係るエコー抑圧装置は、マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧する第1の線形エコー抑圧部と、スピーカへ出力される受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定する非線形エコー推定部と、前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記入力信号から前記非線形エコー信号を抑圧する非線形エコー抑圧部と、前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記残留線形エコー信号を抑圧する第2の線形エコー抑圧部と、を備える。
この構成によれば、スピーカへ出力される受話信号及び入力信号の少なくとも一方から入力信号に含まれる非線形エコー信号が推定され、推定された非線形エコー信号を用いて、入力信号から非線形エコー信号が抑圧される。したがって、マイクロホンによって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することができる。
また、第2の線形エコー抑圧部によって、残留線形エコー信号が抑圧される。したがって、第2の線形エコー抑圧部の動作を安定させることができ、線形エコー信号の抑圧性能を向上させることができる。
本開示の他の態様に係るエコー抑圧方法は、第1の線形エコー抑圧部が、マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧し、非線形エコー推定部が、スピーカへ出力される受話信号及び前記入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、前記受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定し、非線形エコー抑圧部が、前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記第1の線形エコー抑圧部の出力信号から前記非線形エコー信号を抑圧し、第2の線形エコー抑圧部が、前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記非線形エコー抑圧部の出力信号から前記残留線形エコー信号を抑圧する。
この構成によれば、スピーカへ出力される受話信号及び入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号及び入力信号の少なくとも一方から入力信号に含まれる非線形エコー信号が推定され、推定された非線形エコー信号を用いて、第1の線形エコー抑圧部の出力信号から非線形エコー信号が抑圧される。したがって、マイクロホンによって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することができる。
また、第2の線形エコー抑圧部によって、非線形エコー信号が抑圧された出力信号から残留線形エコー信号が抑圧される。したがって、第2の線形エコー抑圧部の動作を安定させることができ、線形エコー信号の抑圧性能を向上させることができる。
本開示の他の態様に係るエコー抑圧方法は、第1の線形エコー抑圧部が、マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧し、非線形エコー推定部が、スピーカへ出力される受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定し、非線形エコー抑圧部が、前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記入力信号から前記非線形エコー信号を抑圧し、第2の線形エコー抑圧部が、前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記残留線形エコー信号を抑圧する。
この構成によれば、スピーカへ出力される受話信号及び入力信号の少なくとも一方から入力信号に含まれる非線形エコー信号が推定され、推定された非線形エコー信号を用いて、入力信号から非線形エコー信号が抑圧される。したがって、マイクロホンによって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することができる。
また、第2の線形エコー抑圧部によって、残留線形エコー信号が抑圧される。したがって、第2の線形エコー抑圧部の動作を安定させることができ、線形エコー信号の抑圧性能を向上させることができる。
本開示の他の態様に係るエコー抑圧プログラムは、マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧する第1の線形エコー抑圧部と、スピーカへ出力される受話信号及び前記入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、前記受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定する非線形エコー推定部と、前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記第1の線形エコー抑圧部の出力信号から前記非線形エコー信号を抑圧する非線形エコー抑圧部と、前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記非線形エコー抑圧部の出力信号から前記残留線形エコー信号を抑圧する第2の線形エコー抑圧部としてコンピュータを機能させる。
この構成によれば、スピーカへ出力される受話信号及び入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号及び入力信号の少なくとも一方から入力信号に含まれる非線形エコー信号が推定され、推定された非線形エコー信号を用いて、第1の線形エコー抑圧部の出力信号から非線形エコー信号が抑圧される。したがって、マイクロホンによって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することができる。
また、第2の線形エコー抑圧部によって、非線形エコー信号が抑圧された出力信号から残留線形エコー信号が抑圧される。したがって、第2の線形エコー抑圧部の動作を安定させることができ、線形エコー信号の抑圧性能を向上させることができる。
本開示の他の態様に係るエコー抑圧プログラムは、マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧する第1の線形エコー抑圧部と、スピーカへ出力される受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定する非線形エコー推定部と、前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記入力信号から前記非線形エコー信号を抑圧する非線形エコー抑圧部と、前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記残留線形エコー信号を抑圧する第2の線形エコー抑圧部としてコンピュータを機能させる。
この構成によれば、スピーカへ出力される受話信号及び入力信号の少なくとも一方から入力信号に含まれる非線形エコー信号が推定され、推定された非線形エコー信号を用いて、入力信号から非線形エコー信号が抑圧される。したがって、マイクロホンによって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することができる。
また、第2の線形エコー抑圧部によって、残留線形エコー信号が抑圧される。したがって、第2の線形エコー抑圧部の動作を安定させることができ、線形エコー信号の抑圧性能を向上させることができる。
以下添付図面を参照しながら、本開示の実施の形態について説明する。なお、以下の実施の形態は、本開示を具体化した一例であって、本開示の技術的範囲を限定するものではない。
(実施の形態1)
まず、非線形エコーの発生要因について説明する。
非線形歪みは、システムの入出力関係が比例関係に無い場合に生じる歪みの総称である。例えば、入力振幅が大きくなるに連れて出力振幅がクリップする入出力特性のシステムに周波数f1及びf2の2トーン正弦波が入力されると、出力波形の振幅スペクトルでは、入力信号には存在しない周波数成分に非線形歪みが生じる。非線形歪みは、2f1及び2f2のように入力信号の整数倍の周波数に生じる高調波歪みと、f1+f2及びf2−f1のように入力信号の和及び差の周波数に生じる相互変調歪みとに大別できる。
実際のシステムでは、スピーカの拡声音の非線形歪みが非線形エコーの要因となる。一般的に広く用いられている動電型スピーカでは、最低共振周波数f0付近の周波数帯域で振動板の変位が増大する。そして、永久磁石が作る磁束の範囲を超えてボイスコイルが可動することで生じる駆動力の非線形性、又はコーンエッジ又はダンパなどの支持系の機械的非線形性などにより非線形歪みが発生する。さらに、小口径スピーカでは、低域の音圧レベルの低下を補うために、最低共振周波数f0付近の音圧が前処理によってブーストされる場合がある。この場合、振動板の変位が増大し、さらなる非線形歪みが発生する要因となる。
続いて、非線形エコーが従来のエコー抑圧技術に与える影響について説明する。従来のエコー抑圧技術としては、エコーキャンセラとエコーサプレッサとを備えるシステムについて説明する。
エコーキャンセラは、適応フィルタによってエコーの推定値、すなわち擬似エコー信号を算出し、算出した擬似エコー信号をマイクロホン信号から差し引くことでエコーを除去する。つまり、受話信号をx(k)とし、適応フィルタの係数をw(k)とし、適応フィルタのタップ数をNとすると、擬似エコーy(k)は下記の式(1)で表される。
Figure 2021184587
上記の式(1)は、受話信号の位相と振幅とを変化させた線形和によって擬似エコーを表現することを意味しており、係数学習に用いる適応アルゴリズムに関係なく非線形エコーを表現できない。
また、エコーサプレッサは、エコーキャンセラの後段に設けられる。エコーサプレッサは、エコーキャンセラで抑圧されなかった残留エコーのパワースペクトルを推定することにより残留エコーを抑圧する。一般に広く用いられているウィナーフィルタ法に基づくエコーサプレッサでは、受話信号の短時間スペクトルX(ω)と残留エコーの短時間スペクトルYEC(ω)との間の音響結合量A(ω)が推定され、下記の式(2)に基づいてウィナーフィルタGwiener(ω)が算出される。
Figure 2021184587
そして、エコーサプレッサは、ウィナーフィルタGwiener(ω)を、下記の式(3)のように残留エコーの短時間スペクトルYEC(ω)に対して掛け合わせることでエコーを抑圧した信号YES(ω)を得る。
ES(ω)=Gwiener(ω)YEC(ω)・・・(3)
つまり、エコーサプレッサは、周波数成分ごとに推定した音響結合量A(ω)と受話信号X(ω)とによって残留エコーを推定する。そのため、エコーサプレッサは、非線形エコーのような受話信号に存在しない周波数成分を推定することができない。
上記の裏付けとして、発明者らは、非線形エコーの影響評価を確認する実験を実施した。なお、評価実験には、従来のエコー抑圧装置が用いられた。従来のエコー抑圧装置は、受話信号を拡声するスピーカ、マイクロホン、マイクロホンによって取得された入力信号からエコー信号を抑圧するエコーキャンセラ、及びエコーキャンセラからの出力信号からエコー信号を抑圧するエコーサプレッサを備える。また、評価実験には、拡声に用いたスピーカの最低共振周波数f0付近である中心周波数400Hzの1/3オクターブバンドノイズが用いられた。
図1は、スピーカ歪みによる非線形エコーが入力信号に含まれない場合におけるマイクロホン信号、エコーキャンセラ出力信号及びエコーサプレッサ出力信号を示す図であり、図2は、スピーカ歪みによる非線形エコーが入力信号に含まれる場合におけるマイクロホン信号、エコーキャンセラ出力信号及びエコーサプレッサ出力信号を示す図である。
図1及び図2において、実線は、マイクロホンから出力されたマイクロホン信号(入力信号)を表し、破線は、エコーキャンセラ出力信号を表し、一点鎖線は、エコーサプレッサ出力信号を表す。図1及び図2において、横軸は、周波数を表し、縦軸は、振幅レベルを表す。
図2では、入力信号の2次〜4次高調波が現れており、前述の通り、従来のエコーキャンセラ及びエコーサプレッサでは非線形エコーが全く抑圧できないことが示されている。さらに、図1及び図2において、400Hz付近の基音に着目すると、非線形エコーが含まれない場合ではエコーキャンセラで35dB程度のエコーが抑圧されているのに対し、非線形エコーが含まれる場合ではエコーキャンセラの抑圧量が20dB程度まで劣化している。これは、適応フィルタが本来表現できないはずの非線形エコーを模擬しようとしてフィルタ係数を無理に更新し続けた結果、誤学習を引き起こし、エコー推定に誤差が生じたためと考えられる。
従来のエコー抑圧技術の本質的な課題は、線形モデルでエコーを推定するために非線形エコーが表現できない点にある。そこで、本実施の形態1におけるエコー抑圧装置は、任意の非線形関数を近似することができるニューラルネットワークを用いて非線形エコーを推定する。ニューラルネットワークの導入方法としては、非線形エコーの振幅及び位相を推定してエコーキャンセラに適用する方法と、非線形エコーの振幅のみを推定してエコーサプレッサに適用する方法との2通りが考えられる。前者は後者と比較して高い推定精度が必要であると共に、演算量が増大するという問題がある。そこで、本実施の形態1におけるエコー抑圧装置は、低消費電力、低コスト及び少ない演算量で実装可能なエコーサプレッサ方式により非線形エコーの抑圧を実現する。
図3は、本開示の実施の形態1における通話装置の構成を示す図である。図4は、本実施の形態1におけるエコー抑圧装置の各部から出力される信号の一例を示す図である。なお、通話装置は、拡声型のハンズフリー通話システム、拡声型の双方向通信会議システム及びインターホンシステムなどに利用される。
図3に示す通話装置は、エコー抑圧装置1、入力端子11、スピーカ12、マイクロホン13及び出力端子22を備える。
入力端子11は、受話側の通話装置(不図示)から受信した受話信号x(k)をエコー抑圧装置1へ出力する。
スピーカ12は、入力された受話信号x(k)を外部へ出力する。ここで、スピーカ12から出力された音声が、マイクロホン13によって収音された場合、受話側のスピーカからは、受話側の話者の発話した音声が遅れて再生されることになり、いわゆる音響エコーが発生する。そこで、エコー抑圧装置1は、マイクロホン13から出力される入力信号xmic(k)に含まれる音響エコー信号を抑圧する。このとき、音響エコー信号は、線形エコー信号及び非線形エコー信号を含む。
マイクロホン13は、送話者がいる空間内に配置され、送話者の音声を収音する。マイクロホン13は、収音した音声を示す入力信号xmic(k)をエコー抑圧装置1に出力する。
出力端子22は、エコー抑圧装置1によって線形エコー信号及び非線形エコー信号が抑圧された入力信号yES(k)を出力する。
なお、入力端子11及び出力端子22は、通信部(不図示)に接続されている。通信部は、ネットワークを介して受話側の通話装置(不図示)へ入力信号yES(k)を送信するとともに、ネットワークを介して受話側の通話装置(不図示)から受話信号x(k)を受信する。ネットワークは、例えば、インターネットである。
エコー抑圧装置1は、エコーキャンセラ14、高速フーリエ変換部15,16、非線形エコーモデル記憶部17、非線形エコー推定部18、非線形エコー抑圧部19、エコーサプレッサ20及び逆高速フーリエ変換部21を備える。
入力端子11は、受話信号x(k)をスピーカ12、エコーキャンセラ14及び高速フーリエ変換部15へ出力する。
エコーキャンセラ14は、マイクロホン13によって取得された入力信号xmic(k)に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、入力信号xmic(k)から線形エコー信号を抑圧する。エコーキャンセラ14は、第1の線形エコー抑圧部の一例である。図4に示すように、エコーキャンセラ14は、マイクロホン13から出力された入力信号xmic(k)に含まれる線形エコー信号のみを抑圧する。
エコーキャンセラ14は、不図示の適応フィルタ及び減算部を備える。
適応フィルタは、フィルタ係数と受話信号とを畳み込むことにより、マイクロホン13によって取得された入力信号xmic(k)に含まれる受話信号の成分を示す擬似エコー信号を生成する。
減算部は、マイクロホン13からの入力信号xmic(k)と適応フィルタからの擬似エコー信号との誤差信号を算出し、算出した誤差信号を適応フィルタへ出力する。適応フィルタは、入力された誤差信号に基づいてフィルタ係数を修正し、修正したフィルタ係数と受話信号とを畳み込むことにより擬似エコー信号を生成する。適応フィルタは、適応アルゴリズムを用いて、誤差信号が最小となるようにフィルタ係数を修正する。適応アルゴリズムとしては、例えば、学習同定法(NLMS(Normarized Least Mean Square)法)、アフィン射影法又は再帰的最小2乗法(RLS(Recursive Least Square)法)が用いられる。
また、減算部は、マイクロホン13からの入力信号xmic(k)から、適応フィルタからの擬似エコー信号を減算することにより、入力信号xmic(k)から線形エコー信号を抑圧する。そして、減算部は、線形エコー信号を抑圧した入力信号yEC(k)を高速フーリエ変換部15へ出力する。
高速フーリエ変換部15は、離散フーリエ変換を高速に行う。高速フーリエ変換部15は、エコーキャンセラ14から非線形エコー抑圧部19に入力される時間領域の入力信号yEC(k)を周波数領域の入力信号YEC(ω)に変換する。高速フーリエ変換部15は、エコーキャンセラ14によって線形エコー信号のみが抑圧された周波数領域の入力信号YEC(ω)を非線形エコー抑圧部19へ出力する。
高速フーリエ変換部16は、離散フーリエ変換を高速に行う。高速フーリエ変換部16は、非線形エコー推定部18に入力される時間領域の受話信号x(k)を周波数領域の受話信号X(ω)に変換する。高速フーリエ変換部16は、周波数領域の受話信号X(ω)を非線形エコー推定部18及びエコーサプレッサ20へ出力する。
非線形エコーモデル記憶部17は、スピーカ12へ出力される受話信号及びマイクロホン13によって取得された入力信号の少なくとも一方と非線形エコー信号との関係性を示す非線形エコーモデルを予め記憶する。なお、本実施の形態1における非線形エコーモデル記憶部17は、受話信号と非線形エコー信号との関係性を示す非線形エコーモデルを予め記憶する。非線形エコーモデルは、例えば、ニューラルネットワークである。
非線形エコーモデルは、受話信号及び入力信号の少なくとも一方と、入力信号から線形エコー信号を抑圧するエコーキャンセラの出力信号から線形エコー信号を抑圧するエコーサプレッサの出力信号とを教師データとして用い、入力を受話信号及び入力信号の少なくとも一方とし、出力を非線形エコー信号として学習される。本実施の形態1における非線形エコーモデルは、受話信号と、入力信号から線形エコー信号を抑圧するエコーキャンセラの出力信号から線形エコー信号を抑圧するエコーサプレッサの出力信号とを教師データとして用い、入力を受話信号とし、出力を非線形エコー信号として学習される。
非線形エコー推定部18は、スピーカ12へ出力される受話信号X(ω)及び入力信号xmic(k)の少なくとも一方から入力信号YEC(ω)に含まれる非線形エコー信号XNN(ω)を推定する。より具体的には、非線形エコー推定部18は、スピーカ12へ出力される受話信号X(ω)及び入力信号xmic(k)の少なくとも一方と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号X(ω)及び入力信号xmic(k)の少なくとも一方から入力信号YEC(ω)に含まれる非線形エコー信号XNN(ω)を推定する。なお、本実施の形態1における非線形エコー推定部18は、受話信号と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号X(ω)から入力信号に含まれる非線形エコー信号XNN(ω)を推定する。
非線形エコー推定部18は、非線形エコーモデル記憶部17から非線形エコーモデルを読み出す。非線形エコー推定部18は、高速フーリエ変換部16から出力された受話信号X(ω)を非線形エコーモデルに入力することにより、非線形エコーモデルから非線形エコー信号XNN(ω)を取得する。非線形エコー推定部18は、受話信号X(ω)を用いて推定した非線形エコー信号XNN(ω)を非線形エコー抑圧部19へ出力する。
非線形エコー抑圧部19は、非線形エコー推定部18によって推定された非線形エコー信号XNN(ω)を用いて、入力信号YEC(ω)から非線形エコー信号XNN(ω)を抑圧する。より具体的には、非線形エコー抑圧部19は、非線形エコー推定部18によって推定された非線形エコー信号XNN(ω)を用いて、エコーキャンセラ14の出力信号から非線形エコー信号XNN(ω)を抑圧する。
非線形エコー抑圧部19は、下記の式(4)に基づいて、推定された非線形エコー信号XNN(ω)とエコーキャンセラ14からの入力信号YEC(ω)とから、ウィナーフィルタGNN(ω)を算出する。
Figure 2021184587
非線形エコー抑圧部19は、ウィナーフィルタGNN(ω)を、下記の式(5)のように入力信号YEC(ω)に乗ずることで非線形エコー信号を抑圧した入力信号YNL−ES(ω)を得る。
NL−ES(ω)=GNN(ω)YEC(ω)・・・(5)
非線形エコー抑圧部19は、非線形エコー信号XNN(ω)のみを抑圧した入力信号YNL−ES(ω)をエコーサプレッサ20へ出力する。
エコーサプレッサ20は、エコーキャンセラ14によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、残留線形エコー信号を抑圧する。より具体的には、エコーサプレッサ20は、エコーキャンセラ14によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、非線形エコー抑圧部19の出力信号YNL−ES(ω)から残留線形エコー信号を抑圧する。エコーサプレッサ20は、第2の線形エコー抑圧部の一例である。
エコーサプレッサ20は、スペクトルサブトラクション法又はウィナーフィルタ法により、残留線形エコー信号を抑圧する。エコーサプレッサ20は、エコー信号のみの空間又はコヒーレンス関数を用いて、周波数毎に音響結合量を推定する。エコーサプレッサ20は、推定した音響結合量と、非線形エコー抑圧部19の出力信号YNL−ES(ω)と、受話信号X(ω)とを用いて、抑圧ゲインを算出する。エコーサプレッサ20は、算出した抑圧ゲインを非線形エコー抑圧部19の出力信号に乗ずることにより、エコーキャンセラ14によって抑圧されなかった残留線形エコー信号を抑圧する。エコーサプレッサ20は、入力信号YNL−ES(ω)から残留線形エコー信号のみを抑圧した入力信号YES(ω)を逆高速フーリエ変換部21へ出力する。
逆高速フーリエ変換部21は、逆離散フーリエ変換を高速に行う。逆高速フーリエ変換部21は、エコーサプレッサ20から出力端子22に入力される周波数領域の入力信号YES(ω)を時間領域の入力信号yES(k)に変換する。逆高速フーリエ変換部21は、入力信号yES(k)を出力端子22へ出力する。
次に、本開示の実施の形態1におけるエコー抑圧装置1の動作について説明する。
図5は、本開示の実施の形態1におけるエコー抑圧装置の動作を説明するためのフローチャートである。
まず、ステップS1において、エコーキャンセラ14は、マイクロホン13によって取得された入力信号xmic(k)に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、入力信号xmic(k)から線形エコー信号を抑圧する。
次に、ステップS2において、非線形エコー推定部18は、受話信号と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号X(ω)から入力信号に含まれる非線形エコー信号XNN(ω)を推定する。
次に、ステップS3において、非線形エコー抑圧部19は、エコーキャンセラ14から出力された入力信号YEC(ω)から、非線形エコー推定部18によって推定された非線形エコー信号XNN(ω)を抑圧する。
次に、ステップS4において、エコーサプレッサ20は、エコーキャンセラ14によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、非線形エコー抑圧部19からの入力信号YNL−ES(ω)から残留線形エコー信号を抑圧する。エコーサプレッサ20は、入力信号YNL−ES(ω)から残留線形エコー信号のみを抑圧した入力信号YES(ω)を逆高速フーリエ変換部21へ出力する。逆高速フーリエ変換部21は、時間領域の入力信号yES(k)を出力端子22へ出力する。
以上のように、スピーカ12へ出力される受話信号及び入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号及び入力信号の少なくとも一方から入力信号に含まれる非線形エコー信号が推定され、推定された非線形エコー信号を用いて、エコーキャンセラ14の出力信号から非線形エコー信号が抑圧される。したがって、マイクロホン13によって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することができる。
また、エコーサプレッサ20によって、非線形エコー信号が抑圧された出力信号から残留線形エコー信号が抑圧される。したがって、エコーサプレッサ20の動作を安定させることができ、線形エコー信号の抑圧性能を向上させることができる。
続いて、本実施の形態1における非線形エコーモデルの学習方法について説明する。
図6は、本開示の実施の形態1における学習装置の構成を示す図である。図7は、本実施の形態1における学習装置の各部から出力される信号の一例を示す図である。
図6に示す学習装置は、非線形エコーモデル作成装置2、入力端子31、スピーカ32、マイクロホン33及び出力端子39を備える。
入力端子31は、受話側の通話装置(不図示)から受信した受話信号x(k)をエコー抑圧装置1へ出力する。
スピーカ32は、入力された受話信号x(k)を外部へ出力する。
マイクロホン33は、送話者がいる空間内に配置され、送話者の音声を収音する。マイクロホン33は、収音した音声を示す入力信号xmic(k)を非線形エコーモデル作成装置2に出力する。
出力端子39は、非線形エコーモデル作成装置2によって線形エコー信号が抑圧された入力信号yES(k)を出力する。
なお、入力端子31、スピーカ32、マイクロホン33及び出力端子39の構成は、図3における入力端子11、スピーカ12、マイクロホン13及び出力端子22の構成と同じである。
非線形エコーモデル作成装置2は、エコーキャンセラ34、高速フーリエ変換部35,36、エコーサプレッサ37、逆高速フーリエ変換部38、非線形エコーモデル学習部40及び非線形エコーモデル記憶部41を備える。
エコーキャンセラ34は、マイクロホン13によって取得された入力信号xmic(k)に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、入力信号xmic(k)から線形エコー信号を抑圧する。エコーキャンセラ34の構成は、図3に示すエコーキャンセラ14の構成と同じである。エコーキャンセラ34は、線形エコー信号を抑圧した入力信号yEC(k)を高速フーリエ変換部35へ出力する。
高速フーリエ変換部35は、離散フーリエ変換を高速に行う。高速フーリエ変換部35は、エコーキャンセラ34からエコーサプレッサ37に入力される時間領域の入力信号yEC(k)を周波数領域の入力信号YEC(ω)に変換する。高速フーリエ変換部35は、エコーキャンセラ34によって線形エコー信号のみが抑圧された周波数領域の入力信号YEC(ω)をエコーサプレッサ37へ出力する。
高速フーリエ変換部36は、離散フーリエ変換を高速に行う。高速フーリエ変換部36は、エコーサプレッサ37に入力される時間領域の受話信号x(k)を周波数領域の受話信号X(ω)に変換する。高速フーリエ変換部36は、周波数領域の受話信号X(ω)をエコーサプレッサ37及び非線形エコーモデル学習部40へ出力する。
エコーサプレッサ37は、エコーキャンセラ34によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、入力信号YEC(ω)から残留線形エコー信号を抑圧する。エコーサプレッサ37は、入力信号YEC(ω)から残留線形エコー信号のみを抑圧した入力信号YES(ω)を逆高速フーリエ変換部21及び非線形エコーモデル学習部40へ出力する。
逆高速フーリエ変換部38は、逆離散フーリエ変換を高速に行う。逆高速フーリエ変換部38は、エコーサプレッサ37から出力端子39に入力される周波数領域の入力信号YES(ω)を時間領域の入力信号yES(k)に変換する。逆高速フーリエ変換部38は、入力信号yES(k)を出力端子39へ出力する。
非線形エコーモデル学習部40は、受話信号X(ω)及び入力信号xmic(k)の少なくとも一方と、入力信号xmic(k)から線形エコー信号を抑圧するエコーキャンセラ34の出力信号YEC(ω)から残留線形エコー信号を抑圧するエコーサプレッサ37の出力信号YES(ω)とを教師データとして用い、入力を受話信号X(ω)及び入力信号xmic(k)の少なくとも一方とし、出力を非線形エコー信号とする非線形エコーモデルを学習する。本実施の形態1における非線形エコーモデル学習部40は、受話信号X(ω)と、入力信号xmic(k)から線形エコー信号を抑圧するエコーキャンセラ34の出力信号YEC(ω)から残留線形エコー信号を抑圧するエコーサプレッサ37の出力信号YES(ω)とを教師データとして用い、入力を受話信号X(ω)とし、出力を非線形エコー信号とする非線形エコーモデルを学習する。
非線形エコーモデルは、受話信号の振幅スペクトルX(ω)と、エコーキャンセラ34及びエコーサプレッサ37の残留エコー振幅スペクトルYES(ω)とを教師データとして事前学習させたニューラルネットワークである。エコーキャンセラ34及びエコーサプレッサ37は、線形エコー信号のみを抑圧可能である。そのため、エコーキャンセラ34及びエコーサプレッサ37の出力信号(残留エコー信号)は、非線形エコー信号とほぼ等しい。このように、非線形エコーモデル学習部40は、受話信号の振幅スペクトルと、非線形エコー信号の振幅スペクトルとの関係性をモデル化することができる。
なお、機械学習としては、例えば、入力情報に対してラベル(出力情報)が付与された教師データを用いて入力と出力との関係を学習する教師あり学習、ラベルのない入力のみからデータの構造を構築する教師なし学習、ラベルありとラベルなしとのどちらも扱う半教師あり学習、報酬を最大化する行動を試行錯誤により学習する強化学習なども挙げられる。また、機械学習の具体的な手法としては、ニューラルネットワーク(多層のニューラルネットワークを用いた深層学習を含む)だけでなく、遺伝的プログラミング、決定木、ベイジアン・ネットワーク、又はサポート・ベクター・マシン(SVM)などが存在する。非線形エコーモデルの機械学習においては、以上で挙げた具体例のいずれかを用いればよい。
非線形エコーモデル学習部40は、学習した非線形エコーモデルを非線形エコーモデル記憶部41に記憶する。
非線形エコーモデル記憶部41は、非線形エコーモデル学習部40によって学習された非線形エコーモデルを記憶する。
なお、図3に示すエコー抑圧装置1は、非線形エコーモデル学習部40を備えてもよい。この場合、エコー抑圧装置1は、学習モードとエコー抑圧モードとを切り替えるモード切替部をさらに備えてもよい。モード切替部によって学習モードに切り替えられた場合、エコーキャンセラ14は、出力信号をエコーサプレッサ20へ出力する。非線形エコーモデル学習部40は、エコーキャンセラ14及びエコーサプレッサ20によって線形エコー信号が抑圧された入力信号YES(ω)と、受話信号X(ω)とを教師データとして、非線形エコーモデルを学習してもよい。
また、学習装置によって学習された非線形エコーモデルが、エコー抑圧装置1の非線形エコーモデル記憶部17に予め記憶されてもよい。また、エコー抑圧装置1は、学習装置によって学習された非線形エコーモデルを受信し、非線形エコーモデル記憶部17に記憶されている非線形エコーモデルを更新してもよい。
続いて、本実施の形態1におけるエコー抑圧装置1のエコー抑圧量と、従来のエコー抑圧装置のエコー抑圧量とを比較したシミュレーション結果について説明する。
まず、シミュレーションに用いるニューラルネットワーク(非線形エコーモデル)は、短時間フーリエ変換の振幅スペクトルを入出力特徴量とした。
図8〜図11は、ニューラルネットワークで非線形エコー信号の振幅スペクトルを推定した例を示す図である。図8は、1/3オクターブバンドノイズを含む受話信号の振幅スペクトルを示す図であり、図9は、図8に示す受話信号が拡声された際にマイクロホンで得られる入力信号に含まれる非線形エコー信号の正解値及び推定値の振幅スペクトルを示す図である。図10は、女性の声を含む受話信号の振幅スペクトルを示す図であり、図11は、図10に示す受話信号が拡声された際にマイクロホンで得られる入力信号に含まれる非線形エコー信号の正解値及び推定値の振幅スペクトルを示す図である。
図8〜図11において、横軸は周波数を表し、縦軸は振幅レベルを表す。図9及び図11において、実線は、非線形エコー信号の正解値を表し、破線は非線形エコー信号の推定値を表す。
図9及び図11に示すように、ニューラルネットワークは、実線で示した非線形エコー信号を精度良く推定できていることがわかる。
次に、学習させたニューラルネットワークを用いた本実施の形態1のエコー抑圧装置1と、従来のエコー抑圧装置とのシミュレーション結果について説明する。なお、従来のエコー抑圧装置は、エコーキャンセラ及びエコーサプレッサのみを備え、エコーキャンセラ及びエコーサプレッサにより線形エコー信号のみを抑圧する。
図12は、従来のエコー抑圧装置からの出力信号及び本実施の形態1のエコー抑圧装置からの出力信号を周波数解析した結果を示す図である。なお、図12において、横軸は周波数を表し、縦軸は振幅レベルを表す。また、図12において、実線はマイクロホン13からの入力信号を表し、破線は従来のエコー抑圧装置からの出力信号を表し、一点鎖線は本実施の形態1のエコー抑圧装置1からの出力信号を表す。また、受話信号は、中心周波数315Hzの1/3オクターブバンドノイズである。
図12に示すように、本実施の形態1のエコー抑圧装置1では、非線形エコー信号である高調波歪みに対して目標値を上回る15dBから20dBの抑圧効果が得られている。さらに、本実施の形態1のエコー抑圧装置1では、315Hzの線形エコー信号に対しても従来のエコー抑圧装置と比較して約15dB高い抑圧効果が得られている。これは、本実施の形態1の非線形エコー抑圧部19により非線形エコー信号が抑圧されたことで、後段のエコーサプレッサ20における音響結合量の推定が安定して動作するようになったためと考えられる。
次に、人の声のように複雑な周波数構造を持つ入力信号に対する本実施の形態1のエコー抑圧装置1及び従来のエコー抑圧装置によるエコー抑圧量の評価結果について説明する。なお、評価指標にはエコーの抑圧量を意味するERLE(Echo Return Loss Enhancement)が用いられた。ERLEは、下記の式(6)により算出される。
Figure 2021184587
図13は、男性の声を含む入力信号の振幅の時間変化と、入力信号に対するエコー抑圧量(ERLE)の時間変化とを示す図である。なお、図13の上段において、横軸は時間を表し、縦軸は振幅を表す。また、図13の下段において、横軸は時間を表し、縦軸はエコー抑圧量を表す。また、図13の下段において、実線は本実施の形態1のエコー抑圧装置1によるエコー抑圧量を表し、破線は従来のエコー抑圧装置によるエコー抑圧量を表す。
本実施の形態1のエコー抑圧装置1は、従来のエコー抑圧装置と比較して、約10dB高い抑圧効果が得られている。そのため、本実施の形態1のエコー抑圧装置1は、人の声のような複雑な周波数構造を有する入力信号に対しても十分に有効であることが示された。
このように、本実施の形態1のエコー抑圧装置1は、歪みの多いスピーカでも快適な通話が可能となり、ノートパソコン、ウェブ会議システム及び携帯電話等の高品質化、小型化及び低コストに貢献できる。
(実施の形態2)
上記の実施の形態1における非線形エコー推定部18は、受話信号と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号から入力信号に含まれる非線形エコー信号を推定している。これに対し、実施の形態2における非線形エコー推定部は、受話信号及び入力信号と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号及び入力信号から入力信号に含まれる非線形エコー信号を推定する。
図14は、本開示の実施の形態2における通話装置の構成を示す図である。
図14に示す通話装置は、エコー抑圧装置1A、入力端子11、スピーカ12、マイクロホン13及び出力端子22を備える。なお、本実施の形態2において、実施の形態1と同じ構成については同じ符号を付し、説明を省略する。
エコー抑圧装置1Aは、エコーキャンセラ14、高速フーリエ変換部15,16,23、非線形エコーモデル記憶部171、非線形エコー推定部181、非線形エコー抑圧部19、エコーサプレッサ20及び逆高速フーリエ変換部21を備える。
マイクロホン13は、入力信号xmic(k)をエコーキャンセラ14へ出力するとともに、高速フーリエ変換部23を介して非線形エコー推定部181へ出力する。
高速フーリエ変換部23は、離散フーリエ変換を高速に行う。高速フーリエ変換部23は、非線形エコー推定部181に入力される時間領域の入力信号xmic(k)を周波数領域の入力信号Xmic(ω)に変換する。高速フーリエ変換部23は、周波数領域の入力信号Xmic(ω)を非線形エコー推定部181へ出力する。
非線形エコーモデル記憶部171は、スピーカ12へ出力される受話信号及びマイクロホン13によって取得された入力信号と、非線形エコー信号との関係性を示す非線形エコーモデルを予め記憶する。非線形エコーモデルは、例えば、ニューラルネットワークである。
本実施の形態2における非線形エコーモデルは、受話信号と、入力信号と、入力信号から線形エコー信号を抑圧するエコーキャンセラの出力信号から残留線形エコー信号を抑圧するエコーサプレッサの出力信号とを教師データとして用い、入力を受話信号及び入力信号とし、出力を非線形エコー信号として学習される。
実施の形態2における非線形エコーモデルの学習方法では、図6に示す非線形エコーモデル学習部40に受話信号X(ω)と周波数領域の入力信号Xmic(ω)とが入力される。そして、本実施の形態2における非線形エコーモデル学習部40は、受話信号X(ω)と、入力信号Xmic(ω)と、入力信号xmic(k)から線形エコー信号を抑圧するエコーキャンセラ34の出力信号YEC(ω)から残留線形エコー信号を抑圧するエコーサプレッサ37の出力信号YES(ω)とを教師データとして用い、入力を受話信号X(ω)及び入力信号Xmic(ω)とし、出力を非線形エコー信号とする非線形エコーモデルを学習する。
非線形エコー推定部181は、受話信号及び入力信号と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号X(ω)及び入力信号Xmic(ω)から入力信号に含まれる非線形エコー信号XNN(ω)を推定する。
非線形エコー推定部181は、非線形エコーモデル記憶部171から非線形エコーモデルを読み出す。非線形エコー推定部181は、高速フーリエ変換部16から出力された受話信号X(ω)及び高速フーリエ変換部23から出力された入力信号Xmic(ω)を非線形エコーモデルに入力することにより、非線形エコーモデルから非線形エコー信号XNN(ω)を取得する。非線形エコー推定部181は、受話信号X(ω)及び入力信号Xmic(ω)を用いて推定した非線形エコー信号XNN(ω)を非線形エコー抑圧部19へ出力する。
なお、本実施の形態2におけるエコー抑圧装置1Aの動作については、図5に示すステップS2の処理のみが異なる。すなわち、本実施の形態2では、非線形エコー推定部181は、受話信号及び入力信号と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号X(ω)及び入力信号Xmic(ω)から非線形エコー信号XNN(ω)を推定する。
本実施の形態2では、受話信号及び入力信号から非線形エコー信号が推定されるので、非線形エコー信号の推定精度をより向上させることができる。
(実施の形態3)
上記の実施の形態1における非線形エコー推定部18は、受話信号と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号から入力信号に含まれる非線形エコー信号を推定している。これに対し、実施の形態3における非線形エコー推定部は、受話信号及びエコーキャンセラの出力信号と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号及びエコーキャンセラ14の出力信号から入力信号に含まれる非線形エコー信号を推定する。
図15は、本開示の実施の形態3における通話装置の構成を示す図である。
図15に示す通話装置は、エコー抑圧装置1B、入力端子11、スピーカ12、マイクロホン13及び出力端子22を備える。なお、本実施の形態3において、実施の形態1と同じ構成については同じ符号を付し、説明を省略する。
エコー抑圧装置1Bは、エコーキャンセラ14、高速フーリエ変換部15,16、非線形エコーモデル記憶部172、非線形エコー推定部182、非線形エコー抑圧部19、エコーサプレッサ20及び逆高速フーリエ変換部21を備える。
高速フーリエ変換部15は、エコーキャンセラ14によって線形エコー信号のみが抑圧された周波数領域の入力信号YEC(ω)を非線形エコー抑圧部19及び非線形エコー推定部182へ出力する。
非線形エコーモデル記憶部172は、スピーカ12へ出力される受話信号及びエコーキャンセラの出力信号と、非線形エコー信号との関係性を示す非線形エコーモデルを予め記憶する。非線形エコーモデルは、例えば、ニューラルネットワークである。
本実施の形態3における非線形エコーモデルは、受話信号と、エコーキャンセラの出力信号と、入力信号から線形エコー信号を抑圧するエコーキャンセラの出力信号から残留線形エコー信号を抑圧するエコーサプレッサの出力信号とを教師データとして用い、入力を受話信号及びエコーキャンセラの出力信号とし、出力を非線形エコー信号として学習される。
実施の形態3における非線形エコーモデルの学習方法では、図6に示す非線形エコーモデル学習部40に受話信号X(ω)とエコーキャンセラ34の周波数領域の出力信号YEC(ω)とが入力される。そして、本実施の形態3における非線形エコーモデル学習部40は、受話信号X(ω)と、エコーキャンセラ34の周波数領域の出力信号YEC(ω)と、入力信号xmic(k)から線形エコー信号を抑圧するエコーキャンセラ34の周波数領域の出力信号YEC(ω)から残留線形エコー信号を抑圧するエコーサプレッサ37の出力信号YES(ω)とを教師データとして用い、入力を受話信号X(ω)及びエコーキャンセラ34の周波数領域の出力信号YEC(ω)とし、出力を非線形エコー信号とする非線形エコーモデルを学習する。
非線形エコー推定部182は、受話信号及びエコーキャンセラの出力信号と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号X(ω)及びエコーキャンセラ14の周波数領域の出力信号YEC(ω)から入力信号に含まれる非線形エコー信号XNN(ω)を推定する。
非線形エコー推定部182は、非線形エコーモデル記憶部172から非線形エコーモデルを読み出す。非線形エコー推定部182は、高速フーリエ変換部16から出力された受話信号X(ω)及び高速フーリエ変換部15から出力された入力信号YEC(ω)を非線形エコーモデルに入力することにより、非線形エコーモデルから非線形エコー信号XNN(ω)を取得する。非線形エコー推定部182は、受話信号X(ω)及び入力信号YEC(ω)を用いて推定した非線形エコー信号XNN(ω)を非線形エコー抑圧部19へ出力する。
なお、本実施の形態3におけるエコー抑圧装置1Bの動作については、図5に示すステップS2の処理のみが異なる。すなわち、本実施の形態3では、非線形エコー推定部182は、受話信号及びエコーキャンセラ14の出力信号と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号X(ω)及びエコーキャンセラ14の周波数領域の出力信号YEC(ω)から非線形エコー信号XNN(ω)を推定する。
本実施の形態3では、受話信号及びエコーキャンセラの出力信号から非線形エコー信号が推定されるので、非線形エコー信号の推定精度をより向上させることができる。
(実施の形態4)
上記の実施の形態1における非線形エコー推定部18は、受話信号と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号から入力信号に含まれる非線形エコー信号を推定している。これに対し、実施の形態4における非線形エコー推定部は、受話信号及びエコーキャンセラの適応フィルタからの擬似線形エコー信号と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号及びエコーキャンセラの適応フィルタからの擬似線形エコー信号から入力信号に含まれる非線形エコー信号を推定する。
図16は、本開示の実施の形態4における通話装置の構成を示す図である。
図16に示す通話装置は、エコー抑圧装置1C、入力端子11、スピーカ12、マイクロホン13及び出力端子22を備える。なお、本実施の形態4において、実施の形態1と同じ構成については同じ符号を付し、説明を省略する。
エコー抑圧装置1Cは、エコーキャンセラ14、高速フーリエ変換部15,16,24、非線形エコーモデル記憶部173、非線形エコー推定部183、非線形エコー抑圧部19、エコーサプレッサ20及び逆高速フーリエ変換部21を備える。
エコーキャンセラ14は、適応フィルタ141及び減算部142を備える。適応フィルタ141は、フィルタ係数と受話信号とを畳み込むことにより入力信号に含まれる受話信号の成分を示す擬似線形エコー信号を生成する。減算部142は、入力信号から擬似線形エコー信号を減算する。
高速フーリエ変換部24は、離散フーリエ変換を高速に行う。高速フーリエ変換部24は、非線形エコー推定部183に入力される時間領域の擬似線形エコー信号を周波数領域の擬似線形エコー信号に変換する。高速フーリエ変換部24は、周波数領域の擬似線形エコー信号を非線形エコー推定部183へ出力する。
非線形エコーモデル記憶部173は、スピーカ12へ出力される受話信号及びエコーキャンセラの適応フィルタからの擬似線形エコー信号と、非線形エコー信号との関係性を示す非線形エコーモデルを予め記憶する。非線形エコーモデルは、例えば、ニューラルネットワークである。
本実施の形態4における非線形エコーモデルは、受話信号と、エコーキャンセラの適応フィルタからの擬似線形エコー信号と、入力信号から線形エコー信号を抑圧するエコーキャンセラの出力信号から残留線形エコー信号を抑圧するエコーサプレッサの出力信号とを教師データとして用い、入力を受話信号及び擬似線形エコー信号とし、出力を非線形エコー信号として学習される。
実施の形態4における非線形エコーモデルの学習方法では、図6に示す非線形エコーモデル学習部40に受話信号X(ω)とエコーキャンセラ34の適応フィルタからの擬似線形エコー信号とが入力される。そして、本実施の形態4における非線形エコーモデル学習部40は、受話信号X(ω)と、エコーキャンセラ34の適応フィルタからの擬似線形エコー信号と、入力信号xmic(k)から線形エコー信号を抑圧するエコーキャンセラ34の出力信号YEC(ω)から残留線形エコー信号を抑圧するエコーサプレッサ37の出力信号YES(ω)とを教師データとして用い、入力を受話信号X(ω)及び擬似線形エコー信号とし、出力を非線形エコー信号とする非線形エコーモデルを学習する。
非線形エコー推定部183は、受話信号及び適応フィルタからの擬似線形エコー信号と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号X(ω)及び適応フィルタ141からの擬似線形エコー信号から入力信号に含まれる非線形エコー信号XNN(ω)を推定する。
非線形エコー推定部183は、非線形エコーモデル記憶部173から非線形エコーモデルを読み出す。非線形エコー推定部183は、高速フーリエ変換部16から出力された受話信号X(ω)及び高速フーリエ変換部24から出力された擬似線形エコー信号を非線形エコーモデルに入力することにより、非線形エコーモデルから非線形エコー信号XNN(ω)を取得する。非線形エコー推定部183は、受話信号X(ω)及び擬似線形エコー信号を用いて推定した非線形エコー信号XNN(ω)を非線形エコー抑圧部19へ出力する。
なお、本実施の形態4におけるエコー抑圧装置1Cの動作については、図5に示すステップS2の処理のみが異なる。すなわち、本実施の形態4では、非線形エコー推定部183は、受話信号及びエコーキャンセラの適応フィルタからの擬似線形エコー信号と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号X(ω)及びエコーキャンセラ14の適応フィルタ141からの擬似線形エコー信号から非線形エコー信号XNN(ω)を推定する。
本実施の形態4では、受話信号及びエコーキャンセラ14の適応フィルタ141からの擬似線形エコー信号から非線形エコー信号が推定されるので、非線形エコー信号の推定精度をより向上させることができる。
(実施の形態5)
上記の実施の形態1における非線形エコー推定部18は、受話信号と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、受話信号から入力信号に含まれる非線形エコー信号を推定している。これに対し、実施の形態5における非線形エコー推定部は、入力信号と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、入力信号から入力信号に含まれる非線形エコー信号を推定する。
図17は、本開示の実施の形態5における通話装置の構成を示す図である。
図17に示す通話装置は、エコー抑圧装置1D、入力端子11、スピーカ12、マイクロホン13及び出力端子22を備える。なお、本実施の形態5において、実施の形態1,2と同じ構成については同じ符号を付し、説明を省略する。
エコー抑圧装置1Dは、エコーキャンセラ14、高速フーリエ変換部15,16,23、非線形エコーモデル記憶部174、非線形エコー推定部184、非線形エコー抑圧部19、エコーサプレッサ20及び逆高速フーリエ変換部21を備える。
マイクロホン13は、入力信号xmic(k)をエコーキャンセラ14へ出力するとともに、高速フーリエ変換部23を介して非線形エコー推定部184へ出力する。
高速フーリエ変換部23は、離散フーリエ変換を高速に行う。高速フーリエ変換部23は、非線形エコー推定部184に入力される時間領域の入力信号xmic(k)を周波数領域の入力信号Xmic(ω)に変換する。高速フーリエ変換部23は、周波数領域の入力信号Xmic(ω)を非線形エコー推定部184へ出力する。
非線形エコーモデル記憶部174は、マイクロホン13によって取得された入力信号と、非線形エコー信号との関係性を示す非線形エコーモデルを予め記憶する。非線形エコーモデルは、例えば、ニューラルネットワークである。
本実施の形態5における非線形エコーモデルは、マイクロホンによって取得された入力信号と、入力信号から線形エコー信号を抑圧するエコーキャンセラの出力信号から残留線形エコー信号を抑圧するエコーサプレッサの出力信号とを教師データとして用い、入力を入力信号とし、出力を非線形エコー信号として学習される。
実施の形態5における非線形エコーモデルの学習方法では、図6に示す非線形エコーモデル学習部40に周波数領域の入力信号Xmic(ω)が入力される。そして、本実施の形態5における非線形エコーモデル学習部40は、入力信号Xmic(ω)と、入力信号xmic(k)から線形エコー信号を抑圧するエコーキャンセラ34の出力信号YEC(ω)から残留線形エコー信号を抑圧するエコーサプレッサ37の出力信号YES(ω)とを教師データとして用い、入力を入力信号Xmic(ω)とし、出力を非線形エコー信号とする非線形エコーモデルを学習する。
非線形エコー推定部184は、入力信号と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、入力信号Xmic(ω)から入力信号に含まれる非線形エコー信号XNN(ω)を推定する。
非線形エコー推定部184は、非線形エコーモデル記憶部174から非線形エコーモデルを読み出す。非線形エコー推定部184は、高速フーリエ変換部23から出力された入力信号Xmic(ω)を非線形エコーモデルに入力することにより、非線形エコーモデルから非線形エコー信号XNN(ω)を取得する。非線形エコー推定部184は、入力信号Xmic(ω)を用いて推定した非線形エコー信号XNN(ω)を非線形エコー抑圧部19へ出力する。
なお、本実施の形態5におけるエコー抑圧装置1Dの動作については、図5に示すステップS2の処理のみが異なる。すなわち、本実施の形態5では、非線形エコー推定部184は、入力信号と非線形エコー信号との関係性を示す非線形エコーモデルを用いて、入力信号Xmic(ω)から非線形エコー信号XNN(ω)を推定する。
本実施の形態5では、マイクロホン13によって取得された入力信号のみからでも、非線形エコー信号を推定することができる。
(実施の形態6)
上記の実施の形態1では、非線形エコー推定部18によって推定された非線形エコー信号は、非線形エコー抑圧部19へ出力される。これに対し、実施の形態6では、非線形エコー推定部18によって推定された非線形エコー信号の推定誤差が、非線形エコー抑圧部19の出力信号を用いて補正される。
図18は、本開示の実施の形態6における通話装置の構成を示す図である。
図18に示す通話装置は、エコー抑圧装置1E、入力端子11、スピーカ12、マイクロホン13及び出力端子22を備える。なお、本実施の形態6において、実施の形態1と同じ構成については同じ符号を付し、説明を省略する。
エコー抑圧装置1Eは、エコーキャンセラ14、高速フーリエ変換部15,16、非線形エコーモデル記憶部17、非線形エコー推定部18、非線形エコー抑圧部19、エコーサプレッサ20、逆高速フーリエ変換部21及び補正部25を備える。
補正部25は、非線形エコー抑圧部19の出力信号を最小化するための可変ゲインを算出し、算出した可変ゲインを用いて非線形エコー推定部18によって推定された非線形エコー信号を補正する。このとき、補正部25は、非線形エコー抑圧部19の出力信号が0に近づくように可変ゲインを算出する。そして、補正部25は、算出した可変ゲインを、非線形エコー推定部18によって推定された非線形エコー信号に乗ずる。これにより、補正部25は、非線形エコー推定部18によって推定された非線形エコー信号の推定誤差を補正する。
なお、本実施の形態6におけるエコー抑圧装置1Eの動作については、図5に示すステップS2とステップS3との間に新たな処理が加わる。すなわち、本実施の形態6では、ステップS2の処理の後、補正部25は、非線形エコー抑圧部19の出力信号を最小化するための可変ゲインを算出し、算出した可変ゲインを用いて非線形エコー推定部18によって推定された非線形エコー信号を補正する。
本実施の形態6では、非線形エコー抑圧部19の出力信号を用いて、非線形エコー推定部18によって推定された非線形エコー信号の推定誤差が補正されるので、非線形エコー信号の推定精度を向上させることができ、エコー抑圧性能を向上させることができる。特に、本実施の形態6は、非線形エコーモデルが固定値である場合に有効である。
なお、上記の実施の形態2〜5におけるエコー抑圧装置1A〜1Dが、本実施の形態6における補正部25を備えてもよい。
(実施の形態7)
上記の実施の形態1では、非線形エコー推定部18によって推定された非線形エコー信号は、非線形エコー抑圧部19へ出力される。これに対し、実施の形態7では、非線形エコー推定部18によって推定された非線形エコー信号の推定誤差が、エコーサプレッサ20の出力信号を用いて補正される。
図19は、本開示の実施の形態7における通話装置の構成を示す図である。
図19に示す通話装置は、エコー抑圧装置1F、入力端子11、スピーカ12、マイクロホン13及び出力端子22を備える。なお、本実施の形態7において、実施の形態1と同じ構成については同じ符号を付し、説明を省略する。
エコー抑圧装置1Fは、エコーキャンセラ14、高速フーリエ変換部15,16、非線形エコーモデル記憶部17、非線形エコー推定部18、非線形エコー抑圧部19、エコーサプレッサ20、逆高速フーリエ変換部21及び補正部251を備える。
補正部251は、エコーサプレッサ20の出力信号を最小化するための可変ゲインを算出し、算出した可変ゲインを用いて非線形エコー推定部18によって推定された非線形エコー信号を補正する。このとき、補正部25は、エコーサプレッサ20の出力信号が0に近づくように可変ゲインを算出する。そして、補正部251は、算出した可変ゲインを、非線形エコー推定部18によって推定された非線形エコー信号に乗ずる。これにより、補正部251は、非線形エコー推定部18によって推定された非線形エコー信号の推定誤差を補正する。
なお、本実施の形態7におけるエコー抑圧装置1Fの動作については、図5に示すステップS2とステップS3との間に新たな処理が加わる。すなわち、本実施の形態7では、ステップS2の処理の後、補正部251は、エコーサプレッサ20の出力信号を最小化するための可変ゲインを算出し、算出した可変ゲインを用いて非線形エコー推定部18によって推定された非線形エコー信号を補正する。
本実施の形態7では、エコーサプレッサ20の出力信号を用いて、非線形エコー推定部18によって推定された非線形エコー信号の推定誤差が補正されるので、非線形エコー信号の推定精度を向上させることができ、エコー抑圧性能を向上させることができる。特に、本実施の形態7は、非線形エコーモデルが固定値である場合に有効である。
なお、上記の実施の形態2〜5におけるエコー抑圧装置1A〜1Dが、本実施の形態7における補正部251を備えてもよい。
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
本開示の実施の形態に係る装置の機能の一部又は全ては典型的には集積回路であるLSI(Large Scale Integration)として実現される。これらは個別に1チップ化されてもよいし、一部又は全てを含むように1チップ化されてもよい。また、集積回路化はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)、又はLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
また、本開示の実施の形態に係る装置の機能の一部又は全てを、CPU等のプロセッサがプログラムを実行することにより実現してもよい。
また、上記で用いた数字は、全て本開示を具体的に説明するために例示するものであり、本開示は例示された数字に制限されない。
また、上記フローチャートに示す各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、同様の効果が得られる範囲で上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
本開示の技術は、マイクロホンによって取得された入力信号に含まれる非線形エコー信号を安定して抑圧することができるので、マイクロホンによって取得された入力信号に含まれる線形エコー信号及び非線形エコー信号を抑圧する技術に有用である。
1,1A,1B,1C,1D,1E,1F エコー抑圧装置
2 非線形エコーモデル作成装置
11,31 入力端子
12,32 スピーカ
13,33 マイクロホン
14,34 エコーキャンセラ
15,16,23,24,35,36 高速フーリエ変換部
17,171,172,173,174 非線形エコーモデル記憶部
18,181,182,183,184 非線形エコー推定部
19 非線形エコー抑圧部
20,37 エコーサプレッサ
21,38 逆高速フーリエ変換部
22,39 出力端子
25,251 補正部
40 非線形エコーモデル学習部
41 非線形エコーモデル記憶部
141 適応フィルタ
142 減算部

Claims (14)

  1. マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧する第1の線形エコー抑圧部と、
    スピーカへ出力される受話信号及び前記入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、前記受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定する非線形エコー推定部と、
    前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記第1の線形エコー抑圧部の出力信号から前記非線形エコー信号を抑圧する非線形エコー抑圧部と、
    前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記非線形エコー抑圧部の出力信号から前記残留線形エコー信号を抑圧する第2の線形エコー抑圧部と、
    を備えるエコー抑圧装置。
  2. 前記非線形エコーモデルは、前記受話信号及び前記入力信号の少なくとも一方と、前記入力信号から線形エコー信号を抑圧する前記第1の線形エコー抑圧部の出力信号から前記残留線形エコー信号を抑圧する前記第2の線形エコー抑圧部の出力信号とを教師データとして用い、入力を前記受話信号及び前記入力信号の少なくとも一方とし、出力を前記非線形エコー信号として学習される、
    請求項1記載のエコー抑圧装置。
  3. 前記非線形エコーモデルは、ニューラルネットワークである、
    請求項1又は2記載のエコー抑圧装置。
  4. 前記非線形エコー推定部は、前記受話信号と前記非線形エコー信号との関係性を示す前記非線形エコーモデルを用いて、前記受話信号から前記入力信号に含まれる前記非線形エコー信号を推定する、
    請求項1〜3のいずれか1項に記載のエコー抑圧装置。
  5. 前記非線形エコー推定部は、前記受話信号及び前記入力信号と、前記非線形エコー信号との関係性を示す前記非線形エコーモデルを用いて、前記受話信号及び前記入力信号から前記入力信号に含まれる前記非線形エコー信号を推定する、
    請求項1〜3のいずれか1項に記載のエコー抑圧装置。
  6. 前記非線形エコー推定部は、前記受話信号及び前記第1の線形エコー抑圧部の出力信号と、前記非線形エコー信号との関係性を示す前記非線形エコーモデルを用いて、前記受話信号及び前記第1の線形エコー抑圧部の出力信号から前記入力信号に含まれる前記非線形エコー信号を推定する、
    請求項1〜3のいずれか1項に記載のエコー抑圧装置。
  7. 前記第1の線形エコー抑圧部は、フィルタ係数と前記受話信号とを畳み込むことにより前記入力信号に含まれる前記受話信号の成分を示す擬似線形エコー信号を生成する適応フィルタと、前記入力信号から前記擬似線形エコー信号を減算する減算部とを含み、
    前記非線形エコー推定部は、前記受話信号及び前記適応フィルタからの前記擬似線形エコー信号と、前記非線形エコー信号との関係性を示す前記非線形エコーモデルを用いて、前記受話信号及び前記適応フィルタからの前記擬似線形エコー信号から前記入力信号に含まれる前記非線形エコー信号を推定する、
    請求項1〜3のいずれか1項に記載のエコー抑圧装置。
  8. 前記非線形エコー推定部は、前記入力信号と前記非線形エコー信号との関係性を示す前記非線形エコーモデルを用いて、前記入力信号から前記入力信号に含まれる前記非線形エコー信号を推定する、
    請求項1〜3のいずれか1項に記載のエコー抑圧装置。
  9. 前記非線形エコー抑圧部の出力信号及び前記第2の線形エコー抑圧部の出力信号のいずれかを最小化するための可変ゲインを算出し、算出した前記可変ゲインを用いて前記非線形エコー推定部によって推定された前記非線形エコー信号を補正する補正部をさらに備える、
    請求項1〜8のいずれか1項に記載のエコー抑圧装置。
  10. マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧する第1の線形エコー抑圧部と、
    スピーカへ出力される受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定する非線形エコー推定部と、
    前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記入力信号から前記非線形エコー信号を抑圧する非線形エコー抑圧部と、
    前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記残留線形エコー信号を抑圧する第2の線形エコー抑圧部と、
    を備えるエコー抑圧装置。
  11. 第1の線形エコー抑圧部が、マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧し、
    非線形エコー推定部が、スピーカへ出力される受話信号及び前記入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、前記受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定し、
    非線形エコー抑圧部が、前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記第1の線形エコー抑圧部の出力信号から前記非線形エコー信号を抑圧し、
    第2の線形エコー抑圧部が、前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記非線形エコー抑圧部の出力信号から前記残留線形エコー信号を抑圧する、
    エコー抑圧方法。
  12. 第1の線形エコー抑圧部が、マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧し、
    非線形エコー推定部が、スピーカへ出力される受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定し、
    非線形エコー抑圧部が、前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記入力信号から前記非線形エコー信号を抑圧し、
    第2の線形エコー抑圧部が、前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記残留線形エコー信号を抑圧する、
    エコー抑圧方法。
  13. マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧する第1の線形エコー抑圧部と、
    スピーカへ出力される受話信号及び前記入力信号の少なくとも一方と、非線形エコー信号との関係性を示す非線形エコーモデルを用いて、前記受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定する非線形エコー推定部と、
    前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記第1の線形エコー抑圧部の出力信号から前記非線形エコー信号を抑圧する非線形エコー抑圧部と、
    前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記非線形エコー抑圧部の出力信号から前記残留線形エコー信号を抑圧する第2の線形エコー抑圧部としてコンピュータを機能させる、
    エコー抑圧プログラム。
  14. マイクロホンによって取得された入力信号に含まれる線形エコー信号の振幅成分及び位相成分を推定することにより、前記入力信号から線形エコー信号を抑圧する第1の線形エコー抑圧部と、
    スピーカへ出力される受話信号及び前記入力信号の少なくとも一方から前記入力信号に含まれる前記非線形エコー信号を推定する非線形エコー推定部と、
    前記非線形エコー推定部によって推定された前記非線形エコー信号を用いて、前記入力信号から前記非線形エコー信号を抑圧する非線形エコー抑圧部と、
    前記第1の線形エコー抑圧部によって抑圧されなかった残留線形エコー信号の振幅成分を推定することにより、前記残留線形エコー信号を抑圧する第2の線形エコー抑圧部としてコンピュータを機能させる、
    エコー抑圧プログラム。
JP2020177958A 2019-11-12 2020-10-23 エコー抑圧装置、エコー抑圧方法及びエコー抑圧プログラム Pending JP2021184587A (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201962934119P 2019-11-12 2019-11-12
US62/934,119 2019-11-12
JP2020087944 2020-05-20
JP2020087944 2020-05-20

Publications (1)

Publication Number Publication Date
JP2021184587A true JP2021184587A (ja) 2021-12-02

Family

ID=73020138

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020177958A Pending JP2021184587A (ja) 2019-11-12 2020-10-23 エコー抑圧装置、エコー抑圧方法及びエコー抑圧プログラム

Country Status (4)

Country Link
US (1) US11197093B2 (ja)
EP (1) EP3829151B1 (ja)
JP (1) JP2021184587A (ja)
CN (1) CN112863532A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021167977A (ja) * 2020-10-12 2021-10-21 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド 音声信号処理方法、音声信号処理装置、電子機器及び記憶媒体

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040030817A (ko) * 2001-07-20 2004-04-09 코닌클리즈케 필립스 일렉트로닉스 엔.브이. 통신 시스템, 에코 제거 수단 및 에코 제거 방법
JP5016581B2 (ja) 2008-10-27 2012-09-05 日本電信電話株式会社 エコー抑圧装置、エコー抑圧方法、エコー抑圧プログラム、記録媒体
WO2012157788A1 (ja) * 2011-05-19 2012-11-22 日本電気株式会社 音声処理装置、音声処理方法および音声処理プログラムを記録した記録媒体
US10477031B2 (en) * 2015-12-08 2019-11-12 Nuance Communications, Inc. System and method for suppression of non-linear acoustic echoes
JP6537997B2 (ja) 2016-04-12 2019-07-03 日本電信電話株式会社 エコー抑圧装置、その方法、プログラム、及び記録媒体
US20190222691A1 (en) * 2018-01-18 2019-07-18 Knowles Electronics, Llc Data driven echo cancellation and suppression
JP6876274B2 (ja) 2018-11-14 2021-05-26 日亜化学工業株式会社 発光素子、発光装置及び発光素子の製造方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021167977A (ja) * 2020-10-12 2021-10-21 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド 音声信号処理方法、音声信号処理装置、電子機器及び記憶媒体
JP7214798B2 (ja) 2020-10-12 2023-01-30 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 音声信号処理方法、音声信号処理装置、電子機器及び記憶媒体

Also Published As

Publication number Publication date
US20210144472A1 (en) 2021-05-13
US11197093B2 (en) 2021-12-07
EP3829151B1 (en) 2023-07-26
EP3829151A1 (en) 2021-06-02
CN112863532A (zh) 2021-05-28

Similar Documents

Publication Publication Date Title
US11315587B2 (en) Signal processor for signal enhancement and associated methods
US8204210B2 (en) Method and system for nonlinear acoustic echo cancellation in hands-free telecommunication devices
EP2171714B1 (en) A device for and a method of processing audio signals
EP2987316B1 (en) Echo cancellation
JP4632047B2 (ja) 信号処理方法および装置
US10978086B2 (en) Echo cancellation using a subset of multiple microphones as reference channels
JP5391103B2 (ja) 多チャネルエコー消去方法、多チャネルエコー消去装置、多チャネルエコー消去プログラム及びその記録媒体
EP2939405B1 (en) Method and apparatus for audio processing
JP5469564B2 (ja) 多チャネルエコー消去方法、多チャネルエコー消去装置及びそのプログラム
RU2744518C1 (ru) Устройство голосовой связи, способ голосовой связи и программа
JP2021184587A (ja) エコー抑圧装置、エコー抑圧方法及びエコー抑圧プログラム
JP2005051744A (ja) 通話装置
US10481831B2 (en) System and method for combined non-linear and late echo suppression
JP2008060715A (ja) エコー消去装置、その方法、そのプログラム、およびその記録媒体
WO2022195955A1 (ja) エコー抑圧装置、エコー抑圧方法及びエコー抑圧プログラム
JP2011160429A (ja) エコー消去装置
JP2017191987A (ja) エコー消去装置、その方法、プログラム、及び記録媒体
JPWO2022195955A5 (ja)
JP5925149B2 (ja) 音響結合量推定装置、エコー消去装置、その方法及びプログラム
CN112237008B (zh) 信号处理装置、信号处理方法和计算机可读存储介质
JP6356087B2 (ja) エコー消去装置、その方法及びプログラム
Padhi et al. Family of adaptive algorithms based on second order Volterra filters for nonlinear acoustic echo cancellation: A technical survey
WO2019244535A1 (ja) エコー消去装置、エコー消去方法、プログラム
Kar et al. Suppression of remnant nonlinear echo due to harmonic distortions in intelligent communication networks

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230913