JP6789690B2 - 信号処理装置、信号処理方法、及びプログラム - Google Patents

信号処理装置、信号処理方法、及びプログラム Download PDF

Info

Publication number
JP6789690B2
JP6789690B2 JP2016124800A JP2016124800A JP6789690B2 JP 6789690 B2 JP6789690 B2 JP 6789690B2 JP 2016124800 A JP2016124800 A JP 2016124800A JP 2016124800 A JP2016124800 A JP 2016124800A JP 6789690 B2 JP6789690 B2 JP 6789690B2
Authority
JP
Japan
Prior art keywords
directional
directional beam
width
target
signal processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016124800A
Other languages
English (en)
Other versions
JP2017228978A (ja
JP2017228978A5 (ja
Inventor
典朗 多和田
典朗 多和田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016124800A priority Critical patent/JP6789690B2/ja
Priority to US15/628,714 priority patent/US9998822B2/en
Publication of JP2017228978A publication Critical patent/JP2017228978A/ja
Publication of JP2017228978A5 publication Critical patent/JP2017228978A5/ja
Application granted granted Critical
Publication of JP6789690B2 publication Critical patent/JP6789690B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/20Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/40Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers
    • H04R1/406Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers microphones
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/80Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using ultrasonic, sonic or infrasonic waves
    • G01S3/802Systems for determining direction or deviation from predetermined direction
    • G01S3/808Systems for determining direction or deviation from predetermined direction using transducers spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/18Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using ultrasonic, sonic, or infrasonic waves
    • G01S5/20Position of source determined by a plurality of spaced direction-finders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/005Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S1/00Two-channel systems
    • H04S1/007Two-channel systems in which the audio signals are in digital form
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2201/00Details of transducers, loudspeakers or microphones covered by H04R1/00 but not provided for in any of its subgroups
    • H04R2201/40Details of arrangements for obtaining desired directional characteristic by combining a number of identical transducers covered by H04R1/40 but not provided for in any of its subgroups
    • H04R2201/4012D or 3D arrays of transducers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2201/00Details of transducers, loudspeakers or microphones covered by H04R1/00 but not provided for in any of its subgroups
    • H04R2201/40Details of arrangements for obtaining desired directional characteristic by combining a number of identical transducers covered by H04R1/40 but not provided for in any of its subgroups
    • H04R2201/403Linear arrays of transducers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00Signal processing covered by H04R, not provided for in its groups
    • H04R2430/20Processing of the output signals of the acoustic transducers of an array for obtaining a desired directivity characteristic
    • H04R2430/23Direction finding using a sum-delay beam-former
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2499/00Aspects covered by H04R or H04S not otherwise provided for in their subgroups
    • H04R2499/10General applications
    • H04R2499/11Transducers incorporated or for use in hand-held devices, e.g. mobile phones, PDA's, camera's
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2420/00Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/07Synergistic effects of band splitting and sub-band processing

Description

本発明は、音響信号処理技術に関する。
複数のマイクロホン素子(マイクロホンアレイ)を用いて、フィルタリングにより目的音源の方向に指向性を形成し、収音した複数チャネルの音響信号から目的音源の音を分離する技術が知られている。指向性のビーム幅を狭くすることは難しいため、目的音源だけを高精度に分離することは難しい。
特許文献1では、2本の指向性マイクロホンそれぞれの指向性の重複領域を形成し、各指向性で取得した2つの方向音の共通成分を抽出することで、単一の指向性のビーム幅よりも狭い重複領域の音を取得している。
特開2001−204092号公報
しかし、とりわけ目的音源と非目的音源の方向が近接しているような場合には、従来技術では依然として音源分離性能は十分ではなく、指向性制御の改良が望まれている。
本発明は、音源分離性能の点で有利な技術を提供することを目的とする。
本発明の一側面によれば、複数の収音部により取得された音響信号から複数の周波数帯域の成分を抽出する抽出手段と、目標方向に対応する方向音信号を生成するための少なくとも1つの指向性ビームを形成する処理を前記複数の周波数帯域それぞれについて行う処理手段であって、ビームの中心方向がそれぞれ異なる1の指向性ビームと第2の指向性ビームとが第1の周波数帯域において形成され、ビームの中心方向がそれぞれ異なる第3の指向性ビームと第4の指向性ビームとが前記第1の周波数帯域より高い第2の周波数帯域において形成され、かつ前記第1の指向性ビームと前記第2の指向性ビームとが重なる第1の重複範囲に前記目標方向が含まれ、前記第3の指向性ビームと前記第4の指向性ビームとが重なる第2の重複範囲に前記目標方向が含まれるように、前記処理を行う処理手段と、前記抽出手段により抽出された前記複数の周波数帯域の成分を、前記処理手段の処理により前記複数の周波数帯域それぞれについて形成された指向性ビームに基づいて処理することで、前記目標方向に対応する前記方向音信号を生成する生成手段とを有し、前記第1の指向性ビームの中心方向と前記第2の指向性ビームの中心方向との差が、前記第3の指向性ビームの中心方向と前記第4の指向性ビームの中心方向の差よりも大きい、ことを特徴とする信号処理装置が提供される。
本発明によれば、音源分離性能の点で有利な技術が提供される。
実施形態における信号処理システムの構成を示すブロック図。 実施形態における信号解析処理のフローチャート。 実施形態における指向方向制御の例を説明する図。 実施形態における指向方向制御の例を説明する図。 実施形態における指向方向制御の効果を説明する図。 実施形態における指向方向制御の他の例を説明する図。 実施形態における指向方向制御の他の例を説明する図。 実施形態における重複領域の他の例を説明する図。 実施形態における指向方向制御の他の例を説明する図。 実施形態における信号処理システムの機能ブロック図。
以下、図面を参照して本発明の実施形態について詳細に説明する。なお、本発明は以下の実施形態に限定されるものではなく、以下の実施形態は本発明の実施の具体例を示すにすぎない。また、以下の実施形態の中で説明されている特徴の組み合わせの全てが本発明の課題解決のために必須のものであるとは限らない。
図1は、本実施形態に係る信号処理システム1の概略システム構成を示すブロック図である。信号処理システム1は、信号処理装置100と、複数の収音部111とを備える。複数の収音部111は、例えば、複数のマイクロホン素子が等方的に配置された円状等間隔マイクロホンアレイである。複数の収音部111により収音された複数チャネルの音響信号は、インタフェースであるI/F112を介して信号処理装置100に伝送される。信号処理装置100は、各種データを記憶しておく記憶部101、信号の解析処理を行う信号解析処理部102とを含む。記憶部101は、複数の収音部111により収音された音響信号を保持している。
図10に、信号処理システム1の機能構成を示す。I/F112は例えば、複数の収音部111からの各チャネル信号をアナログ信号からデジタル信号に変換するA/Dコンバータ113を含む。したがって信号処理装置100へは各チャネルの音響信号がデジタルの形式で入力される。あるいは、A/Dコンバータ113からの各チャネルの音響信号は、記憶部101に記憶されてもよい。信号解析処理部102において、FFT部121は、各チャネルの音響信号に対して例えばFFTによりフーリエ変換を行い、複数の周波数帯域(サブバンド)に分割する。本発明は特定の分割数に限定されるものではないが、例えば、低周波数域、中周波数域、高周波数域の3つの帯域に分割することができる。サブバンド信号はそれぞれ指向性形成フィルタ122に入力されてそのスペクトルが操作される。指向性形成フィルタ122におけるフィルタ係数は処理部123より供給される。そして、指向性形成フィルタ122それぞれの出力は、加算部124にて総和がとられ、IFFT部125で例えばIFFTにより逆フーリエ変換が施されて、時間領域の音響信号が出力される。
本実施形態における信号処理システム1の構成は概ね以上のとおりである。以下、本実施形態における信号解析処理について、図2のフローチャートに沿って説明する。なお、図2のフローチャートの処理は、特に別記しない限り信号解析処理部102で行われる。また、図2のフローチャートは、所定の時間長を有する時間ブロックごとの処理を表すものとする。
S201では、まず、A/Dコンバータ113から渡され、あるいは、記憶部101から読み出された、M個のマイクロホン素子(Mチャネルマイクロホンアレイ)で収音したMチャネル音響信号を取得する。取得したMチャネル音響信号は、チャネルごとにFFT部121に入力される。FFT部121は、FFTを行うとともに所定数のサブバンド化処理(帯域分割処理)を行うことで、周波数領域のデータ(フーリエ係数)であるz(f)を得る。ここで、fはサブバンドのインデックス、z(f)はM個の要素を持つベクトルを表す。
S202では、後のステップで音響信号に含まれる音源の方向を検出するために、処理部123は、音源方向に感度のピークを形成する空間スペクトルP(f,θ)を算出する。算出には、音響信号の空間的性質を表す統計量である式(1)の空間相関行列R(f)と、各方向(方位角θ)の音源と各マイクロホン素子間の伝達関数であるアレイ・マニフォールド・ベクトル(AMV)を用いる。
Figure 0006789690
ここで、Eは期待値を、上付きのHは複素共役転置を表す。
例えば、最小分散法に基づく空間スペクトルPMV(f,θ)は、式(2)で得られる。
Figure 0006789690
ここで、a(f,θ)はAMVである。a(f,θ)は周波数領域のデータ(フーリエ係数)であり、M個の要素を持つベクトルである。
また、空間相関行列R(f)のM個の固有ベクトルのうち、雑音部分空間に対応するものを並べた行列をEnとし、信号部分空間に属するAMV a(f,θ)との直交性を考えれば、MUSIC法の空間スペクトルPMU(f,θ)が式(3)で得られる。
Figure 0006789690
a(f,θ)のθを例えば−180°から180°まで1°刻みで変えながら、P(f,θ)=PMV(f,θ)[式(2)]やP(f,θ)=PMU(f,θ)[式(3)]のように計算することで、水平全方位の空間スペクトルが得られる。なお、音響信号の録音に用いたマイクロホンアレイの構造によっては、自由空間や剛球等の理論式により、任意の解像度でAMV a(f,θ)を算出できる。
なお、AMVは記憶部101があらかじめ保持しているものを取得して用いればよい。また、マイクロホンアレイの構成が異なるとAMVも異なるため、収音に用いたマイクロホンアレイの種別IDを音響信号の付加情報として収音時に記録しておき、そのマイクロホンアレイに対応するAMVを用いるようにしてもよい。
S203では、処理部123は、S202で算出した空間スペクトルP(f,θ)に基づいて目的音源の方向を決定し、その方向を指向性の目標方向θs(指向方向)として決定する。また、非目的音源を含まず目的音源のみが含まれるような、目標方向θsを中心とする指向性ビームの広がりを表す角度幅を決定し、その幅を指向性の目標幅αsとして決定する。
まず、P(f,θ)を周波数に亘って平均化した平均空間スペクトルP(θ)を求める。ここで、平均化に用いる周波数は全周波数でもよいし、音響信号で卓越している帯域の周波数などとしてもよい。そして、時間ブロックのインデックスtを用いて現時間ブロックの平均空間スペクトルをP(θ,t)と表すと、nブロック前の時間ブロックにおける平均空間スペクトルはP(θ,t-n)と表される。
このような複数(n個)の時間ブロックにおける平均空間スペクトルP(θ,t-n)〜P(θ,t)から、それぞれ大きなピークとなる方向を検出することで、主要な音源の方向を一通り検出することができる。そこで、その中から目的音源とするものを決定し、その方向を指向性の目標方向θsとして決定する。なお、音響信号の全時間ブロックの平均空間スペクトルから、目的音源の方向を決定してもよい。決定法としては、正面に最も近いピークの方向または最大ピークの方向などとすればよい。
目標幅αsの決定法としては、例えば目標方向から最も近い非目的音源の方向までの角度幅とすればよい。また、目標方向から最も近い非目的音源の方向までの間で、n個の時間ブロックにおける平均空間スペクトルの最大値が最小となった方向を検出し、その方向から目標方向までの角度幅の倍などとしてもよい。
図3(a)は、目標方向θsが正面の場合の例を示しており、音源301が目的音源、音源302及び303が非目的音源を表している。ここで、目標方向θsを中心として目標幅αsを定めているのは、後のステップにおける複数の指向性ビームの重複領域も、目標方向θsを中心に形成することを想定しているためである。
なお、記憶部101が、音響信号に加えて、不図示の撮影部で撮影された映像信号を保持している場合は、映像信号に基づいて目標方向および目標幅を決定してもよい。すなわち、映像信号に対して映像認識を行うことで音源になり得るオブジェクトを検出する。例えば、公知の機械学習や顔認識を適用することで、乗り物、動物、楽器、人といった音を発し得るオブジェクトを検出する。また、動きベクトルの反転から物体の衝突などを検出してもよい。映像認識により認識されたオブジェクトの中から目的音源を決定し、そのオブジェクト検出枠の中心を、指向性の目標方向θsとして決定することができる。目的音源の決定法としては、映像認識における検出枠(水平画素数)が最も大きいオブジェクト、または映像信号の中心に最も近いオブジェクトなどとすればよい。また、目標幅αsの決定法としては、目的音源のオブジェクト検出枠に対応する角度幅などとすればよい。さらに、不図示のGUIを介して、目標方向θsの選択や目標幅αsの調整をユーザが行えるようにしてもよい。
S204〜S212はサブバンドごとに繰り返される処理である(周波数ループ)。S204では、処理部123は、指向性形成における指向方向を目標方向θsに初期化する。S205では、処理部123は、目標方向θsに指向性のメインローブを形成するためのフィルタ係数を取得する。ここでは、記憶部101があらかじめ保持している指向性形成フィルタのフィルタ係数から、目標方向θsに対応するws(f)を取得する。ここで、フィルタ係数(ベクトル)ws(f)は周波数領域のデータ(フーリエ係数)であり、M個の要素で構成される。なお、マイクロホンアレイの構成が異なるとフィルタ係数も異なるため、録音に用いたマイクロホンアレイの種別IDを音響信号の付加情報として録音時に記録しておき、そのマイクロホンアレイに対応するフィルタ係数を用いるようにしてもよい。
指向性形成フィルタのフィルタ係数の算出には、AMVが一般に用いられる。目標方向θsに指向性のメインローブを形成する方法として、例えば遅延和法であれば、θs方向のAMVをas(f)として、ws(f)=as(f)/(as H(f)as(f))のようにフィルタ係数が得られる。
S206では、処理部123は、S205で取得した指向性形成のフィルタ係数ws(f)と、AMVであるa(f,θ)を用いて指向性のビームパターンを算出し、算出したビームパターンから単一の指向性ビームのビーム幅αdを算出する。ビームパターンの方位角θ方向の値b(f,θ)は、式(4)により得られる。
Figure 0006789690
a(f,θ)のθを、例えば−180°から180°まで1°刻みで変えながらb(f,θ)を計算することで、水平全方位のビームパターンが得られる。
本実施形態では、式(4)で算出したビームパターンについて、指向方向から減衰量が所定値(例えば3dB)となる方向までの角度幅の倍を指向性ビームのビーム幅αd(f)と定義する。このビーム幅の範囲外の音は抑制される。ここで、ビーム幅αd(f)は周波数に依存し、一般に低域ほど広くなる傾向がある。また、指向方向からの減衰量が所定値となる方向を指向性のビーム幅方向と呼ぶことにすると、図3においては指向性を模式的に表す二等辺三角形の2つの等辺がビーム幅方向に対応する。
S207では、処理部123は、S206で算出したビーム幅αd(f)がS203で決定した目標幅αs以下(αd(f)≦αs)であるかを判定する。S206で算出したビーム幅がS203で決定した目標幅以下である場合は処理はS208へ、そうでない場合は処理はS209へ進む。周波数ループにおいて高い周波数帯域から考えると、指向性のビーム幅が狭い高周波数域では、図3(a)のようにビーム幅αd(f)は目標幅αs以下となるため、このような場合はS208へ進む。
S208では、S201で取得したMチャネル音響信号のフーリエ係数z(f)に、S205で取得した指向性形成フィルタのフィルタ係数ws(f)を適用することで、目標方向θsの方向音Ys(f)を式(5)のように生成する。ここで、Ys(f)は周波数領域のデータ(フーリエ係数)である。
Figure 0006789690
指向性のビーム幅αd(f)が目標幅αs以下であれば、目標方向θsの指向性で取得した方向音Ys(f)をそのまま分離音X(f)として用いれば、非目的音源の音を抑制して目的音源の音を分離できる。ここで、X(f)は周波数領域のデータ(フーリエ係数)である。
次の周波数ループでは例えば、指向性のビーム幅が中程度となる中周波数域が処理される。この場合、図3(b)のようにビーム幅αd(f)が目標幅αsより広くなり、目標方向θsの指向性で方向音を取得しても非目的音源302〜303の音が混入してしまう。このような場合、処理はS209へ進む。S209〜S212では、複数の指向性ビームの重複領域の中心方向が目標方向を向き、かつ、該重複領域の重複幅が目標幅以下となるように、複数の指向性ビームを形成する処理を行う。重複領域の中心方向とは、例えば、複数の収音部111が構成するマイクロホンアレイの原点からみた中心方向をいう。例えば、複数の収音部111が円状あるいは球形に等間隔で配置されたマイクロホンアレイを構成している場合、当該円又は球の中心がマイクロホンアレイの原点となりうる。また、複数の収音部111が直線状に等間隔に配置されたマイクロホンアレイを構成している場合には、当該直線の中点がマイクロホンアレイの原点となりうる。本実施形態では、複数(例えば、指向数D=2)の指向性ビームの重複領域を形成し、この重複領域の音を抽出することで、単一の指向性では分離できない目的音源の音を取得する。S209では、図4(a)のように複数の指向性ビームの重複領域304を形成する場合に、重複領域の重複幅αpが目標幅αs以下となるような複数の指向方向θd(f)[d=1〜D]を決定する。ここで、図4(a)のように複数の指向性ビームのビーム幅の方向に囲まれた領域を重複領域としている。
図4(a)より、式(6)のように複数の指向方向θd(f)[d=1〜D]を決定することで、重複幅αpを目標幅αsとすることができる。
Figure 0006789690
ここで、正面に対して左方向を方位角の正方向としている。
S210では、S205と同様に、処理部123は、S209で決定した複数の指向方向θd(f)[d=1〜D]に指向性のメインローブを形成するための、複数のフィルタ係数を取得する。ここでは、記憶部101があらかじめ保持している指向性形成フィルタのフィルタ係数から、複数の指向方向θd(f)[d=1〜D]に対応する複数のwd(f)[d=1〜D]を取得する。
S211では、S208と同様に、S201で取得したMチャネル音響信号のフーリエ係数z(f)に、S210で取得した複数の指向性形成フィルタのフィルタ係数wd(f)[d=1〜D]を適用する。これにより、複数の指向方向θd(f)[d=1〜D]に対応する複数の方向音Yd(f)[d=1〜D]を式(7)のように生成する。ここで、Yd(f)[d=1〜D]は周波数領域のデータ(フーリエ係数)である。
Figure 0006789690
S212では、S211で生成した複数の方向音Yd(f)[d=1〜D]から、それらの共通成分を例えば式(8)のように抽出して分離音X(f)とする。これは、図4(a)のようにビーム幅αd(f)より狭い重複幅αp(=目標幅αs)の重複領域304の音を抽出することに対応し、非目的音源302〜303の音を抑制して目的音源301の音を分離している。
Figure 0006789690
ここで、絶対値記号とargはそれぞれフーリエ係数の振幅と位相を表しており、min関数により全方向音の振幅|Yd(f)|[d=1〜D]の最小値を取得している。なお、共通成分の抽出において、振幅は全方向音の最小値に限らず、平均値や中央値を用いてもよい。また、位相については一番目の方向音Y1(f)のものを用いているが、他の方向音Yd(f)[d=2〜D]を用いたり、目標方向θsの方向音Ys(f)を用いたりしてもよい。また、複数の方向音Yd(f)[d=1〜D]のクロススペクトルを用いて共通成分を抽出してもよい。
次の周波数ループでは、低周波数域が処理される。低周波数域では、指向性のビーム幅が中周波数域よりさらに広くなる。ここで、低周波数域における複数の指向方向が図4(a)の中周波数域のときと同じにした場合を考える。この場合、図4(b)のように、低周波数域では重複領域305の重複幅αpが目標幅αsより広くなってしまい、重複領域の音を抽出しても非目的音源302〜303の音が混入してしまう。
そこで本実施形態では、式(6)のように、ビーム幅αd(f)の周波数依存性を考慮する。具体的には、各サブバンドで重複領域の重複幅αpが略一定(=目標幅αs)となるよう、複数の指向方向θd(f)[d=1〜D]をサブバンドごとに決定する。これにより、低周波数域では図4(c)のように複数の指向方向θd(f)[d=1〜D]のなす角を大きくし、目標幅αsと同じ重複幅αpの重複領域306の音を抽出する。これにより、各サブバンドで非目的音源302〜303の音が抑制されて目的音源301の音が分離される。
S213では、各周波数ループで得られた分離音が加算部124で加算され、IFFT部125で逆フーリエ変換(例えばIFFT)が施されて時間領域の音響信号(分離音)が出力される。出力されたこの音響信号は例えば、窓掛けされて前時間ブロックまでの分離音とオーバーラップ加算され、その結果得られた分離音が記憶部101に逐次記録される。以上のようにして得られた分離音は、不図示のデータ入出力部を介して外部に出力されたり、イヤホン、ヘッドホン、スピーカといった不図示の再生部によって再生されうる。
以上の処理によれば、複数の指向性ビームの重複領域の中心方向が目標方向を向き、かつ、該重複領域の重複幅が目標幅以下となるように、前記複数の指向性ビームを形成する処理が、分割された周波数帯域ごとに行われる。これにより、複数の指向性ビームの重複領域が各サブバンドで略一定となるよう指向方向が制御され、目的音源の音を分離することができる。
また、S207の分岐処理により、指向性のビーム幅が目標幅以下である周波数では、単一の指向性で取得した方向音がそのまま分離音として用いられる(S208)。これにより、複数の指向性ビームの重複領域を用いた共通成分の抽出処理は必要最小限とされ、音質低下が抑制される。
図5は、この考え方を模式的に示す図である。図5において、縦軸の分離幅とは音源を分離できる角度幅を表し、単一の指向性ビームによるビーム幅、もしくは複数の指向性ビームの重複領域の重複幅である。破線501は単一の指向性ビームによるビーム幅を模式的に示している。一般にビーム幅は音響信号の周波数が高いほど狭く、周波数が低いほど広くなるため、高周波数域から考えてビーム幅が目標幅以下の周波数まで(f≧fc)は、単一の指向性により方向音を取得する。そして、それより下の周波数(f<fc)では、複数の指向性ビームの重複幅が目標幅となるような重複領域を形成する。ビーム幅に対応する太い破線502および、重複幅に対応する太い実線503は、このような周波数ごとの制御を模式的に示している。
なお、上記実施形態において記憶部101があらかじめ保持しているとした各種データは、不図示のデータ入出力部を介して外部から入力するようにしてもよい。
(他の実施形態)
任意の指向方向に対応する指向性形成フィルタのフィルタ係数を記憶部101が保持しているとは限らないため、選択可能な指向方向の中から、重複領域の重複幅が目標幅に最も近くなる(もしくは目標幅以下となる)ものを選択するようにしてもよい。
複数の収音部111は、複数の指向性マイクロホンを並べた指向性マイクロホンアレイで構成されていてもよい。その場合、信号処理装置100は、各指向性マイクロホンが収音した音響信号をそのまま各指向方向(軸方向)に対応する方向音とすることができる。例えば図6のように、指向性の中心軸が異なる方向を向くような角度で配置された一対の指向性マイクロホンを複数含み、該複数の一対の指向性マイクロホンにおいて、指向性の中心軸どうしのなす角度を互いに異ならせる。図6の例においては、6本の指向性マイクロホン601〜606によって3組の一対の指向性マイクロホンが実現される。図6のグラフの実線611,612,613はそれぞれ、3組の指向性マイクロホン601〜602,603〜604,605〜606の指向性で形成される重複領域の重複幅を模式的に示したものである。
ここで、各サブバンドで重複領域をなるべく一定にする考え方を適用すれば、重複領域の重複幅が目標幅に近くなるように、サブバンドごとに指向性マイクロホンの組(指向方向の組に対応)を選択するようにすればよい。すなわち、高周波数域(f≧fH)では、軸方向のなす角が小さい指向性マイクロホン601〜602の組の音響信号を用いて、その共通成分を抽出する。また、中周波数域(fL≦f<fH)では、軸方向のなす角が中程度の指向性マイクロホン603〜604の組の音響信号を用いて、その共通成分を抽出する。さらに、低周波数域(f<fL)では、軸方向のなす角が大きい指向性マイクロホン605〜606の音響信号を用いて、その共通成分を抽出する。3組の指向性マイクロホン601〜602,603〜604,605〜606のそれぞれに塗り潰し色を対応させた太線621,622,623は、このような周波数ごとの制御を模式的に示している。
なお、指向性のビーム幅が目標幅以下であるサブバンドで単一の指向性で取得した方向音をそのまま分離音として用いる考え方は、指向性マイクロホンアレイの場合にも適用することができる。例えば図7のように、1本の指向性マイクロホン701と、組となる2本の指向性マイクロホン702及び703をそれぞれの軸方向が角度をなすように配置した、3本の指向性マイクロホン701〜703による指向性マイクロホンアレイを考える。図7において、破線711は指向性マイクロホン701の指向性によるビーム幅を、実線712は組となる指向性マイクロホン702〜703の指向性による重複領域の重複幅を模式的に示したものである。
ここで、図5と同様に、高周波数域から考えてビーム幅が目標幅以下の周波数まで(f≧fc)は、単一の指向性マイクロホン701の音響信号により方向音を取得する。そして、それより下の周波数(f<fc)では、重複領域の重複幅が目標幅以下となるような指向性マイクロホン702〜703の組の音響信号を用いて、その共通成分を抽出する。ビーム幅に対応する太い破線721および、重複幅に対応する白抜き線722は、このような周波数ごとの制御を模式的に示している。
なお、上記実施形態においては簡易的に、指向性のビームパターンについて指向方向からの減衰量が所定値となるビーム幅方向を考え、複数の指向性ビームのビーム幅方向から定まる重複幅を重複領域の大きさの目安とした。しかし、指向性のビームパターンは、より現実的には図8の指向性801,802のような形状となるため、重複領域としてより厳密に、塗り潰し部分803の大きさを直接的に算出するようにしてもよい。
なお、複数の指向性ビームの重複領域を各サブバンドで略一定にする考え方は、指向数D=3以上の場合へも拡張することができる。例えば図9(a)に示すように、3つの指向性ビーム901,902,903を利用して、目的音源の音を分離することができる。指向性ビーム901,902,903はそれぞれ円錐状に形成されたビームである。対象平面による円錐断面の中の点911,912,913はそれぞれ、指向性ビーム901,902,903のビーム方向の対象平面との交点を表している。上述の実施形態と同様に、これら3つの指向性ビーム901,902,903の重複領域904を利用して、目的音源の音を分離することができる。図9(a)より低い周波数においては、図9(b)の指向性ビーム921,922,923のようにビーム幅が大きくなる。それぞれのビーム幅が大きくなれば重複領域が拡大する。そこで、上記実施形態と同様に、低周波数域では、交点911,912,913が交点931,932,933へと移動するように指向性ビーム921,922,923のビーム方向のなす角度を大きくする。これにより、重複領域924が図9(a)の重複領域904と同等になるようにする。
(他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
1:信号処理システム、100:信号処理装置、101:記憶部、102:信号解析処理部、111:収音部

Claims (11)

  1. 複数の収音部により取得された音響信号から複数の周波数帯域の成分を抽出する抽出手段と、
    目標方向に対応する方向音信号を生成するための少なくとも1つの指向性ビームを形成する処理を前記複数の周波数帯域それぞれについて行う処理手段であって、ビームの中心方向がそれぞれ異なる1の指向性ビームと第2の指向性ビームとが第1の周波数帯域において形成され、ビームの中心方向がそれぞれ異なる第3の指向性ビームと第4の指向性ビームとが前記第1の周波数帯域より高い第2の周波数帯域において形成され、かつ前記第1の指向性ビームと前記第2の指向性ビームとが重なる第1の重複範囲に前記目標方向が含まれ、前記第3の指向性ビームと前記第4の指向性ビームとが重なる第2の重複範囲に前記目標方向が含まれるように、前記処理を行う処理手段と、
    前記抽出手段により抽出された前記複数の周波数帯域の成分を、前記処理手段の処理により前記複数の周波数帯域それぞれについて形成された指向性ビームに基づいて処理することで、前記目標方向に対応する前記方向音信号を生成する生成手段と、を有し、
    前記第1の指向性ビームの中心方向と前記第2の指向性ビームの中心方向との差が、前記第3の指向性ビームの中心方向と前記第4の指向性ビームの中心方向の差よりも大きい、ことを特徴とする信号処理装置。
  2. 前記処理手段は、前記第1の重複範囲の中心方向が前記目標方向を向き、かつ、前記第1の重複範囲の幅が目標幅以下となるように、前記第1の指向性ビームおよび前記第2の指向性ビームを形成することを特徴とする請求項1に記載の信号処理装置。
  3. 記憶部に記憶されている所定のパラメータに基づき形成された所定の周波数帯域の指向性ビームの幅に基づいて、前記所定の周波数帯域に対して1つの指向性ビームを生成するか前記所定の周波数帯域に対して複数の指向性ビームを生成するかを決定する決定手段を更に有し、
    前記決定手段は、前記指向性ビームの前記幅が目標幅より大きい場合、前記所定の周波数帯域に前記複数の指向性ビームを生成することを決定し、
    前記処理手段は、前記決定手段による決定の結果に応じて、前記複数の周波数帯域それぞれに対して前記少なくとも1つの指向性ビームを形成する
    ことを特徴とする請求項1または2に記載の信号処理装置。
  4. 前記処理手段は、
    前記指向性ビームの前記幅が前記目標幅以下である場合、1つの指向性ビームを形成する指向性形成フィルタを適用することで前記目標方向に対応する前記方向音信号を生成し、
    前記指向性ビームの前記幅が前記目標幅より大きい場合、前記複数の指向性ビームを形成する複数の指向性形成フィルタを適用することで複数の音信号を取得し、該取得された複数の音信号の共通成分を抽出することで前記目標方向に対応する前記方向音信号を生成する
    ことを特徴とする請求項3に記載の信号処理装置。
  5. 前記指向性ビームのビームパターンにおける減衰量が所定値となる方向に基づいて、指向性ビームの幅が決まることを特徴とする請求項1乃至4のいずれか1項に記載の信号処理装置。
  6. 前記複数の収音部は、指向性の中心軸が異なる方向を向くような角度で配置された一対の指向性マイクロホンを複数含み、該複数の一対の指向性マイクロホンにおいて前記角度は互いに異なることを特徴とする請求項1乃至5のいずれか1項に記載の信号処理装置。
  7. 前記複数の収音部は、単一の指向性マイクロホンと、該単一の指向性マイクロホンを挟んで、指向性の中心軸が異なる方向を向くような角度で配置された一対の指向性マイクロホンとを含むことを特徴とする請求項1乃至5のいずれか1項に記載の信号処理装置。
  8. 前記音響信号に基づいて前記目標方向及び前記目標幅を決定する手段を有することを特徴とする請求項2に記載の信号処理装置。
  9. 前記処理手段は、それぞれ異なる指向性を有する前記第1の指向性ビームと前記第2の指向性ビームと第の指向性ビームとが前記複数の周波数帯域における周波数帯域において形成され、かつ前記第1の指向性ビームと前記第2の指向性ビームと前記第の指向性ビームとが重なる重複領域に前記目標方向含まれるように、前記処理を行う、ことを特徴とする請求項1乃至のいずれか1項に記載の信号処理装置。
  10. 第1の指向性マイクロホンによって取得された音響信号から第1の周波数帯域の成分を抽出する第1抽出工程と、
    互いに異なる方向を向いた第2の指向性マイクロホンと第3の指向性マイクロホンとによって取得された音響信号から前記第1の周波数帯域よりも低い第2の周波数帯域の成分を抽出する第2抽出工程と、
    前記第1抽出工程で抽出された前記第1の周波数帯域の前記成分と前記第2抽出工程で抽出された前記第2の周波数帯域の前記成分とに基づいて、目標方向に対応する方向音信号を生成する生成工程と、を有し、
    前記目標方向は、前記第1の指向性マイクロホンが向く方向であって、前記第2の指向性マイクロホンが向く方向と前記第3の指向性マイクロホンが向く方向との間の中間方向である
    ことを特徴とする信号処理方法。
  11. コンピュータを請求項1乃至のいずれか1項に記載の信号処理装置が有する各手段として機能させるためのプログラム。
JP2016124800A 2016-06-23 2016-06-23 信号処理装置、信号処理方法、及びプログラム Active JP6789690B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016124800A JP6789690B2 (ja) 2016-06-23 2016-06-23 信号処理装置、信号処理方法、及びプログラム
US15/628,714 US9998822B2 (en) 2016-06-23 2017-06-21 Signal processing apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016124800A JP6789690B2 (ja) 2016-06-23 2016-06-23 信号処理装置、信号処理方法、及びプログラム

Publications (3)

Publication Number Publication Date
JP2017228978A JP2017228978A (ja) 2017-12-28
JP2017228978A5 JP2017228978A5 (ja) 2019-07-25
JP6789690B2 true JP6789690B2 (ja) 2020-11-25

Family

ID=60678206

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016124800A Active JP6789690B2 (ja) 2016-06-23 2016-06-23 信号処理装置、信号処理方法、及びプログラム

Country Status (2)

Country Link
US (1) US9998822B2 (ja)
JP (1) JP6789690B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10332515B2 (en) * 2017-03-14 2019-06-25 Google Llc Query endpointing based on lip detection
CN108538306B (zh) * 2017-12-29 2020-05-26 北京声智科技有限公司 提高语音设备doa估计的方法及装置
GB2573537A (en) * 2018-05-09 2019-11-13 Nokia Technologies Oy An apparatus, method and computer program for audio signal processing
JP7124664B2 (ja) * 2018-11-19 2022-08-24 沖電気工業株式会社 信号追尾装置および信号追尾方法
JP7245034B2 (ja) * 2018-11-27 2023-03-23 キヤノン株式会社 信号処理装置、信号処理方法およびプログラム
CN109819376B (zh) * 2019-01-21 2020-11-06 北京小唱科技有限公司 对音频进行动态均衡调节的方法及装置
GB2584629A (en) 2019-05-29 2020-12-16 Nokia Technologies Oy Audio processing
US11270712B2 (en) 2019-08-28 2022-03-08 Insoundz Ltd. System and method for separation of audio sources that interfere with each other using a microphone array
GB2589082A (en) * 2019-11-11 2021-05-26 Nokia Technologies Oy Audio processing
GB2601114A (en) * 2020-11-11 2022-05-25 Sony Interactive Entertainment Inc Audio processing system and method
CN113314138B (zh) * 2021-04-25 2024-03-29 普联国际有限公司 基于麦克风阵列的声源监听分离方法、装置及存储介质

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3548706B2 (ja) * 2000-01-18 2004-07-28 日本電信電話株式会社 ゾーン別収音装置
JP3588576B2 (ja) * 2000-04-28 2004-11-10 日本電信電話株式会社 収音装置および収音方法
US20020131580A1 (en) * 2001-03-16 2002-09-19 Shure Incorporated Solid angle cross-talk cancellation for beamforming arrays
JP2003087890A (ja) * 2001-09-14 2003-03-20 Sony Corp 音声入力装置及び音声入力方法
US6970796B2 (en) * 2004-03-01 2005-11-29 Microsoft Corporation System and method for improving the precision of localization estimates
US7415117B2 (en) * 2004-03-02 2008-08-19 Microsoft Corporation System and method for beamforming using a microphone array
WO2006006935A1 (en) * 2004-07-08 2006-01-19 Agency For Science, Technology And Research Capturing sound from a target region
JP2007251801A (ja) * 2006-03-17 2007-09-27 Sony Corp 音響信号処理装置及び音響信号処理方法並びに音響信号処理用プログラム
JP5494699B2 (ja) * 2012-03-02 2014-05-21 沖電気工業株式会社 収音装置及びプログラム
JP2014165549A (ja) * 2013-02-21 2014-09-08 Kanazawa Univ 単一指向性マイクロホン・ユニット、受波アレイ、単一指向性スピーカ・ユニットおよびスピーカアレイ
JP6251054B2 (ja) 2014-01-21 2017-12-20 キヤノン株式会社 音場補正装置及びその制御方法、プログラム
JP6613078B2 (ja) 2015-08-28 2019-11-27 キヤノン株式会社 信号処理装置及びその制御方法

Also Published As

Publication number Publication date
US9998822B2 (en) 2018-06-12
JP2017228978A (ja) 2017-12-28
US20170374453A1 (en) 2017-12-28

Similar Documents

Publication Publication Date Title
JP6789690B2 (ja) 信号処理装置、信号処理方法、及びプログラム
EP3320692B1 (en) Spatial audio processing apparatus
US8577054B2 (en) Signal processing apparatus, signal processing method, and program
US11310617B2 (en) Sound field forming apparatus and method
US9552840B2 (en) Three-dimensional sound capturing and reproducing with multi-microphones
KR101415026B1 (ko) 마이크로폰 어레이를 이용한 다채널 사운드 획득 방법 및장치
JP6613078B2 (ja) 信号処理装置及びその制御方法
KR101892564B1 (ko) 차동 사운드 재생
JP2017183902A (ja) 収音装置及びプログラム
CN112492445A (zh) 利用罩耳式耳机实现信号均衡的方法及处理器
EP3787311B1 (en) Sound image reproduction device, sound image reproduction method and sound image reproduction program
JP4116600B2 (ja) 収音方法、収音装置、収音プログラム、およびこれを記録した記録媒体
JP7362320B2 (ja) オーディオ信号処理装置、オーディオ信号処理方法及びオーディオ信号処理プログラム
JP7176316B2 (ja) 収音装置、プログラム及び方法
JP2019054340A (ja) 信号処理装置およびその制御方法
JP7175096B2 (ja) 収音装置、プログラム及び方法
Kashiwazaki et al. Attempt to improve the total performance of sound field reproduction system: Integration of wave-based methods and simple reproduction method
WO2021212287A1 (zh) 音频信号处理方法、音频处理装置及录音设备
CN112492446B (zh) 利用入耳式耳机实现信号均衡的方法及处理器
JP7176291B2 (ja) 収音装置、プログラム及び方法
KR101600195B1 (ko) 초지향성 빔포머식을 이용한 빔포밍 시스템 및 방법
JP4780497B2 (ja) 信号受信装置及び方法
JP2021132261A (ja) 複数のマイクロフォンの収音信号をミキシングする装置、プログラム及び方法
JP2017195581A (ja) 信号処理装置、信号処理方法およびプログラム

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190618

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200327

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200519

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201104

R151 Written notification of patent or utility model registration

Ref document number: 6789690

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151