JP5098176B2 - 音源方向判定方法及び装置 - Google Patents

音源方向判定方法及び装置 Download PDF

Info

Publication number
JP5098176B2
JP5098176B2 JP2006002284A JP2006002284A JP5098176B2 JP 5098176 B2 JP5098176 B2 JP 5098176B2 JP 2006002284 A JP2006002284 A JP 2006002284A JP 2006002284 A JP2006002284 A JP 2006002284A JP 5098176 B2 JP5098176 B2 JP 5098176B2
Authority
JP
Japan
Prior art keywords
sound source
frequency
phase difference
spectrum
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006002284A
Other languages
English (en)
Other versions
JP2007183202A (ja
Inventor
浩一 中込
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2006002284A priority Critical patent/JP5098176B2/ja
Priority to US11/651,682 priority patent/US20070160230A1/en
Publication of JP2007183202A publication Critical patent/JP2007183202A/ja
Application granted granted Critical
Publication of JP5098176B2 publication Critical patent/JP5098176B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/005Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones

Landscapes

  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Otolaryngology (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)

Description

本発明は、少なくとも2つのセンサを用いて音源の方向を判定する音源方向判定方法及び装置に関する。
たとえば、下記の特許文献1には、所定間隔に配置された2つのセンサにより得られた2チャンネルの音響信号を基に音の到来方向を特定する音到来方向検出方法(以下、従来技術)が記載されている。この従来技術の方法は、前記2チャンネルの音響信号における位相差スペクトルを求めるステップと、前記ステップで算出した位相差スペクトルの全てまたは一部を、原点を通る周波数に関する一次関数で近似し、当該一次関数の傾きから音源の方向を算出するステップとを含む。
図11〜図13は従来技術の概念図であって、図11は2つのマイクと音源との位置関係図、図12は2つのマイクから得られた音響信号の位相差スペクトルを示す図、図13は音源方向と位相差スペクトルとの対応関係図である。
図11において、2つのマイク1a、1bは、x軸上で距離Sを隔てて配置されており、一方のマイク1aの設置点をA点とし、他方のマイク1bの設置点をB点とする。また、両マイク1a、1bの間の中間距離S/2の地点を中間点Cとする。この中間点C上で、x軸に直角にy軸を設ける。前記中間点Cから音源(スピーカ)3までの線分と前記y軸とがなす角度をθとする。
また、前記x軸から音源3までのy軸に平行な長さをDとし、前記y軸から音源3までのx軸に平行な長さをΔxとする。前記音源3が置かれている点をE点とする。さらに、前記音源3のある地点を中心にして他方のマイク1bまでの長さを半径とする円を描き、その円と前記音源3から一方のマイク1aまでの線分との交点をFとする。この交点Fと一方のマイク1aまでの距離を行路差Δdとする。
今、2つのマイク1a、1bから得られる音響信号の位相差をΔφとすると、Δφは次式(1)に示すようになる。
Figure 0005098176
ただし、cは音速、fは周波数である。
前式(1)の両辺を周波数fで微分すると、
Figure 0005098176
を得る。この式(2)の左辺は行路差Δd、つまり、音の方向に依存し、行路差Δdの等しい音では一定値をとる。
ここで、特定の方向から到来する音では位相差の周波数特性は、図12に示すように周波数に関する一次関数になる。図12において、横軸は周波数f、縦軸は位相差Δφである。
式(2)からもわかるように、一次関数の傾きαは、行路差Δdと音速C(一定)によって決まるから、音の到来方向に応じて一次関数の傾きαは、式(2)で与えられるように変化するはずである。
この傾きの変化を角度θに応じて示したものが図13である。図13において、横軸は周波数〔Hz〕、縦軸は位相差Δφ〔度〕である。この図13では、代表的ないくつかの角度、たとえば、θ=−40〔度〕、θ=−20〔度〕、θ=−10〔度〕における傾きαを示している。ここで、描画上の都合で位相差は、+180〔度〕が−180〔度〕に一致する点を考慮して描いている。
音の周波数がゼロの場合、位相差もゼロとなるから、一次関数は必ず周波数ゼロのときに位相差もゼロの点(原点)を通ることになる。図13に示すように、角度θが大きくなるほど、傾きαが大きくなる様子がわかる。
音源3の方向と、前記一次関数の傾きαが一対一の関係で対応するならば、計測された位相差Δφの周波数特性から近似的な一次関数を見い出し、その一次関数の傾きαを求めれば、音源3の方向を判定することができる。
ここで、さらに前式(2)を変形すると、行路差Δdは、
Figure 0005098176
となる。この式(3)により、行路差Δdを求めることができ、行路差Δdから音源3の方向を幾何学的に求めることができる。
特開2003−337164号公報
しかしながら、上記の従来技術においては、所定間隔に配置された2つのマイクにより得られた2チャンネルの音響信号を基に音の到来方向を特定できる点で有益であるが、音の到来方向が複数にわたる場合、つまり、複数の音源が存在する場合に、各々の音の到来方向を判定することができないという問題点を有している。
この点の対策に関して、上記の特許文献1においては、その第二の発明(段落〔0074〕〜〔0103〕)で、「前記2チャンネルの音響信号における位相差スペクトルから推定可能な全ての音源方向の計算を行い、音源推定方向の周波数特性を求め、その求めた音源推定方向の周波数特性から周波数軸に平行な直線部分を抽出することにより、複数の音源の方向を特定することができる」としているが、この対策は、複数の音源の周波数帯域が明確に異なっていることが大前提であり、類似した複数の音源方向の推定精度に疑問がある。
すなわち、同文献では、「5KHz位をピークとし、5KHzの両側になだらかな斜面を持つ山のような駆動特性を呈する高域用スピーカ3a」と、「低域をピークとし、高域に向かって急激に減衰し、10KHzでほぼ音圧レベルが0となる駆動特性を呈する低域用スピーカ3b」とを音源とし、それらの音源(高域用スピーカ3a及び低域用スピーカ3b)を同時駆動したときにおいても、それらの音源の方向を推定できるとしているが、上記の前提に立たない場合、たとえば、上記の音源(高域用スピーカ3a及び低域用スピーカ3b)の代わりに、複数の人物の話し声(音声)を音源とした場合には、それらの音声は性別や声紋上の違いはあるものの、周波数帯域的には、上記のスピーカ(高域用スピーカ3a及び低域用スピーカ3b)程の大きな違いはないから、上記の従来技術にあっては、かかる実例において前提となる条件(複数の音源の周波数が明確に異なっていること)が成立せず、こうした類似した複数の音源方向の判定に充分な精度が得られないという問題点がある。
そこで、本発明は、複数の人物の音声などのように類似した複数の音源の方向を判定できるようにした音源方向判定方法及び装置を提供することにある。
請求項1記載の発明は、所定間隔に配置された二つのマイクにより得られた2チャンネルの音響信号を基に音の到来方向を特定する音源方向判定方法において、前記2チャンネルの音響信号における位相差スペクトルを求める第1のステップと、前記2チャンネルの音響信号の少なくともいずれか一方のパワースペクトラムを求める第2のステップと、前記パワースペクトラムのピークの中から、前記パワースペクトラムが極大値となる周波数から差分が所定値以内である周波数の範囲に対応するピークの極大値近傍部分を選択する選択ステップと、前記位相差スペクトラムのうち、前記選択されたピークの極大値近傍部分の周波数に対応する部分を、周波数に関して一次近似した関数である、一次近似関数の傾きを、推定可能な全ての音源方向が取りうる値の範囲で求める推定ステップと、前記求められた傾きの一次近似関数夫々について、当該一次近似関数を表わす直線に近い値を取る前記位相差スペクトル内のスペクトル値に対応する前記パワースペクトル内のパワー値が大きいほど、前記一次近似関数の評価を大きくするように評価する評価ステップと、前記評価の結果、評価値の大きい一次近似関数に基づいて、音源毎の音源方向を求める第3のステップとを含むことを特徴とする音源方向判定方法である。
請求項2記載の発明は、所定間隔に配置された二つのマイクにより得られた2チャンネルの音響信号を基に音の到来方向を特定する音源方向判定装置において、前記2チャンネルの音響信号における位相差スペクトルを求める位相差スペクトル生成手段と、前記2チャンネルの音響信号の少なくともいずれか一方のパワースペクトラムを求めるパワースペクトル生成手段と、前記パワースペクトラムのピークの中から、前記パワースペクトラムが極大値となる周波数から差分が所定値以内である周波数の範囲に対応するピークの極大値近傍部分を選択する選択手段と、前記位相差スペクトラムのうち、前記選択されたピークの極大値近傍部分の周波数に対応する部分を、周波数に関して一次近似した関数である、一次近似関数の傾きを、推定可能な全ての音源方向が取りうる値の範囲で求める音源方向推定手段と、前記求められた傾きの一次近似関数夫々について、当該一次近似関数を表わす直線に近い値を取る前記位相差スペクトル内のスペクトル値に対応する前記パワースペクトル内のパワー値が大きいほど、前記一次近似関数の評価を大きくするように評価する評価手段と、前記評価の結果、評価値の大きい一次近似関数に基づいて、音源毎の音源方向を求める音源方向特定手段とを備えたことを特徴とする音源方向判定装置である。
本発明では、2チャンネルの音響信号の位相差スペクトルを生成すると共に、同2チャンネルの音響信号の双方またはいずれか一方のパワースペクトルを生成し、これらの位相差スペクトラムとパワースペクトラムに基づき音源毎の音源方向(音の到来方向)を判定する。好ましい態様では、前記パワースペクトラムに基づき前記位相差スペクトラムの音源毎の寄与部分を判別することにより、音源毎の到来方向を判定する。または、前記パワースペクトラム依存項と位相差スペクトラム依存項の積に基づき前記位相差スペクトラムの音源毎の寄与部分を判別することにより、音源毎の到来方向を判定する。
このように、位相差スペクトルのみならず、パワースペクトルも考慮して音源毎の到来方向を判定するようにしたから、1つの音源はもちろんのこと、たとえば、人の声や楽器の音などの周波数帯域が重なり合った複数の音源についても、それらの音源方向を正しく判定できる。
以下、本発明の第一実施形態を、図面を参照しながら説明する。なお、以下の説明における様々な細部の特定ないし実例および数値や文字列その他の記号の例示は、本発明の思想を明瞭にするための、あくまでも参考であって、それらのすべてまたは一部によって本発明の思想が限定されないことは明らかである。また、周知の手法、周知の手順、周知のアーキテクチャおよび周知の回路構成等(以下「周知事項」)についてはその細部にわたる説明を避けるが、これも説明を簡潔にするためであって、これら周知事項のすべてまたは一部を意図的に排除するものではない。かかる周知事項は本発明の出願時点で当業者の知り得るところであるので、以下の説明に当然含まれている。
〔第一実施形態〕
図1(a)は、第一実施形態に係るの音源方向判定装置の概念的な構成図である。この図において、音源方向判定装置10は、各々ほぼ同一の特性で低域から高域までの広範囲な周波数範囲の音を検出して電気信号(以下、音響信号)に変換する無指向性または音源方向への同一指向性を有する2つのセンサ(第一センサ11及び第二センサ12)と、それらのセンサから出力された2つの音響信号S1、S2の各々を高速フーリエ変換する2つのFFT部(第一FFT部13及び第二FFT部14)と、第一FFT部13から出力された第一FFT信号S3と第二FFT部14から出力された第二FFT信号S4とに基づいて、それらのFFT信号S3、S4の位相差スペクトル信号S5を生成する位相差スペクトル信号生成部15と、第一FFT部13から出力された第一FFT信号S3と第二FFT部14から出力された第二FFT信号S4とに基づいて、それらのFFT信号S3、S4のパワースペクトル信号S6を生成するパワースペクトル信号生成部16と、前記位相差スペクトル信号S5及びパワースペクトル信号S6を用いて不図示の音源の方向を判定する音源方向判定部17とを含む。
ここで、位相差スペクトルとは、二つのFFT信号(図1の例では第一FFT信号S3と第二FFT信号S4)間における位相差の変化を周波数軸上に表したもののことをいう。たとえば、第一センサ11及び第二センサ12から等距離の地点(図11におけるy軸上の任意の地点)に広帯域の周波数範囲の音(便宜的にホワイトノイズ)を発生する音源が存在していたと仮定すると、この場合、第一FFT信号S3と第二FFT信号S4の間の位相差は、周波数軸の全体にわたって位相差ゼロとなるので、図12において、原点が位相差Δθ=0の点を通り、且つ、傾きαが0の一次関数となる。
一方、上記の音源が、第一センサ11及び第二センサ12から非等距離の地点(たとえば、図11における地点E)に位置した場合には、原点は変わらない(位相差Δθ=0の点を通る)ものの、一次関数の傾きαは、音源の地点Eと2つのセンサの中間地点Cとを結ぶ直線とy軸とのなす角度θに対応した大きさになる。たとえば、図13に示すように、θが−10〔度〕の場合には実線で示す小さな傾きαの一次関数となり、θが−20〔度〕の場合には一点鎖線で示す若干大きな傾きαの一次関数となり、θが−40〔度〕の場合には点線で示すより大きな傾きαの一次関数となる。したがって、要するに、θが大きくなるほど、傾きαが急になる一次関数が得られる。
音源が単一の場合、かかる位相差スペクトルの振る舞いを利用して、その方向を判定することができる。すなわち、上記の角度θは音源の方向を表し、且つ、角度θと一次関数の傾きαとの間には一定の関係が成立しているから、一次関数の傾きαを求めることによって、角度θ、つまり、音源の方向を判定することができる。
以上の点は、前記の特許文献1にも開示されており、この文献の技術においても、単一の音源であれば、その音源の方向(角度θ)を判定することができる。しかしながら、当該文献の技術は、周波数が類似した複数の音源に対応することができないという欠点を有している。複数音源から生成された位相差スペクトルは、図12や図13に例示されているような綺麗な直線(一次関数)にはならず、あたかもノイズの如き振る舞いでランダムに変化する複雑なスペクトル特性線を描くからである。なお、前述のとおり、当該文献の技術においては、周波数帯域が明確に異なる複数の音源の場合に、それらの音源の方向を判定することが可能であるとされているが、人の声のように周波数帯域が重なり合った複数の音源には対処することができない。複数音源の周波数帯域が重なり合っている場合は、上記のとおり、綺麗な直線(一次関数)にはならず、あたかもノイズの如きランダムに変化する複雑なスペクトル特性線を描くからである。
そこで、本第一実施形態においては、位相差スペクトルに加えて、パワースペクトルも利用することにより、周波数帯域が重なり合った複数音源についても、それらの音源の方向を判定できるようにしたものである。
パワースペクトルとは、信号中の周波数成分毎の強度(パワーまたは信号レベル)を周波数軸上に表したもののことをいう。スペクトルアナライザーと呼ばれる汎用計測器は、このパワースペクトルの分析装置であり、当該装置に測定対象信号を入力することにより、その画面上に、横軸を周波数、縦軸を周波数毎の信号強度としたパワースペクトルを表示することができる。
さて、純粋な単一周波数の信号、たとえば、特定周波数の理想的な正弦波信号を上記のスペクトルアナライザに入力した場合、当該特定周波数に対応した一つのピークだけを持つパワースペクトルが観測される。これに対して、人間の声や楽器の音、小鳥のさえずりなどの音源の信号は、単一周波数の信号ではなく、様々な周波数成分を含む信号であるから、それらの信号をスペクトラムアナライザで観測した場合には、信号中の各周波数成分毎のピークからなるパワースペクトルが観測される。
上記の「信号中の各周波数成分毎のピーク」は、最も低い周波数の基本波と、その基本波の整数倍の周波数の高調波とからなり、高調波は、基本波に近い順から第二高調波、第三高調波、第四高調波・・・・と呼ばれる。この呼び方は交流理論におけるものであるが、音楽等の分野では、これらは「基音」及び「倍音」とも呼ばれる。基音(第一倍音)は、上記の「信号中の各周波数成分毎のピーク」のうち最大のパワーを持つ周波数成分のことをいい、第二倍音、第三倍音、第四倍音・・・・は、その基音の整数倍の周波数成分を持つピークのことをいう。たとえば、楽器の“ド”は、C3を第一倍音、C4を第二倍音、C5を第四倍音、E5を第六倍音、G5を第六倍音・・・・とする音である。
ここで、第一の音源が“ド”の音、第二の音源が“レ”の音を発していたとすると、第一音源からの音は、周波数550.1Hzの基音と、その整数倍の周波数(1100.2Hz、1650.3Hz、2200.4Hz・・・・)の倍音とを含み、第二音源からの音は、周波数623.5Hzの基音と、その整数倍の周波数(1247.0Hz、1870.5Hz、2494.0Hz・・・・)の倍音とを含む。このように、倍音系列に着目すれば、互いに重なり合った周波数帯域のなかにあっても、ある周波数においてはどちらの音源からの寄与が大きいかを区別することができる。
本第一実施形態の音源方向判定装置10は、かかる原理に着目し、位相差スペクトルだけでなくパワースペクトルも利用することにより、周波数帯域が重なり合った複数の音源の方向を判定できるようにしたものである。
図1(b)は、音源方向判定部17の概念的な構成図である。この図において、音源方向判定部17は、倍音グループ化部17aと、位相差スペクトル分離部17bと、判定部17Cとを含む。
倍音グループ化部17aは、パワースペクトル生成部16で生成されたパワースペクトル信号S6に含まれる複数のピークを、音源ごとにグループ化する。このグループ化の考え方は、複数の音源は、前記のとおり、それぞれ基音と複数の倍音とからなり、基音の周波数と倍音の数並びにそれらの周波数は音源毎に違いがあるという事実の元に、パワースペクトル信号S6の複数のピークの周波数と周波数間隔(ピッチ)が一定のものを一つのグループとするものである。
位相差スペクトル分離部17bは、倍音グループ化部17aのグループ化の結果に従い、各グループのピークに対応した周波数に位置する位相差スペクトル成分を分離し、判定部17Cは、位相差スペクトル分離部17bで分離された各倍音グループ毎の位相差スペクトル成分に基づいて、各倍音グループ毎、すなわち、音源毎の方向を判定し、その判定結果を出力する。
倍音グループ化部17a、位相差スペクトル分離部17b及び判定部17Cの動作を具体的に説明する。
図2は、複数の音源(便宜的に第一音源18と第二音源19とする)と2つのセンサ(第一センサ11及び第二センサ12)との位置関係図である。ここで、2つのセンサ(第一センサ11及び第二センサ12)の間隔をSとし、その間隔Sの中間点をCとする。また、2つのセンサ(第一センサ11及び第二センサ12)の設置位置を通る直線をx軸、そのx軸上の中間点Cの垂線をy軸とする。さらに、第一音源18から中間点Cに直線20を引くと共に、第二音源19から中間点Cに直線21を引き、これらの直線20、21とy軸とのなす角度をそれぞれθa、θbとする。
このような位置関係において、今、第一音源18と第二音源19を、それぞれ人物の音声(説明の簡単化のために第一音源18は“ド”の音、第二音源19は“レ”の音)とすると、2つのセンサ(第一センサ11及び第二センサ12)は、これらの第一音源18と第二音源19の音(“ド”及び“レ”)を受け、それらの音を合成した音響信号S1、S2を出力し、第一FFT部13及び第二FFT部14は、それらの音響信号S1、S2の各々を高速フーリエ変換してFFT信号S3、S4を出力し、位相差スペクトル生成部15は、FFT信号S3、S4から位相差スペクトル信号S5を生成して出力し、パワースペクトル信号生成部16は、FFT信号S3、S4からパワースペクトル信号S6を生成して出力する。
図3は、位相差スペクトル生成部15及びパワースペクトル信号生成部16の出力信号特性図であって、図3(a)は、パワースペクトル信号S6を示す図、図3(b)は、位相差スペクトル信号S5を示す図である。
図3(a)において、縦軸はパワー(信号強度)、横軸は周波数であり、また、図3(b)において、縦軸は位相差、横軸は周波数である。図示の例の場合、位相差スペクトル信号S5は、複数の音源(第一音源18及び第二音源19)からの音の波が重畳または合成されているので、単一音源の時のような綺麗な直線(一次関数)の形になっていない。すなわち、あたかもノイズの如き振る舞いでランダムに変化する複雑なスペクトル特性線を描いている。このため、この位相差スペクトル信号S5だけでは、複数の音源(第一音源18及び第二音源19)の方向を判定できない。
他方、図3(a)のパワースペクトル信号S6に着目すると、このパワースペクトル信号S6は、周波数軸上に複数のピークを持っており、説明の便宜上、各々のピークを黒丸記号で表すことにすれば、これらのピークは、複数の音源(第一音源18及び第二音源19)からの音の基音と倍音にそれぞれ対応するはずである。
ここで、前記のとおり、第一音源18は“ド”の音、第二音源19は“レ”の音であるから、第一音源18と第二音源19の音の基音及び倍音は異なる。つまり、“ド”の基音の周波数を550.1Hz、“レ”の基音の周波数を623.5Hzとすると、第一音源18の音は、周波数550.1Hzの基音とその整数倍の周波数(1100.2Hz、1650.3Hz、2200.4Hz・・・・)の倍音とを含み、第二音源19の音は、周波数623.5Hzの基音とその整数倍の周波数(1247.0Hz、1870.5Hz、2494.0Hz・・・・)の倍音とを含む。
これらの基音及び倍音の周波数を周波数軸上に並べると、550.1Hz(1)、623.5Hz(2)、1100.2Hz(1)、1247.0Hz(2)、1650.3Hz(1)、1870.5Hz(2)、2200.4Hz(1)、2494.0Hz(2)・・・・となる。なお、( )内の数字は、第一音源18及び第二音源19を表しており、たとえば、550.1Hz(1)は、第一音源18の音の周波数である。
このように、図3(a)のパワースペクトル信号S6のピークは、周波軸に沿って第一音源18と第二音源19の各々が交互に現れる。以下、第一音源18の周波数のピークをP1_*(*は1、2、3・・・・)、第二音源19の周波数のピークをP2_*とする。
前述の「倍音グループ化」とは、パワースペクトル信号S6のピークの各々を、P1_*のグループとP2_*のグループとに分ける作業のことを言う。すなわち、P1_1、P1_2、P1_3・・・・の第一のグループと、P2_1、P2_2、P2_3・・・・の第二のグループとに分ける作業のことを言う。より具体的には、上記の例示に従えば、第一のグループは、基音の周波数550.1Hzのピークと、当該基音の周波数間隔をピッチとするピークとをまとめたものであり、第二のグループは、基音の周波数623.5Hzのピークと、当該基音の周波数間隔をピッチとするピークとをまとめたものである。
前記のとおり、位相差スペクトル分離部17bは、倍音グループ化部17aのグループ化の結果に従い、各グループのピークに対応した周波数に位置する位相差スペクトル成分を分離する。
図4は、位相差スペクトル成分分離の概念図である。この図において、パワースペクトル信号S6と位相差スペクトル信号S5は同一周波数軸上に揃えられている。パワースペクトル信号S6の各ピーク(P1_1、P2_1、P1_2、P2_2・・・・)から位相差スペクトル信号S5に向けて引かれている破線22〜25は、位相差スペクトル信号S5の分離位置を示すためのものであり、これらの破線22〜25と交わる位相差スペクトル信号S5の成分が分離対象の値となる。すなわち、図示の例においては、パワースペクトル信号S6のピークP1_1に対応して、当該周波数に位置する位相差スペクトル信号S5の成分S1_1が分離対象の値とされており、同様に、パワースペクトル信号S6のピークP2_1に対応して、当該周波数に位置する位相差スペクトル信号S5の成分S2_1が分離対象の値とされており、パワースペクトル信号S6のピークP1_2に対応して、当該周波数に位置する位相差スペクトル信号S5の成分S1_2が分離対象の値とされており、さらに、パワースペクトル信号S6のピークP2_2に対応して、当該周波数に位置する位相差スペクトル信号S5の成分S2_2が分離対象の値とされている。
既述のとおり、判定部17Cは、位相差スペクトル分離部17bで分離された各倍音グループ毎の位相差スペクトル成分(S1_1、S2_1、S1_2、S2_2・・・・)に基づいて、各倍音グループ毎、すなわち、第一音源18と第二音源19の方向をそれぞれ判定し、その判定結果を出力する。
図4に示す一点鎖線26、27は、判定部17Cにおける第一音源18と第二音源19の方向の判定概念を示すものであり、一方の一点鎖線26は、第一のグループの位相差スペクトル成分(S1_1、S1_2・・・・)を結んだもの、他方の一点鎖線27は、第二のグループの位相差スペクトル成分(S2_1、S2_2・・・・)を結んだものである。
これらの一点鎖線26、27は、図12及び図13における一次関数の直線に相当する。したがって、それらの一点鎖線26、27の傾きαから、第一音源18と第二音源19の方向を判定することができるのである。
以上のとおり、本第一実施形態によれば、位相差スペクトルのみならず、パワースペクトルも考慮して音源方向を判定するようにしたから、1つの音源はもちろんのこと、たとえば、人の声や楽器の音などの周波数特性が似通った複数の音源についても、それらの音源方向を正しく判定できるという格別有益な効果を奏することができる。
上記第一実施形態においてはパワースペクトラムの各ピークを音源毎にグループ化していた。次に、パワースペクトラムの各ピークがどちらの音源からのものであるかということを区別せずとも、音源方向を分離することができる実施形態について説明する。
〔第二実施形態〕
図5は、第二実施形態の構成図である。この図において、音源方向判定装置30は、それぞれマイクロフォンやADC等からなる二つのセンサ(第一音声入力部31及び第二音声入力部32)を備え、これらの第一音声入力部31及び第二音声入力部32は、不図示の音源からの音をデジタルの音響信号S1、S2に変換して出力する。音響信号S1、S2は、二つの直交変換部(第一直交変換部33及び第二直交変換部34)に入力され、これら二つの直交変換部(第一直交変換部33及び第二直交変換部34)は、デジタル化された2チャンネルの音響信号S1、S2を直交変換処理(フーリエ変換等)して周波数領域の信号(FFT信号S3、S4)に変換する。FFT信号S3、S4は、位相差算出部35に入力され、位相差算出部35は、第一直交変換部33及び第二直交変換部34から出力される二つのFFT信号S3、S4の実部及び虚部から両チャンネルのクロススペクトルスを算出し、このクロススペクトルから両チャンネルの位相差スペクトル信号S5を求める。また、一方の直交変換部(ここでは第二直交変換部34)から出力されるFFT信号S4は、振幅算出部36にも入力されており、この振幅算出部36は、片側のチャンネルから得られるFFT信号S4より、パワースペクトル信号S6を求める。このようにして求められた位相差スペクトル信号S5とパワースペクトル信号S6は、到来方評価部37に入力され、この到来方評価部37は、位相差スペクトル信号S5にパワースペクトル信号S6を考慮して一次関数の傾きαを評価し、その傾きαから音源の方向を決定する。
さて、冒頭の従来技術でも説明したように、2つのマイクで検出された2チャンネルの音響信号の位相差グラフの傾きから音源の方向を推定できることは既知である。
ここで、第一音声入力部31と第二音声入力部32から出力されるデジタル化された2つの音響信号S1、S2を時系列デジタルデータx(t)、y(t)で表すことにする。ただし、tは時間である。
第一直交変換部33及び第二直交変換部34は、入力された時系列デジタルデータx(t)、y(t)から時間的に一定の区間を切り出し、切り出された区間に対して窓関数(ハミング窓等)を乗算する。窓掛け後の区間に対して直交変換(FFT等)を行い周波数領域の係数xRe[f]、yRe[f]、xIm[f]、yIm[f]を得る。ただし、Reは実部、Imは虚部を示す添え字、fは周波数である。
位相差算出部35はクロススペクトルの虚部及び実部を以下の式を用いて求める。
実部:CRosRe[f]
=xRe[f]*yRe[f]+xIm[f]*yIm[f] ・・・・(4)
虚部:CRosIm[f]
=yRe[f]*xIm[f]−xRe[f]*yIm[f] ・・・・(5)
周波数iにおける信号x(t)、y(t)間の位相差C(f)は、クロスペクトルの実部と虚部のなす角度より、次式で求められる。
C[f]
=atan2(CRosRe[f],CRosIm[f]×180/π ・・・・(6)
振幅算出部36は、パワースペクトルを以下の式により求める。
P[f]
=sqRt(xRe[f]*xRe[f]+xIm[f]*xIm[f])・・・・(7)
パワー項を導入する意味は、次のとおりである。大抵の音源は基本ピッチ成分を元にした倍音を有している。フーリエ変換等の直交変換を行い、周波数領域でパワースペクトログラムで見ると、ピッチ周波数の定数倍の周波数成分パワー項にピーク(調波構造)を持つことが確認できる。パワーが小さい周波数部(倍音でない部分)は、音源からの影響が小さい部分であるといえる。同様に、パワーが小さい周波数部の位相成分も音源からの影響が小さいといえる。
さらに、2音のマイク信号のクロススペクトルグラム(2音の各周波数成分の位相差を表す)においても、同様にパワー項が小さい周波数成分の位相差も同様に音源からの影響は小さく、ある特定方向の一次の近似関数の評価に与えられる影響が小さいといえる。
このため、異なる方向から複数の音が到来する場合は、クロススペクトルの位相差は非常に乱れ、プロットした点は分散する。この中から有効な周波数のクロススペクトルの位相差値を選択して一次の近似関数の評価することが重要となる。クロススペクトル値の有効度をパワー値として考え、一方の音源方向を示す傾きkiにて近似関数を引いた際に、その直線に近い値をとるクロススペクトル値C[f]のパワー値P[f]値が大きければ大きいほど、近似関数の評価値も大きくなるように、P[f]値をもって重み付けを行えばよい。
異なる位置の別の音源から発生された音源は、そのピッチ周波数が同じということはほとんど無く、僅かでもずれている事が普通である。すなわち、複数音源が合成された信号のパワースペクトログラフもそれぞの音源の調波構造にしたがってピークを有する。一方、クロススペクトル値は、二つの信号間の各周波数における位相差を示しているので、異なる方向に複数音源がある場合はクロススペクトル値もそれらの方向に応じて分散する。
ここで、一方の音源方向を示す傾きkiでの1次の近似関数を想定する。その方向の音源の倍音構造に起因するパワーピーク周波数では、位相差C[f]自体も、想定された近似関数上にプロットされる。このプロットは、特にもう一方の音源の倍音構造ピーク値と離れた周波数部分でピークを持つ場合に顕著である。したがって、1次の近似関数を評価する際にパワー値P[f]が大きく、且つ、クロス値C[f]が近似直線に近い値を有利にすることが、よりよい評価値を与えることになる。
到来方向評価部37は、まず、計測された位相差C[f]及びP[f]から推定可能な全ての音源方向を計算する。具体的には、以下の評価関数式(式(8))に基づいて、傾きkiなる一次の近似関数の評価値Kiを求める。
Figure 0005098176
そして、推定可能な全ての音源方向がとりうる値の範囲でkiを振ってKiを求める。式(8)の右辺分母のki×f−C[f]の絶対値は、ある周波数fにおける傾きkiなる近似直線と位相差C[f]との距離を示す。したがって、距離が近いほど右辺値は大きな値となる。右辺分母のP[f]は、ある周波数fにおける振幅値を示し、振幅値が小さい程右辺値は小さな値となる。したがって、近似直線と位相差が近い値をとっても、振幅値が小さい場合の評価は小さくなる。この値をある周波数がf0〜fnの範囲で積算したものが評価値Kiとなる。
つまり、Kiは、ある傾きkiなる一次近似直線の評価に、振幅値による重み付けを考慮したものとなる。Ki値が大きいほど、傾きkiなる近似直線が正しい事を評価する値となる。
図6は、第二実施形態の実験模式図である。この実験模式図は、第一音声入力部31と第二音声入力部32の距離(マイク間距離L)を150mmとすると共に、音源Aの方向θAを5度に固定し、音源Bを時刻400ミリ秒から方向θB1で発生させ、時刻1000ミリ秒にかけて方向θB2へ移動して終了させた場合の実験例である。
図7は、実験結果を示す図である。Z軸がki値、X軸がki値からマイク間距離L=150mmで換算した到来角度値(度)を示し、ハミング窓680ミリ秒、fo=500Hz、fn=2000Hzで計算を行い、ZY平面にプロットした結果である。X軸は、ハミング窓を10ミリ秒単位でずらしながらZY平面をプロットした結果である。
この実験結果からも、左5度付近で音声が終止発生しつづけ、400ミリ秒付近から1400ミリ秒付近まで別の音源が発生し、且つ、その別の音源が移動していることが伺える。
なお、この実験においては、500Hz以下の音はマイク間距離に対して波長(500Hz=660mm)が長いため、正確にC[f]が求めにくいのでf0は500Hzに設定した。また、2000Hz以上の音はマイク間距離に対して波長が短すぎる(2000Hz=165mm)ので正確にC[f]が求められないことと、音声の倍音構造が短時間FFTで十分表現できるのが3000Hz(第二ホルマント以下)であること、高速化のために無用な計算は必要ないこと、以上により、fnは2000Hz以上の打ち切りを行った。
次に、第2実施形態の第1の変形例について述べる。前記の評価式(8)のP[f]を、次式(9)で示すPbi[f]で置き換える。
Pbi[f]=1または0〔1:P[f]≧Pthのとき、0:P[f]<Pthのとき〕・・・・(9)
この場合、しきい値Pthを超えた周波数部分についてのみ位相差スペクトラムを加算していくことになるためノイズ成分に攪乱されることが少なくなる。また、しきい値Pthを超えた部分についてはその寄与を定数としているため突出したピークに引きずられることも少なくなる。
次に、第2実施形態の第2の変形例について述べる。
図8は、倍音系列のホルマント変動の説明概念図である。人間の声は、発音する音の種類により、固有のホルマントを持ち、倍音系列のうちいくつかは低く抑えられてしまう。このため、前記の第2実施形態の場合は、低くなった倍音系列が充分に反映されない。
また、第2実施形態の第1変形例の場合は、一種のノーマライズ手法であるが、しきい値が高すぎたときには低く抑えられた倍音は切り捨てられてしまい、逆にしきい値が低すぎたときには倍音以外の部分まで入ってしまう。これを補うために、前記の評価式(8)のP[f]を、次式(10)で示すPfor[f]で置き換える。
Pfor[f]=P[f]または0〔P[f]:|f−fpk|<fthのとき、0:|f−fpk|≧fthのとき〕・・・・(10)
ここで、fpkはパワースペクトラム状の極大値(各ピーク値)をあたる周波数fである。この変形により各音源からの寄与部分をそのパワーに応じて取り込みつつノイズ部分の切り捨てが可能となる。
以上に述べた第2実施形態およびその変形例は以下の数式(式(11))の形にまとめることができる。
Figure 0005098176
Pwf[f]は、周波数毎のパワーを反映させるための関数である。Csp[f]は、音の到来方向を示す一次関数ki*fと位相差スペクトルとの一致度を示す関数である。ki*f−C[f]は、直線ki*fと曲線C[f]が一致するところで値が0となる。Cspはその逆数なので、ki*fとC[f]が一致する周波数fにおいて大きな値をとる。constは0での割り算(0除算)を防止するための定数である。また、このconstを小さくするほど変化が急峻になる。推定可能な全ての音源方向がとりうる値の範囲でkiを振ってKiを求め、さらにKiのピーク(極大値)を求めることで複数の音源方向を判定できる。
〔第三実施形態〕
図9は、第三実施形態の構成図である。この第三実施形態の音源方向判定装置40と第二実施形態の音源方向判定装置30との違いは、第三実施形態の音源方向判定装置40の振幅算出部36aは、両側のチャンネルから得られるFFT信号S3、S4より、両側のチャンネルの振幅値をそれぞれ求める点にあり、また、到来方評価部37aは、一次関数の傾きが正の時に片側のチャンネルの振幅値(パワースペクトル信号S6)を考慮し、負の時は他方のチャンネルの振幅値(パワースペクトル信号S6)を考慮して傾き評価する点にある。
図10は、複数音源の配置図である。この図に示すように、中心から左にある音源をx、右にある音源をyとして第二実施形態と同様に式(4)〜(6)により周波数位相差線図をプロットした場合は、左の音源の傾きkiは正の方向、右の音源の傾きkiは負の方向に現れる。
ここで、左に音源がある場合には、第一音声入力部31で得られる左音源成分の方が音源に近い分だけ第二音声入力部32で得られる左音源成分より大きな値となるので、第一音声入力部31から算出する振幅値をPL(f)とし、第二音声入力部32から得られる振幅値をPR(f)とすると、PL及びPR中の音源Aに起因する振幅成分は、PL>PRとなる。ただし、PL及びPRは、次の式で与えられる。
PL[f]
=sqRt(xRe[f]*xRe[f]+xIm[f]*xIm[f])
・・・・(12)
PR[f]
=sqRt(yRe[f]*yRe[f]+yIm[f]*yIm[f])
・・・・(13)
傾きkiが正の範囲の場合は、前記の評価式(式(8))の振幅値に、第一音声入力部31から得られる振幅値PL(f)を用い、第二音声入力部32から得られる振幅値PR(f)を用いる。
この第三実施形態では、評価値kiの計算時に、それぞれ音源成分に近い方のマイク(第一音声入力部31または第二音声入力部32)から得られる振幅値を用いることにより、音源のより大きい方を到来方向とするIID(両耳間強度差)効果を併せ持つという効果がある。
図1(a)は、第一実施形態に係るの音源方向判定装置の概念的な構成図、図1(b)は、音源方向判定部17の概念的な構成図である。 複数の音源(便宜的に第一音源18と第二音源19とする)と2つのセンサ(第一センサ11及び第二センサ12)との位置関係図である。 図3(a)は、パワースペクトル信号S6を示す図、図3(b)は、位相差スペクトル信号S5を示す図である。 位相差スペクトル成分分離の概念図である。 第二実施形態の構成図である。 第二実施形態の実験模式図である。 実験結果を示す図である。 倍音系列のホルマント変動を考慮したPfor(f)の説明概念図である。 第三実施形態の構成図である。 複数音源の配置図である。 2つのマイクと音源との位置関係図である。 2つのマイクから得られた音響信号の位相差スペクトルを示す図である。 音源方向と位相差スペクトルとの対応関係図である。
符号の説明
11 第一センサ(マイク)
12 第二センサ(マイク)
10 音源方向判定装置
15 位相差スペクトル信号生成部(位相差スペクトル生成手段)
16 パワースペクトル信号生成部(パワースペクトル生成手段)
17c 判定部(音源方向特定手段)

Claims (2)

  1. 所定間隔に配置された二つのマイクにより得られた2チャンネルの音響信号を基に音の到来方向を特定する音源方向判定方法において、
    前記2チャンネルの音響信号における位相差スペクトルを求める第1のステップと、
    前記2チャンネルの音響信号の少なくともいずれか一方のパワースペクトラムを求める第2のステップと、
    前記パワースペクトラムのピークの中から、前記パワースペクトラムが極大値となる周波数から差分が所定値以内である周波数の範囲に対応するピークの極大値近傍部分を選択する選択ステップと、
    前記位相差スペクトラムのうち、前記選択されたピークの極大値近傍部分の周波数に対応する部分を、周波数に関して一次近似した関数である、一次近似関数の傾きを、推定可能な全ての音源方向が取りうる値の範囲で求める推定ステップと、
    前記求められた傾きの一次近似関数夫々について、当該一次近似関数を表わす直線に近い値を取る前記位相差スペクトル内のスペクトル値に対応する前記パワースペクトル内のパワー値が大きいほど、前記一次近似関数の評価を大きくするように評価する評価ステップと、
    前記評価の結果、評価値の大きい一次近似関数に基づいて、音源毎の音源方向を求める第3のステップと
    を含むことを特徴とする音源方向判定方法。
  2. 所定間隔に配置された二つのマイクにより得られた2チャンネルの音響信号を基に音の到来方向を特定する音源方向判定装置において、
    前記2チャンネルの音響信号における位相差スペクトルを求める位相差スペクトル生成手段と、
    前記2チャンネルの音響信号の少なくともいずれか一方のパワースペクトラムを求めるパワースペクトル生成手段と、
    前記パワースペクトラムのピークの中から、前記パワースペクトラムが極大値となる周波数から差分が所定値以内である周波数の範囲に対応するピークの極大値近傍部分を選択する選択手段と、
    前記位相差スペクトラムのうち、前記選択されたピークの極大値近傍部分の周波数に対応する部分を、周波数に関して一次近似した関数である、一次近似関数の傾きを、推定可能な全ての音源方向が取りうる値の範囲で求める音源方向推定手段と、
    前記求められた傾きの一次近似関数夫々について、当該一次近似関数を表わす直線に近い値を取る前記位相差スペクトル内のスペクトル値に対応する前記パワースペクトル内のパワー値が大きいほど、前記一次近似関数の評価を大きくするように評価する評価手段と、
    前記評価の結果、評価値の大きい一次近似関数に基づいて、音源毎の音源方向を求める音源方向特定手段と
    を備えたことを特徴とする音源方向判定装置。
JP2006002284A 2006-01-10 2006-01-10 音源方向判定方法及び装置 Expired - Fee Related JP5098176B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006002284A JP5098176B2 (ja) 2006-01-10 2006-01-10 音源方向判定方法及び装置
US11/651,682 US20070160230A1 (en) 2006-01-10 2007-01-10 Device and method for determining sound source direction

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006002284A JP5098176B2 (ja) 2006-01-10 2006-01-10 音源方向判定方法及び装置

Publications (2)

Publication Number Publication Date
JP2007183202A JP2007183202A (ja) 2007-07-19
JP5098176B2 true JP5098176B2 (ja) 2012-12-12

Family

ID=38232776

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006002284A Expired - Fee Related JP5098176B2 (ja) 2006-01-10 2006-01-10 音源方向判定方法及び装置

Country Status (2)

Country Link
US (1) US20070160230A1 (ja)
JP (1) JP5098176B2 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB0720473D0 (en) * 2007-10-19 2007-11-28 Univ Surrey Accoustic source separation
JP5195652B2 (ja) * 2008-06-11 2013-05-08 ソニー株式会社 信号処理装置、および信号処理方法、並びにプログラム
US8724829B2 (en) 2008-10-24 2014-05-13 Qualcomm Incorporated Systems, methods, apparatus, and computer-readable media for coherence detection
KR101519104B1 (ko) 2008-10-30 2015-05-11 삼성전자 주식회사 목적음 검출 장치 및 방법
US8620672B2 (en) * 2009-06-09 2013-12-31 Qualcomm Incorporated Systems, methods, apparatus, and computer-readable media for phase-based processing of multichannel signal
JP5368272B2 (ja) * 2009-11-20 2013-12-18 ジェイ・アール・シー特機株式会社 音響信号処理装置
US8897455B2 (en) * 2010-02-18 2014-11-25 Qualcomm Incorporated Microphone array subset selection for robust noise reduction
US9794678B2 (en) * 2011-05-13 2017-10-17 Plantronics, Inc. Psycho-acoustic noise suppression
US8818800B2 (en) * 2011-07-29 2014-08-26 2236008 Ontario Inc. Off-axis audio suppressions in an automobile cabin
JP5826582B2 (ja) * 2011-10-13 2015-12-02 株式会社熊谷組 音源方向推定方法、音源方向推定装置、及び、音源推定用画像の作成装置
US8768275B2 (en) * 2011-11-10 2014-07-01 National Instruments Corporation Spectral averaging
TR201807219T4 (tr) * 2012-01-17 2018-06-21 Koninklijke Philips Nv Audio kaynağı konum tahmini
WO2013156818A1 (en) 2012-04-19 2013-10-24 Nokia Corporation An audio scene apparatus
KR102324283B1 (ko) * 2015-07-31 2021-11-12 현대오토에버 주식회사 듀얼 마이크를 이용한 위상오류필터 기반의 음원 방향 검출 시스템 및 그 방법
US9858403B2 (en) 2016-02-02 2018-01-02 Qualcomm Incorporated Liveness determination based on sensor signals
WO2019171580A1 (ja) * 2018-03-09 2019-09-12 日本電気株式会社 信号源識別装置、信号源識別方法、プログラム
TWI811685B (zh) * 2021-05-21 2023-08-11 瑞軒科技股份有限公司 會議室系統及音訊處理方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3070581B2 (ja) * 1998-07-07 2000-07-31 日本電気株式会社 パッシブソーナーの目標特徴素抽出方法、目標推定方法及び装置
JP2000035474A (ja) * 1998-07-17 2000-02-02 Fujitsu Ltd 音源位置検出装置
US7215786B2 (en) * 2000-06-09 2007-05-08 Japan Science And Technology Agency Robot acoustic device and robot acoustic system

Also Published As

Publication number Publication date
US20070160230A1 (en) 2007-07-12
JP2007183202A (ja) 2007-07-19

Similar Documents

Publication Publication Date Title
JP5098176B2 (ja) 音源方向判定方法及び装置
US8767978B2 (en) System and method for processing sound signals implementing a spectral motion transform
De La Cuadra et al. Efficient pitch detection techniques for interactive music
EP0566131B1 (en) Method and device for discriminating voiced and unvoiced sounds
JP4177452B2 (ja) 音源位置検知装置
US8949118B2 (en) System and method for robust estimation and tracking the fundamental frequency of pseudo periodic signals in the presence of noise
KR20060042966A (ko) 음원 신호 분리 장치 및 방법, 및 피치 검출 장치 및 방법
JP2004538525A (ja) 周波数分析によるピッチ判断方法および装置
JP2008236077A (ja) 目的音抽出装置,目的音抽出プログラム
JP2006195449A (ja) 声質判定装置、声質判定方法、および声質判定プログラム
JP2005266797A (ja) 音源信号分離装置及び方法、並びにピッチ検出装置及び方法
JP4654621B2 (ja) 音声処理装置およびプログラム
Benetos et al. Auditory spectrum-based pitched instrument onset detection
JP4119112B2 (ja) 混合音の分離装置
Bonada Wide-band harmonic sinusoidal modeling
Coyle et al. Onset detection using comb filters
JPWO2008001779A1 (ja) 基本周波数推定法および音響信号推定システム
Dziubiński et al. High accuracy and octave error immune pitch detection algorithms
Beauchamp Comparison of vocal and violin vibrato with relationship to the source/filter model
Danayi et al. A novel algorithm based on time-frequency analysis for extracting melody from human whistling
Blandin et al. Influence of speech sound spectrum on the computation of octave band directivity patterns
Bucci et al. Non-impulsive signal deconvolution for computation of violin impulse responses
Lee et al. Adversarial audio synthesis using a harmonic-percussive discriminator
TW201142820A (en) Acoustical wave identification system and the method thereof
JP5495858B2 (ja) 音楽音響信号のピッチ推定装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110506

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110623

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110729

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110920

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120227

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20120305

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120417

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120828

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120910

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151005

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5098176

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees