JP4662912B2 - 反響のある環境での音源定位に適当な測定ウィンドウの決定 - Google Patents

反響のある環境での音源定位に適当な測定ウィンドウの決定 Download PDF

Info

Publication number
JP4662912B2
JP4662912B2 JP2006352183A JP2006352183A JP4662912B2 JP 4662912 B2 JP4662912 B2 JP 4662912B2 JP 2006352183 A JP2006352183 A JP 2006352183A JP 2006352183 A JP2006352183 A JP 2006352183A JP 4662912 B2 JP4662912 B2 JP 4662912B2
Authority
JP
Japan
Prior art keywords
envelope
signal
smoothing
sound source
source localization
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006352183A
Other languages
English (en)
Other versions
JP2007183637A5 (ja
JP2007183637A (ja
Inventor
フランク・ジョブリン
マーティン・ヘックマン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Research Institute Europe GmbH
Original Assignee
Honda Research Institute Europe GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Research Institute Europe GmbH filed Critical Honda Research Institute Europe GmbH
Publication of JP2007183637A publication Critical patent/JP2007183637A/ja
Publication of JP2007183637A5 publication Critical patent/JP2007183637A5/ja
Application granted granted Critical
Publication of JP4662912B2 publication Critical patent/JP4662912B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/18Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using ultrasonic, sonic, or infrasonic waves
    • G01S5/22Position of source determined by co-ordinating a plurality of position lines defined by path-difference measurements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/80Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using ultrasonic, sonic or infrasonic waves
    • G01S3/802Systems for determining direction or deviation from predetermined direction
    • G01S3/808Systems for determining direction or deviation from predetermined direction using transducers spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems
    • G01S3/8083Systems for determining direction or deviation from predetermined direction using transducers spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems determining direction of source

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
  • Stereophonic System (AREA)

Description

本発明は、部屋の残響を含む音声信号の音源定位用の最適測定ウィンドウを判定する技法に関する。この技法は、たとえば、反響のある環境での音源のロバストな定位に使用することができる。しかし、本発明は、音響の分野に限定されるのではなく、圧力センサから発する信号などの他の信号にも適用することができる。
音源定位に対またはアレイのマイクロホンを使用する時に、異なるキュー(cue、きっかけ、手がかり)を定位に使用することができる。最も一般的なキューは、
・到達の時間遅れ(Time Delay of Arrival,TDOA)または両耳間時間差(Interaural Time Difference,ITD)すなわち、異なるマイクロホンへの音波の伝搬時間の差と、
・両耳間強度差(Interaural Intensity Difference,IID)すなわち、音声経路内の、減衰を引き起こす障壁(たとえば、人工頭)に起因する、異なるマイクロホンでの音声信号の強度の差と、
・両耳間包絡線の差(Interaural Envelope Difference,IED)すなわち、分解されていない高調波(unresolved harmonics)の包絡線信号で測定される伝搬時間の差と
である。
上で述べたキューは、部屋の反射によって激しく劣化する。この場合に、音声信号は、直接経路および、さらに、反射によって引き起こされる間接経路として存在する。これらの反射は、長い経路を横切らなければならないために、直接経路の後にマイクロホンに達する。これらの反射の結果として、源位置の測定が、激しく損なわれる。時間的キュー(たとえば、ITD)の場合には、実際の信号の時間遅れではなく、残響と信号の間の遅れが測定される。強度ベースのキューの場合には、残響が、直接信号の強度に加算される。
一般的な手法で、時間的キューは、マイクロホン信号の間の相互相関によって判定される。この場合に、1つの手法は、すべての時間事例でのキューの評価と、その後の、信頼性判定基準、たとえば相関の主ピークと追加ピークとの間の比に基づく測定値の選択とにある。他の手法に、相関関数の重み付けが含まれる。
音響心理学的発見によって動機付けられた手法は、信号のオンセット(onset、音符または音の始まり)でのみキューを評価し、固定された時間スパンの間のすべての後続測定を抑止することである。残響なしの直接が、残響の前にマイクロホンに飛び込むという前述の事実に、この手法の正当化を見つけることができる。したがって、オンセットの直後の、信号の早期の部分には、反響が含まれない。この方法は、同一の原理によって強度ベースのキューにも適用することができる。前述の測定は、全帯域信号にまたはサブバンド内でのいずれかで適用することができる。
したがって、反響のある環境での音源定位に適当な測定ウィンドウを決定する手法が必要とされる。
本発明による音源定位の方法の一実施形態は、信号の包絡線を計算するステップと、包絡線の、オンセットを保存する非線形平滑化を実行するステップと、平滑化がその上昇相からその下降相に変化する点を測定点として使用して、音源定位のキューを評価するステップとを含む。
追加の抑制係数を、より小さい最大値にすぐに続くより大きい最大値を抑制するのに使用することができる。平滑化の時定数と抑制係数とを、部屋特性の測定に基づいて適応式に決定することができる。
平滑化を、一次無限インパルス応答(IIR)フィルタによって実行することができる。この計算を、対数領域で実行することができる。
音源定位のキューは、到達の時間遅れ(TDOA)または両耳間時間差(ITD)と、両耳間強度差(IID)と、両耳間包絡線の差(IED)とを含むことができる。
さらに、測定ウィンドウを、測定点に基づいて形成することができる。測定ウィンドウの長さは、固定されている、または滑らかな包絡線信号によって決定されるのいずれかとすることができる。
入力信号は、帯域通過信号とすることができる。包絡線は、分解されていない高調波の包絡線変調の包絡線とすることができる。
本発明は、オンセットよりも厳密に信号のダイナミックスに従う、信号の包絡線の最大値に基づく判定基準を使用する。特に、オンセットを使用する時に適用される固定された抑止ウィンドウは、より柔軟で信号に依存する抑止ウィンドウにおきかえられる。さらに、本発明は、信号の上昇時間に関する閾値または信号の振幅に関する閾値によらない。本発明は、定位キューを計算する方法(たとえば、自己相関またはゼロ交差)によらない。
提案される方法は、帯域ろ過から導出されるサブバンド内と同様に全帯域信号に適用することができる。
提案される方法は、IED計算に使用される分解されていない高調波の包絡線変調の包絡線にも適用される。
本発明のさらなる態様、効果、および利益は、添付図面と共に次の詳細な説明を調べる時に明白になるであろう。
本発明の第1の態様によれば、入力信号の非線形平滑化が提案される。x(k)が入力信号であり、x(k)が平滑化された包絡線であるものとすると、
Figure 0004662912
であり、ここで、τは、時定数を表す。
図1に、非線形平滑化の効果と、測定点がどのように計算されるかとを示す。信号110は、マイクロホン信号とすることができる。この信号110から、包絡線120が計算される。
図からわかるように、非線形平滑化から生じる信号130すなわち滑らかな包絡線130は、元の包絡線120と共に上昇し、ピーク(極大値)の後に時定数τに従って下降する。滑らかな包絡線130が上昇してピークに達して、元の包絡線120が滑らかな包絡線130の下になるよう滑らかな包絡線130が変化する各点が、定位キューの測定点となる。きいピークにすぐに続く相対的に小さいピークでは、滑らかな包絡線130に上昇するフェーズが現れない図の横軸の0.17秒の箇所で比較されたい)ので、測定点を生成しないことに留意されたい。
したがって、平滑化された包絡線は、必ず、元の包絡線と同様にすばやく上昇するが、よりゆっくりと下降する。どれほど速く下降するかは、時定数τによって決定される。その結果、元の包絡線のオンセットは、保存されるが、オンセットの後の信号部分について、平滑化がおこなわれる。この例では、平滑化は、一次無限インパルス応答(IIR)フィルタを介して実行されるが、他のタイプの平滑化フィルタを適用することもできる。
次に、定位キューの測定点kは、滑らかな包絡線が上昇相から下降相に変化し、したがって入力包絡線が滑らかな包絡線の下になる点によって定義される。
=∀k : x(k−1)>x(k)∧x(k−1)≦x(k−1)
これらの点140、150、および160は、必ず、入力包絡線の極大の直後に現れる。しかし、入力包絡線のすべての最大値が、測定点をもたらすわけではない。滑らかな包絡線信号を超える最大値だけが、測定点になる。その結果、より大きい最大値に続くより小さい最大値は、測定点を生成しない。それを行うことによって、このアルゴリズムは、続く最大値が、前の最大値より小さく、まもなく続く場合に、その続く最大値が、残響によって大きく影響されることを考慮に入れる。これは、最大値の発生の後の抑制期間になる。前に述べた、従来技術を表すアルゴリズムとは対照的に、この抑制相は、固定されているのではなく、信号依存である。特に、大きい最大値がより小さい最大値のすぐ後に続く場合に、このより大きい最大値も、測定点を生成する。
この平滑化は、アレイのすべてのマイクロホン信号について実行され、マイクロホン信号ごとに1つの測定点をもたらさなければならない。どの測定点を最終的な測定に使用するかは、測定点の時間的な順序付けと、マイクロホンの構成とによって決定される。
必ず、異なる信号の最初の測定点が使用され、ここで、最初とは、マイクロホン構成によって決定される最大TDOAによって与えられる値だけ、最大値で他の測定点に続いていることを意味する。
測定点が生成される時に、滑らかな包絡線に、初期包絡線に抑制係数θを乗じた値をセットすることができる。
Figure 0004662912
抑制係数θは、前の最大値よりわずかに大きいだけの最大値を抑制するために導入することができる。これは、前の最大値よりわずかに大きいだけであるこれらの最大値が、残響によって強く影響されてもいる場合があることの発見を反映したものである。
時定数τおよび抑制項θは、部屋の影響を反映する。定数τおよびθは、部屋特性(たとえば、残響時間)の推定値に基づいて適合させることができる。
図2に、追加の抑制項θの効果を示す。
図からわかるように、滑らかな包絡線信号230は、測定点240および250で元の包絡線信号220の上に上昇、その後、この持ち上げられた値からゆっくりと下降する。その結果、0.09秒の最大値に続く0.13秒の最大値は、振幅においてより大きいが、測定点を作らず、したがって抑止される。対照的に、0.09秒の最大値は、0.03秒にある前の最大値がかなりより小さいので、測定点250を生成する。
このアルゴリズムの性能は、包絡線信号の平滑化が対数領域で実行される場合に、さらに改善することができる。したがって、まず、信号包絡線の対数を計算することが有益である。包絡線の負の値を避けるために、最小の期待される信号レベルの対数を、結果の信号から引くことができる。
測定点から生じる測定のロバスト性を高めるために、点ではなく測定ウィンドウを使用することができる。測定ウィンドウの位置は、測定点の位置に基づくものとすることができる。これは、測定点を含む必要はないが、信号内の基準点として測定点を使用する。この測定ウィンドウは、固定サイズとする、または滑らかな包絡線信号に基づいて(たとえば、最後の最小値から現在の測定点まで)サイズを決定する、いずれかとすることができる。
非線形平滑化の効果と、測定点がどのように計算されるかとを示す図である。 追加の抑制項θの効果を示す図である。
符号の説明
110 信号
120 包絡線
130 平滑化
140、150、160 測定点

Claims (13)

  1. 信号(110)の包絡線(120)を計算するステップと、
    前記包絡線(120)の、オンセットを保存する非線形な平滑化を実行するステップと、
    前記平滑化された包絡線(130)がその上昇からその下降に変化する点を測定点(140、150、160)として使用して、音源定位のキューを評価するステップと、を含み、
    前記平滑化が、
    Figure 0004662912
    によって定義される関数によって実行され、ここで、τが、時定数を表す、音源定位の方法。
  2. 前記平滑化が、追加の抑制係数(θ)を使用する、請求項1に記載の方法。
  3. 記平滑化が、
    Figure 0004662912
    によって定義される関数によって実行される、請求項に記載の方法。
  4. 前記平滑化の前記時定数(τ)と前記抑制係数(θ)とが、部屋特性の測定に基づいて適応的に決定される、請求項2またはに記載の方法。
  5. 前記計算が、対数領域で実行される、請求項1からのいずれか一項に記載の方法。
  6. 音源定位の前記キューが、
    到達の時間遅れ(TDOA)と、
    両耳間強度差(IID)と、
    両耳間包絡線の差(IED)と
    のうちの1つまたは複数を含む、請求項1からのいずれか一項に記載の方法。
  7. 前記測定点に基づいて測定ウィンドウを形成するステップをさらに含む、請求項1に記載の方法。
  8. 前記測定ウィンドウの長さが、固定されている、請求項に記載の方法。
  9. 前記測定ウィンドウの長さが、滑らかな包絡線信号によって決定される、請求項に記載の方法。
  10. 前記信号が、帯域通過信号である、請求項1に記載の方法。
  11. 前記包絡線が、分解されていない高調波の包絡線変調の包絡線である、請求項1に記載の方法。
  12. 前記平滑化が、一次無限インパルス応答(IIR)フィルタによって実行される、請求項1に記載の方法。
  13. コンピュータで実行される時に、請求項1から12のいずれかに記載の方法を実現する、コンピュータ・ソフトウェア・プログラ
JP2006352183A 2006-01-09 2006-12-27 反響のある環境での音源定位に適当な測定ウィンドウの決定 Expired - Fee Related JP4662912B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
EP06000319A EP1806593B1 (en) 2006-01-09 2006-01-09 Determination of the adequate measurement window for sound source localization in echoic environments

Publications (3)

Publication Number Publication Date
JP2007183637A JP2007183637A (ja) 2007-07-19
JP2007183637A5 JP2007183637A5 (ja) 2011-01-06
JP4662912B2 true JP4662912B2 (ja) 2011-03-30

Family

ID=36096338

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006352183A Expired - Fee Related JP4662912B2 (ja) 2006-01-09 2006-12-27 反響のある環境での音源定位に適当な測定ウィンドウの決定

Country Status (4)

Country Link
US (1) US8150062B2 (ja)
EP (1) EP1806593B1 (ja)
JP (1) JP4662912B2 (ja)
DE (1) DE602006001051T2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103796150B (zh) * 2012-10-30 2017-02-15 华为技术有限公司 音频信号的处理方法、装置及系统
US10616705B2 (en) 2017-10-17 2020-04-07 Magic Leap, Inc. Mixed reality spatial audio
CN111713091A (zh) 2018-02-15 2020-09-25 奇跃公司 混合现实虚拟混响
JP7446420B2 (ja) * 2019-10-25 2024-03-08 マジック リープ, インコーポレイテッド 反響フィンガプリント推定

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003270034A (ja) * 2002-03-15 2003-09-25 Nippon Telegr & Teleph Corp <Ntt> 音情報解析方法、装置、プログラム、および記録媒体
JP2006084974A (ja) * 2004-09-17 2006-03-30 Nissan Motor Co Ltd 音声入力装置
JP2008542798A (ja) * 2005-05-05 2008-11-27 株式会社ソニー・コンピュータエンタテインメント コンピュータ対話型処理と共に使用する選択的音源聴音
JP2009509362A (ja) * 2005-06-24 2009-03-05 ネイダーランゼ、オルガニザティー、ボー、トゥーゲパストナトゥールウェテンシャッペルーク、オンダーツォーク、ティーエヌオー 複数の音源によって放射される信号から音響信号を抽出するためのシステムおよび方法。

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4207623A (en) * 1955-02-08 1980-06-10 The United States Of America As Represented By The Secretary Of The Navy Acoustic mine mechanism
US3838593A (en) * 1972-11-06 1974-10-01 Exxon Research Engineering Co Acoustic leak location and detection system
US4581758A (en) * 1983-11-04 1986-04-08 At&T Bell Laboratories Acoustic direction identification system
US4628529A (en) * 1985-07-01 1986-12-09 Motorola, Inc. Noise suppression system
SE456279B (sv) * 1986-09-16 1988-09-19 Bost & Co Ab Sett och anordning for att tidsbestemma en akustisk puls
US5325436A (en) * 1993-06-30 1994-06-28 House Ear Institute Method of signal processing for maintaining directional hearing with hearing aids
US5729612A (en) * 1994-08-05 1998-03-17 Aureal Semiconductor Inc. Method and apparatus for measuring head-related transfer functions
US6990205B1 (en) * 1998-05-20 2006-01-24 Agere Systems, Inc. Apparatus and method for producing virtual acoustic sound
US6826284B1 (en) * 2000-02-04 2004-11-30 Agere Systems Inc. Method and apparatus for passive acoustic source localization for video camera steering applications
US7076433B2 (en) * 2001-01-24 2006-07-11 Honda Giken Kogyo Kabushiki Kaisha Apparatus and program for separating a desired sound from a mixed input sound
US20030035553A1 (en) * 2001-08-10 2003-02-20 Frank Baumgarte Backwards-compatible perceptual coding of spatial cues
GB0120450D0 (en) * 2001-08-22 2001-10-17 Mitel Knowledge Corp Robust talker localization in reverberant environment
EP1881486B1 (en) * 2002-04-22 2009-03-18 Koninklijke Philips Electronics N.V. Decoding apparatus with decorrelator unit
US7333622B2 (en) * 2002-10-18 2008-02-19 The Regents Of The University Of California Dynamic binaural sound capture and reproduction
FI118247B (fi) * 2003-02-26 2007-08-31 Fraunhofer Ges Forschung Menetelmä luonnollisen tai modifioidun tilavaikutelman aikaansaamiseksi monikanavakuuntelussa
EP1586421B1 (en) 2004-04-16 2008-03-05 Honda Research Institute Europe GmbH Self-calibrating orienting system for a manipulating device
EP1600791B1 (en) 2004-05-26 2009-04-01 Honda Research Institute Europe GmbH Sound source localization based on binaural signals
JP2006060720A (ja) * 2004-08-24 2006-03-02 Hitachi Ltd 集音システム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003270034A (ja) * 2002-03-15 2003-09-25 Nippon Telegr & Teleph Corp <Ntt> 音情報解析方法、装置、プログラム、および記録媒体
JP2006084974A (ja) * 2004-09-17 2006-03-30 Nissan Motor Co Ltd 音声入力装置
JP2008542798A (ja) * 2005-05-05 2008-11-27 株式会社ソニー・コンピュータエンタテインメント コンピュータ対話型処理と共に使用する選択的音源聴音
JP2009509362A (ja) * 2005-06-24 2009-03-05 ネイダーランゼ、オルガニザティー、ボー、トゥーゲパストナトゥールウェテンシャッペルーク、オンダーツォーク、ティーエヌオー 複数の音源によって放射される信号から音響信号を抽出するためのシステムおよび方法。

Also Published As

Publication number Publication date
DE602006001051T2 (de) 2009-07-02
US20070160241A1 (en) 2007-07-12
EP1806593B1 (en) 2008-04-30
US8150062B2 (en) 2012-04-03
EP1806593A1 (en) 2007-07-11
DE602006001051D1 (de) 2008-06-12
JP2007183637A (ja) 2007-07-19

Similar Documents

Publication Publication Date Title
JP6431884B2 (ja) シングルチャンネル音声残響除去方法及びその装置
CA2827326C (en) Apparatus and method for determining a measure for a perceived level of reverberation, audio processor and method for processing a signal
Gaubitch et al. Performance comparison of algorithms for blind reverberation time estimation from speech
JP6019969B2 (ja) 音響処理装置
KR102651085B1 (ko) 드라이 사운드 및 주변 사운드 분리
JP5645419B2 (ja) 残響除去装置
De Cesaris et al. Extraction of the envelope from impulse responses using pre-processed energy detection for early decay estimation
JP4662912B2 (ja) 反響のある環境での音源定位に適当な測定ウィンドウの決定
JP2014115377A (ja) 音響処理装置
CN110636408B (zh) 用于抑制音频信号中的声音混响的方法
JP5915281B2 (ja) 音響処理装置
JP5627440B2 (ja) 音響装置及びその制御方法、プログラム
JP2004078021A (ja) 収音方法、収音装置、および収音プログラム
Jan et al. Blind reverberation time estimation based on Laplace distribution
RU2751760C2 (ru) Захват аудио с использованием формирования диаграммы направленности
KR101073632B1 (ko) 반향 환경에서의 영교차 기반 다음원 국지화 방법 및 장치
US20230269546A1 (en) Method for eliminating acoustic reverberation in an audio signal, and hearing instrument
Tachioka et al. Dereverberation method with reverberation time estimation using floored ratio of spectral subtraction
JP6102053B2 (ja) 音響処理装置および音響処理方法
JP2015004959A (ja) 音響処理装置
Eaton et al. Estimation of the perceived level of reverberation using non-intrusive single-channel variance of decay rates

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100713

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20101012

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20101018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101110

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20101110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110104

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140114

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees