JP2011166484A - 多チャネルエコー消去方法、多チャネルエコー消去装置、多チャネルエコー消去プログラム及びその記録媒体 - Google Patents
多チャネルエコー消去方法、多チャネルエコー消去装置、多チャネルエコー消去プログラム及びその記録媒体 Download PDFInfo
- Publication number
- JP2011166484A JP2011166484A JP2010027449A JP2010027449A JP2011166484A JP 2011166484 A JP2011166484 A JP 2011166484A JP 2010027449 A JP2010027449 A JP 2010027449A JP 2010027449 A JP2010027449 A JP 2010027449A JP 2011166484 A JP2011166484 A JP 2011166484A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- echo
- channel
- input
- output transfer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Circuit For Audible Band Transducer (AREA)
- Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
- Telephone Function (AREA)
Abstract
【解決手段】本発明に係る多チャネルエコー消去技術は、Mチャネル受話信号の各チャネルのパワースペクトルと、Mチャネル受話信号の各チャネル間のクロススペクトルと、Mチャネル受話信号と収音信号等の間のクロススペクトルを求め、パワースペクトルとクロススペクトルを用いて、周波数ごとに入出力伝達特性を推定し、周波数領域のMチャネル受話信号と推定した入出力伝達特性から収音信号等に含まれるエコー成分を予測し、周波数領域の収音信号等から、予測したエコー成分を差し引き、送話信号を求め、減算ステップで求めた送話信号を時間領域の信号に変換する。
【選択図】図2
Description
図2及び3を用いて実施例1に係る多チャネルエコー消去装置100を説明する。多チャネルエコー消去装置100は、N個の残留エコー消去部6001,…,600Nを備え、各残留エコー消去部は、M個の周波数領域変換部6011,…,601Mと、周波数領域変換部602と、入出力相関係数算出部603と、入出力伝達特性推定部604と、残留エコー予測部605と、減算部606と、時間領域変換部607とを有する。
周波数領域変換部6011,…,601Mは、それぞれMチャネル受話信号x1(k),…,xM(k)を入力とし、周波数領域の信号X1(f,j),…,XM(f,j)に変換し、出力する(s6011,…,s601M)。但し、fは周波数番号を表し、jはフレーム番号を表す。
入出力相関係数算出部603は、Mチャネル受話信号X1(f,j),…,XM(f,j)と、第1収音信号Y(f,j)を入力とし、Mチャネル受話信号X1(f,j),…,XM(f,j)の各チャネルのパワースペクトルPmm(f,j)と、Mチャネル受話信号の各チャネル間のクロススペクトルPm’m(f,j)と、Mチャネル受話信号と収音信号等の間のクロススペクトルQ(f,j)を求め、出力する(s603)。言い換えると、入出力相関係数算出部603は、パワースペクトルPmm(f,j)とクロススペクトルPm’m(f,j)からなる入力信号間の相関係数P(f,j)と、入出力信号間の相関係数Q(f,j)を求める。
入出力伝達特性推定部604は、パワースペクトルPmm(f,j)、クロススペクトルPm’m(f,j)及びQ(f,j)を入力とし、これらを用いて、周波数ごとに入出力伝達特性G(f,j)を推定し、出力する(s604)。
残留エコー予測部605は、周波数領域のMチャネル受話信号X1(f,j),…,XM(f,j)と推定した入出力伝達特性G(f,j)を入力とし、これらを用いて第1収音信号Y(f,j)に含まれるエコー成分を予測し、出力する(s605)。
減算部606は、第1収音信号Y(f,j)と予測したエコー成分Y^(f,j)を入力とし、周波数領域の第1収音信号Y(f,j)から、予測したエコー成分Y^(f,j)を差し引き、送話信号V(f,j)を求め、出力する(s606)。
時間領域変換部607は、減算部606で求めた送話信号V(f,j)を入力とし、これを時間領域の信号v(k)に変換し、送話信号として送話端子41へ出力する(s607)。
Mチャネル受話信号の各チャネルのパワースペクトルPmm(f,j)と、Mチャネル受話信号の各チャネル間のクロススペクトルPm’m(f,j)と、Mチャネル受話信号と収音信号等間のクロススペクトルQ(f,j)から入出力伝達特性を推定し、Mチャネル受話信号と入出力伝達特性から収音信号等に含まれるエコー成分を予測するため、適応フィルタのフィルタ係数を更新する必要がない。そのため、エコー経路の変動に即座に対応し、従来の多チャネルエコー消去装置に比べ高速にエコーを予測することができ、エコー以外の信号による推定揺らぎを抑えることができる。また、周波数領域で伝達特性とエコーに関して振幅と位相を推定し、引き算によりエコーの消去を図るため、ダブルトーク時でも送話損失の歪みを小さくでき、チャネル数によらずエコーを消去することができる。
各残留エコー消去部内で使用される周波数領域のMチャネル受話信号X1(f,j)〜XM(f,j)の値は6001〜600Nで同じため、N個の残留エコー消去部6001〜600Nが、受話信号の周波数領域変換部の出力を共有してもよい。
図5及び6を用いて実施例2に係る多チャネルエコー消去装置200を説明する。なお、図5では、マイクロホン31からの収音信号の処理について説明するが、他のマイクロホンからの収音信号についても同様の処理を行うことができ、図5の構成を並列に並べるだけでよい。多チャネルエコー消去装置200は、N個のエコー消去部801,…,80NとN個の残留エコー消去部6001,…,600Nを有する。残留エコー消去部6001は、実施例1の多チャネルエコー消去装置100の残留エコー消去部6001と同様の構成であり、第1収音信号y(k)に代えて、第2収音信号u(k)を入力される点が異なる。なお、第2収音信号u(k)はエコー消去部801の出力である誤差信号である。よって、残留エコー消去部6001は、マイクロホンで収音した第1収音信号y(k)に含まれるエコー成分に代えて、第1収音信号から疑似エコー信号を差し引き求めた第2収音信号(誤差信号)u(k)に含まれる残留エコー成分を消去する。
なお、第1収音信号Y(f,j)または第2収音信号U(f,j)が請求項の収音信号等S(f,j)に相当し、残留エコー予測部605で予測する第1収音信号に含まれるエコー成分Y^(f,j)または第2収音信号に含まれるエコー成分U^(f,j)が、請求項の収音信号等に含まれるエコー成分S^(f,j)に相当する。
一方、エコー消去部801,…,80Nは、従来のエコー消去装置90と同様の構成である。例えば、以下のようにして、エコー消去部801は誤差信号を求める。エコー消去部801は、エコー予測部81、減算部82及びエコー経路推定部83を備える。
hm=[hm(0)…hm(L-1)]T (12)
xm=[xm(0)…xm(L-1)]T (13)
として、ベクトル化すると、Mチャネル受話信号と第1収音信号の関係は次のように記述される。
但し、Tは転置を表す。
エコー予測部81は、適応フィルタによる疑似エコー経路に受話信号x1(k),…,xM(k)を入力して疑似エコー信号y’(k)を生成、出力する(s81)。エコー予測部81は適応フィルタによって構成され、受話状態における減算部82の誤差信号が最小となるように後述するエコー経路推定部83で適応フィルタの特性が制御される。
h'm=[h'm(0)…h'm(L-1)]T (15)
とし、
y'(k)=h'1Tx1(k)+…+h'MTxM(k) (16)
を生成する。
減算部82は、第1収音信号y(k)と疑似エコー信号y’(k)を入力とし、第1収音信号y(k)から疑似エコー信号y’(k)を差し引き、第2収音信号u(k)を求め、出力する(s82)。
求めた第2収音信号(誤差信号)u(k)をエコー経路推定部83と残留エコー消去部6001内の周波数領域変換部602に出力する。
エコー経路推定部は、第2収音信号u(k)と受話信号x1(k),…,xM(k)を入力とし、これらを用いて、適応フィルタのフィルタ係数h’(k)を更新し、出力する(s83)。適応フィルタの係数修正法としてNormalized Least Mean Squareアルゴリズム(NLMSアルゴリズム)を用いた場合を説明する。
但し、μはステップサイズであり、
このような構成とすることによって、従来技術と同等のエコー消去量及び音声品質を保ったまま、実施例1と同様の効果を得ることができる。
フィルタ係数は、学習同定法以外の従来技術(例えば、射影アルゴリズム、指数重み付けアルゴリズム、指数重み付け射影アルゴリズム等)で更新してもよい。
図6、7及び8を用いて実施例3に係る多チャネルエコー消去装置300を説明する。
伝達特性調整部3604は、大きさ算出部3604aと、判定部3604bと、調整部3604cを備え、推定した入出力伝達特性G(f,j)の大きさが基準値よりも大きいとき、入出力伝達特性G(f,j)の大きさが基準値と一致するように調整する処理、いわゆるクリップ処理を行う。
実施例2と同様の効果を得ることができ、さらに、このように閾値比較を行って入出力伝達特性を修正することで、送話と受話の相関によりときに入出力伝達特性が過大評価されてしまうことを防止できる。
実施例1の多チャネルエコー消去装置100と伝達特性調整部3604を組合せてもよい。その場合も入出力伝達特性が過大評価されてしまうことを防止できる。
6001,…,600N、36001,…3600N 残留エコー消去部
801,…,801N エコー消去部
6011,…,601M,602 周波数領域変換部
603 入出力相関係数算出部
604 入出力伝達特性推定部
605 残留エコー予測部
606 減算部
607 時間領域変換部
Claims (7)
- スピーカM個(Mは2以上の整数)とマイクロホンN個(Nは1以上の整数)が共通の音場に配置され、スピーカからMチャネル受話信号を再生した際に、エコー経路を介してマイクロホンに回り込むエコーを消去する多チャネルエコー消去方法であって、
Mチャネル受話信号と前記マイクロホンで収音する第1収音信号を用いて得られる信号(以下「収音信号等」という)を周波数領域の信号に変換する周波数領域変換ステップと、
Mチャネル受話信号の各チャネルのパワースペクトルPmm(f,j)と、Mチャネル受話信号の各チャネル間のクロススペクトルPm’m(f,j)と、Mチャネル受話信号と収音信号等の間のクロススペクトルQ(f,j)を求める入出力相関係数算出ステップと、
前記パワースペクトルPmm(f,j)、クロススペクトルPm’m(f,j)及びQ(f,j)を用いて、周波数ごとに入出力伝達特性を推定する入出力伝達特性推定ステップと、
前記周波数領域のMチャネル受話信号と推定した入出力伝達特性から収音信号等に含まれるエコー成分を予測する残留エコー予測ステップと、
周波数領域の収音信号等から、予測したエコー成分を差し引き、送話信号を求める減算ステップと、
前記減算ステップで求めた送話信号を時間領域の信号に変換する時間領域変換ステップと、を有し、
前記収音信号等は、マイクロホンで収音した第1収音信号、または、第1収音信号から疑似エコー信号を差し引いて得られる第2収音信号である、
ことを特徴とする多チャネルエコー消去方法。 - 請求項1記載の多チャネルエコー消去方法であって、
前記収音信号等は、前記第2収音信号であり、
適応フィルタによる疑似エコー経路に前記受話信号を入力して疑似エコー信号を生成するエコー予測ステップと、
第1収音信号から前記疑似エコー信号を差し引き、第2収音信号を求める減算ステップと、
前記第2収音信号と前記受話信号を用いて、前記適応フィルタのフィルタ係数を更新するエコー経路推定ステップと、を備える、
ことを特徴とする多チャネルエコー消去方法。 - 請求項1または2記載の多チャネルエコー消去方法であって、
前記推定した入出力伝達特性の大きさを算出する大きさ算出ステップと、
予め指定した基準値よりも前記入出力伝達特性の大きさが大きいか否かを判定する判定ステップと、
前記入出力伝達特性の大きさが前記基準値よりも大きい場合には、前記推定した入出力伝達特性に前記基準値を乗じ、さらに、前記入出力伝達特性の大きさで割ることによって、前記入出力伝達特性を調整する調整ステップを備える、
ことを特徴とする多チャネルエコー消去方法。 - スピーカM個(Mは2以上の整数)とマイクロホンN個(Nは1以上の整数)が共通の音場に配置され、スピーカからMチャネル受話信号を再生した際に、エコー経路を介してマイクロホンに回り込むエコーを消去する多チャネルエコー消去装置であって、
Mチャネル受話信号と前記マイクロホンで収音する第1収音信号を用いて得られる信号(以下「収音信号等」という)を周波数領域の信号に変換する周波数領域変換部と、
Mチャネル受話信号の各チャネルのパワースペクトルPmm(f,j)と、Mチャネル受話信号の各チャネル間のクロススペクトルPm’m(f,j)と、Mチャネル受話信号と収音信号等の間のクロススペクトルQ(f,j)を求める入出力相関係数算出部と、
前記パワースペクトルPmm(f,j)、クロススペクトルPm’m(f,j)及びQ(f,j)を用いて、周波数ごとに入出力伝達特性を推定する入出力伝達特性推定部と、
前記周波数領域のMチャネル受話信号と推定した入出力伝達特性から収音信号等に含まれるエコー成分を予測する残留エコー予測部と、
周波数領域の収音信号等から、予測したエコー成分を差し引き、送話信号を求める減算部と、
前記減算部で求めた送話信号を時間領域の信号に変換する時間領域変換部と、を有し、
前記収音信号等は、マイクロホンで収音した第1収音信号、または、第1収音信号から疑似エコー信号を差し引いて得られる第2収音信号の何れかである、
ことを特徴とする多チャネルエコー消去装置。 - 請求項1から4の何れかに記載の方法をコンピュータに実行させるためのプログラム。
- 請求項6記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010027449A JP5391103B2 (ja) | 2010-02-10 | 2010-02-10 | 多チャネルエコー消去方法、多チャネルエコー消去装置、多チャネルエコー消去プログラム及びその記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010027449A JP5391103B2 (ja) | 2010-02-10 | 2010-02-10 | 多チャネルエコー消去方法、多チャネルエコー消去装置、多チャネルエコー消去プログラム及びその記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011166484A true JP2011166484A (ja) | 2011-08-25 |
JP5391103B2 JP5391103B2 (ja) | 2014-01-15 |
Family
ID=44596640
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010027449A Expired - Fee Related JP5391103B2 (ja) | 2010-02-10 | 2010-02-10 | 多チャネルエコー消去方法、多チャネルエコー消去装置、多チャネルエコー消去プログラム及びその記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5391103B2 (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012039441A (ja) * | 2010-08-09 | 2012-02-23 | Nippon Telegr & Teleph Corp <Ntt> | 多チャネルエコー消去方法、多チャネルエコー消去装置及びそのプログラム |
JP2012227566A (ja) * | 2011-04-14 | 2012-11-15 | Nippon Telegr & Teleph Corp <Ntt> | エコー消去装置、その方法及びプログラム |
JP2013126026A (ja) * | 2011-12-13 | 2013-06-24 | Oki Electric Ind Co Ltd | 非目的音抑制装置、非目的音抑制方法及び非目的音抑制プログラム |
JP2015201787A (ja) * | 2014-04-09 | 2015-11-12 | 日本電信電話株式会社 | エコー消去装置、その方法及びプログラム |
JP2016189548A (ja) * | 2015-03-30 | 2016-11-04 | 日本電信電話株式会社 | エコー消去装置、その方法及びプログラム |
US10200540B1 (en) | 2017-08-03 | 2019-02-05 | Bose Corporation | Efficient reutilization of acoustic echo canceler channels |
US20190045065A1 (en) * | 2017-08-03 | 2019-02-07 | Bose Corporation | Multi-channel residual echo suppression |
US10594869B2 (en) | 2017-08-03 | 2020-03-17 | Bose Corporation | Mitigating impact of double talk for residual echo suppressors |
US10863269B2 (en) | 2017-10-03 | 2020-12-08 | Bose Corporation | Spatial double-talk detector |
US10964305B2 (en) | 2019-05-20 | 2021-03-30 | Bose Corporation | Mitigating impact of double talk for residual echo suppressors |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110829463A (zh) * | 2019-11-19 | 2020-02-21 | 国网湖南省电力有限公司 | 基于频率分解和相关系数法的电网弱阻尼辨识方法、系统及介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003309493A (ja) * | 2002-04-17 | 2003-10-31 | Nippon Telegr & Teleph Corp <Ntt> | 反響低減方法、反響低減装置、反響低減プログラム |
JP2006121589A (ja) * | 2004-10-25 | 2006-05-11 | Nippon Telegr & Teleph Corp <Ntt> | エコー消去方法、この方法を実施する装置、プログラムおよびその記録媒体 |
JP2006121588A (ja) * | 2004-10-25 | 2006-05-11 | Nippon Telegr & Teleph Corp <Ntt> | エコー抑圧方法、この方法を実施する装置、プログラムおよびその記録媒体 |
WO2006087813A1 (ja) * | 2005-02-21 | 2006-08-24 | Fujitsu Limited | エコーキャンセラ |
JP2009021741A (ja) * | 2007-07-11 | 2009-01-29 | Yamaha Corp | エコーキャンセラ |
-
2010
- 2010-02-10 JP JP2010027449A patent/JP5391103B2/ja not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003309493A (ja) * | 2002-04-17 | 2003-10-31 | Nippon Telegr & Teleph Corp <Ntt> | 反響低減方法、反響低減装置、反響低減プログラム |
JP2006121589A (ja) * | 2004-10-25 | 2006-05-11 | Nippon Telegr & Teleph Corp <Ntt> | エコー消去方法、この方法を実施する装置、プログラムおよびその記録媒体 |
JP2006121588A (ja) * | 2004-10-25 | 2006-05-11 | Nippon Telegr & Teleph Corp <Ntt> | エコー抑圧方法、この方法を実施する装置、プログラムおよびその記録媒体 |
WO2006087813A1 (ja) * | 2005-02-21 | 2006-08-24 | Fujitsu Limited | エコーキャンセラ |
JP2009021741A (ja) * | 2007-07-11 | 2009-01-29 | Yamaha Corp | エコーキャンセラ |
Non-Patent Citations (1)
Title |
---|
JPN6013019399; Herbert Buchner, et al.: 'Improved Kalman gain computation for multichannel frequency-domain adaptive filtering and applicatio' 2002 IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP) , 20020513, pages.II-1909 - II-1912, IEEE * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012039441A (ja) * | 2010-08-09 | 2012-02-23 | Nippon Telegr & Teleph Corp <Ntt> | 多チャネルエコー消去方法、多チャネルエコー消去装置及びそのプログラム |
JP2012227566A (ja) * | 2011-04-14 | 2012-11-15 | Nippon Telegr & Teleph Corp <Ntt> | エコー消去装置、その方法及びプログラム |
JP2013126026A (ja) * | 2011-12-13 | 2013-06-24 | Oki Electric Ind Co Ltd | 非目的音抑制装置、非目的音抑制方法及び非目的音抑制プログラム |
JP2015201787A (ja) * | 2014-04-09 | 2015-11-12 | 日本電信電話株式会社 | エコー消去装置、その方法及びプログラム |
JP2016189548A (ja) * | 2015-03-30 | 2016-11-04 | 日本電信電話株式会社 | エコー消去装置、その方法及びプログラム |
US10200540B1 (en) | 2017-08-03 | 2019-02-05 | Bose Corporation | Efficient reutilization of acoustic echo canceler channels |
US20190045065A1 (en) * | 2017-08-03 | 2019-02-07 | Bose Corporation | Multi-channel residual echo suppression |
WO2019028113A1 (en) * | 2017-08-03 | 2019-02-07 | Bose Corporation | REMOVAL OF MULTICHANNEL RESIDUAL ECHO |
US10542153B2 (en) * | 2017-08-03 | 2020-01-21 | Bose Corporation | Multi-channel residual echo suppression |
US10594869B2 (en) | 2017-08-03 | 2020-03-17 | Bose Corporation | Mitigating impact of double talk for residual echo suppressors |
US10863269B2 (en) | 2017-10-03 | 2020-12-08 | Bose Corporation | Spatial double-talk detector |
US10964305B2 (en) | 2019-05-20 | 2021-03-30 | Bose Corporation | Mitigating impact of double talk for residual echo suppressors |
Also Published As
Publication number | Publication date |
---|---|
JP5391103B2 (ja) | 2014-01-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5391103B2 (ja) | 多チャネルエコー消去方法、多チャネルエコー消去装置、多チャネルエコー消去プログラム及びその記録媒体 | |
JP3727258B2 (ja) | エコー抑制処理システム | |
JP5501527B2 (ja) | エコー消去装置およびエコー検出装置 | |
JP5394373B2 (ja) | オーディオ信号を処理する装置及び方法 | |
US7773743B2 (en) | Integration of a microphone array with acoustic echo cancellation and residual echo suppression | |
JP4957810B2 (ja) | 音処理装置、音処理方法及び音処理プログラム | |
JP4568439B2 (ja) | エコー抑圧装置 | |
JPWO2006049260A1 (ja) | 信号処理の方法、信号処理の装置および信号処理用プログラム | |
WO2006111369A1 (en) | A method and device for removing echo in an audio signal | |
JPWO2010035308A1 (ja) | エコー消去装置 | |
JP5469564B2 (ja) | 多チャネルエコー消去方法、多チャネルエコー消去装置及びそのプログラム | |
JPH09139696A (ja) | 適応識別とそれに関する適応エコーキャンセラのための方法と装置 | |
JP5662232B2 (ja) | エコー消去装置、その方法及びプログラム | |
JP2004349806A (ja) | 多チャネル音響エコー消去方法、その装置、そのプログラム及びその記録媒体 | |
US20170195496A1 (en) | Echo canceller device and echo cancel method | |
JP3756839B2 (ja) | 反響低減方法、反響低減装置、反響低減プログラム | |
JP3787088B2 (ja) | 音響エコー消去方法、装置及び音響エコー消去プログラム | |
JP3756828B2 (ja) | 反響消去方法、この方法を実施する装置、プログラムおよびその記録媒体 | |
JP4413205B2 (ja) | エコー抑圧方法、装置、エコー抑圧プログラム、記録媒体 | |
JP4700673B2 (ja) | エコー消去方法、装置、プログラム、および記録媒体 | |
JP4709714B2 (ja) | エコー消去装置、その方法、そのプログラム、およびその記録媒体 | |
JP5937451B2 (ja) | エコー消去装置、エコー消去方法及びプログラム | |
JP6143702B2 (ja) | エコー消去装置、その方法及びプログラム | |
CN112863532A (zh) | 回音抑制装置、回音抑制方法以及存储介质 | |
JP2011160429A (ja) | エコー消去装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20110624 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120125 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130423 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130614 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131001 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131011 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5391103 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |