JP2006227152A - 計算装置およびその計算装置を利用した収音装置 - Google Patents

計算装置およびその計算装置を利用した収音装置 Download PDF

Info

Publication number
JP2006227152A
JP2006227152A JP2005038880A JP2005038880A JP2006227152A JP 2006227152 A JP2006227152 A JP 2006227152A JP 2005038880 A JP2005038880 A JP 2005038880A JP 2005038880 A JP2005038880 A JP 2005038880A JP 2006227152 A JP2006227152 A JP 2006227152A
Authority
JP
Japan
Prior art keywords
matrix
vector
fourier transform
unit
correlation function
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005038880A
Other languages
English (en)
Inventor
Kenichi Furuya
賢一 古家
Akitoshi Kataoka
章俊 片岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2005038880A priority Critical patent/JP2006227152A/ja
Publication of JP2006227152A publication Critical patent/JP2006227152A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Circuit For Audible Band Transducer (AREA)

Abstract

【課題】 相関関数行列RとベクトルBとCから構成される方程式B=RCをCについて解くために膨大な演算量がかかることが問題であった。
【解決手段】本発明では、方程式B=RCを相関関数行列とベクトルの掛け算の繰り返しにより解くために高速行列計算部を有する共役勾配法計算部を用いる。共役勾配法で大量に計算する必要がある相関関数行列とベクトルの掛け算が、畳み込み演算と類似することを利用して、高速行列計算部ではフーリエ変換した上で掛け算し、逆フーリエ変換する。また、行列の大きさと畳み込みの範囲とが整合するように切り出し部を備える。
【選択図】図4

Description

本発明は、相関関数行列とベクトルとの積を高速で行なう計算装置と、その計算装置を用いて、雑音や残響のある環境の音声信号に対して雑音と残響を抑圧する信号処理を行ない、目的の音だけを抽出する技術に関する。
近年、マルチメデイア技術の進歩に伴い、マイクロホンとスピーカを用いた拡声通話形態によるテレビ会議などの通信会議が普及してきている。その場合、複数のマイクロホンと複数のスピーカを用いた信号処理により音声品質を劣化させる騒音や残響音を抑圧し、目的とする音声のみを収音する装置などが開発されている。その中で行われる信号処理には多チャンネル信号を扱う大規模な行列演算が含まれており、リアルタイムで信号処理を行なうには高速でその行列演算を行なう必要があった。
従来、雑音抑圧、残響抑圧する技術として、特許文献1があった。以下に、この技術について簡単に説明する。図1のようにマイクロホンN個950−j(j=1,・・・,N)を用いて目的音源とN−2個以下の雑音源が存在し、かつ部屋の残響がある場合の雑音と残響を抑圧する収音装置900を考える。チャネル1のマイクロホン950−jが各マイクロホンの中で最も目的音源に近いとする。ここで、Nチャネルの各マイクロホン950−jからのN個の入力信号をX(n)(j=1,2,・・・,N)とし、各チャネルの信号に畳み込むN個の長さL(タップ数L)のフィルタのフィルタ係数をc(n)(i=1,・・・,N)とし、畳み込まれたN個の信号を加算部で加算した信号をy(n)とする。
まず、相関関数計算部910において、各マイクロホンのN個の入力信号をX(n)の区間n=0,・・・,M−1(少なくともM≧Lは満足するMを、あらかじめ選定しておく。)から相関関数
Figure 2006227152
ただし、l=−M+1,・・・,0,・・・,M−1
を計算し、この相関関数を用いて相関関数行列Rを以下のように構成する。
Figure 2006227152
次に、ブラインド逆フィルタ計算部920でフィルタ係数c(n)を求めるために、方程式B=RCをCについて解く。ただし、Cはフィルタ係数ベクトルで、N個の長さLのフィルタ係数c(n)から構成されるNL元の列ベクトル
Figure 2006227152
であり、Bは目標ベクトルで、NL元の列ベクトル
Figure 2006227152
である。
次に、各チャネルに繋がったN個のフィルタ930−i(i=1,・・・,N)に求められたフィルタ係数c(n)を設定し各チャネルの信号に畳み込み演算を行ない出力する。加算部940では、フィルタ930−iの出力をすべて加算する。
Figure 2006227152
ここで、(×)は畳み込み演算を表す。
このようにして得られた処理結果y(n)は雑音や残響を抑圧し、目的信号だけを抽出したものとなる。
特開2002−62900号公報
従来技術では、方程式B=RCをCについて解くために膨大な演算量がかかることが問題であった。たとえば、方程式ガウス消去法を用いるとNLの3乗のオーダーの掛け算が必要となる。NL=10000の場合にはおよそ1兆回の掛け算が必要となる。
ここでの問題を解決するための着眼点は、次の3点である。
(1)一般的な行列の高速演算法は存在しないので、相関関数行列の特徴を利用する。相関関数行列の特徴は、正定値対称行列であること、相関関数行列とベクトルの掛け算は畳み込みに近いことである。
(2)相関関数行列が正定値対称行列であることから、方程式を解くのに共役勾配法が利用できる。共役勾配法を利用することにより、方程式B=RCは、相関関数行列とベクトルの掛け算の繰り返しにより解くことができる。
(3)相関関数行列とベクトルの掛け算を畳み込み演算の組み合わせで実現するごとにより、FFTを利用可能となる。ただし、通常の畳み込みではないため、FFTの結果と行列の大きさとマッチングをとる必要がある。
上記、3点を利用して、問題を解決するための1つ目の手段は、方程式B=RCを相関関数行列とベクトルの掛け算の繰り返しにより解くために共役勾配法を用いる共役勾配法計算部(入力は相関関数rij(n)、出力はフィルタ係数フィルタ係数c(n))を備えることである。
2つ目の手段は、高速行列計算部(入力は相関関数rij(n)とベクトル要素p(n)、出力はその掛け算結果のベクトル要素d(n))である。共役勾配法で大量に計算する必要がある相関関数行列とベクトルの掛け算が、畳み込み演算と類似することを利用して、相関関数rij(n)とベクトル要素p(n)をフーリエ変換した上で掛け算し、逆フーリエ変換する。また、通常の畳み込みではないので、行列の大きさと畳み込みの範囲とが整合するように切り出し部を備えた。
本発明では大規模な行列とベクトルの掛け算において、通常は掛け算がNL×NL回のオーダーが必要であるが、高速行列計算部を利用することにより、3NL×(3log3NL+1)程度の掛け算(NL×logNLのオーダー)で計算でき、従来技術に比べ計算の大幅な高速化が実現できる。
また、共役勾配法計算部と高速行列計算部は、一般的な相関関数を用いたフィルタ係数計算にも応用でき、そこにおいても大幅な高速化を実現できる。
以下の説明では、重複説明を避けるため、同じ機能を有する部分には同じ参照番号を付し、説明を省略する。
[第1実施形態]
図2に収音装置の機能構成を示す。図1に示した従来の収音装置900と異なる部分は、共役勾配法計算部120のみである。共役勾配法計算部120は、高速行列計算部121を有している。共役勾配法計算部120の処理フローを図3に示す。
共役勾配法計算部では、ステップS20の高速行列計算部121での処理以外は、通常の共役勾配法と同じ処理であり、以下の手順で処理が行なわれる。
ステップS10
相関関数計算部910から相関関数行列Rが入力されると、初期値としてC(1)を適当な値に定め、P(1)=Q(1)=B−RC(1)とする。ここで、BはNL元の列ベクトル
Figure 2006227152
であり、PとQは中間変数ベクトルである。また、上付きのカッコ内は繰り返し計算の回数を示す。
ステップS20
RP(k)を、高速行列計算部121で計算する。上記のように、kは繰り返し計算の回数を示している。RはNL×NLの大きさの行列であり、P(k)はNLの大きさのベクトルである。したがって、通常の方法でRP(k)を計算するためには、NL×NL回の掛け算が必要であり、しかも繰り返し計算ごとに必要となるため、このステップの計算量を削減することが処理時間短縮には重要である。そこで、後述する本発明の高速行列計算部121を用いて計算量を削減している。
ステップS30
(k)=(P(k),Q(k))/(P(k),RP(k))とする。ここで、( , )は内積を示す。
ステップS40
(k+1)=C(k)+a(k)(k)
(k+1)=Q(k)−a(k)RP(k)
とする。
ステップS50
β(k)=(Q(k+1),RP(k))/(P(k),RP(k)
とする。
ステップS60
(k+1)=Q(k+1)+β(k)(k)
とする。
ステップS70
繰り返し条件を満足する場合には、繰り返し計算を終了してフィルタ係数ベクトルCを出力する。また、繰り返し条件を満たさない場合には、ステップS80に進む。ここで、繰り返し条件としては、例えば実験などによってあらかじめ収束する繰り返し回数を調査した上で繰り返し回数を設定する方法、計算誤差を示す値であるQ(k)のノルムがあらかじめ設定した値よりも小さくなったことを確認する方法、計算誤差を示す値であるQ(k)のノルムとQ(k+1)のノルムの差があらかじめ設定した値よりも小さくなったこと(繰り返し計算をしても誤差が減らなくなったこと)を確認する方法などがある。なお、理論上、繰り返し回数の最大値はNLである。
ステップS80
ステップS70で繰り返し条件を満足しなかった場合、繰り返し回数kを、k=k+1とし、ステップS20に戻る。
上記のステップS20で行なう高速行列計算部121の機能構成例を図4に示す。高速行列計算部121への入力信号は、相関関数行列の要素rij(n)(i=1,・・・,N、j=1,・・・,N、n=−M+1,・・・,0,・・・,M−1)とベクトルp(n)(j=1,・・・,N、n=0,・・・,L−1)である。前記のようにMは少なくともM≧Lを満足する値であり、相関関数を求める際に使用する窓の幅に相当する。
相関関数行列RはNL×NLの大きさのため、行列Rの要素として使われる範囲(n=−L+1,・・・,0,・・・,L−1)だけを相関関数切り出し部1211ij(i=1,・・・,N、j=1,・・・,N)で切り出す。具体的な処理ではn=−L+1,・・・,0,・・・,L−1以外のrij(n)を0とする。
相関関数FFT計算部1212ij(i=1,・・・,N、j=1,・・・,N)では、切り出された相関関数行列の要素rij(n)を、Kポイントの高速フーリエ変換のため、rij(K+n)=rij(n)ただしn=−L+1,・・・,−1とする。次に相関関数FFT計算部1212ij(i=1,・・・,N、j=1,・・・,N)でKポイントの高速フーリエ変換されると、Frij(m)(i=1,・・・,N、j=1,・・・,N、m=0,・・・,K−1)が得られる。ただし、Kは、K≧3L−2である。
ベクトルの要素p(n)もベクトル要素FFT計算部1213(j=1,・・・,N)でKポイントの高速フーリエ変換され、Fp(m)(j=1,・・・,N、m=0,・・・,K−1)が出力される。ただし、n=0,…,L−1以外のp(n)は0として計算する。
行列ベクトル積和部1214(i=1,・・・,N)では、フーリエ変換後の相関関数行列の要素Frij(m)とベクトルの要素Fp(m)の掛け算を行い、すべてのjについて加算して出力Fd(m)(i=1,・・・,N、m=0,・・・,K−1)を得る。処理内容を式で表すと、
Figure 2006227152
となる。
逆FFT計算部1215(i=1,・・・,N)では、Fd(m)からKポイントの逆高速フーリエ変換によりd(n)(i=1,・・・,N、n=0,・・・,K−1)を得る。
相関関数行列の要素rij(n)(i=1,・・・,N、j=1,・・・,N、n=−M+1,・・・,0,・・・,M−1)とベクトルp(n)(j=1,・・・,N、n=0,・・・,L−1)との積であるベクトルd(n)のnの範囲はn=0,・・・,L−1なので、ベクトル要素切り出し部1216(i=1,・・・,N)では、逆FFT計算部1215の出力d(n)(i=1,・・・,N、n=0,・・・,K−1)からn=0,・・・,L−1の範囲のd(n)を切り出す。
ベクトル再構成部1217では、ベクトル要素切り出し部1216で切り出したd(n)(i=1,・・・,N、n=0,・・・,L−1)からベクトルDを
Figure 2006227152
として再構築し、出力する。
図5に高速行列計算部121の処理フローを示す。
行列とベクトルの掛け算は、通常であればNL×NL回のオーダーで行なう必要があるが、本発明ではフーリエ変換後の値の積はフーリエ変換前の値の畳み込み演算に相当することを利用して、計算量NL×logNLのオーダーで可能とすることができる。
[変形例1]
図6に第1の実施形態の変形例である高速行列計算部121’の機能構成を示す。図4との違いは相関関数FFT記憶部1218を備えている点である。相関関数Rは繰り返し計算によって変化しないので、1回目の繰り返し時に計算した値を相関関数FFT記録部1218に記録しておき、2回目以降の繰り返し計算では、相関関数FFT記録部1218に記録されたFrij(m)(i=1,・・・,N、j=1,・・・,N、m=0,・・・,K−1)を用いて行列ベクトル積和部1214(i=1,・・・,N)の処理を行なう。これにより相関関数FFT計算部1212ij(i=1,・・・,N、j=1,・・・,N)での掛け算の回数であるlogNL程度の掛け算の回数を繰り返し回数分だけ少なくすることができる。
なお、第1実施形態およびその変形例1に示した高速行列計算部121と121’は、行列RとベクトルPとの積が畳み込み演算に類似する性質を利用して、計算量を大幅に削減している。したがって、収音装置に限らず、行列RとベクトルPとが、
Figure 2006227152
と表現できる場合のRPの計算に広く適用できる。
さらに、行列Rが正定値対称行列の場合に、高速行列計算部121または121’を有する共役勾配法計算部120は、行列RとベクトルBとCから構成される方程式B=RCをCについて解くときに広く適用できる。
従来の収音装置の機能構成を示す図。 本発明の収音装置の機能構成を示す図。 共役勾配法計算部120の処理フローを示す図。 高速行列計算部121の機能構成例を示す図。 高速行列計算部121の処理フローを示す図。 高速行列計算部121’の機能構成を示す図。

Claims (4)

  1. 行列とベクトルとの掛算を行なう計算装置であって、
    行列R、小行列Rij、ベクトルP、要素ベクトルPが、
    Figure 2006227152
    と表現できる場合に、
    n=−L+1,−L+2,・・・,0,・・・,L−2,L−1以外の前記小行列Rijの各要素rij(n)を0とする第1の切り出し部と、
    前記行列Rの各要素rij(n)をフーリエ変換してFrij(m)を求める第1の高速フーリエ変換部と、
    前記ベクトルPの各要素p(n)をフーリエ変換してFp(m)を求める第2の高速フーリエ変換部と、
    フーリエ変換された前記行列の要素Frij(m)と前記ベクトルの要素Fp(m)との積の和Fd(m)を
    Figure 2006227152
    とする計算部と、
    前記積Fd(m)を逆フーリエ変換してd(n)を求める逆フーリエ変換部と、
    前記行列Rと前記ベクトルPとの積RPであるベクトルDを、
    Figure 2006227152
    とするベクトル構成部と、
    を備える計算装置。
  2. 行列とベクトルとの掛算を行なう計算装置であって、
    行列RとベクトルPとが、
    Figure 2006227152
    と表現できる場合に、
    n=−L+1,−L+2,・・・,0,・・・,L−2,L−1以外の前記行列Rの各要素r(n)を0とする第1の切り出し部と、
    前記行列Rの各要素r(n)をフーリエ変換してFr(m)を求める第1の高速フーリエ変換部と、
    前記ベクトルPの各要素p(n)をフーリエ変換してFp(m)を求める第2の高速フーリエ変換部と、
    フーリエ変換された前記行列の要素Fr(m)と前記ベクトルの要素Fp(m)との積Fd(m)を求める計算部と、
    前記積Fd(m)を逆フーリエ変換してd(n)を求める逆フーリエ変換部と、
    前記行列Rと前記ベクトルPとの積RPであるベクトルDを、
    Figure 2006227152
    とするベクトル構成部と、
    を備える計算装置。
  3. 請求項1または2記載の計算装置であって、
    前記第1の高速フーリエ変換部で求めたフーリエ変換の結果を記録するFFT記録部と、
    前記FFT記録部に記録された第1の高速フーリエ変換部の結果を利用して計算を行なう前記計算部と、
    を備える計算装置。
  4. 2以上の収音信号を入力とし、雑音と残響とを抑圧する収音装置であって、
    前記収音信号間の相関を求め、相関関数行列を出力する相関関数計算部と、
    前記相関関数行列から共役勾配法により各収音信号に対するフィルタ係数を求める請求項1〜3のいずれかに記載された計算装置を有する共役勾配法計算部と、
    前記収音信号ごとに対応する前記フィルタ係数を用いたフィルタリングを行なうフィルタ部と
    2以上の前記フィルタ部によってフィルタリングされた収音信号を加算する加算部と、
    を備える収音装置。
JP2005038880A 2005-02-16 2005-02-16 計算装置およびその計算装置を利用した収音装置 Pending JP2006227152A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005038880A JP2006227152A (ja) 2005-02-16 2005-02-16 計算装置およびその計算装置を利用した収音装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005038880A JP2006227152A (ja) 2005-02-16 2005-02-16 計算装置およびその計算装置を利用した収音装置

Publications (1)

Publication Number Publication Date
JP2006227152A true JP2006227152A (ja) 2006-08-31

Family

ID=36988595

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005038880A Pending JP2006227152A (ja) 2005-02-16 2005-02-16 計算装置およびその計算装置を利用した収音装置

Country Status (1)

Country Link
JP (1) JP2006227152A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008209445A (ja) * 2007-02-23 2008-09-11 Nippon Telegr & Teleph Corp <Ntt> 残響除去装置、残響除去方法、残響除去プログラム、記録媒体
JP2009027483A (ja) * 2007-07-20 2009-02-05 Clarion Co Ltd 音場再現フィルタ算出装置および音場再現システム
KR101098736B1 (ko) 2008-04-25 2011-12-23 인텔 코오퍼레이션 병렬 처리를 이용하여 1차 연립 방정식의 해를 구하기 위한 디바이스, 시스템 및 방법
JP2012022120A (ja) * 2010-07-14 2012-02-02 Yamaha Corp 音響処理装置
CN105895082A (zh) * 2016-05-30 2016-08-24 乐视控股(北京)有限公司 声学模型训练方法、语音识别方法及装置
JP2019121950A (ja) * 2018-01-09 2019-07-22 株式会社東芝 音響処理装置、音響処理方法およびプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05252597A (ja) * 1992-02-14 1993-09-28 Nippon Telegr & Teleph Corp <Ntt> 頭外音像定位ステレオ受聴器受聴方法
JP2001209631A (ja) * 2000-01-25 2001-08-03 Nec Corp 行列ベクトル積演算システム及びそれに用いる行列格納システム並びにそれらの方法
JP2002062900A (ja) * 2000-08-17 2002-02-28 Nippon Telegr & Teleph Corp <Ntt> 収音装置及び受信装置
JP2004184536A (ja) * 2002-11-29 2004-07-02 Mitsubishi Electric Corp 畳み込み演算装置及び畳み込み演算プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05252597A (ja) * 1992-02-14 1993-09-28 Nippon Telegr & Teleph Corp <Ntt> 頭外音像定位ステレオ受聴器受聴方法
JP2001209631A (ja) * 2000-01-25 2001-08-03 Nec Corp 行列ベクトル積演算システム及びそれに用いる行列格納システム並びにそれらの方法
JP2002062900A (ja) * 2000-08-17 2002-02-28 Nippon Telegr & Teleph Corp <Ntt> 収音装置及び受信装置
JP2004184536A (ja) * 2002-11-29 2004-07-02 Mitsubishi Electric Corp 畳み込み演算装置及び畳み込み演算プログラム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008209445A (ja) * 2007-02-23 2008-09-11 Nippon Telegr & Teleph Corp <Ntt> 残響除去装置、残響除去方法、残響除去プログラム、記録媒体
JP2009027483A (ja) * 2007-07-20 2009-02-05 Clarion Co Ltd 音場再現フィルタ算出装置および音場再現システム
KR101098736B1 (ko) 2008-04-25 2011-12-23 인텔 코오퍼레이션 병렬 처리를 이용하여 1차 연립 방정식의 해를 구하기 위한 디바이스, 시스템 및 방법
JP2012022120A (ja) * 2010-07-14 2012-02-02 Yamaha Corp 音響処理装置
CN105895082A (zh) * 2016-05-30 2016-08-24 乐视控股(北京)有限公司 声学模型训练方法、语音识别方法及装置
JP2019121950A (ja) * 2018-01-09 2019-07-22 株式会社東芝 音響処理装置、音響処理方法およびプログラム

Similar Documents

Publication Publication Date Title
Chen et al. Fullsubnet+: Channel attention fullsubnet with complex spectrograms for speech enhancement
Macartney et al. Improved speech enhancement with the wave-u-net
Li et al. On the importance of power compression and phase estimation in monaural speech dereverberation
CN105788607B (zh) 应用于双麦克风阵列的语音增强方法
JP5122879B2 (ja) 時間および周波数領域内のパーティションされた高速畳み込み
JP2006227152A (ja) 計算装置およびその計算装置を利用した収音装置
US20110137646A1 (en) Noise Suppression Method and Apparatus
EP1474755A1 (en) Filter set for frequency analysis
Kumar Comparative performance evaluation of greedy algorithms for speech enhancement system
KR20050087291A (ko) 다중경로 다채널 혼합신호의 주파수 영역 블라인드 분리를 위한 방법 및 그 장치
KR20060015389A (ko) 교차채널 간섭을 제거하기 위한 후처리장치 및 방법과이를 이용한 다채널 음원 분리장치 및 방법
KR102410850B1 (ko) 잔향 제거 오토 인코더를 이용한 잔향 환경 임베딩 추출 방법 및 장치
JP2008216721A (ja) 雑音抑圧の方法、装置、及びプログラム
Shubo et al. Spatial-DCCRN: DCCRN equipped with frame-level angle feature and hybrid filtering for multi-channel speech enhancement
KR20230125994A (ko) 적대적 생성 신경망을 이용한 오디오 신호 생성 모델 및 훈련 방법
EP1879292B1 (en) Partitioned fast convolution
Li et al. A complexity reduction of ETSI advanced front-end for DSR
JP7348812B2 (ja) 雑音抑制装置、雑音抑制方法及び音声入力機器
US9036752B2 (en) Low-delay filtering
Lee et al. Two-stage refinement of magnitude and complex spectra for real-time speech enhancement
Málek et al. Sparse target cancellation filters with application to semi-blind noise extraction
CN112242145A (zh) 语音滤波方法、装置、介质和电子设备
Richter et al. Causal Diffusion Models for Generalized Speech Enhancement
CN114155872A (zh) 单通道语音降噪方法、装置、电子设备和存储介质
Gui et al. Adaptive subband Wiener filtering for speech enhancement using critical-band gammatone filterbank

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20070116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070130

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100330

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100525