JPH1062460A - Signal separator - Google Patents
Signal separatorInfo
- Publication number
- JPH1062460A JPH1062460A JP8222581A JP22258196A JPH1062460A JP H1062460 A JPH1062460 A JP H1062460A JP 8222581 A JP8222581 A JP 8222581A JP 22258196 A JP22258196 A JP 22258196A JP H1062460 A JPH1062460 A JP H1062460A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- spectrum
- frequency
- convolution operation
- fundamental frequency
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
Description
【0001】[0001]
【発明の属する技術分野】この発明は信号分離装置に関
し、特に、音声などの音響信号が複数混在するとき、そ
の中の1つの信号の基本周波数を持つ信号の基本周波数
を用いてその信号のスペクトルを平坦化することによ
り、競合している他方の信号のスペクトルを抽出するこ
とにより信号を分離するような信号分離装置に関する。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a signal separating apparatus, and more particularly, to a case where a plurality of audio signals such as voices are mixed, a spectrum of the signal is used by using a fundamental frequency of a signal having a fundamental frequency of one of the signals. And a signal separating apparatus that separates a signal by extracting a spectrum of another competing signal by flattening the signal.
【0002】[0002]
【従来の技術】異なるスペクトル特性を持つ2つの信号
が混合した信号のうちで、1つの基本周波数が既知、も
しくは抽出可能であるとき、2つの信号を分離する手段
として、従来ではたとえばEnhancement of Speech by A
daptive Filtering, R.H. franzier他 Proc. IEEE. In
t. Conf. on Acoust. Speech and signal processing A
pr. 12-14 pp. 251-253(1976)に記載されているよう
な櫛形フィルタが広く用いられてきた。2. Description of the Related Art When one fundamental frequency is known or can be extracted from a signal in which two signals having different spectral characteristics are mixed, conventionally, as means for separating the two signals, for example, an enhancement of speech is used. by A
daptive Filtering, RH franzier and others Proc. IEEE. In
t. Conf. on Acoust. Speech and signal processing A
Comb filters such as those described in pr. 12-14 pp. 251-253 (1976) have been widely used.
【0003】図13は、従来の櫛形フィルタを用いた信
号分離装置の概略ブロック図である。図13において、
入力部1から入力信号が入力されて基本周波数抽出部2
に与えられ、入力された信号に混在している信号のうち
の1つの信号の基本周波数が抽出される。この抽出され
た基本周波数は櫛形フィルタ設計部3に与えられ、抽出
された基本周波数の整数倍にあたる周波数帯域のみが通
過帯域となるような櫛形フィルタが作成される。そし
て、設計されたフィルタリング部4によってフィルタリ
ングが施され、出力部5から出力される。FIG. 13 is a schematic block diagram of a conventional signal separating device using a comb filter. In FIG.
An input signal is input from an input unit 1 and a fundamental frequency extracting unit 2
And the fundamental frequency of one of the signals mixed in the input signal is extracted. The extracted fundamental frequency is supplied to the comb filter design unit 3, and a comb filter is created such that only a frequency band corresponding to an integral multiple of the extracted fundamental frequency becomes a pass band. Then, filtering is performed by the designed filtering unit 4, and output from the output unit 5.
【0004】[0004]
【発明が解決しようとする課題】しかしながら、実際の
音環境では、調波構造を持ちエネルギーの大きい有声音
が目的信号をマスキングすることが多いので、目的信号
抽出のためには、アンチドミナント信号を求める機会が
多い。しかし、上述の従来の構造では、このような場合
でも、基本周波数などといったアンチドミナント信号の
性質を直接得る必要があり、これは実際には難しい。However, in an actual sound environment, a voiced sound having a harmonic structure and a large energy often masks a target signal. Therefore, in order to extract a target signal, an anti-dominant signal is used. There are many opportunities to seek. However, in the above-described conventional structure, even in such a case, it is necessary to directly obtain the properties of the anti-dominant signal such as the fundamental frequency, which is actually difficult.
【0005】それゆえに、この発明の主たる目的は、抽
出しやすいドミナント信号の基本周波数を用いることに
より、アンチドミナント信号を抽出できるような信号分
離装置を提供することである。[0005] Therefore, a main object of the present invention is to provide a signal separation device capable of extracting an anti-dominant signal by using a fundamental frequency of a dominant signal which is easy to extract.
【0006】[0006]
【課題を解決するための手段】請求項1に係る発明は、
入力信号を分離する信号分離装置であって、入力信号の
周波数分析を行なう周波数分析手段と、周波数分析され
た入力信号に含まれる周波数のうち、ドミナントな信号
の基本周波数を求める基本周波数抽出手段と、抽出され
た基本周波数の数倍の長さを持つバートレット窓とスペ
クトルの畳み込み演算を行なう畳み込み演算手段と、周
波数分析された入力信号のアンチドミナントな信号のス
ペクトルエンベロープを算出する振幅決定手段と、求め
られたスペクトルエンベロープにより信号を再合成する
合成手段を備えて構成される。The invention according to claim 1 is
A signal separation device that separates an input signal, a frequency analysis unit that performs a frequency analysis of the input signal, and a fundamental frequency extraction unit that determines a fundamental frequency of a dominant signal among frequencies included in the frequency-analyzed input signal. A convolution operation means for performing a convolution operation of a Bartlett window and a spectrum having a length several times the extracted fundamental frequency, and an amplitude determination means for calculating a spectrum envelope of an anti-dominant signal of the frequency-analyzed input signal, It is provided with a synthesizing means for re-synthesizing a signal based on the obtained spectrum envelope.
【0007】請求項2に係る発明は、ドミナントな信号
とアンチドミナントな信号を含む入力信号からそれぞれ
の信号を分離する信号分離装置であって、入力信号の周
波数分析を行なう周波数分析手段と、周波数分析された
入力信号に含まれる信号のうち、ドミナントな信号の基
本周波数を求める基本周波数抽出手段と、抽出された基
本周波数の数倍の長さを持つバートレット窓とスペクト
ルの畳み込み演算を行なう畳み込み演算手段と、畳み込
み演算された結果を数回差分してアンチドミナントな信
号のエンベロープを決定する振幅決定手段と、決定され
たエンベロープより信号を合成する合成手段を備えて構
成される。According to a second aspect of the present invention, there is provided a signal separating apparatus for separating respective signals from an input signal including a dominant signal and an anti-dominant signal, wherein the frequency analyzing means performs a frequency analysis of the input signal; A fundamental frequency extracting means for finding a fundamental frequency of a dominant signal among signals included in the analyzed input signal, and a convolution operation for performing a convolution operation of a Bartlett window having a length several times the extracted fundamental frequency and a spectrum. Means, amplitude determining means for determining the envelope of the anti-dominant signal by differentiating the result of the convolution operation several times, and synthesizing means for synthesizing the signal from the determined envelope.
【0008】請求項3に係る発明では、さらに再合成さ
れた信号を音響信号に変換して出力する出力手段を含
む。[0008] The invention according to claim 3 further includes output means for converting the recombined signal into an audio signal and outputting the audio signal.
【0009】請求項4に係る発明では、請求項1の畳み
込み演算手段は、基本周波数の数倍の長さを持つ窓関数
とスペクトルの実部の畳み込みを行なう第1の畳み込み
演算手段と、基本周波数の数倍の長さを持つ窓関数とス
ペクトルの虚部の畳み込みを行なう第2の畳み込み演算
手段とを含み、振幅決定手段は、第1の畳み込み演算手
段によって畳み込みされたスペクトルのピークを滑らか
に繋いだエンベロープとスペクトルのディップを滑らか
に繋いだエンベロープの差を各周波数について求める第
1の振幅決定手段と、第2の畳み込み演算手段によって
畳み込みされたスペクトルのピークを滑らかに繋いだエ
ンベロープとスペクトルのディップを滑らかに繋いだエ
ンベロープの差を各周波数について求める第2の振幅決
定手段とを含む。According to a fourth aspect of the present invention, the convolution operation means of the first aspect includes a first convolution operation means for convolving a window function having a length several times the fundamental frequency and a real part of the spectrum, A window function having a length several times the frequency and second convolution operation means for convolving the imaginary part of the spectrum, wherein the amplitude determination means smoothes the peak of the spectrum convolved by the first convolution operation means First amplitude determining means for obtaining, for each frequency, a difference between the envelope connected to the waveform and the envelope obtained by smoothly connecting the spectrum dip, and an envelope and spectrum obtained by smoothly connecting the peaks of the spectrum convolved by the second convolution operation means. And a second amplitude determining means for obtaining, for each frequency, a difference between envelopes obtained by smoothly connecting the dips.
【0010】[0010]
【発明の実施の形態】図1はこの発明の一実施形態を示
すブロック図である。図1において、入力部11から入
力され入力信号は周波数分析部12に与えられ、入力信
号の周波数分析が行なわれる。周波数分析された入力信
号は基本周波数抽出部13と畳み込み演算部14とに与
えられる。基本周波数抽出部13は周波数分析された入
力信号に含まれる周波数のうちドミナントな信号の基本
周波数を求める。畳み込み演算部14は抽出された基本
周波数の数倍の長さを持つバートレット窓とスペクトル
の畳み込み演算を行なう。振幅決定部15は周波数分析
された入力信号のアンチドミナントな信号のスペクトル
エンベロープを算出し、合成部16に与える。合成部1
6は求められたスペクトルエンベロープにより信号を再
合成し、出力部17に与える。出力部17は再合成され
信号を音響信号に変換して出力する。FIG. 1 is a block diagram showing an embodiment of the present invention. In FIG. 1, an input signal input from an input unit 11 is provided to a frequency analysis unit 12, where a frequency analysis of the input signal is performed. The frequency-analyzed input signal is provided to a fundamental frequency extraction unit 13 and a convolution operation unit 14. The fundamental frequency extracting unit 13 finds a fundamental frequency of a dominant signal among the frequencies included in the frequency-analyzed input signal. The convolution operation unit 14 performs a convolution operation between the Bartlett window having a length several times the extracted fundamental frequency and the spectrum. The amplitude determiner 15 calculates the spectrum envelope of the anti-dominant signal of the frequency-analyzed input signal, and supplies the calculated spectrum envelope to the synthesizer 16. Synthetic unit 1
6 re-synthesizes the signal according to the obtained spectrum envelope, and supplies it to the output unit 17. The output unit 17 converts the recombined signal into an audio signal and outputs the signal.
【0011】図2は2つの信号f1(t)とf2(t)
が含まれている入力信号のスペクトルを示し、図3は信
号f1(t)のスペクトルを示し、図4は信号f2
(t)のスペクトルを示し、図5は図2の入力信号のス
ペクトルと入力信号に含まれるドミナントな信号の基本
周波数の2倍の長さの窓長を持つバートレット関数の畳
み込みの結果を示す。FIG. 2 shows two signals f1 (t) and f2 (t).
FIG. 3 shows the spectrum of the signal f1 (t), and FIG. 4 shows the spectrum of the signal f2.
5 shows the spectrum of (t), and FIG. 5 shows the spectrum of the input signal of FIG. 2 and the result of convolution of the Bartlett function having a window length twice as long as the fundamental frequency of the dominant signal included in the input signal.
【0012】図6は他の2つの基本周波数の異なる信号
をフーリエ変換したスペクトルを示し、図7は図6を構
成する一方の信号のスペクトルを示し、図8は図6の信
号を構成する他方の信号のスペクトルを示し、図9は図
6の入力信号のスペクトルと入力信号に含まれる1つの
信号の基本周波数の2倍の長さの窓長を持つバートレッ
ト関数の畳み込みの結果を示す図である。FIG. 6 shows a spectrum obtained by Fourier-transforming other two signals having different fundamental frequencies, FIG. 7 shows a spectrum of one signal constituting FIG. 6, and FIG. 8 shows another spectrum constituting the signal of FIG. 9 shows the spectrum of the input signal shown in FIG. 6 and the result of convolution of the Bartlett function having a window length twice as long as the fundamental frequency of one signal included in the input signal. is there.
【0013】次に、図1〜図9を参照して、この発明の
一実施形態の動作について説明する。入力部11は図2
に示すような入力信号を周波数分析部12に与える。こ
の入力信号f(t)は2つの信号f1(t)とf2
(t)が含まれており、次の第(1)式で表わされる。Next, the operation of one embodiment of the present invention will be described with reference to FIGS. The input unit 11 is shown in FIG.
An input signal as shown in FIG. This input signal f (t) has two signals f1 (t) and f2
(T) is included and is expressed by the following equation (1).
【0014】[0014]
【数1】 (Equation 1)
【0015】周波数分析部12はフーリエ変換を用いて
入力信号の周波数分析を行なう。その分析結果は、次の
第(2)式で表わされ、その振幅値は第(3)式で表わ
される。異なる2つの信号が混合した信号をフーリエ変
換すると図2に示すようなスペクトルとなり、2つの信
号f1(t),f2(t)のスペクトルは図3および図
4に示しように、それぞれの信号の基本周波数の整数倍
間隔でスペクトルがたっている。The frequency analysis unit 12 performs a frequency analysis of an input signal using Fourier transform. The analysis result is expressed by the following equation (2), and the amplitude value is expressed by the following equation (3). Fourier transform of a signal in which two different signals are mixed results in a spectrum as shown in FIG. 2, and the spectra of the two signals f1 (t) and f2 (t) are, as shown in FIGS. The spectrum runs at integer multiples of the fundamental frequency.
【0016】[0016]
【数2】 (Equation 2)
【0017】基本周波数抽出部13は入力信号のうちい
ずれか一方の信号の基本周波数を抽出し、畳み込み演算
部14は基本周波数の2倍の長さを持つ窓関数とスペク
トルの畳み込みを行なう。その結果は次の第(4)式で
表わされる。The fundamental frequency extracting unit 13 extracts the fundamental frequency of one of the input signals, and the convolution operation unit 14 convolves the spectrum with a window function having twice the length of the fundamental frequency. The result is expressed by the following equation (4).
【0018】[0018]
【数3】 (Equation 3)
【0019】いま、図3のスペクトル間隔の2倍の長さ
の窓長を持つバートレット窓関数を図2のスペクトルに
対して畳み込み演算を行なうと、F1(ω)のエンベロ
ープが十分に滑らかなとき、F1(ω)による線スペク
トルは補間されてそのエンベロープだけが表われる。し
かし、F2(ω)による線スペクトルはスペクトル間隔
と補間関数であるバートレット窓関数の窓長の長さの関
係が適当でないため、図5に示すように、線スペクトル
の影響が補間後のエンベロープに表われる。このときの
エンベロープのピークとディップの間隔Δdは、F1
(ω)の線スペクトルの振幅が一定であれば一定値であ
る。Now, when a Bartlett window function having a window length twice as long as the spectrum interval of FIG. 3 is convolved with the spectrum of FIG. 2, when the envelope of F1 (ω) is sufficiently smooth, , F1 (ω) are interpolated and only the envelope appears. However, since the relationship between the spectral interval and the window length of the Bartlett window function as the interpolation function is not appropriate for the line spectrum based on F2 (ω), the influence of the line spectrum affects the envelope after interpolation as shown in FIG. Appears. At this time, the interval Δd between the envelope peak and the dip is F1
If the amplitude of the line spectrum of (ω) is constant, it is a constant value.
【0020】同様にして、図7のスペクトル間隔の2倍
の長さの窓長を持つバートレット関数を畳み込みをする
と、図9に示すような関数が得られる。図9および上述
の第(4)式から図5で見られたピークとディップの間
隔ΔdはBn倍されてB(ω)・Δdとなっていること
がわかる。さらに、第(4)式より、信号f1(t)の
スペクトルAnの影響は、バイアスとしてピークとディ
ップに均等に付加されていることになる。このことによ
り、畳み込み演算後のスペクトル関数のピークとディッ
プの差B(ω)・Δdが信号f2(t)のスペクトル包
絡の相似形となっており、またそのエンベロープのピー
クの位置がF2(ω)の線スペクトルの位置に相当する
ことがわかる。Similarly, when a Bartlett function having a window length twice as long as the spectrum interval in FIG. 7 is convoluted, a function as shown in FIG. 9 is obtained. From FIG. 9 and equation (4) above, it can be seen that the peak-dip interval Δd seen in FIG. 5 is multiplied by Bn to become B (ω) · Δd. Further, from the expression (4), the influence of the spectrum An of the signal f1 (t) is equally added to the peak and the dip as a bias. As a result, the difference B (ω) · Δd between the peak of the spectral function and the dip after the convolution operation is similar to the spectral envelope of the signal f2 (t), and the position of the peak of the envelope is F2 (ω). It can be seen that this corresponds to the position of the line spectrum of ()).
【0021】振幅決定部15は畳み込みの結果得られた
スペクトルのピークを滑らかに繋いだエンベロープのス
ペクトルのディップを滑らかに繋いだエンベロープの差
を各周波数について求める。そして、合成部16は求め
られたエンベロープの差を振幅エンベロープとするスペ
クトルをフーリエ逆変換して時間信号とし、出力部17
はその信号を音響信号に変換して出力する。The amplitude determining section 15 obtains, for each frequency, a difference between envelopes obtained by smoothly connecting dips of an envelope spectrum obtained by smoothly connecting peaks of a spectrum obtained as a result of convolution. Then, the synthesizing unit 16 performs a Fourier inverse transform on the spectrum having the obtained envelope difference as the amplitude envelope to obtain a time signal, and outputs the time signal.
Converts the signal into an acoustic signal and outputs it.
【0022】なお、上述の実施形態において、周波数分
析部12はフーリエ変換を用いるようにしたが、これに
限ることなく、たとえばLPC,ケプストラム,狭帯域
フィルタなどを用いて周波数分析を行なうようにしても
よい。また、検出されるスペクトルは振幅スペクトルで
はなく、パワースペクトルであってもよい。さらに、求
められたドミナントな信号が調波構造を持つならば、そ
の基本周波数を求めて同様の処理を行ない、アンチドミ
ナントな信号を抽出するようにしてもよい。In the above embodiment, the frequency analysis unit 12 uses the Fourier transform. However, the present invention is not limited to this. For example, the frequency analysis unit 12 may perform frequency analysis using an LPC, a cepstrum, a narrow band filter, or the like. Is also good. The detected spectrum may be a power spectrum instead of an amplitude spectrum. Further, if the obtained dominant signal has a harmonic structure, the same processing may be performed by obtaining its fundamental frequency to extract an anti-dominant signal.
【0023】図10はこの発明の他の実施形態を示すブ
ロック図である。この実施形態は周波数特性の実部と虚
部を別々に処理することにより、複素信号を分離するよ
うにしたものである。このために、周波数分析部12は
フーリエ変換を用いて入力信号の周波数分析を行ない、
実部と虚部を出力する。実部は第1の畳み込み演算部1
41に与えられ、虚部は第2の畳み込み演算部142に
与えられる。第1および第2の畳み込み演算部141,
142はそれぞれ基本周波数の2倍の長さを持つ窓関数
とスペクトルの虚部および実部の畳み込みを行ない、第
1の振幅決定部151と第2の振幅決定部152に与え
る。第1および第2の振幅決定部151,152は畳み
込みをされたスペクトルのピークを滑らかに繋いだエン
ベロープとスペクトルのディップを滑らかに繋いだエン
ベロープの差を各周波数について求める。第1および第
2の振幅決定部151,151で求められた実部と虚部
を持つスペクトルは合成部16に与えられ、フーリエ逆
変換が行なわれる。それ以外の入力部11と基本周波数
抽出部13と出力部17は前述の図1と同様にして構成
される。FIG. 10 is a block diagram showing another embodiment of the present invention. This embodiment separates a complex signal by separately processing a real part and an imaginary part of a frequency characteristic. To this end, the frequency analysis unit 12 performs a frequency analysis of the input signal using the Fourier transform,
Output real and imaginary parts. The real part is the first convolution operation unit 1
41 and the imaginary part is provided to a second convolution operation unit 142. First and second convolution operation units 141,
142 convolves the imaginary part and the real part of the spectrum with the window function having a length twice as long as the fundamental frequency, and gives the result to the first amplitude determining unit 151 and the second amplitude determining unit 152. The first and second amplitude determination units 151 and 152 determine, for each frequency, the difference between the envelope that smoothly connects the peaks of the convolved spectrum and the envelope that smoothly connects the dip of the spectrum. The spectrum having the real part and the imaginary part obtained by the first and second amplitude determination units 151 and 151 is provided to the synthesis unit 16 and the inverse Fourier transform is performed. The other parts of the input unit 11, the fundamental frequency extracting unit 13, and the output unit 17 are configured in the same manner as in FIG.
【0024】次に、動作について説明する。入力部11
からは前述の第(1)を式で示した入力信号が入力さ
れ、周波数分析部12はフーリエ変換を用いて入力信号
の周波数分析を行ない、その結果は前述の第(2)式で
表わされる。第(2)式において、A=ar+iai,
b=br+ibiとすると、実部と虚部はそれぞれ第
(5),第(6)式で表わされる。Next, the operation will be described. Input unit 11
, The input signal expressed by the expression (1) described above is input, the frequency analysis unit 12 analyzes the frequency of the input signal using Fourier transform, and the result is expressed by the expression (2) described above. . In the equation (2), A = ar + iai,
Assuming that b = br + ibi, the real part and the imaginary part are expressed by equations (5) and (6), respectively.
【0025】[0025]
【数4】 (Equation 4)
【0026】第1の畳み込み演算部141は次の第
(7)式に従って、基本周波数の2倍の長さを持つ窓関
数とスペクトルの実部の畳み込みを行なう。The first convolution operation section 141 convolves the real part of the spectrum with the window function having twice the length of the fundamental frequency according to the following equation (7).
【0027】[0027]
【数5】 (Equation 5)
【0028】一方、第2の畳み込み演算部152は次の
第(8)式に従って、基本周波数の2倍の長さを持つ窓
関数とスペクトルの虚部の畳み込みを行なう。On the other hand, the second convolution operation unit 152 performs convolution of the window function having a length twice as long as the fundamental frequency and the imaginary part of the spectrum according to the following equation (8).
【0029】[0029]
【数6】 (Equation 6)
【0030】第1の振幅決定部151は第1の畳み込み
演算部141によって畳み込みをされたスペクトルのピ
ークを滑らかに繋いだエンベロープとスペクトルのディ
ップを滑らかに繋いだエンベロープの差を各周波数につ
いて求め、第2の振幅決定部152は第2の畳み込み演
算部142で畳み込みの結果得られたスペクトルのピー
クを滑らかに繋いだエンベロープとスペクトルのディッ
プを滑らかに繋いだエンベロープの差を各周波数につい
て求める。そして、合成部16は第1および第2の振幅
決定部151,152で求められた実部と虚部を持つス
ペクトルのフーリエ逆変換を行なって時間信号を求め、
出力部17は構成部16の出力信号を音響信号に変換し
て出力する。The first amplitude determining unit 151 obtains, for each frequency, a difference between an envelope that smoothly connects the peaks of the spectrum convolved by the first convolution operation unit 141 and an envelope that smoothly connects the dips of the spectrum. The second amplitude determination unit 152 obtains, for each frequency, a difference between an envelope that smoothly connects the peaks of the spectrum obtained as a result of the convolution in the second convolution operation unit 142 and an envelope that smoothly connects the dips of the spectrum. Then, the synthesis unit 16 obtains a time signal by performing an inverse Fourier transform of the spectrum having the real part and the imaginary part obtained by the first and second amplitude determination units 151 and 152,
The output unit 17 converts an output signal of the configuration unit 16 into an audio signal and outputs the audio signal.
【0031】次に、図1に示した実施形態の他の例につ
いて説明する。ドミナントな信号f1(t)のスペクト
ル包絡をF1(ω)、最高倍音の次数をN1,アンチド
ミナントな信号f2(t)のスペクトル包絡をF2
(ω)、最高倍音の次数をN2、それぞれの基本周波数
をω1 ,ω2 とする。またそれぞれのスペクトルは調波
構造を持ち、線スペクトルで記述できるものとする。こ
のとき、信号f1(t)、f2(t)が合成された信号
のスペクトルF(ω)は次の第(9)式で表わされる。Next, another example of the embodiment shown in FIG. 1 will be described. The spectral envelope of the dominant signal f1 (t) is F1 (ω), the order of the highest harmonic is N1, and the spectral envelope of the antidominant signal f2 (t) is F2.
(Ω), the order of the highest harmonic is N2, and the respective fundamental frequencies are ω 1 and ω 2 . Each spectrum has a harmonic structure and can be described by a line spectrum. At this time, the spectrum F (ω) of the signal obtained by combining the signals f1 (t) and f2 (t) is expressed by the following equation (9).
【0032】[0032]
【数7】 (Equation 7)
【0033】ここで、f1(t),f2(t)が共通の
周波数の倍音成分を持たなければ、次の第(10)式で
示される。Here, if f1 (t) and f2 (t) do not have harmonic components of a common frequency, they are expressed by the following equation (10).
【0034】[0034]
【数8】 (Equation 8)
【0035】一方、信号f1(t),f2(t)が共通
の周波数の倍音成分を持つときは、その位相関係によっ
てその倍音のスペクトルの振幅値が干渉を受けることに
なる。ひとまずここでは、共通の倍音成分がない場合を
仮定する。On the other hand, when the signals f1 (t) and f2 (t) have harmonic components of a common frequency, the amplitude of the spectrum of the harmonic is interfered by the phase relationship. For now, it is assumed that there is no common harmonic component.
【0036】上述の第(10)式に信号f1(t)の基
本周波数ω1 の2倍の窓長を持つバートレット窓関数を
周波数領域で畳み込む。f1(t)のスペクトルが十分
に滑らかなとき、A Bartlett window function having a window length twice as long as the fundamental frequency ω 1 of the signal f1 (t) is convolved in the frequency domain in the above equation (10). When the spectrum of f1 (t) is sufficiently smooth,
【0037】[0037]
【数9】 (Equation 9)
【0038】となり、ここで、Where:
【0039】[0039]
【数10】 (Equation 10)
【0040】であるので、第1項は近似的に|S
1 (ω)|となる。次に、第2項のTherefore, the first term is approximately | S
1 (ω) |. Next, the second term
【0041】[0041]
【数11】 [Equation 11]
【0042】について、その性質を詳しく観察する。第
(13)式の真中の項はω2 の間隔で線スペクトルが並
んでいる。ω1 <ω2 のとき、次の第(14)式は図1
1に示すようなスペクトルになり、また、ω1 >ω2 の
とき第(14)式は図12に示すようなスペクトルにな
る。With regard to the above, its properties will be observed in detail. Term of the equation (13) of the middle are arranged a line spectrum omega 2 intervals. When ω 1 <ω 2 , the following equation (14) is represented by FIG.
1, and when ω 1 > ω 2 , equation (14) becomes a spectrum as shown in FIG.
【0043】[0043]
【数12】 (Equation 12)
【0044】図12(a)は基本周波数153Hzの調
波複合音のスペクトルであり、(b)はそのスペクトル
を窓長200Hzのバートレット窓で平滑化したスペク
トルである。また図12(a)は基本周波数100Hz
の調波複合音のスペクトルであり、図12(b)はその
スペクトルを窓長256Hzのバートレット窓で平滑化
したスペクトルを示す。FIG. 12A shows a spectrum of a harmonic complex tone having a fundamental frequency of 153 Hz, and FIG. 12B shows a spectrum obtained by smoothing the spectrum with a Bartlett window having a window length of 200 Hz. FIG. 12A shows a fundamental frequency of 100 Hz.
FIG. 12B shows a spectrum obtained by smoothing the spectrum with a Bartlett window having a window length of 256 Hz.
【0045】これらのどちらもω2 の間隔で極大値を持
つ関数であることがわかる。またさらにf2(t)が調
波構造を持つ周期信号であれば、極小値と極大値を結ぶ
線分の傾きは周波数に依らず一定となる。特に、ω1 >
ω2 のときは、極大点間の中点に極小点が存在する。極
大値をMx ,極小値をMn ,基本周波数をω1 とする
と、ω1 >ω2 のとき、第(14)式の極小値と極大値
を結ぶ線分の傾きは、次の第(15)式で与えられる。It can be seen that both of these are functions having local maxima at intervals of ω 2 . Furthermore, if f2 (t) is a periodic signal having a harmonic structure, the slope of the line connecting the minimum value and the maximum value is constant regardless of the frequency. In particular, ω 1 >
When the ω 2, the minimum point is present at the midpoint between the local maximum points. Assuming that the maximum value is M x , the minimum value is M n , and the fundamental frequency is ω 1 , when ω 1 > ω 2 , the slope of the line connecting the minimum value and the maximum value in Expression (14) is It is given by equation (15).
【0046】2(Mx −Mn )/ω2 …(15) 今、 |F2(ω)|=C1 ω+C2 …(16) とすると、第(13)の極小値と極大値を結ぶ線分の傾
きは第(17)式となり、極小値と極大値を結ぶ線分の
傾きは一定のバイアスC1 Mn を伴うが、|F2(ω)
|の振幅がその傾きに反映されていることがわかる。2 (M x −M n ) / ω 2 (15) Assuming that | F 2 (ω) | = C 1 ω + C 2 (16), the (13) th minimum value and the maximum value are connected. The gradient of the line segment is expressed by the following equation (17). The gradient of the line segment connecting the minimum value and the maximum value is accompanied by a constant bias C 1 Mn , but | F2 (ω)
It can be seen that the amplitude of | is reflected in the slope.
【0047】[0047]
【数13】 (Equation 13)
【0048】ω1 <ω2 のときは、極小点が極大点の中
点を中心としたある範囲に分布するので、極小値と極大
値を結ぶ線分の傾きはω1 >ω2 のときよりも大きくな
るが、その傾きは周波数によらず一定であるので、第
(17)式と同様に|F2(ω)|の振幅がその傾きに
反映されていることがわかる。When ω 1 <ω 2 , the local minimum points are distributed in a certain range centered at the midpoint of the local maximum point, so the gradient of the line connecting the local minimum value and the local maximum value is ω 1 > ω 2 However, since the slope is constant irrespective of the frequency, it can be seen that the amplitude of | F2 (ω) | is reflected in the slope as in the case of Expression (17).
【0049】上述の演算は図1に示した畳み込み演算部
14によって行なわれる。次に、振幅決定部15の動作
について説明する。第(11)式をωについて2回微分
する。ここで、The above operation is performed by the convolution operation unit 14 shown in FIG. Next, the operation of the amplitude determining unit 15 will be described. Equation (11) is differentiated twice with respect to ω. here,
【0050】[0050]
【数14】 [Equation 14]
【0051】とおくと、In other words,
【0052】[0052]
【数15】 (Equation 15)
【0053】となる。ここで、|F1(ω)|,|F2
(ω)|がG(ω)に対して十分滑らかに変化すると
き、近似的に第(21)式となる。Is as follows. Where | F1 (ω) |, | F2
When (ω) | changes sufficiently smoothly with respect to G (ω), the expression (21) is approximately obtained.
【0054】[0054]
【数16】 (Equation 16)
【0055】ここで、G(ω)はF2(ω)の線スペク
トルの存在する周波数に極大値を持つ関数であるので、
その周波数ではG(ω)の1回微分dG(ω)/dω=
0,G(ω)の2回微分d2 G(ω)/dω2 =−∞と
なる。Here, G (ω) is a function having a maximum value at the frequency where the line spectrum of F2 (ω) exists.
At that frequency, the first derivative of G (ω), dG (ω) / dω =
The second derivative of 0, G (ω) is d 2 G (ω) / dω 2 = −∞.
【0056】実際に計算を行なうときは、微分ではなく
差分を用いると、Δ2 (G(ω))は有限の値となり、
その大きさは極大値と極小値を結ぶ線分の傾きを反映し
ている。結局、求めるf2(t)のスペクトルは次の第
(22)式となる。In the actual calculation, if the difference is used instead of the derivative, Δ 2 (G (ω)) becomes a finite value,
The magnitude reflects the slope of the line connecting the maximum value and the minimum value. Eventually, the spectrum of f2 (t) to be obtained is expressed by the following equation (22).
【0057】[0057]
【数17】 [Equation 17]
【0058】ところで、図12より、ω1 >ω2 の場合
は、畳み込み関数の窓長に対し、非畳み込み関数のスペ
クトルの間隔が小さいため、最小の周波数と最大の周波
数のピークが明確でないことがわかる。このように、ス
ペクトルの振幅値が0である帯域に隣接するスペクトル
成分は、第(22)式の条件では、抽出することができ
なくなる。特に、基本周波数に相当する成分の欠落は大
きな音色の変化を引起こすおそれがある。そこで基本周
波数が欠落しないように、低域のスペクトル振幅に等し
い直流の成分を加えてからスペクトル平滑化を行なっ
た。By the way, from FIG. 12, when ω 1 > ω 2 , since the interval of the spectrum of the non-convolution function is smaller than the window length of the convolution function, the peaks of the minimum frequency and the maximum frequency are not clear. I understand. As described above, the spectral component adjacent to the band where the amplitude value of the spectrum is 0 cannot be extracted under the condition of Expression (22). In particular, a lack of a component corresponding to the fundamental frequency may cause a large change in timbre. Therefore, in order not to lose the fundamental frequency, a DC component equal to the low-frequency spectrum amplitude was added, and then the spectrum was smoothed.
【0059】[0059]
【発明の効果】以上のように、この発明によれば、入力
信号の周波数分析を行ない、入力信号に含まれる周波数
のうちのドミナントな信号の基本周波数を求め、求めた
基本周波数の数倍の長さを持つバートレット窓とスペク
トルの畳み込み演算を行ない、入力信号のアンチドミナ
ントな信号のスペクトルエンベロープを算出し、求めた
スペクトルエンベロープ信号を再合成するようにしたの
で、混合信号のうちのドミナントな信号のスペクトルを
平坦化してアンチドミナントな信号のスペクトルの特徴
を引出すことができ、2つの信号を分離可能な優れた信
号分離装置を実現できる。As described above, according to the present invention, the frequency analysis of the input signal is performed, the fundamental frequency of the dominant signal among the frequencies included in the input signal is determined, and several times the determined basic frequency is obtained. The convolution operation of the Bartlett window with the length and the spectrum is performed, the spectrum envelope of the anti-dominant signal of the input signal is calculated, and the obtained spectrum envelope signal is re-synthesized, so that the dominant signal of the mixed signal is obtained. Is flattened to extract the characteristics of the spectrum of the anti-dominant signal, and an excellent signal separation device capable of separating two signals can be realized.
【図1】この発明の一実施形態のブロック図である。FIG. 1 is a block diagram of one embodiment of the present invention.
【図2】2つの信号f1(t)とf2(t)が含まれて
いる入力信号のスペクトルを示す図である。FIG. 2 is a diagram illustrating a spectrum of an input signal including two signals f1 (t) and f2 (t).
【図3】信号f1(t)のスペクトルを示す図である。FIG. 3 is a diagram showing a spectrum of a signal f1 (t).
【図4】信号f2(t)のスペクトルを示す図である。FIG. 4 is a diagram illustrating a spectrum of a signal f2 (t).
【図5】図2の入力信号のスペクトルと入力信号に含ま
れる1つの信号の基本周波数の2倍の長さの窓長を持つ
バートレット関数の畳み込みの結果を示す図である。5 is a diagram illustrating a spectrum of the input signal of FIG. 2 and a result of convolution of a Bartlett function having a window length twice as long as a fundamental frequency of one signal included in the input signal.
【図6】他の2つの基本周波数の異なる信号をフーリエ
変換したスペクトルを示す図である。FIG. 6 is a diagram illustrating a spectrum obtained by Fourier-transforming another two signals having different fundamental frequencies.
【図7】図6の信号を構成する一方の信号のスペクトル
を示す図である。FIG. 7 is a diagram showing a spectrum of one signal constituting the signal of FIG. 6;
【図8】図6の信号を構成する他方の信号のスペクトル
を示す図である。FIG. 8 is a diagram showing a spectrum of another signal constituting the signal of FIG. 6;
【図9】図6に示した入力信号のスペクトルと入力信号
に含まれる1つの信号の基本周波数の2倍の長さの窓長
を持つバートレット関数の畳み込みの結果を示す図であ
る。9 is a diagram illustrating a spectrum of the input signal illustrated in FIG. 6 and a result of convolution of a Bartlett function having a window length twice as long as a fundamental frequency of one signal included in the input signal.
【図10】この発明の他の実施形態を示すブロック図で
ある。FIG. 10 is a block diagram showing another embodiment of the present invention.
【図11】基本周波数153Hzの調波複合音のスペク
トルとバートレット窓で平滑化したスペクトルを示す図
である。FIG. 11 is a diagram showing a spectrum of a harmonic composite sound having a fundamental frequency of 153 Hz and a spectrum smoothed by a Bartlett window.
【図12】基本周波数100Hzの調波複合音のスペク
トルとバートレット窓で平滑化したスペクトルを示す図
である。FIG. 12 is a diagram showing a spectrum of a harmonic complex tone having a fundamental frequency of 100 Hz and a spectrum smoothed by a Bartlett window.
【図13】従来の信号分離装置の構成を示すブロック図
である。FIG. 13 is a block diagram showing a configuration of a conventional signal separation device.
11 入力部 12 周波数分析部 13 基本周波数抽出部 14 畳み込み演算部 15 振幅決定部 16 合成部 17 出力部 141 第1の畳み込み演算部 142 第2の畳み込み演算部 151 第1の振幅決定部 152 第2の振幅決定部 DESCRIPTION OF SYMBOLS 11 Input part 12 Frequency analysis part 13 Fundamental frequency extraction part 14 Convolution calculation part 15 Amplitude determination part 16 Synthesis part 17 Output part 141 1st convolution calculation part 142 2nd convolution calculation part 151 1st amplitude determination part 152 2nd The amplitude determination unit
───────────────────────────────────────────────────── フロントページの続き (72)発明者 ハニ ヤヒヤ 京都府相楽郡精華町大字乾谷小字三平谷5 番地 株式会社エイ・ティ・アール人間情 報通信研究所内 (72)発明者 河原 英紀 京都府相楽郡精華町大字乾谷小字三平谷5 番地 株式会社エイ・ティ・アール人間情 報通信研究所内 ──────────────────────────────────────────────────の Continued on the front page (72) Inventor Hani Yahiya 5th Sanraya, Inaya, Seika-cho, Sagara-gun, Kyoto Pref. ATIR Human Information and Communication Research Laboratories Co., Ltd. (72) Inventor Hideki Kawahara Kyoto Soraku No. 5 Sanpani, Seiya-cho, Gunma-cho, Gunma ATI Human Information and Communication Laboratories, Inc.
Claims (4)
て、 前記入力信号の周波数分析を行なう周波数分析手段、 前記周波数分析手段によって周波数分析された入力信号
に含まれる周波数のうち、ドミナントな信号の基本周波
数を求める基本周波数抽出手段、 前記基本周波数抽出手段によって抽出された基本周波数
の数倍の長さを持つバートレット窓とスペクトルの畳み
込み演算を行なう畳み込み演算手段、 前記周波数分析された入力信号のアンチドミナントな信
号のスペクトルエンベロープを算出する振幅決定手段、
および求められたスペクトルエンベロープにより信号を
再合成する合成手段を備えた、信号分離装置。1. A signal separation device for separating an input signal, comprising: frequency analysis means for performing frequency analysis of the input signal; and a dominant signal among frequencies included in the input signal analyzed by the frequency analysis means. Fundamental frequency extracting means for obtaining a fundamental frequency of the convolution operation means for performing convolution operation of a Bartlett window and a spectrum having a length several times the fundamental frequency extracted by the fundamental frequency extracting means, and of the frequency-analyzed input signal. Amplitude determining means for calculating the spectrum envelope of the anti-dominant signal,
And a synthesizing means for re-synthesizing the signal based on the determined spectrum envelope.
て、 前記入力信号の周波数分析を行なう周波数分析手段、 前記周波数分析手段によって周波数分析された入力信号
に含まれる信号のうち、ドミナントな信号の基本周波数
を求める基本周波数抽出手段、 前記基本周波数抽出手段によって抽出された基本周波数
の数倍の長さを持つバートレット窓とスペクトルの畳み
込み演算を行なう畳み込み演算手段、 前記畳み込み演算手段によって畳み込み演算された結果
を数回差分して前記アンチドミナントな信号のエンベロ
ープを決定する振幅決定手段、および前記振幅決定手段
によって決定されたエンベロープより信号を合成する合
成手段を備えた、信号分離装置。2. A signal separating apparatus for separating an input signal, comprising: frequency analysis means for performing frequency analysis of the input signal; and a dominant signal among signals included in the input signal frequency-analyzed by the frequency analysis means. Fundamental frequency extracting means for obtaining the fundamental frequency of the convolution operation means, convolution operation means for performing convolution operation of a Bartlett window having a length several times as long as the fundamental frequency extracted by the basic frequency extraction means and spectrum, convolution operation performed by the convolution operation means A signal separating device comprising: an amplitude determining unit that determines the envelope of the anti-dominant signal by differentiating the result several times; and a combining unit that combines the signal from the envelope determined by the amplitude determining unit.
れた信号を音響信号に変換して出力する出力手段を備え
た、請求項1または2の信号分離装置。3. The signal separation device according to claim 1, further comprising an output unit that converts the signal re-synthesized by the synthesis unit into an audio signal and outputs the audio signal.
の実部の畳み込みを行なう第1の畳み込み演算手段と、 前記基本周波数の数倍の長さを持つ窓関数とスペクトル
の虚部の畳み込みを行なう第2の畳み込み演算手段とを
含み、 前記振幅決定手段は、 前記第1の畳み込み演算手段によって畳み込みされたス
ペクトルのピークを滑らかに繋いだエンベロープとスペ
クトルのディップを滑らかに繋いだエンベロープの差を
各周波数に基づいて求める第1の振幅決定手段と、 前記第2の畳み込み演算手段によって畳み込みされたス
ペクトルのピークを滑らかに繋いだエンベロープとスペ
クトルのディップを滑らかに繋いだエンベロープの差を
各周波数について求める第2の振幅決定手段とを含む、
請求項1の信号分離装置。4. The convolution operation means comprises: a first convolution operation means for convolving a window function having a length several times the fundamental frequency and a real part of a spectrum; and a length several times the fundamental frequency. And a second convolution operation means for convolving the imaginary part of the spectrum, the amplitude determination means comprising: an envelope which smoothly connects peaks of the spectrum convolved by the first convolution operation means; First amplitude determining means for obtaining, based on each frequency, a difference between envelopes obtained by smoothly connecting spectral dips; and an envelope and spectrum dip obtained by smoothly connecting peaks of the spectrum convolved by the second convolution operation means. And a second amplitude determining means for obtaining, for each frequency, an envelope difference obtained by smoothly connecting
The signal separation device according to claim 1.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP22258196A JP3472046B2 (en) | 1996-08-23 | 1996-08-23 | Signal separation device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP22258196A JP3472046B2 (en) | 1996-08-23 | 1996-08-23 | Signal separation device |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH1062460A true JPH1062460A (en) | 1998-03-06 |
JP3472046B2 JP3472046B2 (en) | 2003-12-02 |
Family
ID=16784720
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP22258196A Expired - Lifetime JP3472046B2 (en) | 1996-08-23 | 1996-08-23 | Signal separation device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3472046B2 (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2001041505A1 (en) * | 1999-12-03 | 2001-06-07 | Dolby Laboratories Licensing Corporation | Method and apparatus for deriving at least one audio signal from two or more input audio signals |
US6920223B1 (en) | 1999-12-03 | 2005-07-19 | Dolby Laboratories Licensing Corporation | Method for deriving at least three audio signals from two input audio signals |
US7280664B2 (en) | 2000-08-31 | 2007-10-09 | Dolby Laboratories Licensing Corporation | Method for apparatus for audio matrix decoding |
WO2016024363A1 (en) * | 2014-08-14 | 2016-02-18 | 株式会社ピー・ソフトハウス | Audio-signal processing device, audio-signal processing method, and audio-signal processing program |
-
1996
- 1996-08-23 JP JP22258196A patent/JP3472046B2/en not_active Expired - Lifetime
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2001041505A1 (en) * | 1999-12-03 | 2001-06-07 | Dolby Laboratories Licensing Corporation | Method and apparatus for deriving at least one audio signal from two or more input audio signals |
US6920223B1 (en) | 1999-12-03 | 2005-07-19 | Dolby Laboratories Licensing Corporation | Method for deriving at least three audio signals from two input audio signals |
US6970567B1 (en) | 1999-12-03 | 2005-11-29 | Dolby Laboratories Licensing Corporation | Method and apparatus for deriving at least one audio signal from two or more input audio signals |
KR100704507B1 (en) * | 1999-12-03 | 2007-04-10 | 돌비 레버러토리즈 라이쎈싱 코오포레이션 | Method for deriving at least three audio signals from two input audio signals |
US7280664B2 (en) | 2000-08-31 | 2007-10-09 | Dolby Laboratories Licensing Corporation | Method for apparatus for audio matrix decoding |
WO2016024363A1 (en) * | 2014-08-14 | 2016-02-18 | 株式会社ピー・ソフトハウス | Audio-signal processing device, audio-signal processing method, and audio-signal processing program |
US9881633B2 (en) | 2014-08-14 | 2018-01-30 | P Softhouse Co., Ltd. | Audio signal processing device, audio signal processing method, and audio signal processing program |
Also Published As
Publication number | Publication date |
---|---|
JP3472046B2 (en) | 2003-12-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Watanabe | Formant estimation method using inverse-filter control | |
JP2763322B2 (en) | Audio processing method | |
EP0822538B1 (en) | Method of transforming periodic signal using smoothed spectrogram, method of transforming sound using phasing component and method of analyzing signal using optimum interpolation function | |
KR101110141B1 (en) | Cyclic signal processing method, cyclic signal conversion method, cyclic signal processing device, and cyclic signal analysis method | |
KR100708121B1 (en) | Method and apparatus for bandwidth extension of speech | |
EP2249333B1 (en) | Method and apparatus for estimating a fundamental frequency of a speech signal | |
EP0945852A1 (en) | Speech synthesis | |
EP2237266A1 (en) | Apparatus and method for determining a plurality of local center of gravity frequencies of a spectrum of an audio signal | |
JP3074952B2 (en) | Noise removal device | |
EP1074968B1 (en) | Synthesized sound generating apparatus and method | |
JP2001022369A (en) | Sound source information extracting method | |
JPH1062460A (en) | Signal separator | |
JPH05281996A (en) | Pitch extracting device | |
JP2798003B2 (en) | Voice band expansion device and voice band expansion method | |
JP2003140671A (en) | Separating device for mixed sound | |
JP2003044077A (en) | Method, device and program for extracting audio feature amount | |
JP4125322B2 (en) | Basic frequency extraction device, method thereof, program thereof, and recording medium recording the program | |
JP2001222289A (en) | Sound signal analyzing method and device and voice signal processing method and device | |
JP4513556B2 (en) | Speech analysis / synthesis apparatus and program | |
JP3271193B2 (en) | Audio coding method | |
JPH08328593A (en) | Spectrum analysis method | |
JPH05127668A (en) | Automatic transcription device | |
WO2021193637A1 (en) | Fundamental frequency estimation device, active noise control device, fundamental frequency estimation method, and fundamental frequency estimation program | |
JP3218681B2 (en) | Background noise detection method and high efficiency coding method | |
JP2009237589A (en) | Speech analysis and synthesis device, and program thereof |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20030826 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100912 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100912 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110912 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120912 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120912 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130912 Year of fee payment: 10 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |