JPWO2003003345A1 - 信号の周波数成分を補間するための装置および方法 - Google Patents
信号の周波数成分を補間するための装置および方法 Download PDFInfo
- Publication number
- JPWO2003003345A1 JPWO2003003345A1 JP2003509435A JP2003509435A JPWO2003003345A1 JP WO2003003345 A1 JPWO2003003345 A1 JP WO2003003345A1 JP 2003509435 A JP2003509435 A JP 2003509435A JP 2003509435 A JP2003509435 A JP 2003509435A JP WO2003003345 A1 JPWO2003003345 A1 JP WO2003003345A1
- Authority
- JP
- Japan
- Prior art keywords
- frequency
- signal
- component
- suppressed
- input signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 36
- 238000001228 spectrum Methods 0.000 claims abstract description 49
- 230000005236 sound signal Effects 0.000 claims description 17
- 238000004458 analytical method Methods 0.000 claims description 12
- 238000006243 chemical reaction Methods 0.000 claims description 12
- 230000003595 spectral effect Effects 0.000 claims description 9
- 238000012886 linear function Methods 0.000 claims description 8
- 230000008569 process Effects 0.000 claims description 7
- 230000015572 biosynthetic process Effects 0.000 claims description 4
- 238000005070 sampling Methods 0.000 claims description 4
- 238000003786 synthesis reaction Methods 0.000 claims description 4
- 230000002194 synthesizing effect Effects 0.000 claims description 4
- 230000001131 transforming effect Effects 0.000 claims 1
- 230000001629 suppression Effects 0.000 abstract description 21
- 238000010586 diagram Methods 0.000 description 14
- 230000008859 change Effects 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 101000969688 Homo sapiens Macrophage-expressed gene 1 protein Proteins 0.000 description 1
- 102100021285 Macrophage-expressed gene 1 protein Human genes 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000013213 extrapolation Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000002442 scanning plasmon near-field microscopy Methods 0.000 description 1
- 238000010183 spectrum analysis Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Processing of the speech or voice signal to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/038—Speech enhancement, e.g. noise reduction or echo cancellation using band spreading techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B1/00—Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
- H04B1/66—Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission for reducing bandwidth of signals; for improving efficiency of transmission
- H04B1/667—Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission for reducing bandwidth of signals; for improving efficiency of transmission using a division in frequency subbands
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
- G10L19/0204—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders using subband decomposition
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/08—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters
- G10L19/097—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters using prototype waveform decomposition or prototype waveform interpolative [PWI] coders
Abstract
Description
本発明は、特定の周波数帯域における周波数成分が除去又は抑圧されている所与の信号の当該周波数成分を近似値に合成してこれを該所与の信号に補間することによりスペクトル分布を改善するための周波数補間装置および方法に関する。
背景技術
MP3(MPEG1 audio layer 3)形成のデータの配信、及び、FM(Frequency Modulation)放送やテレビジョン音声多重放送等の手法による音楽などの供給が近年盛んになっている。これらの手法では、帯域が過度に広くなることによるデータ量の増大や占有帯域幅の広がりを回避するために、対象となるオーディオ信号などの高域周波数成分を抑圧して上限周波数を下げるようにしている。例えば、上限周波数が20kHzのオーディオ信号の約15kHz以上の周波数成分を抑圧して上限周波数を低下させれば、サンプリング周波数は元の信号の3/4で済むため、データレートの低減につながり有利である。しかしながら、当然のことながら、高域周波数成分が抑圧されたオーディオ信号は、元の信号に比べその音質が劣化する。このため、当該抑圧された周波数成分を、何らかの形で近似的に復元する試みがなされている。このような周波数成分復元の手法としては、対象となる信号を歪ませて、その結果発生する歪み信号から抑圧帯域の補間に供する周波数帯域成分をフィルタにて抽出し、これを補間の対象となる信号に加算してもとの信号に近似して信号を復元するようにしたものがある。
また別の手法としては、原オーディオ信号から基音と倍音が組で存在する音声成分を抽出して、抽出した音声成分を用い、原オーディオ信号の帯域より高域側の倍音成分を予測して原オーディオ信号に外挿するというものがある。
しかしながら、前者の手法においては、オーディオ信号の波形をリミッタ回路等を用いて歪ませることにより高調波を発生させるに過ぎないので、この高調波は元のオーディオ信号に本来含まれているものを近似し得るものであるかは定かでない。
また、元の音声等の帯域を制限して得られる原オーディオ信号に後者の手法を適用した場合、純音の音色成分については、倍音成分を予測して外挿することができず、同様に、帯域が制限された結果倍音成分が除去された音声成分については除去された倍音成分を推測して外挿することができない。
さらに、最近考案された手法として、対象信号を周波数分析して残存スペクトルパターンから抑圧周波数成分のスペクトルパターン、あるいはその強度等を推定し、これを合成して対象信号に加算付加するようにしたものがある。この手法は、音質改善上、優れたものであるが、実用上問題がある。というのは、この手法は、必然的に対象となる主信号の広帯域にわたる高分解能の短時間フーリエ変換および逆変換処理を要求するものであるため、デジタル信号処理に用する演算量が膨大となるからである。
これは、デジタル信号プロセッサ(DSP)の演算速度および回路規模についての過度の要求につながり、実用価値を低下せしめることとなる。
本発明は、上記実状に鑑みてなされたものであり、原信号の特定の周波数帯域が抑圧されたオーディオ信号を高品質で復元するための信号補間装置及び信号補間方法を提供すること、並びに、比較的小さな演算規模を用いながらも原信号に近い信号を効率的に復元できるという実用的価値の高い信号補間装置及び信号補間方法を提供することを目的とする。
発明の開示
上記目的を達成するために、本発明の周波数補間装置は、原信号の特定周波数帯域における周波数成分が抑圧された入力信号から、該抑圧された周波数成分を近似的に復元して原信号に近い信号を再生することを目的として、該入力信号を、各々が複数の周波数帯域におけるそれぞれの周波数成分を有するような複数の成分信号に分割し、この分割された成分信号を用いて該抑圧された帯域周波数成分を有する成分信号を合成し、及び該入力信号に付加するよう、基本的に動作する。
そして、該分割されたそれぞれの成分信号は、さらに所定の同一の周波数帯域の信号に周波数変換されて、該周波数変換された成分信号の線形結合として、該抑圧された周波数成分を有する信号が合成されるようになっている。さらに、本発明の装置においては、該入力信号における抑圧されないで残存する周波数成分のスペクトル包絡線情報を抽出する手段を含み、このスペクトル包絡線情報に基づいて、該合成される成分信号のレベルが適正に決定されるようになっている。また、好適には、該スペクトル包絡線情報は、該入力信号を周波数分析することにより求められる所定の関数式により表されるものであり、この関数式としては、処理を効率化すべく最も簡単な一次関数直線式が用いられる、また該複数の成分信号は、一定の通過帯域幅を有する複数個の帯域通過フィルタを用いて生成されるようになっている。なお、本発明において、入力信号としては、典型的にはアナログ・オーディオ信号を、サンプリングし、かつ量子化することにより得られたディジタル・オーディオ信号が用いられる。
本発明を別の局面から把えるとすれば、本発明の周波数補間装置は、該入力信号を、各々が複数の周波数帯域におけるそれぞれの周波数成分を有する複数の成分信号に分割する手段と、該複数の成分信号を周波数変換処理してそれぞれの成分信号の周波数帯域を同一にする為の手段と、該入力信号を周波数分析して残存する周波数成分のスペクトル包絡線情報を抽出する手段と、該分割されかつ周波数変換された成分信号を用いて該抑圧された周波数帯域成分を有する成分信号を合成するとともに、抽出されたスペクトル包絡線情報に基づいて合成信号のレベルを決定する手段と、該周波数変換された成分信号を逆周波数変換して、もとの周波数帯域の信号にもどす手段とから成るものであるということができる。この装置においては、該抑圧された周波数帯域成分を有する補間用成分信号の合成は、該残存する周波数成分を有するいくつかの成分信号を線形結合することにより行われる。
さらに、本発明の周波数補間装置は、該入力信号をフィルタリングすることにより、抑圧されないで残存する周波数成分の一部を含む成分信号を生成する手段と、この成分信号に周波数変換を施すことにより、該抑圧された周波数成分を有する信号を合成して、これを該入力信号に付加する手段とを含む簡易な構成により実現することも可能である。この簡易化装置においては、さらに該入力信号における抑圧されないで残存する周波数成分のスペクトル包絡線情報を抽出する手段が含まれ、このスペクトル包絡線情報に基づいて、該合成される信号のレベルが決定されるようになっている。
本発明の信号補間装置は、上記のような構成を採用するため、(特定の帯域成分が抑圧される前の)原信号に本来含まれていた周波数成分を比較的忠実に合成し得、抑圧信号の補間に供することができる。このため、原信号に対して近似度の良い信号が復元されることとなり、オーディオ信号等を低歪み、かつ高音質で再生することが可能となる。
その上、非線形動作をする回路構成は一切用いられていないため、信号歪が若干存在するとしても、その信号歪は聴感上許容され得る線形性のものに、限られるものである。したがって、聴感上の歪感は極めて少ないといえる。
さらに、本発明の装置においては、主信号そのものを処理するために、(広帯域の信号を対象とし、かつ高分解能の)フーリエ変換及びその逆変換を用いていない。本発明の手法は、信号の周波数成分に着目して信号処理がなされるものではあるが、主信号そのものを“時間領域”から“周波数領域”へと変換する(あるいは逆に“周波数領域”の信号を“時間領域”の信号にもどす)処理はおこなわれていない。なるほど、本発明においても、フーリエ変換処理を一部で用いてはいるが、これは残存スペクトルの包絡線を推定する処理に留まるものである(その変換は、さほど高分解能を要しない)。本発明において、主信号の処理は、フーリエ変換ではなく線形のフィルタ(即ち帯域通過型フィルタ)を用いて行っている。このため、信号処理全体の演算量が大幅に低減できるという長所がある。したがって、本発明の周波数補間装置は、オーディオ用の1チップのDSPのみでデジタル信号処理に必要な演算処理を完遂でき実用な価値が高いといえる。
発明の実施の形態
以下図面を参照して、本発明による周波数補間装置の実施の形態を詳細に説明する。
第1図は、本発明の周波数補間装置の基本構成を示す図であり、本発明の装置が、大きく帯域分割セクション、周波数変換セクション、周波数補間セクション、周波数逆変換セクションおよび帯域合成セクションから成るものであることを示している。
本発明においては周波数補間の対象となる(予め特定の周波数帯域の周波数成分が除去又は抑圧された)信号が、まず帯域分割セクション10に入力される。ここでは、入力信号が予め定めた複数個(M個)の周波数帯域(F0,F1,F2,・・・・,FM−1)におけるそれぞれの周波数成分を有するM個の成分信号(S1,S2,S3,・・・・,SM−1)に分割される。ついで、帯域分割により得られた各成分信号Si(i=0,・・・,M−1)は周波数変換セクション20に供給されて周波数シフトが施され、各成分信号の周波数帯域F0,F1,F2,・・・・,FM−1が特定の1つの周波数帯域(典型的には、最低周波数の帯域F0)に一律に変換される。次に、周波数補間セクション30においては、周波数変換された成分信号Si’(i=1,2,・・・,M−1)のうちのいくつかを用いて抑圧された帯域の成分信号(例えば、高域周波数帯域の成分信号SM−2’,S’M−1,およびS’M)が合成される。これが、事実上の周波数補間処理に相当する。その後、周波数逆変換セクション40において、周波数変換されていた成分信号Si’(i=0〜M−1)の周波数帯域がもとにもどされる。そして、最後に、分割されていた成分信号が結合され、周波数成分の補間された所望の信号が出力として取り出されることとなる。
第2図及び第3図は、以上説明した信号処理の流れを直感的に把握し得るよう、各処理過程における信号の形態を模式的に示したものである。第2図(a)は、(特定帯域の周波数成分が除去もしくは抑圧された)入力信号を時間領域表現形式で示したものである。第2図(b)は、信号の周波数領域表示であり、例示として、入力信号が帯域幅f0を有するM個(M=9)の周波数帯域に分割される様子を示している。ここでは、第7、8および9番目の周波数帯域(F6,F7およびF8)の周波数成分が抑圧されている場合を想定している。第2図(c)は、周波数変換後の各成分信号のスペクトル配置を表し、いずれも周波数成分(スペクトル)の占有帯域が0〜f0(Hz)となっていることがわかる。
第2図(c)は周波数補間前の周波数スペクトル分布を、また第3図(a)は補間後のスペクトル分布を示しており、抑圧帯域F6,F7及びF8のスペクトル分布が補間される様子がわかる。第3図(b)は、周波数逆変換後のスペクトル分布を示すものであり、また第3図(c)はこのスペクトル分布を有する信号の時間領域表現、即ち、周波数補間後の出力信号そのものの時系列を表している。
次に、第4図は、本発明の周波数補間装置の好適な実施例を示す図である。
第1図を参照しての説明で述べた帯域分割成分信号S1,S2,S3,・・・,SM−1は、M個のバンドパスフィルタ60(BPF0〜BPFM−1)により生成される。ついで、成分信号S1,S2,S3,・・・,SM−1は、それぞれミキサ部Xにて周波数nf0(n=2,3,・・・M)を有する正弦波信号Sin(2nπf0t)にて乗算され、かつ低域通過フィルタ70(LPF0,・・・・,LPFM−1)により低域ろ波されて、その周波数帯域が最低周波数帯域[0、f0]にシフトされる。なお、帯域通過フィルタ部60と、ミキサXと、低域通過フィルタ部とを一体化したものは、当業者にはQMF(Quadrature Mirror Filter)アナライザとして知られている。このように、異なる周波数帯域の成分信号を同一の周波数帯域の成分信号へと周波数変換をする意義は、「帯域通過フィルタ(BPF0〜BPFM−1)を通して得たフィルター出力信号の集合を複数ロケーションを有する1つのフィルタバンクにおさめ、そのフィルタバンク内の各ロケーションに格納された各信号Si(i=0〜M−1)を任意にとり出して相互に交換あるいは加減算又はコピーなどをすることが自由にできるようになる。」という点にある。周波数帯域がシフトされた成分信号S0’,S1’,・・・,SM−1’は、ついで周波数補間ユニット80に供給され、そこでは後述するように、抑圧された帯域の周波数成分が合成され、かつ補間される。この周波数補間ユニットには、入力信号を周波数分析器(FFT)110により周波数分析し(典型的には、フーリエ変換し)、かつ低域ろ波された信号が供給されている。これらFFT110および低域通過フィルタ120の動作機能については、後に詳述するが、基本的には、入力信号の抑圧された特定帯域が既知でない場合にそれを検出するとともに、残存するスペクトルの(補間用信号のレベルを定めるための)包絡線情報を求めるためのものである。周波数補間ユニット80において補間処理された(抑圧された周波数成分が合成復元されて付加された信号)S0”,S1”,S2”,・・・,SM−1”は、ミキサー部Yにて周波数n’f0(n’=1,2,3,・・・,(M−1))を有する正弦波信号Sin(2n’πf0t)にて乗算され、かつ低域通過フィルタ90(LPF0〜LPFM−1)にて(その低域成分が)ろ波され、結果として、補間後の成分信号(S0”,S1”,・・・,SM−1”)はもとの周波数帯域の信号にもどされる。
なお、ミキサ80と、低域通過フィルタ部とを一体化したものは、当業者にはQMFシンセサイザとして知られている。
最後に、これら成分信号Si”(i=0,〜,(M−1))は、加算器100にて互いに加え合わされて出力信号bとして取り出される。
さて、本発明の本題である周波数補間ユニット80の構成およびそこでなされる信号処理機能について説明する。
上述したように、周波数補間ユニット80には、M個の帯域に分割され、かつ周波数変換された成分信号S1’,S2’,S3’,・・・,SM−1’が入力され、補間処理のなされた成分信号S0”,S1”,・・・,SM−1”が出力される。
本発明の補間処理においては、(周波数成分が)抑圧された帯域における成分信号が、(周波数成分の)残存する帯域における成分信号を用いて、これら信号を線形結合することにより合成される。
出力が入力の線形結合で表されるような周波数補間ユニット80入力と出力関係は一般に次のように表すことができる。
ここで、M個の周波数帯域のうち、高域部の周波数帯域FM−3,F2およびFM−1の周波数成分が予め抑制されていた(即ち、SM−3’=SM−2’=SM−1’≒0)ものとする。この場合、残りの周波数帯域(F0〜FM−4)の各周波数成分は0でないと考えられるからS0’=S1’=・・・=SM−1’≠0である。また、抑圧帯域以外の成分信号については、入力がそのまま出力されるものとすると、上記第(1)式は、以下のように表される。
と表現される。
線形結合係数の値a11,a12,a13,・・・・,a21,a21,a23,・・・a3(M−3)は、一般には、信号中の残存するスペクトルの特性に基づいて決められるものである。本発明においては、これら係数値は後述するように、残存スペクトルの包絡線基づき、抑圧された周波数に対して補間すべき信号レベルの推定値との関連で決められる。
第5図は、周波数補間ユニット80の具体的構成例を示す図である。ここでは、信号が10個の周波数帯域F0,F1,F2,F3,・・・・,F7,F8およびF9に分割され、10個の(周波数変換後の)成分信号S0’,S1’,S2’,・・・・・・,S7’,S8’およびS9’が生成される場合であって、高域の3つの帯域F7,F8およびF9が抑圧帯域である場合を想定している。第5図の例においては、抑圧帯域F7に低周波数側で隣接する周波数帯域F4,F5およびF6の信号C4’,C5’およびC6’をそれぞれ所定レベル減衰させて、即ち、重み係数k1,k2,k3,(<1)を掛けたものk1・C’4,k2・C’5およびk3・C’6を抑圧帯域に加算(つまり、抑圧帯域の成分を補間)するようにしている。この構成例は、上述の第(2)式における線形結合係数の一部を
とした場合に相当する。なお、係数値k1,k2,k3,(<1)は、信号の残存するスペクトルの包絡線関数に基づいて(後述のように)求められるものである。
第6図は、周波数補間操作についての別の事例を別の表現法にて表したものである。この第6図において、信号は19個の帯域(F0,F1,・・・,F18)に分割されたものとし、また、帯域F14,F15,F16,F17およびF18を抑圧帯域と仮定している。第6図(a)は、残存する帯域F9〜F13の信号C9’〜C13’がそれぞれそのまま対応する抑圧帯域F14〜F18に加えられる場合を示している。また、第6図(b)は、抑圧帯域F14〜F18に対し補間されるべき信号C14’〜C18’は、
として求められる場合を示している。つまり、寄与率を考慮した重みづけをして、抑圧された帯域(例えば、F14)に対応する補間帯域(例えば、F9)の成分信号(例えば、C9’)には、最も高い重みづけ(1)を与え、その帯域から低い方に遠ざかるにつれ、(寄与率を減ずるようにして)徐々に重みづけの値を減ずるようになっている。
ここで、第6図(b)に示す補間操作を、上記行列式(1)の表現形式で略記すると、次のようになる。
次に、第4図のブロック図中周波数分析器110(具体的にはフーリエ変換器)、低域通過フィルタ120およびスペクトル包絡線検出器130の役割について述べる。これら構成要素は、周波数分析器110により周波数分析(具体的にはフーリエ変換)して抑圧された周波数帯域を識別検出(予めそれが既知でない場合)するともに、残存する周波数成分のスペクトル包絡線情報を抽出するために用いられる。信号のスペクトルは時々刻々変化するものであるため、この周波数分析は短時間スペクトル分析であり、典型的にはデジタル入力信号に所定の時間窓をかけ、各フレームについて所定のサンプル値についての離散的フーリエ変換が行われる。検出される周波数分析データ(例えば、FFT演算による複素フーリエ係数のようなパラメータ)は各フレーム毎に変化するが、それが階段状に不連続に変化しないよう、つまりその急激な変化を抑え、パラメータがゆるやかに変化するよう、平滑化のための低域フィルター(LPF)120を通すようにする。このような平滑処理の前後におけるパラメータ値の変化の様子を第7図に示す。これにより高域補間を避け、補間後の波形の歪を最小限に迎えることが可能となる。
最後に、スペクトル包絡線検出器130は、得られた周波数分析結果に基づいて残存する周波数帯域におけるスペクトル包絡線を関数式で表し、およびそれから(周波数補間ユニット内の)周波数補間用重みづけ係数値(例えば、k1,k2,k3)を算出し出力するものである。
入力信号を周波数分析した結果あるフレームについて(例えば、第8図(a))に示されるように短時間スペクトルが得られたとする。fcは抑圧帯域の下限周波数である。このとき、残存スペクトルパターン(a)から、スペクトル包絡線特性の定量データとして包絡線を表す関数式を求める。例えば、最も簡単には包絡線を近似する一次関数
を最小2乗近似法により求める。具体的には周波数の関数としてのスペクトル強度SP(f)について、所与の周波数帯域をN等分し間隔Δf毎に平均化しかつサンプルして得た値をSP1,SP2,SP3,・・・・,SPN−1およびSPN(図の例示では、SP1〜SP10)とする。
このとき
という測度が最小と成るよう一次関数式(5)の係数AおよびBを求めればよい。次に、この一次関数式に基づいて、補間されるべき抑圧帯域のスペクトル強度L(補間係数)が求められる。即ち、補間後のスペクトルの包絡線もやはり一次関数式で精度よく近似され得るように、補間係数L(補間されるべき信号のスペクトル強度)を決めるようにする。補間されるべき抑圧帯域の周波数ポイントを例えば、SPN+1,SPN+2,・・・,SPN+MのMポイントとする(第8図の例示では、SP8,SP9,SP10の3ポイント)。抑圧帯域におけるMポイントの周波数成分を、抑圧帯域に隣接する残存する帯域の周波の周波数ポイントSPN−M,SPN−M+1,SPN−M+2・・・・SPN(図の例では、SP5,SP6,SP7)(正確には、これをL倍したもの)で補間するものとする。このとき、次式で表される2乗平均誤差が最小値をとるようにLの値を決定するようにすればよい。
ここで、上記(7)式の第1項は先の演算で求められる最小値δminで表され、また、H(f)は周波数成分が残存する帯域のスペクトル包絡線特性によりH(f)=Af+B(A,B:定値)として既に算出されているから、これらの値を用いて補間レベル(補間スペクトル強度)Lを具体的に求めることができる。
以上説明した、入力信号の残存成分のスペクトル包絡線に基づく補間係数の算出過程をフローチャートで示したのが第9図である。
まず、所与の入力信号をスペクトル分析して(典型的には高速フーリエ変換(FFT)を施して)、信号の周波数スペクトルを表す周波数分析パラメータ(典型的には複素フーリエ係数)を求める(ステップ200)。このパラメータは、フレーム毎に求められるものであり、フレーム間における不連続な変化(第7図(a))を例えば、第7図(b)に示すように緩和するために、低域通過フィルタ(第4図、120)を通過させて平滑化処理を行う(ステップ210)。得られたスペクトルパラメータ(例えば、複素フーリエ係数R(f)、I(f))を用いてスペ
りスペクトルの包絡線を表す関数を計算する(ステップ220)。一方、残存する成分信号から抑圧帯域の成分信号(補間用信号)を合成する(ステップ240)とともに、包絡線関数式H(f)=Af+Bから補間用信号のレベル(即ち、補間用重みづけ係数L)を算出する(ステップ250)。最後に重みづけされた(抑圧帯域の周波数成分を有する)合成信号を補間の対象となる帯域制限信号に付加することとする。
上述の実施例における、(その具体的構成が第4図に示されるような)周波数補間装置については、入力信号を帯域分割した後、一律に一定の周波数帯域(例えば、帯域[0,f0])へと周波数変換するようにしていた。このようにすることにより、フィルタバンクとしたての操作が容易となるメリットあるが、必ずしもこの方法による必要はない。補間に供する周波数帯域が事前に判明している場合には、その帯域の成分のみを(帯域通過フィルタなどで)抽出してその帯域の成分信号を抑圧帯域に直接周波数変換するようにしてもよい。こうすることにより回路構成が簡略化できる。この簡略化構成の例を示したのが第10図である。この方式においては、入力信号が、帯域通過フィルタ310によりろ波され、補間に供する帯域成分(例えば、抑圧帯域に隣接する高域成分)の信号が生成され、ついでその信号が抑圧帯域へと周波数変換される。周波数変換の具体的方法としては、所定の周波数の正弦波信号を乗算して、フィルタリングする。例えば、補間に供する帯域の中心周波数がf1であり、抑圧帯域の中心周波数がf2の場合には、補間に供する信号(帯域通過310フィルタの出力信号)に(f2−f1)の周波数の正弦波(即ち、sin{2π(f2−f1)t})を乗算してf2の近傍帯域の成分のみをろ波してとり出すようにすればよい。第10図おいて330は重みづけ係数を与える乗算器であるがこの係数の決め方については第一の実施例について上述した手法をそのままもちいることができる。即ち、入力信号を周波数分析してスペクトル包絡線関数を求め、それに基づいて補間用信号のレベルLを定める(つまり、係数を求める)ようにすればよい。
産業上の利用可能性
予め高域周波数成分が除去(もしくは抑圧)されたオーディオ信号等の高域成分を良い近似度で復元し、もとの原信号に近い信号音を合成することができる。このため高音域が十分に伸びた高品質のオーディオ信号の再生が可能となる。また、本発明の周波数補間用デジタル信号処理に要求される演算量は比較的少ないため小規模の回路にて装置を構成でき、コストを大幅に低減化することができる。
【図面の簡単な説明】
第1図は、本発明の周波数補間装置の基本構成を示す図である。
第2図は、本発明の装置により行われる前半の信号処理の各過程における信号の形態を模式的に示す図である。
第3図は、本発明の装置により行われる後半の信号処理の各過程における信号の形態を模式的に示す図である。
第4図は、本発明の周波数補間装置の好適な一実施例のブロック回路図である。
第5図は、第2図に示すブロック回路中の周波数補間ユニットの一具体的内部構成を示す図である。
第6図は、周波数補間の実例を示す図である。
第7図は、周波数分析データ(フーリエ係数)の時間的変動を平滑かするために挿入されるフィルタの作用効果を示す図である。
第8図は、信号における残存するスペクトルパターンおよび補間後のスペクトルパターンの実例と、包絡線情報を表す一次関数直線を示す図である。
第9図は、スペクトル包絡線情報の抽出処理に関する一連の処理ステップのフローチャートである。
第10図は、本発明の周波数補間装置の別の実施例である簡易型周波数補間装置のブロック図である。
第11図は、従来技術の、非線形回路を用いた周波数補間装置の基本構成を示す図である。
Claims (17)
- 原信号の特定周波数帯域における周波数成分が抑圧された入力信号から、該抑圧された周波数成分を近似的に復元して原信号に近い信号を再生するための周波数補間装置であって、
該入力信号を、各々が複数の周波数帯域におけるそれぞれの周波数成分を有するような複数の成分信号に分割し、この分割された成分信号を用いて該抑圧された帯域の周波数成分を有する成分信号を合成し、該入力信号に付加するようにしたことを特徴とする周波数補間装置。 - 請求項1に記載の周波数補間装置において、
該分割された成分信号の各々を、同一の周波数帯域の信号に周波数変換して、該周波数変換された成分信号の線形結合として抑圧された周波数帯域成分を有する成分信号を合成するものである周波数補間装置。 - 請求項1に記載の周波数補間装置において、
該入力信号における抑圧されないで残存する周波数成分のスペクトル包絡線情報を抽出する手段を含み、このスペクトル包絡線情報に基づいて、該合成される成分信号のレベルを決定するようにした周波数補間装置。 - 請求項3に記載の周波数補間装置において、
該スペクトル包絡線情報は、該入力信号を周波数分析することにより求められる関数式により表されるものである周波数補間装置。 - 請求項4に記載の周波数補間装置において、
該関数式が一次関数である周波数補間装置。 - 請求項1に記載の周波数補間装置において、
該複数の成分信号が、一定の通過帯域幅を有する複数個の帯域通過フィルタを用いて生成されるものである周波数補間装置。 - 請求項1乃至6に記載の周波数補間装置において、
該入力信号は、アナログ・オーディオ信号を、サンプリングし、かつ量子化することにより得られたディジタル・オーディオ信号である周波数補間装置。 - 原信号の特定周波数帯域における周波数成分が抑圧された入力信号から、該抑圧された周波数成分を近似的に復元して原信号に近い信号を再生するための周波数補間装置であって、
該入力信号を、各々が複数の周波数帯域におけるそれぞれの周波数成分を有する複数の成分信号に分割する手段と、
該複数の成分信号を周波数変換処理してそれぞれの成分信号の周波数帯域を同一にするため手段と、
該入力信号を周波数分析して、残存する周波数成分のスペクトル包絡線情報を抽出する手段と、
該分割されかつ周波数変換された成分信号を用いて該抑圧された周波数成分を有する補間用成分信号を合成するととともに、抽出されたスペクトル包絡線情報に基づいて合成信号のレベルを決定する手段と、
該周波数変換された成分信号を逆周波数変換して、もとの周波数帯域の信号にもどす手段とを含む周波数補間装置。 - 請求項8に記載の周波数補間装置において、
該抑圧された周波数帯域成分を有する補間用成分信号の合成が、該残存する周波数成分を有するいくつかの成分信号の線形結合により行われる周波数補間装置。 - 原信号の特定周波数帯域における周波数成分が抑圧された入力信号から、該抑圧された周波数成分を近似的に復元して原信号に近い信号を再生するための周波数補間装置であって、
該入力信号を、フィルタリングすることにより抑圧されないで残存する周波数成分の一部を含む成分信号を生成し、この成分信号に周波数変換を施すことにより、該抑圧された周波数成分を有する信号を合成して、これを該入力信号に付加するようにしたことを特徴とする周波数補間装置。 - 請求項10に記載の周波数補間装置において、
該入力信号における抑圧されないで残存する周波数成分のスペクトル包絡線情報を抽出する手段を含み、このスペクトル包絡線情報に基づいて、該合成される信号のレベルを決定するようにした周波数補間装置。 - 原信号の特定周波数帯域における周波数成分が抑圧された入力信号から、該抑圧された周波数成分を近似的に復元して原信号に近い信号を再生するための周波数補間方法であって、
該入力信号を、各々が複数の周波数帯域におけるそれぞれの周波数成分を有するような複数の成分信号に分割し、この分割された成分信号を用いて該抑圧された帯域の周波数成分を有する成分信号を合成し、及び該入力信号に付加する各ステップを含むことを特徴とする周波数補間方法。 - 請求項12に記載の周波数補間方法において、
該分割された成分信号の各々を、同一の周波数帯域の信号に周波数変換して、該周波数変換された成分信号の線形結合として抑圧された周波数帯域成分を有する成分信号を合成するものである周波数補間方法。 - 原信号の特定周波数帯域における周波数成分が抑圧された入力信号から、該抑圧された周波数成分を近似的に復元して原信号に近い信号を再生するための周波数補間方法であって、
該入力信号を、各々が複数の周波数帯域におけるそれぞれの周波数成分を有する複数の成分信号に分割するステップと、
該複数の成分信号を周波数変換処理してそれぞれの成分信号の周波数帯域を同一にするためステップと、
該入力信号を周波数分析して、残存する周波数成分のスペクトル包絡線情報を抽出するステップと、
該分割されかつ周波数変換された成分信号を用いて該抑圧された周波数成分を有する補間用成分信号を合成するととともに、抽出されたスペクトル包絡線情報に基づいて合成信号のレベルを決定するステップと、
該周波数変換された成分信号を逆周波数変換して、もとの周波数帯域の信号にもどすステップとを含む周波数補間方法。 - 請求項14に記載の周波数補間方法において、
該抑圧された周波数帯域成分を有する補間用成分信号の合成が、該残存する周波数成分を有するいくつかの成分信号の線形結合により行われる周波数補間方法。 - 原信号の特定周波数帯域における周波数成分が抑圧された入力信号から、該抑圧された周波数成分を近似的に復元して原信号に近い信号を再生するための周波数補間方法であって、
該入力信号を、フィルタリングすることにより抑圧されないで残存する周波数成分の一部を含む成分信号を生成し、この成分信号に周波数変換を施すことにより、該抑圧された周波数成分を有する信号を合成して、これを該入力信号に付加するようにしたことを特徴とする周波数補間方法。 - 請求項16に記載の周波数補間方法において、
該入力信号における抑圧されないで残存する周波数成分のスペクトル包絡線情報を抽出する手段を含み、このスペクトル包絡線情報に基づいて、該合成される信号のレベルを決定するようにした周波数補間方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2001/005620 WO2003003345A1 (fr) | 2001-06-29 | 2001-06-29 | Dispositif et procede d'interpolation des composantes de frequence d'un signal |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2003003345A1 true JPWO2003003345A1 (ja) | 2004-10-21 |
JP4106624B2 JP4106624B2 (ja) | 2008-06-25 |
Family
ID=11737498
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003509435A Expired - Fee Related JP4106624B2 (ja) | 2001-06-29 | 2001-06-29 | 信号の周波数成分を補間するための装置および方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US7400651B2 (ja) |
JP (1) | JP4106624B2 (ja) |
WO (1) | WO2003003345A1 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100935961B1 (ko) * | 2001-11-14 | 2010-01-08 | 파나소닉 주식회사 | 부호화 장치 및 복호화 장치 |
US7240001B2 (en) | 2001-12-14 | 2007-07-03 | Microsoft Corporation | Quality improvement techniques in an audio encoder |
JP4380174B2 (ja) | 2003-02-27 | 2009-12-09 | 沖電気工業株式会社 | 帯域補正装置 |
BRPI0415464B1 (pt) | 2003-10-23 | 2019-04-24 | Panasonic Intellectual Property Management Co., Ltd. | Aparelho e método de codificação de espectro. |
US7587144B2 (en) * | 2004-01-12 | 2009-09-08 | Oewaves, Inc. | Tunable radio frequency and microwave photonic filters |
US7460990B2 (en) | 2004-01-23 | 2008-12-02 | Microsoft Corporation | Efficient coding of digital media spectral data using wide-sense perceptual similarity |
JP4701392B2 (ja) * | 2005-07-20 | 2011-06-15 | 国立大学法人九州工業大学 | 高域信号補間方法及び高域信号補間装置 |
JP5034228B2 (ja) * | 2005-11-30 | 2012-09-26 | 株式会社Jvcケンウッド | 補間装置、音再生装置、補間方法および補間プログラム |
JP2007322153A (ja) * | 2006-05-30 | 2007-12-13 | Ono Sokki Co Ltd | スペクトル内挿方法、スペクトル内挿装置、および、スペクトル内挿プログラム |
JP4972742B2 (ja) * | 2006-10-17 | 2012-07-11 | 国立大学法人九州工業大学 | 高域信号補間方法及び高域信号補間装置 |
PL2109098T3 (pl) | 2006-10-25 | 2021-03-08 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Urządzenie i sposób do generowania próbek audio w dziedzinie czasu |
JP4967618B2 (ja) * | 2006-11-24 | 2012-07-04 | 富士通株式会社 | 復号化装置および復号化方法 |
US8046214B2 (en) * | 2007-06-22 | 2011-10-25 | Microsoft Corporation | Low complexity decoder for complex transform coding of multi-channel sound |
US7885819B2 (en) | 2007-06-29 | 2011-02-08 | Microsoft Corporation | Bitstream syntax for multi-process audio decoding |
US8249883B2 (en) | 2007-10-26 | 2012-08-21 | Microsoft Corporation | Channel extension coding for multi-channel source |
JP2010079275A (ja) * | 2008-08-29 | 2010-04-08 | Sony Corp | 周波数帯域拡大装置及び方法、符号化装置及び方法、復号化装置及び方法、並びにプログラム |
CA3231911A1 (en) | 2009-01-16 | 2010-07-22 | Dolby International Ab | Cross product enhanced harmonic transposition |
JP6305694B2 (ja) * | 2013-05-31 | 2018-04-04 | クラリオン株式会社 | 信号処理装置及び信号処理方法 |
FR3017484A1 (fr) * | 2014-02-07 | 2015-08-14 | Orange | Extension amelioree de bande de frequence dans un decodeur de signaux audiofrequences |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02235424A (ja) * | 1989-03-09 | 1990-09-18 | Fujitsu Ltd | 時間切替型帯域分割音声符号化方式および装置 |
JPH05172869A (ja) * | 1991-11-29 | 1993-07-13 | Sanyo Electric Co Ltd | スペクトラムアナライザ |
JPH0685607A (ja) * | 1992-08-31 | 1994-03-25 | Alpine Electron Inc | 高域成分復元装置 |
JPH09258787A (ja) * | 1996-03-21 | 1997-10-03 | Kokusai Electric Co Ltd | 狭帯域音声信号の周波数帯域拡張回路 |
WO1998057436A2 (en) * | 1997-06-10 | 1998-12-17 | Lars Gustaf Liljeryd | Source coding enhancement using spectral-band replication |
WO2000070769A1 (fr) * | 1999-05-14 | 2000-11-23 | Matsushita Electric Industrial Co., Ltd. | Procede et appareil d'elargissement de la bande d'un signal audio |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4674125A (en) * | 1983-06-27 | 1987-06-16 | Rca Corporation | Real-time hierarchal pyramid signal processing apparatus |
JPH03254223A (ja) | 1990-03-02 | 1991-11-13 | Eastman Kodak Japan Kk | アナログデータ伝送方式 |
CA2105269C (en) * | 1992-10-09 | 1998-08-25 | Yair Shoham | Time-frequency interpolation with application to low rate speech coding |
JPH06294830A (ja) * | 1993-01-22 | 1994-10-21 | Hewlett Packard Co <Hp> | 周波数領域の解析を強化するための方法と装置 |
JP3747492B2 (ja) * | 1995-06-20 | 2006-02-22 | ソニー株式会社 | 音声信号の再生方法及び再生装置 |
JP3301473B2 (ja) | 1995-09-27 | 2002-07-15 | 日本電信電話株式会社 | 広帯域音声信号復元方法 |
JP3266819B2 (ja) | 1996-07-30 | 2002-03-18 | 株式会社エイ・ティ・アール人間情報通信研究所 | 周期信号変換方法、音変換方法および信号分析方法 |
US6473533B1 (en) * | 1996-10-25 | 2002-10-29 | Fuji Xerox Co., Ltd. | Image encoding apparatus and image decoding apparatus |
JP2000036755A (ja) * | 1998-05-15 | 2000-02-02 | Sony Corp | 符号変換方法及び装置、並びにプログラム供給媒体 |
JP2001083995A (ja) * | 1999-09-13 | 2001-03-30 | Matsushita Electric Ind Co Ltd | サブバンド符号化・復号方法 |
JP4792613B2 (ja) * | 1999-09-29 | 2011-10-12 | ソニー株式会社 | 情報処理装置および方法、並びに記録媒体 |
US6836761B1 (en) * | 1999-10-21 | 2004-12-28 | Yamaha Corporation | Voice converter for assimilation by frame synthesis with temporal alignment |
JP2001356799A (ja) * | 2000-06-12 | 2001-12-26 | Toshiba Corp | タイム/ピッチ変換装置及びタイム/ピッチ変換方法 |
-
2001
- 2001-06-29 US US10/362,421 patent/US7400651B2/en not_active Expired - Lifetime
- 2001-06-29 JP JP2003509435A patent/JP4106624B2/ja not_active Expired - Fee Related
- 2001-06-29 WO PCT/JP2001/005620 patent/WO2003003345A1/ja active Application Filing
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02235424A (ja) * | 1989-03-09 | 1990-09-18 | Fujitsu Ltd | 時間切替型帯域分割音声符号化方式および装置 |
JPH05172869A (ja) * | 1991-11-29 | 1993-07-13 | Sanyo Electric Co Ltd | スペクトラムアナライザ |
JPH0685607A (ja) * | 1992-08-31 | 1994-03-25 | Alpine Electron Inc | 高域成分復元装置 |
JPH09258787A (ja) * | 1996-03-21 | 1997-10-03 | Kokusai Electric Co Ltd | 狭帯域音声信号の周波数帯域拡張回路 |
WO1998057436A2 (en) * | 1997-06-10 | 1998-12-17 | Lars Gustaf Liljeryd | Source coding enhancement using spectral-band replication |
JP2001521648A (ja) * | 1997-06-10 | 2001-11-06 | コーディング テクノロジーズ スウェーデン アクチボラゲット | スペクトル帯域複製を用いた原始コーディングの強化 |
WO2000070769A1 (fr) * | 1999-05-14 | 2000-11-23 | Matsushita Electric Industrial Co., Ltd. | Procede et appareil d'elargissement de la bande d'un signal audio |
Also Published As
Publication number | Publication date |
---|---|
US7400651B2 (en) | 2008-07-15 |
US20040098431A1 (en) | 2004-05-20 |
JP4106624B2 (ja) | 2008-06-25 |
WO2003003345A1 (fr) | 2003-01-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4106624B2 (ja) | 信号の周波数成分を補間するための装置および方法 | |
RU2720495C1 (ru) | Гармоническое преобразование на основе блока поддиапазонов, усиленное перекрестными произведениями | |
RU2665298C1 (ru) | Усовершенствованное гармоническое преобразование на основе блока поддиапазонов | |
RU2487426C2 (ru) | Устройство и способ преобразования звукового сигнала в параметрическое представление, устройство и способ модификации параметрического представления, устройство и способ синтеза параметрического представления звукового сигнала | |
US20070299655A1 (en) | Method, Apparatus and Computer Program Product for Providing Low Frequency Expansion of Speech | |
JP5598536B2 (ja) | 帯域拡張装置および帯域拡張方法 | |
WO2000070769A1 (fr) | Procede et appareil d'elargissement de la bande d'un signal audio | |
JP3810257B2 (ja) | 音声帯域拡張装置及び音声帯域拡張方法 | |
WO2002050814A1 (fr) | Systeme et procede d'interpolation de signaux | |
JP4012506B2 (ja) | 信号の周波数成分を適応的に補間するための装置および方法 | |
JP2004198485A (ja) | 音響符号化信号復号化装置及び音響符号化信号復号化プログラム | |
JP4627548B2 (ja) | 帯域拡張装置、帯域拡張方法および帯域拡張プログラム | |
JP5633673B2 (ja) | 雑音抑圧装置およびプログラム | |
JPH09243679A (ja) | 任意区間波形を用いた非調和的周波数分析法 | |
JP6707914B2 (ja) | ゲイン処理装置及びプログラム、並びに、音響信号処理装置及びプログラム | |
JP2002175099A (ja) | 雑音抑制方法および雑音抑制装置 | |
JP2002366178A (ja) | オーディオ信号の帯域拡張方法及び帯域拡張装置 | |
JP2014102317A (ja) | 雑音除去装置、雑音除去方法、及びプログラム | |
JP4538705B2 (ja) | ディジタル信号処理方法、学習方法及びそれらの装置並びにプログラム格納媒体 | |
RU2810281C1 (ru) | Гармоническое преобразование на основе блока поддиапазонов, усиленное перекрестными произведениями | |
Pekonen et al. | Filter-based alias reduction for digital classical waveform synthesis | |
US11763828B2 (en) | Frequency band expansion device, frequency band expansion method, and storage medium storing frequency band expansion program | |
RU2801960C1 (ru) | Гармоническое преобразование на основе блока поддиапазонов, усиленное перекрестными произведениями | |
JP2003216199A (ja) | 復号装置、復号方法及びプログラム供給媒体 | |
RU2813317C1 (ru) | Усовершенствованное гармоническое преобразование на основе блока поддиапазонов |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20030224 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040723 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061002 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070604 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070720 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070720 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20071004 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080220 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080319 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110411 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120411 Year of fee payment: 4 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120411 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130411 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140411 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |