JP4593364B2 - オーディオデータの補間方法および補間装置 - Google Patents

オーディオデータの補間方法および補間装置 Download PDF

Info

Publication number
JP4593364B2
JP4593364B2 JP2005150597A JP2005150597A JP4593364B2 JP 4593364 B2 JP4593364 B2 JP 4593364B2 JP 2005150597 A JP2005150597 A JP 2005150597A JP 2005150597 A JP2005150597 A JP 2005150597A JP 4593364 B2 JP4593364 B2 JP 4593364B2
Authority
JP
Japan
Prior art keywords
audio data
frequency
interpolation
sampling rate
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005150597A
Other languages
English (en)
Other versions
JP2006330144A (ja
Inventor
紀之 高島
政一 秋保
美紀 長谷山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2005150597A priority Critical patent/JP4593364B2/ja
Publication of JP2006330144A publication Critical patent/JP2006330144A/ja
Application granted granted Critical
Publication of JP4593364B2 publication Critical patent/JP4593364B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明はオーディオデータの補間方法および補間装置に係わり、特に低サンプリングレートの圧縮オーディオデータを、フラクタル補間機能を用いて高サンプリングレートのオーディオデータに変換するオーディオデータの補間方法および補間装置に関する。
オーディオ分野やグラフィック分野ではサンプリング信号間を補間する技術が種々研究されて提案されており、補間技術としてFIF (Fractal Interpolation Functions)が注目されている。図12は従来の補間装置の構成図であり、圧縮オーディオデコーダ1は低サンプリングレートの圧縮オーディオデータをデコードし、FIF処理部2は得られたオーディオデータを、フラクタル補間機能を用いて高サンプリングレートのオーディオデータに変換して出力する。FIFは補間区間に該補間区間のM倍の長さの信号波形を写像して補間する技術であり(非特許文献1を参照)、概略は以下の通りである。
(a)FIF処理
図13に示す一次元離散信号S={(un,vn):n=0,1,…,N}が与えられた際のFIF処理手順を説明する。ただし、信号Sは次式を満足する1価関数で表される信号である。
0<u1<.....<un (1)
まず、信号Sから、(M+1)個の代表点P={(xi,yi):i=0,1,…,M}を選択する(図13中の黒丸点)。ただし、信号Sの両端点は次式に示すように、代表点として無条件に選択するものとする。
Figure 0004593364
上記(M+1)個の代表点を選択することにより、信号SはM個の区間(第1区間〜第M区間)に分割される。尚、以下では、連続する2つの代表点により定義される区間〔xi-1,xi〕を補間区間iと呼ぶ。
次に、式(3)に示すアフィン写像wiを適用することで、信号SをM個の補間区間i(i=0〜M)にそれぞれ写像する。図14は信号Sを補間区間iに写像した例を示している。
Figure 0004593364
上式において、wiは信号Sを補間区間iに写す縮小写像である。したがって、FIFを適用することで与えられた信号Sは、次式に示すように縮小写像wi(i=1〜M)による自身の縮小像wi(S)の和集合として表現されることがわかる。
Figure 0004593364
上式において、GはIterated Function Systems (IFS)のアトラクタであり、自己アフィン特性を有することが知られている。
ところで、式(3)において、5つの未知パラメータai, ci, di, ei, fi(以降、写像パラメータと呼ぶ)が存在する。式(3)を実際の信号に適用するには、これら5つの未知パラメータai, ci, di, ei, fIを求めなければならない。そこで次式に示す制約条件を設ける。
Figure 0004593364
上記制約により、図14の矢印A,Bに示すように、信号Sの端点Ts,Teは補間区間iの端点tis,tieに写される。このような制約を設け、さらに5つ存在する写像パラメータの内、縮小因子と呼ばれるパラメータdiを変数と考えると、他の4つの写像パラメータはそれぞれ、以下に示すように表すことができる。
Figure 0004593364
FIFを用いて与えられた信号を高精度に表現するためには、代表点及び縮小因子をいかに決定するかという問題が生じる。この問題はFIFにおけるinverse problemと呼ばれており、これまでにその解法が幾つか提案されているが、本文ではMazelらにより提案された手法(たとえば非特許文献2参照)を用いてinverse problemを解決する。以下において、その方法を説明する。
(b)写像パラメータの決定
先に述べたように、FIFを適用することで、与えられた信号Sは各補間区間に写される。このとき、縮小写像wiによる信号Sの像wi(s)=[(pn,qn):n=0,1,…,N]は(図15参照)、次式に示すように表すことができる。図15において大きな白丸は信号S上ののデータポイント、小さな黒丸は縮小写像wi(s)上のN個のポイントである。
Figure 0004593364
前節で述べたように、FIFを適用する際には、与えられた信号Sを高精度に近似したアトラクタGをいかに生成するかが問題となるが、この問題は、信号Sの部分集合S[xi-1,xi]と縮小像wi(S)との誤差を最小化することにより解決できる。ここで、信号S[xi-1,xi]と縮小像wi(S)との誤差をEiとすると、Eiは図15に示すように、信号S[xi-1,xi]及び縮小像wi(S)を構成するデータ点の垂直方向の距離を足し合わせることにより、次式に示すように定式化できる。
Figure 0004593364
尚、上式(12)において[・]はガウス記号を表す。式(11)に式(8)、(9)をそれぞれ代入し、整理すると次式を得る。
Figure 0004593364
次に、式(13)を縮小因子diに関して最小2乗規範に基づき最小化すると、縮小因子diは次式により与えられる。
Figure 0004593364
先に述べたように、縮小因子diの価が決定されれば、残り4つの写像パラメータは一意に定めることができる。したがって、対象となる信号が全て既知のデータ点により構成されている場合、そのinverse problemは比較的容易に解くことができる。
図12のオーディオデータの補間装置において、入力信号である圧縮オーディオデータは、たとえば22.05KHzでサンプリングしたデータにMP3圧縮処理したものであり、圧縮オーディオデコーダ1から出力するオーディオデータの周波数特性(スペクトル)は図16の(B)に示すように、高域特性が失われた特性になる。なお、(A)は原楽音信号の周波数特性である。この圧縮オーディオデコーダ1から出力するオーディオデータを、フラクタル補間機能を用いてFIF処理部2で44.1kHzのオーディオデータに変換すると、その周波数特性は(C)に示すようになり、原楽音信号の周波数特性に類似した周波数特性となる。
M.F.Barbsley, "Fractal functions and interpolation" Constructive Approximation, vol.2, pp.303-329, 1986 D.S.Mazel and M.H. Hayes, "Using Iterated function systems to model discrete sequences" IEEE Trans. Signal Processing, vol.40, No.7, pp.1243-1249, Oct 1982.
FIF処理後の信号を楽音信号として考察すると、図16の(A)の原楽音信号と(C)のFIF処理後の楽音信号の周波数特性から明らかなようにFIF処理後の楽音信号の周波数特性は高域がフラットな特性になっており、聴取者は高域が強い印象を受ける。
人間の聴覚は倍音ベース(オクターブベース)に感覚ができており、周波数特性が一定のホワイトノイズを聞くとノイズが高域にシフトしたように聞こえる。これを避けるために周波数が高くなるにつれてスペクトルが低くなる(3dB/octに従って低くなる)ピンクノイズが作られた。傾き3dB/octつまり1オクターブに対して3dBの減衰をかけることで、人間の耳ですべての可聴領域で同じ音圧のノイズを聞くことができるからであり、ピンクノイズはスピーカや部屋の音響特性の測定などに用いられている。なお、図17にピンクノイズの周波数特性を示す。
ホワイトノイズとピンクノイズの関係と同様に人間の聴覚を考慮すると、楽音信号のスペクトラムは広域に従ってなだらかに低下するのが望ましい。しかし、図16の(C)のFIF処理後の楽音信号の周波数特性は16kHz付近から20kHz手前までフラットとなり、20kHz付近で多少上昇し、その後低下する特性になっている。このため、従来の補間方法は、人間の聴覚にとって望ましい特性になっておらず、聴感上高域が不自然になる。
以上から本発明の目的は、人間の聴覚にとって望ましい特性を有するように、低サンプリング圧縮されたオーディオデータを補間する補間方法及び補間装置を提供することである。
上記課題は本発明によれば、低サンプリングレートの圧縮オーディオデータをデコードするステップ、得られたオーディオデータを、フラクタル補間機能を用いて高サンプリングレートのオーディオデータに変換するステップ、該変換により得られたオーディオデータの高域における伝達特性を低減するステップを有するオーディオデータの補間方法により達成される。上記前記低減ステップは、低サンプリングレートの1/2の周波数(ナイキスト周波数)から高サンプリングレートの1/2の周波数(ナイキスト周波数)までの伝達特性を低減する。
また、上記課題は本発明によれば、低サンプリングレートの圧縮オーディオデータをデコードするデコーダ、デコードして得られたオーディオデータを、フラクタル補間機能を用いて高サンプリングレートのオーディオデータに変換するアップサンプリング処理部、前記変換により得られたオーディオデータの高域における伝達特性を低減する補正フィルタを備えたオーディオデータの補間装置により達成される。補正フィルタは、直線的にゲインが低減する伝達特性を有し、前記低サンプリングレートの1/2の周波数(ナイキスト周波数)から前記高サンプリングレートの1/2の周波数(ナイキスト周波数)までの伝達特性を低減する。
本発明によれば、低サンプリングレートの圧縮オーディオデータをデコードして得られたオーディオデータを、フラクタル補間機能を用いて高サンプリングレートのオーディオデータに変換し、得られたオーディオデータの高域における周波数特性をなだらかに低減するようにしたから、人間の聴覚に望ましい周波数特性を有する楽音信号を復元して出力することができる。すなわち、低サンプリングレートの圧縮オーディオデータをオーディオ再生向けの楽音信号として復元、出力することができる。
図1は本発明のオーディオデータの補間装置の説明図、図2は補正フィルタの周波数特性である。
FIF処理部11は低サンプリングレート(22.05kHz)のオーディオデータを、フラクタル補間機能を用いて高サンプリングレート(44.1kHz)のオーディオデータに変換し、補正フィルタ12は該変換により得られたオーディオデータの高域における伝達特性を低減する。たとえば、補正フィルタ12は図2に示すように直線的にゲインが低減する伝達特性−6dB/octあるいは−12dB/octを有し、低サンプリングレートの1/2の周波数(11.025kHz)から前記高サンプリングレートの1/2の周波数(22.05kHz)までの高域の伝達特性を補正する。すなわち、11.025kHz〜22.05kHzの生成された信号部分に補正フィルタ12で−6dB/oct、−12dB/octなどの楽音情報処理を加えて補正する。これにより、人間の聴覚に望ましい周波数特性を有する楽音信号を復元して出力することができる。すなわち、低サンプリングレートの圧縮オーディオデータをオーディオ再生向けの楽音信号として復元、出力することができる。
図3は本発明のオーディオデータの補間装置の構成図であり、低サンプリングレートの圧縮オーディオデータをデコードする圧縮オーディオデコーダ10、デコードして得られたオーディオデータを、フラクタル補間機能を用いて高サンプリングレート(44.1kHz)のオーディオデータに変換するFIF処理部(アップサンプリング処理部)11、変換により得られたオーディオデータの高域特性を低減する補正フィルタ12で構成されている。
圧縮オーディオデータは、たとえば、原曲を低サンプリングレート(22.05kHz)でサンプリングしてMP3により圧縮したものである。補正フィルタ12は128タップのFIRフィルタで構成されており、そのインパルス応答及び周波数特性はそれぞれ図4、図5に示すようになっている。周波数特性は、低サンプリングレート(22.05kHz)の1/2の11.025kHzまで0dB一定を示し、11.025kHzから高サンプリングレート(44.1kHz)の1/2の22.05kHzまで直線的にゲインが低減する伝達特性−6dB/octを示す。
圧縮オーディオデコーダ10から出力するオーディオデータの周波数特性はシャノンの標本化定理より明らかなように、サンプリングレート(22.05kHz)の1/2以上の成分を復元できず、図6の(A)に示すように11.025kHz以上の楽音情報が欠けている。
FIF処理部11は圧縮オーディオデコーダ10から出力するオーディオデータを、フラクタル補間機能を用いて44.1kHzのオーディオデータに変換する。FIFアップサンプリング処理の情報源はMP3デコード処理後の音楽情報のみであるため、FIF処理部11はこのMP3デコード波形から11.025kHz以上の波形を生成しなければならない。FIF処理部11でアップサンプリングされたオーディオデータの周波数特性は図6(B)に示すように、高域がフラットな特性になっている。
そこで、直線的にゲインが低減する直線伝達特性−6dB/octを有する補正フィルタ12を用いて11.025kHz〜22.05kHzの高域特性に楽音処理を加えて補正する。これにより、図6(C)に示すように楽音信号のスペクトラムが広域になるに従ってなだらかに低下し、人間の聴覚に望ましい特性になり、聴感上高域の不自然さが改善され、原曲の周波数特性(図16(A)参照)に近くなる。なお、図6(C)の点線部における振幅は、図6(B)の振幅に比べて−4.8dB程度低減している。
・変形例1
以上では補正フィルタの周波数特性を−6dB/octの直線特性にしたが、必ずしも−6dB/octにする必要はなく、楽音ジャンル等により適宜傾斜を緩くしたり、強くしたりすることができる。図7、図8はインパルス応答及び周波数特性の別の実施例であり、周波数特性は11.025kHzまで0dB一定、11.025kHzから22.05kHzまで−12dB/octで直線的にゲインが低減する特性を示している。この補正フィルタを用いると図9に示すように高域特性の低減割合が大きい特性を有するオーディオデータが出力する。図9の点線部における振幅は、図6(B)の振幅に比べて−8.6dB程度低減しており、−6dB/octに比べて高域がおとなしくなる。
・変形例2
図3の補正フィルタ12に複数の直線特性を持たせ、ユーザ設定により、あるいは、楽音ジャンルを識別して自動的に所望の特性で補正するように構成することもできる。
・変形例3
基本的には、補正フィルタ12に図5、図8に示す特性を持たせれば十分であるが、さらに発展させたい場合には種々の特性、たとえば図10に示すような特性を持たせることができる。たとえば、楽音のジャンル(クラシック、ジャズ、ポップス)毎に異なる補正フィルタ(FIRフィルタ)係数を用意し、MP3復号時に判別されるジャンル情報によって対応するフィルタ係数を補正フィルタに自動設定するように構成する。
図11は本発明の補間装置の別の構成図であり、図3と同一部分には同一符号を付している。異なる点は、
(1)FIF処理部11がLチャンネル、Rチャンネル用のFIFアップサンプリング部11a、11bを備えている点、
(2)補正フィルタ12がLチャンネル、Rチャンネル用のFIRフィルタ12a、12bを備えている点、
(3)種々の特性に応じたLチャンネル及びRチャンネル用の補正フィルタ係数を格納し、圧縮オーディオデコーダ10からの指示(ジャンル識別による切り換え指示)により、あるいは操作部14からのユーザ指示により所望の係数をFIRフィルタ12a、12bに設定するフィルタバンク13を設けた点、
である。
以上では、サンプリング周波数を22.05kHzから44.1kHzにアップした場合であるが、11.025kHzから44.1kHzにアップする場合にも本発明を適用することができる。
以上本発明によれば、楽音信号のスペクトラムを広域に従ってなだらかに低下するため、楽音信号を人間の聴覚に望ましい特性にでき、従来の補間技術において聴感上問題となっている高域の不自然さを改善できる。すなわち、本発明によれば、低サンプリングレートの圧縮オーディオデータをオーディオ再生向けの楽音信号として復元、出力することができる。
本発明のオーディオデータの補間装置の説明図である。 補正フィルタの周波数特性である。 本発明の圧縮オーディオデータの補間装置の構成図である。 補正フィルタのインパルス応答特性である。 補正フィルタの周波数特性である。 補間装置の各部における周波数特性(スペクトル特性)である。 補正フィルタの別のインパルス応答特性である。 補正フィルタの別の周波数特性である。 図7、図8に示す特性を有する補正フィルタを用いたときの本発明の圧縮オーディオデータ補間装置の周波数特性である。 補正フィルタの別の周波数特性である。 本発明の圧縮オーディオデータ補間装置の別の構成図である。 従来の圧縮オーディオデータ補間装置の構成図である。 FIF補間処理の第1の原理説明図である。 FIF補間処理の第2の原理説明図である。 FIF補間処理の第3の原理説明図である。 原曲およびFIF補間処理前後のオーディオデータの周波数特性である。 ピンクノイズの周波数特性である。
符号の説明
10 圧縮オーディオデコーダ
11 FIF処理部
12 補正フィルタ

Claims (2)

  1. 圧縮されたオーディオデータの補間方法において、
    低サンプリングレートの圧縮オーディオデータをデコードするステップ、
    得られたオーディオデータを、フラクタル補間機能を用いて高サンプリングレートのオーディオデータに変換するステップ、
    該変換により得られたオーディオデータの高域における周波数特性を低減するステップ、
    を備え
    前記低減ステップにおいて、前記低サンプリングレートの1/2の周波数から前記高サンプリングレートの1/2の周波数までのオーディオデータの周波数特性をなだらかに低減する、
    ことを特徴とするオーディオデータの補間方法。
  2. 圧縮されたオーディオデータの補間装置において、
    低サンプリングレートの圧縮オーディオデータをデコードするデコーダ、
    デコードして得られたオーディオデータを、フラクタル補間機能を用いて高サンプリングレートのオーディオデータに変換するアップサンプリング処理部、
    前記変換により得られたオーディオデータの高域における周波数特性を低減する補正フィルタ、
    を備え、前記補正フィルタは、前記低サンプリングレートの1/2の周波数から前記高サンプリングレートの1/2の周波数までのオーディオデータの周波数特性をなだらかに低減する、
    ことを特徴とするオーディオデータの補間装置。
JP2005150597A 2005-05-24 2005-05-24 オーディオデータの補間方法および補間装置 Expired - Fee Related JP4593364B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005150597A JP4593364B2 (ja) 2005-05-24 2005-05-24 オーディオデータの補間方法および補間装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005150597A JP4593364B2 (ja) 2005-05-24 2005-05-24 オーディオデータの補間方法および補間装置

Publications (2)

Publication Number Publication Date
JP2006330144A JP2006330144A (ja) 2006-12-07
JP4593364B2 true JP4593364B2 (ja) 2010-12-08

Family

ID=37551918

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005150597A Expired - Fee Related JP4593364B2 (ja) 2005-05-24 2005-05-24 オーディオデータの補間方法および補間装置

Country Status (1)

Country Link
JP (1) JP4593364B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5008596B2 (ja) * 2008-03-19 2012-08-22 アルパイン株式会社 サンプリングレート変換装置およびその変換方法
JP6621709B2 (ja) 2016-05-26 2019-12-18 アルパイン株式会社 音声処理装置、音声処理方法及びコンピュータプログラム
CN112652317A (zh) * 2019-10-09 2021-04-13 深圳云程科技有限公司 基于Android系统的高采样率音频播放方法及系统
CN112863539B (zh) * 2019-11-28 2024-04-16 科大讯飞股份有限公司 一种高采样率语音波形生成方法、装置、设备及存储介质
JP2023130644A (ja) 2022-03-08 2023-09-21 アルプスアルパイン株式会社 音響信号処理装置、音響システム及び低音感の増強方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003216199A (ja) * 2001-11-15 2003-07-30 Matsushita Electric Ind Co Ltd 復号装置、復号方法及びプログラム供給媒体
JP2005084370A (ja) * 2003-09-09 2005-03-31 Alpine Electronics Inc Fifを用いたサンプリングレート変換方法
JP2005128387A (ja) * 2003-10-27 2005-05-19 Yamaha Corp オーディオ帯域拡張再生装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003216199A (ja) * 2001-11-15 2003-07-30 Matsushita Electric Ind Co Ltd 復号装置、復号方法及びプログラム供給媒体
JP2005084370A (ja) * 2003-09-09 2005-03-31 Alpine Electronics Inc Fifを用いたサンプリングレート変換方法
JP2005128387A (ja) * 2003-10-27 2005-05-19 Yamaha Corp オーディオ帯域拡張再生装置

Also Published As

Publication number Publication date
JP2006330144A (ja) 2006-12-07

Similar Documents

Publication Publication Date Title
JP4817658B2 (ja) 音響仮想現実エンジンおよび配信された音声改善のための新技術
JP4981123B2 (ja) オーディオ信号の知覚音量及び/又は知覚スペクトルバランスの計算と調整
US6577739B1 (en) Apparatus and methods for proportional audio compression and frequency shifting
CN100555848C (zh) 音频信号处理系统
JP5917518B2 (ja) 知覚スペクトルアンバランス改善のための音声信号動的補正
CN1798452B (zh) 实时补偿音频频率响应特性的方法和用该方法的声音系统
US6212496B1 (en) Customizing audio output to a user's hearing in a digital telephone
US7676043B1 (en) Audio bandwidth expansion
JP4747835B2 (ja) オーディオ再生の効果付加方法およびその装置
JP5984943B2 (ja) 聴覚装置における安定性と音声の聴き取り易さの改善
US8271292B2 (en) Signal bandwidth expanding apparatus
JP3765622B2 (ja) オーディオ符号化復号化システム
JP2007143157A (ja) 超指向性スピーカーシステム及び信号処理方法
JPH08237132A (ja) 信号符号化方法及び装置、信号復号化方法及び装置、並びに情報記録媒体及び情報伝送方法
JP2003068013A (ja) デジタルオーディオ信号の処理
JP4593364B2 (ja) オーディオデータの補間方法および補間装置
CN110506425A (zh) 低音增强
JP4760278B2 (ja) 補間装置、オーディオ再生装置、補間方法および補間プログラム
JP2004198485A (ja) 音響符号化信号復号化装置及び音響符号化信号復号化プログラム
JP3751225B2 (ja) オーディオ帯域拡張装置
JP4556866B2 (ja) 高能率符号化プログラム及び高能率符号化装置
KR101882140B1 (ko) 초지향성 및 무지향성 동시 신호출력이 가능한 복합스피커시스템
JP4815986B2 (ja) 補間装置、オーディオ再生装置、補間方法および補間プログラム
JP2008048372A (ja) 音響信号の明瞭度、弁別性能向上技術
JP2005195983A (ja) ディジタルデータの符号化方法および符号化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080118

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100708

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100714

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100831

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100914

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100915

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130924

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130924

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140924

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees