JP5814802B2 - オーディオ符号化装置 - Google Patents

オーディオ符号化装置 Download PDF

Info

Publication number
JP5814802B2
JP5814802B2 JP2012004214A JP2012004214A JP5814802B2 JP 5814802 B2 JP5814802 B2 JP 5814802B2 JP 2012004214 A JP2012004214 A JP 2012004214A JP 2012004214 A JP2012004214 A JP 2012004214A JP 5814802 B2 JP5814802 B2 JP 5814802B2
Authority
JP
Japan
Prior art keywords
frame
data
audio data
main
audio
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012004214A
Other languages
English (en)
Other versions
JP2013142862A5 (ja
JP2013142862A (ja
Inventor
竜二 眞野
竜二 眞野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2012004214A priority Critical patent/JP5814802B2/ja
Priority to US13/706,448 priority patent/US9349377B2/en
Publication of JP2013142862A publication Critical patent/JP2013142862A/ja
Publication of JP2013142862A5 publication Critical patent/JP2013142862A5/ja
Application granted granted Critical
Publication of JP5814802B2 publication Critical patent/JP5814802B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16Vocoder architecture
    • G10L19/167Audio streaming, i.e. formatting and decoding of an encoded audio signal representation into a data stream for transmission or storage purposes
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Mathematical Physics (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)

Description

本発明は、オーディオ符号化装置に関する。
従来から、MPEG(Moving Picture Experts Group)オーディオレイヤ3(以下、MP3)方式で符号化されたデータを早送り再生を可能としてオーディオ符号化方法が知られている。
たとえば、特許文献1(特開2006−190362号公報)には、現在再生位置情報を短時間で取得し、通常再生から早送り再生又は早戻し再生に遷移するまでの時間を短くし、聴感上のもたつき感がなくなるようにすることができるオーディオ符号化方法が開示されている。
このオーディオ符号化方法では、補助データ付加器により、オーディオ符号化データに、全てのビットを“0”とする32×5ビットの補助データを付加する。そして、LBA書き込み器により、補助データの最初の32ビット部分にLBカウンタから与えられるLBAの値を上書きし、更に、飛び先LBA書き込み器により、LBAが上書きされていない補助データの残りの32×4ビット部分に、LBカウンタから与えられる飛び先LBA_f4、LBA_f8、LBA_b4、LBA_b8を上書きする。
特開2006−190362号公報
しかしながら、特許文献1のような従来の符号化方法で符号化されたデータは、早送り再生(フレーム早送り)後に、数秒間再生不可状態に陥る可能性がある。たとえば、サンプリング周波数を24KHz、フレームのサイズを24バイト、フレーム内のmain_dataのサイズを1バイト、オーディオデータのサイズを576バイト、main_data_beginが最大を示すときに先行するフレームの数が256フレームとしたときに、理論上、最大6.1秒分の再生不可状態に陥る可能性がある。
その結果、数秒間再生が停止する。早送り再生時に、リアルタイムストリーミング再生でバッファリングしたメモリに前のフレームがない場合にこの現象が発生する。
それゆえに、本発明の目的は、早送り再生後に、再生不可能な状態に陥ることを回避できるオーディオ符号化装置を提供することである。
本発明の一実施形態のオーディオ符号化装置は、オーディオデータを量子化する量子化部と、量子化されたオーディオデータを蓄積する蓄積部と、蓄積部内の量子化されたオーディオデータを、ストリーム内のオーディオデータと関連するヘッダが存在するフレームおよび/またはヘッダが存在するフレームに先行する1または複数のフレームに配置するストリーム生成部とを備える。ストリーム生成部は、所定のフレームについては、フレームに含まれるヘッダと関連するオーディオデータの全部を配置し、残りの領域には可能な限りオーディオデータの後続のオーディオデータを配置し、所定のフレーム以外については、フレームに含まれるヘッダと関連するオーディオデータおよび/またはオーディオデータの後続のオーディオデータを配置する。
本発明の一実施形態のオーディオ符号化装置によれば、早送り再生後に、再生不可能な状態に陥ることを回避できる。
第1の実施形態のオーディオ符号化装置の構成を表わす図である。 第1の実施形態のオーディオ符号化装置のフィルタ処理部および量子化部の動作手順を表わすフローチャートである。 第1の実施形態のオーディオ符号化装置のストリーム生成部の動作手順を表わすフローチャートである。 第1の実施形態のオーディオ符号化装置によって生成されるストリームの例を表わす図である。 第2の実施形態のオーディオ符号化装置の構成を表わす図である。 第2の実施形態のオーディオ符号化装置のフィルタ処理部および量子化部による1つのフレーム群の処理手順を表わすフローチャートである。 第2の実施形態のオーディオ符号化装置のフィルタ処理部および量子化部による1つのフレーム群の処理手順を表わすフローチャートである。 第2の実施形態のオーディオ符号化装置のストリーム生成部による1つのフレーム群の処理手順を表わすフローチャートである。 第2の実施形態のオーディオ符号化装置によって生成されるストリームの例を表わす図である。 第2の実施形態の変形例のオーディオ符号化装置のフィルタ処理部および量子化部による1つのフレーム群の処理手順を表わすフローチャートである。 第2の実施形態の変形例のオーディオ符号化装置のフィルタ処理部および量子化部による1つのフレーム群の処理手順を表わすフローチャートである。 第3の実施形態のオーディオ符号化装置のフィルタ処理部および量子化部の動作手順を表わすフローチャートである。 第3の実施形態のオーディオ符号化装置のストリーム生成部の動作手順を表わすフローチャートである。 第3の実施形態のオーディオ符号化装置によって生成されるストリームの例を表わす図である。
以下、本発明の実施形態について図面を参照して説明する。
[第1の実施形態]
図1は、第1の実施形態のオーディオ符号化装置の構成を表わす図である。
図1を参照して、このオーディオ符号化装置1は、フィルタ処理部2と、量子化部3と、蓄積部7と、ストリーム生成部5とを備える。
フィルタ処理部2は、一定時間ごとにサンプリングされた1152個のオーディオデータをサブバンド信号に分割し、さらにMDCT(Modified Discrete Cosine Transform)スペクトルに変換し、さらに折り返し歪削減バタフライで周波数領域の折返しを除去する。
量子化部3は、フィルタ処理部2から出力されるフィルタ処理された1152個のオーディオサンプルからなるオーディオデータを量子化して、蓄積部7に記憶する。すなわち、量子化部3では、心理聴覚分析部で計算された周波数帯域毎の許容量子化雑音電力に関する要求と、ビットレート、及びビットリザーバ(これにより擬似的な可変ビットレートを実現する)の蓄積ビット数を元にして決定される使用可能ビット数の制限のもとで、反復ループ処理によって、量子化ステップサイズ、周波数帯域毎の量子化ビット数を変化させ、スケールファクタを決定して、MDCTスペクトルを量子化し、量子化インデックスのハフマン符号化を行なう。量子化部3は、ヘッダおよび付加情報を生成して、ストリーム生成部5に送る。
蓄積部7は、量子化部3で量子化されたオーディオデータを蓄積する。
ストリーム生成部5は、蓄積部7から量子化されたオーディオデータmain_dataを取り出して、ヘッダおよび付加情報を付加して、MPEGオーディオレイヤ3のストリームを生成する。MPEGオーディオレイヤ3のストリームのフレーム長は一定であって、各フレームは、ヘッダおよび付加情報を含み、メインデータ領域にmain_dataが配置される。
付加情報には、MDCTの変換ブロック長に関する情報、量子化ステップサイズ、スケールファクタ関連情報、ハフマン符号化の領域・テーブルに関する情報、main_data_beginなどを含む。
各フレームのmain_data_beginは、そのフレームの先頭位置と、そのフレームのヘッダと関連するmain_dataの先頭位置との間の長さ(ヘッダ及び付加情報は除く)を表わす。したがって、main_data_beginが「0」の場合には、そのフレームのヘッダと関連するmain_dataがそのフレーム内にあることを示す。main_data_beginが「0」以外の場合には、そのフレームのヘッダと関連するmain_dataがそのフレームに先行するフレーム内にあることを示す。
ストリーム生成部5は、蓄積部7内の量子化されたオーディオデータを、ストリーム内のオーディオデータと関連するヘッダが存在するフレームおよび/またはそのヘッダが存在するフレームに先行する1または複数のフレームに配置する(パッケージする)。つまり、第i番目のオーディオデータと関連するヘッダは、ストリームの第iフレームに配置されるので、第i番目のオーディオデータを、第iフレームおよび/または第iフレームに先行する1または複数のフレームに配置する(パッケージする)。
より具体的には、ストリーム生成部5は、所定のフレームについては、そのフレームに含まれるヘッダと関連するオーディオデータの全体を配置し、残りの領域には可能な限り、上限を超えない範囲でオーディオデータの後続のオーディオデータを配置する。たとえば、所定のフレームが第3フレームとすると、第3フレームには、第3フレームに含まれるヘッダと関連する第3番目のオーディオデータの全体が配置され、第3フレームの残りの領域には可能な限り、上限を超えない範囲で第4番目以降のオーディオデータが可能な限り配置される。ここで、上限とは、たとえば、第X番目のオーディオデータを構成するビット量のうちの、第Xフレームに先行する1個以上のフレームに配置できるビット量の最大値である。
ストリーム生成部5は、所定のフレーム以外については、そのフレームに含まれるヘッダと関連するオーディオデータおよび/またはそのオーディオデータの後続のオーディオデータを配置する。ここでも、後続のオーディオデータについては、上限を超えない範囲で配置される。たとえば、所定のフレーム以外のフレームが第4フレームとすると、第4フレームには、第4フレームに含まれるヘッダと関連する第4番目のオーディオデータおよび/または第5番目以降のオーディオデータが配置される。したがって、第4フレームには、第4番目のオーディオデータの一部または全部が含まれない場合がある。
第1の実施形態では、所定のフレームは、一定周期ごと(たとえば、3フレームごと)に存在するものとする。
ストリーム生成部5は、所定のフレーム内に「0」を表わすmain_data_beginを「0」を配置する。
ストリーム生成部5は、フレーム内のメインデータ領域内のオーディオデータが配置されない空き領域をゼロ値で埋める(ゼロパディング)。空き領域は、後続のオーディオデータについては、上述のような上限を超えない範囲という制約が課されるためである。また、所定のフレームのmain_data_beginが「0」のため、所定のフレームおよび所定のフレームに後続するフレームに含まれるヘッダと関連するオーディオデータは、所定のフレームに先行するフレームに配置することができないためである。
図2は、第1の実施形態のオーディオ符号化装置のフィルタ処理部および量子化部の動作手順を表わすフローチャートである。
図2を参照して、まず、オーディオデータ番号iが「1」に設定される(ステップS101)。
次に、オーディオデータ番号iのオーディオデータがフィルタ処理部2に入力される(ステップS102)。
次に、フィルタ処理部2では、フィルタ処理を実行する(ステップS103)。
次に、量子化部3は、フィルタ処理されたオーディオデータを量子化する。具体的には、オーディオデータ番号iを周期Dで除算した余りが「1」の場合には、量子化部3は、量子化されたデータ量がフレーム番号iのフレーム内のメインデータ領域の容量Aを超えないように、量子化スケールを調整することによって量子化する。
一方、オーディオデータ番号iを周期Dで除算した余りが「1」でない場合には、量子化部3は、量子化されたデータ量がフレーム番号iのフレーム内のメインデータ領域の容量Aと、フレーム番号iのフレームに先行する1個以上の所定のフレーム内のメインデータ領域内の空き領域の和と所定の上限値のうちの小さい方Bとの合計(A+B)を超えないように、量子化スケールを調整することによって量子化する。ここで、1個以上の所定のフレームとは、そのフレームのフレーム番号を周期Dで除算した余りが「1」であり、かつフレーム番号(i−D)〜フレーム番号(i−1)のフレームである(ステップS104)。
次に、量子化部3は、量子化されたオーディオデータをmain_data(i)として蓄積部7に保存する(ステップS105)。
次に、量子化部3は、main_data(i)についてのヘッダおよび付加情報を生成して、ストリーム生成部5に通知する。ここで、量子化部3は、オーディオデータ番号iを周期Dで除算した余りが「1」の場合には、付加情報の一部であるmain_data_begin(j)を「0」に設定し、オーディオデータ番号iを周期Dで除算した余りが「1」でない場合には、ストリーム内のフレーム番号iのフレームの先頭とmain_data(i)の先頭位置の間の長さ(付加情報およびヘッダを除く)を付加情報の一部であるmain_data_begin(i)の値に設定する。また、量子化部3は、main_data(i)のデータのうち、フレーム番号iのフレームに先行する各フレームにどれだけのデータを配置するかの情報(割当情報)もストリーム生成部5に通知する(ステップ106)。
次に、オーディオデータ番号iを周期Dで除算した余りが「0」の場合には(ステップS107でYES)、ストリーム生成部5での消費によって蓄積部7が空になるのを待ってから(ステップS109)、オーディオデータ番号iがインクリメントされて(ステップS108)、ステップS102からの処理が繰返される。
一方、オーディオデータ番号iを周期Dで除算した余りが「0」でない場合には(ステップS107でNO)、蓄積部7が空になるのを待つことなく、オーディオデータ番号iがインクリメントされて(ステップS108)、ステップS102からの処理が繰返される。
図3は、第1の実施形態のオーディオ符号化装置のストリーム生成部の動作手順を表わすフローチャートである。
まず、フレーム番号jが「1」に設定される(ステップS201)。
次に、ストリーム生成部5は、量子化部3で作成されたmain_data(j)についてのヘッダをフレーム番号jのフレームのヘッダ領域に配置する(ステップS202)。
次に、ストリーム生成部5は、量子化部3で作成されたmain_data(j)についての付加情報をフレーム番号jのフレームの付加情報領域に配置する(ステップS203)。
次に、ストリーム生成部5は、量子化部3で作成された割当情報に基づいて、フレーム番号jのフレームのメインデータ領域の容量A分のmain_dataを順次、蓄積部7から取り出して、メインデータ領域に配置し、フレームを生成する。ストリーム生成部5は、メインデータ領域内に空き領域が発生した場合には、空き部分をゼロ値で埋める(ゼロパディング)(ステップS204)。
次に、フレーム番号jがインクリメントされて(ステップS205)、ステップS202からの処理が繰り返される。
(ストリームの例)
図4は、第1の実施形態のオーディオ符号化装置によって生成されるストリームの例を表わす図である。
図4は、周期Dが「3」の場合の例を表わす。
フレーム1、4、7では、main_data_beginが「0」に設定されている。
フレーム1のメインデータ領域には、main_data(1)のすべてのデータが配置され、メインデータ領域の残りには、後続のmain_data(2)のすべてのデータと、main_data(3)の一部のデータが配置される。この例では、main_data(2)のすべてのデータとmain_data(3)の一部のデータの配置は、上限値を超えないという制約を満たしているものとする。
フレーム2のメインデータ領域には、main_data(3)の一部のデータが配置される。この例では、main_data(3)の一部のデータの配置は、上限値を超えないという制約を満たしているものとする。
フレーム3のメインデータ領域には、main_data(3)の一部のデータが配置される。フレーム3のメインデータ領域の空き領域がゼロパディングされる。
フレーム4のメインデータ領域には、main_data(4)のすべてのデータが配置され、メインデータ領域の残りには、後続のmain_data(5)のすべてのデータと、main_data(6)の一部のデータが配置される。この例では、main_data(5)のすべてのデータとmain_data(6)の一部のデータの配置は、上限値を超えないという制約を満たしているものとする。
フレーム5のメインデータ領域には、main_data(6)の一部のデータが配置される。この例では、main_data(6)の一部のデータの配置は、上限値を超えないという制約を満たしているものとする。
フレーム6のメインデータ領域には、main_data(6)の一部のデータが配置される。フレーム6のメインデータ領域の空き領域がゼロパディングされる。
フレーム7のメインデータ領域には、main_data(7)のすべてのデータが配置され、メインデータ領域の残りには、後続のmain_data(8)のすべてのデータと、main_data(9)の一部のデータが配置される。この例では、main_data(8)のすべてのデータとmain_data(9)の一部のデータの配置は、上限値を超えないという制約を満たしているものとする。
フレーム8のメインデータ領域には、main_data(9)の一部のデータが配置される。この例では、main_data(9)の一部のデータの配置は、上限値を超えないという制約を満たしているものとする。
フレーム9のメインデータ領域には、main_data(9)の一部のデータが配置される。フレーム9のメインデータ領域の空き領域がゼロパディングされる。
以上のように、本実施の形態によれば、一定周期ごとにmain_data_beginが0になるフレームを設けることによって、早送り再生後に、再生不可能な状態に陥ることを回避できる。
なお、本実施の形態では、図2のステップS109で蓄積部7が空になるのを待つこととしたが、これに限定するものではない。蓄積部7が空になるのを待たずに、蓄積を継続し、i%D=0になったときに、蓄積部7内のデータをクリアし、その後、再度量子化されたデータを蓄積するものとしてもよい。
[第2の実施形態]
図5は、第2の実施形態のオーディオ符号化装置の構成を表わす図である。
図5を参照して、このオーディオ符号化装置21は、第1の実施形態のオーディオ符号化装置1の構成に加えて、中間バッファ14を備える。
第1の実施形態では、ストリーム生成部5は、メインデータ領域内のオーディオデータが配置されない空き領域をゼロ値で埋める(ゼロパディング)こととした。
これに対して、本実施の形態では、量子化部13は、メインデータ領域に空き領域が発生しないように、オーディオデータの量子化スケールを調整する。このような調整のために中間バッファ14が用いられる。
また、本実施の形態では、量子化部13は、ストリームのフレームをフレーム群に分割する。量子化部13は、フレーム群に含まれるフレーム数は一定ではなく、1つのフレーム群の先頭のフレームを所定のフレームとして設定する。
量子化部13は、直前のフレーム群の最後のフレームの次のフレームである第1のフレームを起点として後続のフレームを順番に選択し、フレーム内のメインデータ領域の容量Aと選択したフレームに含まれるヘッダと関連する量子化されたオーディオデータの容量との差分を求める。
量子化部13は、この順次選択によって、差分の合計値が予め設定された蓄積許容容量を超えることになるフレーム、または所定個数選択後の次のフレームを次のフレーム群に存在する所定のフレーム(先頭フレーム)とする。
量子化部13は、所定のフレームの直前のフレームを第2のフレームとして特定し、第1のフレームから第2のフレームまでを現在のフレーム群として設定する。
図6および図7は、第2の実施形態のオーディオ符号化装置のフィルタ処理部および量子化部による1つのフレーム群の処理手順を表わすフローチャートである。
まず、量子化部13は、直前のフレーム群の最後のオーディオデータ番号LNに1を加算した値をオーディオデータ番号iに設定し、S1を0に設定する(ステップS301)。
次に、オーディオデータの入力がある場合には(ステップS302でYES)、オーディオデータ番号iのオーディオデータがフィルタ処理部2に入力される(ステップS303)。
次に、フィルタ処理部2では、フィルタ処理を実行し(ステップS304)、処理結果を中間バッファ14に蓄積する(ステップS305)。
次に、量子化部13は、中間バッファ14からデータを取り出して量子化を実行する(ステップS306)。
次に、量子化部13は、量子化によって得られたデータをmain_data(i)として蓄積部7に保存する(ステップS307)。
次に、量子化部13は、main_data(i)のデータ量をデータ量B(i)に設定する(ステップS308)。
次に、量子化部13は、メインデータ領域の容量AからB(i)の値を減算した値を差分値C(i)に設定する(ステップS309)。
次に、量子化部13は、差分合計値S1に直前のステップS309で得られた差分値C(i)を加算する(ステップS310)。
(i−LN)を周期Dで除算した余りが「0」でなく(ステップS311でNO)、かつ差分合計値S1が予め設定された蓄積許容容量T未満の場合(ステップS312でNO)、オーディオデータ番号iがインクリメントされて(ステップS313)、ステップS302からの処理が繰返される。
量子化部13は、(i−LN)を周期Dで除算した余りが「0」の場合(ステップS311でYES)、または次のオーディオデータの入力がない場合(ステップS302でNO)には、変数Mにiの値を設定する(ステップS314)。
量子化部13は、差分合計値S1が予め設定された蓄積許容容量Tを超える場合(ステップS312でYES)、変数(M+1)にiの値を設定する(ステップS315)。
ここで、量子化部13は、この順次選択によって、差分の合計値があらかじめ設定された蓄積許容容量を超えることになるフレームの判定をなくし、所定個数選択後の次のフレームを次のフレーム群に存在する所定のフレーム(先頭フレーム)とするといった構成にしてもよい。
次に、量子化部13は、フレーム番号が(M+1)のフレームを次のフレーム群の先頭のフレーム(第1のフレーム)とし、フレーム番号がMのフレームを第2のフレームとして設定する。量子化部13は、現在のフレーム群をフレーム番号が(LN+1)〜Mのフレームに決定する。すなわち、第1のフレームから第2のフレームまでが現在のフレーム群に属すると設定される(ステップS316)。
次に、量子化部13は、差分値C(LN+1)+・・・+C(M)を新たな差分値の情報をS2に設定する(ステップS317)。
次に、量子化部13は、蓄積部7をクリアする(ステップS318)。
次に、LNに1を加算した値がオーディオデータ番号iに設定される(ステップS319)。
次に、量子化部13は、中間バッファ14からフィルタ処理された第i番目のオーディオデータを取り出して、再量子化する。第1の実施形態と同様に、量子化部13は、オーディオデータ番号iを周期Dで除算した余りが「1」の場合には、量子化されたデータ量がフレーム番号iのフレーム内のメインデータ領域の容量Aを超えないように、量子化スケールを調整することによって量子化する。また、量子化部13は、オーディオデータ番号iを周期Dで除算した余りが「1」でない場合には、量子化されたデータ量がフレーム番号iのフレーム内のメインデータ領域の容量Aと、フレーム番号iのフレームに先行する1個以上の所定のフレーム内のメインデータ領域内の空き領域の和と所定の上限値のうちの小さい方Bとの合計(A+B)を超えないように、量子化スケールを調整することによって量子化する。例えば、差分値C(i+1)が正で差分値C(i)が負の場合、i番目に使用できる容量Bの量を、上限値を超えない範囲で増加し、その増加分をi+1番目では減らす。あるいは、オーディオデータ番号LN+1からMまで、差分値Cの値に応じて、負がなくなる、もしくは、負の部分に正の分を全て回すようにフレーム番号に対応した容量Bを制御する。ここで、1個以上の所定のフレームとは、フレーム番号を周期Dで除算した余りが「1」であり、かつフレーム番号(i−D)〜フレーム番号(i−1)のフレームである。さらに、第2の実施形態では、量子化部13は、第1の実施形態で説明したような空き領域が発生しないように、差分合計値S2に基づいて、量子化スケールを調整することによって、再量子化する(ステップS320)。
次に、量子化部13は、再量子化されたオーディオデータをmain_data(i)として蓄積部7に保存する(ステップS321)。
次に、量子化部13は、main_data(i)についてのヘッダおよび付加情報を生成して、ストリーム生成部15に通知する。ここで、量子化部13は、iが(LN+1)の場合には、付加情報の一部であるmain_data_begin(j)を「0」に設定し、iが(LN+1)でない場合には、ストリーム内のフレーム番号iのフレームの先頭とmain_data(i)の先頭位置の間の長さ(付加情報およびヘッダを除く)を付加情報の一部であるmain_data_begin(i)の値に設定する。また、量子化部13は、main_data(i)のデータのうち、フレーム番号iのフレームに先行する各フレームにどれだけのデータを配置するかの情報(割当情報)もストリーム生成部15に通知する(ステップS322)。
オーディオデータ番号iがMとなるまで(ステップS323でYES)、オーディオデータ番号iがインクリメントされて(ステップS324)、ステップS320からの処理が繰り返される。
図8は、第2の実施形態のオーディオ符号化装置のストリーム生成部による1つのフレーム群の処理手順を表わすフローチャートである。
まず、ストリーム生成部15は、直前のフレーム群の最後のオーディオデータ番号LNに1を加算した値をフレーム番号jに設定する。フレーム番号が(LN+1)のフレームを第1のフレームとする(ステップS401)。
次に、ストリーム生成部15は、量子化部13で作成されたmain_data(i)についてのヘッダをフレーム番号jのフレームのヘッダ領域に配置する(ステップS402)。
次に、ストリーム生成部15は、量子化部13で作成されたmain_data(i)についての付加情報をフレーム番号jのフレームの付加情報領域に配置する(ステップS403)。
次に、ストリーム生成部15は、フレーム番号jのフレームのメインデータ領域の容量A分のmain_dataを蓄積部7から取り出して、メインデータ領域に配置する(ステップS404)。
その後、フレーム番号jがインクリメントされて(ステップS406)、ステップS402からの処理が繰返される。
(ストリームの例)
図9は、第2の実施形態のオーディオ符号化装置によって生成されるストリームの例を表わす図である。
第1の実施形態では、図4に示すように、フレーム3、6、9がゼロパディングされていたのに対して、本実施の形態では、メインデータ領域に空き領域が発生しないように、オーディオデータの量子化スケールを調整するので、図9に示すように、ゼロパディングされるフレームが存在しない。
以上のように、本実施の形態によればmain_data_beginが0になるフレームの直前のフレームの空き領域が発生するのを防止することによって、オーディオの品質を高くするとができる。
[第2の実施形態の変形例]
本変形例では、量子化部13は、直前のフレーム群の最後のフレームの次のフレームである第1のフレームおよび後続の所定個数の複数のフレームのうち、フレームに含まれるヘッダと関連する量子化されたオーディオデータの容量が最小となるフレームを次のフレーム群に存在する所定のフレームとして設定する。量子化部13は、所定のフレームの直前のフレームを第2のフレームとして特定し、第1のフレームから第2のフレームまでを現在のフレーム群として設定する。
図10および図11は、第2の実施形態の変形例のオーディオ符号化装置のフィルタ処理部および量子化部による1つのフレーム群の処理手順を表わすフローチャートである。
まず、量子化部13は、直前のフレーム群の最後のオーディオデータ番号LNに1を加算した値をオーディオデータ番号iに設定し、S1を0に設定する(ステップS501)。
次に、オーディオデータの入力がある場合には(ステップS502でYES)、オーディオデータ番号iのオーディオデータがフィルタ処理部2に入力される(ステップS503)。
次に、フィルタ処理部2では、フィルタ処理を実行し(ステップS504)、処理結果を中間バッファ14に蓄積する(ステップS505)。
次に、量子化部13は、中間バッファ14からデータを取り出して量子化を実行する(ステップS506)。
次に、量子化部13は、量子化によって得られたデータをmain_data(i)として蓄積部7に保存する(ステップS507)。
次に、量子化部13は、main_data(i)のデータ量をデータ量B(i)に設定する(ステップS508)。
次に、量子化部13は、メインデータ領域の容量AからB(i)の値を減算した値を差分値C(i)に設定する(ステップS509)。
次に、量子化部13は、差分合計値S1に直前のステップS509で得られた差分値C(i)を加算する(ステップS510)。
(i−LN)を周期Dで除算した余りが「0」でなく(ステップS511でNO)、かつ差分合計値S1が蓄積部4の容量T未満の場合(ステップS512でNO)、オーディオデータ番号iがインクリメントされて(ステップS513)、ステップS502からの処理が繰返される。
量子化部13は、(i−LN)を周期Dで除算した余りが「0」の場合(ステップS511でYES)、または、次のオーディオデータの入力がない場合(ステップS502でNO)、または差分合計値S1が蓄積部4の容量Tを超える場合(ステップS512でYES)、C(k)(k=LN+1〜i)のうちの最大のkを特定して、特定した最大のkを変数(M+1)の値に設定する(ステップS514)。
量子化部13は、フレーム番号が(M+1)のフレームを次のフレーム群の先頭のフレーム(第1のフレーム)とし、フレーム番号がMのフレームを第2のフレームとして設定する。量子化部13は、現在のフレーム群をフレーム番号が(LN+1)〜Mのフレームに決定する。すなわち、第1のフレームから第2のフレームまでが現在のフレーム群に属すると設定される(ステップS515)。
次に、量子化部13は、差分値C(LN+1)+・・・+C(M)を新たな差分値の情報をS2に設定する(ステップS517)。
次に、量子化部13は、蓄積部7をクリアする(ステップS518)。
次に、LNに1を加算した値がオーディオデータ番号iに設定される(ステップS519)。
次に、量子化部13は、中間バッファ14からフィルタ処理された第i番目のオーディオデータを取り出して、再量子化する。第1の実施形態と同様に、量子化部13は、オーディオデータ番号iを周期Dで除算した余りが「1」の場合には、量子化されたデータ量がフレーム番号iのフレーム内のメインデータ領域の容量Aを超えないように、量子化スケールを調整することによって量子化する。また、量子化部13は、オーディオデータ番号iを周期Dで除算した余りが「1」でない場合には、量子化されたデータ量がフレーム番号iのフレーム内のメインデータ領域の容量Aと、フレーム番号iのフレームに先行する1個以上の所定のフレーム内のメインデータ領域内の空き領域の和と所定の上限値のうちの小さい方Bとの合計(A+B)を超えないように、量子化スケールを調整することによって量子化する。例えば、差分値C(i+1)が正で差分値C(i)が負の場合、i番目に使用できる容量Bの量を、上限値を超えない範囲で増加し、その増加分をi+1番目では減らす。あるいは、オーディオデータ番号LN+1からMまで、差分値Cの値に応じて、負がなくなる、もしくは、負の部分に正の分を全て回すようにフレーム番号に対応した容量Bを制御する。ここで、1個以上の所定のフレームとは、フレーム番号を周期Dで除算した余りが「1」であり、かつフレーム番号(i−D)〜フレーム番号(i−1)のフレームである。さらに、本変形例では、量子化部13は、第1の実施形態で説明したような空き領域が発生しないように、差分合計値S2に基づいて、量子化スケールを調整することによって、再量子化する(ステップS520)。
次に、量子化部13は、再量子化されたオーディオデータをmain_data(i)として蓄積部7に保存する(ステップS521)。
次に、量子化部13は、main_data(i)についてのヘッダおよび付加情報を生成して、ストリーム生成部15に通知する。ここで、量子化部13は、iが(LN+1)の場合には、付加情報の一部であるmain_data_begin(j)を「0」に設定し、iが(LN+1)でない場合には、ストリーム内のフレーム番号iのフレームの先頭とmain_data(i)の先頭位置の間の長さ(付加情報およびヘッダを除く)を付加情報の一部であるmain_data_begin(i)の値に設定する。また、量子化部13は、main_data(i)のデータのうち、フレーム番号iのフレームに先行する各フレームにどれだけのデータを配置するかの情報(割当情報)もストリーム生成部15に通知する(ステップS522)。
オーディオデータ番号iがMとなるまで(ステップS523でYES)、オーディオデータ番号iがインクリメントされて(ステップS524)、ステップS520からの処理が繰り返される。
本変形例のオーディオ符号化装置のストリーム生成部15による1つのフレーム群の処理手順は、第2の実施形態と同様なので、説明を繰り返さない。
[第3の実施形態]
第3の実施形態が、第1の実施形態と相違する点は、量子化部3である。
第1の実施形態では、量子化部3は、一定周期ごとに存在するフレームについては、固定長のメインデータ領域の容量Aを超えないように、量子化スケールを調整することによって、対応のオーディオデータを量子化した。
これに対して、本実施の形態では、量子化部3は、一定周期ごとに存在するフレームについては、メインデータ領域のデフォルト容量Aを超えないように量子化スケールを調整する代わりに、メインデータ領域の大きさを可変、すなわちフレームのサイズを可変とする。これによって、オーディオデータの量子化後のデータ量がデフォルト容量Aを超えた場合でも、メインデータ領域の大きさが増加するので、このフレームにオーディオデータの量子化後のデータを収容することができる。
図12は、第の実施形態のオーディオ符号化装置のフィルタ処理部および量子化部の動作手順を表わすフローチャートである。
図12を参照して、まず、オーディオデータ番号iが「1」に設定される(ステップS601)。
次に、オーディオデータ番号iのオーディオデータがフィルタ処理部2に入力される(ステップS602)。
次に、フィルタ処理部2では、フィルタ処理を実行する(ステップS603)。
次に、量子化部3は、フィルタ処理されたオーディオデータを量子化する。具体的には、オーディオデータ番号iを周期Dで除算した余りが「1」の場合には、量子化部3は、量子化されたデータ量がフレーム番号iのフレーム内のメインデータ領域の容量Aを超えるかを気にすることなく量子化する。一方、オーディオデータ番号iを周期Dで除算した余りが「1」でない場合には、量子化部3は、量子化されたデータ量がフレーム番号iのフレーム内のメインデータ領域の容量Aと、フレーム番号iのフレームに先行する1個以上の所定のフレーム内のメインデータ領域内の空き領域の和と所定の上限値のうちの小さい方Bとの合計(A+B)を超えないように、量子化スケールを調整することによって量子化する。ここで、1個以上の所定のフレームとは、フレーム番号を周期Dで除算した余りが「1」であり、かつフレーム番号(i−D)〜フレーム番号(i−1)のフレームである(ステップS604)。
次に、量子化部3は、量子化されたオーディオデータをmain_data(i)として蓄積部7に保存する(ステップS605)。
次に、量子化部3は、main_data(i)についてのヘッダおよび付加情報を生成して、ストリーム生成部5に通知する。ここで、量子化部3は、オーディオデータ番号iを周期Dで除算した余りが「1」の場合には、付加情報の一部であるmain_data_begin(j)を「0」に設定し、オーディオデータ番号iを周期Dで除算した余りが「1」でない場合には、ストリーム内のフレーム番号iのフレームの先頭とmain_data(i)の先頭位置の間の長さ(付加情報およびヘッダを除く)を付加情報の一部であるmain_data_begin(i)の値に設定する。また、量子化部3は、main_data(i)のデータのうち、フレーム番号iのフレームに先行する各フレームにどれだけのデータを配置するかの情報(割当情報)もストリーム生成部5に通知する(ステップ606)。
次に、オーディオデータ番号iを周期Dで除算した余りが「0」の場合には(ステップS607でYES)、ストリーム生成部5での消費によって蓄積部7が空になるのを待ってから(ステップS609)、オーディオデータ番号iがインクリメントされて(ステップS608)、ステップS602からの処理が繰返される。
一方、オーディオデータ番号iを周期Dで除算した余りが「0」でない場合には(ステップS607でNO)、蓄積部7が空になるのを待つことなく、オーディオデータ番号iがインクリメントされて(ステップS608)、ステップS602からの処理が繰返される。
図13は、第3の実施形態のオーディオ符号化装置のストリーム生成部5の動作手順を表わすフローチャートである。
まず、フレーム番号jが「1」に設定される(ステップS701)。
次に、ストリーム生成部5は、量子化部3で作成されたmain_data(j)についてのヘッダをフレーム番号jのフレームのヘッダ領域に配置する(ステップS702)。
次に、ストリーム生成部5は、量子化部3で作成されたmain_data(j)についての付加情報をフレーム番号jのフレームの付加情報領域に配置する(ステップS703)。
次に、ストリーム生成部5は、量子化部3で作成された割当情報に基づいて、フレーム番号jのフレームのメインデータ領域の容量A分のmain_dataを蓄積部7から取り出して、メインデータ領域に配置する。ストリーム生成部5は、フレーム番号jを周期Dで除算した余りが「1」のフレームについては、フレームのサイズをmain_data(j)の大きさだけのメインデータ領域を有するようなサイズに拡張または縮小する。また、ストリーム生成部5は、フレーム番号jを周期Dで除算した余りが「1」のフレームについては、フレームサイズを固定とするとともに、メインデータ領域内に空き領域が発生した場合には、空き部分をゼロ値で埋める(ゼロパディング)(ステップS704)。
次に、フレーム番号jがインクリメントされて(ステップS705)、ステップS702からの処理が繰り返される。
(ストリームの例)
図14は、第3の実施形態のオーディオ符号化装置によって生成されるストリームの例を表わす図である。
図14に示すように、周期Dが「3」の場合の例を表わす。
フレーム1では、main_data(1)のデータ量がメインデータ領域のデフォルト容量Aを超えないため、フレーム長がデフォルトのまま変化せず、デフォルト容量Aのメインデータ領域にmain_data(1)が配置され、残りのメインデータ領域にmain_data(2)以降のデータが配置される。
一方、フレーム4では、main_data(4)のデータ量がメインデータ領域のデフォルト容量Aを超えるため、フレーム長がデフォルトから拡張され、拡大したメインデータ領域にmain_data(4)のデータが配置される。
また、フレーム7では、main_data(7)のデータ量がメインデータ領域のデフォルト容量Aを超えるため、フレーム長がデフォルトから拡張され、拡大したメインデータ領域にmain_data(7)のデータが配置される。
以上のように、本実施の形態では、main_data_beginが0になるフレームの長さを可変にすることによって、このフレームのオーディオデータの品質が落ちるのを防止することができる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1,21 オーディオ符号化装置、2 フィルタ処理部、3,13 量子化部、4 蓄積部、5,15 ストリーム生成部。

Claims (5)

  1. オーディオデータを量子化する量子化部と、
    前記量子化されたオーディオデータを蓄積する蓄積部と、
    前記蓄積部内の量子化されたオーディオデータを、ストリーム内の前記オーディオデータと関連するヘッダが存在するフレームと前記ヘッダが存在するフレームに先行する1または複数のフレームのうちのいずれか一方または両方に配置するストリーム生成部とを備え、
    前記ストリーム生成部は、所定のフレームについては、前記フレームに含まれるヘッダと関連する前記オーディオデータの全部を配置し、残りの領域には前記オーディオデータの後続のオーディオデータを配置し、
    前記所定のフレーム以外については、前記フレームに含まれるヘッダと関連する前記オーディオデータと前記オーディオデータの後続のオーディオデータのうちのいずれか一方または両方を配置し、
    前記ストリーム生成部は、ストリームのフレームをフレーム群に分割し、前記フレーム群に含まれるフレーム数は一定ではなく、1つのフレーム群の先頭のフレームを前記所定のフレームして設定し、
    前記量子化部は、直前のフレーム群の最後のフレームの次のフレームである第1のフレームおよび後続の所定個数の複数のフレームのうち、前記フレームに含まれるヘッダと関連する量子化されたオーディオデータの容量が最小となるフレームを次のフレーム群に存在する所定のフレームとし、
    前記量子化部は、前記所定のフレームの直前のフレームを第2のフレームとして特定し、前記第1のフレームから前記第2のフレームまでを現在のフレーム群として設定する、オーディオ符号化装置。
  2. オーディオデータを量子化する量子化部と、
    前記量子化されたオーディオデータを蓄積する蓄積部と、
    前記蓄積部内の量子化されたオーディオデータを、ストリーム内の前記オーディオデータと関連するヘッダが存在するフレームと前記ヘッダが存在するフレームに先行する1または複数のフレームのうちのいずれか一方または両方に配置するストリーム生成部とを備え、
    前記ストリーム生成部は、所定のフレームについては、前記フレームに含まれるヘッダと関連する前記オーディオデータの全部を配置し、残りの領域には前記オーディオデータの後続のオーディオデータを配置し、
    前記所定のフレーム以外については、前記フレームに含まれるヘッダと関連する前記オーディオデータと前記オーディオデータの後続のオーディオデータのうちのいずれか一方または両方を配置し、
    前記ストリーム生成部は、ストリームのフレームをフレーム群に分割し、前記フレーム群に含まれるフレーム数は一定ではなく、1つのフレーム群の先頭のフレームを前記所定のフレームして設定し、
    前記量子化部は、直前のフレーム群の最後のフレームの次のフレームである第1のフレームを起点として後続のフレームを順番に選択し、フレーム内のメインデータ領域の容量と前記選択したフレームに含まれるヘッダと関連する量子化されたオーディオデータの容量との差分を求め、
    前記量子化部は、前記順次選択によって、差分の合計値が前記蓄積部の容量を超えることになるフレームを次のフレーム群に存在する所定のフレームとし、
    前記量子化部は、前記所定のフレームの直前のフレームを第2のフレームとして特定し、前記第1のフレームから前記第2のフレームまでを現在のフレーム群として設定する、オーディオ符号化装置。
  3. 前記ストリームは、MPEGオーディオ・レイヤ3のストリームであって、
    前記ストリーム生成部は、前記所定のフレーム内に「0」を示すmain_data_beginを配置する、請求項1記載のオーディオ符号化装置。
  4. 前記ストリームのすべてのフレーム長は一定であって、
    前記ストリーム生成部は、前記フレーム内のメインデータ領域内の前記オーディオデータが配置されない空き領域をゼロパディングする、請求項1記載のオーディオ符号化装置。
  5. 前記ストリームのすべてのフレーム長は一定であって、
    前記量子化部は、前記フレーム内のメインデータ領域に空き領域が発生しないように、前記オーディオデータの量子化スケールを調整する、請求項1記載のオーディオ符号化装置。
JP2012004214A 2012-01-12 2012-01-12 オーディオ符号化装置 Expired - Fee Related JP5814802B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012004214A JP5814802B2 (ja) 2012-01-12 2012-01-12 オーディオ符号化装置
US13/706,448 US9349377B2 (en) 2012-01-12 2012-12-06 Audio encoding apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012004214A JP5814802B2 (ja) 2012-01-12 2012-01-12 オーディオ符号化装置

Publications (3)

Publication Number Publication Date
JP2013142862A JP2013142862A (ja) 2013-07-22
JP2013142862A5 JP2013142862A5 (ja) 2014-09-25
JP5814802B2 true JP5814802B2 (ja) 2015-11-17

Family

ID=48780612

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012004214A Expired - Fee Related JP5814802B2 (ja) 2012-01-12 2012-01-12 オーディオ符号化装置

Country Status (2)

Country Link
US (1) US9349377B2 (ja)
JP (1) JP5814802B2 (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08331564A (ja) * 1995-05-30 1996-12-13 Matsushita Electric Ind Co Ltd 画像符号化方法
US7317867B2 (en) * 2002-07-11 2008-01-08 Mediatek Inc. Input buffer management for the playback control for MP3 players
EP1647010B1 (de) * 2003-07-21 2017-09-06 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audiodateiformatumwandlung
TW200612673A (en) * 2004-10-06 2006-04-16 Elan Microelectronics Corp Encoding/decoding apparatus and its method of quantization of a random step number
JP4619131B2 (ja) * 2005-01-04 2011-01-26 富士通セミコンダクター株式会社 オーディオ符号化方法、オーディオ復号化方法、オーディオ符号器及びオーディオ復号器
US20070036228A1 (en) * 2005-08-12 2007-02-15 Via Technologies Inc. Method and apparatus for audio encoding and decoding

Also Published As

Publication number Publication date
JP2013142862A (ja) 2013-07-22
US9349377B2 (en) 2016-05-24
US20130185083A1 (en) 2013-07-18

Similar Documents

Publication Publication Date Title
KR102248253B1 (ko) 에너지 무손실 부호화방법 및 장치, 오디오 부호화방법 및 장치, 에너지 무손실 복호화방법 및 장치, 및 오디오 복호화방법 및 장치
JP4702928B2 (ja) 動画像符号化装置及び復号装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
JP4219551B2 (ja) 知覚モデルに基づいて信号を符号化する方法および装置
RU2636697C1 (ru) Устройство и способ кодирования
JP6302071B2 (ja) 無損失符号化方法及び無損失復号化方法
EP2381438A1 (en) Signal classification processing method, classification processing device and encoding system
JP2015517119A (ja) 信号符号化および復号化の方法および装置
JP2019040206A (ja) 音声音響符号化装置及び音声音響符号化方法
KR102288111B1 (ko) 스테레오 신호의 인코딩 및 디코딩 방법과, 인코딩 및 디코딩 장치
KR20210083225A (ko) 에너지 무손실 부호화방법 및 장치, 신호 부호화방법 및 장치, 에너지 무손실 복호화방법 및 장치, 및 신호 복호화방법 및 장치
KR101668093B1 (ko) 데이터 인코딩 및 디코딩 방법 및 장치
JP2006145782A5 (ja)
JP5814802B2 (ja) オーディオ符号化装置
EP2926556A1 (en) Compressed data stream transmission using rate control
US8451148B2 (en) Encoding apparatus, encoding method, decoding apparatus, decoding method, and program
JP5704018B2 (ja) オーディオ信号符号化方法および装置
JP4335245B2 (ja) 量子化装置、逆量子化装置、音声音響符号化装置、音声音響復号装置、量子化方法、および逆量子化方法
US8364496B2 (en) Signal recording and reproducing apparatus and method
JP5088215B2 (ja) 情報処理システム及び情報処理方法、並びにプログラム
JP2002162996A (ja) オーディオ信号符号化方法、オーディオ信号符号化装置、音楽配信方法、および、音楽配信システム
US20100023334A1 (en) Audio coding apparatus, audio coding method and recording medium
JP5724338B2 (ja) 符号化装置および符号化方法、復号装置および復号方法、並びにプログラム
JP2001134294A (ja) オーディオ信号のビットストリームの処理方法及び処理装置
KR20240118076A (ko) 부호화 장치, 복호 장치, 부호화 방법, 및, 복호 방법
JPH066779A (ja) 帯域分割符号化方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140811

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140811

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150908

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150918

R150 Certificate of patent or registration of utility model

Ref document number: 5814802

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees