JP4242581B2 - データ変換装置 - Google Patents

データ変換装置 Download PDF

Info

Publication number
JP4242581B2
JP4242581B2 JP2001374697A JP2001374697A JP4242581B2 JP 4242581 B2 JP4242581 B2 JP 4242581B2 JP 2001374697 A JP2001374697 A JP 2001374697A JP 2001374697 A JP2001374697 A JP 2001374697A JP 4242581 B2 JP4242581 B2 JP 4242581B2
Authority
JP
Japan
Prior art keywords
data
time stamp
encoded data
frame
size
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001374697A
Other languages
English (en)
Other versions
JP2002238050A (ja
Inventor
陽司 能登屋
眞也 角野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2001374697A priority Critical patent/JP4242581B2/ja
Publication of JP2002238050A publication Critical patent/JP2002238050A/ja
Application granted granted Critical
Publication of JP4242581B2 publication Critical patent/JP4242581B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Television Signal Processing For Recording (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、可変フレームレートの符号化データを固定フレームレートの符号化データに変換するデータ変換装置、データ符号化装置、及びデータ記録装置に関する。
【0002】
【従来の技術】
近年、インターネットや移動体端末などの低帯域環境下で映像を配信する環境が普及しつつある。そして、これら低帯域環境下での映像の圧縮符号化方式としては、ITU−Tで標準化されるH.263や、ISO/IECで標準化されるMPEG−4などが用いられる。
【0003】
上記MPEG−4は、DVDに採用され広く普及しているMPEG−2と異なり、可変フレームレートの符号化が可能である。ここで、可変フレームレートの符号化とは、任意のフレームの表示時間間隔を設定できる符号化のことであり、映像信号の圧縮における映像信号の複雑さや、映像信号の性質(動きの有無等)などに応じて、最適な符号化を行う際に一般的に用いられているものである。
【0004】
図10は、可変フレームレートの符号化データの例である。図では、30Hzの映像信号を、前半はフレームを1枚毎にスキップさせて15Hzで符号化し、後半は2枚毎にスキップさせて10Hzで符号化している。
【0005】
以下、図11〜図16を用いて、図10に示すような可変フレームレートでの符号化処理について説明する。
まず、図11を用いて、従来のデータ符号化装置の構成について説明する。
図11は、従来における、データ符号化装置の構成を示す図である。
【0006】
図11において、従来のデータ符号化装置は、カメラから入力される映像をとりこむ映像取り込み手段81と、取りこまれた映像のフレーム信号を符号化するか否かを判定する符号化判定手段82と、その取りこまれたデータを符号化処理する符号化手段83と、該符号化手段83により符号化された符号化データを、MPEG−4標準のファイルフォーマット規格(以下、「MP4」と称す。)に変換するMP4ファイル符号化手段85と、MP4ファイルを記録する記録媒体86とを備えるものである。
【0007】
以下、上述した構成を有する、従来のデータ符号化装置の一連の処理動作について説明する。
まず、データ符号化装置は、カメラから入力される映像を、映像取り込み手段81にて映像フレーム信号(以下、「フレーム」と呼ぶ。)に変換し、該フレームを映像の取り込み開始時から、カメラのフレームレート(例えば、30Hz)で増加していくフレーム番号とともに、符号化判定手段82に出力する。
【0008】
そして、符号化判定手段82では、上記フレーム番号と、予め与えられているカメラのフレーム情報とから、入力されたフレームのタイムスタンプを計算し、該タイムスタンプと、これまでに符号化したデータ量の合計と、出力のビットレートとから、その入力されたフレームを符号化するか否かの判定を行う。
【0009】
なお、この入力されたフレームを符号化するか否かの判定の条件は、ビットレートの可変/固定、規定に定められているバッファモデルの遵守/無視、フレームの画質重視/フレームレート重視などの、データ符号化装置の様々な条件、利用目的に依存するものであり、ここでは具体的な判定条件については示さないとする。
【0010】
そして、上記符号化判定手段82において、その入力されたフレームを符号化すると判定された場合は、入力されたフレームと、該フレームのタイムスタンプとを、符号化手段83へ出力し、符号化処理を行う。ここで、フレームのタイムスタンプは、スケールの変換やオフセットの処理を行って、MP4ファイルに記録するMP4タイムスタンプに変換される。
【0011】
一方、上記符号化判定手段82において、そのフレームを符号化しないと判定された場合は、フレーム、及びそのタイムスタンプ等を符号化手段83には出力せずに破棄し、次のフレームが上記映像取り込み手段81から入力されるのを待つ。
【0012】
一般的に、上記符号化手段83におけるデータの符号化処理は、時間がかかるものであり、さらに、入力されたフレームの映像の性質によっては、上記映像取り込み手段81により、その次に取りこまれるフレームが上記符号化判定手段82へ出力されるまでに、符号化処理を終了できない場合がある。このような場合に、次に取りこまれたフレームを、符号化判定手段82において破棄するようにし、該破棄されたフレームは符号化手段83には出力されないので、符号化データにおいては、スキップされることになる。
【0013】
そして、上記符号化手段83において符号化された符号化データ、及びその符号化データ量は、MP4ファイル符号化手段85に出力される。また、上記符号化データ量は、上記符号化判定手段82にも出力される。この上記符号化判定手段82に出力される符号化データ量は、上述した、入力されたフレームを符号化するか否かの判定条件のうち、ビットレート固定の条件や、バッファモデル遵守の条件に利用される。
【0014】
そして、MP4ファイル符号化手段85において、上記符号化データ、及び符号化データ量は、MP4ファイルに変換され、記録媒体86に記録される。
【0015】
ここで、図12を用いて、MP4ファイルの構成について説明する。
図12は、可変フレームレートの符号化データ例(図(a))、及びその符号化データのMP4ファイルの構成を示す図(図(b))である。
MP4ファイルは、符号化データのサイズを格納するSample Size Atom、表示間隔を格納するSample-To-TimeStamp Atom、符号化データを格納するMovie data Atom等、入力される各フレームの情報をテーブル化したAtomから構成される。
【0016】
まず、Sample-To-TimeStamp Atom には、フレームレート一定の区間毎に、符号化データの先頭から順次、フレームの枚数numとフレームの間隔durの組を記述し、該フレーム枚数とフレーム間隔とからなるテーブルの前に区間数を記述する構造になっている。また、Sample Size Atomは、フレームの番号順に各フレームのサイズを記述し、該フレームサイズのテーブルの前にフレームの総数である要素数を記述する構造になっている。そして、Movie data Atomには、各サンプルのデータを連続して格納していく。
【0017】
例えば、上記映像取り込み手段81から取りこまれたフレームが、上記符号化手段83において、図12(a)に示すような、3つの異なるフレームレートを有する可変フレームレートの符号化データに符号化された場合、MP4ファイル符号手段85において、図12(b)に示すように、Sample Size Atomには、要素数9と、フレームの番号順に1番目のサンプルから9番目のサンプルまでの各フレームの符号化データのサイズとが記述され、Movie data Atomには、1番目のサンプルから9番目のサンプルまでのサンプルのデータが連続して格納され、Sample-To-TimeStamp Atomには、上記符号化データが、最初の3フレームの間隔が2、次の2フレームの間隔が3、次の4フレームの間隔が1であることより、要素数3と、区間1としてフレーム数num=3,フレーム間隔dur=2、区間2としてnum=2,dur=3、区間3としてnum=4,dur=1とが記述される。なお、ここでは、説明を簡単にするために、1サンプル=1フレームとしているが、音声データのように、例えば、1024サンプル=1フレームとした場合でも、各Atomへのデータの格納方法は同様である。
【0018】
次に、符号化データを、以上のようなMP4ファイルに変換するMP4ファイル符号化手段85について、図13及び図14を用いて説明する。図13は、従来における、MP4ファイル符号化手段の構成の一例を示す図であり、図14は、従来におけるMP4ファイル符号化手段の一連の処理動作を示すフローチャート図である。
【0019】
まず、図13を用いて、MP4ファイル符号化手段85の構成について説明する。
MP4ファイル符号化手段85には、符号化データと符号化データ量、及び、その符号化データに関してMP4ファイル記録する際のMP4タイムスタンプが入力されるものであり、該入力された符号化データとその符号化データ量を一時的に記憶する符号化データ一時記憶手段41と、該符号化データ一時記憶手段41から入力される符号化データを用いて、MP4ファイル内の符号化データを記録するデータ領域であるMovie Data Atomを、mdat atom一時記憶手段46上に一時的に生成するmdat atom作成手段43と、上記符号化データ一時記憶手段41から入力される符号化データ量を用いて、MP4ファイル内の符号化データ量を記録するデータ領域であるSample Size Atomを、stsz atom一時記憶手段47上に生成するstsz atom作成手段44と、外部より入力されたMP4タイムスタンプを用いて、MP4ファイル内のフレームの時間間隔を記録するデータ領域であるSample-To-TimeStamp Atomを、stts atom一時記憶手段48上に作成するstts atom生成手段45と、上述した各生成手段43〜45により、各一時記憶手段46〜48上に個別に生成された各Atomを、記録したい符号化データの入力が全て終了した後に連結する一時データ連結手段49と、を備えるものである。なお、MP4ファイル符号化手段85に外部よりMP4タイムスタンプが入力されない場合は、符号化データ一時記憶手段41に記憶されている符号化データから、符号化データのタイムスタンプを読み取り、スケールの変換やオフセットの処理を行って、MP4ファイルに記録するMP4タイムスタンプに変換するMP4タイムスタンプ読み取り手段42を備えるようにする。
【0020】
ここで、上記mdat atom作成手段43による、Movie Data Atomの作成方法については、目的に応じていろいろあるが、本発明を説明する上では関わりがないため、ここでは詳細な説明は行わないものとする。また、上記stsz atom作成手段44による、Sample Size Atomの作成方法については、先頭から符号化データ量を並べるものである。さらに、上記stts atom生成手段45によるSample-To-Time Stamp Atomの作成方法については、後述する。
【0021】
そして、記録したい符号化データの入力が全て終了した後、MP4ファイル符号化手段85に、ストリーム終了信号が入力され、このストリーム終了信号が入力されると、各atom作成手段43〜45は、テーブルの要素数の書き込みなど、各Atomを完成させる処理を行う。そしてその後、一時データ連結手段49により、各Atomを適切な位置に再配置し、記録媒体86に作成したMP4ファイルを出力するものである。
【0022】
以下、図14のフローチャートに従って、MP4ファイル符号化手段85のstts atom生成手段45による、Sample-To-Time Stamp Atomの作成方法について説明する。
まず、本データ符号化装置において、データ処理が開始されると、MP4ファイル符号化手段85において、初期化が行われる(ステップS1)。ここで、inはMP4符号化手段85に入力されたフレームの総数を示し、indexはSample-To-TimeStamp atomにおける、ある時点での区間番号を示し、nは本データ符号化装置へ入力されたフレームのうち、Sample-To-TimeStamp Atomに記述されていないという意味での、未処理のフレーム数を示し、Tpは直前の符号化データのMP4タイムスタンプを示している。
【0023】
そして、MP4ファイル符号化手段85に、符号化データ、符号化データ量、及びMP4タイムスタンプが入力されると、MP4タイムスタンプをTsに設定し、入力フレーム数inを1増加させ、未処理フレーム数nを1増加させる(ステップS2)。
【0024】
そして次に、入力フレーム数in≧3であるか否かを判断し、in≦2ならば、ステップS6へ進み、in≧3であれば、ステップS4に進む。この分岐は、上記Sample-To-TimeStamp Atomが、フレームの時間間隔を記述するものであるため、最低2枚のフレームが必要であり、また、Sample-To-TimeStamp Atomは、同じフレーム間隔のフレームの枚数を記述するものであるため、最低3枚のフレームが無いと1つめの要素の書き出し処理は行えないことによるものである。
【0025】
そして、in≦2である場合、フレーム間隔dを計算し、今入力されたフレームのMP4タイムスタンプTsを一つ前のフレームのMP4タイムスタンプTpとして記録する(ステップS6)。そして、以上のようなステップS2〜S6の処理を、stts atom生成手段45に、符号化データ入力の終了を意味するストリーム終了信号が入力されるまで繰り返す(ステップS7)。
【0026】
以上のような繰り返しの中で、ステップS3において、in≧3である場合には、今のフレームと前のフレームとのフレーム間隔d(=Ts−Tp)が、これまでに計算したフレーム間隔dと一致するかを判定し(ステップS4)、その判定において、フレーム間隔dが一致しなかった場合は、Sample-To-TimeStamp Atomの定義に基づき、Sample-To-TimeStamp Atomのテーブルの要素を追加する(ステップS5)。つまり、Sample-To-TimeStamp Atomに、フレーム枚数num=n−2、及びフレーム間隔dur=dを追加し、さらに、Sample-To-TimeStamp Atomへの要素の追加後には、区間番号indexを一つ増加させ、未処理フレーム枚数n=2とする。この2枚は、新しいフレーム間隔d(=Ts−Tp)となった区間の1枚目(1つ前のMP4タイムスタンプTp)のフレームと、2枚目(現在のMP4タイムスタンプTs)のフレームである。
【0027】
そして、stts atom生成手段45にストリーム終了信号が入力されると(ステップS7)、stts atom生成手段45は、テーブルの要素数の書き込みなど、Sample-To-TimeStamp Atomを完成させる処理を行っていく。
つまり、ステップS5において説明した通り、ステップS7の時点では、2枚分のフレームに関するフレーム間隔情報が、stts atom生成手段45の内部に一時的に保持されたままで、Sample-To-TimeStamp Atomのテーブルの要素に追加されていない。したがって、上記ストリーム終了信号が入力されたならば、その2枚分に対する処理を行う必要がある。なお、通常はありえないが、入力フレーム枚数inが2よりも少ない場合は、通常と異なる動作をしなければならない。
【0028】
まず、通常ありえない状態である、上記ストリーム終了信号が入力されたときに、入力フレーム数in=0あるいは1である場合について説明する。
入力フレーム数in=0、つまりフレームが一枚も入力されなかった場合は、ステップS9へと進む。この場合は、当然、Sample-To-TimeStamp Atomに、何も要素を追加する必要がない。そして、区間番号index=0とし(ステップS9)、その値をSample-To-TimeStamp Atomの要素数として0を書きこむ(ステップS12)。
【0029】
また、入力フレーム数in=1であるとき、フレーム数num=1、フレーム間隔dur=du(du;任意の数)の要素を追加し、さらに、区間番号index=1とした後(ステップS9)、その値をSample-To-TimeStamp Atomの要素数として1を書きこむ(ステップS12)。なお、フレーム間隔durは、2枚のフレームが無ければ定義されないので、ここでフレーム間隔durとして追加されるフレーム間隔duは、意味のある値ではなく、任意に決定して構わない。
【0030】
そして、入力フレーム数in≧2である時、これは通常の状態であるが、この場合は、n枚のフレームが未処理のまま残っているので、Sample-To-TimeStamp Atomにこれを追加する。つまり、フレーム枚数num=n、フレーム間隔dur=dの要素を追加し、さらに、区間番号indexも1増加させた後(ステップS11)、Sample-To-TimeStamp Atomの要素数として、その1増加させたindexの値を書きこむ(ステップS12)。これで、Sample-To-TimeStamp Atomのテーブル作成処理は終了である。
【0031】
次に、図17を用いて、RTP(リアルタイム・トランスポート・プロトコル)により、MPEG−4のデータが、基地局からデータ記録装置に送信される場合の処理について説明する。
図17は、従来における移動体端末であるデータ記録装置の構成を示す図であり、送信手段からのMPEG−4データは、RTPを用いて伝送される。
【0032】
以下、従来におけるデータ記録装置について説明する。
データ記録装置は、RTP受信装置91、RTP受信バッファ92、RTP復号手段93、MP4ファイル符号化手段95、記録媒体96とからなるものであり、まず、RTP受信手段91は、基地局であるRTP送信手段90から、ビデオパケット単位に分割され、RTPパケットに格納されたMPEG−4の符号化データを受信すると、該RTPパケットを受信バッファ92に格納する。
【0033】
ここで、上記ビデオパケットとは、フレームをさらに分割したデータの単位であり、あるビデオパケットが消失したり、あるビデオパケットにエラーが混入したりしても、その他のビデオパケットは正しく復号化できるものである。また、上記RTPパケットには、RTPタイムスタンプが付けられており、そのRTPパケットに格納されている符号化データが有する符号化データタイムスタンプに、ランダムなオフセットを加えた値がセットされている。通常、1フレームの符号化データを複数のRTPパケットに分割した場合、これらの分割された複数のRTPパケットのRTPタイムスタンプには同じ値が付けられる。また、上記RTPパケットには、連続する番号(シーケンス番号)が付けられていて、受信側、つまりデータ記録装置は、このシーケンス番号の連続性をチェックすることで、パケットの消失を確認できる。
【0034】
そして、RTP復号手段93は、上記受信バッフア82から、同一タイムスタンプを持つ1つ以上のRTPパケットを受け取り、該RTPパケットからRTPヘッダを除去するなどしてMPEG−4データに復元し、MP4ファイル符号化手段95は、該RTP復号手段93からのMPEG−4のデータをMP4ファイルに変換して、記録媒体96に格納するものである。なお、MP4ファイルへの変換に必要なMP4タイムスタンプやフレームのサイズ等の情報は、上記RTP復号手段93で、RTPパケットにつけられたRTPタイムスタンプとサイズとから取得することができる。
【0035】
なお、基地局であるRTP送信手段90から、移動体端末であるデータ記録装置に、RTPを用いてMPEG−4データを伝送する際に、上記RTP送信手段90からデータ記録装置にパケットが届かなかった場合、例えば、RTP送信手段90から、フレームが複数のRTPパケットに分割された状態で送信される際に、そのいくつかのRTPパケットが消失したり、あるフレームを構成するRTPパケット全てが消失したりした場合には、データ記録装置は、上記RTP受信手段91で正しく受信できなかったデータはスキップさせ、上記RTP受信手段91で正しく受信できたデータのみを記録媒体96にMP4ファイル記録する。
【0036】
【発明が解決しようとする課題】
しかしながら、上述した可変フレームレートの符号化データは、固定フレームレートの符号化データに比べて、映像信号の圧縮に応じた符号化が可能であるという長所がある一方、フレームレートに自由度があるため、その符号化データをMP4ファイルに変換する際に、MP4ファイルのフレーム間隔を記録するSample-To-TimeStamp Atomのテーブルサイズが符号化データに左右されるものとなり、そのテーブルサイズを見積もることができなかったり、装置に異常が発生した場合にデータの復元が困難であったり、また、符号化データをMP4ファイル記録した後、そのMP4ファイルからデータを復号する際のデータ処理量が大きくなる、という問題がある。
【0037】
具体的に説明すると、例えば、図11に示す、従来のデータ符号化装置において、可変フレームレートの符号化データを、上記MP4ファイル符号化手段85でMP4ファイルに変換する際には、上記符号化判定手段82における判定の結果によって、符号化データのフレーム間隔が変化する毎に、Sample-To-TimeStamp Atomに新しい要素を格納する必要がある。これにより、MP4ファイルにおいて、Sample Size Atom及びMovie Data Atomと同様、Sample-To-TimeStamp Atomのテーブルサイズも増えるので、固定フレームレートの符号化データをMP4ファイル記録するより、記録媒体86の容量がさらに必要になる。このSample-To-TimeStamp Atomのテーブルサイズが大きくなることは、固定フレームレートの符号化データをMP4ファイルに変換した場合のMP4ファイルの構成図(図12)と、可変フレームレートの符号化データのMP4ファイルの構成図(図15)とを比較すれば明らかである。つまり、図15のように、符号化データが固定フレームレートの場合は、フレーム間隔が常にdur=1であるため、Sample-To-TimeStamp Atomのテーブルの要素は1つであり、そのテーブルのサイズは変化しない。
【0038】
また、可変フレームレートの符号化データをMP4ファイルに変換する場合、上記Sample-To-TimeStamp Atomの作成方法は、Sample Size Atom及びMovie Data Atomの作成方法と異なり、入力されたフレームを符号化判定手段82において判定した結果に応じてそのテーブルを増やしていくものであるので、上記符号化データのMP4ファイル記録開始時に、最終的なテーブルサイズを見積もることが不可能である。
【0039】
また、上記従来のデータ符号化装置では、上記MP4ファイル符号化手段85で、可変フレームレートの符号化データをMP4ファイルに変換する際に、上記Sample Size Atom及びMovie Data Atom を作成する場合は、1フレームの符号化データ単位でmdat atom一時記憶手段46、stsz atom一時記憶手段47に逐次書き込みながら処理していくため、データ符号化装置に異常が発生した場合でも、データ復元が可能であるが、Sample-To-TimeStamp Atomを作成する場合は、フレームレートが変化した時点でそのテーブルの要素が決定されるものであるため、データ符号化装置に異常が発生した場合、Sample-To-TimeStamp Atomのテーブルのデータを完全に復元することができない。
【0040】
また、上記MP4ファイルのSample-To-TimeStamp Atomのテーブルサイズが大きくなると、記録媒体86に記録されたデータを再生する際に、その処理量が大きくなることについて、以下に説明する。
【0041】
まず、Sample-To-TimeStamp Atomを解釈して、MP4タイムスタンプからサンプル番号の算出、あるいはサンプル番号からMP4タイムスタンプを算出する処理が行われる。
ここで、図16を用いて、Sample-To-TimeStamp Atomから、与えられたMP4タイムスタンプ(T)に対応するサンプル番号Nを求める処理について説明する。
図16は、Sample-To-TimeStamp Atomを用いて、与えられたMP4タイムスタンプに対応するサンプルを探し出す処理の一連の流れを示すフローチャート図である。
【0042】
まず、MP4タイムスタンプTをセットし(ステップS21)、区間番号index、該区間番号indexの指す区間の最初のフレームのMP4タイムスタンプT0、及び該区間番号indexの指す区間までに含まれるフレーム数N0の値を初期化する(ステップS22)。そして、今現在indexが指す区間に含まれるフレーム数numと、そのフレーム間隔durとを、Sample-To-TimeStamp Atomから取得し(ステップS23)、さらに、今現在indexが指す区間の終了時刻Teを計算する(ステップS24)。なお、今現在indexが指す区間の終了時刻Teは、T0+num*durにより得られる。
【0043】
そして、以上のようにして得た、今現在indexが指す区間の終了時刻Teと、MP4タイムスタンプTとを比較し、MP4タイムスタンプTが、その区間に含まれているか否かを判定する(ステップS25)。
【0044】
ステップS25において、T<Teである場合は、MP4タイムスタンプTが、今現在indexが指す区間に含まれていると判定し、そのMP4タイムスタンプTのサンプル番号を決定する(ステップS27)。このサンプル番号の決定は、今現在indexが指す区間までの時間が、該区間番号indexの指す区間の最初のフレームのMP4タイムスタンプT0であるので、MP4タイムスタンプTが示すフレームまでの時間はT−T0であり、またこの区間のフレーム間隔durであることより、そのMP4タイムスタンプTが示すサンプルのフレームは、当該区間の先頭から{(T−T0)/dur}番目のフレームとなる。よって、フレームのサンプル番号Nは、N0+(T−T0)/durとなる。
【0045】
一方、ステップS25において、T>Teであった場合には、その今現在indexが指す区間には、MP4タイムスタンプTが含まれていないと判定され、Sample-To-TimeStamp Atomのテーブルの次の要素へと移動する(ステップS26)。つまり、次の区間の開始時間T0として、ステップS24で求めた区間の終了時間Teをセットし、次の区間までの要素数N0として、当該区間までの要素数N0と、当該区間のフレーム数numとの和をセットし、区間番号indexを1増加させる。そしてその後、再びステップS23に戻り、ステップS25において、T<Teになるまで、上述した処理を繰り返すものである。なお、ステップS26において、indexが要素数以上になった場合は、MP4タイムスタンプTが示すフレームが見つからなかったことを意味する。
【0046】
以上のことより、Sample-To-TimeStamp Atomのテーブルの要素数が増えると、そのMP4タイムスタンプTが含まれる区間を探しだすまで、ステップS23〜ステップS26の処理を繰り返す必要があり、MP4タイムスタンプTから、該MP4タイムスタンプが示すフレームのサンプル番号Nを探し出すのにかかる手間が非常に大きくなることがわかる。また、上述した逆の処理である、サンプル番号NからMP4タイムスタンプTを求める処理についても、上述した処理と同様、Sample-To-TimeStamp Atomの要素数に比例してその処理量が増える。
【0047】
また、図17に示したRTPを用いたデータ送信では、パケット再送処理を行わないので、パケットの遅延が累積することがなく、リアルタイムの伝送に向いている反面、ネットワークの遅延や一時な切断等が生じると、パケットが消失してしまい、受信側であるデータ記録装置にパケットが届かない場合がある。そして、このようなRTPの性質上、基地局のRTP送信手段90から、RTPを用いて受信したMEPG−4データをMP4ファイルとして記録するデータ記録装置では、その送信された符号化データが消失する可能性が大きく、また、データが消失すれば、受信した符号化データのフレームレートが頻繁に変わることになるため、フレームの表示間隔を格納するSample-To-TimeStamp Atomのテーブルの増加が特に著しくなる、という問題がある。
【0048】
さらに、上記データ符号化装置、あるいはデータ記録装置が、その物理的な大きさや消費電力、あるいは記録媒体の容量に、著しく制限をうける移動体端末に搭載されるとすれば、上述したSample-To-TimeStamp Atomのデータサイズの増大や、Sample-To-TimeStamp Atomのデータの完全復元が困難であること、さらにはデータを再生する際の処理量が大きいというような問題は、さまざまな問題を引き起こす可能性がある。
【0049】
本発明は、以上の課題に鑑みてなされたものであり、可変フレームレートのMPEG−4の符号化データをMP4ファイルに変換して記録する際に、可変フレームレートを固定フレームレートに変換するデータ変換装置、データ符号化装置、及びデータ記録装置を提供することを目的とする。
【0050】
【課題を解決するための手段】
本発明(請求項1)にかかるデータ変換装置は、符号化データを格納するデータテーブルと上記符号化データの異なるタイムスタンプ間隔を格納するタイムテーブルと上記符号化データのデータサイズを格納するサイズテーブルとを有するファイルに格納するためのデータを変換するデータ変換装置であって、可変フレームレートで入力された映像信号データの符号化データ及び該符号化データのデータサイズを一時格納する一時記憶手段と、上記一時記憶手段に格納された上記符号化データから、該符号化データの時間情報である入力タイムスタンプを読み取るタイムスタンプ読み取り手段と、上記符号化データの入力タイムスタンプと、外部より初期情報として入力されたタイムスタンプ間隔に基づき決定された固定フレームレートの出力タイムスタンプとを比較する判断手段と、データサイズが0であることを意味する符号化データを作成し、該データサイズが0であることを意味する符号化データに、上記入力タイムスタンプとして任意の値を付す挿入手段と、上記符号化データ、データサイズ、及びタイムスタンプに基づいて、上記データテーブル、タイムテーブル、及びサイズテーブルを作成するテーブル作成手段とを備え、上記判断手段により上記入力タイムスタンプが上記出力タイムスタンプ以下であると判断された場合には、上記一時記憶手段に格納されている上記符号化データと該符号化データのデータサイズが上記テーブル作成手段に出力されるとともに、上記判断手段が上記出力タイムスタンプを上記テーブル作成手段に出力し、上記判断手段により上記入力タイムスタンプが上記出力タイムスタンプよりも大きいと判断された場合には、上記挿入手段が、データサイズが0であることを意味する符号化データと、該符号化データのデータサイズ及びタイムスタンプとを出力し、上記テーブル作成手段は、上記一時記憶手段と上記挿入手段から出力された上記符号化データを連続して格納したデータテーブルを作成し、上記一時記憶手段と上記挿入手段から出力された上記データサイズを連続して格納したサイズテーブルを作成し、上記判断手段から出力された上記出力タイムスタンプと上記挿入手段から出力された上記タイムスタンプとに基づいてタイムスタンプ間隔を示すタイムテーブルを作成し、作成した上記データテーブル、サイズテーブル、及びタイムテーブルを出力することを特徴とするものである。
【0066】
【発明の実施の形態】
以下、本発明の実施の形態について説明する。本発明は、入力されたデータを、MP4ファイルに記録する際に、固定フレームレートで記録するものであり、上記入力されるデータが、実施の形態1においては、可変フレームレートのMPEG−4ビデオ符号化データ、実施の形態2においては、符号化されていない映像データ、実施の形態3においては、伝送プロトコルRTPにおいて受信したRTPデータである、3種類の異なるデータの場合を例に挙げて説明する。
【0067】
(実施の形態1)
以下、図1〜図7を用いて、本実施の形態1における、データ変換装置について説明する。
本実施の形態1のデータ変換装置は、可変フレームレートのMPEG−4ビデオの符号化データを、固定フレームレートの符号化データに変換するものである。
【0068】
まず、図1を用いて、本実施の形態1におけるデータ変換装置100の構成について説明する。
図1は、本実施の形態1における、データ変換装置の構成を示す図である。
図において、データ変換装置100は、符号化データ一時記憶手段101と、符号化データタイムスタンプ読み取り手段102と、タイムスタンプ変換手段103と、固定化FPS手段104と、からなるものである。
【0069】
符号化データ一時記憶手段101は、本データ変換装置100に入力される符号化データを記憶するものであり、符号化データタイムスタンプ読み取り手段102は、上記符号化データ一時記憶手段101に記憶された符号化データから符号化データタイムスタンプを取得するものである。
【0070】
ここで、符号化データからの符号化データタイムスタンプの取得は、最初の符号化データ、あるいは何フレームかおきに符号化データの前に付与されるVOLヘッダから、符号化データタイムスタンプのスケール(vop-time-increment-resolution)を取得し、さらに、各符号化データのVOPヘッダから、符号化データタイムスタンプの増加分(modulo-time-base,vop-time-increment)を取得して、適切な計算を行うことにより求めるものである。
【0071】
また、タイムスタンプ変換手段103は、該符号化データタイムスタンプ読み取り手段102により読み取られた符号化データタイムスタンプを、本発明の実施の形態間で共通の表現形式のMP4タイムスタンプに変換するものであり、ここでいう、本発明の実施の形態間で共通の表現形式のMP4タイムスタンプとは、0から開始する形式で、MP4ファイルのSample-To-TimeStamp Atomに記録するタイムスタンプである。
また、固定FPS化手段104は、可変フレームレートの符号化データを固定フレームレートの符号化データに変換するものである。
【0072】
ここで、図2及び図3を用いて、上記固定FPS化手段104の構成について詳細に説明する。図2は、固定FPS化手段の構成を示す図であり、図3は、非更新フレーム挿入手段(図3(a))、サイズ0フレーム挿入手段(図3(b))、符号化データタイムスタンプ連続化手段(図3(c))の構成を示す図である。
【0073】
図2及び図3において、上記固定FPS化手段104は、非更新フレーム挿入手段201と、サイズ0フレーム挿入手段202と、符号化データタイムスタンプ連続化手段203とからなるものであり、可変フレームレートにおいて、従来では入力符号化データがスキップされていたタイムスタンプ、例えば、図12に示される可変フレームレートの符号化データの、スキップされてデータがないMP4タイムスタンプ1,3,5…、のところに、架空のフレームを挿入することによって、固定フレームレートの符号化データとするものである。
【0074】
上記固定FPS化手段104内の、非更新フレーム挿入手段201は、スイッチ314の切り替え信号を出力する処理手段311と、非更新フレームを生成する非更新フレーム生成手段312と、上記符号化データ一時記憶手段101に保持されていたデータを記憶する一時記憶手段313と、上記非更新フレーム生成手段312か、上記一時記憶手段313かを選択するスイッチ314とからなり、上述した架空のフレームとして、非更新を意味する特別なサンプルである非更新フレームを挿入するものである。ここで、非更新フレームとは、前フレームとの映像信号の差分情報を含まない符号化データであり、例えば、VOPヘッダ内のvop_codedを0にしたフレームのことである。そして、非更新フレームは、映像信号の差分情報を含まないもの(例えば、vop_coded=0)であるので、そのデータ量は、数十バイトであり、通常の符号化フレームのデータ量と比べて少ないものである。また、上記非更新フレームにも、通常のフレームと同じく符号化データタイムスタンプのフィールドがあり、上記非更新フレーム挿入手段201では、このフィールドに任意の値がつけられるものとする。なお、この非更新フレームにおいて、形状符号化の有無、透明度チャンネルの有無により、vop_coded=0が非更新を意味しない場合があるが、この場合は、全マクロブロックをMB_not_codedの状態にしたフレームを出力するものとする。
【0075】
また、上記固定FPS化手段104内の、サイズ0フレーム挿入手段202は、スイッチ324の切り替え信号を出力する処理手段321と、サイズ0のフレームを生成するサイズ0フレーム生成手段322と、上記符号化データ一時記憶手段101で保持されていた符号化データを記憶する一時記憶手段323と、上記サイズ0フレーム生成手段322か、上記一時記憶手段323かを選択するスイッチ324とからなり、上述した架空のフレームとして、サイズが0のサンプルであるサイズ0フレームを挿入するものである。ここで、サイズ0フレームとは、データサイズが0で、符号化データには意味のある値を持たないフレームのことをいう。
【0076】
そして、上記固定FPS化手段104内の、符号化データタイムスタンプ連続化手段203は、非更新フレーム挿入手段201、サイズ0フレーム挿入手段202から出力される符号化データの符号化データタイムスタンプを、上記非更新フレームあるいはサイズ0フレームのMP4タイムスタンプより、符号化データの規格に従って正しい符号化データタイムスタンプに変換して、上書きする符号化データタイムスタンプ書き換え手段331と、上記各手段201,202から出力される符号化データと符号化データ量とを記憶する一時記憶手段332とからなるものである。
【0077】
通常、記録媒体120に記録されたMP4ファイルを復号する場合、MP4タイムスタンプのみを参照して復号されるため、そのフレームの符号化データタイムスタンプの値がどのような値であっても問題はないが、MP4ファイルから符号化データのみのファイル等を作成する場合には、符号化データがもつ符号化データタイムスタンプが正しくなければ、ファイルを作成することができないため、符号化データタイムスタンプを正しく付けなおさなければならない。上記符号化データタイムスタンプ連続化手段203は、上記MP4ファイルから上述したようなファイルを作成することを想定して、予め、フレームに付けられた符号化データタイムスタンプを、正しい符号化データタイムスタンプに付けなおす処理を行うものである。
【0078】
なお、MP4ファイル符号化手段110、及び記録媒体120については、従来におけるデータ符号化装置において説明したものと同様の構成を有するものであるため、ここでは説明を省略する。
【0079】
以下、図4〜図7を用いて、上述した構成を有する、本実施の形態1におけるデータ変換装置100の一連の処理動作について説明する。なお、説明を簡略化するため、本実施の形態1においては、本装置に入力される符号化データが、I−VOP、またはP−VOPのみであるとする。
図4は、本実施の形態1における、非更新フレーム挿入手段、あるいはサイズ0フレーム挿入手段の一連の動作を示すフローチャートである。
【0080】
まず、本データ変換装置100における処理が開始されると、符号化データ一時記憶手段101に、符号化データが保持される。そして、符号化データタイムスタンプ読み取り手段102より、上記符号化データ一時記憶手段101に記憶された符号化データより、符号化データタイムスタンプを取得する。この符号化データタイムスタンプの取得は、上述したように、最初の符号化データ、あるいは何フレームかおきに符号化データの前に付与されるVOLヘッダから、符号化データタイムスタンプのスケール(vop-time-increment-resolution)を取得し、さらに、各符号化データのVOPヘッダから、符号化データタイムスタンプの増加分(modulo-time-base,vop-time-increment)を取得して、適切な計算を行うことにより求める。
そして、タイムスタンプ変換手段103より、上記符号化データをMP4タイムスタンプに変換し、固定FPS化手段104に符号化データ一時記憶手段101に記憶された符号化データ、及びそのデータサイズと共に出力する。
【0081】
上記符号化データ、データサイズ、MP4タイムスタンプを取得した固定FPS化手段104は、図4に示すフローチャートに従って、その可変フレームレートの符号化データを、固定フレームレートの符号化データに変換していく。
まず、入力された符号化データ、符号化データ量、及び入力フレームのMP4タイムスタンプITSは、固定FPS化手段104内の、非更新フレーム挿入手段201か、サイズ0フレーム挿入手段202かのどちらかに入力される。
【0082】
まず、上記非更新フレーム挿入手段201に、上記符号化データ、符号化データ量、及びMP4タイムスタンプが入力された場合について説明する。
本データ変換装置100において処理が開始されると、上記非更新フレーム挿入手段201の処理手段311は、保持している出力フレームのMP4タイムスタンプOTSの値を初期化し、外部から初期条件として入力される、要求タイムスタンプ間隔DTSを取得する(ステップS41)。そして、上記符号化データ一時記憶手段101から符号化データ、及び符号化データ量、そして、上記タイムスタンプ変換手段103からMP4タイムスタンプが入力されると、上記符号化データ及びデータサイズは、一時記憶手段313に記憶され、上記MP4タイムスタンプは、入力フレームのMP4タイムスタンプITSとして処理手段311に入力される(ステップS42)。
そして、処理手段311において、ステップS42で取得した入力フレームのMP4タイムスタンプITSと、処理手段311に保持されている出力フレームのMP4タイムスタンプOTSとを比較する(ステップS43)。
【0083】
ステップS43において、ITS≦OTSである場合は、処理手段311から一時記憶手段313を選択するよう、切り替え信号が出力され、上記一時記憶手段313に記憶されている符号化データと、その符号化データのMP4タイムスタンプITSを処理手段331に保持されている出力フレームのMP4タイムスタンプOTSに書き換えて出力する(ステップS44)。そして、その後、処理手段311において保持されている出力フレームのMP4タイムスタンプに、要求タイムスタンプ間隔DTSを加算し、次の出力フレームのMP4タイムスタンプOTSとする。
【0084】
一方、ステップS43において、ITS≧OTSである場合は、処理手段311より非更新フレーム生成手段312を選択するよう、切り替え信号が出力され、上記非更新フレーム生成手段312において作成された非更新フレームと、処理手段331に保持されている出力フレームのMP4タイムスタンプOTSとを出力する。そして、その後、上述と同様、処理手段311において保持されている出力フレームのMP4タイムスタンプに、要求タイムスタンプ間隔DTSを加算し、次の出力フレームのMP4タイムスタンプOTSとする。
【0085】
以上の処理の後、上記非更新フレーム挿入手段201から出力された符号化データは、最終的に記録媒体120にMP4ファイル記録されるのであるが、上記記録媒体120に記録された後に、そのMP4ファイルから符号化データのみを取り出し符号化データ単独の独自ファイルを作成する等の上記MP4ファイルの利用方法をする場合は、MP4ファイルに記録された符号化データすべてが正しい符号化データタイムスタンプが必要であるため、符号化データタイムスタンプ連続化手段203を選択し、上記符号化データタイムスタンプ書き換え手段331において、入力される符号化データが有する符号化データタイムスタンプを、そのMP4タイムスタンプを用いて正しい符号化データタイムスタンプに変換し、一時記憶手段332に記憶されている符号化データ内の符号化データタイムスタンプを保持するフィールドに、上記符号化データタイムスタンプ書き換え手段331より作成された正しい符号化データタイムスタンプを上書きする処理を行う。なお、上述したような符号化データタイムスタンプを正しい値にする処理が必要ない場合には、符号化データタイムスタンプ連続化手段203を選択することなく、非更新フレーム挿入手段201から出力される符号化データ、符号化データ量、及びMP4タイムスタンプを出力すればよい。
【0086】
そして、上記固定FPS化手段104より出力された上記符号化データ、符号化データ量、及びMP4タイムスタンプは、上記MP4ファイル符号化手段110に出力され、該MP4ファイル符号化手段110において、従来と同様の処理を行うことにより、符号化データをMP4ファイルに変換し、記録媒体120にMP4ファイル記録する。
【0087】
ここで、図5、及び図12を用いて、非更新フレーム挿入手段201を経由することによって得られる、符号化データ、及びMP4ファイルの構成について説明する。
図5は、非更新フレーム挿入手段を経由し、MP4ファイル記録した際の、符号化データ(図(a))、及びMP4ファイルのデータ構造(図(b))を示す図である。
【0088】
図5に示すように、上記データ変換装置100により、固定フレームレートに変換された符号化データは、図12に示す従来の可変フレームレートの場合と比べて、タイムスタンプの時間間隔が一定となるため、Sample-To-TimeStamp Atomの要素が一つになることがわかる。しかし、非更新フレームとして、従来ではスキップされていたMP4タイムスタンプのところに、非更新のフレームを追加しているため、Movie data Atom と Sample Size Atom が大きくなる。
【0089】
また、上述したように、Sample-To-TimeStamp Atom の要素が常に一つになることより、MPタイムスタンプからフレーム番号の算出、あるいはフレーム番号からMPタイムスタンプの算出が簡単になる。
【0090】
例えば、MP4タイムスタンプをT、フレーム番号をN、フレーム間隔durをdとすれば、T=d*Nの関係が成り立つので、MP4タイムスタンプからフレーム番号の算出は、N=T/dであり、また、フレーム番号からMP4タイムスタンプの算出導出は T=d*Nであるため、一回の除算あるいは乗算のみで算出可能となる。
【0091】
なお、上記固定FPS化手段104において、上記各手段201,202から出力された符号化データ、データサイズMP4タイムスタンプが、上記符号化データタイムスタンプ連続化手段203を経由してもしなくても、MP4ファイルのデータ構造に影響を与えず同じとなる。なぜなら、MP4ファイルのMP4タイムスタンプは、符号化データとは無関係に決定されているものであるからであり、規格上問題はない。
【0092】
次に、上記サイズ0フレーム挿入手段202に、上記符号化データ、符号化データ量、及びMP4タイムスタンプが入力された場合について説明する。
この場合も、上述した非更新フレーム挿入手段201と同様、図4のフローチャートに従って処理される。上記非更新フレーム挿入手段201と異なるところは、上記非更新フレーム挿入手段201においては、非更新フレームを挿入していたところに、サイズが0であるフレームを挿入するようにするものである。
【0093】
ここで、図6、及び図12を用いて、サイズ0フレーム挿入手段202を経由することによって得られる、符号化データ、及びMP4ファイルの構成について説明する。
図6は、サイズ0フレーム挿入手段を経由し、MP4ファイル記録した際の、符号化データ(図(a))、及びMP4ファイルのデータ構造(図(b))を示す図である。
【0094】
図6に示すように、上記データ変換装置100により、固定フレームレートに変換された符号化データは、図12に示す従来の可変フレームレートの符号化データと比べて、Sample-To-TimeStamp Atom の要素が一つなっている。また、上記非更新フレーム挿入手段201とは異なり、サイズが0であるフレームを挿入して、符号化データは追加していないので、上記Movie Data Atom のテーブルサイズは、従来の可変フレームレートの符号化データと変らない。しかし、上記Sample Size Atom のテーブルサイズについては、上記非更新フレーム挿入手段201と同じく、サイズが0であることを示すものを追加することとなるので、図12に示す、従来の可変フレームレートの場合よりは大きくなる。
【0095】
また、上記非更新フレーム挿入手段201と同様、Sample-To-TimeStamp Atomの要素が常に一つになるため、MPタイムスタンプからフレーム番号の算出、あるいはフレーム番号からMPタイムスタンプの算出が簡単になる。
なお、上記非更新フレーム挿入手段201の場合と同様、上記固定FPS化手段104における上記符号化データタイムスタンプ連続化手段203の経由の有無は、MP4ファイルのデータ構造に影響を与えない。
【0096】
上述の説明より明らかなように、上記符号化データ、符号化データ量、及びMP4タイムスタンプが、上記非更新フレームレート挿入手段201、あるいは上記サイズ0フレーム挿入手段202のどちらに入力されても、可変フレームレートの符号化データを固定フレームレートの符号化データに変換するという同じ効果が得られる。しかし、サイズ0フレーム挿入手段202に入力された場合、サイズ0フレームが挿入されることになるので、復号化装置によっては復号できない可能性がある。従って、データの可搬性を重視する場合には、非更新フレームレート挿入手段201に入力するようにすればよい。
【0097】
以上のように、本実施の形態1によれば、入力される可変フレームレートのMPEG−4符号化データを、記録媒体120にMP4ファイル記録する際に、上記可変フレームレートの符号化データを、上記固定FPS化手段104を経由させることによって、従来ではスキップされていたMP4タイムスタンプのところに、非更新フレーム、あるいはサイズ0フレームを挿入し、固定フレームレートの符号化データにデータ変換した後、MP4ファイル符号化手段110によりMP4ファイル変換し、上記記録媒体120にMP4ファイル記録するようにしたので、Sample-To-TimeStamp Atomを、固定フレームレートの場合のように1つにすることができ、その結果、Sample-To-TimeStamp Atomのテーブルサイズが符号化データによって左右されなくなるため、本データ変換装置100に異常が発生した場合でも、MP4ファイルのデータを完全に復元することができる。
【0098】
また、上記Sample-To-TimeStamp Atomのテーブルサイズが一定であるので、記録媒体120にMP4ファイル記録されたデータを再生する際の処理をへらすことができる。
さらに、本実施の形態1におけるデータ変換装置100を、その物理的な大きさや消費電力、あるいは記録媒体の容量が著しく制限を受ける移動体端末に搭載し、移動体端末内の記録媒体にMP4ファイル記録するようにしたとしても、Sample-To-TimeStamp Atomのテーブルの要素が1つに固定されるので、上記移動体端末内の記録媒体の容量が足りなくなる等によって引き起こされるさまざまな問題が生じなくなる。
【0099】
なお、本実施の形態1の説明では、図4のステップS43における、入力された符号化データを出力するか、非更新フレームあるいはサイズ0フレームを挿入するかを判定する判定条件を、ITS≦OTSとしたが、通常、データ符号化装置に入力される符号化データに付与される入力タイムスタンプITSは、要求タイムスタンプ間隔DTSの倍数に正確に一致せず、前後にゆらぐ、つまり、ITS=n*OTS±α(n:整数)となる。ここで、αはゆらぎの成分を示すものである。
【0100】
このゆらぎの発生原因は、NTSC方式のTV信号のフレーム間隔が、1001/30000=0.033366666…秒(29.970029…Hz)であり、これが割り切れない数であるため、符号化データを作成する際に、各機器の都合で丸め処理が行われるためである。そして、この丸め処理の方法(四捨五入、切り捨て、切り上げ)、及びそのフレーム間隔の桁数は、各機器に依存するものであり、MP4記録する際には、その情報を知ることはできない。
【0101】
以下、図7を用いて、上述した理由により、ゆらぎが発生した場合について説明する。図7は、入力フレームに付与されるタイムスタンプITSが若干前後にゆらぐ状態を示す図であり、図(a)は、判定条件がITS≦OTSの場合であり、図(b)は、ITS≦OTS+DTS/2の場合である。なお、ここでは、要求タイムスタンプ間隔DTS=100とする。
【0102】
図7(a)に示すように、判定条件がITS≦OTSである場合、(n−1)番目のフレームのように、ITSがOTSより小さいほうにゆらげば、この(n−1)番目のフレームは正しいOTS(=800)のフレームとして判断され、問題ないのであるが、n番目のフレームのように、ITSがOTSよりわずかでも大きいほうにゆらげば、このn番目のフレームは、正しいOTS(=900)のフレームとしてではなく、次のOTS(=1000)のフレームとして判断されてしまう。
【0103】
このような場合、図4のステップS43の判定条件を、ITS≦OTS+DTS/2とすれば、図7(b)に示すように、n番目のフレームが、正しいOTS(=900)のフレームとして判断され、上述したような理由により発生するゆらぎを、データ変換して記録媒体120にMP4記録する前に解消することができる。なお、ここでは、判定条件の一例して、OTSにDTS/2を加算したものと比較するようにしたが、DTS/2以外の、一定の値を加算するようにしてもよい。
【0104】
(実施の形態2)
以下、図8を用いて、本実施の形態2における、データ符号化装置について説明する。
上記実施の形態1においては、可変フレームレートのMPEG−4ビデオの符号化データを、固定フレームレートの符号化データに変換するデータ変換装置について説明したが、本実施の形態2においては、カメラ等から符号化されていない映像信号が入力され、該映像信号を固定フレームレートの符号化データに符号化した後、MP4ファイル記録するデータ符号化装置について説明する。
【0105】
まず、図8用いて、本実施の形態2における、データ符号化装置200の構成について説明する。
図8は、本実施の形態2における、データ符号化装置の構成を示す図である。図8において、データ符号化装置200は、図11に示す従来のデータ符号化装置に、非更新フレーム作成手段84を備えたものであり、上述した符号化判定手段82は、取り込まれたフレームを、符号化するか否かを判定して、その判定結果に基づいて、符号化手段83か、非更新フレーム作成手段84かを選択するスイッチ選択信号を出力するものとする。なお、その他の構成は、従来のデータ符号化装置と同様であるため、ここでは説明を省略する。
【0106】
上記非更新フレーム作成手段84は、上記実施の形態1で説明した非更新フレームを作成し、MP4タイムスタンプを挿入するものである。なお、非更新フレームの符号化データタイムスタンプは、実施の形態1と同様、この非更新フレーム作成手段84においては、任意の値をつけるものとする。
【0107】
以下、本実施の形態2における、データ符号化装置200の処理動作について説明する。
まず、データ符号化装置200は、カメラから入力される映像を、映像取り込み手段81にてフレームに変換し、該フレームを映像の取り込み開始時から、カメラのフレームレートで増加していくフレーム番号とともに、符号化判定手段82に出力する。
【0108】
そして、符号化判定手段82では、上記フレーム番号と、予め与えられているカメラのフレーム情報とから、入力されたフレームのMP4タイムスタンプを計算し、該タイムスタンプと、これまでに符号化したデータ量の合計と、出力のビットレートとから、その入力されたフレームを符号化するか否かの判定を行う。ここまでは、従来と同様である。
【0109】
上記符号化判定手段82において、その入力されたフレームを符号化すると判定された場合、該符号化判定手段82は、符号化手段83を選択するスイッチ選択信号を出力し、カメラより入力されたフレームと、該フレームのタイムスタンプとを、符号化手段83へ出力する。
そして、符号化手段83において、上記フレームの符号化処理が行われた後、符号化データ、符号化データ量、及びMP4タイムスタンプが、MP4ファイル符号化手段110に出力される。
【0110】
一方、上記符号化判定手段82において、そのフレームを符号化しないと判定された場合、該符号化判定手段82は、非更新フレーム作成手段84を選択するスイッチ選択信号を出力し、非更新フレーム作成手段84において、非更新フレームを作成し、その非更新フレームのMP4タイムスタンプを挿入して、上記非更新フレーム、非更新フレームのサイズ、及びMP4タイムスタンプが、上記MP4ファイル符号化手段110に出力される。なお、上記非更新フレームは、実施の形態1で説明したものと同様である。
【0111】
この後、上記MP4ファイル符号化手段110において、上記符号化手段83、あるいは非更新フレーム作成手段84から出力される、符号化データ、あるいは非更新フレームがMP4ファイルに変換され、記録媒体120にMP4ファイル記録される(図5参照)。
【0112】
また、以上の説明においては、上記符号化判定手段82の判定に応じて、従来ではデータがスキップしていたMP4タイムスタンプのところに、非更新フレーム作成手段84によって、非更新フレームを挿入するようにしたが、上記非更新フレーム作成手段84のかわりに、サイズが0であるサイズ0フレーム作成し、MP4タイムスタンプを挿入するサイズ0フレーム作成手段を備えるようにしてもよい(図示せず)。この場合、符号化判定手段82の判定に応じて、従来ではデータがスキップしていたMP4タイムスタンプのところに、サイズ0フレームを挿入されることとなり、上記非更新フレームレート作成手段84の場合と同様の効果が得られる(図6参照)。ただし、上記サイズ0フレーム作成手段により、サイズ0フレームを挿入した符号化データをMP4ファイルに変換して、記録媒体120に記録した場合、上記非更新フレーム作成手段84により得られるMP4ファイルのサイズより小さくなるという長所があるが、該MP4ファイルを復号する際に、復号化装置によっては復号できない可能性がある。従って、データの可搬性を重視する場合には、上述した非更新フレーム作成手段84を備えるようにする。
【0113】
なお、上記記録媒体120に記録された上記MP4ファイルから、符号化データのみのファイル等を作成する場合は、符号化データの符号化データタイムスタンプが正しくなければファイルを作成することができないので、MP4ファイルから、このようなファイル等の作成が想定される際には、上記符号化手段83あるいは非更新フレーム作成手段84(または、サイズ0フレーム作成手段)と、MP4ファイル符号化手段110との間に、上記実施の形態1で説明した、上記符合化データタイムスタンプ連続化手段203をさらに備えるようにし、上記符号化手段83あるいは非更新フレーム作成手段84から出力される符号化データの符号化タイムスタンプを、MP4タイムスタンプを用いて正しい符号化データタイムスタンプに変換して上書きする処理を行うようにするとよい。
【0114】
以上のように、本実施の形態2によれば、カメラから入力される映像信号を符号化する際に、符号化判定手段82の判定により、符号化すると判定された場合には、入力された映像信号を符号化手段83において符号化し、符号化しないと判定されて、従来ではスキップされていたところには、非更新フレーム作成手段84、あるいはサイズ0フレーム作成手段(図示せず)により非更新フレームあるいは、サイズ0フレームを作成して挿入するようにしたので、該データをMP4ファイル符号化手段110によりMP4ファイルに変換して、記録媒体120にMP4ファイル記録する際、Sample-To-TimeStamp Atomを、固定フレームレートの場合のように1つにすることができ、その結果、Sample-To-TimeStamp Atomのテーブルサイズが符号化データによって左右されなくなるため、本データ符号化装置200に異常が発生した場合でも、MP4ファイルのデータを完全に復元することができる。
【0115】
また、上記Sample-To-TimeStamp Atomのテーブルサイズが一定であるので、記録媒体120にMP4ファイル記録されたデータを再生する際の処理をへらすことができる。
さらに、本実施の形態2におけるデータ符号化装置200を、その物理的な大きさや消費電力、記録媒体の容量が著しく制限を受ける移動体端末に搭載したとしても、Sample-To-TimeStamp Atomのテーブルの要素が1つに固定されるので、記録媒体120の容量が足りなくなる等によって引き起こされるさまざまな問題が生じなくなる。
【0116】
(実施の形態3)
以下、図9を用いて、本実施の形態3における、データ記録装置について説明する。
上記実施の形態1においては、可変フレームレートのMPEG−4ビデオの符号化データを、固定フレームレートの符号化データに変換するデータ変換装置について説明したが、本実施の形態3においては、送信局から、RTP(リアルタイム・トランスポート・プロトコル)を用いて送信されるMPEG−4データを受信して復号して、記録媒体にMP4ファイル記録する、データ記録装置について説明する。
【0117】
まず、図9を用いて、本実施の形態3におけるデータ記録装置300の構成について説明する。
図9は、本実施の形態3における、データ記録装置300の構成を示す図である。
図9において、データ記録装置300は、図17に示す従来のデータ記録装置に、RTPタイムスタンプ変換手段94と、固定FPS化手段104とを備えるものであり、RTPタイムスタンプ変換手段94は、上記RTP復号化手段83において取得されたRTPパケットのタイムスタンプであるRTPタイムスタンプを、本発明の実施の形態間で共通の表現形式のMP4タイムスタンプに変換するものである。ここでいう、本発明の実施の形態間で共通の表現形式のMP4タイムスタンプとは、0から開始する形式で、MP4ファイルのSample-To-TimeStamp Atomに記録するタイムスタンプである。
【0118】
上記RTPタイムスタンプ変換手段94における、RTPタイムスタンプからMP4タイムスタンプへの変換は、従来のデータ記録装置で説明したように、RTPタイムスタンプは、ランダムなオフセットが加えられているため、このオフセットを全RTPパケットのRTPタイムスタンプから減算し、先頭の符号化データのタイムスタンプが0から開始するようにし、さらに、上記RTPタイムスタンプのスケールを本発明共通のMP4タイムスタンプのスケールになるように、乗除算をすることにより行うものである。
【0119】
なお、上記固定FPS化手段104は、上記実施の形態1において、図2及び図3を用いて説明したものと同様の構成を有するものであり、また、本データ記録装置のその他の構成は、従来のデータ記録装置と同様の構成を有するものであるため、ここでは説明を省略する。
【0120】
以下、上述した構成を有する、本実施の形態3におけるデータ記録装置300の一連の処理動作について説明する。なお、本実施の形態3においては、データ記録装置300が移動端末であるものとして説明するが、このデータ記録装置300は、移動端末にかぎらず、送信局よりRTPを用いてデータを受信して、MP4記録するものであればよい。
【0121】
まず、基地局のRTP送信手段90から、MPEG−4の符号化データをビデオパケット単位に分割し、その各ビデオパケットが格納されたRTPパケットを、データ記録装置のRTP受信手段91が受信する。
そして、上記RTP受信手段91において受信したRTPパケットは、適当な数分がRTP受信バッファ92に一時的に格納される。
【0122】
この上記RTP受信バッファ92では、上記RTPパケットが、伝送中に順番がいれかわる現象を並び替えにより解消したり、1フレーム分の符号化データが複数のRTPパケットに分割されて伝送される場合に、1フレーム分以上のパケットが蓄積されるまで保持したりする。
そして、上記RTP受信バッファ92から取り出されたRTPパケットは、RTP復号手段93においてMPEG−4データに復号され、その符号化データ及び符号化データ量は、固定FPS化手段104に出力されると共に、RTPパケットよりRTPタイムスタンプが取得され、該取得されたRTPタイムスタンプは、RTPタイムスタンプ変換手段94に出力される。
【0123】
上記RTPタイムスタンプ変換手段94に出力されたRTPタイムスタンプは、上述したようにしてMP4タイムスタンプに変換され、固定FPS化手段104に出力される。
この後の、固定FPS化手段104における処理、及びMP4ファイル符号化手段110における処理は、上記実施の形態1で説明したのと同様であるため、ここでは説明を省略する。
【0124】
以上のように、本実施の形態3によれば、RTP送信手段90から、RTP(リアルタイム・トランスポート・プロトコル)を用いて送信される、RTPパケットに格納されたMPEG−4データをRTP受信手段91において受信し、該RTPパケットをRTP復号化手段93において、MPEG−4データに復号すると共に、RTPタイムスタンプを取得し、RTPタイムスタンプ変換手段94において、RTPタイムスタンプをMP4タイムスタンプに変換し、上記固定FPS化手段104は、上記RTP復号化手段93から符号化データ及び符号化データ量を、そして上記RTPタイムスタンプ変換手段94からMP4タイムスタンプを取得し、従来ではスキップされていたMP4タイムスタンプのところに、非更新フレーム、あるいはサイズ0フレームを挿入して、固定フレームレートの符号化データにデータ変換した後、MP4ファイル符号化手段110によりMP4ファイル変換し、上記記録媒体120にMP4ファイル記録するようにしたので、Sample-To-TimeStamp Atomを、固定フレームレートの場合のように1つにすることができ、その結果、Sample-To-TimeStamp Atomのテーブルサイズが符号化データによって左右されなくなるため、本データ記録装置300に異常が発生した場合でも、MP4ファイルのデータを完全に復元することができる。
【0125】
また、上記Sample-To-TimeStamp Atomのテーブルサイズが一定であるので、記録媒体120にMP4ファイル記録されたデータを再生する際の処理をへらすことができる。
さらに、本実施の形態3におけるデータ記録装置300を、その物理的な大きさや消費電力、記録媒体の容量が著しく制限を受ける移動体端末に搭載したとしても、Sample-To-TimeStamp Atomのテーブルの要素が1つに固定されるので、記録媒体120の容量が足りなくなる等によって引き起こされるさまざまな問題が生じなくなる。
【0126】
なお、本実施の形態3において、上記送信局より伝送されたRTPパケットを復号した符号化データを出力するか、非更新フレームあるいはサイズ0フレームを挿入するかを判定する判定条件を、ITS≦OTSとしたが、上記実施の形態1と同様、RTPパケットに付与される入力タイムスタンプITSは、上述した理由により、通常、要求タイムスタンプ間隔DTSの倍数に正確に一致せず、前後にゆらぐ。このような場合、上記判定条件を、上記実施の形態1で説明したように、ITS≦OTS+DTS/2とすれば、上述の理由により発生するゆらぎを、記録媒体120にMP4記録する前に解消することができる。なお、ここでは、判定条件の一例して、OTSにDTS/2を加算したものと比較するようにしたが、DTS/2以外の、一定の値を加算するようにしてもよい。
【0127】
【発明の効果】
以上のことにより、本発明の請求項1に記載のデータ変換装置によれば、符号化データを格納するデータテーブルと上記符号化データの異なるタイムスタンプ間隔を格納するタイムテーブルと上記符号化データのデータサイズを格納するサイズテーブルとを有するファイルに格納するためのデータを変換するデータ変換装置であって、可変フレームレートで入力された映像信号データの符号化データ及び該符号化データのデータサイズを一時格納する一時記憶手段と、上記一時記憶手段に格納された上記符号化データから、該符号化データの時間情報である入力タイムスタンプを読み取るタイムスタンプ読み取り手段と、上記符号化データの入力タイムスタンプと、外部より初期情報として入力されたタイムスタンプ間隔に基づき決定された固定フレームレートの出力タイムスタンプとを比較する判断手段と、データサイズが0であることを意味する符号化データを作成し、該データサイズが0であることを意味する符号化データに、上記入力タイムスタンプとして任意の値を付す挿入手段と、上記符号化データ、データサイズ、及びタイムスタンプに基づいて、上記データテーブル、タイムテーブル、及びサイズテーブルを作成するテーブル作成手段とを備え、上記判断手段により上記入力タイムスタンプが上記出力タイムスタンプ以下であると判断された場合には、上記一時記憶手段に格納されている上記符号化データと該符号化データのデータサイズが上記テーブル作成手段に出力されるとともに、上記判断手段が上記出力タイムスタンプを上記テーブル作成手段に出力し、上記判断手段により上記入力タイムスタンプが上記出力タイムスタンプよりも大きいと判断された場合には、上記挿入手段が、データサイズが0であることを意味する符号化データと、該符号化データのデータサイズ及びタイムスタンプとを出力し、上記テーブル作成手段は、上記一時記憶手段と上記挿入手段から出力された上記符号化データを連続して格納したデータテーブルを作成し、上記一時記憶手段と上記挿入手段から出力された上記データサイズを連続して格納したサイズテーブルを作成し、上記判断手段から出力された上記出力タイムスタンプと上記挿入手段から出力された上記タイムスタンプとに基づいてタイムスタンプ間隔を示すタイムテーブルを作成し、作成した上記データテーブル、サイズテーブル、及びタイムテーブルを出力するようにしたので、可変フレームレートで入力された符号化データを固定フレームレートの符号化データに変換することができ、その結果、符号化データを標準のファイルフォーマットで記録する場合に、符号化データのシーク処理が簡単になる等、符号化データの利便性向上という効果が期待できる。また、上記符号化データを標準のファイルフォーマットで記録媒体等に記録する場合に、その記録に要する容量を小さくすることができる。
【図面の簡単な説明】
【図1】 本発明の実施の形態1における、データ変換装置の構成を示す図である。
【図2】 本発明の実施の形態1におけるデータ変換装置の、固定FPS化手段の構成を示す図である。
【図3】 本発明の実施の形態1におけるデータ変換装置の、固定FPS化手段内の、非更新フレーム手段、サイズ0フレーム挿入手段、及び符号化データタイムスタンプ連続化手段の構成を示す図である。
【図4】 本発明の実施の形態1における、データ変換装置の固定FPS化手段の処理動作の一連の流れを示すフローチャート図である。
【図5】本発明の実施の形態1のデータ変換装置において、非更新フレーム挿入手段により作成された、符号化データ(図(a))、及びMP4ファイルの構成(図(b))を示す図である。
【図6】本発明の実施の形態1のデータ変換装置において、サイズ0フレーム挿入手段により作成された、符号化データ(図(a))、及びMP4ファイルの構成(図(b))を示す図である。
【図7】本発明の実施の形態1における、入力フレームのMP4タイムスタンプITSがゆらぐ状態を示す図である。
【図8】本発明の実施の形態2における、データ符号化装置の構成を示す図である。
【図9】本発明の実施の形態3における、データ記録装置の構成を示す図である。
【図10】 従来の可変フレームレートの符号化データのフレーム間隔を示す図である。
【図11】 従来のデータ符号化装置の構成を示す図である。
【図12】 従来のMP4ファイル符号化手段により作成された、可変フレームレートの符号化データ(図(a))、及びMP4ファイルの構成(図(b))を示す図である。
【図13】 従来のMP4ファイル符号化手段の構成を示す図である。
【図14】従来のMP4ファイル符号化手段の処理動作の一連の流れを示すフローチャート図である。
【図15】固定フレームレートの符号化データ(図(a))、及びMP4ファイルの構成(図(b))を示す図である。
【図16】従来における、Sample-To-TimeStamp Atomを用いて、与えられたMP4タイムスタンプに対応するサンプルを探し出す処理の一連の流れを示すフローチャート図である。
【図17】従来のデータ記録装置の構成を示す図である。
【符号の説明】
42 MP4タイムスタンプ読み取り手段
43 mdat atom作成手段
44 stsz atom作成手段
45 stts atom作成手段
46 mdat atom一時記憶手段
47 stsz atom一時記憶手段
48 stts atom一時記憶手段
49 一時データ連結手段
81 映像取り込み手段
82 符号化判定手段
83 符号化手段
84 非更新フレーム作成手段
90 RTP送信手段
91 RTP受信手段
92 RTP受信バッファ
93 RTP復号化手段
94 RTPタイムスタンプ変換手段
100 データ変換装置
41,101 符号化データ一時記憶手段
102 符号化データタイムスタンプ読み取り手段
103 タイムスタンプ変換手段
104 固定FPS化手段
85,95,110 MP4ファイル符号化手段
86,96,120 記録媒体
200 データ符号化装置
201 非更新フレーム挿入手段
202 サイズ0フレーム挿入手段
203 符号化データタイムスタンプ連続化手段
300 データ記録装置
311,321 処理手段
312 非更新フレーム生成手段
313,323,332 一時記憶手段
314,324 スイッチ
331 符号化データタイムスタンプ書き換え手段

Claims (1)

  1. 符号化データを格納するデータテーブルと上記符号化データの異なるタイムスタンプ間隔を格納するタイムテーブルと上記符号化データのデータサイズを格納するサイズテーブルとを有するファイルに格納するためのデータを変換するデータ変換装置であって、
    可変フレームレートで入力された映像信号データの符号化データ及び該符号化データのデータサイズを一時格納する一時記憶手段と、
    上記一時記憶手段に格納された上記符号化データから、該符号化データの時間情報である入力タイムスタンプを読み取るタイムスタンプ読み取り手段と、
    上記符号化データの入力タイムスタンプと、外部より初期情報として入力されたタイムスタンプ間隔に基づき決定された固定フレームレートの出力タイムスタンプとを比較する判断手段と、
    データサイズが0であることを意味する符号化データを作成し、該データサイズが0であることを意味する符号化データに、上記入力タイムスタンプとして任意の値を付す挿入手段と
    上記符号化データ、データサイズ、及びタイムスタンプに基づいて、上記データテーブル、タイムテーブル、及びサイズテーブルを作成するテーブル作成手段とを備え、
    上記判断手段により上記入力タイムスタンプが上記出力タイムスタンプ以下であると判断された場合には、上記一時記憶手段に格納されている上記符号化データと該符号化データのデータサイズが上記テーブル作成手段に出力されるとともに、上記判断手段が上記出力タイムスタンプを上記テーブル作成手段に出力し、
    上記判断手段により上記入力タイムスタンプが上記出力タイムスタンプよりも大きいと判断された場合には、上記挿入手段が、データサイズが0であることを意味する符号化データと、該符号化データのデータサイズ及びタイムスタンプとを出力し、
    上記テーブル作成手段は、上記一時記憶手段と上記挿入手段から出力された上記符号化データを連続して格納したデータテーブルを作成し、上記一時記憶手段と上記挿入手段から出力された上記データサイズを連続して格納したサイズテーブルを作成し、上記判断手段から出力された上記出力タイムスタンプと上記挿入手段から出力された上記タイムスタンプとに基づいてタイムスタンプ間隔を示すタイムテーブルを作成し、作成した上記データテーブル、サイズテーブル、及びタイムテーブルを出力する、
    ことを特徴とするデータ変換装置。
JP2001374697A 2000-12-08 2001-12-07 データ変換装置 Expired - Fee Related JP4242581B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001374697A JP4242581B2 (ja) 2000-12-08 2001-12-07 データ変換装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2000-373893 2000-12-08
JP2000373893 2000-12-08
JP2001374697A JP4242581B2 (ja) 2000-12-08 2001-12-07 データ変換装置

Publications (2)

Publication Number Publication Date
JP2002238050A JP2002238050A (ja) 2002-08-23
JP4242581B2 true JP4242581B2 (ja) 2009-03-25

Family

ID=26605482

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001374697A Expired - Fee Related JP4242581B2 (ja) 2000-12-08 2001-12-07 データ変換装置

Country Status (1)

Country Link
JP (1) JP4242581B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4254548B2 (ja) * 2004-01-14 2009-04-15 カシオ計算機株式会社 動画像記録装置及びプログラム
JP4985766B2 (ja) * 2007-03-30 2012-07-25 富士通株式会社 動画記録方法および情報処理装置
JP5326724B2 (ja) * 2009-03-25 2013-10-30 サクサ株式会社 映像処理装置および映像処理装置の制御プログラム
JP5493471B2 (ja) * 2009-05-27 2014-05-14 ソニー株式会社 情報処理装置および方法
JPWO2014057555A1 (ja) 2012-10-10 2016-08-25 富士通株式会社 情報処理装置、情報処理システム、情報処理プログラム、及び動画データ送受信方法
KR102299880B1 (ko) * 2017-04-04 2021-09-09 에스케이하이닉스 주식회사 데이터 변환 장치 및 방법
JP7342520B2 (ja) * 2019-08-23 2023-09-12 ヤマハ株式会社 動画ファイルの処理方法およびプログラム

Also Published As

Publication number Publication date
JP2002238050A (ja) 2002-08-23

Similar Documents

Publication Publication Date Title
US7272299B2 (en) Data conversion apparatus, data coding apparatus, and data recording apparatus
JP4538908B2 (ja) データ変換装置及び方法
US6396874B1 (en) Decoding method and apparatus and recording method and apparatus for moving picture data
JP4949591B2 (ja) ビデオ誤り回復方法
JP4515465B2 (ja) 動画撮影装置および動画撮影方法、記録媒体に記録された映像信号を再生する動画再生装置および動画再生方法
EP1811787A2 (en) Picture encoding method and apparatus and picture decoding method and apparatus
KR100772343B1 (ko) 데이터 재생 전송 장치 및 데이터 재생 전송 방법
JP3147792B2 (ja) 高速再生のためのビデオデータの復号化方法及びその装置
JP4242581B2 (ja) データ変換装置
US20020015577A1 (en) Data distribution apparatus and method, and data distribution system
JPH0730886A (ja) 画像および音声信号処理方法とその装置
US20040190628A1 (en) Video information decoding apparatus and method
EP0893030B2 (en) Method and apparatus for looping of compressed video bitstreams
JP3852114B2 (ja) 圧縮画像データ伝送方法及び装置
JP2006165683A (ja) 映像記録装置
JP2003259292A (ja) マルチメディア通信装置とその信号処理モジュール
JPH09172608A (ja) 画像音声符号化装置および画像音声記録再生装置
JP2000115780A (ja) 動画像符号化/復号装置および動画像伝送方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041008

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071009

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080909

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081202

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081225

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120109

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130109

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees