JP2004260374A - Decoding reproducing method, decoding reproducing device and multimedia information receiving device - Google Patents
Decoding reproducing method, decoding reproducing device and multimedia information receiving device Download PDFInfo
- Publication number
- JP2004260374A JP2004260374A JP2003046800A JP2003046800A JP2004260374A JP 2004260374 A JP2004260374 A JP 2004260374A JP 2003046800 A JP2003046800 A JP 2003046800A JP 2003046800 A JP2003046800 A JP 2003046800A JP 2004260374 A JP2004260374 A JP 2004260374A
- Authority
- JP
- Japan
- Prior art keywords
- information
- time
- reproduction
- decoding
- encoded
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Time-Division Multiplex Systems (AREA)
Abstract
Description
【0001】
【発明の属する技術分野】
本発明は、符号化された情報を入力し、再生する復号再生方法、復号再生装置及びマルチメディア情報受信装置に係り、特に、再生時刻の誤りの補正処理に関する。
【0002】
【従来の技術】
動画像と音声からなるマルチメディア番組を、MPEG方式などによって符号化して伝送し、復号再生するマルチメディア情報処理システムにおいては、動画像と音声は、フレームと呼ばれる単位毎に符号化され、そのフレームを再生する時刻(Presentation Time Stamp、以後、PTSと称する。)が付加されて復号再生装置に伝送される。動画像に対するフレームは、時間的に連続する静止画であり、音声に対するフレームは、一定時間間隔に分割した音声である。
【0003】
そして、符号化された動画像と音声とを同期をとって再生するには、符号化されたフレームを復号して、この復号されたフレームと符号化されたフレームに付加されたPTSを共にメモリに記憶する。そして、復号再生装置の基準同期信号(System Time Clock、以後、STCと称する。)が示す時刻が、上記PTSの時刻に一致した時点で、上記メモリに記憶されたフレームを再生する。
【0004】
ここで、STCは、符号化されたマルチメディア番組に付加される番組時刻基準参照値(Program Clock Reference、以後、PCRと称する。)が示す時刻を示すように、常に校正されている。
【0005】
ところで、例えば、移動通信端末装置を用いた、符号化されたマルチメディア情報を実時間に伝送及び再生するシステムでは、符号化された情報の伝送中にPTSに誤りが混入するようなことが発生した際には、その誤りが伝送装置によって訂正されないまま、復号再生装置に入力されることが皆無ではない。
【0006】
なぜなら、移動通信端末装置を用いた、符号化されたマルチメディア情報を実時間に伝送及び再生するシステムでは、伝送ビットレートが低いため、デジタルテレビ放送システムで用いられている強固な誤り訂正用の冗長ビットを付加することができないことや、また、再送を行わないUDP(User Datagram Protocol)プロトコルを用いているため、インターネットで用いられているTCP(Transmission Control Protocol)プロトコルの再送機能を用いることもできないためである。
【0007】
ここで、符号化された動画像は、符号化された音声より情報量が多いため、PTSの誤りは、符号化された音声情報よりも符号化された動画像情報に混入し易い。
【0008】
そこで、移動通信端末装置を用いた、符号化されたマルチメディア情報を実時間に伝送及び再生するシステム向けの動画像の復号再生方法では、たとえPTSに誤りが含まれていても動画像を音声と同期をとって再生するために、その誤りを補正する必要がある。その補正の方法としては、符号化された画像フレームにPTSとは別の時刻情報を付加し、それを用いてPTSの誤りの検出及び補正を行う処理が行われている(例えば、特許文献1参照。)。
【0009】
【特許文献1】
特開2002−135777号公報(第2−3頁、図2)
【0010】
【発明が解決しようとする課題】
しかしながら、上述した従来の方法では、複数の連続した符号化されたフレームに付加されたPTSに誤りが含まれている場合に、それらに続く符号化されたフレームに付加されたPTSに誤りが含まれているか否かの判断に多くの計算量が必要である問題点があった。
【0011】
本発明は、上記問題点を解決するためになされたもので、PTSに誤りが含まれていないことを少ない計算量で判断できる復号再生方法、復号再生装置及びマルチメディア情報受信装置を提供することを目的とする。
【0012】
【課題を解決するための手段】
上記目的を達成するために、本発明の復号再生方法は、符号化された情報に、その情報を再生する時刻及び前記符号化の方式を表す情報が付加された情報を受信し、前記符号化の方式を表す情報に従って前記符号化された情報を復号し、前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を再生信号として出力する復号再生方法であって、前記補正の前に、前記符号化の方式を表す情報が正しいか否かを判断し、前記符号化の方式を表す情報が正しいと判断する場合、前記復号された情報を前記再生する時刻に再生信号として出力することを特徴とする。
【0013】
また、本発明の復号再生方法は、符号化された情報に、その情報を再生する時刻及び前記符号化の方式を表す情報が付加された情報を受信し、前記符号化の方式を表す情報に従って前記符号化された情報を復号し、前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を再生信号として出力する復号再生方法であって、前記補正の前であって、かつ、前記符号化の方式を表す情報が正しくないと判断される場合、前記符号化された情報の前記再生する時刻が正しいか否かを判定し、前記符号化された情報の前記再生する時刻が正しいと判断される場合、前記復号された情報を前記再生する時刻に再生信号として出力することを特徴とする。
【0014】
本発明によれば、符号化の方式情報が正しく入力できた際、及び、復号した情報の再生時刻を計時する手段に対して時刻のリセットの指示を入力した際に、少ない計算量で再生する時刻は誤りなしと判断することができる。
【0015】
【発明の実施の形態】
以下に、本発明による復号再生方法の実施の形態を、図面を参照して説明する。図1は、本発明の実施形態に係る復号再生方法が適用された移動通信端末装置の構成を示すブロック図である。
【0016】
この移動通信端末装置は、装置全体の制御を行う制御装置1と、アンテナ2aと、通信装置2bと、送受信装置3と、利用者からの操作指示を入力する入力装置4と、動画像及び音声からなるマルチメディア番組の符号化及び復号再生を行う符号化復号化装置5と、カメラ6aと、表示装置6bと、マイク6cと、スピーカ6dとにより構成される。
【0017】
通信装置2bは、アンテナ2aが受信した高周波信号を送受信装置3へ出力し、また、送受信装置3から出力される高周波信号をアンテナ2aより送信する。
【0018】
次に、送受信装置3の動作を説明する。送受信装置3は、通信装置2bからの高周波信号を増幅、周波数変換及び復調し、それによって得た符号化されたマルチメディア番組信号を符号化復号化装置5に送り、また、制御信号を制御装置1に送る。送受信装置3は、更に、符号化復号化装置5から出力される符号化されたマルチメディア番組信号、及び、制御装置1から出力される制御信号を変調、周波数変換及び増幅し、高周波信号を得てそれを通信装置2bに送る。
【0019】
図2は、符号化復号化装置5の構成を示すブロック図である。符号化復号化装置5は、多重分離部11と、動画像符号化部12と、動画像復号化部13と、画像バッファ14と、画像再生制御部15と、時刻管理部21と、STC部22と、音声符号化部23と、音声復号化部24と、音声バッファ25と、音声再生制御部26とにより構成される。
【0020】
上記のように構成された、本発明の実施形態に係る移動通信端末装置の動作を説明する。
【0021】
まず、多重分離部11の動作を説明する。多重分離部11は、動画像符号化部12から出力される符号化された画像フレーム信号と、音声符号化部23から出力される符号化された音声フレーム信号を多重化し、得られた符号化されたマルチメディア番組信号を送受信装置3に送る。
【0022】
即ち、多重分離部11は、カメラ6aから入力された動画像に対し、動画像符号化部12から出力される符号化された画像フレーム信号を複数個まとめてPES(Packetized Elementary Stream)パケットを作成する。
【0023】
動画像符号化部12から出力される全ての符号化された画像フレーム信号内のフレームヘッダ情報には、B_TSと呼ばれるそれぞれの画像フレームが再生される時刻が付加され、また、一部の符号化された画像フレーム信号には、CI(Configuration Information)と呼ばれる情報(その動画像の符号化の形式を表す情報)、例えば、符号化プロファイル、画像の大きさ、必要な画像バッファ14の大きさなどの情報が付加されていることから、それらもPESパケットに含める。B_TSは、動画像独自に定義され、音声とは無関係な時刻である。
【0024】
多重分離部11は、更に、PESパケットの先頭の符号化された画像フレーム信号に、その画像フレーム信号を再生する時刻であるPTSを付加してPESパケットを作成する。なお、その他の符号化された画像フレーム信号にPTSを付加しても良い。
【0025】
図3(a)は、第1の符号化された画像フレーム信号31aから第mの符号化された画像フレーム信号31bまでが1つのPESパケット(画像)を構成している状況を示す。
【0026】
ここで、全ての符号化された画像フレーム信号内のフレームヘッダ情報にはB_TSが付加されている。即ち、第1の符号化された画像フレーム信号31aには、B_TS(31c)が付加され、以降同様にして、第mの符号化された画像フレーム信号31bには、B_TS(31d)が付加されている。
【0027】
また、第1の符号化された画像フレーム信号31aには、CI(31e)及びPTS(31f)が更に付加されている。
【0028】
多重分離部11は、更に、マイク6cから入力された音声に対し、音声符号化部23から出力される符号化された音声フレーム信号を複数個まとめてPESパケットを作成する。また、PESパケットの先頭の符号化された音声フレーム信号には、その音声フレームを再生する時刻であるPTSを付加する。なお、その他の符号化された音声フレーム信号にPTSを付加しても良い。
【0029】
図3(b)は、第1の符号化された音声フレーム信号32aから第nの符号化された音声フレーム信号32bまでが1つのPESパケット(音声)を構成している状況を示す。ここで、第1の符号化された音声フレーム信号32aには、PTS(32c)が付加されている。
【0030】
多重分離部11は、続いて、これらの画像のPESパケットおよび音声のPESパケットをパケット毎に固定長のTS(Transport Stream)パケットに分割し、更にTSパケット毎にPCRを付加して送受信装置3に送る。図3(c)は、1つのPESパケットが第1のTSパケット33aから第pのTSパケット33bまでに分割され、TSパケット毎にPCRが付加された状況を示す。即ち、第1のTSパケット33aにはPCR(33c)が、第pのTSパケット33bにはPCR(33d)がそれぞれ付加されている。
【0031】
多重分離部11は、送受信装置3から出力される符号化されたマルチメディア番組信号を、符号化された画像フレーム信号と、符号化された音声フレーム信号と、PCRとに分離する。そして、符号化された画像フレーム信号を動画像復号化部13に送り、符号化された音声フレーム信号を音声復号化部24に送り、PCRを時刻管理部21に送る。
【0032】
即ち、送受信装置3から出力されるマルチメディア番組信号は、図3(c)の構造を持つ、複数のTSパケットからなり、TSパケット毎にPCR33c、…、33dが付加された信号を受信し、この内、PCR33c、…、33dを分離して、時刻管理部21に送る。
【0033】
また、多重分離部11は、TSパケットを分離してそれをPESパケットに統合し、そのPESパケットが図3(a)に示す符号化された画像フレーム信号からなるパケットであれば、それに含まれるPTS、CI及びB_TSを含む符号化された画像フレーム信号を動画像復号化部13に送る。
【0034】
また、そのPESパケットが図3(b)に示す符号化された音声フレーム信号からなるパケットであれば、それに含まれるPTS及び符号化された音声フレーム信号を音声復号化部24に送る。
【0035】
次に、動画像符号化部12の動作を説明する。動画像符号化部12は、まず、カメラ6aから出力される動画像信号から画像フレーム信号、即ち、時間的に連続する静止画を作成する。
【0036】
続いて、得られた画像フレーム信号毎に、それを離散コサイン変換し、得られた離散コサイン変換係数を量子化の上、符号化する。続いて、得られた符号化された画像フレーム信号内のフレームヘッダ情報にそれを再生する時刻B_TSを付加して、また、一部の符号化された画像フレーム信号にCIを付加して、多重分離部11に送る。
【0037】
次に、動画像復号化部13の動作を説明する。図4は、動画像復号化部13の動作のフローチャートを示す。動画像復号化部13は、動作を開始し(ステップ41a)、多重分離部11から出力される符号化された画像フレーム信号を受信する。その際、符号化された画像フレーム信号に付加されたPTS、CI及びB_TSも同時に受信する(ステップ41b)。
【0038】
続いて、受信した符号化された画像フレーム信号をCIが示す符号化方法に従って復号する。即ち、符号化された画像フレーム信号を復号し、復号された信号を逆量子化の上、逆離散コサイン変換することによって復号された画像フレーム信号、即ち、静止画を得て、その信号を画像バッファ14に格納する(ステップ41c)。
【0039】
動画像復号化部13は、続いて、得られた復号された画像フレーム信号に再生する時刻PTSを付加する。そのため、まず、受信した符号化された画像フレーム信号にPTSが付加されているか否かを調べる(ステップ41d)。付加されていれば、付加されたPTSに誤りが混入しているか否かを調べる。
【0040】
即ち、まず、受信した符号化された画像フレーム信号にCIが付加されているなら、それが過去に受信した符号化された画像フレーム信号に付加されていて、動画像復号化部13に記憶されているCIと同一かを調べる(ステップ41e)。もし、同一ならCIが正しいので、受信した符号化された画像フレーム信号に付加されたPTSには誤りがないと判断する。なぜなら、上記CIと上記PTSとは同じ、または、隣接するTSパケットとして伝送されているので、一方が正しく伝送された時には他方も正しく伝送されたとみなすことができるからである。
【0041】
続いて、そのPTSとステップ41cで復号された画像フレーム信号とを画像バッファ14に格納する(ステップ41f)。
【0042】
ステップ41eで、正しいCIが付加されていないと判断したならば、動画像復号化部13は、時刻管理部21からSTCリセット信号を受信したか否かを調べる(ステップ41g)。STCリセット信号を受信した場合は、PTSに誤りがないと判断して、PTSとステップ41cで復号された画像フレーム信号とを画像バッファ14に格納する(ステップ41f)。
【0043】
なぜなら、時刻管理部21からのSTCリセット信号を受信した際は、ある番組が終了し、別の番組の最初の符号化された画像フレームが多重分離部11から送られたことを意味するので、受信した符号化された画像フレーム信号に付加されたPTSの過去のPTSとの連続性は失われ、後述するその連続性による誤り検出は不可能になるので、上記付加されたPTSは正しいとみなすのが適当だからである。
【0044】
ステップ41gで、STCリセット信号を受信していない場合は、動画像復号化部13は、受信した符号化された画像フレーム信号に付加されたPTSと、過去に受信した符号化された画像フレーム信号に付加され、かつ、動画像復号化部13が記憶している誤りのないPTSとを比較し、受信した符号化された画像フレーム信号に付加されたPTSの誤りの有無を検証する(ステップ41h)。
【0045】
ステップ41hの検証基準として、例えば2つの基準が用いられる。第1の基準として、画像フレーム信号が再生順に送られてくることが合意されている場合には、受信した符号化された画像フレーム信号に付加されたPTSが過去の誤りのないPTSと比較して小さいなら、付加されたPTSは誤りと判断する。
【0046】
また、第2の基準として、受信した符号化された画像フレーム信号に付加されたPTSと過去の誤りのないPTSとの差と、受信した符号化された画像フレーム信号に付加されたB_TSと動画像復号化部13が記憶している誤りのないPTSが付加されていた符号化された画像フレーム信号に付加されていたB_TSとの差を比較し、上記2つの差の間の差が所定数以上であれば、PTSは誤りと判断する。
【0047】
もし、ステップ41hにおけるこれらの判断基準のいずれにも合致しない場合は、動画像復号化部13は、PTSには誤りがないと判断して、そのPTSとステップ41cで復号された画像フレーム信号とを画像バッファ14に格納する(ステップ41f)。この際、PTSとB_TSを、誤りのないPTS、及び、それが付加されていた符号化された画像フレーム信号に付加されていたB_TSとして、動画像復号化部13内に記憶する。
【0048】
一方、ステップ41dで、受信した符号化された画像フレーム信号にPTSが付加されていないと判断した場合、及び、ステップ41hで、受信した符号化された画像フレーム信号に付加されたPTSに誤りがあると判断した場合には、動画像復号化部13は、受信した符号化された画像フレーム信号に対応するPTSを推定し、そのPTSとステップ41cで復号された画像フレーム信号とを画像バッファ14に格納する(ステップ41i)。
【0049】
ここで、受信した符号化された画像フレーム信号に対するPTSの推定値は、その画像フレーム信号に付加されたB_TSと、誤りのないPTSが付加されていた符号化された画像フレーム信号に付加されていたB_TSとの差を求め、その差を過去の誤りのないPTSに加えることによって得る。
【0050】
ステップ41f、または、ステップ41iで、画像フレーム信号のPTSを画像バッファ14に格納した後、動画像復号化部13は、ステップ41bへ戻り(ステップ41j)、次の画像フレームの処理を行う。
【0051】
次に、画像再生制御部15の動作を説明する。画像再生制御部15は、STC部22が示す時刻を読込み、読込んだ時刻と同一の時刻のPTSが画像バッファ14に記憶されているかを検索する。もし、記憶されていれば、そのPTSと共に画像バッファ14に記憶されている復号された画像フレーム信号、即ち、静止画を読み出し、表示装置6bに表示する。
【0052】
次に、時刻管理部21の動作を説明する。時刻管理部21は、多重分離部11から出力されるPCRを受信し、それが示す時刻をSTC部22が示すように、STC部22を校正する。また、時刻管理部21がSTCリセットを検出した際には、そのSTCリセットを示す信号を動画像復号化部13と、音声復号化部24に送る。
【0053】
ここで、時刻管理部21におけるSTCリセットの検出は、PCRが示す時刻が、ある時点の以前と以後とで階段状に、所定値以上の差をもって変化することによる。または、PCRに番組変更の有無の識別子が含まれ、その識別子が番組変更有りを示すことによっても良い。
【0054】
次に、音声符号化部23の動作を説明する。音声符号化部23は、まず、マイク6cから出力される音声信号から音声フレーム信号、即ち、一定時間間隔に分割した音声信号を作成する。
【0055】
音声符号化部23は、続いて、得られた音声フレーム信号毎に、それをAAC(Advanced Audio Coding)方式によって時間周波数変換する。続いて、得られたMDCT(Modified Discrete Cosine Transform)係数を量子化の上、符号化する。PTSの付加については、既に述べた通りである。続いて、得られた符号化された音声フレーム信号を多重分離部11に送る。
【0056】
次に、音声復号化部24の動作を説明する。音声復号化部24は、まず、多重分離部11から出力される符号化された音声フレーム信号を受信する。その際、それに付加されたPTSも同時に受信する。続いて、受信した符号化された音声フレーム信号を復号し、復号された信号を逆量子化の上、逆時間周波数変換することによって、復号された音声フレーム信号、即ち、一定時間幅の音声信号を得て、その信号を音声バッファ25に格納する。
【0057】
音声復号化部24は、続いて、動画像と同様に、復号された音声フレーム信号に再生する時刻PTSを付加する。もし、受信した符号化された音声フレーム信号にPTSが付加されていれば、そのPTSと復号された音声フレーム信号とを音声バッファ25に格納する。
【0058】
もし、その音声フレーム信号にPTSが付加されていなければ、過去の符号化された音声フレーム信号に付加されていたPTSに所定の推定値を加えてPTSを求める。即ち、その過去の符号化された音声フレーム(フレーム1)から現在受信した符号化された音声フレーム(フレームm)間のフレーム数k(k=m−1)を求め、このフレーム数kに1つの音声フレームが含む音声の時間幅tを乗算した数(k×t)を加えることによって推定値を算出する。こうして求めたPTSと復号された音声フレーム信号とを音声バッファ25に格納する。
【0059】
次に、音声再生制御部26の動作を説明する。音声再生制御部26は、STC部22が示す時刻を読込み、読込んだ時刻と同一の時刻のPTSが音声バッファ25に記憶されているかを検索する。もし、記憶されていれば、そのPTSと共に音声バッファ25に記憶されている復号された音声フレーム信号、即ち、一定時間幅の音声信号をスピーカ6dに送って発音する。
【0060】
本実施形態では、符号化された音声フレームに付加されたPTSの誤り検出は行わないとしたが、行っても良い。また、動画像は、1つの動画像であるとしたが、動画像が複数の任意形状の動画像の集まりとして定義されていても良い。その場合には、上記各任意形状の動画像毎に行われる復号及び再生に本発明を適用できる。
【0061】
更に、画像フレームの符号化は離散コサイン変換方式によるとしたが、これに限るものはなく、また、音声フレームの符号化はAAC方式によるとしたが、これに限るものではない。本発明は以上の構成に限定されるものではなく、種々の変形が可能である。
【0062】
また、以上の説明は、本発明を移動通信端末装置に適用した形態を例にとって行ったが、本発明は、放送システムの受信装置に適用することも当然に可能である。
【0063】
【発明の効果】
以上述べたように、本発明によれば、符号化されたフレームに付加され、その符号化の形式を表すCI(Configuration Information)を正しく受信した際、及び、復号再生装置の基準同期信号であるSTC(System Time Clock)のリセットが行われる際には、受信したフレームを再生する時刻、PTS(Presentation Time Stamp)は正しいと判断することにより、少ない計算量で受信したPTSが正しいと判断することができる。
【図面の簡単な説明】
【図1】本発明の実施形態に係る移動通信端末装置を示すブロック図。
【図2】本発明の実施形態に係る符号化復号化装置を示すブロック図。
【図3】本発明の実施形態に係る符号化されたマルチメディア番組のデータ構造を示す図。
【図4】本発明の実施形態に係る動画像復号化部の動作を示すフローチャート。
【符号の説明】
5 符号化復号化装置
11 多重分離部
13 動画像復号化部
15 画像再生制御部
21 時刻管理部
22 STC部
24 音声復号化部
26 音声再生制御部[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to a decoding / reproducing method for inputting and reproducing encoded information, a decoding / reproducing apparatus, and a multimedia information receiving apparatus, and more particularly, to a process for correcting an error in a reproduction time.
[0002]
[Prior art]
In a multimedia information processing system that encodes and transmits a multimedia program composed of a moving image and an audio according to the MPEG system and decodes and reproduces the moving image and the audio, the moving image and the audio are encoded in units called frames. Is added to the playback time (Presentation Time Stamp, hereinafter referred to as PTS) and transmitted to the decoding / playback apparatus. A frame for a moving image is a temporally continuous still image, and a frame for a sound is a sound divided at regular time intervals.
[0003]
Then, in order to play back the encoded moving image and audio in synchronization with each other, the encoded frame is decoded, and the decoded frame and the PTS added to the encoded frame are both stored in the memory. To memorize. Then, when the time indicated by the reference synchronization signal (System Time Clock, hereinafter referred to as STC) of the decoding and reproducing apparatus coincides with the time of the PTS, the frame stored in the memory is reproduced.
[0004]
Here, the STC is always calibrated so as to indicate the time indicated by a program clock reference value (Program Clock Reference, hereinafter referred to as PCR) added to the encoded multimedia program.
[0005]
By the way, for example, in a system for transmitting and reproducing coded multimedia information in real time using a mobile communication terminal device, errors may occur in the PTS during the transmission of coded information. In such a case, it is not unusual for the error to be input to the decoding / reproducing apparatus without being corrected by the transmission apparatus.
[0006]
The reason is that, in a system that transmits and reproduces coded multimedia information in real time using a mobile communication terminal device, the transmission bit rate is low. Since a redundant bit cannot be added, and a UDP (User Datagram Protocol) protocol that does not perform retransmission is used, a retransmission function of a TCP (Transmission Control Protocol) protocol used in the Internet may be used. It is not possible.
[0007]
Here, the encoded moving image has a larger amount of information than the encoded audio, so that an error in the PTS is more likely to be mixed in the encoded moving image information than in the encoded audio information.
[0008]
Therefore, in a moving picture decoding / reproducing method for a system for transmitting and reproducing coded multimedia information in real time using a mobile communication terminal device, even if an error is included in the PTS, the moving picture is reproduced by audio. It is necessary to correct the error in order to reproduce in synchronization with. As a method of the correction, a process of adding time information different from the PTS to the encoded image frame and performing detection and correction of the PTS error using the time information is performed (for example, Patent Document 1). reference.).
[0009]
[Patent Document 1]
JP-A-2002-135777 (page 2-3, FIG. 2)
[0010]
[Problems to be solved by the invention]
However, in the above-described conventional method, when an error is included in the PTS added to a plurality of consecutive encoded frames, the error is included in the PTS added to the subsequent encoded frames. There is a problem that a large amount of calculation is required to determine whether or not the calculation is performed.
[0011]
The present invention has been made in order to solve the above problems, and provides a decoding / reproducing method, a decoding / reproducing apparatus, and a multimedia information receiving apparatus capable of determining that an error is not included in a PTS with a small amount of calculation. With the goal.
[0012]
[Means for Solving the Problems]
In order to achieve the above object, a decoding / reproducing method according to the present invention comprises the steps of: receiving information in which coded information is added with information representing a time at which the information is reproduced and the encoding method; Decoding the encoded information according to the information representing the method of the above, when the error of the reproduction time is detected, the time is corrected, and at the corrected reproduction time, the decoded information is used as a reproduction signal. A decoding and reproducing method for outputting, before the correction, determining whether or not information indicating the encoding method is correct, and determining that the information indicating the encoding method is correct, The reproduced information is output as a reproduction signal at the reproduction time.
[0013]
Also, the decoding and reproducing method of the present invention receives information in which encoded information is added with information indicating a time at which the information is reproduced and the encoding method, and according to the information indicating the encoding method. A decoding / reproducing method for decoding the encoded information, correcting the time when an error in the reproduction time is detected, and outputting the decoded information as a reproduction signal at the corrected reproduction time. Therefore, before the correction, and when it is determined that the information representing the encoding method is not correct, determine whether the reproduction time of the encoded information is correct, When it is determined that the reproduction time of the encoded information is correct, the decoded information is output as a reproduction signal at the reproduction time.
[0014]
According to the present invention, when encoding method information can be correctly input, and when a time reset instruction is input to a means for measuring the reproduction time of decoded information, reproduction is performed with a small amount of calculation. The time can be determined to be error-free.
[0015]
BEST MODE FOR CARRYING OUT THE INVENTION
An embodiment of a decoding and reproducing method according to the present invention will be described below with reference to the drawings. FIG. 1 is a block diagram showing a configuration of a mobile communication terminal device to which a decoding and reproducing method according to an embodiment of the present invention is applied.
[0016]
The mobile communication terminal device includes a
[0017]
The
[0018]
Next, the operation of the transmitting / receiving device 3 will be described. The transmitting / receiving device 3 amplifies, frequency-converts and demodulates a high-frequency signal from the
[0019]
FIG. 2 is a block diagram illustrating a configuration of the encoding /
[0020]
The operation of the mobile communication terminal according to the embodiment of the present invention configured as described above will be described.
[0021]
First, the operation of the demultiplexer 11 will be described. The demultiplexing unit 11 multiplexes the encoded image frame signal output from the moving
[0022]
That is, the demultiplexing unit 11 creates a PES (Packetized Elementary Stream) packet by combining a plurality of encoded image frame signals output from the moving
[0023]
The time at which each image frame called B_TS is reproduced is added to the frame header information in all the encoded image frame signals output from the moving
[0024]
The demultiplexing unit 11 further creates a PES packet by adding a PTS, which is a time at which the image frame signal is reproduced, to the encoded image frame signal at the head of the PES packet. Note that PTS may be added to other encoded image frame signals.
[0025]
FIG. 3A illustrates a situation in which the first encoded
[0026]
Here, B_TS is added to the frame header information in all the encoded image frame signals. That is, B_TS (31c) is added to the first encoded
[0027]
Further, CI (31e) and PTS (31f) are further added to the first encoded
[0028]
The demultiplexing unit 11 further creates a PES packet by combining a plurality of encoded audio frame signals output from the
[0029]
FIG. 3B shows a situation in which the first encoded
[0030]
Subsequently, the demultiplexing unit 11 divides the PES packet of the image and the PES packet of the audio into fixed-length TS (Transport Stream) packets for each packet, and adds a PCR for each TS packet to add a PCR to the transmission / reception device 3. Send to FIG. 3C shows a situation in which one PES packet is divided into a
[0031]
The demultiplexing unit 11 separates the encoded multimedia program signal output from the transmission / reception device 3 into an encoded image frame signal, an encoded audio frame signal, and a PCR. Then, the encoded image frame signal is sent to the moving
[0032]
That is, the multimedia program signal output from the transmission / reception device 3 is composed of a plurality of TS packets having the structure of FIG. 3C, and receives a signal to which
[0033]
The demultiplexing unit 11 separates the TS packet and integrates the TS packet into a PES packet. If the PES packet is a packet composed of the encoded image frame signal shown in FIG. The encoded image frame signal including the PTS, CI, and B_TS is sent to the moving
[0034]
If the PES packet is a packet composed of the encoded audio frame signal shown in FIG. 3B, the PTS included in the PES packet and the encoded audio frame signal are sent to the audio decoding unit 24.
[0035]
Next, the operation of the
[0036]
Subsequently, for each obtained image frame signal, it is subjected to discrete cosine transform, and the obtained discrete cosine transform coefficient is quantized and encoded. Subsequently, a time B_TS for reproducing the frame header information in the obtained encoded image frame signal is added to the frame header information, and a CI is added to a part of the encoded image frame signal to perform multiplexing. It is sent to the separation unit 11.
[0037]
Next, the operation of the
[0038]
Subsequently, the received encoded image frame signal is decoded according to the encoding method indicated by the CI. That is, a coded image frame signal is decoded, the decoded signal is inverse-quantized, and then inverse discrete cosine transform is performed to obtain a decoded image frame signal, that is, a still image is obtained. The data is stored in the buffer 14 (
[0039]
Subsequently, the moving
[0040]
That is, first, if CI is added to the received encoded image frame signal, it is added to the previously received encoded image frame signal, and is stored in the
[0041]
Subsequently, the PTS and the image frame signal decoded in
[0042]
If it is determined in step 41e that the correct CI has not been added, the
[0043]
This is because, when the STC reset signal is received from the
[0044]
If the STC reset signal has not been received in step 41g, the
[0045]
For example, two criteria are used as the verification criteria in
[0046]
Further, as a second criterion, a difference between a PTS added to a received encoded image frame signal and a past error-free PTS, a B_TS added to a received encoded image frame signal, and a moving image The
[0047]
If none of these criteria is met in
[0048]
On the other hand, when it is determined in
[0049]
Here, the estimated value of the PTS for the received encoded image frame signal is added to the B_TS added to the image frame signal and the encoded image frame signal to which the error-free PTS is added. It is obtained by calculating the difference from the obtained B_TS and adding the difference to the past error-free PTS.
[0050]
After storing the PTS of the image frame signal in the
[0051]
Next, the operation of the image
[0052]
Next, the operation of the
[0053]
Here, the detection of the STC reset in the
[0054]
Next, the operation of the
[0055]
Subsequently, the
[0056]
Next, the operation of the audio decoding unit 24 will be described. The audio decoding unit 24 first receives the encoded audio frame signal output from the demultiplexing unit 11. At this time, the PTS added thereto is also received at the same time. Subsequently, the received encoded audio frame signal is decoded, and the decoded signal is inverse-quantized and subjected to inverse time-frequency conversion, whereby the decoded audio frame signal, that is, the audio signal having a fixed time width is obtained. And the signal is stored in the
[0057]
Subsequently, the audio decoding unit 24 adds a playback time PTS to the decoded audio frame signal, similarly to the moving image. If the PTS is added to the received encoded audio frame signal, the PTS and the decoded audio frame signal are stored in the
[0058]
If the PTS is not added to the audio frame signal, a PTS is obtained by adding a predetermined estimated value to the PTS added to the past encoded audio frame signal. That is, the number of frames k (k = m-1) between the currently encoded voice frame (frame m) from the past encoded voice frame (frame 1) is calculated. The estimated value is calculated by adding the number (k × t) obtained by multiplying the time width t of the sound included in one sound frame. The PTS thus obtained and the decoded audio frame signal are stored in the
[0059]
Next, the operation of the audio
[0060]
In the present embodiment, the error detection of the PTS added to the encoded voice frame is not performed, but may be performed. Although the moving image is one moving image, the moving image may be defined as a group of moving images of a plurality of arbitrary shapes. In such a case, the present invention can be applied to decoding and reproduction performed for each of the moving images having the arbitrary shapes.
[0061]
Further, the encoding of the image frame is based on the discrete cosine transform method, but the present invention is not limited to this, and the encoding of the audio frame is based on the AAC method. However, the present invention is not limited to this. The present invention is not limited to the above configuration, and various modifications are possible.
[0062]
Further, the above description has been made by taking an example in which the present invention is applied to a mobile communication terminal device. However, the present invention can naturally be applied to a receiving device of a broadcasting system.
[0063]
【The invention's effect】
As described above, according to the present invention, when a CI (Configuration Information), which is added to an encoded frame and indicates the encoding format, is correctly received, it is a reference synchronization signal of the decoding / reproducing apparatus. When the STC (System Time Clock) is reset, the time to reproduce the received frame and the PTS (Presentation Time Stamp) are judged to be correct, so that the PTS received with a small amount of calculation is judged to be correct. Can be.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a mobile communication terminal device according to an embodiment of the present invention.
FIG. 2 is a block diagram showing an encoding / decoding device according to the embodiment of the present invention.
FIG. 3 is a diagram showing a data structure of an encoded multimedia program according to the embodiment of the present invention.
FIG. 4 is a flowchart showing the operation of the video decoding unit according to the embodiment of the present invention.
[Explanation of symbols]
5 Encoding / decoding device 11
Claims (14)
前記符号化の方式を表す情報に従って前記符号化された情報を復号し、
前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を再生信号として出力する復号再生方法であって、
前記補正の前に、前記符号化の方式を表す情報が正しいか否かを判断し、
前記符号化の方式を表す情報が正しいと判断する場合、前記復号された情報を前記再生する時刻に再生信号として出力する
ことを特徴とする復号再生方法。Received information added to the encoded information, the information representing the time and the encoding method to reproduce the information,
Decoding the encoded information according to the information representing the encoding method,
A decoding and reproducing method for correcting the time when an error of the reproducing time is detected, and outputting the decoded information as a reproduction signal at the corrected reproducing time,
Before the correction, determine whether the information indicating the encoding method is correct,
A decoding / reproducing method, wherein, when it is determined that the information indicating the encoding method is correct, the decoded information is output as a reproduction signal at the time of the reproduction.
前記符号化の方式を表す情報に従って前記符号化された情報を復号し、
前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を再生信号として出力する復号再生方法であって、
前記補正の前であって、かつ、前記符号化の方式を表す情報が正しくないと判断される場合、前記符号化された情報の前記再生する時刻が正しいか否かを判定し、
前記符号化された情報の前記再生する時刻が正しいと判断される場合、前記復号された情報を前記再生する時刻に再生信号として出力する
ことを特徴とする復号再生方法。Received information added to the encoded information, the information representing the time and the encoding method to reproduce the information,
Decoding the encoded information according to the information representing the encoding method,
A decoding and reproducing method for correcting the time when an error of the reproducing time is detected, and outputting the decoded information as a reproduction signal at the corrected reproducing time,
Before the correction, and when it is determined that the information representing the encoding method is not correct, determine whether the time to reproduce the encoded information is correct,
A decoding / reproducing method, wherein, when it is determined that the reproduction time of the encoded information is correct, the decoded information is output as a reproduction signal at the reproduction time.
前記符号化の方式を表す情報が正しいと判断することを特徴とする請求項1に記載の復号再生方法。When the information indicating the encoding method is the same as the information received in the past,
2. The decoding and reproducing method according to claim 1, wherein it is determined that the information indicating the encoding method is correct.
前記符号化された情報を復号し、
前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を再生信号として出力する復号再生方法であって、
前記補正の前に、前記時刻参照基準情報から前記符号化された情報に連続性がないか有るかを判断し、
前記連続性がないと判断する場合、前記復号された情報を前記再生する時刻に再生信号として出力する
ことを特徴とする復号再生方法。Receiving information to which the encoded information is added with the time and time reference information for reproducing the information,
Decoding the encoded information,
A decoding and reproducing method for correcting the time when an error of the reproducing time is detected, and outputting the decoded information as a reproduction signal at the corrected reproducing time,
Before the correction, determine whether there is continuity in the encoded information from the time reference information,
When it is determined that there is no continuity, the decoded information is output as a reproduced signal at the time of the reproduction, and the decoded information is reproduced.
前記符号化された情報を復号し、
前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を再生信号として出力する復号再生方法であって、
前記補正の前であって、かつ、前記時刻参照基準情報から前記符号化された情報に連続性があると判断される場合、前記符号化された情報の前記再生する時刻が正しいか否かを判定し、
前記符号化された情報の前記再生する時刻が正しいと判断される場合、前記復号された情報を前記再生する時刻に再生信号として出力する
ことを特徴とする復号再生方法。Receiving information to which the encoded information is added with the time and time reference information for reproducing the information,
Decoding the encoded information,
A decoding and reproducing method for correcting the time when an error of the reproducing time is detected, and outputting the decoded information as a reproduction signal at the corrected reproducing time,
Before the correction, and when it is determined from the time reference information that the encoded information has continuity, it is determined whether the time to reproduce the encoded information is correct Judge,
A decoding / reproducing method, wherein, when it is determined that the reproduction time of the encoded information is correct, the decoded information is output as a reproduction signal at the reproduction time.
前記符号化の方式を表す情報に従って前記符号化された情報を復号する手段と、前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を再生信号として出力する手段とを
有する復号再生装置であって、
前記補正の前に、前記符号化の方式を表す情報と過去に受信したその情報とを比較して、前記符号化の方式を表す情報が正しいと判断する場合、前記復号された情報を前記再生する時刻に再生信号として出力する手段を設けたことを特徴とする復号再生装置。Means for receiving information in which information representing the time at which the information is reproduced and the encoding method are added to the encoded information,
Means for decoding the encoded information according to the information representing the encoding method, and correcting the time when an error in the reproduction time is detected, and decoding the decoded time at the corrected reproduction time. Means for outputting information as a reproduction signal,
Before the correction, the information indicating the encoding method is compared with the information received in the past, and when it is determined that the information indicating the encoding method is correct, the decoded information is reproduced. A decoding and reproducing device provided with means for outputting a reproduced signal at a time when the decoding and reproducing are performed.
前記符号化の方式を表す情報に従って前記符号化された情報を復号する手段と、前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を再生信号として出力する手段とを
有する復号再生装置であって、
前記補正の前であって、かつ、前記符号化の方式を表す情報が正しくないと判断される場合、前記符号化された情報の前記再生する時刻と再生された過去の符号化された情報の再生する時刻とを比較して、前記符号化された情報の前記再生する時刻が正しいと判断される場合、前記復号された情報を前記再生する時刻に再生信号として出力する手段を設けたことを特徴とする復号再生装置。Means for receiving information in which information representing the time at which the information is reproduced and the encoding method are added to the encoded information,
Means for decoding the encoded information according to the information representing the encoding method, and correcting the time when an error in the reproduction time is detected, and decoding the decoded time at the corrected reproduction time. Means for outputting information as a reproduction signal,
Before the correction, and when it is determined that the information representing the encoding method is not correct, the reproduction time of the encoded information and the reproduced past encoded information Comparing the reproduction time with the reproduction time, and when it is determined that the reproduction time of the encoded information is correct, means for outputting the decoded information as a reproduction signal at the reproduction time is provided. A decoding / playback apparatus characterized by the above-mentioned.
前記符号化された情報を復号する手段と、
前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を再生信号として出力する手段とを
有する復号再生装置であって、
前記補正の前に、前記時刻参照基準情報から前記符号化された情報に連続性がないか有るかを判断し、前記連続性がないと判断する場合、前記復号された情報を前記再生する時刻に再生信号として出力する手段を設けたことを特徴とする復号再生装置。Means for receiving information in which encoded information is added with a time at which the information is reproduced and time reference information,
Means for decoding the encoded information;
Means for correcting the time when an error in the time to reproduce is detected, and means for outputting the decoded information as a reproduction signal at the corrected time to reproduce,
Before the correction, it is determined whether or not the encoded information has continuity from the time reference information, and when it is determined that there is no continuity, the time at which the decoded information is reproduced is determined. A decoding and reproducing apparatus characterized by further comprising means for outputting the reproduced signal as a reproduced signal.
前記符号化された情報を復号する手段と、
前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を再生信号として出力する手段とを
有する復号再生装置であって、
前記補正の前であって、かつ、前記時刻参照基準情報から前記符号化された情報に連続性があると判断される場合、前記符号化された情報の前記再生する時刻と再生された過去の符号化された情報の再生する時刻とを比較して、前記符号化された情報の前記再生する時刻が正しいと判断される場合、前記復号された情報を前記再生する時刻に再生信号として出力する手段を設けたことを特徴とする復号再生装置。Means for receiving information in which encoded information is added with a time at which the information is reproduced and time reference information,
Means for decoding the encoded information;
Means for correcting the time when an error in the time to reproduce is detected, and means for outputting the decoded information as a reproduction signal at the corrected time to reproduce,
Before the correction, and when it is determined from the time reference information that the encoded information has continuity, the reproduction time of the encoded information and the past reproduced time By comparing the encoded information with the reproduction time, if it is determined that the encoded information is reproduced, the decoded information is output as a reproduced signal at the reproduced time. A decoding and reproducing apparatus characterized by comprising means.
複数の種類の符号化された情報であって、少なくとも1種の符号化された情報に、その情報を再生する時刻及び前記符号化の方式を表す情報が付加された情報を受信する手段と、
前記符号化の方式を表す情報に従って前記符号化された情報を復号する手段と、前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を前記出力手段に送って再生出力する手段と、前記補正の前に、前記符号化の方式を表す情報と過去に受信したその情報とを比較して、前記符号化の方式を表す情報が正しいと判断する場合、前記復号された情報を前記再生する時刻に前記出力手段に送って再生出力する手段と
を具備することを特徴とするマルチメディア情報受信装置。Output means;
Means for receiving information in which a plurality of types of encoded information are added to at least one type of encoded information, and information representing a time at which the information is reproduced and the encoding method are added;
Means for decoding the encoded information according to the information representing the encoding method, and correcting the time when an error in the reproduction time is detected, and decoding the decoded time at the corrected reproduction time. Means for sending information to the output means for reproduction and output, and before the correction, comparing the information indicating the coding method with the information received in the past, the information indicating the coding method is Means for transmitting the decrypted information to the output means at the time of reproduction to reproduce and output the decoded information when it is determined to be correct.
複数の種類の符号化された情報であって、少なくとも1種の符号化された情報に、その情報を再生する時刻及び時刻参照基準情報が付加された情報を受信する手段と、
前記符号化された情報を復号する手段と、
前記再生する時刻の誤りが検出された時に当該時刻を補正し、その補正された再生する時刻に前記復号された情報を前記出力手段に送って再生出力する手段と、前記補正の前に、前記時刻参照基準情報から前記符号化された情報に連続性がないか有るかを判断し、前記連続性がないと判断する場合、前記復号された情報を前記再生する時刻に前記出力手段に送って再生出力する手段と
を具備することを特徴とするマルチメディア情報受信装置。Output means;
Means for receiving a plurality of types of encoded information, wherein at least one type of encoded information is added with a time for reproducing the information and time reference reference information;
Means for decoding the encoded information;
Means for correcting the time when an error in the time of reproduction is detected, sending the decoded information to the output means at the corrected time of reproduction and outputting the reproduced information, and before the correction, It is determined from the time reference information whether or not the encoded information has continuity, and if it is determined that there is no continuity, the decoded information is sent to the output unit at the time of the reproduction. And a means for reproducing and outputting.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003046800A JP4127799B2 (en) | 2003-02-25 | 2003-02-25 | Decoding and playback device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003046800A JP4127799B2 (en) | 2003-02-25 | 2003-02-25 | Decoding and playback device |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2004260374A true JP2004260374A (en) | 2004-09-16 |
JP2004260374A5 JP2004260374A5 (en) | 2006-04-13 |
JP4127799B2 JP4127799B2 (en) | 2008-07-30 |
Family
ID=33113210
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003046800A Expired - Fee Related JP4127799B2 (en) | 2003-02-25 | 2003-02-25 | Decoding and playback device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4127799B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101924941A (en) * | 2010-08-30 | 2010-12-22 | 深圳市宏电技术股份有限公司 | Multimedia decoding method, system and multimedia play equipment |
-
2003
- 2003-02-25 JP JP2003046800A patent/JP4127799B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP4127799B2 (en) | 2008-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4612171B2 (en) | Video decoding / playback module, playback time management program, and multimedia information receiving apparatus | |
JP4001091B2 (en) | Performance system and music video playback device | |
JP4481444B2 (en) | Image encoding device | |
US6862045B2 (en) | Moving image decoding and reproducing apparatus, moving image decoding and reproducing method, time control method, computer program product for decoding and reproducing moving image and multimedia information receiving apparatus | |
JP5380862B2 (en) | IP stream transmission / reception system, IP stream reception apparatus, and reception processing timing synchronization method used therefor | |
JP6617809B2 (en) | Decoding device, decoding method, and decoding program | |
US8514945B2 (en) | IP stream tramsmitting/receiving system, IP stream receiving device and receiving process timing synchronization method used for the same | |
US20080013512A1 (en) | Wireless Communication System | |
EP1705842B1 (en) | Apparatus for receiving packet stream | |
US11128911B2 (en) | Decoding device, reception device, transmission device, transmission/reception system, decoding method, and storage medium having decoding program stored therein | |
JP2008061150A (en) | Receiver and information processing method | |
KR100864009B1 (en) | Lip-synchronize method | |
JP4127799B2 (en) | Decoding and playback device | |
JP2001007786A (en) | Data communication method and system | |
JP2004015553A (en) | Synchronization control method and apparatus thereof, synchronization reproduction apparatus and tv receiving apparatus using the control method and apparatus | |
JP2823806B2 (en) | Image decoding device | |
JP2001111610A (en) | Receiver for information data transmission system | |
JP4241220B2 (en) | Digital recording / reproducing apparatus and reproducing rate control method | |
JP2001339688A (en) | Playback equipment of transport stream | |
JPH11127435A (en) | Device for decoding compression-encoded video and voice signal | |
JP2004312419A (en) | Encoding and decoding method, encoding device, and decoding device | |
JP4820877B2 (en) | Information data receiving apparatus, information data receiving method, information data receiving program, and recording medium storing information data receiving program | |
JP2000049726A (en) | Multiplexing device and method therefor | |
JP2005136913A (en) | Digital broadcast receiving apparatus and its control method | |
JP4390666B2 (en) | Method and apparatus for decoding and reproducing compressed video data and compressed audio data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20050415 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20050606 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060223 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060223 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080509 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080512 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110523 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110523 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110523 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120523 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120523 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130523 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130523 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140523 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |