JP3948597B2 - 動画像圧縮符号化送信装置、受信装置および送受信装置 - Google Patents
動画像圧縮符号化送信装置、受信装置および送受信装置 Download PDFInfo
- Publication number
- JP3948597B2 JP3948597B2 JP2000063438A JP2000063438A JP3948597B2 JP 3948597 B2 JP3948597 B2 JP 3948597B2 JP 2000063438 A JP2000063438 A JP 2000063438A JP 2000063438 A JP2000063438 A JP 2000063438A JP 3948597 B2 JP3948597 B2 JP 3948597B2
- Authority
- JP
- Japan
- Prior art keywords
- frame rate
- encoding
- maximum
- unit
- transmission
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
【発明の属する技術分野】
この発明は、動画像圧縮符号化送信装置、受信装置および送受信装置に関し、特に、動画像を圧縮符号化し、圧縮ビットストリームをリアルタイムに伝送する圧縮符号化装置、受信した圧縮ビットストリームをリアルタイムに復号し、表示する受信装置およびこれらの両機能を備えた送受信装置に関する。
【0002】
【従来の技術】
送信側である従来の動画像圧縮符号化送信装置では、一般的に、送信すべき映像信号を所定のビットレートで圧縮し、圧縮されたビットストリームを送出する。ISOのMPEG−1、2、4やITU−TのH.261、H.263に代表される動き補償符号化では、符号化時に行う処理として、画面内の局所領域の動きを捉える動きベクトル検出処理、前フレームに動きベクトルを適用し現フレームを予測する動き補償、動き補償画像と現フレームとの差分に対して施すDCT、DCTされた信号に対して施す量子化、量子化された信号値、動きベクトルおよびその他制御情報を符号出力する可変長符号化、可変長符号を一時蓄積するバッファ、ビットレートを一定に保つレート制御等から構成されている。
【0003】
その際、圧縮時の情報発生量や入力画像の性質に基づき、量子化の精度を変え画像品質を制御し、あるいはフレームスキップ数(フレームレート)を変えることで、所定のビットレートに収まるよう符号量制御を行っている。発生符号量を減らす場合は、画質を犠牲にして量子化精度を下げるか、あるいは動きを犠牲にしてフレームスキップ数を大きく(フレームレートを低く)する。逆に、発生符号量を増やす場合には、量子化精度を上げて画質を向上させるか、あるいはフレームスキップ数を小さく(フレームレートを高く)する。
【0004】
一方、受信側においては、伝送されたビットストリームを逐次復号し、符号化時の逆の処理を行って画像フレームを構成し、これを表示する。
【0005】
【発明が解決しようとする課題】
ところで、従来装置では、処理能力の大きく異なる送信装置および受信装置、あるいは送受信装置同士が通信を行った場合、次のような問題が発生する。
【0006】
片方向通信の場合であって、送信側の処理能力が受信側に比べて大幅に高い場合には、送信側では多くのフレームの符号化処理が可能になる。このため、送信側がフレームレートの高い符号化ビットストリームを送出した場合には、受信側は処理能力が低く、受信された符号化ビットストリームのフレームレートで復号処理が行えないため、表示遅延の蓄積やその他の受信機能の破綻を来たすおそれがある。
【0007】
また、特に不特定多数の計算機上で実行されるソフトウェアの場合には、設定された符号化フレームレートよりも計算機の処理能力が低い場合が存在し得るが、この場合、符号化処理が計算機CPU処理を100%占有してしまい、リアルタイム処理が行えないばかりか、その他のシステム維持のための処理が一切行えなくなり、装置の動作が不安定になるなどの問題を生じる。
【0008】
一方、双方向通信の場合には、双方が符号化処理、復号化処理を同時に行う必要があるため、処理能力に差がある場合は、上記した現象が発生する可能性が一層高くなる。
【0009】
処理量が多すぎる場合、リアルタイム処理に破綻を来たさないよう処理量を軽減させるためには、フレームの処理数(フレームレート)を減らす手立てが考えられるが、従来の装置において、処理の遅い側で受信ビットストリーム上からフレームを間引くことは、フレーム間予測が行われているため一般的には不可能である。一方、送信フレームを間引くことは有効であるが、例えば双方向通信において、処理の遅い側が一方的に送信フレームを間引いてしまうと、相互端末間のフレームレートに大きな差が出てしまうことが考えられ、性能のバランスを大きく欠くという問題がある。
【0010】
本発明の目的は、従来技術の問題点を除去し、処理能力が異なる端末間においても安定した動画像通信を可能とする動画像圧縮符号化送信装置、受信装置および送受信装置を提供することにある。
【0015】
【課題を解決するための手段】
前記した目的を達成するために、本発明は、通信動作中に動画像フレームの符号化処理時間および復号化処理時間から復号化処理可能最大フレームレートを算出する算出手段と、通信相手側の復号化処理可能最大フレームレートを受信ビットストリームから多重分離受信する受信手段と、前記算出手段により算出された復号化処理可能最大フレームレートと前記受信手段により受信された通信相手側の復号化処理可能最大フレームレートとを比較し小さい方を取得する取得手段と、前記取得手段により取得したフレームレートを最大のフレームレートとして符号化制御を行う符号化制御手段とを具備した点に特徴がある。
【0016】
この特徴によれば、符号化処理に必要な時間と復号化処理に必要な時間とから最大の復号化可能フレームレートを算出し、この算出値と、通信相手側から通知される最大の復号化可能フレームレートとを比較し、小さいほうのフレームレートを最大のフレームレートとして符号化制御を行うことができる。このため、双方の端末間で処理能力が異なる場合においても、処理能力を超えることなく、安定した通信が行えるようになる。
【0017】
【発明の実施の形態】
以下に、図面を参照して、本発明を詳細に説明する。図1は、本発明の動画像圧縮符号化送信装置の一実施形態の構成を示すブロック図である。
【0018】
本実施形態の圧縮符号化送信装置は、公知の画像符号化部1、最大符号化処理フレームレート算出部2、比較部3、および多重化部4で構成される。
【0019】
前記画像符号化部1としては、ISOのMPEG−4や、ITU−TのH.261、H.263に代表される動き補償符号化装置を用いることができる。その一具体例の構成と動作を、図2を参照して説明する。
【0020】
入力画像信号は、フレームスキップ部101でバッファメモリ113から得られる制御信号に従ってフレームを間引かれ、現フレームメモリ102に蓄積される。動き検出部103は、現フレームメモリ102から読み出された画像信号と、フレームメモリ104から読み出された前フレームの画像信号とから画像の信号の動き検出を行い、動きベクトルmvを動き補償部105と可変長符号化部106に出力する。動き補償部105は該動きベクトルmvを用いて、前記前フレームの画像信号を動き補償し、動き補償された画像信号を減算器107と加算器108に出力する。
【0021】
符号化モード判定部109は、現フレーム画像信号と減算器107から出力された差分誤差信号とから、符号化モードを判定し、イントラモードであれば、スイッチ手段110をIntra 側に、一方インターモードであればInter 側に接続する。また、スイッチ手段114も、該スイッチ手段110と同期して同様に切替えられる。DCT部111は高い符号化効率を得るために入力してきた画像信号あるいは差分誤差信号をDCTし、量子化部112は該DCTされた信号を量子化する。該量子化部112から出力された量子化係数と前記動きベクトルは可変長符号化部106でハフマン符号等の可変長符号に変換されて、バッファメモリ113で一時蓄積され、次いで所定の伝送レートでビットストリームとして出力される。該ビットストリームは、図1の多重化部4で、前記最大符号化処理フレームレート算出部2からの符号化処理可能最大フレームレートFRmax と多重化され、ネットワーク等に出力される。
【0022】
また、逆量子化部115は量子化部112から出力された量子化係数を逆量子化し、逆量子化により得られたDCT係数は逆DCT部116で画像信号に復元される。復元された画像信号は、符号化モードがイントラの場合にはそのまま、一方インターの場合には加算器108で動き補償された画像信号に加算されて、フレームメモリ104に蓄積される。フレーム符号化時間測定部117は、前記現フレームメモリ102から計測開始トリガ信号a、フレームメモリ104から計測終了トリガ信号bを得て、フレーム符号化時間TEを測定し、図1の最大符号化処理フレームレート算出部2に出力する。
【0023】
次に、本実施形態の要部の動作を、図1を参照して説明する。
【0024】
最大符号化処理フレームレート算出部2は、画像符号化部1からフレーム符号化時間TEを取得し、リアルタイム符号処理可能な最大フレームレートFRmaxを算出する。該最大フレームレートFRmax は、下記の(1) 〜(3) 式のいずれかから求めることができる。
FRmax =b/TE …(1)
FRmax =b/ave TE …(2)
FRmax =b/max TE …(3)
【0025】
ここに、bはマージン係数(=0.0〜1.0)であり、ave TE およびmaxTE は、それぞれ、フレーム符号化時間TEの平均および最大時間を示す。
【0026】
最大符号化処理フレームレート算出部2で求められた最大フレームレートFRmax は比較部3で、受信側装置から送られてきた最大復号化処理フレームレートFRmax'と比較され、小さい方のフレームレートcが前記画像符号化部1のフレームスキップ部101に送られる。フレームスキップ部101は、該フレームレートcに従って、入力画像信号をフレームスキップする。また、前記最大フレームレートFRmax は、多重化部4に送られ、前記ビットストリームと多重化される。
【0027】
以上の説明から明らかなように、本実施形態によれば、符号化処理に必要な時間から最大の符号化可能フレームレートを算出し、この算出値と受信側から通知される最大の復号化可能フレームレートとを比較し、小さいほうのフレームレートを最大のフレームレートとして符号化制御を行うことで、送受信間で処理能力が異なる場合においても処理能力を超えることなく安定した通信が行えるようになる。したがって、例えば、送信側の処理能力が受信側に比べて大幅に高い場合であっても、送信側の符号化処理は、受信側の最大復号化処理能力により抑制されるので、受信側装置は受信した符号化ビットストリームの復号処理に自己の処理能力を使い果たして、表示遅延の蓄積やその他の受信機能の破綻を来たすおそれはなくなる。
【0028】
次に、本発明の第2実施形態を、図3を参照して説明する。この実施形態は、片方向通信の動画像圧縮符号化受信装置を示すものであり、画像復号化部11と最大復号化処理フレームレート算出部12とから構成される。
【0029】
図4は、前記画像復号化部11の一例を示すブロック図である。可変長復号化部201は、入力してきたビットストリームを可変長復号化する。該可変長復号化により得られた画像情報pは逆量子化部202に送られ、制御情報qはスイッチ手段204に送られ、動きベクトルrは動き補償部206に送られる。スイッチ手段204は、前記制御信号qがイントラを示す場合にはIntra 側に、インターを示す場合にはInter 側に接続される。逆量子化部202は逆量子化によりDCT係数を出力し、該DCT係数は逆DCT部で画像信号に復号される。
【0030】
復号された画像信号は画面出力として出力されると共に、フレームメモリ207に蓄積される。該フレームメモリ207から読み出された画像信号は、前記動きベクトルrにより、動き補償部206で動き補償され、加算器205に送られる。加算器205は、インターモード時に、該動き補償された画像信号と、逆DCT部から出力された差分誤差信号の復号信号とを加算して復号画像信号を生成する。フレーム復号化時間測定部208は、可変長復号化部201からの計測開始トリガ信号sによりフレーム復号化時間の計測を開始し、計測終了トリガ信号tにより該計測を終了し、フレーム復号時間TDを出力する。
【0031】
次に、本実施形態の要部の動作を、図3を参照して説明する。
【0032】
最大復号化処理フレームレート算出部12は、画像復号化部11のフレーム復号化時間測定部208からフレーム復号化時間TDを取得し、下記の(4) 〜(6)式のいずれかから、最大復号化処理フレームレートFRmax'を求める。
FRmax'=b/TD …(1)
FRmax'=b/ave TD …(2)
FRmax'=b/max TD …(3)
【0033】
ここに、bはマージン係数(=0.0〜1.0)であり、ave TD およびmaxTD は、それぞれ、フレーム復号化時間TDの平均および最大時間を示す。最大復号化処理フレームレート算出部12で求められた最大復号化処理フレームレートFRmax'は、前記第1の実施形態で説明した圧縮符号化送信装置に送られる。
【0034】
以上のように、本実施形態によれば、動画像圧縮符号化受信装置は自身のフレーム復号化能力を送信側装置に連絡し、該自身のフレーム復号化能力に応じたフレームレートのビットストリームを受信できるので、受信した符号化ビットストリームの復号処理に自己の処理能力を使い果たすおそれはなくなる。
【0035】
次に、本発明の第3実施形態を、図5を参照して説明する。この実施形態は、双方向通信の動画像圧縮符号化送受信装置を示すものであり、画像符号化部1、最大復号化処理フレームレート算出部5、比較部3、多重化部4、画像復号化部11、および多重分離部13から構成されている。なお、図5中の図1、図3と同一符号は、同一または同等物を示す。
【0036】
最大復号化処理フレームレート算出部5には、画像符号化部1から得られるフレーム符号化処理時間TEと、画像復号化部11から得られるフレーム復号化処理時間TDが入力する。最大復号化フレームレート算出部5では、これらの値からリアルタイム復号処理可能な最大フレームレートFRmax を算出する。最大復号化処理フレームレートFRmax は、aを符号化処理優先係数(0.0〜1.0、通常0.5)、bをマージン係数(0.0〜1.0)とすると、次の(7) 〜(9)式のいずれかで算出される。
FRmax =b(1−a)/{a・TE +(1−a)・TD } …(7)
FRmax =b(1−a)/{a・ave TE +(1−a)・ave TD } …(8)
FRmax =b(1−a)/{a・max TE +(1−a)・max TD } …(9)
【0037】
(7) 〜(9) 式の符号化処理優先係数aは通常0.5とし、符号化処理フレームレートと復号化処理フレームレートの最大数は同数と設定するのが好適である。aを0.5より大きくすれば符号化処理フレーム数が優先され、0.5より小さくすると復号化処理フレーム数が優先されることとなる。一方、マージン係数bは最大1.0とし、符号化復号化処理の他に、処理余力を残したい場合に、必要とする処理余力に応じてその値を1より小さい値に設定する。
【0038】
ここで得られた最大復号化処理フレームレートFRmax は、多重化部4にて伝送路に多重送出される。一方多重分離部13により受信されたFRmax'は、比較部3で前記FRmax と比較され、小さい方の値が画像符号化部1へと入力される。画像符号化部1ではこの入力値を最大のフレームレートとしてフレームスキップを行い、符号化制御を行う。
【0039】
次に、前記(7) 〜(9) 式以外にも、下記の(10)〜(12)式のいずれかも用いることができる。すなわち、システムの1秒あたりの総クロック数をClkCPU 、1フレームの符号化処理の所要クロック数をClkE 、復号化処理の所要クロック数をClkD 、希望符号化フレームレートをFRE とすると、最大フレームレートFRmax は、次の(10)〜(12)式のいずれかからも算出することができる。
FRmax =(b・ClkCPU −FRE ・ClkE )/ClkD …(10)
FRmax =(b・ClkCPU −FRE ・ave ClkE )/ave ClkD …(11)
FRmax =(b・ClkCPU −FRE ・max ClkE )/max ClkD …(12)
ここに、ave ClkE およびave ClkD は、それぞれ、ClkE およびClkD の平均を表し、max ClkE およびmax ClkD は、それぞれ、ClkE およびClkD の最大値を表す。
【0040】
(10)〜(12)式において、最大復号化処理フレームレートFRmax は、通常はFRmax=FREとして算出する(a=0.5に相当)。なお、片方向通信の場合には、片方向受信側ではClkE=0として、最大復号化処理フレームレートFRmax'を算出し、片方向送信側ではFRmax=0としてFRE を解き、この算出値を、希望符号化フレームレートとする。マージン係数bは最大1.0とし、符号化復号化処理の他に処理余力を残したい場合に、残したい処理余力に応じてbの値を設定する。
【0041】
この実施形態によれば、符号化処理に必要な時間と復号化処理に必要な時間とから最大の復号化可能フレームレートを算出し、この算出値と、通信相手側から通知される最大の復号化可能フレームレートとを比較し、小さいほうのフレームレートを最大のフレームレートとして符号化制御を行うことで、双方の端末間で処理能力が異なる場合においても処理能力を超えることなく安定した通信が行えるようになる。
【0042】
【発明の効果】
以上の説明から明らかなように、本発明によれば、動画像圧縮符号化送信装置は、自身の符号化処理可能最大フレームレートと受信側から通知される最大の復号化可能フレームレートとを比較し、小さいほうのフレームレートを最大のフレームレートとして符号化制御を行うようにしたので、送受信間で処理能力が異なる場合においても、処理能力を超えることなく、安定した通信が行えるようになる。
【0043】
また、本発明によれば、動画像圧縮符号化受信装置は、自身のフレーム復号化能力を送信側装置に連絡し、自身のフレーム復号化能力に応じたフレームレートのビットストリームを受信できるので、受信した符号化ビットストリームの復号処理に自己の処理能力を使い果たすおそれはなくなる。
【0044】
また、本発明によれば、動画像圧縮符号化送受信装置は、符号化処理に必要な時間と復号化処理に必要な時間とから最大の復号化可能フレームレートを算出し、この算出値と、通信相手側から通知される最大の復号化可能フレームレートとを比較し、小さいほうのフレームレートを最大のフレームレートとして符号化制御を行うことができるようになる。このため、双方の端末間で処理能力が異なる場合においても、処理能力を超えることなく、両端末間で、安定した通信が行えるようになる。
【図面の簡単な説明】
【図1】 本発明の第1実施形態の構成を示すブロック図である。
【図2】 図1の画像符号化部の一具体例の構成を示すブロック図である。
【図3】 本発明の第2実施形態の構成を示すブロック図である。
【図4】 図3の画像復号化部の一具体例の構成を示すブロック図である。
【図5】 本発明の第3実施形態の構成を示すブロック図である。
【符号の説明】
1…画像符号化部、2…最大符号化処理フレームレート算出部、3…比較部、4…多重化部、5…最大復号化処理フレームレート算出部、11…画像復号化部、12…最大復号化処理フレームレート算出部、13…多重分離部。
Claims (2)
- 通信動作中に動画像フレームの符号化処理時間および復号化処理時間から復号化処理可能最大フレームレートを算出する算出手段と、
通信相手側の復号化処理可能最大フレームレートを受信ビットストリームから多重分離受信する受信手段と、
前記算出手段により算出された復号化処理可能最大フレームレートと前記受信手段により受信された通信相手側の復号化処理可能最大フレームレートとを比較し小さい方を取得する取得手段と、
前記取得手段により取得したフレームレートを最大のフレームレートとして符号化制御を行う符号化制御手段とを具備したことを特徴とする動画像圧縮符号化送受信装置。 - 請求項1に記載の動画像圧縮符号化送受信装置において、
前記算出手段により算出された復号化処理可能最大フレームレートを送信ビットストリームに多重し通信相手に通知する手段を、さらに具備したことを特徴とする動画像圧縮符号化送受信装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000063438A JP3948597B2 (ja) | 2000-03-08 | 2000-03-08 | 動画像圧縮符号化送信装置、受信装置および送受信装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000063438A JP3948597B2 (ja) | 2000-03-08 | 2000-03-08 | 動画像圧縮符号化送信装置、受信装置および送受信装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001251621A JP2001251621A (ja) | 2001-09-14 |
JP3948597B2 true JP3948597B2 (ja) | 2007-07-25 |
Family
ID=18583302
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000063438A Expired - Fee Related JP3948597B2 (ja) | 2000-03-08 | 2000-03-08 | 動画像圧縮符号化送信装置、受信装置および送受信装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3948597B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104754339A (zh) * | 2013-12-26 | 2015-07-01 | 成都鼎桥通信技术有限公司 | I帧调整方法、装置及系统 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4892541B2 (ja) * | 2002-02-18 | 2012-03-07 | 株式会社日立国際電気 | 画像伝送方法および画像伝送システム |
MXPA05002511A (es) | 2002-09-05 | 2005-08-16 | Agency Science Tech & Res | Un metodo y un aparato para controlar la velocidad de una secuencia de video; un dispositivo que codifica un video. |
KR101174131B1 (ko) | 2004-10-14 | 2012-08-14 | 삼성전자주식회사 | 멀티미디어 방송 수신시의 에러 검출 방법 및 장치 |
WO2010024102A1 (ja) * | 2008-08-28 | 2010-03-04 | 住友電気工業株式会社 | 動画像データの配信方法 |
-
2000
- 2000-03-08 JP JP2000063438A patent/JP3948597B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104754339A (zh) * | 2013-12-26 | 2015-07-01 | 成都鼎桥通信技术有限公司 | I帧调整方法、装置及系统 |
CN104754339B (zh) * | 2013-12-26 | 2018-02-13 | 成都鼎桥通信技术有限公司 | I帧调整方法、装置及系统 |
Also Published As
Publication number | Publication date |
---|---|
JP2001251621A (ja) | 2001-09-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US5185819A (en) | Video signal compression apparatus for independently compressing odd and even fields | |
JPH10257502A (ja) | 階層画像符号化方法、階層画像多重化方法、階層画像復号方法及び装置 | |
JPH09121358A (ja) | 画像符号化及び復号化装置と方法 | |
WO1994024822A1 (en) | Method and apparatus for coding image, and image recording medium | |
JPH0686262A (ja) | 画像符号化装置 | |
JP2000013799A (ja) | 動き補償符号化復号化装置及びその方法 | |
US8311107B2 (en) | Image data compression device, compressing method, image data decompression device, decompressing method, and recording medium | |
US20010008544A1 (en) | Picture encoding system conversion device and encoding rate conversion device | |
JP6875821B2 (ja) | 画像符号化装置、撮像装置、画像符号化方法およびプログラム | |
JP3668110B2 (ja) | 画像伝送システムおよび画像伝送方法 | |
JP2684941B2 (ja) | 画像符号化方法及び画像符号化装置 | |
JP2007507128A (ja) | 参照ピクチャのリフレッシュを遅延させて行うビデオ画像の符号化および復号化 | |
JP4619479B2 (ja) | 統計的多重化システム | |
KR0152013B1 (ko) | 가변장부호화를 고려한 움직임추정장치 | |
KR20040003880A (ko) | 비디오 코덱의 지연시간 단축 장치 | |
JP3948597B2 (ja) | 動画像圧縮符号化送信装置、受信装置および送受信装置 | |
JP2002010261A (ja) | 画像符号化方式変換装置 | |
KR20060059774A (ko) | 시간적 분해레벨이 다른 픽처의 모션벡터를 이용하는영상신호의 엔코딩/디코딩 방법 및 장치 | |
KR20040069445A (ko) | 낮은 메모리 대역폭을 갖는 동영상 압축 장치와 그 방법 | |
KR100394014B1 (ko) | 영상 변환 부호화 장치 | |
JPH07222173A (ja) | 画像処理装置 | |
US20090290636A1 (en) | Video encoding apparatuses and methods with decoupled data dependency | |
JP3141149B2 (ja) | 画像符号化装置 | |
JPH07107464A (ja) | 画像符号化装置および復号化装置 | |
KR100397133B1 (ko) | 영상 데이터 압축 전송 시스템 및 그 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060104 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060118 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060317 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060927 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061124 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070411 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070412 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100427 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110427 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130427 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160427 Year of fee payment: 9 |
|
LAPS | Cancellation because of no payment of annual fees |