JP4511649B2 - 画像符号化方式および画像符号化装置 - Google Patents

画像符号化方式および画像符号化装置 Download PDF

Info

Publication number
JP4511649B2
JP4511649B2 JP02599199A JP2599199A JP4511649B2 JP 4511649 B2 JP4511649 B2 JP 4511649B2 JP 02599199 A JP02599199 A JP 02599199A JP 2599199 A JP2599199 A JP 2599199A JP 4511649 B2 JP4511649 B2 JP 4511649B2
Authority
JP
Japan
Prior art keywords
encoding
encoded
unit
input
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP02599199A
Other languages
English (en)
Other versions
JP2000224587A (ja
Inventor
博文 西川
光太郎 浅井
俊一 関口
文伸 小川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP02599199A priority Critical patent/JP4511649B2/ja
Publication of JP2000224587A publication Critical patent/JP2000224587A/ja
Application granted granted Critical
Publication of JP4511649B2 publication Critical patent/JP4511649B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、デジタル圧縮を施された符号化画像を再び符号化する際に、再度の符号化における符号化劣化を最小限に抑えることを可能とする、画像符号化方式および符号化装置に関るものである。
【0002】
【従来の技術】
図6に、発信局Aと着信局Cとの間を中継する中継局Bに設けられた特開平2−179186号公報に示された従来の画像符号化装置を示す。図において、入力画像101に対し発信局Aの画像符号化器100が符号化処理を施し画像符号化データ(伝送情報)102を生成して中継局Bに伝送する。中継局Bでは、画像符号化装置の画像復号器110がその符号化データ(伝送情報)102に対し復号処理を施して、復号処理の出力である復号画像103を画像符号化器100へ出力し、画像符号化器100がその復号画像103に対し再度の符号化処理を施して再符号化データ(伝送情報)104として着信局Cへ伝送する。着信局Cでは、画像復号器110がその再符号化データ(伝送情報)104を復号して画像を得るようにしている
【0003】
上記従来例の一連の動作の中で、中継局Bで行なっている復号処理、再度の符号化処理が、再符号化処理にあたる。
【0004】
このような再符号化処理は、例えば、復号中継機能をもつ中継局Bを用いてテレビ会議を行う場合において、発信局Aおよび着信局Cとの間で符号化方式が異なる場合に、符号化データ発生量や、各種パラメータ(画像サイズやフレームレートなど)を変更するために一旦復号画像103を得た後、再符号化をして整合を図るために行われるものである。
【0005】
【発明が解決しようとする課題】
しかし、上記のような従来の符号化画像の再符号化方式では、画像符号化データを中継したり変換するために一旦画像に復号した後に、復号画像の内容に関り無く、再度の符号化処理を施すため、再度の符号化処理による符号化画像の画質が劣化するという問題があった。
【0006】
また、符号化された画像データを編集する場合、符号化データのまま編集が可能な特殊な機材を所有していない場合には、従来のビデオ機器を使用せざるを得ないが、この様な場合にも、符号化データを一旦復号し、復号画像上において映像編集を行ない、編集を行なった画像データについて再度符号化を行なわなければならないため、上記の場合と同様に、再度の符号化処理による符号化画像の画質が劣化するという問題が発生する。
【0007】
そこで、この発明が解決しようとする課題は、符号化画像の再符号化において、再符号化時の画質劣化を少なくするために、入力される符号化画像から、以前に施された符号化時に使用された符号化パラメータ情報を抽出し、抽出した符号化パラメータ情報を利用した再符号化処理を行い、再符号化された符号化データを生成する画像符号化方式および画像符号化装置を提供することにある。
【0008】
【課題を解決するための手段】
上記課題を解決するため、本発明では、少なくとも一度過去に符号化されその後復号された入力符号化画像信号を直交変換してDCT係数を求め、このDCT係数のDC成分およびAC成分を出力する2次元DCT部と、この2次元DCT部から出力されたDCT係数のうちDC成分を画像単位でまとめて入力し、この入力されたDC成分の値毎の頻度を出力するDC成分周波数解析部と、このDC成分周波数解析部から出力されたDC成分の値毎の頻度に応じて、前記入力符号化画像信号を以前に符号化したときに使用された符号化ピクチャタイプを推測し、この符号化ピクチャタイプを符号化パラメータとして出力するスペクトラルパターン解析部と、このスペクトラルパターン解析部から出力された符号化パラメータとしての前記符号化ピクチャタイプに基づき、対応する前記入力符号化画像信号を符号化する符号化部とを備え、前記スペクトラルパターン解析部は、前記2次元DCT部から出力されるDCT係数のDC成分とAC成分とを符号化の際のブロック単位に入力し、このブロック単位に前記入力符号化画像信号を以前に符号化したときに使用された量子化ステップサイズを推定して符号化パラメータとして出力するとともに、前記符号化部は、前記スペクトラルパターン解析部から出力された前記符号化ピクチャタイプがフレーム内符号化画像である前記入力符号化画像信号については、前記量子化ステップサイズを使用して符号化を行うことを特徴とする。
【0024】
【発明の実施の形態】
実施の形態1.
以下、本発明の実施の形態1を、図を用いて詳細に説明する。
図1は、本発明の実施の形態1の画像符号化装置の概略ブロック図を示したものである。図において、1は以前に符号化・復号処理を施された入力符号化画像信号、2は符号化画像解析部、3は符号化部、4は符号化パラメータ、5は符号化制御部、6は再符号化データである。
【0025】
ここで、この画像符号化装置には、入力符号化画像信号1が直接入力するように復号器(図示せず。)が接続されていても、また、符号化および復号された画像データが編集された後入力するようにビデオ編集機器(図示せず。)やビデオ再生機器(図示せず。)等と接続されるように構成されていても勿論良い。また、この画像符号化装置は、図6の従来技術の図に示すように中継局Bに画像号化器100として画像復号器110と共に設けられていても、また画像復号器とは別々に相互に関係なく設けられるものでもどちらでも良く、要は、画像復号器によっていったん符号化画像信号を復号した復号画像信号を、直接入力、または編集や媒体等を介して間接に入力するのを問わないものである。
【0026】
次に動作を説明する。
まず、以前に符号化・復号処理を施された入力符号化画像信号1は、符号化画像解析部2と、画像符号化部3とに入力される。符号化画像解析部2では、入力された符号化画像信号1を信号処理することにより以前の符号化において使用された符号化パラメータ4を抽出する。抽出された符号化パラメータ4は、符号化部3の一部である符号化制御部5に与えられ、再符号化の制御を行なう。符号化部3により生成された再符号化データ6が再符号化器から出力される。
【0027】
図2に、符号化部3の構成の一例を示す。
この符号化部3は、たとえばISO(国際標準化機構)とIEC(国際電気標準会議)の合同会議による国際標準化方式MPEG(Moving Pictures Expert Group1)とに従った構成のものである。図において、202は減算器、203は動き補償予測器(MC)、204は予測信号、205は予測誤差信号、206はDCT部、207は変換係数、208は量子化部、210は量子化インデックス、211はバッファ、212は逆量子化部、213は変換係数、214は逆DCT(IDCT)部、215は局部予測誤差信号、216は加算器、217は局部復号画像、218はフレームメモリである。尚、図1でも説明したように、1は入力符号化画像信号、5は符号化制御部、6は再符号化データである。
【0028】
次に動作を説明する。
まずディジタル化された入力符号化画像信号1が減算器202に入力すると、減算器202は、動き補償予測器203からの予測信号204との差を演算して、予測誤差信号205を生成する。
【0029】
次に、この予測誤差信号205がDCT部206に入力して、DCT部206は、例えば、符号化制御部5からの符号化パラメータ4の指示による符号化モードに従って変換処理を行い、変換係数207を生成する。
【0030】
次に、この変換係数207が量子化部208に入力して、量子化部208は、その変換係数207に対して、符号化制御部5からの符号化パラメータ4の指示による量子化ステップサイズに従い、量子化処理を施す。量子化処理された量子化インデックス210は、バッファ211を介して、様々な符号化パラメータ情報と共に再符号化データ6として送られる。
【0031】
また、量子化インデックス210は、逆量子化部212において逆量子化され、得られた変換係数213は、逆DCT部214において逆DCTを施され、局部予測誤差信号215を生成する。局部予測誤差信号215は加算器216に入力され、動き補償予測器203からの予測信号204と加算され、局部復号画像217を生成し、フレームメモリ218に格納する。動き補償予測器203では、フレームメモリ218に対して、入力画像信号1とのパターンマッチング演算を行ない、最小誤差を与える予測信号204を生成する。
【0032】
従って、この実施の形態1によれば、符号化画像解析部2が入力された符号化画像信号を生成した以前の符号化器で使用された符号化パラメータ4を推測し、符号化制御部5の制御によりその推測された符号化パラメータ4を使用して再符号化することが可能となり、符号化劣化を最小限に抑えた再符号化が可能となる。
【0033】
実施の形態2.
本実施の形態2は、図1に示す実施の形態1の画像符号化装置の符号化画像解析部2の一例を示したものである。
【0034】
図3は、本実施の形態2の符号化画像解析部2の一例を示したものである。図において、1は入力符号化画像信号、8は2次元DCT部、9はDC成分周波数解析部、10は周波数スペクトラム、11はDC係数、12はスペクトラムパターン解析部である。尚、図1でも説明したように、1は入力符号化画像信号、4は符号化パラメータである。
【0035】
次に動作を説明する。
符号化画像解析部2に入力された入力符号化画像信号1は、2次元DCT部8に入力され、空間成分から2次元の周波数領域へと変換される。変換出力であるDCT係数のうち、DC成分11だけを画像単位でまとめてDC成分周波数解析部9へと入力する。
【0036】
DC成分周波数解析部9では、DC成分の頻度を解析し、その周波数スペクトラム10を出力する。出力された周波数スペクトラム10はスペクトラムパターン解析部12に入力され、解析されたスペクトラムパターンに応じて、入力された符号化画像信号の符号化タイプを判断し、推定した符号化ピクチャタイプ情報を符号化パラメータ4として出力される。
【0037】
符号化パラメータ4として出力された符号化ピクチャタイプ情報は、図1に示すように符号化制御部5に入力され、ピクチャ単位の符号化制御に使用される。
【0038】
例えば、入力符号化画像信号がフレーム内符号化ピクチャであると推定される場合には、そのピクチャをフレーム間符号化ピクチャに比べて品質を高く符号化するようにする。また、フレーム間符号化ピクチャであると推定された場合でも、例えば、Pピクチャ(前方向動き補償フレーム間予測符号化モードフレーム画像)の場合には、Bピクチャ(両方向動き補償フレーム間予測符号化モードフレーム画像)の場合よりも、品質を高く符号化するようにしても良い。
【0039】
これにより、予測に使用されるフレーム内符号化ピクチャ等については、より高画質に符号化することができ、トータルとしての符号化特性を向上させることができる。
【0040】
その理由について、図を参照して説明する。
図4は、MPEG動き補償予測方式における予測方式によるピクチャを示すものである。
MPEG動き補償予測方式では、3種類の符号化モード、すなわちフレーム内動き補償予測方式と、前方向動き補償フレーム間予測方式と、両方向動き補償フレーム間予測とがある。図において、Iピクチャ(フレーム内符号化モードフレーム画像)F(0)とF(9)は、動き補償予測をしない。Iピクチャは、動き補償予測の参照画像として使用されるため、復号画像の画質を高める必要があり、一方で動き補償予測をしないため、符号量はかなり多くなる。
【0041】
これに対し、Pピクチャ(前方向動き補償フレーム間予測符号化モードフレーム画像)F(3)とF(6)は、時間的に前にある画像だけを用い、動き補償予測を行う。ここで、Pピクチャは、動き補償予測の参照画像として使用されることがあるため、ある程度の復号画像の画質を高める必要がある。
【0042】
また、Bピクチャ(両方向動き補償フレーム間予測符号化モードフレーム画像)F(1)、F(2)、F(4)、F(5)、F(7)およびF(8)は、時間的に前後する2つの画像を用いて動き補償予測を行う。ここで、Bピクチャは、動き補償予測の参照画像として使用されことがないため、粗い量子化を行うことも可能である。両方向から動き補償予測を行うため、たとえば一定の動きをもつシーケンスで前後のIとPピクチャの画質が高ければ、動きベクトルだけで復号画像を得られ符号量は少なくて済む。
【0043】
このため、上述したように、入力符号化画像信号がフレーム内符号化ピクチャであると推定される場合には、そのピクチャをフレーム間符号化ピクチャに比べて品質を高く符号化したり、フレーム間符号化ピクチャであると推定された場合でも、Pピクチャの場合にはBピクチャの場合よりも品質を高く符号化することにより、高画質に符号化することができ、トータルとしての符号化特性を向上させることが可能になる。
【0044】
従って、この実施の形態2によれば、符号化画像解析部2が入力された符号化画像信号を生成した以前の符号化器で使用された符号化パラメータ4を推測する際、符号化ピクチャタイプを推測するので、その推測した符号化ピクチャタイプに応じて入力画像信号を再符号化することにより、符号化劣化を最小限に抑えた再符号化が可能となる。
【0045】
実施の形態3.
本実施の形態3は、図1に示す実施の形態1の画像符号化装置の符号化画像解析部2のさらに別の例を示したものである。
図5は、本実施の形態3の符号化画像解析部2の一例を示したものである。図において、8は2次元DCT部、14はDC/AC係数、15はスペクトラムパターン解析部である。尚、図1でも説明したように、1は入力符号化画像信号、2は符号化画像解析部、4は符号化パラメータである。
【0046】
次に動作を説明する。
まず、符号化画像解析部2に入力された入力符号化画像信号1は、2次元DCT部8に入力され、空間成分から2次元の周波数領域へと変換される。
【0047】
変換出力であるDCT係数のDC/AC係数14は、符号化部3における符号化の際の最小単位のブロック単位にスペクトラムパターン解析部15に入力する。
【0048】
スペクトラムパターン解析部15では、以前の符号化において使用されたブロック単位の量子化ステップサイズを推定し、ブロック単位に推定した量子化ステップサイズ情報16を出力する。
【0049】
出力された量子化ステップサイズ情報16は、図1に示すように符号化制御部5に入力され、ブロック単位の符号化制御に利用される。
【0050】
例えば、入力符号化画像信号と同程度の品質に再符号化しようとする場合、推定された量子化ステップサイズ情報16とほぼ同等の量子化ステップサイズを使用した再符号化を行なうことにより、簡易な符号化制御で品質を保つことが可能となる。
【0051】
従って、この実施の形態3によれば、符号化画像解析部2が入力された符号化画像信号を生成した以前の符号化器で使用された符号化パラメータ4を推測する際、量子化ステップサイズを推測するので、その推測した量子化ステップサイズに応じて入力画像信号を再符号化することにより、符号化劣化を最小限に抑えた再符号化が可能となる。
【0052】
実施の形態4.
本実施の形態4では、図3に示す実施の形態2の符号化画像解析部2および、図5に示す実施の形態3の符号化画像解析部2の両方の機能を併せもつ符号化画像解析部を有することを特徴とする。尚、本実施の形態4の符号化画像解析部の構成は、図3に示す実施の形態2の符号化画像解析部2の構成と、図5に示す実施の形態3の符号化画像解析部2の構成とを並列に設けた構成(ただし、2次元DCT部8は両実施の形態1,2において共通する構成なので、1つあれば十分である。)となるので、図示を省略する。
【0053】
このため、例えば、本実施の形態4の符号化画像解析部は、図2に示す実施の形態2の符号化画像解析部2から推定される符号化ピクチャタイプ情報と、図3に示す実施の形態3の符号化画像解析部から推定される量子化ステップサイズ情報とを符号化パラメータ4として出力することになり、符号化制御部5がその符号化パラメータ4を使用して符号化部3における符号化を制御することによって、例えば、フレーム内符号化画像については、検出された量子化ステップサイズを直に使用して符号化部3で符号化することにより、ほとんど符号化劣化の無い、再符号化を実現することが可能となる。
【0054】
【発明の効果】
以上、説明してきたように、本発明では、以前に符号化された符号化画像信号を入力し、符号化画像解析部により以前の符号化において使用された符号化パラメータを推定し、推定された符号化パラメータを使用して再符号化データを生成するように構成しているので、再符号化による画像品質の劣化を最小限に抑えることが可能となる。
【図面の簡単な説明】
【図1】 本発明の実施の形態1の画像符号化装置の概略ブロック図を示す図。
【図2】 符号化部3の構成の一例を示す図。
【図3】 本実施の形態2の符号化画像解析部2の一例を示す図。
【図4】 MPEG動き補償予測方式における予測方式を示す図。
【図5】 本実施の形態3の符号化画像解析部2の一例を示す図。
【図6】 特開平2−179186号公報に示された従来の画像符号化装置を示す図。
【符号の説明】
1 入力符号化画像信号、2 符号化画像解析部、3 画像符号化部、4 符号化パラメータ、5 符号化制御部、6 再符号化データ、8 2次元DCT部、9 DC成分周波数解析部、10 周波数スペクトラム、11 DC成分、12 スペクトラムパターン解析部、14 DC/AC係数、15 スペクトラムパターン解析部。

Claims (1)

  1. 少なくとも一度過去に符号化されその後復号された入力符号化画像信号を直交変換してDCT係数を求め、このDCT係数のDC成分およびAC成分を出力する2次元DCT部と、
    この2次元DCT部から出力されたDCT係数のうちDC成分を画像単位でまとめて入力し、この入力されたDC成分の値毎の頻度を出力するDC成分周波数解析部と、
    このDC成分周波数解析部から出力されたDC成分の値毎の頻度に応じて、前記入力符号化画像信号を以前に符号化したときに使用された符号化ピクチャタイプを推測し、この符号化ピクチャタイプを符号化パラメータとして出力するスペクトラルパターン解析部と、このスペクトラルパターン解析部から出力された符号化パラメータとしての前記符号化ピクチャタイプに基づき、対応する前記入力符号化画像信号を符号化する符号化部とを備え、
    前記スペクトラルパターン解析部は、前記2次元DCT部から出力されるDCT係数のDC成分とAC成分とを符号化の際のブロック単位に入力し、このブロック単位に前記入力符号化画像信号を以前に符号化したときに使用された量子化ステップサイズを推定して符号化パラメータとして出力するとともに、
    前記符号化部は、前記スペクトラルパターン解析部から出力された前記符号化ピクチャタイプがフレーム内符号化画像である前記入力符号化画像信号については、前記量子化ステップサイズを使用して符号化を行うことを特徴とする画像符号化装置。」
JP02599199A 1999-02-03 1999-02-03 画像符号化方式および画像符号化装置 Expired - Lifetime JP4511649B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP02599199A JP4511649B2 (ja) 1999-02-03 1999-02-03 画像符号化方式および画像符号化装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP02599199A JP4511649B2 (ja) 1999-02-03 1999-02-03 画像符号化方式および画像符号化装置

Publications (2)

Publication Number Publication Date
JP2000224587A JP2000224587A (ja) 2000-08-11
JP4511649B2 true JP4511649B2 (ja) 2010-07-28

Family

ID=12181194

Family Applications (1)

Application Number Title Priority Date Filing Date
JP02599199A Expired - Lifetime JP4511649B2 (ja) 1999-02-03 1999-02-03 画像符号化方式および画像符号化装置

Country Status (1)

Country Link
JP (1) JP4511649B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4107544B2 (ja) 2000-10-23 2008-06-25 三菱電機株式会社 画像信号の再符号化装置
JP4697519B2 (ja) * 2005-02-04 2011-06-08 ソニー株式会社 符号化装置および方法、復号装置および方法、画像処理システム、記録媒体、並びにプログラム
US8238423B2 (en) 2007-09-12 2012-08-07 Sony Corporation Image processing apparatus and method
CN101632307B (zh) * 2007-09-12 2012-12-05 索尼株式会社 图像处理装置和图像处理方法
EP2187648A4 (en) 2007-09-12 2012-07-11 Sony Corp IMAGE PROCESSING DEVICE AND IMAGE PROCESSING METHOD
JP5756154B2 (ja) * 2013-09-24 2015-07-29 日本電信電話株式会社 映像符号化パラメータ算出装置、映像符号化パラメータ算出方法及びプログラム

Also Published As

Publication number Publication date
JP2000224587A (ja) 2000-08-11

Similar Documents

Publication Publication Date Title
US5260782A (en) Adaptive DCT/DPCM video signal coding method
KR100259561B1 (ko) 화상 부호화 데이타 재부호화 장치
JP4077135B2 (ja) コンテクストベースでフレーム内コーディングモードとフレーム間コーディングモードとの間の選択を行なうための方法および装置
KR100750136B1 (ko) 영상의 부호화, 복호화 방법 및 장치
KR101138393B1 (ko) 부호화 모드에 따른 컬러 성분간 예측을 이용한 컬러 영상및 비디오 부호화/복호화 방법 및 장치
KR101127221B1 (ko) 주파수 공간에서 컬러 성분간 예측을 이용한 컬러영상부호화/복호화 방법 및 장치
JP2004343774A (ja) 映像のレジデュー予測を利用した映像符号化/復号化方法および装置
KR100694137B1 (ko) 동영상 부호화 장치, 동영상 복호화 장치, 및 그 방법과,이를 구현하기 위한 프로그램이 기록된 기록 매체
JPH1051766A (ja) 画像符号化データ変換装置
KR20080088046A (ko) 움직임 보상 필터링을 이용한 영상 부호화, 복호화 방법 및장치
JP5015375B2 (ja) 小画像を挿入するmpeg標準に準拠した画像の符号化方法及び装置
KR100718121B1 (ko) 영상의 레지듀 예측을 이용한 영상 부호화/복호화 방법 및장치
JP4417054B2 (ja) 離散コサイン変換係数を参照する動き推定方法及び装置
JP2004215275A (ja) 動き補償に基づいた改善されたノイズ予測方法及びその装置とそれを使用した動画符号化方法及びその装置
JP4511649B2 (ja) 画像符号化方式および画像符号化装置
KR20050085730A (ko) 탄력 저장
JPH0537786A (ja) 画像データエンコーダおよびデコーダ
JPH08149479A (ja) 超低ビットレートビデオ符号化方法
JP3188081B2 (ja) 画像符号化方法および画像符号化装置
US20060181650A1 (en) Encoding method and device
JP4384629B2 (ja) 符号化誤差測定装置および符号化誤差測定プログラム
JP4361665B2 (ja) 動画像符号化データのトランスコーディング方法およびトランスコーディング装置
JPH05344492A (ja) フレーム間予測符号化方式
KR100228677B1 (ko) 이산웨이브렛변환(dwt)을 통한 동영상부호화장치
JP4140163B2 (ja) 符号化方式変換装置

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20040623

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041001

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070227

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070425

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070731

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070928

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20071015

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20071116

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100507

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140514

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term