JP4447679B2 - 映像信号処理装置および映像信号処理方法 - Google Patents

映像信号処理装置および映像信号処理方法 Download PDF

Info

Publication number
JP4447679B2
JP4447679B2 JP20934698A JP20934698A JP4447679B2 JP 4447679 B2 JP4447679 B2 JP 4447679B2 JP 20934698 A JP20934698 A JP 20934698A JP 20934698 A JP20934698 A JP 20934698A JP 4447679 B2 JP4447679 B2 JP 4447679B2
Authority
JP
Japan
Prior art keywords
video signal
data
signal
layer data
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP20934698A
Other languages
English (en)
Other versions
JP2000041268A (ja
Inventor
哲二郎 近藤
隆也 星野
賢 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP20934698A priority Critical patent/JP4447679B2/ja
Publication of JP2000041268A publication Critical patent/JP2000041268A/ja
Application granted granted Critical
Publication of JP4447679B2 publication Critical patent/JP4447679B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Dram (AREA)
  • Television Signal Processing For Recording (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、マルチメディア対応の映像表示機器やビデオプリンタ等に用いて好適な像信号処理装置および映像信号処理方法に関する。
【0002】
【従来の技術】
一例として、画像内容の確認・検索等を行ったり、或いはビデオプリンタで画像を出力することなどを目的として、小サイズの画像に圧縮して表示あるいは出力する場合においては、小サイズに画像を圧縮する簡単な方法として、画像を間引くという方法が一般的に用いられる。
【0003】
しかしながら、コンポジット映像信号による画像を間引きによって圧縮して表示する場合においては、コンポジット映像信号には、色副搬送波を変調して得られる搬送色信号が輝度信号に重畳されているので、そのまま画像を間引いて圧縮すると、輝度信号に重畳されている搬送色信号Cが欠落して画質が大幅に損なわれ、圧縮された画像の内容が識別しにくくなる。
【0004】
図1は、NTSC方式における隣接する走査線における色副搬送波の位相関係を示す。色副搬送波周波数が水平周波数の455/2倍に選定されているため、色副搬送波の位相は、図1Aおよび図1Bにおいて実線の波形で示すように各フィールド内で走査線毎に反転し、また、同一走査線では、1フレーム毎に反転する。搬送色信号は、このような色副搬送波を色差信号IおよびQで直交二相変調したものであり、コンポジット映像信号は、輝度信号に対して搬送色信号が重畳されたものである。また、コンポジット映像信号をディジタル化する際には、例えば、図1Cに示すように副搬送波の周波数fsc(=3.58MHz)に対してサンプリング周波数が4fscに選定され、そのサンプリングクロックによりIQ軸の位相でそれぞれサンプリングされてA/D変換される。従って、サンプリング点は、図1Aおよび図1Bにおいて丸印で示すものとなる。
【0005】
従って、小サイズに画像を圧縮し、且つ画質の劣化を防ぐ方法として、フィルタ処理或いはY/C分離を施した後、画像を間引き処理によって圧縮するという方法が考えられる。図2は、このような方法を実現する映像信号処理装置の一例を示す。図2において1で示す入力端子1にディジタルのコンポジット映像信号が供給される。
【0006】
コンポジット映像信号がY/C分離回路2に供給される。Y/C分離回路2において輝度信号Yと搬送色信号Cとが分離され、輝度信号Yが画像メモリ3に供給される。Y/C分離回路2と関連して画像メモリ5が設けられ、例えば3次元処理によってY/C分離がなされる。メモリコントロール部6は、画像メモリ3,5の書き込み/読み出し動作を選択する。
【0007】
画像メモリ3において、輝度信号Yが一度書き込まれた後、所定のアドレスのみのデータが読み出されることで、間引き処理がなされる。画像メモリ3の出力がディスプレイ装置4に供給される。そして、ディスプレイ装置4では、白黒の圧縮画像が表示される。Y/C分離回路2の代わりにフィルタ回路が使用されることもある。
【0008】
【発明が解決しようとする課題】
このように、フィルタ処理あるいはY/C分離処理を施した後、画像を間引く方法、または装置では、フィルタ処理あるいはY/C分離処理のために、メモリ等の専用のハードウェアが必要とされ、回路規模が大規模になる問題点を有する。
【0009】
従って、この発明の目的は、小規模の構成によって、画質を劣化させることなく画像圧縮することができ、また、Y/C分離処理も同時に行うことができる像信号処理装置および映像信号処理方法を提供することにある。
【0010】
【課題を解決するための手段】
以上の問題を解決するために、請求項1の発明は、輝度信号と搬送色信号とを含み、色副搬送波と同期した所定周波数のサンプリング信号でサンプリングされることで形成されたコンポジット映像信号を最下位階層データとして記憶する記憶手段と、
最下位階層データの隣接する複数の画素値を演算することにより、コンポジット映像信号から輝度信号を上位階層データとして分離する生成手段と、
生成された上位階層データを輝度信号として出力する出力手段と
を有することを特徴とする映像信号処理装置である。
【0011】
また、請求項の発明は、輝度信号と搬送色信号とを含み、色副搬送波と同期した所定周波数のサンプリング信号でサンプリングされることで形成されたコンポジット映像信号を最下位階層データとして記憶するステップと、
最下位階層データの隣接する複数の画素値を演算することにより、コンポジット映像信号から輝度信号を上位階層データとして分離する生成ステップと、
生成された上位階層データを輝度信号として出力する出力ステップと
を有することを特徴とする映像信号処理方法である。
【0012】
この発明では、階層メモリが用いられ、コンポジット映像信号が階層メモリの最下位階層(第1階層)に書き込まれる。そして、第1階層の(2×2画素)の隣接する4個の画素毎に画素値の合計値が算出され、得られた合計値が新たなデータとして第2階層のメモリに書き込まれる。第2階層のデータは、第1階層の入力画像に対して縦横それぞれ1/2の大きさ(面積では1/4)とされ、然も、その演算過程においてC成分が相殺されたY成分のみの白黒画像データである。必要に応じてコンポジット映像信号から第2階層のデータを減算することにより搬送色信号Cを得られる。さらに、同様に第2階層データから第3階層データが生成される。第3階層データは、第1階層の入力画像に対して縦横それぞれ1/4の大きさ(面積では1/16)とされ、然も、その演算過程において第2階層で残っていたドット妨害がさらに除去された画像データである。
【0013】
【発明の実施の形態】
先ず、この発明の一実施形態について図3を参照して説明する。11で示す入力端子には、NTSC方式のディジタルコンポジット映像信号が供給される。コンポジット映像信号が階層メモリ12に供給される。階層メモリ12と関連してメモリコントロール部13が設けられている。階層メモリ12には、メモリコントロール部13からのアドレス制御情報等が供給され、階層メモリ12において所定の演算処理と書き込み/読み出し制御がなされる。階層メモリ12は、Y/C分離出力(輝度信号)および圧縮された画像データを出力する。図示せずも、階層メモリ12の出力がディスプレイ装置14に供給される。階層メモリ12の出力がD/A変換された後、復調され、ディスプレイ装置14において、白黒画像として表示される。この表示画像は、画質が損なわれることなく所定の比率で圧縮されたものである。
【0014】
上述した階層メモリ12の動作について詳細に説明する。階層メモリ12は、演算機能を有しており、一度書き込んだ空間的に近接した複数個の画像データを読み出し、読み出した画像データに基づいて演算処理により一つ上位階層となる一つの画像データを生成して再度書き込むことを繰り返し行うことで画像データを階層化し、その階層化された画像データのそれぞれを所定の領域に保持する構成とされている。
【0015】
図4に階層メモリ12においてなされる処理を概念的に示す。階層メモリ12の最下位階層(第1階層)のメモリには、入力されるコンポジット映像信号の各画素のデータが書き込まれる。図4の下段に第1階層のメモリに書き込まれる各画素による部分的画像(4×4画素)を示す。なお、各画素には、画素番号が図4に示すように付されている。第1階層のメモリにコンポジット映像信号の各画素のデータが書き込まれると、先ず、(2×2画素)の4個の隣接する画素毎に画素値の和が算出され、得られた合計値が新たなデータとして第2階層のメモリに書き込まれる。
【0016】
具体的には、図4に示すように第1階層のメモリの(2×2画素)であるA11, A12, A13, A14の画素値の和が第2階層のB11のデータとされ、A21, A22, A23, A24の画素値の和が第2階層のB12のデータとされ、A31, A32, A33, A34の画素値の和が第2階層のB13のデータとされ、A41, A42, A43, A44の画素値の和が第2階層のB14のデータとされる。以下、同様に第1階層の全ての(2×2画素)のデータに対して処理がなされ、画素値の和のそれぞれが第2階層のメモリに書き込まれる。
【0017】
上述のように形成されたデータからなる第2階層の画像(図4において中段に示される)は、第1階層の入力画像に対して縦横それぞれ1/2の大きさ(面積では1/4)の圧縮画像となる。なお、第2階層の各データは、第1階層の4画素のデータの和であるため、第1階層のデータのビット数より2ビット多い10ビットとされる。
【0018】
次に、上述した処理と同様に、第2階層の(2×2画素)の4個の画素毎に画素値の和が算出され、得られた合計値が新たなデータとして第3階層のメモリに書き込まれる。図4に示すように、第2階層のメモリに格納された(2×2画素)であるB11, B12, B13, B14の画素値の和が第3階層のメモリのC11のデータとされる。以下、同様に第2階層のメモリの全ての(2×2画素)に対して処理がなされ、画素値の和のそれぞれが第3階層のメモリに書き込まれる。
【0019】
上述したように形成されたデータからなる第3階層の画像(図4において上段に示される)は、第2階層の入力画像に対して縦横それぞれ1/2の大きさ(面積では1/4)、第1階層の入力画像に対して縦横それぞれ1/4の大きさ(面積では1/16)の圧縮画像となる。なお、第3階層のデータは、第2階層の4画素のデータの和であるため、第2階層のデータのビット数より2ビット多い12ビットとされる。
【0020】
さらに、上述した処理と同様に、第n階層(nは正の整数)のメモリまでの階層データが形成される。第n階層の画像は、第1階層の入力画像に対して縦横それぞれ2の(n−1)乗分の1の大きさの圧縮画像となる。従って、階層メモリ12を用い、任意の階層のデータを読み出すことで、所望のサイズの画像を出力することが可能となる。
【0021】
なお、各階層のデータを形成し、階層メモリに書き込む場合に、4画素の内の1画素を、一つ上の上位階層の1画素のデータに置き換え、データ量を圧縮するようにしても良い。すなわち、置き換えられた画素データは、上位階層の画素データ(合計値)から読み出された3画素の合計値を減算することによって復元することができる。例えば図4に示す例の場合には、第2階層のB11, B12, B13, B14の内、例えばB14以外のB11, B12, B13のデータと、第3階層の画素であるC11とが書き込まれる。そして、読み出し時には、C11のデータから(B11, B12, B13)のデータの合計値を減算することでB14を復元できる。
【0022】
また、上述した階層メモリ12の説明においては、合計値を用いて上位層のデータを形成する場合について説明したが、平均値を用いたり、加重平均値を用いても良い。さらに、上位階層となるほど、ビット数を拡張せずに、丸めるようにしても良い。
【0023】
上述した階層メモリ12によりなされるY/C分離の動作について説明する。コンポジット映像信号としてNTSC方式の信号が供給されるものとする。NTSC方式のコンポジット映像信号では、90°位相のずれた色副搬送波を2つの色差信号(I,Q)で直交二相変調して得られる搬送色信号Cが輝度信号に重畳されている。この映像信号を副搬送波の周波数fsc(=3.58MHz)の4倍のサンプリング周波数4fscにてIQ軸の位相でサンプリングしたディジタルデータが階層メモリ12に供給される。
【0024】
図5は、階層メモリ12の第1階層のメモリに格納されたデータ(入力データ)の一部を示す。図5において、丸にて示されるのが各画素を示し、Yは、輝度信号を示し、±I,±Qは、色差信号I,Qの位相を表す。なお、図4に対応する部分には、同一の画素番号が付されている。
【0025】
図5に示すように第1階層のメモリの各画素値は、A11の画素値=Y11−I11,A12の画素値=Y12−Q12,A13の画素値=Y21+I21,A14の画素値=Y22+Q22,以下、図5に示す値とされている。つまり、隣接する走査線間においては、色差信号I,Qの位相が180°ずれると共に、水平方向に関しては色差信号I,Qが90°位相毎に交互に抽出されている。
【0026】
図6は、階層メモリ12の第2階層のメモリに格納されたデータ(入力データ)の一部を示す。図6に示すように第2階層のメモリの各データの値は、
Figure 0004447679
である。
【0027】
ここで、色エッジがなく、色相関が強い部分であると想定すると、
I11=I21 ・・・(2)
Q12=Q22 ・・・(3)
であるから、(1) 式は、B11の画素値=Y11+Y12+Y21+Y22となり、さらに、画像の性質(近傍画像の相関性)から一般的に、
Y11=Y12=Y21=Y22=Y (Yは画素A11近辺の輝度値)・・・(4)
が近似的に成り立つ。従って、(1) 式は、B11の画素値=4×Yとなる。他のデータも同様であり、I,Q信号に関しては相殺され、第2階層のメモリからは、Y/C分離されたY信号が得られる。このように、階層メモリ12を用いることで、階層メモリ12の第2階層にY/C分離され、縦横それぞれ1/2の大きさに圧縮された白黒画像データを得ることができる。
【0028】
また、コンポジット信号は、輝度信号Yおよび搬送色信号Cにより構成されているため、第1階層の各データから第2階層のデータを減算することにより搬送色信号Cを算出することができる。
【0029】
上述した説明においては、色相関が強いことを想定したが、色の垂直非相関部、すなわち、水平方向の色エッジが存在する場合についも説明する。一例として、図5において、点線で示すように、第1階層の画素のA11とA13との間に水平方向の色エッジがあるとすると、前述した(2),(3) 式が成立しない。この場合においては、第2階層のデータB11、B12、B13、B14、・・・には、搬送色信号CからY信号へのクロストーク( Y/C分離エラー)であるドット妨害が発生する。
【0030】
つまり、前述した(1),(4) 式より、
B11の画素値=4×Y−I11+I21−Q12+Q22 ・・・(5)
となり、(5) 式中の(−I11+I21−Q12+Q22)がドット妨害成分となる。なお、ドット妨害は、色副搬送波周波数fsc(=3.58MHz)の成分を持つ信号である。同様に、
B12の画素値=4×Y−I13+I23−Q14+Q24 ・・・(6)
となる。ここで、色の垂直非相関部、すなわち、水平方向の色エッジを想定しているため、色の水平方向相関が存在する。従って、(5),(6) 式中のドット妨害成分に関して、下記(7) 式の関係が成立する。
【0031】
−I11+I21−Q12+Q22=−(I13−I23+Q14−Q24) ・・・(7)
従って、上記(5),(6),(7) 式より、第3階層のデータのC11の値は、
C11の画素値=画素B11+B12+B13+B14の画素値=16×Y
となる。このように色の垂直非相関部、すなわち、水平方向の色エッジが存在する場合には、第3階層では、第2階層で発生していたドット妨害成分が除去されて良好なY信号が得られ、画質が向上する。なお、色の垂直非相関部、即ち水平方向の色エッジが存在する場合と異なり、色の水平非相関部、すなわち、垂直方向の色エッジ部分では、前述したように第2階層においてドット妨害が発生せず、第2階層において良好なY信号が得られる。
【0032】
上述した階層メモリ12の処理過程と、その過程において得られる画像データの関係を図7に示す。先ず、ステップS1で、ディジタルのNTSC方式のコンポジット映像信号が階層メモリ12に供給され、ステップS2で、最下位階層(第1階層)に書き込まれる。そして、ステップS3で、第1階層の(2×2画素)の4個の画素毎に画素値の和が算出され、得られた合計値が新たなデータとして第2階層のメモリに書き込まれる。
【0033】
階層メモリ12の第2階層のデータを読み出すことによって、ステップS4で示すように、第1階層の入力画像に対して縦横それぞれ1/2の大きさ(面積では1/4)の圧縮画像が得られる。また、この圧縮画像のデータは、その演算過程においてC成分が相殺されており、Y/C分離されてY成分のみとされた白黒画像データである。さらに、入力コンポジット映像信号から第2階層のデータを減算することにより、搬送色信号Cも算出することもできる。この場合、入力コンポジット映像信号の隣接する4画素に対する減算のために、第2階層のデータは、4回ずつ使用される。
【0034】
次に、ステップS5で、第2階層の(2×2画素)の4個の画素毎に画素値の和が算出され、得られた合計値が新たなデータとして第3階層のメモリに書き込まれる。階層メモリ12の第3階層のデータを読み出すことによって、ステップS6で示すように、第1階層の入力画像に対して縦横それぞれ1/4の大きさ(面積では1/16)の圧縮画像が得られる。また、この圧縮画像のデータは、その演算過程において第2階層で残っていたドット妨害がさらに除去されたもので、良好な白黒画像データである。
【0035】
そして、ステップS7で示すように、第(n−1)階層の(2×2画素)の4個の画素毎に画素値の和が算出され、得られた合計値が新たなデータとして第n階層のメモリに書き込まれる。階層メモリ12の第n階層のデータを読み出すことによって、ステップS8で示すように、第1階層の入力画像に対して縦横それぞれ2の(n−1)乗分の1の大きさの圧縮画像が得られる。また、この圧縮画像のデータは、その演算過程において階層が上がるにつれてドット妨害がさらに軽減・改善されたもので、良好な白黒画像データである。
【0036】
このようにこの発明では、階層メモリ12を用いることによって、専用のハードウェアを設けることなくY/C分離された高画質な圧縮画像を得ることができ、例えば、ビデオプリンタで画像を出力する場合や小画面での画像内容確認および画像検索等を行う場合に有効利用することができる。
【0037】
なお、上述した一実施形態の説明においては、NTSC方式のコンポジット映像信号の場合について説明したが、NTSC方式以外の他の方式のコンポジット信号に同様にこの発明を適用することができる。
【0038】
【発明の効果】
この発明に依れば、階層メモリを用いることで、画質を劣化させることなく、上位階層にY/C分離され、且つ高画質な圧縮白黒画像を得ることができ、装置の小型化および低価格化を図ることができる。また、この発明に依れば、輝度信号のみならず、色信号も分離することができ、また、階層が上がるにつれて下位階層に生じていたドット妨害を軽減することができる。
【図面の簡単な説明】
【図1】コンポジット映像信号の説明に用いる波形図である。
【図2】従来の画像処理装置の説明に用いるブロック図である。
【図3】この発明の一実施形態の全体構成を示すブロック図である。
【図4】この発明の一実施形態の階層構造の説明に用いる略線図である。
【図5】この発明の一実施形態の動作説明に用いる略線図である。
【図6】この発明の一実施形態の動作説明に用いる略線図である。
【図7】この発明の一実施形態の動作説明に用いるフローチャートである。
【符号の説明】
11・・・入力端子、12・・・階層メモリ、13・・・メモリコントロール部、14・・・ディスプレイ装置

Claims (6)

  1. 輝度信号と搬送色信号とを含み、色副搬送波と同期した所定周波数のサンプリング信号でサンプリングされることで形成されたコンポジット映像信号を最下位階層データとして記憶する記憶手段と、
    上記最下位階層データの隣接する複数の画素値を演算することにより、上記コンポジット映像信号から輝度信号を上位階層データとして分離する生成手段と、
    生成された上位階層データを輝度信号として出力する出力手段と
    を有することを特徴とする映像信号処理装置。
  2. 請求項において、
    記コンポジット映像信号から上記上位階層データの輝度信号を減算し、搬送色信号を得る減算手段を有し、
    上記搬送色信号を出力することを特徴とする映像信号処理装置。
  3. 請求項1において、
    上記生成手段は、上記上位階層データを演算することにより、上記上位階層データに残っているドット妨害を除去した上記上位階層のさらに上位階層のデータを生成することを特徴とする映像信号処理装置。
  4. 輝度信号と搬送色信号とを含み、色副搬送波と同期した所定周波数のサンプリング信号でサンプリングされることで形成されたコンポジット映像信号を最下位階層データとして記憶するステップと、
    上記最下位階層データの隣接する複数の画素値を演算することにより、上記コンポジット映像信号から輝度信号を上位階層データとして分離する生成ステップと、
    生成された上位階層データを輝度信号として出力する出力ステップと
    を有することを特徴とする映像信号処理方法。
  5. 請求項において、
    記コンポジット映像信号から上記上位階層データの輝度信号を減算し、搬送色信号を得るステップを有し、
    上記搬送色信号を出力することを特徴とする映像信号処理方法。
  6. 請求項4において、
    上記生成ステップは、上記上位階層データを演算することにより、上記上位階層データに残っているドット妨害を除去した上記上位階層のさらに上位階層のデータを生成することを特徴とする映像信号処理方法。
JP20934698A 1998-07-24 1998-07-24 映像信号処理装置および映像信号処理方法 Expired - Fee Related JP4447679B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP20934698A JP4447679B2 (ja) 1998-07-24 1998-07-24 映像信号処理装置および映像信号処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP20934698A JP4447679B2 (ja) 1998-07-24 1998-07-24 映像信号処理装置および映像信号処理方法

Publications (2)

Publication Number Publication Date
JP2000041268A JP2000041268A (ja) 2000-02-08
JP4447679B2 true JP4447679B2 (ja) 2010-04-07

Family

ID=16571440

Family Applications (1)

Application Number Title Priority Date Filing Date
JP20934698A Expired - Fee Related JP4447679B2 (ja) 1998-07-24 1998-07-24 映像信号処理装置および映像信号処理方法

Country Status (1)

Country Link
JP (1) JP4447679B2 (ja)

Also Published As

Publication number Publication date
JP2000041268A (ja) 2000-02-08

Similar Documents

Publication Publication Date Title
JP3438233B2 (ja) 画像変換装置および方法
US7671922B2 (en) Chroma upsampling method and apparatus therefor
US5093722A (en) Definition television digital processing units, systems and methods
US7787023B2 (en) Video signal processing apparatus
JP3418558B2 (ja) 走査線変換装置及びフリッカ除去装置
JPH05167993A (ja) 解像度補償可能な画像変換装置
JP4949463B2 (ja) アップスケーリング
JP5173135B2 (ja) 適応的y/c分離のためのデジタル映像信号処理装置及び方法
JPS63148785A (ja) テレビジョン装置
US5691746A (en) Digital video format conversion by upsampling decompressed data using on-the-fly interpolation and color conversion
US7184087B2 (en) On-screen device for subject of interest in portable electronic device, and method of controlling same
JP3187851B2 (ja) 鮮明度を改良したテレビ
JP3405208B2 (ja) 分割マルチ画面表示装置
JP4447679B2 (ja) 映像信号処理装置および映像信号処理方法
US5091783A (en) Still more feature for improved definition television digital processing units, systems, and methods
US5091786A (en) Multi-screen feature for improved definition television digital processing units, systems, and methods
JPH06311488A (ja) 走査線変換装置
JP3154272B2 (ja) 画像変換装置及び方法
WO2000064189A9 (en) Safe color limiting of a color on a digital nonlinear editing system
FR2626129A1 (fr) Appareil pour modifier la taille des objets dans une image de television sans changer la taille de la trame, avec circuit de restauration de la phase de la chrominance
JP3712138B2 (ja) 記録装置、記録再生装置、記録方法及び記録再生方法
JPS6051091A (ja) テレビジヨン信号変換装置
JP2728135B2 (ja) 撮像装置
JP3587595B2 (ja) 画像変換装置
JP3156247B2 (ja) 画像変換装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070313

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070514

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070612

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070813

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130129

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140129

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees