JP3548718B2 - ビデオ画像の画像ブロックへのランダムアクセス方法 - Google Patents

ビデオ画像の画像ブロックへのランダムアクセス方法 Download PDF

Info

Publication number
JP3548718B2
JP3548718B2 JP2000564370A JP2000564370A JP3548718B2 JP 3548718 B2 JP3548718 B2 JP 3548718B2 JP 2000564370 A JP2000564370 A JP 2000564370A JP 2000564370 A JP2000564370 A JP 2000564370A JP 3548718 B2 JP3548718 B2 JP 3548718B2
Authority
JP
Japan
Prior art keywords
image
section
pixels
image block
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000564370A
Other languages
English (en)
Other versions
JP2002522971A (ja
Inventor
メンクホフ アンドレアス
シェフラー ギュンター
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Infineon Technologies AG
Original Assignee
Infineon Technologies AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Infineon Technologies AG filed Critical Infineon Technologies AG
Publication of JP2002522971A publication Critical patent/JP2002522971A/ja
Application granted granted Critical
Publication of JP3548718B2 publication Critical patent/JP3548718B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Static Random-Access Memory (AREA)
  • Picture Signal Circuits (AREA)
  • Image Input (AREA)
  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【0001】
本発明は、ビデオ画像、例えばテレビジョン画像の画像ブロックへのランダムアクセス方法に関する。
【0002】
画像処理ではしばしば、関連するピクセルまたは隣接するピクセルの画像領域にアクセスして、この領域を画像内容の比較またはフィルタ機能の過程にかけなければならない。ビデオ画像は一般に連続するピクセルのシーケンスから成っている。ピクセルのデータは、先行の走査線が完全に発生してはじめて走査線の形成が開始されるように伝送される。走査線インタレース方式で伝送されるテレビジョン画像では、まず第1の部分画像の第1の走査線(例えば2本目の走査線)が表示され、その後このフレームの第2の走査線(この例では4本目の走査線)が形成されることになる。
【0003】
このように走査線ごとにビデオ画像を形成する手法に基づいて、直接に続いてまたは同時に1つの画像列のピクセルにアクセスする場合、ピクセルの中間記憶が行われる。画像の垂直方向の所定のピクセルの次に来るピクセルは、前述のようなシーケンシャルなデータ伝送では遅延後でなければ使用できない。中間記憶の際には画像ブロックへの任意のアクセス、すなわち水平方向および垂直方向で隣接するピクセルのグループに対する任意のアクセスが可能である。
【0004】
中間記憶にはダイナミックメモリDRAMが適している。これはこのメモリがチップ面積に対して高い記憶容量を有しているからである。通常の場合半導体ダイナミックメモリではメモリセルは複数のメモリフィールドブロックユニットとして配置されている。所定のメモリセルへのアクセス時には、まず当該の走査線を含むメモリフィールドブロックユニットが活性化される。ほぼ同時にアクセスすべき2つのピクセルが異なるメモリフィールドブロックユニットに存在している場合には、まず一方のユニットを活性化し、続いて他方のユニットを活性化してそれぞれのピクセルを読み出さなければならない。ピクセルの伝送速度が大きい場合にはリアルタイムでの画像処理は不可能である。2つの異なるメモリフィールドブロックユニットに配置された2つのピクセルへのアクセスは、今日しばしばそうであるように、画像処理演算のために当該のピクセルへ何度もアクセスしなければならない場合に特に煩わしい。
【0005】
したがって本発明の課題は、画像メモリ内に記憶されたビデオ画像の画像ブロックへのランダムアクセス方法を僅かな付加メモリコストのみで実行できるようにすることである。この課題は請求項1の特徴を有する方法により解決される。
【0006】
本発明は、ビデオ画像のピクセルの数に比べて小さなサイズのアクセスメモリで画像処理、例えばテレビジョン画像の処理がリアルタイムで行える利点を有する。アクセス時間に関しては画像メモリよりも高い要求がアクセスメモリに課される。アクセスメモリの容量が比較的小さいために、本発明の方法は低コストで実行することができる。アクセスメモリの第1の領域内部ではそれぞれの画像に個々にアクセスすることができる。
【0007】
別の利点として、アクセスメモリの出力側でのデータ速度と入力側でのデータ速度との比をメイン画像ブロックのサイズから求めることができる。これによりデータ速度とアクセスメモリのサイズとの比を与えられる条件に適合させることができる。
【0008】
有利な実施例では、アクセスメモリの第2の領域はメイン画像ブロックの領域の3倍の大きさである。有利にはアクセスメモリの第1の領域はメイン画像ブロックと、このメイン画像ブロックと同じ大きさを有する8個の隣接画像ブロックとから成る。メイン画像ブロックの画像処理が実行された後、それまでのメイン画像ブロックの右側に接する隣接画像ブロックが新たなメイン画像ブロックとなる。ビデオ画像ブロックの走査線の終了部では、新たなメイン画像ブロックが走査線の開始時の位置でメイン画像ブロックの下側に接する隣接画像ブロックから発生する。典型的にはメイン画像ブロックは水平方向で左方から右方へ向かってビデオ画像を越えて変換される。メイン画像ブロックがビデオ画像の終了部に達すると、メイン画像ブロックのレベルは垂直に下方へオフセットされ、走査線内でビデオ画像の左方の縁へ戻される。
【0009】
アクセスメモリが次のように構成されていると有利である。すなわち第1の領域には水平方向に48個、垂直方向に24個のピクセルを有する画像が記憶され、第2の領域には水平方向に16個、垂直方向に24個のピクセルを有する画像が記憶される。
【0010】
アクセスメモリの構成として特に半導体スタティックメモリSRAMが適している。このメモリのアクセス時間は短い。メモリ容量を得るために大きな必要面積を設けることを考慮する必要はない。なぜならビデオ画像のピクセルの一部のみしかアクセスメモリには記憶されないからである。
【0011】
別の有利な実施形態および実施態様は従属請求項に記載されている。本発明を以下に図に則して詳細に説明する。図1にはアクセスメモリの編成の概略図が示されている。図2には本発明の方法の説明図が示されている。図3にはメイン画像ブロックが別のサイズを有する場合の本発明の方法の説明図が示されている。
【0012】
本発明は走査線から成るビデオ画像に基づいており、このビデオ画像は水平方向では完全に、また垂直方向では少なくとも部分的に画像メモリに記憶されている。ビデオ画像は例えば走査線インタレース式のテレビジョン画像のフレームである。通常の場合この種の画像メモリはダイナミックメモリDRAMであり、低コストかつ高い集積密度で製造することができる。
【0013】
メモリフィールドブロックユニットから編成される画像メモリからは、個々のピクセルを読み出すのではなく、複数の関連するピクセルのメモリブロックから成るメモリブロック全体を読み出す。メモリブロックとしてはメモリフィールドブロックユニットまたはその一部が適している。画像メモリから読み出されるメモリブロックはアクセスメモリZSに格納される。このアクセスメモリのアクセス時間は短く、種々のメモリスペースで同時に読み込みおよび読み出しを行うことができる。アクセスメモリZSに格納されたピクセルに個々にアクセスして例えばフィルタ機能を実行することもできる。アクセスメモリZSは次に処理すべきメモリブロックを読み込む別の領域を有しており、すでに記憶されたメモリブロックのピクセルについて画像処理演算が実行される。当該の画像処理演算が終了すると、アクセスメモリZSの別の領域にその時点で読み込まれているピクセルが画像処理部へ供給される。
【0014】
図1にはアクセスメモリZSの編成が示されている。このアクセスメモリは動作領域ABとバッファ領域PBとに分割されている。ビデオ画像で画像処理演算を実行する場合、この演算はセクションごとに行われる。例えばビデオ画像の左上方の縁部分に存在する第1のセクションが選択される。本発明の方法では、第1のセクションにメイン画像ブロックHBが存在し、このメイン画像ブロックに少なくとも1つの隣接画像ブロックNBHがビデオ画像の水平方向で接する。通常、メイン画像ブロックHBの全周ないし全縁が隣接画像ブロックNBによって包囲されている。
【0015】
図1には水平方向での隣接画像ブロックNBHのほかに、垂直方向での隣接画像ブロックNBVとメイン画像ブロックの左上方の縁に接している隣接画像ブロックNBDとが存在しており、これらはそれぞれ異なるハッチングによって示されている。全体では図1の実施例のメイン画像ブロックHBは8個の隣接画像ブロックNBによって包囲されている。画像ブロックHB、NBのサイズすなわち水平方向および垂直方向でのピクセル数は画像処理演算の形式に依存している。
【0016】
本発明の方法は特に画像内容の動き検出に適している。例えば画像シーケンス中の1つの画像の矩形の画像ウィンドウに対して動きベクトルが検出された場合、メイン画像ブロックHBのサイズはこのウィンドウの寸法に相応して選択される。ウィンドウ内のピクセルは画像シーケンス内の続く画像のメイン画像ブロックと比較される。メイン画像ブロックの位置はウィンドウの位置と一致するように選択される。ウィンドウのピクセルが所定のトレランスを考慮してメイン画像ブロックのピクセルと一致する場合には、このウィンドウによって定められる部分画像には当該のウィンドウが選択されている画像から続く画像への移行時に動きは存在しない。
【0017】
ウィンドウのピクセルと隣接画像ブロックのピクセルとを比較することにより、ウィンドウの選択されている画像から隣接画像ブロックを形成する画像への移行時の画像部分の動きベクトルが求められる。このためにウィンドウのピクセルと隣接画像ブロックのピクセルとの一致の度合が求められる。最大の一致度を有する隣接画像ブロックの位置からウィンドウの画像内容の動きが結論される。隣接画像ブロックNBのサイズは平均的に発生する動きにしたがって経験的に求められる。
【0018】
アクセスメモリZSのバッファ領域PBでは、第1のセクションに接するビデオ画像の一部が記憶される。垂直方向でこの画像は第1のセクションの垂直方向でのピクセルと同じ数のピクセルを有する。水平方向ではこの画像はメイン画像ブロックの水平方向のピクセルと同じ数のピクセルを有する。
【0019】
この方法の第1のステップではビデオ画像の第1のセクションがアクセスメモリZSの動作領域ABに記憶される。この第1のセクションはビデオ画像の左上方の縁部に相応すると仮定する。対角方向の隣接画像ブロックNBDはこの場合ビデオ画像の縁部に存在する。メイン画像ブロックHBがこの縁部に存在する場合、隣接画像ブロックはメイン画像ブロックの上方および左方でビデオ画像から得られる。この場合、また考慮すべき隣接ブロックがビデオ画像の外部に存在する場合には、当該の隣接ブロックのピクセルは平均的な輝度であると見なされる。
【0020】
例えば動き検出を行うために動作領域ABのピクセルにアクセスしている間、アクセスメモリZSのバッファ領域PBににはビデオ画像のうち第1のセクションに接する部分が読み込まれる。動作領域ABの垂直方向でのピクセルの数とバッファ領域PBの垂直方向でのピクセルの数とは等しい。水平方向では、バッファ領域PBにはメイン画像ブロックHBの水平方向でのピクセルと同じ数のピクセルが記憶される。
【0021】
第2のステップでは、動作領域ABにビデオ画像の第2のセクションが記憶され、このセクションは水平方向でメイン画像ブロックHBの幅だけオフセットされた第1のセクションとバッファ領域PBのピクセルとから生じる。メイン画像ブロックと隣接画像ブロックとが同じサイズを有する場合、第2のセクションは第1のセクションの2/3のピクセルとバッファ領域PBのピクセルとを含む。第2のセクションでは第1のセクションでメイン画像ブロックの右方を占めていた隣接画像ブロックがメイン画像ブロックとなる。第2のセクションのピクセルはさらに画像処理にかけられる。同時にバッファ領域PBにはビデオ画像のうち第2のセクションに接する画像領域が読み込まれる。
【0022】
図2のaには第2のセクションの水平方向でのオフセットが薄い線で示されており、これに対して第1のセクションは濃い線で示されている。第2のステップはメイン画像がビデオ画像の右の縁に達するまで反復される。すでに先行のステップにおいてこの場合のセクションに接するビデオ画像の部分が存在しないので、ピクセルをビデオ画像からバッファ領域PBへ読み込むことはできない。ここでもバッファ領域PBへ平均的な輝度を読み込むことができる。
【0023】
第3のステップではビデオ画像の第3のセクションがアクセスメモリZSの動作領域ABに読み込まれる。第3のセクションは第1のセクションに対して垂直方向のみメイン画像ブロックの垂直方向と同じ数のピクセルだけオフセットされている。図2のbでは濃い線の第1のセクションとオフセットされた薄い線の第3のセクションとが示されている。第1のセクションの下部UTは第3のセクションの中央部MTに相応する。第3のセクションに対してメイン画像ブロックの垂直方向のピクセルの数だけ垂直方向にオフセットされた第4のセクションでは、上部OTが第1のセクションの下部UTに相応する。つまり第1のセクションの下部UTに属するピクセルは、この実施例では3回画像メモリから読み出される。画像メモリの入力データ速度と出力データ速度との比はしたがって3である。第4のセクションは図2のcに示されている。
【0024】
図3には第1の実施例よりも大きなメイン画像ブロックを有する別の実施例が示されている。この場合第2のメイン画像ブロックは垂直方向で第1の実施例の2倍になっている。垂直方向で対角に接する隣接画像ブロックは第1の実施例と同じサイズを有する。側方で第2のメイン画像ブロックHBZに接する隣接画像ブロックは第2のメイン画像ブロックHBZと同じサイズである。この実施例ではバッファ領域PBはアクセスメモリZSの動作領域ABの2倍の大きさである。開始位置で選択されたセクションは、図3のaでは1回目に、図3のbでは2回目に垂直方向で下方へ向かって第2のメイン画像ブロックHBZの垂直方向のピクセルと同じ数のピクセルだけオフセットされる。動作領域ABのピクセルの所定部分TZは図3のaに薄い線で示されているオフセットの後に新たに読み出される。図3のbに示されている別のオフセットでは初期のセクションに対するオーバラップは存在しない。画像メモリの出力側のデータ速度と入力側のデータ速度との比は図2の実施例と同じ値である。ここでもピクセルのデータは画像メモリから書き込み時よりも高いクロックレートで読み出される。
【図面の簡単な説明】
【図1】アクセスメモリの編成の概略図である。
【図2】本発明の方法の説明図である。
【図3】本発明の方法の別の説明図である。

Claims (6)

  1. 走査線から成り、複数の走査線のピクセルが画像メモリに部分画像として記憶されているビデオ画像の画像ブロックへのランダムアクセス方法において、
    アクセスメモリ(ZS)の第1の領域(AB)に部分画像の第1のセクション、すなわちx個のピクセルを有するメイン画像ブロック(HB)を部分画像の水平方向に有し、かつこれに接する少なくとも1つの同じサイズの隣接画像ブロック(NB)を垂直方向に有するように選定されたセクションを記憶するステップと、
    画像ブロック(HB、NB)の一方をアクセスメモリ(ZS)から読み出すステップと、
    画像ブロック(HB、NB)の読み出し中、アクセスメモリ(ZS)の第2の領域(PB)に、前記第1のセクションに水平方向で接する部分画像のセクション、すなわち水平方向でx個のピクセルを有し、垂直方向で第1のセクションと同じ数のピクセルを有するように選択されたセクションを記憶するステップと、
    アクセスメモリ(ZS)の第1の領域(AB)に前記第1のセクションと同じサイズの部分画像の第2のセクションを記憶し、該第2のセクションは第1のセクションに対して水平方向にオフセットされて第2の領域(PB)に記憶された部分画像の部分を完全に含むようにするステップとを有する、
    ことを特徴とするビデオ画像の画像ブロックへのランダムアクセス方法。
  2. 前記第1のセクションは付加的に、垂直方向でメイン画像ブロック(HB)に接しメイン画像ブロック(HB)と同じサイズを有する少なくとも1つの別の隣接画像ブロック(NB)を有しており、
    第2のセクションのピクセルの少なくとも一部をアクセスメモリ(ZS)から読み出し、
    その後アクセスメモリの第1の領域(AB)に、メイン画像ブロック(HB)が前記第1のセクション内に存在するように第1のセクションに対して垂直方向にオフセットされた部分画像の第3のセクションを記憶する、
    請求項1記載の方法。
  3. メイン画像ブロック(HB)を矩形に選択し、該ブロックを8個の隣接画像ブロック(NBH、NBV、NBD)によって包囲する、請求項1または2記載の方法。
  4. アクセスメモリ(ZS)の第1の領域(AB)は水平方向に48個のピクセル、垂直方向に24個のピクセルを有し、第2の領域(PB)は16×24個のピクセルを有するように選択する、請求項1から3までのいずれか1項記載の方法。
  5. アクセスメモリ(ZS)をSRAMとして構成する、請求項1から4までのいずれか1項記載の方法。
  6. ビデオ画像は走査線インタレースされたテレビジョン画像の1フレームである、請求項1から5までのいずれか1項記載の方法。
JP2000564370A 1998-08-06 1999-08-04 ビデオ画像の画像ブロックへのランダムアクセス方法 Expired - Fee Related JP3548718B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE19835607 1998-08-06
DE19835607.2 1998-08-06
PCT/DE1999/002447 WO2000008844A1 (de) 1998-08-06 1999-08-04 Verfahren zum wahlfreien zugriff auf bildblöcke in videobildern

Publications (2)

Publication Number Publication Date
JP2002522971A JP2002522971A (ja) 2002-07-23
JP3548718B2 true JP3548718B2 (ja) 2004-07-28

Family

ID=7876700

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000564370A Expired - Fee Related JP3548718B2 (ja) 1998-08-06 1999-08-04 ビデオ画像の画像ブロックへのランダムアクセス方法

Country Status (6)

Country Link
US (1) US6559897B2 (ja)
EP (1) EP1110378B1 (ja)
JP (1) JP3548718B2 (ja)
KR (1) KR100407057B1 (ja)
DE (1) DE59901032D1 (ja)
WO (1) WO2000008844A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8964126B2 (en) * 2011-06-13 2015-02-24 Nec Corporation Video processing system, video processing method, database for video processing and generating method thereof, video processing apparatus, control method thereof and control program thereof

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6053349B2 (ja) * 1981-06-19 1985-11-25 株式会社日立製作所 画像処理プロセツサ
DE3482365D1 (de) * 1984-11-08 1990-06-28 Itt Ind Gmbh Deutsche Fernsehempfaenger mit flimmerfreier wiedergabe eines zwischenzeilen-videosignals.
KR910008460B1 (ko) * 1986-12-25 1991-10-15 가부시키가이샤 도시바 정보처리장치
JP2925157B2 (ja) * 1989-02-28 1999-07-28 キヤノン株式会社 データ記憶装置
JPH04216392A (ja) 1990-12-18 1992-08-06 Mitsubishi Electric Corp ブロックライト機能を備える半導体記憶装置
JP3278756B2 (ja) * 1992-09-10 2002-04-30 日本テキサス・インスツルメンツ株式会社 画像処理方法及び装置
JP3626514B2 (ja) 1994-01-21 2005-03-09 株式会社ルネサステクノロジ 画像処理回路
US5596684A (en) * 1994-11-23 1997-01-21 Compaq Computer Corporation Anti-aliasing apparatus and method using fast scan-line memory mapping for sampling pixel patterns
US5748178A (en) * 1995-07-18 1998-05-05 Sybase, Inc. Digital video system and methods for efficient rendering of superimposed vector graphics

Also Published As

Publication number Publication date
KR20010074798A (ko) 2001-08-09
EP1110378B1 (de) 2002-03-20
KR100407057B1 (ko) 2003-11-28
US20010017670A1 (en) 2001-08-30
DE59901032D1 (de) 2002-04-25
US6559897B2 (en) 2003-05-06
EP1110378A1 (de) 2001-06-27
JP2002522971A (ja) 2002-07-23
WO2000008844A1 (de) 2000-02-17

Similar Documents

Publication Publication Date Title
US4723163A (en) Adaptive line interpolation for progressive scan displays
JPH02208690A (ja) 表示メモリとそれを備えた画像処理装置
JP3141772B2 (ja) Mpeg復号化器及びその復号化方法
US20080044107A1 (en) Storage device for storing image data and method of storing image data
US6356702B1 (en) Image display apparatus and special picture reproduction controller
JP3548718B2 (ja) ビデオ画像の画像ブロックへのランダムアクセス方法
JPH06276503A (ja) 信号処理装置
JPH10143131A (ja) 復号画像表示装置とその表示メモリ制御方法
JPH08186826A (ja) 画像復号処理方法およびそれに用いる記憶装置並びに画像復号装置
US5311307A (en) Image processing method
EP1014716B1 (en) Addressing process for the storage of image blocks
MXPA02004697A (es) Insercion de linea negra para formadores de imagenes de cristal luquido demasiado elevados.
JPH10178542A (ja) 画像縮小処理装置
JP3405079B2 (ja) メモリ割り付け方法
JPH0451773A (ja) 画像処理装置
KR100243479B1 (ko) 프레임 메모리의 출력 데이터 재배열장치
KR0159572B1 (ko) 인버스스캔장치
JPH0232478A (ja) 並列アクセスのための画像メモリ
JPS58151683A (ja) 画像記憶装置
KR960011738B1 (ko) 프레임 및 필드 구조에 따른 어드레스 발생장치
JP2007299211A (ja) メモリ制御装置
US20050129131A1 (en) Memory storage method for improving efficiency of image processing
JPH0793529A (ja) スキャンフォーマット変換装置
JP2000299879A (ja) 画像処理装置及び画像処理方法
JP2000020710A (ja) 画像フォーマット変換装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040331

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040419

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees