JPH08286658A - 解像度変換装置および解像度変換方法 - Google Patents

解像度変換装置および解像度変換方法

Info

Publication number
JPH08286658A
JPH08286658A JP7089612A JP8961295A JPH08286658A JP H08286658 A JPH08286658 A JP H08286658A JP 7089612 A JP7089612 A JP 7089612A JP 8961295 A JP8961295 A JP 8961295A JP H08286658 A JPH08286658 A JP H08286658A
Authority
JP
Japan
Prior art keywords
pixel
pixels
interpolation
image
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP7089612A
Other languages
English (en)
Other versions
JP3582540B2 (ja
Inventor
Hiroko Sato
裕子 佐藤
Shinji Wakizaka
新路 脇坂
Shigehiko Kasai
成彦 笠井
Yoichi Watanabe
洋一 渡邉
Hiroyuki Koizumi
洋之 小泉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Hitachi Consumer Electronics Co Ltd
Japan Display Inc
Original Assignee
Hitachi Device Engineering Co Ltd
Hitachi Ltd
Hitachi Consumer Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Device Engineering Co Ltd, Hitachi Ltd, Hitachi Consumer Electronics Co Ltd filed Critical Hitachi Device Engineering Co Ltd
Priority to JP08961295A priority Critical patent/JP3582540B2/ja
Priority to TW085103666A priority patent/TW377431B/zh
Priority to KR1019960011176A priority patent/KR100229516B1/ko
Priority to US08/633,310 priority patent/US6002810A/en
Publication of JPH08286658A publication Critical patent/JPH08286658A/ja
Priority to US09/452,169 priority patent/US6151425A/en
Priority to US09/636,059 priority patent/US6389180B1/en
Priority to US10/099,951 priority patent/US6587602B2/en
Application granted granted Critical
Publication of JP3582540B2 publication Critical patent/JP3582540B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Digital Computer Display Output (AREA)
  • Television Systems (AREA)

Abstract

(57)【要約】 【目的】解像度変換装置および方法において高品質な画
像を実現する。 【構成】決定手段がデジタル原画像の予め定めた画素数
のブロックごとに、前記デジタル原画像の前記ブロック
に対して補間する、前記変換倍率に応じた補間画素数と
補間位置とを決定する。生成部は、デジタル原画像の前
記ブロックごとに、当該ブロックの画素位置と画素デー
タとにより係数が決定される予め定めた補間式に従っ
て、前記決定手段により決定される前記補間位置におけ
る補間する画素の画像データを生成し、前記デジタル原
画像の画素の画像データと当該生成した補間する画素の
画像データとから変換後のデジタル画像を出力する。補
間式は、スプライン関数やベジェ関数とすることができ
る。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、文字、グラフィック
ス、自然画像で構成した静止画像や動画像のデジタル画
像情報を異なる画素数の画像情報に変換して、ディスプ
レイに表示する解像度変換装置に係り、特に、マルチメ
ディアの動画像表示において、入力した画像情報を異な
る解像度を有する表示装置やウインドウ環境で表示する
のに良好な解像度変換装置および解像度変換方法に関す
る。
【0002】
【従来の技術】デジタル画像の解像度変換において、原
画像の画素数を増やす場合、同じ表示装置上であれば原
画像の拡大表示となる。よって、ウインドウの拡大表示
等に有効である。また、原画像の解像度に比べて高い解
像度を有する表示装置に表示することが可能になる。そ
こで、最も簡単な方法としては、原画像の1画素に対し
て、同一画素を水平方向および垂直方向に埋めていくこ
とで原画像の画素数を増やす方法がある。
【0003】また、特開平6−124189号公報に記
載されている「画像表示装置および画像表示制御方法」
には、原画像の水平方向と垂直方向との画素データの平
均化を行い、原画像の画素数を減らす方法がある。この
方法は、従来技術として知られている直線描画アルゴリ
ズムを用いて描画し、原画像の直線は、少なくとも1ド
ット以上のy個の水平成分でそれぞれ表され、縮小の場
合、直線の傾きは45度以下となる。各水平成分の長さ
は、VRAMに書き込む縮小スケーリング後の1画素デ
ータに対応する画像入力の画素データの個数を表すと考
えることができる。各水平成分の長さは異なる場合もあ
るし、全て同一の場合も存在するが、nドット分の画素
データの平均化を行うことで、水平方向の縮小スケーリ
ングを行っている。垂直方向についても同様である。こ
の直線の傾きを45度以上にすることにより、拡大処理
が可能となり、水平方向、垂直方向の拡大スケーリング
を行っている。
【0004】また、単純に同一画素を埋めるのではな
く、埋めていく際に、図18および図22に示すよう
に、原画像の画素間の階調値を直線で結ぶように補間画
素の階調値を算出し、画素を埋めていくことで原画像の
画素数を増やす方法が従来からある。図18および図2
2には、水平方向の各画素位置における階調値を示して
いる。
【0005】さらに、原画像を任意に解像度変換する方
法を図17に示す。1701は、原画像データであり、
1702は、原画像を縦にL1倍、横にM1倍する処理
を示し、1703は、拡大された画像データである。1
704は、拡大された画像データを縦に1/L2倍、横
に1/M2倍する処理を示し、1705は、縮小された
画像データである。ここで、L1、L2、M1およびM
2は、正の整数である。この処理は、L1>L2,M1
>M2ならば、画像の拡大に、またL1<L2,M1<
M2ならば、画像の縮小に相当する。このように、画像
サイズの拡大処理と縮小処理とを組み合わせることによ
り、画像サイズをより自由に変換できる。
【0006】
【発明が解決しようとする課題】
《課題1》上記従来方法の原画像の画素数を増やす場
合、原画像の1画素に対して、同一画素を水平方向およ
び垂直方向に埋めていくことで原画像の画素数を増やす
方法では、モザイク状のギザギザが目立つ画像となり、
画質が劣化する問題がある。
【0007】《課題2》上記従来方法の原画像の画素数
を増やす場合、単純に同一画素を埋めるのではなく、埋
めていく際に、図18や図22に示すように、原画像の
両端画素の階調値を直線で結ぶように補間画素の階調値
を算出し、画素を埋めていくことで原画像の画素数を増
やす方法では、モザイク状のギザギザが目立つ画像とは
ならないが、濃淡の境界がはっきりとした画像の輪郭部
分等の高周波成分が平滑化されて、画像全体がぼやけて
しまう問題がある。
【0008】《課題3》上記従来方法の原画像の画素数
を増やす場合、画像サイズの拡大処理と縮小処理とを組
み合わせることにより、画像サイズをより自由に変換す
る方法では、画像の拡大処理を行ってからから縮小処理
を行うので、解像度変換処理に時間がかかるという問題
がある。
【0009】そこで、本発明の第1の目的は、原画像の
画素数を増やす解像度変換において、モザイク状のギザ
ギザが目立つ画像を防止し、高品質な画像を実現するこ
とである。
【0010】また、本発明の第2の目的は、原画像の画
素数を増やす解像度変換において、濃淡の境界がはっき
りとした画像の輪郭部分等の高周波成分を保存し、高品
質な画像を実現することである。
【0011】さらに、本発明の第3の目的は、原画像の
画素数を増やす解像度変換において、デジタル動画像処
理を満足する高速な解像度変換処理を実現することであ
る。
【0012】
【課題を解決するための手段】本発明の目的を達成する
ために、デジタル原画像を、指定された変換倍率に応じ
て異なる画素数のデジタル画像に変換する解像度変換装
置において、前記デジタル原画像の予め定めた画素数の
ブロックごとに、前記デジタル原画像の前記ブロックに
対して補間する補間画素の補間位置を前記変換倍率に応
じて決定する決定手段と、前記デジタル原画像の前記ブ
ロックごとに、当該ブロックのそれぞれの画素の画素位
置および画素データにより係数が決定される予め定めた
補間式に従って、前記決定手段により決定される前記補
間位置に補間する画素の画像データを生成し、前記デジ
タル原画像の画素の画像データと当該生成した補間する
画素の画像データとから変換後のデジタル画像を出力す
る生成部とを有する。
【0013】また、デジタル原画像を、指定された変換
倍率に応じて異なる画素数のデジタル画像に変換する解
像度変換装置において、前記デジタル原画像の予め定め
た画素数のブロックごとに、前記デジタル原画像の前記
ブロックに対して補間する補間画素の補間位置を前記変
換倍率に応じて決定する決定手段と、前記デジタル原画
像の前記ブロックごとに、当該ブロックのそれぞれの画
素の画素位置および画素データと、当該ブロックに隣接
する画素の画素位置および画素データとにより係数が決
定される予め定めた補間式に従って、前記決定手段によ
り決定される前記補間位置に補間する画素の画像データ
を生成し、前記デジタル原画像の画素の画像データと当
該生成した補間する画素の画像データとから変換後のデ
ジタル画像を出力する生成部とを有するようにしてもよ
い。
【0014】
【作用】本発明における解像度変換装置は、決定手段が
デジタル原画像の予め定めた画素数のブロックごとに、
前記デジタル原画像の前記ブロックに対して補間する補
間画素の補間位置を前記変換倍率に応じて決定する。こ
の場合、例えば、変換倍率ごとに補間位置をテーブルに
規定しておき、このテーブルを参照し、変換倍率に従っ
て補間位置を決定することができる。また、単位ブロッ
クは、8×8画素のブロックとすることができる。
【0015】生成部は、デジタル原画像の前記ブロック
ごとに、当該ブロックのそれぞれの画素の画素位置およ
び画素データにより係数が決定される予め定めた補間式
に従って、前記決定手段により決定される前記補間位置
に補間する画素の画像データを生成し、前記デジタル原
画像の画素の画像データと当該生成した補間する画素の
画像データとから変換後のデジタル画像を出力する。補
間式は、スプライン関数やベジェ関数とすることができ
る。
【0016】これにより補間画素の画素データを最適化
することができる。
【0017】本発明によれば、原画像の画素数を増やす
解像度変換において、モザイク状のギザギザが目立つ画
像を防止し、輪郭のはっきりとしない自然画像等に対し
て高品質な画像を実現することができ、また、輪郭のは
っきりとした文字、図形に対しては、濃淡の境界がはっ
きりとした画像の輪郭部分等の高周波成分を保存し、高
品質な画像を実現することができる。
【0018】また、補間するブロックと隣接するブロッ
クとの画素間に補間位置を設ける場合には、当該ブロッ
クの画素位置および画素データに加えて、当該補間する
ブロックに隣接する画素の画素位置および画素データを
さらに用いて前記補間式の係数を決定することができ
る。これにより、単位ブロックと単位ブロックとが隣接
する部分の画素間、つまり、単位ブロックの画素の外側
の位置において、補間画素を発生させることができ、単
位ブロックの隣接部分においても画素データが不連続に
ならないようにすることができる。
【0019】さらに、決定手段は、前記変換倍率を、水
平方向と垂直方向との変換倍率とし、生成部は、前記補
間する画素の画像データの生成を、前記水平方向につい
て行う水平方向生成手段と、前記垂直方向について行う
垂直方向生成手段とを備える場合には、それぞれの生成
手段において生成を行うことができるので高速化が実現
できる。
【0020】
【実施例】以下、本発明の実施例を詳細に説明する。
【0021】まず初めに、本発明の大まかな構成と処理
の流れを説明してから、その次に、課題を解決するため
の詳細な構成と処理の流れを説明する。
【0022】本実施例においては、補間画素を発生して
画素数を増やして拡大画像に変換するものであり、予め
定めた画素数の単位画素ブロックごとに、倍率に応じて
補間する画素数と画素を補間する位置とを規定してお
き、ブロックの画素位置と画素データとにより係数が決
定される予め定めた補間式に従って、補間位置における
補間する画素の画像データを生成する。すなわち、補間
画素の階調値は、単位ブロック内の画素の階調値を所定
の関数(補間式)で示したときに、補間する画素の位置
についてその関数上の階調値により求められる。
【0023】図1に、デジタル原画像を異なる画素数の
デジタル画像に変換するハードウエア構成のブロック図
を示す。また、図2に、画素変換の様子を示す。本実施
例における装置は、図1に示すような構成に限定する必
要はなく、マイクロコンピュータ周辺機器としてLSI
化した単体素子であっても、ソフトウエアによりシステ
ム化した装置であってもよい。ここで、静止画像や動画
像等のデジタル原画像データとは、JPEG、MPEG
等の圧縮データが伸長されたものや、NTSC等の信号
をデジタル化したものである。
【0024】図1において、水平方向スケーリング演算
部101は、入力された原画像データに対して、水平方
向に画素数の変換を行う。水平方向スケーリング演算部
101は、原画像データを8×8画素の単位ブロックに
分割された画像データに対して、水平方向に1ライン分
の8画素分の原画像データ103を入力して画素数変換
を順に行う。また、水平方向スケーリング演算部101
は、原画像を水平方向に対して何画素増やすかを示すた
めの水平方向倍率を表わす制御信号105を入力する。
図2に示すように、水平方向スケーリング演算部101
は、8×8画素の単位ブロック201に分割された原画
像データのうち、水平方向に1ライン8画素分の原画像
データ202を入力し、1ライン8±n画素分の画像デ
ータ203を出力する。図2において、1ライン8±n
画素分の画像データ203のうち、ハッチングを施した
画素C1およびC2が、水平方向スケーリング演算部10
1により生成された補間画素である。
【0025】つぎに、垂直方向スケーリング演算部10
2は、水平方向スケーリング演算部101が出力した水
平方向に画素数変換された画像データに対して、垂直方
向に画素数の変換を行う。垂直方向スケーリング演算部
102は、水平方向スケーリング演算部101が出力し
た水平方向に1ライン8+n画素分の画像データ104
を1ラインずつ順に8ライン分入力し、垂直方向に8+
nライン分の画像データ107を出力する。また、垂直
方向スケーリング演算部102は、原画像を垂直方向に
対して何画素増やすかを示すための垂直方向倍率を表わ
す制御信号106を入力する。図2に示すように、垂直
方向スケーリング演算部102は、水平方向に画素数変
換された1ライン8+n画素分の画像データ203を8
ライン分入力し、垂直方向に画素数変換された画像デー
タ204を出力する。図2において、ハッチングを施し
た画素P1〜P10が、垂直方向スケーリング演算部1
02よって生成された補間画素データあり、垂直方向ス
ケーリング演算部102は、補間ライン205および2
06を生成し、8×8画素の単位ブロックに分割された
原画像データを、10×10画素の単位ブロックの画像
データ207に画素数変換する。
【0026】図7に、本発明を適用したシステム構成例
を示す。CPU701は情報を処理する中央演算処理装
置である。画像データ入力部702は圧縮されたデジタ
ル静止画像データや、動画データを入力する。バッファ
メモリ703は、画像データを記憶し、例えば画像デー
タがMPEG圧縮動画データである場合に、伸長する際
に伸長する前と伸長した後との画像データを記憶するの
に利用し、メモリ容量としては少なくとも8×8画素を
格納できる容量を持つ。画像処理LSI704は、前述
した図1に示すような解像度変換を行う。VRAM70
5は、解像度変換を行った後の画像データを格納する。
表示制御部706は、VRAM705に格納した解像度
変換を行った後の画像データを読み出して液晶パネルに
表示する。D/A708は、音声出力用のデジタル/ア
ナログ変換器である。システムバス709は、データバ
ス、アドレスバス、コントロールバスからなる。入力部
710は、解像度変換の倍率等の指示を受付ける。
【0027】本システム構成において、CPU701、
バッファメモリ703、本発明のスケーリングを行なう
画像処理LSI704、および、表示制御706は、一
つのLSI化した単体素子であってもよい。
【0028】つぎに、解像度変換の詳細を図3および図
7を参照して説明する。図3に、本実施例の解像度変換
における処理フローを示す。
【0029】図3において、原画像に対して水平方向に
何倍するかまた垂直方向に何倍するかを決める解像度変
換の倍率を図7に示す本装置の入力部710で受付ける
(S301)。CPU701は、画像処理LSI704
のパラメータを設定するためのパラメータレジスタに解
像度変換の倍率のデータを設定する。画像データ入力部
702では、画像データを受け付け、8×8画素の単位
ブロックに分割し、バッファメモリ703に分割した単
位ブロックごとに画像データを記憶させる。つぎに、画
像処理LSI704は、バッファメモリ703に記憶す
る8×8画素の単位ブロックに分割された原画像データ
の水平方向1ライン分の8画素データを入力する(S3
02)。画像処理LSI704は、入力された水平方向
1ライン分の8画素データに対して、水平方向に補間画
素を発生し、水平方向の8ライン分のスケーリング演算
処理を行う(S303)。つぎに、画像処理LSI70
4は、水平方向のスケーリング演算処理された8ライン
分のデータに対して、垂直方向に補間画素を発生し、一
度に補間ラインを生成し、垂直方向のスケーリング演算
処理を行う(S304)。最後に、水平方向および垂直
方向のスケーリング演算処理後の単位画素ブロック毎に
表示メモリであるVRAM705へライトする(S30
5)。
【0030】つぎに、倍率に応じて補間する画素数と画
素を補間する位置とついて、詳細に説明する。
【0031】図4は、図1に示す水平方向スケーリング
演算部101が、水平方向に補間画素を生成し、水平方
向のスケーリング演算処理を行うための水平方向倍率
と、それに対応する補間画素生成点数との関係を示す水
平方向補間画素生成テーブルの一例を示している。原画
像データに対して8×8画素の単位ブロックに分割され
た原画像データの水平方向のライン毎に補間画素を生成
することから、入力画素数は8画素である。例えば、カ
ラー表示でRGBの各8ビットであれば、1画素あたり
24ビットのデータ長となる。また、各画素の画像デー
タは、輝度と色差で表わされたYUVのデジタルデータ
でもよい。図4に示すように、入力画素数の8画素に対
して、倍率ごとに生成画素生成点数を1点ずつ増やして
いくことにより水平方向のスケーリングを実現する。例
えば、水平方向の倍率を1.625倍に設定した場合、
補間画素の生成点数は5点であり、出力画素数は13画
素となる。水平方向の倍率から補間画素の生成点数は指
定できるが、補間画素の発生位置が画質に影響を及ぼ
す。補間画素発生位置については後で説明する。
【0032】図5は、図1に示す垂直方向スケーリング
演算部102が、垂直方向に補間画素を生成し、垂直方
向のスケーリング演算処理を行うための垂直方向倍率
と、それに対応する補間画素生成ライン数との関係を示
す垂直方向補間画素生成テーブルの一例を示している。
原画像データに対して8×8画素の単位ブロックに分割
された原画像データの垂直方向に補間画素を生成し、補
間ラインを生成することから、入力ライン数は8ライン
である。図5に示すように、入力ライン数の8ラインに
対して、生成ライン数を倍率ごとに1ラインずつ増やし
ていくことにより垂直方向のスケーリングを実現する。
例えば、垂直方向の倍率を1.375倍に設定した場
合、補間画素の生成ライン数は3ラインであり、出力ラ
イン数は11ラインとなる。水平方向スケーリングと同
様に、垂直方向の倍率から補間画素の生成ライン数は指
定できるが、補間画素のラインの発生位置が画質に影響
を及ぼす。
【0033】そこで、図6を参照して、水平方向の倍率
から補間画素の生成点数を指定し、その補間画素の発生
位置について説明する。
【0034】図6は、原画像データに対して、8×8画
素の単位ブロックに分割された水平方向に1ライン8画
素の原画像データから補間画素を生成したときに、その
発生位置を補間画素数nごとに例示したものである。補
間画素の発生位置についてはこれに限らなくてもよい
し、ユーザが自分で発生位置を指定できるようにしても
よい。図6において、白枠の長方形の部分は、8×8画
素の単位ブロックに分割された、原画像データの1ライ
ン8画素の各画素を示している。また、ハッチングされ
た四角形の部分は、補間画素であり、その発生位置を示
している。nは、0以上の整数であって、補間画素の発
生点数を示している。600は、補間画素の発生点数が
n=0であり、水平方向に原画像の画素1、画素2の順
に画素8まで並んでいる様子を示している。601は、
補間画素の発生点数がn=1であり、水平方向に原画像
の画素1と画素2との間に補間画素を1画素分発生して
いる。602は、補間画素の発生点数がn=2であり、
水平方向に原画像の画素1と画素2との間に補間画素を
1画素分発生し、画素5と画素6との間に補間画素を1
画素分発生している。このときの水平方向倍率は、図4
における水平方向補間画素生成テーブルに示すように
1.25倍である。さらに、水平方向倍率を上げていく
と、608では、補間画素の発生点数がn=8であり、
水平方向に原画像の画素1と画素2との間に補間画素を
2画素分発生し、画素2と画素3との間に補間画素を1
画素分発生し、画素3と画素4との間に補間画素を1画
素分発生し、画素4と画素5との間に補間画素を1画素
分発生し、画素5と画素6との間に補間画素を1画素分
発生し、画素6と画素7との間に補間画素を1画素分発
生し、画素7と画素8との間に補間画素を1画素分発生
している。このときの水平方向倍率は、図4における水
平方向補間画素生成テーブルに示すように2倍である。
同様にして、補間画素の発生点数nに対して、603〜
624に示すように補間画素を発生する。
【0035】このように、倍率に応じて生成する補間画
素の数と発生位置とを予め規定しておくことができる。
【0036】また、上述した説明は、水平方向の補間画
素の発生位置に関するものであるが、垂直方向について
も同様に補間画素を補間ラインに置き換えればよい。す
なわち、垂直方向の倍率から補間画素の生成ライン数を
規定し、その補間画素のラインの発生位置についても同
様に規定しておくことができる。
【0037】つぎに、水平・垂直方向のスケーリング演
算処理方法について具体的に説明する。図8に、図1に
示す水平方向スケーリング演算部101において、水平
方向に1.25倍に拡大する場合のフローチャートを示
す。1.25倍する場合には、図4に示すように、生成
点数n=2であり、1ライン8画素分の画素データは1
0画素に画素数変換される。
【0038】図8において、まず、水平方向スケーリン
グ演算部101は、画素数変換後の画素数分である10
画素分の画素データを格納するメモリ(配列)エリアを
確保し(S801)、1ライン分のデータを入力し、確
保したメモリに格納する(S802)。このとき、図4
および図6に示す水平方向補間画素生成テーブルに従っ
て補間画素を挿入する場所、つまり1画素と2画素の
間、5画素と6画素の間を空けて格納する。そして、S
803で入力された8画素分の画素データの間にスプラ
イン関数による曲線を発生させ、補間画素を生成し、先
程空けておいたメモリエリア(配列)の中に格納する。
【0039】この曲線の発生方法について図9を参照し
て説明する。図9に、水平方向のスケーリング演算処理
によって画素数変換されるときの画素位置に対する画素
データを示している。横軸は画素データの位置(なら
び)を表わし、縦軸は画素データの値(輝度)を表わ
す。
【0040】図9において、901が画素数変換前の8
画素分の画素データであり、902は画素数変換後の1
0画素分の画素データを示している。前述した図8に示
すS802において、図4および図6に示す水平方向補
間画素生成テーブルに従って図9における903に示す
ように、補間画素を挿入する位置を空けて8画素分の画
素データを並べる。そして、図9における904に示す
ように、その8画素データからスプライン関数による曲
線905を発生させる。ここで、スプライン関数とは、
図20に示すような区分的多項式関数であり、小区間内
ではそれぞれ、たかだかm次の違った多項式曲線で定義
され、それらは互いにできるだけ滑らかにつながってい
るようなものである。この曲線905と、補間画素の発
生位置C1とC2とのそれぞれの交点の値が補間画素デ
ータの値(輝度)906および907となる。水平方向
スケーリング演算部101は、このようにして補間画素
データ906および907を生成し、1ライン分のスケ
ーリング演算処理が終わり、垂直方向スケーリング演算
部102へ1ライン10画素分の画素データ902を出
力する。このように、水平方向スケーリング演算処理部
101では、順次1ラインずつスケーリング演算処理を
行い、垂直方向スケーリング演算処理部102へ出力す
る。
【0041】また、図10および図11を参照して垂直
方向の解像度変換処理について説明する。図10に、図
1に示す垂直方向スケーリング演算部102において、
垂直方向に1.25倍に拡大する場合のフローチャート
を示す。図11に、垂直方向のスケーリング演算処理に
よって画素数変換されるときの画素位置に対する画素デ
ータを示している。1.25倍する場合には、図4に示
すように、生成ライン数n=2であり、8ライン分の画
素データが10ライン分の画素データに画素数変換され
る。
【0042】あらかじめ、垂直方向スケーリング演算処
理部102内には、(水平方向拡大後の画素数8+n)
×(8ライン)分のメモリが確保されており、ここでは
生成点数n=2であるから、10×8=80画素分のメ
モリが確保されている。垂直方向スケーリング演算処理
部102は、図11に示すように、水平方向スケーリン
グ演算処理部101から順に送られてくる、水平方向の
画素数変換後の8ライン分の画素データ1101〜11
08をメモリに格納していき、8ライン分格納されると
垂直方向のスケーリング演算処理を開始する。
【0043】図10において、垂直方向スケーリング演
算処理部102は、メモリに格納されている8ライン分
の列ごとの画素データ、例えば、図11に示すような、
列単位での8画素分の画素データ1112を入力する
(S1001)。そして、垂直方向スケーリング演算処
理部102は、各列ごとに補間画素データを生成する
(S1002)。図11において、X11、X21、X31
41、X51、X61、X71、X81の垂直方向の同じ列に当
たる画素データ8画素分1112から、水平方向と同様
にスプライン関数による曲線1109を求める。このと
き、図5に示す垂直方向補間画素生成テーブルに従って
補間ラインを挿入する場所、つまり、1ラインと2ライ
ンの間(D11)と、5ラインと6ラインの間(D21)と
に補間画素を発生させる。このとき曲線1109と、D
11およびD21との交点1110、1111の値がそれぞ
れ補間画素データの値となる。これらX11、X21
31、X41、X51、X61、X71、X81と補間画素データ
11、D21をVRAMに直接書き込み、次のC11〜C81
からまた同じようにして補間画素データを生成する。図
12に、単位ブロックの画素数変換後の画素データを示
す。図12に示すように、C11〜C811201、C12
821202、D11〜D201203、D21〜D30120
4の補間画素データが生成される。このようにして、水
平方向の10画素分、列ごとに補間画素データを生成
し、8×8画素が10×10画素の単位ブロックに変換
され、スケーリング演算処理が終了する。この処理を原
画像データの解像度分繰り返す。例えば、原画像データ
の解像度が160×120画素のデータであれば、図1
3に示すように、8×8画素単位のブロックが20×1
5=300個存在するので、8×8画素単位のスケーリ
ング演算処理を300回繰り返せばよい。これにより、
200×150画素の画像データに変換される。
【0044】次に、具体的な例を用いて詳細に説明す
る。図23(1)は、8×8画素の“A”という原画像
データである。画像データは、8ビットデータ(0〜2
55)とし、図中の数値はその画素の輝度値を表してい
る。この画像データを、1.25倍に拡大処理する場
合、従来の直線補間法で補間画素を生成した拡大画像を
図23(2)に、本実施例のスプライン関数による曲線
補間で補間画素を生成した拡大画像を図23(3)に示
す。拡大後の補間画素の輝度値を比較すると、(2)の
直線補間法で生成した補間画素より(3)のスプライン
関数による曲線補間法で生成した補間画素の方がより隣
接画素の輝度値に近いことがわかる。したがって、スプ
ライン関数による曲線補間法で補間画素を生成した方
が、画像の輪郭部などにおいて、拡大処理後もぼやけの
少ない画像を実現することができる。
【0045】本実施例によれば、予め補間する画素数と
補間位置とを倍率に応じて規定しておくことができる。
また、単位ブロックの水平方向または垂直方向の画素の
画像データからスプライン関数による曲線を求め、この
求めた曲線上に補間画素の画像データを決定することが
できる。本実施例によれば、原画像の画素数を増やす解
像度変換において、モザイク状のギザギザが目立つ画像
を防止し、高品質な画像を実現することができる。さら
に、デジタル動画像処理を満足する高速な解像度変換処
理を実現することができる。また、最小限のハードウエ
ア規模で任意の解像度変換処理を実現することができ
る。
【0046】つぎに、第2の実施例を説明する。第1の
実施例においては、単位ブロックの画素内に補間画素を
生成させる場合について説明したが、第2の実施例にお
いては、単位ブロックと単位ブロックとが隣接する部分
の画素間、つまり、単位ブロックの画素の外側の位置に
おいて、補間画素を発生させ、単位ブロックの隣接部分
においても画素データが不連続にならないようにしてい
る。
【0047】図14に、8画素データを水平方向に3倍
に拡大するときの第2の実施例における補間画素の発生
位置のパターンの一例を示す。図14においては、原画
像の画像データ1〜8から、3次スプライン曲線140
9に基づいて補間画素データ1401〜1408を生成
する場合を示す。この場合、補間画素データ1408
は、原画像データ8の外側に発生させる。補間画素デー
タをスプライン関数で曲線補間して生成するとき、原画
素データ1〜8から3次スプライン曲線1409を発生
させるため、原画素データ1〜8の間に挟まれる補間画
素データ1401〜1407までは生成できるが、補間
画素データ1408は原画素データ1〜8の間に挟まれ
ないので、次の点1410が存在しないと曲線補間がで
きない。曲線補間法で補間画素を生成するために、次ぎ
の点1410の位置の画素データの値を、画素7の画素
データの値として利用するとすると、つぎに入力される
8×8画素の画素データとのつなぎ目が不連続になる可
能性がある。
【0048】そこで、本実施例においては、図15に示
すように、画素ブロック1〜300までのあるときに、
水平・垂直方向の補間画素データを生成する場合、8×
8画素単位の画素ブロック1と、その右隣の画素ブロッ
ク2の一番左端の1列分の画素データ1501と、画素
ブロック21の上端のラインの画素データ1502と、
画素ブロック22の左上端の画素データ1503とから
スプライン関数による曲線補間で画素ブロック1のスケ
ーリング処理を行なう。
【0049】この処理について、図16に示すフローチ
ャートを参照して説明する。図16に示すフローチャー
トは、160×120画素(単位ブロック数300)の
原画素データをm×n倍に拡大する場合のスケーリング
処理の単位ブロックにおける処理手順を表したものであ
る。
【0050】図16において、図1に示す水平方向スケ
ーリング演算処理部101は、図15に示すブロック1
と、その右隣の画素ブロック2の一番左端の1列分の画
素データ1501と、画素ブロック21の上端のライン
の画素データ1502と、画素ブロック22の左上端の
画素データ1503とを少なくとも格納するためのメモ
リ(メモリ1)を確保する。また、画素データをブロッ
クごとに順番に出力している場合には、ブロック1〜ブ
ロック22までの22ブロック分の画素(8×8×22
=1408画素)の原画素データを格納するメモリ(メ
モリ1)を確保し(S1601)、データを格納するよ
うにしてもよい。また、垂直方向スケーリング演算処理
部102は、垂直方向スケーリング演算結果格納用メモ
リとして、水平方向に変換後のブロック1からブロック
20までの画素とブロック21〜40の1ライン目の画
素{8×(横方向拡大率m)}×(8+1)分の原画素
データを格納するメモリ(メモリ2)を確保する(S1
602)。
【0051】そして、水平方向スケーリング演算処理部
101は、メモリ1からブロック1の画素データと、ブ
ロック2の左端1列分の画素データとを読み込み、1ラ
イン9画素分の原画素データから水平方向スケーリング
演算処理をそれぞれのラインについて行い、このように
して求めた水平方向スケーリング演算結果をメモリ2に
格納する(S1603)。また、水平方向スケーリング
演算処理部101は、メモリ1からブロック21の上端
1行分の画素データ1502とブロック22の左上端の
画素データ1503の計9画素分の画素データを読み込
み、この9画素分の画素データから水平方向スケーリン
グ演算処理を行い、メモリ2に格納する(S160
4)。これにより、メモリ2には、図19に示すよう
に、水平方向にm倍に拡大処理された9ライン分のデー
タが格納されていることになる。この時、原画素データ
の9画素目にあたるブロック2の左端1列分の画素デー
タ1501はメモリ2には格納しない。そして、垂直方
向スケーリング演算処理部102は、メモリ2に格納さ
れている水平方向演算結果から、水平方向と同様に垂直
方向スケーリング演算処理をそれぞれの列について行
い、図7に示すVRAMに書き込んでいく(S160
5)。これで、ブロック1の拡大処理が終了する。つぎ
に、ブロック2の拡大処理を同様に行う。このようにし
て、各ブロックごとに拡大処理を行っていき、全てのブ
ロックについて拡大処理を行う。
【0052】また、図15に示す1504において、一
番右端のブロックにあたる20ブロックや40ブロック
などの場合、右隣の21ブロック目が存在しないので、
図15に示す左端の1列分の画素データ1501と、画
素ブロック22の左上端の画素データ1503に相当す
る画素データが存在しないことがある。この場合には、
例えば、ブロック20の7画素目にあたる画像データの
値を、平行移動して9画素目の画像データの値とするこ
とにより、曲線補間による水平方向のスケーリング処理
を行うようにしてもよい。同様に、垂直方向に関して
も、図15に示す1504において、ブロック281〜
ブロック300はその下のブロックが存在しないため、
図15に示す上端のラインの画素データ1502にあた
る画素データが存在しない。そのため、ブロック281
〜300の7ライン目にあたる画像データの値を平行移
動して9ライン目の画像データの値とすることにより、
曲線補間による垂直方向のスケーリング処理を行うこと
ができる。
【0053】本実施例によれば、単位ブロックと単位ブ
ロックとが隣接する部分の画素間、つまり、単位ブロッ
クの画素の外側の位置において、補間画素を発生させる
ことができ、単位ブロックの隣接部分においても画素デ
ータが不連続にならないようにすることができる。
【0054】上述した第1および第2の実施例では、曲
線補間を行う場合、図20に示すようなスプライン関数
による曲線補間を行ったが、スプライン関数はこれに限
らずm次スプライン関数を簡易化した混合スプライン関
数や、ベーススプライン関数を用いてもよいし、又、図
21に示すように、4つの補間点から始終点のみを通る
ような3次ベジェ曲線を用いて曲線補間を行ってもよい
し、他の補間式を用いて補間を行ってもよい。
【0055】
【発明の効果】本発明によれば、デジタル原画像を異な
る画素数のデジタル画像に変換して、ディスプレイに表
示する解像度変換装置および方法において、高品質な画
像を再現することができる。さらに、解像度変換処理の
高速化および低価格化が図れる。
【図面の簡単な説明】
【図1】画像拡大スケーリング処理方法のブロック図で
ある。
【図2】画像拡大スケーリング処理方法の説明図であ
る。
【図3】画像拡大スケーリング処理方法のフローチャー
トである。
【図4】水平方向補間画素生成テーブルの説明図であ
る。
【図5】垂直方向補間画素生成テーブルの説明図であ
る。
【図6】画像拡大スケーリング処理方法の説明図であ
る。
【図7】画像拡大スケーリング処理におけるシステム構
成図である。
【図8】水平方向スケーリング演算処理のフローチャー
トである。
【図9】水平方向スケーリング演算処理の補間画素デー
タ生成の説明図である。
【図10】垂直方向スケーリング演算処理のフローチャ
ートである。
【図11】垂直方向スケーリング演算処理の補間画素デ
ータ生成の説明図である。
【図12】1.25倍に画素数変換後の画素データ模式
図である。
【図13】160×120画素の画素データにおける8
×8画素単位ブロック分けの説明図である。
【図14】画像拡大スケーリング処理方法の説明図であ
る。
【図15】画像拡大スケーリング処理方法の説明図であ
る。
【図16】画像拡大スケーリング処理方法を説明するフ
ローチャートである。
【図17】従来の画像拡大スケーリング処理方法のブロ
ック図である。
【図18】直線補間による補間画素データ生成の説明図
である。
【図19】メモリ2の構造を説明する図である。
【図20】m次スプライン関数の模式図である。
【図21】3次ベジェ関数の模式図である。
【図22】直線補間の模式図である。
【図23】拡大画像データ例である。
【符号の説明】
101…水平方向スケーリング演算部、102…垂直方
向スケーリング演算部、701…CPU、702…画像
入力部、703…バッファメモリ、704…スケーリン
グ制御部、705…VRAM、706…表示制御部、7
07…液晶パネル。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 笠井 成彦 神奈川県川崎市麻生区王禅寺1099番地 株 式会社日立製作所システム開発研究所内 (72)発明者 渡邉 洋一 千葉県茂原市早野3681番地 日立デバイス エンジニアリング株式会社内 (72)発明者 小泉 洋之 東京都小平市上水本町五丁目20番1号 株 式会社日立製作所半導体事業部内

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】デジタル原画像を、指定された変換倍率に
    応じて異なる画素数のデジタル画像に変換する解像度変
    換装置において、 前記デジタル原画像の予め定めた画素数のブロックごと
    に、前記デジタル原画像の前記ブロックに対して補間す
    る補間画素の補間位置を前記変換倍率に応じて決定する
    決定手段と、 前記デジタル原画像の前記ブロックごとに、当該ブロッ
    クのそれぞれの画素の画素位置および画素データにより
    係数が決定される予め定めた補間式に従って、前記決定
    手段により決定される前記補間位置に補間する画素の画
    像データを生成し、前記デジタル原画像の画素の画像デ
    ータと当該生成した補間する画素の画像データとから変
    換後のデジタル画像を出力する生成部とを有することを
    特徴とする解像度変換装置。
  2. 【請求項2】請求項1において、前記補間式は、スプラ
    イン関数であることを特徴とする解像度変換装置。
  3. 【請求項3】請求項1において、前記補間式は、ベジェ
    関数であることを特徴とする解像度変換装置。
  4. 【請求項4】請求項1において、前記決定手段は、前記
    変換倍率を、水平方向と垂直方向との変換倍率とし、 前記生成部は、前記補間する画素の画像データの生成
    を、前記水平方向について行う水平方向生成手段と、前
    記垂直方向について行う垂直方向生成手段とを備えるこ
    とを特徴とする解像度変換装置。
  5. 【請求項5】請求項1において、前記決定手段は、前記
    補間位置の少なくとも一つを、当該補間するブロックと
    隣接するブロックとの画素間に設けるように決定し、 前記生成手段は、前記補間する画素の画素データを、当
    該補間するブロックに隣接する画素の画素位置と画素デ
    ータとをさらに用いて前記補間式の係数を決定すること
    により生成することを特徴とする解像度変換装置。
  6. 【請求項6】デジタル原画像を、指定された変換倍率に
    応じて異なる画素数のデジタル画像に変換する解像度変
    換装置において、 前記デジタル原画像の予め定めた画素数のブロックごと
    に、前記デジタル原画像の前記ブロックに対して補間す
    る補間画素の補間位置を前記変換倍率に応じて決定する
    決定手段と、 前記デジタル原画像の前記ブロックごとに、当該ブロッ
    クのそれぞれの画素の画素位置および画素データと、当
    該ブロックに隣接する画素の画素位置および画素データ
    とにより係数が決定される予め定めた補間式に従って、
    前記決定手段により決定される前記補間位置に補間する
    画素の画像データを生成し、前記デジタル原画像の画素
    の画像データと当該生成した補間する画素の画像データ
    とから変換後のデジタル画像を出力する生成部とを有す
    ることを特徴とする解像度変換装置。
  7. 【請求項7】デジタル原画像を、指定された変換倍率に
    応じて異なる画素数のデジタル画像に変換する解像度変
    換方法において、 前記デジタル原画像の予め定めた画素数のブロックごと
    に、前記デジタル原画像の前記ブロックに対して補間す
    る補間画素の補間位置を前記変換倍率に応じて決定し、 前記デジタル原画像の前記ブロックごとに、当該ブロッ
    クのそれぞれの画素の画素位置および画素データにより
    係数が決定される予め定めた補間式を求め、 当該もとめた補間式に従って、前記補間位置に補間する
    画素の画像データを生成し、 前記デジタル原画像の画素の画像データと当該生成した
    補間する画素の画像データとから変換後のデジタル画像
    を出力することを特徴とする解像度変換方法。
JP08961295A 1995-04-14 1995-04-14 解像度変換装置および解像度変換方法 Expired - Fee Related JP3582540B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP08961295A JP3582540B2 (ja) 1995-04-14 1995-04-14 解像度変換装置および解像度変換方法
TW085103666A TW377431B (en) 1995-04-14 1996-03-27 Method and apparatus for changing resolution
KR1019960011176A KR100229516B1 (ko) 1995-04-14 1996-04-13 해상도변환장치 및 해상도변환방법
US08/633,310 US6002810A (en) 1995-04-14 1996-04-15 Resolution conversion system and method
US09/452,169 US6151425A (en) 1995-04-14 1999-12-01 Resolution conversion system and method
US09/636,059 US6389180B1 (en) 1995-04-14 2000-08-10 Resolution conversion system and method
US10/099,951 US6587602B2 (en) 1995-04-14 2002-03-19 Resolution conversion system and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP08961295A JP3582540B2 (ja) 1995-04-14 1995-04-14 解像度変換装置および解像度変換方法

Publications (2)

Publication Number Publication Date
JPH08286658A true JPH08286658A (ja) 1996-11-01
JP3582540B2 JP3582540B2 (ja) 2004-10-27

Family

ID=13975581

Family Applications (1)

Application Number Title Priority Date Filing Date
JP08961295A Expired - Fee Related JP3582540B2 (ja) 1995-04-14 1995-04-14 解像度変換装置および解像度変換方法

Country Status (1)

Country Link
JP (1) JP3582540B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6775418B1 (en) 1999-03-24 2004-08-10 Matsushita Electric Industrial Co., Ltd. Image processing device and processing method
KR100988481B1 (ko) * 2009-06-01 2010-10-18 전자부품연구원 모드 변환 이미지 입력방법 및 장치
JP2014190727A (ja) * 2013-03-26 2014-10-06 Nec Access Technica Ltd 蓄電池の残量推定装置及び残量推定方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6775418B1 (en) 1999-03-24 2004-08-10 Matsushita Electric Industrial Co., Ltd. Image processing device and processing method
KR100988481B1 (ko) * 2009-06-01 2010-10-18 전자부품연구원 모드 변환 이미지 입력방법 및 장치
JP2014190727A (ja) * 2013-03-26 2014-10-06 Nec Access Technica Ltd 蓄電池の残量推定装置及び残量推定方法

Also Published As

Publication number Publication date
JP3582540B2 (ja) 2004-10-27

Similar Documents

Publication Publication Date Title
KR100229516B1 (ko) 해상도변환장치 및 해상도변환방법
US5742272A (en) Accelerated full screen video playback
JP2002024815A (ja) 拡大画像データに変換するための画像変換方法、画像処理装置、および画像表示装置
JPH08202318A (ja) 記憶性を有する表示装置の表示制御方法及びその表示システム
JP2007536812A (ja) ビデオデータを迅速にスケーリングおよびフィルタリングするためのシステムおよび方法
JP2837339B2 (ja) 画像生成方法
JP3065021B2 (ja) 画像混色処理装置
JPH07114359A (ja) 画像表示装置の表示方法
JPH0660173A (ja) 画像を縮小する方法および装置
US20010048771A1 (en) Image processing method and system for interpolation of resolution
US20050046635A1 (en) Apparatus and method for processing images and drawing sprites in priority order by alfa blending on display screen
JP3599413B2 (ja) 解像度変換装置および解像度変換方法
US20030044082A1 (en) Image processing apparatus having processing operation by coordinate calculation
JP3582540B2 (ja) 解像度変換装置および解像度変換方法
JP2003316331A (ja) 表示装置
JP2000324337A (ja) 画像拡大縮小装置
KR100463552B1 (ko) 큐빅 컨벌루션 보간 장치 및 방법
JP2510019B2 (ja) 画像表示方法および装置
JP2006013701A (ja) 表示コントローラ、電子機器及び画像データ供給方法
JP2004213464A (ja) 画像処理装置
JP2822979B2 (ja) オーバレイ表示のサイズ変更方法と該変更方法を用いた画像処理装置
JPH04141787A (ja) カラー画像の拡大/縮少方式
JPH08272351A (ja) 画像処理装置
JPH10340077A (ja) 画像表示装置
JPH11187360A (ja) 画像処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20031225

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20040311

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040622

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20040716

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040720

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080806

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080806

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080806

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080806

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090806

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100806

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100806

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110806

Year of fee payment: 7

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110806

Year of fee payment: 7

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110806

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110806

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110806

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

Free format text: JAPANESE INTERMEDIATE CODE: R313121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110806

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110806

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120806

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120806

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130806

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees