JP3599413B2 - 解像度変換装置および解像度変換方法 - Google Patents

解像度変換装置および解像度変換方法 Download PDF

Info

Publication number
JP3599413B2
JP3599413B2 JP8961095A JP8961095A JP3599413B2 JP 3599413 B2 JP3599413 B2 JP 3599413B2 JP 8961095 A JP8961095 A JP 8961095A JP 8961095 A JP8961095 A JP 8961095A JP 3599413 B2 JP3599413 B2 JP 3599413B2
Authority
JP
Japan
Prior art keywords
pixels
image data
interpolation
image
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP8961095A
Other languages
English (en)
Other versions
JPH08287244A (ja
Inventor
新路 脇坂
成彦 笠井
裕子 佐藤
洋一 渡▲邉▼
洋之 小泉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Technology Corp
Original Assignee
Renesas Technology Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Technology Corp filed Critical Renesas Technology Corp
Priority to JP8961095A priority Critical patent/JP3599413B2/ja
Priority to TW085103666A priority patent/TW377431B/zh
Priority to KR1019960011176A priority patent/KR100229516B1/ko
Priority to US08/633,310 priority patent/US6002810A/en
Publication of JPH08287244A publication Critical patent/JPH08287244A/ja
Priority to US09/452,169 priority patent/US6151425A/en
Priority to US09/636,059 priority patent/US6389180B1/en
Priority to US10/099,951 priority patent/US6587602B2/en
Application granted granted Critical
Publication of JP3599413B2 publication Critical patent/JP3599413B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

【0001】
【産業上の利用分野】
本発明は、文字、グラフィックス、自然画像で構成した静止画像や動画像のデジタル画像情報を異なる画素数の画像情報に変換して、ディスプレイに表示する解像度変換装置に係り、特に、マルチメディアの動画像表示において、入力した画像情報を異なる解像度を有する表示装置やウインドウ環境で表示するのに良好な解像度変換方法並びに表示制御方法に関する。
【0002】
【従来の技術】
デジタル画像の解像度変換において、原画像の画素数を減らす場合、同じ表示装置上であれば原画像の縮小表示となる。このため、原画像の画素数を減らすことは、ウインドウの縮小表示等に有効である。また、原画像の解像度に比べて低い解像度を有する表示装置に表示することが可能になる。原画像の画素数を減らすのに最も簡単な方法としては、画素を間引くことによって、原画像の画素数を減らす方法がある。また、原画像に対して、例えば、単純に3×3=9画素分の輝度情報(各画素が8ビットの輝度情報であれば256階調の情報)の平均をとり1画素分の輝度情報に変換し、原画像の画素数を減らす方法がある。さらに、特開平6−124189号公報に記載されている「画像表示装置および画像表示制御方法」には、原画像の水平方向と垂直方向との画素データの平均化を行い、原画像の画素数を減らす方法がある。この方法は、従来技術として知られている直線描画アルゴリズムを用いて描画し、原画像の水平方向の直線は、少なくとも1ドット以上のy個の水平成分の集合で表わされる。各水平線分の長さは、VRAMに書き込む縮小スケーリング後の1画素データに対応する画像入力の画素データの個数を表わすと考えることができる。各水平線分の長さは異なる場合もあるし、すべて同一の場合も存在するが、nドット分の画素データの平均化を行うことで、水平方向の縮小スケーリングを行っている。垂直方向についても同様である。
【0003】
一方、原画像の画素数を増やす場合、同じ表示装置上であれば原画像の拡大表示となる。このため、原画像の画素数を増やすことは、ウインドウの拡大表示等に有効である。また、原画像の解像度に比べて高い解像度を有する表示装置に表示することが可能になる。原画像の画素数を増やす最も簡単な方法としては、原画像の1画素に対して、同一画素を水平方向および垂直方向に埋めていくことで原画像の画素数を増やす方法がある。
【0004】
また、単純に同一画素を埋めるのではなく、埋めていく際に、原画像の両端画素の階調値を直線で結ぶように補間画素の階調値を算出し、画素を埋めていくことで原画像の画素数を増やす方法がある。
【0005】
さらに、原画像を任意の解像度変換する方法を図20に示す。2001は、原画像データであり、2002は、原画像を縦にL1倍、横にM1倍する処理を示し、2003は、L1×M1倍拡大処理が施された画像データである。2004は、拡大された画像データを、縦に1/L2倍、横に1/M2倍する処理を示し、2005は、1/L2×1/M2倍縮小処理が施された画像データである。ここで、L1、L2、M1およびM2は、正の整数である。このL1×M1倍拡大処理および1/L2×1/M2倍縮小処理は、L1>L2、M1>M2ならば画像の拡大に、またL1<L2,M1<M2ならば画像の縮小に相当する。このように、画像サイズの拡大処理と縮小処理を組み合わせることにより、画像サイズをより自由に変換できる。
【0006】
【発明が解決しようとする課題】
《課題1》上記従来方法の原画像の画素数を増やす場合、原画像の1画素に対して、同一画素を水平方向および垂直方向に埋めていくことで原画像の画素数を増やす方法では、モザイク状のギザギザが目立つ画像となり、画質が劣化する問題がある。
【0007】
《課題2》上記従来方法の原画像の画素数を増やす場合、単純に同一画素を埋めるのではなく、埋めていく際に、原画像の両端画素の階調値を直線で結ぶように補間画素の階調値を算出し、画素を埋めていくことで原画像の画素数を増やす方法では、モザイク状のギザギザが目立つ画像とはならないが、濃淡の境界がはっきりとした画像の輪郭部分等の高周波成分が平滑化されて、画像全体がぼやけてしまう問題がある。
【0008】
《課題3》上記従来方法の原画像の画素数を増やす場合、画像サイズの拡大処理と縮小処理とを組み合わせることにより、画像サイズをより自由に変換する方法では、画像の拡大処理を行ってからから縮小処理を行うので、解像度変換処理に時間がかかるという問題がある。
【0009】
《課題4》上記従来方法の原画像の画素数を増やす場合、画像サイズの拡大処理と縮小処理を組み合わせることにより、画像サイズをより自由に変換する方法では、一旦、拡大処理を行うため、拡大処理した画像データを格納しておくメモリが必要となり、ハードウエア規模の増大を招くという問題がある。
【0010】
そこで、本発明の第1の目的は、原画像の画素数を増やす解像度変換において、モザイク状のギザギザが目立つ画像を防止し、高品質な画像を実現することである。
【0011】
また、本発明の第2の目的は、原画像の画素数を増やす解像度変換において、濃淡の境界がはっきりとした画像の輪郭部分等の高周波成分を保存し、高品質な画像を実現することである。
【0012】
さらに、本発明の第3の目的は、原画像の画素数を増やす解像度変換において、デジタル動画像処理を満足する高速な解像度変換処理を実現することである。
【0013】
また、本発明の第4の目的は、原画像の画素数を増やす解像度変換において、最小限のハードウエア規模で任意の解像度変換処理を実現することである。
【0014】
【課題を解決するための手段】
上記課題を解決するために、本発明は、デジタル原画像を、指定された変換倍率に応じて異なる画素数のデジタル画像に変換する解像度変換装置において、
前記デジタル原画像の予め定めた画素数のブロックごとに、前記デジタル原画像の前記ブロックに対して補間する、前記変換倍率に応じた補間画素数と補間位置とを決定する決定手段と、
前記デジタル原画像の前記ブロックごとに、前記決定手段に決定する前記補間画素数と補間位置とに従い、当該デジタル原画像の前記ブロックに対して補間する画素の画像データを生成し、前記デジタル原画像の画素の画像データと当該生成した補間する画素の画像データとから変換後のデジタル画像を出力する生成部とを有し、
前記生成部は、前記補間位置ごとに、当該補間位置に隣接する前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超えない場合には、前記2つの画素の画像データと予め定めた第1の補間式とに基づいて補間する画素の画像データを生成し、前記差分値が予め定めた閾値を超える場合には、前記2つの画素の画像データと、前記第1の補間式と異なる第2の補間式とに基づいて補間する画素の画像データを生成する。
【0015】
また、他の解決手段としては、デジタル原画像を、指定された変換倍率に応じて異なる画素数のデジタル画像に変換する解像度変換装置において、
前記デジタル原画像の予め定めた画素数のブロックごとに、前記デジタル原画像の前記ブロックに対して補間する、前記変換倍率に応じた補間画素数と補間位置とを決定する決定手段と、
前記デジタル原画像の前記ブロックごとに、前記決定手段に決定する前記補間画素数と補間位置とに従い、当該デジタル原画像の前記ブロックに対して補間する画素の画像データを生成し、前記デジタル原画像の画素の画像データと当該生成した補間する画素の画像データとから変換後のデジタル画像を出力する生成部とを有する。
【0016】
さらに、画像情報処理システムとして、
画像データを入力する画像入力部と、
前記画像入力部により入力された画像データを記憶する記憶部と、
前記画像データを他の異なる画素数に変換する際の変換倍率を受け付ける受け付け部と、
前記記憶部に記憶する画像データを、前記受け付け部で受け付けた変換倍率に従って変換する画像処理部と、
前記画像処理部により変換された画像データを出力する出力部とを有し、
前記画像処理部は、
前記デジタル原画像の予め定めた画素数のブロックごとに、前記デジタル原画像の前記ブロックに対して補間する、前記変換倍率に応じた補間画素数と補間位置とを決定する決定手段と、
前記デジタル原画像の前記ブロックごとに、前記決定手段に決定する前記補間画素数と補間位置とに従い、当該デジタル原画像の前記ブロックに対して補間する画素の画像データを生成し、前記デジタル原画像の画素の画像データと当該生成した補間する画素の画像データとから変換後のデジタル画像を出力する生成部とを備え、
前記生成部は、前記補間位置ごとに、当該補間位置に隣接する前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超える場合には、前記2つの画素の画像データと予め定めた第1の補間式とに基づいて補間する画素の画像データを生成し、前記差分値が予め定めた閾値を超えない場合には、前記2つの画素の画像データと、前記第1の補間式と異なる第2の補間式とに基づいて補間する画素の画像データを生成するようにしてもよい。
【0017】
【作用】
本発明において、決定手段は、デジタル原画像の予め定めた画素数のブロックごとに、前記デジタル原画像の前記ブロックに対して補間する、前記変換倍率に応じた補間画素数と補間位置とを決定する。
【0018】
生成部は、デジタル原画像の前記ブロックごとに、前記決定手段に決定する前記補間画素数と補間位置とに従い、当該デジタル原画像の前記ブロックに対して補間する画素の画像データを生成し、前記デジタル原画像の画素の画像データと当該生成した補間する画素の画像データとから変換後のデジタル画像を出力する。また、生成部は、前記補間位置ごとに、当該補間位置に隣接する前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超えない場合には、前記2つの画素の画像データと予め定めた第1の補間式とに基づいて補間する画素の画像データを生成し、前記差分値が予め定めた閾値を超える場合には、前記2つの画素の画像データと、前記第1の補間式と異なる第2の補間式とに基づいて補間する画素の画像データを生成する。
【0019】
本発明においては、濃淡のはっきりした高周波成分領域では、2つの画素の画像データ(例えば、階調値)の差の絶対値dが、ある一定以上の値をとることに着目している。濃淡のはっきりしない低周波成分領域のように2つの画素の画像データの差の絶対値dが一定値未満であるときには、画像の高周波成分を保存しないような第1の補間式(例えば、2つの画素位置における画像データの値を通る1次関数などの直線式)上の画像データになるように補間画素の画像データを生成する。また、濃淡のはっきりした高周波成分領域のように2つの画素の画像データの差の絶対値dが一定値以上のときは、第1の補間式より、画像の高周波成分を保存するような第2の補間式(例えば、2つの画素位置における画像データの値を通るスプライン関数等の曲線式)上の画像データになるように補間画素の画像データを生成する。
【0020】
これにより、原画像の画素データの階調値に対して、モザイク状のギザギザが目立つ画像を防止し、高品質な画像を実現することができる。また、輪郭のはっきりとしない自然画像等に対して高品質な画像を実現することができ、輪郭のはっきりとした文字、図形に対しては、濃淡の境界がはっきりとした画像の輪郭部分等の高周波成分を保存し、高品質な画像を実現することができる。
【0021】
また、生成部が、前記補間する画素の画像データの生成を、前記水平方向について行う水平方向生成手段と、前記垂直方向について行う垂直方向生成手段とを備える場合には、水平方向と垂直方向との解像度の変換をそれぞれにおいて行えるのでデジタル画像の解像度変換処理のハードウエア規模を縮小することできる。
【0022】
【実施例】
以下、本発明の実施例を詳細に説明する。
【0023】
まず初めに、図21および図22を参照して、本発明の大まかな処理の流れと概念とを説明してから、その次に、課題を解決するための詳細な構成と処理の流れとを説明する。
【0024】
図21に、デジタル原画像を異なる画素数のデジタル画像に変換する処理の流れ(フローチャート)を示す。本実施例においては、補間画素を発生して画素数を増やして拡大画像に変換するものであり、予め定めた画素数の単位画素ブロックごとに、倍率に応じて補間する画素数と画素を補間する位置とを規定しておき、補間画素の階調は画素を補間する位置に隣接する画素間の階調差に応じて求める。この隣接する画素間の階調差が予め定めた階調差の閾値より小さい場合には、隣接する画素の階調値間を予め定めた第1の補間式の関数f1(例えば、直線を示す関数)で結び、その関数f1上にある階調値となるように補間画素を生成する。また、隣接する画素間の階調差が予め定めた階調差の閾値より大きい場合には、隣接する画素の階調値間を予め定めた第2の補間式の関数f2(例えば、曲線を示す関数)で結び、その関数f2上にある階調値となるように補間画素を生成する。
【0025】
図21において、1フレームの原画像をm×n画素のブロック単位に、その全ての画素データを入力する(S2101)。ここで、画素データとは、画素の階調値を示すデータである。つぎに、倍率に応じて補間する画素の位置を求め、入力された画素データから、予め定められた補間する画素位置に隣合う画素の階調値を抽出し(S2102)、隣合う画素間の階調差dを算出する(S2103)。ここで、隣合う画素とは、水平方向もしくは垂直方向に隣接する画素をいうものとする。つぎに、算出された階調差dがあらかじめ定められたしきい値を超えたか否かを判断する(S2104)。階調差dがしきい値を超えない場合、隣合う画素データの階調値間を結ぶ関数f1(直線)上の階調値になるように補間画素データを発生する(S2105)。つぎに、階調差dがしきい値を超えた場合、隣合う画素データの階調値間を結ぶ関数f2(曲線)上の階調値になるように補間画素データを発生する(S2106)。ここで、関数f1およびf2は、固定された直線や曲線に限る必要はない。全ての補間画素を生成したか否かを判断し、生成されていない場合には、S2101に戻り、つぎの補間画素についての生成の処理を行う。補間画素は、水平方向と垂直方向とについてそれぞれ行う。全ての補間画素を生成した後に、上記の処理によって変換された新たな単位画素ブロック(k×l画素)の全画素データを出力する(S2108)。
【0026】
図22は、図21で述べたデジタル原画像を異なる画素数のデジタル画像に変換する処理の流れをイメージ的に示したものである。図22(a)は、変換前の単位画素ブロックと変換後の単位画素ブロックとを示し、図22(b)は、変換後の6ライン目の画素を示し、図22(c)は、変換後の6ライン目の各画素の階調値をグラフに示したものである。
【0027】
図22(a)において、例えば、221は、8×8画素の単位画素ブロックである。この単位画素ブロック221の8ライン全てにおいて、水平方向に8画素/1ラインを、13画素/1ラインに変換する。また、垂直方向にも13ラインとなるように変換する。222は、新たに生成された13×13画素からなる変換後の単位画素ブロックである。この場合、水平方向および垂直方向共に、1.625倍の拡大画像に変換される。図22(b)において、223は、変換された単位画素ブロック222の6ライン目の画素データであり、1〜8の数字は変換前の単位画素ブロック221の画素を示す番号である。番号の付いていない画素は、新たに発生した補間画素データである。補間画素の階調値を決める際には前述したように関数f1もしくは関数f2を用いる。図22(c)において、補間画素226、228、230は、隣合う画素の階調差がないので、2つの画素を結ぶ直線(関数f1)上に階調値がくるように補間画素を生成する。また、補間画素229においては、隣合う画素の階調差はあるが、しきい値を超えないので、2つの画素を結ぶ直線(225)上に階調値がくるように補間画素を生成する。一方、補間画素229においては、隣合う画素の階調差がしきい値を超えるので、関数f2(224)上に階調値がくるように補間画素を生成する。これにより、画像の輪郭部分におけるボケを防止し、緩やかに変化する部分においては、原画像と同様に緩やかに変化させることができる。補間画素を発生させる位置、階調値の閾値、関数f1および関数f2は、例えば、動画や静止画等の画像情報の種類により予めそれぞれ規定しておくことができる。
【0028】
つぎに、本実施例におけるハードウエア構成とその変換動作とについて説明する。図1に、デジタル原画像を異なる画素数のデジタル画像に変換するハードウエア構成のブロック図を示す。図2に、画素変換の様子を示す。本実施例における装置は、図1に示すような構成に限定する必要はなく、マイクロコンピュータ周辺機器としてLSI化した単体素子であっても、ソフトウエアによりシステム化した装置であってもよい。ここで、静止画像や動画像等のデジタル原画像データとは、JPEG、MPEG等の圧縮データが伸長されたものや、NTSC等の信号をデジタル化したものである。
【0029】
図1において、水平方向スケーリング演算部101は、入力された原画像データに対して、水平方向に画素数の変換を行う。水平方向スケーリング演算部101は、水平方向に1ライン8画素分の原画像データ103と、水平方向に次の1ライン8画素分の原画像データ104とを入力する。また、水平方向スケーリング演算部101は、原画像を水平方向に対して何画素増やすかを示すための水平方向倍率を表わす制御信号108を入力する。図2に示すように、水平方向スケーリング演算部101は、8×8画素の単位ブロック201に分割された原画像データのうち、水平方向に1ライン8画素分の原画像データ202と、水平方向に次の1ライン8画素分の原画像データ203とを入力し、2ライン同時に画素数変換を行い、1ライン8±n画素分の画像データ204と、次の1ラインの8±n画素分の画像データ205とを出力する。図2において、1ライン8±n画素分の画像データ204と、次の1ラインの8±n画素分の画像データ205とのうち、ハッチングを施した画素C1およびC2が、水平方向スケーリング演算部101よって生成された補間画素である。
【0030】
つぎに、垂直方向スケーリング演算部102は、水平方向スケーリング演算部101が出力した水平方向に画素数変換された画像データに対して、垂直方向に画素数の変換を行う。垂直方向スケーリング演算部102は、水平方向スケーリング演算部101が出力した水平方向に1ライン8±n画素分の画像データ105と、水平方向スケーリング演算部101が出力した水平方向に次の1ライン8±n画素分の画像データ106とを入力する。また、垂直方向スケーリング演算部102は、原画像を垂直方向に対して何画素増やすかを示すための垂直方向倍率を表わす制御信号109を入力する。図2に示すように、垂直方向スケーリング演算部102は、水平方向に画素変換された1ライン8±n画素分の画像データ204と、水平方向に次の1ライン8±n画素分の画像データ205とを入力し、この入力したラインの画像データについては、図1に示すように、画像データ105および106としてそのまま出力する。また、垂直方向スケーリング演算部102は、図2に示すように、水平方向に画素変換された1ライン8±n画素分の画像データ204と、水平方向に次の1ライン8±n画素分の画像データ205とから1ライン分の画像データ207を生成する。画像データ207において、ハッチングを施した画素P1〜P10が、垂直方向スケーリング演算部102よって生成された補間画素である。垂直方向スケーリング演算部102は、上記の処理を原画像データの8×8画素の単位ブロックに分割された原画像データに対して順に行うことにより、補間するラインの画像データ107を生成し、垂直方向の画素数変換を行う。これにより、図2に示すように、8×8画素の単位ブロックに分割された原画像データ201を、10×10画素の単位ブロックの画像データ209に画素数変換できる。
【0031】
図7に、本発明を適用したシステム構成例を示す。CPU701は情報を処理する中央演算処理装置である。画像データ入力部702は圧縮されたデジタル静止画像データや、動画データを入力する。バッファメモリ703は、画像データを記憶し、例えば画像データがMPEG圧縮動画データである場合に、伸長する際に伸長する前と伸長した後との画像データを記憶するのに利用し、メモリ容量としては少なくとも8×8画素を格納できる容量を持つ。画像処理LSI704は、前述した図1に示すような解像度変換を行う。VRAM705は、解像度変換を行った後の画像データを格納する。表示制御部706は、VRAM705に格納した解像度変換を行った後の画像データを読み出して液晶パネルに表示する。D/A708は、音声出力用のデジタル/アナログ変換器である。システムバス709は、データバス、アドレスバス、コントロールバスからなる。入力部710は、解像度変換の倍率等の指示を受付ける。
【0032】
本システム構成において、CPU701、バッファメモリ703、本発明のスケーリングを行なう画像処理LSI704、および、表示制御706は、一つのLSI化した単体素子であってもよい。
【0033】
つぎに、解像度変換の詳細を図3および図7を参照して説明する。図3に、本実施例の解像度変換における処理フローを示す。
【0034】
図3において、原画像に対して水平方向に何倍するかまた垂直方向に何倍するかを決める解像度変換の倍率を図7に示す本装置の入力部710で受付ける(S301)。CPU701は、画像処理LSI704のパラメータを設定するためのパラメータレジスタに解像度変換の倍率のデータを設定する。画像データ入力部702では、画像データを受け付け、8×8画素の単位ブロックに分割し、バッファメモリ703に分割した単位ブロックごとに画像データを記憶させる。つぎに、画像処理LSI704は、バッファメモリ703に記憶する8×8画素の単位ブロックに分割された原画像データの水平方向2ライン分の8画素データを入力する(S302)。画像処理LSI704は、入力された水平方向2ライン分の8画素データに対して、水平方向に補間画素を発生し、2ライン分同時に水平方向のスケーリング演算処理を行う(S303)。つぎに、画像処理LSI704は、水平方向のスケーリング演算処理された2ライン分のデータに対して、垂直方向に補間画素を発生し、一度に補間ラインを生成し、垂直方向のスケーリング演算処理を行う(S304)。最後に、水平方向および垂直方向のスケーリング演算処理後の単位画素ブロック毎に表示メモリであるVRAM705へライトする(S305)。
【0035】
つぎに、倍率に応じて補間する画素数と画素を補間する位置とついて、詳細に説明する。
【0036】
図4は、図1に示す水平方向スケーリング演算部101が、水平方向に補間画素を生成し、水平方向のスケーリング演算処理を行うための水平方向倍率と、それに対応する補間画素生成点数との関係を示す水平方向補間画素生成テーブルの一例を示している。原画像データに対して8×8画素の単位ブロックに分割された原画像データの水平方向のライン毎に補間画素を生成することから、入力画素数は8画素である。例えば、カラー表示でRGBの各8ビットであれば、1画素あたり24ビットのデータ長となる。また、輝度と色差で表わされたYUVのデジタルデータでもよい。図4に示すように、入力画素数の8画素に対して、倍率ごとに生成画素生成点数を1点ずつ増やしていくことにより水平方向のスケーリングを実現する。例えば、水平方向の倍率を1.625倍に設定した場合、補間画素の生成点数は5点であり、出力画素数は13画素となる。水平方向の倍率から補間画素の生成点数は指定できるが、補間画素の発生位置が画質に影響を及ぼす。補間画素発生位置については後で説明する。
【0037】
図5は、図1に示す垂直方向スケーリング演算部102が、垂直方向に補間画素を生成し、垂直方向のスケーリング演算処理を行うための垂直方向倍率と、それに対応する補間画素生成ライン数との関係を示す垂直方向補間画素生成テーブルの一例を示している。原画像データに対して8×8画素の単位ブロックに分割された原画像データの垂直方向に補間画素を生成し、補間ラインを生成することから、入力ライン数は8ラインである。図5に示すように、入力ライン数の8ラインに対して、生成ライン数を倍率ごとに1ラインずつ増やしていくことにより垂直方向のスケーリングを実現する。例えば、垂直方向の倍率を1.375倍に設定した場合、補間画素の生成ライン数は3ラインであり、出力ライン数は11ラインとなる。水平方向スケーリングと同様に、垂直方向の倍率から補間画素の生成ライン数は指定できるが、補間画素のラインの発生位置が画質に影響を及ぼす。
【0038】
そこで、図6を参照して、水平方向の倍率から補間画素の生成点数を指定し、その補間画素の発生位置について説明する。
【0039】
図6は、原画像データに対して、8×8画素の単位ブロックに分割された水平方向に1ライン8画素の原画像データから補間画素を生成したときに、その発生位置を補間画素数nごとに例示したものである。補間画素の発生位置についてはこれに限らなくてもよい。図6において、白枠の長方形の部分は、8×8画素の単位ブロックに分割された、原画像データの1ライン8画素の各画素を示している。また、ハッチングされた長方形の部分は、補間画素であり、その発生位置を示している。nは、0以上の整数であって、補間画素の発生点数を示している。600は、補間画素の発生点数がn=0であり、水平方向に原画像の画素1、画素2の順に画素8まで並んでいる様子を示している。601は、補間画素の発生点数がn=1であり、水平方向に原画像の画素1と画素2との間に補間画素を1画素分発生している。602は、補間画素の発生点数がn=2であり、水平方向に原画像の画素1と画素2との間に補間画素を1画素分発生し、画素5と画素6との間に補間画素を1画素分発生している。このときの水平方向倍率は、図4における水平方向補間画素生成テーブルに示すように1.25倍である。さらに、水平方向倍率を上げていくと、608では、補間画素の発生点数がn=8であり、水平方向に原画像の画素1と画素2との間に補間画素を2画素分発生し、画素2と画素3との間に補間画素を1画素分発生し、画素3と画素4との間に補間画素を1画素分発生し、画素4と画素5との間に補間画素を1画素分発生し、画素5と画素6との間に補間画素を1画素分発生し、画素6と画素7との間に補間画素を1画素分発生し、画素7と画素8との間に補間画素を1画素分発生している。このときの水平方向倍率は、図4における水平方向補間画素生成テーブルに示すように2倍である。同様にして、補間画素の発生点数nに対して、603〜624に示すように補間画素を発生する。
【0040】
このように、倍率に応じて生成する補間画素の数と発生位置とを予め規定しておくことができる。
【0041】
また、上述した説明は、水平方向の補間画素の発生位置に関するものであるが、垂直方向についても同様に補間画素を補間ラインに置き換えればよい。すなわち、垂直方向の倍率から補間画素の生成ライン数を規定し、その補間画素のラインの発生位置についても同様に規定しておくことができる。
【0042】
つぎに、最適な補間画素の階調値を決定する方法について説明する。
【0043】
前述したように、補間画素の階調値は、画素を補間する位置に隣接する画素間の階調差に応じて求める。隣接する画素間の階調差が予め定めた階調差の閾値より小さい場合には、隣接する画素の階調値間を予め定めた関数f1(例えば、直線を示す関数)で結び、その関数f1上にある階調値となるように補間画素を生成する。また、隣接する画素間の階調差が予め定めた階調差の閾値より大きい場合には、隣接する画素の階調値間を予め定めた関数f2(例えば、曲線を示す関数)で結び、その関数f2上にある階調値となるように補間画素を生成する。この関数f2としては、例えば、スプライン関数を利用することができる。n次のスプライン関数は、区分的多項式関数であり、小区間内ではn次の異なる多項式曲線で定義できる。
【0044】
本実施例における関数f1とf2とについて、図13を参照して説明する。図13(a)は、原画像データ1301とこれを3倍した場合の変換後の画像データ1302とを示している。図13において、原画像データは、自然画と文字「山」が混在している静止画像もしくは動画像データである。特に、文字の近傍は、濃淡のはっきりした高周波成分領域であり、1303は、その部分を拡大したものである。例えば、高周波成分領域の画素1および画素2(1304)を水平方向に解像度変換する場合、原画像データ1301のある一部の画素1および画素2とから画素C1、画素C2、画素C3を生成し、変換後のデータは、画素1、画素C1、画素C2、画素C3および画素2(1305)となる。ここで、補間画素である画素C1、画素C2、画素C3のデータ値が画質の優劣に影響を与える。例えば、画素のデータ値を階調で考えるものとする。画素1の階調値はP1とし、画素2の階調値はP5とする。この場合の画素1、画素2、画素C1、C2およびC3に対する階調値のグラフを図13(b)に示す。図13(b)において、画素1の階調値P1と、画素2の階調値P5を関数f1(直線)1306で結ぶ。その関数f1(直線)上に補間画素である画素C1、画素C2、画素C3の階調値がくるように補間画素を算出する場合、画素C1の階調値はP2、画素C2の階調値はP3、画素C3の階調値はP4となる。このような補間画素の階調値を直線的に決定する方式の場合、自然画像等の濃淡のはっきりしない低周波成分領域では、良好な再生画像が得られる。しかしながら、文字やグラフィックス等の濃淡のはっきりした高周波成分領域では、上記のように補間画素の階調値を直線的の決定してしまうと、ぼやけた再生画像となってしまうことがある。その原因は、画素C1、画素C2、画素C3の階調値が緩やかに変化する中間調をとるためである。したがって、濃淡のはっきりした高周波成分領域では、点線で示すように、補間画素の階調値を決定する最適な関数f2(曲線)1307が存在する。そこで、本実施例においては、文字やグラフィックス等の濃淡のはっきりした高周波成分領域では、この関数f2(曲線)1307上に補間画素である画素C1、画素C2、画素C3の階調値がくるように補間画素を算出する。したがって、画素C1の階調値はP1、画素C2の階調値はP2、画素C3の階調値はP4となる。実際には、関数f2(曲線)1307に基づいて階調値を計算してもよいし、近似的に階調値を計算してもよい。原画像データは、自然画像や文字やグラフィックスが混在している静止画像や動画像データであることから、補間画素の階調値を関数f1(直線)1306上に決定するか、関数f2(曲線)1307上に決定するかを切り替えることにする。この切り替えの方法として、濃淡のはっきりした高周波成分領域では、画素1と画素2との階調値の差の絶対値dが、ある一定以上の値をとることに着目する。濃淡のはっきりしない低周波成分領域のように画素1と画素2との階調値の差の絶対値dが一定値未満であるときには、関数f1(直線)1306上の階調値になるように補間画素の階調値を決定する。濃淡のはっきりした高周波成分領域のように画素1と画素2との階調値の差の絶対値dが一定値以上のときは、最適な関数f2(曲線)1307上の階調値になるように補間画素の階調値を決定する。
【0045】
本実施例においては、解像度変換の高速化を考慮して、関数f1(直線)1306および関数f2(曲線)1307上の階調値P2、P3、P4を以下の数式で算出する。
【0046】
【数1】
P2=P1+|P1−P5|/4
P3=P1+|P1−P5|/2
P4=P1+|P1−P5|/4+|P1−P5|/2
数1に示すようにP2、P3およびP4を求め、画素1と画素2との階調値の差の絶対値dが一定値未満であるときには、関数f1(直線)1306上の階調値になるように、画素C1の階調値はP2、画素C2の階調値はP3、画素C3の階調値はP4とし、階調値の差の絶対値dが一定値以上のときは、関数f2(曲線)1307上の階調値になるように、画素C1の階調値はP1、画素C2の階調値はP2、画素C3の階調値はP4とする。
【0047】
また、図13(b)に示すように、画素1の階調値が画素2の階調値より大きい場合には、画素1と画素2との階調値が水平方向に対して右下がりになる。この場合、本実施例においては、画素1の階調値と画素2の階調値とを結んだ関数−f1(直線)1309と、関数−f2(曲線)1308とを隣接する画素の階調値の差に従って切り替えるようにする。
【0048】
つぎに、図8〜図12を参照して具体的な水平方向スケーリング演算部の構成を説明する。
【0049】
図8は、図1に示す水平方向スケーリング演算部101の内部をさらに詳細に示したブロック図である。図8において、水平方向演算処理ブロック801は、隣接する画素の画素データを入力し、生成する画素の画素データを演算処理する。図1に示す水平方向スケーリング演算部101の内部には、水平方向演算処理ブロック801が複数設けられ、複数の水平方向演算処理ブロック801にて隣接する画素の画素データをそれぞれ入力し、並列処理できる。例えば、8×8画素の単位ブロックでは、水平方向に隣接する画素の組合せが7つあるので、図11に示すように、水平方向演算処理ブロック801が7つ並列に配置され、水平方向演算処理ブロック801のそれぞれにおいて処理を行う。さらに、複数のラインを同時に処理できるようにしてもよい。例えば、2ライン分の処理を同時に処理したい場合には、水平方向演算処理ブロック801を14個配置することができる。
【0050】
図8において、水平方向補間画素演算部802は、原画像データの隣接する2画素分のデータ値から、指定された水平方向倍率108に応じた補間画素数の補間画素のデータ値を算出する。例えば、図6に示すように、原画像データの隣接する2画素として画素1と画素2とを入力した場合、1.125倍〜1.875倍までは、画素1と画素2間で補間画素数は1画素であり、2倍〜2.875倍までは2画素であり、水平方向補間画素演算部802では、画素数分の補間画素のデータ値をそれぞれ算出する。図8においては、水平方向補間画素演算部802で生成する画素数を0〜3画素数とする場合を例にし、画素データ805(階調値P1)および画素データ806(階調値P5)を入力し、数1に基づいてP2、P3およびP4を求め、補間画素データ906、907および908として出力する。差分器804は、原画像の隣接する画素データ805および806を受けて階調値の差を求める。差分器804は、二つの制御信号として切り替え信号807および正/負符号808を出力する。切り替え信号807は、データ値の差の絶対値dが設定値を超えた場合にアクティブになり、関数f1と関数f2とを切り替えるための制御信号である。正/負符号808は、データ値の差の値が正か負かを示す。バス制御部820は、図19に示すように、水平方向倍率108に応じたバス切り替え信号809を、バススイッチ803に対して出力する。水平方向倍率に対して生成する補間画素数および補間位置は図4および図6に示すように予め規定されているので、バス制御部820は、この規定に基づいてバス切り替え信号を出力し、バススイッチ803のスリーステートバッファを制御する。バススイッチ803は、水平方向補間画素演算部802から出力された補間画素データ値に対して、切り替え信号807および正/負符号808とにより補間画素データ値を選択し、バス制御部820から指示される倍率に応じたバス切り替え信号809に従って補間画素データ値を選択してローカルなデータバス810に出力する。すなわち、正/負符号808のデータ値の差の値が正か負かにより、図13に示す画素1と画素2との階調値が水平方向に対して右上がりか右下がりかを判断し、また、切り替え信号807およびバス切り替え信号809により、補間画素データ906、907および908として出力された画像データのP2、P3およびP4と原画像データとして出力されたP1およびP5とから、補間する位置に応じた画素データを決定してローカルバス810に出力する。
【0051】
つぎに、水平方向補間画素演算部802について図9を参照して詳細に説明する。図9に、水平方向補間画素演算部802の構成を示す。水平方向補間画素演算部802は、数1に示す演算処理を実行する。
【0052】
図9において、画素データ805および806は、原画像の2画素データの階調値であり、P1およびP5に相当する。減算器901は、P1−P5を演算し、その出力データは、|P1−P5|(905)である。1/4シフタ902は、出力データ|P1−P5|(905)を1/4にし、1/2シフタ903は、出力データ|P1−P5|(905)を1/2にする。加算器904は、1/4シフタ902の出力データ|P1−P5|/4と、1/2シフタ903の出力データ|P1−P5|/2とを加算する。セレクタ920は、正/負符号808に基づいて、画素データP1(805)とP5(806)とを切り替える。データ値の差の値が正のとき、すなわち、画素データP1(805)が大きいときには、セレクタ920は画像データP5(806)を選択する。また、データ値の差の値が負のとき、すなわち、画素データP5(806)が大きいときには、セレクタ920は画像データP1(805)を選択する。このように、セレクタ920により、画素データP1(805)とP5(806)とのうち小さい方の値が出力される。
【0053】
また、加算器909は、1/4シフタ902の出力データ|P1−P5|/4と、セレクタ920から出力されたP1もしくはP5とを加算し、P2(906)を出力する。加算器910は、1/2シフタ903の出力データ|P1−P5|/2と、セレクタ920から出力されたP1もしくはP5とを加算し、P3(907)を出力する。加算器911は、加算器904の出力データ|P1−P5|/4+|P1−P5|/2と、セレクタ920から出力されたP1もしくはP5とを加算し、P4(908)を出力する。これにより、P2(906)、P3(907)およびP4(908)は、画素データP1(805)とP5(806)とのうち小さい方の値に、それぞれ|P1−P5|/4、|P1−P5|/2、|P1−P5|/4+|P1−P5|/2が加算された値となる。
【0054】
このようにして、水平方向補間画素演算部802は、入力画素データP1(805)およびP5(806)に対して、出力画素データとして、P1(805)P5(806)と、生成した補間画素を出力する。
【0055】
つぎに、図10を参照してバススイッチ803について詳細に説明する。図10に、バススイッチ803の構成を示す。水平方向補間画素演算部802が算出した画素データを選択し、共通のローカルバスに出力するものである。
【0056】
図10において、バススイッチ803は、水平方向補間画素演算部802が算出した画素データのP1(805)、P2(906)、P3(907)、P4(908)およびP5(806)を入力する。セレクタ1001〜1003は正/負符号808に従って2つの入力信号のうちいずれかを選択して出力し、セレクタ1004および1005は、切り替え信号807に従って2つの入力信号のうちいずれかを選択して出力する。また、バススイッチ1009〜1012は、バス切り替え信号809に従っていずれかが選択され、選択されたバススイッチから画像データが出力される。
【0057】
図13に示す画素と階調値との関係が、水平方向に対して階調値が右上がりに増加傾向にあるのか、逆に右下がりの減少傾向にあるのかによって、P1(805)、P2(906)、P3(907)、P4(908)、P5(806)の出力順序が変わり、また、隣接する画素の階調値の差に従って出力する画像データの値が異なる。
【0058】
図10において、バススイッチ803は、切り替え信号807および正/負符号808に従い、セレクタ1001〜1005を切り替える。右上がりの場合であって、濃淡のはっきりした高周波成分領域のように画素1と画素2との階調値の差の絶対値|P1−P5|が一定値以上のときは、正/負符号808は負を示し、切り替え信号807はアクティブとなり、図13(b)における関数f2(曲線)1307上の階調値になるように、P1(805)、P1(805)、P2(906)、P4(908)およびP5(806)を、バススイッチ803はセレクタ1001〜1005を切り替えることにより選択する。右上がりの場合であって、濃淡のはっきりしない低周波成分領域のように画素1と画素2との階調値の差の絶対値|P1−P5|が一定値未満のときは、正/負符号808は負を示し、切り替え信号807はノンアクティブとなり、図13(b)における関数f1(直線)1306上の階調値になるように、P1(805)、P2(906)、P3(907)、P4(908)およびP5(806)を、バススイッチ803はセレクタ1001〜1005を切り替えることにより選択する。
【0059】
また、右下がりの場合であって、濃淡のはっきりした高周波成分領域のように画素1と画素2との階調値の差の絶対値|P1−P5|が一定値以上のときには、正/負符号808は正を示し、切り替え信号807はアクティブとなり、図13(b)における関数−f2(曲線)1308上のP1(805)、P1(805)、P4(908)、P2(906)およびP5(806)を、バススイッチ803はセレクタ1001〜1005を切り替えることにより選択する。また、右下がりの場合であって、濃淡のはっきりしない低周波成分領域のように画素1と画素2との階調値の差の絶対値|P1−P5|が一定値未満のときは、正/負符号808は正を示し、切り替え信号807はノンアクティブとなり、図13(b)における関数−f1(直線)1309上の階調値になるように、P1(805)、P4(908)、P3(907)、P2(906)およびP5(806)を選択する。
【0060】
さらに、出力する画素データの数は、水平方向倍率により変化するので、共通のローカルバス810に出力するためにバススイッチ1009〜1012を設けておき、バス制御部820から指示されたバス切り替え信号809に従って、バススイッチ1009〜1012のうちいずれか一つを選択することにより、水平方向倍率に応じた画素数の画像データを出力する。例えば、隣接する画素間で1画素補間する場合には、バススイッチ1010が選択され、3画素分の画像データがローカルバス810に出力される。このローカルバス810は、本実施例においては5本のバスから構成されるので、例えば、バススイッチ1010が選択されたときには3画素(3本)分の画像データが有効なデータであり、残りの2本のバスのデータは不要である。この不要なバスのデータ(以下、無効データという)は、後述する図11に示す整列処理ブロックにおいて削除される。
【0061】
このように、水平方向演算処理ブロック801のバススイッチ803から画像データが出力される。
【0062】
さらに、図11に示すように、水平方向演算処理ブロック801が7つ並列に配置されている場合について説明する。図11は、水平方向演算処理ブロック801を並列に接続した構成例を示している。図11において、1109〜1116は、入力する画素1〜画素8である。水平方向演算処理ブロック801−1〜801−8では、前述したように画像データをそれぞれ出力する。整列処理ブロック1108は、水平方向演算処理ブロック801−1〜801−8から出力された画像データを、整列処理し、整列処理後の画素データ1117を出力する。
【0063】
図12(a)および図12(b)を参照して整列処理ブロック1108の処理を説明する。図12(a)に、解像度変換後の画素データを整列処理する様子を示す。例えば、水平方向に発生する補間画素発生点数が、n=9点の場合を例にする。図11における水平方向演算処理ブロック801−1からは、画素データ1201が出力される。水平方向演算処理ブロック801−2からは、画素データ1202が出力される。水平方向演算処理ブロック801−3からは、画素データ1203が出力される。水平方向演算処理ブロック801−4からは、画素データ1204が出力される。水平方向演算処理ブロック801−5からは、画素データ1205が出力される。水平方向演算処理ブロック801−6からは、画素データ1206が出力される。水平方向演算処理ブロック801−7からは、画素データ1207が出力される。ここで、出力された画素データ1201〜1207には、矢印で示すように無効データがローカルバス上に存在する。そこで、整列処理ブロック1108では、図12(b)に示すように、整列処理するためのバス変換部1209−1〜1209−8を、水平方向演算処理ブロック801−1〜801−8の各々に対応させて設けておき、バス変換部1209−1〜1209−8の各々において、水平方向倍率に応じたバス切り替え信号809に従ってこの無効データを間引いてデータ幅を圧縮し、整列処理後の画素データ1208を出力する。
【0064】
以上のように処理することにより、水平方向の画素数を変換することができる。
【0065】
つぎに、図14〜図18を参照して具体的な垂直方向スケーリング演算部の構成について説明する。垂直方向の画素変換も、前述した水平方向の画素変換と同様に行うことができる。
【0066】
図14は、垂直方向スケーリング演算部102の内部をさらに詳細に示したブロック図である。図14において、垂直方向演算処理ブロック1401は、垂直方向に隣接する画素の画素データを入力し、生成する画素の画素データを演算処理する。図1に示す垂直方向スケーリング演算部102の内部には、垂直方向演算処理ブロック1401が複数設けられ、複数の垂直方向演算処理ブロック1401にて、水平方向に変換された後の隣接する画素の画素データをそれぞれ入力し、並列処理できる。例えば、8×8画素の単位ブロックを入力し、最高でM×M画素に変換する場合には、垂直方向に隣接する画素の組合せが(M−1)個あるので、垂直方向演算処理ブロック1401を(M−1)個並列に配置し、垂直方向演算処理ブロック1401のそれぞれにおいて処理を行う。さらに、複数のラインを同時に処理できるようにしてもよい。例えば、2ライン分の処理を同時に処理したい場合には、垂直方向演算処理ブロック1401を2×(M−1)個配置することができる。
【0067】
図14において、垂直方向補間画素演算部1402は、垂直方向に隣接する2画素分のデータ値から補間画素のデータ値を算出する。差分器1404は、二つの制御信号として切り替え信号1407および正/負符号1408を出力する。切り替え信号1407は、データ値の差の絶対値dが設定値を超えた場合にアクティブになり、関数f1と関数f2とを切り替えるための制御信号である。正/負符号1408は、データ値の差の値が正か負かを示す。1410は、垂直方向にスケーリングされた画素データである。バス制御部1420は、図19に示すように、垂直方向倍率109に応じたバス切り替え信号1409を、バススイッチ1403に対して出力する。垂直方向倍率に対して図5に示すように、生成する補間画素数および補間位置は予め規定されているので、バス制御部1420は、この規定に基づいてバス切り替え信号を出力する。バススイッチ1403は、垂直方向補間画素演算部1402から出力された補間画素データ値に対して、切り替え信号1407および正/負符号1408とにより補間画素データ値を選択し、バス制御部1420から指示される倍率に応じたバス切り替え信号1409に従って補間画素データ値を選択してローカルなデータバス1410に出力する。
【0068】
つぎに、垂直方向補間画素演算部1402について図15を参照して詳細に説明する。図15に、垂直方向補間画素演算部1402の構成を示す。垂直方向補間画素演算部1402は、水平方向と同様に数1に示す式に基づいて、原画像データの隣接する2画素分のデータ値から、補間画素数の補間画素のデータ値を算出する。水平方向と垂直方向とを区別するために、以下、数1に示す階調値をPの代わりにLで表わす。本実施例においては、垂直方向補間画素演算部1402で生成するライン数を3ラインとする場合を例にする。垂直方向補間画素演算部1402は、画素データ1405(階調値L1)および画素データ1406(階調値L5)を入力し、数1に基づいてL2、L3およびL4を求め、補間画素データ1506、1507および1508として出力する。
【0069】
図15において、画素データ1405および画素データ1406は、原画像の2画素データの階調値であり、L1もしくはL5に相当する。減算器1501は、L1−L5を演算し、その出力データは、|L1−L5|(1505)である。1/4シフタ1502は、出力データ|L1−L5|(1505)を1/4にし、1/2シフタ1503は、出力データ|L1−L5|(1505)を1/2にする。加算器1504は、1/4シフタ1502の出力データ|L1−L5|/4と、1/2シフタ1503の出力データ|L1−L5|/2とを加算する。加算器1509は、1/4シフタ1502の出力データ|L1−L5|/4とL1とを加算する。加算器1510は、1/2シフタ1503の出力データ|L1−L5|/2とL1とを加算する。加算器1511は、加算器1504の出力データ|L1−L5|/4+|L1−L5|/2とL1とを加算する。セレクタ1520は、正/負符号1408に基づいて、画素データL1(1405)とL5(1406)とを切り替える。データ値の差の値が正のとき、すなわち、画素データL1(1405)が大きいときには、セレクタ1520は画像データL5を選択する。また、データ値の差の値が負のとき、すなわち、画素データL1が大きいときには、セレクタ1520は画像データL1を選択する。このように、セレクタ1520により、画素データL1とL5とのうち小さい方の値が出力される。
【0070】
また、加算器1509は、1/4シフタ1502の出力データ|L1−L5|/4と、セレクタ1520から出力されたL1もしくはL5とを加算し、L2(1506)を出力する。加算器1510は、1/2シフタ1503の出力データ|L1−L5|/2と、セレクタ1520から出力されたL1もしくはL5とを加算し、L3(1507)を出力する。加算器1511は、加算器1504の出力データ|L1−L5|/4+|L1−L5|/2と、セレクタ1520から出力されたL1もしくはL5とを加算し、L4(1508)を出力する。これにより、L2(1506)、L3(1507)およびL4(1508)は、画素データL1(1405)とL5(1406)とのうち小さい方の値に、それぞれ|L1−L5|/4、|L1−L5|/2、|L1−L5|/4+|L1−L5|/2が加算された値となる。
【0071】
このようにして、水平方向補間画素演算部1402は、入力画素データL1(1405)およびL5(1406)に対して、出力画素データL1(1405)、L2(1506)、L3(1507)、L4(1508)およびL5(1406)を出力する。
【0072】
つぎに、図16を参照してバススイッチ1403について詳細に説明する。図16に、バススイッチ1403の構成を示す。垂直方向補間画素演算部1402が算出した画素データを選択し、共通のローカルバスに出力するものである。
【0073】
図16において、バススイッチ1403は、垂直方向補間画素演算部1402が算出した画素データのL1(1405)、L2(1506)、L3(1507)、L4(1508)およびL5(1406)を入力する。セレクタ1601〜1603は正/負符号1408に従って2つの入力信号のうちいずれかを選択して出力し、セレクタ1604および1605は、切り替え信号1407に従って2つの入力信号のうちいずれかを選択して出力する。
【0074】
また、水平方向の変換と同様に、隣接する画素のL1(1405)とL5(1406)との階調値の大小関係により、L1(1405)、L2(1506)、L3(1507)、L4(1508)、L5(1406)の出力順序が変わり、また、隣接する画素の階調値の差に従って出力する画像データの値が異なる。
【0075】
図16において、バススイッチ1403は、切り替え信号1407および正/負符号1408に従い、セレクタ1601〜1605を切り替える。L1(1405)がL5(1406)より小さい場合であって、濃淡のはっきりした高周波成分領域のように画素1と画素2との階調値の差の絶対値|L1−L5|が一定値以上のときは、正/負符号1408は負を示し、切り替え信号1407はアクティブとなり、図13(b)における関数f2(曲線)1307上の階調値になるように、L1(1405)、L1(1405)、L2(1506)、L4(1508)およびL5(1406)を、バススイッチ1403はセレクタ1601〜1605を切り替えることにより選択する。L1(1405)がL5(1406)より小さい場合であって、濃淡のはっきりしない低周波成分領域のように画素1と画素2との階調値の差の絶対値|L1−L5|が一定値未満のときは、正/負符号1408は負を示し、切り替え信号1407はノンアクティブとなり、図13(b)における関数f1(直線)1306上の階調値になるように、L1(1405)、L2(1506)、L3(1507)、L4(1508)およびL5(1406)を、バススイッチ1403はセレクタ1601〜1605を切り替えることにより選択する。
【0076】
また、L1(1405)がL5(1406)より大きい場合であって、濃淡のはっきりした高周波成分領域のように画素1と画素2との階調値の差の絶対値|L1−L5|が一定値以上のときには、正/負符号1408は正を示し、切り替え信号1407はアクティブとなり、図13(b)における関数−f2(曲線)1308上のL1(1405)、L1(1405)、L4(1508)、L2(1506)およびL5(1406)を、バススイッチ1403はセレクタ1601〜1605を切り替えることにより選択する。また、L1(1405)がL5(1406)より大きい場合であって、濃淡のはっきりしない低周波成分領域のように画素1と画素2との階調値の差の絶対値|L1−L5|が一定値未満のときは、正/負符号1408は正を示し、切り替え信号1407はノンアクティブとなり、図13(b)における関数−f1(直線)1309上の階調値になるように、L1(1405)、L4(1508)、L3(1507)、L2(1506)およびL5(1406)を選択する。
【0077】
バススイッチ1403は、入力した画素と生成した画素とを合わせて出力する。図16において、画素(1,1)および画素(2,1)は、入力した画素の1ライン1画素目のデータ、入力した画素の2ライン1画素目のデータを示し、C(1,1)1606、C(2,1)1607、C(3,1)1608は、補間画素の垂直方向において、補間ラインの1ライン1画素目のデータ、補間ラインの2ライン1画素目のデータ、補間ラインの3ライン1画素目のデータを示す。
【0078】
このように、垂直方向演算処理ブロック1401のバススイッチ1403から画像データが出力される。
【0079】
さらに、図17に示すように、垂直方向演算処理ブロック1401が複数並列に配置されている場合について説明する。図17は、垂直方向演算処理ブロック1401を並列に接続した構成例を示している。図17において、1710〜1728は、入力する画素(1,1)〜画素(2,9)である。ここで、画素(2,9)とは、2ライン9画素目を表わす。図17において、垂直方向演算処理ブロック1401−1〜1401−9は、前述したように画像データをそれぞれ出力する。整列処理ブロック1708は、垂直方向演算処理ブロック1401−1〜1401−9から出力された画像データを、整列処理し、整列処理後の画素データ1729を出力する。
【0080】
図18を参照して整列処理ブロック1708の処理を説明する。図18に、水平方向および垂直方向に画像変換した後の画像データを示し、例えば、垂直方向に発生する補間ライン数が、n=14ラインの場合を例にする。図18において、1806〜1807は、整列処理ブロック1708から出力された画素データを示し、1801〜1805は、垂直方向に補間された補間ラインを示している。整列処理ブロック1708では、垂直方向演算処理ブロック1401の各々から出力された変換後の5ラインの画像データを、垂直方向倍率に応じたバス切り替え信号1409に従って不要ならインを間引いて、整列処理後の画素データ1729を出力する。
【0081】
以上のように処理することにより、水平方向および垂直方向の画素数を変換することができる。
【0082】
本実施例によれば、予め補間する画素数と補間位置とを倍率に応じて規定しておくことができる。また、隣接する画素の画像データの差により濃淡の境界を認識し、これに応じて補間画素の画像データを決定することができる。本実施例によれば、原画像の画素数を増やす解像度変換において、モザイク状のギザギザが目立つ画像を防止し、高品質な画像を実現することができる。また、濃淡の境界がはっきりとした画像の輪郭部分等の高周波成分を保存し、高品質な画像を実現することができる。さらに、デジタル動画像処理を満足する高速な解像度変換処理を実現することができる。また、最小限のハードウエア規模で任意の解像度変換処理を実現することができる。
【0083】
【発明の効果】
本発明によれば、デジタル原画像を異なる画素数のデジタル画像に変換して、ディスプレイに表示する解像度変換において、高品質な画像を再現することができる。さらに、解像度変換処理の高速化および低価格化が図れる。
【図面の簡単な説明】
【図1】画像スケーリング処理方法のブロック図である。
【図2】画像スケーリング処理方法の説明図である。
【図3】画像スケーリング処理方法のフローチャートである。
【図4】水平方向補間画素生成テーブルである。
【図5】垂直方向補間画素生成テーブルである。
【図6】画像スケーリング処理方法の説明図である。
【図7】画像スケーリング処理におけるシステム構成図である。
【図8】水平方向スケーリング演算部のブロック図である。
【図9】水平方向スケーリング演算部のブロック図である。
【図10】水平方向スケーリング演算部のブロック図である。
【図11】水平方向スケーリング演算部のブロック図である。
【図12】水平方向スケーリング処理方法の説明図である。
【図13】画像スケーリング処理方法の説明図である。
【図14】垂直方向スケーリング演算部のブロック図である。
【図15】垂直方向スケーリング演算部のブロック図である。
【図16】垂直方向スケーリング演算部のブロック図である。
【図17】垂直方向スケーリング演算部のブロック図である。
【図18】垂直方向スケーリング処理方法の説明図である。
【図19】バス制御のブロック図である。
【図20】従来の画像スケーリング処理方法のブロック図である。
【図21】画像スケーリング処理方法のフローチャートである。
【図22】画像スケーリング処理方法の説明図である。
【符号の説明】
101…水平方向スケーリング演算部、102…垂直方向スケーリング演算部、
701…CPU、702…画像入力部、703…バッファメモリ、704…スケーリング制御部、705…VRAM、706…表示制御部、707…液晶パネル。

Claims (12)

  1. デジタル原画像を、指定された変換倍率に応じて異なる画素数のデジタル画像に変換する解像度変換装置において、
    前記指定された変換倍率に応じて、前記デジタル原画像の予め定めた画素数のブロックごとに、当該ブロックに対する複数の補間画素の補間画素数および補間位置を決定する決定手段と、
    前記デジタル原画像の前記ブロックごとに、前記決定手段により決定された補間画素数および補間位置に従い、当該ブロックに対する複数の補間画素の画像データを生成し、前記デジタル原画像の画素の画像データおよび当該生成した補間画素の画像データから変換後のデジタル画像を出力する生成部と、を有し、
    前記生成部は、
    前記デジタル原画像の前記ブロックごとに、前記決定手段により補間画素数および補間位置が決定された複数の補間画素に隣接する前記デジタル原画像の2つの画素の画像データの間を、前記補間画素数 + 1等分することにより、前記補間画素数分の画像データを生成し、前記デジタル原画像の2つの画素の画像データおよび前記生成した前記補間画素数分の画像データからなる複数の画像データを出力する画素演算手段と、
    前記デジタル原画像の2つの画素の画像データの差分値に基づいて、前記画素演算部が出力した複数の画素の画像データから、前記デジタル原画像の2つの画素間に配置する複数の補間画素の画像データを選択する選択手段と、を有し、
    前記選択手段は、
    前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超えない場合に、前記デジタル原画像の2つの画素間に配置する複数の補間画素各々の画像データを、画素位置と画像データとの関係式である第1の補間式により求まる前記複数の補間画素各々の補間位置に対応する画像データとなるように、前記画素演算手段出力した複数画像データから選択し、前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超える場合に、前記デジタル原画像の2つの画素間に配置する複数の補間画素各々の画像データを、画素位置と画像データとの関係式である第2の補間式により求まる前記複数の補間画素各々の補間位置に対応する画像データとなるように、前記画素演算手段出力した複数画像データから選択すること
    を特徴とする解像度変換装置。
  2. 請求項1において、
    前記画素演算手段が生成した前記補間画素数分の画像データは、前記第1の補間式から求めた場合と前記第2の補間式から求めた場合とで、画素位置が異なること
    を特徴とする解像度変換装置。
  3. 請求項1において、
    前記第1の補間式は、画像の高周波成分を保存しないような補間式であり、前記第2の補間式は、前記第1の補間式より、画像の高周波成分を保存するような補間式であること
    を特徴とする解像度変換装置。
  4. 請求項1において、
    前記決定手段は、前記変換倍率を、水平方向と垂直方向との変換倍率とし、
    前記生成部は、補間画素の画像データの生成を水平方向について行う水平方向生成手段および垂直方向について行う垂直方向生成手段を有すること
    を特徴とする解像度変換装置。
  5. デジタル原画像を、指定された変換倍率に応じて異なる画素数のデジタル画像に変換する解像度変換方法において、
    前記指定された変換倍率に応じて、前記デジタル原画像の予め定めた画素数のブロックごとに、前記デジタル原画像の前記ブロックに対する複数の補間画素の補間画素数および補間位置を決定する第1のステップと、
    前記デジタル原画像の前記ブロックごとに、前記決定した補間画素数および補間位置に従い、当該ブロックに対する複数の補間画素の画像データを生成する第2のステップと、
    前記デジタル原画像の画素の画像データおよび当該生成した補間画素の画像データから変換後のデジタル画像を出力する第3のステップと、を有し、
    前記第2のステップは、
    前記デジタル原画像の前記ブロックごとに、前記補間画素数および補間位置が決定された複数の補間画素に隣接する前記デジタル原画像の2つの画素の画像データの間を、前記補間画素数 + 1等分することにより、前記補間画素数分の画像データを生成し、前記デジタル原画像の2つの画素の画像データおよび前記生成した前記補間画素数分の画像データからなる複数の画像データを出力する生成ステップと、
    前記デジタル原画像の2つの画素の画像データの差分値に基づいて、前記出力した複数の画素の画像データから、前記デジタル原画像の2つの画素間に配置する複数の補間画素の画像データを選択する選択ステップと、を有し、
    前記選択ステップは、
    前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超えない場合に、前記デジタル原画像の2つの画素間に配置する複数の補間画素各々の画像データを、画素位置と画像データとの関係式である第1の補間式により求まる前記複数の補間画素各々の補間位置に対応する画像データとなるように、前記生成した複数の画素の画像データから選択し、前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超える場合に、前記デジタル原画像の2つの画素間に配置する複数の補間画素各々の画像データを、画素位置と画像データとの関係式である第2の補間式により求まる前記複数の補間画素各々の補間位置に対応する画像データとなるように、前記生成した複数の画素の画像データから選択すること
    を特徴とする解像度変換方法。
  6. 画像データを入力する画像入力部と、
    前記画像入力部により入力された画像データを記憶する記憶部と、
    前記画像データを他の異なる画素数に変換する際の変換倍率を受け付ける受け付け部と、
    前記記憶部に記憶する画像データを、前記受け付け部で受け付けた変換倍率に従って変換する画像処理部と、
    前記画像処理部により変換された画像データを出力する出力部とを有し、
    前記画像処理部は、
    前記変換倍率に応じて、前記デジタル原画像の予め定めた画素数のブロックごとに、当該ブロックに対する複数の補間画素の補間画素数および補間位置を決定する決定手段と、
    前記デジタル原画像の前記ブロックごとに、前記決定手段により決定された補間画素数および補間位置に従い、当該ブロックに対する複数の補間画素の画像データを生成し、前記デジタル原画像の画素の画像データおよび当該生成した補間画素の画像データから変換後のデジタル画像を出力する生成部と、を有し、
    前記生成部は、
    前記デジタル原画像の前記ブロックごとに、前記決定手段により補間画素数および補間位置が決定された複数の補間画素に隣接する前記デジタル原画像の2つの画素の画像データの間を、前記補間画素数 + 1等分することにより、前記補間画素数分の画像データを生成し、前記デジタル原画像の2つの画素の画像データおよび前記生成した前記補間画素数分の画像データからなる複数の画像データを出力する画素演算手段と、
    前記デジタル原画像の2つの画素の画像データの差分値に基づいて、前記画素演算部が出力した複数の画素の画像データから、前記デジタル原画像の2つの画素間に配置する 数の補間画素の画像データを選択する選択手段と、を有し、
    前記選択手段は、
    前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超えない場合に、前記デジタル原画像の2つの画素間に配置する複数の補間画素各々の画像データを、画素位置と画像データとの関係式である第1の補間式により求まる前記複数の補間画素各々の補間位置に対応する画像データとなるように、前記画素演算手段出力した複数画像データから選択し、前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超える場合に、前記デジタル原画像の2つの画素間に配置する複数の補間画素各々の画像データを、画素位置と画像データとの関係式である第2の補間式により求まる前記複数の補間画素各々の補間位置に対応する画像データとなるように、前記画素演算手段出力した複数画像データから選択すること
    を特徴とする画像情報処理システム。
  7. 請求項1において、前記第2の補間式は、スプライン関数を含むことを特徴とする解像度変換装置。
  8. デジタル原画像を、指定された変換倍率に応じて異なる画素数のデジタル変換画像に変換する解像度変換装置において、
    前記デジタル原画像の入力を受ける入力部と、
    前記変換倍率に応じた補間画素数及び補間位置に従い、前記入力部によって入力された前記デジタル原画像に対する複数の補間画素の画像データを生成し、前記複数の補間画素の画像データを用いて前記デジタル原画像を補間し、前記デジタル変換画像を得る生成部と、を有し、
    前記生成部は、
    前記デジタル原画像の前記ブロックごとに、前記補間画素数および補間位置で特定される複数の補間画素に隣接する前記デジタル原画像の2つの画素の画像データの間を、前記補間画素数 + 1等分することにより、前記補間画素数分の画像データを生成し、前記デジタル原画像の2つの画素の画像データおよび前記生成した前記補間画素数分の画像データからなる複数の画像データを出力する画素演算手段と、
    前記デジタル原画像の2つの画素の画像データの差分値に基づいて、前記画素演算部が出力した複数の画素の画像データから、前記デジタル原画像の2つの画素間に配置する複数の補間画素の画像データを選択する選択手段と、を有し、
    前記選択手段は、
    前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超えない場合に、前記デジタル原画像の2つの画素間に配置する複数の補間画素各々の画像データを、画素位置と画像データとの関係式である第1の補間式により求まる前記複数の補間画素各々の補間位置に対応する画像データとなるように、前記画素演算手段出力した複数画像データから選択し、前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超える場合に、前記デジタル原画像の2つの画素間に配置する複数の補間画素各々の画像データを、画素位置と画像データとの関係式である第2の補間式により求まる前記複数の補間画素各々の補間位置に対応する画像データとなるように、前記画素演算手段出力した複数画像データから選択すること
    を特徴とする解像度変換装置。
  9. 請求項8において、前記第2の補間式は、スプライン関数を含むことを特徴とする解像度変換装置。
  10. デジタル原画像を、拡大指令に応じて、異なる画素数のデジタル変換画像へ変換する処理部と、前記デジタル変換画像を表示する表示パネルとを備えた表示装置において、
    前記処理部は、前記デジタル原画像の入力を受ける入力部と、前記拡大指令に従って前記デジタル原画像に対する補間画素の画像データを生成し、前記補間画素の画像データによって前記デジタル原画像を補間し、前記デジタル変換画像を生成する生成部とを備え、
    前記生成部は、
    複数の補間画素に隣接する前記デジタル原画像の2つの画素の画像データの間を、前記複数の補間画素の補間画素数 + 1等分することにより、前記補間画素数分の画像データを生成し、前記デジタル原画像の2つの画素の画像データおよび前記生成した前記補間画素数分の画像データからなる複数の画像データを出力する画素演算手段と、
    前記デジタル原画像の2つの画素の画像データの差分値に基づいて、前記画素演算部が出力した複数の画素の画像データから、前記デジタル原画像の2つの画素間に配置する複数の補間画素の画像データを選択する選択手段と、を有し、
    前記選択手段は、
    前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超えない場合に、前記デジタル原画像の2つの画素間に配置する複数の補間画素各々の画像データを、画素位置と画像データとの関係式である第1の補間式により求まる前記複数の補間画素各々の補間位置に対応する画像データとなるように、前記画素演算手段出力した複数画像データから選択し、前記デジタル原画像の2つの画素の画像データの差分値が予め定めた閾値を超える場合に、前記デジタル原画像の2つの画素間に配置する複数の補間画素各々の画像データを、画素位置と画像データとの関係式である第2の補間式により求まる前記複数の補間画素各々の補間位置に対応する画像データとなるように、前記画素演算手段出力した複数画像データから選択すること
    を特徴とする表示装置。
  11. 請求項10において、前記拡大指令は、拡大率を含むことを特徴とする表示装置。
  12. 請求項10において、前記複数の補間画素の補間位置は、予め決定された位置であることを特徴とする表示装置。
JP8961095A 1995-04-14 1995-04-14 解像度変換装置および解像度変換方法 Expired - Lifetime JP3599413B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP8961095A JP3599413B2 (ja) 1995-04-14 1995-04-14 解像度変換装置および解像度変換方法
TW085103666A TW377431B (en) 1995-04-14 1996-03-27 Method and apparatus for changing resolution
KR1019960011176A KR100229516B1 (ko) 1995-04-14 1996-04-13 해상도변환장치 및 해상도변환방법
US08/633,310 US6002810A (en) 1995-04-14 1996-04-15 Resolution conversion system and method
US09/452,169 US6151425A (en) 1995-04-14 1999-12-01 Resolution conversion system and method
US09/636,059 US6389180B1 (en) 1995-04-14 2000-08-10 Resolution conversion system and method
US10/099,951 US6587602B2 (en) 1995-04-14 2002-03-19 Resolution conversion system and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP8961095A JP3599413B2 (ja) 1995-04-14 1995-04-14 解像度変換装置および解像度変換方法

Publications (2)

Publication Number Publication Date
JPH08287244A JPH08287244A (ja) 1996-11-01
JP3599413B2 true JP3599413B2 (ja) 2004-12-08

Family

ID=13975526

Family Applications (1)

Application Number Title Priority Date Filing Date
JP8961095A Expired - Lifetime JP3599413B2 (ja) 1995-04-14 1995-04-14 解像度変換装置および解像度変換方法

Country Status (1)

Country Link
JP (1) JP3599413B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09244609A (ja) * 1996-03-06 1997-09-19 Matsushita Electric Ind Co Ltd 映像表示装置
EP0863665B1 (en) * 1997-03-07 2003-09-10 Matsushita Electric Industrial Co., Ltd. Video display monitor
KR20010040895A (ko) * 1998-02-17 2001-05-15 모리시타 요이찌 보간화소생성 장치 및 방법
US6724398B2 (en) 2000-06-20 2004-04-20 Mitsubishi Denki Kabushiki Kaisha Image processing method and apparatus, and image display method and apparatus, with variable interpolation spacing
JP3833212B2 (ja) * 2003-11-19 2006-10-11 シャープ株式会社 画像処理装置、画像処理プログラムおよび可読記録媒体
US7576749B2 (en) * 2005-09-15 2009-08-18 Microsoft Corporation Positioning screen elements
JP5151177B2 (ja) * 2007-02-22 2013-02-27 株式会社Jvcケンウッド 画素数変換装置
JP5419491B2 (ja) * 2009-02-20 2014-02-19 三菱重工業株式会社 文字認識装置及び文字認識方法
JP2010186194A (ja) * 2010-04-09 2010-08-26 Seiko Epson Corp 画像処理装置

Also Published As

Publication number Publication date
JPH08287244A (ja) 1996-11-01

Similar Documents

Publication Publication Date Title
KR100229516B1 (ko) 해상도변환장치 및 해상도변환방법
JP4209599B2 (ja) 2次元非線形補間システム及び補間方法、並びに2次元混合補間システム及び混合補間方法
US5875268A (en) Image processing with low-resolution to high-resolution conversion
JP3620521B2 (ja) 画像処理装置、画像伝送装置、画像受信装置及び画像処理方法
JP3210248B2 (ja) 画像処理装置及びその方法
JP3599413B2 (ja) 解像度変換装置および解像度変換方法
JP4274238B2 (ja) 画像処理装置及び画像処理方法、並びにコンピュータ・プログラム
JP2806086B2 (ja) 画像データ処理装置
JP2000339449A (ja) 画像処理装置及び方法
US6232978B1 (en) Image processing apparatus, and method of controlling same, using a combination of enlargement and fixed ratio reduction processing
JP2006308665A (ja) 画像処理装置
JP3582540B2 (ja) 解像度変換装置および解像度変換方法
JP3716855B2 (ja) 画像処理装置及び画像処理方法
JP2004213464A (ja) 画像処理装置
WO2000057631A1 (fr) Dispositif de traitement d'images et procede de traitement associe
JP3624153B2 (ja) 画像処理装置及び画像処理方法
JP4662325B2 (ja) 画像処理装置及び画像処理方法
JP4024643B2 (ja) 画像信号処理装置
JP4682380B2 (ja) 画像処理装置および画像処理方法
JPH1063826A (ja) 画像拡大縮小処理装置
KR100695916B1 (ko) 큐빅 스프라인 보간을 이용한 이미지 스케일러 장치
JPH09130597A (ja) 画像処理方法とその装置
JP2002149105A (ja) 画像拡大制御装置
KR20040065806A (ko) 큐빅 컨벌루션 보간 장치 및 방법
JP3054299B2 (ja) 画像処理装置及びその方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20031225

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20040311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040706

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20040716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040812

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040907

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040914

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070924

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080924

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080924

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080924

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080924

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090924

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090924

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100924

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100924

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110924

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110924

Year of fee payment: 7

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110924

Year of fee payment: 7

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110924

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110924

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110924

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

Free format text: JAPANESE INTERMEDIATE CODE: R313121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110924

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120924

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130924

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term