JP3613093B2 - 映像サイズ変換処理方法および映像サイズ変換処理装置 - Google Patents

映像サイズ変換処理方法および映像サイズ変換処理装置 Download PDF

Info

Publication number
JP3613093B2
JP3613093B2 JP30224799A JP30224799A JP3613093B2 JP 3613093 B2 JP3613093 B2 JP 3613093B2 JP 30224799 A JP30224799 A JP 30224799A JP 30224799 A JP30224799 A JP 30224799A JP 3613093 B2 JP3613093 B2 JP 3613093B2
Authority
JP
Japan
Prior art keywords
size conversion
video
size
interpolation
interpolation coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP30224799A
Other languages
English (en)
Other versions
JP2001128061A (ja
Inventor
正起 女川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP30224799A priority Critical patent/JP3613093B2/ja
Priority to US09/695,033 priority patent/US6806914B1/en
Publication of JP2001128061A publication Critical patent/JP2001128061A/ja
Application granted granted Critical
Publication of JP3613093B2 publication Critical patent/JP3613093B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4007Interpolation-based scaling, e.g. bilinear interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes

Description

【0001】
【発明の属する技術分野】
本発明は、映像データのサイズ変換処理を行う映像サイズ変換処理方法および装置に関する。
【0002】
【従来の技術】
映像データのサイズ変換処理を行う場合、オリジナル映像の1フィールド画像での画素データの映像上の位置と、サイズ変換処理を行った後の画素データの映像上の位置の、相対的な距離情報を補間係数として用い補間処理を施し行っていた。
【0003】
従来の映像サイズ変換処理装置におけるサイズ変換処理は、サイズ変換率の逆数の累積加算値の小数部を補間係数として用いる方法が知られている(特開平9−326958号公報参照)。図15はこの従来装置の構成を示すブロック図である。
【0004】
この従来装置は、図15のように、オリジナル映像の画素数と所望されるサイズ変換後の画素数との除算演算を行う除算器100と、除算器100からの演算結果をサンプリングクロック毎に累積加算し、その加算結果から水平方向での補間係数を算出する水平補間係数発生回路101と、除算器100からの演算結果を水平周波数クロック毎に累積加算し、その加算結果から垂直方向での補間係数を算出する垂直補間係数発生回路102、水平補間係数発生回路101および垂直補間係数発生回路102での累積加算情報の整数部を用いメモリからデータを読み出す際のアドレス情報を生成するアドレス発生回路103と、オリジナル映像の1フィールド画像データを保存するメモリ104と、水平補間係数発生回路101もしくは垂直補間係数発生回路102からの補間係数に対し1を基準に1−pもしくは1−qに反転する反転105および反転106と、水平補間係数発生回路101と垂直補間係数発生回路102からの補間係数を乗算する乗算器107、乗算器108と、乗算器109および乗算器10aと、乗算器107、乗算器108と、乗算器109および乗算器10aによって乗算された補間係数とメモリ104からのオリジナル映像の1フィールド画像データを乗算する乗算器10b、乗算器10cと、乗算器10dおよび乗算器10eと、乗算器10b、乗算器10cと、乗算器10dおよび乗算器10eとによりそれぞれ乗算された映像データを加算する加算器10fと、加算器10gおよび加算器10hから構成されている。
【0005】
次に、この従来装置の動作について図16を参照して説明する。
【0006】
図16は、オリジナル映像の1フィールド画像における画素の位置と、サイズ変換後の画素の、サイズ変換率が2/3の場合での相対的な位置を水平方向に対して示した図である。サイズ変換率2/3において、水平補間係数発生回路101では、サイズ変換率2/3の逆数の1.5が累積加算される。図16では、オリジナル映像の1フィールド画像の第0画素であるDS0を基準としてサイズ変換がなされ、サイズ変換後にDS1に対応する画素DD0が、DS0から1.5画素分の距離に位置することを示す。この図から、サイズ変換後のDD0に対する水平方向の補間係数pは0.5となることがわかる。このようにサイズ変換後の各画素に対するオリジナル映像の1フィールド画像画素からの補間係数を算出し、補間をかけていくことにより、折り返しひずみの少ないサイズ変換された映像を得ることが出来る。
【0007】
また従来の映像サイズ変換処理装置におけるサイズ変換処理として、サイズ変換率の逆数の累積加算値の小数部と、サイズ変換率ごとに得られるオフセット値を加算した値を補間係数として用いる方法が知られている(特開平11−25265号公報参照)。図17はこの従来装置の構成を示すブロック図である。
【0008】
この図17の従来装置は、所望のサイズ変換率を設定する倍率設定部203と、設定されるサイズ変換率により補間係数を算出する補間係数発生部201と、設定されるサイズ変換率により補間係数を算出するオフセット回路202と、補間係数発生部201からの補間係数を受け入力映像信号SIに対して補間処理を行う補間処理部200と、補間処理部200からの補間処理がなされた映像データを格納するためのフィールドメモリ205と、フィールドメモリ205へのデータの書き込みおよびフィールドメモリ205からのデータの読み出しの制御を行う読み書き制御部204から構成される。読み書き制御部204からの制御によりフィールドメモリ205から読み出された映像データは、この出力映像信号SOとして外部に出力される。
【0009】
次に、この従来装置の動作について図18を参照して説明する。
【0010】
図18は、オリジナル映像の1フィールド画像における画素の位置と、サイズ変換後の画素の、サイズ変換率が2/3の場合での相対的な位置を水平方向に対して示した図である。この従来装置における補間係数の算出方法は、図15および図16を参照して述べた従来装置のそれとほぼ同様である。補間係数の算出方法の違いは、サイズ変換率の逆数の累積加算値のうちの小数部に対し、サイズ変換率に応じたオフセット値を加算している点である。この従来装置に置いてオフセット値bは、サイズ変換率a=d/sとすると、b=1/(2×d)としてもとめる。このように補間係数を算出することにより、補間処理における補間係数の値が各画素とも平均の取れた距離情報によって得られることになるため映像のサイズ変換による折り返しひずみが軽減される。
【0011】
【発明が解決しようとする課題】
しかし、これらのような従来装置には次のような問題点があった。
【0012】
第1の問題点は、図15の従来装置では、サイズ変換後の画素間の距離とオリジナル映像の1フィールド画像の画素間の距離の差分によって補間係数が算出されているため、両距離が一致する場合としない場合が生じ、画素間の補間がかけられる場合と、かけられない場合が生じてしまい、サイズ変換後の各画素間での情報量比の不均一が現れるため、映像が劣化してしまうことである。
【0013】
第2の問題点は、図17の従来装置を用いることにより、サイズ変換後の各画素間での情報量比の不均一による映像の劣化は現れにくいが、図15の従来装置も、図17の従来装置も補間係数の算出をオリジナル映像の1フィールド画像の画素の位置とサイズ変換後の画素の位置の距離の情報をもとに行っているため、オリジナル映像の画素データが表現する映像上の空間の垂直方向の広さに対するサイズ変換された映像の画素データが表現する映像上の空間の垂直方向の広さの比率とは補間係数の値として差分が生じてしまうため補間として不完全となり、サイズ変換された映像に劣化が現れてしまうことである。
【0014】
本発明の課題は、上述した問題点を除去できる映像サイズ変換処理方法および装置を提供することにある。
【0015】
【課題を解決するための手段】
本発明によれば、オリジナル映像に対して、サイズ変換率に従ったサイズ変換処理を行い、サイズ変換された映像を出力する映像サイズ変換処理方法であって、前記サイズ変換率をもとに補間係数を発生する補間係数発生ステップと、前記補間係数をもとに前記オリジナル映像に対して補間処理を行ない、前記サイズ変換された映像を出力する補間処理ステップとを、有する前記映像サイズ変換処理方法において、
前記補間係数発生ステップは、前記サイズ変換率をもとに、前記オリジナル映像の画素データが表現する映像上の空間の広さに対する前記サイズ変換された映像の画素データが表現する映像上の空間の広さの比率を持った補間係数を発生するステップであることを特徴とする映像サイズ変換処理方法が得られる。
【0016】
更に本発明によれば、オリジナル映像に対して、サイズ変換率に従ったサイズ変換処理を行い、サイズ変換された映像を出力する映像サイズ変換処理装置であって、前記サイズ変換率をもとに補間係数を発生する補間係数発生手段と、前記補間係数をもとに前記オリジナル映像に対して補間処理を行ない、前記サイズ変換された映像を出力する補間処理手段とを、有する前記映像サイズ変換処理装置において、
前記補間係数発生手段は、前記サイズ変換率をもとに、前記オリジナル映像の画素データが表現する映像上の空間の広さに対する前記サイズ変換された映像の画素データが表現する映像上の空間の広さの比率を持った補間係数を発生する手段であることを特徴とする映像サイズ変換処理装置が得られる。
【0017】
【発明の実施の形態】
次に本発明の実施例について図面を参照して説明する。
【0018】
図1は本発明の一実施例に係る映像サイズ変換処理装置のブロック図である。
【0019】
まず、図1を参照して本発明の特徴を説明する。
【0020】
本発明による映像サイズ変換処理装置は、映像に対して拡大・縮小などのサイズ変換処理を、オリジナル映像の画素データが表現する映像上の空間の広さに対するサイズ変換された映像の画素データが表現する映像上の空間の広さの比率によって補間処理を行うことにより、折り返し歪みなどの劣化の少ないサイズ変換映像の生成を、比較的小規模な回路構成で実現するものである。
【0021】
図1において、水平倍率記憶部4に対し設定されたサイズ変換率の値をもとに、水平補間処理部2で補間処理を行う際の、オリジナル映像の画素データが表現する映像上の空間の広さに対するサイズ変換された映像の画素データが表現する映像上の空間の広さの比を持った水平補間係数hw1、hw2およびhw3を水平補間係数発生部3によって生成する。ここで、水平補間係数hw1、hw2およびw3は、ピクセルクロックの倍の周波数のクロックのタイミングで生成される。水平補間係数の算出は、水平補間係数発生部3によって、オリジナル映像の1フィールド画像の画素データ数の計数値と、サイズ変換率の逆数の累積加算値をもとに行われる。水平補間係数発生部3によって生成された水平補間係数を用いることにより、水平補間処理部2において着目画素近傍の画素間で補間のとられた画素データを得ることができる。垂直方向の補間処理も、水平同期信号のタイミングで処理を行うこと以外は同じ方法で、垂直補間処理部5、垂直補間係数発生部6および垂直倍率設定部7を用いて行われる。
【0022】
これにより、オリジナル映像の1フィールド画像に対して水平方向にha倍(haは0<ha≦2)、垂直方向にva倍(vaは0<va≦1)にサイズ変換され、折り返し歪み等の劣化の少ない映像データを得ることが出来る。水平方向のサイズ変換に関しては、動作タイミングがピクセルクロックの倍の周波数で動作するため2倍までの拡大を行うことが出来る。
【0023】
次に図1に示した本発明の前記実施例による映像サイズ変換処理装置を詳細に説明する。
【0024】
図1において、映像サイズ変換処理装置1は、水平補間係数発生部3と垂直補間係数発生部6によって発生される水平補間係数および垂直補間係数により入力映像信号SIに対して水平方向・垂直方向にそれぞれ補間処理を行う水平補間処理部2と垂直補間処理部5を有している。水平補間係数発生部3は、水平倍率記憶部4に設定されている水平方向へのサイズ変換率と入力映像信号SIと同期した同期信号をもとに、オリジナル映像の画素データが表現する映像上の空間の水平方向の広さに対するサイズ変換された映像の画素データが表現する映像上の空間の水平方向の広さの比を持った水平補間係数hw1、hw2およびhw3を発生する。ここで、水平補間係数hw1、hw2およびhw3は、入力映像信号SIのピクセルクロックの倍の周波数のクロックをもとに発生される。また水平補間係数発生部3は、垂直補間処理部5と書き込み制御部9に対して、水平補間処理部2より出力される画素データのうち有効な画素データを示す水平画素イネーブル信号を発生する。垂直補間係数発生部6は、垂直倍率記憶部7に設定されている垂直方向へのサイズ変換率と入力映像信号SIと同期した同期信号をもとに、オリジナル映像の画素データが表現する映像上の空間の垂直方向の広さに対するサイズ変換された映像の画素データが表現する映像上の空間の垂直方向の広さの比を持った垂直補間係数vw1、vw2およびvw3を発生する。ここで、垂直補間係数vw1、vw2およびvw3は、入力映像信号SIの水平同期信号をもとに発生される。垂直補間係数発生部6はまた、書き込み制御部9に対して、垂直補間処理部5より出力される画素データのうち有効な画素データを示す垂直画素イネーブル信号を発生する。書き込み制御部9は、水平補間係数発生部3によって発生される水平画素イネーブル信号と、垂直補間係数発生部6によって発生される垂直画素イネーブル信号と、入力映像信号SIの同期信号をもとに、垂直補間処理部5より出力される画素データをフィールドメモリ8に対して書き込む際の制御を行う。
【0025】
次に水平補間処理部2および垂直補間処理部5の詳細な構成について説明する。これらの補間処理部は、入力された映像信号を1画素期間だけ遅延させるラッチ回路もしくは1水平期間だけ遅延させるラインメモリと、乗算器、加算器から実現することができる。
【0026】
図2および図3は、それぞれ、図1の装置の水平補間処理部2および垂直補間処理部5を示している。水平補間処理部2および垂直補間処理部5は、ほぼ同一構成のため、以下は、水平補間処理部2を例にとり説明する。
【0027】
図2において、水平補間処理部2は、入力された映像信号を1画素期間だけ遅延させる第1および第2のラッチ回路21および22と、入力映像信号SI、第1のラッチ回路21からの出力映像信号および第2のラッチ回路22からの出力映像信号に対して、水平補間係数hw1、hw2およびhw3をそれぞれ乗算する第1、第2および第3の乗算器23、24および25と、第1、第2および第3の乗算器23、24および25からの乗算結果を加算する加算器26と、加算器26からの加算結果に対してサイズ変換率haを乗算する乗算器27から構成される。第1および第2のラッチ回路21および22は、それぞれの入力端子が、第1のラッチ回路21は直接入力映像信号SIに接続され、第2のラッチ回路22は第1のラッチ回路21の出力に接続されており、ピクセルクロックによりそれぞれの入力データをラッチする。これにより入力映像信号SI端子からの入力データと、第1および第2のラッチ回路21および22の出力データを同時刻に見た場合、水平方向に時間的に並んだ3画素分の情報が得られる。第1、第2および第3の乗算器23、24および25は、入力映像信号SI端子、第1および第2のラッチ回路21および22の出力端子に接続され、それぞれのデータに対して、水平補間係数hw1、hw2およびhw3を乗算しその乗算結果を加算器26に出力し、加算器26での加算結果を乗算器27によってサイズ変換率haで乗算する。これらの動作により、水平補間処理部2では、入力映像信号SIの水平方向に対して時系列に並んだ3画素分の画素データをもとに水平補間係数hw1、hw2およびhw3での補間処理が行われる。垂直補間処理部5として用いられる場合には、図3を参照すると、第1および第2のラッチ回路21および22が、第1および第2のラインメモリ51および52に置き換えられればよい。また、縮小処理のみに限定する場合で、第1および第2のラインメモリ51および52の容量を小規模化する場合では、第1および第2のラインメモリ51および52への書き込みおよび読み出しの制御時に、水平補間係数発生回路3からの水平画素イネーブル信号を使用することにより、第1および第2のラインメモリ51および52の規模を低減する事が出来る。第1および第2のラインメモリ51および52の規模は、本装置に対して入力されるオリジナル映像の1フィールド画像の水平方向の有効画素数と水平倍率記憶部4に設定される値により算出し決定すればよい。
【0028】
次に水平補間係数発生部3の詳細な構成について説明する。水平補間係数発生部3は、例えば除算器、カウンタ、累積加算器、比較器および演算器の組み合わせで実現することができる。
【0029】
図4は、図1の装置の水平補間係数発生部3の一例のブロック図である。図4において、水平補間係数発生部3は、水平倍率記憶部4に記憶された水平方向に対する所望のサイズ変換率の、オリジナル映像の1フィールド画像側のサイズの比率を表すhsと、サイズ変換された映像のサイズの比率を表すhdから、サイズ変換率の逆数を演算し演算結果hwpを出力する第1の除算器31と、同じくhsおよびhdからサイズ変換率を演算し演算結果haを出力する第2の除算器32と、ピクセルクロックを計数し計数値hrcを出力する第1のカウンタ33と、ピクセルクロックと、第1の比較器35および第2の比較器36からの比較結果を示す信号を用いて第1の除算器31からのhwpをピクセルクロックの倍の周波数のクロックのタイミングによって累積加算を行い累積加算結果hwcを出力する第1の累積加算器34と、第1のカウンタ33の計数値hrcが第1の累積加算器34の累積加算結果hwc以上である場合にそれを示す信号を出力する第1の比較器35と、第1のカウンタ33の計数値hrcと第1の累積加算器34の累積加算結果hwcとの差分が第1の除算器31の演算結果hwp以上である場合にそれを示す信号を出力する第2の比較器36と、第1のカウンタ33からの計数値hrcと第1の累積加算器34からの累積加算結果hwcと第1の除算器31からの演算結果hwpから水平補間係数hw1、hw2およびhw3を算出する第1、第2および第3の補間係数演算器37、38および39とから構成される。ここで、上記「オリジナル映像の1フィールド画像側のサイズの比率」とは、サイズ変換率において、オリジナル映像とサイズ変換後の映像とを対比したときに、オリジナル映像側の比率を意味する。また、上記「サイズ変換された映像のサイズの比率」とは、サイズ変換率において、オリジナル映像とサイズ変換後の映像とを対比したときに、サイズ変換後の映像側の比率を意味する。また第1の比較器35は、ピクセルクロックおよび第2の比較器36からの比較結果を示す信号も用いて、水平補間処理部2から出力される映像信号中の画素データが有効であるか否かを示す水平画素イネーブル信号を出力する。ここで、第1の補間係数演算器37は、hw1=(1−hrc+hwc)として第1の水平補間係数hw1を出力する。第2の補間係数演算器38は、hwp≦(hw1+1)であった場合にはhw2=(hwp−hw1)として、そうでない場合にはhw2=1として第2の水平補間係数hw2を出力する。第3の補間係数演算器39は、hwp≦(hw1+1)であった場合にはhw3=0として、そうでない場合にはhw3=(hwp−hw1−1)として第3の水平補間係数hw3を出力する。
【0030】
次に垂直補間係数発生部6の詳細な構成について説明する。垂直補間係数発生部6は、例えば除算器、カウンタ、累積加算器、比較器および演算器の組み合わせで実現することができる。
【0031】
図5は、図1の装置の垂直補間係数発生部6の一例のブロック図である。図5において、垂直補間係数発生部6は、垂直倍率記憶部7に記憶された垂直方向に対する所望のサイズ変換率の、オリジナル映像の1フィールド画像側のサイズの比率を表すvsと、サイズ変換された映像のサイズの比率を表すvdから、サイズ変換率の逆数を演算し演算結果vwpを出力する第3の除算器61と、同じくvsおよびvdからサイズ変換率を演算し演算結果vaを出力する第4の除算器62と、水平同期信号を計数し計数値vrcを出力する第2のカウンタ63と、水平同期信号および第3の比較器65からの比較結果を示す信号を用いて第3の除算器61からのvwpを水平同期信号のタイミングによって累積加算を行い累積加算結果vwcを出力する第2の累積加算器64と、第2のカウンタ63の計数値vrcが第2の累積加算器64の累積加算結果vwc以上である場合にそれを示す信号を出力する第3の比較器65と、第2のカウンタ63からの計数値vrcと第2の累積加算器64からの累積加算結果vwcと第3の除算器61からの演算結果vwpから垂直補間係数vw1、vw2およびvw3を算出する第4、第5および第6の補間係数演算器67、68および69とから構成される。また第3の比較器65は、水平同期信号も用いて、垂直補間処理部5から出力される映像信号中の画素データが有効であるか否かを示す垂直画素イネーブル信号を出力する。ここで、第4の補間係数演算器67は、vw1=(1−vrc+vwc)として第4の垂直補間係数vw1を出力する。第5の補間係数演算器68は、vwp≦(vw1+1)であった場合にはvw2=(vwp−vw1)として、そうでない場合にはvw2=1として第5の垂直補間係数vw2を出力する。第6の補間係数演算器69は、vwp≦(vw1+1)であった場合にはvw2=0として、そうでない場合にはvw2=(vwp−vw1−1)として第6の垂直補間係数vw3を出力する。このように、垂直補間係数発生部6は、図4に示す水平補間係数発生部3とほぼ同様の構成となっており、水平補間係数発生部3から第2の比較器36を省略し、また、カウンタおよび累積加算器の計数タイミングを水平同期信号のタイミングによって行うよう変更することで実現することができる。
【0032】
次に、図1の装置の動作について説明する。
【0033】
通常、映像信号のサイズ変換処理を行う場合、入力映像信号SIに対して、画素データ量の低減もしくは増加を行う。本発明では、映像信号のサイズ変換率を2/3、4/3および5/8と仮定し、入力映像信号SIに対してサイズ変換処理を行う。ただし、水平方向のサイズ変換処理と垂直方向へのサイズ変換処理は、垂直方向へのサイズ変換は縮小のみとしていること以外は同等であるため、ここでは水平方向へのサイズ変換処理のみが行われる場合について説明する。
【0034】
図6は、サイズ変換率を2/3とした場合の図1の装置の水平補間係数発生部3の動作を示すタイミングチャートである。
【0035】
図6を参照すると、T01において、第1のカウンタ33はピクセルクロックの計数値hrcである1を計数し、第1の累積加算器34はサイズ変換率2/3における第1の除算器31からの演算結果hwpである1.5を累積加算した累積加算結果hwcである1.5を計数する。T02では、hrcがhwcよりも小さい値であるため、第1のカウンタ33の計数値hrcは2となるが、第1の累積加算器34はhwpの累積加算を行わず累積加算結果hwcは1.5の値のままとなる。ここで、T03〜T04においてhrcがhwc以上であるため水平画素イネーブル信号がイネーブルを示す値となる。T04では、hrcがhwc以上の値であるため、第1のカウンタ33の計数値hrcは3となり、第1の累積加算器34はhwpの累積加算を行い累積加算結果hwcは3となる。ここで、T05〜T06においてhrcがhwc以上(ここでは等しい値)であるため水平画素イネーブル信号がイネーブルを示す値となる。第1、第2および第3の水平補間係数hw1、hw2およびhw3は、第1、第2および第3の補間係数演算器37、38および39によって、第1のカウンタ33および第1の累積加算器34からの演算結果hrcおよびhwcによってそれぞれ演算される。これらの動作により、サイズ変換率が2/3ではオリジナル映像の1フィールド画像信号中の3画素に2画素分の水平画素イネーブル信号が発生される。この水平画素イネーブル信号を用いて書き込み制御部9によってフィールドメモリ8に対して画素データを格納していくことにより、フィールドメモリ8には映像サイズがサイズ変換された映像信号が得られる。
【0036】
図7を参照すると、フィールドメモリ8内に格納された映像信号は、第1、第2および第3の補間係数演算器37、38および39によって演算された水平補間係数hw1、hw2およびhw3をもとに水平補間処理部2によって補間処理がなされているため、オリジナル映像の画素データをDSn、サイズ変換後の映像の画素データをDDnとした場合に、DD0およびDD1は、同図中の式に表される係数の補間が行われるため、サイズ変換率が2/3である場合のオリジナル映像の画素データが表現する映像上の空間の広さに対するサイズ変換された映像の画素データが表現する映像上の空間の広さの比率が加味された補間処理を行うことができる。
【0037】
図8は、サイズ変換率を4/3とした場合の図1の装置の水平補間係数発生部3の動作を示すタイミングチャートである。
【0038】
図8を参照すると、T11において、第1のカウンタ33はピクセルクロックの計数値hrcである1を計数し、第1の累積加算器34はサイズ変換率4/3における第1の除算器31からの演算結果hwpである0.75を累積加算した累積加算結果hwcである0.75を計数する。このため、T12〜T13においてhrcがhwc以上であるため水平画素イネーブル信号がイネーブルを示す値とり、T13〜T15においても同様に動作する。T15においても、hrcがhwc以上の値であるため、第1のカウンタ33の計数値hrcは3となり、第1の累積加算器34はhwpの累積加算を行い累積加算結果hwcは2.25となる。これにより、T15〜T16では、hrcとhwcの差分値が第1の除算器31の演算結果であるhwpの値以上(ここでは等しい値)となるため、第2の比較器36がそれを検知し、その比較信号をもとにT15〜T16においても水平画素イネーブル信号をイネーブルを示す値とし、また、T16において累積加算器34に対して第1の除算器の演算結果hwpを累積加算させるように制御する。T16〜T17においてもhrcがhwc以上であるため水平画素イネーブル信号がイネーブルを示す値とる。これらの動作により、サイズ変換率が4/3ではオリジナル映像の1フィールド画像信号中の3画素に4画素分の水平画素イネーブル信号が発生される。この水平画素イネーブル信号を用いて書き込み制御部9によってフィールドメモリ8に対して画素データを格納していくことにより、フィールドメモリ8には映像サイズがサイズ変換された映像信号が得られる。
【0039】
図9を参照すると、フィールドメモリ8内に格納された映像信号は、第1、第2および第3の補間係数演算器37、38および39によって演算された水平補間係数hw1、hw2およびhw3をもとに水平補間処理部2によって補間処理がなされているため、オリジナル映像の画素データをDSn、サイズ変換後の映像の画素データをDDnとした場合に、DD0、DD1、DD2およびDD3は、同図中の式に表される係数の補間が行われるため、サイズ変換率が4/3である場合にもオリジナル映像の画素データが表現する映像上の空間の広さに対するサイズ変換された映像の画素データが表現する映像上の空間の広さの比率が加味された補間処理を行うことができる。
【0040】
また図10を参照すると、本発明によってサイズ変換率を5/8とした場合にも、たとえばDD1のように、オリジナル映像の1フィールド画像信号中のDS1、DS2およびDS3の画素データからの補間が必要な場合にも、それぞれの画素データの要素を含んだ、オリジナル映像の1フィールド画像上の画素データに対するサイズ変換された映像の画素データが表現する映像上の空間の広さの比率が加味された補間処理を行うことができる。
【0041】
垂直方向のサイズ変換においても、垂直補間係数発生部6および垂直補間処理部5のよって、処理単位が水平方向のライン単位となるが、ほぼ同様の処理が行われる。
【0042】
これらの動作により、フィールドメモリ8には、入力映像信号SIに対して、水平方向および垂直方向に所望のサイズ変換率に変換された映像信号が得られる。
【0043】
次に、上述した一実施例に係る映像サイズ変換処理装置の効果を説明する。
【0044】
第1の効果は、映像信号のサイズ変換処理を行う際に、オリジナル映像の1フィールド画像中の高域周波数成分を抑制するためのローパスフィルタを必要としないことである。このため装置の規模を低減することができる。
【0045】
その理由は、オリジナル映像の1フィールド画像信号中の画素データと、サイズ変換後の映像の画素データとの間で相関のとられた補間係数に基づく入力映像信号の補間処理を実行する補間処理手段を備えているため、補間処理を行うと同時に入力映像信号中の高域周波数成分が抑制されるためである。
【0046】
第2の効果は、サイズ変換後の各画素間での情報量比の不均一や、情報量比の不足が起きにくいことである。このためサイズ変換処理によって映像の劣化の少ない映像信号を得ることができる。
【0047】
その理由は、サイズ変換における補間処理を、オリジナル映像の画素データが表現する映像上の空間の広さに対するサイズ変換された映像の画素データが表現する映像上の空間の広さの比率をもとにした補間係数を用いて行っているためである。
【0048】
次に、本発明のもう一つの実施例について説明する。
【0049】
この実施例は、図1の装置の水平補間係数発生部3および垂直補間係数発生部6として、図11および図12に示した水平補間係数発生部3および垂直補間係数発生部6を用いている。
【0050】
図11および図12を参照して、水平補間係数発生部3に対しては第1のカウンタ33および第1の累積加算器34にリセット信号として水平同期信号が、垂直補間係数発生部6に対しては第2のカウンタ63および第2の累積加算器64にリセット信号として垂直同期信号が入力されている。映像信号内の水平方向への補間係数は、各水平同期期間内で同一なため、水平補間係数発生部3においては、水平同期信号をリセット信号として第1のカウンタ33および第1の累積加算器34の計数を水平同期期間ごとにリセットして行うことによって、計数能力の低いカウンタもしくは累積加算器に置き換えることができる。また、映像信号が時系列に映像が数フィールド分連続する場合において、各映像内の垂直方向への補間係数が各映像間で同一であるため、垂直補間係数発生部6おいては、垂直同期信号をリセット信号として第2のカウンタ63および第2の累積加算器64にリセットして行うことにより、計数能力の低いカウンタもしくは累積加算器に置き換えることができる。
【0051】
この実施例では、水平補間係数発生部3および垂直補間係数発生部6に設けられるカウンタおよび累積加算器の計数能力の低減、すなわち、ビット数の低減を行うことができるという新たな効果を有する。
【0052】
図13を参照すると、図1の装置の水平補間係数発生部3のもう一つの例が示されている。図13に図示の水平補間係数発生部3は、水平方向に対して拡大処理を行う必要がない場合に有効なものであり、図4の水平補間係数発生部3を、図5の垂直補間係数発生部6と同様の構成にしたものである。なお、図13の水平補間係数発生部3は、第1のカウンタ33および第1の累積加算器34の計数をピクセルクロックで行っている。
【0053】
このようにすることで、図13では、水平補間係数発生部3を構成する回路規模を低減することができる。
【0054】
図14を参照すると、図1の装置の水平補間係数発生部3の別の例が示されている。
【0055】
図14の水平補間係数発生部3は、図4の水平補間係数発生部3の第1のカウンタ33のかわりに第3の累積加算器323を設け、第1の除算器31を無くした構成となっている。
【0056】
図14において、第3の累積加算器323は、水平倍率記憶部4からの所望のサイズ変換処理におけるサイズ変換後の映像サイズの比率を表すhdを累積加算している。第4の累積加算器324は、水平倍率記憶部4からの所望のサイズ変換処理におけるオリジナル映像の1フィールド画像の映像サイズの比率を表すhsを累積加算している。第5の除算器322は、オリジナル映像の1フィールド画像の映像サイズの比から、その逆数を演算し演算結果haを出力する。ここで、第7の補間係数演算器327は、hw1=(hd−hrc+hwc)として第1の水平補間係数hw1を出力する。第8の補間係数演算器328は、hs≦(hw1+hd)であった場合にはhw2=(hs−hw1)として、そうでない場合にはhw2=hdとして第2の水平補間係数hw2を出力する。第9の補間係数演算器329は、hs≦(hw1+hd)であった場合にはhw2=0として、そうでない場合にはhw2=(hs−hw1−hd)として第3の水平補間係数hw3を出力する。ハードウェアによって、除算器を構成する場合、その回路規模は精度により増大してしまう。また、第1の累積加算器34は、第1の除算器31からの演算結果を累積加算するため、小数部の演算が必要になる。この小数部の演算もハードウェアによって構成する場合、回路規模が複雑化し大きくなってしまうという問題がある。この例では、第3の累積加算器323および第4の累積加算器324によって、オリジナル映像の1フィールド画像側のサイズの比率を表すhsと、サイズ変換された映像のサイズの比率を表すhdを直接累積加算しているため、小数部の演算器を必要とせず、水平補間係数発生部3内の各構成要素の回路を簡易化することができる。また、水平補間係数をもとに補間処理を行う水平補間処理部2内の乗算器についても同様に小数部の演算を必要としないため簡易化することができる。
【0057】
また、垂直補間係数発生部6に関しても、同様の構成をとることにより、垂直補間係数発生部6および垂直補間処理部5の構成を簡易化できる。
【0058】
図14に示した例では、映像サイズ変換処理装置内の水平補間係数発生部3および垂直補間係数発生部6内の各構成要素において、小数部の演算を省くことにより映像サイズ変換処理装置の構成を簡易化することができるという新たな効果を有する。
【0059】
【発明の効果】
以上説明したように本発明によれば、以下のような効果を奏する。
【0060】
第1の効果は、映像信号のサイズ変換処理を行う際に、オリジナル映像の1フィールド画像中の高域周波数成分を抑制するためのローパスフィルタを必要としないことである。このため装置の規模を低減することができる。
【0061】
その理由は、オリジナル映像の1フィールド画像信号中の画素データと、サイズ変換後の映像の画素データとの間で相関のとられた補間係数に基づく入力映像信号の補間処理を実行する補間処理手段を備えているため、補間処理を行うと同時に入力映像信号中の高域周波数成分が抑制されるためである。
【0062】
第2の効果は、サイズ変換後の各画素間での情報量比の不均一や、情報量比の不足が起きにくいことである。このためサイズ変換処理によって映像の劣化の少ない映像信号を得ることができる。
【0063】
その理由は、サイズ変換における補間処理を、オリジナル映像の画素データが表現する映像上の空間の広さに対するサイズ変換された映像の画素データが表現する映像上の空間の広さの比率をもとにした補間係数を用いて行っているためである。
【図面の簡単な説明】
【図1】本発明の一実施例に係る映像サイズ変換処理装置のブロック図である。
【図2】図1の装置の水平補間処理部のブロック図である。
【図3】図1の装置の垂直補間処理部のブロック図である。
【図4】図1の装置の水平補間係数発生部の一例のブロック図である。
【図5】図1の装置の垂直補間係数発生部の一例のブロック図である。
【図6】サイズ変換率を2/3とした場合の図1の装置の水平補間係数発生部の動作を示すタイミングチャートである。
【図7】サイズ変換率を2/3とした場合の図1の装置の水平補間係数発生部の動作の説明に使用する図である。
【図8】サイズ変換率を4/3とした場合の図1の装置の水平補間係数発生部の動作を示すタイミングチャートである。
【図9】サイズ変換率を4/3とした場合の図1の装置の水平補間係数発生部の動作の説明に使用する図である。
【図10】サイズ変換率を5/8とした場合の図1の装置の水平補間係数発生部の動作の説明に使用する図である。
【図11】図1の装置の水平補間係数発生部のもう一つの例のブロック図である。
【図12】図1の装置の垂直補間係数発生部のもう一つの例のブロック図である。
【図13】図1の装置の水平補間係数発生部の更にもう一つの例のブロック図である。
【図14】図1の装置の水平補間係数発生部の別の例のブロック図である。
【図15】従来装置の構成を示すブロック図である。
【図16】図15の装置の動作の説明に使用する図である。
【図17】もう一つの従来装置の構成を示すブロック図である。
【図18】図17の装置の動作の説明に使用する図である。
【符号の説明】
SI 入力映像信号
SO 出力映像信号
1 映像サイズ変換処理装置
2 水平補間処理部
3 水平補間係数発生部
4 水平倍率記憶部
5 垂直補間処理部
6 垂直補間係数発生部
7 垂直倍率記憶部
8 フィールドメモリ
9 書き込み制御部

Claims (6)

  1. オリジナル映像に対して、サイズ変換率に従ったサイズ変換処理を行い、サイズ変換された映像を出力する映像サイズ変換処理方法であって、
    前記サイズ変換率の逆数であるwpとwpを累積加算したwcとピクセルクロックを計数するrcとをもとに補間係数であるw1、w2及びw3を発生する補間係数発生ステップと、前記補間係数をもとに前記オリジナル映像に対して補間処理を行ない、前記サイズ変換された映像を出力する補間処理ステップとを有
    前記補間係数発生ステップは、ピクセルクロックの倍の周波数のタイミング毎に、wcがrc以下であればwcにwpを加算し、ピクセルクロックに同期して順次取り込まれた前記オリジナル映像の連続する3個の画素データに対応する前記補間係数について、w1を1−rc+wcとし、wpがw1+1以下であるときは、w2をwp−w1かつw3を0とし、wpがw1+1を上回るときは、w2を1かつw3をwp−w1−1とするステップであり、
    前記補間処理ステップは、前記ピクセルクロックの倍の周波数のタイミングにおいてrcがwc以上であるときに前記3の画素データが有効であるとして前記補間係数に基づいて前記3の画素データに対して補間処理を行った画素データを出力するステップであることを特徴とする映像サイズ変換処理方法。
  2. 請求項1に記載の映像サイズ変換処理方法において、
    前記サイズ変換率が前記オリジナル映像に対する前記サイズ変換された映像の水平方向のサイズ変換率である場合に、前記補間係数発生ステップは、ピクセルクロックに同期して順次取り込まれた前記3の画素データに対して前記水平方向のサイズ変換率に基づいて補間係数をピクセルクロック毎に発生するステップであることを特徴とする映像サイズ変換処理方法。
  3. 請求項1に記載の映像サイズ変換処理方法において、
    前記サイズ変換率が前記オリジナル映像に対する前記サイズ変換された映像の垂直方向のサイズ変換率である場合に、前記補間係数発生ステップは、ピクセルクロックに同期して順次取り込まれた前記3の画素データに対して前記垂直方向のサイズ変換率に基づいて補間係数をピクセルクロック毎に発生するステップであることを特徴とする映像サイズ変換処理方法。
  4. オリジナル映像に対して、サイズ変換率に従ったサイズ変換処理を行い、サイズ変換された映像を出力する映像サイズ変換処理装置であって、
    前記サイズ変換率の逆数であるwpとwpを累積加算したwcとピクセルクロックを計数するrcとをもとに補間係数であるw1、w2及びw3を発生する補間係数発生手段と、前記補間係数をもとに前記オリジナル映像に対して補間処理を行ない、前記サイズ変換された映像を出力する補間処理手段とを有
    前記補間係数発生手段は、ピクセルクロックの倍の周波数のタイミング毎に、wcがrc以下であればwcにwpを加算し、ピクセルクロックに同期して順次取り込まれた前記オリジナル映像の連続する3個の画素データに対応する前記補間係数について、w1を1−rc+wcとし、wpがw1+1以下であるときは、w2をwp−w1かつw3を0とし、wpがw1+1を上回るときは、w2を1かつw3をwp−w1−1として発生する手段であり、
    前記補間処理手段は、前記ピクセルクロックの倍の周波数のタイミングにおいてrcがwc以上であるときに前記3の画素データが有効であるとして前記補間係数に基づいて前記3の画素データに対して補間処理を行った画素データを出力する手段であることを特徴とする映像サイズ変換処理装置。
  5. 請求項4に記載の映像サイズ変換処理装置において、
    前記サイズ変換率が前記オリジナル映像に対する前記サイズ変換された映像の水平方向のサイズ変換率である場合に、前記補間係数発生手段は、ピクセルクロックに同期して順次取り込まれた前記3の画素データに対して前記水平方向のサイズ変換率に基づいて補間係数をピクセルクロック毎に発生する手段であることを特徴とする映像サイズ変換処理装置。
  6. 請求項4に記載の映像サイズ変換処理装置において、
    前記サイズ変換率が前記オリジナル映像に対する前記サイズ変換された映像の垂直方向のサイズ変換率である場合に、前記補間係数発生手段は、ピクセルクロックに同期して順次取り込まれた前記3の画素データに対して前記垂直方向のサイズ変換率に基づいて補間係数をピクセルクロック毎に発生する手段であることを特徴とする映像サイズ変換処理装置。
JP30224799A 1999-10-25 1999-10-25 映像サイズ変換処理方法および映像サイズ変換処理装置 Expired - Fee Related JP3613093B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP30224799A JP3613093B2 (ja) 1999-10-25 1999-10-25 映像サイズ変換処理方法および映像サイズ変換処理装置
US09/695,033 US6806914B1 (en) 1999-10-25 2000-10-25 Method and apparatus for changing the size of image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP30224799A JP3613093B2 (ja) 1999-10-25 1999-10-25 映像サイズ変換処理方法および映像サイズ変換処理装置

Publications (2)

Publication Number Publication Date
JP2001128061A JP2001128061A (ja) 2001-05-11
JP3613093B2 true JP3613093B2 (ja) 2005-01-26

Family

ID=17906730

Family Applications (1)

Application Number Title Priority Date Filing Date
JP30224799A Expired - Fee Related JP3613093B2 (ja) 1999-10-25 1999-10-25 映像サイズ変換処理方法および映像サイズ変換処理装置

Country Status (2)

Country Link
US (1) US6806914B1 (ja)
JP (1) JP3613093B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001166733A (ja) * 1999-11-30 2001-06-22 Koninkl Philips Electronics Nv ビデオ信号の補間方法及びビデオ信号補間機能を有する表示装置
KR100429874B1 (ko) * 2001-07-20 2004-05-04 삼성전자주식회사 파노라마/워터글라스 기능 구현을 위한 영상 처리 장치 및그 방법
JP2003274372A (ja) * 2002-03-14 2003-09-26 Fujitsu Ltd ラインメモリの容量を小さくした画像フォーマット変換装置
TWI271104B (en) * 2005-09-19 2007-01-11 Novatek Microelectronics Corp Device and method for zooming images
TWI391900B (zh) * 2008-04-28 2013-04-01 Novatek Microelectronics Corp 用於低色偏液晶顯示器之資料驅動電路

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63245569A (ja) * 1987-03-31 1988-10-12 Yokogawa Medical Syst Ltd 画像表示処理装置
US4872054A (en) * 1988-06-30 1989-10-03 Adaptive Video, Inc. Video interface for capturing an incoming video signal and reformatting the video signal
EP0393906B1 (en) * 1989-04-21 1994-01-19 Sony Corporation Video signal interpolation
US5422678A (en) * 1991-01-29 1995-06-06 Seiko Epson Corp. Video processor for enlarging and contracting an image in a vertical direction
JP2585957B2 (ja) * 1992-08-18 1997-02-26 富士通株式会社 ビデオデータ変換処理装置とビデオデータ変換装置を有する情報処理装置
JP3231142B2 (ja) * 1993-06-18 2001-11-19 株式会社日立製作所 映像圧縮拡大回路及び装置
US5600347A (en) * 1993-12-30 1997-02-04 International Business Machines Corporation Horizontal image expansion system for flat panel displays
US6476868B1 (en) * 1994-04-11 2002-11-05 Canon Kabushiki Kaisha Image pickup apparatus provided with enlargement process means for enlarging image signals output from an image pickup device
US5790714A (en) * 1994-11-01 1998-08-04 International Business Machines Corporation System and method for scaling video
TW377431B (en) * 1995-04-14 1999-12-21 Hitachi Ltd Method and apparatus for changing resolution
US5963261A (en) * 1996-04-29 1999-10-05 Philips Electronics North America Corporation Low cost scan converter for television receiver
JPH09326958A (ja) 1996-06-05 1997-12-16 Sony Corp 画像処理装置および処理方法
US6380979B1 (en) * 1996-07-02 2002-04-30 Matsushita Electric Industrial Co., Ltd. Scanning line converting circuit and interpolation coefficient generating circuit
JPH1042204A (ja) * 1996-07-25 1998-02-13 Hitachi Ltd 映像信号処理装置
US5739867A (en) * 1997-02-24 1998-04-14 Paradise Electronics, Inc. Method and apparatus for upscaling an image in both horizontal and vertical directions
JPH1125265A (ja) 1997-07-08 1999-01-29 Matsushita Electric Ind Co Ltd 画像縮小装置
WO1999027711A1 (fr) * 1997-11-26 1999-06-03 Sony Corporation Appareil de traitement d'images, procede de traitement d'images et recepteur de television
US6239847B1 (en) * 1997-12-15 2001-05-29 Netergy Networks, Inc. Two pass multi-dimensional data scaling arrangement and method thereof
US6191820B1 (en) * 1998-04-28 2001-02-20 Lg Electronics Inc. Device and method for converting aspect ratio of video signal
JP4399682B2 (ja) 1998-06-29 2010-01-20 ソニー株式会社 画像データ処理装置および方法、並びに記録媒体
US6501484B1 (en) * 1998-09-29 2002-12-31 Globalstreams, Inc. System and method for high definition video rescaling
JP2000207391A (ja) 1998-11-10 2000-07-28 Sony Corp 補間装置、補間方法及び画像表示装置
US6407775B1 (en) * 1999-04-16 2002-06-18 Avid Technology, Inc. Image resizer and frame rate converter with pulldown controller
JP2000350016A (ja) 1999-06-04 2000-12-15 Sony Corp 補間装置及び補間方法

Also Published As

Publication number Publication date
JP2001128061A (ja) 2001-05-11
US6806914B1 (en) 2004-10-19

Similar Documents

Publication Publication Date Title
EP0811950B1 (en) Picture processing apparatus and method for enlarging or reducing a picture at any enlarging or reducing ratio
KR20040045525A (ko) 스크롤링 텍스트나 그래픽 데이터를 검출할 수 있는움직임 추정장치 및 방법
JPS60229594A (ja) 動物体の動き内挿装置
KR100416370B1 (ko) 비디오필드들을순차주사비디오프레임들로디인터레이싱하기위한방법및장치
US7050077B2 (en) Resolution conversion device and method, and information processing apparatus
JP4996424B2 (ja) 信号処理装置
JP3613093B2 (ja) 映像サイズ変換処理方法および映像サイズ変換処理装置
US6747640B2 (en) Image display device and image display method
JP2009118334A5 (ja)
CN101789234A (zh) 数字图像缩放处理方法及集成系统
KR980003999A (ko) Cdf 연산영역에 근거한 히스토그램 등화회로 및 그 방법
KR100294676B1 (ko) 범용 영상 포맷 변환 장치
JP3981260B2 (ja) 階調補正装置
US5459525A (en) Video signal converting device and noise eliminator used therein
US9247231B2 (en) 3D image signal processing apparatus
US6630962B2 (en) Process and device for field or frame frequency conversion utilizing a dynamic calculation of the interpolation phases
JPH11155099A (ja) 電子ズーム処理装置
TWI392332B (zh) 影像處理電路及其方法
JP3839206B2 (ja) 映像表示装置
KR970057917A (ko) 매크로블럭의 반픽셀처리장치
JP4784954B2 (ja) データ転送機構
JP3271220B2 (ja) 画像処理装置
JP2000148061A (ja) 画像処理回路
KR100531322B1 (ko) 포맷 변환 장치 및 그 방법
JPH11196382A (ja) フィールド内内挿方法及び回路

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040212

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20040315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040409

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20040315

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20040422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041018

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071105

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081105

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081105

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091105

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091105

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101105

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111105

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111105

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111105

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111105

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121105

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121105

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121105

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121105

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131105

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees