JP3622461B2 - 画像合成装置及び画像合成方法 - Google Patents

画像合成装置及び画像合成方法 Download PDF

Info

Publication number
JP3622461B2
JP3622461B2 JP33448897A JP33448897A JP3622461B2 JP 3622461 B2 JP3622461 B2 JP 3622461B2 JP 33448897 A JP33448897 A JP 33448897A JP 33448897 A JP33448897 A JP 33448897A JP 3622461 B2 JP3622461 B2 JP 3622461B2
Authority
JP
Japan
Prior art keywords
data
horizontal
conversion
output
angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP33448897A
Other languages
English (en)
Other versions
JPH11168752A (ja
Inventor
純 井戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP33448897A priority Critical patent/JP3622461B2/ja
Publication of JPH11168752A publication Critical patent/JPH11168752A/ja
Application granted granted Critical
Publication of JP3622461B2 publication Critical patent/JP3622461B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Studio Circuits (AREA)
  • Processing Of Color Television Signals (AREA)
  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、画像合成装置及び画像合成方法に係り、さらに詳しくは、NTSC方式、PAL方式などのアナログ画像と、画素数の異なるデジタル画像とを、各画素の透明度を表すデータに基づいて合成し、アナログ画像を生成する画像合成装置に関するものである。
【0002】
【従来の技術】
画像データを画素数の異なる画像データに変換(画角変換)し、NTSC信号、PAL信号などの映像信号を得る技術は、例えば、米国特許USP5,583,575号、USP5,475,442号、USP5,132,793号、USP3,262,857号など、並びに、特開平2−237280号、特開平4−42686号、特開平4−238250号、特開平4−238252号、特開平6−90416号、特開平7−46546号、特開平7−30862号公報などに開示されている。
【0003】
図11は、640×480画素の正方画素で1フレームを構成するデジタル画像データをNTSCまたはPALなどの画素数の異なるアナログ映像信号に変換して出力する従来の技術を利用した画像切り換え再生装置の構成を示したブロック図である。
【0004】
図11において、1はソースとなる画像データを入力し記憶するソースデータ格納メモリ、2はソースデータ格納メモリ1の入出力を制御するメモリコントローラ、3はソースデータ格納メモリ1から出力される画素の色データを指定するアドレスを入力とし、指定されたアドレスに応じて色データを出力する色データLUT、4は色データLUT3の出力を入力とし、ソースデータを画角変換するための水平・垂直フィルタを含む画角変換回路である。
【0005】
この画角変換回路4は、水平方向画角変換フィルタ5、メモリ6及び垂直方向画角変換フィルタ7により構成される。水平方向画角変換フィルタ5は色データLUT3の出力を入力とし画面の水平方向の画角変換を行い、メモリ6は画面の1ラインまたは1フィールド分のデータを記憶し、垂直方向画角変換フィルタ7はメモリ6の出力と水平方向画角変換フィルタ5の出力を入力とし画面の垂直方向の画角変換を行う。
【0006】
また、8は輝度・色差信号生成マトリクス、9は出力切り換え回路である。輝度・色差信号生成マトリクス8は垂直方向画角変換フィルタ7の出力、即ち、画角変換回路4の出力を入力とし、入力される色データから輝度データおよび色差データを生成する。出力切り換え回路9は輝度・色差信号生成マトリクス8の出力と入力アナログ映像信号を入力とし、出力制御信号に基づき2つの入力のうちいずれか一方の信号を出力する。ここでは、NTSC信号またはPAL信号を生成するように外部から入力された輝度・色差データ(Videoデータ)が入力アナログ映像信号である。
【0007】
この出力制御信号は画素毎に変化しない制御信号であり、例えばレジスタ等に設定されたデータとして与えられる。この出力切り換え回路9の出力はNTSCまたはPALの信号フォーマットに合致した画素数の輝度データおよび色差データであり、この画像切切り換え再生装置の出力である。
【0008】
次に動作について説明する。ソースデータ格納メモリ1には、NTSCまたはPALとは画素数の異なる画像データ、例えば640×480画素の正方画素で1フレームを構成する画像データなどが格納されている。画素データは、例えば図12に示したような8ビットのアドレス(CLUT8データ)で表現されており、色データLUT3では、このアドレスで指定されるRed(赤)、Green(緑)、Blue(青)の色データ(RGBデータ)を画素毎に出力する。
【0009】
ソースデータ格納メモリ1の読み出しタイミングは、メモリコントローラ2で制御されており、出力切り換え回路9の出力がNTSCまたはPALの輝度・色差データを規定の周波数で連続的に出力できるように絶えずコントロールしている。
【0010】
色データLUT3の出力は画角変換回路4に出力され、ここで画面の水平方向および垂直方向の画角変換が行われる。このとき、ソースの画像データは、画像の真円率を保ちながら全てのソースデータを用いてNTSCまたはPAL信号を生成するために、NTSCまたはPALに合致した画素数のデータに変換される。
【0011】
次に画角変換回路4の出力は輝度・色差信号生成マトリクス8に入力される。輝度・色差信号生成マトリクス8では、RGBデータから画素の輝度データおよび色差データが生成され、輝度データは1画素毎に1つのデータが、色差信号については2画素毎に1つのデータが出力されるようフィルタリングされたデータがそれぞれ出力される。RGBデータから輝度データおよび色差データを生成する際の多項式は式(1)のとおりである。
【0012】
【数1】
Figure 0003622461
【0013】
式(1)において、Yは輝度データ、CbおよびCrは色差データを表す。また、R、G、BはそれぞれRed、Green、Blueの色データを表す。
【0014】
出力切り換え回路9は、輝度・色差信号生成マトリクス8の出力および外部から入力されるVideoデータを入力とし、出力制御信号に応じて2つの入力データのうちのいずれか1つを出力する。出力制御信号は、例えばレジスタに設定された2値の固定信号で、現在出力する画面をソースデータ格納メモリ1に格納されている画像データにするかあるいは外部から入力されるVideoデータにするかを選択するものである。
【0015】
出力切り換え回路9の出力データは、NTSC信号またはPAL信号を与える輝度データおよび色差データで、例えばこれらを時間的に多重した後、タイミング・リファレンス信号を多重すればITU−R.656規格で規格化されたNTSCまたはPALのディジタル画像データとなる。
【0016】
尚、ソースデータ格納メモリ1に格納されている画素データが図13に示したような各5ビットのRGBデータ(RGB555データ)で表現されている場合、色データLUT3は不要であり、ソースデータ格納メモリ1の出力はRGBデータとして各色に分離され、画角変換回路4に出力される。
【0017】
次に、画角変換回路4について説明する。画角変換回路4の入力信号はRGBデータで、水平方向画角変換フィルタ5に入力される。水平方向画角変換フィルタ5では、まずソースとなる画像データの水平方向の画素数と出力すべきNTSCまたはPALの水平方向の画素数の比率に応じて、0データ内挿によるオーバーサンプリングを行う。次に、次段のダウンサンプリングの際に生ずる折り返し歪みを防ぐためのフィルタリングを行う。最後に、出力すべき水平方向の画素数に応じた周波数でデータを間引くダウンサンプリングを行い、結果として画面の水平方向の周波数がNTSCまたはPALのそれに合致したレートのRGBデータを出力する。
【0018】
メモリ6は、水平方向画角変換フィルタ5の出力を入力とし、1ラインまたは1フィールド分のデータを記憶し、現在のデータに対して1ラインまたは1フィールド遅れのRGBデータを出力する。垂直方向画角変換フィルタ7は、水平方向画角変換フィルタ5の出力およびメモリ6の出力を入力とし、ソースとなる画像データの垂直方向の画素数と出力すべきNTSCまたはPALの垂直方向の画素数の比率に応じて、画面の垂直方向のサンプリング周波数変換を行い、画角変換回路4の出力データとしてNTSCまたはPALの画素数に合致したレートのRGBデータを出力する。
【0019】
【発明が解決しようとする課題】
図11に示した従来の画像切り換え再生装置は、デジタル画像(画像データソース)及びアナログ映像(NTSC信号やPAL信号)を切り換え選択し、いずれか一方を出力するものである。このため、デジタル画像が各画素ごとに透明度を指定しているデータであっても、意図された透明度を反映しつつ、デジタル画像とアナログ映像とを合成することはできないという問題があった。
【0020】
この発明は上記のような問題点を解決するためになされたもので、アナログ映像信号の画素数とは異なる画素数で構成され、画素毎に透明度が指定されたデジタル画像を、意図された画素の透明度を反映してアナログ映像信号と合成する画像合成装置を提供することを目的とする。
【0021】
【課題を解決するための手段】
本発明に係る画像合成装置は、各画素の色データ及び各画素の透明度を表すαデータからなるデジタル画像と入力アナログ映像信号とを合成し、出力アナログ映像信号を生成する画像合成装置にであって、色データに対し画角変換を行い、水平方向の画素数を入力アナログ映像信号と一致させる水平方向画角変換手段と、αデータに対し水平方向のデータレート変換を行い、画角変換後の色データに対応させる水平方向データレート変換手段と、上記αデータの変化量に基づいて当該αデータの水平方向の高周波成分を検出する水平エッジ検出手段と、該水平エッジ検出手段の検出結果に基づいて、上記水平方向データレート変換手段における水平方向のデータレート変換後のαデータの高周波成分を再生して出力する水平エッジ再生手段と、画角変換後の色データを輝度・色差信号に変換する画素情報変換手段と、上記水平エッジ再生手段の出力に対応するαデータに基づいて、画素情報変換後の色データ及び入力アナログ映像信号の輝度・色差信号を合成する画像合成手段とを備えて構成される。
【0050】
【発明の実施の形態】
以下、この発明をその実施の形態を示す図面に基づいて具体的に説明する。
実施の形態1.
図1はこの発明の実施の形態1である画像合成装置の一構成例を示したブロック図である。図1において、1はソースとなる画像データを入力し記憶するソースデータ格納メモリ、2はソースデータ格納メモリ1の入出力を制御するメモリコントローラ、10はソースデータ格納メモリ1から出力される画素データから画素の透明度を表すαデータを分離し、透明画素を指定する信号(透明指定信号)に応じてαデータを加工して出力するデータ分離回路である。
【0051】
3はソースデータ格納メモリ1に記憶されている画素データが色のデータを指定するアドレスである場合に、このアドレスを入力とし、指定されたアドレスに応じてRGBデータを出力する色データLUT、11は色データLUT3の出力およびソースデータ格納メモリ1に記憶されている画素データが色のデータである場合にデータ分離回路10から出力される画素の色データを入力とし、ソースデータ格納メモリ1に格納されたソースデータのフォーマットに応じて出力すべき画素のRGBデータを選択して出力するデータ切り換え回路である。
【0052】
5はデータ切り換え回路11の出力を入力とし、RGBデータに対して画面の水平方向の画角変換を行う水平方向画角変換フィルタ、6は水平方向画角変換フィルタ5の出力を入力とし、画面の1ラインまたは1フィールド分のデータを記憶するメモリ、7はメモリ6の出力と水平方向画角変換フィルタ5の出力を入力とし、画面の垂直方向の画角変換を行う垂直方向画角変換フィルタ、8は垂直方向画角変換フィルタ7の出力を入力とし、入力されるRGBデータから輝度データおよび色差データを生成する輝度・色差信号生成マトリクスである。
【0053】
12はデータ分離回路10の出力のうち分離された画素のαデータを入力とし、この入力データがNTSCまたはPALに画角変換された後の画像と対応するように、画面の水平方向のデータレート変換を行うαデータ水平方向変換フィルタ、13はαデータ水平方向変換フィルタ12の出力を入力とし、画面の1ラインまたは1フィールド分のαデータを記憶するαメモリ、14はαデータ水平方向変換フィルタ12の出力とαメモリ13の出力を入力とし、αデータがNTSCまたはPALに画角変換された後の画像と対応するように、画面の垂直方向のデータレート変換を行うαデータ垂直方向変換フィルタ、15はαデータ垂直方向変換フィルタ14の出力を入力とし、NTSCまたはPALのデータレートに変換された画素の輝度データおよび色差データとのタイミングを調整する遅延回路である。
【0054】
16は遅延回路15の出力を入力とし、ソースデータ格納メモリ1に格納された画像データのデータフォーマットに応じて、入力データそのものまたはこの入力データをしきい値によって2値化したデータを出力する透明・半透明切り換え回路、17は輝度・色差信号生成マトリクス8の出力と透明・半透明切り換え回路16の出力およびNTSC信号またはPAL信号を生成するよう外部から入力されたVideoデータを入力とし、これらのデータをもとに、出力すべき画素の輝度および色差データを計算して出力するαブレンディング回路である。
【0055】
次に動作について説明する。ソースデータ格納メモリ1には、NTSCまたはPALとは画素数の異なる画像データ、例えば640×480画素の正方画素で1フレームを構成する画像データなどが格納されている。
【0056】
画像データの透明度はαデータにより表される。画素の透明度とは、完全な透明と完全な不透明からなる2値データで表される場合や、完全な透明及び完全な不透明以外にこれらの中間に存在する段階的な半透明をも含めて表されるデータの場合がある。
【0057】
画素データは、例えば、図14に示したようなRGBデータを指定する8ビットのアドレスと画素の透明度を表す8ビットのαデータで表現されているデータ(α付きCLUT8データ)、または、図15に示したようなRed(赤)、Green(緑)、Blue(青)の各色データがそれぞれ5ビットと画素の透明度を2値で表すαデータが1ビットの計16ビットで表現されているデータ(α付きRGBデータ)等のように、画素毎に透明度が表されているデータである。もしくは、図12、12に示したような、画素毎の透明度を特に指定していないデータでもよい。
【0058】
8ビットで表現されるαデータは、256段階の透明度を表し、例えば値が0の時は完全な透明色、値が255の時は完全な不透明色を表現する。ここで言う完全な透明色とは、ソースデータの画像と外部から入力されるVideoデータの画像を画素毎に混合する際、その画素の出力データが外部から入力されるVideoデータのみとなり、ソースデータの画像がまったく出力されない状態を指す。また、完全な不透明色とは、ソースデータの画像と外部から入力されるVideoデータの画像を画素毎に混合する際、その画素の出力データがソースデータの画像のみとなり、外部から入力されるVideoデータがまったく出力されない状態を指す。αデータが完全な透明または完全な不透明を示す値以外の場合は、このαデータの値によってソースデータの画像と外部から入力されるVideoデータの画像の混合比が指定される。
【0059】
尚、8ビットのαデータのうちの1ビットを完全透明色のフラグとして使用し、このフラグがイネーブルの場合には残りの7ビットにかかわらず完全な透明色、ディスエーブルの場合には残りの7ビットで128段階のαデータを指定するようにしてもよい。さらに、1ビットのフラグを、完全な不透明色を指定するためのフラグとして使用してもよい。
【0060】
ソースデータ格納メモリ1の読み出しタイミングは、メモリコントローラ2で制御されており、画像合成装置の出力であるNTSCまたはPALのデータが途切れないよう、読み出しタイミングをコントロールしている。
【0061】
データ分離回路10は、ソースデータ格納メモリ1の出力を入力とし、画素データをαデータと色を表すデータを示す部分に分離する。例えば、画素データがα付きCLUT8データであれば8ビットのαデータ部分と8ビットのアドレス部分とに分離し、α付きRBGデータであれば1ビットのαデータ部分と15ビットのRBGデータ部分とに分離する。但し、画素データが、CLUT8データ、RGB555データの様に、画素毎の透明度が指定されていない場合は、αデータ出力として固定値を出力する。なお、画素の色を表すデータとは、画素の色データ(RGBデータ)または画素の色を指定するアドレスであり、ソースデータのフォーマットによって異なる。
【0062】
また、データ分離回路10は、αデータの値を透明指定信号に応じて加工するαデータ変換手段として機能を備えていてもよい。例えば、画素の色を表すデータが透明指定信号により指定される特定のデータ(キーデータ)であれば、その画素のαデータを加工して出力する。この加工には、αデータの固定値(例えば完全透明を表す値)への置き換え、色指定信号により指定された値への置き換え、αデータに対する色指定信号に基づく演算などがある。
【0063】
図2は、データ分離回路10の動作の一例を示したフローチャートである。まず、入力された画素データがα付きのデータである場合には、色を表すデータとαデータに分離する(ステップS200、S201)。一方、α付きのデータでない場合には、αデータを固定値とする(ステップS200、S202)。
次に、色指定信号による加工を行うか否かを判断する(ステップS203)。この加工を行うか否かは予め設定され、あるいは、画像データごとに制御されている。加工を行う場合には、分離された色データと色指定信号のキーデータとを比較する(ステップS204)。両者が一致すれば、αデータに所定の置き換えまたは演算を行って出力する(ステップS205)。一方、加工を行わない場合には、ステップS201またはステップS202により求められたαデータが出力される。
【0064】
色データLUT3はデータ分離回路10の出力のうち、画素の色を指定するアドレスデータを入力とし、指定されたアドレスに対応するRGBデータを出力する。データ切り換え回路11は、データ分離回路10の出力のうち画素の色を示すデータ出力および色データLUT3の出力を入力とし、ソースデータ格納メモリ1に記憶されているソースデータの種類を示すフォーマット識別信号に応じて、入力信号のいずれか一方をRGBデータとして出力する。つまり、ソースデータがα付きCLUT8データまたはCLUT8データの場合には色データLUT3の出力データを、ソースデータがα付きRGB555データまたはRGB555データの場合にはデータ分離回路10の出力データをそれぞれ選択して出力する。
【0065】
このとき、データ切り換え回路11から出力されるRGBデータは、ソースデータ格納メモリ1に記憶されている画素の色データであり、最終的に必要となるNTSCまたはPALの画素数とは異なる画素数で構成されているため、ここでの画面の水平方向および垂直方向のサンプリング周波数はNTSCまたはPALのそれとは異なっている。
【0066】
水平方向画角変換フィルタ5では、データ切り換え回路11から出力されるRGBデータを入力とし、まずソースとなる画像データの水平方向の画素数と出力すべきNTSCまたはPALの水平方向の画素数の比率に応じて、0データ内挿によるオーバーサンプリングを行う。次に、次段のダウンサンプリングの際に生ずる折り返し歪みを防ぐためのフィルタリングを行う。最後に、出力すべき水平方向の画素数に応じた周波数でデータを間引くダウンサンプリングを行い、結果として画面の水平方向の周波数がNTSCまたはPALのそれに合致したレートのRGBデータを出力する。
【0067】
メモリ6は、水平方向画角変換フィルタ5の出力を入力とし、1ラインまたは1フィールド分のデータを記憶し、現在のデータに対して1ラインまたは1フィールド遅れのRGBデータを出力する。垂直方向画角変換フィルタ7は、水平方向画角変換フィルタ5の出力およびメモリ6の出力を入力とし、ソースとなる画像データの垂直方向の画素数と出力すべきNTSCまたはPALの垂直方向の画素数の比率に応じて、画面の垂直方向のサンプリング周波数変換を行い、NTSCまたはPALの画素数に合致したレートのRGBデータを出力する。従って、水平方向画角変換フィルタ5、メモリ6および垂直方向画角変換フィルタ7によって、全てのソースデータが画像の真円率を保ちながら画角変換されるため、ソースデータにおけるフレームの上下または左右の一部が画面として欠落することはない。
【0068】
垂直方向画角変換フィルタ7の出力は輝度・色差信号生成マトリクス8に入力される。輝度・色差信号生成マトリクス8では、RGBデータから画素の輝度データおよび色差データが生成され、輝度データは1画素毎に1つのデータが、色差信号については2画素毎に1つのデータが出力されるようフィルタリングされたデータがそれぞれ出力される。
【0069】
αデータ水平方向変換フィルタ12は、データ分離回路10の出力のうち画素のαデータ出力を入力とし、この入力データがNTSCまたはPALに画角変換された後の画像と対応するように、画面の水平方向のデータレート変換を行う。この場合、まずソースとなる画像データの水平方向の画素数と出力すべきNTSCまたはPALの水平方向の画素数の比率に応じて、0データ内挿によるオーバーサンプリングを行う。次に、次段のダウンサンプリングの際に生ずる折り返し歪みを防ぐためのフィルタリングを行う。最後に、出力すべき水平方向の画素数に応じた周波数でデータを間引くダウンサンプリングを行い、結果として画面の水平方向の周波数がNTSCまたはPALのそれに合致したレートのαデータを出力する。
【0070】
αメモリ13はαデータ水平方向変換フィルタ12の出力を入力とし、画面の1ラインまたは1フィールド分のαデータを記憶し、現在のαデータに対して1ラインまたは1フィールド遅れのαデータを出力する。
【0071】
αデータ垂直方向変換フィルタ14はαデータ水平方向変換フィルタ12の出力とαメモリ13の出力を入力とし、αデータがNTSCまたはPALに画角変換された後の画像と対応するように、画面の垂直方向のデータレート変換を行う。αデータ垂直方向変換フィルタ14の出力は、遅延回路15で遅延調整され、透明・半透明切り換え回路16に入力される。
【0072】
透明・半透明切り換え回路16では、ソースデータ格納メモリ1に格納された画像データのデータフォーマットに応じて、入力データそのものまたはこの入力データをしきい値によって2値化したデータを出力する。ここでは、ソースデータがα付きRGB555データの場合には2値化されたデータが、それ以外のデータの場合には遅延回路15の出力がそのまま出力される。
【0073】
ソースデータがα付きRGB555データの場合、データ分離回路10から出力されるαデータの値は完全な透明色または完全な不透明色のどちらかを表しているため、本来出力する画面には半透明な画素はあってはならない。しかし、遅延回路15の出力のαデータは、水平・垂直方向にフィルタリングされたデータであるため、データの高周波数成分が減衰しており、結果として半透明を表すαデータが存在している。従って、出力画面の画素を完全な透明色または完全な不透明色のいずれかに指定しなおすために、入力データをしきい値によって2値化したデータを出力する。
【0074】
αブレンディング回路17は輝度・色差信号生成マトリクス8の出力と透明・半透明切り換え回路16の出力およびNTSC信号またはPAL信号を生成するよう外部から入力されたVideoデータを入力とし、これらのデータをもとに、出力すべき画素の輝度および色差データを計算して出力する。但し、この時の各入力信号は出力画面上の同一の画素データを表すよう遅延調整されている。αブレンディング回路17から出力されるデータは、式(2)のようにして計算される。
【0075】
OUT=α×G+(1−α)×V (2)
【0076】
式(2)において、αはαデータ、Gはソースデータを画角変換し、輝度・色差データに変換したデータ、Vは外部から入力されるVideoデータで、OUTは出力データである。
【0077】
αブレンディング回路17の出力データは、ソースデータと外部から入力されるVideoデータとをブレンディングしたNTSCまたはPALの輝度データおよび色差データで、例えばこれらを時間的に多重した後、タイミング・リファレンス信号を多重すればITU−R.656規格で規格化されたNTSCまたはPALのディジタル画像データとなる。
【0078】
以上のように、出力画面の画素数とは異なる画素数のソースデータから画素毎に設定されたαデータを分離し、画角変換した画素の輝度および色差データに対応するようにαデータに対して画面の水平および垂直方向のサンプリング周波数変換を行う回路を付加しているので、ソースデータで意図された画素毎の透明度を出力画面に反映することができる。
【0079】
また、入力されるフォーマット識別信号に応じて、αデータをしきい値によって2値化し出力するかそのまま出力するかを選択する回路を付加したので、α付きRGB555データのように画素の完全な透明または完全な不透明のいずれかのみを指定するデータソースに対しても、ソースデータで意図された画素毎の透明度を出力画面に反映することができる。
【0080】
実施の形態2.
以上の実施の形態1では、αデータ水平方向変換フィルタ12、αメモリ13およびαデータ垂直方向変換フィルタ14により、αデータの水平および垂直方向のサンプリング周波数変換を行うようにしたものであるが、次にこれらの変換フィルタによって減衰したαデータの水平および垂直方向の高周波数成分を再生して、出力画像に反映させるようにする実施の形態を示す。
【0081】
図3はこの発明の実施の形態2である画像合成装置の一構成例を示したブロック図である。図3において、1〜3、5〜8および10〜17は、図1に示したものと同様である。18はデータ分離回路10の出力のうち分離された画素のαデータを入力とし、入力されたデータの水平方向の高周波数成分を検出する水平エッジ検出回路、19はαデータ水平方向変換フィルタ12で減衰したαデータの水平方向の高周波数成分を、水平エッジ検出回路18の出力にしたがってαデータ水平方向変換フィルタ12の出力に付加し出力するαデータ水平エッジ再生回路である。
【0082】
また、20はαデータ水平エッジ再生回路19の出力とαメモリ13の出力を入力とし、αデータにおける画面の垂直方向の高周波数成分を検出する垂直エッジ検出回路、21はαデータ垂直方向変換フィルタ14で減衰したαデータの垂直方向の高周波数成分を、垂直エッジ検出回路20の出力にしたがってαデータ垂直方向変換フィルタ14の出力に付加し出力するαデータ垂直エッジ再生回路である。
【0083】
図4は図3の水平エッジ検出回路18およびαデータ水平エッジ再生回路19の一構成例を示したブロック図である。図4において、40はデータ分離回路10の出力を入力とする差分信号生成回路、41は差分信号生成回路40の出力を入力とする絶対値信号生成回路、42は絶対信号生成回路41の出力を入力とする比較回路、43は比較回路42の出力を入力とする多段シフトレジスタ、44は多段シフトレジスタ43の出力を入力とする多入力OR回路、45は差分信号生成回路40の出力を入力とする符号抽出回路、46は符号抽出回路45および比較回路42の出力を入力とする水平エッジ符号判定回路、47は水平エッジ符号判定回路46の出力を入力とするデータホールド回路である。
【0084】
また、48はαデータ水平方向変換フィルタ12の出力を入力とするαデータ多段シフトレジスタ、49はαデータ多段シフトレジスタ48の出力を入力とする最大値出力回路、50はαデータ多段シフトレジスタ48の出力を入力とする最小値出力回路、51はαデータ水平方向変換フィルタ12の出力を入力とする遅延調整回路、52は多入力OR回路44、データホールド回路47、最大値出力回路49、最小値出力回路50および遅延調整回路51の出力を入力とするαデータ出力選択回路である。
【0085】
図5は、図3の垂直エッジ検出回路20およびαデータ垂直エッジ再生回路21の一構成例を示したブロック図である。
図5において、53はαメモリ13およびαデータ水平エッジ再生回路19の出力を入力とする差分信号生成回路、54は差分信号生成回路53の出力を入力とする絶対値信号生成回路、55は絶対信号生成回路54の出力を入力とする比較回路、56は比較回路55の出力を入力とする多段シフトレジスタ、57は多段シフトレジスタ56の出力を入力とする多入力OR回路、58は差分信号生成回路53の出力を入力とする符号抽出回路、59は符号抽出回路58および比較回路55の出力を入力とする垂直エッジ符号判定回路、60は垂直エッジ符号判定回路59の出力を入力とするデータホールド回路である。
【0086】
また、61はαデータ垂直方向変換フィルタ14の出力を入力とするαデータ多段シフトレジスタ、62はαデータ多段シフトレジスタ61の出力を入力とする最大値出力回路、63はαデータ多段シフトレジスタ61の出力を入力とする最小値出力回路、64はαデータ垂直方向変換フィルタ14の出力を入力とする遅延調整回路、65は多入力OR回路57、データホールド回路60、最大値出力回路62、最小値出力回路63および遅延調整回路64の出力を入力とするαデータ出力選択回路である。
【0087】
次に動作について説明する。水平エッジ検出回路18はデータ分離回路10から出力されるαデータの水平方向の高周波数成分を検出し、検出結果をαデータ水平エッジ再生回路19に出力する。αデータ水平エッジ再生回路19では、水平エッジ検出回路18から入力されたデータをもとに、αデータ水平方向変換フィルタ12の出力に水平方向の高周波数成分を付加して出力する。
【0088】
αメモリ13は、αデータ水平エッジ再生回路19の出力を入力とし、画面の1ラインまたは1フィールド分のαデータを記憶し、現在のαデータに対して1ラインまたは1フィールド遅れのαデータを出力する。αデータ垂直方向変換フィルタ14では、αデータ水平エッジ再生回路19の出力とαメモリ13の出力をもとに、αデータがNTSCまたはPALに画角変換された後の画像と対応するように、画面の垂直方向のデータレート変換を行う。
【0089】
垂直エッジ検出回路20では、αデータ水平エッジ再生回路19の出力とαメモリ13の出力データから画面の垂直方向の高周波数成分を検出し、検出結果をαデータ垂直エッジ再生回路21に出力する。αデータ垂直エッジ再生回路21では、垂直エッジ検出回路20から入力されたデータをもとに、αデータ垂直方向変換フィルタ14の出力に垂直方向の高周波数成分を付加して出力する。遅延回路15はαデータ垂直エッジ再生回路21の出力を入力とし、NTSCまたはPALのデータレートに変換された画素の輝度データおよび色差データとのタイミングを調整する。
【0090】
次に、図4に示した水平エッジ検出回路18およびαデータ水平エッジ再生回路19の動作を説明する。
差分信号生成回路40では、データ分離回路10から出力されるαデータから、画面の水平方向に隣接する画素のαデータ間の差分を求めて出力する。絶対値信号生成回路41では、差分信号生成回路40から出力された差分データの絶対値を求めて出力する。
【0091】
絶対値信号生成回路41の出力信号は比較回路42に入力され、あらかじめ定められたスレッショルド値(閾値)と比較され、その大小を2値信号として出力する。比較回路42の出力は、データ分離回路10から出力されるαデータの水平エッジ部分を示す2値データ(以下、「水平エッジ識別信号」とする)となる。また、スレッショルド値を変えることによって、検出可能な水平エッジの周波数を変えることができる。
【0092】
多段シフトレジスタ43では、比較回路42の出力を入力とし、1段遅れの信号からN段遅れの信号までを出力する。このとき、多段シフトレジスタ43からは、画面の水平方向に隣接するN個の画素分のデータが出力される。多段シフトレジスタ43の出力は多入力OR回路44に入力され、その論理和が出力される。多入力OR回路44の出力は、水平方向に隣接するN個の画素の中に水平方向のエッジが存在することを表す。
【0093】
符号抽出回路45は、差分信号生成回路40の出力の符号を検出し、遅延調整した後2値データとして出力する。水平エッジ符号判定回路46は、比較回路42および符号抽出回路45の出力をもとに、水平エッジ識別信号として検出されたαデータの水平方向のエッジが、小さい値から大きい値に変化する水平エッジであるか大きい値から小さい値に変化する水平エッジであるかを判定する。
【0094】
水平エッジ符号判定回路46の出力はデータホールド回路47に入力され、多段シフトレジスタ43の段数分に相当する期間データをホールドして出力する。多入力OR回路44およびデータホールド回路47の出力は、水平エッジ検出回路18の出力としてαデータ水平エッジ再生回路19に出力される。
【0095】
一方、αデータ多段シフトレジスタ48はαデータ水平方向変換フィルタ12の出力を入力とし、1段遅れの信号からN段遅れの信号までを出力する。このとき、αデータ多段シフトレジスタ48からは、画面の水平方向に隣接するN個の画素分のαデータが出力される。αデータ多段シフトレジスタ48の出力データは最大値出力回路49および最小値出力回路50に入力される。最大値出力回路49では入力されるN個のαデータのうち最大値を検出して出力する。最小値出力回路50では入力されるN個のαデータのうち最小値を検出して出力する。遅延調整回路51は、αデータ水平方向変換フィルタ12の出力を入力とし、αデータの遅延調整をする。
【0096】
αデータ出力選択回路52は、水平エッジ検出回路18の出力である多入力OR回路44およびデータホールド回路47の出力と、最大値出力回路49、最小値出力回路50および遅延調整回路51の出力を入力とし、水平エッジ検出回路18の出力に応じて遅延調整回路51、最大値出力回路49、最小値出力回路50のうちのいずれかを選択して出力する。
【0097】
つまり、多入力OR回路44の出力が現在のαデータ近傍に水平エッジが存在することを示し、かつデータホールド回路47の出力がその水平エッジが小さい値から大きい値に変化する水平エッジであることを示す場合には最大値出力回路49の出力を選択して出力する。また、多入力OR回路44の出力が現在のαデータ近傍に水平エッジが存在することを示し、かつデータホールド回路47の出力がその水平エッジが大きい値から小さい値に変化する水平エッジであることを示す場合には最小値出力回路50の出力を選択して出力する。また、多入力OR回路44の出力が現在のαデータ近傍に水平エッジが存在しないことを示す場合には遅延調整回路51の出力を選択して出力する。
【0098】
したがって、αデータ水平エッジ再生回路19の出力であるαデータ出力選択回路52の出力には、αデータ水平方向変換フィルタ12で減衰した水平方向の高周波数成分が再生され、付加されて出力される。
【0099】
次に、図5に示した垂直エッジ検出回路20およびαデータ垂直エッジ再生回路21の動作を説明する。
差分信号生成回路53では、αメモリ13およびαデータ水平エッジ再生回路19から出力されるデータから、画面の垂直方向に隣接する画素のαデータ間の差分を求めて出力する。絶対値信号生成回路54では、差分信号生成回路53から出力された差分データの絶対値を求めて出力する。
【0100】
絶対値信号生成回路54の出力信号は比較回路55に入力され、あらかじめ定められたスレッショルド値と比較され、その大小を2値信号として出力する。比較回路55の出力は、αデータ水平エッジ再生回路19から出力されるαデータの垂直エッジ部分を示す2値データ(以下、「垂直エッジ識別信号」とする)となる。また、スレッショルド値を変えることによって、検出可能な垂直エッジの周波数を変えることができる。
【0101】
多段シフトレジスタ56では、比較回路55の出力を入力とし、1段遅れの信号からM段遅れの信号までを出力する。このとき、多段シフトレジスタ56からは、画面の垂直方向に隣接するM個の画素分のデータが出力される。多段シフトレジスタ56の出力は多入力OR回路57に入力され、その論理和が出力される。多入力OR回路57の出力は、垂直方向に隣接するM個の画素の中に垂直方向のエッジが存在することを表す。
【0102】
符号抽出回路58は、差分信号生成回路53の出力の符号を検出し、遅延調整した後2値データとして出力する。垂直エッジ符号判定回路59は、比較回路55および符号抽出回路58の出力をもとに、垂直エッジ識別信号として検出されたαデータの垂直方向のエッジが、小さい値から大きい値に変化する垂直エッジであるか大きい値から小さい値に変化する垂直エッジであるかを判定する。
【0103】
垂直エッジ符号判定回路59の出力はデータホールド回路60に入力され、多段シフトレジスタ56の段数分に相当する期間データをホールドして出力する。多入力OR回路57およびデータホールド回路60の出力は、垂直エッジ検出回路20の出力としてαデータ垂直エッジ再生回路21に出力される。αデータ多段シフトレジスタ61はαデータ垂直方向変換フィルタ14の出力を入力とし、1段遅れの信号からM段遅れの信号までを出力する。このとき、αデータ多段シフトレジスタ61からは、画面の垂直方向に隣接するM個の画素分のαデータが出力される。
【0104】
αデータ多段シフトレジスタ61の出力データは最大値出力回路62および最小値出力回路63に入力される。最大値出力回路62では入力されるM個のαデータのうち最大値を検出して出力する。最小値出力回路63では入力されるM個のαデータのうち最小値を検出して出力する。遅延調整回路64は、αデータ垂直方向変換フィルタ14の出力を入力とし、αデータの遅延調整をする。
【0105】
αデータ出力選択回路65は、垂直エッジ検出回路20の出力である多入力OR回路57およびデータホールド回路60の出力と、最大値出力回路62、最小値出力回路63および遅延調整回路64の出力を入力とし、垂直エッジ検出回路20の出力に応じて遅延調整回路64、最大値出力回路62、最小値出力回路63のうちのいずれかを選択して出力する。
【0106】
つまり、多入力OR回路57の出力が現在のαデータ近傍に垂直エッジが存在することを示し、かつデータホールド回路60の出力がその垂直エッジが小さい値から大きい値に変化する垂直エッジであることを示す場合には最大値出力回路62の出力を選択して出力する。また、多入力OR回路57の出力が現在のαデータ近傍に垂直エッジが存在することを示し、かつデータホールド回路60の出力がその垂直エッジが大きい値から小さい値に変化する垂直エッジであることを示す場合には最小値出力回路63の出力を選択して出力する。また、多入力OR回路57の出力が現在のαデータ近傍に垂直エッジが存在しないことを示す場合には遅延調整回路64の出力を選択して出力する。
【0107】
したがって、αデータ垂直エッジ再生回路21の出力であるαデータ出力選択回路65の出力には、αデータ垂直方向変換フィルタ14で減衰した垂直方向の高周波数成分が再生され、付加されて出力される。
【0108】
αブレンディング回路17の出力データは、ソースデータと外部から入力されるVideoデータとをブレンディングしたNTSCまたはPALの輝度データおよび色差データであり、αデータの水平および垂直方向の高周波数成分が出力に反映された画像データである。
【0109】
以上のように、αデータに対して画面の水平方向の高周波数成分を再生する回路および垂直方向の高周波数成分を再生する回路を付加したので、αデータの水平および垂直方向のデータレート変換で生じる水平および垂直方向の高周波数成分の減衰を補償し、ソースデータで意図された画素毎の透明度を出力画面に反映することができる。
【0110】
実施の形態3.
実施の形態1、2では、画面の水平・垂直方向のサンプリング周波数変換によって画角変換を行う画像合成装置において、画素毎に指定してあるαデータを再生画像に反映させるべく、αデータに対しても水平・垂直方向のサンプリング周波数変換を行うよう構成されたものである。次に、画面の水平方向の画角変換を、隣接画素の補間データ生成とそれに対応した画素データの読み出しタイミング制御を用いて実現する画像合成装置において、画素毎に指定してあるαデータを再生画像に反映させることが可能な実施の形態を示す。
【0111】
図6はこの発明の実施の形態3である画像合成装置の一構成例を示したブロック図である。図6において、1〜3、6〜8、10、11および13〜21は、実施の形態2で示したものと同様である。22はNTSCまたはPALの水平同期信号をもとに、メモリコントローラ2を制御する水平読み出し制御信号生成回路、23はNTSCまたはPALの水平同期信号をもとに、画面水平方向の画素間の補間回路における補間係数を制御する水平方向補間係数コントローラである。
【0112】
また、24はデータ切り換え回路11の出力を入力とする遅延部、25は水平方向補間係数コントローラ23、データ切り換え回路11および遅延部24の出力を入力とする水平方向補間回路、26はデータ分離回路10の出力のうちαデータを入力とする遅延部、27は水平方向補間係数コントローラ23、データ分離回路10から出力されるαデータおよび遅延部26の出力を入力とするαデータ水平方向補間回路である。
【0113】
次に動作について説明する。2つの隣接する画素から補間データを計算することによって水平方向の画角変換を行う場合、入力される画素データは補間係数の変化と厳密に対応して入力されなければならない。また、水平方向の補間係数はNTSCまたはPALの水平同期信号を基準に画面の位置にしたがって変化する。
【0114】
従って、水平読み出し制御信号生成回路22では、NTSCまたはPALの水平同期信号をもとに、ソースデータ格納メモリ1に格納されたデータの画面水平方向の読み出しタイミングをコントロールするための信号を生成しメモリコントローラ2に出力する。メモリコントローラ2では、この制御信号に従ってソースデータ格納メモリ1のデータを読み出す。
【0115】
水平方向補間係数コントローラ23は、NTSCまたはPALの水平同期信号をもとに、画面の水平方向に隣接する画素間の補間係数を制御するための信号を生成する。水平読み出し制御信号生成回路22の出力と水平方向補間係数コントローラ23の出力は、水平方向の画角変換を実現するために厳密に対応している。
【0116】
遅延部24は、データ切り換え回路11の出力を入力とし、入力される画素のRGBデータに対して水平方向に1画素分の遅延を与える。水平方向補間回路25は、水平方向補間係数コントローラ23から出力される制御信号をもとに、データ切り換え回路11の出力データと遅延部24の出力データの補間データを計算して出力する。この時の補間係数は、水平方向の画角変換の変換率と水平方向の画面上の位置に依存して変化する。水平方向補間回路26の出力はメモリ6および垂直方向画角変換フィルタ7に出力され、画面の垂直方向の画角変換が行われる。
【0117】
遅延部26は、データ分離回路10から出力されるαデータを入力とし、水平方向に1画素分の遅延を与える。αデータ水平方向補間回路27は、水平方向補間係数コントローラ23から出力される制御信号をもとに、データ分離回路10から出力されるαデータと遅延部26の出力データの補間データを計算して出力する。この時の補間係数は、RGBデータの補間係数と同様に変化する。αデータ水平方向補間回路27の出力は水平方向に画角変換されたαデータとしてαデータ水平エッジ再生回路19に出力される。
【0118】
以上のように、水平方向の画角変換の際に用いる補間係数を使ってαデータの水平方向のデータレート変換を行うよう構成したので、隣接画素の補間によって画面の水平方向の画角変換を行う画像合成装置に対しても、ソースデータで意図された画素毎の透明度を出力画面に反映することができる。
【0119】
実施の形態4.
また、実施の形態3では、αデータの水平方向のレート変換を、水平方向の補間回路とエッジ検出回路・エッジ再生回路によって実現したが、これをαデータの水平方向の選択回路により実現する実施の形態を示す。
【0120】
図7はこの発明の実施の形態4である画像合成装置の一構成例を示したブロック図である。図7において、1〜3、6〜8、10、11、13〜17および20〜26は、実施の形態3で示したものと同様である。28は水平方向補間係数コントローラ23の出力を入力とする水平補間係数重み判別回路、29は水平補間係数重み判別回路28、データ分離回路10から出力されるαデータおよび遅延部26の出力を入力とするαデータ水平方向選択回路である。
【0121】
次に動作について説明する。水平補間係数重み判別回路28は、水平方向補間係数コントローラ23から出力される信号をもとに現在の補間係数の重みを判別し、2値データとして出力する。つまり、補間係数の制御信号をもとに、補間値として計算されるαデータの大きさが入力される2つのαデータのうちどちらの値に近いかを判断し、その結果を2値データとして出力する。
【0122】
αデータ水平方向選択回路29は、水平補間係数重み判別回路28から出力される2値データをもとに、入力される2つの隣接画素のαデータのうちいずれか一方を選択して出力する。αデータ水平方向選択回路29の出力は、画面の水平方向にレート変換されたαデータとして、αメモリ13、αデータ垂直方向変換フィルタ14および垂直エッジ検出回路20に出力される。
【0123】
以上のように、RGBデータの水平方向の画角変換で用いる補間係数の重みを判別し、その大きさによって隣接画素のαデータを切り換えて出力するように構成したため、簡単な回路構成でαデータの水平方向のレート変換を実現することができる。
【0124】
また、RGBデータの画角変換で用いる補間係数の重みを判別し、その大きさによって隣接画素のαデータを切り換えて出力するように構成したため、αデータの水平方向のデータレート変換で生じる高周波数成分の減衰を抑えることができ、水平エッジ再生のための回路を付加することなくデータレート変換を行うことができる。
【0125】
実施の形態5.
以上の実施の形態では、画面の垂直方向の画角変換に関しサンプリング周波数変換を用いる画像合成装置において、画素毎に指定してあるαデータを再生画像に反映させるべく、αデータに対しても垂直方向のサンプリング周波数変換を行うよう構成されたものであるが、次に、画面の垂直方向の画角変換を、1フレーム内で垂直方向に隣接する画素間の補間データの生成とそれに対応した画素データの読み出しタイミング制御で実現する画像合成装置において、画素毎に指定してあるαデータを再生画像に反映させることが可能な実施の形態を示す。
【0126】
図8はこの発明の実施の形態5である画像合成装置の一構成例を示したブロック図である。図8において、1〜3、8、10、11、15〜17、20、21、25、28および29は、実施の形態4で示したものと同様のものである。30はNTSCまたはPALの水平同期信号および垂直同期信号をもとに、メモリコントローラ2を制御する水平・垂直読み出し制御信号生成回路、31はNTSCまたはPALの水平同期信号および垂直同期信号をもとに、画面の水平・垂直方向の画素間の補間回路における補間係数を制御する水平・垂直方向補間係数コントローラである。
【0127】
また、32はデータ切り換え回路11の出力を入力とする遅延部、33aは水平方向補間回路25の出力を入力とする遅延部、34aは水平方向補間回路25および遅延部33aの出力を入力とする垂直方向補間回路、35はデータ分離回路10の出力のうちαデータを入力とする遅延部、36はαデータ水平方向選択回路29の出力を入力とする遅延部、37はαデータ水平方向選択回路29および遅延部36の出力を入力とするαデータ垂直方向補間回路である。
【0128】
次に動作について説明する。1フレーム内で垂直方向に隣接する画素から補間データを計算して垂直方向の画角変換を行う場合、入力される画素データは補間係数の変化と厳密に対応して入力されなければならない。これは実施の形態4の水平方向のデータ補間の場合と同様である。また、この時の垂直方向の補間係数はNTSCまたはPALの垂直同期信号を基準に画面の位置にしたがって変化する。
【0129】
水平・垂直読み出し制御信号生成回路30では、 NTSCまたはPALの水平同期信号および垂直同期信号をもとに、ソースデータ格納メモリ1に格納されたデータの画面水平方向の読み出しタイミングおよび垂直方向の読み出しタイミングをコントロールするための信号を生成しメモリコントローラ2に出力する。メモリコントローラ2では、この制御信号に従ってソースデータ格納メモリ1のデータを読み出す。
【0130】
この場合、ソースデータ格納メモリ1から出力される画素データは、現在の画素データとそのデータに対して1フレーム内で垂直方向に隣接している画素データが交互に出力されるように制御される。但し、垂直方向の補間係数によっては、現在の画素データが連続して出力される場合もある。
【0131】
水平・垂直方向補間係数コントローラ31は、NTSCまたはPALの水平同期信号および垂直同期信号をもとに、画面の水平方向および垂直方向に隣接する画素間の補間係数を制御するための信号を生成する。水平・垂直読み出し制御信号生成回路30の出力と水平・垂直方向補間係数コントローラ31の出力は、水平方向および垂直方向の画角変換を実現するために厳密に対応している。
【0132】
遅延部32は、データ切り換え回路11の出力を入力とし、入力される画素のRGBデータに対して水平方向に1画素分の遅延を与え、水平方向補間回路25に出力する。水平方向補間回路25では、水平・垂直方向補間係数コントローラ31から出力される水平方向の補間係数制御信号をもとに、データ切り換え回路11の出力データと遅延部32の出力データの補間データを計算して出力する。
【0133】
遅延部33aは、水平方向補間回路25の出力を遅延し、水平方向補間回路25から出力される画素のRGBデータに対して垂直方向に隣接するRGBデータを出力する。垂直方向補間回路34aは、水平・垂直方向補間係数コントローラ31から出力される垂直方向の補間係数制御信号をもとに、水平方向補間回路25から出力されるRGBデータと遅延部33aから出力されるRGBデータの補間データを計算して出力する。この時の補間係数は、垂直方向の画角変換の変換率と垂直方向の画面上の位置に依存して変化する。
【0134】
遅延部35は、データ分離回路10から出力されるαデータに対して水平方向に1画素分の遅延を与え、αデータ水平方向選択回路29に出力する。水平補間係数重み判別回路28では、水平・垂直方向補間係数コントローラ31から出力される水平方向の補間係数制御信号をもとに現在の補間係数の重みを判別し、2値データとして出力する。つまり、補間係数の制御信号をもとに、補間値として計算されるαデータの大きさが入力される2つのαデータのどちらに近いかを判断し、その結果を2値データとして出力する。
【0135】
遅延部36は、αデータ水平方向選択回路29の出力を遅延し、αデータ水平方向選択回路29から出力される画素のαデータに対して垂直方向に隣接するαデータを出力する。αデータ垂直方向補間回路37は、水平・垂直方向補間係数コントローラ31から出力される垂直方向の補間係数制御信号をもとに、αデータ水平方向選択回路29から出力されるαデータと遅延部36から出力されるαデータの補間データを計算して出力する。この時の補間係数は、垂直方向の画角変換の変換率と垂直方向の画面上の位置に依存して変化する。
【0136】
αデータ垂直方向補間回路37の出力はαデータ垂直エッジ再生回路21に出力され、αデータ水平方向選択回路29および遅延部36の出力をもとに垂直エッジ検出回路20で検出された垂直方向のエッジ検出信号に従って垂直エッジを再生される。
【0137】
以上のように、垂直方向の画角変換の際に用いる補間係数を使ってαデータの垂直方向のデータレート変換を行うよう構成したので、画面の垂直方向の隣接画素の補間によって画面の垂直方向の画角変換を行う画像合成装置に対しても、ソースデータで意図された画素毎の透明度を出力画面に反映することができる。
【0138】
実施の形態6.
実施の形態5では、RGBデータから輝度データおよび色差データを生成する前に、画面の垂直方向の画角変換を行ったが、画面の垂直方向の画角変換を行う前に、RGBデータから輝度データおよび色差データを生成するように構成してもよい。このような構成の実施の形態を以下に示す。
【0139】
図9はこの発明の実施の形態6である画像合成装置の一構成例を示したブロック図である。図9において、1〜3、8、10、11、15〜17、20、21、25、28〜32および35〜37は、実施の形態5で示したものと同様である。但し、輝度・色差信号生成マトリクス8は水平補間回路25の出力を入力とする。33bは輝度・色差信号生成マトリクス8の出力を入力とする遅延部、34bは輝度・色差信号生成マトリクス8および遅延部33bの出力を入力とする垂直方向補間回路である。
【0140】
次に動作について説明する。遅延部33bは、輝度・色差信号生成マトリクス8の出力を遅延し、輝度・色差信号生成マトリクス8から出力される画素の輝度データおよび色差データに対して垂直方向に隣接する輝度データおよび色差データを出力する。但し、輝度データは1つの画素に対して1つのデータ、色差データは2つの画素に対して1つのデータを有するため、色差データのデータレートは輝度データのデータレートの半分となる。
【0141】
垂直方向補間回路34bは、水平・垂直方向補間係数コントローラ31から出力される垂直方向の補間係数制御信号をもとに、輝度・色差信号生成マトリクス8から出力される輝度データおよび色差データと遅延部33bから出力される輝度データおよび色差データの補間データを計算してそれぞれ出力する。この場合、各色差データは輝度データに比べて信号レートが半分となるため、2つの色差データを時間方向に多重し、信号レートを輝度信号と同一にしてからそれぞれの補間データを計算する。この時の補間係数は、垂直方向の画角変換の変換率と垂直方向の画面上の位置に依存して変化する。
【0142】
以上のように、垂直方向の画角変換をRGBデータではなく輝度データと色差データに変換した後で行ったので、RGBデータで画角変換する場合に比べて小規模な回路で垂直方向の画角変換を実現できる。つまり、RGBデータで画角変換する場合は、Red、Green、Blueの各データそれぞれに対して補間回路が必要だったが、輝度データおよび色差データで画角変換する場合は、色差データを時間多重することができるため回路規模をほぼ3分の2に縮小することができる。
【0143】
実施の形態7.
実施の形態6では、αデータの垂直方向のレート変換を、垂直方向の補間回路とエッジ検出回路・エッジ再生回路によって実現したが、これをαデータの垂直方向の選択回路で実現してもよい。このような構成の実施の形態を以下に示す。
【0144】
図10はこの発明の実施の形態7である画像合成装置の一構成例を示したブロック図である。図10において、1〜3、8、10、11、15、17、25、28〜32、33b、34b、35および36は、実施の形態6で示したものと同様のものである。38は水平・垂直方向補間係数コントローラ31の出力のうち、垂直方向の補間係数制御信号を入力とする垂直補間係数重み判別回路、39は垂直補間係数重み判別回路38、αデータ水平方向選択回路29および遅延部36の出力を入力とするαデータ垂直方向選択回路である。
【0145】
次に動作について説明する。垂直補間係数重み判別回路38は、水平・垂直方向補間係数コントローラ31から出力される垂直方向の補間係数の制御信号をもとに現在の補間係数の重みを判別し、2値データとして出力する。つまり、補間係数の制御信号をもとに、補間値として計算されるαデータの大きさが入力される2つのαデータのうちどちらの値に近いかを判断し、その結果を2値データとして出力する。αデータ垂直方向選択回路39は、垂直補間係数重み判別回路38から出力される2値データをもとに、入力される2つの隣接画素のαデータのうちいずれか一方を選択して出力する。αデータ垂直方向選択回路39の出力は、画面の水平・垂直方向にレート変換されたαデータとして、遅延回路15に出力される。
【0146】
以上のように、垂直方向の画角変換で用いる補間係数の重みを判別し、その大きさによって隣接画素のαデータを切り換えて出力するように構成したため、簡単な回路構成でαデータの垂直方向のレート変換を実現することができる。
【0147】
また、垂直方向の画角変換で用いる補間係数の重みを判別し、その大きさによって隣接画素のαデータを切り換えて出力するように構成したため、αデータの垂直方向のデータレート変換で生じる高周波数成分の減衰を抑えることができ、垂直エッジ再生のための回路を付加することなくデータレート変換を行うことができる。
【0148】
【発明の効果】
発明による画像合成装置によれば、デジタル画像の画素数がアナログ映像信号と異なる場合であっても、画素毎に透明度を表すデジタル画像のαデータを反映させてデジタル画像とアナログ映像を合成することができる。
【0149】
また、デジタル画像の水平方向の画素数がアナログ映像信号と異なる場合であっても、画素毎に透明度を表すデジタル画像のαデータを反映させてデジタル画像とアナログ映像を合成することができる。
【0150】
また、デジタル画像の垂直方向の画素数がアナログ映像信号と異なる場合であっても、画素毎に透明度を表すデジタル画像のαデータを反映させてデジタル画像とアナログ映像を合成することができる。
【0151】
また、デジタル画像の水平方向及び垂直方向の画素数がアナログ映像信号と異なる場合であっても、画素毎に透明度を表すデジタル画像のαデータを反映させてデジタル画像とアナログ映像を合成することができる。
【0152】
また、色データに対するよりも輝度・色差信号に対し垂直方向の画角変換を行う方が容易な場合においては、垂直方向の画角変換後に画素情報変換を行う装置に比べ、小規模な回路で垂直方向の画角変換を行うことができる。
【0153】
また、色データに対するよりも輝度・色差信号に対し垂直方向の画角変換を行う方が容易な場合においては、水平方向及び垂直方向の画角変換後に画素情報変換を行う装置に比べ、小規模な回路で垂直方向の画角変換を行うことができる。
【0154】
また、水平方向データレート変換手段において減衰したαデータの高周波数成分を補償し、透明度が急激に変化する場合であっても、αデータを反映させてデジタル画像とアナログ映像を合成することができる。
【0155】
また、簡単な回路により、αデータに含まれる水平方向の高周波成分の有無とその増減変化の方向を検出することができる。
【0156】
また、簡単な回路により、水平方向データレート変換手段において減衰し、水平エッジ検出手段により検出されたαデータの高周波数成分を補償することができる。
【0157】
また、垂直方向データレート変換手段において減衰したαデータの高周波数成分を補償し、透明度が急激に変化する場合であっても、αデータを反映させてデジタル画像とアナログ映像を合成することができる。
【0158】
また、αデータに含まれる垂直方向の高周波成分の有無とその増減変化の方向を検出することができる。
【0159】
また、垂直方向のデータレート変換において減衰したαデータの高周波数成分を垂直エッジ検出手段の検出結果に基づいて補償することができる。
【0160】
また、デジタル画像のαデータが各画素の透明または不透明のいずれかを指定している場合に、画像合成手段が、半透明のαデータに基づき、デジタル画像及びアナログ映像信号を合成するのを防止することができ、αデータを適切に反映させた画像合成を行うことができる。
【0161】
また、αデータについて水平方向のデータレート変換を行い、水平方向の画素数をアナログ映像信号と一致させることができる。特に、色データの水平方向の画角変換手段が、同様のオーバサンプリング、フィルタリング及びダウンサンプリングを行う場合であれば、データレート変換後のαデータと画角変換後の色データをよりよく対応させることができる。
【0162】
また、αデータについて垂直方向のデータレート変換を行い、垂直方向の画素数をアナログ映像信号と一致させることができる。特に、色データの垂直方向の画角変換手段が、同様のオーバサンプリング、フィルタリング及びダウンサンプリングを行う場合であれば、データレート変換後のαデータと画角変換後の色データをよりよく対応させることができる。
【0163】
また、αデータについて水平方向のデータレート変換を行い、水平方向の画素数をアナログ映像信号と一致させることができる。特に、色データの水平方向の画角変換手段が、同様の水平補間係数に基づいて隣接するαデータの補間を行う場合であれば、データレート変換後のαデータと画角変換後の色データをよりよく対応させることができる。
【0164】
また、αデータについて垂直方向のデータレート変換を行い、垂直方向の画素数をアナログ映像信号と一致させることができる。特に、色データの垂直方向の画角変換手段が、同様の垂直補間係数に基づいて隣接するαデータの補間を行う場合であれば、データレート変換後のαデータと画角変換後の色データをよりよく対応させることができる。
【0165】
また、簡単な回路構成により、αデータについて水平方向のデータレート変換を行うことができる。また、水平方向のデータレート変換において生じる高周波数成分の減衰を抑えることができるので、水平エッジ再生のための回路を付加する必要もない。
【0166】
また、簡単な回路構成により、αデータについて垂直方向のデータレート変換を行うことができる。また、垂直方向のデータレート変換において生じる高周波数成分の減衰を抑えることができるので、垂直エッジ再生のための回路を付加する必要もない。
【0167】
また、デジタル画像が色指定データ及びαデータからなる場合であっても、画角変換を行って画素数の異なるアナログ映像信号と合成することができる。
【0168】
また、特定の色データ又は色指定データを指定し、所望の透明度を指定することができるので、画角変換を行う画像合成装置において特定の色を透明又は半透明にすることができる。
【図面の簡単な説明】
【図1】この発明の実施の形態1である画像合成装置の一構成例を示したブロック図である。
【図2】図1に示したデータ分離回路の動作の一例を示したフローチャートである。
【図3】この発明の実施の形態2である画像合成装置の一構成例を示したブロック図である。
【図4】図3の水平エッジ検出回路18およびαデータ水平エッジ再生回路19の一構成例を示したブロック図である。
【図5】図3の垂直エッジ検出回路20およびαデータ垂直エッジ再生回路21の一構成例を示したブロック図である。
【図6】この発明の実施の形態3である画像合成装置の一構成例を示したブロック図である。
【図7】この発明の実施の形態4である画像合成装置の一構成例を示したブロック図である。
【図8】この発明の実施の形態5である画像合成装置の一構成例を示したブロック図である。
【図9】この発明の実施の形態6である画像合成装置の一構成例を示したブロック図である。
【図10】この発明の実施の形態7である画像合成装置の一構成例を示したブロック図である。
【図11】従来の技術を利用した画像合成装置の構成を示したブロック図である。
【図12】画像データ(CLUT8データ)の構成を示した説明図である。
【図13】画像データ(RGB555データ)の構成を示した説明図である。
【図14】画像データ(α付きCLUT8データ)の構成を示した説明図である。
【図15】画像データ(α付きRGB555データ)の構成を示した説明図である。
【符号の説明】
1 ソースデータ格納メモリ 2 メモリコントローラ
3 色データLUT 4 画角変換回路
5 水平方向画角変換フィルタ 6 メモリ
7 垂直方向画角変換フィルタ 8 輝度・色差信号生成マトリクス
9 出力切り換え回路 10 データ分離回路
11 データ切り換え回路 12 αデータ水平方向変換フィルタ
13 αメモリ 14 αデータ垂直方向変換フィルタ
15 遅延回路 16 透明・半透明切り換え回路
17 αブレンディング回路 18 水平エッジ検出回路
19 αデータ水平エッジ再生回路 20 垂直エッジ検出回路
21 αデータ垂直エッジ再生回路 22 水平読み出し制御信号生成回路
23 水平方向補間係数コントローラ 24 遅延部
25 水平方向補間回路 26 遅延部
27 αデータ水平方向補間回路 28 水平補間係数重み判別回路
29 αデータ水平方向選択回路
30 水平・垂直読み出し制御信号生成回路
31 水平・垂直方向補間係数コントローラ
32 遅延部 33a 遅延部
33b 遅延部 34a 垂直方向補間回路
34b 垂直方向補間回路 35 遅延部
36 遅延部 37 αデータ垂直方向補間回路
38 垂直補間係数重み判別回路 39 αデータ垂直方向選択回路
40 差分信号生成回路 41 絶対値信号生成回路
42 比較回路 43 多段シフトレジスタ
44 多入力OR回路 45 符号抽出回路
46 水平エッジ符号判定回路 47 データホールド回路
48 αデータ多段シフトレジスタ 49 最大値出力回路
50 最小値出力回路 51 遅延調整回路
52 αデータ出力選択回路 53 差分信号生成回路
54 絶対値信号生成回路 55 比較回路
56 多段シフトレジスタ 57 多入力OR回路
58 符号抽出回路 59 垂直エッジ符号判定回路
60 データホールド回路 61 αデータ多段シフトレジスタ
62 最大値出力回路 63 最小値出力回路
64 遅延調整回路 65 αデータ出力選択回路

Claims (11)

  1. 各画素の色データ及び各画素の透明度を表すαデータからなるデジタル画像と入力アナログ映像信号とを合成し、出力アナログ映像信号を生成する画像合成装置において、
    色データに対し画角変換を行い、水平方向の画素数を入力アナログ映像信号と一致させる水平方向画角変換手段と、
    αデータに対し水平方向のデータレート変換を行い、画角変換後の色データに対応させる水平方向データレート変換手段と、
    上記αデータの変化量に基づいて当該αデータの水平方向の高周波成分を検出する水平エッジ検出手段と、
    該水平エッジ検出手段の検出結果に基づいて、上記水平方向データレート変換手段における水平方向のデータレート変換後のαデータの高周波成分を再生して出力する水平エッジ再生手段と、
    画角変換後の色データを輝度・色差信号に変換する画素情報変換手段と、
    上記水平エッジ再生手段の出力に対応するαデータに基づいて、画素情報変換後の色データ及び入力アナログ映像信号の輝度・色差信号を合成する画像合成手段とを備えたことを特徴とする画像合成装置。
  2. 各画素の色データ及び各画素の透明度を表すαデータからなるデジタル画像と入力アナログ映像信号とを合成し、出力アナログ映像信号を生成する画像合成装置において、
    色データに対し画角変換を行い、水平方向の画素数を入力アナログ映像信号と一致させる水平方向画角変換手段と、
    水平方向画角変換手段における水平方向の画角変換後の色データに対し垂直方向の画角変換を行って、垂直方向の画素数を入力アナログ映像信号と一致させる垂直方向画角変換手段と、
    αデータに対し水平方向のデータレート変換を行い、画角変換後の色データに対応させる水平方向データレート変換手段と、
    上記αデータの変化量に基づいて当該αデータの水平方向の高周波成分を検出する水平エッジ検出手段と、
    該水平エッジ検出手段の検出結果に基づいて、上記水平方向データレート変換手段における水平方向のデータレート変換後のαデータの高周波成分を再生して出力する水平エッジ再生手段と、
    該水平エッジ再生手段の出力に対し垂直方向のデータレート変換を行い、画角変換後の色データに対応させる垂直方向データレート変換手段と、
    画角変換後の色データを輝度・色差信号に変換する画素情報変換手段と、
    上記水平エッジ再生手段の出力に対応するαデータに基づいて、画素情報変換後の色データ及び入力アナログ映像信号の輝度・色差信号を合成する画像合成手段とを備えたことを特徴とする画像合成装置。
  3. 各画素の色データ及び各画素の透明度を表すαデータからなるデジタル画像を入力アナログ映像信号に合成し、出力アナログ映像信号を生成する画像合成装置において、
    色データに対し画角変換を行い、水平方向の画素数を入力アナログ映像信号と一致させる水平方向画角変換手段と、
    色データを輝度・色差信号に変換する画素情報変換手段と、
    画素情報変換後の色データに対し画角変換を行い、垂直方向の画素数を入力アナログ映像信号と一致させる垂直方向画角変換手段と、
    αデータに対し水平方向のデータレート変換を行い、画角変換後の色データに対応させる水平方向データレート変換手段と、
    上記αデータの変化量に基づいてαデータの水平方向の高周波成分を検出する水平エッジ検出手段と、
    該水平エッジ検出手段の検出結果に基づいて、上記水平方向データレート変換手段における水平方向のデータレート変換後のαデータの高周波成分を再生して出力する水平エッジ再生手段と、
    該水平エッジ再生手段の出力に対し垂直方向のデータレート変換を行い、画角変換後の色データに対応させる垂直方向データレート変換手段と、
    上記水平エッジ再生手段の出力に対応するαデータに基づいて、画像情報変換及び画角変換後の色データ及び入力アナログ映像信号の輝度・色差信号を合成する画像合成手段とを備えたことを特徴とする画像合成装置。
  4. 水平エッジ検出手段が、
    水平方向におけるαデータの変化量の絶対値を求める変化量演算手段と、
    上記絶対値を予め定められた所定値と比較し、水平エッジ識別信号を出力する比較手段と、
    所定期間内における複数の水平エッジ識別信号について論理和演算を行う論理和演算手段と、
    αデータの変化量の符号を求める符号抽出手段とを備えたことを特徴とする請求項1ないし3のいずれかに記載の画像合成装置。
  5. 水平エッジ再生手段が、
    水平方向のデータレート変換後のαデータについて、所定期間内における最大値を求める最大値出力手段と、
    水平方向のデータレート変換後のαデータについて、所定期間内における最小値を求める最小値出力手段と、
    水平エッジ検出手段の検出結果に基づいて、水平方向のデータレート変換後のαデータ、上記最大値または上記最小値のいずれかを選択して出力するαデータ選択手段とを備えたことを特徴とする請求項1ないし3のいずれかに記載の画像合成装置。
  6. 各画素の色データ及び各画素の透明度を表すαデータからなるデジタル画像と入力アナログ映像信号とを合成し、出力アナログ映像信号を生成する画像合成装置において、
    色データに対し画角変換を行い、垂直方向の画素数を入力アナログ映像信号と一致させる垂直方向画角変換手段と、
    αデータに対し垂直方向のデータレート変換を行い、画角変換後の色データに対応させる垂直方向データレート変換手段と、
    上記αデータの変化量に基づいてαデータの垂直方向の高周波成分を検出する垂直エッジ検出手段と、
    垂直エッジ検出手段の検出結果に基づいて、上記垂直方向データレート変換手段における垂直方向のデータレート変換後のαデータの高周波成分を再生して出力する垂直エッジ再生手段と、
    画角変換後の色データを輝度・色差信号に変換する画素情報変換手段と、
    上記水平エッジ再生手段の出力に対応するαデータに基づいて、画素情報変換後の色データ及び入力アナログ映像信号の輝度・色差信号を合成する画像合成手段とを備えたことを特徴とする画像合成装置。
  7. 色データに対し画角変換を行い、水平方向の画素数を入力アナログ映像信号と一致させる水平方向画角変換手段と、
    αデータに対し水平方向のデータレート変換を行い、画角変換後の色データに対応させる水平方向データレート変換手段とを備え、
    垂直方向画角変換手段が、水平方向の画角変換後の色データに対し垂直方向の画角変換を行い、
    垂直方向データレート変換手段が、水平方向のデータレート変換後の色データに対し垂直方向の画角変換を行うことを特徴とする請求項に記載の画像合成装置。
  8. 各画素の色データ及び各画素の透明度を表すαデータからなるデジタル画像を入力アナログ映像信号に合成し、出力アナログ映像信号を生成する画像合成装置において、
    色データを輝度・色差信号に変換する画素情報変換手段と、
    画素情報変換後の色データに対し画角変換を行い、垂直方向の画素数を入力アナログ映像信号と一致させる垂直方向画角変換手段と、
    αデータに対し垂直方向のデータレート変換を行い、画角変換後の色データに対応させる垂直方向データレート変換手段と、
    上記αデータの変化量に基づいてαデータの垂直方向の高周波成分を検出する垂直エッジ検出手段と、
    該垂直エッジ検出手段の検出結果に基づいて、上記垂直方向データレート変換手段における垂直方向のデータレート変換後のαデータの高周波成分を再生して出力する垂直エッジ再生手段と、
    上記水平エッジ再生手段の出力に対応するαデータに基づいて、画像情報変換及び画角変換後の色データ及び入力アナログ映像信号の輝度・色差信号を合成する画像合成手段とを備えたことを特徴とする画像合成装置。
  9. 色データに対し画角変換を行い、水平方向の画素数を入力アナログ映像信号と一致させる水平方向画角変換手段と、
    αデータに対し水平方向のデータレート変換を行い、画角変換後の色データに対応させる水平方向データレート変換手段とを備え、
    画素情報変換手段が、水平方向の画角変換後の色データを輝度・色差信号に変換し、
    垂直方向データレート変換手段が、水平方向のデータレート変換後のαデータに対し垂直方向のデータレート変換を行うことを特徴とする請求項8に記載の画像合成装置。
  10. 垂直エッジ検出手段が、垂直方向におけるαデータの変化量の絶対値を求める変化量演算手段と、
    上記絶対値を予め定められた所定値と比較し、垂直エッジ識別信号を出力する比較手段と、
    所定期間内における複数の垂直エッジ識別信号について論理和演算を行う論理和演算手段と、
    αデータの変化量の符号を求める符号抽出手段とを備えたことを特徴とする請求項6ないし9のいずれかに記載の画像合成装置。
  11. 垂直エッジ再生手段が、垂直方向のデータレート変換後のαデータについて、所定期間内における最大値を求める最大値出力手段と、
    垂直方向のデータレート変換後のαデータについて、所定期間内における最小値を求める最小値出力手段と、
    垂直エッジ検出手段の検出結果に基づいて、垂直方向のデータレート変換後のαデータ、上記最大値または上記最小値のいずれかを選択して出力するαデータ選択手段とを備えることを特徴とする請求項6ないし9のいずれかに記載の画像合成装置。
JP33448897A 1997-12-04 1997-12-04 画像合成装置及び画像合成方法 Expired - Fee Related JP3622461B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP33448897A JP3622461B2 (ja) 1997-12-04 1997-12-04 画像合成装置及び画像合成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33448897A JP3622461B2 (ja) 1997-12-04 1997-12-04 画像合成装置及び画像合成方法

Publications (2)

Publication Number Publication Date
JPH11168752A JPH11168752A (ja) 1999-06-22
JP3622461B2 true JP3622461B2 (ja) 2005-02-23

Family

ID=18277968

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33448897A Expired - Fee Related JP3622461B2 (ja) 1997-12-04 1997-12-04 画像合成装置及び画像合成方法

Country Status (1)

Country Link
JP (1) JP3622461B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11776088B2 (en) * 2020-03-11 2023-10-03 Samsung Electronics Co., Ltd. Electronic device generating image data and converting the generated image data and operating method of the electronic device

Also Published As

Publication number Publication date
JPH11168752A (ja) 1999-06-22

Similar Documents

Publication Publication Date Title
CA1240788A (en) Compression of pixels in a reduced-size video image
JP2572043B2 (ja) 逐次走査システム
RU2503139C1 (ru) Устройство считывания изображений
US7787023B2 (en) Video signal processing apparatus
US5668914A (en) Video signal reproduction processing method and apparatus for reproduction of a recorded video signal as either a sharp still image or a clear moving image
WO2008032392A1 (fr) Procédé et dispositif de traitement d'image et programme connexe
GB2278514A (en) High-Definition Digital Video Processor For Telecines
US20070222790A1 (en) System and method for display compositing
JP2002300590A (ja) 信号処理装置及び方法
KR980007718A (ko) 디지탈 비디오 시스템의 디지탈 비디오 인코더
JP2006295746A (ja) 映像信号出力装置、および映像信号出力方法
JP3622461B2 (ja) 画像合成装置及び画像合成方法
US5929928A (en) Digital image processor
JPH06225328A (ja) 被写体抽出装置
KR100200133B1 (ko) 영상재생장치에서의 osd(on-screen display)색상가변장치
JPH1118108A (ja) 映像信号処理装置及び映像信号処理方法
KR100296311B1 (ko) 엔티에스씨 표준영상의 화질 개선회로 및 방법
JPH09204171A (ja) グラフィックデータ発生方法およびグラフィックコントローラ
US6414721B1 (en) Video signal digital processing device, information storage medium for video signal digital processing, and video signal digital processing method
JPH0283578A (ja) 画像データ表示装置と画像データ表示方法
JPH01155393A (ja) 画像処理装置
KR930010930B1 (ko) 동화보간회로
JPH03149992A (ja) テレビジョン信号処理装置
JP3728007B2 (ja) 合成装置及びその方法
JP4211144B2 (ja) クロマ信号入れ替え回路

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040610

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20040625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040629

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040826

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041005

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041102

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041115

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071203

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081203

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091203

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091203

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101203

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111203

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111203

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121203

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees