以下、図面を参照しながら、この発明の実施の形態について説明する。図1は、実施の形態としての画像表示装置100の構成を示している。この画像表示装置100は、DVD(Digital Versatile Disc)プレーヤ101と、ノイズ低減回路102と、画サイズ変換回路103と、ディスプレイ104と、動きベクトル検出回路105と、同期制御部106とを有している。
ここで、DVDプレーヤ101とノイズ低減回路102は、信号線Lsaおよび付加情報線Liaによって接続されている。ノイズ低減回路102と画サイズ変換回路103は、信号線Lsbおよび付加情報線Libによって接続されている。画サイズ変換回路103とディスプレイ104は、信号線Lscおよび付加情報線Licによって接続されている。DVDプレーヤ101と動きベクトル検出回路105は、信号線Lsdおよび付加情報線Lidによって接続されている。動きベクトル検出回路105と、ノイズ低減回路102および画サイズ変換回路103とは、付加情報線Lieによって接続されている。
また、同期制御部106と、ノイズ低減回路102、画サイズ変換回路103および動きベクトル検出回路105のそれぞれとは、同期制御線LS1〜LS3によって接続されている。これにより、ノイズ低減回路102、画サイズ変換回路103および動きベクトル検出回路105のそれぞれには同期制御部106から同期制御信号Ssc1〜Ssc3が供給され、これら各回路における遅延量が同期制御部106によって集中的に制御されるようになっている。
この場合、DVDプレーヤ101から出力される画像信号Saの現フレームがnフレームであるとき、ノイズ低減回路102からはn−1フレームの画像信号が出力され、画サイズ変換回路103からはn−3フレームの画像信号が出力され、また動きベクトル検出回路105からは、n−1フレーのn−2フレームに対する動きベクトルMVn-1/n-2、nフレームのn−1フレームに対する動きベクトルMVn/n-1、およびn−2フレームのn−1フレームに対する動きベクトルMVn-2/n-1が出力される。
DVDプレーヤ101は、ディスク(図示せず)から再生されたMPEG(Moving Picture Experts Group)データに対してデコード処理を施し、画像信号Saを取得する。この画像信号Saは、フレーム周波数が24Hzであって、1フレームのライン数が525本のプログレッシブ方式の画像信号、つまり525p/24フレームの画像信号である。この場合、5フレーム毎にフレームセットが構成されている。
各フレームセットにおいて、第1のフレームの画像信号は、フレーム内符号化に係るMPEGデータに対してデコード処理を施すことで得られる。第2〜第5のフレームの画像信号は、動き補償予測符号化に係るMPEGデータに対してデコード処理を施すことで得られる。このDVDプレーヤ101は、この画像信号Saを、信号線Lsaを通じてノイズ低減回路102に送信し、また信号線Lsdを通じて動きベクトル検出回路105に送信する。
また、このDVDプレーヤ101は、上述した信号線Lsaを通じて送信される画像信号Saに同期させて、当該画像信号Saに関連した付加情報を含む付加信号Siaを、付加情報線Liaを通じてノイズ低減回路102に送信し、また付加情報線Lidを通じて動きベクトル検出回路105に送信する。図2は、画像信号の1フレームに対応した1フレーム分の付加信号の構成を示している。先頭にフレーム同期信号が配置され、それに続いてフレームセットの情報、フレームの情報、フレームのブロック情報、情報のフォーマットが順に配置され、最後に画素内の情報やブロック内の情報が配置されている。フレームセットの情報、フレームの情報、フレームのブロック情報、画素内の情報、ブロック内の情報は、それぞれ付加情報を構成している。
図3は、1フレーム分の付加信号に含まれる各情報の配置位置を、画面に対応させて示したものである。フレームセットの情報、フレームの情報、フレームのブロック情報および情報のフォーマットの各情報は、垂直ブランキング部分に対応した位置に配置される。画像内の情報やブロック内の情報は、有効画素部分に対応した位置に配置される。
図4は、各情報の内容を示している。フレームセットの情報は、フレームセットの開始を示す情報、画像信号のフォーマット情報等である。付加信号Siaの場合、画像信号のフォーマット情報は、画像信号Saのフレーム周波数が24Hzであって、しかもこの画像信号Saが525p信号である旨を示す情報である。フレームの情報は、フレームセットのフレーム数nを示す情報である。上述したように1つのフレームセットが5フレームで構成される場合、n=5である。フレームのブロック情報は、DCT(Discrete Cosine Transform)処理の単位であるブロックのサイズk×mを示す情報である。
情報のフォーマットは、有効画素部分に、画素内の情報、ブロック内の情報としてどのような情報を、いかなるビット数で、どのように配置しているかを示す情報である。画素内の情報は、有効画素のそれぞれに対応した付加情報であって、例えば動き補償予測符号化における差分データ等である。ブロック内の情報は、ブロックのそれぞれに対応した付加情報であって、例えば動きベクトル等である。
情報のフォーマットについてさらに説明する。この情報のフォーマットの情報には、配置方法IDが存在する。この配置方法IDは、画素内の情報とブロック内の情報とが存在する場合にそれらを有効画素部分にどのように配置するかを示す情報である。図5Aは、配置方法IDの一例を示している。すなわち、配置方法ID=01は、画素内の情報を配置して、残りのビットにブロック内の情報を配置することを示している。
また、情報のフォーマットの情報には、有効画素部分に配置されている、画素内の情報、ブロック内の情報を識別するための識別子である情報IDが存在する。図5Bは、情報IDの一例を示している。すなわち、情報ID=101は、動き補償予測符号化における差分データを示している。情報ID=000は、nフレームのn−1フレームに対する動きベクトルを示している。情報ID=001は、n−1フレームのn−2フレームに対する動きベクトルを示している。情報ID=002は、n−2フレームのn−3フレームに対する動きベクトルを示している。情報ID=012は、n−2フレームのn−1フレームに対する動きベクトルを示している。情報ID=013は、n−3フレームのn−2フレームに対する動きベクトルを示している。
DVDプレーヤ101から送信される付加信号Siaの有効画素部分には、各フレームセットの第1のフレームでは画素内の情報、ブロック内の情報のいずれも配置されないが、その第2〜第5のフレームではブロック内の情報として動きベクトルが配置される。図6は、付加信号Siaにおける第2〜第5フレームにおける情報のフォーマットを示している。この場合、情報IDに対応して、その情報IDで示す情報がブロック内の情報であるか画素内の情報であるかを示す情報、その情報IDで示す情報の使用ビット数を示す情報、フレーム数変更時の処理情報、画サイズ変更時の処理情報も存在する。
図7は、動きベクトルMVn/n-1と、有効画素部分の画素位置、ブロック位置との実際の対応を示している。ここでは、ブロックのサイズk×mが4×4であり、各画素に対応して使用可能なビット数が8×3=24である場合を示している。この場合、各ブロックに対応したビットのうち30ビットを使用して動きベクトルMVn/n-1が配置される。
図8は、DVDプレーヤ101の要部の構成を示している。このDVDプレーヤ101は、MPEGデコーダ111と、画像信号送信部112と、画像信号出力端子113と、付加情報記憶部114と、付加信号送信部115と、付加信号出力端子116とを有している。
MPEGデコーダ111は、ディスクから再生されたMPEGデータに対してデコード処理を行って画像信号Saを取得する。画像信号送信部112は、MPEGデコーダ111で取得された画像信号Saを、ノイズ低減回路102に送信するために、画像信号出力端子113に順次出力する。
付加情報記憶部114は、フレームメモリ(図示せず)を備えており、このフレームメモリに、各フレームで、MPEGデコーダ111から出力される画像信号Saに関連した付加情報に基づいて、1フレーム分の付加信号を構成する各情報を、ブランキング部分、有効画素部分にそれぞれ対応させて記憶する(図2、図3、図7参照)。図9のフローチャートは、付加情報記憶部114における1フレーム分の処理手順を示している。
すなわち、ステップST1で、処理を開始し、ステップST2で、フレーム同期信号を記憶する。次に、ステップST3で、フレームセットの情報、フレームの情報、フレームのブロック情報および情報のフォーマットを記憶する。次に、ステップST4で、ステップST3で記憶した情報のフォーマットに従って、ブロック内の情報である動きベクトルMVn/n-1を記憶する。そして、ステップST5で、処理を終了する。
付加信号送信部115は、各フレームで、付加情報記憶部114内のフレームメモリに記憶された各情報を読み出し、ノイズ低減回路102および動きベクトル検出回路105に送信するために、付加信号出力端子116に付加信号Siaとして順次出力する。この場合、付加信号送信部115は、画像信号送信部112から供給される垂直同期信号VDおよび水平同期信号HDに基づき、付加信号Siaを画像信号Saに同期させて出力する。
図8に示すDVDプレーヤ101の動作を説明する。ディスクから再生されたMPEGデータはMPEGデコーダ111に供給される。このMPEGデコーダ111では、MPEGデータに対してデコード処理が行われて画像信号Saが取得される。この画像信号Saは画像信号送信部112に供給され、画像信号出力端子113に順次出力される。
また、MPEGデコーダ111から画像信号Saに関連した付加情報、動きベクトル等が出力される。この付加情報は、付加情報記憶部114に供給される。付加情報記憶部114では、各フレームで、MPEGデコーダ111から供給された付加情報に基づいて、1フレーム分の付加信号Siaを構成する各情報が、ブランキング部分、有効画素部分にそれぞれ対応させて、フレームメモリに記憶される。そして、このようにフレームメモリに記憶された各情報が付加信号送信部115により読み出され、画像信号Saに同期した状態で、付加信号出力端子116に、付加信号Siaとして順次出力される。
また、図1に戻って、動きベクトル検出回路105は、DVDプレーヤ101から信号線Lsdを通じて送られてくる画像信号Saから、従来周知のブロックマッチング法あるいは勾配法等により、DCTの処理単位であるブロック単位で、動きベクトルを検出する。この場合、画像信号Saの現フレームがnフレームであるとき、動きベクトル検出回路105は、動きベクトルMVn-1/n-2,MVn/n-1,MVn-2/n-1を検出して出力する。ここで、MVp/qはpフレームのqフレームに対する動きベクトルを示している。
動きベクトル検出回路105は、動きベクトルMVn-1/n-2,MVn/n-1,MVn-2/n-1を、付加信号Sieに含め、ノイズ低減回路102および画サイズ変換回路103に、付加情報線Lieを通じて送信する。この場合、付加信号Sieの有効画素部分には、ブロック内の情報として動きベクトルMVn-1/n-2,MVn/n-1,MVn-2/n-1が配置される。
図10は、付加信号Sieの各フレームにおける情報のフォーマットを示している。図11は、動きベクトルMVn-1/n-2,MVn/n-1,MVn-2/n-1と、有効画素部分の画素位置、ブロック位置との実際の対応を示している。ここでは、ブロックのサイズk×mが4×4であり、各画素に対応して使用可能なビット数が8×3=24である場合を示している。この場合、各ブロックに対応したビットのうち、それぞれ30ビットを使用して、動きベクトルMVn-1/n-2,MVn/n-1,MVn-2/n-1が配置される。
また、図1に戻って、ノイズ低減回路102は、DVDプレーヤ101から信号線Lsaを通じて送られてくる画像信号Saから、ブロック歪みを低減する。この場合、ノイズ低減回路102は、DVDプレーヤ101から付加情報線Liaを通じて送られてくる付加信号Sia、あるいは動きベクトル検出回路105から付加情報線Lieを通じて送られてくる付加信号Sieに含まれる付加情報のうち、フレームのブロックの情報を利用して、ブロック歪みを低減する処理を行う。なお、上述したMPEGデータはDCT処理の単位であるブロック毎に圧縮処理されて得られたものであり、このMPEGデータをデコード処理して得られる画像信号Saには、圧縮率が高くなるに従って見た目がブロック状となる歪みが発生する。この歪みが上述したブロック歪みである。
図12は、ノイズ低減回路102および画サイズ変換回路103の基本となる画像信号処理装置150の構成を示している。この画像信号処理装置150は、処理本体部150Aと、この処理本体部150Aの動作を制御する制御部150Bと、からなっている。なお、制御部150Bは、同期制御信号入力端子162に入力された同期制御信号Sscに基づいて、処理本体部150Aにおける遅延量を制御する。
処理本体部150Aは、画像信号受信部152と、画像信号処理部153と、画像信号送信部154とを有している。画像信号受信部152は、画像信号入力端子151に入力された画像信号Sを受信する。画像信号処理部153は、画像信号受信部152で受信された画像信号Sを処理する。この場合、画像信号処理部153は、後述する付加信号受信部158で受信された付加信号Si,Sieに含まれている付加情報に、自己の処理で使用可能な付加情報が存在するときは、その付加情報を用いて処理を行う。画像信号送信部154は、画像信号処理部153で処理された画像信号S′を、次段の装置に送信するために、画像信号出力端子155に順次出力する。
また、処理本体部150Aは、付加信号受信部158と、付加情報記憶部159と、付加信号送信部160とを有している。付加信号受信部158は、付加信号入力端子156,157に入力された付加信号Si,Sieを受信する。ここで、付加信号Siは、前段の処理装置(例えば、ノイズ低減回路102の前段の処理装置はDVDプレーヤ101、画サイズ変換回路103の前段の処理装置はノイズ低減回路102である)から付加情報線を通じて供給される付加信号である。付加信号Sieは、動きベクトル検出回路105から付加情報線Sieを通じて供給される付加信号である。
付加情報記憶部159は、フレームメモリ(図示せず)を備えており、このフレームメモリに、各フレームで、付加信号受信部158で受信された付加信号Si,Sieを構成する各情報(フレーム同期信号、フレームセットの情報、フレームの情報、フレームのブロック情報、情報のフォーマット、画素内の情報、ブロック内の情報)を、ブランキング部分、有効画素部分にそれぞれ対応させて記憶する(図2、図3、図7、図11参照)。この場合、付加信号Si,Sie内の各情報で共通であるものはマージ(統合)され、情報の整理が行われる。
付加信号送信部160は、付加情報記憶部159に記憶されている各情報を読み出し、次段の処理装置に送信するために、付加信号出力端子161に付加信号Si′として順次出力する。この場合、付加信号送信部160は、画像信号送信部154から供給される垂直同期信号VDおよび水平同期信号HDに基づき、付加信号Si′を画像信号S′に同期させて出力する。このように、付加信号Si′を画像信号S′に同期させて出力することで、次段の処理装置は、付加信号Si′から、画像信号S′の各画素、各ブロックにそれぞれ対応した付加情報を容易に取得できる。
図12に示す画像信号処理装置150の動作を説明する。
付加信号入力端子156,157に入力された付加信号Si,Sieは、付加信号受信部158で受信される。そして、付加情報記憶部159では、各フレームで、付加信号Si,Sieを構成する各情報が、ブランキング部分、有効画素部分にそれぞれ対応させて、フレームメモリに記憶される。
また、画像信号入力端子151に入力された画像信号Sは画像信号受信部152で受信される。画像信号処理部153では、この画像信号Sに対して処理が行われる。この場合、上述したように受信された付加信号Si,Sieに含まれており、付加情報記憶部159でフレームメモリに記憶された付加情報に、当該処理で使用可能な付加情報が存在するときは、その付加情報を用いて処理が行われる。
このように、画像信号処理部153で処理されて得られた画像信号S′は、画像信号送信部154に供給され、画像信号出力端子155に順次出力される。この場合、画像信号受信部152で受信される画像信号Sがmフレームのものであるとき、画像信号送信部154で送信される画像信号Sはこのmフレームより前のフレームであって、例えばm−1フレーム、あるいはm−2フレーム等である。
また、各フレームで、付加情報記憶部159内のフレームメモリの記憶された各情報が付加信号送信部160により読み出され、画像信号S′に同期した状態で、付加信号出力端子161に、付加信号Si′として順次出力される。
図13は、上述した画像信号処理装置150における1フレーム分の処理手順を示している。すなわち、ステップST11で、処理を開始し、ステップST12で、画像信号Sおよび付加信号Si,Sieを受信してフレームメモリに記憶する。なお、上述では、単に、画像信号受信部152で受信された画像信号Sが画像信号処理部153に供給されて処理される旨説明したが、実際には、受信された画像信号Sは例えば画像信号受信部152内のフレームメモリに記憶され、その後にこのフレームメモリから処理すべき画素データが順次読み出されて処理が行われる。
次に、ステップST13で、画像信号Sの処理を行う。この場合、付加信号Si,Sieに含まれていた付加情報に、その処理で使用可能な付加情報があるときは、その付加情報を用いて処理をする。
次に、ステップST14で、処理後の画像信号S′を次段の処理装置に送信し、これと同期して、受信付加情報を含む付加信号Si′を次段の処理装置に送信する。そして、ステップST15で、処理を終了する。
なお、図12に示す画像信号処理装置150は、次段の装置に画像信号S′および付加信号Si′を送信する構成となっている。しかし、この画像信号処理装置150が最終段であるときは、次段に画像信号S′および付加信号Si′を送る必要がなく、従って画像信号送信部154、付加信号送信部160はなくともよい。
図14は、ノイズ低減回路102の構成を示している。このノイズ低減回路102は、処理本体部102Aと、この処理本体部102Aの動作を制御する制御部102Bと、からなっている。なお、制御部102Bは、同期制御信号入力端子212に入力された同期制御信号Ssc2に基づいて、処理本体部102Aにおける遅延量を制御する。この場合、画像信号入力端子201に入力される画像信号Saがnフレームのものであるとき、画像信号出力端子205に出力される画像信号Sbはn−1フレームのものとされる。
処理本体部102Aは、画像信号受信部202と、画像信号処理部203と、画像信号送信部204とを有している。画像信号受信部202は、画像信号入力端子201に入力される画像信号Saを受信する。この画像信号Saは、DVDプレーヤ101から信号線Lsaを通じて送信されてくる。
画像信号処理部203は、画像信号受信部202で受信された画像信号Saに対して、ブロック歪みを低減する処理を行う。画像信号送信部204は、画像信号処理部203で処理されて得られた画像信号Sbを、画サイズ変換回路103に送信するために、画像信号出力端子205に順次出力する。
また、処理本体部102Aは、付加信号受信部208と、付加情報記憶部209と、付加信号送信部210とを有している。付加信号受信部208は、付加信号入力端子206,207に入力される付加信号Sia,Sieを受信する。付加信号Siaは、DVDプレーヤ101から付加情報線Liaを通じて送信されてくる。付加信号Sieは、動きベクトル検出回路105から付加情報線Lieを通じて送信されてくる。
付加情報記憶部209は、フレームメモリ(図示せず)を備えており、このフレームメモリに、各フレームで、付加信号受信部208で受信された付加信号Sia,Sieを構成する各情報(フレーム同期信号、フレームセットの情報、フレームの情報、フレームのブロック情報、情報のフォーマット、画素内の情報、ブロック内の情報)を、ブランキング部分、有効画素部分にそれぞれ対応させて記憶する(図2、図3、図7、図11参照)。
付加信号送信部210は、付加情報記憶部209内のフレームメモリに記憶されている各情報を読み出し、次段の画サイズ変換回路103に送信するために、付加信号出力端子211に付加信号Sibとして順次出力する。この場合、付加信号送信部210は、画像信号送信部204から供給される垂直同期信号VDおよび水平同期信号HDに基づき、付加信号Sibを画像信号Sbに同期させて出力する。
上述した画像信号処理部203について、さらに説明する。画像信号処理部203は、ブロック検出部203aを有している。このブロック検出部203aは、各フレームで、画像信号受信部202で受信された画像信号Saの有効画素部分から、DCT処理の単位であった、複数の画素データからなるブロックを順次検出する。
この場合、ブロック検出部203aは、付加信号受信部208で受信された付加信号Sia,Sieに含まれている付加情報にブロックサイズの情報があるときは、このブロックサイズの情報を利用してブロック検出を行う。一方、ブロック検出部203aは、付加信号Sia,Sieに含まれている付加情報にブロックサイズの情報がないときは、水平、垂直のそれぞれの方向で複数の画素データを用いてブロック境界を判定してブロックを検出する。このブロック境界の判定方法については、例えば特開2003−274404号公報に記載がある。本実施の形態においては、上述したように付加信号Sia,Sieに含まれている付加情報にブロックサイズの情報(フレームのブロックの情報、図4参照)があるので、ブロック検出部203aでは、それを利用できる。
また、画像信号処理部203は、傾き検出部203bを有している。この傾き検出部203bは、付加信号Siaに含まれている付加情報に周辺ブロックに対する傾きがないとき、ブロック検出部203aで順次検出されたブロック(処理対象ブロック)のそれぞれに対応して、周辺ブロックに対する傾きを検出する。
ここで、周辺ブロックに対する傾きについて説明する。図15には、処理対象ブロックB0と、その上下左右のブロックB1〜B4が示されている。この処理対象ブロックB0に対応した周辺ブロックに対する傾きSLは、(1)式で求められる。この(1)式において、AV0〜AV4は、それぞれ、ブロックB0〜B4を構成する複数の画素データの平均値である。
SL=AV0−(AV1+AV2+AV3+AV4)/4 ・・・(1)
また、画像信号処理部203は、境界画素値補正部203cを有している。この境界画素値補正部203cは、ブロック検出部203aで順次検出されたブロック(処理対象ブロック)のそれぞれに対応して、境界部分に位置する画素データの値を補正する。すなわち、この境界画素値補正部203cは、周辺ブロックに対する傾きSLが0に近づくように、処理対象ブロックの境界部分に位置する画素データの値を補正する。例えば、傾きSLが正の値であるときは、境界部分に位置する画素データの値を小さくするように補正する。逆に、傾きSLが負の値であるときは、境界部分に位置する画素データの値を大きくするように補正する。なお、境界部分に位置する画素データとしては、境界に接した垂直、水平の各方向の1画素のデータを含む、当該垂直、水平の各方向の1画素あるいは連続した複数画素のデータが対象とされる。
この場合、境界画素値補正部203cは、付加信号受信部207で受信された付加信号Sia,Sieに含まれている付加情報に周辺ブロックに対する傾きSLの情報があるときは、この傾きSLの情報を利用して補正処理を行う。一方、境界画素値補正部203cは、付加信号Siaに含まれている付加情報に周辺ブロックに対する傾きSLの情報がないときは、傾き検出部203bで検出された傾きSLを利用して補正処理を行う。本実施の形態においては、上述したように付加信号Siaに含まれている付加情報に周辺ブロックに対する傾きSLの情報がないので、境界画素値補正部203cでは、傾き検出部203bで検出された傾きSLが利用される。
なお、境界画素値補正部203cで境界部分に位置する画素データの値が補正された各処理対象ブロックは、この境界画素値補正部203c内のフレームメモリ(図示せず)の、そのブロックに対応したアドレス位置に一時的に記憶される。このように各ブロックをフレームメモリに一時的に記憶するのは、ブロック毎に処理された画像信号を、ライン順で出力する必要があるからである。すなわち、上述した画像信号送信部204は、この境界画素値補正部203c内のフレームメモリから処理後の画像信号Sbをライン順に読み出して画像信号出力端子205に出力する。
ところで、上述したように、付加信号Siaには動きベクトルMVn/n-1が含まれており、付加信号Sieには動きベクトルMVn-1/n-2,MVn/n-1,MVn-2/n-1が含まれている。そのため、ノイズ低減回路102には、図16に示すように、画像信号Saとしてnフレームの画像信号が入力されるとき、動きベクトルMVn-1/n-2,MVn/n-1,MVn-2/n-1が入力される。また、ノイズ低減回路102からは、図16に示すように、画像信号Sbとしてn−1フレームの画像信号が出力されるとき、動きベクトルMVn-2/n-3,MVn-1/n-2,MVn-3/n-2が出力される。ここで、MVp/qは、pフレームのqフレームに対する動きベクトルである。
図17は、付加信号Sibの各フレームにおける情報のフォーマットを示している。図18は、動きベクトルMVn-2/n-3,MVn-1/n-2,MVn-3/n-2と、有効画素部分の画素位置、ブロック位置との実際の対応を示している。ここでは、ブロックのサイズk×mが4×4であり、各画素に対応して使用可能なビット数が8×3=24である場合を示している。この場合、各ブロックに対応したビットのうち、それぞれ30ビットを使用して、動きベクトルMVn-2/n-3,MVn-1/n-2,MVn-3/n-2が配置される。
図19のフローチャートは、画像信号処理部203における1ブロック分の処理手順を示している。まず、ステップST31で、処理を開始し、ステップST32で、受信された付加信号Sia,Sieに含まれる付加情報にブロックサイズの情報があるか否かを判定する。ブロックサイズの情報があるときは、ステップST33で、そのブロックサイズの情報を用いてブロック(処理対象ブロック)を検出し、その後にステップST34に進む。一方、ブロックサイズの情報がないときは、ステップST35で、ブロック境界を判定してブロック(処理対象ブロック)を検出し、その後にステップST34に進む。
ステップST34では、受信された付加信号Sia,Sieに含まれる付加情報に周辺ブロックに対する傾きSLの情報があるか否かを検出する。傾きSLの情報があるときは、直ちにステップST36に進む。一方、傾きSLの情報がないときは、ステップST37で、処理対象ブロックB0とその上下左右に位置するブロックB1〜B4を用いて、周辺ブロックに対する傾きSLを検出し(図15、(1)式参照)、その後にステップST36に進む。
ステップST36では、傾きSLの情報を用いて、処理対象ブロックの境界部分に位置する画素データの値を補正する。そして、ステップST38で、処理を終了する。
なお、図19に示すフローチャートでは、各ブロックの処理で、ステップST32およびステップST34の判定を行うようになっているが、これらの判定は、各フレームにおいて、1回だけ行えばよい。
図14に示すノイズ低減回路102の動作を説明する。
付加信号入力端子206,207に入力される付加信号Sia,Sieは付加信号受信部208で受信される。そして、付加情報記憶部209では、各フレームで、付加信号Sia,Sieを構成する各情報が、ブランキング部分、有効画素部分にそれぞれ対応させて、フレームメモリに記憶される。
また、画像信号入力端子201に入力される画像信号Saは画像信号受信部202で受信される。画像信号処理部203では、この画像信号Saに対して、ブロック歪みを低減する処理が行われる。この場合、画像信号Saから処理対象となるブロック(処理対象ブロック)が順次検出され、この処理対象ブロックの境界部分に位置する画素データの値が、周辺ブロックに対する傾きSLが0に近づくように補正される。ここで、本実施の形態では、受信された付加信号Sia,Sieに付加情報として含まれるブロックサイズの情報が使用されて、ブロック検出が行われる。また、周辺ブロックに対する傾きSLは、処理対象ブロックとその上下左右に位置するブロックに基づいて求められる。このように、画像信号処理部203で処理されて得られた画像信号Sbは、画像信号送信部204に供給され、次段の画サイズ変換回路103に送信するために、画像信号出力端子205に出力される。
また、各フレームで、付加情報記憶部209内のフレームメモリに記憶された各情報が付加情報送信部210により読み出され、画像信号Sbに同期した状態で、付加信号出力端子211に、次段の画サイズ変換回路103に送信するための付加信号Sibとして順次出力される。
図14に示すノイズ低減回路102では、画像信号処理部203のブロック検出部203aで、受信された付加信号Sia,Sieに付加情報として含まれていたブロックサイズの情報を用いてブロック検出を行うことができ、ブロック境界を判定してブロック検出を行うものと比べてブロック検出を正確に行うことができ、ブロック歪みの低減処理の性能が向上する。
また、図1に戻って、画サイズ変換回路103は、ノイズ低減回路102から信号線Lsbを通じて送られてくる画像信号Sbを、画像信号Scに変換する。この画サイズ変換回路103には、倍率情報MGが供給される。この画サイズ変換回路103は、画像信号Sbから、倍率情報MGで指定される拡大率の画像を表示するための画像信号Scを生成する。
図20は、画サイズ変換回路103の構成を示している。この画サイズ変換回路103は、処理本体部103Aと、この処理本体部103Aの動作を制御する制御部103Bと、からなっている。なお、制御部103Bは、同期制御信号入力端子312に入力された同期制御信号Ssc3に基づいて、処理本体部103Aにおける遅延量を制御する。この場合、画像信号入力端子301に入力される画像信号Sbがn−1フレームのものであるとき、画像信号出力端子305に出力される画像信号Scはn−3フレームのものとされる。
処理本体部103Aは、画像信号受信部302と、画像信号処理部303と、画像信号送信部304とを有している。画像信号受信部302は、画像信号入力端子301に入力される画像信号Sbを受信する。この画像信号Sbは、ノイズ低減回路102から信号線Lsbを通じて送信されてくる。
画像信号処理部303は、画像信号受信部302で受信された画像信号Sbを、倍率情報MGで指定される倍率の画像を表示するための画像信号Scに変換する。画像信号送信部304は、画像信号処理部303で得られた画像信号Scを、ディスプレイ104に送信するために、画像信号出力端子305に順次出力する。
また、処理本体部103Aは、付加信号受信部308と、付加情報記憶部309と、付加信号送信部310とを有している。付加信号受信部308は、付加信号入力端子306,307に入力される付加信号Sib,Sieを受信する。付加信号Sibは、ノイズ低減回路102から付加情報線Libを通じて送信されてくる。付加信号Sieは、動きベクトル検出回路105から付加情報線Lieを通じて送信されてくる。
付加情報記憶部309は、フレームメモリ(図示せず)を備えており、このフレームメモリに、画像信号Sbの各フレームで、付加信号受信部308で受信された付加信号Sib,Sieを構成する各情報(フレーム同期信号、フレームセットの情報、フレームの情報、フレームのブロック情報、情報のフォーマット、画素内の情報、ブロック内の情報)を、ブランキング部分、有効画素部分にそれぞれ対応させて記憶する(図2、図3、図11、図18参照)。
付加信号送信部310は、付加情報記憶部309内のフレームメモリに記憶されている各情報を読み出し、次段のディスプレイ104に送信するために、付加信号出力端子311に付加信号Sicとして順次出力する。この場合、付加信号送信部310は、画像信号送信部304から供給される垂直同期信号VDおよび水平同期信号HDに基づき、付加信号Sicを画像信号Scに同期させて出力する。
ここで、付加信号Sibには動きベクトルMVn-2/n-3,MVn-1/n-2,MVn-3/n-2が含まれており、付加信号Sieには動きベクトルMVn-1/n-2,MVn/n-1,MVn-2/n-1が含まれている。そのため、画サイズ変換回路103には、図16に示すように、画像信号Sbとしてn−1フレームの画像信号が入力されるとき、動きベクトルMVn-2/n-3,MVn-1/n-2,MVn/n-1,MVn-2/n-1,MVn-3/n-2が入力される。また、画サイズ変換回路103からは、図16に示すように、画像信号Scとしてn−3フレームの画像信号が出力されるとき、動きベクトルMVn-3/n-4,MVn-2/n-3,MVn-1/n-2,MVn-3/n-2,MVn-4/n-3が出力される。ここで、MVp/qは、pフレームのqフレームに対する動きベクトルである。
なお、付加情報記憶部309に記憶されている動きベクトルは、DCTの処理単位であるブロック単位で検出されたものである。つまり、この動きベクトルは、画像信号Sbの各フレームにおけるブロック毎に存在する。画サイズ変換回路103で、画像信号Sbを画像信号Scに変換する場合、画像信号Sbの各フレームにおけるブロック(ブロック1)が、画像信号Scの各フレームにおけるブロック(ブロック2)に変換される。
例えば、倍率が1.25倍であるときは、4×4のサイズのブロック1は、5×5のサイズのブロック2に変換される。また例えば、倍率が1.5倍であるときは、4×4のブロック1は、6×6のサイズのブロック2に変換される。また例えば、倍率が2倍であるときは、4×4のブロック1は、8×8のブロック2に変換される。
上述した付加情報記憶部309内のフレームメモリは画像信号Sbに対応したものである。付加信号送信部310は、上述したように、付加情報記憶部309内のフレームメモリに記憶されている各情報を読み出して付加信号Sicとして出力する際、当該各情報を、内蔵のフレームメモリに一時的に蓄積し、その後に読み出して出力する。この場合、付加信号送信部310は、ブロックサイズを示すフレームのブロック情報を画像信号Sbにおけるブロックサイズから画像信号Scにおけるブロックサイズを示すように変更する。またこの場合、付加信号送信部310は、ブロック毎の動きベクトルに倍率をかけた大きさに変更し、そして画像信号Sbのあるブロックに対応した動きベクトルを、そのブロックに対応した画像信号Scのブロックに対応した位置に記憶する。
画像信号処理部303についてさらに説明する。この画像信号処理部303は、DVDプレーヤ101から出力される画像信号Saの現フレームがnフレームであるとき、n−2フレームを処理中心フレームとし、付加信号Sib,Sieに含まれる動きベクトルMVn-2/n-3,MVn-2/n-1を用いて、画サイズの変換処理を行う。
この場合、図21に示すように、付加信号Sib,Sieには、動きベクトルMVn-2/n-3,MVn-1/n-2,MVn/n-1,MVn-2/n-1,MVn-3/n-2が含まれている。この場合、n−2フレームに関してのみ、前後のフレームに対する動きベクトルMVn-2/n-3,MVn-2/n-1が存在することから、当該n−2フレームの画像信号を処理中心フレームとしている。
この画像信号処理部303は、動きベクトル検出部321を有している。この動きベクトル検出部321は、制御部103Bの制御に基づき、付加信号Sib,Sieに含まれている付加情報に、動きベクトルMVn-2/n-3,MVn-2/n-1のいずれもないとき、あるいは動きベクトルMVn-2/n-3,MVn-2/n-1のいずれかはあるが、動き量が0であるとき、画像信号Scの注目画素位置が含まれる画像信号Sbのブロックにおける、動きベクトルMVn-2/n-3,MVn-2/n-1の一方または双方を検出する。この動きベクトルの検出は、従来周知のブロックマッチング法あるいは勾配法等で行われる。本実施の形態においては、上述したように、付加信号Sib,Sieに動きベクトルMVn-2/n-3,MVn-2/n-1が含まれているので、動きベクトル検出部321では動きベクトルMVn-2/n-3,MVn-2/n-1の検出は行われない。
また、画像信号処理部303は、予測タップ選択部322を有している。この予測タップ選択部322は、制御部103Bから供給されるタップ位置情報に基づいて、画像信号Sbのn−2フレーム(処理対象フレーム)から、画像信号Scにおける注目画素位置の周辺に位置する複数の画素データを予測タップのデータとして選択的に抽出する。
この場合、制御部103Bは、画像信号Scの注目画素位置が含まれる画像信号Sbのブロックにおける動き量を動きベクトルMVn-2/n-3,MVn-2/n-1から求め、この動き量がしきい値THより大きいときは予測タップ範囲を第1の範囲とし、逆にその動き量がしきい位置以下であるときは予測タップ範囲を第2の範囲とする。
ここで、第1の範囲は、動き量が大きい場合の予測タップ範囲であり、時空間方向において、空間方向(垂直方向、水平方向)に、より広い範囲とされている。また、第2の範囲は、動き量が小さい場合の予測タップ範囲であり、時空間方向において、第1の範囲と比べて、時間方向(フレーム方向)に、より広い範囲とされている。
ここで、動き量Qは、以下のように求められる。すなわち、動きベクトルMVn-2/n-3,MVn-2/n-1の双方があるときは、MVn-2/n-3=(xb,yb)、MVn-2/n-1=(xa,ya)として、Q=(√(xb2+yb2)+√(xa2+ya2))/2の式で求めることができる。動きベクトルMVn-2/n-3のみがあるときは、MVn-2/n-3=(xb,yb)として、Q=√(xb2+yb2)の式で求めることができる。また、動きベクトルMVn-2/n-1のみがあるときは、MVn-2/n-1=(xa,ya)として、Q=√(xa2+ya2)の式で求めることができる。
また、画像信号処理部303は、クラスタップ選択部322を有している。このクラスタップ選択部323は、制御部103Bから供給されるタップ位置情報に基づいて、画像信号Sbのn−2フレーム(処理対象フレーム)、さらにはその前後のフレームから、画像信号Scにおける注目画素位置の周辺に位置する複数の画素データをクラスタップのデータとして選択的に抽出する。
すなわち、クラスタップ選択部323は、付加信号Sib,Sieに動きベクトルMVn-2/n-3,MVn-2/n-1が含まれているときは、画像信号Sbのn−2フレーム(処理中心フレーム)だけでなく、当該動きベクトルMVn-2/n-3,MVn-2/n-1で動き補償されたn−3フレーム、n−1フレームからも、クラスタップのデータとしての複数の画素データを抽出する(ケースA)。
また、クラスタップ選択部323は、付加信号Sib,Sieに動きベクトルMVn-2/n-3が含まれているときは、画像信号Sbのn−2フレーム(処理中心フレーム)だけでなく、当該動きベクトルMVn-2/n-3で動き補償されたn−3フレームからも、クラスタップのデータとしての複数の画素データを抽出する(ケースB)。
また、クラスタップ選択部323は、付加信号Sib,Sieに動きベクトルMVn-2/n-1が含まれているときは、画像信号Sbのn−2フレーム(処理中心フレーム)だけでなく、当該動きベクトルMVn-2/n-1で動き補償されたn−1フレームからも、クラスタップのデータとしての複数の画素データを抽出する(ケースC)。
さらに、クラスタップ選択部323は、付加信号Sib,Sieに動きベクトルMVn-2/n-3,MVn-2/n-1のどちらも含まれていないときは、画像信号Sbのn−2フレーム(処理中心フレーム)だけから、クラスタップのデータとしての複数の画素データを抽出する(ケースD)。
本実施の形態においては、上述したように、付加信号Sib,Sieに動きベクトルMVn-2/n-3,MVn-2/n-1が含まれているので、クラスタップ選択部323では、画像信号Sbのn−2フレーム(処理中心フレーム)だけでなく、動き補償されたn−3フレーム、n−1フレームからも、クラスタップのデータとしての複数の画素データが抽出される。
また、画像信号処理部303は、クラス検出部324を有している。このクラス検出部324は、クラスタップ選択部323で選択的に抽出されるクラスタップのデータとしての複数の画素データを処理して、画像信号Scにおける注目画素位置の画素データが属するクラスを示すクラスコードCLを生成する。
すなわち、クラス検出部324は、まず、複数の画素データに、例えばADRC(Adaptive Dynamic Range Coding)のデータ圧縮処理を施し、各画素データを8ビットデータから2ビットデータあるいは1ビットデータに圧縮する。この場合、複数の画素データの最大値をMAX、その最小値をMIN、複数の画素データのダイナミックレンジをDR(=MAX−MIN+1)、再量子化ビット数をPとすると、各画素データkiに対して、(2)式の演算により、圧縮データとしての再量子化コードqiが得られる。ただし、(2)式において、[ ]は切り捨て処理を意味している。クラスタップのデータとして、Na個の画素データがあるとき、i=1〜Naである。
qi=[(ki−MIN+0.5)*2P/DR] ・・・(2)
クラス検出部324は、次に、クラスタップのデータとしての複数の画素データのそれぞれに対して得られた上述の再量子化コードqiを用い、(3)式の演算により、クラスコードCLを生成する。
なおこの場合、上述したケースA〜Dのそれぞれで抽出されたクラスタップのデータによるクラスコードCLが、オーバーラップしないようにされる。したがって、上述では、いずれの場合にも、クラスコードCLを(3)式の演算により生成する旨説明したが、実際にはオーバーラップを防止するためのビット付加等の処理も行われる。
また、画像信号処理部303は、係数データ生成部325と、ROM326とを有している。ROM326は、各クラスの係数種データを記憶している。なお、上述したように、予測タップ選択部322における予測タップ範囲、つまり予測タップのデータとしての複数の画素データを選択的に抽出する範囲は、動き量に応じて、第1の範囲あるいは第2の範囲とされる。したがって、ROM326に記憶されている各クラスの係数種データは、さらに、予測タップ範囲が第1の範囲であるときの係数種データと、予測タップ範囲が第2の範囲であるときの係数種データとからなっている。
後述する推定予測演算部327では、予測タップのデータとしての複数の画素データxiと、係数データWiとを用い、(4)式の推定式に基づいて、画像信号Scにおける注目画素位置の画素データyが求められる。この(4)式において、nは複数の画素データxiの個数である。
ROM326に記憶される係数種データは、上述した推定式の係数データWi(i=1〜n)を生成するための、位相情報h,vをパラメータとする生成式の係数データである。(5)式は、その生成式の一例を示している。ここで、位相情報hは水平方向の位相情報であり、位相情報vは垂直方向の位相情報である。
ROM326には、例えば、(5)式の生成式における係数データである係数種データwi0〜wi9(i=1〜n)が、クラスおよび予測タップ範囲の組み合わせ毎に、記憶されている。この係数種データの生成方法については後述する。
係数データ生成部325は、クラス検出部324で得られたクラスコードCLが表すクラス、および制御部103Bから供給される予測タップ範囲の情報INFが表す予測タップ範囲に対応した係数種データwi0〜wi9をROM326から読み出し、さらに制御部103Bから供給される、画像信号Scにおける注目画素位置の位相情報h,vの値を用い、(5)式の生成式に基づいて、係数データWiを生成する。
ここで、画像信号Sbに対する、画像信号Scの各画素の位置は、倍率情報MGで示す倍率に応じて変化する。例えば、図22は、倍率情報MGで示す倍率が1.25倍であるときの、入力(画像信号Sb)と出力(画像信号Sc)の画素位置関係を示している。また例えば、図23は、倍率情報MGで示す倍率が1.5倍であるときの、入力(画像信号Sb)と出力(画像信号Sc)の画素位置関係を示している。
なお、倍率情報MGで示す倍率が大きくなる程、画像信号処理部303における画像信号Sbの処理領域は小さくなる。例えば、倍率が1.25倍で水平および垂直の各方向の画サイズを1.25倍とする場合、水平および垂直の各方向の処理領域は1/1.25倍となる。なお、処理領域の中心は、例えば画面中心に固定、あるいはユーザが任意に指定可能とされる。
制御部103Bは、倍率情報MGに基づき、画像信号Scにおける注目画素位置の位相情報h,vを発生する。この場合、例えば、画像信号Sbの水平方向、垂直方向の画素間隔をそれぞれ16とし、画像信号Scにおける注目画素位置から水平方向、垂直方向にそれぞれ最も近い位置にある画像信号Sbにおける画素(最短画素)までの距離を、位相情報h,vとしている。
ここで、位相情報hに関しては、注目画素位置が最短画素より左方に位置するときは負の値とされ、逆に注目画素位置が最短画素より右方に位置するときは正の値とされる。同様に、位相情報vに関しては、注目画素位置が最短画素より上方に位置するときは負の値とされ、逆に注目画素位置が最短画素より下方に位置するときは正の値とされる。
また、画像信号処理部303は、推定予測演算部327を有している。この推定予測演算部327は、予測タップ選択部322で選択的に抽出された予測タップのデータとしての複数の画素データxiと、係数データ生成部325から読み出された係数データWiとを用い、(4)式の推定式に基づいて、画像信号Scにおける注目画素位置の画素データyを算出する。
次に、画像信号処理部303の動作を説明する。
クラスタップ選択部323では、制御部103Bから供給されるタップ位置情報に基づいて、画像信号Sbのn−2フレーム(処理対象フレーム)、さらにはその前後のフレームから、画像信号Scにおける注目画素位置の周辺に位置する複数の画素データが、クラスタップのデータとして選択的に抽出される。
このクラスタップのデータとしての複数の画素データの選択の仕方は、付加信号Sib,Sieに含まれており、付加情報記憶部309に記憶された各情報に動きベクトルMVn-2/n-3,MVn-2/n-1があるか否かにより、ケースA〜ケースDに分類される。
ケースAは、動きベクトルMVn-2/n-3,MVn-2/n-1の双方がある場合に適用され、画像信号Sbのn−2フレーム(処理中心フレーム)だけでなく、当該動きベクトルMVn-2/n-3,MVn-2/n-1で動き補償されたn−3フレーム、n−1フレームからも、クラスタップのデータとしての複数の画素データが抽出される。ケースBは、動きベクトルMVn-2/n-3がある場合に適用され、画像信号Sbのn−2フレーム(処理中心フレーム)だけでなく、当該動きベクトルMVn-2/n-3で動き補償されたn−3フレームからも、クラスタップのデータとしての複数の画素データが抽出される。
ケースCは、動きベクトルMVn-2/n-1がある場合に適用され、画像信号Sbのn−2フレーム(処理中心フレーム)だけでなく、当該動きベクトルMVn-2/n-1で動き補償されたn−1フレームからも、クラスタップのデータとしての複数の画素データが抽出される。ケースDは、動きベクトルMVn-2/n-3,MVn-2/n-1のどちらもない場合に適用され、画像信号Sbのn−2フレーム(処理中心フレーム)だけから、クラスタップのデータとしての複数の画素データが抽出される。
本実施の形態においては、動きベクトルMVn-2/n-3,MVn-2/n-1の双方があるので、クラスタップのデータとしての複数の画素データの選択の仕方は、ケースAで行われる。すなわち、画像信号Sbのn−2フレーム(処理中心フレーム)だけでなく、動き補償されたn−3フレーム、n−1フレームからも、クラスタップのデータとしての複数の画素データが抽出される。
クラスタップ選択部323で選択的に抽出された複数の画素データは、クラス検出部324に供給される。このクラス検出部324では、この複数の画素データのそれぞれに対してADRC処理が施されて再量子化コードqiが得られ、さらにこの再量子化コードqiを用いてクラスコードCLが生成される((2)式、(3)式参照)。なおこの場合、上述したケースA〜Dのそれぞれで抽出されたクラスタップのデータによるクラスコードCLが、オーバーラップしないように、クラスコードCLを生成する際に、ビット付加等の処理も行われる。
予測タップ選択部322では、制御部103Bから供給されるタップ位置情報に基づいて、画像信号Sbのn−2フレーム(処理対象フレーム)およびその前後のフレームから、画像信号Scにおける注目画素位置の周辺に位置する複数の画素データが、予測タップのデータとして選択的に抽出される。
この場合、制御部103Bでは、画像信号Scの注目画素位置が含まれる画像信号Sbのブロックにおける動き量が動きベクトルMVn-2/n-3,MVn-2/n-1から求められ、この動き量がしきい値THより大きいときは予測タップ範囲が動き量が大きい場合の第1の範囲に決定され、逆にその動き量がしきい位置以下であるときは予測タップ範囲が動き量が小さい場合の第2の範囲に決定される。
この場合、付加情報記憶部309に記憶された各情報に動きベクトルMVn-2/n-3,MVn-2/n-1があるか否か等から、しきい値THと比較すべき最終的な動き量Qが、以下のように求められる。
すなわち、動きベクトルMVn-2/n-3,MVn-2/n-1の双方があるときは、まず、MVn-2/n-3=(xb,yb)、MVn-2/n-1=(xa,ya)とし、Q=(√(xb2+yb2)+√(xa2+ya2))/2の式によって動き量Qが求められる。次に、当該動き量Qが0であるか否かが判定される。当該動き量Qが0でない場合には、当該動き量Qが最終的な動き量Qとされる。一方、当該動き量Qが0である場合には、次に、動きベクトル検出部321によって例えば動きベクトルMVn-2/n-1が検出され、MVn-2/n-1=(xa,ya)とし、Q=√(xa2+ya2)の式によって動き量Qが求められ、当該動き量Qが最終的な動き量Qとされる。
また、動きベクトルMVn-2/n-3のみがあるときは、まず、MVn-2/n-3=(xb,yb)とし、Q=√(xb2+yb2)の式によって動き量Qが求められる。次に、当該動き量Qが0であるか否かが判定される。当該動き量Qが0でない場合には、当該動き量Qが最終的な動き量Qとされる。一方、当該動き量Qが0である場合には、次に、動きベクトル検出部321によって例えば動きベクトルMVn-2/n-1が検出され、MVn-2/n-1=(xa,ya)とし、Q=√(xa2+ya2)の式によって動き量Qが求められ、当該動き量Qが最終的な動き量Qとされる。
また、動きベクトルMVn-2/n-3のみがあるときは、まず、MVn-2/n-1=(xa,ya)、MVn-2/n-1=(xa,ya)とし、Q=√(xa2+ya2)の式によって動き量Qが求められる。次に、当該動き量Qが0であるか否かが判定される。当該動き量Qが0でない場合には、当該動き量Qが最終的な動き量Qとされる。一方、当該動き量Qが0である場合には、次に、動きベクトル検出部321によって例えば動きベクトルMVn-2/n-1が検出され、MVn-2/n-1=(xa,ya)とし、Q=√(xa2+ya2)の式によって動き量Qが求められ、当該動き量Qが最終的な動き量Qとされる。
さらに、動きベクトルMVn-2/n-3,MVn-2/n-1のいずれもないときは、まず、動きベクトル検出部321で例えば動きベクトルMVn-2/n-1が検出され、MVn-2/n-1=(xa,ya)とし、Q=√(xa2+ya2)の式によって動き量Qが求められ、当該動き量Qが最終的な動き量Qとされる。
本実施の形態においては、動きベクトルMVn-2/n-3,MVn-2/n-1の双方があるので、まず、Q=(√(xb2+yb2)+√(xa2+ya2))/2の式によって動き量Qが求められる。次に、当該動き量Qが0であるか否かが判定される。当該動き量Qが0でない場合には、当該動き量Qが最終的な動き量Qとされる。一方、当該動き量Qが0である場合には、次に、動きベクトル検出部321によって例えば動きベクトルMVn-2/n-1が検出され、Q=√(xa2+ya2)の式によって動き量Qが求められ、当該動き量Qが最終的な動き量Qとされる。
クラス検出部324で得られるクラスコードCLは係数データ生成部325に供給される。この係数データ生成部325には、制御部103Bから、予測タップ選択部322における予測タップ範囲(第1の範囲または第2の範囲)の情報INF、および画像信号Scにおける注目画素位置の位相情報h,vが供給される。これにより、係数データ生成部325では、画像信号Scにおける注目画素位置に対応して、ROM326からクラスコードCLが表すクラスおよび予測タップ範囲の情報INFが表す予測タップ範囲に対応した係数種データwi0〜wi9が読み出され、位相情報h,vの値を用いて、(5)式の生成式に基づいて、係数データWiが生成される。この係数データWiは、推定予測演算部327に供給される。
この推定予測演算部327には、予測タップ選択部322で選択的に抽出された予測タップのデータとしての複数の画素データxiが供給される。この推定予測演算部327では、複数の画素データxiおよび係数データWiを用い、(4)式の推定式に基づいて、画像信号Scにおける注目画素位置の画素データyが算出される。この場合、注目画素位置を、画像信号Scの全画素位置に順次変化させていくことで、画像信号Scの全画素位置の画素データyが求められる。
図24のフローチャートは、画像信号処理部303における画像信号Scにおける注目画素位置の画素データyを生成する処理手順を示している。まず、ステップST51で、処理を開始し、ステップST52で、付加信号Sib,Sieに含まれており、付加情報記憶部309に記憶された各情報に動きベクトルMVn-2/n-3,MVn-2/n-1があるか否かを判定する。ここで、n−2フレームが処理中心フレーム、n−3フレームはその前フレーム、n−1フレームはその後フレームである。そして、動きベクトルMVn-2/n-3は、処理中心フレームの前フレームに対する動きベクトルであり、動きベクトルMVn-2/n-1は、処理中心フレームの後フレームに対する動きベクトルである。
動きベクトルMVn-2/n-3,MVn-2/n-1の双方があるときは、ステップST53で、画像信号Sbのn−2フレーム(処理中心フレーム)だけでなく、当該動きベクトルMVn-2/n-3,MVn-2/n-1で動き補償されたn−3フレーム(前フレーム)、n−1フレーム(後フレーム)からも、画像信号Scにおける注目画素位置の周辺に位置する、クラスタップのデータとしての複数の画素データを抽出する(ケースA)。
動きベクトルMVn-2/n-3のみがあるときは、ステップST54で、画像信号Sbのn−2フレームだけでなく、当該動きベクトルMVn-2/n-3で動き補償されたn−3フレームからも、画像信号Scにおける注目画素位置の周辺に位置する、クラスタップのデータとしての複数の画素データを抽出する(ケースB)。動きベクトルMVn-2/n-1のみがあるときは、ステップST55で、画像信号Sbのn−2フレームだけでなく、当該動きベクトルMVn-2/n-1で動き補償されたn−1フレームからも、画像信号Scにおける注目画素位置の周辺に位置する、クラスタップのデータとしての複数の画素データを抽出する(ケースC)。動きベクトルMVn-2/n-3,MVn-2/n-1のいずれもないときは、ステップST56で、画像信号Sbのn−2フレームのみから、画像信号Scにおける注目画素位置の周辺に位置する、クラスタップのデータとしての複数の画素データを抽出する(ケースD)。
次に、ステップST57で、ステップST53〜ステップST56のいずれかで抽出された複数の画素データにADRC等のデータ圧縮処理を施し、画像信号Scにおける注目画素位置の画素データが属するクラスを示すクラスコードCLを生成する。この場合、上述したケースA〜Dのそれぞれで抽出されたクラスタップのデータによるクラスコードCLがオーバーラップしないように、当該クラスコードCLを生成する際にビット付加等の処理も行う。
次に、ステップST58で、付加情報記憶部309に記憶されている動きベクトルMVn-2/n-3,MVn-2/n-1に基づいて、動き量Qを求める。例えば、動きベクトルMVn-2/n-3,MVn-2/n-1の双方があるときは、MVn-2/n-3=(xb,yb)、MVn-2/n-1=(xa,ya)として、Q=(√(xb2+yb2)+√(xa2+ya2))/2の式で求める。動きベクトルMVn-2/n-3のみがあるときは、MVn-2/n-3=(xb,yb)として、Q=√(xb2+yb2)の式で求める。また、動きベクトルMVn-2/n-1のみがあるときは、MVn-2/n-1=(xa,ya)として、Q=√(xa2+ya2)の式で求める。なお、動きベクトルMVn-2/n-3,MVn-2/n-1の双方がないときは、動き量Q=0とする。
次に、ステップST59で、動き量Qが0であるか否かを判定する。動き量が0であるときは、ステップST60に進み、例えば動きベクトルMVn-2/n-1を求め、さらに動き量Qを、MVn-2/n-1=(xa,ya)として、Q=√(xa2+ya2)の式で求める。そして、その後にステップST61に進む。一方、ステップST59で動き量Qが0でないときは、直ちにステップST61に進む。
ステップST61では、動き量Qがしきい値THより大きいか否かを判定する。Q>THであるときは、ステップST62で、予測タップ範囲を動き量が大きい場合の第1の範囲とし、Q>THでないときは、ステップST63で、予測タップ範囲を動き量が小さい場合の第2の範囲とする。
次に、ステップST64で、ステップST62またはステップST63で決定された第1の範囲または第2の範囲で、画像信号Sbのn−2フレーム(処理中心フレーム)およびその前後のフレームから、画像信号Scにおける注目画素位置の周辺に位置する、予測タップのデータとしての複数の画素データを選択的に抽出する。
次に、ステップST65で、ステップST57で生成されたクラスコードCLが表すクラス、およびステップST62またはステップST63で決定された予測タップ範囲に対応した係数種データwi0〜wi9と、画像信号Scにおける注目画素位置の位相情報h,vとから、係数データWiを生成する((5)式参照)。
次に、ステップST66で、ステップST64で抽出された予測タップとしての複数の画素データxiと、ステップST65で生成された係数データWiとを用い、推定式((4)式参照)に基づいて、画像信号Scにおける注目画素位置の画素データyを生成する。そして、ステップST67で、処理を終了する。
図20に示す画サイズ変換回路103の動作を説明する。
付加信号入力端子306,307に入力される付加信号Sib,Sieは付加信号受信部308で受信される。そして、付加情報記憶部309では、各フレームで、付加信号Sib,Sieを構成する各情報が、ブランキング部分、有効画素部分にそれぞれ対応させて、フレームメモリに記憶される。
また、画像信号入力端子301に入力される画像信号Sbは画像信号受信部302で受信される。画像信号処理部303では、上述したように、画像信号Sbから、倍率情報MGで指定される倍率の画像を表示するための画像信号Scを生成する処理が行われる。ここで、本実施の形態では、付加信号Sib,Sieに付加情報として含まれる動きベクトルMVn-2/n-3,MVn-2/n-1が、処理中心フレームの前後のフレームにクラスタップを張る際の動き補償に使用され、また予測タップ範囲を決定する際の動き量Qを求める際に使用される。
このように、画像信号処理部303で処理されて得られた画像信号Scは、画像信号送信部304に供給され、後段のディスプレイ104に送信するために、画像信号出力端子305に出力される。
また、各フレームで、付加情報記憶部309内のフレームメモリに記憶された各情報が付加情報送信部310により読み出され、画像信号Scに同期した状態で、付加信号出力端子311に、次段のディスプレイ104に送信するための付加信号Sicとして順次出力される。
図20に示す画サイズ変換回路103では、受信された付加信号Sib,Sieに付加情報として含まれていた動きベクトルMVn-2/n-3,MVn-2/n-1を用いて、処理中心フレームの前後のフレームにクラスタップを張る際の動き補償を行うことができ、また予測タップ範囲を決定する際の動き量Qを求めることができ、画サイズ変換処理の性能が向上する。
なお、図20に示す画サイズ変換回路103における画像信号処理部303では、動き量Qが0であるときは、動き量Qがしきい値TH以下である場合と同様に、予測タップ範囲を第2の範囲とするものであるが、動き量Qが0であるときは、予測タップ範囲を、動き量に関係なく定められた一般的な範囲である、第3の範囲とすることもできる。
図25は、その場合における、画像信号処理部303における画像信号Scにおける注目画素位置の画素データyを生成する処理手順を示している。この図25において、図24と対応するステップには同一符号を付して示している。
この図25に示す処理手順においては、ステップST60で動きベクトルMVn-2/n-1を求め、さらに動き量Qを、MVn-2/n-1=(xa,ya)として、Q=√(xa2+ya2)の式で求めた後、ステップST60Aで、動き量Qが0であるか否かを判定する。動き量Qが0でないときは、ステップST61に進む。一方、動き量Qが0であるときは、ステップST60Bで、予測タップ範囲を第3の範囲とし、その後ステップST64に進む。その他のステップに関しては、図24のフローチャートと同様である。
次に、上述した画サイズ変換回路103の処理本体部103A内のROM326に記憶される係数種データの生成方法について説明する。この係数種データwi0〜wi9は、予め学習によって生成される。ここでは、(5)式の生成式における係数データである係数種データwi0〜wi9を求める例を示すものとする。
ここで、以下の説明のため、(6)式のように、tj(j=0〜9)を定義する。
t0=1,t1=v,t2=h,t3=v2,t4=vh,t5=h2,t6=v3,
t7=v2h,t8=vh2,t9=h3
・・・(6)
この(6)式を用いると、(5)式は、(7)式のように書き換えられる。
最終的に、学習によって未定係数wijを求める。すなわち、クラス毎に、生徒信号の画素データと教師信号の画素データとを用いて、二乗誤差を最小にする係数値を決定する。いわゆる最小二乗法による解法である。学習数をm、k(1≦k≦m)番目の学習データにおける残差をek、二乗誤差の総和をEとすると、(4)式および(5)式を用いて、Eは(8)式で表される。ここで、xikは生徒画像のi番目の予測タップ位置におけるk番目の画素データ、ykはそれに対応する教師画像のk番目の画素データを表している。
最小二乗法による解法では、(8)式のwijによる偏微分が0になるようなwijを求める。これは、(9)式で示される。
以下、(10)式、(11)式のように、Xipjq、Yipを定義すると、(9)式は、行列を用いて(12)式のように書き換えられる。
この方程式は一般に正規方程式と呼ばれている。この正規方程式は、掃き出し法(Gauss-Jordanの消去法)等を用いて、wijについて解かれ、係数種データが算出される。
図26は、上述した係数種データの生成方法の概念を示している。教師信号としてのHD信号(1050i信号)から生徒信号としてのSD信号(525i信号)を生成する。525i信号は、ライン数が525本でインタレース方式の画像信号を意味している。1050i信号は、ライン数が1050本でインタレース方式の画像信号を意味している。
図27は、SD信号(525i信号)とHD信号(1050i信号)の画素位置関係を示している。ここで、大きなドットが525i信号の画素であり、小さなドットが1050i信号の画素である。また、奇数フィールドの画素位置を実線で示し、偶数フィールドの画素位置を破線で示している。
このSD信号の位相を垂直方向に8段階、水平方向に8段階にシフトさせて、8×8=64種類のSD信号SD1〜SD64を生成する。位相シフトの方法の例として、例えばオーバーサンプリングフィルタから欲しい位相だけを抜き出す方法がある。
図28は、垂直方向への8段階の位相シフト状態V1〜V8を示している。ここでは、SD信号の垂直方向の画素間隔は16であり、下方向が正の方向とされている。また、「o」は奇数フィールドを、「e」は偶数フィールドを表している。
V1の状態はSD信号のシフト量が0とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、4,0,−4,−8の位相を持つようになる。V2の状態はSD信号のシフト量が1とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、7,3,−1,−5の位相を持つようになる。V3の状態はSD信号のシフト量が2とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、6,2,−2,−6の位相を持つようになる。V4の状態はSD信号のシフト量が3とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、5,1,−3,−7の位相を持つようになる。
V5の状態はSD信号のシフト量が4とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、4,0,−4,−8の位相を持つようになる。V6の状態はSD信号のシフト量が5とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、7,3,−1,−5の位相を持つようになる。V7の状態はSD信号のシフト量が6とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、6,2,−2,−6の位相を持つようになる。V8の状態はSD信号のシフト量が7とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、5,1,−3,−7の位相を持つようになる。
図29は、水平方向への8段階の位相シフト状態H1〜H8を示している。ここではSD信号の水平方向の画素間隔は16であり、右方向が正の方向とされている。
H1の状態はSD信号のシフト量が0とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、0,−8の位相を持つようになる。H2の状態はSD信号のシフト量が1とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、7,−1の位相を持つようになる。H3の状態はSD信号のシフト量が2とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、6,−2の位相を持つようになる。H4の状態はSD信号のシフト量が3とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、5,−3の位相を持つようになる。
H5の状態はSD信号のシフト量が4とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、4,−4の位相を持つようになる。H6の状態はSD信号のシフト量が5とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、3,−5の位相を持つようになる。H7の状態はSD信号のシフト量が6とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、2,−6の位相を持つようになる。H8の状態はSD信号のシフト量が7とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、1,−7の位相を持つようになる。
図30は、上述したように垂直方向に8段階、水平方向に8段階にシフトさせて得られた64種類のSD信号に関し、SD信号の画素を中心とした場合のHD信号の位相を示している。すなわち、SD信号の画素に対して、HD信号の画素は図中の●で示す位相を持つようになる。
図31は、上述した概念で係数種データを生成する係数種データ生成装置350の構成を示している。
この係数種データ生成装置350は、装置全体の動作を制御する制御部351と、教師信号としてのHD信号(1050i信号)が入力される入力端子352と、位相シフト回路353とを有している。この位相シフト回路353は、入力端子352に入力されたHD信号に対して、水平および垂直方向にオーバーサンプリングフィルタをかけ、欲しい位相を抜き出して、生徒信号としてのSD信号(525i信号)を取得する。この位相シフト回路353には、水平方向、垂直方向への位相シフト量を指定するパラメータH,Vが入力される。この場合、位相シフト回路353では、SD信号の位相が、垂直方向に8段階、水平方向に8段階にシフトするようにされ、合計64種類のSD信号が生成される(図26参照)。
また、係数種データ生成装置350は、動きベクトル・動き量検出部354を有している。この検出部354は、SD信号のn−1フレーム(処理中心フレーム)の、HD信号の注目画素位置が含まれるブロックにおける、動きベクトルMVn-1/n-2,MVn-1/nを検出する。ここで、動きベクトルMVn-1/n-2はn−1フレーム(処理中心フレーム)のn−2フレーム(前フレーム)に対する動きベクトルであり、動きベクトルMVn-1/nはn−1フレーム(処理中心フレーム)のnフレーム(後フレーム)に対する動きベクトルである。この動きベクトルの検出は、従来周知のブロックマッチング法あるいは勾配法等で行われる。
また、検出部354は、動きベクトルMVn-1/n-2,MVn-1/nを用いて、動き量Qを求める。この場合、検出部354は、例えば、MVn-1/n-2=(xb,yb)、MVn-1/n=(xa,ya)として、Q=(√(xb2+yb2)+√(xa2+ya2))/2の式で、動き量Qを求める。
また、係数種データ生成装置350は、予測タップ選択部355を有している。この予測タップ選択部355は、制御部351から供給されるタップ位置情報に基づいて、SD信号のn−1フレームおよびその前後のフレームから、HD信号のn−1フレームにおける注目画素位置の周辺に位置する複数の画素データを、予測タップのデータとして選択的に抽出する。この場合、予測タップ範囲は、動き量Qがしきい値THより大きいときは動き量が大きい場合の第1の範囲とされ、動き量Qがしきい値TH以下であるときは動き量が小さい場合の第2の範囲とされる。この予測タップ選択部355は、上述した処理本体部103A(図20参照)の予測タップ選択部322に対応するものである。
また、係数種データ生成装置350は、クラスタップ選択部356を有している。このクラスタップ選択部355は、制御部351から供給されるタップ位置情報に基づいて、SD信号のn−1フレーム、さらにはn−2フレーム、nフレームから、HD信号のn−1フレームにおける注目画素位置の周辺に位置する複数の画素データを、クラスタップのデータとして選択的に抽出する。このクラスタップ選択部356は、上述した処理本体部103A(図20参照)のクラスタップ選択部323に対応するものである。
この場合、上述したケースAに対応した各クラスの係数種データwi0〜wi9を求める正規方程式を取得する際には、SD信号のn−1フレーム(処理中心フレーム)だけでなく、動きベクトルMVn-1/n-2,MVn-1/nで動き補償されたn−2フレーム、nフレームからも、クラスタップのデータとしての複数の画素データが抽出される。
また、上述したケースBに対応した各クラスの係数種データwi0〜wi9を求める正規方程式を取得する際には、SD信号のn−1フレーム(処理中心フレーム)だけでなく、動きベクトルMVn-1/n-2で動き補償されたn−2フレームからも、クラスタップのデータとしての複数の画素データが抽出される。
また、上述したケースCに対応した各クラスの係数種データwi0〜wi9を求める正規方程式を取得する際には、SD信号のn−1フレーム(処理中心フレーム)だけでなく、動きベクトルMVn-1/nで動き補償されたnフレームからも、クラスタップのデータとしての複数の画素データが抽出される。
さらに、上述したケースDに対応した各クラスの係数種データwi0〜wi9を求める正規方程式を取得する際には、SD信号のn−1フレーム(処理中心フレーム)のみから、クラスタップのデータとしての複数の画素データが抽出される。
また、係数種データ生成装置350は、クラス検出部357を有している。このクラス検出部357は、クラスタップ選択部356で選択的に抽出されるクラスタップのデータとしての複数の画素データを処理して、HD信号のn−1フレームにおける注目画素位置の画素データが属するクラスを示すクラスコードCLを生成する。このクラス検出部357は、上述した処理本体部103A(図20参照)のクラス検出部324に対応するものである。
また、係数種データ生成装置350は、教師タップ選択部358を有している。この教師タップ選択部358は、HD信号のn−1フレーム(処理中心フレーム)から、注目画素位置の画素データを選択的に抽出する。
また、係数種データ生成装置350は、正規方程式生成部359を有している。この正規方程式生成部359は、教師タップ選択部358で選択的に抽出された、HD信号のn−1フレームにおける各注目画素位置の画素データyと、この各注目画素位置の画素データyにそれぞれ対応して予測タップ選択部355で選択的に抽出された、予測タップのデータとしての複数の画素データxiと、各注目画素位置の画素データyにそれぞれ対応してクラス検出部357で得られたクラスコードCLと、各注目画素位置の画素データyの水平、垂直の位相情報h,vとから、クラス毎に、係数種データwi0〜wi9を得るための正規方程式((12)式参照)を生成する。
この場合、一個の画素データyとそれに対応するn個の画素データxiとの組み合わせで一個の学習データが生成される。位相シフト回路353へのパラメータH,Vが順次変更されていき、垂直、水平の位相シフト値が段階的に変化した64種類のSD信号が順次生成されていく。これにより、正規方程式生成部359では、多くの学習データが登録された正規方程式が生成される。このようにSD信号を順次生成して学習データを登録することで、水平、垂直の任意の位相の画素データを得るための係数種データwi0〜wi9を求めることが可能となる。
なお、正規方程式生成部359には、制御部351から予測タップ範囲の情報INFが供給される。これにより、正規方程式生成部359は、各クラスの係数種データwi0〜wi9を得るための正規方程式として、予測タップ範囲が第1の範囲および第2の範囲に対応した係数種データwi0〜wi9をそれぞれ得るための正規方程式を生成する。結局、正規方程式生成部359は、クラスおよび予測タップ範囲(第1の範囲、第2の範囲)の組み合わせ毎に、係数種データwi0〜wi9を得るための正規方程式((12)式参照)を生成する。
また、係数種データ生成装置350は、係数種データ決定部360と、係数種メモリ361とを有している。係数種データ決定部360は、正規方程式生成部359から正規方程式のデータの供給を受け、当該正規方程式を掃き出し法等によって解き、クラスおよび予測タップ範囲の組み合わせ毎に、係数種データwi0〜wi9を求める。係数種メモリ361は、この係数種データwi0〜wi9を格納する。
図31に示す係数種データ生成装置350の動作を説明する。
入力端子352には教師信号としてのHD信号(1050i信号)が入力される。このHD信号に対して、位相シフト回路353では、水平および垂直方向にオーバーサンプリングフィルタがかけられ、欲しい位相が抜き出されてSD信号(525i信号)が得られる。この場合、SD信号として垂直方向に8段階、水平方向に8段階にシフトされたものが順次生成される。
動きベクトル・動き量検出部354では、位相シフト回路353で生成されるSD信号のn−1フレーム(処理中心フレーム)の、HD信号の注目画素位置が含まれるブロックにおける、動きベクトルMVn-1/n-2,MVn-1/nが検出される。この動きブロックMVn-1/n-2,MVn-1/nは制御部351に供給される。また、この検出部354では、動きベクトルMVn-1/n-2,MVn-1/nが用いられ、Q=(√(xb2+yb2)+√(xa2+ya2))/2の式で、動き量Qが求められる。なお、MVn-1/n-2=(xb,yb)、MVn-1/n=(xa,ya)である。この動き量Qは制御部351に供給される。
クラスタップ選択部356では、位相シフト回路353で生成される各SD信号のn−1フレーム(処理中心フレーム)、さらにはn−2フレーム、nフレームから、HD信号のn−1フレームにおける注目画素位置の周辺に位置する複数の画素データが、クラスタップのデータとして選択的に抽出される。この場合、クラスタップ選択部356では、制御部351から供給されるタップ位置情報に基づいて、クラスタップとしての複数の画素データの選択的な抽出が行われる。
すなわち、上述したケースA〜ケースCに対応した各クラスの係数種データwi0〜wi9を求める正規方程式を取得する際には、SD信号のn−1フレーム(処理中心フレーム)だけでなく、動きベクトルMVn-1/n-2,MVn-1/nで動き補償されたn−2フレーム、nフレームの双方、n−2フレーム、あるいはnフレームからも、クラスタップのデータとしての複数の画素データが抽出される。また、上述したケースDに対応した各クラスの係数種データwi0〜wi9を求める正規方程式を取得する際には、SD信号のn−1フレーム(処理中心フレーム)のみから、クラスタップのデータとしての複数の画素データが抽出される。
このようにクラスタップ選択部356で抽出された複数の画素データは、クラス検出部357に供給される。このクラス検出部357では、各画素データに対してADRC等のデータ圧縮処理が施されて、HD信号のn−1フレームにおける注目画素位置の画素データが属するクラスを示すクラスコードCLが生成される。このクラスコードCLは、正規方程式生成部359に供給される。
予測タップ選択部358では、位相シフト回路353で生成される各SD信号のn−1フレーム(処理中心フレーム)およびその前後のフレームから、HD信号のn−1フレームにおける注目画素位置の周辺に位置する複数の画素データxiが、予測タップのデータとして選択的に抽出される。この場合、予測タップ選択部355では、制御部351から供給されるタップ位置情報に基づいて、予測タップとしての複数の画素データの選択的な抽出が行われる。すなわち、予測タップ範囲は、動き量Qがしきい値THより大きいときは動き量が大きい場合の第1の範囲とされ、動き量Qがしきい値TH以下であるときは動き量が小さい場合の第2の範囲とされる。
この予測タップ選択部355で抽出された複数の画素データxiは、正規方程式生成部359に供給される。また、教師タップ選択部358では、HD信号のn−1フレーム(処理中心フレーム)から、注目画素位置の画素データyが選択的に抽出される。この画素データyは、正規方程式生成部359に供給される。また、この正規方程式生成部359には、制御部351から、予測タップ範囲の情報INFが供給される。
この正規方程式生成部359では、教師タップ選択部358で選択的に抽出された、HD信号のn−1フレームにおける各注目画素位置の画素データyと、この各注目画素位置の画素データyにそれぞれ対応して予測タップ選択部355で選択的に抽出された、予測タップのデータとしての複数の画素データxiと、各注目画素位置の画素データyにそれぞれ対応してクラス検出部357で得られたクラスコードCLと、各注目画素位置の画素データyにそれぞれ対応した予測タップ範囲の情報INFと、各注目画素位置の画素データyの水平、垂直の位相情報h,vとから、クラスおよび予測タップ範囲の組み合わせ毎に、係数種データwi0〜wi9を得るための正規方程式((11)式参照)が生成される。
そして、係数種データ決定部360でその正規方程式が解かれ、クラスおよび予測タップ範囲の各組み合わせに対応した係数種データwi0〜wi9が求められ、その係数種データwi0〜wi9は係数種メモリ361に記憶される。
このように、図31に示す係数種データ生成装置350においては、図20の画サイズ変換回路103の画像信号処理部303内のROM326に記憶される、クラスおよび予測タップ範囲の各組み合わせに対応した係数種データwi0〜wi9を生成できる。
次に、図1に示す画像表示装置100の動作を説明する。
DVDプレーヤ101では、ディスクから再生されたMPEGデータに対してデコード処理が施され、525p/24フレームの画像信号Saが取得される。この画像信号Saは5フレーム毎にフレームセットが構成されている。この画像信号Saは、信号線Lsaを通じてノイズ低減回路102に供給されると共に、信号線Lsdを通じて動きベクトル検出回路105に供給される。
また、このDVDプレーヤ101からは、画像信号Saに同期して、付加信号Siaが出力される。この付加信号Siaには、フレームのブロック情報として、DCTの処理単位であるブロックのサイズk×mを示す情報が含まれている(図3,図4参照)。また、フレームセットの第2〜第5のフレームに対応した付加情報Siaには、ブロックのそれぞれに対応した付加情報であるブロック内の情報として、動きベクトルMVn/n-1が付加されている(図7参照)。この付加情報Siaは、付加情報線Liaを通じてノイズ低減回路102に供給されると共に、付加情報線Lidを通じて動きベクトル検出回路105に供給される。
動きベクトル検出回路105では、画像信号Saから、従来周知のブロックマッチング法あるいは勾配法等により、DCTの処理単位であるブロック単位で、動きベクトルが検出される。この場合、画像信号Saの現フレームがnフレームであるとき、動きベクトルMVn-1/n-2,MVn/n-1,MVn-2/n-1が検出される。ここで、MVp/qはpフレームのqフレームに対する動きベクトルである。このように動きベクトル検出回路105で検出される動きベクトルMVn-1/n-2,MVn/n-1,MVn-2/n-1は、付加信号Sieに含められ、ノイズ低減回路102および画サイズ変換回路103のそれぞれに付加情報線Lieを通じてブロードキャスト的に供給される。
ノイズ低減回路102では、DVDプレーヤ101から供給される画像信号Saから、ブロック歪みを低減する処理が行われる。この場合、画像信号Saから処理対象となるブロック(処理対象ブロック)が順次検出され、この処理対象ブロックの境界部分に位置する画素データの値が、周辺ブロックに対する傾きSLが0に近づくように補正される。そしてこの場合、DVDプレーヤ102から供給される付加信号Sia、あるいは動きベクトル検出回路105から供給される付加信号Sieに含まれるブロックサイズの情報が使用されて、ブロック検出が行われる。このノイズ低減回路102から出力される、ノイズ低減処理が行われた後の画像信号Sbは、信号線Libを通じて画サイズ変換回路103に供給される。
また、このノイズ低減回路102からは、画像信号Sbに同期して、付加信号Sibが出力される。この付加信号Sibには、付加情報として、動きベクトルMVn-2/n-3,n-1/n-2,MVn-3/n-2が含まれている(図18参照)。この付加情報Sibは、付加情報線Libを通じて画サイズ変換回路103に供給される。この画サイズ変換回路103では、画像信号Sbが、倍率情報MGで指定される倍率の画像を表示するための画像信号Scに変換される。この場合、DVDプレーヤ101から出力される画像信号Saの現フレームがnフレームであるとき、n−2フレームの画像信号が処理中心フレームとされ、付加信号Sib,Sieに含まれる動きベクトルMVn-2/n-3,MVn-2/n-1が用いられて、クラスタップ、予測タップのデータが選択され、画サイズの変換処理が行われる。
画サイズ変換回路103から出力される画像信号Scは、信号線Lscを通じてディスプレイ104に供給される。また、この画サイズ変換回路103からは、画像信号Scに同期して、付加信号Sicが出力される。この付加信号Sicには、上述した付加信号Sib,Sieに含まれている付加情報が含まれている。この付加信号Sicは、付加情報線Licを通じてディスプレイ104に供給される。
ディスプレイ104には、画サイズ変換回路104から供給される画像信号Scによる画像が表示される。この場合、画サイズ変換回路104から、画像信号Scに同期して供給される付加信号Sicに含まれる動きベクトルに基づいて、画像信号Scの帯域を自動的に制限し、画質調整を自動的に行うことができる。
このように図1に示す画像表示装置100は、画像信号に対して、ノイズ低減回路102および画サイズ変換回路103で順に処理を行うものであり、また画像信号から動きベクトル検出回路105で動きベクトルが検出され、この動きベクトルがノイズ低減回路102および画サイズ変換回路103にそれぞれブロードキャスト的に供給される。これにより、画サイズ変換回路103では、n−2フレームの画像信号が処理中心フレームとし、動きベクトルMVn-2/n-3,MVn-2/n-1を用いた画サイズの変換処理を行うことができ、その処理性能を上げることができる。
なお、上述実施の形態においては、ノイズ低減回路102に入力される画像信号Saから所定の特徴量としての動きベクトルを検出し、これをノイズ低減回路102および画サイズ変換回路103に供給するものであるが、情報信号に対して複数の処理を順に行う複数の処理部がある場合に、所定の特徴量を抽出するための情報信号としてどの処理部に入力される情報信号か選択するかは任意に設定できる。
また、上述実施の形態においては、所定の特徴量として動きベクトルを抽出(検出)するものを示したが、所定の特徴量はこの動きベクトルに限定されるものではなく、複数の処理部の少なくともいずれかで使用され、その処理性能を向上できるものであればよい。
また、上述実施の形態は、画像信号を取り扱う画像表示装置100であるが、この発明は、画像信号に対してこの実施の形態とは異なる処理を順に行っていくものにも適用できる。さらに、この発明は、画像信号だけでなく、音声信号を取り扱う装置にも同様に適用できる。
100・・・画像表示装置、101・・・DVDプレーヤ、102・・・ノイズ低減回路、102A・・・処理本体部、102B・・・制御部、103・・・画サイズ変換回路、103A・・・処理本体部、103B・・・制御部、104・・・ディスプレイ、105・・・動きベクトル検出回路、106・・・同期制御部、111・・・MPEGデコーダ、112・・・画像信号送信部、113・・・画像信号出力端子、114・・・付加情報記憶部、115・・・付加信号送信部、116・・・付加信号出力端子、150・・・画像信号処理装置、151・・・画像信号入力端子、152・・・画像信号受信部、153・・・画像信号処理部、154・・・画像信号送信部、155・・・画像信号出力端子、156,157・・・付加信号入力端子、158・・・付加信号受信部、159・・・付加情報記憶部、160・・・付加信号送信部、161・・・付加信号出力端子、162・・・同期制御信号入力端子、201・・・画像信号入力端子、202・・・画像信号受信部、203・・・画像信号処理部、203a・・・ブロック検出部、203b・・・傾き検出部、203c・・・境界画素値補正部、204・・・画像信号送信部、205・・・画像信号出力端子、206,207・・・付加信号入力端子、208・・・付加信号受信部、209・・・付加信号記憶部、210・・・付加信号送信部、211・・・付加信号出力端子、212・・・同期制御信号入力端子、301・・・画像信号入力端子、302・・・画像信号受信部、303・・・画像信号処理部、304・・・画像信号送信部、305・・・画像信号出力端子、306,307・・・付加信号入力端子、308・・・付加信号受信部、309・・・付加信号記憶部、310・・・画像信号処理部、311・・・画像信号出力端子、312・・・同期制御信号入力端子、321・・・動きベクトル検出部、322・・・予測タップ選択部、323・・・クラスタップ選択部、324・・・クラス検出部、325・・・係数データ生成部、326・・・ROM、327・・・推定予測演算部、350・・・係数種データ生成装置