以下、図面について、本発明の一実施の形態を詳述する。
(1)第1の実施例
(1−1)全体構成
図1は、本発明を適用した第1の実施例のアツプコンバータ30を示す。アツプコンバータ30は、入力SD画像データD1をクラス分類部31及び予測演算部12にそれぞれ供給する。クラス分類部31は、入力SD画像データD1に基づき入力画像の動き量を検出し、当該動き量を考慮してクラス分類処理を行い、そのクラス分類処理に対応するクラスデータを生成する。つまり、クラス分類部31は、入力SD画像信号をその特徴に応じてより的確にクラス分類し得るようになされている。クラス分類部31は、これにより得たクラスデータD32を予測係数ROM32に送出する。
予測係数ROM32には、クラス分類部31でのクラス分類処理と同様に画像の動き量を考慮して分類されたクラス毎に、学習により獲得した予測係数が記憶されている。このクラス毎の予測係数は、図38に示される4種類の生成されるHD画素 mode1、 mode2、 mode3及び mode4のそれぞれに対応して記憶されている。予測係数ROM32は図2に示すような学習回路40によつて作成される。すなわち、図44との対応部分に同一符号を付して示す図2において、学習回路40は、アツプコンバータ30(図1)のクラス分類部31と同様の構成でなるクラス分類部41を有し、当該クラス分類部41によつてSD画像データを動き量を考慮しながらクラス分類する。係数算出部24は、クラス分類部41により分類されたクラス毎に、上述した正規方程式を用いて予測係数を算出する。この際、クラス毎の予測係数は、4種類のHD画素 mode1、 mode2、 mode3及び mode4のそれぞれに対応してそれぞれ算出される。そして、この予測係数が予測係数ROM32に記憶される。
かくして、学習回路40においては、画像の動きを考慮してSD画像をクラス分類し、このクラス毎に予測係数を求めるようにしたことにより、単にSD画像のレベル分布パターン形状に基づいてSD画像をクラス分類した場合と比較して、画像の特徴をより反映したクラス分類処理を行うことができる。この結果、特徴の似通つたもの同志を集めてクラス毎の予測係数を求めることができるため、予測係数の精度を向上し得る。
また、アツプコンバータ30は、このようにして求めた精度の良い予測係数が、クラス分類部31からのクラスデータD32に対応して読み出される。そして、この読み出された4種類のHD画素 mode1、 mode2、 mode3及び mode4を生成するための予測係数が、予測演算部12に供給される。また、図示しない遅延部を介して供給された入力SD画像データもまた、予測演算部12に供給される。そして、予測演算部12において、そのそれぞれの予測係数と入力SD画像データとを用いて予測演算処理を行い、一段と真値に近い4種類のHD画素 mode1、 mode2、 mode3及び mode4であるHD補間画素データD33をそれぞれ生成する。そして、このHD補間画素データD33が変換部14に供給され、変換部14において、時系列のHD画像データに変換されて画面上で表示される。したがつて、従来の方法と比べて、一段と高解像度のHD画像データD34を得ることができる。なお、予測係数を生成する方法として、学習回路40を用いる方法を説明したが、本発明はこれに限らず、図43のようなフローチャートを用いて、コンピュータ等により予測係数を生成するようにしてもよい。後述する実施例においても、同様に行うことが可能である。
(1−2)クラス分類部の構成
クラス分類部31及び41は、図3に示すように構成されている。以下、クラス分類部41は、クラス分類部31と同様の構成なのでクラス分類部31について説明する。クラス分類部31は、入力端子INを介して入力されたSD画像データD1を第1のクラス分類部50を構成するフレームメモリ51及び動きベクトル検出クラス分類部52にそれぞれ供給すると共に、クラス分類画素選択部53の複数のパターン設定部54A〜54Hに供給する。
動きベクトル検出クラス分類部52は、フレームメモリ51から与えられる前フレームのSD画像データと現フレームのSD画像データを用いて、SD画像データD1における注目画素周辺の動きベクトルを検出し、当該検出結果に基づく動きクラスコードCLASS0を出力する。動きベクトル検出クラス分類部52は、動きベクトルが、図4に示された領域AR0〜AR6又はAR7のうちどの領域にあつたかに応じて、その動きを8種類に分類することにより、動きベクトルを検出する。そして、その検出した動きベクトルがどの種類に属するかを表わす動きクラスコードCLASS0を形成する。従つて、動きクラスコードCLASS0は、3ビツトのデータで表現される。また、この動きベクトル検出クラス分類部52の実施例は、動きベクトルの検出方法としてブロツクマツチング法を用いる。
動きクラスコードCLASS0は、そのまま後段の予測係数ROM32に送出されると共に、クラスタツプ選択部55に送出される。クラスタツプ選択部55は、複数のパターン設定部54A〜54Hから複数種類のクラス分類用タツプを入力し、これら複数種類のクラス分類用タツプのうちから動きクラスコードCLASS0に対応するクラス分類用タツプを選択して、第2のクラス分類部であるADRCクラス分類部56に対して出力する。
例えば、動き量がほとんど零に近い入力SD画像に関しては、第2のクラス分類部であるADRCクラス分類部56において、できるかぎり注目画素の時空間近傍の信号変化によりクラス分類を行えるようなクラス分類用タツプを選択する。一方、動き量が大きい入力SD画像に関しては、広い領域での大きな信号変化によりクラス分類を行えるようなクラス分類用タツプを選択する。また、中間的な動き量のSD画像に関しては、動き方向にクラス分類感度を上げたクラス分類が行えるようなクラス分類用タツプを選択する。
クラスタツプ選択部55から出力されたクラス分類用タツプデータは、注目画素をその周辺画素のレベル分布パターンに応じてクラス分類するためのADRCクラス分類部56に与えらる。ADRCクラス分類部56は、クラス分類用タツプデータをそのダイナミツクレンジに応じて適応的に再量子化することにより、クラス数の削減されたADRCクラスコードCLASS1を形成する。また、ADRCクラス分類部54は、再量子化の際、動きクラスコードCLASS0に応じて、ダイナミツクレンジ(DR)を定義する際に用いる画素数を切り換えることにより、SD画像の波形変化を一段とADRCクラスコードCLASS1に反映し得るようになされている。
なお、この第1の実施例のADRCクラス分類部56は、クラスタツプ選択部55から与えられる8画素のクラス分類用タツプデータ(1画素当り8ビツト)に対して1ビツトADRC処理を施すことにより、各画素値を適応的に1ビツトに再量子化する。そして、ADRCクラス分類部56は、256クラス(8ビツト)のADRCクラスコードCLASS1を形成するようになされている。
このように、クラス分類部31は、クラス分類すべき注目画素の周辺の複数画素を用いて動きベクトルを検出し、この動きベクトルに基づいて注目画素をクラス分類して、動きクラスコードCLASS0を得る。そして、この動きクラスコードCLASS0と注目画素周辺のレベル分布パターンに基づくクラス分類結果であるADRCクラスコードCLASS1とを合わせたものを、最終的なクラスコードD32として出力する。この第1の実施例の場合には、動きクラスコードCLASS0が3ビツト、ADRCクラスコードCLASS1が8ビツトなので、最終的なクラスコードD32は11ビツト(2048クラス)で表現されることになり、これが予測係数ROM32(図1)のアドレス番号となる。
次に、クラス分類画素選択部53のパターン設定部54A〜54Hについて説明する。各パターン設定部54A〜54Hは、それぞれ動きベクトルの種類に対応した画素パターンを設定する。この第1の実施例の場合には、8種類の動きに応じた8種類の画素パターンを設定するため、8個のパターン設定部54A〜54Hを設ける。すなわち、各パターン設定部54A〜54Hは、それぞれ、図4に示す8個の領域AR0〜AR7への各動きベクトルに応じた画素パターンを設定する。
パターン設定部54Aは、図4の中心の点線内の領域AR0内、すなわち動きベクトルが完全に零である場合に対応した画素パターンを設定する。このとき、入力信号は、完全静止状態であるため、レベル分布パターンに基づくクラス分類の際に、注目画素近傍の時空間クラス分類用タツプパターンを用いれば、入力信号の特徴を反映したクラス分類が可能となる。このため、パターン設定部54Aは、図5に示すようなクラス分類用クラスタツプパターンを設定する。なお、図5〜図12において小さな丸で示すHD画素は、補間しようとしている注目HD画素を表わす。
パターン設定部54Bは、いわゆる準静止である場合に対応した画素パターンを設定する。すなわち、図4の中心の点線と中心から2番目の点線で挟まれた領域AR1内に動きベクトルが存在した場合に対応する画素パターンを設定する。この場合は、画像に僅かな動きが存在する場合であり、静止部と動画部の中間的な画素パターンを設定すれば、入力信号の特徴を反映したクラス分類が可能となる。このため、パターン設定部54Bは、図6に示すようなクラス分類用タツプパターンを設定する。図5の完全静止の場合と比較して、同一フイールド内の画素数を増やすことにより、時空間画素よりも空間内画素を重視している。
パターン設定部54Cは、中間の動き量に対応した画素パターンを設定する。すなわち、図4の一番外側の点線内のうち、領域AR0及びAR1並びに特徴的な動きの方向である領域AR4〜AR7を除いた領域AR2内に動きベクトルが存在した場合に対応する画素パターンを設定する。実際上、パターン設定部54Cは、図7に示すように同一フイールド内において、やや広い領域の画素を設定することにより、ある程度広い領域の波形変化をクラスに反映させる。
パターン設定部54Dは、大きな動き量に対応した画素パターンを設定する。すなわち、図4の一番外側の点線の外の領域AR3に動きベクトルが存在した場合に対応する画素パターンを設定する。このため、パターン設定部54Dは、図8に示すように図7の場合よりも同一フイールド内において、さらに広い領域の画素を設定することにより、パターン設定部54Cよりも広い領域の波形変化をクラスに反映させる。
パターン設定部54Eは、図4の上方向の点線内の領域AR4に動きベクトルが存在した場合、すなわち、上チルトの動きに対応した画素パターンを設定する。このため、パターン設定部54Eは、図9に示すように上方向(すなわち動きの方向)に延びる画素パターンを設定することにより、ADRCクラス分類部56において上側への動きに対応したクラス分類ができるようにする。パターン設定部54Fは、図4の下方向の点線内の領域AR5の方向に動きがあつた場合、すなわち、下チルトの動きに対応した画素パターンを設定する。このため、パターン設定部54Fは、図10のように下方向に延びる画素パターンを設定することにより、ADRCクラス分類部56において下側への動きに対応したクラス分類ができるようにする。
パターン設定部54Gは、図4の右方向の点線内の領域AR6に動きベクトルが存在した場合、すなわち、右パンニングの動きに対応した画素パターンを設定する。このため、パターン設定部54Gは、図11に示すように右方向に延びる画素パターンを設定することにより、右側に移動していく画像の特性をクラス分類に反映できるようにする。ここでは、垂直方向の動きは少ないと考えられるので、垂直方向の画素数を少なく設定する。パターン設定部54Hは、図4の左方向の点線内の領域AR7の方向に動きがあつた場合、すなわち、左パンニングの動きに対応した画素パターンを設定する。このため、パターン設定部54Hは、図12のように左方向に延びる画素パターンを設定することにより、左側に移動していく画像の特性をクラス分類に反映できるようにする。
さらに、各パターン設定部54A〜54Hにおいては、図5〜図12に示すように、後段のADRCクラス分類部56によるクラス分類を考慮して、局所的なダイナミツクレンジ(DR)を検出するための画素領域を、設定した画素パターンよりも広く取るようになされている。したがつて、クラスタツプ選択部55から供給されるタツプデータは、クラス分類用タツプデータとダイナミツクレンジDRを求めるためのタツプデータとなる。この結果、ADRCクラス分類部56によるクラス分類処理において注目画素周辺の波形変化を一段とクラスに反映させることができる。
なお、ADRCクラス分類部56は、動きクラスコードCLASS0に応じて、量子化ビツト数を切り換えるようにしてもよい。
(1−3)第1の実施例の動作
以上の構成において、クラス分類部31及び41は、注目画素をクラス分類するに当たつて、先ず、第1のクラス分類部50において、入力SD画像データD1の動きベクトルを検出し、当該検出結果に基づいて動きクラスコードCLASS0を形成する。また、クラス分類部31及び41は、クラス分類画素選択部53において、入力SD画像データD1から予め動きクラスのそれぞれに対応したクラス分類用タツプパターンを設定しておく。
そして、クラス分類部31及び41は、検出した動きクラスに応じたクラス分類用タツプパターンを選択し、選択したタツプパターンを、少ない情報量でレベル分布パターンを表現するための第2のクラス分類部であるADRCクラス分類部56に送出する。かくして、ADRCクラス分類部56では、SD画像データD1の動きに応じたクラス分類用タツプパターンを用いてSD画像データD1のレベル分布パターンに基づくADRCクラスコードCLASS1が形成されるため、当該ADRCクラスコードCLASS1を画像の特徴を十分に反映したものとすることができる。
クラス分類部31及び41は、このようにして形成した動きクラスコードCLASS0及びADRCクラスコードCLASS1をクラスコードD32として、後段の予測係数ROM32(図1)又は係数算出部24(図2)に送出する。これにより、係数算出部24においては、特徴の似通つたもの同志を集めてクラス毎の予測係数を求めることができるため、予測係数の精度を向上し得る。また、アツプコンバータ30においては、このようにして求めた精度の良い予測係数を用いて予測演算処理を行うことができるため、一段と真値に近いHD補間画素を得ることができる。
(1−4)第1実施例の効果
以上の構成によれば、注目画素の周辺画素のレベル分布パターンに基づくクラスに加えて、注目画素の周辺画素における動きに基づく動きクラスを形成し、これらのクラスの組み合わせを最終的なクラス分類結果としたことにより、入力SD画像をより的確にクラス分類し得る。また、動きクラスに応じて、レベル分布パターンに基づくクラス分類を行う際に用いるクラス分類用タツプパターンを適応的に選択するようにしたことにより、レベル分布パターンに基づくクラス分類結果を入力画像の特徴を良く反映したものとすることができる。
この結果、このクラスに応じて予測係数を算出すれば、クラス毎により正確な予測係数を求めることができる。さらに、この予測係数を用いて予測演算を行つて補間画素値を求めるようにすれば、HD補間画素データD33の予測性能を向上し得ることにより、SD画像データD1を一段と高解像度のHD画像データD34に変換し得るアツプコンバータ30を実現し得る。
(2)第2の実施例
上述した第1の実施例では、入力画像信号から8種類の動きを検出して、動きクラスコードCLASS0を形成すると共に、これら8種類の動きに対応させて予め設定した8種類のクラス分類用タツプパターンから動きクラスコードCLASS0に応じたクラス分類用タツプパターンを選択したが、この第2の実施例では動きの有無のみを検出して、動きクラスコードを形成すると共に、動きの有無に応じてクラス分類用タツプパターンを選択する。実際には、注目画素近傍が動画部であつた場合には、クラス分類用タツプパターンとしてフイールド内画素を選択し、静止部であつた場合にはフレーム内画素を選択する。
つまり、分類対象の画像に動きがある場合には、フイールド内画素を選択し、純粋に時間特性を排除した空間内の信号変化に応じたクラス分類を行う。一方、分類対象の画像信号に動きが無い場合には、時間方向に広がりをもつた画素を選択し、可能な限り時空間構造において注目画素近傍の信号変化をクラス分類に反映させるようにする。このため、例えば、フレーム内画素、さらには、数フイールドに亘る画素を選択するようにする。
実際上、この第2の実施例のクラス分類部は、図13のように構成されている。すなわち、クラス分類部60は、入力端子INを介して供給されたSD画像データD1を第1のクラス分類部61を構成するフレームメモリ62及び動き検出部63にそれぞれ供給すると共に、クラス分類画素選択部64のフイールド内タツプ選択部65及びフレーム内タツプ選択部66に供給する。
動き検出部63は、直接、供給された現フレームのSD画像データD1とフレームメモリ62を介して供給された過去フレームのSD画像データD1とに基づいて、動き量の有無を検出する。このとき、動き量検出部63は、注目画素を中心とした各ブロツク毎に現フレームの画像データと過去フレームの画像データとのフレーム間の差分値の絶対値和を算出する。そして、当該差分値の絶対値和が所定の閾値未満の場合には、そのブロツクは動画部であると判定し、所定の閾値以上の場合には、そのブロツクは静止部であると判定する。動き検出部63は、その判定結果を1ビツトの動きクラスコードCLASS2として出力する。
フイールド内タツプ選択部65は、図14(A)に示すように、注目画素(図の「◎」)を中心としたフイールド内タツプを設定し、当該フイールド内タツプデータを選択部67に送出する。フレーム内タツプ選択部66は、図14(B)に示すように、注目画素を中心としたフレーム内タツプを設定し、当該フレーム内タツプデータを選択部67に送出する。選択部67は、動きクラスコードCLASS2に応じて、入力されたフイールド内タツプデータ又はフレーム内タツプデータを択一的に選択して出力する。すなわち、動きクラスコードCLASS2が、動画部を表わすものであつた場合には、フイールド内タツプデータを出力し、静止部を表わすものであつた場合には、フレーム内タツプデータを出力する。
選択部67から出力されたクラス分類用タツプデータは、ADRCクラス分類部68に与えられる。ADRCクラス分類部68は、クラス分類用タツプデータをそのダイナミツクレンジに応じて適応的に再量子化し、クラス数の削減されたADRCクラスコードCLASS3を形成する。なお、この第2の実施例では、クラス分類用タツプデータとして7画素分のデータがADRCクラス分類部68に送出されるため、例えば、クラス分類用タツプデータに対して1ビツトADRC処理を施した場合には、クラス分類用タツプデータは、128種類のクラスに分類される。そして、最終的に、クラス分類部60からは、動きクラスコードCLASS2として1ビツト、ADRCクラスコードCLASS3として7ビツトの合計8ビツト(256種類)のクラス分類結果が出力される。
実際上、クラス分類部60は、第1の実施例において上述したアツプコンバータ30(図1)のクラス分類部31及び学習回路40(図2)のクラス分類部41として用いられ、形成された動きクラスコードCLASS2及びADRCクラスコードCLASS3は、予測係数ROM32や係数算出部24に送出される。
以上の構成によれば、注目画素の周辺画素のレベル分布パターンに基づくクラスに加えて、注目画素の周辺画素における動きの有無に応じた動きクラスを形成し、これらのクラスの組み合わせを最終的なクラス分類結果としたことにより、入力SD画像をより的確にクラス分類を行うことができる。さらに、動きの有無に応じて、レベル分布パターンに基づくクラス分類を行う際に用いるクラスタツプパターンを適応的に選択するようにしたことにより、レベル分布パターンに基づくクラス分類結果を入力SD画像の特徴を良く反映したものとすることができる。
この結果、このクラスに応じて予測係数を算出すれば、クラス毎により正確な予測係数を求めることができる。さらに、この予測係数を用いて予測演算を行つて補間画素値を求めるようにすれば、HD補間画素データの予測性能を向上し得ることにより、SD画像データD1を一段と高解像度のHD画像データに変換し得るアツプコンバータを実現できる。
また、動きの有無のみに基づいて動きクラスを形成するようにしたことにより、第1の実施例と比較して、第1のクラス分類部61及びクラス分類画素選択部64の構成を簡易化できる。
なお、第2のクラス分類部であるADRCクラス分類部68において、第1の実施例と同様に、ダイナミツクレンジを検出する画素領域を設定した画素パターンよりも広く取るようにしてもよいし、また、動きクラスコードCLASS2により、ダイナミツクレンジを検出する画素領域を決定してもよい。
さらに、ADRCクラス分類部68は、動きクラスコードCLASS2に応じて、量子化ビツト数を切り換えるようにしてもよい。
(3)第3の実施例
この第3の実施例では画像の動きを考慮した、多段のクラス分類処理を行うことにより、クラス分類性能を向上させる。すなわち、入力画像に対して、初段で粗いクラス分類を行つた後、次段では初段の結果に応じたクラス分類用タツプを適応的に選択し、初段とは別の細かいクラス分類を行う。その結果、入力画像の特徴をより的確に表現したクラス分類結果を得ることができる。
なお、上述した第1及び第2の実施例についても、第1のクラス分類部50及び61を初段のクラス分類処理と考え、そのクラス分類結果に応じて適応的に選択されたクラス分類用タツプをADRC処理することを次段のクラス分類処理と考えれば、同様に多段のクラス分類処理をしていると言うことができる。但し、第3の実施例では、動きクラスの形成の方法及びクラス分類用タツプの設定の方法が第1及び第2の実施例とは異なる。
すなわち、この第3の実施例では、第1のクラス分類部が、複数種類の画像の動きを考慮して予め選定された複数の係数を有し、この予測係数と注目画素周辺の画素データとを用いて、注目画素に対する複数の予測値を算出する予測値算出部と、予測値算出部により算出された複数の予測値と注目画素の画素値との差分値を算出する差分値算出部と、差分値の最小値を検出することにより、注目画素周辺の動きを判定して、動きを表わす第1のクラスコードを出力する第1のクラスコード発生部とからなる。
図15に、第3の実施例のクラス分類部の具体的構成を示す。図15は、クラス分類を2段で行うようにした例である。クラス分類部70は、図1のクラス分類部31に対応し、第1のクラス分類部としての初段クラス分類部71において画像の動きに基づく粗いクラス分類を行い、次段クラス分類部72において、その初段クラス分類部の分類結果に応じたクラス分類用タツプを選択して、細かいクラス分類処理を行うようになされている。ここで、次段クラス分類部72は、第1の実施例のクラス分類画素選択部53の機能と第2のクラス分類部(すなわちADRCクラス分類部)56の機能とを兼ねたものである。
初段クラス分類部71は、例えば、入力画像に動きがあつた場合、注目画素がどの方向から動いてきたものかを判断し、その判断結果に応じて入力画像を大きく分類する。そのため、初段クラス分類部71は、注目画素の画素値と当該注目画素周辺の複数画素を用いて、注目画素に対する線形予測値との差分を算出(実施例の場合、9個の差分値を算出)する。そして、その差分結果を総合的に比較判断することにより、まず複数個の粗いクラス分類を行う。
ここで、線形予測の際に用いる係数は、入力画像をある方向に任意の大きさで人為的に動かした画像を用いて学習することで作成される。その係数の学習方法は、予測係数ROMの予測係数の学習の方法と同様であるので、ここでは、説明を省略する。例えば、図17に示すような、9種類の方向を粗分類の指標として学習し、9種類の係数組を求めておく。この係数組が、9種類の線形予測の係数として使用される。因に、図17において、例えば、中央の領域「0」は動きがほとんどない静止または準静止領域を示し、例えば、上側の領域「1」は上方向に動きがある場合を示す。
実際上、初段クラス分類部71は、入力端子INを介して供給された入力SD画像データD1を、初段での粗いクラス分類のためのクラス分類用タツプを設定するクラスタツプ設定部73に供給する。クラスタツプ設定部73は、図16に示すように、注目画素が存在するフレーム内、その1フレーム分過去のフレーム内及びその2フレーム分過去のフレーム内から注目画素の時空間における近傍画素をクラス分類用タツプとして設定(この実施例の場合、注目画素を含む16画素を設定)し、このうち、注目画素を除く時空間近傍画素データを各予測部75A〜75Iに送出する。
予測部75A〜75Iは、それぞれ上述したように各々の動きの方向に適した予測係数組を有し、当該予測係数組とクラスタツプとの線形予測により注目画素値を予測する。差分部76A〜76Iは、遅延部74を介して入力された注目画素の画素値と各予測部75A〜75Iで得られた予測値との差分を演算し、各差分値が最小値判定部77に供給される。
ここで、例えば、入力画像が右から左に動いているような場合は、そのような動きを想定した学習により得られた予測係数を用いて算出された予測結果が他の場合に比べて最も注目画素と近い値をとるはずである。このため、最小値判定部77は、9種類の差分結果のうちその絶対値が最小となるものを検出して、動きの方向を分類する。このようにして、初段の粗いクラス分類を実行することができる。かくして、初段クラス分類部71は、9種類(4ビツト)の動きクラスコードCLASS4を出力する。
さて、初段クラス分類部71によつて動きの方向を検出すると、次に、次段クラス分類部72によつて、さらにそのような画像の中で特徴を抽出し、細かいクラス分類を行う。ここで、次段クラス分類部72は、画一的なクラスタツプ構造を用いてクラス分類を行うのではなく、初段クラス分類部71によつて分類した動きクラスに基づき、動きの方向に特化したクラス分類用タツプパターンを選択して、クラス分類を行う。これにより、次段クラス分類部72は、より入力画像の特徴に適合したクラス分類を行うことができる。
このため、次段クラス分類部72は、初段のクラス分類結果に応じてクラス分類用タツプパターンを可変にできるような回路構成である。次段クラス分類部72は、クラスタツプ設定部73の出力をレジスタアレイ78を介して複数のセレクタ79A〜79Iに供給する。各セレクタ79A〜79Iは、図18〜図20に示すように、動きクラスコードCLASS4に応じた9種類のクラス分類用タツプを設定する。そして、初段クラス分類部71の最小値判定部77から出力される動きクラスコードCLASS4に応じて何れか一つのセレクタ79A〜79H又は79Iが択一的に選択され、選択されたセレクタ79A〜79H又は79Iのクラスタツプが第2のクラス分類部であるADRCクラス分類部80に送出される。この結果、ADRCクラス分類部80には、初段のクラス分類結果に応じた最適なクラス分類用タツプが供給される。
例えば、初段クラス分類部71によつて注目画素近傍が左から右に動いたと判断された場合(すなわち図17における領域「4」の方向に動きがあつた場合)、クラス分類用タツプは、時空間でみて時間水平方向に延びている方が有利であり、そのような12画素が選択されるように、セレクタ79A〜79Iが制御される(図19のクラス4)。その他の方向においても同様にして、動きクラスコードCLASS4に応じたクラス分類用タツプが選択される。
ADRCクラス分類部80は、上述した第1及び第2実施例と同様に選択されたクラス分類用タツプのレベル方向のビツト数を適応的なダイナミツクレンジを用いて圧縮することにより、ADRCクラスコードCLASS5を形成する。この実施例の場合、図18〜図20に示すように、12画素のクラス分類用タツプを用いているため、各画素をADRCクラス分類部80によつて適応的に1ビツトに再量子化すると、分類後のADRCクラスは、4096通りとなる。
このようにして、初段クラス分類部71のクラス分類結果に応じて、次段クラス分類部72のクラス分類用タツプが選択され、選択されたクラス分類用タツプを用いて1ビツトADRCによる4096クラスのパターン分類が実現される。その結果として、初段からのクラスコードCLASS4と合わせて、注目画素に対して 36864クラスの分類を行うことができる。
このようにして得られた動きクラスコードCLASS4及びADRCクラスコードCLASS5は、予測係数ROM82の読出しアドレスとして出力される。因に、遅延部81は、動きクラスコードCLASS4を次段クラス分類部72の処理時間分だけ遅延させるものである。ここで予測係数ROM82の中の予測係数は、図2の学習回路のクラス分類部41に代えて、この第3の実施例のクラス分類部70を用いることにより作成でき、また、図43のフローチャートに第3の実施例のクラス分類部70のアルゴリズムを適用することにより、作成できる。すなわち、動きクラスコードCLASS4及びADRCクラスコードCLASS5を組み合わせてなる各クラス毎に、mode1 、mode2 、mode3 及びmode4 に対応する正規方程式を用いて、学習により、mode1 、mode2 、mode3 及びmode4 に対応する予測係数を求め、当該予測係数をそのクラスのアドレスに記憶させるようにすれば良い。
動きクラスコードCLASS4及びADRCクラスコードCLASS5に応じて、予測係数ROM82から読み出されたmode1 、mode2 、mode3 及びmode4 のための予測係数は、予測タツプ設定部83によつて設定された予測タツプと共に予測演算部84に与えられる。予測演算部84は、上述した予測演算部12(図1)と同様に、予測タツプとそれぞれの予測係数とを線形一次結合することにより、mode1 、mode2 、mode3 及びmode4 に対応するHD補間画素データを求める。そして、そのHD補間画素データを時系列のデータに変換して出力する。なお、図21は、予測タツプ設定部83によつて設定される予測タツプの例を示している。
以上の構成によれば、初段クラス分類部71によつて画像の動きに基づく粗いクラス分類を行つた後、次段クラス分類部72によつて細かいクラス分類を行うようにしたことにより、有効にクラス分類精度を向上させることができる。
また、初段において入力画像の動きによるクラス分類をする際に、各動きの方向ごとに予め学習により求められた複数の予測係数を用いて注目画素に対する複数の線形予測を行い、このうち最も真値に近い予測値が得られた方向を動き方向として動きクラスコードCLASS4を求めたことにより、容易に動きコードCLASS4を形成することができる。
なお、次段クラス分類部であるADRCクラス分類部80において、上述した実施例と同様に、ダイナミツクレンジを検出する画素領域を設定した画素パターンよりも広く取るようにしてもよいし、また、動きクラスコードCLASS4により、ダイナミツクレンジを検出する画素領域を決定してもよい。
さらに、ADRCクラス分類部80は、動きクラスコードCLASS2に応じて、量子化ビツト数を切り換えるようにしてもよい。
(4)第4の実施例
この第4の実施例では、第1のクラス分類部は、入力画像データの現フレーム又はフイールドにおいて注目画素を中心とした所定の大きさのブロツクを形成する第1のブロツク化部と、入力画像データの過去フレーム又はフイールドにおいて、現フレーム又はフイールドで形成されたブロツクの位置を中心として複数の方向に配置された複数のブロツクを形成する第2のブロツク化部と、第1のブロツク化部により形成されたブロツクと第2のブロツク化手段により形成された複数のブロツクとの間でそれぞれブロツク内画素同志の差分値を算出する差分値算出部と、複数のブロツクそれぞれについて、差分値の絶対値の和を算出する絶対値和算出部と、絶対値和の最小値を検出することにより、注目画素周辺の動きを判定して動きを表わす第1のクラスコードを出力する第1のクラスコード生成部とからなる。
図22に、この第4の実施例のクラス分類部の具体的構成を示す。図15との対応部分に同一符号を付して示す図22において、この第4の実施例のクラス分類部90は、初段クラス分類部91において、現フレーム又はフイールドにおける注目画素データを中心とするブロツクと、過去のフレーム又はフイールドにおいて複数の異なる位置で切り出された複数のブロツクとの差分を計算し、その差分の絶対値の和を比較することにより、粗いクラス分類を行うようになされている。
初段クラス分類部91は、第3の実施例の初段クラス分類部71と同様に、例えば、入力画像に動きがあつた場合、注目画素がどの方向から動いてきたものかを判断し、その判断結果に応じて注目画素を大きく分類するためのものである。これを精度良く行うためには、動き検出を行う必要がある。ところが、この動き検出を、例えばブロツクマツチング法により行うと演算量が多くなるために、初段での粗いクラス分類を行うには余りにもハードウエア量が重くなつてしまう。
そこで、この第4の実施例においては、過去の参照するブロツクを、例えば、図23に示すように大きく9種類の領域に分割する。そして、それぞれの領域と現フレーム又はフイールドのブロツクとの画素単位の差分の絶対値和を計算し、その最小値を検出するという、簡易的なブロツクマツチングを行うことでハードウエアの削減を図る。例えば、画像が右から左に動いているような場合は、過去の領域「3」との差分の絶対値和が最も小さくなる傾向にある。かくして、初段の粗いクラス分類を少ない演算量で行うことができるようになり、この結果、初段クラス分類部91の構成を簡易化できる。
実際上、この実施例の初段クラス分類部91においては、入力SD画像をフレーム遅延部93を介して各領域分割部95A〜95Iに送出する。そして、当該領域分割部95A〜95Iにおいて、図23に示すように、それぞれ位置の異なる過去ブロツクを設定する。これら複数の過去ブロツクデータと、ブロツク化部94を介して得られる注目画素を中心とした現ブロツクデータとが、各差分部96A〜96Iに送出される。各差分部96A〜96Iにより得られた対応する画素毎の差分値が各絶対値和部97A〜97Iに送出される。そして、その結果得られる各差分絶対値和が最小値判定部98に送出される。最小値判定部98は、差分絶対値和が最小のものを動きの方向を表わす動きクラスコードCLASS6として出力する。
次段クラス分類部92は、第3の実施例において上述した次段動きクラス分類部72と同様の構成でなり、図18〜図20のような次段でのクラス分類用タツプを設定する複数のセレクタ79A〜79Iを有する。そして、これらセレクタ79A〜79Iのうち初段クラス分類部91によつて求められた動きクラスコードCLASS6に応じた79A〜79H又は79Iを択一的に選択することにより、次段のクラス分類用タツプを選択する。
以上の構成によれば、初段の動きクラスを求める際に、予め異なる位置の複数の参照ブロツクを設定した簡易的なブロツクマツチングを行うようにしたことにより、容易に動きクラスを求めることができ、初段クラス分類部91(第1のクラス分類手段)の構成を簡易化できる。
(5)第5の実施例
この第5の実施例は、基本的には上述の第1〜第4実施例と同様に、先ず入力SD画像の動きに基づいて動きクラスを形成し、次に、この動きクラスに応じて次段のクラス分類用タツプを切り換えることにより、精度の良いクラス分類を実現する。但し、この実施例では、動きクラスを形成する方法が第1〜第4の実施例と異なる。
この第5の実施例では、第1のクラス分類部において、注目画素が存在するフレームから切り出した所定の大きさのブロツクと、当該フレームに隣接するフレームから切り出した上記ブロツクと空間的に同じ位置にあるブロツクとの間でフレーム間差分値を算出する。そして、当該フレーム間差分値の絶対値の平均値を予め設定した所定の閾値と比較し、当該比較結果に基づいて注目画素周辺の動きを判定して、動きクラスを表わすクラスコードを形成する。
図24に、この第5の実施例によるアツプコンバータの具体的構成を示す。アツプコンバータ100は、大きく分けて入力SD画像データD1の各注目画素をクラス分類するクラス分類部101、その分類結果に応じた予測係数を出力する予測係数ROM103、出力された予測係数と入力SD画像データD1とを用いて予測演算を施すことにより、垂直方向におけるHD補間画素データを生成する予測演算部102とにより構成されている。
ここで、この第5の実施例における、SD画素と補間すべきHD画素の位置関係は、図25に示す通りとする。すなわち、補間すべきHD画素には、同一フイールド内でみたとき、SD画素から近い位置に存在するHD画素y1 とSD画素から遠い位置に存在するy2 の2種類がある。以降、SD画素から近い位置に存在するHD画素を推定するモードをモード1、SD画素から遠い位置に存在するHD画素を推定するモードをモード2と呼ぶ。
アツプコンバータ100は、入力端子から供給されたSD画像データD1を領域切り出し部104に入力する。領域切り出し部104は、動きの程度を表わすためのクラス分類(動きクラス)の為に必要な画素を切り出す。この実施例では、供給されたSD画像から補間すべきHD画素y1 、y2 に対して、図26に示す位置に存在する10個のSD画素m1 〜m5 及びn1 〜n5 を切り出す。
領域切り出し部104により切り出されたデータは、動きクラス決定部105に供給される。動きクラス決定部105は、供給されたSD画素データのフレーム間差分を算出し、その絶対値の平均値を閾値判定することにより、動きのパラメータを算出する。具体的には、動きクラス決定部105は、次式(10)
により、供給されるSD画素データから差分の絶対値の平均値 paramを算出する。但し、実施例の場合、n=5である。
動きクラス決定部105は、このように算出した平均値 paramを、予め設定した閾値と比較することにより、動きクラスコードCLASS8を求める。ここで、例えば、平均値 paramが「2」以下の場合をクラス「0」とし、平均値 paramが「2」より大きくかつ「4」以下の場合をクラス「1」とし、平均値 paramが「4」より大きくかつ「8」以下の場合をクラス「2」とし、平均値 paramが「8」より大きい場合をクラス「3」とし paramが「2」以下の場合をクラス「3」とすれば、4つのクラスでなる動きクラスコードCLASS8を形成することができる。ここで、この閾値は、例えばSD画素データの差分の絶対値のヒストグラムをn等分することにより設定すれば良い。
このように形成された動きクラスコードCLASS8は、領域切り出し部107及びクラスコード発生部109に送出される。領域切り出し部107には、領域切り出し部104及び動きクラス決定部105の処理時間だけ入力SD画像データD1を遅延させる遅延部(DL)106を介して、入力SD画像データD1が供給されている。領域切り出し部107により切り出されたSD画素データは、ADRC部108に供給され、ADRC部108によつてSD画素データの空間内波形が少ないビツト数にパターン化(空間内クラス分類)される。例えば、1画素当り8ビツトのSD画素データが1画素当り2ビツトのSD画素データに圧縮される。
ここで、空間内クラス分類においては、動きが小さい画像の場合には、2フイールド分あるいはそれ以上のフイールド数の画素を用いた方式が効果的かつ効率的である。一方、動きが大きい画像の場合には1フイールド内の画素を用いた方式が効果的かつ効率的である。そのため、領域切り出し部107は、動きクラスコードCLASS8がクラス「0」又はクラス「1」であつた場合は、例えば、図27に示すような位置にある5つのSD画素k1 〜k5 を空間内クラス分類に使用する画素(すなわちクラス分類用タツプ)として切り出す。これに対して、領域切り出し部107は、動きクラスコードCLASS8がクラス「2」又はクラス「3」であつた場合は、図28に示すような位置にある5つのSD画素k1 〜k5 を空間内クラス分類に使用する画素として切り出す。
ADRC部108により圧縮された画素データは、ADRCクラスコードCLASS9としてクラスコード発生部109に供給される。クラスコード発生部109は、ADRCクラスコードCLASS9及び動きクラスコードCLASS8に基づいて、次式(11)
の演算を行うことにより、そのブロツクが属する最終的なクラスを検出する。そして、その検出されたクラスを示すクラスコードCLASS10 を予測係数ROM103の読出しアドレスとして出力する。但し、(11)式におけるqi は、ADRCにより再量子化された各画素データを表し、pは、ADRCの際のビツト割当てを表わし、nは5、pは2である。因に、この第5の実施例の予測係数ROM103には、HD画素y1 に対応するモード1の予測係数とHD画素y2 に対応するモード2の予測係数がそれぞれ独立に用意されている。
一方、入力端子から供給された入力SD画像データD1は、領域切り出し部110にも与えられる。領域切り出し部110は、予測演算に使用するSD画素データ(すなわち予測タツプ)を入力データから切り出す。この第5の実施例の場合には、図29に示すような位置にある17個の画素x1 〜x17を予測タツプとして切り出す。領域切り出し部110の出力は、タイミング合せをする目的で用意された遅延部111を介して予測演算部112に供給される。予測演算部112は、供給されたHD画素y1 に対応するモード1の予測係数とHD画素y2 に対応するモード2の予測係数と予測タツプとを用いて、それぞれ線形一次演算を行うことにより、注目SD画素データに対応するHD補間画素データy1 及びy2を算出する。
予測演算部112から出力されたHD補間画素データは、水平補間フイルタ113に供給される。水平補間フイルタ113は、補間処理によつて水平方向の画素数を2倍にするものであり、この水平補間処理により最終的に図1のmode1 、mode2 、mode3 及びmode4 のようなHD補間画素データが生成されて、変換部115に供給される。変換部115では、供給されたHD補間画素データを時系列のデータの変換し、その出力がHDテレビジヨン受像機やHDビデオテープレコーダ等に供給される。
なお、ADRC部108において、上述した実施例と同様に、ダイナミツクレンジを検出する画素領域を設定した画素パターンよりも広く取るようにしてもよいし、また、動きクラスコードCLASS8により、ダイナミツクレンジを検出する画素領域を決定してもよい。
さらに、ADRC部108は、動きクラスコードCLASS8に応じて、量子化ビツト数を切り換えるようにしてもよい。
次に、この実施例の予測係数ROM103に記憶されている予測係数を作成するための学習回路の構成について説明する。図24との対応部分に同一符号を付して示す図30に示すように、学習回路120は、まず既に知られているHD画像に対応した、当該HD画像の 1/4の画素数のSD画像を形成する。具体的には、入力端子を介して供給されるHD画像データの垂直方向の画素を垂直間引きフイルタ121によつて垂直方向の周波数が 1/2になるように間引き処理し、さらに、水平間引きフイルタ122によりHD画像データの水平方向の画素を間引くことにより、SD画像データを得る。
SD画像データは、クラス分類部101に供給されると共に、図2の係数算出部24に対応する係数算出部123に供給される。そして、クラス分類部101で形成されたクラスコードCLASS10 が係数算出部123の正規方程式形成部124に供給される。正規方程式形成部124は、クラスコードCLASS10 で表わされるクラス毎に上述した(2)式〜(9)式に基づいて正規方程式データを形成する。この際に、正規方程式データは、モ−ド1及びモード2に対してそれぞれ生成される。
全ての学習データの入力が終了した後、正規方程式形成部124は予測係数決定部125にモード1及びモード2の正規方程式データをそれぞれ出力する。予測係数決定部125は、正規方程式を掃き出し法などの一般的な行列解法を用いてモード1及びモード2の予測係数についてそれぞれ解き、当該モード1及びモード2の予測係数をメモリ126に出力する。この結果、メモリ126には、クラス毎に注目HD補間画素データy1 及びy2 を推定する際、統計的に最も真値に近い推定ができるようなモード1及びモード2の予測係数が格納される。そして、このメモリ126に格納されたテーブルを、アツプコンバータ100の予測係数ROM103とすれば良い。
以上の構成によれば、動きクラスに応じて、レベル分布パターンに基づくクラス分類を行う際に用いるクラス分類用タツプパターンを適応的に選択するようにしたことにより、レベル分布パターンに基づくクラス分類結果を入力画像の特徴を良く反映したものとすることができる。また、SD画像のフレーム間差分を算出し、その絶対値の平均値を閾値判定することで動きクラスを求めるようにしたことにより、容易に動きクラスを求めることができ、クラス分類部101の構成を簡易化し得る。
(6)第6の実施例
上述した第1〜第5の実施例では、動きクラスを形成し当該動きクラスに応じてレベル分布パターンに基づくクラス分類に用いるクラス分類用タツプを適応的に選択する場合について述べたが、この第6の実施例では、動きクラスに応じて予測演算に用いる予測タツプを適応的に選択するようにする。
実際上、この第6の実施例のアツプコンバータは、図31に示すように構成されている。図24との対応部分に同一符号を付して示す図31において、アツプコンバータ140のクラス分類部141に設けられた動きクラス決定部144は、第5の実施例と同様の方法で求めた動きクラスコードCLASS8をクラスコード発生部109に送出すると共に、予測演算部142の領域切り出し部147に送出する。
領域切り出し部147は、タイミング合せのための遅延部146を介して与えられたSD画像データから動きクラスコードCLASS8に応じた予測タツプを切り出す。すなわち、動きクラスコードCLASS8が、クラス「0」又はクラス「1」のように動きが小さいことを表わすものであつた場合には、例えば、図33に示すような位置にある9つのSD画素x1 〜x9 を予測タツプとして切り出す。これに対して、動きクラスCLASS8がクラス「2」のように動きが大きいことを表わすものであつた場合には、例えば、図34に示すような位置にある9つのSD画素x1 〜x9 を予測タツプとして切り出す。また、動きクラスCLASS8がクラス「3」のように動きが非常に大きいことを表わすものであつた場合には、図35に示すような位置にある9つのSD画素x1 〜x9 を予測タツプとして切り出す。この結果予測演算部112には、クラス分類の対象となる入力SD画像の動きに基づく最適な予測タツプが供給されるようになる。
ここで、従来の予測演算においては、クラス分類されたクラスのいかんに拘わらず、常に同じ画素を予測タツプとして用いていた。このため、予測性能を重視した場合は予測タツプを構成する画素数が多くなりハードウエア規模の増加を招き、一方、ハードウエア規模を削減した場合には予測性能の低下を招く欠点があつた。
これに対して、この第6の実施例のアツプコンバータ140においては、動きクラスコードCLASS8に応じて予測タツプを適応的に選択するようにしているので簡易な構成で予測性能を向上させることができる。すなわち、上述したように、動きが小さい場合には、補間するHD画素に空間的に近いSD画素を予測タツプとして選定する。また、動きが大きい場合には、補間するHD画素に時間的に近いSD画素を選定する。よつて、予測タツプ数をむやみに増加させることなく、予測演算に適した予測タツプのみを設定するようになされている。
なお、この第6の実施例における、クラス分類用タツプを切り出すための領域切り出し部145は、例えば、図27に示すように補間すべきHD画素y1 、y2 の近傍に位置する5つのSD画素k1 〜k5 を切り出す。すなわち、領域切り出し部145は、動きにかかわらず固定のクラス分類用タツプを切り出す点で第5の実施例と異なる。
次に、この第6の実施例の予測係数ROM143(図31)を作成するための学習回路について説明する。図31との対応部分に同一符号を付して示す図32に示すように、学習回路150の予測係数算出部151は、動きクラス決定部105によつて決定した動きクラスコードCLASS8に応じたSD画素を領域切り出し部147によつて切り出して正規方程式形成部133に送出する。また、正規方程式形成部133は、動きクラスCLASS8と、固定されたクラス分類用タツプから得られたADRCクラスコードCLASS11 とに基づきクラスコード発生部109によつて求められたクラスコードCLASS12 を受ける。
正規方程式形成部133は、上述したように各クラスコードCLASS12 毎にモ−ド1及びモード2に対しての正規方程式をそれぞれ立て、これを予測係数決定部134に送出する。予測係数決定部134により求められたモ−ド1及びモード2のためのそれぞれ予測係数は、メモリ135に格納される。かくして、学習回路150によれば、動きクラスに応じて、学習に用いる予測タツプを適応的に選択するようにしたことにより、精度の良い予測係数を生成することができる。
以上の構成によれば、動きクラスに応じて、予測演算において重要となる画素のみで予測タツプを形成するようにことにより、ハードウエア規模を小くし、かつ予測性能の良いアツプコンバータを実現することができる。
なお、ADRC部108において、上述した実施例と同様に、ダイナミツクレンジを検出する画素領域を設定した画素パターンよりも広く取るようにしてもよいし、また、動きクラスコードCLASS8により、ダイナミツクレンジを検出する画素領域を決定してもよい。
さらに、ADRC部108は、動きクラスコードCLASS8に応じて、量子化ビツト数を切り換えるようにしてもよい。
(7)第7の実施例
上述した第1〜第5の実施例では、動きクラスに応じてクラス分類用タツプを適応的に選択し、第6の実施例では、動きクラスに応じて予測タツプを適応的に選択する場合について述べたが、この第7の実施例では、動きクラスに応じてクラス分類用タツプ及び予測タツプの両方を適応的に選択する。
この第7の実施例のアツプコンバータ及び学習回路の構成を、図36及び図37に示す。図24及び図31との対応部分に同一符号を付して示す図36において、アツプコンバータ105のクラス決定部164は、決定した動きクラスコードCLASS8をクラス分類用タツプを切り出すための領域切り出し部107に送出すると共に、予測タツプを切り出すための領域切り出し部147に送出する。領域切り出し部107は、第5の実施例で上述したように動きクラスコードCLASS8に応じたクラス分類用タツプを切り出す。また、領域切り出し部147は、第6の実施例で上述したように動きクラスコードCLASS8に応じた予測タツプを切り出す。
かくして、この第7の実施例の学習回路においては一段と精度の良い予測係数を得ることができると共に、アツプコンバータにおいては一段と真値に近いHD補間画素を得ることができる。
(8)他の実施例
なお、上述の実施例においては、本発明を、SD画像データをHD画像データに変換するアツプコンバータに適用した場合について述べたが、本発明はこれに限らず、低解像度の画像データを高解像度の画像データに変換する場合に広く適用し得る。すなわち、上述の実施例では、SD画像に含まれない画素を創造する場合に本発明を適用しているが、例えば、8ビツトで表現された各画素をより解像度の高い10ビツトで表現しようとする場合にも適用し得る。この場合には、予め10ビツトの画素を用いた学習によりクラス毎の予測係数データを求め、8ビツトの画素を用いてクラス分類した結果に応じた予測係数データを使用して予測演算処理を行うようにすれば良い。
また、本発明は、サブサンプルされた画像信号の補間方法に対しても適用することができ、さらに、電子ズーム等の拡大の際の補間方法に対しても適用することができる。
また、上述の実施例においては、第1及び第2のクラスコードを組合わせたクラスコード毎に予測係数データが記憶された予測係数記憶部を設けると共に、予測係数記憶部から出力される予測係数データと入力画像データとを用いて予測演算を行う予測演算部を設けることにより、クラス分類結果に応じて解像度の高い画像データを生成する場合について述べたが、本発明はこれに限らず、予測係数記憶部及び予測演算部に代えて、第1及び第2のクラスコードを組合わせたクラスコード毎に予測値が記憶された予測値記憶部を設けるようにした場合にも適用し得る。ここで、予測値記憶部に記憶される予測値は予測演算部から出力される推定補間画素値に対応するものである。このような方法は、例えば、上述した本出願人による日本出願公開公報、特開平5-328185号の明細書及び図面において提案されている。なお、この日本出願に対応する米国出願は、Serial No. 08/1,730 filed May 17, 1993である。
つまり、図1にアツプコンバータにおいて、クラス分類部の構成は同じであるが、予測係数ROM32の代わりに、予測値が記憶された予測ROMが構成される。そして、クラスコードによつて読み出された予測値が推定補間画素値として直接、変換部に供給される構成となる。
このような予測値を求める第1の方法としては加重平均を用いた学習方法がある。詳述すれば、補間対象画素の周辺のSD画素を用いて上述したクラス分類を行い、クラス毎に積算した補間対象画素の画素値(HD画素値を用いる)を補間対象画素の個数によつてインクリメントされた度数によつて割るといつた処理を様々な画像に対して行うことにより各クラスに対応した予測値を求める方法である。また、予測値を求める第2の方法としては正規化による学習方法がある。詳述すれば、補間対象画素を含む複数の画素からなるブロツクを形成し、当該ブロツク内のダイナミツクレンジによつて、補間対象画素の画素値からそのブロツクの基準値を減算した値を正規化し、この正規化された値の累積値を累積度数で除した値を予測値とする処理を様々な画像に対して行うことより各クラスに対応した予測値を求める方法である。
また、上述の第1〜第4の実施例においては、第1のクラス分類部によつて入力画像データにおける注目画素周辺の動きに応じて形成した第1のクラスコード(動きクラスコード)に応じて、第2のクラス分類部がクラス分類の際に用いる画素を適応的に選択する場合について述べたが、第1〜第4の実施例においても、第6の実施例において上述したように、第1のクラスコードに応じて予測演算部が予測演算の際に用いる画素を適応的に選択するようにしても良い。また、第7の実施例において上述したように、第1のクラスコードに応じて、第2のクラス分類部がクラス分類に用いる画素と予測演算部が予測演算に用いる画素の両方を適応的に選択するようにしても良い。このようにすれば、一段と高解像度の画像データを生成することができる。
また、上述の実施例においては、注目画素に対して空間的及び又は時間的に周辺に存在する複数画素のレベル分布パターンに基づいて第2のクラスコードを出力する第2のクラス分類部としてADRC回路を用いた場合について述べたが、本発明の第2のクラス分類手段はこれに限らず、例えばDCT(Discrete Cosine Transform )符号化、DPCM(差分符号化)、ベクトル量子化、サブバンド符号化やウエーブレツト変換等の圧縮手法を用いるようにしても良い。
また、上述の実施例においては、入力画像データにおける注目画素周辺の動きに応じて注目画素をクラス分類する第1のクラス分類部のクラス分類手法として、ブロツクマツチング法や、フレーム間差分値を所定の閾値と比較する方法や、複数の動きに対応して求めた予測値のうちの予測誤差の最小値を検出することにより動きの方向を求める方法や、簡易的なブロツクマツチング法などを用いた場合について述べたが、本発明はこれに限らず、これ以外にも例えば勾配法や位相相関法を用いて動きクラスを求めるようにしても良く、要は注目画素周辺の動きを、その動きの方向や大きさに基づいて所定数のクラスのうちの何れかに分類できるものであれば良い。
また、上述の実施例においては、予測係数記憶部としてROM(読出し専用メモリ)を用いた場合について述べたが、本発明はこれに限らず、これに代えてRAM(書込み読出しメモリ)やSRAM等を用いるようにしても良い。
なお、本発明の主旨を逸脱しない範囲において、様々な変形や応用例が考え得る。従つて、本発明の要旨は、実施例に限定されるものではない。
1、5、10、30、100、140、160……アツプコンバータ、11、23、31、41、60、70、90、101、141、161……クラス分類部、12、84、102、142、162……予測演算部、13、32、82、99、103、143、163……予測係数ROM、20、40、120、150、170……学習回路、24、124、151、171……係数算出回路、50、61、71、91……第1のクラス分類手段、52……動きベクトルクラス検出部、53、64、107……クラス分類画素選択手段、54A〜54H……パターン設定部、55……クラスタツプ選択部、56、68、80、108……ADRCクラス分類部(第2のクラス分類手段)、63……動き検出部、72、92……次段クラス分類部、110……予測演算画素選択手段、D1……入力SD画像データ、D2、D32、CLASS10 、CLASS12 、……クラスコード、D3……予測係数データ、D4、D33……HD補間画素データ、D5、D34……HD画像データ、CLASS0、CLASS2、CLASS4、CLASS6、CLASS8′……動きクラスコード、CLASS1、CLASS3、CLASS5、CLASS7、CLASS9、CLASS11 ′……ADRCクラスコード。