しかしながら、動き検出に用いる原画像は、空間的に一定の大きさのブロックに分割されるのが一般的であり、原画像を物体と背景とに分離して動き検出を行わない。したがって、物体と背景との境界を含むブロックが存在し、背景が一様な単一色のような特殊な場合を除いては、フレーム間で背景に対して物体が動いた場合、f(t−1)上で物体の境界が存在する背景とf(t)上で物体の境界が存在する背景とは一般的に異なったパターンになる。また、背景に対して物体が動いている場合においては、内挿画を作成する内挿時刻の物体と背景とを組み合わせた境界領域の情報(すなわち、内挿時刻の物体と背景とを組み合わせた物体と背景との境界周辺の画像)は、原画のf(t−1)およびf(t)上のどこにも存在しないことがある。
図2(a)は、背景に対して物体Aが移動する映像の原画像を示す図であり、時間的に過去の原画像f(t―1)を示す図である。図2(b)は、図2(a)に対応する時間的に未来の原画像f(t)を示す図である。
図2(a)に示すとおり、原画像f(t−1)において、箇所2−1のように細い線で囲まれた部分は、1ピクセル(画素)を表している。また、原画像f(t−1)は、原画像上を一様に分割する8×8ピクセルの画素群ごとに、動きベクトルの検出単位である検出ブロック(検出領域)2−2〜2−11を構成している。同様に、図2(b)に示すとおり、原画像f(t)も、原画像上を一様に分割する8×8ピクセルの画素群ごとに、動きベクトルの検出単位である検出ブロック(検出領域)2−14〜2−23を構成している。図2(a)および図2(b)において、検出ブロックは太い線で囲まれた領域である。原画像f(t−1)およびf(t)における白抜きの画素群は、移動する物体Aを表している。また、図2(a)および図2(b)において、斜線等のハッチングが施された領域(白抜き以外の領域)は、物体Aの背面にある背景を示す背景領域を表している。図2(a)および図2(b)において、同一のハッチングで示されている領域は、同じ背景領域を表している。また、図2(a)の矢印2−12は、時刻t−1と時刻tとの間における物体Aの動きベクトルを示しており、矢印2−13は、時刻t−1と時刻tとの間における背景領域の動きベクトルを示している。原画像f(t−1)に対して原画像f(t)では、物体Aは図面右方向に8ピクセル移動し、背景は図面左方向に8ピクセル移動している。
図3は、内挿画像の作画処理を説明するための図である。ここで、時刻tの原画像をf(t)とし、原画像f(t−1)と原画像f(t)の中間(時刻t−1/2)に表示される内挿画像をfi(t−1/2)とする。説明を簡略にするため、図3においては、原画像f(t−1)、f(t)、内挿画像fi(t)のそれぞれについて、図2(a)に示す原画像f(t−1)の、検出ブロック2−2〜2−6の中の物体Aの動き方向に沿った1つの行の画素を抜き出して示してある。
図3において、太い線で囲まれた3−1〜3−7は、動きベクトルを求める単位領域である原画像f(t−1)上の検出ブロックを示す。また、太い線で囲まれた3−11〜3−17は、動きベクトルを求める単位領域である原画像f(t)上の検出ブロックを示す。太い線で囲まれた3−21〜3−34は、動きベクトルを割り当てる単位領域である内挿画像fi(t−1/2)上の内挿ブロック(内挿領域)を示す。図2(a)の検出ブロック2−2〜2−6にはそれぞれ図3の検出ブロック3−1〜3−5が対応する。また、原画像f(t−1)の検出ブロック3−1〜3−7には、原画像f(t)の検出ブロック3−11〜3−17がそれぞれ対応する。内挿画像は原画像よりも小さい領域ごとに分割されており、内挿ブロックは検出ブロックより小さい。ここでは内挿ブロックは4×2ピクセルの領域とする。内挿ブロックは、図3に示す1行において4ピクセルである。また、原画像f(t−1)の各検出ブロックごとに検出される動きベクトルの一部を実線で示している。
図3では、内挿画像fi(t−1/2)として理想的と考えられる内挿画像を示している。ここで、物体Aの左側の境界に注目すると、内挿画像fi(t−1/2)における理想的な物体Aと背景との組み合わせは内挿ブロック3−24、3−25の組み合わせとなる。しかしながら、この組み合わせは、原画像f(t−1)および原画像f(t)のどこにも存在しない。したがって、1つのベクトルが複数の画素の動きを表現し、その複数の画素の中に物体と背景との境界が存在した場合、内挿時刻におけるその境界の情報がいずれの原画像上にも存在しないために、内挿画像において境界領域を正しく表現することは不可能となる。
具体例を図4を用いて説明する。図4は、内挿画像の作画処理を説明するための図であり、図3と同様の1次元表示をしている。
図4において、太い線で囲まれた4−1〜4−7は、動きベクトルを求める単位領域である原画像f(t−1)上の検出ブロックを示す。また、太い線で囲まれた4−11〜4−17は、動きベクトルを求める単位領域である原画像f(t)上の検出ブロックを示す。太い線で囲まれた4−21〜4−34は、動きベクトルを割り当てる単位領域である内挿画像fi(t−1/2)上の内挿ブロック(内挿領域)を示す。ここで、内挿ブロックは検出ブロックより小さい画素群で構成されている。
基準画像である原画像f(t−1)において、例えば物体Aと背景との境界は検出ブロック4−2に存在する。このとき、検出ブロック4−2の動きベクトルとして、参照画像の検出ブロック4−11へ向かう背景の動きが検出されたものとする。この動きベクトルは内挿ブロック4−22、4−23に割り当てられる。そして、この動きベクトルにしたがって作画される内挿ブロック4−22、4−23は、基準画像のブロック4−2と参照画像のブロック4−11とを元に作画され、基準画像のブロック4−2と参照画像のブロック4−11とをブレンド(平均等)したものとなる(図においては、問題点を分かりやすくするためにブロック4−2の模様を付した)。また、内挿ブロック4−24、4−25は「現れる領域」として認識され、参照画像のブロック4−12のみを元に作画される。また、内挿ブロック4−26、4−27は、物体Aに対応する基準画像のブロック4−3および参照画像のブロック4−14をブレンドしたものとなる。
この結果、基準画像の検出ブロック4−2に含まれる物体Aの輪郭部が、同じブロックに含まれる背景と共に動くとして内挿画像を作画するため、理想的には物体Aが表示されるべき内挿ブロック4−25に背景が表示され、その左側の背景が表示されるべき内挿ブロック4−23に物体Aが表示される。すなわち、内挿画像fi(t−1/2)において、物体Aの一部に背景領域が食い込み、その外側に物体Aの擬似輪郭が発生する。
また、他の例を図5を用いて説明する。図5は、内挿画像の作画処理を説明するための図であり、図3と同様の1次元表示をしている。
図4と同様に、図5において太い線で囲まれた5−1〜5−7は、動きベクトルを求める単位領域である原画像f(t−1)上の検出ブロックを示す。また、太い線で囲まれた5−11〜5−17は、動きベクトルを求める単位領域である原画像f(t)上の検出ブロックを示す。太い線で囲まれた5−21〜5−34は、動きベクトルを割り当てる単位領域である内挿画像fi(t−1/2)上の内挿ブロック(内挿領域)を示す。
基準画像である原画像f(t−1)において、例えば物体Aと背景との境界は検出ブロック5−2に存在する。このとき、検出ブロック5−2の動きベクトルとして、参照画像の検出ブロック5−13へ向かう背景の動きが検出されたものとする。この動きベクトルは内挿ブロック5−24、5−25に割り当てられる。そして、この動きベクトルにしたがって作画される内挿ブロック5−24、5−25は、基準画像の検出ブロック5−2と参照画像の検出ブロック5−13とを元に作画され、基準画像の検出ブロック5−2と参照画像の検出ブロック5−13とをブレンド(平均等)したものとなる(図においては、問題点を分かりやすくするために検出ブロック5−2の模様を付した)。また、内挿ブロック5−22、5−23は「現れる領域」として認識され、参照画像の検出ブロック5−11のみを元に作画される。
この結果、基準画像の検出ブロック5−2に含まれる背景が、同じブロックに含まれる物体Aと共に動くとして内挿画像を作画するため、理想的にはブロック5−12の背景が表示されるべき内挿ブロック5−24にブロック5−2に含まれる背景が表示される。そのため、内挿画像fi(t−1/2)において、物体Aの境界領域の背景(内挿ブロック5−22、5−23、5−24)として、実際には存在しない背景の組み合わせ(非連続な背景)が表示される。
本発明は、上記の問題点に鑑みてなされたものであり、その目的は、内挿画像の破綻を防止し、良質な内挿画像を生成することが可能な画像補間装置、および画像補間方法を提供することにある。
本発明に係る画像補間装置は、第1の時刻に対応する第1の原画像と第1の時刻より後の第2の時刻に対応する第2の原画像との間に内挿する内挿画像を生成する画像補間装置であって、上記の課題を解決するために、第1の原画像および第2の原画像のいずれか一方を基準画像とし、他方を参照画像としたときに、上記内挿画像を複数の内挿領域に分割して、各内挿領域について該内挿領域の動きを表す内挿動きベクトルを求め、各内挿領域を、上記基準画像のみを用いて作画する第1の作画領域、上記参照画像のみを用いて作画する第2の作画領域、または上記基準画像と上記参照画像との両方を用いて作画する第3の作画領域に分類する内挿動きベクトル生成手段と、第3の作画領域に分類された内挿領域であり、かつ、第2の作画領域に分類された内挿領域の近傍にある内挿領域について、当該第3の作画領域に分類された内挿領域の内挿動きベクトルと当該第2の作画領域に分類された内挿領域の内挿動きベクトルとが略同一である場合、当該第3の作画領域に分類された内挿領域を第2の作画領域に分類し直す分類補正手段とを備えることを特徴としている。
上記の構成によれば、内挿動きベクトル生成手段は、内挿画像の各内挿領域の動きを表す内挿動きベクトルを求め、各内挿領域を基準画像のみを用いて作画する第1の作画領域、参照画像のみを用いて作画する第2の作画領域、または基準画像と参照画像との両方を用いて作画する第3の作画領域に分類する。
ここで、内挿領域の動きを代表して表す内挿動きベクトルが、基準画像または参照画像の複数の画素を含む領域に対応している場合、基準画像または参照画像の当該領域には上記内挿動きベクトルとは異なる動きベクトルで移動する画素が含まれていることがある。このような基準画像または参照画像の領域に対応する内挿領域について、基準画像および参照画像の両方を用いて作画すると、いわゆる「擬似輪郭」が存在する不自然な内挿画像を生成してしまう。第3の作画領域に分類されており、かつ、その近傍に第2の作画領域に分類された内挿領域が存在する内挿領域は、内挿動きベクトルによって上記の問題を含みうる基準画像または参照画像の領域に対応付けられる。
また、第2の作画領域に分類された内挿領域の内挿動きベクトルは、原画像におけるいわゆる「背景領域」の動きを表していると考えられる。
よって、第3の作画領域に分類された内挿領域の内挿動きベクトルと第2の作画領域に分類された内挿領域の内挿動きベクトルとの差が小さい場合、当該第3の作画領域に分類された内挿領域は背景領域であると考えられる。
上記の構成によれば、第3の作画領域に分類されており、かつ、その近傍に第2の作画領域に分類された内挿領域が存在する内挿領域について、当該第3の作画領域に分類された内挿領域の内挿動きベクトルとその近傍の第2の作画領域に分類された内挿領域の内挿動きベクトルとが略同一である場合、当該第3の作画領域に分類された内挿領域を第2の作画領域に分類し直す。
すなわち、当該第3の作画領域に分類された内挿領域の内挿動きベクトルとその近傍の第2の作画領域に分類された内挿領域の内挿動きベクトルとの差が小さい場合、当該第3の作画領域に分類された内挿領域を第2の作画領域に分類し直す。
ここで、2つのベクトルの差はベクトルで表されるので、2つのベクトルが略同一という条件について、例えば、その差分のベクトルの大きさ(絶対値)と閾値とを比較することにより、差分のベクトルの大きさが閾値以下である場合に2つのベクトルが略同一であると判定してもよい。または、差分のベクトルのある座標軸への射影成分と閾値とを比較することにより判定を行ってもよい。または、差分のベクトルのある座標軸への射影成分と閾値とを比較し、さらに差分のベクトルの別の座標軸への射影成分と別の閾値とを比較し、両方の比較において共に射影成分が閾値以下である場合に2つのベクトルの差が閾値以下であると判定してもよい。また、簡易的に画像の2つの方向、例えば水平方向および垂直方向のベクトルを独立に扱い、それぞれの差分が閾値以下、もしくは水平方向の差分と垂直方向の差分とを加えたものが閾値以下である場合と判定してもよい。
また、第2の作画領域に分類された内挿領域の近傍にある内挿領域とは、例えば当該第2の作画領域に分類された内挿領域に隣接する内挿領域を指す。ただし、これに限らず、当該第2の作画領域に分類された内挿領域の周囲の所定の範囲内にある内挿領域を指すものとしてもよい。例えば、上記隣接する内挿領域に加え、当該第2の作画領域に分類された内挿領域と頂点を共有する内挿領域をも含んでもよい。また、当該第2の作画領域に分類された内挿領域を中心とする所定の円内に含まれる内挿領域を指すものとしてもよい。または、例えば内挿画像が四角形の内挿領域に分割されている場合、M×Nの内挿領域を含む所定の四角形の領域に含まれる範囲を「近傍」としてもよい。この場合、当該第2の作画領域に分類された内挿領域は、必ずしも上記所定の四角形の領域の中心である必要はなく、上記所定の四角形の領域に含まれていればよい。
上記の構成によれば、第3の作画領域に分類された当該内挿領域について、いわゆる「物体」を含まない原画像の領域の画像に基づいて作画することができる。したがって、内挿動きベクトルが、基準画像において物体と背景とが混在する領域に対応し、当該内挿動きベクトルが、背景の動きを表す場合であっても、擬似輪郭のない良質な内挿画像を得ることができる。よって、基準画像の上記の問題を含みうる領域の画像を用いずに、他方の原画像の領域に基づいて内挿領域を作画することができる。したがって、内挿画像の破綻を防止し、良質な内挿画像を生成することができる。
本発明に係る画像補間方法は、第1の時刻に対応する第1の原画像と第1の時刻より後の第2の時刻に対応する第2の原画像との間に内挿する内挿画像を生成する画像補間方法であって、第1の原画像および第2の原画像のいずれか一方を基準画像とし、他方を参照画像としたときに、上記内挿画像を複数の内挿領域に分割して、各内挿領域について該内挿領域の動きを表す内挿動きベクトルを求め、各内挿領域を、上記基準画像のみを用いて作画する第1の作画領域、上記参照画像のみを用いて作画する第2の作画領域、または上記基準画像と上記参照画像との両方を用いて作画する第3の作画領域に分類する内挿動きベクトル生成ステップと、第3の作画領域に分類された内挿領域であり、かつ、第2の作画領域に分類された内挿領域の近傍にある内挿領域について、当該第3の作画領域に分類された内挿領域の内挿動きベクトルと当該第2の作画領域に分類された内挿領域の内挿動きベクトルとが略同一である場合、当該第3の作画領域に分類された内挿領域を第2の作画領域に分類し直す分類補正ステップとを備えることを特徴としている。
上記の構成によれば、本発明に係る画像補間装置と同様の作用効果を奏する。
また、上記分類補正手段は、第3の作画領域に分類された内挿領域であり、かつ、第2の作画領域に分類された内挿領域の近傍にある内挿領域について、当該第3の作画領域に分類された内挿領域の内挿動きベクトルと当該第2の作画領域に分類された内挿領域の内挿動きベクトルとの差が第1の閾値より大きい場合、当該第3の作画領域に分類された内挿領域を第4の作画領域に分類し直し、第1、第2、および第3の作画領域に分類された内挿領域について、上記内挿動きベクトルに基づいて作画を行い、第4の作画領域に分類された内挿領域について、当該内挿領域の周囲の作画された内挿画像からの面内補間によって作画を行う作画手段をさらに備えてもよい。
ここで、検出領域は複数の画素を含み、第1の動きベクトルは複数の画素の動きを代表して表すので、検出領域には第1の動きベクトルとは異なる動きベクトルで移動する画素が含まれていることがある。このような検出領域に対応する内挿領域について、基準画像および参照画像の両方を用いて作画すると、本来存在しない画像の組み合わせを内挿画像に作画してしまうという問題が生じる。第3の作画領域に分類されており、かつ、その近傍に第2の作画領域に分類された内挿領域が存在する内挿領域であって、当該第3の作画領域に分類された内挿領域の内挿動きベクトルとその近傍の第2の作画領域に分類された内挿領域の内挿動きベクトルとの差が大きい場合、当該第3の作画領域に分類された内挿領域は内挿ベクトルによって上記の問題を含みうる検出領域に対応付けられる。
ここで、2つのベクトルの差が閾値より大きい場合、2つのベクトルの差が大きいと判定している。2つのベクトルの差はベクトルで表されるので、2つのベクトルの差が閾値より大きいという上記判定は、例えば、その差分のベクトルの大きさ(絶対値)と閾値とを比較することにより行ってもよい。または、差分のベクトルのある座標軸への射影成分と閾値とを比較することにより判定を行ってもよい。または、差分のベクトルのある座標軸への射影成分と閾値とを比較し、さらに差分のベクトルの別の座標軸への射影成分と別の閾値とを比較し、いずれかの比較において射影成分が閾値より大きい場合に2つのベクトルの差が閾値より大きいと判定してもよい。
また、面内補間に用いる当該内挿領域の周囲の作画された内挿画像は、例えば、当該内挿領域に隣接する内挿画像の画素を指す。ただし、これに限らず、行う面内補間に応じて必要な範囲の周囲の画素から面内補間を行ってもよい。
上記分類補正手段は、当該第3の作画領域に分類された内挿領域の内挿動きベクトルとその近傍の第2の作画領域に分類された内挿領域の内挿動きベクトルとの差が大きい場合、当該第3の作画領域に分類された内挿領域を第4の作画領域に分類する。上記作画手段は、第4の作画領域に分類された内挿領域について、当該内挿領域の周囲の作画された内挿画像からの面内補間によって作画を行う。
したがって、基準画像において物体と背景とが混在する検出領域において検出された第1の動きベクトルが、物体の動きを表す場合であっても、本来存在しない組み合わせを内挿画像に作画することなく、良質な内挿画像を得ることができる。
また、上記分類補正手段は、第3の作画領域に分類された内挿領域であり、かつ、第2の作画領域に分類された内挿領域の近傍にある内挿領域について、当該第3の作画領域に分類された内挿領域の内挿動きベクトルと当該第2の作画領域に分類された内挿領域の内挿動きベクトルとの差が第2の閾値より大きい場合、当該第3の作画領域に分類された内挿領域を第5の作画領域に分類し直し、第1、第2、および第3の作画領域に分類された内挿領域について、上記内挿動きベクトルに基づいて作画を行い、第5の作画領域に分類された内挿領域について、当該内挿領域を複数の小補正領域に分割し、上記小補正領域の少なくとも1つを、当該内挿領域の内挿動きベクトルとは異なる動きベクトルに基づいて作画する作画手段をさらに備えてもよい。
内挿画像を内挿領域に分割して作画すると、作画が内挿領域の形状に依存するので、特に「物体」と「背景」との境界において、内挿領域の形状が視認されやすくなる。
上記の構成によれば、上記分類補正手段は、当該第3の作画領域に分類された内挿領域の内挿動きベクトルとその近傍の第2の作画領域に分類された内挿領域の内挿動きベクトルとの差が大きい場合、当該第3の作画領域に分類された内挿領域を第5の作画領域に分類する。上記作画手段は、第5の作画領域に分類された内挿領域について、当該内挿領域を複数の小補正領域に分割し、上記小補正領域の少なくとも1つを、当該内挿領域の内挿動きベクトルとは異なる動きベクトルに基づいて作画する。
よって、内挿画像において内挿領域の形状を細分化することができ、内挿領域の形状が視認されることを抑制することができる。したがって、基準画像において物体と背景とが混在する検出領域において検出された第1の動きベクトルが、物体の動きを表す場合であっても、細分化処理して周辺領域と混合することにより、良質な内挿画像を得ることができる。
また、上記作画手段は、第5の作画領域に分類された内挿領域について、当該内挿領域の周辺の複数の内挿領域の内挿動きベクトルを代表する代表内挿動きベクトルを求め、上記小補正領域の少なくとも1つを、当該内挿領域の内挿ベクトルに基づいて作画し、他の小補正領域を、上記代表内挿動きベクトルに基づいて作画してもよい。
ここで、当該内挿領域の周辺の複数の内挿領域とは、当該内挿領域に隣接する内挿領域を指す。ただし、これに限らず上述の「近傍」と同様に、当該内挿領域の周囲の所定の範囲内にある内挿領域を指すものとしてもよい。
上記の構成によれば、第5の作画領域に分類された内挿領域について、当該内挿領域の内挿ベクトルに基づいて作画する小補正領域と、周辺の複数の内挿領域の内挿動きベクトルを代表する代表内挿動きベクトルに基づいて作画する小補正領域とを混合して作画を行う。
よって、内挿画像において内挿領域の形状を細分化することができ、内挿領域の形状が視認されることを抑制することができる。したがって、基準画像において物体と背景とが混在する検出領域において検出された第1の動きベクトルが、物体の動きを表す場合であっても、細分化処理して周辺領域と混合することにより、良質な内挿画像を得ることができる。
また、上記内挿動きベクトル生成手段は、上記基準画像および上記参照画像をそれぞれ複数の検出領域に分割して、上記基準画像の上記検出領域と上記参照画像の上記検出領域との間の動きベクトルを第1の動きベクトルとして検出する第1の動きベクトル検出手段と、第1の動きベクトルに基づいて各内挿領域を、第1の作画領域、第2の作画領域、または第3の作画領域に分類する内挿領域分類手段と、第1の作画領域または第2の作画領域に分類された内挿領域について、第1の動きベクトルの分布の時間的変化に基づいて、当該内挿領域の動きを予測した第2の動きベクトルを求める第2の動きベクトル検出手段と、第1の動きベクトルおよび第2の動きベクトルから、各内挿領域について内挿動きベクトルを求める内挿動きベクトル割付手段とからなるものとしてもよい。
上記の構成によれば、内挿動きベクトル生成手段は、第1の動きベクトル検出手段によって上記基準画像および上記参照画像をそれぞれ複数の検出領域に分割して上記基準画像の上記検出領域と上記参照画像の上記検出領域との間の動きベクトルを第1の動きベクトルとして検出し、内挿領域分類手段によって内挿画像を各内挿領域に分割して各内挿領域を第1の作画領域、第2の作画領域、または第3の作画領域に分類し、第2の動きベクトル検出手段によって第1の作画領域または第2の作画領域に分類された内挿領域について、第1の動きベクトルの分布の時間的変化に基づいて、当該内挿領域の動きを予測した第2の動きベクトルを求め、内挿動きベクトル割付手段によって第1の動きベクトルおよび第2の動きベクトルから、各内挿領域について内挿動きベクトルを求めることができる。
また、上記基準画像と上記参照画像との間の第1の動きベクトルの分布を、第1の時刻に対応する第1の動きベクトルの分布としたときに、第2の動きベクトル検出手段は、第1の時刻に対応する第1の動きベクトルの所定の領域における分布と、第1の時刻より前の第3の時刻に対応する第1の動きベクトルの上記所定の領域に対応する領域における分布とを比較して、第1の動きベクトルの出現頻度の時間的増減に基づき、第2の動きベクトルを求めてもよい。
また、第2の動きベクトル検出手段は、第1の作画領域に分類された内挿領域の動きを予測した第2の動きベクトルとして、第1の動きベクトルの中で当該内挿領域の周辺の領域における出現頻度が最も減少した動きベクトルを求め、第2の作画領域に分類された内挿領域の動きを予測した第2の動きベクトルとして、第1の動きベクトルの中で当該内挿領域の周辺の領域における出現頻度が最も増加した動きベクトルを求めてもよい。
第1の作画領域に分類された内挿領域の周辺の領域における出現頻度が最も減少した動きベクトル、および第2の作画領域に分類された内挿領域の周辺の領域における出現頻度が最も増加した動きベクトルは、いわゆる背景の動きを表していると考えられる。
上記の構成によれば、第1の作画領域または第2の作画領域に分類された内挿領域の動きを予測した第2の動きベクトルとして、背景の動きを表す動きベクトルを求めることができる。
それゆえ、いわゆる「消える領域」または「現れる領域」に相当する内挿領域に対しても内挿動きベクトルを求めることができる。
また、本発明に係るテレビジョン受像装置は、上記画像補間装置を備えている。
また、本発明に係る映像再生装置は、上記画像補間装置を備えている。
なお、本発明に係る画像補間装置を、コンピュータによって実現してもよい。この場合、コンピュータを上記各手段として動作させることにより上記画像補間装置をコンピュータにおいて実現する制御プログラム、およびその制御プログラムを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
本発明に係る画像補間装置は、第1の時刻に対応する第1の原画像と第1の時刻より後の第2の時刻に対応する第2の原画像との間に内挿する内挿画像を生成する画像補間装置であって、第1の原画像および第2の原画像のいずれか一方を基準画像とし、他方を参照画像としたときに、上記基準画像および上記参照画像をそれぞれ複数の検出領域に分割して、上記基準画像の上記検出領域と上記参照画像の上記検出領域との間の動きベクトルを第1の動きベクトルとして検出する第1の動きベクトル検出手段と、上記内挿画像を複数の内挿領域に分割して、第1の動きベクトルに基づいて各内挿領域を、上記基準画像のみを用いて作画する第1の作画領域、上記参照画像のみを用いて作画する第2の作画領域、または上記基準画像と上記参照画像との両方を用いて作画する第3の作画領域に分類する内挿領域分類手段と、第1の作画領域または第2の作画領域に分類された内挿領域について、第1の動きベクトルの分布の時間的変化に基づいて、当該内挿領域の動きを予測した第2の動きベクトルを求める第2の動きベクトル検出手段と、第1の動きベクトルおよび第2の動きベクトルから、各内挿領域の動きを表す内挿動きベクトルを求める内挿動きベクトル割付手段と、第3の作画領域に分類された内挿領域であり、かつ、第2の作画領域に分類された内挿領域の近傍にある内挿領域について、当該第3の作画領域に分類された内挿領域の内挿動きベクトルと当該第2の作画領域に分類された内挿領域の内挿動きベクトルとが略同一である場合、当該第3の作画領域に分類された内挿領域を第2の作画領域に分類し直す分類補正手段とを備えることを特徴としている。
よって、いわゆる物体と背景とを含む検出領域において検出された動きベクトルが、物体および背景のいずれの動きを表すものであっても、問題を含みうる検出領域の画像を用いずに、他方の原画像の検出領域に基づいて内挿領域を作画することができる。したがって、内挿画像の破綻を防止し、良質な内挿画像を生成することができる。
〔実施の形態1〕
(画像補間装置1の概要)
図1は、本発明に係る画像補間装置1の構成を示すブロック図である。本発明に係る画像補間装置1は、遅延部(映像データ遅延手段)2とベクトル検出部(第1の動きベクトル検出手段)3と作画方向判定部(内挿領域分類手段)4と統計処理部(第2の動きベクトル検出手段)5とベクトル割付部(内挿動きベクトル割付手段)6とベクトル補正部(分類補正手段)7と作画部(作画手段)8とを備えている。また、統計処理部5は状態記憶部9を備える。また、ベクトル検出部3と作画方向判定部4と統計処理部5とベクトル割付部6とは、ベクトル生成部(内挿ベクトル生成手段)10を構成している。
画像補間装置1は、外部から入力される映像信号に含まれる時刻tにおける原画像f(t)(第2の原画像、未来画像)と、1つ前の時刻t−1における原画像f(t−1)(第1の原画像、過去画像)とから、内挿画像を生成する。画像補間装置1では、外部からの映像信号は、遅延部2、ベクトル検出部3および作画部8に入力される。以下では、外部から時刻t−1における原画像f(t−1)を表す映像信号が入力されたときの処理について説明する。
遅延部2は、入力された外部からの映像信号を1フレーム分遅延させて、ベクトル検出部3および作画部8に供給する。外部から原画像f(t)を表す映像信号が入力されるタイミングで、遅延部2は、原画像f(t−1)を表す映像信号を出力する。遅延部2は、例えば、DDRなどのメモリによって構成される。
ベクトル生成部10は、内挿画像の各領域について、その動きを表す内挿動きベクトルを求める。以下により詳細に説明する。
ベクトル検出部3は、原画像(過去画像)f(t−1)を基準画像とし、原画像(未来画像)f(t)を参照画像として基準画像と参照画像との間の動きベクトルを検出する。また、未来画像を基準画像とし過去画像を参照画像として動きベクトルを検出することもできる。また、ベクトル検出部3は、図2に示すように、基準画像および参照画像を複数の画素から成る複数の検出ブロック(検出領域)に分割し、検出ブロックごとに動きベクトルを検出する。ベクトル検出部3は、ブロックマッチングまたは勾配法等の一般的な方法によって動きベクトルを算出することができる。また、動きベクトルは他の方法によって算出されてもよい。ベクトル検出部3は、検出した動きベクトルを、作画方向判定部4および統計処理部5に出力する。この動きベクトルを始点となる時刻t−1を基準に表記してV(t−1)とする。
作画方向判定部4は、特許文献1に示されるような方法(ヒットボード技法)等によって、内挿画像を複数の内挿ブロック(内挿領域)に分割し、各内挿ブロックについて基準画像のみを用いて作画すべき領域(基準方向作画領域)、参照画像のみを用いて作画すべき領域(参照方向作画領域)、および基準画像と参照画像との両方を用いて作画すべき領域(双方向作画領域)のいずれであるかを判定し、各内挿ブロックを分類する。いずれの原画像から作画するかという方向を決める作画方向判定は他の方法によって行っても良い。作画方向判定部4は、各内挿ブロックの作画方向に関する上記の分類結果(作画方向の情報)を統計処理部5およびベクトル割付部6に出力する。
統計処理部5は、ベクトル検出部3からの動きベクトルの情報を統計データ(例えば、所定の領域の各動きベクトルの出現頻度を示すヒストグラム)として処理し、内挿画像の所定の内挿ブロックについて適切な動きベクトルを求める。例えば、内挿画像の「消える領域」に割り付ける動きベクトルとしては、背景の動きベクトルが適切である。ここで基準画像の「消える領域」を含む周辺の検出ブロックにおいて1フレーム前に検出された動きベクトルV(t−2)に対して出現頻度が減少した動きベクトルが、基準画像の背景の動きベクトルに相当すると推測できる。内挿画像の「現れる領域」に割り付ける動きベクトルも、背景の動きベクトルが適切であり、参照画像の「現れる領域」を含む周辺の検出ブロックにおいて1フレーム前に検出された動きベクトルV(t−2)に対して出現頻度が増加した動きベクトルが、参照画像の背景の動きベクトルに相当すると推測できる。統計処理部5は、状態記憶部9に記憶されている1フレーム前に検出された動きベクトルV(t−2)のデータを読み出し、動きベクトルV(t−2)、V(t−1)を用いて上記の統計処理(出現頻度の比較)を行う。そして、基準画像の「消える領域」および参照画像の「現れる領域」等の検出ブロックについて、上記の統計処理によって適切な予測動きベクトルを抽出することができる。そして、この予測動きベクトルから、内挿画像の基準画像(過去画像)のみに基づき表現すべき領域(すなわち「消える領域」に対応する内挿ブロック)、および参照画像(未来画像)のみに基づき表現すべき領域(すなわち「現れる領域」に対応する内挿ブロック)に割り付けるべき動きベクトルを求めることができる。統計処理部5は、上記処理結果に基づき未来画像のみに基づき表現する内挿画像の領域に割り付けるべき動きベクトルfV(t−1)と、過去画像のみに基づき表現する内挿画像の領域に割り付けるべき動きベクトルpV(t−1)とをベクトル割付部6に出力する。また、統計処理部5は、検出された動きベクトルV(t−1)を状態記憶部9に記憶させる。状態記憶部9は、動きベクトルV(t−1)に加えてfV(t−1)およびpV(t−1)を記憶してもよい。この場合、統計処理に用いる1フレーム前の動きベクトルとしてfV(t−1)およびpV(t−1)をも使用することができる。
ベクトル割付部6は、ベクトル検出部3で検出された動きベクトルV(t−1)の情報と、参照画像のみで表現する領域の情報およびその領域に割り付けるべき動きベクトルfV(t−1)の情報と、基準画像のみで表現する領域の情報およびその領域に割り付けるべき動きベクトルpV(t−1)の情報と、基準画像および参照画像において検出された動きベクトルV(t−1)を動きベクトルfV(t−1)または動きベクトルpV(t−1)に置き換える領域の情報とを元に、内挿画像の各内挿ブロックの動きを表す内挿ベクトルVi(t−1/2)を求める。各内挿ブロックには、それぞれの動きを表す1つの内挿ベクトルVi(t−1/2)が割り付けられている。このように、内挿画像の全画素について個別に動きベクトルを算出するのではなく、内挿ブロック等の所定の領域ごとにその領域を代表する動きベクトルを算出することで、保持すべきデータ量を低減することが可能となる。ベクトル割付部6は、各内挿ブロックの内挿ベクトルVi(t−1/2)をベクトル補正部7に出力する。このとき、ベクトル割付部6は、各内挿ブロックに関する作画方向の情報もベクトル補正部7に出力する。
ベクトル補正部7は、内挿ベクトルVi(t−1/2)が割り付けられた各内挿ブロックについて、その作画方向を修正すべき補正対象ブロックに該当するかを判定する。作画方向判定部4において双方向作画領域に分類された内挿ブロックの内、基準方向作画領域または参照方向作画領域に分類された内挿ブロックに隣接する内挿ブロックを補正対象ブロックとする。すなわち、補正対象ブロックは、内挿画像の「消える領域」または「現れる領域」に隣接する。
補正対象ブロックに割り付けられた内挿ベクトルが、その補正対象ブロックに隣接する基準方向作画領域または参照方向作画領域に分類された内挿ブロックに割り付けられた内挿ベクトルと同じであるという条件1を満たす場合、その補正対象ブロックに割り付けられた内挿ベクトルは背景の動きを表していると考えられる。また、「消える領域」または「現れる領域」に隣接しているため、その内挿ベクトルの始点または終点として示される基準画像の検出ブロックおよび参照画像の検出ブロックのいずれかには、物体Aの輪郭部分が含まれている可能性がある。それゆえ、このような補正対象ブロックに対し基準画像と参照画像との両方を用いて作画すると、背景が表示されるべき位置に物体Aの一部が表示されてしまう。
そこで、補正対象ブロックの内挿ベクトルが上記条件1を満たす場合、その補正対象ブロックを基準画像および参照画像のいずれか一方からのみ作画するようにする。具体的には、補正対象ブロックの内挿ベクトルが隣接する基準方向作画領域に分類された内挿ブロックのベクトルと同じである場合、ベクトル補正部7はその補正対象ブロックを基準方向作画領域に改めて分類し直す。また、補正対象ブロックの内挿ベクトルが隣接する参照方向作画領域に分類された内挿ブロックのベクトルと同じである場合、ベクトル補正部7はその補正対象ブロックを参照方向作画領域に改めて分類し直す。実際の処理として、ベクトル補正部7は、補正対象ブロックについて参照(基準)画像のみから作画するように作画方向の指示子を付加してもよい。なお、補正対象ブロックの内挿ベクトルが上記条件1を満たさない場合、補正対象ブロックの分類は双方向作画領域のままである。
上記の2つの内挿ベクトルが同じであるという条件1は、2つの内挿ベクトルの差が所定の閾値以下であるという条件によって判定してもよい。
また、補正対象ブロックに割り付けられた内挿ベクトルが、その補正対象ブロックに隣接する基準方向作画領域または参照方向作画領域に分類された内挿ブロックに割り付けられた内挿ベクトルと差を有するという条件2を満たす場合、その補正対象ブロックに割り付けられた内挿ベクトルは物体Aの動きを表していると考えられる。また、「消える領域」または「現れる領域」に隣接しているため、その補正対象ブロックは物体と背景との境界を含んでいる可能性があり、その境界における物体と背景との組み合わせに対応する画像領域は基準画像および参照画像のどちらにも存在せず、その補正対象ブロックは内挿画像を精度よく表現できない領域である可能性がある。
そこで、補正対象ブロックの内挿ベクトルが上記条件2を満たす場合、各内挿ベクトルに基づいて内挿画像を作成した後に、その補正対象ブロックについては画像を破棄し、補正対象ブロックの周囲の内挿画像の画素を用いて面内補間する。具体的には、ベクトル補正部7はその補正ブロックを面内補間する領域として分類する。実際の処理として、ベクトル補正部7は、補正対象ブロックについて内挿画像内で面内補間する指示子を付加してもよい。
上記の2つの内挿ベクトルに差があるという条件2は、2つの内挿ベクトルの差が所定の閾値より大きいという条件によって判定してもよい。
また、補正対象ブロックに隣接する基準(参照)方向作画領域に分類された内挿ブロックが複数ある場合、複数の内挿ブロックのそれぞれについて個別に判定し、いずれかの1つの判定結果によって補正対象ブロックを分類してもよいし、複数の判定結果によって補正対象ブロックを分類してもよい。または、複数の内挿ベクトルについて平均、メディアン等の処理を行い複数の内挿ブロックを代表する代表ベクトルを決定し、補正対象ブロックの内挿ベクトルと上記代表ベクトルとの比較に基づき補正対象ブロックを分類し直してもよい。
また、1つの内挿ブロックが複数の画素を含む場合、上記の面内補間に代わる処理として、以下のディザ処理を行ってもよい。補正対象ブロックの内挿ベクトルが上記条件2を満たす場合、その補正対象ブロックを複数の小補正ブロックに細分化し、小補正ブロックごとに異なる内挿ベクトルを適用する。具体的には、補正対象ブロックを1画素ラインの小補正ブロックに分割し、補正対象ブロックの内挿ベクトルを適用して作画する小補正ブロックと、別の内挿ベクトルを適用して作画する小補正ブロックとが交互に並ぶようにする。この別の内挿ベクトルは、補正対象ブロックの周囲の内挿ブロックの内挿ベクトルにメディアンフィルタまたはローパスフィルタ等のフィルタリング処理を施して得ることができる。この別の内挿ベクトルは、補正対象ブロックの周囲の複数の内挿ブロックの内挿ベクトルを代表するものである。実際の処理として、ベクトル補正部7は、補正対象ブロックについてディザ処理を行う指示子を付加してもよい。
上記の2つの内挿ベクトルに差があるという条件2を満たした場合に、面内補間処理を行うか、ディザ処理を行うかは2つの内挿ベクトルの差の大小に基づいて決定してもよい。
ベクトル補正部7は、内挿ベクトルの情報、補正後の作画方向の情報(指示子)、面内補間処理の情報(指示子)、およびディザ処理の情報(指示子)を作画部8に出力する。ここで、メディアンフィルタまたはローパスフィルタ等の内挿ベクトルのフィルタリング処理は作画部8にて作画時に行うことで、ベクトル補正部7から出力する情報量を低減することができる。ただし、情報量の増加を厭わないのであれば、小補正ブロックに適用するフィルタリング処理後の内挿ベクトルも合わせて作画部8に出力しても良い。
作画部8は、ベクトル補正部7からの内挿ベクトルの情報と作画方向の情報とに基づいて、基準画像および参照画像の映像信号から、内挿画像の各座標における映像信号を読み出し、内挿画像を生成する。また、作画部8は、面内補間処理の指示子およびディザ処理の指示子に基づいて、内挿画像の一部の領域に面内補間処理またはディザ処理を行う。
(画像補間処理)
以下に、本願発明に係る画像補間装置1の行う具体的な画像補間処理について説明する。
(1)動きベクトルの検出
図2(a)は、背景に対して物体Aが移動する映像の原画像を示す図であり、時間的に過去(時刻t−1)の原画像f(t―1)を示す図である。図2(b)は、図2(a)に対応する時間的に未来(時刻t)の原画像f(t)を示す図である。以下では、原画像f(t−1)と原画像f(t)の間に表示するための1つの内挿画像fi(t−1/2)を生成する場合について具体的に説明する。内挿画像fi(t−1/2)は、時刻t−1と時刻tとの中間(時刻t−1/2)に表示される。
図2(a)に示すとおり、原画像f(t−1)において、箇所2−1のように細い線で囲まれた部分は、1ピクセル(画素)を表している。また、原画像f(t−1)は、原画像上を8×8ピクセルの画素群ごとに分割されており、この画素群は動きベクトルの検出単位である検出ブロック(検出領域)2−2〜2−11を構成している。同様に、図2(b)に示すとおり、原画像f(t)も、原画像上を8×8ピクセルの画素群ごとに分割されており、この画素群は動きベクトルの検出単位である検出ブロック(検出領域)2−14〜2−23を構成している。図2(a)および図2(b)において、検出ブロックは太い線で囲まれた領域である。原画像f(t−1)およびf(t)における白抜きの画素群は、移動する物体Aを表している。また、図2(a)および図2(b)において、斜線等のハッチングが施された領域(白抜き以外の領域)は、物体Aの背面にある背景を示す背景領域を表している。図2(a)および図2(b)において、同一のハッチングで示されている領域は、同じ背景領域を表している。また、図2(a)の矢印2−12は、時刻t−1と時刻tとの間における物体Aの動きベクトルを示しており、矢印2−13は、時刻t−1と時刻tとの間における背景領域の動きベクトルを示している。原画像f(t−1)に対して原画像f(t)では、物体Aは図面右方向に8ピクセル移動し、背景は図面左方向に8ピクセル移動している。図2(a)、図2(b)に示す例では、時刻t−1と時刻tとの間で画像上での物体Aおよび背景の大きさは変化せず、物体Aは一様に図面右方向に、背景は一様に図面左方向に移動している。
本実施形態では、原画像を区分けする各検出ブロックは、時間によって変化せず、固定的に原画像を区切っている。すなわち、各検出ブロックは、原画像の中を移動する物体および背景等を区別せずに設定される。各検出ブロックの形状等は任意に設定できるが、原画像上で一様に区切った場合、動きベクトルの検出が容易になる。
図4は、内挿画像の作画処理を説明するための図である。説明を簡略にするため、図4においては、原画像f(t−1)について、図2(a)に示す原画像f(t−1)の、検出ブロック2−2〜2−6の中の物体Aの動き方向に沿った1つの行の画素を抜き出して示してある。原画像f(t)、内挿画像fi(t)についても同様に上記に対応する1行を抜き出して示してある。
図4において、太い線で囲まれた4−1〜4−7は、動きベクトルを求める単位領域である原画像f(t−1)上の検出ブロックを示す。また、太い線で囲まれた4−11〜4−17は、動きベクトルを求める単位領域である原画像f(t)上の検出ブロックを示す。太い線で囲まれた4−21〜4−34は、動きベクトルを割り当てる単位領域である内挿画像fi(t−1/2)上の内挿ブロック(内挿領域)を示す。図2(a)の検出ブロック2−2〜2−6にはそれぞれ図4の検出ブロック4−1〜4−5が対応する。また、原画像f(t−1)の検出ブロック4−1〜4−7には、原画像f(t)の検出ブロック4−11〜4−17がそれぞれ対応する。内挿画像は原画像よりも小さい領域ごとに分割されており、内挿ブロックは検出ブロックより小さい。ここでは内挿ブロックは4×2ピクセルの領域とする。内挿ブロックは、図4に示す1行において4ピクセルである。
以下では、過去の原画像(過去画像)f(t−1)を基準画像とし、未来の原画像(未来画像)f(t)を参照画像として、基準画像の各検出ブロックから参照画像の各検出ブロックへの動きベクトルを求める。基準画像の各検出ブロックごとに検出される動きベクトルの一部を、基準画像の検出ブロックを始点とし、参照画像の検出ブロックを終点として、実線矢印で示している。動きベクトルは、ブロックマッチングまたは勾配法等によって検出することができる。
例えば、基準画像の検出ブロック4−3については、参照画像の検出ブロック4−14への動きベクトルが検出される。図4を参照すると、この検出ブロック4−3を始点とする動きベクトルは、内挿画像の内挿ブロック4−26、4−27を通る(検出ブロック4−3を動きベクトルにしたがって時刻t−1/2まで移動させると内挿ブロック4−26、4−27の位置に移動する)ので、内挿ブロック4−26、4−27の動きは検出ブロック4−3の動きベクトルにしたがっていると判断できる。そのため、内挿ブロック4−26、4−27については、この動きベクトルを用いて基準画像の検出ブロック4−3および参照画像の検出ブロック4−14の画像情報から作画することができる。
しかしながら、動きベクトルの検出においては、「消える領域」、「現れる領域」が問題となる。例えば、基準画像の検出ブロック4−5に示されている背景領域の画像は、参照画像においては物体Aによって隠されてしまい表示されない「消える領域」である。すなわち、基準画像f(t−1)の検出ブロック4−5に示されている背景領域の画像は、参照画像f(t)では移動した物体Aによって隠される。このような「消える領域」の画像の情報は基準画像f(t−1)のみにしか存在しない。そのため、検出ブロック4−5の動きベクトルとして誤った動きベクトルが検出される。また、参照画像の検出ブロック4−12の背景領域の画像は、基準画像においては物体Aによって隠されている「現れる領域」である。このような「現れる領域」の画像の情報は参照画像f(t)のみにしか存在しない。そのため、参照画像f(t)の検出ブロック4−12を終点とする動きベクトルは検出されない。
(2)作画方向の判定
検出ブロック4−5の「消える領域」については、検出ブロック4−5の画像に最も類似した参照画像の検出ブロックを終点とする動きベクトルが検出される。例えば、基準画像の検出ブロック4−5の動きベクトルとして、参照画像の検出ブロック4−16を終点とする動きベクトルが検出される。ただし、参照画像の検出ブロックを終点とする動きベクトルは、基準画像の検出ブロック4−6、4−7においても同様に検出される。すなわち、基準画像の複数の検出ブロックの動きベクトルが、移動先として参照画像の同一の検出ブロックを指し示す。したがって、参照画像の同一の検出ブロックを指し示す動きベクトルが検出されれば、その基準画像の検出ブロックの中に「消える領域」が存在すると判定することができる。ここでは検出ブロック4−5、4−6、4−7が「消える領域」であると判定される。
この基準画像の「消える領域」の検出ブロックについては、誤った動きベクトルが検出されている可能性が高いため、内挿画像の内挿ブロック4−30、4−31等にこの誤った動きベクトルを適用する訳にはいかない。それゆえ、基準画像の「消える領域」に対応する内挿画像の「消える領域」の内挿ブロック4−30、4−31、4−32、4−33については、上で検出された動きベクトルに代えて、基準画像の「消える領域」の検出ブロックの動きを予測した予測動きベクトルを求め、それを「消える領域」の内挿ブロックに適用して作画する。予測動きベクトルについては後述する。このとき、予測動きベクトルを適用して作画する「消える領域」の内挿ブロックについては、基準画像の情報のみを用いて作画する。この段階では、参照画像において同一の終点を指し示す動きベクトルによって指し示される(動きベクトルが図4の時空間において通過する)内挿ブロック4−30、4−31、4−32、4−33を基準画像の情報のみを用いて作画する内挿ブロック(基準方向作画領域)として分類する。また、内挿ブロック4−32、4−33は背景領域であると推測される。これにより、例えば参照画像の検出ブロック4−16に物体Aの輪郭が存在する場合でも、内挿ブロック4−32、4−33は背景領域である基準画像の検出ブロック4−7のみに基づき作画されるので、双方から作画して物体Aの擬似輪郭が生じることを防ぐことができる。
また、参照画像の検出ブロック4−12、4−13の「現れる領域」については、これを終点とする動きベクトルが検出されない。これに伴い、参照画像の「現れる領域」に対応する内挿画像の「現れる領域」の内挿ブロック4−24等については、対応する動きベクトルが検出されない。それゆえ、内挿画像の「現れる領域」の内挿ブロック4−24については、参照画像の「現れる領域」の検出ブロックの動きを予測した予測動きベクトルを求め、それを「現れる領域」の内挿ブロックに適用して作画する。ここで、例えば参照画像の「現れる領域」の検出ブロック4−12の動きを予測した予測動きベクトルは、基準画像の検出ブロック4−3を始点とし、参照画像の検出ブロック4−12を終点とする動きベクトルである。予測動きベクトルについては後述する。このとき、予測動きベクトルを適用して作画する「現れる領域」の内挿ブロックについては、参照画像の情報のみを用いて作画する。この段階では、指し示す動きベクトルが検出されない(いずれの動きベクトルも図4の時空間において通過しない)内挿ブロック4−24、4−25を参照画像の情報のみを用いて作画する内挿ブロック(参照方向作画領域)として分類する。
その他の内挿ブロックは、基準画像および参照画像の両方の情報を用いて作画する内挿ブロック(双方向作画領域)として分類する。
(3)予測動きベクトル
「消える領域」の予測動きベクトルは、物体Aと背景とが過去の動きを継続するとして類推することができる。「消える領域」は背景に対する物体Aの動きによって隠される背景領域であり、時間経過によって物体に浸食される背景領域でもある。そのため、対象領域付近での動きベクトルの発生頻度は時間経過によって減少すると考えられる。例えば、基準画像の「消える領域」を含む周辺の検出ブロックにおいて、1フレーム前(時刻t−2からt−1の間)に検出された動きベクトルに対して出現頻度が減少した動きベクトルが、基準画像の背景の動きベクトルに相当すると推測できる。例えば、基準画像の検出ブロック4−5を中心とする5×5ブロックの動きベクトルの中で、出現頻度が最も減少した動きベクトルを検出ブロック4−5の予測動きベクトルとしてもよい。こうして検出ブロック4−5の予測動きベクトルとして、例えば検出ブロック4−7と同じ動きベクトルが求められる。
「現れる領域」の予測動きベクトルも同様に、物体Aと背景とが過去の動きを継続するとして類推することができる。物体Aによって隠されていた背景が、物体Aが去ることにより出現する背景領域である。そのため、対象領域付近での動きベクトルの発生頻度は時間経過によって増加すると考えられる。例えば、参照画像の「現れる領域」を含む周辺の検出ブロックにおいて、1フレーム前(時刻t−2からt−1の間)に検出された動きベクトルに対して出現頻度が増加した動きベクトルが、参照画像の背景の動きベクトルに相当すると推測できる。例えば、参照画像の検出ブロック4−12を中心とする5×5ブロックの動きベクトルの中で、出現頻度が最も増加した動きベクトルを検出ブロック4−12の予測動きベクトルとしてもよい。ここで上記出現頻度とは、画像に対応する2次元空間において同じ大きさおよび同じ方向を有する動きベクトルごとの出現頻度を意味する。誤差を考慮して、上記同じ大きさおよび同じ方向の判定には幅を持たせてもよい。こうして検出ブロック4−2の予測動きベクトルとして、例えば検出ブロック4−2と同じ動きベクトルが求められる。このようにして、求められた予測動きベクトルを点線矢印で図4に示す。
また特殊な場合として、画像上において物体が静止し、それに対して背景が移動していた場合、検出される動きベクトルの出現頻度に時間的な変化は発生しない。このような状態は、例えば動きベクトルとして所定の値以上のゼロベクトルが検出され、そのゼロベクトルの動きベクトルが増減しないという条件により識別可能である。この場合は、ゼロベクトル以外の最も発生頻度の高い動きベクトルを「消える領域」および「現れる領域」の予測動きベクトルとして用いる。
(4)動きベクトルの割付
以下に、内挿ブロックの動きを表す内挿ベクトルの生成について説明する。内挿ベクトルとしては、上で検出された動きベクトル、または予測動きベクトルを用いる。ここでは、ある内挿ブロックについて内挿ベクトルを決定することを、内挿ブロックに上記動きベクトルまたは予測動きベクトルを割り付けると表現する。
画像補間装置1は、上述のとおり、「消える領域」、「現れる領域」において検出された動きベクトルを、統計データに基づいて補正した(予測動きベクトルに置き換えた)上で、内挿ブロックへの動きベクトルの割付処理を行う。
図4では、基準画像f(t−1)を基準として参照画像f(t)に対して検出された動きベクトルが、内挿ブロックに割り付けられる様子が示されている。
検出ブロック4−2における動きベクトルとして、背景の動きを表す動きベクトル、すなわち検出ブロック4−11への動きベクトルが検出される。検出ブロック4−2からこの動きベクトルによって指し示される内挿ブロック4−22、4−23には、検出ブロック4−2の動きベクトルが内挿ベクトルとして割り付けられる。なお、この段階では、内挿ブロック4−22、4−23は、双方向作画領域として分類されている。
検出ブロック4−3における動きベクトルとして、物体Aの動きを表す動きベクトル、すなわち検出ブロック4−14への動きベクトルが検出される。検出ブロック4−3からこの動きベクトルによって指し示される内挿ブロック4−26、4−27には、検出ブロック4−3の動きベクトルが内挿ベクトルとして割り付けられる。なお、この段階では、内挿ブロック4−26、4−27は、双方向作画領域として分類されている。
検出ブロック4−4における動きベクトルとして、物体Aの動きを表す動きベクトル、すなわち検出ブロック4−15への動きベクトルが検出される。検出ブロック4−4からこの動きベクトルによって指し示される内挿ブロック4−28、4−29には、検出ブロック4−4の動きベクトルが内挿ベクトルとして割り付けられる。なお、この段階では、内挿ブロック4−28、4−29は、双方向作画領域として分類されている。
また、検出ブロック4−5、4−6における動きベクトルとして、近傍の類似ブロック、すなわち検出ブロック4−16への動きベクトルが最も近しい検出結果として検出される。また、検出ブロック4−7における動きベクトルとして、背景の動きを表す動きベクトル、すなわち検出ブロック4−16への動きベクトルが検出される。これらの動きベクトルは同一の検出ブロック4−16を終点としており、いずれか、または複数が誤ったベクトルである。そこで、検出ブロック4−5、4−6、4−7については、これらの検出された動きベクトルを破棄して、上で求めた予測動きベクトルを用いる。検出ブロック4−7については、正しい動きベクトルが求まっているが、予測動きベクトルと同じベクトルなので不都合はない。また、検出された動きベクトルと予測動きベクトルとの差が小さければ検出された動きベクトルを用いるようにしてもよい。検出ブロック4−6の予測動きベクトルによって指し示される内挿ブロック4−30、4−31には、検出ブロック4−6の予測動きベクトルが内挿ベクトルとして割り付けられる。なお、内挿ブロック4−30、4−31は、基準方向作画領域として分類されている。言い換えれば、基準方向作画領域に分類されている内挿ブロックについては、その内挿ブロックを指し示す予測動きベクトルを割り付ける。
また、検出ブロック4−5の予測動きベクトルは、内挿ブロック4−28、4−29を指し示すが、上記したようにこの内挿ブロック4−28、4−29は検出ブロック4−4からの動きベクトルによって指し示されている。この場合は、予測動きベクトルよりも検出された動きベクトルを優先して内挿ブロックに割り付ける。言い換えれば、双方向作画領域に分類されている内挿ブロックについては、予測動きベクトルよりも検出された動きベクトルを優先して割り付ける。
また、参照方向作画領域に分類されている内挿ブロック4−24、4−25には、その内挿ブロックを指し示す検出ブロック4−12の予測動きベクトルを割り付ける。
以上により、各内挿ブロックの動きを表す内挿ベクトルが求められる。内挿画像の1つの内挿ブロックに含まれる各画素には、当該内挿ブロックに割り付けられた同じ内挿ベクトルが適用される。
(5)内挿画像の作画
次に、内挿ベクトルを用いた内挿画像の作画方法について説明する。図2(a)において、図面左上の座標を(0,0)、図面右方向をx座標の正の方向、図面下方向をy座標の正の方向とし、基準画像f(t−1)における座標(x,y)の画素値をPp(x,y)、参照画像f(t)における座標(x,y)の画素値をPf(x,y)と表す。また、内挿画像fi(t−1/2)において、座標(x,y)に適用される内挿ベクトルを(Vx,Vy)、座標(x,y)の画素値をP(x,y)とする。ここで、内挿画像fi(t−1/2)は、基準画像f(t−1)と参照画像f(t)との中間(時刻t−1/2)に作画されるものとする。
このとき、作画される内挿画像fi(t−1)の画素値P(x,y)は、
P(x,y)=α×Pp(x−Vx×1/2,y−Vy×1/2)
+(1−α)×Pf(x+Vx×1/2,y+Vy×1/2)
となる。
ここで、Pp(x−Vx×1/2,y−Vy×1/2)、Pf(x+Vx×1/2,y+Vy×1/2)は、単一画素の画素値を示すのではなく、それぞれ基準画像、参照画像を代表する画素値を示す。原画像を代表する画素値とは、例えば、(x−Vx×1/2)で示されるx座標の値が小数値を示す場合などにおいては、原画像の画素間をリニア補間した値または周辺画素をガウシアンフィルタによりフィルタリングした値などを意味する。また、αは基準画像および参照画像の混合比率であり、ブレンド率と呼ばれる。αの値としては、1/2に固定してもよいし、内挿画像を表示する時間的内分点の比率によって変動させてもよい。また、基準画像のみから作画する基準方向作画領域の作画ではαは1に、参照画像のみから作画する参照方向作画領域の作画ではαは0に設定される。
(物体境界の問題)
図4に示す例においては、検出ブロック4−2で示される物体Aと背景とが混在し、その境界が存在する検出ブロック4−2において検出された動きベクトルは背景の動きを表している。しかしながら、この検出ブロック4−2は物体Aの領域を含むために物体Aの動きを表す動きベクトルが検出される可能性もある。この場合の例を図5に示した。以下では図5に示す例において、図4に示す例と異なる部分について説明する。
図5は、図4と同じ基準画像および参照画像の同じ箇所を示すものであるが、検出ブロック4−2に対応する検出ブロック5−2において、検出された動きベクトルが異なる。検出ブロック5−2においては、物体Aの動きを表す、検出ブロック5−13への動きベクトルが検出されている。そして、検出ブロック5−2において検出された動きベクトルは、内挿ブロック5−24、5−25に割り付けられる。なお、内挿ブロック5−24、5−25は双方向作画領域として分類される。
一方、参照画像の検出ブロック5−11を終点とする予測動きベクトルが求められ、内挿ブロック5−22、5−23に割り付けられる。内挿ブロック5−22、5−23は参照方向作画領域として分類される。
ここで、図4および図5における内挿画像の物体Aと背景との境界に注目する。図4の例においては、物体Aの一部が同じ検出ブロック4−2に含まれる背景の動きとともに移動するため、物体Aの一部が物体Aの他の部分から切り離され内挿ブロック4−23に表示されている。ここで、正確には内挿ブロック4−23は基準画像の検出ブロック4−2と参照画像の検出ブロック4−11とを用いて作画されるが、特に物体と背景と画素値の差が大きい場合には、内挿ブロック4−23は、周囲の背景から不自然に目立って見える。すなわち物体Aの不自然な擬似輪郭が表示される。
図5の例においては、物体Aとの境界の背景領域が同じ検出ブロック5−2に含まれる物体の動きとともに移動するため、検出ブロック5−2に含まれる背景が内挿画像上に5−24に表示される。ここで、内挿ブロック5−22、5−23、5−24の並びの配置はいずれの原画像にも存在しない(本来の背景画像として存在しない)ものであり、背景の不自然な非連続領域が内挿ブロック5−23、5−24において発生する。特に内挿ブロック5−23と5−24との画素値の差が大きい場合には、不自然な表示となる。
図4の例および図5の例は、いずれも好ましい内挿画像を作成しているとは言えない。しかしながら、図3に示される理想的な内挿画像における内挿ブロック3−23および3−24の組み合わせは、基準画像および参照画像のいずれにも存在しない。
(内挿画像の作画方法の補正)
そこで、内挿画像の作画に先立って、問題を生じる可能性のある内挿ブロックの作画方向の分類を補正する。図4の例において、物体Aの擬似輪郭が発生は、「現れる領域」の内挿ブロックと背景の動きベクトルで指し示される内挿ブロックとの間で起こる。また、「現れる領域」の内挿ブロックの内挿ベクトルは、背景の動きベクトルと同じである。そのため、「双方向作画領域に分類されて」おり、かつ、「所定の範囲内に参照方向作画領域に分類されている内挿ブロックが存在して」いる内挿ブロックの作画方向を補正する補正対象ブロックとする。所定の範囲内とは、隣接する内挿ブロックの範囲としてもよいし、2つ隣の内挿ブロックまで含む範囲としてもよい。本実施の形態では、2つ隣の内挿ブロックまで含む範囲に参照方向作画領域に分類されている内挿ブロックが存在している場合に、その内挿ブロックを補正対象ブロックとする。ここでは、内挿ブロック4−22、4−23、4−26、4−27等が補正対象ブロックである。
そして、補正対象ブロック4−22、4−23に割り付けられた内挿ベクトルは、所定の範囲内の参照方向作画領域に分類された内挿ブロック4−24に割り付けられた内挿ベクトルと同じ(または差が小さい)であるという条件1を満たすので、補正対象ブロック4−22、4−23は背景を示すものであると考えられる。したがって、補正対象ブロック4−22、4−23を、物体Aの輪郭を含む可能性のある基準画像の検出ブロック4−2の情報は用いずに、参照画像の検出ブロック4−11のみに基づき作画する。すなわち、補正対象ブロック4−22、4−23を参照方向作画領域に改めて分類する。これにより、内挿ブロック4−23に擬似輪郭が生じない良質な内挿画像を得ることができる。
また、補正対象ブロック4−26、4−27については、所定の範囲内の参照方向作画領域に分類された内挿ブロック4−25に割り付けられた内挿ベクトルとの差が大きいので、補正対象ブロック4−26、4−27は、物体Aを示すものであると考えられる。したがって、補正対象ブロック4−26、4−27の作画方向は変更せずに、双方向作画領域のままにしておく。
また、図5の例においては、内挿ブロック5−21等が補正対象ブロックになる。同様に内挿ブロック5−21は、参照方向作画領域に改めて分類される。ここで、内挿ブロック5−21の内挿ベクトルに対応する、基準画像f(t−1)および参照画像f(t)の領域は、共に同じ背景領域を示しており、参照画像のみに基づき作画しても問題はない。
図5の例において、背景の非連続領域が発生するのは、「現れる領域」の内挿ブロックに隣接して、物体Aの動きを表す内挿ベクトルが割り付けられた内挿ブロックである。「現れる領域」の内挿ブロックは背景の動きベクトルと同じである。そのため、上記と同様に、「双方向作画領域に分類されて」おり、かつ、「所定の範囲内に参照方向作画領域に分類されている内挿ブロックが存在して」いる内挿ブロックの作画方向を補正する補正対象ブロックとする。上で説明した内挿ブロック5−21を除くと、内挿ブロック5−24、5−25が補正対象ブロックに該当する。
そして、補正対象ブロック5−24、5−25に割り付けられた内挿ベクトルは、所定の範囲内の参照方向作画領域に分類された内挿ブロック5−23に割り付けられた内挿ベクトルとの差が大きいという条件2aを満たすので、補正対象ブロック5−24、5−25において、物体Aの動きに背景領域が従動し、周辺の背景領域に対して不連続な背景領域を作画する可能性がある。しかしながら、この領域の画像の組み合わせは原画像に存在しない可能性があるため、この補正対象ブロック5−24、5−25は原理的に正確に内挿画像を作成することが困難な領域である。
そこで、補正対象ブロック5−24、5−25については、作画された内挿画像の周辺の領域から面内補間によって作画する。補正対象ブロック5−24、5−25については、内挿ベクトルを用いて作画をせずに、まず周囲の内挿ブロックの作画を行う。その後、補正対象ブロック5−24、5−25の周囲の画素を用いてリニア補間またはバイリニア補間等を行い作画する。面内補間に用いる周囲の画素の範囲は任意である。これにより、背景領域の不自然な非連続領域を生じさせず、良質な内挿画像を得ることができる。
物体Aの輪郭を含む基準画像の検出ブロック4−2、5−2の動きベクトルとして、物体Aの動きベクトルになるか、背景の動きベクトルになるかは、物体と背景との組み合わせによって異なる。そして、どちらの動きベクトルが検出されるかにより、内挿画像における物体Aの輪郭が、図4の内挿ブロック4−26になるか、図5の内挿ブロック5−25になるか結果が変わる。ここで、内挿ブロックは一般的に長方形で定義されるので、内挿画像における物体Aの輪郭は内挿ブロックを単位に形成されやすい。そのため、内挿画像の物体Aの形状に幾何学的な不自然が生じ、内挿画像において内挿ブロックの形状が視認されやすくなるという問題がある。
この問題に対しては、補正対象ブロックに上記の面内補間の処理に代わって、ディザ処理を行うことにより、人間にとってより自然な画像に視認される内挿画像を得ることができる。以下にディザ処理について説明する。
図4および図5の例では、内挿ブロックは4×2ピクセルのブロックであり、1つの内挿ベクトルは対応する内挿ブロックに含まれる画素の全ての作画に使用される。そのため、内挿画像に内挿ブロックの形状を反映した画像が作成されやすい。そこで、上記条件2aを満たした補正対象ブロックについて、ディザ処理を行う。このような補正対象ブロックとしては、図5の例では内挿ブロック5−24等が該当する。
図6(a)は、内挿画像上の内挿ブロックを示す図であり、図6(b)は、図6(a)の内挿ブロックの1つを細分化した図である。内挿画像は4×2ピクセルの内挿ブロック6−1〜6−9を含んでいる。内挿ブロック6−1〜6−9の内挿ベクトルをそれぞれV1〜V9とし、内挿ブロック6−5が補正対象ブロックであるとする。この補正対象ブロック6−5を、図6(b)に示す4×1ピクセルの2つの小補正ブロック6−5a、6−5bに分割する。一方の小補正ブロック6−5aは、補正対象ブロック6−5の内挿ベクトルV5を用いて作画する。他方の小補正ブロック6−5bは、補正対象ブロック6−1〜6−4、6−6〜6−9の内挿ベクトルの平均、またはメディアン等を用いて作画する。小補正ブロック6−5a、6−5bに適用する補正後の内挿ベクトルをそれぞれV5a、V5bとすると、例えば、以下のようになる。
V5a=V5
V5b=(V1+V2+V3+V4+V6+V7+V8+V9)/8
もしくは、補正対象ブロックに接する上下左右の内挿ブロックの内挿ベクトルだけを用いて、
V5b=(V2+V4+V6+V8)/4
としてもよい。また、周辺の内挿ブロックの内挿ベクトルの平均の代わりにメディアンを求めてV5bとしてもよい。また、V5aおよびV5bを共に元の内挿ベクトルV5と異なるものとしてもよい。また、補正対象ブロック6−5を、1×2ピクセルの4つの小補正ブロックに分割してもよく、その場合は、元の内挿ベクトルV5を適用する小補正ブロックと平均処理等による補正後の内挿ベクトルV5bを適用する小補正ブロックとが交互に配置されるように作画することが好ましい。このように、物体Aの境界を含む内挿ブロックをコーミング状の小補正ブロックに分割し、小補正ブロックごとに異なる動きベクトルを適用して内挿ブロックの作画を行うことにより、内挿ブロックの形状をぼかし、人間が視認した場合に物体Aと背景との境界が不自然に感じられないようにすることができる。
図4の例では、補正対象ブロックは、内挿ブロック4−26等が該当し、これに面内補間処理またはディザ処理等を行う。
ここまで、「現れる領域」付近に生じる問題について説明した。「消える領域」は背景であるため、「消える領域」の対応領域は参照画像に存在しない。そのため基準画像の検出ブロック4−4に背景領域が含まれていたとしても、内挿画像において物体Aの一部が背景と共に移動して物体Aから分離するような問題は一般的に起こらない。
ただし、物体Aに隣接する背景が「消える領域」に隣接する検出ブロックに含まれており、背景が物体Aと共に動くことにより背景領域の非連続領域が内挿画像上に発生する場合は生じる。この場合、「現れる領域」の非連続領域と同様に考える。つまり、内挿画像上の理想的な背景と物体Aとの組み合わせは、基準画像f(t−1)および参照画像f(t)には存在しないので、面内補間処理またはディザ処理を行う必要がある。
この補正対象ブロックとなるのは、図4の例では内挿ブロック4−29であり、図5の例では内挿ブロック5−29である。内挿ブロック4−29等を補正対象ブロックとして判定する条件は、「双方向作画領域に分類されて」おり、かつ、「所定の範囲内に基準方向作画領域に分類されている内挿ブロックが存在して」いるという条件である。そして、この補正対象ブロック4−29に割り付けられた内挿ベクトルと、所定の範囲内の基準方向作画領域に分類された内挿ブロック(例えば4−30)に割り付けられた内挿ベクトルとの差が大きいという条件2bを満たす場合に、補正対象ブロック4−29に対して面内補間処理またはディザ処理等を行う。
上述のように、内挿ブロックについて、隣接する内挿ブロックが基準画像または参照画像の一方のみに基づき作画をする内挿ブロックであり、かつ、当該内挿ブロックの内挿ベクトルと差が小さい場合、隣接する内挿ブロックと同じ原画像のみに基づき作画することで、内挿画像の擬似輪郭を抑制することが可能となる。また、隣接する内挿ブロックが基準画像または参照画像の一方のみに基づき作画をする内挿ブロックであり、かつ、当該内挿ブロックの内挿ベクトルと差が大きい場合、内挿画像を作画した後に、対象の内挿ブロックの画素を、周囲の画素からリニア補間またはバイリニア補間した画素に置き換えることで、内挿画像上の非連続領域の発生を抑制することが可能となり、良質な内挿画像を得ることが可能となる。
また、本発明に係る画像補間装置1は、例えば、テレビジョン受像装置に備えられて、受信した放送信号に含まれる映像信号に基づいて表示される画像を補間する構成であってもよい。あるいは、本発明に係る画像補間装置1は、DVD再生装置やビデオ再生装置等の映像再生装置に備えられて、記録媒体に記録されている映像データに基づいて再生される画像を補間する構成であってもよい。
〔実施の形態2〕
次に、実施の形態2の画像補間装置について説明する。尚、説明の便宜上、以下では、実施の形態1との相違点のみを説明する。実施の形態2では、ベクトル生成部10によって内挿ブロックの各内挿ベクトルを求める処理方法が実施の形態1と異なる。
ベクトル検出部3は、実施の形態1と同様の方法によって、基準画像の各検出ブロックについて動きベクトルを検出する。
統計処理部5は、ベクトル検出部3で検出された動きベクトルに基づき、基準画像の検出ブロックの動きベクトルが、参照画像において同じ検出ブロック(図4に示す例では、検出ブロック4−16)を終点とする場合、その基準画像の検出ブロック(図4に示す例では、検出ブロック4−5、4−6、4−7)について、実施の形態1と同様の方法によって予測動きベクトルを求める。また、統計処理部5は、終点となる動きベクトルが検出されていない参照画像の検出ブロック(図4に示す例では、検出ブロック4−12、4−13)について、実施の形態1と同様の方法によって予測動きベクトルを求める。なお、検出ブロック4−13を終点とする予測動きベクトルとして、検出ブロック4−12を終点とする予測動きベクトルと方向および大きさが同じものが求められる。統計処理部5は、求めた予測動きベクトルを、作画方向判定部4に出力する。
作画方向判定部4は、ベクトル検出部3で検出された動きベクトルおよび統計処理部5で求められた予測動きベクトルによって、内挿画像を作画すべき作画方向を判定する。すなわち、各動きベクトルについて、内挿画像を、基準画像のみを用いて作画すべきか、参照画像のみを用いて作画すべきか、基準画像および参照画像の両方を用いて作画すべきかの作画方向を判定する。例えば、図4に示す例では、作画方向判定部4は、検出ブロック4−1、4−2、4−3、4−4を始点とする動きベクトル(ベクトル検出部3で検出された動きベクトル:実線矢印)については、基準画像および参照画像の両方を用いて双方向から作画すると判定する。また、作画方向判定部4は、検出ブロック4−5、4−6、4−7を始点とする予測動きベクトル(点線矢印)については、基準画像のみを用いて作画すると判定する。なお、検出ブロック4−7の予測動きベクトルは、ベクトル検出部3で検出された動きベクトル(実線矢印)と同じである。また、作画方向判定部4は、参照画像の検出ブロック4−12、4−13を終点とする予測動きベクトル(点線矢印)については、参照画像のみを用いて作画すると判定する。作画方向判定部4は、検出された動きベクトルと、予測動きベクトルと、各動きベクトルの作画方向に関する上記の判定結果(作画方向の情報)とをベクトル割付部6に出力する。
ベクトル割付部6は、検出された動きベクトルと、予測動きベクトルと、各動きベクトルの作画方向の情報とに基づき、内挿画像の各内挿ブロックの動きを表す内挿ベクトルを求め、内挿ベクトルを各内挿ブロックに割り付ける。以後の処理は実施の形態1と同様に行うことができる。
以上では、作画方向判定部4は、各動きベクトルに作画方向の情報を付加したが、作画方向判定部4は、各検出ブロックについての作画方向の情報を各検出ブロックに付加してベクトル割付部6に出力してもよい。この場合、ベクトル割付部6は、基準画像の検出ブロック4−5、4−6、4−7の動きベクトルを予測動きベクトルに置き換える。そして、基準画像の検出ブロックおよび対応する動きベクトルと、参照画像の検出ブロックおよび対応する動きベクトルと、各検出ブロックについての作画方向の情報とに基づき、内挿画像の各内挿ブロックの動きを表す内挿ベクトルを求め、内挿ベクトルを各内挿ブロックに割り付けてもよい。
ベクトル生成部10における処理では、以上の方法に限らず、内挿ブロックの各内挿ベクトルを求める一般的な処理方法を利用することができる。
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
最後に、画像補間装置1の各ブロックは、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
すなわち、画像補間装置1は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである画像補間装置1の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、画像補間装置1に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
また、画像補間装置1を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。