以下に本発明の実施の形態を説明するが、本明細書に記載の発明と、発明の実施の形態との対応関係を例示すると、次のようになる。この記載は、本明細書に記載されている発明をサポートする実施の形態が本明細書に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、発明に対応するものとして、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その発明に対応するものではないことを意味するものではない。逆に、実施の形態が発明に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その発明以外の発明には対応しないものであることを意味するものでもない。
さらに、この記載は、本明細書に記載されている発明の全てを意味するものではない。換言すれば、この記載は、本明細書に記載されている発明であって、この出願では請求されていない発明の存在、すなわち、将来、分割出願されたり、補正により出現、追加される発明の存在を否定するものではない。
即ち、本発明の一側面の画像処理装置は、第1の画像の注目画素に対して第1の所定の領域に存在する画素より、エッジまたは平坦部を表現可能な複数の種類の特徴量からなる広域特徴量を抽出する広域特徴量抽出手段(例えば、図20の広域特徴量抽出部911)と、前記広域特徴量に含まれる複数の特徴量により表現される多次元の空間における、前記第1の画像のうち、階調が少なくエッジがはっきりした人工的な画像である人工画像の統計的な分布範囲に対する、前記広域特徴量抽出手段により抽出された広域特徴量の前記空間内の位置関係により、前記人工画像の分布領域に属する程度を示す広域人工画度を算出する広域人工画度算出手段(例えば、図20の広域人工画度算出部912)と、前記第1の画像の注目画素に対して前記第1の所定の領域よりも狭い第2の所定の領域に存在する画素より、狭域の細線、エッジ、点、エッジ付近の平坦部、またはグラデーションを表現可能な複数の種類の特徴量からなる狭域特徴量を抽出する狭域特徴量抽出手段(例えば、図20の狭域特徴量抽出部914)と、前記狭域特徴量に含まれる複数の特徴量により表現される多次元の空間における、前記第1の画像のうち、前記人工画像の統計的な分布範囲に対する、前記狭域特徴量抽出手段により抽出された狭域特徴量の前記空間内の位置関係により、前記人工画像の分布領域に属する程度を示す狭域人工画度を算出する狭域人工画度算出手段(例えば、図20の狭域人工画度算出部915)と、前記広域人工画度および前記狭域人工画度を合成して、前記注目画素の人工画度を算出する人工画度算出手段(例えば、図20の人工画度生成部913)とを含む。
前記第1の画像より、前記人工画像を高品質化した第2の画像を予測する第1の予測手段(例えば、図1の人工画予測部132)と、前記第1の画像より、階調が多くエッジがはっきりしない画像である自然画像を高品質化した第3の画像を予測する第2の予測手段(例えば、図1の自然画予測部131)と、前記第2の画像と前記第3の画像とを、前記人工画度により合成する合成手段(例えば、図1の合成部133)とをさらに含ませるようにすることができる。
前記第1の予測手段には、前記第2の画像の画素を、第1のクラスに分類する第1のクラス分類手段(例えば、図10のクラス分類部651)と、複数の前記人工画像を用いた学習により獲得された前記第1のクラスごとの第1の予測係数を格納する第1の格納手段(例えば、図10の予測係数メモリ654)と、前記第1の画像と、前記第2の画像の画素の前記第1のクラスの第1の予測係数とを用いて演算することで、前記第1の画像から前記第1の画像より高品質の第2の画像を求める第1の演算手段(例えば、図10の予測部655)とを含ませるようにすることができ、前記第2の予測手段には、前記第3の画像の画素を、第2のクラスに分類する第2のクラス分類手段(例えば、図3のクラスタップ抽出部551,ADRC処理部552)と、複数の、前記自然画像を用いた学習により獲得された前記第2のクラスごとの第2の予測係数を格納する第2の格納手段(例えば、図3の予測係数メモリ555)と、前記第1の画像と、前記第3の画像の画素の前記第2のクラスの第2の予測係数とを用いて演算することで、前記第1の画像から前記第3の画像を求める第2の演算手段(例えば、図3の予測演算部557)とを含ませるようにすることができる。
前記広域人工画度算出手段(例えば、図20の広域人工画度算出部912)には、前記広域特徴量に含まれる複数の特徴量により表現される多次元の空間における、前記第1の画像のうち、階調が少なくエッジがはっきりした人工的な画像である人工画像の統計的な分布範囲を記憶する広域人工画分布範囲記憶手段(例えば、図20の広域境界線メモリ953)を含ませるようにすることができ、前記広域人工画分布範囲記憶手段に記憶されている、前記広域特徴量に含まれる複数の特徴量により表現される多次元の空間の分布範囲に対する、前記広域特徴量抽出手段により抽出された広域特徴量の前記空間内の位置関係により、前記人工画像の分布領域に属する程度を示す広域人工画度を算出させるようにすることができる。
前記狭域人工画度算出手段(例えば、図20の狭域人工画度算出部915)には、前記狭域特徴量に含まれる複数の特徴量により表現される多次元の空間における、前記第1の画像のうち、前記人工画像の統計的な分布範囲が記憶されている狭域人工画分布範囲記憶手段(例えば、図20の狭域境界線メモリ993)を含み、前記狭域人工画分布範囲記憶手段に記憶されている、前記狭域特徴量に含まれる複数の特徴量により表現される多次元の空間の分布範囲に対する、前記狭域特徴量抽出手段により抽出された狭域特徴量の前記空間内の位置関係により、前記人工画像の分布領域に属する程度を示す狭域人工画度を算出させるようにすることができる。
前記広域特徴量抽出手段には、前記第1の所定の領域に存在する画素より、エッジの存在を表現する特徴量を抽出するエッジ特徴量抽出手段(例えば、図20のBEP抽出部931)と、前記第1の所定の領域に存在する画素より、平坦部の存在を表現する特徴量を抽出する平坦部特徴量抽出手段(例えば、図20のBFP抽出部932)とを含ませるようにすることができる。
前記エッジ特徴量抽出手段(例えば、図21のBEP抽出部931)には、前記エッジの存在を表現する特徴量として、前記第1の所定の領域に存在する画素と注目画素との画素値の差分値を用いて、第1の所定の領域に存在する画素の差分ダイナミックレンジを抽出させるようにすることができる。
前記エッジ特徴量抽出手段(例えば、図21のBEP抽出部931)には、前記注目画素と前記第1の所定の領域に存在する画素との差分値に、前記注目画素と前記第1の所定の領域に存在する画素との距離に応じた重みを付した値を用いて、前記第1の所定の領域に存在する画素の差分ダイナミックレンジを抽出させるようにすることができる。
前記狭域特徴量抽出手段(例えば、図20の狭域特徴量抽出部914)には、前記第2の所定の領域に包含される第1の領域に存在する画素の画素値の最大値より最小値を引いた画素値ダイナミックレンジを前記狭域特徴量の第1の特徴量として抽出する第1の狭域特徴量抽出手段(例えば、図20のPNDP抽出部971)と、前記第1の領域に包含され、かつ、前記注目画素を包含する第2の領域の画素の画素値の最大値より最小値を引いた画素値ダイナミックレンジを前記狭域特徴量の第2の特徴量として抽出する第2の狭域特徴量抽出手段(例えば、図20のSNDP抽出部972)とを含み、前記第2の所定の領域に存在する画素より、細線、エッジ、点、エッジ付近の平坦部、またはグラデーションを表現する2種類の特徴量として前記第1の特徴量および前記第2の特徴量を求め、前記第1の特徴量および前記第2の特徴量の2種類の特徴量からなる狭域特徴量を抽出させるようにすることができる。
前記第2のダイナミックレンジ特徴量抽出手段(例えば、図24のSNDP抽出部972)には、複数の前記第2の領域より、それぞれ画素値ダイナミックレンジを抽出する場合、前記画素値ダイナミックレンジが最小となるものを前記第2の特徴量として抽出させるようにすることができる。
前記狭域特徴量抽出手段には、前記第2の所定の領域に存在する画素の画素値の画素値ダイナミックレンジを前記狭域特徴量の第1の特徴量として抽出する前記第1の狭域特徴量抽出手段(例えば、図45のPNDP抽出部971)と、前記第2の所定の領域に存在する画素と、前記注目画素との差分絶対値を所定の関数で処理し、さらに、重みを付した値を加算した値を積算した値を前記狭域特徴量の第2の特徴量として抽出する前記第2の狭域特徴量抽出手段(例えば、図47のSNDP抽出部972)とを含ませるようにさせることができ、前記第2の所定の領域に存在する画素より、細線、エッジ、点、エッジ付近の平坦部、またはグラデーションを表現する2種類の特徴量として前記第1の特徴量および前記第2の特徴量を求め、前記第1の特徴量および前記第2の特徴量の2種類の特徴量からなる狭域特徴量を抽出させるようにすることができる。
前記注目画素から前記第1の領域に存在する画素までの経路上に存在する全ての画素の隣接画素間の差分絶対値の総和に応じた値からなる前記重みを計算する重み計算手段(例えば、図47の重み計算部1165)を含ませるようにすることができる。
本発明の一側面の画像処理方法およびプログラムは、第1の画像の注目画素に対して第1の所定の領域に存在する画素より、エッジまたは平坦部を表現可能な複数の種類の特徴量からなる広域特徴量を抽出する広域特徴量抽出ステップ(例えば、図25のフローチャートにおけるステップS831,S832)と、前記広域特徴量に含まれる複数の特徴量により表現される多次元の空間における、前記第1の画像のうち、階調が少なくエッジがはっきりした人工的な画像である人工画像の統計的な分布範囲に対する、前記広域特徴量抽出ステップの処理により抽出された広域特徴量の前記空間内の位置関係により、前記人工画像の分布領域に属する程度を示す広域人工画度を算出する広域人工画度算出ステップ(例えば、図25のフローチャートにおけるステップS834)と、前記第1の画像の注目画素に対して前記第1の所定の領域よりも狭い第2の所定の領域に存在する画素より、狭域の細線、エッジ、点、エッジ付近の平坦部、またはグラデーションを表現可能な複数の種類の特徴量からなる狭域特徴量を抽出する狭域特徴量抽出ステップ(例えば、図25のフローチャートにおけるステップS835,S836)と、前記狭域特徴量に含まれる複数の特徴量により表現される多次元の空間における、前記第1の画像のうち、前記人工画像の統計的な分布範囲に対する、前記狭域特徴量抽出ステップの処理により抽出された狭域特徴量の前記空間内の位置関係により、前記人工画像の分布領域に属する程度を示す狭域人工画度を算出する狭域人工画度算出ステップ(例えば、図25のフローチャートにおけるステップS838)と、前記広域人工画度および前記狭域人工画度を合成して、前記注目画素の人工画度を算出する人工画度算出ステップ(例えば、図25のフローチャートにおけるステップS839)とを含む。
以下、図を参照して、本発明の実施の形態について説明する。
図1は、本発明を適用した画像変換装置101の一実施の形態を示すブロック図である。画像変換装置101は、巡回型IP変換部111、出力位相変換部112、自然画予測部131、人工画予測部132、自然画人工画判定部114、および、合成部133により構成される。また、巡回型IP変換部111は、IP変換部121および巡回型変換部122により構成される。
巡回型IP変換部111のIP変換部121および巡回型変換部122には、処理対象となるインターレース方式のSD画像が入力される。
IP変換部121は、所定の方法に基づいて、入力されたインターレース方式のSD画像(以下、入力画像とも称する)をプログレッシブ方式のSD画像(以下、中間画像とも称する)にIP変換し、IP変換したプログレッシブ方式のSD画像を巡回型変換部122に供給する。
巡回型変換部122は、入力画像と、1フレーム前に巡回型変換部122から出力されたプログレッシブ方式のSD画像(以下、出力画像とも称する)との間の動きベクトルを求める。巡回型変換部122は、入力画像の画素値と、求めた動きベクトルに基づいて、出力画像に動き補償を施した画像の画素値とを、巡回係数を用いて重み付け加算することにより、中間画像の画質を向上させる。巡回型変換部122は、中間画像をより高画質のプログレッシブ方式のSD画像である出力画像に変換し、出力画像を出力位相変換部112に供給する。なお、巡回係数は、中間画像の各画素について、変換前の入力画像において画素が存在する位置にあるか否か、動きベクトルの垂直方向の大きさ、および、動きベクトルの確からしさを表す信頼度確からしさに基づいて設定される。
出力位相変換部112は、巡回型変換部122から供給される第1の画素数のSD画像に対して、水平方向および垂直方向に補間を行うことにより、第1の画素数より多い第2の画素数のHD画像を生成する。出力位相変換部112は、そのHD画像を、自然画予測部131、人工画予測部132、および、自然画人工画判定部114に供給する。
画像処理部113は、自然画人工画判定部114より供給されてくる人工画度に基づいて、HD画像から高品質な画像に処理して、処理結果としての高品質なHD画像を出力する。
自然画人工画判定部114は、出力位相変換部112より供給されるHD画像の各画素について、人工画像に分類される領域、または、自然画像に分類される領域のいずれの領域に属するかを判定し、判定結果を人工画度として画像処理部113に出力する。すなわち、人工画度とは、人工画像と自然画像との中間に分類される領域において自然画像における人工画像の割合を0乃至1の値で示したものである。
自然画予測部131は、出力位相変換部112から供給されるHD画像から、そのHD画像のうちの自然画像を高品質にしたHD画像(以下、自然高品質画像と称する)を予測する。具体的には、自然画予測部131は、HD画像の特徴に応じて、そのHD画像から求められる自然高品質画像の画素である注目画素を、自然画像の特徴に適したクラスに分類する。そして、自然画予測部131は、そのクラスに対応する、自然高品質画像を予測するための予測係数と、HD画像とを用いて演算することにより、出力位相変換部112から供給されたHD画像から、自然高品質画像を予測する。自然画予測部131は、その自然高品質画像を合成部133に供給する。
人工画予測部132は、自然画予測部131と同様に、出力位相変換部112から供給されるHD画像から、そのHD画像のうちの人工画像を高品質にしたHD画像(以下、人工高品質画像と称する)を予測する。具体的には、人工画予測部132は、HD画像の特徴に応じて、そのHD画像から求められる人工高品質画像の画素である注目画素を、人工画像の特徴に適したクラスに分類する。そして、人工画予測部132は、そのクラスに対応する、人工高品質画像を予測するための予測係数と、HD画像とを用いて演算することにより、出力位相変換部112から供給されたHD画像から、人工高品質画像を予測する。人工画予測部132は、その人工高品質画像を合成部133に出力する。
合成部133は、自然画人工画判定部114より供給される判定結果に基づいて、自然画予測部131から供給される自然高品質画像の各画素の画素値と、人工画予測部132から供給される人工高品質画像の各画素の画素値とを人工画度に応じた割合で合成し、合成の結果得られるHD画像を出力する。
次に、図2のフローチャートを参照して、画像変換装置101により実行される画像変換処理を説明する。なお、この処理は、例えば、外部からインターレース方式のSD画像の入力が開始されたとき開始される。
ステップS1において、IP変換部121は、IP変換を行う。具体的には、IP変換部121は、所定の方法に基づいて、インターレース方式の入力画像を、プログレッシブ方式の中間画像にIP変換し、IP変換した中間画像を巡回型変換部122に供給する。
ステップS2において、巡回型変換部122は、巡回型変換処理を行う。具体的には、入力画像と、1フレーム前に巡回型変換部122から出力された出力画像との間の動きベクトルを求める。巡回型変換部122は、入力画像の画素値と、求めた動きベクトルに基づいて、出力画像に動き補償を施した画像の画素値とを、巡回係数を用いて重み付け加算することにより、中間画像の画質を向上させる。巡回型変換部122は、中間画像をより高画質のプログレッシブ方式のSD画像である出力画像に変換し、出力画像を出力位相変換部112に供給する。
ステップS3において、出力位相変換部112は、出力位相変換処理を行う。具体的には、出力位相変換部112は、巡回型変換部122から供給されるSD画像に対して、水平方向および垂直方向に補間を行うことにより、HD画像を生成する。出力位相変換部112は、そのHD画像を、自然画予測部131、人工画予測部132、および、自然画人工画判定部114に供給する。
ステップS4において、自然画予測部131は、自然画予測処理を行う。自然画予測処理の詳細は、図6を参照して後述するが、この処理により、HD画像から自然高品質画像が予測され、その自然高品質画像が合成部133に供給される。
ステップS5において、人工画予測部132は、人工画予測処理を行う。人工画予測処理の詳細は、図15を参照して後述するが、この処理により、HD画像から人工高品質画像が予測され、その人工高品質画像が合成部133に出力される。
ステップS6において、自然画人工画判定部114は、自然画人工画判定処理を行う。自然画予測処理の詳細は、図25を参照して後述するが、自然画人工画判定部114は、出力位相変換部112より供給されるHD画像の各画素について、人工画像に分類される領域、または、自然画像に分類される領域のいずれの領域に属するかを判定し、判定結果を人工画度として合成部133に出力する。
ステップS7において、合成部133は、画像を合成する。具体的には、合成部133は、自然画人工画判定部114より供給される判定結果に基づいて、自然画予測部131から供給される自然高品質画像の各画素の画素値と、人工画予測部132から供給される人工高品質画像の各画素の画素値とを人工画度に応じた割合で合成する。合成部133は、合成した画像を後段の装置に出力する。
なお、複数の画像の画像変換を連続して行う場合、上述したステップS1乃至S7の処理が繰り返し実行される。
図3は、図1の自然画予測部131の構成例を示すブロック図である。
図3の自然画予測部131は、クラスタップ抽出部551、ADRC(Adaptive Dynamic Range Coding)処理部552、係数種メモリ553、予測係数生成部554、予測係数メモリ555、予測タップ抽出部556、および予測演算部557により構成され、図1の出力位相変換部112から供給されるプログレッシブ方式のHD画像から、そのHD画像のうちの自然画像からノイズなどを除去して、高品質にした自然高品質画像を予測する。
自然画予測部131には、図1の出力位相変換部112から供給される、プログレッシブ方式のHD画像が入力され、そのHD画像はクラスタップ抽出部551と予測タップ抽出部556に供給される。
クラスタップ抽出部551は、入力されたHD画像により求められる、自然高品質画像を構成する画素を、順次、注目画素とし、その注目画素をクラスに分類するために用いる、入力されたHD画像を構成する画素の幾つかを、クラスタップとして抽出する。クラスタップ抽出部551は、抽出されたクラスタップを、ADRC処理部552に供給する。
ADRC処理部552は、クラスタップ抽出部551から供給されるクラスタップを構成する画素の画素値を、クラスタップの波形の特徴として、その画素値に対してADRC処理などを行い、その結果得られるADRCコードを、クラスタップの特徴として検出する。
なお、KビットADRCにおいては、例えば、クラスタップを構成する画素の画素値の最大値MAXと最小値MINが検出され、DR=MAX-MINを、集合の局所的なダイナミックレンジとし、このダイナミックレンジDRに基づいて、クラスタップを構成する画素値がKビットに再量子化される。即ち、クラスタップを構成する各画素の画素値から、最小値MINが減算され、その減算値がDR/2Kで除算される。
そして、以上のようにして得られる、クラスタップを構成するKビットの各画素の画素値を、所定の順番で並べたビット列が、ADRCコードとして出力される。従って、クラスタップが、例えば、1ビットADRC処理された場合には、そのクラスタップを構成する各画素の画素値は、最大値MAXと最小値MINとの平均値で除算されて、除算結果の小数点以下は切り捨てられ、これにより、各画素の画素値が1ビットとされる。即ち、各画素の画素値が2値化される。そして、その1ビットの画素値を所定の順番で並べたビット列が、ADRCコードとして出力される。
ADRC処理部552は、検出されたADRCコードに基づいてクラスを決定することにより、注目画素をクラスに分類し、そのクラスを予測係数メモリ555に供給する。例えば、ADRC処理部552は、ADRCコードをそのままクラスとして、予測係数メモリ555に供給する。
係数種メモリ553は、図7乃至図9を参照して後述する学習により獲得されたクラスごとの係数種を格納している。予測係数生成部554は、係数種メモリ553から係数種を読み出す。予測係数生成部554は、ユーザにより入力される水平方向の解像度を決定するためのパラメータhと、垂直方向の解像度を決定するためのパラメータvとに基づいて、そのパラメータhとvを含む多項式を用いて、読み出された係数種から予測係数を生成し、予測係数メモリ555に供給して記憶させる。
予測係数メモリ555は、ADRC処理部552から供給されるクラスに応じて、そのクラスの予測係数を読み出し、予測演算部557に供給する。
なお、予測タップとクラスタップは、同一のタップ構造を有するものとすることも、異なるタップ構造を有するものとすることも可能である。
予測タップ抽出部556は、入力されたHD画像から、注目画素の画素値を予測するのに用いるHD画像を構成する画素を、予測タップとして抽出する。予測タップ抽出部556は、予測タップを予測演算部557に供給する。
予測演算部557は、予測タップ抽出部556から供給される予測タップと、予測係数メモリ555から供給される予測係数とを用いて、注目画素の真値の予測値を求める線形一次式の演算などの予測演算を行う。これにより、予測演算部557は、注目画素の画素値の予測値、即ち、自然高品質画像を構成する画素の画素値を求めて合成部133に出力する。
図4は、図3のクラスタップ抽出部551により抽出されるクラスタップのタップ構造の一例を示している。
なお、図中白丸は、出力位相変換部112から供給されるHD画像の画素のうち、クラスタップを構成する画素を表し、点線の丸は、クラスタップを構成しない画素を表し、黒丸は注目画素を表している。このことは、後述する図5においても同様である。
図4では、9個の画素で、クラスタップが構成されている。即ち、注目画素q6に対応するHD画像を構成する画素p64を中心として、縦方向に1画素置きに並ぶ5画素p60,p61,p64,p67,p68、横方向に1画素置きに並ぶ画素p64を除いた4画素p62,p63,p65,p66から、いわば十字形状のクラスタップが構成されている。
図5は、図3の予測タップ抽出部556により抽出される予測タップのタップ構造の一例を示している。
図5では、13個の画素で、予測タップが構成されている。即ち、図5では、出力位相変換部112から供給されるHD画像のうちの、注目画素q8に対応する画素p86を中心として縦方向に1画素置きに並ぶ5画素p80,p82,p86,p90,p92、横方向に1画素置きに並ぶ画素p86を除いた4画素p84、p85,p87,p88、画素p85を中心として、縦方向に1画素置きに並ぶ画素p85を除いた2画素p81,p89、画素p87を中心として、縦方向に1画素置きに並ぶ画素p87を除いた2画素p83,p91から、略ひし形状の予測タップが構成されている。
なお、図4と図5では、クラスタップを構成する9画素p60乃至p68と、予測タップを構成する13画素p80乃至p92は、上下方向(垂直方向)または左右方向(水平方向)に1画素置きに、即ち2画素間隔で並んでいるが、その間隔は、これに限定されず、出力位相変換部112における変換前のSD画像と変換後のHD画像の画素数の比率、即ち補間倍率に応じて変更するとよい。
例えば、水平方向と垂直方向の各画素数が、それぞれ2倍になるように、出力位相変換部112が画像を変換した場合、図4と図5に示されるように、垂直方向または水平方向に2画素間隔で並ぶ画素から、クラスタップと予測タップを構成すると、補間された画素および補間前から存在する画素のうちの一方だけで、クラスタップと予測タップが構成されるので、それらの両方が混在する、例えばクラスタップと予測タップが1画素間隔で並ぶ画素から構成される場合よりも、自然画予測部131による予測処理の結果の精度が向上する。
次に、図6を参照して、図3の自然画予測部131が行う図2のステップS4の自然画予測処理の詳細を説明する。
初めに、ステップS551において、クラスタップ抽出部551は、図1の出力位相変換部112から入力されたHD画像により求められる自然高品質画像を構成する画素のうちの1つを、注目画素として選択する。
ステップS552において、クラスタップ抽出部551は、図4に示されるような、ステップS551で選択された注目画素のクラス分類を行うのに用いる、入力されたHD画像を構成する画素の幾つかを、HD画像からクラスタップとして抽出し、ADRC処理部552に供給する。
ステップS553において、ADRC処理部552は、クラスタップ抽出部551から供給されるクラスタップを構成する画素の画素値に対して、ADRC処理を行い、その結果得られるADRCコードを、クラスタップの特徴として検出する。
ステップS554において、ADRC処理部552は、ADRCコードに基づいてクラスを決定することにより、注目画素をクラスに分類し、そのクラスを予測係数メモリ555に供給する。
ステップS555において、予想係数生成部554は、係数種メモリ553から係数種を読み出す。
ステップS556において、予測係数生成部554は、ユーザにより入力されたパラメータhとvに基づいて、パラメータhとvを含む多項式を用いて、係数種メモリ553から読み出された係数種から予測係数を生成し、予測係数メモリ555に供給して記憶させる。この係数種から予測係数を生成する処理の詳細については後述する。
ステップS557において、予測係数メモリ555は、ADRC処理部552から供給されるクラスに基づいて、そのクラスの予測係数を読み出し、予測演算部557に供給する。
ステップS558において、予測タップ抽出部556は、入力されたHD画像から、図5に示されるような、注目画素の画素値を予測するのに用いるHD画像を構成する画素を、予測タップとして抽出する。予測タップ抽出部556は、予測タップを予測演算部557に供給する。
ステップS559において、予測演算部557は、予測タップ抽出部556から供給される予測タップと、予測係数メモリ555から供給される予測係数とを用いて、注目画素の真値の予測値を求める線形一次式などの予測演算を行う。
ステップS560において、予測演算部557は、予測演算の結果得られた注目画素の画素値の予測値、即ち、自然高品質画像を構成する画素の画素値を合成部133に出力する。
ステップS561において、クラスタップ抽出部551は、入力されたHD画像により求められる自然高品質画像を構成するすべての画素を、注目画素としたかどうかを判定する。ステップS561で、すべての画素をまだ注目画素としていないと判定された場合、ステップS562において、クラスタップ抽出部551は、自然高品質画像を構成する画素のうち、まだ注目画素としていないものを、新たに注目画素として決定し、処理をステップS552に戻し、以下同様の処理を繰り返す。一方、ステップS561で、クラスタップ抽出部551は、すべての画素を注目画素としたと判定した場合、自然画予測処理を終了する。
以上のようにして、自然画予測部131は、出力位相変換部112から供給されるHD画像から、自然高品質画像を予測し、出力する。即ち、自然画予測部131は、HD画像を自然高品質画像に変換し、出力する。
以上のように、図1の画像変換装置101では、出力位相変換部112が、巡回型変換部122から供給されるSD画像を、自然画予測部131から出力するHD画像に変換して、自然画予測部131に供給するので、予測前と予測後の画像の画素数が同一であり、予測前後の画像の画素の位置にはズレがなくなる。
従って、自然画予測部131は、自然高品質画像の画素である注目画素の位相と同一の位相のHD画像の画素からなる予測タップを用いて、注目画素の画素値を予測することができる。その結果、自然画予測部131は、自然高品質画像を正確に予測し、高精度の画像変換を行うことができる。即ち、出力位相変換部112と自然画予測部131は、巡回型変換部122から入力されるSD画像である画像を、画素数の異なる高品質なHD画像である自然高品質画像に的確に変換することができる。
また、自然画予測部131は、クラスタップを構成する画素の画素値を、クラスタップの波形の特徴として、注目画素をクラスに分類するので、平坦部分が比較的少ない自然画像の特徴を分類するのに適した分類を行うことができる。その結果、自然画予測部131は、HD画像のうちの自然画像の品質を、的確に高めることができる。
次に、図3の予測演算部557における予測演算と、その予測演算に用いられる予測係数の学習について説明する。
いま、入力されたHD画像から予測タップを抽出し、その予測タップと予測係数を用いて、自然高品質画像を構成する画素(以下、適宜、自然高品質画像画素と称する)の画素値を予測する所定の予測演算として、例えば、線形1次予測演算を採用することとすると、自然高品質画像画素の画素値yは、次の線形1次式によって求められることになる。
但し、式(1)において、xnは、画素値yの自然高品質画像画素についての予測タップを構成する、n番目のHD画像の画素(以下、適宜、HD画像画素と称する)の画素値を表し、Wnは、n番目のHD画像画素の画素値と乗算されるn番目の予測係数を表す。なお、式(1)では、予測タップが、N個のHD画像画素x1,x2,・・・,xNで構成されるものとしてある。
自然高品質画像画素の画素値yは、式(1)に示した線形1次式ではなく、2次以上の高次の式によって求めるようにすることも可能である。
いま、第kサンプルの自然高品質画像画素の画素値の真値をykと表すとともに、式(1)によって得られるその真値ykの予測値をyk’と表すと、その予測誤差ekは、次式で表される。
式(2)の予測値yk’は、式(1)にしたがって求められるため、式(2)の予測値yk’を、式(1)にしたがって置き換えると、次式が得られる。
但し、式(3)において、xn,kは、第kサンプルの自然高品質画像画素についての予測タップを構成するn番目のHD画像画素を表す。
式(3)または式(2)の予測誤差ekを0、即ち統計的に最小にする予測係数Wnが、自然高品質画像画素を予測するのに最適なものとなるが、すべての自然高品質画像画素について、そのような予測係数Wnを求めることは、一般には困難である。
そこで、予測係数Wnが最適なものであることを表す規範として、例えば、最小自乗法を採用することとすると、最適な予測係数Wnは、次式で表される自乗誤差の総和Eを最小にすることで求めることができる。
但し、式(4)において、Kは、高品質画像の画素値の真値ykと、その真値ykについての予測タップを構成するHD画像画素x1,k,x2,k,・・・,xN,kとのセットのサンプル数、即ち学習用のサンプルの数を表す。
式(4)の自乗誤差の総和Eの最小値は、式(5)に示すように、総和Eを予測係数Wnで偏微分したものを0とするWnによって与えられる。
そこで、上述の式(3)を予測係数Wnで偏微分すると、次式が得られる。
式(5)と式(6)から、次式が得られる。
式(7)のekに、式(3)を代入することにより、式(7)は、式(8)に示す正規方程式で表すことができる。
式(8)の正規方程式は、例えば、掃き出し法(Gauss-Jordanの消去法)などを用いることにより、予測係数Wnについて解くことができる。
式(8)の正規方程式をクラスごとにたてて解くことにより、最適な予測係数として、自乗誤差の総和Eを最小にする予測係数Wnを、クラスごとに求めることができる。
また、図3の予測係数生成部554において予測係数を生成する多項式と、その多項式に用いられる係数種の学習について説明する。
いま、入力されたパラメータhとv、並びに係数種を用いて予測係数を生成する式として、例えば、多項式を採用することとすると、クラスごと、かつパラメータhとvの組み合わせごとの予測係数Wnは、次の多項式によって求められる。
但し、式(9)において、wn,k(k=1,2・・・,9)は、式(14)で表される画素値yの自然高品質画像画素についての予測タップを構成する、n番目のHD画像の画素の画素値xnと乗算されるn番目の予測係数Wnを生成するための係数種のうちの、k番目の項の係数を表す。
ここで、パラメータhとvに対応する、n番目の予測係数の真値をWvhnと表すとともに、式(9)によって得られるその真値Wvhnの推測値をWvhn’と表すと、その推測誤差evhnは、次式で表される。
式(10)の推測値Wvhn’は、式(9)にしたがって求められるため、式(10)の推測値Wvhn’を、式(9)にしたがって置き換えると、次式が得られる。
なお、式(11)において、wvhn,kは、予測係数Wvhnを生成するための係数種のうちの、k番目の項の係数を表す。また、式(11)において、tkは次式で定義される。
式(10)または式(11)の予測誤差evhnを0、即ち統計的に最小にする係数種wvhn,kが、予測係数を推測するのに最適なものとなるが、すべての予測係数について、そのような係数種wvhn,kを求めることは、一般には困難である。
そこで、係数種wvhn,kが最適なものであることを表す規範として、例えば、最小自乗法を採用することとすると、最適な係数種wvhn,kは、次式で表される自乗誤差の総和Eを最小にすることで求めることができる。
但し、式(13)において、Vは、パラメータvの種類の数を表し、Hは、パラメータhの種類の数を表す。
式(13)の自乗誤差の総和Eの最小値は、式(14)に示すように、総和Eを係数種wvhn,kで偏微分したものを0とするwvhn,kによって与えられる。
ここで、XklとYkをそれぞれ以下の式(15)と式(16)で定義すると、式(14)は以下の式(17)の正規方程式に書き換えられる。
式(17)の正規方程式は、例えば、掃き出し法(Gauss-Jordanの消去法)などを用いることにより、係数種wn,kについて解くことができる。
式(17)の正規方程式をクラスごとにたてて解くことにより、最適な係数種として、自乗誤差の総和Eを最小にする係数種wn,kを、クラスごとに求めることができる。
図7は、式(17)の正規方程式をたてて解くことによりクラスごとの係数種wn,kを求める学習を行う学習装置601の構成例を示すブロック図である。
図7の学習装置601は、帯域制限フィルタ611、クラスタップ抽出部612、ADRC処理部613、予測タップ抽出部614、正規方程式生成部615、予測係数生成部616、正規方程式生成部617、係数種決定部618、および係数種メモリ619により構成される。
学習装置601には、図示せぬデータベースから読み出された、予測処理後の目標の自然画像となる教師画像が複数入力され、その教師画像は、帯域制限フィルタ611と正規方程式生成部615に供給される。また、学習装置601には、ユーザの指示に基づいて、パラメータhとvが外部から入力され、帯域制限フィルタ611と正規方程式生成部615に供給される。なお、学習装置601には、1枚の教師画像が学習装置601に入力されるごとに、パラメータhとvの全通りの組み合わせが入力されるようになっている。
帯域制限フィルタ611は、外部から入力されるパラメータhとvに応じて、図示せぬデータベースから取得された教師画像の、垂直方向および水平方向の帯域をそれぞれ制限するフィルタ処理を行う。これにより、パラメータhとvの組み合わせごとの、予測処理が行われる前の自然画像に相当する生徒画像が生成される。例えば、パラメータhの種類が9種類であり、パラメータvの種類が9種類である場合、帯域制限フィルタ611は、外部から入力されるパラメータhとvに応じて、1枚の教師画像から81種類の生徒画像を生成する。
帯域制限フィルタ611は、その生徒画像をクラスタップ抽出部612と予測タップ抽出部614に供給する。
クラスタップ抽出部612は、図3のクラスタップ抽出部551と同様に構成される。クラスタップ抽出部612は、教師画像を構成する画素を、順次、注目教師画素として、その注目教師画素について、生徒画像から、図4に示されるような、図3のクラスタップ抽出部551が抽出するクラスタップと同一のタップ構造のクラスタップを抽出し、ADRC処理部613に供給する。
ADRC処理部613は、クラスタップ抽出部551から供給されるクラスタップを構成する画素の画素値に対して、ADRC処理などを行い、その結果得られるADRCコードを、クラスタップの特徴として検出する。ADRC処理部613は、そのADRCコードに基づいてクラスを決定し、そのクラスを正規方程式生成部615に供給する。
予測タップ抽出部614は、図3の予測タップ抽出部556と同様に構成される。予測タップ抽出部614は、帯域制限フィルタ611から供給される生徒画像から、図5に示されるような、注目教師画素の画素値を予測するのに用いる生徒画像を構成する画素を、予測タップとして抽出する。予測タップ抽出部556は、予測タップを正規方程式生成部615に供給する。
正規方程式生成部615は、入力された教師画像と、予測タップ抽出部614から供給される予測タップのペアを、予測係数Wnの学習に用いられる学習対として、ADRC処理部613から供給されるクラスごと、かつ外部から入力されるパラメータhとvの組み合わせごとに、上述した式(8)の正規方程式をたてると、その正規方程式を予測係数生成部616に供給する。
予測係数生成部616は、正規方程式生成部615から供給されるクラスごとの正規方程式を解くことにより、予測誤差を統計的に最小にする予測係数Wnを、パラメータhとvの組み合わせごと、かつクラスごとに求めて、正規方程式生成部617に供給する。
正規方程式生成部617は、予測係数生成部616からの予測係数Wvhnに基づいて、上述した式(17)の正規方程式をクラスごとに生成し、係数種決定部618に出力する。係数種生成部618は、クラスごとの式(17)の正規方程式を解き、クラスごとの係数種wn,kを求めて係数種メモリ619に格納する。この係数種メモリ619に格納された係数種は、図3の係数種メモリ553に格納される。
次に、図8を参照して、教師画像と生徒画像の画素の位置関係を説明する。
図8において、菱形は教師画像の画素を表し、白丸は生徒画像の画素を表している。また、図中横軸は水平方向の位置を表し、縦軸は垂直方向の位置を表す。
図8に示されるように、教師画像と生徒画像の画素の水平方向および垂直方向の位置は同一となっている。即ち、教師画像と生徒画像は同位相である。
次に、図9のフローチャートを参照して、図7の学習装置601の学習処理について説明する。
初めに、ステップS601において、帯域制限フィルタ611は、入力されたパラメータhとvに応じて、入力された教師画像の垂直方向および水平方向の帯域をそれぞれ制限するフィルタ処理を行うことにより、入力された教師画像から生徒画像を生成し、クラスタップ抽出部612と予測タップ抽出部614に供給する。
ステップS602において、クラスタップ抽出部612は、図3のクラスタップ抽出部551と同様に、教師画像を構成する画素のうちの1つを注目教師画素として、選択する。
ステップS603において、クラスタップ抽出部612は、クラスタップ抽出部551と同様に、生徒画像から、図4に示されるようなクラスタップを抽出し、ADRC処理部613に供給する。
ステップS604において、ADRC処理部613は、クラスタップを構成する画素の画素値に対して、ADRC処理を行う。ステップS605において、ADRC処理部613は、ADRC処理の結果得られるADRCコードに基づいて、クラスを決定し、そのクラスを正規方程式生成部615に供給する。
ステップS606において、予測タップ抽出部614は、図3の予測タップ抽出部556と同様に、注目教師画素について、帯域制限フィルタ611から供給される生徒画像から、図5に示されるような予測タップを抽出し、正規方程式生成部615に供給する。
ステップS607において、正規方程式生成部615は、入力される教師画像から注目教師画素を抽出し、その注目教師画素と、予測タップ抽出部614から供給される注目教師画素について構成された予測タップを構成する生徒画像とを対象とした式(8)の足し込みを、パラメータhおよびvの組み合わせごと、かつADRC処理部613から供給されるクラスごとに行う。
ステップS608において、クラスタップ抽出部612は、入力されるすべての教師画像の画素を注目教師画素としたかどうかを判定する。ステップS608で、まだすべての教師画像の画素を注目教師画素としていないと判定された場合、ステップS609において、クラスタップ抽出部612は、教師画像の画素のうち、まだ注目教師画素としていないものを、新たに注目教師画素として決定する。そして、処理はステップS603に戻り、以下、同様の処理が繰り返される。
一方、ステップS608で、すべての教師画像の画素を注目教師画素としたと判定された場合、ステップS610において、正規方程式生成部615は、いままでの処理によって得られたパラメータhおよびvの組み合わせごと、かつクラスごとの式(8)における左辺の行列と、右辺のベクトルを、正規方程式として予測係数生成部616に供給する。
ステップS611において、予測係数生成部616は、正規方程式生成部615から供給される、パラメータhおよびvの組み合わせごと、かつクラスごとの式(8)における左辺の行列と右辺のベクトルによって構成されるクラスごとの正規方程式を解き、パラメータhおよびvの組み合わせごと、かつクラスごとの予測係数Wvhnを求めて、正規方程式生成部617に出力する。
ステップS612において、正規方程式生成部617は、予測係数Wvhnに基づいて、式(17)の正規方程式をクラスごとに生成し、係数種決定部618に出力する。
ステップS613において、係数種決定部618は、式(17)の正規方程式を解き、クラスごとの係数種wn,kを求める。係数種メモリ619は、ステップS614において、その係数種wn,kを記憶する。この係数種が図3の係数種メモリ553に記憶される。
以上のように、自然画予測部131は、自然画像を用いた学習により獲得された係数種よにり生成された予測係数Wnを用いて、自然高品質画像を予測するので、出力位相変換部112から供給されるHD画像のうちの自然画像の品質を的確に高めることができる。
また、自然画予測部131は、クラスタップを構成する画素の画素値を、クラスタップの波形の特徴として、その特徴に応じて、注目画素をクラスに分類するので、自然画像の注目画素を、的確に分類することができる。その結果、自然画予測部131は、このクラスごとに学習により獲得された係数種により生成された予測係数を用いて、HD画像から自然高品質画像を予測することにより、自然画像に含まれるノイズ等をより的確に除去し、より高品質の自然高品質画像を出力することができる。
図10は、図1の人工画予測部132の第1の実施の形態の詳細構成例を示している。
図10の人工画予測部132は、クラス分類部651、係数種メモリ652、予測係数生成部653、予測係数メモリ654、および予測部655により構成され、出力位相変換部112から供給されるプログレッシブ方式のHD画像から、そのHD画像のうちの人工画像からノイズなどを除去して、高品質にした人工高品質画像を予測する。
出力位相変換部112から供給されるHD画像は、クラス分類部651と予測部655に入力される。クラス分類部651は、そのHD画像により求められる人工高品質画像を構成する画素を、順次、注目画素とし、その注目画素を、HD画像の位相の特徴に応じて、幾つかのクラスのうちのいずれかのクラスに分類する。クラス分類部651は、分類されたクラスを予測係数メモリ654に供給する。
係数種メモリ652は、例えばROM(Read Only Memory)などにより構成され、図17乃至図19を参照して後述する学習により獲得されたクラスごとの係数種を格納している。
予測係数生成部653は、ユーザにより入力されるパラメータhとvを含む式(9)の多項式を用いて、係数種メモリ652より読み出された係数種wn,kから予測係数Wnを生成し、予測係数メモリ654に記憶させる。
予測係数メモリ654は、クラス分類部651から供給されるクラスに基づいて、そのクラスの予測係数Wnをから読み出し、予測部655に供給する。
予測部655は、HD画像と、予測係数メモリ654から供給される予測係数Wnとを用いて、注目画素の真値の予測値を求める所定の予測演算を行う。これにより、予測部655は、注目画素の画素値の予測値、即ち、人工高品質画像を構成する画素の画素値を求めて、図1の合成部133に出力する。
図11は、図10のクラス分類部651の詳細構成例を示すブロック図である。
図11のクラス分類部651は、クラスタップ抽出部671、差分算出部672、およびADRC処理部673により構成される。
クラスタップ抽出部671は、注目画素をクラスに分類するために用いるHD画像を構成する画素の幾つかを、クラスタップとして抽出し、差分算出部672に供給する。
差分算出部672は、クラスタップ抽出部671から供給されるクラスタップを構成する画素のうちの、隣接する2つの画素どうし(以下、隣接画素と称する)の画素値の差分の絶対値(以下、隣接差分絶対値と称する)を、クラスタップの位相の特徴として、隣接画素ごとに算出する。差分算出部672は、各隣接画素の隣接差分絶対値を、ADRC処理部673に供給する。
ADRC処理部673は、差分算出部672から供給される隣接差分絶対値に対して、1ビットADRC処理を行う。具体的には、ADRC処理部673は、クラスタップの隣接差分絶対値を、その最大値MAXと最小値MINとの平均値で除算し、その除算結果の小数点以下を切り捨てることにより、隣接差分絶対値を1ビットにする。即ち、ADRC処理部673は、隣接差分絶対値を2値化する。
そして、ADRC処理部673は、その1ビットの画素値を所定の順番で並べたビット列を、注目画素のクラスとして決定する。従って、クラスは、クラスタップ内のエッジの位置を表す位相情報となる。即ち、クラスは、クラスタップの位相を縮退した値となる。ADRC処理部673は、決定されたクラスを、図10の予測係数メモリ654に供給する。
以上のように、クラス分類部651は、各隣接画素の隣接差分絶対値を、クラスタップの位相の特徴として、その位相の特徴に応じて、注目画素をクラスに分類する。
図12は、図11のクラスタップ抽出部671により抽出されるクラスタップのタップ構造の例を示している。なお、クラスタップのタップ構造は、図12に示されている以外の構造とすることも可能である。
図12では、図1の出力位相変換部112から供給されるHD画像のうちの、注目画素に対応する画素p124と、その画素の上方向、左方向、右方向、下方向にそれぞれ隣接する2画素p120,p121,p122,p123,p125,p126,p127,p128とから、いわば十字形状のクラスタップが構成されている。
図11の差分算出部672は、クラスタップを構成する9個の画素p120乃至p128のうちの、隣接画素である画素p120とp121,p121とp124,p122とp123,p123とp124,p124とp125,p125とp126,p124とp127,p127とp128の8個の隣接差分絶対値d0乃至d7を算出し、ADRC処理部673に供給する。その結果、ADRC処理部673から8ビットで表されるクラスが出力される。
図13は、図10の予測部655の詳細構成例を示すブロック図である。
図13の予測部655は、予測タップ抽出部691と予測演算部692から構成される。
予測タップ抽出部691は、注目画素の画素値を予測するのに用いるHD画像を構成する画素を、予測タップとして抽出する。
具体的には、予測タップ抽出部691は、注目画素に対応するHD画像の画素、例えば、注目画素に対して空間的に最も近い位置にあるHD画像の画素に対して、空間的に近い位置にある複数の画素を、HD画像から、予測タップとして抽出する。予測タップ抽出部691は、予測タップを予測演算部692に供給する。
なお、予測タップとクラスタップは、同一のタップ構造を有するものとすることも、異なるタップ構造を有するものとすることも可能である。
予測演算部692には、予測タップ抽出部691から供給される予測タップのほかに、図10の予測係数メモリ654から予測係数が供給される。予測演算部692は、その予測タップと予測係数とを用いて、注目画素の真値の予測値を求める、式(1)に示した予測演算を行う。これにより、予測演算部692は、注目画素の画素値の予測値、即ち、人工高品質画像を構成する画素の画素値を求めて、図1の合成部133に出力する。
図14は、図13の予測タップ抽出部691により抽出される予測タップのタップ構造の例を示している。なお、予測タップのタップ構造は、図14に示されている以外の構造とすることも可能である。
図14では、13個の画素で、予測タップが構成されている。即ち、図14では、出力位相変換部112から供給されるHD画像のうちの、注目画素に対応する画素p146を中心として縦方向に並ぶ5画素p140,p142,p146,p150,p152、注目画素に対応する画素p146の左と右に隣接する画素p145,p147それぞれを中心として縦方向に並ぶ3画素p141,p145,p149,p143,p147,p151、および注目画素に対応する画素p146から左と右に2画素だけ離れた画素p144,p148から、略ひし形状の予測タップが構成されている。
次に、図15を参照して、図10の人工画予測部132が行う図2のステップS5の人工画予測処理の詳細を説明する。
初めに、ステップS701において、クラス分類部651は、求める人工高品質画像を構成する画素のうちの所定の画素である注目画素を、その注目画素に対応するHD画像の位相の特徴に応じてクラスに分類するクラス分類処理を行う。このクラス分類処理の詳細は、図16を参照して後述する。
ステップS702において、係数種メモリ652は係数種wn,kを読み出し、予測係数生成部653に出力する。ステップS703において、予測係数生成部653は、ユーザにより入力されたパラメータhとvに基づいて、そのパラメータhとvを含む式(9)の多項式を用いて、係数種wn,kから予測係数Wnを生成し、予測係数メモリ555に供給して記憶させる。
ステップS704において、予測係数メモリ654は、クラス分類部651により分類されたクラスに基づいて、そのクラスの予測係数Wnを読み出し、予測部655の予測演算部692に供給する。
ステップS705において、予測タップ抽出部691は、出力位相変換部112から供給されるHD画像から、図14に示されるような、注目画素の画素値を予測するのに用いるHD画像を構成する画素を、予測タップとして抽出し、予測演算部692に供給する。
ステップS706において、予測演算部692は、予測タップ抽出部691から供給される予測タップと、予測係数メモリ654から供給される予測係数Wnとを用いて、式(1)に示した予測演算を行うことにより、人工高品質画像を構成する画素の画素値を求める。ステップS707において、予測演算部692は、ステップS706で求められた人工高品質画像を構成する画素の画素値を、図1の合成部133に出力する。
ステップS708において、クラス分類部651は、人工高品質画像を構成するすべての画素を注目画素としたかどうかを判定し、まだ人工高品質画像を構成するすべての画素を注目画素としていないと判定された場合、ステップS709において、クラス分類部651は、人工高品質画像を構成する画素のうち、まだ注目画素としていないものを新たに注目画素として決定し、処理をステップS701に戻し、以下、同様の処理を繰り返す。
一方、ステップS708において、クラス分類部651は、人工高品質画像を構成するすべての画素を注目画素としたと判定した場合、人工画予測処理を終了する。
以上のようにして、人工画予測部132は、出力位相変換部112から供給されるHD画像から、人工高品質画像を予測し、出力する。即ち、人工画予測部132は、HD画像を人工高品質画像に変換し、出力する。
次に、図16のフローチャートを参照して、図15のステップS701のクラス分類処理について説明する。
ステップS721において、クラス分類部651のクラスタップ抽出部671(図11)は、図12に示されるような、注目画素のクラス分類を行うのに用いるHD画像を構成する画素の幾つかを、クラスタップとして抽出し、差分算出部672に供給する。
ステップS722において、差分算出部672は、クラスタップ抽出部671から供給されるクラスタップを構成する画素のうちの、各隣接画素の隣接差分絶対値を算出し、各隣接画素の隣接差分絶対値をADRC処理部673に供給する。
ステップS723において、ADRC処理部673は、差分算出部672から供給される隣接差分絶対値に対して、1ビットADRC処理を行う。ADRC処理部673は、その結果得られるビット列を、クラスとして決定することにより、注目画素をクラスに分類する。そして、ADRC処理部673は、そのクラスを図10の予測係数メモリ654に供給する。その後、処理は図15のステップS701に戻る。
図17は、図10の係数種メモリ652に格納される係数種を求める学習を行う学習装置811の構成例を示すブロック図である。
図17の学習装置811は、生徒画像生成部821、クラス分類部822、生成部823、係数生成部824、正規方程式生成部825、係数種決定部826、および係数種メモリ827により構成される。
この学習装置811は、上述した自然画予測部131の係数種メモリ553(図3)に格納される係数種wn,kの学習と同様に、係数種を学習する。即ち、学習装置811は、教師画像として、予測処理後の目標の人工画像に相当するHD画像を採用し、生徒画像として、予測処理が行われる前の人工画像に相当するHD画像を採用し、ユーザの指示に基づいて外部から入力されるパラメータhとvの組み合わせごと、かつクラスごとに上述した式(8)の正規方程式をたてて解くことにより、パラメータhとvの組み合わせごと、かつクラスごとの予測係数Wnである予測係数Wvhnを求める。
そして、この予測係数Wvhnによりクラスごとに生成される上述した式(17)の正規方程式を解くことで、クラスごとの係数種wn,kが生成され、記憶される。
学習装置811には、図示せぬデータベースから読み出された教師画像が複数入力され、その教師画像は、生徒画像生成部821と生成部823に供給される。また、学習装置811には、パラメータhおよびvが入力され、生徒画像生成部821、および生成部823に供給される。
生徒画像生成部821は、例えばローパスフィルタなどにより構成され、パラメータhおよびvに応じて、図示せぬデータベースから取得された人工画像である教師画像の品質を劣化させることにより、パラメータhおよびvの組み合わせごとの生徒画像を生成する。生徒画像生成部821は、その生徒画像をクラス分類部822と生成部823に供給する。
クラス分類部822は、人工画予測部132の図11のクラス分類部651と同様に構成される。クラス分類部822は、教師画像を構成する画素を、順次、注目教師画素として、その注目教師画素について、生徒画像から、図11のクラスタップ抽出部671が抽出するクラスタップ(図12)と同一のタップ構造のクラスタップを抽出する。
そして、クラス分類部822は、クラスタップを構成する画素のうちの各隣接画素の隣接差分絶対値を算出し、その隣接差分絶対値に対して、1ビットADRC処理を行う。クラス分類部822は、その結果得られるビット列を、注目教師画素のクラスとして決定し、生成部823に供給する。
生成部823は、教師画像と、生徒画像生成部821から供給される生徒画像のペアを、予測係数の学習に用いられる学習対として、外部から入力されるパラメータhとvの組み合わせごと、かつクラス分類部822から供給されるクラスごとに、式(8)に示した正規方程式をたてると、その正規方程式を、係数生成部824に供給する。
係数生成部824は、生成部823から供給される、パラメータhとvの組み合わせごと、かつクラスごとの正規方程式を解くことにより、予測係数Wvhnを、パラメータhとvの組み合わせごと、かつクラスごとに求めて正規方程式生成部825に出力する。
正規方程式生成部825は、予測係数Wvhnに基づいて式(17)の正規方程式をクラスごとに生成し、係数種決定部826に出力する。係数種決定部826は、正規方程式を解くことで、係数種wn,kを求め、係数種メモリ827に格納する。係数種メモリ827に格納された係数種wn,kは、図10の係数種メモリ652に格納される。
図18は、図17の生成部823の詳細構成例を示すブロック図である。
図18の生成部823は、予測タップ抽出部831と正規方程式生成部832により構成される。
生成部823に供給される学習対の生徒画像は、予測タップ抽出部831に供給され、教師画像は、正規方程式生成部832に供給される。
予測タップ抽出部831は、学習対の教師画像を構成する画素を、順次、注目教師画素とし、その注目教師画素について、学習対の生徒画像から、図13の予測タップ抽出部691が抽出する予測タップ(図14)と同一のタップ構造の予測タップを抽出し、正規方程式生成部832に供給する。
正規方程式生成部832は、教師画像から、注目教師画素を抽出し、その注目教師画素と、予測タップ抽出部831から供給される注目教師画素について構成された予測タップを構成する生徒画像とを対象とした足し込みを、外部から入力されるパラメータhとvの組み合わせごと、かつクラス分類部822から供給されるクラスごとに行う。
そして、正規方程式生成部832は、学習装置811に入力されるすべての教師画像の画素を注目教師画素として、上述の足し込みを行うことにより、各クラスについて、式(8)に示した正規方程式をたてると、その正規方程式を、図17の係数生成部824に供給する。
次に、図19のフローチャートを参照して、図17の学習装置811の学習処理について説明する。
初めに、ステップS741において、生徒画像生成部821は、外部から入力されたパラメータhとvに応じて、入力された教師画像から生徒画像を生成し、クラス分類部822と生成部823に供給する。
ステップS742において、クラス分類部822は、図16のクラス分類処理と同様に、教師画像のうちの所定の画素である注目教師画素を、その注目教師画素に対応する生徒画像の位相の特徴に応じて、クラスに分類するクラス分類処理を行う。クラス分類部822は、決定されたクラスを生成部823の正規方程式生成部832(図18)に供給する。
ステップS743において、図18の予測タップ抽出部831は、注目教師画素について、生徒画像生成部821から供給される生徒画像から、予測タップを抽出し、正規方程式生成部832に供給する。
ステップS744において、正規方程式生成部832は、入力される教師画像から注目教師画素を抽出し、その注目教師画素と、予測タップ抽出部831から供給される注目教師画素について構成された予測タップを構成する生徒画像とを対象とした式(8)の足し込みを、パラメータhおよびvの組み合わせごと、かつクラス分類部822から供給されるクラスごとに行う。
ステップS745において、クラス分類部822は、入力されるすべての教師画像の画素を注目教師画素としたかどうかを判定する。ステップS745で、まだすべての教師画像の画素を注目教師画素としていないと判定された場合、ステップS746において、クラス分類部822は、まだ注目教師画素としていない教師画像の画素を、新たに注目教師画素として決定する。そして、処理はステップS742に戻り、以下、同様の処理が繰り返される。
一方、ステップS745で、すべての教師画像の画素を注目教師画素としたと判定された場合、ステップS747において、正規方程式生成部832は、いままでの処理によって得られたパラメータhおよびvの組み合わせごと、かつクラスごとの式(8)における左辺の行列と、右辺のベクトルを、正規方程式として係数生成部824に供給する。
ステップS748において、係数生成部824は、生成部823から供給される、パラメータhおよびvの組み合わせごと、かつクラスごとの式(8)における左辺の行列と右辺のベクトルによって構成される正規方程式を解き、パラメータhおよびvの組み合わせごと、かつクラスごとの予測係数Wvhnを求め、正規方程式生成部825に出力する。
ステップS749において、正規方程式生成部825は、予測係数Wvhnに基づいて式(17)の正規方程式をクラスごとに生成し、係数種決定部826に出力する。ステップS750において、係数種決定部826は、クラスごとの式(17)の正規方程式を解き、クラスごとの係数種wn,kを求める。ステップS751において、係数種メモリ827は、係数種wn,kを記憶する。この係数種が図10の係数種メモリ652に記憶される。
以上のように、人工画予測部132は、人工画像を用いた学習により獲得された係数種により生成される予測係数を用いて、人工高品質画像を予測するので、出力位相変換部112から供給されるHD画像のうちの人工画像の品質を的確に高めることができる。
また、人工画予測部132は、クラスタップのエッジの位置を位相の特徴として、その特徴に応じて、注目画素をクラスに分類するので、階調が少なく、位相情報がはっきりした人工画像の注目画素を、的確に分類することができる。その結果、人工画予測部132は、このクラスごとに学習により獲得された係数種により生成される予測係数を用いて、HD画像から人工高品質画像を予測することにより、人工画像に含まれるノイズ等をより的確に除去し、より高品質の人工高品質画像を出力することができる。
次に、図20を参照して、自然画人工画判定部114の詳細構成例について説明する。自然画人工画判定部114は、広域特徴量抽出部911、広域人工画度算出部912、人工画度生成部913、狭域特徴量抽出部914、および狭域人工画度算出部915により構成される。
広域特徴量抽出部911は、BEP(Broad Edge Parameter)抽出部931、BFP(Broad Flat Parameter)抽出部932、および特徴量合成部933より構成され、出力位相変換部112より供給されるHD画像の各画素より広域特徴量を抽出して広域人工画度算出部912に供給する。
BEP抽出部931は、出力位相変換部112より供給されるHD画像の各画素について、注目画素に対応して設定される参照領域の画素の画素値のダイナミックレンジに基づいて得られる値を広域特徴量を構成する特徴量BEPとして抽出し、BFP抽出部932および特徴量合成部933に供給する。尚、BEP抽出部931の詳細な構成例については、図21を参照して後述する。また、以降、参照領域の画素、および特徴量BEPについては、単に参照画素、およびBEPとも称する。さらに、以降の説明において、注目画素とは、出力位相変換部112より供給されるHD画像の画素であって、自然画人工画判定部114における処理対象となる画素である。
BFP抽出部932は、出力位相変換部112より供給されるHD画像の各画素について、注目画素に対応して設定される参照画素の隣接する画素間の画素値の差分絶対値およびBEPに基づいて得られる値を、広域特徴量を構成する特徴量BFPとして抽出し、特徴量合成部933に供給する。尚、BFP抽出部932の詳細な構成例については、図22を参照して後述する。また、以降、特徴量BFPについては、単にBFPとも称する。
特徴量合成部933は、BEP抽出部931より供給されてくるBEPおよびBFP抽出部932より供給されてくるBFPを合成し、広域特徴量を生成して広域人工画度算出部912に供給する。すなわち、広域特徴量は、上述したBEPおよびBFPという2種類の特徴量より構成され、注目画素の属する広い範囲の画像の特徴を示す特徴量である。
広域人工画度算出部912は、特徴量分離部951、広域境界線比較部952、広域境界線メモリ953、および内分点計算部954から構成され、広域特徴量抽出部911より供給されてくる広域特徴量に基づいて、広域人工画度Artbを算出し、人工画度生成部913に供給する。
特徴量分離部951は、広域特徴量抽出部911より供給されてくる広域特徴量を構成する特徴量を分離して、それぞれ広域境界線比較部952に供給する。すなわち、この例においては、広域特徴量は、BEPおよびBFPであるので、特徴量分離部951は、BEPおよびBFPをそれぞれ分離して広域境界線比較部952に供給する。
広域境界線比較部952は、特徴量分離部951より供給されてくる2種類の特徴量の値に基づいて、予め複数の人工画像および自然画像より統計的に求められており、広域境界線メモリ953に記憶されている人工画像または自然画像のいずれに属するかを示す広域境界線と比較し、比較結果を内分計算部954に供給する。
内分計算部954は、広域境界線比較部952より供給されてくる比較結果に基づいて、広域特徴量に対応する広域人工画度Artbを計算して人工画度生成部913に供給する。
狭域特徴量抽出部914は、PNDP(Primary Narrow Discrimination Parameter)抽出部971、SNDP(Secondary Narrow Discrimination Parameter)抽出部972、および特徴量合成部973より構成され、出力位相変換部112より供給されるHD画像の各画素より狭域特徴量を抽出して狭域人工画度算出部915に供給する。
PNDP抽出部971は、出力位相変換部112より供給されるHD画像の各画素について、注目画素に対応して設定される参照領域に含まれる長タップ領域の画素の画素値のダイナミックレンジに基づいて得られる値を狭域特徴量を構成する特徴量PNDPとして抽出し、SNDP抽出部972および特徴量合成部973に供給する。尚、PNDP抽出部971の詳細な構成例については、図23を参照して後述する。また、以降、単に、特徴量PNDPは、単に、PNDPとも称する。
SNDP抽出部972は、出力位相変換部112より供給されるHD画像の各画素について、注目画素に対応して設定される参照領域に含まれる長タップ領域に内包される短タップ領域の画素の画素値のダイナミックレンジおよびPNDPに基づいて得られる特徴量SNDPを狭域特徴量を構成する特徴量として抽出し、特徴量合成部973に供給する。尚、SNDP抽出部972の詳細な構成例については、図24を参照して後述する。また、以降、特徴量SNDPについては、単に、SNDPとも称する。
特徴量合成部973は、PNDP抽出部971より供給されてくるPNDPおよびSNDP抽出部972より供給されてくるSNDPを合成し、狭域特徴量を生成して狭域人工画度算出部915に供給する。すなわち、狭域特徴量とは、上述したPNDPおよびSNDPという2種類の特徴量より構成される特徴量であり、注目画素の属する狭い範囲の画像の特徴を示す特徴量である。
狭域人工画度算出部915は、特徴量分離部991、狭域境界線比較部992、狭域境界線メモリ993、および内分点計算部994から構成され、狭域特徴量抽出部914より供給されてくる狭域特徴量に基づいて、狭域人工画度Artnを算出し、人工画度生成部913に供給する。
特徴量分離部991は、狭域特徴量抽出部914より供給されてくる狭域特徴量を構成する特徴量を分離して、それぞれ狭域境界線比較部992に供給する。すなわち、この例においては、狭域特徴量は、PNDPおよびSNDPであるので、特徴量分離部991は、PNDPおよびSNDPをそれぞれ分離して狭域境界線比較部992に供給する。
狭域境界線比較部992は、特徴量分離部991より供給されてくる2種類の特徴量の値に基づいて、予め複数の人工画像および自然画像より統計的に求められており、狭域境界線メモリ993に記憶されている人工画像または自然画像のいずれに属するかを示す狭域境界線と比較し、比較結果を内分計算部994に供給する。
内分計算部994は、狭域境界線比較部992より供給されてくる比較結果に基づいて、狭域特徴量に対応する狭域人工画度Artnを計算して人工画度生成部913に供給する。
人工画度生成部913は、広域人工画度算出部912より供給されてくる広域人工画度Artbと、狭域人工画度算出部915より供給されてくる狭域人工画度Artnとを合成して、人工画度Artを生成して、画像処理部113に出力する。
次に、図21を参照して、BEP抽出部931の詳細な構成例について説明する。
図21のBEP抽出部931は、バッファ1011、参照画素抽出部1012、重み計算部1013、画素間差分計算部1014、乗算部1015、蓄積部1016、最大値最小値抽出部1017、およびBEP計算部1018から構成される。
バッファ1011は、出力位相変換部112より供給されるHD画像を一時的に記憶し、順次必要に応じて参照画素抽出部1012に供給する。参照画素抽出部1012は、順次、注目画素毎に参照画素を読み出して重み計算部1013および画素間差分計算部1014に供給する。ここで、参照画素とは、注目画素に対応付けて設定される所定の領域内の画素のことであり、例えば、注目画素を中心としたn画素×n画素の範囲の全ての画素である。尚、参照画素については、注目画素に対応付けて設定される複数の画素であればよいので、その他の数、または、配置の画素であっても良いことは言うまでもない。
重み計算部1013は、参照画素抽出部1012より供給されてくる参照画素毎に注目画素との距離に応じた重みを計算し乗算部1015に供給する。差分計算部1013は、参照画素抽出部1012より供給されてくる参照画素毎に注目画素との差分値を求めて乗算部1015に供給する。乗算部1015は、重み計算部1013より供給されてくる重みと、画素間差分計算部1014より供給されてくる注目画素と参照画素との差分値とを乗算し、蓄積部1016に蓄積させる。
最大値最小値抽出部1017は、蓄積部1016に蓄積されている全ての参照画素と注目画素との差分値に、対応する参照画素と注目画素との距離に応じた重みが乗じられた値が全て蓄積されると、その中から最大値と最小値とを抽出し、BEP計算部1018に供給する。BEP計算部1018は、最大値最小値抽出部1017より供給されてくる、参照画素と注目画素との差分値、すなわち、参照画素と注目画素との差分により求められる差分ダイナミックレンジに、対応する参照画素と注目画素との距離に応じた重みが乗じられた値の差分値を注目画素のBEPとして出力する。尚、差分ダイナミックレンジに重みが乗じられた値を、注目画素からの距離に応じたダイナミックレンジ、または、単に
差分ダイナミックレンジとも称する。
次に、図22を参照して、BFP抽出部932の詳細な構成例について説明する。
図22のBFP抽出部932は、バッファ1031、参照画素抽出部1032、隣接画素間差分計算部1033、関数変換部1034、重み計算部1035、乗算部1036、蓄積部1037、およびBFP計算部1038から構成されている。
バッファ1031は、出力位相変換部112より供給されるHD画像を一時的に記憶し、順次必要に応じて参照画素抽出部1032に供給する。参照画素抽出部1032は、順次、注目画素毎に参照画素を読み出して隣接画素間差分計算部1033および重み計算部1035に供給する。
隣接画素間差分計算部1033は、参照画素抽出部1032より供給されてきた全ての参照画素について隣接画素間の差分絶対値を関数変換部1034に供給する。関数変換部1034は、BEP抽出部931より供給されてくるBEPに基づいて、変換関数を設定すると供に、隣接画素間差分計算部1033より供給されてくる隣接画素間差分絶対値を、設定した変換関数で変換し乗算部1036に供給する。
重み計算部1035は、参照画素抽出部1032より供給されてくる参照画素の画素間の位置毎に、注目画素からの距離に応じた重みを計算し乗算部1036に供給する。乗算部1036は、重み計算部1035より供給されてくる重みと、関数変換部1034より供給されてくる関数変換された参照画素間差分絶対値とを乗算し、蓄積部1037に蓄積させる。
BFP計算部1038は、蓄積部1037に蓄積されている乗算結果を累積加算し、注目画素のBFPとして出力する。
次に、図23を参照して、PNDP抽出部971の詳細な構成例について説明する。
図23のPNDP抽出部971は、バッファ1051、参照画素抽出部1052、長タップ抽出部1053、画素値抽出部1054、最大値最小値抽出部1055、およびPNDP計算部1056から構成されている。
バッファ1051は、出力位相変換部112より供給されるHD画像を一時的に記憶し、順次必要に応じて参照画素抽出部1052に供給する。参照画素抽出部1052は、順次、注目画素毎に参照画素を読み出して、長タップ抽出部1053に供給する。
長タップ抽出部1053は、参照画素のうち、参照画素の領域に含まれる、すなわち、参照画素の領域と同様であるか、または、それよりも小さな領域から画素を抽出して画素値蓄積部1054に供給する。また、長タップ抽出部1053は、長タップの情報をSNDP抽出部972の短タップ抽出部1073にも供給する。さらに、長タップ抽出部1053は、長タップについて、全ての抽出が終了した段階で、その旨を最大値最小値抽出部1055に供給する。
最大値最小値抽出部1055は、画素値蓄積部1054に蓄積された長タップの全ての画素値のうち、最大値と最小値を抽出してPNDP計算部1056に供給する。
PNDP計算部1056は、最大値最小値抽出部1055より供給されてくる画素値の最大値と最小値との差分値より参照画素の画素値ダイナミックレンジを求め、注目画素のPNDPとして出力する。ここで、画素値ダイナミックレンジとは、所定の領域に含まれる全ての画素値の最大値から最小値を引いた値である。
次に、図24を参照して、SNDP抽出部972の詳細な構成例について説明する。
図24のSNDP抽出部972は、バッファ1071、参照画素抽出部1072、短タップ抽出部1073、画素値蓄積部1074、最大値最小値抽出部1075、DR計算部1076、DR蓄積部1077、およびSNDP選択部1078から構成されている。
バッファ1071は、出力位相変換部112より供給されるHD画像を一時的に記憶し、順次必要に応じて参照画素抽出部1072に供給する。参照画素抽出部1072は、順次、注目画素毎に参照画素を読み出して、短タップ抽出部1073に供給する。
短タップ抽出部1073は、長タップ抽出部1053より供給されてくる長タップの情報に基づいて、注目画素を含む領域であって、長タップに含まれる領域と同様であるか、または、それよりも小さな、複数の領域から画素を抽出して画素値蓄積部1074に供給する。すなわち、長タップが1個について、短タップは、複数のパターンが設定されることがある。また、短タップ抽出部1073は、複数の短タップについて、全てのパターンについて抽出が終了した段階で、その旨をSNDP選択部1078に供給する。
最大値最小値抽出部1075は、画素値蓄積部1074に蓄積された、短タップに含まれる全ての画素値のうち、最大値と最小値を抽出してDR計算部1076に供給する。
DR計算部1076は、最大値最小値選択部1075より供給されてくる短タップに含まれる全ての画素値のうち、最大値と最小値との差分から画素値ダイナミックレンジを求め、DR蓄積部1077に蓄積させる。
SNDP1079は、短タップ抽出部1073より全てのパターンの短タップについて抽出が終了したことが通知されると、DR蓄積部1077に蓄積されている、全てのパターンの短タップ毎に求められている画素値ダイナミックレンジより、最小値を選択し、SNDPとして出力する。
次に、図25のフローチャートを参照して、自然画人工画判定処理について説明する。
ステップS831において、広域特徴量抽出部911のBEP抽出部931は、BEP抽出処理を実行し、出力位相変換部112より供給されるHD画像より画素毎にBEPを抽出して特徴量合成部933に供給する。
ここで、図26のフローチャートを参照して、図21のBEP抽出部931によるBEP抽出処理について説明する。
ステップS851において、バッファ1011は、出力位相変換部112より供給されるHD画像を一時的に記憶する。
ステップS852において、参照画素抽出部1012は、バッファ1011より、未処理の画素を注目画素に設定すると供に、ステップS853において、注目画素に対応して設定されている参照画素を読み出して重み計算部1013および画素間差分計算部1014に供給する。ここで、参照画素とは、例えば、注目画素に対応付けて設定される所定の領域内の画素のことであり、例えば、図27で示されるように、注目画素を中心としてn画素×n画素の範囲の全ての画素である。
尚、図27においては、画像内における参照領域R内の黒丸印の注目画素Q(0,0)を中心としたx方向およびy方向の2次元空間の座標上の白丸印が参照画素Q(i,j)を示しており、注目画素Q(0,0)を中心としてn個×n個の点線で囲まれた範囲内の画素が、参照画素Q(i,j)(−(n−1)/2≦i≦(n−1)/2,−(n−1)/2≦j≦(n−1)/2:i,jは、整数)であることが示されている。
ステップS854において、画素間差分計算部1014は、注目画素と未処理の参照画素との画素間の画素値の差分値を計算し、乗算部1015に供給する。すなわち、図27においては、画素間差分計算部1014は、画素間差分値として、(Q(0,0)−Q(i,j))を計算して乗算部1015に供給する。尚、画素間差分値におけるQ(0,0),Q(i,j)は、注目画素Q(0,0)および参照画素Q(i,j)のそれぞれの画素値である。
ステップS855において、重み計算部1013は、注目画素と未処理の参照画素との距離に応じた重みを計算し、計算結果である重みを乗算部1015に供給する。より具体的には、例えば、画素間差分値を求めた参照画素が、参照画素Q(i,j)の場合、重み計算部1013は、座標のパラメータを用いて、例えば、重みとしてwd=a/(i2+j2)(a:定数)を計算する。尚、重みwdは、距離に応じて近いほど大きく、遠いほど小さくなるように値が求められれば良いので、上述の方法以外で計算するようにしてもよく、例えば、重みwd=a/√(i2+j2)(a:定数)などでもよい。
ステップS856において、乗算部1015は、画素間差分計算部1014より供給されてきた画素間差分値と、重み計算部1013より供給されてきた重みとを乗算し、蓄積部1016に蓄積させる。すなわち、図27の場合、乗算部1015は、画素間差分計算部1014より供給されてきた画素間差分値(Q(0,0)−Q(i,j))と、重み計算部1013より供給されてきた重みwdとを乗算し、乗算結果としてwd×(Q(0,0)−Q(i,j))を蓄積部1016に蓄積させる。
ステップS857において、画素間差分計算部1014は、未処理の参照画素が存在するか否かを判定し、未処理の参照画素が存在する場合、その処理は、ステップS854に戻る。すなわち、全ての参照画素について、ステップS854乃至S857の処理が繰り返される。
そして、ステップS857において、未処理の参照画素がない、すなわち、全ての参照画素について注目画素との差分値が求められ、さらに、距離に応じた重みwdが設定され、それらが乗算されて蓄積部1016に全て蓄積されていると判定された場合、ステップS858において、画素間差分計算部1014は、全ての参照画素について処理が終了したことを最大値最小値抽出部1017に通知する。最大値最小値抽出部1017は、蓄積部1016に蓄積されている乗算結果のうち、最大値となる値と最小値となる値とを抽出してBEP計算部1018に供給する。
ステップS859において、BFP計算部1018は、最大値最小値抽出部1017より供給されてきた乗算結果の最大値より最小値を引いた値である参照画素の差分ダイナミックレンジを、注目画素に対するBEPとして計算し、BFP抽出部932および特徴量合成部933に供給する。
ステップS860において、参照画素抽出部1012は、バッファ1011に記憶されている画像における全ての画素について、BEPが求められたか否かを判定する。ステップS860において、画像の全ての画素についてBEPが求められていない場合、処理は、ステップS852に戻る。すなわち、バッファ1011に記憶された画像の全ての画素についてBEPが求められるまで、ステップS852乃至S860の処理が繰り返される。そして、ステップS860において、画像内の全ての画素についてBEPが求められたと判定された場合、BEP抽出処理が終了する。
以上の処理により、BEPとして画像における広域のエッジを表現する特徴量であるBEPが求められる。すなわち、BEPは、注目画素に対する参照画素内の差分ダイナミックレンジを表現することで、注目画素が属する広域領域にエッジが存在したような場合、大きな値となり、逆にエッジが存在しない場合、小さな値を取ることになる。
ここで、図25のフローチャートの説明に戻る。
ステップS831におけるBEP抽出処理によりBEPが画像より抽出されると、ステップS832において、広域特徴量抽出部911のBFP抽出部932は、BFP抽出処理を実行し、出力位相変換部112より供給されるHD画像より画素毎にBFPを抽出して特徴量合成部933に供給する。
ここで、図28のフローチャートを参照して、図22のBFP抽出部932によるBFP抽出処理について説明する。
ステップS871において、バッファ1031は、出力位相変換部112より供給されるHD画像を一時的に記憶する。
ステップS872において、参照画素抽出部1032は、バッファ1011より、未処理の画素を注目画素に設定すると供に、ステップS873において、注目画素に対応して設定されている参照画素を読み出して隣接画素間差分計算部1033および重み計算部1035に供給する。
ステップS874において、画素間差分計算部1033は、未処理の参照画素間(注目画素を含む)の画素値の差分絶対値を計算し、関数変換部1034に供給する。すなわち、図29においては、画素間差分計算部1033は、隣接画素間差分絶対値eとして、例えば、e=|Q(i+1,j)−Q(i,j)|を計算して関数変換部1034に供給する。尚、画素間差分絶対値におけるQ(i+1,j),Q(i,j)は、参照画素Q(i+1,j),Q(i,j)のそれぞれの画素値である。また、図29における黒丸印は、注目画素Q(0,0)である。
さらに、参照画素の隣接間差分絶対値eは、図29における丸印で示される各画素のx方向およびy方向に隣接する画素との画素値の差分絶対値である。したがって、参照画素Q(i,j)の隣接画素間差分絶対値eは、|Q(i+1,j)−Q(i,j)|,|Q(i,j+1)−Q(i,j)|,|Q(i−1,j)−Q(i,j)|,|Q(i,j−1)−Q(i,j)|の4種類の隣接画素間差分絶対値が設定される。ただし、参照画素の設定されている領域の辺縁部の画素については、xy方向の正方向または負方向いずれか1方向に参照画素と隣接していないので、3種類の隣接画素間差分絶対値が設定される。また、参照画素のうち、参照画素が設定されている領域の4箇所の角となる位置の参照画像については、xy方向の正方向または負方向いずれか2方向に参照画素と隣接していないので、2種類の隣接画素間差分絶対値が設定される。結果として、注目画素を中心としてn画素×n画素の参照画素が設定される場合、2n(n−1)個の画素間差分絶対値が設定されることになる。
ステップS875において、関数変換部1034は、BEP抽出部931より供給されてくるBEPにより設定される関数fに基づいて、隣接画素間差分計算部1033より供給されてきた隣接画素間差分絶対値eを変換して、乗算部1036に供給する。より詳細には、関数変換部1034は、BEP抽出部931より供給されてくるBEPにより設定される以下の式(18)に基づいて、値を変換し、変換した値を乗算部1036に出力する。
式(18)においては、隣接画素間差分絶対値eが閾値th=BEP/bより大きい場合、0が乗算部1036に出力され、隣接画素間差分絶対値eが閾値th=BEP/b以下である場合、1が乗算部1036に出力されることが示されている。尚、ここで、bは、定数である。また、閾値thの計算に用いられるBEPは、注目画素のBEPである。さらに、閾値thは、BEPの傾向が利用できればよいので、閾値th=BEP/b以外のBEPを用いた閾値でもよく、例えば、閾値th=(√BEP)/b、または、閾値th=(BEP)2/bなどを利用するようにしても良い。
ステップS876において、重み計算部1035は、注目画素と、隣接画素間差分絶対値を計算した画素間の中央位置との距離に応じた重みを計算し、計算結果である重みweを乗算部1036に供給する。より具体的には、例えば、隣接画素間差分絶対値を求めた参照画素が、参照画素Q(i,j),Q(i+1,j),の場合、重み計算部1013は、座標のパラメータを用いて、例えば、重みとしてwe=a/((i+1/2)2+j2)(a:定数)を計算する。尚、重みweは、距離に依存した値が求められれば良いので、上述の方法以外で計算するようにしてもよく、例えば、重みwe=a/√((i+1/2)2+j2)(a:定数)などでもよい。
ステップS877において、乗算部1036は、関数変換部1034より供給されてきた隣接画素間差分絶対値eと、重み計算部1035より供給されてきた重みweとを乗算し、ステップS878において、蓄積部1037に蓄積させる。すなわち、図29の場合、乗算部1036は、関数変換部1034より供給されてきた変換結果である1または0と、重み計算部1035より供給されてきた重みweとを乗算し、乗算結果としてweまたは0を蓄積部1036に蓄積させる。
ステップS879において、隣接画素間差分計算部1033は、未処理の参照画素が存在するか否か、すなわち、隣接画素間差分絶対値が設定されているにもかかわらず、求められていないものがあるか否かを判定し、存在する場合、その処理は、ステップS874に戻る。このとき、全ての隣接画素間差分絶対値について、ステップS874乃至S879の処理が繰り返される。すなわち、上述したように、図29で示されるように、参照画素がn画素×n画素で設定されている場合、2n(n−1)個の隣接画素間差分絶対値が求められることになるので、ステップS874乃至S879の処理が、2n(n−1)回繰り返されることになる。
そして、ステップS879において、未処理の参照画素がない、すなわち、全ての隣接画素間差分絶対値が求められて関数変換され、さらに、距離に応じた重みが設定され、それらが乗算されて蓄積部1037に全て蓄積されていると判定された場合、ステップS880において、隣接画素間差分計算部1033は、全ての参照画素について処理が終了したことをBFP計算部1038に通知する。BFP計算部1038は、蓄積部1037に蓄積されている乗算結果の総和を求めてBFPとして出力する。
ステップS881において、参照画素抽出部1032は、バッファ1011に記憶されている画像における全ての画素について、BFPが求められたか否かを判定する。ステップS881において、画像の全ての画素についてBFPが求められていない場合、処理は、ステップS872に戻る。すなわち、バッファ1031に記憶された画像の全ての画素についてBFPが求められるまで、ステップS872乃至S881の処理が繰り返される。そして、ステップS881において、画像内の全ての画素についてBFPが求められたと判定された場合、BFP抽出処理が終了する。
以上の処理により、画像における広域の平坦部を表現する特徴量としてBFPが求められる。すなわち、BFPは、仮に重みweが距離に応じたものではなく、均一に1であった場合、参照画素のうち、閾値thよりも小さい隣接画素間差分絶対値の数がカウントされた値となる。結果として、BFPは、注目画素の属する広域的な範囲が平坦である場合、値が大きくなり、逆に、エッジなどが多く存在する、平坦ではないような場合、値が小さくなる。
尚、以上においては、隣接画素間差分絶対値を求めるに当たり、参照画素の全ての隣接画素間の差分絶対値を求める例について説明してきたが、隣接している画素間の画素値の関係が明らかになる値が抽出できれば良いので、その他の方法で隣接画素間差分絶対値を求めるようにしてもよく、例えば、図29におけるx方向、または、y方向の何れかの方向に隣接する画素間の画素値の差分絶対値を求めるようにしても良いし、各参照画素について、上下方に隣接するそれぞれの画素との隣接画素間差分絶対値の和、左右に隣接するそれぞれの画素との隣接画素間差分絶対値の和、または上下左右方向に隣接するそれぞれの画素との画素間差分絶対値の総和などを隣接画素間差分絶対値として利用するようにしてもよい。さらに、以降の説明においても隣接画素間差分絶対値を求める処理があるが、上述のように様々な形式を用いるようにしてよいことは同様である。
また、上述した関数変換部1034は、式(18)で示されるような関数により隣接画素間差分絶対値eを変換して出力するようにしていたが、変換関数は、式(18)で示されるものでなくてもよく、例えば、図30で示されるように、傾向として隣接画素間差分絶対値の大きさの差を鮮明にできる値に変換し、結果として、式(18)で示されるような関数を用いた場合と同様の効果を得るようにしても良い。
さらに、変換関数fは、例えば、図30で示されるようなものでもよいことは、上述した通りであるが、BEPと対応付けるようにしてもよく、例えば、隣接画素間差分絶対値eが、閾値th1=BEP/b1以上の場合、f(e)=A(Aは定数)とし、隣接画素間差分絶対値eが、閾値th2=BEP/b2以下の場合、f(e)=B(Bは定数)とし、さらに、隣接画素間差分絶対値eが、閾値th2=BEP/b2より大きく閾値th1=BEP/b1より小さい場合、f(e)=(B−A)・(e−th1)/(th2−th1)+Aとするようにしてもよい。また、閾値th1,th2は、BEPの傾向が使えればよいので、例えば、閾値th1=(BEP)2/b1,th2=(BEP)2/b2、または、閾値th1=(√BEP)/b1,th2=(√BEP)/b2などを利用するようにしても良い。
ここで、図25のフローチャートの説明に戻る。
ステップS832の処理により、BFPが求められると、ステップS833において、特徴量合成部933は、BEP抽出部931より供給されてくるBEPと、BFP抽出部932より供給されてくるBFPとを合成し、広域特徴量として広域人工画度算出部912に供給する。
ステップS834において、広域人工画度算出部912は、広域特徴量抽出部911より供給されてくる広域特徴量に基づいて、広域人工画度算出処理を実行して、広域人工画度Artbを算出し、人工画度生成部913に供給する。
ここで、図31のフローチャートを参照して、図20の広域人工画度算出部912による広域人工画度算出処理について説明する。
ステップS891において、特徴量分離部951は、広域特徴量抽出部911より供給されてくる広域特徴量を取得すると供に、BEPおよびBFPを分離して、それぞれを広域境界線比較部952に供給する。
ステップS892において、広域境界線比較部952は、広域境界線メモリ953より広域境界線の情報を読み出す。
ステップS893において、広域境界線比較部952は、未処理の画素を注目画素とし、その注目画素のBEPおよびBFPを抽出して、BEP-BFPの2次元平面上にプロットすると供に、読み出した広域境界線との位置関係を比較する。
ここで、広域境界線とは、複数の人工画像および自然画像から抽出されるBEPおよびBFPを、BEP軸およびBFP軸からなる2次元空間に(BEP,BFP)としてプロットすることで得られる統計上の分布から生成される境界線である。広域境界線には、広域人工画像境界線および広域自然画像境界線の2種類の境界線がある。このうち、広域人工画像境界線は、人工画像の広域特徴量のみがプロットされている領域と、人工画像および自然画像の広域特徴量が混在してプロットされている領域との境界線である。また、広域自然画像境界線は、自然画像の広域特徴量のみがプロットされている領域と、人工画像および自然画像の広域特徴量が混在してプロットされている領域との境界線である。したがって、BEP軸およびBFP軸からなる領域は、図32で示されるように、広域人工画像境界線および広域自然画像境界線に基づいて、広域人工画像領域、広域自然画像領域、および人工画像および自然画像の広域混在領域の3種類の領域に分割されることになる。ここで、図32においては、広域人工画像境界線は、図中の曲線L1であり、広域自然画像境界線は、図中の曲線L2である。尚、以下、曲線L1,L2については、適宜、広域人工画像境界線L1および広域自然画像境界線L2とも称するものとする。また、図32においては、広域人工画像境界線L1よりも上部の領域が、広域人工画像領域であり、広域人工画像境界線L1および広域自然画像境界線L2の間の領域が、広域混在領域であり、広域自然画像境界線L2よりも下部の領域が広域自然画像領域である。
ステップS894において、広域境界線比較部952は、注目画素のBEPおよびBFPをプロットした位置が、広域人工画像領域であるか否かを判定する。例えば、注目画素のBEPおよびBFPをプロットした位置が、図32における位置B1である場合、ステップS895において、広域境界線比較部952は、その画素が広域人工画像領域に属していることを内分計算部954に通知する。
ステップS896において、内分計算部954は、広域境界線比較部952からの注目画素の広域特徴量が広域人工画像領域に属している旨の通知を取得すると、広域人工画度Artbを1として人工画度生成部913に供給し、その処理は、ステップS902に進む。
ステップS894において、例えば、注目画素のBEPおよびBFPをプロットした位置が、図32における位置B1ではなく、位置B2またはB3である場合、広域境界線比較部952は、その画素が広域人工画像領域に属していないとみなし、処理は、ステップS897に進む。
ステップS897において、広域境界線比較部952は、注目画素のBEPおよびBFPをプロットした位置が、広域自然画像領域であるか否かを判定する。例えば、注目画素のBEPおよびBFPをプロットした位置が、図32における位置B3である場合、ステップS898において、広域境界線比較部952は、その画素が広域自然画像領域に属していることを内分計算部954に通知する。
ステップS899において、内分計算部954は、広域境界線比較部952からの注目画素の広域特徴量が広域自然画像領域に属している旨の通知を取得すると、広域人工画度Artbを0として人工画度生成部913に供給し、その処理は、ステップS902に進む。
ステップS897において、例えば、注目画素のBEPおよびBFPをプロットした位置が、図32における位置B3ではなく、位置B2である場合、広域境界線比較部952は、その画素が広域人工画像領域にも広域自然画像領域にも属していないとみなし、処理は、ステップS900に進む。
ステップS900において、広域境界線比較部952は、その画素が広域混在領域に属していることと供に、広域人工画像境界線L1と広域自然画像境界線L2との内分比率を内分計算部954に通知する。すなわち、図32の場合、位置B2は、広域人工画像境界線L1までの距離:広域自然画像境界線L2までの距離との比率は、1−q:qとなるので、この情報が内分計算部954に通知される。
ステップS901において、内分計算部954は、広域境界線比較部952からの注目画素の広域特徴量が広域混在領域に属している旨と供に、内分比率の通知を取得すると、内分比率qを広域人工画度Artbとして人工画度生成部913に供給し、その処理は、ステップS902に進む。
ステップS902において、広域境界線比較部952は、未処理の画素が存在するか否かを判定し、未処理の画素、すなわち、広域特徴量が、広域人工画像領域、広域自然画像領域、または、広域混在領域のいずれに属しているかが比較され、広域人工画度が求められているか否かを判定し、全ての画素について、広域人工画像度が求められていないと判定された場合、処理は、ステップS893に戻る。
一方、全ての画素について、広域人工画度Artbが求められている場合、処理は終了する。
以上の処理により、全ての画素についてBEPおよびBFPからなる広域特徴量が読み出されて、BEP-BFP空間においてプロットされ、複数の人工画像および自然画像の分布より統計的に求められた広域人工画像境界線および広域自然画像境界線と比較されることにより、BEP-BFP空間におけるプロット位置(BEP,BFP)と、広域人工画像境界線および広域自然画像境界線との位置関係に基づいて、広域人工画像度Artbが算出されることになる。尚、以上においては、広域混在領域に存在する場合、内分比率qが広域人工画度Artbとして設定される例について説明してきたが、内分比が傾向として反映される値となればよいので、広域人工画度としては、例えば、q2または√qなどでもよい。
ここで、図25のフローチャートの説明に戻る。
ステップS835において、狭域特徴量抽出部912のPNDP抽出部971は、PNDP抽出処理を実行し、出力位相変換部112より供給されるHD画像より画素毎にPNDPを抽出して特徴量合成部933に供給する。
ここで、図33のフローチャートを参照して、図21のPNDP抽出部971によるPNDP抽出処理について説明する。
ステップS911において、バッファ1051は、出力位相変換部112より供給されるHD画像を一時的に記憶する。
ステップS912において、参照画素抽出部1052は、バッファ1051より、未処理の画素を注目画素に設定すると供に、ステップS913において、注目画素に対応して設定されている参照画素を読み出して長タップ抽出部1053に供給する。
ステップS914において、長タップ抽出部1053は、参照画素より長タップを抽出すると供に、ステップS915において、長タップの画素値を画素値蓄積部1054蓄積させ、さらに、SNDP抽出部972に供給する。ここで、長タップとは、例えば、参照画素に含まれる、注目画素に対応付けて設定される所定の領域内の画素のことであり、例えば、図34で示されるように、注目画素を中心としてm画素×m画素の画素である。尚、図34においては、n画素×n画素(n>m)の範囲が参照画素の範囲を示している。また、図34においては、画像内における黒丸印の注目画素P(0,0)を中心としたx方向およびy方向の2次元空間の座標上の白丸印が長タップP(i,j)を示しており、注目画素P(0,0)を中心としてm個×m個の点線で囲まれた範囲内の画素が、長タップP(i,j)(−(m−1)/2≦i≦(m−1)/2,−(m−1)/2≦j≦(m−1)/2:i,jは、整数)であることが示されている。
ステップS916において、画素値抽出部1054は、未処理の長タップが存在するか否かを判定し、未処理の長タップが存在する場合、その処理は、ステップS915に戻る。すなわち、全ての長タップについて、ステップS915,S916の処理が繰り返される。
そして、ステップS916において、未処理の長タップがない、すなわち、全ての長タップについて画素値が抽出され、画素値蓄積部1054に全て蓄積されていると判定された場合、ステップS917において、画素値抽出部1054は、全ての長タップについて処理が終了したことを最大値最小値抽出部1055に通知する。これを受けて、最大値最小値抽出部1055は、画素値蓄積部1054に蓄積されている画素値のうち、最大値となる値と最小値となる値とを抽出してPNDP計算部1056に供給する。
ステップS918において、PNDP計算部1056は、最大値最小値抽出部1055より供給されてきた最大値より最小値を引いた値である長タップの画素値ダイナミックレンジを、注目画素に対するPNDPとして計算し、特徴量合成部933に供給する。
ステップS919において、参照画素抽出部1052は、バッファ1051に記憶されている画像における全ての画素について、PNDPが求められたか否かを判定する。ステップS919において、画像の全ての画素についてPNDPが求められていない場合、処理は、ステップS912に戻る。すなわち、バッファ1051に記憶された画像の全ての画素についてPNDPが求められるまで、ステップS912乃至S919の処理が繰り返される。そして、ステップS919において、画像内の全ての画素についてPNDPが求められたと判定された場合、PNDP抽出処理が終了する。
以上の処理により、画像における狭域のエッジを表現する特徴量であるPNDPが求められる。すなわち、PNDPは、注目画素に対する長タップ内の画素値ダイナミックレンジを表現することで、注目画素が属する狭域領域にエッジが存在したような場合、大きな値となり、逆にエッジが存在しない場合、小さな値を取ることになる。
ここで、図25のフローチャートの説明に戻る。
ステップS835におけるPNDP抽出処理によりPNDPが画像より抽出されると、ステップS836において、狭域特徴量抽出部914のSNDP抽出部972は、SNDP抽出処理を実行し、出力位相変換部112より供給されるHD画像より画素毎にSNDPを抽出して特徴量合成部933に供給する。
ここで、図35のフローチャートを参照して、図24のSNDP抽出部972によるSNDP抽出処理について説明する。
ステップS941において、バッファ1071は、出力位相変換部112より供給されるHD画像を一時的に記憶する。
ステップS942において、参照画素抽出部1072は、バッファ1051より、未処理の画素を注目画素に設定すると供に、ステップS943において、注目画素に対応して設定されている参照画素を読み出して短タップ抽出部1073に供給する。
ステップS944において、短タップ抽出部1073は、参照画素、およびPNDP抽出部971より供給される長タップの情報に基づいて、参照画素より短タップ群を抽出する。ここで、短タップとは、長タップに含まれた画素であって、注目画素を含む複数の画素のことであり、例えば、参照画素のうち長タップに含まれる画素であって、注目画素に対応付けて設定される所定の領域内の画素のことであり、例えば、図36のパターンAで示されるように、注目画素を中心として、水平方向および垂直方向に隣接する4画素を含めた5画素からなる短タップST1であったり、パターンBで示されるように、注目画素を右下隅として、水平方向および垂直方向に3画素×3画素の9画素からなる短タップST2であったり、パターンCで示されるように、注目画素を左上隅として、水平方向および垂直方向に3画素×3画素の9画素からなる短タップST3であったり、パターンDで示されるように、注目画素を左下隅として、水平方向および垂直方向に3画素×3画素の9画素からなる短タップST4であったり、または、パターンEで示されるように、注目画素を右上隅として、水平方向および垂直方向に3画素×3画素の9画素からなる短タップST5などでもよい。また、複数のパターンの短タップを短タップ群と称している。従って、図36の短タップST1乃至ST5が短タップとして使用される場合、5パターンの短タップからなる短タップ群が構成されていると言える。尚、図36においては、丸印が画素を示しており、そのうち黒丸印が注目画素を示しており、さらに、実線で囲まれている範囲内の画素が、短タップを構成する画素であることを示している。
ステップS945において、短タップ抽出部1073は、未処理の1つの短タップの画素値を抽出し、画素値蓄積部1074に蓄積させる。
ステップS946において、短タップ抽出部1073は、未処理の短タップが存在するか否かを判定し、未処理の短タップが存在する場合、その処理は、ステップS945に戻る。すなわち、1つの短タップに含まれる全ての画素について、ステップS945,S946の処理が繰り返される。
そして、ステップS946において、未処理の短タップがない、すなわち、1つの短タップの全ての画素値が、画素値蓄積部1074に全て蓄積されていると判定された場合、ステップS947において、画素値抽出部1074は、1つの短タップの全ての画素を蓄積する処理が終了したことを最大値最小値抽出部1075に通知する。最大値最小値抽出部1075は、画素値蓄積部1074に蓄積されている1つの短タップの画素値のうち、最大値となる値と最小値となる値とを抽出してDR計算部1076に供給する。
ステップS948において、DR計算部1076は、最大値最小値抽出部1075より供給されてきた画素値の最大値より最小値を引いた値である1つの短タップの画素値ダイナミックレンジを、注目画素に対する画素値DR(画素値ダイナミックレンジ)として計算し、ステップS949において、DR蓄積部1077に蓄積させる。
ステップS950において、短タップ抽出部1073は、未処理の短タップ群が残されているか否かを判定し、残されていると判定した場合、その処理は、ステップS944に戻る。すなわち、全ての短タップ群についてDRが求められたと判定されるまで、ステップS944乃至S950の処理が繰り返される。従って、例えば、短タップ群が、図36で示される5パターンである場合、ステップS944乃至S950の処理が5回繰り返されることになる。
そして、ステップS950において、全ての短タップ群の処理が終了した、すなわち、全ての短タップについてDRが求められた場合、ステップS951において、短タップ抽出部1073は、その旨をSNDP選択部1078に通知する。さらに、SNDP選択部1078は、DR蓄積部1077に蓄積されている各短タップ群のDRを比較し、最小となるDRをSNDPとして選択し、特徴量合成部973に供給する。
ステップS952において、参照画素抽出部1072は、バッファ1071に記憶されている画像における全ての画素について、SNDPが求められたか否かを判定する。ステップS952において、画像の全ての画素についてSNDPが求められていない場合、処理は、ステップS942に戻る。すなわち、バッファ1071に記憶された画像の全ての画素についてSNDPが求められるまで、ステップS942乃至S952の処理が繰り返される。そして、ステップS952において、画像内の全ての画素についてSNDPが求められたと判定された場合、SNDP抽出処理が終了する。
以上の処理により、画像における各画素の属する狭域の平坦部の程度を表現する特徴量であるSNDPが求められる。すなわち、SNDPは、注目画素に対する長タップ内の複数の短タップの画素値ダイナミックレンジのうちの最小値により長タップ内において、短タップで表現される領域の中で最も平坦な領域における平坦さの程度が表現されることになるので、注目画素が属する狭域領域に含まれる平坦部が平坦であるほど小さな値となり、平坦ではなくなるほど大きな値となる。
ここで、図25のフローチャートの説明に戻る。
ステップS836の処理により、SNDPが求められると、ステップS837において、特徴量合成部973は、PNDP抽出部971より供給されてくるPNDPと、SNDP抽出部972より供給されてくるSNDPとを合成し、狭域特徴量として狭域人工画度算出部915に供給する。
ステップS838において、狭域人工画度算出部915は、狭域特徴量抽出部914より供給されてくる狭域特徴量に基づいて、狭域人工画度算出処理を実行し、狭域人工画度Artnを算出し、人工画度生成部913に供給する。
ここで、図37のフローチャートを参照して、図20の狭域人工画度算出部915による狭域人工画度算出処理について説明する。
ステップS971において、特徴量分離部991は、狭域特徴量抽出部914より供給されてくる狭域特徴量を取得すると供に、PNDPおよびSNDPを分離して、それぞれを狭域境界線比較部992に供給する。
ステップS972において、狭域境界線比較部992は、狭域境界線メモリ993より狭域境界線の情報を読み出す。
ステップS973において、狭域境界線比較部992は、未処理の画素を注目画素とし、その注目画素のPNDPおよびSNDPを抽出して、PNDP-SNDPの2次元平面上にプロットすると供に、読み出した狭域境界線との位置関係を比較する。
ここで、狭域境界線とは、複数の人工画像および自然画像から抽出されるPNDPおよびSNDPを、PNDP軸およびSNDP軸からなる2次元空間に(PNDP,SNDP)としてプロットすることで得られる統計上の分布から生成される境界線である。狭域境界線には、狭域人工画像境界線および狭域自然画像境界線の2種類の境界線がある。このうち、狭域人工画像境界線は、人工画像の狭域特徴量のみがプロットされている領域と、人工画像および自然画像の狭域特徴量が混在してプロットされている領域との境界線である。また、狭域自然画像境界線は、自然画像の狭域特徴量のみがプロットされている領域と、人工画像および自然画像の狭域特徴量が混在してプロットされている領域との境界線である。したがって、PNDP軸およびSNDP軸からなる領域は、図38で示されるように、狭域人工画像境界線および狭域自然画像境界線に基づいて、狭域人工画像領域、狭域自然画像領域、および人工画像および自然画像の狭域混在領域の3種類の領域に分割されることになる。ここで、図38においては、狭域自然画像境界線は、図中の曲線L11であり、狭域人工画像境界線は、図中の曲線L12である。尚、以下、曲線L11,L12については、適宜、狭域自然画像境界線L11および狭域人工画像境界線L12とも称するものとする。また、図38においては、狭域自然画像境界線L11よりも上部の領域が、狭域自然画像領域であり、狭域自然画像境界線L11および狭域人工画像境界線L12の間の領域が、狭域混在領域であり、狭域人工画像境界線L12よりも下部の領域が狭域人工画像領域である。
ステップS974において、狭域境界線比較部992は、注目画素のPNDPおよびSNDPをプロットした位置が、狭域人工画像領域であるか否かを判定する。例えば、注目画素のPNDPおよびSNDPをプロットした位置が、図38における位置N3である場合、ステップS975において、狭域境界線比較部992は、その画素が狭域人工画像領域に属していることを内分計算部994に通知する。
ステップS976において、内分計算部994は、狭域境界線比較部992からの注目画素の狭域特徴量が狭域人工画像領域に属している旨の通知を取得すると、狭域人工画度Artnを1として人工画度生成部913に供給し、その処理は、ステップS982に進む。
ステップS974において、例えば、注目画素のPNDPおよびSNDPをプロットした位置が、図38における位置N3ではなく、位置N2またはN1である場合、狭域境界線比較部992は、その画素が狭域人工画像領域に属していないとみなし、処理は、ステップS977に進む。
ステップS977において、狭域境界線比較部992は、注目画素のPNDPおよびSNDPをプロットした位置が、狭域自然画像領域であるか否かを判定する。例えば、注目画素のPNDPおよびSNDPをプロットした位置が、図38における位置N1である場合、ステップS978において、狭域境界線比較部992は、その画素が広域自然画像領域に属していることを内分計算部994に通知する。
ステップS979において、内分計算部994は、狭域境界線比較部992からの注目画素の狭域特徴量が狭域自然画像領域に属している旨の通知を取得すると、狭域人工画度Artnを0として人工画度生成部913に供給し、その処理は、ステップS982に進む。
ステップS977において、例えば、注目画素のPNDPおよびSNDPをプロットした位置が、図38における位置N1ではなく、位置N2である場合、狭域境界線比較部992は、その画素が狭域人工画像領域にも狭域自然画像領域にも属していないとみなし、処理は、ステップS980に進む。
ステップS980において、狭域境界線比較部992は、その画素が狭域混在領域に属していることと供に、狭域自然画像境界線L11と狭域人工画像境界線L12との内分比率を内分計算部994に通知する。すなわち、図38の場合、位置N2は、狭域自然画像境界線L11までの距離:狭域人工画像境界線L12までの距離との比率は、p:1−pとなるので、この情報が内分計算部994に通知される。
ステップS981において、内分計算部994は、狭域境界線比較部992からの注目画素の狭域特徴量が狭域混在領域に属している旨と供に、内分比率の通知を取得すると、内分比率pを狭域人工画度Artnとして人工画度生成部913に供給し、その処理は、ステップS982に進む。
ステップS982において、狭域境界線比較部992は、未処理の画素が存在するか否かを判定し、未処理の画素、すなわち、狭域特徴量が、狭域人工画像領域、狭域自然画像領域、または、狭域混在領域のいずれに属しているかが比較され、狭域人工画度が求められているか否かを判定し、全ての画素について、狭域人工画像度が求められていないと判定された場合、処理は、ステップS973に戻る。
一方、全ての画素について、狭域人工画度Artnが求められている場合、処理は終了する。
以上の処理により、全ての画素についてPNDPおよびSNDPからなる狭域特徴量が読み出されて、PNDP-SNDP空間においてプロットされ、複数の人工画像および自然画像の分布より統計的に求められた狭域人工画像境界線および狭域自然画像境界線と比較されることにより、PNDP-SNDP空間におけるプロット位置(PNDP,SNDP)と、狭域人工画像境界線および狭域自然画像境界線との位置関係に基づいて、狭域人工画像度Artnが算出されることになる。尚、以上においては、狭域混在領域に存在する場合、内分比率pが狭域人工画度Artnとして設定される例について説明してきたが、内分比が傾向として反映される値となればよいので、広域人工画度としては、例えば、p2または√pなどでもよい。
ここで、図25のフローチャートの説明に戻る。
ステップS839において、人工画度生成部913は、広域人工画度算出部912より供給されてきた広域人工画度Artb、および狭域人工画度算出部915より供給されてきた狭域人工画度Artnに基づいて、以下の式(19)を計算することで、人工画度Artを生成し、画像処理部113に供給する。
ここで、α,β,γは、定数である。また、人工画度Artは、0≦Art≦1を想定して設定されている値であるため、式(19)の計算結果、人工画度Artが1以上である場合、人工画度生成部913は、人工画度Artを1にクリップして画像処理部113に供給する。
以上の処理により、上述した図2におけるステップS7の処理において、合成部133は、例えば、以下の式(20)を演算することにより、自然画予測部131から供給される自然高品質画像の各画素の画素値と、人工画予測部132から供給される人工高品質画像の各画素の画素値とを人工画度に応じた割合で合成する。
ここで、Pixは、最終的に合成されて生成される高品質画像の各画素の画素値であり、Pixnatは、自然画予測部131より供給されてきた自然画像であり、Pixartは、人工画予測部132より供給されてきた人工画像であり、さらに、Artは、人工画度の係数である。
以上によれば、画像に対して人工画像としての画像処理を施した画素と、自然画像としての画像処理を施した画素とを、人工画度に応じて合成することで、画像における自然画像としての要素を含む領域と人工画像としての要素を含む領域とを区別して、それぞれの領域に対して最適な処理を施すことが可能となる。
以上においては、図28のフローチャートを参照して説明したBEP抽出処理のように、参照画素と注目画素との差分値の最大値と最小値との差分値を求めることにより、参照画素の差分ダイナミックレンジを求めることで、BEPを抽出する例について説明してきたが、参照画素の画素値の変化の大きな部分が求められればよいので、その他の方法でもよく、参照領域に含まれる画素の画素値の画素値ダイナミックレンジでも良い。尚、BEPとして画素値ダイナミックレンジを使用すると、参照領域の境界近傍の参照画素にエッジ領域に属する画素が含まれる場合と含まれない場合とで、BEPの値が大きく変化してしまう恐れがある。そこで、上述したように、BEPについては、距離に応じて重みを付する差分ダイナミックレンジの方がより好ましい結果を期待することができる。
また、BEPとしては、例えば、各参照画素の隣接画素間の画素値の差分絶対値を昇順に並べ替えて、上位の差分絶対値を用いて求めるようにしてもよい。
図39は、各参照画素の隣接画素間の画素値の差分絶対値を昇順に並べ替えて、上位の差分絶対値を用いて参照画素のエッジの存在を表現するBEPとして求めるようにしたBEP抽出部931の構成例を示している。
図39のBEP抽出部931は、バッファ1101、参照画素抽出部1102、隣接画素間差分絶対値計算部1103、並び替え部1104、上位抽出部1105、およびBEP計算部1106から構成されている。
バッファ1101は、基本的に図21におけるバッファ1011と同様のものであり、出力位相変換部112より供給されるHD画像を一時的に記憶し、順次必要に応じて参照画素抽出部1102に供給する。参照画素抽出部1102は、基本的に図21における参照画素抽出部1021と同様のものであり、順次、注目画素毎に参照画素を読み出して隣接画素間差分絶対値計算部1103に供給する。
隣接画素間差分絶対値計算部1103は、参照画素抽出部1102より供給されてくる参照画素のうち、上下左右方向に隣接する画素間の画素値の差分絶対値を求めて並び替え部1104に供給する。並び替え部1104は、隣接画素間差分絶対値計算部1103より供給されてくる参照画素の隣接画素間の差分絶対値を昇順に並び替えて上位抽出部1105に供給する。
上位抽出部1105は、並び替え部1104より供給されてきた隣接画素間差分絶対値の昇順に並び替えられた情報に基づいて、上位N1番目乃至N2番目の順位の値を抽出して、BEP計算部1106に供給する。BEP計算部1106は、上位抽出部1105より供給されてきた、隣接画素間差分絶対値の昇順に並び替えられた情報に基づいて、上位N1番目乃至N2番目の順位の値の平均値をBEPとして求め、特徴量合成部933に供給する。
ここで、図40のフローチャートを参照して、図39のBEP抽出部931によるBEP抽出処理について説明する。
ステップS1001において、バッファ1101は、出力位相変換部112より供給されるHD画像を一時的に記憶する。
ステップS1002において、参照画素抽出部1102は、バッファ1101より、未処理の画素を注目画素に設定すると供に、ステップS1003において、注目画素に対応して設定されている参照画素を読み出して隣接画素間差分絶対値計算部1103に供給する。
ステップS1004において、隣接画素間差分絶対値計算部1103は、未処理の参照画素の隣接画素間(注目画素を含む)の画素値の差分絶対値を計算し、並び替え部1104に供給する。
ステップS1005において、並び替え部1104は、隣接画素間差分絶対値計算部1103より供給されてきた隣接画素間差分絶対値を蓄積する。
ステップS1006において、隣接画素間差分絶対値計算部1103は、参照画素における全ての隣接画素間の差分絶対値を求めたか否かを判定し、例えば、全ての隣接画素間の差分絶対値が求められていないと判定された場合、処理は、ステップS1004に戻る。
すなわち、全ての隣接画素間の差分絶対値が求められるまで、ステップS1004乃至S1006の処理が繰り返される。そして、ステップS1004において、全ての隣接画素間の差分絶対値が求められて、並び替え部1104に全て蓄積されていると判定された場合、ステップS1007において、並び替え部1104は、隣接画素間差分絶対値の計算結果を昇順に並び替えて上位抽出部1105に供給する。すなわち、並び替え部1104は、例えば、図41で示されるように、隣接画素間差分絶対値を昇順に並び替えて、上位抽出部1105に供給する。尚、図41においては、横軸が順位を示しており、縦軸が隣接画素間差分絶対値を示している。
ステップS1008において、上位抽出部1105は、並び替え部1104より供給されてきた昇順に並び替えられている隣接画素間差分絶対値より上位N1番目乃至N2番目の順位の隣接画素間差分絶対値を抽出して、BEP計算部1106に供給する。すなわち、例えば、図41の場合、図中の上位N1番目乃至N2番目の順位の隣接画素間差分絶対値から抽出される。
ステップS1009において、BEP計算部1106は、上位N1番目乃至N2番目の順位の隣接画素間差分絶対値の平均値をBEPとして計算し、特徴量合成部933に出力する。
ステップS1010において、参照画素抽出部1102は、バッファ1101に記憶されている画像における全ての画素について、BEPが求められたか否かを判定する。ステップS1010において、画像の全ての画素についてBEPが求められていない場合、処理は、ステップS1002に戻る。すなわち、バッファ1101に記憶された画像の全ての画素についてBEPが求められるまで、ステップS1002乃至S1010の処理が繰り返される。そして、ステップS1010において、画像内の全ての画素についてBEPが求められたと判定された場合、BEP抽出処理が終了する。
以上の処理により、画像における広域のエッジを表現する特徴量であるBEPが求められる。すなわち、BEPは、隣接画素間差分絶対値の上位N1番目乃至N2番目の順位の平均値であり、参照画素の隣接画素間差分絶対値のうち比較的大きな値が、広域のエッジを表現する特徴量として抽出される。
尚、以上においては、上位N1番目乃至N2番目の順位の平均値をBEPとする例について説明してきたが、参照画素における隣接画素間差分絶対値を用いた広域の特徴量が求められればよいので、求め方は以上の方法以外でもよく、例えば、平均値ではなく各隣接画素間差分絶対値に対して重みを付加して積和を用いるようにしてもよいし、さらには、図41で示されるように、上位N1番目乃至N2番目前後のN番目の順位の値をそのままBEPとするようにしてもよい。
また、以上においては、図28のフローチャートを参照して説明したBFP抽出処理のように、参照画素の隣接画素間差分絶対値を所定の閾値thと比較し、閾値thよりも大きな値については、関数により所定の値を設定し、全ての参照画素における総和をBFPとする例について説明してきたが、参照画素の画素値の変化の小さな部分が求められればよいので、その他の方法でもよく、例えば、各参照画素の隣接画素間の画素値の差分絶対値を昇順に並べ替えて、下位の差分絶対値を用いて求めるようにしてもよい。
図42は、各参照画素の隣接画素間の画素値の差分絶対値を昇順に並べ替えて、下位の差分絶対値を用いて参照画素の平坦部の存在を表現するBFPを求めるようにしたBFP抽出部932の構成例を示している。
図42のBFP抽出部932は、バッファ1121、参照画素抽出部1122、隣接画素間差分絶対値計算部1123、並び替え部1124、上位抽出部1125、およびBFP計算部1126から構成されている。
バッファ1121は、基本的に図22におけるバッファ1031と同様のものであり、出力位相変換部112より供給されるHD画像を一時的に記憶し、順次必要に応じて参照画素抽出部1122に供給する。参照画素抽出部1122は、基本的に図22における参照画素抽出部1031と同様のものであり、順次、注目画素毎に参照画素を読み出して重み隣接画素間差分絶対値計算部1123に供給する。
隣接画素間差分絶対値計算部1123は、参照画素抽出部1122より供給されてくる参照画素のうち、上下左右方向に隣接する画素間の画素値の差分絶対値を求めて並び替え部1124に供給する。並び替え部1124は、隣接画素間差分絶対値計算部1123より供給されてくる参照画素の隣接画素間の差分絶対値を昇順に並び替えて下位抽出部1125に供給する。
下位抽出部1125は、並び替え部1124より供給されてきた隣接画素間差分絶対値の昇順に並び替えられた情報に基づいて、下位n1番目乃至n2番目の順位の値を抽出して、BFP計算部1126に供給する。BFP計算部1126は、下位抽出部1125より供給されてきた、隣接画素間差分絶対値の昇順に並び替えられた情報に基づいて、下位n1番目乃至n2番目の順位の値の平均値をBFPとして求め、特徴量合成部933に供給する。
ここで、図43のフローチャートを参照して、図42のBFP抽出部932によるBFP抽出処理について説明する。
ステップS1031において、バッファ1121は、出力位相変換部112より供給されるHD画像を一時的に記憶する。
ステップS1032において、参照画素抽出部1122は、バッファ1121より、未処理の画素を注目画素に設定すると供に、ステップS1033において、注目画素に対応して設定されている参照画素を読み出して隣接画素間差分絶対値計算部1123に供給する。
ステップS1034において、隣接画素間差分絶対値計算部1123は、未処理の参照画素の隣接画素間(注目画素を含む)の画素値の差分絶対値を計算し、並び替え部1124に供給する。
ステップS1035において、並び替え部1124は、隣接画素間差分絶対値計算部1123より供給されてきた隣接画素間差分絶対値を蓄積する。
ステップS1036において、隣接画素間差分絶対値計算部1123は、参照画素における全ての隣接画素間の差分絶対値を求めたか否かを判定し、例えば、全ての隣接画素間の差分絶対値が求められていないと判定された場合、処理は、ステップS1034に戻る。
すなわち、全ての隣接画素間の差分絶対値が求められるまで、ステップS1034乃至S1036の処理が繰り返される。そして、ステップS1034において、全ての隣接画素間の差分絶対値が求められて、並び替え部1124に全て蓄積されていると判定された場合、ステップS1037において、並び替え部1124は、隣接画素間差分絶対値の計算結果を昇順に並び替えて下位抽出部1125に供給する。すなわち、並び替え部1124は、例えば、図44で示されるように、隣接画素間差分絶対値を昇順に並び替えて、下位抽出部1125に供給する。尚、図44においては、横軸が順位を示しており、縦軸が隣接画素間差分絶対値を示している。
ステップS1038において、下位抽出部1125は、並び替え部1124より供給されてきた昇順に並び替えられている隣接画素間差分絶対値より下位n1番目乃至n2番目の順位の隣接画素間差分絶対値を抽出して、BFP計算部1126に供給する。すなわち、例えば、図44の場合、図中の下位n1番目乃至n2番目の順位の隣接画素間差分絶対値から抽出される。
ステップS1039において、BFP計算部1126は、下位n1番目乃至n2番目の順位の隣接画素間差分絶対値の平均値をBFPとして計算し、特徴量合成部933に出力する。
ステップS1040において、参照画素抽出部1122は、バッファ1121に記憶されている画像における全ての画素について、BFPが求められたか否かを判定する。ステップS1040において、画像の全ての画素についてBFPが求められていない場合、処理は、ステップS1032に戻る。すなわち、バッファ1121に記憶された画像の全ての画素についてBFPが求められるまで、ステップS1032乃至S1040の処理が繰り返される。そして、ステップS1040において、画像内の全ての画素についてBFPが求められたと判定された場合、BFP抽出処理が終了する。
以上の処理により、画像における広域の平坦部を表現する特徴量であるBFPが求められる。すなわち、BFPは、隣接画素間差分絶対値の下位n1番目乃至n2番目の順位の平均値であり、参照画素の隣接画素間差分絶対値のうち比較的小さな値が、広域の平坦部を表現する特徴量として抽出される。
尚、以上においては、下位n1番目乃至n2番目の順位の平均値をBFPとする例について説明してきたが、参照画素における隣接画素間差分絶対値を用いた広域の特徴量が求められればよいので、求め方は以上の方法以外でもよく、例えば、平均値ではなく各隣接画素間差分絶対値に対して重みを付加して積和を用いるようにしてもよいし、さらには、図44で示されるように、下位n1番目乃至n2番目の順位の前後のn番目の順位の値をそのままBFPとするようにしてもよい。
また、以上においては、PNDPは、図33のフローチャートを参照して説明したPNDP抽出処理のように、参照画素に含まれる長タップの画素値ダイナミックレンジより求められる例について説明してきたが、参照画素の画素値ダイナミックレンジを用いるようにしてもよい。
図45は、参照画素の画素値ダイナミックレンジを用いるようにしてPNDPを求めるようにしたPNDP抽出部971の構成例を示している。
図45のPNDP抽出部971は、バッファ1141、参照画素抽出部1142、画素値抽出部1143、画素値蓄積部1143、最大値最小値抽出部1144、およびPNDP計算部1145から構成されている。
バッファ1141は、出力位相変換部112より供給されるHD画像を一時的に記憶し、順次必要に応じて参照画素抽出部1142に供給する。参照画素抽出部1142は、順次、注目画素毎に参照画素を読み出して、画素値を画素値蓄積部1143に蓄積させる。
最大値最小値抽出部1144は、画素値蓄積部1143に蓄積された参照画素の全ての画素の画素値のうち、最大値と最小値を抽出してPNDP計算部1145に供給する。
PNDP計算部1145は、最大値最小値抽出部1144より供給されてくる全ての参照画素の画素値の最大値から最小値を引いた値より参照画素の画素値ダイナミックレンジを求め、注目画素のPNDPとして出力する。
次に、図46のフローチャートを参照して、図45のPNDP抽出部971によるPNDP抽出処理について説明する。
ステップS1051において、バッファ1141は、出力位相変換部112より供給されるHD画像を一時的に記憶する。
ステップS1052において、参照画素抽出部1142は、バッファ1141より、未処理の画素を注目画素に設定すると供に、ステップS1053において、注目画素に対応して設定されている参照画素を読み出してその画素値を、ステップS1054において、画素値蓄積部1143に蓄積させる。
ステップS1055において、参照画素抽出部1142は、未処理の参照画素が存在するか否か、すなわち、全ての参照画素の画素値が画素値蓄積部1143に蓄積されたか否かを判定し、未処理の参照画素が存在する場合、その処理は、ステップS1054に戻る。すなわち、全ての参照画素について、ステップS1054,S1055の処理が繰り返される。
そして、ステップS1055において、未処理の参照画素がない、すなわち、全ての参照画素について画素値が抽出され、画素値蓄積部1143に全て蓄積されていると判定された場合、ステップS1056において、参照画素抽出部1142は、全ての参照画素について処理が終了したことを最大値最小値抽出部1144に通知する。これを受けて、最大値最小値抽出部1144は、画素値蓄積部1054に蓄積されている画素値のうち、最大値となる値と最小値となる値とを抽出してPNDP計算部1145に供給する。
ステップS1057において、PNDP計算部1145は、最大値最小値抽出部1144より供給されてきた画素値の最大値から最小値を引いた値である参照画素の画素値ダイナミックレンジを、注目画素に対するPNDPとして計算し、特徴量合成部933に供給する。
ステップS1058において、参照画素抽出部1142は、バッファ1141に記憶されている画像における全ての画素について、PNDPが求められたか否かを判定する。ステップS1058において、画像の全ての画素についてPNDPが求められていない場合、処理は、ステップS1052に戻る。すなわち、バッファ1141に記憶された画像の全ての画素についてPNDPが求められるまで、ステップS1052乃至S1058の処理が繰り返される。そして、ステップS1058において、画像内の全ての画素についてPNDPが求められたと判定された場合、PNDP抽出処理が終了する。
以上の処理により、画像における狭域のエッジを表現する特徴量であるPNDPが求められる。すなわち、PNDPは、注目画素に対する参照画素内の画素値ダイナミックレンジを表現することで、注目画素が属する狭域領域にエッジが存在したような場合、大きな値となり、逆にエッジが存在しない場合、小さな値を取ることになる。
さらに、以上においては、図35のフローチャートを参照して説明したSNDP抽出処理のように、短タップの画素値ダイナミックレンジのうち最小の値をSNDPとして抽出する例について説明してきたが、狭域の平坦部の傾向を特徴量に利用できればよいので、図22のBFP抽出部932と同様に、参照画素と注目画素との差分絶対値を関数で変換し、参照画素から注目画素までの経路に応じた重みを付して、閾値と比較し、比較結果を加算してSNDPとして抽出するようにしてもよい。
図47は、参照画素と注目画素との差分絶対値を関数で変換し、参照画素から注目画素までの経路に応じた重みを付して、閾値と比較し、比較結果を加算してSNDPとして抽出するようにしたSNDP抽出部972の構成例を示している。
図47のSNDP抽出部972は、バッファ1161、参照画素抽出部1162、隣接画素間差分計算部1163、関数変換部1164、重み計算部1165、乗算部1166、蓄積部1167、およびSNDP計算部1168から構成されている。
バッファ1161は、出力位相変換部112より供給されるHD画像を一時的に記憶し、順次必要に応じて参照画素抽出部1162に供給する。参照画素抽出部1162は、順次、注目画素毎に参照画素を読み出して画素間差分計算部1163および重み計算部1165に供給する。
画素間差分計算部1163は、参照画素抽出部1162より供給されてきた全ての参照画素について注目画素との差分絶対値を関数変換部1164に供給する。関数変換部1164は、画素間差分計算部1163より供給されてくる画素間差分絶対値を、設定した変換関数で変換し乗算部1166に供給する。
重み計算部1165は、補間画素生成部1165aおよび差分計算部1165bを備えており、参照画素抽出部1162より供給されてくる参照画素の位置毎に、注目画素からの距離に応じた重みを計算し乗算部1166に供給する。より詳細には、重み計算部1165は、差分計算部1165bを制御して、注目画素と参照画素との経路上に存在する画素間の差分絶対値を積算し、積算結果に基づいて、重みwsを求める。この際、重み計算部1165は、補間画素生成部1165a制御して、注目画素と参照画素との経路上に必要に応じて補間により画素を生成する。
乗算部1166は、重み計算部1165より供給されてくる重みwsと、関数変換部1164より供給されてくる関数変換された画素間差分絶対値とを乗算し、蓄積部1167に蓄積させる。
SNDP計算部1168は、蓄積部1167に蓄積されている乗算結果を累積加算し、注目画素のSNDPとして出力する。
ここで、図48のフローチャートを参照して、図47のSNDP抽出部972によるSNDP抽出処理について説明する。
ステップS1081において、バッファ1161は、出力位相変換部112より供給されるHD画像を一時的に記憶する。
ステップS1082において、参照画素抽出部1162は、バッファ1161より、未処理の画素を注目画素に設定すると供に、ステップS1083において、注目画素に対応して設定されている参照画素を読み出して画素間差分計算部1163および重み計算部1165に供給する。
ステップS1084において、画素間差分計算部1163は、未処理の参照画素、すなわち、注目画素の画素値との差分絶対値を計算していない参照画素について、注目画素との画素値の画素間差分絶対値gを計算し、関数変換部1164に供給する。
ステップS1085において、関数変換部1164は、予め設定される関数Fに基づいて、画素間差分計算部1163より供給されてきた画素間差分絶対値gを変換して、乗算部1166に供給する。より詳細には、関数変換部1164は、例えば、図49の実線で示される関数F(g)に基づいて、値を変換し、変換した値を乗算部1166に出力する。図49の実線で示される関数F(g)においては、画素間差分絶対値gは、関数Fにより、所定の値より小さいときより大きく、所定の値より大きいときより小さく変換される。すなわち、所定の値を境界として値が変化する。
ステップS1086において、重み計算部1165は、注目画素と参照画素との間に補間生成すべき画素が存在するか否かを判定する。より詳細には、例えば、図50で示されるように、注目画素P(0,0)と図中の二重丸印で示される参照画素P(2,4)とであった場合、注目画素P(0,0)と参照画素P(2,4)との経路上には、補間画素P(0.5,1),P(1.5,3)が必要となるため、補間の必要な画素が存在すると判定されることになる。この場合、処理は、ステップS1087に進む。
ステップS1087において、重み計算部1165は、補間生成部1165aを制御し、補間画素を生成させる。例えば,図50で注目画素P(0,0)と参照画素P(2,4)との場合、補間生成部1165aは、補間画素P(0.5,1),P(1.5,3)の画素値を、例えば、それぞれ(P(0,1)+P(1,1))/2,(P(1,3)+P(1,1))/2などのように平均値として求める。尚、補間の方法はこれに限らず、それ以外の方法でもよく、例えば、重みを付加して総和を求めるようにしてもよい。
ステップS1086において、例えば、図50において注目画素P(0,0)と図中のバツ印で示される参照画素P(3,3)とであった場合、注目画素P(0,0)と参照画素P(3,3)との経路上には、補間画素P(1,1),P(2,2)が存在するため、補間の必要な画素がないため、補間が必要な画素がないと判定されることになる。この場合、処理は、ステップS1087の処理はスキップされる。
ステップS1088において、重み計算部1165は、差分計算部1165bを制御して、注目画素と、参照画素との経路上の画素間差分絶対値の総和Dを計算し、総和Dより重みwg=1−D/H(Hは定数)を求め、乗算部1166に供給する。すなわち、図50における注目画素P(0,0)と参照画素P(2,4)との場合、差分計算部1165bは、|P(0,0)−P(0.5,1)|,|P(0.5,1)−P(1,2)|,|P(1,2)−P(1.5,3)|,|P(1.5,3)−P(2,4)|の総和Dを計算する。さらに、重み計算部1165は、重みwg=1−D/Hを計算し、乗算部1166に供給する。尚、重みwgは、PNDP等のパラメータに対応付けた値としてもよく、例えば、重みwg=1−D/PNDP、または重みwg=1−D/(√PNDP)とするようにしてもよい。
ステップS1089において、乗算部1166は、関数変換部1164より供給されてきた画素間差分絶対値gと、重み計算部1165より供給されてきた重みwgとを乗算し、ステップS1090において、蓄積部1167に蓄積させる。
ステップS1091において、画素間差分計算部1163は、未処理の参照画素が存在するか否かを判定し、存在する場合、その処理は、ステップS1084に戻る。すなわち、全ての参照画素と注目画素との画素間差分絶対値が、ステップS1084乃至S1091の処理が繰り返されることにより求められる。
そして、ステップS1091において、未処理の参照画素がないと判定された場合、ステップS1092において、画素間差分計算部1163は、全ての参照画素について処理が終了したことをSNDP計算部1168に通知する。SNDP計算部1168は、蓄積部1167に蓄積されている乗算結果の総和を求めてSNDPとして出力する。
ステップS1093において、参照画素抽出部1162は、バッファ1161に記憶されている画像における全ての画素について、SNDPが求められたか否かを判定する。ステップS1093において、画像の全ての画素についてSNDPが求められていない場合、処理は、ステップS1082に戻る。すなわち、バッファ1161に記憶された画像の全ての画素についてSNDPが求められるまで、ステップS1082乃至S1093の処理が繰り返される。そして、ステップS1093において、画像内の全ての画素についてSNDPが求められたと判定された場合、SNDP抽出処理が終了する。
以上の処理により、画像における狭域の平坦部を表現する特徴量であるSNDPが求められる。すなわち、SNDPは、注目画素の属する狭域が平坦である場合、値が大きくなり、逆に、エッジなどが多く存在する、平坦ではないような場合、値が小さくなる。
以上において、変換関数Fは、例えば、図49で示されるようなものでもよいことは、上述した通りであるが、PNDPと対応付けるようにしてもよく、例えば、画素間差分絶対値gが、閾値th11=PNDP/b11以上の場合、F(g)=AA(AAは定数)とし、画素間差分絶対値gが、閾値th2=PNDP/b12以下の場合、F(g)=BB(BBは定数)とし、さらに、画素間差分絶対値gが、閾値th12=PNDP/b12より大きく閾値th11=BEP/b11より小さい場合、F(g)=(BB−AA)・(g−th11)/(th12−th11)+AAとするようにしてもよい。また、閾値th11,th12は、PNDPの傾向が使えればよいので、例えば、閾値th11=(PNDP)2/b11,th12=(PNDP)2/b12、または、閾値th11=(√PNDP)/b11,th12=(√PNDP)/b12などを利用するようにしても良い。
以上においては、図1で示されるように、自然画予測部131および人工画予測部132が、それぞれ予測処理を行った後、それらを自然画人工画判定部114により求められる人工画度Artに基づいて合成する例について説明してきたが、予め自然画像と人工画像とを分離して、それぞれ自然画予測部131および人工画予測部132に供給するようにしてもよい。
図51は、予め自然画像と人工画像とを分離して、それぞれ自然画予測部131および人工画予測部132に供給するようにした画像変換装置101の構成例を示している。尚、図1における画像変換装置101と同様の構成については、同一の符号を付しており、その説明は適宜省略するものとする。
図51の画像変換装置101において、図1の画像変換装置101と異なるのは、出力位相変換部112の後段に分離部1201が設けられており、自然画予測部131および人工画予測部132の後段に加算部1202が設けられている点が異なる。
分離部1201は、自然画人工画判定部114からの人工画度Artに基づいて、出力位相変換部112より供給されるHD画像を画素単位で分離し、自然画予測部131および人工画予測部132に供給する。
加算部1202は、自然画予測部131および人工画予測部132より供給されてくる画素を加算することにより、すなわち、分離されて、高画質化された画素をそれぞれ分離前の位置に再配置することで画像にする。
次に、図52のフローチャートを参照して、図51の画像変換装置101による画像変換処理について説明する。尚、図52のフローチャートにおけるステップS1111乃至S1114,S1116,S1117の処理については、図2のフローチャートにおけるステップS1乃至S3,S6,S4,S5の処理と同様であるので、その説明は省略する。
ステップS1115において、分離部1201は、自然画人工画判定部114より供給されてくる人工画度Artに基づいて、出力位相変換部112より供給されるHD画像を画素単位で分離し、自然画予測部131および人工画予測部132にそれぞれ供給する。より詳細には、画素単位で、分離部1201は、人工画度Artが1の場合、その画素を人工画予測部132に供給し、一方、人工画度Artが0の場合、その画素を自然画予測部131に供給する。また、人工画度Artが0より大きく1より小さい場合、人工画度の情報と共にその画素を自然画予測部131および人工画予測部132の両方に供給する。このとき、分離部1201は、分離した画素の情報と併せて、自然画予測処理および人工画予測処理のために、入力画像も自然画予測部131および人工画予測部132に供給する。
そして、ステップS1116,S1117の処理により、自然画予測処理および人工画予測処理が行われた後、ステップS1118において、加算部1202は、自然画予測部131および人工画予測部132より供給されてくる画素を合わせることにより、高画質化された画像を生成して出力する。この際、分離部1201により分離される際、人工画度Artが0より大きく1より小さいときに、自然画予測部131および人工画予測部132のそれぞれに人工画度Artが付された状態で分離された画素については、人工画像には、人工画度Artを乗じると共に、自然画像には1より人工画度Artを引いた値(1−Art)を乗じた後、加算することで画素を生成する。
以上の処理により、図1の画像変換装置101と同様の効果を得ることが可能となる。また、図51の画像変換装置101においては、人工画度Artにより自然画予測部131および人工画予測部132にそれぞれ供給される画素が振り分けられるので、処理負荷を低減させることが可能となる。
なお、以上においては、図32で示されるように、広域人工画境界線L1が広域自然画像境界線L2の上側に存在する例について説明してきたが、この位置関係はBEPおよびBFPとして採用する特徴量によっては逆転することもある。
すなわち、BEPとして、参照画素の差分ダイナミックレンジ、参照画素を用いた画素値ダイナミックレンジ、または、参照画素の隣接画素間の画素値の差分絶対値を昇順に並べ替えて、上位の差分絶対値を用いる場合であって、BFPとして、参照画素の隣接画素間差分絶対値を所定の閾値thと比較し、閾値thよりも大きな値については、関数により所定の値を設定し、全ての参照画素における総和を用いるようなとき、縦軸にBFP、および横軸にBEPをとると、広域人工画像境界線は、広域自然画像境界線よりも上に位置する。また、BEPとして、参照画素の差分ダイナミックレンジ、参照画素を用いた画素値ダイナミックレンジ、または、参照画素の隣接画素間の画素値の差分絶対値を昇順に並べ替えて、上位の差分絶対値を用いる場合であって、BFPとして、参照画素の隣接画素間差分絶対値を昇順に並べ替えたとき、上位の値を用いるようなとき、縦軸にBFP、および横軸にBEPをとると、広域人工画像境界線は、広域自然画像境界線よりも下に位置する。
また、広域人工画境界線L1および広域自然画像境界線L2は、例えば、画像変換処理をする際のパラメータ、例えば、解像度軸値、ノイズ軸値、ズーム倍率といった設定により、広域人工画度Artbの値を高くしたり低くしたりすることが可能である。
すなわち、図53の中段で示される広域人工画境界線L1および広域自然画像境界線L2は、図32と同一のものであるが、例えば、画像変換処理における解像度を変化させた場合、解像度を上げたとき、図53の上段で示されるように、広域人工画境界線L1’および広域自然画像境界線L2’が、それぞれ広域人工画境界線L1および広域自然画像境界線L2よりも低い位置となるため、同一の広域特徴量であれば、広域人工画度Artbが高い値を取りやすい状態となる。一方、解像度を下げたとき、図53の下段で示されるように、広域人工画境界線L1’’および広域自然画像境界線L2’’が、高い位置となるため、同一の広域特徴量であれば、広域人工画度Artbが低い値をとりやすい状態となる。
同様にして、以上においては、図38で示されるように、狭域自然画像境界線L11が狭域人工画像境界線L12の上側に存在する例について説明してきたが、この位置関係はPNDPおよびSNDPとして採用する特徴量によっては逆転することもある。
すなわち、PNDPとして、参照画素の画素値ダイナミックレンジを用いる場合であって、SNDPとして、注目画素と各参照画素との経路による重み付き差分絶対値和を用いたとき、縦軸にPNDP、および横軸にSNDPをとると、狭域人工画像境界線L12は、狭域自然画像境界線L11よりも上に位置する。また、PNDPとして、長タップの画素値ダイナミックレンジを用いる場合であって、SNDPとして、短タップの画素値ダイナミックレンジを用いるようなとき、縦軸にPNDP、および横軸にSNDPをとると、狭域人工画像境界線L12は、狭域自然画像境界線L11よりも下に位置する。
また、狭域自然画像境界線L11および狭域人工画像境界線L12は、例えば、画像変換処理をする際のパラメータ、例えば、解像度軸値、ノイズ軸値、ズーム倍率といった設定により、狭域人工画度Artnの値を高くしたり低くしたりすることが可能である。
すなわち、図54の中段で示される狭域自然画像境界線L11および狭域人工画像境界線L12は、図38と同一のものであるが、例えば、画像変換処理におけるノイズ軸値を変化させた場合、ノイズ軸値を上げたとき、図54の上段で示されるように、狭域自然画像境界線L11’および狭域人工画像境界線L12’が、それぞれ狭域自然画像境界線L11および狭域人工画像境界線L12よりも低い位置となるため、同一の狭域特徴量であれば、狭域人工画度Artnが高い値を取りやすい状態となる。一方、ノイズ軸値を下げたとき、図54の下段で示されるように、狭域自然画像境界線L11’’および狭域人工画像境界線L12’’が、それぞれ狭域自然画像境界線L11および狭域人工画像境界線L12よりも高い位置となるため、同一の狭域特徴量であれば狭域人工画度Artnが低い値をとりやすい状態となる。
以上においては、広域特徴量としてBEPおよびBFPを、狭域特徴量としてPNDP、およびSNDPを用いた例について説明してきたが、広域特徴量については、エッジや平坦部を表現できるパラメータであれば、BEPおよびBFPに限るものではなく、それ以外の特徴量を使用するようにしてもよい。また、狭域特徴量についても同様に、上述したPNDPおよびSNDPのみならず、狭域の細線、エッジ、点、エッジ付近の平坦部、またはグラデーションなどが表現できる特徴量であれば、それらの特徴量を使用するようにしてもよい。さらに、以上においては、広域特徴量および狭域特徴量について、それぞれ2種類の特徴量を使用する例について説明してきたが、それ以上の種類の特徴量を使用するようにしてもよく、その場合、人工画像と自然画像との境界線については、図32や図38で示されるような2次元ではなく、特徴量の数nに応じたn次元で表現される境界線または境界面などとなるが、n次空間における特徴量の存在領域を判定したり、混在領域において、境界線間、または、境界面間の距離の比率を求めるといった基本的な処理は同様である。
以上によれば、画像を画素単位で自然画像または人工画像を識別し、自然画予測処理および人工画予測処理を施すことが可能となり、各画素について適切に予測処理を施すことができるので、画像全体の品質を的確に高めることが可能となる。
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行させることが可能な、例えば汎用のパーソナルコンピュータなどに記録媒体からインストールされる。
図55は、図1,図51の画像変換装置101の電気的な内部構成をソフトウェアにより実現する場合のパーソナルコンピュータの一実施の形態の構成を示している。パーソナルコンピュータのCPU2001は、パーソナルコンピュータの全体の動作を制御する。また、CPU2001は、バス2004および入出力インタフェース2005を介してユーザからキーボードやマウスなどからなる入力部2006から指令が入力されると、それに対応してROM(Read Only Memory)2002に格納されているプログラムを実行する。あるいはまた、CPU2001は、ドライブ2010に接続された磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリを含むリムーバルディスク2011から読み出され、記憶部2008にインストールされたプログラムを、RAM(Random Access Memory)2003にロードして実行する。これにより、上述した図1,図51の画像変換装置101の機能が、ソフトウェアにより実現されている。さらに、CPU2001は、通信部2009を制御して、外部と通信し、データの授受を実行する。
プログラムが記録されている記録媒体は、図55に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリを含むリムーバルメディア2011などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM2002や、記憶部2008に含まれるハードディスクなどで構成される。
尚、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
114 自然画人工画判定部, 651 クラス分類部, 652 係数種メモリ, 653 予測係数生成部, 654 予測係数メモリ, 655 予測部, 811 学習装置, 822 クラス分類部, 823 生成部, 824 係数生成部, 825 正規方程式生成部, 826 係数種決定部, 827 係数種メモリ, 831 予測タップ抽出部, 832 正規方程式生成部, 840 クラス分類部, 841 クラス決定部, 861 クラス分類器, 862 クラス分類器, 863 クラス選択部, 911 広域特徴量抽出部, 912 広域人工画度算出部, 913 人工画度生成部, 914 狭域特徴量抽出部, 915 狭域人工画度算出部, 931 BEP抽出部, 932 BFP抽出部, 952 広域境界線比較部, 971 PNDP抽出部, 972 SNDP抽出部, 992 狭域境界線比較部