JP5029869B2 - 画像処理装置および画像処理方法、学習装置および学習方法、並びにプログラム - Google Patents

画像処理装置および画像処理方法、学習装置および学習方法、並びにプログラム Download PDF

Info

Publication number
JP5029869B2
JP5029869B2 JP2006304198A JP2006304198A JP5029869B2 JP 5029869 B2 JP5029869 B2 JP 5029869B2 JP 2006304198 A JP2006304198 A JP 2006304198A JP 2006304198 A JP2006304198 A JP 2006304198A JP 5029869 B2 JP5029869 B2 JP 5029869B2
Authority
JP
Japan
Prior art keywords
image
image data
tap
prediction
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006304198A
Other languages
English (en)
Other versions
JP2008124639A (ja
Inventor
秀樹 大塚
悠太 長木
恵司 堀田
朋範 河瀬
正康 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2006304198A priority Critical patent/JP5029869B2/ja
Publication of JP2008124639A publication Critical patent/JP2008124639A/ja
Application granted granted Critical
Publication of JP5029869B2 publication Critical patent/JP5029869B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)

Description

本発明は、画像処理装置および画像処理方法、学習装置および学習方法、並びにプログラムに関し、特に、例えば、より高画質の画像を生成することができるようにした画像処理装置および画像処理方法、学習装置および学習方法、並びにプログラムに関する。
本出願人は、例えば、歪みその他のノイズを含むノイズ画像を、そのノイズ画像に含まれるノイズを除去したノイズ除去画像に変換する方法として、クラス分類適応処理を先に提案している(例えば、特許文献1を参照)。
クラス分類適応処理では、例えば、ノイズ画像の複数の画素を予測タップとして、その予測タップの画素値と、教師画像および生徒画像を用いた学習により、あらかじめ求めておいた係数を用いた所定の予測演算により、ノイズ画像からノイズ除去画像が予測される。
即ち、クラス分類適応処理では、予測タップを、複数のクラスのうちのいずれかのクラスにクラス分類し、そのクラスに応じた係数と、予測タップとを用いて予測演算が行われることにより、ノイズ画像からノイズ除去画像が予測される。
そして、一般には、クラス分類し得るクラスの総数が多いほうが、予測の精度を向上させることができる。
特開2003−324738号公報
しかしながら、予測演算に用いられる係数の総数は、クラス分類し得るクラスの総数に比例するため、クラス分類し得るクラスの総数が多くなるほど、係数を記憶するメモリの容量も大となる。
本発明はこのような状況に鑑みてなされたものであり、係数の総数を抑えつつ、より高画質の画像を予測することができるようにするものである。
本発明の第1の側面の画像処理装置は、第1の画像データを第2の画像データに変換する画像処理装置において、記第2の画像データを構成する各画素のうち、前記第1の画像データの注目している画素である注目画素に対応する画素を予測する予測演算に用いる複数の画素である予測タップを、前記第1の画像データから出する予測タップ抽出手段と、前記予測タップとして抽出された画素であって、所定の方向に並ぶ画素を表す所定方向予測タップのクラス分類に用いる複数の画素であるクラスタップを、前記第1の画像データから抽出するクラスタップ抽出手段と、前記予測タップとして抽出された画素であって、第1の方向に並ぶ画素を表す第1方向予測タップのクラス分類用とされる第1の前記クラスタップに基づいて、前記第1方向予測タップを、複数の第1方向クラスのいずれかの第1方向クラスにクラス分類する第1方向クラス分類手段と、前記予測タップとして抽出された画素であって、前記第1の方向とは異なる第2の方向に並ぶ画素を表す第2方向予測タップのクラス分類用とされる第2の前記クラスタップに基づいて、前記第2方向予測タップを、複数の第2方向クラスのいずれかの第2方向クラスにクラス分類する第2方向クラス分類手段と、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習によりあらかじめ求められた、前記複数の第1方向クラス毎の第1方向係数を予め記憶している第1の記憶部から、前記第1方向予測タップの第1方向クラスに対応する第1方向係数出力させ第1方向係数出力手段と、前記学習によりあらかじめ求められた、前記複数の第2方向クラス毎の第2方向係数を予め記憶している第2の記憶部から、前記第2方向予測タップの第2方向クラスに対応する第2方向係数を出力させる第2方向係数出力手段と、前記第1方向係数出力手段から出力された前記第1方向係数、前記第2方向係数出力手段から出力された前記第2方向係数、及び前記予測タップ抽出手段により抽出された前記予測タップを用いた前記予測演算により、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する素を予測する予測演算手段とを備え、前記予測演算手段は、前記予測タップ抽出手段が、前記予測タップとして、前記第1方向予測タップ及び前記第2方向予測タップを、前記第1の画像データから抽出するものである場合、前記予測演算として、前記第1方向予測タップと前記第1方向係数との積和演算、及び前記第2方向予測タップと前記第2方向係数との積和演算を行うことにより、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する画素を予測する画像処理装置である。
前記予測演算手段には、前記予測タップ抽出手段が、前記予測タップとして、前記第1の方向及び前記第2の方向に並ぶ複数の画素を表す複数方向予測タップを、前記第1の画像データから抽出するものである場合、前記予測演算として、前記第1方向係数及び前記第2方向係数を合成して得られる合成係数と、前記複数方向予測タップとの積和演算を行うことにより、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する画素を予測させることができる。
本発明の第1の側面の画像処理方法、またプログラムは、第1の画像データを第2の画像データに変換する画像処理装置の画像処理方法、または第1の画像データを第2の画像データに変換する画像処理をコンピュータに実行させるプログラムにおいて、記第2の画像データを構成する各画素のうち、前記第1の画像データの注目している画素である注目画素に対応する画素を予測する予測演算に用いる複数の画素である予測タップを、前記第1の画像データから出する予測タップ抽出ステップと、前記予測タップとして抽出された画素であって、所定の方向に並ぶ画素を表す所定方向予測タップのクラス分類に用いる複数の画素であるクラスタップを、前記第1の画像データから抽出するクラスタップ抽出ステップと、前記予測タップとして抽出された画素であって、第1の方向に並ぶ画素を表す第1方向予測タップのクラス分類用とされる第1の前記クラスタップに基づいて、前記第1方向予測タップを、複数の第1方向クラスのいずれかの第1方向クラスにクラス分類する第1方向クラス分類ステップと、前記予測タップとして抽出された画素であって、前記第1の方向とは異なる第2の方向に並ぶ画素を表す第2方向予測タップのクラス分類用とされる第2の前記クラスタップに基づいて、前記第2方向予測タップを、複数の第2方向クラスのいずれかの第2方向クラスにクラス分類する第2方向クラス分類ステップと、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習によりあらかじめ求められた、前記複数の第1方向クラス毎の第1方向係数を予め記憶している第1の記憶部から、前記第1方向予測タップの第1方向クラスに対応する第1方向係数出力させ第1方向係数出力ステップと、前記学習によりあらかじめ求められた、前記複数の第2方向クラス毎の第2方向係数を予め記憶している第2の記憶部から、前記第2方向予測タップの第2方向クラスに対応する第2方向係数を出力させる第2方向係数出力ステップと、前記第1方向係数出力ステップで出力された前記第1方向係数、前記第2方向係数出力ステップで出力された前記第2方向係数、及び前記予測タップ抽出ステップで抽出された前記予測タップを用いた前記予測演算により、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する素を予測する予測演算ステップとを含み、前記予測演算ステップは、前記予測タップ抽出ステップが、前記予測タップとして、前記第1方向予測タップ及び前記第2方向予測タップを、前記第1の画像データから抽出するものである場合、前記予測演算として、前記第1方向予測タップと前記第1方向係数との積和演算、及び前記第2方向予測タップと前記第2方向係数との積和演算を行うことにより、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する画素を予測する画像処理方法、または画像処理をコンピュータに実行させるプログラムである。
本発明の第1の側面においては、記第2の画像データを構成する各画素のうち、前記第1の画像データの注目している画素である注目画素に対応する画素を予測する予測演算に用いる複数の画素である予測タップが、前記第1の画像データから出され、前記予測タップとして抽出された画素であって、所定の方向に並ぶ画素を表す所定方向予測タップのクラス分類に用いる複数の画素であるクラスタップが、前記第1の画像データから抽出され、前記予測タップとして抽出された画素であって、第1の方向に並ぶ画素を表す第1方向予測タップのクラス分類用とされる第1の前記クラスタップに基づいて、前記第1方向予測タップが、複数の第1方向クラスのいずれかの第1方向クラスにクラス分類され、前記予測タップとして抽出された画素であって、前記第1の方向とは異なる第2の方向に並ぶ画素を表す第2方向予測タップのクラス分類用とされる第2の前記クラスタップに基づいて、前記第2方向予測タップが、複数の第2方向クラスのいずれかの第2方向クラスにクラス分類され、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習によりあらかじめ求められた、前記複数の第1方向クラス毎の第1方向係数を予め記憶している第1の記憶部から、前記第1方向予測タップの第1方向クラスに対応する第1方向係数出力され前記学習によりあらかじめ求められた、前記複数の第2方向クラス毎の第2方向係数を予め記憶している第2の記憶部から、前記第2方向予測タップの第2方向クラスに対応する第2方向係数が出力され、出力された前記第1方向係数、出力された前記第2方向係数、及び抽出された前記予測タップを用いた前記予測演算により、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する素が予測される。なお、前記予測タップとして、前記第1方向予測タップ及び前記第2方向予測タップが、前記第1の画像データから抽出されるものである場合、前記予測演算として、前記第1方向予測タップと前記第1方向係数との積和演算、及び前記第2方向予測タップと前記第2方向係数との積和演算が行われることにより、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する画素が予測される。
本発明の第2の側面の学習装置は、第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置において、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、前記第1の係数を求める第1の学習手段と、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至第M’―1(M’は、2以上M以下の自然数)の係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像とする前記学習により、前記第M’の係数を求める第2乃至第Mの学習手段とを備え、前記第1乃至第Mの学習手段のうちの第m(mは1以上M以下の自然数)の学習手段は、前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する前記予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出手段と、前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出手段と、前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類手段と、前記クラス分類手段によりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第mの前記係数を演算する演算手段とを有する学習装置である
第2の側面の学習方法、またはプログラムは、第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置の学習方法、または第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習処理をコンピュータに実行させるプログラムにおいて、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、前記第1の係数を求める第1の学習ステップと、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至第M’―1(M’は、2以上M以下の自然数)の係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像とする前記学習により、前記第M’の係数を求める第2乃至第Mの学習ステップとを含み、前記第1乃至第Mの学習ステップのうちの第m(mは1以上M以下の自然数)の学習ステップは、前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する前記予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出ステップと、前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出ステップと、前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類ステップと、前記クラス分類ステップによりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第mの前記係数を演算する演算ステップとを含む学習方法、又は学習処理をコンピュータに実行させるプログラムである
本発明の第2の側面においては、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により前記第1の係数が求められ、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至第M’―1の係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像とする前記学習により前記第M’の係数が求められる。
本発明の第3の側面の学習装置は、第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を反復して、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置において、前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出手段と、前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出手段と、前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類手段と、前記クラス分類手段によりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第m(mは1以上M以下の自然数)の前記係数を演算する演算手段とを有する第1乃至第Mの学習手段を備え、前記第1乃至第Mの学習手段のうち第mの学習手段は、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、第mの係数を学習し、さらに、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至Mの係数のうち前記第mの係数を除く係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像として、前記第mの係数を学習する学習装置である
第3の側面の学習装置では、Mが3以上である場合、前記第1乃至Mの係数のうち前記第mの係数を除く係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分を弱めるように、前記第1乃至Mの係数のうち前記第mの係数を除く係数のゲインを調整する第mの係数調整手段をさらに設けることができ、前記第1乃至第Mの学習手段のうち前記第mの学習手段は、前記第1の画像データに相当する画像データを生徒画像とし、前記第mの係数調整手段によりゲインが調整された係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像として、前記第mの係数を学習させることができる。
本発明の第3の側面の学習方法、またはプログラムは、第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を反復して、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置の学習方法、または第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を反復して、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習処理をコンピュータに実行させるプログラムにおいて、前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出ステップと、前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出ステップと、前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類ステップと、前記クラス分類ステップによりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第m(mは1以上M以下の自然数)の前記係数を演算する演算ステップとを有する第1乃至第Mの学習ステップを含み、前記第1乃至第Mの学習ステップのうち第mの学習ステップは、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、第mの係数を学習し、さらに、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至Mの係数のうち前記第mの係数を除く係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像として、前記第mの係数を学習する学習方法、または学習処理をコンピュータに実行させるプログラムである
本発明の第3の側面においては、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、第mの係数が求められ、さらに、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至Mの係数のうち前記第mの係数を除く係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像として、前記第mの係数が学習される。
本発明の第1の側面によれば、係数の総数を抑えつつ、より高画質の画像を生成することができる。
また、本発明の第2および第3の側面によれば、係数の総数を抑えつつ、より高画質の画像を生成するための係数を生成することができる。
以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書又は図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書又は図面に記載されていることを確認するためのものである。従って、明細書又は図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
本発明の第1の側面の画像処理装置は、第1の画像データを第2の画像データに変換する画像処理装置(例えば、図2の画像変換部31)において、
記第2の画像データを構成する各画素のうち、前記第1の画像データの注目している画素である注目画素に対応する画素を予測する予測演算に用いる複数の画素である予測タップを、前記第1の画像データから出する予測タップ抽出手段(例えば、図2の水平予測タップ抽出部61及び垂直予測タップ抽出部65、又は図21の予測タップ抽出部368)と、
前記予測タップとして抽出された画素であって、所定の方向に並ぶ画素を表す所定方向予測タップのクラス分類に用いる複数の画素であるクラスタップを、前記第1の画像データから抽出するクラスタップ抽出手段(例えば、図2の水平クラスタップ抽出部62及び垂直クラスタップ抽出部66、又は図23のクラスタップ抽出部401)と、
前記予測タップとして抽出された画素であって、第1の方向に並ぶ画素を表す第1方向予測タップのクラス分類用とされる第1の前記クラスタップに基づいて、前記第1方向予測タップを、複数の第1方向クラスのいずれかの第1方向クラスにクラス分類する第1方向クラス分類手段(例えば、図2の水平クラス分類部63)と、
前記予測タップとして抽出された画素であって、前記第1の方向とは異なる第2の方向に並ぶ画素を表す第2方向予測タップのクラス分類用とされる第2の前記クラスタップに基づいて、前記第2方向予測タップを、複数の第2方向クラスのいずれかの第2方向クラスにクラス分類する第2方向クラス分類手段(例えば、図2の垂直クラス分類部67)と、
前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習によりあらかじめ求められた、前記複数の第1方向クラス毎の第1方向係数を予め記憶している第1の記憶部から、前記第1方向予測タップの第1方向クラスに対応する第1方向係数出力させ第1方向係数出力手段(例えば、図2の水平係数記憶部64)と、
前記学習によりあらかじめ求められた、前記複数の第2方向クラス毎の第2方向係数を予め記憶している第2の記憶部から、前記第2方向予測タップの第2方向クラスに対応する第2方向係数を出力させる第2方向係数出力手段(例えば、図2の垂直係数記憶部68)と、
前記第1方向係数出力手段から出力された前記第1方向係数、前記第2方向係数出力手段から出力された前記第2方向係数、及び前記予測タップ抽出手段により抽出された前記予測タップを用いた前記予測演算により、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する素を予測する予測演算手段(例えば、図2の予測演算部69、又は図21の予測演算部369)
を備え
前記予測演算手段は、
前記予測タップ抽出手段が、前記予測タップとして、前記第1方向予測タップ及び前記第2方向予測タップを、前記第1の画像データから抽出するものである場合(例えば、図2の水平予測タップ抽出部61及び垂直予測タップ抽出部65である場合)、
前記予測演算として、前記第1方向予測タップと前記第1方向係数との積和演算、及び前記第2方向予測タップと前記第2方向係数との積和演算を行うことにより、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する画素を予測する(例えば、図2の予測演算部69)
像処理装置である。
前記予測演算手段は、
前記予測タップ抽出手段が、前記予測タップとして、前記第1の方向及び前記第2の方向に並ぶ複数の画素を表す複数方向予測タップを、前記第1の画像データから抽出するものである場合(例えば、図21の予測タップ抽出部368である場合)、
前記予測演算として、前記第1方向係数及び前記第2方向係数を合成して得られる合成係数と、前記複数方向予測タップとの積和演算を行うことにより、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する画素を予測する(例えば、図21の予測演算部369)。
本発明の第1の側面の画像処理方法、またはプログラムは、第1の画像データを第2の画像データに変換する画像処理装置の画像処理方法、または第1の画像データを第2の画像データに変換する画像処理をコンピュータに実行させるプログラムにおいて、
記第2の画像データを構成する各画素のうち、前記第1の画像データの注目している画素である注目画素に対応する画素を予測する予測演算に用いる複数の画素である予測タップを、前記第1の画像データから出する予測タップ抽出ステップ(例えば、図5のステップS61及び図6のステップS91)と、
前記予測タップとして抽出された画素であって、所定の方向に並ぶ画素を表す所定方向予測タップのクラス分類に用いる複数の画素であるクラスタップを、前記第1の画像データから抽出するクラスタップ抽出ステップ(例えば、図5のステップS62及び図6のステップS92)と、
前記予測タップとして抽出された画素であって、第1の方向に並ぶ画素を表す第1方向予測タップのクラス分類用とされる第1の前記クラスタップに基づいて、前記第1方向予測タップを、複数の第1方向クラスのいずれかの第1方向クラスにクラス分類する第1方向クラス分類ステップ(例えば、図5のステップS63)と、
前記予測タップとして抽出された画素であって、前記第1の方向とは異なる第2の方向に並ぶ画素を表す第2方向予測タップのクラス分類用とされる第2の前記クラスタップに基づいて、前記第2方向予測タップを、複数の第2方向クラスのいずれかの第2方向クラスにクラス分類する第2方向クラス分類ステップ(例えば、図6のステップS93)と、
前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習によりあらかじめ求められた、前記複数の第1方向クラス毎の第1方向係数を予め記憶している第1の記憶部から、前記第1方向予測タップの第1方向クラスに対応する第1方向係数出力させ第1方向係数出力ステップ(例えば、図5のステップS64)と、
前記学習によりあらかじめ求められた、前記複数の第2方向クラス毎の第2方向係数を予め記憶している第2の記憶部から、前記第2方向予測タップの第2方向クラスに対応する第2方向係数を出力させる第2方向係数出力ステップ(例えば、図6のステップS94)と、
前記第1方向係数出力ステップで出力された前記第1方向係数、前記第2方向係数出力ステップで出力された前記第2方向係数、及び前記予測タップ抽出ステップで抽出された前記予測タップを用いた前記予測演算により、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する素を予測する予測演算ステップ(例えば、図4のステップS34、図5のステップS65、図6のステップS95およびステップS96)
を含み、
前記予測演算ステップは、
前記予測タップ抽出ステップが、前記予測タップとして、前記第1方向予測タップ及び前記第2方向予測タップを、前記第1の画像データから抽出するものである場合、
前記予測演算として、前記第1方向予測タップと前記第1方向係数との積和演算、及び前記第2方向予測タップと前記第2方向係数との積和演算を行うことにより、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する画素を予測する
画像処理方法、又は画像処理をコンピュータに実行させるプログラムである。
本発明の第2の側面の学習装置は、第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置(例えば、図10の2段差分学習部151)において、
前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、前記第1の係数を求める第1の学習手段(例えば、図10の水平タップ学習部161)と、
前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至第M’―1(M’は、2以上M以下の自然数)の係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像とする前記学習により、前記第M’の係数を求める第2乃至第Mの学習手段(例えば、図10の垂直タップ差分学習部163)と
を備え、
前記第1乃至第Mの学習手段のうちの第m(mは1以上M以下の自然数)の学習手段(例えば、図10の水平タップ学習部161や、垂直タップ差分学習部163)は、
前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する前記予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出手段(例えば、図8の予測タップ抽出部133や、図11の垂直予測タップ抽出部1133)と、
前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出手段(例えば、図8のクラスタップ抽出部134や、図11の垂直クラスタップ抽出部1134)と、
前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類手段(例えば、図8のクラス分類部135や、図11の垂直クラス分類部1135)と、
前記クラス分類手段によりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第mの前記係数を演算する演算手段(例えば、図8の足し込み部136および係数算出部137や、図11の足し込み部1136および係数算出部1137)と
を有する学習装置である
本発明の第2の側面の学習方法、またはプログラムは、第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置の学習方法、または第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習処理をコンピュータに実行させるプログラムにおいて、
前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、前記第1の係数を求める第1の学習ステップ(例えば、図12のステップS171)と、
前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至第M’―1(M’は、2以上M以下の自然数)の係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像とする前記学習により、前記第M’の係数を求める第2乃至第Mの学習ステップ(例えば、図12のステップS173)と
を含み、
前記第1乃至第Mの学習ステップのうちの第m(mは1以上M以下の自然数)の学習ステップ(例えば、図12のステップS171や、ステップS173)は、
前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する前記予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出ステップ(例えば、図9のステップS123や、図13のステップS204)と、
前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出ステップ(例えば、図9のステップS124や、図13のステップS205)と、
前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類ステップ(例えば、図9のステップS125や、図13のステップS206)と、
前記クラス分類ステップによりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第mの前記係数を演算する演算ステップ(例えば、図9のステップS126およびステップS128や、図13のステップS207およびステップS209)と
を含む学習方法、又は学習処理をコンピュータに実行させるプログラムである。
本発明の第3の側面の学習装置は、第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を反復して、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置(例えば、図14の2段反復学習部271)において、
前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出手段(例えば、図8の予測タップ抽出部133や、図15の水平予測タップ抽出部2133)と、
前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出手段(例えば、図8のクラスタップ抽出部134や、図15の水平クラスタップ抽出部2134)と、
前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類手段(例えば、図8のクラス分類部135や、図15の水平クラス分類部2135)と、
前記クラス分類手段によりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第m(mは1以上M以下の自然数)の前記係数を演算する演算手段(例えば、図8の足し込み部136および係数算出部137や、図15の足し込み部2136および係数算出部2137)と
を有する第1乃至第Mの学習手段
を備え、
前記第1乃至第Mの学習手段のうち第mの学習手段は、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、第mの係数を学習し、
さらに、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至Mの係数のうち前記第mの係数を除く係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像として、前記第mの係数を学習する学習装置である
第3の側面の学習装置では、Mが3以上である場合、前記第1乃至Mの係数のうち前記第mの係数を除く係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分を弱めるように、前記第1乃至Mの係数のうち前記第mの係数を除く係数のゲインを調整する第mの係数調整手段(例えば、図41のボリューム操作部811や、ボリューム操作部812、ボリューム操作部813)をさらに備え、
前記第1乃至第Mの学習手段のうち前記第mの学習手段は、前記第1の画像データに相当する画像データを生徒画像とし、前記第mの係数調整手段によりゲインが調整された係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像として、前記第mの係数を学習する。
本発明の第3の側面の学習方法、またはプログラムは、第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を反復して、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置の学習方法、または第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を反復して、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習処理をコンピュータに実行させるプログラムにおいて、
前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出ステップ(例えば、図9のステップS123や、図17のステップS274)と、
前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出ステップ(例えば、図9のステップS124や、図17のステップS275)と、
前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類ステップ(例えば、図9のステップS125や、図17のステップS276)と、
前記クラス分類ステップによりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第m(mは1以上M以下の自然数)の前記係数を演算する演算ステップ(例えば、図9のステップS126およびステップS128や、図17のステップS277およびステップS279)と
を有する第1乃至第Mの学習ステップ
を含み、
前記第1乃至第Mの学習ステップのうち第mの学習ステップは、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、第mの係数を学習し、
さらに、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至Mの係数のうち前記第mの係数を除く係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像として、前記第mの係数を学習する学習方法、又は学習処理をコンピュータに実行させるプログラムである
以下、図を参照して、本発明の実施の形態について説明する。
図1は、本発明を適用した画像変換部の一実施の形態の構成例を示すブロック図である。
画像変換部31は、第1の画像データを第2の画像データに変換する画像変換処理を行う。
ここで、画像変換部31で行われる画像変換処理によれば、第1および第2の画像データをどのように定義するかによって、様々な処理を実現することができる。
即ち、例えば、第2の画像データを高解像度の画像データとするとともに、第1の画像データを、第2の画像データの解像度を低下させた低解像度の画像データとすれば、画像変換処理は、解像度を向上させる解像度向上処理ということができる。また、例えば、第2の画像データを高S/N(Signal/Noise)の画像データとするとともに、第1の画像データを、第2の画像データのS/Nを低下させた低S/Nの画像データとすれば、画像変換処理は、ノイズを除去するノイズ除去処理ということができる。さらに、例えば、第2の画像データをHD画像データとするとともに、第1の画像データを、第2の画像データの画素数と解像度を小さくしたSD画像データとすれば、画像変換処理は、SD画像をHD画像に変換する処理ということができる。
以下、第2の画像データを高S/Nの画像データ(以下、適宜、ノイズ除去画像という。)とし、第1の画像データを、第2の画像データのS/Nを低下させた低S/Nの画像データ(以下、適宜、ノイズ画像という。)として、図1の画像変換部31における画像変換処理を説明する。
図2は、図1の画像変換部31の第1の構成例を示すブロック図である。
画像変換部31は、水平予測タップ抽出部61、水平クラスタップ抽出部62、水平クラス分類部63、水平係数記憶部64、垂直予測タップ抽出部65、垂直クラスタップ抽出部66、垂直クラス分類部67、垂直係数記憶部68、および予測演算部69により構成される。
画像変換部31には、例えば、チューナで受信された放送番組のノイズ画像や、記録媒体から再生されるノイズ画像が供給される。そして、ノイズ画像は、水平予測タップ抽出部61、水平クラスタップ抽出部62、垂直予測タップ抽出部65、および垂直クラスタップ抽出部66に供給される。
水平予測タップ抽出部61は、そこに供給されたノイズ画像を構成する画素を、例えば、いわゆるラスタスキャン順に、順次、注目画素とする。さらに、水平予測タップ抽出部61は、注目画素に対応する、ノイズ画像を変換して得ようとするノイズ除去画像の画素の画素値を予測する予測演算に用いる複数の画素(の画素値)である水平予測タップを、ノイズ画像から抽出する。
即ち、水平予測タップ抽出部61は、例えば、図2中央に示される水平方向に並ぶ、注目画素を中心とする複数の画素の水平方向のタップ41を、水平予測タップとして抽出する。ここで、図2では、図2中央に白丸で示す注目画素の右に隣接する、黒丸で示す4個の画素、注目画素の左に隣接する、黒丸で示す4個の画素、および注目画素の、水平方向に並ぶ9個の画素が、水平方向のタップ41として示されている。
水平予測タップ抽出部61は、ノイズ画像から抽出した水平予測タップを予測演算部69に供給する。
水平クラスタップ抽出部62は、水平予測タップ抽出部61により抽出された水平予測タップを、複数の水平クラスのうちのいずれかの水平クラスにクラス分けする水平クラス分類に用いる複数の画素である水平クラスタップを、供給されてくるノイズ画像から抽出する。
即ち、水平クラスタップ抽出部62は、例えば、図2中央に示される水平方向に並ぶ、9画素のである水平方向のタップ41を、水平クラスタップとして抽出する。
なお、ここでは、説明を簡単にするために、水平予測タップと水平クラスタップとは、同一のタップ構造(注目画素に対する位置関係)を有する複数の画素とする。但し、水平予測タップと水平クラスタップとは、異なるタップ構造の複数の画素とすることができる。
水平クラスタップ抽出部62において得られる、水平予測タップに対応する水平クラスタップは、水平クラス分類部63に供給される。水平クラス分類部63は、水平クラスタップ抽出部62からの水平クラスタップに基づいて水平予測タップを水平クラス分類し、その結果得られた水平クラスに対応する水平クラスコードを、水平係数記憶部64に出力する。
ここで、水平クラス分類を行う方法としては、例えば、ADRC(Adaptive Dynamic Ra
nge Coding)等を採用することができる。
ADRCを用いる方法では、水平クラスタップを構成する画素の画素値が、ADRC処理され、その結果得られたADRCコードにしたがって、水平予測タップの水平クラスが決定される。
なお、KビットADRCにおいては、例えば、水平クラスタップを構成する画素の画素値の最大値MAXと最小値MINが検出され、DR=MAX-MINを、水平クラスタップを構成する画素の集合の局所的なダイナミックレンジとし、このダイナミックレンジDRに基づいて、水平クラスタップを構成する画素(の画素値)がKビットに再量子化される。即ち、水平クラスタップを構成する各画素の画素値から、最小値MINが減算され、その減算値がDR/2Kで除算(量子化)される。そして、以上のようにして得られる、水平クラスタップを構成するKビットの各画素の画素値を、所定の順番で並べたビット列が、ADRCコードとして出力される。従って、水平クラスタップが、例えば、1ビットADRC処理された場合には、その水平クラスタップを構成する各画素の画素値は、最小値MINが減算された後に、最大値MAXと最小値MINとの差の1/2で除算され(小数点以下切り捨て)、これにより、各画素の画素値が1ビットとされる(2値化される)。そして、その1ビットの画素値を所定の順番で並べたビット列が、ADRCコードとして出力される。
なお、水平クラス分類部63には、例えば、水平クラスタップを構成する画素の画素値のレベル分布のパターンを、そのまま水平クラスコードとして出力させることも可能である。しかしながら、この場合、水平クラスタップが、N個の画素の画素値で構成され、各画素の画素値に、Kビットが割り当てられているとすると、水平クラス分類部63が出力する水平クラスコードの場合の数は、(2NK通りとなり、画素の画素値のビット数Kに指数的に比例した膨大な数となる。
従って、水平クラス分類部63においては、水平クラスタップの情報量を、上述のADRC処理や、あるいはベクトル量子化等によって圧縮して、水平クラス分類を行うのが好ましい。
水平係数記憶部64は、後述する学習によってあらかじめ求められた水平クラスごとの水平係数のセットを記憶しており、その記憶している水平係数のセットのうちの、水平クラス分類部63から供給された水平クラスコードに対応するアドレスに記憶されている水平係数(水平クラス分類部63から供給された水平クラスコードが表す水平クラスに対応する水平係数)を、予測演算部69に出力する。
垂直予測タップ抽出部65は、注目画素に対応する、ノイズ画像を変換して得ようとするノイズ除去画像の画素の画素値を予測する予測演算に用いる複数の画素(の画素値)である垂直予測タップを、供給されてくるノイズ画像から抽出する。
即ち、垂直予測タップ抽出部65は、例えば、図2右側に示される垂直方向に並ぶ、注目画素を中心とする複数の画素の垂直方向のタップ42を、垂直予測タップとして抽出する。ここで、図2では、図2右側に白丸で示す注目画素の上に隣接する、黒丸で示す4個の画素、注目画素の下に隣接する、黒丸で示す4個の画素、および注目画素の、垂直方向に並ぶ9個の画素が垂直方向のタップ42として示されている。
垂直予測タップ抽出部65は、ノイズ画像から抽出した垂直予測タップを予測演算部69に供給する。
垂直クラスタップ抽出部66は、垂直予測タップ抽出部65により抽出された垂直予測タップを、複数の垂直クラスのうちのいずれかの垂直クラスにクラス分けする垂直クラス分類に用いる複数の画素(の画素値)である垂直クラスタップを、供給されてくるノイズ画像から抽出する。
即ち、垂直クラスタップ抽出部66は、例えば、図2右側に示される垂直方向に並ぶ9画素である垂直方向のタップ42を、垂直クラスタップとして抽出する。
なお、ここでは、説明を簡単にするために、垂直予測タップと垂直クラスタップとは、同一のタップ構造(注目画素に対する位置関係)を有する複数の画素とする。但し、垂直予測タップと垂直クラスタップとは、異なるタップ構造の複数の画素とすることができる。
垂直クラスタップ抽出部66において得られる、垂直予測タップに対応する垂直クラスタップは、垂直クラス分類部67に供給される。垂直クラス分類部67は、垂直クラスタップ抽出部66からの垂直クラスタップに基づいて垂直予測タップを垂直クラス分類し、その結果得られた垂直クラスに対応する垂直クラスコードを、垂直係数記憶部68に出力する。
ここで、垂直クラス分類を行う方法としては、例えば、上述した水平クラス分類部63で行われる水平クラス分類と同様の方法を採用することができる。
垂直係数記憶部68は、後述する学習によってあらかじめ求められた垂直クラスごとの垂直係数のセットを記憶しており、その記憶している垂直係数のセットのうちの、垂直クラス分類部67から供給された垂直クラスコードに対応するアドレスに記憶されている垂直係数(垂直クラス分類部67から供給された垂直クラスコードが表す垂直クラスに対応する垂直係数)を、予測演算部69に出力する。
予測演算部69は、水平予測タップ抽出部61から供給された水平予測タップ、垂直予測タップ抽出部65から供給された垂直予測タップ、水平係数記憶部64から供給された水平係数、および垂直係数記憶部68から供給された垂直係数に基づいて、所定の予測演算を行うことにより、注目画素に対応する、ノイズ除去画像の画素の画素値(の予測値)を求めて出力する。
ここで、予測演算部69で行われる予測演算には、例えば、水平予測タップと水平係数とにより水平処理画像を求める水平予測演算、垂直予測タップと垂直係数とにより垂直処理画像を求める垂直予測演算、水平予測演算により求められた水平処理画像の画素値と垂直予測演算により求められた垂直処理画像の画素値とを加算する加算演算、および加算演算の演算結果のゲインを調整するゲイン調整演算が含まれる。
以下、水平予測演算、垂直予測演算、加算演算、およびゲイン調整演算の順番で説明する。
水平予測タップと水平係数とを用いた水平予測演算として、例えば、線形1次予測演算を採用し、水平処理画像の画素(以下、適宜、水平画素という)の画素値Hを求めることとすると、水平画素の画素値Hは、次の線形1次式によって求められることになる。
Figure 0005029869
・・・(1)
但し、式(1)において、xnは、注目画素に対応する水平画素(ノイズ画像の注目画素と同一の位置にある水平処理画像の画素)についての水平予測タップを構成する複数の、ノイズ画像の画素(以下、適宜、ノイズ画素という)のうちのn番目の画素の画素値を表している。ここで、例えば、水平予測タップが図2に示した水平方向に並ぶ9画素である水平方向のタップ41とすると、n番目のノイズ画素の画素値とは、水平方向のタップ41に付された番号nに対応するノイズ画素の画素値を示している。なお、x1は、注目画素の画素値を表している。
また、wnは、n番目のノイズ画素の画素値と乗算される水平係数を表す。なお、式(1)では、水平予測タップが、N個のノイズ画素x1,・・・,xNで構成されるものとしている。
従って、水平予測演算により求められる水平画素の画素値Hは、w11+w22+・・・+wN-1N-1+wNN={(w1−1)x1+w22+・・・+wN-1N-1+wNN}+x1となり、h={(w1−1)x1+w22+・・・+wN-1N-1+wNN}とすれば、H=h+x1となる。
ここで、hは、水平予測演算により求められた水平画素の画素値Hからノイズ画素の注目画素の画素値x1を差し引くことで得られる差分の画素値を表す。従って、hを、以下、適宜、水平差分hという。
水平差分hを導入することにより、水平画素の画素値Hは、ノイズ画素の注目画素の画素値x1に水平差分hを加算することで得られる画素値と考えることができる。そして、水平画素は、水平予測演算により、ノイズ画素(の画素値)に含まれるノイズが除去された画素であるから、水平差分hは、いわば、水平係数wnと水平予測タップの画素値xnとを用いた水平予測演算による、ノイズの除去の効果分(以下、適宜、水平処理効果分という)であるということができる。
垂直予測タップと垂直係数とを用いた垂直予測演算として、例えば、線形1次予測演算を採用し、垂直処理画像の画素(以下、適宜、垂直画素という)の画素値Vを求めることとすると、垂直画素の画素値Vは、次の線形1次式によって求められることになる。
Figure 0005029869
・・・(2)
但し、式(2)において、x’nは、注目画素に対応する垂直画素(ノイズ画像の注目画素と同一の位置にある垂直処理画像の画素)についての垂直予測タップを構成する複数のノイズ画素のうちのn番目の画素の画素値を表している。ここで、例えば、垂直予測タップが、図2に示した垂直方向に並ぶ9画素である垂直方向のタップ42とすると、n番目のノイズ画素の画素値とは、垂直方向のタップ42に付された番号nに対応するノイズ画素の画素値を示している。なお、x’1は、注目画素の画素値を表しており、注目画素の画素値であるx1と同一であるため、以下、x1ともいう。
また、w’nは、n番目のノイズ画素の画素値と乗算される垂直係数を表す。なお、式(2)では、垂直予測タップが、N個のノイズ画素x’1,・・・,x’Nで構成されるものとしている。
従って、垂直予測演算により求められる垂直画素の画素値Vは、w’11+w’2x’2+・・・+w’N-1x’N-1+w’Nx’N={(w’1−1)x1+w’2x’2+・・・+w’N-1x’N-1+w’Nx’N}+x1となり、v={(w’1−1)x1+w’2x’2+・・・+w’N-1x’N-1+w’Nx’N}とすれば、V=v+x1となる。
ここで、vは、垂直予測演算により求められた垂直画素の画素値Vからノイズ画素の注目画素の画素値x1を差し引くことで得られる差分の画素値を表す。従って、vを、以下、適宜、垂直差分vという。
垂直差分vを導入することにより、垂直画素の画素値Vは、ノイズ画素の注目画素の画素値x1に垂直差分vを加算することで得られる画素値と考えることができる。そして、垂直画素は、垂直予測演算により、ノイズ画素(の画素値)に含まれるノイズが除去された画素であるから、垂直差分vは、いわば、垂直係数w’nと垂直予測タップの画素値x’nとを用いた垂直予測演算による、ノイズの除去の効果分(以下、適宜、垂直処理効果分という)であるということができる。
次に、加算演算では、水平予測演算により求められた水平画素の画素値H=h+x1と、垂直予測演算により求められた垂直画素の画素値V=v+x1とを加算することで画素値H+V=h+v+2x1を得る。
画素値H+Vは、ノイズ画素の画素値x1に水平差分hと垂直差分vとを加算し、さらに、ノイズ画素の画素値x1を加算した値となっており、ノイズ画素の画素値x1が2重に加算された値となっている。
そこで、ゲイン調整演算では、画素値H+Vから、2重に加算されたノイズ画素の画素値x1を差し引くことにより画素値H+V―x1=h+v+x1を得る。予測演算部69による予測演算では、この画素値H+V―x1=h+v+x1が、注目画素に対応する、ノイズ除去画像の画素の画素値として求められる。
従って、予測演算では、注目画素に対応する、ノイズ除去画像の画素の画素値yが、式(3)にしたがって求められる。
y=w11+w22+・・・+wNN+w’11+w’2x’2+・・・+w’Nx’N−x1
・・・(3)
なお、式(3)から、注目画素に対応する、ノイズ除去画像の画素の画素値yは、式y=H+(V−x1)=h+x1+(v+x1−x1)=h+v+x1によって求めることもできる。
図3は、図2の予測演算部69の構成例を示すブロック図である。
図2の予測演算部69は、水平予測演算部101、垂直予測演算部102、ゲイン調整部103、および加算部104により構成される。
水平予測演算部101には、水平係数記憶部64からの水平係数wnと、水平予測タップ抽出部61からの水平予測タップxnとが供給される。
水平予測演算部101は、水平係数記憶部64からの水平係数wnと、水平予測タップ抽出部61からの水平予測タップxnとを用いた水平予測演算を行い、その結果得られた水平画素の画素値Hを、加算部104に供給する。
垂直予測演算部102には、垂直係数記憶部68からの垂直係数w’nと、垂直予測タップ抽出部65からの垂直予測タップx’nとが供給される。
垂直予測演算部102は、垂直係数記憶部68からの垂直係数w’nと、垂直予測タップ抽出部65からの垂直予測タップx’nとを用いた垂直予測演算を行い、その結果得られた垂直画素の画素値Vを、ゲイン調整部103に供給する。
ゲイン調整部103には、垂直予測タップ抽出部65から、注目画素の画素値x1が供給される。
ゲイン調整部103は、垂直予測演算部102から供給された画素値Vから、垂直予測タップ抽出部65から供給された注目画素の画素値x1を差し引くことで、ゲイン調整演算を行い、その結果得られた画素値である垂直差分vを加算部104に供給する。
加算部104は、水平予測演算部101から供給された水平画素の画素値H=h+x1と、ゲイン調整部103から供給された垂直差分vとを加算し、その結果得られた画素値h+v+x1を、ノイズ除去画像を予測した画素値yとして出力する。
ここで、図3の水平予測タップ抽出部61、水平クラスタップ抽出部62、水平クラス分類部63、水平係数記憶部64、および水平予測演算部101を総称して水平マッピング部71といい、その水平マッピング部71が、水平係数を用いて、順次、注目画素とされるノイズ画素の画素値x1を、水平画素の画素値Hに変換する処理を、以下、適宜、水平マッピング処理という。
また、水平画素の画素値Hは、水平処理画像の画素値を示すものであるため、以下、単に、水平処理画像Hともいう。さらに、ノイズ画素の画素値x1は、ノイズ画像の画素値を示すものであるため、以下、単に、ノイズ画像x1ともいう。
さらに、図3の垂直予測タップ抽出部65、垂直クラスタップ抽出部66、垂直クラス分類部67、垂直係数記憶部68、および垂直予測演算部102を総称して垂直マッピング部72といい、その垂直マッピング部72が、垂直係数を用いて、順次、注目画素とされるノイズ画素の画素値x1を、垂直画素の画素値Vに変換する処理を、以下、適宜、垂直マッピング処理という。
また、図3の垂直予測タップ抽出部65、垂直クラスタップ抽出部66、垂直クラス分類部67、垂直係数記憶部68、垂直予測演算部102、およびゲイン調整部103を総称して垂直差分マッピング部73といい、その垂直差分マッピング部73が、垂直係数を用いて、順次、注目画素とされるノイズ画素の画素値x1を、垂直差分vに変換する処理を、以下、適宜、垂直差分マッピング処理という。
また、垂直画素の画素値Vは、垂直処理画像の画素値を示すものであるため、以下、単に、垂直処理画像Vともいう。
次に、図4のフローチャートを参照して、図2の画像変換部31における画像変換処理を説明する。
この画像変換処理は、例えば、チューナで受信された放送番組のノイズ画像や、記録媒体から再生されるノイズ画像が、画像変換部31に供給されたときに開始される。このとき、水平予測タップ抽出部61、水平クラスタップ抽出部62、垂直予測タップ抽出部65、および垂直クラスタップ抽出部66には、ノイズ画像が供給される。
ステップS31において、水平マッピング部71の水平予測タップ抽出部61は、そこに供給されたノイズ画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とし、処理は、ステップS32に進む。
ステップS32において、水平マッピング部71は、注目画素について水平マッピング処理を行い、その結果得られた水平処理画像Hを、加算部104に供給して、処理は、ステップS33に進み、垂直差分マッピング部73は、注目画素について垂直差分マッピング処理を行い、その結果得られた垂直差分vを、加算部104に供給して、処理は、ステップS34に進む。
ステップS34において、加算部104は、水平マッピング部71からの水平処理画像Hと、垂直差分マッピング部73からの垂直差分vとを加算し、注目画素に対応する、ノイズ除去画像の画素の画素値y=H+vを得て出力する。
その後、処理は、ステップS34からステップS35に進み、水平マッピング部71の水平予測タップ抽出部61は、まだ注目画素とされていないノイズ画像の画素が存在するか否かを判定する。
ステップS35において、まだ注目画素とされていないノイズ画素が存在すると判定された場合、処理は、ステップS31に戻り、水平マッピング部71の水平予測タップ抽出部61は、まだ注目画素とされていないノイズ画素のうちの1つを、新たな注目画素とし、処理は、ステップS32に進み、以下、同様の処理を繰り返す。
一方、ステップS35において、まだ注目画素とされていないノイズ画素が存在しないと判定された場合、画像変換処理は終了される。
次に、図5のフローチャートを参照して、図4のステップS32における水平マッピング処理の詳細を説明する。
ステップS61において、水平マッピング部71の水平予測タップ抽出部61は、水平予測タップ、即ち、例えば、注目画素を中心として水平方向に並ぶ9画素である水平方向のタップ41を、供給されてくるノイズ画像から抽出し、予測演算部69(図3の水平予測演算部101)に供給する。
処理は、ステップS61からステップS62に進み、水平マッピング部71の水平クラスタップ抽出部62は、水平クラスタップ、即ち、例えば、注目画素を中心として水平方向に並ぶ9画素である水平方向のタップ41を、供給されてくるノイズ画像から抽出し、水平クラス分類部63に供給する。
処理は、ステップS62からステップS63に進み、水平マッピング部71の水平クラス分類部63は、水平クラスタップ抽出部62からの水平クラスタップに基づき、水平予測タップを水平クラス分類し、その結果得られた水平クラスに対応する水平クラスコードを、水平係数記憶部64に出力する。
処理は、ステップS63からステップS64に進み、水平マッピング部71の水平係数記憶部64は、後述する学習によってあらかじめ求められた水平クラスごとの水平係数のセットのうちの、水平クラス分類部63から供給された水平クラスコードに対応するアドレスに記憶されている水平係数wnを、予測演算部69(図3の水平予測演算部101)に出力する。
処理は、ステップS64からステップS65に進み、水平マッピング部71の水平予測演算部101は、水平係数記憶部64からの水平係数wnと、水平予測タップ抽出部61からの水平予測タップxnとを用いた水平予測演算を行い、その結果得られた水平処理画像Hを、加算部104に供給し、その後、処理は、図4のステップS32にリターンして、その後の処理を行う。
次に、図6のフローチャートを参照して、図4のステップS33における垂直差分マッピング処理の詳細を説明する。
ステップS91において、垂直差分マッピング部73の垂直予測タップ抽出部65は、垂直予測タップ、即ち、例えば、注目画素を中心として垂直方向に並ぶ9画素である垂直方向のタップ42を、供給されてくるノイズ画像から抽出し、予測演算部69(図3の垂直予測演算部102)に供給する。
処理は、ステップS91からステップS92に進み、垂直差分マッピング部73の垂直クラスタップ抽出部66は、垂直クラスタップ、即ち、例えば、注目画素を中心として垂直方向に並ぶ9画素である垂直方向のタップ42を、供給されてくるノイズ画像から抽出し、垂直クラス分類部67に供給する。
処理は、ステップS92からステップS93に進み、垂直差分マッピング部73の垂直クラス分類部67は、垂直クラスタップ抽出部66からの垂直クラスタップに基づき、垂直予測タップを垂直クラス分類し、その結果得られた垂直クラスに対応する垂直クラスコードを、垂直係数記憶部68に出力する。
処理は、ステップS93からステップS94に進み、垂直差分マッピング部73の垂直係数記憶部68は、後述する学習によってあらかじめ求められた垂直クラスごとの垂直係数のセットのうちの、垂直クラス分類部67から供給された垂直クラスコードに対応するアドレスに記憶されている垂直係数w’nを、予測演算部69(図3の垂直予測演算部102)に出力する。
処理は、ステップS94からステップS95に進み、垂直差分マッピング部73の垂直予測演算部102は、垂直係数記憶部68からの垂直係数w’nと、垂直予測タップ抽出部65からの垂直予測タップx’nとを用いた垂直予測演算を行い、その結果得られた垂直処理画像Vを、ゲイン調整部103に供給する。
処理は、ステップS95からステップS96に進み、ゲイン調整部103は、垂直予測演算部102から供給された垂直処理画像Vから、垂直予測タップ抽出部65から供給された注目画素の画素値x1を差し引くことで、ゲイン調整演算を行い、その結果得られた画素値である垂直差分vを加算部104に供給する。なお、ゲイン調整部103には、垂直予測タップ抽出部65から、ノイズ画像の注目画素の画素値x1が供給される。
その後、処理はステップS96から図4のステップS33にリターンして、その後の処理を行う。
以上のような図2の画像変換部31では、水平予測タップの水平クラスに対応する水平係数と、垂直予測タップの垂直クラスに対応する垂直係数との2つの係数を用いて、所定の予測演算を行うこととしたので、いわば、実質的なクラスの総数は、水平クラスの総数と垂直クラスの総数との和よりも大にすることができる。
即ち、例えば、水平クラスの総数が10クラスであり、垂直クラスの総数が10クラスであるとき、図2の画像変換部31では、水平予測タップの水平クラスに対応する水平係数と、垂直予測タップの垂直クラスに対応する垂直係数との2セットの係数を用いて、所定の予測演算を行うので、所定の予測演算で用いられる水平係数と垂直係数との係数セットの組み合わせは、水平クラスの総数である10クラスと、垂直クラスの総数である10クラスとの組み合わせである10×10=100セットとなる。
従って、水平クラスと垂直クラスとの総数が20クラスであるのに対して、所定の予測演算に用いられる係数セットは100セットであるので、水平クラスと垂直クラスによってクラス分類し得る実質的なクラスは100クラスとなる。
以上のように、水平係数と垂直係数の総数は、20セットであるのに対して、実質的なクラスの総数は100クラスであるため、水平係数記憶部64と垂直係数記憶部68を構成するメモリの容量を大きくすることなく、画像変換処理による注目画素に対応する、ノイズ除去画像の画素の画素値yの予測の精度を高めることができる。
次に、後の説明を簡単にするために、水平係数を用いて、順次、注目画素とされるノイズ画素の画素値x1を、水平差分hに変換する水平差分マッピング処理を行う水平差分マッピング部を説明する。
即ち、図7は、水平差分マッピング処理を行う水平差分マッピング部111の構成例を示すブロック図である。
なお、図中、図3の水平マッピング部71の場合に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。
即ち、図7の水平差分マッピング部111は、新たにゲイン調整部112が設けられているほかは、図3の水平マッピング部71の場合と同様に構成されている。
ゲイン調整部112には、水平予測タップ抽出部61から、ノイズ画像の注目画素の画素値x1が供給されるとともに、水平予測演算部101から、水平処理画像H=h+x1が供給される。
ゲイン調整部112は、水平予測演算部101から供給された水平処理画像H=h+x1から、水平予測タップ抽出部61から供給されたノイズ画像の注目画素の画素値x1を差し引き、その結果得られた水平差分hを出力する。
次に、ノイズ画像から、ノイズ除去画像を予測するのに用いる水平係数wnを学習する(求める)方法を説明する。
第kサンプルのノイズ除去画像の画素(以下、適宜、ノイズ除去画素という)の画素値の真値をykと表すとともに、式(1)による水平予測演算よって得られる、その真値ykの予測値、つまり、水平処理画像の画素の画素値Hをyk'と表すと、その予測誤差ekは、次式で表される。
Figure 0005029869
・・・(4)
いま、式(4)の予測値yk'は、式(1)にしたがって求められるため、式(4)のyk'を、式(1)にしたがって置き換えると、次式が得られる。
Figure 0005029869
・・・(5)
但し、式(5)において、xn,kは、第kサンプルのノイズ除去画素についての水平予測タップを構成するn番目のノイズ画素を表す。
式(5)(または式(4))の予測誤差ekを0とする水平係数wnが、ノイズ除去画素を予測するのに最適なものとなるが、すべてのノイズ除去画素について、そのような水平係数wnを求めることは、一般には困難である。
そこで、水平係数wnが最適なものであることを表す規範として、例えば、最小自乗法を採用することとすると、最適な水平係数wnは、次式で表される自乗誤差の総和Eを最小にすることで求めることができる。
Figure 0005029869
・・・(6)
但し、式(6)において、Kは、ノイズ除去画素(の画素値)ykと、そのノイズ除去画素ykについての水平予測タップを構成するノイズ画素x1,k,x2,k,・・・,xN,kとのセットのサンプル数(学習用のサンプルの数)を表す。
式(6)の自乗誤差の総和Eの最小値(極小値)は、式(7)に示すように、総和Eを水平係数wnで偏微分したものを0とするwnによって与えられる。
Figure 0005029869
・・・(7)
一方、上述の式(5)を水平係数wnで偏微分すると、次式が得られる。
Figure 0005029869
・・・(8)
式(7)と式(8)から、次式が得られる。
Figure 0005029869
・・・(9)
式(9)のekに、式(5)を代入することにより、式(9)は、式(10)に示す正規方程式で表すことができる。
Figure 0005029869
・・・(10)
式(10)の正規方程式は、例えば、掃き出し法(Gauss-Jordanの消去法)などを用いることにより、水平係数wnについて解くことができる。
即ち、画像変換処理の対象となるノイズ画像などに相当する画像である生徒画像と、画像変換処理によって求められるノイズ除去画像などの、ノイズ画像よりも高画質の真値の画像である教師画像との多数のセットを、学習に用いる学習用のサンプルとして用い、式(10)の正規方程式を、クラスごとにたてて解くことにより、水平係数(ここでは、自乗誤差の総和Eを最小にする水平係数)wnを、水平クラスごとに求めることができる。
次に、図8を参照して、式(10)の正規方程式を水平クラスごとにたてて解くことにより水平係数wnを求める学習を行う学習部121を説明する。
図8は、水平係数wnを求める学習を行う学習部121の構成例を示すブロック図である。
図8の学習部121は、原画像記憶部131、ノイズ付加部132、予測タップ抽出部133、クラスタップ抽出部134、クラス分類部135、足し込み部136、および係数算出部137により構成される。
原画像記憶部131には、ノイズ画像からノイズを除去したノイズ除去画像に相当する画像が多数、記憶されている。
ノイズ付加部132は、原画像記憶部131に記憶されている画像(以下、適宜、原画像という)を読み出し、その原画像にノイズを付加することでノイズ画像に相当する画像を、生徒画像として生成し、予測タップ抽出部133およびクラスタップ抽出部134に供給する。
予測タップ抽出部133は、ノイズ付加部132から供給された生徒画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とする。さらに、予測タップ抽出部133は、ノイズ付加部132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図2の水平予測タップ抽出部61が注目画素について得る水平予測タップと同一のタップ構造の水平予測タップ(図2の水平予測タップ抽出部61が注目画素について得る水平予測タップを構成する画素と同一の位置関係にある生徒画像の画素からなる水平予測タップ)を得て、足し込み部136に供給する。
クラスタップ抽出部134は、ノイズ付加部132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図2の水平クラスタップ抽出部62が注目画素について得る水平クラスタップと同一のタップ構造の水平クラスタップ(図2の水平クラスタップ抽出部62が注目画素について得る水平クラスタップを構成する画素と同一の位置関係にある生徒画像の画素からなる水平クラスタップ)を得て、クラス分類部135に供給する。
クラス分類部135は、クラスタップ抽出部134から供給された水平クラスタップに基づき、図2の水平クラス分類部63と同一の水平クラス分類を行い、その結果得られた水平クラスに対応する水平クラスコードを、足し込み部136に供給する。
足し込み部136は、原画像記憶部131に記憶されている原画像を教師画像として、その教師画像のうちの注目画素に対応する画素(の画素値)を読み出し、注目画素に対応する、教師画像の画素と、予測タップ抽出部133から供給された注目画素についての水平予測タップを構成する生徒画像の画素とを対象とした足し込みを、クラス分類部135から供給された水平クラスコードごとに行う。
即ち、足し込み部136には、原画像記憶部131に記憶された教師画像の画素のうちの、注目画素に対応する画素の画素値yk、予測タップ抽出部133が出力する注目画素についての水平予測タップを構成する生徒画像の画素の画素値xn,k、クラス分類部135が出力する、水平予測タップの水平クラスを表す水平クラスコードが供給される。
そして、足し込み部136は、クラス分類部135から供給された水平クラスコードに対応する水平クラスごとに、水平予測タップ(生徒画像)xn,kを用い、式(10)の左辺の行列における生徒画像どうしの乗算(xn,kn',k)と、サメーション(Σ)に相当する演算を行う。
さらに、足し込み部136は、やはり、クラス分類部135から供給された水平クラスコードに対応する水平クラスごとに、水平予測タップ(生徒画像)xn,kと教師画像ykを用い、式(10)の右辺のベクトルにおける生徒画像xn,kおよび教師画像ykの乗算(xn,kk)と、サメーション(Σ)に相当する演算を行う。
即ち、足し込み部136は、前回、注目画素とされた生徒画像について求められた式(10)における左辺の行列のコンポーネント(Σxn,kn',k)と、右辺のベクトルのコンポーネント(Σxn,kk)を、その内蔵するメモリ(図示せず)に記憶しており、その行列のコンポーネント(Σxn,kn',k)またはベクトルのコンポーネント(Σxn,kk)に対して、新たに注目画素とされた生徒画像について、その生徒画像xn,k+1および教師画像yk+1を用いて計算される、対応するコンポーネントxn,k+1n',k+1またはxn,k+1k+1を足し込む(式(10)のサメーションで表される加算を行う)。
そして、足し込み部136は、ノイズ付加部132により生成された生徒画像の画素すべてを注目画素として、上述の足し込みを行うことにより、各水平クラスについて、式(10)に示した正規方程式をたてると、その正規方程式を、係数算出部137に供給する。
係数算出部137は、足し込み部136から供給された各水平クラスについての正規方程式を解くことにより、各水平クラスについて、水平係数wnを求めて出力する。
次に、図9のフローチャートを参照して、図8の学習部121における学習処理を説明する。
ステップS121において、ノイズ付加部132は、原画像記憶部131から原画像を読み出し、その原画像にノイズを付加することにより、生徒画像を生成し、予測タップ抽出部133およびクラスタップ抽出部134に供給する。
処理は、ステップS121からステップS122に進み、予測タップ抽出部133は、ノイズ付加部132から供給された生徒画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とし、処理は、ステップS123に進む。
ステップS123において、予測タップ抽出部133は、ノイズ付加部132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図2の水平予測タップ抽出部61が注目画素について得る水平予測タップと同一のタップ構造の水平予測タップを得て、足し込み部136に供給する。
処理は、ステップS123からステップS124に進み、クラスタップ抽出部134は、ノイズ付加部132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図2の水平クラスタップ抽出部62が注目画素について得る水平クラスタップと同一のタップ構造の水平クラスタップを得て、クラス分類部135に供給する。
処理は、ステップS124からステップS125に進み、クラス分類部135は、クラスタップ抽出部134から供給された水平クラスタップに基づき、図2の水平クラス分類部63と同一の水平クラス分類を行い、その結果得られた水平クラスに対応する水平クラスコードを、足し込み部136に供給する。
処理は、ステップS125からステップS126に進み、足し込み部136は、原画像記憶部131に記憶されている原画像を教師画像として、その教師画像のうちの注目画素に対応する画素(の画素値)を読み出し、その注目画素に対応する、教師画像の画素と、予測タップ抽出部133から供給された注目画素についての水平予測タップを構成する生徒画像の画素とを対象とした足し込みを、クラス分類部135から供給された水平クラスコードごとに行う。
処理は、ステップS126からステップS127に進み、予測タップ抽出部133は、ノイズ付加部132から供給された生徒画像を構成する画素のうちの、まだ注目画素とされていない画素が存在するか否かを判定する。
ステップS127において、まだ注目画素とされていない画素が存在すると判定された場合、処理は、ステップS122に戻り、予測タップ抽出部133は、まだ注目画素とされていない生徒画像を構成する画素のうちの1つを、新たな注目画素として、処理は、ステップS123に進み、以下、同様の処理を繰り返す。
一方、ステップS127において、まだ注目画素とされていないノイズ画像の画素が存在しないと判定された場合、即ち、足し込み部136においては、ノイズ付加部132により生成された生徒画像の画素すべてを注目画素として、上述の足し込みを行うことにより、各水平クラスについて、式(10)に示した正規方程式が得られた場合、足し込み部136は、正規方程式を、係数算出部137に供給する。そして、処理は、ステップS127からステップS128に進み、係数算出部137は、足し込み部136から供給された各水平クラスについての正規方程式を解くことにより、各水平クラスについて、水平係数wnを求めて出力する。
その後、学習処理は終了される。
ここで、図9のフローチャートで説明した学習処理は、ノイズ除去画像に相当する画像を教師画像とするとともに、ノイズ画像に相当する画像を生徒画像として、水平予測タップおよび水平クラスタップを用いて、水平係数を学習する学習処理であるが、この学習処理を、以下、適宜、水平タップにおける学習処理という。
なお、図8の学習部121において、予測タップ抽出部133が垂直予測タップを抽出し、クラスタップ抽出部134が垂直予測タップを抽出して、クラス分類部135が垂直クラス分類を行うこととすれば、水平係数に代えて、垂直係数を求めることができる。
即ち、垂直係数を求める場合には、予測タップ抽出部133は、ノイズ付加部132から供給された生徒画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とする。さらに、予測タップ抽出部133は、ノイズ付加部132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図2の垂直予測タップ抽出部65が注目画素について得る垂直予測タップと同一のタップ構造の垂直予測タップ(図2の垂直予測タップ抽出部65が注目画素について得る垂直予測タップを構成する画素と同一の位置関係にある生徒画像の画素からなる垂直予測タップ)を得て、足し込み部136に供給する。
クラスタップ抽出部134は、ノイズ付加部132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図2の垂直クラスタップ抽出部66が注目画素について得る垂直クラスタップと同一のタップ構造の垂直クラスタップ(図2の垂直クラスタップ抽出部66が注目画素について得る垂直クラスタップを構成する画素と同一の位置関係にある生徒画像の画素からなる垂直クラスタップ)を得て、クラス分類部135に供給する。
クラス分類部135は、クラスタップ抽出部134から供給された垂直クラスタップに基づき、図2の垂直クラス分類部67と同一の垂直クラス分類を行い、その結果得られた垂直クラスに対応する垂直クラスコードを、足し込み部136に供給する。
足し込み部136は、原画像記憶部131に記憶されている原画像を教師画像として、その教師画像のうちの注目画素に対応する画素(の画素値)を読み出し、その注目画素に対応する、教師画像の画素と、予測タップ抽出部133から供給された注目画素についての垂直予測タップを構成する生徒画像の画素とを対象とした足し込みを、クラス分類部135から供給された垂直クラスコードごとに行う。
即ち、足し込み部136には、原画像記憶部131に記憶された教師画像の画素のうちの、注目画素に対応する画素の画素値yk、予測タップ抽出部133が出力する注目画素についての垂直予測タップを構成する生徒画像の画素の画素値xn,k、クラス分類部135が出力する、垂直予測タップの垂直クラスを表す垂直クラスコードが供給される。
そして、足し込み部136は、クラス分類部135から供給された垂直クラスコードに対応する垂直クラスごとに、垂直予測タップ(生徒画像)xn,kを用い、式(10)の左辺の行列における生徒画像どうしの乗算(xn,kn',k)と、サメーション(Σ)に相当する演算を行う。
さらに、足し込み部136は、やはり、クラス分類部135から供給された垂直クラスコードに対応する垂直クラスごとに、垂直予測タップ(生徒画像)xn,kと教師画像ykを用い、式(10)の右辺のベクトルにおける生徒画像xn,kおよび教師画像ykの乗算(xn,kk)と、サメーション(Σ)に相当する演算を行う。
即ち、足し込み部136は、前回、注目画素とされた生徒画像について求められた式(10)における左辺の行列のコンポーネント(Σxn,kn',k)と、右辺のベクトルのコンポーネント(Σxn,kk)を、その内蔵するメモリ(図示せず)に記憶しており、その行列のコンポーネント(Σxn,kn',k)またはベクトルのコンポーネント(Σxn,kk)に対して、新たに注目画素とされた生徒画像について、その生徒画像xn,k+1および教師画像yk+1を用いて計算される、対応するコンポーネントxn,k+1n',k+1またはxn,k+1k+1を足し込む(式(10)のサメーションで表される加算を行う)。
そして、足し込み部136は、ノイズ付加部132により生成された生徒画像の画素すべてを注目画素として、上述の足し込みを行うことにより、各垂直クラスについて、式(10)に示した正規方程式をたてると、その正規方程式を、係数算出部137に供給する。
係数算出部137は、足し込み部136から供給された各垂直クラスについての正規方程式を解くことにより、各垂直クラスについて、垂直係数w’nを求めて出力する。
ここで、以上のようにして、垂直係数w’nを求める学習処理を、以下、適宜、垂直タップにおける学習処理という。
図2の画像変換部31では、上述した水平タップにおける学習処理により求められた水平係数と、垂直タップにおける学習処理により求められた垂直係数とを用いて画像変換処理を行うことができる。
ところで、上述したように、上述の、水平係数を求める水平タップにおける学習処理と、垂直係数を求める垂直タップにおける学習処理とを、独立に行って、水平係数と垂直係数とを求めた場合、その水平係数と垂直係数によれば、いずれも単独で、ノイズ画像をノイズ除去画像(の予測値)に変換することができる。
このため、図8の学習部121により学習された水平係数と垂直係数とを用いた画像変換処理では、ノイズ画像をノイズ除去画像に変換する画像変換処理が、水平係数と垂直係数とで2重に行われる。
その結果、水平係数によりノイズを除去する水平処理効果分、および垂直係数によりノイズを除去する垂直処理効果分とを合わせた全体の効果分が過剰となってしまい、ノイズ画像に生じている歪波形の位相を反転したような逆歪が現れたり、逆に、水平処理効果分と垂直処理効果分とが相殺されてしまい、歪などのノイズを除去する効果が低下することがあり得る。
そこで、水平係数による水平処理効果分と、垂直係数による垂直処理効果分とが過剰となったり、相殺されることがないように、水平係数および垂直係数を学習する学習処理について説明する。
図10は、上述した図2の画像変換部31で用いられる水平係数および垂直係数を学習する2段差分学習部151の構成例を示すブロック図である。なお、図10には、説明の便宜上、図2の画像変換部31に相当する画像変換部152も図示してある。
2段差分学習部151は、水平タップ学習部161、水平マッピング部162、および垂直タップ差分学習部163により構成される。
水平タップ学習部161は、図8の学習部121と同様に構成され、水平タップにおける学習処理、即ち、ノイズ除去画像に相当する画像である原画像を教師画像とするとともに、ノイズ画像に相当する画像を生徒画像として、水平予測タップおよび水平クラスタップを用いた水平係数を学習する学習処理を行い、その結果得られた水平係数を、水平マッピング部162に供給する。
水平マッピング部162は、水平タップ学習部161で生徒画像として用いられるノイズ画像(に相当する画像)と、水平タップ学習部161から供給された水平係数を用いて、水平マッピング処理を行い、その結果得られる水平処理画像Hを、垂直タップ差分学習部163に供給する。なお、水平マッピング部162には、水平タップ学習部161などから、ノイズ画像が供給される。
垂直タップ差分学習部163は、水平タップ学習部161で教師画像として用いられる原画像と、水平マッピング部162から供給される水平処理画像Hを用いて、垂直タップにおける水平差分の差分学習処理を行い、垂直係数を学習する。
即ち、垂直タップ差分学習部163は、原画像、ノイズ画像、および水平処理画像Hから、後述するようにして、原画像と水平差分hとの差分である原画像−水平差分hを生成し、その原画像−水平差分hを教師画像とするとともに、ノイズ画像を生徒画像として、垂直予測タップおよび垂直クラスタップを用いて垂直係数を学習する、垂直タップにおける水平差分の差分学習処理を行う。
なお、垂直タップ差分学習部163の、垂直タップにおける水平差分の差分学習処理は、後述する図11を参照して、詳細に説明する。
図2の画像変換部31における画像変換処理では、図10の2段差分学習部151により求められた水平係数および垂直係数を用いることができる。
ここで、図10において、画像変換部152は、図2の画像変換部31と同様に構成される。画像変換部152では、次のようにして、ノイズ画像を原画像(の予測値)に変換する画像変換処理が行われる。
即ち、画像変換部152は、水平マッピング部162、垂直差分マッピング部164、および加算部165により構成される。
水平マッピング部162は、図3の水平予測タップ抽出部61、水平クラスタップ抽出部62、水平クラス分類部63、水平係数記憶部64、および水平予測演算部101で構成される水平マッピング部71と同様に構成される。
水平マッピング部162は、水平タップ学習部161での水平タップにおける学習処理により得られる水平係数を用いて、ノイズ画像を水平処理画像Hに変換する水平マッピング処理を行い、その水平処理画像Hを、加算部165に供給する。
垂直差分マッピング部164は、図3の垂直予測タップ抽出部65、垂直クラスタップ抽出部66、垂直クラス分類部67、垂直係数記憶部68、垂直予測演算部102、およびゲイン調整部103で構成される垂直差分マッピング部73と同様に構成される。
垂直差分マッピング部164は、垂直タップ差分学習部163での垂直タップにおける水平差分の差分学習処理により得られる垂直係数を用いて、ノイズ画像を垂直差分vに変換する垂直差分マッピング処理を行い、その垂直差分vを、加算部165に供給する。
加算部165は、図3の加算部104と同様に構成され、水平マッピング部162から供給された水平処理画像Hと、垂直差分マッピング部164から供給された垂直差分vとを加算し、その結果得られた画素値H+v(=h+v+x1)で構成される、原画像を予測した画像(以下、適宜、水平垂直処理画像という)を出力する。
次に、図11は、垂直タップにおける水平差分の差分学習処理を行う図10の垂直タップ差分学習部163の詳細な構成例を示すブロック図である。
即ち、図11の垂直タップ差分学習部163は、図8の原画像記憶部131乃至係数算出部137とそれぞれ同様に構成される原画像記憶部1131乃至係数算出部1137と、差分画像生成部233とから構成される。
さらに、差分画像生成部233には、ノイズ付加部1132から生徒画像が供給されるとともに、図10の水平マッピング部162から、水平処理画像Hが供給される。
差分画像生成部233は、ノイズ付加部1132から供給された生徒画像(ノイズ画像)x1を、図10の水平マッピング部162から供給された水平処理画像H=h+x1から差し引くことで、水平差分hを生成する。
また、差分画像生成部233は、原画像記憶部1131に記憶されている原画像を読み出し、その原画像から、生成した水平差分hを差し引き、その結果得られた原画像―水平差分hを、教師画像として、足し込み部1136に供給する。
図11の垂直タップ差分学習部163では、原画像と水平差分hとの差分である原画像―水平差分hを教師画像とするとともに、ノイズ画像を生徒画像として、垂直係数を学習することから、原画像から水平マッピング処理による水平処理効果分としての水平差分hを差し引いた画像に、ノイズ画像を変換する垂直係数が求められる。
次に、図12のフローチャートを参照して、図10の2段差分学習部151における2段差分学習処理を説明する。
ステップS171において、水平タップ学習部161は、水平タップにおける学習処理、即ち、ノイズ除去画像に相当する画像である原画像を教師画像とするとともに、ノイズ画像に相当する画像を生徒画像として、水平予測タップおよび水平クラスタップを用いた水平係数を学習する学習処理を行い、その結果得られた水平係数を、水平マッピング部162に供給する。
その後、処理は、ステップS171からステップS172に進み、水平マッピング部162は、水平タップ学習部161で生徒画像として用いられるノイズ画像(に相当する画像)と、水平タップ学習部161から供給された水平係数を用いて、水平マッピング処理を行い、その結果得られた水平処理画像Hを、垂直タップ差分学習部163に供給する。
そして、処理は、ステップS172からステップS173に進み、垂直タップ差分学習部163は、水平タップ学習部161で教師画像として用いられる原画像と、水平マッピング部162から供給された水平処理画像Hとを用いて、垂直タップにおける水平差分の差分学習処理を行い、垂直係数を学習する。
その後、2段差分学習処理は、終了される。
次に、図13のフローチャートを参照して、図12のステップS173の、垂直タップにおける水平差分の差分学習処理の詳細を説明する。
ステップS201において、垂直タップ差分学習部163(図11)のノイズ付加部1132は、原画像記憶部1131に記憶されている原画像を読み出し、その原画像にノイズを付加することでノイズ画像に相当する画像を、生徒画像として生成し、差分画像生成部233、垂直予測タップ抽出部1133および垂直クラスタップ抽出部1134に供給する。なお、原画像記憶部1131には、図10の水平タップ学習部161で教師画像として用いられるのと同一の原画像が、記憶されている。
処理は、ステップS201からステップS202に進み、差分画像生成部233は、ノイズ付加部1132から供給されたノイズ画像x1を、図11の水平マッピング部162から供給された水平処理画像H=h+x1から差し引くことで、水平差分hを生成する。
また、ステップS202において、差分画像生成部233は、原画像記憶部1131に記憶されている原画像を読み出し、その原画像から、生成した水平差分hを差し引き、その結果得られた原画像―水平差分hを、教師画像として、足し込み部1136に供給する。
その後、処理は、ステップS202からステップS203に進み、垂直予測タップ抽出部1133は、ノイズ付加部1132から供給された生徒画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素として、処理は、ステップS204に進む。
ステップS204において、垂直予測タップ抽出部1133は、ノイズ付加部1132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図2の垂直予測タップ抽出部65が注目画素について得る垂直予測タップと同一のタップ構造の垂直予測タップを得て、足し込み部1136に供給する。
そして、処理は、ステップS204からステップS205に進み、垂直クラスタップ抽出部1134は、ノイズ付加部1132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図2の垂直クラスタップ抽出部66が注目画素について得る垂直クラスタップと同一のタップ構造の垂直クラスタップを得て、垂直クラス分類部1135に供給する。
さらに、処理は、ステップS205からステップS206に進み、垂直クラス分類部1135は、垂直クラスタップ抽出部1134から供給された垂直クラスタップに基づき、図2の垂直クラス分類部67と同一の垂直クラス分類を行い、その結果得られた垂直クラスに対応する垂直クラスコードを、足し込み部1136に供給して、ステップS207に進む。
ステップS207において、足し込み部1136は、図8の学習部121の足し込み部136と同様にして、差分画像生成部233から供給された教師画像の画素のうちの、注目画素に対応する画素と、垂直予測タップ抽出部1133から供給された注目画素についての垂直予測タップを構成する生徒画像の画素とを対象とした足し込みを、垂直クラス分類部1135から供給された垂直クラスコードごとに行う。
処理は、ステップS207からステップS208に進み、垂直予測タップ抽出部1133は、ノイズ付加部1132から供給された生徒画像を構成する画素のうちの、まだ注目画素とされていない画素が存在するか否かを判定する。
ステップS208において、まだ注目画素とされていない画素が存在すると判定された場合、処理は、ステップS203に戻り、垂直予測タップ抽出部1133は、まだ注目画素とされていない生徒画像を構成する画素のうちの1つを、新たな注目画素として、処理は、ステップS204に進み、以下、同様の処理を繰り返す。
一方、ステップS208において、まだ注目画素とされていない生徒画像の画素が存在しないと判定された場合、即ち、足し込み部1136においては、ノイズ付加部1132により生成された生徒画像の画素すべてを注目画素として、図8の学習部121と同様の足し込みを行うことにより、各垂直クラスについての正規方程式が得られた場合、足し込み部1136は、その正規方程式を、垂直タップ差分学習部163の係数算出部1137に供給する。そして、ステップS208からステップS209に進み、係数算出部1137は、足し込み部1136から供給された各垂直クラスについての正規方程式を解くことにより、各垂直クラスについて、垂直係数w’nを求めて出力する。
その後、処理は、図12のステップS173にリターンする。
ところで、図10の2段差分学習部151による2段差分学習処理では、水平タップ学習部161が、原画像を教師画像とするとともに、ノイズ画像(に相当する画像)を生徒画像として、水平係数を求め、その水平係数を用いた水平予測演算による水平処理効果分としての水平差分hを考慮する形で、垂直タップ差分学習部163において、垂直係数を求めている。
即ち、垂直タップ差分学習部163では、原画像から、水平処理効果分としての水平差分hを差し引くことで得られる画像である原画像―水平差分hを教師画像とするとともに、ノイズ画像を生徒画像として、垂直係数が求められる。このため、2段差分学習部151で求められた水平係数および垂直係数を用いた画像変換処理では、図8の学習部121で求められた水平係数および垂直係数を用いた画像変換処理のような、ノイズ画像に含まれるノイズを除去する効果が、いわば、2重になることを防止することができる。
しかしながら、図10の2段差分学習部151では、垂直タップ差分学習部163において、水平タップ学習部161によりさきに求められた水平係数を用いた水平予測演算による水平処理効果分としての水平差分hを考慮する形で、垂直係数を求めている。
即ち、垂直タップ差分学習部163では、水平タップ学習部161により求められた水平係数を用いた水平予測演算による水平処理効果分の不足分や過剰分を補う垂直処理効果分が得られる垂直係数が求められることとなる。
従って、図10の2段差分学習部151で求められた水平係数および垂直係数を用いた画像変換処理では、ノイズ画像に含まれるノイズを除去する効果のうちの、水平係数を用いた水平予測演算による水平処理効果分としての水平差分hの寄与分が大となり、垂直係数を用いた垂直予測演算による垂直処理効果分としての垂直差分vの寄与分は小となる。
このため、仮に、水平係数を用いた水平予測演算による水平処理効果分としての水平差分hにより、ノイズ画像に含まれるノイズを(十分に)除去することができなかった場合、垂直係数を用いた垂直予測演算による垂直処理効果分としての垂直差分vの寄与分が小であることから、垂直係数によっては、ノイズ画像に含まれるノイズを十分に除去することが困難となることがある。
しかしながら、水平係数を用いた水平予測演算による水平処理効果分としての水平差分hにより、ノイズ画像に含まれるノイズを十分に除去することができなかった場合においても、ノイズ画像に含まれるノイズを除去することができるように、水平係数を用いた水平予測演算による水平処理効果分と、垂直係数を用いた垂直予測演算による垂直処理効果分との寄与分が同等に現れることが望ましい。
そこで、図14は、水平係数を用いた水平予測演算による水平処理効果分と、垂直係数を用いた垂直予測演算による垂直処理効果分との寄与分が同等となるように、水平係数および垂直係数を求める2段反復学習部271の構成例を示すブロック図である。
2段反復学習部271は、図10の2段差分学習部151の水平タップ学習部161乃至垂直タップ差分学習部163それぞれと同様に構成される水平タップ学習部1161乃至垂直タップ差分学習部1163と、垂直マッピング部284、および水平タップ差分学習部285とから構成される。
垂直マッピング部284は、水平タップ学習部1161で生徒画像として用いられるノイズ画像と、垂直タップ差分学習部1163から供給された垂直係数を用いて、ノイズ画像を垂直処理画像Vに変換する垂直マッピング処理を行い、その結果得られた垂直処理画像Vを、水平タップ差分学習部285に供給する。
水平タップ差分学習部285は、水平タップ学習部1161で教師画像として用いられる原画像と、垂直マッピング部284から供給された垂直処理画像Vとを用いて、水平タップにおける垂直差分の差分学習処理を行い、その結果得られた水平係数を、水平マッピング部1162に供給する。
即ち、水平タップ差分学習部285は、原画像、ノイズ画像、および垂直処理画像Vから、後述するようにして、原画像と垂直差分vとの差分である原画像−垂直差分vを生成し、その原画像−垂直差分vを教師画像とするとともに、ノイズ画像を生徒画像として、水平予測タップ及び水平クラスタップを用いて、水平係数を学習する、水平タップにおける垂直差分の差分学習処理を行う。
なお、水平タップ差分学習部285の、水平タップにおける垂直差分の差分学習処理は、後述する図15を参照して、詳細に説明する。
次に、図15は、水平タップにおける垂直差分の差分学習処理を行う図14の水平タップ差分学習部285の詳細な構成例を示すブロック図である。
水平タップ差分学習部285は、図11の垂直タップ差分学習部163の原画像記憶部1131乃至係数算出部1137とそれぞれ同様に構成される原画像2131乃至係数算出部2137と差分画像生成部293とから構成される。
さらに、差分画像生成部293には、図14の垂直マッピング部284から、垂直処理画像Vが供給される。
差分画像生成部293は、ノイズ付加部2132から供給された生徒画像(ノイズ画像)x1を、図14の垂直マッピング部284から供給された垂直処理画像V=v+x1から差し引くことで、垂直差分vを生成する。
また、差分画像生成部293は、原画像記憶部2131に記憶されている原画像を読み出し、その原画像から、生成した垂直差分vを差し引き、その結果得られた原画像―垂直差分vを、教師画像として、足し込み部2136に供給する。
以上のように構成される水平タップ差分学習部285では、原画像と垂直差分vとの差分である原画像―垂直差分vを教師画像とするとともに、ノイズ画像を生徒画像として、水平係数を学習することから、原画像から垂直マッピング処理による垂直処理効果分としての垂直差分vを差し引いた画像に、ノイズ画像を変換する水平係数が求められる。
次に、図16のフローチャートを参照して、図14の2段反復学習部271における2段反復学習処理を説明する。
ステップS241において、水平タップ学習部1161は、原画像を教師画像とするとともに、その原画像にノイズを付加したノイズ画像を生徒画像として、水平タップにおける学習処理を行い、その結果得られた水平係数を、水平マッピング部1162に供給して、処理は、ステップS242に進む。
ステップS242において、水平マッピング部1162および垂直タップ差分学習部1163により、垂直係数が生成される。
即ち、ステップS242では、ステップS251とステップS252の処理が行われる。
ステップS251では、水平マッピング部1162は、水平タップ学習部1161で生徒画像として用いられるノイズ画像と、水平タップ学習部1161から供給される水平係数とを用いて水平マッピング処理を行い、その結果得られた水平処理画像Hを、垂直タップ差分学習部1163に供給して、処理は、ステップS252に進む。
ステップS252において、垂直タップ差分学習部1163は、水平タップ学習部1161で教師画像として用いられる原画像と生徒画像として用いられるノイズ画像、および水平マッピング部1162から供給された水平処理画像Hを用いて、垂直タップにおける水平差分の差分学習処理を行い、垂直係数を生成する。
また、ステップS252において、垂直タップ差分学習部1163は、生成した垂直係数を、垂直マッピング部284に供給する。
ステップS251およびステップS252の処理、つまり、ステップS242の処理が終了すると、処理は、ステップS242からステップS243に進み、垂直マッピング部284および水平タップ差分学習部285により、水平係数が生成される。
即ち、ステップS243では、ステップS261とステップS262の処理が行われる。
ステップS261において、垂直マッピング部284は、水平タップ学習部1161で生徒画像として用いられるノイズ画像と、垂直タップ差分学習部1163から供給された垂直係数とを用いて垂直マッピング処理を行い、その結果得られた垂直処理画像Vを、水平タップ差分学習部285に供給して、処理は、ステップS262に進む。
ステップS262において、水平タップ差分学習部285は、水平タップ学習部1161で教師画像として用いられる原画像と生徒画像として用いられるノイズ画像、および垂直マッピング部284から供給された垂直処理画像Vを用いて、水平タップにおける垂直差分の差分学習処理を行い、水平係数を生成する。
また、ステップS262において、水平タップ差分学習部285は、生成した水平係数を、水平マッピング部1162に供給する。
ステップS261およびステップS262の処理、つまり、ステップS243の処理が終了すると、処理は、ステップS243からステップS242に戻り、水平マッピング部1162および垂直タップ差分学習部1163により、前回、水平タップ差分学習部285により生成された水平係数に基づいて、垂直係数が生成され、以下、同様の処理が繰り返される。
即ち、ステップS242のステップS251では、水平マッピング部1162は、水平タップ学習部1161で生徒画像として用いられるノイズ画像と、水平タップ差分学習部285から供給された水平係数とを用いて水平マッピング処理を行い、その結果得られた水平処理画像Hを、垂直タップ差分学習部1163に供給して、処理は、ステップS252に進み、以下、同様の処理を繰り返す。
なお、図16の2段反復学習処理では、例えば、水平タップ差分学習部285で求められる水平係数、および垂直タップ差分学習部1163で求められる垂直係数が収束したときに、処理を終了することができる。また、図16の2段反復学習処理は、水平係数や垂直係数を、あらかじめ決められた回数だけ繰り返し求めた、即ち、ステップS242およびステップS243を所定回数だけ繰り返し行ったときなどに終了することもできる。さらに、図16の2段反復学習処理は、水平係数と垂直係数との係数セットを用いた、図2の画像変換部31の画像変換処理による結果と、原画像との自乗誤差を最小にする係数セットが求められたときに終了するようにしてもよい。
また、図16の2段反復学習処理では、水平タップ学習部1161、垂直タップ差分学習部1163、および水平タップ差分学習部285それぞれが、同一の生徒画像を用いて係数を学習するため、2段反復学習処理を繰り返し行っても、所定の水平予測タップについて得られる水平クラスは、同じ水平クラスとなり、また、所定の垂直予測タップについて得られる垂直クラスは、同じ垂直クラスとなる。
次に、図17のフローチャートを参照して、図16のステップS262の、水平タップにおける垂直差分の差分学習処理を詳細に説明する。
ステップS271において、水平タップ差分学習部285(図15)のノイズ付加部2132は、原画像記憶部2131に記憶されている原画像を読み出し、その原画像にノイズを付加することでノイズ画像に相当する画像を、生徒画像として生成し、差分画像生成部293、水平予測タップ抽出部2133および水平クラスタップ抽出部2134に供給する。なお、原画像記憶部2131には、図14の水平タップ学習部1161で教師画像として用いられるのと同一の原画像が、記憶されている。
処理は、ステップS271からステップS272に進み、差分画像生成部293は、ノイズ付加部2132から供給されたノイズ画像x1を、図14の垂直マッピング部284から供給された垂直処理画像V=v+x1から差し引くことで、垂直差分vを生成する。
また、ステップS272において、差分画像生成部293は、原画像記憶部2131に記憶されている原画像を読み出し、その原画像から、生成した垂直差分vを差し引き、その結果得られた原画像―垂直差分vを、教師画像として、足し込み部2136に供給する。
処理は、ステップS272からステップS273に進み、水平予測タップ抽出部2133は、ノイズ付加部2132から供給された生徒画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素として、処理は、ステップS274に進む。
ステップS274において、水平予測タップ抽出部2133は、ノイズ付加部2132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図2の水平予測タップ抽出部61が注目画素について得る水平予測タップと同一のタップ構造の水平予測タップを得て、足し込み部2136に供給する。
処理は、ステップS274からステップS275に進み、水平クラスタップ抽出部2134は、ノイズ付加部2132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図2の水平クラスタップ抽出部62が注目画素について得る水平クラスタップと同一のタップ構造の水平クラスタップを得て、水平クラス分類部2135に供給する。
処理は、ステップS275からステップS276に進み、水平クラス分類部2135は、水平クラスタップ抽出部2134から供給された水平クラスタップに基づき、図2の水平クラス分類部63と同一の水平クラス分類を行い、その結果得られた水平クラスに対応する水平クラスコードを、足し込み部2136に供給する。
処理は、ステップS276からステップS277に進み、足し込み部2136は、図8の学習部121の場合と同様にして、差分画像生成部293から供給された教師画像の画素のうちの、注目画素に対応する画素と、水平予測タップ抽出部2133から供給された注目画素についての水平予測タップを構成する生徒画像の画素とを対象とした足し込みを、水平クラス分類部2135から供給された水平クラスコードごとに行う。
処理は、ステップS277からステップS278に進み、水平予測タップ抽出部2133は、ノイズ付加部2132から供給された生徒画像を構成する画素のうちの、まだ注目画素とされていない画素が存在するか否かを判定する。
ステップS278において、まだ注目画素とされていない画素が存在すると判定された場合、処理は、ステップS273に戻り、水平予測タップ抽出部2133は、まだ注目画素とされていない生徒画像を構成する画素のうちの1つを、新たな注目画素として、処理は、ステップS274に進み、以下、同様の処理を繰り返す。
一方、ステップS278において、まだ注目画素とされていない生徒画像の画素が存在しないと判定された場合、即ち、足し込み部2136においては、ノイズ付加部2132により生成された生徒画像の画素すべてを注目画素として、図8の学習部121と同様の足し込みを行うことにより、各水平クラスについての正規方程式が得られた場合、足し込み部2136は、その正規方程式を、係数算出部2137に供給する。そして、処理は、ステップS278からステップS279に進み、係数算出部2137は、足し込み部2136から供給された各水平クラスについての正規方程式を解くことにより、各水平クラスについて、水平係数wnを求めて出力する。
その後、処理は、図16のステップS262にリターンする。
以上のような図16の2段反復学習処理では、水平タップ学習部1161が行う水平タップにおける学習処理により、水平係数が求められ、その水平係数による水平処理効果分としての水平差分hを考慮する形で、垂直タップ差分学習部1163が行う垂直タップにおける水平差分の差分学習処理により、垂直係数が求められ、さらに、その垂直係数による垂直処理効果分としての垂直差分vを考慮する形で、水平タップ差分学習部285が行う水平タップにおける垂直差分の差分学習処理により、水平係数が求められる。また、その水平係数による水平処理効果分としての水平差分hを考慮する形で、垂直タップ差分学習部1163が行う垂直タップにおける水平差分の差分学習処理により、垂直係数が求められる。
従って、水平係数と垂直係数とがとる値が収束するまで、2段反復学習処理を行った場合、例えば、水平係数を用いた水平予測演算による水平処理効果分が大であり、垂直係数を用いた垂直予測演算による垂直処理効果分が小となる水平係数と垂直係数ではなく、水平係数を用いた水平予測演算による水平処理効果分と、垂直係数を用いた垂直予測演算による垂直処理効果分が等しくなる水平係数と垂直係数を求めることができる。
また、図10の2段差分学習部151では、水平タップ学習部161において先に水平係数が求められ、その水平係数を用いた水平予測演算による水平処理効果分としての水平差分hを考慮する形で、垂直タップ差分学習部163により垂直係数が求められることとしたが、先に垂直係数を求め、その垂直係数を用いた垂直予測演算による垂直処理効果分としての垂直差分vを考慮する形で、水平係数を求めることもできる。
即ち、図18は、そのような2段差分学習部301の構成例を示すブロック図である。なお、図18には、説明の便宜上、図2の画像変換部31に相当する画像変換部302も図示してある。
2段差分学習部301は、垂直タップ学習部311、垂直マッピング部312、および水平タップ差分学習部313により構成される。
垂直タップ学習部311は、図8の学習部121と同様に構成され、垂直タップにおける学習処理、即ち、ノイズ除去画像に相当する画像である原画像を教師画像とするとともに、ノイズ画像に相当する画像を生徒画像として、垂直予測タップおよび垂直クラスタップを用いて、垂直係数を学習する学習処理を行い、その結果得られた垂直係数を、垂直マッピング部312に供給する。
垂直マッピング部312は、垂直タップ学習部311で生徒画像として用いられるノイズ画像(に相当する画像)と、垂直タップ学習部311から供給された垂直係数とを用いて、垂直マッピング処理を行い、その結果得られる垂直処理画像Vを、水平タップ差分学習部313に供給する。なお、垂直マッピング部312には、垂直タップ学習部311などから、ノイズ画像が供給される。
水平タップ差分学習部313は、垂直タップ学習部311で教師画像として用いられる原画像と生徒画像として用いられるノイズ画像、および垂直マッピング部312から供給される垂直処理画像Vを用いて、水平タップにおける垂直差分の差分学習処理を行い、水平係数を学習する。
2段差分学習部301の垂直タップ学習部311で求められた垂直係数と、水平タップ差分学習部313で求められた水平係数とは、図2の画像変換部31に相当する画像変換部302での画像変換処理に用いられる。
即ち、画像変換部302は、垂直マッピング部312、水平差分マッピング部314、および加算部315により構成される。
図2の画像変換部31では、水平マッピング部71(図3)が水平処理画像H=h+x1を生成し、垂直差分マッピング部73が垂直差分vを生成して、加算部104が、水平マッピング部71により生成された水平処理画像H=h+x1と、垂直差分マッピング部73により生成された垂直差分vとを加算し、その結果得られた画素値H+vで構成される、原画像を予測した水平垂直処理画像を出力するが、図18の画像変換部302では、垂直マッピング部312が垂直処理画像V=v+x1を生成し、水平差分マッピング部314が水平差分hを生成して、加算部315が、垂直マッピング部312により生成された垂直処理画像V=v+x1と、水平差分マッピング部314により生成された水平差分hとを加算し、その結果得られた画素値V+hで構成される、原画像を予測した画像(以下、適宜、垂直水平処理画像という)を出力する。
具体的には、垂直マッピング部312は、図3の垂直予測タップ抽出部65、垂直クラスタップ抽出部66、垂直クラス分類部67、垂直係数記憶部68、および垂直予測演算部102で構成される垂直マッピング部72と同様に構成される。
垂直マッピング部312は、垂直タップ学習部311での垂直タップにおける学習処理により得られる垂直係数を用いて、ノイズ画像を垂直処理画像Vに変換する垂直マッピング処理を行い、その垂直処理画像Vを、加算部315に供給する。
水平差分マッピング部314は、図7の水平予測タップ抽出部61、水平クラスタップ抽出部62、水平クラス分類部63、水平係数記憶部64、水平予測演算部101、およびゲイン調整部112で構成される水平差分マッピング部111と同様に構成される。
水平差分マッピング部314は、水平タップ差分学習部313での水平タップにおける垂直差分の差分学習処理により得られる水平係数を用いて、ノイズ画像を水平差分hに変換する水平差分マッピング処理を行い、その水平差分hを、加算部315に供給する。
加算部315は、図3の加算部104と同様に構成され、垂直マッピング部312から供給された垂直処理画像Vと、水平差分マッピング部314から供給された水平差分hとを加算し、その結果得られた画素値V+hで構成される、原画像を予測した垂直水平処理画像を出力する。
ところで、図18の2段差分学習部301で求められる垂直係数と水平係数によれば、図10の2段差分学習部151で求められる水平係数と垂直係数と同様に、水平係数を用いた水平予測演算による水平処理効果分と、垂直係数を用いた垂直予測演算による垂直処理効果分との寄与分が同等とならない。
そこで、図19は、水平係数を用いた水平予測演算による水平処理効果分と、垂直係数を用いた垂直予測演算による垂直処理効果分との寄与分が同等となるように、水平係数および垂直係数を求める2段反復学習部331の構成例を示すブロック図である。
2段反復学習部331は、垂直タップ学習部1311、垂直マッピング部1312、水平タップ差分学習部1313、水平マッピング部324、および垂直タップ差分学習部325により構成される。
垂直タップ学習部1311は、図8の学習部121と同様に構成され、垂直タップにおける学習処理、即ち、ノイズ除去画像に相当する画像である原画像を教師画像とするとともに、ノイズ画像に相当する画像を生徒画像として、垂直予測タップおよび垂直クラスタップを用いて、垂直係数を学習する学習処理を行い、その結果得られた垂直係数を、垂直マッピング部1312に供給する。
垂直マッピング部1312は、垂直タップ学習部1311で生徒画像として用いられるノイズ画像(に相当する画像)と、垂直タップ学習部1311から供給された垂直係数とを用いて、垂直マッピング処理を行い、その結果得られた垂直処理画像Vを、水平タップ差分学習部1313に供給する。なお、垂直マッピング部1312には、垂直タップ学習部1311などから、ノイズ画像が供給される。
水平タップ差分学習部1313は、垂直タップ学習部1311で教師画像として用いられる原画像と生徒画像として用いられるノイズ画像、および垂直マッピング部1312から供給された垂直処理画像Vを用いて、水平タップにおける垂直差分の差分学習処理を行い、その結果得られた水平係数を、水平マッピング部324に供給する。
水平マッピング部324は、垂直タップ学習部1311で生徒画像として用いられるノイズ画像と、水平タップ差分学習部1313から供給された水平係数とを用いて、ノイズ画像を水平処理画像Hに変換する水平マッピング処理を行い、その結果得られた水平処理画像Hを、垂直タップ差分学習部325に供給する。
垂直タップ差分学習部325は、垂直タップ学習部1311で生徒画像として用いられるノイズ画像の画素値x1を、水平マッピング部324から供給された水平処理画像H=h+x1から差し引くことで、水平差分hを生成する。
また、垂直タップ差分学習部325は、垂直タップ学習部1311で教師画像として用いられる原画像から、生成した水平差分hを差し引くことで得られる画像である原画像―水平差分hを教師画像とするとともに、垂直タップ学習部1311で生徒画像として用いられるノイズ画像を生徒画像として、垂直タップにおける水平差分の差分学習処理を行い、その結果得られた垂直係数を、垂直マッピング部1312に供給する。
垂直タップ差分学習部325により垂直係数が求められると、以降、垂直マッピング部1312は、垂直タップ学習部1311で生徒画像として用いられるノイズ画像(に相当する画像)と、垂直タップ差分学習部325から供給された垂直係数とを用いて、垂直マッピング処理を行い、その結果得られた垂直処理画像Vを、水平タップ差分学習部1313に供給する。
次に、図20は、図14の2段反復学習部271と、図19の2段反復学習部331との両方を用いて、水平係数および垂直係数を反復して求める2段反復学習処理を説明する図である。
図中右側から1番目の上下方向に記載されている垂直タップ学習部1311、垂直マッピング部1312、水平タップ差分学習部1313、水平マッピング部324、および垂直タップ差分学習部325は、上述した図19の2段反復学習部331による2段反復学習処理の流れを示している。
また、図中右側から2番目の上下方向に記載される水平タップ学習部1161、水平マッピング部1162、垂直タップ差分学習部1163、垂直マッピング部284、および水平タップ差分学習部285は、図14の2段反復学習部271による2段反復学習処理の流れを示している。
また、図中下側には、図10で説明した画像変換部152が示されている。
いま、教師画像と生徒画像とを用いたn回目の学習処理を、第n−1世代の学習処理というとともに、第n−1世代の学習によって求められる水平係数および垂直係数のセットを第n−1世代の係数セットということとする。
第0世代の学習処理では、2段反復学習部271の水平タップ学習部1161が水平係数を求める。一方、2段反復学習部331の垂直タップ学習部1311が垂直係数を求める。これにより、第0世代の、水平係数および垂直係数の係数セットが求められる。
第1世代の学習処理では、2段反復学習部271の水平マッピング部1162が水平処理画像Hを生成し、その水平処理画像Hを用いて、垂直タップ差分学習部1163が垂直係数を求める。一方、2段反復学習部331の垂直マッピング部1312が垂直処理画像Vを生成し、その垂直処理画像Vを用いて、水平タップ差分学習部1313が水平係数を求める。これにより、第1世代の、水平係数および垂直係数の係数セットが求められる。
第2世代の学習処理では、2段反復学習部271の垂直マッピング部284が垂直処理画像Vを生成し、その垂直処理画像Vを用いて、水平タップ差分学習部285が水平係数を求める。一方、2段反復学習部331の水平マッピング部324が水平処理画像Hを生成し、その水平処理画像Hを用いて、垂直タップ差分学習部325が垂直係数を求める。これにより、第2世代の、水平係数および垂直係数の係数セットが求められる。
以下、同様にして、第3世代、第4世代、・・・第N世代と、反復して係数セットが求められる。
なお、2段反復学習部271による2段反復学習処理と、2段反復学習部331による2段反復学習処理とは、例えば、それらの2段反復学習処理により求められる係数セットを用いた、図20下側に示される画像変換部152の画像変換処理による結果H+vと、原画像との自乗誤差を最小にする係数セットが求められたとき、または、あらかじめ決められた世代の水平係数および垂直係数の係数セットが求められたときなどに終了する。
また、2段反復学習部271による2段反復学習処理と、2段反復学習部331による2段反復学習処理とにより求められた係数セットにより画像変換処理を行う場合は、求められた係数セットの、水平係数と垂直係数とのどちらかを先に用いてもかまわない。
即ち、図20に示した画像変換部152による画像変換処理では、水平係数を用いた水平マッピング処理を行って、水平処理画像Hを得るとともに、垂直係数を用いた垂直差分マッピング処理を行って、垂直差分vを得て、水平処理画像Hと垂直差分vとを加算するが、垂直係数を用いた垂直マッピング処理を行って垂直処理画像Vを得るとともに、水平係数を用いた水平差分マッピング処理を行って、水平差分hを得て、垂直処理画像Vと水平差分hとを加算してもよい。
図21は、図1の画像変換部31の第2の構成例を示すブロック図である。
なお、図中、図2の画像変換部31の場合に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。
即ち、図21の画像変換部31は、図2の水平予測タップ抽出部61および垂直予測タップ抽出部65に代えて、予測タップ抽出部368が、図2の予測演算部69に代えて、予測演算部369がそれぞれ設けられており、さらに、係数合成部367が新たに設けられている他は、図2の画像変換部31の場合と同様に構成されている。
係数合成部367には、水平係数記憶部64から水平係数wnが、垂直係数記憶部68から垂直係数w’nが、それぞれ供給される。係数合成部367は、水平係数記憶部64から供給された水平係数wnと、垂直係数記憶部68から供給された垂直係数w’nとを合成することにより、ゲインを調整した合成係数[(w1+w’1−1),w2,w3,・・・,wN,w’2,w’3,・・・,w’N]を生成する。なお、係数合成部367が合成係数をどのように生成するかは、後述する図22の説明において詳細に説明する。
また、係数合成部367は、合成係数[(w1+w’1−1),w2,w3,・・・,wN,w’2,w’3,・・・,w’N]を、予測演算部369に供給する。
予測タップ抽出部368は、そこに供給されたノイズ画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とする。さらに、予測タップ抽出部368は、注目画素に対応する、ノイズ画像を変換して得ようとするノイズ除去画像の画素の画素値を予測するのに用いる複数の画素である合成予測タップを、ノイズ画像から抽出する。
即ち、予測タップ抽出部368は、図2の水平予測タップ抽出部61が抽出する水平予測タップと、図2の垂直予測タップ抽出部65が抽出する垂直予測タップとして、その水平予測タップと垂直予測タップとを合成した予測タップ(合成予測タップ)を抽出する。
従って、予測タップ抽出部368では、例えば、図21右側に示される十字形に並ぶ、注目画素を中心とする複数の画素である十字形のタップ351を、合成予測タップとして抽出する。ここで、図21では、図21右側に白丸で示す注目画素の右に隣接する、黒丸で示す4個の画素、注目画素の左に隣接する、黒丸で示す4個の画素、注目画素の上に隣接する、黒丸で示す4個の画素、注目画素の下に隣接する、黒丸で示す4個の画素、および注目画素の、水平方向および垂直方向に並ぶ、17個の画素が、十字形のタップ351として示されている。
また、予測タップ抽出部368は、ノイズ画像から抽出した合成予測タップを、予測演算部369に供給する。
予測演算部369は、係数合成部367から供給された合成係数と、予測タップ抽出部368から供給された合成予測タップに基づいて、注目画素に対応する、ノイズ除去画像の画素の画素値(の予測値)を求めて出力する。
即ち、予測演算部369は、係数合成部367から供給された合成係数[(w1+w’1−1),w2,w3,・・・,wN,w’2,w’3,・・・,w’N]と、その合成係数それぞれに対応する、予測タップ抽出部368から供給された合成予測タップ[x1,x2,・・・,xN,x’2,x’3,・・・,x’N]との積和(w1+w’1−1)x1+w22+w33+・・・+wNN+w’2x’2+w’3x’3+・・・+w’Nx’Nを求める。
ここで、(w1+w’1−1)x1+w22+w33+・・・+wNN+w’2x’2+w’3x’3+・・・+w’Nx’Nを変形すると、w11+w22+w33+・・・+wNN+w’11+w’2x’2+w’3x’3+・・・+w’Nx’N−x1となり、上述した式(3)の右辺が導かれるため、結局、予測演算部369は、図2の予測演算部69と同じノイズ除去画像の画素値(の予測値)を出力する。
図22は、図21の係数合成部367の詳細な構成例を示すブロック図である。
係数合成部367は、重複係数加算部391およびゲイン調整部392により構成される。
重複係数加算部391は、水平係数記憶部64から供給された水平係数wn(例えば、水平係数w1乃至w9)のうちの、所定の画素と乗算される水平係数と、垂直係数記憶部68から供給された垂直係数w’n(例えば、w’1乃至w’9)のうちの、所定の画素と乗算される垂直係数とを加算する。
具体的には、重複係数加算部391は、水平係数記憶部64から供給された水平係数wnのうちの、注目画素x1と乗算される水平係数w1と、垂直係数記憶部68から供給された垂直係数w’nのうちの、注目画素x’1(=x1)と乗算される垂直係数w’1とを加算し、その結果得られた係数[(w1+w’1),w2,w3,・・・,wN,w’2,w’3,・・・,w’N]を、ゲイン調整部392に供給する。
ゲイン調整部392は、重複係数加算部391から供給された係数[(w1+w’1),w2,w3,・・・,wN,w’2,w’3,・・・,w’N]のうちの、水平係数w1および垂直係数w’1が加算されることで得られた係数(w1+w’1)を−1することで、係数(w1+w’1)のゲインを調整し、その結果得られた係数[(w1+w’1―1),w2,w3,・・・,wN,w’2,w’3,・・・,w’N]を、合成係数として、図21の予測演算部369に供給する。
図23は、図1の画像変換部31の第3の構成例を示すブロック図である。
なお、図中、図21の画像変換部31の場合に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。
即ち、図23の画像変換部31は、図21の水平クラスタップ抽出部62および垂直クラスタップ抽出部66に代えて、クラスタップ抽出部401およびクラスタップ分配部402が設けられている他は、図21の画像変換部31と同様に構成される。
クラスタップ抽出部401は、そこに供給されたノイズ画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とする。さらに、クラスタップ抽出部401は、注目画素に対して、水平クラスタップ抽出部62(図21)が抽出する水平クラスタップと、垂直クラスタップ抽出分66(図21)が抽出する垂直クラスタップとを合成したクラスタップ(合成クラスタップ)を、供給されてくるノイズ画像から抽出する。
即ち、クラスタップ抽出部401は、例えば、図21右側に示される水平方向と垂直方向に並ぶ、17画素である十字形のタップ351を、合成クラスタップとして抽出する。
また、クラスタップ抽出部401は、ノイズ画像から抽出した合成クラスタップを、クラスタップ分配部402に供給する。
クラスタップ分配部402は、クラスタップ抽出部401から供給された合成クラスタップを、図21の水平クラスタップ抽出部62が出力するのと同一の水平クラスタップと、図21の垂直クラスタップ抽出部66が出力するのと同一の垂直クラスタップとに分割し、水平クラスタップを水平クラス分類部63に、垂直クラスタップを垂直クラス分類部67にそれぞれ供給する。
次に、図24は、図23のクラスタップ分配部402における、合成クラスタップの分割を説明する図である。
図中左側には、クラスタップ抽出部401が、合成クラスタップとして抽出した、水平方向と垂直方向に並ぶ、17画素である十字形のタップ351が示されている。また、図中右側には、クラスタップ分配部402が、水平方向と垂直方向に並ぶ、17画素である十字形のタップ351を分割することで得た、水平クラスタップとしての水平方向に並ぶ、9画素である水平方向のタップ41と、垂直クラスタップとしての垂直方向に並ぶ、9画素である垂直方向のタップ42とが示されている。
クラスタップ分配部402は、水平方向と垂直方向とに並ぶ、17画素である十字形のタップ351を、水平方向に並ぶ、9画素である水平方向のタップ41と、垂直方向に並ぶ、9画素である垂直方向のタップ42とに分割する。
その後、クラスタップ分配部402は、上述したように、水平方向のタップ41を水平クラスタップとして水平クラス分類部63に供給するとともに、垂直方向のタップ42を垂直クラスタップとして垂直クラス分類部67に供給する。
次に、図25は、図1の画像変換部31の第4の構成例を示すブロック図である。
なお、図中、図2の画像変換部31の場合に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。
即ち、図25の画像変換部31は、図2の予測演算部69に代えて、予測演算部435が設けられ、さらに、斜め予測タップ抽出部431、斜めクラスタップ抽出部432、斜めクラス分類部433、および斜め係数記憶部434が新たに設けられている他は、図2の画像変換部31と同様に構成される。
また、画像変換部31には、例えば、チューナで受信された放送番組のノイズ画像や、記録媒体から再生されるノイズ画像が供給される。そして、ノイズ画像は、水平予測タップ抽出部61、水平クラスタップ抽出部62、垂直予測タップ抽出部65、垂直クラスタップ抽出部66、斜め予測タップ抽出部431、および斜めクラスタップ抽出部432に供給される。
斜め予測タップ抽出部431は、そこに供給されたノイズ画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とする。さらに、斜め予測タップ抽出部431は、注目画素に対応する、ノイズ画像を変換して得ようとするノイズ除去画像の画素の画素値を予測する予測演算に用いる複数の画素である斜め予測タップを、供給されてくるノイズ画像から抽出する。
即ち、斜め予測タップ抽出部431は、例えば、図25右上に示される、注目画素と、その注目画素の斜め方向に位置する複数の画素である斜め方向のタップ423を、斜め予測タップとして抽出する。ここで、図25では、図25右上に白丸で示す注目画素の左上の、黒丸で示す1個の画素、注目画素の右上の、黒丸で示す1個の画素、注目画素の左下の、黒丸で示す1個の画素、注目画素の右下の、黒丸で示す1個の画素、および注目画素の、合計5個の画素が、斜め方向のタップ423として示されている。
斜め予測タップ抽出部431は、ノイズ画像から抽出した斜め予測タップを予測演算部435に供給する。
斜めクラスタップ抽出部432は、斜め予測タップ抽出部431により抽出された斜め予測タップを、複数の斜めクラスのうちのいずれかの斜めクラスにクラス分けする斜めクラス分類に用いる複数の画素である斜めクラスタップを、供給されてくるノイズ画像から抽出する。
即ち、斜めクラスタップ抽出部432は、例えば、図25右上に示される、注目画素と、その周りに位置する複数の画素である斜め方向のタップ423を、斜めクラスタップとして抽出する。
なお、ここでは、説明を簡単にするために、斜め予測タップと斜めクラスタップとは、同一のタップ構造(注目画素に対する位置関係)を有する複数の画素であるとする。但し、斜め予測タップと斜めクラスタップとは、異なるタップ構造の複数の画素とすることができる。
斜めクラスタップ抽出部432において得られる、斜め予測タップに対応する斜めクラスタップは、斜めクラス分類部433に供給される。斜めクラス分類部433は、斜めクラスタップ抽出部432からの斜めクラスタップに基づいて斜め予測タップを斜めクラス分類し、その結果得られた斜めクラスに対応する斜めクラスコードを、斜め係数記憶部434に出力する。
ここで、斜めクラス分類を行う方法としては、例えば、上述した水平クラス分類部63で行われる水平クラス分類と同様の方法を採用することができる。
斜め係数記憶部434は、後述する学習によってあらかじめ求められた斜めクラスごとの斜め係数のセットを記憶しており、その記憶している斜め係数のセットのうちの、斜めクラス分類部433から供給された斜めクラスコードに対応するアドレスに記憶されている斜め係数(斜めクラス分類部433から供給された斜めクラスコードが表す斜めクラスに対応する斜め係数)を、予測演算部435に出力する。
予測演算部435は、水平予測タップ抽出部61から供給された水平予測タップ、垂直予測タップ抽出部65から供給された垂直予測タップ、水平係数記憶部64から供給された水平係数、垂直係数記憶部68から供給された垂直係数、斜め予測タップ抽出部431から供給された斜め予測タップ、および斜め係数記憶部434から供給された斜め係数に基づいて、所定の予測演算を行うことにより、注目画素に対応する、ノイズ除去画像の画素の画素値(の予測値)を求めて出力する。
次に、図26を参照して、図25の予測演算部435で行われる予測演算を説明する。
図26は、図25の予測演算部435の詳細な構成例を示すブロック図である。
なお、図中、図3の場合に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。
即ち、図26の予測演算部435は、斜め予測演算部461、ゲイン調整部462、および加算部463が新たに設けられているほかは、図3の予測演算部69の場合と同様に構成されている。
なお、図26では、図3の水平クラスタップ抽出部62、水平クラス分類部63、垂直クラスタップ抽出部66、および垂直クラス分類部67の図示は、省略してある。
斜め予測演算部461には、斜め係数記憶部434からの斜め係数w’’nと、斜め予測タップ抽出部431からの斜め予測タップx’’nとが供給される。
斜め予測演算部461は、斜め係数記憶部434からの斜め係数w’’n、および斜め予測タップ抽出部431からの斜め予測タップx’’nとを用いた斜め予測演算を行い、その結果得られた斜め処理画像の画素(以下、適宜、斜め画素という)の画素値Rを、ゲイン調整部462に供給する。
ここで、斜め予測タップと斜め係数とを用いた斜め予測演算として、水平予測演算や垂直予測演算と同様に、線形1次予測演算を採用し、斜め画素の画素値Rを求めることとすると、斜め画素の画素値Rは、次の線形1次式によって求められることになる。
Figure 0005029869
・・・(11)
但し、式(11)において、x’’nは、注目画素に対応する斜め画素(ノイズ画像の注目画素と同一の位置にある斜め処理画像の画素)についての斜め予測タップを構成する複数のノイズ画素のうちのn番目のノイズ画素の画素値を表している。ここで、例えば、斜め予測タップが、図25右上に示した、注目画素と、その周りに位置する複数の画素である斜め方向のタップ423とすると、n番目のノイズ画素の画素値とは、斜め方向のタップ423に付された番号nに対応するノイズ画素の画素値を示している。なお、x’’1は、注目画素の画素値を表しており、注目画素の画素値であるx1と同一であるため、以下、x1ともいう。
また、w’’nは、n番目のノイズ画素の画素値と乗算される斜め係数を表す。なお、式(11)では、斜め予測タップが、N個のノイズ画素x’’1,・・・,x’’Nで構成されるものとしている。
斜め予測演算により求められる斜め画素の画素値Rは、w’’11+w’’2x’’2+・・・+w’’N-1x’’N-1+w’’Nx’’N={(w’’1−1)x1+w’’2x’’2+・・・+w’’N-1x’’N-1+w’’Nx’’N}+x1となり、r={(w’’1−1)x1+w’’2x’’2+・・・+w’’N-1x’’N-1+w’’Nx’’N}とすれば、R=r+x1となる。
ここで、rは、斜め予測演算により求められた斜め画素の画素値Rからノイズ画素の注目画素の画素値x1を差し引くことで得られる差分の画素値を表す。従って、以下、適宜、rを斜め差分rという。
斜め差分rを導入することにより、斜め画素の画素値Rは、ノイズ画素の注目画素の画素値x1に斜め差分rを加算することで得られる画素値と考えることができる。斜め画素は、斜め予測演算により、ノイズ画素(の画素値)に含まれるノイズが除去された画素であるから、斜め差分rは、いわば、斜め係数w’’nと斜め予測タップの画素値x’’nとを用いた斜め予測演算による、ノイズの除去の効果分(以下、適宜、斜め処理効果分という)であるということができる。
斜め予測演算部461は、上述した斜め予測演算により求められた斜め画素の画素値Rを、ゲイン調整部462に供給する。
ゲイン調整部462には、図25の斜め予測タップ抽出部431から、注目画素の画素値x1が供給される。
ゲイン調整部462は、斜め予測演算部461から供給された斜め画素の画素値Rから、斜め予測タップ抽出部431から供給されたノイズ画像の注目画素の画素値x1を差し引くゲイン調整演算を行い、その結果得られた画素値である斜め差分rを加算部463に供給する。
加算部463は、加算部104から供給された画素値H+vと、ゲイン調整部462から供給された斜め差分rとを加算し、その結果得られた画素値H+v+rを、ノイズ除去画像を予測した画素値として出力する。
ここで、図26の斜め予測タップ抽出部431、斜めクラスタップ抽出部432、斜めクラス分類部433、斜め係数記憶部434、および斜め予測演算部461を総称して斜めマッピング部471といい、その斜めマッピング部471が、斜め係数を用いて、順次、注目画素とされるノイズ画素の画素値x1を、斜め画素の画素値Rに変換する処理を、以下、適宜、斜めマッピング処理という。
また、斜め画素の画素値Rは、斜め処理画像の画素値を示すものであるため、以下、単に、斜め処理画像Rともいう。
さらに、図26の斜め予測タップ抽出部431、斜めクラスタップ抽出部432、斜めクラス分類部433、斜め係数記憶部434、斜め予測演算部461、およびゲイン調整部462を総称して斜め差分マッピング部472といい、その斜め差分マッピング部472が、斜め係数を用いて、順次、注目画素とされるノイズ画素の画素値x1を、斜め差分rに変換する処理を、以下、適宜、斜め差分マッピング処理という。
次に、図27のフローチャートを参照して、図25の画像変換部31における画像変換処理を説明する。
この画像変換処理は、例えば、チューナで受信された放送番組のノイズ画像や、記録媒体から再生されるノイズ画像が、画像変換部31に供給されたときに開始される。このとき、水平予測タップ抽出部61、水平クラスタップ抽出部62、垂直予測タップ抽出部65、垂直クラスタップ抽出部66、斜め予測タップ抽出部431、および斜めクラスタップ抽出部432には、ノイズ画像が供給される。
即ち、ステップS311乃至ステップS314において、図4のステップS31乃至ステップS34それぞれと同様の処理が行われ、処理は、ステップS315に進み、斜め差分マッピング部472(図26)は、注目画素について斜め差分マッピング処理を行い、その結果得られた斜め差分rを、加算部463に供給して、処理は、ステップS316に進む。
ステップS316において、加算部463は、加算部104からの水平垂直処理画像H+vと、斜め差分マッピング部472からの斜め差分rとを加算し、注目画素に対応する、ノイズ除去画像の画素値y=H+v+rを得て出力する。
その後、ステップS316からステップS317に進み、図4のステップS35と同様の処理が行われる。
即ち、ステップS317では、水平マッピング部71の水平予測タップ抽出部61は、まだ注目画素とされていないノイズ画像の画素が存在するか否かを判定する。
ステップS317において、まだ注目画素とされていないノイズ画像が存在すると判定された場合、処理は、ステップS311に戻り、水平マッピング部71の水平予測タップ抽出部61は、まだ注目画素とされていないノイズ画像のうちの1つを、新たな注目画素とし、処理は、ステップS312に進み、以下、同様の処理を繰り返す。
ステップS317において、まだ注目画素とされていないノイズ画素が存在しないと判定された場合、画像変換処理は終了される。
なお、図25の画像変換部31では、水平タップにおける学習処理で求められる水平係数、垂直タップにおける学習処理で求められる垂直係数、および斜めタップにおける学習処理で求められる斜め係数を用いて、画像変換処理を行うことができる。
ここで、斜めタップにおける学習処理とは、ノイズ除去画像に相当する画像を教師画像とするとともに、ノイズ画像に相当する画像を生徒画像として、斜め予測タップおよび斜めクラスタップを用いて、斜め係数を学習する学習処理をいう。
なお、図8の学習部121において、予測タップ抽出部133が斜め予測タップを抽出し、クラスタップ抽出部134が斜め予測タップを抽出して、クラス分類部135が斜めクラス分類を行うようにすれば、斜めタップにおける学習処理を行うことができる。
即ち、予測タップ抽出部133は、ノイズ付加部132から供給された生徒画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とする。さらに、予測タップ抽出部133は、ノイズ付加部132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図25の斜め予測タップ抽出部431が注目画素について得る斜め予測タップと同一のタップ構造の斜め予測タップ(図25の斜め予測タップ抽出部431が注目画素について得る斜め予測タップを構成する画素と同一の位置関係にある生徒画像の画素からなる斜め予測タップ)を得て、足し込み部136に供給する。
クラスタップ抽出部134は、ノイズ付加部132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図25の斜めクラスタップ抽出部432が注目画素について得る斜めクラスタップと同一のタップ構造の斜めクラスタップ(図25の斜めクラスタップ抽出部432が注目画素について得る斜めクラスタップを構成する画素と同一の位置関係にある生徒画像の画素からなる斜めクラスタップ)を得て、クラス分類部135に供給する。
クラス分類部135は、クラスタップ抽出部134から供給された斜めクラスタップに基づき、図25の斜めクラス分類部433と同一の斜めクラス分類を行い、その結果得られた斜めクラスに対応する斜めクラスコードを、足し込み部136に供給する。
足し込み部136は、原画像記憶部131に記憶されている原画像を教師画像として、その教師画像のうちの注目画素に対応する画素(の画素値)を読み出し、その注目画素に対応する、教師画像の画素と、予測タップ抽出部133から供給された注目画素についての斜め予測タップを構成する生徒画像の画素とを対象とした足し込みを、クラス分類部135から供給された斜めクラスコードごとに行う。
即ち、足し込み部136には、原画像記憶部131に記憶された教師画像の画素のうちの、注目画素に対応する画素の画素値yk、予測タップ抽出部133が出力する注目画素についての斜め予測タップを構成する生徒画像の画素の画素値xn,k、クラス分類部135が出力する、斜め予測タップの斜めクラスを表す斜めクラスコードが供給される。
そして、足し込み部136は、クラス分類部135から供給された斜めクラスコードに対応する斜めクラスごとに、斜め予測タップ(生徒画像)xn,kを用い、式(10)の左辺の行列における生徒画像どうしの乗算(xn,kn',k)と、サメーション(Σ)に相当する演算を行う。
さらに、足し込み部136は、やはり、クラス分類部135から供給された斜めクラスコードに対応する斜めクラスごとに、斜め予測タップ(生徒画像)xn,kと教師画像ykを用い、式(10)の右辺のベクトルにおける生徒画像xn,kおよび教師画像ykの乗算(xn,kk)と、サメーション(Σ)に相当する演算を行う。
即ち、足し込み部136は、前回、注目画素とされた生徒画像について求められた式(10)における左辺の行列のコンポーネント(Σxn,kn',k)と、右辺のベクトルのコンポーネント(Σxn,kk)を、その内蔵するメモリ(図示せず)に記憶しており、その行列のコンポーネント(Σxn,kn',k)またはベクトルのコンポーネント(Σxn,kk)に対して、新たに注目画素とされた生徒画像について、その生徒画像xn,k+1および教師画像yk+1を用いて計算される、対応するコンポーネントxn,k+1n',k+1またはxn,k+1k+1を足し込む(式(10)のサメーションで表される加算を行う)。
そして、足し込み部136は、ノイズ付加部132により生成された生徒画像の画素すべてを注目画素として、上述の足し込みを行うことにより、各斜めクラスについて、式(10)に示した正規方程式をたてると、その正規方程式を、係数算出部137に供給する。
係数算出部137は、足し込み部136から供給された各斜めクラスについての正規方程式を解くことにより、各斜めクラスについて、斜め係数w’’nを求めて出力する。
次に、図28は、上述した図25の画像変換部31で用いられる水平係数、垂直係数、および斜め係数を学習する3段差分学習部491の構成例を示すブロック図である。
3段差分学習部491は、図10の2段差分学習部151の水平タップ学習部161乃至垂直タップ差分学習部163それぞれと同様に構成される水平タップ学習部2161乃至垂直タップ学習部2163、図10の画像変換部152の垂直差分マッピング部164または加算部165それぞれと同様に構成される垂直差分マッピング部2164または加算部2165、および斜めタップ差分学習部531から構成されている。
なお、図28には、説明の便宜上、図25の画像変換部31に相当する画像変換部492も図示してある。
画像変換部492は、水平マッピング部2162、垂直差分マッピング部2164、加算部2165、斜め差分マッピング部532、および加算部533から構成される。斜め差分マッピング部532は、図26の斜め差分マッピング部472と同様に構成される。
斜めタップ差分学習部531は、水平タップ学習部2161で教師画像として用いられる原画像と生徒画像として用いられるノイズ画像、および加算部2165から供給された水平垂直処理画像H+vを用いて、斜めタップにおける水平垂直差分の差分学習処理を行い、斜め係数を学習する。
即ち、斜めタップ差分学習部531は、原画像、ノイズ画像、および水平垂直処理画像H+vから、後述するようにして、原画像と[水平差分h+垂直差分v]との差分である原画像−[水平差分h+垂直差分v]を生成し、その原画像−[水平差分h+垂直差分v]を教師画像とするとともに、ノイズ画像を生徒画像として、斜め予測タップ及び斜めクラスタップを用いて斜め係数を学習する、斜めタップにおける水平垂直差分の差分学習処理を行う。
なお、斜めタップ差分学習部531の、斜めタップにおける水平垂直差分の差分学習処理は、後述する図29を参照して、詳細に説明する。
図25の画像変換部31における画像変換処理では、図28の3段差分学習部491により求められた水平係数、垂直係数、および斜め係数を用いることができる。
ここで、図28において、画像変換部492は、図25の画像変換部31と同様に構成される。画像変換部492では、次のようにして、ノイズ画像を原画像(の予測値)に変換する画像変換処理が行われる。
即ち、画像変換部492では、水平マッピング部2162、垂直差分マッピング部2164、加算部2165において、図10の水平マッピング部162、垂直差分マッピング部164、加算部165とそれぞれ同様の処理が行われる。
そして、斜め差分マッピング部532において、斜めタップ差分学習部531での斜めタップにおける水平垂直差分の差分学習処理により得られる斜め係数を用いて、ノイズ画像を斜め差分rに変換する斜め差分マッピング処理を行い、その斜め差分rを、加算部533に供給する。
加算部533には、加算部2165から、水平垂直処理画像H+vが供給される。
加算部533は、図26の加算部463と同様に構成され、加算部2165から供給された水平垂直処理画像H+vと、斜め差分マッピング部532から供給された斜め差分rとを加算し、その結果得られた画素値H+v+rで構成される、原画像を予測した画像(以下、適宜、水平垂直斜め処理画像という)を出力する。
次に、図29は、斜めタップにおける水平垂直差分の差分学習処理を行う図28の斜めタップ差分学習部531の詳細な構成例を示すブロック図である。
斜めタップ差分学習部531は、図15の水平タップ差分学習部285の原画像記憶部2131乃至係数算出部2137それぞれと同様に構成される原画像記憶部3131乃至係数算出部3137と、差分画像生成部543とから構成される。
差分画像生成部543には、ノイズ付加部3132から生徒画像が供給されるとともに、図28の加算部2165から、水平垂直処理画像H+vが供給される。
差分画像生成部543は、ノイズ付加部3132から供給された生徒画像(ノイズ画像)x1を、図28の加算部2165から供給された水平垂直処理画像H+v=h+v+x1から差し引くことで、[水平差分h+垂直差分v]を生成する。
また、差分画像生成部543は、原画像記憶部3131に記憶されている原画像を読み出し、その原画像から、生成した[水平差分h+垂直差分v]を差し引き、その結果得られた原画像―[水平差分h+垂直差分v]を、教師画像として、足し込み部3136に供給する。
斜め予測タップ抽出部3133は、ノイズ付加部3132から供給された生徒画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とする。さらに、斜め予測タップ抽出部3133は、ノイズ付加部3132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図25の斜め予測タップ抽出部431が注目画素について得る斜め予測タップと同一のタップ構造の斜め予測タップを得て、足し込み部3136に供給する。
斜めクラスタップ抽出部3134は、ノイズ付加部3132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図25の斜めクラスタップ抽出部432が注目画素について得る斜めクラスタップと同一のタップ構造の斜めクラスタップを得て、斜めクラス分類部3135に供給する。
斜めクラス分類部3135は、斜めクラスタップ抽出部3134から供給された斜めクラスタップに基づき、図25の斜めクラス分類部433と同一の斜めクラス分類を行い、その結果得られた斜めクラスに対応する斜めクラスコードを、足し込み部3136に供給する。
なお、足し込み部3136は、差分画像生成部543から供給された教師画像の画素のうちの、注目画素に対応する画素と、斜め予測タップ抽出部3133から供給された注目画素についての斜め予測タップを構成する生徒画像の画素とを対象とした足し込みを、斜めクラス分類部3135から供給された斜めクラスコードごとに行うことにより、各斜めクラスについて正規方程式をたてると、その正規方程式を、係数算出部3137に供給する。
係数算出部3137は、足し込み部3136から供給された各斜めクラスについての正規方程式を解くことにより、各斜めクラスについて、斜め係数を求めて出力する。
以上のように構成される斜めタップ差分学習部531では、原画像と[水平差分h+垂直差分v]との差分である原画像―[水平差分h+垂直差分v]を教師画像とするとともに、ノイズ画像を生徒画像として、斜め係数を学習することから、ノイズ画像を、原画像から、水平マッピング処理による水平処理効果分としての水平差分hと垂直マッピング処理による垂直処理効果分としての垂直差分vとを差し引いた画像に変換する斜め係数が求められる。
次に、図30のフローチャートを参照して、図28の3段差分学習部491における3段差分学習処理を説明する。
ステップS331において、水平タップ学習部2161は、水平タップにおける学習処理、即ち、ノイズ除去画像に相当する画像である原画像を教師画像とするとともに、ノイズ画像に相当する画像を生徒画像として、水平予測タップおよび水平クラスタップを用いた水平係数を学習する学習処理を行い、その結果得られた水平係数を、水平マッピング部2162に供給する。
その後、処理は、ステップS331からステップS332に進み、水平マッピング部2162は、水平タップ学習部2161で生徒画像として用いられるノイズ画像(に相当する画像)と、水平タップ学習部2161から供給された水平係数を用いて、水平マッピング処理を行い、その結果得られた水平処理画像Hを、垂直タップ差分学習部2163に供給する。
そして、処理は、ステップS332からステップS333に進み、垂直タップ差分学習部2163は、水平タップ学習部2161で教師画像として用いられる原画像と、水平マッピング部2162から供給された水平処理画像Hとを用いて、垂直タップにおける水平差分の差分学習処理を行い、その結果得られた垂直係数を、垂直差分マッピング部2164に供給して、処理は、ステップS334に進む。
ステップS334において、垂直差分マッピング部2164は、水平タップ学習部2161で生徒画像として用いられるノイズ画像と、垂直タップ差分学習部2163から供給された垂直係数とを用いて、垂直差分マッピング処理を行い、その結果得られた垂直差分vを、加算部2165に供給して、処理は、ステップS335に進む。
ステップS335において、加算部2165は、水平マッピング部2162から供給された水平処理画像Hと、垂直差分マッピング部2164から供給された垂直差分vとを加算し、その結果得られた水平垂直処理画像H+vを、斜めタップ差分学習部531に供給して、処理は、ステップS336に進む。
ステップS336において、斜めタップ差分学習部531は、水平タップ学習部2161で教師画像として用いられる原画像と、加算部2165から供給された水平垂直処理画像H+vとを用いて、斜めタップにおける水平垂直差分の差分学習処理を行い、斜め係数を学習する。
その後、3段差分学習処理は、終了される。
次に、図31のフローチャートを参照して、図30のステップS336の、斜めタップにおける水平垂直差分の差分学習処理の詳細を説明する。
ステップS341において、斜めタップ差分学習部531(図29)のノイズ付加部3132は、原画像記憶部3131に記憶されている原画像を読み出し、その原画像にノイズを付加することでノイズ画像に相当する画像を、生徒画像として生成し、差分画像生成部543、斜め予測タップ抽出部3133および斜めクラスタップ抽出部3134に供給する。なお、原画像記憶部3131には、図28の水平タップ学習部2161で教師画像として用いられるのと同一の原画像が、記憶されている。
処理は、ステップS341からステップS342に進み、差分画像生成部543は、ノイズ付加部3132から供給されたノイズ画像x1を、図28の加算部2165から供給された水平垂直処理画像H+v=h+v+x1から差し引くことで、[水平差分h+垂直差分v]を生成する。
また、ステップS342において、差分画像生成部543は、原画像記憶部3131に記憶されている原画像を読み出し、その原画像から、生成した[水平差分h+垂直差分v]を差し引き、その結果得られた原画像―[水平差分h+垂直差分v]を、教師画像として、足し込み部3136に供給する。
処理は、ステップS342からステップS343に進み、斜め予測タップ抽出部3133は、ノイズ付加部3132から供給された生徒画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素として、処理は、ステップS344に進む。
ステップS344において、斜め予測タップ抽出部3133は、ノイズ付加部3132から供給された生徒画像を構成する画素のうちの、注目画素についての斜め予測タップとなる複数の画素を抽出し、足し込み部3136に供給する。
処理は、ステップS344からステップS355に進み、斜めクラスタップ抽出部3134は、ノイズ付加部3132から供給された生徒画像を構成する画素のうちの、注目画素についての斜めクラスタップとなる複数の画素を抽出し、斜めクラス分類部3135に供給する。
処理は、ステップS345からステップS346に進み、斜めクラス分類部3135は、斜めクラスタップ抽出部3134から供給された斜めクラスタップに基づき、図25の斜めクラス分類部433と同一の斜めクラス分類を行い、その結果得られた斜めクラスに対応する斜めクラスコードを、足し込み部3136に供給して、処理は、ステップS347に進む。
ステップS347において、足し込み部3136は、差分画像生成部543から供給された教師画像の画素のうちの、注目画素に対応する画素と、斜め予測タップ抽出部3133から供給された注目画素についての斜め予測タップを構成する生徒画像の画素とを対象とした足し込みを、斜めクラス分類部3135から供給された斜めクラスコードごとに行う。
処理は、ステップS347からステップS348に進み、斜め予測タップ抽出部3133は、ノイズ付加部3132から供給された生徒画像を構成する画素のうちの、まだ注目画素とされていない画素が存在するか否かを判定する。
ステップS348において、まだ注目画素とされていない画素が存在すると判定された場合、処理は、ステップS343に戻り、斜め予測タップ抽出部3133は、まだ注目画素とされていない生徒画像を構成する画素のうちの1つを、新たな注目画素として、処理は、ステップS344に進み、以下、同様の処理を繰り返す。
一方、ステップS348において、まだ注目画素とされていない生徒画像の画素が存在しないと判定された場合、即ち、足し込み部3136においては、ノイズ付加部3132により生成された生徒画像の画素すべてを注目画素として、上述の足し込みを行うことにより、各斜めクラスについて、式(10)に示した正規方程式が得られた場合、足し込み部3136は、その正規方程式を、係数算出部3137に供給する。そして、処理は、ステップS348からステップS349に進み、係数算出部3137は、足し込み部3136から供給された各斜めクラスについての正規方程式を解くことにより、各斜めクラスについて、斜め係数w’’nを求めて出力する。
その後、処理は、図30のステップS336にリターンする。
ところで、図28の3段差分学習部491で求められる水平係数、垂直係数、および斜め係数によれば、水平係数を用いた水平予測演算による水平処理効果分、垂直係数を用いた垂直処理効果分、および斜め係数を用いた斜め処理効果分の寄与分が同等とならない。
そこで、図32は、水平係数を用いた水平予測演算による水平処理効果分、垂直係数を用いた垂直予測演算による垂直処理効果分、および斜め係数を用いた斜め予測演算による斜め処理効果分の寄与分が同等となるように、水平係数、垂直係数、および斜め係数を求める3段反復学習部581の構成例を示すブロック図である。
図32の3段反復学習部581は、水平処理部601、垂直処理部602、および斜め処理部603により構成される。
水平処理部601は、斜め処理部603から供給された画像などに基づいて、水平係数を学習する。さらに、水平処理部601は、学習によって得られる水平係数などに基づいて画像を生成し、垂直処理部602に供給する。
垂直処理部602は、水平処理部601から供給された画像などに基づいて、垂直係数を学習する。さらに、垂直処理部602は、学習によって得られる垂直係数などに基づいて画像を生成し、斜め処理部603に供給する。
斜め処理部603は、垂直処理部602から供給された画像などに基づいて、斜め係数を学習する。さらに、斜め処理部603は、学習によって得られる斜め係数などに基づいて画像を生成し、水平処理部601に供給する。
図33は、図32の水平処理部601の詳細な構成例を示すブロック図である。
水平処理部601は、水平タップ学習部631、水平マッピング部632、水平タップ差分学習部633、および水平差分加算マッピング部634により構成される。また、水平差分加算マッピング部634は、水平差分マッピング部661および加算部662により構成される。
水平タップ学習部631は、図8の学習部121と同様に構成され、水平タップにおける学習処理、即ち、ノイズ除去画像に相当する画像である原画像を教師画像とするとともに、ノイズ画像に相当する画像を生徒画像として、水平予測タップおよび水平クラスタップを用いて、水平係数を学習する学習処理を行い、その結果得られた水平係数を、水平マッピング部632および水平差分加算マッピング部634(水平差分マッピング部661)に供給する。
水平マッピング部632は、水平タップ学習部631で生徒画像として用いられるノイズ画像と、水平タップ学習部631または水平タップ差分学習部633から供給された水平係数を用いて、水平マッピング処理を行い、その結果得られた水平処理画像Hを、垂直処理部602(図32)に供給する。
水平タップ差分学習部633は、水平タップ学習部631で教師画像として用いられる原画像と生徒画像として用いられるノイズ画像、および斜め処理部603から供給された垂直斜め処理画像V+rを用いて、水平タップにおける垂直斜め差分の差分学習処理を行い、水平係数を学習する。
即ち、水平タップ差分学習部633は、原画像、ノイズ画像、および垂直斜め処理画像V+rから、後述するようにして、原画像と[垂直差分v+斜め差分r]との差分である原画像−[垂直差分v+斜め差分r]を生成し、その原画像−[垂直差分v+斜め差分r]を教師画像とするとともに、ノイズ画像を生徒画像として、水平予測タップおよび水平クラスタップを用いて水平係数を学習する、水平タップにおける垂直斜め差分の差分学習処理を行う。
なお、水平タップ差分学習部633の、水平タップにおける垂直斜め差分の差分学習処理は、後述する図34を参照して、詳細に説明する。
また、水平タップ差分学習部633は、学習した水平係数を、水平マッピング部632および水平差分加算マッピング部634(水平差分マッピング部661)に供給する。
水平差分加算マッピング部634は、斜め水平処理画像R+hを生成し、垂直処理部602に供給する。
即ち、水平差分加算マッピング部634の水平差分マッピング部661は、水平タップ学習部631で生徒画像として用いられるノイズ画像と、水平タップ学習部631または水平タップ差分学習部633から供給された水平係数を用いて、水平差分マッピング処理を行い、その結果得られた水平差分hを、加算部662に供給する。
加算部662は、水平差分マッピング部661から供給された水平差分hと、斜め処理部603から供給された斜め処理画像Rとを加算し、その結果得られた斜め水平処理画像R+hを、垂直処理部602に供給する。
ここで、上述のように、水平差分マッピング部661と加算部662とで構成される水平差分加算マッピング部634は、水平差分hを求め、その水平差分hと、斜め処理部603から供給された斜め処理画像Rとを加算する処理を行うため、かかる処理を、以下、適宜、水平差分加算マッピング処理という。
図34は、水平タップにおける垂直斜め差分の差分学習処理を行う図33の水平タップ差分学習部633の詳細な構成例を示すブロック図である。
水平タップ差分学習部633は、図15の水平タップ差分学習部285の原画像記憶部2131乃至係数算出部2137それぞれと同様に構成される原画像記憶部4131乃至係数算出部4137と、差分画像生成部673とから構成される。
差分画像生成部673には、ノイズ付加部4132から生徒画像が供給されるとともに、図32の斜め処理部603から、垂直斜め処理画像V+rが供給される。
差分画像生成部673は、ノイズ付加部4132から供給された生徒画像(ノイズ画像)x1を、図32の斜め処理部603から供給された垂直斜め処理画像V+r=v+x1+rから差し引くことで、[垂直差分v+斜め差分r]を生成する。
また、差分画像生成部673は、原画像記憶部4131に記憶されている原画像を読み出し、その原画像から、生成した[垂直差分v+斜め差分r]を差し引き、その結果得られた原画像―[垂直差分v+斜め差分r]を、教師画像として、足し込み部4136に供給する。
水平予測タップ抽出部4133は、ノイズ付加部4132から供給された生徒画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とする。さらに、水平予測タップ抽出部4133は、ノイズ付加部4132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図25の水平予測タップ抽出部61が注目画素について得る水平予測タップと同一のタップ構造の水平予測タップを得て、足し込み部4136に供給する。
水平クラスタップ抽出部4134は、ノイズ付加部4132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図25の水平クラスタップ抽出部62が注目画素について得る水平クラスタップと同一のタップ構造の水平クラスタップを得て、水平クラス分類部4135に供給する。
水平クラス分類部4135は、水平クラスタップ抽出部4134から供給された水平クラスタップに基づき、図25の水平クラス分類部63と同一の水平クラス分類を行い、その結果得られた水平クラスに対応する水平クラスコードを、足し込み部4136に供給する。
なお、足し込み部4136は、差分画像生成部673から供給された教師画像の画素のうちの、注目画素に対応する画素と、水平予測タップ抽出部4133から供給された注目画素についての水平予測タップを構成する生徒画像の画素とを対象とした足し込みを、水平クラス分類部4135から供給された水平クラスコードごとに行うことにより、各水平クラスについて正規方程式をたてると、その正規方程式を、係数算出部4137に供給する。
係数算出部4137は、足し込み部4136から供給された各水平クラスについての正規方程式を解くことにより、各水平クラスについて、水平係数を求めて出力する。
図35は、図32の垂直処理部602の詳細な構成例を示すブロック図である。
垂直処理部602は、垂直タップ学習部691、垂直マッピング部692、垂直タップ差分学習部693、および垂直差分加算マッピング部694により構成される。また、垂直差分加算マッピング部694は、垂直差分マッピング部721および加算部722により構成される。
垂直タップ学習部691は、図8の学習部121と同様に構成され、垂直タップにおける学習処理、、即ち、ノイズ除去画像に相当する画像である原画像を教師画像とするとともに、ノイズ画像に相当する画像を生徒画像として、垂直予測タップおよび垂直クラスタップを用いて、垂直係数を学習する学習処理を行い、その結果得られた垂直係数を、垂直マッピング部692および垂直差分加算マッピング部694(垂直差分マッピング部721)に供給する。
垂直マッピング部692は、垂直タップ学習部691で生徒画像として用いられるノイズ画像と、垂直タップ学習部691または垂直タップ差分学習部693から供給された垂直係数を用いて、垂直マッピング処理を行い、その結果得られた垂直処理画像Vを、斜め処理部603(図32)に供給する。
垂直タップ差分学習部693は、垂直タップ学習部691で教師画像として用いられる原画像と生徒画像として用いられるノイズ画像、および水平処理部601から供給された斜め水平処理画像R+hを用いて、垂直タップにおける斜め水平差分の差分学習処理を行い、水平係数を学習する。
即ち、垂直タップ差分学習部693は、原画像、ノイズ画像、および斜め水平処理画像R+hから、原画像と[斜め差分r+水平差分h]との差分である原画像−[斜め差分r+水平差分h]を生成し、その原画像−[斜め差分r+水平差分h]を教師画像とするとともに、ノイズ画像を生徒画像として、垂直予測タップおよび垂直クラスタップを用いて垂直係数を学習する、垂直タップにおける斜め水平差分の差分学習処理を行う。
なお、垂直タップ差分学習部693の、垂直タップにおける斜め水平差分の差分学習処理は、後述する図36を参照して、詳細に説明する。
また、垂直タップ差分学習部693は、学習した垂直係数を、垂直マッピング部692および垂直差分加算マッピング部694(垂直差分マッピング部721)に供給する。
垂直差分加算マッピング部694は、水平垂直処理画像H+vを生成し、斜め処理部603に供給する。
即ち、垂直差分加算マッピング部694の垂直差分マッピング部721は、垂直タップ学習部691で生徒画像として用いられるノイズ画像と、垂直タップ学習部691または垂直タップ差分学習部693から供給された垂直係数を用いて、垂直差分マッピング処理を行い、その結果得られた垂直差分vを、加算部722に供給する。
加算部722は、垂直差分マッピング部721から供給された垂直差分vと、水平処理部601から供給された水平処理画像Hとを加算し、その結果得られた水平垂直処理画像H+vを、斜め処理部603に供給する。
ここで、上述のように、垂直差分マッピング部721と加算部722とで構成される垂直差分加算マッピング部694は、垂直差分vを求め、その垂直差分vと、水平処理部601から供給された水平処理画像Hとを加算する処理を行うが、かかる処理を、以下、適宜、垂直差分加算マッピング処理という。
図36は、垂直タップにおける斜め水平差分の差分学習処理を行う図35の垂直タップ差分学習部693の詳細な構成例を示すブロック図である。
垂直タップ差分学習部693は、図34の水平タップ差分学習部633の原画像記憶部4131乃至係数算出部4137それぞれと同様に構成される原画像記憶部5131乃至係数算出部5137と、差分画像生成部733とから構成される。
差分画像生成部733には、ノイズ付加部5132から生徒画像が供給されるとともに、図32の水平処理部601から、斜め水平処理画像R+hが供給される。
差分画像生成部733は、ノイズ付加部5132から供給された生徒画像(ノイズ画像)x1を、図32の水平処理部601から供給された斜め水平処理画像R+h=r+x1+hから差し引くことで、[斜め差分r+水平差分h]を生成する。
また、差分画像生成部733は、原画像記憶部5131に記憶されている原画像を読み出し、その原画像から、生成した[斜め差分r+水平差分h]を差し引き、その結果得られた原画像―[斜め差分r+水平差分h]を、教師画像として、足し込み部5136に供給する。
垂直予測タップ抽出部5133は、ノイズ付加部5132から供給された生徒画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とする。さらに、垂直予測タップ抽出部5133は、ノイズ付加部5132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図25の垂直予測タップ抽出部65が注目画素について得る垂直予測タップと同一のタップ構造の垂直予測タップを得て、足し込み部5136に供給する。
垂直クラスタップ抽出部5134は、ノイズ付加部5132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図25の垂直クラスタップ抽出部66が注目画素について得る垂直クラスタップと同一のタップ構造の垂直クラスタップを得て、垂直クラス分類部5135に供給する。
垂直クラス分類部5135は、垂直クラスタップ抽出部5134から供給された垂直クラスタップに基づき、図25の垂直クラス分類部67と同一の垂直クラス分類を行い、その結果得られた垂直クラスに対応する垂直クラスコードを、足し込み部5136に供給する。
なお、足し込み部5136は、差分画像生成部733から供給された教師画像の画素のうちの、注目画素に対応する画素と、垂直予測タップ抽出部5133から供給された注目画素についての垂直予測タップを構成する生徒画像の画素とを対象とした足し込みを、垂直クラス分類部5135から供給された垂直クラスコードごとに行うことにより、各垂直クラスについて正規方程式をたてると、その正規方程式を、係数算出部5137に供給する。
係数算出部5137は、足し込み部5136から供給された各垂直クラスについての正規方程式を解くことにより、各垂直クラスについて、垂直係数を求めて出力する。
図37は、図32の斜め処理部603の詳細な構成例を示すブロック図である。
斜め処理部603は、斜めタップ学習部751、斜めマッピング部752、斜めタップ差分学習部753、および斜め差分加算マッピング部754により構成される。また、斜め差分加算マッピング部754は、斜め差分マッピング部781および加算部782により構成される。
斜めタップ学習部751は、図8の学習部121と同様に構成され、斜めタップにおける学習処理、即ち、ノイズ除去画像に相当する画像である原画像を教師画像とするとともに、ノイズ画像に相当する画像を生徒画像として、斜め予測タップおよび斜めクラスタップを用いた斜め係数を学習する学習処理を行い、その結果得られた斜め係数を、斜めマッピング部752および斜め差分加算マッピング部754(斜め差分マッピング部781)に供給する。
斜めマッピング部752は、斜めタップ学習部751で生徒画像として用いられるノイズ画像と、斜めタップ学習部751または斜めタップ差分学習部753から供給された斜め係数を用いて、斜めマッピング処理を行い、その結果得られた斜め処理画像Rを、水平処理部601(図32)に供給する。
斜めタップ差分学習部753は、斜めタップ学習部751で教師画像として用いられる原画像と生徒画像として用いられるノイズ画像、および垂直処理部602から供給された水平垂直処理画像H+vを用いて、斜めタップにおける水平垂直差分の差分学習処理を行い、斜め係数を学習する。
即ち、斜めタップ差分学習部753は、原画像、ノイズ画像、および水平垂直処理画像H+vから、原画像と[水平差分h+垂直差分v]との差分である原画像−[水平差分h+垂直差分v]を生成し、その原画像−[水平差分h+垂直差分v]を教師画像とするとともに、ノイズ画像を生徒画像として、斜め予測タップおよび斜めクラスタップを用いて斜め係数を学習する、斜めタップにおける水平垂直差分の差分学習処理を行う。
なお、斜めタップ差分学習部753の、斜めタップにおける水平垂直差分の差分学習処理は、後述する図38を参照して、詳細に説明する。
また、斜めタップ差分学習部753は、学習した斜め係数を、斜めマッピング部752および斜め差分加算マッピング部754(斜め差分マッピング部781)に供給する。
斜め差分加算マッピング部754は、垂直斜め処理画像V+rを生成し、水平処理部601に供給する。
即ち、斜め差分加算マッピング部754の斜め差分マッピング部781は、斜めタップ学習部751で生徒画像として用いられるノイズ画像と、斜めタップ学習部751または斜めタップ差分学習部753から供給された斜め係数を用いて、斜め差分マッピング処理を行い、その結果得られた斜め差分rを、加算部782に供給する。
加算部782は、斜め差分マッピング部781から供給された斜め差分rと、垂直処理部602から供給された垂直処理画像Vとを加算し、その結果得られた垂直斜め処理画像V+rを生成し、水平処理部601に供給する。
ここで、上述のように、斜め差分マッピング部781と加算部782とで構成される斜め差分加算マッピング部754は、斜め差分rを求め、その斜め差分rと、垂直処理部602から供給された垂直処理画像Vとを加算する処理を行うが、かかる処理を、以下、適宜、斜め差分加算マッピング処理という。
図38は、斜めタップにおける水平垂直差分の差分学習処理を行う図37の斜めタップ差分学習部753の詳細な構成例を示すブロック図である。
斜めタップ差分学習部753は、図34の水平タップ差分学習部633の原画像記憶部4131乃至係数算出部4137それぞれと同様に構成される原画像記憶部6131乃至係数算出部6137と、差分画像生成部793とから構成される。
差分画像生成部793には、ノイズ付加部6132から生徒画像が供給されるとともに、図32の垂直処理部602から、水平垂直処理画像H+vが供給される。
差分画像生成部793は、ノイズ付加部6132から供給された生徒画像(ノイズ画像)x1を、図32の垂直処理部602から供給された水平垂直処理画像H+v=h+x1+vから差し引くことで、[水平差分h+垂直差分v]を生成する。
また、差分画像生成部793は、原画像記憶部6131に記憶されている原画像を読み出し、その原画像から、生成した[水平差分h+垂直差分v]を差し引き、その結果得られた原画像―[水平差分h+垂直差分v]を、教師画像として、足し込み部6136に供給する。
斜め予測タップ抽出部6133は、ノイズ付加部6132から供給された生徒画像を構成する画素を、例えば、ラスタスキャン順に、順次、注目画素とする。さらに、斜め予測タップ抽出部6133は、ノイズ付加部6132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図25の斜め予測タップ抽出部431が注目画素について得る斜め予測タップと同一のタップ構造の斜め予測タップを得て、足し込み部6136に供給する。
斜めクラスタップ抽出部6134は、ノイズ付加部6132から供給された生徒画像を構成する画素のうちの所定のものを抽出することにより、図25の斜めクラスタップ抽出部432が注目画素について得る斜めクラスタップと同一のタップ構造の斜めクラスタップを得て、斜めクラス分類部6135に供給する。
斜めクラス分類部6135は、斜めクラスタップ抽出部6134から供給された斜めクラスタップに基づき、図25の斜めクラス分類部433と同一の斜めクラス分類を行い、その結果得られた斜めクラスに対応する斜めクラスコードを、足し込み部6136に供給する。
なお、足し込み部6136は、差分画像生成部793から供給された教師画像の画素のうちの、注目画素に対応する画素と、斜め予測タップ抽出部6133から供給された注目画素についての斜め予測タップを構成する生徒画像の画素とを対象とした足し込みを、斜めクラス分類部6135から供給された斜めクラスコードごとに行うことにより、各斜めクラスについて正規方程式をたてると、その正規方程式を、係数算出部6137に供給する。
係数算出部6137は、足し込み部6136から供給された各斜めクラスについての正規方程式を解くことにより、各斜めクラスについて、斜め係数を求めて出力する。
図39は、図32の3段反復学習部581による、水平係数、垂直係数、および斜め係数を反復して求める3段反復学習処理を説明する図である。
図中左側から1番目の、上下方向に伸びた点線の矩形内には、水平タップ学習部631、水平マッピング部632、水平タップ差分学習部633、および水平差分加算マッピング部634が示されており、図32の水平処理部601による処理の流れを示している。
また、図中左側から2番目の、上下方向に伸びた点線の矩形内には、垂直タップ学習部691、垂直マッピング部692、垂直タップ差分学習部693、および垂直差分加算マッピング部694が示されており、図32の垂直処理部602による処理の流れを示している。
さらに、図中左側から3番目(右側から1番目)の、上下方向に伸びた点線の矩形内には、斜めタップ学習部751、斜めマッピング部752、斜めタップ差分学習部753、および斜め差分加算マッピング部754が示されており、図32の斜め処理部603による処理の流れを示している。
なお、図中、実線で表された矢印は、水平マッピング部632や、水平差分加算マッピング部634、垂直マッピング部692、垂直差分加算マッピング部694、斜めマッピング部752、斜め差分加算マッピング部754で生成された画像の流れを示している。
また、図中、点線で表された矢印は、水平タップ学習部631や、水平タップ差分学習部633、垂直タップ学習部691、垂直タップ差分学習部693、斜めタップ学習部751、斜めタップ差分学習部753で学習された係数の流れを示している。
さらに、図中下側には、図28で説明した画像変換部492が示されている。
いま、教師画像と生徒画像とを用いたn回目の学習処理を、第n−1世代の学習処理というとともに、第n−1世代の学習によって求められる第n−1世代の水平係数、第n−1世代の垂直係数、および第n−1世代の斜め係数のセットを、第n−1世代の係数セットということとする。
第0世代の学習処理では、水平処理部601の水平タップ学習部631は、水平係数を求め、水平マッピング部632と水平差分加算マッピング部634に供給する。垂直処理部602の垂直タップ学習部691は、垂直係数を求め、垂直マッピング部692と垂直差分加算マッピング部694に供給する。さらに、斜め処理部603の斜めタップ学習部751は、斜め係数を求め、斜めマッピング部752と斜め差分加算マッピング部754に供給する。これにより、第0世代の係数セットが求められる。
第1世代の学習処理では、第0世代で求められた係数セットに基づいて、第1世代の係数セットが求められる。
即ち、第1世代の学習処理では、水平処理部601の水平マッピング部632は、水平タップ学習部631からの第0世代の水平係数を用いて、水平マッピング処理を行い、その結果得られた水平処理画像Hを、垂直処理部602の垂直差分加算マッピング部694に供給する。
垂直処理部602の垂直差分加算マッピング部694は、垂直タップ学習部691からの第0世代の垂直係数と、水平マッピング部632から供給された水平処理画像Hを用いて、垂直差分加算マッピング処理を行い、その結果得られた水平垂直処理画像H+vを、斜め処理部603の斜めタップ差分学習部753に供給する。
斜め処理部603の斜めタップ差分学習部753は、垂直差分加算マッピング部694から供給された水平垂直処理画像H+vを用いて、斜めタップにおける水平垂直差分の差分学習処理を行い、第1世代の斜め係数を求め、斜めマッピング部752と斜め差分加算マッピング部754に供給する。
また、第1世代の学習処理では、垂直処理部602の垂直マッピング部692は、垂直タップ学習部691からの第0世代の垂直係数を用いて、垂直マッピング処理を行い、その結果得られた垂直処理画像Vを、斜め処理部603の斜め差分加算マッピング部754に供給する。
斜め処理部603の斜め差分加算マッピング部754は、斜めタップ学習部751からの第0世代の斜め係数と、垂直マッピング部692から供給された垂直処理画像Vを用いて、斜め差分加算マッピング処理を行い、その結果得られた垂直斜め処理画像V+rを、水平処理部601の水平タップ差分学習部633に供給する。
水平処理部601の水平タップ差分学習部633は、斜め差分加算マッピング部754から供給された垂直斜め処理画像V+rを用いて、水平タップにおける垂直斜め差分の差分学習処理を行い、第1世代の水平係数を求め、水平マッピング部632と水平差分加算マッピング部634に供給する。
さらに、第1世代の学習処理では、斜め処理部603の斜めマッピング部752は、斜めタップ学習部751からの第0世代の斜め係数を用いて、斜めマッピング処理を行い、その結果得られた斜め処理画像Rを、水平処理部601の水平差分加算マッピング部634に供給する。
水平処理部601の水平差分加算マッピング部634は、水平タップ学習部631の第0世代の水平係数と、斜めマッピング部752から供給された斜め処理画像Rを用いて、水平差分加算マッピング処理を行い、その結果得られた斜め水平処理画像R+hを、垂直処理部602の垂直タップ差分学習部693に供給する。
垂直処理部602の垂直タップ差分学習部693は、水平差分加算マッピング部634から供給された斜め水平処理画像R+hを用いて、垂直タップにおける斜め水平差分の差分学習処理を行い、第1世代の垂直係数を求め、垂直マッピング部692と垂直差分加算マッピング部694に供給する。
これにより、第1世代の係数セットである、水平係数、垂直係数、および斜め係数が求められ、第2世代では、第1世代で求められた係数セットに基づいて、第2世代の係数セットである、水平係数、垂直係数、および斜め係数が求められる。
第3世代、第4世代、・・・、第n世代において、第2世代と同様の処理が行われ、第3世代の係数セット、第4世代、・・・、第N世代の係数セットが求められる。
なお、3段反復学習処理は、3段反復学習部581により求められる係数セットを用いた、図39下側に示される画像変換部492の画像変換処理による結果H+v+rと、原画像との自乗誤差を最小にする係数セットが求められたとき、または、あらかじめ決められた世代の学習処理がおこなわれたときなどに終了する。
また、3段反復学習部581により求められる係数セットにより画像変換処理を行う場合は、求められた係数セットの、水平係数、垂直係数、または斜め係数を、どの順番で用いてもかまわない。
次に、図40のフローチャートを参照して、図32の3段反復学習部581における3段反復学習処理を説明する。
ステップS361において、水平処理部601の水平タップ学習部631は、水平係数を求め、水平マッピング部632と水平差分加算マッピング部634に供給する。また、ステップS361において、垂直処理部602の垂直タップ学習部691は、垂直係数を求め、垂直マッピング部692と垂直差分加算マッピング部694に供給する。さらに、ステップS361において、斜め処理部603の斜めタップ学習部751は、斜め係数を求め、斜めマッピング部752と斜め差分加算マッピング部754に供給する。
処理は、ステップS361からステップS362に進み、水平処理部601の水平マッピング部632は、水平タップ学習部631からの水平係数を用いて、水平マッピング処理を行い、その結果得られた水平処理画像Hを、垂直処理部602の垂直差分加算マッピング部694に供給する。
また、ステップS362において、垂直処理部602の垂直マッピング部692は、垂直タップ学習部691からの垂直係数を用いて、垂直マッピング処理を行い、その結果得られた垂直処理画像Vを、斜め処理部603の斜め差分加算マッピング部754に供給する。
さらに、ステップS362において、斜め処理部603の斜めマッピング部752は、斜めタップ学習部751からの斜め係数を用いて、斜めマッピング処理を行い、その結果得られた斜め処理画像Rを、水平処理部601の水平差分加算マッピング部634に供給する。
その後、処理は、ステップS362からステップS363に進み、水平処理部601の水平差分加算マッピング部634は、水平タップ学習部631の水平係数と、斜めマッピング部752から供給された斜め処理画像Rを用いて、水平差分加算マッピング処理を行い、その結果得られた斜め水平処理画像R+hを、垂直処理部602の垂直タップ差分学習部693に供給する。
また、ステップS363において、垂直処理部602の垂直差分加算マッピング部694は、垂直タップ学習部691からの垂直係数と、水平マッピング部632から供給された水平処理画像Hを用いて、垂直差分加算マッピング処理を行い、その結果得られた水平垂直処理画像H+vを、斜め処理部603の斜めタップ差分学習部753に供給する。
さらに、ステップS363において、斜め処理部603の斜め差分加算マッピング部754は、斜めタップ学習部751からの斜め係数と、垂直マッピング部692から供給された垂直処理画像Vを用いて、斜め差分加算マッピング処理を行い、その結果得られた垂直斜め処理画像V+rを、水平処理部601の水平タップ差分学習部633に供給する。
その後、処理は、ステップS363からステップS364に進み、水平処理部601の水平タップ差分学習部633は、斜め差分加算マッピング部754から供給された垂直斜め処理画像V+rを用いて、水平タップにおける垂直斜め差分の差分学習処理を行い、水平係数を求め、水平マッピング部632と水平差分加算マッピング部634に供給する。
また、ステップS364において、垂直処理部602の垂直タップ差分学習部693は、水平差分加算マッピング部634から供給された斜め水平処理画像R+hを用いて、垂直タップにおける斜め水平差分の差分学習処理を行い、垂直係数を求め、垂直マッピング部692と垂直差分加算マッピング部694に供給する。
さらに、ステップS364において、斜め処理部603の斜めタップ差分学習部753は、垂直差分加算マッピング部694から供給された水平垂直処理画像H+vを用いて、斜めタップにおける水平垂直差分の差分学習処理を行い、斜め係数を求め、斜めマッピング部752と斜め差分加算マッピング部754に供給する。
その後、処理は、ステップS364からステップS362に進み、以下、同様の処理を繰り返す。即ち、ステップS362およびステップS363においては、ステップS364で求められた水平係数、垂直係数、および斜め係数を用いてマッピング処理および差分加算マッピング処理が行われ、ステップS364では、その結果得られた画像に基づいて、差分学習処理が行われる。
以上のような図40の3段反復学習処理では、水平タップ学習部631が、ノイズ画像に相当する画像を生徒画像とするとともに、原画像を教師画像として、第0世代の水平係数を求め、水平タップ差分学習部633が、ノイズ画像に相当する画像を生徒画像とするとともに、前の世代で求められた水平係数、垂直係数、および斜め係数のうちの、水平係数を除いた係数である垂直係数および斜め係数を用いた予測演算による原画像への近似効果分、即ち、垂直係数による垂直処理効果分としての垂直差分vと、斜め係数による斜め処理効果分としての斜め差分rとを、原画像から差し引くことで得られる画像である原画像−[垂直差分v+斜め差分r]を教師画像として、第1乃至n世代の水平係数を求める。垂直係数および斜め係数も同様に求められる。従って、水平係数を用いた水平予測演算による水平処理効果分、垂直係数を用いた垂直予測演算による垂直処理効果分、および斜め係数を用いた斜め予測演算による斜め処理効果分による寄与分が、それぞれ、同等な水平係数、垂直係数、および斜め係数を求めることができる。
なお、図40の3段反復学習処理は、例えば、反復して求められる水平係数、垂直係数、および斜め係数がとる値が収束したときに、終了する。
また、図40の3段反復学習処理は、3段反復学習部581(図32)により求められる係数セットを用いた画像変換処理による結果と、原画像との自乗誤差とを最小にする係数セットが求められたとき、または、あらかじめ決められた世代の学習処理が行われたときなどに終了するようにしてもよい。
ところで、3段反復学習処理において、第0世代による学習処理では、図8の学習部121で求めた係数と同様、いずれも単独で、ノイズ画像をノイズ除去画像(の予測値)に変換することができる水平係数、垂直係数、および斜め係数が、第0世代の係数として求められる。
第1世代では、第0世代で求められた係数セットを用いることで得られる過剰な処理効果分を考慮する形で、係数セットを求める。また、第2世代乃至第n世代では、前回の世代で求められた係数セットを用いることで得られる処理効果分を考慮する形で、係数セットを反復して求める。
3段反復学習処理では、多くの場合、世代が進むにつれて、第0世代で求められた係数セットの、いわば、3重のノイズ除去の処理効果分が調整されていき、ノイズ除去の処理効果分が適切な係数セットが求められる。この場合、3段反復学習処理により求められる係数セットは、所定の値に収束する。
しかしながら、求められる係数セットによっては、世代を進めても、第0世代で求められた係数セットの、3重のノイズ除去の処理効果分が適切に調整されないことがある。この場合、3段反復学習処理により求められる係数セットは、所定の値に収束せずに発散または振動してしまう。
そこで、後述するボリューム処理により、前回求めた係数による処理効果分を抑制することで、3段反復学習処理により求められる係数セットがとる値を収束させることができる。なお、2段反復学習処理により求められる係数セットは、収束することが、実験によりわかっているため、2段反復学習処理に対して、後述するボリューム処理は必要ない。
次に、図41は、ボリューム処理を行う図32の3段反復学習部581による、水平係数、垂直係数、および斜め係数を反復して求める3段反復学習処理を説明する図である。
なお、図中、図39の場合に対応する部分については同一の符号を付してあり、以下、その説明は、適宜省略する。
即ち、図41は、新たにボリューム操作部811乃至813が設けられているほかは、図39の場合と同様に構成されている。
第0世代の学習処理では、水平処理部601の水平タップ学習部631は、水平係数を求めボリューム操作部811に供給する。また、垂直処理部602の垂直タップ学習部691は、垂直係数を求め、ボリューム操作部812に供給する。さらに、斜め処理部603の斜めタップ学習部751は、斜め係数を求め、ボリューム操作部813に供給する。これにより、第0世代の係数セットが求められる。
第1世代の学習処理では、第0世代で求められた係数セットに基づいて、第1世代の係数セットが求められる。
第1世代の学習処理では、水平処理部601のボリューム操作部811は、水平タップ学習部631からの第0世代の水平係数にボリューム処理を行い、水平処理部601の水平マッピング部632は、ボリューム処理された第0世代の水平係数を用いて、水平マッピング処理を行い、その結果得られた水平処理画像Hを、垂直処理部602の垂直差分加算マッピング部694に供給する。
垂直処理部602のボリューム操作部812は、垂直タップ学習部691からの第0世代の垂直係数にボリューム処理を行い、垂直処理部602の垂直差分加算マッピング部694は、ボリューム処理された第0世代の垂直係数と、水平マッピング部632から供給された水平処理画像Hを用いて、垂直差分加算マッピング処理を行い、その結果得られた水平垂直処理画像H+vを、斜め処理部603の斜めタップ差分学習部753に供給する。
斜め処理部603の斜めタップ差分学習部753は、垂直差分加算マッピング部694から供給された水平垂直処理画像H+vを用いて、斜めタップにおける水平垂直差分の差分学習処理を行い、第1世代の斜め係数を求め、ボリューム操作部813に供給する。
また、第1世代の学習処理では、垂直処理部602のボリューム操作部812は、垂直タップ学習部691からの第0世代の垂直係数にボリューム処理を行い、垂直処理部602の垂直マッピング部692は、ボリューム処理された第0世代の垂直係数を用いて、垂直マッピング処理を行い、その結果得られた垂直処理画像Vを、斜め処理部603の斜め差分加算マッピング部754に供給する。
斜め処理部603のボリューム操作部813は、斜めタップ学習部751からの第0世代の斜め係数にボリューム処理を行い、斜め処理部603の斜め差分加算マッピング部754は、ボリューム処理された第0世代の斜め係数と、垂直マッピング部692から供給された垂直処理画像Vを用いて、斜め差分加算マッピング処理を行い、その結果得られた垂直斜め処理画像V+rを、水平処理部601の水平タップ差分学習部633に供給する。
水平処理部601の水平タップ差分学習部633は、斜め差分加算マッピング部754から供給された垂直斜め処理画像V+rを用いて、水平タップにおける垂直斜め差分の差分学習処理を行い、第1世代の水平係数を求めて、ボリューム操作部811に供給する。
さらに、第1世代の学習処理では、斜め処理部603のボリューム操作部813は、斜めタップ学習部751からの第0世代の斜め係数にボリューム処理を行い、斜め処理部603の斜めマッピング部752は、ボリューム処理された第0世代の斜め係数を用いて、斜めマッピング処理を行い、その結果得られた斜め処理画像Rを、水平処理部601の水平差分加算マッピング部634に供給する。
水平処理部601のボリューム操作部811は、水平タップ学習部631からの第0世代の水平係数にボリューム処理を行い、水平処理部601の水平差分加算マッピング部634は、ボリューム処理された第0世代の水平係数と、斜めマッピング部752から供給された斜め処理画像Rを用いて、水平差分加算マッピング処理を行い、その結果得られた斜め水平処理画像R+hを、垂直処理部602の垂直タップ差分学習部693に供給する。
垂直処理部602の垂直タップ差分学習部693は、水平差分加算マッピング部634から供給された斜め水平処理画像R+hに基づいて、垂直タップにおける斜め水平差分の差分学習処理を行い、第1世代の垂直係数を求める。
これにより、第1世代の係数セットである、水平係数、垂直係数、および斜め係数が求められ、第2世代では、第1世代で求められた係数セットに基づいて、第2世代の係数セットである、水平係数、垂直係数、および斜め係数が求められる。
第3世代、第4世代、・・・、第n世代において、第2世代と同様の処理が行われ、第3世代の係数セット、第4世代、・・・、第N世代の係数セットが求められる。
なお、図41で行われる3段反復学習処理は、例えば、求められる係数セットがとる値が収束した場合に、終了する。
以上のようなボリューム処理を行うことにより、発散または振動してしまう係数セットを、収束させることができる。
即ち、図42は、係数のボリューム処理を説明する図である。
図中、左右方向に示される数字は、例えば、ノイズ画像の水平予測タップのタップ番号を示している。なお、タップ番号1のタップは、水平予測タップの注目画素x1であり、水平予測タップは、x1,x2,・・・,x5の5つのタップにより構成されているものとしている。
また、図中、上下方向に示される数字は、図中、左右方向に示されるタップ番号に対応する水平予測タップの画素値と乗算される水平係数(タップ番号に対応する水平係数)がとる値を示している。
さらに、図中、中央に示される実線のグラフVolume0.0は、水平マッピング処理の対象であるノイズ画像x1を、同一のノイズ画像x1に変換する水平係数のグラフを示している。即ち、実線のグラフVolume0.0では、タップ番号1の注目画素の水平係数は1.0になっており、それ以外の、タップ番号2乃至5の画素の水平係数は0.0になっている。
従って、実線のグラフVolume0.0が示す水平係数を用いた水平マッピング処理により得られる水平処理画像Hは、水平処理効果分のないノイズ画像x1である。
図中、中央に示される点線のグラフVolume1.0は、上述した3段反復学習処理のある世代で求められた水平係数を示すグラフである。
また、図中、中央に示される1点鎖線のグラフVolume0.5は、ボリューム値0.5によるボリューム処理により得られた水平係数のグラフを示している。
ここで、ボリューム値i(iは、0.0以上1.0以下の実数)によるボリューム処理では、実線のグラフVolume0.0が示す水平係数と値(1−i)との乗算値と、点線のグラフVolume1.0が示すある世代の水平係数と値iとの乗算値とを加算することで新たな水平係数が求められる。
従って、ボリューム値0.5によるボリューム処理によって得られた新たな係数を表す1点鎖線のグラフVolume0.5は、点線のグラフVolume1.0が表す水平係数と比較して、タップ番号1の注目画素の水平係数が大となり、それ以外の、タップ番号2乃至5の画素の水平係数が小となっている。
以上のようなボリューム値iによるボリューム処理においては、ボリューム値iを小に設定するほどに、例えば、図41の水平マッピング部632または水平差分加算マッピング部634により生成される水平差分hに対応する水平処理効果分などが抑制される。
従って、3段反復学習処理により求められる係数セットがとる値が収束することなく発散または振動する場合には、ボリューム値iによるボリューム処理を行うことで、前回の係数セットにおける処理効果分を抑制し、その処理効果分を考慮する形で、係数セットを反復して学習することで、係数セットがとる値を収束させることができる。
なお、ボリューム処理におけるボリューム値iは、ユーザがボリューム操作部811乃至813を操作することで設定することができる。
次に、図43乃至図46は、3段反復学習処理において、収束することなく発散または振動する係数セットに対して、ボリューム値0.5によるボリューム処理を行った場合の、第0世代乃至第4世代ごとの水平係数を示す図である。
図43は、所定の水平クラスに対応する世代ごとの水平係数を示す図である。
図中、左右方向に示される数字は、例えば、水平予測タップとしての水平方向に並ぶ9画素である、水平方向のタップ41に付されたタップ番号を示している。また、図中、上下方向に示される数字は、図中、左右方向に示されるタップ番号に対応する水平予測タップの画素値と乗算される水平係数(タップ番号に対応する水平係数)がとる値を示している。
さらに、図中、中央に示される5つのグラフrec0乃至rec4は、それぞれ、第0世代乃至第4世代の水平係数を示すグラフであり、タップ番号と、そのタップ番号に対応する水平予測タップの画素値と乗算される水平係数との対応を示すグラフである。
次に、図44は、図43により示された第0世代乃至第4世代の、タップ番号に対応する水平予測タップの画素値に乗算される水平係数それぞれが、世代が進むごとに、所定の値に収束することを示す図である。
図中、左右方向に示される数字は、図43で示された水平係数における世代を示している。また、図中、上下方向に示される数字は、図中、左右方向に示される世代で求められた水平係数がとる値を示している。
さらに、図中、中央に示される9つのグラフtap1乃至tap9は、それぞれ、タップ番号1乃至タップ番号9に対応する水平予測タップの画素値と乗算される水平係数を示すグラフであり、世代の変化に応じて、求められる水平係数が変化する様子を示すグラフである。
ここで、例えば、タップ番号1乃至タップ番号9に対応する水平係数のうちの、1番変化の大きいタップ番号1に対応する水平係数に注目すると、世代が進むにつれて、振幅が小さくなっていき、所定の値に収束する様子が示されている。
図45および図46は、3段反復学習により求められた他の水平クラスに対応する水平係数が、所定の値に収束する様子を模式的に示した図である。
図45および図46には、図43および図44で説明した所定の水平クラスに対応する水平係数とは異なる、他の水平クラスに対応する水平係数が、所定の値に収束する様子が示されているだけであるため、図45および図46の説明は、以下、省略する。
次に、上述した図2、図21、図23、および図25の画像変換部31、図8の学習部121、図10の2段差分学習部151、図14の2段反復学習部271、図18の2段差分学習部301、図19の2段反復学習部331、図28の3段差分学習部491、並びに図32の3段反復学習部581が行う一連の処理は、専用のハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、いわゆる組み込み型のコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム格納媒体からインストールされる。
図47は、上述した一連の処理をプログラムにより実行するコンピュータの構成例を示すブロック図である。
CPU(Central Processing Unit)981は、ROM(Read Only Memory)982、または記憶部988に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)983には、CPU981が実行するプログラムやデータなどが適宜記憶される。これらのCPU981、ROM982、およびRAM983は、バス984により相互に接続されている。
CPU981にはまた、バス984を介して入出力インタフェース985が接続されている。入出力インタフェース985には、キーボード、マウス、マイクロホンなどよりなる入力部986、ディスプレイ、スピーカなどよりなる出力部987が接続されている。CPU981は、入力部986から入力される指令に対応して各種の処理を実行する。そして、CPU981は、処理の結果を出力部987に出力する。
入出力インタフェース985に接続されている記憶部988は、例えばハードディスクからなり、CPU981が実行するプログラムや各種のデータを記憶する。通信部989は、インターネットやローカルエリアネットワークなどのネットワークを介して外部の装置と通信する。
また、通信部989を介してプログラムを取得し、記憶部988に記憶してもよい。
入出力インタフェース985に接続されているドライブ990は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア991が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部988に転送され、記憶される。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを格納するプログラム格納媒体は、図47に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア991、または、プログラムが一時的もしくは永続的に格納されるROM982や、記憶部988を構成するハードディスクなどにより構成される。プログラム格納媒体へのプログラムの格納は、必要に応じてルータ、モデムなどのインタフェースである通信部989を介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を利用して行われる。
なお、本明細書において、プログラム格納媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、図32の3段反復学習部581では、水平処理部601からの画像などに基づいて、垂直処理部602が垂直係数を学習し、垂直処理部602からの画像などに基づいて、斜め処理部603が斜め係数を学習することとし、さらに、斜め処理部603からの画像などに基づいて、水平処理部601が水平係数を学習することとしたが、水平処理部601、垂直処理部602、および斜め処理部603それぞれが行う処理は、それぞれの処理に対称な処理をしているため、画像を供給するブロックと、画像が供給されて係数を学習するブロックの順番を並び替えることができる。
具体的には、例えば、斜め処理部603からの画像などに基づいて、垂直処理部602が垂直係数を学習し、垂直処理部602からの画像などに基づいて、水平処理部601が水平係数を学習することとし、さらに、水平処理部601からの画像などに基づいて、斜め処理部603が斜め係数を学習することとしてもよい。
なお、本発明を適用した画像変換部は、例えば、テレビジョン受像機や、ハードディスクレコーダなどに適用することができる。
また、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
本発明を適用した画像変換部31の一実施の形態の構成例を示すブロック図である。 図1の画像変換部31の第1の構成例を示すブロック図である。 図2の予測演算部69の構成例を示すブロック図である。 図2の画像変換部31における画像変換処理を説明するフローチャートである。 図4のステップS32における水平マッピング処理の詳細を説明するフローチャートである。 図4のステップS33における垂直差分マッピング処理の詳細を説明するフローチャートである。 水平差分マッピング処理を行う水平差分マッピング部111の構成例を示すブロック図である。 係数を求める学習を行う学習部121の構成例を示すブロック図である。 図8の学習部121における学習処理を説明するフローチャートである。 図2の画像変換部31で用いられる水平係数および垂直係数を学習する2段差分学習部151の構成例を示すブロック図である。 垂直タップにおける水平差分の差分学習処理を行う図10の垂直タップ差分学習部163の詳細な構成例を示すブロック図である。 図10の2段差分学習部151における2段差分学習処理を説明するフローチャートである。 図12のステップS173の、垂直タップにおける水平差分の差分学習処理の詳細を説明するフローチャートである。 水平係数を用いた水平予測演算による水平処理効果分と、垂直係数を用いた垂直予測演算による垂直処理効果分との寄与分が同等となるように、水平係数および垂直係数を求める2段反復学習部271の構成例を示すブロック図である。 図14の水平タップ差分学習部285の詳細な構成例を示すブロック図である。 図14の2段反復学習部271における2段反復学習処理を説明するフローチャートである。 図16のステップS262の、水平タップにおける垂直差分の差分学習処理を説明するフローチャートである。 図2の画像変換部31で用いられる水平係数および垂直係数を学習する他の2段差分学習部301の構成例を示すブロック図である。 水平係数を用いた水平予測演算による水平処理効果分と、垂直係数を用いた垂直予測演算による垂直処理効果分との寄与分が同等となるように、水平係数および垂直係数を求める2段反復学習部331の構成例を示すブロック図である。 図14の2段反復学習部271と、図19の2段反復学習部331とのそれぞれによる、水平係数および垂直係数を反復して求める2段反復学習処理を説明する図である。 図1の画像変換部31の第2の構成例を示すブロック図である。 図21の係数合成部367の詳細な構成例を示すブロック図である。 図1の画像変換部31の第3の構成例を示すブロック図である。 図23のクラスタップ分配部402における、クラスタップの分割を説明する図である。 図1の画像変換部31の第4の構成例を示すブロック図である。 図25の予測演算部435の詳細な構成例を示すブロック図である。 図25の画像変換部31における画像変換処理を説明するフローチャートである。 図25の画像変換部31で用いられる水平係数、垂直係数、および斜め係数を学習する3段差分学習部491の構成例を示すブロック図である。 斜めタップにおける水平垂直差分の差分学習処理を行う図28の斜めタップ差分学習部531の詳細な構成例を示すブロック図である。 図28の3段差分学習部491における3段差分学習処理を説明するフローチャートである。 図30のステップS336の、斜めタップにおける水平垂直差分の差分学習処理を説明するフローチャートである。 水平係数を用いた水平予測演算による水平処理効果分と、垂直係数を用いた垂直予測演算による垂直処理効果分と、斜め係数を用いた斜め予測演算による斜め処理効果分の寄与分が同等となるように、水平係数、垂直係数、および斜め係数を求める3段反復学習部581の構成例を示すブロック図である。 図32の水平処理部601の詳細な構成例を示すブロック図である。 水平タップにおける斜め水平差分の差分学習処理を行う図33の水平タップ差分学習部633の詳細な構成例を示すブロック図である。 図32の垂直処理部602の詳細な構成例を示すブロック図である。 垂直タップにおける斜め水平差分の差分学習処理を行う図35の垂直タップ差分学習部693の詳細な構成例を示すブロック図である。 図32の斜め処理部603の詳細な構成例を示すブロック図である。 斜めタップにおける水平垂直差分の差分学習処理を行う図37の斜めタップ差分学習部753の詳細な構成例を示すブロック図である。 図32の3段反復学習部581による、水平係数、垂直係数、および斜め係数を反復して求める3段反復学習処理を説明する図である。 図32の3段反復学習部581における3段反復学習処理を説明するフローチャートである。 ボリューム処理を行う図32の3段反復学習部581による、水平係数、垂直係数、および斜め係数を反復して求める3段反復学習処理を説明する図である。 ボリューム処理により係数を操作する具体的な方法を説明する図である。 所定の水平クラスに対応する世代ごとの水平係数を示す図である。 図43により示された第0世代乃至第4世代の、タップ番号に対応する水平予測タップの画素値に乗算される水平係数それぞれが、世代が進むごとに、所定の値に収束することを示す図である。 他の水平クラスに対応する世代ごとの水平係数を示す図である。 図45により示された第0世代乃至第4世代の、タップ番号に対応する水平予測タップの画素値に乗算される水平係数それぞれが、世代が進むごとに、所定の値に収束することを示す他の図である。 コンピュータの構成例を示すブロック図である。
符号の説明
31 画像変換部, 61 水平予測タップ抽出部, 62 水平クラスタップ抽出部, 63 水平クラス分類部, 64 水平係数記憶部, 65 垂直予測タップ抽出部, 66 垂直クラスタップ抽出部, 67 垂直クラス分類部, 68 垂直係数記憶部, 69 予測演算部, 71 水平マッピング部, 72 垂直マッピング部, 73 垂直差分マッピング部, 101 水平予測演算部, 102 垂直予測演算部, 103 ゲイン調整部, 104 加算部, 111 水平差分マッピング部, 112 ゲイン調整部, 121 学習部, 131 原画像記憶部, 132 ノイズ付加部, 133 予測タップ抽出部, 134 クラスタップ抽出部, 135 クラス分類部, 136 足し込み部, 137 係数算出部, 151 2段差分学習部, 161 水平タップ学習部, 162 水平マッピング部, 163 垂直タップ差分学習部, 164 垂直差分マッピング部, 165 加算部, 271 2段反復学習部, 284 垂直マッピング部, 285 水平タップ差分学習部, 367 係数合成部, 431 斜め予測タップ抽出部, 432 斜めクラスタップ抽出部, 433 斜めクラス分類部, 斜め係数記憶部434, 435 予測演算部, 461 斜め予測演算部, 462 ゲイン調整部, 463 加算部, 471 斜めマッピング部, 472 斜め差分マッピング部, 491 3段差分学習部, 531 斜めタップ差分学習部, 581 3段反復学習部, 601 水平処理部, 602 垂直処理部, 603 斜め処理部, 631 水平タップ学習部, 632 水平マッピング部, 633 水平タップ差分学習部, 634 水平差分加算マッピング部, 661 水平差分マッピング部, 662 加算部, 691 垂直タップ学習部, 692 垂直マッピング部, 693 垂直タップ差分学習部, 694 垂直差分加算マッピング部, 721 垂直差分マッピング部, 722 加算部, 751 斜めタップ学習部, 752 斜めマッピング部, 753 斜めタップ差分学習部, 754 斜め差分加算マッピング部, 781 斜め差分マッピング部, 782 加算部

Claims (11)

  1. 第1の画像データを第2の画像データに変換する画像処理装置において、
    記第2の画像データを構成する各画素のうち、前記第1の画像データの注目している画素である注目画素に対応する画素を予測する予測演算に用いる複数の画素である予測タップを、前記第1の画像データから出する予測タップ抽出手段と、
    前記予測タップとして抽出された画素であって、所定の方向に並ぶ画素を表す所定方向予測タップのクラス分類に用いる複数の画素であるクラスタップを、前記第1の画像データから抽出するクラスタップ抽出手段と、
    前記予測タップとして抽出された画素であって、第1の方向に並ぶ画素を表す第1方向予測タップのクラス分類用とされる第1の前記クラスタップに基づいて、前記第1方向予測タップを、複数の第1方向クラスのいずれかの第1方向クラスにクラス分類する第1方向クラス分類手段と、
    前記予測タップとして抽出された画素であって、前記第1の方向とは異なる第2の方向に並ぶ画素を表す第2方向予測タップのクラス分類用とされる第2の前記クラスタップに基づいて、前記第2方向予測タップを、複数の第2方向クラスのいずれかの第2方向クラスにクラス分類する第2方向クラス分類手段と、
    前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習によりあらかじめ求められた、前記複数の第1方向クラス毎の第1方向係数を予め記憶している第1の記憶部から、前記第1方向予測タップの第1方向クラスに対応する第1方向係数出力させ第1方向係数出力手段と、
    前記学習によりあらかじめ求められた、前記複数の第2方向クラス毎の第2方向係数を予め記憶している第2の記憶部から、前記第2方向予測タップの第2方向クラスに対応する第2方向係数を出力させる第2方向係数出力手段と、
    前記第1方向係数出力手段から出力された前記第1方向係数、前記第2方向係数出力手段から出力された前記第2方向係数、及び前記予測タップ抽出手段により抽出された前記予測タップを用いた前記予測演算により、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する素を予測する予測演算手段と
    を備え
    前記予測演算手段は、
    前記予測タップ抽出手段が、前記予測タップとして、前記第1方向予測タップ及び前記第2方向予測タップを、前記第1の画像データから抽出するものである場合、
    前記予測演算として、前記第1方向予測タップと前記第1方向係数との積和演算、及び前記第2方向予測タップと前記第2方向係数との積和演算を行うことにより、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する画素を予測する
    像処理装置。
  2. 前記予測演算手段は、
    前記予測タップ抽出手段が、前記予測タップとして、前記第1の方向及び前記第2の方向に並ぶ複数の画素を表す複数方向予測タップを、前記第1の画像データから抽出するものである場合、
    前記予測演算として、前記第1方向係数及び前記第2方向係数を合成して得られる合成係数と、前記複数方向予測タップとの積和演算を行うことにより、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する画素を予測する
    請求項1に記載の画像処理装置。
  3. 第1の画像データを第2の画像データに変換する画像処理装置の画像処理方法において、
    記第2の画像データを構成する各画素のうち、前記第1の画像データの注目している画素である注目画素に対応する画素を予測する予測演算に用いる複数の画素である予測タップを、前記第1の画像データから出する予測タップ抽出ステップと、
    前記予測タップとして抽出された画素であって、所定の方向に並ぶ画素を表す所定方向予測タップのクラス分類に用いる複数の画素であるクラスタップを、前記第1の画像データから抽出するクラスタップ抽出ステップと、
    前記予測タップとして抽出された画素であって、第1の方向に並ぶ画素を表す第1方向予測タップのクラス分類用とされる第1の前記クラスタップに基づいて、前記第1方向予測タップを、複数の第1方向クラスのいずれかの第1方向クラスにクラス分類する第1方向クラス分類ステップと、
    前記予測タップとして抽出された画素であって、前記第1の方向とは異なる第2の方向に並ぶ画素を表す第2方向予測タップのクラス分類用とされる第2の前記クラスタップに基づいて、前記第2方向予測タップを、複数の第2方向クラスのいずれかの第2方向クラスにクラス分類する第2方向クラス分類ステップと、
    前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習によりあらかじめ求められた、前記複数の第1方向クラス毎の第1方向係数を予め記憶している第1の記憶部から、前記第1方向予測タップの第1方向クラスに対応する第1方向係数出力させ第1方向係数出力ステップと、
    前記学習によりあらかじめ求められた、前記複数の第2方向クラス毎の第2方向係数を予め記憶している第2の記憶部から、前記第2方向予測タップの第2方向クラスに対応する第2方向係数を出力させる第2方向係数出力ステップと、
    前記第1方向係数出力ステップで出力された前記第1方向係数、前記第2方向係数出力ステップで出力された前記第2方向係数、及び前記予測タップ抽出ステップで抽出された前記予測タップを用いた前記予測演算により、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する素を予測する予測演算ステップと
    を含み、
    前記予測演算ステップは、
    前記予測タップ抽出ステップが、前記予測タップとして、前記第1方向予測タップ及び前記第2方向予測タップを、前記第1の画像データから抽出するものである場合、
    前記予測演算として、前記第1方向予測タップと前記第1方向係数との積和演算、及び前記第2方向予測タップと前記第2方向係数との積和演算を行うことにより、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する画素を予測する
    像処理方法。
  4. 第1の画像データを第2の画像データに変換する画像処理をコンピュータに実行させるプログラムにおいて、
    記第2の画像データを構成する各画素のうち、前記第1の画像データの注目している画素である注目画素に対応する画素を予測する予測演算に用いる複数の画素である予測タップを、前記第1の画像データから出する予測タップ抽出ステップと、
    前記予測タップとして抽出された画素であって、所定の方向に並ぶ画素を表す所定方向予測タップのクラス分類に用いる複数の画素であるクラスタップを、前記第1の画像データから抽出するクラスタップ抽出ステップと、
    前記予測タップとして抽出された画素であって、第1の方向に並ぶ画素を表す第1方向予測タップのクラス分類用とされる第1の前記クラスタップに基づいて、前記第1方向予測タップを、複数の第1方向クラスのいずれかの第1方向クラスにクラス分類する第1方向クラス分類ステップと、
    前記予測タップとして抽出された画素であって、前記第1の方向とは異なる第2の方向に並ぶ画素を表す第2方向予測タップのクラス分類用とされる第2の前記クラスタップに基づいて、前記第2方向予測タップを、複数の第2方向クラスのいずれかの第2方向クラスにクラス分類する第2方向クラス分類ステップと、
    前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習によりあらかじめ求められた、前記複数の第1方向クラス毎の第1方向係数を予め記憶している第1の記憶部から、前記第1方向予測タップの第1方向クラスに対応する第1方向係数出力させ第1方向係数出力ステップと、
    前記学習によりあらかじめ求められた、前記複数の第2方向クラス毎の第2方向係数を予め記憶している第2の記憶部から、前記第2方向予測タップの第2方向クラスに対応する第2方向係数を出力させる第2方向係数出力ステップと、
    前記第1方向係数出力ステップで出力された前記第1方向係数、前記第2方向係数出力ステップで出力された前記第2方向係数、及び前記予測タップ抽出ステップで抽出された前記予測タップを用いた前記予測演算により、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する素を予測する予測演算ステップと
    を含み、
    前記予測演算ステップは、
    前記予測タップ抽出ステップが、前記予測タップとして、前記第1方向予測タップ及び前記第2方向予測タップを、前記第1の画像データから抽出するものである場合、
    前記予測演算として、前記第1方向予測タップと前記第1方向係数との積和演算、及び前記第2方向予測タップと前記第2方向係数との積和演算を行うことにより、前記第2の画像データを構成する各画素のうち、前記注目画素に対応する画素を予測する
    像処理をコンピュータに実行させるプログラム。
  5. 第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置において、
    前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、前記第1の係数を求める第1の学習手段と、
    前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至第M’―1(M’は、2以上M以下の自然数)の係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像とする前記学習により、前記第M’の係数を求める第2乃至第Mの学習手段と
    を備え、
    前記第1乃至第Mの学習手段のうちの第m(mは1以上M以下の自然数)の学習手段は、
    前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する前記予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出手段と、
    前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出手段と、
    前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類手段と、
    前記クラス分類手段によりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第mの前記係数を演算する演算手段と
    を有する
    学習装置。
  6. 第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置の学習方法において、
    前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、前記第1の係数を求める第1の学習ステップと、
    前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至第M’―1(M’は、2以上M以下の自然数)の係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像とする前記学習により、前記第M’の係数を求める第2乃至第Mの学習ステップと
    を含み、
    前記第1乃至第Mの学習ステップのうちの第m(mは1以上M以下の自然数)の学習ステップは、
    前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する前記予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出ステップと、
    前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出ステップと、
    前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類ステップと、
    前記クラス分類ステップによりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第mの前記係数を演算する演算ステップと
    を含む
    学習方法。
  7. 第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習処理をコンピュータに実行させるプログラムにおいて、
    前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、前記第1の係数を求める第1の学習ステップと、
    前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至第M’―1(M’は、2以上M以下の自然数)の係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像とする前記学習により、前記第M’の係数を求める第2乃至第Mの学習ステップと
    を含み、
    前記第1乃至第Mの学習ステップのうちの第m(mは1以上M以下の自然数)の学習ステップは、
    前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する前記予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出ステップと、
    前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出ステップと、
    前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類ステップと、
    前記クラス分類ステップによりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第mの前記係数を演算する演算ステップと
    を含む
    学習処理をコンピュータに実行させるプログラム。
  8. 第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を反復して、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置において、
    前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出手段と、
    前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出手段と、
    前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類手段と、
    前記クラス分類手段によりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第m(mは1以上M以下の自然数)の前記係数を演算する演算手段と
    を有する第1乃至第Mの学習手段
    を備え、
    前記第1乃至第Mの学習手段のうち第mの学習手段は、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、第mの係数を学習し、
    さらに、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至Mの係数のうち前記第mの係数を除く係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像として、前記第mの係数を学習する
    学習装置。
  9. Mが3以上である場合、前記第1乃至Mの係数のうち前記第mの係数を除く係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分を弱めるように、前記第1乃至Mの係数のうち前記第mの係数を除く係数のゲインを調整する第mの係数調整手段をさらに備え、
    前記第1乃至第Mの学習手段のうち前記第mの学習手段は、前記第1の画像データに相当する画像データを生徒画像とし、前記第mの係数調整手段によりゲインが調整された係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像として、前記第mの係数を学習する
    請求項8に記載の学習装置。
  10. 第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を反復して、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習装置の学習方法において、
    前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出ステップと、
    前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出ステップと、
    前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類ステップと、
    前記クラス分類ステップによりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第m(mは1以上M以下の自然数)の前記係数を演算する演算ステップと
    を有する第1乃至第Mの学習ステップ
    を含み、
    前記第1乃至第Mの学習ステップのうち第mの学習ステップは、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、第mの係数を学習し、
    さらに、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至Mの係数のうち前記第mの係数を除く係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像として、前記第mの係数を学習する
    学習方法。
  11. 第1の画像データを第2の画像データに変換する予測演算に用いられる第1乃至M(Mは2以上の自然数)の係数を反復して、前記第1の画像データに相当する画像データである生徒画像を用いた前記予測演算の結果と、前記第2の画像データに相当する画像データである教師画像との誤差を最小にする学習により求める学習処理をコンピュータに実行させるプログラムにおいて、
    前記教師画像を構成する各画素のうち、前記生徒画像の注目している画素である注目画素に対応する素を予測する予測演算に用いる複数の画素である予測タップを、前記生徒画像から抽出する予測タップ抽出ステップと、
    前記予測タップを複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類に用いる複数の画素であるクラスタップを、前記生徒画像から抽出するクラスタップ抽出ステップと、
    前記予測タップを、前記クラスタップに基づいて、複数のクラスのうちのいずれかのクラスにクラス分けするクラス分類ステップと、
    前記クラス分類ステップによりクラス分けされた前記予測タップのクラスごとに、前記予測タップを用いた前記予測演算の結果と、前記注目画素に対応する、前記教師画像の画素との誤差を最小にする第m(mは1以上M以下の自然数)の前記係数を演算する演算ステップと
    を有する第1乃至第Mの学習ステップ
    を含み、
    前記第1乃至第Mの学習ステップのうち第mの学習ステップは、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第2の画像データに相当する画像データを教師画像とする前記学習により、第mの係数を学習し、
    さらに、前記第1の画像データに相当する画像データを生徒画像とするとともに、前記第1乃至Mの係数のうち前記第mの係数を除く係数を用いた前記予測演算による前記第2の画像データに相当する画像データへの近似効果分の画素値を、その画素値に対応する、前記第2の画像データに相当する画像データの画素値から差し引くことで得られる画像データを教師画像として、前記第mの係数を学習する
    学習処理をコンピュータに実行させるプログラム。
JP2006304198A 2006-11-09 2006-11-09 画像処理装置および画像処理方法、学習装置および学習方法、並びにプログラム Expired - Fee Related JP5029869B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006304198A JP5029869B2 (ja) 2006-11-09 2006-11-09 画像処理装置および画像処理方法、学習装置および学習方法、並びにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006304198A JP5029869B2 (ja) 2006-11-09 2006-11-09 画像処理装置および画像処理方法、学習装置および学習方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2008124639A JP2008124639A (ja) 2008-05-29
JP5029869B2 true JP5029869B2 (ja) 2012-09-19

Family

ID=39508965

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006304198A Expired - Fee Related JP5029869B2 (ja) 2006-11-09 2006-11-09 画像処理装置および画像処理方法、学習装置および学習方法、並びにプログラム

Country Status (1)

Country Link
JP (1) JP5029869B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4957280B2 (ja) * 2007-02-15 2012-06-20 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
RU2708441C2 (ru) * 2015-06-24 2019-12-06 Сони Корпорейшн Устройство, способ и программа аудиообработки

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3590996B2 (ja) * 1993-09-30 2004-11-17 ソニー株式会社 ディジタル画像信号の階層符号化および復号装置
JP4223576B2 (ja) * 1996-08-26 2009-02-12 ソニー株式会社 画像信号変換装置および方法
JP4362895B2 (ja) * 1999-06-21 2009-11-11 ソニー株式会社 データ処理装置およびデータ処理方法、並びに記録媒体
JP4691812B2 (ja) * 2001-03-29 2011-06-01 ソニー株式会社 係数データの生成装置および生成方法、それを使用した情報信号の処理装置および処理方法
JP4238516B2 (ja) * 2002-04-26 2009-03-18 ソニー株式会社 データ変換装置およびデータ変換方法、学習装置および学習方法、並びにプログラムおよび記録媒体
JP4082079B2 (ja) * 2002-04-30 2008-04-30 ソニー株式会社 画像信号処理装置及びその方法
JP4333161B2 (ja) * 2003-02-25 2009-09-16 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
JP3918191B2 (ja) * 2004-02-20 2007-05-23 ソニー株式会社 記憶装置、データ処理装置およびデータ処理方法、プログラムおよび記録媒体、並びにデータ処理システム
JP4311258B2 (ja) * 2004-04-02 2009-08-12 ソニー株式会社 係数データの生成装置および生成方法、係数種データの生成装置および生成方法、情報信号処理装置、並びにプログラムおよびそれを記録した記録媒体
JP2006067346A (ja) * 2004-08-27 2006-03-09 Sony Corp 画像信号処理装置および画像信号処理方法並びにプログラムおよびそれを記録した媒体

Also Published As

Publication number Publication date
JP2008124639A (ja) 2008-05-29

Similar Documents

Publication Publication Date Title
JP4093621B2 (ja) 画像変換装置および画像変換方法、並びに学習装置および学習方法
JP2013021635A (ja) 画像処理装置、画像処理方法、プログラム、及び記録媒体
US20120321214A1 (en) Image processing apparatus and method, program, and recording medium
JP4362895B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
JP5029869B2 (ja) 画像処理装置および画像処理方法、学習装置および学習方法、並びにプログラム
JP4238516B2 (ja) データ変換装置およびデータ変換方法、学習装置および学習方法、並びにプログラムおよび記録媒体
JP4324825B2 (ja) データ処理装置およびデータ処理方法、並びに媒体
JP4470898B2 (ja) 画像処理装置および方法、並びに、プログラム
JP2001222702A (ja) 画像処理装置および画像処理方法、並びに記録媒体
JP2010118940A (ja) 画像処理装置、画像処理方法、及びプログラム
US20110243462A1 (en) Coefficient learning apparatus and method, image processing apparatus and method, program, and recording medium
JP4957280B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP3834805B2 (ja) 画像変換装置、画像変換方法、演算装置、演算方法、および記録媒体
JP4310697B2 (ja) 信号処理装置および方法、記録媒体、並びにプログラム
JP2007251690A (ja) 画像処理装置および方法、学習装置および方法、並びにプログラム
JP4770704B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP4512978B2 (ja) 画像処理装置および画像処理方法、プログラム、並びに記録媒体
CN1822676B (zh) 编码设备和方法、解码设备和方法、图像处理系统和方法
JP2000348019A (ja) データ処理装置およびデータ処理方法、並びに媒体
JP2009253873A (ja) 画像処理装置及び方法、並びにプログラム
JP4093114B2 (ja) 情報信号の処理装置および処理方法、コードブックの生成装置および生成方法、並びに各方法を実行するためのプログラム
JP5050944B2 (ja) 画像処理装置、画像処理方法、学習装置、学習方法、及びプログラム
JP4058671B2 (ja) 記憶制御装置および記憶制御方法、並びにプログラムおよび記録媒体
JP4235918B2 (ja) 画像処理装置および画像処理方法
JP2008118519A (ja) 画像変換装置及び画像変換方法、学習装置及び学習方法、並びにプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091028

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111024

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120531

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120613

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150706

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees