JP4161730B2 - Image processing apparatus and method, recording medium, and program - Google Patents

Description

・・・（１）
【００８４】
式（１）において、x₁は、検出素子の受光面の左側の境界の空間座標（Ｘ座標）である。x₂は、検出素子の受光面の右側の境界の空間座標（Ｘ座標）である。式（１）において、y₁は、検出素子の受光面の上側の境界の空間座標（Ｙ座標）である。y₂は、検出素子の受光面の下側の境界の空間座標（Ｙ座標）である。また、t₁は、入射された光の電荷への変換を開始した時刻である。t₂は、入射された光の電荷への変換を終了した時刻である。
【００８５】
なお、実際には、イメージセンサから出力される画像データの画素値は、例えばフレーム全体として、そのゲインが補正されている。
【００８６】
画像データの各画素値は、イメージセンサの各検出素子の受光面に入射した光の積分値であり、イメージセンサに入射された光のうち、検出素子の受光面よりも微小な実世界１の光の波形は、積分値としての画素値に隠されてしまう。
【００８７】
以下、本明細書において、所定の次元を基準として表現される信号の波形を単に波形とも称する。
【００８８】
このように、実世界１の画像は、画素を単位として、空間方向および時間方向に積分されてしまうので、画像データにおいては、実世界１の画像の定常性の一部が欠落し、実世界１の画像の定常性の他の一部のみが画像データに含まれることになる。または、画像データには、実世界１の画像の定常性から変化してしまった定常性が含まれることがある。
【００８９】
積分効果を有するイメージセンサにより撮像された画像の、空間方向の積分効果についてさらに説明する。
【００９０】
図１０は、画素Ｄ乃至画素Ｆに対応する検出素子に入射される光と、画素値との関係を説明する図である。図１０のF(x)は、空間上（検出素子上）の空間方向Ｘの座標xを変数とする、実世界１の光の強度の分布を表す関数の例である。言い換えれば、F(x)は、空間方向Ｙおよび時間方向に一定である場合の、実世界１の光の強度の分布を表す関数の例である。図１０において、Lは、画素Ｄ乃至画素Ｆに対応する検出素子の受光面の空間方向Ｘの長さを示す。
【００９１】
１つの画素の画素値は、F(x)の積分で表される。例えば、画素Ｅの画素値Pは、式（２）で表される。
【００９２】
【数２】

・・・（２）
【００９３】
式（２）において、x₁は、画素Ｅに対応する検出素子の受光面の左側の境界の空間方向Ｘの空間座標である。x₂は、画素Ｅに対応する検出素子の受光面の右側の境界の空間方向Ｘの空間座標である。
【００９４】
同様に、積分効果を有するイメージセンサにより撮像された画像の、時間方向の積分効果についてさらに説明する。
【００９５】
図１１は、時間の経過と、１つの画素に対応する検出素子に入射される光と、画素値との関係を説明する図である。図１１のF(t)は、時刻tを変数とする、実世界１の光の強度の分布を表す関数である。言い換えれば、F(t)は、空間方向Ｙおよび空間方向Ｘに一定である場合の、実世界１の光の強度の分布を表す関数の例である。t_sは、シャッタ時間を示す。
【００９６】
フレーム#n-1は、フレーム#nに対して時間的に前のフレームであり、フレーム#n+1は、フレーム#nに対して時間的に後のフレームである。すなわち、フレーム#n-1、フレーム#n、およびフレーム#n+1は、フレーム#n-1、フレーム#n、およびフレーム#n+1の順で表示される。
【００９７】
なお、図１１で示される例において、シャッタ時間t_sとフレーム間隔とが同一である。
【００９８】
１つの画素の画素値は、F(t)の積分で表される。例えば、フレーム#nの画素の画素値Pは、式（３）で表される。
【００９９】
【数３】

・・・（３）
【０１００】
式（３）において、t₁は、入射された光の電荷への変換を開始した時刻である。t₂は、入射された光の電荷への変換を終了した時刻である。
【０１０１】
以下、センサ２による空間方向の積分効果を単に空間積分効果と称し、センサ２による時間方向の積分効果を単に時間積分効果と称する。また、空間積分効果または時間積分効果を単に積分効果とも称する。
【０１０２】
次に、積分効果を有するイメージセンサにより取得されたデータ３に含まれるデータの定常性の例について説明する。
【０１０３】
図１２は、実世界１の線状の物（例えば、細線）の画像、すなわち光の強度の分布の例を示す図である。図１２において、図中の上方向の位置は、光の強度（レベル）を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。
【０１０４】
実世界１の線状の物の画像には、所定の定常性が含まれる。すなわち、図１２で示される画像は、長さ方向の任意の位置において、断面形状（長さ方向に直交する方向の位置の変化に対するレベルの変化）が同じであるという定常性を有する。
【０１０５】
図１３は、図１２で示される画像に対応する、実際の撮像により得られた画像データの画素値の例を示す図である。
【０１０６】
図１４は、図１３に示す画像データの模式図である。
【０１０７】
図１４で示される模式図は、イメージセンサの画素の並び（画素の縦または横の並び）とずれた方向に延びる、各画素の受光面の長さLよりも短い径の線状の物の画像を、イメージセンサで撮像して得られた画像データの模式図である。図１４で示される画像データが取得されたときにイメージセンサに入射された画像は、図１２の実世界１の線状の物の画像である。
【０１０８】
図１４において、図中の上方向の位置は、画素値を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。図１４における画素値を示す方向は、図１２におけるレベルの方向に対応し、図１４における空間方向Ｘ、および空間方向Ｙは、図１２における方向と同じである。
【０１０９】
各画素の受光面の長さLよりも短い径の線状の物の画像を、イメージセンサで撮像した場合、撮像の結果得られる画像データにおいて、線状の物は、模式的に、例えば、斜めにずれて並ぶ、複数の所定の長さの円弧形状（かまぼこ型）で表される。各円弧形状は、ほぼ同じ形状である。１つの円弧形状は、縦に１列の画素の上、または横に１列の画素の上に形成される。例えば、図１４における１つの円弧形状は、縦に１列の画素の上に形成される。
【０１１０】
このように、例えば、イメージセンサで撮像されて取得された画像データにおいては、実世界１の線状の物の画像が有していた、長さ方向の任意の位置において、空間方向Ｙにおける断面形状が同じであるという定常性が失われている。また、実世界１の線状の物の画像が有していた定常性は、縦に１列の画素の上、または横に１列の画素の上に形成された、同じ形状である円弧形状が一定の間隔で並ぶという定常性に変化していると言える。
【０１１１】
図１５は、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像、すなわち光の強度の分布の例を示す図である。図１５において、図中の上方向の位置は、光の強度（レベル）を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。
【０１１２】
背景とは異なる色の、直線状の縁を有する物の実世界１の画像には、所定の定常性が含まれる。すなわち、図１５で示される画像は、縁の長さ方向の任意の位置において、断面形状（縁に直交する方向の位置の変化に対するレベルの変化）が同じであるという定常性を有する。
【０１１３】
図１６は、図１５で示される画像に対応する、実際の撮像により得られた画像データの画素値の例を示す図である。図１６で示されるように、画像データは、画素を単位とした画素値からなるので、階段状になる。
【０１１４】
図１７は、図１６に示す画像データの模式図である。
【０１１５】
図１７で示される模式図は、イメージセンサの画素の並び（画素の縦または横の並び）とずれた方向に縁が延びる、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像を、イメージセンサで撮像して得られた画像データの模式図である。図１７で示される画像データが取得されたときにイメージセンサに入射された画像は、図１５で示される、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像である。
【０１１６】
図１７において、図中の上方向の位置は、画素値を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。図１７における画素値を示す方向は、図１５におけるレベルの方向に対応し、図１７における空間方向Ｘ、および空間方向Ｙは、図１５における方向と同じである。
【０１１７】
背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像を、イメージセンサで撮像した場合、撮像の結果得られる画像データにおいて、直線状の縁は、模式的に、例えば、斜めにずれて並ぶ、複数の所定の長さのつめ（pawl）形状で表される。各つめ形状は、ほぼ同じ形状である。１つのつめ形状は、縦に１列の画素の上、または横に１列の画素の上に形成される。例えば、図１７において、１つのつめ形状は、縦に１列の画素の上に形成される。
【０１１８】
このように、例えば、イメージセンサで撮像されて取得された画像データにおいては、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が有していた、縁の長さ方向の任意の位置において、断面形状が同じであるという定常性が失われている。また、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が有していた定常性は、縦に１列の画素の上、または横に１列の画素の上に形成された、同じ形状であるつめ形状が一定の間隔で並ぶという定常性に変化していると言える。
【０１１９】
データ定常性検出部１０１は、このような、例えば、入力画像であるデータ３が有するデータの定常性を検出する。例えば、データ定常性検出部１０１は、所定の次元の方向に一定の特徴を有する領域を検出することにより、データの定常性を検出する。例えば、データ定常性検出部１０１は、図１４で示される、同じ円弧形状が一定の間隔で並ぶ領域を検出する。また、例えば、データ定常性検出部１０１は、図１７で示される、同じつめ形状が一定の間隔で並ぶ領域を検出する。
【０１２０】
また、データ定常性検出部１０１は、同様の形状の並び方を示す、空間方向の角度（傾き）を検出することにより、データの定常性を検出する。
【０１２１】
また、例えば、データ定常性検出部１０１は、空間方向および時間方向の同様の形状の並び方を示す、空間方向および時間方向の角度（動き）を検出することにより、データの定常性を検出する。
【０１２２】
さらに、例えば、データ定常性検出部１０１は、所定の次元の方向に一定の特徴を有する領域の長さを検出することにより、データの定常性を検出する。
【０１２３】
以下、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像がセンサ２により射影されたデータ３の部分を２値エッジとも称する。
【０１２４】
次に、本発明の原理をさらに具体的に説明する。
【０１２５】
図１８で示されるように、従来の信号処理においては、データ３から、例えば、所望の高解像度データ１８１が生成される。
【０１２６】
これに対して、本発明に係る信号処理においては、データ３から、実世界１が推定され、推定の結果に基づいて、高解像度データ１８１が生成される。すなわち、図１９で示されるように、実世界１が、データ３から推定され、高解像度データ１８１が、データ３を考慮して、推定された実世界１から生成される。
【０１２７】
実世界１から高解像度データ１８１を生成するためには、実世界１とデータ３との関係を考慮する必要がある。例えば、実世界１が、CCDであるセンサ２により、データ３に射影されるとどうなるかが考慮される。
【０１２８】
CCDであるセンサ２は、上述したように、積分特性を有する。すなわち、データ３の１つの単位（例えば、画素値）は、実世界１の信号をセンサ２の検出素子（例えば、CCD）の検出領域（例えば、受光面）で積分することにより算出することができる。
【０１２９】
これを高解像度データ１８１について当てはめると、仮想的な高解像度のセンサが実世界１の信号をデータ３に射影する処理を、推定された実世界１に適用することにより、高解像度データ１８１を得ることができる。
【０１３０】
換言すれば、図２０で示されるように、データ３から実世界１の信号を推定できれば、実世界１の信号を、仮想的な高解像度のセンサの検出素子の検出領域毎に（時空間方向に）積分することにより、高解像度データ１８１に含まれる１つの値を得ることができる。
【０１３１】
例えば、センサ２の検出素子の検出領域の大きさに比較して、実世界１の信号の変化が、より小さいとき、データ３は、実世界１の信号の小さい変化を表すことができない。そこで、データ３から推定された実世界１の信号を、実世界１の信号の変化に比較して、より小さい領域毎に（時空間方向に）積分することにより、実世界１の信号の小さい変化を示す高解像度データ１８１を得ることができる。
【０１３２】
すなわち、仮想的な高解像度のセンサの各検出素子について、推定された実世界１の信号を検出領域で積分することにより、高解像度データ１８１を得ることができる。
【０１３３】
本発明において、画像生成部１０３は、例えば、仮想的な高解像度のセンサの各検出素子の時空間方向の領域で、推定された実世界１の信号を積分することにより、高解像度データ１８１を生成する。
【０１３４】
次に、データ３から、実世界１を推定するために、本発明においては、データ３と実世界１との関係、定常性、およびデータ３における空間混合が利用される。
【０１３５】
ここで、混合とは、データ３において、実世界１における２つの物体に対する信号が混合されて１つの値となることをいう。
【０１３６】
空間混合とは、センサ２の空間積分効果による、２つの物体に対する信号の空間方向の混合をいう。
【０１３７】
実世界１そのものは、無限の数の事象からなり、従って、実世界１そのものを、例えば、数式で表現するためには、無限の数の変数が必要になる。データ３から、実世界１の全ての事象を予測することはできない。
【０１３８】
同様に、データ３から、実世界１の信号の全てを予測することはできない。
【０１３９】
そこで、図２１で示されるように、本発明においては、実世界１の信号のうち、定常性を有し、関数f(x,y,z,t)で表すことができる部分に注目し、関数f(x,y,z,t)で表すことができる、定常性を有する実世界１の信号の部分が、Ｎ個の変数で表現されるモデル１６１で近似される。そして、図２２で示されるように、モデル１６１が、データ３の中の、Ｍ個のデータ１６２から予測される。
【０１４０】
Ｍ個のデータ１６２からモデル１６１の予測を可能にするには、第１に、モデル１６１を、定常性に基づいて、Ｎ個の変数で表し、第２に、センサ２の積分特性に基づいて、Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式を立てることが必要である。モデル１６１が、定常性に基づいて、Ｎ個の変数で表されているので、Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式は、定常性を有する実世界１の信号の部分と、データの定常性を有するデータ３の部分との関係を記述しているとも言える。
【０１４１】
換言すれば、Ｎ個の変数で表現されるモデル１６１で近似される、定常性を有する実世界１の信号の部分は、データ３において、データの定常性を生じさせる。
【０１４２】
データ定常性検出部１０１は、定常性を有する実世界１の信号の部分によって、データの定常性が生じたデータ３の部分、およびデータの定常性が生じた部分の特徴を検出する。
【０１４３】
例えば、図２３で示されるように、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像において、図２３中Ａで示す、注目する位置における縁は、傾きを有している。図２３のＢの矢印は、縁の傾きを示す。所定の縁の傾きは、基準となる軸に対する角度または基準となる位置に対する方向で表すことができる。例えば、所定の縁の傾きは、空間方向Ｘの座標軸と、縁との角度で表すことができる。例えば、所定の縁の傾きは、空間方向Ｘの長さおよび空間方向Ｙの長さで示される方向で表すことができる。
【０１４４】
背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が、センサ２で取得されて、データ３が出力されたとき、データ３において、実世界１の画像における、縁の注目する位置（Ａ）に対する、図２３中Ａ’で示す位置に、縁に対応するつめ形状が並び、実世界１の画像の縁の傾きに対応する、図２３中Ｂ’で示す傾きの方向に、縁に対応するつめ形状が並ぶ。
【０１４５】
Ｎ個の変数で表現されるモデル１６１は、このような、データ３において、データの定常性を生じさせる、実世界の１の信号の部分を近似する。
【０１４６】
Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式を立てるとき、データ３において、データの定常性が生じている部分の値を利用する。
【０１４７】
この場合において、図２４で示される、データ３において、データの定常性が生じ、混合領域に属する値に注目して、実世界１の信号を積分した値が、センサ２の検出素子が出力する値に等しいとして、式が立てられる。例えば、データの定常性が生じている、データ３における複数の値について、複数の式を立てることができる。
【０１４８】
図２４において、Ａは、縁の注目する位置を示し、Ａ’は、実世界１の画像における、縁の注目する位置（Ａ）に対する、画素（の位置）を示す。
【０１４９】
ここで、混合領域とは、データ３において、実世界１における２つの物体に対する信号が混合されて１つの値となっているデータの領域をいう。例えば、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像に対するデータ３において、直線状の縁を有する物に対する画像、および背景に対する画像が積分されている画素値は、混合領域に属する。
【０１５０】
図２５は、式を立てる場合における、実世界１における２つの物体に対する信号および混合領域に属する値を説明する図である。
【０１５１】
図２５中の左側は、センサ２の１つの検出素子の検出領域で取得される、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する、実世界１における２つの物体に対する実世界１の信号を示す。図２５中の右側は、図２５中の左側に示す実世界１の信号がセンサ２の１つの検出素子によって射影された、データ３の１つの画素の画素値Ｐを示す。すなわち、センサ２の１つの検出素子によって取得された、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する、実世界１における２つの物体に対する実世界１の信号が射影された、データ３の１つの画素の画素値Ｐを示す。
【０１５２】
図２５のＬは、実世界１における１つの物体に対する、図２５の白い部分の実世界１の信号のレベルを示す。図２５のＲは、実世界１における他の１つの物体に対する、図２５の斜線で表される部分の実世界１の信号のレベルを示す。
【０１５３】
ここで、混合比αは、センサ２の１つの検出素子の、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する検出領域に入射された、２つの物体に対する信号（の面積）の割合を示す。例えば、混合比αは、センサ２の１つの検出素子の検出領域の面積に対する、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する、センサ２の１つの検出素子の検出領域に入射された、レベルＬの信号の面積の割合を示す。
【０１５４】
この場合において、レベルＬ、レベルＲ、および画素値Ｐの関係は、式（４）で表すことができる。
【０１５５】
α×Ｌ＋（１−α）×Ｒ＝Ｐ ・・・（４）
【０１５６】
なお、レベルＲは、注目している画素の右側に位置している、データ３の画素の画素値とすることができる場合があり、レベルＬは、注目している画素の左側に位置している、データ３の画素値とすることができる場合がある。
【０１５７】
また、混合比αおよび混合領域は、空間方向と同様に、時間方向を考慮することができる。例えば、センサ２に対して撮像の対象となる実世界１の物体が移動しているとき、時間方向に、センサ２の１つの検出素子の検出領域に入射される、２つの物体に対する信号の割合は変化する。センサ２の１つの検出素子の検出領域に入射された、時間方向に割合が変化する、２つの物体に対する信号は、センサ２の検出素子によって、データ３の１つの値に射影される。
【０１５８】
センサ２の時間積分効果による、２つの物体に対する信号の時間方向の混合を時間混合と称する。
【０１５９】
データ定常性検出部１０１は、例えば、実世界１における２つの物体に対する実世界１の信号が射影された、データ３における画素の領域を検出する。データ定常性検出部１０１は、例えば、実世界１の画像の縁の傾きに対応する、データ３における傾きを検出する。
【０１６０】
そして、実世界推定部１０２は、例えば、データ定常性検出部１０１で検出された、所定の混合比αを有する画素の領域、および領域の傾きを基に、Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式を立てて、立てた式を解くことにより、実世界１の信号を推定する。
【０１６１】
さらに、具体的な実世界１の推定について説明する。
【０１６２】
関数F(x,y,z,t)で表される実世界の信号のうち、空間方向Ｚの断面（センサ２の位置）における関数F(x,y,t)で表される実世界の信号を、空間方向Ｘにおける位置x、空間方向Ｙにおける位置y、および時刻tで決まる近似関数f（x,y,t）で近似することを考える。
【０１６３】
ここで、センサ２の検出領域は、空間方向Ｘおよび空間方向Ｙに広がりを有する。換言すれば、近似関数f（x,y,t）は、センサ２で取得される、空間方向および時間方向に広がりを有する実世界１の信号を近似する関数である。
【０１６４】
センサ２による実世界１の信号の射影によって、データ３の値P(x,y,t)が得られるものとする。データ３の値P(x,y,t)は、例えば、イメージセンサであるセンサ２が出力する、画素値である。
【０１６５】
ここで、センサ２による射影を定式化できる場合、近似関数f（x,y,t）を射影して得られた値を射影関数S（x,y,t）と表すことができる。
【０１６６】
射影関数S（x,y,t）を求める上で、以下に示す問題がある。
【０１６７】
第１に、一般的に、実世界１の信号を表す関数F(x,y,z,t)は、無限の次数の関数となりうる。
【０１６８】
第２に、たとえ、実世界の信号を関数として記述できたとしても、センサ２の射影を介した、射影関数S（x,y,t）を定めることは、一般的にはできない。すなわち、センサ２による射影の動作、言い換えればセンサ２の入力信号と出力信号との関係を知らないので、射影関数S（x,y,t）を定めることはできない。
【０１６９】
第１の問題点に対して、実世界１の信号を近似する関数f(x,y,t)を記述可能な関数（例えば、有限次数の関数）である関数f_i（x,y,t）および変数w_iの積和で表現することを考える。
【０１７０】
また、第２の問題点に対して、センサ２による射影を定式化することで、関数f_i（x,y,t）の記述から、関数S_i（x,y,t）を記述することができる。
【０１７１】
すなわち、実世界１の信号を近似する関数f(x,y,t)を関数f_i（x,y,t）および変数w_iの積和で表現すると、式（５）が得られる。
【０１７２】
【数４】

・・・（５）
【０１７３】
例えば、式（６）で示されるように、センサ２の射影を定式化することにより、式（５）から、データ３と実世界の信号の関係を式（７）のように定式化することができる。
【０１７４】
【数５】

・・・（６）
【０１７５】
【数６】

・・・（７）
式（７）において、jは、データのインデックスである。
【０１７６】
式（７）のＮ個の変数w_i（i=1乃至N）が共通であるＭ個のデータ群（j=1乃至M）が存在すれば、式（８）を満たすので、データ３から実世界のモデル１６１を求めることができる。
【０１７７】
Ｎ≦Ｍ ・・・（８）
Ｎは、実世界１を近似するモデル１６１を表現する変数の数である。Ｍは、データ３に含まれるデータ１６２の数である。
【０１７８】
実世界１の信号を近似する関数f(x,y,t)を式（５）で表すことにより、w_iとして変数の部分を独立させることができる。このとき、iは、そのまま変数の数を示すことになる。また、f_iで示される関数の形を独立させることができ、f_iとして所望の関数を利用することができるようになる。
【０１７９】
従って、関数f_iの形に依存せず、変数w_iの数Ｎを定義でき、変数w_iの数Ｎとデータの数Ｍとの関係で変数w_iを求めることができる。
【０１８０】
すなわち、以下の３つを用いることで、データ３から実世界１を推定することができるようになる。
【０１８１】
第１に、Ｎ個の変数を定める、すなわち、式（５）を定める。これは、定常性を用いて実世界１を記述することにより可能になる。例えば、断面が多項式で表され、同じ断面形状が一定方向に続く、というモデル１６１で実世界１の信号を記述することができる。
【０１８２】
第２に、例えば、センサ２による射影を定式化して、式（７）を記述する。例えば、実世界１の信号の積分を行った結果がデータ３であると定式化する。
【０１８３】
第３に、Ｍ個のデータ１６２を集めて、式（８）を満足させる。例えば、データ定常性検出部１０１で検出された、データの定常性を有する領域から、データ１６２が集められる。例えば、定常性の一例である、一定の断面が続く領域のデータ１６２が集められる。
【０１８４】
このように、式（５）によって、データ３と実世界１との関係を記述し、Ｍ個のデータ１６２を集めることで、式（８）を満たすことにより、実世界１を推定することができる。
【０１８５】
より具体的には、Ｎ=Ｍのとき、変数の数Nと式の数Mが等しいので、連立方程式を立てることにより、変数w_iを求めることができる。
【０１８６】
また、Ｎ＜Ｍのとき、様々な解法を適用できる。例えば、最小自乗法により、変数w_iを求めることができる。
【０１８７】
ここで、最小自乗法による解法について、詳細に記載する。
【０１８８】
まず、式（７）に従って、実世界１からデータ３を予測する式（９）を示す。
【０１８９】
【数７】

・・・（９）
【０１９０】
式（９）において、P'_j（x_j,y_j,t_j）は、予測値である。
【０１９１】
予測値P'と実測値Pとの差分自乗和Eは、式（１０）で表される。
【０１９２】
【数８】

・・・（１０）
【０１９３】
差分自乗和Eが最小になるように、変数w_iが求められる。従って、各変数w_kによる式（１０）の偏微分値は０とされる。すなわち、式（１１）が成り立つ。
【０１９４】
【数９】

・・・（１１）
【０１９５】
式（１１）から式（１２）が導かれる。
【０１９６】
【数１０】

・・・（１２）
【０１９７】
式（１２）がK=1乃至Nで成り立つとき、最小自乗法による解が得られる。このときの正規方程式は、式（１３）で示される。
【０１９８】
【数１１】

・・・（１３）
ただし、式（１３）において、S_i（x_j,y_j,t_j）は、S_i(j)と記述した。
【０１９９】
【数１２】

・・・（１４）
【０２００】
【数１３】

・・・（１５）
【０２０１】
【数１４】

・・・（１６）
【０２０２】
式（１４）乃至式（１６）から、式（１３）は、S_MATW_MAT=P_MATと表すことができる。
【０２０３】
式（１３）において、S_iは、実世界１の射影を表す。式（１３）において、P_jは、データ３を表す。式（１３）において、w_iは、実世界１の信号の特徴を記述し、求めようとする変数である。
【０２０４】
従って、式（１３）にデータ３を入力し、行列解法などによりW_MATを求めることで、実世界１を推定することが可能になる。すなわち、式（１７）を演算することにより、実世界１を推定することができるようになる。
【０２０５】
W_MAT=S_MAT ^-1P_MAT ・・・（１７）
【０２０６】
なお、S_MATが正則でない場合、S_MATの転置行列を利用して、W_MATを求めることができる。
【０２０７】
実世界推定部１０２は、例えば、式（１３）にデータ３を入力し、行列解法などによりW_MATを求めることで、実世界１を推定する。
【０２０８】
ここで、さらにより具体的な例を説明する。例えば、実世界１の信号の断面形状、すなわち位置の変化に対するレベルの変化を、多項式で記述する。実世界１の信号の断面形状が一定で、実世界１の信号の断面が等速で移動すると仮定する。そして、センサ２による実世界１の信号からデータ３への射影を、実世界１の信号の時空間方向の３次元で積分で定式化する。
【０２０９】
実世界１の信号の断面形状が、等速で移動するとの仮定から、式（１８）および式（１９）が得られる。
【０２１０】
【数１５】

・・・（１８）
【０２１１】
【数１６】

・・・（１９）
ここで、v_xおよびv_yは、一定である。
【０２１２】
実世界１の信号の断面形状は、式（１８）および式（１９）を用いることで、式（２０）と表される。
【０２１３】
f(x',y')=f(x+v_xt,y+v_yt) ・・・（２０）
【０２１４】
センサ２による実世界１の信号からデータ３への射影を、実世界１の信号の時空間方向の３次元で積分で定式化すれば、式（２１）が得られる。
【０２１５】
【数１７】

・・・（２１）
【０２１６】
式（２１）において、S(x,y,t)は、空間方向Ｘについて、位置x_sから位置x_eまで、空間方向Ｙについて、位置y_sから位置y_eまで、時間方向tについて、時刻t_sから時刻t_eまでの領域、すなわち時空間の直方体で表される領域の積分値を示す。
【０２１７】
式（２１）を定めることができる所望の関数f(x',y')を用いて、式（１３）を解けば、実世界１の信号を推定することができる。
【０２１８】
以下では、関数f(x',y')の一例として、式（２２）に示す関数を用いることとする。
【０２１９】
f(x',y')=w₁x'+w₂y'+w₃
=w₁(x+v_xt)+w₂(y+v_yt)+w₃ ・・・（２２）
【０２２０】
すなわち、実世界１の信号が、式（１８）、式（１９）、および式（２２）で表される定常性を含むと仮定している。これは、図２６で示されるように、一定の形状の断面が、時空間方向に移動していることを示す。
【０２２１】
式（２１）に、式（２２）を代入することにより、式（２３）が得られる。
【０２２２】
【数１８】

・・・（２３）
ただし、
Volume=(x_e-x_s)(y_e-y_s)(t_e-t_s）
S₀(x,y,t)=Volume/2×(x_e+x_s+v_x(t_e+t_s)）
S₁(x,y,t)=Volume/2×(y_e+y_s+v_y(t_e+t_s)）
S₂(x,y,t)=1
である。
【０２２３】
図２７は、データ３から抽出される、Ｍ個のデータ１６２の例を示す図である。例えば、２７個の画素値が、データ１６２として抽出され、抽出された画素値が、P_j(x,y,t)とされる。この場合、jは、０乃至２６である。
【０２２４】
図２７に示す例において、nである時刻tの注目する位置に対応する画素の画素値がP₁₃(x,y,t)であり、データの定常性を有する画素の画素値の並ぶ方向（例えば、データ定常性検出部１０１で検出された、同じ形状であるつめ形状が並ぶ方向）が、P₄(x,y,t)、P₁₃(x,y,t)、およびP₂₂(x,y,t)を結ぶ方向であるとき、nである時刻tにおける、画素値P₉(x,y,t)乃至P₁₇(x,y,t)、nより時間的に前である、n-1である時刻tにおける、画素値P₀(x,y,t)乃至P₈(x,y,t)、およびnより時間的に後である、n+1である時刻tにおける、画素値P₁₈(x,y,t)乃至P₂₆(x,y,t)が抽出される。
【０２２５】
ここで、センサ２であるイメージセンサから出力された、データ３である画素値が取得された領域は、図２８で示されるように、時間方向および２次元の空間方向に広がりを有する。そこで、例えば、図２９で示されるように、画素に対応する直方体（画素値が取得された領域）の重心を、画素の時空間方向の位置として使用することができる。図２９中の丸は、重心を示す。
【０２２６】
２７個の画素値P₀(x,y,t)乃至P₂₆(x,y,t)、および式（２３）から、式（１３）を生成し、Wを求めることで、実世界１を推定することが可能になる。
【０２２７】
このように、実世界推定部１０２は、例えば、２７個の画素値P₀(x,y,t)乃至P₂₆(x,y,t)、および式（２３）から、式（１３）を生成し、Wを求めることで、実世界１の信号を推定する。
【０２２８】
なお、関数f_i（x,y,t）として、ガウス関数、またはシグモイド関数などを利用することができる。
【０２２９】
図３０乃至図３４を参照して、推定された実世界１の信号から、データ３に対応する、より高解像度の高解像度データ１８１を生成する処理の例について説明する。
【０２３０】
図３０で示されるように、データ３は、時間方向および２次元の空間方向に実世界１の信号が積分された値を有する。例えば、センサ２であるイメージセンサから出力された、データ３である画素値は、検出素子に入射された光である、実世界１の信号が、時間方向に、検出時間であるシャッタ時間で積分され、空間方向に、検出素子の受光領域で積分された値を有する。
【０２３１】
これに対して、図３１で示されるように、空間方向により解像度の高い高解像度データ１８１は、推定された実世界１の信号を、時間方向に、データ３を出力したセンサ２の検出時間と同じ時間で積分するとともに、空間方向に、データ３を出力したセンサ２の検出素子の受光領域に比較して、より狭い領域で積分することにより、生成される。
【０２３２】
なお、空間方向により解像度の高い高解像度データ１８１を生成する場合において、推定された実世界１の信号が積分される領域は、データ３を出力したセンサ２の検出素子の受光領域と全く無関係に設定することができる。例えば、高解像度データ１８１に、データ３に対して、空間方向に整数倍の解像度を持たせることは勿論、５／３倍など、データ３に対して、空間方向に有理数倍の解像度を持たせることができる。
【０２３３】
また、図３２で示されるように、時間方向により解像度の高い高解像度データ１８１は、推定された実世界１の信号を、空間方向に、データ３を出力したセンサ２の検出素子の受光領域と同じ領域で積分するとともに、時間方向に、データ３を出力したセンサ２の検出時間に比較して、より短い時間で積分することにより、生成される。
【０２３４】
なお、時間方向により解像度の高い高解像度データ１８１を生成する場合において、推定された実世界１の信号が積分される時間は、データ３を出力したセンサ２の検出素子のシャッタ時間と全く無関係に設定することができる。例えば、高解像度データ１８１に、データ３に対して、時間方向に整数倍の解像度を持たせることは勿論、７／４倍など、データ３に対して、時間方向に有理数倍の解像度を持たせることができる。
【０２３５】
図３３で示されるように、動きボケを除去した高解像度データ１８１は、推定された実世界１の信号を、時間方向に積分しないで、空間方向にのみ積分することにより、生成される。
【０２３６】
さらに、図３４で示されるように、時間方向および空間方向により解像度の高い高解像度データ１８１は、推定された実世界１の信号を、空間方向に、データ３を出力したセンサ２の検出素子の受光領域に比較して、より狭い領域で積分するとともに、時間方向に、データ３を出力したセンサ２の検出時間に比較して、より短い時間で積分することにより、生成される。
【０２３７】
この場合において、推定された実世界１の信号が積分される領域および時間は、データ３を出力したセンサ２の検出素子の受光領域およびシャッタ時間と全く無関係に設定することができる。
【０２３８】
このように、画像生成部１０３は、例えば、推定された実世界１の信号を所望の時空間の領域で積分することにより、時間方向、または空間方向に、より高解像度のデータを生成する。
【０２３９】
以上のように、実世界１の信号を推定することにより、実世界１の信号に対してより正確で、時間方向、または空間方向に、より高解像度のデータを生成することができる。
【０２４０】
図３５乃至図３９を参照して、本発明に係る信号処理装置４の、入力画像の例と、処理の結果の例を示す。
【０２４１】
図３５は、入力画像の元の画像を示す図である。図３６は、入力画像の例を示す図である。図３６で示される入力画像は、図３５で示される画像の２×２の画素からなるブロックに属する画素の画素値の平均値を、１つの画素の画素値として生成された画像である。すなわち、入力画像は、図３５で示される画像に、センサの積分特性を模した、空間方向の積分を適用することにより得られた画像である。
【０２４２】
図３５で示される元の画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。同様に、図３６で示される入力画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。
【０２４３】
図３７は、図３６で示される入力画像に、従来のクラス分類適応処理を適用して得られた画像を示す図である。ここで、クラス分類適応処理は、クラス分類処理と適応処理とからなり、クラス分類処理によって、データを、その性質に基づいてクラス分けし、各クラスごとに適応処理を施すものである。適応処理では、例えば、低画質または標準画質の画像が、所定のタップ係数を用いてマッピング（写像）されることにより、高画質の画像に変換される。
【０２４４】
図３７で示される画像において、細線の画像が、図３５の元の画像とは異なるものになっていることがわかる。
【０２４５】
図３８は、データ定常性検出部１０１による、図３６の例で示される入力画像から細線の領域を検出した結果を示す図である。図３８において、白い領域は、細線の領域、すなわち、図１４で示される円弧形状が並んでいる領域を示す。
【０２４６】
図３９は、図３６で示される画像を入力画像として、本発明に係る信号処理装置４から出力された出力画像の例を示す図である。図３９で示されるように、本発明に係る信号処理装置４によれば、図３５で示される元の画像の細線の画像により近い画像を得ることができる。
【０２４７】
図４０は、本発明に係る信号処理装置４による、信号の処理を説明するフローチャートである。
【０２４８】
ステップＳ１０１において、データ定常性検出部１０１は、定常性の検出の処理を実行する。データ定常性検出部１０１は、データ３である入力画像に含まれているデータの定常性を検出して、検出したデータの定常性を示すデータ定常性情報を実世界推定部１０２および画像生成部１０３に供給する。
【０２４９】
データ定常性検出部１０１は、現実世界の信号の定常性に対応するデータの定常性を検出する。ステップＳ１０１の処理において、データ定常性検出部１０１により検出されるデータの定常性は、データ３に含まれる、実世界１の画像の定常性の一部であるか、または、実世界１の信号の定常性から変化してしまった定常性である。
【０２５０】
例えば、データ定常性検出部１０１は、所定の次元の方向に一定の特徴を有する領域を検出することにより、データの定常性を検出する。また、例えば、データ定常性検出部１０１は、同様の形状の並び方を示す、空間方向の角度（傾き）を検出することにより、データの定常性を検出する。
【０２５１】
ステップＳ１０１における、定常性の検出の処理の詳細は、後述する。
【０２５２】
なお、データ定常性情報は、データ３の特徴を示す特徴量として利用することができる。
【０２５３】
ステップＳ１０２において、実世界推定部１０２は、実世界の推定の処理を実行する。すなわち、実世界推定部１０２は、入力画像、およびデータ定常性検出部１０１から供給されたデータ定常性情報を基に、実世界１の信号を推定する。例えば、ステップＳ１０２の処理において、実世界推定部１０２は、実世界１を近似（記述）するモデル１６１を予測することにより、実世界１の信号を推定する。実世界推定部１０２は、推定された実世界１の信号を示す実世界推定情報を画像生成部１０３に供給する。
【０２５４】
例えば、実世界推定部１０２は、線状の物の幅を予測することにより、実世界１の信号を推定する。また、例えば、実世界推定部１０２は、線状の物の色を示すレベルを予測することにより、実世界１の信号を推定する。
【０２５５】
ステップＳ１０２における、実世界の推定の処理の詳細は、後述する。
【０２５６】
なお、実世界推定情報は、データ３の特徴を示す特徴量として利用することができる。
【０２５７】
ステップＳ１０３において、画像生成部１０３は、画像の生成の処理を実行して、処理は終了する。すなわち、画像生成部１０３は、実世界推定情報を基に、画像を生成して、生成した画像を出力する。または、画像生成部１０３は、データ定常性情報および実世界推定情報を基に、画像を生成して、生成した画像を出力する。
【０２５８】
例えば、ステップＳ１０３の処理において、画像生成部１０３は、実世界推定情報を基に、推定された現実世界の光を空間方向に積分することにより、入力画像に比較して、空間方向により高解像度の画像を生成して、生成した画像を出力する。例えば、画像生成部１０３は、実世界推定情報を基に、推定された現実世界の光を時空間方向に積分することにより、入力画像に比較して、時間方向および空間方向により高解像度の画像を生成して、生成した画像を出力する。ステップＳ１０３における、画像の生成の処理の詳細は、後述する。
【０２５９】
このように、本発明に係る信号処理装置４は、データ３からデータの定常性を検出し、検出したデータの定常性を基に、実世界１を推定する。そして、信号処理装置４は、推定された実世界１を基に、より実世界１に近似した信号を生成する。
【０２６０】
以上のように、現実世界の信号を推定して処理を実行するようにした場合には、正確で、精度の高い処理結果を得ることができるようになる。
【０２６１】
また、第１の次元を有する現実世界の信号である第１の信号が射影され、現実世界の信号の定常性の一部が欠落した第１の次元よりも少ない第２の次元の第２の信号の、欠落した現実世界の信号の定常性に対応するデータの定常性を検出し、検出されたデータの定常性に基づいて、欠落した現実世界の信号の定常性を推定することにより第１の信号を推定するようにした場合には、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０２６２】
次に、データ定常性検出部１０１の構成の詳細について説明する。
【０２６３】
図４１は、データ定常性検出部１０１の構成を示すブロック図である。
【０２６４】
図４１に構成を示すデータ定常性検出部１０１は、細線である対象物を撮像したとき、対象物の有する断面形状が同じであるという定常性から生じた、データ３に含まれるデータの定常性を検出する。すなわち、図４１に構成を示すデータ定常性検出部１０１は、細線である実世界１の画像の有する、長さ方向の任意の位置において、長さ方向に直交する方向の位置の変化に対する光のレベルの変化が同じであるという定常性から生じた、データ３に含まれるデータの定常性を検出する。
【０２６５】
より具体的には、図４１に構成を示すデータ定常性検出部１０１は、細線の画像を空間積分効果を有するセンサ２で撮像して得られたデータ３に含まれる、斜めにずれて隣接して並ぶ、複数の所定の長さの円弧形状（かまぼこ型）が配置される領域を検出する。
【０２６６】
データ定常性検出部１０１は、データ３である入力画像から、データの定常性を有する細線の画像が射影された画像データの部分（以下、定常成分とも称する）以外の画像データの部分（以下、非定常成分と称する）を抽出し、抽出された非定常成分と入力画像とから、実世界１の細線の画像が射影された画素を検出し、入力画像における、実世界１の細線の画像が射影された画素からなる領域を検出する。
【０２６７】
非定常成分抽出部２０１は、入力画像から非定常成分を抽出して、入力画像と共に、抽出された非定常成分を示す非定常成分情報を頂点検出部２０２および単調増減検出部２０３に供給する。
【０２６８】
例えば、図４２で示されるように、ほぼ一定の光のレベルの背景の前に細線がある実世界１の画像がデータ３に射影されたとき、図４３で示されるように、非定常成分抽出部２０１は、データ３である入力画像における背景を平面で近似することにより、背景である非定常成分を抽出する。図４３において、実線は、データ３の画素値を示し、点線は、背景を近似する平面で示される近似値を示す。図４３において、Ａは、細線の画像が射影された画素の画素値を示し、ＰＬは、背景を近似する平面を示す。
【０２６９】
このように、データの定常性を有する画像データの部分における、複数の画素の画素値は、非定常成分に対して不連続となる。
【０２７０】
非定常成分抽出部２０１は、実世界１の光信号である画像が射影され、実世界１の画像の定常性の一部が欠落した、データ３である画像データの複数の画素の画素値の不連続部を検出する。
【０２７１】
非定常成分抽出部２０１における非定常成分の抽出の処理の詳細は、後述する。
【０２７２】
頂点検出部２０２および単調増減検出部２０３は、非定常成分抽出部２０１から供給された非定常成分情報を基に、入力画像から非定常成分を除去する。例えば、頂点検出部２０２および単調増減検出部２０３は、入力画像の各画素のうち、背景の画像のみが射影された画素の画素値を0に設定することにより、入力画像から非定常成分を除去する。また、例えば、頂点検出部２０２および単調増減検出部２０３は、入力画像の各画素の画素値から、平面ＰＬで近似される値を引き算することにより、入力画像から非定常成分を除去する。
【０２７３】
入力画像から背景を除去することができるので、頂点検出部２０２乃至連続性検出部２０４は、細線が射影された画像データの部分のみを処理の対象とすることができ、頂点検出部２０２乃至連続性検出部２０４における処理がより容易になる。
【０２７４】
なお、非定常成分抽出部２０１は、入力画像から非定常成分を除去した画像データを頂点検出部２０２および単調増減検出部２０３に供給するようにしてもよい。
【０２７５】
以下に説明する処理の例において、入力画像から非定常成分が除去された画像データ、すなわち、定常成分を含む画素のみからなる画像データが対象となる。
【０２７６】
ここで、頂点検出部２０２乃至連続性検出部２０４が検出しようとする、細線の画像が射影された画像データについて説明する。
【０２７７】
図４２で示される細線の画像が射影された画像データの空間方向Ｙの断面形状（空間方向の位置の変化に対する画素値の変化）は、光学LPFがないとした場合、センサ２であるイメージセンサの空間積分効果から、図４４に示す台形、または図４５に示す三角形となることが考えられる。しかしながら、通常のイメージセンサは、光学LPFを備え、イメージセンサは、光学LPFを通過した画像を取得し、取得した画像をデータ３に射影するので、現実には、細線の画像データの空間方向Ｙの断面形状は、図４６に示すようなガウス分布に類似した形状となる。
【０２７８】
頂点検出部２０２乃至連続性検出部２０４は、細線の画像が射影された画素であって、同じ断面形状（空間方向の位置の変化に対する画素値の変化）が画面の上下方向に一定の間隔で並ぶものからなる領域を検出して、さらに、実世界１の細線の長さ方向に対応した、領域の繋がりを検出することにより、データの定常性を有する領域である、細線の画像が射影された画素からなる領域を検出する。すなわち、頂点検出部２０２乃至連続性検出部２０４は、入力画像における、縦に１列の画素の上に、円弧形状（かまぼこ型）が形成される領域を検出し、検出された領域が横方向に隣接して並んでいるか否かを判定して、実世界１の信号である細線の画像の長さ方向に対応した、円弧形状が形成される領域の繋がりを検出する。
【０２７９】
また、頂点検出部２０２乃至連続性検出部２０４は、細線の画像が射影された画素であって、同じ断面形状が画面の左右方向に一定の間隔で並ぶものからなる領域を検出して、さらに、実世界１の細線の長さ方向に対応した、検出された領域の繋がりを検出することにより、データの定常性を有する領域である、細線の画像が射影された画素からなる領域を検出する。すなわち、頂点検出部２０２乃至連続性検出部２０４は、入力画像における、横に１列の画素の上に、円弧形状が形成される領域を検出し、検出された領域が縦方向に隣接して並んでいるか否かを判定して、実世界１の信号である細線の画像の長さ方向に対応した、円弧形状が形成される領域の繋がりを検出する。
【０２８０】
まず、細線の画像が射影された画素であって、画面の上下方向に同じ円弧形状が一定の間隔で並ぶものからなる領域を検出する処理を説明する。
【０２８１】
頂点検出部２０２は、周囲の画素に比較して、より大きい画素値を有する画素、すなわち頂点を検出し、頂点の位置を示す頂点情報を単調増減検出部２０３に供給する。画面の上下方向に１列に並ぶ画素を対象とした場合、頂点検出部２０２は、画面の上側に位置する画素の画素値、および画面の下側に位置する画素の画素値に比較して、より大きい画素値を有する画素を頂点として検出する。頂点検出部２０２は、１つの画像、例えば、１つのフレームの画像から、１または複数の頂点を検出する。
【０２８２】
１つの画面には、フレームまたはフィールドが含まれる。以下の説明において、同様である。
【０２８３】
例えば、頂点検出部２０２は、１フレームの画像からまだ注目画素とされていない画素の中から注目画素を選択し、注目画素の画素値と、注目画素の上側の画素の画素値とを比較し、注目画素の画素値と、注目画素の下側の画素の画素値とを比較して、上側の画素の画素値より大きい画素値を有し、下側の画素の画素値より大きい画素値を有する注目画素を検出して、検出された注目画素を頂点とする。頂点検出部２０２は、検出された頂点を示す頂点情報を単調増減検出部２０３に供給する。
【０２８４】
頂点検出部２０２が、頂点を検出しない場合もある。例えば、１つの画像の画素の画素値が全て同じ値であるとき、または、１若しくは２の方向に対して画素値が減少しているとき、頂点は検出されない。この場合、細線の画像は、画像データに射影されていない。
【０２８５】
単調増減検出部２０３は、頂点検出部２０２から供給された、頂点の位置を示す頂点情報を基に、頂点検出部２０２で検出された頂点に対して上下方向に１列に並ぶ画素であって、細線の画像が射影された画素からなる領域の候補を検出し、頂点情報と共に、検出した領域を示す領域情報を連続性検出部２０４に供給する。
【０２８６】
より具体的には、単調増減検出部２０３は、頂点の画素値を基準として、単調減少している画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。単調減少とは、頂点からの距離がより長い画素の画素値が、頂点からの距離が短い画素の画素値に比較して、より小さいことをいう。
【０２８７】
また、単調増減検出部２０３は、頂点の画素値を基準として、単調増加している画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。単調増加とは、頂点からの距離がより長い画素の画素値が、頂点からの距離が短い画素の画素値に比較して、より大きいことをいう。
【０２８８】
以下、単調増加している画素値を有する画素からなる領域についての処理は、単調減少している画素値を有する画素からなる領域についての処理と同様なので、その説明は省略する。細線の画像が射影された画素であって、画面の横方向に同じ円弧形状が一定の間隔で並ぶものからなる領域を検出する処理における、単調増加している画素値を有する画素からなる領域についての処理も、単調減少している画素値を有する画素からなる領域についての処理と同様なので、その説明は省略する。
【０２８９】
例えば、単調増減検出部２０３は、頂点に対して縦に１列に各画素について、各画素の画素値と、上側の画素の画素値との差分、および下側の画素の画素値との差分を求める。そして、単調増減検出部２０３は、差分の符号が変化する画素を検出することにより、画素値が単調減少している領域を検出する。
【０２９０】
さらに、単調増減検出部２０３は、画素値が単調減少している領域から、頂点の画素値の符号を基準として、頂点の画素値の符号と同じ符号の画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。
【０２９１】
例えば、単調増減検出部２０３は、各画素の画素値の符号と、上側の画素の画素値の符号および下側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出することにより、画素値が単調減少している領域から、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０２９２】
このように、単調増減検出部２０３は、上下方向に並び、頂点に対して画素値が単調減少し、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０２９３】
図４７は、空間方向Ｙの位置に対する画素値から、細線の画像が射影された画素の領域を検出する、頂点の検出および単調増減領域の検出の処理を説明する図である。
【０２９４】
図４７乃至図４９において、Pは、頂点を示す。図４１で構成が示されるデータ定常性検出部１０１の説明において、Pは、頂点を示す。
【０２９５】
頂点検出部２０２は、各画素の画素値と、これに空間方向Ｙに隣接する画素の画素値とを比較して、空間方向Ｙに隣接する２つの画素の画素値より大きい画素値を有する画素を検出することにより、頂点Pを検出する。
【０２９６】
頂点Pと、頂点Pの空間方向Ｙの両側の画素とからなる領域は、頂点Pの画素値に対して、空間方向Ｙの両側の画素の画素値が単調に減少する単調減少領域である。図４７において、Aで示す矢印、およびBで示す矢印は、頂点Pの両側に存在する単調減少領域を示す。
【０２９７】
単調増減検出部２０３は、各画素の画素値と、その画素に空間方向Ｙに隣接する画素の画素値との差分を求めて、差分の符号が変化する画素を検出する。単調増減検出部２０３は、検出された、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界を、細線の画像が射影された画素からなる細線領域の境界とする。
【０２９８】
図４７において、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界である細線領域の境界はCで示される。
【０２９９】
さらに、単調増減検出部２０３は、単調減少領域において、各画素の画素値の符号と、その画素に空間方向Ｙに隣接する画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出する。単調増減検出部２０３は、検出された、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界を細線領域の境界とする。
【０３００】
図４７において、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界である細線領域の境界はDで示される。
【０３０１】
図４７で示されるように、細線の画像が射影された画素からなる細線領域Fは、細線領域の境界Cと、細線領域の境界Dとに挟まれる領域とされる。
【０３０２】
単調増減検出部２０３は、このような単調増減領域からなる細線領域Fの中から、予め定めた閾値より長い細線領域F、すなわち、閾値より多い数の画素を含む細線領域Fを求める。例えば、閾値が３であるとき、単調増減検出部２０３は、４つ以上の画素を含む細線領域Fを検出する。
【０３０３】
さらに、このように検出された細線領域Fの中から、単調増減検出部２０３は、頂点Pの画素値、および頂点Pの右側の画素の画素値、および頂点Pの左側の画素の画素値を、それぞれ閾値と比較し、頂点Pの画素値が閾値を超え、頂点Pの右側の画素の画素値が閾値以下であり、頂点Pの左側の画素の画素値が閾値以下である頂点Pが属する細線領域Fを検出し、検出された細線領域Fを細線の画像の成分を含む画素からなる領域の候補とする。
【０３０４】
言い換えれば、頂点Pの画素値が閾値以下であるか、頂点Pの右側の画素の画素値が閾値を超えるか、または頂点Pの左側の画素の画素値が閾値を超える頂点Pが属する細線領域Fは、細線の画像の成分を含まないと判定され、細線の画像の成分を含む画素からなる領域の候補から除去される。
【０３０５】
すなわち、図４８で示されるように、単調増減検出部２０３は、頂点Pの画素値を閾値と比較すると共に、頂点Pに対して、空間方向Ｘ（点線AA'で示す方向）に隣接する画素の画素値を、閾値と比較し、頂点Pの画素値が閾値を超え、空間方向Ｘに隣接する画素の画素値が閾値以下である、頂点Pが属する細線領域Fを検出する。
【０３０６】
図４９は、図４８の点線AA'で示す空間方向Ｘに並ぶ画素の画素値を表す図である。頂点Pの画素値が閾値Ｔｈ_Sを超え、頂点Pの空間方向Ｘに隣接する画素の画素値が、閾値Ｔｈ_S以下である、頂点Pが属する細線領域Fは、細線の成分を含む。
【０３０７】
なお、単調増減検出部２０３は、背景の画素値を基準として、頂点Pの画素値と背景の画素値との差分を閾値と比較すると共に、頂点Pに対して、空間方向Ｘに隣接する画素の画素値と背景の画素値との差分を、閾値と比較し、頂点Pの画素値と背景の画素値との差分が閾値を超え、空間方向Ｘに隣接する画素の画素値と背景の画素値との差分が閾値以下である、頂点Pが属する細線領域Fを検出するようにしてもよい。
【０３０８】
単調増減検出部２０３は、頂点Pを基準として、画素値が単調減少し、画素値の符号が頂点Pと同じである画素からなる領域であって、その頂点Pが閾値を超え、頂点Pの右側の画素の画素値が閾値以下であり、頂点Pの左側の画素の画素値が閾値以下であるものを示す単調増減領域情報を連続性検出部２０４に供給する。
【０３０９】
画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出する場合において、単調増減領域情報により示される領域に属する画素は、上下方向に並び、細線の画像が射影された画素を含む。すなわち、単調増減領域情報により示される領域は、画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を含む。
【０３１０】
このように、頂点検出部２０２および単調増減検出部２０３は、細線の画像が射影された画素において、空間方向Ｙの画素値の変化が、ガウス分布に類似するという性質を利用して、細線の画像が射影された画素からなる定常領域を検出する。
【０３１１】
連続性検出部２０４は、単調増減検出部２０３から供給された単調増減領域情報で示される、上下方向に並ぶ画素からなる領域のうち、横方向に隣接している画素を含む領域、すなわち、相似した画素値の変化を有し、縦方向に重複している領域を、連続している領域として検出し、頂点情報、および検出された連続している領域を示すデータ定常性情報を出力する。データ定常性情報は、単調増減領域情報、および領域の繋がりを示す情報などを含んでいる。
【０３１２】
細線が射影された画素において、円弧形状が隣接するように一定の間隔で並ぶので、検出された連続している領域は、細線が射影された画素を含んでいる。
【０３１３】
検出された連続している領域が、細線が射影された、円弧形状が隣接するように一定の間隔で並ぶ画素を含むので、検出された連続している領域を定常領域とし、連続性検出部２０４は、検出された連続している領域を示すデータ定常性情報を出力する。
【０３１４】
すなわち、連続性検出部２０４は、長さ方向に連続するという、実世界１の細線の画像の定常性から生じた、細線を撮像して得られたデータ３における、円弧形状が隣接するように一定の間隔で並ぶ定常性を利用して、頂点検出部２０２および単調増減検出部２０３において検出された領域の候補をさらに絞り込む。
【０３１５】
図５０は、単調増減領域の連続性を検出の処理を説明する図である。
【０３１６】
図５０に示すように、連続性検出部２０４は、画面の縦方向に１列に並ぶ画素からなる細線領域Fについて、横方向に隣接する画素を含んでいるとき、２つの単調増減領域の間に連続性があるとし、横方向に隣接する画素を含んでいないとき、２つの細線領域Fの間に連続性がないとする。例えば、画面の縦方向に１列に並ぶ画素からなる細線領域F_-1は、画面の縦方向に１列に並ぶ画素からなる細線領域F₀の画素と横方向に隣接する画素を含んでいるとき、細線領域F₀と連続しているとされる。画面の縦方向に１列に並ぶ画素からなる細線領域F₀は、画面の縦方向に１列に並ぶ画素からなる細線領域F₁の画素と横方向に隣接する画素を含んでいるとき、細線領域F₁と連続しているとされる。
【０３１７】
このように、頂点検出部２０２乃至連続性検出部２０４により、画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域が検出される。
【０３１８】
頂点検出部２０２乃至連続性検出部２０４は、上述したように、画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出し、さらに、画面の左右方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出する。
【０３１９】
なお、処理の順序は、本発明を限定するものではなく、並列に実行するようにしても良いことは当然である。
【０３２０】
すなわち、頂点検出部２０２は、画面の左右方向に１列に並ぶ画素を対象として、画面の左側に位置する画素の画素値、および画面の右側に位置する画素の画素値に比較して、より大きい画素値を有する画素を頂点として検出し、検出した頂点の位置を示す頂点情報を単調増減検出部２０３に供給する。頂点検出部２０２は、１つの画像、例えば、１フレームの画像から、１または複数の頂点を検出する。
【０３２１】
例えば、頂点検出部２０２は、１フレームの画像からまだ注目画素とされていない画素の中から注目画素を選択し、注目画素の画素値と、注目画素の左側の画素の画素値とを比較し、注目画素の画素値と、注目画素の右側の画素の画素値とを比較して、左側の画素の画素値より大きい画素値を有し、右側の画素の画素値より大きい画素値を有する注目画素を検出して、検出された注目画素を頂点とする。頂点検出部２０２は、検出された頂点を示す頂点情報を単調増減検出部２０３に供給する。
【０３２２】
頂点検出部２０２が、頂点を検出しない場合もある。
【０３２３】
単調増減検出部２０３は、頂点検出部２０２で検出された頂点に対して左右方向に１列に並ぶ画素であって、細線の画像が射影された画素からなる領域の候補を検出検出し、頂点情報と共に、検出した領域を示す単調増減領域情報を連続性検出部２０４に供給する。
【０３２４】
より具体的には、単調増減検出部２０３は、頂点の画素値を基準として、単調減少している画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。
【０３２５】
例えば、単調増減検出部２０３は、頂点に対して横に１列の各画素について、各画素の画素値と、左側の画素の画素値との差分、および右側の画素の画素値との差分を求める。そして、単調増減検出部２０３は、差分の符号が変化する画素を検出することにより、画素値が単調減少している領域を検出する。
【０３２６】
さらに、単調増減検出部２０３は、画素値が単調減少している領域から、頂点の画素値の符号を基準として、頂点の画素値の符号と同じ符号の画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。
【０３２７】
例えば、単調増減検出部２０３は、各画素の画素値の符号と、左側の画素の画素値の符号または右側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出することにより、画素値が単調減少している領域から、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０３２８】
このように、単調増減検出部２０３は、左右方向に並び、頂点に対して画素値が単調減少し、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０３２９】
単調増減検出部２０３は、このような単調増減領域からなる細線領域の中から、予め定めた閾値より長い細線領域、すなわち、閾値より多い数の画素を含む細線領域を求める。
【０３３０】
さらに、このように検出された細線領域の中から、単調増減検出部２０３は、頂点の画素値、および頂点の上側の画素の画素値、および頂点の下側の画素の画素値を、それぞれ閾値と比較し、頂点の画素値が閾値を超え、頂点の上側の画素の画素値が閾値以下であり、頂点の下側の画素の画素値が閾値以下である頂点が属する細線領域を検出し、検出された細線領域を細線の画像の成分を含む画素からなる領域の候補とする。
【０３３１】
言い換えれば、頂点の画素値が閾値以下であるか、頂点の上側の画素の画素値が閾値を超えるか、または頂点の下側の画素の画素値が閾値を超える頂点が属する細線領域は、細線の画像の成分を含まないと判定され、細線の画像の成分を含む画素からなる領域の候補から除去される。
【０３３２】
なお、単調増減検出部２０３は、背景の画素値を基準として、頂点の画素値と背景の画素値との差分を閾値と比較すると共に、頂点に対して、上下方向に隣接する画素の画素値と背景の画素値との差分を、閾値と比較し、頂点の画素値と背景の画素値との差分が閾値を超え、上下方向に隣接する画素の画素値と背景の画素値との差分が閾値以下である、検出された細線領域を細線の画像の成分を含む画素からなる領域の候補とするようにしてもよい。
【０３３３】
単調増減検出部２０３は、頂点を基準として、画素値が単調減少し、画素値の符号が頂点と同じである画素からなる領域であって、その頂点が閾値を超え、頂点の右側の画素の画素値が閾値以下であり、頂点の左側の画素の画素値が閾値以下であるものを示す単調増減領域情報を連続性検出部２０４に供給する。
【０３３４】
画面の左右方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出する場合において、単調増減領域情報により示される領域に属する画素は、左右方向に並び、細線の画像が射影された画素を含む。すなわち、単調増減領域情報により示される領域は、画面の左右方向に並ぶ１列の画素であって、細線の画像が射影されたものからなる領域を含む。
【０３３５】
連続性検出部２０４は、単調増減検出部２０３から供給された単調増減領域情報で示される、左右方向に並ぶ画素からなる領域のうち、縦方向に隣接している画素を含む領域、すなわち、相似した画素値の変化を有し、横方向に重複している領域を、連続している領域として検出し、頂点情報、および検出された連続している領域を示すデータ定常性情報を出力する。データ定常性情報は、領域の繋がりを示す情報を含んでいる。
【０３３６】
細線が射影された画素において、円弧形状が隣接するように一定の間隔で並ぶので、検出された連続している領域は、細線が射影された画素を含んでいる。
【０３３７】
検出された連続している領域が、細線が射影された、円弧形状が隣接するように一定の間隔で並ぶ画素を含むので、検出された連続している領域を定常領域とし、連続性検出部２０４は、検出された連続している領域を示すデータ定常性情報を出力する。
【０３３８】
すなわち、連続性検出部２０４は、長さ方向に連続するという、実世界１の細線の画像の定常性から生じた、細線を撮像して得られたデータ３における、円弧形状が隣接するように一定の間隔で並ぶ定常性を利用して、頂点検出部２０２および単調増減検出部２０３において検出された領域の候補をさらに絞り込む。
【０３３９】
図５１は、平面での近似により定常成分を抽出した画像の例を示す図である。図５２は、図５１に示す画像から頂点を検出し、単調減少している領域を検出した結果を示す図である。図５２において、白で示される部分が、検出された領域である。
【０３４０】
図５３は、図５２に示す画像から、隣接している領域の連続性を検出して、連続性が検出された領域を示す図である。図５３において、白で示される部分が、連続性が検出された領域である。連続性の検出により、領域がさらに特定されていることがわかる。
【０３４１】
図５４は、図５３に示す領域の画素値、すなわち、連続性が検出された領域の画素値を示す図である。
【０３４２】
このように、データ定常性検出部１０１は、入力画像であるデータ３に含まれている定常性を検出することができる。すなわち、データ定常性検出部１０１は、細線である実世界１の画像がデータ３に射影されることにより生じた、データ３に含まれるデータの定常性を検出することができる。データ定常性検出部１０１は、データ３から、細線である実世界１の画像が射影された画素からなる領域を検出する。
【０３４３】
図５５は、定常性検出部１０１における、細線の画像が射影された、定常性を有する領域の検出の他の処理の例を示す図である。
【０３４４】
定常性検出部１０１は、図５５に示すように、各画素について、隣接する画素との画素値の差分の絶対値を計算する。計算された差分の絶対値は、画素に対応させて、配置される。例えば、図５５に示すように、画素値がそれぞれP0、P1、P2である画素が並んでいるとき、定常性検出部１０１は、差分d0=P0-P1および差分d1=P1-P2を計算する。さらに、定常性検出部１０１は、差分d0および差分d1の絶対値を算出する。
【０３４５】
画素値P0、P1、およびP2に含まれている非定常性成分が同一であるとき、差分d0および差分d1には、細線の成分に対応した値のみが設定されることになる。
【０３４６】
従って、定常性検出部１０１は、画素に対応させて配置されている差分の絶対値のうち、隣り合う差分の値が同一であるとき、その２つの差分の絶対値に対応する画素（２つの差分の絶対値に挟まれた画素）に細線の成分が含まれていると判定する。
【０３４７】
定常性検出部１０１においては、このような、簡便な方法で細線を検出することもできる。
【０３４８】
図５６は、定常性検出の処理を説明するフローチャートである。
【０３４９】
ステップＳ２０１において、非定常成分抽出部２０１は、入力画像から、細線が射影された部分以外の部分である非定常成分を抽出する。非定常成分抽出部２０１は、入力画像と共に、抽出された非定常成分を示す非定常成分情報を頂点検出部２０２および単調増減検出部２０３に供給する。非定常成分の抽出の処理の詳細は、後述する。
【０３５０】
ステップＳ２０２において、頂点検出部２０２は、非定常成分抽出部２０１から供給された非定常成分情報を基に、入力画像から非定常成分を除去し、入力画像に定常成分を含む画素のみを残す。さらに、ステップＳ２０２において、頂点検出部２０２は、頂点を検出する。
【０３５１】
すなわち、頂点検出部２０２は、画面の縦方向を基準として、処理を実行する場合、定常成分を含む画素について、各画素の画素値と、上側および下側の画素の画素値とを比較して、上側の画素の画素値および下側の画素の画素値より大きい画素値を有する画素を検出することにより、頂点を検出する。また、ステップＳ２０２において、頂点検出部２０２は、画面の横方向を基準として、処理を実行する場合、定常成分を含む画素について、各画素の画素値と、右側および左側の画素の画素値とを比較して、右側の画素の画素値および左側の画素の画素値より大きい画素値を有する画素を検出することにより、頂点を検出する。
【０３５２】
頂点検出部２０２は、検出した頂点を示す頂点情報を単調増減検出部２０３に供給する。
【０３５３】
ステップＳ２０３において、単調増減検出部２０３は、非定常成分抽出部２０１から供給された非定常成分情報を基に、入力画像から非定常成分を除去し、入力画像に定常成分を含む画素のみを残す。さらに、ステップＳ２０３において、単調増減検出部２０３は、頂点検出部２０２から供給された、頂点の位置を示す頂点情報を基に、頂点に対する単調増減を検出することにより、データの定常性を有する画素からなる領域を検出する。
【０３５４】
単調増減検出部２０３は、画面の縦方向を基準として、処理を実行する場合、頂点の画素値、および頂点に対して縦に１列に並ぶ画素の画素値を基に、縦に並ぶ１列の画素であって、１つの細線の画像が射影された画素からなる単調増減を検出することにより、データの定常性を有する画素からなる領域を検出する。すなわち、ステップＳ２０３において、単調増減検出部２０３は、画面の縦方向を基準として、処理を実行する場合、頂点および頂点に対して縦に１列に並ぶ画素について、各画素の画素値と、上側または下側の画素の画素値との差分を求めて、差分の符号が変化する画素を検出する。また、単調増減検出部２０３は、頂点および頂点に対して縦に１列に並ぶ画素について、各画素の画素値の符号と、その画素の上側または下側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出する。さらに、単調増減検出部２０３は、頂点の画素値、並びに頂点の右側および左側の画素の画素値を、閾値と比較し、頂点の画素値が閾値を超え、右側および左側の画素の画素値が閾値以下である画素からなる領域を検出する。
【０３５５】
単調増減検出部２０３は、このように検出された領域を単調増減領域として、単調増減領域を示す単調増減領域情報を連続性検出部２０４に供給する。
【０３５６】
また、単調増減検出部２０３は、画面の横方向を基準として、処理を実行する場合、頂点の画素値、および頂点に対して横に１列に並ぶ画素の画素値を基に、横に並ぶ１列の画素であって、１つの細線の画像が射影された画素からなる単調増減を検出することにより、データの定常性を有する画素からなる領域を検出する。すなわち、ステップＳ２０３において、単調増減検出部２０３は、画面の横方向を基準として、処理を実行する場合、頂点および頂点に対して横に１列に並ぶ画素について、各画素の画素値と、左側または右側の画素の画素値との差分を求めて、差分の符号が変化する画素を検出する。また、単調増減検出部２０３は、頂点および頂点に対して横に１列に並ぶ画素について、各画素の画素値の符号と、その画素の左側または右側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出する。さらに、単調増減検出部２０３は、頂点の画素値、並びに頂点の上側および下側の画素の画素値を、閾値と比較し、頂点の画素値が閾値を超え、上側および下側の画素の画素値が閾値以下である画素からなる領域を検出する。
【０３５７】
単調増減検出部２０３は、このように検出された領域を単調増減領域として、単調増減領域を示す単調増減領域情報を連続性検出部２０４に供給する。
【０３５８】
ステップＳ２０４において、単調増減検出部２０３は、全画素の処理が終了したか否かを判定する。例えば、非定常成分抽出部２０１は、入力画像の１つの画面（例えば、フレームまたはフィールドなど）の全画素について、頂点を検出し、単調増減領域を検出したか否かを判定する。
【０３５９】
ステップＳ２０４において、全画素の処理が終了していない、すなわち、頂点の検出および単調増減領域の検出の処理の対象とされていない画素がまだあると判定された場合、ステップＳ２０２に戻り、頂点の検出および単調増減領域の検出の処理の対象とされていない画素から処理の対象となる画素を選択して、頂点の検出および単調増減領域の検出の処理を繰り返す。
【０３６０】
ステップＳ２０４において、全画素の処理が終了した、すなわち、全ての画素を対象として頂点および単調増減領域が検出されたと判定された場合、ステップＳ２０５に進み、連続性検出部２０４は、単調増減領域情報を基に、検出された領域の連続性を検出する。例えば、連続性検出部２０４は、単調増減領域情報で示される、画面の縦方向に１列に並ぶ画素からなる単調増減領域について、横方向に隣接する画素を含んでいるとき、２つの単調増減領域の間に連続性があるとし、横方向に隣接する画素を含んでいないとき、２つの単調増減領域の間に連続性がないとする。例えば、連続性検出部２０４は、単調増減領域情報で示される、画面の横方向に１列に並ぶ画素からなる単調増減領域について、縦方向に隣接する画素を含んでいるとき、２つの単調増減領域の間に連続性があるとし、縦方向に隣接する画素を含んでいないとき、２つの単調増減領域の間に連続性がないとする。
【０３６１】
連続性検出部２０４は、検出された連続している領域をデータの定常性を有する定常領域とし、頂点の位置および定常領域を示すデータ定常性情報を出力する。データ定常性情報は、領域の繋がりを示す情報を含んでいる。連続性検出部２０４から出力されるデータ定常性情報は、実世界１の細線の画像が射影された画素からなる、定常領域である細線領域を示す。
【０３６２】
ステップＳ２０６において、定常性方向検出部２０５は、全画素の処理が終了したか否かを判定する。すなわち、定常性方向検出部２０５は、入力画像の所定のフレームの全画素について、領域の連続性を検出したか否かを判定する。
【０３６３】
ステップＳ２０６において、全画素の処理が終了していない、すなわち、領域の連続性の検出の処理の対象とされていない画素がまだあると判定された場合、ステップＳ２０５に戻り、領域の連続性の検出の処理の対象とされていない画素から処理の対象となる画素を選択して、領域の連続性の検出の処理を繰り返す。
【０３６４】
ステップＳ２０６において、全画素の処理が終了した、すなわち、全ての画素を対象として領域の連続性が検出されたと判定された場合、処理は終了する。
【０３６５】
このように、入力画像であるデータ３に含まれている定常性が検出される。すなわち、細線である実世界１の画像がデータ３に射影されることにより生じた、データ３に含まれるデータの定常性が検出され、データ３から、細線である実世界１の画像が射影された画素からなる、データの定常性を有する領域が検出される。
【０３６６】
なお、図４１で構成が示されるデータ定常性検出部１０１は、データ３のフレームから検出されたデータの定常性を有する領域を基に、時間方向のデータの定常性を検出することができる。
【０３６７】
例えば、図５７に示すように、連続性検出部２０４は、フレーム#nにおいて、検出されたデータの定常性を有する領域、フレーム#n-1において、検出されたデータの定常性を有する領域、およびフレーム#n+1において、検出されたデータの定常性を有する領域を基に、領域の端部を結ぶことにより、時間方向のデータの定常性を検出する。
【０３６８】
フレーム#n-1は、フレーム#nに対して時間的に前のフレームであり、フレーム#n+1は、フレーム#nに対して時間的に後のフレームである。すなわち、フレーム#n-1、フレーム#n、およびフレーム#n+1は、フレーム#n-1、フレーム#n、およびフレーム#n+1の順で表示される。
【０３６９】
より具体的には、図５７において、Ｇは、フレーム#nにおいて、検出されたデータの定常性を有する領域、フレーム#n-1において、検出されたデータの定常性を有する領域、およびフレーム#n+1において、検出されたデータの定常性を有する領域のそれぞれの一端を結ぶことにより得られた動きベクトルを示し、Ｇ’は、検出されたデータの定常性を有する領域のそれぞれの他の一端を結ぶことにより得られた動きベクトルを示す。動きベクトルＧおよび動きベクトルＧ’は、時間方向のデータの定常性の一例である。
【０３７０】
さらに、図４１で構成が示されるデータ定常性検出部１０１は、データの定常性を有する領域の長さを示す情報を、データ定常性情報として出力することができる。
【０３７１】
図５８は、データの定常性を有しない画像データの部分である非定常成分を平面で近似して、非定常成分を抽出する、非定常成分抽出部２０１の構成を示すブロック図である。
【０３７２】
図５８に構成を示す非定常成分抽出部２０１は、入力画像から所定の数の画素でなるブロックを抽出し、ブロックと平面で示される値との誤差が所定の閾値未満になるように、ブロックを平面で近似して、非定常成分を抽出する。
【０３７３】
入力画像は、ブロック抽出部２２１に供給されるとともに、そのまま出力される。
【０３７４】
ブロック抽出部２２１は、入力画像から、所定の数の画素からなるブロックを抽出する。例えば、ブロック抽出部２２１は、７×７の画素からなるブロックを抽出し、平面近似部２２２に供給する。例えば、ブロック抽出部２２１は、抽出されるブロックの中心となる画素をラスタスキャン順に移動させ、順次、入力画像からブロックを抽出する。
【０３７５】
平面近似部２２２は、ブロックに含まれる画素の画素値を所定の平面で近似する。例えば、平面近似部２２２は、式（２４）で表される平面でブロックに含まれる画素の画素値を近似する。
【０３７６】
z=ax+by+c ・・・（２４）
【０３７７】
式（２４）において、xは、画素の画面上の一方の方向（空間方向Ｘ）の位置を示し、yは、画素の画面上の他の一方の方向（空間方向Ｙ）の位置を示す。ｚは、平面で示される近似値を示す。aは、平面の空間方向Ｘの傾きを示し、bは、平面の空間方向Ｙの傾きを示す。式（２４）において、cは、平面のオフセット（切片）を示す。
【０３７８】
例えば、平面近似部２２２は、回帰の処理により、傾きa、傾きb、およびオフセットcを求めることにより、式（２４）で表される平面で、ブロックに含まれる画素の画素値を近似する。平面近似部２２２は、棄却を伴う回帰の処理により、傾きa、傾きb、およびオフセットcを求めることにより、式（２４）で表される平面で、ブロックに含まれる画素の画素値を近似する。
【０３７９】
例えば、平面近似部２２２は、最小自乗法により、ブロックの画素の画素値に対して、誤差が最小となる式（２４）で表される平面を求めることにより、平面でブロックに含まれる画素の画素値を近似する。
【０３８０】
なお、平面近似部２２２は、式（２４）で表される平面でブロックを近似すると説明したが、式（２４）で表される平面に限らず、より高い自由度をもった関数、例えば、n次の多項式で表される面でブロックを近似するようにしてもよい。
【０３８１】
繰り返し判定部２２３は、ブロックの画素値を近似した平面で示される近似値と、ブロックの対応する画素の画素値との誤差を計算する。式（２５）は、ブロックの画素値を近似した平面で示される近似値と、ブロックの対応する画素の画素値ziとの差分である誤差eiを示す式である。
【０３８２】
【数１９】

・・・（２５）
【０３８３】
式（２５）において、zハット（zに^を付した文字をzハットと記述する。以下、本明細書において、同様に記載する。）は、ブロックの画素値を近似した平面で示される近似値を示し、aハットは、ブロックの画素値を近似した平面の空間方向Ｘの傾きを示し、bハットは、ブロックの画素値を近似した平面の空間方向Ｙの傾きを示す。式（２５）において、cハットは、ブロックの画素値を近似した平面のオフセット（切片）を示す。
【０３８４】
繰り返し判定部２２３は、式（２５）で示される、近似値とブロックの対応する画素の画素値との誤差eiが、最も大きい画素を棄却する。このようにすることで、細線が射影された画素、すなわち定常性を有する画素が棄却されることになる。繰り返し判定部２２３は、棄却した画素を示す棄却情報を平面近似部２２２に供給する。
【０３８５】
さらに、繰り返し判定部２２３は、標準誤差を算出して、標準誤差が、予め定めた近似終了判定用の閾値以上であり、ブロックの画素のうち、半分以上の画素が棄却されていないとき、繰り返し判定部２２３は、平面近似部２２２に、ブロックに含まれる画素のうち、棄却された画素を除いた画素を対象として、平面による近似の処理を繰り返させる。
【０３８６】
定常性を有する画素が棄却されるので、棄却された画素を除いた画素を対象として平面で近似をすることにより、平面は、非定常成分を近似することになる。
【０３８７】
繰り返し判定部２２３は、標準誤差が、近似終了判定用の閾値未満であるとき、または、ブロックの画素のうち、半分以上の画素が棄却されたとき、平面による近似を終了する。
【０３８８】
５×５の画素からなるブロックについて、標準誤差e_sは、例えば、式（２６）で算出される。
【０３８９】
【数２０】

・・・（２６）
ここで、nは、画素の数である。
【０３９０】
なお、繰り返し判定部２２３は、標準誤差に限らず、ブロックに含まれる全ての画素についての誤差の２乗の和を算出して、以下の処理を実行するようにしてもよい。
【０３９１】
ここで、ラスタスキャン方向に１画素ずつずれたブロックを平面で近似するとき、図５９に示すように、図中黒丸で示す、定常性を有する画素、すなわち細線の成分を含む画素は、複数回棄却されることになる。
【０３９２】
繰り返し判定部２２３は、平面による近似を終了したとき、ブロックの画素値を近似した平面を示す情報（式（２４）の平面の傾きおよび切片）を、非定常成分情報として出力する。
【０３９３】
なお、繰り返し判定部２２３は、画素毎の棄却された回数と予め定めた閾値とを比較して、棄却された回数が閾値以上である画素を定常成分を含む画素であるとして、定常成分を含む画素を示す情報を定常成分情報として出力するようにしてもよい。この場合、頂点検出部２０２乃至定常性方向検出部２０５は、定常成分情報で示される、定常成分を含む画素を対象として、それぞれの処理を実行する。
【０３９４】
図６０乃至図６７を参照して、非定常成分抽出の処理の結果の例を説明する。
【０３９５】
図６０は、細線が含まれる画像から、元の画像の２×２の画素の画素値の平均値を画素値として生成した入力画像の例を示す図である。
【０３９６】
図６１は、図６０で示される画像を、棄却をしないで平面で近似した結果得られる標準誤差を画素値とした画像を示す図である。図６１で示される例において、注目している１つの画素に対する５×５の画素からなるブロックを平面で近似した。図６１において、白い画素はより大きい画素値、すなわち、より大きい標準誤差を有する画素であり、黒い画素はより小さい画素値、すなわち、より小さい標準誤差を有する画素である。
【０３９７】
図６１から、棄却をしないで平面で近似した結果得られる標準誤差を画素値とした場合、非定常部の周辺に広く、大きな値が求められていることが確認できる。
【０３９８】
図６２乃至図６７で示される例において、注目している１つの画素に対する７×７の画素からなるブロックを平面で近似した。７×７の画素からなるブロックを平面で近似する場合、１つの画素が４９のブロックに繰り返し含まれることになるので、定常成分を含む画素は、最も多くて４９回、棄却されることになる。
【０３９９】
図６２は、図６０で示される画像を、棄却をして平面で近似したとき、得られる標準誤差を画素値とした画像である。
【０４００】
図６２において、白い画素はより大きい画素値、すなわち、より大きい標準誤差を有する画素であり、黒い画素はより小さい画素値、すなわち、より小さい標準誤差を有する画素である。棄却をしない場合に比較して、棄却をした場合、全体として、標準誤差がより小さくなることがわかる。
【０４０１】
図６３は、図６０で示される画像を、棄却をして平面で近似したとき、棄却された回数を画素値とした画像を示す図である。図６３において、白い画素はより大きい画素値、すなわち、棄却された回数がより多い画素であり、黒い画素はより小さい画素値、すなわち、棄却された回数がより少ない画素である。
【０４０２】
図６３から、細線の画像が射影された画素は、より多く棄却されていることがわかる。棄却された回数を画素値とした画像を用いて、入力画像の非定常部をマスクする画像を生成することも可能である。
【０４０３】
図６４は、ブロックの画素値を近似した平面の空間方向Ｘの傾きを画素値とした画像を示す図である。図６５は、ブロックの画素値を近似した平面の空間方向Ｙの傾きを画素値とした画像を示す図である。
【０４０４】
図６６は、ブロックの画素値を近似した平面で示される近似値からなる画像を示す図である。図６６で示される画像からは、細線が消えていることがわかる。
【０４０５】
図６７は、図６０で示される、元の画像の２×２の画素のブロックの平均値を画素の画素値として生成した画像と、図６６で示される、平面で示される近似値からなる画像との差分からなる画像を示す図である。図６７の画像の画素値は、非定常成分が除去されるので、細線の画像が射影された値のみを含む。図６７からもわかるように、元の画素値と近似した平面で示される近似値との差分からなる画像では、元の画像の定常成分がうまく抽出できていることが確認できる。
【０４０６】
棄却された回数、ブロックの画素の画素値を近似する平面の空間方向Ｘの傾き、ブロックの画素の画素値を近似する平面の空間方向Ｙの傾き、ブロックの画素の画素値を近似する平面で示される近似値、および誤差eiは、入力画像の特徴量としても利用することができる。
【０４０７】
図６８は、ステップＳ２０１に対応する、図５８に構成を示す非定常成分抽出部２０１による、非定常成分の抽出の処理を説明するフローチャートである。
【０４０８】
ステップＳ２２１において、ブロック抽出部２２１は、入力画素から、所定の数の画素からなるブロックを抽出し、抽出したブロックを平面近似部２２２に供給する。例えば、ブロック抽出部２２１は、入力画素から、まだ、選択されていない画素のうち、１つの画素を選択し、選択された画素を中心とする７×７の画素からなるブロックを抽出する。例えば、ブロック抽出部２２１は、ラスタスキャン順に画素を選択することができる。
【０４０９】
ステップＳ２２２において、平面近似部２２２は、抽出されたブロックを平面で近似する。平面近似部２２２は、例えば、回帰の処理により、抽出されたブロックの画素の画素値を、平面で近似する。例えば、平面近似部２２２は、回帰の処理により、抽出されたブロックの画素のうち、棄却された画素を除いた画素の画素値を、平面で近似する。ステップＳ２２３において、繰り返し判定部２２３は、繰り返し判定を実行する。例えば、ブロックの画素の画素値と近似した平面の近似値とから標準誤差を算出し、棄却された画素の数をカウントすることにより、繰り返し判定を実行する。
【０４１０】
ステップＳ２２４において、繰り返し判定部２２３は、標準誤差が閾値以上であるか否かを判定し、標準誤差が閾値以上であると判定された場合、ステップＳ２２５に進む。
【０４１１】
なお、ステップＳ２２４において、繰り返し判定部２２３は、ブロックの画素のうち、半分以上の画素が棄却されたか否か、および標準誤差が閾値以上であるか否かを判定し、ブロックの画素のうち、半分以上の画素が棄却されておらず、標準誤差が閾値以上であると判定された場合、ステップＳ２２５に進むようにしてもよい。
【０４１２】
ステップＳ２２５において、繰り返し判定部２２３は、ブロックの画素毎に、画素の画素値と近似した平面の近似値との誤差を算出し、誤差が最も大きい画素を棄却し、平面近似部２２２に通知する。手続きは、ステップＳ２２２に戻り、棄却された画素を除いた、ブロックの画素を対象として、平面による近似の処理および繰り返し判定の処理が繰り返される。
【０４１３】
ステップＳ２２５において、ラスタスキャン方向に１画素ずつずれたブロックがステップＳ２２１の処理で抽出される場合、図５９に示すように、細線の成分を含む画素（図中の黒丸で示す）は、複数回棄却されることになる。
【０４１４】
ステップＳ２２４において、標準誤差が閾値以上でないと判定された場合、ブロックが平面で近似されたので、ステップＳ２２６に進む。
【０４１５】
なお、ステップＳ２２４において、繰り返し判定部２２３は、ブロックの画素のうち、半分以上の画素が棄却されたか否か、および標準誤差が閾値以上であるか否かを判定し、ブロックの画素のうち、半分以上の画素が棄却されたか、または標準誤差が閾値以上でないと判定された場合、ステップＳ２２５に進むようにしてもよい。
【０４１６】
ステップＳ２２６において、繰り返し判定部２２３は、ブロックの画素の画素値を近似する平面の傾きおよび切片を、非定常成分情報として出力する。
【０４１７】
ステップＳ２２７において、ブロック抽出部２２１は、入力画像の１つの画面の全画素について処理を終了したか否かを判定し、まだ処理の対象となってない画素があると判定された場合、ステップＳ２２１に戻り、まだ処理の対象となっていない画素からブロックを抽出して、上述した処理を繰り返す。
【０４１８】
ステップＳ２２７において、入力画像の１つの画面の全画素について、処理を終了したと判定された場合、処理は終了する。
【０４１９】
このように、図５８に構成を示す非定常成分抽出部２０１は、入力画像から非定常成分を抽出することができる。非定常成分抽出部２０１が入力画像の非定常成分を抽出するので、頂点検出部２０２および単調増減検出部２０３は、入力画像と、非定常成分抽出部２０１で抽出された非定常成分との差分を求めることにより、定常成分を含む差分を対象として処理を実行することができる。
【０４２０】
なお、平面による近似の処理において算出される、棄却した場合の標準誤差、棄却しない場合の標準誤差、画素の棄却された回数、平面の空間方向Ｘの傾き（式（２４）におけるaハット）、平面の空間方向Ｙの傾き（式（２４）におけるbハット）、平面で置き換えたときのレベル（式（２４）におけるcハット）、および入力画像の画素値と平面で示される近似値との差分は、特徴量として利用することができる。
【０４２１】
図６９は、ステップＳ２０１に対応する非定常成分の抽出の処理に代わる、図５８に構成を示す非定常成分抽出部２０１による、定常成分の抽出の処理を説明するフローチャートである。ステップＳ２４１乃至ステップＳ２４５の処理は、ステップＳ２２１乃至ステップＳ２２５の処理と同様なので、その説明は省略する。
【０４２２】
ステップＳ２４６において、繰り返し判定部２２３は、平面で示される近似値と入力画像の画素値との差分を、入力画像の定常成分として出力する。すなわち、繰り返し判定部２２３は、平面による近似値と、真値である画素値との差分を出力する。
【０４２３】
なお、繰り返し判定部２２３は、平面で示される近似値と入力画像の画素値との差分が、所定の閾値以上である画素の画素値を、入力画像の定常成分として出力するようにしてもよい。
【０４２４】
ステップＳ２４７の処理は、ステップＳ２２７の処理と同様なので、その説明は省略する。
【０４２５】
平面が非定常成分を近似しているので、非定常成分抽出部２０１は、入力画像の各画素の画素値から、画素値を近似する平面で示される近似値を引き算することにより、入力画像から非定常成分を除去することができる。この場合、頂点検出部２０２乃至連続性検出部２０４は、入力画像の定常成分、すなわち細線の画像が射影された値のみを処理の対象とすることができ、頂点検出部２０２乃至連続性検出部２０４における処理がより容易になる。
【０４２６】
図７０は、ステップＳ２０１に対応する非定常成分の抽出の処理に代わる、図５８に構成を示す非定常成分抽出部２０１による、定常成分の抽出の他の処理を説明するフローチャートである。ステップＳ２６１乃至ステップＳ２６５の処理は、ステップＳ２２１乃至ステップＳ２２５の処理と同様なので、その説明は省略する。
【０４２７】
ステップＳ２６６において、繰り返し判定部２２３は、画素毎の、棄却の回数を記憶し、ステップＳ２６２に戻り、処理を繰り返す。
【０４２８】
ステップＳ２６４において、標準誤差が閾値以上でないと判定された場合、ブロックが平面で近似されたので、ステップＳ２６７に進み、繰り返し判定部２２３は、入力画像の１つの画面の全画素について処理を終了したか否かを判定し、まだ処理の対象となってない画素があると判定された場合、ステップＳ２６１に戻り、まだ処理の対象となっていない画素についてブロックを抽出して、上述した処理を繰り返す。
【０４２９】
ステップＳ２６７において、入力画像の１つの画面の全画素について、処理を終了したと判定された場合、ステップＳ２６８に進み、繰り返し判定部２２３は、まだ選択されていない画素から１つの画素を選択し、選択された画素について、棄却の回数が、閾値以上であるか否かを判定する。例えば、繰り返し判定部２２３は、ステップＳ２６８において、選択された画素について、棄却の回数が、予め記憶している閾値以上であるか否かを判定する。
【０４３０】
ステップＳ２６８において、選択された画素について、棄却の回数が、閾値以上であると判定された場合、選択された画素が定常成分を含むので、ステップＳ２６９に進み、繰り返し判定部２２３は、選択された画素の画素値（入力画像における画素値）を入力画像の定常成分として出力し、ステップＳ２７０に進む。
【０４３１】
ステップＳ２６８において、選択された画素について、棄却の回数が、閾値以上でないと判定された場合、選択された画素が定常成分を含まないので、ステップＳ２６９の処理をスキップして、手続きは、ステップＳ２７０に進む。すなわち、棄却の回数が、閾値以上でないと判定された画素は、画素値が出力されない。
【０４３２】
なお、棄却の回数が、閾値以上でないと判定された画素について、繰り返し判定部２２３は、0を設定した画素値を出力するようにしてもよい。
【０４３３】
ステップＳ２７０において、繰り返し判定部２２３は、入力画像の１つの画面の全画素について、棄却の回数が閾値以上であるか否かの判定の処理を終了したか否かを判定し、全画素について処理を終了していないと判定された場合、まだ処理の対象となってない画素があるので、ステップＳ２６８に戻り、まだ処理の対象となっていない画素から１つの画素を選択して、上述した処理を繰り返す。
【０４３４】
ステップＳ２７０において、入力画像の１つの画面の全画素について処理を終了したと判定された場合、処理は終了する。
【０４３５】
このように、非定常成分抽出部２０１は、定常成分情報として、入力画像の画素のうち、定常成分を含む画素の画素値を出力することができる。すなわち、非定常成分抽出部２０１は、入力画像の画素のうち、細線の画像の成分を含む画素の画素値を出力することができる。
【０４３６】
図７１は、ステップＳ２０１に対応する非定常成分の抽出の処理に代わる、図５８に構成を示す非定常成分抽出部２０１による、定常成分の抽出のさらに他の処理を説明するフローチャートである。ステップＳ２８１乃至ステップＳ２８８の処理は、ステップＳ２６１乃至ステップＳ２６８の処理と同様なので、その説明は省略する。
【０４３７】
ステップＳ２８９において、繰り返し判定部２２３は、平面で示される近似値と、選択された画素の画素値との差分を入力画像の定常成分として出力する。すなわち、繰り返し判定部２２３は、入力画像から非定常成分を除去した画像を定常性情報として出力する。
【０４３８】
ステップＳ２９０の処理は、ステップＳ２７０の処理と同様なので、その説明は省略する。
【０４３９】
このように、非定常成分抽出部２０１は、入力画像から非定常成分を除去した画像を定常性情報として出力することができる。
【０４４０】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、第１の画像データの複数の画素の画素値の不連続部を検出し、検出された不連続部からデータの定常性を検出し、検出されたデータの定常性を基に、現実世界の光信号の定常性を推定することにより光信号を推定し、推定された光信号を第２の画像データに変換するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０４４１】
図７２は、データ定常性検出部１０１の他の構成を示すブロック図である。
【０４４２】
図７２に構成を示すデータ定常性検出部１０１においては、注目している画素である注目画素について、入力画像の空間方向に対する画素値の変化、すなわち入力画像の空間方向のアクティビティが検出され、検出されたアクティビティに応じて、注目画素および基準軸を基準とした角度毎に、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組が、複数抽出され、抽出された画素の組の相関が検出され、相関に基づいて、入力画像における、基準軸を基準としたデータの定常性の角度が検出される。
【０４４３】
データの定常性の角度とは、基準軸と、データ３が有している、一定の特徴が繰り返し現れる所定の次元の方向とがなす角度をいう。一定の特徴が繰り返し現れるとは、例えば、データ３における位置の変化に対する値の変化、すなわち断面形状が同じである場合などをいう。
【０４４４】
基準軸は、例えば、空間方向Ｘを示す軸（画面の水平方向）、または空間方向Ｙを示す軸（画面の垂直方向）などとすることができる。
【０４４５】
入力画像は、アクティビティ検出部４０１およびデータ選択部４０２に供給される。
【０４４６】
アクティビティ検出部４０１は、入力画像の空間方向に対する画素値の変化、すなわち空間方向のアクティビティを検出して、検出した結果を示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０４４７】
例えば、アクティビティ検出部４０１は、画面の水平方向に対する画素値の変化、および画面の垂直方向に対する画素値の変化を検出し、検出された水平方向に対する画素値の変化および垂直方向に対する画素値の変化を比較することにより、垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きいか、または水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きいかを検出する。
【０４４８】
アクティビティ検出部４０１は、検出の結果である、垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きいことを示すか、または水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きいことを示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０４４９】
垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きい場合、例えば、図７３で示されるように、垂直方向に１列の画素に円弧形状（かまぼこ型）またはつめ形状が形成され、円弧形状またはつめ形状が垂直により近い方向に繰り返して形成されている。すなわち、垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きい場合、基準軸を空間方向Ｘを示す軸とすると、入力画像における、基準軸を基準としたデータの定常性の角度は、４５度乃至９０度のいずれかの値である。
【０４５０】
水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きい場合、例えば、水平方向に１列の画素に円弧形状またはつめ形状が形成され、円弧形状またはつめ形状が水平方向により近い方向に繰り返して形成されている。すなわち、水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きい場合、基準軸を空間方向Ｘを示す軸とすると、入力画像における、基準軸を基準としたデータの定常性の角度は、０度乃至４５度のいずれかの値である。
【０４５１】
例えば、アクティビティ検出部４０１は、図７４で示される、注目画素を中心とした３×３の９つの画素からなるブロックを入力画像から抽出する。アクティビティ検出部４０１は、縦に隣接する画素についての画素値の差分の和、および横に隣接する画素についての画素値の差分の和を算出する。横に隣接する画素についての画素値の差分の和h_diffは、式（２７）で求められる。
【０４５２】
h_diff=Σ(P_i+1,j-P_i,j) ・・・（２７）
【０４５３】
同様に、縦に隣接する画素についての画素値の差分の和v_diffは、式（２８）で求められる。
【０４５４】
v_diff=Σ(P_i,j+1-P_i,j) ・・・（２８）
【０４５５】
式（２７）および式（２８）において、Pは、画素値を示し、iは、画素の横方向の位置を示し、jは、画素の縦方向の位置を示す。
【０４５６】
アクティビティ検出部４０１は、算出された横に隣接する画素についての画素値の差分の和h_diffおよび縦に隣接する画素についての画素値の差分の和v_diffを比較して、入力画像における、基準軸を基準としたデータの定常性の角度の範囲を判定するようにしてもよい。すなわち、この場合、アクティビティ検出部４０１は、空間方向の位置に対する画素値の変化で示される形状が水平方向に繰り返して形成されているか、垂直方向に繰り返して形成されているかを判定する。
【０４５７】
例えば、横に１列の画素上に形成された円弧についての横方向の画素値の変化は、縦方向の画素値の変化に比較して大きく、横に１列の画素上に形成された円弧についての縦方向の画素値の変化は、横方向の画素値の変化に比較して大きく、データの定常性の方向、すなわち、データ３である入力画像が有している、一定の特徴の所定の次元の方向の変化は、データの定常性に直交する方向の変化に比較して小さいと言える。言い換えれば、データの定常性の方向の差分に比較して、データの定常性の方向に直交する方向（以下、非定常方向とも称する）の差分は大きい。
【０４５８】
例えば、図７５に示すように、アクティビティ検出部４０１は、算出された横に隣接する画素についての画素値の差分の和h_diffおよび縦に隣接する画素についての画素値の差分の和v_diffを比較して、横に隣接する画素についての画素値の差分の和h_diffが大きい場合、基準軸を基準としたデータの定常性の角度が、４５度乃至１３５度のいずれかの値であると判定し、縦に隣接する画素についての画素値の差分の和v_diffが大きい場合、基準軸を基準としたデータの定常性の角度が、０度乃至４５度のいずれかの値、または１３５度乃至１８０度のいずれかの値であると判定する。
【０４５９】
例えば、アクティビティ検出部４０１は、判定の結果を示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０４６０】
なお、アクティビティ検出部４０１は、５×５の２５の画素からなるブロック、または７×７の４９の画素からなるブロックなど、任意の大きさのブロックを抽出して、アクティビティを検出することができる。
【０４６１】
データ選択部４０２は、入力画像の画素から注目画素を順に選択し、アクティビティ検出部４０１から供給されたアクティビティ情報を基に、注目画素および基準軸を基準とした角度毎に、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４６２】
例えば、アクティビティ情報が垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きいことを示しているとき、データの定常性の角度が、４５度乃至１３５度のいずれかの値なので、データ選択部４０２は、注目画素および基準軸を基準とした４５度乃至１３５度の範囲の所定の角度毎に、垂直方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４６３】
アクティビティ情報が水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きいことを示しているとき、データの定常性の角度が、０度乃至４５度または１３５度乃至１８０度のいずれかの値なので、データ選択部４０２は、注目画素および基準軸を基準とした０度乃至４５度または１３５度乃至１８０度の範囲の所定の角度毎に、水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４６４】
また、例えば、データの定常性の角度が４５度乃至１３５度のいずれかの値であることを、アクティビティ情報が示しているとき、データ選択部４０２は、注目画素および基準軸を基準とした４５度乃至１３５度の範囲の所定の角度毎に、垂直方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４６５】
データの定常性の角度が０度乃至４５度または１３５度乃至１８０度のいずれかの値であることを、アクティビティ情報が示しているとき、データ選択部４０２は、注目画素および基準軸を基準とした０度乃至４５度または１３５度乃至１８０度の範囲の所定の角度毎に、水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４６６】
データ選択部４０２は、抽出した画素からなる複数の組を誤差推定部４０３に供給する。
【０４６７】
誤差推定部４０３は、抽出した画素からなる複数の組について、角度毎に、画素の組の相関を検出する。
【０４６８】
例えば、誤差推定部４０３は、１つの角度に対応する、垂直方向に１列の所定の数の画素からなる画素の複数の組について、画素の組における対応する位置の画素の画素値の相関を検出する。誤差推定部４０３は、１つの角度に対応する、水平方向に１列の所定の数の画素からなる画素の複数の組について、組における対応する位置の画素の画素値の相関を検出する。
【０４６９】
誤差推定部４０３は、検出した相関を示す相関情報を定常方向導出部４０４に供給する。誤差推定部４０３は、相関を示す値として、データ選択部４０２から供給された、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出し、差分の絶対値の和を相関情報として定常方向導出部４０４に供給する。
【０４７０】
定常方向導出部４０４は、誤差推定部４０３から供給された相関情報に基いて、欠落した実世界１の光信号の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。例えば、定常方向導出部４０４は、誤差推定部４０３から供給された相関情報に基いて、データの定常性の角度として、最も相関の強い画素の組に対する角度を検出し、検出された最も相関の強い画素の組に対する角度を示すデータ定常性情報を出力する。
【０４７１】
以下の説明において、適宜、０度乃至９０度の範囲（いわゆる第１象限）のデータの定常性の角度を検出するものとして説明する。
【０４７２】
図７６は、図７２に示すデータ定常性検出部１０１のより詳細な構成を示すブロック図である。
【０４７３】
データ選択部４０２は、画素選択部４１１−１乃至画素選択部４１１−Ｌを含む。誤差推定部４０３は、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌを含む。定常方向導出部４０４は、最小誤差角度選択部４１３を含む。
【０４７４】
まず、アクティビティ情報で示される、データの定常性の角度が４５度乃至１３５度のいずれかの値であるときの画素選択部４１１−１乃至画素選択部４１１−Ｌの処理を説明する。
【０４７５】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、空間方向Ｘを示す軸を基準軸として、注目画素を通る、それぞれ異なる所定の角度の直線を設定する。画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列に属する画素であって、注目画素の上側の所定の数の画素、および注目画素の下側の所定の数の画素、並びに注目画素を画素の組として選択する。
【０４７６】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列に属する画素から、注目画素を中心として９つの画素を画素の組として選択する。
【０４７７】
図７７において、マス目状の１つの四角（１つのマス目）は、１つの画素を示す。図７７において、中央に示す丸は、注目画素を示す。
【０４７８】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側の縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、注目画素の左下側の丸は、選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側の縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４７９】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側の縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４８０】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側に２つめの縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、最も左側の丸は、選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側に２つめの縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４８１】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側に２つめの縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４８２】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側の縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、注目画素の右上側の丸は、選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側の縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４８３】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側の縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４８４】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側に２つめの縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、最も右側の丸は、このように選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側に２つめの縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４８５】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側に２つめの縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４８６】
このように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、それぞれ、画素の組を５つ選択する。
【０４８７】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、互いに異なる角度（に設定された直線）についての、画素の組を選択する。例えば、画素選択部４１１−１は、４５度についての、画素の組を選択し、画素選択部４１１−２は、４７．５度についての、画素の組を選択し、画素選択部４１１−３は、５０度についての、画素の組を選択する。画素選択部４１１−１乃至画素選択部４１１−Ｌは、５２．５度から１３５度までの、２．５度毎の角度についての、画素の組を選択する。
【０４８８】
なお、画素の組の数は、例えば、３つ、または７つなど、任意の数とすることができ、本発明を限定するものではない。また、１つの組として選択された画素の数は、例えば、５つ、または１３など、任意の数とすることができ、本発明を限定するものではない。
【０４８９】
なお、画素選択部４１１−１乃至画素選択部４１１−Ｌは、縦方向に所定の範囲の画素から、画素の組を選択するようにすることができる。例えば、画素選択部４１１−１乃至画素選択部４１１−Ｌは、縦方向に１２１個の画素（注目画素に対して、上方向に６０画素、下方向に６０画素）から、画素の組を選択する。この場合、データ定常性検出部１０１は、空間方向Ｘを示す軸に対して、８８．０９度まで、データの定常性の角度を検出することができる。
【０４９０】
画素選択部４１１−１は、選択した画素の組を推定誤差算出部４１２−１に供給し、画素選択部４１１−２は、選択した画素の組を推定誤差算出部４１２−２に供給する。同様に、画素選択部４１１−３乃至画素選択部４１１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４１２−３乃至推定誤差算出部４１２−Ｌのそれぞれに供給する。
【０４９１】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。例えば、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、相関を示す値として、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出する。
【０４９２】
より具体的には、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の左側の縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、最も上の画素の画素値の差分を算出し、上から２番目の画素の画素値の差分を算出するように、上の画素から順に画素値の差分の絶対値を算出して、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の左に２つめの縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、上の画素から順に画素値の差分の絶対値を算出して、算出された差分の絶対値の和を算出する。
【０４９３】
そして、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の右側の縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、最も上の画素の画素値の差分を算出し、上から２番目の画素の画素値の差分を算出するように、上の画素から順に画素値の差分の絶対値を算出して、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の右に２つめの縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、上の画素から順に画素値の差分の絶対値を算出して、算出された差分の絶対値の和を算出する。
【０４９４】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、このように算出された画素値の差分の絶対値の和を全て加算して、画素値の差分の絶対値の総和を算出する。
【０４９５】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。例えば、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、算出された画素値の差分の絶対値の総和を最小誤差角度選択部４１３に供給する。
【０４９６】
なお、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素値の差分の絶対値の和に限らず、画素値の差分の自乗の和、または画素値を基にした相関係数など他の値を相関値として算出するようにすることができる。
【０４９７】
最小誤差角度選択部４１３は、互いに異なる角度についての、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌにおいて検出された相関に基いて、欠落した実世界１の光信号である画像の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。すなわち、最小誤差角度選択部４１３は、互いに異なる角度についての、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌにおいて検出された相関に基いて、最も強い相関を選択し、選択された相関が検出された角度を、基準軸を基準としたデータの定常性の角度とすることにより、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。
【０４９８】
例えば、最小誤差角度選択部４１３は、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌから供給された、画素値の差分の絶対値の総和のうち、最小の総和を選択する。最小誤差角度選択部４１３は、選択された総和が算出された画素の組について、注目画素に対して、左側に２つめの縦に１列の画素の列に属する画素であって、直線に最も近い位置の画素の位置、および、注目画素に対して、右側に２つめの縦に１列の画素の列に属する画素であって、直線に最も近い位置の画素の位置を参照する。
【０４９９】
図７７で示されるように、最小誤差角度選択部４１３は、注目画素の位置に対する、参照する画素の位置の縦方向の距離Sを求める。最小誤差角度選択部４１３は、図７８で示すように、式（２９）から、欠落した実世界１の光信号の定常性に対応する、画像データである入力画像における、基準軸である空間方向Ｘを示す軸を基準としたデータの定常性の角度θを検出する。
【０５００】
θ=tan^-1(s/2) ・・・（２９）
【０５０１】
次に、アクティビティ情報で示される、データの定常性の角度が０度乃至４５度および１３５度乃至１８０度のいずれかの値であるときの画素選択部４１１−１乃至画素選択部４１１−Ｌの処理を説明する。
【０５０２】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、空間方向Ｘを示す軸を基準軸として、注目画素を通る、所定の角度の直線を設定し、注目画素が属する横に１列の画素の列に属する画素であって、注目画素の上側の所定の数の画素、および注目画素の下側の所定の数の画素、並びに注目画素を画素の組として選択する。
【０５０３】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側の横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側の横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５０４】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側に２つめの横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側に２つめの横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５０５】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側の横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側の横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５０６】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側に２つめの横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側に２つめの横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５０７】
このように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、それぞれ、画素の組を５つ選択する。
【０５０８】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、互いに異なる角度についての、画素の組を選択する。例えば、画素選択部４１１−１は、０度についての、画素の組を選択し、画素選択部４１１−２は、２．５度についての、画素の組を選択し、画素選択部４１１−３は、５度についての、画素の組を選択する。画素選択部４１１−１乃至画素選択部４１１−Ｌは、７．５度から４５度および１３５度から１８０度までの、２．５度毎の角度についての、画素の組を選択する。
【０５０９】
画素選択部４１１−１は、選択した画素の組を推定誤差算出部４１２−１に供給し、画素選択部４１１−２は、選択した画素の組を推定誤差算出部４１２−２に供給する。同様に、画素選択部４１１−３乃至画素選択部４１１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４１２−３乃至推定誤差算出部４１２−Ｌのそれぞれに供給する。
【０５１０】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。
【０５１１】
最小誤差角度選択部４１３は、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌにおいて検出された相関に基いて、欠落した実世界１の光信号である画像の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。
【０５１２】
次に、図７９のフローチャートを参照して、ステップＳ１０１の処理に対応する、図７２で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０５１３】
ステップＳ４０１において、アクティビティ検出部４０１およびデータ選択部４０２は、入力画像から、注目している画素である注目画素を選択する。アクティビティ検出部４０１およびデータ選択部４０２は、同一の注目画素を選択する。例えば、アクティビティ検出部４０１およびデータ選択部４０２は、入力画像から、ラスタスキャン順に、注目画素を選択する。
【０５１４】
ステップＳ４０２において、アクティビティ検出部４０１は、注目画素に対するアクティビティを検出する。例えば、アクティビティ検出部４０１は、注目画素を中心とした所定の数の画素からなるブロックの縦方向に並ぶ画素の画素値の差分および横方向に並ぶ画素の画素値の差分を基に、アクティビティを検出する。
【０５１５】
アクティビティ検出部４０１は、注目画素に対する空間方向のアクティビティを検出して、検出した結果を示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０５１６】
ステップＳ４０３において、データ選択部４０２は、注目画素を含む画素の列から、注目画素を中心とした所定の数の画素を、画素の組として選択する。例えば、データ選択部４０２は、注目画素が属する縦または横に１列の画素の列に属する画素であって、注目画素の上側または左側の所定の数の画素、および注目画素の下側または右側の所定の数の画素、並びに注目画素を画素の組として選択する。
【０５１７】
ステップＳ４０４において、データ選択部４０２は、ステップＳ４０２の処理で検出されたアクティビティを基にした、所定の範囲の角度毎に、所定の数の画素の列から、それぞれ所定の数の画素を、画素の組として選択する。例えば、データ選択部４０２は、所定の範囲の角度を有し、空間方向Ｘを示す軸を基準軸として、注目画素を通る直線を設定し、注目画素に対して、横方向または縦方向に１列または２列離れた画素であって、直線に最も近い画素を選択し、選択された画素の上側または左側の所定の数の画素、および選択された画素の下側または右側の所定の数の画素、並びに線に最も近い選択された画素を画素の組として選択する。データ選択部４０２は、角度毎に、画素の組を選択する。
【０５１８】
データ選択部４０２は、選択した画素の組を誤差推定部４０３に供給する。
【０５１９】
ステップＳ４０５において、誤差推定部４０３は、注目画素を中心とした画素の組と、角度毎に選択した画素の組との相関を計算する。例えば、誤差推定部４０３は、角度毎に、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出する。
【０５２０】
角度毎に選択された、画素の組の相互の相関を基に、データの定常性の角度を検出するようにしてもよい。
【０５２１】
誤差推定部４０３は、算出された相関を示す情報を、定常方向導出部４０４に供給する。
【０５２２】
ステップＳ４０６において、定常方向導出部４０４は、ステップＳ４０５の処理で算出された相関を基に、相関が最も強い画素の組の位置から、欠落した実世界１の光信号の定常性に対応する、画像データである入力画像における、基準軸を基準としたデータの定常性の角度を検出する。例えば、定常方向導出部４０４は、画素値の差分の絶対値の総和のうち、最小の総和を選択し、選択された総和が算出された画素の組の位置から、データの定常性の角度θを検出する。
【０５２３】
定常方向導出部４０４は、検出したデータの定常性の角度を示すデータ定常性情報を出力する。
【０５２４】
ステップＳ４０７において、データ選択部４０２は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ４０１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０５２５】
ステップＳ４０７において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０５２６】
このように、データ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出することができる。
【０５２７】
なお、図７２で構成が示されるデータ検出部１０１は、注目しているフレームである注目フレームの、注目している画素である注目画素について、入力画像の空間方向のアクティビティを検出し、検出されたアクティビティに応じて、注目画素および空間方向の基準軸を基準とした角度、並びに動きベクトル毎に、注目フレームおよび注目フレームの時間的に前または後ろのフレームのそれぞれから、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組を、複数抽出し、抽出された画素の組の相関を検出し、相関に基づいて、入力画像における、時間方向および空間方向のデータの定常性の角度を検出するようにしてもよい。
【０５２８】
例えば、図８０に示すように、データ選択部４０２は、検出されたアクティビティに応じて、注目画素および空間方向の基準軸を基準とした角度、並びに動きベクトル毎に、注目フレームであるフレーム#n、フレーム#n-1、およびフレーム#n+1のそれぞれから、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０５２９】
フレーム#n-1は、フレーム#nに対して時間的に前のフレームであり、フレーム#n+1は、フレーム#nに対して時間的に後のフレームである。すなわち、フレーム#n-1、フレーム#n、およびフレーム#n+1は、フレーム#n-1、フレーム#n、およびフレーム#n+1の順で表示される。
【０５３０】
誤差推定部４０３は、抽出した画素からなる複数の組について、１つの角度および１つの動きベクトル毎に、画素の組の相関を検出する。定常方向導出部４０４は、画素の組の相関に基づいて、欠落した実世界１の光信号の定常性に対応する、入力画像における、時間方向および空間方向のデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。
【０５３１】
図８１は、図７２に示すデータ定常性検出部１０１のより詳細な他の構成を示すブロック図である。図７６に示す場合と同様の部分には、同一の番号を付してあり、その説明は省略する。
【０５３２】
データ選択部４０２は、画素選択部４２１−１乃至画素選択部４２１−Ｌを含む。誤差推定部４０３は、推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌを含む。
【０５３３】
図８１で示すデータ定常性検出部１０１においては、角度の範囲に対する数の画素からなる、画素の組であって、角度の範囲に対する数の組が抽出されて、抽出された画素の組の相関が検出され、検出された相関に基づいて、入力画像における、基準軸を基準としたデータの定常性の角度が検出される。
【０５３４】
まず、アクティビティ情報で示される、データの定常性の角度が４５度乃至１３５度のいずれかの値であるときの画素選択部４２１−１乃至画素選択部４２１−Ｌの処理を説明する。
【０５３５】
図８２の左側に示すように、図７６で示されるデータ定常性検出部１０１においては、設定された直線の角度によらず、一定の数の画素からなる画素の組が抽出されるのに対して、図８１で示されるデータ定常性検出部１０１においては、図８２の右側に示すように、設定された直線の角度の範囲に応じた数の画素からなる画素の組が抽出される。また、図８１で示されるデータ定常性検出部１０１においては、画素の組が、設定された直線の角度の範囲に応じた数だけ抽出される。
【０５３６】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、４５度乃至１３５度の範囲の、空間方向Ｘを示す軸を基準軸として、注目画素を通る、それぞれ互いに異なる所定の角度の直線を設定する。
【０５３７】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する縦に１列の画素の列に属する画素であって、それぞれに設定された直線の角度の範囲に応じた数の、注目画素の上側の画素、および注目画素の下側の画素、並びに注目画素を画素の組として選択する。
【０５３８】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する縦に１列の画素の列に対して、画素を基準とした横方向に所定の距離にある、左側および右側の縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択し、選択された画素に対して縦に１列の画素から、設定された直線の角度の範囲に応じた数の、選択された画素の上側の画素、および選択された画素の下側の画素、並びに選択された画素を画素の組として選択する。
【０５３９】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の画素を、画素の組として選択する。画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の、画素の組を選択する。
【０５４０】
例えば、空間方向Ｘに対してほぼ４５度の角度に位置する、検出素子の検出領域の幅とほぼ同じ幅の細線の画像がセンサ２で撮像された場合、細線の画像は、空間方向Ｙに１列に並ぶ３つの画素に円弧形状が形成されるように、データ３に射影される。これに対して、空間方向Ｘに対してほぼ垂直に位置する、検出素子の検出領域の幅とほぼ同じ幅の細線の画像がセンサ２で撮像された場合、細線の画像は、空間方向Ｙに１列に並ぶ、多数の画素に円弧形状が形成されるように、データ３に射影される。
【０５４１】
画素の組に同じ数の画素が含まれるとすると、細線が空間方向Ｘに対してほぼ４５度の角度に位置する場合、画素の組において、細線の画像が射影された画素の数が少なくなり、分解能が低下することになる。逆に、細線が空間方向Ｘに対してほぼ垂直に位置する場合、画素の組において、細線の画像が射影された画素のうちの、一部の画素について処理が実行されることになり、正確さが低下する恐れがある。
【０５４２】
そこで、細線の画像が射影された画素がほぼ同等になるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定する直線が空間方向Ｘに対して４５度の角度により近いとき、それぞれ画素の組に含まれる画素の数を少なくして、画素の組の数を多くし、設定する直線が空間方向Ｘに対して垂直により近い場合、それぞれの画素の組に含まれる画素の数を多くして、画素の組の数を少なくするように、画素および画素の組を選択する。
【０５４３】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、４５度以上６３．４度未満の範囲（図８３および図８４において、Ａで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした５つの画素を画素の組として選択すると共に、注目画素に対して、横方向に５画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、５つの画素を画素の組として選択する。
【０５４４】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、４５度以上６３．４度未満の範囲にあるとき、入力画像から、それぞれ５つの画素からなる、１１の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素は、注目画素に対して、縦方向に５画素乃至９画素離れた位置にある。
【０５４５】
図８４において、列の数は、注目画素の左側または右側の、画素の組として画素が選択される画素の列の数を示す。図８４において、１列の画素の数は、注目画素に対して、縦に１列の画素の列、または注目画素の左側または右側の列から、画素の組として選択される画素の数を示す。図８４において、画素の選択範囲は、注目画素に対する、設定された直線に最も近い位置の画素として、選択される画素の縦方向の位置を示す。
【０５４６】
図８５で示されるように、例えば、画素選択部４２１−１は、設定された直線の角度が、４５度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした５つの画素を画素の組として選択すると共に、注目画素に対して、横方向に５画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、５つの画素を画素の組として選択する。すなわち、画素選択部４２１−１は、入力画像から、それぞれ５つの画素からなる、１１の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に５画素離れた位置にある。
【０５４７】
なお、図８５乃至図９２において、点線で表された四角（点線で仕切られた１つのマス目）は、１つの画素を示し、実線で表された四角は、画素の組を示す。図８５乃至図９２において、注目画素の空間方向Ｘの座標を０とし、注目画素の空間方向Ｙの座標を０とした。
【０５４８】
また、図８５乃至図９２において、斜線で表された四角は、注目画素または設定された直線に最も近い位置の画素を示す。図８５乃至図９２において、太線で表された四角は、注目画素を中心として選択された画素の組を示す。
【０５４９】
図８６で示されるように、例えば、画素選択部４２１−２は、設定された直線の角度が、６０．９度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした５つの画素を画素の組として選択すると共に、注目画素に対して、横方向に５画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、５つの画素を画素の組として選択する。すなわち、画素選択部４２１−２は、入力画像から、それぞれ５つの画素からなる、１１の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に９画素離れた位置にある。
【０５５０】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、６３．４度以上７１．６度未満の範囲（図８３および図８４において、Ｂで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした７つの画素を画素の組として選択すると共に、注目画素に対して、横方向に４画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、７つの画素を画素の組として選択する。
【０５５１】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、６３．４度以上７１．６度未満の範囲囲にあるとき、入力画像から、それぞれ７つの画素からなる、９つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素の縦方向の位置は、注目画素に対して、８画素乃至１１画素である。
【０５５２】
図８７で示されるように、例えば、画素選択部４２１−３は、設定された直線の角度が、６３．４度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした７つの画素を画素の組として選択すると共に、注目画素に対して、横方向に４画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、７つの画素を画素の組として選択する。すなわち、画素選択部４２１−３は、入力画像から、それぞれ７つの画素からなる、９つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に８画素離れた位置にある。
【０５５３】
また、図８８で示されるように、例えば、画素選択部４２１−４は、設定された直線の角度が、７０．０度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした７つの画素を画素の組として選択すると共に、注目画素に対して、横方向に４画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、７つの画素を画素の組として選択する。すなわち、画素選択部４２１−４は、入力画像から、それぞれ７つの画素からなる、９つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に１１画素離れた位置にある。
【０５５４】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７１．６度以上７６．０度未満の範囲（図８３および図８４において、Ｃで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした９つの画素を画素の組として選択すると共に、注目画素に対して、横方向に３画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、９つの画素を画素の組として選択する。
【０５５５】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７１．６度以上７６．０度未満の範囲にあるとき、入力画像から、それぞれ９つの画素からなる、７つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素の縦方向の位置は、注目画素に対して、９画素乃至１１画素である。
【０５５６】
図８９で示されるように、例えば、画素選択部４２１−５は、設定された直線の角度が、７１．６度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした９つの画素を画素の組として選択すると共に、注目画素に対して、横方向に３画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、９つの画素を画素の組として選択する。すなわち、画素選択部４２１−５は、入力画像から、それぞれ９つの画素からなる、７つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に９画素離れた位置にある。
【０５５７】
また、図９０で示されるように、例えば、画素選択部４２１−６は、設定された直線の角度が、７４．７度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした９つの画素を画素の組として選択すると共に、注目画素に対して、横方向に３画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、９つの画素を画素の組として選択する。すなわち、画素選択部４２１−６は、入力画像から、それぞれ９つの画素からなる、７つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に１１画素離れた位置にある。
【０５５８】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７６．０度以上８７．７度以下の範囲（図８３および図８４において、Ｄで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした１１の画素を画素の組として選択すると共に、注目画素に対して、横方向に２画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、１１の画素を画素の組として選択する。すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７６．０度以上８７．７度以下の範囲にあるとき、入力画像から、それぞれ１１の画素からなる、５つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素の縦方向の位置は、注目画素に対して、８画素乃至５０画素である。
【０５５９】
図９１で示されるように、例えば、画素選択部４２１−７は、設定された直線の角度が、７６．０度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした１１の画素を画素の組として選択すると共に、注目画素に対して、横方向に２画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、１１の画素を画素の組として選択する。すなわち、画素選択部４２１−７は、入力画像から、それぞれ１１の画素からなる、５つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に８画素離れた位置にある。
【０５６０】
また、図９２で示されるように、例えば、画素選択部４２１−８は、設定された直線の角度が、８７．７度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした１１の画素を画素の組として選択すると共に、注目画素に対して、横方向に２画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、１１の画素を画素の組として選択する。すなわち、画素選択部４２１−８は、入力画像から、それぞれ１１の画素からなる、５の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に５０画素離れた位置にある。
【０５６１】
このように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、それぞれ、角度の範囲に対応した所定の数の画素からなる、角度の範囲に対応した所定の数の画素の組を選択する。
【０５６２】
画素選択部４２１−１は、選択した画素の組を推定誤差算出部４２２−１に供給し、画素選択部４２１−２は、選択した画素の組を推定誤差算出部４２２−２に供給する。同様に、画素選択部４２１−３乃至画素選択部４２１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４２２−３乃至推定誤差算出部４２２−Ｌのそれぞれに供給する。
【０５６３】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、画素選択部４２１−１乃至画素選択部４２１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。例えば、推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、画素選択部４２１−１乃至画素選択部４２１−Ｌのいずれかから供給された、注目画素を含む画素の組の画素の画素値と、他の画素の組における対応する位置の画素の画素値の差分の絶対値の和を算出し、注目画素を含む画素の組以外の画素の組に含まれる画素の数で、算出された和を割り算する。算出された和を、注目画素を含む組以外の組に含まれる画素の数で、割り算するのは、設定された直線の角度に応じて選択される画素の数が異なるので、相関を示す値を正規化するためである。
【０５６４】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。例えば、推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、正規化された画素値の差分の絶対値の和を最小誤差角度選択部４１３に供給する。
【０５６５】
次に、アクティビティ情報で示される、データの定常性の角度が０度乃至４５度および１３５度乃至１８０度のいずれかの値であるときの画素選択部４２１−１乃至画素選択部４２１−Ｌの処理を説明する。
【０５６６】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、０度乃至４５度または１３５度乃至１８０度の範囲の、空間方向Ｘを示す軸を基準軸として、注目画素を通る、それぞれ互いに異なる所定の角度の直線を設定する。
【０５６７】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する横に１列の画素の列に属する画素であって、設定された直線の角度の範囲に応じた数の、注目画素の左側の画素、および注目画素の右側の画素、並びに注目画素を画素の組として選択する。
【０５６８】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する横に１列の画素の列に対して、画素を基準とした縦方向に所定の距離にある、上側および下側の横に１列の画素の列に属する画素であって、設定された直線に最も近い位置の画素を選択し、選択された画素に対して横に１列の画素から、設定された直線の角度の範囲に応じた数の、選択された画素の左側の画素、および選択された画素の右側の画素、並びに選択された画素を画素の組として選択する。
【０５６９】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の画素を、画素の組として選択する。画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の、画素の組を選択する。
【０５７０】
画素選択部４２１−１は、選択した画素の組を推定誤差算出部４２２−１に供給し、画素選択部４２１−２は、選択した画素の組を推定誤差算出部４２２−２に供給する。同様に、画素選択部４２１−３乃至画素選択部４２１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４２２−３乃至推定誤差算出部４２２−Ｌのそれぞれに供給する。
【０５７１】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、画素選択部４２１−１乃至画素選択部４２１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。
【０５７２】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。
【０５７３】
次に、図９３のフローチャートを参照して、ステップＳ１０１の処理に対応する、図８１で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０５７４】
ステップＳ４２１およびステップＳ４２２の処理は、ステップＳ４０１およびステップＳ４０２の処理と同様なので、その説明は省略する。
【０５７５】
ステップＳ４２３において、データ選択部４０２は、ステップＳ４２２の処理で検出されたアクティビティに対する所定の範囲の角度毎に、注目画素を含む画素の列から、注目画素を中心とした、角度の範囲に対して定めた数の画素を、画素の組として選択する。例えば、データ選択部４０２は、注目画素が属する縦または横に１列の画素の列に属する画素であって、設定する直線の角度に対して、角度の範囲により定めた数の、注目画素の上側または左側の画素、および注目画素の下側または右側の画素、並びに注目画素を画素の組として選択する。
【０５７６】
ステップＳ４２４において、データ選択部４０２は、ステップＳ４２２の処理で検出されたアクティビティを基にした、所定の範囲の角度毎に、角度の範囲に対して定めた数の画素の列から、角度の範囲に対して定めた数の画素を、画素の組として選択する。例えば、データ選択部４０２は、所定の範囲の角度を有し、空間方向Ｘを示す軸を基準軸として、注目画素を通る直線を設定し、注目画素に対して、横方向または縦方向に、設定する直線の角度の範囲に対して所定の範囲だけ離れた画素であって、直線に最も近い画素を選択し、選択された画素の上側または左側の、設定する直線の角度の範囲に対する数の画素、および選択された画素の下側または右側の、設定する直線の角度の範囲に対する数の画素、並びに選択された線に最も近い画素を画素の組として選択する。データ選択部４０２は、角度毎に、画素の組を選択する。
【０５７７】
データ選択部４０２は、選択した画素の組を誤差推定部４０３に供給する。
【０５７８】
ステップＳ４２５において、誤差推定部４０３は、注目画素を中心とした画素の組と、角度毎に選択した画素の組との相関を計算する。例えば、誤差推定部４０３は、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出し、他の組に属する画素の数で、画素値の差分の絶対値の和を割り算することにより、相関を計算する。
【０５７９】
角度毎に選択された、画素の組の相互の相関を基に、データの定常性の角度を検出するようにしてもよい。
【０５８０】
誤差推定部４０３は、算出された相関を示す情報を、定常方向導出部４０４に供給する。
【０５８１】
ステップＳ４２６およびステップＳ４２７の処理は、ステップＳ４０６およびステップＳ４０７の処理と同様なので、その説明は省略する。
【０５８２】
このように、データ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を、より正確に、より精度良く検出することができる。図８１に構成を示すデータ定常性検出部１０１は、特に、データの定常性の角度が４５度付近である場合において、細線の画像が射影された、より多くの画素の相関を評価することができるので、より精度良くデータの定常性の角度を検出することができる。
【０５８３】
なお、図８１で構成が示されるデータ定常性検出部１０１においても、注目しているフレームである注目フレームの、注目している画素である注目画素について、入力画像の空間方向のアクティビティを検出し、検出されたアクティビティに応じて、注目画素および空間方向の基準軸を基準とした角度、並びに動きベクトル毎に、注目フレームおよび注目フレームの時間的に前または後ろのフレームのそれぞれから、垂直方向に１列または水平方向に１列の、空間的な角度の範囲に対して定めた数の画素からなる画素の組を、空間的な角度の範囲に対して定めた数だけ抽出し、抽出された画素の組の相関を検出し、相関に基づいて、入力画像における、時間方向および空間方向のデータの定常性の角度を検出するようにしてもよい。
【０５８４】
図９４は、データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【０５８５】
図９４に構成を示すデータ定常性検出部１０１においては、注目している画素である注目画素について、所定の数の画素からなる、注目画素を中心としたブロックと、注目画素の周辺の、それぞれ、所定の数の画素からなる複数のブロックが抽出され、注目画素を中心としたブロックと周辺のブロックとの相関が検出され、相関に基づいて、入力画像における、基準軸を基準としたデータの定常性の角度が検出される。
【０５８６】
データ選択部４４１は、入力画像の画素から注目画素を順に選択し、注目画素を中心とした、所定の数の画素からなるブロック、および、注目画素の周辺の、所定の数の画素からなる複数のブロックを抽出し、抽出したブロックを誤差推定部４４２に供給する。
【０５８７】
例えば、データ選択部４４１は、注目画素を中心とした５×５画素からなるブロック、注目画素の周辺から、注目画素および基準軸を基準とした所定の角度の範囲毎に、５×５画素からなる２つのブロックを抽出する。
【０５８８】
誤差推定部４４２は、データ選択部４４１から供給された、注目画素を中心としたブロックと、注目画素の周辺のブロックとの相関を検出して、検出した相関を示す相関情報を定常方向導出部４４３に供給する。
【０５８９】
例えば、誤差推定部４４２は、角度の範囲毎に、注目画素を中心とした５×５画素からなるブロックと、１つの角度の範囲に対応する、５×５画素からなる２つのブロックとについて、画素値の相関を検出する。
【０５９０】
定常性方向導出部４４３は、誤差推定部４４２から供給された相関情報に基いて、相関の最も強い、注目画素の周辺のブロックの位置から、欠落した実世界１の光信号の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。例えば、定常方向導出部４４３は、誤差推定部４４２から供給された相関情報に基いて、注目画素を中心とした５×５画素からなるブロックに対して最も相関の強い、５×５画素からなる２つのブロックに対する角度の範囲を、データの定常性の角度として検出し、検出された角度を示すデータ定常性情報を出力する。
【０５９１】
図９５は、図９４に示すデータ定常性検出部１０１のより詳細な構成を示すブロック図である。
【０５９２】
データ選択部４４１は、画素選択部４６１−１乃至画素選択部４６１−Ｌを含む。誤差推定部４４２は、推定誤差算出部４６２−１乃至推定誤差算出部４６２−Ｌを含む。定常方向導出部４４３は、最小誤差角度選択部４６３を含む。
【０５９３】
例えば、データ選択部４４１には、画素選択部４６１−１乃至画素選択部４６１−８が設けられる。例えば、誤差推定部４４２には、推定誤差算出部４６２−１乃至推定誤差算出部４６２−８が設けられる。
【０５９４】
画素選択部４６１−１乃至画素選択部４６１−Ｌのそれぞれは、注目画素を中心とした、所定の数の画素からなるブロック、並びに注目画素および基準軸を基準とした所定の角度の範囲に対応した、所定の数の画素からなる２つのブロックを抽出する。
【０５９５】
図９６は、画素選択部４６１−１乃至画素選択部４６１−Ｌにより抽出される、５×５画素のブロックの例を説明する図である。図９６における中央の位置は、注目画素の位置を示す。
【０５９６】
なお、５×５画素のブロックは、一例であって、ブロックに含まれる画素の数は、本発明を限定するものではない。
【０５９７】
例えば、画素選択部４６１−１は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲に対応した、注目画素に対して、右側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ａで示す）を抽出し、注目画素に対して、左側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ａ’で示す）を抽出する。画素選択部４６１−１は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−１に供給する。
【０５９８】
画素選択部４６１−２は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１８．４度乃至３３．７度の範囲に対応した、注目画素に対して、右側に１０画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｂで示す）を抽出し、注目画素に対して、左側に１０画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｂ’で示す）を抽出する。画素選択部４６１−２は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−２に供給する。
【０５９９】
画素選択部４６１−３は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、３３．７度乃至５６．３度の範囲に対応した、注目画素に対して、右側に５画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｃで示す）を抽出し、注目画素に対して、左側に５画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｃ’で示す）を抽出する。画素選択部４６１−３は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−３に供給する。
【０６００】
画素選択部４６１−４は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、５６．３度乃至７１．６度の範囲に対応した、注目画素に対して、右側に５画素移動し、上側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｄで示す）を抽出し、注目画素に対して、左側に５画素移動し、下側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｄ’で示す）を抽出する。画素選択部４６１−４は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−４に供給する。
【０６０１】
画素選択部４６１−５は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、７１．６度乃至１０８．４度の範囲に対応した、注目画素に対して、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｅで示す）を抽出し、注目画素に対して、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｅ’で示す）を抽出する。画素選択部４６１−５は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−５に供給する。
【０６０２】
画素選択部４６１−６は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１０８．４度乃至１２３．７度の範囲に対応した、注目画素に対して、左側に５画素移動し、上側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｆで示す）を抽出し、注目画素に対して、右側に５画素移動し、下側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｆ’で示す）を抽出する。画素選択部４６１−６は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−６に供給する。
【０６０３】
画素選択部４６１−７は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１２３．７度乃至１４６．３度の範囲に対応した、注目画素に対して、左側に５画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｇで示す）を抽出し、注目画素に対して、右側に５画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｇ’で示す）を抽出する。画素選択部４６１−７は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−７に供給する。
【０６０４】
画素選択部４６１−８は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１４６．３度乃至１６１．６度の範囲に対応した、注目画素に対して、左側に１０画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｈで示す）を抽出し、注目画素に対して、右側に１０画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｈ’で示す）を抽出する。画素選択部４６１−８は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−８に供給する。
【０６０５】
以下、注目画素を中心とした、所定の数の画素からなるブロックを注目ブロックと称する。
【０６０６】
以下、注目画素および基準軸を基準とした所定の角度の範囲に対応した、所定の数の画素からなるブロックを参照ブロックと称する。
【０６０７】
このように、画素選択部４６１−１乃至画素選択部４６１−８は、例えば、注目画素を中心として、２５×２５画素の範囲から、注目ブロックおよび参照ブロックを抽出する。
【０６０８】
推定誤差算出部４６２−１乃至推定誤差算出部４６２−Ｌは、画素選択部４６１−１乃至画素選択部４６１−Ｌから供給された、注目ブロックと、２つの参照ブロックとの相関を検出して、検出した相関を示す相関情報を最小誤差角度選択部４６３に供給する。
【０６０９】
例えば、推定誤差算出部４６２−１は、注目画素を中心とした、５×５画素からなる注目ブロックと、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲に対応して抽出された、注目画素に対して、右側に５画素移動した位置にある画素を中心とした、５×５画素の参照ブロックとについて、注目ブロックに含まれる画素の画素値と、参照ブロックに含まれる画素の画素値との差分の絶対値を算出する。
【０６１０】
この場合において、推定誤差算出部４６２−１は、図９７に示されるように、注目ブロックの中央の画素と参照ブロックの中央の画素とが重なる位置を基準として、画素値の差分の絶対値の算出に、注目画素の画素値が使用されるように、参照ブロックに対して、注目ブロックの位置を、左側に２画素乃至右側に２画素のいずれか、上側に２画素乃至下側に２画素のいずれか移動させた場合に重なる位置となる画素の画素値の差分の絶対値を算出する。すなわち、注目ブロックと参照ブロックとの２５種類の位置における、対応する位置の画素の画素値の差分の絶対値が算出される。言い換えれば、画素値の差分の絶対値が算出される場合において、相対的に移動される注目ブロックおよび参照ブロックとからなる範囲は、９×９画素である。
【０６１１】
図９７において、四角は、画素を示し、Ａは、参照ブロックを示し、Ｂは、注目ブロックを示す。図９７において、太線は、注目画素を示す。すなわち、図９７は、参照ブロックに対して、注目ブロックが右側に２画素、および上側に１画素移動した場合の例を示す図である。
【０６１２】
さらに、推定誤差算出部４６２−１は、注目画素を中心とした、５×５画素からなる注目ブロックと、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲に対応して抽出された、注目画素に対して、左側に５画素移動した位置にある画素を中心とした、５×５画素の参照ブロックとについて、注目ブロックに含まれる画素の画素値と、参照ブロックに含まれる画素の画素値との差分の絶対値を算出する。
【０６１３】
そして、推定誤差算出部４６２−１は、算出された差分の絶対値の和を求めて、差分の絶対値の和を、相関を示す相関情報として最小誤差角度選択部４６３に供給する。
【０６１４】
推定誤差算出部４６２−２は、５×５画素からなる注目ブロックと、１８．４度乃至３３．７度の範囲に対応して抽出された、５×５画素の２つの参照ブロックとについて、画素値の差分の絶対値を算出し、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４６２−２は、算出された差分の絶対値の和を、相関を示す相関情報として最小誤差角度選択部４６３に供給する。
【０６１５】
同様に、推定誤差算出部４６２−３乃至推定誤差算出部４６２−８のそれぞれは、５×５画素からなる注目ブロックと、所定の角度の範囲に対応して抽出された、５×５画素の２つの参照ブロックとについて、画素値の差分の絶対値を算出し、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４６２−３乃至推定誤差算出部４６２−８のそれぞれは、算出された差分の絶対値の和を、相関を示す相関情報として最小誤差角度選択部４６３に供給する。
【０６１６】
最小誤差角度選択部４６３は、推定誤差算出部４６２−１乃至推定誤差算出部４６２−８から供給された、相関情報としての画素値の差分の絶対値の和のうち、最も強い相関を示す、最小の値が得られた参照ブロックの位置から、２つの参照ブロックに対する角度をデータの定常性の角度として検出し、検出された角度を示すデータ定常性情報を出力する。
【０６１７】
ここで、参照ブロックの位置と、データの定常性の角度の範囲との関係について説明する。
【０６１８】
実世界の信号を近似する近似関数f（x）をｎ次の一次元多項式で近似した場合、近似関数f（x）は、式（３０）で表すことができる。
【０６１９】
【数２１】

・・・（３０）
【０６２０】
近似関数f（x）で近似される実世界１の信号の波形が、空間方向Ｙに対して一定の傾き（角度）を有する場合、式（３０）における、xをx+γyとすることにより得られた式（３１）で、実世界１の信号を近似する近似関数（x,y）は、表現される。
【０６２１】
【数２２】

・・・（３１）
【０６２２】
γは、空間方向Ｙの位置の変化に対する、空間方向Ｘの位置の変化の割合を示す。以下、γをシフト量とも称する。
【０６２３】
図９８は、注目画素の位置と、角度θを有する直線との空間方向Ｘの距離を０としたとき、すなわち、注目画素を直線が通るときの、注目画素の周辺の画素の位置と、角度θを有する直線との空間方向Ｘの距離を示す図である。ここで、画素の位置は、画素の中心の位置である。また、位置と直線との距離は、位置が直線に対して左側にあるとき、負の値で示され、位置が直線に対して右側にあるとき、正の値で示される。
【０６２４】
例えば、注目画素の右側に隣接する画素の位置、すなわち空間方向Ｘの座標xが１増加する位置と、角度θを有する直線との空間方向Ｘの距離は、１であり、注目画素の左側に隣接する画素の位置、すなわち空間方向Ｘの座標xが１減少する位置と、角度θを有する直線との空間方向Ｘの距離は、−１である。注目画素の上側に隣接する画素の位置、すなわち空間方向Ｙの座標yが１増加する位置と、角度θを有する直線との空間方向Ｘの距離は、-γであり、注目画素の下側に隣接する画素の位置、すなわち空間方向Ｙの座標yが１減少する位置と、角度θを有する直線との空間方向Ｘの距離は、γである。
【０６２５】
角度θが４５度を超え、９０度未満であり、シフト量γが、０を超え、１未満であるとき、シフト量γと角度θとの間には、γ=1/tanθの関係式が成り立つ。図９９は、シフト量γと角度θとの関係を示す図である。
【０６２６】
ここで、シフト量γの変化に対する、注目画素の周辺の画素の位置と、注目画素を通り、角度θを有する直線との空間方向Ｘの距離の変化に注目する。
【０６２７】
図１００は、シフト量γに対する、注目画素の周辺の画素の位置と、注目画素を通り、角度θを有する直線との空間方向Ｘの距離を示す図である。図１００において、右上がりの一点鎖線は、シフト量γに対する、注目画素の下側に隣接する画素の位置と直線との空間方向Ｘの距離を示し、右下がりの一点鎖線は、シフト量γに対する、注目画素の上側に隣接する画素の位置と直線との空間方向Ｘの距離を示す。
【０６２８】
図１００において、右上がりの二点鎖線は、シフト量γに対する、注目画素から、２画素下側で、１画素左側に位置する画素の位置と直線との空間方向Ｘの距離を示し、右下がりの二点鎖線は、シフト量γに対する、注目画素から、２画素上側で、１画素右側に位置する画素の位置と直線との空間方向Ｘの距離を示す。
【０６２９】
図１００において、右上がりの三点鎖線は、シフト量γに対する、注目画素から、１画素下側で、１画素左側に位置する画素の位置と直線との空間方向Ｘの距離を示し、右下がりの三点鎖線は、シフト量γに対する、注目画素から、１画素上側で、１画素右側に位置する画素の位置と直線との空間方向Ｘの距離を示す。
【０６３０】
図１００から、シフト量γに対して、距離が最も小さい画素がわかる。
【０６３１】
すなわち、シフト量γが０乃至１／３であるとき、注目画素の上側に隣接する画素および注目画素の下側に隣接する画素から、直線までの距離が最小である。すなわち、角度θが７１．６度乃至９０度であるとき、注目画素の上側に隣接する画素および注目画素の下側に隣接する画素から、直線までの距離が最小である。
【０６３２】
シフト量γが１／３乃至２／３であるとき、注目画素に対して、２画素上側で、１画素右側に位置する画素、および注目画素に対して、２画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。すなわち、角度θが５６．３度乃至７１．６度であるとき、注目画素に対して、２画素上側で、１画素右側に位置する画素、および注目画素に対して、２画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。
【０６３３】
また、シフト量γが２／３乃至１であるとき、注目画素に対して、１画素上側で、１画素右側に位置する画素、および注目画素に対して、１画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。すなわち、角度θが４５度乃至５６．３度であるとき、注目画素に対して、１画素上側で、１画素右側に位置する画素、および注目画素に対して、１画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。
【０６３４】
角度θが０度から４５度までの範囲の直線と画素との関係も、同様に考えることができる。
【０６３５】
図９８に示す画素を、注目ブロックおよび参照ブロックに置き換えて、参照ブロックと直線との空間方向Ｘの距離を考えることができる。
【０６３６】
図１０１に、注目画素を通り、空間方向Ｘの軸に対して角度θの直線との距離が最小の参照ブロックを示す。
【０６３７】
図１０１におけるＡ乃至ＨおよびＡ’乃至Ｈ’は、図９６におけるＡ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックを示す。
【０６３８】
すなわち、注目画素を通り、空間方向Ｘの軸を基準とした、０度乃至１８．４度および１６１．６度乃至１８０．０度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＡおよびＡ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＡおよびＡ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＡおよびＡ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲にあると言える。
【０６３９】
注目画素を通り、空間方向Ｘの軸を基準とした、１８．４度乃至３３．７度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＢおよびＢ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＢおよびＢ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＢおよびＢ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１８．４度乃至３３．７度の範囲にあると言える。
【０６４０】
注目画素を通り、空間方向Ｘの軸を基準とした、３３．７度乃至５６．３度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＣおよびＣ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＣおよびＣ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＣおよびＣ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、３３．７度乃至５６．３度の範囲にあると言える。
【０６４１】
注目画素を通り、空間方向Ｘの軸を基準とした、５６．３度乃至７１．６度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＤおよびＤ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＤおよびＤ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＤおよびＤ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、５６．３度乃至７１．６度の範囲にあると言える。
【０６４２】
注目画素を通り、空間方向Ｘの軸を基準とした、７１．６度乃至１０８．４度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＥおよびＥ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＥおよびＥ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＥおよびＥ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、７１．６度乃至１０８．４度の範囲にあると言える。
【０６４３】
注目画素を通り、空間方向Ｘの軸を基準とした、１０８．４度乃至１２３．７度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＦおよびＦ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＦおよびＦ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＦおよびＦ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１０８．４度乃至１２３．７度の範囲にあると言える。
【０６４４】
注目画素を通り、空間方向Ｘの軸を基準とした、１２３．７度乃至１４６．３度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＧおよびＧ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＧおよびＧ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＧおよびＧ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１２３．７度乃至１４６．３度の範囲にあると言える。
【０６４５】
注目画素を通り、空間方向Ｘの軸を基準とした、１４６．３度乃至１６１．６度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＨおよびＨ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＨおよびＨ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＨおよびＨ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１４６．３度乃至１６１．６度の範囲にあると言える。
【０６４６】
このように、データ定常性検出部１０１は、注目ブロックと参照ブロックとの相関を基に、データの定常性の角度を検出することができる。
【０６４７】
なお、図９４に構成を示すデータ定常性検出部１０１においては、データの定常性の角度の範囲をデータ定常性情報として出力するようにしても良く、データの定常性の角度の範囲を示す代表値をデータ定常性情報として出力するようにしても良い。例えば、データの定常性の角度の範囲の中央値を代表値とすることができる。
【０６４８】
さらに、図９４に構成を示すデータ定常性検出部１０１は、相関が最も強い参照ブロックの周辺の参照ブロックの相関を利用することにより、検出するデータの定常性の角度の範囲を１／２に、すなわち、検出するデータの定常性の角度の分解能を２倍にすることができる。
【０６４９】
例えば、注目ブロックと、ＥおよびＥ’の参照ブロックとの相関が最も強いとき、最小誤差角度選択部４６３は、図１０２で示されるように、注目ブロックに対する、ＤおよびＤ’の参照ブロックの相関と、注目ブロックに対する、ＦおよびＦ’の参照ブロックの相関とを比較する。注目ブロックに対する、ＤおよびＤ’の参照ブロックの相関が、注目ブロックに対する、ＦおよびＦ’の参照ブロックの相関に比較して、強い場合、最小誤差角度選択部４６３は、データの定常性の角度に、７１．６度乃至９０度の範囲を設定する。また、この場合、最小誤差角度選択部４６３は、データの定常性の角度に、代表値として８１度を設定するようにしてもよい。
【０６５０】
注目ブロックに対する、ＦおよびＦ’の参照ブロックの相関が、注目ブロックに対する、ＤおよびＤ’の参照ブロックの相関に比較して、強い場合、最小誤差角度選択部４６３は、データの定常性の角度に、９０度乃至１０８．４度の範囲を設定する。また、この場合、最小誤差角度選択部４６３は、データの定常性の角度に、代表値として９９度を設定するようにしてもよい。
【０６５１】
最小誤差角度選択部４６３は、同様の処理で、他の角度の範囲についても、検出するデータの定常性の角度の範囲を１／２にすることができる。
【０６５２】
尚、図１０２を参照して説明した手法を、簡易１６方位検出手法とも称する。
【０６５３】
このように、図９４に構成を示すデータ定常性検出部１０１は、簡単な処理で、より範囲の狭い、データの定常性の角度を検出することができる。
【０６５４】
次に、図１０３のフローチャートを参照して、ステップＳ１０１の処理に対応する、図９４で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０６５５】
ステップＳ４４１において、データ選択部４４１は、入力画像から、注目している画素である注目画素を選択する。例えば、データ選択部４４１は、入力画像から、ラスタスキャン順に、注目画素を選択する。
【０６５６】
ステップＳ４４２において、データ選択部４４１は、注目画素を中心とする所定の数の画素からなる注目ブロックを選択する。例えば、データ選択部４４１は、注目画素を中心とする５×５画素からなる注目ブロックを選択する。
【０６５７】
ステップＳ４４３において、データ選択部４４１は、注目画素の周辺の所定の位置の所定の数の画素からなる参照ブロックを選択する。例えば、データ選択部４４１は、注目画素および基準軸を基準とした所定の角度の範囲毎に、注目ブロックの大きさを基準とした、所定の位置の画素を中心とする５×５画素からなる参照ブロックを選択する。
【０６５８】
データ選択部４４１は、注目ブロックおよび参照ブロックを誤差推定部４４２に供給する。
【０６５９】
ステップＳ４４４において、誤差推定部４４２は、注目画素および基準軸を基準とした所定の角度の範囲毎に、注目ブロックと、角度の範囲に対応した参照ブロックとの相関を計算する。誤差推定部４４２は、算出された相関を示す相関情報を定常方向導出部４４３に供給する。
【０６６０】
ステップＳ４４５において、定常方向導出部４４３は、注目ブロックに対して、相関が最も強い参照ブロックの位置から、欠落した実世界１の光信号である画像の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。
【０６６１】
定常方向導出部４４３は、検出したデータの定常性の角度を示すデータ定常性情報を出力する。
【０６６２】
ステップＳ４４６において、データ選択部４４１は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ４４１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０６６３】
ステップＳ４４６において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０６６４】
このように、図９４に構成を示すデータ定常性検出部１０１は、より簡単な処理で、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出することができる。また、図９４に構成を示すデータ定常性検出部１０１は、入力画像の中の、比較的狭い範囲の画素の画素値を使用して、データの定常性の角度を検出することができるので、入力画像にノイズ等が含まれていても、より正確にデータの定常性の角度を検出することができる。
【０６６５】
なお、図９４で構成が示されるデータ検出部１０１は、注目しているフレームである注目フレームの、注目している画素である注目画素について、注目フレームから、所定の数の画素からなる、注目画素を中心としたブロックと、注目画素の周辺の、それぞれ、所定の数の画素からなる複数のブロックとを抽出すると共に、注目フレームに対して時間的に前または後ろのフレームから、所定の数の画素からなる、注目画素に対応する位置の画素を中心としたブロックと、注目画素に対応する位置の画素の周辺の、それぞれ、所定の数の画素からなる複数のブロックとを抽出し、注目画素を中心としたブロックと空間的または時間的に周辺のブロックとの相関を検出し、相関に基づいて、入力画像における、時間方向および空間方向のデータの定常性の角度を検出するようにしてもよい。
【０６６６】
例えば、図１０４に示すように、データ選択部４４１は、注目フレームであるフレーム#nから注目画素を順に選択し、フレーム#nから、注目画素を中心とした、所定の数の画素からなるブロック、および、注目画素の周辺の、所定の数の画素からなる複数のブロックを抽出する。また、データ選択部４４１は、フレーム#n-1およびフレーム#n+1のそれぞれから、注目画素の位置に対応する位置の画素を中心とした、所定の数の画素からなるブロック、および、注目画素の位置に対応する位置の画素の周辺の、所定の数の画素からなる複数のブロックを抽出する。データ選択部４４１は、抽出したブロックを誤差推定部４４２に供給する。
【０６６７】
誤差推定部４４２は、データ選択部４４１から供給された、注目画素を中心としたブロックと、空間的または時間的に周辺のブロックとの相関を検出して、検出した相関を示す相関情報を定常方向導出部４４３に供給する。定常性方向導出部４４３は、誤差推定部４４２から供給された相関情報に基いて、相関の最も強い、空間的または時間的に周辺のブロックの位置から、欠落した実世界１の光信号の定常性に対応する、入力画像における、時間方向および空間方向のデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。
【０６６８】
また、データ定常性検出部１０１は、入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行することができる。
【０６６９】
図１０５は、入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の構成を示すブロック図である。
【０６７０】
データ定常性検出部４８１−１乃至４８１−３のそれぞれは、上述した、または後述するデータ定常性検出部１０１と同様の構成を有し、入力画像のコンポーネント信号のそれぞれを処理の対象として、上述した、または後述する処理を実行する。
【０６７１】
データ定常性検出部４８１−１は、入力画像の第１のコンポーネント信号を基に、データの定常性を検出し、第１のコンポーネント信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。例えば、データ定常性検出部４８１−１は、入力画像の輝度信号を基に、データの定常性を検出し、輝度信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。
【０６７２】
データ定常性検出部４８１−２は、入力画像の第２のコンポーネント信号を基に、データの定常性を検出し、第２のコンポーネント信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。例えば、データ定常性検出部４８１−２は、入力画像の色差信号であるＩ信号を基に、データの定常性を検出し、Ｉ信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。
【０６７３】
データ定常性検出部４８１−３は、入力画像の第３のコンポーネント信号を基に、データの定常性を検出し、第３のコンポーネント信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。例えば、データ定常性検出部４８１−３は、入力画像の色差信号であるＱ信号を基に、データの定常性を検出し、Ｑ信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。
【０６７４】
決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性を示す情報を基に、入力画像における最終的なデータの定常性を検出して、検出したデータの定常性を示すデータ定常性情報を出力する。
【０６７５】
例えば、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、最大のデータの定常性を最終的なデータの定常性とする。また、例えば、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、最小のデータの定常性を最終的なデータの定常性とする。
【０６７６】
さらに、例えば、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性の平均値を最終的なデータの定常性とする。決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のメディアン（中央値）を最終的なデータの定常性とするようにしてもよい。
【０６７７】
また、例えば、決定部４８２は、外部から入力された信号を基に、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、外部から入力された信号で指定されるデータの定常性を最終的なデータの定常性とする。決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、予め定めたデータの定常性を最終的なデータの定常性とするようにしてもよい。
【０６７８】
なお、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号のデータの定常性の検出の処理で求めた誤差を基に、最終的なデータの定常性を決定するようにしてもよい。データの定常性の検出の処理で求められる誤差については、後述する。
【０６７９】
図１０６は、入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の他の構成を示す図である。
【０６８０】
コンポーネント処理部４９１は、入力画像のコンポーネント信号を基に、１つの信号を生成し、データ定常性検出部４９２に供給する。例えば、コンポーネント処理部４９１は、入力画像の各コンポーネント信号における値を、画面上で同じ位置の画素について、加算することにより、コンポーネント信号の値の和からなる信号を生成する。
【０６８１】
例えば、コンポーネント処理部４９１は、入力画像の各コンポーネント信号における画素値を、画面上で同じ位置の画素について、平均することにより、コンポーネント信号の画素値の平均値からなる信号を生成する。
【０６８２】
データ定常性検出部４９２は、コンポーネント処理部４９１から供給された、信号を基に、入力画像における、データの定常性を検出し、検出したデータの定常性を示すデータ定常性情報を出力する。
【０６８３】
データ定常性検出部４９２は、上述した、または後述するデータ定常性検出部１０１と同様の構成を有し、コンポーネント処理部４９１から供給された信号を対象として、上述した、または後述する処理を実行する。
【０６８４】
このように、データ定常性検出部１０１は、コンポーネント信号を基に、入力画像のデータの定常性を検出することにより、入力画像にノイズなどが含まれていても、より正確に、データの定常性を検出することができる。例えば、データ定常性検出部１０１は、コンポーネント信号を基に、入力画像のデータの定常性を検出することにより、より正確に、データの定常性の角度（傾き）、混合比、またはデータの定常性を有する領域を検出することができる。
【０６８５】
なお、コンポーネント信号は、輝度信号および色差信号に限らず、RGB信号、またはYUV信号など他の方式のコンポーネント信号であっても良い。
【０６８６】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの、欠落した現実世界の光信号の定常性に対応するデータの定常性の、基準軸に対する角度を検出し、検出された角度に基づいて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０６８７】
また、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している注目画素および基準軸を基準とした角度毎に、所定の数の画素からなる画素の組であって、複数の組を抽出し、角度毎に抽出された、複数の組における対応する位置の画素の画素値の相関を検出し、検出された相関に基いて、欠落した現実世界の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出し、検出された画像データにおける基準軸に対するデータの定常性の角度に基づいて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０６８８】
図１０７は、データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【０６８９】
図１０７に示されるデータ定常性検出部１０１においては、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域が選択され、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数が設定されることにより、領域に属する画素の度数が検出され、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データのデータの定常性が検出される。
【０６９０】
フレームメモリ５０１は、入力画像をフレーム単位で記憶し、記憶されているフレームを構成する画素の画素値を画素取得部５０２に供給する。フレームメモリ５０１は、１つのページに入力画像の現在のフレームを記憶し、他のページに記憶している、現在のフレームに対して１つ前（過去）のフレームの画素の画素値を画素取得部５０２に供給し、入力画像のフレームの切り換えの時刻において、ページを切り換えることにより、画素取得部５０２に、動画である入力画像のフレームの画素の画素値を供給することができる。
【０６９１】
画素取得部５０２は、フレームメモリ５０１から供給された画素の画素値を基に、注目している画素である注目画素を選択し、選択された注目画素に対応する、所定の数の画素からなる領域を選択する。例えば、画素取得部５０２は、注目画素を中心とする５×５画素からなる領域を選択する。
【０６９２】
画素取得部５０２が選択する領域の大きさは、本発明を限定するものではない。
【０６９３】
画素取得部５０２は、選択した領域の画素の画素値を取得して、選択した領域の画素の画素値を度数検出部５０３に供給する。
【０６９４】
度数検出部５０３は、画素取得部５０２から供給された、選択された領域の画素の画素値を基に、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。度数検出部５０３における、相関値に基づく度数の設定の処理の詳細は、後述する。
【０６９５】
度数検出部５０３は、検出した度数を回帰直線演算部５０４に供給する。
【０６９６】
回帰直線演算部５０４は、度数検出部５０３から供給された度数に基づいて、回帰線を演算する。例えば、回帰直線演算部５０４は、度数検出部５０３から供給された度数に基づいて、回帰直線を演算する。また、例えば、回帰直線演算部５０４は、度数検出部５０３から供給された度数に基づいて、所定の曲線である回帰線を演算する。回帰直線演算部５０４は、演算された回帰線および演算の結果を示す演算結果パラメータを角度算出部５０５に供給する。演算パラメータが示す演算の結果には、後述する変動および共変動などが含まれる。
【０６９７】
角度算出部５０５は、回帰直線演算部５０４から供給された演算結果パラメータで示される、回帰線に基づいて、欠落した現実世界の光信号の定常性に対応する、画像データである入力画像のデータの定常性を検出する。例えば、角度算出部５０５は、回帰直線演算部５０４から供給された演算結果パラメータで示される、回帰直線に基づいて、欠落した実世界１の光信号の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。角度算出部５０５は、力画像における、基準軸を基準としたデータの定常性の角度を示すデータ定常性情報を出力する。
【０６９８】
図１０８乃至図１１０を参照して、入力画像における、基準軸を基準としたデータの定常性の角度について説明する。
【０６９９】
図１０８において、丸は、１つの画素を示し、２重丸は、注目画素を示す。丸の色は、画素の画素値の概略を示し、より明るい色は、より大きい画素値を示す。例えば、黒は、３０である画素値を示し、白は、１２０である画素値を示す。
【０７００】
図１０８で示される画素からなる画像を人間が見た場合、画像を見た人間は、斜め右上方向に直線が伸びていると認識することができる。
【０７０１】
図１０７に構成を示すデータ定常性検出部１０１は、図１０８で示される画素からなる入力画像を入力したとき、斜め右上方向に直線が伸びていることを検出する。
【０７０２】
図１０９は、図１０８で示される画素の画素値を数値で表した図である。丸は、１つの画素を示し、丸の中の数値は、画素値を示す。
【０７０３】
例えば、注目画素の画素値は、１２０であり、注目画素の上側の画素の画素値は、１００であり、注目画素の下側の画素の画素値は、１００である。また、注目画素の左側の画素の画素値は、８０であり、注目画素の右側の画素の画素値は、８０である。同様に、注目画素の左下側の画素の画素値は、１００であり、注目画素の右上側の画素の画素値は、１００である。注目画素の左上側の画素の画素値は、３０であり、注目画素の右下側の画素の画素値は、３０である。
【０７０４】
図１０７に構成を示すデータ定常性検出部１０１は、図１０９で示される入力画像に対して、図１１０で示されるように、回帰直線Ａを引く。
【０７０５】
図１１１は、入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線Ａとの関係を示す図である。データの定常性を有する領域における画素の画素値は、例えば、図１１１に示すように、山脈状に変化している。
【０７０６】
図１０７に構成を示すデータ定常性検出部１０１は、データの定常性を有する領域における画素の画素値を重みとして、最小自乗法により回帰直線Ａを引く。データ定常性検出部１０１により求められた回帰直線Ａは、注目画素の周辺におけるデータの定常性を表現している。
【０７０７】
入力画像における、基準軸を基準としたデータの定常性の角度は、図１１２で示されるように、回帰直線Ａと、例えば、基準軸である空間方向Ｘを示す軸との角度θを求めることにより、検出される。
【０７０８】
次に、図１０７に構成を示すデータ定常性検出部１０１における、回帰直線の具体的な算出方法について説明する。
【０７０９】
度数検出部５０３は、例えば、画素取得部５０２から供給された、注目画素を中心とする、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなる領域の画素の画素値から、領域に属する画素の座標に対応する度数を検出する。
【０７１０】
例えば、度数検出部５０３は、式（３２）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０７１１】
【数２３】

・・・（３２）
【０７１２】
式（３２）において、P_0,0は、注目画素の画素値を示し、P_i,jは、座標（x_i,y_j）の画素の画素値を示す。Thは、閾値を示す。
【０７１３】
iは、領域内における、空間方向Ｘの画素の順番を示し、1≦i≦kである。jは、領域内における、空間方向Ｙの画素の順番を示し、1≦j≦lである。
【０７１４】
kは、領域における、空間方向Ｘの画素の数を示し、lは、領域における、空間方向Ｙの画素の数を示す。例えば、領域が、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなるとき、kは、９であり、lは、５である。
【０７１５】
図１１３は、画素取得部５０２において取得される領域の例を示す図である。図１１３において、点線の四角は、１つの画素を示す。
【０７１６】
例えば、図１１３で示されるように、領域が、空間方向Ｘについて、注目画素を中心とした９画素、空間方向Ｙについて、注目画素を中心とした５画素からなり、注目画素の座標（x,y）が（0,0）であるとき、領域の左上の画素の座標（x,y）は、（-4,2）であり、領域の右上の画素の座標（x,y）は、（4,2）であり、領域の左下の画素の座標（x,y）は、（-4,-2）であり、領域の右下の画素の座標（x,y）は、（4,-2）である。
【０７１７】
領域の左側の画素の、空間方向Ｘにおける、画素の順番iは、1であり、領域の右側の画素の、空間方向Ｘにおける、画素の順番iは、9である。領域の下側の画素の、空間方向Ｙにおける、画素の順番jは、1であり、領域の上側の画素の、空間方向Ｙにおける、画素の順番jは、5である。
【０７１８】
すなわち、注目画素の座標（x₅,y₃）を（0,0）としたとき、領域の左上の画素の座標（x₁,y₅）は、（-4,2）であり、領域の右上の画素の座標（x₉,y₅）は、（4,2）であり、領域の左下の画素の座標（x₁,y₁）は、（-4,-2）であり、領域の右下の画素の座標（x₉,y₁）は、（4,-2）である。
【０７１９】
度数検出部５０３は、式（３２）において、相関値として、注目画素の画素値と、領域に属する画素の画素値との差分の絶対値を算出するので、実世界１の細線の画像が射影された、入力画像における、データの定常性を有する領域のみならず、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が射影された、入力画像における、２値エッジのデータの定常性を有する領域における、画素値の空間的な変化の特徴を示す度数を検出することができる。
【０７２０】
なお、度数検出部５０３は、画素の画素値との差分の絶対値に限らず、相関係数など他の相関値を基に、度数を検出するようにしてもよい。
【０７２１】
また、式（３２）において、指数関数を適用しているのは、画素値の差に対して、度数に大きく差をつけるためであり、他の関数を適用するようにしてもよい。
【０７２２】
閾値Thは、任意の値とすることができる。例えば、閾値Thは、３０とすることができる。
【０７２３】
このように、度数検出部５０３は、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。
【０７２４】
また、例えば、度数検出部５０３は、式（３３）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０７２５】
【数２４】

・・・（３３）
【０７２６】
座標（x_i,y_j）における度数をL_i,j（1≦i≦k,1≦j≦l）としたとき、座標x_iにおける、空間方向Ｙの度数L_i,jの和q_iは、式（３４）で表され、座標y_jにおける、空間方向Ｘの度数L_i,jの和h_jは、式（３５）で表される。
【０７２７】
【数２５】

・・・（３４）
【０７２８】
【数２６】

・・・（３５）
【０７２９】
度数の総和uは、式（３６）で表される。
【０７３０】
【数２７】

・・・（３６）
【０７３１】
図１１３で示される例において、注目画素の座標の度数L_5,3は、３であり、注目画素の上側の画素の座標の度数L_5,4は、１であり、注目画素の右上側の画素の座標の度数L_6,4は、４であり、注目画素に対して、２画素上側であって、１画素右側の画素の座標の度数L_6,5は、２であり、注目画素に対して、２画素上側であって、２画素右側の画素の座標の度数L_7,5は、３である。また、注目画素の下側の画素の座標の度数L_5,2は、２であり、注目画素の左側の画素の座標の度数L_4,3は、１であり、注目画素の左下側の画素の座標の度数L_4,2は、３であり、注目画素に対して、１画素下側であって、２画素左側の画素の座標の度数L_3,2は、２であり、注目画素に対して、２画素下側であって、２画素左側の画素の座標の度数L_3,1は、４である。図１１３で示される領域の他の画素の座標の度数は、０であり、図１１３において、０である度数の記載は省略する。
【０７３２】
図１１３で示される領域において、空間方向Ｙの度数の和q₁は、iが１である度数Lが全て０なので、０であり、q₂は、iが２である度数Lが全て０なので、０である。q₃は、度数L_3,2が２であり、度数L_3,1が４なので、６である。同様に、q₄は、４であり、q₅は、６であり、q₆は、６であり、q₇は、３であり、q₈は、０であり、q₉は、０である。
【０７３３】
図１１３で示される領域において、空間方向Ｘの度数の和h₁は、度数L_3,1が４なので、４である。h₂は、度数L_3,2が２であり、度数L_4,2が３であり、度数L_5,2が２なので、７である。同様に、h₃は、４であり、h₄は、５であり、h₅は、５である。
【０７３４】
図１１３で示される領域において、度数の総和uは、２５である。
【０７３５】
空間方向Ｙの度数L_i,jの和q_iに、座標x_iを乗じた結果を加算した和T_xは、式（３７）で表される。
【０７３６】
【数２８】

・・・（３７）
【０７３７】
空間方向Ｘの度数L_i,jの和h_jに、座標y_jを乗じた結果を加算した和T_yは、式（３７）で表される。
【０７３８】
【数２９】

・・・（３８）
【０７３９】
例えば、図１１３で示される領域において、q₁が０であり、x₁が−４なので、q₁x₁は０であり、q₂が０であり、x₂が−３なので、q₂x₂は０である。同様に、q₃が６であり、x₃が−２なので、q₃x₃は−１２であり、q₄が４であり、x₄が−１なので、q₄x₄は、−４であり、q₅が６であり、x₅が０なので、q₅x₅は０である。同様に、q₆が６であり、x₆が１なので、q₆x₆は６であり、q₇が３であり、x₇が２なので、q₇x₇は６であり、q₈が０であり、x₈が3なので、q₈x₈は０であり、q₉が０であり、x₉が４なので、q₉x₉は０である。従って、q₁x₁乃至q₉x₉の和であるT_xは、−４である。
【０７４０】
例えば、図１１３で示される領域において、h₁が４であり、y₁が−２なので、h₁y₁は−８であり、h₂が７であり、y₂が−１なので、h₂y₂は−７である。同様に、h₃が４であり、y₃が０なので、h₃y₃は０であり、h₄が５であり、y₄が１なので、h₄y₄は、５であり、h₅が５であり、y₅が２なので、h₅y₅は１０である。従って、h₁y₁乃至h₅y₅の和であるT_yは、0である。
【０７４１】
また、Q_iを以下のように定義する。
【０７４２】
【数３０】

・・・（３９）
【０７４３】
xの変動S_xは、式（４０）で表される。
【０７４４】
【数３１】

・・・（４０）
【０７４５】
yの変動S_yは、式（４１）で表される。
【０７４６】
【数３２】

・・・（４１）
【０７４７】
共変動S_xyは、式（４２）で表される。
【０７４８】
【数３３】

・・・（４２）
【０７４９】
式（４３）に示す１次の回帰直線を求めることを考える。
【０７５０】
y=ax+b ・・・（４３）
【０７５１】
傾きaおよび切片bは、最小自乗法により、以下のように求めることができる。
【０７５２】
【数３４】

・・・（４４）
【０７５３】
【数３５】

・・・（４５）
【０７５４】
ただし、正しい回帰直線を求めるための必要条件は、度数L_i,jが、回帰直線に対して、ガウス分布状に、分布していることである。逆に言えば、度数検出部５０３は、度数L_i,jがガウス分布するように、領域の画素の画素値を度数L_i,jに変換する必要がある。
【０７５５】
回帰直線演算部５０４は、式（４４）および式（４５）で示される演算を実行して、回帰直線を求める。
【０７５６】
角度算出部５０５は、式（４６）に示す演算により、回帰直線の傾きaを、基準軸である空間方向Ｘの軸に対する角度θに変換する。
【０７５７】
θ=tan^-1(a) ・・・（４６）
【０７５８】
なお、回帰直線演算部５０４が所定の曲線である回帰線を演算する場合、角度算出部５０５は、基準軸に対する、注目画素の位置における回帰線の角度θを求める。
【０７５９】
ここで、画素毎にデータの定常性を検出するためには、切片bは、不要である。そこで、式（４７）に示す１次の回帰直線を求めることを考える。
【０７６０】
y=ax ・・・（４７）
【０７６１】
この場合、回帰直線演算部５０４は、最小自乗法により、傾きaを式（４８）で求めることができる。
【０７６２】
【数３６】

・・・（４８）
【０７６３】
図１１４のフローチャートを参照して、ステップＳ１０１の処理に対応する、図１０７で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０７６４】
ステップＳ５０１において、画素取得部５０２は、まだ注目画素とされていない画素の中から注目画素を選択する。例えば、画素取得部５０２は、ラスタスキャン順に、注目画素を選択する。ステップＳ５０２において、画素取得部５０２は、注目画素を中心とする領域に含まれる画素の画素値を取得し、取得した画素の画素値を度数検出部５０３に供給する。例えば、画素取得部５０２は、注目画素を中心とした、９×５画素からなる領域を選択し、領域に含まれる画素の画素値を取得する。
【０７６５】
ステップＳ５０３において、度数検出部５０３は、領域に含まれる画素の画素値を度数に変換することにより、度数を検出する。例えば、度数検出部５０３は、式（３２）に示される演算により、画素値を度数L_i,jに変換する。この場合において、度数L_i,jがガウス分布するように、領域の画素の画素値が度数L_i,jに変換される。度数検出部５０３は、変換された度数を回帰直線演算部５０４に供給する。
【０７６６】
ステップＳ５０４において、回帰直線演算部５０４は、度数検出部５０３から供給された度数を基に、回帰線を求める。例えば、回帰直線演算部５０４は、度数検出部５０３から供給された度数を基に、回帰直線を求める。より具体的には、回帰直線演算部５０４は、式（４４）および式（４５）で示される演算を実行して、回帰直線を求める。回帰直線演算部５０４は、算出された結果である回帰直線を示す演算結果パラメータを角度算出部５０５に供給する。
【０７６７】
ステップＳ５０５において、角度算出部５０５は、基準軸に対する回帰直線の角度を算出することにより、欠落した現実世界の光信号の定常性に対応する、画像データのデータの定常性を検出する。例えば、角度算出部５０５は、式（４６）に示す演算により、回帰直線の傾きaを、基準軸である空間方向Ｘの軸に対する角度θに変換する。角度算出部５０５は、基準軸に対する回帰直線の角度を示すデータ定常性情報を出力する。
【０７６８】
なお、角度算出部５０５は、傾きaを示すデータ定常性情報を出力するようにしてもよい。
【０７６９】
ステップＳ５０６において、画素取得部５０２は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ５０１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０７７０】
ステップＳ５０６において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０７７１】
このように、図１０７に構成を示すデータ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出することができる。
【０７７２】
特に、図１０７に構成を示すデータ定常性検出部１０１は、比較的狭い領域の画素の画素値を基に、画素以下の角度を求めることができる。
【０７７３】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域を選択し、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出し、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データのデータの定常性を検出し、検出された画像データのデータの定常性に基いて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０７７４】
なお、図１０７に構成を示すデータ定常性検出部１０１は、注目画素の属する注目フレームと、注目フレームの時間的に前後のフレームについて、所定の領域に属する画素の画素値を度数に変換し、度数を基に、回帰平面を求めるようにすれば、空間方向のデータの定常性の角度と共に、時間方向のデータの定常性の角度を検出することができる。
【０７７５】
図１１５は、データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【０７７６】
図１１５に示されるデータ定常性検出部１０１においては、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域が選択され、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数が設定されることにより、領域に属する画素の度数が検出され、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データにおけるデータの定常性を有する領域を検出する。
【０７７７】
フレームメモリ６０１は、入力画像をフレーム単位で記憶し、記憶されているフレームを構成する画素の画素値を画素取得部６０２に供給する。フレームメモリ６０１は、１つのページに入力画像の現在のフレームを記憶し、他のページに記憶している、現在のフレームに対して１つ前（過去）のフレームの画素の画素値を画素取得部６０２に供給し、入力画像のフレームの切り換えの時刻において、ページを切り換えることにより、画素取得部６０２に、動画である入力画像のフレームの画素の画素値を供給することができる。
【０７７８】
画素取得部６０２は、フレームメモリ６０１から供給された画素の画素値を基に、注目している画素である注目画素を選択し、選択された注目画素に対応する、所定の数の画素からなる領域を選択する。例えば、画素取得部６０２は、注目画素を中心とする５×５画素からなる領域を選択する。
【０７７９】
画素取得部６０２が選択する領域の大きさは、本発明を限定するものではない。
【０７８０】
画素取得部６０２は、選択した領域の画素の画素値を取得して、選択した領域の画素の画素値を度数検出部６０３に供給する。
【０７８１】
度数検出部６０３は、画素取得部６０２から供給された、選択された領域の画素の画素値を基に、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。度数検出部６０３における、相関値に基づく度数の設定の処理の詳細は、後述する。
【０７８２】
度数検出部６０３は、検出した度数を回帰直線演算部６０４に供給する。
【０７８３】
回帰直線演算部６０４は、度数検出部６０３から供給された度数に基づいて、回帰線を演算する。例えば、回帰直線演算部６０４は、度数検出部６０３から供給された度数に基づいて、回帰直線を演算する。また、例えば、回帰直線演算部６０４は、度数検出部６０３から供給された度数に基づいて、所定の曲線である回帰線を演算する。回帰直線演算部６０４は、演算された回帰線および演算の結果を示す演算結果パラメータを領域算出部６０５に供給する。演算パラメータが示す演算の結果には、後述する変動および共変動などが含まれる。
【０７８４】
領域算出部６０５は、回帰直線演算部６０４から供給された演算結果パラメータで示される、回帰線に基づいて、欠落した現実世界の光信号の定常性に対応する、画像データである入力画像においてデータの定常性を有する領域を検出する。
【０７８５】
図１１６は、入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線Ａとの関係を示す図である。データの定常性を有する領域における画素の画素値は、例えば、図１１６に示すように、山脈状に変化している。
【０７８６】
図１１５に構成を示すデータ定常性検出部１０１は、データの定常性を有する領域における画素の画素値を重みとして、最小自乗法により回帰直線Ａを引く。データ定常性検出部１０１により求められた回帰直線Ａは、注目画素の周辺におけるデータの定常性を表現している。
【０７８７】
回帰直線を引くということは、ガウス関数を前提とした近似を意味する。図１１７に示すように、図１１５に構成を示すデータ定常性検出部１０１は、例えば、標準偏差を求めることで、細線の画像が射影された、データ３における領域の、おおよその幅を知ることができる。また、例えば、図１１５に構成を示すデータ定常性検出部１０１は、相関係数を基に、細線の画像が射影された、データ３における領域の、おおよその幅を知ることができる。
【０７８８】
次に、図１１５に構成を示すデータ定常性検出部１０１における、回帰直線の具体的な算出方法について説明する。
【０７８９】
度数検出部６０３は、例えば、画素取得部６０２から供給された、注目画素を中心とする、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなる領域の画素の画素値から、領域に属する画素の座標に対応する度数を検出する。
【０７９０】
例えば、度数検出部６０３は、式（４９）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０７９１】
【数３７】

・・・（４９）
【０７９２】
式（４９）において、P_0,0は、注目画素の画素値を示し、P_i,jは、座標（x_i,y_j）の画素の画素値を示す。Thは、閾値を示す。
【０７９３】
iは、領域内における、空間方向Ｘの画素の順番を示し、1≦i≦kである。jは、領域内における、空間方向Ｙの画素の順番を示し、1≦j≦lである。
【０７９４】
kは、領域における、空間方向Ｘの画素の数を示し、lは、領域における、空間方向Ｙの画素の数を示す。例えば、領域が、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなるとき、Kは、９であり、lは、５である。
【０７９５】
図１１８は、画素取得部６０２において取得される領域の例を示す図である。図１１８において、点線の四角は、１つの画素を示す。
【０７９６】
例えば、図１１８で示されるように、領域が、空間方向Ｘについて、注目画素を中心とした９画素、空間方向Ｙについて、注目画素を中心とした５画素からなり、注目画素の座標（x,y）が（0,0）であるとき、領域の左上の画素の座標（x,y）は、（-4,2）であり、領域の右上の画素の座標（x,y）は、（4,2）であり、領域の左下の画素の座標（x,y）は、（-4,-2）であり、領域の右下の画素の座標（x,y）は、（4,-2）である。
【０７９７】
領域の左側の画素の、空間方向Ｘにおける、画素の順番iは、1であり、領域の右側の画素の、空間方向Ｘにおける、画素の順番iは、9である。領域の下側の画素の、空間方向Ｙにおける、画素の順番jは、1であり、領域の上側の画素の、空間方向Ｙにおける、画素の順番jは、5である。
【０７９８】
すなわち、注目画素の座標（x₅,y₃）を（0,0）としたとき、領域の左上の画素の座標（x₁,y₅）は、（-4,2）であり、領域の右上の画素の座標（x₉,y₅）は、（4,2）であり、領域の左下の画素の座標（x₁,y₁）は、（-4,-2）であり、領域の右下の画素の座標（x₉,y₁）は、（4,-2）である。
【０７９９】
度数検出部６０３は、式（４９）において、相関値として、注目画素の画素値と、領域に属する画素の画素値との差分の絶対値を算出するので、実世界１の細線の画像が射影された、入力画像における、データの定常性を有する領域のみならず、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が射影された、入力画像における、２値エッジのデータの定常性を有する領域における、画素値の空間的な変化の特徴を示す度数を検出することができる。
【０８００】
なお、度数検出部６０３は、画素の画素値との差分の絶対値に限らず、相関係数など他の相関値を基に、度数を検出するようにしてもよい。
【０８０１】
また、式（４９）において、指数関数を適用しているのは、画素値の差に対して、度数に大きく差をつけるためであり、他の関数を適用するようにしてもよい。
【０８０２】
閾値Thは、任意の値とすることができる。例えば、閾値Thは、３０とすることができる。
【０８０３】
このように、度数検出部６０３は、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。
【０８０４】
また、例えば、度数検出部６０３は、式（５０）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０８０５】
【数３８】

・・・（５０）
【０８０６】
座標（x_i,y_j）における度数をL_i,j（1≦i≦k,1≦j≦l）としたとき、座標x_iにおける、空間方向Ｙの度数L_i,jの和q_iは、式（５１）で表され、座標y_jにおける、空間方向Ｘの度数L_i,jの和h_jは、式（５２）で表される。
【０８０７】
【数３９】

・・・（５１）
【０８０８】
【数４０】

・・・（５２）
【０８０９】
度数の総和uは、式（５３）で表される。
【０８１０】
【数４１】

・・・（５３）
【０８１１】
図１１８で示される例において、注目画素の座標の度数L_5,3は、３であり、注目画素の上側の画素の座標の度数L_5,4は、１であり、注目画素の右上側の画素の座標の度数L_6,4は、４であり、注目画素に対して、２画素上側であって、１画素右側の画素の座標の度数L_6,5は、２であり、注目画素に対して、２画素上側であって、２画素右側の画素の座標の度数L_7,5は、３である。また、注目画素の下側の画素の座標の度数L_5,2は、２であり、注目画素の左側の画素の座標の度数L_4,3は、１であり、注目画素の左下側の画素の座標の度数L_4,2は、３であり、注目画素に対して、１画素下側であって、２画素左側の画素の座標の度数L_3,2は、２であり、注目画素に対して、２画素下側であって、２画素左側の画素の座標の度数L_3,1は、４である。図１１８で示される領域の他の画素の座標の度数は、０であり、図１１８において、０である度数の記載は省略する。
【０８１２】
図１１８で示される領域において、空間方向Ｙの度数の和q₁は、iが１である度数Lが全て０なので、０であり、q₂は、iが２である度数Lが全て０なので、０である。q₃は、度数L_3,2が２であり、度数L_3,1が４なので、６である。同様に、q₄は、４であり、q₅は、６であり、q₆は、６であり、q₇は、３であり、q₈は、０であり、q₉は、０である。
【０８１３】
図１１８で示される領域において、空間方向Ｘの度数の和h₁は、度数L_3,1が４なので、４である。h₂は、度数L_3,2が２であり、度数L_4,2が３であり、度数L_5,2が２なので、７である。同様に、h₃は、４であり、h₄は、５であり、h₅は、５である。
【０８１４】
図１１８で示される領域において、度数の総和uは、２５である。
【０８１５】
空間方向Ｙの度数L_i,jの和q_iに、座標x_iを乗じた結果を加算した和T_xは、式（５４）で表される。
【０８１６】
【数４２】

・・・（５４）
【０８１７】
空間方向Ｘの度数L_i,jの和h_jに、座標y_jを乗じた結果を加算した和T_yは、式（５５）で表される。
【０８１８】
【数４３】

・・・（５５）
【０８１９】
例えば、図１１８で示される領域において、q₁が０であり、x₁が−４なので、q₁x₁は０であり、q₂が０であり、x₂が−３なので、q₂x₂は０である。同様に、q₃が６であり、x₃が−２なので、q₃x₃は−１２であり、q₄が４であり、x₄が−１なので、q₄x₄は、−４であり、q₅が６であり、x₅が０なので、q₅x₅は０である。同様に、q₆が６であり、x₆が１なので、q₆x₆は６であり、q₇が３であり、x₇が２なので、q₇x₇は６であり、q₈が０であり、x₈が3なので、q₈x₈は０であり、q₉が０であり、x₉が４なので、q₉x₉は０である。従って、q₁x₁乃至q₉x₉の和であるT_xは、−４である。
【０８２０】
例えば、図１１８で示される領域において、h₁が４であり、y₁が−２なので、h₁y₁は−８であり、h₂が７であり、y₂が−１なので、h₂y₂は−７である。同様に、h₃が４であり、y₃が０なので、h₃y₃は０であり、h₄が５であり、y₄が１なので、h₄y₄は、５であり、h₅が５であり、y₅が２なので、h₅y₅は１０である。従って、h₁y₁乃至h₅y₅の和であるT_yは、0である。
【０８２１】
また、Q_iを以下のように定義する。
【０８２２】
【数４４】

・・・（５６）
【０８２３】
xの変動S_xは、式（５７）で表される。
【０８２４】
【数４５】

・・・（５７）
【０８２５】
yの変動S_yは、式（５８）で表される。
【０８２６】
【数４６】

・・・（５８）
【０８２７】
共変動S_xyは、式（５９）で表される。
【０８２８】
【数４７】

・・・（５９）
【０８２９】
式（６０）に示す１次の回帰直線を求めることを考える。
【０８３０】
y=ax+b ・・・（６０）
【０８３１】
傾きaおよび切片bは、最小自乗法により、以下のように求めることができる。
【０８３２】
【数４８】

・・・（６１）
【０８３３】
【数４９】

・・・（６２）
【０８３４】
ただし、正しい回帰直線を求めるための必要条件は、度数L_i,jが、回帰直線に対して、ガウス分布状に、分布していることである。逆に言えば、度数検出部６０３は、度数L_i,jがガウス分布するように、領域の画素の画素値を度数L_i,jに変換する必要がある。
【０８３５】
回帰直線演算部６０４は、式（６１）および式（６２）で示される演算を実行して、回帰直線を求める。
【０８３６】
また、画素毎にデータの定常性を検出するためには、切片bは、不要である。そこで、式（６３）に示す１次の回帰直線を求めることを考える。
【０８３７】
y=ax ・・・（６３）
【０８３８】
この場合、回帰直線演算部６０４は、最小自乗法により、傾きaを式（６４）で求めることができる。
【０８３９】
【数５０】

・・・（６４）
【０８４０】
データの定常性を有する領域を特定する第１の手法においては、式（６０）に示す回帰直線の推定誤差が利用される。
【０８４１】
yの変動S_y・xは、式（６５）で示される演算で求められる。
【０８４２】
【数５１】

・・・（６５）
【０８４３】
推定誤差の分散は、変動を用いて、式（６６）で示される演算で求められる。
【０８４４】
【数５２】

・・・（６６）
【０８４５】
よって、標準偏差は、以下の式で導出される。
【０８４６】
【数５３】

・・・（６７）
【０８４７】
ただし、標準偏差は、細線の画像が射影された領域を対象とする場合、細線の幅に値する量なので、一概に、標準偏差が大きいことをもって、データの定常を有する領域ではないという判断をすることはできない。しかしながら、例えば、クラス分類適応処理が破綻するのは、データの定常を有する領域の中でも、細線の幅が狭い部分なので、クラス分類適応処理が破綻する可能性が大きい領域を検出するために、標準偏差を用いて検出された領域を示す情報を利用することができる。
【０８４８】
領域算出部６０５は、式（６７）で示される演算により、標準偏差を算出して、標準偏差を基に、入力画像における、データの定常性を有する領域を算出する。例えば、領域算出部６０５は、標準偏差に所定の係数を乗じて距離を求め、回帰直線から、求めた距離以内の領域を、データの定常性を有する領域とする。例えば、領域算出部６０５は、回帰直線を中心として、回帰直線から標準偏差以内の距離の領域を、データの定常性を有する領域として算出する。
【０８４９】
第２の手法においては、度数の相関をデータの定常を有する領域の検出に用いる。
【０８５０】
相関係数r_xyは、xの変動S_x、yの変動S_y、および共変動S_xyを基に、式（６８）で示される演算で求めることができる。
【０８５１】
【数５４】

・・・（６８）
【０８５２】
相関には、正の相関と負の相関があるので、領域算出部６０５は、相関係数r_xyの絶対値を求めて、相関係数r_xyの絶対値が１に近いほど、相関が強いと判定する。より具体的には、領域算出部６０５は、閾値と、相関係数r_xyの絶対値とを比較し、相関係数r_xyの絶対値が閾値以上である領域を、データの定常性を有する領域として検出する。
【０８５３】
図１１９のフローチャートを参照して、ステップＳ１０１の処理に対応する、図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０８５４】
ステップＳ６０１において、画素取得部６０２は、まだ注目画素とされていない画素の中から注目画素を選択する。例えば、画素取得部６０２は、ラスタスキャン順に、注目画素を選択する。ステップＳ６０２において、画素取得部６０２は、注目画素を中心とする領域に含まれる画素の画素値を取得し、取得した画素の画素値を度数検出部６０３に供給する。例えば、画素取得部６０２は、注目画素を中心とした、９×５画素からなる領域を選択し、領域に含まれる画素の画素値を取得する。
【０８５５】
ステップＳ６０３において、度数検出部６０３は、領域に含まれる画素の画素値を度数に変換することにより、度数を検出する。例えば、度数検出部６０３は、式（４９）で示される演算により、画素値を度数L_i,jに変換する。この場合において、度数L_i,jがガウス分布状に分布するように、領域の画素の画素値が度数L_i,jに変換される。度数検出部６０３は、変換された度数を回帰直線演算部６０４に供給する。
【０８５６】
ステップＳ６０４において、回帰直線演算部６０４は、度数検出部５０３から供給された度数を基に、回帰線を求める。例えば、回帰直線演算部６０４は、度数検出部６０３から供給された度数を基に、回帰直線を求める。より具体的には、回帰直線演算部６０４は、式（６１）および式（６２）で示される演算を実行して、回帰直線を求める。回帰直線演算部６０４は、算出された結果である回帰直線を示す演算結果パラメータを領域算出部６０５に供給する。
【０８５７】
ステップＳ６０５において、領域算出部６０５は、回帰直線についての標準偏差を算出する。例えば、領域算出部６０５は、式（６７）に示す演算により、回帰直線に対する標準偏差を算出する。
【０８５８】
ステップＳ６０６において、領域算出部６０５は、標準偏差から、入力画像における、データの定常性を有する領域を特定する。例えば、領域算出部６０５は、標準偏差に所定の係数を乗じて距離を求め、回帰直線から、求めた距離以内の領域を、データの定常性を有する領域として特定する。
【０８５９】
領域算出部６０５は、データの定常性を有する領域を示すデータ定常性情報を出力する。
【０８６０】
ステップＳ６０７において、画素取得部６０２は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ６０１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０８６１】
ステップＳ６０７において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０８６２】
図１２０のフローチャートを参照して、ステップＳ１０１の処理に対応する、図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の他の処理を説明する。ステップＳ６２１乃至ステップＳ６２４の処理は、ステップＳ６０１乃至ステップＳ６０４の処理と同様なので、その説明は省略する。
【０８６３】
ステップＳ６２５において、領域算出部６０５は、回帰直線についての相関係数を算出する。例えば、領域算出部６０５は、式（６８）で示される演算により、回帰直線に対する相関係数を算出する。
【０８６４】
ステップＳ６２６において、領域算出部６０５は、相関係数から、入力画像における、データの定常性を有する領域を特定する。例えば、領域算出部６０５は、予め記憶している閾値と相関係数の絶対値とを比較し、相関係数の絶対値が閾値以上である領域を、データの定常性を有する領域として特定する。
【０８６５】
領域算出部６０５は、データの定常性を有する領域を示すデータ定常性情報を出力する。
【０８６６】
ステップＳ６２７の処理は、ステップＳ６０７の処理と同様なので、その説明は省略する。
【０８６７】
このように、図１１５に構成を示すデータ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、データの定常性を有する領域を検出することができる。
【０８６８】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域を選択し、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出し、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データにおけるデータの定常性を有する領域を検出し、検出された画像データのデータの定常性に基づいて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０８６９】
図１２１は、データ定常性検出部１０１のその他の実施の形態の構成を示している。
【０８７０】
図１２１のデータ定常性検出部１０１は、データ選択部７０１、データ足し込み部７０２、および、定常方向導出部７０３より構成される。
【０８７１】
データ選択部７０１は、入力画像の各画素を注目画素として、その注目画素毎に対応する画素の画素値データを選択して、データ足し込み部７０２に出力する。
【０８７２】
データ足し込み部７０２は、データ選択部７０１より入力されたデータに基づいて、最小自乗法における足し込み演算を行い、足し込み演算結果を定常方向導出部７０３に出力する。このデータ足し込み部７０２による足し込み演算とは、後述する最小自乗法の演算に用いるサメーションの項における演算であり、その演算結果は、定常性の角度を検出するための画像データの特徴であると言える。
【０８７３】
定常方向導出部７０３は、データ足し込み部７０２より入力された足し込み演算結果から定常方向、すなわち、データの定常性が有する基準軸からの角度（例えば、細線、または２値エッジなどの傾き、または方向）を演算し、これをデータ定常性情報として出力する。
【０８７４】
次に、図１２２を参照して、データ定常性検出部１０１における定常性（方向、または、角度）を検出する動作の概要について説明する。尚、図１２２，図１２３中、図６，図７における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【０８７５】
図１２２で示されるように、実世界１の信号（例えば、画像）は、光学系１４１（例えば、レンズ、またはLPF（Low Pass Filter）などからなる）により、センサ２（例えば、CCD（Charge Coupled Device）、または、CMOS（Complementary Metal-Oxide Semiconductor）など）の受光面に結像される。センサ２は、例えば、CCDやCMOSのような積分特性を有する素子から構成される。このような構成により、センサ２から出力されるデータ３から得られる画像は、実世界１の画像とは異なる画像となる（実世界１の画像とは差が生じることになる）。
【０８７６】
そこで、データ定常性検出部１０１は、図１２３で示されるように、モデル７０５を用いて、実世界１を近似式により近似的に記述して、その近似式からデータ定常性を抽出する。モデル７０５は、例えば、Ｎ個の変数で表現される。より正確には、モデル７０５は、実世界１の信号を近似（記述）する。
【０８７７】
データ定常性検出部１０１は、モデル７０５を予測するために、データ３から、Ｍ個のデータ７０６を抽出する。その結果、モデル７０５は、データの定常性に拘束されることになる。
【０８７８】
すなわち、モデル７０５は、センサ２で取得されたとき、データ３においてデータのデータ定常性を生じさせる、定常性（所定の次元の方向に一定の特徴）を有する実世界１の事象（を示す情報（信号））を近似する。
【０８７９】
ここで、データ７０６の数Ｍが、モデル７０５の変数の数Ｎ以上であれば、Ｍ個のデータ７０６から、Ｎ個の変数で表現されるモデル７０５を予測することができる。
【０８８０】
さらに、データ定常性検出部１０１は、実世界１（の信号）を近似（記述）するモデル７０５を予測することにより、実世界１の情報である信号に含まれるデータ定常性を、例えば、細線や２値エッジの方向（傾き、または、所定の方向を軸としたときの軸とのなす角度）として導出し、データ定常性情報として出力する。
【０８８１】
次に、図１２４を参照して、入力画像より細線の方向（角度）をデータ定常性情報として出力するデータ定常性検出部１０１について説明する。
【０８８２】
データ選択部７０１は、水平・垂直判定部７１１、および、データ取得部７１２から構成されている。水平・垂直判定部７１１は、注目画素とその周辺の画素間の画素値の差分から、入力画像の細線の水平方向に対する角度が、水平方向に近い細線か、垂直方向に近い細線かを判定し、判定結果をデータ取得部７１２、および、データ足し込み部７０２にそれぞれ出力する。
【０８８３】
より詳細には、例えば、この手法という意味で、他の手法でもよい。例えば、簡易１６方位検出手法をここで使用してもよい。図１２５で示されるように、水平・垂直判定部７１１は、注目画素と、その注目画素に隣接する画素間の差分（画素間の画素値の差分）のうち、水平方向の画素間の差分（アクティビティ）の和（hdiff）と、垂直方向の画素間の差分（アクティビティ）の和(vdiff)の差分（hdiff-vdiff）を求めて、注目画素が垂直方向に隣接する画素間との差分の和が大きいか、または、水平方向に隣接する画素間との差分の和が大きいかを判定する。ここで、図１２５においては、各マス目が画素を示し、図中の中央の画素が注目画素である。また、図中の点線の矢印で示す画素間の差分が、水平方向の画素間の差分であり、その和がhdiffで示される。さらに、図中の実線の矢印で示す画素間の差分が、垂直方向の画素間の差分であり、その和がvdiffで示される。
【０８８４】
このように求められた水平方向の画素間の画素値の差分和hdiffと、垂直方向の画素間の画素値の差分和vdiffに基づいて、水平・垂直判定部７１１は、（hdiff−vdiff）が正であれば、垂直方向よりも水平方向の画素間の画素値の変化（アクティビティ）が大きいので、図１２６で示されるように、水平方向に対する角度がθ（0 度≦θ≦180 度）で示される場合、45 度＜θ≦135 度、すなわち、垂直方向に近い角度の細線に属している画素であると判定し、逆に負であれば垂直方向の画素間の画素値の変化（アクティビティ）が大きいので、0 度≦θ＜45 度、または、135 度＜θ≦180 度、すなわち、水平方向に近い角度の細線に属している画素であると判定する（細線が続く方向（角度）に存在する画素は、いずれも細線を表現する画素であるので、その画素間の変化（アクティビティ）は小さくなるはずである）。
【０８８５】
また、水平・垂直判定部７１１は、入力画像の各画素を識別するカウンタ（図示せず）を備えており、適宜必要に応じて使用する。
【０８８６】
尚、図１２５においては、注目画素を中心として、３画素×３画素の範囲における垂直方向と水平方向の画素間の画素値の差分の和を比較して、細線が垂直方向に近いか、または、水平方向に近いかを判定する例について説明したが、それ以上の画素数を用いて同様の手法で細線の方向を判定するようにしてもよく、例えば、注目画素を中心として５画素×５画素や、７画素×７画素など、それ以上の画素数のブロックに基づいて判定するようにしてもよい。
【０８８７】
データ取得部７１２は、水平・垂直判定部７１１より入力された細線の方向の判定結果に基づいて、注目画素に対応する水平方向に並ぶ複数の画素からなるブロック単位、または、垂直方向に並ぶ複数の画素のブロック単位で画素値を読み出し（取得し）、読み出した（取得した）注目画素毎に対応する複数の画素間における、水平・垂直方向判定部７１１の判定結果の方向に隣接する画素間の差分データとともに、所定の画素数のブロックに含まれる画素から、画素値の最大値と最小値のデータをデータ足し込み部７０２に出力する。尚、以下においては、データ取得部７１２により、注目画素に対応して取得される複数の画素のブロックを取得ブロックと称する（取得ブロックは、例えば、後述する図１３９で示される複数の画素（各マス目で示される）のうち、黒線の正方形が示された画素を注目画素とするとき、その上下３画素分と、左右１画素分の合計１５画素などである）。
【０８８８】
データ足し込み部７０２の差分足し込み部７２１は、データ選択部７０１より入力された差分データを検出し、データ選択部７０１の水平・垂直判定部７１１より入力される水平方向、または、垂直方向の判定結果に基づいて、後述する最小自乗法の解法に必要な足し込み処理を実行し、その足し込み結果を定常方向導出部７０３に出力する。より具体的には、複数の画素のうち水平・垂直判定部７１１による判定方向に隣接する画素iと画素（ｉ＋１）の画素間の画素値の差分データをyiとし、注目画素に対応する取得ブロックがｎ個の画素から構成された場合、差分足し込み部７２１は、水平方向、または、垂直方向毎に（ｙ１）²＋（ｙ２）²＋（ｙ３）²＋・・・を足し込んで演算し、定常方向導出部７０３に出力する。
【０８８９】
MaxMin取得部７２２は、データ選択部７０１より入力される注目画素に対応する取得ブロックに含まれる各画素毎に設定されるブロック（以下、ダイナミックレンジブロックと称する（ダイナミックレンジブロックは、後述する図１３９で示される取得ブロックの画素のうち、例えば、画素pix１２について、黒の実線で囲まれている、ダイナミックレンジブロックＢ１で示される、画素pix１２の上下３画素分の合計７画素などである））に含まれる画素の画素値の最大値と最小値を取得すると、その差分からダイナミックレンジDri（取得ブロック内のｉ番目の画素に対応する、ダイナミックレンジブロックに含まれる画素の画素値の最大値と最小値の差分）を演算（検出）して、差分足し込み部７２３に出力する。
【０８９０】
差分足し込み部７２３は、MaxMin取得部７２２より入力されたダイナミックレンジDriと、データ選択部７０１より入力された差分データを検出し、検出したダイナミックレンジDriと差分データに基づいて、データ選択部７０１の水平・垂直判定部７１１より入力される水平方向、または、垂直方向毎に、ダイナミックレンジDriと差分データｙｉを乗じた値を足し込んで、演算結果を定常方向導出部７０３に出力する。すなわち、差分足し込み部７２３が出力する演算結果は、水平方向、または、垂直方向毎にｙ１×Dr１＋ｙ２×Dr２＋ｙ３×Dr３＋・・・となる。
【０８９１】
定常方向導出部７０３の定常方向演算部７３１は、データ足し込み部７０２より入力されてくる、水平方向、または、垂直方向毎の足し込み演算結果に基づいて、細線の角度（方向）を演算し、演算された角度を定常性情報として出力する。
【０８９２】
ここで、細線の方向（細線の傾き、または、角度）の演算方法について説明する。
【０８９３】
図１２７Ａで示されるような入力画像中の白線により囲まれる部分を拡大すると、細線（図中、右上がりで、かつ斜め方向の白線）は、実際には、図１２７Ｂで示されるように表示されている。すなわち、現実世界においては、図１２７Ｃで示されるように、画像は、細線のレベル（図１２７Ｃ中では濃度の薄い斜線部）と背景レベルの２種類のレベルが境界を形成し、その他のレベルが存在しない状態となる。これに対して、センサ２により撮像された画像、すなわち、画素単位で撮像された画像は、図１２７Ｂで示されるように、その積分効果により背景レベルと細線レベルとが空間的に混合した画素が、その比率（混合比）を一定のパターンで変化するように縦方向に配置された複数の画素からなるブロックが細線方向に繰り返して配置されたような画像となる。尚、図１２７Ｂにおいて、各正方形状のマス目は、CCDの１画素を示し、各辺の長さをd_CCDであるものとする。また、マス目は、格子状に塗りつぶされた部分が背景のレベルに相当する画素値の最小値であり、その他の斜線状に塗りつぶされた部分は、斜線の密度が低くなるに連れて画素値が高くなるものとする（従って、斜線のない白色のマス目が画素値の最大値となる）。
【０８９４】
図１２８Ａで示されるように、現実世界の背景上に細線が存在する場合、現実世界の画像は、図１２８Ｂで示されるように、横軸にレベル、縦軸にそのレベルに対応する部分の画像上の面積を示すと、画像中の背景に相当する面積と、細線に相当する部分の面積との、画像上における占有面積の関係が示される。
【０８９５】
同様にして、センサ２で撮像された画像は、図１２９Ａで示されるように、背景レベルの画素の中に、縦に並んだ背景レベルと細線レベルとが混合した画素が、その混合比を所定のパターンで変化させながら縦方向に配置されたブロックが、細線の存在する方向に繰り返して配置されたような画像となるため、図１２９Ｂで示すように、背景のレベルとなる領域（背景領域）と、細線のレベルの中間のレベルをとる、背景と細線が空間的に混合した結果生じる画素からなる空間混合領域が存在する。ここで、図１２９Ｂにおいて縦軸は、画素数であるが、１画素の面積は（d_CCD）²となるため、図１２９Ｂの画素値のレベルと画素数の関係は、画素値のレベルと面積の分布の関係と同様であるといえる。
【０８９６】
これは、図１３０Ａの実際の画像中の白線で囲まれる部分（３１画素×３１画素の画像）においても、図１３０Ｂで示されるように同様の結果が得られる。すなわち、図１３０Ａで示される背景部分（図１３０Ａ中では、黒色に見える部分）は、図１３０Ｂで示されるように、画素値レベルの低い（画素値が２０付近の）画素が多く分布しており、これらの変化の少ない部分が、背景領域の画像を形成する。これに対して、図１３０Ｂの画素値レベルが低くない部分、すなわち、画素値レベルが４０付近乃至１６０付近に分布する画素は、細線の画像を形成する、空間混合領域に属する画素であり、各画素値毎の画素数は少ないが、広い画素値の範囲に分布している。
【０８９７】
ところで、現実世界の画像における背景と細線のそれぞれのレベルは、例えば、図１３１Ａで示される矢印方向（Ｙ座標方向）に見ると、図１３１Ｂで示されるように変化することになる。すなわち、矢印の起点から細線までの背景領域では、比較的レベルの低い背景レベルとなり、細線の領域では、レベルの高い細線のレベルとなり、細線領域を通過して再び背景領域に戻ると、レベルの低い背景のレベルとなる。結果として、細線領域のみが高いレベルとなるパルス状の波形となる。
【０８９８】
これに対して、センサ２で撮像された画像のうち、図１３１Ａ中の矢印の向きに対応する、図１３２Ａの空間方向Ｘ＝Ｘ１上の画素（図１３２Ａにおいては、黒丸で示されている画素）の画素値と、その画素の空間方向Ｙの関係は、図１３２Ｂに示されるようになる。尚、図１３２Ａにおいて、右上がりの２本の白線の間が、現実世界の画像上における細線を示している。
【０８９９】
すなわち、図１３２Ｂで示されるように、図１３２Ａ中の中央の画素に対応する画素が最も高い画素値をとるため、各画素の画素値は、空間方向Ｙの位置が、図中の下部から中央の画素に向かうに連れて高くなり、中央の位置を通過すると、徐々に減少することになる。結果として、図１３２Ｂで示すように、山型の波形が形成される。また、図１３２Ａの空間方向Ｘ＝Ｘ０，Ｘ２に対応する各画素の画素値の変化は、空間方向Ｙのピーク位置が、細線の傾きに応じてずれるものの、同様の外形となる。
【０９００】
例えば、図１３３Ａで示されるような、実際にセンサ２により撮像された画像における場合においても、図１３３Ｂで示されるように、同様の結果が得られる。すなわち、図１３３Ｂは、図１３３Ａの画像中の白線で囲まれる範囲の細線付近の画素値を所定の空間方向Ｘ（図中では、Ｘ＝５６１，５６２，５６３）毎の、空間方向Ｙに対応した画素値の変化を示している。このように、実際のセンサ２により撮像された画像においても、Ｘ＝５６１においては、Ｙ＝７３０付近で、Ｘ＝５６２においては、Ｙ＝７０５付近で、Ｘ＝５６３においては、Ｙ＝６８５付近で、それぞれピークとなる山型の波形となっている。
【０９０１】
このように、現実世界の画像の細線付近のレベルの変化を示す波形はパルス状の波形となるのに対して、センサ２により撮像された画像の画素値の変化を示す波形は山型の波形となる。
【０９０２】
すなわち、換言すれば、現実世界の画像のレベルは、図１３１Ｂで示されるような波形になるべきところが、センサ２により撮像されることにより、撮像された画像は、図１３２Ｂで示されるように、その変化に歪が生じて、現実世界の画像とは異なる（現実世界の情報が欠落した）波形に変化していると言える。
【０９０３】
そこで、このセンサ２により撮像された画像から、現実世界の画像の定常性情報を取得するため、センサ２より取得された画像のデータから現実世界を近似的に記述するためのモデル（図１２３のモデル７０５に相当する）を設定する。例えば、細線の場合、図１３４で示されるように、現実世界の画像を設定する。すなわち、図中左部の背景部分のレベルをＢ１、図中右側の背景部分のレベルをＢ２、細線部分のレベルをＬ、細線の混合比をα、細線の幅をＷ、細線の水平方向に対する角度をθとしてパラメータを設定し、モデル化して、現実世界を近似的に表現する関数を設定し、各パラメータを求めることにより現実世界を近似的に表現する近似関数を求め、その近似関数から細線の方向（傾き、または、基準軸に対する角度）を求める。
【０９０４】
このとき、背景領域は、左部、および、右部は、同一であるものとして近似することができるので、図１３５で示されるように、統一してＢ（＝Ｂ１＝Ｂ２）とする。また、細線の幅を１画素以上であるものとする。このように設定された現実世界をセンサ２で撮像するとき、撮像された画像は、図１３６Ａで示されるように撮像されることになる。尚、図１３６Ａにおいて、右上がりの２本の白線の間が、現実世界の画像上における細線を示している。
【０９０５】
すなわち、現実世界の細線上の位置に存在する画素は、細線のレベルに最も近いレベルとなり、垂直方向（空間方向Ｙの方向）に対して細線から離れるに従って画素値が減少し、細線領域に接することのない位置に存在する画素の画素値、すなわち、背景領域の画素は、背景レベルの画素値となる。このとき、細線領域と背景領域に跨る位置に存在する画素の画素値は、背景レベルの画素値Ｂと、細線レベルの画素値Ｌが、混合比αで混合された画素値となっている。
【０９０６】
このように、撮像された画像の各画素を注目画素とした場合、データ取得部７１２は、その注目画素に対応する取得ブロックの画素を抽出し、その抽出した取得ブロックを構成する画素毎に、ダイナミックレンジブロックを抽出し、そのダイナミックレンジブロックを構成する画素のうちの最大値となる画素値をとる画素と、最小値となる画素値をとる画素とを抽出する。すなわち、図１３６Ａで示すように、取得ブロック中の所定の画素（図中の1マスの中に黒の実線で正方形が記述された画素pix４）に対応したダイナミックレンジブロックの画素（例えば、図中の黒の実線で囲まれた画素pix１乃至７の７画素））が抽出された場合、その各画素に対応する現実世界の画像は、図１３６Ｂで示されるようになる。
【０９０７】
すなわち、図１３６Ｂで示されるように、画素pix１は、左部の略１／８の面積を占める部分が背景領域となり、右部の略７／８の面積を占める部分が細線領域となる。画素pix２は、略全領域が細線領域となる。画素pix３は、左部の略７／８の面積を占める部分が細線領域となり、右部１／８の面積を占める部分が背景領域となる。画素pix４は、左部の略２／３の面積を占める部分が細線領域となり、右部の略１／３の面積を占める部分が背景領域となる。画素pix５は、左部の略１／３の面積を占める部分が細線領域となり、右部の略２／３の面積を占める部分が背景領域となる。画素pix６は、左部の略１／８の面積を占める部分が細線領域となり、右部の略７／８の面積を占める部分が背景領域となる。さらに、画素pix７は、全体が背景領域となる。
【０９０８】
結果として、図１３６で示されるダイナミックレンジブロックの各画素pix１乃至７の画素値は、細線領域と背景領域の面積の比率に対応した混合比で、背景レベルと細線レベルが混合された画素値となる。すなわち、背景レベル：前景レベルの混合比は、画素pix１が略１：７、画素pix２が略０：１、画素pix３が略１：７、画素pix４が略１：２、画素pix５が略２：１、画素pix６が略７：１、および、画素pix７が略１：０となる。
【０９０９】
従って、抽出されたダイナミックレンジブロックの画素pix１乃至７の各画素の画素値は、画素pix２が最も高く、次いで画素pix１，３が続き、以下画素値が高い順に画素pix４，５，６，７となる。従って、図１３６Ｂで示される場合、最大値は、画素pix２の画素値であり、最小値は、画素pix７の画素値となる。
【０９１０】
また、図１３７Ａで示されるように、細線の方向は、画素値の最大値をとる画素が連続する方向であると言えるので、この最大値をとる画素が配置された方向が細線の方向となる。
【０９１１】
ここで、細線の方向を示す傾きＧ_flは、空間方向Ｘの単位距離に対する、空間方向Ｙへの変化（距離の変化）の比であるので、図１３７Ａで示されるような場合、図中の空間方向Ｘへの１画素の距離に対する、空間方向Ｙの距離が傾きＧ_flとなる。
【０９１２】
空間方向Ｘ０乃至Ｘ２の各々の空間方向Ｙに対する画素値の変化は、図１３７Ｂで示されるように、各空間方向Ｘ毎に所定の間隔で山型の波形が繰り返されることになる。上述のように、センサ２により撮像された画像において、細線は、最大値をとる画素が連続する方向であるので、各空間方向Ｘの最大値となる空間方向Ｙの間隔Ｓが、細線の傾きＧ_flとなる。すなわち、図１３７Ｃで示されるように、水平方向に１画素の距離に対する垂直方向の変化量が傾きＧ_flとなる。従って、この細線の傾きＧ_fl（水平方向を基準軸としたときの角度に対応する）は、図１３７Ｃで示すように、その傾きに対応する水平方向を基準軸とした細線の角度をθとして表現する場合、以下の式（６９）で示される関係が成立することになる。
【０９１３】

【０９１４】
また、図１３５で示されるようなモデルを設定し、さらに、空間方向Ｙの画素と画素値の関係が、図１３７Ｂで示される山型の波形が、完全な三角波形（立ち上がり、または、立下りが直線的に変化する、二等辺三角形状の波形）であると仮定する場合、図１３８で示すように、所定の注目画素の空間方向Ｘにおける、空間方向Ｙ上に存在する各画素の画素値の最大値をMax＝Ｌ（ここでは、現実世界の細線のレベルに対応する画素値）、最小値をMin＝Ｂ（ここでは、現実世界の背景のレベルに対応する画素値）とするとき、以下の式（７０）で示される関係が成立する。
【０９１５】

【０９１６】
ここで、d_yは、空間方向Ｙの画素間の画素値の差分を示す。
【０９１７】
すなわち、空間方向の傾きＧ_flは、大きいほど細線がより垂直なものに近づくため、山型の波形は、底辺の大きな二等辺三角形状の波形となり、逆に、傾きＳが小さいほど底辺の小さな二等辺三角形状の波形となる。この結果、傾きＧ_flが大きいほど、空間方向Ｙの画素間の画素値の差分d_yは小さく、傾きＳが小さいほど、空間方向Ｙの画素間の画素値の差分d_yは大きくなる。
【０９１８】
そこで、上述の式（７０）の関係が成立する傾きＧ_flを求めることにより、細線の基準軸に対する角度θを求めることが可能となる。式（７０）は、傾きＧ_flを変数とする１変数の関数であるため、注目画素について、周辺の画素間の画素値の（垂直方向の）差分d_y、並びに、最大値、および、最小値の差分（Ｌ−Ｂ）を１組用いれば求めることが可能であるが、上述のように、空間方向Ｙの画素値の変化が完全な三角波形であることを前提とした近似式を用いたものであるので、注目画素に対応する抽出ブロックの各画素についてダイナミックレンジブロックを抽出し、さらに、その最大値と最小値からダイナミックレンジDrを求めるとともに、抽出ブロックの各画素毎の空間方向Ｙの画素間の画素値の差分d_yを用いて、最小自乗法により統計的に求める。
【０９１９】
ここで、最小自乗法による統計的な処理の説明にあたり、まず、抽出ブロック、および、ダイナミックレンジブロックについて、詳細を説明する。
【０９２０】
抽出ブロックは、例えば、図１３９で示すように、注目画素（図中の黒の実線で正方形が描かれているマス目の画素）の、空間方向Ｙについて上下３画素分、空間方向Ｘについて、左右１画素分の合計１５画素などでもよい。また、この場合、抽出ブロックの各画素の画素間の画素値の差分d_yは、例えば、画素pix１１に対応する差分がd_y１１で示されるとき、空間方向Ｘ＝Ｘ０の場合、画素pix１１とpix１２、pix１２とpix１３、pix１３とpix１４、pix １４と pix １５、pix１５とpix１６、pix１６とpix１７の画素間の画素値の差分d_y１１乃至d_y１６が得られることになる。このとき、空間方向Ｘ＝Ｘ１，Ｘ２についても、同様にして画素間の画素値の差分が得られる。結果として、この場合、画素間の画素値の差分d_yは、１８個存在することになる。
【０９２１】
さらに、抽出ブロックの各画素について、ダイナミックレンジブロックの画素が、例えば、画素pix１１については、水平・垂直判定部７１１の判定結果に基づいて、今の場合、垂直方向であると判定されるので、図１３９で示されるように、画素pix１１を含めて、垂直方向（空間方向Ｙ）の上下方向にそれぞれ３画素分のダイナミックレンジブロックＢ１の範囲の７画素であるものとすると、このダイナミックレンジブロックＢ１の画素の画素値の最大値と最小値を求め、さらに、この最大値と最小値から得られるダイナミックレンジをダイナミックレンジDr１１とする。同様にして、抽出ブロックの画素pix１２については、図１３９中のダイナミックレンジブロックＢ２の７画素から同様にしてダイナミックレンジDr１２を求める。このようにして、抽出ブロック内の１８個の画素間差分d_yｉと、対応するダイナミックレンジDrｉとの組み合わせに基づいて、最小自乗法を用いて統計的に傾きＧ_flが求められる。
【０９２２】
次に、１変数の最小自乗法の解法について説明する。尚、ここでは、水平・垂直判定部７１１の判定結果が垂直方向であったものとする。
【０９２３】
１変数の最小自乗法による解法は、例えば、図１４０で示される黒点で示される全ての実測値に対しての距離を最小とする、予測値Dri_cからなる直線の傾きＧ_flを求めるものである。そこで、上述の式（７０）で示される関係から以下のような手法により、傾きＳが求められる。
【０９２４】
すなわち、上述の式（７０）は、最大値と最小値の差分をダイナミックレンジDrとするとき、以下の式（７１）で示すように記述される。
【０９２５】

【０９２６】
上述の式（７１）に、抽出ブロックの各画素間についての差分d_yiを代入することによりダイナミックレンジDri_cが求められることになる。従って、各画素について、以下の式（７２）の関係が満たされることになる。
【０９２７】

【０９２８】
ここで、差分d_yiは、各画素ｉの空間方向Ｙの画素間の画素値の差分（例えば、画素ｉに対して、上方向、または、下方向に隣接した画素との画素間の画素値の差分）であり、Dri_cは、画素ｉについて式（７０）が成立するときに得られるダイナミックレンジである。
【０９２９】
上述のように、ここでいう最小自乗法は、抽出ブロックの画素ｉのダイナミックレンジDri_cと、図１３６を参照して説明した方法で得られる、画素ｉの実測値となるダイナミックレンジDri_rとの差分自乗和Ｑが、画像内のすべての画素において最小となるときの傾きＧ_flを求める方法である。従って、差分自乗和Ｑは以下の式（７３）により求められることになる。
【０９３０】
【数５５】

・・・（７３）
【０９３１】
式（７３）で示される差分自乗和Ｑは、２次関数であるので、変数Ｇ_fl（傾きＧ_fl）について図１４１で示すような下に凸の曲線となるため、傾きＧ_flが最小となるＧ_flminが最小自乗法の解となる。
【０９３２】
式（７３）で示される差分自乗和Ｑは、変数Ｇ_flで微分されると、以下に示す式（７４）で示されるｄＱ／ｄＧ_flとなる。
【０９３３】
【数５６】

・・・（７４）
【０９３４】
式（７４）が、０となるＧ_flが図１４１で示す差分自乗和Ｑの最小値をとるＧ_flminとなるので、式（７４）が０となるときの式を展開することにより、以下の式（７５）で傾きＧ_flが求められることになる。
【０９３５】
【数５７】

・・・（７５）
【０９３６】
上述の式（７５）は、いわゆる、１変数（傾きＧ_fl）の正規方程式となる。
【０９３７】
このようにして、得られた傾きＧ_flを上述の式（６９）に代入することにより、細線の傾きＧ_flに対応する、水平方向を基準軸としたときの細線の角度θを得ることができる。
【０９３８】
尚、以上の説明においては、注目画素が、水平方向を基準軸としたときの角度θが45 度≦θ＜135 度の範囲となる細線上の画素である場合の例について説明してきたが、例えば、注目画素が、水平方向を基準軸に対する細線の角度θが0 度≦θ＜45 度、または、135 度≦θ＜108 度となる、水平方向に近い細線上の画素である場合、画素ｉに隣接する画素間の画素値の差分は、水平方向に隣接する画素間の画素値の差分d_xｉとなり、同様に、画素ｉに対応する複数の画素から画素値の最大値、または、最小値を求める際に、抽出するダイナミックレンジブロックの画素についても、画素ｉに対して水平方向に存在する複数の画素のうちから選択されることになる。この場合の処理については、上述の説明における水平方向と垂直方向の関係が入れ替わるのみであるので、その説明は省略する。
【０９３９】
また、同様の手法により、２値エッジの傾きに対応する角度を求めることも可能である。
【０９４０】
すなわち、図１４２Ａで示されるような入力画像中の白線により囲まれる部分を拡大すると、画像中のエッジ部分（図中、黒地の旗に描かれた「十」という白で描かれた文字の下の部分）（以下、このように、２値のレベルからなる画像上のエッジ部分を２値エッジとも称する）は、実際には、図１４２Ｂで示されるように表示されている。すなわち、現実世界においては、図１４２Ｃで示されるように、画像では、第１のレベル（旗の地のレベル）と、第２のレベル（文字のレベル（図１４２Ｃ中では濃度の薄い斜線部））との２種類のレベルからなる境界が形成されており、その他のレベルが存在しない。これに対して、センサ２により撮像された画像、すなわち、画素単位で撮像された画像は、図１４２Ｂで示されるように、第１のレベルと第２のレベルとが空間的に混合した画素が、その比率（混合比）を一定のパターンで変化するように縦方向に配置された複数の画素からなるブロックがエッジが構成されている方向に繰り返して配置されたような領域を境とした第１のレベルの画素が配置される部分と、第２のレベルの画素が配置される部分とが存在する画像となる。
【０９４１】
すなわち、図１４３Ａで示されるように、空間方向Ｘ＝Ｘ０，Ｘ１，Ｘ２について、それぞれの空間方向Ｙへの画素値の変化は、図１４３Ｂ中では、各画素値は、図中の下から２値エッジ（図１４３Ａ中の右上がりの直線）の境界手前付近までは、所定の最小値の画素値になっているが、２値エッジの境界手前付近で、画素値が徐々に増大し、エッジを越えると図中の点Ｐ_Eにおいて、画素値が所定の最大値となる。より詳細には、空間方向Ｘ＝Ｘ０の変化は、図１４３Ｂで示されるように、画素値の最小値となる点Ｐ_Sを通過した後、徐々に画素値が増大し、画素値の最大値となる点Ｐ０となる。これに対して、空間方向Ｘ＝Ｘ１に対応する各画素の画素値の変化は、空間方向にずれた波形となるため、図１４３Ｂで示されるように、画素値の最小値から徐々に画素値が増大する位置が空間方向Ｙの正方向にずれて、図中の点Ｐ１を経由して、画素値の最大値にまで増大する。さらに、空間方向Ｘ＝Ｘ２における空間方向Ｙの画素値の変化は、空間方向Ｙの正の方向にさらにずれ込んだ図中の点Ｐ２を経由して減少し、画素値の最大値から最小値となる。
【０９４２】
これは、実際の画像中の白線で囲まれる部分においても、同様の傾向が見られる。すなわち、図１４４Ａの実際の画像中の白線で囲まれる部分（３１画素×３１画素の画像）において、背景部分（図１４４Ａ中では、黒色に見える部分）は、図１４４Ｂで示されるように、画素値の低い（画素値が９０付近の）画素数が多く分布しており、これらの変化の少ない部分が、背景領域の画像を形成する。これに対して、図１４４Ｂの画素値が低くない部分、すなわち、画素値が１００付近乃至２００付近に分布する画素は、文字領域と背景領域との空間混合領域に属する画素の分布であり、各画素値毎の画素数は少ないが、広い画素値の範囲に分布している。さらに、画素値の高い文字領域（図１４４Ａ中では、白色に見える部分）の画素が、２２０で示される画素値の付近に多く分布している。
【０９４３】
この結果、図１４５Ａで示されるエッジ画像における所定の空間方向Ｘに対する、空間方向Ｙの画素値の変化は、図１４５Ｂで示されるようになものとなる。
【０９４４】
すなわち、図１４５Ｂは、図１４５Ａの画像中の白線で囲まれる範囲のエッジ付近の画素値を所定の空間方向Ｘ（図中では、Ｘ＝６５８，６５９，６６０）毎の、空間方向Ｙに対応した画素値の変化を示している。このように、実際のセンサ２により撮像された画像においても、Ｘ＝６５８において、画素値は、Ｙ＝３７４付近で増大を開始し（図中、黒丸で示される分布）、Ｘ＝３８２付近で最大画素値に到達する。また、Ｘ＝６５９においては、空間方向Ｙに対して正方向にずれ込んで、画素値は、Ｙ＝３７８付近で増大を開始し（図中、黒三角で示される分布）、Ｘ＝３８６付近で最大画素値に到達する。さらに、Ｘ＝６６０においては、空間方向Ｙに対して、さらに、正方向にずれ込んで、画素値は、Ｙ＝３８２付近で増大を開始し（図中、黒四角で示される分布）、Ｘ＝３９０付近で最大画素値に到達する。
【０９４５】
そこで、このセンサ２により撮像された画像から、現実世界の画像の定常性情報を取得するため、センサ２より取得された画像のデータから現実世界を近似的に記述するためのモデルを設定する。例えば、２値エッジの場合、図１４６で示すように、現実世界の画像を設定する。すなわち、図中左部の背景部分のレベルをＶ１、図中右側の文字部分のレベルをＶ２、２値エッジ付近の画素間の混合比をα、エッジの水平方向に対する角度をθとしてパラメータを設定し、モデル化して、現実世界を近似的に表現する関数を設定し、各パラメータを求めることにより現実世界を近似的に表現する関数を求め、その近似関数からエッジの方向（傾き、または、基準軸に対する角度）を求める。
【０９４６】
ここで、エッジの方向を示す傾きは、空間方向Ｘの単位距離に対する、空間方向Ｙへの変化（距離の変化）の比であるので、図１４７Ａで示されるような場合、図中の空間方向Ｘへの１画素の距離に対する、空間方向Ｙの距離が傾きとなる。
【０９４７】
空間方向Ｘ０乃至Ｘ２の各々の空間方向Ｙに対する画素値の変化は、図１４７Ｂで示されるように、各空間方向Ｘ毎に所定の間隔で同様の波形が繰り返されることになる。上述のように、センサ２により撮像された画像において、エッジは、類似した画素値の変化（今の場合、最小値から最大値へと変化する、所定の空間方向Ｙ上の画素値の変化）が空間的に連続する方向であるので、各空間方向Ｘにおいて、空間方向Ｙの画素値の変化が開始される位置、または、変化が終了する位置となる空間方向Ｙの間隔Ｓが、エッジの傾きＧ_feとなる。すなわち、図１４７Ｃで示されるように、水平方向に１画素の距離に対する垂直方向の変化量が傾きＧ_feとなる。
【０９４８】
ところで、この関係は、図１３７Ａ乃至Ｃを参照して上述した細線の傾きＧ_flにおける関係と同様である。従って、その関係式についても、同様のものとなる。すなわち、２値エッジにおける場合の関係式は、図１４８で示すものとなり、背景領域の画素値をＶ１、文字領域の画素値をＶ２、それぞれは最小値、および、最大値となる。また、エッジ付近の画素の混合比をαとし、エッジの傾きをＧ_feとおけば、成立する関係式は、上述の式（６９）乃至式（７１）と同様となる（ただし、Ｇ_flは、Ｇ_feに置き換えられる）。
【０９４９】
このため、図１２４で示されるデータ定常性検出部１０１は、同様の処理により、細線の傾きに対応する角度、および、エッジの傾きに対応する角度を、データ定常性情報として検出することができる。そこで、以下においては、傾きは、細線の傾きと、２値エッジの傾きとを総称して、傾きＧ_fと称する。また、上述の式（７３）乃至式（７５）の式における傾きＧ_flは、Ｇ_feであってもよいものであり、結果として、傾きＧ_fと置き換えて考えるものとする。
【０９５０】
次に、図１４９のフローチャートを参照して、データ定常性の検出の処理を説明する。
【０９５１】
ステップＳ７０１において、水平・垂直判定部７１１は、入力画像の各画素を識別するカウンタＴを初期化する。
【０９５２】
ステップＳ７０２において、水平・垂直判定部７１１は、後段の処理に必要なデータの抽出処理を実行する。
【０９５３】
ここで、図１５０のフローチャートを参照して、データを抽出する処理について説明する。
【０９５４】
ステップＳ７１１において、データ選択部７０１の水平・垂直判定部７１１は、各注目画素Ｔについて、図１２５を参照して説明したように、水平方向、垂直方向、および対角方向に隣接する９画素の水平方向に隣接する画素間の画素値の差分（アクティビティ）の和hdiffと、垂直方向に隣接する画素間の画素値の差分（アクティビティ）の和vdiffとを演算し、さらに、その差分（hdiff−vdiff）を求め、差分（hdiff−vdiff）≧０の場合、その注目画素Ｔが、水平方向を基準軸としたとき、その基準軸との角度θが45 度≦θ＜135 度となる、垂直方向に近い細線、または、２値エッジ付近の画素であるものとみなし、使用する抽出ブロックを垂直方向に対応したものとする判定結果をデータ取得部７１２、および、データ足し込み部７０２に出力する。
【０９５５】
一方、差分（hdiff−vdiff）＜０の場合、水平・垂直判定部７１１は、その注目画素が、水平方向を基準軸にしたとき、その基準軸との細線、または、２値エッジのなす角度θが0 度≦θ＜45 度、または、135 度≦θ＜180 度となる、水平方向に近い細線、または、エッジ付近の画素であるものとみなし、使用する抽出ブロックを水平方向に対応したものとする判定結果をデータ取得部７１２、および、データ足し込み部７０２に出力する。
【０９５６】
すなわち、細線、または、２値エッジの傾きが垂直方向に近いと言うことは、例えば、図１３１Ａで示されているように、図中の矢印が細線と交差する部分が増えることになるため、垂直方向の画素数を多めにした抽出ブロックを設定する（縦長な抽出ブロックを設定する）。同様にして、細線の傾きが水平方向に近い場合についても、水平方向の画素数を多めにした抽出ブロックを設定するようにする（横長な抽出ブロックを設定する）。このようにすることにより、不要な計算量を増やすことなく、正確な最大値と最小値の演算が可能となる。
【０９５７】
ステップＳ７１２において、データ取得部７１２は、注目画素について水平・垂直判定部７１１より入力される水平方向、または、垂直方向の判定結果に対応した抽出ブロックの画素を抽出する。すなわち、例えば、図１３９で示されるように、注目画素を中心として、（水平方向に３画素）×（垂直方向に７画素）の合計２１画素を抽出ブロックとして抽出し、記憶する。
【０９５８】
ステップＳ７１３において、データ取得部７１２は、抽出ブロックの各画素について、水平・垂直判定部７１１の判定結果に対応した方向に対応するダイナミックレンジブロックの画素を抽出し、記憶する。すなわち、図１３９を参照して、上述したように、例えば、抽出ブロックの画素pix１１については、今の場合、水平・垂直判定部７１１の判定結果が垂直方向になるので、データ取得部７１２は、垂直方向に、ダイナミックレンジブロックＢ１を、同様にして、画素pix１２は、ダイナミックレンジブロックＢ２を抽出する。その他の抽出ブロックについても同様にしてダイナミックレンジブロックが抽出される。
【０９５９】
すなわち、このデータ抽出処理により、所定の注目画素Ｔについて、正規方程式の演算に必要な画素の情報がデータ取得部７１２に蓄えられることになる（処理される領域が選択されることになる）。
【０９６０】
ここで、図１４９のフローチャートの説明に戻る。
【０９６１】
ステップＳ７０３において、データ足し込み部７０２は、正規方程式（ここでは、式（７４））の演算の各項に必要な値の足し込み処理を実行する。
【０９６２】
ここで、図１５１のフローチャートを参照して、正規方程式への足し込み処理について説明する。
【０９６３】
ステップＳ７２１において、差分足し込み部７２１は、データ選択部７０１の水平・垂直判定部７１１の判定結果に応じて、データ取得部７１２に記憶されている抽出ブロックの画素間の画素値の差分を求め（検出し）、さらに、２乗（自乗）して足し込む。すなわち、水平・垂直判定部７１１の判定結果が垂直方向である場合、差分足し込み部７２１は、抽出ブロックの各画素について垂直方向に隣接する画素間の画素値の差分を求めて、さらに２乗して足し込む。同様にして、水平・垂直判定部７１１の判定結果が水平方向である場合、差分足し込み部７２１は、抽出ブロックの各画素について水平方向に隣接する画素間の画素値の差分を求めて、さらに２乗して足し込む。結果として、差分足し込み部７２１は、上述の式（７５）の分母となる項の差分の自乗和を生成し、記憶する。
【０９６４】
ステップＳ７２２において、MaxMin取得部７２２は、データ取得部７１２に記憶されたダイナミックレンジブロックに含まれる画素の画素値の最大値と最小値を取得し、ステップＳ７２３において、その最大値と最小値との差分からダイナミックレンジを求め（検出し）、差分足し込み部７２３に出力する。すなわち、図１３６Ｂで示されているような、画素pix１乃至７からなる７画素のダイナミックレンジブロックの場合、pix２の画素値が最大値として検出され、pix７の画素が最小値として検出され、これらの差分がダイナミックレンジとして求められる。
【０９６５】
ステップＳ７２４において、差分足し込み部７２３は、データ取得部７１２に記憶されている抽出ブロックの画素間のうち、データ選択部７０１の水平・垂直判定部７１１の判定結果に対応する方向に隣接する画素間の画素値の差分を求め（検出し）、MaxMin取得部７２２より入力されたダイナミックレンジを乗じた値を足し込む。すなわち、差分足し込み部７２１は、上述の式（７５）の分子となる項の和を生成し、記憶する。
【０９６６】
ここで、図１４９のフローチャートの説明に戻る。
【０９６７】
ステップＳ７０４において、差分足し込み部７２１は、抽出ブロックの全ての画素の画素間の画素値の差分（水平・垂直判定部７１１の判定結果に対応する方向に隣接する画素間の画素値の差分）を足し込んだか否かを判定し、例えば、抽出ブロックの全ての画素の画素間の差分を足し込んでいないと判定した場合、その処理は、ステップＳ７０２に戻り、それ以降の処理が繰り返される。すなわち、抽出ブロックの全ての画素の画素間の画素値の差分が足し込まれたと判定されるまで、ステップＳ７０２乃至Ｓ７０４の処理が繰り返される。
【０９６８】
ステップＳ７０４において、抽出ブロックの全ての画素の画素間の画素値の差分が足し込まれたと判定された場合、ステップＳ７０５にいて、差分足し込み部７２１，７２３は、自らで記憶している足し込み結果を定常方向導出部７０３に出力する。
【０９６９】
ステップＳ７０６において、定常方向演算部７３１は、データ足し込み部７０２の差分足し込み部７２１より入力された、取得ブロックの各画素間のうち、水平・垂直判定部７１１により判定された方向に隣接する画素間の画素値の差分の自乗和、差分足し込み部７２３より入力された、取得ブロックの各画素間のうち、水平・垂直判定部７１１により判定された方向に隣接する画素間の画素値の差分、および、取得ブロックの各画素に対応するダイナミックレンジとの積の和に基づいて、上述の式（７５）で示した正規方程式を解くことにより、最小自乗法を用いて統計的に注目画素のデータ定常性情報である、定常性の方向を示す角度（細線、または、２値エッジの傾きを示す角度）を演算し、出力する。
【０９７０】
ステップＳ７０７において、データ取得部７１２は、入力画像の全ての画素について処理が行われたか否かを判定し、例えば、入力画像の全ての画素について処理が行われていない、すなわち、入力画像の全ての画素について、細線、または、２値エッジの角度の情報を出力していないと判定した場合、ステップＳ７０８において、カウンタＴを１インクリメントして、その処理は、ステップＳ７０２に戻る。すなわち、入力画像のうちの処理しようとする画素が変更されて、入力画像の全ての画素について処理がなされるまで、ステップＳ７０２乃至Ｓ７０８の処理が繰り返されることになる。このカウンタＴによる画素の変化は、例えば、ラスタスキャンなどであってもよいし、それ以外の規則により順次変化していくものであってもよい。
【０９７１】
ステップＳ７０７において、入力画像の全ての画素について処理がなされたと判定された場合、ステップＳ７０９において、データ取得部７１２は、次の入力画像があるか否かを判定し、次の入力画像があると判定された場合、その処理は、ステップＳ７０１に戻り、それ以降の処理が繰り返される。
【０９７２】
ステップＳ７０９において、次の入力画像はないと判定された場合、その処理は、終了する。
【０９７３】
以上の処理により、細線、または、２値エッジの角度が、定常性情報として検出されて、出力される。
【０９７４】
このように統計的処理により得られる細線、または、エッジの傾きの角度は、相関を用いて得られる細線、または、２値エッジの角度とほぼ一致する。すなわち、図１５２Ａで示すような画像の白線で囲まれる範囲の画像について、細線上の所定の水平方向の座標上の空間方向Ｙへの傾きの変化は、図１５２Ｂで示されるように、相関を用いた方法により得られる細線の傾きを示す角度（図中の黒丸印）と、図１２４で示されたデータ定常性検出部１０１により統計処理により得られる細線の角度（図中の黒三角印）は、細線近傍の空間方向Ｙの座標上で、それぞれがほぼ一致している。尚、図１５２Ｂにおいては、図中の黒実線で挟まれた空間方向Ｙ＝６８０乃至７３０が細線上の座標である。
【０９７５】
同様にして、図１５３Ａで示すような画像の白線で囲まれる範囲の画像について、２値エッジ上の所定の水平方向の座標上の空間方向Ｙへの傾きの変化は、図１５３Ｂで示されるように、相関を用いた方法により得られる２値エッジの傾きを示す角度（図中の黒丸印）と、図１２４で示されたデータ定常性検出部１０１により統計処理により得られる２値エッジの角度（図中の黒三角印）は、細線近傍の空間方向Ｙの座標上で、それぞれがほぼ一致している。尚、図１５３Ｂにおいては、空間方向Ｙ＝３７６（付近）乃至３８８（付近）が細線上の座標であるである。
【０９７６】
結果として、図１２４に示されるデータ定常性検出部１０１は、データの定常性として細線、または、２値エッジの角度を求める際、所定の画素からなるブロックによる相関を用いる方法と異なり、各画素の周辺の情報を用いて、統計的に細線、または、２値エッジの傾きを示す角度（ここでは、水平方向を基準軸とした角度）を求めることができるので、相関を用いた方法に見られるように、所定の角度の範囲に応じて切り替わることが無いので、全ての細線、または、２値エッジの傾きの角度を同一の処理により求めることが可能となるため、処理を簡単なものとすることが可能となる。
【０９７７】
また、以上においては、データ定常性検出部１０１は、細線、または、２値エッジの所定の基準軸とのなす角度を定常性情報として出力する例について説明してきたが、後段の処理によっては、傾きをそのまま出力する方が、処理効率が向上することも考えられる。そのような場合、データ定常性検出部１０１の定常方向導出部７０３の定常方向演算部７３１は、最小自乗法により求められた細線、または、２値エッジの傾きＧ_fを、そのまま定常性情報として出力するようにしてもよい。
【０９７８】
さらに、以上においては、式（７５）において、ダイナミックレンジDri_rは、抽出ブロックの各画素について求められるものとして演算してきたが、このダイナミックレンジは、ダイナミックレンジブロックを十分に大きく設定することにより、すなわち、多くの注目画素について、その周辺の多くの画素を用いて設定することにより、画像中の画素の画素値の最大値と最小値が、常に選択されることになるはずである。従って、ダイナミックレンジDri_rは、抽出ブロックの各画素について演算することなく、抽出ブロック中、または、画像データ中の画素の最大値と最小値から得られるダイナミックレンジを固定値として演算するようにしてもよい。
【０９７９】
すなわち、以下の式（７６）のように、画素間の画素値の差分のみを足し込むことにより細線の角度θ（傾きＧ_f）を求めるようにしてもよい。このように、ダイナミックレンジを固定することにより、演算処理をより簡素化することができ、高速で処理を行うことが可能となる。
【０９８０】
【数５８】

・・・（７６）
【０９８１】
次に、図１５４を参照して、データ定常性情報として、各画素の混合比を検出するデータ定常性検出部１０１について説明する。
【０９８２】
尚、図１５４のデータ定常性検出部１０１においては、図１２４のデータ定常性検出部１０１における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【０９８３】
図１５４のデータ定常性検出部１０１において、図１２４のデータ定常性検出部１０１と異なるのは、データ足し込み部７０２、および、定常性方向導出部７０３に代えて、データ足し込み部７５１、および、混合比導出部７６１が設けられている点である。
【０９８４】
データ足し込み部７５１のMaxMin取得部７５２は、図１２４におけるMaxMin取得部７２２と同様の処理を行うものであるが、ダイナミックレンジブロックの各画素の画素値の最大値と最小値を取得し、最大値と最小値の差分（ダイナミックレンジ）を求め、足し込み部７５３，７５５に出力すると共に、最大値を差分演算部７５４に出力する。
【０９８５】
足し込み部７５３は、MaxMin取得部より入力された値を自乗して、抽出ブロックの全ての画素について足し込み、その和を求めて、混合比導出部７６１に出力する。
【０９８６】
差分演算部７５４は、データ取得部７１２の取得ブロックの各画素について、対応するダイナミックレンジブロックの最大値との差分を求めて、足し込み部７５５に出力する。
【０９８７】
足し込み部７５５は、取得ブロックの各画素について、MaxMin取得部７５２より入力された最大値と最小値の差分（ダイナミックレンジ）と、差分演算部７５４より入力された取得ブロックの各画素の画素値と、対応するダイナミックレンジブロックの最大値との差分と乗じて、その和を求め、混合比導出部７６１に出力する。
【０９８８】
混合比導出部７６１の混合比算出部７６２は、データ足し込み部の足し込み部７５３，７５５のそれぞれより入力された、値に基づいて、注目画素の混合比を最小自乗法により統計的に求め、データ定常性情報として出力する。
【０９８９】
次に、混合比の導出方法について説明する。
【０９９０】
図１５５Ａで示されるように、画像上に細線が存在する場合、センサ２で撮像された画像は、図１５５Ｂで示されるような画像となる。個の画像について、図１５５Ｂの空間方向Ｘ＝Ｘ１上の黒の実線で囲まれた画素について注目する。尚、図１５５Ｂの白線ではさまれた範囲は、細線領域に対応する位置を示す。この画素の画素値Ｍは、背景領域のレベルに対応する画素値Ｂと、細線領域のレベルに対応する画素値Ｌの中間色となっているはずであり、さらに詳細には、この画素値Ｐ_Sは、背景領域と細線領域の面積比で、それぞれのレベルが混合されているはずである。従って、この画素値Ｐ_Sは、以下の式（７７）により表現される。
【０９９１】

【０９９２】
ここで、αは、混合比であり、より具体的には、注目されている画素中の背景領域の占める面積の割合を示すものである。従って、（１−α）は、細線領域の占める面積の割合を示しているともいえる。尚、背景領域の画素は、背景に存在するオブジェクトの成分とも考えられるので、背景オブジェクト成分とも言える。また、細線領域の画素は、背景オブジェクトに対して前景オブジェクトの成分であると考えられるので、前景オブジェクト成分とも言える。
【０９９３】
この結果、混合比αは、式（７７）を展開することにより、以下の式（７８）で表現できることになる。
【０９９４】

【０９９５】
さらに、今の場合、画素値は、第１の画素値（画素値Ｂ）の領域と第２の画素値（画素値Ｌ）の領域とをまたいだ位置に存在することが前提であるので、画素値Ｌは、画素値の最大値Maxで置き換えることができ、さらに、画素値Ｂは、画素値の最小値と置き換えることができる。従って、混合比αは、以下の式（７９）でも表現することができる。
【０９９６】

【０９９７】
以上の結果、混合比αは、注目画素についてのダイナミックレンジブロックのダイナミックレンジ（（Min−Max）に相当する）と、注目画素と、ダイナミックレンジブロック内の画素の最大値との差分から求めることが可能となるが、より精度を向上させるため、ここでは、最小自乗法により統計的に混合比αを求める。
【０９９８】
すなわち、上述の式（７９）は、展開すると以下の式（８０）となる。
【０９９９】

【１０００】
この式（８０）は、上述の式（７１）と同様の１変数の最小自乗法の式となる。すなわち、式（７１）においては、最小自乗法により傾きＧ_fが求められていたが、ここでは、混合比αが求められることになる。従って、以下の式（８１）で示される正規方程式を解くことにより、混合比αは、統計的に求められる。
【１００１】
【数５９】

・・・（８１）
【１００２】
ここで、ｉは、抽出ブロックの各画素を識別するものである。従って、式（８１）においては、抽出ブロックの画素数はｎである。
【１００３】
次に、図１５６のフローチャートを参照して、混合比をデータ定常性としたときのデータ定常性の検出の処理について説明する。
【１００４】
ステップＳ７３１において、水平・垂直判定部７１１は、入力画像の各画素を識別するカウンタｕを初期化する。
【１００５】
ステップＳ７３２において、水平・垂直判定部７１１は、後段の処理に必要なデータの抽出処理を実行する。尚、ステップＳ７３２の処理は、図１５０のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
【１００６】
ステップＳ７３３において、データ足し込み部７５１は、正規方程式（ここでは、式（８１））の演算の各項に必要な値の足し込み処理を実行する。
【１００７】
ここで、図１５７のフローチャートを参照して、正規方程式への足し込み処理について説明する。
【１００８】
ステップＳ７５１において、MaxMin取得部７５２は、データ取得部７１２に記憶されたダイナミックレンジブロックに含まれる画素の画素値の最大値と最小値を取得し、そのうち、最小値を差分演算部７５４に出力する。
【１００９】
ステップＳ７５２において、MaxMin取得部７５２は、その最大値と最小値との差分からダイナミックレンジを求め、差分足し込み部７５３，７５５に出力する。
【１０１０】
ステップＳ７５３において、足し込み部７５３は、MaxMin取得部７５２より入力されたダイナミックレンジ（Max−Min）を自乗して、足し込む。すなわち、足し込み部７５３は、上述の式（８１）の分母に相当する値を足し込みにより生成する。
【１０１１】
ステップＳ７５４において、差分演算部７５４は、MaxMin取得部７５２より入力されたダイナミックレンジブロックの最大値と、抽出ブロックにおける今現在処理中の画素の画素値との差分を求めて、足し込み部７５５に出力する。
【１０１２】
ステップＳ７５５において、足し込み部７５５は、MaxMin取得部７５２より入力されたダイナミックレンジと、差分演算部７５４より入力された、今現在処理している画素の画素値と、ダイナミックレンジブロックの画素のうち最大値となる値との差分を乗じて、足し込む。すなわち、足し込み部７５５は、上述の式（８１）の分子の項に相当する値を生成する。
【１０１３】
以上のように、データ足し込み部７５１は、足し込み処理により、上述の式（８１）の各項の演算を実行する。
【１０１４】
ここで、図１５６のフローチャートの説明に戻る。
【１０１５】
ステップＳ７３４において、差分足し込み部７２１は、抽出ブロックの全ての画素について、足し込みが終了したか否かを判定し、例えば、抽出ブロックの全ての画素についての足し込み処理が終了していないと判定した場合、その処理は、ステップＳ７３２に戻り、それ以降の処理が繰り返される。すなわち、抽出ブロックの全ての画素について、足し込み処理が終了したと判定されるまで、ステップＳ７３２乃至Ｓ７３４の処理が繰り返される。
【１０１６】
ステップＳ７３４において、抽出ブロックの全ての画素について足し込みが終了したと判定された場合、ステップＳ７３５にいて、足し込み部７５３，７５５は、自らで記憶している足し込み結果を混合比導出部７６１に出力する。
【１０１７】
ステップＳ７３６において、混合比導出部７６１の混合比算出部７６２は、データ足し込み部７５１の足し込み部７５３，７５５より入力された、ダイナミックレンジの自乗和、および、抽出ブロックの各画素の画素値とダイナミックレンジブロックの最大値との差分と、ダイナミックレンジとを乗じた和に基づいて、上述の式（８１）で示した正規方程式を解くことにより、最小自乗法を用いて統計的に注目画素のデータ定常性情報である、混合比を演算し、出力する。
【１０１８】
ステップＳ７３７において、データ取得部７１２は、入力画像の全ての画素について処理が行われたか否かを判定し、例えば、入力画像の全ての画素について処理が行われていない、すなわち、入力画像の全ての画素について、混合比を出力していないと判定した場合、ステップＳ７３８において、カウンタｕを１インクリメントして、その処理は、ステップＳ７３２に戻る。
【１０１９】
すなわち、入力画像のうちの処理しようとする画素が変更されて、入力画像の全ての画素について混合比が演算されるまで、ステップＳ７３２乃至Ｓ７３８の処理が繰り返されることになる。このカウンタｕによる画素の変化は、例えば、ラスタスキャンなどであってもよいし、それ以外の規則により順次変化していくものであってもよい。
【１０２０】
ステップＳ７３７において、入力画像の全ての画素について処理がなされたと判定された場合、ステップＳ７３９において、データ取得部７１２は、次の入力画像があるか否かを判定し、次の入力画像があると判定された場合、その処理は、ステップＳ７３１に戻り、それ以降の処理が繰り返される。
【１０２１】
ステップＳ７３９において、次の入力画像はないと判定された場合、その処理は、終了する。
【１０２２】
以上の処理により、各画素の混合比が、定常性情報として検出されて、出力される。
【１０２３】
以上の手法により、例えば、図１５８Ａで示される画像中の白線内の細線の画像について、所定の空間方向Ｘ（＝５６１，５６２，５６３）上の混合比の変化が、図１５８Ｂに示されている。図１５８Ｂで示されるように、水平方向に連続する空間方向Ｙの混合比の変化は、それぞれ、空間方向Ｘ＝５６３の場合、混合比は、空間方向Ｙ＝６６０付近で立ち上がり、Ｙ＝６８５付近でピークとなり、Ｙ＝７１０まで減少する。また、空間方向Ｘ＝５６２の場合、混合比は、空間方向Ｙ＝６８０付近で立ち上がり、Ｙ＝７０５付近でピークとなり、Ｙ＝７３５まで減少する。さらに、空間方向Ｘ＝５６１の場合、混合比は、空間方向Ｙ＝７０５付近で立ち上がり、Ｙ＝７２５付近でピークとなり、Ｙ＝７５５まで減少する。
【１０２４】
このように、図１５８Ｂで示されるように、連続する空間方向Ｘのそれぞれの混合比の変化は、混合比により変化する画素値の変化（図１３３Ｂで示した画素値の変化）と同様の変化であり、周期的に連続していることから、細線近傍の画素の混合比が正確に表現されていることが分かる。
【１０２５】
また、同様にして、図１５９Ａで示される画像中の白線内の２値エッジの画像について、所定の空間方向Ｘ（＝６５８，６５９，６６０）上の混合比の変化が、図１５９Ｂに示されている。図１５９Ｂで示されるように、水平方向に連続する空間方向Ｙの混合比の変化は、それぞれ、空間方向Ｘ＝６６０の場合、混合比は、空間方向Ｙ＝７５０付近で立ち上がり、Ｙ＝７６５付近でピークとなる。また、空間方向Ｘ＝６５９の場合、混合比は、空間方向Ｙ＝７６０付近で立ち上がり、Ｙ＝７７５付近でピークとなる。さらに、空間方向Ｘ＝６５８の場合、混合比は、空間方向Ｙ＝７７０付近で立ち上がり、Ｙ＝７８５付近でピークとなる。
【１０２６】
このように、図１５９Ｂで示されるように、２値エッジの混合比の変化は、混合比により変化する画素値の変化（図１４５Ｂで示した画素値の変化）と同様の変化とほぼ同様であり、周期的に連続していることから、２値エッジ近傍の画素値の混合比が正確に表現されていることが分かる。
【１０２７】
以上によれば、最小自乗法により統計的にデータ定常性情報として、各画素の混合比を求めることが可能となる。さらに、この混合比に基づいて、各画素の画素値を直接生成することが可能となる。
【１０２８】
また、混合比の変化が、定常性を有するものであり、さらに、この混合比の変化が直線的なもので近似すると、以下の式（８２）で示されるような関係が成立する。
【１０２９】

【１０３０】
ここで、ｍは、混合比αが、空間方向Ｙに対して変化するときの傾きを示し、また、ｎは、混合比αが直線的に変化するときの切片に相当するものである。
【１０３１】
すなわち、図１６０で示されるように、混合比を示す直線は、背景領域のレベルに相当する画素値Ｂと、細線のレベルに相当するレベルＬの境界を示す直線であり、この場合、空間方向Ｙについて単位距離進んだときの混合比の変化量が傾きｍとなる。
【１０３２】
そこで、式（８２）を、式（７７）に代入すると以下の式（８３）が導出される。
【１０３３】

【１０３４】
さらに、この式（８３）を展開すると、以下の式（８４）が導出される。
【１０３５】

【１０３６】
式（８４）においては、第１項のｍが、混合比の空間方向の傾きを示し、第２項ｎが混合比の切片を示す項である。従って、上述の式（８４）のｍ，ｎを２変数の最小自乗法を用いて、正規方程式を生成し、求めるようにすることもできる。
【１０３７】
しかしながら、混合比αの傾きｍは、上述した細線や２値エッジの傾き（上述の傾きＧ_f）そのものであるので、予め、上述の方法を用いて、細線、または、２値エッジの傾きＧ_fを求めた後、その傾きを用いて、式（８４）に代入することにより、切片の項についての１変数の関数とし、上述した手法と同様に、１変数の最小自乗法により求めるようにしてもよい。
【１０３８】
以上の例においては、空間方向の細線、または、２値エッジの角度（傾き）、または、混合比をデータ定常性情報として検出するデータ定常性検出部１０１について説明してきたが、例えば、空間内の軸（空間方向Ｘ，Ｙ）のいずれかを、時間方向（フレーム方向）Ｔの軸に置き換えることにより得られる、空間方向における角度に対応するものであってもよい。すなわち、空間内の軸（空間方向Ｘ，Ｙ）のいずれかを、時間方向（フレーム方向）Ｔの軸に置き換えることにより得られる角度に対応するものとは、物体の動きベクトル（動きベクトルの方向）である。
【１０３９】
より具体的には、図１６１Ａで示すように、物体が、時間が進むにつれて空間方向Ｙについて、図中の上方向に移動している場合、図中の細線に相当する部分（図１３１Ａとの比較）には、物体の移動の軌跡が現れることになる。従って、時間方向Ｔの細線における傾きは、図１６１Ａにおいては、物体の動く方向（物体の動きを示す角度）を示すもの（動きベクトルの方向と同値のもの）である。従って、現実世界において、図１６１Ａ中の矢印で示される、所定の時刻におけるフレームでは、図１６１Ｂで示すように物体の軌跡となる部分が、物体の（色の）レベルとなり、それ以外の部分が、背景のレベルとなったパルス状の波形となる。
【１０４０】
このように、センサ２により動きのある物体を撮像したした場合、図１６２Ａで示されるように、時刻Ｔ１乃至Ｔ３におけるフレームの各画素の画素値の分布は、図１６２Ｂで示されるように、空間方向Ｙに対して、それぞれ山型の波形をとる。この関係は、図１３２Ａ，Ｂを参照して、説明した空間方向Ｘ，Ｙにおける関係と同様であるものと考えることができる。従って、フレーム方向Ｔに対して、物体に動きがある場合、上述した細線の傾き、または、２値エッジの角度（傾き）の情報と同様の手法により、物体の動きベクトルの方向をデータ定常性情報として求めることも可能である。尚、図１６２Ｂにおいては、フレーム方向Ｔ（時間方向Ｔ）について、各マス目は、１フレームの画像を構成するシャッタ時間となる。
【１０４１】
また、同様にして、図１６３Ａで示されるように、フレーム方向Ｔ毎に、空間方向Ｙについて物体に動きがある場合、図１６３Ｂで示されるように、所定の時刻Ｔ１に相当するフレーム上で空間方向Ｙに向けて、物体の動きに対応して、各画素値が得られることになる。このとき、例えば、図１６３Ｂにおける、黒の実線で囲まれた画素の画素値は、図１６３Ｃで示されるように、物体の動きに対応して、背景のレベルと物体のレベルがフレーム方向に混合比βで混合している画素値である。
【１０４２】
この関係は、図１５５Ａ，Ｂ，Ｃを参照して説明した関係と同様である。
【１０４３】
さらに、図１６４で示されるように、物体のレベルＯと背景のレベルＢとは、フレーム方向（時間方向）の混合比βにより直線近似することも可能である。この関係は、図１６０を参照して説明した空間方向の混合比の直線近似と同様の関係である。
【１０４４】
従って、空間方向の混合比αと同様の手法により、時間（フレーム）方向の混合比βをデータ定常性情報として求めることも可能である。
【１０４５】
また、フレーム方向、または、空間方向のいずれか１次元を選択して、定常性の角度、または、動きベクトルの方向を求めるようにしてもよいし、同様にして混合比α，βを選択的に求めるようにしてもよい。
【１０４６】
以上によれば、現実世界の光信号を射影し、現実世界の光信号の定常性の一部が欠落した画像データ内の注目画素に対応する領域を選択し、選択した領域内の、欠落した現実世界の光信号の定常性に対応する画像データの定常性の基準軸に対する角度を検出するための特徴を検出し、検出した特徴に基いて統計的に角度を検出し、検出した画像データの定常性の基準軸に対する角度に基いて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにしたので、定常性の角度（動きベクトルの方向）、または、（時空間の）混合比を求めることが可能となる。
【１０４７】
次に、図１６５を参照して、データ定常性情報としてデータ定常性情報を用いた処理を行うべき領域の情報を出力する、データ定常性情報検出部１０１について説明する。
【１０４８】
角度検出部８０１は、入力された画像のうち、定常性を有する領域、すなわち、画像上において定常性を有する細線や２値エッジを構成する部分の空間方向の角度を検出し、検出した角度を実世界推定部８０２に出力する。尚、この角度検出部８０１は、図３におけるデータ定常性検出部１０１と同様のものである。
【１０４９】
実世界推定部８０２は、角度検出部８０１より入力されたデータ定常性の方向を示す角度と、入力画像の情報に基づいて実世界を推定する。すなわち、実世界推定部８０２は、入力された角度と、入力画像の各画素から実世界の光信号の強度分布を近似的に記述する近似関数の係数を求めて、求めた係数を実世界の推定結果として誤差演算部８０３に出力する。尚、この実世界推定部８０２は、図３における実世界推定部１０２と同様のものである。
【１０５０】
誤差演算部８０３は、実世界推定部８０２より入力された係数に基づいて、近似的に記述された現実世界の光の強度分布を示す近似関数を構成し、さらに、この近似関数に基づいて各画素位置に相当する光の強度を積分して、近似関数により推定された光の強度分布から各画素の画素値を生成し、実際に入力された画素値との差分を誤差として比較部８０４に出力する。
【１０５１】
比較部８０４は、各画素について誤差演算部８０３より入力された誤差と、予め設定された閾値とを比較することにより、定常性情報を用いた処理を施す画素の存在する処理領域と、非処理領域とを識別して、この定常性情報を用いた処理をする処理領域と非処理領域の識別がなされた領域情報を定常性情報として出力する。
【１０５２】
次に、図１６６のフローチャートを参照して、図１６５のデータ定常性検出部１０１による、定常性の検出の処理について説明する。
【１０５３】
ステップＳ８０１において、角度検出部８０１は、入力された画像を取得し、ステップＳ８０２において、定常性の方向を示す角度を検出する。より詳細には、角度検出部８０１は、例えば、水平方向を基準軸としたときの細線、または、２値エッジの有する定常性の方向を示す角度を検出して、実世界推定部８０２に出力する。
【１０５４】
ステップＳ８０３において、実世界推定部８０２は、角度検出部８０１より入力される角度の情報と、入力画像の情報に基づいて、現実世界を表現する関数F(x)に近似的に記述する、多項式からなる近似関数f(x)の係数を求めて、誤差演算部８０３に出力する。すなわち、現実世界を表現する近似関数f(x)は、以下の式（８５）のような１次元多項式で示される。
【１０５５】
【数６０】

・・・（８５）
【１０５６】
ここで、ｗｉは、多項式の係数であり、実世界推定部８０２は、この係数ｗｉを求めて、誤差演算部８０３に出力する。さらに、角度検出部８０１より入力される角度により、定常性の方向から傾きを求めることができる（Ｇ_f＝tan^-1θ，Ｇ_f：傾き，θ：角度）ので、この傾きＧ_fの拘束条件を代入することにより、上述の式（８５）の式は、以下の式（８６）で示されるように、２次元多項式で記述することができる。
【１０５７】
【数６１】

・・・（８６）
【１０５８】
すなわち、上述の式（８６）は、式（８５）で記述される１次元の近似関数f(x)が、空間方向Ｙに平行移動することにより生じるずれ幅をシフト量α（＝−ｄｙ／Ｇ_f：ｄｙは、空間方向Ｙへの変化量）で表現することにより得られる２次元の関数f(x,y)を記述している。
【１０５９】
したがって、実世界推定部８０２は、入力画像と、定常性方向の角度の情報を用いて、上述の式（８６）の各係数ｗｉを解いて、求められた係数ｗｉを誤差演算部８０３に出力する。
【１０６０】
ここで、図１６６のフローチャートの説明に戻る。
【１０６１】
ステップＳ８０４において、誤差演算部８０３は、実世界推定部８０２より入力された係数から、各画素について再積分を実行する。すなわち、誤差演算部８０３は、実世界推定部８０２より入力された係数から、上述の式（８６）を、以下の式（８７）で示されるように、各画素について積分する。
【１０６２】
【数６２】

・・・（８７）
【１０６３】
ここで、Ｓ_Sは、図１６７で示される空間方向の積分結果を示す。また、その積分範囲は、図１６７で示すように、空間方向Ｘについては、ｘ_m乃至ｘ_m+Bであり、空間方向Ｙについては、ｙ_m乃至ｙ_m+Aである。また、図１６７においては、各マス目（正方形）は、１画素を示すものとし、空間方向Ｘ，Ｙについて、いずれも１であるものとする。
【１０６４】
従って、誤差演算部８０３は、図１６８で示されるように、近似関数f(x,y)で示される曲面の空間方向Ｘについてｘ_m乃至ｘ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1（Ａ＝Ｂ＝１）で、以下の式（８８）で示されるような積分演算を各画素について実行し、実世界を近似的に表現する近似関数を空間的に積分することにより得られる各画素の画素値Ｐ_Sを演算する。
【１０６５】
【数６３】

・・・（８８）
【１０６６】
すなわち、この処理により、誤差演算部８０３は、言わば一種の画素値生成部として機能し、近似関数から画素値を生成する。
【１０６７】
ステップＳ８０５において、誤差演算部８０３は、上述の式（８８）で示したような積分により得られた画素値と、入力画像の画素値との差分を演算し、これを誤差として比較部８０４に出力する。すなわち、誤差演算部８０３は、上述の図１６７，図１６８で示した積分範囲（空間方向Ｘについてｘ_m乃至ｘ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1）に対応する画素の画素値と、画素に対応する範囲の積分結果により得られた画素値との差分を、誤差として求めて比較部８０４に出力する。
【１０６８】
ステップＳ８０６において、比較部８０４は、誤差演算部８０３より入力される積分により得られた画素値と入力画像の画素値との誤差の絶対値が、所定の閾値以下であるか否かを判定する。
【１０６９】
ステップＳ８０６において、誤差が所定の閾値以下であると判定された場合、ステップＳ８０７において、比較部８０４は、積分により得られた画素値が、入力画像の画素の画素値と近い値が得られているので、その画素の画素値を演算するにあたり設定した近似関数が、現実世界の光信号の光の強度分布と十分に近似しているとみなし、今処理した画素の領域は、定常性情報に基づいた近似関数による処理を行う処理領域として認識する。より詳細には、比較部８０４は、図示せぬメモリに今処理した画素が、以降の処理領域の画素であることを記憶させる。
【１０７０】
一方、ステップＳ８０６において、誤差が所定の閾値以下ではないと判定された場合、ステップＳ８０８において、比較部８０４は、積分により得られた画素値が、実際の画素値と離れた値となっているので、その画素の画素値を演算するにあたり設定した近似関数が、現実世界の光信号の光の強度分布と十分に近似していないとみなし、今処理した画素の領域は、後段において定常性情報に基づいた近似関数による処理を行わない非処理領域として認識する。より詳細には、比較部８０４は、図示せぬメモリに今処理した画素の領域が、以降の非処理領域であることを記憶させる。
【１０７１】
ステップＳ８０９において、比較部８０４は、全ての画素で処理が実行されたか否かを判定し、全ての画素で処理が実行されていないと判定された場合、その処理は、ステップＳ８０２に戻り、それ以降の処理が繰り返される。すなわち、全ての画素について、積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了するまで、ステップＳ８０２乃至Ｓ８０９の処理が繰り返される。
【１０７２】
ステップＳ８０９において、全ての画素について、再積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了したと判定された場合、ステップＳ８１０において、比較部８０４は、図示せぬメモリに記憶されている、入力画像について、後段の処理において空間方向の定常性情報に基づいた処理がなされる処理領域と、空間方向の定常性情報に基づいた処理がなされない非処理領域が識別された領域情報を、定常性情報として出力する。
【１０７３】
以上の処理によれば、定常性情報に基づいて演算された近似関数f(x)を用いて各画素に対応する範囲の積分結果により得られた画素値と、実際の入力画像中の画素値との誤差に基づいて、近似関数の表現の確からしさの評価が領域毎（画素毎に）にされることになり、誤差の小さい領域、すなわち、近似関数に基づいた積分により得られる画素値が確からしい画素の存在する領域のみを処理領域とし、それ以外の領域を非処理領域とすることになるので、確からしい領域にのみ空間方向の定常性情報に基づいた処理を施すことができ、必要な処理だけを実行させるようにすることができるため、処理速度を向上させることができると共に、確からしい領域にのみ処理を実行させることができるので、この処理による画質劣化を抑制することが可能となる。
【１０７４】
次に、図１６９を参照して、データ定常性情報としてデータ定常性情報を用いた処理を行う画素の存在する領域情報を出力する、データ定常性情報検出部１０１のその他の実施例について説明する。
【１０７５】
動き検出部８２１は、入力された画像のうち、定常性を有する領域、すなわち、画像上においてフレーム方向に定常性を有する動き（動きベクトルの方向：Ｖ_f）を検出し、検出した動きを実世界推定部８２２に出力する。尚、この動き検出部８２１は、図３におけるデータ定常性検出部１０１と同様のものである。
【１０７６】
実世界推定部８２２は、動き検出部８２１より入力されたデータ定常性の動きと、入力画像の情報に基づいて実世界を推定する。すなわち、実世界推定部８２２は、入力された動きと、入力画像の各画素からフレーム方向（時間方向）の実世界の光信号の強度分布を近似的に記述する近似関数の係数を求めて、求めた係数を実世界の推定結果として誤差演算部８２３に出力する。尚、この実世界推定部８２２は、図３における実世界推定部１０２と同様のものである。
【１０７７】
誤差演算部８２３は、実世界推定部８２２より入力された係数に基づいて、近似的に記述されたフレーム方向の現実世界の光の強度分布を示す近似関数を構成し、さらに、この近似関数からフレーム毎に各画素位置に相当する光の強度を積分して、近似関数により推定された光の強度分布から各画素の画素値を生成し、実際に入力された画素値との差分を誤差として比較部８２４に出力する。
【１０７８】
比較部８２４は、各画素について誤差演算部８２３より入力された誤差と、予め設定された閾値とを比較することにより、定常性情報を用いた処理を施す画素の存在する処理領域と、非処理領域とを識別して、この定常性情報を用いた処理をする処理領域と非処理領域の識別がなされた領域情報を定常性情報として出力する。
【１０７９】
次に、図１７０のフローチャートを参照して、図１６９のデータ定常性検出部１０１による、定常性の検出の処理について説明する。
【１０８０】
ステップＳ８２１において、動き検出部８０１は、入力された画像を取得し、ステップＳ８２２において、定常性を示す動きを検出する。より詳細には、動き検出部８０１は、例えば、入力画像中で動く物体の動き（動きベクトルの方向：Ｖ_f）を検出して、実世界推定部８２２に出力する。
【１０８１】
ステップＳ８２３において、実世界推定部８２２は、動き検出部８２１より入力される動きの情報と、入力画像の情報に基づいて、現実世界を表現するフレーム方向の関数F(t)に近似的に記述する、多項式からなる関数f(t)の係数を求めて、誤差演算部８２３に出力する。すなわち、現実世界を表現する関数f(t)は、以下の式（８９）のような１次元多項式で示される。
【１０８２】
【数６４】

・・・（８９）
【１０８３】
ここで、ｗｉは、多項式の係数であり、実世界推定部８２２は、この係数ｗｉを求めて、誤差演算部８２３に出力する。さらに、動き検出部８２１より入力される動きにより、定常性の動きを求めることができる（Ｖ_f＝tan^-1θｖ，Ｖ_f：動きベクトルのフレーム方向の傾き，θｖ：動きベクトルのフレーム方向の角度）ので、この傾きの拘束条件を代入することにより、上述の式（８９）の式は、以下の式（９０）で示されるように、２次元多項式で記述することができる。
【１０８４】
【数６５】

・・・（９０）
【１０８５】
すなわち、上述の式（９０）は、式（８９）で記述される１次元の近似関数f(t)が、空間方向Ｙに平行移動することにより生じるずれ幅を、シフト量αｔ（＝−ｄｙ／Ｖ_f：ｄｙは、空間方向Ｙへの変化量）で表現することにより得られる２次元の関数f(t,y)を記述している。
【１０８６】
したがって、実世界推定部８２２は、入力画像と、定常性の動きの情報を用いて、上述の式（９０）の各係数ｗｉを解いて、求められた係数ｗｉを誤差演算部８２３に出力する。
【１０８７】
ここで、図１７０のフローチャートの説明に戻る。
【１０８８】
ステップＳ８２４において、誤差演算部８２３は、実世界推定部８２２より入力された係数から、各画素についてフレーム方向に積分を実行する。すなわち、誤差演算部８２３は、実世界推定部８２２より入力された係数から、上述の式（９０）を、以下の式（９１）で示されるように、各画素について積分する。
【１０８９】
【数６６】

・・・（９１）
【１０９０】
ここで、Ｓ_tは、図１７１で示されるフレーム方向の積分結果を示す。また、その積分範囲は、図１７１で示すように、フレーム方向Ｔについては、Ｔ_m乃至Ｔ_m+Bであり、空間方向Ｙについては、ｙ_m乃至ｙ_m+Aである。また、図１７１においては、各マス目（正方形）は、１画素を示すものとし、フレーム方向Ｔ、および、空間方向Ｙのいずれも１であるものとする。ここで、フレーム方向Ｔについて１であるとは、１フレーム分のシャッタ時間を１とすることである。
【１０９１】
従って、誤差演算部８２３は、図１７２で示されるように、近似関数f(t，y)で示される曲面の空間方向ＴについてＴ_m乃至Ｔ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1（Ａ＝Ｂ＝１）で、以下の式（９２）で示されるような積分演算を各画素について実行し、実世界を近似的に表現する関数から得られる各画素の画素値Ｐ_tを演算する。
【１０９２】
【数６７】

・・・（９２）
【１０９３】
すなわち、この処理により、誤差演算部８２３は、言わば一種の画素値生成部として機能し、近似関数から画素値を生成する。
【１０９４】
ステップＳ８２５において、誤差演算部８２３は、上述の式（９２）で示したような積分により得られた画素値と、入力画像の画素値との差分を演算し、これを誤差として比較部８２４に出力する。すなわち、誤差演算部８２３は、上述の図１７１，図１７２で示した積分範囲（空間方向ＴについてＴ_m乃至Ｔ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1）に対応する画素の画素値と、画素に対応する範囲の積分結果により得られた画素値との差分を、誤差として求めて比較部８２４に出力する。
【１０９５】
ステップＳ８２６において、比較部８２４は、誤差演算部８２３より入力された積分により得られた画素値と入力画像の画素値との誤差の絶対値が、所定の閾値以下であるか否かを判定する。
【１０９６】
ステップＳ８２６において、誤差が所定の閾値以下であると判定された場合、ステップＳ８２７において、比較部８２４は、積分により得られた画素値が、入力画像の画素値と近い値が得られているので、その画素の画素値を演算するにあたり設定した近似関数が、実世界の光信号の光の強度分布と十分に近似されているとみなし、今処理した画素の領域は、処理領域として認識する。より詳細には、比較部８２４は、図示せぬメモリに今処理した画素が、以降の処理領域の画素であることを記憶させる。
【１０９７】
一方、ステップＳ８２６において、誤差が所定の閾値以下ではないと判定された場合、ステップＳ８２８において、比較部８２４は、積分により得られた画素値が、実際の画素値と離れた値となっているので、その画素の画素値を演算するにあたり設定した近似関数が、現実世界の光の強度分布と十分に近似していないとみなし、今処理した画素の領域は、後段において定常性情報に基づいた近似関数による処理を行わない非処理領域として認識する。より詳細には、比較部８２４は、図示せぬメモリに今処理した画素の領域が、以降の非処理領域であることを記憶させる。
【１０９８】
ステップＳ８２９において、比較部８２４は、全ての画素で処理が実行されたか否かを判定し、全ての画素で処理が実行されていないと判定された場合、その処理は、ステップＳ８２２に戻り、それ以降の処理が繰り返される。すなわち、全ての画素について、積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了するまで、ステップＳ８２２乃至Ｓ８２９の処理が繰り返される。
【１０９９】
ステップＳ８２９において、全ての画素について、再積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了したと判定された場合、ステップＳ８３０において、比較部８２４は、図示せぬメモリに記憶されている、入力画像について、後段の処理においてフレーム方向の定常性情報に基づいた処理がなされる処理領域と、フレーム方向の定常性情報に基づいた処理がなされない非処理領域が識別された領域情報を、定常性情報として出力する。
【１１００】
以上の処理によれば、定常性情報に基づいて演算された近似関数f(t)を用いた各画素に対応する範囲の積分結果により得られた画素値と、実際の入力画像中の画素値との誤差に基づいて、近似関数の表現の確からしさの評価が領域毎（画素毎に）にされることになり、誤差の小さい領域、すなわち、近似関数に基づいて積分により得られる画素値が確からしい画素の存在する領域のみを処理領域とし、それ以外の領域を非処理領域とすることになるので、確からしい領域にのみフレーム方向の定常性情報に基づいた処理を施すことができ、必要な処理だけを実行させるようにすることができるため、処理速度を向上させることができると共に、確からしい領域にのみ処理を実行させることができるので、この処理による画質劣化を抑制することが可能となる。
【１１０１】
図１６５および図１６９のデータ定常性情報検出部１０１の構成を組み合わせて、時空間方向のうち、いずれか１次元を選択して、選択的に領域情報を出力させるようにしてもよい。
【１１０２】
以上によれば、それぞれ時空間積分効果を有する、センサの複数の検出素子により現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる画像データにおけるデータの定常性を検出し、検出した定常性に対応して、画像データの時空間方向のうち少なくとも１次元方向の位置に対応する各画素の画素値が少なくとも１次元方向の積分効果により取得された画素値であるとして現実世界の光信号に対応する関数を近似することにより、現実世界の光信号に対応する関数を推定し、推定した関数を少なくとも１次元方向の各画素に対応する単位で積分することにより取得される画素値と、各画素の画素値との差分値を検出し、差分値に応じて関数を選択的に出力するようにしたので、近似関数に基づいて積分により得られる画素値が確からしい画素の存在する領域のみを処理領域とし、それ以外の領域を非処理領域とすることが可能となり、確からしい領域にのみフレーム方向の定常性情報に基づいた処理を施すことができ、必要な処理だけを実行させるようにすることができるため、処理速度を向上させることができると共に、確からしい領域にのみ処理を実行させることができるので、この処理による画質劣化を抑制することが可能となる。
【１１０３】
次に、実世界１の信号の推定について説明する。
【１１０４】
図１７３は、実世界推定部１０２の構成を示すブロック図である。
【１１０５】
図１７３に構成を示す実世界推定部１０２においては、入力画像、および定常性検出部１０１から供給されたデータ定常性情報を基に、実世界１の信号である画像における、細線の幅が検出され、細線のレベル（実世界１の信号の光の強度）が推定される。
【１１０６】
線幅検出部２１０１は、定常性検出部１０１から供給された、細線の画像が射影された画素からなる、細線領域である定常領域を示すデータ定常性情報を基に、細線の幅を検出する。線幅検出部２１０１は、データ定常性情報と共に、検出された細線の幅を示す細線幅情報を信号レベル推定部２１０２に供給する。
【１１０７】
信号レベル推定部２１０２は、入力画像、線幅検出部２１０１から供給された細線の幅を示す細線幅情報、およびデータ定常性情報を基に、実世界１の信号である、細線の画像のレベル、すなわち光の強度のレベルを推定し、細線の幅および細線の画像のレベルを示す実世界推定情報を出力する。
【１１０８】
図１７４および図１７５は、実世界１の信号における、細線の幅を検出する処理を説明する図である。
【１１０９】
図１７４および図１７５において、太線で囲む領域（４つの四角からなる領域）は、１つの画素を示し、点線で囲む領域は、細線の画像が射影された画素からなる、細線領域を示し、丸は、細線領域の重心を示す。図１７４および図１７５において、斜線は、センサ２に入射された細線の画像を示す。斜線は、センサ２に、実世界１の細線の画像が射影された領域を示しているとも言える。
【１１１０】
図１７４および図１７５において、Sは、細線領域の重心の位置から算出される傾きを示し、Dは、細線領域の重複である。ここで、傾きSは、細線領域が隣接しているので、画素を単位とした、重心と重心との距離である。また、細線領域の重複Dとは、２つの細線領域において、隣接している画素の数である。
【１１１１】
図１７４および図１７５において、Wは、細線の幅を示す。
【１１１２】
図１７４において、傾きSは、２であり、重複Dは、２である。
【１１１３】
図１７５において、傾きSは、３であり、重複Dは、１である。
【１１１４】
細線領域が隣接し、細線領域が隣接する方向の重心と重心の距離は、１画素であるので、W:D=1:Sが成立し、細線の幅Wは、重複D/傾きSで求めることができる。
【１１１５】
例えば、図１７４で示されるように、傾きSは、２であり、重複Dは、２であるとき、2/2は、1であるから、細線の幅Wは、1である。また、例えば、図１７５で示されるように、傾きSは、３であり、重複Dは、１であるとき、細線の幅Wは、1/3である。
【１１１６】
線幅検出部２１０１は、このように、細線領域の重心の位置から算出される傾き、および細線領域の重複から、細線の幅を検出する。
【１１１７】
図１７６は、実世界１の信号における、細線の信号のレベルを推定する処理を説明する図である。
【１１１８】
図１７６において、太線で囲む領域（４つの四角からなる領域）は、１つの画素を示し、点線で囲む領域は、細線の画像が射影された画素からなる、細線領域を示す。図１７６において、Eは、細線領域の画素を単位とした、細線領域の長さを示し、Dは、細線領域の重複（他の細線領域に隣接している画素の数）である。
【１１１９】
細線の信号のレベルは、処理単位（細線領域）内で一定であると近似し、細線が射影された画素の画素値に射影された、細線以外の画像のレベルは、隣接している画素の画素値に対するレベルに等しいと近似する。
【１１２０】
細線の信号のレベルをCとしたとき、細線領域に射影された信号（画像）における、図中の、細線の信号が射影された部分の左側の部分のレベルをAとし、図中の、細線の信号が射影された部分の右側の部分のレベルをBとする。
【１１２１】
このとき、式（９３）が成立する。
【１１２２】
細線領域の画素値の総和=（E-D）/2*A+(E-D)/2*B+D*C ・・・（９３）
【１１２３】
細線の幅が一定であり、細線領域の幅は、１画素なので、細線領域の細線（の信号が射影された部分）の面積は、細線領域の重複Dに等しい。細線領域の幅は、１画素なので、細線領域の画素を単位とした、細線領域の面積は、細線領域の長さEに等しい。
【１１２４】
細線領域のうち、細線の左側の面積は、(E-D)/2である。細線領域のうち、細線の右側の面積は、(E-D)/2である。
【１１２５】
式（９３）の右辺の第１項は、左側に隣接している画素に射影された信号のレベルと同じレベルの信号が射影された画素値の部分であり、式（９４）で表すことができる。
【１１２６】
【数６８】

・・・（９４）
【１１２７】
式（９４）において、A_iは、左側に隣接している画素の画素値を示す。
【１１２８】
式（９４）において、α_iは、左側に隣接している画素に射影された信号のレベルと同じレベルの信号が、細線領域の画素に射影される面積の割合を示す。すなわち、α_iは、細線領域の画素の画素値に含まれている、左側に隣接している画素の画素値と同じ画素値の割合を示す。
【１１２９】
iは、細線領域の左側に隣接している画素の位置を示す。
【１１３０】
例えば、図１７６において、細線領域の画素の画素値に含まれている、細線領域の左側に隣接している画素の画素値A₀と同じ画素値の割合は、α₀である。図１７６において、細線領域の画素の画素値に含まれている、細線領域の左側に隣接している画素の画素値A₁と同じ画素値の割合は、α₁である。図１７６において、細線領域の画素の画素値に含まれている、細線領域の左側に隣接している画素の画素値A₂と同じ画素値の割合は、α₂である。
【１１３１】
式（９３）の右辺の第２項は、右側に隣接している画素に射影された信号のレベルと同じレベルの信号が射影された画素値の部分であり、式（９５）で表すことができる。
【１１３２】
【数６９】

・・・（９５）
【１１３３】
式（９５）において、B_jは、右側に隣接している画素の画素値を示す。
【１１３４】
式（９５）において、β_jは、右側に隣接している画素に射影された信号のレベルと同じレベルの信号が、細線領域の画素に射影される面積の割合を示す。すなわち、β_jは、細線領域の画素の画素値に含まれている、右側に隣接している画素の画素値と同じ画素値の割合を示す。
【１１３５】
jは、細線領域の右側に隣接している画素の位置を示す。
【１１３６】
例えば、図１７６において、細線領域の画素の画素値に含まれている、細線領域の右側に隣接している画素の画素値B₀と同じ画素値の割合は、β₀である。図１７６において、細線領域の画素の画素値に含まれている、細線領域の右側に隣接している画素の画素値B₁と同じ画素値の割合は、β₁である。図１７６において、細線領域の画素の画素値に含まれている、細線領域の右側に隣接している画素の画素値B₂と同じ画素値の割合は、β₂である。
【１１３７】
このように、信号レベル推定部２１０２は、式（９４）および式（９５）を基に、細線領域に含まれる画素値のうちの、細線以外の画像の画素値を算出し、式（９３）を基に、細線領域の画素値から細線以外の画像の画素値を除去することにより、細線領域に含まれる画素値のうちの、細線のみの画像の画素値を求める。そして、信号レベル推定部２１０２は、細線のみの画像の画素値と細線の面積とから、細線の信号のレベルを求める。より具体的には、信号レベル推定部２１０２は、細線領域に含まれる画素値のうちの、細線のみの画像の画素値を、細線領域の細線の面積、すなわち細線領域の重複Dで割り算することにより、細線の信号のレベルを算出する。
【１１３８】
信号レベル推定部２１０２は、実世界１の信号における、細線の幅、および細線の信号のレベルを示す実世界推定情報を出力する。
【１１３９】
本発明の手法では、細線の波形を画素ではなく幾何学的に記述しているので、どのような解像度でも使用することができる。
【１１４０】
次に、ステップＳ１０２の処理に対応する、実世界の推定の処理を図１７７のフローチャートを参照して説明する。
【１１４１】
ステップＳ２１０１において、線幅検出部２１０１は、データ定常性情報を基に、細線の幅を検出する。例えば、線幅検出部２１０１は、細線領域の重心の位置から算出される傾き、および細線領域の重複から、重複を傾きで割り算することにより、実世界１の信号における、細線の幅を推定する。
【１１４２】
ステップＳ２１０２において、信号レベル推定部２１０２は、細線の幅、および細線領域に隣接する画素の画素値を基に、細線の信号のレベルを推定し、推定された細線の幅および細線の信号のレベルを示す実世界推定情報を出力して、処理は終了する。例えば、信号レベル推定部２１０２は、細線領域に含まれる細線以外の画像が射影された画素値を算出し、細線領域から細線以外の画像が射影された画素値を除去することにより、細線のみの画像が射影された画素値を求めて、求められた細線のみの画像が射影された画素値と細線の面積とから、細線の信号のレベルを算出することにより、実世界１の信号における、細線のレベルを推定する。
【１１４３】
このように、実世界推定部１０２は、実世界１の信号の細線の幅およびレベルを推定することができる。
【１１４４】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した第１の画像データの、データの定常性を検出し、データの定常性に対応する現実世界の光信号の波形を表すモデルに基いて、第１の画像データの定常性から現実世界の光信号の波形を推定し、推定された光信号を第２の画像データに変換するようにした場合、現実世界の光信号に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【１１４５】
図１７８は、実世界推定部１０２の他の構成を示すブロック図である。
【１１４６】
図１７８に構成を示す実世界推定部１０２においては、入力画像、およびデータ定常性検出部１０１から供給されたデータ定常性情報を基に、領域が再度検出され、再度検出された領域を基に、実世界１の信号である画像における、細線の幅が検出され、実世界１の信号の光の強度（レベル）が推定される。例えば、図１７８に構成を示す実世界推定部１０２においては、細線の画像が射影された画素からなる定常性領域が再度検出され、再度検出された領域を基に、実世界１の信号である画像における、細線の幅が検出され、実世界１の信号の光の強度が推定される。
【１１４７】
データ定常性検出部１０１から供給され、図１７８に構成を示す実世界推定部１０２に入力されるデータ定常性情報には、データ３である入力画像のうちの、細線の画像が射影された定常成分以外の非定常成分を示す非定常成分情報、定常領域の中の単調増減領域を示す単調増減領域情報、および定常領域を示す情報などが含まれている。例えば、データ定常性情報に含まれる非定常成分情報は、入力画像における背景などの非定常成分を近似する平面の傾きおよび切片からなる。
【１１４８】
実世界推定部１０２に入力されたデータ定常性情報は、境界検出部２１２１に供給される。実世界推定部１０２に入力された入力画像は、境界検出部２１２１および信号レベル推定部２１０２に供給される。
【１１４９】
境界検出部２１２１は、データ定常性情報に含まれる非定常成分情報、および入力画像から、細線の画像が射影された定常成分のみからなる画像を生成し、定常成分のみからなる画像を基に、画素に射影された、実世界１の信号である細線の画像が射影された割合を示す分配比を算出し、算出された分配比から細線領域の境界を示す回帰直線を算出することにより、定常領域である細線領域を再び検出する。
【１１５０】
図１７９は、境界検出部２１２１の構成を示すブロック図である。
【１１５１】
分配比算出部２１３１は、データ定常性情報、データ定常性情報に含まれる非定常成分情報、および入力画像から、細線の画像が射影された定常成分のみからなる画像を生成する。より具体的には、分配比算出部２１３１は、データ定常性情報に含まれる単調増減領域情報を基に、入力画像から、定常領域の中の隣り合う単調増減領域を検出し、検出された単調増減領域に属する画素の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、細線の画像が射影された定常成分のみからなる画像を生成する。
【１１５２】
なお、分配比算出部２１３１は、入力画像の画素の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、細線の画像が射影された定常成分のみからなる画像を生成するようにしてもよい。
【１１５３】
分配比算出部２１３１は、生成された定常成分のみからなる画像を基に、実世界１の信号である細線の画像が、定常領域の中の隣り合う単調増減領域に属する２つの画素に分配された割合を示す分配比を算出する。分配比算出部２１３１は、算出した分配比を回帰直線算出部２１３２に供給する。
【１１５４】
図１８０乃至図１８２を参照して、分配比算出部２１３１における、分配比の算出の処理を説明する。
【１１５５】
図１８０の左側の２列の数値は、入力画像の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、算出された画像のうち、縦に２列の画素の画素値を示す。図１８０の左側の四角で囲む２つの領域は、隣り合う２つの単調増減領域である、単調増減領域２１４１−１および単調増減領域２１４１−２を示す。すなわち、単調増減領域２１４１−１および単調増減領域２１４１−２に示す数値は、データ定常性検出部１０１において検出された定常性領域である単調増減領域に属する画素の画素値を示す。
【１１５６】
図１８０の右側の１列の数値は、図１８０の左側の２列の画素の画素値のうち、横に並ぶ画素の画素値を加算した値を示す。すなわち、図１８０の右側の１列の数値は、縦に１列の画素からなる単調増減領域であって、２つの隣接するものについて、横に隣接する画素毎に、細線の画像が射影された画素値を加算した値を示す。
【１１５７】
例えば、それぞれ、縦に１列の画素からなり、隣接する単調増減領域２１４１−１および単調増減領域２１４１−２のいずれかに属し、横に隣接する画素の画素値が、２および５８であるとき、加算した値は、６０である。それぞれ、縦に１列の画素からなり、隣接する単調増減領域２１４１−１および単調増減領域２１４１−２のいずれかに属し、横に隣接する画素の画素値が、１および６５であるとき、加算した値は、６６である。
【１１５８】
図１８０の右側の１列の数値、すなわち、縦に１列の画素からなり、２つの隣接する単調増減領域の横方向に隣接する画素について、細線の画像が射影された画素値を加算した値は、ほぼ一定となることがわかる。
【１１５９】
同様に、横に１列の画素からなり、２つの隣接する単調増減領域の縦方向に隣接する画素について、細線の画像が射影された画素値を加算した値は、ほぼ一定となる。
【１１６０】
分配比算出部２１３１は、２つの隣接する単調増減領域の隣接する画素について、細線の画像が射影された画素値を加算した値が、ほぼ一定となる性質を利用して、細線の画像が１列の画素の画素値にどのように分配されているかを算出する。
【１１６１】
分配比算出部２１３１は、図１８１に示すように、縦に１列の画素からなる単調増減領域であって、２つの隣接するものに属する画素の画素値を、横に隣接する画素毎に、細線の画像が射影された画素値を加算した値で割り算することにより、２つの隣接する単調増減領域に属する各画素について、分配比を算出する。ただし、算出された結果、１００を超える分配比には、１００が設定される。
【１１６２】
例えば、図１８１に示すように、縦に１列の画素からなる単調増減領域であって、２つの隣接するものに属する、横に隣接する画素の画素値が、それぞれ２および５８であるとき、加算した値が６０なので、それぞれの画素に対して、３．５および９５．０である分配比が算出される。縦に１列の画素からなる単調増減領域であって、２つの隣接するものに属する、横に隣接する画素の画素値が、それぞれ１および６５であるとき、加算した値が６６なので、それぞれの画素に対して、１．５および９８．５である分配比が算出される。
【１１６３】
この場合において、３つの単調増減領域が隣接する場合、どちらの列から計算するかは、図１８２で示されるように、横に隣接する画素毎に、細線の画像が射影された画素値を加算した、２つの値のうち、頂点Ｐの画素値により近い値を基に、分配比が算出される。
【１１６４】
例えば、頂点Ｐの画素値が８１であり、注目している単調増減領域に属する画素の画素値が７９であるとき、左側に隣接する画素の画素値が３であり、右側に隣接する画素の画素値が−１である場合、左側に隣接する画素の画素値を加算した値が、８２であり、右側に隣接する画素の画素値を加算した値が、７８なので、頂点Ｐの画素値８１により近い、８２が選択され、左側に隣接する画素を基に、分配比が算出される。同様に、頂点Ｐの画素値が８１であり、注目している単調増減領域に属する画素の画素値が７５であるとき、左側に隣接する画素の画素値が０であり、右側に隣接する画素の画素値が３である場合、左側に隣接する画素の画素値を加算した値が、７５であり、右側に隣接する画素の画素値を加算した値が、７８なので、頂点Ｐの画素値８１により近い、７８が選択され、右側に隣接する画素を基に、分配比が算出される。
【１１６５】
このように、分配比算出部２１３１は、縦に１列の画素からなる単調増減領域について、分配比を算出する。
【１１６６】
分配比算出部２１３１は、同様の処理で、横に１列の画素からなる単調増減領域について、分配比を算出する。
【１１６７】
回帰直線算出部２１３２は、単調増減領域の境界が直線であると仮定して、分配比算出部２１３１において算出された分配比を基に、単調増減領域の境界を示す回帰直線を算出することにより、定常領域の中の単調増減領域を再び検出する。
【１１６８】
図１８３および図１８４を参照して、回帰直線算出部２１３２における、単調増減領域の境界を示す回帰直線の算出の処理を説明する。
【１１６９】
図１８３において、白丸は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界に位置する画素を示す。回帰直線算出部２１３２は、回帰の処理により、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界について回帰直線を算出する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界に位置する画素との距離の自乗の和が最小となる直線Ａを算出する。
【１１７０】
また、図１８３において、黒丸は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界に位置する画素を示す。回帰直線算出部２１３２は、回帰の処理により、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界について回帰直線を算出する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界に位置する画素との距離の自乗の和が最小となる直線Ｂを算出する。
【１１７１】
回帰直線算出部２１３２は、算出された回帰直線を基に、単調増減領域の境界を決定することにより、定常領域の中の単調増減領域を再び検出する。
【１１７２】
図１８４に示すように、回帰直線算出部２１３２は、算出された直線Ａを基に、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ａに最も近い画素から上側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ａに最も近い画素が領域に含まれるように上側の境界を決定する。
【１１７３】
図１８４に示すように、回帰直線算出部２１３２は、算出された直線Ｂを基に、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ｂに最も近い画素から下側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ｂに最も近い画素が領域に含まれるように下側の境界を決定する。
【１１７４】
このように、回帰直線算出部２１３２は、データ定常性検出部１０１により検出された定常領域の境界を回帰する回帰線に基づいて、頂点から単調に画素値が増加または減少している領域を再び検出する。すなわち、回帰直線算出部２１３２は、算出された回帰直線を基に、単調増減領域の境界を決定することにより、定常領域の中の単調増減領域である領域を再び検出し、検出した領域を示す領域情報を線幅検出部２１０１に供給する。
【１１７５】
以上のように、境界検出部２１２１は、画素に射影された、実世界１の信号である細線の画像が射影された割合を示す分配比を算出し、算出された分配比から単調増減領域の境界を示す回帰直線を算出することにより、定常領域の中の単調増減領域を再び検出する。このようにすることで、より正確な単調増減領域を検出することができる。
【１１７６】
図１７８に示す線幅検出部２１０１は、境界検出部２１２１から供給された、再度検出された領域を示す領域情報を基に、図１７３に示す場合と同様の処理で、細線の幅を検出する。線幅検出部２１０１は、データ定常性情報と共に、検出された細線の幅を示す細線幅情報を信号レベル推定部２１０２に供給する。
【１１７７】
図１７８に示す信号レベル推定部２１０２の処理は、図１７３に示す場合と同様の処理なので、その説明は省略する。
【１１７８】
図１８５は、ステップＳ１０２の処理に対応する、図１７８に構成を示す実世界推定部１０２による、実世界の推定の処理を説明するフローチャートである。
【１１７９】
ステップＳ２１２１において、境界検出部２１２１は、データ定常性検出部１０１により検出された定常領域に属する画素の画素値に基づいて、再び領域を検出する、境界検出の処理を実行する。境界検出の処理の詳細は、後述する。
【１１８０】
ステップＳ２１２２およびステップＳ２１２３の処理は、ステップＳ２１０１およびステップＳ２１０２の処理と同様なので、その説明は省略する。
【１１８１】
図１８６は、ステップＳ２１２１の処理に対応する、境界検出の処理を説明するフローチャートである。
【１１８２】
ステップＳ２１３１において、分配比算出部２１３１は、単調増減領域を示すデータ定常性情報および入力画像を基に、細線の画像が射影された割合を示す分配比を算出する。例えば、分配比算出部２１３１は、データ定常性情報に含まれる単調増減領域情報を基に、入力画像から、定常領域の中の隣り合う単調増減領域を検出し、検出された単調増減領域に属する画素の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、細線の画像が射影された定常成分のみからなる画像を生成する。そして、分配比算出部２１３１は、１列の画素からなる単調増減領域であって、２つの隣接するものに属する画素の画素値を、隣接する画素の画素値の和で割り算することにより、２つの隣接する単調増減領域に属する各画素について、分配比を算出する。
【１１８３】
分配比算出部２１３１は、算出された分配比を回帰直線算出部２１３２に供給する。
【１１８４】
ステップＳ２１３２において、回帰直線算出部２１３２は、細線の画像が射影された割合を示す分配比を基に、単調増減領域の境界を示す回帰直線を算出することにより、定常領域の中の領域を再び検出する。例えば、回帰直線算出部２１３２は、単調増減領域の境界が直線であると仮定して、単調増減領域の一端の境界を示す回帰直線を算出し、単調増減領域の他の一端の境界を示す回帰直線を算出することにより、定常領域の中の単調増減領域を再び検出する。
【１１８５】
回帰直線算出部２１３２は、再び検出された、定常領域の中の領域を示す領域情報を線幅検出部２１０１に供給して、処理は終了する。
【１１８６】
このように、図１７８に構成を示す実世界推定部１０２は、細線の画像が射影された画素からなる領域を再度検出し、再度検出された領域を基に、実世界１の信号である画像における、細線の幅を検出し、実世界１の信号の光の強度（レベル）を推定する。このようにすることで、実世界１の信号に対して、より正確に、細線の幅を検出し、より正確に、光の強度を推定することができる。
【１１８７】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した第１の画像データにおける、複数の画素の画素値の不連続部を検出し、検出された不連続部から、データの定常性を有する定常領域を検出し、検出された定常領域に属する画素の画素値に基づいて、再び領域を検出し、再び検出された領域に基づいて実世界を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【１１８８】
次に、図１８７を参照して、定常性を有する領域における、画素毎の空間方向の近似関数の微分値を実世界推定情報として出力する実世界推定部１０２について説明する。
【１１８９】
参照画素抽出部２２０１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の角度、または、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から実世界の近似関数を求めるために必要な参照画素の情報（演算に必要な注目画素周辺の複数の画素の位置、および、画素値の情報）を抽出して、近似関数推定部２２０２に出力する。
【１１９０】
近似関数推定部２２０２は、参照画素抽出部２２０１より入力された参照画素の情報に基づいて注目画素周辺の現実世界を近似的に記述する近似関数を最小自乗法に基づいて推定し、推定した近似関数を微分処理部２２０３に出力する。
【１１９１】
微分処理部２２０３は、近似関数推定部２２０２より入力された近似関数に基づいて、データ定常性情報の角度（例えば、細線や２値エッジの所定の軸に対する角度：傾き）に応じて、注目画素から生成しようとする画素の位置のシフト量を求め、そのシフト量に応じた近似関数上の位置における微分値（定常性に対応する線からの１次元方向に沿った距離に対応する各画素の画素値を近似する関数の微分値）を演算し、さらに、注目画素の位置、画素値、および、定常性の傾きの情報を付加して、これを実世界推定情報として画像生成部１０３に出力する。
【１１９２】
次に、図１８８のフローチャートを参照して、図１８７の実世界推定部１０２による実世界推定の処理について説明する。
【１１９３】
ステップＳ２２０１において、参照画素抽出部２２０１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての角度、および、領域の情報を取得する。
【１１９４】
ステップＳ２２０２において、参照画素抽出部２２０１は、入力画像の未処理画素から注目画素を設定する。
【１１９５】
ステップＳ２２０３において、参照画像抽出部２２０１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２１０に進み、その注目画素については、処理領域外であることを近似関数推定部２２０２を介して、微分処理部２２０３に伝え、これに応じて、微分処理部２２０３が、対応する注目画素についての微分値を０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２１１に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２０４に進む。
【１１９６】
ステップＳ２２０４において、参照画素抽出部２２０１は、データ定常性情報に含まれる角度の情報から、データ定常性の有する方向が、水平方向に近い角度か、または、垂直に近い角度であるか否かを判定する。すなわち、参照画素抽出部２２０１は、データ定常性の有する角度θが、0度≦θ＜45度、または、135度≦θ＜180度となる場合、注目画素の定常性の方向は、水平方向に近いと判定し、データ定常性の有する角度θが、45度≦θ＜135度となる場合、注目画素の定常性の方向は、垂直方向に近いと判定する。
【１１９７】
ステップＳ２２０５において、参照画素抽出部２２０１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、近似関数推定部２２０２に出力する。すなわち、参照画素は、後述する近似関数を演算する際に使用されるデータとなるので、傾きに応じて抽出されることが望ましい。従って、水平方向、または、垂直方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、図１８９で示されるように、傾きＧ_fが垂直方向に近いと、垂直方向であると判定され、この場合、参照画素抽出部２２０１は、例えば、図１８９で示されるように、図１８９中の中央の画素（０，０）を注目画素とするとき、画素（−１，２），（−１，１），（−１，０），（−１，−１），（−１，−２），（０，２），（０，１），（０，０），（０，−１），（０，−２），（１，２），（１，１），（１，０），（１，−１），（１，−２）のそれぞれの画素値を抽出する。尚、図１８９においては、各画素の水平方向、および、垂直方向の大きさが１であるものとする。
【１１９８】
すなわち、参照画素抽出部２２０１は、注目画素を中心として垂直（上下）方向にそれぞれ２画素×水平（左右）方向にそれぞれ１画素の合計１５画素となるように、垂直方向に長い範囲の画素を参照画素として抽出する。
【１１９９】
逆に、水平方向であると判定された場合、注目画素を中心として垂直（上下）方向にそれぞれ１画素×水平（左右）方向にそれぞれ２画素の合計１５画素となるように、水平方向に長い範囲の画素を参照画素として抽出して、近似関数推定部２２０２に出力する。もちろん、参照画素は、上述のように１５画素に限定されるものではなく、それ以外の個数であってもよい。
【１２００】
ステップＳ２２０６において、近似関数推定部２２０２は、参照画素抽出部２２０１より入力された参照画素の情報に基づいて、最小自乗法により近似関数f(x)を推定し、微分処理部２２０３に出力する。
【１２０１】
すなわち、近似関数f(x)は、以下の式（９６）で示されるような多項式である。
【１２０２】
【数７０】

・・・（９６）
【１２０３】
このように、式（９６）の多項式の各係数W₁乃至W_n+1が求められれば、実世界を近似する近似関数f(x)が求められることになる。しかしながら、係数の数よりも多くの参照画素値が必要となるので、例えば、参照画素が、図１８９で示されるような場合、合計１５画素であるので、多項式の係数は、１５個までしか求められない。そこで、この場合、多項式は、１４次までの多項式とし、係数W₁乃至W₁₅を求めることにより近似関数を推定するものとする。尚、今の場合、１５次の多項式からなる近似関数f(x)を設定して、連立方程式としてもよい。
【１２０４】
従って、図１８９で示される１５個の参照画素値を用いるとき、近似関数推定部２２０２は、以下の式（９７）を、最小自乗法を用いて解くことにより推定する。
【１２０５】

【１２０６】
尚、多項式の次数にあわせて、参照画素の数を変えるようにしてもよい。
【１２０７】
ここで、Cx(ty)は、シフト量であり、定常性の傾きがＧ_fで示されるとき、Cx(ty)＝ty／Ｇ_fで定義される。このシフト量Cx(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(x)が、傾きＧ_fに沿って、連続している（定常性を有している）ことを前提としたとき、空間方向Ｙ=tyの位置における、空間方向Ｘに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(x)として定義されている場合、この近似関数f(x)は、空間方向Ｙ=tyにおいては、傾きＧ_fに沿って空間方向ＸについてCx(ty)だけずれているはずなので、関数は、f(x−Cx(ty))（＝f(x−ty／Ｇ_f)）で定義されることになる。
【１２０８】
ステップＳ２２０７において、微分処理部２２０３は、近似関数推定部２２０２より入力された近似関数f(x)に基づいて、生成しようとする画素の位置における、シフト量を求める。
【１２０９】
すなわち、水平方向、および、垂直方向にそれぞれ２倍の密度（合計４倍の密度）となるように画素を生成する場合、微分処理部２２０３は、例えば、まず、垂直方向に２倍の密度となる画素Pa，Pbに２分割するために、図１９０で示されるように、注目画素の中心位置がPin（Xin，Yin）での微分値を求めるため、中心位置のPin（Xin，Yin）のシフト量を求める。このシフト量は、Cx(0)となるため、実質的には０となる。尚、図１９０中において、画素Pinは、（Xin，Yin）を略重心位置とする正方形であり、画素Pa，Pbは、（Xin，Yin+0.25）、（Xin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。
【１２１０】
ステップＳ２２０８において、微分処理部２２０３は、近似関数f(x)を微分して、近似関数の１次微分関数f(x)'を求め、求められたシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。すなわち、今の場合、微分処理部２２０３は、微分値f(Xin)'を求め、その位置（今の場合、注目画素（Xin，Yin））と、その画素値、および、定常性の方向の傾きの情報とを付加して出力する。
【１２１１】
ステップＳ２２０９において、微分処理部２２０３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、２倍の密度となるための微分値のみしか求められていない（空間方向Ｙ方向について２倍の密度となるための微分値のみしか求められていない）ので、求められている密度の画素を生成するのに必要なだけの微分値が求められていないと判定し、その処理は、ステップＳ２２０７に戻る。
【１２１２】
ステップＳ２２０７において、微分処理部２２０３は、再度、近似関数推定部２２０２より入力された近似関数f(x)に基づいて、生成しようとする画素の位置における、シフト量を求める。すなわち、微分処理部２２０３は、今の場合、２分割された画素Pa，Pbのそれぞれを２分割するために必要な微分値をそれぞれ求める。画素Pa，Pbの画素の位置は、図１９０における黒丸で示すそれぞれの位置であるので、微分処理部２２０３は、それぞれの位置に対応するシフト量を求める。画素Pa，Pbのシフト量は、それぞれCx（0.25），Cx(−0.25)となる。
【１２１３】
ステップＳ２２０８において、微分処理部２２０３は、近似関数f(x)を１次微分して、画素Pa，Pbのそれぞれに対応したシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。
【１２１４】
すなわち、図１８９で示した参照画素を使用する場合、微分処理部２２０３は、図１９１で示すように、求められた近似関数f(x)について微分関数f(x)'を求め、空間方向Ｘについて、シフト量Cx（0.25），Cx(−0.25)だけずれた位置となる（Xin−Cx（0.25））と（Xin−Cx（−0.25））の位置での微分値をそれぞれf（Xin−Cx（0.25））'，f（Xin−Cx（−0.25））'として求め、その微分値に対応する位置情報を付加して、これを実世界推定情報として出力する。尚、最初の処理で画素値の情報が出力されているので画素値の情報は付加されない。
【１２１５】
ステップＳ２２０９において、再び、微分処理部２２０３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、４倍の密度となるための微分値が求められたことになるので、求められている密度の画素を生成するのに必要なだけの微分値が求められたと判定し、その処理は、ステップＳ２２１１に進む。
【１２１６】
ステップＳ２２１１において、参照画素抽出部２２０１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２０２に戻る。また、ステップＳ２２１１において、全ての画素を処理したと判定した場合、その処理は、終了する。
【１２１７】
上述のように、入力画像について、水平方向、および、垂直方向に４倍の密度となるように画素を生成する場合、画素は、分割される画素の中央の位置の近似関数の微分値を用いて、外挿補間により分割されるので、４倍密度の画素を生成するには、合計３個の微分値の情報が必要となる。
【１２１８】
すなわち、図１９０で示されるように、1画素について最終的には、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４の４画素（図１９０において、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、それぞれ略０．５となる）の生成に必要な微分値が必要となるので、４倍密度の画素を生成するには、まず、水平方向、または、垂直方向（今の場合、垂直方向）に２倍密度の画素を生成し（上述の最初のステップＳ２２０７，Ｓ２２０８の処理）、さらに、分割された２画素を、それぞれ最初に分割した方向と垂直の方向（今の場合、水平方向）に分割する（上述の２回目のステップＳ２２０７，Ｓ２２０８の処理）ためである。
【１２１９】
尚、以上の例においては、４倍密度の画素を演算する際の微分値を例として説明してきたが、それ以上の密度の画素を演算する場合、ステップＳ２２０７乃至Ｓ２２０９の処理を繰り返すことにより、画素値の演算に必要なさらに多くの微分値を求めるようにしてもよい。また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(x)は連続関数であるので、倍密度以外の画素値についても必要な微分値を求めることが可能となる。
【１２２０】
以上によれば、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現する近似関数を求め、空間方向の画素の生成必要な位置の微分値を実世界推定情報として出力することが可能となる。
【１２２１】
以上の図１８７において説明した実世界推定部１０２においては、画像を生成するのに必要な微分値を実世界推定情報として出力していたが、微分値とは、必要な位置での近似関数f(x)の傾きと同値のものである。
【１２２２】
そこで、次は、図１９２を参照して、近似関数f(x)を求めることなく、画素生成に必要な近似関数f(x)上の傾きのみを直接求めて、実世界推定情報として出力する実世界推定部１０２について説明する。
【１２２３】
参照画素抽出部２２１１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の角度、または、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から傾きを求めるために必要な参照画素の情報（演算に必要な注目画素を含む垂直方向に並ぶ周辺の複数の画素、または、注目画素を含む水平方向に並ぶ周辺の複数の画素の位置、および、それぞれの画素値の情報）を抽出して、傾き推定部２２１２に出力する。
【１２２４】
傾き推定部２２１２は、参照画素抽出部２２１１より入力された参照画素の情報に基づいて、画素生成に必要な画素位置の傾きの情報を生成して、実世界推定情報として画像生成部１０３に出力する。より詳細には、傾き推定部２２１２は、画素間の画素値の差分情報を用いて、実世界を近似的に表現する近似関数f(x)上の注目画素の位置における傾きを求め、これに、注目画素の位置情報、画素値、および、定常性の方向の傾きの情報を実世界推定情報として出力する。
【１２２５】
次に、図１９３のフローチャートを参照して、図１９２の実世界推定部１０２による実世界推定の処理について説明する。
【１２２６】
ステップＳ２２２１において、参照画素抽出部２２１１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての角度、および、領域の情報を取得する。
【１２２７】
ステップＳ２２２２において、参照画素抽出部２２１１は、入力画像の未処理画素から注目画素を設定する。
【１２２８】
ステップＳ２２２３において、参照画像抽出部２２１１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２２８に進み、その注目画素については、処理領域外であることを傾き推定部２２１２に伝え、これに応じて、傾き推定部２２１２が、対応する注目画素についての傾きを０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２２９に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２２４に進む。
【１２２９】
ステップＳ２２２４において、参照画素抽出部２２１１は、データ定常性情報に含まれる角度の情報から、データ定常性の有する方向が、水平方向に近い角度か、または、垂直に近い角度であるか否かを判定する。すなわち、参照画素抽出部２２１１は、データ定常性の有する角度θが、0度≦θ＜45度、または、135度≦θ＜180度となる場合、注目画素の定常性の方向は、水平方向に近いと判定し、データ定常性の有する角度θが、45度≦θ＜135度となる場合、注目画素の定常性の方向は、垂直方向に近いと判定する。
【１２３０】
ステップＳ２２２５において、参照画素抽出部２２１１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、傾き推定部２２１２に出力する。すなわち、参照画素は、後述する傾きを演算する際に使用されるデータとなるので、定常性の方向を示す傾きに応じて抽出されることが望ましい。従って、水平方向、または、垂直方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、傾きが垂直方向に近いと判定された場合、参照画素抽出部２２１１は、図１９４で示されるように、図１９４中の中央の画素（０，０）を注目画素とするとき、画素（０，２），（０，１），（０，０），（０，−１），（０，−２）のそれぞれの画素値を抽出する。尚、図１９４においては、各画素の大きさが水平方向、および、垂直方向についてそれぞれ１であるものとする。
【１２３１】
すなわち、参照画素抽出部２２１１は、注目画素を中心として垂直（上下）方向にそれぞれ２画素の合計５画素となるように、垂直方向に長い範囲の画素を参照画素として抽出する。
【１２３２】
逆に、水平方向であると判定された場合、注目画素を中心として水平（左右）方向に２画素の合計５画素となるように、水平方向に長い範囲の画素を参照画素として抽出して、傾き推定部２２１２に出力する。もちろん、参照画素は、上述のように５画素に限定されるものではなく、それ以外の個数であってもよい。
【１２３３】
ステップＳ２２２６において、傾き推定部２２１２は、参照画素抽出部２２１１より入力された参照画素の情報と、定常性方向の傾きＧ_fに基づいて、それぞれの画素値のシフト量を演算する。すなわち、空間方向Ｙ=0に対応する近似関数f(x)を基準とした場合、空間方向Ｙ＝−２，−１，１，２に対応する近似関数は、図１９４で示されるように、定常性の傾きＧ_fに沿って連続していることになるので、各近似関数は、f(x−Cx(2))，f(x−Cx(1))，f(x−Cx(−1))，f(x−Cx(−2))のように記述され、空間方向Ｙ＝−２，−１，１，２毎に、各シフト量分だけ空間方向Ｘにずれた関数として表現される。
【１２３４】
そこで、傾き推定部２２１２は、これらのシフト量Cx（−２）乃至Cx（２）を求める。例えば、参照画素が、図１９４で示されるように抽出された場合、そのシフト量は、図中の参照画素（０，２）は、Cx(２)＝２／Ｇ_fとなり、参照画素（０，１）は、Cx(１)＝１／Ｇ_fとなり、参照画素（０，０）は、Cx(０)＝０となり、参照画素（０，−１）は、Cx(−１)＝−１／Ｇ_fとなり、参照画素（０，−２）は、Cx(−２)＝−２／Ｇ_fとなる。
【１２３５】
ステップＳ２２２７において、傾き推定部２２１２は、注目画素の位置における近似関数f(x)上の傾きを演算する（推定する）。例えば、図１９４で示されるように、注目画素について定常性の方向が、垂直方向に近い角度の場合、水平方向に隣接する画素間では画素値が大きく異なるので、垂直方向の画素間では、画素間の変化が小さく、変化が類似していることから、傾き推定部２２１２は、垂直方向の画素間の変化をシフト量による空間方向Ｘの変化と捕らえることにより、垂直方向の画素間の差分を水平方向の画素間の差分に置き換えて、注目画素の位置における近似関数f(x)上での傾きを求める。
【１２３６】
すなわち、現実世界を近似的に記述する近似関数f(x)が存在すると仮定すると、上述のシフト量と各参照画素の画素値との関係は、図１９５で示されるようなものとなる。ここで、図１９４の各画素の画素値は、上からP（０，２），P（０，１），P（０，０），P（０，−１），P（０，−２）で表される。結果として、注目画素（０，０）近傍の画素値Pとシフト量Cxは、（Ｐ，Ｃｘ）＝（Ｐ（０，２），−Cx（２）），（Ｐ（０，１），−Cx（１）），（Ｐ（０，−１），−Cx（−１）），（Ｐ（０，−２），−Cx（−２）），（Ｐ（０，０），０）の５組の関係が得られることになる。
【１２３７】
ところで、画素値Ｐ、シフト量Ｃx、および、傾きＫｘ（近似関数f(x)上の傾き）は、以下のような式（９８）のような関係が成立することになる。
【１２３８】

【１２３９】
上述の式（９８）は、変数Ｋｘについての１変数の関数であるので、傾き推定部２２１２は、この変数Ｋｘ（傾き）について、１変数の最小自乗法により傾きＫｘを求める。
【１２４０】
すなわち、傾き推定部２２１２は、以下に示すような式（９９）のような正規方程式を解くことにより、注目画素の傾きを求め、注目画素の画素値、および、定常性の方向の傾きの情報を付加して、実世界推定情報として画像生成部１０３に出力する。
【１２４１】
【数７１】

・・・（９９）
【１２４２】
ここで、ｉは、上述の参照画素の画素値Ｐとシフト量Ｃの組をそれぞれ識別する番号であり、１乃至ｍである。また、ｍは、注目画素を含む参照画素の個数となる。
【１２４３】
ステップＳ２２２９において、参照画素抽出部２２１１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２２２に戻る。また、ステップＳ２２２９において、全ての画素が処理されたと判定された場合、その処理は、終了する。
【１２４４】
尚、上述の処理により実世界推定情報として出力される傾きは、最終的に求めようとする画素値を外挿補間して演算する際に使用される。また、以上の例においては、２倍密度の画素を演算する際の傾きを例として説明してきたが、それ以上の密度の画素を演算する場合、画素値の演算に必要な、さらに多くの位置での傾きを求めるようにしてもよい。
【１２４５】
例えば、図１９０で示されるように、水平方向に２倍の密度で、かつ、垂直方向に２倍の密度の空間方向に合計４倍の密度の画素を生成する場合、上述したように、図１９０中のPin，Pa，Pbのそれぞれの位置に対応する近似関数f(x)の傾きＫｘを求めるようにすればよい。
【１２４６】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(x)は連続関数であるので、倍密度以外の位置の画素の画素値についても必要な傾きを求めることが可能となる。
【１２４７】
以上によれば、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現する近似関数を求めることなく、空間方向の画素の生成必要な位置の近似関数上の傾きを実世界推定情報として生成し、さらに出力することが可能となる。
【１２４８】
次に、図１９６を参照して、定常性を有する領域における、画素毎のフレーム方向（時間方向）の近似関数上の微分値を実世界推定情報として出力する実世界推定部１０２について説明する。
【１２４９】
参照画素抽出部２２３１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の動き（動きベクトル）、および、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から実世界の近似関数を求めるために必要な参照画素の情報（演算に必要な注目画素周辺の複数の画素の位置、および、画素値の情報）を抽出して、近似関数推定部２２３２に出力する。
【１２５０】
近似関数推定部２２３２は、参照画素抽出部２２３１より入力されたフレーム方向の参照画素の情報に基づいて注目画素周辺の現実世界を近似的に記述する近似関数を最小自乗法に基づいて推定し、推定した関数を微分処理部２２３３に出力する。
【１２５１】
微分処理部２２３３は、近似関数推定部２２３２より入力されたフレーム方向の近似関数に基づいて、データ定常性情報の動きに応じて、注目画素から生成しようとする画素の位置のフレーム方向のシフト量を求め、そのシフト量に応じたフレーム方向の近似関数上の位置における微分値（定常性に対応する線からの１次元方向に沿った距離に対応する各画素の画素値を近似する関数の微分値）を演算し、さらに、注目画素の位置、画素値、および、定常性の動きの情報を付加して、これを実世界推定情報として画像生成部１０３に出力する。
【１２５２】
次に、図１９７のフローチャートを参照して、図１９６の実世界推定部１０２による実世界推定の処理について説明する。
【１２５３】
ステップＳ２２４１において、参照画素抽出部２２３１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての動き、および、領域の情報を取得する。
【１２５４】
ステップＳ２２４２において、参照画素抽出部２２３１は、入力画像の未処理画素から注目画素を設定する。
【１２５５】
ステップＳ２２４３において、参照画像抽出部２２３１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２５０に進み、その注目画素については、処理領域外であることを近似関数推定部２２３２を介して、微分処理部２２３３に伝え、これに応じて、微分処理部２２３３が、対応する注目画素についての微分値を０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２５１に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２４４に進む。
【１２５６】
ステップＳ２２４４において、参照画素抽出部２２３１は、データ定常性情報に含まれる動きの情報から、データ定常性の動きが、空間方向に近い動きか、または、フレーム方向に近い動きであるか否かを判定する。すなわち、図１９８で示されるように、フレーム方向Ｔと空間方向Ｙからなる面において、フレーム方向を基準軸とした、時間と空間の面内の方向を示す角度をθｖとすれば、参照画素抽出部２２３１は、データ定常性の有する角度θｖが、0度≦θｖ＜45度、または、135度≦θｖ＜180度となる場合、注目画素の定常性の動きは、フレーム方向（時間方向）に近いと判定し、データ定常性の有する角度θｖが、45度≦θｖ＜135度となる場合、注目画素の定常性の動きは、空間方向に近いと判定する。
【１２５７】
ステップＳ２２４５において、参照画素抽出部２２３１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、近似関数推定部２２３２に出力する。すなわち、参照画素は、後述する近似関数を演算する際に使用されるデータとなるので、角度に応じて抽出されることが望ましい。従って、フレーム方向、または、空間方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、図１９８で示されるように、動き方向Ｖ_fが空間方向に近いと、空間方向であると判定され、この場合、参照画素抽出部２２３１は、例えば、図１９８で示されるように、図１９８中の中央の画素（ｔ，ｙ）＝（０，０）を注目画素とするとき、画素（ｔ，ｙ）＝（−１，２），（−１，１），（−１，０），（−１，−１），（−１，−２），（０，２），（０，１），（０，０），（０，−１），（０，−２），（１，２），（１，１），（１，０），（１，−１），（１，−２）のそれぞれの画素値を抽出する。尚、図１９８においては、各画素のフレーム方向、および、空間方向の大きさが１であるものとする。
【１２５８】
すなわち、参照画素抽出部２２３１は、注目画素を中心として空間（図中の上下）方向にそれぞれ２画素×フレーム（図中の左右）方向にそれぞれ１フレーム分の合計１５画素となるように、フレーム方向に対して空間方向が長い範囲の画素を参照画素として抽出する。
【１２５９】
逆に、フレーム方向であると判定された場合、注目画素を中心として空間（図中の上下）方向にそれぞれ１画素×フレーム（図中の左右）方向にそれぞれ２フレーム分の合計１５画素となるように、フレーム方向に長い範囲の画素を参照画素として抽出して、近似関数推定部２２３２に出力する。もちろん、参照画素は、上述のように１５画素に限定されるものではなく、それ以外の個数であってもよい。
【１２６０】
ステップＳ２２４６において、近似関数推定部２２３２は、参照画素抽出部２２３１より入力された参照画素の情報に基づいて、最小自乗法により近似関数f(t)を推定し、微分処理部２２３３に出力する。
【１２６１】
すなわち、近似関数f(t)は、以下の式（１００）で示されるような多項式である。
【１２６２】
【数７２】

・・・（１００）
【１２６３】
このように、式（１００）の多項式の各係数W₁乃至W_n+1が求められれば、実世界を近似するフレーム方向の近似関数f(t)が求められることになる。しかしながら、係数の数よりも多くの参照画素値が必要となるので、例えば、参照画素が、図１９８で示されるような場合、合計１５画素であるので、多項式の係数は、１５個までしか求められない。そこで、この場合、多項式は、１４次までの多項式とし、係数W₁乃至W₁₅を求めることにより近似関数を推定するものとする。尚、今の場合、１５次の多項式からなる近似関数f(x)を設定して、連立方程式としてもよい。
【１２６４】
従って、図１９８で示される１５個の参照画素値を用いるとき、近似関数推定部２２３２は、以下の式（１０１）を、最小自乗法を用いて解くことにより推定する。
【１２６５】

【１２６６】
尚、多項式の次数にあわせて、参照画素の数を変えるようにしてもよい。
【１２６７】
ここで、Ct(ty)は、シフト量であり、上述のCx(ty)と同様のものであり、定常性の傾きがＶ_fで示されるとき、Ct(ty)＝ty／Ｖ_fで定義される。このシフト量Ct(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(t)が、傾きＶ_fに沿って、連続している（定常性を有している）ことを前提としたとき、空間方向Ｙ=tyの位置における、フレーム方向Ｔに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(t)として定義されている場合、この近似関数f(t)は、空間方向Ｙ=tyにおいては、フレーム方向（時間方向）ＴについてCt(ty)だけずれているはずなので、関数は、f(t−Ct(ty))（＝f(t−ty／Ｖ_f)）で定義されることになる。
【１２６８】
ステップＳ２２４７において、微分処理部２２３３は、近似関数推定部２２３２より入力された近似関数f(t)に基づいて、生成しようとする画素の位置における、シフト量を求める。
【１２６９】
すなわち、フレーム方向、および、空間方向にそれぞれ２倍の密度（合計４倍の密度）となるように画素を生成する場合、微分処理部２２３３は、例えば、まず、空間方向に２倍の密度となる画素Pat，Pbtに２分割するために、図１９９で示されるように、注目画素の中心位置がPin（Tin，Yin）での微分値を求めるため、中心位置のPin（Tin，Yin）のシフト量を求める。このシフト量は、Ct(0)となるため、実質的には０となる。尚、図１９９中において、画素Pinは、（Tin，Yin）を略重心位置とする正方形であり、画素Pat，Pbtは、（Tin，Yin+0.25）、（Tin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。また、注目画素Pinのフレーム方向Ｔの長さが１であるとは、１フレーム分のシャッタ時間に対応するものである。
【１２７０】
ステップＳ２２４８において、微分処理部２２３３は、近似関数f(t)を微分して、近似関数の１次微分関数f(t)'を求め、求められたシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。すなわち、今の場合、微分処理部２２３３は、微分値f(Tin)'を求め、その位置（今の場合、注目画素（Tin，Yin））と、その画素値、および、定常性の方向の動きの情報とを付加して出力する。
【１２７１】
ステップＳ２２４９において、微分処理部２２３３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、空間方向に２倍の密度となるための微分値のみしか求められていない（フレーム方向に２倍の密度となるための微分値が求められていない）ので、求められている密度の画素を生成するのに必要なだけの微分値が求められていないと判定し、その処理は、ステップＳ２２４７に戻る。
【１２７２】
ステップＳ２２４７において、微分処理部２２３３は、再度、近似関数推定部２２３２より入力された近似関数f(t)に基づいて、生成しようとする画素の位置における、シフト量を求める。すなわち、微分処理部２２３３は、今の場合、２分割された画素Pat，Pbtのそれぞれをさらに２分割するために必要な微分値をそれぞれ求める。画素Pat，Pbtの画素の位置は、図１９９における黒丸で示すそれぞれの位置であるので、微分処理部２２３３は、それぞれの位置に対応するシフト量を求める。画素Pat，Pbtのシフト量は、それぞれCt（0.25），Ct(−0.25)となる。
【１２７３】
ステップＳ２２４８において、微分処理部２２３３は、近似関数f(t)を微分して、画素Pat，Pbtのそれぞれに対応したシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。
【１２７４】
すなわち、図１９８で示した参照画素を使用する場合、微分処理部２２３３は、図２００で示すように、求められた近似関数f(t)について微分関数f(t)'を求め、空間方向Ｔについて、シフト量Ct（0.25），Ct(−0.25)だけずれた位置となる（Tin−Ct（0.25））と（Tin−Ct（−0.25））の位置での微分値をそれぞれf（Tin−Ct（0.25））'，f（Tin−Ct（−0.25））'として求め、その微分値に対応する位置情報を付加して、これを実世界推定情報として出力する。尚、最初の処理で画素値の情報が出力されているので画素値の情報は付加されない。
【１２７５】
ステップＳ２２４９において、再び、微分処理部２２３３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、空間方向Ｙとフレーム方向Ｔについてそれぞれ２倍（合計４倍）の密度となるための微分値が求められたことになるので、求められている密度の画素を生成するのに必要なだけの微分値が求められたと判定し、その処理は、ステップＳ２２５１に進む。
【１２７６】
ステップＳ２２５１において、参照画素抽出部２２３１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２４２に戻る。また、ステップＳ２２５１において、全ての画素を処理したと判定した場合、その処理は、終了する。
【１２７７】
上述のように、入力画像について、フレーム方向（時間方向）、および、空間方向に４倍の密度となるように画素を生成する場合、画素は、分割される画素の中央の位置の近似関数の微分値を用いて、外挿補間により分割されるので、４倍密度の画素を生成するには、合計３個の微分値の情報が必要となる。
【１２７８】
すなわち、図１９９で示されるように、1画素について最終的には、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔの４画素（図１９９において、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、それぞれ略０．５となる）の生成に必要な微分値が必要となるので、４倍密度の画素を生成するには、まず、フレーム方向、または、空間方向に２倍密度の画素を生成し（上述の最初のステップＳ２２４７，Ｓ２２４８の処理）、さらに、分割された２画素を、それぞれ最初に分割した方向と垂直の方向（今の場合、フレーム方向）に分割する（上述の２回目のステップＳ２２４７，Ｓ２２４８の処理）ためである。
【１２７９】
尚、以上の例においては、４倍密度の画素を演算する際の微分値を例として説明してきたが、それ以上の密度の画素を演算する場合、ステップＳ２２４７乃至Ｓ２２４９の処理を繰り返すことにより、画素値の演算に必要なさらに多くの微分値を求めるようにしてもよい。また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(t)は連続関数であるので、倍密度以外の画素値についても必要な微分値を求めることが可能となる。
【１２８０】
以上によれば、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現する近似関数を求め、画素の生成必要な位置の微分値を実世界推定情報として出力することが可能となる。
【１２８１】
以上の図１９６において説明した実世界推定部１０２においては、画像を生成するのに必要な微分値を実世界推定情報として出力していたが、微分値とは、必要な位置での近似関数f(t)の傾きと同値のものである。
【１２８２】
そこで、次は、図２０１を参照して、近似関数を求めることなく、画素生成に必要な、近似関数上のフレーム方向の傾きのみを直接求めて、実世界推定情報として出力する実世界推定部１０２について説明する。
【１２８３】
参照画素抽出部２２５１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の動き、および、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から傾きを求めるために必要な参照画素の情報（演算に必要な注目画素を含む空間方向に並ぶ周辺の複数の画素、または、注目画素を含むフレーム方向に並ぶ周辺の複数の画素の位置、および、それぞれの画素値の情報）を抽出して、傾き推定部２２５２に出力する。
【１２８４】
傾き推定部２２５２は、参照画素抽出部２２５１より入力された参照画素の情報に基づいて、画素生成に必要な画素位置の傾きの情報を生成して、実世界推定情報として画像生成部１０３に出力する。より詳細には、傾き推定部２２５２は、画素間の画素値の差分情報を用いて、実世界を近似的に表現する近似関数上の注目画素の位置におけるフレーム方向の傾きを求め、これに、注目画素の位置情報、画素値、および、定常性の方向の動きの情報を実世界推定情報として出力する。
【１２８５】
次に、図２０２のフローチャートを参照して、図２０１の実世界推定部１０２による実世界推定の処理について説明する。
【１２８６】
ステップＳ２２６１において、参照画素抽出部２２５１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての動き、および、領域の情報を取得する。
【１２８７】
ステップＳ２２６２において、参照画素抽出部２２５１は、入力画像の未処理画素から注目画素を設定する。
【１２８８】
ステップＳ２２６３において、参照画像抽出部２２５１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２６８に進み、その注目画素については、処理領域外であることを傾き推定部２２５２に伝え、これに応じて、傾き推定部２２５２が、対応する注目画素についての傾きを０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２６９に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２６４に進む。
【１２８９】
ステップＳ２２６４において、参照画素抽出部２２５１は、データ定常性情報に含まれる動きの情報から、データ定常性の動きが、フレーム方向に近い動きか、または、空間方向に近い動きであるか否かを判定する。すなわち、フレーム方向Ｔと空間方向Ｙからなる面において、フレーム方向を基準軸とした、時間と空間の面内の方向を示す角度をθｖとすれば、参照画素抽出部２２５１は、データ定常性の動きの角度θｖが、0度≦θｖ＜45度、または、135度≦θｖ＜180度となる場合、注目画素の定常性の動きは、フレーム方向に近いと判定し、データ定常性の有する角度θｖが、45度≦θｖ＜135度となる場合、注目画素の定常性の動きは、空間方向に近いと判定する。
【１２９０】
ステップＳ２２６５において、参照画素抽出部２２５１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、傾き推定部２２５２に出力する。すなわち、参照画素は、後述する傾きを演算する際に使用されるデータとなるので、定常性の動きに応じて抽出されることが望ましい。従って、フレーム方向、または、空間方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、動きが空間方向に近いと判定された場合、参照画素抽出部２２５１は、図２０３で示されるように、図２０３中の中央の画素（ｔ，ｙ）＝（０，０）を注目画素とするとき、画素（ｔ，ｙ）＝（０，２），（０，１），（０，０），（０，−１），（０，−２）のそれぞれの画素値を抽出する。尚、図２０３においては、各画素の大きさがフレーム方向、および、空間方向についてそれぞれ１であるものとする。
【１２９１】
すなわち、参照画素抽出部２２５１は、注目画素を中心として空間（図中の上下）方向にそれぞれ２画素の合計５画素となるように、空間方向に長い範囲の画素を参照画素として抽出する。
【１２９２】
逆に、フレーム方向であると判定された場合、注目画素を中心としてフレーム（図中の左右）方向に２画素の合計５画素となるように、フレーム方向に長い範囲の画素を参照画素として抽出して、近似関数推定部２２５２に出力する。もちろん、参照画素は、上述のように５画素に限定されるものではなく、それ以外の個数であってもよい。
【１２９３】
ステップＳ２２６６において、傾き推定部２２５２は、参照画素抽出部２２５１より入力された参照画素の情報と、定常性方向の動きＶ_fの方向に基づいて、それぞれの画素値のシフト量を演算する。すなわち、空間方向Ｙ=0に対応する近似関数f(t)を基準とした場合、空間方向Ｙ＝−２，−１，１，２に対応する近似関数は、図２０３で示されるように、定常性の傾きＶ_fに沿って連続していることになるので、各近似関数は、f(t−Ct(2))，f(t−Ct(1))，f(t−Ct(−1))，f(t−Ct(−2))のように記述され、空間方向Ｙ＝−２，−１，１，２毎に、各シフト量分だけフレーム方向Ｔにずれた関数として表現される。
【１２９４】
そこで、傾き推定部２２５２は、これらのシフト量Ct（−２）乃至Ct（２）を求める。例えば、参照画素が、図２０３で示されるように抽出された場合、そのシフト量は、図中の参照画素（０，２）は、Ct(２)＝２／Ｖ_fとなり、参照画素（０，１）は、Ct(１)＝１／Ｖ_fとなり、参照画素（０，０）は、Ct(０)＝０となり、参照画素（０，−１）は、Ct(−１)＝−１／Ｖ_fとなり、参照画素（０，−２）は、Ct(−２)＝−２／Ｖ_fとなる。傾き推定部２２５２は、これらのシフト量Ct（−２）乃至Ct（２）を求める。
【１２９５】
ステップＳ２２６７において、傾き推定部２２５２は、注目画素のフレーム方向の傾きを演算する（推定する）。例えば、図２０３で示されるように、注目画素について定常性の方向が、空間方向に近い角度の場合、フレーム方向に隣接する画素間では画素値が大きく異なるので、空間方向の画素間では、画素間の変化が小さく、変化が類似していることから、傾き推定部２２５２は、空間方向の画素間の変化をシフト量によるフレーム方向Ｔの変化と捕らえることにより、空間方向の画素間の差分をフレーム方向の画素間の差分に置き換えて、注目画素での傾きを求める。
【１２９６】
すなわち、現実世界を近似的に記述する関数f(t)が存在すると仮定すると、上述のシフト量と各参照画素の画素値との関係は、図２０４で示されるようなものとなる。ここで、図２０４の各画素の画素値は、上からP（０，２），P（０，１），P（０，０），P（０，−１），P（０，−２）で表される。結果として、注目画素（０，０）近傍の画素値Pとシフト量Ctは、（Ｐ，Ｃt）＝（Ｐ（０，２），−Ct（２）），（Ｐ（０，１），−Ct（１）），（Ｐ（０，−１）），−Ct（−１）），（Ｐ（０，−２），−Ct（−２）），（Ｐ（０，０），０）の５組の関係が得られることになる。
【１２９７】
ところで、画素値Ｐ、シフト量Ｃｔ、および、傾きＫｔ（近似関数f(t)上の傾き）は、以下のような式（１０２）のような関係が成立することになる。
【１２９８】

【１２９９】
上述の式（１０２）は、変数Ｋｔについての１変数の関数であるので、傾き推定部２２５２は、この変数Ｋｔ（傾き）について、１変数の最小自乗法により傾きＫｔを求める。
【１３００】
すなわち、傾き推定部２２５２は、以下に示すような式（１０３）のような正規方程式を解くことにより、注目画素の傾きを求め、注目画素の画素値、および、定常性の方向の傾きの情報を付加して、実世界推定情報として画像生成部１０３に出力する。
【１３０１】
【数７３】

・・・（１０３）
【１３０２】
ここで、ｉは、上述の参照画素の画素値Ｐとシフト量Ｃｔの組をそれぞれ識別する番号であり、１乃至ｍである。また、ｍは、注目画素を含む参照画素の個数となる。
【１３０３】
ステップＳ２２６９において、参照画素抽出部２２５１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２６２に戻る。また、ステップＳ２２６９において、全ての画素が処理されたと判定された場合、その処理は、終了する。
【１３０４】
尚、上述の処理により実世界推定情報として出力されるフレーム方向の傾きは、最終的に求めようとする画素値を外挿補間して演算する際に使用される。また、以上の例においては、２倍密度の画素を演算する際の傾きを例として説明してきたが、それ以上の密度の画素を演算する場合、画素値の演算に必要な、さらに多くの位置での傾きを求めるようにしてもよい。
【１３０５】
例えば、図１９９で示されるように、水平方向に２倍の密度で、かつ、フレーム方向に２倍の密度の時空間方向に合計４倍の密度の画素を生成する場合、上述したように、図１９９中のPin，Pat，Pbtのそれぞれの位置に対応する近似関数f(t)の傾きＫｔを求めるようにすればよい。
【１３０６】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(t)は連続関数であるので、倍密度以外の位置の画素の画素値についても必要な傾きを求めることが可能となる。
【１３０７】
言うまでもなく、フレーム方向、または、空間方向に対する近似関数上の傾き、または、微分値を求める処理の順序は問わない。さらに、空間方向において、上述の例においては、空間方向Ｙとフレーム方向Ｔとの関係を用いて、説明してきたが、空間方向Ｘとフレーム方向Ｔとの関係を用いたものであってもよい。さらに、時空間方向のいずれか２次元の関係から（いずれから１次元の方向の）傾き、または、微分値を選択的に求めるようにしてもよい。
【１３０８】
以上によれば、それぞれ時空間積分効果を有する、センサの複数の検出素子により現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる画像データにおけるデータの定常性を検出し、検出した定常性に対応して、画像データ内の注目画素に対して時空間方向のうち１次元方向の位置に対応する複数画素の画素値の傾きを、現実世界の光信号に対応する関数として推定するようにしたので、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現するフレーム方向の近似関数を求めることなく、画素の生成必要な位置のフレーム方向（時間方向）の近似関数上の傾きを実世界推定情報として生成し、さらに出力することが可能となる。
【１３０９】
次に、図２０５乃至図２３５を参照して、実世界推定部１０２（図３）の実施の形態の他の例について説明する。
【１３１０】
図２０５は、この例の実施の形態の原理を説明する図である。
【１３１１】
図２０５で示されるように、センサ２に入射される画像である、実世界１の信号（光の強度の分布）は、所定の関数Ｆで表される。なお、以下、この例の実施の形態の説明においては、画像である、実世界１の信号を、特に光信号と称し、関数Ｆを、特に光信号関数Ｆと称する。
【１３１２】
この例の実施の形態においては、光信号関数Ｆで表される実世界１の光信号が所定の定常性を有する場合、実世界推定部１０２が、センサ２からの入力画像（定常性に対応するデータの定常性を含む画像データ）と、データ定常性検出部１０１からのデータ定常性情報（入力画像のデータの定常性に対応するデータ定常性情報）を使用して、光信号関数Ｆを所定の関数ｆで近似することによって、光信号関数Ｆを推定する。なお、以下、この例の実施の形態の説明においては、関数ｆを、特に近似関数fと称する。
【１３１３】
換言すると、この例の実施の形態においては、実世界推定部１０２が、近似関数fで表されるモデル１６１（図７）を用いて、光信号関数Ｆで表される画像（実世界１の光信号）を近似（記述）する。従って、以下、この例の実施の形態を、関数近似手法と称する。
【１３１４】
ここで、関数近似手法の具体的な説明に入る前に、本願出願人が関数近似手法を発明するに至った背景について説明する。
【１３１５】
図２０６は、センサ２がＣＣＤとされる場合の積分効果を説明する図である。
【１３１６】
図２０６で示されるように、センサ２の平面上には、複数の検出素子２−１が配置されている。
【１３１７】
図２０６の例では、検出素子２−１の所定の１辺に平行な方向が、空間方向の１方向であるＸ方向とされており、Ｘ方向に垂直な方向が、空間方向の他方向であるＹ方向とされている。そして、Ｘ−Ｙ平面に垂直な方向が、時間方向であるｔ方向とされている。
【１３１８】
また、図２０６の例では、センサ２の各検出素子２−１のそれぞれの空間的な形状は、１辺の長さが１の正方形とされている。そして、センサ２のシャッタ時間（露光時間）が１とされている。
【１３１９】
さらに、図２０６の例では、センサ２の所定の１つの検出素子２−１の中心が、空間方向（Ｘ方向とＹ方向）の原点（Ｘ方向の位置ｘ＝０、およびＹ方向の位置ｙ＝０）とされており、また、露光時間の中間時刻が、時間方向（ｔ方向）の原点（ｔ方向の位置ｔ＝０）とされている。
【１３２０】
この場合、空間方向の原点（ｘ＝０,ｙ＝０）にその中心が存在する検出素子２−１は、Ｘ方向に-0.5乃至0.5の範囲、Ｙ方向に-0.5乃至0.5の範囲、およびｔ方向に-0.5乃至0.5の範囲で光信号関数F(x,y,t)を積分し、その積分値を画素値Ｐとして出力することになる。
【１３２１】
即ち、空間方向の原点にその中心が存在する検出素子２−１から出力される画素値Ｐは、次の式（１０４）で表される。
【１３２２】
【数７４】

・・・（１０４）
【１３２３】
その他の検出素子２−１も同様に、対象とする検出素子２−１の中心を空間方向の原点とすることで、式（１０４）で示される画素値Ｐを出力することになる。
【１３２４】
図２０７は、センサ２の積分効果の具体的な例を説明する図である。
【１３２５】
図２０７において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２０６）を表している。
【１３２６】
実世界１の光信号のうちの１部分（以下、このような部分を、領域と称する）２３０１は、所定の定常性を有する領域の１例を表している。
【１３２７】
なお、実際には、領域２３０１は連続した光信号の１部分（連続した領域）である。これに対して、図２０７においては、領域２３０１は、２０個の小領域（正方形の領域）に区分されているように示されている。これは、領域２３０１の大きさが、Ｘ方向に対して４個分、かつＹ方向に対して５個分のセンサ２の検出素子（画素）が並んだ大きさに相当することを表すためである。即ち、領域２３０１内の２０個の小領域（仮想領域）のそれぞれは１つの画素に相当する。
【１３２８】
また、領域２３０１のうちの図中白い部分は細線に対応する光信号を表している。従って、領域２３０１は、細線が続く方向に定常性を有していることになる。そこで、以下、領域２３０１を、細線含有実世界領域２３０１と称する。
【１３２９】
この場合、細線含有実世界領域２３０１（実世界１の光信号の１部分）がセンサ２により検出されると、センサ２からは、積分効果により、入力画像（画素値）の領域２３０２（以下、細線含有データ領域２３０２と称する）が出力される。
【１３３０】
なお、細線含有データ領域２３０２の各画素のそれぞれは、図中、画像として示されているが、実際には、所定の１つの値を表すデータである。即ち、細線含有実世界領域２３０１は、センサ２の積分効果により、所定の１つの画素値をそれぞれ有する２０個の画素（Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素）に区分された細線含有データ領域２３０２に変化してしまう（歪んでしまう）。
【１３３１】
図２０８は、センサ２の積分効果の具体的な他の例（図２０７とは異なる例）を説明する図である。
【１３３２】
図２０８において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２０６）を表している。
【１３３３】
実世界１の光信号の１部分（領域）２３０３は、所定の定常性を有する領域の他の例（図２０７の細線含有実世界領域２３０１とは異なる例）を表している。
【１３３４】
なお、領域２３０３は、細線含有実世界領域２３０１と同じ大きさを有する領域である。即ち、細線含有実世界領域２３０１と同様に、領域２３０３も、実際には連続した実世界１の光信号の１部分（連続した領域）であるが、図２０８においては、センサ２の１画素に相当する２０個の小領域（正方形の領域）に区分されているように示されている。
【１３３５】
また、領域２３０３は、所定の第１の光の強度（値）を有する第１の部分と、所定の第２の光の強度（値）を有する第２の部分のエッジを含んでいる。従って、領域２３０３は、エッジが続く方向に定常性を有していることになる。そこで、以下、領域２３０３を、２値エッジ含有実世界領域２３０３と称する。
【１３３６】
この場合、２値エッジ含有実世界領域２３０３（実世界１の光信号の１部分）がセンサ２により検出されると、センサ２からは、積分効果により、入力画像（画素値）の領域２３０４（以下、２値エッジ含有データ領域２３０４と称する）が出力される。
【１３３７】
なお、２値エッジ含有データ領域２３０４の各画素値のそれぞれは、細線含有データ領域２３０２と同様に、図中、画像として表現されているが、実際には、所定の値を表すデータである。即ち、２値エッジ含有実世界領域２３０３は、センサ２の積分効果により、所定の１つの画素値をそれぞれ有する２０個の画素（Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素）に区分された２値エッジ含有データ領域２３０４に変化してしまう（歪んでしまう）。
【１３３８】
従来の画像処理装置は、このような細線含有データ領域２３０２や２値エッジ含有データ領域２３０４等、センサ２から出力された画像データを原点（基準）とするとともに、画像データを処理の対象として、それ以降の画像処理を行っていた。即ち、センサ２から出力された画像データは、積分効果により実世界１の光信号とは異なるもの（歪んだもの）となっているにも関わらず、従来の画像処理装置は、その実世界１の光信号とは異なるデータを正として画像処理を行っていた。
【１３３９】
その結果、従来の画像処理装置では、センサ２から出力された段階で、実世界のディテールがつぶれてしまった波形（画像データ）を基準として、その波形から、元のディテールを復元することは非常に困難であるという課題があった。
【１３４０】
そこで、関数近似手法においては、この課題を解決するために、上述したように（図２０５で示されるように）、実世界推定部１０２が、細線含有データ領域２３０２や２値エッジ含有データ領域２３０４のようなセンサ２から出力された画像データ（入力画像）から、光信号関数Ｆ（実世界１の光信号）を近似関数fで近似することによって、光信号関数Ｆを推定する。
【１３４１】
これにより、実世界推定部１０２より後段において（いまの場合、図３の画像生成部１０３）、積分効果が考慮された画像データ、即ち、近似関数fにより表現可能な画像データを原点として、その処理を実行することが可能になる。
【１３４２】
以下、図面を参照して、このような関数近似手法のうちの３つの具体的な手法（第１乃至第３の関数近似手法）のそれぞれについて個別に説明していく。
【１３４３】
はじめに、図２０９乃至図２２３を参照して、第１の関数近似手法について説明する。
【１３４４】
図２０９は、上述した図２０７で示される細線含有実世界領域２３０１を再度表した図である。
【１３４５】
図２０９において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２０６）を表している。
【１３４６】
第１の関数近似手法は、例えば、図２０９で示されるような細線含有実世界領域２３０１に対応する光信号関数F(x,y,t)をＸ方向（図中矢印２３１１の方向）に射影した１次元の波形（以下、このような波形を、X断面波形F(x)と称する）を、n次（nは、任意の整数）の多項式である近似関数f(x)で近似する手法である。従って、以下、第１の関数近似手法を、特に、１次元多項式近似手法と称する。
【１３４７】
なお、１次元多項式近似手法において、近似の対象となるX断面波形F(ｘ)は、勿論、図２０９の細線含有実世界領域２３０１に対応するものに限定されない。即ち、後述するように、１次元多項式近似手法においては、定常性を有する実世界１の光信号に対応するX断面波形F(x)であれば、いずれのものでも近似することが可能である。
【１３４８】
また、光信号関数F(x,y,t)の射影の方向はＸ方向に限定されず、Ｙ方向またはｔ方向でもよい。即ち、１次元多項式近似手法においては、光信号関数F(x,y,t)をＹ方向に射影した関数F(y)を、所定の近似関数f(y)で近似することも可能であるし、光信号関数F(x,y,t)をt方向に射影した関数F(t)を、所定の近似関数f(t)で近似することも可能である。
【１３４９】
より詳細には、１次元多項式近似手法は、例えば、X断面波形F(x)を、次の式（１０５）で示されるような、ｎ次の多項式である近似関数f(x)で近似する手法である。
【１３５０】
【数７５】

・・・（１０５）
【１３５１】
即ち、１次元多項式近似手法においては、実世界推定部１０２が、式（１０５）のx^iの係数（特徴量）w_iを演算することで、X断面波形F(x)を推定する。
【１３５２】
この特徴量w_iの演算方法は、特に限定されず、例えば、次の第１乃至第３の方法が使用可能である。
【１３５３】
即ち、第１の方法は、従来から利用されている方法である。
【１３５４】
これに対して、第２の方法は、本願出願人が新たに発明した方法であって、第１の方法に対して、さらに、空間方向の定常性を考慮した方法である。
【１３５５】
しかしながら、後述するように、第１の方法と第２の方法においては、センサ２の積分効果が考慮されていない。従って、第１の方法または第２の方法により演算された特徴量w_iを上述した式（１０５）に代入して得られる近似関数f(x)は、入力画像の近似関数ではあるが、厳密には、X断面波形F(x)の近似関数とは言えない。
【１３５６】
そこで、本願出願人は、第２の方法に対して、センサ２の積分効果をさらに考慮して特徴量w_iを演算する第３の方法を発明した。この第３の方法により演算された特徴量w_iを、上述した式（１０５）に代入して得られる近似関数f(x)は、センサ２の積分効果を考慮している点で、X断面波形F(x)の近似関数であると言える。
【１３５７】
このように、厳密には、第１の方法と第２の方法は、１次元多項式近似手法とは言えず、第３の方法のみが１次元多項式近似手法であると言える。
【１３５８】
換言すると、図２１０で示されるように、第２の方法は、１次元多項式近似手法とは異なる、本発明の実世界推定部１０２の実施の形態である。即ち、図２１０は、第２の方法に対応する実施の形態の原理を説明する図である。
【１３５９】
図２１０で示されるように、第２の方法に対応する実施の形態においては、光信号関数Ｆで表される実世界１の光信号が所定の定常性を有する場合、実世界推定部１０２が、センサ２からの入力画像（定常性に対応するデータの定常性を含む画像データ）と、データ定常性検出部１０１からのデータ定常性情報（入力画像のデータの定常性に対応するデータ定常性情報）を使用して、Ｘ断面波形F(x)を近似するのではなく、センサ２からの入力画像を所定の近似関数f₂(x)で近似する。
【１３６０】
このように、第２の方法は、センサ２の積分効果を考慮せず、入力画像の近似に留まっている点で、第３の方法と同一レベルの手法であるとは言い難い。しかしながら、第２の方法は、空間方向の定常性を考慮している点で、従来の第１の方法よりも優れた手法である。
【１３６１】
以下、第１の方法、第２の方法、および第３の方法のそれぞれの詳細について、その順番で個別に説明していく。
【１３６２】
なお、以下、第１の方法、第２の方法、および第３の方法により生成される近似関数f(x)のそれぞれを、他の方法のものと区別する場合、特に、近似関数f₁(x)、近似関数f₂(x)、および近似関数f₃(x)とそれぞれ称する。
【１３６３】
はじめに、第１の方法の詳細について説明する。
【１３６４】
第１の方法においては、上述した式（１０５）で示される近似関数f₁(x)が、図２１１の細線含有実世界領域２３０１内で成り立つとして、次の予測方程式（１０６）を定義する。
【１３６５】
【数７６】

・・・（１０６）
【１３６６】
式（１０６）において、xは、注目画素からのＸ方向に対する相対的な画素位置を表している。yは、注目画素からのＹ方向に対する相対的な画素位置を表している。ｅは、誤差を表している。具体的には、例えば、いま、図２１１で示されるように、注目画素が、細線含有データ領域２３０２（細線含有実世界領域２３０１（図２０９）がセンサ２により検出されて、出力されたデータ）のうちの、図中、左からＸ方向に２画素目であって、下からＹ方向に３画素目の画素であるとする。また、注目画素の中心を原点(0,0)とし、センサ２のＸ方向とＹ方向（図２０６）のそれぞれに平行なx軸とy軸を軸とする座標系（以下、注目画素座標系と称する）が設定されているとする。この場合、注目画素座標系の座標値(x,y)が、相対画素位置を表すことになる。
【１３６７】
また、式（１０６）において、P(x,y)は、相対画素位置(x,y)における画素値を表している。具体的には、いまの場合、細線含有データ領域２３０２内のP(x,y)は、図２１２で示されるようになる。
【１３６８】
図２１２は、この画素値P(x,y)をグラフ化したものを表している。
【１３６９】
図２１２において、各グラフのそれぞれの縦軸は、画素値を表しており、横軸は、注目画素からのＸ方向の相対位置xを表している。また、図中、上から1番目のグラフの点線は入力画素値P(x,-2)を、上から２番目のグラフの３点鎖線は入力画素値P(x,-1)を、上から３番目のグラフの実線は入力画素値P(x,0)を、上から４番目のグラフの１点鎖線は入力画素値P(x,1)を、上から５番目（下から１番目）のグラフの２点鎖線は入力画素値P(x,2)を、それぞれ表している。
【１３７０】
上述した式（１０６）に対して、図２１２で示される２０個の入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)（ただし、xは、−１乃至２のうちのいずれかの整数値）のそれぞれを代入すると、次の式（１０７）で示される２０個の方程式が生成される。なお、e_k（kは、１乃至２０のうちのいずれかの整数値）のそれぞれは、誤差を表している。
【１３７１】
【数７７】

・・・（１０７）
【１３７２】
式（１０７）は、２０個の方程式より構成されているので、近似関数f₁(x)の特徴量w_iの個数が２０個より少ない場合、即ち、近似関数f₁(x)が１９次より少ない次数の多項式である場合、例えば、最小自乗法を用いて特徴量w_iの算出が可能である。なお、最小自乗法の具体的な解法は後述する。
【１３７３】
例えば、いま、近似関数f₁(x)の次数が５次とされた場合、式（１０７）を利用して最小自乗法により演算された近似関数f₁(x)（演算された特徴量w_iにより生成される近似関数f₁(x)）は、図２１３で示される曲線のようになる。
【１３７４】
なお、図２１３において、縦軸は画素値を表しており、横軸は注目画素からの相対位置ｘを表している。
【１３７５】
即ち、図２１１の細線含有データ領域２３０２を構成する２０個の画素値P(x,y）のそれぞれ（図２１２で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれ）を、例えば、ｘ軸に沿ってそのまま足しこむ（Ｙ方向の相対位置yを一定とみなして、図２１２で示される５つのグラフを重ねる）と、図２１３で示されるような、x軸に平行な複数の線（点線、３点鎖線、実線、１点鎖線、および２点鎖線）が分布する。
【１３７６】
ただし、図２１３においては、点線は入力画素値P(x,-2)を、３点鎖線は入力画素値P(x,-1)を、実線は入力画素値P(x,0)を、１点鎖線は入力画素値P(x,1)を、２点鎖線は入力画素値P(x,2)を、それぞれ表している。また、同一の画素値の場合、実際には２本以上の線が重なることになるが、図２１３においては、各線の区別がつくように、各線のそれぞれが重ならないように描画されている。
【１３７７】
そして、このように分布した２０個の入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれと、値f₁(x)の誤差が最小となるような回帰曲線（最小自乗法により演算された特徴量w_iを上述した式（１０４）に代入して得られる近似関数f₁(x)）が、図２１３で示される曲線（近似関数f₁(x)）となる。
【１３７８】
このように、近似関数f₁(x)は、Ｙ方向の画素値（注目画素からのＸ方向の相対位置xが同一の画素値）P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)の平均値を、Ｘ方向に結んだ曲線を単に表しているに過ぎない。即ち、光信号が有する空間方向の定常性を考慮することなく、近似関数f₁(x)が生成されている。
【１３７９】
例えば、いまの場合、近似の対象は、細線含有実世界領域２３０１（図２０９）とされている。この細線含有実世界領域２３０１は、図２１４で示されるように、傾きG_Fで表される空間方向の定常性を有している。なお、図２１４において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２０６）を表している。
【１３８０】
従って、データ定常性検出部１０１（図２０５）は、空間方向の定常性の傾きG_Fに対応するデータ定常性情報として、図２１４で示されるような角度θ（傾きG_Fに対応する傾きG_fで表されるデータの定常性の方向と、Ｘ方向のなす角度θ）を出力することができる。
【１３８１】
しかしながら、第１の方法においては、データ定常性検出部１０１より出力されるデータ定常性情報は一切用いられていない。
【１３８２】
換言すると、図２１４で示されるように、細線含有実世界領域２３０１の空間方向の定常性の方向は略角度θ方向である。しかしながら、第１の方法は、細線含有実世界領域２３０１の空間方向の定常性の方向はＹ方向であると仮定して（即ち、角度θが９０度であると仮定して）、近似関数f₁(x)の特徴量w_iを演算する方法である。
【１３８３】
このため、近似関数f₁(x)は、その波形が鈍り、元の画素値よりディテールが減少する関数となってしまう。換言すると、図示はしないが、第１の方法により生成される近似関数f₁(x)は、実際のＸ断面波形F(x)とは大きく異なる波形となってしまう。
【１３８４】
そこで、本願出願人は、第１の方法に対して、空間方向の定常性をさらに考慮して（角度θを利用して）特徴量w_iを演算する第２の方法を発明した。
【１３８５】
即ち、第２の方法は、細線含有実世界領域２３０１の定常性の方向は略角度θ方向であるとして、近似関数f₂(x) の特徴量w_iを演算する方法である。
【１３８６】
具体的には、例えば、空間方向の定常性に対応するデータの定常性を表す傾きG_fは、次の式（１０８）で表される。
【１３８７】
【数７８】

・・・（１０８）
【１３８８】
なお、式（１０８）において、dxは、図２１４で示されるようなＸ方向の微小移動量を表しており、dyは、図２１４で示されるようなdxに対するＹ方向の微小移動量を表している。
【１３８９】
この場合、シフト量C_x(y)を、次の式（１０９）のように定義すると、第２の方法においては、第１の方法で利用した式（１０６）に相当する式は、次の式（１１０）のようになる。
【１３９０】
【数７９】

・・・（１０９）
【１３９１】
【数８０】

・・・（１１０）
【１３９２】
即ち、第１の方法で利用した式（１０６）は、画素の中心の位置(x、y)のうちのＸ方向の位置ｘが、同一の位置に位置する画素の画素値P(x,y)はいずれも同じ値であることを表している。換言すると、式（１０６）は、同じ画素値の画素がＹ方向に続いている（Ｙ方向に定常性がある）ことを表している。
【１３９３】
これに対して、第２の方法で利用する式（１１０）は、画素の中心の位置が(x,y)である画素の画素値P(x,y)は、注目画素（その中心の位置が原点(0,0)である画素）からＸ方向にxだけ離れた場所に位置する画素の画素値（≒f₂(x)）とは一致せず、その画素からさらにＸ方向にシフト量C_x(y)だけ離れた場所に位置する画素（注目画素からＸ方向にx＋C_x(y)だけ離れた場所に位置する画素）の画素値（≒f₂（x＋C_x(y)））と同じ値であることを表している。換言すると、式（１１０）は、同じ画素値の画素が、シフト量C_x(y)に対応する角度θ方向に続いている（略角度θ方向に定常性がある）ことを表している。
【１３９４】
このように、シフト量C_x(y)が、空間方向の定常性（いまの場合、図２１４の傾きG_Fで表される定常性（厳密には、傾きG_fで表されるデータの定常性））を考慮した補正量であり、シフト量C_x(y)により式（１０６）を補正したものが式（１１０）となる。
【１３９５】
この場合、図２１１で示される細線含有データ領域２３０２の２０個の画素値P(x,y)（ただし、xは、−１乃至２のうちのいずれかの整数値。yは、−２乃至２のうちのいずれかの整数値）のそれぞれを、上述した式（１１０）に代入すると次の式（１１１）で示される２０個の方程式が生成される。
【１３９６】
【数８１】

・・・（１１１）
【１３９７】
式（１１１）は、上述した式（１０７）と同様に、２０個の方程式より構成されている。従って、第１の方法と同様に第２の方法においても、近似関数f₂(x)の特徴量w_iの個数が２０個より少ない場合、即ち、近似関数f₂(x)が１９次より少ない次数の多項式である場合、例えば、最小自乗法を用いて特徴量w_iの算出が可能である。なお、最小自乗法の具体的な解法は後述する。
【１３９８】
例えば、第１の方法と同様に近似関数f₂(x)の次数が５次とされた場合、第２の方法においては、次のようにして特徴量w_iが演算される。
【１３９９】
即ち、図２１５は、式（１１１）の左辺で示される画素値P(x,y)をグラフ化したものを表している。図２１５で示される５つのグラフのそれぞれは、基本的に図２１２で示されるものと同一である。
【１４００】
図２１５で示されるように、最大の画素値（細線に対応する画素値）は、傾きG_fで表されるデータの定常性の方向に続いている。
【１４０１】
そこで、第２の方法においては、図２１５で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれを、例えば、ｘ軸に沿って足しこむ場合、第１の方法のようにそのまま足しこむ（yを一定とみなして、図２１５で示される状態のまま５つのグラフを重ねる）のではなく、図２１６で示される状態に変化させてから足しこむ。
【１４０２】
即ち、図２１６は、図２１５で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれを、上述した式（１０９）で示されるシフト量C_x(y)だけシフトさせた状態を表している。換言すると、図２１６は、図２１５で示される５つのグラフを、データの定常性の実際の方向を表す傾きG_Fを、あたかも傾きG_F'とするように（図中、点線の直線を実線の直線とするように）移動させた状態を表している。
【１４０３】
図２１６の状態で、入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれを、例えば、ｘ軸に沿って足しこむと（図２１６で示される状態で５つのグラフを重ねると）、図２１７で示されるような、x軸に平行な複数の線（点線、３点鎖線、実線、１点鎖線、および２点鎖線）が分布する。
【１４０４】
なお、図２１７において、縦軸は画素値を表しており、横軸は注目画素からの相対位置ｘを表している。また、点線は入力画素値P(x,-2)を、３点鎖線は入力画素値P(x,-1)を、実線は入力画素値P(x,0)を、１点鎖線は入力画素値P(x,1)を、２点鎖線は入力画素値P(x,2)を、それぞれ表している。さらに、同一の画素値の場合、実際には２本以上の線が重なることになるが、図２１７においては、各線の区別がつくように、各線のそれぞれが重ならないように描画されている。
【１４０５】
そして、このように分布した２０個の入力画素値P(x,y)のそれぞれ（ただし、ｘは、−１乃至２のうちのいずれかの整数値。yは、−２乃至２のうちのいずれかの整数値）と、値f₂(x+C_x(y))の誤差が最小となるような回帰曲線（最小自乗法により演算された特徴量w_iを上述した式（１０４）に代入して得られる近似関数f₂(x)）は、図２１７の実線で示される曲線f₂(x)となる。
【１４０６】
このように、第２の方法により生成された近似関数f₂(x)は、データ定常性検出部１０１（図２０５）より出力される角度θ方向（即ち、ほぼ空間方向の定常性の方向）の入力画素値Ｐ(x,y)の平均値をＸ方向に結んだ曲線を表すことになる。
【１４０７】
これに対して、上述したように、第１の方法により生成された近似関数f₁(x)は、Ｙ方向（即ち、空間方向の定常性とは異なる方向）の入力画素値Ｐ(x,y)の平均値を、Ｘ方向に結んだ曲線を単に表しているに過ぎない。
【１４０８】
従って、図２１７で示されるように、第２の方法により生成された近似関数f₂(x)は、第１の方法により生成された近似関数f₁(x)よりも、その波形の鈍り度合いが減少し、かつ、元の画素値に対するディテールの減り具合も減少する関数となる。換言すると、図示はしないが、第２の方法により生成される近似関数f₂(x)は、第１の方法により生成される近似関数f₁(x)よりも実際のＸ断面波形F(x)により近い波形となる。
【１４０９】
しかしながら、上述したように、近似関数f₂(x)は、空間方向の定常性が考慮されたものではあるが、入力画像（入力画素値）を原点（基準）として生成されたものに他ならない。即ち、上述した図２１０で示されるように、近似関数f₂(x)は、X断面波形F(x)とは異なる入力画像を近似したに過ぎず、Ｘ断面波形F(x)を近似したとは言い難い。換言すると、第２の方法は、上述した式（１１０）が成立するとして特徴量w_iを演算する方法であり、上述した式（１０４）の関係は考慮していない（センサ２の積分効果を考慮していない）。
【１４１０】
そこで、本願出願人は、第２の方法に対して、センサ２の積分効果をさらに考慮することで近似関数f₃(x)の特徴量w_iを演算する第３の方法を発明した。
【１４１１】
即ち、第３の方法は、空間混合領域の概念を導入した方法である。
【１４１２】
第３の方法の説明の前に、図２１８を参照して、空間混合領域について説明する。
【１４１３】
図２１８において、実世界１の光信号の１部分２３２１（以下、領域２３２１と称する）は、センサ２の１つの検出素子（画素）と同じ面積を有する領域を表している。
【１４１４】
領域２３２１がセンサ２に検出されると、センサ２からは、領域２３２１が時空間方向（X方向,Y方向,およびt方向）に積分された値（１つの画素値）２３２２が出力される。なお、画素値２３２２は、図中、画像として表現されているが、実際には、所定の値を表すデータである。
【１４１５】
実世界１の領域２３２１は、前景（例えば、上述した細線）に対応する光信号（図中白い領域）と、背景に対応する光信号（図中黒い領域）に明確に区分される。
【１４１６】
これに対して、画素値２３２２は、前景に対応する実世界１の光信号と、背景に対応する実世界１の光信号が積分された値である。換言すると、画素値２３２２は、前景に対応する光のレベルと背景に対応する光のレベルが空間的に混合されたレベルに対応する値である。
【１４１７】
このように、実世界１の光信号のうちの１画素（センサ２の検出素子）に対応する部分が、同一レベルの光信号が空間的に一様に分布する部分ではなく、前景と背景のように異なるレベルの光信号のそれぞれが分布する部分である場合、その領域は、センサ２により検出されると、センサ２の積分効果により、異なる光のレベルがあたかも空間的に混合されて（空間方向に積分されて）１つの画素値となってしまう。このように、前景に対する画像（実世界１の光信号）と、背景に対する画像（実世界１の光信号）が空間的に積分されている画素からなる領域を、ここでは、空間混合領域と称している。
【１４１８】
従って、第３の方法においては、実世界推定部１０２（図２０５）が、実世界１の元の領域２３２１（実世界１の光信号のうちの、センサ２の１画素に対応する部分２３２１）を表すＸ断面波形F(x)を、例えば、図２１９で示されるような、１次の多項式である近似関数f₃(x)で近似することによって、Ｘ断面波形F(x)を推定する。
【１４１９】
即ち、図２１９は、空間混合領域である画素値２３２２（図２１８）に対応する近似関数f₃(x)、即ち、実世界１の領域２３３１内の実線（図２１８）に対応するＸ断面波形Ｆ（ｘ）を近似する近似関数f₃(x)の例を表している。図２１９において、図中水平方向の軸は、画素値２３２２に対応する画素の左下端x_sから右下端x_eまでの辺（図２１８）に平行な軸を表しており、x軸とされている。図中垂直方向の軸は、画素値を表す軸とされている。
【１４２０】
図２１９において、近似関数f₃(x)をx_sからx_eの範囲（画素幅）で積分したものが、センサ２から出力される画素値Ｐ(x,y)とほぼ一致する（誤差ｅだけ存在する）として、次の式（１１２）を定義する。
【１４２１】
【数８２】

・・・（１１２）
【１４２２】
いまの場合、図２１４で示される細線含有データ領域２３０２の２０個の画素値Ｐ(x,y)（ただし、xは、−１乃至２のうちのいずれかの整数値。yは、−２乃至２のうちのいずれかの整数値）から、近似関数f₃(x)の特徴量w_iが算出されるので、式（１１２）の画素値Ｐは、画素値P(x,y)となる。
【１４２３】
また、第２の方法と同様に、空間方向の定常性も考慮する必要があるので、式（１１２）の積分範囲の開始位置x_sと終了位置x_eのそれぞれは、シフト量C_x(y)にも依存することになる。即ち、式（１１２）の積分範囲の開始位置x_sと終了位置x_eのそれぞれは、次の式（１１３）のように表される。
【１４２４】
【数８３】

・・・（１１３）
【１４２５】
この場合、図２１４で示される細線含有データ領域２３０２の各画素値それぞれ、即ち、図２１５で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれ（ただし、ｘは、−１乃至２のうちのいずれかの整数値）を、上述した式（１１２）（積分範囲は、上述した式（１１３））に代入すると次の式（１１４）で示される２０個の方程式が生成される。
【１４２６】
【数８４】

【数８５】

・・・（１１４）
【１４２７】
式（１１４）は、上述した式（１１１）と同様に、２０個の方程式より構成されている。従って、第２の方法と同様に第３の方法においても、近似関数f₃(x)の特徴量w_iの個数が２０個より少ない場合、即ち、近似関数f₃(x)が１９次より少ない次数の多項式である場合、例えば、最小自乗法を用いて特徴量w_iの算出が可能である。なお、最小自乗法の具体的な解法は後述する。
【１４２８】
例えば、近似関数f₃(x)の次数が５次とされた場合、式（１１４）を利用して最小自乗法により演算された近似関数f₃(x)（演算された特徴量w_iにより生成される近似関数f₃(x)）は、図２２０の実線で示される曲線のようになる。
【１４２９】
なお、図２２０において、縦軸は画素値を表しており、横軸は注目画素からの相対位置ｘを表している。
【１４３０】
図２２０で示されるように、第３の方法により生成された近似関数f₃(x)（図中、実線で示される曲線）は、第２の方法により生成された近似関数f₂(x)（図中、点線で示される曲線）と比較すると、ｘ＝０における画素値が大きくなり、また、曲線の傾斜の度合いも急な波形となる。これは、入力画素よりディテイルが増加して、入力画素の解像度とは無関係となっているためである。即ち、近似関数f₃（x）は、X断面波形F(x)を近似していると言える。従って、図示はしないが、近似関数f₃(x)は、近似関数f₂(x)よりもＸ断面波形F(x)に近い波形となる。
【１４３１】
図２２１は、このような１次多項式近似手法を利用する実世界推定部１０２の構成例を表している。
【１４３２】
図２２１において、実世界推定部１０２は、例えば、特徴量w_iを上述した第３の方法（最小自乗法）により演算し、演算した特徴量w_iを利用して上述した式（１０５）の近似関数f(x)を生成することで、Ｘ断面波形F(x)を推定する。
【１４３３】
図２２１で示されるように、実世界推定部１０２には、条件設定部２３３１、入力画像記憶部２３３２、入力画素値取得部２３３３、積分成分演算部２３３４、正規方程式生成部２３３５、および近似関数生成部２３３６が設けられている。
【１４３４】
条件設定部２３３１は、注目画素に対応するX断面波形F(x)を推定するために使用する画素の範囲（以下、タップ範囲と称する）や、近似関数f(x)の次数nを設定する。
【１４３５】
入力画像記憶部２３３２は、センサ２からの入力画像（画素値）を一次的に格納する。
【１４３６】
入力画素値取得部２３３３は、入力画像記憶部２３３２に記憶された入力画像のうちの、条件設定部２３３１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部２３３５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【１４３７】
ところで、ここでは、実世界推定部１０２は、上述した式（１１２）と式（１１３）を利用して最小自乗法により近似関数f(x)の特徴量w_iを演算するが、上述した式（１１２）は、次の式（１１５）のように表現することができる。
【１４３８】
【数８６】

・・・（１１５）
【１４３９】
式（１１５）において、S_i（x_s,x_e）は、i次項の積分成分を表している。即ち、積分成分S_i(x_s,x_e)は、次の式（１１６）で示される。
【１４４０】
【数８７】

・・・（１１６）
【１４４１】
積分成分演算部２３３４は、この積分成分S_i(x_s、x_e)を演算する。
【１４４２】
具体的には、式（１１６）で示される積分成分S_i(x_s,x_e)（ただし、値x_sと値x_eは、上述した式（１１２）で示される値）は、相対画素位置(x,y)、シフト量C_x(y)、および、i次項のiが既知であれば演算可能である。また、これらのうちの、相対画素位置(x,y)は注目画素とタップ範囲により、シフト量C_x(y)は角度θにより（上述した式（１０７）と式（１０９）により）、iの範囲は次数nにより、それぞれ決定される。
【１４４３】
従って、積分成分演算部２３３４は、条件設定部２３３１により設定されたタップ範囲および次数、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分S_i(x_s,x_e)を演算し、その演算結果を積分成分テーブルとして正規方程式生成部２３３５に供給する。
【１４４４】
正規方程式生成部２３３５は、入力画素値取得部２３３３より供給された入力画素値テーブルと、積分成分演算部２３３４より供給された積分成分テーブルを利用して、上述した式（１１２）、即ち、式（１１５）の右辺の特徴量w_iを最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部２３３６に供給する。なお、正規方程式の具体例については後述する。
【１４４５】
近似関数生成部２３３６は、正規方程式生成部２３３５より供給された正規方程式テーブルに含まれる正規方程式を行列解放で解くことにより、上述した式（１１５）の特徴量w_i（即ち、１次元多項式である近似関数f(x)の係数w_i）のそれぞれを演算し、画像生成部１０３に出力する。
【１４４６】
次に、図２２２のフローチャートを参照して、１次元多項式近似手法を利用する実世界推定部１０２（図２２１）の実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【１４４７】
例えば、いま、センサ２から出力された１フレームの入力画像であって、上述した図２０７の細線含有データ領域２３０２を含む入力画像が、既に入力画像記憶部２３３２に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０）の定常性の検出の処理において、細線含有データ領域２３０２に対してその処理を施して、データ定常性情報として角度θを既に出力しているとする。
【１４４８】
この場合、図２２２のステップＳ２３０１において、条件設定部２３３１は、条件（タップ範囲と次数）を設定する。
【１４４９】
例えば、いま、図２２３で示されるタップ範囲２３５１が設定されるとともに、次数として５次が設定されたとする。
【１４５０】
即ち、図２２３は、タップ範囲の１例を説明する図である。図２２３において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２０６）を表している。また、タップ範囲２３５１は、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、２０個の正方形）からなる画素群を表している。
【１４５１】
さらに、図２２３で示されるように、注目画素が、タップ範囲２３５１のうちの、図中、左から２画素目であって、下から３画素目の画素に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y)（注目画素の中心(0,0)を原点とする注目画素座標系の座標値）に応じて、図２２３で示されるような番号l（lは、０乃至１９のうちのいずれかの整数値）が付されるとする。
【１４５２】
図２２２に戻り、ステップＳ２３０２において、条件設定部２３３１は、注目画素を設定する。
【１４５３】
ステップＳ２３０３において、入力画素値取得部２３３３は、条件設定部２３３１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部２３３３は、細線含有データ領域２３０２（図２１１）を取得し、入力画素値テーブルとして、２０個の入力画素値P(l)からなるテーブルを生成する。
【１４５４】
なお、いまの場合、入力画素値P(l)と、上述した入力画素値P(x,y)の関係は、次の式（１１７）で示される関係とされる。ただし、式（１１７）において、左辺が入力画素値P（ｌ）を表し、右辺が入力画素値P(x,y)を表している。
【１４５５】
【数８８】

・・・（１１７）
【１４５６】
ステップＳ２３０４において、積分成分演算部２３３４は、条件設定部２３３１により設定された条件（タップ範囲および次数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１４５７】
いまの場合、上述したように、入力画素値は、P(x,y)でなくP(l)といった、画素の番号lの値として取得されるので、積分成分演算部２３３４は、上述した式（１１６）の積分成分S_i(x_s,x_e)を、次の式（１１８）の左辺で示される積分成分S_i(l)といったlの関数として演算する。
【１４５８】
S_i(ｌ) ＝ S_i（x_s,x_e） ・・・（１１８）
【１４５９】
具体的には、いまの場合、次の式（１１９）で示される積分成分S_i(l)が演算される。
【１４６０】
【数８９】

・・・（１１９）
【１４６１】
なお、式（１１９）において、左辺が積分成分S_i（ｌ)を表し、右辺が積分成分S_i(x_s,x_e)を表している。即ち、いまの場合、iは０乃至５であるので、２０個のS₀(l),２０個のS₁(l),２０個のS₂(l),２０個のS₃(l),２０個のS₄(l),２０個のS₅(l)の総計１２０個のS_i(l)が演算されることになる。
【１４６２】
より具体的には、はじめに、積分成分演算部２３３４は、データ定常性検出部１０１より供給された角度θを使用して、シフト量C_x(-2),C_x(-1),C_x(1),C_x(2)のそれぞれを演算する。次に、積分成分演算部２３３４は、演算したシフト量C_x(-2),C_x(-1),C_x(1),C_x(2)を使用して式（１１８）の右辺に示される２０個の積分成分S_i(x_s,x_e)のそれぞれを、i=０乃至５のそれぞれについて演算する。即ち、１２０個の積分成分S_i(x_s,x_e)が演算される。なお、この積分成分S_i(x_s,x_e)の演算においては、上述した式（１１６）が使用される。そして、積分成分演算部２３３４は、式（１１９）に従って、演算した１２０個の積分成分S_i(x_s,x_e)のそれぞれを、対応する積分成分S_i(l)に変換し、変換した１２０個の積分成分S_i(l)を含む積分成分テーブルを生成する。
【１４６３】
なお、ステップＳ２３０３の処理とステップＳ２３０４の処理の順序は、図２２２の例に限定されず、ステップＳ２３０４の処理が先に実行されてもよいし、ステップＳ２３０３の処理とステップＳ２３０４の処理が同時に実行されてもよい。
【１４６４】
次に、ステップＳ２３０５において、正規方程式生成部２３３５は、ステップＳ２３０３の処理で入力画素値取得部２３３３により生成された入力画素値テーブルと、ステップＳ２３０４の処理で積分成分演算部２３３４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【１４６５】
具体的には、いまの場合、最小自乗法により、上述した式（１１５）に対応する次の式（１２０）の特徴量w_iを演算する。で、それに対応する正規方程式は、次の式（１２１）のように表される。
【１４６６】
【数９０】

・・・（１２０）
【１４６７】
【数９１】

・・・（１２１）
【１４６８】
なお、式（１２１）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、多項式である近似関数f(x)の次数を表している。具体的には、いまの場合、n=5となり、L=１９となる。
【１４６９】
式（１２１）で示される正規方程式の各行列のそれぞれを、次の式（１２２）乃至（１２４）のように定義すると、正規方程式は、次の式（１２５）のように表される。
【１４７０】
【数９２】

・・・（１２２）
【１４７１】
【数９３】

・・・（１２３）
【１４７２】
【数９４】

・・・（１２４）
【１４７３】
【数９５】

・・・（１２５）
【１４７４】
式（１２３）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（１２５）において、左辺の行列Ｓ_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MAT（即ち、特徴量w_i）の算出が可能である。
【１４７５】
具体的には、式（１２２）で示されるように、行列Ｓ_MATの各成分は、上述した積分成分S_i(l)が既知であれば演算可能である。積分成分S_i(l)は、積分成分演算部２３３４より供給された積分成分テーブルに含まれているので、正規方程式生成部２３３５は、積分成分テーブルを利用して行列Ｓ_MATの各成分を演算することができる。
【１４７６】
また、式（１２４）で示されるように、行列Ｐ_MATの各成分は、積分成分S_i(l)と入力画素値P(l)が既知であれば演算可能である。積分成分S_i(l)は、行列Ｓ_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部２３３３より供給された入力画素値テーブルに含まれているので、正規方程式生成部２３３５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【１４７７】
このようにして、正規方程式生成部２３３５は、行列Ｓ_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列Ｓ_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部２３３６に出力する。
【１４７８】
正規方程式生成部２３３５より正規方程式テーブルが出力されると、ステップＳ２３０６において、近似関数生成部２３３６は、正規方程式テーブルに基づいて、上述した式（１２５）の行列W_MATの各成分である特徴量w_i（即ち、１次元多項式である近似関数f(x)の係数w_i）を演算する。
【１４７９】
具体的には、上述した式（１２５）の正規方程式は、次の式（１２６）のように変形できる。
【１４８０】
【数９６】

・・・（１２６）
【１４８１】
式（１２６）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列S_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部２３３５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部２３３６は、正規方程式テーブルを利用して、式（１２６）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【１４８２】
ステップＳ２３０７において、近似関数生成部２３３６は、全画素の処理を終了したか否かを判定する。
【１４８３】
ステップＳ２３０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ２３０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ２３０２乃至Ｓ２３０７の処理が繰り返される。
【１４８４】
そして、全画素の処理が終了すると（ステップＳ２３０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【１４８５】
なお、以上のようにして演算された係数（特徴量）w_iにより生成される近似関数f(x)の波形は、上述した図２２０の近似関数f₃(x)のような波形となる。
【１４８６】
このように、１次元多項式近似手法においては、１次元のＸ断面波形F(x)と同一形状の波形が定常性の方向に連なっていると仮定して、１次元の多項式である近似関数f(x)の特徴量が演算される。従って、１次元多項式近似手法においては、他の関数近似手法に比較して、少ない演算処理量で近似関数f(x)の特徴量の算出が可能となる。
【１４８７】
換言すると、１次元多項式近似手法においては、例えば、図２０５（図３）のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサの複数の検出素子（例えば、図２０６のセンサ２の検出素子２−１）により実世界１の光信号（例えば、図２０７の実世界１の光信号の１部分２３０１）が射影され、実世界１の光信号の定常性（例えば、図２１４の傾きG_Fで表される定常性）の一部が欠落した、検出素子２−１により射影された画素値（例えば、図２１２の各グラフに示される入力画素値P(x,y)）を有する複数の画素からなる画像データ（例えば、図２０７の画像データ（入力画像の領域）２３０２）におけるデータの定常性（例えば、図２１４の傾きG_fで表されるデータの定常性）を検出する。
【１４８８】
例えば、図２０５（図３）の実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち１次元方向（例えば、図２０９の矢印２３１１、即ち、X方向）の位置に対応する画素の画素値（例えば、上述した式（１１２）の左辺である入力画素値Ｐ）が、１次元方向の積分効果により取得された画素値（例えば、式（１１２）の右辺に示されるように、近似関数f₃(x)がＸ方向に積分された値）であるとして、実世界１の光信号を表す光信号関数Ｆ（具体的には、Ｘ断面波形Ｆ（ｘ））を所定の近似関数ｆ（具体的には、例えば、図２２０の近似関数f₃(x)）で近似することで、光信号関数Fを推定する。
【１４８９】
詳細には、例えば、実世界推定部１０２は、データ定常性検出手部１０１により検出されたデータの定常性に対応する線（例えば、図２１６の傾きG_fに対応する線（点線））からの１次元方向（例えば、Ｘ方向）に沿った距離（例えば、図２１６のシフト量Cx(y)）に対応する画素の画素値が、１次元方向の積分効果により取得された画素値（例えば、上述した式（１１２）に示されるような積分範囲で、式（１１２）の右辺に示されるように、近似関数f₃(x)がＸ方向に積分された値）であるとして、光信号関数Fを近似関数ｆで近似することにより、光信号関数Fを推定する。
【１４９０】
従って、１次元多項式近似手法においては、他の関数近似手法に比較して、少ない演算処理量で近似関数f(x)の特徴量の算出が可能となる。
【１４９１】
次に、図２２４乃至図２３０を参照して、第２の関数近似手法について説明する。
【１４９２】
即ち、第２の関数近似手法とは、例えば、図２２４で示されるような、傾きG_Fで表される空間方向の定常性を有する実世界１の光信号を、Ｘ−Ｙ平面上（空間方向の１方向であるＸ方向と、Ｘ方向に垂直なＹ方向に水平な平面上）の波形F(x,y)とみなし、２次元の多項式である近似関数f(x,y)で波形F(x,y)を近似することによって、その波形F(x,y)を推定する手法である。従って、以下、第２の関数近似手法を、２次元多項式近似手法と称する。
【１４９３】
なお、図２２４において、図中、水平方向は、空間方向の１方向であるＸ方向を、右上方向は、空間方向の他方向であるＹ方向を、垂直方向は、光のレベルを、それぞれ表している。G_Fは、空間方向の定常性の傾きを表している。
【１４９４】
また、２次元多項式近似手法の説明においても、センサ２は、図２２５で示されるような、複数の検出素子２−１がその平面上に配置されて構成されるＣＣＤとされる。
【１４９５】
図２２５の例では、検出素子２−１の所定の１辺に平行な方向が、空間方向の１方向であるＸ方向とされており、Ｘ方向に垂直な方向が、空間方向の他方向であるＹ方向とされている。そして、Ｘ−Ｙ平面に垂直な方向が、時間方向であるｔ方向とされている。
【１４９６】
また、図２２５の例では、センサ２の各検出素子２−１のそれぞれの空間的な形状は、１辺の長さが１の正方形とされている。そして、センサ２のシャッタ時間（露光時間）が１とされている。
【１４９７】
さらに、図２２５の例では、センサ２の所定の１つの検出素子２−１の中心が、空間方向（Ｘ方向とＹ方向）の原点（Ｘ方向の位置ｘ＝０、およびＹ方向の位置ｙ＝０）とされており、また、露光時間の中間時刻が、時間方向（ｔ方向）の原点（ｔ方向の位置ｔ＝０）とされている。
【１４９８】
この場合、空間方向の原点（ｘ＝０,ｙ＝０）にその中心が存在する検出素子２−１は、Ｘ方向に-0.5乃至0.5の範囲、Ｙ方向に-0.5乃至0.5の範囲、およびｔ方向に-0.5乃至0.5の範囲で光信号関数F(x,y,t)を積分し、その積分値を画素値Ｐとして出力することになる。
【１４９９】
即ち、空間方向の原点にその中心が存在する検出素子２−１から出力される画素値Ｐは、次の式（１２７）で表される。
【１５００】
【数９７】

・・・（１２７）
【１５０１】
その他の検出素子２−１も同様に、対象とする検出素子２−１の中心を空間方向の原点とすることで、式（１２７）で示される画素値Ｐを出力することになる。
【１５０２】
ところで、上述したように、２次元多項式近似手法は、実世界１の光信号を、例えば、図２２４で示されるような波形F(x,y)として扱い、その２次元の波形F(x,y)を、２次元の多項式である近似関数f(x,y)に近似する手法である。
【１５０３】
そこで、はじめに、このような近似関数f(x,y)を２次元の多項式で表現する手法について説明する。
【１５０４】
上述したように、実世界１の光信号は、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする光信号関数F(x,y,t)で表される。この光信号関数F(x,y,t)を、Ｙ方向の任意の位置yにおいて、Ｘ方向に射影した１次元の波形を、ここでは、Ｘ断面波形F(x)と称している。
【１５０５】
このＸ断面波形Ｆ（ｘ）に注目すると、実世界１の信号が、空間方向の所定の方向に定常性を有している場合、Ｘ断面波形Ｆ（ｘ）と同一形状の波形がその定常性の方向に連なっていると考えることができる。例えば、図２２４の例では、Ｘ断面波形Ｆ（ｘ）と同一形状の波形が、傾きG_Fの方向に連なっている。換言すると、Ｘ断面波形Ｆ（ｘ）と同一形状の波形が傾きG_Fの方向に連なって、波形F(x,y)が形成されているとも言える。
【１５０６】
従って、波形F(x,y)を近似する近似関数f(x,y)の波形は、Ｘ断面波形F(x)を近似する近似関数f(x)と同一形状の波形が連なって形成されると考えることで、近似関数f(x,y)を２次元の多項式で表現することが可能になる。
【１５０７】
さらに詳細に、近似関数f(x,y)の表現方法について説明する。
【１５０８】
例えば、いま、上述した図２２４で示されるような、実世界１の光信号、即ち、傾きG_Fで表される空間方向の定常性を有する光信号が、センサ２（図２２５）により検出されて入力画像（画素値）として出力されたとする。
【１５０９】
さらに、図２２６で示されるように、データ定常性検出部１０１（図３）が、この入力画像のうちの、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、点線で表される２０個の正方形）から構成される入力画像の領域２４０１に対してその処理を実行し、データ定常性情報の１つとして角度θ（傾きG_Fに対応する傾きG_fで表されるデータの定常性の方向と、Ｘ方向とのなす角度θ）を出力したとする。
【１５１０】
なお、入力画像の領域２４０１において、図中水平方向は、空間方向の1方向であるＸ方向を表しており、図中垂直方向は、空間方向の他方向であるＹ方向を表している。
【１５１１】
また、図２２６中、左から２画素目であって、下から３画素目の画素が注目画素とされ、その注目画素の中心を原点(0,0)とするように(x,y)座標系が設定されている。そして、原点(0,0)を通る角度θの直線（データの定常性の方向を表す傾きG_fの直線）に対するＸ方向の相対的な距離（以下、断面方向距離と称する）がx'と記述されている。
【１５１２】
さらに、図２２６中、右側のグラフは、X断面波形F(x')が近似された関数であって、n次（nは、任意の整数）の多項式である近似関数f(x')を表している。右側のグラフの軸のうち、図中水平方向の軸は、断面方向距離を表しており、図中垂直方向の軸は、画素値を表している。
【１５１３】
この場合、図２２６で示される近似関数f(x')は、ｎ次の多項式であるので、次の式（１２８）のように表される。
【１５１４】
【数９８】

・・・（１２８）
【１５１５】
また、角度θが決定されていることから、原点(0,0)を通る角度θの直線は一意に決まり、Ｙ方向の任意の位置yにおける、直線のＸ方向の位置x_lが、次の式（１２９）のように表される。ただし、式（１２９）において、sはcotθを表している。
【１５１６】
x_l ＝ ｓ×ｙ ・・・（１２９）
【１５１７】
即ち、図２２６で示されるように、傾きG_fで表されるデータの定常性に対応する直線上の点は、座標値(x_l,y)で表される。
【１５１８】
式（１２９）より、断面方向距離x'は、次の式（１３０）のように表される。
【１５１９】
x' ＝ x−x_l ＝ x−s×y ・・・（１３０）
【１５２０】
従って、入力画像の領域２４０１内の任意の位置(x,y)における近似関数f(x,y)は、式（１２８）と式（１３０）より、次の式（１３１）のように示される。
【１５２１】
【数９９】

・・・（１３１）
【１５２２】
なお、式（１３１）において、w_iは、近似関数f(x,y)の係数を表している。なお、近似関数f(x,y)を含む近似関数ｆの係数w_iを、近似関数ｆの特徴量と位置づけることもできる。従って、以下、近似関数ｆの係数w_iを、近似関数ｆの特徴量w_iとも称する。
【１５２３】
このようにして、角度θが既知であれば、２次元波形の近似関数f(x,y)を、式（１３１）の多項式として表現することができる。
【１５２４】
従って、実世界推定部１０２は、式（１３１）の特徴量wiを演算することができれば、図２２４で示されるような波形F(x,y)を推定することができる。
【１５２５】
そこで、以下、式（１３１）の特徴量wiを演算する手法について説明する。
【１５２６】
即ち、式（１３１）で表される近似関数f(x,y)を、画素（センサ２の検出素子２−１（図２２５））に対応する積分範囲（空間方向の積分範囲）で積分すれば、その積分値が、画素の画素値の推定値となる。このことを、式で表現したものが、次の式（１３２）である。なお、２次元多項式近似手法においては、時間方向ｔは一定値とみなされるので、式（１３２）は、空間方向（Ｘ方向とＹ方法）の位置x,yを変数とする方程式とされている。
【１５２７】
【数１００】

・・・（１３２）
【１５２８】
式（１３２）において、P(x,y)は、センサ２からの入力画像のうちの、その中心位置が位置(x,y)（注目画素からの相対位置(x,y)）に存在する画素の画素値を表している。また、ｅは、誤差を表している。
【１５２９】
このように、２次元多項式近似手法においては、入力画素値P(x,y)と、２次元の多項式である近似関数f(x,y)の関係を、式（１３２）で表現することが可能であるので、実世界推定部１０２は、式（１３２）を利用して、特徴量wiを、例えば、最小自乗法等により演算することで（演算した特徴量wiを式（１３０）に代入して近似関数f(x,y)を生成することで）、２次元の関数F(x,y)（傾きG_F（図２２４）で表される空間方向の定常性を有する実世界１の光信号を、空間方向に着目して表した波形F(x,y)）を推定することが可能となる。
【１５３０】
図２２７は、このような２次元多項式近似手法を利用する実世界推定部１０２の構成例を表している。
【１５３１】
図２２７で示されるように、実世界推定部１０２には、条件設定部２４２１、入力画像記憶部２４２２、入力画素値取得部２４２３、積分成分演算部２４２４、正規方程式生成部２４２５、および近似関数生成部２４２６が設けられている。
【１５３２】
条件設定部２４２１は、注目画素に対応する関数F(x,y)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y)の次数nを設定する。
【１５３３】
入力画像記憶部２４２２は、センサ２からの入力画像（画素値）を一次格納する。
【１５３４】
入力画素値取得部２４２３は、入力画像記憶部２４２２に記憶された入力画像のうちの、条件設定部２４２１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部２４２５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【１５３５】
ところで、上述したように、２次元多項式近似手法を利用する実世界推定部１０２は、上述した式（１３２）を最小自乗法で解くことにより、上述した式（１３１）で示される近似関数f(x,y)の特徴量w_iを演算する。
【１５３６】
式（１３２）は、次の式（１３３）乃至式（１３５）を用いることで得られる次の式（１３６）を使用することで、次の式（１３７）のように表現することができる。
【１５３７】
【数１０１】

・・・（１３３）
【１５３８】
【数１０２】

・・・（１３４）
【１５３９】
【数１０３】

・・・（１３５）
【１５４０】
【数１０４】

・・・（１３６）
【１５４１】
【数１０５】

・・・（１３７）
【１５４２】
式（１３７）において、S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、i次項の積分成分を表している。即ち、積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、次の式（１３８）で示される通りである。
【１５４３】
【数１０６】

・・・（１３８）
【１５４４】
積分成分演算部２４２４は、この積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）を演算する。
【１５４５】
具体的には、式（１３８）で示される積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、相対画素位置(x,y)、上述した式（１３１）における変数ｓ、および、i次項のiが既知であれば、演算可能である。これらのうちの、相対画素位置(x,y)は注目画素とタップ範囲により、変数sはcotθであるので角度θにより、iの範囲は次数nにより、それぞれ決定される。
【１５４６】
従って、積分成分演算部２４２４は、条件設定部２４２１により設定されたタップ範囲および次数、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部２４２５に供給する。
【１５４７】
正規方程式生成部２４２５は、入力画素値取得部２４２３より供給された入力画素値テーブルと、積分成分演算部２４２４より供給された積分成分テーブルを利用して、上述した式（１３２）、即ち、式（１３７）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部２４２６に出力する。なお、正規方程式の具体例については後述する。
【１５４８】
近似関数生成部２４２６は、正規方程式生成部２４２５より供給された正規方程式テーブルに含まれる正規方程式を行列解放で解くことにより、上述した式（１３２）の特徴量w_i（即ち、２次元多項式である近似関数f(x,y)の係数w_i）のそれぞれを演算し、画像生成部１０３に出力する。
【１５４９】
次に、図２２８のフローチャートを参照して、２次元多項式近似手法が適用される実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【１５５０】
例えば、いま、傾きG_Fで表される空間方向の定常性を有する実世界１の光信号が、センサ２（図２２５）により検出されて、１フレームに対応する入力画像として、入力画像記憶部２４２２に既に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０）の定常性の検出の処理において、入力画像のうちの、上述した図２２６で示される領域２４０１に対して処理を施して、データ定常性情報として角度θを既に出力しているとする。
【１５５１】
この場合、ステップＳ２４０１において、条件設定部２４２１は、条件（タップ範囲と次数）を設定する。
【１５５２】
例えば、いま、図２２９で示されるタップ範囲２４４１が設定されるとともに、次数として５次が設定されたとする。
【１５５３】
即ち、図２２９は、タップ範囲の１例を説明する図である。図２２９において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２２５）を表している。また、タップ範囲２４４１は、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、２０個の正方形）からなる画素群を表している。
【１５５４】
さらに、図２２９に示されるように、注目画素が、タップ範囲２４４１のうちの、図中、左から２画素目であって、下から３画素目の画素に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y)（注目画素の中心(0,0)を原点とする注目画素座標系の座標値）に応じて、図２２９で示されるような番号l（lは、０乃至１９のうちのいずれかの整数値）が付されるとする。
【１５５５】
図２２８に戻り、ステップＳ２４０２において、条件設定部２４２１は、注目画素を設定する。
【１５５６】
ステップＳ２４０３において、入力画素値取得部２４２３は、条件設定部２４２１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部２４２３は、入力画像の領域２４０１（図２２６）を取得し、入力画素値テーブルとして、２０個の入力画素値P(l)からなるテーブルを生成する。
【１５５７】
なお、いまの場合、入力画素値P(l)と、上述した入力画素値P(x,y)の関係は、次の式（１３９）で示される関係とされる。ただし、式（１３９）において、左辺が入力画素値P（ｌ）を表し、右辺が入力画素値P(x,y)を表している。
【１５５８】
【数１０７】

・・・（１３９）
【１５５９】
ステップＳ２４０４において、積分成分演算部２４２４は、条件設定部２４２１により設定された条件（タップ範囲および次数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１５６０】
いまの場合、上述したように、入力画素値は、P(x,y)でなくP(l)といった、画素の番号lの値として取得されるので、積分成分演算部２４２４は、上述した式（１３８）の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)を、次の式（１４０）の左辺で示される積分成分S_i(l)といったlの関数として演算する。
【１５６１】
S_i(ｌ) ＝ S_i(x-0.5,x+0.5,y-0.5,y+0.5) ・・・（１４０）
【１５６２】
具体的には、いまの場合、次の式（１４１）で示される積分成分S_i(l)が演算される。
【１５６３】
【数１０８】

・・・（１４１）
【１５６４】
なお、式（１４１）において、左辺が積分成分S_i（ｌ)を表し、右辺が積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)を表している。即ち、いまの場合、iは０乃至５であるので、２０個のS₀(l),２０個のS₁(l),２０個のS₂(l),２０個のS₃(l),２０個のS₄(l),２０個のS₅(l)の総計１２０個のS_i(l)が演算されることになる。
【１５６５】
より具体的には、はじめに、積分成分演算部２４２４は、データ定常性検出部１０１より供給された角度θに対するcotθを演算し、それを変数ｓとする。次に、積分成分演算部２４２４は、演算した変数ｓを使用して式（１４０）の右辺で示される２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5) のそれぞれを、i=０乃至５のそれぞれについて演算する。即ち、１２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5) が演算されることになる。なお、この積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5) の演算においては、上述した式（１３８）が使用される。そして、積分成分演算部２４２４は、式（１４１）に従って、演算した１２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)のそれぞれを、対応するS_i(l)のそれぞれに変換し、変換した１２０個のS_i(l)を含む積分成分テーブルを生成する。
【１５６６】
なお、ステップＳ２４０３の処理とステップＳ２４０４の処理の順序は、図２２８の例に限定されず、ステップＳ２４０４の処理が先に実行されてもよいし、ステップＳ２４０３の処理とステップＳ２４０４の処理が同時に実行されてもよい。
【１５６７】
次に、ステップＳ２４０５において、正規方程式生成部２４２５は、ステップＳ２４０３の処理で入力画素値取得部２４２３により生成された入力画素値テーブルと、ステップＳ２４０４の処理で積分成分演算部２４２４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【１５６８】
具体的には、いまの場合、上述した式（１３７）を利用して最小自乗法により特徴量w_iが演算される（ただし、式（１３６）において、積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)は、式（１４０）により変換されるSi(l)が使用される）ので、それに対応する正規方程式は、次の式（１４２）のように表される。
【１５６９】
【数１０９】

・・・（１４２）
【１５７０】
なお、式（１４２）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、多項式である近似関数f(x)の次数を表している。具体的には、いまの場合、n=5となり、L=１９となる。
【１５７１】
式（１４２）で示される正規方程式の各行列のそれぞれを、次の式（１４３）乃至（１４５）のように定義すると、正規方程式は、次の式（１４６）のように表現される。
【１５７２】
【数１１０】

・・・（１４３）
【１５７３】
【数１１１】

・・・（１４４）
【１５７４】
【数１１２】

・・・（１４５）
【１５７５】
【数１１３】

・・・（１４６）
【１５７６】
式（１４４）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（１４６）において、左辺の行列Ｓ_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MATの演算が可能になる。
【１５７７】
具体的には、式（１４３）で示されるように、行列Ｓ_MATの各成分は、上述した積分成分S_i(l)で演算可能である。即ち、積分成分S_i(l)は、積分成分演算部２４２４より供給された積分成分テーブルに含まれているので、正規方程式生成部２４２５は、積分成分テーブルを利用して行列Ｓ_MATの各成分を演算することができる。
【１５７８】
また、式（１４５）で示されるように、行列Ｐ_MATの各成分は、積分成分S_i(l)と入力画素値P(l)で演算可能である。即ち、積分成分S_i(l)は、行列Ｓ_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部２４２３より供給された入力画素値テーブルに含まれているので、正規方程式生成部２４２５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【１５７９】
このようにして、正規方程式生成部２４２５は、行列Ｓ_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列Ｓ_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部２４２６に出力する。
【１５８０】
正規方程式生成部２４２５より正規方程式テーブルが出力されると、ステップＳ２４０６において、近似関数生成部２４２６は、正規方程式テーブルに基づいて、上述した式（１４６）の行列W_MATの各成分である特徴量w_i（即ち、２次元多項式である近似関数f(x,y)の係数w_i）を演算する。
【１５８１】
具体的には、上述した式（１４６）の正規方程式は、次の式（１４７）のように変形できる。
【１５８２】
【数１１４】

・・・（１４７）
【１５８３】
式（１４７）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列S_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部２４２５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部２４２６は、正規方程式テーブルを利用して、式（１４７）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【１５８４】
ステップＳ２４０７において、近似関数生成部２４２６は、全画素の処理を終了したか否かを判定する。
【１５８５】
ステップＳ２４０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ２４０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ２４０２乃至Ｓ２４０７の処理が繰り返される。
【１５８６】
そして、全画素の処理が終了すると（ステップＳ２４０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【１５８７】
以上、２次元多項式近似手法の説明として、空間方向（X方向とY方向）に対する近似関数f(x,y)の係数（特徴量）w_iを演算する例を用いたが、２次元多項式近似手法は、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対しても適用可能である。
【１５８８】
即ち、上述した例は、実世界１の光信号が、例えば、傾きG_F（図２２４）で表される空間方向の定常性を有する場合の例であったので、上述した式（１３２）で示されるような、空間方向（X方向とY方向）の二次元積分が含まれる式が利用された。しかしながら、二次元積分の考え方は、空間方向だけによるものではなく、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対して適用することも可能である。
【１５８９】
換言すると、２次元多項式近似手法においては、推定したい光信号関数F(x,y,t)が、空間方向の定常性のみならず、時空間方向（ただし、X方向とt方向、または、Y方向とｔ方向）の定常性を有している場合であっても、２次元の多項式により近似することが可能である。
【１５９０】
具体的には、例えば、X方向に水平に等速で動いている物体がある場合、その物体の動きの方向は、図２３０で示されるようなX-t平面においては、傾きV_Fのように表される。換言すると、傾きV_Fは、X-t平面における時空間方向の定常性の方向を表しているとも言える。従って、データ定常性検出部１０１は、上述した角度θ（X-Y平面における、傾きG_Fで表される空間方向の定常性に対応するデータ定常性情報）と同様に、X-t平面における時空間方向の定常性を表す傾きV_Fに対応するデータ定常性情報として、図２３０で示されるような動きθ（厳密には、図示はしないが、傾きV_Fに対応する傾きV_fで表されるデータの定常性の方向と、空間方向のＸ方向とのなす角度である動きθ）を出力することが可能である。
【１５９１】
従って、２次元多項式近似手法を利用する実世界推定部１０２は、動きθを上述した角度θの代わりとして使用すれば、上述した方法と同様な方法で、近似関数f(x,t)の係数（特徴量）w_iを演算することが可能になる。ただし、この場合、使用される式は、上述した式（１３２）ではなく、次の式（１４８）である。
【１５９２】
【数１１５】

・・・（１４８）
【１５９３】
なお、式（１４８）において、ｓはcotθ（ただし、θは動きである）である。
【１５９４】
また、空間方向Ｘの変わりに、空間方向Ｙに注目した近似関数f（y,t)も、上述した近似関数f(x、t)と全く同様に取り扱うことが可能である。
【１５９５】
このように、２次元多項式近似手法においては、例えば、図２０５（図３）のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサの複数の検出素子（例えば、図２２５のセンサ２の検出素子２−１）により実世界１（図２０５）の光信号が射影され、実世界１の光信号の定常性（例えば、図２２４の傾きG_Fで表される定常性）の一部が欠落した、検出素子２−１により射影された画素値を有する複数の画素からなる画像データ（例えば、図２０５の入力画像）におけるデータの定常性（例えば、図２２６の傾きG_fで表されるデータの定常性）を検出する。
【１５９６】
そして、例えば、図２０５(図３)の実世界推定部１０２（構成は、図２２７）が、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも２次元方向（例えば、図２２４と図２２５の空間方向Ｘと、空間方向Ｙ）の位置に対応する画素の画素値（例えば、上述した式（１３１）の左辺である入力画素値Ｐ(x、y)）が、少なくとも２次元方向の積分効果により取得された画素値（例えば、式（１３２）の右辺に示されるように、上述した式（１３１）で示される近似関数f(x,y)がＸ方向とＹ方向に積分された値）であるとして、実世界１の光信号を表す光信号関数F（具体的には、図２２４の関数F(x,y)）を、多項式である近似関数ｆ（例えば、式（１３１）で示される近似関数f(x,y)）で近似することで、光信号関数Fを推定する。
【１５９７】
詳細には、例えば、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応する線（例えば、図２２６の傾きG_fに対応する線（矢印））からの少なくとも２次元方向に沿った距離（例えば、図２２６の断面方向距離ｘ‘）に対応する画素の画素値が、少なくとも２次元方向の積分効果により取得された画素値であるとして、現実世界の光信号を表す第１の関数を、多項式である第２の関数で近似することで、第１の関数を推定する。
【１５９８】
このように、２次元多項式近似手法は、１次元ではなく２次元の積分効果を考慮しているので、１次元多項式近似手法に比較して、より正確に実世界１の光信号を推定することが可能になる。
【１５９９】
次に、図２３１乃至図２３５を参照して、第３の関数近似手法について説明する。
【１６００】
即ち、第３の関数近似手法とは、例えば、時空間方向のうちの所定の方向の定常性を有する実世界１の光信号が、光信号関数F(x,y,t)で表されることに注目して、近似関数f(x,y,t)で光信号関数F(x,y,t)を近似することによって、光信号関数F(x,y,t)を推定する手法である。従って、以下、第３の関数近似手法を、３次元関数近似手法と称する。
【１６０１】
また、３次元関数近似手法の説明においても、センサ２は、図２３１で示されるような、複数の検出素子２−１がその平面上に配置されて構成されるＣＣＤとされる。
【１６０２】
図２３１の例では、検出素子２−１の所定の１辺に平行な方向が、空間方向の１方向であるＸ方向とされており、Ｘ方向に垂直な方向が、空間方向の他方向であるＹ方向とされている。そして、Ｘ−Ｙ平面に垂直な方向が、時間方向であるｔ方向とされている。
【１６０３】
また、図２３１の例では、センサ２の各検出素子２−１のそれぞれの空間的な形状は、１辺の長さが１の正方形とされている。そして、センサ２のシャッタ時間（露光時間）が１とされている。
【１６０４】
さらに、図２３１の例では、センサ２の所定の１つの検出素子２−１の中心が、空間方向（Ｘ方向とＹ方向）の原点（Ｘ方向の位置ｘ＝０、およびＹ方向の位置ｙ＝０）とされており、また、露光時間の中間時刻が、時間方向（ｔ方向）の原点（ｔ方向の位置ｔ＝０）とされている。
【１６０５】
この場合、空間方向の原点（ｘ＝０,ｙ＝０）にその中心が存在する検出素子２−１は、Ｘ方向に-0.5乃至0.5の範囲、Ｙ方向に-0.5乃至0.5の範囲、およびｔ方向に-0.5乃至0.5の範囲で光信号関数F(x,y,t)を積分し、その積分値を画素値Ｐとして出力することになる。
【１６０６】
即ち、空間方向の原点にその中心が存在する検出素子２−１から出力される画素値Ｐは、次の式（１４９）で表される。
【１６０７】
【数１１６】

・・・（１４９）
【１６０８】
その他の検出素子２−１も同様に、対象とする検出素子２−１の中心を空間方向の原点とすることで、式（１４９）で示される画素値Ｐを出力することになる。
【１６０９】
ところで、上述したように、３次元関数近似手法においては、光信号関数F(x,y,t)は、３次元の近似関数f(x,y,t)に近似される。
【１６１０】
具体的には、例えば、近似関数f(x,y,t)を、N個の変数（特徴量）を有する関数とし、式（１４９）に対応する入力画素値P(x,y,t)と近似関数f(x,y,t)の関係式を定義する。これにより、Nより大きいM個の入力画素値P(x,y,t)が取得されていれば、定義された関係式からN個の変数（特徴量）の算出が可能である。即ち、実世界推定部１０２は、M個の入力画素値P(x,y,t)を取得してN個の変数（特徴量）を演算することで、光信号関数F(x,y,t)を推定することが可能である。
【１６１１】
この場合、実世界推定部１０２は、センサ２からの入力画像（入力画素値）に含まれるデータの定常性を縛りとして（即ち、データ定常性検出部１０１より出力される入力画像に対するデータ定常性情報を利用して）、入力画像全体のうちの、M個の入力画像P(x,y,t)を抽出（取得）する。結果的に、予測関数f(x,y,t)は、データの定常性に拘束されることになる。
【１６１２】
例えば、図２３２で示されるように、入力画像に対応する光信号関数F(x,y,t)が、傾きG_Fで表される空間方向の定常性を有している場合、データ定常性検出部１０１は、入力画像に対するデータ定常性情報として、角度θ（傾きG_Fに対応する傾きG_f（図示せず）で表されるデータの定常性の方向と、Ｘ方向のなす角度θ）を出力することになる。
【１６１３】
この場合、光信号関数F(x,y,t)をX方向に射影した１次元の波形（ここでは、このような波形を、Ｘ断面波形と称している）は、Y方向のいずれの位置で射影した場合であっても同一の形状であるとする。
【１６１４】
即ち、同一形状のＸ断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっている２次元の（空間方向の）波形が存在するとし、そのような２次元波形が時間方向tに連なった３次元波形を、近似関数f(x,y,t)で近似する。
【１６１５】
換言すると、注目画素の中心からY方向に位置yだけずれたX断面波形は、注目画素の中心を通るX断面波形がX方向に所定の量（角度θに応じて変化する量）だけ移動した（シフトした）波形となる。なお、以下、このような量を、シフト量と称する。
【１６１６】
このシフト量は、次のようにして算出が可能である。
【１６１７】
即ち、傾きV_f（例えば、図２３２の傾きV_Fに対応する、データの定常性の方向を表す傾きV_f）と角度θは、次の式（１５０）のように表される。
【１６１８】
【数１１７】

・・・（１５０）
【１６１９】
なお、式（１５０）において、dxは、Ｘ方向の微小移動量を表しており、dyは、dxに対するＹ方向の微小移動量を表している。
【１６２０】
従って、X方向に対するシフト量をC_x(y)と記述すると、次の式（１５１）のように表される。
【１６２１】
【数１１８】

・・・（１５１）
【１６２２】
このようにして、シフト量C_x(y)を定義すると、式（１４９）に対応する入力画素値P(x,y,t)と近似関数f(x,y,t)の関係式は、次の式（１５２）のように表される。
【１６２３】
【数１１９】

・・・（１５２）
【１６２４】
式（１５２）において、ｅは、誤差を表している。t_sは、ｔ方向の積分開始位置を表しており、t_eは、ｔ方向の積分終了位置を表している。同様に、y_sは、Ｙ方向の積分開始位置を表しており、y_eは、Ｙ方向の積分終了位置を表している。また、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。ただし、具体的な各積分範囲のそれぞれは、次の式（１５３）で示される通りになる。
【１６２５】
【数１２０】

・・・（１５３）
【１６２６】
式（１５３）で示されるように、注目画素から空間方向に(x,y)だけ離れて位置する画素に対するX方向の積分範囲を、シフト量C_x(y)だけ移動させることで、同一形状のX断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっていることを表すことが可能になる。
【１６２７】
このように、３次元関数近似手法においては、画素値P(x,y、t)と、３次元の近似関数f(x,y,t)の関係を式（１５２）（積分範囲は、式（１５３））で表すことができるので、式（１５２）と式（１５３）を利用して、近似関数f(x,y,t)のN個の特徴量を、例えば、最小自乗法等により演算することで、光信号関数F(x,y,t)（例えば、図２３２で示されるような傾きV_F表される空間方向の定常性を有する光信号）の推定が可能となる。
【１６２８】
なお、光信号関数F(x,y,t)で表される光信号が、例えば、図２３２で示されるような傾きV_Fで表される空間方向の定常性を有している場合、次のようにして光信号関数F(x,y,t)を近似してもよい。
【１６２９】
即ち、光信号関数F(x,y,t)をY方向に射影した１次元の波形（以下、このような波形を、Y断面波形と称する）は、X方向のいずれの位置で射影した場合であっても同一の形状であるとする。
【１６３０】
換言すると、同一形状のY断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっている２次元の（空間方向の）波形が存在するとし、そのような２次元波形が時間方向tに連なった３次元波形を、近似関数f(x,y,t)で近似する。
【１６３１】
従って、注目画素の中心からX方向にxだけずれたY断面波形は、注目画素の中心を通るY断面波形がY方向に所定のシフト量（角度θに応じて変化するシフト量）だけ移動した波形となる。
【１６３２】
このシフト量は、次のようにして算出が可能である。
【１６３３】
即ち、傾きG_Fが、上述した式（１５０）のように表されるので、Y方向に対するシフト量をC_y(x)と記述すると、次の式（１５４）のように表される。
【１６３４】
【数１２１】

・・・（１５４）
【１６３５】
このようにして、シフト量C_y(x)を定義すると、式（１４９）に対応する入力画素値P(x,y,t)と近似関数f(x,y,t)の関係式は、シフト量C_x(y)を定義したときと同様に、上述した式（１５２）で表される。
【１６３６】
ただし、今度は、具体的な各積分範囲のそれぞれは、次の式（１５５）で示される通りになる。
【１６３７】
【数１２２】

・・・（１５５）
【１６３８】
式（１５５）（および上述した式（１５２））で示されるように、注目画素から(x,y)だけ離れて位置する画素に対するY方向の積分範囲を、シフト量C_y(x)だけ移動させることで、同一形状のY断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっていることを表すことが可能になる。
【１６３９】
このように、３次元関数近似手法においては、上述した式（１５２）の右辺の積分範囲を式（１５３）のみならず式（１５５）とすることもできるので、積分範囲として式（１５５）が採用された式（１５２）を利用して、近似関数f(x,y,t)のｎ個の特徴量を、例えば、最小自乗法等により演算することで、光信号関数F(x,y,t)（傾きG_Fで表される空間方向の定常性を有する実世界１の光信号）の推定が可能となる。
【１６４０】
このように、積分範囲を表す式（１５３）と式（１５５）は、定常性の方向にあわせて周辺画素をX方向にシフトさせるか（式（１５３）の場合）、或いはY方向にシフトさせるか（式（１５５）の場合）の違いがあるだけであり、本質的には同じことを表している。
【１６４１】
しかしながら、定常性の方向（傾きG_F）に応じて、光信号関数F(x,y,t)を、X断面波形の集まりと捉えるか、Y断面波形の集まりと捉えるかが異なる。即ち、定常性の方向がY方向に近い場合、光信号関数F(x,y,t)を、X断面波形の集まりと捉えた方が好適である。これに対して、定常性の方向がX方向に近い場合、光信号関数F(x,y,t)を、Y断面波形の集まりと捉えた方が好適である。
【１６４２】
従って、実世界推定部１０２は、積分範囲として式（１５３）と式（１５５）の両方を用意しておき、定常性の方向に応じて、適宜式（１５２）の右辺の積分範囲として、式（１５３）と式（１５５）のうちのいずれか一方を選択するとよい。
【１６４３】
以上、光信号関数F(x,y,t)が空間方向（X方向とY方向）の定常性（例えば、図２３２の傾きG_Fで表される空間方向の定常性）を有する場合についての３次元関数手法について説明したが、３次元関数手法は、図２３３で示されるように、光信号関数F(x,y,t)が時空間方向（X方向、Y方向、およびｔ方向）の定常性（傾きV_Fで表される定常性）を有する場合についても適用可能である。
【１６４４】
即ち、図２３３において、フレーム番号＃N-1のフレームに対応する光信号関数がF(x、y、#N-1)とされ、フレーム番号＃Nのフレームに対応する光信号関数がF(x、y、#N)とされ、かつ、フレーム番号＃N+1のフレームに対応する光信号関数がF(x、y、#N+1)とされている。
【１６４５】
なお、図２３３において、図中、水平方向は、空間方向の1方向であるＸ方向とされており、右斜め上方向は、空間方向の他方向であるＹ方向とされており、かつ、垂直方向は、時間方向であるｔ方向とされている。
【１６４６】
また、フレーム#N-1は、フレーム#Nに対して時間的に前のフレームであり、フレーム#N+1は、フレーム#Nに対して時間的に後のフレームである。即ち、フレーム#N-1、フレーム#N、およびフレーム#N+1は、フレーム#N-1、フレーム#N、およびフレーム#N+1の順で表示される。
【１６４７】
図２３３の例では、傾きV_Fで示される方向（図中左下手前から右上奥の方向）に沿った断面の光のレベルがほぼ一定とされている。従って、図２３３の例では、光信号関数F(x,y,t)は、傾きV_Fで表される時空間方向の定常性を有していると言える。
【１６４８】
この場合、時空間方向の定常性を表す関数C(x,y,t)を定義し、かつ、定義された関数C(x,y,t)を利用して、上述した式（１５２）の積分範囲を定義すれば、上述した式（１５３）や式（１５５）と同様に、近似関数f(x,y,t)のN個の特徴量の算出が可能になる。
【１６４９】
関数C(x,y,t)は、定常性の方向を表す関数であれば特に限定されない。ただし、以下においては、直線的な定常性であるとして、それに対応する関数C(x,y,t)として、上述した空間方向の定常性を表す関数であるシフト量C_x(y)（式（１５１））やシフト量C_y(x)（式（１５３））に相当する、C_x(t)とC_y(t)を次のように定義するとする。
【１６５０】
即ち、上述した空間方向のデータの定常性を表す傾きG_fに対応する、時空間方向のデータの定常性の傾きをV_fとすると、この傾きV_fをX方向の傾き（以下、V_fxと記述する）とY方向の傾き（以下、V_fyと記述する）に分割すると、傾きV_fxは次の式（１５６）で、傾きV_fyは次の式（１５７）で、それぞれ表される。
【１６５１】
【数１２３】

・・・（１５６）
【１６５２】
【数１２４】

・・・（１５７）
【１６５３】
この場合、関数C_x(t)は、式（１５６）で示される傾きV_fxを利用して、次の式（１５８）のように表される。
【１６５４】
【数１２５】

・・・（１５８）
【１６５５】
同様に、関数C_y(t)は、式（１５７）で示される傾きV_fyを利用して、次の式（１５９）のように表される。
【１６５６】
【数１２６】

・・・（１５９）
【１６５７】
このようにして、時空間方向の定常性２５１１を表す関数C_x(t)と関数C_y(t)を定義すると、式（１５２）の積分範囲は、次の式（１６０）のように表される。
【１６５８】
【数１２７】

・・・（１６０）
【１６５９】
このように、３次元関数近似手法においては、画素値P(x,y、t)と、３次元の近似関数f(x,y,t)の関係を式（１５２）で表すことができるので、その式（１５２）の右辺の積分範囲として式（１６０）を利用して、近似関数f(x,y,t)のｎ＋１個の特徴量を、例えば、最小自乗法等により演算することで、光信号関数F(x,y,t)（時空間方向の所定の方向に定常性を有する実世界１の光信号）を推定することが可能となる。
【１６６０】
図２３４は、このような３次元関数近似手法を利用する実世界推定部１０２の構成例を表している。
【１６６１】
なお、３次元関数近似手法を利用する実世界推定部１０２が演算する近似関数f(x,y,t)（実際には、その特徴量（係数）を演算する）は、特に限定されないが、以下の説明においては、ｎ（n＝N-1）次の多項式とされる。
【１６６２】
図２３４で示されるように、実世界推定部１０２には、条件設定部２５２１、入力画像記憶部２５２２、入力画素値取得部２５２３、積分成分演算部２５２４、正規方程式生成部２５２５、および近似関数生成部２５２６が設けられている。
【１６６３】
条件設定部２５２１は、注目画素に対応する光信号関数F(x,y,t)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y,t)の次数nを設定する。
【１６６４】
入力画像記憶部２５２２は、センサ２からの入力画像（画素値）を一次格納する。
【１６６５】
入力画素値取得部２５２３は、入力画像記憶部２５２２に記憶された入力画像のうちの、条件設定部２５２１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部２５２５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。
【１６６６】
ところで、上述したように、３次元関数近似手法を利用する実世界推定部１０２は、上述した式（１５２）（ただし積分範囲は、式（１５３）、式（１５６）、または式（１６０））を利用して最小自乗法により近似関数f(x,y)のN個の特徴量（いまの場合、各次の係数）を演算する。
【１６６７】
式（１５２）の右辺は、その積分を演算することで、次の式（１６１）のように表現することができる。
【１６６８】
【数１２８】

・・・（１６１）
【１６６９】
式（１６１）において、w_iは、i次項の係数（特徴量）を表しており、また、S_i（x_s,x_e,y_s,y_e,t_s,t_e）は、i次項の積分成分を表している。ただし、x_sはX方向の積分範囲の開始位置を、x_eはX方向の積分範囲の終了位置を、y_sはY方向の積分範囲の開始位置を、y_eはY方向の積分範囲の終了位置を、t_sはt方向の積分範囲の開始位置を、t_eはｔ方向の積分範囲の終了位置を、それぞれ表している。
【１６７０】
積分成分演算部２５２４は、この積分成分S_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算する。
【１６７１】
即ち、積分成分演算部２５２４は、条件設定部２５２１により設定されたタップ範囲および次数、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度若しくは動き（積分範囲として、上述した式（１５３）若しくは式（１５６）が利用される場合には角度であり、上述した式（１６０）が利用される場合には動きである）に基づいて積分成分S_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部２５２５に供給する。
【１６７２】
正規方程式生成部２５２５は、入力画素値取得部２５２３より供給された入力画素値テーブルと、積分成分演算部２５２４より供給された積分成分テーブルを利用して、上述した式（１６１）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部２５２６に出力する。正規方程式の例については、後述する。
【１６７３】
近似関数生成部２５２６は、正規方程式生成部２５２５より供給された正規方程式テーブルに含まれる正規方程式を行列解放で解くことにより、特徴量w_i（いまの場合、３次元多項式である画素値関数f(x,y)の係数w_i）のそれぞれを演算し、画像生成部１０３に出力する。
【１６７４】
次に、図２３５のフローチャートを参照して、３次元関数近似手法が適用される実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【１６７５】
はじめに、ステップＳ２５０１において、条件設定部２５２１は、条件（タップ範囲と次数）を設定する。
【１６７６】
例えば、いま、Ｌ個の画素からなるタップ範囲が設定されたとする。また、各画素のそれぞれに対して、所定の番号l（lは、０乃至Ｌ−１のうちのいずれかの整数値）が付されるとする。
【１６７７】
次に、ステップＳ２５０２において、条件設定部２５２１は、注目画素を設定する。
【１６７８】
ステップＳ２５０３において、入力画素値取得部２５２３は、条件設定部２５２１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。いまの場合、Ｌ個の入力画素値P(x,y,t)からなるテーブルが生成されることになる。ここで、Ｌ個の入力画素値P(x,y,t)のそれぞれを、その画素の番号ｌの関数としてP(l)と記述することにする。即ち、入力画素値テーブルは、Ｌ個のP(l)が含まれるテーブルとなる。
【１６７９】
ステップＳ２５０４において、積分成分演算部２５２４は、条件設定部２５２１により設定された条件（タップ範囲および次数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度若しくは動き）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１６８０】
ただし、いまの場合、上述したように、入力画素値は、P(x,y,t)でなくP(l)といった、画素の番号lの値として取得されるので、積分成分演算部２５２４は、上述した式（１６１）の積分成分S_i（x_s,x_e,y_s,y_e,t_s,t_e）を、積分成分S_i(l)といったlの関数として演算することになる。即ち、積分成分テーブルは、Ｌ×ｉ個のS_i(l)が含まれるテーブルとなる。
【１６８１】
なお、ステップＳ２５０３の処理とステップＳ２５０４の処理の順序は、図２３５の例に限定されず、ステップＳ２５０４の処理が先に実行されてもよいし、ステップＳ２５０３の処理とステップＳ２５０４の処理が同時に実行されてもよい。
【１６８２】
次に、ステップＳ２５０５において、正規方程式生成部２５２５は、ステップＳ２５０３の処理で入力画素値取得部２５２３により生成された入力画素値テーブルと、ステップＳ２５０４の処理で積分成分演算部２５２４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【１６８３】
具体的には、いまの場合、最小自乗法により、上述した式（１６１）に対応する次の式（１６２）の特徴量w_iを演算する。で、それに対応する正規方程式は、次の式（１６３）のように表される。
【１６８４】
【数１２９】

・・・（１６２）
【１６８５】
【数１３０】

・・・（１６３）
【１６８６】
式（１６３）で示される正規方程式の各行列のそれぞれを、次の式（１６４）乃至（１６６）のように定義すると、正規方程式は、次の式（１６７）のように表される。
【１６８７】
【数１３１】

・・・（１６４）
【１６８８】
【数１３２】

・・・（１６５）
【１６８９】
【数１３３】

・・・（１６６）
【１６９０】
【数１３４】

・・・（１６７）
【１６９１】
式（１６５）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（１６７）において、左辺の行列Ｓ_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MAT（即ち、特徴量w_i）の算出が可能である。
【１６９２】
具体的には、式（１６４）で示されるように、行列Ｓ_MATの各成分は、上述した積分成分S_i(l)が既知であれば演算可能である。積分成分S_i(l)は、積分成分演算部２５２４より供給された積分成分テーブルに含まれているので、正規方程式生成部２５２５は、積分成分テーブルを利用して行列Ｓ_MATの各成分を演算することができる。
【１６９３】
また、式（１６６）で示されるように、行列Ｐ_MATの各成分は、積分成分S_i(l)と入力画素値P(l)が既知であれば演算可能である。積分成分S_i(l)は、行列Ｓ_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部２５２３より供給された入力画素値テーブルに含まれているので、正規方程式生成部２５２５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【１６９４】
このようにして、正規方程式生成部２５２５は、行列Ｓ_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列Ｓ_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部２５２６に出力する。
【１６９５】
正規方程式生成部２５２５より正規方程式テーブルが出力されると、ステップＳ２５０６において、近似関数生成部２５２６は、正規方程式テーブルに基づいて、上述した式（１６７）の行列W_MATの各成分である特徴量w_i（即ち、近似関数f(x,y,t)の係数w_i）を演算する。
【１６９６】
具体的には、上述した式（１６７）の正規方程式は、次の式（１６８）のように変形できる。
【１６９７】
【数１３５】

・・・（１６８）
【１６９８】
式（１６８）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列S_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部２５２５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部２５２６は、正規方程式テーブルを利用して、式（１６８）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【１６９９】
ステップＳ２５０７において、近似関数生成部２５２６は、全画素の処理を終了したか否かを判定する。
【１７００】
ステップＳ２５０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ２５０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ２５０２乃至Ｓ２５０７の処理が繰り返される。
【１７０１】
そして、全画素の処理が終了すると（ステップＳ２５０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【１７０２】
以上、説明したように、３次元関数近似手法は、１次元や２次元ではなく、時空間方向の３次元の積分効果を考慮しているので、１次元多項式近似手法や２次元多項式近似手法に比較して、より正確に実世界１の光信号を推定することが可能になる。
【１７０３】
換言すると、３次元関数近似手法においては、例えば、図２０５（図３）の実世界推定部１０２（構成は、例えば、図２３４）は、それぞれ時空間積分効果を有する、センサの複数の検出素子（例えば、図２３１のセンサ２の検出素子２−１）により実世界１の光信号が射影され、実世界１の光信号の定常性（例えば、図２３２の傾きG_F、または、図２３３の傾きV_Fで表される定常性）の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像の、時空間方向のうち少なくとも１次元方向（例えば、図２３３の空間方向Ｘ、空間方向Y、および、時間方向ｔの３次元方向）の位置に対応する前記画素の前記画素値（例えば、式（１５３）の左辺の入力画素値P(x,y,z)）が、少なくとも１次元方向の積分効果により取得された画素値（例えば、上述した式（１５３）の右辺に示されるように、近似関数f(x,y,t)がＸ方向、Ｙ方向、およびｔ方向の３次元に積分された値）であるとして、実世界の光信号を表す光信号関数F（具体的には、例えば、図２３２や図２３３の光信号関数F(x,y,t)）を所定の近似関数ｆ（具体的には、例えば、式（１５２）の右辺の近似関数f(x,y,t)）で近似することで、光信号関数Fを推定する。
【１７０４】
さらに、例えば、図２０５（図３）のデータ定常性検出部１０１が、入力画像のデータの定常性を検出した場合、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも１次元方向の位置に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Fを近似関数ｆで近似することで、光信号関数Fを推定する。
【１７０５】
詳細には、例えば、実世界推定部１０２は、定常性検出部１０１により検出されたデータの定常性に対応する線からの少なくとも１次元方向に沿った距離（例えば、上述した式（１５１）のシフト量Cx(y)）に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値（例えば、上述した式（１５３）で示されるような積分範囲で、式（１５２）の右辺に示されるように、近似関数f(x,y,t)がＸ方向、Ｙ方向、およびｔ方向の３次元に積分された値）であるとして、光信号関数Fを近似関数で近似することで、光信号関数を推定する。
【１７０６】
従って、３次元関数近似手法は、より正確に実世界１の光信号を推定することが可能になる。
【１７０７】
次に、図２３６乃至図２５７を参照して、画像生成部１０３（図３）の実施の形態の１例について説明する。
【１７０８】
図２３６は、この例の実施の形態の原理を説明する図である。
【１７０９】
図２３６で示されるように、この例の実施の形態においては、実世界推定部１０２が、関数近似手法を利用することが前提とされている。即ち、センサ２に入射される画像である、実世界１の信号（光の強度の分布）が、所定の関数Ｆで表されるとして、実世界推定部１０２が、センサ２から出力された入力画像（画素値Ｐ）と、データ定常性検出部１０１から出力されたデータ定常性情報を使用して、関数Ｆを所定の関数ｆで近似することによって、関数Ｆを推定することが前提とされている。
【１７１０】
なお、以下、この例の実施の形態の説明においても、画像である、実世界１の信号を、特に光信号と称し、関数Ｆを、特に光信号関数Ｆと称する。また、関数ｆを、特に近似関数fと称する。
【１７１１】
そこで、この例の実施の形態においては、このような前提に基づいて、画像生成部１０３が、データ定常性検出部１０１から出力されたデータ定常性情報と、実世界推定部１０２から出力された実世界推定情報（図２３６の例では、近似関数fの特徴量）を使用して、近似関数fを所定の時空間範囲で積分し、その積分値を出力画素値Ｍ（出力画像）として出力する。なお、この例の実施の形態においては、入力画像の画素と出力画像の画素を区別するために、入力画素値をＰと記述し、出力画素値をＭと記述する。
【１７１２】
換言すると、光信号関数Ｆが１度積分されて入力画素値Ｐとなり、その入力画素値Ｐから光信号関数Ｆが推測され（近似関数fで近似され）、推測された光信号関数Ｆ（即ち、近似関数f）が再度積分されて、出力画素値Ｍが生成される。従って、以下、画像生成部１０３が実行する近似関数fの積分を、再積分と称する。また、この例の実施の形態を、再積分手法と称する。
【１７１３】
なお、後述するように、再積分手法において、出力画素値Ｍが生成される場合の近似関数fの積分範囲は、入力画素値Ｐが生成される場合の光信号関数Ｆの積分範囲（即ち、空間方向においては、センサ２の検出素子の縦幅と横幅であり、時間方向においては、センサ２の露光時間である）に限定されず、任意の積分範囲が可能である。
【１７１４】
例えば、出力画素値Ｍが生成される場合、近似関数fの積分範囲のうちの空間方向の積分範囲を可変することで、その積分範囲に応じて出力画像の画素ピッチを可変することが可能になる。即ち、空間解像度の創造が可能になる。
【１７１５】
同様に、例えば、出力画素値Ｍが生成される場合、近似関数fの積分範囲のうちの時間方向の積分範囲を可変することで、時間解像度の創造が可能になる。
【１７１６】
以下、図面を参照して、このような再積分手法のうちの３つの具体的な手法についてそれぞれ個別に説明していく。
【１７１７】
即ち、３つの具体的な手法とは、関数近似手法の３つの具体的な手法（実世界推定部１０２の実施の形態の上述した３つの具体的な例）のそれぞれに対応する再積分手法である。
【１７１８】
具体的には、１つ目の手法は、上述した１次元多項式近似手法（関数近似手法の１手法）に対応する再積分手法である。従って、１つ目の手法では１次元の再積分を行うことになるので、以下、このような再積分手法を、１次元再積分手法と称する。
【１７１９】
２つ目の手法は、上述した２次元多項式近似手法（関数近似手法の１手法）に対応する再積分手法である。従って、２つ目の手法では２次元の再積分を行うことになるので、以下、このような再積分手法を、２次元再積分手法と称する。
【１７２０】
３つ目の手法は、上述した３次元関数近似手法（関数近似手法の１手法）に対応する再積分手法である。従って、３つ目の手法では３次元の再積分を行うことになるので、以下、このような再積分手法を、３次元再積分手法と称する。
【１７２１】
以下、１次元再積分手法、２次元再積分手法、および３次元再積分手法のそれぞれの詳細について、その順番で説明していく。
【１７２２】
はじめに、１次元再積分手法について説明する。
【１７２３】
１次元再積分手法においては、１次元多項式近似手法により近似関数f(x)が既に生成されていることが前提とされる。
【１７２４】
即ち、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする光信号関数F(x,y,t)を、空間方向であるX方向、Y方向、およびZ方向、並びに時間方向であるｔ方向のうちの所定の１方向（例えば、X方向）に射影した１次元の波形（再積分手法の説明においても、このような波形のうちのX方向に射影した波形を、X断面波形F(x)と称することにする）が、n次（nは、任意の整数）の多項式である近似関数f(x)で近似されていることが前提とされる。
【１７２５】
この場合、１次元再積分手法においては、出力画素値Ｍは、次の式（１６９）のように演算される。
【１７２６】
【数１３６】

・・・（１６９）
【１７２７】
なお、式（１６９）において、x_sは、積分開始位置を表しており、x_eは、積分終了位置を表している。また、G_eは、所定のゲインを表している。
【１７２８】
具体的には、例えば、いま、実世界推測部１０２が、図２３７で示されるような画素３１０１（センサ２の所定の１つの検出素子に対応する画素３１０１）を注目画素として、図２３７で示されるような近似関数f(x)（Ｘ断面波形F(x)の近似関数f(x)）を既に生成しているとする。
【１７２９】
なお、図２３７の例では、画素３１０１の画素値（入力画素値）がＰとされ、かつ、画素３１０１の形状が、１辺の長さが１の正方形とされている。また、空間方向のうちの、画素３１０１の１辺に平行な方向（図中水平方向）がＸ方向とされ、Ｘ方向に垂直な方向（図中垂直方向）がＹ方向とされている。
【１７３０】
また、図２３７の下側に、画素３１０１の中心が原点とされる空間方向（Ｘ方向とＹ方向）の座標系（以下、注目画素座標系と称する）と、その座標系における画素３１０１が示されている。
【１７３１】
さらに、図２３７の上方に、y＝０（yは、図中下側で示される注目画素座標系のY方向の座標値）における近似関数f(x)をグラフ化したものが示されている。このグラフにおいて、図中水平方向に平行な軸は、図中下側で示される注目画素座標系のX方向のx軸と同一の軸であり（原点も同一であり）、また、図中垂直方向に平行な軸は、画素値を表す軸とされている。
【１７３２】
この場合、近似関数f(x)と画素３１０１の画素値Pの間には、次の式（１７０）の関係が成立する。
【１７３３】
【数１３７】

・・・（１７０）
【１７３４】
また、図２３７で示されるように、画素３１０１は、傾きG_fで表される空間方向のデータの定常性を有しているとする。そして、データ定常性検出部１０１（図２３６）が、傾きG_fで表されるデータの定常性に対応するデータ定常性情報として、図２３７で示されるような角度θを既に出力しているとする。
【１７３５】
この場合、例えば、１次元再積分方法においては、図２３８で示されるように、Ｘ方向に−０．５乃至０．５の範囲、かつＹ方向に−０．５乃至０．５の範囲（図２３７の画素３１０１が位置する範囲）に、４個の画素３１１１乃至画素３１１４を新たに創造することが可能である。
【１７３６】
なお、図２３８の下側に、図２３７のものと同一の注目画素座標系と、その注目画素座標系における画素３１１１乃至画素３１１４が示されている。また、図２３８の上側に、図２３７のものと同一のグラフ（y=0における近似関数f(x)をグラフ化したもの）が示されている。
【１７３７】
具体的には、図２３８で示されるように、１次元再積分方法においては、次の式（１７１）により画素３１１１の画素値Ｍ（１）の算出が、次の式（１７２）により画素３１１２の画素値Ｍ（２）の算出が、次の式（１７３）により画素３１１３の画素値Ｍ（３）の算出が、次の式（１７４）により画素３１１４の画素値Ｍ（４）の算出が、それぞれ可能である。
【１７３８】
【数１３８】

・・・（１７１）
【１７３９】
【数１３９】

・・・（１７２）
【１７４０】
【数１４０】

・・・（１７３）
【１７４１】
【数１４１】

・・・（１７４）
【１７４２】
なお、式（１７１）のx_s1、式（１７２）のx_s2、式（１７３）のx_s3、および式（１７４）のx_s4のそれぞれは、対応する式の積分開始位置を表している。また、式（１７１）のx_e1、式（１７２）のx_e2、式（１７３）のx_e3、および式（１７４）のx_e4のそれぞれは、対応する式の積分終了位置を表している。
【１７４３】
式（１７１）乃至式（１７４）のそれぞれの右辺の積分範囲は、画素３１１１乃至画素３１１４のそれぞれの画素幅（Ｘ方向の長さ）となる。即ち、x_e1-x_s1,x_e2-x_s2,x_e3-x_s3,x_e4-x_s4のそれぞれは、０．５となる。
【１７４４】
ただし、いまの場合、y=0における近似関数f(x)と同一形状の１次元の波形が、Ｙ方向ではなく、傾きG_fで表されるデータの定常性の方向（即ち、角度θ方向）に連なっていると考えられる（実際には、y=0におけるＸ断面波形F(x)と同一形状の波形が定常性の方向に連なっている）。即ち、図２３８の注目画素座標系における原点(0,0)（図２３７の画素３１０１の中心）における画素値f(0)を画素値f1とした場合、画素値f1が続く方向は、Y方向ではなく、傾きG_fで表されるデータの定常性の方向（角度θ方向）である。
【１７４５】
換言すると、Y方向の所定の位置y（ただし、yは０以外の数値）における近似関数f(x)の波形を考えた場合、画素値f1となる位置は、位置（0,y）ではなく、位置（0,y）からX方向に所定の量（ここでも、このような量をシフト量と称することにする。また、シフト量は、Y方向の位置ｙに依存する量であるので、このシフト量をC_x(y)と記述することにする）だけ移動した位置（C_x(y),y）である。
【１７４６】
従って、上述した式（１７１）乃至式（１７４）のそれぞれの右辺の積分範囲として、求めたい画素値M（l）（ただし、ｌは、１乃至４のうちのいずれかの整数値）の中心が存在するY方向の位置ｙを考慮した範囲、即ち、シフト量C_x(y)を考慮した積分範囲の設定が必要である。
【１７４７】
具体的には、例えば、画素３１１１と画素３１１２の中心が存在するY方向の位置yは、y=０ではなく、y=0.25である。
【１７４８】
従って、y=0.25における近似関数f(x)の波形は、y=０における近似関数f(x)の波形をX方向にシフト量C_x(0.25)だけ移動させた波形に相当する。
【１７４９】
換言すると、上述した式（１７１）において、画素３１１１に対する画素値M(1)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s1から終了位置x_e1まで）で積分したものであるとすると、その積分範囲は、開始位置x_s1＝-0.5から終了位置x_e1＝０までの範囲（画素３１１１がX方向に占める範囲そのもの）ではなく、図２３８で示される範囲、即ち、開始位置x_s1＝-0.5＋C_x(0.25)から終了位置x_e1＝０＋C_x(0.25)（シフト量C_x(0.25)だけ画素３１１１を仮に移動させた場合における、画素３１１１がX方向に占める範囲）となる。
【１７５０】
同様に、上述した式（１７２）において、画素３１１２に対する画素値M(2)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s2から終了位置x_e2まで）で積分したものであるとすると、その積分範囲は、開始位置x_s2＝０から終了位置x_e2＝0.5までの範囲（画素３１１２のX方向に占める範囲そのもの）ではなく、図２３８で示される範囲、即ち、開始位置x_s2＝０＋C_x(0.25)から終了位置x _e2 ＝0.5＋C_x(0.25)（シフト量C_x(0.25)だけ画素３１１２を仮に移動させた場合における、画素３１１２のX方向に占める範囲）となる。
【１７５１】
また、例えば、画素３１１３と画素３１１４の中心が存在するY方向の位置yは、y=０ではなく、y=-0.25である。
【１７５２】
従って、y=-0.25における近似関数f(x)の波形は、y=０における近似関数f(x)の波形をX方向にシフト量C_x(-0.25)だけ移動させた波形に相当する。
【１７５３】
換言すると、上述した式（１７３）において、画素３１１３に対する画素値M(3)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s3から終了位置x_e3まで）で積分したものであるとすると、その積分範囲は、開始位置x_s3＝-0.5から終了位置x_e3＝０までの範囲（画素３１１３のX方向に占める範囲そのもの）ではなく、図２３８で示される範囲、即ち、開始位置x_s3＝-0.5＋C_x(-0.25)から終了位置x_e3＝０＋C_x(-0.25)（シフト量C_x(-0.25)だけ画素３１１３を仮に移動させた場合における、画素３１１３のX方向に占める範囲）となる。
【１７５４】
同様に、上述した式（１７４）において、画素３１１４に対する画素値M(4)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s4から終了位置x_e4まで）で積分したものであるとすると、その積分範囲は、開始位置x_s4＝０から終了位置x_e4＝0.5までの範囲（画素３１１４のX方向の占める範囲そのもの）ではなく、図２３８で示される範囲、即ち、開始位置x_s4＝０＋C_x(-0.25)から終了位置x _e4 ＝0.5＋C_x(-0.25)（シフト量C_x(-0.25)だけ画素３１１４を仮に移動させた場合における、画素３１１４のX方向に占める範囲）となる。
【１７５５】
従って、画像生成部１０２（図２３６）は、上述した式（１７１）乃至式（１７４）のそれぞれに、上述した積分範囲のうちの対応するものを代入してそれぞれ演算し、それらの演算結果を出力画素値M(1)乃至M（４）のそれぞれとして出力することになる。
【１７５６】
このように、画像生成部１０２は、１次元再積分手法を利用することで、センサ２（図２３６）からの出力画素３１０１（図２３７）における画素として、出力画素３１０１よりも空間解像度の高い４つの画素、即ち、画素３１１１乃至画素３１１４（図２３８）を創造することができる。さらに、図示はしないが、上述したように、画像生成部１０２は、画素３１１１乃至画素３１１４のみならず、積分範囲を適宜変えることで、出力画素３１０１に対して任意の倍率の空間解像度の画素を劣化することなく創造することができる。
【１７５７】
図２３９は、このような１次元再積分手法を利用する画像生成部１０３の構成例を表している。
【１７５８】
図２３９で示されるように、この例の画像生成部１０３には、条件設定部３１２１、特徴量記憶部３１２２、積分成分演算部３１２３、および出力画素値演算部３１２４が設けられている。
【１７５９】
条件設定部３１２１は、実世界推定部１０２より供給された実世界推定情報（図２３９の例では、近似関数f(x)の特徴量）に基づいて近似関数f(x)の次数nを設定する。
【１７６０】
条件設定部３１２１はまた、近似関数f(x)を再積分する場合（出力画素値を演算する場合）の積分範囲を設定する。なお、条件設定部３１２１が設定する積分範囲は、画素の幅である必要は無い。例えば、近似関数f（x）は空間方向（X方向）に積分されるので、センサ２（図２３６）からの入力画像の各画素の空間的な大きさに対する、出力画素（画像生成部１０３がこれから演算する画素）の相対的な大きさ（空間解像度の倍率）がわかれば、具体的な積分範囲の決定が可能である。従って、条件設定部３１２１は、積分範囲として、例えば、空間解像度倍率を設定することもできる。
【１７６１】
特徴量記憶部３１２２は、実世界推定部１０２より順次供給されてくる近似関数f(x)の特徴量を一次的に記憶する。そして、特徴量記憶部３１２２は、近似関数f（ｘ）の特徴量の全てを記憶すると、近似関数f(x)の特徴量を全て含む特徴量テーブルを生成し、出力画素値演算部３１２４に供給する。
【１７６２】
ところで、上述したように、画像生成部１０３は、上述した式（１６９）を利用して出力画素値Mを演算するが、上述した式（１６９）の右辺に含まれる近似関数f(x)は、具体的には、次の式（１７５）のように表される。
【１７６３】
【数１４２】

・・・（１７５）
【１７６４】
なお、式（１７５）において、w_iは、実世界推定部１０２より供給される近似関数f(x)の特徴量を表している。
【１７６５】
従って、上述した式（１６９）の右辺の近似関数f(x)に、式（１７５）の近似関数f（x）を代入して、式（１６９）の右辺を展開（演算）すると、出力画素値Mは、次の式（１７６）のように表される。
【１７６６】
【数１４３】

・・・（１７６）
【１７６７】
式（１７６）において、K_i（x_s,x_e）は、i次項の積分成分を表している。即ち、積分成分K_i（x_s,x_e）は、次の式（１７７）で示される通りである。
【１７６８】
【数１４４】

・・・（１７７）
【１７６９】
積分成分演算部３１２３は、この積分成分K_i（x_s,x_e）を演算する。
【１７７０】
具体的には、式（１７７）で示されるように、積分成分K_i（x_s,x_e）は、積分範囲の開始位置x_s、および終了位置x_e、ゲインG_e、並びにi次項のiが既知であれば演算可能である。
【１７７１】
これらのうちの、ゲインG_eは、条件設定部３１２１により設定された空間解像度倍率（積分範囲）により決定される。
【１７７２】
iの範囲は、条件設定部３１２１により設定された次数nにより決定される。
【１７７３】
また、積分範囲の開始位置x_s、および終了位置x_eのそれぞれは、これから生成する出力画素の中心画素位置(x,y)および画素幅、並びにデータの定常性の方向を表すシフト量C_x(y)により決定される。なお、(x,y)は、実世界推定部１０２が近似関数f(x)を生成したときの注目画素の中心位置からの相対位置を表している。
【１７７４】
さらに、これから生成する出力画素の中心画素位置(x,y)および画素幅のそれぞれは、条件設定部３１２１により設定された空間解像度倍率（積分範囲）により決定される。
【１７７５】
また、シフト量C_x(y)と、データ定常性検出部１０１より供給された角度θは、次の式（１７８）と式（１７９）のような関係が成り立つので、シフト量C_x(y)は角度θにより決定される。
【１７７６】
【数１４５】

・・・（１７８）
【１７７７】
【数１４６】

・・・（１７９）
【１７７８】
なお、式（１７８）において、G_fは、データの定常性の方向を表す傾きを表しており、θは、データ定常性検出部１０１（図２３６）より出力されるデータ定常性情報の１つである角度（空間方向の１方向であるＸ方向と、傾きG_fで表されるデータの定常性の方向とのなす角度）を表している。また、dxは、Ｘ方向の微小移動量を表しており、dyは、dxに対するＹ方向（Ｘ方向と垂直な空間方向）の微小移動量を表している。
【１７７９】
従って、積分成分演算部３１２３は、条件設定部３１２１により設定された次数および空間解像度倍率（積分範囲）、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分K_i（x_s,x_e）を演算し、その演算結果を積分成分テーブルとして出力画素値演算部３１２４に供給する。
【１７８０】
出力画素値演算部３１２４は、特徴量記憶部３１２２より供給された特徴量テーブルと、積分成分演算部３１２３より供給された積分成分テーブルを利用して、上述した式（１７６）の右辺を演算し、その演算結果を出力画素値Mとして外部に出力する。
【１７８１】
次に、図２４０のフローチャートを参照して、１次元再積分手法を利用する画像生成部１０３（図２３９）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【１７８２】
例えば、いま、上述した図４０のステップＳ１０２の処理で、実世界推測部１０２が、上述した図２３７で示されるような画素３１０１を注目画素として、図２３７で示されるような近似関数f(x)を既に生成しているとする。
【１７８３】
また、上述した図４０のステップＳ１０１の処理で、データ定常性検出部１０１が、データ定常性情報として、図２３７で示されるような角度θを既に出力しているとする。
【１７８４】
この場合、図２４０のステップＳ３１０１において、条件設定部３１２１は、条件（次数と積分範囲）を設定する。
【１７８５】
例えば、いま、次数として５が設定されるとともに、積分範囲として空間４倍密（画素のピッチ幅が上下左右ともに1/2倍となる空間解像度倍率）が設定されたとする。
【１７８６】
即ち、この場合、図２３８で示されるように、Ｘ方向に−０．５乃至０．５の範囲、かつＹ方向に−０．５乃至０．５の範囲（図２３７の画素３１０１の範囲）に、４個の画素３１１１乃至画素３１１４を新たに創造することが設定されたことになる。
【１７８７】
ステップＳ３１０２において、特徴量記憶部３１２２は、実世界推定部１０２より供給された近似関数f(x)の特徴量を取得し、特徴量テーブルを生成する。いまの場合、５次の多項式である近似関数f(x)の係数w₀乃至w₅が実世界推定部１０２より供給されるので、特徴量テーブルとして、（w₀,w₁,w₂,w₃,w₄,w₅）が生成される。
【１７８８】
ステップＳ３１０３において、積分成分演算部３１２３は、条件設定部３１２１により設定された条件（次数および積分範囲）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１７８９】
具体的には、例えば、これから生成する画素３１１１乃至画素３１１４のそれぞれに対して、番号（このような番号を、以下、モード番号と称する）１乃至４のそれぞれが付されているとすると、積分成分演算部３１２３は、上述した式（１７７）の積分成分K_i（x_s,x_e）を、次の式（１８０）の左辺で示される積分成分K_i(l)といったl（ただし、ｌはモード番号を表している）の関数として演算する。
【１７９０】
K_i(ｌ) ＝ K_i（x_s,x_e） ・・・（１８０）
【１７９１】
具体的には、いまの場合、次の式（１８１）で示される積分成分K_i(l)が演算される。
【１７９２】
【数１４７】

・・・（１８１）
【１７９３】
なお、式（１８１）において、左辺が積分成分K_i(l)を表し、右辺が積分成分K_i（x_s,x_e）を表している。即ち、いまの場合、lは、１乃至４のうちのいずれかであり、かつ、iは０乃至５のうちのいずれかであるので、６個のK_i(１),６個のK_i(２),６個のK_i(３),６個のK_i(４)の総計２４個のK_i(l)が演算されることになる。
【１７９４】
より具体的には、はじめに、積分成分演算部３１２３は、データ定常性検出部１０１より供給された角度θを使用して、上述した式（１７８）と式（１７９）よりシフト量C_x(-0.25)、およびC_x(0.25)のそれぞれを演算する。
【１７９５】
次に、積分成分演算部３１２３は、演算したシフト量C_x(-0.25)、およびC_x(0.25)を使用して、式（１８１）の４つの式の各右辺の積分成分K_i（x_s,x_e）のそれぞれを、i＝０乃至５についてそれぞれ演算する。なお、この積分成分K_i（x_s,x_e）の演算においては、上述した式（１７７）が使用される。
【１７９６】
そして、積分成分演算部３１２３は、式（１８１）に従って、演算した２４個の積分成分K_i（x_s,x_e）のそれぞれを、対応する積分成分K_i(l)に変換し、変換した２４個の積分成分K_i(l)（即ち、６個のK_i(1)、６個のK_i(2)、６個のK_i(3)、および６個のK_i(4)）を含む積分成分テーブルを生成する。
【１７９７】
なお、ステップＳ３１０２の処理とステップＳ３１０３の処理の順序は、図２４０の例に限定されず、ステップＳ３１０３の処理が先に実行されてもよいし、ステップＳ３１０２の処理とステップＳ３１０３の処理が同時に実行されてもよい。
【１７９８】
次に、ステップＳ３１０４において、出力画素値演算部３１２４は、ステップＳ３１０２の処理で特徴量記憶部３１２２により生成された特徴量テーブルと、ステップＳ３１０３の処理で積分成分演算部３１２３により生成された積分成分テーブルに基づいて出力画素値M(1)乃至M(4)のそれぞれを演算する。
【１７９９】
具体的には、いまの場合、出力画素値演算部３１２４は、上述した式（１７６）に対応する、次の式（１８２）乃至式（１８５）の右辺を演算することで、画素３１１１（モード番号１の画素）の画素値M(1)、画素３１１２（モード番号２の画素）の画素値M(2)、画素３１１３（モード番号３の画素）の画素値M(3)、および画素３１１４（モード番号４の画素）の画素値M(4)のそれぞれを演算する。
【１８００】
【数１４８】

・・・（１８２）
【１８０１】
【数１４９】

・・・（１８３）
【１８０２】
【数１５０】

・・・（１８４）
【１８０３】
【数１５１】

・・・（１８５）
【１８０４】
ステップＳ３１０５において、出力画素値演算部３１２４は、全画素の処理を終了したか否かを判定する。
【１８０５】
ステップＳ３１０５において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３１０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３１０２乃至Ｓ３１０４の処理が繰り返される。
【１８０６】
そして、全画素の処理が終了すると（ステップＳ３１０５において、全画素の処理が終了されたと判定すると）、出力画素値演算部３１２４は、ステップＳ３１０６において、画像を出力する。その後、画像の生成の処理は終了となる。
【１８０７】
次に、図２４１乃至図２４８を参照して、所定の入力画像に対して、１次元再積分手法を適用して得られた出力画像と、他の手法（従来のクラス分類適応処理）を適用して得られた出力画像の違いについて説明する。
【１８０８】
図２４１は、入力画像の元の画像を示す図であり、図２４２は、図２４１の元の画像に対応する画像データを示している。図２４２において、図中垂直方向の軸は、画素値を示し、図中右下方向の軸は、画像の空間方向の一方向であるＸ方向を示し、図中右上方向の軸は、画像の空間方向の他の方向であるＹ方向を示す。なお、後述する図２４４、図２４６、および図２４８の軸のそれぞれは、図２４２の軸と対応している。
【１８０９】
図２４３は、入力画像の例を示す図である。図２４３で示される入力画像は、図２４１で示される画像の２×２の画素からなるブロックに属する画素の画素値の平均値を、１つの画素の画素値として生成された画像である。即ち、入力画像は、図２４１で示される画像に、センサの積分特性を模した、空間方向の積分を適用することにより得られた画像である。また、図２４４は、図２４３の入力画像に対応する画像データを示している。
【１８１０】
図２４１で示される元の画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。同様に、図２４３で示される入力画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。
【１８１１】
図２４５は、図２４３で示される入力画像に、従来のクラス分類適応処理を適用して得られた画像（以下、図２４５で示される画像を、従来の画像と称する）を示す図である。また、図２４６は、従来の画像に対応する画像データを示している。
【１８１２】
なお、クラス分類適応処理は、クラス分類処理と適応処理とからなり、クラス分類処理によって、データを、その性質に基づいてクラス分けし、各クラスごとに適応処理を施すものである。適応処理では、例えば、低画質または標準画質の画像が、所定のタップ係数を用いてマッピング（写像）されることにより、高画質の画像に変換される。
【１８１３】
図２４７は、図２４３で示される入力画像に、本発明が適用される１次元再積分手法を適用して得られた画像（以下、図２４７で示される画像を、本発明の画像と称する）を示す図である。また、図２４８は、本発明の画像に対応する画像データを示している。
【１８１４】
図２４５の従来の画像と、図２４７の本発明の画像を比較するに、従来の画像においては、細線の画像が、図２４１の元の画像とは異なるものになっているのに対して、本発明の画像においては、細線の画像が、図２４１の元の画像とほぼ同じものになっていることがわかる。
【１８１５】
この違いは、従来のクラス分類適応処理は、あくまでも図２４３の入力画像を基準（原点）として処理を行う手法であるのに対して、本発明の１次元再積分手法は、細線の定常性を考慮して、図２４１の元の画像を推定し（元の画像に対応する近似関数f(x)を生成し）、推定した元の画像を基準（原点）として処理を行う（再積分して画素値を演算する）手法であるからである。
【１８１６】
このように、１次元再積分手法においては、１次元多項式近似手法により生成された１次元の多項式である近似関数f(x)（実世界のX断面波形F(x)の近似関数f(x)）を基準（原点）として、近似関数f(x)を任意の範囲に積分することで出力画像（画素値）が生成される。
【１８１７】
従って、１次元再積分手法においては、従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の光信号）により近い画像の出力が可能になる。
【１８１８】
換言すると、１次元再積分手法においては、図２３６のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサ２の複数の検出素子により実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像におけるデータの定常性を検出し、実世界推定部１０２が、検出されたデータの定常性に対応して、入力画像の時空間方向のうち１次元方向の位置に対応する画素の画素値が、その１次元方向の積分効果により取得された画素値であるとして、実世界１の光信号を表す光信号関数Ｆ（具体的には、Ｘ断面波形F(x)）を、所定の近似関数ｆ（ｘ）で近似することで、光信号関数Ｆを推定していることが前提とされている。
【１８１９】
詳細には、例えば、検出されたデータの定常性に対応する線からの１次元方向に沿った距離に対応する各画素の画素値が、その１次元方向の積分効果により取得された画素値であるとして、Ｘ断面波形F(x)が近似関数f(x)で近似されていることが前提とされている。
【１８２０】
そして、１次元再積分手法においては、このような前提に基づいて、例えば、図２３６（図３）の画像生成部１０３が、実世界推定部１０２により推定されたＸ断面波形Ｆ（ｘ）、即ち、近似関数ｆ(x)を、１次元方向の所望の単位で積分することにより所望の大きさの画素に対応する画素値Mを生成し、それを出力画像として出力する。
【１８２１】
従って、１次元再積分手法においては、従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の光信号）により近い画像の出力が可能になる。
【１８２２】
また、１次元再積分手法においては、上述したように、積分範囲は任意なので、積分範囲を可変することにより、入力画像の解像度とは異なる解像度（時間解像度、または空間解像度）を創造することも可能になる。即ち、入力画像の解像度に対して、整数値だけではなく任意の倍率の解像度の画像を生成することが可能になる。
【１８２３】
さらに、１次元再積分手法においては、他の再積分手法に比較して、より少ない演算処理量で出力画像（画素値）の算出が可能となる。
【１８２４】
次に、図２４９乃至図２５５を参照して、２次元再積分手法について説明する。
【１８２５】
２次元再積分手法においては、２次元多項式近似手法により近似関数f(x,y)が既に生成されていることが前提とされる。
【１８２６】
即ち、例えば、図２４９で示されるような、傾きG_Fで表される空間方向の定常性を有する実世界１（図２３６）の光信号を表す画像関数F(x,y,t)を、空間方向（Ｘ方向とＹ方向）に射影した波形、即ち、Ｘ−Ｙ平面上の波形F(x,y)が、n次（nは、任意の整数）の多項式である近似関数f(x,y)に近似されていることが前提とされる。
【１８２７】
図２４９において、図中、水平方向は、空間方向の１方向であるＸ方向を、右上方向は、空間方向の他方向であるＹ方向を、垂直方向は、光のレベルを、それぞれ表している。G_Fは、空間方向の定常性の傾きを表している。
【１８２８】
なお、図２４９の例では、定常性の方向は、空間方向（Ｘ方向とＹ方向）とされているため、近似の対象とされる光信号の射影関数は、関数F(x,y)とされているが、後述するように、定常性の方向に応じて、関数F(x,t)や関数F(y,t)が近似の対象とされてもよい。
【１８２９】
図２４９の例の場合、２次元再積分手法においては、出力画素値Ｍは、次の式（１８６）のように演算される。
【１８３０】
【数１５２】

・・・（１８６）
【１８３１】
なお、式（１８６）において、y_sは、Ｙ方向の積分開始位置を表しており、y_eは、Ｙ方向の積分終了位置を表している。同様に、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。また、G_eは、所定のゲインを表している。
【１８３２】
式（１８６）において、積分範囲は任意に設定可能であるので、２次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２３６）からの入力画像の画素）に対して任意の倍率の空間解像度の画素を劣化することなく創造することが可能になる。
【１８３３】
図２５０は、２次元再積分手法を利用する画像生成部１０３の構成例を表している。
【１８３４】
図２５０で示されるように、この例の画像生成部１０３には、条件設定部３２０１、特徴量記憶部３２０２、積分成分演算部３２０３、および出力画素値演算部３２０４が設けられている。
【１８３５】
条件設定部３２０１は、実世界推定部１０２より供給された実世界推定情報（図２５０の例では、近似関数f(x,y)の特徴量）に基づいて近似関数f(x,y)の次数nを設定する。
【１８３６】
条件設定部３２０１はまた、近似関数f(x,y)を再積分する場合（出力画素値を演算する場合）の積分範囲を設定する。なお、条件設定部３２０１が設定する積分範囲は、画素の縦幅や横幅である必要は無い。例えば、近似関数f（x,y）は空間方向（X方向とY方向）に積分されるので、センサ２からの入力画像の各画素の空間的な大きさに対する、出力画素（画像生成部１０３がこれから生成する画素）の相対的な大きさ（空間解像度の倍率）がわかれば、具体的な積分範囲の決定が可能である。従って、条件設定部３２０１は、積分範囲として、例えば、空間解像度倍率を設定することもできる。
【１８３７】
特徴量記憶部３２０２は、実世界推定部１０２より順次供給されてくる近似関数f(x,y)の特徴量を一次的に記憶する。そして、特徴量記憶部３２０２は、近似関数f(x,y)の特徴量の全てを記憶すると、近似関数f(x,y)の特徴量を全て含む特徴量テーブルを生成し、出力画素値演算部３２０４に供給する。
【１８３８】
ここで、近似関数f(x,y)の詳細について説明する。
【１８３９】
例えば、いま、上述した図２４９で示されるような傾きG_Fで表される空間方向の定常性を有する実世界１（図２３６）の光信号（波形F(x,y）で表される光信号)が、センサ２（図２３６）により検出されて入力画像（画素値）として出力されたとする。
【１８４０】
さらに、例えば、図２５１で示されるように、データ定常性検出部１０１（図３）が、この入力画像のうちの、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、点線で表される２０個の正方形）から構成される入力画像の領域３２２１に対してその処理を実行し、データ定常性情報の１つとして角度θ（傾きG_Fに対応する傾きG_fで表されるデータの定常性の方向と、Ｘ方向とのなす角度θ）を出力したとする。
【１８４１】
なお、実世界推定部１０２から見ると、データ定常性検出部１０１は、注目画素における角度θを単に出力すればよいので、データ定常性検出部１０１の処理範囲は、上述した入力画像の領域３２２１に限定されない。
【１８４２】
また、入力画像の領域３２２１において、図中水平方向は、空間方向の1方向であるＸ方向を表しており、図中垂直方向は、空間方向の他方向であるＹ方向を表している。
【１８４３】
さらに、図２５１中、左から２画素目であって、下から３画素目の画素が注目画素とされ、その注目画素の中心を原点(0,0)とするように(x,y)座標系が設定されている。そして、原点(0,0)を通る角度θの直線（データの定常性の方向を表す傾きG_fの直線）に対するＸ方向の相対的な距離（以下、断面方向距離と称する）がx'とされている。
【１８４４】
さらに、図２５１中、右側のグラフは、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする画像関数F(x,y,t)を、Ｙ方向の任意の位置yにおいて、X方向に射影した１次元の波形（以下、このような波形を、X断面波形F(x')と称する）が近似された関数であって、n次（nは、任意の整数）の多項式である近似関数f(x')を表している。右側のグラフの軸のうち、図中水平方向の軸は、断面方向距離を表しており、図中垂直方向の軸は、画素値を表している。
【１８４５】
この場合、図２５１で示される近似関数f(x')は、ｎ次の多項式であるので、次の式（１８７）のように表される。
【１８４６】
【数１５３】

・・・（１８７）
【１８４７】
また、角度θが決定されていることから、原点(0,0)を通る角度θの直線は一意に決まり、Ｙ方向の任意の位置yにおける、直線のＸ方向の位置x_lが、次の式（１８８）のように表される。ただし、式（１８８）において、sはcotθを表している。
【１８４８】
x_l ＝ ｓ×ｙ ・・・（１８８）
【１８４９】
即ち、図２５１で示されるように、傾きG_fで表されるデータの定常性に対応する直線上の点は、座標値(x_l,y)で表される。
【１８５０】
式（１８８）より、断面方向距離x'は、次の式（１８９）のように表される。
【１８５１】
x' ＝ x−x_l ＝ x−s×y ・・・（１８９）
【１８５２】
従って、入力画像の領域３２２１内の任意の位置(x,y)における近似関数f(x,y)は、式（１８７）と式（１８９）より、次の式（１９０）のように示される。
【１８５３】
【数１５４】

・・・（１９０）
【１８５４】
なお、式（１９０）において、w_iは、近似関数f(x,y)の特徴量を表している。
【１８５５】
図２５０に戻り、式（１９０）に含まれる特徴量w_iが、実世界推定部１０２より供給され、特徴量記憶部３２０２に記憶される。特徴量記憶部３２０２は、式（１９０）で表される特徴量w_iの全てを記憶すると、特徴量w_iを全て含む特徴量テーブルを生成し、出力画素値演算部３２０４に供給する。
【１８５６】
また、上述した式（１８６）の右辺の近似関数f(x,y)に、式（１９０）の近似関数f（x,y）を代入して、式（１８６）の右辺を展開（演算）すると、出力画素値Mは、次の式（１９１）のように表される。
【１８５７】
【数１５５】

・・・（１９１）
【１８５８】
式（１９１）において、K_i（x_s,x_e,y_s,y_e）は、i次項の積分成分を表している。即ち、積分成分K_i（x_s,x_e,y_s,y_e）は、次の式（１９２）で示される通りである。
【１８５９】
【数１５６】

・・・（１９２）
【１８６０】
積分成分演算部３２０３は、この積分成分K_i（x_s,x_e,y_s,y_e）を演算する。
【１８６１】
具体的には、式（１９１）と式（１９２）で示されるように、積分成分K_i（x_s,x_e,y_s,y_e）は、積分範囲のＸ方向の開始位置x_s、およびＸ方向の終了位置x_e、積分範囲のＹ方向の開始位置y_s、およびＹ方向の終了位置y_e、変数ｓ、ゲインG_e、並びにi次項のiが既知であれば演算可能である。
【１８６２】
これらのうちの、ゲインG_eは、条件設定部３２０１により設定された空間解像度倍率（積分範囲）により決定される。
【１８６３】
iの範囲は、条件設定部３２０１により設定された次数nにより決定される。
【１８６４】
変数ｓは、上述したように、cotθであるので、データ定常性検出部１０１より出力される角度θにより決定される。
【１８６５】
また、積分範囲のＸ方向の開始位置x_s、およびＸ方向の終了位置x_e、並びに、積分範囲のＹ方向の開始位置y_s、およびＹ方向の終了位置y_eのそれぞれは、これから生成する出力画素の中心画素位置(x,y)および画素幅により決定される。なお、(x,y)は、実世界推定部１０２が近似関数f(x)を生成したときの注目画素の中心位置からの相対位置を表している。
【１８６６】
さらに、これから生成する出力画素の中心画素位置(x,y)および画素幅のそれぞれは、条件設定部３２０１により設定された空間解像度倍率（積分範囲）により決定される。
【１８６７】
従って、積分成分演算部３２０３は、条件設定部３２０１により設定された次数および空間解像度倍率（積分範囲）、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分K_i（x_s,x_e,y_s,y_e）を演算し、その演算結果を積分成分テーブルとして出力画素値演算部３２０４に供給する。
【１８６８】
出力画素値演算部３２０４は、特徴量記憶部３２０２より供給された特徴量テーブルと、積分成分演算部３２０３より供給された積分成分テーブルを利用して、上述した式（１９１）の右辺を演算し、その演算結果を出力画素値Mとして外部に出力する。
【１８６９】
次に、図２５２のフローチャートを参照して、２次元再積分手法を利用する画像生成部１０３（図２５１）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【１８７０】
例えば、いま、図２４９で示される関数F(x,y)で表される光信号がセンサ２に入射されて入力画像となり、上述した図４０のステップＳ１０２の処理で、実世界推測部１０２が、その入力画像のうちの、図２５３で示されるような１つの画素３２３１を注目画素として、関数F(x,y)を近似する近似関数f(x,y)を既に生成しているとする。
【１８７１】
なお、図２５３において、画素３２３１の画素値（入力画素値）がＰとされ、かつ、画素３２３１の形状が、１辺の長さが１の正方形とされている。また、空間方向のうちの、画素３２３１の１辺に平行な方向がＸ方向とされ、Ｘ方向に垂直な方向がＹ方向とされている。さらに、画素３２３１の中心が原点とされる空間方向（Ｘ方向とＹ方向）の座標系（以下、注目画素座標系と称する）が設定されている。
【１８７２】
また、図２５３において、上述した図４０のステップＳ１０１の処理で、データ定常性検出部１０１が、画素３２３１を注目画素として、傾きG_fで表されるデータの定常性に対応するデータ定常性情報として、角度θを既に出力しているとする。
【１８７３】
図２５２に戻り、この場合、ステップＳ３２０１において、条件設定部３２０１は、条件（次数と積分範囲）を設定する。
【１８７４】
例えば、いま、次数として５が設定されるとともに、積分範囲として空間４倍密（画素のピッチ幅が上下左右ともに1/2倍となる空間解像度倍率）が設定されたとする。
【１８７５】
即ち、この場合、図２５４で示されるように、Ｘ方向に−０．５乃至０．５の範囲、かつＹ方向に−０．５乃至０．５の範囲（図２５３の画素３２３１の範囲）に、４個の画素３２４１乃至画素３２４４を新たに創造することが設定されたことになる。なお、図２５４においても、図２５３のものと同一の注目画素座標系が示されている。
【１８７６】
また、図２５４において、M(1)は、これから生成される画素３２４１の画素値を、M(2)は、これから生成される画素３２４２の画素値を、M(3)は、これから生成される画素３２４３の画素値を、M(4)は、これから生成される画素３２４１の画素値を、それぞれ表している。
【１８７７】
図２５２に戻り、ステップＳ３２０２において、特徴量記憶部３２０２は、実世界推定部１０２より供給された近似関数f(x,y)の特徴量を取得し、特徴量テーブルを生成する。いまの場合、５次の多項式である近似関数f(x)の係数w₀乃至w₅が実世界推定部１０２より供給されるので、特徴量テーブルとして、（w₀,w₁,w₂,w₃,w₄,w₅）が生成される。
【１８７８】
ステップＳ３２０３において、積分成分演算部３２０３は、条件設定部３２０１により設定された条件（次数および積分範囲）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１８７９】
具体的には、例えば、これから生成される画素３２４１乃至画素３２４４のそれぞれに対して、番号（このような番号を、以下、モード番号と称する）１乃至４のそれぞれが付されているとすると、積分成分演算部３２０３は、上述した式（１９１）の積分成分K_i（x_s,x_e,y_s,y_e）を、次の式（１９３）の左辺で示される積分成分K_i(l)といったl（ただし、ｌはモード番号を表している）の関数として演算する。
【１８８０】
K_i(ｌ) ＝ K_i（x_s,x_e,y_s,y_e） ・・・（１９３）
【１８８１】
具体的には、いまの場合、次の式（１９４）で示される積分成分K_i(l)が演算される。
【１８８２】
【数１５７】

・・・（１９４）
【１８８３】
なお、式（１９４）において、左辺が積分成分K_i(l)を表し、右辺が積分成分K_i（x_s,x_e,y_s,y_e）を表している。即ち、いまの場合、lは、１乃至４のうちのいずれかであり、かつ、iは０乃至５のうちのいずれかであるので、６個のK_i(１),６個のK_i(２),６個のK_i(３),６個のK_i(４)の総計２４個のK_i(l)が演算されることになる。
【１８８４】
より具体的には、はじめに、積分成分演算部３２０３は、データ定常性検出部１０１より供給された角度θを使用して、上述した式（１８８）の変数ｓ（ｓ＝cotθ）を演算する。
【１８８５】
次に、積分成分演算部３２０３は、演算した変数ｓを使用して、式（１９４）の４つの式の各右辺の積分成分K_i（x_s,x_e,y_s,y_e）のそれぞれを、i＝０乃至５についてそれぞれ演算する。なお、この積分成分K_i（x_s,x_e,y_s,y_e）の演算においては、上述した式（１９１）が使用される。
【１８８６】
そして、積分成分演算部３２０３は、式（１９４）に従って、演算した２４個の積分成分K_i（x_s,x_e,y_s,y_e）のそれぞれを、対応する積分成分K_i(l)に変換し、変換した２４個の積分成分K_i(l)（即ち、６個のK_i(1)、６個のK_i(2)、６個のK_i(3)、および６個のK_i(4)）を含む積分成分テーブルを生成する。
【１８８７】
なお、ステップＳ３２０２の処理とステップＳ３２０３の処理の順序は、図２５２の例に限定されず、ステップＳ３２０３の処理が先に実行されてもよいし、ステップＳ３２０２の処理とステップＳ３２０３の処理が同時に実行されてもよい。
【１８８８】
次に、ステップＳ３２０４において、出力画素値演算部３２０４は、ステップＳ３２０２の処理で特徴量記憶部３２０２により生成された特徴量テーブルと、ステップＳ３２０３の処理で積分成分演算部３２０３により生成された積分成分テーブルに基づいて出力画素値M(1)乃至M(4)のそれぞれを演算する。
【１８８９】
具体的には、いまの場合、出力画素値演算部３２０４は、上述した式（１９１）に対応する、次の式（１９５）乃至式（１９８）の右辺のそれぞれを演算することで、図２５４で示される、画素３２４１（モード番号１の画素）の画素値M(1)、画素３２４２（モード番号２の画素）の画素値M(2)、画素３２４３（モード番号３の画素）の画素値M(3)、および画素３２４４（モード番号４の画素）の画素値M(4)のそれぞれを演算する。
【１８９０】
【数１５８】

・・・（１９５）
【１８９１】
【数１５９】

・・・（１９６）
【１８９２】
【数１６０】

・・・（１９７）
【１８９３】
【数１６１】

・・・（１９８）
【１８９４】
ただし、いまの場合、式（１９５）乃至式（１９８）のnは全て５となる。
【１８９５】
ステップＳ３２０５において、出力画素値演算部３２０４は、全画素の処理を終了したか否かを判定する。
【１８９６】
ステップＳ３２０５において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３２０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３２０２乃至Ｓ３２０４の処理が繰り返される。
【１８９７】
そして、全画素の処理が終了すると（ステップＳ３２０５において、全画素の処理が終了されたと判定すると）、出力画素値演算部３２０４は、ステップＳ３２０６において、画像を出力する。その後、画像の生成の処理は終了となる。
【１８９８】
このように、２次元再積分手法を利用することで、センサ２（図２３６）からの入力画像の画素３２３１（図２５３）における画素として、入力画素３２３１よりも空間解像度の高い４つの画素、即ち、画素３２４１乃至画素３２４４（図２５４）を創造することができる。さらに、図示はしないが、上述したように、画像生成部１０３は、画素３２４１乃至画素３２４４のみならず、積分範囲を適宜変えることで、入力画素３２３１に対して任意の倍率の空間解像度の画素を劣化することなく創造することができる。
【１８９９】
以上、２次元再積分手法の説明として、空間方向（X方向とY方向）に対する近似関数f(x,y)を２次元積分する例を用いたが、２次元再積分手法は、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対しても適用可能である。
【１９００】
即ち、上述した例は、実世界１（図２３６）の光信号が、例えば、図２４９で示されるような傾きG_Fで表される空間方向の定常性を有する場合の例であったので、上述した式（１８６）で示されるような、空間方向（X方向とY方向）の二次元積分が含まれる式が利用された。しかしながら、二次元積分の考え方は、空間方向だけによるものではなく、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対して適用することも可能である。
【１９０１】
換言すると、２次元再積分手法の前提となる２次元多項式近似手法においては、光信号を表す画像関数F(x,y,t)が、空間方向の定常性のみならず、時空間方向（ただし、X方向とt方向、または、Y方向とｔ方向）の定常性を有している場合であっても、２次元の多項式により近似することが可能である。
【１９０２】
具体的には、例えば、X方向に水平に等速で動いている物体がある場合、その物体の動きの方向は、図２５５で示されるようなX-t平面においては、傾きV_Fのように表される。換言すると、傾きV_Fは、X-t平面における時空間方向の定常性の方向を表しているとも言える。従って、データ定常性検出部１０１（図２３６）は、上述した角度θ（X-Y平面における、空間方向の定常性を表す傾きG_Fに対応するデータ定常性情報）と同様に、X-t平面における時空間方向の定常性を表す傾きV_Fに対応するデータ定常性情報として、図２５５で示されるような動きθ（厳密には、図示はしないが、傾きV_Fに対応する傾きV_fで表されるデータの定常性の方向と、空間方向のＸ方向とのなす角度である動きθ）を出力することが可能である。
【１９０３】
また、２次元多項式近似手法を利用する実世界推定部１０２（図２３６）は、動きθを上述した角度θの代わりとして使用すれば、上述した方法と同様な方法で、近似関数f(x,t)の係数（特徴量）wiを演算することが可能になる。ただし、この場合、使用される式は、上述した式（１９０）ではなく、次の式（１９９）である。
【１９０４】
【数１６２】

・・・（１９９）
【１９０５】
なお、式（１９９）において、ｓはcotθ（ただし、θは動きである）である。
【１９０６】
従って、２次元再積分手法を利用する画像生成部１０３（図２３６）は、次の式（２００）の右辺に、上述した式（１９９）のf(x,t)を代入して、演算することで、画素値Mを算出することが可能になる。
【１９０７】
【数１６３】

・・・（２００）
【１９０８】
なお、式（２００）において、t_sは、ｔ方向の積分開始位置を表しており、t_eは、ｔ方向の積分終了位置を表している。同様に、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。G_eは、所定のゲインを表している。
【１９０９】
また、空間方向Ｘの変わりに、空間方向Ｙに注目した近似関数f（y,t)も、上述した近似関数f(x、t)と全く同様に取り扱うことが可能である。
【１９１０】
ところで、式（１９９）において、ｔ方向を一定とみなし、即ち、ｔ方向の積分を無視して積分することで、時間方向には積分されないデータ、即ち、動きボケのないデータを得ることが可能になる。換言すると、この手法は、２次元の多項式のうちの所定の１次元を一定として再積分する点で、２次元再積分手法の１つとみなしてもよいし、実際には、Ｘ方向の１次元の再積分をすることになるという点で、１次元再積分手法の１つとみなしてもよい。
【１９１１】
また、式（２００）において、積分範囲は任意に設定可能であるので、２次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２３６）からの入力画像の画素）に対して任意の倍率の解像度の画素を劣化することなく創造することが可能になる。
【１９１２】
即ち、２次元再積分手法においては、時間方向ｔの積分範囲を適宜変えることで、時間解像度の創造が可能になる。また、空間方向Ｘ（または、空間方向Ｙ）の積分範囲を適宜変えることで、空間解像度の創造が可能になる。さらに、時間方向ｔと空間方向Ｘの積分範囲のそれぞれを適宜変えることで、時間解像度と空間解像度の両方の創造が可能になる。
【１９１３】
なお、上述したように、時間解像度と空間解像度のうちのいずれか一方の創造は、１次元再積分手法でも可能であるが、両方の解像度の創造は、１次元再積分手法では原理上不可能であり、２次元以上の再積分を行うことではじめて可能になる。即ち、２次元再積分手法と後述する３次元再積分手法ではじめて、両方の解像度の創造が可能になる。
【１９１４】
また、２次元再積分手法は、１次元ではなく２次元の積分効果を考慮しているので、より実世界１（図２３６）の光信号に近い画像を生成することも可能になる。
【１９１５】
換言すると、２次元再積分手法においては、例えば、図２３６（図３）のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサ２の複数の検出素子により実世界１の光信号が射影され、実世界１の光信号の定常性（例えば、図２４９の傾きG_Fで表される定常性）の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像におけるデータの定常性（例えば、図２５１の傾きG_fで表されるデータの定常性）を検出する。
【１９１６】
そして、例えば、図２３６(図３)の実世界推定部１０２が、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも２次元方向（例えば、図２４９の空間方向Ｘと、空間方向Ｙ）の位置に対応する画素の画素値が、少なくとも２次元方向の積分効果により取得された画素値であるとして、実世界１の光信号を表す光信号関数F（具体的には、図２４９の関数F(x,y)）を、多項式である近似関数ｆ(x,y)で近似することで、光信号関数Fを推定することが前提とされている。
【１９１７】
詳細には、例えば、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応する線（例えば、図２５１の傾きG_fに対応する線（矢印））からの少なくとも２次元方向に沿った距離（例えば、図２５１の断面方向距離ｘ‘）に対応する画素の画素値が、少なくとも２次元方向の積分効果により取得された画素値であるとして、現実世界の光信号を表す第１の関数を、多項式である第２の関数で近似することで、第１の関数を推定することが前提とされている。
【１９１８】
２次元再積分手法においては、このような前提に基づいて、例えば、図２３６（図３）の画像生成部１０３（構成は、図２５０）が、実世界推定部１０２により推定された関数F(x,y)、即ち、近似関数f(x,y)を、少なくとも２次元方向の所望の単位で積分する（例えば、上述した式（１８６）の右辺を演算する）ことにより所望の大きさの画素（例えば、図２３６の出力画像（画素値M）。具体的には、例えば、図２５４の画素３２４１乃至画素３２４４）に対応する画素値を生成する。
【１９１９】
従って、２次元再積分手法においては、時間解像度と空間解像度のうちのいずれか一方の創造のみならず、両方の解像度の創造が可能になる。また、２次元再積分手法においては、１次元再積分手法に比較して、より実世界１（図２３６）の光信号に近い画像を生成することも可能になる。
【１９２０】
次に、図２５６と図２５７を参照して、３次元再積分手法について説明する。
【１９２１】
３次元再積分手法においては、３次元関数近似手法により近似関数f(x,y,t)が既に生成されていることが前提とされる。
【１９２２】
この場合、３次元再積分手法においては、出力画素値Ｍは、次の式（２０１）のように演算される。
【１９２３】
【数１６４】

・・・（２０１）
【１９２４】
なお、式（２０１）において、t_sは、ｔ方向の積分開始位置を表しており、t_eは、ｔ方向の積分終了位置を表している。同様に、y_sは、Ｙ方向の積分開始位置を表しており、y_eは、Ｙ方向の積分終了位置を表している。また、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。さらに、G_eは、所定のゲインを表している。
【１９２５】
式（２０１）において、積分範囲は任意に設定可能であるので、３次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２３６）からの入力画像の画素）に対して任意の倍率の時空間解像度の画素を劣化することなく創造することが可能になる。即ち、空間方向の積分範囲を小さくすれば、画素ピッチを自由に細かくできる。逆に、空間方向の積分範囲を大きくすれば、画素ピッチを自由に大きくすることができる。また、時間方向の積分範囲を小さくすれば、実世界波形に基づいて時間解像度を創造できる。
【１９２６】
図２５６は、３次元再積分手法を利用する画像生成部１０３の構成例を表している。
【１９２７】
図２５６で示されるように、この例の画像生成部１０３には、条件設定部３３０１、特徴量記憶部３３０２、積分成分演算部３３０３、および出力画素値演算部３３０４が設けられている。
【１９２８】
条件設定部３３０１は、実世界推定部１０２より供給された実世界推定情報（図２５６の例では、近似関数f(x,y,t)の特徴量）に基づいて近似関数f(x,y,t)の次数nを設定する。
【１９２９】
条件設定部３３０１はまた、近似関数f(x,y,t)を再積分する場合（出力画素値を演算する場合）の積分範囲を設定する。なお、条件設定部３３０１が設定する積分範囲は、画素の幅（縦幅と横幅）やシャッタ時間そのものである必要は無い。例えば、センサ２（図２３６）からの入力画像の各画素の空間的な大きさに対する、出力画素（画像生成部１０３がこれから生成する画素）の相対的な大きさ（空間解像度の倍率）がわかれば、具体的な空間方向の積分範囲の決定が可能である。同様に、センサ２（図２３６）のシャッタ時間に対する出力画素値の相対的な時間（時間解像度の倍率）がわかれば、具体的な時間方向の積分範囲の決定が可能である。従って、条件設定部３３０１は、積分範囲として、例えば、空間解像度倍率や時間解像度倍率を設定することもできる。
【１９３０】
特徴量記憶部３３０２は、実世界推定部１０２より順次供給されてくる近似関数f(x,y,t)の特徴量を一次的に記憶する。そして、特徴量記憶部３３０２は、近似関数f(x,y,t)の特徴量の全てを記憶すると、近似関数f(x,y,t)の特徴量を全て含む特徴量テーブルを生成し、出力画素値演算部３３０４に供給する。
【１９３１】
ところで、上述した式（２０１）の右辺の近似関数f(x,y)の右辺を展開（演算）すると、出力画素値Mは、次の式（２０２）のように表される。
【１９３２】
【数１６５】

・・・（２０２）
【１９３３】
式（２０２）において、K_i（x_s,x_e,y_s,y_e,t_s,t_e）は、i次項の積分成分を表している。ただし、x_sはX方向の積分範囲の開始位置を、x_eはX方向の積分範囲の終了位置を、y_sはY方向の積分範囲の開始位置を、y_eはY方向の積分範囲の終了位置を、t_sはt方向の積分範囲の開始位置を、t_eはｔ方向の積分範囲の終了位置を、それぞれ表している。
【１９３４】
積分成分演算部３３０３は、この積分成分K_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算する。
【１９３５】
具体的には、積分成分演算部３３０３は、条件設定部３３０１により設定された次数、および積分範囲（空間解像度倍率や時間解像度倍率）、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θまたは動きθに基づいて積分成分K_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算し、その演算結果を積分成分テーブルとして出力画素値演算部３３０４に供給する。
【１９３６】
出力画素値演算部３３０４は、特徴量記憶部３３０２より供給された特徴量テーブルと、積分成分演算部３３０３より供給された積分成分テーブルを利用して、上述した式（２０２）の右辺を演算し、その演算結果を出力画素値Mとして外部に出力する。
【１９３７】
次に、図２５７のフローチャートを参照して、３次元再積分手法を利用する画像生成部１０３（図２５６）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【１９３８】
例えば、いま、上述した図４０のステップＳ１０２の処理で、実世界推測部１０２（図２３６）が、入力画像のうちの、所定の画素を注目画素として、実世界１（図２３６）の光信号を近似する近似関数f(x,y,t)を既に生成しているとする。
【１９３９】
また、上述した図４０のステップＳ１０１の処理で、データ定常性検出部１０１（図２３６）が、実世界推定部１０２と同じ画素を注目画素として、データ定常性情報として、角度θまたは動きθを既に出力しているとする。
【１９４０】
この場合、図２５７のステップＳ３３０１において、条件設定部３３０１は、条件（次数と積分範囲）を設定する。
【１９４１】
ステップＳ３３０２において、特徴量記憶部３３０２は、実世界推定部１０２より供給された近似関数f(x,y,t)の特徴量w_iを取得し、特徴量テーブルを生成する。
【１９４２】
ステップＳ３３０３において、積分成分演算部３３０３は、条件設定部３３０１により設定された条件（次数および積分範囲）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θまたは動きθ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１９４３】
なお、ステップＳ３３０２の処理とステップＳ３３０３の処理の順序は、図２５７の例に限定されず、ステップＳ３３０３の処理が先に実行されてもよいし、ステップＳ３３０２の処理とステップＳ３３０３の処理が同時に実行されてもよい。
【１９４４】
次に、ステップＳ３３０４において、出力画素値演算部３３０４は、ステップＳ３３０２の処理で特徴量記憶部３３０２により生成された特徴量テーブルと、ステップＳ３３０３の処理で積分成分演算部３３０３により生成された積分成分テーブルに基づいて各出力画素値のそれぞれを演算する。
【１９４５】
ステップＳ３３０５において、出力画素値演算部３３０４は、全画素の処理を終了したか否かを判定する。
【１９４６】
ステップＳ３３０５において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３３０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３３０２乃至Ｓ３３０４の処理が繰り返される。
【１９４７】
そして、全画素の処理が終了すると（ステップＳ３３０５において、全画素の処理が終了されたと判定すると）、出力画素値演算部３３０４は、ステップＳ３３０６において、画像を出力する。その後、画像の生成の処理は終了となる。
【１９４８】
このように、上述した式（２０１）において、その積分範囲は任意に設定可能であるので、３次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２３６）からの入力画像の画素）に対して任意の倍率の解像度の画素を劣化することなく創造することが可能になる。
【１９４９】
即ち、３次元再積分手法においては、時間方向の積分範囲を適宜変えることで、時間解像度の創造が可能になる。また、空間方向の積分範囲を適宜変えることで、空間解像度の創造が可能になる。さらに、時間方向と空間方向の積分範囲のそれぞれを適宜変えることで、時間解像度と空間解像度の両方の創造が可能になる。
【１９５０】
具体的には、３次元再積分手法においては、２次元や１次元に落とすときの近似がないので精度の高い処理が可能になる。また、斜め方向の動きも２次元に縮退することなく処理することが可能になる。さらに、２次元に縮退していないので各次元の加工が可能になる。例えば、２次元再積分手法において、空間方向（Ｘ方向とＹ方向）に縮退している場合には時間方向であるｔ方向の加工ができなくなってしまう。これに対して、３次元再積分手法においては、時空間方向のいずれの加工も可能になる。
【１９５１】
なお、上述したように、時間解像度と空間解像度のうちのいずれか一方の創造は、１次元再積分手法でも可能であるが、両方の解像度の創造は、１次元再積分手法では原理上不可能であり、２次元以上の再積分を行うことではじめて可能になる。即ち、上述した２次元再積分手法と３次元再積分手法ではじめて、両方の解像度の創造が可能になる。
【１９５２】
また、３次元再積分手法は、１次元や２次元ではなく３次元の積分効果を考慮しているので、より実世界１（図２３６）の光信号に近い画像を生成することも可能になる。
【１９５３】
換言すると、３次元再積分似手法においては、例えば、図２３６（図３）の実世界推定部１０２は、それぞれ時空間積分効果を有する、センサ２の複数の検出素子により実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像の、時空間方向のうち少なくとも１次元方向の位置に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、実世界の光信号を表す光信号関数Fを所定の近似関数ｆで近似することで、光信号関数Fを推定することが前提とされる。
【１９５４】
さらに、例えば、図２３６（図３）のデータ定常性検出部１０１が、入力画像のデータの定常性を検出した場合、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも１次元方向の位置に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Fを近似関数ｆで近似することで、光信号関数Fを推定することが前提とされる。
【１９５５】
詳細には、例えば、実世界推定部１０２は、定常性検出部１０１により検出されたデータの定常性に対応する線からの少なくとも１次元方向に沿った距離に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Fを近似関数で近似することで、光信号関数を推定することが前提とされる。
【１９５６】
３次元再積分手法においては、例えば、図２３６（図３）の画像生成部１０３（構成は、図２５６）が、実世界推定部１０２により推定された光信号関数F、即ち、近似関数ｆを、少なくとも１次元方向の所望の単位で積分する（例えば、上述した式（２０１）の右辺を演算する）ことにより所望の大きさの画素に対応する画素値を生成する。
【１９５７】
従って、３次元再積分手法は、従来の画像生成手法や、上述した１次元または２次元再積分手法に比較して、より実世界１（図２３６）の光信号に近い画像を生成することも可能になる。
【１９５８】
次に、図２５８を参照して、実世界推定部１０２より入力される実世界推定情報が、実世界を近似的に表現する近似関数f(x)上の、各画素の微分値、または、傾きの情報である場合、各画素の微分値、または、傾きに基づいて、新たに画素を生成し、画像を出力する画像生成部１０３について説明する。
【１９５９】
尚、ここでいう微分値は、現実世界を近似的に表現する近似関数f(x)を求めた後、その近似関数f(x)から得られる1次微分式f(x)'（近似関数がフレーム方向の場合、近似関数f(t)から得られる1次微分式f(t)'）を用いて、所定の位置で得られる値のことである。また、ここでいう傾きは、上述の近似関数f(x)（または、f(t)）を求めることなく、所定の位置における周辺画素の画素値から直接得られる近似関数f(x)上の所定の位置の傾きのことを示している。しかしながら、微分値は、近似関数f(x)の所定の位置での傾きなので、いずれも、現実世界を近似的に記述する近似関数f(x)上の所定の位置における傾きである。そこで、実世界推定部１０２より入力される実世界推定情報としての微分値と傾きについては、図２５８、および、図２６２の画像生成部１０３の説明においては、統一して近似関数f(x)（または、f(t)）上の傾きと称する。
【１９６０】
傾き取得部３４０１は、実世界推定部１０２より入力される実世界を近似的に表現する近似関数f(x)についての、各画素の傾きの情報と、対応する画素の画素値、および、定常性の方向の傾きを取得して、外挿補間部３４０２に出力する。
【１９６１】
外挿補間部３４０２は、傾き取得部３４０１より入力された各画素の近似関数f(x)上の傾きと、対応する画素の画素値、および、定常性の方向の傾きに基づいて、外挿補間により、入力画像よりも所定の倍率の高密度の画素を生成し、出力画像として出力する。
【１９６２】
次に、図２５９のフローチャートを参照して、図２５８の画像生成部１０３による画像の生成の処理について説明する。
【１９６３】
ステップＳ３４０１において、傾き取得部３４０１は、実世界推定部１０２より入力されてくる、各画素の近似関数f(x)上の傾き（微分値）、位置、画素値、および、定常性の方向の傾きの情報を実世界推定情報として取得する。
【１９６４】
このとき、例えば、入力画像に対して空間方向Ｘ、および、空間方向Ｙについてそれぞれ２倍（合計４倍）の密度の画素からなる画像を生成する場合、実世界推定部１０２からは、図２６０で示されるような画素Ｐinに対して、傾きf(Xin)'（画素Pinの中央位置における傾き），f(Xin−Cx(−0.25))'（画素PinからＹ方向に２倍密度の画素が生成されるときの画素Paの中央位置の傾き），f(Xin−Cx(0.25))' （画素PinからＹ方向に２倍密度の画素が生成されるときの画素Pｂの中央位置の傾き）、画素Pinの位置、画素値、および、定常性の方向の傾きＧ_fの情報が入力される。
【１９６５】
ステップＳ３４０２において、傾き取得部３４０１は、入力された実世界推定情報のうち、対応する注目画素の情報を選択し、外挿補間部３４０２に出力する。
【１９６６】
ステップＳ３４０３において、外挿補間部３４０２は、入力された画素の位置情報と定常性の方向の傾きＧ_fからシフト量を求める。
【１９６７】
ここで、シフト量Cx(ty)は、定常性の傾きがＧ_fで示されるとき、Cx(ty)＝ty／Ｇ_fで定義される。このシフト量Cx(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(x)が、空間方向Ｙ=tyの位置における、空間方向Ｘに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(x)として定義されている場合、この近似関数f(x)は、空間方向Ｙ=tyにおいては、空間方向ＸについてCx(ty)だけずれた関数となるので、近似関数は、f(x−Cx(ty))（＝f(x−ty／Ｇ_f)）で定義されることになる。
【１９６８】
例えば、図２６０で示されるような画素Ｐinの場合、図中の１画素（図中の1画素の大きさは、水平方向、および、垂直方向ともに１であるものとする）を垂直方向に２分割するとき（垂直方向に倍密度の画素を生成するとき）、外挿補間部３４０２は、求めようとする画素Pa，Pbのシフト量を求める。すなわち、今の場合、画素Pa，Pbは、画素Pinからみて、空間方向Ｙについて、それぞれ−0.25，0.25だけシフトしているので、画素Pa，Pbのシフト量は、それぞれCx（−0.25），Cx（0.25）となる。尚、図２６０中において、画素Pinは、（Xin，Yin）を略重心位置とする正方形であり、画素Pa，Pbは、（Xin，Yin+0.25）、（Xin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。
【１９６９】
ステップＳ３４０４において、外挿補間部３４０２は、ステップＳ３４０３の処理で求められたシフト量Cx、実世界推定情報として取得された画素Pinの近似関数f(x)上の注目画素上での傾きf(Xin)'、および、画素Pinの画素値に基づいて、以下の式（２０３），式（２０４）により外挿補間を用いて画素Pa，Pbの画素値を求める。
【１９７０】

【１９７１】

【１９７２】
以上の式（２０３），式（２０４）において、Pa，Pb，Ｐinは、画素Pa，Pb，Ｐinの画素値を示す。
【１９７３】
すなわち、図２６１で示されるように、注目画素Pinにおける傾きf(Xin)'に、X方向の移動距離、すなわち、シフト量を乗じることにより画素値の変化量を設定し、注目画素の画素値を基準として、新たに生成する画素の画素値を設定する。
【１９７４】
ステップＳ３４０５において、外挿補間部３４０２は、所定の解像度の画素が得られたか否かを判定する。例えば、所定の解像度が入力画像の画素に対して、垂直方向に２倍の密度の画素であれば、以上の処理により、外挿補間部３４０２は、所定の解像度の画像が得られたと判定することになるが、例えば、入力画像の画素に対して、４倍の密度（水平方向に２倍×垂直方向に２倍）の画素が所望とされていた場合、以上の処理では、所定の解像度の画素が得られていないことになる。そこで、４倍の密度の画像が所望とされていた画像である場合、外挿補間部３４０２は、所定の解像度の画素が得られていないと判定し、その処理は、ステップＳ３４０３に戻る。
【１９７５】
ステップＳ３４０３において、外挿補間部３４０２は、２回目の処理で、求めようとする画素Ｐ０１，Ｐ０２，Ｐ０３，およびＰ０４（注目画素Pinに対して４倍となる密度の画素）を生成しようとする画素の中心位置からのシフト量をそれぞれ求める。すなわち、今の場合、画素Ｐ０１，Ｐ０２は、画素Paから得られるものなので、画素Paからのシフト量がそれぞれ求められることになる。ここで、画素Ｐ０１，Ｐ０２は、画素Paからみて空間方向Ｘについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる（空間方向Ｘについてシフトしているため）。同様にして、画素Ｐ０３，Ｐ０４は、画素Pbからみて空間方向Ｘについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる。尚、図２６０において、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、それぞれ略０．５となる。
【１９７６】
ステップＳ３４０４において、外挿補間部３４０２は、ステップＳ３４０３の処理で求められたシフト量Cx、実世界推定情報として取得された画素Pa，Pbの近似関数f(x)上の所定の位置での傾きf(Xin−Cx(−0.25))'，f(Xin−Cx(0.25))'、および、上述の処理で求められた画素Pa，Pbの画素値に基づいて、外挿補間により以下の式（２０５）乃至式（２０８）により画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４の画素値を求め、図示せぬメモリに記憶させる。
【１９７７】

【１９７８】

【１９７９】

【１９８０】

【１９８１】
上述の式（２０５）乃至式（２０８）において、Ｐ０１乃至Ｐ０４は、画素Ｐ０１乃至Ｐ０４のそれぞれの画素値を示す。
【１９８２】
ステップＳ３４０５において、外挿補間部３４０２は、所定の解像度の画素が得られたか否かを判定し、今の場合、所望とされていた４倍の密度の画素が得られたことになるので、外挿補間部３４０２は、所定の解像度の画素が得られたと判定し、その処理は、ステップＳ３４０６に進む。
【１９８３】
ステップＳ３４０６において、傾き取得部３４０１は、全ての画素で処理がなされたか否かを判定し、まだ、全ての画素について処理がなされていないと判定した場合、その処理は、ステップＳ３４０２に戻り、それ以降の処理が繰り返される。
【１９８４】
ステップＳ３４０６において、傾き取得部３４０１は、全ての画素について処理がなされたと判定した場合、ステップＳ３４０７において、外挿補間部３４０２は、図示せぬメモリに記憶されている、生成された画素からなる画像を出力する。
【１９８５】
すなわち、図２６１で示されるように、近似関数f(x)上の傾きf(x)'を用いて、その傾きを求めた注目画素から空間方向Ｘに離れた距離に応じて、新たな画素の画素値が外挿補間により求められる。
【１９８６】
尚、以上の例においては、４倍密度の画素を演算する際の傾き（微分値）を例として説明してきたが、さらに多くの位置における、傾きの情報が、実世界推定情報として得られれば、上述と同様の手法で、それ以上の空間方向の密度の画素を演算する事も可能である。
【１９８７】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(x)は連続関数であるので、倍密度以外の画素値についても必要な傾き（微分値）の情報が得られれば、さらに高密度の画素からなる画像を生成することが可能となる。
【１９８８】
以上によれば、実世界推定情報として供給される入力画像の各画素の実世界を空間方向に近似する近似関数f(x)の傾き（または、微分値）f(x)'の情報に基づいて、入力画像よりも高解像度の画像の画素を生成することが可能となる。
【１９８９】
次に、図２６２を参照して、実世界推定部１０２より入力される実世界推定情報が、実世界を近似的に表現するフレーム方向（時間方向）の関数f(t)上の、各画素の微分値、または、傾きの情報である場合、各画素の微分値、または、傾きに基づいて、新たに画素を生成し、画像を出力する画像生成部１０３について説明する。
【１９９０】
傾き取得部３４１１は、実世界推定部１０２より入力される実世界を近似的に表現する近似関数f(t)上の、各画素の位置における傾きの情報と、対応する画素の画素値、および、定常性の動きを取得して、外挿補間部３４１２に出力する。
【１９９１】
外挿補間部３４１２は、傾き取得部３４１１より入力された各画素の近似関数f(t)上の傾きと、対応する画素の画素値、および、定常性の動きに基づいて、外挿補間により、入力画像よりも所定の倍率の高密度の画素を生成し、出力画像として出力する。
【１９９２】
次に、図２６３のフローチャートを参照して、図２６２の画像生成部１０３による画像の生成の処理について説明する。
【１９９３】
ステップＳ３４２１において、傾き取得部３４１１は、実世界推定部１０２より入力されてくる、各画素の近似関数f(t)上の傾き（微分値）、位置、画素値、および、定常性の動きの情報を実世界推定情報として取得する。
【１９９４】
このとき、例えば、入力画像に対して空間方向、および、フレーム方向にそれぞれ２倍（合計４倍）の密度の画素からなる画像を生成する場合、実世界推定部１０２からは、図２６４で示されるような画素Ｐinに対して、傾きf(Tin)'（画素Pinの中央位置における傾き），f(Tin−Ct(−0.25))'（画素PinからＹ方向に２倍密度の画素が生成されるときの画素Patの中央位置の傾き），f(Tin−Ct(0.25))'（画素PinからＹ方向に２倍密度の画素が生成されるときの画素Pｂtの中央位置の傾き）、画素Pinの位置、画素値、および、定常性の動き（動きベクトル）の情報が入力される。
【１９９５】
ステップＳ３４２２において、傾き取得部３４１１は、入力された実世界推定情報のうち、対応する注目画素の情報を選択し、外挿補間部３４１２に出力する。
【１９９６】
ステップＳ３４２３において、外挿補間部３４１２は、入力された画素の位置情報と定常性の方向の傾きからシフト量を求める。
【１９９７】
ここで、シフト量Ct(ty)は、定常性の動き（フレーム方向と空間方向からなる面に対する傾き）がＶ_fで示されるとき、Ct(ty)＝ty／Ｖ_fで定義される。このシフト量Ct(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(t)が、空間方向Ｙ=tyの位置における、フレーム方向Ｔに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(t)として定義されている場合、この近似関数f(t)は、空間方向Ｙ=tyにおいては、空間方向ＴについてCt(ty)だけずれた関数となるので、近似関数は、f(t−Ct(ty))（＝f(t−ty／Ｖ_f)）で定義されることになる。
【１９９８】
例えば、図２６４で示されるような画素Ｐinの場合、図中の１画素（図中の1画素の大きさは、フレーム方向、および、空間方向ともに１であるものとする）を空間方向に２分割するとき（空間方向に倍密度の画素を生成するとき）、外挿補間部３４１２は、求めようとする画素Pat，Pbｔのシフト量を求める。すなわち、今の場合、画素Pat，Pbtは、画素Pinからみて、空間方向Ｙについて、それぞれ−0.25，0.25だけシフトしているので、画素Pat，Pbtのシフト量は、それぞれCt（−0.25），Ct（0.25）となる。尚、図２６４中において、画素Pinは、（Xin，Yin）を略重心位置とする正方形であり、画素Pat，Pbtは、（Xin，Yin+0.25）、（Xin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。
【１９９９】
ステップＳ３４２４において、外挿補間部３４１２は、ステップＳ３４２３の処理で求められたシフト量、実世界推定情報として取得された画素Pinの近似関数f(t)上の注目画素上での傾きf(Tin)'、および、画素Pinの画素値に基づいて、外挿補間により以下の式（２０９），式（２１０）により画素Pat，Pbtの画素値を求める。
【２０００】

【２００１】

【２００２】
以上の式（２０９），式（２１０）において、Pat，Pbt，Ｐinは、画素Pat，Pbt，Ｐinの画素値を示す。
【２００３】
すなわち、図２６５で示されるように、注目画素Pinにおける傾きf(Xin)'に、X方向の移動距離、すなわち、シフト量を乗じることにより画素値の変化量を設定し、注目画素の画素値を基準として、新たに生成する画素の画素値を設定する。
【２００４】
ステップＳ３４２５において、外挿補間部３４１２は、所定の解像度の画素が得られたか否かを判定する。例えば、所定の解像度が入力画像の画素に対して、空間方向に２倍の密度の画素であれば、以上の処理により、外挿補間部３４０２は、所定の解像度の画像が得られたと判定することになるが、例えば、入力画像の画素に対して、４倍の密度（フレーム方向に２倍×空間方向に２倍）の画素が所望とされていた場合、以上の処理では、所定の解像度の画素が得られていないことになる。そこで、４倍の密度の画像が所望とされていた画像である場合、外挿補間部３４１２は、所定の解像度の画素が得られていないと判定し、その処理は、ステップＳ３４２３に戻る。
【２００５】
ステップＳ３４２３において、外挿補間部３４１２は、２回目の処理で、求めようとする画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，およびＰ０４ｔ（注目画素Pinに対して４倍となる密度の画素）を生成しようとする画素の中心位置からのシフト量をそれぞれ求める。すなわち、今の場合、画素Ｐ０１ｔ，Ｐ０２ｔは、画素Patから得られるものなので、画素Patからのシフト量がそれぞれ求められることになる。ここで、画素Ｐ０１ｔ，０２ｔは、画素Patからみてフレーム方向Ｔについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる（空間方向Ｘについてシフトしているため）。同様にして、画素Ｐ０３ｔ，Ｐ０４ｔは、画素Pbtからみてフレーム方向Ｔについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる。尚、図２６４において、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、それぞれ略０．５となる。
【２００６】
ステップＳ３４２４において、外挿補間部３４１２は、ステップＳ３４２３の処理で求められたシフト量Ct、実世界推定情報として取得された画素Pａｔ，Pbtの近似関数f(t)上の所定の位置での傾きf(Tin−Ct(−0.25))'，f(Tin−Ct(0.25))'、および、上述の処理で求められた画素Pat，Pbtの画素値に基づいて、外挿補間により以下の式（２１１）乃至式（２１４）により画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔの画素値を求め、図示せぬメモリに記憶させる。
【２００７】

【２００８】

【２００９】

【２０１０】

【２０１１】
上述の式（２０５）乃至式（２０８）において、Ｐ０１ｔ乃至Ｐ０４ｔは、画素Ｐ０１ｔ乃至Ｐ０４ｔのそれぞれの画素値を示す。
【２０１２】
ステップＳ３４２５において、外挿補間部３４１２は、所定の解像度の画素が得られたか否かを判定し、今の場合、所望とされていた４倍密度の画素が得られたことになるので、外挿補間部３４１２は、所定の解像度の画素が得られたと判定し、その処理は、ステップＳ３４２６に進む。
【２０１３】
ステップＳ３４２６において、傾き取得部３４１１は、全ての画素で処理がなされたか否かを判定し、まだ、全ての画素について処理がなされていないと判定した場合、その処理は、ステップＳ３４２２に戻り、それ以降の処理が繰り返される。
【２０１４】
ステップＳ３４２６において、傾き取得部３４１１は、全ての画素について処理がなされたと判定された場合、ステップＳ３４２７において、外挿補間部３４１２は、図示せぬメモリに記憶されている、生成された画素からなる画像を出力する。
【２０１５】
すなわち、図２６５で示されるように、近似関数f(t)上の傾きf(t)'を用いて、その傾きを求めた注目画素からフレーム方向Ｔに離れたフレーム数に応じて、新たな画素の画素値が外挿補間により求められる。
【２０１６】
尚、以上の例においては、４倍密度の画素を演算する際の傾き（微分値）を例として説明してきたが、さらに多くの位置における、傾きの情報が、実世界推定情報として得られれば、上述と同様の手法で、それ以上のフレーム方向の密度の画素を演算する事も可能である。
【２０１７】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(t)は連続関数であるので、倍密度以外の画素値についても必要な傾き（微分値）の情報が得られれば、さらに高密度の画素からなる画像を生成することが可能となる。
【２０１８】
以上の処理により、実世界推定情報として供給される入力画像の各画素の実世界をフレーム方向に近似する近似関数f(t)の傾き（または、微分値）f(t)'の情報に基づいて、入力画像よりも高解像度の画像の画素をフレーム方向にも生成することが可能となる。
【２０１９】
以上によれば、それぞれ時空間積分効果を有する、センサの複数の検出素子により現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる画像データにおけるデータの定常性を検出し、検出された定常性に対応して、画像データ内の注目画素に対して時空間方向のうち１次元方向にシフトした位置の複数画素の画素値の傾きを、現実世界の光信号に対応する関数として推定し、注目画素の中心位置から１次元方向にシフトした位置を中心とする傾きを有する直線の前記注目画素内に配される両端の値を注目画素よりも高解像度の画素の画素値として生成するようにしたので、入力画像よりも時空間方向に高解像度の画素を生成することが可能となる。
【２０２０】
次に、図２６６乃至図２９１を参照して、画像生成部１０３（図３）の実施の形態のさらに他の例について説明する。
【２０２１】
図２６６は、この例の実施の形態が適用される画像生成部１０３の構成例を表している。
【２０２２】
図２６６で示される画像生成部１０３には、従来のクラス分類適応処理を実行するクラス分類適応処理部３５０１、クラス分類適応処理に対する補正の処理（処理の詳細については後述する）を実行するクラス分類適応処理補正部３５０２、および、クラス分類適応処理部３５０１より出力された画像と、クラス分類適応処理補正部３５０２より出力された画像を加算し、加算した画像を出力画像として外部に出力する加算部３５０３が設けられている。
【２０２３】
なお、以下、クラス分類適応処理部３５０１より出力される画像を、予測画像と称し、クラス分類適応処理補正部３５０２より出力される画像を、補正画像、または、差分予測画像と称する。ただし、予測画像と差分予測画像の名称の由来についてはそれぞれ後述する。
【２０２４】
また、この例の実施の形態においては、クラス分類適応処理は、例えば、入力画像の空間解像度を向上する処理であるとする。即ち、標準解像度の画像である入力画像を、高解像度の画像である予測画像に変換する処理であるとする。
【２０２５】
なお、以下、標準解像度の画像を、適宜、ＳＤ(Standard Definition)画像と称する。また、ＳＤ画像を構成する画素を、適宜、ＳＤ画素と称する。
【２０２６】
これに対して、以下、高解像度の画像を、適宜、ＨＤ(High Definition)画像と称する。また、ＨＤ画像を構成する画素を、適宜、ＨＤ画素と称する。
【２０２７】
具体的には、この例の実施の形態においては、クラス分類適応処理とは、次のような処理である。
【２０２８】
即ち、はじめに、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるために、注目画素を含めた、その付近に配置されるＳＤ画素（以下、このようなＳＤ画素を、クラスタップと称する）の特徴量のそれぞれを求めて、その特徴量毎に予め分類されたクラスを特定する（クラスタップ群のクラスコードを特定する）
【２０２９】
そして、予め設定された複数の係数群（各係数群のそれぞれは、所定の１つのクラスコードに対応している）のうちの、特定されたクラスコードに対応する係数群を構成する各係数と、注目画素を含めた、その付近のＳＤ画素（以下、このような入力画像のＳＤ画素を、予測タップと称する。なお、予測タップは、クラスタップと同じこともある）とを用いて積和演算を実行することで、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるものである。
【２０３０】
従って、この例の実施の形態においては、入力画像（ＳＤ画像）は、クラス分類適応処理部３５０１において、従来のクラス分類適応処理が施されて予測画像（ＨＤ画像）となり、さらに、加算部３５０３において、その予測画像が、クラス分類適応処理補正部３５０２からの補正画像で補正されて（補正画像が加算されて）出力画像（ＨＤ画像）となる。
【２０３１】
即ち、この例の実施の形態は、定常性の観点からは、定常性を用いて処理を行う画像処理装置（図３）のうちの画像生成部１０３の１つの実施の形態であると言える。これに対して、クラス分類適応処理の観点からは、センサ２とクラス分類適応処理部３５０１から構成される従来の画像処理装置に対して、クラス分類適応処理の補正を行うために、データ定常性検出部１０１、実世界推定部１０２、クラス分類適応処理補正部３５０２、および加算部３５０３をさらに付加した画像処理装置の実施の形態であるとも言える。
【２０３２】
従って、以下、この例の実施の形態を、上述した再積分手法に対して、クラス分類適応処理補正手法と称する。
【２０３３】
クラス分類適応処理補正手法を利用する画像生成部１０３についてさらに詳しく説明する。
【２０３４】
図２６６において、画像である、実世界１の信号（光の強度の分布）がセンサ２に入射されると、センサ２からは入力画像が出力される。この入力画像は、データ定常性検出部１０１に入力されるとともに、画像生成部１０３のクラス分類適応処理部３５０１に入力される。
【２０３５】
クラス分類適応処理部３５０１は、入力画像に対して、従来のクラス分類適応処理を施して予測画像を生成し、加算部３５０３に出力する。
【２０３６】
このように、クラス分類適応処理部３５０１は、センサ２からの入力画像（画像データ）を基準とするとともに、入力画像そのものを処理の対象としている。即ち、センサ２からの入力画像は、上述した積分効果により実世界１の信号とは異なるもの（歪んだもの）となっているにも関わらず、クラス分類適応処理部３５０１は、その実世界１の信号とは異なる入力画像を正として処理を行っている。
【２０３７】
その結果、センサ２から出力された段階で実世界１のディテールがつぶれてしまった入力画像（ＳＤ画像）は、クラス分類適応処理によりたとえＨＤ画像とされても、元のディテールが完全に復元されないことがあるという課題が発生してしまう。
【２０３８】
そこで、この課題を解決するために、クラス分類適応処理補正手法においては、画像生成部１０３のクラス分類適応処理補正部３５０２が、センサ２からの入力画像ではなく、センサ２に入射される前の元の画像（所定の定常性を有する実世界１の信号）を推定する情報（実世界推定情報）を基準とするとともに、その実世界推定情報を処理の対象として、クラス分類適応処理部３５０１より出力された予測画像を補正するための補正画像を生成する。
【２０３９】
この実世界推定情報は、データ定常性検出部１０１と実世界推定部１０２により生成される。
【２０４０】
即ち、データ定常性検出部１０１は、センサ２からの入力画像に含まれるデータの定常性（センサ２に入射された実世界１の信号が有する定常性に対応するデータの定常性）を検出し、その検出結果をデータ定常性情報として実世界推定部１０２に出力する。
【２０４１】
なお、データ定常性情報は、図２６６の例では角度とされているが、角度に限定されず、上述した様々な情報が使用可能である。
【２０４２】
実世界推定部１０２は、入力された角度（データ定常性情報）に基づいて、実世界推定情報を生成し、画像生成部１０３のクラス分類適応処理補正部３５０２に出力する。
【２０４３】
なお、実世界推定情報は、図２６６の例では特徴量画像（その詳細は後述する）とされているが、特徴量画像に限定されず、上述した様々な情報が使用可能である。
【２０４４】
クラス分類適応処理補正部３５０２は、入力された特徴量画像（実世界推定情報）に基づいて補正画像を生成し、加算部３５０３に出力する。
【２０４５】
加算部３５０３は、クラス分類適応処理部３５０１より出力された予測画像と、クラス分類適応処理補正部３５０２より出力された補正画像を加算し、加算した画像（ＨＤ画像）を出力画像として外部に出力する。
【２０４６】
このようにして出力された出力画像は、予測画像よりもより実世界１の信号（画像）に近い画像となる。即ち、クラス分類適応処理補正手法は、上述した課題を解決することが可能な手法である。
【２０４７】
さらに、図２６６のように信号処理装置（画像処理装置）４を構成することで、１フレームの全体的に処理をアプライすることが可能になる。即ち、後述する併用手法を利用する信号処理装置（例えば、後述する図２９２）等では、画素の領域特定をした上で出力画像を生成する必要があるが、図２６６の信号処理装置４は、この領域特定が不要になるという効果を奏することが可能になる。
【２０４８】
次に、画像生成部１０３のうちのクラス分類適応処理部３５０１の詳細について説明する。
【２０４９】
図２６７は、クラス分類適応処理部３５０１の構成例を表している。
【２０５０】
図２６７において、センサ２より入力された入力画像（ＳＤ画像）は、領域抽出部３５１１と領域抽出部３５１５にそれぞれ供給される。領域抽出部３５１１は、供給された入力画像から、クラス分類を行うために必要なクラスタップ（注目画素（ＳＤ画素）を含む予め設定された位置に存在するＳＤ画素）を抽出し、パターン検出部３５１２に出力する。パターン検出部３５１２は、入力されたクラスタップに基づいて入力画像のパターンを検出する。
【２０５１】
クラスコード決定部３５１３は、パターン検出部３５１２で検出されたパターンに基づいてクラスコードを決定し、係数メモリ３５１４、および、領域抽出部３５１５に出力する。係数メモリ３５１４は、学習により予め求められたクラスコード毎の係数を記憶しており、クラスコード決定部３５１３より入力されたクラスコードに対応する係数を読み出し、予測演算部３５１６に出力する。
【２０５２】
なお、係数メモリ３５１４の係数の学習処理については、図２６９のクラス分類適応処理用学習部のブロック図を参照して後述する。
【２０５３】
また、係数メモリ３５１４に記憶される係数は、後述するように、予測画像（ＨＤ画像）を生成するときに使用される係数である。従って、以下、係数メモリ３５１４に記憶される係数を、他の係数と区別するために、予測係数と称する。
【２０５４】
領域抽出部３５１５は、クラスコード決定部３５１３より入力されたクラスコードに基づいて、センサ２より入力された入力画像（ＳＤ画像）から、予測画像（ＨＤ画像）を予測生成するのに必要な予測タップ（注目画素を含む予め設定された位置に存在するＳＤ画素）をクラスコードに対応して抽出し、予測演算部３５１６に出力する。
【２０５５】
予測演算部３５１６は、領域抽出部３５１５より入力された予測タップと、係数メモリ３５１４より入力された予測係数とを用いて積和演算を実行し、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を生成し、加算部３５０３に出力する。
【２０５６】
より詳細には、係数メモリ３５１４は、クラスコード決定部３５１３より供給されるクラスコードに対応する予測係数を、予測演算部３５１６に出力する。予測演算部３５１６は、領域抽出部３５１５より供給される入力画像の所定の画素位置の画素値から抽出された予測タップと、係数メモリ３５１４より供給された予測係数とを用いて、次の式（２１５）で示される積和演算を実行することにより、予測画像（ＨＤ画像）のＨＤ画素を求める（予測推定する）。
【２０５７】
【数１６６】

・・・（２１５）
【２０５８】
式（２１５）において、q'は、予測画像（ＨＤ画像）のＨＤ画素を表している。c_i（iは、１乃至ｎの整数値）のそれぞれは、予測タップ（ＳＤ画素）のそれぞれを表している。また、d _iのそれぞれは、予測係数のそれぞれを表している。
【２０５９】
このように、クラス分類適応処理部３５０１は、ＳＤ画像（入力画像）から、それに対するＨＤ画像を予測推定するので、ここでは、クラス分類適応処理部３５０１から出力されるＨＤ画像を、予測画像と称している。
【２０６０】
図２６８は、このようなクラス分類適応処理部３５０１の係数メモリ３５１４に記憶される予測係数（式（２１５）におけるd _i）を決定するための学習装置（予測係数の算出装置）を表している。
【２０６１】
なお、クラス分類適応処理補正手法においては、係数メモリ３５１４の他に、クラス分類適応処理補正部３５０２の係数メモリ（後述する図２７６で示される補正係数メモリ３５５４）が設けられている。従って、図２６８で示されるように、クラス分類適応処理手法における学習装置３５０４には、クラス分類適応処理部３５０１の係数メモリ３５１４に記憶される予測係数（式（２１５）におけるd _i）を決定するための学習部３５２１（以下、クラス分類適応処理用学習部３５２１と称する）の他に、クラス分類適応処理補正部３５０２の補正係数メモリ３５５４に記憶される係数を決定するための学習部３５６１（以下、クラス分類適応処理補正用学習部３５６１と称する）が設けられている。
【２０６２】
従って、以下、クラス分類適応処理用学習部３５２１における教師画像を第１の教師画像と称するのに対して、クラス分類適応処理補正用学習部３５６１における教師画像を第２の教師画像と称する。同様に、以下、クラス分類適応処理用学習部３５２１における生徒画像を第１の生徒画像と称するのに対して、クラス分類適応処理補正用学習部３５６１における生徒画像を第２の生徒画像と称する。
【２０６３】
なお、クラス分類適応処理補正用学習部３５６１については後述する。
【２０６４】
図２６９は、クラス分類適応処理用学習部３５２１の詳細な構成例を表している。
【２０６５】
図２６９において、所定の画像が、第１の教師画像（ＨＤ画像）としてダウンコンバート部３５３１と正規方程式生成部３５３６のそれぞれに入力されるとともに、クラス分類適応処理補正用学習部３５６１（図２６８）に入力される。
【２０６６】
ダウンコンバート部３５３１は、入力された第１の教師画像（ＨＤ画像）から、第１の教師画像よりも解像度の低い第１の生徒画像（ＳＤ画像）を生成し（第１の教師画像をダウンコンバートしたものを第１の生徒画像とし）、領域抽出部３５３２、領域抽出部３５３５、およびクラス分類適応処理補正用学習部３５６１（図２６８）のそれぞれに出力する。
【２０６７】
このように、クラス分類適応処理用学習部３５２１には、ダウンコンバート部３５３１が設けられているので、第１の教師画像（ＨＤ画像）は、上述したセンサ２（図２６６）からの入力画像よりも高解像度の画像である必要は無い。なぜならば、第１の教師画像がダウンコンバートされた（解像度が下げられた）第１の生徒画像をＳＤ画像とすれば、第１の生徒画像に対する第１の教師画像がＨＤ画像になるからである。従って、第１の教師画像は、例えば、センサ２からの入力画像そのものとされてもよい。
【２０６８】
領域抽出部３５３２は、供給された第１の生徒画像（ＳＤ画像）から、クラス分類を行うために必要なクラスタップ（ＳＤ画素）を抽出し、パターン検出部３５３３に出力する。パターン検出部３５３３は、入力されたクラスタップのパターンを検出し、その検出結果をクラスコード決定部３５３４に出力する。クラスコード決定部３５３４は、入力されたパターンに対応するクラスコードを決定し、そのクラスコードを領域抽出部３５３５、および、正規方程式生成部３５３６のそれぞれに出力する。
【２０６９】
領域抽出部３５３５は、クラスコード決定部３５３４より入力されたクラスコードに基づいて、ダウンコンバート部３５３１より入力された第１の生徒画像（ＳＤ画像）から予測タップ（ＳＤ画素）を抽出し、正規方程式生成部３５３６と予測演算部３５５８のそれぞれに出力する。
【２０７０】
なお、以上の領域抽出部３５３２、パターン検出部３５３３、クラスコード決定部３５３４、および領域抽出部３５３５のそれぞれは、図２６７のクラス分類適応処理部３５０１の領域抽出部３５１１、パターン検出部３５１２、クラスコード決定部３５１３、および、領域抽出部３５１５のそれぞれと、基本的に同様の構成と機能を有するものである。
【２０７１】
正規方程式生成部３５３６は、クラスコード決定部３５３４より入力された全てのクラスコードに対して、クラスコード毎に、領域抽出部３５３５より入力される第１の生徒画像（ＳＤ画像）の予測タップ（ＳＤ画素）と、第１の教師画像（ＨＤ画像）のＨＤ画素とから正規方程式を生成し、係数決定部３５３７に供給する。係数決定部３５３７は、正規方程式生成部３５３７より所定のクラスコードに対応する正規方程式が供給されてきたとき、その正規方程式より予測係数のそれぞれを演算し、係数メモリ３５１４にクラスコードと関連付けて記憶させるとともに、予測演算部３５３８に供給する。
【２０７２】
正規方程式生成部３５３６と、係数決定部３５３７についてさらに詳しく説明する。
【２０７３】
上述した式（２１５）において、学習前は予測係数d_iのそれぞれが未定係数である。学習は、クラスコード毎に複数の教師画像（ＨＤ画像）のＨＤ画素を入力することによって行う。所定のクラスコードに対応するＨＤ画素がｍ個存在し、ｍ個のＨＤ画素のそれぞれを、q_k（ｋは、１乃至ｍの整数値）と記述する場合、式（２１５）から、次の式（２１６）が設定される。
【２０７４】
【数１６７】

・・・（２１６）
【２０７５】
即ち、式（２１６）は、右辺の演算をすることで、所定のＨＤ画素q_kを予測推定することができることを表している。なお、式（２１６）において、e_kは誤差を表している。即ち、右辺の演算結果である予測画像（ＨＤ画像）のＨＤ画素q_k'が、実際のＨＤ画素q_kと厳密には一致せず、所定の誤差e_kを含む。
【２０７６】
そこで、式（２１６）において、例えば、誤差e_kの自乗和を最小にするような予測係数d_iが、学習により求まればよい。
【２０７７】
具体的には、例えば、ｍ＞ｎとなるように、ＨＤ画素q_kを学習により集めることができれば、最小自乗法によって予測係数d_iが一意に決定される。
【２０７８】
即ち、式（２１６）の右辺の予測係数d_iを最小自乗法で求める場合の正規方程式は、次の式（２１７）で表される。
【２０７９】
【数１６８】

・・・（２１７）
【２０８０】
従って、式（２１７）で示される正規方程式が生成されれば、その正規方程式を解くことで予測係数d_iが一意に決定されることになる。
【２０８１】
具体的には、式（２１７）で示される正規方程式の各行列のそれぞれを、次の式（２１８）乃至（２２０）のように定義すると、正規方程式は、次の式（２２１）のように表される。
【２０８２】
【数１６９】

・・・（２１８）
【２０８３】
【数１７０】

・・・（２１９）
【２０８４】
【数１７１】

・・・（２２０）
【２０８５】
【数１７２】

・・・（２２１）
【２０８６】
式（２１９）で示されるように、行列Ｄ_MATの各成分は、求めたい予測係数d_iである。従って、式（２２１）において、左辺の行列Ｃ_MATと右辺の行列Ｑ_MATが決定されれば、行列解法によって行列Ｄ_MAT（即ち、予測係数d_i）の算出が可能である。
【２０８７】
より具体的には、式（２１８）で示されるように、行列Ｃ_MATの各成分は、予測タップc_ikが既知であれば演算可能である。予測タップc_ikは、領域抽出部３５３５により抽出されるので、正規方程式生成部３５３６は、領域抽出部３５３５より供給されてくる予測タップc_ikのそれぞれを利用して行列Ｃ_MATの各成分を演算することができる。
【２０８８】
また、式（２２０）で示されるように、行列Ｑ_MATの各成分は、予測タップc_ikとＨＤ画素q_kが既知であれば演算可能である。予測タップc_ikは、行列Ｃ_MATの各成分に含まれるものと同一のものであり、また、ＨＤ画素q_kは、予測タップc_ikに含まれる注目画素（第１の生徒画像のＳＤ画素）に対する第１の教師画像のＨＤ画素である。従って、正規方程式生成部３５３６は、領域抽出部３５３５より供給された予測タップc_ikと、第１の教師画像を利用して行列Ｑ_MATの各成分を演算することができる。
【２０８９】
このようにして、正規方程式生成部３５３６は、クラスコード毎に、行列Ｃ_MATと行列Ｑ_MATの各成分を演算し、その演算結果をクラスコードに対応付けて係数決定部３５３７に供給する。
【２０９０】
係数決定部３５３７は、供給された所定のクラスコードに対応する正規方程式に基づいて、上述した式（２２１）の行列Ｄ_MATの各成分である予測係数d_iを演算する。
【２０９１】
具体的には、上述した式（２２１）の正規方程式は、次の式（２２２）のように変形できる。
【２０９２】
【数１７３】

・・・（２２２）
【２０９３】
式（２２２）において、左辺の行列Ｄ_MATの各成分が、求めたい予測係数d_iである。また、行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分は、正規方程式生成部３５３６より供給されるものである。従って、係数決定部３５３７は、正規方程式生成部３５３６より所定のクラスコードに対応する行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分が供給されてきたとき、式（２２２）の右辺の行列演算を行うことで行列Ｄ_MATを演算し、その演算結果（予測係数d_i）をクラスコードに対応付けて係数メモリ３５１４に記憶させるとともに、予測演算部３５３８に供給する。
【２０９４】
予測演算部３５３８は、領域抽出部３５３５より入力された予測タップと、係数決定部３５３７により決定された予測係数とを用いて積和演算を実行し、第１の生徒画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（第１の教師画像を予測する画像）のＨＤ画素を生成し、それを学習用予測画像としてクラス分類適応処理補正用学習部３５６１（図２６８）に出力する。
【２０９５】
より詳細には、予測演算部３５３８は、領域抽出部３５３５より供給される第１の生徒画像の所定の画素位置の画素値から抽出された予測タップを、c_i（iは、１乃至ｎの整数値）とし、係数決定部３５３７より供給された予測係数を、d _iとして、上述した式（２１５）で示される積和演算を実行することにより、学習用予測画像（ＨＤ画像）のＨＤ画素q'を求める（第１の教師画像を予測推定する）。
【２０９６】
ここで、図２７０乃至図２７５を参照して、上述した従来のクラス分類適応処理（クラス分類適応処理部３５０１）が有する課題、即ち、図２６６において、センサ２から出力された段階で実世界１のディテールがつぶれてしまった入力画像（ＳＤ画像）は、クラス分類適応処理部３５０１によりたとえＨＤ画像（実世界１の信号を予測する予測画像）とされても、元のディテールが完全に復元されないことがあるという課題について説明する。
【２０９７】
図２７０は、クラス分類適応処理部３５０１の処理結果の例を表している。
【２０９８】
図２７０において、ＨＤ画像３５４１は、図中上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれる画像である。また、ＳＤ画像３５４２は、ＨＤ画像３５４１の２×２の画素（HD画素）からなるブロックに属する画素（HD画素）の画素値の平均値を、１つの画素（ＳＤ画素）の画素値として生成された画像である。即ち、ＳＤ画像３５４２は、ＨＤ画像３５４１がダウンコンバートされた（解像度が落とされた）画像である。
【２０９９】
換言すると、ＨＤ画像３５４１は、センサ２（図２６６）に入射される前の画像（実世界１（図２６６）の信号）を模した画像であるとする。この場合、ＳＤ画像３５４２は、ＨＤ画像３５４１に、センサ２の積分特性を模した、空間方向の積分を適用することにより得られた画像に相当することなる。即ち、ＳＤ画像３５４２は、センサ２からの入力画像を模した画像となる。
【２１００】
また、ＳＤ画像３５４２をクラス分類適応処理部３５０１（図２６６）に入力させ、クラス分類適応処理部３５０１より出力された予測画像が、予測画像３５４３である。即ち、予測画像３５４３は、従来のクラス分類適応処理により生成されたＨＤ画像（元のＨＤ画像３５４１と同一解像度の画像）である。ただし、クラス分類適応処理部３５０１が予測演算に使用した予測係数（係数メモリ３５１４（図２６７）に記憶された予測係数）は、ＨＤ画像３５４１を第１の教師画像とし、かつＳＤ画像３５４２を第１の生徒画像として、クラス分類適応処理用学習部３５６１（図２６９）に学習演算させたものである。
【２１０１】
ＨＤ画像３５４１、ＳＤ画像３５４２、および予測画像３５４３のそれぞれを比較するに、予測画像３５４３は、ＳＤ画像３５４２よりも、ＨＤ画像３５４１により近い画像となっていることがわかる。
【２１０２】
この比較結果は、クラス分類適応処理部３５０１が、ＨＤ画像３５４１のディテールがつぶれてしまったＳＤ画像３５４２に対して、従来のクラス分類適応処理を施すことで、元のディテールが復元された予測画像３５４３を生成することができるということを意味している。
【２１０３】
しかしながら、予測画像３５４３とＨＤ画像３５４１を比較するに、予測画像３５４３は、ＨＤ画像３５４１を完全に復元した画像であるとは言い難い。
【２１０４】
そこで、本願出願人は、予測画像３５４３がＨＤ画像３５４１を完全に復元できていない理由を調査するために、所定の加算器３５４６により、ＨＤ画像３５４１と、予測画像３５４３の反転入力との加算画像、即ち、ＨＤ画像３５４１と予測画像３５４３の差分画像（画素の差分が大の場合、白に近い画素とし、画素の差分が小の場合、黒に近い画素とした画像）３５４４を生成した。
【２１０５】
同様に、本願出願人は、所定の加算器３５４７により、ＨＤ画像３５４１と、ＳＤ画像３５４２の反転入力との加算画像、即ち、ＨＤ画像３５４１とＳＤ画像３５４２の差分画像（画素の差分が大の場合、白に近い画素とし、画素の差分が小の場合、黒に近い画素とした画像）３５４５を生成した。
【２１０６】
そして、本願出願人は、このようにして生成された差分画像３５４４と差分画像３５４５を比較することによって、次のような調査結果を得た。
【２１０７】
即ち、ＨＤ画像３５４１とＳＤ画像３５４２の差分の大きい領域（差分画像３５４５の白に近い領域）と、ＨＤ画像３５４１と予測画像３５４３の差分の大きい領域（差分画像３５４４の白に近い領域）はほぼ対応している。
【２１０８】
換言すると、予測画像３５４３がＨＤ画像３５４１を完全に復元できていない領域は、予測画像３５４３のうちの、ＨＤ画像３５４１とＳＤ画像３５４２の差分の大きい領域（差分画像３５４５の白に近い領域）にほぼ一致する。
【２１０９】
そこで、本願出願人は、この調査結果の要因を解明するために、さらに次のような調査を行った。
【２１１０】
即ち、本願出願人は、まず、ＨＤ画像３５４１と予測画像３５４３の差分の小さい領域（差分画像３５４４の黒に近い領域）において、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、およびＨＤ画像３５４１に対応する実際の波形（実世界１の信号）を調査した。その調査結果が、図２７１と図２７２に示されている。
【２１１１】
図２７１は、調査した領域のうちの１例を示している。なお、図２７１において、図中、水平方向は、空間方向の１方向であるＸ方向とされており、また、垂直方向は、空間方向の他方向であるＹ方向とされている。
【２１１２】
即ち、本願出願人は、ＨＤ画像３５４１と予測画像３５４３の差分の小さい領域の１例として、図２７１で示される、差分画像３５４４の領域３５４４−１について調査した。
【２１１３】
図２７２は、図２７１で示される領域３５４４−１に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個分のＨＤ画素に対応する、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、および、実際の波形（実世界１の信号）のそれぞれをプロットしたものを表している。
【２１１４】
図２７２において、縦軸は画素値を、横軸は空間方向Ｘに平行なx軸を、それぞれ表している。x軸において、原点は、差分画像３５４４の６個のＨＤ画素のうちの図中左から３番目のＨＤ画素の左端の位置とされており、その原点を基準として座標値が付されている。ただし、ｘ軸の座標値は、差分画像３５４４のＨＤ画素の画素幅を0.5として付されている。即ち、差分画像３５４４はＨＤ画像であるので、ＨＤ画像３５４１の画素幅L_t（以下、ＨＤ画素幅L_tと称する）も0.5になる。従って、いまの場合、ＳＤ画像３５４２の画素幅（以下、ＳＤ画素幅L_sと称する）は、ＨＤ画素幅L_tの２倍になるので、ＳＤ画素幅L_sは１になる。
【２１１５】
また、図２７２において、実線は、ＨＤ画像３５４１の画素値を、点線は、ＳＤ画像３５４２の画素値を、一点鎖線は、実世界１の信号のＸ断面波形を、それぞれ表している。ただし、実世界１の信号の波形を実際に描写することは困難であるので、図２７２で示される一点鎖線は、上述した１次元多項式近似手法（図２６６の実世界推定部１０２の１実施形態）によりＸ断面波形が近似された近似関数f(x)が示されている。
【２１１６】
次に、本願出願人は、上述した差分の小さい領域の調査と同様に、ＨＤ画像３５４１と予測画像３５４３の差分の大きい領域（差分画像３５４４の白に近い領域）においても、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、およびＨＤ画像３５４１に対応する実際の波形（実世界１の信号）を調査した。その調査結果が、図２７３と図２７４に示されている。
【２１１７】
図２７３は、調査した領域のうちの１例を示している。なお、図２７３において、図中、水平方向は、空間方向の１方向であるＸ方向とされており、また、垂直方向は、空間方向の他方向であるＹ方向とされている。
【２１１８】
即ち、本願出願人は、ＨＤ画像３５４１と予測画像３５４３の差分の大きい領域の１例として、図２７３で示される、差分画像３５４４の領域３５４４−２について調査した。
【２１１９】
図２７４は、図２７３で示される領域３５４４−２に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個分のＨＤ画素に対応する、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、および実際の波形（実世界１の信号）のそれぞれをプロットしたものを表している。
【２１２０】
図２７４において、縦軸は画素値を、横軸は空間方向Ｘに平行なx軸を、それぞれ表している。x軸において、原点は、差分画像３５４４の６個のＨＤ画素のうちの図中左から３番目のＨＤ画素の左端の位置とされており、その原点を基準として座標値が付されている。ただし、ｘ軸の座標値は、ＳＤ画素幅L_sを１として付されている。
【２１２１】
図２７４において、実線は、ＨＤ画像３５４１の画素値を、点線は、ＳＤ画像３５４２の画素値を、一点鎖線は、実世界１の信号のＸ断面波形を、それぞれ表している。ただし、図２７４で示される一点鎖線は、図２７２で示される一点鎖線と同様に、Ｘ断面波形が近似された近似関数f(x)が示されている。
【２１２２】
図２７２と図２７４を比較するに、両者の近似関数f(x)の波形の形状より、いずれの領域も細線の領域を含んでいることがわかる。
【２１２３】
しかしながら、図２７２においては、細線の領域は、ほぼx=0からx=1の範囲に存在するのに対して、図２７４においては、細線の領域は、ほぼx=-0.5からx=0.5の範囲に存在する。即ち、図２７２においては、x=0からx=1の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素内に細線の領域がほぼ含まれることになる。これに対して、図２７４においては、x=0からx=1の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素内に、細線の領域が一部だけ含まれる（細線と背景の境目が含まれる）ことになる。
【２１２４】
従って、図２７２で示される状態の場合、x=0からx=1.0の範囲に存在するＨＤ画像３５４１の２つのＨＤ画素の画素値（図中、実線）の差は小さくなる。その結果、当然ながら、これら２つのＨＤ画素の画素値の平均値である、ＳＤ画像３５４２の１つのＳＤ画素の画素値（図中、点線）と、ＨＤ画像３５４１の２つのＨＤ画素の画素値のそれぞれとの差分は小さいものになる。
【２１２５】
このような状態で（図２７２で示される状態で）、x=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素が注目画素とされて、従来のクラス分類適応処理によりx=0からx=1.0の範囲に２つのＨＤ画素（予測画像３５４３の画素）が生成された場合について考える。この場合、図２７１で示されるように、生成された予測画像３５４３のＨＤ画素は、ＨＤ画像３５４１のＨＤ画素をほぼ正確に予測したものになる。即ち、図２７１で示されるように、領域３５４４−１においては、予測画像３５４３のＨＤ画素と、ＨＤ画像３５４１のＨＤ画素の差分も小さくなるので、黒に近い画像が表示される。
【２１２６】
これに対して、図２７４で示される状態の場合、x=0からx=1.0の範囲に存在するＨＤ画像３５４１の２つのＨＤ画素の画素値（図中、実線）の差は大きくなる。その結果、当然ながら、これら２つのＨＤ画素の画素値の平均値である、ＳＤ画像３５４２の１つのＳＤ画素の画素値（図中、点線）と、ＨＤ画像３５４１の２つのＨＤ画素の画素値のそれぞれとの差分は、図２７２の対応する差分に対して大きなものになる。
【２１２７】
このような状態で（図２７４で示される状態で）、x=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素が注目画素とされて、従来のクラス分類適応処理によりx=0からx=1.0の範囲にＨＤ画素（予測画像３５４３の画素）が生成された場合について考える。この場合、図２７３で示されるように、生成された予測画像３５４３のＨＤ画素は、ＨＤ画像３５４１のＨＤ画素を正確に予測したものとはならない。即ち、図２７３で示されるように、領域３５４４−２においては、予測画像３５４３のＨＤ画素と、ＨＤ画像３５４１のＨＤ画素の差分も大きなものになってしまうので、白に近い画像が表示される。
【２１２８】
ところで、図２７２と図２７４の実世界１の信号の近似関数f(x)（図中、一点鎖線）のそれぞれを比較するに、図２７２においては、x=0からx=1の範囲での近似関数f(x)の変化量は小さいのに対して、図２７４においては、x=0からx=1の範囲での近似関数f(x)の変化量は大きいことがわかる。
【２１２９】
従って、図２７２で示されるx=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素は、ＳＤ画素内での近似関数f(x)の変化量が小さい（即ち、実世界１の信号の変化量が小さい）ＳＤ画素と言える。
【２１３０】
このような観点から、上述した調査結果を言いなおすと、例えば、図２７２で示されるx=0からx=1.0の範囲に存在するＳＤ画素のような、ＳＤ画素内での近似関数f(x)の変化が少ない（即ち、実世界１の信号の変化が少ない）ＳＤ画素から、従来のクラス分類適応処理によりＨＤ画素が生成されると、生成されたＨＤ画素は、実世界１の信号（いまの場合、細線の画像）をほぼ正確に予測したものとなる。
【２１３１】
これに対して、図２７４で示されるx=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素は、ＳＤ画素内での近似関数f(x)の変化量が大きい（即ち、実世界１の信号の変化量が大きい）ＳＤ画素と言える。
【２１３２】
このような観点から、上述した調査結果を言いなおすと、例えば、図２７４で示されるx=0からx=1.0の範囲に存在するＳＤ画素のような、ＳＤ画素内での近似関数f(x)の変化が大きい（即ち、実世界１の信号の変化が大きい）ＳＤ画素から、従来のクラス分類適応処理によりＨＤ画素が生成されると、生成されたＨＤ画素は、実世界１の信号（いまの場合、細線の画像）を正確に予測したものとはならない。
【２１３３】
以上の調査結果をまとめると、図２７５で示されるような状態の場合、従来の画素間の信号処理（例えば、クラス分類適応処理）では、画素内のディテールを復元することは困難であるということである。
【２１３４】
即ち、図２７５は、本願出願人が上述したような調査を行った結果として、得られた知見を説明する図である。
【２１３５】
図２７５において、図中水平方向は、センサ２（図２６６）の検出素子が並んでいる方向（空間方向）のうちの１方向であるＸ方向を表しており、図中垂直方向は、光のレベルまたは画素値を表している。点線は、画像である、実世界１（図２６６）の信号のＸ断面波形F(x)を表しており、実線は、Ｘ断面波形F(x)で表される実世界１の信号（画像）がセンサ２に入射された場合、センサ２から出力される画素値Ｐを表している。また、センサ２の１つの検出素子の幅（Ｘ方向の長さ）は、L_cと記述されており、△Ｐは、センサ２の１つの検出素子の幅L_c、即ち、センサ２の画素幅L_c内におけるＸ断面波形F(x)の変化量を表している。
【２１３６】
ところで、上述したＳＤ画像３５４２（図２７０）は、センサ２からの入力画像（図２６６）を模したものであるので、ＳＤ画像３５４２のＳＤ画素幅L_s（図２７２と図２７４）は、センサ２の画素幅（検出素子の幅）L_cとして考えることができる。
【２１３７】
また、上述した調査においては、細線に対応する実世界１の信号（近似関数f(x)）に対する調査であったが、細線に限らず、実世界１の信号のレベルの変化は存在する。
【２１３８】
従って、上述した調査結果を、図２７５で示される状態に当てはめると、次の通りになる。
【２１３９】
即ち、図２７５で示されるような、画素内において実世界１の信号の変化量（Ｘ断面波形F(x)の変化量）△Ｐが大きいＳＤ画素（センサ２からの出力画素）が注目画素とされて、従来のクラス分類適応処理によりＨＤ画素（例えば、図２６６のクラス分類適応処理部３５０１から出力される予測画像の画素）が生成された場合、生成されたＨＤ画素は、実世界１の信号（図２７５の例では、Ｘ断面波形F(x)）を正確に予測したものとはならない。
【２１４０】
具体的には、クラス分類適応処理をはじめとする従来の手法においては、センサ２の画素の画素間の画像処理が行われている。
【２１４１】
即ち、図２７５で示されるように、実世界１では、１画素内の領域でＸ断面波形F(x)の変化量△Ｐが大きい状態であっても、センサ２からは、Ｘ断面波形F(x)が積分された（厳密には、実世界１の信号が、時空間方向に積分された）１つの画素値Ｐ（１画素内で均一の値Ｐ）のみが出力される。
【２１４２】
従来の手法においては、その画素値Ｐが基準とされるとともに、画素値Ｐが処理の対象とされて画像処理が行われている。換言すると、従来の手法においては、画素内における実世界１の信号（Ｘ断面波形F(x)）の変化、即ち、画素内のディテールを無視して、画像処理が行われている。
【２１４３】
このように、画素を最小の単位として処理する限り、例えどのような画像処理（クラス分類適応処理でも）を施したとしても、画素内における実世界１の信号の変化を正確に再現することは困難である。特に、実世界１の信号の変化量△Ｐが大きい場合、その困難さはより顕著なものとなる。
【２１４４】
換言すると、上述したクラス分類適応処理が有する課題、即ち、図２６６において、センサ２から出力された段階で実世界１のディテールがつぶれてしまった入力画像（ＳＤ画像）は、クラス分類適応処理によりたとえＨＤ画像とされても、元のディテールが完全に復元されないことがあるという課題が発生する原因は、画素内における実世界１の信号の変化量△Ｐを考慮せずに、画素（１つの画素値しか有しない画素）を最小の単位としてクラス分類適応処理が行われているからである。
【２１４５】
この課題は、クラス分類適応処理に限らず従来の画像処理手法の全てが有する課題であり、課題が発生する原因も全く同じである。
【２１４６】
以上、従来の画像処理手法が有する課題と、その発生要因について説明した。
【２１４７】
ところで、上述したように、本発明のデータ定常性検出部１０１と実世界推定部１０２（図３）は、実世界１の信号が有する定常性を利用して、センサ２からの入力画像（即ち、画素内における、実世界１の信号の変化が無視された画像）から、実世界１の信号を推定することができる。即ち、実世界推定部１０２は、実世界１の信号を推定することが可能な実世界推定情報を出力することができる。
【２１４８】
従って、この実世界推定情報から、画素内における、実世界１の信号の変化量の推定も可能である。
【２１４９】
そこで、本願出願人は、従来のクラス分類適応処理により生成された予測画像（画素内における、実世界１の信号の変化を考慮せずに、実世界１を予測した画像）を、実世界推定情報に基づいて生成される所定の補正画像（画素内における、実世界１の信号の変化に起因する予測画像の誤差を推定した画像）で補正することで、上述した課題の解決が可能になるという思想に基づいて、例えば、図２６６で示されるような、クラス分類適応処理補正手法を発明した。
【２１５０】
即ち、図２６６において、データ定常性検出部１０１と実世界推定部１０２が、実世界推定情報を生成し、クラス分類適応処理補正部３５０２が、生成された実世界推定情報に基づいて所定の補正画像を生成する。そして、加算部３５０３が、クラス分類適応処理部３５０１より出力された予測画像を、クラス分類適応処理補正部３５０２より出力された補正画像で補正する（具体的には、予測画像に補正画像を加算した画像を出力画像として出力する）。
【２１５１】
クラス分類適応処理補正手法を利用する画像生成部１０３のうちの、クラス分類適応処理部３５０１の詳細については既に説明した。また、加算部３５０３は、予測画像と補正画像を加算することができるものであれば、その形態は特に限定されず、例えば、従来より存在する、様々な加算器やプログラム等を適用することが可能である。
【２１５２】
そこで、以下、残りのクラス分類適応処理補正部３５０２の詳細について説明する。
【２１５３】
はじめに、クラス分類適応処理補正部３５０２の原理について説明する。
【２１５４】
上述したように、図２７０において、ＨＤ画像３５４１を、センサ２（図２６６）に入射される前の元の画像（実世界１の信号）とみなし、かつ、ＳＤ画像３５４２を、センサ２からの入力画像とみなすと、予測画像３５４３が、クラス分類適応処理部３５０１より出力される予測画像（元の画像（ＨＤ画像３５４１）を予測した予測画像）となる。
【２１５５】
また、ＨＤ画像３５４１から、その予測画像３５４３を減算した画像が、差分画像３５４４である。
【２１５６】
従って、クラス分類適応処理補正部３５０２が、差分画像３５４４を生成し、その差分画像３５４４を補正画像として出力することができれば、加算部３５０３が、クラス分類適応処理部３５０１より出力された予測画像３５４３と、クラス分類適応処理補正部３５０２より出力された差分画像３５４４（補正画像）を加算することで、ＨＤ画像３５４１を復元することができる。
【２１５７】
即ち、クラス分類適応処理補正部３５０２が、画像である、実世界１の信号（センサ２に入射される前の元の画像）と、クラス分類適応処理部３５０１から出力される予測画像との差分画像（ただし、クラス分類適応処理部３５０１から出力される予測画像と同一解像度の画像）を適切に予測し、予測した差分画像（以下、差分予測画像と称する。これが、上述した差分予測画像の名称の由来である）を補正画像として出力することができれば、実世界１の信号（元の画像）をほぼ復元することができる。
【２１５８】
ところで、上述したように、実世界１の信号（センサ２に入射される前の元の画像）と、クラス分類適応処理部３５０１から出力される予測画像との差分（誤差）の度合いと、入力画像の１画素内における、実世界１の信号の変化量の度合いは対応している。また、実世界推定部１０２は、実世界１の信号自身を推定することができるので、当然ながら、入力画像の１画素内における、実世界１の信号の変化量の度合いを表す所定の特徴量を画素毎に算出することも可能である。
【２１５９】
従って、クラス分類適応処理補正部３５０２は、入力画像の各画素のそれぞれに対する特徴量を取得することで、差分予測画像を生成する（差分画像を予測する）ことができる。
【２１６０】
そこで、例えば、クラス分類適応処理補正部３５０２は、実世界推定部１０２より、特徴量を画素値とする画像（以下、このような画像を、特徴量画像と称する）を実世界推定情報として実世界推定部１０２より入力する。
【２１６１】
このとき、特徴量画像の解像度は、センサ２からの入力画像と同一の解像度である。また、補正画像（差分予測画像）は、クラス分類適応処理部３５０１より出力される予測画像と同一の解像度である。
【２１６２】
従って、クラス分類適応処理補正部３５０２が、特徴量画像をＳＤ画像とし、補正画像（差分予測画像）をＨＤ画像とし、従来のクラス分類適応処理を利用して、特徴量画像から差分画像を予測演算すれば、その予測演算の結果が、適切な差分予測画像となる。
【２１６３】
以上、クラス分類適応処理補正部３５０２の原理について説明した。
【２１６４】
図２７６は、このような原理で動作するクラス分類適応処理補正部３５０２の構成例を表している。
【２１６５】
図２７６において、実世界推定部１０２より入力された特徴量画像（ＳＤ画像）は、領域抽出部３５５１と領域抽出部３５５５にそれぞれ供給される。領域抽出部３５５１は、供給された特徴量画像から、クラス分類を行うために必要なクラスタップ（注目画素を含む予め設定された位置に存在するＳＤ画素）を抽出し、パターン検出部３５５２に出力する。パターン検出部３５５２は、入力されたクラスタップに基づいて特徴量画像のパターンを検出する。
【２１６６】
クラスコード決定部３５５３は、パターン検出部３５５２で検出されたパターンに基づいてクラスコードを決定し、補正係数メモリ３５５４、および、領域抽出部３５５５に出力する。補正係数メモリ３５５４は、学習により予め求められたクラスコード毎の係数を記憶しており、クラスコード決定部３５５３より入力されたクラスコードに対応する係数を読み出し、補正演算部３５５６に出力する。
【２１６７】
なお、補正係数メモリ３５５４の係数の学習処理については、図２７７のクラス分類適応処理補正用学習部のブロック図を参照して後述する。
【２１６８】
また、補正係数メモリ３５５４に記憶される係数は、後述するように、差分画像を予測する（ＨＤ画像である差分予測画像を生成する）ときに使用される予測係数である。しかしながら、ここでは、クラス分類適応処理部３５０１の係数メモリ３５１４（図２６７）に記憶されている係数を、予測係数と称している。従って、以下、補正係数メモリ３５５４に記憶される予測係数を、係数メモリ３５１４に記憶される予測係数と区別するために、補正係数と称する。
【２１６９】
領域抽出部３５５５は、クラスコード決定部３５５３より入力されたクラスコードに基づいて、実世界推定部１０２より入力された特徴量画像（ＳＤ画像）から、差分画像（ＨＤ画像）を予測する（ＨＤ画像である差分予測画像を生成する）のに必要な予測タップ（注目画素を含む予め設定された位置に存在するＳＤ画素）をクラスコードに対応して抽出し、補正演算部３５５６に出力する。補正演算部３５５６は、領域抽出部３５５５より入力された予測タップと、補正係数メモリ３５５４より入力された補正係数とを用いて積和演算を実行し、特徴量画像（ＳＤ画像）の注目画素（ＳＤ画素）における、差分予測画像（ＨＤ画像）のＨＤ画素を生成する。
【２１７０】
より詳細には、補正係数メモリ３５５４は、クラスコード決定部３５５３より供給されるクラスコードに対応する補正係数を、補正演算部３５５６に出力する。補正演算部３５５６は、領域抽出部３５５５より供給される入力画像の所定の画素位置の画素値から抽出された予測タップ（ＳＤ画素）と、補正係数メモリ３５５４より供給された補正係数とを用いて、次の式（２２３）で示される積和演算を実行することにより、差分予測画像（ＨＤ画像）のＨＤ画素を求める（差分画像を予測推定する）。
【２１７１】
【数１７４】

・・・（２２３）
【２１７２】
式（２２３）において、u'は、差分予測画像（ＨＤ画像）のＨＤ画素を表している。a_i（iは、１乃至ｎの整数値）のそれぞれは、予測タップ（ＳＤ画素）のそれぞれを表している。また、g _iのそれぞれは、補正係数のそれぞれを表している。
【２１７３】
従って、図２６６において、クラス分類適応処理部３５０１からは、上述した式（２１５）で示される予測画像のＨＤ画素q'が出力されるのに対して、クラス分類適応処理補正部３５０２からは、式（２２３）で示される差分予測画像のＨＤ画素u'が出力される。そして、加算部３５０３が、予測画像のＨＤ画素q'と、差分予測画像のＨＤ画素u'とを加算した画素（以下、o'と記述する）を、出力画像のＨＤ画素として外部に出力する。
【２１７４】
即ち、画像生成部１０３より最終的に出力される出力画像のＨＤ画素o'は、次の式（２２４）で示されるようになる。
【２１７５】
【数１７５】

・・・（２２４）
【２１７６】
図２７７は、このようなクラス分類適応処理補正部３５０２の補正係数メモリ３５５４に記憶される補正係数（上述した式（２２２）におけるg _i）を決定するための学習部、即ち、上述した図２６８の学習装置３５０４のクラス分類適応処理補正用学習部３５６１の詳細な構成例を表している。
【２１７７】
図２６８において、上述したように、クラス分類適応処理用学習部３５２１は、その学習処理を終了すると、クラス分類適応処理補正用学習部３５６１に対して、学習に利用した第１の教師画像（ＨＤ画像）と第１の生徒画像（ＳＤ画像）のそれぞれを出力するともに、学習により求められた予測係数を用いて第１の生徒画像から第１の教師画像を予測した画像である、学習用予測画像を出力してくる。
【２１７８】
図２７７に戻り、これらのうちの第１の生徒画像は、データ定常性検出部３５７２に入力される。
【２１７９】
一方、これらのうちの第１の教師画像と学習用予測画像は、加算部３５７１に入力される。ただし、学習用予測画像は、反転入力される。
【２１８０】
加算部３５７１は、入力された第１の教師画像と、反転入力された学習用予測画像を加算し、即ち、第１の教師画像と学習用予測画像の差分画像を生成し、それをクラス分類適応処理補正用学習部３５６１における教師画像（この教師画像を、上述したように、第１の教師画像と区別するために、第２の教師画像と称する）として正規方程式生成部３５７８に出力する。
【２１８１】
データ定常性検出部３５７２は、入力された第１の生徒画像に含まれるデータの定常性を検出し、その検出結果をデータ定常性情報として実世界推定部３５７３に出力する。
【２１８２】
実世界推定部３５７３は、入力されたデータ定常性情報に基づいて、特徴量画像を生成し、それをクラス分類適応処理補正用学習部３５６１における生徒画像（この生徒画像を、上述したように、第１の生徒画像と区別するために、第２の生徒画像と称する）として領域抽出部３５７４と領域抽出部３５７７のそれぞれに出力する。
【２１８３】
領域抽出部３５７４は、供給された第２の生徒画像（ＳＤ画像）から、クラス分類を行うために必要なＳＤ画素（クラスタップ）を抽出し、パターン検出部３５７５に出力する。パターン検出部３５７５は、入力されたクラスタップのパターンを検出し、検出結果をクラスコード決定部３５７６に出力する。クラスコード決定部３５７６は、入力されたパターンに対応するクラスコードを決定し、そのクラスコードを領域抽出部３５７７、および、正規方程式生成部３５７８のそれぞれに出力する。
【２１８４】
領域抽出部３５７７は、クラスコード決定部３５７６より入力されたクラスコードに基づいて、実世界推定部３５７３より入力された第２の生徒画像（ＳＤ画像）から予測タップ（ＳＤ画素）を抽出し、正規方程式生成部３５７８に出力する。
【２１８５】
なお、以上の領域抽出部３５７４、パターン検出部３５７５、クラスコード決定部３５７６、および領域抽出部３５７７のそれぞれは、図２７６のクラス分類適応処理補正部３５０２の領域抽出部３５５１、パターン検出部３５５２、クラスコード決定部３５５３、および、領域抽出部３５５５のそれぞれと、基本的に同様の構成と機能を有するものである。また、以上のデータ定常性検出部３５７２、および実世界推定部３５７３のそれぞれは、図２６６のデータ定常性検出部１０１、および実世界推定部１０２のそれぞれと、基本的に同様の構成と機能を有するものである。
【２１８６】
正規方程式生成部３５７８は、クラスコード決定部３５７６より入力された全てのクラスコードに対して、クラスコード毎に、領域抽出部３５７７より入力される第２の生徒画像（ＳＤ画像）の予測タップ（ＳＤ画素）と、第２の教師画像（ＨＤ画像）のＨＤ画素とから正規方程式を生成し、補正係数決定部３５７９に供給する。補正係数決定部３５７９は、正規方程式生成部３５７８より所定のクラスコードに対応する正規方程式が供給されてきたとき、その正規方程式より補正係数のそれぞれを演算し、補正係数メモリ３５５４にクラスコードと関連付けて記憶させる。
【２１８７】
正規方程式生成部３５７８と、補正係数決定部３５７９についてさらに詳しく説明する。
【２１８８】
上述した式（２２３）において、学習前は補正係数g_iのそれぞれが未定係数である。学習は、クラスコード毎に複数の教師画像（ＨＤ画像）のＨＤ画素を入力することによって行う。所定のクラスコードに対応するＨＤ画素がｍ個存在し、ｍ個のＨＤ画素のそれぞれを、u_k（ｋは、１乃至ｍの整数値）と記述する場合、式（２２３）から、次の式（２２５）が設定される。
【２１８９】
【数１７６】

・・・（２２５）
【２１９０】
即ち、式（２２５）は、右辺の演算をすることで、所定のＨＤ画素を予測推定することができることを表している。なお、式（２２５）において、e_kは誤差を表している。即ち、右辺の演算結果である差分予測画像（ＨＤ画像）のＨＤ画素u_k'が、実際の差分画像のＨＤ画素u_kと厳密には一致せず、所定の誤差e_kを含む。
【２１９１】
そこで、式（２２２５）において、例えば、誤差e_kの自乗和を最小にするような補正係数a_iが、学習により求まればよい。
【２１９２】
例えば、ｍ＞ｎとなるように、差分画像のＨＤ画素u_kを学習により集めることができれば、最小自乗法によって補正係数a_iが一意に決定される。
【２１９３】
即ち、式（２２５）の右辺の補正係数a_iを最小自乗法で求める場合の正規方程式は、次の式（２２６）で示される通りになる。
【２１９４】
【数１７７】

・・・（２２６）
【２１９５】
式（２２６）で示される正規方程式の各行列のそれぞれを、次の式（２２７）乃至（２２９）のように定義すると、正規方程式は、次の式（２３０）のように表される。
【２１９６】
【数１７８】

・・・（２２７）
【２１９７】
【数１７９】

・・・（２２８）
【２１９８】
【数１８０】

・・・（２２９）
【２１９９】
【数１８１】

・・・（２３０）
【２２００】
式（２２８）で示されるように、行列Ｇ_MATの各成分は、求めたい補正係数g_iである。従って、式（２３０）において、左辺の行列Ａ_MATと右辺の行列Ｕ_MATが決定されれば、行列解法によって行列Ｇ_MAT（即ち、補正係数g_i）の算出が可能である。
【２２０１】
具体的には、式（２２７）で示されるように、行列Ａ_MATの各成分は、予測タップa_ikが既知であれば演算可能である。予測タップa_ikは、領域抽出部３５７７により抽出されるので、正規方程式生成部３５７８は、領域抽出部３５７７より供給されてくる予測タップa_ikのそれぞれを利用して行列Ａ_MATの各成分を演算することができる。
【２２０２】
また、式（２２９）で示されるように、行列Ｕ_MATの各成分は、予測タップa_ikと差分画像のＨＤ画素u_kが既知であれば演算可能である。予測タップa_ikは、行列Ａ_MATの各成分に含まれるものと同一のものであり、また、差分画像のＨＤ画素u_kは、加算部３５７１より出力される第２の教師画像のＨＤ画素である。従って、正規方程式生成部３５７８は、領域抽出部３５７７より供給された予測タップa_ikと、第２の教師画像（第１の教師画像と、学習用予測画像の差分画像）を利用して行列Ｕ_MATの各成分を演算することができる。
【２２０３】
このようにして、正規方程式生成部３５７８は、クラスコード毎に、行列Ａ_MATと行列Ｕ_MATの各成分を演算し、その演算結果をクラスコードに対応付けて補正係数決定部３５７９に供給する。
【２２０４】
補正係数決定部３５７９は、供給された所定のクラスコードに対応する正規方程式に基づいて、上述した式（２３０）の行列Ｇ_MATの各成分である補正係数g_iを演算する。
【２２０５】
具体的には、上述した式（２３０）の正規方程式は、次の式（２３１）のように変形できる。
【２２０６】
【数１８２】

・・・（２３１）
【２２０７】
式（２３１）において、左辺の行列Ｇ_MATの各成分が、求めたい補正係数g_iである。また、行列Ａ_MATと行列Ｕ_MATのそれぞれの各成分は、正規方程式生成部３５７８より供給されるものである。従って、補正係数決定部３５７９は、正規方程式生成部３５７８より所定のクラスコードに対応する行列Ａ_MATと行列Ｕ_MATのそれぞれの各成分が供給されてきたとき、式（２３１）の右辺の行列演算を行うことで行列Ｇ_MATを演算し、その演算結果（補正係数g_i）をクラスコードに対応付けて補正係数メモリ３５５４に記憶させる。
【２２０８】
以上、クラス分類適応処理補正部３５０２と、それに付随する学習部である、クラス分類適応処理補正用学習部３５６１の詳細について説明した。
【２２０９】
ところで、上述した特徴量画像は、クラス分類適応処理補正部３５０２がそれに基づいて補正画像（差分予測画像）を生成することが可能なものであれば、その形態は特に限定されない。換言すると、特徴量画像の各画素の画素値、即ち、特徴量は、上述したように、画素（センサ２（図２６６）の画素）内における実世界１（図２６６）の信号の変化量の度合いを表すことができるものであれば、特に、限定されない。
【２２１０】
例えば、特徴量として、画素内傾斜を適用することが可能である。
【２２１１】
画素内傾斜とは、ここで新しく定義した言葉である。そこで、以下、画素内傾斜について説明する。
【２２１２】
上述したように、図２６６において、画像である、実世界１の信号は、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする関数F(x,y,t)で表される。
【２２１３】
また、例えば、画像である、実世界１の信号が、空間方向の所定の方向に定常性を有する場合、関数F(x,y,t)を、空間方向であるX方向、Y方向、およびZ方向のうちの所定の１方向（例えば、X方向）に射影した１次元の波形（ここでも、このような波形のうちのX方向に射影した波形を、X断面波形F(x)と称することにする）と同一形状の波形が、定常性の方向に連なっていると考えることができる。
【２２１４】
従って、実世界推定部１０２は、例えば、データ定常性検出部１０１より出力される、実世界１の信号が有する定常性に対応するデータ定常性情報（例えば、角度）に基づいて、Ｘ断面波形F(x)を、n次（nは、任意の整数）の多項式である近似関数f(x)で近似することができる。
【２２１５】
図２７８は、このような近似関数f(x)の一例として、次の式（２３２）で示されるf₄(x)（５次の多項式であるf₄(x)）と、次の式（２３３）で示されるf₅(x)（１次の多項式であるf₅(x)）をプロットしたものを表している。
【２２１６】
【数１８３】

・・・（２３２）
【２２１７】
【数１８４】

・・・（２３３）
【２２１８】
なお、式（２３２）のw₀乃至w₅、並びに、式（２３３）のw₀'およびw₁'のそれぞれは、実世界推定部１０２が演算した各次の係数を表している。
【２２１９】
また、図２７８において、図中水平方向のx軸は、注目画素の左端を原点（x=0）とした場合における、注目画素からの空間方向Ｘの相対位置を表している。ただし、x軸においては、センサ２の検出素子の幅L_cが１とされている。また、図中垂直方向の軸は、画素値を表している。
【２２２０】
図２７８で示されるように、１次の近似関数f₅(x)（式（２３２）で示される近似関数f₅(x)）は、注目画素におけるX断面波形F(x)を直線近似したものである。この近似直線の傾きを、ここでは、画素内傾斜と称している。即ち、画素内傾斜とは、式（２３３）におけるxの係数w₁'である。
【２２２１】
画素内傾斜が急な場合、それは、注目画素における、Ｘ断面波形F(x)の変化量が大きいことを表している。これに対して、画素内傾斜が緩やかな場合、それは、注目画素における、Ｘ断面波形F(x)の変化量が小さいことを表している。
【２２２２】
このように、画素内傾斜は、画素（センサ２の画素）内における実世界１の信号の変化量の度合いを適切に表すことができる。従って、特徴量として、画素内傾斜を適用することができる。
【２２２３】
例えば、図２７９には、画素内傾斜を特徴量として実際に生成された特徴量画像が示されている。
【２２２４】
即ち、図２７９において、図中左側の画像は、上述した図２７０で示されるＳＤ画像３５４２と同一の画像を表している。また、図中右側の画像は、左側のＳＤ画像３５４２を構成する各画素のそれぞれに対して画素内傾斜を求め、画素内傾斜に対応する値を画素値としてプロットした特徴量画像３５９１を表している。ただし、特徴量画像３５９１は、画素内傾斜がない場合（近似直線が、Ｘ方向に平行な場合）、黒となり、これに対して、画素内傾斜が直角の場合（近似直線が、Ｙ方向に平行な場合）、白となるように生成されている。
【２２２５】
ＳＤ画像３５４２の領域３５４２−１は、上述した図２７１の差分画像３５４４の領域３５４４−１（上述した図２７２を参照して、画素内における実世界１の信号の変化量が小さい領域の１例として説明した領域）に対応する領域である。このＳＤ画像３５４２の領域３５４２−１に対応する特徴量画像３５９１の領域が、領域３５９１−１である。
【２２２６】
また、ＳＤ画像３５４２の領域３５４２−２は、上述した図２７３の差分画像３５４４の領域３５４４−２（上述した図２７４を参照して、画素内における実世界１の信号の変化量が大きい領域の1例として説明した領域）に対応する領域である。このＳＤ画像３５４２の領域３５４２−２に対応する特徴量画像３５９１の領域が、領域３５９１−２である。
【２２２７】
ＳＤ画像３５４２の領域３５４２−１と特徴量画像３５９１の領域３５９１−１とを比較するに、実世界１の信号の変化量が小さい領域は、特徴量画像３５９１においては、黒に近い領域（画素内傾斜が緩い領域）となっていることがわかる。
【２２２８】
これに対して、ＳＤ画像３５４２の領域３５４２−２と特徴量画像３５９１の領域３５９１−２とを比較するに、実世界１の信号の変化量が大きい領域は、特徴量画像３５９１においては、白に近い領域（画素内傾斜が急な領域）となっていることがわかる。
【２２２９】
このように、画素内傾斜に対応する値を画素として生成された特徴量画像は、各画素内のそれぞれにおける実世界１の信号の変化量の度合いを適切に表すことができる。
【２２３０】
次に、画素内傾斜の具体的な算出方法について説明する。
【２２３１】
即ち、注目画素における画素内傾斜を、gradと記述すると、画素内傾斜gradは、次の式（２３４）で表される。
【２２３２】
【数１８５】

・・・（２３４）
【２２３３】
式（２３４）において、P_nは、注目画素の画素値を表している。P_cは、中心画素の画素値を表している。
【２２３４】
具体的には、例えば、図２８０で示されるように、センサ２からの入力画像のうちの、５×５の画素（図中５×５＝２５個の正方形）からなる領域であって、所定のデータの定常性を有する領域３６０１（以下、定常領域３６０１と称する）が存在した場合、この定常領域３６０１の中心の画素３６０２が中心画素とされる。従って、P_cは、中心画素３６０２の画素値となる。そして、例えば、画素３６０３が注目画素とされた場合、P_nは、注目画素３６０３の画素値となる。
【２２３５】
また、式（２３４）において、x_n'は、注目画素の中心点における断面方向距離を表している。なお、ここでは、中心画素（図２８０の例では、画素３６０２）の中心を空間方向の原点(0,0)とし、その原点を通るデータの定常性の方向と平行な直線（図２８０の例では、直線３６０４）を引いたとすると、その直線に対するＸ方向の相対的な距離を、断面方向距離と称している。
【２２３６】
図２８１は、図２８０の定常領域３６０１内の各画素の断面方向距離を表した図である。即ち、図２８１において、定常領域３６０１の各画素（図中５×５＝２５個の正方形）内のそれぞれに記載されている値が、対応する画素の断面方向距離である。例えば、注目画素３６０３の断面距離x_n'は、−２βである。
【２２３７】
ただし、各画素幅は、Ｘ方向もＹ方向も１とされている。Ｘ方向の正方向は、図中右方向とされている。また、βは、中心画素３６０２のＹ方向に対して１つ隣（図中１つ下）の画素３６０５の断面方向距離を表している。このβは、図２８１で示されるような角度θ（直線３６０４の方向と、Ｘ方向のなす角度θ）が、データ定常性検出部１０１よりデータ定常性情報として出力されている場合、次の式（２３５）を利用して簡単に演算することが可能である。
【２２３８】
【数１８６】

・・・（２３５）
【２２３９】
このように、画素内傾斜は、中心画素（図２８１の例では画素３６０２）と注目画素（図２８１の例では画素３６０３）の２つの入力画素値と、角度θを利用する簡単な演算で算出可能である。従って、実世界推定部１０２は、画素内傾斜に対応する値を画素値とする画像を、特徴量画像として生成すれば、その処理量を大幅に低減することが可能になる。
【２２４０】
なお、さらに精度のよい画素内傾斜を求めたい場合、実世界推定部１０２は、注目画素の周辺画素を用いて最小自乗法により演算すればよい。具体的には、実世界推定部１０２は、注目画素を含むｍ個（ｍは２以上の整数）の画素に対して番号i（iは、１乃至ｍ）を付与し、番号iの画素のそれぞれの入力画素値P_iと断面方向距離x_i'を、次の式（２３６）の右辺に代入して注目画素における画素内傾斜gradを演算すればよい。即ち、式（２３６）は、上述した１変数を最小自乗法で求める式と同様の式である。
【２２４１】
【数１８７】

・・・（２３６）
【２２４２】
次に、図２８２を参照して、クラス分類適応処理補正手法を利用する画像生成部１０３（図２６６）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【２２４３】
図２６６において、画像である、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。この入力画像は、データ定常性検出部１０１に入力されるとともに、画像生成部１０３のクラス分類適応処理部３５０１に入力される。
【２２４４】
そこで、図２８２のステップＳ３５０１において、クラス分類適応処理部３５０１は、入力された入力画像（ＳＤ画像）に対してクラス分類適応処理を施して、予測画像（ＨＤ画像）を生成し、加算部３５０３に出力する。
【２２４５】
なお、以下、このようなクラス分類適応処理部３５０１が実行するステップＳ３５０１の処理を、「入力画像クラス分類適応処理」と称する。この例の「入力画像クラス分類適応処理」の詳細については、図２８３のフローチャートを参照して後述する。
【２２４６】
ステップＳ３５０１の処理とほぼ同時に、データ定常性検出部１０１は、入力画像に含まれるデータの定常性を検出し、その検出結果（いまの場合、角度）をデータ定常性情報として実世界推定部１０２に出力する（図４０のステップＳ１０１の処理）。
【２２４７】
実世界推定部１０２は、入力した角度（データ定常性情報）に基づいて、実世界推定情報（いまの場合、ＳＤ画像である特徴量画像）を生成し、画像生成部１０３のクラス分類適応処理補正部３５０２に供給する（図４０のステップＳ１０２の処理）。
【２２４８】
そこで、ステップＳ３５０２において、クラス分類適応処理補正部３５０２は、供給された特徴量画像（ＳＤ画像）に対してクラス分類適応処理を施して、差分予測画像（ＨＤ画像）を生成し（実際の画像（実世界１の信号）と、クラス分類適応処理部３５０１から出力された予測画像との差分画像（ただし、ＨＤ画像）を予測演算し）、それを補正画像として加算部３５０３に出力する。
【２２４９】
なお、以下、このようなクラス分類適応処理補正部３５０２が実行するステップＳ３５０２の処理を、「クラス分類適応処理の補正処理」と称する。この例の「クラス分類適応処理の補正処理」の詳細については、図２８４のフローチャートを参照して後述する。
【２２５０】
そして、ステップＳ３５０３において、加算部３５０３が、ステップＳ３５０１の処理でクラス分類適応処理部３５０１により生成された予測画像（ＨＤ画像）の注目画素（ＨＤ画素）と、その注目画素に対応する、ステップＳ３５０２の処理でクラス分類適応処理補正部３５０２により生成された補正画像（ＨＤ画像）の画素（ＨＤ画素）を加算し、出力画像（ＨＤ画像）の画素（ＨＤ画素）を生成する。
【２２５１】
ステップＳ３５０４において、加算部３５０３は、全画素の処理を終了したか否かを判定する。
【２２５２】
ステップＳ３５０４において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３５０１に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３５０１乃至Ｓ３５０３の処理が繰り返される。
【２２５３】
そして、全画素の処理が終了すると（ステップＳ３５０４において、全画素の処理が終了されたと判定すると）、加算部３５０４は、ステップＳ３５０５において、出力画像（ＨＤ画像）を外部に出力する。その後、画像の生成の処理は終了となる。
【２２５４】
次に、図面を参照して、この例における「入力画像クラス分類適応処理（ステップＳ３５０１の処理）」、および、「クラス分類適応処理の補正処理（ステップＳ３５０２の処理）」のそれぞれの詳細について、その順番で個別に説明する。
【２２５５】
はじめに、図２８３のフローチャートを参照して、クラス分類適応処理部３５０１（図２６７）が実行する「入力画像クラス分類適応処理」の詳細について説明する。
【２２５６】
入力画像（ＳＤ画像）がクラス分類適応処理部３５０１に入力されると、ステップＳ３５２１において、領域抽出部３５１１と領域抽出部３５１５のそれぞれは、入力画像を入力する。
【２２５７】
ステップＳ３５２２において、領域抽出部３５１１は、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置）のそれぞれに位置する画素（ＳＤ画素）を、クラスタップとして抽出し、パターン検出部３５１２に供給する。
【２２５８】
ステップＳ３５２３において、パターン検出部３５１２は、供給されたクラスタップのパターンを検出し、クラスコード決定部３５１３に供給する。
【２２５９】
ステップＳ３５２４において、クラスコード決定部３５１３は、予め設定されている複数のクラスコードの中から、供給されたクラスタップのパターンに適合するクラスコードを決定し、係数メモリ３５１４と領域抽出部３５１５のそれぞれに供給する。
【２２６０】
ステップＳ３５２５において、係数メモリ３５１４は、予め学習処理により決定された複数の予測係数（群）の中から、供給されたクラスコードに基づいてこれから使用する予測係数（群）を読み出し、予測演算部３５１６に供給する。
【２２６１】
なお、学習処理については、図２８８のフローチャートを参照して後述する。
【２２６２】
ステップＳ３５２６において、領域抽出部３５１５は、供給されたクラスコードに対応して、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置であって、クラスタップの位置とは独立して設定された位置。ただし、クラスタップの位置と同一の位置でもよい）のそれぞれに位置する画素（ＳＤ画素）を、予測タップとして抽出し、予測演算部３５１６に供給する。
【２２６３】
ステップＳ３５２７において、予測演算部３５１６は、領域抽出部３５１５より供給された予測タップを、係数メモリ３５１４より供給された予測係数を用いて演算し、予測画像（ＨＤ画像）を生成して加算部３５０３に出力する。
【２２６４】
具体的には、予測演算部３５１６は、領域抽出部３５１５より供給された予測タップのそれぞれをc_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、係数メモリ３５１４より供給された予測係数のそれぞれをd_iとして、上述した式（２１５）の右辺を演算することにより、注目画素（ＳＤ画素）におけるＨＤ画素q'を算出し、それを予測画像（ＨＤ画像）を構成する１つの画素として加算部３５０３に出力する。これにより、入力画像クラス分類適応処理が終了となる。
【２２６５】
次に、図２８４のフローチャートを参照して、クラス分類適応処理補正部３５０２（図２７６）が実行する「クラス分類適応処理の補正処理」の詳細について説明する。
【２２６６】
実世界推定部１０２より実世界推定情報として特徴量画像（ＳＤ画像）がクラス分類適応処理補正部３５０２に入力されると、ステップＳ３５４１において、領域抽出部３５５１と領域抽出部３５５５のそれぞれは、特徴量画像を入力する。
【２２６７】
ステップＳ３５４２において、領域抽出部３５５１は、特徴量画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置）のそれぞれに位置する画素（ＳＤ画素）を、クラスタップとして抽出し、パターン検出部３５５２に供給する。
【２２６８】
具体的には、この例においては、例えば、図２８５で示されるようなクラスタップ（群）３６２１が抽出されるとする。即ち、図２８５は、クラスタップ配置の１例を表している。
【２２６９】
図２８５において、図中水平方向は、空間方向の１方向であるＸ方向とされており、図中垂直方向は、空間方向の他方向であるＹ方向とされている。また、注目画素は、画素３６２１−２とされている。
【２２７０】
この場合、図２８５の例では、注目画素３６２１−２、Ｙ方向に対して注目画素３６２１−２の隣の画素３６２１−０および画素３６２１−４、並びに、Ｘ方向に対して注目画素３６２１−２の隣の画素３６２１−１および画素３６２１−３の総計５個の画素からなる画素群３６２１が、クラスタップとして抽出されることになる。
【２２７１】
勿論、クラスタップ配置は、注目画素３６２１−２を含む配置であれば、図２８５の例に限定されず、様々な配置が可能である。
【２２７２】
図２８４に戻り、ステップＳ３５４３において、パターン検出部３５５２は、供給されたクラスタップのパターンを検出し、クラスコード決定部３５５３に供給する。
【２２７３】
具体的には、この例においては、例えば、パターン検出部３５５２は、図２８５で示される５個のクラスタップ３６２１−０乃至３６２１−４のそれぞれの画素値、即ち、特徴量の値（例えば、画素内傾斜）のそれぞれが、予め設定された複数のクラスのうちのいずれのクラスに属するのかを検出し、それらの検出結果を１つにまとめたものをパターンとして出力する。
【２２７４】
例えば、いま、図２８６で示されるようなパターンが検出されたとする。即ち、図２８６は、クラスタップのパターンの１例を表している。
【２２７５】
図２８６において、図中水平方向の軸は、クラスタップを表しており、図中垂直方向の軸は、画素内傾斜を表している。また、画素内傾斜により、クラス
３６３１、クラス３６３２、およびクラス３６３３の３つのクラスが予め設定されているとする。
【２２７６】
この場合、図２８６で示されるパターンは、クラスタップ３６２１−０はクラス３６３１に、クラスタップ３６２１−１はクラス３６３１に、クラスタップ３６２１−２はクラス３６３３に、クラスタップ３６２１−３はクラス３６３１に、クラスタップ３６２１−４はクラス３６３２に、それぞれ属するパターンを表している。
【２２７７】
このように、５個のクラスタップ３６２１−０乃至３６２１−４のそれぞれは、３つのクラス３６３１乃至３６３３のうちのいずれかに属することになる。従って、この例においては、図２８６で示されるパターンを含めて総計２７３（＝３＾５）個のパターンが存在することになる。
【２２７８】
図２８４に戻り、ステップＳ３５４４において、クラスコード決定部３５５３は、予め設定されている複数のクラスコードの中から、供給されたクラスタップのパターンに適合するクラスコードを決定し、補正係数メモリ３５５４と領域抽出部３５５５のそれぞれに供給する。いまの場合、２７３個のパターンが存在するので、予め設定されているクラスコードの数も２７３個（または、それ以上）となる。
【２２７９】
ステップＳ３５４５において、補正係数メモリ３５５４は、予め学習処理により決定された複数の補正係数（群）の中から、供給されたクラスコードに基づいてこれから使用する補正係数（群）を読み出し、補正演算部３５５６に供給する。補正係数メモリ３５５４に記憶されている補正係数（群）のそれぞれは、予め設定されたクラスコードのうちのいずれかに対応付けられているので、いまの場合、補正係数（群）の数は、予め設定されているクラスコードの数と同数（２７３個以上）となる。
【２２８０】
なお、学習処理については、図２８８のフローチャートを参照して後述する。
【２２８１】
ステップＳ３５４６において、領域抽出部３５５５は、供給されたクラスコードに対応して、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置であって、クラスタップの位置とは独立して設定された位置。ただし、クラスタップの位置と同一の位置でもよい）のそれぞれに位置する画素（ＳＤ画素）を、予測タップとして抽出し、補正演算部３５５６に供給する。
【２２８２】
具体的には、この例においては、例えば、図２８７で示されるような予測タップ（群）３６４１が抽出されるとする。即ち、図２８７は、予測タップ配置の１例を表している。
【２２８３】
図２８７において、図中水平方向は、空間方向の１方向であるＸ方向とされており、図中垂直方向は、空間方向の他方向であるＹ方向とされている。また、注目画素は、画素３６４１−１とされている。即ち、画素３６４１−１は、クラスタップ３６２１−２（図２８５）に対応する画素である。
【２２８４】
この場合、図２８７の例では、注目画素３６４１−１を中心とする５×５の画素群（総計２５個の画素からなる画素群）３６４１が、予測タップ（群）として抽出されることになる。
【２２８５】
勿論、予測タップ配置は、注目画素３６４１−１を含む配置であれば、図２８７の例に限定されず、様々な配置が可能である。
【２２８６】
図２８４に戻り、ステップＳ３５４７において、補正演算部３５５６は、領域抽出部３５５５より供給された予測タップを、補正係数メモリ３５５４より供給された補正係数を用いて演算し、差分予測画像（ＨＤ画像）を生成し、補正画像として加算部３５０３に出力する。
【２２８７】
より詳細には、補正演算部３５５６は、領域抽出部３５５５より供給された予測タップのそれぞれをa_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、補正係数メモリ３５５４より供給された補正係数のそれぞれをg_iとして、上述した式（２２３）の右辺を演算することにより、注目画素（ＳＤ画素）におけるＨＤ画素u'を算出し、それを補正画像（ＨＤ画像）を構成する１つの画素として加算部３５０３に出力する。これにより、クラス分類適応処理の補正処理は終了となる。
【２２８８】
次に、図２８８のフローチャートを参照して、学習装置（図２６８）の学習処理、即ち、クラス分類適応処理部３５０１（図２６７）が使用する予測係数と、クラス分類適応処理補正部３５０２（図２７６）が使用する補正係数のそれぞれを学習により生成する学習処理について説明する。
【２２８９】
ステップＳ３５６１において、クラス分類適応処理用学習部３５２１は、クラス分類適応処理部３５０１が使用する予測係数を生成する。
【２２９０】
即ち、クラス分類適応処理用学習部３５２１は、所定の画像を第１の教師画像（ＨＤ画像）として入力し、その第１の教師画像の解像度を下げて第１の生徒画像（ＳＤ画像）を生成する。
【２２９１】
そして、クラス分類適応処理用学習部３５２１は、クラス分類適応処理により第１の生徒画像（ＳＤ画像）から第１の教師画像（ＨＤ画像）を適切に予測することが可能な予測係数を生成し、クラス分類適応処理部３５０１の係数メモリ３５１４（図２６７）に記憶させる。
【２２９２】
なお、以下、このようなクラス分類適応処理用学習部３５２１が実行するステップＳ３５６１の処理を、「クラス分類適応処理用学習処理」と称する。この例の「クラス分類適応処理用学習処理」の詳細については、図２８９のフローチャートを参照して後述する。
【２２９３】
クラス分類適応処理部３５０１が使用する予測係数が生成されると、ステップＳ３５６２において、クラス分類適応処理補正用学習部３５６１は、クラス分類適応処理補正部３５０２が使用する補正係数を生成する。
【２２９４】
即ち、クラス分類適応処理補正用学習部３５６１は、クラス分類適応処理用学習部３５２１より、第１の教師画像、第１の生徒画像、および学習用予測画像（クラス分類適応処理用学習部３５２１により生成された予測係数を用いて、第１の教師画像を予測した画像）のそれぞれを入力する。
【２２９５】
次に、クラス分類適応処理補正用学習部３５６１は、第２の教師画像として、第１の教師画像と学習用予測画像の差分画像を生成するとともに、第２の生徒画像として、第１の生徒画像から特徴量画像を生成する。
【２２９６】
そして、クラス分類適応処理補正用学習部３５６１は、クラス分類適応処理により第２の生徒画像（ＳＤ画像）から第２の教師画像（ＨＤ画像）を適切に予測することが可能な予測係数を生成し、それを補正係数としてクラス分類適応処理補正部３５０２の補正係数メモリ３５５４に記憶させる。これにより、学習処理は終了となる。
【２２９７】
なお、以下、このようなクラス分類適応処理補正用学習部３５６１が実行するステップＳ３５６２の処理を、「クラス分類適応処理補正用学習処理」と称する。この例の「クラス分類適応処理補正用学習処理」の詳細については、図２９０のフローチャートを参照して後述する。
【２２９８】
次に、図面を参照して、この例における「クラス分類適応処理用学習処理（ステップＳ３５６１の処理）」、および、「クラス分類適応処理補正用学習処理（ステップＳ３５６２の処理）」のそれぞれの詳細について、その順番で個別に説明する。
【２２９９】
はじめに、図２８９のフローチャートを参照して、クラス分類適応処理用学習部３５２１（図２６９）が実行する「クラス分類適応処理用学習処理」の詳細について説明する。
【２３００】
ステップＳ３５８１において、ダウンコンバート部３５３１と正規方程式生成部３５３６のそれぞれは、供給された所定の画像を、第１の教師画像（ＨＤ画像）として入力する。なお、第１の教師画像は、上述したように、クラス分類適応処理補正用学習部３５６１にも入力される。
【２３０１】
ステップＳ３５８２において、ダウンコンバート部３５３１は、入力された第１の教師画像をダウンコンバートして（解像度を落として）第１の生徒画像（ＳＤ画像）を生成し、領域抽出部３５３２と領域抽出部３５３５のそれぞれに供給するとともに、クラス分類適応処理補正用学習部３５６１にも出力する。
【２３０２】
ステップＳ３５８３において、領域抽出部３５３２は、供給された第１の生徒画像からクラスタップを抽出してパターン検出部３５３３に出力する。なお、ステップＳ３５８３の処理は、ブロックに入力される情報と、ブロックから出力される情報は厳密には違う情報であるが（以下、このような違いを、単に、入出力の違いと称する）、上述したステップＳ３５２２（図２８３）の処理と基本的に同様の処理である。
【２３０３】
ステップＳ３５８４において、パターン検出部３５３３は、供給されたクラスタップよりクラスコードを決定するためのパターンを検出し、クラスコード決定部３５３４に供給する。なお、ステップＳ３５８４の処理は、入出力の違いはあるが、上述したステップＳ３５２３（図２８３）の処理と基本的に同様の処理である。
【２３０４】
ステップＳ３５８５において、クラスコード決定部３５３４は、供給されたクラスタップのパターンに基づいてクラスコードを決定し、領域抽出部３５３５と正規方程式生成部３５３６のそれぞれに供給する。なお、ステップＳ３５８５の処理は、入出力の違いはあるが、上述したステップＳ３５２４（図２８３）の処理と基本的に同様の処理である。
【２３０５】
ステップＳ３５８６において、領域抽出部３５３５は、供給されたクラスコードに対応して、第１の生徒画像の中から予測タップを抽出し、正規方程式生成部３５３６と予測演算部３５３８のそれぞれに供給する。なお、ステップＳ３５８６の処理は、入出力の違いはあるが、上述したステップＳ３５２６（図２８３）の処理と基本的に同様の処理である。
【２３０６】
ステップＳ３５８７において、正規方程式生成部３５３６は、領域抽出部３５３５より供給された予測タップ（ＳＤ画素）、および、第１の教師画像（ＨＤ画像）を構成するＨＤ画素のうちの所定のＨＤ画素から、上述した式（２１７）（即ち、式（２２１））で示される正規方程式を生成し、クラスコード決定部３５３４より供給されたクラスコードとともに係数決定部３５３７に供給する。
【２３０７】
ステップＳ３５８８において、係数決定部３５３７は、供給された正規方程式を解いて予測係数を決定し、即ち、上述した式（２２２）の右辺を演算することで予測係数を算出し、供給されたクラスコードに対応付けて係数メモリ３５１４に記憶させるとともに、予測演算部３５３８に供給する。
【２３０８】
ステップＳ３５８９において、予測演算部３５３８は、領域抽出部３５３５より供給された予測タップを、係数決定部３５３７より供給された予測係数を用いて演算し、学習用予測画像（ＨＤ画素）を生成する。
【２３０９】
具体的には、予測演算部３５３８は、領域抽出部３５３５より供給された予測タップのそれぞれをc_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、係数決定部３５３７より供給された予測係数のそれぞれをd_iとして、上述した式（２１５）の右辺を演算することにより、第１の教師画像の所定のＨＤ画素qを予測したＨＤ画素q'を算出し、たＨＤ画素q'を学習用予測画像の１つの画素とする。
【２３１０】
ステップＳ３５９０において、全ての画素について処理が施されたか否かが判定され、全ての画素について処理が施されていないと判定された場合、その処理は、ステップＳ３５８３に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ３５８３乃至Ｓ３５９０の処理が繰り返される。
【２３１１】
そして、ステップＳ３５９０において、全ての画素について処理が施されたと判定された場合、ステップＳ３５９１において、予測演算部３５３８は、学習予測画像（ステップＳ３５８９の処理毎に生成された各ＨＤ画素q'から構成されるＨＤ画像）を、クラス分類適応処理補正用学習部３５６１に出力する。これにより、クラス分類適応処理用学習処理は終了となる。
【２３１２】
このように、この例においては、全ての画素の処理が終了された後、第１の教師画像を予測したＨＤ画像である学習用予測画像がクラス分類適応処理補正用学習部３５６１に出力される。即ち、全てのＨＤ画素（予測画素）が一括して出力される。
【２３１３】
しかしながら、全ての画素が一括して出力されることは必須ではなく、ステップＳ３５８９の処理でＨＤ画素（予測画素）が生成される毎に、クラス分類適応処理補正用学習部３５６１に出力されてもよい。この場合、ステップＳ３５９１の処理は省略される。
【２３１４】
次に、図２９０のフローチャートを参照して、クラス分類適応処理補正用学習部３５６１（図２７７）が実行する「クラス分類適応処理補正用学習処理」の詳細について説明する。
【２３１５】
クラス分類適応処理用学習部３５２１より第１の教師画像（ＨＤ画像）と学習用予測画像（ＨＤ画像）が入力されると、ステップＳ３６０１において、加算部３５７１は、第１の教師画像から学習用予測画像を減算し、差分画像（ＨＤ画像）を生成し、それを第２の教師画像として正規方程式生成部３５７８に供給する。
【２３１６】
また、クラス分類適応処理用学習部３５２１より第１の生徒画像（ＳＤ画像）が入力されると、ステップＳ３６０２において、データ定常性検出部３５７２と実世界推定部３５７３は、入力された第１の生徒画像（ＳＤ画像）から特徴量画像を生成し、それを第２の生徒画像として領域抽出部３５７４と領域抽出部３５７７のそれぞれに供給する。
【２３１７】
即ち、データ定常性検出部３５７２は、第１の生徒画像に含まれるデータの定常性を検出し、その検出結果（いまの場合、角度）をデータ定常性情報として実世界推定部３５７３に出力する。なお、ステップＳ３６０２のデータ定常性検出部３５７２の処理は、入出力の違いはあるが、上述した図４０のステップＳ１０１の処理と基本的に同様の処理である。
【２３１８】
実世界推定部３５７３は、入力した角度（データ定常性情報）に基づいて、実世界推定情報（いまの場合、ＳＤ画像である特徴量画像）を生成し、それを第２の生徒画像として領域抽出部３５７４と領域抽出部３５７７のそれぞれに供給する。なお、ステップＳ３６０２の実世界推定部３５７３の処理は、入出力の違いはあるが、上述した図４０のステップＳ１０２の処理と基本的に同様の処理である。
【２３１９】
また、ステップＳ３６０１とＳ３６０２の処理の順番は、図２９０の例に限定されない。即ち、ステップＳ３６０２の処理が先に実行されてもよいし、ステップＳ３６０１とＳ３６０２の処理が同時に実行されてもよい。
【２３２０】
ステップＳ３６０３において、領域抽出部３５７４は、供給された第２の生徒画像（特徴量画像）からクラスタップを抽出してパターン検出部３５７５に出力する。なお、ステップＳ３６０３の処理は、入出力の違いはあるが、上述したステップＳ３５４２（図２８４）の処理と基本的に同様の処理である。即ち、いまの場合、図２８５で示される配置の画素群３６２１がクラスタップとして抽出される。
【２３２１】
ステップＳ３６０４において、パターン検出部３５７５は、供給されたクラスタップよりクラスコードを決定するためのパターンを検出し、クラスコード決定部３５７６に供給する。なお、ステップＳ３６０４の処理は、入出力の違いはあるが、上述したステップＳ３５４３（図２８４）の処理と基本的に同様の処理である。即ち、いまの場合、学習処理が終了されるときには、少なくとも２７３個のパターンが検出されることになる。
【２３２２】
ステップＳ３６０５において、クラスコード決定部３５７６は、供給されたクラスタップのパターンに基づいてクラスコードを決定し、領域抽出部３５７７と正規方程式生成部３５７８のそれぞれに供給する。なお、ステップＳ３６０５の処理は、入出力の違いはあるが、上述したステップＳ３５４４（図２８４）の処理と基本的に同様の処理である。即ち、いまの場合、学習処理が終了されるときには、少なくとも２７３個のクラスコードが決定されることになる。
【２３２３】
ステップＳ３６０６において、領域抽出部３５７７は、供給されたクラスコードに対応して、第２の生徒画像（特徴量画像）の中から予測タップを抽出し、正規方程式生成部３５７８に供給する。なお、ステップＳ３６０６の処理は、入出力の違いはあるが、上述したステップＳ３５４６（図２８４）の処理と基本的に同様の処理である。即ち、いまの場合、図２８７で示される配置の画素群３６４１が予測タップとして抽出される。
【２３２４】
ステップＳ３６０７において、正規方程式生成部３５７８は、領域抽出部３５７７より供給された予測タップ（ＳＤ画素）、および、第２の教師画像（ＨＤ画像である、第１の教師画像と学習用予測画像の差分画像）を構成するＨＤ画素のうちの所定のＨＤ画素から、上述した式（２２６）（即ち、式（２３０））で示される正規方程式を生成し、クラスコード決定部３５７６より供給されたクラスコードとともに補正係数決定部３５７９に供給する。
【２３２５】
ステップＳ３６０８において、補正係数決定部３５７９は、供給された正規方程式を解いて補正係数を決定し、即ち、上述した式（２３１）の右辺を演算することで補正係数を算出し、供給されたクラスコードに対応付けて補正係数メモリ３５５４に記憶させる。
【２３２６】
ステップＳ３６０９において、全ての画素について処理が施されたか否かが判定され、全ての画素について処理が施されていないと判定された場合、その処理は、ステップＳ３６０３に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ３６０３乃至Ｓ３６０９の処理が繰り返される。
【２３２７】
そして、ステップＳ３６０９において、全ての画素について処理が施されたと判定された場合、クラス分類適応処理補正用学習処理は終了となる。
【２３２８】
以上、説明したように、クラス分類適応補正処理手法においては、クラス分類適応処理部３５０１より出力された予測画像に対して、クラス分類適応処理補正部３５０２より出力された補正画像（差分予測画像）が加算されて出力される。
【２３２９】
例えば、上述した図２７０で示されるＨＤ画像３５４１の解像度を落とした画像であるＳＤ画像３５４２が入力画像とされた場合、クラス分類適応処理部３５０１からは、図２９１で示される予測画像３５４３が出力される。そして、この予測画像３５４３に、クラス分類適応処理補正部３５０２より出力された補正画像（図示せず）が加算されると（補正画像により補正されると）、図２７１で示される出力画像３６５１となる。
【２３３０】
出力画像３６５１、予測画像３５４３、および、元の画像であるＨＤ画像３５４１（図２７０）のそれぞれを比較するに、出力画像３６５１は、予測画像３５４３よりもＨＤ画像３５４１により近い画像になっていることがわかる。
【２３３１】
このように、クラス分類適応処理補正手法においては、クラス分類適応処理を含む従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の信号）により近い画像の出力が可能になる。
【２３３２】
換言すると、クラス分類適応処理補正手法においては、例えば、図２６６のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサ（例えば、図２６６のセンサ２）の複数の検出素子により図２６６の実世界１の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像（図２６６）におけるデータの定常性を検出する。
【２３３３】
例えば、図２６６の実世界推定部１０２は、検出されたデータの定常性に対応して、実世界１の光信号を表す光信号関数Ｆ（ｘ）（図２７５）が有する実世界特徴（例えば、図２６６の特徴量画像を構成する画素に対応する特徴量）を検出することで、実世界１の光信号を推定する。
【２３３４】
詳細には、例えば、実世界推定部１０２は、出されたデータの定常性に対応する線（例えば、図２８０の線３６０４）からの少なくとも１次元方向に沿った距離（例えば、図２８０の断面方向距離Xn'）に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Ｆ（ｘ）を、例えば、図２７８の近似関数f₅（ｘ）で近似し、所定画素（例えば、図２８０の画素３６０３）内における近似関数f5（ｘ）の傾斜である画素内傾斜（例えば、上述した式（２３４）のgradであり、式（２３３）のｘの係数ｗ１‘）を、実世界特徴として検出することで、実世界１の光信号を推定する。
【２３３５】
そして、例えば、図２６６の画像生成部１０３が、実世界推定手段により検出された実世界特徴に基いて、入力画像よりも高質な出力画像（図２６６）を予測し生成する。
【２３３６】
詳細には、例えば、画像生成部１０３において、例えば、図２６６のクラス分類適応処理部３５０１が、出力画像における注目画素の周辺に位置する、実世界１の光信号の定常性が欠落した入力画像内の複数の画素の画素値から注目画素の画素値（例えば、図２６６の予測画像の画素であり、上述した式（２２４）のq'）を予測する。
【２３３７】
一方、例えば、図２６６のクラス分類適応処理補正部３５０２は、例えば、図２６６の実世界推定部１０２より供給された特徴量画像（実世界推定情報）から、クラス分類適応処理部３５０１により予測された予測画像の注目画素の画素値を補正する補正項（例えば、図２６６の補正画像（差分予測画像）の画素であり、式（２２４）のｕ‘）を予測する。
【２３３８】
そして、例えば、図２６６の加算部３５０３は、クラス分類適応処理部３５０１により予測された予測画像の注目画素の画素値を、クラス分類適応処理部３５０１により予測された補正項で補正する（例えば、式（２２４）のように演算する）。
【２３３９】
また、クラス分類適応処理補正手法においては、例えば、図２６７の係数メモリ３５１４に記憶される予測係数を学習により決定する図２６８のクラス分類適応処理学習部３５２１と、例えば、図２７６の補正係数メモリ３５５４に記憶される補正係数を学習により決定する図２６８のクラス分類適応処理補正用学習部３５６１を有する図２６８の学習装置３５０４が設けられている。
【２３４０】
詳細には、例えば、図２６９のクラス分類適応処理学習部３５２１には、学習用画像データをダウンコンバートするダウンコンバート部３５３１、並びに、学習用画像データを第１の教師画像とし、ダウンコンバート部３５３１によりダウンコンバートされた学習用画像データを第１の生徒画像とし、第１の教師画像と第１の生徒画像の関係を学習することにより、予測係数を生成する係数決定部３５３７、および、領域抽出部３５３２乃至正規方程式生成部３５３６が設けられている。
【２３４１】
クラス分類適応処理学習部３５２１にはさらに、例えば、係数決定部３５３７により生成（決定）された予測係数を使用して、第１の生徒画像から第１の教師画像を予測する画像データとして、学習用予測画像を生成する予測演算部３５３８が設けられている。
【２３４２】
また、例えば、図２７７のクラス分類適応処理補正用学習部３５６１には、第１の生徒画像におけるデータの定常性を検出し、検出したデータの定常性に基づいて、第１の生徒画像を構成する各画素のそれぞれに対応する実世界特徴を検出し、検出した実世界特徴に対応する値を画素値とする特徴量画像（具体的には、例えば、図２７９の特徴量画像３５９１）を、第２の生徒画像（例えば、図２７７の第２の生徒画像）として生成するデータ定常性検出部３５７２および実世界推定部３５７３、第１の教師画像と、学習用予測画像の差分からなる画像データ（差分画像）を、第２教師画像として生成する加算部３５７１、並びに、第２の教師画像と、第２の生徒画像の関係を学習することにより、補正係数を生成する補正係数決定部３５７９、および領域抽出部３５７４乃至正規方程式生成部３５７８が設けられている。
【２３４３】
従って、クラス分類適応処理補正手法においては、クラス分類適応処理を含む従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の信号）により近い画像の出力が可能になる。
【２３４４】
なお、クラス分類適応処理は、上述したように、ＳＤ画像には含まれていないが、ＨＤ画像に含まれる成分が再現される点で、例えば、単なる補間処理とは異なる。即ち、上述した式（２１５）や式（２２３）だけを見る限りは、いわゆる補間フィルタを用いての補間処理と同一に見えるが、クラス分類適応処理では、その補間フィルタの係数に相当する予測係数d_iまたは補足係数g_iが、教師データと生徒データ（第１の教師画像と第１の生徒画像、または、第２の教師画像と第２の生徒画像）を用いての学習により求められるため、ＨＤ画像に含まれる成分を再現することができる。このことから、上述したようなクラス分類適応処理は、いわば画像の創造（解像度創造）作用がある処理と称することができる。
【２３４５】
さらに、上述した例では、空間解像度を向上させる場合を例にして説明したが、クラス分類適応処理によれば、教師データおよび生徒データを変えて学習を行うことにより得られる種々の係数を用いることで、例えば、Ｓ／Ｎ(Signal to Noise Ratio) の向上や、ぼけの改善、その他の各種の処理を行うことが可能である。
【２３４６】
即ち、例えば、Ｓ／Ｎの向上やぼけの改善を、クラス分類適応処理によって行うには、Ｓ／Ｎの高い画像データを教師データとするとともに、その教師データのＳ／Ｎを低下させた画像（あるいは、ぼかした画像）を生徒データとして、係数を求めればよい。
【２３４７】
以上、本発明の実施の形態として、図３の構成の信号処理装置について説明したが、本発明の実施の形態は、図３の例に限定されず、様々な形態を取ることが可能である。即ち、図１の信号処理装置４の実施の形態は、図３の例に限定されず、様々な形態を取ることが可能である。
【２３４８】
例えば、図３の構成の信号処理装置は、画像である、実世界１の信号が有する定常性に基づいて信号処理を行う。このため、図３の構成の信号処理装置は、実世界１の信号のうちの定常性が存在する部分に対しては、他の信号処理装置の信号処理に比べて、精度のよい信号処理を実行することができ、その結果、より実世界１の信号に近い画像データを出力することが可能になる。
【２３４９】
しかしながら、図３の構成の信号処理装置は、定常性に基づいて信号処理を実行する以上、実世界１の信号のうちの明確な定常性が存在しない部分に対しては、定常性が存在する部分に対する処理と同等の精度で、信号処理を実行することができず、その結果、実世界１の信号に対して誤差を含む画像データを出力することになる。
【２３５０】
そこで、図３の構成の信号処理装置に対してさらに、定常性を利用しない他の信号処理を行う装置（または、プログラム等）を付加することができる。この場合、実世界１の信号のうちの定常性が存在する部分については、図３の構成の信号処理装置が信号処理を実行し、実世界１の信号のうちの明確な定常性が存在しない部分については、付加した他の装置（または、プログラム等）が信号処理を実行することになる。なお、以下、このような実施形態を併用手法と称する。
【２３５１】
以下、図２９２乃至図３０５を参照して、具体的な５つの併用手法（以下、それぞれの併用手法を、第１乃至第５の併用手法と称する）について説明する。
【２３５２】
なお、各併用手法が適用される信号処理装置の各機能をハードウェアで実現するか、ソフトウェアで実現するかは問わない。つまり、後述する図２９２乃至図２９４、図２９８、図３００、図３０２、および図３０４のそれぞれのブロック図は、ハードウェアのブロック図と考えても、ソフトウェアによる機能ブロック図と考えても良い。
【２３５３】
図２９２は、第１の併用手法が適用される信号処理装置の構成例を表している。
【２３５４】
図２９２の信号処理装置においては、データ３（図１）の一例である画像データが入力され、入力された画像データ（入力画像）に基づいて、後述する画像処理が施されて画像が生成され、生成された画像（出力画像）が出力される。即ち、図２９２は、画像処理装置である信号処理装置４（図１）の構成を示す図である。
【２３５５】
信号処理装置４に入力された入力画像（データ３の一例である画像データ）は、データ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０４のそれぞれに供給される。
【２３５６】
データ定常性検出部４１０１は、入力画像からデータの定常性を検出して、検出した定常性を示すデータ定常性情報を実世界推定部４１０２および画像生成部４１０３に供給する。
【２３５７】
このように、データ定常性検出部４１０１は、図３のデータ定常性検出部１０１と基本的に同様の構成と機能を有するものである。従って、データ定常性検出部４１０１は、上述した様々な実施の形態を取ることが可能である。
【２３５８】
ただし、データ定常性検出部４１０１はさらに、注目画素の領域を特定するための情報（以下、領域特定情報と称する）を生成し、領域検出部４１１１に供給する。
【２３５９】
この領域特定情報は、特に限定されず、データ定常性情報が生成された後に新たに生成された情報でもよいし、データ定常性情報が生成される場合に付帯して生成される情報でもよい。
【２３６０】
具体的には、例えば、領域特定情報として、推定誤差が使用可能である。即ち、例えば、データ定常性検出部４１０１が、データ定常性情報として角度を算出し、かつ、その角度を最小自乗法により演算する場合、最小自乗法の演算で推定誤差が付帯的に算出される。この推定誤差が、領域特定情報として使用可能である。
【２３６１】
実世界推定部４１０２は、入力画像、およびデータ定常性検出部４１０１から供給されたデータ定常性情報に基づいて、実世界１（図１）の信号を推定する。即ち、実世界推定部４１０２は、入力画像が取得されたときセンサ２（図１）に入射された、実世界１の信号である画像を推定する。実世界推定部４１０２は、実世界１の信号の推定の結果を示す実世界推定情報を画像生成部４１０３に供給する。
【２３６２】
このように、実世界推定部４１０２は、図３の実世界推定部１０２と基本的に同様の構成と機能を有するものである。従って、実世界推定部４１０２は、上述した様々な実施の形態を取ることが可能である。
【２３６３】
画像生成部４１０３は、実世界推定部４１０２から供給された、推定された実世界１の信号を示す実世界推定情報に基づいて、実世界１の信号により近似した信号を生成して、生成した信号をセレクタ４１１２に供給する。または、画像生成部４１０３は、データ定常性検出部４１０１から供給されたデータ定常性情報、および実世界推定部４１０２から供給された、推定された実世界１の信号を示す実世界推定情報に基づいて、実世界１の信号により近似した信号を生成して、生成した信号をセレクタ４１１２に供給する。
【２３６４】
即ち、画像生成部４１０３は、実世界推定情報に基づいて、実世界１の画像により近似した画像を生成し、セレクタ４１１２に供給する。または、画像生成部４１０３は、データ定常性情報、および実世界推定情報に基づいて、実世界１の画像により近似した画像を生成し、セレクタ４１１２に供給する。
【２３６５】
このように、画像生成部４１０３は、図３の画像生成部１０３と基本的に同様の構成と機能を有するものである。従って、画像生成部４１０３は、上述した様々な実施の形態を取ることが可能である。
【２３６６】
画像生成部４１０４は、入力画像に対して所定の画像処理を施して、画像を生成し、セレクタ４１１２に供給する。
【２３６７】
なお、画像生成部４１０４が実行する画像処理は、データ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０３が実行する画像処理とは異なる画像処理であれば、特に限定されない。
【２３６８】
例えば、画像生成部４１０４は、従来のクラス分類適応処理を行うことができる。このクラス分類適応処理を実行する画像生成部４１０４の構成例が、図２９３に示されている。なお、図２９３の説明、即ち、クラス分類適応処理を実行する画像生成部４１０４の詳細の説明については後述する。また、クラス分類適応処理についても、図２９３の説明をするときに併せて説明する。
【２３６９】
定常領域検出部４１０５には、領域検出部４１１１、およびセレクタ４１１２が設けられている。
【２３７０】
領域検出部４１１１は、データ定常性検出部４１０１より供給された領域特定情報に基づいて、セレクタ４１１２に供給された画像（注目画素）が、定常領域であるか、或いは非定常領域であるかを検出し、その検出結果をセレクタ４１１２に供給する。
【２３７１】
なお、領域検出部４１１１が実行する領域検出の処理は、特に限定されず、例えば、上述した推定誤差が領域特定情報として供給される場合、領域検出部４１１１は、供給された推定誤差が所定の閾値よりも小さいとき、入力画像の注目画素は定常領域であると検出し、一方、供給された推定誤差が所定の閾値以上であるとき、入力画像の注目画素は非定常領域であると検出する。
【２３７２】
セレクタ４１１２は、領域検出部４１１１より供給された検出結果に基づいて、画像生成部４１０３より供給された画像、または、画像生成部４１０４より供給された画像のうちのいずれか一方を選択し、選択した画像を出力画像として外部に出力する。
【２３７３】
即ち、領域検出部４１１１により注目画素が定常領域であると検出された場合、セレクタ４１１２は、画像生成部４１０３より供給された画像（入力画像の注目画素における、画像生成部４１０３により生成された画素）を出力画像として選択する。
【２３７４】
これに対して、領域検出部４１１１により注目画素が非定常領域であると検出された場合、セレクタ４１１２は、画像生成部４１０４より供給された画像（入力画像の注目画素における、画像生成部４１０４により生成された画素）を出力画像として選択する。
【２３７５】
なお、外部の出力先に応じて、セレクタ４１１２は、画素単位で、出力画像を出力する（選択した画素毎に出力する）こともできるし、全ての画素の処理が終了するまで処理済みの画素を格納しておき、全ての画素の処理が終了したとき、全ての画素を一括して（出力画像全体を１単位として）出力することもできる。
【２３７６】
次に、図２９３を参照して、画像処理の１例であるクラス分類適応処理を実行する画像生成部４１０４の詳細について説明する。
【２３７７】
図２９３において、画像生成部４１０４が実行するクラス分類適応処理は、例えば、入力画像の空間解像度を向上する処理であるとする。即ち、標準解像度の画像である入力画像を、高解像度の画像である予測画像に変換する処理であるとする。
【２３７８】
なお、以下の説明においても、標準解像度の画像を、適宜、ＳＤ(Standard Definition)画像と称するとともに、ＳＤ画像を構成する画素を、適宜、ＳＤ画素と称することにする。
【２３７９】
また、以下の説明においても、高解像度の画像を、適宜、ＨＤ(High Definition)画像と称するとともに、ＨＤ画像を構成する画素を、適宜、ＨＤ画素と称することにする。
【２３８０】
具体的には、画像生成部４１０４が実行するクラス分類適応処理とは、次のようなものである。
【２３８１】
即ち、はじめに、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるために、注目画素を含めた、その付近に配置されるＳＤ画素（以下の説明においても、このようなＳＤ画素を、クラスタップと称することにする）の特徴量のそれぞれを求めて、その特徴量毎に予め分類されたクラスを特定する（クラスタップ群のクラスコードを特定する）。
【２３８２】
そして、予め設定された複数の係数群（各係数群のそれぞれは、所定の１つのクラスコードに対応している）のうちの、特定されたクラスコードに対応する係数群を構成する各係数と、注目画素を含めた、その付近のＳＤ画素（以下の説明においても、このような入力画像のＳＤ画素を、予測タップと称することにする。なお、予測タップは、クラスタップと同じこともある）とを用いて積和演算を実行することで、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるものである。
【２３８３】
より詳細には、図１において、画像である、実世界１の信号（光の強度の分布）がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２３８４】
図２９３において、この入力画像（ＳＤ画像）は、画像生成部４１０４のうちの領域抽出部４１２１と領域抽出部４１２５にそれぞれ供給される。領域抽出部４１２５は、供給された入力画像から、クラス分類を行うために必要なクラスタップ（注目画素（ＳＤ画素）を含む予め設定された位置に存在するＳＤ画素）を抽出し、パターン検出部４１２２に出力する。パターン検出部４１２２は、入力されたクラスタップに基づいて入力画像のパターンを検出する。
【２３８５】
クラスコード決定部４１２３は、パターン検出部４１２２で検出されたパターンに基づいてクラスコードを決定し、係数メモリ４１２４、および、領域抽出部４１２５に出力する。係数メモリ４１２４は、学習により予め求められたクラスコード毎の係数を記憶しており、クラスコード決定部４１２３より入力されたクラスコードに対応する係数を読み出し、予測演算部４１２６に出力する。
【２３８６】
なお、係数メモリ４１２４の係数の学習処理については、図２９４の学習装置のブロック図を参照して後述する。
【２３８７】
また、係数メモリ４１２４に記憶される係数は、後述するように、予測画像（ＨＤ画像）を生成するときに使用される係数である。従って、以下、係数メモリ４１２４に記憶される係数を予測係数と称する。
【２３８８】
領域抽出部４１２５は、クラスコード決定部４１２３より入力されたクラスコードに基づいて、センサ２より入力された入力画像（ＳＤ画像）から、予測画像（ＨＤ画像）を予測生成するのに必要な予測タップ（注目画素を含む予め設定された位置に存在するＳＤ画素）をクラスコードに対応して抽出し、予測演算部４１２６に出力する。
【２３８９】
予測演算部４１２６は、領域抽出部４１２５より入力された予測タップと、係数メモリ４１２４より入力された予測係数とを用いて積和演算を実行し、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を生成し、セレクタ４１１２に出力する。
【２３９０】
より詳細には、係数メモリ４１２４は、クラスコード決定部４１２３より供給されるクラスコードに対応する予測係数を、予測演算部４１２６に出力する。予測演算部４１２６は、領域抽出部４１２５より供給される入力画像の所定の画素位置の画素値から抽出された予測タップと、係数メモリ４１２４より供給された予測係数とを用いて、次の式（２３７）で示される積和演算を実行することにより、予測画像（ＨＤ画像）のＨＤ画素を求める（予測推定する）。
【２３９１】
【数１８８】

・・・（２３７）
【２３９２】
式（２３７）において、q'は、予測画像（ＨＤ画像）のＨＤ画素を表している。c_i（iは、１乃至ｎの整数値）のそれぞれは、予測タップ（ＳＤ画素）のそれぞれを表している。また、d _iのそれぞれは、予測係数のそれぞれを表している。
【２３９３】
このように、画像生成部４１０４は、ＳＤ画像（入力画像）から、それに対するＨＤ画像を予測推定するので、ここでは、画像生成部４１０４から出力されるＨＤ画像を、予測画像と称している。
【２３９４】
図２９４は、このような画像生成部４１０４の係数メモリ４１２４に記憶される予測係数（式（２３７）におけるd _i）を決定するための学習装置（予測係数の算出装置）を表している。
【２３９５】
図２９４において、所定の画像が、教師画像（ＨＤ画像）としてダウンコンバート部４１４１と正規方程式生成部４１４６のそれぞれに入力される。
【２３９６】
ダウンコンバート部４１４６は、入力された教師画像（ＨＤ画像）から、教師画像よりも解像度の低い生徒画像（ＳＤ画像）を生成し（教師画像をダウンコンバートしたものを生徒画像とし）、領域抽出部４１４２と領域抽出部４１４５のそれぞれに出力する。
【２３９７】
このように、学習装置４１３１には、ダウンコンバート部４１４１が設けられているので、教師画像（ＨＤ画像）は、センサ２（図１）からの入力画像よりも高解像度の画像である必要は無い。なぜならば、教師画像がダウンコンバートされた（解像度が下げられた）生徒画像をＳＤ画像とすれば、生徒画像に対する教師画像がＨＤ画像になるからである。従って、教師画像は、例えば、センサ２からの入力画像そのものとされてもよい。
【２３９８】
領域抽出部４１４２は、ダウンコンバート部４１４１より供給された生徒画像（ＳＤ画像）から、クラス分類を行うために必要なクラスタップ（ＳＤ画素）を抽出し、パターン検出部４１４３に出力する。パターン検出部４１４３は、入力されたクラスタップのパターンを検出し、その検出結果をクラスコード決定部４１４４に出力する。クラスコード決定部４１４４は、入力されたパターンに対応するクラスコードを決定し、そのクラスコードを領域抽出部４１４５、および、正規方程式生成部４１４６のそれぞれに出力する。
【２３９９】
領域抽出部４１４５は、クラスコード決定部４１４４より入力されたクラスコードに基づいて、ダウンコンバート部４１４１より入力された生徒画像（ＳＤ画像）から予測タップ（ＳＤ画素）を抽出し、正規方程式生成部４１４６に出力する。
【２４００】
なお、以上の領域抽出部４１４２、パターン検出部４１４３、クラスコード決定部４１４４、および領域抽出部４１４５のそれぞれは、図２９３の画像生成部４１０４の領域抽出部４１２１、パターン検出部４１２２、クラスコード決定部４１２３、および、領域抽出部４１２５のそれぞれと、基本的に同様の構成と機能を有するものである。
【２４０１】
正規方程式生成部４１４６は、クラスコード決定部４１４４より入力された全てのクラスコードに対して、クラスコード毎に、領域抽出部４１４５より入力される生徒画像（ＳＤ画像）の予測タップ（ＳＤ画素）と、教師画像（ＨＤ画像）のＨＤ画素とから正規方程式を生成し、係数決定部４１４７に供給する。
【２４０２】
係数決定部４１４７は、正規方程式生成部４１４６より所定のクラスコードに対応する正規方程式が供給されてきたとき、その正規方程式より予測係数のそれぞれを演算し、係数メモリ４１２４にクラスコードと関連付けて記憶させる。
【２４０３】
正規方程式生成部４１４６と、係数決定部４１４７についてさらに詳しく説明する。
【２４０４】
上述した式（２３７）において、学習前は予測係数d_iのそれぞれが未定係数である。学習は、クラスコード毎に複数の教師画像（ＨＤ画像）のＨＤ画素を入力することによって行う。所定のクラスコードに対応するＨＤ画素がｍ個存在し、ｍ個のＨＤ画素のそれぞれを、q_k（ｋは、１乃至ｍの整数値）と記述する場合、式（２３７）から、次の式（２３８）が設定される。
【２４０５】
【数１８９】

・・・（２３８）
【２４０６】
即ち、式（２３８）は、右辺の演算をすることで、所定のＨＤ画素q_kを予測推定することができることを表している。なお、式（２３８）において、e_kは、誤差を表している。即ち、右辺の演算結果である予測画像（ＨＤ画像）のＨＤ画素q_k'が、実際のＨＤ画素q_kと厳密には一致せず、所定の誤差e_kを含む。
【２４０７】
そこで、式（２３８）において、誤差e_kの自乗和を最小にする予測係数d_iが学習により求まれば、その予測係数d_iは、実際のＨＤ画素q_kを予測するのに最適な係数であると言える。
【２４０８】
従って、例えば、学習により集められたｍ個（ただし、ｍは、ｎより大きい整数）のＨＤ画素q_kを用いて、最小自乗法により最適な予測係数d_iを一意に決定することができる。
【２４０９】
即ち、式（２３８）の右辺の予測係数d_iを最小自乗法で求める場合の正規方程式は、次の式（２３９）で表される。
【２４１０】
【数１９０】

・・・（２３９）
【２４１１】
従って、式（２３９）で示される正規方程式が生成されれば、その正規方程式を解くことで予測係数d_iが一意に決定されることになる。
【２４１２】
具体的には、式（２３９）で示される正規方程式の各行列のそれぞれを、次の式（２４０）乃至（２４２）のように定義すると、正規方程式は、次の式（２４３）のように表される。
【２４１３】
【数１９１】

・・・（２４０）
【２４１４】
【数１９２】

・・・（２４１）
【２４１５】
【数１９３】

・・・（２４２）
【２４１６】
【数１９４】

・・・（２４３）
【２４１７】
式（２４１）で示されるように、行列Ｄ_MATの各成分は、求めたい予測係数d_iである。従って、式（２４３）において、左辺の行列Ｃ_MATと右辺の行列Ｑ_MATが決定されれば、行列解法によって行列Ｄ_MAT（即ち、予測係数d_i）の算出が可能である。
【２４１８】
より具体的には、式（２４０）で示されるように、行列Ｃ_MATの各成分は、予測タップc_ikが既知であれば演算可能である。予測タップc_ikは、領域抽出部４１４５により抽出されるので、正規方程式生成部４１４６は、領域抽出部４１４５より供給されてくる予測タップc_ikのそれぞれを利用して行列Ｃ_MATの各成分を演算することができる。
【２４１９】
また、式（２４２）で示されるように、行列Ｑ_MATの各成分は、予測タップc_ikとＨＤ画素q_kが既知であれば演算可能である。予測タップc_ikは、行列Ｃ_MATの各成分に含まれるものと同一のものであり、また、ＨＤ画素q_kは、予測タップc_ikに含まれる注目画素（生徒画像のＳＤ画素）に対する教師画像のＨＤ画素である。従って、正規方程式生成部４１４６は、領域抽出部４１４５より供給された予測タップc_ikと、教師画像を利用して行列Ｑ_MATの各成分を演算することができる。
【２４２０】
このようにして、正規方程式生成部４１４６は、クラスコード毎に、行列Ｃ_MATと行列Ｑ_MATの各成分を演算し、その演算結果をクラスコードに対応付けて係数決定部４１４７に供給する。
【２４２１】
係数決定部４１４７は、供給された所定のクラスコードに対応する正規方程式に基づいて、上述した式（２４３）の行列Ｄ_MATの各成分である予測係数d_iを演算する。
【２４２２】
具体的には、上述した式（２４３）の正規方程式は、次の式（２４４）のように変形できる。
【２４２３】
【数１９５】

・・・（２４４）
【２４２４】
式（２４４）において、左辺の行列Ｄ_MATの各成分が、求めたい予測係数d_iである。また、行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分は、正規方程式生成部４１４６より供給されるものである。従って、係数決定部４１４７は、正規方程式生成部４１４６より所定のクラスコードに対応する行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分が供給されてきたとき、式（２４４）の右辺の行列演算を行うことで行列Ｄ_MATを演算し、その演算結果（予測係数d_i）をクラスコードに対応付けて係数メモリ４１２４に記憶させる。
【２４２５】
なお、クラス分類適応処理は、上述したように、ＳＤ画像には含まれていないが、ＨＤ画像に含まれる成分が再現される点で、例えば、単なる補間処理とは異なる。即ち、適応処理では、上述した式（２３７）だけを見る限りは、いわゆる補間フィルタを用いての補間処理と同一に見えるが、その補間フィルタの係数に相当する予測係数d_iが、教師データと生徒データを用いての学習により求められるため、ＨＤ画像に含まれる成分を再現することができる。このことから、上述したようなクラス分類適応処理は、いわば画像の創造（解像度創造）作用がある処理と称することができる。
【２４２６】
さらに、上述した例では、空間解像度を向上させる場合を例にして説明したが、クラス分類適応処理によれば、教師データおよび生徒データを変えて学習を行うことにより得られる種々の係数を用いることで、例えば、Ｓ／Ｎ(Signal to Noise Ratio) の向上や、ぼけの改善、その他の各種の処理を行うことが可能である。
【２４２７】
即ち、例えば、Ｓ／Ｎの向上やぼけの改善を、クラス分類適応処理によって行うには、Ｓ／Ｎの高い画像データを教師データとするとともに、その教師データのＳ／Ｎを低下させた画像（あるいは、ぼかした画像）を生徒データとして、係数を求めればよい。
【２４２８】
以上、クラス分類適応処理を実行する画像生成部４１０４と、その学習装置４１３１のそれぞれの構成について説明した。
【２４２９】
なお、上述したように、画像生成部４１０４は、クラス分類適応処理以外の画像処理を実行する構成とすることも可能であるが、説明の簡略上、以下の説明においては、画像生成部４１０４の構成は、上述した図２９３の構成とされる。即ち、以下、画像生成部４１０４は、クラス分類適応処理を実行することで、入力画像より空間解像度の高い画像を生成し、セレクタ４１１２に供給するとする。
【２４３０】
次に、図２９５を参照して、第１の併用手法が適用される信号処理装置（図２９２）の信号の処理について説明する。
【２４３１】
なお、ここでは、データ定常性検出部４１０１は、角度（画像である、実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２４３２】
データ定常性検出部４１０１はまた、角度を演算するときに併せて算出される推定誤差（最小自乗法の誤差）を、領域特定情報として出力するとする。
【２４３３】
図１において、画像である、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２４３４】
図２９２において、この入力画像は、データ定常性検出部４１０１、および実世界推定部４１０２に入力されるとともに、画像生成部４１０４に入力される。
【２４３５】
そこで、図２９５のステップＳ４１０１において、画像生成部４１０４は、入力画像（ＳＤ画像）の所定のＳＤ画素を注目画素として、上述したクラス分類適応処理を実行し、予測画像（ＨＤ画像）のＨＤ画素（注目画素におけるＨＤ画素）を生成し、セレクタ４１１２に供給する。
【２４３６】
なお、以下、画像生成部４１０４より出力される画素と、画像生成部４１０３より出力される画素のそれぞれを区別する場合、画像生成部４１０４より出力される画素を第１の画素と称し、画像生成部４１０３より出力される画素を第２の画素と称する。
【２４３７】
また、以下、このような画像生成部４１０４が実行する処理（いまの場合、ステップＳ４１０１の処理）を、「クラス分類適応処理の実行処理」と称する。この例の「クラス分類適応処理の実行処理」の詳細については、図２９６のフローチャートを参照して後述する。
【２４３８】
一方、ステップＳ４１０２において、データ定常性検出部４１０１は、定常性の方向に対応する角度を検出するとともに、その推定誤差を演算する。検出された角度は、データ定常性情報として実世界推定部４１０２と画像生成部４１０３のそれぞれに供給される。また、演算された推定誤差は、領域特定情報として領域検出部４１１１に供給される。
【２４３９】
ステップＳ４１０３において、実世界推定部４１０２は、データ定常性検出部４１０１により検出された角度と、入力画像に基づいて、実世界１の信号を推定する。
【２４４０】
なお、上述したように、実世界推定部４１０２が実行する推定の処理は、特に限定されず、上述した様々な手法を利用することができる。ここでは、例えば、実世界推定部４１０２は、実世界１の信号を表す関数Ｆ（以下の説明においても、関数Ｆを光信号関数Ｆと称することにする）を、所定の関数ｆ（以下の説明においても、関数ｆを近似関数ｆと称することにする）で近似することで、実世界１の信号（光信号関数Ｆ）を推定するとする。
【２４４１】
また、ここでは、例えば、実世界推定部４１０２は、近似関数ｆの特徴量（係数）を、実世界推定情報として画像生成部４１０３に供給するとする。
【２４４２】
ステップＳ４１０４において、画像生成部４１０３は、実世界推定部４１０２により推定された実世界１の信号に基づいて、画像生成部４１０４のクラス分類適応処理により生成された第１の画素（ＨＤ画素）に対応する第２の画素（ＨＤ画素）を生成し、セレクタ４１１２に供給する。
【２４４３】
いまの場合、実世界推定部４１０２より近似関数ｆの特徴量（係数）が供給されてくるので、画像生成部４１０３は、例えば、供給された近似関数ｆの特徴量に基づいて、近似関数ｆを所定の積分範囲で積分することで、第２の画素（ＨＤ画素）を生成する。
【２４４４】
ただし、積分範囲は、画像生成部４１０４より出力される第１の画素（ＨＤ画素）と同一の大きさ（同一の解像度）の第２の画素が生成可能な範囲とされる。即ち、空間方向においては、積分範囲は、これから生成される第２の画素の画素幅となる。
【２４４５】
なお、ステップＳ４１０１の「クラス分類適応処理の実行処理」と、ステップＳ４１０２乃至Ｓ４１０４の一連の処理の順番は、図２９５の例に限定されず、ステップＳ４１０２乃至Ｓ４１０４の一連の処理が先に実行されても構わないし、ステップＳ４１０１の「クラス分類適応処理の実行処理」と、ステップＳ４１０２乃至Ｓ４１０４の一連の処理が同時に実行されても構わない。
【２４４６】
ステップＳ４１０５において、領域検出部４１１１は、ステップＳ４１０２の処理でデータ定常性検出部４１０１により演算された推定誤差（領域特定情報）に基づいて、ステップＳ４１０４の処理で画像生成部４１０３により生成された第２の画素（ＨＤ画素）の領域を検出する。
【２４４７】
即ち、第２の画素は、データ定常性検出部４１０１が注目画素として使用した入力画像のＳＤ画素におけるＨＤ画素である。従って、注目画素（入力画像のＳＤ画素）と第２の画素（ＨＤ画素）の領域の種類（定常領域、または非定常領域）は同一である。
【２４４８】
また、データ定常性検出部４１０１が出力する領域特定情報は、注目画素における角度が最小自乗法により算出された場合の推定誤差である。
【２４４９】
そこで、領域検出部４１１１は、データ定常性検出部４１０１より供給された注目画素（入力画像のＳＤ画素）に対する推定誤差と、予め設定された閾値を比較し、その比較の結果が、推定誤差が閾値よりも小さい場合、第２の画素は定常領域であると検出し、一方、推定誤差が閾値以上である場合、第２の画素は非定常領域であると検出する。そして、検出結果は、セレクタ４１１２に供給される。
【２４５０】
この領域検出部４１１１の検出結果がセレクタ４１１２に供給されると、ステップＳ４１０６において、セレクタ４１１２は、検出された領域が、定常領域であるか否かを判定する。
【２４５１】
ステップＳ４１０６において、検出された領域が、定常領域であると判定した場合、セレクタ４１１２は、ステップＳ４１０７において、画像生成部４１０３より供給された第２の画素を、出力画像として外部に出力する。
【２４５２】
これに対して、ステップＳ４１０６において、検出された領域が、定常領域ではない（非定常領域である）と判定した場合、セレクタ４１１２は、ステップＳ４１０８において、画像生成部４１０４より供給された第１の画素を、出力画像として外部に出力する。
【２４５３】
その後、ステップＳ４１０９において、全画素の処理を終了したか否かが判定され、全画素の処理がまだ終了していないと判定された場合、その処理は、ステップＳ４１０１に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４１０１乃至Ｓ４１０９の処理が繰り返される。
【２４５４】
そして、ステップＳ４１０９において、全画素の処理を終了したと判定された場合、その処理は終了となる。
【２４５５】
このように、図２９５のフローチャートの例においては、第１の画素（ＨＤ画素）と第２の画素（ＨＤ画素）が生成される毎に、出力画像として第１の画素または第２の画素が画素単位で出力される。
【２４５６】
しかしながら、上述したように、画素単位で出力されることは必須ではなく、全ての画素の処理が終了された後、出力画像として、全ての画素が一括して出力されてもよい。この場合、ステップＳ４１０７とステップＳ４１０８のそれぞれの処理においては、画素（第１の画素または第２の画素）は出力されずに、セレクタ４１１２に一次格納され、ステップＳ４１０９の処理の後、全ての画素を出力する処理が追加される。
【２４５７】
次に、図２９６のフローチャートを参照して、図２９３の構成の画像生成部４１０４が実行する「クラス分類適応処理の実行処理」（例えば、上述した図２９５のステップＳ４１０１の処理）の詳細について説明する。
【２４５８】
センサ２からの入力画像（ＳＤ画像）が画像生成部４１０４に入力されると、ステップＳ４１２１において、領域抽出部４１２１と領域抽出部４１２５のそれぞれは、入力画像を入力する。
【２４５９】
ステップＳ４１２２において、領域抽出部４１２１は、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置）のそれぞれに位置する画素（ＳＤ画素）を、クラスタップとして抽出し、パターン検出部４１２２に供給する。
【２４６０】
ステップＳ４１２３において、パターン検出部４１２２は、供給されたクラスタップのパターンを検出し、クラスコード決定部４１２３に供給する。
【２４６１】
ステップＳ４１２４において、クラスコード決定部４１２３は、予め設定されている複数のクラスコードの中から、供給されたクラスタップのパターンに適合するクラスコードを決定し、係数メモリ４１２４と領域抽出部４１２５のそれぞれに供給する。
【２４６２】
ステップＳ４１２５において、係数メモリ４１２４は、供給されたクラスコードに基づいて、予め学習処理により決定された複数の予測係数（群）の中から、これから使用する予測係数（群）を読み出し、予測演算部４１２６に供給する。
【２４６３】
なお、学習処理については、図２９７のフローチャートを参照して後述する。
【２４６４】
ステップＳ４１２６において、領域抽出部４１２５は、供給されたクラスコードに対応して、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置であって、クラスタップの位置とは独立して設定された位置。ただし、クラスタップの位置と同一の位置でもよい）のそれぞれに位置する画素（ＳＤ画素）を、予測タップとして抽出し、予測演算部４１２６に供給する。
【２４６５】
ステップＳ４１２７において、予測演算部４１２６は、領域抽出部４１２５より供給された予測タップを、係数メモリ４１２４より供給された予測係数を用いて演算し、予測画像（第１の画素）を生成して外部（図２９２の例では、セレクタ４１１２）に出力する。
【２４６６】
具体的には、予測演算部４１２６は、領域抽出部４１２５より供給された予測タップのそれぞれをc_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、係数メモリ４１２４より供給された予測係数のそれぞれをd_iとして、上述した式（２３７）の右辺を演算することにより、注目画素（ＳＤ画素）におけるＨＤ画素q'を算出し、それを予測画像（ＨＤ画像）の所定の１つの画素（第１の画素）として外部に出力する。その後、処理は終了となる。
【２４６７】
次に、図２９７のフローチャートを参照して、画像生成部４１０４に対する学習装置４１３１（図２９４）が実行する学習処理（画像生成部４１０４が使用する予測係数を学習により生成する処理）について説明する。
【２４６８】
ステップＳ４１４１において、ダウンコンバート部４１４１と正規方程式生成部４１４６のそれぞれは、供給された所定の画像を、教師画像（ＨＤ画像）として入力する。
【２４６９】
ステップＳ４１４２において、ダウンコンバート部４１４１は、入力された教師画像をダウンコンバートして（解像度を落として）生徒画像（ＳＤ画像）を生成し、領域抽出部４１４２と領域抽出部４１４５のそれぞれに供給する。
【２４７０】
ステップＳ４１４３において、領域抽出部４１４２は、供給された生徒画像からクラスタップを抽出してパターン検出部４１４３に出力する。なお、ステップＳ４１４３の処理は、上述したステップＳ４１２２（図２９６）の処理と基本的に同様の処理である。
【２４７１】
ステップＳ４１４４において、パターン検出部４１４３は、供給されたクラスタップよりクラスコードを決定するためのパターンを検出し、クラスコード決定部４１４４に供給する。なお、ステップＳ４１４４の処理は、上述したステップＳ４１２３（図２９６）の処理と基本的に同様の処理である。
【２４７２】
ステップＳ４１４５において、クラスコード決定部４１４４は、供給されたクラスタップのパターンに基づいてクラスコードを決定し、領域抽出部４１４５と正規方程式生成部４１４６のそれぞれに供給する。なお、ステップＳ４１４５の処理は、上述したステップＳ４１２４（図２９６）の処理と基本的に同様の処理である。
【２４７３】
ステップＳ４１４６において、領域抽出部４１４５は、供給されたクラスコードに対応して、生徒画像の中から予測タップを抽出し、正規方程式生成部４１４６に供給する。なお、ステップＳ４１４６の処理は、上述したステップＳ４１２６（図２９６）の処理と基本的に同様の処理である。
【２４７４】
ステップＳ４１４７において、正規方程式生成部４１４６は、領域抽出部４１４５より供給された予測タップ（ＳＤ画素）、および、教師画像（ＨＤ画像）の所定のＨＤ画素から、上述した式（２３９）（即ち、式（２４３））で示される正規方程式を生成し、生成した正規方程式と、クラスコード決定部４１４４より供給されたクラスコードを関連付けて係数決定部４１４７に供給する。
【２４７５】
ステップＳ４１４８において、係数決定部４１４７は、供給された正規方程式を解いて予測係数を決定し、即ち、上述した式（２４４）の右辺を演算することで予測係数を算出し、供給されたクラスコードに対応付けて係数メモリ４１２４に記憶させる。
【２４７６】
その後、ステップＳ４１４９において、全ての画素について処理が施されたか否かが判定され、全ての画素について処理が施されていないと判定された場合、その処理は、ステップＳ４１４３に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４１４３乃至Ｓ４１４９の処理が繰り返される。
【２４７７】
そして、ステップＳ４１４９において、全ての画素について処理が施されたと判定された場合、処理は終了となる。
【２４７８】
次に、図２９８と図２９９を参照して、第２の併用手法について説明する。
【２４７９】
図２９８は、第２の併用手法が適用される信号処理装置の構成例を表している。
【２４８０】
図２９８において、第１の併用手法が適用される信号処理装置（図２９２）と対応する部分には、対応する符号が付してある。
【２４８１】
図２９２の構成例（第１の併用手法）においては、領域特定情報は、データ定常性検出部４１０１より出力され、領域検出部４１１１に入力されていたが、図２９８の構成例（第２の併用手法）においては、領域特定情報は、実世界推定部４１０２より出力され、領域検出部４１１１に入力される。
【２４８２】
この領域特定情報は、特に限定されず、実世界推定部４１０２が実世界１（図１）の信号を推定した後に新たに生成された情報でもよいし、実世界１の信号が推定される場合に付帯して生成される情報でもよい。
【２４８３】
具体的には、例えば、領域特定情報として、推定誤差が使用可能である。
【２４８４】
ここで、推定誤差について説明する。
【２４８５】
上述したように、データ定常性検出部４１０１より出力される推定誤差（図２９２の領域特定情報）は、例えば、データ定常性検出部４１０１より出力されるデータ定常性情報が角度であり、かつ、その角度が最小自乗法により演算される場合、その最小自乗法の演算で付帯的に算出される推定誤差である。
【２４８６】
これに対して、実世界推定部４１０２より出力される推定誤差（図２９８の領域特定情報）は、例えば、マッピング誤差である。
【２４８７】
即ち、実世界推定部４１０２により実世界１の信号が推定されているので、推定された実世界１の信号から任意の大きさの画素を生成する（画素値を演算する）ことが可能である。ここでは、このように、新たな画素を生成することを、マッピングと称している。
【２４８８】
従って、実世界推定部４１０２は、実世界１の信号を推定した後、その推定した実世界１の信号から、入力画像の注目画素（実世界１が推定される場合に注目画素として使用された画素）が配置されていた位置における新たな画素を生成する（マッピングする）。即ち、実世界推定部４１０２は、推定した実世界１の信号から、入力画像の注目画素の画素値を予測演算する。
【２４８９】
そして、実世界推定部４１０２は、マッピングした新たな画素の画素値（予測した入力画像の注目画素の画素値）と、実際の入力画像の注目画素の画素値との差分を演算する。この差分を、ここでは、マッピング誤差と称している。
【２４９０】
このようにして実世界推定部４１０２は、マッピング誤差（推定誤差）を演算することで、演算したマッピング誤差（推定誤差）を、領域特定情報として領域検出部４１１１に供給することができる。
【２４９１】
なお、領域検出部４１１１が実行する領域検出の処理は、上述したように、特に限定されないが、例えば、実世界推定部４１０２が、上述したマッピング誤差（推定誤差）を領域特定情報として領域検出部４１１１に供給する場合、領域検出部４１１１は、供給されたマッピング誤差（推定誤差）が所定の閾値よりも小さいとき、入力画像の注目画素は定常領域であると検出し、一方、供給されたマッピング誤差（推定誤差）が所定の閾値以上であるとき、入力画像の注目画素は非定常領域であると検出する。
【２４９２】
その他の構成は、図２９２のそれと基本的に同様である。即ち、第２の併用手法が適用される信号処理装置（図２９８）においても、第１の併用手法が適用される信号処理装置（図２９２）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、画像生成部４１０４、並びに定常領域検出部４１０５（領域検出部４１１１およびセレクタ４１１２）が設けられている。
【２４９３】
図２９９は、図２９８の構成の信号処理装置の信号の処理（第２の併用手法の信号の処理）を説明するフローチャートである。
【２４９４】
第２の併用手法の信号の処理は、第１の併用手法の信号の処理（図２９５のフローチャートで示される処理）と類似している。そこで、ここでは、第１の併用手法において説明した処理については、その説明を適宜省略し、以下、図２９９のフローチャートを参照して、第１の併用手法とは異なる第２の併用手法の信号の処理を中心に説明する。
【２４９５】
なお、ここでは、データ定常性検出部４１０１は、第１の併用手法と同様に、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２４９６】
ただし、上述したように、第１の併用手法においては、データ定常性検出部４１０１が領域特定情報（例えば、推定誤差）を領域検出部４１１１に供給していたのに対して、第２の併用手法においては、実世界推定部４１０２が領域特定情報（例えば、推定誤差（マッピング誤差））を領域検出部４１１１に供給する。
【２４９７】
従って、第２の併用手法においては、データ定常性検出部４１０１の処理として、ステップＳ４１６２の処理が実行される。この処理は、第１の併用手法における、図２９５のステップＳ４１０２の処理に相当する。即ち、ステップＳ４１６２において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出し、検出した角度をデータ定常性情報として、実世界推定部４１０２と画像生成部４１０３のそれぞれに供給する。
【２４９８】
また、第２の併用手法においては、実世界推定部４１０２の処理として、ステップＳ４１６３の処理が実行される。この処理は、第１の併用手法における、図２９５のステップＳ４１０３の処理に相当する。即ち、ステップＳ４１６３において、実世界推定部４１０２は、ステップＳ４１６２の処理でデータ定常性検出部４１０１により検出された角度に基づいて、実世界１（図１）の信号を推定するとともに、推定された実世界１の信号の推定誤差、即ち、マッピング誤差を演算し、それを領域特定情報として領域検出部４１１１に供給する。
【２４９９】
その他の処理は、第１の併用手法の対応する処理（図２９５のフローチャートで示される処理のうちの対応する処理）と基本的に同様であるので、その説明は省略する。
【２５００】
次に、図３００と図３０１を参照して、第３の併用手法について説明する。
【２５０１】
図３００は、第３の併用手法が適用される信号処理装置の構成例を表している。
【２５０２】
図３００において、第１の併用手法が適用される信号処理装置（図２９２）と対応する部分には、対応する符号が付してある。
【２５０３】
図２９２の構成例（第１の併用手法）においては、定常領域検出部４１０５は、画像生成部４１０３と画像生成部４１０４の後段に配設されていたが、図３００の構成例（第３の併用手法）においては、それに対応する定常領域検出部４１６１が、データ定常性検出部４１０１の後段であって、実世界推定部４１０２と画像生成部４１０４の前段に配設されている。
【２５０４】
このような配設位置の違いにより、第１の併用手法における定常領域検出部４１０５と、第３の併用手法における定常領域検出部４１６１は若干差異がある。そこで、この差異を中心に、定常領域検出部４１６１について説明する。
【２５０５】
定常領域検出部４１６１には、領域検出部４１７１と実行指令生成部４１７２が設けられている。このうちの領域検出部４１７１は、定常領域検出部４１０５の領域検出部４１１１（図２９２）と基本的に同様の構成と機能を有している。一方、実行指令生成部４１７２の機能は、定常領域検出部４１０５のセレクタ４１１２（図２９２）のそれと若干差異がある。
【２５０６】
即ち、上述したように、第１の併用手法におけるセレクタ４１１２は、領域検出部４１１１の検出結果に基づいて、画像生成部４１０３からの画像と、画像生成部４１０４からの画像のうちのいずれか一方を選択し、選択した画像を出力画像として出力する。このように、セレクタ４１１２は、領域検出部４１１１の検出結果の他に、画像生成部４１０３からの画像と、画像生成部４１０４からの画像を入力し、出力画像を出力する。
【２５０７】
一方、第３の併用手法における実行指令生成部４１７２は、領域検出部４１７１の検出結果に基づいて、入力画像の注目画素（データ定常性検出部４１０１が注目画素とした画素）における新たな画素の生成の処理を実行するのは、画像生成部４１０３であるのか画像生成部４１０４であるのかを選択する。
【２５０８】
即ち、領域検出部４１７１が、入力画像の注目画素は定常領域であるという検出結果を実行指令生成部４１７２に供給した場合、実行指令生成部４１７２は、画像生成部４１０３を選択し、実世界推定部４１０２に対して、その処理の実行を開始させる指令（このような指令を、以下、実行指令と称する）を供給する。すると、実世界推定部４１０２が、その処理を開始し、実世界推定情報を生成し、画像生成部４１０３に供給する。画像生成部４１０３は、供給された実世界推定情報（必要に応じて、それに加えてデータ定常性検出部４１０１より供給されたデータ定常性情報）に基づいて新たな画像を生成し、それを出力画像として外部に出力する。
【２５０９】
これに対して、領域検出部４１７１が、入力画像の注目画素は非定常領域であるという検出結果を実行指令生成部４１７２に供給した場合、実行指令生成部４１７２は、画像生成部４１０４を選択し、画像生成部４１０４に対して実行指令を供給する。すると、画像生成部４１０４が、その処理を開始し、入力画像に対して所定の画像処理（いまの場合、クラス分類適応処理）を施して、新たな画像を生成し、それを出力画像として外部に出力する。
【２５１０】
このように、第３の併用手法における実行指令生成部４１７２は、領域検出部４１７１の検出結果を入力し、実行指令を出力する。即ち、実行指令生成部４１７２は、画像を入出力しない。
【２５１１】
なお、定常領域検出部４１６１以外の構成は、図２９２のそれと基本的に同様である。即ち、第３の併用手法が適用される信号処理装置（図３００の信号処理装置）においても、第１の併用手法が適用される信号処理装置（図２９２）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、および、画像生成部４１０４が設けられている。
【２５１２】
ただし、第３の併用手法においては、実世界推定部４１０２と画像生成部４１０４のそれぞれは、実行指令生成部４１７２からの実行指令が入力されない限り、その処理を実行しない。
【２５１３】
ところで、図３００の例では、画像の出力単位は画素単位とされている。そこで、図示はしないが、出力単位を１フレームの画像全体とするために（全ての画素を一括して出力するために）、例えば、画像生成部４１０３と画像生成部４１０４の後段に、画像合成部をさらに設けることもできる。
【２５１４】
この画像合成部は、画像生成部４１０３から出力された画素値と、画像生成部４１０４より出力された画素値を加算し（合成し）、加算した値を対応する画素の画素値とする。この場合、画像生成部４１０３と画像生成部４１０４のうちの、実行指令が供給されていない方は、その処理を実行せず、所定の一定値（例えば、０）を画像合成部に常時供給する。
【２５１５】
画像合成部は、このような処理を全ての画素について繰り返し実行し、全ての画素の処理を終了すると、全ての画素を一括して（１フレームの画像データとして）外部に出力する。
【２５１６】
次に、図３０１のフローチャートを参照して、第３の併用手法が適用される信号処理装置（図３００）の信号の処理について説明する。
【２５１７】
なお、ここでは、第１の併用手法のときと同様に、データ定常性検出部４１０１は、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２５１８】
データ定常性検出部４１０１はまた、角度を演算するときに併せて算出される推定誤差（最小自乗法の誤差）を、領域特定情報として出力するとする。
【２５１９】
図１において、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２５２０】
図３００において、この入力画像は、画像生成部４１０４に入力されるとともに、データ定常性検出部４１０１、および実世界推定部４１０２にも入力される。
【２５２１】
そこで、図３０１のステップＳ４１８１において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出するとともに、その推定誤差を演算する。検出された角度は、データ定常性情報として実世界推定部４１０２と画像生成部４１０３のそれぞれに供給される。また、演算された推定誤差は、領域特定情報として領域検出部４１７１に供給される。
【２５２２】
なお、ステップＳ４１８１の処理は、上述したステップＳ４１０２（図２９５）の処理と基本的に同様の処理である。
【２５２３】
また、上述したように、いまの時点においては（実行指令生成部４１７２から実行指令が供給されない限り）、実世界推定部４１０２も画像生成部４１０４もその処理を実行しない。
【２５２４】
ステップＳ４１８２において、領域検出部４１７１は、データ定常性検出部４１０１により演算された推定誤差（供給された領域特定情報）に基づいて、入力画像の注目画素（データ定常性検出部４１０１が角度を検出する場合に注目画素とした画素）の領域を検出し、その検出結果を実行指令生成部４１７２に供給する。なお、ステップＳ４１８２の処理は、上述したステップＳ４１０５（図２９５）の処理と基本的に同様の処理である。
【２５２５】
領域検出部４１７１の検出結果が実行指令生成部４１７２に供給されると、ステップＳ４１８３において、実行指令生成部４１７２は、検出された領域が、定常領域であるか否かを判定する。なお、ステップＳ４１８３の処理は、上述したステップＳ４１０６（図２９５）の処理と基本的に同様の処理である。
【２５２６】
ステップＳ４１８３において、検出された領域が定常領域ではないと判定した場合、実行指令生成部４１７２は、実行指令を画像生成部４１０４に供給する。すると、画像生成部４１０４は、ステップＳ４１８４において、「クラス分類適応処理の実行処理」を実行して、第１の画素（注目画素（入力画像のＳＤ画素）におけるＨＤ画素）を生成し、ステップＳ４１８５において、クラス分類適応処理により生成された第１の画素を、出力画像として外部に出力する。
【２５２７】
なお、ステップＳ４１８４の処理は、上述したステップＳ４１０１（図２９５）の処理と基本的に同様の処理である。即ち、図２９６のフローチャートは、ステップＳ４１８４の処理の詳細を説明するフローチャートでもある。
【２５２８】
これに対して、ステップＳ４１８３において、検出された領域が定常領域であると判定した場合、実行指令生成部４１７２は、実行指令を実世界推定部４１０２に供給する。すると、ステップＳ４１８６において、実世界推定部４１０２は、データ定常性検出部４１０１により検出された角度と、入力画像に基づいて、実世界１の信号を推定する。なお、ステップＳ４１８６の処理は、上述したステップＳ４１０３（図２９５）の処理と基本的に同様の処理である。
【２５２９】
そして、画像生成部４１０３は、ステップＳ４１８７において、実世界推定部４１０２により推定された実世界１の信号に基づいて、検出された領域（即ち、入力画像の注目画素（ＳＤ画素））における第２の画素（ＨＤ画素）を生成し、ステップＳ４１８８において、その第２の画素を出力画像として出力する。なお、ステップＳ４１８７の処理は、上述したステップＳ４１０４（図２９５）の処理と基本的に同様の処理である。
【２５３０】
第１の画素または第２の画素が出力画像として出力されると（ステップＳ４１８５、またはステップＳ４１８８の処理の後）、ステップＳ４１８９において、全画素の処理を終了したか否かが判定され、全画素の処理がまだ終了していないと判定された場合、その処理は、ステップＳ４１８１に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４１８１乃至Ｓ４１８９の処理が繰り返される。
【２５３１】
そして、ステップＳ４１８９において、全画素の処理を終了したと判定された場合、その処理は終了となる。
【２５３２】
このように、図３０１のフローチャートの例においては、第１の画素（ＨＤ画素）または第２の画素（ＨＤ画素）が生成される毎に、出力画像として第１の画素または第２の画素が画素単位で出力される。
【２５３３】
しかしながら、上述したように、図３００の構成の信号処理装置の最終段（画像生成部４１０３と画像生成部４１０４の後段）に画像合成部（図示せず）をさらに設ければ、全ての画素の処理が終了された後、出力画像として、全ての画素を一括して出力することが可能になる。この場合、ステップＳ４１８５とステップＳ４１８８のそれぞれに処理においては、画素（第１の画素または第２の画素）は外部ではなく画像合成部に出力される。そして、ステップＳ４１８９の処理の前に、画像合成部が、画像生成部４１０３から供給される画素の画素値と、画像生成部４１０４から供給される画素の画素値を合成して、出力画像の画素を生成する処理と、ステップＳ４１８９の処理の後に、画像合成部が、全ての画素を出力する処理が追加される。
【２５３４】
次に、図３０２と図３０３を参照して、第４の併用手法について説明する。
【２５３５】
図３０２は、第４の併用手法が適用される信号処理装置の構成例を表している。
【２５３６】
図３０２において、第３の併用手法が適用される信号処理装置（図３００）と対応する部分には、対応する符号が付してある。
【２５３７】
図３００の構成例（第３の併用手法）においては、領域特定情報は、データ定常性検出部４１０１より出力され領域検出部４１７１に入力されていたが、図３０２の構成例（第４の併用手法）においては、領域特定情報は、実世界推定部４１０２より出力され領域検出部４１７１に入力される。
【２５３８】
その他の構成は、図３００のそれと基本的に同様である。即ち、第４の併用手法が適用される信号処理装置（図３０２）においても、第３の併用手法が適用される信号処理装置（図３００）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、画像生成部４１０４、並びに定常領域検出部４１６１（領域検出部４１７１および実行指令生成部４１７２）が設けられている。
【２５３９】
なお、第３の併用方法と同様に、図示はしないが、全ての画素を一括して出力するために、例えば、画像生成部４１０３と画像生成部４１０４の後段に、画像合成部をさらに設けることもできる。
【２５４０】
図３０３は、図３０２の構成の信号処理装置の信号の処理（第４の併用手法の信号の処理）を説明するフローチャートである。
【２５４１】
第４の併用手法の信号の処理は、第３の併用手法の信号の処理（図３０１のフローチャートで示される処理）と類似している。そこで、ここでは、第３の併用手法において説明した処理については、その説明を適宜省略し、以下、図３０３のフローチャートを参照して、第３の併用手法とは異なる第４の併用手法の信号の処理を中心に説明する。
【２５４２】
なお、ここでは、データ定常性検出部４１０１は、第３の併用手法と同様に、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２５４３】
ただし、上述したように、第３の併用手法においては、データ定常性検出部４１０１が領域特定情報（例えば、推定誤差）を領域検出部４１７１に供給していたのに対して、第４の併用手法においては、実世界推定部４１０２が領域特定情報（例えば、推定誤差（マッピング誤差））を領域検出部４１７１に供給する。
【２５４４】
従って、第４の併用手法においては、データ定常性検出部４１０１の処理として、ステップＳ４２０１の処理が実行される。この処理は、第３の併用手法における、図３０１のステップＳ４１８１の処理に相当する。即ち、ステップＳ４２０１において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出し、検出した角度をデータ定常性情報として、実世界推定部４１０２と画像生成部４１０３のそれぞれに供給する。
【２５４５】
また、第４の併用手法においては、実世界推定部４１０２の処理として、ステップＳ４２０２の処理が実行される。この処理は、第３の併用手法における、図２９５のステップＳ４１８２の処理に相当する。即ち、実世界推定部４１０２は、ステップＳ４２０２の処理でデータ定常性検出部４１０１により検出された角度に基づいて、実世界１（図１）の信号を推定するとともに、推定された実世界１の信号の推定誤差、即ち、マッピング誤差を演算し、それを領域特定情報として領域検出部４１７１に供給する。
【２５４６】
その他の処理は、第３の併用手法の対応する処理（図３０１のフローチャートで示される処理のうちの対応する処理）と基本的に同様であるので、その説明は省略する。
【２５４７】
次に、図３０４と図３０５を参照して、第５の併用手法について説明する。
【２５４８】
図３０４は、第５の併用手法が適用される信号処理装置の構成例を表している。
【２５４９】
図３０４において、第３と第４の併用手法が適用される信号処理装置（図３００と図３０２）と対応する部分には、対応する符号が付してある。
【２５５０】
図３００の構成例（第３の併用手法）においては、データ定常性検出部４１０１の後段であって、実世界推定部４１０２と画像生成部４１０４の前段に、１つの定常領域検出部４１６１が配設されている。
【２５５１】
また、図３０２の構成例（第４の併用手法）においては、実世界推定部４１０２の後段であって、画像生成部４１０３と画像生成部４１０４の前段に、１つの定常領域検出部４１６１が配設されている。
【２５５２】
これらに対して、図３０４の構成例（第５の併用手法）においては、第３の併用方法と同様に、データ定常性検出部４１０１の後段であって、実世界推定部４１０２と画像生成部４１０４の前段に、定常領域検出部４１８１が配設されている。さらに、第４の併用方法と同様に、実世界推定部４１０２の後段であって、画像生成部４１０３と画像生成部４１０４の前段に、定常領域検出部４１８２が配設されている。
【２５５３】
定常領域検出部４１８１と定常領域検出部４１８２のそれぞれは、定常領域検出部４１６１（図３００または図３０２）と基本的に同様の構成と機能を有している。即ち、領域検出部４１９１と領域検出部４２０１はいずれも、領域検出部４１７１と基本的に同様の構成と機能を有している。また、実行指令生成部４１９２と実行指令生成部４２０２はいずれも、実行指令生成部４１７２と基本的に同様の構成と機能を有している。
【２５５４】
換言すると、第５の併用手法は、第３の併用手法と第４の併用手法を組み合わせたものである。
【２５５５】
即ち、第３の併用手法や第４の併用手法においては、１つの領域特定情報（第３の併用手法においては、データ定常性検出部４１０１からの領域特定情報であり、第４の併用手法においては、実世界推定部４１０２からの領域特定情報である）に基づいて、入力画像の注目画素が定常領域であるか非定常領域であるかが検出される。従って、第３の併用手法や第４の併用手法では、本来、非定常領域であるにも関わらず、定常領域であると検出される恐れもある。
【２５５６】
そこで、第５の併用手法においては、はじめにデータ定常性検出部４１０１からの領域特定情報（第５の併用手法の説明においては、第１の領域特定情報と称する）に基づいて、入力画像の注目画素が定常領域であるか非定常領域であるかが検出された後、さらに、実世界推定部４１０２からの領域特定情報（第５の併用手法の説明においては、第２の領域特定情報と称する）に基づいて、入力画像の注目画素が定常領域であるか非定常領域であるかが検出される。
【２５５７】
このように、第５の併用手法においては、領域の検出の処理が２回行われるので、第３の併用手法や第４の併用手法に比較して、定常領域の検出精度が上がることになる。さらに、第１の併用手法や第２の併用手法においても、第３の併用手法や第４の併用手法と同様に、１つの定常領域検出部４１０５（図２９２または図２９８）しか設けられていない。従って、第１の併用手法や第２の併用手法と比較しても、定常領域の検出精度が上がることになる。その結果、第１乃至第４の併用手法のいずれよりも実世界１（図１）の信号に近い画像データを出力することが可能になる。
【２５５８】
ただし、第１乃至第４の併用手法でも、従来の画像処理を行う画像生成部４１０４と、本発明が適用されるデータの定常性を利用して画像を生成する装置またはプログラム等（即ち、データ定常性検出部４１０１、実世界推定部４１０２、および、画像生成部４１０３）を併用していることに変わりはない。
【２５５９】
従って、第１乃至第４の併用手法でも、従来の信号処理装置や、図３の構成の本発明の信号処理のいずれよりも実世界１（図１）の信号に近い画像データを出力することが可能になる。
【２５６０】
一方、処理速度の観点からは、第１乃至第４の併用手法においては、領域の検出の処理が１回だけで済むので、領域の検出の処理を２回行う第５の併用手法よりも優れていることになる。
【２５６１】
従って、ユーザ（または製造者）等は、必要とされる出力画像の品質と、必要とされる処理時間（出力画像が出力されるまでの時間）に合致した併用手法を選択的に利用することができる。
【２５６２】
なお、図３０４におけるその他の構成は、図３００、または、図３０２のそれと基本的に同様である。即ち、第５の併用手法が適用される信号処理装置（図３０４）においても、第３または第４の併用手法が適用される信号処理装置（図３００、または図３０２）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、および画像生成部４１０４が設けられている。
【２５６３】
ただし、第５の併用手法においては、実世界推定部４１０２は、実行指令生成部４１９２からの実行指令が入力されない限り、画像生成部４１０３は、実行指令生成部４２０２からの実行指令が入力されない限り、画像生成部４１０４は、実行指令生成部４１９２、または実行指令生成部４２０２からの実行指令が入力されない限り、その処理を実行しない。
【２５６４】
また、第５の併用手法においても、第３や第４の併用方法と同様に、図示はしないが、全ての画素を一括して出力するために、例えば、画像生成部４１０３と画像生成部４１０４の後段に、画像合成部をさらに設けることもできる。
【２５６５】
次に、図３０５のフローチャートを参照して、第５の併用手法が適用される信号処理装置（図３０４）の信号の処理について説明する。
【２５６６】
なお、ここでは、第３や第４の併用手法のときと同様に、データ定常性検出部４１０１は、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２５６７】
また、ここでは、第３の併用手法のときと同様に、データ定常性検出部４１０１はまた、角度を演算するときに併せて算出される推定誤差（最小自乗法の誤差）を、第１の領域特定情報として出力するとする。
【２５６８】
さらに、ここでは、第４の併用手法のときと同様に、実世界推定部４１０２は、マッピング誤差（推定誤差）を、第２の領域特定情報として出力するとする。
【２５６９】
図１において、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２５７０】
図３０４において、この入力画像は、データ定常性検出部４１０１、実世界推定部４１０２、および、画像生成部４１０４のそれぞれに入力される。
【２５７１】
そこで、図３０５のステップＳ４２２１において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出するとともに、その推定誤差を演算する。検出された角度は、データ定常性情報として実世界推定部４１０２と画像生成部４１０３のそれぞれに供給される。また、演算された推定誤差は、第１の領域特定情報として領域検出部４１９１に供給される。
【２５７２】
なお、ステップＳ４２２１の処理は、上述したステップＳ４１８１（図３０１）の処理と基本的に同様の処理である。
【２５７３】
また、上述したように、いまの時点においては（実行指令生成部４１９２から実行指令が供給されない限り）、実世界推定部４１０２も画像生成部４１０４もその処理を実行しない。
【２５７４】
ステップＳ４２２２において、領域検出部４１９１は、データ定常性検出部４１０１により演算された推定誤差（供給された第１の領域特定情報）に基づいて、入力画像の注目画素（データ定常性検出部４１０１が角度を検出する場合に注目画素とした画素）の領域を検出し、その検出結果を実行指令生成部４１９２に供給する。なお、ステップＳ４２２２の処理は、上述したステップＳ４１８２（図３０１）の処理と基本的に同様の処理である。
【２５７５】
領域検出部４１８１の検出結果が実行指令生成部４１９２に供給されると、ステップＳ４２２３において、実行指令生成部４１９２は、検出された領域が、定常領域であるか否かを判定する。なお、ステップＳ４２２３の処理は、上述したステップＳ４１８３（図３０１）の処理と基本的に同様の処理である。
【２５７６】
ステップＳ４２２３において、検出された領域が定常領域ではない（非定常領域である）と判定した場合、実行指令生成部４１９２は、実行指令を画像生成部４１０４に供給する。すると、画像生成部４１０４は、ステップＳ４２２４において、「クラス分類適応処理の実行処理」を実行して、第１の画素（注目画素（入力画像のＳＤ画素）におけるＨＤ画素）を生成し、ステップＳ４２２５において、クラス分類適応処理により生成された第１の画素を、出力画像として外部に出力する。
【２５７７】
なお、ステップＳ４２２４の処理は、上述したステップＳ４１８４（図３０１）の処理と基本的に同様の処理である。即ち、図２９６のフローチャートは、ステップＳ４１８６の処理の詳細を説明するフローチャートでもある。また、ステップＳ４２２５の処理は、上述したステップＳ４１８５（図３０１）の処理と基本的に同様の処理である。
【２５７８】
これに対して、ステップＳ４２２３において、検出された領域が定常領域であると判定した場合、実行指令生成部４１９２は、実行指令を実世界推定部４１０２に供給する。すると、ステップＳ４２２６において、実世界推定部４１０２は、ステップＳ４２２１の処理でデータ定常性検出部４１０１により検出された角度に基づいて、実世界１の信号を推定するとともに、その推定誤差（マッピング誤差）を演算する。推定された実世界１の信号は、実世界推定情報として画像生成部４１０３に供給される。また、演算された推定誤差は、第２の領域特定情報として領域検出部４２０１に供給される。
【２５７９】
なお、ステップＳ４２２６の処理は、上述したステップＳ４２０２（図３０３）の処理と基本的に同様の処理である。
【２５８０】
また、上述したように、いまの時点においては（実行指令生成部４１９２、または実行指令生成部４２０２から実行指令が供給されない限り）、画像生成部４１０３も画像生成部４１０４もその処理を実行しない。
【２５８１】
ステップＳ４２２７において、領域検出部４２０１は、実世界推定部４１０２により演算された推定誤差（供給された第２の領域特定情報）に基づいて、入力画像の注目画素（データ定常性検出部４１０１が角度を検出する場合に注目画素とした画素）の領域を検出し、その検出結果を実行指令生成部４２０２に供給する。なお、ステップＳ４２２７の処理は、上述したステップＳ４２０３（図３０３）の処理と基本的に同様の処理である。
【２５８２】
領域検出部４２０１の検出結果が実行指令生成部４２０２に供給されると、ステップＳ４２２８において、実行指令生成部４２０２は、検出された領域が、定常領域であるか否かを判定する。なお、ステップＳ４２２８の処理は、上述したステップＳ４２０４（図３０３）の処理と基本的に同様の処理である。
【２５８３】
ステップＳ４２２８において、検出された領域が定常領域ではない（非定常領域である）と判定した場合、実行指令生成部４２０２は、実行指令を画像生成部４１０４に供給する。すると、画像生成部４１０４は、ステップＳ４２２４において、「クラス分類適応処理の実行処理」を実行して、第１の画素（注目画素（入力画像のＳＤ画素）におけるＨＤ画素）を生成し、ステップＳ４２２５において、クラス分類適応処理により生成された第１の画素を、出力画像として外部に出力する。
【２５８４】
なお、いまの場合のステップＳ４２２４の処理は、上述したステップＳ４２０５（図３０３）の処理と基本的に同様の処理である。また、いまの場合のステップＳ４２２５の処理は、上述したステップＳ４２０６（図３０３）の処理と基本的に同様の処理である。
【２５８５】
これに対して、ステップＳ４２２８において、検出された領域が定常領域であると判定した場合、実行指令生成部４２０２は、実行指令を画像生成部４１０３に供給する。すると、ステップＳ４２２９において、画像生成部４１０３は、実世界推定部４１０２により推定された実世界１の信号（および、必要に応じてデータ定常性検出部４１０１からのデータ定常性情報）に基づいて、領域検出部４２０１により検出された領域（即ち、入力画像の注目画素（ＳＤ画素））における、第２の画素（ＨＤ画素）を生成する。そして、ステップＳ４２３０において、画像生成部４１０３は、生成された第２の画素を、出力画像として外部に出力する。
【２５８６】
なお、ステップＳ４２２９とＳ４２３０のそれぞれの処理は、上述したステップＳ４２０７とＳ４２０８（図３０３）のそれぞれの処理と基本的に同様の処理である。
【２５８７】
第１の画素または第２の画素が出力画像として出力されると（ステップＳ４２２５、またはステップＳ４２３０の処理の後）、ステップＳ４２３１において、全画素の処理を終了したか否かが判定され、全画素の処理がまだ終了していないと判定された場合、その処理は、ステップＳ４２２１に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４２２１乃至Ｓ４２３１の処理が繰り返される。
【２５８８】
そして、ステップＳ４２３１において、全画素の処理を終了したと判定された場合、その処理は終了となる。
【２５８９】
以上、図２９２乃至図３０５を参照して、本発明の信号処理装置４（図１）の実施の形態の１例として、併用手法について説明した。
【２５９０】
上述したように、併用手法においては、図３の構成の本発明の信号処理装置に対してさらに、定常性を利用しない他の信号処理を行う装置（または、プログラム等）が付加されている。
【２５９１】
換言すると、併用手法においては、従来の信号処理装置（または、プログラム等）に対して、図３の構成の本発明の信号処理装置（または、プログラム等）が付加されている。
【２５９２】
即ち、併用手法においては、例えば、図２９２や図２９８の定常領域検出部４１０５が、実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した画像データ（例えば、図２９２や図２９８の入力画像）内において、画像データのデータの定常性を有する領域（例えば、図２９５のステップＳ４１０６や図２９９のステップＳ４１６６に記載の定常領域）を検出する。
【２５９３】
また、図２９２や図２９８の実世界推定部４１０２が、実世界１の光信号の定常性の一部が欠落した画像データのデータの定常性に基づいて、欠落した実世界１の光信号の定常性を推定することにより光信号を推定する。
【２５９４】
さらに、例えば、図２９２や図２９８のデータ定常性検出部４１０１が、実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した画像データ内において、画像データのデータの定常性の基準軸に対する角度（例えば、図２９５のステップＳ４１０２や図２９９のステップＳ４１６２に記載の角度）を検出する。この場合、例えば、図２９２や図２９８の定常領域検出部４１０５は、角度に基いて画像データのデータの定常性を有する領域を検出し、実世界推定部４１０２は、その領域に対して、欠落した実世界１の光信号の定常性を推定することにより光信号を推定する。
【２５９５】
ただし、図２９２においては、定常領域検出部４１０５は、角度に沿って定常であるモデルと入力画像との誤差（即ち、例えば、図中の領域特定情報であって、図２９５のステップＳ４１０２の処理で演算される推定誤差）に基づいて入力画像のデータの定常性を有する領域を検出する。
【２５９６】
これに対して、図２９８においては、定常領域検出部４１０５は、実世界推定部４１０２の後段に配され、実世界推定部４１０２により演算される、入力画像に対応する実世界１の光信号を表す実世界モデルと、入力画像との誤差（即ち、例えば、図中の領域特定情報であって、図２９５のステップＳ４１６３の処理で演算される実世界の信号の推定誤差（マッピング誤差））に基いて、実世界推定部４１０２により推定された実世界モデル、即ち、画像生成部４１０３から出力される画像を選択的に出力する（例えば、図２９８のセレクタ４１１２が、図２９９のステップＳ４１６６乃至Ｓ４１６８の処理を実行する）。
【２５９７】
以上、図２９２と図２９８の例で説明したが、以上のことは、図３００、図３０２、および図３０４においても同様である。
【２５９８】
従って、併用手法においては、実世界１の信号のうちの定常性が存在する部分(画像データのデータの定常性を有する領域)については、図３の構成の信号処理装置に相当する装置（またはプログラム等）が信号処理を実行し、実世界１の信号のうちの明確な定常性が存在しない部分については、従来の信号処理装置（または、プログラム等）が信号処理を実行することが可能になる。その結果、従来の信号処理装置や、図３の構成の本発明の信号処理のいずれよりも実世界１（図１）の信号に近い画像データを出力することが可能になる。
【２５９９】
次に、図３０６，図３０７を参照して、データ定常性検出部１０１より直接画像を生成する例について説明する。
【２６００】
図３０６のデータ定常性検出部１０１は、図１６５のデータ定常性検出部１０１に画像生成部４５０１を付加したものである。画像生成部４５０１は、実世界推定部８０２より出力される実世界の近似関数f(x)の係数を実世界推定情報として取得し、この係数に基づいて、各画素を再積分することにより画像を生成して出力する。
【２６０１】
次に、図３０７のフローチャートを参照して、図３０６のデータの定常性の検出の処理について説明する。尚、図３０７のフローチャートのステップＳ４５０１乃至Ｓ４５０４、および、ステップＳ４５０６乃至Ｓ４５１１の処理に付いては、図１６６のフローチャートのステップＳ８０１乃至Ｓ８１０の処理と同様であるのでその説明は省略する。
【２６０２】
ステップＳ４５０４において、画像生成部４５０１は、実世界推定部８０２より入力された係数に基づいて各画素を再積分して、画像を生成し出力する。
【２６０３】
以上の処理により、データ定常性検出部１０１は、領域情報のみならず、その領域判定に用いた（実世界推定情報に基づいて生成された画素からなる）画像を出力することができる。
【２６０４】
このように、図３０６のデータ定常性検出部１０１においては、画像生成部４５０１が設けられている。即ち、図３０６のデータ定常性検出部１０１は、入力画像のデータの定常性に基づいて出力画像を生成することができる。従って、図３０６で示される構成を有する装置を、データ定常性検出部１０１の実施の形態と捉えるのではなく、図１の信号処理装置（画像処理装置）４の他の実施の形態と捉えることもできる。
【２６０５】
さらに、上述した併用手法が適用される信号処理装置において、実世界１の信号のうちの定常性が存在する部分に対して信号処理を施す信号処理部として、図３０６で示される構成を有する装置（即ち、図３０６のデータ定常性検出部１０１と同様の機能と構成を有する信号処理装置）を適用することも可能である。
【２６０６】
具体的には、例えば、第１の併用手法が適用される図２９２の信号処理装置においては、実世界１の信号のうちの定常性が存在する部分に対して信号処理を施す信号処理部は、データ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０３とされている。図示はしないが、これらのデータ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０３の代わりに、図３０６の構成の信号処理装置（画像処理装置）を適用することも可能である。この場合、図３０６の比較部８０４が、その出力を領域特定情報をとして領域検出部４１１１に供給し、また、画像生成部４５０１が、出力画像（第２の画素）をセレクタ４１１２に供給することになる。
【２６０７】
なお、センサ２は、固体撮像素子である、例えば、BBD（Bucket Brigade Device）、CID（Charge Injection Device）、またはCPD（Charge Priming Device）などのセンサでもよい。
【２６０８】
本発明の信号処理を行うプログラムを記録した記録媒体は、図２で示されるように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク５１（フレキシブルディスクを含む）、光ディスク５２（CD-ROM(Compaut Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む）、光磁気ディスク５３（ＭＤ（Mini-Disk）（商標）を含む）、もしくは半導体メモリ５４などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM２２や、記憶部２８に含まれるハードディスクなどで構成される。
【２６０９】
なお、上述した一連の処理を実行させるプログラムは、必要に応じてルータ、モデムなどのインタフェースを介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を介してコンピュータにインストールされるようにしてもよい。
【２６１０】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【２６１１】
【発明の効果】
以上のように、本発明によれば、正確で、精度の高い処理結果を得ることができるようになる。
【２６１２】
また、本発明によれば、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【図面の簡単な説明】
【図１】本発明の原理を示す図である。
【図２】信号処理装置４の構成の例を示すブロック図である。
【図３】信号処理装置４を示すブロック図である。
【図４】従来の信号処理装置１２１の処理の原理を説明する図である。
【図５】信号処理装置４の処理の原理を説明する図である。
【図６】本発明の原理をより具体的に説明する図である。
【図７】本発明の原理をより具体的に説明する図である。
【図８】イメージセンサ上の画素の配置の例を説明する図である。
【図９】 CCDである検出素子の動作を説明する図である。
【図１０】画素Ｄ乃至画素Ｆに対応する検出素子に入射される光と、画素値との関係を説明する図である。
【図１１】時間の経過と、１つの画素に対応する検出素子に入射される光と、画素値との関係を説明する図である。
【図１２】実世界１の線状の物の画像の例を示す図である。
【図１３】実際の撮像により得られた画像データの画素値の例を示す図である。
【図１４】画像データの模式図である。
【図１５】背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像の例を示す図である。
【図１６】実際の撮像により得られた画像データの画素値の例を示す図である。
【図１７】画像データの模式図である。
【図１８】本発明の原理を説明する図である。
【図１９】本発明の原理を説明する図である。
【図２０】高解像度データ１８１の生成の例を説明する図である。
【図２１】モデル１６１による近似を説明する図である。
【図２２】Ｍ個のデータ１６２によるモデル１６１の推定を説明する図である。
【図２３】実世界１の信号とデータ３との関係を説明する図である。
【図２４】式を立てるときに注目するデータ３の例を示す図である。
【図２５】式を立てる場合における、実世界１における２つの物体に対する信号および混合領域に属する値を説明する図である。
【図２６】式（１８）、式（１９）、および式（２２）で表される定常性を説明する図である。
【図２７】データ３から抽出される、Ｍ個のデータ１６２の例を示す図である。
【図２８】データ３である画素値が取得された領域を説明する図である。
【図２９】画素の時空間方向の位置の近似を説明する図である。
【図３０】データ３における、時間方向および２次元の空間方向の実世界１の信号の積分を説明する図である。
【図３１】空間方向により解像度の高い高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３２】時間方向により解像度の高い高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３３】動きボケを除去した高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３４】時間空間方向により解像度の高い高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３５】入力画像の元の画像を示す図である。
【図３６】入力画像の例を示す図である。
【図３７】従来のクラス分類適応処理を適用して得られた画像を示す図である。
【図３８】細線の領域を検出した結果を示す図である。
【図３９】信号処理装置４から出力された出力画像の例を示す図である。
【図４０】信号処理装置４による、信号の処理を説明するフローチャートである。
【図４１】データ定常性検出部１０１の構成を示すブロック図である。
【図４２】背景の前に細線がある実世界１の画像を示す図である。
【図４３】平面による背景の近似を説明する図である。
【図４４】細線の画像が射影された画像データの断面形状を示す図である。
【図４５】細線の画像が射影された画像データの断面形状を示す図である。
【図４６】細線の画像が射影された画像データの断面形状を示す図である。
【図４７】頂点の検出および単調増減領域の検出の処理を説明する図である。
【図４８】頂点の画素値が閾値を超え、隣接する画素の画素値が閾値以下である細線領域を検出する処理を説明する図である。
【図４９】図４８の点線AA'で示す方向に並ぶ画素の画素値を表す図である。
【図５０】単調増減領域の連続性の検出の処理を説明する図である。
【図５１】平面での近似により定常成分を抽出した画像の例を示す図である。
【図５２】単調減少している領域を検出した結果を示す図である。
【図５３】連続性が検出された領域を示す図である。
【図５４】連続性が検出された領域の画素値を示す図である。
【図５５】細線の画像が射影された領域の検出の他の処理の例を示す図である。
【図５６】定常性検出の処理を説明するフローチャートである。
【図５７】時間方向のデータの定常性を検出の処理を説明する図である。
【図５８】非定常成分抽出部２０１の構成を示すブロック図である。
【図５９】棄却される回数を説明する図である。
【図６０】入力画像の例を示す図である。
【図６１】棄却をしないで平面で近似した結果得られる標準誤差を画素値とした画像を示す図である。
【図６２】棄却をして平面で近似した結果得られる標準誤差を画素値とした画像を示す図である。
【図６３】棄却された回数を画素値とした画像を示す図である。
【図６４】平面の空間方向Ｘの傾きを画素値とした画像を示す図である。
【図６５】平面の空間方向Ｙの傾きを画素値とした画像を示す図である。
【図６６】平面で示される近似値からなる画像を示す図である。
【図６７】平面で示される近似値と画素値との差分からなる画像を示す図である。
【図６８】非定常成分の抽出の処理を説明するフローチャートである。
【図６９】定常成分の抽出の処理を説明するフローチャートである。
【図７０】定常成分の抽出の他の処理を説明するフローチャートである。
【図７１】定常成分の抽出のさらに他の処理を説明するフローチャートである。
【図７２】データ定常性検出部１０１の他の構成を示すブロック図である。
【図７３】データの定常性を有する入力画像におけるアクティビティを説明する図である。
【図７４】アクティビティを検出するためのブロックを説明する図である。
【図７５】アクティビティに対するデータの定常性の角度を説明する図である。
【図７６】データ定常性検出部１０１のより詳細な構成を示すブロック図である。
【図７７】画素の組を説明する図である。
【図７８】画素の組の位置とデータの定常性の角度との関係を説明する図である。
【図７９】データの定常性の検出の処理を説明するフローチャートである。
【図８０】時間方向および空間方向のデータの定常性の角度を検出するとき、抽出される画素の組を示す図である。
【図８１】データ定常性検出部１０１のより詳細な他の構成を示すブロック図である。
【図８２】設定された直線の角度の範囲に応じた数の画素からなる画素の組を説明する図である。
【図８３】設定された直線の角度の範囲を説明する図である。
【図８４】設定された直線の角度の範囲と、画素の組の数、および画素の組毎の画素の数を説明する図である。
【図８５】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８６】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８７】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８８】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８９】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９０】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９１】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９２】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９３】データの定常性の検出の処理を説明するフローチャートである。
【図９４】データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【図９５】データ定常性検出部１０１のより詳細な構成を示すブロック図である。
【図９６】ブロックの例を説明する図である。
【図９７】注目ブロックと参照ブロックとの、画素値の差分の絶対値の算出の処理を説明する図である。
【図９８】注目画素の周辺の画素の位置と、角度θを有する直線との空間方向Ｘの距離を説明する図である。
【図９９】シフト量γと角度θとの関係を示す図である。
【図１００】シフト量γに対する、注目画素の周辺の画素の位置と、注目画素を通り、角度θを有する直線との空間方向Ｘの距離を示す図である。
【図１０１】注目画素を通り、空間方向Ｘの軸に対して角度θの直線との距離が最小の参照ブロックを示す図である。
【図１０２】検出するデータの定常性の角度の範囲を１／２にする処理を説明する図である。
【図１０３】データの定常性の検出の処理を説明するフローチャートである。
【図１０４】間方向および空間方向のデータの定常性の角度を検出するとき、抽出されるブロックを示す図である。
【図１０５】入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の構成を示すブロック図である。
【図１０６】入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の構成を示すブロック図である。
【図１０７】データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【図１０８】入力画像における、基準軸を基準としたデータの定常性の角度を説明する図である。
【図１０９】入力画像における、基準軸を基準としたデータの定常性の角度を説明する図である。
【図１１０】入力画像における、基準軸を基準としたデータの定常性の角度を説明する図である。
【図１１１】入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線との関係を示す図である。
【図１１２】回帰直線Ａと、例えば、基準軸である空間方向Ｘを示す軸との角度を説明する図である。
【図１１３】領域の例を示す図である。
【図１１４】図１０７で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明するフローチャートである。
【図１１５】データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【図１１６】入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線との関係を示す図である。
【図１１７】標準偏差とデータの定常性を有する領域との関係を説明する図である。
【図１１８】領域の例を示す図である。
【図１１９】図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明するフローチャートである。
【図１２０】図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の他の処理を説明するフローチャートである。
【図１２１】本発明を適用した細線、または、２値エッジの角度をデータ定常性情報として検出するデータ定常性検出部の構成を示すブロック図である。
【図１２２】データ定常性情報の検出方法を説明する図である。
【図１２３】データ定常性情報の検出方法を説明する図である。
【図１２４】図１２１のデータ定常性検出部のより詳細な構成を示す図である。
【図１２５】水平・垂直判定処理を説明する図である。
【図１２６】水平・垂直判定処理を説明する図である。
【図１２７】現実世界の細線とセンサにより撮像される細線の関係を説明する図である。
【図１２８】現実世界の画像の細線と背景の関係を説明する図である。
【図１２９】センサにより撮像された画像の細線と背景の関係を説明する図である。
【図１３０】センサにより撮像された画像の細線と背景の関係の例を説明する図である。
【図１３１】現実世界の画像の細線と背景の関係を説明する図である。
【図１３２】センサにより撮像された画像の細線と背景の関係を説明する図である。
【図１３３】センサにより撮像された画像の細線と背景の関係の例を説明する図である。
【図１３４】細線の角度を求めるためのモデルを示す図である。
【図１３５】細線の角度を求めるためのモデルを示す図である。
【図１３６】注目画素に対応するダイナミックレンジブロックの画素値の最大値と最小値を説明する図である。
【図１３７】細線の角度の求め方を説明する図である。
【図１３８】細線の角度の求め方を説明する図である。
【図１３９】抽出ブロックとダイナミックレンジブロックを説明する図である。
【図１４０】最小自乗法の解法を説明する図である。
【図１４１】最小自乗法の解法を説明する図である。
【図１４２】２値エッジを説明する図である。
【図１４３】センサにより撮像された画像の２値エッジを説明する図である。
【図１４４】センサにより撮像された画像の２値エッジの例を説明する図である。
【図１４５】センサにより撮像された画像の２値エッジを説明する図である。
【図１４６】２値エッジの角度を求めるためのモデルを示す図である。
【図１４７】２値エッジの角度を求める方法を説明する図である。
【図１４８】２値エッジの角度を求める方法を説明する図である。
【図１４９】細線、または、２値エッジの角度をデータ定常性と検出する処理を説明するフローチャートである。
【図１５０】データ抽出処理を説明するフローチャートである。
【図１５１】正規方程式への足し込み処理を説明するフローチャートである。
【図１５２】本発明を適用して求めた細線の傾きと、相関を用いて求めた細線の角度とを比較する図である。
【図１５３】本発明を適用して求めた２値エッジの傾きと、相関を用いて求めた細線の角度とを比較する図である。
【図１５４】本発明を適用した混合比をデータ定常性情報として検出するデータ定常性検出部の構成を示すブロック図である。
【図１５５】混合比の求め方を説明する図である。
【図１５６】混合比をデータ定常性と検出する処理を説明するフローチャートである。
【図１５７】正規方程式への足し込み処理を説明するフローチャートである。
【図１５８】細線の混合比の分布例を示す図である。
【図１５９】２値エッジの混合比の分布例を示す図である。
【図１６０】混合比の直線近似を説明する図である。
【図１６１】物体の動きをデータ定常性情報として求める方法を説明する図である。
【図１６２】物体の動きをデータ定常性情報として求める方法を説明する図である。
【図１６３】物体の動きによる混合比をデータ定常性情報として求める方法を説明する図である。
【図１６４】物体の動きによる混合比をデータ定常性情報として求める際の混合比の直線近似を説明する図である。
【図１６５】本発明を適用した処理領域をデータ定常性情報として検出するデータ定常性検出部の構成を示すブロック図である。
【図１６６】図１６５のデータ定常性検出部による定常性の検出の処理を説明するフローチャートである。
【図１６７】図１６５のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１６８】図１６５のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１６９】本発明を適用した処理領域をデータ定常性情報として検出するデータ定常性検出部のその他の構成を示すブロック図である。
【図１７０】図１６９のデータ定常性検出部による定常性の検出の処理を説明するフローチャートである。
【図１７１】図１６９のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１７２】図１６９のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１７３】実世界推定部１０２の構成を示すブロック図である。
【図１７４】実世界１の信号における、細線の幅を検出する処理を説明する図である。
【図１７５】実世界１の信号における、細線の幅を検出する処理を説明する図である。
【図１７６】実世界１の信号における、細線の信号のレベルを推定する処理を説明する図である。
【図１７７】実世界の推定の処理を説明するフローチャートである。
【図１７８】実世界推定部１０２の他の構成を示すブロック図である。
【図１７９】境界検出部２１２１の構成を示すブロック図である。
【図１８０】分配比の算出の処理を説明する図である。
【図１８１】分配比の算出の処理を説明する図である。
【図１８２】分配比の算出の処理を説明する図である。
【図１８３】単調増減領域の境界を示す回帰直線の算出の処理を説明する図である。
【図１８４】単調増減領域の境界を示す回帰直線の算出の処理を説明する図である。
【図１８５】実世界の推定の処理を説明するフローチャートである。
【図１８６】境界検出の処理を説明するフローチャートである。
【図１８７】空間方向の微分値を実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図１８８】図１８７の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図１８９】参照画素を説明する図である。
【図１９０】空間方向の微分値を求める位置を説明する図である。
【図１９１】空間方向の微分値とシフト量の関係を説明する図である。
【図１９２】空間方向の傾きを実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図１９３】図１９２の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図１９４】空間方向の傾きを求める処理を説明する図である。
【図１９５】空間方向の傾きを求める処理を説明する図である。
【図１９６】フレーム方向の微分値を実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図１９７】図１９６の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図１９８】参照画素を説明する図である。
【図１９９】フレーム方向の微分値を求める位置を説明する図である。
【図２００】フレーム方向の微分値とシフト量の関係を説明する図である。
【図２０１】フレーム方向の傾きを実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図２０２】図２０１の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図２０３】フレーム方向の傾きを求める処理を説明する図である。
【図２０４】フレーム方向の傾きを求める処理を説明する図である。
【図２０５】図３の実世界推定部の実施の形態の1例である、関数近似手法の原理を説明する図である。
【図２０６】センサがＣＣＤとされる場合の積分効果を説明する図である。
【図２０７】図２０６のセンサの積分効果の具体的な例を説明する図である。
【図２０８】図２０６のセンサの積分効果の具体的な他の例を説明する図である。
【図２０９】図２０７で示される細線含有実世界領域を表した図である。
【図２１０】図３の実世界推定部の実施の形態の１例の原理を、図２０５の例と対比させて説明する図である。
【図２１１】図２０７で示される細線含有データ領域を表した図である。
【図２１２】図２１１の細線含有データ領域に含まれる各画素値のそれぞれをグラフ化した図である。
【図２１３】図２１２の細線含有データ領域に含まれる各画素値を近似した近似関数をグラフ化した図である。
【図２１４】図２０７で示される細線含有実世界領域が有する空間方向の定常性を説明する図である。
【図２１５】図２１１の細線含有データ領域に含まれる各画素値のそれぞれをグラフ化した図である。
【図２１６】図２１５で示される入力画素値のそれぞれを、所定のシフト量だけシフトさせた状態を説明する図である。
【図２１７】空間方向の定常性を考慮して、図２１２の細線含有データ領域に含まれる各画素値を近似した近似関数をグラフ化した図である。
【図２１８】空間混合領域を説明する図である。
【図２１９】空間混合領域における、実世界の信号を近似した近似関数を説明する図である。
【図２２０】センサの積分特性と空間方向の定常性の両方を考慮して、図２１２の細線含有データ領域に対応する実世界の信号を近似した近似関数をグラフ化した図である。
【図２２１】図２０５で示される原理を有する関数近似手法のうちの、１次多項式近似手法を利用する実世界推定部の構成例を説明するブロック図である。
【図２２２】図２２１の構成の実世界推定部が実行する実世界の推定処理を説明するフローチャートである。
【図２２３】タップ範囲を説明する図である。
【図２２４】空間方向の定常性を有する実世界の信号を説明する図である。
【図２２５】センサがＣＣＤとされる場合の積分効果を説明する図である。
【図２２６】断面方向距離を説明する図である。
【図２２７】図２０５で示される原理を有する関数近似手法のうちの、２次多項式近似手法を利用する実世界推定部の構成例を説明するブロック図である。
【図２２８】図２２７の構成の実世界推定部が実行する実世界の推定処理を説明するフローチャートである。
【図２２９】タップ範囲を説明する図である。
【図２３０】時空間方向の定常性の方向を説明する図である。
【図２３１】センサがＣＣＤとされる場合の積分効果を説明する図である。
【図２３２】空間方向の定常性を有する実世界の信号を説明する図である。
【図２３３】時空間方向の定常性を有する実世界の信号を説明する図である。
【図２３４】図２０５で示される原理を有する関数近似手法のうちの、３次元関数近似手法を利用する実世界推定部の構成例を説明するブロック図である。
【図２３５】図２３４の構成の実世界推定部が実行する実世界の推定処理を説明するフローチャートである。
【図２３６】図３の画像生成部の実施の形態の1例である、再積分手法の原理を説明する図である。
【図２３７】入力画素と、その入力画素に対応する、実世界の信号を近似する近似関数の例を説明する図である。
【図２３８】図２３７で示される近似関数から、図２３７で示される１つの入力画素における、高解像度の４つの画素を創造する例を説明する図である。
【図２３９】図２３６で示される原理を有する再積分手法のうちの、１次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２４０】図２３９の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図２４１】入力画像の元の画像の例を表す図である。
【図２４２】図２４１の画像に対応する画像データの例を表す図である。
【図２４３】入力画像の例を表す図である。
【図２４４】図２４３の画像に対応する画像データの例を表す図である。
【図２４５】入力画像に対して従来のクラス分類適応処理を施して得られる画像の例を表す図である。
【図２４６】図２４５の画像に対応する画像データの例を表す図である。
【図２４７】入力画像に対して本発明の１次元再積分手法の処理を施して得られる画像の例を表す図である。
【図２４８】図２４７の画像に対応する画像データの例を表す図である。
【図２４９】空間方向の定常性を有する実世界の信号を説明する図である。
【図２５０】図２３６で示される原理を有する再積分手法のうちの、２次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２５１】断面方向距離を説明する図である。
【図２５２】図２５０の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図２５３】入力画素の１例を説明する図である。
【図２５４】２次元再積分手法により、図２５３で示される１つの入力画素における、高解像度の４つの画素を創造する例を説明する図である。
【図２５５】時空間方向の定常性の方向を説明する図である。
【図２５６】図２３６で示される原理を有する再積分手法のうちの、３次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２５７】図２５６の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図２５８】本発明を適用した画像生成部のその他の構成を示すブロック図である。
【図２５９】図２５８の画像生成部による画像の生成の処理を説明するフローチャートである。
【図２６０】入力画素から４倍密度の画素を生成する処理を説明する図である。
【図２６１】画素値を示す近似関数とシフト量との関係を示す図である。
【図２６２】本発明を適用した画像生成部のその他の構成を示すブロック図である。
【図２６３】図２６２の画像生成部による画像の生成の処理を説明するフローチャートである。
【図２６４】入力画素から４倍密度の画素を生成する処理を説明する図である。
【図２６５】画素値を示す近似関数とシフト量との関係を示す図である。
【図２６６】図３の画像生成部の実施の形態の1例である、クラス分類適応処理補正手法の１次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２６７】図２６６の画像生成部のクラス分類適応処理部の構成例を説明するブロック図である。
【図２６８】図２６６のクラス分類適応処理部と、クラス分類適応処理補正部が使用する係数を学習により決定する学習装置の構成例を示すブロック図である。
【図２６９】図２６８のクラス分類適応処理用学習部の詳細な構成例を説明するブロック図である。
【図２７０】図２６７のクラス分類適応処理部の処理結果の例を示す図である。
【図２７１】図２７０の予測画像とHD画像の差分画像を示す図である。
【図２７２】図２７１で示される領域に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個のＨＤ画素に対応する、図２７０のＨＤ画像の具体的な画素値、ＳＤ画像の具体的な画素値、および、実際の波形（実世界の信号）のそれぞれをプロットしたものを示す図である。
【図２７３】図２７０の予測画像とHD画像の差分画像を示す図である。
【図２７４】図２７３で示される領域に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個のＨＤ画素に対応する、図２７０のＨＤ画像の具体的な画素値、ＳＤ画像の具体的な画素値、および、実際の波形（実世界の信号）のそれぞれをプロットしたものを示す図である。
【図２７５】図２７２乃至図２７４に示される内容に基づいて得られた知見を説明する図である。
【図２７６】図２６６の画像生成部のクラス分類適応処理補正部の構成例を説明するブロック図である。
【図２７７】図２６８のクラス分類適応処理補正用学習部の詳細な構成例を説明するブロック図である。
【図２７８】画素内傾斜を説明する図である。
【図２７９】図２７０のSD画像と、そのSD画像の各画素の画素内傾斜を画素値とする特徴量画像を示す図である。
【図２８０】画素内傾斜の算出方法を説明する図である。
【図２８１】画素内傾斜の算出方法を説明する図である。
【図２８２】図２６６の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図２８３】図２８２の画像の生成処理の入力画像クラス分類適応処理の詳細を説明するフローチャートである。
【図２８４】図２８２の画像の生成処理のクラス分類適応処理の補正処理の詳細を説明するフローチャートである。
【図２８５】クラスタップの配置例を説明する図である。
【図２８６】クラス分類の１例を説明する図である。
【図２８７】予測タップ配置例を説明する図である。
【図２８８】図２６８の学習装置の学習処理を説明するフローチャートである。
【図２８９】図２８８の学習処理のクラス分類適応処理用学習処理の詳細を説明するフローチャートである。
【図２９０】図２８８の学習処理のクラス分類適応処理補正用学習処理の詳細を説明するフローチャートである。
【図２９１】図２７０の予測画像と、その予測画像に補正画像を加算した画像（図２６６の画像生成部により生成される画像）を表した図である。
【図２９２】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第１の構成例を説明するブロック図である。
【図２９３】図２９２の信号処理装置の、クラス分類適応処理を実行する画像生成部の構成例を説明するブロック図である。
【図２９４】図２９３の画像生成部に対する学習装置の構成例を説明するブロック図である。
【図２９５】図２９２の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図２９６】図２９５の信号の処理のクラス分類適応処理の実行処理の詳細を説明するフローチャートである。
【図２９７】図２９４の学習装置の学習処理を説明するフローチャートである。
【図２９８】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第２の構成例を説明するブロック図である。
【図２９９】図２９６の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３００】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第３の構成例を説明するブロック図である。
【図３０１】図２９８の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３０２】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第４の構成例を説明するブロック図である。
【図３０３】図３００の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３０４】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第５の構成例を説明するブロック図である。
【図３０５】図３０２の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３０６】データ定常性検出部の他の実施の形態の構成を示すブロック図である。
【図３０７】図３０６のデータ定常性検出部によるデータの定常性の検出処理を説明するフローチャートである。
【符号の説明】
４ 信号処理装置， ２１ ＣＰＵ， ２２ ＲＯＭ， ２３ ＲＡＭ， ２８ 記憶部， ５１ 磁気ディスク， ５２ 光ディスク， ５３ 光磁気ディスク， ５４ 半導体メモリ， １０１ データ定常性検出部， １０２ 実世界推定部， １０３ 画像生成部， ２０１ 非定常成分抽出部， ２０２ 頂点検出部， ２０３ 単調増減検出部， ２０４ 連続性検出部， ２２１ ブロック抽出部， ２２２ 平面近似部， ２２３ 繰り返し判定部， ４０１ アクティビティ検出部， ４０２ データ選択部， ４０３ 誤差推定部， ４０４ 定常方向導出部， ４１１−１乃至４１１−Ｌ 画素選択部， ４１２−１乃至４１２−Ｌ 推定誤差算出部， ４１３ 最小誤差角度選択部， ４２１−１乃至４２１−Ｌ 画素選択部， ４２２−１乃至４２２−Ｌ 推定誤差算出部， ４４１ データ選択部， ４４２ 誤差推定部， ４４３ 定常方向導出部， ４６１−１乃至４６１−Ｌ 画素選択部， ４６２−１乃至４６２−Ｌ 推定誤差算出部， ４６３ 最小誤差角度選択部， ４８１−１乃至４８１−３データ定常性検出部， ４８２ 決定部， ４９１ コンポーネント処理部，４９２ データ定常性検出部， ５０２ 画素取得部， ５０３ 度数検出部， ５０４ 回帰直線演算部， ５０５ 角度算出部， ６０２ 画素取得部，６０３ 度数検出部， ６０４ 回帰直線演算部， ６０５ 領域算出部， ７０１ データ選択部， ７０２ データ足し込み部， ７０３ 定常方向導出部， ７１１ 水平・垂直判定部， ７１２ データ取得部， ７２１ 差分足し込み部， ７２２ MaxMin取得部， ７２３ 差分足し込み部， ７３１ 定常方向演算部， ７５１ データ足し込み部， ７５２ MaxMin取得部， ７５３ 足し込み部， ７５４ 差分演算部， ７５５ 足し込み部， ７６１ 混合比導出部， ７６２ 混合比算出部， ８０１ 角度検出部， ８０２ 実世界推定部， ８０３ 誤差演算部， ８０４ 比較部， ８２１ 動き検出部，８２２ 実世界推定部， ８２３ 誤差演算部， ８２４ 比較部， ２１０１ 線幅検出部， ２１０２ 信号レベル推定部， ２１２１ 境界検出部， ２１３１ 分配比算出部， ２１３２ 回帰直線算出部， ２２０１ 実世界推定部， ２２０２ 近似関数推定部， ２２０３ 微分処理部， ２２１１ 参照画素抽出部， ２２１２ 傾き推定部， ２２３１ 実世界推定部， ２２３２ 近似関数推定部， ２２３３ 微分処理部， ２２５１ 参照画素抽出部，２２５２ 傾き推定部， ２３３１ 条件設定部, ２３３２ 入力画像記憶部, ２３３３ 入力画素値取得部, ２３３４ 積分成分演算部, ２３３５ 正規方程式生成部, ２３３６ 近似関数生成部, ２３４１ 入力画素値テーブル, ２３４２ 積分成分テーブル, ２３４３ 正規方程式テーブル， ２４２１ 条件設定部, ２４２２ 入力画像記憶部, ２４２３ 入力画素値取得部,２４２４ 積分成分演算部, ２４２５ 正規方程式生成部, ２４２６ 近似関数生成部, ２４３１ 入力画素値テーブル, ２４３２ 積分成分テーブル,２４３３ 正規方程式テーブル， ２５２１ 条件設定部, ２５２２ 入力画像記憶部, ２５２３ 入力画素値取得部, ２５２４ 積分成分演算部, ２５２５ 正規方程式生成部, ２５２６ 近似関数生成部, ２５３１ 入力画素値テーブル, ２５３２ 積分成分テーブル, ２５３３ 正規方程式テーブル，３１２１ 条件設定部, ３１２２ 特徴量記憶部, ３１２３ 積分成分演算部, ３１２４ 出力画素値演算部, ３１３１ 特徴量テーブル, ３１３２ 積分成分テーブル， ３２０１ 条件設定部, ３２０２ 特徴量記憶部, ３２０３ 積分成分演算部, ３２０４ 出力画素値演算部, ３２１１ 特徴量テーブル, ３２１２ 積分成分テーブル， ３３０１ 条件設定部, ３３０２ 特徴量記憶部, ３３０３ 積分成分演算部, ３３０４ 出力画素値演算部, ３３１１ 特徴量テーブル, ３３１２ 積分成分テーブル， ３２０１ 傾き取得部， ３２０２ 外挿補間部， ３２１１ 傾き取得部， ３２１２ 外挿補間部， ３５０１ クラス分類適応処理部， ３５０２ クラス分類適応処理補正部， ３５０３ 加算部， ３５０４ 学習装置， ３５２１ クラス分類適応処理用学習部， ３５６１ クラス分類適応処理補正用学習部， ４１０１ データ定常性検出部４１０１ 実世界推定部， ４１０３ 画像生成部， ４１０４ 画像生成部， ４１０５ 定常領域検出部， ４１１１ 領域検出部， ４１１２ セレクタ， ４１６１ 定常領域検出部， ４１７１ 領域検出部，４１７２ 実行指令生成部， ４１８１，４１８２ 定常領域検出部， ４１９１ 領域検出部， ４１９２ 実行指令生成部， ４２０１ 領域検出部， ４２０２ 実行指令生成部， ４５０１ 画像生成部[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image processing apparatus and method, a recording medium, and a program, and more particularly, to an image processing apparatus and method, a recording medium, and a program that take into consideration the real world from which image data is acquired.
[0002]
[Prior art]
A technique for detecting an event in the real world (real world) with a sensor and processing sampling data output from the sensor is widely used. For example, an image processing technique for capturing an image of the real world with an image sensor and processing sampling data that is image data is widely used.
[0003]
In addition, the first signal obtained by detecting the first signal, which is a real-world signal having the first dimension, by the sensor, has a second dimension that is smaller than the first dimension, A second signal including distortion with respect to the second signal is acquired, and signal processing based on the second signal is performed to generate a third signal with reduced distortion compared to the second signal. (For example, refer to Patent Document 1).
[0004]
[Patent Document 1]
JP 2001-250119 A
[0005]
[Problems to be solved by the invention]
However, image processing considering the real world from which image data was acquired has not been considered so far.
[0006]
The present invention has been made in view of such a situation, and in consideration of the real world from which image data has been acquired, it is possible to obtain a more accurate and more accurate processing result for a real-world event. The purpose is to be able to.
[0007]
[Means for Solving the Problems]
  The image processing apparatus of the present inventionA real-world optical signal has a cross-sectional shape as a change in level corresponding to a change in position in a direction perpendicular to the length direction at an arbitrary position in the length direction of the object in the distribution of the intensity of the optical signal from the object. It has the same continuity of the optical signal in the real world that it is the same,Pixel values of a plurality of pixels of the first image data in which a real-world optical signal is projected and a part of the continuity of the real-world optical signal is missingAnd a discontinuous portion detecting means for detecting a region composed of pixels having a pixel value whose distance from the regression plane is equal to or greater than a threshold as a discontinuous portion, and a change in the pixel value from the discontinuous portion. A vertex detection means for detecting a vertex, a monotonous increase / decrease area detection means for detecting a monotonous increase / decrease area in which the pixel value monotonously increases or decreases from the vertex, and a monotonous increase / decrease area detected by the monotonous increase / decrease area detection means Continuous region detecting means for detecting a monotonous increase / decrease region in which another monotonous increase / decrease region is present at an adjacent position on the screen as a continuous region, and a continuous region as a steady state of a real-world optical signal in the first image data As a region with the continuity of data that has a certain feature in the direction of a predetermined dimension changed from the natureImage data continuity detecting means to detect and continuity of detected dataArea withBased on the above, real world estimation means for estimating the optical signal by estimating the continuity of the optical signal in the real world, and imaging means for converting the optical signal estimated by the real world estimation means into second image data It is characterized by including.
[0010]
  The image processing method of the present invention includes:A real-world optical signal has a cross-sectional shape as a change in level corresponding to a change in position in a direction perpendicular to the length direction at an arbitrary position in the length direction of the object in the distribution of the intensity of the optical signal from the object. It has the same continuity of the optical signal in the real world that it is the same,A real-world optical signal is projected, a part of the continuity of the real-world optical signal is missing, a pixel value of a plurality of pixels of the first image data, a part of the continuity of the real-world optical signal is missing , Pixel values of a plurality of pixels of the first image dataA step of detecting a regression plane corresponding to, detecting a region including pixels having a pixel value whose distance from the regression plane is equal to or greater than a threshold as a discontinuous portion, and a change in pixel value from the discontinuous portion. A vertex detection step for detecting a vertex, a monotonous increase / decrease region detection step for detecting a monotonous increase / decrease region in which the pixel value monotonously increases or decreases from the vertex, and a monotone increase / decrease region detected by the processing of the monotone increase / decrease region detection step. A continuous area detecting step for detecting, as a continuous area, a monotonous increase / decrease area in which another monotonous increase / decrease area is present at an adjacent position on the screen, and a continuous area as a real-world optical signal in the first image data. As a region with data continuity that has a certain feature in the direction of a predetermined dimension changed from the stationarity ofImage data continuity detection step to detect and continuity of detected dataArea withA real-world estimation step for estimating the optical signal by estimating the steadiness of the optical signal in the real world based on the image, and an image for converting the optical signal estimated by the processing in the real-world estimation step into second image data And a step of converting.
[0011]
  The program of the recording medium of the present invention isA real-world optical signal has a cross-sectional shape as a change in level corresponding to a change in position in a direction perpendicular to the length direction at an arbitrary position in the length direction of the object in the distribution of the intensity of the optical signal from the object. It has the same continuity of the optical signal in the real world that it is the same,Pixel values of a plurality of pixels of the first image data in which a real-world optical signal is projected and a part of the continuity of the real-world optical signal is missingA step of detecting a regression plane corresponding to, detecting a region including pixels having a pixel value whose distance from the regression plane is equal to or greater than a threshold as a discontinuous portion, and a change in pixel value from the discontinuous portion. A vertex detection step for detecting a vertex, a monotone increase / decrease region detection step for detecting a monotone increase / decrease region in which the pixel value monotonously increases or decreases from the vertex, and a monotone increase / decrease region detected by the processing of the monotone increase / decrease region detection step. A continuous area detecting step for detecting, as a continuous area, a monotonous increase / decrease area in which another monotonous increase / decrease area is present at an adjacent position on the screen, and a continuous area as a real-world optical signal in the first image data. As a region with data continuity that has a certain feature in the direction of a predetermined dimension changed from the stationarity ofImage data continuity detection step to detect and continuity of detected dataArea withA real-world estimation step for estimating the optical signal by estimating the steadiness of the optical signal in the real world based on the image, and an image for converting the optical signal estimated by the processing in the real-world estimation step into second image data And a step of converting.
[0012]
  The program of the present invention is stored in a computer.A real-world optical signal has a cross-sectional shape as a change in level corresponding to a change in position in a direction perpendicular to the length direction at an arbitrary position in the length direction of the object in the distribution of the intensity of the optical signal from the object. It has the same continuity of the optical signal in the real world that it is the same,Pixel values of a plurality of pixels of the first image data in which a real-world optical signal is projected and a part of the continuity of the real-world optical signal is missingA step of detecting a regression plane corresponding to, detecting a region including pixels having a pixel value whose distance from the regression plane is equal to or greater than a threshold as a discontinuous portion, and a change in pixel value from the discontinuous portion. A vertex detection step for detecting a vertex, a monotonous increase / decrease region detection step for detecting a monotonous increase / decrease region in which the pixel value monotonously increases or decreases from the vertex, and a monotone increase / decrease region detected by the processing of the monotone increase / decrease region detection step. A continuous area detecting step for detecting, as a continuous area, a monotonous increase / decrease area in which another monotonous increase / decrease area is present at an adjacent position on the screen, and a continuous area as a real-world optical signal in the first image data. As a region with data continuity that has a certain feature in the direction of a predetermined dimension changed from the stationarity ofImage data continuity detection step to detect and continuity of detected dataArea withA real-world estimation step for estimating the optical signal by estimating the steadiness of the optical signal in the real world based on the image, and an image for converting the optical signal estimated by the processing in the real-world estimation step into second image data And a step of performing the conversion.
[0013]
  In the image processing apparatus and method, the recording medium, and the program of the present invention,A real-world optical signal has a cross-sectional shape as a change in level corresponding to a change in position in a direction perpendicular to the length direction at an arbitrary position in the length direction of the object in the distribution of the intensity of the optical signal from the object. It has the same continuity of the optical signal in the real world that it is the same,Pixel values of a plurality of pixels of the first image data in which a real-world optical signal is projected and a part of the continuity of the real-world optical signal is missingA regression plane corresponding to is obtained, and an area composed of pixels having a pixel value whose distance from the regression plane is equal to or greater than a threshold is detected as a discontinuous part, and a vertex of a change in pixel value is detected from the discontinuous part. A monotonous increase / decrease area in which the pixel value increases or decreases monotonically from the detected monotonous increase / decrease area, and other monotonous increase / decrease areas are located in adjacent positions on the screen. As a region having data continuity that is detected as a region and the continuous region has a fixed feature in a predetermined dimension direction changed from the continuity of the optical signal in the real world in the first image dataDetected. And the continuity of the detected dataArea withThe optical signal is estimated by estimating the steadiness of the optical signal in the real world based on the above, and the estimated optical signal is converted into the second image data.
[0014]
The image processing apparatus may be an independent apparatus or a block that performs image processing.
[0015]
DETAILED DESCRIPTION OF THE INVENTION
FIG. 1 illustrates the principle of the present invention. As shown in the figure, an event (phenomenon) in the real world 1 having dimensions of space, time, and mass is acquired by the sensor 2 and converted into data. The event in the real world 1 means light (image), sound, pressure, temperature, mass, concentration, brightness / darkness, odor, or the like. Events in the real world 1 are distributed in the space-time direction. For example, the image of the real world 1 is a distribution in the spatio-temporal direction of the light intensity of the real world 1.
[0016]
When attention is paid to the sensor 2, the real world 1 event that can be acquired by the sensor 2 among the real world 1 events having dimensions of space, time, and mass is converted into data 3 by the sensor 2. It can be said that the sensor 2 acquires information indicating an event in the real world 1.
[0017]
That is, the sensor 2 converts information indicating an event in the real world 1 into data 3. It can be said that a signal, which is information indicating an event (phenomenon) of the real world 1 having dimensions of space, time, and mass, is acquired by the sensor 2 and converted into data.
[0018]
Hereinafter, the distribution of events such as image, sound, pressure, temperature, mass, concentration, brightness / darkness, or smell in the real world 1 is also referred to as a signal that is information indicating the real world 1 event. A signal that is information indicating an event in the real world 1 is also simply referred to as a real world 1 signal. In this specification, a signal includes a phenomenon and an event, and also includes a signal that the transmission side does not intend.
[0019]
Data 3 (detection signal) output from the sensor 2 is information obtained by projecting information indicating an event of the real world 1 onto a space-time of a lower dimension than the real world 1. For example, data 3 which is image data of a moving image is information obtained by projecting a three-dimensional space direction and time direction image of the real world 1 into a time space composed of a two-dimensional space direction and a time direction. It is. For example, when the data 3 is digital data, the data 3 is rounded according to the sampling unit. When the data 3 is analog data, the information in the data 3 is compressed according to the dynamic range, or a part of the information is deleted by a limiter or the like.
[0020]
In this way, by projecting a signal that is information indicating an event of the real world 1 having a predetermined dimension onto the data 3 (detection signal), a part of the information indicating the event of the real world 1 is lost. In other words, in the data 3 output from the sensor 2, a part of the information indicating the real world 1 event is missing.
[0021]
However, although a part of the information indicating the real world 1 event is missing due to the projection, the data 3 includes significant information for estimating a signal that is information indicating the real world 1 event (phenomenon). Yes.
[0022]
In the present invention, information having stationarity included in the data 3 is used as significant information for estimating a signal that is information of the real world 1. Stationarity is a newly defined concept.
[0023]
Here, paying attention to the real world 1, the events of the real world 1 include certain features in a predetermined dimension direction. For example, in an object (tangible object) in the real world 1, a shape, a pattern, or a color is continuous in a spatial direction or a time direction, or a pattern such as a shape, a pattern, or a color is repeated.
[0024]
Therefore, the information indicating the event in the real world 1 includes a certain feature in a predetermined dimension direction.
[0025]
To give a more specific example, a linear object such as a thread, string, or rope has a constant feature in the length direction, that is, the spatial direction, that the cross-sectional shape is the same at an arbitrary position in the length direction. Have The feature in the spatial direction that the cross-sectional shape is the same at an arbitrary position in the length direction results from the feature that the linear object is long.
[0026]
Therefore, the image of the linear object has a certain characteristic in the length direction, that is, the spatial direction, that the cross-sectional shape is the same at an arbitrary position in the length direction.
[0027]
In addition, it can be said that a monochromatic object, which is a tangible object spreading in the spatial direction, has a certain feature in the spatial direction of having the same color regardless of the part.
[0028]
Similarly, an image of a monochromatic object, which is a tangible object having a spread in the spatial direction, has a certain characteristic in the spatial direction of having the same color regardless of the part.
[0029]
In this way, the real world 1 (real world) event has a certain characteristic in the direction of the predetermined dimension, and thus the signal of the real world 1 has a certain characteristic in the direction of the predetermined dimension.
[0030]
In the present specification, such a certain feature in the direction of the predetermined dimension is referred to as continuity. The steadiness of the signal of the real world 1 (real world) refers to a certain characteristic in the direction of a predetermined dimension that the signal indicating the event of the real world 1 (real world) has.
[0031]
In the real world 1 (real world), there are an infinite number of such stationarities.
[0032]
Next, paying attention to the data 3, since the signal 3 is a projection of a signal which is information indicating an event of the real world 1 having a predetermined dimension by the sensor 2, the steadiness of the real world signal is affected. The corresponding stationarity is included. It can be said that the data 3 includes the continuity in which the continuity of the real-world signal is projected.
[0033]
However, as described above, in the data 3 output from the sensor 2, a part of the information of the real world 1 is missing, so that the continuity of data included in the real world 1 (real world) signal from the data 3. Some are missing.
[0034]
In other words, the data 3 includes a part of the continuity of the signal of the real world 1 (real world) as the continuity of the data. Data continuity is a characteristic that the data 3 has in a predetermined dimension.
[0035]
In the present invention, data continuity possessed by data 3 is used as significant information for estimating a signal that is information indicating an event in the real world 1.
[0036]
For example, in the present invention, the data 3 is signal-processed using the continuity of data, and information indicating the missing event of the real world 1 is generated.
[0037]
In the present invention, spatial or temporal continuity among the length (space), time, and mass of the signal dimension, which is information indicating an event in the real world 1, is used.
[0038]
Returning to FIG. 1, the sensor 2 is composed of, for example, a digital still camera or a video camera, takes an image of the real world 1, and outputs image data that is the obtained data 3 to the signal processing device 4. The sensor 2 can be, for example, a thermography device or a pressure sensor using photoelasticity.
[0039]
The signal processing device 4 is composed of, for example, a personal computer.
[0040]
The signal processing device 4 is configured, for example, as shown in FIG. A CPU (Central Processing Unit) 21 executes various processes according to a program stored in a ROM (Read Only Memory) 22 or a storage unit 28. A RAM (Random Access Memory) 23 appropriately stores programs executed by the CPU 21 and data. The CPU 21, ROM 22, and RAM 23 are connected to each other by a bus 24.
[0041]
An input / output interface 25 is also connected to the CPU 21 via the bus 24. The input / output interface 25 is connected to an input unit 26 including a keyboard, a mouse, and a microphone, and an output unit 27 including a display and a speaker. The CPU 21 executes various processes in response to commands input from the input unit 26. Then, the CPU 21 outputs an image, sound, or the like obtained as a result of the processing to the output unit 27.
[0042]
The storage unit 28 connected to the input / output interface 25 is configured by, for example, a hard disk and stores programs executed by the CPU 21 and various data. The communication unit 29 communicates with an external device via the Internet or other networks. In this example, the communication unit 29 functions as an acquisition unit that captures the data 3 output from the sensor 2.
[0043]
A program may be acquired via the communication unit 29 and stored in the storage unit 28.
[0044]
The drive 30 connected to the input / output interface 25, when a magnetic disk 51, an optical disk 52, a magneto-optical disk 53, or a semiconductor memory 54 is mounted, drives them, and programs and data recorded there. Get etc. The acquired program and data are transferred to and stored in the storage unit 28 as necessary.
[0045]
FIG. 3 is a block diagram showing the signal processing device 4.
[0046]
It does not matter whether each function of the signal processing device 4 is realized by hardware or software. That is, each block diagram in this specification may be considered as a hardware block diagram or a software functional block diagram.
[0047]
In the signal processing device 4 having the configuration shown in FIG. 3, image data which is an example of the data 3 is input, and data continuity is detected from the input image data (input image). Next, the signal of the real world 1 acquired by the sensor 2 is estimated from the continuity of the detected data. Then, an image is generated based on the estimated real world 1 signal, and the generated image (output image) is output. That is, FIG. 3 is a diagram illustrating a configuration of the signal processing device 4 that is an image processing device.
[0048]
An input image (image data which is an example of data 3) input to the signal processing device 4 is supplied to the data continuity detection unit 101 and the real world estimation unit 102.
[0049]
The data continuity detection unit 101 detects data continuity from the input image, and supplies data continuity information indicating the detected continuity to the real world estimation unit 102 and the image generation unit 103. The data continuity information is, for example, the position of the pixel region having data continuity, the direction of the pixel region having data continuity (angle or inclination in the time direction and the spatial direction), or the data This includes the length of a pixel region having continuity. Details of the configuration of the data continuity detecting unit 101 will be described later.
[0050]
The real world estimation unit 102 estimates the signal of the real world 1 based on the input image and the data continuity information supplied from the data continuity detection unit 101. That is, the real world estimation unit 102 estimates an image that is a real world signal that is incident on the sensor 2 when an input image is acquired. The real world estimation unit 102 supplies real image estimation information indicating the estimation result of the real world 1 signal to the image generation unit 103. Details of the configuration of the real world estimation unit 102 will be described later.
[0051]
The image generation unit 103 generates and generates a signal approximated to the real world 1 signal based on the real world estimation information indicating the estimated real world 1 signal supplied from the real world estimation unit 102. Output a signal. Alternatively, the image generation unit 103 is based on the data continuity information supplied from the data continuity detection unit 101 and the real world estimation information indicating the estimated real world 1 signal supplied from the real world estimation unit 102. Then, a signal approximated by the signal of the real world 1 is generated, and the generated signal is output.
[0052]
That is, the image generation unit 103 generates an image approximated to the image of the real world 1 based on the real world estimation information, and outputs the generated image as an output image. Alternatively, the image generation unit 103 generates an image approximated to the image of the real world 1 based on the data continuity information and the real world estimation information, and outputs the generated image as an output image.
[0053]
For example, the image generation unit 103 integrates the estimated real world 1 image in a desired spatial direction or time range based on the real world estimation information, thereby comparing the spatial direction or A high-resolution image is generated in the time direction, and the generated image is output as an output image. For example, the image generation unit 103 generates an image by extrapolation and outputs the generated image as an output image.
[0054]
Details of the configuration of the image generation unit 103 will be described later.
[0055]
Next, the principle of the present invention will be described with reference to FIGS.
[0056]
FIG. 4 is a diagram for explaining the principle of processing in the conventional signal processing apparatus 121. The conventional signal processing device 121 uses the data 3 as a reference for processing, and executes processing such as high resolution using the data 3 as a processing target. In the conventional signal processing device 121, the real world 1 is not considered, and the data 3 becomes the final reference, and information more than the information included in the data 3 cannot be obtained as an output.
[0057]
In addition, in the conventional signal processing device 121, distortion caused by the sensor 2 (difference between the signal that is information of the real world 1 and the data 3) existing in the data 3 is not considered at all. A signal that includes distortion is output. Furthermore, depending on the processing contents of the signal processing device 121, the distortion caused by the sensor 2 existing in the data 3 is further amplified, and data including the amplified distortion is output.
[0058]
As described above, in the conventional signal processing, the real world 1 (the signal) itself from which the data 3 is acquired is not considered. In other words, in the conventional signal processing, since the real world 1 was captured within the frame of information included in the data 3, the limit of signal processing is determined by the information and distortion included in the data 3 Is done.
[0059]
On the other hand, in the signal processing of the present invention, the processing is executed in consideration of the real world 1 (its signal) itself.
[0060]
FIG. 5 is a diagram for explaining the principle of processing in the signal processing device 4 according to the present invention.
[0061]
The sensor 2 acquires a signal that is information indicating an event in the real world 1, and the sensor 2 outputs data 3 that is a projection of the signal that is information in the real world 1.
[0062]
However, in the present invention, a signal which is information obtained by the sensor 2 and which indicates an event in the real world 1 is clearly considered. That is, signal processing is performed in consideration that the data 3 includes distortion caused by the sensor 2 (difference between the signal that is information of the real world 1 and the data 3).
[0063]
By doing in this way, in the signal processing of the present invention, the processing result is not limited by the information and distortion included in the data 3, and for example, compared with the conventional case, the event of the real world 1 On the other hand, a more accurate and more accurate processing result can be obtained. That is, according to the present invention, it is possible to obtain a processing result that is more accurate and more accurate with respect to a signal that is input to the sensor 2 and is information indicating an event in the real world 1.
[0064]
6 and 7 are diagrams for more specifically explaining the principle of the present invention.
[0065]
As shown in FIG. 6, for example, a CCD (Charge Coupled Device), which is an example of the sensor 2, is obtained by an optical system 141 including a lens or an optical LPF (Low Pass Filter). ). Since the CCD as an example of the sensor 2 has an integral characteristic, a difference from the image of the real world 1 is generated in the data 3 output from the CCD. Details of the integration characteristics of the sensor 2 will be described later.
[0066]
In the signal processing of the present invention, the relationship between the image of the real world 1 acquired by the CCD and the data 3 captured and output by the CCD is clearly considered. That is, the relationship between the data 3 and a signal that is real-world information acquired by the sensor 2 is clearly considered.
[0067]
More specifically, as shown in FIG. 7, the signal processing device 4 approximates (describes) the real world 1 using the model 161. The model 161 is expressed by N variables, for example. More precisely, the model 161 approximates (describes) the real world 1 signal.
[0068]
In order to predict the model 161, the signal processing device 4 extracts M pieces of data 162 from the data 3. When extracting the M pieces of data 162 from the data 3, the signal processing device 4 uses the continuity of the data included in the data 3. In other words, the signal processing device 4 extracts data 162 for predicting the model 161 based on the continuity of the data included in the data 3. As a result, the model 161 is constrained by data continuity.
[0069]
That is, the model 161 is information obtained from the real world 1 having a stationarity (a constant feature in a predetermined dimension direction) that causes the stationarity of data in the data 3 when acquired by the sensor 2 ( Approximate signal)).
[0070]
Here, if the number M of the data 162 is greater than or equal to the number N of model variables, the model 161 represented by N variables can be predicted from the M data 162.
[0071]
In this way, by predicting the model 161 that approximates (describes) the real world 1 (signal), the signal processing device 4 can consider the signal that is information of the real world 1.
[0072]
Next, the integration effect of the sensor 2 will be described.
[0073]
An image sensor such as a CCD or CMOS (Complementary Metal-Oxide Semiconductor) sensor, which is a sensor 2 that captures an image, projects a signal that is information of the real world onto two-dimensional data when imaging the real world. Each pixel of the image sensor has a predetermined area as a so-called light receiving surface (light receiving region). Light incident on the light receiving surface having a predetermined area is integrated for each pixel in the spatial direction and the time direction, and is converted into one pixel value for each pixel.
[0074]
The spatial and temporal integration of the image will be described with reference to FIGS.
[0075]
The image sensor captures an object (object) in the real world and outputs image data obtained as a result of imaging in units of one frame. That is, the image sensor acquires a signal of the real world 1 that is light reflected by an object of the real world 1 and outputs data 3.
[0076]
For example, the image sensor outputs image data consisting of 30 frames per second. In this case, the exposure time of the image sensor can be 1/30 second. The exposure time is a period from when the image sensor starts converting incident light to electric charge until the conversion of incident light to electric charge ends. Hereinafter, the exposure time is also referred to as shutter time.
[0077]
FIG. 8 is a diagram for explaining an example of the arrangement of pixels on the image sensor. In FIG. 8, A to I indicate individual pixels. The pixels are arranged on a plane corresponding to the image displayed by the image data. One detection element corresponding to one pixel is arranged on the image sensor. When the image sensor captures an image of the real world 1, one detection element outputs one pixel value corresponding to one pixel constituting the image data. For example, the position (X coordinate) in the spatial direction X of the detection element corresponds to the horizontal position on the image displayed by the image data, and the position (Y coordinate) in the spatial direction Y of the detection element depends on the image data. Corresponds to the vertical position on the displayed image.
[0078]
The distribution of the light intensity of the real world 1 has a spread in the three-dimensional spatial direction and the temporal direction, but the image sensor acquires the light of the real world 1 in the two-dimensional spatial direction and the temporal direction, and the two-dimensional The data 3 expressing the light intensity distribution in the spatial direction and the time direction is generated.
[0079]
As shown in FIG. 9, for example, the detection element that is a CCD converts light input to the light receiving surface (light receiving area) (detection area) into electric charge for a period corresponding to the shutter time, and converts the converted electric charge. Accumulate. Light is information (signal) in the real world 1 whose intensity is determined by the position in a three-dimensional space and time. The light intensity distribution in the real world 1 can be expressed by a function F (x, y, z, t) having positions x, y, and z in a three-dimensional space and time t as variables.
[0080]
The amount of electric charge accumulated in the detection element, which is a CCD, is approximately proportional to the intensity of light incident on the entire light receiving surface having a two-dimensional space spread and the time during which light is incident. In the period corresponding to the shutter time, the detection element adds the electric charge converted from the light incident on the entire light receiving surface to the already accumulated electric charge. That is, the detection element integrates the light incident on the entire light-receiving surface having a two-dimensional space spread for a period corresponding to the shutter time, and accumulates an amount of charge corresponding to the integrated light. It can be said that the detection element has an integration effect with respect to space (light receiving surface) and time (shutter time).
[0081]
The electric charge accumulated in the detection element is converted into a voltage value by a circuit (not shown), and the voltage value is further converted into a pixel value such as digital data and output as data 3. Accordingly, each pixel value output from the image sensor is obtained by taking a certain part of the real world 1 information (signal) having a temporal and spatial extent in the time direction of the shutter time and the spatial direction of the light receiving surface of the detection element. It has a value projected onto a one-dimensional space, which is the result of integration.
[0082]
That is, the pixel value of one pixel is represented by the integral of F (x, y, t). F (x, y, t) is a function representing the light intensity distribution on the light receiving surface of the detection element. For example, the pixel value P is represented by Expression (1).
[0083]
[Expression 1]

... (1)
[0084]
In equation (1), x₁Is the spatial coordinates (X coordinate) of the left boundary of the light receiving surface of the detection element. x₂Is the spatial coordinates (X coordinate) of the right boundary of the light receiving surface of the detection element. In equation (1), y₁Is a spatial coordinate (Y coordinate) of the upper boundary of the light receiving surface of the detection element. y₂Is a spatial coordinate (Y coordinate) of the lower boundary of the light receiving surface of the detection element. T₁Is the time at which the conversion of incident light into electric charge is started. t₂Is the time when the conversion of the incident light into the electric charge is completed.
[0085]
In practice, the gain of the pixel value of the image data output from the image sensor is corrected, for example, for the entire frame.
[0086]
Each pixel value of the image data is an integral value of light incident on the light receiving surface of each detection element of the image sensor. Of the light incident on the image sensor, the pixel value of the real world 1 is smaller than the light receiving surface of the detection element. The light waveform is hidden by the pixel value as the integral value.
[0087]
Hereinafter, in this specification, a waveform of a signal expressed with a predetermined dimension as a reference is also simply referred to as a waveform.
[0088]
In this way, since the image of the real world 1 is integrated in the spatial direction and the time direction in units of pixels, the image data lacks a part of the continuity of the image of the real world 1 and the real world. Only the other part of the stationarity of one image is included in the image data. Alternatively, the image data may include continuity that has changed from the continuity of the real world 1 image.
[0089]
The spatial integration effect of the image captured by the image sensor having the integration effect will be further described.
[0090]
FIG. 10 is a diagram for explaining the relationship between the light incident on the detection elements corresponding to the pixels D to F and the pixel value. F (x) in FIG. 10 is an example of a function representing the light intensity distribution in the real world 1 with the coordinate x in the spatial direction X in space (on the detection element) as a variable. In other words, F (x) is an example of a function that represents the distribution of light intensity in the real world 1 when it is constant in the spatial direction Y and the time direction. In FIG. 10, L indicates the length in the spatial direction X of the light receiving surface of the detection element corresponding to the pixel D to the pixel F.
[0091]
The pixel value of one pixel is represented by the integral of F (x). For example, the pixel value P of the pixel E is expressed by Expression (2).
[0092]
[Expression 2]

... (2)
[0093]
In equation (2), x₁Is the spatial coordinates in the spatial direction X of the left boundary of the light receiving surface of the detection element corresponding to the pixel E. x₂Are the spatial coordinates in the spatial direction X of the right boundary of the light receiving surface of the detection element corresponding to the pixel E.
[0094]
Similarly, the integration effect in the time direction of an image captured by an image sensor having an integration effect will be further described.
[0095]
FIG. 11 is a diagram illustrating the relationship between the passage of time, the light incident on the detection element corresponding to one pixel, and the pixel value. F (t) in FIG. 11 is a function representing the light intensity distribution in the real world 1 with the time t as a variable. In other words, F (t) is an example of a function that represents the light intensity distribution in the real world 1 when it is constant in the spatial direction Y and the spatial direction X. t_sIndicates the shutter time.
[0096]
Frame # n-1 is a frame temporally preceding frame #n, and frame # n + 1 is a frame temporally subsequent to frame #n. That is, frame # n-1, frame #n, and frame # n + 1 are displayed in the order of frame # n-1, frame #n, and frame # n + 1.
[0097]
In the example shown in FIG. 11, the shutter time t_sAnd the frame interval are the same.
[0098]
The pixel value of one pixel is represented by the integral of F (t). For example, the pixel value P of the pixel in frame #n is expressed by Expression (3).
[0099]
[Equation 3]

... (3)
[0100]
In equation (3), t₁Is the time at which the conversion of incident light into electric charge is started. t₂Is the time when the conversion of the incident light into the electric charge is completed.
[0101]
Hereinafter, the integration effect in the spatial direction by the sensor 2 is simply referred to as a spatial integration effect, and the integration effect in the time direction by the sensor 2 is simply referred to as a time integration effect. The space integration effect or the time integration effect is also simply referred to as an integration effect.
[0102]
Next, an example of the continuity of data included in the data 3 acquired by the image sensor having an integration effect will be described.
[0103]
  FIG. 12 is a diagram illustrating an image of a linear object (for example, a thin line) in the real world 1, that is, an example of light intensity distribution. In FIG. 12, in the figureUpwardThe position of indicates the light intensity (level),Upper rightIndicates the position of the spatial direction X, which is one direction of the spatial direction of the image,Right directionIndicates a position in the spatial direction Y, which is another direction in the spatial direction of the image.
[0104]
The image of the linear object in the real world 1 includes predetermined continuity. That is, the image shown in FIG. 12 has continuity that the cross-sectional shape (change in level with respect to change in position in the direction orthogonal to the length direction) is the same at an arbitrary position in the length direction.
[0105]
FIG. 13 is a diagram illustrating an example of pixel values of image data obtained by actual imaging corresponding to the image shown in FIG.
[0106]
FIG. 14 is a schematic diagram of the image data shown in FIG.
[0107]
The schematic diagram shown in FIG. 14 shows a linear object having a diameter shorter than the length L of the light receiving surface of each pixel extending in a direction deviated from the pixel arrangement (pixel vertical or horizontal arrangement) of the image sensor. It is a schematic diagram of the image data obtained by imaging an image with an image sensor. The image incident on the image sensor when the image data shown in FIG. 14 is acquired is an image of a linear object in the real world 1 in FIG.
[0108]
  In FIG.UpwardThe position of indicates the pixel value in the figureUpper rightIndicates the position of the spatial direction X, which is one direction of the spatial direction of the image,Right directionIndicates a position in the spatial direction Y, which is another direction in the spatial direction of the image. The direction indicating the pixel value in FIG. 14 corresponds to the direction of the level in FIG. 12, and the spatial direction X and the spatial direction Y in FIG. 14 are the same as the directions in FIG.
[0109]
When an image of a linear object having a diameter shorter than the length L of the light-receiving surface of each pixel is captured by an image sensor, in the image data obtained as a result of imaging, the linear object is typically, for example, It is represented by a plurality of arc shapes (kamaboko-shaped) having a predetermined length and arranged obliquely. Each arc shape is substantially the same shape. One arc shape is formed on one column of pixels vertically or on one column of pixels horizontally. For example, one arc shape in FIG. 14 is formed on one column of pixels vertically.
[0110]
Thus, for example, in the image data captured and acquired by the image sensor, the cross section in the spatial direction Y at any position in the length direction that the image of the linear object in the real world 1 had. The stationarity that the shape is the same is lost. In addition, the continuity of the image of the linear object in the real world 1 is an arc shape that is the same shape formed vertically on one column of pixels or horizontally on one column of pixels. It can be said that it has changed to the steadiness that is arranged at regular intervals.
[0111]
  FIG. 15 is a diagram showing an example of an image of the real world 1 of an object having a single color and a straight edge, that is, a color different from the background, that is, an example of light intensity distribution. In FIG. 15,UpwardThe position of indicates the light intensity (level),Upper rightIndicates the position of the spatial direction X, which is one direction of the spatial direction of the image,Right directionIndicates a position in the spatial direction Y, which is another direction in the spatial direction of the image.
[0112]
The real world 1 image of an object having a straight edge with a color different from the background includes a predetermined continuity. That is, the image shown in FIG. 15 has the continuity that the cross-sectional shape (change in level with respect to change in position in the direction orthogonal to the edge) is the same at an arbitrary position in the length direction of the edge.
[0113]
FIG. 16 is a diagram illustrating an example of pixel values of image data obtained by actual imaging corresponding to the image shown in FIG. As shown in FIG. 16, the image data is composed of pixel values in units of pixels, and thus has a staircase shape.
[0114]
FIG. 17 is a schematic diagram of the image data shown in FIG.
[0115]
The schematic diagram shown in FIG. 17 is a color different from the background that extends in a direction shifted from the pixel arrangement (vertical or horizontal arrangement of pixels) of the image sensor. It is a schematic diagram of the image data obtained by imaging the image of the real world 1 of the possessed object with an image sensor. The image that is incident on the image sensor when the image data shown in FIG. 17 is acquired is a color different from the background shown in FIG. 1 image.
[0116]
  In FIG.UpwardThe position of indicates the pixel value in the figureUpper rightIndicates the position of the spatial direction X, which is one direction of the spatial direction of the image,Right directionIndicates a position in the spatial direction Y, which is another direction in the spatial direction of the image. The direction indicating the pixel value in FIG. 17 corresponds to the level direction in FIG. 15, and the spatial direction X and the spatial direction Y in FIG. 17 are the same as the directions in FIG.
[0117]
When an image of the real world 1 that is a color different from the background and has a single color and a straight edge is imaged by an image sensor, the straight edge is schematically shown in the image data obtained as a result of the imaging. Thus, for example, it is represented by a plurality of pawl shapes having a predetermined length arranged obliquely. Each pawl shape is substantially the same shape. One pawl shape is formed on one column of pixels vertically or on one column of pixels horizontally. For example, in FIG. 17, one pawl shape is formed on one column of pixels vertically.
[0118]
Thus, for example, in the image data obtained by being imaged by the image sensor, the real world 1 image having a single color and a straight edge has a color different from the background. The stationarity that the cross-sectional shape is the same at any position in the length direction of the edge is lost. In addition, the continuity of the real world 1 image of a single color, straight-lined object, which is different from the background, is one column vertically or one column horizontally. It can be said that the pawl shape, which is the same shape and formed on the pixels, is changed to a continuity that is arranged at regular intervals.
[0119]
The data continuity detecting unit 101 detects such data continuity of the data 3 that is the input image, for example. For example, the data continuity detecting unit 101 detects data continuity by detecting a region having a certain feature in a predetermined dimension direction. For example, the data continuity detecting unit 101 detects a region where the same circular arc shape shown in FIG. 14 is arranged at regular intervals. In addition, for example, the data continuity detecting unit 101 detects a region where the same pawl shape is arranged at regular intervals as shown in FIG.
[0120]
In addition, the data continuity detecting unit 101 detects data continuity by detecting an angle (inclination) in the spatial direction that indicates the arrangement of similar shapes.
[0121]
Further, for example, the data continuity detecting unit 101 detects data continuity by detecting an angle (motion) in the spatial direction and the temporal direction, which indicates how the same shape is arranged in the spatial direction and the temporal direction.
[0122]
Further, for example, the data continuity detecting unit 101 detects data continuity by detecting the length of a region having a certain feature in a predetermined dimension direction.
[0123]
Hereinafter, a portion of data 3 in which an image of the real world 1 of an object having a single color and a straight edge that is different from the background is projected by the sensor 2 is also referred to as a binary edge.
[0124]
Next, the principle of the present invention will be described more specifically.
[0125]
As shown in FIG. 18, in the conventional signal processing, for example, desired high resolution data 181 is generated from the data 3.
[0126]
  On the other hand, in the signal processing according to the present invention, the real world 1 is estimated from the data 3, and the high resolution data 181 is generated based on the estimation result. That is, as shown in FIG. 19, the real world 1 is estimated from the data 3, and the high resolution data 181 is calculated from the estimated real world 1 in consideration of the data 3.Generated.
[0127]
In order to generate the high resolution data 181 from the real world 1, it is necessary to consider the relationship between the real world 1 and the data 3. For example, what happens when the real world 1 is projected onto the data 3 by the sensor 2 which is a CCD is considered.
[0128]
The sensor 2 which is a CCD has an integral characteristic as described above. That is, one unit (for example, pixel value) of the data 3 can be calculated by integrating the signal of the real world 1 in the detection region (for example, light receiving surface) of the detection element (for example, CCD) of the sensor 2. it can.
[0129]
When this is applied to the high-resolution data 181, a process in which a virtual high-resolution sensor projects the signal of the real world 1 onto the data 3 is applied to the estimated real world 1 to obtain the high-resolution data 181. be able to.
[0130]
In other words, as shown in FIG. 20, if the signal of the real world 1 can be estimated from the data 3, the signal of the real world 1 is determined for each detection region of the detection element of the virtual high-resolution sensor (in the spatio-temporal direction). In this case, one value included in the high resolution data 181 can be obtained.
[0131]
For example, when the change in the signal of the real world 1 is smaller than the size of the detection area of the detection element of the sensor 2, the data 3 cannot represent a small change in the signal of the real world 1. Therefore, the signal of the real world 1 estimated from the data 3 is smaller than the change of the signal of the real world 1 by integrating every smaller region (in the space-time direction), thereby reducing the signal of the real world 1 High-resolution data 181 indicating a change can be obtained.
[0132]
That is, high resolution data 181 can be obtained by integrating the estimated real world 1 signal in the detection region for each detection element of the virtual high resolution sensor.
[0133]
In the present invention, for example, the image generation unit 103 integrates the estimated real world 1 signal in the spatio-temporal region of each detection element of the virtual high-resolution sensor, thereby obtaining the high-resolution data 181. Generate.
[0134]
Next, in order to estimate the real world 1 from the data 3, the relationship between the data 3 and the real world 1, continuity, and spatial mixing in the data 3 are used in the present invention.
[0135]
Here, mixing means that in data 3, signals for two objects in the real world 1 are mixed to become one value.
[0136]
Spatial mixing refers to mixing in the spatial direction of signals for two objects due to the spatial integration effect of the sensor 2.
[0137]
The real world 1 itself is composed of an infinite number of events. Therefore, in order to express the real world 1 itself by, for example, a mathematical expression, an infinite number of variables are required. From data 3, not all events in the real world 1 can be predicted.
[0138]
Similarly, it is not possible to predict all the signals of the real world 1 from the data 3.
[0139]
Therefore, as shown in FIG. 21, in the present invention, attention is paid to a portion of the real world 1 signal that is stationary and can be expressed by a function f (x, y, z, t). The portion of the real world 1 signal having continuity, which can be expressed by the function f (x, y, z, t), is approximated by a model 161 expressed by N variables. Then, as shown in FIG. 22, the model 161 is predicted from the M pieces of data 162 in the data 3.
[0140]
In order to enable prediction of the model 161 from the M pieces of data 162, first, the model 161 is represented by N variables based on the stationarity, and secondly, based on the integral characteristic of the sensor 2. Therefore, it is necessary to establish an equation using N variables indicating the relationship between the model 161 expressed by N variables and the M data 162. Since the model 161 is represented by N variables based on the stationarity, N variables indicating the relationship between the model 161 represented by the N variables and the M data 162 were used. It can be said that the equation describes the relationship between the real world 1 signal portion having continuity and the data 3 portion having data continuity.
[0141]
In other words, the portion of the real world 1 signal having continuity, which is approximated by the model 161 expressed by N variables, causes data continuity in the data 3.
[0142]
The data continuity detecting unit 101 detects the characteristics of the data 3 portion where data continuity has occurred and the characteristics of the portion where data continuity has occurred, based on the real world 1 signal portion having continuity.
[0143]
For example, as shown in FIG. 23, in the real world 1 image of a single-color, straight-line object that is different from the background, the edge at the position of interest shown by A in FIG. 23 is , Have a slope. The arrow B in FIG. 23 indicates the edge inclination. The inclination of the predetermined edge can be expressed by an angle with respect to a reference axis or a direction with respect to a reference position. For example, the inclination of the predetermined edge can be represented by an angle between the coordinate axis in the spatial direction X and the edge. For example, the inclination of the predetermined edge can be represented by the direction indicated by the length in the spatial direction X and the length in the spatial direction Y.
[0144]
When an image of the real world 1 that is a color different from the background and has a single-colored straight edge is acquired by the sensor 2 and the data 3 is output, In FIG. 23, B ′ in FIG. 23 corresponds to the inclination of the edge of the image of the real world 1 in which the pawl shape corresponding to the edge is arranged at the position indicated by A ′ in FIG. 23 with respect to the position (A) at which the edge is noticed. A claw shape corresponding to the edge is arranged in the direction of inclination indicated by.
[0145]
The model 161 expressed by N variables approximates the portion of one signal in the real world that causes data continuity in the data 3 as described above.
[0146]
When formulating using N variables, which shows the relationship between the model 161 expressed by N variables and the M data 162, the value of the portion where the continuity of the data occurs in the data 3 Use.
[0147]
In this case, in the data 3 shown in FIG. 24, data continuity occurs, and the detection element of the sensor 2 outputs a value obtained by integrating the signal of the real world 1 while paying attention to the value belonging to the mixed region. The formula is established as equal to the value. For example, a plurality of formulas can be established for a plurality of values in data 3 in which data continuity occurs.
[0148]
In FIG. 24, A indicates the position at which the edge is noticed, and A ′ indicates the pixel (position) with respect to the position at which the edge is noticed (A) in the real world 1 image.
[0149]
Here, the mixed region refers to a data region in the data 3 in which signals for two objects in the real world 1 are mixed and become one value. For example, in the data 3 for a real-world 1 image of an object having a straight edge that is a color different from the background, the image for the object having a straight edge and the image for the background are integrated. Pixel values that belong to the mixed area.
[0150]
FIG. 25 is a diagram for explaining the signals belonging to the two objects in the real world 1 and the values belonging to the mixed region in the case of formulating.
[0151]
The left side in FIG. 25 shows real world 1 signals for two objects in the real world 1 having a predetermined spread in the spatial direction X and the spatial direction Y, which are obtained in the detection region of one detection element of the sensor 2. Show. The right side in FIG. 25 shows the pixel value P of one pixel of data 3 in which the signal of the real world 1 shown on the left side in FIG. 25 is projected by one detection element of the sensor 2. That is, 1 of the data 3 obtained by projecting signals of the real world 1 for two objects in the real world 1 having a predetermined spread in the spatial direction X and the spatial direction Y obtained by one detection element of the sensor 2. The pixel value P of one pixel is shown.
[0152]
L in FIG. 25 indicates the level of the signal in the real world 1 in the white part in FIG. 25 for one object in the real world 1. R in FIG. 25 indicates the level of the signal in the real world 1 in the part represented by the oblique line in FIG. 25 with respect to another object in the real world 1.
[0153]
Here, the mixture ratio α indicates a ratio of signals (areas) of two objects incident on a detection region having a predetermined spread in the spatial direction X and the spatial direction Y of one detection element of the sensor 2. . For example, the mixture ratio α is incident on the detection region of one detection element of the sensor 2 having a predetermined spread in the spatial direction X and the spatial direction Y with respect to the area of the detection region of one detection element of the sensor 2. The ratio of the area of the level L signal is shown.
[0154]
In this case, the relationship between the level L, the level R, and the pixel value P can be expressed by Expression (4).
[0155]
α × L + (1−α) × R = P (4)
[0156]
The level R may be the pixel value of the pixel of data 3 located on the right side of the pixel of interest, and the level L is located on the left side of the pixel of interest. In some cases, the pixel value of data 3 can be used.
[0157]
In addition, the mixing ratio α and the mixing region can take into account the time direction as well as the spatial direction. For example, when an object in the real world 1 to be imaged is moving with respect to the sensor 2, the ratio of signals to the two objects that are incident on the detection region of one detection element of the sensor 2 in the time direction. Will change. Signals for two objects whose ratios change in the time direction and entered the detection area of one detection element of the sensor 2 are projected onto one value of the data 3 by the detection element of the sensor 2.
[0158]
Mixing in the time direction of signals for two objects due to the time integration effect of the sensor 2 is referred to as time mixing.
[0159]
The data continuity detecting unit 101 detects, for example, a pixel region in the data 3 in which signals of the real world 1 are projected onto two objects in the real world 1. For example, the data continuity detecting unit 101 detects an inclination in the data 3 corresponding to the inclination of the edge of the image of the real world 1.
[0160]
Then, the real world estimation unit 102 is, for example, a model expressed by N variables based on the pixel region having a predetermined mixture ratio α and the gradient of the region detected by the data continuity detection unit 101. The signal of the real world 1 is estimated by setting up an equation using N variables indicating the relationship between 161 and M pieces of data 162 and solving the established equation.
[0161]
Further, specific estimation of the real world 1 will be described.
[0162]
Of the real-world signal represented by the function F (x, y, z, t), the real-world signal represented by the function F (x, y, t) in the cross-section (position of the sensor 2) in the spatial direction Z Consider approximating a signal with a position x in the spatial direction X, a position y in the spatial direction Y, and an approximate function f (x, y, t) determined by time t.
[0163]
Here, the detection region of the sensor 2 has a spread in the spatial direction X and the spatial direction Y. In other words, the approximate function f (x, y, t) is a function that approximates the signal of the real world 1 that is acquired by the sensor 2 and has a spread in the spatial direction and the time direction.
[0164]
It is assumed that the value P (x, y, t) of the data 3 is obtained by projecting the signal of the real world 1 by the sensor 2. The value P (x, y, t) of the data 3 is a pixel value output from the sensor 2 that is an image sensor, for example.
[0165]
Here, when the projection by the sensor 2 can be formulated, the value obtained by projecting the approximate function f (x, y, t) can be expressed as the projection function S (x, y, t).
[0166]
In obtaining the projection function S (x, y, t), there are the following problems.
[0167]
First, in general, a function F (x, y, z, t) representing a real world 1 signal can be an infinite order function.
[0168]
Second, even if a real-world signal can be described as a function, it is generally not possible to determine the projection function S (x, y, t) via the projection of the sensor 2. That is, the projection function S (x, y, t) cannot be determined because the projection operation by the sensor 2, in other words, the relationship between the input signal and the output signal of the sensor 2 is not known.
[0169]
For the first problem, a function f that is a function (for example, a function of a finite degree) that can describe a function f (x, y, t) that approximates a signal of the real world 1_i(X, y, t) and variable w_iConsider expressing the product sum of.
[0170]
Also, by formulating the projection by the sensor 2 for the second problem, the function f_iFrom the description of (x, y, t), the function S_i(X, y, t) can be described.
[0171]
That is, the function f (x, y, t) that approximates the signal of the real world 1_i(X, y, t) and variable w_iExpression (5) is obtained by expressing the product sum.
[0172]
[Expression 4]

... (5)
[0173]
For example, as shown in Expression (6), by formulating the projection of the sensor 2, the relationship between the data 3 and the real world signal is formulated as Expression (7) from Expression (5). Can do.
[0174]
[Equation 5]

... (6)
[0175]
[Formula 6]

... (7)
In Expression (7), j is an index of data.
[0176]
N variables w in equation (7)_iIf there are M data groups (j = 1 to M) where (i = 1 to N) are common, the equation (8) is satisfied, and the real world model 161 can be obtained from the data 3.
[0177]
N ≦ M (8)
N is the number of variables representing the model 161 that approximates the real world 1. M is the number of data 162 included in the data 3.
[0178]
By expressing the function f (x, y, t) approximating the signal of the real world 1 by the equation (5), w_iAs a variable part can be made independent. At this time, i indicates the number of variables as it is. And f_iCan be made independent of the shape of the function_iAs a result, a desired function can be used.
[0179]
Therefore, the function f_iVariable w_iThe number N can be defined and the variable w_iThe variable w in relation to the number N of data and the number M of data_iCan be requested.
[0180]
That is, the real world 1 can be estimated from the data 3 by using the following three.
[0181]
First, N variables are defined, that is, formula (5) is defined. This is made possible by describing the real world 1 using stationarity. For example, a signal of the real world 1 can be described by a model 161 in which a cross section is represented by a polynomial and the same cross-sectional shape continues in a certain direction.
[0182]
  Secondly, for example, the projection by the sensor 2 is formulated, and Expression (7) is described. For example, the real world1It is formulated that the result of the integration of the signal is data 3.
[0183]
Third, M pieces of data 162 are collected to satisfy equation (8). For example, data 162 is collected from areas having data continuity detected by the data continuity detecting unit 101. For example, data 162 of an area where a certain cross section continues, which is an example of stationarity, is collected.
[0184]
Thus, by describing the relationship between the data 3 and the real world 1 by the equation (5) and collecting the M pieces of data 162, the real world 1 can be estimated by satisfying the equation (8). it can.
[0185]
More specifically, when N = M, since the number N of variables is equal to the number M of equations, the variable w_iCan be requested.
[0186]
Various solutions can be applied when N <M. For example, the variable w_iCan be requested.
[0187]
Here, the solution by the least square method will be described in detail.
[0188]
First, equation (9) for predicting data 3 from the real world 1 according to equation (7) is shown.
[0189]
[Expression 7]

... (9)
[0190]
In the formula (9), P ′_j(X_j, y_j,t_j) Is a predicted value.
[0191]
The sum of squared differences E between the predicted value P ′ and the measured value P is expressed by Expression (10).
[0192]
[Equation 8]

(10)
[0193]
The variable w so that the sum of squared differences E is minimized_iIs required. Therefore, each variable w_kThe partial differential value of the equation (10) according to Eq. That is, Expression (11) is established.
[0194]
[Equation 9]

(11)
[0195]
Expression (12) is derived from Expression (11).
[0196]
[Expression 10]

(12)
[0197]
When Equation (12) is satisfied with K = 1 to N, a solution by the method of least squares is obtained. The normal equation at this time is represented by Expression (13).
[0198]
[Expression 11]

... (13)
However, in equation (13), S_i(X_j, y_j, t_j) S_i(j) was described.
[0199]
[Expression 12]

(14)
[0200]
[Formula 13]

... (15)
[0201]
[Expression 14]

... (16)
[0202]
From equations (14) through (16), equation (13)_MATW_MAT= P_MATIt can be expressed as.
[0203]
In equation (13), S_iRepresents the projection of the real world 1. In equation (13), P_jRepresents data 3. In formula (13), w_iIs a variable that describes and determines the characteristics of the signal of the real world 1.
[0204]
Therefore, data 3 is input to equation (13), and W_MATCan be used to estimate the real world 1. That is, the real world 1 can be estimated by calculating Expression (17).
[0205]
W_MAT= S_MAT ^-1P_MAT                                  ... (17)
[0206]
S_MATS is not regular, S_MATUsing the transpose of_MATCan be requested.
[0207]
For example, the real world estimation unit 102 inputs the data 3 into the equation (13), and performs W_MATIs used to estimate the real world 1.
[0208]
Here, an even more specific example will be described. For example, the cross-sectional shape of the signal of the real world 1, that is, the level change with respect to the position change is described by a polynomial. Assume that the cross-sectional shape of the signal of the real world 1 is constant and the cross-section of the signal of the real world 1 moves at a constant speed. The projection of the real world 1 signal to the data 3 by the sensor 2 is formulated by integration in three dimensions in the space-time direction of the real world 1 signal.
[0209]
From the assumption that the cross-sectional shape of the signal of the real world 1 moves at a constant speed, Equations (18) and (19) are obtained.
[0210]
[Expression 15]

... (18)
[0211]
[Expression 16]

... (19)
Where v_xAnd v_yIs constant.
[0212]
The cross-sectional shape of the signal of the real world 1 is expressed as Expression (20) by using Expression (18) and Expression (19).
[0213]
f (x ', y') = f (x + v_xt, y + v_yt) (20)
[0214]
When the projection of the real world 1 signal to the data 3 by the sensor 2 is formulated by integration in the three-dimensional space-time direction of the real world 1 signal, formula (21) is obtained.
[0215]
[Expression 17]

... (21)
[0216]
In equation (21), S (x, y, t) is a position x with respect to the spatial direction X._sFrom position x_eUntil the position y with respect to the spatial direction Y_sFrom position y_eUntil time t for time direction t_sTo time t_eThe integrated value of the region up to, that is, the region represented by a space-time cuboid.
[0217]
By solving Equation (13) using a desired function f (x ′, y ′) that can define Equation (21), the signal of the real world 1 can be estimated.
[0218]
Hereinafter, as an example of the function f (x ′, y ′), the function represented by the equation (22) is used.
[0219]
f (x ', y') = w₁x '+ w₂y '+ w_Three
= w₁(x + v_xt) + w₂(y + v_yt) + w_Three          (22)
[0220]
That is, it is assumed that the signal of the real world 1 includes the stationarity expressed by the equations (18), (19), and (22). This indicates that the cross section of a certain shape is moving in the spatio-temporal direction as shown in FIG.
[0221]
By substituting equation (22) into equation (21), equation (23) is obtained.
[0222]
[Expression 18]

(23)
However,
Volume = (x_e-x_s) (y_e-y_s)(t_e-t_s)
S₀(x, y, t) = Volume / 2 × (x_e+ x_s+ v_x(t_e+ t_s))
S₁(x, y, t) = Volume / 2 × (y_e+ y_s+ v_y(t_e+ t_s))
S₂(x, y, t) = 1
It is.
[0223]
FIG. 27 is a diagram illustrating an example of M pieces of data 162 extracted from the data 3. For example, 27 pixel values are extracted as data 162, and the extracted pixel values are P_j(x, y, t). In this case, j is 0 to 26.
[0224]
In the example shown in FIG. 27, the pixel value of the pixel corresponding to the position of interest at time t, which is n, is P.₁₃(x, y, t) and the direction in which the pixel values of the pixels having data continuity are arranged (for example, the direction in which the pawl shapes having the same shape detected by the data continuity detecting unit 101 are arranged) are P_Four(x, y, t), P₁₃(x, y, t) and P_{twenty two}The pixel value P at time t, which is n, in the direction connecting (x, y, t)₉(x, y, t) to P₁₇(x, y, t), pixel value P at time t which is n−1, which is temporally before n₀(x, y, t) to P₈(x, y, t), and pixel value P at time t, which is n + 1, later in time than n₁₈(x, y, t) to P₂₆(x, y, t) is extracted.
[0225]
Here, the region from which the pixel value which is the data 3 and is output from the image sensor which is the sensor 2 has a spread in the time direction and the two-dimensional spatial direction as shown in FIG. Therefore, for example, as shown in FIG. 29, the center of gravity of the rectangular parallelepiped (the region where the pixel value is acquired) corresponding to the pixel can be used as the position of the pixel in the spatio-temporal direction. The circle in FIG. 29 indicates the center of gravity.
[0226]
27 pixel values P₀(x, y, t) to P₂₆It is possible to estimate the real world 1 by generating Expression (13) from (x, y, t) and Expression (23) and obtaining W.
[0227]
Thus, the real world estimation unit 102, for example, has 27 pixel values P₀(x, y, t) to P₂₆From (x, y, t) and Expression (23), Expression (13) is generated and W is obtained to estimate the signal of the real world 1.
[0228]
The function f_iAs (x, y, t), a Gaussian function or a sigmoid function can be used.
[0229]
With reference to FIGS. 30 to 34, an example of processing for generating higher-resolution high-resolution data 181 corresponding to data 3 from the estimated real-world 1 signal will be described.
[0230]
As shown in FIG. 30, the data 3 has a value obtained by integrating the signal of the real world 1 in the time direction and the two-dimensional spatial direction. For example, the pixel value of data 3 output from the image sensor of sensor 2 is the light incident on the detection element, and the signal of the real world 1 is integrated in the time direction with the shutter time being the detection time. And has a value integrated in the light receiving area of the detection element in the spatial direction.
[0231]
On the other hand, as shown in FIG. 31, the high resolution data 181 having a higher resolution in the spatial direction has the estimated real world 1 signal as the detection time of the sensor 2 that output the data 3 in the time direction. It is generated by integrating in the same time and integrating in a narrower area in the spatial direction than the light receiving area of the detection element of the sensor 2 that has output the data 3.
[0232]
When the high-resolution data 181 having higher resolution in the spatial direction is generated, the region where the estimated real world 1 signal is integrated is completely independent of the light-receiving region of the detection element of the sensor 2 that has output the data 3. Can be set. For example, the high-resolution data 181 is given an integer multiple resolution in the spatial direction with respect to the data 3, and of course, the data 3 has a rational multiple resolution in the spatial direction, such as 5/3 times. be able to.
[0233]
Further, as shown in FIG. 32, the high-resolution data 181 with higher resolution in the time direction is the estimated signal of the real world 1 in the spatial direction and the light receiving area of the detection element of the sensor 2 that has output the data 3. It is generated by integrating in the same region and integrating in a shorter time compared to the detection time of the sensor 2 that output the data 3 in the time direction.
[0234]
Note that when the high-resolution data 181 with higher resolution in the time direction is generated, the time for which the estimated signal of the real world 1 is integrated is completely independent of the shutter time of the detection element of the sensor 2 that has output the data 3. Can be set. For example, the high-resolution data 181 is given a resolution that is an integer multiple of the data 3 in the time direction, as well as a rational multiple of the resolution of the data 3 in the time direction, such as 7/4 times. be able to.
[0235]
As shown in FIG. 33, the high-resolution data 181 from which motion blur is removed is generated by integrating the estimated signal of the real world 1 only in the spatial direction without integrating in the time direction.
[0236]
Further, as shown in FIG. 34, the high-resolution data 181 having higher resolution in the time direction and the spatial direction is obtained by detecting the estimated signal of the real world 1 from the detection element of the sensor 2 that has output the data 3 in the spatial direction. It is generated by integrating in a narrower region than in the light receiving region, and integrating in a shorter time compared to the detection time of the sensor 2 that output the data 3 in the time direction.
[0237]
In this case, the region and time in which the estimated signal of the real world 1 is integrated can be set completely independent of the light receiving region and the shutter time of the detection element of the sensor 2 that has output the data 3.
[0238]
In this way, the image generation unit 103 generates higher-resolution data in the time direction or the spatial direction, for example, by integrating the estimated signal of the real world 1 in a desired space-time region.
[0239]
As described above, by estimating the real world 1 signal, it is possible to generate data with higher resolution in the time direction or the spatial direction, which is more accurate with respect to the real world 1 signal.
[0240]
An example of an input image and an example of a processing result of the signal processing device 4 according to the present invention are shown with reference to FIGS.
[0241]
FIG. 35 is a diagram illustrating an original image of the input image. FIG. 36 is a diagram illustrating an example of an input image. The input image shown in FIG. 36 is an image generated by using the average value of the pixel values belonging to the block composed of 2 × 2 pixels of the image shown in FIG. 35 as the pixel value of one pixel. That is, the input image is an image obtained by applying spatial integration that imitates the integration characteristics of the sensor to the image shown in FIG.
[0242]
The original image shown in FIG. 35 includes a thin line image that is tilted approximately 5 degrees clockwise from the vertical direction. Similarly, the input image shown in FIG. 36 includes a fine line image inclined approximately 5 degrees clockwise from the vertical direction.
[0243]
FIG. 37 is a diagram showing an image obtained by applying the conventional class classification adaptation process to the input image shown in FIG. Here, the class classification adaptation process includes a class classification process and an adaptation process. The class classification process classifies data based on its property and performs an adaptation process for each class. In the adaptive processing, for example, a low-quality image or a standard-quality image is mapped (mapped) using a predetermined tap coefficient to be converted into a high-quality image.
[0244]
In the image shown in FIG. 37, it can be seen that the fine line image is different from the original image in FIG.
[0245]
FIG. 38 is a diagram illustrating a result of detecting a thin line region from the input image illustrated in the example of FIG. 36 by the data continuity detecting unit 101. In FIG. 38, a white area | region shows the area | region where the circular arc shape shown in FIG.
[0246]
FIG. 39 is a diagram showing an example of an output image output from the signal processing device 4 according to the present invention using the image shown in FIG. 36 as an input image. As shown in FIG. 39, according to the signal processing device 4 of the present invention, an image closer to the fine line image of the original image shown in FIG. 35 can be obtained.
[0247]
FIG. 40 is a flowchart for explaining signal processing by the signal processing device 4 according to the present invention.
[0248]
In step S101, the data continuity detecting unit 101 executes a process for detecting continuity. The data continuity detection unit 101 detects the continuity of data included in the input image that is the data 3, and provides data continuity information indicating the continuity of the detected data as the real world estimation unit 102 and the image generation unit. 103.
[0249]
The data continuity detecting unit 101 detects the continuity of data corresponding to the continuity of signals in the real world. In the processing of step S101, the data continuity detected by the data continuity detecting unit 101 is part of the continuity of the real world 1 image included in the data 3, or the real world 1 signal. The stationarity has changed from the stationarity of.
[0250]
For example, the data continuity detecting unit 101 detects data continuity by detecting a region having a certain feature in a predetermined dimension direction. In addition, for example, the data continuity detecting unit 101 detects data continuity by detecting an angle (inclination) in the spatial direction that indicates a similar arrangement of shapes.
[0251]
Details of the continuity detection process in step S101 will be described later.
[0252]
The data continuity information can be used as a feature amount indicating the feature of the data 3.
[0253]
In step S102, the real world estimation unit 102 executes real world estimation processing. That is, the real world estimation unit 102 estimates the signal of the real world 1 based on the input image and the data continuity information supplied from the data continuity detection unit 101. For example, in the process of step S <b> 102, the real world estimation unit 102 estimates a signal of the real world 1 by predicting a model 161 that approximates (describes) the real world 1. The real world estimation unit 102 supplies real image estimation information indicating the estimated real world 1 signal to the image generation unit 103.
[0254]
For example, the real world estimation unit 102 estimates the signal of the real world 1 by predicting the width of the linear object. For example, the real world estimation unit 102 estimates the signal of the real world 1 by predicting the level indicating the color of the linear object.
[0255]
Details of the real world estimation process in step S102 will be described later.
[0256]
The real world estimation information can be used as a feature amount indicating the feature of the data 3.
[0257]
In step S103, the image generation unit 103 executes an image generation process, and the process ends. That is, the image generation unit 103 generates an image based on the real world estimation information, and outputs the generated image. Alternatively, the image generation unit 103 generates an image based on the data continuity information and the real world estimation information, and outputs the generated image.
[0258]
For example, in the process of step S103, the image generation unit 103 integrates the estimated real-world light in the spatial direction based on the real-world estimation information, thereby increasing the resolution in the spatial direction compared to the input image. The image is generated and the generated image is output. For example, the image generation unit 103 integrates the estimated real-world light in the spatio-temporal direction based on the real-world estimation information, so that a higher-resolution image in the temporal direction and the spatial direction than the input image. And output the generated image. Details of the image generation processing in step S103 will be described later.
[0259]
As described above, the signal processing device 4 according to the present invention detects data continuity from the data 3 and estimates the real world 1 based on the detected data continuity. Then, the signal processing device 4 generates a signal that is more approximate to the real world 1 based on the estimated real world 1.
[0260]
As described above, when processing is performed by estimating a real-world signal, an accurate and highly accurate processing result can be obtained.
[0261]
In addition, the first signal, which is a real-world signal having the first dimension, is projected, and the second of the second dimension is smaller than the first dimension in which a part of the continuity of the real-world signal is missing. The first of the signals is detected by detecting the stationarity of the data corresponding to the stationarity of the missing real-world signal and estimating the stationarity of the missing real-world signal based on the detected stationarity of the data. In this case, it is possible to obtain a processing result that is more accurate and more accurate with respect to a real-world event.
[0262]
Next, details of the configuration of the data continuity detecting unit 101 will be described.
[0263]
FIG. 41 is a block diagram showing a configuration of the data continuity detecting unit 101. As shown in FIG.
[0264]
The data continuity detecting unit 101 having the configuration shown in FIG. 41 captures the continuity of the data included in the data 3 resulting from the continuity that the cross-sectional shape of the object is the same when the object that is a thin line is imaged. Is detected. That is, the data continuity detecting unit 101 having the configuration shown in FIG. 41 has an optical signal corresponding to a change in the position perpendicular to the length direction at an arbitrary position in the length direction of the real world 1 image that is a thin line. The continuity of the data included in the data 3 detected from the continuity that the level change is the same is detected.
[0265]
More specifically, the data continuity detecting unit 101 having the configuration shown in FIG. 41 is adjacent to the data 3 included in the data 3 obtained by capturing the thin line image with the sensor 2 having the spatial integration effect. A region where a plurality of arc shapes (kamaboko shapes) having a predetermined length are arranged is detected.
[0266]
The data continuity detecting unit 101 is a portion of image data (hereinafter referred to as a stationary component) other than a portion of image data (hereinafter also referred to as a stationary component) in which a thin line image having data continuity is projected from an input image that is data 3. A non-stationary component) is extracted, and pixels from which the real-world 1 thin line image is projected are detected from the extracted non-stationary component and the input image, and the real-world 1 thin-line image in the input image is An area composed of projected pixels is detected.
[0267]
The unsteady component extraction unit 201 extracts the unsteady component from the input image, and supplies the unsteady component information indicating the extracted unsteady component together with the input image to the vertex detection unit 202 and the monotonous increase / decrease detection unit 203.
[0268]
For example, as shown in FIG. 42, when an image of the real world 1 with a thin line in front of a background with a substantially constant light level is projected onto the data 3, unsteady component extraction is performed as shown in FIG. The unit 201 extracts the unsteady component as the background by approximating the background in the input image as the data 3 with a plane. In FIG. 43, the solid line indicates the pixel value of the data 3, and the dotted line indicates the approximate value indicated by the plane that approximates the background. In FIG. 43, A indicates a pixel value of a pixel onto which a thin line image is projected, and PL indicates a plane approximating the background.
[0269]
In this manner, the pixel values of the plurality of pixels in the image data portion having data continuity are discontinuous with respect to the unsteady component.
[0270]
The unsteady component extraction unit 201 projects the image that is the optical signal of the real world 1 and the pixel values of the plurality of pixels of the image data that is the data 3 in which a part of the continuity of the real world 1 image is missing. Detect discontinuities.
[0271]
Details of the unsteady component extraction process in the unsteady component extraction unit 201 will be described later.
[0272]
The vertex detection unit 202 and the monotone increase / decrease detection unit 203 remove the unsteady component from the input image based on the unsteady component information supplied from the unsteady component extraction unit 201. For example, the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 remove non-stationary components from the input image by setting the pixel value of each pixel of the input image to which only the background image is projected. To do. For example, the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 remove the unsteady component from the input image by subtracting a value approximated by the plane PL from the pixel value of each pixel of the input image.
[0273]
Since the background can be removed from the input image, the vertex detection unit 202 through the continuity detection unit 204 can process only the portion of the image data onto which the thin line is projected, and the vertex detection unit 202 through the continuous detection unit. The processing in the sex detection unit 204 becomes easier.
[0274]
Note that the unsteady component extraction unit 201 may supply image data obtained by removing unsteady components from the input image to the vertex detection unit 202 and the monotonous increase / decrease detection unit 203.
[0275]
In the example of processing described below, image data from which an unsteady component is removed from an input image, that is, image data including only pixels including the steady component is targeted.
[0276]
Here, image data on which a thin line image is projected, which is to be detected by the vertex detection unit 202 to the continuity detection unit 204, will be described.
[0277]
The cross-sectional shape in the spatial direction Y of the image data onto which the image of the thin line shown in FIG. 42 is projected (the change in the pixel value with respect to the change in the position in the spatial direction) is the image sensor that is the sensor 2 From the spatial integration effect, it can be considered to be a trapezoid shown in FIG. 44 or a triangle shown in FIG. However, a normal image sensor includes an optical LPF, and the image sensor acquires an image that has passed through the optical LPF, and projects the acquired image onto the data 3. Therefore, in reality, the spatial direction Y of the thin line image data The cross-sectional shape is similar to a Gaussian distribution as shown in FIG.
[0278]
The vertex detection unit 202 to the continuity detection unit 204 are pixels on which an image of a thin line is projected, and the same cross-sectional shape (a change in pixel value with respect to a change in position in the spatial direction) has a constant interval in the vertical direction of the screen. By detecting the region consisting of the lined objects and further detecting the connection of the regions corresponding to the length direction of the thin line in the real world 1, the image of the thin line, which is the region having the continuity of the data, is projected. An area composed of the detected pixels is detected. That is, the vertex detection unit 202 to the continuity detection unit 204 detect an area in which an arc shape (kamaboko shape) is formed on pixels in one column in the input image, and the detected area is in the horizontal direction. It is determined whether or not they are arranged adjacent to each other, and a connection between regions where arc shapes are formed corresponding to the length direction of the thin line image that is the signal of the real world 1 is detected.
[0279]
Further, the vertex detection unit 202 to the continuity detection unit 204 detect a region in which pixels with thin line images are projected, and the same cross-sectional shape is arranged in the horizontal direction of the screen at a constant interval. By detecting the connection of the detected areas corresponding to the length direction of the thin line in the real world 1, the area having the data continuity, which is an area composed of pixels onto which the thin line image is projected, is detected. . That is, the vertex detection unit 202 to the continuity detection unit 204 detect an area in which an arc shape is formed on a horizontal line of pixels in the input image, and the detected areas are adjacent in the vertical direction. It is determined whether or not they are lined up, and a connection of regions where arc shapes are formed corresponding to the length direction of the thin line image that is the signal of the real world 1 is detected.
[0280]
First, a description will be given of a process for detecting a region that is a pixel onto which a thin line image is projected and is formed by arranging the same circular arc shape at regular intervals in the vertical direction of the screen.
[0281]
The vertex detection unit 202 detects a pixel having a larger pixel value than that of surrounding pixels, that is, a vertex, and supplies vertex information indicating the position of the vertex to the monotonous increase / decrease detection unit 203. When targeting pixels arranged in a line in the vertical direction of the screen, the vertex detection unit 202 compares the pixel value of the pixel located on the upper side of the screen and the pixel value of the pixel located on the lower side of the screen, A pixel having a larger pixel value is detected as a vertex. The vertex detection unit 202 detects one or a plurality of vertices from one image, for example, one frame image.
[0282]
One screen includes a frame or a field. The same applies to the following description.
[0283]
For example, the vertex detection unit 202 selects a target pixel from pixels that have not yet been selected as a target pixel from one frame image, and compares the pixel value of the target pixel with the pixel value of the pixel above the target pixel. The pixel value of the target pixel is compared with the pixel value of the lower pixel of the target pixel, the pixel value is larger than the pixel value of the upper pixel, and the pixel value is larger than the pixel value of the lower pixel. The target pixel is detected, and the detected target pixel is set as a vertex. The vertex detection unit 202 supplies vertex information indicating the detected vertex to the monotonous increase / decrease detection unit 203.
[0284]
The vertex detection unit 202 may not detect a vertex. For example, when the pixel values of the pixels of one image are all the same value, or when the pixel value is decreasing in the direction of 1 or 2, no vertex is detected. In this case, the thin line image is not projected onto the image data.
[0285]
The monotonic increase / decrease detection unit 203 is a pixel arranged in a line in the vertical direction with respect to the vertices detected by the vertex detection unit 202 based on the vertex information indicating the position of the vertex supplied from the vertex detection unit 202. A candidate for a region composed of pixels onto which the image of the thin line is projected is detected, and region information indicating the detected region is supplied to the continuity detecting unit 204 together with the vertex information.
[0286]
More specifically, the monotonic increase / decrease detection unit 203 uses a pixel value having a monotonously decreasing pixel value as a reference based on the pixel value of the vertex as a candidate region composed of pixels on which a thin line image is projected. To detect. Monotonic decrease means that the pixel value of a pixel having a longer distance from the vertex is smaller than the pixel value of a pixel having a short distance from the vertex.
[0287]
Further, the monotonous increase / decrease detection unit 203 detects an area composed of pixels having a monotonically increasing pixel value with reference to the pixel value of the vertex as a candidate area composed of pixels onto which a thin line image is projected. Monotonic increase means that the pixel value of a pixel having a longer distance from the vertex is larger than the pixel value of a pixel having a short distance from the vertex.
[0288]
In the following, the processing for a region composed of pixels having a monotonically increasing pixel value is the same as the processing for a region composed of pixels having a monotonically decreasing pixel value, and the description thereof will be omitted. A region composed of pixels having a monotonically increasing pixel value in a process for detecting a region in which a thin line image is projected and the region is formed by arranging the same arc shape in the horizontal direction of the screen at regular intervals. This process is also the same as the process for the area having pixels having a monotonously decreasing pixel value, and the description thereof will be omitted.
[0289]
For example, the monotonous increase / decrease detection unit 203 has, for each pixel vertically in the column, the difference between the pixel value of each pixel and the pixel value of the upper pixel, and the difference between the pixel value of the lower pixel. Ask for. Then, the monotonous increase / decrease detection unit 203 detects a region where the pixel value is monotonously decreasing by detecting a pixel whose difference sign changes.
[0290]
Further, the monotonous increase / decrease detection unit 203 determines, from the region where the pixel value monotonously decreases, the region composed of pixels having the same pixel value as the vertex pixel value, with reference to the vertex pixel value code. It is detected as a candidate for a region composed of pixels onto which a thin line image is projected.
[0291]
For example, the monotonic increase / decrease detection unit 203 compares the sign of the pixel value of each pixel with the sign of the pixel value of the upper pixel and the sign of the pixel value of the lower pixel, and determines the pixel whose sign of the pixel value changes. By detecting, the area | region which consists of a pixel which has the pixel value of the same code | symbol as a vertex is detected from the area | region where the pixel value is decreasing monotonously.
[0292]
As described above, the monotonous increase / decrease detection unit 203 detects an area that is arranged in the vertical direction, the pixel value monotonously decreases with respect to the apex, and includes pixels having the same pixel value as the apex.
[0293]
FIG. 47 is a diagram for explaining processing for detecting a vertex and detecting a monotonous increase / decrease area, in which a pixel area onto which a thin line image is projected is detected based on a pixel value with respect to a position in the spatial direction Y.
[0294]
47 to 49, P represents a vertex. In the description of the data continuity detecting unit 101 whose configuration is shown in FIG. 41, P indicates a vertex.
[0295]
The vertex detection unit 202 compares a pixel value of each pixel with a pixel value of a pixel adjacent in the spatial direction Y, and has a pixel value larger than the pixel value of two pixels adjacent in the spatial direction Y By detecting, vertex P is detected.
[0296]
A region composed of the vertex P and the pixels on both sides of the vertex P in the spatial direction Y is a monotonously decreasing region in which the pixel values of the pixels on both sides in the spatial direction Y monotonously decrease with respect to the pixel value of the vertex P. In FIG. 47, an arrow indicated by A and an arrow indicated by B indicate monotonously decreasing regions existing on both sides of the vertex P.
[0297]
The monotonic increase / decrease detection unit 203 obtains a difference between the pixel value of each pixel and the pixel value of a pixel adjacent to that pixel in the spatial direction Y, and detects a pixel whose sign of the difference changes. The monotonic increase / decrease detection unit 203 defines a boundary between the detected pixel whose difference sign is changed and a pixel on the near side (vertex P side) as a boundary of a thin line region including pixels on which a thin line image is projected. To do.
[0298]
In FIG. 47, the boundary of the thin line region, which is the boundary between the pixel whose difference sign changes and the pixel on the near side (vertex P side), is indicated by C.
[0299]
Further, the monotonous increase / decrease detection unit 203 compares the sign of the pixel value of each pixel with the sign of the pixel value of the pixel adjacent to the pixel in the spatial direction Y in the monotonous decrease region, and the sign of the pixel value changes. Detect a pixel. The monotonous increase / decrease detection unit 203 sets the boundary between the detected pixel whose difference sign changes and the pixel on the near side (vertex P side) as the boundary of the thin line region.
[0300]
In FIG. 47, a thin line region boundary, which is a boundary between a pixel whose difference sign changes and a pixel on the near side (vertex P side), is indicated by D.
[0301]
As shown in FIG. 47, a fine line region F made up of pixels onto which a fine line image is projected is a region sandwiched between a fine line region boundary C and a fine line region boundary D.
[0302]
The monotonous increase / decrease detection unit 203 obtains a fine line region F longer than a predetermined threshold, that is, a fine line region F including a larger number of pixels than the threshold, from the thin line regions F composed of such monotonous increase / decrease regions. For example, when the threshold value is 3, the monotonous increase / decrease detection unit 203 detects a thin line region F including four or more pixels.
[0303]
Further, from the thin line area F detected in this way, the monotonic increase / decrease detection unit 203 calculates the pixel value of the vertex P, the pixel value of the pixel on the right side of the vertex P, and the pixel value of the pixel on the left side of the vertex P. Compared with the threshold value, the pixel value of the vertex P exceeds the threshold value, the pixel value of the pixel on the right side of the vertex P is less than the threshold value, and the vertex P whose pixel value of the pixel on the left side of the vertex P is less than the threshold value belongs The fine line area F is detected, and the detected thin line area F is set as a candidate area composed of pixels including the components of the fine line image.
[0304]
In other words, the thin line region to which the pixel value of the vertex P is less than or equal to the threshold value, the pixel value of the pixel on the right side of the vertex P exceeds the threshold value, or the vertex P whose pixel value of the pixel on the left side of the vertex P exceeds the threshold value belongs F is determined not to include a thin line image component, and is removed from a region candidate composed of pixels including a thin line image component.
[0305]
That is, as shown in FIG. 48, the monotonic increase / decrease detection unit 203 compares the pixel value of the vertex P with the threshold value, and is adjacent to the vertex P in the spatial direction X (direction indicated by the dotted line AA ′). Are compared with a threshold value, and a thin line region F to which the vertex P belongs, in which the pixel value of the vertex P exceeds the threshold value and the pixel value of the pixel adjacent in the spatial direction X is equal to or smaller than the threshold value, is detected.
[0306]
FIG. 49 is a diagram illustrating pixel values of pixels arranged in the spatial direction X indicated by the dotted line AA ′ in FIG. Pixel value of vertex P is threshold Th_SAnd the pixel value of the pixel adjacent to the vertex P in the spatial direction X is equal to the threshold Th_SThe fine line region F to which the vertex P belongs below includes a fine line component.
[0307]
Note that the monotonic increase / decrease detection unit 203 compares the difference between the pixel value of the vertex P and the background pixel value with a threshold value using the background pixel value as a reference, and the pixel adjacent to the vertex P in the spatial direction X. The difference between the pixel value of the pixel and the background pixel value is compared with a threshold, the difference between the pixel value of the vertex P and the background pixel value exceeds the threshold, and the pixel value of the pixel adjacent to the spatial direction X and the background pixel You may make it detect the thin wire | line area | region F to which the vertex P to which the difference with a value is below a threshold value belongs.
[0308]
The monotonic increase / decrease detection unit 203 is an area composed of pixels whose pixel value monotonously decreases with the vertex P as a reference, and the sign of the pixel value is the same as that of the vertex P. Monotonous increase / decrease area information indicating that the pixel value of the right pixel is equal to or smaller than the threshold value and the pixel value of the left pixel of the vertex P is equal to or smaller than the threshold value is supplied to the continuity detection unit 204.
[0309]
In the case of detecting an area consisting of pixels arranged in a line in the vertical direction of the screen and projected with a thin line image, the pixels belonging to the area indicated by the monotonous increase / decrease area information are aligned in the vertical direction. This image includes the projected pixels. That is, the area indicated by the monotonous increase / decrease area information includes pixels arranged in a line in the vertical direction of the screen, and an area formed by projecting a thin line image.
[0310]
As described above, the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 use the property that the change in the pixel value in the spatial direction Y is similar to the Gaussian distribution in the pixel on which the image of the thin line is projected. A stationary region composed of pixels on which an image is projected is detected.
[0311]
The continuity detection unit 204 is a region including pixels adjacent in the horizontal direction among the regions composed of pixels arranged in the vertical direction indicated by the monotonous increase / decrease region information supplied from the monotone increase / decrease detection unit 203, that is, the similarity. A region having a change in pixel value and overlapping in the vertical direction is detected as a continuous region, and vertex information and data continuity information indicating the detected continuous region are output. The data continuity information includes monotonous increase / decrease area information, information indicating connection of areas, and the like.
[0312]
In the pixels on which the thin lines are projected, the arcs are arranged at regular intervals so as to be adjacent to each other, so that the detected continuous region includes the pixels on which the thin lines are projected.
[0313]
Since the detected continuous area includes pixels that are projected at a thin line and arranged in a certain interval so that the circular arc shape is adjacent, the detected continuous area is set as a steady area, and a continuity detection unit 204 outputs data continuity information indicating the detected continuous regions.
[0314]
In other words, the continuity detecting unit 204 is arranged so that the arc shapes in the data 3 obtained by imaging the thin line are adjacent to each other, resulting from the continuity of the image of the thin line in the real world 1 that is continuous in the length direction. The candidates for the areas detected by the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 are further narrowed down by using the continuity arranged at regular intervals.
[0315]
FIG. 50 is a diagram illustrating processing for detecting the continuity of a monotonous increase / decrease region.
[0316]
As shown in FIG. 50, when the continuity detecting unit 204 includes pixels adjacent in the horizontal direction with respect to the fine line region F composed of pixels arranged in a line in the vertical direction of the screen, the continuity detecting unit 204 is arranged between two monotonous increase / decrease regions. , And when there is no pixel adjacent in the horizontal direction, it is assumed that there is no continuity between the two thin line regions F. For example, a fine line area F consisting of pixels arranged in a line in the vertical direction of the screen_-1Is a fine line area F consisting of pixels arranged in a line in the vertical direction of the screen.₀When the pixel adjacent to the pixel in the horizontal direction is included, the fine line area F₀It is said that it is continuous. Fine line area F consisting of pixels lined up in the vertical direction of the screen₀Is a fine line area F consisting of pixels arranged in a line in the vertical direction of the screen.₁When the pixel adjacent to the pixel in the horizontal direction is included, the fine line area F₁It is said that it is continuous.
[0317]
As described above, the vertex detection unit 202 to the continuity detection unit 204 detect pixels that are arranged in a line in the vertical direction of the screen and that are formed by projecting a thin line image.
[0318]
As described above, the vertex detection unit 202 to the continuity detection unit 204 detect pixels that are arranged in a line in the vertical direction of the screen and are formed by projecting a thin line image. An area consisting of pixels that are arranged in a line in the left-right direction and on which a thin line image is projected is detected.
[0319]
Note that the order of processing does not limit the present invention, and it is natural that the processing order may be executed in parallel.
[0320]
That is, for the pixels arranged in a line in the left-right direction of the screen, the vertex detection unit 202 compares the pixel value of the pixel located on the left side of the screen and the pixel value of the pixel located on the right side of the screen. A pixel having a large pixel value is detected as a vertex, and vertex information indicating the position of the detected vertex is supplied to the monotonous increase / decrease detection unit 203. The vertex detection unit 202 detects one or a plurality of vertices from one image, for example, one frame image.
[0321]
For example, the vertex detection unit 202 selects a target pixel from pixels that have not yet been set as the target pixel from one frame image, and compares the pixel value of the target pixel with the pixel value of the pixel on the left side of the target pixel. The pixel value of the pixel of interest is compared with the pixel value of the pixel on the right side of the pixel of interest, the pixel value is larger than the pixel value of the left pixel, and the pixel value is larger than the pixel value of the right pixel. A pixel is detected, and the detected pixel of interest is used as a vertex. The vertex detection unit 202 supplies vertex information indicating the detected vertex to the monotonous increase / decrease detection unit 203.
[0322]
The vertex detection unit 202 may not detect a vertex.
[0323]
The monotonic increase / decrease detection unit 203 detects and detects a candidate for a region that is a pixel arranged in a line in the left-right direction with respect to the vertex detected by the vertex detection unit 202, and is composed of pixels on which a thin line image is projected. Together with the information, monotonous increase / decrease area information indicating the detected area is supplied to the continuity detection unit 204.
[0324]
More specifically, the monotonic increase / decrease detection unit 203 uses a pixel value having a monotonously decreasing pixel value as a reference based on the pixel value of the vertex as a candidate region composed of pixels on which a thin line image is projected. To detect.
[0325]
For example, the monotonous increase / decrease detection unit 203 calculates the difference between the pixel value of each pixel and the pixel value of the left pixel and the pixel value of the right pixel for each pixel in a row lateral to the vertex. Ask. Then, the monotonous increase / decrease detection unit 203 detects a region where the pixel value is monotonously decreasing by detecting a pixel whose difference sign changes.
[0326]
Further, the monotonous increase / decrease detection unit 203 determines, from the region where the pixel value monotonously decreases, the region composed of pixels having the same pixel value as the vertex pixel value, with reference to the vertex pixel value code. It is detected as a candidate for a region composed of pixels onto which a thin line image is projected.
[0327]
For example, the monotonic increase / decrease detection unit 203 compares the sign of the pixel value of each pixel with the sign of the pixel value of the left pixel or the sign of the pixel value of the right pixel, and detects a pixel whose sign of the pixel value changes. By doing this, an area composed of pixels having the same pixel value as the vertex is detected from the area where the pixel value monotonously decreases.
[0328]
As described above, the monotonous increase / decrease detection unit 203 detects an area that is arranged in the left-right direction, the pixel value monotonously decreases with respect to the vertex, and includes a pixel having the same pixel value as the vertex.
[0329]
The monotonous increase / decrease detection unit 203 obtains a thin line region longer than a predetermined threshold, that is, a thin line region including a larger number of pixels than the threshold, from the thin line regions including such a monotonous increase / decrease region.
[0330]
Further, the monotonous increase / decrease detection unit 203 out of the thin line regions detected in this way sets the pixel value of the vertex, the pixel value of the pixel above the vertex, and the pixel value of the pixel below the vertex respectively as threshold values. The pixel value of the vertex exceeds the threshold, the pixel value of the pixel above the vertex is equal to or less than the threshold, and the thin line region to which the vertex whose pixel value of the pixel below the vertex is equal to or less than the threshold belongs, The detected thin line area is set as a candidate area composed of pixels including a thin line image component.
[0331]
In other words, a thin line region to which a vertex whose pixel value is lower than the threshold, a pixel value of the pixel above the vertex exceeds the threshold, or a pixel value of the pixel below the vertex exceeds the threshold is a thin line It is determined that it does not include the image component of the image, and is removed from the region candidates composed of pixels including the component of the thin line image.
[0332]
The monotonic increase / decrease detection unit 203 compares the difference between the pixel value of the vertex and the background pixel value with a threshold value based on the background pixel value, and the pixel value of the pixel adjacent in the vertical direction with respect to the vertex. And the difference between the pixel value of the background and the pixel value of the background, the difference between the pixel value of the vertex and the pixel value of the background exceeds the threshold value, and the difference between the pixel value of the pixel adjacent in the vertical direction and the pixel value of the background is The detected thin line area that is equal to or smaller than the threshold value may be a candidate area composed of pixels including the components of the thin line image.
[0333]
The monotonic increase / decrease detection unit 203 is an area composed of pixels whose pixel values monotonously decrease with the vertex as a reference, the pixel value has the same sign as the vertex, the vertex exceeds a threshold, and the pixel on the right side of the vertex Monotonous increase / decrease area information indicating that the pixel value is equal to or less than the threshold and the pixel value of the pixel on the left side of the vertex is equal to or less than the threshold is supplied to the continuity detection unit 204.
[0334]
When detecting pixels that are arranged in a line in the left-right direction of the screen and are formed by projecting a thin line image, pixels belonging to the area indicated by the monotonous increase / decrease area information are arranged in the left-right direction, This image includes the projected pixels. That is, the area indicated by the monotonous increase / decrease area information includes a line of pixels arranged in the horizontal direction of the screen, and includes an area formed by projecting a thin line image.
[0335]
The continuity detection unit 204 is a region including pixels adjacent in the vertical direction among the regions composed of pixels arranged in the left-right direction indicated by the monotonous increase / decrease region information supplied from the monotone increase / decrease detection unit 203, that is, a similarity. A region having the changed pixel value and overlapping in the horizontal direction is detected as a continuous region, and vertex information and data continuity information indicating the detected continuous region are output. The data continuity information includes information indicating connection of regions.
[0336]
In the pixels on which the thin lines are projected, the arcs are arranged at regular intervals so as to be adjacent to each other, so that the detected continuous region includes the pixels on which the thin lines are projected.
[0337]
Since the detected continuous area includes pixels that are projected at a thin line and arranged in a certain interval so that the circular arc shape is adjacent, the detected continuous area is set as a steady area, and a continuity detection unit 204 outputs data continuity information indicating the detected continuous regions.
[0338]
In other words, the continuity detecting unit 204 is arranged so that the arc shapes in the data 3 obtained by imaging the thin line are adjacent to each other, resulting from the continuity of the image of the thin line in the real world 1 that is continuous in the length direction. The candidates for the areas detected by the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 are further narrowed down by using the continuity arranged at regular intervals.
[0339]
FIG. 51 is a diagram illustrating an example of an image in which a stationary component is extracted by approximation on a plane. FIG. 52 is a diagram illustrating a result of detecting a vertex from the image illustrated in FIG. 51 and detecting a monotonically decreasing region. In FIG. 52, the portion shown in white is the detected area.
[0340]
FIG. 53 is a diagram illustrating a region in which continuity is detected by detecting continuity of adjacent regions from the image illustrated in FIG. 52. In FIG. 53, the portion shown in white is a region where continuity is detected. It can be seen that the region is further specified by detecting the continuity.
[0341]
FIG. 54 is a diagram showing pixel values in the region shown in FIG. 53, that is, pixel values in a region where continuity is detected.
[0342]
Thus, the data continuity detecting unit 101 can detect the continuity included in the data 3 that is the input image. That is, the data continuity detecting unit 101 can detect the continuity of data included in the data 3 generated by projecting the image of the real world 1 that is a thin line onto the data 3. The data continuity detecting unit 101 detects from the data 3 an area composed of pixels on which an image of the real world 1 that is a thin line is projected.
[0343]
FIG. 55 is a diagram illustrating an example of another process of detecting a region having continuity in which the image of the thin line is projected in the continuity detecting unit 101.
[0344]
As shown in FIG. 55, the continuity detecting unit 101 calculates, for each pixel, an absolute value of a difference between pixel values from adjacent pixels. The absolute value of the calculated difference is arranged corresponding to the pixel. For example, as shown in FIG. 55, when pixels whose pixel values are P0, P1, and P2 are arranged, the continuity detecting unit 101 calculates the difference d0 = P0-P1 and the difference d1 = P1-P2. . Furthermore, the continuity detecting unit 101 calculates absolute values of the difference d0 and the difference d1.
[0345]
When the non-stationary components included in the pixel values P0, P1, and P2 are the same, only the values corresponding to the thin line components are set in the difference d0 and the difference d1.
[0346]
Therefore, when the adjacent difference values are the same among the absolute values of the differences arranged corresponding to the pixels, the continuity detecting unit 101 detects the pixels corresponding to the absolute values of the two differences (two It is determined that the thin line component is included in the pixel between the absolute values of the differences.
[0347]
The continuity detecting unit 101 can detect a thin line by such a simple method.
[0348]
FIG. 56 is a flowchart for explaining the continuity detection process.
[0349]
In step S201, the unsteady component extraction unit 201 extracts a non-stationary component that is a portion other than the portion onto which the thin line is projected from the input image. The unsteady component extraction unit 201 supplies unsteady component information indicating the extracted unsteady component together with the input image to the vertex detection unit 202 and the monotonous increase / decrease detection unit 203. Details of the unsteady component extraction process will be described later.
[0350]
In step S202, the vertex detection unit 202 removes the unsteady component from the input image based on the unsteady component information supplied from the unsteady component extraction unit 201, and leaves only the pixels including the steady component in the input image. Furthermore, in step S202, the vertex detection unit 202 detects a vertex.
[0351]
That is, when executing processing with the vertical direction of the screen as a reference, the vertex detection unit 202 compares the pixel value of each pixel with the pixel values of the upper and lower pixels for pixels including a stationary component. The vertex is detected by detecting a pixel having a pixel value larger than the pixel value of the upper pixel and the pixel value of the lower pixel. Further, in step S202, when the vertex detection unit 202 executes the process with reference to the horizontal direction of the screen, the pixel value of each pixel and the pixel values of the right side pixel and the left side pixel are obtained for the pixel including the stationary component. In comparison, a vertex is detected by detecting a pixel having a pixel value larger than the pixel value of the right pixel and the pixel value of the left pixel.
[0352]
The vertex detection unit 202 supplies vertex information indicating the detected vertex to the monotonous increase / decrease detection unit 203.
[0353]
In step S203, the monotonous increase / decrease detection unit 203 removes the non-stationary component from the input image based on the non-stationary component information supplied from the non-stationary component extraction unit 201, and leaves only pixels including the stationary component in the input image. . Further, in step S203, the monotonic increase / decrease detection unit 203 detects the monotonic increase / decrease with respect to the vertex based on the vertex information indicating the position of the vertex supplied from the vertex detection unit 202, thereby providing a pixel having data continuity. An area consisting of is detected.
[0354]
When the monotonous increase / decrease detection unit 203 executes processing with reference to the vertical direction of the screen, the monotonous increase / decrease detection unit 203 is arranged in a column vertically based on the pixel value of the vertex and the pixel value of the pixel arranged in a column vertically with respect to the vertex. By detecting a monotonous increase / decrease composed of pixels on which one thin line image is projected, an area composed of pixels having data continuity is detected. That is, in step S203, when the monotonous increase / decrease detection unit 203 executes processing based on the vertical direction of the screen, the pixel value of each pixel and the upper side of the pixels arranged in a line vertically with respect to the vertex and the vertex are displayed. Alternatively, a difference from the pixel value of the lower pixel is obtained, and a pixel whose sign of the difference changes is detected. Also, the monotonic increase / decrease detection unit 203 compares the pixel value code of each pixel with the pixel value code of the pixel above or below the pixel for pixels arranged in a line vertically with respect to the vertex. Then, a pixel whose sign of the pixel value changes is detected. Further, the monotonic increase / decrease detection unit 203 compares the pixel value of the vertex and the pixel values of the right and left pixels of the vertex with the threshold, the pixel value of the vertex exceeds the threshold, and the pixel values of the right and left pixels are A region composed of pixels that are equal to or less than the threshold is detected.
[0355]
The monotonous increase / decrease detection unit 203 supplies the continuity detection unit 204 with monotonous increase / decrease area information indicating the monotonous increase / decrease area, using the detected area as the monotone increase / decrease area.
[0356]
In addition, when the monotonous increase / decrease detection unit 203 executes processing based on the horizontal direction of the screen, the monotonous increase / decrease detection unit 203 arranges horizontally based on the pixel values of the vertices and the pixel values of pixels arranged in a row horizontally with respect to the vertices. By detecting a monotonous increase / decrease composed of pixels in one column of pixels on which an image of one thin line is projected, an area composed of pixels having data continuity is detected. That is, in step S203, when the monotonous increase / decrease detection unit 203 executes processing based on the horizontal direction of the screen, the pixel value of each pixel and the left side of the pixel arranged in a line horizontally with respect to the vertex Alternatively, a difference from the pixel value of the right pixel is obtained, and a pixel whose sign of the difference changes is detected. In addition, the monotonic increase / decrease detection unit 203 compares the pixel value sign of each pixel with the pixel value sign of the pixel on the left side or the right side of the pixel for pixels arranged in a line horizontally with respect to the vertex. A pixel whose sign of the pixel value changes is detected. Further, the monotonic increase / decrease detection unit 203 compares the pixel value of the vertex and the pixel values of the upper and lower pixels of the vertex with the threshold value, the pixel value of the vertex exceeds the threshold value, and the pixels of the upper and lower pixels A region composed of pixels having a value equal to or smaller than a threshold value is detected.
[0357]
The monotonous increase / decrease detection unit 203 supplies the continuity detection unit 204 with monotonous increase / decrease area information indicating the monotonous increase / decrease area, using the detected area as the monotone increase / decrease area.
[0358]
In step S204, the monotonous increase / decrease detection unit 203 determines whether or not the processing for all the pixels has been completed. For example, the unsteady component extraction unit 201 detects vertices for all the pixels of one screen (for example, a frame or a field) of the input image, and determines whether or not a monotonous increase / decrease area has been detected.
[0359]
If it is determined in step S204 that all the pixels have not been processed, that is, there are still pixels that are not targeted for vertex detection and monotonous increase / decrease area detection, the process returns to step S202, A pixel to be processed is selected from pixels that are not targeted for detection and detection of the monotonous increase / decrease area, and the vertex detection and monotonous increase / decrease area detection processes are repeated.
[0360]
If it is determined in step S204 that all pixels have been processed, that is, it is determined that vertices and monotonous increase / decrease areas have been detected for all pixels, the process proceeds to step S205, where the continuity detection unit 204 determines monotonous increase / decrease area information. Based on this, the continuity of the detected area is detected. For example, when the continuity detection unit 204 includes pixels adjacent in the horizontal direction for a monotonous increase / decrease area composed of pixels arranged in a line in the vertical direction of the screen indicated by the monotonous increase / decrease area information, Assume that there is continuity between regions, and that there is no continuity between two monotonous increase / decrease regions when pixels that do not include pixels adjacent in the horizontal direction are included. For example, when the continuity detecting unit 204 includes pixels adjacent in the vertical direction for a monotonous increase / decrease area composed of pixels arranged in a line in the horizontal direction of the screen indicated by the monotonous increase / decrease area information, It is assumed that there is continuity between regions, and there is no continuity between two monotonous increase / decrease regions when pixels that are not adjacent in the vertical direction are not included.
[0361]
The continuity detection unit 204 sets the detected continuous area as a stationary area having data continuity, and outputs data continuity information indicating the position of the vertex and the stationary area. The data continuity information includes information indicating connection of regions. The data continuity information output from the continuity detection unit 204 indicates a thin line region that is a steady region and includes pixels on which a thin line image of the real world 1 is projected.
[0362]
In step S <b> 206, the continuity direction detection unit 205 determines whether or not processing for all pixels has been completed. That is, the continuity direction detection unit 205 determines whether or not the continuity of the region has been detected for all the pixels of the predetermined frame of the input image.
[0363]
If it is determined in step S206 that all the pixels have not been processed, that is, there are still pixels that are not targeted for the region continuity detection process, the process returns to step S205, and the region continuity is detected. A pixel to be processed is selected from pixels that are not targeted for detection processing, and the processing for detecting the continuity of the region is repeated.
[0364]
If it is determined in step S206 that the processing for all the pixels has been completed, that is, it has been determined that the continuity of the region has been detected for all the pixels, the processing ends.
[0365]
In this way, the continuity included in the data 3 that is the input image is detected. That is, the continuity of the data included in the data 3 generated by projecting the image of the real world 1 that is a thin line onto the data 3 is detected, and the image of the real world 1 that is a thin line is projected from the data 3. An area having data continuity, which is composed of pixels, is detected.
[0366]
Note that the data continuity detecting unit 101 whose configuration is shown in FIG. 41 can detect the continuity of data in the time direction based on an area having data continuity detected from the frame of data 3.
[0367]
For example, as shown in FIG. 57, the continuity detection unit 204 includes an area having continuity of detected data in frame #n, an area having continuity of detected data in frame # n-1, In frame # n + 1, the continuity of the data in the time direction is detected by connecting the end portions of the areas based on the areas having the continuity of the detected data.
[0368]
Frame # n-1 is a frame temporally preceding frame #n, and frame # n + 1 is a frame temporally subsequent to frame #n. That is, frame # n-1, frame #n, and frame # n + 1 are displayed in the order of frame # n-1, frame #n, and frame # n + 1.
[0369]
More specifically, in FIG. 57, G represents a region having the continuity of the detected data in frame #n, a region having the continuity of the detected data in frame # n-1, and frame #n. n + 1 represents a motion vector obtained by connecting one end of each of the regions having the continuity of the detected data, and G ′ represents the other of each of the regions having the continuity of the detected data. The motion vector obtained by connecting one end is shown. The motion vector G and the motion vector G ′ are an example of continuity of data in the time direction.
[0370]
Furthermore, the data continuity detecting unit 101 whose configuration is shown in FIG. 41 can output information indicating the length of a region having data continuity as data continuity information.
[0371]
FIG. 58 is a block diagram showing a configuration of the non-stationary component extracting unit 201 that extracts a non-stationary component by approximating a non-stationary component that is a portion of image data having no data continuity on a plane.
[0372]
The unsteady component extraction unit 201 having the configuration illustrated in FIG. 58 extracts a block including a predetermined number of pixels from the input image, and blocks the error between the block and the value indicated by the plane to be less than a predetermined threshold. Is approximated by a plane to extract unsteady components.
[0373]
The input image is supplied to the block extraction unit 221 and is output as it is.
[0374]
The block extraction unit 221 extracts a block composed of a predetermined number of pixels from the input image. For example, the block extraction unit 221 extracts a block composed of 7 × 7 pixels and supplies the block to the plane approximation unit 222. For example, the block extraction unit 221 moves the pixel that is the center of the extracted block in the raster scan order, and sequentially extracts the blocks from the input image.
[0375]
The plane approximation unit 222 approximates the pixel values of the pixels included in the block in a predetermined plane. For example, the plane approximation unit 222 approximates the pixel values of the pixels included in the block on the plane represented by Expression (24).
[0376]
z = ax + by + c (24)
[0377]
In Expression (24), x indicates the position of one direction (spatial direction X) of the pixel on the screen, and y indicates the position of the other direction (spatial direction Y) of the pixel on the screen. z represents an approximate value indicated by a plane. a indicates the inclination of the plane in the spatial direction X, and b indicates the inclination of the plane in the spatial direction Y. In Expression (24), c represents a plane offset (intercept).
[0378]
For example, the plane approximation unit 222 approximates the pixel values of the pixels included in the block on the plane represented by Expression (24) by obtaining the gradient a, the gradient b, and the offset c by regression processing. The plane approximating unit 222 approximates the pixel values of the pixels included in the block on the plane represented by Expression (24) by obtaining the gradient a, the gradient b, and the offset c by regression processing with rejection. .
[0379]
For example, the plane approximation unit 222 obtains a plane represented by Expression (24) that minimizes the error with respect to the pixel value of the pixel of the block by the method of least squares. Approximate pixel values.
[0380]
The plane approximation unit 222 has been described as approximating a block with the plane represented by the equation (24). However, the plane approximation unit 222 is not limited to the plane represented by the equation (24), but a function having a higher degree of freedom, for example, The block may be approximated by a surface represented by an nth-order polynomial.
[0381]
The iterative determination unit 223 calculates an error between the approximate value indicated by the plane approximating the pixel value of the block and the pixel value of the corresponding pixel of the block. Expression (25) is an expression that indicates an error ei that is a difference between an approximate value indicated by a plane that approximates a pixel value of a block and a pixel value zi of a corresponding pixel of the block.
[0382]
[Equation 19]

... (25)
[0383]
In equation (25), z-hat (a letter with z attached to ^ is described as z-hat. The same applies hereinafter) is an approximation represented by a plane approximating the pixel value of a block. A hat indicates the inclination in the spatial direction X of the plane approximating the pixel value of the block, and b hat indicates the inclination in the spatial direction Y of the plane approximating the pixel value of the block. In Expression (25), c hat represents a plane offset (intercept) approximating the pixel value of the block.
[0384]
The iterative determination unit 223 rejects a pixel having the largest error ei represented by Expression (25) between the approximate value and the pixel value of the corresponding pixel of the block. By doing in this way, the pixel by which the thin line was projected, ie, the pixel which has continuity, is rejected. The repetition determination unit 223 supplies rejection information indicating the rejected pixels to the plane approximation unit 222.
[0385]
Further, the repeat determination unit 223 calculates a standard error, and repeats when the standard error is equal to or greater than a predetermined approximation end determination threshold and more than half of the pixels in the block are not rejected. The determination unit 223 causes the plane approximation unit 222 to repeat the approximation process using a plane for pixels excluding rejected pixels among the pixels included in the block.
[0386]
Since pixels having stationarity are rejected, the plane approximates an unsteady component by approximating the pixels excluding the rejected pixels with the plane.
[0387]
The iterative determination unit 223 ends the approximation by the plane when the standard error is less than the threshold value for determining the end of approximation or when more than half of the pixels in the block are rejected.
[0388]
Standard error e for a block of 5x5 pixels_sIs calculated by, for example, Expression (26).
[0389]
[Expression 20]

... (26)
Here, n is the number of pixels.
[0390]
Note that the iterative determination unit 223 may calculate the sum of squares of errors for all pixels included in the block, not limited to the standard error, and execute the following processing.
[0390]
Here, when a block shifted by one pixel in the raster scan direction is approximated by a plane, as shown in FIG. 59, pixels having continuity, that is, pixels including a thin line component, indicated by a black circle in the drawing are a plurality of times. It will be rejected.
[0392]
When the approximation by the plane is finished, the repetition determination unit 223 outputs information indicating the plane approximating the pixel value of the block (the inclination and intercept of the plane in Expression (24)) as non-stationary component information.
[0393]
The repeat determination unit 223 compares the number of times of rejection for each pixel with a predetermined threshold, and determines that a pixel whose number of times of rejection is equal to or greater than the threshold is a pixel including a stationary component. Information indicating pixels may be output as steady component information. In this case, the vertex detection unit 202 to the continuity direction detection unit 205 perform each process on the pixel including the steady component indicated by the steady component information.
[0394]
An example of the result of unsteady component extraction processing will be described with reference to FIGS.
[0395]
FIG. 60 is a diagram illustrating an example of an input image generated from an image including a thin line as an average value of pixel values of 2 × 2 pixels of the original image.
[0396]
FIG. 61 is a diagram showing an image in which the standard error obtained as a result of approximating the image shown in FIG. 60 on a plane without rejection is a pixel value. In the example shown in FIG. 61, a block of 5 × 5 pixels for one pixel of interest is approximated by a plane. In FIG. 61, white pixels are pixels having a larger pixel value, that is, a larger standard error, and black pixels are pixels having a smaller pixel value, that is, a smaller standard error.
[0397]
From FIG. 61, it can be confirmed that when a standard error obtained as a result of approximation in a plane without rejection is used as a pixel value, a large value is obtained widely around the unsteady portion.
[0398]
In the example shown in FIGS. 62 to 67, a block made up of 7 × 7 pixels for one pixel of interest is approximated by a plane. When a block of 7 × 7 pixels is approximated by a plane, one pixel is repeatedly included in the 49 blocks, so that the pixel including the stationary component is rejected at most 49 times. .
[0399]
FIG. 62 is an image in which the standard error obtained when the image shown in FIG. 60 is rejected and approximated by a plane is a pixel value.
[0400]
In FIG. 62, white pixels are pixels having a larger pixel value, that is, a larger standard error, and black pixels are pixels having a smaller pixel value, that is, a smaller standard error. It can be seen that, as a whole, the standard error becomes smaller when the rejection is made, compared with the case where the rejection is not performed.
[0401]
FIG. 63 is a diagram illustrating an image in which the number of rejections is a pixel value when the image illustrated in FIG. 60 is rejected and approximated by a plane. In FIG. 63, white pixels are pixels with a larger pixel value, that is, more rejected, and black pixels are smaller pixel values, that is, a pixel with fewer rejected times.
[0402]
From FIG. 63, it can be seen that more pixels on which the image of the thin line is projected are rejected. It is also possible to generate an image that masks the unsteady portion of the input image using an image with the number of rejects as the pixel value.
[0403]
FIG. 64 is a diagram showing an image in which the inclination in the spatial direction X of the plane approximating the pixel value of the block is the pixel value. FIG. 65 is a diagram showing an image in which the inclination in the spatial direction Y of the plane approximating the pixel value of the block is the pixel value.
[0404]
FIG. 66 is a diagram showing an image made up of approximate values indicated by a plane approximating the pixel values of a block. From the image shown in FIG. 66, it can be seen that the thin line disappears.
[0405]
FIG. 67 is an image formed by generating an average value of the 2 × 2 pixel block of the original image shown in FIG. 60 as the pixel value of the pixel, and an approximate value shown by the plane shown in FIG. It is a figure which shows the image which consists of a difference with. The pixel value of the image in FIG. 67 includes only a value obtained by projecting a thin line image since the unsteady component is removed. As can be seen from FIG. 67, it can be confirmed that the steady component of the original image is successfully extracted in the image composed of the difference between the original pixel value and the approximate value indicated by the approximate plane.
[0406]
The number of rejects, the inclination in the spatial direction X of the plane approximating the pixel value of the block pixel, the inclination of the spatial direction Y in the plane approximating the pixel value of the block pixel, and the plane approximating the pixel value of the block pixel The approximate value shown and the error ei can also be used as the feature amount of the input image.
[0407]
FIG. 68 is a flowchart for explaining unsteady component extraction processing by the unsteady component extraction unit 201 having the configuration shown in FIG. 58, corresponding to step S201.
[0408]
In step S <b> 221, the block extraction unit 221 extracts a block composed of a predetermined number of pixels from the input pixels, and supplies the extracted block to the plane approximation unit 222. For example, the block extraction unit 221 selects one pixel from the input pixels that have not yet been selected, and extracts a block composed of 7 × 7 pixels centered on the selected pixel. For example, the block extraction unit 221 can select pixels in the raster scan order.
[0409]
In step S222, the plane approximation unit 222 approximates the extracted block with a plane. The plane approximation unit 222 approximates the pixel value of the pixel of the extracted block by a plane, for example, by regression processing. For example, the plane approximation unit 222 approximates the pixel values of the pixels of the extracted block excluding the rejected pixels by a regression process using a plane. In step S223, the repetition determination unit 223 executes repetition determination. For example, the standard error is calculated from the pixel value of the pixel of the block and the approximate value of the approximate plane, and the number of rejected pixels is counted, thereby repeatedly determining.
[0410]
In step S224, the iterative determination unit 223 determines whether or not the standard error is greater than or equal to a threshold. If it is determined that the standard error is greater than or equal to the threshold, the process proceeds to step S225.
[0411]
In step S224, the iterative determination unit 223 determines whether more than half of the pixels in the block have been rejected and whether the standard error is greater than or equal to a threshold, and among the pixels in the block, If more than half of the pixels are not rejected and it is determined that the standard error is greater than or equal to the threshold, the process may proceed to step S225.
[0412]
In step S225, the iterative determination unit 223 calculates an error between the pixel value of the pixel and the approximate plane value approximated for each pixel of the block, rejects the pixel having the largest error, and notifies the plane approximation unit 222 of the error. . The procedure returns to step S222, and the approximation processing by the plane and the repeated determination processing are repeated for the pixels of the block excluding the rejected pixels.
[0413]
In step S225, when a block shifted by one pixel in the raster scan direction is extracted in the process of step S221, as shown in FIG. 59, a pixel including a thin line component (indicated by a black circle in the figure) is It will be rejected.
[0414]
If it is determined in step S224 that the standard error is not greater than or equal to the threshold, the block is approximated by a plane, and the process proceeds to step S226.
[0415]
In step S224, the iterative determination unit 223 determines whether more than half of the pixels in the block have been rejected and whether the standard error is greater than or equal to a threshold, and among the pixels in the block, If it is determined that more than half of the pixels have been rejected or the standard error is not greater than or equal to the threshold value, the process may proceed to step S225.
[0416]
In step S226, the iterative determination unit 223 outputs the slope and intercept of the plane that approximates the pixel value of the pixel of the block as unsteady component information.
[0417]
In step S227, the block extraction unit 221 determines whether or not the processing has been completed for all the pixels of one screen of the input image, and when it is determined that there are pixels that are not yet targets for processing, Returning to FIG. 5, the block is extracted from the pixels not yet processed, and the above-described processing is repeated.
[0418]
If it is determined in step S227 that the process has been completed for all pixels of one screen of the input image, the process ends.
[0419]
As described above, the unsteady component extraction unit 201 having the configuration shown in FIG. 58 can extract the unsteady component from the input image. Since the unsteady component extraction unit 201 extracts the unsteady component of the input image, the vertex detection unit 202 and the monotonic increase / decrease detection unit 203 differ between the input image and the unsteady component extracted by the unsteady component extraction unit 201. By obtaining the above, it is possible to execute processing for a difference including a steady component.
[0420]
Note that the standard error when rejected, the standard error when not rejected, the number of times the pixel was rejected, the inclination of the spatial direction X of the plane (a hat in Expression (24)) The inclination of the plane in the spatial direction Y (b hat in the equation (24)), the level when replaced with the plane (c hat in the equation (24)), and the difference between the pixel value of the input image and the approximate value shown on the plane Can be used as a feature value.
[0421]
FIG. 69 is a flowchart for explaining stationary component extraction processing by the unsteady component extraction unit 201 having the configuration shown in FIG. 58 instead of the unsteady component extraction processing corresponding to step S201. Since the process of step S241 thru | or step S245 is the same as the process of step S221 thru | or step S225, the description is abbreviate | omitted.
[0422]
In step S246, the iterative determination unit 223 outputs the difference between the approximate value indicated by the plane and the pixel value of the input image as a steady component of the input image. That is, the repetition determination unit 223 outputs the difference between the approximate value based on the plane and the true pixel value.
[0423]
The iterative determination unit 223 may output, as a steady component of the input image, a pixel value of a pixel whose difference between the approximate value indicated by the plane and the pixel value of the input image is equal to or greater than a predetermined threshold. .
[0424]
Since the process of step S247 is the same as the process of step S227, the description thereof is omitted.
[0425]
Since the plane approximates the unsteady component, the unsteady component extraction unit 201 subtracts the approximate value indicated by the plane that approximates the pixel value from the pixel value of each pixel of the input image, thereby obtaining the unsteady component from the input image. Unsteady components can be removed. In this case, the vertex detection unit 202 to the continuity detection unit 204 can process only the steady component of the input image, that is, the value obtained by projecting the thin line image, and the vertex detection unit 202 to the continuity detection unit. The processing at 204 becomes easier.
[0426]
FIG. 70 is a flowchart for explaining another process of extracting the steady component by the unsteady component extraction unit 201 having the configuration shown in FIG. 58, instead of the process of extracting the unsteady component corresponding to step S201. Since the process of step S261 thru | or step S265 is the same as the process of step S221 thru | or step S225, the description is abbreviate | omitted.
[0427]
In step S266, the repetition determination unit 223 stores the number of rejections for each pixel, returns to step S262, and repeats the process.
[0428]
If it is determined in step S264 that the standard error is not equal to or greater than the threshold value, the block is approximated by a plane, and thus the process proceeds to step S267, where the repetition determination unit 223 completes the process for all pixels of one screen of the input image. If it is determined that there is a pixel that has not yet been processed, the process returns to step S261, where a block is extracted for the pixel that has not yet been processed, and the above-described processing is repeated. .
[0429]
In step S267, when it is determined that the processing has been completed for all pixels of one screen of the input image, the process proceeds to step S268, and the repetition determination unit 223 selects one pixel from pixels that have not been selected, For the selected pixel, it is determined whether the number of rejections is equal to or greater than a threshold value. For example, the repeat determination unit 223 determines whether or not the number of rejections is greater than or equal to a threshold value stored in advance for the selected pixel in step S268.
[0430]
If it is determined in step S268 that the number of rejections is greater than or equal to the threshold for the selected pixel, the selected pixel includes a steady component, and thus the process proceeds to step S269, where the repetition determining unit 223 selects the selected pixel. The pixel value of the pixel (pixel value in the input image) is output as a steady component of the input image, and the process proceeds to step S270.
[0431]
If it is determined in step S268 that the number of rejections is not greater than or equal to the threshold for the selected pixel, the selected pixel does not contain a steady component, so the process of step S269 is skipped, and the procedure proceeds to step S270. Proceed to That is, a pixel value is not output for a pixel for which the number of rejections is determined not to be greater than or equal to the threshold value.
[0432]
Note that the repetition determination unit 223 may output a pixel value set to 0 for pixels for which the number of rejections is determined not to be greater than or equal to the threshold value.
[0433]
In step S270, the iterative determination unit 223 determines whether or not the process of determining whether or not the number of rejections is equal to or greater than a threshold value for all pixels on one screen of the input image, and processes all pixels. If it is determined that the process is not completed, there is a pixel that is not yet the object of processing, so the process returns to step S268 to select one pixel from the pixels that are not yet the object of processing, and the process described above repeat.
[0434]
If it is determined in step S270 that the process has been completed for all pixels of one screen of the input image, the process ends.
[0435]
As described above, the unsteady component extraction unit 201 can output the pixel value of the pixel including the steady component among the pixels of the input image as the steady component information. That is, the unsteady component extraction unit 201 can output the pixel value of a pixel including a thin line image component among the pixels of the input image.
[0436]
FIG. 71 is a flowchart for explaining still another process of extracting a steady component by the unsteady component extracting unit 201 having the configuration shown in FIG. 58, instead of the process of extracting the unsteady component corresponding to step S201. Since the process of step S281 thru | or step S288 is the same as the process of step S261 thru | or step S268, the description is abbreviate | omitted.
[0437]
In step S289, the repetition determining unit 223 outputs the difference between the approximate value indicated by the plane and the pixel value of the selected pixel as a steady component of the input image. That is, the repetition determination unit 223 outputs an image obtained by removing unsteady components from the input image as continuity information.
[0438]
Since the process of step S290 is the same as the process of step S270, the description thereof is omitted.
[0439]
Thus, the unsteady component extraction unit 201 can output an image obtained by removing the unsteady component from the input image as continuity information.
[0440]
As described above, a discontinuous portion of the pixel values of the plurality of pixels of the first image data in which a real-world optical signal is projected and a part of the continuity of the real-world optical signal is lost is detected and detected. The continuity of data is detected from the detected discontinuity, and the optical signal is estimated by estimating the continuity of the optical signal in the real world based on the continuity of the detected data. When converted to the second image data, it is possible to obtain a more accurate and more accurate processing result with respect to a real-world event.
[0441]
FIG. 72 is a block diagram showing another configuration of the data continuity detecting unit 101.
[0442]
The data continuity detecting unit 101 having the configuration shown in FIG. 72 detects a change in the pixel value with respect to the spatial direction of the input image, that is, the activity in the spatial direction of the input image, for the target pixel that is the pixel of interest. In accordance with the activity performed, a plurality of pixel pairs each including a predetermined number of pixels in one column in the vertical direction or one column in the horizontal direction are extracted and extracted for each angle with respect to the target pixel and the reference axis. The correlation of the set of pixels is detected, and based on the correlation, the steadiness angle of the data with reference to the reference axis in the input image is detected.
[0443]
The data continuity angle refers to an angle formed by the reference axis and a predetermined dimension direction in which the data 3 has a certain feature repeatedly. A certain feature repeatedly appears, for example, when a value changes with respect to a change in position in data 3, that is, when the cross-sectional shape is the same.
[0444]
The reference axis can be, for example, an axis indicating the spatial direction X (horizontal direction of the screen) or an axis indicating the spatial direction Y (vertical direction of the screen).
[0445]
The input image is supplied to the activity detection unit 401 and the data selection unit 402.
[0446]
The activity detection unit 401 detects a change in the pixel value with respect to the spatial direction of the input image, that is, an activity in the spatial direction, and supplies activity information indicating the detected result to the data selection unit 402 and the steady direction derivation unit 404.
[0447]
For example, the activity detection unit 401 detects a change in the pixel value with respect to the horizontal direction of the screen and a change in the pixel value with respect to the vertical direction of the screen, and the detected change in the pixel value with respect to the horizontal direction and the change in the pixel value with respect to the vertical direction. Therefore, the change in the pixel value in the horizontal direction is large compared to the change in the pixel value in the vertical direction, or the change in the pixel value in the vertical direction is compared with the change in the pixel value in the horizontal direction. Detect whether it is large.
[0448]
The activity detection unit 401 indicates that the change in the pixel value in the horizontal direction is larger than the change in the pixel value in the vertical direction, which is the detection result, or the change is compared with the change in the pixel value in the horizontal direction. The activity information indicating that the change in the pixel value with respect to the vertical direction is large is supplied to the data selection unit 402 and the steady direction derivation unit 404.
[0449]
When the change in the pixel value in the horizontal direction is larger than the change in the pixel value in the vertical direction, for example, as shown in FIG. 73, an arc shape (kamaboko shape) or a pawl shape is formed in one column of pixels in the vertical direction. The arc shape or the pawl shape is repeatedly formed in a direction closer to the vertical. That is, when the change in the pixel value in the horizontal direction is large compared to the change in the pixel value in the vertical direction, if the reference axis is the axis indicating the spatial direction X, the steady state of the data in the input image based on the reference axis The sex angle is any value between 45 degrees and 90 degrees.
[0450]
When the change in the pixel value in the vertical direction is larger than the change in the pixel value in the horizontal direction, for example, an arc shape or a pawl shape is formed in one column of pixels in the horizontal direction, and the arc shape or the pawl shape is in the horizontal direction. It is repeatedly formed in a direction closer to. That is, when the change in the pixel value in the vertical direction is large compared to the change in the pixel value in the horizontal direction, assuming that the reference axis is the axis indicating the spatial direction X, the steady state of data in the input image based on the reference axis The sex angle is any value from 0 degrees to 45 degrees.
[0451]
For example, the activity detection unit 401 extracts, from the input image, a block made up of 9 × 3 × 3 pixels centered on the pixel of interest shown in FIG. The activity detection unit 401 calculates the sum of pixel value differences for vertically adjacent pixels and the sum of pixel value differences for horizontally adjacent pixels. Sum of pixel value differences for horizontally adjacent pixels h_diffIs obtained by equation (27).
[0452]
h_diff= Σ (P_{i + 1, j}-P_{i, j}(27)
[0453]
Similarly, the sum of pixel value differences for vertically adjacent pixels v_diffIs obtained by equation (28).
[0454]
v_diff= Σ (P_{i, j + 1}-P_{i, j}(28)
[0455]
In Expression (27) and Expression (28), P represents a pixel value, i represents a horizontal position of the pixel, and j represents a vertical position of the pixel.
[0456]
The activity detection unit 401 calculates the sum h of pixel value differences between the calculated pixels adjacent to the side._diffAnd the sum of pixel value differences v and vertically adjacent pixels v_diffAnd the range of the continuity angle of the data with reference to the reference axis in the input image may be determined. That is, in this case, the activity detection unit 401 determines whether the shape indicated by the change in the pixel value with respect to the position in the spatial direction is repeatedly formed in the horizontal direction or repeatedly in the vertical direction.
[0457]
For example, the change in the pixel value in the horizontal direction for the arc formed on the pixel in the horizontal row is larger than the change in the pixel value in the vertical direction, and the arc formed on the pixel in the horizontal row. The change in the vertical pixel value is larger than the change in the horizontal pixel value, and the direction of the continuity of data, that is, a predetermined characteristic of the input image which is the data 3 has It can be said that the change in the direction of the dimension is small compared to the change in the direction orthogonal to the continuity of the data. In other words, the difference in the direction orthogonal to the direction of data continuity (hereinafter also referred to as an unsteady direction) is larger than the difference in the direction of data continuity.
[0458]
For example, as shown in FIG. 75, the activity detection unit 401 calculates the sum h of pixel value differences for the calculated pixels adjacent to the side._diffAnd the sum of pixel value differences v and vertically adjacent pixels v_diffAnd the sum of the pixel value differences h_diffIs large, it is determined that the continuity angle of the data with reference to the reference axis is any value between 45 degrees and 135 degrees, and the sum v of pixel value differences for vertically adjacent pixels v_diffIs large, it is determined that the continuity angle of the data with respect to the reference axis is any value from 0 degrees to 45 degrees, or any value from 135 degrees to 180 degrees.
[0459]
For example, the activity detection unit 401 supplies activity information indicating the determination result to the data selection unit 402 and the steady direction derivation unit 404.
[0460]
The activity detection unit 401 can detect an activity by extracting a block having an arbitrary size such as a block composed of 25 pixels of 5 × 5 or a block composed of 49 pixels of 7 × 7. .
[0461]
The data selection unit 402 sequentially selects a pixel of interest from the pixels of the input image, and based on the activity information supplied from the activity detection unit 401, one column in the vertical direction for each angle with respect to the pixel of interest and the reference axis. Alternatively, a plurality of pixel sets each including a predetermined number of pixels in one column in the horizontal direction are extracted.
[0462]
For example, when the activity information indicates that the change in the pixel value in the horizontal direction is larger than the change in the pixel value in the vertical direction, the data continuity angle is any of 45 degrees to 135 degrees. Since the value is a value, the data selection unit 402 sets a set of pixels including a predetermined number of pixels in one column in the vertical direction at predetermined angles in a range of 45 degrees to 135 degrees with reference to the target pixel and the reference axis. Extract multiple.
[0463]
When the activity information indicates that the change in the pixel value in the vertical direction is large compared to the change in the pixel value in the horizontal direction, the data continuity angle is 0 degree to 45 degrees or 135 degrees to 180 degrees. Therefore, the data selection unit 402 has a predetermined number of rows in the horizontal direction for each predetermined angle in the range of 0 to 45 degrees or 135 to 180 degrees with respect to the target pixel and the reference axis. A plurality of sets of pixels made up of a number of pixels are extracted.
[0464]
Further, for example, when the activity information indicates that the data continuity angle is any value between 45 degrees and 135 degrees, the data selection unit 402 is 45 based on the target pixel and the reference axis. A plurality of pixel sets each including a predetermined number of pixels in one column in the vertical direction are extracted at predetermined angles in the range of degrees to 135 degrees.
[0465]
When the activity information indicates that the continuity angle of the data is a value of 0 to 45 degrees or 135 to 180 degrees, the data selection unit 402 uses the target pixel and the reference axis as a reference. For each predetermined angle in the range of 0 ° to 45 ° or 135 ° to 180 °, a plurality of pixel sets each including a predetermined number of pixels in one column in the horizontal direction are extracted.
[0466]
The data selection unit 402 supplies a plurality of sets of extracted pixels to the error estimation unit 403.
[0467]
The error estimator 403 detects the correlation of the pixel group for each angle with respect to the plurality of groups of extracted pixels.
[0468]
For example, the error estimator 403 calculates the correlation between the pixel values of the pixels at the corresponding positions in the pixel set for a plurality of sets of pixels composed of a predetermined number of pixels in one column in the vertical direction corresponding to one angle. To detect. The error estimation unit 403 detects the correlation between the pixel values of the pixels at the corresponding positions in the set, for a plurality of sets of pixels made up of a predetermined number of pixels in one column in the horizontal direction corresponding to one angle.
[0469]
The error estimation unit 403 supplies correlation information indicating the detected correlation to the steady direction derivation unit 404. The error estimation unit 403 provides the absolute value of the difference between the pixel value of the pixel including the pixel of interest supplied from the data selection unit 402 and the pixel value of the pixel at the corresponding position in the other group as a value indicating the correlation. And the sum of the absolute values of the differences is supplied to the steady direction deriving unit 404 as correlation information.
[0470]
The stationary direction deriving unit 404 is based on the correlation information supplied from the error estimating unit 403, and the continuity of data with reference to the reference axis in the input image corresponding to the continuity of the missing optical signal of the real world 1 is used. Is detected, and data continuity information indicating the angle is output. For example, the stationary direction deriving unit 404 detects an angle with respect to a group of pixels having the strongest correlation as the angle of continuity of data based on the correlation information supplied from the error estimating unit 403, and detects the most correlated Data continuity information indicating the angle for a strong pixel set is output.
[0471]
In the following description, it is assumed that the steadiness angle of data in the range of 0 degrees to 90 degrees (so-called first quadrant) is detected as appropriate.
[0472]
FIG. 76 is a block diagram showing a more detailed configuration of data continuity detecting section 101 shown in FIG.
[0473]
The data selection unit 402 includes a pixel selection unit 411-1 to a pixel selection unit 411-L. The error estimation unit 403 includes an estimation error calculation unit 412-1 to an estimation error calculation unit 412-L. The steady direction deriving unit 404 includes a minimum error angle selecting unit 413.
[0474]
First, the processing of the pixel selection unit 411-1 to pixel selection unit 411-L when the data continuity angle indicated by the activity information is any value between 45 degrees and 135 degrees will be described.
[0475]
The pixel selectors 411-1 to 411-L set straight lines with different predetermined angles passing through the pixel of interest, with the axis indicating the spatial direction X as a reference axis. The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to one vertical column of pixels to which the pixel of interest belongs, and a predetermined number of pixels above the pixel of interest and below the pixel of interest. A predetermined number of pixels on the side and the target pixel are selected as a set of pixels.
[0476]
For example, as illustrated in FIG. 77, the pixel selection unit 411-1 to pixel selection unit 411-L includes nine pixels centered on the target pixel from pixels belonging to one vertical pixel column to which the target pixel belongs. Are selected as a set of pixels.
[0477]
In FIG. 77, one square (one square) having a square shape indicates one pixel. In FIG. 77, the circle shown at the center indicates the target pixel.
[0478]
The pixel selectors 411-1 to 411-L are pixels that belong to one vertical pixel column to which the target pixel belongs and belong to one vertical pixel column on the left side. Select the pixel closest to the straight line. In FIG. 77, the circle on the lower left side of the target pixel indicates an example of the selected pixel. The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to a column of one pixel in the vertical column to which the target pixel belongs, and belonging to a column of one pixel in the vertical column on the left side. A predetermined number of pixels above the selected pixel, a predetermined number of pixels below the selected pixel, and the selected pixel are selected as a set of pixels.
[0479]
For example, as illustrated in FIG. 77, the pixel selection unit 411-1 to pixel selection unit 411-L are arranged in a column of one pixel in the vertical column to which the target pixel belongs, and in a column of one pixel in the vertical column on the left side. From the pixels to which the pixel belongs, nine pixels are selected as a pixel set centering on the pixel closest to the straight line.
[0480]
The pixel selectors 411-1 to 411-L are pixels belonging to one vertical column of pixels to which the pixel of interest belongs and the second vertical column of pixels to the left, respectively. The pixel closest to the straight line set to is selected. In FIG. 77, the leftmost circle indicates an example of the selected pixel. The pixel selectors 411-1 to 411-L are pixels belonging to the column of one pixel in the vertical column to which the target pixel belongs, and the second column of pixels in the vertical column on the left side. A predetermined number of pixels above the selected pixel, a predetermined number of pixels below the selected pixel, and the selected pixel are selected as a set of pixels.
[0481]
For example, as illustrated in FIG. 77, the pixel selection unit 411-1 to pixel selection unit 411-L includes the second vertical column of pixels on the left side of the vertical column of pixels to which the target pixel belongs. From the pixels belonging to the column, nine pixels are selected as a pixel set centering on the pixel closest to the straight line.
[0482]
The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to one vertical column of pixels to which the pixel of interest belongs and one vertical column of pixels to the right, and are respectively set. Select the pixel closest to the straight line. In FIG. 77, the circle on the upper right side of the target pixel indicates an example of the selected pixel. The pixel selectors 411-1 to 411-L are pixels that belong to a column of one pixel in the vertical column to which the target pixel belongs and belong to a column of one pixel in the vertical column on the right. A predetermined number of pixels above the selected pixel, a predetermined number of pixels below the selected pixel, and the selected pixel are selected as a set of pixels.
[0483]
For example, as shown in FIG. 77, the pixel selection unit 411-1 to pixel selection unit 411-L are arranged in one vertical pixel column to which the pixel of interest belongs and one right vertical pixel column. From the pixels to which the pixel belongs, nine pixels are selected as a set of pixels centering on the pixel closest to the straight line.
[0484]
The pixel selectors 411-1 to 411-L are pixels belonging to one vertical column of pixels to which the pixel of interest belongs and the second vertical column of pixels to the right. The pixel closest to the straight line set to is selected. In FIG. 77, the rightmost circle shows an example of the pixel selected in this way. The pixel selectors 411-1 to 411-L are pixels belonging to the column of one column in the vertical direction to which the pixel of interest belongs, and the column of pixels in the second column on the right side. A predetermined number of pixels above the selected pixel, a predetermined number of pixels below the selected pixel, and the selected pixel are selected as a set of pixels.
[0485]
For example, as illustrated in FIG. 77, the pixel selection unit 411-1 to pixel selection unit 411-L includes the second vertical column of pixels on the right side of the vertical column of pixels to which the target pixel belongs. From the pixels belonging to the column, nine pixels are selected as a pixel set centering on the pixel closest to the straight line.
[0486]
In this way, the pixel selectors 411-1 to 411-L each select five sets of pixels.
[0487]
The pixel selectors 411-1 to 411-L select pixel sets for different angles (straight lines set to each other). For example, the pixel selection unit 411-1 selects a pixel set for 45 degrees, the pixel selection unit 411-2 selects a pixel set for 47.5 degrees, and the pixel selection unit 411-3 Selects a set of pixels for 50 degrees. The pixel selectors 411-1 to 411-L select a set of pixels for each angle of 2.5 degrees from 52.5 degrees to 135 degrees.
[0488]
Note that the number of sets of pixels can be any number, such as three or seven, and does not limit the present invention. Further, the number of pixels selected as one set can be any number such as five or thirteen, and does not limit the present invention.
[0489]
Note that the pixel selectors 411-1 to 411-L can select a group of pixels from a predetermined range of pixels in the vertical direction. For example, the pixel selectors 411-1 to 411-L select a set of pixels from 121 pixels in the vertical direction (60 pixels in the upward direction and 60 pixels in the downward direction with respect to the target pixel). To do. In this case, the data continuity detecting unit 101 can detect the data continuity angle up to 88.09 degrees with respect to the axis indicating the spatial direction X.
[0490]
The pixel selection unit 411-1 supplies the selected pixel set to the estimation error calculation unit 412-1, and the pixel selection unit 411-2 supplies the selected pixel set to the estimation error calculation unit 412-2. Similarly, each of the pixel selection unit 411-3 through the pixel selection unit 411-L supplies the selected set of pixels to each of the estimation error calculation unit 412-3 through the estimation error calculation unit 412-L.
[0491]
The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are supplied from any of the pixel selection unit 411-1 to the pixel selection unit 411-L, and the pixel values of the pixels at corresponding positions in the plurality of sets. To detect the correlation. For example, the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L include the target pixel supplied from any of the pixel selection unit 411-1 to the pixel selection unit 411-L as a value indicating the correlation. The sum of the absolute values of the differences between the pixel values of the pixels of the set and the pixel values of the pixels at corresponding positions in the other set is calculated.
[0492]
More specifically, the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are a set of the set including the target pixel supplied from any of the pixel selection unit 411-1 to the pixel selection unit 411-L. Based on the pixel value of the pixel and the pixel value of a pair of pixels consisting of pixels belonging to one column of pixels on the left side of the target pixel, the difference between the pixel values of the uppermost pixel is calculated. The absolute value of the difference between the pixel values is calculated in order from the upper pixel so as to calculate the difference between the pixel values of the second pixel, and the sum of the absolute values of the calculated differences is further calculated. The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are supplied from any one of the pixel selection unit 411-1 to the pixel selection unit 411-L, and the pixel values of a set of pixels including the target pixel, Calculate the absolute value of the difference between the pixel values in order from the top pixel based on the pixel value of the set of pixels that belong to the second vertical column of pixels to the left of the pixel of interest. The sum of the absolute values of the calculated differences is calculated.
[0493]
Then, the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are supplied from any one of the pixel selection unit 411-1 to the pixel selection unit 411-L, and the pixel values of a set of pixels including the target pixel And the difference between the pixel values of the uppermost pixel on the basis of the pixel value of a set of pixels belonging to the column of one pixel vertically on the right side of the target pixel, and the second pixel from the top The absolute value of the difference between the pixel values is calculated in order from the upper pixel, and the sum of the absolute values of the calculated differences is calculated. The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are supplied from any one of the pixel selection unit 411-1 to the pixel selection unit 411-L, and the pixel values of a set of pixels including the target pixel, Calculate the absolute value of the difference between the pixel values in order from the top pixel based on the pixel value of the set of pixels that belong to the second vertical column of pixels to the right of the target pixel. The sum of the absolute values of the calculated differences is calculated.
[0494]
The estimation error calculation unit 412-1 through the estimation error calculation unit 412-L add all the sums of the absolute values of the pixel value differences calculated in this way, and calculate the sum of the absolute values of the pixel value differences. .
[0495]
The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L supply information indicating the detected correlation to the minimum error angle selection unit 413. For example, the estimated error calculator 412-1 to the estimated error calculator 412-L supply the sum of absolute values of the calculated pixel value differences to the minimum error angle selector 413.
[0496]
Note that the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are not limited to the sum of absolute values of pixel value differences, but are sums of squares of pixel value differences or correlations based on pixel values. Another value such as a number can be calculated as the correlation value.
[0497]
The minimum error angle selection unit 413 is based on the correlation detected by the estimation error calculation unit 412-1 through the estimation error calculation unit 412-L with respect to mutually different angles. The continuity angle of the data with reference to the reference axis in the input image corresponding to the continuity is detected. That is, the minimum error angle selection unit 413 selects and selects the strongest correlation based on the correlation detected by the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L for different angles. By using the angle at which the correlation is detected as the continuity angle of the data with reference to the reference axis, the continuity angle of the data with reference to the reference axis in the input image is detected.
[0498]
For example, the minimum error angle selection unit 413 selects the minimum sum among the sums of absolute values of pixel value differences supplied from the estimation error calculation units 412-1 to 412-L. The minimum error angle selection unit 413 is a pixel belonging to the second vertical column on the left side with respect to the target pixel in the pixel set for which the selected sum is calculated, Reference is made to the position of the pixel closest to the straight line, which is a pixel belonging to the column of the second vertical pixel on the right side with respect to the position of the pixel close to the target pixel.
[0499]
As shown in FIG. 77, the minimum error angle selection unit 413 obtains the vertical distance S of the position of the pixel to be referenced with respect to the position of the target pixel. As shown in FIG. 78, the minimum error angle selection unit 413 calculates the spatial direction that is a reference axis in the input image that is image data corresponding to the continuity of the optical signal of the real world 1 that is missing from the equation (29). The continuity angle θ of the data with reference to the axis indicating X is detected.
[0500]
θ = tan^-1(s / 2) (29)
[0501]
Next, the pixel selection unit 411-1 to pixel selection unit 411-L when the data continuity angle indicated by the activity information is one of values of 0 to 45 degrees and 135 to 180 degrees. Processing will be described.
[0502]
The pixel selectors 411-1 to 411-L set a straight line with a predetermined angle passing through the pixel of interest with the axis indicating the spatial direction X as a reference axis, and a row of pixels to which the pixel of interest belongs A predetermined number of pixels above the target pixel, a predetermined number of pixels below the target pixel, and the target pixel are selected as a set of pixels.
[0503]
The pixel selectors 411-1 to 411-L are pixels that belong to a column of one pixel in the horizontal direction to which the target pixel belongs and belong to a column of one pixel in the upper side, and are set for each. Select the pixel closest to the straight line. The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to one pixel column on the upper side and one pixel column on the upper side to which the target pixel belongs, and are selected. A predetermined number of pixels on the left side of the selected pixel, a predetermined number of pixels on the right side of the selected pixel, and the selected pixel are selected as a set of pixels.
[0504]
The pixel selectors 411-1 to 411-L are pixels that belong to a column of one pixel in the horizontal direction to which the target pixel belongs, and belong to a column of one pixel in the second horizontal direction to the upper side. The pixel closest to the straight line set to is selected. The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to the column of one pixel in the horizontal direction to which the pixel of interest belongs and the column of one pixel in the second horizontal direction to the upper side. A predetermined number of pixels on the left side of the selected pixel, a predetermined number of pixels on the right side of the selected pixel, and the selected pixel are selected as a set of pixels.
[0505]
The pixel selectors 411-1 to 411-L are pixels that belong to a column of one pixel in the horizontal direction to which the pixel of interest belongs and belong to a column of one pixel on the lower side, and are set to each of the pixels. The pixel closest to the straight line is selected. The pixel selectors 411-1 to 411-L are pixels that belong to a column of one pixel on the lower side and a column of one pixel on the lower side to which the target pixel belongs, and are selected. A predetermined number of pixels on the left side of the selected pixel, a predetermined number of pixels on the right side of the selected pixel, and the selected pixel are selected as a set of pixels.
[0506]
The pixel selection unit 411-1 to pixel selection unit 411-L are pixels belonging to a column of one pixel in the horizontal direction to which the pixel of interest belongs, and a column of one pixel in the second horizontal direction on the lower side. The pixel closest to the straight line set for each is selected. The pixel selection unit 411-1 to pixel selection unit 411-L are pixels that belong to the column of one pixel in the horizontal direction to which the target pixel belongs and belong to the column of one pixel in the second horizontal direction on the lower side. Then, a predetermined number of pixels on the left side of the selected pixel, a predetermined number of pixels on the right side of the selected pixel, and the selected pixel are selected as a set of pixels.
[0507]
In this way, the pixel selectors 411-1 to 411-L each select five sets of pixels.
[0508]
The pixel selection unit 411-1 to pixel selection unit 411-L select pixel sets for different angles. For example, the pixel selection unit 411-1 selects a pixel set for 0 degrees, the pixel selection unit 411-2 selects a pixel set for 2.5 degrees, and the pixel selection unit 411-3. Selects a set of pixels for 5 degrees. The pixel selectors 411-1 to 411-L select a set of pixels for every angle of 2.5 degrees from 7.5 degrees to 45 degrees and 135 degrees to 180 degrees.
[0509]
The pixel selection unit 411-1 supplies the selected pixel set to the estimation error calculation unit 412-1, and the pixel selection unit 411-2 supplies the selected pixel set to the estimation error calculation unit 412-2. Similarly, each of the pixel selection unit 411-3 through the pixel selection unit 411-L supplies the selected set of pixels to each of the estimation error calculation unit 412-3 through the estimation error calculation unit 412-L.
[0510]
The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L are supplied from any of the pixel selection unit 411-1 to the pixel selection unit 411-L, and the pixel values of the pixels at corresponding positions in the plurality of sets. To detect the correlation. The estimation error calculation unit 412-1 to the estimation error calculation unit 412-L supply information indicating the detected correlation to the minimum error angle selection unit 413.
[0511]
The minimum error angle selection unit 413 corresponds to the continuity of the image that is the missing optical signal of the real world 1 based on the correlation detected by the estimation error calculation unit 412-1 to the estimation error calculation unit 412-L. In the input image, the angle of continuity of data with reference to the reference axis is detected.
[0512]
Next, data continuity detection processing by the data continuity detection unit 101 having the configuration shown in FIG. 72 corresponding to the processing in step S101 will be described with reference to the flowchart in FIG.
[0513]
In step S401, the activity detection unit 401 and the data selection unit 402 select a target pixel that is a target pixel from the input image. The activity detection unit 401 and the data selection unit 402 select the same target pixel. For example, the activity detection unit 401 and the data selection unit 402 select a target pixel from the input image in the raster scan order.
[0514]
In step S402, the activity detection unit 401 detects an activity for the target pixel. For example, the activity detection unit 401 detects an activity based on a difference between pixel values of pixels arranged in a vertical direction and a pixel value of pixels arranged in a horizontal direction of a block including a predetermined number of pixels centered on the target pixel. To detect.
[0515]
The activity detection unit 401 detects an activity in the spatial direction with respect to the target pixel, and supplies activity information indicating the detection result to the data selection unit 402 and the steady direction derivation unit 404.
[0516]
In step S <b> 403, the data selection unit 402 selects a predetermined number of pixels centered on the target pixel from the pixel row including the target pixel as a set of pixels. For example, the data selection unit 402 is a pixel belonging to one column of pixels in the vertical or horizontal direction to which the target pixel belongs, and a predetermined number of pixels above or to the left of the target pixel, and the lower or right side of the target pixel A predetermined number of pixels and a target pixel are selected as a set of pixels.
[0517]
In step S404, the data selection unit 402 selects a predetermined number of pixels from the predetermined number of pixels column for each predetermined range of angles based on the activity detected in step S402. Select as a pair. For example, the data selection unit 402 sets a straight line that passes through the pixel of interest with an angle in a predetermined range, the axis indicating the spatial direction X as a reference axis, and 1 in the horizontal direction or the vertical direction with respect to the pixel of interest. Select pixels closest to the straight line that are separated by a column or two columns, and a predetermined number of pixels above or to the left of the selected pixels, and a predetermined number of pixels below or to the right of the selected pixels Select the pixel as well as the selected pixel closest to the line as the set of pixels. The data selection unit 402 selects a set of pixels for each angle.
[0518]
The data selection unit 402 supplies the selected pixel set to the error estimation unit 403.
[0519]
In step S405, the error estimation unit 403 calculates a correlation between a pixel set centered on the target pixel and a pixel set selected for each angle. For example, the error estimation unit 403 calculates, for each angle, the sum of the absolute values of the differences between the pixel values of the pixels including the pixel of interest and the pixel values of the corresponding pixels in the other pixels.
[0520]
You may make it detect the steadiness angle of data based on the mutual correlation of the group of pixels selected for every angle.
[0521]
The error estimation unit 403 supplies information indicating the calculated correlation to the steady direction deriving unit 404.
[0522]
In step S406, the steady direction deriving unit 404 corresponds to the steadiness of the optical signal of the real world 1 that is missing from the position of the pixel set having the strongest correlation, based on the correlation calculated in the process of step S405. In the input image, which is image data, the angle of continuity of data with reference to the reference axis is detected. For example, the stationary direction deriving unit 404 selects the minimum sum among the sums of absolute values of the pixel value differences, and calculates the angle θ of data continuity from the position of the set of pixels from which the selected sum is calculated. Is detected.
[0523]
The steady direction deriving unit 404 outputs data continuity information indicating the angle of continuity of the detected data.
[0524]
In step S407, the data selection unit 402 determines whether or not the processing of all the pixels has been completed. If it is determined that the processing of all the pixels has not been completed, the process returns to step S401, where the data selection unit 402 is still the target pixel. A pixel of interest is selected from the unselected pixels, and the above-described processing is repeated.
[0525]
If it is determined in step S407 that all pixels have been processed, the process ends.
[0526]
As described above, the data continuity detecting unit 101 can detect the continuity angle of the data with reference to the reference axis in the image data corresponding to the continuity of the missing optical signal in the real world 1.
[0527]
The data detection unit 101 whose configuration is shown in FIG. 72 detects and detects the activity in the spatial direction of the input image for the target pixel that is the target pixel of the target frame that is the target frame. Depending on the activity, the vertical direction from each of the frame of interest and the temporally preceding or succeeding frame of the frame of interest for each angle and motion vector with respect to the pixel of interest and the spatial reference axis A plurality of sets of pixels composed of a predetermined number of pixels in one column in the horizontal direction are extracted, the correlation of the extracted set of pixels is detected, and data in the time direction and the spatial direction in the input image based on the correlation The steadiness angle may be detected.
[0528]
For example, as illustrated in FIG. 80, the data selection unit 402 performs frame #n, which is a frame of interest, for each angle and motion vector based on the pixel of interest and the reference axis in the spatial direction according to the detected activity. A plurality of sets of pixels each consisting of a predetermined number of pixels in one column in the vertical direction or one column in the horizontal direction are extracted from each of the frames # n−1 and # n + 1.
[0529]
Frame # n-1 is a frame temporally preceding frame #n, and frame # n + 1 is a frame temporally subsequent to frame #n. That is, frame # n-1, frame #n, and frame # n + 1 are displayed in the order of frame # n-1, frame #n, and frame # n + 1.
[0530]
The error estimator 403 detects the correlation of pixel groups for each angle and one motion vector for a plurality of groups of extracted pixels. The stationary direction deriving unit 404 detects the continuity angle of the temporal and spatial data in the input image corresponding to the continuity of the missing optical signal of the real world 1 based on the correlation of the set of pixels. The data continuity information indicating the angle is output.
[0531]
FIG. 81 is a block diagram showing another more detailed configuration of the data continuity detecting unit 101 shown in FIG. The same parts as those shown in FIG. 76 are denoted by the same reference numerals, and the description thereof is omitted.
[0532]
The data selection unit 402 includes pixel selection units 421-1 to 421-L. The error estimation unit 403 includes an estimation error calculation unit 422-1 to an estimation error calculation unit 422-L.
[0533]
In the data continuity detecting unit 101 shown in FIG. 81, a set of pixels composed of a number of pixels with respect to a range of angles, a number of sets with respect to the range of angles is extracted, and the correlation between the extracted sets of pixels is correlated. Is detected, and the steadiness angle of the data with reference to the reference axis in the input image is detected based on the detected correlation.
[0534]
First, the processing of the pixel selection unit 421-1 to pixel selection unit 421-L when the data continuity angle indicated by the activity information is any value between 45 degrees and 135 degrees will be described.
[0535]
As shown on the left side of FIG. 82, in the data continuity detecting unit 101 shown in FIG. 76, a set of pixels made up of a fixed number of pixels is extracted regardless of the angle of the set straight line. In the data continuity detecting unit 101 shown in FIG. 81, as shown on the right side of FIG. 82, a set of pixels made up of a number of pixels corresponding to the set angle range of the straight line is extracted. In addition, in the data continuity detecting unit 101 shown in FIG. 81, the number of pixel sets is extracted according to the set range of the straight line angle.
[0536]
The pixel selectors 421-1 to 421-L set straight lines with different predetermined angles that pass through the pixel of interest, with the axis indicating the spatial direction X in the range of 45 degrees to 135 degrees as a reference axis. To do.
[0537]
The pixel selection units 421-1 to 421-L are pixels belonging to one vertical column of pixels to which the target pixel belongs, and have a number corresponding to the range of linear angles set for each pixel. The pixel above the target pixel, the pixel below the target pixel, and the target pixel are selected as a set of pixels.
[0538]
The pixel selection unit 421-1 to pixel selection unit 421-L are arranged on the left and right vertical sides at a predetermined distance in the horizontal direction with respect to the pixel with respect to the vertical column of pixels to which the target pixel belongs. The pixels belonging to one column of pixels, the pixel closest to the set straight line are selected, and the set straight line is selected from one pixel vertically to the selected pixel. The number of pixels above the selected pixel, the pixel below the selected pixel, and the selected pixel according to the angle range are selected as a set of pixels.
[0539]
That is, the pixel selection unit 421-1 to the pixel selection unit 421-L select a number of pixels corresponding to the set straight angle range as a set of pixels. The pixel selection units 421-1 to 421-L select a number of pixel sets according to the set range of the straight line angles.
[0540]
For example, when the sensor 2 captures an image of a fine line that is positioned at an angle of approximately 45 degrees with respect to the spatial direction X and has a width that is approximately the same as the width of the detection region of the detection element, the fine line image is aligned in the spatial direction Y. The data 3 is projected so that an arc shape is formed on three pixels arranged in one row. On the other hand, when an image of a thin line that is positioned substantially perpendicular to the spatial direction X and is approximately the same width as the width of the detection region of the detection element is captured by the sensor 2, the thin line image is in the spatial direction Y. The data 3 is projected so that an arc shape is formed in a large number of pixels arranged in a line.
[0541]
Assuming that the same number of pixels are included in the set of pixels, when the fine line is positioned at an angle of approximately 45 degrees with respect to the spatial direction X, the number of pixels in which the fine line image is projected in the set of pixels is reduced. The resolution will be reduced. On the other hand, when the fine line is positioned substantially perpendicular to the spatial direction X, the processing is executed for some of the pixels in which the image of the fine line is projected in the set of pixels. May decrease.
[0542]
Therefore, the pixel selection unit 421-1 to pixel selection unit 421-L allows the straight line to be set to be closer to the spatial direction X at an angle of 45 degrees so that the pixels onto which the thin line image is projected are substantially equal. If the number of pixels included in each pixel set is reduced, the number of pixel sets is increased, and the straight line to be set is closer to the vertical direction with respect to the spatial direction X, the number of pixels included in each pixel set is Pixels and pixel sets are selected to increase the number and reduce the number of pixel sets.
[0543]
For example, as illustrated in FIG. 83 and FIG. 84, the pixel selection unit 421-1 to pixel selection unit 421-L have a set straight line angle in a range of 45 degrees or more and less than 63.4 degrees (see FIG. 83 and FIG. 84). In FIG. 84, in the range indicated by A), with respect to the target pixel, five pixels centered on the target pixel are selected as a pixel set from one pixel column vertically, and the target pixel is selected. On the other hand, five pixels are selected as a set of pixels from the pixels belonging to one column of pixels on the left and right sides that are within a distance of 5 pixels in the horizontal direction.
[0544]
That is, each of the pixel selection units 421-1 to 421-L includes five pixels from the input image when the set straight line angle is in the range of 45 degrees or more and less than 63.4 degrees. A set of 11 pixels is selected. In this case, the pixel selected as the pixel closest to the set straight line is located 5 to 9 pixels away from the target pixel in the vertical direction.
[0545]
In FIG. 84, the number of columns indicates the number of columns of pixels from which pixels are selected as a pixel set on the left or right side of the target pixel. In FIG. 84, the number of pixels in one column indicates the number of pixels selected as a set of pixels from one pixel column vertically or the left or right column of the target pixel with respect to the target pixel. . In FIG. 84, the pixel selection range indicates the vertical position of the pixel selected as the pixel closest to the set straight line with respect to the target pixel.
[0546]
As illustrated in FIG. 85, for example, when the angle of the set straight line is 45 degrees, the pixel selection unit 421-1 determines the target pixel from the column of one vertical column with respect to the target pixel. From the pixels belonging to the column of one pixel vertically on the left and right sides that are within a distance of 5 pixels in the horizontal direction with respect to the target pixel. Each of the five pixels is selected as a set of pixels. That is, the pixel selection unit 421-1 selects a set of 11 pixels each consisting of 5 pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is at a position 5 pixels away from the target pixel in the vertical direction. .
[0547]
85 to 92, a square represented by a dotted line (one square partitioned by a dotted line) represents one pixel, and a square represented by a solid line represents a set of pixels. 85 to 92, the coordinate of the target pixel in the spatial direction X is set to 0, and the coordinate of the target pixel in the spatial direction Y is set to 0.
[0548]
In FIG. 85 to FIG. 92, squares represented by diagonal lines indicate the pixel at the position closest to the target pixel or the set straight line. In FIG. 85 to FIG. 92, a square represented by a thick line indicates a set of pixels selected around the target pixel.
[0549]
As illustrated in FIG. 86, for example, when the angle of the set straight line is 60.9 degrees, the pixel selection unit 421-2 starts from one pixel column vertically with respect to the target pixel. Pixels belonging to the column of one pixel on the left side and the right side of the pixel that are selected as a set of five pixels centered on the target pixel and are within a distance of 5 pixels in the horizontal direction with respect to the target pixel Then, each of the five pixels is selected as a set of pixels. That is, the pixel selection unit 421-2 selects a set of eleven pixels each consisting of five pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is 9 pixels away from the target pixel in the vertical direction. .
[0550]
For example, as illustrated in FIGS. 83 and 84, the pixel selection unit 421-1 to pixel selection unit 421-L have a set straight line angle in a range of 63.4 degrees or more and less than 71.6 degrees (see FIG. 83). 83 and the range indicated by B in FIG. 84, for the target pixel, seven pixels centered on the target pixel are selected as a pixel set from one pixel column in the vertical direction. For each pixel, seven pixels are selected as a set of pixels from pixels belonging to one column of pixels on the left and right sides that are within a distance of 4 pixels in the horizontal direction.
[0551]
That is, each of the pixel selection units 421-1 to 421-L has seven pixels from the input image when the set straight angle is in the range of 63.4 degrees or more and less than 71.6 degrees. A set of nine pixels consisting of In this case, the vertical position of the pixel closest to the set straight line is 8 to 11 pixels with respect to the target pixel.
[0552]
As illustrated in FIG. 87, for example, when the angle of the set straight line is 63.4 degrees, the pixel selection unit 421-3 starts from a pixel column vertically with respect to the target pixel. 7 pixels centered on the target pixel are selected as a set of pixels, and the pixels belonging to one column of pixels on the left and right sides are within a distance of 4 pixels in the horizontal direction with respect to the target pixel. Then, each of the seven pixels is selected as a pixel set. That is, the pixel selection unit 421-3 selects a set of nine pixels each consisting of seven pixels from the input image. In this case, as the pixel closest to the set straight line, among the selected pixels, the pixel farthest from the target pixel is at a position that is 8 pixels away from the target pixel in the vertical direction. .
[0553]
As shown in FIG. 88, for example, when the angle of the set straight line is 70.0 degrees, the pixel selection unit 421-4 has a column of one column vertically with respect to the target pixel. To select a pixel group including seven pixels centered on the target pixel, and in a column of one pixel vertically on the left side and the right side at a distance within four pixels in the horizontal direction with respect to the target pixel. From the pixels to which the pixel belongs, seven pixels are selected as a set of pixels. That is, the pixel selection unit 421-4 selects a set of nine pixels each including seven pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is 11 pixels away from the target pixel in the vertical direction. .
[0554]
For example, as shown in FIGS. 83 and 84, the pixel selection unit 421-1 to pixel selection unit 421-L have a set straight line angle in a range of 71.6 degrees or more and less than 76.0 degrees (see FIG. 83). 83 and a range indicated by C in FIG. 84, for the target pixel, nine pixels centered on the target pixel are selected as a pixel set from one pixel column in the vertical direction. Nine pixels are selected as a set of pixels from the pixels belonging to one column of pixels on the left and right sides that are within a distance of 3 pixels or less in the horizontal direction.
[0555]
In other words, the pixel selection unit 421-1 to pixel selection unit 421-L, from the input image, from each of nine pixels when the set straight line angle is in the range of 71.6 degrees or more and less than 76.0 degrees. A set of seven pixels is selected. In this case, the vertical position of the pixel closest to the set straight line is 9 to 11 pixels with respect to the target pixel.
[0556]
As illustrated in FIG. 89, for example, when the angle of the set straight line is 71.6 degrees, the pixel selection unit 421-5 starts from one pixel column vertically with respect to the target pixel. Nine pixels centered on the target pixel are selected as a set of pixels, and the pixels belonging to one column of pixels on the left and right sides are within a distance of 3 pixels in the horizontal direction with respect to the target pixel. From the above, nine pixels are selected as a set of pixels. That is, the pixel selection unit 421-5 selects a set of seven pixels each including nine pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is 9 pixels away from the target pixel in the vertical direction. .
[0557]
As shown in FIG. 90, for example, when the angle of the set straight line is 74.7 degrees, the pixel selection unit 421-6 has a column of one column vertically with respect to the target pixel. From the above, the nine pixels centered on the target pixel are selected as a pixel set, and the left and right vertical columns of pixels are located within a distance of three pixels or less in the horizontal direction with respect to the target pixel. Nine pixels are selected as a set of pixels from the belonging pixels. That is, the pixel selection unit 421-6 selects a set of seven pixels each including nine pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is 11 pixels away from the target pixel in the vertical direction. .
[0558]
For example, as shown in FIGS. 83 and 84, the pixel selection unit 421-1 to pixel selection unit 421-L have a set straight line angle in a range of 76.0 degrees to 87.7 degrees (see FIG. 83). 83 and the range indicated by D in FIG. 84, 11 pixels centered on the pixel of interest are selected as a pixel set from the pixel column vertically with respect to the pixel of interest. Eleven pixels are selected as a set of pixels from the pixels belonging to one column of pixels on the left and right sides that are within a distance of 2 pixels in the horizontal direction with respect to the pixels. In other words, the pixel selection unit 421-1 to pixel selection unit 421-L, from the input image, from each of 11 pixels when the angle of the set straight line is in the range of 76.0 degrees or more and 87.7 degrees or less. A set of five pixels is selected. In this case, the vertical position of the pixel closest to the set straight line is 8 to 50 pixels with respect to the target pixel.
[0559]
As illustrated in FIG. 91, for example, when the angle of the set straight line is 76.0 degrees, the pixel selection unit 421-7 determines from the pixel row of one column vertically with respect to the target pixel. Eleven pixels centered on the target pixel are selected as a set of pixels, and the pixels belonging to one column of pixels on the left and right sides are within a distance of two pixels in the horizontal direction with respect to the target pixel. From the above, 11 pixels are selected as a set of pixels. That is, the pixel selection unit 421-7 selects a set of five pixels each consisting of 11 pixels from the input image. In this case, as the pixel closest to the set straight line, among the selected pixels, the pixel farthest from the target pixel is at a position that is 8 pixels away from the target pixel in the vertical direction. .
[0560]
As shown in FIG. 92, for example, when the angle of the set straight line is 87.7 degrees, the pixel selection unit 421-8 has a column of one column vertically with respect to the target pixel. 11 are selected as a set of pixels centered on the target pixel, and the left and right vertical columns of pixels are located within a distance of two pixels in the horizontal direction with respect to the target pixel. Eleven pixels are selected as a set of pixels from the belonging pixels. That is, the pixel selection unit 421-8 selects a set of 5 pixels each consisting of 11 pixels from the input image. In this case, among the selected pixels as the pixel closest to the set straight line, the pixel farthest from the target pixel is positioned 50 pixels away from the target pixel in the vertical direction. .
[0561]
As described above, each of the pixel selection units 421-1 to 421-L selects a set of a predetermined number of pixels corresponding to the angle range, each including a predetermined number of pixels corresponding to the angle range. To do.
[0562]
The pixel selection unit 421-1 supplies the selected set of pixels to the estimation error calculation unit 422-1, and the pixel selection unit 421-2 supplies the selected set of pixels to the estimation error calculation unit 422-2. Similarly, each of the pixel selectors 421-3 to 421-L supplies the selected pixel set to each of the estimated error calculators 422-3 to 422-L.
[0563]
The estimation error calculation unit 422-1 through the estimation error calculation unit 422-L are supplied from any of the pixel selection unit 421-1 through the pixel selection unit 421-L, and the pixel values of the pixels at corresponding positions in the plurality of sets. To detect the correlation. For example, the estimation error calculation unit 422-1 to the estimation error calculation unit 422-L include pixels of a set of pixels including the target pixel supplied from any of the pixel selection unit 421-1 to the pixel selection unit 421-L. Calculate the sum of the absolute values of the difference between the pixel value and the pixel value of the pixel at the corresponding position in the other pixel set, and calculate the number of pixels included in the pixel set other than the pixel set including the target pixel. Divide the sum. The calculated sum is divided by the number of pixels included in a group other than the group including the target pixel because the number of pixels selected according to the angle of the set straight line is different. Is to normalize.
[0564]
The estimation error calculation unit 422-1 to the estimation error calculation unit 422-L supply information indicating the detected correlation to the minimum error angle selection unit 413. For example, the estimation error calculation unit 422-1 to the estimation error calculation unit 422-L supply the sum of the absolute values of the normalized pixel value differences to the minimum error angle selection unit 413.
[0565]
Next, the pixel selection unit 421-1 to the pixel selection unit 421-L when the data continuity angle indicated by the activity information is any value of 0 to 45 degrees and 135 to 180 degrees. Processing will be described.
[0566]
The pixel selectors 421-1 to 421 -L pass through the pixel of interest with the axis indicating the spatial direction X in the range of 0 to 45 degrees or 135 to 180 degrees as a reference axis. Set a straight line for the angle.
[0567]
The pixel selection units 421-1 to 421-L are pixels belonging to one horizontal pixel column to which the target pixel belongs, and the number of target pixels corresponding to the set straight angle range. Left pixel, right pixel of the target pixel, and target pixel are selected as a set of pixels.
[0568]
The pixel selection unit 421-1 to pixel selection unit 421-L are arranged on the upper side and the lower side at a predetermined distance in the vertical direction with reference to the pixel with respect to the horizontal row of pixels to which the target pixel belongs. A pixel that belongs to a column of pixels of one row horizontally, selects a pixel closest to the set straight line, and the angle of the set straight line from the pixel of the horizontal row to the selected pixel The number of pixels on the left side of the selected pixel, the pixel on the right side of the selected pixel, and the selected pixel are selected as a set of pixels in accordance with the number of ranges.
[0569]
That is, the pixel selection unit 421-1 to the pixel selection unit 421-L select a number of pixels corresponding to the set straight angle range as a set of pixels. The pixel selection units 421-1 to 421-L select a number of pixel sets according to the set range of the straight line angles.
[0570]
The pixel selection unit 421-1 supplies the selected set of pixels to the estimation error calculation unit 422-1, and the pixel selection unit 421-2 supplies the selected set of pixels to the estimation error calculation unit 422-2. Similarly, each of the pixel selectors 421-3 to 421-L supplies the selected pixel set to each of the estimated error calculators 422-3 to 422-L.
[0571]
The estimation error calculation unit 422-1 through the estimation error calculation unit 422-L are supplied from any of the pixel selection unit 421-1 through the pixel selection unit 421-L, and the pixel values of the pixels at corresponding positions in the plurality of sets. To detect the correlation.
[0572]
The estimation error calculation unit 422-1 to the estimation error calculation unit 422-L supply information indicating the detected correlation to the minimum error angle selection unit 413.
[0573]
Next, data continuity detection processing by the data continuity detection unit 101 shown in FIG. 81 corresponding to the processing in step S101 will be described with reference to the flowchart in FIG.
[0574]
Since the process of step S421 and step S422 is the same as the process of step S401 and step S402, the description is abbreviate | omitted.
[0575]
In step S423, the data selection unit 402 performs, for each angle in a predetermined range with respect to the activity detected in the process in step S422, an angle range centered on the target pixel from the pixel row including the target pixel. A predetermined number of pixels are selected as a set of pixels. For example, the data selection unit 402 is a pixel belonging to one column of pixels in the vertical or horizontal direction to which the target pixel belongs, and the number of target pixels of the number determined by the angle range with respect to the angle of the straight line to be set. The upper or left pixel, the lower or right pixel of the target pixel, and the target pixel are selected as a set of pixels.
[0576]
In step S424, the data selection unit 402 determines the angle range from the number of pixels determined for the angle range for each predetermined range of angles based on the activity detected in step S422. A predetermined number of pixels are selected as a set of pixels. For example, the data selection unit 402 has a predetermined range of angles, sets a straight line passing through the pixel of interest with an axis indicating the spatial direction X as a reference axis, and in the horizontal or vertical direction with respect to the pixel of interest. Select a pixel closest to the straight line that is separated by a predetermined range from the range of the angle of the straight line to be set, and the number of pixels on the upper or left side of the selected pixel with respect to the range of the angle of the set straight line The pixel and the number of pixels below or on the right side of the selected pixel with respect to the range of linear angles to be set, and the pixel closest to the selected line are selected as the set of pixels. The data selection unit 402 selects a set of pixels for each angle.
[0577]
The data selection unit 402 supplies the selected pixel set to the error estimation unit 403.
[0578]
In step S425, the error estimation unit 403 calculates a correlation between a pixel set centered on the target pixel and a pixel set selected for each angle. For example, the error estimator 403 calculates the sum of the absolute values of the differences between the pixel values of the pixels including the target pixel and the pixel values of the pixels at the corresponding positions in the other groups, and the pixels of the other groups The correlation is calculated by dividing the sum of the absolute values of the pixel value differences by a number.
[0579]
The steadiness angle of data may be detected on the basis of the correlation between pixel sets selected for each angle.
[0580]
The error estimation unit 403 supplies information indicating the calculated correlation to the steady direction deriving unit 404.
[0581]
Since the process of step S426 and step S427 is the same as the process of step S406 and step S407, the description is abbreviate | omitted.
[0582]
As described above, the data continuity detecting unit 101 more accurately and more accurately determines the continuity angle of data with reference to the reference axis in the image data corresponding to the continuity of the missing optical signal of the real world 1. It can be detected with high accuracy. The data continuity detecting unit 101 having the configuration shown in FIG. 81 can evaluate the correlation of more pixels onto which a thin line image is projected, particularly when the data continuity angle is around 45 degrees. As a result, the angle of data continuity can be detected with higher accuracy.
[0583]
The data continuity detecting unit 101 whose configuration is shown in FIG. 81 also detects the activity in the spatial direction of the input image for the target pixel that is the target pixel of the target frame that is the target frame. Depending on the detected activity, the angle from the reference pixel in the spatial direction and the reference axis in the spatial direction, and the motion vector, from the frame before or after the frame of interest in time or vertically A set of pixels made up of a predetermined number of pixels with respect to a spatial angle range is extracted by extracting a set of pixels having a predetermined number with respect to the spatial angle range in one row or one horizontal row. A correlation between a set of pixels may be detected, and a steadiness angle of data in the time direction and the spatial direction in the input image may be detected based on the correlation.
[0584]
FIG. 94 is a block diagram showing still another configuration of the data continuity detecting unit 101.
[0585]
In the data continuity detecting unit 101 having the configuration illustrated in FIG. 94, for a target pixel that is a target pixel, a block including a predetermined number of pixels centered on the target pixel and a periphery of the target pixel, respectively. A plurality of blocks consisting of a predetermined number of pixels are extracted, the correlation between the block centered on the pixel of interest and the surrounding blocks is detected, and based on the correlation, the data of the input image based on the reference axis is detected. A stationary angle is detected.
[0586]
The data selection unit 441 sequentially selects a target pixel from the pixels of the input image, and a block including a predetermined number of pixels centering on the target pixel, and a plurality of pixels including a predetermined number of pixels around the target pixel. And the extracted block is supplied to the error estimation unit 442.
[0587]
For example, the data selection unit 441 starts from a 5 × 5 pixel block at a predetermined angle with respect to the pixel of interest and the reference axis from the periphery of the pixel of interest, a block of 5 × 5 pixels centered on the pixel of interest. Are extracted.
[0588]
The error estimation unit 442 detects the correlation between the block centered on the pixel of interest and the block around the pixel of interest supplied from the data selection unit 441, and obtains correlation information indicating the detected correlation as a steady direction deriving unit 443.
[0589]
For example, the error estimator 442 performs, for each angle range, a block composed of 5 × 5 pixels centered on the target pixel and two blocks composed of 5 × 5 pixels corresponding to one angle range. A correlation between pixel values is detected.
[0590]
Based on the correlation information supplied from the error estimation unit 442, the stationarity direction deriving unit 443 responds to the stationarity of the optical signal in the real world 1 that is missing from the position of the block around the target pixel having the strongest correlation. In the input image, the continuity angle of the data with reference to the reference axis is detected, and data continuity information indicating the angle is output. For example, the steady direction deriving unit 443 is composed of 5 × 5 pixels having the strongest correlation with respect to a block composed of 5 × 5 pixels centered on the target pixel based on the correlation information supplied from the error estimating unit 442. A range of angles for the two blocks is detected as an angle of data continuity, and data continuity information indicating the detected angle is output.
[0591]
95 is a block diagram showing a more detailed configuration of data continuity detecting section 101 shown in FIG.
[0592]
The data selection unit 441 includes a pixel selection unit 461-1 to a pixel selection unit 461-L. The error estimation unit 442 includes an estimation error calculation unit 462-1 to an estimation error calculation unit 462-L. The steady direction deriving unit 443 includes a minimum error angle selecting unit 463.
[0593]
For example, the data selection unit 441 includes pixel selection units 461-1 to 461-8. For example, the error estimation unit 442 includes an estimation error calculation unit 462-1 to an estimation error calculation unit 462-8.
[0594]
Each of the pixel selectors 461-1 to 461-L corresponds to a block composed of a predetermined number of pixels centered on the target pixel, and a predetermined angle range based on the target pixel and the reference axis. Then, two blocks composed of a predetermined number of pixels are extracted.
[0595]
FIG. 96 is a diagram illustrating an example of a 5 × 5 pixel block extracted by the pixel selection unit 461-1 to pixel selection unit 461-L. The center position in FIG. 96 indicates the position of the target pixel.
[0596]
The 5 × 5 pixel block is an example, and the number of pixels included in the block does not limit the present invention.
[0597]
For example, the pixel selection unit 461-1 extracts a 5 × 5 pixel block centered on the pixel of interest, and supports a range of 0 degrees to 18.4 degrees and 161.6 degrees to 180.0 degrees. A 5 × 5 pixel block (indicated by “A” in FIG. 96) centering on a pixel located at a position shifted by 5 pixels to the right with respect to the target pixel is extracted, and 5 pixels on the left side with respect to the target pixel. A 5 × 5 pixel block (indicated by A ′ in FIG. 96) centering on the pixel at the moved position is extracted. The pixel selection unit 461-1 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-1.
[0598]
The pixel selection unit 461-2 extracts a block of 5 × 5 pixels centered on the target pixel, and 10 pixels on the right side with respect to the target pixel corresponding to a range of 18.4 degrees to 33.7 degrees. Move the pixel, extract a 5 × 5 pixel block (indicated by B in FIG. 96) centered on the pixel at the position where the pixel has moved 5 pixels upward, move 10 pixels to the left with respect to the target pixel, A 5 × 5 pixel block (indicated by B ′ in FIG. 96) centering on the pixel located at the position moved by 5 pixels downward is extracted. The pixel selection unit 461-2 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-2.
[0599]
The pixel selection unit 461-3 extracts a block of 5 × 5 pixels centered on the target pixel, and 5 on the right side with respect to the target pixel corresponding to a range of 33.7 degrees to 56.3 degrees. Move a pixel, extract a 5 × 5 pixel block (indicated by C in FIG. 96) centered on the pixel at the position where it has moved 5 pixels upward, move 5 pixels to the left with respect to the target pixel, A 5 × 5 pixel block (indicated by C ′ in FIG. 96) is extracted, centering on the pixel located at a position shifted by 5 pixels downward. The pixel selection unit 461-3 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-3.
[0600]
The pixel selection unit 461-4 extracts a block of 5 × 5 pixels centered on the target pixel, and 5 on the right side of the target pixel corresponding to a range of 56.3 degrees to 71.6 degrees. Move a pixel, extract a 5 × 5 pixel block (denoted by D in FIG. 96) centering on the pixel at the position 10 pixels above, move 5 pixels to the left with respect to the target pixel, A 5 × 5 pixel block (indicated by D ′ in FIG. 96) is extracted, centering on the pixel at the position moved 10 pixels downward. The pixel selection unit 461-4 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-4.
[0601]
The pixel selection unit 461-5 extracts a 5 × 5 pixel block centered on the pixel of interest, and 5 above the pixel of interest corresponding to a range of 71.6 degrees to 108.4 degrees. A block of 5 × 5 pixels (indicated by E in FIG. 96) centering on the pixel at the pixel moved position is extracted, and the pixel at the position moved 5 pixels downward from the target pixel is the center. The 5 × 5 pixel block (indicated by E ′ in FIG. 96) is extracted. The pixel selection unit 461-5 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-5.
[0602]
The pixel selection unit 461-6 extracts a 5 × 5 pixel block centered on the pixel of interest, and 5 on the left side of the pixel of interest corresponding to a range of 108.4 degrees to 123.7 degrees. Move the pixel, extract a 5 × 5 pixel block (indicated by F in FIG. 96) centered on the pixel at the position 10 pixels above, move 5 pixels to the right with respect to the target pixel, A 5 × 5 pixel block (indicated by F ′ in FIG. 96) is extracted centering on the pixel at the position moved 10 pixels downward. The pixel selection unit 461-6 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-6.
[0603]
The pixel selection unit 461-7 extracts a 5 × 5 pixel block centered on the pixel of interest, and 5 on the left side of the pixel of interest corresponding to a range of 123.7 degrees to 146.3 degrees. Move the pixel, extract a 5 × 5 pixel block (indicated by G in FIG. 96) centered on the pixel at the position where the pixel has moved 5 pixels upward, move 5 pixels to the right with respect to the target pixel, A 5 × 5 pixel block (indicated by G ′ in FIG. 96) is extracted, centering on the pixel located at the position moved 5 pixels downward. The pixel selection unit 461-7 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-7.
[0604]
The pixel selection unit 461-8 extracts a block of 5 × 5 pixels centered on the target pixel, and 10 pixels on the left side with respect to the target pixel corresponding to a range of 146.3 degrees to 161.6 degrees. Move the pixel, extract a 5 × 5 pixel block (indicated by H in FIG. 96) centered on the pixel at the position where the pixel has moved 5 pixels upward, move 10 pixels to the right with respect to the target pixel, A 5 × 5 pixel block (indicated by H ′ in FIG. 96) is extracted, centering on the pixel located at a position shifted by 5 pixels downward. The pixel selection unit 461-8 supplies the extracted three blocks of 5 × 5 pixels to the estimation error calculation unit 462-8.
[0605]
Hereinafter, a block composed of a predetermined number of pixels centered on the target pixel is referred to as a target block.
[0606]
Hereinafter, a block composed of a predetermined number of pixels corresponding to a range of a predetermined angle with respect to the target pixel and the reference axis is referred to as a reference block.
[0607]
As described above, the pixel selection unit 461-1 to the pixel selection unit 461-8 extract, for example, a target block and a reference block from a range of 25 × 25 pixels around the target pixel.
[0608]
The estimation error calculation unit 462-1 through the estimation error calculation unit 462-L detect the correlation between the target block and the two reference blocks supplied from the pixel selection unit 461-1 through the pixel selection unit 461-L. Correlation information indicating the detected correlation is supplied to the minimum error angle selection unit 463.
[0609]
For example, the estimation error calculation unit 462-1 corresponds to a target block composed of 5 × 5 pixels centered on the target pixel and ranges of 0 ° to 18.4 ° and 161.6 ° to 180.0 °. The pixel value of the pixel included in the target block and the reference block for the reference block of 5 × 5 pixels centered on the pixel at the position shifted by five pixels to the right with respect to the target pixel extracted in The absolute value of the difference from the pixel value of the included pixel is calculated.
[0610]
In this case, as shown in FIG. 97, the estimation error calculation unit 462-1 uses the absolute value of the difference between the pixel values based on the position where the center pixel of the target block and the center pixel of the reference block overlap. In order to use the pixel value of the target pixel for the calculation, the position of the target block is any one of two pixels on the left side to two pixels on the right side, and two pixels on the upper side to two pixels on the lower side with respect to the reference block. The absolute value of the difference between the pixel values of the pixels that overlap with each other is calculated. That is, the absolute value of the difference between the pixel values of the pixels at the corresponding positions in the 25 types of positions of the target block and the reference block is calculated. In other words, in the case where the absolute value of the pixel value difference is calculated, the range of the target block and the reference block that are relatively moved is 9 × 9 pixels.
[0611]
In FIG. 97, squares indicate pixels, A indicates a reference block, and B indicates a target block. In FIG. 97, a thick line indicates a target pixel. That is, FIG. 97 is a diagram illustrating an example in which the target block is moved 2 pixels on the right side and 1 pixel on the upper side with respect to the reference block.
[0612]
Further, the estimation error calculation unit 462-1 corresponds to a target block composed of 5 × 5 pixels centered on the target pixel and ranges of 0 ° to 18.4 ° and 161.6 ° to 180.0 °. The pixel value of the pixel included in the target block and the reference block for the reference block of 5 × 5 pixels centered on the pixel at the position shifted by five pixels to the left with respect to the target pixel extracted in The absolute value of the difference from the pixel value of the included pixel is calculated.
[0613]
Then, the estimation error calculation unit 462-1 obtains the sum of the absolute values of the calculated differences, and supplies the sum of the absolute values of the differences to the minimum error angle selection unit 463 as correlation information indicating correlation.
[0614]
  The estimation error calculation unit 462-2 has a block of interest consisting of 5 × 5 pixels and two reference blocks of 5 × 5 pixels extracted corresponding to a range of 18.4 degrees to 33.7 degrees. An absolute value of a difference between pixel values is calculated, and a sum of absolute values of the calculated differences is calculated. Estimated error calculator462-2Supplies the sum of the absolute values of the calculated differences to the minimum error angle selector 463 as correlation information indicating the correlation.
[0615]
Similarly, each of the estimation error calculation unit 462-3 through the estimation error calculation unit 462-8 has a 5 × 5 pixel extracted corresponding to a target block of 5 × 5 pixels and a predetermined angle range. For the two reference blocks, the absolute value of the difference between the pixel values is calculated, and the sum of the absolute values of the calculated differences is calculated. Each of the estimation error calculation unit 462-3 to the estimation error calculation unit 462-8 supplies the sum of the absolute values of the calculated differences to the minimum error angle selection unit 463 as correlation information indicating a correlation.
[0616]
The minimum error angle selection unit 463 indicates the strongest correlation among the sum of absolute values of pixel value differences as correlation information supplied from the estimation error calculation unit 462-1 to the estimation error calculation unit 462-8. An angle with respect to two reference blocks is detected as an angle of data continuity from the position of the reference block from which the minimum value is obtained, and data continuity information indicating the detected angle is output.
[0617]
Here, the relationship between the position of the reference block and the range of the data continuity angle will be described.
[0618]
When the approximate function f (x) that approximates a real-world signal is approximated by an n-dimensional one-dimensional polynomial, the approximate function f (x) can be expressed by Expression (30).
[0619]
[Expression 21]

... (30)
[0620]
When the waveform of the signal of the real world 1 approximated by the approximate function f (x) has a constant inclination (angle) with respect to the spatial direction Y, x in equation (30) is set to x + γy. In the obtained equation (31), an approximate function (x, y) that approximates the signal of the real world 1 is expressed.
[0621]
[Expression 22]

... (31)
[0622]
γ represents the ratio of the change in the position in the spatial direction X to the change in the position in the spatial direction Y. Hereinafter, γ is also referred to as a shift amount.
[0623]
FIG. 98 shows the positions and angles of pixels around the target pixel when the distance in the spatial direction X between the position of the target pixel and the straight line having the angle θ is 0, that is, when the straight line passes through the target pixel. It is a figure which shows the distance of the space direction X with the straight line which has (theta). Here, the position of the pixel is the position of the center of the pixel. The distance between the position and the straight line is indicated by a negative value when the position is on the left side of the straight line, and is indicated by a positive value when the position is on the right side of the straight line.
[0624]
For example, the distance in the spatial direction X between the position of the pixel adjacent to the right side of the target pixel, that is, the position where the coordinate x in the spatial direction X increases by 1 and the straight line having the angle θ is 1, and The distance in the spatial direction X between the position of the adjacent pixel, that is, the position where the coordinate x in the spatial direction X decreases by 1 and the straight line having the angle θ is −1. The distance in the spatial direction X between the position of the pixel adjacent to the upper side of the target pixel, that is, the position where the coordinate y in the spatial direction Y increases by 1 and the straight line having the angle θ is −γ, and is below the target pixel. The distance in the spatial direction X between the position of the adjacent pixel, that is, the position where the coordinate y in the spatial direction Y decreases by 1 and the straight line having the angle θ is γ.
[0625]
When the angle θ is greater than 45 degrees and less than 90 degrees, and the shift amount γ is greater than 0 and less than 1, the relational expression of γ = 1 / tan θ is established between the shift amount γ and the angle θ. It holds. FIG. 99 is a diagram showing the relationship between the shift amount γ and the angle θ.
[0626]
Here, attention is paid to the change in the distance in the spatial direction X between the position of the pixel around the target pixel and the straight line passing through the target pixel and having the angle θ with respect to the change in the shift amount γ.
[0627]
  FIG. 100 is a diagram illustrating the distance in the spatial direction X between the position of the pixel around the target pixel and the straight line passing through the target pixel and having the angle θ with respect to the shift amount γ. In FIG. 100, a one-dot chain line rising to the right indicates the distance in the spatial direction X between the position of the pixel adjacent to the lower side of the target pixel and the straight line with respect to the shift amount γ.Descending rightThe one-dot chain line indicates the distance in the spatial direction X between the position of the pixel adjacent to the upper side of the target pixel and the straight line with respect to the shift amount γ.
[0628]
  In FIG. 100, a two-dot chain line that rises to the right indicates the distance in the spatial direction X between the position of the pixel located one pixel on the lower side and the left side of the pixel from the target pixel with respect to the shift amount γ,Descending rightThe two-dot chain line indicates the distance in the spatial direction X between the position of the pixel located two pixels above the target pixel and the right side of the pixel and the straight line with respect to the shift amount γ.
[0629]
  In FIG. 100, a three-dot chain line that rises to the right indicates the distance in the spatial direction X between the position of the pixel located one pixel below and one pixel on the left side from the target pixel with respect to the shift amount γ,Descending rightThe three-dot chain line indicates the distance in the spatial direction X between the position of the pixel located one pixel above and one pixel right from the target pixel and the straight line with respect to the shift amount γ.
[0630]
From FIG. 100, the pixel having the shortest distance with respect to the shift amount γ is known.
[0631]
That is, when the shift amount γ is 0 to 1/3, the distance from the pixel adjacent to the upper side of the target pixel and the pixel adjacent to the lower side of the target pixel to the straight line is minimum. That is, when the angle θ is 71.6 degrees to 90 degrees, the distance from the pixel adjacent to the upper side of the target pixel and the pixel adjacent to the lower side of the target pixel to the straight line is the minimum.
[0632]
When the shift amount γ is 1/3 to 2/3, the pixel located two pixels above the target pixel and one pixel right side, and the pixel of interest two pixels below and one pixel left side The distance from the pixel located at to the straight line is the minimum. That is, when the angle θ is 56.3 degrees to 71.6 degrees, the pixel located two pixels above the target pixel, one pixel on the right side, and two pixels below the target pixel, The distance from the pixel located one pixel to the straight line is the minimum.
[0633]
Further, when the shift amount γ is 2/3 to 1, the pixel located one pixel above the target pixel and one pixel right side, and the pixel of interest one pixel below and one pixel left side The distance from the pixel located at to the straight line is the minimum. That is, when the angle θ is 45 degrees to 56.3 degrees, the pixel located one pixel above the target pixel and one pixel on the right side, and one pixel below the target pixel and one pixel below the target pixel. The distance from the pixel located on the left side to the straight line is the minimum.
[0634]
The relationship between the straight line in the range of the angle θ from 0 degrees to 45 degrees and the pixels can be considered in the same way.
[0635]
The pixel shown in FIG. 98 can be replaced with the target block and the reference block, and the distance in the spatial direction X between the reference block and the straight line can be considered.
[0636]
FIG. 101 shows a reference block that passes through the target pixel and has the smallest distance from the straight line having the angle θ with respect to the axis in the spatial direction X.
[0637]
A to H and A ′ to H ′ in FIG. 101 indicate reference blocks A to H and A ′ to H ′ in FIG. 96.
[0638]
That is, a straight line that passes through the target pixel and has an angle θ of 0 degrees to 18.4 degrees and 161.6 degrees to 180.0 degrees with respect to the axis in the spatial direction X, and A to H and A Of the distances in the spatial direction X with respect to the reference blocks' to H ', the distance between the straight line and the reference blocks A and A' is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of A and A ′ is strongest, certain features repeatedly appear in the direction connecting the block of interest and the reference blocks of A and A ′. Therefore, it can be said that the continuity angle of the data is in the range of 0 degrees to 18.4 degrees and 161.6 degrees to 180.0 degrees.
[0639]
A straight line that passes through the target pixel and has an angle θ of 18.4 degrees to 33.7 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks B and B ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks B and B ′ is strongest, certain features appear repeatedly in the direction connecting the block of interest and the reference blocks B and B ′. Therefore, it can be said that the steadiness angle of the data is in the range of 18.4 degrees to 33.7 degrees.
[0640]
A straight line that passes through the target pixel and has an angle θ of 33.7 degrees to 56.3 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks C and C ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of C and C ′ is strongest, certain features repeatedly appear in the direction connecting the block of interest and the reference blocks of C and C ′. Therefore, it can be said that the steadiness angle of the data is in the range of 33.7 degrees to 56.3 degrees.
[0641]
A straight line that passes through the pixel of interest and has an angle θ of 56.3 to 71.6 degrees with respect to the axis in the spatial direction X, and reference blocks A to H and A ′ to H ′, respectively Among the distances in the spatial direction X, the distance between the straight line and the reference blocks D and D ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of D and D ′ is strongest, certain features repeatedly appear in the direction connecting the block of interest and the reference blocks of D and D ′. Therefore, it can be said that the steadiness angle of the data is in the range of 56.3 degrees to 71.6 degrees.
[0642]
A straight line passing through the target pixel and having an angle θ of 71.6 degrees to 108.4 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks E and E ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of E and E ′ is strongest, certain features repeatedly appear in the direction connecting the block of interest and the reference blocks of E and E ′. Therefore, it can be said that the steadiness angle of the data is in the range of 71.6 degrees to 108.4 degrees.
[0643]
A straight line that passes through the pixel of interest and has an angle θ of 108.4 degrees to 123.7 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks F and F ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of F and F ′ is the strongest, certain features appear repeatedly in the direction connecting the block of interest and the reference blocks of F and F ′. Therefore, it can be said that the steadiness angle of the data is in the range of 108.4 degrees to 123.7 degrees.
[0644]
A straight line that passes through the pixel of interest and has an angle θ of 123.7 degrees to 146.3 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks G and G ′ is the smallest. Accordingly, conversely, when the correlation between the block of interest and the reference blocks of G and G ′ is strongest, certain features appear repeatedly in the direction connecting the block of interest and the reference blocks of G and G ′. Therefore, it can be said that the continuity angle of the data is in the range of 123.7 degrees to 146.3 degrees.
[0645]
A straight line that passes through the pixel of interest and has an angle θ of 146.3 degrees to 161.6 degrees with respect to the axis in the spatial direction X, and each of the reference blocks A to H and A ′ to H ′ Among the distances in the spatial direction X, the distance between the straight line and the reference blocks H and H ′ is the smallest. Therefore, conversely, when the correlation between the block of interest and the reference blocks of H and H ′ is the strongest, certain features repeatedly appear in the direction connecting the block of interest and the reference blocks of H and H ′. Therefore, it can be said that the steadiness angle of the data is in the range of 146.3 degrees to 161.6 degrees.
[0646]
As described above, the data continuity detecting unit 101 can detect the angle of data continuity based on the correlation between the block of interest and the reference block.
[0647]
In the data continuity detecting unit 101 having the configuration shown in FIG. 94, the range of the data continuity angle may be output as data continuity information. The value may be output as data continuity information. For example, the median value of the range of the steadiness angle of the data can be used as the representative value.
[0648]
Further, the data continuity detecting unit 101 having the configuration shown in FIG. 94 halves the range of the continuity angle of the detected data by using the correlation of the reference blocks around the reference block having the strongest correlation. That is, the resolution of the stationary angle of the data to be detected can be doubled.
[0649]
For example, when the correlation between the block of interest and the reference blocks of E and E ′ is strongest, the minimum error angle selector 463 correlates the reference blocks of D and D ′ with respect to the block of interest as shown in FIG. And the correlation of the reference blocks of F and F ′ with respect to the block of interest. When the correlation between the reference blocks D and D ′ with respect to the target block is stronger than the correlation between the reference blocks F and F ′ with respect to the target block, the minimum error angle selection unit 463 determines the angle of data continuity. In the range of 71.6 degrees to 90 degrees. In this case, the minimum error angle selection unit 463 may set 81 degrees as a representative value for the continuity angle of the data.
[0650]
When the correlation of the reference blocks of F and F ′ with respect to the target block is stronger than the correlation of the reference blocks of D and D ′ with respect to the target block, the minimum error angle selection unit 463 determines the angle of data continuity. The range of 90 degrees to 108.4 degrees is set. In this case, the minimum error angle selection unit 463 may set 99 degrees as a representative value for the continuity angle of the data.
[0651]
The minimum error angle selection unit 463 can halve the range of the steadiness angle of the detected data for other angle ranges by the same processing.
[0652]
The method described with reference to FIG. 102 is also referred to as a simple 16-direction detection method.
[0653]
As described above, the data continuity detecting unit 101 having the configuration shown in FIG. 94 can detect a data continuity angle with a narrower range by a simple process.
[0654]
Next, data continuity detection processing by the data continuity detection unit 101 whose configuration is shown in FIG. 94, corresponding to the processing in step S101, will be described with reference to the flowchart in FIG.
[0655]
In step S441, the data selection unit 441 selects a target pixel that is a target pixel from the input image. For example, the data selection unit 441 selects a target pixel from the input image in the raster scan order.
[0656]
In step S442, the data selection unit 441 selects a target block including a predetermined number of pixels centered on the target pixel. For example, the data selection unit 441 selects a target block including 5 × 5 pixels centered on the target pixel.
[0657]
In step S443, the data selection unit 441 selects a reference block including a predetermined number of pixels at predetermined positions around the target pixel. For example, the data selection unit 441 includes 5 × 5 pixels centered on a pixel at a predetermined position with respect to the size of the target block for each range of a predetermined angle with respect to the target pixel and the reference axis. Select a reference block.
[0658]
The data selection unit 441 supplies the target block and the reference block to the error estimation unit 442.
[0659]
In step S444, the error estimation unit 442 calculates the correlation between the block of interest and the reference block corresponding to the range of angles for each predetermined angle range based on the pixel of interest and the reference axis. The error estimation unit 442 supplies correlation information indicating the calculated correlation to the steady direction derivation unit 443.
[0660]
In step S445, the stationary direction deriving unit 443 determines the reference in the input image corresponding to the continuity of the image that is the missing optical signal of the real world 1 from the position of the reference block having the strongest correlation with the target block. Detects the continuity angle of the data with respect to the axis.
[0661]
The steady direction deriving unit 443 outputs data continuity information indicating the angle of continuity of the detected data.
[0662]
In step S446, the data selection unit 441 determines whether or not the processing of all the pixels has been completed, and when it is determined that the processing of all the pixels has not been completed, the process returns to step S441 and is still set as the target pixel. A pixel of interest is selected from the unselected pixels, and the above-described processing is repeated.
[0663]
If it is determined in step S446 that all pixels have been processed, the process ends.
[0664]
As described above, the data continuity detecting unit 101 having the configuration shown in FIG. 94 is a simpler process, and is based on the reference axis in the image data corresponding to the continuity of the missing optical signal in the real world 1. Can be detected. Further, the data continuity detecting unit 101 having the configuration shown in FIG. 94 can detect the continuity angle of data using pixel values of pixels in a relatively narrow range in the input image. Even if noise or the like is included in the input image, it is possible to more accurately detect the continuity angle of the data.
[0665]
Note that the data detection unit 101 whose configuration is shown in FIG. 94 includes a predetermined number of pixels from the target frame for the target pixel that is the target pixel of the target frame that is the target frame. A block centered on the pixel and a plurality of blocks each including a predetermined number of pixels around the target pixel are extracted, and a predetermined number from a frame preceding or following the target frame in time And a block centered on the pixel at the position corresponding to the target pixel and a plurality of blocks each including a predetermined number of pixels around the pixel at the position corresponding to the target pixel. The correlation between the block centered on the pixel and the spatially or temporally neighboring block is detected, and based on the correlation, the temporal and spatial data in the input image is detected. The angle of the normal resistance may be detected.
[0666]
For example, as illustrated in FIG. 104, the data selection unit 441 sequentially selects a pixel of interest from frame #n, which is a frame of interest, and a block including a predetermined number of pixels centered on the pixel of interest from frame #n. , And a plurality of blocks including a predetermined number of pixels around the target pixel are extracted. The data selection unit 441 also includes a block composed of a predetermined number of pixels centered on a pixel at a position corresponding to the position of the target pixel from each of the frame # n−1 and the frame # n + 1, and the target A plurality of blocks including a predetermined number of pixels around a pixel at a position corresponding to the pixel position are extracted. The data selection unit 441 supplies the extracted block to the error estimation unit 442.
[0667]
The error estimation unit 442 detects the correlation between the block centered on the target pixel and the spatially or temporally neighboring block supplied from the data selection unit 441, and steady-states correlation information indicating the detected correlation. This is supplied to the direction deriving unit 443. Based on the correlation information supplied from the error estimation unit 442, the stationarity direction deriving unit 443 determines the stationary state of the missing optical signal of the real world 1 from the position of the spatially or temporally neighboring block having the strongest correlation. An angle of continuity of data in the time direction and the spatial direction in the input image corresponding to the sex is detected, and data continuity information indicating the angle is output.
[0668]
Further, the data continuity detecting unit 101 can execute data continuity detection processing based on the component signal of the input image.
[0669]
FIG. 105 is a block diagram showing the configuration of the data continuity detecting unit 101 that executes data continuity detection processing based on the component signal of the input image.
[0670]
Each of the data continuity detection units 481-1 to 481-3 has the same configuration as that of the data continuity detection unit 101 described above or described later, and each of the component signals of the input image is processed as described above. Or the processing described later is executed.
[0671]
The data continuity detecting unit 481-1 detects data continuity based on the first component signal of the input image, and determines information indicating the continuity of the data detected from the first component signal. To supply. For example, the data continuity detecting unit 481-1 detects data continuity based on the luminance signal of the input image, and supplies information indicating the data continuity detected from the luminance signal to the determining unit 482.
[0672]
The data continuity detecting unit 481-2 detects data continuity based on the second component signal of the input image, and determines information indicating the data continuity detected from the second component signal. To supply. For example, the data continuity detection unit 481-2 detects data continuity based on the I signal that is the color difference signal of the input image, and determines information indicating the continuity of the data detected from the I signal. To supply.
[0673]
  The data continuity detecting unit 481-3 detects data continuity based on the third component signal of the input image, and determines information indicating the data continuity detected from the third component signal. To supply. For example, data continuity detection unit481-3Detects the continuity of data based on the Q signal that is the color difference signal of the input image, and supplies information indicating the continuity of the data detected from the Q signal to the determination unit 482.
[0674]
The determination unit 482 is based on the information indicating the continuity of data detected from each component signal supplied from the data continuity detection units 481-1 to 481-3, and the continuity of the final data in the input image. And data continuity information indicating the continuity of the detected data is output.
[0675]
For example, the determination unit 482 determines the continuity of the maximum data among the continuity of data detected from each component signal supplied from the data continuity detection units 481-1 to 481-3. Let it be stationary. Further, for example, the determination unit 482 finally determines the continuity of the minimum data among the continuity of the data detected from the component signals supplied from the data continuity detection units 481-1 to 481-3. Let the data be stationary.
[0676]
Further, for example, the determination unit 482 sets the average value of data continuity detected from each component signal supplied from the data continuity detection units 481-1 to 481-3 as the final data continuity. . The determination unit 482 uses the median (median value) of data detected from each component signal supplied from the data continuity detection units 481-1 to 481-3 as the final data continuity. It may be.
[0677]
In addition, for example, the determination unit 482 includes, based on a signal input from the outside, out of the continuity of data detected from each component signal supplied from the data continuity detection units 481-1 to 481-3. The stationarity of data specified by an externally input signal is defined as the final stationarity of data. Of the data continuity detected from the component signals supplied from the data continuity detection units 481-1 to 481-3, the determination unit 482 determines the continuity of the predetermined data as the final data continuity. You may make it sex.
[0678]
Note that the determination unit 482 determines the final data steady state based on the error obtained in the process of detecting the continuity of the data of each component signal supplied from the data continuity detection units 481-1 to 481-3. The sex may be determined. The error obtained in the data continuity detection process will be described later.
[0679]
FIG. 106 is a diagram illustrating another configuration of the data continuity detecting unit 101 that executes data continuity detection processing based on the component signal of the input image.
[0680]
The component processing unit 491 generates one signal based on the component signal of the input image and supplies it to the data continuity detection unit 492. For example, the component processing unit 491 generates a signal composed of the sum of the component signal values by adding the values in the component signals of the input image to the pixels at the same position on the screen.
[0681]
For example, the component processing unit 491 generates a signal composed of the average value of the pixel values of the component signals by averaging the pixel values of the component signals of the input image with respect to the pixels at the same position on the screen.
[0682]
The data continuity detection unit 492 detects data continuity in the input image based on the signal supplied from the component processing unit 491, and outputs data continuity information indicating the continuity of the detected data.
[0683]
The data continuity detecting unit 492 has the same configuration as that of the data continuity detecting unit 101 described above or described later, and performs the above-described or described processing on the signal supplied from the component processing unit 491. To do.
[0684]
As described above, the data continuity detection unit 101 detects the continuity of the data of the input image based on the component signal, so that even if the input image includes noise or the like, the data continuity detection unit 101 more accurately. Sex can be detected. For example, the data continuity detecting unit 101 detects the continuity of the data of the input image based on the component signal, so that the data continuity angle (slope), the mixing ratio, or the data steadiness is more accurately detected. A region having sex can be detected.
[0685]
The component signal is not limited to the luminance signal and the color difference signal, but may be a component signal of another method such as an RGB signal or a YUV signal.
[0686]
As described above, the continuity of the data corresponding to the continuity of the missing real-world optical signal of the image data in which the real-world optical signal is projected and a part of the continuity of the real-world optical signal is missing. When the optical signal is estimated by detecting the angle relative to the reference axis and estimating the steadiness of the missing real-world optical signal based on the detected angle, for the real-world event, More accurate and more accurate processing results can be obtained.
[0687]
Also, a predetermined number of pixels are projected for each target pixel of interest in the image data in which the real-world optical signal is projected and a part of the continuity of the real-world optical signal is missing and for each angle with reference to the reference axis. A set of pixels consisting of a plurality of sets, extracted for each angle, and detected the correlation of the pixel values of pixels at corresponding positions in the plurality of sets, and based on the detected correlation, missing Detecting the continuity angle of the data relative to the reference axis in the detected image data, based on the detected continuity angle in the image data corresponding to the steadiness of the optical signal in the real world When the optical signal is estimated by estimating the steadiness of the missing real-world optical signal, it is possible to obtain a more accurate and more accurate processing result for the real-world event. It becomes like this.
[0688]
FIG. 107 is a block diagram showing still another configuration of the data continuity detecting unit 101.
[0689]
In the data continuity detecting unit 101 shown in FIG. 107, a real-world optical signal is projected, and a pixel of interest that is a pixel of interest in image data that lacks a part of the continuity of the real-world optical signal is detected. The corresponding area is selected, and the frequency based on the correlation value is set for the pixel whose correlation value between the pixel value of the target pixel and the pixel value of the pixel belonging to the selected area is equal to or greater than the threshold value. The frequency of the pixel to which it belongs is detected, and by detecting the regression line based on the detected frequency, the continuity of the data of the image data corresponding to the continuity of the missing optical signal in the real world is detected.
[0690]
The frame memory 501 stores the input image in units of frames, and supplies the pixel values of the pixels constituting the stored frame to the pixel acquisition unit 502. The frame memory 501 stores the current frame of the input image in one page, and obtains the pixel value of the pixel of the previous (previous) frame with respect to the current frame stored in another page. The pixel value of the pixel of the frame of the input image that is a moving image can be supplied to the pixel acquisition unit 502 by switching the page at the switching time of the frame of the input image.
[0691]
The pixel acquisition unit 502 selects a target pixel that is a target pixel based on the pixel value of the pixel supplied from the frame memory 501, and includes a predetermined number of pixels corresponding to the selected target pixel. Select an area. For example, the pixel acquisition unit 502 selects a region composed of 5 × 5 pixels centered on the target pixel.
[0692]
The size of the area selected by the pixel acquisition unit 502 does not limit the present invention.
[0693]
The pixel acquisition unit 502 acquires the pixel value of the pixel in the selected region, and supplies the pixel value of the pixel in the selected region to the frequency detection unit 503.
[0694]
Based on the pixel value of the pixel in the selected region supplied from the pixel acquisition unit 502, the frequency detection unit 503 calculates the correlation value between the pixel value of the pixel of interest and the pixel value of the pixel belonging to the selected region. The frequency of pixels belonging to the region is detected by setting the frequency based on the correlation value to the pixels that are equal to or greater than the threshold. Details of the frequency setting process based on the correlation value in the frequency detection unit 503 will be described later.
[0695]
The frequency detection unit 503 supplies the detected frequency to the regression line calculation unit 504.
[0696]
The regression line calculation unit 504 calculates a regression line based on the frequency supplied from the frequency detection unit 503. For example, the regression line calculation unit 504 calculates a regression line based on the frequency supplied from the frequency detection unit 503. Further, for example, the regression line calculation unit 504 calculates a regression line that is a predetermined curve based on the frequency supplied from the frequency detection unit 503. The regression line calculation unit 504 supplies the calculated regression line and the calculation result parameter indicating the calculation result to the angle calculation unit 505. The calculation results indicated by the calculation parameters include fluctuations and co-variation described later.
[0697]
The angle calculation unit 505 is input image data that is image data corresponding to the continuity of the missing optical signal in the real world based on the regression line indicated by the calculation result parameter supplied from the regression line calculation unit 504. Detects stationarity. For example, the angle calculation unit 505 is based on the regression line indicated by the calculation result parameter supplied from the regression line calculation unit 504, and the reference in the input image corresponding to the continuity of the missing optical signal of the real world 1 is obtained. Detects the continuity angle of the data with respect to the axis. The angle calculation unit 505 outputs data continuity information indicating the continuity angle of data with reference to the reference axis in the force image.
[0698]
With reference to FIGS. 108 to 110, the angle of data continuity in the input image with reference to the reference axis will be described.
[0699]
In FIG. 108, a circle indicates one pixel, and a double circle indicates a target pixel. The circle color indicates an outline of the pixel value of the pixel, and the lighter color indicates a larger pixel value. For example, black indicates a pixel value of 30, and white indicates a pixel value of 120.
[0700]
When a person views an image composed of the pixels shown in FIG. 108, the person who viewed the image can recognize that a straight line extends obliquely in the upper right direction.
[0701]
The data continuity detecting unit 101 having the configuration shown in FIG. 107 detects that a straight line extends obliquely in the upper right direction when the input image including the pixels shown in FIG. 108 is input.
[0702]
109 is a diagram showing the pixel values of the pixels shown in FIG. 108 as numerical values. A circle indicates one pixel, and a numerical value in the circle indicates a pixel value.
[0703]
For example, the pixel value of the target pixel is 120, the pixel value of the upper pixel of the target pixel is 100, and the pixel value of the lower pixel of the target pixel is 100. Further, the pixel value of the pixel on the left side of the target pixel is 80, and the pixel value of the pixel on the right side of the target pixel is 80. Similarly, the pixel value of the pixel on the lower left side of the target pixel is 100, and the pixel value of the pixel on the upper right side of the target pixel is 100. The pixel value of the upper left pixel of the target pixel is 30, and the pixel value of the lower right pixel of the target pixel is 30.
[0704]
The data continuity detecting unit 101 having the configuration shown in FIG. 107 draws a regression line A as shown in FIG. 110 for the input image shown in FIG.
[0705]
FIG. 111 is a diagram illustrating the relationship between the change in pixel value and the regression line A with respect to the position in the spatial direction of the pixel in the input image. For example, as shown in FIG. 111, the pixel value of the pixel in the region having the continuity of data changes in a mountain range.
[0706]
The data continuity detecting unit 101 having the configuration shown in FIG. 107 draws a regression line A by the method of least squares using the pixel values of the pixels in the region having the data continuity as weights. The regression line A obtained by the data continuity detecting unit 101 represents the continuity of data around the pixel of interest.
[0707]
As shown in FIG. 112, the continuity angle of the data with reference to the reference axis in the input image is obtained as an angle θ between the regression line A and, for example, the axis indicating the spatial direction X as the reference axis. Is detected.
[0708]
Next, a specific method for calculating the regression line in the data continuity detecting unit 101 having the configuration shown in FIG. 107 will be described.
[0709]
For example, the frequency detection unit 503 is based on the pixel values of the pixels in the region consisting of 9 pixels in the spatial direction X, 5 pixels in the spatial direction Y, and 45 pixels in total, which are supplied from the pixel acquisition unit 502 and center on the target pixel. The frequency corresponding to the coordinates of the pixels belonging to the region is detected.
[0710]
For example, the frequency detection unit 503 calculates the frequency by the calculation represented by the expression (32), thereby calculating the coordinates (x_i, y_j) Frequency L_{i, j}Is detected.
[0711]
[Expression 23]

... (32)
[0712]
In equation (32), P_0,0Indicates the pixel value of the target pixel and P_{i, j}Is the coordinate (x_i, y_j) Indicates the pixel value of the pixel. Th indicates a threshold value.
[0713]
i indicates the order of pixels in the spatial direction X in the region, and 1 ≦ i ≦ k. j indicates the order of pixels in the spatial direction Y in the region, and 1 ≦ j ≦ l.
[0714]
  k indicates the number of pixels in the spatial direction X in the region, and l indicates the number of pixels in the spatial direction Y in the region. For example, when a region consists of 9 pixels in the spatial direction X and 5 pixels in the spatial direction Y, for a total of 45 pixels,kIs 9, and l is 5.
[0715]
FIG. 113 is a diagram illustrating an example of a region acquired by the pixel acquisition unit 502. In FIG. 113, a dotted square represents one pixel.
[0716]
For example, as shown in FIG. 113, the region includes nine pixels centered on the target pixel in the spatial direction X and five pixels centered on the target pixel in the spatial direction Y, and the coordinates (x, When y) is (0,0), the coordinates (x, y) of the upper left pixel of the region are (-4,2), and the coordinates (x, y) of the upper right pixel of the region are ( 4,2), the coordinates (x, y) of the lower left pixel of the region are (-4, -2), and the coordinates (x, y) of the lower right pixel of the region are (4,- 2).
[0717]
The pixel order i in the spatial direction X of the pixel on the left side of the region is 1, and the pixel order i in the spatial direction X of the pixel on the right side of the region is 9. The pixel order j in the spatial direction Y of the lower pixel of the region is 1, and the pixel order j of the upper pixel in the region in the spatial direction Y is 5.
[0718]
That is, the coordinates of the pixel of interest (x_Five, y_Three) Is (0,0), the coordinates of the upper left pixel of the area (x₁, y_Five) Is (-4,2) and the coordinates of the upper right pixel (x₉, y_Five) Is (4,2) and the coordinates of the lower left pixel of the region (x₁, y₁) Is (-4, -2) and the coordinates of the lower right pixel (x₉, y₁) Is (4, -2).
[0719]
Since the frequency detection unit 503 calculates the absolute value of the difference between the pixel value of the target pixel and the pixel value of the pixel belonging to the region as the correlation value in Expression (32), the image of the thin line in the real world 1 is projected. In the input image, not only the region having the continuity of the data but also the image of the real world 1 which is a color different from the background and has a single color and a straight edge is projected. The frequency indicating the feature of the spatial change of the pixel value in the region having the continuity of the binary edge data can be detected.
[0720]
Note that the frequency detection unit 503 may detect the frequency based not only on the absolute value of the difference from the pixel value of the pixel but also on another correlation value such as a correlation coefficient.
[0721]
Further, in the equation (32), the exponential function is applied in order to make a great difference in the frequency with respect to the difference in pixel value, and other functions may be applied.
[0722]
The threshold value Th can be an arbitrary value. For example, the threshold value Th can be set to 30.
[0723]
As described above, the frequency detection unit 503 sets the frequency based on the correlation value to the pixel whose correlation value with the pixel value of the pixel belonging to the selected region is equal to or greater than the threshold value, thereby determining the frequency of the pixel belonging to the region. To detect.
[0724]
In addition, for example, the frequency detection unit 503 calculates the frequency by the calculation represented by the expression (33), so that the coordinates (x_i, y_j) Frequency L_{i, j}Is detected.
[0725]
[Expression 24]

... (33)
[0726]
Coordinates (x_i, y_j) In L_{i, j}(1 ≦ i ≦ k, 1 ≦ j ≦ l), coordinates x_iFrequency L in space direction Y_{i, j}Sum of q_iIs expressed by equation (34), and the coordinates y_jFrequency L in space direction X_{i, j}Sum of h_jIs represented by Expression (35).
[0727]
[Expression 25]

... (34)
[0728]
[Equation 26]

... (35)
[0729]
The total sum u of frequencies is expressed by Expression (36).
[0730]
[Expression 27]

... (36)
[0731]
In the example shown in FIG. 113, the frequency L of the coordinate of the pixel of interest_5,3Is 3, and the frequency L of the coordinates of the pixel above the target pixel is L_5,4Is 1 and the frequency L of the coordinates of the pixel on the upper right side of the target pixel_6,4Is 4, the frequency L of the coordinates of the pixel on the right side of the pixel by 2 pixels above the target pixel_6,5Is 2 and is the frequency L of the coordinates of the pixel on the right side of the pixel by 2 pixels above the pixel of interest._7,5Is 3. Also, the frequency L of the coordinates of the pixel below the target pixel_5,2Is 2, and the frequency L of the coordinates of the pixel to the left of the pixel of interest_4,3Is 1 and the frequency L of the coordinates of the lower left pixel of the target pixel_4,2Is 3, and the frequency L of the coordinates of the pixel on the lower side of the pixel by 2 pixels to the left of the pixel of interest_3,2Is 2, and is the frequency L of the coordinates of the pixel on the lower side of the pixel by 2 pixels below the pixel of interest._3,1Is 4. The frequency of the coordinates of other pixels in the region shown in FIG. 113 is 0. In FIG. 113, the frequency of 0 is omitted.
[0732]
In the region shown in FIG. 113, the sum q of the frequencies in the spatial direction Y₁Is 0 because the frequency L where i is 1 is all 0, and q₂Is 0 because the frequencies L where i is 2 are all 0. q_ThreeIs the frequency L_3,2Is 2, frequency L_3,1Is 6, so is 6. Similarly, q_FourIs 4 and q_FiveIs 6 and q₆Is 6 and q₇Is 3, q₈Is 0 and q₉Is 0.
[0733]
In the region shown in FIG. 113, the sum h of frequencies in the spatial direction X₁Is the frequency L_3,1Is 4, so is 4. h₂Is the frequency L_3,2Is 2, frequency L_4,2Is 3, frequency L_5,2Is 7, so is 7. Similarly, h_ThreeIs 4 and h_FourIs 5 and h_FiveIs 5.
[0734]
In the region shown in FIG. 113, the total sum u of frequencies is 25.
[0735]
Frequency L in space direction Y_{i, j}Sum of q_iWith coordinates x_iSum T of the results of multiplying by_xIs represented by Expression (37).
[0736]
[Expression 28]

... (37)
[0737]
Frequency L in space direction X_{i, j}Sum of h_jThe coordinate y_jSum T of the results of multiplying by_yIs represented by Expression (37).
[0738]
[Expression 29]

... (38)
[0739]
For example, in the region shown in FIG. 113, q₁Is 0 and x₁Is -4, so q₁x₁Is 0 and q₂Is 0 and x₂Is -3, so q₂x₂Is 0. Similarly, q_ThreeIs 6, and x_ThreeIs -2, so q_Threex_ThreeIs -12 and q_FourIs 4, and x_FourIs -1, so q_Fourx_FourIs -4 and q_FiveIs 6, and x_FiveIs 0, so q_Fivex_FiveIs 0. Similarly, q₆Is 6, and x₆Is 1, so q₆x₆Is 6, q₇Is 3, and x₇Is 2, so q₇x₇Is 6, q₈Is 0 and x₈Is 3, so q₈x₈Is 0 and q₉Is 0 and x₉Is 4, so q₉x₉Is 0. Therefore, q₁x₁Thru q₉x₉T which is the sum of_xIs -4.
[0740]
For example, in the region shown in FIG. 113, h₁Is 4, y₁Is -2, so h₁y₁Is -8 and h₂Is 7, y₂Is -1, so h₂y₂Is -7. Similarly, h_ThreeIs 4, y_ThreeIs 0, so h_Threey_ThreeIs 0 and h_FourIs 5, y_FourIs 1, so h_Foury_FourIs 5 and h_FiveIs 5, y_FiveIs 2, so h_Fivey_FiveIs 10. Therefore, h₁y₁Thru h_Fivey_FiveT which is the sum of_yIs 0.
[0741]
Q_iIs defined as follows.
[0741]
[30]

... (39)
[0743]
x variation S_xIs represented by Formula (40).
[0744]
[31]

... (40)
[0745]
fluctuation of y_yIs represented by Formula (41).
[0746]
[Expression 32]

... (41)
[0747]
Covariation S_xyIs represented by equation (42).
[0748]
[Expression 33]

... (42)
[0749]
Consider obtaining a linear regression line represented by equation (43).
[0750]
y = ax + b (43)
[0751]
The slope a and the intercept b can be obtained as follows by the method of least squares.
[0752]
[Expression 34]

... (44)
[0753]
[Expression 35]

... (45)
[0754]
However, the necessary condition for obtaining the correct regression line is the frequency L_{i, j}Is distributed in a Gaussian distribution with respect to the regression line. In other words, the frequency detection unit 503 has a frequency L_{i, j}So that the pixel value of the region pixel is the frequency L_{i, j}Need to be converted to
[0755]
The regression line calculation unit 504 obtains a regression line by executing the calculations represented by the equations (44) and (45).
[0756]
The angle calculation unit 505 converts the slope a of the regression line into an angle θ with respect to the axis in the spatial direction X, which is the reference axis, by the calculation shown in Expression (46).
[0757]
θ = tan^-1(a) ... (46)
[0758]
When the regression line calculation unit 504 calculates a regression line that is a predetermined curve, the angle calculation unit 505 obtains the angle θ of the regression line at the position of the target pixel with respect to the reference axis.
[0759]
Here, in order to detect data continuity for each pixel, the intercept b is not necessary. Thus, consider obtaining a linear regression line represented by equation (47).
[0760]
y = ax (47)
[0761]
In this case, the regression line calculation unit 504 can obtain the slope a by Expression (48) by the method of least squares.
[0762]
[Expression 36]

... (48)
[0763]
With reference to the flowchart of FIG. 114, the data continuity detection processing by the data continuity detection unit 101 whose configuration is shown in FIG. 107, corresponding to the processing of step S101, will be described.
[0764]
In step S <b> 501, the pixel acquisition unit 502 selects a target pixel from pixels that are not yet set as the target pixel. For example, the pixel acquisition unit 502 selects a target pixel in the raster scan order. In step S <b> 502, the pixel acquisition unit 502 acquires a pixel value of a pixel included in a region centered on the target pixel, and supplies the acquired pixel value of the pixel to the frequency detection unit 503. For example, the pixel acquisition unit 502 selects a region composed of 9 × 5 pixels centered on the target pixel, and acquires the pixel values of the pixels included in the region.
[0765]
In step S503, the frequency detection unit 503 detects the frequency by converting the pixel value of the pixel included in the region into the frequency. For example, the frequency detection unit 503 converts the pixel value to the frequency L by the calculation shown in Expression (32)._{i, j}Convert to In this case, frequency L_{i, j}So that the pixel value of the pixel in the region is a frequency L_{i, j}Is converted to The frequency detection unit 503 supplies the converted frequency to the regression line calculation unit 504.
[0766]
In step S504, the regression line calculation unit 504 obtains a regression line based on the frequency supplied from the frequency detection unit 503. For example, the regression line calculation unit 504 obtains a regression line based on the frequency supplied from the frequency detection unit 503. More specifically, the regression line calculation unit 504 executes a calculation represented by Expression (44) and Expression (45) to obtain a regression line. The regression line calculation unit 504 supplies a calculation result parameter indicating the regression line that is the calculated result to the angle calculation unit 505.
[0767]
In step S505, the angle calculation unit 505 detects the continuity of the data of the image data corresponding to the continuity of the missing optical signal in the real world by calculating the angle of the regression line with respect to the reference axis. For example, the angle calculation unit 505 converts the slope a of the regression line into an angle θ with respect to the axis in the spatial direction X, which is the reference axis, by the calculation shown in Expression (46). The angle calculation unit 505 outputs data continuity information indicating the angle of the regression line with respect to the reference axis.
[0768]
Note that the angle calculation unit 505 may output data continuity information indicating the inclination a.
[0769]
In step S506, the pixel acquisition unit 502 determines whether or not all pixels have been processed, and if it is determined that all pixels have not been processed, the process returns to step S501 and is still a target pixel. A pixel of interest is selected from the unselected pixels, and the above-described processing is repeated.
[0770]
If it is determined in step S506 that all pixels have been processed, the process ends.
[0771]
In this way, the data continuity detecting unit 101 having the configuration shown in FIG. 107 calculates the continuity angle of data with reference to the reference axis in the image data corresponding to the continuity of the missing optical signal of the real world 1. Can be detected.
[0772]
In particular, the data continuity detecting unit 101 having the configuration shown in FIG. 107 can obtain an angle equal to or smaller than a pixel based on the pixel value of a pixel in a relatively narrow region.
[0773]
As described above, the region corresponding to the target pixel that is the target pixel of the image data in which the real-world optical signal is projected and a part of the continuity of the real-world optical signal is lost is selected, and the target pixel is selected. The frequency of pixels belonging to the region is detected and detected by setting the frequency based on the correlation value to pixels whose correlation value between the pixel value of the pixel and the pixel value of the pixel belonging to the selected region is equal to or greater than the threshold value. By detecting the regression line based on the measured frequency, the stationarity of the image data corresponding to the stationarity of the missing real-world optical signal is detected, and based on the stationarity of the detected image data. If the optical signal is estimated by estimating the continuity of the missing real-world optical signal, it is possible to obtain a more accurate and more accurate processing result for the real-world event. It becomes like this.
[0774]
Note that the data continuity detecting unit 101 having the configuration shown in FIG. 107 converts the pixel values of pixels belonging to a predetermined region into a frequency for the target frame to which the target pixel belongs and the frames before and after the target frame, If the regression plane is obtained based on the frequency, it is possible to detect the continuity angle of the data in the time direction together with the continuity angle of the data in the spatial direction.
[0775]
FIG. 115 is a block diagram showing still another configuration of the data continuity detecting unit 101.
[0776]
In the data continuity detecting unit 101 shown in FIG. 115, a real-world optical signal is projected, and a pixel of interest that is a pixel of interest in image data that lacks a part of the continuity of the real-world optical signal is detected. The corresponding area is selected, and the frequency based on the correlation value is set for the pixel whose correlation value between the pixel value of the target pixel and the pixel value of the pixel belonging to the selected area is equal to or greater than the threshold value. By detecting the frequency of the pixel to which the pixel belongs and detecting a regression line based on the detected frequency, a region having data continuity in the image data corresponding to the continuity of the missing optical signal in the real world is detected. .
[0777]
The frame memory 601 stores an input image in units of frames and supplies pixel values of pixels constituting the stored frame to the pixel acquisition unit 602. The frame memory 601 stores the current frame of the input image in one page, and obtains the pixel value of the pixel of the previous (previous) frame with respect to the current frame stored in another page. The pixel value of the pixel of the frame of the input image which is a moving image can be supplied to the pixel acquisition unit 602 by switching the page at the switching time of the frame of the input image.
[0778]
The pixel acquisition unit 602 selects a target pixel as a target pixel based on the pixel value of the pixel supplied from the frame memory 601 and includes a predetermined number of pixels corresponding to the selected target pixel. Select an area. For example, the pixel acquisition unit 602 selects a region composed of 5 × 5 pixels centered on the target pixel.
[0779]
The size of the area selected by the pixel acquisition unit 602 does not limit the present invention.
[0780]
The pixel acquisition unit 602 acquires the pixel value of the pixel in the selected region, and supplies the pixel value of the pixel in the selected region to the frequency detection unit 603.
[0781]
Based on the pixel value of the pixel in the selected region supplied from the pixel acquisition unit 602, the frequency detection unit 603 obtains a correlation value between the pixel value of the pixel of interest and the pixel value of the pixel belonging to the selected region. The frequency of pixels belonging to the region is detected by setting the frequency based on the correlation value to the pixels that are equal to or greater than the threshold value. Details of the frequency setting process based on the correlation value in the frequency detection unit 603 will be described later.
[0782]
The frequency detection unit 603 supplies the detected frequency to the regression line calculation unit 604.
[0783]
The regression line calculation unit 604 calculates a regression line based on the frequency supplied from the frequency detection unit 603. For example, the regression line calculation unit 604 calculates a regression line based on the frequency supplied from the frequency detection unit 603. Further, for example, the regression line calculation unit 604 calculates a regression line that is a predetermined curve based on the frequency supplied from the frequency detection unit 603. The regression line calculation unit 604 supplies the calculated regression line and a calculation result parameter indicating the calculation result to the region calculation unit 605. The calculation results indicated by the calculation parameters include fluctuations and co-variation described later.
[0784]
The area calculation unit 605 performs data in the input image, which is image data, corresponding to the continuity of the missing optical signal in the real world based on the regression line indicated by the calculation result parameter supplied from the regression line calculation unit 604. A region having the continuity of is detected.
[0785]
FIG. 116 is a diagram illustrating a relationship between a change in the pixel value and a regression line A with respect to the position in the spatial direction of the pixel in the input image. For example, as shown in FIG. 116, the pixel value of the pixel in the region having the continuity of data changes in a mountain range.
[0786]
The data continuity detecting unit 101 having the configuration shown in FIG. 115 draws a regression line A by the method of least squares using the pixel values of the pixels in the region having the data continuity as weights. The regression line A obtained by the data continuity detecting unit 101 represents the continuity of data around the pixel of interest.
[0787]
Drawing a regression line means approximation based on a Gaussian function. As shown in FIG. 117, the data continuity detecting unit 101 having the configuration shown in FIG. 115 knows the approximate width of the area in the data 3 where the thin line image is projected, for example, by obtaining the standard deviation. Can do. In addition, for example, the data continuity detecting unit 101 having the configuration shown in FIG. 115 can know the approximate width of the area in the data 3 on which the thin line image is projected based on the correlation coefficient.
[0788]
Next, a specific method for calculating the regression line in the data continuity detecting unit 101 having the configuration shown in FIG. 115 will be described.
[0789]
For example, the frequency detection unit 603 is supplied from the pixel acquisition unit 602 based on the pixel values of the pixels in the region consisting of 9 pixels in the spatial direction X and 5 pixels in the spatial direction Y, with a total of 45 pixels centered on the target pixel. The frequency corresponding to the coordinates of the pixels belonging to the region is detected.
[0790]
For example, the frequency detection unit 603 calculates the frequency by the calculation represented by the formula (49), thereby calculating the coordinates (x_i, y_j) Frequency L_{i, j}Is detected.
[0791]
[Expression 37]

... (49)
[0792]
In formula (49), P_0,0Indicates the pixel value of the target pixel and P_{i, j}Is the coordinate (x_i, y_j) Indicates the pixel value of the pixel. Th indicates a threshold value.
[0793]
i indicates the order of pixels in the spatial direction X in the region, and 1 ≦ i ≦ k. j indicates the order of pixels in the spatial direction Y in the region, and 1 ≦ j ≦ l.
[0794]
k indicates the number of pixels in the spatial direction X in the region, and l indicates the number of pixels in the spatial direction Y in the region. For example, when the region is composed of 9 pixels in the spatial direction X and 5 pixels in the spatial direction Y, for a total of 45 pixels, K is 9 and l is 5.
[0795]
FIG. 118 is a diagram illustrating an example of a region acquired by the pixel acquisition unit 602. In FIG. 118, a dotted square represents one pixel.
[0796]
For example, as shown in FIG. 118, the region is composed of 9 pixels centered on the target pixel in the spatial direction X, and 5 pixels centered on the target pixel in the spatial direction Y, and the coordinates (x, When y) is (0,0), the coordinates (x, y) of the upper left pixel of the area are (-4,2), and the coordinates (x, y) of the upper right pixel of the area are ( 4,2), the coordinates (x, y) of the lower left pixel of the region are (-4, -2), and the coordinates (x, y) of the lower right pixel of the region are (4,- 2).
[0797]
The pixel order i in the spatial direction X of the pixel on the left side of the region is 1, and the pixel order i in the spatial direction X of the pixel on the right side of the region is 9. The pixel order j in the spatial direction Y of the lower pixel of the region is 1, and the pixel order j of the upper pixel in the region in the spatial direction Y is 5.
[0798]
That is, the coordinates of the pixel of interest (x_Five, y_Three) Is (0,0), the coordinates of the upper left pixel of the area (x₁, y_Five) Is (-4,2) and the coordinates of the upper right pixel (x₉, y_Five) Is (4,2) and the coordinates of the lower left pixel of the region (x₁, y₁) Is (-4, -2) and the coordinates of the lower right pixel (x₉, y₁) Is (4, -2).
[0799]
Since the frequency detection unit 603 calculates the absolute value of the difference between the pixel value of the target pixel and the pixel value of the pixel belonging to the region as the correlation value in Expression (49), the image of the thin line in the real world 1 is projected. In the input image, not only the region having the continuity of the data but also the image of the real world 1 which is a color different from the background and has a single color and a straight edge is projected. Thus, it is possible to detect the frequency indicating the feature of the spatial change of the pixel value in the region having the continuity of the binary edge data.
[0800]
Note that the frequency detection unit 603 may detect the frequency based not only on the absolute value of the difference from the pixel value of the pixel but also on another correlation value such as a correlation coefficient.
[0801]
Further, in the formula (49), the exponential function is applied in order to make a large difference in the frequency with respect to the difference in pixel value, and other functions may be applied.
[0802]
The threshold value Th can be an arbitrary value. For example, the threshold value Th can be set to 30.
[0803]
As described above, the frequency detection unit 603 sets the frequency based on the correlation value to the pixel whose correlation value with the pixel value of the pixel belonging to the selected area is equal to or greater than the threshold value, thereby determining the frequency of the pixel belonging to the area. To detect.
[0804]
In addition, for example, the frequency detection unit 603 calculates the frequency by the calculation represented by the formula (50), so that the coordinates (x_i, y_j) Frequency L_{i, j}Is detected.
[0805]
[Formula 38]

... (50)
[0806]
Coordinates (x_i, y_j) In L_{i, j}(1 ≦ i ≦ k, 1 ≦ j ≦ l), coordinates x_iFrequency L in space direction Y_{i, j}Sum of q_iIs expressed by equation (51), and the coordinates y_jFrequency L in space direction X_{i, j}Sum of h_jIs represented by Formula (52).
[0807]
[39]

... (51)
[0808]
[Formula 40]

... (52)
[0809]
The total frequency u is expressed by the equation (53).
[0810]
[Expression 41]

... (53)
[0811]
In the example shown in FIG. 118, the frequency L of the coordinate of the target pixel_5,3Is 3, and the frequency L of the coordinates of the pixel above the target pixel is L_5,4Is 1 and the frequency L of the coordinates of the pixel on the upper right side of the target pixel_6,4Is 4, the frequency L of the coordinates of the pixel on the right side of the pixel by 2 pixels above the target pixel_6,5Is 2 and is the frequency L of the coordinates of the pixel on the right side of the pixel by 2 pixels above the pixel of interest._7,5Is 3. Also, the frequency L of the coordinates of the pixel below the target pixel_5,2Is 2, and the frequency L of the coordinates of the pixel to the left of the pixel of interest_4,3Is 1 and the frequency L of the coordinates of the lower left pixel of the target pixel_4,2Is 3, and the frequency L of the coordinates of the pixel on the lower side of the pixel by 2 pixels to the left of the pixel of interest_3,2Is 2, and is the frequency L of the coordinates of the pixel on the lower side of the pixel by 2 pixels below the pixel of interest._3,1Is 4. The frequency of the coordinates of other pixels in the region shown in FIG. 118 is 0. In FIG. 118, the frequency of 0 is omitted.
[0812]
118, the sum q of the frequencies in the spatial direction Y₁Is 0 because the frequency L where i is 1 is all 0, and q₂Is 0 because the frequencies L where i is 2 are all 0. q_ThreeIs the frequency L_3,2Is 2, frequency L_3,1Is 6, so is 6. Similarly, q_FourIs 4 and q_FiveIs 6 and q₆Is 6 and q₇Is 3, q₈Is 0 and q₉Is 0.
[0813]
In the region shown in FIG. 118, the sum h of frequencies in the spatial direction X₁Is the frequency L_3,1Is 4, so is 4. h₂Is the frequency L_3,2Is 2, frequency L_4,2Is 3, frequency L_5,2Is 7, so is 7. Similarly, h_ThreeIs 4 and h_FourIs 5 and h_FiveIs 5.
[0814]
In the region shown in FIG. 118, the total sum u of frequencies is 25.
[0815]
Frequency L in space direction Y_{i, j}Sum of q_iWith coordinates x_iSum T of the results of multiplying by_xIs represented by Formula (54).
[0816]
[Expression 42]

... (54)
[0817]
Frequency L in space direction X_{i, j}Sum of h_jThe coordinate y_jSum T of the results of multiplying by_yIs represented by Expression (55).
[0818]
[Expression 43]

... (55)
[0819]
For example, in the region shown in FIG. 118, q₁Is 0 and x₁Is -4, so q₁x₁Is 0 and q₂Is 0 and x₂Is -3, so q₂x₂Is 0. Similarly, q_ThreeIs 6, and x_ThreeIs -2, so q_Threex_ThreeIs -12 and q_FourIs 4, and x_FourIs -1, so q_Fourx_FourIs -4 and q_FiveIs 6, and x_FiveIs 0, so q_Fivex_FiveIs 0. Similarly, q₆Is 6, and x₆Is 1, so q₆x₆Is 6, q₇Is 3, and x₇Is 2, so q₇x₇Is 6, q₈Is 0 and x₈Is 3, so q₈x₈Is 0 and q₉Is 0 and x₉Is 4, so q₉x₉Is 0. Therefore, q₁x₁Thru q₉x₉T which is the sum of_xIs -4.
[0820]
For example, in the region shown in FIG. 118, h₁Is 4, y₁Is -2, so h₁y₁Is -8 and h₂Is 7, y₂Is -1, so h₂y₂Is -7. Similarly, h_ThreeIs 4, y_ThreeIs 0, so h_Threey_ThreeIs 0 and h_FourIs 5, y_FourIs 1, so h_Foury_FourIs 5 and h_FiveIs 5, y_FiveIs 2, so h_Fivey_FiveIs 10. Therefore, h₁y₁Thru h_Fivey_FiveT which is the sum of_yIs 0.
[0821]
Q_iIs defined as follows.
[0822]
(44)

... (56)
[0823]
x variation S_xIs represented by Expression (57).
[0824]
[Equation 45]

... (57)
[0825]
fluctuation of y_yIs represented by Formula (58).
[0826]
[Equation 46]

... (58)
[0827]
Covariation S_xyIs represented by Equation (59).
[0828]
[Equation 47]

... (59)
[0829]
Consider obtaining a linear regression line represented by equation (60).
[0830]
y = ax + b (60)
[0831]
The slope a and the intercept b can be obtained as follows by the method of least squares.
[0832]
[Formula 48]

... (61)
[0833]
[Equation 49]

... (62)
[0834]
However, the necessary condition for obtaining the correct regression line is the frequency L_{i, j}Is distributed in a Gaussian distribution with respect to the regression line. In other words, the frequency detection unit 603 performs a frequency L_{i, j}So that the pixel value of the region pixel is the frequency L_{i, j}Need to be converted to
[0835]
The regression line calculation unit 604 obtains a regression line by executing the calculations represented by the equations (61) and (62).
[0836]
Further, the intercept b is not necessary for detecting the continuity of data for each pixel. Accordingly, consider obtaining a linear regression line represented by equation (63).
[0837]
y = ax (63)
[0838]
In this case, the regression line calculation unit 604 can obtain the slope a by Expression (64) by the method of least squares.
[0839]
[Equation 50]

... (64)
[0840]
In the first method for specifying a region having data continuity, an estimation error of a regression line shown in Expression (60) is used.
[0841]
fluctuation of y_{y ・ x}Is obtained by the calculation represented by the equation (65).
[0841]
[Formula 51]

... (65)
[0843]
The variance of the estimation error is obtained by the calculation represented by Expression (66) using the fluctuation.
[0844]
[Formula 52]

... (66)
[0845]
Therefore, the standard deviation is derived from the following equation.
[0846]
[Equation 53]

... (67)
[0847]
However, if the standard deviation is an area where the image of the thin line is projected, it is an amount equivalent to the width of the thin line. Therefore, it is determined that the standard deviation is not an area having a steady state of data because the standard deviation is large. It is not possible. However, for example, the class classification adaptation process fails because the narrow line width is narrow in the area with the steady state of data, so in order to detect areas where the class classification adaptation process is likely to fail, Information indicating a region detected using the deviation can be used.
[0848]
The area calculation unit 605 calculates a standard deviation by the calculation represented by the equation (67), and calculates an area having data continuity in the input image based on the standard deviation. For example, the area calculation unit 605 obtains a distance by multiplying a standard deviation by a predetermined coefficient, and sets an area within the obtained distance from the regression line as an area having data continuity. For example, the region calculation unit 605 calculates a region having a distance within the standard deviation from the regression line as a region having the continuity of data with the regression line as the center.
[0849]
In the second method, the frequency correlation is used to detect a region having a steady state of data.
[0850]
Correlation coefficient r_xyIs the variation of x S_x, Y variation S_y, And covariation S_xyBased on the above, it can be obtained by the calculation represented by the equation (68).
[0851]
[Formula 54]

... (68)
[0852]
Since the correlation includes a positive correlation and a negative correlation, the region calculation unit 605 calculates the correlation coefficient r_xyFind the absolute value of_xyIt is determined that the closer the absolute value of is to 1, the stronger the correlation is. More specifically, the area calculation unit 605 calculates the threshold value and the correlation coefficient r._xyAnd the correlation coefficient r_xyA region where the absolute value of is equal to or greater than a threshold is detected as a region having data continuity.
[0853]
With reference to the flowchart in FIG. 119, data continuity detection processing by the data continuity detection unit 101 having the configuration shown in FIG. 115 corresponding to the processing in step S101 will be described.
[0854]
In step S <b> 601, the pixel acquisition unit 602 selects a target pixel from pixels that have not yet been set as the target pixel. For example, the pixel acquisition unit 602 selects a target pixel in the raster scan order. In step S <b> 602, the pixel acquisition unit 602 acquires pixel values of pixels included in a region centered on the target pixel, and supplies the acquired pixel values of the pixels to the frequency detection unit 603. For example, the pixel acquisition unit 602 selects a region composed of 9 × 5 pixels centered on the target pixel, and acquires the pixel values of the pixels included in the region.
[0855]
In step S603, the frequency detection unit 603 detects the frequency by converting the pixel value of the pixel included in the region into the frequency. For example, the frequency detection unit 603 converts the pixel value to the frequency L by the calculation represented by Expression (49)._{i, j}Convert to In this case, frequency L_{i, j}Is distributed in a Gaussian distribution, the pixel values of the pixels in the region are frequency L_{i, j}Is converted to The frequency detection unit 603 supplies the converted frequency to the regression line calculation unit 604.
[0856]
In step S604, the regression line calculation unit 604 obtains a regression line based on the frequency supplied from the frequency detection unit 503. For example, the regression line calculation unit 604 obtains a regression line based on the frequency supplied from the frequency detection unit 603. More specifically, the regression line calculation unit 604 obtains a regression line by executing the calculations represented by the equations (61) and (62). The regression line calculation unit 604 supplies a calculation result parameter indicating the regression line that is the calculated result to the region calculation unit 605.
[0857]
In step S605, the region calculation unit 605 calculates a standard deviation for the regression line. For example, the region calculation unit 605 calculates a standard deviation with respect to the regression line by the calculation shown in Expression (67).
[0858]
In step S606, the region calculation unit 605 identifies a region having data continuity in the input image from the standard deviation. For example, the area calculation unit 605 obtains a distance by multiplying the standard deviation by a predetermined coefficient, and identifies an area within the obtained distance as an area having data continuity from the regression line.
[0859]
The area calculation unit 605 outputs data continuity information indicating an area having data continuity.
[0860]
In step S <b> 607, the pixel acquisition unit 602 determines whether or not all pixels have been processed. If it is determined that all pixels have not been processed, the pixel acquisition unit 602 returns to step S <b> 601 and is still a target pixel. A pixel of interest is selected from the unselected pixels, and the above-described processing is repeated.
[0861]
If it is determined in step S607 that all pixels have been processed, the process ends.
[0862]
With reference to the flowchart of FIG. 120, another process of detecting data continuity by the data continuity detecting unit 101 whose configuration is shown in FIG. 115 corresponding to the process of step S <b> 101 will be described. Since the process of step S621 thru | or step S624 is the same as the process of step S601 thru | or step S604, the description is abbreviate | omitted.
[0863]
In step S625, the region calculation unit 605 calculates a correlation coefficient for the regression line. For example, the region calculation unit 605 calculates a correlation coefficient with respect to the regression line by the calculation represented by Expression (68).
[0864]
In step S626, the region calculation unit 605 identifies a region having data continuity in the input image from the correlation coefficient. For example, the region calculation unit 605 compares a threshold value stored in advance with the absolute value of the correlation coefficient, and specifies a region where the absolute value of the correlation coefficient is equal to or greater than the threshold value as a region having data continuity. .
[0865]
The area calculation unit 605 outputs data continuity information indicating an area having data continuity.
[0866]
Since the process of step S627 is the same as the process of step S607, the description thereof is omitted.
[0867]
In this way, the data continuity detecting unit 101 having the configuration shown in FIG. 115 can detect a region having data continuity in the image data corresponding to the continuity of the missing optical signal of the real world 1. .
[0868]
As described above, the region corresponding to the target pixel that is the target pixel of the image data in which the real-world optical signal is projected and a part of the continuity of the real-world optical signal is lost is selected, and the target pixel is selected. The frequency of pixels belonging to the region is detected and detected by setting the frequency based on the correlation value to pixels whose correlation value between the pixel value of the pixel and the pixel value of the pixel belonging to the selected region is equal to or greater than the threshold value. By detecting the regression line based on the frequency, the region having the continuity of the data in the image data corresponding to the steadiness of the missing optical signal in the real world is detected, and the steady state of the data of the detected image data is detected. If the optical signal is estimated by estimating the continuity of the missing optical signal in the real world based on the characteristics, a more accurate and more accurate processing result is obtained for the real-world event. I can To become.
[0869]
FIG. 121 shows the configuration of another embodiment of the data continuity detecting unit 101.
[0870]
121 includes a data selection unit 701, a data addition unit 702, and a steady direction deriving unit 703.
[0871]
The data selection unit 701 selects each pixel of the input image as a target pixel, selects pixel value data of a pixel corresponding to each target pixel, and outputs the pixel value data to the data addition unit 702.
[0872]
The data addition unit 702 performs addition calculation in the least square method based on the data input from the data selection unit 701, and outputs the addition calculation result to the steady direction deriving unit 703. The addition calculation by the data addition unit 702 is an operation in the term of summation used for the calculation of the least square method, which will be described later, and the calculation result is a feature of image data for detecting a stationary angle. It can be said that there is.
[0873]
The steady direction deriving unit 703 determines the steady direction, that is, the angle from the reference axis of the data continuity (for example, a slant such as a thin line or a binary edge) from the addition calculation result input from the data adding unit 702. Or direction) and outputs this as data continuity information.
[0874]
Next, with reference to FIG. 122, an outline of an operation for detecting continuity (direction or angle) in the data continuity detecting unit 101 will be described. In FIGS. 122 and 123, portions corresponding to those in FIGS. 6 and 7 are denoted by the same reference numerals, and description thereof will be omitted below as appropriate.
[0875]
As shown in FIG. 122, a signal (for example, an image) in the real world 1 is obtained by a sensor 2 (for example, CCD (Charge Coupled) by an optical system 141 (for example, a lens or LPF (Low Pass Filter)). Device) or CMOS (Complementary Metal-Oxide Semiconductor), etc.). The sensor 2 is composed of an element having integration characteristics such as CCD and CMOS. With such a configuration, an image obtained from the data 3 output from the sensor 2 is different from the image of the real world 1 (the difference is generated from the image of the real world 1).
[0876]
Therefore, as shown in FIG. 123, the data continuity detecting unit 101 uses the model 705 to approximately describe the real world 1 using an approximate expression, and extracts data continuity from the approximate expression. The model 705 is expressed by N variables, for example. More precisely, the model 705 approximates (describes) the real world 1 signal.
[0877]
The data continuity detecting unit 101 extracts M pieces of data 706 from the data 3 in order to predict the model 705. As a result, the model 705 is constrained by data continuity.
[0878]
That is, the model 705 is an information indicating an event in the real world 1 having continuity (a constant characteristic in a predetermined dimension direction) that causes data continuity of data in the data 3 when acquired by the sensor 2. (Signal)) is approximated.
[0879]
Here, if the number M of data 706 is equal to or greater than the number N of variables in the model 705, the model 705 represented by N variables can be predicted from the M data 706.
[0880]
Furthermore, the data continuity detecting unit 101 predicts a model 705 that approximates (describes) the real world 1 (signal thereof), thereby determining the data continuity included in the signal that is information of the real world 1 by, for example, a thin line Or a binary edge direction (inclination or an angle formed with an axis when a predetermined direction is used as an axis), and is output as data continuity information.
[0881]
Next, the data continuity detecting unit 101 that outputs the direction (angle) of a thin line from the input image as data continuity information will be described with reference to FIG.
[0882]
The data selection unit 701 includes a horizontal / vertical determination unit 711 and a data acquisition unit 712. The horizontal / vertical determination unit 711 determines whether the angle of the thin line of the input image with respect to the horizontal direction is a thin line close to the horizontal direction or a thin line close to the vertical direction from the difference in pixel value between the target pixel and the surrounding pixels. The determination result is output to the data acquisition unit 712 and the data addition unit 702, respectively.
[0883]
  More specifically, for example, another method may be used in the sense of this method. For example, a simple 16-azimuth detection technique may be used here. As illustrated in FIG. 125, the horizontal / vertical determination unit 711 determines the difference between pixels in the horizontal direction (difference in pixel values between pixels) between the pixel of interest and the pixels adjacent to the pixel of interest (difference between pixel values). Activity) sum (hdiff) and vertical difference between pixels (activity)(vdiff)Difference (hdiff-vdiff) is obtained, and it is determined whether the sum of differences between pixels of which the pixel of interest is adjacent in the vertical direction is large or the sum of differences between pixels adjacent in the horizontal direction is large. Here, in FIG. 125, each square represents a pixel, and the center pixel in the figure is the target pixel. Further, the difference between the pixels indicated by the dotted arrows in the figure is the difference between the pixels in the horizontal direction, and the sum thereof is indicated by hdiff. Further, a difference between pixels indicated by a solid line arrow in the figure is a difference between pixels in the vertical direction, and the sum is indicated by vdiff.
[0884]
  Based on the difference sum hdiff of the pixel values between the pixels in the horizontal direction thus obtained and the difference sum vdiff of the pixel values between the pixels in the vertical direction, the horizontal / vertical determination unit 711 determines that (hdiff−vdiff) is If it is positive, the change (activity) in the pixel value between the pixels in the horizontal direction is larger than that in the vertical direction. Therefore, as shown in FIG.0 Every time≦ θ ≦180 Every time)45 Every time<Θ ≦135 Every timeThat is, it is determined that the pixel belongs to a thin line at an angle close to the vertical direction. Conversely, if it is negative, the change in pixel value (activity) between the pixels in the vertical direction is large.0 Every time≦ θ <45 Every timeOr135 Every time<Θ ≦180 Every timeThat is, it is determined that the pixel belongs to a fine line with an angle close to the horizontal direction (the pixels existing in the direction (angle) in which the fine line continues are pixels that express the fine line, and therefore the change between the pixels. (Activity) should be small).
[0885]
Further, the horizontal / vertical determining unit 711 includes a counter (not shown) for identifying each pixel of the input image, and is used as necessary.
[0886]
In FIG. 125, the sum of the pixel value differences between the pixels in the vertical direction and the horizontal direction in the range of 3 pixels × 3 pixels around the target pixel is compared, and the thin line is close to the vertical direction. The example of determining whether or not it is close to the horizontal direction has been described. However, the direction of the thin line may be determined by the same method using a larger number of pixels, for example, 5 pixels × 5 centering on the target pixel. The determination may be made based on a pixel or a block having more pixels such as 7 pixels × 7 pixels.
[0887]
Based on the determination result of the direction of the thin line input from the horizontal / vertical determination unit 711, the data acquisition unit 712 is a block unit including a plurality of pixels arranged in the horizontal direction corresponding to the target pixel, or a plurality of units arranged in the vertical direction. The pixel value is read (acquired) in units of blocks of pixels, and between adjacent pixels in the direction of the determination result of the horizontal / vertical direction determination unit 711 between a plurality of pixels corresponding to each read pixel (acquired) Together with the difference data, the data of the maximum value and the minimum value of the pixel values from the pixels included in the block having a predetermined number of pixels are output to the data adding unit 702. In the following, a block of a plurality of pixels acquired corresponding to the target pixel by the data acquisition unit 712 is referred to as an acquisition block (an acquisition block is, for example, a plurality of pixels (each of which is shown in FIG. 139 described later) When the pixel indicated by the black square is the pixel of interest, the total of 15 pixels for the upper and lower pixels and the left and right pixels is 15).
[0888]
The difference adding unit 721 of the data adding unit 702 detects the difference data input from the data selecting unit 701, and the horizontal or vertical direction input from the horizontal / vertical determining unit 711 of the data selecting unit 701 is detected. Based on the determination result, an addition process necessary for the solution of the least square method described later is executed, and the addition result is output to the steady direction deriving unit 703. More specifically, among the plurality of pixels, the difference data of the pixel values between the pixel i and the pixel (i + 1) adjacent in the determination direction by the horizontal / vertical determination unit 711 is yi, and an acquisition block corresponding to the target pixel Is composed of n pixels, the difference adding unit 721 is (y1) in each horizontal direction or vertical direction.²+ (Y2)²+ (Y3)²The calculation is performed by adding +... And output to the steady direction deriving unit 703.
[0889]
The MaxMin acquisition unit 722 is a block (hereinafter referred to as a dynamic range block) set for each pixel included in the acquisition block corresponding to the target pixel input from the data selection unit 701. Among the pixels of the acquisition block indicated by (1), for example, the pixel pix12 is surrounded by a black solid line, and is represented by a dynamic range block B1, which is a total of 7 pixels corresponding to the upper and lower pixels of the pixel pix12)))) When the maximum and minimum pixel values of the included pixels are acquired, the dynamic range Dri (the maximum and minimum pixel values of the pixels included in the dynamic range block corresponding to the i-th pixel in the acquired block is calculated from the difference. (Difference between values) is calculated (detected) and output to the difference adding unit 723.
[0890]
The difference adding unit 723 detects the dynamic range Dri input from the MaxMin acquisition unit 722 and the difference data input from the data selection unit 701, and the data selection unit 701 based on the detected dynamic range Dri and the difference data. The value obtained by multiplying the dynamic range Dri and the difference data yi is added for each horizontal direction or vertical direction input from the horizontal / vertical determination unit 711, and the calculation result is output to the steady direction deriving unit 703. That is, the calculation result output from the difference adding unit 723 is y1 × Dr1 + y2 × Dr2 + y3 × Dr3 +... For each horizontal direction or vertical direction.
[0891]
The steady direction calculation unit 731 of the steady direction deriving unit 703 calculates the angle (direction) of the thin line based on the addition calculation result for each horizontal direction or vertical direction input from the data addition unit 702. The calculated angle is output as continuity information.
[0892]
Here, a method of calculating the direction of the fine line (the inclination or angle of the fine line) will be described.
[0893]
When the portion surrounded by the white line in the input image as shown in FIG. 127A is enlarged, the thin line (in the figure, the white line rising to the right and diagonally) is actually displayed as shown in FIG. 127B. ing. That is, in the real world, as shown in FIG. 127C, an image has a boundary between two types of levels, a thin line level (indicated by a lightly shaded area in FIG. 127C) and a background level, and other levels It will not exist. On the other hand, as shown in FIG. 127B, an image captured by the sensor 2, that is, an image captured in units of pixels, has a pixel in which the background level and the fine line level are spatially mixed due to the integration effect. The image is such that blocks composed of a plurality of pixels arranged in the vertical direction so that the ratio (mixing ratio) changes in a constant pattern are repeatedly arranged in the thin line direction. In FIG. 127B, each square-shaped square represents one CCD pixel, and the length of each side is d_CCD. In the grid, the grid-filled portion is the minimum pixel value corresponding to the background level, and the other shaded portions are pixel values as the density of the diagonal lines decreases. (Therefore, white squares without diagonal lines are the maximum pixel values).
[0894]
As shown in FIG. 128A, when a thin line is present on the real world background, the real world image is an image of a portion corresponding to the level on the horizontal axis and the level on the vertical axis, as shown in FIG. 128B. When the upper area is shown, the relationship of the occupied area on the image between the area corresponding to the background in the image and the area corresponding to the thin line is shown.
[0895]
Similarly, as shown in FIG. 129A, an image captured by the sensor 2 is a pixel in which the background level and the fine line level arranged vertically are mixed in the background level pixels, and the mixing ratio is predetermined. Since the blocks arranged in the vertical direction while changing in the pattern of FIG. 129 become an image that is repeatedly arranged in the direction in which the thin line is present, as shown in FIG. In addition, there is a spatial mixed region composed of pixels that are obtained as a result of spatial mixing of the background and the thin line, which takes an intermediate level between the thin line levels. Here, in FIG. 129B, the vertical axis represents the number of pixels, but the area of one pixel is (d_CCD)²Therefore, it can be said that the relationship between the pixel value level and the number of pixels in FIG. 129B is the same as the relationship between the pixel value level and the area distribution.
[0896]
The same result is obtained as shown in FIG. 130B even in a portion surrounded by a white line in the actual image of FIG. 130A (an image of 31 pixels × 31 pixels). That is, in the background portion shown in FIG. 130A (the portion that appears black in FIG. 130A), as shown in FIG. 130B, many pixels with low pixel value levels (pixel values around 20) are distributed. These portions with little change form an image of the background area. On the other hand, the portion where the pixel value level in FIG. 130B is not low, that is, the pixels whose pixel value level is distributed in the vicinity of 40 to 160 is a pixel belonging to the spatial mixing region that forms a thin line image. Although the number of pixels per pixel value is small, it is distributed over a wide range of pixel values.
[0897]
By the way, the levels of the background and the thin line in the real-world image change as shown in FIG. 131B when viewed in the arrow direction (Y-coordinate direction) shown in FIG. 131A, for example. That is, in the background area from the starting point of the arrow to the thin line, the background level is a relatively low level, and in the thin line area, the level is a high-level thin line. Lower background level. As a result, it becomes a pulse-like waveform in which only the thin line region has a high level.
[0898]
On the other hand, among the images captured by the sensor 2, pixels on the spatial direction X = X1 in FIG. 132A corresponding to the direction of the arrow in FIG. 131A (pixels indicated by black circles in FIG. 132A) ) And the spatial direction Y of the pixel are as shown in FIG. 132B. In FIG. 132A, a space between two white lines rising to the right indicates a thin line on the real world image.
[0899]
That is, as shown in FIG. 132B, since the pixel corresponding to the center pixel in FIG. 132A has the highest pixel value, the pixel value of each pixel has a position in the spatial direction Y from the bottom in the figure to the center. It becomes higher as it goes to the pixel, and when it passes through the center position, it gradually decreases. As a result, a mountain-shaped waveform is formed as shown in FIG. 132B. In addition, the change in the pixel value of each pixel corresponding to the spatial direction X = X0, X2 in FIG. 132A has the same external shape although the peak position in the spatial direction Y is shifted according to the inclination of the thin line.
[0900]
For example, in the case of an image actually captured by the sensor 2 as shown in FIG. 133A, the same result is obtained as shown in FIG. 133B. That is, FIG. 133B corresponds to the spatial direction Y for each predetermined spatial direction X (X = 561, 562, 563 in the figure) of the pixel values in the vicinity of the thin line in the range surrounded by the white line in the image of FIG. 133A. The change in the pixel value is shown. Thus, even in an image captured by the actual sensor 2, X = 561 is near Y = 730, X = 562 is near Y = 705, and X = 563 is near Y = 685. Thus, each has a peak-like waveform.
[0901]
As described above, the waveform indicating the change in the level near the thin line of the real-world image is a pulse waveform, whereas the waveform indicating the change in the pixel value of the image captured by the sensor 2 is a mountain-shaped waveform. It becomes.
[0902]
That is, in other words, the level of the real-world image should have a waveform as shown in FIG. 131B, but the image taken by the sensor 2 is captured as shown in FIG. 132B. It can be said that the change is distorted and the waveform is different from the real world image (the real world information is missing).
[0903]
Therefore, in order to obtain the continuity information of the real-world image from the image captured by the sensor 2, a model for approximating the real world from the image data obtained from the sensor 2 (FIG. 123). Corresponding to the model 705). For example, in the case of a thin line, an image of the real world is set as shown in FIG. That is, the level of the background part on the left side in the figure is B1, the level of the background part on the right side in the figure is B2, the level of the fine line part is L, the mixing ratio of the fine lines is α, the width of the fine lines is W, and the horizontal direction of the fine lines Set a parameter with an angle θ, model it, set a function that approximately represents the real world, find an approximate function that approximately represents the real world by obtaining each parameter, and then use the approximate function to obtain a thin line Direction (inclination or angle with respect to the reference axis).
[0904]
At this time, the left and right portions of the background region can be approximated as being the same, and therefore, as shown in FIG. 135, they are unified as B (= B1 = B2). Further, the width of the thin line is assumed to be one pixel or more. When the sensor 2 captures the real world set in this way, the captured image is captured as shown in FIG. 136A. In FIG. 136A, a space between two white lines rising to the right indicates a thin line on the real world image.
[0905]
That is, the pixel existing at the position on the thin line in the real world is the level closest to the level of the thin line, and the pixel value decreases with increasing distance from the thin line in the vertical direction (the direction of the spatial direction Y) and touches the thin line region. A pixel value of a pixel existing at a position where there is nothing, that is, a pixel in the background area has a background level pixel value. At this time, the pixel value of the pixel existing at the position straddling the fine line region and the background region is a pixel value obtained by mixing the pixel value B of the background level and the pixel value L of the fine line level with the mixture ratio α.
[0906]
Thus, when each pixel of the captured image is a target pixel, the data acquisition unit 712 extracts a pixel of the acquisition block corresponding to the target pixel, and for each pixel constituting the extracted acquisition block, A dynamic range block is extracted, and a pixel having a maximum pixel value and a pixel having a minimum value are extracted from among the pixels constituting the dynamic range block. That is, as shown in FIG. 136A, a pixel (for example, in the figure) of a dynamic range block corresponding to a predetermined pixel in the acquisition block (pixel pix4 in which a square is described by a solid black line in one square in the figure). If the pixels pix1 to 7 surrounded by a solid black line are extracted, the real-world image corresponding to each pixel is as shown in FIG. 136B.
[0907]
  That is, as shown in FIG. 136B, in the pixel pix1, a portion that occupies approximately 1/8 of the area on the left is the background region, and a portion that occupies approximately 7/8 of the area on the right is the thin line region. In the pixel pix2, substantially the entire area is a thin line area. In the pixel pix3, a portion that occupies an area of approximately 7/8 in the left portion is a thin line region, and a portion that occupies the area of 1/8 in the right portionbackgroundIt becomes an area. In the pixel pix4, a portion that occupies approximately 2/3 of the area on the left is a thin line region, and a portion that occupies approximately 1/3 of the area on the right is a background region. In the pixel pix5, a portion that occupies approximately 1/3 of the area on the left is a thin line region, and a portion that occupies approximately 2/3 of the area on the right is a background region. In the pixel pix6, a portion that occupies approximately 1/8 of the area on the left is a thin line region, and a portion that occupies approximately 7/8 on the right is a background region. Further, the entire pixel pix7 becomes a background area.
[0908]
As a result, the pixel value of each pixel pix1 to pix7 of the dynamic range block shown in FIG. 136 is a mixture ratio corresponding to the ratio of the area of the fine line region and the background region, and the pixel value in which the background level and the fine line level are mixed. Become. That is, the mixing ratio of the background level to the foreground level is approximately 1: 7 for the pixel pix1, approximately 0: 1 for the pixel pix2, approximately 1: 7 for the pixel pix3, approximately 1: 2 for the pixel pix4, and approximately 2: for the pixel pix5. 1. Pixel pix6 is approximately 7: 1 and pixel pix7 is approximately 1: 0.
[0909]
Therefore, the pixel values of the pixels pix1 to pix7 of the extracted dynamic range block are the highest in the pixel pix2, followed by the pixels pix1 and 3, followed by the pixels pix4, 5, 6, and 7 in descending order. Become. Therefore, in the case shown in FIG. 136B, the maximum value is the pixel value of the pixel pix2, and the minimum value is the pixel value of the pixel pix7.
[0910]
In addition, as shown in FIG. 137A, the direction of the fine line can be said to be a direction in which pixels having the maximum pixel value continue, and the direction in which the pixels having the maximum value are arranged becomes the direction of the fine line. .
[0911]
Here, the inclination G indicating the direction of the thin line_flIs the ratio of the change in the spatial direction Y (the change in the distance) to the unit distance in the spatial direction X. Therefore, in the case shown in FIG. 137A, for the distance of one pixel in the spatial direction X in the figure, The distance in the spatial direction Y is the gradient G_flIt becomes.
[0912]
As shown in FIG. 137B, the change of the pixel value with respect to each of the spatial directions Y in the spatial directions X0 to X2 repeats a mountain-shaped waveform at a predetermined interval for each spatial direction X. As described above, in the image captured by the sensor 2, the thin line is the direction in which the pixels having the maximum value are continuous, and therefore the interval S in the spatial direction Y that is the maximum value in each spatial direction X is the inclination of the thin line. G_flIt becomes. That is, as shown in FIG. 137C, the amount of change in the vertical direction with respect to the distance of one pixel in the horizontal direction is the gradient G._flIt becomes. Therefore, the inclination G of this thin line_fl(Corresponding to the angle when the horizontal direction is the reference axis), as shown in FIG. 137C, when the angle of the thin line with the horizontal direction corresponding to the inclination as the reference axis is expressed as θ, 69) is established.
[0913]

[0914]
In addition, a model as shown in FIG. 135 is set, and the relationship between the pixel in the spatial direction Y and the pixel value is such that the mountain-shaped waveform shown in FIG. 137B is a complete triangular waveform (rising or falling). As shown in FIG. 138, the pixel value of each pixel existing in the spatial direction Y in the spatial direction X of the predetermined target pixel is assumed to be an isosceles triangular waveform. When Max = L (here, a pixel value corresponding to the level of the thin line in the real world) and Min = B (here, a pixel value corresponding to the level of the background in the real world), The relationship shown by the following formula | equation (70) is materialized.
[0915]

[0916]
Here, d_y indicates a difference in pixel value between pixels in the spatial direction Y.
[0917]
That is, the gradient G in the spatial direction_flIs larger, the thin line is closer to a more vertical one, so the mountain-shaped waveform becomes an isosceles triangular waveform with a large base, and conversely, the smaller the slope S, the smaller an isosceles triangular waveform becomes. . As a result, the slope G_flIs larger, the pixel value difference d_y between the pixels in the spatial direction Y is smaller, and as the slope S is smaller, the pixel value difference d_y between the pixels in the spatial direction Y is larger.
[0918]
Therefore, the gradient G for which the relationship of the above-described formula (70) is established._flIt is possible to obtain the angle θ of the thin line with respect to the reference axis. Equation (70) is expressed as G_flTherefore, the difference d_y of pixel values (perpendicular direction) between neighboring pixels and the difference (LB) between the maximum value and the minimum value are set to 1 for the target pixel. It can be obtained by using a pair, but as described above, it uses an approximate expression based on the assumption that the change in the pixel value in the spatial direction Y is a complete triangular waveform. The dynamic range block is extracted for each pixel of the extracted block, and the dynamic range Dr is obtained from the maximum value and the minimum value, and the pixel value difference d_y between the pixels in the spatial direction Y for each pixel of the extraction block is calculated. And statistically determined by the method of least squares.
[0919]
Here, in the description of the statistical processing by the least square method, first, details of the extraction block and the dynamic range block will be described.
[0920]
  For example, as illustrated in FIG. 139, the extraction block includes three pixels above and below the spatial direction Y and the spatial direction X of the pixel of interest (a square pixel in which a square is drawn with a solid black line in the drawing). A total of 15 pixels for one pixel on the left and right may be used. Also, in this case, the pixel value difference d_y between the pixels of each pixel in the extraction block is, for example, when the difference corresponding to the pixel pix11 is indicated by d_y11, and when the spatial direction X = X0, the pixels pix11, pix12, and pix12 And pix13, pix13 and pix14,pix 14 and pix 15,Differences d_y11 to d_y16 of pixel values between the pixels of pix15 and pix16 and pix16 and pix17 are obtained. At this time, the difference in pixel value between pixels is obtained in the same manner for the spatial direction X = X1, X2. As a result, in this case, there are 18 pixel value differences d_y between the pixels.
[0921]
Furthermore, for each pixel of the extraction block, the pixel of the dynamic range block is determined to be in the vertical direction in this case, for example, based on the determination result of the horizontal / vertical determination unit 711 for the pixel pix11. As shown in FIG. 139, assuming that there are 7 pixels in the range of the dynamic range block B1 of 3 pixels in the vertical direction (spatial direction Y) including the pixel pix11, this dynamic range block B1 The maximum value and the minimum value of the pixel values of these pixels are obtained, and the dynamic range obtained from the maximum value and the minimum value is set as the dynamic range Dr11. Similarly, for the pixel pix12 of the extraction block, the dynamic range Dr12 is similarly obtained from the seven pixels of the dynamic range block B2 in FIG. In this way, based on the combination of the 18 inter-pixel differences d_yi in the extraction block and the corresponding dynamic range Dri, the gradient G is statistically calculated using the method of least squares._flIs required.
[0922]
Next, a method of solving the one-variable least square method will be described. Here, it is assumed that the determination result of the horizontal / vertical determination unit 711 is the vertical direction.
[0923]
The solution by the one-variable least square method is, for example, the slope G of the straight line made up of the predicted values Dri_c that minimizes the distance to all the measured values indicated by the black dots shown in FIG._flIs what you want. Therefore, the slope S is obtained by the following method from the relationship represented by the above formula (70).
[0924]
That is, the above formula (70) is described as shown by the following formula (71) when the difference between the maximum value and the minimum value is the dynamic range Dr.
[0925]

[0926]
The dynamic range Dri_c is obtained by substituting the difference d_yi for each pixel of the extraction block into the above-described equation (71). Therefore, the relationship of the following formula | equation (72) is satisfy | filled about each pixel.
[0927]

[0928]
  Here, the difference d_yi is the difference in pixel values between pixels in the spatial direction Y of each pixel i (for example, the pixel value between the pixels adjacent to the pixel i in the upward or downward direction with respect to the pixel i). Difference)Dri_c is a dynamic range obtained when Expression (70) is established for the pixel i.
[0929]
As described above, the method of least squares referred to here is the difference between the dynamic range Dri_c of the pixel i of the extraction block and the dynamic range Dri_r that is the measured value of the pixel i obtained by the method described with reference to FIG. Gradient G when sum of squares Q is minimum for all pixels in the image_flIt is a method to ask for. Accordingly, the sum of squared differences Q is obtained by the following equation (73).
[0930]
[Expression 55]

... (73)
[0931]
Since the sum of squared differences Q expressed by the equation (73) is a quadratic function, the variable G_fl(Slope G_fl) Is a downwardly convex curve as shown in FIG._flG that minimizes_flmin is the least squares solution.
[0932]
The sum of squared differences Q expressed by equation (73) is a variable G_flIs differentiated by dQ / dG expressed by the following equation (74):_flIt becomes.
[0933]
[56]

... (74)
[0934]
G for which equation (74) is 0_flG takes the minimum value of the sum of squared differences Q shown in FIG._flTherefore, by expanding the equation when equation (74) becomes 0, the gradient G is expressed by the following equation (75)._flWill be required.
[0935]
[Equation 57]

... (75)
[0936]
The above equation (75) is a so-called one variable (gradient G_fl) Is a normal equation.
[0937]
Thus, the obtained gradient G_flIs substituted into the above equation (69) to obtain the inclination G of the thin line_flThe angle θ of the fine line when the horizontal direction is the reference axis can be obtained.
[0938]
  In the above description, the angle θ when the target pixel has the horizontal direction as the reference axis is45 Every time≦ θ <135 Every timeThe example in the case where the pixel is on a fine line that falls within the range of has been described. For example, the pixel of interest has an angle θ of the fine line with respect to the reference axis in the horizontal direction.0 Every time≦ θ <45 Every timeOr135 Every time≦ θ <108 Every timeAnd the pixel value difference between the pixels adjacent to the pixel i becomes the pixel value difference d_xi between the pixels adjacent to the pixel i in the same manner. When obtaining the maximum or minimum pixel value from a plurality of corresponding pixels, the pixels of the dynamic range block to be extracted are also selected from the plurality of pixels existing in the horizontal direction with respect to the pixel i. It will be. Regarding the processing in this case, only the relationship between the horizontal direction and the vertical direction in the above description is interchanged, and thus the description thereof is omitted.
[0939]
It is also possible to obtain an angle corresponding to the slope of the binary edge by a similar method.
[0940]
That is, when the portion surrounded by the white line in the input image as shown in FIG. 142A is enlarged, the edge portion in the image (below the character drawn in white “10” drawn on the black flag in the figure) (Hereinafter, the edge portion on the image having a binary level is also referred to as a binary edge in this way) is actually displayed as shown in FIG. 142B. That is, in the real world, as shown in FIG. 142C, in the image, in the image, the first level (the level of the flag ground) and the second level (the character level (the hatched portion with a low density in FIG. 142C)). ) Is formed, and there are no other levels. On the other hand, an image captured by the sensor 2, that is, an image captured in units of pixels, is a pixel in which the first level and the second level are spatially mixed as shown in FIG. 142B. First, the region is such that a block composed of a plurality of pixels arranged in the vertical direction so that the ratio (mixing ratio) changes in a constant pattern is repeatedly arranged in the direction in which the edge is formed. The image includes a portion where pixels of the first level are arranged and a portion where pixels of the second level are arranged.
[0941]
That is, as shown in FIG. 143A, for the spatial direction X = X0, X1, X2, the change in the pixel value in each spatial direction Y is shown in FIG. The pixel value has a predetermined minimum value up to the vicinity of the boundary of the value edge (upward straight line in FIG. 143A), but the pixel value gradually increases near the boundary of the binary edge. Exceeding point P in the figure_EThe pixel value becomes a predetermined maximum value. More specifically, as shown in FIG. 143B, the change in the spatial direction X = X0 is a point P at which the pixel value becomes the minimum value._SAfter passing through the pixel value, the pixel value gradually increases to become a point P0 that is the maximum pixel value. On the other hand, since the change in the pixel value of each pixel corresponding to the spatial direction X = X1 has a waveform shifted in the spatial direction, as shown in FIG. 143B, the pixel value gradually increases from the minimum pixel value. Is increased in the positive direction of the spatial direction Y, and increases to the maximum pixel value via the point P1 in the figure. Further, the change in the pixel value in the spatial direction Y in the spatial direction X = X2 decreases via a point P2 in the figure further shifted in the positive direction in the spatial direction Y, and changes from the maximum value to the minimum value. Become.
[0942]
The same tendency can be seen in a portion surrounded by a white line in an actual image. That is, in the part surrounded by the white line in the actual image in FIG. 144A (31 pixel × 31 pixel image), the background part (the part that appears black in FIG. 144A) is the pixel as shown in FIG. 144B. A large number of pixels having low values (pixel values near 90) are distributed, and these small changes form an image of the background area. On the other hand, the part where the pixel value in FIG. 144B is not low, that is, the pixel whose pixel value is distributed near 100 to 200 is the distribution of the pixels belonging to the spatial mixed region of the character region and the background region. Although the number of pixels per pixel value is small, it is distributed over a wide range of pixel values. Furthermore, a large number of pixels in a character region having a high pixel value (a portion that appears white in FIG. 144A) are distributed around the pixel value indicated by 220.
[0943]
As a result, the change in the pixel value in the spatial direction Y with respect to the predetermined spatial direction X in the edge image shown in FIG. 145A is as shown in FIG. 145B.
[0944]
That is, FIG. 145B corresponds to the spatial direction Y for each predetermined spatial direction X (X = 658, 659, 660 in the figure) of the pixel values near the edge surrounded by the white line in the image of FIG. 145A. The change in the pixel value is shown. Thus, even in the image captured by the actual sensor 2, at X = 658, the pixel value starts increasing near Y = 374 (distribution indicated by a black circle in the figure), and near X = 382. The maximum pixel value is reached. Further, at X = 659, the pixel value shifts in the positive direction with respect to the spatial direction Y, and the pixel value starts increasing near Y = 378 (distribution indicated by a black triangle in the figure), and near X = 386. The maximum pixel value is reached. Further, at X = 660, the pixel value further shifts in the positive direction with respect to the spatial direction Y, and the pixel value starts increasing near Y = 382 (distribution indicated by a black square in the figure). The maximum pixel value is reached around 390.
[0945]
Therefore, in order to acquire the continuity information of the real world image from the image captured by the sensor 2, a model for approximating the real world from the image data acquired from the sensor 2 is set. For example, in the case of a binary edge, a real-world image is set as shown in FIG. In other words, the parameters are set with the level of the background portion on the left side of the figure as V1, the level of the right side of the figure as V2, the mixing ratio between pixels near the binary edge as α, and the angle of the edge with respect to the horizontal direction as θ. Then, modeling, setting a function that approximately represents the real world, and determining each parameter to obtain a function that approximately represents the real world, and using the approximate function, the edge direction (slope or reference) Find the angle to the axis.
[0946]
Here, the inclination indicating the direction of the edge is the ratio of the change in the spatial direction Y (the change in the distance) to the unit distance in the spatial direction X. Therefore, in the case shown in FIG. 147A, the spatial direction in the figure. The distance in the spatial direction Y with respect to the distance of one pixel to X is the slope.
[0947]
As shown in FIG. 147B, the change of the pixel value with respect to each of the spatial directions Y in the spatial directions X0 to X2 repeats the same waveform at a predetermined interval for each spatial direction X. As described above, in the image captured by the sensor 2, the edge has a similar change in pixel value (in this case, a change in the pixel value on the predetermined spatial direction Y that changes from the minimum value to the maximum value). Are spatially continuous directions, and in each spatial direction X, the interval S in the spatial direction Y, which is the position where the change of the pixel value in the spatial direction Y starts or the position where the change ends, is Slope G_feIt becomes. That is, as shown in FIG. 147C, the amount of change in the vertical direction with respect to the distance of one pixel in the horizontal direction is the gradient G._feIt becomes.
[0948]
By the way, this relationship is related to the thin line inclination G described above with reference to FIGS._flThis is similar to the relationship in FIG. Therefore, the relational expression is similar. That is, the relational expression in the case of a binary edge is as shown in FIG. 148, where the pixel value of the background area is V1 and the pixel value of the character area is V2, which are the minimum value and the maximum value, respectively. Also, let α be the mixture ratio of pixels near the edge, and G_feThen, the established relational expressions are the same as the above-described expressions (69) to (71) (however, G_flIs G_feIs replaced).
[0949]
For this reason, the data continuity detecting unit 101 shown in FIG. 124 can detect the angle corresponding to the inclination of the thin line and the angle corresponding to the inclination of the edge as data continuity information by the same processing. . Therefore, in the following description, the inclination is a generic term of the inclination of the thin line and the inclination of the binary edge, and the inclination G_fCalled. Further, the gradient G in the equations (73) to (75) described above._flIs G_feAs a result, the gradient G_fAnd replace it with
[0950]
Next, data continuity detection processing will be described with reference to the flowchart in FIG.
[0951]
In step S701, the horizontal / vertical determination unit 711 initializes a counter T that identifies each pixel of the input image.
[0952]
In step S <b> 702, the horizontal / vertical determination unit 711 executes data extraction processing necessary for subsequent processing.
[0953]
Here, processing for extracting data will be described with reference to the flowchart of FIG.
[0954]
  In step S711, the horizontal / vertical determination unit 711 of the data selection unit 701 determines, for each target pixel T, nine pixels adjacent in the horizontal direction, the vertical direction, and the diagonal direction as described with reference to FIG. A sum hdiff of pixel value differences (activity) between pixels adjacent in the horizontal direction and a sum vdiff of pixel value differences (activity) between pixels adjacent in the vertical direction are calculated, and the difference (hdiff− vdiff), and when the difference (hdiff−vdiff) ≧ 0, when the target pixel T has the horizontal axis as the reference axis, the angle θ with the reference axis is45 Every time≦ θ <135 Every timeThe data acquisition unit 712 and the data addition unit determine that the extracted block to be used corresponds to the vertical direction, assuming that the pixel is a thin line close to the vertical direction or a pixel near the binary edge. Output to 702.
[0955]
  On the other hand, when the difference (hdiff−vdiff) <0, the horizontal / vertical determination unit 711 determines that the target pixel has a thin line with the reference axis or the angle formed by the binary edge when the horizontal direction is the reference axis. θ is0 Every time≦ θ <45 Every timeOr135 Every time≦ θ <180 Every timeThe determination result that the extracted block to be used corresponds to the horizontal direction is regarded as a thin line close to the horizontal direction or a pixel near the edge, and the data addition unit 702 receives the determination result. Output.
[0956]
That is, the fact that the inclination of the thin line or the binary edge is close to the vertical direction means that, for example, as shown in FIG. 131A, the portion where the arrow in the figure intersects the thin line increases. An extraction block with a larger number of pixels in the vertical direction is set (a vertically long extraction block is set). Similarly, even when the inclination of the thin line is close to the horizontal direction, an extraction block having a larger number of pixels in the horizontal direction is set (a horizontally long extraction block is set). By doing in this way, it is possible to calculate an accurate maximum value and minimum value without increasing unnecessary calculation amount.
[0957]
In step S712, the data acquisition unit 712 extracts pixels of the extraction block corresponding to the determination result in the horizontal direction or the vertical direction input from the horizontal / vertical determination unit 711 for the target pixel. That is, for example, as shown in FIG. 139, a total of 21 pixels of (3 pixels in the horizontal direction) × (7 pixels in the vertical direction) centering on the target pixel are extracted and stored.
[0958]
In step S713, the data acquisition unit 712 extracts and stores the pixels of the dynamic range block corresponding to the direction corresponding to the determination result of the horizontal / vertical determination unit 711 for each pixel of the extraction block. That is, as described above with reference to FIG. 139, for example, for the pixel pix11 of the extraction block, in this case, the determination result of the horizontal / vertical determination unit 711 is in the vertical direction. Similarly, the dynamic range block B1 is extracted in the vertical direction, and the pixel pix12 extracts the dynamic range block B2. The dynamic range block is similarly extracted for the other extraction blocks.
[0959]
That is, with this data extraction process, pixel information necessary for the calculation of the normal equation is stored in the data acquisition unit 712 for the predetermined target pixel T (the area to be processed is selected).
[0960]
Now, the description returns to the flowchart of FIG.
[0961]
In step S703, the data adding unit 702 executes a value adding process necessary for each term of the calculation of the normal equation (here, expression (74)).
[0962]
Here, the addition process to the normal equation will be described with reference to the flowchart of FIG.
[0964]
In step S721, the difference adding unit 721 obtains a pixel value difference between pixels of the extraction block stored in the data acquisition unit 712 according to the determination result of the horizontal / vertical determination unit 711 of the data selection unit 701. (Detect), and then square (square) and add. That is, when the determination result of the horizontal / vertical determination unit 711 is in the vertical direction, the difference addition unit 721 calculates a difference in pixel values between pixels adjacent in the vertical direction for each pixel of the extraction block, and further squares it. Then add it. Similarly, when the determination result of the horizontal / vertical determination unit 711 is in the horizontal direction, the difference adding unit 721 calculates a difference in pixel values between pixels adjacent in the horizontal direction for each pixel of the extraction block, and further Squared and added. As a result, the difference adding unit 721 generates and stores the sum of squares of the difference of the term that becomes the denominator of the above equation (75).
[0964]
In step S722, the MaxMin acquisition unit 722 acquires the maximum value and the minimum value of the pixel values included in the dynamic range block stored in the data acquisition unit 712, and in step S723, the maximum value and the minimum value are obtained. A dynamic range is obtained (detected) from the difference and output to the difference adding unit 723. That is, in the case of a 7-pixel dynamic range block including pixels pix1 to pix7 as shown in FIG. 136B, the pixel value of pix2 is detected as the maximum value, and the pixel of pix7 is detected as the minimum value. The difference is obtained as the dynamic range.
[0965]
In step S724, the difference adding unit 723 includes pixels adjacent to each other in the direction corresponding to the determination result of the horizontal / vertical determination unit 711 of the data selection unit 701 among the pixels of the extraction block stored in the data acquisition unit 712. A difference between pixel values is obtained (detected), and a value obtained by multiplying the dynamic range input from the MaxMin acquisition unit 722 is added. That is, the difference adding unit 721 generates and stores the sum of terms that become the numerator of the above formula (75).
[0966]
Now, the description returns to the flowchart of FIG.
[0967]
In step S <b> 704, the difference adding unit 721 determines the pixel value difference between all the pixels in the extracted block (the pixel value difference between adjacent pixels in the direction corresponding to the determination result of the horizontal / vertical determination unit 711). For example, if it is determined that the difference between all the pixels of the extracted block is not added, the process returns to step S702, and the subsequent processes are repeated. That is, the processes in steps S702 to S704 are repeated until it is determined that the pixel value difference between all the pixels of the extraction block is added.
[0968]
If it is determined in step S704 that the pixel value difference between all the pixels of the extracted block has been added, in step S705, the difference adding units 721 and 723 add their own stored values. The result is output to the steady direction deriving unit 703.
[0969]
In step S <b> 706, the steady direction calculation unit 731 is adjacent to the direction determined by the horizontal / vertical determination unit 711 among the pixels of the acquired block input from the difference addition unit 721 of the data addition unit 702. The sum of squares of pixel value differences between pixels and the pixel value between pixels adjacent to each other in the direction determined by the horizontal / vertical determination unit 711 among the pixels of the acquired block input from the difference addition unit 723. Based on the sum of the product of the difference and the dynamic range corresponding to each pixel of the acquired block, the pixel of interest is statistically calculated using the least square method by solving the normal equation shown in the above equation (75). The angle indicating the direction of continuity (the thin line or the angle indicating the slope of the binary edge) is calculated and output.
[0970]
In step S707, the data acquisition unit 712 determines whether or not processing has been performed for all the pixels of the input image. For example, processing has not been performed for all the pixels of the input image. When it is determined that the information on the angle of the fine line or the binary edge is not output for the pixel of, the counter T is incremented by 1 in step S708, and the process returns to step S702. That is, the process of steps S702 to S708 is repeated until the pixel to be processed in the input image is changed and all the pixels of the input image are processed. The pixel change by the counter T may be, for example, raster scan or may be changed sequentially according to other rules.
[0971]
If it is determined in step S707 that all pixels of the input image have been processed, in step S709, the data acquisition unit 712 determines whether there is a next input image, and if there is a next input image. If it is determined, the process returns to step S701, and the subsequent processes are repeated.
[0972]
If it is determined in step S709 that there is no next input image, the process ends.
[0973]
Through the above processing, the angle of the fine line or the binary edge is detected and output as continuity information.
[0974]
Thus, the angle of the fine line or edge inclination obtained by the statistical processing substantially coincides with the angle of the fine line or binary edge obtained using the correlation. That is, for the image in the range surrounded by the white line of the image as shown in FIG. 152A, the change in the inclination in the spatial direction Y on the predetermined horizontal coordinate on the fine line is correlated with the correlation as shown in FIG. 152B. The angle indicating the inclination of the thin line obtained by the method used (black circle in the figure) and the angle of the thin line obtained by statistical processing by the data continuity detecting unit 101 shown in FIG. 124 (black triangle in the figure) Are substantially coincident with each other on the coordinate in the spatial direction Y in the vicinity of the thin line. In FIG. 152B, the spatial directions Y = 680 to 730 sandwiched between the solid black lines in the figure are the coordinates on the thin line.
[0975]
Similarly, for the image in the range surrounded by the white line of the image as shown in FIG. 153A, the change in the inclination in the spatial direction Y on the predetermined horizontal coordinate on the binary edge is as shown in FIG. 153B. In addition, an angle indicating the slope of the binary edge (black circle in the figure) obtained by the method using the correlation, and an angle of the binary edge obtained by statistical processing by the data continuity detecting unit 101 shown in FIG. (Black triangle marks in the figure) almost coincide with each other on the coordinate in the spatial direction Y near the fine line. In FIG. 153B, the spatial directions Y = 376 (near) to 388 (near) are the coordinates on the thin line.
[0976]
As a result, the data continuity detecting unit 101 shown in FIG. 124 differs from the method of using a correlation with a block composed of predetermined pixels when obtaining the angle of a thin line or binary edge as data continuity. The angle that indicates the inclination of the thin line or the binary edge (here, the angle with the horizontal direction as the reference axis) can be obtained statistically using the information around the area. As described above, since there is no switching according to a range of a predetermined angle, it is possible to obtain all the thin lines or the angle of inclination of the binary edge by the same process, so that the process is simplified. It becomes possible to do.
[0977]
In the above description, the data continuity detecting unit 101 has been described with respect to an example in which an angle formed by a thin line or a predetermined reference axis of a binary edge is output as continuity information. However, depending on subsequent processing, It can be considered that the processing efficiency is improved by outputting the inclination as it is. In such a case, the steady direction calculation unit 731 of the steady direction derivation unit 703 of the data continuity detection unit 101 performs the fine line obtained by the least square method or the gradient G of the binary edge._fMay be output as continuity information as it is.
[0978]
Furthermore, in the above description, the dynamic range Dri_r has been calculated in Equation (75) as being obtained for each pixel of the extraction block, but this dynamic range is obtained by setting the dynamic range block sufficiently large, that is, By setting many pixels of interest using many pixels around the pixel of interest, the maximum and minimum pixel values of the pixels in the image should always be selected. Therefore, the dynamic range Dri_r may be calculated with the dynamic range obtained from the maximum value and the minimum value of the pixel in the extraction block or image data as a fixed value without calculating each pixel of the extraction block. Good.
[0979]
That is, as shown in the following equation (76), by adding only the pixel value difference between the pixels, the angle θ (inclination G_f) May be requested. Thus, by fixing the dynamic range, the arithmetic processing can be further simplified and the processing can be performed at high speed.
[0980]
[Formula 58]

... (76)
[0981]
Next, with reference to FIG. 154, the data continuity detecting unit 101 that detects the mixture ratio of each pixel will be described as data continuity information.
[0982]
In the data continuity detecting unit 101 in FIG. 154, the same reference numerals are given to the portions corresponding to those in the data continuity detecting unit 101 in FIG. 124, and the description thereof will be omitted as appropriate. To do.
[0983]
The data continuity detecting unit 101 in FIG. 154 differs from the data continuity detecting unit 101 in FIG. 124 in that instead of the data adding unit 702 and the continuity direction deriving unit 703, a data adding unit 751 and The mixing ratio deriving unit 761 is provided.
[0984]
The MaxMin acquisition unit 752 of the data addition unit 751 performs the same processing as the MaxMin acquisition unit 722 in FIG. 124, but acquires the maximum value and the minimum value of each pixel of the dynamic range block, The difference (dynamic range) between the value and the minimum value is obtained and output to the adding units 753 and 755 and the maximum value is output to the difference calculating unit 754.
[0985]
The adding unit 753 squares the value input from the MaxMin obtaining unit, adds all the pixels of the extraction block, obtains the sum, and outputs the sum to the mixing ratio deriving unit 761.
[0986]
The difference calculation unit 754 calculates a difference between each pixel of the acquisition block of the data acquisition unit 712 and the maximum value of the corresponding dynamic range block and outputs the difference to the addition unit 755.
[0987]
The addition unit 755, for each pixel of the acquisition block, the difference (dynamic range) between the maximum value and the minimum value input from the MaxMin acquisition unit 752, and the pixel value of each pixel of the acquisition block input from the difference calculation unit 754 And the difference with the maximum value of the corresponding dynamic range block, the sum is obtained and output to the mixing ratio deriving unit 761.
[0988]
The mixture ratio calculation unit 762 of the mixture ratio deriving unit 761 statistically calculates the mixture ratio of the target pixel by the least square method based on the values input from the addition units 753 and 755 of the data addition unit. And output as data continuity information.
[0989]
Next, a method for deriving the mixture ratio will be described.
[0990]
As shown in FIG. 155A, when a thin line exists on the image, the image captured by the sensor 2 is an image as shown in FIG. 155B. With regard to each image, attention is focused on pixels surrounded by a solid black line in the spatial direction X = X1 in FIG. 155B. Note that a range between white lines in FIG. 155B indicates a position corresponding to the thin line region. The pixel value M of this pixel should be an intermediate color between the pixel value B corresponding to the level of the background area and the pixel value L corresponding to the level of the fine line area. In more detail, the pixel value P_SIs the area ratio of the background region and the thin line region, and the respective levels should be mixed. Therefore, this pixel value P_SIs expressed by the following equation (77).
[0991]

[0992]
Here, α is a mixture ratio, and more specifically, indicates the ratio of the area occupied by the background region in the pixel of interest. Therefore, it can be said that (1-α) indicates the ratio of the area occupied by the thin line region. Note that the pixels in the background area can be considered as background object components because they can be considered as components of objects existing in the background. Further, since the pixels in the thin line area are considered to be components of the foreground object with respect to the background object, they can be said to be foreground object components.
[0993]
As a result, the mixture ratio α can be expressed by the following formula (78) by developing the formula (77).
[0994]

[0995]
Furthermore, in this case, the pixel value is based on the premise that the pixel value exists at a position across the region of the first pixel value (pixel value B) and the region of the second pixel value (pixel value L). The pixel value L can be replaced with the maximum pixel value Max, and the pixel value B can be replaced with the minimum pixel value. Therefore, the mixing ratio α can also be expressed by the following formula (79).
[0996]

[0997]
As a result, the mixture ratio α is obtained from the difference between the dynamic range of the dynamic range block for the target pixel (corresponding to (Min−Max)), the target pixel, and the maximum value of the pixels in the dynamic range block. However, in order to improve the accuracy, the mixing ratio α is statistically obtained by the least square method.
[0998]
That is, the above formula (79) is expanded to the following formula (80).
[0999]

[1000]
This equation (80) is a one-variable least square method equation similar to the above equation (71). That is, in equation (71), the gradient G is calculated by the least square method._fHowever, here, the mixing ratio α is obtained. Therefore, the mixing ratio α is obtained statistically by solving a normal equation represented by the following equation (81).
[1001]
[Formula 59]

... (81)
[1002]
Here, i identifies each pixel of the extraction block. Therefore, in Expression (81), the number of pixels in the extraction block is n.
[1003]
Next, processing for detecting data continuity when the mixture ratio is data continuity will be described with reference to the flowchart of FIG.
[1004]
  In step S731, the horizontal / vertical determination unit 711 determines a counter for identifying each pixel of the input image.uIs initialized.
[1005]
In step S732, the horizontal / vertical determination unit 711 executes data extraction processing necessary for subsequent processing. Note that the processing in step S732 is the same as the processing described with reference to the flowchart in FIG.
[1006]
In step S733, the data adding unit 751 executes a value adding process necessary for each term of the calculation of the normal equation (here, the expression (81)).
[1007]
Here, the addition process to the normal equation will be described with reference to the flowchart of FIG.
[1008]
In step S751, the MaxMin acquisition unit 752 acquires the maximum value and the minimum value of the pixel values included in the dynamic range block stored in the data acquisition unit 712, and outputs the minimum value to the difference calculation unit 754. .
[1009]
In step S752, the MaxMin acquisition unit 752 obtains a dynamic range from the difference between the maximum value and the minimum value, and outputs the dynamic range to the difference addition units 753 and 755.
[1010]
In step S753, the adding unit 753 squares the dynamic range (Max-Min) input from the MaxMin obtaining unit 752 and adds it. That is, the adding unit 753 generates a value corresponding to the denominator of the above-described formula (81) by adding.
[1011]
In step S754, the difference calculation unit 754 calculates a difference between the maximum value of the dynamic range block input from the MaxMin acquisition unit 752 and the pixel value of the pixel currently being processed in the extraction block, and adds the difference to the addition unit 755. Output.
[1012]
In step S755, the adding unit 755 selects the dynamic range input from the MaxMin acquisition unit 752, the pixel value of the pixel currently being processed input from the difference calculation unit 754, and the pixels of the dynamic range block. Multiply the difference from the maximum value and add. That is, the adding unit 755 generates a value corresponding to the numerator term of the above formula (81).
[1013]
As described above, the data adding unit 751 performs the calculation of each term of the above equation (81) by the adding process.
[1014]
Now, the description returns to the flowchart of FIG.
[1015]
In step S734, the difference adding unit 721 determines whether or not the addition has been completed for all the pixels of the extraction block. For example, if the addition process for all the pixels of the extraction block has not been completed. If so, the process returns to step S732, and the subsequent processes are repeated. That is, the processes of steps S732 to S734 are repeated until it is determined that the addition process has been completed for all the pixels of the extraction block.
[1016]
If it is determined in step S734 that the addition has been completed for all the pixels of the extraction block, in step S735, the addition units 753 and 755 add the addition results stored by themselves to the mixture ratio deriving unit 761. Output to.
[1017]
In step S736, the mixture ratio calculation unit 762 of the mixture ratio deriving unit 761 inputs the square sum of the dynamic range and the pixel value of each pixel of the extraction block input from the addition units 753 and 755 of the data addition unit 751. The pixel of interest is statistically calculated using the least square method by solving the normal equation shown in the above equation (81) based on the sum of the difference between the maximum value of the dynamic range block and the dynamic range. The mixture ratio, which is data continuity information, is calculated and output.
[1018]
  In step S737, the data acquisition unit 712 determines whether or not processing has been performed for all the pixels of the input image. For example, processing has not been performed for all the pixels of the input image. In the case where it is determined that the mixture ratio is not output for the pixels in step S738,uIs incremented by 1, and the process returns to step S732.
[1019]
  That is, the processing of steps S732 to S738 is repeated until the pixel to be processed in the input image is changed and the mixture ratio is calculated for all the pixels of the input image. This counteruFor example, the change in the pixel may be a raster scan or the like, or may be changed sequentially according to other rules.
[1020]
If it is determined in step S737 that all pixels of the input image have been processed, in step S739, the data acquisition unit 712 determines whether there is a next input image, and if there is a next input image. If it is determined, the process returns to step S731, and the subsequent processes are repeated.
[1021]
If it is determined in step S739 that there is no next input image, the process ends.
[1022]
Through the above processing, the mixture ratio of each pixel is detected and output as continuity information.
[1023]
With the above method, for example, the change in the mixture ratio in the predetermined spatial direction X (= 561, 562, 563) is shown in FIG. 158B for the fine line image in the white line in the image shown in FIG. 158A. Yes. As shown in FIG. 158B, the change in the mixing ratio in the spatial direction Y, which is continuous in the horizontal direction, rises around the spatial direction Y = 660 and near Y = 685 when the spatial direction X = 563, respectively. At the peak and decreases to Y = 710. When the spatial direction X = 562, the mixing ratio rises near the spatial direction Y = 680, peaks near Y = 705, and decreases to Y = 735. Further, when the spatial direction X = 561, the mixing ratio rises near the spatial direction Y = 705, peaks near Y = 725, and decreases to Y = 755.
[1024]
Thus, as shown in FIG. 158B, each change in the mixing ratio in the continuous spatial direction X is the same change as the change in the pixel value that changes according to the mixing ratio (the change in the pixel value shown in FIG. 133B). Since it is periodically continuous, it can be seen that the mixing ratio of the pixels in the vicinity of the thin line is accurately expressed.
[1025]
Similarly, FIG. 159B shows the change in the mixing ratio in the predetermined spatial direction X (= 658, 659, 660) for the binary edge image in the white line in the image shown in FIG. 159A. ing. As shown in FIG. 159B, the change in the mixing ratio in the spatial direction Y that is continuous in the horizontal direction is increased when the spatial direction X = 660, and the mixing ratio rises near the spatial direction Y = 750 and near Y = 765. It becomes a peak at. Further, when the spatial direction X = 659, the mixing ratio rises in the vicinity of the spatial direction Y = 760 and peaks at the vicinity of Y = 775. Further, when the spatial direction X = 658, the mixture ratio rises near the spatial direction Y = 770 and peaks near Y = 785.
[1026]
Thus, as shown in FIG. 159B, the change in the mixing ratio of the binary edge is substantially the same as the change similar to the change in the pixel value (change in the pixel value shown in FIG. 145B) that changes with the mixing ratio. In addition, since it is periodically continuous, it can be seen that the mixing ratio of the pixel values in the vicinity of the binary edge is accurately expressed.
[1027]
According to the above, it becomes possible to obtain the mixture ratio of each pixel statistically as data continuity information by the method of least squares. Furthermore, it is possible to directly generate the pixel value of each pixel based on this mixture ratio.
[1028]
Further, when the change in the mixing ratio has continuity, and when the change in the mixing ratio is approximated by a linear one, the relationship shown by the following equation (82) is established.
[1029]

[1030]
Here, m represents a slope when the mixing ratio α changes with respect to the spatial direction Y, and n corresponds to an intercept when the mixing ratio α changes linearly.
[1031]
That is, as shown in FIG. 160, the straight line indicating the mixing ratio is a straight line indicating the boundary between the pixel value B corresponding to the level of the background region and the level L corresponding to the level of the fine line. In this case, the spatial direction The amount of change in the mixing ratio when the unit distance is advanced with respect to Y is the slope m.
[1032]
Therefore, substituting equation (82) into equation (77) yields the following equation (83).
[1033]

[1034]
Furthermore, when the equation (83) is expanded, the following equation (84) is derived.
[1035]

[1036]
  In the equation (84), m in the first term represents the gradient of the mixing ratio in the spatial direction, and the second termnIs a term indicating the intercept of the mixing ratio. Therefore, a normal equation can be generated and obtained by using the least square method of two variables for m and n in the above equation (84).
[1037]
However, the slope m of the mixture ratio α is the slope of the thin line or binary edge described above (the slope G described above)._f) Itself, in advance, using the above-described method, the fine line or the gradient G of the binary edge G_fThen, by using the slope, and substituting it into the equation (84), a function of one variable for the term of the intercept is obtained, and as in the method described above, it is obtained by the least square method of one variable. Also good.
[1038]
In the above example, the data continuity detection unit 101 that detects the thin line in the spatial direction, the angle (tilt) of the binary edge, or the mixture ratio as the data continuity information has been described. May correspond to an angle in the spatial direction obtained by substituting any one of these axes (spatial directions X, Y) with an axis in the time direction (frame direction) T. That is, the object corresponding to the angle obtained by replacing one of the axes in space (space direction X, Y) with the axis in time direction (frame direction) T is the motion vector of the object (direction of the motion vector). ).
[1039]
More specifically, as shown in FIG. 161A, when the object is moving in the upward direction in the figure with respect to the spatial direction Y as time progresses, the portion corresponding to the thin line in the figure (with respect to FIG. 131A) In comparison, a trajectory of the movement of the object appears. Therefore, in FIG. 161A, the inclination of the thin line in the time direction T indicates the direction in which the object moves (the angle indicating the movement of the object) (the same value as the direction of the motion vector). Accordingly, in the real world, in the frame at a predetermined time indicated by the arrow in FIG. 161A, the part that becomes the locus of the object becomes the (color) level of the object as shown in FIG. It becomes a pulse-like waveform at the background level.
[1040]
As described above, when the moving object is imaged by the sensor 2, as shown in FIG. 162A, the distribution of the pixel values of the pixels in the frames at the times T1 to T3 is spatial as shown in FIG. 162B. A mountain-shaped waveform is taken for each direction Y. This relationship can be considered to be similar to the relationship in the spatial directions X and Y described with reference to FIGS. 132A and 132B. Therefore, when the object is moving with respect to the frame direction T, the direction of the motion vector of the object is changed to data continuity by the same method as the information on the inclination of the thin line or the angle (tilt) of the binary edge described above. It can also be obtained as information. In FIG. 162B, for each frame direction T (time direction T), each square is a shutter time that forms an image of one frame.
[1041]
Similarly, as shown in FIG. 163A, when the object moves in the spatial direction Y for each frame direction T, as shown in FIG. 163B, the space on the frame corresponding to the predetermined time T1 is shown. In the direction Y, each pixel value is obtained corresponding to the movement of the object. At this time, for example, as shown in FIG. 163C, the pixel values of the pixels surrounded by the black solid line in FIG. 163B are mixed in the frame direction with the background level and the object level corresponding to the movement of the object. This is a pixel value mixed at a ratio β.
[1042]
This relationship is the same as the relationship described with reference to FIGS. 155A, B, and C.
[1043]
  Further, as shown in FIG. 164, the object level O and the background level B can be linearly approximated by a mixing ratio β in the frame direction (time direction).thisThe relationship is the same as the linear approximation of the mixing ratio in the spatial direction described with reference to FIG.
[1044]
Therefore, the mixing ratio β in the time (frame) direction can be obtained as data continuity information by the same method as the mixing ratio α in the spatial direction.
[1045]
Alternatively, either one of the frame direction and the spatial direction may be selected to obtain the stationary angle or the direction of the motion vector. Similarly, the mixture ratios α and β are selectively selected. You may make it ask for.
[1046]
According to the above, the real-world optical signal is projected, the region corresponding to the target pixel in the image data in which a part of the steadiness of the real-world optical signal is missing is selected, and the missing in the selected region A feature for detecting the angle of the image data corresponding to the steadiness of the optical signal in the real world with respect to the reference axis of the continuity is detected, and the angle is statistically detected based on the detected feature, and the detected image data Since the optical signal is estimated by estimating the continuity of the missing real-world optical signal based on the angle of the continuity with respect to the reference axis, the steadiness angle (direction of motion vector) or ( It is possible to determine the mixture ratio of time and space.
[1047]
Next, with reference to FIG. 165, the data continuity information detection unit 101 that outputs information on a region to be processed using data continuity information as data continuity information will be described.
[1048]
The angle detection unit 801 detects the angle in the spatial direction of a region having a continuity in the input image, that is, a portion constituting a thin line or a binary edge having a continuity on the image, and detects the detected angle. Output to the real world estimation unit 802. The angle detector 801 is the same as the data continuity detector 101 in FIG.
[1049]
The real world estimation unit 802 estimates the real world based on the angle indicating the direction of data continuity input from the angle detection unit 801 and information on the input image. That is, the real world estimation unit 802 obtains an approximate function coefficient that approximately describes the intensity distribution of the optical signal in the real world from the input angle and each pixel of the input image, and calculates the obtained coefficient in the real world. The estimation result is output to the error calculation unit 803. The real world estimation unit 802 is the same as the real world estimation unit 102 in FIG.
[1050]
Based on the coefficients input from the real world estimation unit 802, the error calculation unit 803 constructs an approximate function indicating the light intensity distribution of the real world described approximately, and further, based on the approximate function, The light intensity corresponding to the pixel position is integrated to generate a pixel value of each pixel from the light intensity distribution estimated by the approximation function, and the difference from the actually input pixel value is used as an error in the comparison unit 804. Output.
[1051]
The comparison unit 804 compares the error input from the error calculation unit 803 with respect to each pixel and a preset threshold value, so that the processing region where the pixel to be processed using the continuity information is present and the non-processing A region is identified, and region information in which a processing region for performing processing using this continuity information and a non-processing region is identified is output as continuity information.
[1052]
Next, with reference to the flowchart of FIG. 166, the process of detecting continuity by the data continuity detecting unit 101 of FIG. 165 will be described.
[1053]
In step S801, the angle detection unit 801 acquires the input image, and in step S802, detects an angle indicating the direction of continuity. More specifically, the angle detection unit 801 detects, for example, an angle indicating the direction of continuity of a thin line or a binary edge when the horizontal direction is a reference axis, and outputs the detected angle to the real world estimation unit 802. To do.
[1054]
In step S <b> 803, the real world estimation unit 802 approximates the polynomial expressed in the function F (x) representing the real world based on the angle information input from the angle detection unit 801 and the input image information. The coefficient of the approximate function f (x) consisting of is obtained and output to the error calculation unit 803. That is, the approximate function f (x) representing the real world is represented by a one-dimensional polynomial as in the following formula (85).
[1055]
[Expression 60]

... (85)
[1056]
Here, wi is a polynomial coefficient, and the real world estimation unit 802 obtains the coefficient wi and outputs it to the error calculation unit 803. Furthermore, the inclination can be obtained from the direction of continuity based on the angle input from the angle detector 801 (G_f= Tan^-1θ, G_f: Slope, θ: angle), so this slope G_fBy substituting the constraint condition, the above equation (85) can be described by a two-dimensional polynomial, as shown by the following equation (86).
[1057]
[Equation 61]

... (86)
[1058]
That is, the above equation (86) is obtained by calculating the shift width α (= −dy / G_f: Dy describes a two-dimensional function f (x, y) obtained by expressing it with a change amount in the spatial direction Y).
[1059]
Therefore, the real world estimation unit 802 solves each coefficient wi of the above equation (86) using the input image and information on the angle in the stationary direction, and outputs the obtained coefficient wi to the error calculation unit 803. To do.
[1060]
Here, the description returns to the flowchart of FIG. 166.
[1061]
In step S804, the error calculation unit 803 performs reintegration on each pixel from the coefficients input from the real world estimation unit 802. That is, the error calculation unit 803 integrates the above equation (86) for each pixel from the coefficients input from the real world estimation unit 802 as represented by the following equation (87).
[1062]
[62]

... (87)
[1063]
Where S_SIndicates the integration result in the spatial direction shown in FIG. Further, the integration range is x in the spatial direction X as shown in FIG._mThru x_{m + B}And for the spatial direction Y, y_mTo y_{m + A}It is. In FIG. 167, each square (square) represents one pixel, and is assumed to be 1 in each of the spatial directions X and Y.
[1064]
Therefore, as shown in FIG. 168, the error calculation unit 803 performs x for the spatial direction X of the curved surface indicated by the approximate function f (x, y)._mThru x_{m + 1}, And y in the spatial direction Y_mTo y_{m + 1}(A = B = 1), an integration operation as shown in the following formula (88) is performed for each pixel, and each of the obtained approximation functions that approximately represent the real world is spatially integrated. Pixel value P of the pixel_SIs calculated.
[1065]
[Equation 63]

... (88)
[1066]
That is, by this processing, the error calculation unit 803 functions as a kind of pixel value generation unit, and generates a pixel value from the approximate function.
[1067]
In step S805, the error calculation unit 803 calculates a difference between the pixel value obtained by the integration shown in the above equation (88) and the pixel value of the input image, and uses this as an error for the comparison unit 804. Output. That is, the error calculation unit 803 performs the integration range shown in FIGS. 167 and 168 described above (with respect to the spatial direction X, x_mThru x_{m + 1}, And y in the spatial direction Y_mTo y_{m + 1}The difference between the pixel value of the pixel corresponding to) and the pixel value obtained from the integration result in the range corresponding to the pixel is obtained as an error and output to the comparison unit 804.
[1068]
In step S806, the comparison unit 804 determines whether or not the absolute value of the error between the pixel value obtained by integration input from the error calculation unit 803 and the pixel value of the input image is equal to or less than a predetermined threshold value. .
[1069]
If it is determined in step S806 that the error is equal to or smaller than the predetermined threshold value, in step S807, the comparison unit 804 obtains a pixel value obtained by integration that is close to the pixel value of the pixel of the input image. Therefore, the approximate function set to calculate the pixel value of the pixel is considered to be sufficiently close to the light intensity distribution of the real-world optical signal, and the area of the pixel that has just been processed is included in the continuity information. Recognized as a processing region for performing processing based on the approximate function. More specifically, the comparison unit 804 stores in the memory (not shown) that the pixel that has been processed is a pixel in the subsequent processing area.
[1070]
On the other hand, when it is determined in step S806 that the error is not equal to or less than the predetermined threshold value, in step S808, the comparison unit 804 determines that the pixel value obtained by the integration is a value that is different from the actual pixel value. Therefore, it is assumed that the approximate function set for calculating the pixel value of the pixel does not sufficiently approximate the light intensity distribution of the real-world optical signal, and the area of the pixel that has just been processed is stationary information in the subsequent stage. Is recognized as a non-processed area in which processing by an approximation function based on the above is not performed. More specifically, the comparison unit 804 stores in a memory (not shown) that the pixel area that has been processed is a subsequent non-process area.
[1071]
In step S809, the comparison unit 804 determines whether or not processing has been performed on all pixels. If it is determined that processing has not been performed on all pixels, the processing returns to step S802, and The subsequent processing is repeated. That is, for all the pixels, the pixel value obtained by integration is compared with the input pixel value, and the processes of steps S802 to S809 are repeated until the determination process of whether or not the pixel is a processing region is completed.
[1072]
In step S809, for all the pixels, the pixel value obtained by reintegration is compared with the input pixel value, and if it is determined that the determination process for determining whether or not the pixel is a processing region is completed, in step S810, The comparison unit 804 stores a processing region in which processing based on spatial continuity information is performed in subsequent processing on an input image stored in a memory (not shown), and processing based on spatial continuity information The region information in which the non-processed region that is not processed is identified is output as continuity information.
[1073]
According to the above processing, the pixel value obtained by the integration result in the range corresponding to each pixel using the approximate function f (x) calculated based on the stationary information and the pixel value in the actual input image Based on the error, the accuracy of the expression of the approximation function is evaluated for each region (for each pixel), and the pixel value obtained by integration based on the approximation function is small. Since only the area where the probable pixel exists is set as the processing area, and the other area is set as the non-processing area, only the probable area can be processed based on the stationary information in the spatial direction. Therefore, it is possible to increase the processing speed and to execute the process only on the probable area, so that it is possible to suppress image quality deterioration due to this process. It becomes ability.
[1074]
Next, with reference to FIG. 169, another embodiment of the data continuity information detecting unit 101 that outputs region information in which pixels that perform processing using data continuity information as data continuity information are output will be described. .
[1075]
The motion detection unit 821 has a stationary region in the input image, that is, a motion having a stationary property in the frame direction on the image (motion vector direction: V_f) And outputs the detected motion to the real world estimation unit 822. The motion detector 821 is the same as the data continuity detector 101 in FIG.
[1076]
The real world estimation unit 822 estimates the real world based on the data continuity motion input from the motion detection unit 821 and information on the input image. That is, the real world estimation unit 822 calculates coefficients of an approximate function that approximately describes the input motion and the intensity distribution of the real world optical signal in the frame direction (time direction) from each pixel of the input image. The obtained coefficient is output to the error calculator 823 as a real-world estimation result. The real world estimation unit 822 is the same as the real world estimation unit 102 in FIG.
[1077]
Based on the coefficients input from the real world estimation unit 822, the error calculation unit 823 constructs an approximate function indicating the intensity distribution of light in the real world in the frame direction described approximately, and further, from this approximate function, The light intensity corresponding to each pixel position is integrated for each frame, and the pixel value of each pixel is generated from the light intensity distribution estimated by the approximation function. The difference from the actually input pixel value is used as the error. Output to the comparison unit 824.
[1078]
The comparison unit 824 compares the error input from the error calculation unit 823 with respect to each pixel and a preset threshold value, so that the processing region where the pixel to be processed using the continuity information is present and the non-processing A region is identified, and region information in which a processing region for performing processing using this continuity information and a non-processing region is identified is output as continuity information.
[1079]
Next, the continuity detection process performed by the data continuity detection unit 101 in FIG. 169 will be described with reference to the flowchart in FIG. 170.
[1080]
In step S821, the motion detection unit 801 acquires the input image, and in step S822, detects a motion indicating continuity. More specifically, the motion detection unit 801, for example, the motion of a moving object in the input image (motion vector direction: V_f) Is detected and output to the real world estimation unit 822.
[1081]
In step S823, the real world estimation unit 822 approximately describes the function F (t) in the frame direction representing the real world based on the motion information input from the motion detection unit 821 and the input image information. The coefficient of the function f (t) made of a polynomial is obtained and output to the error calculator 823. That is, the function f (t) representing the real world is represented by a one-dimensional polynomial as in the following formula (89).
[1082]
[Expression 64]

... (89)
[1083]
Here, wi is a polynomial coefficient, and the real world estimation unit 822 calculates the coefficient wi and outputs it to the error calculation unit 823. Furthermore, a steady motion can be obtained from the motion input from the motion detector 821 (V_f= Tan^-1θv, V_fIs the inclination of the motion vector in the frame direction, and θv is the angle of the motion vector in the frame direction. Therefore, by substituting the constraint condition of the inclination, the above equation (89) is expressed by the following equation (90): As described above, it can be described by a two-dimensional polynomial.
[1084]
[Equation 65]

... (90)
[1085]
That is, the above equation (90) is obtained by calculating the shift amount αt (= −dy) as the shift width caused by the parallel movement of the one-dimensional approximation function f (t) described by the equation (89) in the spatial direction Y. / V_f: Dy describes a two-dimensional function f (t, y) obtained by expressing it with a change amount in the spatial direction Y).
[1086]
Therefore, the real world estimation unit 822 solves each coefficient wi of the above equation (90) using the input image and the stationary motion information, and outputs the obtained coefficient wi to the error calculation unit 823. .
[1087]
Now, the description returns to the flowchart of FIG. 170.
[1088]
In step S824, the error calculation unit 823 performs integration in the frame direction for each pixel from the coefficients input from the real world estimation unit 822. That is, the error calculation unit 823 integrates the above equation (90) for each pixel from the coefficients input from the real world estimation unit 822 as shown by the following equation (91).
[1089]
[Equation 66]

... (91)
[1090]
Where S_tShows the integration result in the frame direction shown in FIG. Further, as shown in FIG. 171, the integration range is T for the frame direction T._mThru T_{m + B}And for the spatial direction Y, y_mTo y_{m + A}It is. In FIG. 171, each square (square) indicates one pixel, and both the frame direction T and the spatial direction Y are 1. Here, 1 in the frame direction T means that the shutter time for one frame is 1.
[1091]
Accordingly, as shown in FIG. 172, the error calculation unit 823 calculates T with respect to the spatial direction T of the curved surface indicated by the approximate function f (t, y)._mThru T_{m + 1}, And y in the spatial direction Y_mTo y_{m + 1}With (A = B = 1), an integration operation as shown in the following equation (92) is executed for each pixel, and the pixel value P of each pixel obtained from a function that approximately represents the real world_tIs calculated.
[1092]
[Expression 67]

... (92)
[1093]
That is, by this processing, the error calculation unit 823 functions as a kind of pixel value generation unit, and generates a pixel value from the approximation function.
[1094]
  In step S825, the error calculation unit823Calculates the difference between the pixel value obtained by integration as shown in the above equation (92) and the pixel value of the input image, and outputs this as an error to the comparison unit 824. In other words, the error calculation unit 823 has the integration range (T in the spatial direction T shown in FIGS. 171 and 172 described above)._mThru T_{m + 1}, And y in the spatial direction Y_mTo y_{m + 1}The difference between the pixel value of the pixel corresponding to) and the pixel value obtained by the integration result in the range corresponding to the pixel is obtained as an error and output to the comparison unit 824.
[1095]
In step S826, the comparison unit 824 determines whether or not the absolute value of the error between the pixel value obtained by the integration input from the error calculation unit 823 and the pixel value of the input image is equal to or less than a predetermined threshold value. .
[1096]
If it is determined in step S826 that the error is equal to or smaller than the predetermined threshold value, in step S827, the comparison unit 824 obtains a pixel value obtained by integration that is close to the pixel value of the input image. The approximate function set in calculating the pixel value of the pixel is regarded as being sufficiently approximated to the light intensity distribution of the real-world optical signal, and the pixel area that has been processed is recognized as a processing area. More specifically, the comparison unit 824 stores in the memory (not shown) that the pixel that has been processed is a pixel in the subsequent processing area.
[1097]
On the other hand, when it is determined in step S826 that the error is not equal to or less than the predetermined threshold, in step S828, the comparison unit 824 determines that the pixel value obtained by the integration is a value that is separated from the actual pixel value. Therefore, it is assumed that the approximate function set in calculating the pixel value of the pixel is not sufficiently approximate to the light intensity distribution in the real world, and the pixel area processed now is based on continuity information in the subsequent stage. Recognized as a non-processed area that is not processed by the approximate function. More specifically, the comparison unit 824 stores in the memory (not shown) that the area of the pixel that has been processed is a subsequent non-process area.
[1098]
In step S829, the comparison unit 824 determines whether or not processing has been performed on all pixels. If it is determined that processing has not been performed on all pixels, the processing returns to step S822, and The subsequent processing is repeated. That is, for all the pixels, the pixel value obtained by integration is compared with the input pixel value, and the processing of steps S822 to S829 is repeated until the determination processing for determining whether or not the pixel is a processing region is completed.
[1099]
In step S829, for all the pixels, the pixel value obtained by reintegration is compared with the input pixel value, and if it is determined that the determination process for determining whether or not it is a processing region is completed, in step S830, The comparison unit 824 stores a processing region in which processing based on frame direction continuity information is performed in subsequent processing on an input image stored in a memory (not shown), and processing based on frame direction continuity information The region information in which the non-processed region that is not processed is identified is output as continuity information.
[1100]
According to the above processing, the pixel value obtained from the integration result of the range corresponding to each pixel using the approximate function f (t) calculated based on the stationary information, and the pixel value in the actual input image On the basis of the error, the accuracy of the expression of the approximation function is evaluated for each region (for each pixel), and the pixel value obtained by integration based on the approximation region based on the approximation region is small. Since only the area where the probable pixel exists is set as the processing area, and the other area is set as the non-processing area, only the probable area can be processed based on the continuity information in the frame direction. Since only the correct processing can be executed, the processing speed can be improved and the processing can be executed only in a probable area, so that deterioration in image quality due to this processing can be suppressed. Is possible.
[1101]
165 and 169 may be combined to select any one dimension in the spatio-temporal direction and selectively output the region information.
[1102]
According to the above, a real-world optical signal is projected by a plurality of detection elements of the sensor, each having a spatiotemporal integration effect, and a part of the continuity of the real-world optical signal is lost, and is projected by a detection element Detecting the continuity of data in image data composed of a plurality of pixels having pixel values, and corresponding to the detected continuity, each pixel corresponding to a position in at least a one-dimensional direction in the spatiotemporal direction of the image data By approximating a function corresponding to a real-world optical signal, assuming that the value is a pixel value obtained by at least a one-dimensional integration effect, the function corresponding to the real-world optical signal is estimated, and the estimated function is Detects the difference value between the pixel value acquired by integrating at least in units corresponding to each pixel in the one-dimensional direction and the pixel value of each pixel, and selectively outputs a function according to the difference value As a result, it is possible to set only the area where the pixel value obtained by integration based on the approximate function is likely to exist as the processing area and the other area as the non-processing area. Since only the necessary processing can be performed based on the stationary information in the frame direction, the processing speed can be improved and the processing is performed only on the probable area. Therefore, it is possible to suppress deterioration in image quality due to this processing.
[1103]
Next, estimation of signals in the real world 1 will be described.
[1104]
FIG. 173 is a block diagram illustrating a configuration of the real world estimation unit 102.
[1105]
The real world estimation unit 102 having the configuration shown in FIG. 173 detects the width of the thin line in the image that is the signal of the real world 1 based on the input image and the data continuity information supplied from the continuity detection unit 101. Then, the level of the thin line (the light intensity of the real world 1 signal) is estimated.
[1106]
The line width detection unit 2101 detects the width of the thin line based on the data continuity information indicating the steady region that is a thin line region, which is supplied from the continuity detection unit 101 and is composed of pixels onto which the image of the thin line is projected. . The line width detection unit 2101 supplies the thin line width information indicating the width of the detected thin line to the signal level estimation unit 2102 together with the data continuity information.
[1107]
The signal level estimation unit 2102 is a level of a thin line image that is a signal of the real world 1 based on the input image, the thin line width information indicating the width of the thin line supplied from the line width detection unit 2101, and the data continuity information. That is, the light intensity level is estimated, and real world estimation information indicating the width of the fine line and the level of the fine line image is output.
[1108]
FIGS. 174 and 175 are diagrams for explaining processing for detecting the width of the thin line in the signal of the real world 1.
[1109]
In FIGS. 174 and 175, a region surrounded by a thick line (region consisting of four squares) indicates one pixel, and a region surrounded by a dotted line indicates a thin line region including pixels onto which a thin line image is projected. Indicates the center of gravity of the thin line region. In FIG. 174 and FIG. 175, diagonal lines indicate images of thin lines incident on the sensor 2. It can be said that the hatched line indicates the area where the image of the thin line in the real world 1 is projected onto the sensor 2.
[1110]
In FIG. 174 and FIG. 175, S indicates an inclination calculated from the position of the center of gravity of the fine line region, and D is an overlap of the fine line region. Here, the inclination S is the distance between the center of gravity and the center of gravity in units of pixels since the thin line regions are adjacent to each other. Further, the overlap D of the thin line region is the number of adjacent pixels in the two thin line regions.
[1111]
In FIGS. 174 and 175, W indicates the width of the thin line.
[1112]
In FIG. 174, the slope S is 2 and the overlap D is 2.
[1113]
In FIG. 175, the slope S is 3 and the overlap D is 1.
[1114]
Since the distance between the centroid and the centroid in the direction in which the fine line areas are adjacent to each other is one pixel, W: D = 1: S is established, and the width W of the fine line is obtained by the overlap D / tilt S be able to.
[1115]
For example, as shown in FIG. 174, when the slope S is 2 and the overlap D is 2, 2/2 is 1, so the width W of the thin line is 1. Also, for example, as shown in FIG. 175, when the slope S is 3 and the overlap D is 1, the width W of the thin line is 1/3.
[1116]
In this way, the line width detection unit 2101 detects the width of the fine line from the inclination calculated from the position of the center of gravity of the fine line region and the overlap of the fine line region.
[1117]
FIG. 176 is a diagram for describing processing for estimating the level of a thin line signal in the real world 1 signal.
[1118]
In FIG. 176, a region surrounded by a thick line (region consisting of four squares) indicates one pixel, and a region surrounded by a dotted line indicates a thin line region including pixels onto which a thin line image is projected. In FIG. 176, E indicates the length of the fine line area in units of pixels of the fine line area, and D is the overlap of the fine line areas (the number of pixels adjacent to the other fine line areas).
[1119]
The signal level of the thin line is approximated to be constant within the processing unit (thin line region), and the level of the image other than the thin line projected to the pixel value of the pixel to which the thin line is projected is the level of the adjacent pixel. Approximate to be equal to the level for the pixel value.
[1120]
When the level of the signal of the thin line is C, the level of the left side of the portion where the signal of the thin line is projected in the signal (image) projected on the thin line area is A, and the thin line in the diagram Let B be the level of the right part of the projected part of the signal.
[1121]
At this time, Expression (93) is established.
[1122]
Sum of pixel values in thin line area = (E−D) / 2 * A + (E−D) / 2 * B + D * C (93)
[1123]
Since the width of the fine line is constant and the width of the fine line region is one pixel, the area of the fine line in the fine line region (the portion where the signal is projected) is equal to the overlap D of the fine line region. Since the width of the fine line region is one pixel, the area of the fine line region in units of pixels of the fine line region is equal to the length E of the fine line region.
[1124]
In the fine line region, the area on the left side of the fine line is (E−D) / 2. In the fine line region, the area on the right side of the fine line is (E−D) / 2.
[1125]
The first term on the right side of Expression (93) is a pixel value portion obtained by projecting a signal having the same level as that of the signal projected to the pixel adjacent to the left side, and can be expressed by Expression (94). it can.
[1126]
[Equation 68]

... (94)
[1127]
In formula (94), A_iIndicates a pixel value of a pixel adjacent to the left side.
[1128]
In formula (94), α_iIndicates the ratio of the area where a signal of the same level as the signal projected to the pixel adjacent to the left side is projected to the pixel in the thin line region. That is, α_iIndicates the ratio of the same pixel value as the pixel value of the pixel adjacent to the left side included in the pixel value of the pixel in the thin line region.
[1129]
i indicates the position of a pixel adjacent to the left side of the thin line region.
[1130]
For example, in FIG. 176, the pixel value A of the pixel adjacent to the left side of the fine line region, which is included in the pixel value of the pixel of the fine line region.₀The ratio of the same pixel value as₀It is. In FIG. 176, the pixel value A of the pixel adjacent to the left side of the fine line region, which is included in the pixel value of the pixel of the fine line region.₁The ratio of the same pixel value as₁It is. In FIG. 176, the pixel value A of the pixel adjacent to the left side of the fine line region, which is included in the pixel value of the pixel of the fine line region.₂The ratio of the same pixel value as₂It is.
[1131]
The second term on the right side of Equation (93) is a pixel value portion obtained by projecting a signal having the same level as the signal projected to the pixel adjacent to the right side, and can be expressed by Equation (95). it can.
[1132]
[Equation 69]

... (95)
[1133]
In formula (95), B_jIndicates a pixel value of a pixel adjacent to the right side.
[1134]
In formula (95), β_jIndicates the ratio of the area where the signal of the same level as the signal projected to the pixel adjacent to the right side is projected to the pixel in the thin line region. That is, β_jIndicates the ratio of the same pixel value as the pixel value of the pixel adjacent to the right side, which is included in the pixel value of the pixel in the thin line region.
[1135]
j indicates the position of a pixel adjacent to the right side of the thin line region.
[1136]
For example, in FIG. 176, the pixel value B of the pixel adjacent to the right side of the fine line region included in the pixel value of the pixel of the fine line region.₀The ratio of the same pixel value as₀It is. In FIG. 176, the pixel value B of the pixel adjacent to the right side of the fine line region included in the pixel value of the pixel of the fine line region₁The ratio of the same pixel value as₁It is. In FIG. 176, the pixel value B of the pixel adjacent to the right side of the fine line region included in the pixel value of the pixel of the fine line region₂The ratio of the same pixel value as₂It is.
[1137]
As described above, the signal level estimation unit 2102 calculates the pixel value of the image other than the thin line among the pixel values included in the thin line region based on the expressions (94) and (95), and the expression (93) Based on the above, the pixel value of the image other than the fine line is removed from the pixel value of the fine line region, thereby obtaining the pixel value of the image of only the fine line among the pixel values included in the fine line region. Then, the signal level estimation unit 2102 obtains the signal level of the fine line from the pixel value of the image of only the fine line and the area of the fine line. More specifically, the signal level estimation unit 2102 divides the pixel value of only the fine line image among the pixel values included in the fine line area by the fine line area of the fine line area, that is, the overlap D of the fine line area. Thus, the signal level of the thin line is calculated.
[1138]
The signal level estimation unit 2102 outputs real world estimation information indicating the width of the fine line and the level of the fine line signal in the real world 1 signal.
[1139]
In the method of the present invention, since the waveform of the thin line is described geometrically instead of the pixel, any resolution can be used.
[1140]
Next, real world estimation processing corresponding to the processing in step S102 will be described with reference to the flowchart of FIG.
[1141]
In step S2101, the line width detection unit 2101 detects the width of the thin line based on the data continuity information. For example, the line width detection unit 2101 estimates the width of the thin line in the signal of the real world 1 by dividing the overlap by the inclination from the inclination calculated from the position of the center of gravity of the thin line area and the overlap of the thin line area. .
[1142]
In step S2102, the signal level estimation unit 2102 estimates the level of the fine line signal based on the width of the fine line and the pixel value of the pixel adjacent to the fine line region, and the estimated width of the fine line and the level of the fine line signal. Is output, and the process ends. For example, the signal level estimation unit 2102 calculates a pixel value obtained by projecting an image other than the fine line included in the fine line region, and removes a pixel value obtained by projecting an image other than the fine line from the fine line region, thereby obtaining only the fine line. By calculating the pixel value obtained by projecting the image and calculating the level of the fine line signal from the pixel value obtained by projecting the obtained image of only the fine line and the area of the fine line, the fine line in the signal of the real world 1 is obtained. Estimate the level of.
[1143]
As described above, the real world estimation unit 102 can estimate the width and level of the thin line of the signal of the real world 1.
[1144]
As described above, the continuity of the data of the first image data in which the real-world optical signal is projected and a part of the continuity of the real-world optical signal is lost is detected, and the continuity of the data is dealt with. Based on the model representing the waveform of the optical signal in the real world, the waveform of the optical signal in the real world is estimated from the continuity of the first image data, and the estimated optical signal is converted into the second image data. In this case, it is possible to obtain a more accurate and more accurate processing result for the real-world optical signal.
[1145]
FIG. 178 is a block diagram illustrating another configuration of the real world estimation unit 102.
[1146]
In the real world estimation unit 102 having the configuration shown in FIG. 178, the region is detected again based on the input image and the data continuity information supplied from the data continuity detection unit 101, and based on the region detected again. Then, the width of the thin line in the image that is the signal of the real world 1 is detected, and the light intensity (level) of the signal of the real world 1 is estimated. For example, in the real world estimation unit 102 having the configuration shown in FIG. 178, a stationary region composed of pixels onto which a thin line image is projected is detected again, and the real world 1 signal is based on the detected region again. The width of the thin line in the image is detected, and the light intensity of the real world 1 signal is estimated.
[1147]
The data continuity information supplied from the data continuity detecting unit 101 and input to the real world estimating unit 102 having the configuration shown in FIG. 178 includes a steady state in which a thin line image of the input image that is data 3 is projected. This includes non-stationary component information indicating non-stationary components other than components, monotonous increase / decrease region information indicating a monotonous increase / decrease region in the steady region, information indicating a steady region, and the like. For example, the non-stationary component information included in the data continuity information includes a slope and an intercept of a plane that approximates a non-stationary component such as a background in the input image.
[1148]
The data continuity information input to the real world estimation unit 102 is supplied to the boundary detection unit 2121. The input image input to the real world estimation unit 102 is supplied to the boundary detection unit 2121 and the signal level estimation unit 2102.
[1149]
The boundary detection unit 2121 generates an image composed of only the stationary component obtained by projecting the thin line image from the unsteady component information included in the data continuity information and the input image, and based on the image composed of only the stationary component. By calculating the distribution ratio indicating the ratio of the image of the thin line that is a signal of the real world 1 projected onto the pixel and calculating the regression line indicating the boundary of the thin line area from the calculated distribution ratio, The thin line area which is the area is detected again.
[1150]
FIG. 179 is a block diagram illustrating a configuration of the boundary detection unit 2121.
[1151]
The distribution ratio calculation unit 2131 generates an image made up of only the steady component onto which the thin line image is projected, from the data continuity information, the non-stationary component information included in the data continuity information, and the input image. More specifically, the distribution ratio calculation unit 2131 detects adjacent monotonous increase / decrease regions in the steady region from the input image based on the monotonous increase / decrease region information included in the data continuity information, and detects the detected monotone By subtracting the approximate value approximated by the plane indicated by the slope and intercept included in the steady component information from the pixel values of the pixels belonging to the increase / decrease area, an image consisting only of the steady component projected with the thin line image is generated. To do.
[1152]
The distribution ratio calculation unit 2131 projects the thin line image by subtracting the approximate value approximated by the plane indicated by the slope and the intercept included in the steady component information from the pixel value of the pixel of the input image. You may make it produce | generate the image which consists only of a stationary component.
[1153]
The distribution ratio calculation unit 2131 distributes the thin line image, which is a signal of the real world 1, to two pixels belonging to adjacent monotonous increase / decrease regions in the steady region based on the generated image including only the steady component. The distribution ratio indicating the ratio is calculated. The distribution ratio calculation unit 2131 supplies the calculated distribution ratio to the regression line calculation unit 2132.
[1154]
A distribution ratio calculation process in the distribution ratio calculation unit 2131 will be described with reference to FIGS. 180 to 182.
[1155]
The values in the two columns on the left side of FIG. 180 are obtained by subtracting approximate values approximated by a plane indicated by the slope and intercept included in the steady-state component information from the pixel values of the input image. The pixel values of two columns of pixels are shown vertically. Two regions surrounded by a square on the left side of FIG. 180 indicate two adjacent monotonous increase / decrease regions, a monotone increase / decrease region 2141-1 and a monotone increase / decrease region 2141-2. That is, the numerical values shown in the monotonous increase / decrease area 2141-1 and the monotonous increase / decrease area 2141-2 indicate the pixel values of the pixels belonging to the monotonous increase / decrease area that is the continuity area detected by the data continuity detection unit 101.
[1156]
The numerical value in one column on the right side of FIG. 180 indicates a value obtained by adding the pixel values of the pixels lined up horizontally among the pixel values of the pixels in the two left columns in FIG. That is, the numerical value in one column on the right side of FIG. 180 is a monotonous increase / decrease region composed of pixels in one column vertically, and a thin line image is projected for each adjacent pixel in two adjacent regions. A value obtained by adding pixel values is shown.
[1157]
For example, when each pixel consists of one column of pixels vertically, belongs to one of the adjacent monotonous increase / decrease area 2141-1 and monotonous increase / decrease area 2141-2, and the pixel values of the horizontally adjacent pixels are 2 and 58 The added value is 60. Each pixel consists of a single vertical column, belongs to one of the adjacent monotonous increase / decrease area 2141-1 and monotonous increase / decrease area 2141-2, and is added when the pixel values of the horizontally adjacent pixels are 1 and 65 The value obtained is 66.
[1158]
The value of one column on the right side of FIG. 180, that is, a value obtained by adding pixel values obtained by projecting a thin line image for pixels adjacent to each other in the horizontal direction of two adjacent monotonous increase / decrease regions. Is almost constant.
[1159]
Similarly, for pixels adjacent to each other in the vertical direction of two adjacent monotonous increase / decrease areas, the value obtained by adding the pixel values projected with the thin line image is substantially constant.
[1160]
The distribution ratio calculation unit 2131 uses the property that the value obtained by adding the pixel values obtained by projecting the thin line image to adjacent pixels in two adjacent monotonous increase / decrease regions is substantially constant, so that the thin line image is 1 It is calculated how the pixel values of the columns are distributed.
[1161]
As shown in FIG. 181, the distribution ratio calculation unit 2131 is a monotonous increase / decrease region composed of pixels in one column vertically, and calculates pixel values of pixels belonging to two adjacent ones for each pixel adjacent in the horizontal direction. A distribution ratio is calculated for each pixel belonging to two adjacent monotonous increase / decrease regions by dividing the pixel value obtained by projecting the image of the thin line by the added value. However, as a result of the calculation, 100 is set for a distribution ratio exceeding 100.
[1162]
  For example, as shown in FIG. 181, when the pixel value of a horizontally adjacent pixel belonging to two adjacent objects in a monotonous increase / decrease region composed of pixels in one column vertically is 2 and 58, respectively. Since the added value is 60, a distribution ratio of 3.5 and 95.0 is calculated for each pixel. A monotonous increase / decrease area consisting of pixels in one column vertically, and the pixel values of the pixels adjacent to each other belonging to two adjacent pixels are 1 and 65, respectively, the added value is66So, for each pixel, a distribution ratio of 1.5 and 98.5 is calculated.
[1163]
In this case, when three monotonous increase / decrease areas are adjacent, which column is calculated is determined by adding the pixel value obtained by projecting a thin line image for each horizontally adjacent pixel, as shown in FIG. Of the two values, the distribution ratio is calculated based on a value closer to the pixel value of the vertex P.
[1164]
For example, when the pixel value of the vertex P is 81 and the pixel value of the pixel belonging to the monotonous increase / decrease region of interest is 79, the pixel value of the pixel adjacent to the left side is 3, and the pixel value of the pixel adjacent to the right side is 3 When the pixel value is −1, the value obtained by adding the pixel values of the adjacent pixels on the left side is 82, and the value obtained by adding the pixel values of the adjacent pixels on the right side is 78. Therefore, the pixel value 81 of the vertex P 82 is selected, and the distribution ratio is calculated based on the adjacent pixels on the left side. Similarly, when the pixel value of the vertex P is 81 and the pixel value of the pixel belonging to the target monotonous increase / decrease region is 75, the pixel value of the pixel adjacent to the left side is 0 and the pixel adjacent to the right side When the pixel value of 3 is 3, the value obtained by adding the pixel values of the adjacent pixels on the left side is 75, and the value obtained by adding the pixel values of the adjacent pixels on the right side is 78. Therefore, the pixel value 81 of the vertex P 78 is selected, and the distribution ratio is calculated based on the adjacent pixels on the right side.
[1165]
As described above, the distribution ratio calculation unit 2131 calculates a distribution ratio for a monotonous increase / decrease area formed of a single vertical column of pixels.
[1166]
The distribution ratio calculation unit 2131 calculates a distribution ratio for a monotonous increase / decrease area composed of pixels in a row horizontally by the same process.
[1167]
The regression line calculation unit 2132 assumes that the boundary of the monotonous increase / decrease region is a straight line, and calculates a regression line indicating the boundary of the monotonous increase / decrease region based on the distribution ratio calculated by the distribution ratio calculation unit 2131. Then, the monotonous increase / decrease region in the steady region is detected again.
[1168]
With reference to FIG. 183 and FIG. 184, processing of calculating a regression line indicating the boundary of the monotonous increase / decrease area in the regression line calculation unit 2132 will be described.
[1169]
In FIG. 183, white circles indicate pixels located on the upper boundary of the monotonous increase / decrease area 2141-1 to the monotonous increase / decrease area 2141-5. The regression line calculation unit 2132 calculates a regression line for the upper boundary of the monotonous increase / decrease region 2141-1 to the monotonous increase / decrease region 2141-5 by regression processing. For example, the regression line calculation unit 2132 calculates the straight line A that minimizes the sum of the squares of the distances to the pixels located on the upper boundary of the monotonous increase / decrease region 2141-1 to 2141-5.
[1170]
In FIG. 183, black circles indicate pixels located on the lower boundary of the monotonous increase / decrease area 2141-1 to the monotonous increase / decrease area 2141-5. The regression line calculation unit 2132 calculates a regression line for the lower boundary of the monotonous increase / decrease area 2141-1 to the monotonous increase / decrease area 2141-5 by regression processing. For example, the regression line calculation unit 2132 calculates the straight line B that minimizes the sum of the squares of the distances from the pixels located on the lower boundary of the monotonous increase / decrease area 2141-1 to the monotonous increase / decrease area 2141-5.
[1171]
The regression line calculation unit 2132 detects the monotonous increase / decrease area in the steady area again by determining the boundary of the monotone increase / decrease area based on the calculated regression line.
[1172]
As illustrated in FIG. 184, the regression line calculation unit 2132 determines the upper boundary of the monotonous increase / decrease area 2141-1 to the monotonous increase / decrease area 2141-5 based on the calculated straight line A. For example, the regression line calculation unit 2132 determines the upper boundary from the pixel closest to the calculated straight line A for each of the monotonous increase / decrease areas 2141-1 to 2141-5. For example, the regression line calculation unit 2132 determines the upper boundary for each of the monotonous increase / decrease areas 2141-1 to 2141-5 so that the pixel closest to the calculated straight line A is included in the area.
[1173]
  As illustrated in FIG. 184, the regression line calculation unit 2132 determines the lower boundary of the monotonous increase / decrease area 2141-1 to the monotonous increase / decrease area 2141-5 based on the calculated straight line B. For example, the regression line calculation unit 2132 determines the lower boundary from the pixel closest to the calculated straight line B for each of the monotonous increase / decrease areas 2141-1 to 2141-5. For example, the regression line calculation unit 2132 includes, for each of the monotonous increase / decrease areas 2141-1 to 2141-5, a pixel closest to the calculated straight line B is included in the area.LowerDetermine the boundaries.
[1174]
As described above, the regression line calculation unit 2132 again determines the region in which the pixel value monotonously increases or decreases from the vertex based on the regression line that regresses the boundary of the steady region detected by the data continuity detection unit 101. To detect. That is, the regression line calculation unit 2132 again detects a region that is a monotonous increase / decrease region in the steady region by determining the boundary of the monotone increase / decrease region based on the calculated regression line, and indicates the detected region. The area information is supplied to the line width detection unit 2101.
[1175]
As described above, the boundary detection unit 2121 calculates the distribution ratio indicating the ratio of the image of the thin line that is the signal of the real world 1 projected onto the pixel, and calculates the monotonous increase / decrease area from the calculated distribution ratio. By calculating a regression line indicating the boundary, the monotonous increase / decrease region in the steady region is detected again. In this way, a more accurate monotonous increase / decrease area can be detected.
[1176]
The line width detection unit 2101 illustrated in FIG. 178 detects the width of the thin line by the same processing as that illustrated in FIG. 173 based on the region information indicating the region detected again supplied from the boundary detection unit 2121. . The line width detection unit 2101 supplies the thin line width information indicating the width of the detected thin line to the signal level estimation unit 2102 together with the data continuity information.
[1177]
The processing of the signal level estimation unit 2102 shown in FIG. 178 is the same as that shown in FIG.
[1178]
FIG. 185 is a flowchart for describing real-world estimation processing by the real-world estimation unit 102 having the configuration shown in FIG. 178 corresponding to the processing in step S102.
[1179]
In step S <b> 2121, the boundary detection unit 2121 executes boundary detection processing for detecting the region again based on the pixel values of the pixels belonging to the steady region detected by the data continuity detection unit 101. Details of the boundary detection process will be described later.
[1180]
Since the process of step S2122 and step S2123 is the same as the process of step S2101 and step S2102, the description thereof will be omitted.
[1181]
FIG. 186 is a flowchart for describing boundary detection processing corresponding to the processing in step S2121.
[1182]
In step S <b> 2131, the distribution ratio calculation unit 2131 calculates a distribution ratio indicating the ratio of the thin line image projected based on the data continuity information indicating the monotonous increase / decrease area and the input image. For example, the distribution ratio calculation unit 2131 detects adjacent monotonous increase / decrease areas in the steady area from the input image based on the monotone increase / decrease area information included in the data continuity information, and belongs to the detected monotonous increase / decrease area. By subtracting the approximate value approximated by the plane indicated by the slope and the intercept included in the steady component information from the pixel value of the pixel, an image consisting only of the steady component on which the image of the thin line is projected is generated. The distribution ratio calculation unit 2131 is a monotonous increase / decrease area composed of pixels in one column, and divides the pixel values of the pixels belonging to two adjacent objects by the sum of the pixel values of the adjacent pixels to obtain 2 A distribution ratio is calculated for each pixel belonging to two adjacent monotonous increase / decrease regions.
[1183]
The distribution ratio calculation unit 2131 supplies the calculated distribution ratio to the regression line calculation unit 2132.
[1184]
In step S 2132, the regression line calculation unit 2132 calculates a regression line indicating the boundary of the monotonous increase / decrease area based on the distribution ratio indicating the ratio at which the thin line image is projected, thereby re-examining the region in the steady region. To detect. For example, assuming that the boundary of the monotonous increase / decrease region is a straight line, the regression line calculation unit 2132 calculates a regression line indicating the boundary of one end of the monotonous increase / decrease region, and the regression indicating the boundary of the other end of the monotonous increase / decrease region. By calculating the straight line, the monotonous increase / decrease region in the steady region is detected again.
[1185]
The regression line calculation unit 2132 supplies the detected region information indicating the region in the steady region to the line width detection unit 2101, and the process ends.
[1186]
As described above, the real world estimation unit 102 having the configuration shown in FIG. 178 again detects an area composed of pixels onto which a thin line image is projected, and an image that is a signal of the real world 1 based on the detected area again. The width of the thin line is detected and the light intensity (level) of the signal of the real world 1 is estimated. By doing in this way, the width | variety of a thin line can be detected more correctly with respect to the signal of the real world 1, and the intensity | strength of light can be estimated more correctly.
[1187]
As described above, a discontinuous portion of pixel values of a plurality of pixels is detected and detected in the first image data in which a real-world optical signal is projected and a part of the steadiness of the real-world optical signal is lost. From the discontinuous portion, a stationary region having data continuity is detected, the region is detected again based on the pixel values of the pixels belonging to the detected stationary region, and the real world based on the detected region again Is estimated, it is possible to obtain a more accurate and more accurate processing result for a real-world event.
[1188]
Next, with reference to FIG. 187, the real world estimation unit 102 that outputs the differential value of the approximate function in the spatial direction for each pixel in the region having continuity as real world estimation information will be described.
[1189]
The reference pixel extraction unit 2201 determines whether each pixel of the input image is a processing region based on the data continuity information (stationary angle or region information) input from the data continuity detection unit 101. If it is a processing region, information of reference pixels necessary for obtaining an approximate function in the real world from the input image (positions of a plurality of pixels around the target pixel necessary for calculation, and pixel values) Information) is extracted and output to the approximate function estimation unit 2202.
[1190]
The approximate function estimation unit 2202 estimates an approximate function that approximately describes the real world around the target pixel based on the reference pixel information input from the reference pixel extraction unit 2201 based on the least square method, and estimates the estimated approximation. The function is output to the differentiation processing unit 2203.
[1191]
Based on the approximate function input from the approximate function estimation unit 2202, the differentiation processing unit 2203 determines the pixel of interest according to the angle of the data continuity information (for example, the angle or inclination of a thin line or binary edge with respect to a predetermined axis). The shift amount of the position of the pixel to be generated is obtained from the differential value at the position on the approximation function corresponding to the shift amount (each pixel corresponding to the distance along the one-dimensional direction from the line corresponding to the stationarity). (Differential value of a function approximating the pixel value) is calculated, and further, information on the position of the target pixel, the pixel value, and the slope of the continuity is added, and this is output to the image generation unit 103 as real world estimation information To do.
[1192]
Next, the real world estimation process by the real world estimation unit 102 in FIG. 187 will be described with reference to the flowchart in FIG. 188.
[1193]
In step S <b> 2201, the reference pixel extraction unit 2201 acquires the angle and area information as data continuity information from the data continuity detection unit 101 together with the input image.
[1194]
In step S2202, the reference pixel extraction unit 2201 sets a target pixel from unprocessed pixels of the input image.
[1195]
In step S2203, the reference image extraction unit 2201 determines whether the pixel of interest is in the processing region based on the information on the data continuity information region, and determines that the pixel is not in the processing region Then, the process proceeds to step S2210, the fact that the target pixel is out of the processing region is notified to the differentiation processing unit 2203 via the approximate function estimation unit 2202, and the differentiation processing unit 2203 responds accordingly. The differential value for the corresponding target pixel is set to 0, and the pixel value of the target pixel is further added and output to the image generation unit 103 as real world estimation information, and the process proceeds to step S2211. If it is determined that the target pixel is in the processing area, the process proceeds to step S2204.
[1196]
In step S2204, the reference pixel extraction unit 2201 determines from the angle information included in the data continuity information whether the direction of data continuity is an angle close to the horizontal direction or an angle close to vertical. judge. That is, the reference pixel extraction unit 2201 determines that the continuity direction of the target pixel is the horizontal direction when the angle θ having data continuity is 0 degree ≦ θ <45 degrees or 135 degrees ≦ θ <180 degrees. When the angle θ having data continuity is 45 degrees ≦ θ <135 degrees, it is determined that the continuity direction of the target pixel is close to the vertical direction.
[1197]
In step S2205, the reference pixel extraction unit 2201 extracts the reference pixel position information and the pixel value corresponding to the determined direction from the input image, and outputs them to the approximate function estimation unit 2202. That is, since the reference pixel becomes data used when calculating an approximate function described later, it is desirable that the reference pixel is extracted according to the inclination. Therefore, a reference pixel having a long range in that direction is extracted corresponding to the determination direction of either the horizontal direction or the vertical direction. More specifically, for example, as shown in FIG._fIf the pixel is close to the vertical direction, it is determined that the pixel is in the vertical direction. In this case, for example, as shown in FIG. 189, the reference pixel extraction unit 2201 determines the center pixel (0, 0) in FIG. , Pixels (−1,2), (−1,1), (−1,0), (−1, −1), (−1, −2), (0,2), (0 , 1), (0, 0), (0, -1), (0, -2), (1, 2), (1, 1), (1, 0), (1, -1), ( The pixel values of (1, -2) are extracted. In FIG. 189, it is assumed that the size of each pixel in the horizontal direction and the vertical direction is 1.
[1198]
That is, the reference pixel extraction unit 2201 selects pixels in a long range in the vertical direction so that there are a total of 15 pixels of 2 pixels in the vertical (up and down) direction and 1 pixel in the horizontal (left and right) direction around the target pixel. Extracted as a reference pixel.
[1199]
On the other hand, when it is determined that the pixel is in the horizontal direction, the pixel is long in the horizontal direction so that there are a total of 15 pixels, one pixel each in the vertical (up and down) direction and two pixels in the horizontal (left and right) direction around the target pixel The pixels in the range are extracted as reference pixels and output to the approximate function estimation unit 2202. Of course, the number of reference pixels is not limited to 15 as described above, but may be any other number.
[1200]
In step S2206, the approximate function estimation unit 2202 estimates the approximate function f (x) by the least square method based on the reference pixel information input from the reference pixel extraction unit 2201, and outputs the approximate function f (x) to the differentiation processing unit 2203.
[1201]
That is, the approximate function f (x) is a polynomial as shown by the following formula (96).
[1202]
[Equation 70]

... (96)
[1203]
Thus, each coefficient W of the polynomial in the equation (96)₁Thru W_{n + 1}Is obtained, an approximate function f (x) approximating the real world is obtained. However, since more reference pixel values are required than the number of coefficients, for example, when the reference pixels are as shown in FIG. 189, there are a total of 15 pixels, so that only 15 coefficients of the polynomial are obtained. I can't. Therefore, in this case, the polynomial is a polynomial up to the 14th order, and the coefficient W₁Thru W₁₅The approximate function is estimated by obtaining. In this case, an approximate function f (x) composed of a 15th order polynomial may be set to form simultaneous equations.
[1204]
Therefore, when the 15 reference pixel values shown in FIG. 189 are used, the approximate function estimation unit 2202 estimates the following equation (97) by solving using the least square method.
[1205]

[1206]
Note that the number of reference pixels may be changed in accordance with the degree of the polynomial.
[1207]
Here, Cx (ty) is the shift amount, and the steadiness gradient is G_fCx (ty) = ty / G_fDefined by This shift amount Cx (ty) is determined by the approximation function f (x) defined on the position of the spatial direction Y = 0 and the gradient G_fAs shown in FIG. 4, the deviation width with respect to the spatial direction X at the position of the spatial direction Y = ty is assumed. Therefore, for example, when the approximate function is defined as f (x) on the position in the spatial direction Y = 0, the approximate function f (x) has the gradient G in the spatial direction Y = ty._f, The function should be f (x−Cx (ty)) (= f (x−ty / G_f)).
[1208]
In step S2207, the differentiation processing unit 2203 obtains a shift amount at the position of the pixel to be generated based on the approximate function f (x) input from the approximate function estimation unit 2202.
[1209]
That is, in the case of generating pixels so that the density is doubled in the horizontal direction and in the vertical direction (total density is 4 times), the differentiation processing unit 2203 first sets the density twice in the vertical direction, for example. In order to divide the pixel Pa and Pb into two, as shown in FIG. 190, in order to obtain the differential value at the center position of the pixel of interest Pin (Xin, Yin), the center position Pin (Xin, Yin) Find the shift amount. Since this shift amount is Cx (0), it is substantially zero. In FIG. 190, the pixel Pin is a square having (Xin, Yin) as the approximate center of gravity, and the pixels Pa and Pb are approximately (Xin, Yin + 0.25) and (Xin, Yin−0.25), respectively. The center of gravity is a rectangle that is long in the horizontal direction in the figure.
[1210]
In step S2208, the differentiation processing unit 2203 differentiates the approximate function f (x) to obtain a first-order differential function f (x) ′ of the approximate function, and obtains a differential value at a position corresponding to the obtained shift amount. This is obtained and output to the image generation unit 103 as real world estimation information. That is, in this case, the differential processing unit 2203 obtains the differential value f (Xin) ′, and determines the position (in this case, the target pixel (Xin, Yin)), the pixel value, and the direction of continuity. Outputs information with tilt information.
[1211]
In step S <b> 2209, the differential processing unit 2203 determines whether or not the differential value necessary for generating the pixel having the required density is obtained. For example, in this case, only a differential value for obtaining a double density is obtained (only a differential value for obtaining a double density in the spatial direction Y direction is obtained). It is determined that a differential value necessary for generating pixels with a certain density has not been obtained, and the process returns to step S2207.
[1212]
In step S2207, the differentiation processing unit 2203 again obtains the shift amount at the position of the pixel to be generated based on the approximate function f (x) input from the approximate function estimation unit 2202. That is, in this case, the differential processing unit 2203 obtains differential values necessary for dividing each of the divided pixels Pa and Pb into two. Since the positions of the pixels Pa and Pb are the positions indicated by black circles in FIG. 190, the differentiation processing unit 2203 obtains the shift amount corresponding to each position. The shift amounts of the pixels Pa and Pb are Cx (0.25) and Cx (−0.25), respectively.
[1213]
In step S2208, the differentiation processing unit 2203 first-order differentiates the approximate function f (x) to obtain a differential value at a position corresponding to the shift amount corresponding to each of the pixels Pa and Pb. The estimation information is output to the image generation unit 103.
[1214]
That is, when the reference pixel shown in FIG. 189 is used, the differentiation processing unit 2203 obtains a differentiation function f (x) ′ for the obtained approximate function f (x) as shown in FIG. , The differential values at the positions (Xin−Cx (0.25)) and (Xin−Cx (−0.25)) that are shifted by the shift amounts Cx (0.25) and Cx (−0.25) are respectively expressed as f (Xin− Cx (0.25)) ′, f (Xin−Cx (−0.25)) ′, position information corresponding to the differential value is added, and this is output as real world estimation information. Note that since the pixel value information is output in the first process, the pixel value information is not added.
[1215]
In step S <b> 2209, the differentiation processing unit 2203 determines again whether or not the differential value necessary for generating the pixel having the calculated density is obtained. For example, in this case, since the differential value for obtaining the density of 4 times is obtained, it is determined that the differential value necessary for generating the pixel having the required density has been obtained, The process proceeds to step S2211.
[1216]
In step S2211, the reference pixel extraction unit 2201 determines whether or not all pixels have been processed. If it is determined that all pixels have not been processed, the processing returns to step S2202. If it is determined in step S2211 that all the pixels have been processed, the processing ends.
[1217]
As described above, when generating pixels so that the input image has a density four times that in the horizontal direction and the vertical direction, the pixels use the differential value of the approximate function at the center position of the divided pixels. Therefore, in order to generate a quadruple density pixel, information of a total of three differential values is required.
[1218]
That is, as shown in FIG. 190, one pixel finally has four pixels P01, P02, P03, and P04 (in FIG. 190, pixels P01, P02, P03, and P04 are four pixels in the figure). A square whose center of gravity is the position of the cross mark, and the length of each side is 1 for each pixel Pin, so that the pixels P01, P02, P03, and P04 are approximately 0.5). In order to generate a quadruple density pixel, first, a double density pixel is generated in the horizontal direction or the vertical direction (in this case, the vertical direction) (described above). In addition, the divided two pixels are divided in a direction perpendicular to the first division direction (in this case, the horizontal direction in this case) (the above-described second step S2207, S2208). S2208 This is because of processing.
[1219]
In the above example, the differential value at the time of calculating the quadruple density pixel has been described as an example. However, in the case of calculating a pixel having a higher density, by repeating the processing of steps S2207 to S2209, You may make it obtain | require more differential values required for the calculation of a pixel value. Further, in the above example, the example of obtaining the double-density pixel value has been described. However, since the approximate function f (x) is a continuous function, a necessary differential value is obtained for pixel values other than the double density. Is possible.
[1220]
According to the above, using the pixel values of the pixels near the target pixel, an approximate function that approximates the real world is obtained, and the differential value of the position where the pixel in the spatial direction needs to be generated is output as real world estimation information It becomes possible to do.
[1221]
The real world estimation unit 102 described above with reference to FIG. 187 outputs a differential value necessary for generating an image as real world estimation information. The differential value is an approximate function f at a required position. It has the same value as the slope of (x).
[1222]
Therefore, next, referring to FIG. 192, without obtaining the approximate function f (x), only the slope on the approximate function f (x) necessary for pixel generation is directly obtained and output as real world estimation information. The real world estimation unit 102 will be described.
[1223]
The reference pixel extraction unit 2211 determines whether each pixel of the input image is a processing region based on the data continuity information (stationary angle or region information) input from the data continuity detection unit 101. If it is a processing region, information of reference pixels necessary for obtaining the inclination from the input image (a plurality of peripheral pixels arranged in the vertical direction including the target pixel necessary for calculation, or the target pixel Including the positions of a plurality of peripheral pixels arranged in the horizontal direction and information on the respective pixel values), and outputs them to the inclination estimation unit 2212.
[1224]
The inclination estimation unit 2212 generates information on the inclination of the pixel position necessary for pixel generation based on the reference pixel information input from the reference pixel extraction unit 2211 and outputs the information to the image generation unit 103 as real world estimation information. To do. More specifically, the inclination estimation unit 2212 obtains the inclination at the position of the target pixel on the approximation function f (x) that approximately represents the real world using the difference information of the pixel value between the pixels, The position information of the target pixel, the pixel value, and the information on the inclination in the direction of continuity are output as real world estimation information.
[1225]
Next, real world estimation processing by the real world estimation unit 102 in FIG. 192 will be described with reference to the flowchart in FIG. 193.
[1226]
In step S <b> 2221, the reference pixel extraction unit 2211 acquires angle and area information as data continuity information from the data continuity detection unit 101 together with the input image.
[1227]
In step S <b> 2222, the reference pixel extraction unit 2211 sets a target pixel from unprocessed pixels of the input image.
[1228]
In step S2223, the reference image extraction unit 2211 determines whether the pixel of interest is in the processing region based on the information in the data continuity information region, and determines that the pixel is not in the processing region Then, the process proceeds to step S2228, and the inclination estimation unit 2212 is informed that the pixel of interest is outside the processing region, and in response to this, the gradient estimation unit 2212 sets the inclination of the corresponding pixel of interest to 0. Further, the pixel value of the target pixel is added and output to the image generation unit 103 as real world estimation information, and the process proceeds to step S2229. If it is determined that the target pixel is in the processing area, the process proceeds to step S2224.
[1229]
In step S2224, the reference pixel extraction unit 2211 determines from the angle information included in the data continuity information whether the direction having the data continuity is an angle close to the horizontal direction or an angle close to vertical. judge. That is, the reference pixel extracting unit 2211 determines that the continuity direction of the target pixel is the horizontal direction when the angle θ having data continuity is 0 degree ≦ θ <45 degrees or 135 degrees ≦ θ <180 degrees. When the angle θ having data continuity is 45 degrees ≦ θ <135 degrees, it is determined that the continuity direction of the target pixel is close to the vertical direction.
[1230]
In step S <b> 2225, the reference pixel extraction unit 2211 extracts the reference pixel position information and the pixel value corresponding to the determined direction from the input image, and outputs them to the inclination estimation unit 2212. That is, since the reference pixel becomes data used when calculating the inclination described later, it is desirable to extract the reference pixel according to the inclination indicating the direction of continuity. Therefore, a reference pixel having a long range in that direction is extracted corresponding to the determination direction of either the horizontal direction or the vertical direction. More specifically, for example, when it is determined that the inclination is close to the vertical direction, the reference pixel extraction unit 2211 uses the center pixel (0, 0) in FIG. 194 as the pixel of interest as illustrated in FIG. , Each pixel value of the pixel (0, 2), (0, 1), (0, 0), (0, -1), (0, -2) is extracted. In FIG. 194, it is assumed that the size of each pixel is 1 in the horizontal direction and the vertical direction.
[1231]
That is, the reference pixel extraction unit 2211 extracts pixels in a long range in the vertical direction as reference pixels so that a total of 5 pixels, each of 2 pixels in the vertical (up and down) direction, with the target pixel as the center.
[1232]
  Conversely, if it is determined that the pixel is in the horizontal direction, a pixel in a long range in the horizontal direction is extracted as a reference pixel so that a total of five pixels of two pixels in the horizontal (left and right) direction centering on the target pixel is extracted.Inclination estimation unit 2212Output to. Of course, the number of reference pixels is not limited to five as described above, but may be any other number.
[1233]
In step S2226, the inclination estimation unit 2212 receives the reference pixel information input from the reference pixel extraction unit 2211 and the inclination G in the continuity direction._fBased on the above, the shift amount of each pixel value is calculated. That is, when the approximate function f (x) corresponding to the spatial direction Y = 0 is used as a reference, the approximate function corresponding to the spatial direction Y = −2, −1, 1, 2 is as shown in FIG. Gradient G_fTherefore, the approximate functions are f (x−Cx (2)), f (x−Cx (1)), f (x−Cx (−1)), f ( x−Cx (−2)), and is expressed as a function shifted in the spatial direction X by each shift amount for each spatial direction Y = −2, −1, 1, and 2.
[1234]
Therefore, the inclination estimation unit 2212 calculates these shift amounts Cx (−2) to Cx (2). For example, when the reference pixel is extracted as shown in FIG. 194, the shift amount is Cx (2) = 2 / G for the reference pixel (0, 2) in the figure._fAnd the reference pixel (0, 1) is Cx (1) = 1 / G_fThe reference pixel (0, 0) is Cx (0) = 0, and the reference pixel (0, -1) is Cx (-1) =-1 / G._fAnd the reference pixel (0, -2) is Cx (-2) =-2 / G_fIt becomes.
[1235]
In step S2227, the inclination estimation unit 2212 calculates (estimates) an inclination on the approximate function f (x) at the position of the target pixel. For example, as shown in FIG. 194, when the direction of continuity for the target pixel is an angle close to the vertical direction, the pixel value differs greatly between pixels adjacent in the horizontal direction. Since the change between the pixels in the vertical direction is small and the change is similar, the inclination estimation unit 2212 determines the difference between the pixels in the vertical direction by capturing the change between the pixels in the vertical direction as a change in the spatial direction X due to the shift amount. The slope on the approximate function f (x) at the position of the target pixel is obtained by replacing with the difference between the pixels in the horizontal direction.
[1236]
  That is, assuming that there is an approximation function f (x) that approximately describes the real world, the relationship between the shift amount and the pixel value of each reference pixel is as shown in FIG. Here, the pixel values of each pixel in FIG. 194 are P (0, 2), P (0, 1), P (0, 0), P (0, −1), P (0, −2) from the top. ). As a result, the pixel value P and the shift amount Cx in the vicinity of the target pixel (0,0) are (P, Cx) = (P (0,2), −Cx (2)), (P (0,1), -Cx (1)), (P (0, -1), −Cx (−1)), (P (0, −2), −Cx (−2)) and (P (0,0), 0).
[1237]
Incidentally, the pixel value P, the shift amount Cx, and the inclination Kx (inclination on the approximate function f (x)) have a relationship as shown in the following equation (98).
[1238]

[1239]
Since the above equation (98) is a function of one variable with respect to the variable Kx, the inclination estimation unit 2212 calculates the inclination Kx of this variable Kx (inclination) by the least square method of one variable.
[1240]
That is, the inclination estimation unit 2212 obtains the inclination of the pixel of interest by solving a normal equation such as the following equation (99), and information on the pixel value of the pixel of interest and the inclination in the direction of continuity Is output to the image generation unit 103 as real world estimation information.
[1241]
[Equation 71]

... (99)
[1242]
Here, i is a number for identifying each pair of the pixel value P and the shift amount C of the reference pixel, and is 1 to m. M is the number of reference pixels including the target pixel.
[1243]
In step S2229, the reference pixel extraction unit 2211 determines whether or not all the pixels have been processed. If it is determined that all the pixels have not been processed, the processing returns to step S2222. If it is determined in step S2229 that all the pixels have been processed, the processing ends.
[1244]
Note that the gradient output as the real world estimation information by the above-described processing is used when the pixel value to be finally obtained is calculated by extrapolation. In the above example, the gradient when calculating a double-density pixel has been described as an example. However, when calculating a pixel with a higher density, more positions necessary for calculating the pixel value are used. You may make it obtain | require the inclination in.
[1245]
For example, as shown in FIG. 190, when pixels having a double density in the horizontal direction and a total density of four times in the spatial direction of the double density in the vertical direction are generated, The gradient Kx of the approximate function f (x) corresponding to each position of Pin, Pa, Pb in 190 may be obtained.
[1246]
Further, in the above example, the example of obtaining the double-density pixel value has been described. However, since the approximate function f (x) is a continuous function, the necessary inclination of the pixel value of the pixel at a position other than the double density is also required. Can be obtained.
[1247]
According to the above, the pixel value of the pixel in the vicinity of the target pixel is used to calculate the slope on the approximate function of the position where the pixel in the spatial direction needs to be generated without obtaining an approximate function that approximately represents the real world. It can be generated and output as world estimation information.
[1248]
Next, with reference to FIG. 196, the real world estimation unit 102 that outputs a differential value on an approximation function in the frame direction (time direction) for each pixel in a region having continuity as real world estimation information will be described.
[1249]
  Based on the data continuity information (stationary motion (motion vector) and region information) input from the data continuity detection unit 101, the reference pixel extraction unit 2231 detects each pixel of the input image in the processing region. If it is a processing region, information on reference pixels necessary for obtaining an approximate function of the real world from the input image (positions of a plurality of pixels around the target pixel necessary for calculation, and , Extract pixel value information) and approximate function estimation unit2232Output to.
[1250]
The approximate function estimation unit 2232 estimates, based on the least square method, an approximate function that approximately describes the real world around the target pixel based on the reference pixel information in the frame direction input from the reference pixel extraction unit 2231. The estimated function is output to the differentiation processing unit 2233.
[1251]
Based on the approximate function in the frame direction input from the approximate function estimation unit 2232, the differentiation processing unit 2233 shifts the position of the pixel to be generated from the target pixel in the frame direction according to the movement of the data continuity information. And the differential value at the position on the approximate function in the frame direction according to the shift amount (the differential of the function approximating the pixel value of each pixel corresponding to the distance along the one-dimensional direction from the line corresponding to the stationarity) Value) is further calculated, and the position of the target pixel, the pixel value, and stationary motion information are added, and this is output to the image generation unit 103 as real world estimation information.
[1252]
Next, real world estimation processing by the real world estimation unit 102 in FIG. 196 will be described with reference to the flowchart in FIG. 197.
[1253]
In step S2241, the reference pixel extraction unit 2231 obtains motion and area information as data continuity information from the data continuity detection unit 101 together with the input image.
[1254]
In step S2242, the reference pixel extraction unit 2231 sets a target pixel from unprocessed pixels of the input image.
[1255]
In step S2243, the reference image extraction unit 2231 determines whether the pixel of interest is in the processing region based on the information in the data continuity information region, and determines that the pixel is not in the processing region. Then, the process proceeds to step S2250, and the pixel of interest is out of the processing region, is notified to the differentiation processing unit 2233 via the approximate function estimation unit 2232, and the differentiation processing unit 2233 responds accordingly. The differential value for the corresponding pixel of interest is set to 0, and the pixel value of the pixel of interest is further added and output to the image generation unit 103 as real world estimation information, and the processing proceeds to step S2251. If it is determined that the target pixel is in the processing area, the process proceeds to step S2244.
[1256]
  In step S2244, the reference pixel extracting unit 2231 determines the data continuity from the motion information included in the data continuity information.MovementIs a movement close to the spatial direction or a movement close to the frame direction. That is, as shown in FIG. 198, in the plane formed by the frame direction T and the spatial direction Y, if the angle indicating the in-plane direction of time and space with the frame direction as the reference axis is θv, reference pixel extraction Part2231When the angle θv having data continuity is 0 degree ≦ θv <45 degrees or 135 degrees ≦ θv <180 degrees, the movement of the steadiness of the target pixel is close to the frame direction (time direction). Judgment and angle of data continuityθvBut 45 degrees ≤θv<135 degrees, the continuity of the target pixelMovementIs determined to be close to the spatial direction.
[1257]
  In step S2245, the reference pixel extraction unit2231Extracts the reference pixel position information and the pixel value corresponding to the determined direction from the input image, and outputs them to the approximate function estimation unit 2232. That is, since the reference pixel becomes data used when calculating an approximate function described later, it is desirable to extract the reference pixel according to the angle. Accordingly, in correspondence with the determination direction of either the frame direction or the spatial direction, a reference pixel having a long range in that direction is extracted. More specifically, for example, as shown in FIG._fIs close to the spatial direction, it is determined to be the spatial direction. In this case, for example, as shown in FIG. 198, the reference pixel extraction unit 2231 has the center pixel (t, y) = (0 , 0) as a pixel of interest, pixels (t, y) = (− 1, 2), (−1, 1), (−1, 0), (−1, −1), (−1, -2), (0,2), (0,1), (0,0), (0, -1), (0, -2), (1,2), (1,1), (1 , 0), (1, -1), and (1, -2) pixel values are extracted. In FIG. 198, it is assumed that the size of each pixel in the frame direction and the spatial direction is 1.
[1258]
In other words, the reference pixel extraction unit 2231 has a total of 15 pixels corresponding to 2 pixels in the space (up and down in the figure) direction and 1 frame in the frame (left and right in the figure) direction around the target pixel. A pixel having a long spatial direction with respect to the direction is extracted as a reference pixel.
[1259]
On the other hand, when it is determined that the direction is the frame direction, the pixel is the total of 15 pixels of 1 pixel in the space (up and down in the figure) direction and 2 frames in the frame (left and right in the figure) direction around the target pixel. As described above, a pixel in a long range in the frame direction is extracted as a reference pixel and output to the approximate function estimation unit 2232. Of course, the number of reference pixels is not limited to 15 as described above, but may be any other number.
[1260]
In step S 2246, the approximate function estimation unit 2232 estimates the approximate function f (t) by the least square method based on the reference pixel information input from the reference pixel extraction unit 2231, and outputs the approximate function f (t) to the differentiation processing unit 2233.
[1261]
That is, the approximate function f (t) is a polynomial as shown by the following formula (100).
[1262]
[Equation 72]

... (100)
[1263]
Thus, each coefficient W of the polynomial in the equation (100)₁Thru W_{n + 1}Is obtained, an approximate function f (t) in the frame direction that approximates the real world is obtained. However, since more reference pixel values than the number of coefficients are required, for example, when the reference pixels are as shown in FIG. 198, there are a total of 15 pixels, so only 15 coefficients of the polynomial are obtained. I can't. Therefore, in this case, the polynomial is a polynomial up to the 14th order, and the coefficient W₁Thru W₁₅The approximate function is estimated by obtaining. In this case, an approximate function f (x) composed of a 15th order polynomial may be set to form simultaneous equations.
[1264]
Therefore, when the 15 reference pixel values shown in FIG. 198 are used, the approximate function estimation unit 2232 estimates the following equation (101) by solving using the least square method.
[1265]

[1266]
Note that the number of reference pixels may be changed in accordance with the degree of the polynomial.
[1267]
Here, Ct (ty) is the shift amount, which is the same as Cx (ty) described above, and the steadiness slope is V_f, Ct (ty) = ty / V_fDefined by This shift amount Ct (ty) is determined by the approximation function f (t) defined on the position of the spatial direction Y = 0 with the gradient V_fAs shown in FIG. 6, the deviation width with respect to the frame direction T at the position of the spatial direction Y = ty is assumed. Therefore, for example, when the approximate function is defined as f (t) on the position of the spatial direction Y = 0, the approximate function f (t) is the frame direction (time direction) in the spatial direction Y = ty. Since T should be shifted by Ct (ty), the function is f (t−Ct (ty)) (= f (t−ty / V_f)).
[1268]
In step S <b> 2247, the differentiation processing unit 2233 obtains the shift amount at the position of the pixel to be generated based on the approximate function f (t) input from the approximate function estimation unit 2232.
[1269]
That is, when generating pixels so that the density is doubled in the frame direction and the spatial direction (total density is 4 times), the differentiation processing unit 2233, for example, first sets the double density in the spatial direction. In order to divide the pixel into Pat and Pbt into two, as shown in FIG. 199, in order to obtain a differential value when the center position of the target pixel is Pin (Tin, Yin), the center position Pin (Tin, Yin) Find the shift amount. Since this shift amount is Ct (0), it is substantially zero. In FIG. 199, the pixel Pin is a square having (Tin, Yin) as the approximate center of gravity, and the pixels Pat and Pbt are approximately (Tin, Yin + 0.25) and (Tin, Yin−0.25), respectively. The center of gravity is a rectangle that is long in the horizontal direction in the figure. The length of the pixel of interest Pin in the frame direction T being 1 corresponds to the shutter time for one frame.
[1270]
In step S2248, the differentiation processing unit 2233 differentiates the approximate function f (t) to obtain a first-order differential function f (t) ′ of the approximate function, and obtains a differential value at a position corresponding to the obtained shift amount. This is obtained and output to the image generation unit 103 as real world estimation information. In other words, in this case, the differential processing unit 2233 obtains the differential value f (Tin) ′, the position (in this case, the target pixel (Tin, Yin)), the pixel value, and the direction of continuity. Output with motion information.
[1271]
In step S <b> 2249, the differential processing unit 2233 determines whether or not a differential value necessary for generating a pixel having the required density is obtained. For example, in this case, only the differential value for obtaining a double density in the spatial direction is obtained (the differential value for obtaining the double density in the frame direction is not obtained). It is determined that the differential value necessary for generating the pixels having the density is not obtained, and the processing returns to step S2247.
[1272]
  In step S2247, the differential processing unit2233Is again the approximate function estimator2232Based on the input approximate function f (t), the shift amount at the position of the pixel to be generated is obtained. That is, the differential processing unit2233In this case, the differential values necessary for further dividing each of the two divided pixels Pat and Pbt into two are obtained. Since the positions of the pixels Pat and Pbt are the positions indicated by black circles in FIG. 199, the differentiation processing unit 2233 obtains a shift amount corresponding to each position. The shift amounts of the pixels Pat and Pbt are Ct (0.25) and Ct (−0.25), respectively.
[1273]
In step S2248, the differentiation processing unit 2233 differentiates the approximate function f (t) to obtain a differential value at a position corresponding to the shift amount corresponding to each of the pixels Pat and Pbt, and this is obtained as real-world estimation information. To the image generation unit 103.
[1274]
That is, when the reference pixel shown in FIG. 198 is used, the differential processing unit 2233 obtains the differential function f (t) ′ for the obtained approximate function f (t) as shown in FIG. , The differential values at the positions (Tin−Ct (0.25)) and (Tin−Ct (−0.25)) which are shifted by the shift amounts Ct (0.25) and Ct (−0.25) are respectively expressed as f (Tin− Ct (0.25)) ′, f (Tin−Ct (−0.25)) ′, position information corresponding to the differential value is added, and this is output as real world estimation information. Note that since the pixel value information is output in the first process, the pixel value information is not added.
[1275]
In step S <b> 2249, the differentiation processing unit 2233 determines again whether or not the differential value necessary for generating the pixel having the calculated density is obtained. For example, in this case, the differential values for double the density in the spatial direction Y and the frame direction T are obtained (four times in total), so that the pixel having the required density is generated. It is determined that as many differential values as necessary for the above are obtained, and the process proceeds to step S2251.
[1276]
In step S2251, the reference pixel extraction unit 2231 determines whether or not all the pixels have been processed. If it is determined that all the pixels have not been processed, the processing returns to step S2242. If it is determined in step S2251 that all the pixels have been processed, the processing ends.
[1277]
As described above, when generating pixels so that the input image has a density that is four times higher in the frame direction (time direction) and in the spatial direction, the pixel is an approximate function of the center position of the divided pixels. Since the differential value is used for division by extrapolation, information of a total of three differential values is required to generate a quadruple density pixel.
[1278]
In other words, as shown in FIG. 199, one pixel finally has four pixels P01t, P02t, P03t, and P04t (in FIG. 199, the pixels P01t, P02t, P03t, and P04t are four pixels in the figure). A square whose center of gravity is the position of the cross mark, and the length of each side is 1 for each pixel Pin, so that the pixels P01t, P02t, P03t, and P04t are each approximately 0.5). In order to generate a quadruple density pixel, first, a double density pixel is generated in the frame direction or the spatial direction (in the above-described first steps S2247 and S2248). Processing), and further, the two divided pixels are divided in a direction (in this case, the frame direction) perpendicular to the direction of the first division (in the second step S2247, described above). (S2248 processing).
[1279]
In the above example, the differential value at the time of calculating a quadruple density pixel has been described as an example. However, when a pixel having a higher density is calculated, the processing in steps S2247 to S2249 is repeated. You may make it obtain | require more differential values required for the calculation of a pixel value. In addition, in the above example, the example of obtaining the double-density pixel value has been described. However, since the approximate function f (t) is a continuous function, the necessary differential value is obtained for pixel values other than the double density. Is possible.
[1280]
According to the above, it is possible to obtain an approximate function that approximately represents the real world using the pixel values of the pixels in the vicinity of the target pixel and output the differential value of the position where the pixel needs to be generated as real world estimation information. It becomes possible.
[1281]
The real world estimation unit 102 described above with reference to FIG. 196 outputs a differential value necessary for generating an image as real world estimation information. The differential value is an approximate function f at a required position. It is the same value as the slope of (t).
[1282]
Therefore, referring to FIG. 201, the real world estimation unit that directly obtains only the inclination in the frame direction on the approximate function, which is necessary for pixel generation, and outputs it as real world estimation information without obtaining the approximate function. 102 will be described.
[1283]
The reference pixel extraction unit 2251 determines whether each pixel of the input image is a processing region based on the data continuity information (stationary motion and region information) input from the data continuity detection unit 101. If it is a processing region, information of reference pixels necessary for obtaining an inclination from an input image (a plurality of peripheral pixels lined up in a spatial direction including the target pixel necessary for calculation or a target pixel The position of a plurality of surrounding pixels arranged in the frame direction including the information of each pixel value) is extracted and output to the inclination estimation unit 2252.
[1284]
The inclination estimation unit 2252 generates information on the inclination of the pixel position necessary for pixel generation based on the reference pixel information input from the reference pixel extraction unit 2251 and outputs the information to the image generation unit 103 as real world estimation information. To do. More specifically, the inclination estimation unit 2252 uses the difference information of the pixel values between the pixels to obtain the inclination in the frame direction at the position of the pixel of interest on the approximation function that approximately represents the real world. The position information of the target pixel, the pixel value, and the information on the movement in the stationary direction are output as real world estimation information.
[1285]
Next, real world estimation processing by the real world estimation unit 102 in FIG. 201 will be described with reference to the flowchart in FIG. 202.
[1286]
In step S 2261, the reference pixel extraction unit 2251 acquires the motion and area information as data continuity information from the data continuity detection unit 101 together with the input image.
[1287]
In step S2262, the reference pixel extraction unit 2251 sets a target pixel from unprocessed pixels of the input image.
[1288]
In step S2263, when the reference image extraction unit 2251 determines whether the pixel of interest is in the processing region based on the information on the data continuity information region, and determines that the pixel is not in the processing region Then, the process proceeds to step S2268 to notify the inclination estimation unit 2252 that the target pixel is out of the processing region, and in response thereto, the inclination estimation unit 2252 sets the inclination of the corresponding target pixel to 0. Further, the pixel value of the target pixel is added and output to the image generation unit 103 as real world estimation information, and the process proceeds to step S2269. If it is determined that the target pixel is in the processing area, the process proceeds to step S2264.
[1289]
  In step S2264, the reference pixel extraction unit2251Determines whether the data continuity movement is a movement close to the frame direction or a movement close to the spatial direction from the movement information included in the data continuity information. That is, in the plane composed of the frame direction T and the spatial direction Y, if the angle indicating the direction in the plane of time and space with the frame direction as the reference axis is θv, the reference pixel extraction unit 2251 When the motion angle θv is 0 degree ≦ θv <45 degrees or 135 degrees ≦ θv <180 degrees, it is determined that the stationary motion of the pixel of interest is close to the frame direction, and the angle that the data stationary property has When θv is 45 degrees ≦ θv <135 degrees, it is determined that the stationary movement of the target pixel is close to the spatial direction.
[1290]
In step S <b> 2265, the reference pixel extraction unit 2251 extracts reference pixel position information and pixel values corresponding to the determined direction from the input image, and outputs them to the inclination estimation unit 2252. That is, since the reference pixel becomes data used when calculating the inclination described later, it is desirable that the reference pixel is extracted according to the stationary motion. Accordingly, in correspondence with the determination direction of either the frame direction or the spatial direction, a reference pixel having a long range in that direction is extracted. More specifically, for example, when it is determined that the motion is close to the spatial direction, the reference pixel extraction unit 2251, as shown in FIG. 203, the center pixel (t, y) = (0) in FIG. , 0) as the target pixel, each of the pixels (t, y) = (0, 2), (0, 1), (0, 0), (0, -1), (0, -2) Are extracted. In FIG. 203, it is assumed that the size of each pixel is 1 in the frame direction and the spatial direction.
[1291]
That is, the reference pixel extraction unit 2251 extracts pixels in a long range in the spatial direction as reference pixels so that a total of 5 pixels each including 2 pixels in the spatial (vertical direction in the figure) centered on the target pixel.
[1292]
  On the other hand, when it is determined that the direction is the frame direction, two pixels in the frame (left and right in the figure) direction centering on the target pixel are 5 pixels in total.flameA pixel having a long range in the direction is extracted as a reference pixel and output to the approximate function estimation unit 2252. Of course, the number of reference pixels is not limited to five as described above, but may be any other number.
[1293]
In step S2266, the inclination estimation unit 2252 receives the reference pixel information input from the reference pixel extraction unit 2251 and the motion V in the stationary direction._fThe shift amount of each pixel value is calculated based on the direction of. That is, when the approximate function f (t) corresponding to the spatial direction Y = 0 is used as a reference, the approximate function corresponding to the spatial direction Y = −2, −1, 1, 2 is as shown in FIG. Stability slope V_fTherefore, the approximate functions are f (t−Ct (2)), f (t−Ct (1)), f (t−Ct (−1)), f ( t−Ct (−2)), and is expressed as a function shifted in the frame direction T by the amount of each shift for each spatial direction Y = −2, −1, 1, 2.
[1294]
Therefore, the inclination estimation unit 2252 determines these shift amounts Ct (−2) to Ct (2). For example, when the reference pixel is extracted as shown in FIG. 203, the shift amount is Ct (2) = 2 / V for the reference pixel (0, 2) in the figure._fAnd the reference pixel (0, 1) is Ct (1) = 1 / V_fThe reference pixel (0, 0) is Ct (0) = 0, and the reference pixel (0, -1) is Ct (-1) =-1 / V._fAnd the reference pixel (0, -2) is Ct (-2) =-2 / V_fIt becomes. The inclination estimation unit 2252 determines these shift amounts Ct (−2) to Ct (2).
[1295]
In step S2267, the inclination estimation unit 2252 calculates (estimates) the inclination of the target pixel in the frame direction. For example, as shown in FIG. 203, when the direction of continuity for the target pixel is an angle close to the spatial direction, the pixel value differs greatly between pixels adjacent in the frame direction. Since the change between the pixels in the spatial direction is small and the change is similar, the inclination estimation unit 2252 captures the difference between the pixels in the spatial direction as a change in the frame direction T due to the shift amount. The inclination at the target pixel is obtained by replacing the difference between the pixels in the frame direction.
[1296]
That is, assuming that there is a function f (t) that approximately describes the real world, the relationship between the shift amount and the pixel value of each reference pixel is as shown in FIG. Here, the pixel values of each pixel in FIG. 204 are P (0, 2), P (0, 1), P (0, 0), P (0, -1), P (0, -2) from the top. ). As a result, the pixel value P and the shift amount Ct near the target pixel (0,0) are (P, Ct) = (P (0,2), −Ct (2)), (P (0,1), -Ct (1)), (P (0, -1)), -Ct (-1)), (P (0, -2), -Ct (-2)), (P (0,0), 5) of the relationship 0) is obtained.
[1297]
Incidentally, the pixel value P, the shift amount Ct, and the inclination Kt (inclination on the approximate function f (t)) have a relationship as shown in the following equation (102).
[1298]

[1299]
  Since the above equation (102) is a function of one variable with respect to the variable Kt, the slope estimation unit2252Obtains the slope Kt of this variable Kt (slope) by the least square method of one variable.
[1300]
That is, the inclination estimation unit 2252 obtains the inclination of the pixel of interest by solving a normal equation such as the following equation (103), and information on the pixel value of the pixel of interest and the inclination in the direction of continuity Is added to the image generation unit 103 as real world estimation information.
[1301]
[Equation 73]

... (103)
[1302]
Here, i is a number for identifying each pair of the pixel value P and the shift amount Ct of the reference pixel, and is 1 to m. M is the number of reference pixels including the target pixel.
[1303]
In step S2269, the reference pixel extraction unit 2251 determines whether or not all the pixels have been processed. If it is determined that all the pixels have not been processed, the processing returns to step S2262. If it is determined in step S2269 that all the pixels have been processed, the processing ends.
[1304]
Note that the inclination in the frame direction output as the real world estimation information by the above-described processing is used when extrapolating and calculating the pixel value to be finally obtained. In the above example, the gradient when calculating a double-density pixel has been described as an example. However, when calculating a pixel with a higher density, more positions necessary for calculating the pixel value are used. You may make it obtain | require the inclination in.
[1305]
  For example,FIG. 199As shown in the above, when generating pixels having a double density in the horizontal direction and a total density of four times in the spatio-temporal direction having a double density in the frame direction, as described above,In FIG. 199The slope Kt of the approximate function f (t) corresponding to the respective positions of Pin, Pat, and Pbt of.
[1306]
Further, in the above example, the example of obtaining the double-density pixel value has been described. However, since the approximate function f (t) is a continuous function, the necessary inclination of the pixel value of the pixel at a position other than the double density is also required. Can be obtained.
[1307]
Needless to say, the order of processing for obtaining the gradient on the approximation function with respect to the frame direction or the spatial direction or the differential value is not limited. Furthermore, in the above-described example, the spatial direction has been described using the relationship between the spatial direction Y and the frame direction T. However, the relationship between the spatial direction X and the frame direction T may be used. . Furthermore, a slope or a differential value may be selectively obtained from any two-dimensional relationship in the spatiotemporal direction (from any one-dimensional direction).
[1308]
According to the above, a real-world optical signal is projected by a plurality of detection elements of the sensor, each having a spatiotemporal integration effect, and a part of the continuity of the real-world optical signal is lost, and is projected by a detection element Detects the continuity of data in image data consisting of a plurality of pixels having pixel values, and corresponds to the position of the one-dimensional direction in the spatio-temporal direction with respect to the target pixel in the image data, corresponding to the detected continuity Since the gradient of the pixel values of multiple pixels is estimated as a function corresponding to the optical signal in the real world, the frame direction that approximates the real world using the pixel values of the pixels near the target pixel Without obtaining the approximate function, it is possible to generate and output the inclination on the approximate function in the frame direction (time direction) of the position where the pixel needs to be generated as real world estimation information.
[1309]
Next, another example of the embodiment of the real world estimation unit 102 (FIG. 3) will be described with reference to FIGS. 205 to 235.
[1310]
FIG. 205 is a diagram for explaining the principle of this embodiment.
[1311]
As shown in FIG. 205, the real world 1 signal (light intensity distribution), which is an image incident on the sensor 2, is represented by a predetermined function F. Hereinafter, in the description of the embodiment of this example, a signal in the real world 1 that is an image is particularly referred to as an optical signal, and the function F is particularly referred to as an optical signal function F.
[1312]
In the embodiment of this example, when the optical signal of the real world 1 represented by the optical signal function F has a predetermined stationarity, the real world estimation unit 102 receives the input image from the sensor 2 (corresponding to stationarity). Image data including data continuity) and data continuity information from the data continuity detection unit 101 (data continuity information corresponding to the continuity of the data of the input image). The optical signal function F is estimated by approximating with a predetermined function f. In the following description of the embodiment of this example, the function f is particularly referred to as an approximate function f.
[1313]
In other words, in the embodiment of this example, the real world estimation unit 102 uses the model 161 (FIG. 7) represented by the approximate function f and uses the image (real world 1 of the real world 1). Approximate (describe) the optical signal. Therefore, hereinafter, this embodiment is referred to as a function approximation method.
[1314]
Here, before starting a specific description of the function approximation method, the background of the applicant's inventing the function approximation method will be described.
[1315]
FIG. 206 is a diagram for explaining the integration effect when the sensor 2 is a CCD.
[1316]
As shown in FIG. 206, a plurality of detection elements 2-1 are arranged on the plane of the sensor 2.
[1317]
In the example of FIG. 206, the direction parallel to the predetermined one side of the detection element 2-1 is the X direction, which is one direction in the spatial direction, and the direction perpendicular to the X direction is the other direction in the spatial direction. A certain Y direction is assumed. The direction perpendicular to the XY plane is the t direction which is the time direction.
[1318]
In the example of FIG. 206, the spatial shape of each detection element 2-1 of the sensor 2 is a square with one side length. The shutter time (exposure time) of the sensor 2 is 1.
[1319]
Furthermore, in the example of FIG. 206, the center of one predetermined detection element 2-1 of the sensor 2 is the origin in the spatial direction (X direction and Y direction) (X direction position x = 0, and Y direction position y). = 0), and the intermediate time of the exposure time is the origin in the time direction (t direction) (position t = 0 in the t direction).
[1320]
In this case, the detection element 2-1 having its center at the origin (x = 0, y = 0) in the spatial direction has a range of −0.5 to 0.5 in the X direction, a range of −0.5 to 0.5 in the Y direction, and The optical signal function F (x, y, t) is integrated in the range of −0.5 to 0.5 in the t direction, and the integrated value is output as the pixel value P.
[1321]
That is, the pixel value P output from the detection element 2-1 having the center at the origin in the spatial direction is expressed by the following equation (104).
[1322]
[Equation 74]

... (104)
[1323]
Similarly, the other detection elements 2-1 output the pixel value P represented by Expression (104) by setting the center of the target detection element 2-1 as the origin in the spatial direction.
[1324]
FIG. 207 is a diagram for explaining a specific example of the integration effect of the sensor 2.
[1325]
In FIG. 207, the X direction and the Y direction represent the X direction and the Y direction (FIG. 206) of the sensor 2.
[1326]
One portion (hereinafter, such a portion is referred to as a region) 2301 of the optical signal in the real world 1 represents an example of a region having a predetermined stationarity.
[1327]
Actually, the region 2301 is a part of a continuous optical signal (a continuous region). On the other hand, in FIG. 207, the area 2301 is shown as being divided into 20 small areas (square areas). This is because the size of the region 2301 corresponds to the size in which four detection elements (pixels) of the sensor 2 are arranged in the X direction and five in the Y direction. is there. That is, each of the 20 small areas (virtual areas) in the area 2301 corresponds to one pixel.
[1328]
In addition, a white portion of the region 2301 in the figure represents an optical signal corresponding to a thin line. Therefore, the region 2301 has continuity in the direction in which the thin line continues. Therefore, hereinafter, the region 2301 is referred to as a thin line-containing real world region 2301.
[1329]
In this case, when the sensor 2 detects the thin-line-containing real world region 2301 (a part of the optical signal of the real world 1), the sensor 2 causes the integration effect to generate an input image (pixel value) region 2302 (hereinafter, referred to as a “light source”). (Referred to as a thin-line containing data area 2302).
[1330]
Note that each pixel in the thin line-containing data region 2302 is shown as an image in the figure, but is actually data representing a predetermined value. That is, the thin line-containing real world region 2301 has 20 pixels each having a predetermined one pixel value due to the integration effect of the sensor 2 (a total of 20 pixels corresponding to 4 pixels in the X direction and 5 pixels in the Y direction). It changes into a thin line containing data area 2302 divided into (pixels) (distorted).
[1331]
FIG. 208 is a diagram for explaining another specific example (an example different from FIG. 207) of the integration effect of the sensor 2.
[1332]
208, the X direction and the Y direction represent the X direction and the Y direction of the sensor 2 (FIG. 206).
[1333]
A portion (area) 2303 of the optical signal in the real world 1 represents another example of an area having a predetermined stationarity (an example different from the thin line-containing real world area 2301 in FIG. 207).
[1334]
The region 2303 is a region having the same size as the thin line-containing real world region 2301. That is, similarly to the thin-line containing real world region 2301, the region 2303 is actually one part (continuous region) of the continuous real world 1 optical signal, but in FIG. It is shown as being divided into 20 small areas (square areas).
[1335]
The region 2303 includes a first portion having a predetermined first light intensity (value) and an edge of the second portion having a predetermined second light intensity (value). Accordingly, the region 2303 has continuity in the direction in which the edge continues. Therefore, hereinafter, the region 2303 is referred to as a binary edge-containing real world region 2303.
[1336]
In this case, when the binary edge-containing real world region 2303 (a part of the optical signal of the real world 1) is detected by the sensor 2, the sensor 2 causes the input image (pixel value) region 2304 (by the integration effect). Hereinafter, the binary edge containing data area 2304 is output.
[1337]
Each pixel value in the binary edge containing data area 2304 is represented as an image in the drawing, as in the case of the thin line containing data area 2302, but is actually data representing a predetermined value. In other words, the binary edge-containing real world region 2303 has 20 pixels each having a predetermined pixel value (total of 20 pixels in the X direction and 5 pixels in the Y direction) due to the integration effect of the sensor 2. To the binary edge containing data region 2304 divided into (number of pixels).
[1338]
The conventional image processing apparatus uses the image data output from the sensor 2 such as the thin line containing data area 2302 and the binary edge containing data area 2304 as the origin (reference), and the image data as a processing target. Subsequent image processing was performed. That is, although the image data output from the sensor 2 is different (distorted) from the optical signal in the real world 1 due to the integration effect, the conventional image processing apparatus has the real world 1 Image processing is performed with positive data different from the optical signal.
[1339]
As a result, in the conventional image processing apparatus, it is very difficult to restore the original detail from the waveform with reference to the waveform (image data) in which the details in the real world are destroyed at the stage of output from the sensor 2. There was a problem that it was difficult.
[1340]
Therefore, in the function approximation method, in order to solve this problem, as described above (as shown in FIG. 205), the real world estimation unit 102 performs the fine line containing data area 2302 and the binary edge containing data area 2304. The optical signal function F is estimated by approximating the optical signal function F (the optical signal of the real world 1) with the approximate function f from the image data (input image) output from the sensor 2 as described above.
[1341]
As a result, after the real world estimation unit 102 (in this case, the image generation unit 103 in FIG. 3), the image data in which the integration effect is considered, that is, the image data that can be expressed by the approximate function f is used as the origin. It becomes possible to execute processing.
[1342]
Hereinafter, each of three specific methods (first to third function approximation methods) of such function approximation methods will be described individually with reference to the drawings.
[1343]
First, the first function approximation method will be described with reference to FIGS. 209 to 223.
[1344]
FIG. 209 is a diagram showing again the thin line-containing real world region 2301 shown in FIG. 207 described above.
[1345]
In FIG. 209, the X direction and the Y direction represent the X direction and the Y direction (FIG. 206) of the sensor 2.
[1346]
For example, the first function approximation method projects the optical signal function F (x, y, t) corresponding to the thin line-containing real world region 2301 as shown in FIG. 209 in the X direction (the direction of the arrow 2311 in the figure). A method of approximating a one-dimensional waveform (hereinafter, such waveform is referred to as an X-section waveform F (x)) with an approximation function f (x) which is an n-order polynomial (n is an arbitrary integer). It is. Therefore, hereinafter, the first function approximation method is particularly referred to as a one-dimensional polynomial approximation method.
[1347]
In the one-dimensional polynomial approximation method, the X cross-sectional waveform F (x) to be approximated is not limited to that corresponding to the thin line-containing real world region 2301 in FIG. That is, as will be described later, in the one-dimensional polynomial approximation method, any X-section waveform F (x) corresponding to the real world 1 optical signal having continuity can be approximated. .
[1348]
Further, the direction of projection of the optical signal function F (x, y, t) is not limited to the X direction, and may be the Y direction or the t direction. That is, in the one-dimensional polynomial approximation method, the function F (y) obtained by projecting the optical signal function F (x, y, t) in the Y direction can be approximated by a predetermined approximation function f (y). The function F (t) obtained by projecting the optical signal function F (x, y, t) in the t direction can be approximated by a predetermined approximate function f (t).
[1349]
More specifically, in the one-dimensional polynomial approximation method, for example, the X sectional waveform F (x) is approximated by an approximate function f (x) that is an nth order polynomial as represented by the following equation (105). It is a technique.
[1350]
[Expression 75]

... (105)
[1351]
That is, in the one-dimensional polynomial approximation method, the real world estimation unit 102 performs the coefficient (feature value) w of x ^ i in the equation (105)._iTo calculate the X cross-sectional waveform F (x).
[1352]
This feature value w_iThe calculation method is not particularly limited, and for example, the following first to third methods can be used.
[1353]
That is, the first method is a conventionally used method.
[1354]
On the other hand, the second method is a method newly invented by the applicant of the present application, and is a method that further considers continuity in the spatial direction with respect to the first method.
[1355]
However, as will be described later, the integration effect of the sensor 2 is not considered in the first method and the second method. Therefore, the feature value w calculated by the first method or the second method is used._iThe approximation function f (x) obtained by substituting for the above equation (105) is an approximation function of the input image, but strictly speaking, it cannot be said to be an approximation function of the X sectional waveform F (x).
[1356]
Therefore, the applicant of the present application further considers the integration effect of the sensor 2 with respect to the second method, and the feature value w._iInvented a third method for computing. The feature value w calculated by this third method_iCan be said to be an approximate function of the X sectional waveform F (x) in that the integral effect of the sensor 2 is taken into consideration.
[1357]
Thus, strictly speaking, the first method and the second method cannot be said to be a one-dimensional polynomial approximation method, and only the third method can be said to be a one-dimensional polynomial approximation method.
[1358]
In other words, as shown in FIG. 210, the second method is an embodiment of the real world estimation unit 102 of the present invention, which is different from the one-dimensional polynomial approximation method. That is, FIG. 210 is a diagram for explaining the principle of the embodiment corresponding to the second method.
[1359]
As shown in FIG. 210, in the embodiment corresponding to the second method, when the optical signal of the real world 1 represented by the optical signal function F has a predetermined stationarity, the real world estimation unit 102 , Input image from the sensor 2 (image data including data continuity corresponding to continuity) and data continuity information from the data continuity detection unit 101 (data continuity corresponding to data image continuity) Information) is not used to approximate the X-section waveform F (x), but the input image from the sensor 2 is represented by a predetermined approximation function f.₂Approximate with (x).
[1360]
Thus, it is difficult to say that the second method is the same level method as the third method in that the integration effect of the sensor 2 is not considered and the approximation of the input image remains. However, the second method is superior to the conventional first method in that it considers the continuity in the spatial direction.
[1361]
Hereinafter, the details of the first method, the second method, and the third method will be individually described in that order.
[1362]
In the following, when each of the approximate functions f (x) generated by the first method, the second method, and the third method is distinguished from those of other methods, in particular, the approximate function f₁(x), approximation function f₂(x) and the approximation function f_ThreeThey are respectively referred to as (x).
[1363]
First, the details of the first method will be described.
[1364]
In the first method, the approximate function f expressed by the above-described equation (105).₁The following prediction equation (106) is defined on the assumption that (x) holds in the thin line-containing real world region 2301 of FIG.
[1365]
[76]

... (106)
[1366]
In Expression (106), x represents a pixel position relative to the X direction from the target pixel. y represents a relative pixel position with respect to the Y direction from the target pixel. e represents an error. Specifically, for example, as shown in FIG. 211, the pixel of interest is a thin line containing data area 2302 (data output by detecting the thin line containing real world area 2301 (FIG. 209) by the sensor 2). In the figure, it is assumed that the pixel is the second pixel in the X direction from the left and the third pixel in the Y direction from the bottom. In addition, a coordinate system (hereinafter referred to as a pixel-of-interest coordinate system) in which the center of the pixel of interest is the origin (0, 0) and the x-axis and the y-axis are parallel to the X-direction and Y-direction of the sensor 2 (FIG. Is set). In this case, the coordinate value (x, y) of the target pixel coordinate system represents the relative pixel position.
[1367]
In Expression (106), P (x, y) represents the pixel value at the relative pixel position (x, y). Specifically, in this case, P (x, y) in the thin line containing data area 2302 is as shown in FIG.
[1368]
FIG. 212 shows a graph of this pixel value P (x, y).
[1369]
In FIG. 212, the vertical axis of each graph represents the pixel value, and the horizontal axis represents the relative position x in the X direction from the target pixel. In the figure, the dotted line in the first graph from the top indicates the input pixel value P (x, -2), the three-dot chain line in the second graph from the top indicates the input pixel value P (x, -1), The solid line in the third graph from the top is the input pixel value P (x, 0), the dashed line in the fourth graph from the top is the input pixel value P (x, 1), the fifth from the top (the first from the bottom 2) represents the input pixel value P (x, 2).
[1370]
For the above equation (106), the 20 input pixel values P (x, -2), P (x, -1), P (x, 0), P (x, 1) shown in FIG. , P (x, 2) (where x is an integer value of −1 to 2), 20 equations represented by the following equation (107) are generated. E_kEach of (k is an integer value of 1 to 20) represents an error.
[1371]
[77]

... (107)
[1372]
Since the equation (107) is composed of 20 equations, the approximate function f₁(x) feature value w_iIs less than 20, that is, the approximate function f₁When (x) is a polynomial of an order less than the 19th order, for example, the feature value w is calculated using the least square method._iCan be calculated. A specific solution of the least square method will be described later.
[1373]
For example, now the approximate function f₁When the order of (x) is fifth order, the approximate function f calculated by the method of least squares using equation (107)₁(x) (calculated feature value w_iApproximate function f generated by₁(x)) looks like the curve shown in FIG.
[1374]
In FIG. 213, the vertical axis represents the pixel value, and the horizontal axis represents the relative position x from the target pixel.
[1375]
That is, each of the 20 pixel values P (x, y) constituting the thin line-containing data region 2302 in FIG. 211 (input pixel values P (x, −2) and P (x, −1) shown in FIG. 212). , P (x, 0), P (x, 1), P (x, 2)), for example, are added as they are along the x-axis (the relative position y in the Y direction is assumed to be constant) When five graphs 212 are overlapped), a plurality of lines parallel to the x-axis (dotted line, three-dot chain line, solid line, one-dot chain line, and two-dot chain line) as shown in FIG. 213 are distributed.
[1376]
However, in FIG. 213, the dotted line indicates the input pixel value P (x, -2), the three-dot chain line indicates the input pixel value P (x, -1), and the solid line indicates the input pixel value P (x, 0). The one-dot chain line represents the input pixel value P (x, 1), and the two-dot chain line represents the input pixel value P (x, 2). In addition, in the case of the same pixel value, two or more lines actually overlap, but in FIG. 213, each line is drawn so as not to overlap so that each line can be distinguished.
[1377]
Then, the 20 input pixel values P (x, -2), P (x, -1), P (x, 0), P (x, 1), P (x, 2) distributed in this way Each and the value f₁A regression curve that minimizes the error of (x) (feature value w calculated by the method of least squares_iIs an approximate function f obtained by substituting₁(x)) is a curve (approximation function f) shown in FIG.₁(x)).
[1378]
Thus, the approximation function f₁(x) is a pixel value in the Y direction (a pixel value having the same relative position x in the X direction from the target pixel) P (x, -2), P (x, -1), P (x, 0), The average value of P (x, 1) and P (x, 2) is merely a curve connecting in the X direction. That is, without considering the spatial continuity of the optical signal, the approximate function f₁(x) is generated.
[1379]
For example, in this case, the object to be approximated is the thin line-containing real world region 2301 (FIG. 209). This thin line-containing real world region 2301 has a slope G as shown in FIG._FIt has the continuity of the spatial direction represented by. In FIG. 214, the X direction and the Y direction represent the X direction and the Y direction of the sensor 2 (FIG. 206).
[1380]
Accordingly, the data continuity detecting unit 101 (FIG. 205) performs the continuity gradient G in the spatial direction._FAs the data continuity information corresponding to the angle θ (inclination G) as shown in FIG._FTilt G corresponding to_fThe angle of the continuity of the data represented by the X direction and the angle θ) can be output.
[1381]
However, in the first method, data continuity information output from the data continuity detecting unit 101 is not used at all.
[1382]
In other words, as shown in FIG. 214, the direction of continuity in the spatial direction of the thin line-containing real world region 2301 is substantially the angle θ direction. However, the first method assumes that the direction of continuity in the spatial direction of the thin-line-containing real world region 2301 is the Y direction (that is, the angle θ is 90 degrees), and the approximate function f₁(x) feature value w_iIs a method of calculating.
[1383]
For this reason, the approximation function f₁(x) becomes a function in which the waveform is dull and the detail is reduced from the original pixel value. In other words, although not shown, the approximate function f generated by the first method₁(x) has a waveform that is significantly different from the actual X-section waveform F (x).
[1384]
Therefore, the applicant of the present invention further considers the continuity in the spatial direction (using the angle θ) with respect to the first method._iInvented a second method for computing.
[1385]
That is, the second method assumes that the direction of continuity of the thin-line-containing real world region 2301 is approximately the angle θ direction, and the approximate function f₂feature x of (x)_iIs a method of calculating.
[1386]
Specifically, for example, the gradient G representing the continuity of data corresponding to the continuity in the spatial direction._fIs represented by the following equation (108).
[1387]
[Formula 78]

... (108)
[1388]
In Expression (108), dx represents the minute movement amount in the X direction as shown in FIG. 214, and dy represents the minute movement amount in the Y direction with respect to dx as shown in FIG. Yes.
[1389]
In this case, shift amount C_xWhen (y) is defined as the following equation (109), in the second method, the equation corresponding to the equation (106) used in the first method is as the following equation (110): Become.
[1390]
[79]

... (109)
[1391]
[80]

... (110)
[1392]
That is, the expression (106) used in the first method is that the pixel value P (x, y) of the pixel in which the position x in the X direction out of the center position (x, y) of the pixel is located at the same position. ) Represents the same value. In other words, Expression (106) represents that pixels having the same pixel value continue in the Y direction (there is continuity in the Y direction).
[1393]
On the other hand, in the expression (110) used in the second method, the pixel value P (x, y) of the pixel whose center position is (x, y) is the target pixel (the position of the center). The pixel value of the pixel located at a location x apart from the origin (0,0) in the X direction (≈f₂(x)), and the shift amount C further in the X direction from the pixel_xPixels located at a distance of (y) (x + C in the X direction from the target pixel)_xPixel value of pixel located at a location separated by (y) (≒ f₂(X + C_x(y)) represents the same value as in). In other words, the expression (110) indicates that pixels having the same pixel value are shifted by the shift amount C_xThis represents that the angle continues in the direction of the angle θ corresponding to (y) (there is a continuity in the direction of substantially the angle θ).
[1394]
Thus, the shift amount C_x(y) is the spatial continuity (in this case, the slope G in FIG._F(Strictly speaking, the gradient G_fIs the amount of correction taking into account the continuity of the data represented by_xThe equation (110) is obtained by correcting the equation (106) by (y).
[1395]
In this case, 20 pixel values P (x, y) in the thin-line-containing data area 2302 shown in FIG. 211 (where x is an integer value from −1 to 2; y is −2 to When each of the integer values of 2) is substituted into the above-described equation (110), 20 equations represented by the following equation (111) are generated.
[1396]
[Formula 81]

... (111)
[1397]
The expression (111) is composed of 20 equations, similar to the expression (107) described above. Therefore, in the second method as well as the first method, the approximate function f₂(x) feature value w_iIs less than 20, that is, the approximate function f₂When (x) is a polynomial of an order less than the 19th order, for example, the feature value w is calculated using the least square method._iCan be calculated. A specific solution of the least square method will be described later.
[1398]
For example, as in the first method, the approximate function f₂When the order of (x) is 5th, in the second method, the feature value w is as follows._iIs calculated.
[1399]
That is, FIG. 215 represents a graph of the pixel value P (x, y) indicated by the left side of the formula (111). Each of the five graphs shown in FIG. 215 is basically the same as that shown in FIG.
[1400]
As shown in FIG. 215, the maximum pixel value (the pixel value corresponding to the thin line) has a gradient G_fIt continues in the direction of stationarity of the data represented by
[1401]
Therefore, in the second method, the input pixel values P (x, -2), P (x, -1), P (x, 0), P (x, 1), P (x , 2), for example, when adding along the x-axis, add them as they are as in the first method (y is regarded as constant, and five graphs are overlaid in the state shown in FIG. 215) Instead of adding, after changing to the state shown in FIG.
[1402]
That is, FIG. 216 shows the input pixel values P (x, -2), P (x, -1), P (x, 0), P (x, 1), P (x, 2) shown in FIG. For each of the shift amounts C shown by the above-described equation (109)._xThis represents a state shifted by (y). In other words, FIG. 216 shows the five graphs shown in FIG. 215 with the slope G representing the actual direction of data continuity._FAs if tilted G_FIt represents a state of movement as indicated by '(in the figure, the dotted straight line is changed to a solid straight line).
[1403]
In the state shown in FIG. 216, each of the input pixel values P (x, -2), P (x, -1), P (x, 0), P (x, 1), P (x, 2) , When added along the x axis (when five graphs are superimposed in the state shown in FIG. 216), a plurality of lines parallel to the x axis (dotted line, three-dot chain line, solid line, A one-dot chain line and a two-dot chain line) are distributed.
[1404]
In FIG. 217, the vertical axis represents the pixel value, and the horizontal axis represents the relative position x from the target pixel. The dotted line is the input pixel value P (x, -2), the three-dot chain line is the input pixel value P (x, -1), the solid line is the input pixel value P (x, 0), and the one-dot chain line is the input The pixel value P (x, 1) is represented by a two-dot chain line, and the input pixel value P (x, 2) is represented by each. Furthermore, in the case of the same pixel value, two or more lines actually overlap, but in FIG. 217, each line is drawn so as not to overlap so that each line can be distinguished.
[1405]
Each of the 20 input pixel values P (x, y) distributed in this way (where x is an integer value of -1 to 2, y is a value of -2 to 2) Any integer value) and the value f₂(x + C_xA regression curve that minimizes the error of (y)) (feature value w calculated by the method of least squares_iIs an approximate function f obtained by substituting₂(x)) is the curve f shown by the solid line in FIG.₂(x).
[1406]
Thus, the approximate function f generated by the second method₂(x) is the average value of the input pixel values P (x, y) in the angle θ direction (ie, the direction of continuity in the spatial direction) output from the data continuity detection unit 101 (FIG. 205). It represents the curve connected to.
[1407]
On the other hand, as described above, the approximate function f generated by the first method.₁(x) merely represents a curve connecting the average values of the input pixel values P (x, y) in the Y direction (that is, a direction different from the continuity in the spatial direction) in the X direction.
[1408]
Therefore, as shown in FIG. 217, the approximate function f generated by the second method is shown.₂(x) is the approximate function f generated by the first method.₁From (x), the degree of the dullness of the waveform is reduced, and the details are reduced with respect to the original pixel value. In other words, although not shown, the approximate function f generated by the second method₂(x) is an approximate function f generated by the first method.₁The waveform is closer to the actual X-section waveform F (x) than (x).
[1409]
However, as mentioned above, the approximation function f₂(x) is one that is generated with the input image (input pixel value) as the origin (reference), although the continuity in the spatial direction is taken into consideration. That is, as shown in FIG.₂(x) is only an approximation of an input image different from the X sectional waveform F (x), and it is difficult to say that the X sectional waveform F (x) is approximated. In other words, the second method assumes that the above-described formula (110) holds, and the feature value w_iAnd the relationship of the above-described formula (104) is not considered (the integration effect of the sensor 2 is not considered).
[1410]
Therefore, the applicant of the present application further considers the integration effect of the sensor 2 with respect to the second method, thereby approximating the approximate function f._Three(x) feature value w_iInvented a third method for computing.
[1411]
That is, the third method is a method that introduces the concept of a spatial mixing region.
[1412]
Prior to the description of the third method, the spatial mixing region will be described with reference to FIG.
[1413]
In FIG. 218, one portion 2321 (hereinafter referred to as a region 2321) of the optical signal in the real world 1 represents a region having the same area as one detection element (pixel) of the sensor 2.
[1414]
When the area 2321 is detected by the sensor 2, the sensor 2 outputs a value (one pixel value) 2322 obtained by integrating the area 2321 in the spatiotemporal direction (X direction, Y direction, and t direction). The pixel value 2322 is represented as an image in the drawing, but is actually data representing a predetermined value.
[1415]
The area 2321 in the real world 1 is clearly divided into an optical signal (white area in the figure) corresponding to the foreground (for example, the above-described thin line) and an optical signal (black area in the figure) corresponding to the background.
[1416]
In contrast, the pixel value 2322 is a value obtained by integrating the real world 1 optical signal corresponding to the foreground and the real world 1 optical signal corresponding to the background. In other words, the pixel value 2322 is a value corresponding to a level in which the light level corresponding to the foreground and the light level corresponding to the background are spatially mixed.
[1417]
Thus, the portion corresponding to one pixel (detection element of the sensor 2) of the optical signal in the real world 1 is not a portion where the optical signal of the same level is spatially uniformly distributed, but the foreground and background. Thus, when each of the optical signals having different levels is distributed, when the area is detected by the sensor 2, the different light levels are spatially mixed (space) by the integration effect of the sensor 2. It is integrated in the direction) and becomes one pixel value. In this manner, an area composed of pixels in which an image for the foreground (real world 1 optical signal) and an image for the background (real world 1 optical signal) are spatially integrated is referred to as a spatial mixing area. ing.
[1418]
Therefore, in the third method, the real world estimation unit 102 (FIG. 205) performs the original region 2321 of the real world 1 (the portion 2321 corresponding to one pixel of the sensor 2 in the optical signal of the real world 1). Is represented by an approximate function f which is a first-order polynomial as shown in FIG._ThreeThe X sectional waveform F (x) is estimated by approximating with (x).
[1419]
That is, FIG. 219 shows the approximate function f corresponding to the pixel value 2322 (FIG. 218) which is the spatial mixing region._Three(x), that is, the approximate function f that approximates the X-section waveform F (x) corresponding to the solid line (FIG. 218) in the region 2331 of the real world 1_ThreeAn example of (x) is shown. In FIG. 219, the horizontal axis in the figure indicates the lower left end x of the pixel corresponding to the pixel value 2322._sTo bottom right x_eThis represents an axis parallel to the side (FIG. 218) up to the x-axis. The vertical axis in the figure is the axis representing the pixel value.
[1420]
In FIG. 219, the approximate function f_Three(x) x_sTo x_eThe following equation (112) is defined on the assumption that the pixel value P (x, y) output from the sensor 2 is substantially the same (existing only error e).
[1422]
[Formula 82]

... (112)
[1422]
In this case, 20 pixel values P (x, y) in the thin line-containing data region 2302 shown in FIG. Integer value of any one of 2) to approximate function f_Three(x) feature value w_iIs calculated, the pixel value P of the equation (112) becomes the pixel value P (x, y).
[1423]
Similarly to the second method, since it is necessary to consider the continuity in the spatial direction, the start position x of the integration range of Expression (112)_sAnd end position x_eEach has a shift amount C_xIt also depends on (y). That is, the start position x of the integration range of the equation (112)_sAnd end position x_eIs expressed as the following equation (113).
[1424]
[Formula 83]

... (113)
[1425]
In this case, each pixel value of the thin line-containing data region 2302 shown in FIG. 214, that is, the input pixel values P (x, −2), P (x, −1), P (x, 0) shown in FIG. ), P (x, 1), P (x, 2) (where x is an integer value of −1 to 2), and the above-described equation (112) (the integration range is the same as above) 20 equations shown in the following equation (114) are generated.
[1426]
[Expression 84]

[Expression 85]

... (114)
[1427]
The expression (114) is composed of 20 equations as in the above-described expression (111). Therefore, in the third method as well as the second method, the approximate function f_Three(x) feature value w_iIs less than 20, that is, the approximate function f_ThreeWhen (x) is a polynomial of an order less than the 19th order, for example, the feature value w is calculated using the least square method._iCan be calculated. A specific solution of the least square method will be described later.
[1428]
For example, the approximation function f_ThreeWhen the order of (x) is fifth order, the approximate function f calculated by the method of least squares using equation (114)_Three(x) (calculated feature value w_iApproximate function f generated by_Three(x)) is as shown by a solid line in FIG.
[1429]
In FIG. 220, the vertical axis represents the pixel value, and the horizontal axis represents the relative position x from the target pixel.
[1430]
As shown in FIG. 220, the approximate function f generated by the third method is shown._Three(x) (curve indicated by a solid line in the figure) is an approximate function f generated by the second method.₂Compared with (x) (curve indicated by a dotted line in the figure), the pixel value at x = 0 becomes larger, and the slope of the curve also has a steep waveform. This is because the detail increases from the input pixel and is independent of the resolution of the input pixel. That is, the approximate function f_ThreeIt can be said that (x) approximates the X sectional waveform F (x). Therefore, although not shown, the approximate function f_Three(x) is the approximation function f₂The waveform is closer to the X sectional waveform F (x) than (x).
[1431]
FIG. 221 shows a configuration example of the real world estimation unit 102 using such a first-order polynomial approximation method.
[1432]
In FIG. 221, the real world estimation unit 102, for example, features w_iIs calculated by the above-mentioned third method (least square method), and the calculated feature value w_iIs used to generate the approximate function f (x) of the above-described equation (105), thereby estimating the X-section waveform F (x).
[1433]
As shown in FIG. 221, the real world estimation unit 102 includes a condition setting unit 2331, an input image storage unit 2332, an input pixel value acquisition unit 2333, an integral component calculation unit 2334, a normal equation generation unit 2335, and an approximate function generation. A portion 2336 is provided.
[1434]
The condition setting unit 2331 sets a pixel range (hereinafter referred to as a tap range) used for estimating the X sectional waveform F (x) corresponding to the target pixel, and the order n of the approximation function f (x). .
[1435]
The input image storage unit 2332 temporarily stores an input image (pixel value) from the sensor 2.
[1436]
  The input pixel value acquisition unit 2333 includes a condition setting unit among the input images stored in the input image storage unit 2332.2331The area of the input image corresponding to the tap range set by is acquired and supplied to the normal equation generation unit 2335 as an input pixel value table. That is, the input pixel value table is a table in which each pixel value of each pixel included in the area of the input image is described. A specific example of the input pixel value table will be described later.
[1437]
By the way, here, the real world estimation unit 102 uses the above-described equations (112) and (113) to calculate the feature value w of the approximate function f (x) by the least square method._iThe above equation (112) can be expressed as the following equation (115).
[1438]
[86]

... (115)
[1439]
In formula (115), S_i(X_s, x_e) Represents the integral component of the i-th order term. That is, the integral component S_i(x_s, x_e) Is represented by the following equation (116).
[1440]
[Expression 87]

... (116)
[1441]
The integral component calculation unit 2334 takes the integral component S_i(x_s, X_e) Is calculated.
[1442]
Specifically, the integral component S shown by the equation (116)._i(x_s, x_e) (However, the value x_sAnd value x_eIs the relative pixel position (x, y) and the shift amount C_xCalculation is possible if (y) and i of the i-th term are known. Among these, the relative pixel position (x, y) depends on the target pixel and the tap range, and the shift amount C_x(y) is determined by the angle θ (by the above-described equations (107) and (109)), and the range of i is determined by the order n.
[1443]
Therefore, the integral component calculation unit 2334 is based on the tap range and order set by the condition setting unit 2331 and the angle θ in the data continuity information output from the data continuity detection unit 101._i(x_s, x_e) And the result of the calculation is supplied to the normal equation generation unit 2335 as an integral component table.
[1444]
The normal equation generation unit 2335 uses the input pixel value table supplied from the input pixel value acquisition unit 2333 and the integration component table supplied from the integration component calculation unit 2334, so that the above equation (112), that is, the equation Feature value w on the right side of (115)_iIs generated by the least square method, and supplied to the approximate function generation unit 2336 as a normal equation table. A specific example of the normal equation will be described later.
[1445]
The approximate function generation unit 2336 solves the normal equation included in the normal equation table supplied from the normal equation generation unit 2335 by matrix release, thereby obtaining the feature value w of the above-described equation (115)._i(Ie, the coefficient w of the approximate function f (x) which is a one-dimensional polynomial_iAre calculated and output to the image generation unit 103.
[1446]
Next, the real world estimation process (the process of step S102 in FIG. 40) of the real world estimation unit 102 (FIG. 221) using the one-dimensional polynomial approximation method will be described with reference to the flowchart in FIG.
[1447]
For example, it is assumed that an input image that is one frame output from the sensor 2 and includes the above-described thin line-containing data region 2302 in FIG. 207 is already stored in the input image storage unit 2332. In addition, the data continuity detection unit 101 performs the process on the thin-line-containing data region 2302 in the continuity detection process in step S101 (FIG. 40), and already outputs the angle θ as the data continuity information. Suppose that
[1448]
In this case, in step S2301 in FIG. 222, the condition setting unit 2331 sets conditions (tap range and order).
[1449]
For example, assume that the tap range 2351 shown in FIG. 223 is set and the fifth order is set as the order.
[1450]
That is, FIG. 223 is a diagram illustrating an example of the tap range. In FIG. 223, the X direction and the Y direction represent the X direction and the Y direction (FIG. 206) of the sensor 2. The tap range 2351 represents a pixel group composed of a total of 20 pixels (20 squares in the figure) corresponding to 4 pixels in the X direction and 5 pixels in the Y direction.
[1451]
Further, as shown in FIG. 223, it is assumed that the target pixel is the second pixel from the left and the third pixel from the bottom in the drawing within the tap range 2351. For each of the pixels, the relative pixel position (x, y) from the pixel of interest (the coordinate value of the pixel of interest coordinate system with the center (0, 0) of the pixel of interest as the origin) is shown in FIG. A number l (1 is an integer value of 0 to 19) as shown in FIG.
[1452]
Returning to FIG. 222, in step S2302, the condition setting unit 2331 sets a target pixel.
[1453]
In step S2303, the input pixel value acquisition unit 2333 acquires an input pixel value based on the condition (tap range) set by the condition setting unit 2331, and generates an input pixel value table. That is, in this case, the input pixel value acquisition unit 2333 acquires the thin line-containing data area 2302 (FIG. 211), and generates a table composed of 20 input pixel values P (l) as the input pixel value table.
[1454]
In this case, the relationship between the input pixel value P (l) and the input pixel value P (x, y) described above is a relationship represented by the following expression (117). However, in Expression (117), the left side represents the input pixel value P (l), and the right side represents the input pixel value P (x, y).
[1455]
[Equation 88]

... (117)
[1456]
In step S2304, the integral component calculation unit 2334 performs integration based on the conditions (tap range and order) set by the condition setting unit 2331 and the data continuity information (angle θ) supplied from the data continuity detection unit 101. Calculate components and generate an integral component table.
[1457]
In this case, as described above, the input pixel value is acquired as the value of the pixel number l such as P (l) instead of P (x, y). Integral component S of (116)_i(x_s, x_e) Is an integral component S shown on the left side of the following equation (118)_iOperates as a function of l such as (l).
[1458]
S_i(l) = S_i(X_s, x_e(118)
[1459]
Specifically, in this case, the integral component S expressed by the following equation (119):_i(l) is calculated.
[1460]
[Equation 89]

... (119)
[1461]
In equation (119), the left side is the integral component S_i(L), the right side is the integral component S_i(x_s, x_e). That is, in this case, since i is 0 to 5, 20 S₀(l), 20 S₁(l), 20 S₂(l), 20 S_Three(l), 20 S_Four(l), 20 S_FiveA total of 120 S of (l)_i(l) is calculated.
[1462]
More specifically, first, the integral component calculation unit 2334 uses the angle θ supplied from the data continuity detection unit 101 to calculate the shift amount C_x(-2), C_x(-1), C_x(1), C_xCalculate each of (2). Next, the integral component calculation unit 2334 calculates the calculated shift amount C_x(-2), C_x(-1), C_x(1), C_x20 integral components S shown on the right side of equation (118) using (2)_i(x_s, x_e) For each of i = 0 to 5. That is, 120 integral components S_i(x_s, x_e) Is calculated. This integral component S_i(x_s, x_eIn the calculation of), the above-described equation (116) is used. Then, the integral component calculation unit 2334 calculates 120 integral components S calculated according to the equation (119)._i(x_s, x_e) For each corresponding integral component S_i120 integral components S converted to (l)_iAn integral component table including (l) is generated.
[1463]
Note that the order of the processing in step S2303 and the processing in step S2304 is not limited to the example in FIG. 222, and the processing in step S2304 may be executed first, or the processing in step S2303 and the processing in step S2304 are executed simultaneously. May be.
[1464]
Next, in step S2305, the normal equation generation unit 2335 includes the input pixel value table generated by the input pixel value acquisition unit 2333 in the process of step S2303 and the integration generated by the integration component calculation unit 2334 in the process of step S2304. A normal equation table is generated based on the component table.
[1465]
Specifically, in this case, the feature value w of the following equation (120) corresponding to the above equation (115) is calculated by the method of least squares._iIs calculated. Thus, the corresponding normal equation is expressed as the following equation (121).
[1466]
[90]

... (120)
[1467]
[91]

... (121)
[1468]
In Expression (121), L represents the maximum value among the numbers l of the pixels in the tap range. n represents the order of the approximate function f (x) that is a polynomial. Specifically, in this case, n = 5 and L = 19.
[1469]
When each matrix of the normal equation represented by the equation (121) is defined as the following equations (122) to (124), the normal equation is represented as the following equation (125).
[1470]
[Equation 92]

... (122)
[1471]
[Equation 93]

... (123)
[1472]
[Equation 94]

... (124)
[1473]
[95]

... (125)
[1474]
As shown in equation (123), the matrix W_MATEach component is the feature value w_iIt is. Therefore, in equation (125), the left-side matrix S_MATAnd right-hand side matrix P_MATIs determined, the matrix W_MAT(That is, feature amount w_i) Can be calculated.
[1475]
Specifically, as shown in Expression (122), the matrix S_MATEach component of the integral component S described above_iIf (l) is known, computation is possible. Integral component S_iSince (l) is included in the integral component table supplied from the integral component calculation unit 2334, the normal equation generation unit 2335 uses the integral component table to generate the matrix S._MATEach component of can be calculated.
[1476]
Further, as shown in the equation (124), the matrix P_MATEach component of is an integral component S_iIf (l) and the input pixel value P (l) are known, calculation is possible. Integral component S_i(l) is the matrix S_MATSince the input pixel value P (l) is included in the input pixel value table supplied from the input pixel value acquisition unit 2333, the normal equation generation unit 2335 is a matrix P using the integral component table and the input pixel value table._MATEach component of can be calculated.
[1477]
In this way, the normal equation generation unit 2335 performs the matrix S_MATAnd matrix P_MATAre calculated, and the calculation result (matrix S_MATAnd matrix P_MATAre each output to the approximate function generation unit 2336 as a normal equation table.
[1478]
When the normal equation table is output from the normal equation generation unit 2335, in step S2306, the approximate function generation unit 2336, based on the normal equation table, the matrix W of the above-described formula (125)._MATFeatures w which are each component of_i(Ie, the coefficient w of the approximate function f (x) which is a one-dimensional polynomial_i) Is calculated.
[1479]
Specifically, the normal equation of the above formula (125) can be transformed as the following formula (126).
[1480]
[Equation 96]

... (126)
[1481]
In equation (126), the left side matrix W_MATEach component of is the feature value w_iIt is. Matrix S_MATAnd matrix P_MATEach component is included in the normal equation table supplied from the normal equation generation unit 2335. Accordingly, the approximate function generation unit 2336 uses the normal equation table to perform the matrix operation on the right side of the equation (126), so that the matrix W_MATAnd the result (feature value w_i) To the image generation unit 103.
[1482]
In step S2307, the approximate function generation unit 2336 determines whether or not the processing of all pixels has been completed.
[1483]
If it is determined in step S2307 that all the pixels have not been processed yet, the process returns to step S2302, and the subsequent processing is repeated. That is, the pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S2302 to S2307 are repeated.
[1484]
When the processing for all pixels is completed (when it is determined in step S2307 that the processing for all pixels has been completed), the estimation process for the real world 1 is completed.
[1485]
The coefficient (feature value) w calculated as described above_iThe waveform of the approximate function f (x) generated by the above is the approximate function f in FIG._ThreeThe waveform becomes (x).
[1486]
As described above, in the one-dimensional polynomial approximation method, it is assumed that a waveform having the same shape as the one-dimensional X-sectional waveform F (x) is continuous in the direction of continuity, and the approximation function f which is a one-dimensional polynomial. The feature value of (x) is calculated. Therefore, in the one-dimensional polynomial approximation method, the feature amount of the approximate function f (x) can be calculated with a small amount of calculation processing compared to other function approximation methods.
[1487]
In other words, in the one-dimensional polynomial approximation method, for example, the data continuity detecting unit 101 in FIG. 205 (FIG. 3) has a plurality of detection elements (for example, sensor 2 in FIG. 206) each having a spatiotemporal integration effect. The real-world 1 optical signal (for example, a portion 2301 of the real-world 1 optical signal in FIG. 207) is projected by the detection element 2-1), and the continuity of the optical signal in the real-world 1 (for example, FIG. 214). Slope G_FA plurality of pixel values (for example, input pixel values P (x, y) shown in each graph of FIG. 212) projected by the detection element 2-1, lacking a part of Data continuity (for example, slope G in FIG. 214) in image data composed of pixels (for example, image data (region of input image) 2302 in FIG. 207)_fIs detected).
[1488]
For example, the real world estimation unit 102 in FIG. 205 (FIG. 3) corresponds to the data continuity detected by the data continuity detection unit 101, and corresponds to the one-dimensional direction (for example, FIG. A pixel whose pixel value (for example, the input pixel value P that is the left side of the above-described equation (112)) corresponding to the position of the arrow 209 of 209, that is, the X direction is acquired by the integration effect in the one-dimensional direction A value (e.g., the approximate function f as shown on the right side of equation (112))_ThreeAssuming that (x) is a value integrated in the X direction), an optical signal function F (specifically, an X cross-sectional waveform F (x)) representing an optical signal of the real world 1 is represented by a predetermined approximate function f (specifically Specifically, for example, the approximate function f in FIG._ThreeThe optical signal function F is estimated by approximating with (x)).
[1489]
  Specifically, for example, the real world estimation unit 102dataA line corresponding to the continuity of the data detected by the continuity detection hand 101 (for example, the slope G in FIG. 216)._fThe pixel value of the pixel corresponding to the distance (for example, the shift amount Cx (y) in FIG. 216) along the one-dimensional direction (for example, the X direction) from the line corresponding to (dotted line)) is integrated in the one-dimensional direction. The pixel value obtained by the effect (for example, the approximate function f as shown in the right side of the equation (112) in the integration range as shown in the equation (112) described above)._ThreeThe optical signal function F is estimated by approximating the optical signal function F with the approximate function f, assuming that (x) is a value integrated in the X direction).
[1490]
Therefore, in the one-dimensional polynomial approximation method, the feature amount of the approximate function f (x) can be calculated with a small amount of calculation processing compared to other function approximation methods.
[1491]
Next, the second function approximation method will be described with reference to FIGS. 224 to 230.
[1492]
That is, the second function approximation method is, for example, the gradient G as shown in FIG._FAn optical signal of the real world 1 having spatial continuity represented by XY is expressed on the XY plane (on the X direction which is one direction in the spatial direction and on a horizontal plane in the Y direction perpendicular to the X direction). A method of estimating the waveform F (x, y) by approximating the waveform F (x, y) with the approximation function f (x, y), which is a two-dimensional polynomial, assuming the waveform F (x, y) It is. Therefore, hereinafter, the second function approximation method is referred to as a two-dimensional polynomial approximation method.
[1493]
In FIG. 224, in the figure, the horizontal direction represents the X direction which is one of the spatial directions, the upper right direction represents the Y direction which is the other direction of the spatial direction, and the vertical direction represents the light level. ing. G_FRepresents the slope of continuity in the spatial direction.
[1494]
Also in the description of the two-dimensional polynomial approximation method, the sensor 2 is a CCD configured by arranging a plurality of detection elements 2-1 on the plane as shown in FIG.
[1495]
In the example of FIG. 225, the direction parallel to the predetermined one side of the detection element 2-1 is the X direction which is one direction in the spatial direction, and the direction perpendicular to the X direction is the other direction in the spatial direction. A certain Y direction is assumed. The direction perpendicular to the XY plane is the t direction which is the time direction.
[1496]
In the example of FIG. 225, the spatial shape of each detection element 2-1 of the sensor 2 is a square with one side length of one. The shutter time (exposure time) of the sensor 2 is 1.
[1497]
Further, in the example of FIG. 225, the center of one predetermined detection element 2-1 of the sensor 2 is the origin in the spatial direction (X direction and Y direction) (X direction position x = 0, and Y direction position y). = 0), and the intermediate time of the exposure time is the origin in the time direction (t direction) (position t = 0 in the t direction).
[1498]
In this case, the detection element 2-1 having its center at the origin (x = 0, y = 0) in the spatial direction has a range of −0.5 to 0.5 in the X direction, a range of −0.5 to 0.5 in the Y direction, and The optical signal function F (x, y, t) is integrated in the range of −0.5 to 0.5 in the t direction, and the integrated value is output as the pixel value P.
[1499]
That is, the pixel value P output from the detection element 2-1 having the center at the origin in the spatial direction is expressed by the following equation (127).
[1500]
[Equation 97]

... (127)
[1501]
Similarly, the other detection element 2-1 outputs the pixel value P represented by the equation (127) by setting the center of the target detection element 2-1 as the origin in the spatial direction.
[1502]
By the way, as described above, the two-dimensional polynomial approximation method treats the optical signal of the real world 1 as, for example, the waveform F (x, y) as shown in FIG. 224, and the two-dimensional waveform F (x, y This is a technique for approximating y) to an approximate function f (x, y) that is a two-dimensional polynomial.
[1503]
Therefore, first, a method for expressing such an approximate function f (x, y) by a two-dimensional polynomial will be described.
[1504]
As described above, the optical signal in the real world 1 is represented by the optical signal function F (x, y, t) with the variables x, y, and z in the three-dimensional space and time t. A one-dimensional waveform obtained by projecting the optical signal function F (x, y, t) in the X direction at an arbitrary position y in the Y direction is referred to as an X sectional waveform F (x) here.
[1505]
When attention is paid to the X-section waveform F (x), when the signal of the real world 1 has continuity in a predetermined direction in the spatial direction, the waveform having the same shape as the X-section waveform F (x) It can be thought that it is connected to the direction of sex. For example, in the example of FIG. 224, a waveform having the same shape as the X-section waveform F (x) has a slope G_FIt is lined in the direction of In other words, the waveform having the same shape as the X-section waveform F (x) has a slope G_FIt can also be said that the waveform F (x, y) is formed in a row.
[1506]
Accordingly, the waveform of the approximate function f (x, y) that approximates the waveform F (x, y) is formed by a series of waveforms having the same shape as the approximate function f (x) that approximates the X-section waveform F (x). Therefore, the approximate function f (x, y) can be expressed by a two-dimensional polynomial.
[1507]
The method for expressing the approximate function f (x, y) will be described in more detail.
[1508]
For example, the optical signal of the real world 1 as shown in FIG._FIt is assumed that an optical signal having a continuity in the spatial direction represented by the following is detected by the sensor 2 (FIG. 225) and output as an input image (pixel value).
[1509]
Further, as shown in FIG. 226, the data continuity detecting unit 101 (FIG. 3) has a total of 20 pixels (4 pixels in the X direction and 5 pixels in the Y direction) of the input image ( In the figure, the process is performed on an input image area 2401 composed of 20 squares represented by dotted lines, and an angle θ (inclination G) is provided as one of data continuity information._FTilt G corresponding to_fIs output as an angle θ) between the direction of the continuity of the data represented by X and the X direction.
[1510]
In the input image area 2401, the horizontal direction in the figure represents the X direction, which is one of the spatial directions, and the vertical direction in the figure represents the Y direction, which is the other direction of the spatial direction.
[1511]
In FIG. 226, the second pixel from the left and the third pixel from the bottom is the pixel of interest, and the (x, y) coordinates are such that the center of the pixel of interest is the origin (0,0). System is set. Then, a straight line with an angle θ passing through the origin (0,0) (inclination G representing the direction of data continuity)_fThe relative distance in the X direction (hereinafter referred to as the cross-sectional direction distance) is described as x ′.
[1512]
Further, in FIG. 226, the graph on the right side shows an approximate function f (x ′), which is a function in which the X-section waveform F (x ′) is approximated, and is an n-order (n is an arbitrary integer) polynomial. Represents. Of the axes of the graph on the right side, the horizontal axis in the figure represents the cross-sectional direction distance, and the vertical axis in the figure represents the pixel value.
[1513]
In this case, the approximate function f (x ′) shown in FIG. 226 is an n-th order polynomial, and is represented by the following equation (128).
[1514]
[Equation 98]

... (128)
[1515]
Further, since the angle θ is determined, the straight line of the angle θ passing through the origin (0, 0) is uniquely determined, and the position x in the X direction of the straight line at an arbitrary position y in the Y direction._lIs expressed as the following equation (129). However, in Formula (129), s represents cotθ.
[1516]
x_l  = S × y (129)
[1517]
That is, as shown in FIG._fThe point on the straight line corresponding to the stationarity of the data represented by_l, y).
[1518]
From the equation (129), the cross-sectional direction distance x ′ is expressed as the following equation (130).
[1519]
x '= x−x_l  = X−s × y (130)
[1520]
Accordingly, the approximate function f (x, y) at an arbitrary position (x, y) in the area 2401 of the input image is expressed as the following expression (131) from the expressions (128) and (130). .
[1521]
[99]

... (131)
[1522]
In formula (131), w_iRepresents the coefficient of the approximate function f (x, y). The coefficient w of the approximate function f including the approximate function f (x, y)_iCan also be positioned as the feature quantity of the approximate function f. Therefore, hereinafter, the coefficient w of the approximate function f_iIs the feature quantity w of the approximate function f._iAlso called.
[1523]
In this way, if the angle θ is known, the approximate function f (x, y) of the two-dimensional waveform can be expressed as a polynomial in the equation (131).
[1524]
Therefore, the real world estimation unit 102 can estimate the waveform F (x, y) as shown in FIG. 224 if the feature quantity wi of Expression (131) can be calculated.
[1525]
Therefore, a method for calculating the feature quantity wi of Expression (131) will be described below.
[1526]
That is, the approximation function f (x, y) represented by the equation (131) is integrated in the integration range (spatial direction integration range) corresponding to the pixel (detection element 2-1 of the sensor 2 (FIG. 225)). For example, the integrated value is an estimated value of the pixel value of the pixel. This is expressed by the following equation (132). In the two-dimensional polynomial approximation method, since the time direction t is regarded as a constant value, the equation (132) is an equation with the positions x and y in the spatial direction (X direction and Y method) as variables. .
[1527]
[Expression 100]

... (132)
[1528]
In the expression (132), P (x, y) of the input image from the sensor 2 has its center position at the position (x, y) (relative position (x, y) from the target pixel). It represents the pixel value of the pixel. E represents an error.
[1529]
Thus, in the two-dimensional polynomial approximation method, the relationship between the input pixel value P (x, y) and the approximation function f (x, y) that is a two-dimensional polynomial can be expressed by the equation (132). Since it is possible, the real world estimation part 102 substitutes the calculated feature-value wi to Formula (130) by calculating the feature-value wi by the least square method etc. using Formula (132), for example. To generate an approximate function f (x, y)) and a two-dimensional function F (x, y) (gradient G_FIt becomes possible to estimate the waveform F (x, y)) expressed by focusing on the spatial direction of the optical signal of the real world 1 having the continuity in the spatial direction represented by (FIG. 224).
[1530]
FIG. 227 shows a configuration example of the real world estimation unit 102 using such a two-dimensional polynomial approximation method.
[1531]
As shown in FIG. 227, the real world estimation unit 102 includes a condition setting unit 2421, an input image storage unit 2422, an input pixel value acquisition unit 2423, an integral component calculation unit 2424, a normal equation generation unit 2425, and an approximate function generation. A portion 2426 is provided.
[1532]
The condition setting unit 2421 sets the pixel range (tap range) used to estimate the function F (x, y) corresponding to the target pixel and the order n of the approximate function f (x, y).
[1533]
The input image storage unit 2422 primarily stores an input image (pixel value) from the sensor 2.
[1534]
The input pixel value acquisition unit 2423 acquires an area of the input image corresponding to the tap range set by the condition setting unit 2421 among the input images stored in the input image storage unit 2422, and stores it in the input pixel value table To the normal equation generation unit 2425. That is, the input pixel value table is a table in which each pixel value of each pixel included in the area of the input image is described. A specific example of the input pixel value table will be described later.
[1535]
By the way, as described above, the real world estimation unit 102 using the two-dimensional polynomial approximation method solves the above equation (132) by the least square method, thereby obtaining the approximation function f ( x, y) feature value w_iIs calculated.
[1536]
The expression (132) can be expressed as the following expression (137) by using the following expression (136) obtained by using the following expressions (133) to (135).
[1537]
## EQU1 ##

... (133)
[1538]
## EQU10 ##

... (134)
[1539]
[Formula 103]

... (135)
[1540]
[Formula 104]

... (136)
[1541]
[Formula 105]

... (137)
[1542]
In formula (137), S_i(X-0.5, x + 0.5, y-0.5, y + 0.5) represents the integral component of the i-th order term. That is, the integral component S_i(X−0.5, x + 0.5, y−0.5, y + 0.5) is as shown in the following equation (138).
[1543]
[Formula 106]

... (138)
[1544]
The integral component calculation unit 2424 provides the integral component S_iCalculate (x-0.5, x + 0.5, y-0.5, y + 0.5).
[1545]
Specifically, the integral component S shown by the equation (138)._i(X-0.5, x + 0.5, y-0.5, y + 0.5) is the relative pixel position (x, y), the variable s in the above-described equation (131), and i of the i-th term are known, Arithmetic is possible. Of these, the relative pixel position (x, y) is determined by the pixel of interest and the tap range, and the variable s is cot θ, so the range of i is determined by the angle θ, and the range of i is determined by the order n.
[1546]
Therefore, the integral component calculation unit 2424 integrates the integral component S based on the tap range and order set by the condition setting unit 2421 and the angle θ of the data continuity information output from the data continuity detection unit 101._i(X-0.5, x + 0.5, y-0.5, y + 0.5) is calculated, and the calculation result is supplied to the normal equation generation unit 2425 as an integral component table.
[1547]
The normal equation generation unit 2425 uses the input pixel value table supplied from the input pixel value acquisition unit 2423 and the integration component table supplied from the integration component calculation unit 2424, so that the above equation (132), that is, the equation A normal equation in the case of obtaining (137) by the method of least squares is generated, and is output to the approximate function generation unit 2426 as a normal equation table. A specific example of the normal equation will be described later.
[1548]
The approximate function generation unit 2426 solves the normal equation included in the normal equation table supplied from the normal equation generation unit 2425 by matrix release, thereby obtaining the feature value w of the above-described equation (132)._i(Ie, the coefficient w of the approximate function f (x, y) that is a two-dimensional polynomial._iAre calculated and output to the image generation unit 103.
[1549]
Next, real-world estimation processing (processing in step S102 in FIG. 40) to which the two-dimensional polynomial approximation method is applied will be described with reference to the flowchart in FIG.
[1550]
For example, now the slope G_FThe optical signal of the real world 1 having the continuity in the spatial direction represented by is detected by the sensor 2 (FIG. 225) and is already stored in the input image storage unit 2422 as an input image corresponding to one frame. And In addition, the data continuity detecting unit 101 performs processing on the above-described region 2401 shown in FIG. 226 in the input image in the processing for detecting continuity in step S101 (FIG. 40), and data continuity is detected. Assume that the angle θ has already been output as sex information.
[1551]
In this case, in step S2401, the condition setting unit 2421 sets conditions (tap range and order).
[1552]
For example, assume that the tap range 2441 shown in FIG. 229 is set and the fifth order is set as the order.
[1553]
That is, FIG. 229 is a diagram illustrating an example of the tap range. In FIG. 229, the X direction and the Y direction represent the X direction and the Y direction (FIG. 225) of the sensor 2. Further, the tap range 2441 represents a pixel group including a total of 20 pixels (20 squares in the drawing) corresponding to 4 pixels in the X direction and 5 pixels in the Y direction.
[1554]
Furthermore, as shown in FIG. 229, it is assumed that the target pixel is the second pixel from the left in the figure and the third pixel from the bottom in the tap range 2441. In addition, for each of the pixels, the relative pixel position (x, y) from the target pixel (the coordinate value of the target pixel coordinate system with the center (0, 0) of the target pixel as the origin) in accordance with FIG. A number l (1 is an integer value of 0 to 19) as shown in FIG.
[1555]
Returning to FIG. 228, in step S2402, the condition setting unit 2421 sets the target pixel.
[1556]
In step S2403, the input pixel value acquisition unit 2423 acquires the input pixel value based on the condition (tap range) set by the condition setting unit 2421, and generates an input pixel value table. That is, in this case, the input pixel value acquisition unit 2423 acquires the area 2401 (FIG. 226) of the input image, and generates a table composed of 20 input pixel values P (l) as the input pixel value table.
[1557]
In this case, the relationship between the input pixel value P (l) and the input pixel value P (x, y) described above is the relationship represented by the following equation (139). However, in Expression (139), the left side represents the input pixel value P (l), and the right side represents the input pixel value P (x, y).
[1558]
[Expression 107]

... (139)
[1559]
In step S2404, the integral component calculation unit 2424 performs integration based on the conditions (tap range and order) set by the condition setting unit 2421 and the data continuity information (angle θ) supplied from the data continuity detection unit 101. Calculate components and generate an integral component table.
[1560]
In this case, as described above, the input pixel value is acquired as the value of the pixel number l such as P (l) instead of P (x, y). Integral component S of (138)_i(x-0.5, x + 0.5, y-0.5, y + 0.5) is an integral component S indicated by the left side of the following equation (140)._iOperates as a function of l such as (l).
[1561]
S_i(l) = S_i(x-0.5, x + 0.5, y-0.5, y + 0.5) (140)
[1562]
Specifically, in this case, the integral component S expressed by the following equation (141):_i(l) is calculated.
[1563]
[Formula 108]

... (141)
[1564]
In equation (141), the left side is the integral component S._i(L), the right side is the integral component S_i(x-0.5, x + 0.5, y-0.5, y + 0.5). That is, in this case, since i is 0 to 5, 20 S₀(l), 20 S₁(l), 20 S₂(l), 20 S_Three(l), 20 S_Four(l), 20 S_FiveA total of 120 S of (l)_i(l) is calculated.
[1565]
More specifically, first, the integral component calculation unit 2424 calculates cot θ with respect to the angle θ supplied from the data continuity detection unit 101 and sets it as a variable s. Next, the integral component calculation unit 2424 uses the calculated variable s to calculate 20 integral components S indicated on the right side of the equation (140)._iEach of (x-0.5, x + 0.5, y-0.5, y + 0.5) is calculated for each of i = 0 to 5. That is, 120 integral components S_i(x-0.5, x + 0.5, y-0.5, y + 0.5) is calculated. This integral component S_iIn the calculation of (x−0.5, x + 0.5, y−0.5, y + 0.5), the above equation (138) is used. Then, the integral component calculation unit 2424 calculates the 120 integral components S calculated according to the equation (141)._i(x-0.5, x + 0.5, y-0.5, y + 0.5)_iConvert to each of (l) and convert 120 S_iAn integral component table including (l) is generated.
[1566]
Note that the order of the processing of step S2403 and the processing of step S2404 is not limited to the example of FIG. 228, the processing of step S2404 may be executed first, or the processing of step S2403 and the processing of step S2404 are executed simultaneously. May be.
[1567]
Next, in step S2405, the normal equation generation unit 2425 integrates the input pixel value table generated by the input pixel value acquisition unit 2423 in step S2403 and the integration component calculation unit 2424 generated in step S2404. A normal equation table is generated based on the component table.
[1568]
Specifically, in this case, the feature value w is calculated by the least square method using the above-described equation (137)._i(However, in the equation (136), the integral component S_i(x-0.5, x + 0.5, y-0.5, y + 0.5) uses Si (l) transformed by equation (140)), so the corresponding normal equation is the following equation (142 ).
[1569]
[Formula 109]

... (142)
[1570]
In Expression (142), L represents the maximum value among the numbers l of the pixels in the tap range. n represents the order of the approximate function f (x) that is a polynomial. Specifically, in this case, n = 5 and L = 19.
[1571]
When each matrix of the normal equation represented by the equation (142) is defined as the following equations (143) to (145), the normal equation is expressed as the following equation (146).
[1572]
## EQU1 ##

... (143)
[1573]
[Formula 111]

... (144)
[1574]
## EQU1 ##

... (145)
[1575]
[Formula 113]

... (146)
[1576]
As shown in equation (144), the matrix W_MATEach component is the feature value w_iIt is. Therefore, in equation (146), the left-side matrix S_MATAnd right-hand side matrix P_MATIs determined, the matrix W_MATCan be calculated.
[1577]
Specifically, as shown in Expression (143), the matrix S_MATEach component of the integral component S described above_iIt can be calculated with (l). That is, the integral component S_iSince (l) is included in the integral component table supplied from the integral component calculation unit 2424, the normal equation generation unit 2425 uses the integral component table to generate the matrix S._MATEach component of can be calculated.
[1578]
Further, as shown in the equation (145), the matrix P_MATEach component of is an integral component S_iIt is possible to calculate with (l) and the input pixel value P (l). That is, the integral component S_i(l) is the matrix S_MATIn addition, since the input pixel value P (l) is included in the input pixel value table supplied from the input pixel value acquisition unit 2423, the normal equation generation unit 2425 is a matrix P using the integral component table and the input pixel value table._MATEach component of can be calculated.
[1579]
In this way, the normal equation generation unit 2425 performs the matrix S_MATAnd matrix P_MATAre calculated, and the calculation result (matrix S_MATAnd matrix P_MATAre output to the approximate function generation unit 2426 as a normal equation table.
[1580]
When the normal equation table is output from the normal equation generating unit 2425, in step S2406, the approximate function generating unit 2426 is based on the normal equation table and the matrix W of the above-described equation (146)._MATFeatures w which are each component of_i(Ie, the coefficient w of the approximate function f (x, y) that is a two-dimensional polynomial._i) Is calculated.
[1581]
Specifically, the normal equation of the equation (146) described above can be transformed as the following equation (147).
[1582]
[Formula 114]

... (147)
[1583]
In equation (147), the left side matrix W_MATEach component of is the feature value w_iIt is. Matrix S_MATAnd matrix P_MATThe respective components are included in the normal equation table supplied from the normal equation generation unit 2425. Accordingly, the approximate function generation unit 2426 uses the normal equation table to perform the matrix operation on the right side of the equation (147), thereby generating the matrix W._MATAnd the result (feature value w_i) To the image generation unit 103.
[1584]
In step S2407, the approximate function generation unit 2426 determines whether or not the processing of all pixels has been completed.
[1585]
If it is determined in step S2407 that the processing for all pixels has not been completed yet, the processing returns to step S2402, and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S2402 to S2407 are repeated.
[1586]
When the processing for all pixels is completed (when it is determined in step S2407 that the processing for all pixels has been completed), the estimation process for the real world 1 ends.
[1587]
As described above, as a description of the two-dimensional polynomial approximation method, the coefficient (feature value) w of the approximation function f (x, y) with respect to the spatial direction (X direction and Y direction)_iHowever, the two-dimensional polynomial approximation method can also be applied to the spatio-temporal direction (X direction and t direction, or Y direction and t direction).
[1588]
That is, in the above example, the optical signal of the real world 1 is, for example, the gradient G_FSince it is an example in the case of having the continuity in the spatial direction represented by (FIG. 224), the two-dimensional integration in the spatial direction (X direction and Y direction) as shown in the above-described equation (132) is included. The formula used was used. However, the concept of two-dimensional integration is not limited to the spatial direction, but can be applied to the spatiotemporal direction (X direction and t direction, or Y direction and t direction).
[1589]
In other words, in the two-dimensional polynomial approximation method, the optical signal function F (x, y, t) to be estimated has not only the continuity in the spatial direction but also the spatio-temporal direction (however, the X direction and the t direction, or Y Direction and t direction), it can be approximated by a two-dimensional polynomial.
[1590]
Specifically, for example, when there is an object moving horizontally at a constant speed in the X direction, the direction of the movement of the object is the slope V in the X-t plane as shown in FIG._FIt is expressed as In other words, slope V_FCan be said to represent the direction of continuity in the spatio-temporal direction in the X-t plane. Therefore, the data continuity detecting unit 101 performs the above described angle θ (inclination G in the XY plane)._FAs with the data continuity information corresponding to the continuity in the spatial direction represented by), the slope V representing the continuity in the spatiotemporal direction in the X-t plane_FAs the data continuity information corresponding to the motion θ as shown in FIG. 230 (strictly, although not shown, the slope V_FTilt V corresponding to_fIt is possible to output the motion θ), which is the angle formed by the direction of the stationarity of the data represented by the X direction in the spatial direction.
[1591]
Accordingly, the real-world estimation unit 102 using the two-dimensional polynomial approximation method can use the coefficient of the approximation function f (x, t) in the same manner as the above-described method if the motion θ is used instead of the angle θ described above. (Feature amount) w_iCan be calculated. However, in this case, the expression used is not the expression (132) described above but the following expression (148).
[1592]
[Expression 115]

... (148)
[1593]
In equation (148), s is cot θ (where θ is a motion).
[1594]
Further, instead of the spatial direction X, the approximate function f (y, t) focused on the spatial direction Y can be handled in the same manner as the above approximate function f (x, t).
[1595]
As described above, in the two-dimensional polynomial approximation method, for example, the data continuity detecting unit 101 in FIG. 205 (FIG. 3) has a plurality of detection elements (for example, the sensor in FIG. 225) each having a spatiotemporal integration effect. The optical signal of the real world 1 (FIG. 205) is projected by the detection element 2-1 of 2 and the continuity of the optical signal of the real world 1 (for example, the slope G of FIG. 224)._FIn the image data (for example, the input image in FIG. 205) having a pixel value projected by the detection element 2-1 (for example, the input image in FIG. 205). , Slope G in FIG._fIs detected).
[1596]
Then, for example, the real-world estimation unit 102 (configuration is FIG. 227) in FIG. 205 (FIG. 3) corresponds to the continuity of the data detected by the data continuity detection unit 101 in the spatio-temporal direction of the image data. Of the pixel corresponding to the position in at least a two-dimensional direction (for example, the spatial direction X and the spatial direction Y in FIGS. 224 and 225) (for example, the input pixel value P that is the left side of the above-described equation (131)) (x, y)) is a pixel value (for example, shown on the right side of the equation (132) obtained by the integration effect in the two-dimensional direction, as described above, the approximation function f (x , y) is a value integrated in the X and Y directions), an optical signal function F representing the optical signal of the real world 1 (specifically, the function F (x, y) in FIG. 224) is Approximation with an approximation function f that is a polynomial (for example, the approximation function f (x, y) represented by the equation (131)) Thus, the optical signal function F is estimated.
[1597]
More specifically, for example, the real world estimation unit 102 uses a line corresponding to the continuity of data detected by the data continuity detection unit 101 (for example, the slope G in FIG. 226)._fThe pixel value of the pixel corresponding to the distance (for example, the cross-sectional direction distance x ′ in FIG. 226) along at least the two-dimensional direction from the line (arrow) corresponding to is acquired by the integration effect in at least the two-dimensional direction The first function is estimated by approximating the first function that represents the optical signal in the real world with the second function that is a polynomial, assuming that it is a pixel value.
[1598]
As described above, since the two-dimensional polynomial approximation method considers a two-dimensional integration effect instead of one-dimensional, the optical signal in the real world 1 can be estimated more accurately than the one-dimensional polynomial approximation method. Is possible.
[1599]
Next, the third function approximation method will be described with reference to FIGS. 231 to 235.
[1600]
That is, in the third function approximation method, for example, an optical signal of the real world 1 having a continuity in a predetermined direction in the spatio-temporal direction is represented by an optical signal function F (x, y, t). Paying attention to this, the optical signal function F (x, y, t) is estimated by approximating the optical signal function F (x, y, t) with the approximate function f (x, y, t). is there. Therefore, hereinafter, the third function approximation method is referred to as a three-dimensional function approximation method.
[1601]
In the description of the three-dimensional function approximation method, the sensor 2 is a CCD configured by arranging a plurality of detection elements 2-1 on the plane as shown in FIG.
[1602]
In the example of FIG. 231, the direction parallel to the predetermined one side of the detection element 2-1 is the X direction which is one direction in the spatial direction, and the direction perpendicular to the X direction is the other direction in the spatial direction. A certain Y direction is assumed. The direction perpendicular to the XY plane is the t direction which is the time direction.
[1603]
In the example of FIG. 231, the spatial shape of each detection element 2-1 of the sensor 2 is a square with one side length of one. The shutter time (exposure time) of the sensor 2 is 1.
[1604]
Further, in the example of FIG. 231, the center of one predetermined detection element 2-1 of the sensor 2 is the origin in the spatial direction (X direction and Y direction) (position x = 0 in the X direction and position y in the Y direction). = 0), and the intermediate time of the exposure time is the origin in the time direction (t direction) (position t = 0 in the t direction).
[1605]
In this case, the detection element 2-1 having its center at the origin (x = 0, y = 0) in the spatial direction has a range of −0.5 to 0.5 in the X direction, a range of −0.5 to 0.5 in the Y direction, and The optical signal function F (x, y, t) is integrated in the range of −0.5 to 0.5 in the t direction, and the integrated value is output as the pixel value P.
[1606]
That is, the pixel value P output from the detection element 2-1 having the center at the origin in the spatial direction is expressed by the following equation (149).
[1607]
[Formula 116]

... (149)
[1608]
Similarly, the other detection element 2-1 outputs the pixel value P represented by the equation (149) by setting the center of the target detection element 2-1 as the origin in the spatial direction.
[1609]
Incidentally, as described above, in the three-dimensional function approximation method, the optical signal function F (x, y, t) is approximated to the three-dimensional approximation function f (x, y, t).
[1610]
Specifically, for example, the approximate function f (x, y, t) is a function having N variables (features), and the input pixel value P (x, y, t) corresponding to the equation (149) is used. And the relational expression f (x, y, t). Accordingly, if M input pixel values P (x, y, t) larger than N are acquired, N variables (features) can be calculated from the defined relational expression. That is, the real world estimation unit 102 obtains M input pixel values P (x, y, t) and calculates N variables (features), thereby obtaining an optical signal function F (x, y, t) can be estimated.
[1611]
In this case, the real world estimation unit 102 binds the continuity of data included in the input image (input pixel value) from the sensor 2 (that is, the data continuity with respect to the input image output from the data continuity detection unit 101). Using the information), M input images P (x, y, t) are extracted (acquired) from the entire input image. As a result, the prediction function f (x, y, t) is constrained by the stationarity of the data.
[1612]
For example, as shown in FIG. 232, the optical signal function F (x, y, t) corresponding to the input image has a gradient G_FThe data continuity detecting unit 101 uses the angle θ (inclination G) as data continuity information for the input image._FTilt G corresponding to_fThe direction of the continuity of data represented by (not shown) and the angle θ formed by the X direction are output.
[1613]
In this case, a one-dimensional waveform obtained by projecting the optical signal function F (x, y, t) in the X direction (here, such a waveform is referred to as an X sectional waveform) is any position in the Y direction. It is assumed that the shape is the same even when projected by.
[1614]
That is, there is a two-dimensional waveform (in the spatial direction) in which X-shaped waveforms having the same shape are connected in a stationary direction (angle θ direction with respect to the X direction). A three-dimensional waveform connected in the direction t is approximated by an approximation function f (x, y, t).
[1615]
In other words, the X cross-sectional waveform shifted by the position y in the Y direction from the center of the pixel of interest has moved by a predetermined amount (amount that changes according to the angle θ) in the X cross section waveform passing through the center of the pixel of interest. (Shifted) waveform. Hereinafter, such an amount is referred to as a shift amount.
[1616]
This shift amount can be calculated as follows.
[1617]
That is, slope V_f(For example, the slope V in FIG. 232_FThe slope V that represents the direction of data continuity corresponding to_f) And the angle θ are expressed as the following equation (150).
[1618]
[Expression 117]

... (150)
[1619]
In Expression (150), dx represents the amount of minute movement in the X direction, and dy represents the amount of minute movement in the Y direction with respect to dx.
[1620]
Therefore, the shift amount in the X direction is C_xWhen (y) is described, it is expressed as the following equation (151).
[1621]
[Formula 118]

... (151)
[1622]
In this way, the shift amount C_xWhen (y) is defined, the relational expression between the input pixel value P (x, y, t) corresponding to the equation (149) and the approximate function f (x, y, t) is as shown in the following equation (152): expressed.
[1623]
[Formula 119]

... (152)
[1624]
In Expression (152), e represents an error. t_sRepresents the integration start position in the t direction, and t_eRepresents the integration end position in the t direction. Similarly, y_sRepresents the integration start position in the Y direction, and y_eRepresents the integration end position in the Y direction. X_sRepresents the integration start position in the X direction, and x_eRepresents the integration end position in the X direction. However, each specific integration range is as shown in the following equation (153).
[1625]
[Expression 120]

... (153)
[1626]
As shown in the equation (153), the integration range in the X direction for a pixel located at a distance of (x, y) in the spatial direction from the target pixel is expressed as a shift amount C._xBy moving only (y), it is possible to express that the X-shaped waveform of the same shape is continuous in the stationary direction (angle θ direction with respect to the X direction).
[1627]
Thus, in the three-dimensional function approximation method, the relationship between the pixel value P (x, y, t) and the three-dimensional approximation function f (x, y, t) is expressed by the equation (152) (the integration range is expressed by the equation (153)), the N feature quantities of the approximate function f (x, y, t) can be expressed by, for example, the least square method using the expressions (152) and (153). By calculating, the optical signal function F (x, y, t) (for example, the slope V as shown in FIG. 232)_FIt is possible to estimate an optical signal having a continuity in the spatial direction represented.
[1628]
Note that the optical signal represented by the optical signal function F (x, y, t) has a slope V as shown in FIG._FThe optical signal function F (x, y, t) may be approximated as follows.
[1629]
That is, a one-dimensional waveform obtained by projecting the optical signal function F (x, y, t) in the Y direction (hereinafter, this waveform is referred to as a Y cross-sectional waveform) is projected at any position in the X direction. Even so, it is assumed that they have the same shape.
[1630]
In other words, there is a two-dimensional waveform (in the spatial direction) in which the Y-shaped waveform of the same shape is continuous in the stationary direction (angle θ direction with respect to the X direction). A three-dimensional waveform connected in the time direction t is approximated by an approximation function f (x, y, t).
[1631]
Therefore, the Y cross-sectional waveform shifted by x in the X direction from the center of the target pixel is moved by a predetermined shift amount (a shift amount that changes according to the angle θ) in the Y cross-section waveform passing through the center of the target pixel. It becomes a waveform.
[1632]
This shift amount can be calculated as follows.
[1633]
That is, the slope G_FIs expressed as the above-described equation (150), the shift amount in the Y direction is expressed as C._yWhen (x) is described, it is expressed as the following equation (154).
[1634]
[Equation 121]

... (154)
[1635]
In this way, the shift amount C_yWhen (x) is defined, the relational expression between the input pixel value P (x, y, t) corresponding to the expression (149) and the approximate function f (x, y, t) is expressed by the shift amount C_xSimilarly to the case where (y) is defined, it is expressed by the above-described formula (152).
[1636]
However, this time, each of the specific integration ranges is as shown by the following equation (155).
[1637]
[Equation 122]

... (155)
[1638]
As shown in Expression (155) (and Expression (152) described above), the integration range in the Y direction for a pixel located at a distance (x, y) from the target pixel is expressed as a shift amount C._yBy moving only (x), it is possible to indicate that the Y-shaped waveform having the same shape is continuous in the stationary direction (angle θ direction with respect to the X direction).
[1639]
As described above, in the three-dimensional function approximation method, the integration range on the right side of the above-described equation (152) can be set not only to the equation (153) but also to the equation (155). By using the adopted formula (152), n feature quantities of the approximate function f (x, y, t) are calculated by, for example, the least square method, etc., so that the optical signal function F (x, y , t) (Slope G_FIt is possible to estimate a real world 1 optical signal having a spatial continuity represented by
[1640]
In this way, the expressions (153) and (155) representing the integration range are shifted in the X direction (in the case of the expression (153)) according to the stationary direction, or shifted in the Y direction. (In the case of formula (155)), and essentially represents the same thing.
[1641]
However, the direction of stationarity (slope G_F), Whether the optical signal function F (x, y, t) is regarded as a collection of X sectional waveforms or a collection of Y sectional waveforms is different. That is, when the stationary direction is close to the Y direction, it is preferable to regard the optical signal function F (x, y, t) as a collection of X cross-sectional waveforms. On the other hand, when the stationary direction is close to the X direction, it is preferable to regard the optical signal function F (x, y, t) as a collection of Y cross-sectional waveforms.
[1642]
Therefore, the real world estimation unit 102 prepares both the expressions (153) and (155) as the integration range, and appropriately sets the expression as the integration range on the right side of the expression (152) according to the direction of stationarity. Either one of (153) and formula (155) may be selected.
[1643]
As described above, the optical signal function F (x, y, t) is stationary in the spatial direction (X direction and Y direction) (for example, the gradient G in FIG. 232)._FThe three-dimensional function method for the case of having a spatial direction stationarity expressed by the following equation has been described. However, as shown in FIG. 233, the three-dimensional function method has an optical signal function F (x, y, t). Stationarity (slope V) in spatio-temporal direction (X direction, Y direction, and t direction)_FIt can also be applied to the case of having a stationary property represented by
[1644]
That is, in FIG. 233, the optical signal function corresponding to the frame of frame number # N-1 is F (x, y, # N-1), and the optical signal function corresponding to the frame of frame number #N is F ( x, y, #N) and the optical signal function corresponding to the frame of frame number # N + 1 is F (x, y, # N + 1).
[1645]
In FIG. 233, in the drawing, the horizontal direction is the X direction, which is one direction in the spatial direction, the diagonally upper right direction is the Y direction, which is the other direction in the spatial direction, and the vertical direction. The direction is the t direction which is the time direction.
[1646]
Further, frame # N-1 is a frame temporally preceding frame #N, and frame # N + 1 is a frame temporally subsequent to frame #N. That is, frame # N-1, frame #N, and frame # N + 1 are displayed in the order of frame # N-1, frame #N, and frame # N + 1.
[1647]
In the example of FIG. 233, the slope V_FThe light level of the cross section along the direction indicated by (in the drawing, from the lower left front to the upper right back) is substantially constant. Therefore, in the example of FIG. 233, the optical signal function F (x, y, t) has a slope V_FIt can be said that it has continuity in the spatio-temporal direction expressed by
[1648]
In this case, the function C (x, y, t) representing the continuity in the spatio-temporal direction is defined, and using the defined function C (x, y, t), the above equation (152) If the integration range is defined, N feature quantities of the approximate function f (x, y, t) can be calculated in the same manner as the above-described expressions (153) and (155).
[1649]
The function C (x, y, t) is not particularly limited as long as it is a function representing the direction of stationarity. However, in the following, it is assumed that the stationarity is linear, and the shift amount C, which is a function representing the stationarity in the spatial direction described above, is used as the corresponding function C (x, y, t)._x(y) (Formula (151)) and shift amount C_yC corresponding to (x) (formula (153))_x(t) and C_ySuppose that (t) is defined as follows.
[1650]
That is, the gradient G representing the continuity of the data in the spatial direction described above._fThe slope of the continuity of the data in the spatio-temporal direction corresponding to_fThen this slope V_fX direction tilt (V_fxAnd the slope in the Y direction (hereinafter V_fyAnd the slope V_fxIs the slope V in the following equation (156)_fyAre represented by the following equations (157).
[1651]
[Formula 123]

... (156)
[1652]
[Expression 124]

... (157)
[1653]
In this case, the function C_x(t) is the slope V expressed by equation (156)._fxIs expressed as the following equation (158).
[1654]
[Expression 125]

... (158)
[1655]
Similarly, the function C_y(t) is the slope V expressed by equation (157)._fyIs expressed as the following equation (159).
[1656]
[Expression 126]

... (159)
[1657]
In this way, the function C representing the continuity 2511 in the space-time direction_x(t) and function C_yWhen (t) is defined, the integration range of the equation (152) is expressed as the following equation (160).
[1658]
[Expression 127]

... (160)
[1659]
Thus, in the three-dimensional function approximation method, the relationship between the pixel value P (x, y, t) and the three-dimensional approximation function f (x, y, t) can be expressed by the equation (152). By using the equation (160) as the integration range on the right side of the equation (152), the n + 1 feature quantities of the approximate function f (x, y, t) are calculated by, for example, the least square method or the like. It is possible to estimate the optical signal function F (x, y, t) (the real world 1 optical signal having stationarity in a predetermined direction in the spatio-temporal direction).
[1660]
FIG. 234 shows a configuration example of the real world estimation unit 102 using such a three-dimensional function approximation method.
[1661]
Note that the approximate function f (x, y, t) (actually the feature amount (coefficient) calculated by the real world estimation unit 102 using the three-dimensional function approximation method is not particularly limited) In the following description, it is assumed that the polynomial is n (n = N-1) order.
[1662]
As shown in FIG. 234, the real world estimation unit 102 includes a condition setting unit 2521, an input image storage unit 2522, an input pixel value acquisition unit 2523, an integral component calculation unit 2524, a normal equation generation unit 2525, and an approximate function generation. A portion 2526 is provided.
[1663]
The condition setting unit 2521 uses a pixel range (tap range) used to estimate the optical signal function F (x, y, t) corresponding to the target pixel, and the order of the approximate function f (x, y, t). Set n.
[1664]
The input image storage unit 2522 primarily stores an input image (pixel value) from the sensor 2.
[1665]
The input pixel value acquisition unit 2523 acquires an area of the input image corresponding to the tap range set by the condition setting unit 2521 among the input images stored in the input image storage unit 2522, and stores the acquired area in the input pixel value table. To the normal equation generation unit 2525. That is, the input pixel value table is a table in which each pixel value of each pixel included in the area of the input image is described.
[1666]
By the way, as described above, the real-world estimation unit 102 using the three-dimensional function approximation method performs the above equation (152) (however, the integration range is the equation (153), the equation (156), or the equation (160)). Is used to calculate N feature quantities (in this case, the respective coefficients) of the approximate function f (x, y) by the method of least squares.
[1667]
The right side of Expression (152) can be expressed as the following Expression (161) by calculating the integral.
[1668]
[Expression 128]

... (161)
[1669]
In formula (161), w_iRepresents the coefficient (feature) of the i-th term, and S_i(X_s, x_e, y_s, y_e, t_s, t_e) Represents the integral component of the i-th order term. Where x_sIs the start position of the integration range in the X direction, x_eIs the end position of the integration range in the X direction, y_sIs the start position of the integration range in the Y direction, y_eIs the end position of the integration range in the Y direction, t_sIs the start position of the integration range in the t direction, t_eRepresents the end position of the integration range in the t direction.
[1670]
The integral component calculation unit 2524 takes this integral component S_i(X_s, x_e, y_s, y_e, t_s, t_e) Is calculated.
[1671]
That is, the integral component calculation unit 2524 includes the tap range and order set by the condition setting unit 2521 and the angle or movement of the data continuity information output from the data continuity detection unit 101 (the integration range described above). Based on the equation (153) or (156), the angle, and if the above equation (160) is used, the integral component S_i(X_s, x_e, y_s, y_e, t_s, t_e) And the result of the calculation is supplied to the normal equation generation unit 2525 as an integral component table.
[1672]
The normal equation generation unit 2525 uses the input pixel value table supplied from the input pixel value acquisition unit 2523 and the integration component table supplied from the integration component calculation unit 2524 to convert the above equation (161) into the least square method. A normal equation for the above is generated and is output to the approximate function generation unit 2526 as a normal equation table. Examples of normal equations will be described later.
[1673]
The approximate function generation unit 2526 solves the normal equation included in the normal equation table supplied from the normal equation generation unit 2525 by matrix release, thereby obtaining the feature amount w._i(In this case, the coefficient w of the pixel value function f (x, y), which is a three-dimensional polynomial._iAre calculated and output to the image generation unit 103.
[1673]
Next, with reference to the flowchart in FIG. 235, the real world estimation process (the process in step S102 in FIG. 40) to which the three-dimensional function approximation method is applied will be described.
[1675]
First, in step S2501, the condition setting unit 2521 sets conditions (tap range and order).
[1676]
For example, assume that a tap range consisting of L pixels is set. Further, it is assumed that a predetermined number l (l is any integer value from 0 to L−1) is assigned to each pixel.
[1679]
Next, in step S2502, the condition setting unit 2521 sets a target pixel.
[1678]
In step S2503, the input pixel value acquisition unit 2523 acquires an input pixel value based on the condition (tap range) set by the condition setting unit 2521, and generates an input pixel value table. In this case, a table composed of L input pixel values P (x, y, t) is generated. Here, each of the L input pixel values P (x, y, t) is described as P (l) as a function of the pixel number l. That is, the input pixel value table is a table including L P (l).
[1679]
In step S2504, the integral component calculation unit 2524 is based on the conditions (tap range and order) set by the condition setting unit 2521 and the data continuity information (angle or motion) supplied from the data continuity detection unit 101. The integral component is calculated and an integral component table is generated.
[1680]
However, in this case, as described above, the input pixel value is acquired as the value of the pixel number l such as P (l) instead of P (x, y, t). , Integral component S of the above-described equation (161)_i(X_s, x_e, y_s, y_e, t_s, t_e), Integral component S_iIt is calculated as a function of l such as (l). That is, the integral component table has L × i S_iThe table contains (l).
[1681]
Note that the order of the processing of step S2503 and the processing of step S2504 is not limited to the example of FIG. 235, the processing of step S2504 may be executed first, or the processing of step S2503 and the processing of step S2504 are executed simultaneously. May be.
[1682]
Next, in step S2505, the normal equation generation unit 2525 includes the input pixel value table generated by the input pixel value acquisition unit 2523 in the process of step S2503, and the integration generated by the integration component calculation unit 2524 in the process of step S2504. A normal equation table is generated based on the component table.
[1683]
Specifically, in this case, the feature value w of the following equation (162) corresponding to the above-described equation (161) by the method of least squares._iIs calculated. Thus, the corresponding normal equation is expressed as the following equation (163).
[1684]
[Expression 129]

... (162)
[1686]
[Expression 130]

... (163)
[1686]
When each matrix of the normal equation represented by the equation (163) is defined as the following equations (164) to (166), the normal equation is represented as the following equation (167).
[1687]
[Equation 131]

... (164)
[1688]
[Expression 132]

... (165)
[1688]
[Formula 133]

... (166)
[1690]
[Formula 134]

... (167)
[1691]
As shown in equation (165), the matrix W_MATEach component is the feature value w_iIt is. Therefore, in equation (167), the left-side matrix S_MATAnd right-hand side matrix P_MATIs determined, the matrix W_MAT(That is, feature amount w_i) Can be calculated.
[1692]
Specifically, as shown in Expression (164), the matrix S_MATEach component of the integral component S described above_iIf (l) is known, computation is possible. Integral component S_iSince (l) is included in the integral component table supplied from the integral component calculation unit 2524, the normal equation generation unit 2525 uses the integral component table to generate the matrix S._MATEach component of can be calculated.
[1693]
Further, as shown in the equation (166), the matrix P_MATEach component of is an integral component S_iIf (l) and the input pixel value P (l) are known, calculation is possible. Integral component S_i(l) is the matrix S_MATSince the input pixel value P (l) is included in the input pixel value table supplied from the input pixel value acquisition unit 2523, the normal equation generation unit 2525 is a matrix P using the integral component table and the input pixel value table._MATEach component of can be calculated.
[1694]
In this way, the normal equation generation unit 2525 performs the matrix S_MATAnd matrix P_MATAre calculated, and the calculation result (matrix S_MATAnd matrix P_MATAre output to the approximate function generator 2526 as a normal equation table.
[1695]
  Normal equation generator2525When the normal equation table is output, in step S2506, the approximate function generation unit 2526, based on the normal equation table, calculates the matrix W of the above equation (167)._MATFeatures w which are each component of_i(Ie, the coefficient w of the approximation function f (x, y, t)_i) Is calculated.
[1696]
Specifically, the normal equation of the above-described equation (167) can be transformed as the following equation (168).
[1697]
[Expression 135]

... (168)
[1698]
In equation (168), the left side matrix W_MATEach component of is the feature value w_iIt is. Matrix S_MATAnd matrix P_MATThe respective components are included in the normal equation table supplied from the normal equation generation unit 2525. Therefore, the approximate function generation unit 2526 uses the normal equation table to perform the matrix operation on the right side of the equation (168), thereby generating the matrix W._MATAnd the result (feature value w_i) To the image generation unit 103.
[1699]
In step S2507, the approximate function generation unit 2526 determines whether or not processing for all pixels has been completed.
[1700]
If it is determined in step S2507 that the processing for all pixels has not been completed yet, the process returns to step S2502, and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S2502 to S2507 are repeated.
[1701]
  When all pixels are processed (step S).2507If it is determined that all pixels have been processed), the estimation process for the real world 1 ends.
[1702]
As described above, since the three-dimensional function approximation method considers the three-dimensional integration effect in the spatio-temporal direction, not one-dimensional or two-dimensional, the one-dimensional polynomial approximation method or the two-dimensional polynomial approximation method is used. In comparison, the real world 1 optical signal can be estimated more accurately.
[1703]
In other words, in the three-dimensional function approximation method, for example, the real world estimation unit 102 (configuration is, for example, FIG. 234) of FIG. 205 (FIG. 234) has a plurality of detection elements of the sensor each having a spatiotemporal integration effect. The optical signal of the real world 1 is projected by (for example, the detection element 2-1 of the sensor 2 of FIG. 231), and the continuity of the optical signal of the real world 1 (for example, the slope G of FIG. 232)._FOr the slope V in FIG._FAt least one dimensional direction (for example, the spatial direction of FIG. 233) of the input image composed of a plurality of pixels having pixel values projected by the detection element, in which a part of the continuity represented by The pixel value of the pixel (for example, the input pixel value P (x, y, z) on the left side of the equation (153)) corresponding to the position in X, the spatial direction Y, and the time direction t is a three-dimensional direction. , A pixel value obtained by at least one-dimensional direction integration effect (for example, as shown in the right side of the above equation (153), the approximate function f (x, y, t) is expressed in the X direction, Y direction, and t The optical signal function F representing a real-world optical signal (specifically, for example, the optical signal function F (x, y, t) in FIGS. 232 and 233). ) Is approximated by a predetermined approximation function f (specifically, for example, the approximation function f (x, y, t) on the right side of the equation (152)). Thus, the optical signal function F is estimated.
[1704]
Further, for example, when the data continuity detection unit 101 in FIG. 205 (FIG. 3) detects the continuity of the data of the input image, the real world estimation unit 102 determines the data detected by the data continuity detection unit 101. Corresponding to the stationarity, it is assumed that the pixel value of the pixel corresponding to the position in at least one-dimensional direction in the spatio-temporal direction of the image data is the pixel value acquired by the integration effect in at least one-dimensional direction. The optical signal function F is estimated by approximating F with the approximate function f.
[1705]
Specifically, for example, the real world estimation unit 102, for example, a distance (for example, the equation (151) described above) from at least a one-dimensional direction from a line corresponding to the continuity of the data detected by the continuity detection unit 101. The pixel value of the pixel corresponding to the shift amount Cx (y)) is at least the pixel value acquired by the integration effect in the one-dimensional direction (for example, in the integration range shown by the above-described equation (153), the expression (152 ), The approximate function f (x, y, t) is a value integrated in three dimensions in the X direction, Y direction, and t direction). The optical signal function is estimated by approximation.
[1706]
Therefore, the three-dimensional function approximation method can estimate the real world 1 optical signal more accurately.
[1707]
Next, an example of an embodiment of the image generation unit 103 (FIG. 3) will be described with reference to FIGS. 236 to 257. FIG.
[1708]
FIG. 236 is a diagram for explaining the principle of the embodiment of this example.
[1709]
As shown in FIG. 236, in the embodiment of this example, it is assumed that the real world estimation unit 102 uses a function approximation method. That is, assuming that a signal of the real world 1 (light intensity distribution) that is an image incident on the sensor 2 is represented by a predetermined function F, the real world estimation unit 102 receives an input output from the sensor 2. It is assumed that the function F is estimated by approximating the function F by a predetermined function f using the image (pixel value P) and the data continuity information output from the data continuity detecting unit 101. ing.
[1710]
In the following description of the embodiment of this example, the real world 1 signal, which is an image, is particularly referred to as an optical signal, and the function F is particularly referred to as an optical signal function F. The function f is particularly referred to as an approximate function f.
[1711]
Therefore, in the embodiment of this example, the image generation unit 103 outputs the data continuity information output from the data continuity detection unit 101 and the real world estimation unit 102 based on such a premise. Using real-world estimation information (in the example of FIG. 236, the feature amount of the approximate function f), the approximate function f is integrated in a predetermined space-time range, and the integrated value is output as an output pixel value M (output image). To do. In the embodiment of this example, the input pixel value is described as P and the output pixel value is described as M in order to distinguish the pixel of the input image from the pixel of the output image.
[1712]
In other words, the optical signal function F is integrated once to become the input pixel value P, and the optical signal function F is estimated from the input pixel value P (approximated by the approximate function f), and the estimated optical signal function F (ie, , The approximate function f) is integrated again to generate the output pixel value M. Therefore, hereinafter, the integration of the approximate function f executed by the image generation unit 103 is referred to as reintegration. The embodiment of this example is referred to as a reintegration method.
[1713]
As will be described later, in the reintegration method, the integration range of the approximate function f when the output pixel value M is generated is the integration range of the optical signal function F when the input pixel value P is generated (that is, It is not limited to the vertical width and horizontal width of the detection element of the sensor 2 in the spatial direction, and is the exposure time of the sensor 2 in the time direction), and an arbitrary integration range is possible.
[1714]
For example, when the output pixel value M is generated, it is possible to vary the pixel pitch of the output image according to the integration range by changing the integration range in the spatial direction of the integration range of the approximate function f. Become. That is, spatial resolution can be created.
[1715]
Similarly, for example, when the output pixel value M is generated, temporal resolution can be created by changing the integration range in the time direction of the integration range of the approximate function f.
[1716]
In the following, with reference to the drawings, three specific methods of such reintegration methods will be individually described.
[1717]
That is, the three specific methods are reintegration methods corresponding to the three specific methods of the function approximation method (the three specific examples described above in the embodiment of the real world estimation unit 102). is there.
[1718]
Specifically, the first method is a reintegration method corresponding to the above-described one-dimensional polynomial approximation method (one method of the function approximation method). Accordingly, since the first method performs one-dimensional reintegration, such a reintegration method is hereinafter referred to as a one-dimensional reintegration method.
[1719]
The second method is a reintegration method corresponding to the two-dimensional polynomial approximation method (one method of the function approximation method) described above. Accordingly, since the second method performs two-dimensional reintegration, such a reintegration method is hereinafter referred to as a two-dimensional reintegration method.
[1720]
The third method is a reintegration method corresponding to the above-described three-dimensional function approximation method (one method of the function approximation method). Therefore, since the third method performs three-dimensional reintegration, such a reintegration method is hereinafter referred to as a three-dimensional reintegration method.
[1721]
Hereinafter, the details of each of the one-dimensional reintegration method, the two-dimensional reintegration method, and the three-dimensional reintegration method will be described in that order.
[1722]
First, the one-dimensional reintegration method will be described.
[1723]
In the one-dimensional reintegration method, it is assumed that the approximate function f (x) has already been generated by the one-dimensional polynomial approximation method.
[1724]
That is, the optical signal function F (x, y, t) with the positions x, y, and z in the three-dimensional space and the time t as variables is expressed as the X direction, the Y direction, and the Z direction, which are spatial directions. In addition, a one-dimensional waveform projected in a predetermined one direction (for example, the X direction) in the t direction which is the time direction (in the description of the reintegration method, a waveform projected in the X direction out of such waveforms is also used. X cross-sectional waveform F (x)) is assumed to be approximated by an approximate function f (x) which is an n-order (n is an arbitrary integer) polynomial.
[1725]
In this case, in the one-dimensional reintegration method, the output pixel value M is calculated as in the following equation (169).
[1726]
[Formula 136]

... (169)
[1727]
In formula (169), x_sRepresents the integration start position and x_eRepresents the integration end position. G_eRepresents a predetermined gain.
[1728]
Specifically, for example, the real world estimation unit 102 now shows a pixel 3101 (a pixel 3101 corresponding to a predetermined one detection element of the sensor 2) as shown in FIG. It is assumed that the approximate function f (x) (approximate function f (x) of the X sectional waveform F (x)) has already been generated.
[1729]
In the example of FIG. 237, the pixel value (input pixel value) of the pixel 3101 is P, and the shape of the pixel 3101 is a square with one side length. Of the spatial directions, the direction parallel to one side of the pixel 3101 (horizontal direction in the figure) is the X direction, and the direction perpendicular to the X direction (vertical direction in the figure) is the Y direction.
[1730]
Also, on the lower side of FIG. 237, a coordinate system (hereinafter referred to as a pixel-of-interest coordinate system) in a spatial direction (X direction and Y direction) in which the center of the pixel 3101 is the origin, and a pixel 3101 in the coordinate system are shown. Has been.
[1731]
Further, a graph of the approximate function f (x) at y = 0 (y is a coordinate value in the Y direction of the target pixel coordinate system shown on the lower side in the figure) is shown in the upper part of FIG. 237. . In this graph, the axis parallel to the horizontal direction in the figure is the same axis as the x axis in the X direction of the pixel coordinate system of interest shown in the lower part of the figure (the origin is also the same), and vertical in the figure An axis parallel to the direction is an axis representing a pixel value.
[1732]
In this case, the relationship of the following equation (170) is established between the approximate function f (x) and the pixel value P of the pixel 3101.
[1733]
[Expression 137]

... (170)
[1734]
Also, as shown in FIG. 237, the pixel 3101 has a gradient G_fIt is assumed that the data in the spatial direction represented by Then, the data continuity detecting unit 101 (FIG. 236) performs the gradient G_fAssume that an angle θ as shown in FIG. 237 has already been output as data continuity information corresponding to the continuity of data represented by
[1735]
In this case, for example, in the one-dimensional reintegration method, as shown in FIG. 238, a range of −0.5 to 0.5 in the X direction and a range of −0.5 to 0.5 in the Y direction ( Four pixels 3111 to 3114 can be newly created in a range in which the pixel 3101 in FIG. 237 is located.
[1736]
Note that the attention pixel coordinate system same as that in FIG. 237 and the pixels 3111 to 3114 in the attention pixel coordinate system are shown on the lower side of FIG. 238. Further, the same graph as that of FIG. 237 (graph of the approximate function f (x) at y = 0) is shown on the upper side of FIG. 238.
[1737]
Specifically, as shown in FIG. 238, in the one-dimensional reintegration method, the pixel value M (1) of the pixel 3111 is calculated by the following equation (171), and the pixel 3112 is calculated by the following equation (172). The pixel value M (2) of the pixel 3113 is calculated by the following equation (173), and the pixel value M (4) of the pixel 3114 is calculated by the following equation (174). , Each is possible.
[1738]
[Formula 138]

... (171)
[1737]
[Formula 139]

... (172)
[1740]
[Formula 140]

... (173)
[1741]
[Formula 141]

... (174)
[1742]
Note that x in the formula (171)_s1, X in equation (172)_s2, X in equation (173)_s3, And x in equation (174)_s4Represents the integration start position of the corresponding expression. Further, x in the formula (171)_e1, X in equation (172)_e2, X in equation (173)_e3, And x in equation (174)_e4Represents the integration end position of the corresponding expression.
[1743]
The integration range on the right side of each of the equations (171) to (174) is the pixel width (the length in the X direction) of each of the pixels 3111 to 3114. That is, x_e1-x_s1, x_e2-x_s2, x_e3-x_s3, x_e4-x_s4Each will be 0.5.
[1744]
However, in this case, the one-dimensional waveform having the same shape as the approximate function f (x) at y = 0 is not in the Y direction, but the gradient G_f(In fact, the waveform having the same shape as the X cross-sectional waveform F (x) at y = 0 is the direction of continuity). Connected to). That is, when the pixel value f (0) at the origin (0,0) (center of the pixel 3101 in FIG. 237) in the target pixel coordinate system in FIG. 238 is the pixel value f1, the direction in which the pixel value f1 continues is the Y direction. Not G_fIs the direction of continuity of the data represented by (angle θ direction).
[1745]
In other words, when considering the waveform of the approximate function f (x) at a predetermined position y in the Y direction (where y is a numerical value other than 0), the position where the pixel value f1 is located is not the position (0, y). , A predetermined amount in the X direction from the position (0, y) (again, this amount is referred to as a shift amount. Since the shift amount depends on the position y in the Y direction, This shift amount is C_x(y) will be moved by the position (C_x(y), y).
[1746]
Accordingly, the center of the pixel value M (l) to be obtained (where l is any integer value from 1 to 4) as the integration range on the right side of each of the above-described equations (171) to (174). Is a range in consideration of the position y in the Y direction in which there is, that is, the shift amount C_xIt is necessary to set the integration range considering (y).
[1747]
Specifically, for example, the position y in the Y direction where the centers of the pixel 3111 and the pixel 3112 exist is not y = 0 but y = 0.25.
[1748]
Therefore, the waveform of the approximate function f (x) at y = 0.25 is the shift amount C in the X direction from the waveform of the approximate function f (x) at y = 0._xCorresponds to the waveform moved by (0.25).
[1748]
In other words, in the above-described equation (171), the pixel value M (1) for the pixel 3111 has an approximate function f (x) at y = 0 in a predetermined integration range (start position x_s1To end position x_e1The integration range is the start position x._s1= -0.5 to end position x_e1= 0 (the range itself occupied by the pixel 3111 in the X direction), not the range shown in FIG. 238, that is, the start position x_s1= -0.5 + C_xEnd position x from (0.25)_e1= 0 + C_x(0.25) (shift amount C_x(A range occupied by the pixel 3111 in the X direction when the pixel 3111 is temporarily moved by (0.25)).
[1750]
  Similarly, in the above-described formula (172), the pixel value M (2) for the pixel 3112 has an approximate function f (x) at y = 0 in a predetermined integration range (start position x_s2To end position x_e2The integration range is the start position x._s2= 0 to end position x_e2= The range up to 0.5 (the range itself occupied by the pixel 3112 in the X direction), but the range shown in FIG._s2= 0 + C_xEnd position from (0.25)x _e2 = 0.5 + C_x(0.25) (shift amount C_x(The range occupied in the X direction of the pixel 3112 when the pixel 3112 is temporarily moved by (0.25)).
[1751]
Also, for example, the position y in the Y direction where the centers of the pixel 3113 and the pixel 3114 exist is not y = 0 but y = −0.25.
[1752]
Therefore, the waveform of the approximate function f (x) at y = −0.25 is the shift amount C in the X direction from the waveform of the approximate function f (x) at y = 0._xCorresponds to the waveform moved by (-0.25).
[1753]
In other words, in the above-described equation (173), the pixel value M (3) for the pixel 3113 has an approximate function f (x) at y = 0 within a predetermined integration range (start position x_s3To end position x_e3The integration range is the start position x._s3= -0.5 to end position x_e3= 0, not the range up to 0 (the range that the pixel 3113 occupies in the X direction), but the range shown in FIG. 238, that is, the start position x_s3= -0.5 + C_xEnd position x from (-0.25)_e3= 0 + C_x(-0.25) (shift amount C_x(A range occupied by the pixel 3113 in the X direction when the pixel 3113 is temporarily moved by (−0.25)).
[1754]
  Similarly, in the above-described formula (174), the pixel value M (4) for the pixel 3114 has an approximate function f (x) at y = 0 in a predetermined integration range (start position x_s4To end position x_e4The integration range is the start position x._s4= 0 to end position x_e4= 0.5 (the range occupied by the pixel 3114 in the X direction itself), not the range shown in FIG. 238, that is, the start position x_s4= 0 + C_xEnd position from (-0.25)x _e4 = 0.5 + C_x(-0.25) (shift amount C_x(The range occupied in the X direction of the pixel 3114 when the pixel 3114 is temporarily moved by (−0.25)).
[1755]
Therefore, the image generation unit 102 (FIG. 236) substitutes the corresponding ones of the integration ranges described above for each of the above-described formulas (171) to (174), and calculates the results, respectively. The output pixel values M (1) to M (4) are output.
[1756]
As described above, the image generation unit 102 uses the one-dimensional reintegration method, and thus has a higher spatial resolution than the output pixel 3101 as the pixel in the output pixel 3101 (FIG. 237) from the sensor 2 (FIG. 236). Two pixels, namely pixels 3111 to 3114 (FIG. 238) can be created. Furthermore, although not illustrated, as described above, the image generation unit 102 changes not only the pixels 3111 to 3114 but also the pixels having an arbitrary magnification with respect to the output pixel 3101 by appropriately changing the integration range. You can create without deterioration.
[1757]
FIG. 239 shows a configuration example of the image generation unit 103 using such a one-dimensional reintegration method.
[1758]
As shown in FIG. 239, the image generation unit 103 in this example includes a condition setting unit 3121, a feature amount storage unit 3122, an integral component calculation unit 3123, and an output pixel value calculation unit 3124.
[1759]
The condition setting unit 3121 sets the order n of the approximate function f (x) based on the real world estimation information supplied from the real world estimation unit 102 (in the example of FIG. 239, the feature amount of the approximate function f (x)). To do.
[1760]
The condition setting unit 3121 also sets an integration range when the approximate function f (x) is reintegrated (when the output pixel value is calculated). Note that the integration range set by the condition setting unit 3121 does not have to be the pixel width. For example, since the approximate function f (x) is integrated in the spatial direction (X direction), the output pixel (image generation unit 103) with respect to the spatial size of each pixel of the input image from the sensor 2 (FIG. 236). If the relative size (the spatial resolution magnification) of the pixel to be calculated is known, a specific integration range can be determined. Therefore, the condition setting unit 3121 can set, for example, a spatial resolution magnification as the integration range.
[1761]
The feature quantity storage unit 3122 temporarily stores the feature quantities of the approximate function f (x) sequentially supplied from the real world estimation unit 102. When the feature amount storage unit 3122 stores all of the feature amounts of the approximate function f (x), the feature amount storage unit 3122 generates a feature amount table including all of the feature amounts of the approximate function f (x), and outputs it to the output pixel value calculation unit 3124. Supply.
[1762]
Incidentally, as described above, the image generation unit 103 calculates the output pixel value M using the above-described equation (169), and the approximation function f (x) included in the right side of the above-described equation (169) is Specifically, it is expressed as the following equation (175).
[1763]
[Expression 142]

... (175)
[1764]
In formula (175), w_iRepresents the feature quantity of the approximate function f (x) supplied from the real world estimation unit 102.
[1765]
Therefore, when the approximation function f (x) of the equation (175) is substituted for the approximation function f (x) on the right side of the above equation (169) and the right side of the equation (169) is expanded (calculated), an output pixel is obtained. The value M is expressed as the following equation (176).
[1766]
[Expression 143]

... (176)
[1767]
In equation (176), K_i(X_s, x_e) Represents the integral component of the i-th order term. That is, the integral component K_i(X_s, x_e) Is as shown by the following equation (177).
[1768]
[Expression 144]

... (177)
[1769]
The integral component calculation unit 3123 is configured to output the integral component K_i(X_s, x_e) Is calculated.
[1770]
Specifically, as shown by the equation (177), the integral component K_i(X_s, x_e) Is the start position of the integration range x_s, And end position x_e, Gain G_eAs long as i of the i-th term is known, the calculation is possible.
[1771]
Of these, gain G_eIs determined by the spatial resolution magnification (integration range) set by the condition setting unit 3121.
[1772]
The range of i is determined by the order n set by the condition setting unit 3121.
[1773]
Also, start position x of integration range_s, And end position x_eEach of which is the center pixel position (x, y) and pixel width of the output pixel to be generated, and the shift amount C indicating the direction of data continuity_xdetermined by (y). Note that (x, y) represents a relative position from the center position of the target pixel when the real world estimation unit 102 generates the approximate function f (x).
[1774]
Further, the center pixel position (x, y) and the pixel width of the output pixel to be generated are determined by the spatial resolution magnification (integration range) set by the condition setting unit 3121.
[1775]
Shift amount C_xSince (y) and the angle θ supplied from the data continuity detecting unit 101 have the following relationships (178) and (179), the shift amount C_x(y) is determined by the angle θ.
[1777]
[Expression 145]

... (178)
[1777]
146

... (179)
[1778]
In formula (178), G_fRepresents an inclination representing the direction of data continuity, and θ represents an angle (one direction in the spatial direction) which is one of data continuity information output from the data continuity detection unit 101 (FIG. 236). X direction and slope G_fThe angle formed with the direction of the stationarity of the data represented by Further, dx represents a minute movement amount in the X direction, and dy represents a minute movement amount in the Y direction (a spatial direction perpendicular to the X direction) with respect to dx.
[1777]
Accordingly, the integral component calculation unit 3123 is based on the order and the spatial resolution magnification (integration range) set by the condition setting unit 3121 and the angle θ among the data continuity information output from the data continuity detection unit 101. Integral component K_i(X_s, x_e) And the result of the calculation is supplied to the output pixel value calculation unit 3124 as an integral component table.
[1780]
The output pixel value calculation unit 3124 calculates the right side of the above equation (176) using the feature amount table supplied from the feature amount storage unit 3122 and the integration component table supplied from the integration component calculation unit 3123. The calculation result is output to the outside as an output pixel value M.
[1781]
Next, image generation processing (processing in step S103 in FIG. 40) of the image generation unit 103 (FIG. 239) using the one-dimensional reintegration method will be described with reference to the flowchart in FIG.
[1782]
For example, now, in the process of step S102 of FIG. 40 described above, the real world estimation unit 102 uses the pixel 3101 as shown in FIG. 237 described above as the target pixel, and the approximate function f (x ) Has already been generated.
[1783]
Further, it is assumed that the data continuity detecting unit 101 has already output the angle θ as shown in FIG. 237 as the data continuity information in the process of step S101 of FIG. 40 described above.
[1784]
In this case, in step S3101 of FIG. 240, the condition setting unit 3121 sets conditions (order and integration range).
[1785]
For example, suppose that 5 is set as the order and space quadruple density (spatial resolution magnification at which the pixel pitch width is halved both vertically and horizontally) is set as the integration range.
[1786]
That is, in this case, as shown in FIG. 238, a range of −0.5 to 0.5 in the X direction and a range of −0.5 to 0.5 in the Y direction (range of the pixel 3101 in FIG. 237). In addition, it is set to newly create four pixels 3111 to 3114.
[1787]
In step S3102, the feature amount storage unit 3122 acquires the feature amount of the approximate function f (x) supplied from the real world estimation unit 102, and generates a feature amount table. In this case, the coefficient w of the approximate function f (x) which is a fifth order polynomial₀Thru w_FiveIs supplied from the real world estimation unit 102, so that (w₀, w₁, w₂, w_Three, w_Four, w_Five) Is generated.
[1788]
In step S <b> 3103, the integral component calculation unit 3123 performs integration based on the conditions (order and integration range) set by the condition setting unit 3121 and the data continuity information (angle θ) supplied from the data continuity detection unit 101. Calculate components and generate an integral component table.
[1789]
Specifically, for example, if each of the pixels 3111 to 3114 to be generated is given numbers (such numbers are hereinafter referred to as mode numbers) 1 to 4, integration is performed. The component calculation unit 3123 calculates the integral component K of the above-described equation (177)._i(X_s, x_e) Is an integral component K indicated by the left side of the following equation (180)_iIt is calculated as a function of l (l represents a mode number) such as (l).
[1790]
K_i(l) = K_i(X_s, x_e(180)
[1791]
Specifically, in this case, the integral component K shown by the following equation (181)_i(l) is calculated.
[1792]
[Expression 147]

... (181)
[1793]
In equation (181), the left side is the integral component K._i(l), the right side is the integral component K_i(X_s, x_e). That is, in this case, l is any one of 1 to 4, and i is any one of 0 to 5, so that 6 K_i(1), 6 K_i(2), 6 K_i(3), 6 K_iA total of 24 K in (4)_i(l) is calculated.
[1794]
More specifically, first, the integral component calculation unit 3123 uses the angle θ supplied from the data continuity detection unit 101 to determine the shift amount C from Equation (178) and Equation (179) described above._x(-0.25), and C_xCalculate each of (0.25).
[1795]
Next, the integral component calculation unit 3123 calculates the calculated shift amount C._x(-0.25), and C_xUsing (0.25), the integral component K on the right side of each of the four formulas in formula (181)_i(X_s, x_e) Is calculated for i = 0 to 5, respectively. This integral component K_i(X_s, x_eIn the calculation of), the above-described equation (177) is used.
[1796]
Then, the integral component calculation unit 3123 calculates the 24 integral components K calculated according to the equation (181)._i(X_s, x_e) For each corresponding integral component K_iconverted to (l), and the 24 integrated components K converted_i(l) (ie 6 K_i(1), 6 K_i(2), 6 K_i(3), and 6 K_iAn integral component table including (4)) is generated.
[1797]
Note that the order of the processing in step S3102 and the processing in step S3103 is not limited to the example in FIG. 240, and the processing in step S3103 may be executed first, or the processing in step S3102 and the processing in step S3103 are executed simultaneously. May be.
[1798]
Next, in step S3104, the output pixel value calculation unit 3124 displays the feature amount table generated by the feature amount storage unit 3122 in the process of step S3102 and the integration component generated by the integration component calculation unit 3123 in the process of step S3103. Each of the output pixel values M (1) to M (4) is calculated based on the table.
[1799]
Specifically, in this case, the output pixel value calculation unit 3124 calculates the right side of the following Expressions (182) to (185) corresponding to the Expression (176) described above, thereby calculating the pixel 3111 (mode Pixel value M (1) of pixel No. 1, pixel value M (2) of pixel 3112 (pixel of mode number 2), pixel value M (3) of pixel 3113 (pixel of mode number 3), and pixel 3114 Each pixel value M (4) of (the pixel of mode number 4) is calculated.
[1800]
[Formula 148]

... (182)
[1801]
149

... (183)
[1802]
[Expression 150]

... (184)
[1803]
[Formula 151]

... (185)
[1804]
In step S3105, the output pixel value calculation unit 3124 determines whether or not processing for all pixels has been completed.
[1805]
If it is determined in step S3105 that the processing for all pixels has not been completed yet, the processing returns to step S3102 and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S3102 to S3104 are repeated.
[1806]
When the processing for all pixels is completed (when it is determined in step S3105 that the processing for all pixels has been completed), the output pixel value calculation unit 3124 outputs an image in step S3106. Thereafter, the image generation process ends.
[1807]
Next, referring to FIGS. 241 to 248, an output image obtained by applying the one-dimensional reintegration method and another method (conventional class classification adaptive processing) are applied to a predetermined input image. Differences in the output images obtained in this way will be described.
[1808]
FIG. 241 is a diagram showing an original image of the input image, and FIG. 242 shows image data corresponding to the original image of FIG. In FIG. 242, the vertical axis in the figure indicates the pixel value, the lower right axis in the figure indicates the X direction, which is one direction in the spatial direction of the image, and the upper right axis in the figure indicates the image. The Y direction which is another direction in the spatial direction is shown. Each of the axes shown in FIGS. 244, 246, and 248 described later corresponds to the axis shown in FIG.
[1809]
FIG. 243 is a diagram illustrating an example of the input image. The input image shown in FIG. 243 is an image generated by using an average value of pixel values belonging to a block composed of 2 × 2 pixels in the image shown in FIG. 241 as a pixel value of one pixel. That is, the input image is an image obtained by applying spatial integration that simulates the integration characteristics of the sensor to the image shown in FIG. FIG. 244 shows image data corresponding to the input image of FIG.
[1810]
The original image shown in FIG. 241 includes a thin line image that is inclined approximately 5 degrees clockwise from the vertical direction. Similarly, the input image shown in FIG. 243 includes a thin line image inclined approximately 5 degrees clockwise from the vertical direction.
[1811]
FIG. 245 is a diagram showing an image obtained by applying the conventional class classification adaptation process to the input image shown in FIG. 243 (hereinafter, the image shown in FIG. 245 is referred to as a conventional image). FIG. 246 shows image data corresponding to a conventional image.
[1812]
The class classification adaptation process includes a class classification process and an adaptation process. The class classification process classifies data based on its property, and performs an adaptation process for each class. In the adaptive processing, for example, a low-quality image or a standard-quality image is mapped (mapped) using a predetermined tap coefficient to be converted into a high-quality image.
[1813]
FIG. 247 is an image obtained by applying the one-dimensional reintegration method to which the present invention is applied to the input image shown in FIG. 243 (hereinafter, the image shown in FIG. 247 is referred to as the image of the present invention). FIG. FIG. 248 shows image data corresponding to the image of the present invention.
[1814]
When comparing the conventional image of FIG. 245 with the image of the present invention of FIG. 247, in the conventional image, the thin line image is different from the original image of FIG. In the image of the present invention, it can be seen that the fine line image is substantially the same as the original image in FIG.
[1815]
This difference is that the conventional classification adaptation processing is a method that performs processing based on the input image of FIG. 243 as a reference (origin), whereas the one-dimensional reintegration method of the present invention reduces the continuity of thin lines. In consideration, the original image in FIG. 241 is estimated (approximate function f (x) corresponding to the original image is generated), and processing is performed using the estimated original image as a reference (origin) (reintegration is performed). This is because the pixel value is calculated.
[1816]
As described above, in the one-dimensional reintegration method, the approximate function f (x) that is a one-dimensional polynomial generated by the one-dimensional polynomial approximation method (the approximate function f (x) of the real-world X-section waveform F (x) )) As a reference (origin), an output image (pixel value) is generated by integrating the approximate function f (x) into an arbitrary range.
[1817]
Therefore, in the one-dimensional reintegration method, it is possible to output an image closer to the original image (the optical signal of the real world 1 before being incident on the sensor 2) compared to other conventional methods.
[1818]
In other words, in the one-dimensional reintegration method, the data continuity detection unit 101 in FIG. 236 projects the optical signal of the real world 1 by a plurality of detection elements of the sensor 2 each having a spatiotemporal integration effect. The continuity of data in an input image composed of a plurality of pixels having pixel values projected by a detection element, in which a part of the continuity of one optical signal is missing, is detected, and the real world estimation unit 102 is detected Corresponding to the continuity of data, it is assumed that the pixel value of the pixel corresponding to the position in the one-dimensional direction in the spatio-temporal direction of the input image is the pixel value acquired by the integration effect in the one-dimensional direction. The optical signal function F representing the optical signal 1 (specifically, the X cross-sectional waveform F (x)) is approximated by a predetermined approximate function f (x) to estimate the optical signal function F. Is assumed.
[1819]
Specifically, for example, the pixel value of each pixel corresponding to the distance along the one-dimensional direction from the line corresponding to the continuity of the detected data is the pixel value acquired by the integration effect in the one-dimensional direction. Assuming that the X-section waveform F (x) is approximated by an approximate function f (x).
[1820]
In the one-dimensional reintegration method, based on such a premise, for example, the image generation unit 103 in FIG. 236 (FIG. 3) performs an X cross-sectional waveform F (x) estimated by the real world estimation unit 102, That is, by integrating the approximate function f (x) in a desired unit in the one-dimensional direction, a pixel value M corresponding to a pixel having a desired size is generated and output as an output image.
[1821]
Therefore, in the one-dimensional reintegration method, it is possible to output an image closer to the original image (the optical signal of the real world 1 before being incident on the sensor 2) compared to other conventional methods.
[1822]
In the one-dimensional reintegration method, since the integration range is arbitrary as described above, it is possible to create a resolution (temporal resolution or spatial resolution) different from the resolution of the input image by changing the integration range. It becomes possible. That is, it is possible to generate an image having a resolution of an arbitrary magnification as well as an integer value with respect to the resolution of the input image.
[1823]
Furthermore, in the one-dimensional reintegration method, it is possible to calculate an output image (pixel value) with a smaller amount of calculation processing than in other reintegration methods.
[1824]
Next, the two-dimensional reintegration method will be described with reference to FIGS. 249 to 255.
[1825]
In the two-dimensional reintegration method, it is assumed that the approximate function f (x, y) has already been generated by the two-dimensional polynomial approximation method.
[1826]
That is, for example, as shown in FIG._FA waveform obtained by projecting the image function F (x, y, t) representing the optical signal of the real world 1 (FIG. 236) having spatial continuity expressed in the spatial direction (X direction and Y direction), that is, The waveform F (x, y) on the XY plane is assumed to be approximated by an approximate function f (x, y), which is an n-order (n is an arbitrary integer) polynomial.
[1827]
In FIG. 249, in the figure, the horizontal direction represents the X direction, which is one of the spatial directions, the upper right direction represents the Y direction, which is the other direction of the spatial direction, and the vertical direction represents the light level. . G_FRepresents the slope of continuity in the spatial direction.
[1828]
In the example of FIG. 249, since the stationary direction is the spatial direction (X direction and Y direction), the projection function of the optical signal to be approximated is the function F (x, y). However, as will be described later, the function F (x, t) or the function F (y, t) may be approximated according to the direction of stationarity.
[1829]
In the case of the example in FIG. 249, in the two-dimensional reintegration method, the output pixel value M is calculated as in the following equation (186).
[1830]
[Formula 152]

... (186)
[1831]
In formula (186), y_sRepresents the integration start position in the Y direction, and y_eRepresents the integration end position in the Y direction. Similarly, x_sRepresents the integration start position in the X direction, and x_eRepresents the integration end position in the X direction. G_eRepresents a predetermined gain.
[1832]
In the equation (186), the integration range can be arbitrarily set. Therefore, in the two-dimensional reintegration method, the pixel of the input image from the original pixel (sensor 2 (FIG. 236)) can be changed by appropriately changing the integration range. It is possible to create a pixel having a spatial resolution of an arbitrary magnification without deterioration.
[1833]
FIG. 250 illustrates a configuration example of the image generation unit 103 that uses the two-dimensional reintegration method.
[1834]
As shown in FIG. 250, the image generation unit 103 of this example includes a condition setting unit 3201, a feature amount storage unit 3202, an integral component calculation unit 3203, and an output pixel value calculation unit 3204.
[1835]
The condition setting unit 3201 calculates the approximation function f (x, y) based on the real world estimation information supplied from the real world estimation unit 102 (in the example of FIG. 250, the feature quantity of the approximation function f (x, y)). Set the order n.
[1836]
The condition setting unit 3201 also sets an integration range when re-integrating the approximate function f (x, y) (when calculating the output pixel value). Note that the integration range set by the condition setting unit 3201 need not be the vertical width or horizontal width of the pixel. For example, since the approximate function f (x, y) is integrated in the spatial direction (X direction and Y direction), the output pixel (image generation unit 103) with respect to the spatial size of each pixel of the input image from the sensor 2. If the relative size (the pixel of the pixel to be generated) (the magnification of the spatial resolution) is known, the specific integration range can be determined. Accordingly, the condition setting unit 3201 can also set, for example, a spatial resolution magnification as the integration range.
[1837]
The feature amount storage unit 3202 temporarily stores the feature amounts of the approximate functions f (x, y) sequentially supplied from the real world estimation unit 102. When the feature quantity storage unit 3202 stores all of the feature quantities of the approximate function f (x, y), the feature quantity storage unit 3202 generates a feature quantity table including all the feature quantities of the approximate function f (x, y), and outputs pixel values. This is supplied to the arithmetic unit 3204.
[1838]
Here, details of the approximate function f (x, y) will be described.
[1839]
For example, the gradient G as shown in FIG._FThe optical signal of the real world 1 (FIG. 236) having the continuity in the spatial direction represented by (the optical signal represented by the waveform F (x, y)) is detected by the sensor 2 (FIG. 236) and input image It is assumed that it is output as (pixel value).
[1840]
Further, for example, as shown in FIG. 251, the data continuity detecting unit 101 (FIG. 3) has a total of 20 pixels of 4 pixels in the X direction and 5 pixels in the Y direction. The process is performed on an input image region 3221 composed of pixels (20 squares represented by dotted lines in the figure), and an angle θ (inclination G) is provided as one piece of data continuity information._FTilt G corresponding to_fIs output as an angle θ) between the direction of the continuity of the data represented by X and the X direction.
[1841]
When viewed from the real world estimation unit 102, the data continuity detection unit 101 only needs to output the angle θ at the pixel of interest, and the processing range of the data continuity detection unit 101 is the above-described input image region 3221. It is not limited to.
[1842]
In the input image region 3221, the horizontal direction in the figure represents the X direction, which is one direction in the spatial direction, and the vertical direction in the figure represents the Y direction, which is the other direction in the spatial direction.
[1843]
Further, in FIG. 251, the second pixel from the left and the third pixel from the bottom is the target pixel, and the (x, y) coordinates are set so that the center of the target pixel is the origin (0,0). System is set. Then, a straight line with an angle θ passing through the origin (0,0) (inclination G representing the direction of data continuity)_fX 'is a relative distance in the X direction (hereinafter referred to as a cross-sectional direction distance).
[1844]
Further, in FIG. 251, the graph on the right side shows an image function F (x, y, t) in which the position x, y, and z in the three-dimensional space and the time t are variables as arbitrary positions in the Y direction. y is a function that approximates a one-dimensional waveform projected in the X direction (hereinafter, this waveform is referred to as an X cross-sectional waveform F (x ′)), and is an n-th order (n is an arbitrary integer) ) Represents an approximate function f (x ′). Of the axes of the graph on the right side, the horizontal axis in the figure represents the cross-sectional direction distance, and the vertical axis in the figure represents the pixel value.
[1845]
In this case, the approximate function f (x ′) shown in FIG. 251 is an n-th order polynomial, and is expressed as the following equation (187).
[1846]
[Expression 153]

... (187)
[1847]
Further, since the angle θ is determined, the straight line of the angle θ passing through the origin (0, 0) is uniquely determined, and the position x in the X direction of the straight line at an arbitrary position y in the Y direction._lIs expressed as the following equation (188). However, in Formula (188), s represents cotθ.
[1848]
x_l  = S × y (188)
[1849]
That is, as shown in FIG._fThe point on the straight line corresponding to the stationarity of the data represented by_l, y).
[1850]
From the equation (188), the cross-sectional direction distance x ′ is expressed as the following equation (189).
[1851]
x '= x−x_l  = X−s × y (189)
[1852]
Therefore, the approximate function f (x, y) at an arbitrary position (x, y) in the area 3221 of the input image is expressed by the following equation (190) from the equations (187) and (189). .
[1853]
[Expression 154]

... (190)
[1854]
In formula (190), w_iRepresents the feature quantity of the approximate function f (x, y).
[1855]
Returning to FIG. 250, the feature value w included in the equation (190)._iIs supplied from the real world estimation unit 102 and stored in the feature amount storage unit 3202. The feature amount storage unit 3202 stores the feature amount w represented by the formula (190)._iIf you remember all of the features w_iIs generated and supplied to the output pixel value calculation unit 3204.
[1856]
Further, the approximation function f (x, y) of the equation (190) is substituted into the approximation function f (x, y) of the right side of the above equation (186), and the right side of the equation (186) is expanded (calculated). Then, the output pixel value M is expressed as the following equation (191).
[1857]
[Expression 155]

... (191)
[1858]
In formula (191), K_i(X_s, x_e, y_s, y_e) Represents the integral component of the i-th order term. That is, the integral component K_i(X_s, x_e, y_s, y_e) Is as shown in the following equation (192).
[1859]
156

... (192)
[1860]
The integral component calculation unit 3203 provides the integral component K_i(X_s, x_e, y_s, y_e) Is calculated.
[1861]
Specifically, as shown in the equations (191) and (192), the integral component K_i(X_s, x_e, y_s, y_e) Is the start position x in the X direction of the integration range_s, And end position x in the X direction_e, Start position y of integration range in Y direction_s, And end position y in the Y direction_e, Variable s, gain G_eAs long as i of the i-th term is known, the calculation is possible.
[1862]
Of these, gain G_eIs determined by the spatial resolution magnification (integration range) set by the condition setting unit 3201.
[1863]
The range of i is determined by the order n set by the condition setting unit 3201.
[1864]
Since the variable s is cot θ as described above, it is determined by the angle θ output from the data continuity detecting unit 101.
[1865]
Also, the start position x in the X direction of the integration range_s, And end position x in the X direction_eAnd the start position y in the Y direction of the integration range_s, And end position y in the Y direction_eAre determined by the center pixel position (x, y) and the pixel width of the output pixel to be generated. Note that (x, y) represents a relative position from the center position of the target pixel when the real world estimation unit 102 generates the approximate function f (x).
[1866]
Further, the center pixel position (x, y) and the pixel width of the output pixel to be generated are determined by the spatial resolution magnification (integration range) set by the condition setting unit 3201.
[1867]
Therefore, the integral component calculation unit 3203 is based on the order and the spatial resolution magnification (integration range) set by the condition setting unit 3201 and the angle θ among the data continuity information output from the data continuity detection unit 101. Integral component K_i(X_s, x_e, y_s, y_e) And supplies the calculation result to the output pixel value calculation unit 3204 as an integral component table.
[1868]
The output pixel value calculation unit 3204 calculates the right side of the above-described equation (191) using the feature amount table supplied from the feature amount storage unit 3202 and the integration component table supplied from the integration component calculation unit 3203. The calculation result is output to the outside as an output pixel value M.
[1869]
Next, an image generation process (the process in step S103 in FIG. 40) of the image generation unit 103 (FIG. 251) using the two-dimensional reintegration method will be described with reference to the flowchart in FIG.
[1870]
For example, now, an optical signal represented by the function F (x, y) shown in FIG. 249 is incident on the sensor 2 and becomes an input image. Suppose that an approximate function f (x, y) that approximates the function F (x, y) has already been generated using one pixel 3231 as shown in FIG. 253 in the input image as the target pixel. .
[1871]
Note that in FIG. 253, the pixel value (input pixel value) of the pixel 3231 is P, and the shape of the pixel 3231 is a square with one side length. Of the spatial directions, a direction parallel to one side of the pixel 3231 is an X direction, and a direction perpendicular to the X direction is a Y direction. Further, a coordinate system (hereinafter referred to as a pixel-of-interest coordinate system) in a spatial direction (X direction and Y direction) in which the center of the pixel 3231 is the origin is set.
[1872]
In FIG. 253, the data continuity detecting unit 101 sets the pixel 3231 as the target pixel and the gradient G in the process of step S101 of FIG._fAssume that the angle θ has already been output as data continuity information corresponding to the continuity of the data represented by
[1873]
Returning to FIG. 252, in this case, in step S3201, the condition setting unit 3201 sets conditions (order and integration range).
[1874]
For example, suppose that 5 is set as the order and space quadruple density (spatial resolution magnification at which the pixel pitch width is halved both vertically and horizontally) is set as the integration range.
[1875]
That is, in this case, as shown in FIG. 254, a range of −0.5 to 0.5 in the X direction and a range of −0.5 to 0.5 in the Y direction (range of the pixel 3231 in FIG. 253). In addition, four pixels 3241 to 3244 are newly created. In FIG. 254, the same pixel-of-interest coordinate system as that in FIG. 253 is shown.
[1876]
In FIG. 254, M (1) is the pixel value of the pixel 3241 to be generated, M (2) is the pixel value of the pixel 3242 to be generated, and M (3) is to be generated from now. M (4) represents the pixel value of the pixel 3243, and M (4) represents the pixel value of the pixel 3241 to be generated.
[1877]
Returning to FIG. 252, in step S3202, the feature amount storage unit 3202 acquires the feature amount of the approximate function f (x, y) supplied from the real world estimation unit 102, and generates a feature amount table. In this case, the coefficient w of the approximate function f (x) which is a fifth order polynomial₀Thru w_FiveIs supplied from the real world estimation unit 102, so that (w₀, w₁, w₂, w_Three, w_Four, w_Five) Is generated.
[1878]
In step S3203, the integral component calculation unit 3203 performs integration based on the conditions (order and integration range) set by the condition setting unit 3201 and the data continuity information (angle θ) supplied from the data continuity detection unit 101. Calculate components and generate an integral component table.
[1879]
Specifically, for example, it is assumed that numbers 1 to 4 are assigned to the pixels 3241 to 3244 to be generated from now on (hereinafter, such numbers are referred to as mode numbers). The integral component calculation unit 3203 calculates the integral component K of the above-described equation (191)._i(X_s, x_e, y_s, y_e) Is an integral component K indicated by the left side of the following equation (193)_iIt is calculated as a function of l (l represents a mode number) such as (l).
[1880]
K_i(l) = K_i(X_s, x_e, y_s, y_e(193)
[1881]
Specifically, in this case, the integral component K shown by the following equation (194)_i(l) is calculated.
[1882]
[Expression 157]

... (194)
[1883]
In equation (194), the left side is the integral component K_i(l), the right side is the integral component K_i(X_s, x_e, y_s, y_e). That is, in this case, l is any one of 1 to 4, and i is any one of 0 to 5, so that 6 K_i(1), 6 K_i(2), 6 K_i(3), 6 K_iA total of 24 K in (4)_i(l) is calculated.
[1884]
More specifically, first, the integral component calculation unit 3203 calculates the variable s (s = cot θ) of the above-described equation (188) using the angle θ supplied from the data continuity detection unit 101.
[1858]
Next, the integral component calculation unit 3203 uses the calculated variable s to calculate the integral component K on the right side of each of the four formulas of Formula (194)._i(X_s, x_e, y_s, y_e) Is calculated for i = 0 to 5, respectively. This integral component K_i(X_s, x_e, y_s, y_eIn the calculation of), the above-described equation (191) is used.
[1886]
Then, the integral component calculation unit 3203 calculates the 24 integral components K calculated according to the equation (194)._i(X_s, x_e, y_s, y_e) For each corresponding integral component K_iconverted to (l), and the 24 integrated components K converted_i(l) (ie 6 K_i(1), 6 K_i(2), 6 K_i(3), and 6 K_iAn integral component table including (4)) is generated.
[1887]
Note that the order of the processing of step S3202 and the processing of step S3203 is not limited to the example of FIG. 252, the processing of step S3203 may be executed first, or the processing of step S3202 and the processing of step S3203 are executed simultaneously. May be.
[1888]
Next, in step S3204, the output pixel value calculation unit 3204 includes the feature amount table generated by the feature amount storage unit 3202 in the process of step S3202, and the integration component generated by the integration component calculation unit 3203 in the process of step S3203. Each of the output pixel values M (1) to M (4) is calculated based on the table.
[1889]
Specifically, in this case, the output pixel value calculation unit 3204 calculates each of the right sides of the following expressions (195) to (198) corresponding to the above-described expression (191), so that FIG. , Pixel value M (1) of pixel 3241 (pixel of mode number 1), pixel value M (2) of pixel 3242 (pixel of mode number 2), and pixel value of pixel 3243 (pixel of mode number 3) M (3) and the pixel value M (4) of the pixel 3244 (the pixel of mode number 4) are calculated.
[1890]
[Formula 158]

... (195)
[1891]
[Expression 159]

... (196)
[1892]
[Expression 160]

... (197)
[1893]
[Formula 161]

... (198)
[1894]
However, in this case, all of n in the formulas (195) to (198) are 5.
[1895]
In step S3205, the output pixel value calculation unit 3204 determines whether or not processing for all pixels has been completed.
[1896]
If it is determined in step S3205 that the processing for all the pixels has not been completed yet, the processing returns to step S3202, and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S3202 to S3204 are repeated.
[1897]
When the processing for all pixels is completed (when it is determined in step S3205 that the processing for all pixels has been completed), the output pixel value calculation unit 3204 outputs an image in step S3206. Thereafter, the image generation process ends.
[1898]
Thus, by using the two-dimensional reintegration method, four pixels having a spatial resolution higher than that of the input pixel 3231 as pixels in the pixel 3231 (FIG. 253) of the input image from the sensor 2 (FIG. 236), that is, Pixel 3241 to pixel 3244 (FIG. 254) can be created. Further, although not illustrated, as described above, the image generation unit 103 changes not only the pixel 3241 to the pixel 3244 but also a pixel having a spatial resolution of an arbitrary magnification with respect to the input pixel 3231 by appropriately changing the integration range. You can create without deterioration.
[1899]
As described above, as an explanation of the two-dimensional reintegration method, the example in which the approximate function f (x, y) in the spatial direction (X direction and Y direction) is two-dimensionally integrated has been used. It can also be applied to (X direction and t direction, or Y direction and t direction).
[1900]
That is, in the above-described example, the optical signal in the real world 1 (FIG. 236) has a gradient G as shown in FIG._FTherefore, an expression including a two-dimensional integration in the spatial direction (X direction and Y direction) as shown in the above-described expression (186) is used. It was done. However, the concept of two-dimensional integration is not limited to the spatial direction, but can be applied to the spatiotemporal direction (X direction and t direction, or Y direction and t direction).
[1901]
In other words, in the two-dimensional polynomial approximation method that is the premise of the two-dimensional reintegration method, the image function F (x, y, t) representing the optical signal is not only stationary in the spatial direction but also in the spatio-temporal direction (however, , X-direction and t-direction, or Y-direction and t-direction) can be approximated by a two-dimensional polynomial.
[1902]
Specifically, for example, when there is an object moving horizontally at a constant speed in the X direction, the direction of the movement of the object is the slope V in the X-t plane as shown in FIG._FIt is expressed as In other words, slope V_FCan be said to represent the direction of continuity in the spatio-temporal direction in the X-t plane. Therefore, the data continuity detecting unit 101 (FIG. 236) performs the above-described angle θ (inclination G representing the continuity in the spatial direction on the XY plane)._FAs with the data continuity information corresponding to), the slope V representing the continuity in the spatio-temporal direction in the X-t plane_FAs the data continuity information corresponding to the motion θ as shown in FIG. 255 (strictly, although not shown, the slope V_FTilt V corresponding to_fIt is possible to output the motion θ), which is the angle formed by the direction of the stationarity of the data represented by the X direction in the spatial direction.
[1903]
In addition, the real world estimation unit 102 (FIG. 236) using the two-dimensional polynomial approximation method uses the approximate function f (x, It becomes possible to calculate the coefficient (feature value) wi of t). However, in this case, the expression used is not the expression (190) described above but the following expression (199).
[1904]
[Expression 162]

... (199)
[1905]
In equation (199), s is cot θ (where θ is a motion).
[1906]
Therefore, the image generation unit 103 (FIG. 236) using the two-dimensional reintegration method performs computation by substituting f (x, t) of the above equation (199) into the right side of the following equation (200). Thus, the pixel value M can be calculated.
[1907]
[Expression 163]

... (200)
[1908]
In formula (200), t_sRepresents the integration start position in the t direction, and t_eRepresents the integration end position in the t direction. Similarly, x_sRepresents the integration start position in the X direction, and x_eRepresents the integration end position in the X direction. G_eRepresents a predetermined gain.
[1909]
Further, instead of the spatial direction X, the approximate function f (y, t) focused on the spatial direction Y can be handled in the same manner as the above approximate function f (x, t).
[1910]
By the way, in the equation (199), it is possible to obtain data that is not integrated in the time direction, that is, data without motion blur, by regarding the t direction as constant, that is, by ignoring the integration in the t direction. become. In other words, this method may be regarded as one of the two-dimensional reintegration methods in that a predetermined one-dimensional of a two-dimensional polynomial is constant and reintegrated. May be regarded as one of the one-dimensional reintegration methods.
[1911]
Further, in the formula (200), the integration range can be arbitrarily set, so in the two-dimensional reintegration method, the input image from the original pixel (sensor 2 (FIG. 236) is changed by appropriately changing the integration range. It is possible to create a pixel having a resolution of an arbitrary magnification without deterioration.
[1912]
That is, in the two-dimensional reintegration method, it is possible to create a time resolution by appropriately changing the integration range in the time direction t. Also, spatial resolution can be created by appropriately changing the integration range in the spatial direction X (or spatial direction Y). Further, by appropriately changing each of the integration ranges in the time direction t and the spatial direction X, it is possible to create both temporal resolution and spatial resolution.
[1913]
As described above, one of the temporal resolution and the spatial resolution can be created by the one-dimensional reintegration method, but the creation of both resolutions is impossible in principle by the one-dimensional reintegration method. It becomes possible only by performing reintegration of two or more dimensions. That is, the creation of both resolutions is possible only with the two-dimensional reintegration method and the later-described three-dimensional reintegration method.
[1914]
Further, since the two-dimensional reintegration method considers the two-dimensional integration effect instead of the one-dimensional, it is possible to generate an image closer to the optical signal in the real world 1 (FIG. 236).
[1915]
In other words, in the two-dimensional reintegration method, for example, the data continuity detection unit 101 in FIG. 236 (FIG. 3) has a real-time 1 optical signal by a plurality of detection elements of the sensor 2 each having a spatiotemporal integration effect. Is projected, and the steadiness of the optical signal in the real world 1 (for example, the slope G in FIG._FIn the input image composed of a plurality of pixels having pixel values projected by the detection element (for example, the slope G in FIG. 251)._fIs detected).
[1916]
Then, for example, the real world estimation unit 102 in FIG. 236 (FIG. 3) corresponds to the data continuity detected by the data continuity detection unit 101, and at least a two-dimensional direction (in the spatiotemporal direction of image data) ( For example, an optical signal of the real world 1 is represented on the assumption that the pixel value of the pixel corresponding to the position in the spatial direction X and the spatial direction Y) in FIG. 249 is a pixel value acquired by at least the integration effect in the two-dimensional direction. It is assumed that the optical signal function F is estimated by approximating the optical signal function F (specifically, the function F (x, y) in FIG. 249) with an approximate function f (x, y) that is a polynomial. It is said that.
[1917]
More specifically, for example, the real world estimation unit 102 uses a line corresponding to the continuity of data detected by the data continuity detection unit 101 (for example, the slope G in FIG. 251)._fThe pixel value of the pixel corresponding to the distance (for example, the cross-sectional direction distance x ′ in FIG. 251) along at least the two-dimensional direction from the line (arrow) corresponding to is acquired by the integration effect in at least the two-dimensional direction. It is assumed that the first function is estimated by approximating the first function that represents the optical signal in the real world with the second function that is a polynomial, assuming that it is a pixel value.
[1918]
In the two-dimensional reintegration method, based on such a premise, for example, the image generation unit 103 in FIG. 236 (FIG. 3) (the configuration is FIG. 250) uses the function F ( x, y), that is, the approximate function f (x, y) is integrated at least in a desired unit in the two-dimensional direction (for example, the right side of the above equation (186) is calculated) to have a desired size. Pixel values corresponding to the pixels (for example, the output image (pixel value M) in FIG. 236. Specifically, for example, the pixels 3241 to 3244 in FIG. 254) are generated.
[1919]
Therefore, in the two-dimensional reintegration method, it is possible to create not only one of temporal resolution and spatial resolution, but also both resolutions. Further, in the two-dimensional reintegration method, it is possible to generate an image closer to the optical signal in the real world 1 (FIG. 236) compared to the one-dimensional reintegration method.
[1920]
Next, the three-dimensional reintegration method will be described with reference to FIGS. 256 and 257. FIG.
[1921]
In the three-dimensional reintegration method, it is assumed that the approximate function f (x, y, t) has already been generated by the three-dimensional function approximation method.
[1922]
In this case, in the three-dimensional reintegration method, the output pixel value M is calculated as in the following equation (201).
[1923]
[Expression 164]

... (201)
[1924]
In equation (201), t_sRepresents the integration start position in the t direction, and t_eRepresents the integration end position in the t direction. Similarly, y_sRepresents the integration start position in the Y direction, and y_eRepresents the integration end position in the Y direction. X_sRepresents the integration start position in the X direction, and x_eRepresents the integration end position in the X direction. In addition, G_eRepresents a predetermined gain.
[1925]
In the equation (201), the integration range can be arbitrarily set. Therefore, in the three-dimensional reintegration method, the pixel of the input image from the original pixel (sensor 2 (FIG. 236)) can be changed by appropriately changing the integration range. It is possible to create pixels with a spatiotemporal resolution at an arbitrary magnification without deterioration. That is, if the integration range in the spatial direction is reduced, the pixel pitch can be freely reduced. Conversely, if the integration range in the spatial direction is increased, the pixel pitch can be freely increased. If the integration range in the time direction is reduced, a time resolution can be created based on the real world waveform.
[1926]
FIG. 256 illustrates a configuration example of the image generation unit 103 that uses a three-dimensional reintegration method.
[1927]
As shown in FIG. 256, the image generation unit 103 in this example includes a condition setting unit 3301, a feature amount storage unit 3302, an integral component calculation unit 3303, and an output pixel value calculation unit 3304.
[1928]
The condition setting unit 3301 is based on the real world estimation information supplied from the real world estimation unit 102 (in the example of FIG. 256, the feature amount of the approximate function f (x, y, t)). , t) is set to order n.
[1929]
The condition setting unit 3301 also sets an integration range when re-integrating the approximate function f (x, y, t) (when calculating the output pixel value). Note that the integration range set by the condition setting unit 3301 need not be the pixel width (vertical width and horizontal width) or the shutter time itself. For example, the relative size (spatial resolution magnification) of the output pixel (the pixel that the image generation unit 103 will generate from now) relative to the spatial size of each pixel of the input image from the sensor 2 (FIG. 236) is determined. For example, it is possible to determine a specific integration range in the spatial direction. Similarly, if the relative time (time resolution magnification) of the output pixel value with respect to the shutter time of the sensor 2 (FIG. 236) is known, the specific integration range in the time direction can be determined. Therefore, the condition setting unit 3301 can also set, for example, a spatial resolution magnification or a time resolution magnification as the integration range.
[1930]
The feature amount storage unit 3302 temporarily stores the feature amounts of the approximate functions f (x, y, t) sequentially supplied from the real world estimation unit 102. When the feature quantity storage unit 3302 stores all the feature quantities of the approximate function f (x, y, t), the feature quantity storage unit 3302 generates a feature quantity table including all the feature quantities of the approximate function f (x, y, t). To the output pixel value calculation unit 3304.
[1931]
By the way, when the right side of the approximation function f (x, y) on the right side of the above equation (201) is expanded (calculated), the output pixel value M is expressed as the following equation (202).
[1932]
165

... (202)
[1933]
In equation (202), K_i(X_s, x_e, y_s, y_e, t_s, t_e) Represents the integral component of the i-th order term. Where x_sIs the start position of the integration range in the X direction, x_eIs the end position of the integration range in the X direction, y_sIs the start position of the integration range in the Y direction, y_eIs the end position of the integration range in the Y direction, t_sIs the start position of the integration range in the t direction, t_eRepresents the end position of the integration range in the t direction.
[1934]
The integral component calculation unit 3303 is configured so that the integral component K_i(X_s, x_e, y_s, y_e, t_s, t_e) Is calculated.
[1935]
Specifically, the integral component calculation unit 3303 includes the order set by the condition setting unit 3301, the integration range (spatial resolution magnification and time resolution magnification), and the data continuity information output from the data continuity detection unit 101. Integral component K based on angle θ or motion θ_i(X_s, x_e, y_s, y_e, t_s, t_e) And the result of the calculation is supplied to the output pixel value calculation unit 3304 as an integral component table.
[1936]
The output pixel value calculation unit 3304 calculates the right side of the above-described equation (202) using the feature amount table supplied from the feature amount storage unit 3302 and the integration component table supplied from the integration component calculation unit 3303. The calculation result is output to the outside as an output pixel value M.
[1937]
Next, image generation processing (processing in step S103 in FIG. 40) of the image generation unit 103 (FIG. 256) using the three-dimensional reintegration method will be described with reference to the flowchart in FIG. 257.
[1938]
For example, now, in the process of step S102 of FIG. 40 described above, the real world estimation unit 102 (FIG. 236) uses the predetermined pixel of the input image as the target pixel, and the optical signal of the real world 1 (FIG. 236). Assume that an approximation function f (x, y, t) that approximates has already been generated.
[1939]
40, the data continuity detecting unit 101 (FIG. 236) uses the same pixel as that of the real world estimating unit 102 as the pixel of interest and sets the angle θ or motion θ as data continuity information. Assume that it has already been output.
[1940]
In this case, in step S3301 in FIG. 257, the condition setting unit 3301 sets conditions (order and integration range).
[1941]
In step S3302, the feature quantity storage unit 3302 receives the feature quantity w of the approximate function f (x, y, t) supplied from the real world estimation unit 102._iAnd a feature amount table is generated.
[1942]
In step S3303, the integral component calculation unit 3303 uses the conditions (order and integration range) set by the condition setting unit 3301 and the data continuity information (angle θ or motion θ) supplied from the data continuity detection unit 101. Based on this, an integral component is calculated to generate an integral component table.
[1943]
Note that the order of the processing of step S3302 and the processing of step S3303 is not limited to the example of FIG. 257, the processing of step S3303 may be executed first, or the processing of step S3302 and the processing of step S3303 are executed simultaneously. May be.
[1944]
Next, in step S3304, the output pixel value calculation unit 3304 includes the feature amount table generated by the feature amount storage unit 3302 in the process of step S3302 and the integration component generated by the integration component calculation unit 3303 in the process of step S3303. Each output pixel value is calculated based on the table.
[1945]
In step S3305, the output pixel value calculation unit 3304 determines whether or not processing for all pixels has been completed.
[1946]
If it is determined in step S3305 that the processing for all the pixels has not been completed yet, the processing returns to step S3302, and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S3302 to S3304 are repeated.
[1947]
When the processing for all pixels is completed (when it is determined in step S3305 that the processing for all pixels has been completed), the output pixel value calculation unit 3304 outputs an image in step S3306. Thereafter, the image generation process ends.
[1948]
As described above, in the above-described equation (201), the integration range can be arbitrarily set. Therefore, in the three-dimensional reintegration method, the integration range is appropriately changed to appropriately change the original pixel (sensor 2 (FIG. 236). It is possible to create a pixel having a resolution of an arbitrary magnification with respect to the pixel of the input image from
[1949]
That is, in the three-dimensional reintegration method, it is possible to create time resolution by appropriately changing the integration range in the time direction. Also, spatial resolution can be created by appropriately changing the integration range in the spatial direction. Furthermore, it is possible to create both temporal resolution and spatial resolution by appropriately changing each of the integration ranges in the temporal direction and the spatial direction.
[1950]
Specifically, in the three-dimensional reintegration method, since there is no approximation when dropping to two dimensions or one dimension, highly accurate processing is possible. In addition, it is possible to process the movement in the oblique direction without degenerating in two dimensions. Furthermore, since it is not reduced to two dimensions, each dimension can be processed. For example, in the two-dimensional reintegration method, if the image is degenerated in the spatial direction (X direction and Y direction), processing in the t direction, which is the time direction, cannot be performed. On the other hand, in the three-dimensional reintegration method, any processing in the spatio-temporal direction is possible.
[1951]
As described above, one of the temporal resolution and the spatial resolution can be created by the one-dimensional reintegration method, but the creation of both resolutions is impossible in principle by the one-dimensional reintegration method. It becomes possible only by performing reintegration of two or more dimensions. That is, the creation of both resolutions is possible only with the above-described two-dimensional reintegration method and three-dimensional reintegration method.
[1952]
In addition, since the three-dimensional reintegration method considers the three-dimensional integration effect instead of one-dimensional or two-dimensional, it is possible to generate an image closer to the optical signal in the real world 1 (FIG. 236). .
[1953]
In other words, in the three-dimensional reintegration-like method, for example, the real world estimation unit 102 in FIG. 236 (FIG. 3) uses the plurality of detection elements of the sensor 2 each having a spatio-temporal integration effect to Of the input image composed of a plurality of pixels having pixel values projected by the detection element, in which a part of the constancy of the optical signal in the real world 1 is missing, is projected in at least one dimensional direction By approximating the optical signal function F representing the optical signal in the real world with a predetermined approximation function f, assuming that the pixel value of the pixel corresponding to is at least a pixel value acquired by the integration effect in the one-dimensional direction, It is assumed that the signal function F is estimated.
[1954]
Further, for example, when the data continuity detection unit 101 in FIG. 236 (FIG. 3) detects the continuity of the data of the input image, the real world estimation unit 102 determines the data detected by the data continuity detection unit 101. Corresponding to the stationarity, it is assumed that the pixel value of the pixel corresponding to the position in at least one-dimensional direction in the spatio-temporal direction of the image data is the pixel value acquired by the integration effect in at least one-dimensional direction. It is assumed that the optical signal function F is estimated by approximating F with the approximate function f.
[1955]
Specifically, for example, the real world estimation unit 102 has at least a pixel value of a pixel corresponding to a distance along at least a one-dimensional direction from a line corresponding to the continuity of data detected by the continuity detection unit 101. It is assumed that the optical signal function is estimated by approximating the optical signal function F with an approximate function, assuming that the pixel value is obtained by an integration effect in a one-dimensional direction.
[1956]
In the three-dimensional reintegration method, for example, the image generation unit 103 (configuration is FIG. 256) in FIG. 236 (FIG. 256) uses the optical signal function F estimated by the real world estimation unit 102, that is, the approximate function f. Then, integration is performed in a desired unit in at least a one-dimensional direction (for example, the right side of Equation (201) described above is calculated) to generate a pixel value corresponding to a pixel having a desired size.
[1957]
Therefore, the three-dimensional reintegration method can generate an image closer to the optical signal in the real world 1 (FIG. 236) than the conventional image generation method and the one-dimensional or two-dimensional reintegration method described above. It becomes possible.
[1958]
Next, referring to FIG. 258, the real world estimation information input from the real world estimation unit 102 is a differential value of each pixel on an approximation function f (x) that approximately represents the real world, or In the case of the inclination information, the image generation unit 103 that newly generates a pixel based on the differential value or inclination of each pixel and outputs an image will be described.
[1959]
Here, the differential value is obtained by obtaining an approximate function f (x) that approximately represents the real world, and then obtaining a first-order differential expression f (x) ′ (approximate function) obtained from the approximate function f (x). Is a value obtained at a predetermined position using a first-order differential expression f (t) ′) obtained from the approximate function f (t). In addition, the slope here refers to the approximation function f (x) obtained directly from the pixel values of the surrounding pixels at a predetermined position without obtaining the above approximation function f (x) (or f (t)). The inclination of the predetermined position is shown. However, since the differential value is an inclination at a predetermined position of the approximate function f (x), both are inclinations at a predetermined position on the approximate function f (x) that approximately describes the real world. Therefore, with regard to the differential value and the slope as the real world estimation information input from the real world estimation unit 102, in the description of the image generation unit 103 in FIG. 258 and FIG. 262, the approximation function f (x) is unified. This is referred to as an inclination on (or f (t)).
[1960]
The inclination acquisition unit 3401 has information on the inclination of each pixel, the pixel value of the corresponding pixel, and the steady state of the approximate function f (x) that approximately represents the real world input from the real world estimation unit 102. The inclination of the sex direction is acquired and output to the extrapolation interpolation unit 3402.
[1961]
The extrapolation interpolation unit 3402 extrapolates based on the gradient on the approximate function f (x) of each pixel input from the gradient acquisition unit 3401, the pixel value of the corresponding pixel, and the gradient in the direction of continuity. By interpolation, high-density pixels having a predetermined magnification than the input image are generated and output as an output image.
[1962]
Next, image generation processing by the image generation unit 103 in FIG. 258 will be described with reference to the flowchart in FIG. 259.
[1963]
In step S3401, the inclination acquisition unit 3401 receives the inclination (differential value), position, pixel value, and continuity direction on the approximate function f (x) of each pixel input from the real world estimation unit 102. Information about the tilt is acquired as real world estimation information.
[1964]
At this time, for example, when generating an image composed of pixels having a density twice (totally four times) in the spatial direction X and the spatial direction Y with respect to the input image, the real world estimation unit 102 determines that FIG. , The inclination f (Xin) ′ (inclination at the center position of the pixel Pin), f (Xin−Cx (−0.25)) ′ (a pixel having a double density in the Y direction from the pixel Pin) ), F (Xin−Cx (0.25)) ′ (slope of the center position of the pixel Pb when a double-density pixel is generated in the Y direction from the pixel Pin) ), The position of the pixel Pin, the pixel value, and the gradient G of the stationary direction_fIs entered.
[1965]
In step S3402, the inclination acquisition unit 3401 selects information on the corresponding target pixel from the input real world estimation information, and outputs the selected information to the extrapolation interpolation unit 3402.
[1966]
In step S3403, the extrapolation interpolation unit 3402 receives the input pixel position information and the gradient G of the continuity direction._fThe shift amount is obtained from
[1967]
Here, the shift amount Cx (ty) has a steadiness gradient of G_fCx (ty) = ty / G_fDefined by This shift amount Cx (ty) indicates the deviation width of the approximate function f (x) defined on the position of the spatial direction Y = 0 with respect to the spatial direction X at the position of the spatial direction Y = ty. Therefore, for example, when the approximate function is defined as f (x) on the position of the spatial direction Y = 0, this approximate function f (x) is Cx ( Since the function is shifted by ty), the approximate function is f (x−Cx (ty)) (= f (x−ty / G_f)).
[1968]
For example, in the case of a pixel Pin as shown in FIG. 260, one pixel in the figure (the size of one pixel in the figure is assumed to be 1 in both the horizontal direction and the vertical direction) is 2 in the vertical direction. When dividing (when generating double-density pixels in the vertical direction), the extrapolation interpolation unit 3402 obtains shift amounts of the pixels Pa and Pb to be obtained. That is, in this case, since the pixels Pa and Pb are shifted by −0.25 and 0.25, respectively, in the spatial direction Y as viewed from the pixel Pin, the shift amounts of the pixels Pa and Pb are Cx (−0.25), Cx (0.25). In FIG. 260, the pixel Pin is a square having (Xin, Yin) as the approximate center of gravity, and the pixels Pa and Pb are approximately (Xin, Yin + 0.25) and (Xin, Yin−0.25), respectively. The center of gravity is a rectangle that is long in the horizontal direction in the figure.
[1969]
In step S3404, the extrapolation interpolation unit 3402 includes the shift amount Cx obtained in the process of step S3403 and the gradient f (on the target pixel on the approximate function f (x) of the pixel Pin acquired as real world estimation information. Based on the pixel value of Xin) ′ and the pixel Pin, the pixel values of the pixels Pa and Pb are obtained by extrapolation using the following equations (203) and (204).
[1970]

[1971]

[1972]
In the above equations (203) and (204), Pa, Pb, and Pin indicate pixel values of the pixels Pa, Pb, and Pin.
[1973]
That is, as shown in FIG. 261, the change amount of the pixel value is set by multiplying the gradient f (Xin) ′ in the target pixel Pin by the movement distance in the X direction, that is, the shift amount, and the pixel value of the target pixel is set. Is used as a reference to set a pixel value of a newly generated pixel.
[1974]
In step S3405, the extrapolation interpolation unit 3402 determines whether a pixel having a predetermined resolution is obtained. For example, if the predetermined resolution is a pixel having twice the density in the vertical direction with respect to the pixels of the input image, the extrapolation interpolation unit 3402 determines that an image of the predetermined resolution has been obtained by the above processing. However, for example, when a pixel having a density four times as high as that of the pixel of the input image (twice in the horizontal direction × twice in the vertical direction) is desired, the above processing is performed with a predetermined resolution. This means that no pixel is obtained. Therefore, when an image with a density four times as high as desired, the extrapolation interpolation unit 3402 determines that a pixel with a predetermined resolution has not been obtained, and the process returns to step S3403.
[1975]
In step S3403, the extrapolation interpolation unit 3402 tries to generate the pixels P01, P02, P03, and P04 to be obtained (pixels having a density four times the pixel of interest Pin) in the second process. Each shift amount from the center position of the pixel is obtained. That is, in this case, since the pixels P01 and P02 are obtained from the pixel Pa, the shift amounts from the pixel Pa are respectively obtained. Here, since the pixels P01 and P02 are shifted by −0.25 and 0.25, respectively, in the spatial direction X as viewed from the pixel Pa, the values themselves become shift amounts (because they are shifted in the spatial direction X). Similarly, since the pixels P03 and P04 are shifted by −0.25 and 0.25 in the spatial direction X as viewed from the pixel Pb, the values themselves become the shift amounts. In FIG. 260, pixels P01, P02, P03, and P04 are squares with the positions of the four crosses in the figure as the center of gravity, and the length of each side is 1 for each pixel Pin. Therefore, the pixels P01, P02, P03, and P04 are approximately 0.5, respectively.
[1976]
In step S3404, the extrapolation interpolation unit 3402 includes the shift amount Cx obtained in the process of step S3403 and the inclination at a predetermined position on the approximate function f (x) of the pixels Pa and Pb obtained as real world estimation information. Based on f (Xin−Cx (−0.25)) ′, f (Xin−Cx (0.25)) ′ and the pixel values of the pixels Pa and Pb obtained by the above processing, the following expression is obtained by extrapolation. The pixel values of the pixels P01, P02, P03, and P04 are obtained by (205) to Expression (208) and stored in a memory (not shown).
[1977]

[1978]

[1979]

[1980]

[1981]
In the above equations (205) to (208), P01 to P04 indicate the pixel values of the pixels P01 to P04.
[1982]
In step S3405, the extrapolation interpolation unit 3402 determines whether or not a pixel with a predetermined resolution has been obtained. In this case, a pixel having a density four times as high as desired is obtained. The extrapolation interpolation unit 3402 determines that a pixel with a predetermined resolution has been obtained, and the process proceeds to step S3406.
[1983]
In step S3406, the inclination acquisition unit 3401 determines whether or not processing has been performed on all pixels. If it is determined that processing has not yet been performed on all pixels, the processing returns to step S3402, The subsequent processing is repeated.
[1984]
In step S3406, if the inclination acquisition unit 3401 determines that all pixels have been processed, in step S3407, the extrapolation interpolation unit 3402 stores the generated pixel image stored in a memory (not shown). Is output.
[1985]
That is, as shown in FIG. 261, a new pixel is used according to the distance away from the target pixel for which the inclination is obtained using the inclination f (x) ′ on the approximation function f (x). Are obtained by extrapolation.
[1986]
In the above example, the gradient (differential value) when calculating a quadruple density pixel has been described as an example. However, if information on the gradient at more positions can be obtained as real-world estimation information. It is also possible to calculate pixels having a higher density in the spatial direction by the same method as described above.
[1987]
Further, in the above example, the example of obtaining the double-density pixel value has been described. However, since the approximate function f (x) is a continuous function, a necessary gradient (differential value) is also required for pixel values other than the double density. If this information is obtained, it is possible to generate an image composed of pixels with higher density.
[1988]
According to the above, based on the information of the slope (or differential value) f (x) ′ of the approximation function f (x) that approximates the real world of each pixel of the input image supplied as real world estimation information in the spatial direction. Thus, it is possible to generate pixels of an image having a higher resolution than the input image.
[1989]
Next, referring to FIG. 262, each pixel on the function f (t) in the frame direction (time direction) in which the real world estimation information input from the real world estimation unit 102 approximately represents the real world. The image generation unit 103 that newly generates a pixel based on the differential value or inclination of each pixel and outputs an image will be described.
[1990]
The inclination acquisition unit 3411 has information on the inclination at the position of each pixel, the pixel value of the corresponding pixel on the approximation function f (t) that approximately represents the real world input from the real world estimation unit 102, and The stationary motion is acquired and output to the extrapolation interpolation unit 3412.
[1991]
The extrapolation interpolation unit 3412 performs extrapolation interpolation based on the gradient on the approximate function f (t) of each pixel input from the gradient acquisition unit 3411, the pixel value of the corresponding pixel, and the stationary motion. Then, high-density pixels with a predetermined magnification than the input image are generated and output as an output image.
[1992]
Next, image generation processing by the image generation unit 103 in FIG. 262 will be described with reference to the flowchart in FIG. 263.
[1993]
In step S3421, the inclination acquisition unit 3411 receives the inclination (differential value), position, pixel value, and stationary motion of the approximate function f (t) of each pixel input from the real world estimation unit 102. Information is acquired as real world estimated information.
[1994]
At this time, for example, when generating an image composed of pixels having a density twice (totally four times) in the spatial direction and in the frame direction with respect to the input image, the real world estimation unit 102 shows that in FIG. In this case, the slope f (Tin) ′ (the slope at the center position of the pixel Pin), f (Tin−Ct (−0.25)) ′ (a pixel having a double density in the Y direction is generated from the pixel Pin. The inclination of the center position of the pixel Pat when the pixel Pbt is generated), f (Tin−Ct (0.25)) ′ (the inclination of the center position of the pixel Pbt when a double-density pixel is generated in the Y direction from the pixel Pin), Information on the position, pixel value, and stationary motion (motion vector) of the pixel Pin is input.
[1995]
In step S 3422, the inclination acquisition unit 3411 selects corresponding pixel information of interest from the input real world estimation information, and outputs the selected information to the extrapolation interpolation unit 3412.
[1996]
In step S3423, the extrapolation interpolation unit 3412 obtains a shift amount from the input position information of the pixel and the gradient in the continuity direction.
[1997]
Here, the shift amount Ct (ty) has a stationary motion (inclination with respect to a plane composed of a frame direction and a spatial direction) of V._f, Ct (ty) = ty / V_fDefined by This shift amount Ct (ty) indicates the shift width of the approximate function f (t) defined on the position in the spatial direction Y = 0 with respect to the frame direction T at the position in the spatial direction Y = ty. Therefore, for example, when the approximate function is defined as f (t) on the position of the spatial direction Y = 0, the approximate function f (t) is Ct ( The approximate function is f (t−Ct (ty)) (= f (t−ty / V_f)).
[1998]
For example, in the case of the pixel Pin as shown in FIG. 264, one pixel in the figure (the size of one pixel in the figure is 1 in both the frame direction and the spatial direction) is 2 in the spatial direction. When dividing (when generating double-density pixels in the spatial direction), the extrapolation interpolation unit 3412 obtains the shift amounts of the pixels Pat and Pbt to be obtained. In other words, in this case, since the pixels Pat and Pbt are shifted by −0.25 and 0.25, respectively, in the spatial direction Y as viewed from the pixel Pin, the shift amounts of the pixels Pat and Pbt are Ct (−0.25), Ct (0.25). In FIG. 264, the pixel Pin is a square having (Xin, Yin) as the approximate center of gravity, and the pixels Pat and Pbt are approximately (Xin, Yin + 0.25) and (Xin, Yin−0.25), respectively. The center of gravity is a rectangle that is long in the horizontal direction in the figure.
[1999]
In step S3424, the extrapolation interpolation unit 3412 calculates the shift amount obtained in the process of step S3423, the gradient f (Tin on the target pixel on the approximate function f (t) of the pixel Pin acquired as the real world estimation information. ) ′ And the pixel values of the pixels Pin and Pbt are obtained by the following equations (209) and (210) by extrapolation based on the pixel value of the pixel Pin.
[2000]

[2001]

[2002]
In the above equations (209) and (210), Pat, Pbt, and Pin indicate pixel values of the pixels Pat, Pbt, and Pin.
[2003]
That is, as shown in FIG. 265, the change amount of the pixel value is set by multiplying the gradient f (Xin) ′ in the target pixel Pin by the movement distance in the X direction, that is, the shift amount, and the pixel value of the target pixel Is used as a reference to set a pixel value of a newly generated pixel.
[2004]
In step S3425, the extrapolation interpolation unit 3412 determines whether a pixel having a predetermined resolution is obtained. For example, if the predetermined resolution is a pixel having twice the density in the spatial direction with respect to the pixels of the input image, the extrapolation interpolation unit 3402 determines that an image of the predetermined resolution has been obtained by the above processing. However, for example, when a pixel having a density four times as high as the pixel of the input image (twice in the frame direction × twice in the spatial direction) is desired, the above processing is performed with a predetermined resolution. This means that no pixel is obtained. Therefore, when an image with a density four times as high as desired, the extrapolation interpolation unit 3412 determines that a pixel with a predetermined resolution has not been obtained, and the process returns to step S3423.
[2005]
In step S3423, the extrapolation interpolation unit 3412 attempts to generate pixels P01t, P02t, P03t, and P04t to be obtained (pixels having a density four times the pixel of interest Pin) in the second process. Each shift amount from the center position of the pixel is obtained. That is, in this case, since the pixels P01t and P02t are obtained from the pixel Pat, the shift amounts from the pixel Pat are respectively obtained. Here, since the pixels P01t and 02t are shifted by −0.25 and 0.25, respectively, in the frame direction T as viewed from the pixel Pat, the values themselves become shift amounts (because they are shifted in the spatial direction X). Similarly, since the pixels P03t and P04t are shifted by −0.25 and 0.25, respectively, in the frame direction T as viewed from the pixel Pbt, the values themselves become the shift amounts. In FIG. 264, the pixels P01t, P02t, P03t, and P04t are squares with the positions of the four crosses in the figure as the center of gravity, and the length of each side is 1 for the pixel Pin. Therefore, the pixels P01t, P02t, P03t, and P04t are each approximately 0.5.
[2006]
In step S3424, the extrapolation interpolation unit 3412 obtains the shift amount Ct obtained in the process of step S3423, the inclination at a predetermined position on the approximate function f (t) of the pixels Pat and Pbt obtained as real world estimation information. Based on f (Tin−Ct (−0.25)) ′, f (Tin−Ct (0.25)) ′, and the pixel values of the pixels Pat and Pbt obtained by the above processing, the following expression is obtained by extrapolation. The pixel values of the pixels P01t, P02t, P03t, and P04t are obtained from (211) to (214) and stored in a memory (not shown).
[2007]

[2008]

[2009]

[2010]

[2011]
In the above formulas (205) to (208), P01t to P04t indicate the pixel values of the pixels P01t to P04t.
[2012]
In step S3425, the extrapolation interpolation unit 3412 determines whether or not a pixel with a predetermined resolution has been obtained. In this case, a pixel having a desired quadruple density has been obtained. The interpolation unit 3412 determines that a pixel with a predetermined resolution has been obtained, and the process proceeds to step S3426.
[2013]
In step S3426, the inclination acquisition unit 3411 determines whether or not processing has been performed for all pixels. If it is determined that processing has not been performed for all pixels, the processing returns to step S3422, and The subsequent processing is repeated.
[2014]
In step S3426, when it is determined that the processing has been performed on all the pixels, in step S3427, the extrapolation interpolation unit 3412 includes generated pixels stored in a memory (not shown). Output an image.
[2015]
That is, as shown in FIG. 265, a new value is added according to the number of frames away from the target pixel for which the inclination is obtained using the inclination f (t) ′ on the approximation function f (t). The pixel value of the pixel is obtained by extrapolation interpolation.
[2016]
In the above example, the gradient (differential value) when calculating a quadruple density pixel has been described as an example. However, if information on the gradient at more positions can be obtained as real-world estimation information. It is also possible to calculate pixels having a higher density in the frame direction by the same method as described above.
[2017]
Moreover, although the example which calculates | requires the pixel value of double density has been demonstrated about the above example, since approximate function f (t) is a continuous function, it is also necessary gradient (differential value) also about pixel values other than double density. If this information is obtained, it is possible to generate an image composed of pixels with higher density.
[2018]
Based on the above processing, based on information on the slope (or differential value) f (t) 'of the approximate function f (t) that approximates the real world of each pixel of the input image supplied as real world estimation information in the frame direction Thus, it is possible to generate pixels of an image having a higher resolution than the input image in the frame direction.
[2019]
According to the above, a real-world optical signal is projected by a plurality of detection elements of the sensor, each having a spatiotemporal integration effect, and a part of the continuity of the real-world optical signal is lost, and is projected by a detection element The continuity of the data in the image data composed of a plurality of pixels having pixel values is detected, and corresponding to the detected continuity, the pixel of interest in the image data is shifted in the one-dimensional direction in the spatiotemporal direction The inclination of the pixel values of a plurality of pixels at the position is estimated as a function corresponding to the optical signal in the real world, and the straight line having the inclination around the position shifted in the one-dimensional direction from the center position of the target pixel is within the target pixel. Since the values at both ends arranged in are generated as pixel values of pixels having higher resolution than the target pixel, it is possible to generate pixels having higher resolution in the spatio-temporal direction than the input image.
[2020]
Next, still another example of the embodiment of the image generation unit 103 (FIG. 3) will be described with reference to FIGS. 266 to 291.
[2021]
FIG. 266 shows a configuration example of the image generation unit 103 to which the embodiment of this example is applied.
[2022]
The image generation unit 103 shown in FIG. 266 includes a class classification adaptation processing unit 3501 that executes conventional class classification adaptation processing, and a class classification that executes correction processing (details of the processing will be described later) for the class classification adaptation processing. An addition unit that adds the image output from the adaptive processing correction unit 3502 and the class classification adaptive processing unit 3501 and the image output from the class classification adaptive processing correction unit 3502 and outputs the added image to the outside as an output image 3503 is provided.
[2023]
Hereinafter, an image output from the class classification adaptive processing unit 3501 is referred to as a predicted image, and an image output from the class classification adaptive processing correction unit 3502 is referred to as a corrected image or a difference predicted image. However, the origin of the names of the prediction image and the difference prediction image will be described later.
[2024]
In the embodiment of this example, it is assumed that the class classification adaptation process is, for example, a process for improving the spatial resolution of the input image. That is, it is assumed that the processing is to convert an input image that is a standard resolution image into a predicted image that is a high resolution image.
[2025]
Hereinafter, the standard resolution image is referred to as an SD (Standard Definition) image as appropriate. Further, the pixels constituting the SD image are appropriately referred to as SD pixels.
[2026]
On the other hand, hereinafter, a high-resolution image is appropriately referred to as an HD (High Definition) image. Further, the pixels constituting the HD image are appropriately referred to as HD pixels.
[2027]
Specifically, in the embodiment of this example, the class classification adaptive processing is the following processing.
[2028]
That is, first, in order to obtain the HD pixel of the predicted image (HD image) in the target pixel (SD pixel) of the input image (SD image), the SD pixel (hereinafter referred to as the following) including the target pixel is included. Such SD pixels are referred to as class taps), and each of the feature quantities is determined, and a class previously classified for each feature quantity is specified (a class code of a class tap group is specified).
[2029]
And each coefficient which comprises the coefficient group corresponding to the specified class code among the plurality of preset coefficient groups (each coefficient group corresponds to one predetermined class code) The product sum using the neighboring SD pixels including the target pixel (hereinafter, such SD pixels of the input image are referred to as prediction taps. Note that the prediction tap may be the same as the class tap). By executing the calculation, the HD pixel of the predicted image (HD image) in the target pixel (SD pixel) of the input image (SD image) is obtained.
[2030]
Therefore, in the embodiment of this example, the input image (SD image) is subjected to the conventional class classification adaptation processing in the class classification adaptation processing unit 3501 to become a predicted image (HD image), and further, the addition unit 3503 The predicted image is corrected with the corrected image from the class classification adaptive processing correction unit 3502 (added with the corrected image) to become an output image (HD image).
[2031]
That is, it can be said that the embodiment of this example is one embodiment of the image generation unit 103 in the image processing apparatus (FIG. 3) that performs processing using continuity from the viewpoint of continuity. On the other hand, from the viewpoint of the class classification adaptive process, the data continuity is corrected in order to correct the class classification adaptive process for the conventional image processing apparatus including the sensor 2 and the class classification adaptive processing unit 3501. It can also be said that this is an embodiment of an image processing apparatus to which a detection unit 101, a real world estimation unit 102, a class classification adaptive processing correction unit 3502, and an addition unit 3503 are further added.
[2032]
Therefore, hereinafter, the embodiment of this example is referred to as a class classification adaptive processing correction method with respect to the reintegration method described above.
[2033]
The image generation unit 103 that uses the class classification adaptive processing correction method will be described in more detail.
[2034]
In FIG. 266, when a signal of the real world 1 (light intensity distribution), which is an image, enters the sensor 2, an input image is output from the sensor 2. This input image is input to the data continuity detecting unit 101 and also to the class classification adaptive processing unit 3501 of the image generating unit 103.
[2035]
The class classification adaptation processing unit 3501 performs a conventional class classification adaptation process on the input image to generate a predicted image, and outputs the prediction image to the addition unit 3503.
[2036]
As described above, the class classification adaptive processing unit 3501 uses the input image (image data) from the sensor 2 as a reference and the input image itself as a processing target. That is, although the input image from the sensor 2 is different (distorted) from the signal of the real world 1 due to the integration effect described above, the classification adaptation processing unit 3501 does not Processing is performed with an input image different from the signal as positive.
[2037]
As a result, the input image (SD image) in which the details of the real world 1 are destroyed at the stage of output from the sensor 2 is not completely restored even if it is converted to an HD image by the classification adaptation process. The problem that there is a thing occurs.
[2038]
Therefore, in order to solve this problem, in the class classification adaptive processing correction method, the class classification adaptive processing correction unit 3502 of the image generation unit 103 is not an input image from the sensor 2 but before entering the sensor 2. Based on information (real world estimation information) for estimating the original image (real world 1 signal having a predetermined stationarity), the real world estimation information is output from the class classification adaptive processing unit 3501 as a processing target. A corrected image for correcting the predicted image is generated.
[2039]
This real world estimation information is generated by the data continuity detection unit 101 and the real world estimation unit 102.
[2040]
That is, the data continuity detecting unit 101 detects the continuity of data included in the input image from the sensor 2 (data continuity corresponding to the continuity of the signal of the real world 1 incident on the sensor 2). The detection result is output to the real world estimation unit 102 as data continuity information.
[2041]
The data continuity information is an angle in the example of FIG. 266, but is not limited to the angle, and various information described above can be used.
[2042]
The real world estimation unit 102 generates real world estimation information based on the input angle (data continuity information), and outputs it to the class classification adaptive processing correction unit 3502 of the image generation unit 103.
[2043]
The real world estimation information is a feature amount image (details will be described later) in the example of FIG. 266, but is not limited to the feature amount image, and various information described above can be used.
[2044]
The class classification adaptive processing correction unit 3502 generates a corrected image based on the input feature amount image (real world estimation information), and outputs the corrected image to the addition unit 3503.
[2045]
The adding unit 3503 adds the predicted image output from the class classification adaptive processing unit 3501 and the corrected image output from the class classification adaptive processing correction unit 3502, and outputs the added image (HD image) as an output image to the outside. To do.
[2046]
The output image output in this way is an image closer to the real world 1 signal (image) than the predicted image. That is, the class classification adaptive processing correction method is a method capable of solving the above-described problems.
[2047]
Furthermore, by configuring the signal processing device (image processing device) 4 as shown in FIG. 266, it becomes possible to apply processing to one frame as a whole. That is, in a signal processing device (for example, FIG. 292 described later) that uses a combination method described later, it is necessary to generate an output image after specifying a pixel region, but the signal processing device 4 in FIG. This makes it possible to produce an effect that it is not necessary to specify this region.
[2048]
Next, details of the class classification adaptation processing unit 3501 in the image generation unit 103 will be described.
[2049]
FIG. 267 shows a configuration example of the class classification adaptation processing unit 3501.
[2050]
In FIG. 267, the input image (SD image) input from the sensor 2 is supplied to the region extraction unit 3511 and the region extraction unit 3515, respectively. The region extraction unit 3511 extracts class taps (SD pixels existing in a preset position including a target pixel (SD pixel)) necessary for performing class classification from the supplied input image, and a pattern detection unit Output to 3512. The pattern detection unit 3512 detects the pattern of the input image based on the input class tap.
[2051]
The class code determination unit 3513 determines a class code based on the pattern detected by the pattern detection unit 3512 and outputs the class code to the coefficient memory 3514 and the region extraction unit 3515. The coefficient memory 3514 stores a coefficient for each class code obtained in advance by learning, reads a coefficient corresponding to the class code input from the class code determination unit 3513, and outputs the coefficient to the prediction calculation unit 3516.
[2052]
The coefficient learning process in the coefficient memory 3514 will be described later with reference to the block diagram of the class classification adaptive process learning unit in FIG.
[2053]
The coefficient stored in the coefficient memory 3514 is a coefficient used when generating a predicted image (HD image), as will be described later. Therefore, hereinafter, the coefficient stored in the coefficient memory 3514 is referred to as a prediction coefficient in order to distinguish it from other coefficients.
[2054]
Based on the class code input from the class code determination unit 3513, the region extraction unit 3515 performs prediction necessary for predicting and generating a predicted image (HD image) from the input image (SD image) input from the sensor 2. A tap (an SD pixel existing at a preset position including the target pixel) is extracted corresponding to the class code, and is output to the prediction calculation unit 3516.
[2055]
The prediction calculation unit 3516 performs a product-sum calculation using the prediction tap input from the region extraction unit 3515 and the prediction coefficient input from the coefficient memory 3514, and the target pixel (SD pixel) of the input image (SD image). ) Of the predicted image (HD image) in FIG.
[2056]
More specifically, the coefficient memory 3514 outputs a prediction coefficient corresponding to the class code supplied from the class code determination unit 3513 to the prediction calculation unit 3516. The prediction calculation unit 3516 uses the prediction tap extracted from the pixel value at a predetermined pixel position of the input image supplied from the region extraction unit 3515 and the prediction coefficient supplied from the coefficient memory 3514, and uses the following formula ( 215) is performed to obtain (predict and estimate) HD pixels of the predicted image (HD image).
[2057]
166

... (215)
[2058]
In Expression (215), q ′ represents an HD pixel of the predicted image (HD image). c_iEach (i is an integer value from 1 to n) represents each prediction tap (SD pixel). D_iEach represents a prediction coefficient.
[2059]
As described above, the class classification adaptive processing unit 3501 predicts and estimates the HD image corresponding to the SD image (input image). Therefore, here, the HD image output from the class classification adaptive processing unit 3501 is referred to as a predicted image. It is called.
[2060]
FIG. 268 shows a prediction coefficient (d in Expression (215)) stored in the coefficient memory 3514 of such a class classification adaptive processing unit 3501._i) Represents a learning device (prediction coefficient calculation device).
[2061]
In the class classification adaptive processing correction method, in addition to the coefficient memory 3514, a coefficient memory (a correction coefficient memory 3554 shown in FIG. 276 described later) of the class classification adaptive processing correction unit 3502 is provided. Therefore, as shown in FIG. 268, the learning apparatus 3504 in the class classification adaptive processing method has a prediction coefficient (d in the equation (215) stored in the coefficient memory 3514 of the class classification adaptive processing unit 3501._i) In addition to a learning unit 3521 (hereinafter referred to as a class classification adaptive processing learning unit 3521) for determining, a learning for determining a coefficient stored in the correction coefficient memory 3554 of the class classification adaptive processing correction unit 3502 A unit 3561 (hereinafter referred to as a class classification adaptive processing correction learning unit 3561) is provided.
[2062]
Accordingly, hereinafter, the teacher image in the class classification adaptive processing learning unit 3521 is referred to as a first teacher image, whereas the teacher image in the class classification adaptive processing correction learning unit 3561 is referred to as a second teacher image. Similarly, a student image in the class classification adaptive processing learning unit 3521 is hereinafter referred to as a first student image, whereas a student image in the class classification adaptive processing correction learning unit 3561 is referred to as a second student image.
[2063]
The class classification adaptive processing correction learning unit 3561 will be described later.
[2064]
FIG. 269 illustrates a detailed configuration example of the class classification adaptive processing learning unit 3521.
[2065]
In FIG. 269, a predetermined image is input as a first teacher image (HD image) to each of the down-converter 3531 and the normal equation generator 3536, and the class classification adaptive processing correction learning unit 3561 (FIG. 268). Is input.
[2066]
The down-converter 3531 generates a first student image (SD image) having a resolution lower than that of the first teacher image from the input first teacher image (HD image) (down the first teacher image). The converted image is used as the first student image), and is output to each of the region extraction unit 3532, the region extraction unit 3535, and the class classification adaptive processing correction learning unit 3561 (FIG. 268).
[2067]
Thus, since the class classification adaptive processing learning unit 3521 is provided with the down-conversion unit 3531, the first teacher image (HD image) is obtained from the input image from the sensor 2 (FIG. 266) described above. Need not be a high-resolution image. This is because if the first student image obtained by down-converting the first teacher image (reduced resolution) is an SD image, the first teacher image corresponding to the first student image is an HD image. is there. Therefore, the first teacher image may be the input image itself from the sensor 2, for example.
[2068]
The region extraction unit 3532 extracts class taps (SD pixels) necessary for class classification from the supplied first student image (SD image) and outputs the class taps (SD pixels) to the pattern detection unit 3533. The pattern detection unit 3533 detects the input class tap pattern and outputs the detection result to the class code determination unit 3534. Class code determination unit 3534 determines a class code corresponding to the input pattern, and outputs the class code to each of region extraction unit 3535 and normal equation generation unit 3536.
[2069]
The region extraction unit 3535 extracts a prediction tap (SD pixel) from the first student image (SD image) input from the down-conversion unit 3531 based on the class code input from the class code determination unit 3534, It outputs to each of the equation generation unit 3536 and the prediction calculation unit 3558.
[2070]
Note that each of the region extraction unit 3532, the pattern detection unit 3533, the class code determination unit 3534, and the region extraction unit 3535 described above includes the region extraction unit 3511, the pattern detection unit 3512, and the class of the class classification adaptive processing unit 3501 in FIG. Each of the code determination unit 3513 and the region extraction unit 3515 has basically the same configuration and function.
[2071]
The normal equation generation unit 3536, for all class codes input from the class code determination unit 3534, predicts taps of the first student image (SD image) input from the region extraction unit 3535 for each class code ( A normal equation is generated from the SD pixels) and the HD pixels of the first teacher image (HD image) and supplied to the coefficient determination unit 3537. When a normal equation corresponding to a predetermined class code is supplied from the normal equation generation unit 3537, the coefficient determination unit 3537 calculates each prediction coefficient from the normal equation, and stores it in the coefficient memory 3514 in association with the class code. And supply it to the prediction calculation unit 3538.
[2072]
The normal equation generation unit 3536 and the coefficient determination unit 3537 will be described in more detail.
[2073]
In the above equation (215), before learning, the prediction coefficient d_iEach is an undetermined coefficient. Learning is performed by inputting HD pixels of a plurality of teacher images (HD images) for each class code. There are m HD pixels corresponding to a predetermined class code, and each of the m HD pixels is represented by q_kWhen describing (k is an integer value of 1 to m), the following equation (216) is set from the equation (215).
[2074]
[Expression 167]

... (216)
[2075]
That is, the expression (216) can be obtained by calculating the right side to obtain a predetermined HD pixel q_kRepresents that it is possible to predict and estimate. In formula (216), e_kRepresents an error. That is, the HD pixel q of the predicted image (HD image) that is the calculation result on the right side_k'Is the actual HD pixel q_kDoes not exactly match the predetermined error e_kincluding.
[2076]
Therefore, in the equation (216), for example, the error e_kPrediction coefficient d that minimizes the sum of squares of_iHowever, it can be obtained by learning.
[2077]
Specifically, for example, the HD pixel q is set so that m> n._kCan be collected by learning, the prediction coefficient d is calculated by the method of least squares._iIs uniquely determined.
[2078]
That is, the prediction coefficient d on the right side of Equation (216)_iA normal equation in the case of obtaining the value by the method of least squares is expressed by the following equation (217).
[2079]
[Formula 168]

... (217)
[2080]
Therefore, when the normal equation represented by the equation (217) is generated, the prediction coefficient d is solved by solving the normal equation._iIs uniquely determined.
[2081]
Specifically, when each of the matrices of the normal equation represented by the equation (217) is defined as the following equations (218) to (220), the normal equation is represented by the following equation (221): expressed.
[2082]
[Expression 169]

... (218)
[2083]
[Expression 170]

... (219)
[2084]
[Equation 171]

... (220)
[2085]
172

... (221)
[2086]
As shown in equation (219), matrix D_MATEach component of_iIt is. Therefore, in the equation (221), the left side matrix C_MATAnd right-hand side matrix Q_MATIs determined, the matrix D is obtained by matrix solution._MAT(Ie, prediction coefficient d_i) Can be calculated.
[2087]
More specifically, as shown in the equation (218), the matrix C_MATEach component of the prediction tap c_ikIf is known, computation is possible. Prediction tap c_ikIs extracted by the region extraction unit 3535, the normal equation generation unit 3536 receives the prediction tap c supplied from the region extraction unit 3535._ikMatrix C using each of_MATEach component of can be calculated.
[2088]
Further, as shown in the equation (220), the matrix Q_MATEach component of the prediction tap c_ikAnd HD pixel q_kIf is known, computation is possible. Prediction tap c_ikIs the matrix C_MATAre the same as those included in each component of HD pixel q_kIs the prediction tap c_ikIs the HD pixel of the first teacher image with respect to the target pixel (SD pixel of the first student image) included in the. Therefore, the normal equation generation unit 3536 has the prediction tap c supplied from the region extraction unit 3535._ikAnd the matrix Q using the first teacher image_MATEach component of can be calculated.
[2089]
In this way, the normal equation generation unit 3536 generates a matrix C for each class code._MATAnd matrix Q_MATAre calculated and the calculation result is supplied to the coefficient determination unit 3537 in association with the class code.
[2090]
The coefficient determination unit 3537 is based on the normal equation corresponding to the supplied predetermined class code, and the matrix D of the above equation (221)._MATPrediction coefficient d which is each component of_iIs calculated.
[2091]
Specifically, the normal equation of the above equation (221) can be transformed as the following equation (222).
[2092]
[Equation 173]

... (222)
[2093]
In equation (222), the left side matrix D_MATEach component of_iIt is. Matrix C_MATAnd matrix Q_MATEach of the components is supplied from the normal equation generation unit 3536. Accordingly, the coefficient determination unit 3537 receives the matrix C corresponding to the predetermined class code from the normal equation generation unit 3536._MATAnd matrix Q_MATWhen the respective components are supplied, the matrix D is calculated by performing the matrix operation on the right side of the equation (222)._MATAnd the calculation result (prediction coefficient d_i) Is stored in the coefficient memory 3514 in association with the class code and supplied to the prediction calculation unit 3538.
[2094]
The prediction calculation unit 3538 performs a product-sum operation using the prediction tap input from the region extraction unit 3535 and the prediction coefficient determined by the coefficient determination unit 3537, and attention is paid to the first student image (SD image). An HD pixel of a predicted image (an image for predicting the first teacher image) in the pixel (SD pixel) is generated and output as a learning predicted image to the class classification adaptive processing correction learning unit 3561 (FIG. 268). .
[2095]
More specifically, the prediction calculation unit 3538 calculates the prediction tap extracted from the pixel value at the predetermined pixel position of the first student image supplied from the region extraction unit 3535, as c_i(I is an integer value from 1 to n), and the prediction coefficient supplied from the coefficient determination unit 3537 is d_iAs a result, the product-sum operation represented by the above equation (215) is executed to obtain the HD pixel q ′ of the learning predicted image (HD image) (predicting and estimating the first teacher image).
[2096]
Here, with reference to FIG. 270 to FIG. 275, the problem of the above-described conventional class classification adaptation processing (class classification adaptation processing unit 3501), that is, the real world 1 at the stage output from the sensor 2 in FIG. Even if the input image (SD image) in which the details of the image are crushed is converted into an HD image (predicted image for predicting the signal of the real world 1) by the class classification adaptive processing unit 3501, the original details are not completely restored. Explain the problem that there is.
[2097]
FIG. 270 shows an example of the processing result of the class classification adaptive processing unit 3501.
[2098]
In FIG. 270, an HD image 3541 is an image including an image of a thin line inclined approximately 5 degrees clockwise from the vertical direction in the figure. The SD image 3542 generates an average value of pixel values of pixels (HD pixels) belonging to a block composed of 2 × 2 pixels (HD pixels) of the HD image 3541 as a pixel value of one pixel (SD pixel). It is an image that was made. In other words, the SD image 3542 is an image obtained by down-converting the HD image 3541 (with reduced resolution).
[2099]
In other words, the HD image 3541 is an image imitating an image before entering the sensor 2 (FIG. 266) (a signal of the real world 1 (FIG. 266)). In this case, the SD image 3542 corresponds to an image obtained by applying, to the HD image 3541, integration in the spatial direction simulating the integration characteristics of the sensor 2. That is, the SD image 3542 is an image imitating an input image from the sensor 2.
[2100]
Further, the SD image 3542 is input to the class classification adaptation processing unit 3501 (FIG. 266), and the prediction image output from the class classification adaptation processing unit 3501 is the prediction image 3543. That is, the predicted image 3543 is an HD image (an image having the same resolution as the original HD image 3541) generated by the conventional classification adaptation process. However, the prediction coefficient (prediction coefficient stored in the coefficient memory 3514 (FIG. 267)) used by the class classification adaptive processing unit 3501 for the prediction calculation uses the HD image 3541 as the first teacher image and the SD image 3542 as the first image. One student image is a learning operation performed by the class classification adaptive processing learning unit 3561 (FIG. 269).
[2101]
Comparing each of the HD image 3541, the SD image 3542, and the predicted image 3543, it can be seen that the predicted image 3543 is closer to the HD image 3541 than the SD image 3542.
[2102]
As a result of the comparison, the class classification adaptation processing unit 3501 performs a conventional class classification adaptation process on the SD image 3542 in which the details of the HD image 3541 are crushed, thereby restoring the predicted image in which the original details are restored. This means that 3543 can be generated.
[2103]
However, when the predicted image 3543 and the HD image 3541 are compared, it is difficult to say that the predicted image 3543 is an image in which the HD image 3541 is completely restored.
[2104]
Therefore, in order to investigate the reason why the predicted image 3543 cannot completely restore the HD image 3541, the applicant of the present application uses the predetermined adder 3546 to add the HD image 3541 and the inverted input of the predicted image 3543. That is, a difference image 3544 between the HD image 3541 and the predicted image 3543 (an image having a pixel close to white when the pixel difference is large and a pixel close to black when the pixel difference is small) 3544 is generated.
[2105]
Similarly, the applicant of the present application uses a predetermined adder 3547 to add an HD image 3541 and an inverted image of the SD image 3542, that is, a difference image between the HD image 3541 and the SD image 3542 (a pixel difference is large). In this case, a pixel close to white and a pixel close to black when the pixel difference is small) 3545 is generated.
[2106]
The applicant of the present application obtained the following investigation result by comparing the difference image 3544 and the difference image 3545 thus generated.
[2107]
That is, a region with a large difference between the HD image 3541 and the SD image 3542 (region close to white in the difference image 3545) and a region with a large difference between the HD image 3541 and the predicted image 3543 (region close to white in the difference image 3544) are almost the same. It corresponds.
[2108]
In other words, the region in which the predicted image 3543 cannot completely restore the HD image 3541 is a region in the predicted image 3543 where the difference between the HD image 3541 and the SD image 3542 is large (region close to white in the difference image 3545). Almost matches.
[2109]
Therefore, in order to elucidate the cause of this survey result, the applicant of the present application further conducted the following survey.
[2110]
That is, the applicant of the present application firstly, in a region where the difference between the HD image 3541 and the predicted image 3543 is small (region close to black in the difference image 3544), the specific pixel value of the HD image 3541 and the specific image of the SD image 3542 The pixel value and the actual waveform (the real world 1 signal) corresponding to the HD image 3541 were investigated. The survey results are shown in FIGS. 271 and 272.
[2111]
FIG. 271 shows an example of the investigated area. In FIG. 271, the horizontal direction in the figure is the X direction, which is one direction in the spatial direction, and the vertical direction is the Y direction, which is the other direction in the spatial direction.
[2112]
That is, the applicant of the present application investigated a region 3544-1 of the difference image 3544 shown in FIG. 271 as an example of a region having a small difference between the HD image 3541 and the predicted image 3543.
[2113]
FIG. 272 shows a specific example of the HD image 3541 corresponding to four HD pixels from the left in the drawing among the six HD pixels continuous in the X direction included in the region 3544-1 shown in FIG. 271. The pixel value, the specific pixel value of the SD image 3542, and the actual waveform (real world 1 signal) are plotted.
[2114]
In FIG. 272, the vertical axis represents the pixel value, and the horizontal axis represents the x-axis parallel to the spatial direction X. On the x-axis, the origin is the leftmost position of the third HD pixel from the left in the figure among the six HD pixels of the difference image 3544, and a coordinate value is given with the origin as a reference. However, the coordinate value of the x-axis is attached with the pixel width of the HD pixel of the difference image 3544 as 0.5. That is, since the difference image 3544 is an HD image, the pixel width L of the HD image 3541 is_t(Hereafter, HD pixel width L_tAlso called 0.5). Therefore, in this case, the pixel width of the SD image 3542 (hereinafter referred to as SD pixel width L_sHD pixel width L_tSD pixel width L_sBecomes 1.
[2115]
In FIG. 272, the solid line represents the pixel value of the HD image 3541, the dotted line represents the pixel value of the SD image 3542, and the alternate long and short dash line represents the X sectional waveform of the signal of the real world 1. However, since it is difficult to actually depict the waveform of the signal of the real world 1, the one-dot chain line shown in FIG. 272 represents the above-described one-dimensional polynomial approximation method (one embodiment of the real world estimation unit 102 in FIG. 266). ) Shows an approximate function f (x) in which the X-section waveform is approximated.
[2116]
Next, in the same manner as the above-described investigation of the region with a small difference, the applicant of the present application also describes the specific details of the HD image 3541 in the region with a large difference between the HD image 3541 and the predicted image 3543 (region close to white in the difference image 3544). The actual pixel value, the specific pixel value of the SD image 3542, and the actual waveform (the real world 1 signal) corresponding to the HD image 3541 were investigated. The investigation results are shown in FIGS. 273 and 274.
[2117]
FIG. 273 shows an example of the investigated area. In FIG. 273, in the drawing, the horizontal direction is the X direction, which is one direction in the spatial direction, and the vertical direction is the Y direction, which is the other direction in the spatial direction.
[2118]
That is, the applicant of the present application investigated a region 3544-2 of the difference image 3544 shown in FIG. 273 as an example of a region having a large difference between the HD image 3541 and the predicted image 3543.
[2119]
FIG. 274 shows a specific example of the HD image 3541 corresponding to four HD pixels from the left in the drawing among the six HD pixels continuous in the X direction included in the region 3544-2 shown in FIG. In this example, the pixel value, the specific pixel value of the SD image 3542, and the actual waveform (signal of the real world 1) are plotted.
[2120]
In FIG. 274, the vertical axis represents the pixel value, and the horizontal axis represents the x-axis parallel to the spatial direction X. On the x-axis, the origin is the leftmost position of the third HD pixel from the left in the figure among the six HD pixels of the difference image 3544, and a coordinate value is given with the origin as a reference. However, the x-axis coordinate value is the SD pixel width L_sIs attached as 1.
[2121]
In FIG. 274, the solid line represents the pixel value of the HD image 3541, the dotted line represents the pixel value of the SD image 3542, and the alternate long and short dash line represents the X cross-sectional waveform of the real world 1 signal. However, the alternate long and short dash line shown in FIG. 274 shows the approximate function f (x) in which the X-section waveform is approximated, similarly to the alternate long and short dash line shown in FIG.
[2122]
Comparing FIG. 272 and FIG. 274, it can be seen from the shape of the waveform of the approximate function f (x) of both that each region includes a thin line region.
[2123]
However, in FIG. 272, the thin line region exists in the range of about x = 0 to x = 1, whereas in FIG. 274, the thin line region of about x = −0.5 to x = 0.5. Exists in range. In other words, in FIG. 272, a thin line region is substantially included in one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1. On the other hand, in FIG. 274, a part of the thin line is included in one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1 (the boundary between the fine line and the background is included). Will be).
[2124]
Therefore, in the state shown in FIG. 272, the difference between the pixel values (solid lines in the figure) of the two HD pixels of the HD image 3541 existing in the range of x = 0 to x = 1.0 is small. As a result, as a matter of course, the pixel value of one SD pixel of the SD image 3542 (dotted line in the figure), which is the average value of the pixel values of these two HD pixels, and the pixel value of the two HD pixels of the HD image 3541 The difference from each of these is small.
[2125]
In such a state (in the state shown in FIG. 272), one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1.0 is set as the pixel of interest, and x is converted by the conventional classification adaptation process. Consider a case where two HD pixels (pixels of the predicted image 3543) are generated in the range of = 0 to x = 1.0. In this case, as shown in FIG. 271, the HD pixel of the generated predicted image 3543 is the one that predicts the HD pixel of the HD image 3541 almost accurately. That is, as shown in FIG. 271, in the region 3544-1, the difference between the HD pixel of the predicted image 3543 and the HD pixel of the HD image 3541 is reduced, so that an image close to black is displayed.
[2126]
On the other hand, in the state shown in FIG. 274, the difference between the pixel values (solid lines in the figure) of the two HD pixels of the HD image 3541 existing in the range of x = 0 to x = 1.0 is large. As a result, as a matter of course, the pixel value of one SD pixel of the SD image 3542 (dotted line in the figure), which is the average value of the pixel values of these two HD pixels, and the pixel value of the two HD pixels of the HD image 3541 The difference from each of these is larger than the corresponding difference in FIG.
[2127]
In this state (in the state shown in FIG. 274), one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1.0 is set as the pixel of interest, and x is converted by the conventional class classification adaptive processing. Consider a case where HD pixels (pixels of the predicted image 3543) are generated in the range of = 0 to x = 1.0. In this case, as illustrated in FIG. 273, the HD pixel of the generated predicted image 3543 is not an accurately predicted HD pixel of the HD image 3541. That is, as shown in FIG. 273, in the region 3544-2, the difference between the HD pixel of the predicted image 3543 and the HD pixel of the HD image 3541 becomes large, so an image close to white is displayed. .
[2128]
By the way, in order to compare each of the approximate functions f (x) of the real world 1 signals in FIG. 272 and FIG. 274 (in the figure, a one-dot chain line), in FIG. 272, in the range of x = 0 to x = 1. While the change amount of the approximate function f (x) is small, in FIG. 274, it can be seen that the change amount of the approximate function f (x) in the range of x = 0 to x = 1 is large.
[2129]
Therefore, one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1.0 shown in FIG. 272 has a small change amount of the approximate function f (x) in the SD pixel (that is, the real world). It can be said that this is an SD pixel.
[2130]
From this point of view, the above-described investigation result can be rephrased. For example, the approximate function f (x (x) in the SD pixel such as the SD pixel existing in the range of x = 0 to x = 1.0 shown in FIG. ) Is changed from an SD pixel having a small change in the real world 1 signal (ie, a change in the real world 1 signal is small) by the conventional classification adaptation process, the generated HD pixel is converted into the real world 1 signal ( In this case, the thin line image) is predicted almost accurately.
[2131]
On the other hand, one SD pixel of the SD image 3542 existing in the range of x = 0 to x = 1.0 shown in FIG. 274 has a large change amount of the approximate function f (x) in the SD pixel (that is, It can be said that the change amount of the signal in the real world 1 is large).
[2132]
From this point of view, the above-described investigation result can be rephrased. For example, the approximate function f (x (x) in the SD pixel such as the SD pixel existing in the range of x = 0 to x = 1.0 shown in FIG. ) Is generated from an SD pixel having a large change in the real world 1 signal (ie, a large change in the signal of the real world 1) by the conventional classification adaptation process, the generated HD pixel is converted into the signal of the real world 1 ( In this case, the image (thin line image) is not accurately predicted.
[2133]
Summarizing the above investigation results, in the state as shown in FIG. 275, it is difficult to restore the details in the pixels by conventional signal processing between pixels (for example, class classification adaptive processing). It is.
[2134]
That is, FIG. 275 is a diagram for explaining the knowledge obtained as a result of the above-described investigation by the applicant of the present application.
[2135]
In FIG. 275, the horizontal direction in the figure represents the X direction which is one of the directions (space directions) in which the detection elements of the sensor 2 (FIG. 266) are arranged, and the vertical direction in the figure represents the light direction. Represents a level or pixel value. The dotted line represents the X-section waveform F (x) of the signal of the real world 1 (FIG. 266), which is an image, and the solid line represents the signal of the real world 1 (image) represented by the X-section waveform F (x). ) Represents the pixel value P output from the sensor 2. The width (length in the X direction) of one detection element of the sensor 2 is L_cΔP is the width L of one detection element of the sensor 2_cThat is, the pixel width L of the sensor 2_cRepresents the amount of change in the X-section waveform F (x).
[2136]
By the way, the above-described SD image 3542 (FIG. 270) imitates the input image (FIG. 266) from the sensor 2, and therefore the SD pixel width L of the SD image 3542 is shown._s(FIG. 272 and FIG. 274) shows the pixel width of sensor 2 (detection element width) L_cCan be thought of as
[2137]
In the above-described investigation, the real world 1 signal (approximate function f (x)) corresponding to the thin line is an investigation. However, the signal level of the real world 1 is not limited to the thin line.
[2138]
Therefore, when the above-described investigation result is applied to the state shown in FIG. 275, the result is as follows.
[2139]
That is, as shown in FIG. 275, the SD pixel (the output pixel from the sensor 2) having a large amount of change in the real world 1 signal (the amount of change in the X sectional waveform F (x)) ΔP in the pixel is the target pixel. When an HD pixel (for example, a pixel of a predicted image output from the class classification adaptation processing unit 3501 in FIG. 266) is generated by the conventional class classification adaptation process, the generated HD pixel is the real world 1 (In the example of FIG. 275, the X cross-sectional waveform F (x)) is not accurately predicted.
[2140]
Specifically, in the conventional method including class classification adaptive processing, image processing between pixels of the sensor 2 is performed.
[2141]
That is, as shown in FIG. 275, in the real world 1, even if the amount of change ΔP of the X sectional waveform F (x) is large in the region within one pixel, the X sectional waveform F from the sensor 2 is large. Only one pixel value P (ie, a uniform value P within one pixel) in which (x) is integrated (strictly speaking, the signal of the real world 1 is integrated in the space-time direction) is output.
[2142]
In the conventional method, the pixel value P is used as a reference, and the pixel value P is a processing target and image processing is performed. In other words, in the conventional method, image processing is performed while ignoring changes in the real world 1 signal (X cross-sectional waveform F (x)) in the pixel, that is, details in the pixel.
[2143]
As described above, as long as the pixel is processed as a minimum unit, even if any image processing (class classification adaptive processing) is performed, the change in the signal of the real world 1 in the pixel can be accurately reproduced. Have difficulty. In particular, when the change amount ΔP of the signal in the real world 1 is large, the difficulty becomes more remarkable.
[2144]
In other words, the problem with the class classification adaptation process described above, that is, the input image (SD image) in which the details of the real world 1 are destroyed at the stage of output from the sensor 2 in FIG. Even if it is an HD image, the cause of the problem that the original details may not be completely restored may be caused by considering the change amount ΔP of the real world 1 signal within the pixel without considering the change ΔP of the real world 1 This is because the class classification adaptive processing is performed with a pixel having only a pixel value as a minimum unit.
[2145]
This problem is not limited to the class classification adaptive process, and is a problem that all of the conventional image processing methods have, and the cause of the problem is exactly the same.
[2146]
In the above, the problem which the conventional image processing method has, and its generation factor were explained.
[2147]
By the way, as described above, the data continuity detection unit 101 and the real world estimation unit 102 (FIG. 3) of the present invention use the continuity of the signal of the real world 1 to input images from the sensor 2 (that is, The image of the real world 1 can be estimated from the image in which the change of the signal of the real world 1 is ignored in the pixel). That is, the real world estimation unit 102 can output real world estimation information that can estimate the signal of the real world 1.
[2148]
Therefore, it is possible to estimate the amount of change in the signal of the real world 1 in the pixel from the real world estimation information.
[2149]
Therefore, the applicant of the present application estimates a prediction image (an image in which the real world 1 is predicted without considering the change of the signal of the real world 1 in the pixel) generated by the conventional classification adaptation process. By correcting with a predetermined corrected image generated based on information (an image in which an error of a predicted image caused by a change in the signal of the real world 1 in a pixel is estimated), the above-described problem can be solved. Based on this idea, for example, a class classification adaptive processing correction method as shown in FIG. 266 was invented.
[2150]
That is, in FIG. 266, the data continuity detection unit 101 and the real world estimation unit 102 generate real world estimation information, and the class classification adaptive processing correction unit 3502 performs a predetermined correction based on the generated real world estimation information. Generate an image. Then, the adding unit 3503 corrects the predicted image output from the class classification adaptive processing unit 3501 with the corrected image output from the class classification adaptive processing correction unit 3502 (specifically, the corrected image is added to the predicted image). The output image is output as an output image).
[2151]
The details of the class classification adaptive processing unit 3501 in the image generation unit 103 that uses the class classification adaptive processing correction method have already been described. Further, the form of the adding unit 3503 is not particularly limited as long as it can add the predicted image and the corrected image. For example, various adders and programs that exist in the past can be applied. Is possible.
[2152]
Therefore, details of the remaining class classification adaptive processing correction unit 3502 will be described below.
[2153]
First, the principle of the class classification adaptive processing correction unit 3502 will be described.
[2154]
As described above, in FIG. 270, the HD image 3541 is regarded as the original image (real world 1 signal) before being incident on the sensor 2 (FIG. 266), and the SD image 3542 is When regarded as an input image, the predicted image 3543 becomes a predicted image (a predicted image predicted from the original image (HD image 3541)) output from the class classification adaptive processing unit 3501.
[2155]
An image obtained by subtracting the predicted image 3543 from the HD image 3541 is a difference image 3544.
[2156]
Accordingly, if the class classification adaptive processing correction unit 3502 can generate the difference image 3544 and output the difference image 3544 as a correction image, the addition unit 3503 can output the predicted image 3543 output from the class classification adaptation processing unit 3501. The HD image 3541 can be restored by adding the difference image 3544 (corrected image) output from the class classification adaptive processing correction unit 3502.
[2157]
That is, the class classification adaptive processing correction unit 3502 determines the difference between the real world 1 signal (original image before being incident on the sensor 2), which is an image, and the predicted image output from the class classification adaptive processing unit 3501. An image (however, an image having the same resolution as that of the predicted image output from the class classification adaptive processing unit 3501) is appropriately predicted and is predicted as a difference image (hereinafter referred to as a difference prediction image. This is the name of the difference prediction image described above. Can be output as a corrected image, the real world 1 signal (original image) can be almost restored.
[2158]
By the way, as described above, the degree of difference (error) between the signal of the real world 1 (original image before being incident on the sensor 2) and the predicted image output from the class classification adaptive processing unit 3501, and the input The degree of change of the signal of the real world 1 in one pixel of the image corresponds. In addition, since the real world estimation unit 102 can estimate the signal of the real world 1 itself, naturally, a predetermined feature amount that represents the degree of change in the signal of the real world 1 within one pixel of the input image. Can be calculated for each pixel.
[2159]
Accordingly, the class classification adaptive processing correction unit 3502 can generate a difference prediction image (predict a difference image) by acquiring a feature amount for each pixel of the input image.
[2160]
Therefore, for example, the class classification adaptive processing correction unit 3502 uses the real world estimation unit 102 as a real world estimation information for an image having a feature amount as a pixel value (hereinafter, such an image is referred to as a feature amount image). Input from the world estimation unit 102.
[2161]
At this time, the resolution of the feature amount image is the same as that of the input image from the sensor 2. The corrected image (difference predicted image) has the same resolution as the predicted image output from the class classification adaptation processing unit 3501.
[2162]
Therefore, the class classification adaptive processing correction unit 3502 predicts the difference image from the feature amount image using the conventional class classification adaptation processing, using the feature image as an SD image and the corrected image (difference prediction image) as an HD image. If it calculates, the result of the prediction calculation becomes an appropriate difference prediction image.
[2163]
The principle of the class classification adaptive processing correction unit 3502 has been described above.
[2164]
FIG. 276 shows a configuration example of the class classification adaptive processing correction unit 3502 that operates on such a principle.
[2165]
In FIG. 276, the feature amount image (SD image) input from the real world estimation unit 102 is supplied to the region extraction unit 3551 and the region extraction unit 3555, respectively. The region extraction unit 3551 extracts class taps (SD pixels existing in a preset position including the target pixel) necessary for performing class classification from the supplied feature amount image, and outputs them to the pattern detection unit 3552. To do. The pattern detection unit 3552 detects a feature image pattern based on the input class tap.
[2166]
The class code determination unit 3553 determines a class code based on the pattern detected by the pattern detection unit 3552, and outputs the class code to the correction coefficient memory 3554 and the region extraction unit 3555. The correction coefficient memory 3554 stores a coefficient for each class code obtained in advance by learning, reads a coefficient corresponding to the class code input from the class code determination unit 3553, and outputs the coefficient to the correction calculation unit 3556.
[2167]
The coefficient learning process in the correction coefficient memory 3554 will be described later with reference to the block diagram of the class classification adaptive process correction learning unit in FIG.
[2168]
Further, the coefficient stored in the correction coefficient memory 3554 is a prediction coefficient used when a difference image is predicted (a difference prediction image that is an HD image is generated), as will be described later. However, here, the coefficient stored in the coefficient memory 3514 (FIG. 267) of the class classification adaptive processing unit 3501 is referred to as a prediction coefficient. Therefore, hereinafter, the prediction coefficient stored in the correction coefficient memory 3554 is referred to as a correction coefficient in order to distinguish it from the prediction coefficient stored in the coefficient memory 3514.
[2169]
The region extraction unit 3555 predicts a difference image (HD image) from the feature amount image (SD image) input from the real world estimation unit 102 based on the class code input from the class code determination unit 3553 (HD). A prediction tap (SD pixel existing at a preset position including the target pixel) necessary for generating a differential prediction image that is an image is extracted corresponding to the class code and output to the correction calculation unit 3556. The correction calculation unit 3556 performs a product-sum calculation using the prediction tap input from the region extraction unit 3555 and the correction coefficient input from the correction coefficient memory 3554, and the target pixel (SD image) of the feature amount image (SD image). HD pixels of the difference prediction image (HD image) in the SD pixels) are generated.
[2170]
More specifically, the correction coefficient memory 3554 outputs a correction coefficient corresponding to the class code supplied from the class code determination unit 3553 to the correction calculation unit 3556. The correction calculation unit 3556 uses the prediction tap (SD pixel) extracted from the pixel value at the predetermined pixel position of the input image supplied from the region extraction unit 3555 and the correction coefficient supplied from the correction coefficient memory 3554. Then, an HD pixel of the difference predicted image (HD image) is obtained by performing a product-sum operation represented by the following equation (223) (predicting and estimating the difference image).
[2171]
174

... (223)
[2172]
In Expression (223), u ′ represents the HD pixel of the difference prediction image (HD image). a_iEach (i is an integer value from 1 to n) represents each prediction tap (SD pixel). G_iEach represents a correction coefficient.
[2173]
Therefore, in FIG. 266, the class classification adaptive processing unit 3501 outputs the HD pixel q ′ of the predicted image represented by the above-described equation (215), whereas the class classification adaptive processing correction unit 3502 The HD pixel u ′ of the difference prediction image represented by Expression (223) is output. Then, the adding unit 3503 outputs a pixel obtained by adding the HD pixel q ′ of the predicted image and the HD pixel u ′ of the difference predicted image (hereinafter, referred to as o ′) to the outside as the HD pixel of the output image. .
[2174]
That is, the HD pixel o ′ of the output image that is finally output from the image generation unit 103 is expressed by the following equation (224).
[2175]
[Expression 175]

... (224)
[2176]
FIG. 277 shows correction coefficients stored in the correction coefficient memory 3554 of the class classification adaptive processing correction unit 3502 (g in the above equation (222))._i), That is, a detailed configuration example of the class classification adaptive processing correction learning unit 3561 of the learning device 3504 of FIG. 268 described above.
[2177]
In FIG. 268, as described above, the class classification adaptive processing learning unit 3521 ends the learning process, and then the class classification adaptive processing correction learning unit 3561 gives the first teacher image (HD) used for learning to the learning unit 3561. Image) and the first student image (SD image), and the prediction for learning, which is an image obtained by predicting the first teacher image from the first student image using the prediction coefficient obtained by learning. An image is output.
[2178]
Returning to FIG. 277, the first student image of these is input to the data continuity detecting unit 3572.
[2179]
On the other hand, the first teacher image and the learning predicted image among these are input to the adding unit 3571. However, the prediction image for learning is reversely input.
[2180]
The adding unit 3571 adds the input first teacher image and the inverted prediction image for learning, that is, generates a difference image between the first teacher image and the prediction image for learning, and classifies the image. The data is output to the normal equation generation unit 3578 as a teacher image in the adaptive processing correction learning unit 3561 (this teacher image is referred to as a second teacher image to distinguish it from the first teacher image as described above).
[2181]
The data continuity detection unit 3572 detects the continuity of the data included in the input first student image, and outputs the detection result to the real world estimation unit 3573 as data continuity information.
[2182]
The real world estimation unit 3573 generates a feature amount image based on the input data continuity information, and uses it as a student image in the class classification adaptive processing correction learning unit 3561 (as described above, In order to distinguish it from the first student image, it is output as a second student image) to each of the region extracting unit 3574 and the region extracting unit 3577.
[2183]
The region extraction unit 3574 extracts SD pixels (class taps) necessary for class classification from the supplied second student image (SD image), and outputs the SD pixels (class taps) to the pattern detection unit 3575. The pattern detection unit 3575 detects the input class tap pattern and outputs the detection result to the class code determination unit 3576. Class code determination unit 3576 determines a class code corresponding to the input pattern, and outputs the class code to each of region extraction unit 3577 and normal equation generation unit 3578.
[2184]
The area extraction unit 3577 extracts a prediction tap (SD pixel) from the second student image (SD image) input from the real world estimation unit 3573 based on the class code input from the class code determination unit 3576, The result is output to the normal equation generation unit 3578.
[2185]
Note that each of the region extraction unit 3574, pattern detection unit 3575, class code determination unit 3576, and region extraction unit 3577 described above includes the region extraction unit 3551, the pattern detection unit 3552, the class classification adaptive processing correction unit 3502 in FIG. Each of the class code determination unit 3553 and the region extraction unit 3555 has basically the same configuration and function. Further, each of the above data continuity detection unit 3572 and real world estimation unit 3573 has basically the same configuration and function as each of the data continuity detection unit 101 and real world estimation unit 102 of FIG. 266. I have it.
[2186]
The normal equation generation unit 3578, for all the class codes input from the class code determination unit 3576, predicts taps of second student images (SD images) input from the region extraction unit 3577 for each class code ( A normal equation is generated from the SD pixels) and the HD pixels of the second teacher image (HD image) and supplied to the correction coefficient determination unit 3579. When a normal equation corresponding to a predetermined class code is supplied from the normal equation generation unit 3578, the correction coefficient determination unit 3579 calculates each correction coefficient from the normal equation and associates the correction coefficient memory 3554 with the class code. To remember.
[2187]
The normal equation generation unit 3578 and the correction coefficient determination unit 3579 will be described in more detail.
[2188]
In the above equation (223), before learning, the correction coefficient g_iEach is an undetermined coefficient. Learning is performed by inputting HD pixels of a plurality of teacher images (HD images) for each class code. There are m HD pixels corresponding to a predetermined class code, and each of the m HD pixels is represented by u._kWhen describing (k is an integer value of 1 to m), the following equation (225) is set from the equation (223).
[2189]
176

... (225)
[2190]
That is, Expression (225) represents that a predetermined HD pixel can be predicted and estimated by calculating the right side. In formula (225), e_kRepresents an error. That is, the HD pixel u of the difference prediction image (HD image) which is the calculation result on the right side_k'Is the HD pixel u of the actual difference image_kDoes not exactly match the predetermined error e_kincluding.
[2191]
Therefore, in equation (2225), for example, error e_kCorrection factor a that minimizes the sum of squares_iHowever, it can be obtained by learning.
[2192]
For example, the HD pixel u of the difference image so that m> n_kCan be collected by learning, the correction coefficient a_iIs uniquely determined.
[2193]
That is, the correction coefficient a on the right side of Equation (225)_iThe normal equation in the case of obtaining the value by the method of least squares is as shown by the following equation (226).
[2194]
[Expression 177]

... (226)
[2195]
When each matrix of the normal equation represented by the equation (226) is defined as the following equations (227) to (229), the normal equation is represented as the following equation (230).
[2196]
178

... (227)
[2197]
[Expression 179]

... (228)
[2198]
[Formula 180]

... (229)
[2199]
[Formula 181]

... (230)
[2200]
As shown in equation (228), the matrix G_MATIs the correction coefficient g_iIt is. Therefore, in the equation (230), the matrix A on the left side_MATAnd right-side matrix U_MATIs determined, the matrix G is obtained by matrix solution._MAT(Ie, correction coefficient g_i) Can be calculated.
[2201]
Specifically, as shown in the equation (227), the matrix A_MATEach component of the prediction tap a_ikIf is known, computation is possible. Prediction tap a_ikIs extracted by the region extraction unit 3577, the normal equation generation unit 3578 is supplied with the prediction tap a supplied from the region extraction unit 3577._ikMatrix A using each of_MATEach component of can be calculated.
[2202]
Further, as shown in the equation (229), the matrix U_MATEach component of the prediction tap a_ikAnd difference image HD pixel u_kIf is known, computation is possible. Prediction tap a_ikIs the matrix A_MATAre the same as those included in each component of the difference image, and the HD pixel u of the difference image_kAre HD pixels of the second teacher image output from the adder 3571. Accordingly, the normal equation generation unit 3578 generates the prediction tap a supplied from the region extraction unit 3577._ikAnd a matrix U using the second teacher image (the difference image between the first teacher image and the prediction image for learning)_MATEach component of can be calculated.
[2203]
In this way, the normal equation generation unit 3578 generates a matrix A for each class code._MATAnd matrix U_MATAre calculated, and the result of the calculation is supplied to the correction coefficient determination unit 3579 in association with the class code.
[2204]
The correction coefficient determination unit 3579, based on the normal equation corresponding to the supplied predetermined class code, the matrix G of the above equation (230)._MATCorrection coefficient g which is each component of_iIs calculated.
[2205]
Specifically, the normal equation of the above equation (230) can be transformed as the following equation (231).
[2206]
182

... (231)
[2207]
In equation (231), the left-hand side matrix G_MATEach component is the correction factor g_iIt is. Matrix A_MATAnd matrix U_MATEach of the components is supplied from the normal equation generation unit 3578. Accordingly, the correction coefficient determination unit 3579 receives the matrix A corresponding to the predetermined class code from the normal equation generation unit 3578._MATAnd matrix U_MATWhen each component is supplied, the matrix G is calculated by performing the matrix operation on the right side of the equation (231)._MATAnd the calculation result (correction coefficient g_i) Is stored in the correction coefficient memory 3554 in association with the class code.
[2208]
The details of the class classification adaptive processing correction unit 3502 and the class classification adaptive processing correction learning unit 3561 that is a learning unit associated therewith have been described above.
[2209]
By the way, the form of the feature amount image described above is not particularly limited as long as the class classification adaptive processing correction unit 3502 can generate a corrected image (difference predicted image) based on the feature amount image. In other words, the pixel value of each pixel of the feature amount image, that is, the feature amount is, as described above, the amount of change in the signal of the real world 1 (FIG. 266) in the pixel (pixel of the sensor 2 (FIG. 266)). If it can represent a degree, it will not be specifically limited.
[2210]
For example, it is possible to apply an in-pixel gradient as the feature amount.
[2211]
The in-pixel inclination is a word newly defined here. Therefore, the in-pixel inclination will be described below.
[2212]
As described above, in FIG. 266, the signal of the real world 1 that is an image is a function F (x, y, t) having positions x, y, and z in a three-dimensional space and time t as variables. It is represented by
[2213]
Also, for example, when the real world 1 signal, which is an image, has continuity in a predetermined direction in the spatial direction, the function F (x, y, t) is expressed by the X direction, the Y direction, and the spatial direction. A one-dimensional waveform projected in one predetermined direction (for example, the X direction) in the Z direction (again, a waveform projected in the X direction out of such waveforms is referred to as an X sectional waveform F (x)). It can be considered that the waveform having the same shape as that in FIG.
[2214]
Accordingly, the real world estimation unit 102, for example, based on the data continuity information (for example, angle) corresponding to the continuity of the signal of the real world 1 output from the data continuity detection unit 101. F (x) can be approximated by an approximation function f (x) that is an n-order (n is an arbitrary integer) polynomial.
[2215]
As an example of such an approximate function f (x), FIG. 278 shows f represented by the following equation (232)._Four(x) (f which is a fifth order polynomial_Four(x)) and f shown by the following equation (233)_Five(x) (f is a first-order polynomial_Five(x)) is plotted.
[2216]
[Formula 183]

... (232)
[2217]
[Formula 184]

... (233)
[2218]
Note that w in equation (232)₀Thru w_FiveAnd w in formula (233)₀'And w₁Each of 'represents each coefficient calculated by the real world estimation unit 102.
[2219]
In FIG. 278, the horizontal x-axis in the drawing represents the relative position in the spatial direction X from the target pixel when the left end of the target pixel is the origin (x = 0). However, in the x-axis, the width L of the detection element of the sensor 2_cIs set to 1. In addition, the vertical axis in the figure represents the pixel value.
[2220]
As shown in FIG. 278, a linear approximation function f_Five(x) (approximation function f expressed by equation (232)_Five(x)) is a linear approximation of the X cross-sectional waveform F (x) at the target pixel. Here, the inclination of the approximate line is referred to as an in-pixel inclination. In other words, the in-pixel inclination is the coefficient w of x in Equation (233).₁'Is.
[2221]
When the in-pixel inclination is steep, it indicates that the amount of change in the X cross-sectional waveform F (x) in the target pixel is large. On the other hand, when the in-pixel inclination is gentle, it indicates that the amount of change in the X sectional waveform F (x) in the target pixel is small.
[2222]
Thus, the in-pixel inclination can appropriately represent the degree of change in the signal of the real world 1 in the pixel (the pixel of the sensor 2). Therefore, in-pixel inclination can be applied as the feature amount.
[2223]
For example, FIG. 279 shows a feature amount image actually generated using the in-pixel inclination as a feature amount.
[2224]
That is, in FIG. 279, the image on the left side in the drawing represents the same image as the SD image 3542 shown in FIG. 270 described above. Further, the right image in the figure represents a feature amount image 3591 in which the in-pixel inclination is obtained for each of the pixels constituting the left SD image 3542 and the value corresponding to the in-pixel inclination is plotted as the pixel value. Yes. However, the feature amount image 3591 is black when there is no in-pixel inclination (when the approximate line is parallel to the X direction), whereas when the in-pixel inclination is at a right angle (the approximate line is in the Y direction). (When parallel), it is generated to be white.
[2225]
The region 3542-1 of the SD image 3542 is an example of the region 3544-1 of the difference image 3544 of FIG. 271 described above (refer to FIG. 272 described above, an example of a region where the amount of change in the signal of the real world 1 is small in the pixel. Is a region corresponding to the region described above. A region of the feature amount image 3591 corresponding to the region 3542-1 of the SD image 3542 is a region 3591-1.
[2226]
An area 3542-2 of the SD image 3542 is an area 3544-2 of the difference image 3544 of FIG. 273 described above (refer to the above-described FIG. This is a region corresponding to the region described as an example. A region of the feature amount image 3591 corresponding to the region 3542-2 of the SD image 3542 is a region 3591-2.
[2227]
When comparing the region 3542-1 of the SD image 3542 and the region 3591-1 of the feature amount image 3591, the region where the change amount of the signal in the real world 1 is small is a region close to black (pixels) in the feature amount image 3591. It can be seen that the inner slope is a loose region.
[2228]
On the other hand, when comparing the region 3542-2 of the SD image 3542 and the region 3591-2 of the feature amount image 3591, the region where the signal change amount of the real world 1 is large is white in the feature amount image 3591. It can be seen that the region is close to (region where the inclination in the pixel is steep).
[2229]
As described above, the feature amount image generated by using the value corresponding to the in-pixel inclination as the pixel can appropriately represent the degree of change in the signal of the real world 1 in each pixel.
[2230]
Next, a specific method for calculating the in-pixel inclination will be described.
[2231]
That is, when the in-pixel inclination at the target pixel is described as grad, the in-pixel inclination grad is expressed by the following equation (234).
[2232]
[Expression 185]

... (234)
[2233]
In formula (234), P_nRepresents the pixel value of the pixel of interest. P_cRepresents the pixel value of the central pixel.
[2234]
Specifically, for example, as shown in FIG. 280, an area composed of 5 × 5 pixels (5 × 5 = 25 squares in the figure) in the input image from the sensor 2, and a predetermined value. If there is a region 3601 having the regularity of the data (hereinafter referred to as a steady region 3601), the center pixel 3602 of the steady region 3601 is set as the central pixel. Therefore, P_cIs the pixel value of the center pixel 3602. For example, if the pixel 3603 is the target pixel, P_nIs the pixel value of the target pixel 3603.
[2235]
Also, in equation (234), x_n'Represents the distance in the cross-sectional direction at the center point of the target pixel. Here, the center of the center pixel (pixel 3602 in the example of FIG. 280) is the origin (0,0) in the spatial direction, and a straight line (example in FIG. 280) parallel to the direction of continuity of data passing through the origin. Then, if a straight line 3604) is drawn, the relative distance in the X direction with respect to the straight line is referred to as a cross-sectional direction distance.
[2236]
FIG. 281 is a diagram showing the cross-sectional direction distance of each pixel in the steady region 3601 of FIG. That is, in FIG. 281, the value described in each pixel (5 × 5 = 25 squares in the figure) of the steady region 3601 is the cross-sectional direction distance of the corresponding pixel. For example, the cross-sectional distance x of the pixel of interest 3603_n'Is -2β.
[2237]
However, each pixel width is set to 1 in both the X direction and the Y direction. The positive direction of the X direction is the right direction in the figure. Also, β represents the distance in the cross-sectional direction of the pixel 3605 that is next to the center pixel 3602 in the Y direction (one lower in the figure). If β is an angle θ (an angle θ formed between the direction of the straight line 3604 and the X direction) as shown in FIG. 281 and is output as data continuity information from the data continuity detection unit 101, the following equation is obtained. It is possible to easily calculate using (235).
[2238]
186

... (235)
[2239]
As described above, the in-pixel inclination is calculated by a simple calculation using the two input pixel values of the center pixel (pixel 3602 in the example of FIG. 281) and the target pixel (pixel 3603 in the example of FIG. 281) and the angle θ. Is possible. Therefore, if the real world estimation unit 102 generates an image having a pixel value corresponding to the in-pixel inclination as a feature amount image, the processing amount can be significantly reduced.
[2240]
In addition, when it is desired to obtain a more accurate in-pixel inclination, the real world estimation unit 102 may perform calculation by a least square method using peripheral pixels of the target pixel. Specifically, the real world estimation unit 102 assigns a number i (i is 1 to m) to m pixels (m is an integer of 2 or more) including the target pixel, and the pixel of the number i is assigned. Each input pixel value P_iAnd cross-sectional direction distance x_iSubstituting 'for the right side of the following equation (236), the in-pixel gradient grad at the target pixel may be calculated. That is, the equation (236) is the same as the equation for obtaining the above-described one variable by the method of least squares.
[2241]
[Expression 187]

... (236)
[2242]
Next, with reference to FIG. 282, the image generation processing (processing in step S103 in FIG. 40) of the image generation unit 103 (FIG. 266) using the class classification adaptive processing correction method will be described.
[2243]
In FIG. 266, when a signal of the real world 1 that is an image is incident on the sensor 2, an input image is output from the sensor 2. This input image is input to the data continuity detecting unit 101 and also to the class classification adaptive processing unit 3501 of the image generating unit 103.
[2244]
Therefore, in step S3501 of FIG. 282, the class classification adaptation processing unit 3501 performs class classification adaptation processing on the input image (SD image) that has been input to generate a prediction image (HD image), and an addition unit 3503 Output to.
[2245]
Hereinafter, the processing in step S3501 executed by the class classification adaptation processing unit 3501 is referred to as “input image class classification adaptation processing”. Details of the “input image class classification adaptive processing” in this example will be described later with reference to the flowchart in FIG. 283.
[2246]
Almost simultaneously with the processing in step S3501, the data continuity detecting unit 101 detects the continuity of the data included in the input image, and the detection result (in this case, the angle) is used as data continuity information as the real world estimating unit 102. (Step S101 in FIG. 40).
[2247]
The real world estimation unit 102 generates real world estimation information (in this case, a feature image that is an SD image) based on the input angle (data continuity information), and the class generation adaptation process of the image generation unit 103 It supplies to the correction | amendment part 3502 (process of step S102 of FIG. 40).
[2248]
Therefore, in step S3502, the class classification adaptive processing correction unit 3502 performs class classification adaptive processing on the supplied feature amount image (SD image) to generate a difference prediction image (HD image) (actual image). A difference image (however, an HD image) between the (real world 1 signal) and the predicted image output from the class classification adaptive processing unit 3501 is predicted and output to the adder 3503 as a corrected image.
[2249]
Hereinafter, the processing in step S3502 performed by the class classification adaptive processing correction unit 3502 is referred to as “class classification adaptive processing correction processing”. Details of “correction processing of class classification adaptation processing” in this example will be described later with reference to the flowchart of FIG. 284.
[2250]
In step S3503, the adding unit 3503 corresponds to the target pixel (HD pixel) of the predicted image (HD image) generated by the class classification adaptive processing unit 3501 in the process of step S3501, and the target pixel in step S3502. In this process, the pixel (HD pixel) of the corrected image (HD image) generated by the class classification adaptive processing correction unit 3502 is added to generate a pixel (HD pixel) of the output image (HD image).
[2251]
In step S3504, the addition unit 3503 determines whether or not processing for all pixels has been completed.
[2252]
If it is determined in step S3504 that the processing for all pixels has not been completed yet, the process returns to step S3501, and the subsequent processing is repeated. That is, pixels that are not yet the target pixel are sequentially set as the target pixel, and the processes in steps S3501 to S3503 are repeated.
[2253]
When processing for all pixels is completed (when it is determined in step S3504 that processing for all pixels has been completed), the adding unit 3504 outputs an output image (HD image) to the outside in step S3505. Thereafter, the image generation process ends.
[2254]
Next, with reference to the drawings, details of each of “input image class classification adaptive processing (processing in step S3501)” and “class classification adaptive processing correction processing (processing in step S3502)” in this example will be described. Each will be described in that order.
[2255]
First, the details of the “input image class classification adaptive processing” executed by the class classification adaptive processing unit 3501 (FIG. 267) will be described with reference to the flowchart of FIG. 283.
[2256]
When the input image (SD image) is input to the classification adaptation processing unit 3501, in step S3521, each of the region extraction unit 3511 and the region extraction unit 3515 inputs the input image.
[2257]
In step S3522, the region extraction unit 3511 selects, from the input image, a pixel (SD pixel) located at each of the target pixel (SD pixel) and a preset relative position (one or more positions) from the target pixel. ) Are extracted as class taps and supplied to the pattern detection unit 3512.
[2258]
In step S 3523, the pattern detection unit 3512 detects the supplied class tap pattern and supplies the class tap pattern to the class code determination unit 3513.
[2259]
In step S3524, the class code determination unit 3513 determines a class code that matches the supplied class tap pattern from a plurality of preset class codes, and each of the coefficient memory 3514 and the region extraction unit 3515. To supply.
[2260]
In step S3525, the coefficient memory 3514 reads a prediction coefficient (group) to be used from the plurality of prediction coefficients (group) determined in advance by the learning process, based on the supplied class code, and performs a prediction calculation unit 3516. To supply.
[2261]
The learning process will be described later with reference to the flowchart in FIG.
[2262]
In step S3526, the region extraction unit 3515 corresponds to the supplied class code from the input image, the target pixel (SD pixel), and a relative position (one or more positions) from the preset target pixel. The pixels (SD pixels) located at each of the positions set independently of the class tap position (which may be the same position as the class tap position) are extracted as prediction taps and predicted. It supplies to the calculating part 3516.
[2263]
In step S3527, the prediction calculation unit 3516 calculates the prediction tap supplied from the region extraction unit 3515 using the prediction coefficient supplied from the coefficient memory 3514, generates a prediction image (HD image), and adds the addition unit 3503. Output to.
[2264]
Specifically, the prediction calculation unit 3516 determines each of the prediction taps supplied from the region extraction unit 3515 as c._i(I is an integer from 1 to n), and each of the prediction coefficients supplied from the coefficient memory 3514 is d_iAs a result, the HD pixel q ′ in the target pixel (SD pixel) is calculated by calculating the right side of the above-described equation (215), and the HD pixel q ′ is calculated as one pixel constituting the predicted image (HD image). Output. As a result, the input image class classification adaptation process is completed.
[2265]
Next, with reference to the flowchart in FIG. 284, the details of the “class classification adaptive process correction process” executed by the class classification adaptive process correction unit 3502 (FIG. 276) will be described.
[2266]
When a feature amount image (SD image) is input to the class classification adaptive processing correction unit 3502 as real world estimation information from the real world estimation unit 102, in step S3541, each of the region extraction unit 3551 and the region extraction unit 3555 is characterized. Enter a quantity image.
[2267]
In step S3542, the region extraction unit 3551, from the feature amount image, the pixel (SD pixel) located at each of the target pixel (SD pixel) and the relative position (one or more positions) from the target pixel set in advance. Pixel) is extracted as a class tap and supplied to the pattern detection unit 3552.
[2268]
Specifically, in this example, for example, a class tap (group) 3621 as shown in FIG. 285 is extracted. That is, FIG. 285 represents an example of class tap arrangement.
[2269]
In FIG. 285, the horizontal direction in the figure is the X direction, which is one direction in the spatial direction, and the vertical direction in the figure is the Y direction, which is the other direction in the spatial direction. Further, the pixel of interest is a pixel 3621-2.
[2270]
In this case, in the example of FIG. 285, the target pixel 3621-2, the pixel 3621-0 and the pixel 3621-4 adjacent to the target pixel 3621-2 with respect to the Y direction, and the target pixel 3621-2 with respect to the X direction. A pixel group 3621 composed of a total of five pixels, that is, the pixel 3621-1 and the pixel 3621-3 adjacent to the pixel 3621-1 is extracted as a class tap.
[2271]
Of course, the class tap arrangement is not limited to the example in FIG. 285 as long as it includes the target pixel 3621-2, and various arrangements are possible.
[2272]
Returning to FIG. 284, in step S 3543, the pattern detection unit 3552 detects the supplied class tap pattern and supplies it to the class code determination unit 3553.
[2273]
Specifically, in this example, the pattern detection unit 3552, for example, each pixel value of the five class taps 3621-0 to 3621-4 shown in FIG. Each of the (intra-pixel gradient) is detected as to which class among a plurality of preset classes, and the result of combining these detection results is output as a pattern.
[2274]
For example, assume that a pattern as shown in FIG. 286 is detected. That is, FIG. 286 shows an example of a class tap pattern.
[2275]
In FIG. 286, the horizontal axis in the figure represents the class tap, and the vertical axis in the figure represents the in-pixel inclination. Also, due to the in-pixel tilt, the class
Assume that three classes, 3631, 3632, and 3633 are preset.
[2276]
In this case, in the pattern shown in FIG. 286, class tap 3621-0 is class 3631, class tap 3621-1 is class 3631, class tap 3621-2 is class 3633, and class tap 3621-3 is class 3631. Class tap 3621-4 represents a pattern belonging to class 3632.
[2277]
As described above, each of the five class taps 3621-0 to 3621-4 belongs to one of the three classes 3631 to 3633. Therefore, in this example, a total of 273 (= 3 ^ 5) patterns including the pattern shown in FIG. 286 exist.
[2278]
Returning to FIG. 284, in step S3544, the class code determination unit 3553 determines a class code that matches the supplied class tap pattern from a plurality of preset class codes, and the correction coefficient memory 3554 It supplies to each of the area | region extraction parts 3555. In this case, since there are 273 patterns, the number of class codes set in advance is 273 (or more).
[2279]
In step S3545, the correction coefficient memory 3554 reads a correction coefficient (group) to be used from the plurality of correction coefficients (group) determined in advance by the learning process, based on the supplied class code, and performs a correction operation unit. 3556. Since each of the correction coefficients (groups) stored in the correction coefficient memory 3554 is associated with one of the preset class codes, in this case, the number of correction coefficients (groups) is The number is equal to the number of class codes set in advance (273 or more).
[2280]
The learning process will be described later with reference to the flowchart in FIG.
[2281]
In step S3546, the area extraction unit 3555 corresponds to the class code supplied from the input image, the pixel of interest (SD pixel), and a relative position (one or more positions) from the pixel of interest set in advance. A pixel (SD pixel) located at each of the positions (which may be the same position as the position of the class tap) is extracted as a prediction tap and corrected. It supplies to the calculating part 3556.
[2282]
Specifically, in this example, for example, it is assumed that a prediction tap (group) 3641 as illustrated in FIG. 287 is extracted. That is, FIG. 287 represents an example of the prediction tap arrangement.
[2283]
In FIG. 287, the horizontal direction in the figure is the X direction, which is one direction in the spatial direction, and the vertical direction in the figure is the Y direction, which is the other direction in the spatial direction. The target pixel is a pixel 3641-1. That is, the pixel 3641-1 is a pixel corresponding to the class tap 3621-2 (FIG. 285).
[2284]
In this case, in the example of FIG. 287, a 5 × 5 pixel group (pixel group composed of a total of 25 pixels) 3641 centered on the pixel of interest 3641-1 is extracted as a prediction tap (group). .
[2285]
Of course, the prediction tap arrangement is not limited to the example in FIG. 287 as long as it includes the target pixel 3641-1, and various arrangements are possible.
[2286]
Returning to FIG. 284, in step S3547, the correction calculation unit 3556 calculates the prediction tap supplied from the region extraction unit 3555 using the correction coefficient supplied from the correction coefficient memory 3554, and obtains a difference predicted image (HD image). Is output to the adder 3503 as a corrected image.
[2287]
More specifically, the correction calculation unit 3556 determines each prediction tap supplied from the region extraction unit 3555 as a_i(I is an integer from 1 to n), and each of the correction coefficients supplied from the correction coefficient memory 3554 is g_iAs described above, the HD pixel u ′ in the target pixel (SD pixel) is calculated by calculating the right side of the above-described equation (223), and the HD pixel u ′ is calculated as one pixel constituting the corrected image (HD image). Output. Thereby, the correction process of the class classification adaptive process is completed.
[2288]
Next, referring to the flowchart of FIG. 288, the learning process of the learning device (FIG. 268), that is, the prediction coefficient used by the class classification adaptive processing unit 3501 (FIG. 267) and the class classification adaptive processing correction unit 3502 (FIG. 276) will be described learning processing for generating each of the correction coefficients by learning.
[2289]
In step S3561, the class classification adaptation processing learning unit 3521 generates a prediction coefficient used by the class classification adaptation processing unit 3501.
[2290]
That is, the class classification adaptive processing learning unit 3521 inputs a predetermined image as a first teacher image (HD image), lowers the resolution of the first teacher image, and outputs the first student image (SD image). Generate.
[2291]
Then, the class classification adaptive processing learning unit 3521 generates a prediction coefficient that can appropriately predict the first teacher image (HD image) from the first student image (SD image) by the class classification adaptive processing. And stored in the coefficient memory 3514 (FIG. 267) of the class classification adaptive processing unit 3501.
[2292]
Hereinafter, the processing in step S3561 executed by the class classification adaptive processing learning unit 3521 is referred to as “class classification adaptive processing learning processing”. Details of the “learning process for class classification adaptation process” in this example will be described later with reference to the flowchart of FIG.
[2293]
When the prediction coefficient used by the class classification adaptive processing unit 3501 is generated, the class classification adaptive processing correction learning unit 3561 generates a correction coefficient used by the class classification adaptive processing correction unit 3502 in step S3562.
[2294]
That is, the class classification adaptive processing correction learning unit 3561 has the first teacher image, the first student image, and the learning prediction image (by the class classification adaptive processing learning unit 3521) than the class classification adaptive processing learning unit 3521. Each of the first predicted teacher images) is input using the generated prediction coefficient.
[2295]
Next, the class classification adaptive processing correction learning unit 3561 generates a difference image between the first teacher image and the prediction image for learning as the second teacher image, and the first student image as the second student image. A feature image is generated from the image.
[2296]
Then, the class classification adaptive processing correction learning unit 3561 generates a prediction coefficient capable of appropriately predicting the second teacher image (HD image) from the second student image (SD image) by the class classification adaptive processing. Then, it is stored in the correction coefficient memory 3554 of the class classification adaptive processing correction unit 3502 as a correction coefficient. Thereby, the learning process ends.
[2297]
Hereinafter, the process of step S3562 executed by the class classification adaptive process correction learning unit 3561 is referred to as a “class classification adaptive process correction learning process”. Details of the “class classification adaptive process correction learning process” in this example will be described later with reference to the flowchart of FIG. 290.
[2298]
Next, referring to the drawings, the details of the “class classification adaptive process learning process (process of step S3561)” and the “class classification adaptive process correction learning process (process of step S3562)” in this example will be described. Will be described individually in that order.
[2299]
First, with reference to the flowchart of FIG. 289, the details of the “class classification adaptive processing learning process” executed by the class classification adaptive processing learning unit 3521 (FIG. 269) will be described.
[2300]
In step S3581, each of the down-conversion unit 3531 and the normal equation generation unit 3536 inputs the supplied predetermined image as a first teacher image (HD image). Note that the first teacher image is also input to the class classification adaptive processing correction learning unit 3561 as described above.
[2301]
In step S3582, the down-conversion unit 3531 down-converts the input first teacher image (decreases the resolution) to generate a first student image (SD image). The region extraction unit 3532 and the region extraction unit 3535 and also output to the class classification adaptive processing correction learning unit 3561.
[2302]
In step S3583, the region extraction unit 3532 extracts class taps from the supplied first student image and outputs the class taps to the pattern detection unit 3533. In the process of step S3583, the information input to the block and the information output from the block are strictly different information (hereinafter, such differences are simply referred to as input / output differences). This process is basically the same as the process in step S3522 (FIG. 283) described above.
[2303]
In step S3584, the pattern detection unit 3533 detects a pattern for determining a class code from the supplied class tap and supplies the pattern to the class code determination unit 3534. Note that the process of step S3584 is basically the same process as the process of step S3523 (FIG. 283) described above, although there is a difference in input and output.
[2304]
In step S3585, the class code determination unit 3534 determines a class code based on the supplied class tap pattern, and supplies the class code to each of the region extraction unit 3535 and the normal equation generation unit 3536. Note that the process of step S3585 is basically the same as the process of step S3524 (FIG. 283) described above, although there is a difference in input and output.
[2305]
In step S3586, the region extraction unit 3535 extracts a prediction tap from the first student image corresponding to the supplied class code, and supplies it to each of the normal equation generation unit 3536 and the prediction calculation unit 3538. Note that the process of step S3586 is basically the same as the process of step S3526 (FIG. 283) described above, although there is a difference in input and output.
[2306]
In step S3587, the normal equation generation unit 3536 uses the prediction tap (SD pixel) supplied from the region extraction unit 3535 and a predetermined HD pixel among the HD pixels constituting the first teacher image (HD image). Then, a normal equation represented by the above equation (217) (that is, equation (221)) is generated and supplied to the coefficient determining unit 3537 together with the class code supplied from the class code determining unit 3534.
[2307]
In step S3588, the coefficient determination unit 3537 determines the prediction coefficient by solving the supplied normal equation, that is, calculates the prediction coefficient by calculating the right side of the above-described equation (222), and supplies the supplied class code. And stored in the coefficient memory 3514 and supplied to the prediction calculation unit 3538.
[2308]
In step S3589, the prediction calculation unit 3538 calculates the prediction tap supplied from the region extraction unit 3535 using the prediction coefficient supplied from the coefficient determination unit 3537, and generates a learning prediction image (HD pixel).
[2309]
Specifically, the prediction calculation unit 3538 calculates each of the prediction taps supplied from the region extraction unit 3535 as c._i(I is an integer from 1 to n), and each of the prediction coefficients supplied from the coefficient determination unit 3537 is d_iAs a result, the HD pixel q ′ obtained by predicting the predetermined HD pixel q of the first teacher image is calculated by calculating the right side of the above-described equation (215), and the HD pixel q ′ is calculated as 1 of the predicted image for learning. One pixel.
[2310]
In step S3590, it is determined whether or not processing has been performed for all pixels. If it is determined that processing has not been performed for all pixels, the processing returns to step S3583. That is, the processes in steps S3583 to S3590 are repeated until the processing of all pixels is completed.
[2311]
If it is determined in step S3590 that all the pixels have been processed, in step S3591, the prediction calculation unit 3538 is configured from the learning prediction image (each HD pixel q ′ generated for each processing in step S3589). Output to the class classification adaptive processing correction learning unit 3561. Thereby, the learning process for the class classification adaptation process is completed.
[2312]
As described above, in this example, after the processing of all the pixels is completed, a learning predicted image that is an HD image obtained by predicting the first teacher image is output to the class classification adaptive processing correction learning unit 3561. . That is, all HD pixels (predicted pixels) are output at once.
[2313]
However, it is not essential that all the pixels are output in a lump, and every time an HD pixel (predicted pixel) is generated in the processing of step S3589, it is output to the class classification adaptive processing correction learning unit 3561. Good. In this case, the process of step S3591 is omitted.
[2314]
Next, details of the “class classification adaptive processing correction learning process” executed by the class classification adaptive processing correction learning unit 3561 (FIG. 277) will be described with reference to the flowchart of FIG. 290.
[2315]
When the first teacher image (HD image) and the predicted learning image (HD image) are input from the class classification adaptive processing learning unit 3521, in step S3601, the adding unit 3571 uses the first teacher image for learning. The prediction image is subtracted to generate a difference image (HD image), which is supplied to the normal equation generation unit 3578 as the second teacher image.
[2316]
In addition, when the first student image (SD image) is input from the class classification adaptive processing learning unit 3521, in step S3602, the data continuity detecting unit 3572 and the real world estimating unit 3573 input the first first image. A feature amount image is generated from the student image (SD image), and is supplied as a second student image to each of the region extraction unit 3574 and the region extraction unit 3577.
[2317]
That is, the data continuity detection unit 3572 detects the continuity of the data included in the first student image, and outputs the detection result (in this case, the angle) to the real world estimation unit 3573 as data continuity information. . Note that the processing of the data continuity detection unit 3572 in step S3602 is basically the same as the processing in step S101 in FIG. 40 described above, although there is a difference in input and output.
[2318]
The real world estimation unit 3573 generates real world estimation information (in this case, a feature image that is an SD image) based on the input angle (data continuity information), and uses this as a second student image as a region. This is supplied to each of the extraction unit 3574 and the region extraction unit 3577. Note that the processing of the real world estimation unit 3573 in step S3602 is basically the same as the processing in step S102 in FIG. 40 described above, although there is a difference in input and output.
[2319]
Further, the order of the processes in steps S3601 and S3602 is not limited to the example in FIG. That is, the process of step S3602 may be executed first, or the processes of steps S3601 and S3602 may be executed simultaneously.
[2320]
In step S3603, the region extraction unit 3574 extracts class taps from the supplied second student image (feature amount image) and outputs the class taps to the pattern detection unit 3575. Note that the process of step S3603 is basically the same as the process of step S3542 (FIG. 284) described above, although there is a difference in input and output. That is, in this case, the pixel group 3621 having the arrangement shown in FIG. 285 is extracted as a class tap.
[2321]
In step S3604, the pattern detection unit 3575 detects a pattern for determining a class code from the supplied class tap and supplies the pattern to the class code determination unit 3576. Note that the process in step S3604 is basically the same as the process in step S3543 (FIG. 284) described above, although there is a difference in input and output. That is, in this case, when the learning process is finished, at least 273 patterns are detected.
[2322]
In step S3605, the class code determination unit 3576 determines a class code based on the supplied class tap pattern, and supplies the class code to each of the region extraction unit 3577 and the normal equation generation unit 3578. Note that the process of step S3605 is basically the same process as the process of step S3544 (FIG. 284) described above, although there is a difference in input and output. That is, in this case, when the learning process is ended, at least 273 class codes are determined.
[2323]
In step S3606, the region extraction unit 3577 extracts a prediction tap from the second student image (feature amount image) corresponding to the supplied class code, and supplies the prediction tap to the normal equation generation unit 3578. Note that the process in step S3606 is basically the same as the process in step S3546 (FIG. 284) described above, although there is a difference in input and output. That is, in this case, the pixel group 3641 having the arrangement shown in FIG. 287 is extracted as a prediction tap.
[2324]
In step S3607, the normal equation generation unit 3578 includes the prediction tap (SD pixel) supplied from the region extraction unit 3577, and the second teacher image (the first teacher image and the learning prediction image that are HD images). The normal equation represented by the above-described equation (226) (that is, the equation (230)) is generated from predetermined HD pixels among the HD pixels constituting the difference image), and the class supplied from the class code determination unit 3576 It is supplied to the correction coefficient determination unit 3579 together with the code.
[2325]
In step S3608, the correction coefficient determination unit 3579 determines the correction coefficient by solving the supplied normal equation, that is, calculates the correction coefficient by calculating the right side of the above equation (231), and supplies the supplied class. It is stored in the correction coefficient memory 3554 in association with the code.
[2326]
In step S3609, it is determined whether or not processing has been performed for all pixels. If it is determined that processing has not been performed for all pixels, the processing returns to step S3603. That is, the processes in steps S3603 to S3609 are repeated until the processes for all the pixels are completed.
[2327]
If it is determined in step S3609 that the processing has been performed for all the pixels, the class classification adaptive processing correction learning processing ends.
[2328]
As described above, in the class classification adaptive correction processing method, the corrected image (difference predicted image) output from the class classification adaptive processing correction unit 3502 with respect to the predicted image output from the class classification adaptive processing unit 3501. Are added and output.
[2329]
For example, when the SD image 3542, which is an image obtained by reducing the resolution of the HD image 3541 shown in FIG. 270 described above, is used as the input image, the class classification adaptive processing unit 3501 outputs the predicted image 3543 shown in FIG. Is done. When a corrected image (not shown) output from the class classification adaptive processing correction unit 3502 is added to the predicted image 3543 (corrected by the corrected image), an output image 3651 shown in FIG. 271 is obtained. Become.
[2330]
When comparing the output image 3651, the predicted image 3543, and the original HD image 3541 (FIG. 270), the output image 3651 is closer to the HD image 3541 than the predicted image 3543. I understand.
[2331]
As described above, in the class classification adaptive processing correction method, an image closer to the original image (the signal of the real world 1 before being incident on the sensor 2) than the other conventional methods including the class classification adaptive processing. Can be output.
[2332]
In other words, in the class classification adaptive processing correction method, for example, the data continuity detection unit 101 in FIG. 266 is illustrated by a plurality of detection elements of a sensor (for example, sensor 2 in FIG. 266) each having a spatiotemporal integration effect. Data in an input image (FIG. 266) composed of a plurality of pixels having pixel values projected by the detection element, in which a real-world optical signal 1 of 266 is projected and a part of the continuity of the real-world optical signal is lost. Detects stationarity.
[2333]
For example, the real world estimation unit 102 in FIG. 266 corresponds to the continuity of the detected data, and the real world feature (for example, the optical signal function F (x) (FIG. 275) representing the optical signal in the real world 1 (for example, , The optical signal of the real world 1 is estimated by detecting the characteristic amount corresponding to the pixels constituting the feature amount image of FIG.
[2334]
Specifically, for example, the real-world estimation unit 102 determines the distance (for example, the cross section of FIG. 280) along at least a one-dimensional direction from the line (for example, the line 3604 of FIG. 280) corresponding to the continuity of the output data. Assuming that the pixel value of the pixel corresponding to the direction distance Xn ′) is a pixel value acquired by at least a one-dimensional integration effect, the optical signal function F (x) is expressed by, for example, the approximation function f in FIG._FiveIt is approximated by (x), and is an in-pixel gradient (for example, grad of the above-mentioned equation (234), which is the gradient of the approximation function f5 (x) within a predetermined pixel (for example, the pixel 3603 in FIG. 280). ) Is detected as a real-world feature to estimate the real-world 1 optical signal.
[2335]
Then, for example, the image generation unit 103 in FIG. 266 predicts and generates an output image (FIG. 266) with a higher quality than the input image based on the real world feature detected by the real world estimation means.
[2336]
In detail, for example, in the image generation unit 103, for example, the class classification adaptation processing unit 3501 in FIG. 266 is located around the pixel of interest in the output image, and the input image lacking the continuity of the optical signal of the real world 1 The pixel value of the target pixel (for example, the pixel of the predicted image in FIG. 266 and q ′ in the above-described formula (224)) is predicted from the pixel values of the plurality of pixels.
[2337]
On the other hand, for example, the class classification adaptive processing correction unit 3502 in FIG. 266 is predicted by the class classification adaptive processing unit 3501 from the feature amount image (real world estimation information) supplied from the real world estimation unit 102 in FIG. 266, for example. Then, a correction term for correcting the pixel value of the target pixel of the predicted image (for example, a pixel of the corrected image (difference predicted image) in FIG. 266 and u ′ in Expression (224)) is predicted.
[2338]
For example, the adding unit 3503 in FIG. 266 corrects the pixel value of the target pixel of the predicted image predicted by the class classification adaptive processing unit 3501 using the correction term predicted by the class classification adaptive processing unit 3501 (for example, (Calculation is performed as in equation (224)).
[2339]
In the class classification adaptive processing correction method, for example, the class classification adaptive processing learning unit 3521 in FIG. 268 that determines the prediction coefficient stored in the coefficient memory 3514 in FIG. 267 by learning, and the correction coefficient memory in FIG. 276, for example. The learning apparatus 3504 of FIG. 268 having the class classification adaptive processing correction learning unit 3561 of FIG. 268 that determines the correction coefficient stored in 3554 by learning is provided.
[2340]
Specifically, for example, the class classification adaptive processing learning unit 3521 in FIG. 269 includes a down-conversion unit 3531 that down-converts learning image data, and the learning image data as the first teacher image, and the down-conversion unit 3531. The learning image data down-converted by the above is used as a first student image, and a coefficient determination unit 3537 for generating a prediction coefficient by learning the relationship between the first teacher image and the first student image, and region extraction A unit 3532 to a normal equation generation unit 3536 are provided.
[2341]
The class classification adaptive processing learning unit 3521 further learns as image data for predicting the first teacher image from the first student image using, for example, the prediction coefficient generated (determined) by the coefficient determination unit 3537. A prediction calculation unit 3538 for generating a prediction image for use is provided.
[2342]
Also, for example, the class classification adaptive processing correction learning unit 3561 in FIG. 277 detects data continuity in the first student image, and configures the first student image based on the detected data continuity. A real world feature corresponding to each of the pixels to be detected, and a feature amount image (specifically, for example, a feature amount image 3591 in FIG. 279) having a value corresponding to the detected real world feature as a pixel value, Data continuity detection unit 3572 and real world estimation unit 3573 to be generated as a second student image (for example, the second student image in FIG. 277), image data comprising the difference between the first teacher image and the learning predicted image An addition unit 3571 that generates a (difference image) as a second teacher image, and a correction coefficient determination unit 357 that generates a correction coefficient by learning the relationship between the second teacher image and the second student image. And the region extracting unit 3574 through the normal equation generating unit 3578 is provided.
[2343]
Therefore, in the class classification adaptive processing correction method, an output of an image closer to the original image (the signal of the real world 1 before being incident on the sensor 2) than the other conventional methods including the class classification adaptive processing. Is possible.
[2344]
As described above, the class classification adaptive process is not included in the SD image, but is different from, for example, a simple interpolation process in that a component included in the HD image is reproduced. That is, as long as only the above-described equations (215) and (223) are seen, it looks the same as the interpolation processing using a so-called interpolation filter, but in the class classification adaptive processing, a prediction coefficient corresponding to the coefficient of the interpolation filter d_iOr supplemental coefficient g_iAre obtained by learning using teacher data and student data (the first teacher image and the first student image, or the second teacher image and the second student image), and the components included in the HD image Can be reproduced. Therefore, the class classification adaptation process as described above can be referred to as a process having an image creation (resolution creation) function.
[2345]
Furthermore, in the above-described example, the case where the spatial resolution is improved has been described as an example. However, according to the class classification adaptive processing, various coefficients obtained by performing learning by changing teacher data and student data are used. Thus, for example, it is possible to improve S / N (Signal to Noise Ratio), improve blurring, and perform various other processes.
[2346]
That is, for example, in order to improve S / N and blur by class classification adaptive processing, image data having a high S / N is used as teacher data, and an image obtained by reducing the S / N of the teacher data is used. What is necessary is just to obtain | require a coefficient by making (or a blurred image) into student data.
[2347]
As described above, the signal processing apparatus having the configuration of FIG. 3 has been described as an embodiment of the present invention, but the embodiment of the present invention is not limited to the example of FIG. 3 and can take various forms. . That is, the embodiment of the signal processing device 4 of FIG. 1 is not limited to the example of FIG. 3, and can take various forms.
[2348]
For example, the signal processing apparatus having the configuration of FIG. 3 performs signal processing based on the continuity of the real world 1 signal, which is an image. For this reason, the signal processing apparatus having the configuration shown in FIG. 3 performs more accurate signal processing than the signal processing of other signal processing apparatuses for a portion of the real world 1 signal in which stationarity exists. As a result, it is possible to output image data closer to a real world 1 signal.
[2349]
However, since the signal processing apparatus having the configuration shown in FIG. 3 executes signal processing based on continuity, the constancy is present for a portion of the real world 1 signal where there is no clear continuity. The signal processing cannot be executed with the same accuracy as the processing for the portion, and as a result, image data including an error is output for the signal of the real world 1.
[2350]
Therefore, an apparatus (or a program or the like) that performs other signal processing that does not use continuity can be added to the signal processing apparatus having the configuration shown in FIG. In this case, the signal processing apparatus configured as shown in FIG. 3 executes signal processing for a portion of the real world 1 signal that has continuity, and there is no clear continuity of the real world 1 signal. For the part, other added devices (or programs, etc.) execute signal processing. Hereinafter, such an embodiment is referred to as a combined method.
[2351]
Hereinafter, with reference to FIGS. 292 to 305, five specific combined methods (hereinafter, each combined method will be referred to as first to fifth combined methods) will be described.
[2352]
It does not matter whether each function of the signal processing apparatus to which each combination method is applied is realized by hardware or software. That is, each of the block diagrams of FIGS. 292 to 294, 298, 300, 302, and 304, which will be described later, may be considered as a hardware block diagram or as a functional block diagram based on software.
[2353]
FIG. 292 illustrates a configuration example of a signal processing device to which the first combined technique is applied.
[2354]
In the signal processing device of FIG. 292, image data, which is an example of data 3 (FIG. 1), is input, and image processing described later is performed based on the input image data (input image) to generate an image. The generated image (output image) is output. That is, FIG. 292 is a diagram illustrating a configuration of the signal processing device 4 (FIG. 1) which is an image processing device.
[2355]
An input image (image data which is an example of data 3) input to the signal processing device 4 is supplied to each of the data continuity detection unit 4101, the real world estimation unit 4102, and the image generation unit 4104.
[2356]
The data continuity detection unit 4101 detects data continuity from the input image, and supplies data continuity information indicating the detected continuity to the real world estimation unit 4102 and the image generation unit 4103.
[2357]
As described above, the data continuity detection unit 4101 has basically the same configuration and function as the data continuity detection unit 101 of FIG. Therefore, the data continuity detecting unit 4101 can take the various embodiments described above.
[2358]
However, the data continuity detecting unit 4101 further generates information for specifying the region of the target pixel (hereinafter referred to as region specifying information) and supplies the information to the region detecting unit 4111.
[2359]
The area specifying information is not particularly limited, and may be information newly generated after the data continuity information is generated, or may be information generated when the data continuity information is generated.
[2360]
Specifically, for example, an estimation error can be used as the area specifying information. That is, for example, when the data continuity detecting unit 4101 calculates an angle as data continuity information and calculates the angle by the least square method, an estimation error is additionally calculated by the calculation of the least square method. . This estimation error can be used as region specifying information.
[2361]
The real world estimation unit 4102 estimates a signal of the real world 1 (FIG. 1) based on the input image and the data continuity information supplied from the data continuity detection unit 4101. That is, the real world estimation unit 4102 estimates an image that is a signal of the real world 1 that is incident on the sensor 2 (FIG. 1) when an input image is acquired. The real world estimation unit 4102 supplies real world estimation information indicating the estimation result of the signal of the real world 1 to the image generation unit 4103.
[2362]
As described above, the real world estimation unit 4102 has basically the same configuration and function as the real world estimation unit 102 of FIG. 3. Accordingly, the real world estimation unit 4102 can take the various embodiments described above.
[2363]
The image generation unit 4103 generates and generates a signal approximated to the real world 1 signal based on the real world estimation information indicating the estimated real world 1 signal supplied from the real world estimation unit 4102. The signal is supplied to the selector 4112. Alternatively, the image generation unit 4103 is based on the data continuity information supplied from the data continuity detection unit 4101 and the real world estimation information indicating the estimated real world 1 signal supplied from the real world estimation unit 4102. Thus, a signal approximated by the signal of the real world 1 is generated, and the generated signal is supplied to the selector 4112.
[2364]
That is, the image generation unit 4103 generates an image approximated to the image of the real world 1 based on the real world estimation information, and supplies the image to the selector 4112. Alternatively, the image generation unit 4103 generates an image approximated to the image of the real world 1 based on the data continuity information and the real world estimation information, and supplies the image to the selector 4112.
[2365]
As described above, the image generation unit 4103 has basically the same configuration and function as the image generation unit 103 of FIG. Therefore, the image generation unit 4103 can take the various embodiments described above.
[2366]
The image generation unit 4104 performs predetermined image processing on the input image, generates an image, and supplies the image to the selector 4112.
[2367]
Note that the image processing executed by the image generation unit 4104 is not particularly limited as long as it is different from the image processing executed by the data continuity detection unit 4101, the real world estimation unit 4102, and the image generation unit 4103.
[2368]
For example, the image generation unit 4104 can perform conventional class classification adaptation processing. A configuration example of the image generation unit 4104 that executes the class classification adaptation process is shown in FIG. The description of FIG. 293, that is, the details of the image generation unit 4104 that executes the class classification adaptation process will be described later. The class classification adaptation process will also be described together with the description of FIG.
[2369]
The steady region detection unit 4105 is provided with a region detection unit 4111 and a selector 4112.
[2370]
Based on the region specifying information supplied from the data continuity detecting unit 4101, the region detecting unit 4111 determines whether the image (target pixel) supplied to the selector 4112 is a steady region or an unsteady region. The detection result is supplied to the selector 4112.
[2371]
Note that the region detection processing executed by the region detection unit 4111 is not particularly limited. For example, when the above-described estimation error is supplied as the region specifying information, the region detection unit 4111 determines that the supplied estimation error is a predetermined value. When the threshold value is smaller than the threshold value, the target pixel of the input image is detected to be a stationary region. On the other hand, when the supplied estimation error is equal to or greater than a predetermined threshold value, the target pixel of the input image is detected to be a non-stationary region. .
[2372]
The selector 4112 selects and selects either the image supplied from the image generation unit 4103 or the image supplied from the image generation unit 4104 based on the detection result supplied from the region detection unit 4111. The output image is output to the outside as an output image.
[2373]
That is, when the region detection unit 4111 detects that the target pixel is a steady region, the selector 4112 displays the image supplied from the image generation unit 4103 (the pixel generated by the image generation unit 4103 in the target pixel of the input image). ) As the output image.
[2374]
On the other hand, when the region detection unit 4111 detects that the target pixel is an unsteady region, the selector 4112 displays the image supplied from the image generation unit 4104 (the image generation unit 4104 in the target pixel of the input image). The generated pixel) is selected as the output image.
[2375]
Depending on the external output destination, the selector 4112 can output an output image in units of pixels (output for each selected pixel), or processed pixels until processing of all pixels is completed. When all pixels are processed, all the pixels can be output at once (with the entire output image as one unit).
[2376]
Next, with reference to FIG. 293, details of the image generation unit 4104 that executes class classification adaptation processing, which is an example of image processing, will be described.
[2377]
In FIG. 293, the class classification adaptation process executed by the image generation unit 4104 is, for example, a process for improving the spatial resolution of the input image. That is, it is assumed that the processing is to convert an input image that is a standard resolution image into a predicted image that is a high resolution image.
[2378]
In the following description, a standard resolution image is appropriately referred to as an SD (Standard Definition) image, and pixels constituting the SD image are appropriately referred to as SD pixels.
[2379]
Also in the following description, a high-resolution image is appropriately referred to as an HD (High Definition) image, and pixels constituting the HD image are appropriately referred to as HD pixels.
[2380]
Specifically, the class classification adaptation process executed by the image generation unit 4104 is as follows.
[2381]
That is, first, in order to obtain the HD pixel of the predicted image (HD image) in the target pixel (SD pixel) of the input image (SD image), the SD pixel (hereinafter referred to as the following) including the target pixel is included. Also in the description, each feature amount of such SD pixel is referred to as a class tap), and a class previously classified for each feature amount is specified (a class code of a class tap group is specified) To do).
[2382]
And each coefficient which comprises the coefficient group corresponding to the specified class code among the plurality of preset coefficient groups (each coefficient group corresponds to one predetermined class code) SD pixels in the vicinity including the target pixel (in the following description, such SD pixels of the input image are referred to as prediction taps. Note that the prediction tap may be the same as the class tap. ) Is used to calculate the HD pixel of the predicted image (HD image) in the target pixel (SD pixel) of the input image (SD image).
[2383]
More specifically, in FIG. 1, when a signal of the real world 1 (light intensity distribution), which is an image, enters the sensor 2, an input image is output from the sensor 2.
[2384]
In FIG. 293, this input image (SD image) is supplied to the region extraction unit 4121 and the region extraction unit 4125 of the image generation unit 4104, respectively. The region extraction unit 4125 extracts class taps (SD pixels existing in a preset position including a target pixel (SD pixel)) necessary for class classification from the supplied input image, and a pattern detection unit 4122. The pattern detection unit 4122 detects the pattern of the input image based on the input class tap.
[2385]
The class code determination unit 4123 determines a class code based on the pattern detected by the pattern detection unit 4122 and outputs the class code to the coefficient memory 4124 and the region extraction unit 4125. The coefficient memory 4124 stores a coefficient for each class code obtained in advance by learning, reads a coefficient corresponding to the class code input from the class code determination unit 4123, and outputs the coefficient to the prediction calculation unit 4126.
[2386]
The coefficient learning process of the coefficient memory 4124 will be described later with reference to the block diagram of the learning apparatus in FIG.
[2387]
The coefficient stored in the coefficient memory 4124 is a coefficient used when generating a predicted image (HD image), as will be described later. Therefore, hereinafter, the coefficient stored in the coefficient memory 4124 is referred to as a prediction coefficient.
[2388]
Based on the class code input from the class code determination unit 4123, the region extraction unit 4125 performs prediction necessary for predicting and generating a predicted image (HD image) from the input image (SD image) input from the sensor 2. A tap (an SD pixel existing at a preset position including the target pixel) is extracted corresponding to the class code and output to the prediction calculation unit 4126.
[2389]
The prediction calculation unit 4126 performs a product-sum operation using the prediction tap input from the region extraction unit 4125 and the prediction coefficient input from the coefficient memory 4124, and performs a pixel of interest (SD pixel) of the input image (SD image). ) Of the predicted image (HD image) in FIG.
[2390]
More specifically, the coefficient memory 4124 outputs a prediction coefficient corresponding to the class code supplied from the class code determination unit 4123 to the prediction calculation unit 4126. The prediction calculation unit 4126 uses the prediction tap extracted from the pixel value at a predetermined pixel position of the input image supplied from the region extraction unit 4125 and the prediction coefficient supplied from the coefficient memory 4124, and uses the following formula ( 237) is performed to obtain (predict and estimate) HD pixels of the predicted image (HD image).
[2391]
[Formula 188]

... (237)
[2392]
In Expression (237), q ′ represents an HD pixel of the predicted image (HD image). c_iEach (i is an integer value from 1 to n) represents each prediction tap (SD pixel). D_iEach represents a prediction coefficient.
[2393]
As described above, the image generation unit 4104 predicts and estimates the HD image corresponding to the SD image (input image). Therefore, the HD image output from the image generation unit 4104 is referred to as a predicted image.
[2394]
FIG. 294 shows a prediction coefficient (d in Expression (237)) stored in the coefficient memory 4124 of such an image generation unit 4104._i) Represents a learning device (prediction coefficient calculation device).
[2395]
In FIG. 294, a predetermined image is input as a teacher image (HD image) to each of the down-conversion unit 4141 and the normal equation generation unit 4146.
[2396]
The down-conversion unit 4146 generates a student image (SD image) having a resolution lower than that of the teacher image from the input teacher image (HD image) (the student image is a down-converted teacher image), and a region extraction unit 4142 and the region extraction unit 4145.
[2397]
Thus, since the learning device 4131 includes the down-conversion unit 4141, the teacher image (HD image) does not need to be a higher resolution image than the input image from the sensor 2 (FIG. 1). . This is because if the student image obtained by down-converting the teacher image (reduced resolution) is an SD image, the teacher image corresponding to the student image becomes an HD image. Therefore, the teacher image may be the input image itself from the sensor 2, for example.
[2398]
The area extraction unit 4142 extracts class taps (SD pixels) necessary for class classification from the student images (SD images) supplied from the down-conversion unit 4141 and outputs the class taps (SD pixels) to the pattern detection unit 4143. The pattern detection unit 4143 detects the input class tap pattern and outputs the detection result to the class code determination unit 4144. The class code determination unit 4144 determines a class code corresponding to the input pattern, and outputs the class code to each of the region extraction unit 4145 and the normal equation generation unit 4146.
[2399]
The area extraction unit 4145 extracts a prediction tap (SD pixel) from the student image (SD image) input from the down-conversion unit 4141 based on the class code input from the class code determination unit 4144, and generates a normal equation generation unit. 4146 is output.
[2400]
Note that the region extraction unit 4142, pattern detection unit 4143, class code determination unit 4144, and region extraction unit 4145 described above are the region extraction unit 4121, pattern detection unit 4122, and class code determination of the image generation unit 4104 in FIG. Each of the unit 4123 and the region extraction unit 4125 has basically the same configuration and function.
[2401]
The normal equation generation unit 4146 has a prediction tap (SD pixel) of a student image (SD image) input from the region extraction unit 4145 for each class code with respect to all the class codes input from the class code determination unit 4144. Then, a normal equation is generated from the HD pixels of the teacher image (HD image) and supplied to the coefficient determination unit 4147.
[2402]
When a normal equation corresponding to a predetermined class code is supplied from the normal equation generation unit 4146, the coefficient determination unit 4147 calculates each prediction coefficient from the normal equation and stores it in the coefficient memory 4124 in association with the class code. Let
[2403]
The normal equation generation unit 4146 and the coefficient determination unit 4147 will be described in more detail.
[2404]
In the above equation (237), before learning, the prediction coefficient d_iEach is an undetermined coefficient. Learning is performed by inputting HD pixels of a plurality of teacher images (HD images) for each class code. There are m HD pixels corresponding to a predetermined class code, and each of the m HD pixels is represented by q_kWhen described as (k is an integer value of 1 to m), the following equation (238) is set from the equation (237).
[2405]
[Formula 189]

... (238)
[2406]
That is, the equation (238) is obtained by calculating the right side to obtain a predetermined HD pixel q_kRepresents that it is possible to predict and estimate. In equation (238), e_kRepresents an error. That is, the HD pixel q of the predicted image (HD image) that is the calculation result on the right side_k'Is the actual HD pixel q_kDoes not exactly match the predetermined error e_kincluding.
[2407]
Therefore, in equation (238), the error e_kPrediction coefficient d that minimizes the sum of squares of_iIs obtained by learning, its prediction coefficient d_iIs the actual HD pixel q_kIt can be said that this is the optimal coefficient for predicting
[2408]
Thus, for example, m pixels (m is an integer greater than n) HD pixels q collected by learning._kUsing the least squares method, the optimal prediction coefficient d_iCan be uniquely determined.
[2409]
That is, the prediction coefficient d on the right side of Equation (238)_iA normal equation in the case of obtaining the value by the method of least squares is represented by the following equation (239).
[2410]
[Formula 190]

... (239)
[2411]
Accordingly, if the normal equation represented by the equation (239) is generated, the prediction coefficient d is solved by solving the normal equation._iIs uniquely determined.
[2412]
Specifically, when each matrix of the normal equation represented by the equation (239) is defined as the following equations (240) to (242), the normal equation is expressed as the following equation (243): expressed.
[2413]
[Formula 191]

... (240)
[2414]
192

... (241)
[2415]
[Equation 193]

... (242)
[2416]
194

... (243)
[2417]
As shown in equation (241), the matrix D_MATEach component of_iIt is. Therefore, in the equation (243), the left side matrix C_MATAnd right-hand side matrix Q_MATIs determined, the matrix D is obtained by matrix solution._MAT(Ie, prediction coefficient d_i) Can be calculated.
[2418]
More specifically, as shown in the equation (240), the matrix C_MATEach component of the prediction tap c_ikIf is known, computation is possible. Prediction tap c_ikIs extracted by the region extraction unit 4145, the normal equation generation unit 4146 receives the prediction tap c supplied from the region extraction unit 4145._ikMatrix C using each of_MATEach component of can be calculated.
[2419]
Further, as shown in the equation (242), the matrix Q_MATEach component of the prediction tap c_ikAnd HD pixel q_kIf is known, computation is possible. Prediction tap c_ikIs the matrix C_MATAre the same as those included in each component of HD pixel q_kIs the prediction tap c_ikAre the HD pixels of the teacher image with respect to the target pixel (SD pixel of the student image) included in. Therefore, the normal equation generation unit 4146 has the prediction tap c supplied from the region extraction unit 4145._ikAnd the matrix Q using the teacher image_MATEach component of can be calculated.
[2420]
In this way, the normal equation generation unit 4146 performs the matrix C for each class code._MATAnd matrix Q_MATAre calculated and the calculation result is supplied to the coefficient determination unit 4147 in association with the class code.
[2421]
The coefficient determination unit 4147, based on the normal equation corresponding to the supplied predetermined class code, the matrix D of the equation (243) described above._MATPrediction coefficient d which is each component of_iIs calculated.
[2422]
Specifically, the normal equation of the above equation (243) can be transformed as the following equation (244).
[2423]
195

... (244)
[2424]
In equation (244), the left-hand side matrix D_MATEach component of_iIt is. Matrix C_MATAnd matrix Q_MATEach of the components is supplied from the normal equation generation unit 4146. Therefore, the coefficient determination unit 4147 receives a matrix C corresponding to a predetermined class code from the normal equation generation unit 4146._MATAnd matrix Q_MATWhen the respective components are supplied, the matrix D is calculated by performing the matrix operation on the right side of Expression (244)._MATAnd the calculation result (prediction coefficient d_i) Is stored in the coefficient memory 4124 in association with the class code.
[2425]
As described above, the class classification adaptive process is not included in the SD image, but is different from, for example, a simple interpolation process in that a component included in the HD image is reproduced. That is, in the adaptive process, as long as only the above-described equation (237) is seen, it looks the same as the interpolation process using the so-called interpolation filter, but the prediction coefficient d corresponding to the coefficient of the interpolation filter._iHowever, since it is obtained by learning using teacher data and student data, the components included in the HD image can be reproduced. Therefore, the class classification adaptation process as described above can be referred to as a process having an image creation (resolution creation) function.
[2426]
Furthermore, in the above-described example, the case where the spatial resolution is improved has been described as an example. However, according to the class classification adaptive processing, various coefficients obtained by performing learning by changing teacher data and student data are used. Thus, for example, it is possible to improve S / N (Signal to Noise Ratio), improve blurring, and perform various other processes.
[2427]
That is, for example, in order to improve S / N and blur by class classification adaptive processing, image data having a high S / N is used as teacher data, and an image obtained by reducing the S / N of the teacher data is used. What is necessary is just to obtain | require a coefficient by making (or a blurred image) into student data.
[2428]
Heretofore, the configurations of the image generation unit 4104 that executes the class classification adaptation process and the learning device 4131 have been described.
[2429]
As described above, the image generation unit 4104 may be configured to execute image processing other than the class classification adaptive processing. However, for the sake of simplicity, the following description of the image generation unit 4104 is performed. The configuration is the configuration shown in FIG. 293 described above. In other words, hereinafter, the image generation unit 4104 generates an image having a higher spatial resolution than the input image by executing the classification adaptation process, and supplies the generated image to the selector 4112.
[2430]
Next, with reference to FIG. 295, signal processing of the signal processing apparatus (FIG. 292) to which the first combined technique is applied will be described.
[2431]
Here, the data continuity detecting unit 4101 has an angle (an image, a continuity direction (space direction) at a target position of a signal of the real world 1 (FIG. 1), and one direction of the space direction. Assume that the X direction (angle formed by the sensor 2 (FIG. 1) parallel to a predetermined side of the detection element) is calculated by the method of least squares, and the calculated angle is output as data continuity information.
[2432]
The data continuity detecting unit 4101 also outputs an estimation error (error of the least squares method) calculated when calculating the angle as region specifying information.
[2433]
In FIG. 1, when a real world 1 signal, which is an image, is incident on the sensor 2, an input image is output from the sensor 2.
[2434]
In FIG. 292, this input image is input to the data continuity detection unit 4101 and the real world estimation unit 4102 and also to the image generation unit 4104.
[2435]
Therefore, in step S4101 of FIG. 295, the image generation unit 4104 performs the above-described class classification adaptation process using a predetermined SD pixel of the input image (SD image) as a target pixel, and HD pixels of the predicted image (HD image). (HD pixel in the target pixel) is generated and supplied to the selector 4112.
[2436]
Hereinafter, when distinguishing between the pixel output from the image generation unit 4104 and the pixel output from the image generation unit 4103, the pixel output from the image generation unit 4104 is referred to as a first pixel, and image generation is performed. A pixel output from the unit 4103 is referred to as a second pixel.
[2437]
Hereinafter, the process executed by the image generation unit 4104 (in this case, the process of step S4101) is referred to as “execution process of class classification adaptive process”. Details of “execution processing of class classification adaptation processing” in this example will be described later with reference to the flowchart of FIG. 296.
[2438]
On the other hand, in step S4102, the data continuity detecting unit 4101 detects an angle corresponding to the direction of continuity and calculates an estimation error thereof. The detected angle is supplied to each of the real world estimation unit 4102 and the image generation unit 4103 as data continuity information. Further, the calculated estimation error is supplied to the region detection unit 4111 as region specifying information.
[2439]
In step S4103, the real world estimation unit 4102 estimates a signal of the real world 1 based on the angle detected by the data continuity detection unit 4101 and the input image.
[2440]
As described above, the estimation process performed by the real world estimation unit 4102 is not particularly limited, and various methods described above can be used. Here, for example, the real world estimation unit 4102 represents a function F representing the signal of the real world 1 (in the following description, the function F will be referred to as an optical signal function F) as a predetermined function f (the following In the description, it is assumed that the signal of the real world 1 (the optical signal function F) is estimated by approximating the function f by the approximation function f).
[2441]
Here, for example, the real world estimation unit 4102 supplies the feature quantity (coefficient) of the approximate function f to the image generation unit 4103 as real world estimation information.
[2442]
In step S4104, the image generation unit 4103 applies the first pixel (HD pixel) generated by the class classification adaptive processing of the image generation unit 4104 based on the real world 1 signal estimated by the real world estimation unit 4102. A corresponding second pixel (HD pixel) is generated and supplied to the selector 4112.
[2443]
In this case, since the feature quantity (coefficient) of the approximate function f is supplied from the real world estimation unit 4102, the image generation unit 4103, for example, based on the supplied feature quantity of the approximate function f, Is integrated in a predetermined integration range to generate a second pixel (HD pixel).
[2444]
However, the integration range is a range in which a second pixel having the same size (same resolution) as the first pixel (HD pixel) output from the image generation unit 4104 can be generated. That is, in the spatial direction, the integration range is the pixel width of the second pixel to be generated.
[2445]
Note that the order of the “class classification adaptive process execution process” in step S 4101 and the series of processes in steps S 4102 to S 4104 is not limited to the example in FIG. 295, and the series of processes in steps S 4102 to S 4104 is executed first. Alternatively, the “class classification adaptive process execution process” in step S 4101 and the series of processes in steps S 4102 to S 4104 may be executed simultaneously.
[2446]
In step S4105, the area detection unit 4111 generates the first image generated by the image generation unit 4103 in the process of step S4104 based on the estimation error (area specifying information) calculated by the data continuity detection unit 4101 in the process of step S4102. The area of the second pixel (HD pixel) is detected.
[2447]
That is, the second pixel is an HD pixel in the SD pixel of the input image used as the target pixel by the data continuity detecting unit 4101. Accordingly, the types of regions (steady region or non-stationary region) of the target pixel (SD pixel of the input image) and the second pixel (HD pixel) are the same.
[2448]
Further, the region specifying information output by the data continuity detecting unit 4101 is an estimation error when the angle at the target pixel is calculated by the least square method.
[2449]
Therefore, the region detection unit 4111 compares the estimation error for the target pixel (the SD pixel of the input image) supplied from the data continuity detection unit 4101 with a preset threshold value, and the comparison result indicates that the estimation error is If it is smaller than the threshold value, the second pixel is detected as a stationary region, while if the estimation error is greater than or equal to the threshold value, the second pixel is detected as an unsteady region. Then, the detection result is supplied to the selector 4112.
[2450]
When the detection result of this area detection unit 4111 is supplied to the selector 4112, in step S 4106, the selector 4112 determines whether or not the detected area is a steady area.
[2451]
If it is determined in step S4106 that the detected region is a steady region, the selector 4112 outputs the second pixel supplied from the image generation unit 4103 to the outside as an output image in step S4107.
[2452]
On the other hand, if it is determined in step S4106 that the detected area is not a steady area (non-steady area), the selector 4112 receives the first image supplied from the image generation unit 4104 in step S4108. The pixel is output to the outside as an output image.
[2453]
Thereafter, in step S4109, it is determined whether or not the processing for all the pixels has been completed. If it is determined that the processing for all the pixels has not yet been completed, the processing returns to step S4101. That is, the processes of steps S4101 to S4109 are repeated until the processing of all pixels is completed.
[2454]
If it is determined in step S4109 that all pixels have been processed, the process ends.
[2455]
As described above, in the example of the flowchart in FIG. 295, each time the first pixel (HD pixel) and the second pixel (HD pixel) are generated, the first pixel or the second pixel is output as an output image. Output in units of pixels.
[2456]
However, as described above, it is not essential to output in units of pixels, and all pixels may be output collectively as an output image after the processing of all pixels is completed. In this case, in each process of step S4107 and step S4108, the pixel (first pixel or second pixel) is not output, but is temporarily stored in the selector 4112. After the process of step S4109, all pixels Is added.
[2457]
Next, with reference to the flowchart in FIG. 296, details of the “class classification adaptation processing execution processing” (for example, the processing in step S4101 in FIG. 295 described above) executed by the image generation unit 4104 having the configuration in FIG. 293 will be described. To do.
[2458]
When an input image (SD image) from sensor 2 is input to image generation unit 4104, each of region extraction unit 4121 and region extraction unit 4125 inputs the input image in step S4121.
[2458]
In step S412, the region extraction unit 4121 selects, from the input image, a pixel of interest (SD pixel) and a pixel (SD pixel) located at each of a preset relative position (one or more positions) from the pixel of interest. ) Are extracted as class taps and supplied to the pattern detection unit 4122.
[2460]
In step S 4123, the pattern detection unit 4122 detects the supplied class tap pattern and supplies it to the class code determination unit 4123.
[2461]
In step S4124, the class code determination unit 4123 determines a class code that matches the supplied class tap pattern from among a plurality of preset class codes, and each of the coefficient memory 4124 and the region extraction unit 4125 To supply.
[2462]
In step S4125, the coefficient memory 4124 reads a prediction coefficient (group) to be used from a plurality of prediction coefficients (group) determined in advance by the learning process based on the supplied class code, and performs a prediction calculation unit. 4126.
[2463]
The learning process will be described later with reference to the flowchart in FIG.
[2464]
In step S4126, the region extraction unit 4125 selects the target pixel (SD pixel) and the relative position from the preset target pixel (one or more positions) from the input image corresponding to the supplied class code. The pixels (SD pixels) located at each of the positions set independently of the class tap position (which may be the same position as the class tap position) are extracted as prediction taps and predicted. This is supplied to the calculation unit 4126.
[2465]
In step S4127, the prediction calculation unit 4126 calculates the prediction tap supplied from the region extraction unit 4125 using the prediction coefficient supplied from the coefficient memory 4124, generates a prediction image (first pixel), and generates an external image. (In the example of FIG. 292, the data is output to the selector 4112).
[2466]
Specifically, the prediction calculation unit 4126 calculates each of the prediction taps supplied from the region extraction unit 4125 as c._i(I is an integer from 1 to n) and each of the prediction coefficients supplied from the coefficient memory 4124 is d_iAs described above, the HD pixel q ′ in the target pixel (SD pixel) is calculated by calculating the right side of the above-described formula (237), and this is calculated as a predetermined one pixel (first pixel) of the predicted image (HD image). ) To the outside. Thereafter, the process ends.
[2467]
Next, a learning process (a process for generating a prediction coefficient used by the image generation unit 4104 by learning) executed by the learning device 4131 (FIG. 294) for the image generation unit 4104 will be described with reference to a flowchart of FIG. 297.
[2468]
In step S4141, each of the down-conversion unit 4141 and the normal equation generation unit 4146 inputs the supplied predetermined image as a teacher image (HD image).
[2469]
In step S4142, the down-conversion unit 4141 generates a student image (SD image) by down-converting the input teacher image (decreasing the resolution), and supplies the student image (SD image) to each of the region extraction unit 4142 and the region extraction unit 4145. .
[2470]
In step S4143, the region extraction unit 4142 extracts class taps from the supplied student images and outputs the class taps to the pattern detection unit 4143. Note that the process of step S4143 is basically the same process as the process of step S4122 (FIG. 296) described above.
[2471]
In step S4144, the pattern detection unit 4143 detects a pattern for determining a class code from the supplied class tap and supplies the pattern to the class code determination unit 4144. Note that the process of step S4144 is basically the same as the process of step S4123 (FIG. 296) described above.
[2472]
In step S4145, the class code determination unit 4144 determines a class code based on the supplied class tap pattern, and supplies the class code to each of the region extraction unit 4145 and the normal equation generation unit 4146. Note that the process of step S4145 is basically the same as the process of step S4124 (FIG. 296) described above.
[2473]
In step S4146, the region extraction unit 4145 extracts a prediction tap from the student image corresponding to the supplied class code, and supplies the prediction tap to the normal equation generation unit 4146. Note that the process of step S4146 is basically the same process as the process of step S4126 (FIG. 296) described above.
[2474]
In step S4147, the normal equation generation unit 4146 uses the prediction tap (SD pixel) supplied from the region extraction unit 4145 and the predetermined HD pixel of the teacher image (HD image) to obtain the above formula (239) (ie, A normal equation represented by equation (243) is generated, and the generated normal equation is associated with the class code supplied from the class code determination unit 4144 and supplied to the coefficient determination unit 4147.
[2475]
In step S4148, the coefficient determination unit 4147 determines the prediction coefficient by solving the supplied normal equation, that is, calculates the prediction coefficient by calculating the right side of the above equation (244), and supplies the supplied class code. And stored in the coefficient memory 4124.
[2476]
Thereafter, in step S4149, it is determined whether or not processing has been performed for all pixels. If it is determined that processing has not been performed for all pixels, the processing returns to step S4143. That is, the processes in steps S4143 to S4149 are repeated until the processes for all the pixels are completed.
[2477]
If it is determined in step S4149 that the process has been performed for all pixels, the process ends.
[2478]
Next, the second combined method will be described with reference to FIGS. 298 and 299.
[2479]
FIG. 298 illustrates a configuration example of a signal processing device to which the second combined technique is applied.
[2480]
In FIG. 298, portions corresponding to those of the signal processing apparatus (FIG. 292) to which the first combined method is applied are denoted by corresponding reference numerals.
[2481]
In the configuration example of FIG. 292 (first combined technique), the region specifying information is output from the data continuity detection unit 4101 and input to the region detection unit 4111. However, the configuration example of FIG. In the combined method), the region specifying information is output from the real world estimation unit 4102 and input to the region detection unit 4111.
[2482]
This area specifying information is not particularly limited, and may be information newly generated after the real world estimation unit 4102 estimates the signal of the real world 1 (FIG. 1), or the signal of the real world 1 is estimated. It may be information that is generated along with.
[2483]
Specifically, for example, an estimation error can be used as the area specifying information.
[2484]
Here, the estimation error will be described.
[2485]
As described above, the estimation error (region specifying information in FIG. 292) output from the data continuity detection unit 4101 is, for example, the data continuity information output from the data continuity detection unit 4101 is an angle, and When the angle is calculated by the method of least squares, it is an estimation error that is incidentally calculated by the operation of the least squares method.
[2486]
On the other hand, the estimation error (area specifying information in FIG. 298) output from the real world estimation unit 4102 is, for example, a mapping error.
[2487]
That is, since the real world 1 signal is estimated by the real world estimation unit 4102, it is possible to generate a pixel of any size (calculate the pixel value) from the estimated real world 1 signal. . Here, the generation of a new pixel in this way is referred to as mapping.
[2488]
Therefore, after estimating the real world 1 signal, the real world estimation unit 4102 is used as the target pixel of the input image (when the real world 1 is estimated, from the estimated real world 1 signal). A new pixel is generated (mapped) at the position where the (pixel) was placed. That is, the real world estimation unit 4102 predicts and calculates the pixel value of the target pixel of the input image from the estimated real world 1 signal.
[2489]
Then, the real world estimation unit 4102 calculates a difference between the pixel value of the mapped new pixel (the predicted pixel value of the target pixel of the input image) and the pixel value of the target pixel of the actual input image. This difference is referred to herein as a mapping error.
[2490]
Thus, the real world estimation unit 4102 can calculate the mapping error (estimation error) and supply the calculated mapping error (estimation error) to the region detection unit 4111 as region specifying information.
[2491]
As described above, the region detection process executed by the region detection unit 4111 is not particularly limited. For example, the real world estimation unit 4102 uses the above-described mapping error (estimation error) as region specification information. When the supplied mapping error (estimation error) is smaller than a predetermined threshold, the region detection unit 4111 detects that the target pixel of the input image is a steady region, while the supplied mapping error is supplied to 4111. When the error (estimation error) is greater than or equal to a predetermined threshold, it is detected that the target pixel of the input image is an unsteady region.
[2492]
The other configuration is basically the same as that of FIG. That is, in the signal processing apparatus (FIG. 298) to which the second combined technique is applied, data having basically the same configuration and function as the signal processing apparatus (FIG. 292) to which the first combined technique is applied. A continuity detection unit 4101, a real world estimation unit 4102, an image generation unit 4103, an image generation unit 4104, and a steady region detection unit 4105 (region detection unit 4111 and selector 4112) are provided.
[2493]
FIG. 299 is a flowchart for explaining signal processing (signal processing by the second combined technique) of the signal processing device having the configuration of FIG. 298.
[2494]
The signal processing of the second combined technique is similar to the signal processing of the first combined technique (the process shown in the flowchart of FIG. 295). Therefore, here, the description of the processing described in the first combined technique is omitted as appropriate, and the signal of the second combined technique different from the first combined technique is hereinafter referred to with reference to the flowchart in FIG. The process will be mainly described.
[2495]
Here, as in the first combined method, the data continuity detection unit 4101 uses an angle (stationary direction (space direction) and spatial direction at the target position of the signal of the real world 1 (FIG. 1)). Is calculated by the method of least squares, and the calculated angle is output as data continuity information, which is an X direction (an angle formed by a direction parallel to a predetermined side of the detection element of sensor 2 (FIG. 1)). To do.
[2496]
However, as described above, in the first combined method, the data continuity detecting unit 4101 supplies the region specifying information (for example, estimation error) to the region detecting unit 4111, whereas the second combined method is used. In the method, the real world estimation unit 4102 supplies region specifying information (for example, estimation error (mapping error)) to the region detection unit 4111.
[2497]
Therefore, in the second combined technique, the process of step S4162 is executed as the process of the data continuity detecting unit 4101. This process corresponds to the process in step S4102 of FIG. 295 in the first combined method. That is, in step S4162, the data continuity detecting unit 4101 detects an angle corresponding to the direction of continuity based on the input image, and uses the detected angle as data continuity information to generate an image with the real world estimation unit 4102. To each of the units 4103.
[2498]
In the second combined method, the process of step S4163 is executed as the process of the real world estimation unit 4102. This process corresponds to the process of step S4103 in FIG. 295 in the first combined method. That is, in step S4163, the real world estimation unit 4102 estimates and estimates the signal of the real world 1 (FIG. 1) based on the angle detected by the data continuity detection unit 4101 in the process of step S4162. An estimation error of the real world 1 signal, that is, a mapping error is calculated and supplied to the region detection unit 4111 as region specifying information.
[2499]
The other processes are basically the same as the corresponding processes of the first combination method (corresponding processes among the processes shown in the flowchart of FIG. 295), and thus description thereof is omitted.
[2500]
Next, the third combined technique will be described with reference to FIGS. 300 and 301. FIG.
[2501]
FIG. 300 illustrates a configuration example of a signal processing device to which the third combined method is applied.
[2502]
In FIG. 300, portions corresponding to those of the signal processing apparatus (FIG. 292) to which the first combined technique is applied are assigned corresponding reference numerals.
[2503]
In the configuration example of FIG. 292 (first combined technique), the steady region detection unit 4105 is disposed after the image generation unit 4103 and the image generation unit 4104. However, the configuration example of FIG. In the combined method), the corresponding steady region detection unit 4161 is arranged after the data continuity detection unit 4101 and before the real world estimation unit 4102 and the image generation unit 4104.
[2504]
Due to such a difference in arrangement position, there is a slight difference between the steady region detection unit 4105 in the first combination method and the steady region detection unit 4161 in the third combination method. Therefore, the steady region detection unit 4161 will be described focusing on this difference.
[2505]
The steady region detection unit 4161 is provided with a region detection unit 4171 and an execution command generation unit 4172. Of these, the region detection unit 4171 has basically the same configuration and function as the region detection unit 4111 (FIG. 292) of the steady region detection unit 4105. On the other hand, the function of the execution command generation unit 4172 is slightly different from that of the selector 4112 (FIG. 292) of the steady region detection unit 4105.
[2506]
That is, as described above, the selector 4112 in the first combined technique selects either one of the image from the image generation unit 4103 and the image from the image generation unit 4104 based on the detection result of the region detection unit 4111. Is selected, and the selected image is output as an output image. As described above, the selector 4112 receives the image from the image generation unit 4103 and the image from the image generation unit 4104 in addition to the detection result of the region detection unit 4111 and outputs an output image.
[2507]
On the other hand, the execution command generation unit 4172 in the third combined method, based on the detection result of the region detection unit 4171, sets a new pixel in the target pixel of the input image (the pixel that the data continuity detection unit 4101 has set as the target pixel). It is selected whether the generation process is performed by the image generation unit 4103 or the image generation unit 4104.
[2508]
That is, when the region detection unit 4171 supplies the execution command generation unit 4172 with a detection result that the target pixel of the input image is a steady region, the execution command generation unit 4172 selects the image generation unit 4103 and performs real world estimation. The unit 4102 is supplied with a command for starting execution of the processing (such a command is hereinafter referred to as an execution command). Then, the real world estimation unit 4102 starts the process, generates real world estimation information, and supplies it to the image generation unit 4103. The image generation unit 4103 generates a new image based on the supplied real world estimation information (if necessary, data continuity information supplied from the data continuity detection unit 4101), and outputs it. Output to the outside as an image.
[2509]
On the other hand, when the region detection unit 4171 supplies the execution command generation unit 4172 with a detection result that the target pixel of the input image is an unsteady region, the execution command generation unit 4172 selects the image generation unit 4104. The image generation unit 4104 is supplied with an execution command. Then, the image generation unit 4104 starts its processing, performs predetermined image processing (in this case, class classification adaptation processing) on the input image, generates a new image, and uses this as an output image as an external image. Output to.
[2510]
As described above, the execution command generation unit 4172 in the third combined method inputs the detection result of the region detection unit 4171 and outputs the execution command. That is, the execution command generation unit 4172 does not input / output an image.
[2511]
  The configuration other than the steady region detection unit 4161 is basically the same as that of FIG. That is,ThirdThe signal processing apparatus (signal processing apparatus in FIG. 300) to which the combined method of FIG. A continuity detection unit 4101, a real world estimation unit 4102, an image generation unit 4103, and an image generation unit 4104 are provided.
[2512]
However, in the third combined method, each of the real world estimation unit 4102 and the image generation unit 4104 does not execute the process unless the execution command from the execution command generation unit 4172 is input.
[2513]
By the way, in the example of FIG. 300, the output unit of the image is a pixel unit. Therefore, although not shown in the figure, in order to set the output unit to the entire image of one frame (in order to output all the pixels at once), for example, the image synthesis is performed after the image generation unit 4103 and the image generation unit 4104. A part can also be provided.
[2514]
The image composition unit adds (synthesizes) the pixel value output from the image generation unit 4103 and the pixel value output from the image generation unit 4104, and sets the added value as the pixel value of the corresponding pixel. In this case, one of the image generation unit 4103 and the image generation unit 4104 to which the execution command is not supplied does not execute the process and always supplies a predetermined constant value (for example, 0) to the image composition unit. .
[2515]
The image composition unit repeatedly executes such processing for all the pixels, and when the processing for all the pixels is completed, outputs all the pixels collectively (as one frame of image data) to the outside.
[2516]
Next, with reference to a flowchart of FIG. 301, signal processing of the signal processing apparatus (FIG. 300) to which the third combined method is applied will be described.
[2517]
Here, as in the case of the first combined method, the data continuity detecting unit 4101 uses the angle (stationary direction (space direction) at the target position of the signal of the real world 1 (FIG. 1), and An X direction (an angle formed by a direction parallel to a predetermined side of the detection element of sensor 2 (FIG. 1)), which is one direction in the spatial direction, is calculated by the method of least squares, and the calculated angle is used as data continuity information. I want to output.
[2518]
The data continuity detecting unit 4101 also outputs an estimation error (error of the least squares method) calculated when calculating the angle as region specifying information.
[2519]
In FIG. 1, when a signal of the real world 1 is incident on the sensor 2, an input image is output from the sensor 2.
[2520]
In FIG. 300, this input image is input to the image generation unit 4104 and is also input to the data continuity detection unit 4101 and the real world estimation unit 4102.
[2521]
Therefore, in step S4181 in FIG. 301, the data continuity detecting unit 4101 detects an angle corresponding to the direction of continuity based on the input image, and calculates an estimation error thereof. The detected angle is supplied to each of the real world estimation unit 4102 and the image generation unit 4103 as data continuity information. In addition, the calculated estimation error is supplied to the area detection unit 4171 as area specifying information.
[2522]
Note that the process of step S4181 is basically the same process as the process of step S4102 (FIG. 295) described above.
[2523]
In addition, as described above, at this point (unless an execution command is supplied from the execution command generation unit 4172), neither the real world estimation unit 4102 nor the image generation unit 4104 executes the process.
[2524]
In step S 4182, the region detection unit 4171 detects the pixel of interest (the data continuity detection unit 4101 detects the angle) of the input image based on the estimation error (supplied region identification information) calculated by the data continuity detection unit 4101. In this case, the detection target region is detected, and the detection result is supplied to the execution command generation unit 4172. Note that the process of step S4182 is basically the same process as the process of step S4105 (FIG. 295) described above.
[2525]
When the detection result of the region detection unit 4171 is supplied to the execution command generation unit 4172, in step S4183, the execution command generation unit 4172 determines whether or not the detected region is a steady region. Note that the process of step S4183 is basically the same as the process of step S4106 (FIG. 295) described above.
[2526]
If it is determined in step S4183 that the detected region is not a steady region, the execution command generation unit 4172 supplies the execution command to the image generation unit 4104. In step S4184, the image generation unit 4104 executes “class classification adaptive processing execution processing” to generate the first pixel (the HD pixel in the target pixel (the SD pixel of the input image)), and in step S4185. The first pixel generated by the class classification adaptation process is output to the outside as an output image.
[2527]
Note that the process of step S4184 is basically the same as the process of step S4101 (FIG. 295) described above. That is, the flowchart in FIG. 296 is also a flowchart for explaining details of the process in step S4184.
[2528]
On the other hand, when it is determined in step S4183 that the detected region is a steady region, the execution command generation unit 4172 supplies the execution command to the real world estimation unit 4102. Then, in step S4186, the real world estimation unit 4102 estimates the signal of the real world 1 based on the angle detected by the data continuity detection unit 4101 and the input image. Note that the process of step S4186 is basically the same as the process of step S4103 (FIG. 295) described above.
[2529]
Then, in step S4187, the image generation unit 4103 determines the second in the detected region (that is, the target pixel (SD pixel) of the input image) based on the real world 1 signal estimated by the real world estimation unit 4102. Are generated, and in step S4188, the second pixel is output as an output image. Note that the process of step S4187 is basically the same process as the process of step S4104 (FIG. 295) described above.
[2530]
When the first pixel or the second pixel is output as an output image (after the process of step S4185 or step S4188), in step S4189, it is determined whether or not all the pixels have been processed. If it is determined that the process has not been completed yet, the process returns to step S4181. That is, the processing of steps S4181 to S4189 is repeated until the processing of all pixels is completed.
[2531]
If it is determined in step S4189 that all pixels have been processed, the processing ends.
[2532]
  Thus, in the example of the flowchart of FIG. 301, the first pixel (HD pixel)OrEach time the second pixel (HD pixel) is generated, the first pixel or the second pixel is output in units of pixels as an output image.
[2533]
However, as described above, if an image composition unit (not shown) is further provided in the final stage of the signal processing apparatus having the configuration shown in FIG. 300 (the subsequent stage of the image generation unit 4103 and the image generation unit 4104), After the processing is completed, it becomes possible to output all the pixels at once as an output image. In this case, in the processing in each of step S4185 and step S4188, the pixel (first pixel or second pixel) is output to the image composition unit instead of the outside. Then, before the process of step S4189, the image composition unit synthesizes the pixel value of the pixel supplied from the image generation unit 4103 and the pixel value of the pixel supplied from the image generation unit 4104, and outputs the pixel of the output image. After the process of generating and the process of step S4189, a process in which the image composition unit outputs all the pixels is added.
[2534]
Next, the fourth combined technique will be described with reference to FIGS. 302 and 303. FIG.
[2535]
FIG. 302 illustrates a configuration example of a signal processing device to which the fourth combined technique is applied.
[2536]
In FIG. 302, portions corresponding to those of the signal processing apparatus (FIG. 300) to which the third combined method is applied are denoted by corresponding reference numerals.
[2537]
In the configuration example of FIG. 300 (third combination method), the region specifying information is output from the data continuity detection unit 4101 and input to the region detection unit 4171, but the configuration example of FIG. 302 (fourth combination method). In the technique), the area specifying information is output from the real world estimation unit 4102 and input to the area detection unit 4171.
[2538]
Other configurations are basically the same as those in FIG. That is, in the signal processing apparatus (FIG. 302) to which the fourth combined technique is applied, data having basically the same configuration and function as the signal processing apparatus (FIG. 300) to which the third combined technique is applied. A continuity detection unit 4101, a real world estimation unit 4102, an image generation unit 4103, an image generation unit 4104, and a steady region detection unit 4161 (region detection unit 4171 and execution command generation unit 4172) are provided.
[2539]
As in the third combination method, although not shown, in order to output all the pixels at once, for example, an image composition unit is further provided after the image generation unit 4103 and the image generation unit 4104. You can also.
[2540]
FIG. 303 is a flowchart for explaining signal processing (signal processing by the fourth combined technique) of the signal processing apparatus having the configuration of FIG. 302.
[2541]
The signal processing of the fourth combined technique is similar to the signal processing of the third combined technique (the process shown in the flowchart of FIG. 301). Therefore, here, the description of the processing described in the third combined technique is omitted as appropriate, and the signal of the fourth combined technique different from the third combined technique is hereinafter referred to with reference to the flowchart of FIG. The process will be mainly described.
[2542]
Here, as in the third combined method, the data continuity detecting unit 4101 uses the angle (the continuity direction (space direction) and the spatial direction at the target position of the signal of the real world 1 (FIG. 1)). Is calculated by the method of least squares, and the calculated angle is output as data continuity information, which is an X direction (an angle formed by a direction parallel to a predetermined side of the detection element of sensor 2 (FIG. 1)). To do.
[2543]
However, as described above, in the third combined method, the data continuity detecting unit 4101 supplies the region specifying information (for example, estimation error) to the region detecting unit 4171, whereas the fourth combined method is used. In the method, the real world estimation unit 4102 supplies region specifying information (for example, estimation error (mapping error)) to the region detection unit 4171.
[2544]
Therefore, in the fourth combined method, the process of step S4201 is executed as the process of the data continuity detecting unit 4101. This process corresponds to the process of step S4181 in FIG. 301 in the third combined method. That is, in step S4201, the data continuity detecting unit 4101 detects an angle corresponding to the direction of continuity based on the input image, and uses the detected angle as data continuity information to generate an image with the real world estimation unit 4102. To each of the units 4103.
[2545]
In the fourth combined method, the process of step S4202 is executed as the process of the real world estimation unit 4102. This process corresponds to the process of step S4182 in FIG. 295 in the third combined method. That is, the real world estimation unit 4102 estimates the signal of the real world 1 (FIG. 1) based on the angle detected by the data continuity detection unit 4101 in the process of step S4202 and the estimated real world 1 A signal estimation error, that is, a mapping error is calculated and supplied to the region detection unit 4171 as region specifying information.
[2546]
The other processes are basically the same as the corresponding processes of the third combination method (corresponding processes among the processes shown in the flowchart of FIG. 301), and thus description thereof is omitted.
[2547]
Next, the fifth combined technique will be described with reference to FIGS. 304 and 305.
[2548]
FIG. 304 illustrates a configuration example of a signal processing device to which the fifth combined technique is applied.
[2549]
In FIG. 304, portions corresponding to the signal processing devices (FIGS. 300 and 302) to which the third and fourth combined methods are applied are denoted by corresponding reference numerals.
[2550]
In the configuration example of FIG. 300 (third combined technique), one stationary region detection unit 4161 is arranged after the data continuity detection unit 4101 and before the real world estimation unit 4102 and the image generation unit 4104. It is installed.
[2551]
In the configuration example of FIG. 302 (fourth combined technique), one steady region detection unit 4161 is arranged after the real world estimation unit 4102 and before the image generation unit 4103 and the image generation unit 4104. It is installed.
[2552]
On the other hand, in the configuration example of FIG. 304 (fifth combined method), as in the third combined method, it is a subsequent stage of the data continuity detecting unit 4101, and the real world estimating unit 4102 and the image generating unit. A stationary region detection unit 4181 is disposed in the front stage of 4104. Further, as in the fourth combined method, a steady region detection unit 4182 is disposed after the real world estimation unit 4102 and before the image generation unit 4103 and the image generation unit 4104.
[2553]
Each of the steady region detection unit 4181 and the steady region detection unit 4182 has basically the same configuration and function as the steady region detection unit 4161 (FIG. 300 or 302). That is, both the area detection unit 4191 and the area detection unit 4201 have basically the same configuration and function as the area detection unit 4171. Further, both the execution command generation unit 4192 and the execution command generation unit 4202 have basically the same configuration and function as the execution command generation unit 4172.
[2554]
In other words, the fifth combination method is a combination of the third combination method and the fourth combination method.
[2555]
That is, in the third combined method and the fourth combined method, one region specifying information (in the third combined method, the region specifying information from the data continuity detecting unit 4101 and in the fourth combined method) Is the region specifying information from the real world estimation unit 4102), it is detected whether the target pixel of the input image is a stationary region or a non-stationary region. Therefore, in the third combined method and the fourth combined method, there is a possibility that the stationary region is detected although it is originally an unsteady region.
[2556]
Therefore, in the fifth combined method, first, attention is paid to the input image based on the region specifying information from the data continuity detecting unit 4101 (referred to as the first region specifying information in the description of the fifth combined method). After detecting whether the pixel is a stationary region or an unsteady region, region identification information from the real world estimation unit 4102 (referred to as second region identification information in the description of the fifth combined technique) ) To determine whether the target pixel of the input image is a stationary region or a non-stationary region.
[2557]
As described above, in the fifth combined method, since the region detection process is performed twice, the detection accuracy of the steady region is improved as compared with the third combined method and the fourth combined method. . Furthermore, in the first combined method and the second combined method, only one stationary region detection unit 4105 (FIG. 292 or FIG. 298) is provided, as in the third combined method and the fourth combined method. . Therefore, even when compared with the first combined method and the second combined method, the detection accuracy of the steady region increases. As a result, it is possible to output image data closer to the real world 1 (FIG. 1) signal than any of the first to fourth combined methods.
[2558]
However, even in the first to fourth combined methods, the image generation unit 4104 that performs the conventional image processing, and an apparatus or program that generates an image using the continuity of data to which the present invention is applied (ie, data The continuity detection unit 4101, the real world estimation unit 4102, and the image generation unit 4103) are used together.
[2559]
Accordingly, even in the first to fourth combined methods, image data closer to the real world 1 (FIG. 1) signal is output than any of the conventional signal processing apparatus and the signal processing of the present invention having the configuration of FIG. Is possible.
[2560]
On the other hand, from the viewpoint of processing speed, the first to fourth combined methods only require one area detection process, which is superior to the fifth combined technique in which the area detection process is performed twice. Will be.
[2561]
Therefore, the user (or manufacturer) or the like selectively uses a combination method that matches the required output image quality and the required processing time (time until the output image is output). Can do.
[2562]
Other configurations in FIG. 304 are basically the same as those in FIG. 300 or 302. That is, the signal processing apparatus (FIG. 304) to which the fifth combined technique is applied is basically the same as the signal processing apparatus (FIG. 300 or 302) to which the third or fourth combined technique is applied. A data continuity detection unit 4101, a real world estimation unit 4102, an image generation unit 4103, and an image generation unit 4104 having a configuration and a function are provided.
[2563]
However, in the fifth combined technique, unless the execution command from the execution command generation unit 4192 is input to the real world estimation unit 4102, the image generation unit 4103 does not input the execution command from the execution command generation unit 4202. The image generation unit 4104 does not execute the processing unless the execution command is input from the execution command generation unit 4192 or the execution command generation unit 4202.
[2564]
Also, in the fifth combined method, as in the third and fourth combined methods, although not shown, in order to output all the pixels at once, for example, the image generation unit 4103 and the image generation unit 4104 An image composition unit can be further provided in the subsequent stage.
[2565]
Next, with reference to a flowchart of FIG. 305, signal processing of the signal processing apparatus (FIG. 304) to which the fifth combined technique is applied will be described.
[2565]
Here, as in the third and fourth combined methods, the data continuity detecting unit 4101 has a continuity direction (spatial direction at the target position of the signal of the real world 1 (FIG. 1). ) And the X direction (direction parallel to a predetermined side of the detection element of the sensor 2 (FIG. 1)), which is one direction in the spatial direction, is calculated by the least square method, and the calculated angle is data steady Assume that it is output as sex information.
[2567]
Here, as in the case of the third combined method, the data continuity detecting unit 4101 also calculates the estimation error (the least square method error) calculated together with the calculation of the angle as the first method. Assume that it is output as area specifying information.
[2568]
Further, here, as in the case of the fourth combined method, the real world estimation unit 4102 outputs a mapping error (estimation error) as the second region specifying information.
[2568]
In FIG. 1, when a signal of the real world 1 is incident on the sensor 2, an input image is output from the sensor 2.
[2570]
In FIG. 304, this input image is input to each of the data continuity detection unit 4101, the real world estimation unit 4102, and the image generation unit 4104.
[2571]
Therefore, in step S4221 in FIG. 305, the data continuity detecting unit 4101 detects an angle corresponding to the direction of continuity based on the input image, and calculates an estimation error thereof. The detected angle is supplied to each of the real world estimation unit 4102 and the image generation unit 4103 as data continuity information. In addition, the calculated estimation error is supplied to the region detection unit 4191 as first region specifying information.
[2572]
Note that the process of step S4221 is basically the same process as the process of step S4181 (FIG. 301) described above.
[2573]
Further, as described above, at this point (unless an execution command is supplied from the execution command generation unit 4192), neither the real world estimation unit 4102 nor the image generation unit 4104 executes the process.
[2574]
In step S4222, the region detection unit 4191 determines the pixel of interest of the input image (the data continuity detection unit 4101 is based on the estimation error (supplied first region specifying information) calculated by the data continuity detection unit 4101). A region of a pixel that is a pixel of interest when an angle is detected is detected, and the detection result is supplied to the execution command generation unit 4192. Note that the process of step S4222 is basically the same as the process of step S4182 (FIG. 301) described above.
[2575]
When the detection result of the region detection unit 4181 is supplied to the execution command generation unit 4192, in step S4223, the execution command generation unit 4192 determines whether the detected region is a steady region. Note that the process of step S4223 is basically the same process as the process of step S4183 (FIG. 301) described above.
[2576]
If it is determined in step S4223 that the detected region is not a steady region (non-steady region), the execution command generation unit 4192 supplies an execution command to the image generation unit 4104. In step S4224, the image generation unit 4104 executes “class classification adaptive processing execution processing” to generate a first pixel (an HD pixel in the target pixel (SD pixel of the input image)), and in step S4225. The first pixel generated by the class classification adaptation process is output to the outside as an output image.
[2577]
Note that the process of step S4224 is basically the same process as the process of step S4184 (FIG. 301) described above. That is, the flowchart in FIG. 296 is also a flowchart for explaining details of the process in step S4186. Further, the process of step S4225 is basically the same process as the process of step S4185 (FIG. 301) described above.
[2578]
On the other hand, when it is determined in step S4223 that the detected region is a steady region, the execution command generation unit 4192 supplies the execution command to the real world estimation unit 4102. Then, in step S4226, the real world estimation unit 4102 estimates the signal of the real world 1 based on the angle detected by the data continuity detection unit 4101 in the process of step S4221, and the estimation error (mapping error). Is calculated. The estimated real world 1 signal is supplied to the image generation unit 4103 as real world estimation information. Further, the calculated estimation error is supplied to the region detection unit 4201 as second region specifying information.
[2579]
Note that the process of step S4226 is basically the same as the process of step S4202 (FIG. 303) described above.
[2580]
Further, as described above, at this time (unless an execution command is supplied from the execution command generation unit 4192 or the execution command generation unit 4202), neither the image generation unit 4103 nor the image generation unit 4104 executes the process.
[2581]
In step S <b> 4227, the region detection unit 4201 determines that the target pixel of the input image (the data continuity detection unit 4101 has an angle based on the estimation error (the supplied second region specification information) calculated by the real world estimation unit 4102. ) Is detected, and the detection result is supplied to the execution command generation unit 4202. Note that the process of step S4227 is basically the same as the process of step S4203 (FIG. 303) described above.
[2582]
When the detection result of the region detection unit 4201 is supplied to the execution command generation unit 4202, in step S4228, the execution command generation unit 4202 determines whether or not the detected region is a steady region. Note that the process of step S4228 is basically the same as the process of step S4204 (FIG. 303) described above.
[2583]
If it is determined in step S4228 that the detected region is not a steady region (non-steady region), the execution command generation unit 4202 supplies an execution command to the image generation unit 4104. In step S4224, the image generation unit 4104 executes “class classification adaptive processing execution processing” to generate a first pixel (an HD pixel in the target pixel (SD pixel of the input image)), and in step S4225. The first pixel generated by the class classification adaptation process is output to the outside as an output image.
[2584]
Note that the processing in step S4224 in this case is basically similar to the processing in step S4205 (FIG. 303) described above. Further, the processing in step S4225 in this case is basically the same processing as the processing in step S4206 (FIG. 303) described above.
[2585]
On the other hand, when it is determined in step S4228 that the detected region is a steady region, the execution command generation unit 4202 supplies the execution command to the image generation unit 4103. Then, in step S4229, the image generation unit 4103, based on the real world 1 signal estimated by the real world estimation unit 4102 (and data continuity information from the data continuity detection unit 4101 as necessary), A second pixel (HD pixel) in the region detected by the region detection unit 4201 (that is, the target pixel (SD pixel) of the input image) is generated. In step S4230, the image generation unit 4103 outputs the generated second pixel to the outside as an output image.
[2586]
Note that the processes in steps S4229 and S4230 are basically similar to the processes in steps S4207 and S4208 (FIG. 303) described above.
[2588]
When the first pixel or the second pixel is output as an output image (after the process in step S4225 or step S4230), in step S4231, it is determined whether or not the process for all pixels has been completed. If it is determined that the process has not been completed yet, the process returns to step S4221. That is, the processes of steps S4221 to S4231 are repeated until the processing of all pixels is completed.
[2588]
If it is determined in step S4231 that all pixels have been processed, the process ends.
[2589]
As described above, the combined method has been described as an example of the embodiment of the signal processing device 4 (FIG. 1) of the present invention with reference to FIGS. 292 to 305.
[2590]
As described above, in the combined method, a device (or a program or the like) that performs other signal processing that does not use continuity is further added to the signal processing device of the present invention configured as shown in FIG.
[2591]
In other words, in the combined method, the signal processing device (or program or the like) of the present invention having the configuration shown in FIG. 3 is added to the conventional signal processing device (or program or the like).
[2592]
That is, in the combined method, for example, the steady region detection unit 4105 in FIGS. 292 and 298 projects image data (in which the real world 1 optical signal is projected and a part of the regularity of the real world 1 optical signal is lost) For example, in the input image of FIG. 292 or FIG. 298, an area having the continuity of the data of the image data (for example, the steady area described in step S4106 of FIG. 295 or step S4166 of FIG. 299) is detected.
[2593]
In addition, the real world estimation unit 4102 in FIG. 292 or FIG. 298 determines the optical signal of the missing real world 1 based on the continuity of the data of the image data from which part of the steadiness of the optical signal of the real world 1 is missing. The optical signal is estimated by estimating the stationarity.
[2594]
Further, for example, the data continuity detection unit 4101 in FIG. 292 or FIG. 298 projects the image data in the image data in which the optical signal of the real world 1 is projected and a part of the continuity of the optical signal of the real world 1 is missing. Is detected with respect to the reference axis of the continuity of the data (for example, the angle described in step S4102 in FIG. 295 or step S4162 in FIG. 299). In this case, for example, the steady region detection unit 4105 in FIGS. 292 and 298 detects a region having the continuity of the data of the image data based on the angle, and the real world estimation unit 4102 lacks the region. The optical signal is estimated by estimating the continuity of the optical signal in the real world 1.
[2595]
However, in FIG. 292, the stationary region detection unit 4105 has an error between the model that is stationary along the angle and the input image (that is, for example, region identification information in the drawing, and the processing in step S4102 in FIG. 295). The region having the continuity of the data of the input image is detected on the basis of the estimation error calculated in (1).
[2596]
On the other hand, in FIG. 298, the steady region detection unit 4105 is arranged after the real world estimation unit 4102 and calculates the optical signal of the real world 1 corresponding to the input image calculated by the real world estimation unit 4102. An error between the real-world model to be represented and the input image (that is, for example, region-specific information in the figure, and an estimation error (mapping error) of the real-world signal calculated in the process of step S4163 in FIG. 295) Based on this, the real world model estimated by the real world estimation unit 4102, that is, the image output from the image generation unit 4103 is selectively output (for example, the selector 4112 in FIG. 298 performs steps S4166 to S4168 in FIG. 299). ).
[2597]
As described above, the examples in FIG. 292 and FIG. 298 have been described, but the above also applies to FIG. 300, FIG. 302, and FIG.
[2598]
Therefore, in the combined method, a portion of the real world 1 signal in which continuity exists (region having the continuity of the image data) is equivalent to a device (or a signal processing device configured as shown in FIG. 3) (or Program, etc.) can perform signal processing, and a conventional signal processing apparatus (or program, etc.) can execute signal processing for a portion of the real world 1 signal where there is no clear continuity. Become. As a result, it is possible to output image data that is closer to the signal in the real world 1 (FIG. 1) than either the conventional signal processing apparatus or the signal processing of the present invention configured as shown in FIG.
[2599]
Next, an example of generating an image directly from the data continuity detecting unit 101 will be described with reference to FIGS. 306 and 307.
[2600]
A data continuity detection unit 101 in FIG. 306 is obtained by adding an image generation unit 4501 to the data continuity detection unit 101 in FIG. 165. The image generation unit 4501 acquires the coefficient of the approximate function f (x) in the real world output from the real world estimation unit 802 as real world estimation information, and reintegrates each pixel based on this coefficient to generate an image. Is generated and output.
[2601]
Next, the data continuity detection process of FIG. 306 will be described with reference to the flowchart of FIG. Note that the processing in steps S4501 to S4504 and steps S4506 to S4511 in the flowchart in FIG. 307 is the same as the processing in steps S801 to S810 in the flowchart in FIG.
[2602]
In step S4504, the image generation unit 4501 reintegrates each pixel based on the coefficient input from the real world estimation unit 802 to generate and output an image.
[2603]
Through the above processing, the data continuity detecting unit 101 can output not only the region information but also an image used for the region determination (consisting of pixels generated based on the real world estimation information).
[2604]
As described above, in the data continuity detecting unit 101 of FIG. 306, the image generating unit 4501 is provided. That is, the data continuity detecting unit 101 in FIG. 306 can generate an output image based on the continuity of the input image data. Therefore, the apparatus having the configuration shown in FIG. 306 is not regarded as an embodiment of the data continuity detecting unit 101, but is regarded as another embodiment of the signal processing apparatus (image processing apparatus) 4 of FIG. You can also.
[2605]
Furthermore, in the signal processing apparatus to which the above-described combined technique is applied, an apparatus having the configuration shown in FIG. 306 as a signal processing unit that performs signal processing on a portion of the real world 1 signal that has continuity. (That is, a signal processing device having the same function and configuration as the data continuity detecting unit 101 in FIG. 306) can be applied.
[2606]
Specifically, for example, in the signal processing device of FIG. 292 to which the first combined method is applied, a signal processing unit that performs signal processing on a portion of the real world 1 signal that has continuity exists. A data continuity detecting unit 4101, a real world estimating unit 4102, and an image generating unit 4103. Although not shown, instead of the data continuity detection unit 4101, real world estimation unit 4102, and image generation unit 4103, a signal processing device (image processing device) having the configuration shown in FIG. 306 can be applied. . In this case, the comparison unit 804 in FIG. 306 supplies the output as region specifying information to the region detection unit 4111, and the image generation unit 4501 supplies the output image (second pixel) to the selector 4112. become.
[2607]
The sensor 2 may be a solid-state imaging device, for example, a sensor such as a BBD (Bucket Brigade Device), a CID (Charge Injection Device), or a CPD (Charge Priming Device).
[2608]
As shown in FIG. 2, the recording medium on which the program for signal processing according to the present invention is recorded is distributed to provide the program to the user separately from the computer. Including a flexible disk), optical disk 52 (including a CD-ROM (Compaut Disk-Read Only Memory), DVD (Digital Versatile Disk)), magneto-optical disk 53 (including MD (Mini-Disk) (trademark)), or In addition to a package medium composed of a semiconductor memory 54 or the like, it is composed of a ROM 22 on which a program is recorded, a hard disk included in the storage unit 28, etc. provided to the user in a state of being incorporated in a computer in advance. The
[2609]
The program for executing the series of processes described above is installed in a computer via a wired or wireless communication medium such as a local area network, the Internet, or digital satellite broadcasting via an interface such as a router or a modem as necessary. You may be made to do.
[2610]
In the present specification, the step of describing the program recorded on the recording medium is not limited to the processing performed in chronological order according to the described order, but is not necessarily performed in chronological order. It also includes processes that are executed individually.
[2611]
【The invention's effect】
As described above, according to the present invention, an accurate and highly accurate processing result can be obtained.
[2612]
Further, according to the present invention, it is possible to obtain a more accurate and more accurate processing result for a real world event.
[Brief description of the drawings]
FIG. 1 is a diagram illustrating the principle of the present invention.
2 is a block diagram showing an example of the configuration of a signal processing device 4. FIG.
FIG. 3 is a block diagram showing a signal processing device 4;
FIG. 4 is a diagram for explaining the principle of processing of a conventional signal processing device 121;
FIG. 5 is a diagram for explaining the principle of processing of the signal processing device 4;
FIG. 6 is a diagram for more specifically explaining the principle of the present invention.
FIG. 7 is a diagram for more specifically explaining the principle of the present invention.
FIG. 8 is a diagram illustrating an example of pixel arrangement on an image sensor.
FIG. 9 is a diagram illustrating the operation of a detection element that is a CCD.
10 is a diagram illustrating a relationship between light incident on detection elements corresponding to pixels D to F and pixel values. FIG.
FIG. 11 is a diagram for explaining the relationship between the passage of time, light incident on a detection element corresponding to one pixel, and a pixel value.
FIG. 12 is a diagram illustrating an example of an image of a linear object in the real world 1;
FIG. 13 is a diagram illustrating an example of pixel values of image data obtained by actual imaging.
FIG. 14 is a schematic diagram of image data.
FIG. 15 is a diagram illustrating an example of an image of the real world 1 of an object having a single color and a straight edge, which is a color different from the background.
FIG. 16 is a diagram illustrating an example of pixel values of image data obtained by actual imaging.
FIG. 17 is a schematic diagram of image data.
FIG. 18 is a diagram illustrating the principle of the present invention.
FIG. 19 is a diagram illustrating the principle of the present invention.
20 is a diagram illustrating an example of generation of high resolution data 181. FIG.
FIG. 21 is a diagram for explaining approximation by a model 161;
FIG. 22 is a diagram for describing estimation of a model 161 based on M pieces of data 162;
FIG. 23 is a diagram for explaining a relationship between a signal of the real world 1 and data 3;
FIG. 24 is a diagram illustrating an example of data 3 to be noted when formulating.
FIG. 25 is a diagram illustrating signals for two objects in the real world 1 and values belonging to a mixed area when formulas are established.
FIG. 26 is a diagram for explaining continuity represented by Expression (18), Expression (19), and Expression (22).
FIG. 27 is a diagram illustrating an example of M pieces of data 162 extracted from data 3;
FIG. 28 is a diagram illustrating an area where a pixel value that is data 3 is acquired;
FIG. 29 is a diagram illustrating an approximation of a position of a pixel in a space-time direction.
30 is a diagram for explaining integration of signals in the real world 1 in the time direction and the two-dimensional spatial direction in data 3. FIG.
FIG. 31 is a diagram illustrating an integration region when generating high-resolution data 181 having a higher resolution in the spatial direction.
FIG. 32 is a diagram illustrating an integration region when generating high-resolution data 181 having higher resolution in the time direction.
FIG. 33 is a diagram illustrating an integration region when generating high-resolution data 181 from which motion blur is removed.
FIG. 34 is a diagram for explaining an integration region when generating high-resolution data 181 having a higher resolution in the time-space direction.
FIG. 35 is a diagram illustrating an original image of an input image.
FIG. 36 is a diagram illustrating an example of an input image.
FIG. 37 is a diagram showing an image obtained by applying a conventional class classification adaptation process.
FIG. 38 is a diagram illustrating a result of detecting a thin line region;
FIG. 39 is a diagram illustrating an example of an output image output from the signal processing device 4;
40 is a flowchart for explaining signal processing by the signal processing device 4. FIG.
41 is a block diagram showing a configuration of a data continuity detecting unit 101. FIG.
FIG. 42 is a diagram showing an image of the real world 1 with a thin line in front of the background.
FIG. 43 is a diagram for explaining approximation of a background by a plane.
FIG. 44 is a diagram illustrating a cross-sectional shape of image data obtained by projecting a thin line image.
FIG. 45 is a diagram illustrating a cross-sectional shape of image data obtained by projecting a thin line image.
FIG. 46 is a diagram illustrating a cross-sectional shape of image data obtained by projecting a thin line image.
FIG. 47 is a diagram illustrating processing for detecting a vertex and detecting a monotonous increase / decrease area.
FIG. 48 is a diagram for describing processing for detecting a fine line region in which a pixel value of a vertex exceeds a threshold value and a pixel value of an adjacent pixel is equal to or less than the threshold value.
49 is a diagram illustrating pixel values of pixels arranged in a direction indicated by a dotted line AA ′ in FIG. 48. FIG.
FIG. 50 is a diagram illustrating processing for detecting continuity of a monotonous increase / decrease area.
FIG. 51 is a diagram illustrating an example of an image in which a stationary component is extracted by approximation on a plane.
FIG. 52 is a diagram illustrating a result of detecting a monotonically decreasing region.
FIG. 53 is a diagram showing a region where continuity is detected.
FIG. 54 is a diagram illustrating pixel values in a region where continuity is detected.
FIG. 55 is a diagram illustrating an example of another process of detecting an area where a thin line image is projected.
FIG. 56 is a flowchart for describing continuity detection processing;
FIG. 57 is a diagram illustrating processing for detecting continuity of data in a time direction.
58 is a block diagram showing a configuration of an unsteady component extraction unit 201. FIG.
FIG. 59 is a diagram illustrating the number of times of rejection.
FIG. 60 is a diagram illustrating an example of an input image.
FIG. 61 is a diagram illustrating an image in which a standard error obtained as a result of approximation on a plane without rejection is used as a pixel value.
FIG. 62 is a diagram showing an image in which standard errors obtained as a result of rejection and approximation on a plane are used as pixel values.
FIG. 63 is a diagram illustrating an image in which the number of rejects is a pixel value.
FIG. 64 is a diagram illustrating an image in which the inclination in the spatial direction X of the plane is a pixel value.
FIG. 65 is a diagram illustrating an image in which the inclination in the spatial direction Y of the plane is a pixel value.
FIG. 66 is a diagram illustrating an image including approximate values indicated by a plane.
FIG. 67 is a diagram illustrating an image including a difference between an approximate value and a pixel value indicated by a plane.
FIG. 68 is a flowchart for explaining unsteady component extraction processing;
FIG. 69 is a flowchart for describing stationary component extraction processing;
[Fig. 70] Fig. 70 is a flowchart for describing other processing for extracting stationary components.
FIG. 71 is a flowchart illustrating still another process for extracting a stationary component.
72 is a block diagram showing another configuration of the data continuity detecting unit 101. FIG.
Fig. 73 is a diagram for describing an activity in an input image having data continuity.
[Fig. 74] Fig. 74 is a diagram for describing a block for detecting an activity.
FIG. 75 is a diagram for explaining an angle of data continuity with respect to an activity;
76 is a block diagram showing a more detailed configuration of a data continuity detecting unit 101. FIG.
FIG. 77 is a diagram illustrating a set of pixels.
FIG. 78 is a diagram for explaining the relationship between the position of a set of pixels and the angle of continuity of data.
FIG. 79 is a flowchart for describing data continuity detection processing;
FIG. 80 is a diagram illustrating a set of pixels that are extracted when detecting an angle of continuity of data in the time direction and the spatial direction.
81 is a block diagram showing another more detailed configuration of the data continuity detecting unit 101. FIG.
FIG. 82 is a diagram for explaining a set of pixels composed of a number of pixels corresponding to a set straight angle range.
FIG. 83 is a diagram for explaining a set range of straight line angles;
[Fig. 84] Fig. 84 is a diagram illustrating a set range of straight line angles, the number of pixel groups, and the number of pixels for each pixel group.
FIG. 85 is a diagram for explaining the number of pixel groups and the number of pixels for each pixel group;
FIG. 86 is a diagram for explaining the number of pixel groups and the number of pixels for each pixel group;
FIG. 87 is a diagram illustrating the number of pixel sets and the number of pixels for each pixel set.
FIG. 88 is a diagram illustrating the number of pixel sets and the number of pixels for each pixel set.
FIG. 89 is a diagram illustrating the number of pixel sets and the number of pixels for each pixel set.
FIG. 90 is a diagram for explaining the number of pixel groups and the number of pixels for each pixel group;
FIG. 91 is a diagram illustrating the number of pixel groups and the number of pixels for each pixel group.
FIG. 92 is a diagram illustrating the number of pixel sets and the number of pixels for each pixel set.
FIG. 93 is a flowchart for describing data continuity detection processing;
94 is a block diagram showing still another configuration of the data continuity detecting unit 101. FIG.
95 is a block diagram showing a more detailed configuration of a data continuity detecting unit 101. FIG.
Fig. 96 is a diagram for describing an example of a block;
FIG. 97 is a diagram illustrating processing for calculating an absolute value of a difference in pixel values between a target block and a reference block.
FIG. 98 is a diagram illustrating the distance in the spatial direction X between the position of a pixel around the target pixel and a straight line having an angle θ.
FIG. 99 is a diagram showing a relationship between a shift amount γ and an angle θ.
FIG. 100 is a diagram illustrating a distance in a spatial direction X between a position of a pixel around the target pixel and a straight line passing through the target pixel and having an angle θ with respect to the shift amount γ.
FIG. 101 is a diagram illustrating a reference block that passes through a target pixel and has a minimum distance from a straight line having an angle θ with respect to an axis in the spatial direction X;
Fig. 102 is a diagram for describing processing for reducing a range of continuity angles of detected data to ½.
FIG. 103 is a flowchart for describing data continuity detection processing;
FIG. 104 is a diagram illustrating blocks extracted when detecting the continuity angle of the data in the inter-direction and the spatial direction.
Fig. 105 is a block diagram illustrating a configuration of a data continuity detecting unit 101 that performs data continuity detection processing based on component signals of an input image.
Fig. 106 is a block diagram illustrating a configuration of a data continuity detecting unit 101 that performs data continuity detection processing based on component signals of an input image.
107 is a block diagram showing still another configuration of the data continuity detecting unit 101. FIG.
FIG. 108 is a diagram for explaining an angle of continuity of data with reference to a reference axis in an input image.
FIG. 109 is a diagram for explaining an angle of continuity of data with reference to a reference axis in an input image.
FIG. 110 is a diagram for explaining an angle of continuity of data with reference to a reference axis in an input image.
FIG. 111 is a diagram illustrating a relationship between a change in pixel value and a regression line with respect to a position in the spatial direction of a pixel in an input image.
FIG. 112 is a diagram illustrating an angle between a regression line A and, for example, an axis indicating a spatial direction X that is a reference axis.
FIG. 113 is a diagram illustrating an example of a region.
FIG. 114 is a flowchart for explaining data continuity detection processing by the data continuity detecting unit 101 whose configuration is shown in FIG. 107;
115 is a block diagram showing still another configuration of the data continuity detecting unit 101. FIG.
Fig. 116 is a diagram illustrating a relationship between a change in pixel value and a regression line with respect to a position in the spatial direction of a pixel in an input image.
FIG. 117 is a diagram illustrating a relationship between a standard deviation and a region having data continuity.
FIG. 118 is a diagram illustrating an example of a region.
FIG. 119 is a flowchart for describing data continuity detection processing by the data continuity detection unit 101 whose configuration is shown in FIG. 115;
FIG. 120 is a flowchart for describing another process of detecting data continuity by the data continuity detecting unit 101 whose configuration is shown in FIG. 115.
FIG. 121 is a block diagram illustrating a configuration of a data continuity detecting unit that detects an angle of a thin line or a binary edge to which the present invention is applied as data continuity information.
Fig. 122 is a diagram for explaining a method of detecting data continuity information.
FIG. 123 is a diagram illustrating a method for detecting data continuity information.
124 is a diagram showing a more detailed configuration of a data continuity detecting unit in FIG. 121. FIG.
FIG. 125 is a diagram for explaining horizontal / vertical determination processing;
FIG. 126 is a diagram for explaining horizontal / vertical determination processing;
FIG. 127 is a diagram for explaining the relationship between a thin line in the real world and a thin line imaged by a sensor.
FIG. 128 is a diagram for explaining a relationship between a thin line of an image in the real world and a background.
FIG. 129 is a diagram illustrating a relationship between a thin line of an image captured by a sensor and a background.
FIG. 130 is a diagram illustrating an example of a relationship between a thin line of an image captured by a sensor and a background.
FIG. 131 is a diagram for explaining a relationship between a thin line of an image in the real world and a background.
FIG. 132 is a diagram for explaining a relationship between a thin line of an image captured by a sensor and a background.
133 is a diagram illustrating an example of a relationship between a thin line of an image captured by a sensor and a background. FIG.
FIG. 134 is a diagram showing a model for obtaining an angle of a thin line.
FIG. 135 is a diagram showing a model for obtaining an angle of a thin line.
136 is a diagram for explaining the maximum value and the minimum value of the pixel value of the dynamic range block corresponding to the target pixel; FIG.
FIG. 137 is a diagram for explaining how to obtain the angle of a thin line;
FIG. 138 is a diagram for explaining how to obtain the angle of a thin line;
FIG. 139 is a diagram for explaining an extraction block and a dynamic range block;
Fig. 140 is a diagram for explaining a method of solving a method of least squares.
FIG. 141 is a diagram illustrating a method of solving a method of least squares.
FIG. 142 is a diagram illustrating a binary edge.
FIG. 143 is a diagram illustrating binary edges of an image captured by a sensor.
FIG. 144 is a diagram illustrating an example of a binary edge of an image captured by a sensor.
FIG. 145 is a diagram illustrating binary edges of an image captured by a sensor.
FIG. 146 is a diagram showing a model for obtaining an angle of a binary edge.
FIG. 147 is a diagram illustrating a method for obtaining the angle of a binary edge.
FIG. 148 is a diagram for explaining a method for obtaining the angle of a binary edge;
FIG. 149 is a flowchart for describing processing for detecting an angle of a thin line or a binary edge as data continuity.
FIG. 150 is a flowchart illustrating data extraction processing.
FIG. 151 is a flowchart for explaining addition processing to a normal equation;
FIG. 152 is a diagram comparing the inclination of the fine line obtained by applying the present invention and the angle of the fine line obtained using the correlation.
FIG. 153 is a diagram comparing the slope of a binary edge obtained by applying the present invention and the angle of a thin line obtained using correlation.
FIG. 154 is a block diagram illustrating a configuration of a data continuity detecting unit that detects a mixture ratio to which the present invention is applied as data continuity information;
FIG. 155 is a diagram for explaining how to obtain the mixture ratio;
FIG. 156 is a flowchart for describing processing for detecting a mixture ratio as data continuity.
FIG. 157 is a flowchart for describing addition processing to a normal equation;
FIG. 158 is a diagram illustrating a distribution example of a mixture ratio of thin lines.
FIG. 159 is a diagram illustrating a distribution example of a mixture ratio of binary edges.
FIG. 160 is a diagram for explaining linear approximation of the mixing ratio.
FIG. 161 is a diagram for explaining a method for obtaining an object motion as data continuity information;
FIG. 162 is a diagram for explaining a method for obtaining an object motion as data continuity information;
FIG. 163 is a diagram illustrating a method for obtaining a mixture ratio based on the movement of an object as data continuity information;
FIG. 164 is a diagram for explaining a linear approximation of the mixture ratio when obtaining the mixture ratio based on the movement of the object as data continuity information;
FIG. 165 is a block diagram illustrating a configuration of a data continuity detecting unit that detects a processing region to which the present invention is applied as data continuity information.
166 is a flowchart for describing continuity detection processing by the data continuity detection unit of FIG. 165. FIG.
167 is a diagram for explaining an integration range of a process for detecting continuity by the data continuity detecting unit in FIG. 165; FIG.
168 is a diagram for explaining an integration range of processing for detecting continuity by the data continuity detecting unit in FIG. 165; FIG.
FIG. 169 is a block diagram illustrating another configuration of a data continuity detecting unit that detects a processing region to which the present invention is applied as data continuity information;
FIG. 170 is a flowchart for describing continuity detection processing by the data continuity detection unit of FIG. 169;
171 is a diagram for explaining an integration range of processing for detecting continuity by the data continuity detecting unit in FIG. 169; FIG.
172 is a diagram for explaining an integration range of a process for detecting continuity by the data continuity detecting unit in FIG. 169;
173 is a block diagram showing a configuration of a real world estimation unit 102. FIG.
174 is a diagram for describing processing for detecting the width of a thin line in a real world 1 signal; FIG.
175 is a diagram for describing processing for detecting the width of a thin line in a real world 1 signal; FIG.
176 is a diagram for describing processing for estimating the level of a thin line signal in a real world 1 signal; FIG.
FIG. 177 is a flowchart for describing real-world estimation processing;
178 is a block diagram illustrating another configuration of the real world estimation unit 102. FIG.
179 is a block diagram illustrating a configuration of the boundary detection unit 2121. FIG.
FIG. 180 is a diagram for explaining distribution ratio calculation processing;
181 is a diagram for describing distribution ratio calculation processing; FIG.
182 is a diagram for describing distribution ratio calculation processing; FIG.
FIG. 183 is a diagram illustrating a process of calculating a regression line indicating a boundary between monotonous increase / decrease areas.
FIG. 184 is a diagram illustrating a process of calculating a regression line indicating the boundary of a monotonous increase / decrease area.
FIG. 185 is a flowchart for describing real-world estimation processing;
FIG. 186 is a flowchart for describing boundary detection processing;
187 is a block diagram illustrating a configuration of a real world estimation unit that estimates a differential value in a spatial direction as real world estimation information. FIG.
188 is a flowchart for describing real world estimation processing by the real world estimation unit in FIG. 187. FIG.
189 is a diagram illustrating a reference pixel. FIG.
FIG. 190 is a diagram illustrating a position for obtaining a differential value in the spatial direction.
FIG. 191 is a diagram illustrating a relationship between a differential value in a spatial direction and a shift amount.
FIG. 192 is a block diagram illustrating a configuration of a real world estimation unit that estimates the inclination in the spatial direction as real world estimation information.
FIG. 193 is a flowchart for describing real world estimation processing by the real world estimation unit in FIG. 192;
FIG. 194 is a diagram for describing processing for obtaining the inclination in the spatial direction;
FIG. 195 is a diagram for describing processing for obtaining the inclination in the spatial direction.
196 is a block diagram illustrating a configuration of a real world estimation unit that estimates a differential value in a frame direction as real world estimation information. FIG.
197 is a flowchart for describing real world estimation processing by a real world estimation unit in FIG. 196. FIG.
FIG. 198 is a diagram for describing a reference pixel.
FIG. 199 is a diagram illustrating a position for obtaining a differential value in a frame direction.
FIG. 200 is a diagram illustrating a relationship between a differential value in a frame direction and a shift amount.
FIG. 201 is a block diagram illustrating a configuration of a real world estimation unit that estimates the inclination in the frame direction as real world estimation information.
202 is a flowchart for describing real world estimation processing by the real world estimation unit in FIG. 201;
[Fig. 203] Fig. 203 is a diagram for describing processing for obtaining an inclination in a frame direction.
Fig. 204 is a diagram for describing processing for obtaining an inclination in a frame direction.
205 is a diagram for explaining the principle of a function approximation method, which is an example of an embodiment of a real world estimation unit in FIG. 3; FIG.
FIG. 206 is a diagram illustrating an integration effect when the sensor is a CCD.
207 is a diagram illustrating a specific example of the integration effect of the sensor in FIG. 206. FIG.
FIG. 208 is a diagram for explaining another specific example of the integration effect of the sensor in FIG. 206.
209 is a diagram showing a thin-line-containing real world region shown in FIG. 207. FIG.
FIG. 210 is a diagram for explaining the principle of an example of the embodiment of the real world estimation unit in FIG. 3 in comparison with the example in FIG. 205;
211 is a diagram showing a thin line-containing data region shown in FIG. 207. FIG.
FIG. 212 is a graph obtained by graphing each pixel value included in the thin line-containing data area of FIG. 211.
213 is a graph showing an approximate function approximating each pixel value included in the thin line containing data region of FIG. 212. FIG.
214 is a diagram for describing the continuity in the spatial direction of the thin line-containing real world region shown in FIG. 207. FIG.
215 is a graph obtained by graphing each pixel value included in the thin line-containing data region in FIG. 211. FIG.
216 is a diagram illustrating a state where each of the input pixel values shown in FIG. 215 is shifted by a predetermined shift amount. FIG.
217 is a graph of an approximate function that approximates each pixel value included in the thin line-containing data region in FIG. 212 in consideration of the continuity in the spatial direction.
FIG. 218 is a diagram illustrating a spatial mixing region.
FIG. 219 is a diagram illustrating an approximation function approximating a real-world signal in a spatial mixing region.
220 is a graph showing an approximate function that approximates a real-world signal corresponding to the thin-line-containing data region in FIG. 212 in consideration of both the integral characteristics of the sensor and the continuity in the spatial direction.
221 is a block diagram illustrating a configuration example of a real world estimation unit that uses a first-order polynomial approximation method among the function approximation methods having the principle shown in FIG. 205. FIG.
FIG. 222 is a flowchart for describing real world estimation processing executed by a real world estimation unit having the configuration of FIG. 221;
FIG. 223 is a diagram illustrating a tap range.
FIG. 224 is a diagram for explaining a real-world signal having spatial continuity.
225 is a diagram for explaining the integration effect when the sensor is a CCD; FIG.
FIG. 226 is a diagram for explaining a cross-sectional direction distance;
227 is a block diagram illustrating a configuration example of a real world estimation unit using a second-order polynomial approximation method among the function approximation methods having the principle shown in FIG. 205. FIG.
228 is a flowchart for describing real world estimation processing executed by a real world estimation unit configured as shown in FIG. 227;
229 is a diagram for explaining a tap range. FIG.
FIG. 230 is a diagram for explaining the direction of continuity in the spatiotemporal direction.
FIG. 231 is a diagram for explaining the integration effect when the sensor is a CCD;
FIG. 232 is a diagram for explaining real-world signals having spatial continuity.
FIG. 233 is a diagram for explaining a real-world signal having continuity in a spatio-temporal direction.
234 is a block diagram illustrating a configuration example of a real world estimation unit using a three-dimensional function approximation method among the function approximation methods having the principle illustrated in FIG. 205. FIG.
235 is a flowchart for describing real-world estimation processing executed by a real-world estimation unit configured as shown in FIG.
236 is a diagram for describing the principle of a reintegration method, which is an example of an embodiment of an image generation unit in FIG. 3; FIG.
237 is a diagram for describing an example of an input pixel and an approximation function that approximates a real-world signal corresponding to the input pixel. FIG.
238 is a diagram for describing an example of creating four high-resolution pixels in one input pixel shown in FIG. 237 from the approximate function shown in FIG. 237;
239 is a block diagram illustrating a configuration example of an image generation unit that uses a one-dimensional reintegration method among the reintegration methods having the principle illustrated in FIG. 236. FIG.
240 is a flowchart for describing image generation processing executed by the image generation unit configured as shown in FIG. 239;
FIG. 241 is a diagram illustrating an example of an original image of an input image.
242 is a diagram illustrating an example of image data corresponding to the image in FIG. 241. FIG.
FIG. 243 is a diagram illustrating an example of an input image.
244 is a diagram illustrating an example of image data corresponding to the image in FIG. 243. FIG.
245 is a diagram illustrating an example of an image obtained by performing conventional class classification adaptation processing on an input image. FIG.
246 is a diagram illustrating an example of image data corresponding to the image in FIG. 245. FIG.
247 is a diagram illustrating an example of an image obtained by performing processing of the one-dimensional reintegration method of the present invention on an input image. FIG.
248 is a diagram illustrating an example of image data corresponding to the image in FIG. 247. FIG.
FIG. 249 is a diagram illustrating a real-world signal having a spatial continuity.
250 is a block diagram illustrating a configuration example of an image generation unit that uses a two-dimensional reintegration method among the reintegration methods having the principle illustrated in FIG. 236. FIG.
FIG. 251 is a diagram illustrating a distance in a cross-sectional direction.
252 is a flowchart for describing image generation processing executed by the image generation unit configured as shown in FIG. 250. FIG.
FIG. 253 is a diagram illustrating an example of input pixels.
254 is a diagram for describing an example of creating four high-resolution pixels in one input pixel shown in FIG. 253 by a two-dimensional reintegration technique.
FIG. 255 is a diagram for explaining the direction of continuity in the spatiotemporal direction.
256 is a block diagram illustrating a configuration example of an image generation unit that uses a three-dimensional reintegration method among the reintegration methods having the principle illustrated in FIG. 236. FIG.
257 is a flowchart for describing image generation processing executed by the image generation unit configured as shown in FIG. 256;
258 is a block diagram illustrating another configuration of the image generation unit to which the present invention has been applied. FIG.
259 is a flowchart for describing image generation processing by the image generation unit in FIG. 258;
FIG. 260 is a diagram illustrating a process of generating a four-fold density pixel from an input pixel.
FIG. 261 is a diagram illustrating a relationship between an approximate function indicating a pixel value and a shift amount.
Fig. 262 is a block diagram illustrating another configuration of an image generation unit to which the present invention has been applied.
263 is a flowchart for describing image generation processing by the image generation unit in FIG. 262; FIG.
FIG. 264 is a diagram for describing processing to generate a four-fold density pixel from an input pixel.
265 is a diagram illustrating a relationship between an approximate function indicating a pixel value and a shift amount; FIG.
266 is a block diagram illustrating a configuration example of an image generation unit that uses the one-dimensional reintegration method of the class classification adaptive processing correction method, which is an example of the embodiment of the image generation unit in FIG. 3; FIG.
267 is a block diagram illustrating a configuration example of a class classification adaptation processing unit of the image generation unit in FIG. 266. FIG.
268 is a block diagram illustrating a configuration example of a learning device that determines, by learning, coefficients used by the class classification adaptive processing unit and the class classification adaptive processing correction unit in FIG. 266;
269 is a block diagram illustrating a detailed configuration example of a class classification adaptive processing learning unit in FIG. 268. FIG.
270 is a diagram illustrating an example of a processing result of the class classification adaptation processing unit in FIG. 267;
271 is a diagram illustrating a difference image between the predicted image and the HD image in FIG. 270. FIG.
272 is a specific pixel of the HD image in FIG. 270 corresponding to four HD pixels from the left in the drawing among the six HD pixels continuous in the X direction included in the region shown in FIG. 271; It is a figure which shows what plotted each of a value, the concrete pixel value of SD image, and an actual waveform (real world signal).
273 is a diagram illustrating a difference image between the predicted image and the HD image in FIG. 270; FIG.
274 is a specific pixel of the HD image in FIG. 270 corresponding to four HD pixels from the left in the drawing among the six HD pixels continuous in the X direction included in the region shown in FIG. 273; It is a figure which shows what plotted each of a value, the concrete pixel value of SD image, and an actual waveform (real world signal).
275 is a diagram for explaining knowledge obtained based on the contents shown in FIGS. 272 to 274; FIG.
276 is a block diagram illustrating a configuration example of a class classification adaptive processing correction unit in the image generation unit in FIG. 266. FIG.
277 is a block diagram illustrating a detailed configuration example of a class classification adaptive processing correction learning unit in FIG. 268. FIG.
FIG. 278 is a diagram for explaining in-pixel inclination;
FIG. 279 is a diagram illustrating the SD image of FIG. 270 and a feature amount image in which the in-pixel inclination of each pixel of the SD image is a pixel value.
FIG. 280 is a diagram illustrating a method for calculating an in-pixel inclination.
FIG. 281 is a diagram illustrating a method for calculating an in-pixel inclination.
282 is a flowchart for describing image generation processing executed by the image generation unit configured as shown in FIG. 266. FIG.
283 is a flowchart for describing details of an input image class classification adaptation process of the image generation process of FIG. 282. FIG.
284 is a flowchart for describing details of correction processing of class classification adaptation processing in the image generation processing of FIG. 282. FIG.
285 is a diagram for describing an example of arrangement of class taps. FIG.
286 is a diagram for describing an example of class classification; FIG.
287 is a diagram for describing an example of a prediction tap arrangement. FIG.
288 is a flowchart for describing learning processing of the learning device in FIG. 268. FIG.
289 is a flowchart illustrating details of learning processing for class classification adaptation processing in the learning processing of FIG. 288. FIG.
290 is a flowchart for describing the details of the learning processing for class classification adaptive processing correction in the learning processing of FIG. 288. FIG.
291 is a diagram illustrating the predicted image in FIG. 270 and an image obtained by adding the corrected image to the predicted image (an image generated by the image generation unit in FIG. 266).
292 is a block diagram illustrating a first configuration example of a signal processing apparatus that uses the combined method, which is another example of the embodiment of the signal processing apparatus in FIG. 1. FIG.
293 is a block diagram illustrating a configuration example of an image generation unit that executes class classification adaptation processing of the signal processing device in FIG. 292. FIG.
294 is a block diagram illustrating a configuration example of a learning device for the image generation unit in FIG. 293. FIG.
295 is a flowchart for describing signal processing executed by the signal processing apparatus having the configuration shown in FIG. 292;
296 is a flowchart illustrating details of an execution process of a class classification adaptation process of the signal processing of FIG. 295. FIG.
297 is a flowchart for describing learning processing of the learning device in FIG. 294. FIG.
298 is a block diagram illustrating a second configuration example of the signal processing apparatus using the combined method, which is another example of the embodiment of the signal processing apparatus in FIG. 1. FIG.
299 is a flowchart for describing signal processing executed by the signal processing apparatus having the structure of FIG. 296. FIG.
300 is a block diagram illustrating a third configuration example of the signal processing apparatus using the combined method, which is another example of the embodiment of the signal processing apparatus in FIG. 1. FIG.
301 is a flowchart for describing signal processing executed by the signal processing apparatus having the configuration of FIG. 298. FIG.
302 is a block diagram illustrating a fourth configuration example of the signal processing apparatus using the combined method, which is another example of the embodiment of the signal processing apparatus in FIG. 1. FIG.
303 is a flowchart for explaining signal processing executed by the signal processing apparatus having the configuration shown in FIG. 300;
304 is a block diagram illustrating a fifth configuration example of the signal processing apparatus using the combined method, which is another example of the embodiment of the signal processing apparatus in FIG. 1;
305 is a flowchart for describing signal processing executed by the signal processing apparatus having the configuration shown in FIG. 302;
306 is a block diagram illustrating a configuration of another embodiment of a data continuity detecting unit. FIG.
307 is a flowchart for describing data continuity detection processing by the data continuity detecting unit in FIG. 306;
[Explanation of symbols]
4 signal processing apparatus, 21 CPU, 22 ROM, 23 RAM, 28 storage unit, 51 magnetic disk, 52 optical disk, 53 magneto-optical disk, 54 semiconductor memory, 101 data continuity detection unit, 102 real world estimation unit, 103 image generation , 201 unsteady component extraction unit, 202 vertex detection unit, 203 monotonic increase / decrease detection unit, 204 continuity detection unit, 221 block extraction unit, 222 plane approximation unit, 223 iteration determination unit, 401 activity detection unit, 402 data selection unit , 403 error estimation unit, 404 steady direction derivation unit, 411-1 to 411-L pixel selection unit, 412-1 to 412-L estimation error calculation unit, 413 minimum error angle selection unit, 4211-1 to 421-L pixel Selection unit, 422-1 to 422 Estimated error calculation unit, 441 data selection unit, 442 error estimation unit, 443 steady direction derivation unit, 461-1 to 461-L pixel selection unit, 462-1 to 462-L estimation error calculation unit, 463 minimum error angle selection unit 481-1 to 481-3 data continuity detection unit, 482 determination unit, 491 component processing unit, 492 data continuity detection unit, 502 pixel acquisition unit, 503 frequency detection unit, 504 regression line calculation unit, 505 angle calculation unit , 602 pixel acquisition unit, 603 frequency detection unit, 604 regression line calculation unit, 605 region calculation unit, 701 data selection unit, 702 data addition unit, 703 steady direction derivation unit, 711 horizontal / vertical determination unit, 712 data acquisition unit , 721 Difference addition part, 722 MaxMin acquisition part, 723 Addition unit, 731 Steady direction calculation unit, 751 Data addition unit, 752 MaxMin acquisition unit, 753 Addition unit, 754 Difference calculation unit, 755 Addition unit, 761 Mixing ratio deriving unit, 762 Mixing ratio calculation unit, 801 Angle detection unit, 802 real world estimation unit, 803 error calculation unit, 804 comparison unit, 821 motion detection unit, 822 real world estimation unit, 823 error calculation unit, 824 comparison unit, 2101 line width detection unit, 2102 signal level estimation unit , 2121 boundary detection unit, 2131 distribution ratio calculation unit, 2132 regression line calculation unit, 2201 real world estimation unit, 2202 approximation function estimation unit, 2203 differentiation processing unit, 2211 reference pixel extraction unit, 2212 slope estimation unit, 2231 real world estimation Part, 2232 approximation function estimation part, 2233 Minute processing unit, 2251 reference pixel extraction unit, 2252 inclination estimation unit, 2331 condition setting unit, 2332 input image storage unit, 2333 input pixel value acquisition unit, 2334 integral component calculation unit, 2335 normal equation generation unit, 2336 approximation function generation unit , 2341 Input pixel value table, 2342 Integration component table, 2343 Normal equation table, 2421 Condition setting unit, 2422 Input image storage unit, 2423 Input pixel value acquisition unit, 2424 Integration component calculation unit, 2425 Normal equation generation unit, 2426 Approximation function Generation unit, 2431 input pixel value table, 2432 integral component table, 2433 normal equation table, 2521 condition setting unit, 2522 input image storage unit, 2523 input pixel value acquisition unit, 2524 integral component calculation unit, 2525 normal equation generation unit, 25 26 Approximate function generation unit, 2531 input pixel value table, 2532 integral component table, 2533 normal equation table, 3121 condition setting unit, 3122 feature quantity storage unit, 3123 integral component computation unit, 3124 output pixel value computation unit, 3131 feature quantity table , 3132 Integral component table, 3201 Condition setting unit, 3202 Feature amount storage unit, 3203 Integral component calculation unit, 3204 Output pixel value calculation unit, 3211 Feature amount table, 3212 Integral component table, 3301 Condition setting unit, 3302 Feature amount storage unit , 3303 integral component computing unit, 3304 output pixel value computing unit, 3311 feature quantity table, 3312 integral component table, 3201 slope acquisition unit, 3202 extrapolation interpolation unit, 3211 slope acquisition unit, 3212 extrapolation interpolation unit, 3501 class Classification adaptive processing unit, 3502 class classification adaptive processing correction unit, 3503 addition unit, 3504 learning device, 3521 class classification adaptive processing learning unit, 3561 class classification adaptive processing correction learning unit, 4101 data continuity detection unit 4101 real world estimation Unit, 4103 image generation unit, 4104 image generation unit, 4105 stationary region detection unit, 4111 region detection unit, 4112 selector, 4161 stationary region detection unit, 4171 region detection unit, 4172 execution command generation unit, 4181, 4182 stationary region detection unit , 4191 region detection unit, 4192 execution command generation unit, 4201 region detection unit, 4202 execution command generation unit, 4501 image generation unit

Claims (4)

The real-world optical signal has a cross section as a change in level corresponding to a change in position in a direction perpendicular to the length direction at an arbitrary position in the length direction of the object in the distribution of the intensity of the optical signal from the object. 1st image data which has the continuity of the optical signal of the real world that the shape is the same, the optical signal of the real world is projected, and a part of the continuity of the optical signal of the real world is missing Discontinuous part detecting means for obtaining a regression plane corresponding to pixel values of a plurality of pixels and detecting a region composed of pixels having pixel values whose distance from the regression plane is equal to or greater than a threshold as a discontinuous part;
Vertex detection means for detecting the vertex of the pixel value change from the discontinuity,
A monotonous increase / decrease area detecting means for detecting a monotonous increase / decrease area in which the pixel value monotonously increases or decreases from the vertex;
Continuous region detecting means for detecting, as a continuous region, the monotonous increase / decrease region in which the other monotonous increase / decrease region exists in an adjacent position on the screen among the monotonous increase / decrease regions detected by the monotonous increase / decrease region detecting means; ,
The continuous region is detected as a region having data continuity in the first image data having a certain characteristic in a predetermined dimension direction changed from the continuity of the optical signal in the real world. Image data continuity detecting means;
Based on the region having continuity of the detected the data, and the actual world estimating means for estimating the optical signal by estimating the continuity of the optical signal of the real world,
An image processing apparatus comprising: an imaging unit that converts the optical signal estimated by the real world estimation unit into second image data. The real-world optical signal has a cross section as a change in level corresponding to a change in position in a direction perpendicular to the length direction at an arbitrary position in the length direction of the object in the distribution of the intensity of the optical signal from the object. 1st image data which has the continuity of the optical signal of the real world that the shape is the same, the optical signal of the real world is projected, and a part of the continuity of the optical signal of the real world is missing A step of detecting a regression plane corresponding to pixel values of a plurality of pixels, and detecting a region composed of pixels having pixel values whose distance from the regression plane is equal to or greater than a threshold as a discontinuous portion;
A vertex detecting step for detecting a vertex of the change in the pixel value from the discontinuous portion;
A monotonous increase / decrease region detection step for detecting a monotonous increase / decrease region in which the pixel value increases or decreases monotonously from the vertex;
Continuous region detection for detecting, as a continuous region, the monotonous increase / decrease region in which the other monotonous increase / decrease region exists in an adjacent position on the screen among the monotonous increase / decrease regions detected by the processing of the monotonous increase / decrease region detection step. Steps,
The continuous region is detected as a region having data continuity in the first image data having a certain characteristic in a predetermined dimension direction changed from the continuity of the optical signal in the real world. An image data stationarity detecting step;
And actual world estimating step for estimating the optical signal by based on the area having a continuity of the detected said data, estimates the constancy of the optical signal of the real world,
An image processing method comprising: an imaging step of converting the optical signal estimated by the processing of the real world estimation step into second image data. The real-world optical signal has a cross section as a change in level corresponding to a change in position in a direction perpendicular to the length direction at an arbitrary position in the length direction of the object in the distribution of the intensity of the optical signal from the object. 1st image data which has the continuity of the optical signal of the real world that the shape is the same, the optical signal of the real world is projected, and a part of the continuity of the optical signal of the real world is missing A step of detecting a regression plane corresponding to pixel values of a plurality of pixels, and detecting a region composed of pixels having pixel values whose distance from the regression plane is equal to or greater than a threshold as a discontinuous portion;
A vertex detecting step for detecting a vertex of the change in the pixel value from the discontinuous portion;
A monotonous increase / decrease region detection step for detecting a monotonous increase / decrease region in which the pixel value increases or decreases monotonously from the vertex;
Continuous region detection for detecting, as a continuous region, the monotonous increase / decrease region in which the other monotonous increase / decrease region exists in an adjacent position on the screen among the monotonous increase / decrease regions detected by the processing of the monotonous increase / decrease region detection step. Steps,
The continuous region is detected as a region having data continuity in the first image data having a certain characteristic in a predetermined dimension direction changed from the continuity of the optical signal in the real world. An image data stationarity detecting step;
And actual world estimating step for estimating the optical signal by based on the area having a continuity of the detected said data, estimates the constancy of the optical signal of the real world,
An imaging step of converting the optical signal estimated by the processing of the real world estimation step into second image data. . The real-world optical signal has a cross section as a change in level corresponding to a change in position in a direction perpendicular to the length direction at an arbitrary position in the length direction of the object in the distribution of the intensity of the optical signal from the object. 1st image data which has the continuity of the optical signal of the real world that the shape is the same, the optical signal of the real world is projected, and a part of the continuity of the optical signal of the real world is missing A step of detecting a regression plane corresponding to pixel values of a plurality of pixels, and detecting a region composed of pixels having pixel values whose distance from the regression plane is equal to or greater than a threshold as a discontinuous portion;
A vertex detecting step for detecting a vertex of the change in the pixel value from the discontinuous portion;
A monotonous increase / decrease region detection step for detecting a monotonous increase / decrease region in which the pixel value increases or decreases monotonously from the vertex;
Continuous region detection for detecting, as a continuous region, the monotonous increase / decrease region in which the other monotonous increase / decrease region exists in an adjacent position on the screen among the monotonous increase / decrease regions detected by the processing of the monotonous increase / decrease region detection step. Steps,
The continuous region is detected as a region having data continuity in the first image data having a certain characteristic in a predetermined dimension direction changed from the continuity of the optical signal in the real world. An image data stationarity detecting step;
And actual world estimating step for estimating the optical signal by based on the area having a continuity of the detected said data, estimates the constancy of the optical signal of the real world,
A program that causes a computer to execute an imaging step of converting the optical signal estimated by the processing of the real world estimation step into second image data.

Images