JP4144377B2 - 画像処理装置および方法、記録媒体、並びにプログラム - Google Patents

Description

【０００１】
【発明の属する技術分野】
本発明は、画像処理装置および方法、記録媒体、並びにプログラムに関し、特に、データが取得された現実世界を考慮した画像処理装置および方法、記録媒体、並びにプログラムに関する。
【０００２】
【従来の技術】
実世界（現実世界）における事象をセンサで検出し、センサが出力するサンプリングデータを処理する技術が広く利用されている。例えば、実世界をイメージセンサで撮像し、画像データであるサンプリングデータを処理する画像処理技術が広く利用されている。
【０００３】
また、第１の次元を有する現実世界の信号である第１の信号をセンサによって検出することにより得た、第１の次元に比較し次元が少ない第２の次元を有し、第１の信号に対する歪を含む第２の信号を取得し、第２の信号に基づく信号処理を行うことにより、第２の信号に比して歪の軽減された第３の信号を生成するようにしているものもある（例えば、特許文献１参照）。
【０００４】
【特許文献１】
特開２００１−２５０１１９号公報
【０００５】
【発明が解決しようとする課題】
しかしながら、データが取得された現実世界を考慮した画像処理はこれまで考えられていなかった。
【０００６】
本発明はこのような状況に鑑みてなされたものであり、データが取得された現実世界を考慮し、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようにすることを目的とする。
【０００７】
【課題を解決するための手段】
本発明の画像処理装置は、現実世界の光信号は、物からの光信号の強度の分布における物の長さ方向の任意の位置において、長さ方向に直交する方向の位置の変化に対応するレベルの変化としての断面形状が同じであるという現実世界の光信号の定常性を有し、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データ内の、現実世界の光信号の定常性から変化したに対応する所定の次元の方向に一定の特徴を有しているという画像データの定常性を有する画素の領域の基準軸に対する角度を、マッチング処理により検出する第１の角度検出手段と、第１の角度検出手段により検出された角度に対応する所定領域内の画像データに基いて、統計処理により角度を検出する第２の角度検出手段と、第２の角度検出手段により検出された角度に基いて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定する実世界推定手段とを備えることを特徴とする。
【０００８】
前記第１の角度検出手段には、画像データ内の注目画素を基準とした各角度の直線に近接する複数の画素を中心とした画像ブロックを検出する画素検出手段と、画素検出手段により検出された各画像ブロック同士の相関を検出する相関検出手段とをさらに設けるようにさせることができ、相関検出手段により検出された各画像ブロック同士の相関の値に応じて画像データの定常性の基準軸に対する角度を検出させるようにすることができる。
【０００９】
前記第２の角度検出手段には、複数の統計処理手段をさらに設けるようにさせることができ、第１の角度検出手段により検出された角度に応じて複数の統計処理手段のうちの１の統計処理手段により角度を検出するようにさせることができる。
【００１０】
前記複数の統計処理手段のうちの１の統計処理手段には、所定領域内の画素の画素値の最大値と最小値との差であるダイナミックレンジを検出するダイナミックレンジ検出手段と、所定領域内のアクティビティに応じた方向に隣接する画素間の差分値を検出する差分値検出手段と、ダイナミックレンジと差分値に応じて、欠落した現実世界の光信号の定常性に対応する画像データの定常性の基準軸に対する角度を統計的に検出する統計的角度検出手段とをさらに設けるようにさせることができる。
【００１１】
前記複数の統計処理手段のうちの１の統計処理手段には、注目画素の画素値と、所定領域内の他の画素の画素値との相関値が閾値以上である画素の数を注目画素に対応する度数とする度数検出手段と、度数検出手段により検出された各注目画素の度数に基いて回帰線を検出することにより、画像データの定常性の基準軸に対する角度を統計的に検出する統計的角度検出手段とをさらに設けるようにさせることができる。
【００１２】
前記度数検出手段には、所定領域内以外の画素に対応する度数を０に設定させるようにすることができる。
【００１３】
本発明の画像処理方法は、現実世界の光信号は、物からの光信号の強度の分布における物の長さ方向の任意の位置において、長さ方向に直交する方向の位置の変化に対応するレベルの変化としての断面形状が同じであるという現実世界の光信号の定常性を有し、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データ内の、現実世界の光信号の定常性から変化したに対応する所定の次元の方向に一定の特徴を有しているという画像データの定常性を有する画素の領域の基準軸に対する角度を、マッチング処理により検出する第１の角度検出ステップと、第１の角度検出ステップの処理で検出された角度に対応する所定領域内の画像データに基いて、統計処理により角度を検出する第２の角度検出ステップと、第２の角度検出ステップの処理で検出された角度に基いて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定する実世界推定ステップとを含むことを特徴とする。
【００１４】
本発明の記録媒体のプログラムは、現実世界の光信号は、物からの光信号の強度の分布における物の長さ方向の任意の位置において、長さ方向に直交する方向の位置の変化に対応するレベルの変化としての断面形状が同じであるという現実世界の光信号の定常性を有し、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データ内の、現実世界の光信号の定常性から変化したに対応する所定の次元の方向に一定の特徴を有しているという画像データの定常性を有する画素の領域の基準軸に対する角度を、マッチング処理により検出する第１の角度検出ステップと、第１の角度検出ステップの処理で検出された角度に対応する所定領域内の画像データに基いて、統計処理により角度を検出する第２の角度検出ステップと、第２の角度検出ステップの処理で検出された角度に基いて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定する実世界推定ステップとを含む処理を実行させるコンピュータが読み取り可能なプログラムであることを特徴とする。
【００１５】
本発明のプログラムは、現実世界の光信号は、物からの光信号の強度の分布における物の長さ方向の任意の位置において、長さ方向に直交する方向の位置の変化に対応するレベルの変化としての断面形状が同じであるという現実世界の光信号の定常性を有し、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データ内の、現実世界の光信号の定常性から変化したに対応する所定の次元の方向に一定の特徴を有しているという画像データの定常性を有する画素の領域の基準軸に対する角度を、マッチング処理により検出する第１の角度検出ステップと、第１の角度検出ステップの処理で検出された角度に対応する所定領域内の画像データに基いて、統計処理により角度を検出する第２の角度検出ステップと、第２の角度検出ステップの処理で検出された角度に基いて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定する実世界推定ステップとを含む処理をコンピュータに実行させることを特徴とする。
【００１６】
本発明の画像処理装置および方法、並びにプログラムにおいては、現実世界の光信号は、物からの光信号の強度の分布における物の長さ方向の任意の位置において、長さ方向に直交する方向の位置の変化に対応するレベルの変化としての断面形状が同じであるという現実世界の光信号の定常性を有し、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データ内の、現実世界の光信号の定常性から変化したに対応する所定の次元の方向に一定の特徴を有しているという画像データの定常性を有する画素の領域の基準軸に対する角度が、マッチング処理により検出され、検出された角度に対応する所定領域内の画像データに基いて、統計処理により角度が検出され、統計処理により検出された角度に基いて、欠落した現実世界の光信号の定常性を推定することにより光信号が推定される。
【００１７】
画像処理装置は、独立した装置であっても良いし、画像処理を行うブロックであっても良い。
【００１８】
【発明の実施の形態】
図１は、本発明の原理を表している。同図で示されるように、空間、時間、および質量の次元を有する実世界１の事象（現象）は、センサ２により取得され、データ化される。実世界１の事象とは、光（画像）、音声、圧力、温度、質量、濃度、明るさ／暗さ、またはにおいなどをいう。実世界１の事象は、時空間方向に分布している。例えば、実世界１の画像は、実世界１の光の強度の時空間方向の分布である。
【００１９】
センサ２に注目すると、空間、時間、および質量の次元を有する実世界１の事象のうち、センサ２が取得可能な、実世界１の事象が、センサ２により、データ３に変換される。センサ２によって、実世界１の事象を示す情報が取得されるとも言える。
【００２０】
すなわち、センサ２は、実世界１の事象を示す情報を、データ３に変換する。空間、時間、および質量の次元を有する実世界１の事象（現象）を示す情報である信号がセンサ２により取得され、データ化されるとも言える。
【００２１】
以下、実世界１における、画像、音声、圧力、温度、質量、濃度、明るさ／暗さ、またはにおいなどの事象の分布を、実世界１の事象を示す情報である信号とも称する。また、実世界１の事象を示す情報である信号を、単に、実世界１の信号とも称する。本明細書において、信号は、現象および事象を含み、送信側に意思がないものも含むものとする。
【００２２】
センサ２から出力されるデータ３（検出信号）は、実世界１の事象を示す情報を、実世界１に比較して、より低い次元の時空間に射影して得られた情報である。例えば、動画像の画像データであるデータ３は、実世界１の３次元の空間方向および時間方向の画像が、２次元の空間方向、および時間方向からなる時空間に射影されて得られた情報である。また、例えば、データ３がデジタルデータであるとき、データ３は、サンプリングの単位に応じて、丸められている。データ３がアナログデータであるとき、データ３において、ダイナミックレンジに応じて、情報が圧縮されているか、またはリミッタなどにより、情報の一部が削除されている。
【００２３】
このように、所定の次元を有する実世界１の事象を示す情報である信号をデータ３（検出信号）に射影することにより、実世界１の事象を示す情報の一部が欠落する。すなわち、センサ２が出力するデータ３において、実世界１の事象を示す情報の一部が欠落している。
【００２４】
しかしながら、射影により実世界１の事象を示す情報の一部が欠落しているものの、データ３は、実世界１の事象（現象）を示す情報である信号を推定するための有意情報を含んでいる。
【００２５】
本発明においては、実世界１の情報である信号を推定するための有意情報として、データ３に含まれる定常性を有する情報を利用する。定常性は、新たに定義する概念である。
【００２６】
ここで、実世界１に注目すると、実世界１の事象は、所定の次元の方向に一定の特徴を含む。例えば、実世界１の物体（有体物）において、空間方向または時間方向に、形状、模様、若しくは色彩などが連続するか、または形状、模様、若しくは色彩などのパターンが繰り返す。
【００２７】
従って、実世界１の事象を示す情報には、所定の次元の方向に一定の特徴が含まれることになる。
【００２８】
より具体的な例を挙げれば、糸、紐、またはロープなどの線状の物体は、長さ方向の任意の位置において、断面形状が同じであるという長さ方向、すなわち空間方向に一定の特徴を有する。長さ方向の任意の位置において、断面形状が同じであるという空間方向に一定の特徴は、線状の物体が長いという特徴から生じる。
【００２９】
従って、線状の物体の画像は、長さ方向の任意の位置において、断面形状が同じであるという長さ方向、すなわち空間方向に一定の特徴を有している。
【００３０】
また、空間方向に広がりを有する有体物である、単色の物体は、部位にかかわらず、同一の色を有するという空間方向に一定の特徴を有していると言える。
【００３１】
同様に、空間方向に広がりを有する有体物である、単色の物体の画像は、部位にかかわらず、同一の色を有するという空間方向に一定の特徴を有している。
【００３２】
このように、実世界１（現実世界）の事象は、所定の次元の方向に一定の特徴を有しているので、実世界１の信号は、所定の次元の方向に一定の特徴を有する。
【００３３】
本明細書において、このような所定の次元の方向に一定の特徴を定常性と称する。実世界１（現実世界）の信号の定常性とは、実世界１（現実世界）の事象を示す信号が有している、所定の次元の方向に一定の特徴をいう。
【００３４】
実世界１（現実世界）には、このような定常性が無数に存在する。
【００３５】
次に、データ３に注目すると、データ３は、センサ２により、所定の次元を有する実世界１の事象を示す情報である信号が射影されたものであるので、実世界の信号の定常性に対応する定常性を含んでいる。データ３は、実世界の信号の定常性が射影された定常性を含んでいるとも言える。
【００３６】
しかしながら、上述したように、センサ２が出力するデータ３において、実世界１の情報の一部が欠落しているので、データ３から、実世界１（現実世界）の信号に含まれる定常性の一部が欠落してしまう。
【００３７】
換言すれば、データ３は、データの定常性として、実世界１（現実世界）の信号の定常性の中の、一部の定常性を含む。データの定常性とは、データ３が有している、所定の次元の方向に一定の特徴である。
【００３８】
本発明においては、実世界１の事象を示す情報である信号を推定するための有意情報として、データ３が有する、データの定常性が利用される。
【００３９】
例えば、本発明においては、データの定常性を利用して、データ３を信号処理することで、欠落した、実世界１の事象を示す情報が生成される。
【００４０】
なお、本発明においては、実世界１の事象を示す情報である信号の次元の、長さ（空間）、時間、および質量のうち、空間方向または時間方向の定常性が利用される。
【００４１】
図１に戻り、センサ２は、例えば、デジタルスチルカメラ、またはビデオカメラなどで構成され、実世界１の画像を撮像し、得られたデータ３である画像データを信号処理装置４に出力する。センサ２は、例えば、サーモグラフィ装置、または光弾性を利用した圧力センサなどとすることができる。
【００４２】
信号処理装置４は、例えば、パーソナルコンピュータなどで構成される。
【００４３】
信号処理装置４は、例えば、図２で示されるように構成される。CPU（Central Processing Unit）２１は、ROM（Read Only Memory）２２、または記憶部２８に記憶されているプログラムに従って各種の処理を実行する。RAM（Random Access Memory）２３には、CPU２１が実行するプログラムやデータなどが適宜記憶される。これらのCPU２１、ROM２２、およびRAM２３は、バス２４により相互に接続されている。
【００４４】
CPU２１にはまた、バス２４を介して入出力インタフェース２５が接続されている。入出力インタフェース２５には、キーボード、マウス、マイクロホンなどよりなる入力部２６、ディスプレイ、スピーカなどよりなる出力部２７が接続されている。CPU２１は、入力部２６から入力される指令に対応して各種の処理を実行する。そして、CPU２１は、処理の結果得られた画像や音声等を出力部２７に出力する。
【００４５】
入出力インタフェース２５に接続されている記憶部２８は、例えばハードディスクなどで構成され、CPU２１が実行するプログラムや各種のデータを記憶する。通信部２９は、インターネット、その他のネットワークを介して外部の装置と通信する。この例の場合、通信部２９はセンサ２の出力するデータ３を取り込む取得部として働く。
【００４６】
また、通信部２９を介してプログラムを取得し、記憶部２８に記憶してもよい。
【００４７】
入出力インタフェース２５に接続されているドライブ３０は、磁気ディスク５１、光ディスク５２、光磁気ディスク５３、或いは半導体メモリ５４などが装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部２８に転送され、記憶される。
【００４８】
図３は、信号処理装置４を示すブロック図である。
【００４９】
なお、信号処理装置４の各機能をハードウェアで実現するか、ソフトウェアで実現するかは問わない。つまり、本明細書の各ブロック図は、ハードウェアのブロック図と考えても、ソフトウェアによる機能ブロック図と考えても良い。
【００５０】
図３に構成を示す信号処理装置４においては、データ３の一例である画像データが入力され、入力された画像データ（入力画像）からデータの定常性が検出される。次に、検出されたデータの定常性から、センサ２により取得された実世界１の信号が推定される。そして、推定された実世界１の信号を基に、画像が生成され、生成された画像（出力画像）が出力される。すなわち、図３は、画像処理装置である信号処理装置４の構成を示す図である。
【００５１】
信号処理装置４に入力された入力画像（データ３の一例である画像データ）は、データ定常性検出部１０１および実世界推定部１０２に供給される。
【００５２】
データ定常性検出部１０１は、入力画像からデータの定常性を検出して、検出した定常性を示すデータ定常性情報を実世界推定部１０２および画像生成部１０３に供給する。データ定常性情報は、例えば、入力画像における、データの定常性を有する画素の領域の位置、データの定常性を有する画素の領域の方向（時間方向および空間方向の角度または傾き）、またはデータの定常性を有する画素の領域の長さなどを含む。データ定常性検出部１０１の構成の詳細は、後述する。
【００５３】
実世界推定部１０２は、入力画像、およびデータ定常性検出部１０１から供給されたデータ定常性情報を基に、実世界１の信号を推定する。すなわち、実世界推定部１０２は、入力画像が取得されたときセンサ２に入射された、実世界の信号である画像を推定する。実世界推定部１０２は、実世界１の信号の推定の結果を示す実世界推定情報を画像生成部１０３に供給する。実世界推定部１０２の構成の詳細は、後述する。
【００５４】
画像生成部１０３は、実世界推定部１０２から供給された、推定された実世界１の信号を示す実世界推定情報を基に、実世界１の信号により近似した信号を生成して、生成した信号を出力する。または、画像生成部１０３は、データ定常性検出部１０１から供給されたデータ定常性情報、および実世界推定部１０２から供給された、推定された実世界１の信号を示す実世界推定情報を基に、実世界１の信号により近似した信号を生成して、生成した信号を出力する。
【００５５】
すなわち、画像生成部１０３は、実世界推定情報を基に、実世界１の画像により近似した画像を生成して、生成した画像を出力画像として出力する。または、画像生成部１０３は、データ定常性情報および実世界推定情報を基に、実世界１の画像により近似した画像を生成して、生成した画像を出力画像として出力する。
【００５６】
例えば、画像生成部１０３は、実世界推定情報を基に、推定された実世界１の画像を所望の空間方向または時間方向の範囲で積分することにより、入力画像に比較して、空間方向または時間方向により高解像度の画像を生成して、生成した画像を出力画像として出力する。例えば、画像生成部１０３は、外挿補間により、画像を生成して、生成した画像を出力画像として出力する。
【００５７】
画像生成部１０３の構成の詳細は、後述する。
【００５８】
次に、図４乃至図７を参照して、本発明の原理を説明する。
【００５９】
図４は、従来の信号処理装置１２１における処理の原理を説明する図である。従来の信号処理装置１２１は、データ３を処理の基準とすると共に、データ３を処理の対象として、高解像度化などの処理を実行する。従来の信号処理装置１２１においては、実世界１が考慮されることはなく、データ３が最終的な基準となり、データ３に含まれている情報以上の情報を出力として得ることはできない。
【００６０】
また、従来の信号処理装置１２１において、データ３に存在する、センサ２による歪み（実世界１の情報である信号とデータ３との差）は全く考慮されないので、従来の信号処理装置１２１は、歪みを含んだままの信号を出力することになる。さらに、信号処理装置１２１の処理の内容によっては、データ３に存在する、センサ２による歪みがさらに増幅されて、増幅された歪みを含むデータが出力されることになる。
【００６１】
このように、従来の信号処理においては、データ３が取得された実世界１（の信号）そのものが考慮されることはなかった。換言すれば、従来の信号処理においては、データ３に含まれている情報の枠内で実世界１を捉えていたので、データ３に含まれている情報および歪みにより、信号処理の限界が決定される。
【００６２】
これに対して、本発明の信号処理においては、実世界１（の信号）そのものを明確に考慮して、処理が実行される。
【００６３】
図５は、本発明に係る信号処理装置４における処理の原理を説明する図である。
【００６４】
実世界１の事象を示す情報である信号をセンサ２が取得し、センサ２が、実世界１の情報である信号を射影したデータ３を出力する点では、従来と同様である。
【００６５】
しかしながら、本発明においては、センサ２により取得された、実世界１の事象を示す情報である信号が明確に考慮される。すなわち、データ３が、センサ２による歪み（実世界１の情報である信号とデータ３との差）を含むことを意識して信号処理がなされる。
【００６６】
このようにすることで、本発明の信号処理においては、データ３に含まれている情報および歪みにより処理の結果が限定されることがなく、例えば、従来に比較して、実世界１の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。すなわち、本発明によれば、センサ２に入力された、実世界１の事象を示す情報である信号に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【００６７】
図６および図７は、本発明の原理をより具体的に説明する図である。
【００６８】
図６で示されるように、例えば、画像である、実世界１の信号が、レンズ、または光学LPF（Low Pass Filter）などでなる光学系１４１により、センサ２の一例であるCCD（Charge Coupled Device）の受光面に結像される。センサ２の一例であるCCDは、積分特性を有しているので、CCDから出力されるデータ３には、実世界１の画像との差が生じることになる。センサ２の積分特性の詳細については、後述する。
【００６９】
本発明の信号処理においては、CCDにより取得された実世界１の画像と、CCDにより撮像され、出力されたデータ３との関係が明確に考慮される。すなわち、データ３と、センサ２で取得された実世界の情報である信号との関係が明確に考慮される。
【００７０】
より具体的には、図７で示されるように、信号処理装置４は、モデル１６１を用いて、実世界１を近似（記述）する。モデル１６１は、例えば、Ｎ個の変数で表現される。より正確には、モデル１６１は、実世界１の信号を近似（記述）する。
【００７１】
モデル１６１を予測するために、信号処理装置４は、データ３から、Ｍ個のデータ１６２を抽出する。データ３から、Ｍ個のデータ１６２を抽出するとき、信号処理装置４は、データ３に含まれるデータの定常性を利用する。換言すれば、信号処理装置４は、データ３に含まれるデータの定常性を基に、モデル１６１を予測するためのデータ１６２を抽出する。結果的に、モデル１６１は、データの定常性に拘束されることになる。
【００７２】
すなわち、モデル１６１は、センサ２で取得されたとき、データ３においてデータの定常性を生じさせる、定常性（所定の次元の方向に一定の特徴）を有する実世界１の事象（を示す情報（信号））を近似する。
【００７３】
ここで、データ１６２の数Ｍが、モデルの変数の数Ｎ以上であれば、Ｍ個のデータ１６２から、Ｎ個の変数で表現されるモデル１６１を予測することができる。
【００７４】
このように、実世界１（の信号）を近似（記述）するモデル１６１を予測することにより、信号処理装置４は、実世界１の情報である信号を考慮することができる。
【００７５】
次に、センサ２の積分効果について説明する。
【００７６】
画像を撮像するセンサ２である、CCDまたはCMOS（Complementary Metal-Oxide Semiconductor）センサなどのイメージセンサは、現実世界を撮像するとき、現実世界の情報である信号を２次元のデータに投影する。イメージセンサの各画素は、いわゆる受光面（受光領域）として、それぞれ所定の面積を有する。所定の面積を有する受光面に入射した光は、画素毎に、空間方向および時間方向に積分され、各画素に対して１つの画素値に変換される。
【００７７】
図８乃至図１１を参照して、画像の空間的時間的な積分について説明する。
【００７８】
イメージセンサは、現実世界の対象物（オブジェクト）を撮像し、撮像の結果得られた画像データを１フレーム単位で出力する。すなわち、イメージセンサは、実世界１の対象物で反射された光である、実世界１の信号を取得し、データ３を出力する。
【００７９】
例えば、イメージセンサは、１秒間に３０フレームからなる画像データを出力する。この場合、イメージセンサの露光時間は、１／３０秒とすることができる。露光時間は、イメージセンサが入射された光の電荷への変換を開始してから、入射された光の電荷への変換を終了するまでの期間である。以下、露光時間をシャッタ時間とも称する。
【００８０】
図８は、イメージセンサ上の画素の配置の例を説明する図である。図８中において、Ａ乃至Ｉは、個々の画素を示す。画素は、画像データにより表示される画像に対応する平面上に配置されている。１つの画素に対応する１つの検出素子は、イメージセンサ上に配置されている。イメージセンサが実世界１の画像を撮像するとき、１つの検出素子は、画像データを構成する１つの画素に対応する１つの画素値を出力する。例えば、検出素子の空間方向Ｘの位置（Ｘ座標）は、画像データにより表示される画像上の横方向の位置に対応し、検出素子の空間方向Ｙの位置（Ｙ座標）は、画像データにより表示される画像上の縦方向の位置に対応する。
【００８１】
実世界１の光の強度の分布は、３次元の空間方向および時間方向に広がりを有するが、イメージセンサは、２次元の空間方向および時間方向で、実世界１の光を取得し、２次元の空間方向および時間方向の光の強度の分布を表現するデータ３を生成する。
【００８２】
図９で示されるように、例えば、CCDである検出素子は、シャッタ時間に対応する期間、受光面（受光領域）（検出領域）に入力された光を電荷に変換して、変換された電荷を蓄積する。光は、３次元の空間上の位置、および時刻により、強度が決定される実世界１の情報（信号）である。実世界１の光の強度の分布は、３次元の空間上の位置x,y、およびz、並びに時刻tを変数とする関数F(x,y,z,t)で表すことができる。
【００８３】
CCDである検出素子に蓄積される電荷の量は、２次元の空間上の広がりを有する受光面の全体に入射された光の強さと、光が入射されている時間にほぼ比例する。検出素子は、シャッタ時間に対応する期間において、受光面の全体に入射された光から変換された電荷を、既に蓄積されている電荷に加えていく。すなわち、検出素子は、シャッタ時間に対応する期間、２次元の空間上の広がりを有する受光面の全体に入射される光を積分して、積分された光に対応する量の電荷を蓄積する。検出素子は、空間（受光面）および時間（シャッタ時間）に対して、積分効果があるとも言える。
【００８４】
検出素子に蓄積された電荷は、図示せぬ回路により、電圧値に変換され、電圧値はさらにデジタルデータなどの画素値に変換されて、データ３として出力される。従って、イメージセンサから出力される個々の画素値は、実世界１の情報（信号）の時間的空間的に広がりを有するある部分を、シャッタ時間の時間方向および検出素子の受光面の空間方向について積分した結果である、１次元の空間に射影した値を有する。
【００８５】
すなわち、１つの画素の画素値は、F(x,y,t)の積分で表される。F(x,y,t)は、検出素子の受光面における、光の強度の分布を表す関数である。例えば、画素値Pは、式（１）で表される。
【００８６】
【数１】

【００８７】
式（１）において、x₁は、検出素子の受光面の左側の境界の空間座標（Ｘ座標）である。x₂は、検出素子の受光面の右側の境界の空間座標（Ｘ座標）である。式（１）において、y₁は、検出素子の受光面の上側の境界の空間座標（Ｙ座標）である。y₂は、検出素子の受光面の下側の境界の空間座標（Ｙ座標）である。また、t₁は、入射された光の電荷への変換を開始した時刻である。t₂は、入射された光の電荷への変換を終了した時刻である。
【００８８】
なお、実際には、イメージセンサから出力される画像データの画素値は、例えばフレーム全体として、そのゲインが補正されている。
【００８９】
画像データの各画素値は、イメージセンサの各検出素子の受光面に入射した光の積分値であり、イメージセンサに入射された光のうち、検出素子の受光面よりも微小な実世界１の光の波形は、積分値としての画素値に隠されてしまう。
【００９０】
以下、本明細書において、所定の次元を基準として表現される信号の波形を単に波形とも称する。
【００９１】
このように、実世界１の画像は、画素を単位として、空間方向および時間方向に積分されてしまうので、画像データにおいては、実世界１の画像の定常性の一部が欠落し、実世界１の画像の定常性の他の一部のみが画像データに含まれることになる。または、画像データには、実世界１の画像の定常性から変化してしまった定常性が含まれることがある。
【００９２】
積分効果を有するイメージセンサにより撮像された画像の、空間方向の積分効果についてさらに説明する。
【００９３】
図１０は、画素Ｄ乃至画素Ｆに対応する検出素子に入射される光と、画素値との関係を説明する図である。図１０のF(x)は、空間上（検出素子上）の空間方向Ｘの座標xを変数とする、実世界１の光の強度の分布を表す関数の例である。言い換えれば、F(x)は、空間方向Ｙおよび時間方向に一定である場合の、実世界１の光の強度の分布を表す関数の例である。図１０において、Lは、画素Ｄ乃至画素Ｆに対応する検出素子の受光面の空間方向Ｘの長さを示す。
【００９４】
１つの画素の画素値は、F(x)の積分で表される。例えば、画素Ｅの画素値Pは、式（２）で表される。
【００９５】
【数２】

【００９６】
式（２）において、x₁は、画素Ｅに対応する検出素子の受光面の左側の境界の空間方向Ｘの空間座標である。x₂は、画素Ｅに対応する検出素子の受光面の右側の境界の空間方向Ｘの空間座標である。
【００９７】
同様に、積分効果を有するイメージセンサにより撮像された画像の、時間方向の積分効果についてさらに説明する。
【００９８】
図１１は、時間の経過と、１つの画素に対応する検出素子に入射される光と、画素値との関係を説明する図である。図１１のF(t)は、時刻tを変数とする、実世界１の光の強度の分布を表す関数である。言い換えれば、F(t)は、空間方向Ｙおよび空間方向Ｘに一定である場合の、実世界１の光の強度の分布を表す関数の例である。t_sは、シャッタ時間を示す。
【００９９】
フレーム#n-1は、フレーム#nに対して時間的に前のフレームであり、フレーム#n+1は、フレーム#nに対して時間的に後のフレームである。すなわち、フレーム#n-1、フレーム#n、およびフレーム#n+1は、フレーム#n-1、フレーム#n、およびフレーム#n+1の順で表示される。
【０１００】
なお、図１１で示される例において、シャッタ時間t_sとフレーム間隔とが同一である。
【０１０１】
１つの画素の画素値は、F(t)の積分で表される。例えば、フレーム#nの画素の画素値Pは、式（３）で表される。
【０１０２】
【数３】

【０１０３】
式（３）において、t₁は、入射された光の電荷への変換を開始した時刻である。t₂は、入射された光の電荷への変換を終了した時刻である。
【０１０４】
以下、センサ２による空間方向の積分効果を単に空間積分効果と称し、センサ２による時間方向の積分効果を単に時間積分効果と称する。また、空間積分効果または時間積分効果を単に積分効果とも称する。
【０１０５】
次に、積分効果を有するイメージセンサにより取得されたデータ３に含まれるデータの定常性の例について説明する。
【０１０６】
図１２は、実世界１の線状の物（例えば、細線）の画像、すなわち光の強度の分布の例を示す図である。図１２において、図中の上方向の位置は、光の強度（レベル）を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。
【０１０７】
実世界１の線状の物の画像には、所定の定常性が含まれる。すなわち、図１２で示される画像は、長さ方向の任意の位置において、断面形状（長さ方向に直交する方向の位置の変化に対するレベルの変化）が同じであるという定常性を有する。
【０１０８】
図１３は、図１２で示される画像に対応する、実際の撮像により得られた画像データの画素値の例を示す図である。
【０１０９】
図１４は、図１３に示す画像データの模式図である。
【０１１０】
図１４で示される模式図は、イメージセンサの画素の並び（画素の縦または横の並び）とずれた方向に延びる、各画素の受光面の長さLよりも短い径の線状の物の画像を、イメージセンサで撮像して得られた画像データの模式図である。図１４で示される画像データが取得されたときにイメージセンサに入射された画像は、図１２の実世界１の線状の物の画像である。
【０１１１】
図１４において、図中の上方向の位置は、画素値を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。図１４における画素値を示す方向は、図１２におけるレベルの方向に対応し、図１４における空間方向Ｘ、および空間方向Ｙは、図１２における方向と同じである。
【０１１２】
各画素の受光面の長さLよりも短い径の線状の物の画像を、イメージセンサで撮像した場合、撮像の結果得られる画像データにおいて、線状の物は、模式的に、例えば、斜めにずれて並ぶ、複数の所定の長さの円弧形状（かまぼこ型）で表される。各円弧形状は、ほぼ同じ形状である。１つの円弧形状は、縦に１列の画素の上、または横に１列の画素の上に形成される。例えば、図１４における１つの円弧形状は、縦に１列の画素の上に形成される。
【０１１３】
このように、例えば、イメージセンサで撮像されて取得された画像データにおいては、実世界１の線状の物の画像が有していた、長さ方向の任意の位置において、空間方向Ｙにおける断面形状が同じであるという定常性が失われている。また、実世界１の線状の物の画像が有していた定常性は、縦に１列の画素の上、または横に１列の画素の上に形成された、同じ形状である円弧形状が一定の間隔で並ぶという定常性に変化していると言える。
【０１１４】
図１５は、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像、すなわち光の強度の分布の例を示す図である。図１５において、図中の上方向の位置は、光の強度（レベル）を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。
【０１１５】
背景とは異なる色の、直線状の縁を有する物の実世界１の画像には、所定の定常性が含まれる。すなわち、図１５で示される画像は、縁の長さ方向の任意の位置において、断面形状（縁に直交する方向の位置の変化に対するレベルの変化）が同じであるという定常性を有する。
【０１１６】
図１６は、図１５で示される画像に対応する、実際の撮像により得られた画像データの画素値の例を示す図である。図１６で示されるように、画像データは、画素を単位とした画素値からなるので、階段状になる。
【０１１７】
図１７は、図１６に示す画像データの模式図である。
【０１１８】
図１７で示される模式図は、イメージセンサの画素の並び（画素の縦または横の並び）とずれた方向に縁が延びる、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像を、イメージセンサで撮像して得られた画像データの模式図である。図１７で示される画像データが取得されたときにイメージセンサに入射された画像は、図１５で示される、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像である。
【０１１９】
図１７において、図中の上方向の位置は、画素値を示し、図中の右上方向の位置は、画像の空間方向の一方向である空間方向Ｘの位置を示し、図中の右方向の位置は、画像の空間方向の他の方向である空間方向Ｙの位置を示す。図１７における画素値を示す方向は、図１５におけるレベルの方向に対応し、図１７における空間方向Ｘ、および空間方向Ｙは、図１５における方向と同じである。
【０１２０】
背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像を、イメージセンサで撮像した場合、撮像の結果得られる画像データにおいて、直線状の縁は、模式的に、例えば、斜めにずれて並ぶ、複数の所定の長さのつめ（pawl）形状で表される。各つめ形状は、ほぼ同じ形状である。１つのつめ形状は、縦に１列の画素の上、または横に１列の画素の上に形成される。例えば、図１７において、１つのつめ形状は、縦に１列の画素の上に形成される。
【０１２１】
このように、例えば、イメージセンサで撮像されて取得された画像データにおいては、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が有していた、縁の長さ方向の任意の位置において、断面形状が同じであるという定常性が失われている。また、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が有していた定常性は、縦に１列の画素の上、または横に１列の画素の上に形成された、同じ形状であるつめ形状が一定の間隔で並ぶという定常性に変化していると言える。
【０１２２】
データ定常性検出部１０１は、このような、例えば、入力画像であるデータ３が有するデータの定常性を検出する。例えば、データ定常性検出部１０１は、所定の次元の方向に一定の特徴を有する領域を検出することにより、データの定常性を検出する。例えば、データ定常性検出部１０１は、図１４で示される、同じ円弧形状が一定の間隔で並ぶ領域を検出する。また、例えば、データ定常性検出部１０１は、図１７で示される、同じつめ形状が一定の間隔で並ぶ領域を検出する。
【０１２３】
また、データ定常性検出部１０１は、同様の形状の並び方を示す、空間方向の角度（傾き）を検出することにより、データの定常性を検出する。
【０１２４】
また、例えば、データ定常性検出部１０１は、空間方向および時間方向の同様の形状の並び方を示す、空間方向および時間方向の角度（動き）を検出することにより、データの定常性を検出する。
【０１２５】
さらに、例えば、データ定常性検出部１０１は、所定の次元の方向に一定の特徴を有する領域の長さを検出することにより、データの定常性を検出する。
【０１２６】
以下、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像がセンサ２により射影されたデータ３の部分を２値エッジとも称する。
【０１２７】
次に、本発明の原理をさらに具体的に説明する。
【０１２８】
図１８で示されるように、従来の信号処理においては、データ３から、例えば、所望の高解像度データ１８１が生成される。
【０１２９】
これに対して、本発明に係る信号処理においては、データ３から、実世界１が推定され、推定の結果に基づいて、高解像度データ１８１が生成される。すなわち、図１９で示されるように、実世界１が、データ３から推定され、高解像度データ１８１が、データ３を考慮して、推定された実世界１から生成される。
【０１３０】
実世界１から高解像度データ１８１を生成するためには、実世界１とデータ３との関係を考慮する必要がある。例えば、実世界１が、CCDであるセンサ２により、データ３に射影されるとどうなるかが考慮される。
【０１３１】
CCDであるセンサ２は、上述したように、積分特性を有する。すなわち、データ３の１つの単位（例えば、画素値）は、実世界１の信号をセンサ２の検出素子（例えば、CCD）の検出領域（例えば、受光面）で積分することにより算出することができる。
【０１３２】
これを高解像度データ１８１について当てはめると、仮想的な高解像度のセンサが実世界１の信号をデータ３に射影する処理を、推定された実世界１に適用することにより、高解像度データ１８１を得ることができる。
【０１３３】
換言すれば、図２０で示されるように、データ３から実世界１の信号を推定できれば、実世界１の信号を、仮想的な高解像度のセンサの検出素子の検出領域毎に（時空間方向に）積分することにより、高解像度データ１８１に含まれる１つの値を得ることができる。
【０１３４】
例えば、センサ２の検出素子の検出領域の大きさに比較して、実世界１の信号の変化が、より小さいとき、データ３は、実世界１の信号の小さい変化を表すことができない。そこで、データ３から推定された実世界１の信号を、実世界１の信号の変化に比較して、より小さい領域毎に（時空間方向に）積分することにより、実世界１の信号の小さい変化を示す高解像度データ１８１を得ることができる。
【０１３５】
すなわち、仮想的な高解像度のセンサの各検出素子について、推定された実世界１の信号を検出領域で積分することにより、高解像度データ１８１を得ることができる。
【０１３６】
本発明において、画像生成部１０３は、例えば、仮想的な高解像度のセンサの各検出素子の時空間方向の領域で、推定された実世界１の信号を積分することにより、高解像度データ１８１を生成する。
【０１３７】
次に、データ３から、実世界１を推定するために、本発明においては、データ３と実世界１との関係、定常性、およびデータ３における空間混合が利用される。
【０１３８】
ここで、混合とは、データ３において、実世界１における２つの物体に対する信号が混合されて１つの値となることをいう。
【０１３９】
空間混合とは、センサ２の空間積分効果による、２つの物体に対する信号の空間方向の混合をいう。
【０１４０】
実世界１そのものは、無限の数の事象からなり、従って、実世界１そのものを、例えば、数式で表現するためには、無限の数の変数が必要になる。データ３から、実世界１の全ての事象を予測することはできない。
【０１４１】
同様に、データ３から、実世界１の信号の全てを予測することはできない。
【０１４２】
そこで、図２１で示されるように、本発明においては、実世界１の信号のうち、定常性を有し、関数f(x,y,z,t)で表すことができる部分に注目し、関数f(x,y,z,t)で表すことができる、定常性を有する実世界１の信号の部分が、Ｎ個の変数で表現されるモデル１６１で近似される。そして、図２２で示されるように、モデル１６１が、データ３の中の、Ｍ個のデータ１６２から予測される。
【０１４３】
Ｍ個のデータ１６２からモデル１６１の予測を可能にするには、第１に、モデル１６１を、定常性に基づいて、Ｎ個の変数で表し、第２に、センサ２の積分特性に基づいて、Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式を立てることが必要である。モデル１６１が、定常性に基づいて、Ｎ個の変数で表されているので、Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式は、定常性を有する実世界１の信号の部分と、データの定常性を有するデータ３の部分との関係を記述しているとも言える。
【０１４４】
換言すれば、Ｎ個の変数で表現されるモデル１６１で近似される、定常性を有する実世界１の信号の部分は、データ３において、データの定常性を生じさせる。
【０１４５】
データ定常性検出部１０１は、定常性を有する実世界１の信号の部分によって、データの定常性が生じたデータ３の部分、およびデータの定常性が生じた部分の特徴を検出する。
【０１４６】
例えば、図２３で示されるように、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像において、図２３中Ａで示す、注目する位置における縁は、傾きを有している。図２３のＢの矢印は、縁の傾きを示す。所定の縁の傾きは、基準となる軸に対する角度または基準となる位置に対する方向で表すことができる。例えば、所定の縁の傾きは、空間方向Ｘの座標軸と、縁との角度で表すことができる。例えば、所定の縁の傾きは、空間方向Ｘの長さおよび空間方向Ｙの長さで示される方向で表すことができる。
【０１４７】
背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が、センサ２で取得されて、データ３が出力されたとき、データ３において、実世界１の画像における、縁の注目する位置（Ａ）に対する、図２３中Ａ’で示す位置に、縁に対応するつめ形状が並び、実世界１の画像の縁の傾きに対応する、図２３中Ｂ’で示す傾きの方向に、縁に対応するつめ形状が並ぶ。
【０１４８】
Ｎ個の変数で表現されるモデル１６１は、このような、データ３において、データの定常性を生じさせる、実世界の１の信号の部分を近似する。
【０１４９】
Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式を立てるとき、データ３において、データの定常性が生じている部分の値を利用する。
【０１５０】
この場合において、図２４で示される、データ３において、データの定常性が生じ、混合領域に属する値に注目して、実世界１の信号を積分した値が、センサ２の検出素子が出力する値に等しいとして、式が立てられる。例えば、データの定常性が生じている、データ３における複数の値について、複数の式を立てることができる。
【０１５１】
図２４において、Ａは、縁の注目する位置を示し、Ａ’は、実世界１の画像における、縁の注目する位置（Ａ）に対する、画素（の位置）を示す。
【０１５２】
ここで、混合領域とは、データ３において、実世界１における２つの物体に対する信号が混合されて１つの値となっているデータの領域をいう。例えば、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像に対するデータ３において、直線状の縁を有する物に対する画像、および背景に対する画像が積分されている画素値は、混合領域に属する。
【０１５３】
図２５は、式を立てる場合における、実世界１における２つの物体に対する信号および混合領域に属する値を説明する図である。
【０１５４】
図２５中の左側は、センサ２の１つの検出素子の検出領域で取得される、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する、実世界１における２つの物体に対する実世界１の信号を示す。図２５中の右側は、図２５中の左側に示す実世界１の信号がセンサ２の１つの検出素子によって射影された、データ３の１つの画素の画素値Ｐを示す。すなわち、センサ２の１つの検出素子によって取得された、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する、実世界１における２つの物体に対する実世界１の信号が射影された、データ３の１つの画素の画素値Ｐを示す。
【０１５５】
図２５のＬは、実世界１における１つの物体に対する、図２５の白い部分の実世界１の信号のレベルを示す。図２５のＲは、実世界１における他の１つの物体に対する、図２５の斜線で表される部分の実世界１の信号のレベルを示す。
【０１５６】
ここで、混合比αは、センサ２の１つの検出素子の、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する検出領域に入射された、２つの物体に対する信号（の面積）の割合を示す。例えば、混合比αは、センサ２の１つの検出素子の検出領域の面積に対する、空間方向Ｘおよび空間方向Ｙに所定の広がりを有する、センサ２の１つの検出素子の検出領域に入射された、レベルＬの信号の面積の割合を示す。
【０１５７】
この場合において、レベルＬ、レベルＲ、および画素値Ｐの関係は、式（４）で表すことができる。
【０１５８】
α×Ｌ＋（１−α）×Ｒ＝Ｐ ・・・（４）
【０１５９】
なお、レベルＲは、注目している画素の右側に位置している、データ３の画素の画素値とすることができる場合があり、レベルＬは、注目している画素の左側に位置している、データ３の画素値とすることができる場合がある。
【０１６０】
また、混合比αおよび混合領域は、空間方向と同様に、時間方向を考慮することができる。例えば、センサ２に対して撮像の対象となる実世界１の物体が移動しているとき、時間方向に、センサ２の１つの検出素子の検出領域に入射される、２つの物体に対する信号の割合は変化する。センサ２の１つの検出素子の検出領域に入射された、時間方向に割合が変化する、２つの物体に対する信号は、センサ２の検出素子によって、データ３の１つの値に射影される。
【０１６１】
センサ２の時間積分効果による、２つの物体に対する信号の時間方向の混合を時間混合と称する。
【０１６２】
データ定常性検出部１０１は、例えば、実世界１における２つの物体に対する実世界１の信号が射影された、データ３における画素の領域を検出する。データ定常性検出部１０１は、例えば、実世界１の画像の縁の傾きに対応する、データ３における傾きを検出する。
【０１６３】
そして、実世界推定部１０２は、例えば、データ定常性検出部１０１で検出された、所定の混合比αを有する画素の領域、および領域の傾きを基に、Ｎ個の変数で表現されるモデル１６１とＭ個のデータ１６２との関係を示す、Ｎ個の変数を使用した式を立てて、立てた式を解くことにより、実世界１の信号を推定する。
【０１６４】
さらに、具体的な実世界１の推定について説明する。
【０１６５】
関数F(x,y,z,t)で表される実世界の信号のうち、空間方向Ｚの断面（センサ２の位置）における関数F(x,y,t)で表される実世界の信号を、空間方向Ｘにおける位置x、空間方向Ｙにおける位置y、および時刻tで決まる近似関数f（x,y,t）で近似することを考える。
【０１６６】
ここで、センサ２の検出領域は、空間方向Ｘおよび空間方向Ｙに広がりを有する。換言すれば、近似関数f（x,y,t）は、センサ２で取得される、空間方向および時間方向に広がりを有する実世界１の信号を近似する関数である。
【０１６７】
センサ２による実世界１の信号の射影によって、データ３の値P(x,y,t)が得られるものとする。データ３の値P(x,y,t)は、例えば、イメージセンサであるセンサ２が出力する、画素値である。
【０１６８】
ここで、センサ２による射影を定式化できる場合、近似関数f（x,y,t）を射影して得られた値を射影関数S（x,y,t）と表すことができる。
【０１６９】
射影関数S（x,y,t）を求める上で、以下に示す問題がある。
【０１７０】
第１に、一般的に、実世界１の信号を表す関数F(x,y,z,t)は、無限の次数の関数となりうる。
【０１７１】
第２に、たとえ、実世界の信号を関数として記述できたとしても、センサ２の射影を介した、射影関数S（x,y,t）を定めることは、一般的にはできない。すなわち、センサ２による射影の動作、言い換えればセンサ２の入力信号と出力信号との関係を知らないので、射影関数S（x,y,t）を定めることはできない。
【０１７２】
第１の問題点に対して、実世界１の信号を近似する関数f(x,y,t)を記述可能な関数（例えば、有限次数の関数）である関数f_i（x,y,t）および変数w_iの積和で表現することを考える。
【０１７３】
また、第２の問題点に対して、センサ２による射影を定式化することで、関数f_i（x,y,t）の記述から、関数S_i（x,y,t）を記述することができる。
【０１７４】
すなわち、実世界１の信号を近似する関数f(x,y,t)を関数f_i（x,y,t）および変数w_iの積和で表現すると、式（５）が得られる。
【０１７５】
【数４】

【０１７６】
例えば、式（６）で示されるように、センサ２の射影を定式化することにより、式（５）から、データ３と実世界の信号の関係を式（７）のように定式化することができる。
【０１７７】
【数５】

【０１７８】
【数６】

式（７）において、jは、データのインデックスである。
【０１７９】
式（７）のＮ個の変数w_i（i=1乃至N）が共通であるＭ個のデータ群（j=1乃至M）が存在すれば、式（８）を満たすので、データ３から実世界のモデル１６１を求めることができる。
【０１８０】
Ｎ≦Ｍ ・・・（８）
Ｎは、実世界１を近似するモデル１６１を表現する変数の数である。Ｍは、データ３に含まれるデータ１６２の数である。
【０１８１】
実世界１の信号を近似する関数f(x,y,t)を式（５）で表すことにより、w_iとして変数の部分を独立させることができる。このとき、iは、そのまま変数の数を示すことになる。また、f_iで示される関数の形を独立させることができ、f_iとして所望の関数を利用することができるようになる。
【０１８２】
従って、関数f_iの形に依存せず、変数w_iの数Ｎを定義でき、変数w_iの数Ｎとデータの数Ｍとの関係で変数w_iを求めることができる。
【０１８３】
すなわち、以下の３つを用いることで、データ３から実世界１を推定することができるようになる。
【０１８４】
第１に、Ｎ個の変数を定める、すなわち、式（５）を定める。これは、定常性を用いて実世界１を記述することにより可能になる。例えば、断面が多項式で表され、同じ断面形状が一定方向に続く、というモデル１６１で実世界１の信号を記述することができる。
【０１８５】
第２に、例えば、センサ２による射影を定式化して、式（７）を記述する。例えば、実世界１の信号の積分を行った結果がデータ３であると定式化する。
【０１８６】
第３に、Ｍ個のデータ１６２を集めて、式（８）を満足させる。例えば、データ定常性検出部１０１で検出された、データの定常性を有する領域から、データ１６２が集められる。例えば、定常性の一例である、一定の断面が続く領域のデータ１６２が集められる。
【０１８７】
このように、式（５）によって、データ３と実世界１との関係を記述し、Ｍ個のデータ１６２を集めることで、式（８）を満たすことにより、実世界１を推定することができる。
【０１８８】
より具体的には、Ｎ=Ｍのとき、変数の数Nと式の数Mが等しいので、連立方程式を立てることにより、変数w_iを求めることができる。
【０１８９】
また、Ｎ＜Ｍのとき、様々な解法を適用できる。例えば、最小自乗法により、変数w_iを求めることができる。
【０１９０】
ここで、最小自乗法による解法について、詳細に記載する。
【０１９１】
まず、式（７）に従って、実世界１からデータ３を予測する式（９）を示す。
【０１９２】
【数７】

【０１９３】
式（９）において、P'_j（x_j,y_j,t_j）は、予測値である。
【０１９４】
予測値P'と実測値Pとの差分自乗和Eは、式（１０）で表される。
【０１９５】
【数８】

【０１９６】
差分自乗和Eが最小になるように、変数w_iが求められる。従って、各変数w_kによる式（１０）の偏微分値は０とされる。すなわち、式（１１）が成り立つ。
【０１９７】
【数９】

【０１９８】
式（１１）から式（１２）が導かれる。
【０１９９】
【数１０】

【０２００】
式（１２）がK=1乃至Nで成り立つとき、最小自乗法による解が得られる。このときの正規方程式は、式（１３）で示される。
【０２０１】
【数１１】

ただし、式（１３）において、S_i（x_j,y_j,t_j）は、S_i(j)と記述した。
【０２０２】
【数１２】

【０２０３】
【数１３】

【０２０４】
【数１４】

【０２０５】
式（１４）乃至式（１６）から、式（１３）は、S_MATW_MAT=P_MATと表すことができる。
【０２０６】
式（１３）において、S_iは、実世界１の射影を表す。式（１３）において、P_jは、データ３を表す。式（１３）において、w_iは、実世界１の信号の特徴を記述し、求めようとする変数である。
【０２０７】
従って、式（１３）にデータ３を入力し、行列解法などによりW_MATを求めることで、実世界１を推定することが可能になる。すなわち、式（１７）を演算することにより、実世界１を推定することができるようになる。
【０２０８】
W_MAT=S_MAT ^-1P_MAT ・・・（１７）
【０２０９】
なお、S_MATが正則でない場合、S_MATの転置行列を利用して、W_MATを求めることができる。
【０２１０】
実世界推定部１０２は、例えば、式（１３）にデータ３を入力し、行列解法などによりW_MATを求めることで、実世界１を推定する。
【０２１１】
ここで、さらにより具体的な例を説明する。例えば、実世界１の信号の断面形状、すなわち位置の変化に対するレベルの変化を、多項式で記述する。実世界１の信号の断面形状が一定で、実世界１の信号の断面が等速で移動すると仮定する。そして、センサ２による実世界１の信号からデータ３への射影を、実世界１の信号の時空間方向の３次元で積分で定式化する。
【０２１２】
実世界１の信号の断面形状が、等速で移動するとの仮定から、式（１８）および式（１９）が得られる。
【０２１３】
【数１５】

【０２１４】
【数１６】

ここで、v_xおよびv_yは、一定である。
【０２１５】
実世界１の信号の断面形状は、式（１８）および式（１９）を用いることで、式（２０）と表される。
【０２１６】
f(x',y')=f(x+v_xt,y+v_yt) ・・・（２０）
【０２１７】
センサ２による実世界１の信号からデータ３への射影を、実世界１の信号の時空間方向の３次元で積分で定式化すれば、式（２１）が得られる。
【０２１８】
【数１７】

【０２１９】
式（２１）において、S(x,y,t)は、空間方向Ｘについて、位置x_sから位置x_eまで、空間方向Ｙについて、位置y_sから位置y_eまで、時間方向tについて、時刻t_sから時刻t_eまでの領域、すなわち時空間の直方体で表される領域の積分値を示す。
【０２２０】
式（２１）を定めることができる所望の関数f(x',y')を用いて、式（１３）を解けば、実世界１の信号を推定することができる。
【０２２１】
以下では、関数f(x',y')の一例として、式（２２）に示す関数を用いることとする。
【０２２２】

【０２２３】
すなわち、実世界１の信号が、式（１８）、式（１９）、および式（２２）で表される定常性を含むと仮定している。これは、図２６で示されるように、一定の形状の断面が、時空間方向に移動していることを示す。
【０２２４】
式（２１）に、式（２２）を代入することにより、式（２３）が得られる。
【０２２５】
【数１８】

ただし、
Volume=(x_e-x_s)(y_e-y_s)(t_e-t_s）
S₀(x,y,t)=Volume/2×(x_e+x_s+v_x(t_e+t_s)）
S₁(x,y,t)=Volume/2×(y_e+y_s+v_y(t_e+t_s)）
S₂(x,y,t)=1
である。
【０２２６】
図２７は、データ３から抽出される、Ｍ個のデータ１６２の例を示す図である。例えば、２７個の画素値が、データ１６２として抽出され、抽出された画素値が、P_j(x,y,t)とされる。この場合、jは、０乃至２６である。
【０２２７】
図２７に示す例において、nである時刻tの注目する位置に対応する画素の画素値がP₁₃(x,y,t)であり、データの定常性を有する画素の画素値の並ぶ方向（例えば、データ定常性検出部１０１で検出された、同じ形状であるつめ形状が並ぶ方向）が、P₄(x,y,t)、P₁₃(x,y,t)、およびP₂₂(x,y,t)を結ぶ方向であるとき、nである時刻tにおける、画素値P₉(x,y,t)乃至P₁₇(x,y,t)、nより時間的に前である、n-1である時刻tにおける、画素値P₀(x,y,t)乃至P₈(x,y,t)、およびnより時間的に後である、n+1である時刻tにおける、画素値P₁₈(x,y,t)乃至P₂₆(x,y,t)が抽出される。
【０２２８】
ここで、センサ２であるイメージセンサから出力された、データ３である画素値が取得された領域は、図２８で示されるように、時間方向および２次元の空間方向に広がりを有する。そこで、例えば、図２９で示されるように、画素に対応する直方体（画素値が取得された領域）の重心を、画素の時空間方向の位置として使用することができる。図２９中の丸は、重心を示す。
【０２２９】
２７個の画素値P₀(x,y,t)乃至P₂₆(x,y,t)、および式（２３）から、式（１３）を生成し、Wを求めることで、実世界１を推定することが可能になる。
【０２３０】
このように、実世界推定部１０２は、例えば、２７個の画素値P₀(x,y,t)乃至P₂₆(x,y,t)、および式（２３）から、式（１３）を生成し、Wを求めることで、実世界１の信号を推定する。
【０２３１】
なお、関数f_i（x,y,t）として、ガウス関数、またはシグモイド関数などを利用することができる。
【０２３２】
図３０乃至図３４を参照して、推定された実世界１の信号から、データ３に対応する、より高解像度の高解像度データ１８１を生成する処理の例について説明する。
【０２３３】
図３０で示されるように、データ３は、時間方向および２次元の空間方向に実世界１の信号が積分された値を有する。例えば、センサ２であるイメージセンサから出力された、データ３である画素値は、検出素子に入射された光である、実世界１の信号が、時間方向に、検出時間であるシャッタ時間で積分され、空間方向に、検出素子の受光領域で積分された値を有する。
【０２３４】
これに対して、図３１で示されるように、空間方向により解像度の高い高解像度データ１８１は、推定された実世界１の信号を、時間方向に、データ３を出力したセンサ２の検出時間と同じ時間で積分するとともに、空間方向に、データ３を出力したセンサ２の検出素子の受光領域に比較して、より狭い領域で積分することにより、生成される。
【０２３５】
なお、空間方向により解像度の高い高解像度データ１８１を生成する場合において、推定された実世界１の信号が積分される領域は、データ３を出力したセンサ２の検出素子の受光領域と全く無関係に設定することができる。例えば、高解像度データ１８１に、データ３に対して、空間方向に整数倍の解像度を持たせることは勿論、５／３倍など、データ３に対して、空間方向に有理数倍の解像度を持たせることができる。
【０２３６】
また、図３２で示されるように、時間方向により解像度の高い高解像度データ１８１は、推定された実世界１の信号を、空間方向に、データ３を出力したセンサ２の検出素子の受光領域と同じ領域で積分するとともに、時間方向に、データ３を出力したセンサ２の検出時間に比較して、より短い時間で積分することにより、生成される。
【０２３７】
なお、時間方向により解像度の高い高解像度データ１８１を生成する場合において、推定された実世界１の信号が積分される時間は、データ３を出力したセンサ２の検出素子のシャッタ時間と全く無関係に設定することができる。例えば、高解像度データ１８１に、データ３に対して、時間方向に整数倍の解像度を持たせることは勿論、７／４倍など、データ３に対して、時間方向に有理数倍の解像度を持たせることができる。
【０２３８】
図３３で示されるように、動きボケを除去した高解像度データ１８１は、推定された実世界１の信号を、時間方向に積分しないで、空間方向にのみ積分することにより、生成される。
【０２３９】
さらに、図３４で示されるように、時間方向および空間方向により解像度の高い高解像度データ１８１は、推定された実世界１の信号を、空間方向に、データ３を出力したセンサ２の検出素子の受光領域に比較して、より狭い領域で積分するとともに、時間方向に、データ３を出力したセンサ２の検出時間に比較して、より短い時間で積分することにより、生成される。
【０２４０】
この場合において、推定された実世界１の信号が積分される領域および時間は、データ３を出力したセンサ２の検出素子の受光領域およびシャッタ時間と全く無関係に設定することができる。
【０２４１】
このように、画像生成部１０３は、例えば、推定された実世界１の信号を所望の時空間の領域で積分することにより、時間方向、または空間方向に、より高解像度のデータを生成する。
【０２４２】
以上のように、実世界１の信号を推定することにより、実世界１の信号に対してより正確で、時間方向、または空間方向に、より高解像度のデータを生成することができる。
【０２４３】
図３５乃至図３９を参照して、本発明に係る信号処理装置４の、入力画像の例と、処理の結果の例を示す。
【０２４４】
図３５は、入力画像の元の画像を示す図である。図３６は、入力画像の例を示す図である。図３６で示される入力画像は、図３５で示される画像の２×２の画素からなるブロックに属する画素の画素値の平均値を、１つの画素の画素値として生成された画像である。すなわち、入力画像は、図３５で示される画像に、センサの積分特性を模した、空間方向の積分を適用することにより得られた画像である。
【０２４５】
図３５で示される元の画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。同様に、図３６で示される入力画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。
【０２４６】
図３７は、図３６で示される入力画像に、従来のクラス分類適応処理を適用して得られた画像を示す図である。ここで、クラス分類適応処理は、クラス分類処理と適応処理とからなり、クラス分類処理によって、データを、その性質に基づいてクラス分けし、各クラスごとに適応処理を施すものである。適応処理では、例えば、低画質または標準画質の画像が、所定のタップ係数を用いてマッピング（写像）されることにより、高画質の画像に変換される。
【０２４７】
図３７で示される画像において、細線の画像が、図３５の元の画像とは異なるものになっていることがわかる。
【０２４８】
図３８は、データ定常性検出部１０１による、図３６の例で示される入力画像から細線の領域を検出した結果を示す図である。図３８において、白い領域は、細線の領域、すなわち、図１４で示される円弧形状が並んでいる領域を示す。
【０２４９】
図３９は、図３６で示される画像を入力画像として、本発明に係る信号処理装置４から出力された出力画像の例を示す図である。図３９で示されるように、本発明に係る信号処理装置４によれば、図３５で示される元の画像の細線の画像により近い画像を得ることができる。
【０２５０】
図４０は、本発明に係る信号処理装置４による、信号の処理を説明するフローチャートである。
【０２５１】
ステップＳ１０１において、データ定常性検出部１０１は、定常性の検出の処理を実行する。データ定常性検出部１０１は、データ３である入力画像に含まれているデータの定常性を検出して、検出したデータの定常性を示すデータ定常性情報を実世界推定部１０２および画像生成部１０３に供給する。
【０２５２】
データ定常性検出部１０１は、現実世界の信号の定常性に対応するデータの定常性を検出する。ステップＳ１０１の処理において、データ定常性検出部１０１により検出されるデータの定常性は、データ３に含まれる、実世界１の画像の定常性の一部であるか、または、実世界１の信号の定常性から変化してしまった定常性である。
【０２５３】
例えば、データ定常性検出部１０１は、所定の次元の方向に一定の特徴を有する領域を検出することにより、データの定常性を検出する。また、例えば、データ定常性検出部１０１は、同様の形状の並び方を示す、空間方向の角度（傾き）を検出することにより、データの定常性を検出する。
【０２５４】
ステップＳ１０１における、定常性の検出の処理の詳細は、後述する。
【０２５５】
なお、データ定常性情報は、データ３の特徴を示す特徴量として利用することができる。
【０２５６】
ステップＳ１０２において、実世界推定部１０２は、実世界の推定の処理を実行する。すなわち、実世界推定部１０２は、入力画像、およびデータ定常性検出部１０１から供給されたデータ定常性情報を基に、実世界１の信号を推定する。例えば、ステップＳ１０２の処理において、実世界推定部１０２は、実世界１を近似（記述）するモデル１６１を予測することにより、実世界１の信号を推定する。実世界推定部１０２は、推定された実世界１の信号を示す実世界推定情報を画像生成部１０３に供給する。
【０２５７】
例えば、実世界推定部１０２は、線状の物の幅を予測することにより、実世界１の信号を推定する。また、例えば、実世界推定部１０２は、線状の物の色を示すレベルを予測することにより、実世界１の信号を推定する。
【０２５８】
ステップＳ１０２における、実世界の推定の処理の詳細は、後述する。
【０２５９】
なお、実世界推定情報は、データ３の特徴を示す特徴量として利用することができる。
【０２６０】
ステップＳ１０３において、画像生成部１０３は、画像の生成の処理を実行して、処理は終了する。すなわち、画像生成部１０３は、実世界推定情報を基に、画像を生成して、生成した画像を出力する。または、画像生成部１０３は、データ定常性情報および実世界推定情報を基に、画像を生成して、生成した画像を出力する。
【０２６１】
例えば、ステップＳ１０３の処理において、画像生成部１０３は、実世界推定情報を基に、推定された現実世界の光を空間方向に積分することにより、入力画像に比較して、空間方向により高解像度の画像を生成して、生成した画像を出力する。例えば、画像生成部１０３は、実世界推定情報を基に、推定された現実世界の光を時空間方向に積分することにより、入力画像に比較して、時間方向および空間方向により高解像度の画像を生成して、生成した画像を出力する。ステップＳ１０３における、画像の生成の処理の詳細は、後述する。
【０２６２】
このように、本発明に係る信号処理装置４は、データ３からデータの定常性を検出し、検出したデータの定常性を基に、実世界１を推定する。そして、信号処理装置４は、推定された実世界１を基に、より実世界１に近似した信号を生成する。
【０２６３】
以上のように、現実世界の信号を推定して処理を実行するようにした場合には、正確で、精度の高い処理結果を得ることができるようになる。
【０２６４】
また、第１の次元を有する現実世界の信号である第１の信号が射影され、現実世界の信号の定常性の一部が欠落した第１の次元よりも少ない第２の次元の第２の信号の、欠落した現実世界の信号の定常性に対応するデータの定常性を検出し、検出されたデータの定常性に基づいて、欠落した現実世界の信号の定常性を推定することにより第１の信号を推定するようにした場合には、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０２６５】
次に、データ定常性検出部１０１の構成の詳細について説明する。
【０２６６】
図４１は、データ定常性検出部１０１の構成を示すブロック図である。
【０２６７】
図４１に構成を示すデータ定常性検出部１０１は、細線である対象物を撮像したとき、対象物の有する断面形状が同じであるという定常性から生じた、データ３に含まれるデータの定常性を検出する。すなわち、図４１に構成を示すデータ定常性検出部１０１は、細線である実世界１の画像の有する、長さ方向の任意の位置において、長さ方向に直交する方向の位置の変化に対する光のレベルの変化が同じであるという定常性から生じた、データ３に含まれるデータの定常性を検出する。
【０２６８】
より具体的には、図４１に構成を示すデータ定常性検出部１０１は、細線の画像を空間積分効果を有するセンサ２で撮像して得られたデータ３に含まれる、斜めにずれて隣接して並ぶ、複数の所定の長さの円弧形状（かまぼこ型）が配置される領域を検出する。
【０２６９】
データ定常性検出部１０１は、データ３である入力画像から、データの定常性を有する細線の画像が射影された画像データの部分（以下、定常成分とも称する）以外の画像データの部分（以下、非定常成分と称する）を抽出し、抽出された非定常成分と入力画像とから、実世界１の細線の画像が射影された画素を検出し、入力画像における、実世界１の細線の画像が射影された画素からなる領域を検出する。
【０２７０】
非定常成分抽出部２０１は、入力画像から非定常成分を抽出して、入力画像と共に、抽出された非定常成分を示す非定常成分情報を頂点検出部２０２および単調増減検出部２０３に供給する。
【０２７１】
例えば、図４２で示されるように、ほぼ一定の光のレベルの背景の前に細線がある実世界１の画像がデータ３に射影されたとき、図４３で示されるように、非定常成分抽出部２０１は、データ３である入力画像における背景を平面で近似することにより、背景である非定常成分を抽出する。図４３において、実線は、データ３の画素値を示し、点線は、背景を近似する平面で示される近似値を示す。図４３において、Ａは、細線の画像が射影された画素の画素値を示し、ＰＬは、背景を近似する平面を示す。
【０２７２】
このように、データの定常性を有する画像データの部分における、複数の画素の画素値は、非定常成分に対して不連続となる。
【０２７３】
非定常成分抽出部２０１は、実世界１の光信号である画像が射影され、実世界１の画像の定常性の一部が欠落した、データ３である画像データの複数の画素の画素値の不連続部を検出する。
【０２７４】
非定常成分抽出部２０１における非定常成分の抽出の処理の詳細は、後述する。
【０２７５】
頂点検出部２０２および単調増減検出部２０３は、非定常成分抽出部２０１から供給された非定常成分情報を基に、入力画像から非定常成分を除去する。例えば、頂点検出部２０２および単調増減検出部２０３は、入力画像の各画素のうち、背景の画像のみが射影された画素の画素値を0に設定することにより、入力画像から非定常成分を除去する。また、例えば、頂点検出部２０２および単調増減検出部２０３は、入力画像の各画素の画素値から、平面ＰＬで近似される値を引き算することにより、入力画像から非定常成分を除去する。
【０２７６】
入力画像から背景を除去することができるので、頂点検出部２０２乃至連続性検出部２０４は、細線が射影された画像データの部分のみを処理の対象とすることができ、頂点検出部２０２乃至連続性検出部２０４における処理がより容易になる。
【０２７７】
なお、非定常成分抽出部２０１は、入力画像から非定常成分を除去した画像データを頂点検出部２０２および単調増減検出部２０３に供給するようにしてもよい。
【０２７８】
以下に説明する処理の例において、入力画像から非定常成分が除去された画像データ、すなわち、定常成分を含む画素のみからなる画像データが対象となる。
【０２７９】
ここで、頂点検出部２０２乃至連続性検出部２０４が検出しようとする、細線の画像が射影された画像データについて説明する。
【０２８０】
図４２で示される細線の画像が射影された画像データの空間方向Ｙの断面形状（空間方向の位置の変化に対する画素値の変化）は、光学LPFがないとした場合、センサ２であるイメージセンサの空間積分効果から、図４４に示す台形、または図４５に示す三角形となることが考えられる。しかしながら、通常のイメージセンサは、光学LPFを備え、イメージセンサは、光学LPFを通過した画像を取得し、取得した画像をデータ３に射影するので、現実には、細線の画像データの空間方向Ｙの断面形状は、図４６に示すようなガウス分布に類似した形状となる。
【０２８１】
頂点検出部２０２乃至連続性検出部２０４は、細線の画像が射影された画素であって、同じ断面形状（空間方向の位置の変化に対する画素値の変化）が画面の上下方向に一定の間隔で並ぶものからなる領域を検出して、さらに、実世界１の細線の長さ方向に対応した、領域の繋がりを検出することにより、データの定常性を有する領域である、細線の画像が射影された画素からなる領域を検出する。すなわち、頂点検出部２０２乃至連続性検出部２０４は、入力画像における、縦に１列の画素の上に、円弧形状（かまぼこ型）が形成される領域を検出し、検出された領域が横方向に隣接して並んでいるか否かを判定して、実世界１の信号である細線の画像の長さ方向に対応した、円弧形状が形成される領域の繋がりを検出する。
【０２８２】
また、頂点検出部２０２乃至連続性検出部２０４は、細線の画像が射影された画素であって、同じ断面形状が画面の左右方向に一定の間隔で並ぶものからなる領域を検出して、さらに、実世界１の細線の長さ方向に対応した、検出された領域の繋がりを検出することにより、データの定常性を有する領域である、細線の画像が射影された画素からなる領域を検出する。すなわち、頂点検出部２０２乃至連続性検出部２０４は、入力画像における、横に１列の画素の上に、円弧形状が形成される領域を検出し、検出された領域が縦方向に隣接して並んでいるか否かを判定して、実世界１の信号である細線の画像の長さ方向に対応した、円弧形状が形成される領域の繋がりを検出する。
【０２８３】
まず、細線の画像が射影された画素であって、画面の上下方向に同じ円弧形状が一定の間隔で並ぶものからなる領域を検出する処理を説明する。
【０２８４】
頂点検出部２０２は、周囲の画素に比較して、より大きい画素値を有する画素、すなわち頂点を検出し、頂点の位置を示す頂点情報を単調増減検出部２０３に供給する。画面の上下方向に１列に並ぶ画素を対象とした場合、頂点検出部２０２は、画面の上側に位置する画素の画素値、および画面の下側に位置する画素の画素値に比較して、より大きい画素値を有する画素を頂点として検出する。頂点検出部２０２は、１つの画像、例えば、１つのフレームの画像から、１または複数の頂点を検出する。
【０２８５】
１つの画面には、フレームまたはフィールドが含まれる。以下の説明において、同様である。
【０２８６】
例えば、頂点検出部２０２は、１フレームの画像からまだ注目画素とされていない画素の中から注目画素を選択し、注目画素の画素値と、注目画素の上側の画素の画素値とを比較し、注目画素の画素値と、注目画素の下側の画素の画素値とを比較して、上側の画素の画素値より大きい画素値を有し、下側の画素の画素値より大きい画素値を有する注目画素を検出して、検出された注目画素を頂点とする。頂点検出部２０２は、検出された頂点を示す頂点情報を単調増減検出部２０３に供給する。
【０２８７】
頂点検出部２０２が、頂点を検出しない場合もある。例えば、１つの画像の画素の画素値が全て同じ値であるとき、または、１若しくは２の方向に対して画素値が減少しているとき、頂点は検出されない。この場合、細線の画像は、画像データに射影されていない。
【０２８８】
単調増減検出部２０３は、頂点検出部２０２から供給された、頂点の位置を示す頂点情報を基に、頂点検出部２０２で検出された頂点に対して上下方向に１列に並ぶ画素であって、細線の画像が射影された画素からなる領域の候補を検出し、頂点情報と共に、検出した領域を示す領域情報を連続性検出部２０４に供給する。
【０２８９】
より具体的には、単調増減検出部２０３は、頂点の画素値を基準として、単調減少している画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。単調減少とは、頂点からの距離がより長い画素の画素値が、頂点からの距離が短い画素の画素値に比較して、より小さいことをいう。
【０２９０】
また、単調増減検出部２０３は、頂点の画素値を基準として、単調増加している画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。単調増加とは、頂点からの距離がより長い画素の画素値が、頂点からの距離が短い画素の画素値に比較して、より大きいことをいう。
【０２９１】
以下、単調増加している画素値を有する画素からなる領域についての処理は、単調減少している画素値を有する画素からなる領域についての処理と同様なので、その説明は省略する。細線の画像が射影された画素であって、画面の横方向に同じ円弧形状が一定の間隔で並ぶものからなる領域を検出する処理における、単調増加している画素値を有する画素からなる領域についての処理も、単調減少している画素値を有する画素からなる領域についての処理と同様なので、その説明は省略する。
【０２９２】
例えば、単調増減検出部２０３は、頂点に対して縦に１列に各画素について、各画素の画素値と、上側の画素の画素値との差分、および下側の画素の画素値との差分を求める。そして、単調増減検出部２０３は、差分の符号が変化する画素を検出することにより、画素値が単調減少している領域を検出する。
【０２９３】
さらに、単調増減検出部２０３は、画素値が単調減少している領域から、頂点の画素値の符号を基準として、頂点の画素値の符号と同じ符号の画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。
【０２９４】
例えば、単調増減検出部２０３は、各画素の画素値の符号と、上側の画素の画素値の符号および下側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出することにより、画素値が単調減少している領域から、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０２９５】
このように、単調増減検出部２０３は、上下方向に並び、頂点に対して画素値が単調減少し、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０２９６】
図４７は、空間方向Ｙの位置に対する画素値から、細線の画像が射影された画素の領域を検出する、頂点の検出および単調増減領域の検出の処理を説明する図である。
【０２９７】
図４７乃至図４９において、Pは、頂点を示す。図４１で構成が示されるデータ定常性検出部１０１の説明において、Pは、頂点を示す。
【０２９８】
頂点検出部２０２は、各画素の画素値と、これに空間方向Ｙに隣接する画素の画素値とを比較して、空間方向Ｙに隣接する２つの画素の画素値より大きい画素値を有する画素を検出することにより、頂点Pを検出する。
【０２９９】
頂点Pと、頂点Pの空間方向Ｙの両側の画素とからなる領域は、頂点Pの画素値に対して、空間方向Ｙの両側の画素の画素値が単調に減少する単調減少領域である。図４７において、Aで示す矢印、およびBで示す矢印は、頂点Pの両側に存在する単調減少領域を示す。
【０３００】
単調増減検出部２０３は、各画素の画素値と、その画素に空間方向Ｙに隣接する画素の画素値との差分を求めて、差分の符号が変化する画素を検出する。単調増減検出部２０３は、検出された、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界を、細線の画像が射影された画素からなる細線領域の境界とする。
【０３０１】
図４７において、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界である細線領域の境界はCで示される。
【０３０２】
さらに、単調増減検出部２０３は、単調減少領域において、各画素の画素値の符号と、その画素に空間方向Ｙに隣接する画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出する。単調増減検出部２０３は、検出された、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界を細線領域の境界とする。
【０３０３】
図４７において、差分の符号が変化する画素と、その手前側（頂点P側）の画素との境界である細線領域の境界はDで示される。
【０３０４】
図４７で示されるように、細線の画像が射影された画素からなる細線領域Fは、細線領域の境界Cと、細線領域の境界Dとに挟まれる領域とされる。
【０３０５】
単調増減検出部２０３は、このような単調増減領域からなる細線領域Fの中から、予め定めた閾値より長い細線領域F、すなわち、閾値より多い数の画素を含む細線領域Fを求める。例えば、閾値が３であるとき、単調増減検出部２０３は、４つ以上の画素を含む細線領域Fを検出する。
【０３０６】
さらに、このように検出された細線領域Fの中から、単調増減検出部２０３は、頂点Pの画素値、および頂点Pの右側の画素の画素値、および頂点Pの左側の画素の画素値を、それぞれ閾値と比較し、頂点Pの画素値が閾値を超え、頂点Pの右側の画素の画素値が閾値以下であり、頂点Pの左側の画素の画素値が閾値以下である頂点Pが属する細線領域Fを検出し、検出された細線領域Fを細線の画像の成分を含む画素からなる領域の候補とする。
【０３０７】
言い換えれば、頂点Pの画素値が閾値以下であるか、頂点Pの右側の画素の画素値が閾値を超えるか、または頂点Pの左側の画素の画素値が閾値を超える頂点Pが属する細線領域Fは、細線の画像の成分を含まないと判定され、細線の画像の成分を含む画素からなる領域の候補から除去される。
【０３０８】
すなわち、図４８で示されるように、単調増減検出部２０３は、頂点Pの画素値を閾値と比較すると共に、頂点Pに対して、空間方向Ｘ（点線AA'で示す方向）に隣接する画素の画素値を、閾値と比較し、頂点Pの画素値が閾値を超え、空間方向Ｘに隣接する画素の画素値が閾値以下である、頂点Pが属する細線領域Fを検出する。
【０３０９】
図４９は、図４８の点線AA'で示す空間方向Ｘに並ぶ画素の画素値を表す図である。頂点Pの画素値が閾値Ｔｈ_Sを超え、頂点Pの空間方向Ｘに隣接する画素の画素値が、閾値Ｔｈ_S以下である、頂点Pが属する細線領域Fは、細線の成分を含む。
【０３１０】
なお、単調増減検出部２０３は、背景の画素値を基準として、頂点Pの画素値と背景の画素値との差分を閾値と比較すると共に、頂点Pに対して、空間方向Ｘに隣接する画素の画素値と背景の画素値との差分を、閾値と比較し、頂点Pの画素値と背景の画素値との差分が閾値を超え、空間方向Ｘに隣接する画素の画素値と背景の画素値との差分が閾値以下である、頂点Pが属する細線領域Fを検出するようにしてもよい。
【０３１１】
単調増減検出部２０３は、頂点Pを基準として、画素値が単調減少し、画素値の符号が頂点Pと同じである画素からなる領域であって、その頂点Pが閾値を超え、頂点Pの右側の画素の画素値が閾値以下であり、頂点Pの左側の画素の画素値が閾値以下であるものを示す単調増減領域情報を連続性検出部２０４に供給する。
【０３１２】
画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出する場合において、単調増減領域情報により示される領域に属する画素は、上下方向に並び、細線の画像が射影された画素を含む。すなわち、単調増減領域情報により示される領域は、画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を含む。
【０３１３】
このように、頂点検出部２０２および単調増減検出部２０３は、細線の画像が射影された画素において、空間方向Ｙの画素値の変化が、ガウス分布に類似するという性質を利用して、細線の画像が射影された画素からなる定常領域を検出する。
【０３１４】
連続性検出部２０４は、単調増減検出部２０３から供給された単調増減領域情報で示される、上下方向に並ぶ画素からなる領域のうち、横方向に隣接している画素を含む領域、すなわち、相似した画素値の変化を有し、縦方向に重複している領域を、連続している領域として検出し、頂点情報、および検出された連続している領域を示すデータ定常性情報を出力する。データ定常性情報は、単調増減領域情報、および領域の繋がりを示す情報などを含んでいる。
【０３１５】
細線が射影された画素において、円弧形状が隣接するように一定の間隔で並ぶので、検出された連続している領域は、細線が射影された画素を含んでいる。
【０３１６】
検出された連続している領域が、細線が射影された、円弧形状が隣接するように一定の間隔で並ぶ画素を含むので、検出された連続している領域を定常領域とし、連続性検出部２０４は、検出された連続している領域を示すデータ定常性情報を出力する。
【０３１７】
すなわち、連続性検出部２０４は、長さ方向に連続するという、実世界１の細線の画像の定常性から生じた、細線を撮像して得られたデータ３における、円弧形状が隣接するように一定の間隔で並ぶ定常性を利用して、頂点検出部２０２および単調増減検出部２０３において検出された領域の候補をさらに絞り込む。
【０３１８】
図５０は、単調増減領域の連続性を検出の処理を説明する図である。
【０３１９】
図５０に示すように、連続性検出部２０４は、画面の縦方向に１列に並ぶ画素からなる細線領域Fについて、横方向に隣接する画素を含んでいるとき、２つの単調増減領域の間に連続性があるとし、横方向に隣接する画素を含んでいないとき、２つの細線領域Fの間に連続性がないとする。例えば、画面の縦方向に１列に並ぶ画素からなる細線領域F_-1は、画面の縦方向に１列に並ぶ画素からなる細線領域F₀の画素と横方向に隣接する画素を含んでいるとき、細線領域F₀と連続しているとされる。画面の縦方向に１列に並ぶ画素からなる細線領域F₀は、画面の縦方向に１列に並ぶ画素からなる細線領域F₁の画素と横方向に隣接する画素を含んでいるとき、細線領域F₁と連続しているとされる。
【０３２０】
このように、頂点検出部２０２乃至連続性検出部２０４により、画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域が検出される。
【０３２１】
頂点検出部２０２乃至連続性検出部２０４は、上述したように、画面の上下方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出し、さらに、画面の左右方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出する。
【０３２２】
なお、処理の順序は、本発明を限定するものではなく、並列に実行するようにしても良いことは当然である。
【０３２３】
すなわち、頂点検出部２０２は、画面の左右方向に１列に並ぶ画素を対象として、画面の左側に位置する画素の画素値、および画面の右側に位置する画素の画素値に比較して、より大きい画素値を有する画素を頂点として検出し、検出した頂点の位置を示す頂点情報を単調増減検出部２０３に供給する。頂点検出部２０２は、１つの画像、例えば、１フレームの画像から、１または複数の頂点を検出する。
【０３２４】
例えば、頂点検出部２０２は、１フレームの画像からまだ注目画素とされていない画素の中から注目画素を選択し、注目画素の画素値と、注目画素の左側の画素の画素値とを比較し、注目画素の画素値と、注目画素の右側の画素の画素値とを比較して、左側の画素の画素値より大きい画素値を有し、右側の画素の画素値より大きい画素値を有する注目画素を検出して、検出された注目画素を頂点とする。頂点検出部２０２は、検出された頂点を示す頂点情報を単調増減検出部２０３に供給する。
【０３２５】
頂点検出部２０２が、頂点を検出しない場合もある。
【０３２６】
単調増減検出部２０３は、頂点検出部２０２で検出された頂点に対して左右方向に１列に並ぶ画素であって、細線の画像が射影された画素からなる領域の候補を検出検出し、頂点情報と共に、検出した領域を示す単調増減領域情報を連続性検出部２０４に供給する。
【０３２７】
より具体的には、単調増減検出部２０３は、頂点の画素値を基準として、単調減少している画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。
【０３２８】
例えば、単調増減検出部２０３は、頂点に対して横に１列の各画素について、各画素の画素値と、左側の画素の画素値との差分、および右側の画素の画素値との差分を求める。そして、単調増減検出部２０３は、差分の符号が変化する画素を検出することにより、画素値が単調減少している領域を検出する。
【０３２９】
さらに、単調増減検出部２０３は、画素値が単調減少している領域から、頂点の画素値の符号を基準として、頂点の画素値の符号と同じ符号の画素値を有する画素からなる領域を、細線の画像が射影された画素からなる領域の候補として検出する。
【０３３０】
例えば、単調増減検出部２０３は、各画素の画素値の符号と、左側の画素の画素値の符号または右側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出することにより、画素値が単調減少している領域から、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０３３１】
このように、単調増減検出部２０３は、左右方向に並び、頂点に対して画素値が単調減少し、頂点と同じ符号の画素値を有する画素からなる領域を検出する。
【０３３２】
単調増減検出部２０３は、このような単調増減領域からなる細線領域の中から、予め定めた閾値より長い細線領域、すなわち、閾値より多い数の画素を含む細線領域を求める。
【０３３３】
さらに、このように検出された細線領域の中から、単調増減検出部２０３は、頂点の画素値、および頂点の上側の画素の画素値、および頂点の下側の画素の画素値を、それぞれ閾値と比較し、頂点の画素値が閾値を超え、頂点の上側の画素の画素値が閾値以下であり、頂点の下側の画素の画素値が閾値以下である頂点が属する細線領域を検出し、検出された細線領域を細線の画像の成分を含む画素からなる領域の候補とする。
【０３３４】
言い換えれば、頂点の画素値が閾値以下であるか、頂点の上側の画素の画素値が閾値を超えるか、または頂点の下側の画素の画素値が閾値を超える頂点が属する細線領域は、細線の画像の成分を含まないと判定され、細線の画像の成分を含む画素からなる領域の候補から除去される。
【０３３５】
なお、単調増減検出部２０３は、背景の画素値を基準として、頂点の画素値と背景の画素値との差分を閾値と比較すると共に、頂点に対して、上下方向に隣接する画素の画素値と背景の画素値との差分を、閾値と比較し、頂点の画素値と背景の画素値との差分が閾値を超え、上下方向に隣接する画素の画素値と背景の画素値との差分が閾値以下である、検出された細線領域を細線の画像の成分を含む画素からなる領域の候補とするようにしてもよい。
【０３３６】
単調増減検出部２０３は、頂点を基準として、画素値が単調減少し、画素値の符号が頂点と同じである画素からなる領域であって、その頂点が閾値を超え、頂点の右側の画素の画素値が閾値以下であり、頂点の左側の画素の画素値が閾値以下であるものを示す単調増減領域情報を連続性検出部２０４に供給する。
【０３３７】
画面の左右方向に１列に並ぶ画素であって、細線の画像が射影されたものからなる領域を検出する場合において、単調増減領域情報により示される領域に属する画素は、左右方向に並び、細線の画像が射影された画素を含む。すなわち、単調増減領域情報により示される領域は、画面の左右方向に並ぶ１列の画素であって、細線の画像が射影されたものからなる領域を含む。
【０３３８】
連続性検出部２０４は、単調増減検出部２０３から供給された単調増減領域情報で示される、左右方向に並ぶ画素からなる領域のうち、縦方向に隣接している画素を含む領域、すなわち、相似した画素値の変化を有し、横方向に重複している領域を、連続している領域として検出し、頂点情報、および検出された連続している領域を示すデータ定常性情報を出力する。データ定常性情報は、領域の繋がりを示す情報を含んでいる。
【０３３９】
細線が射影された画素において、円弧形状が隣接するように一定の間隔で並ぶので、検出された連続している領域は、細線が射影された画素を含んでいる。
【０３４０】
検出された連続している領域が、細線が射影された、円弧形状が隣接するように一定の間隔で並ぶ画素を含むので、検出された連続している領域を定常領域とし、連続性検出部２０４は、検出された連続している領域を示すデータ定常性情報を出力する。
【０３４１】
すなわち、連続性検出部２０４は、長さ方向に連続するという、実世界１の細線の画像の定常性から生じた、細線を撮像して得られたデータ３における、円弧形状が隣接するように一定の間隔で並ぶ定常性を利用して、頂点検出部２０２および単調増減検出部２０３において検出された領域の候補をさらに絞り込む。
【０３４２】
図５１は、平面での近似により定常成分を抽出した画像の例を示す図である。図５２は、図５１に示す画像から頂点を検出し、単調減少している領域を検出した結果を示す図である。図５２において、白で示される部分が、検出された領域である。
【０３４３】
図５３は、図５２に示す画像から、隣接している領域の連続性を検出して、連続性が検出された領域を示す図である。図５３において、白で示される部分が、連続性が検出された領域である。連続性の検出により、領域がさらに特定されていることがわかる。
【０３４４】
図５４は、図５３に示す領域の画素値、すなわち、連続性が検出された領域の画素値を示す図である。
【０３４５】
このように、データ定常性検出部１０１は、入力画像であるデータ３に含まれている定常性を検出することができる。すなわち、データ定常性検出部１０１は、細線である実世界１の画像がデータ３に射影されることにより生じた、データ３に含まれるデータの定常性を検出することができる。データ定常性検出部１０１は、データ３から、細線である実世界１の画像が射影された画素からなる領域を検出する。
【０３４６】
図５５は、定常性検出部１０１における、細線の画像が射影された、定常性を有する領域の検出の他の処理の例を示す図である。
【０３４７】
定常性検出部１０１は、図５５に示すように、各画素について、隣接する画素との画素値の差分の絶対値を計算する。計算された差分の絶対値は、画素に対応させて、配置される。例えば、図５５に示すように、画素値がそれぞれP0、P1、P2である画素が並んでいるとき、定常性検出部１０１は、差分d0=P0-P1および差分d1=P1-P2を計算する。さらに、定常性検出部１０１は、差分d0および差分d1の絶対値を算出する。
【０３４８】
画素値P0、P1、およびP2に含まれている非定常性成分が同一であるとき、差分d0および差分d1には、細線の成分に対応した値のみが設定されることになる。
【０３４９】
従って、定常性検出部１０１は、画素に対応させて配置されている差分の絶対値のうち、隣り合う差分の値が同一であるとき、その２つの差分の絶対値に対応する画素（２つの差分の絶対値に挟まれた画素）に細線の成分が含まれていると判定する。
【０３５０】
定常性検出部１０１においては、このような、簡便な方法で細線を検出することもできる。
【０３５１】
図５６は、定常性検出の処理を説明するフローチャートである。
【０３５２】
ステップＳ２０１において、非定常成分抽出部２０１は、入力画像から、細線が射影された部分以外の部分である非定常成分を抽出する。非定常成分抽出部２０１は、入力画像と共に、抽出された非定常成分を示す非定常成分情報を頂点検出部２０２および単調増減検出部２０３に供給する。非定常成分の抽出の処理の詳細は、後述する。
【０３５３】
ステップＳ２０２において、頂点検出部２０２は、非定常成分抽出部２０１から供給された非定常成分情報を基に、入力画像から非定常成分を除去し、入力画像に定常成分を含む画素のみを残す。さらに、ステップＳ２０２において、頂点検出部２０２は、頂点を検出する。
【０３５４】
すなわち、頂点検出部２０２は、画面の縦方向を基準として、処理を実行する場合、定常成分を含む画素について、各画素の画素値と、上側および下側の画素の画素値とを比較して、上側の画素の画素値および下側の画素の画素値より大きい画素値を有する画素を検出することにより、頂点を検出する。また、ステップＳ２０２において、頂点検出部２０２は、画面の横方向を基準として、処理を実行する場合、定常成分を含む画素について、各画素の画素値と、右側および左側の画素の画素値とを比較して、右側の画素の画素値および左側の画素の画素値より大きい画素値を有する画素を検出することにより、頂点を検出する。
【０３５５】
頂点検出部２０２は、検出した頂点を示す頂点情報を単調増減検出部２０３に供給する。
【０３５６】
ステップＳ２０３において、単調増減検出部２０３は、非定常成分抽出部２０１から供給された非定常成分情報を基に、入力画像から非定常成分を除去し、入力画像に定常成分を含む画素のみを残す。さらに、ステップＳ２０３において、単調増減検出部２０３は、頂点検出部２０２から供給された、頂点の位置を示す頂点情報を基に、頂点に対する単調増減を検出することにより、データの定常性を有する画素からなる領域を検出する。
【０３５７】
単調増減検出部２０３は、画面の縦方向を基準として、処理を実行する場合、頂点の画素値、および頂点に対して縦に１列に並ぶ画素の画素値を基に、縦に並ぶ１列の画素であって、１つの細線の画像が射影された画素からなる単調増減を検出することにより、データの定常性を有する画素からなる領域を検出する。すなわち、ステップＳ２０３において、単調増減検出部２０３は、画面の縦方向を基準として、処理を実行する場合、頂点および頂点に対して縦に１列に並ぶ画素について、各画素の画素値と、上側または下側の画素の画素値との差分を求めて、差分の符号が変化する画素を検出する。また、単調増減検出部２０３は、頂点および頂点に対して縦に１列に並ぶ画素について、各画素の画素値の符号と、その画素の上側または下側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出する。さらに、単調増減検出部２０３は、頂点の画素値、並びに頂点の右側および左側の画素の画素値を、閾値と比較し、頂点の画素値が閾値を超え、右側および左側の画素の画素値が閾値以下である画素からなる領域を検出する。
【０３５８】
単調増減検出部２０３は、このように検出された領域を単調増減領域として、単調増減領域を示す単調増減領域情報を連続性検出部２０４に供給する。
【０３５９】
また、単調増減検出部２０３は、画面の横方向を基準として、処理を実行する場合、頂点の画素値、および頂点に対して横に１列に並ぶ画素の画素値を基に、横に並ぶ１列の画素であって、１つの細線の画像が射影された画素からなる単調増減を検出することにより、データの定常性を有する画素からなる領域を検出する。すなわち、ステップＳ２０３において、単調増減検出部２０３は、画面の横方向を基準として、処理を実行する場合、頂点および頂点に対して横に１列に並ぶ画素について、各画素の画素値と、左側または右側の画素の画素値との差分を求めて、差分の符号が変化する画素を検出する。また、単調増減検出部２０３は、頂点および頂点に対して横に１列に並ぶ画素について、各画素の画素値の符号と、その画素の左側または右側の画素の画素値の符号とを比較し、画素値の符号が変化する画素を検出する。さらに、単調増減検出部２０３は、頂点の画素値、並びに頂点の上側および下側の画素の画素値を、閾値と比較し、頂点の画素値が閾値を超え、上側および下側の画素の画素値が閾値以下である画素からなる領域を検出する。
【０３６０】
単調増減検出部２０３は、このように検出された領域を単調増減領域として、単調増減領域を示す単調増減領域情報を連続性検出部２０４に供給する。
【０３６１】
ステップＳ２０４において、単調増減検出部２０３は、全画素の処理が終了したか否かを判定する。例えば、非定常成分抽出部２０１は、入力画像の１つの画面（例えば、フレームまたはフィールドなど）の全画素について、頂点を検出し、単調増減領域を検出したか否かを判定する。
【０３６２】
ステップＳ２０４において、全画素の処理が終了していない、すなわち、頂点の検出および単調増減領域の検出の処理の対象とされていない画素がまだあると判定された場合、ステップＳ２０２に戻り、頂点の検出および単調増減領域の検出の処理の対象とされていない画素から処理の対象となる画素を選択して、頂点の検出および単調増減領域の検出の処理を繰り返す。
【０３６３】
ステップＳ２０４において、全画素の処理が終了した、すなわち、全ての画素を対象として頂点および単調増減領域が検出されたと判定された場合、ステップＳ２０５に進み、連続性検出部２０４は、単調増減領域情報を基に、検出された領域の連続性を検出する。例えば、連続性検出部２０４は、単調増減領域情報で示される、画面の縦方向に１列に並ぶ画素からなる単調増減領域について、横方向に隣接する画素を含んでいるとき、２つの単調増減領域の間に連続性があるとし、横方向に隣接する画素を含んでいないとき、２つの単調増減領域の間に連続性がないとする。例えば、連続性検出部２０４は、単調増減領域情報で示される、画面の横方向に１列に並ぶ画素からなる単調増減領域について、縦方向に隣接する画素を含んでいるとき、２つの単調増減領域の間に連続性があるとし、縦方向に隣接する画素を含んでいないとき、２つの単調増減領域の間に連続性がないとする。
【０３６４】
連続性検出部２０４は、検出された連続している領域をデータの定常性を有する定常領域とし、頂点の位置および定常領域を示すデータ定常性情報を出力する。データ定常性情報は、領域の繋がりを示す情報を含んでいる。連続性検出部２０４から出力されるデータ定常性情報は、実世界１の細線の画像が射影された画素からなる、定常領域である細線領域を示す。
【０３６５】
ステップＳ２０６において、定常性方向検出部２０５は、全画素の処理が終了したか否かを判定する。すなわち、定常性方向検出部２０５は、入力画像の所定のフレームの全画素について、領域の連続性を検出したか否かを判定する。
【０３６６】
ステップＳ２０６において、全画素の処理が終了していない、すなわち、領域の連続性の検出の処理の対象とされていない画素がまだあると判定された場合、ステップＳ２０５に戻り、領域の連続性の検出の処理の対象とされていない画素から処理の対象となる画素を選択して、領域の連続性の検出の処理を繰り返す。
【０３６７】
ステップＳ２０６において、全画素の処理が終了した、すなわち、全ての画素を対象として領域の連続性が検出されたと判定された場合、処理は終了する。
【０３６８】
このように、入力画像であるデータ３に含まれている定常性が検出される。すなわち、細線である実世界１の画像がデータ３に射影されることにより生じた、データ３に含まれるデータの定常性が検出され、データ３から、細線である実世界１の画像が射影された画素からなる、データの定常性を有する領域が検出される。
【０３６９】
なお、図４１で構成が示されるデータ定常性検出部１０１は、データ３のフレームから検出されたデータの定常性を有する領域を基に、時間方向のデータの定常性を検出することができる。
【０３７０】
例えば、図５７に示すように、連続性検出部２０４は、フレーム#nにおいて、検出されたデータの定常性を有する領域、フレーム#n-1において、検出されたデータの定常性を有する領域、およびフレーム#n+1において、検出されたデータの定常性を有する領域を基に、領域の端部を結ぶことにより、時間方向のデータの定常性を検出する。
【０３７１】
フレーム#n-1は、フレーム#nに対して時間的に前のフレームであり、フレーム#n+1は、フレーム#nに対して時間的に後のフレームである。すなわち、フレーム#n-1、フレーム#n、およびフレーム#n+1は、フレーム#n-1、フレーム#n、およびフレーム#n+1の順で表示される。
【０３７２】
より具体的には、図５７において、Ｇは、フレーム#nにおいて、検出されたデータの定常性を有する領域、フレーム#n-1において、検出されたデータの定常性を有する領域、およびフレーム#n+1において、検出されたデータの定常性を有する領域のそれぞれの一端を結ぶことにより得られた動きベクトルを示し、Ｇ’は、検出されたデータの定常性を有する領域のそれぞれの他の一端を結ぶことにより得られた動きベクトルを示す。動きベクトルＧおよび動きベクトルＧ’は、時間方向のデータの定常性の一例である。
【０３７３】
さらに、図４１で構成が示されるデータ定常性検出部１０１は、データの定常性を有する領域の長さを示す情報を、データ定常性情報として出力することができる。
【０３７４】
図５８は、データの定常性を有しない画像データの部分である非定常成分を平面で近似して、非定常成分を抽出する、非定常成分抽出部２０１の構成を示すブロック図である。
【０３７５】
図５８に構成を示す非定常成分抽出部２０１は、入力画像から所定の数の画素でなるブロックを抽出し、ブロックと平面で示される値との誤差が所定の閾値未満になるように、ブロックを平面で近似して、非定常成分を抽出する。
【０３７６】
入力画像は、ブロック抽出部２２１に供給されるとともに、そのまま出力される。
【０３７７】
ブロック抽出部２２１は、入力画像から、所定の数の画素からなるブロックを抽出する。例えば、ブロック抽出部２２１は、７×７の画素からなるブロックを抽出し、平面近似部２２２に供給する。例えば、ブロック抽出部２２１は、抽出されるブロックの中心となる画素をラスタスキャン順に移動させ、順次、入力画像からブロックを抽出する。
【０３７８】
平面近似部２２２は、ブロックに含まれる画素の画素値を所定の平面で近似する。例えば、平面近似部２２２は、式（２４）で表される平面でブロックに含まれる画素の画素値を近似する。
【０３７９】
z=ax+by+c ・・・（２４）
【０３８０】
式（２４）において、xは、画素の画面上の一方の方向（空間方向Ｘ）の位置を示し、yは、画素の画面上の他の一方の方向（空間方向Ｙ）の位置を示す。ｚは、平面で示される近似値を示す。aは、平面の空間方向Ｘの傾きを示し、bは、平面の空間方向Ｙの傾きを示す。式（２４）において、cは、平面のオフセット（切片）を示す。
【０３８１】
例えば、平面近似部２２２は、回帰の処理により、傾きa、傾きb、およびオフセットcを求めることにより、式（２４）で表される平面で、ブロックに含まれる画素の画素値を近似する。平面近似部２２２は、棄却を伴う回帰の処理により、傾きa、傾きb、およびオフセットcを求めることにより、式（２４）で表される平面で、ブロックに含まれる画素の画素値を近似する。
【０３８２】
例えば、平面近似部２２２は、最小自乗法により、ブロックの画素の画素値に対して、誤差が最小となる式（２４）で表される平面を求めることにより、平面でブロックに含まれる画素の画素値を近似する。
【０３８３】
なお、平面近似部２２２は、式（２４）で表される平面でブロックを近似すると説明したが、式（２４）で表される平面に限らず、より高い自由度をもった関数、例えば、n次の多項式で表される面でブロックを近似するようにしてもよい。
【０３８４】
繰り返し判定部２２３は、ブロックの画素値を近似した平面で示される近似値と、ブロックの対応する画素の画素値との誤差を計算する。式（２５）は、ブロックの画素値を近似した平面で示される近似値と、ブロックの対応する画素の画素値ziとの差分である誤差eiを示す式である。
【０３８５】
【数１９】

【０３８６】
式（２５）において、zハット（zに^を付した文字をzハットと記述する。以下、本明細書において、同様に記載する。）は、ブロックの画素値を近似した平面で示される近似値を示し、aハットは、ブロックの画素値を近似した平面の空間方向Ｘの傾きを示し、bハットは、ブロックの画素値を近似した平面の空間方向Ｙの傾きを示す。式（２５）において、cハットは、ブロックの画素値を近似した平面のオフセット（切片）を示す。
【０３８７】
繰り返し判定部２２３は、式（２５）で示される、近似値とブロックの対応する画素の画素値との誤差eiが、最も大きい画素を棄却する。このようにすることで、細線が射影された画素、すなわち定常性を有する画素が棄却されることになる。繰り返し判定部２２３は、棄却した画素を示す棄却情報を平面近似部２２２に供給する。
【０３８８】
さらに、繰り返し判定部２２３は、標準誤差を算出して、標準誤差が、予め定めた近似終了判定用の閾値以上であり、ブロックの画素のうち、半分以上の画素が棄却されていないとき、繰り返し判定部２２３は、平面近似部２２２に、ブロックに含まれる画素のうち、棄却された画素を除いた画素を対象として、平面による近似の処理を繰り返させる。
【０３８９】
定常性を有する画素が棄却されるので、棄却された画素を除いた画素を対象として平面で近似をすることにより、平面は、非定常成分を近似することになる。
【０３９０】
繰り返し判定部２２３は、標準誤差が、近似終了判定用の閾値未満であるとき、または、ブロックの画素のうち、半分以上の画素が棄却されたとき、平面による近似を終了する。
【０３９１】
５×５の画素からなるブロックについて、標準誤差e_sは、例えば、式（２６）で算出される。
【０３９２】
【数２０】

ここで、nは、画素の数である。
【０３９３】
なお、繰り返し判定部２２３は、標準誤差に限らず、ブロックに含まれる全ての画素についての誤差の２乗の和を算出して、以下の処理を実行するようにしてもよい。
【０３９４】
ここで、ラスタスキャン方向に１画素ずつずれたブロックを平面で近似するとき、図５９に示すように、図中黒丸で示す、定常性を有する画素、すなわち細線の成分を含む画素は、複数回棄却されることになる。
【０３９５】
繰り返し判定部２２３は、平面による近似を終了したとき、ブロックの画素値を近似した平面を示す情報（式（２４）の平面の傾きおよび切片）を、非定常成分情報として出力する。
【０３９６】
なお、繰り返し判定部２２３は、画素毎の棄却された回数と予め定めた閾値とを比較して、棄却された回数が閾値以上である画素を定常成分を含む画素であるとして、定常成分を含む画素を示す情報を定常成分情報として出力するようにしてもよい。この場合、頂点検出部２０２乃至定常性方向検出部２０５は、定常成分情報で示される、定常成分を含む画素を対象として、それぞれの処理を実行する。
【０３９７】
図６０乃至図６７を参照して、非定常成分抽出の処理の結果の例を説明する。
【０３９８】
図６０は、細線が含まれる画像から、元の画像の２×２の画素の画素値の平均値を画素値として生成した入力画像の例を示す図である。
【０３９９】
図６１は、図６０で示される画像を、棄却をしないで平面で近似した結果得られる標準誤差を画素値とした画像を示す図である。図６１で示される例において、注目している１つの画素に対する５×５の画素からなるブロックを平面で近似した。図６１において、白い画素はより大きい画素値、すなわち、より大きい標準誤差を有する画素であり、黒い画素はより小さい画素値、すなわち、より小さい標準誤差を有する画素である。
【０４００】
図６１から、棄却をしないで平面で近似した結果得られる標準誤差を画素値とした場合、非定常部の周辺に広く、大きな値が求められていることが確認できる。
【０４０１】
図６２乃至図６７で示される例において、注目している１つの画素に対する７×７の画素からなるブロックを平面で近似した。７×７の画素からなるブロックを平面で近似する場合、１つの画素が４９のブロックに繰り返し含まれることになるので、定常成分を含む画素は、最も多くて４９回、棄却されることになる。
【０４０２】
図６２は、図６０で示される画像を、棄却をして平面で近似したとき、得られる標準誤差を画素値とした画像である。
【０４０３】
図６２において、白い画素はより大きい画素値、すなわち、より大きい標準誤差を有する画素であり、黒い画素はより小さい画素値、すなわち、より小さい標準誤差を有する画素である。棄却をしない場合に比較して、棄却をした場合、全体として、標準誤差がより小さくなることがわかる。
【０４０４】
図６３は、図６０で示される画像を、棄却をして平面で近似したとき、棄却された回数を画素値とした画像を示す図である。図６３において、白い画素はより大きい画素値、すなわち、棄却された回数がより多い画素であり、黒い画素はより小さい画素値、すなわち、棄却された回数がより少ない画素である。
【０４０５】
図６３から、細線の画像が射影された画素は、より多く棄却されていることがわかる。棄却された回数を画素値とした画像を用いて、入力画像の非定常部をマスクする画像を生成することも可能である。
【０４０６】
図６４は、ブロックの画素値を近似した平面の空間方向Ｘの傾きを画素値とした画像を示す図である。図６５は、ブロックの画素値を近似した平面の空間方向Ｙの傾きを画素値とした画像を示す図である。
【０４０７】
図６６は、ブロックの画素値を近似した平面で示される近似値からなる画像を示す図である。図６６で示される画像からは、細線が消えていることがわかる。
【０４０８】
図６７は、図６０で示される、元の画像の２×２の画素のブロックの平均値を画素の画素値として生成した画像と、図６６で示される、平面で示される近似値からなる画像との差分からなる画像を示す図である。図６７の画像の画素値は、非定常成分が除去されるので、細線の画像が射影された値のみを含む。図６７からもわかるように、元の画素値と近似した平面で示される近似値との差分からなる画像では、元の画像の定常成分がうまく抽出できていることが確認できる。
【０４０９】
棄却された回数、ブロックの画素の画素値を近似する平面の空間方向Ｘの傾き、ブロックの画素の画素値を近似する平面の空間方向Ｙの傾き、ブロックの画素の画素値を近似する平面で示される近似値、および誤差eiは、入力画像の特徴量としても利用することができる。
【０４１０】
図６８は、ステップＳ２０１に対応する、図５８に構成を示す非定常成分抽出部２０１による、非定常成分の抽出の処理を説明するフローチャートである。
【０４１１】
ステップＳ２２１において、ブロック抽出部２２１は、入力画素から、所定の数の画素からなるブロックを抽出し、抽出したブロックを平面近似部２２２に供給する。例えば、ブロック抽出部２２１は、入力画素から、まだ、選択されていない画素のうち、１つの画素を選択し、選択された画素を中心とする７×７の画素からなるブロックを抽出する。例えば、ブロック抽出部２２１は、ラスタスキャン順に画素を選択することができる。
【０４１２】
ステップＳ２２２において、平面近似部２２２は、抽出されたブロックを平面で近似する。平面近似部２２２は、例えば、回帰の処理により、抽出されたブロックの画素の画素値を、平面で近似する。例えば、平面近似部２２２は、回帰の処理により、抽出されたブロックの画素のうち、棄却された画素を除いた画素の画素値を、平面で近似する。ステップＳ２２３において、繰り返し判定部２２３は、繰り返し判定を実行する。例えば、ブロックの画素の画素値と近似した平面の近似値とから標準誤差を算出し、棄却された画素の数をカウントすることにより、繰り返し判定を実行する。
【０４１３】
ステップＳ２２４において、繰り返し判定部２２３は、標準誤差が閾値以上であるか否かを判定し、標準誤差が閾値以上であると判定された場合、ステップＳ２２５に進む。
【０４１４】
なお、ステップＳ２２４において、繰り返し判定部２２３は、ブロックの画素のうち、半分以上の画素が棄却されたか否か、および標準誤差が閾値以上であるか否かを判定し、ブロックの画素のうち、半分以上の画素が棄却されておらず、標準誤差が閾値以上であると判定された場合、ステップＳ２２５に進むようにしてもよい。
【０４１５】
ステップＳ２２５において、繰り返し判定部２２３は、ブロックの画素毎に、画素の画素値と近似した平面の近似値との誤差を算出し、誤差が最も大きい画素を棄却し、平面近似部２２２に通知する。手続きは、ステップＳ２２２に戻り、棄却された画素を除いた、ブロックの画素を対象として、平面による近似の処理および繰り返し判定の処理が繰り返される。
【０４１６】
ステップＳ２２５において、ラスタスキャン方向に１画素ずつずれたブロックがステップＳ２２１の処理で抽出される場合、図５９に示すように、細線の成分を含む画素（図中の黒丸で示す）は、複数回棄却されることになる。
【０４１７】
ステップＳ２２４において、標準誤差が閾値以上でないと判定された場合、ブロックが平面で近似されたので、ステップＳ２２６に進む。
【０４１８】
なお、ステップＳ２２４において、繰り返し判定部２２３は、ブロックの画素のうち、半分以上の画素が棄却されたか否か、および標準誤差が閾値以上であるか否かを判定し、ブロックの画素のうち、半分以上の画素が棄却されたか、または標準誤差が閾値以上でないと判定された場合、ステップＳ２２５に進むようにしてもよい。
【０４１９】
ステップＳ２２６において、繰り返し判定部２２３は、ブロックの画素の画素値を近似する平面の傾きおよび切片を、非定常成分情報として出力する。
【０４２０】
ステップＳ２２７において、ブロック抽出部２２１は、入力画像の１つの画面の全画素について処理を終了したか否かを判定し、まだ処理の対象となってない画素があると判定された場合、ステップＳ２２１に戻り、まだ処理の対象となっていない画素からブロックを抽出して、上述した処理を繰り返す。
【０４２１】
ステップＳ２２７において、入力画像の１つの画面の全画素について、処理を終了したと判定された場合、処理は終了する。
【０４２２】
このように、図５８に構成を示す非定常成分抽出部２０１は、入力画像から非定常成分を抽出することができる。非定常成分抽出部２０１が入力画像の非定常成分を抽出するので、頂点検出部２０２および単調増減検出部２０３は、入力画像と、非定常成分抽出部２０１で抽出された非定常成分との差分を求めることにより、定常成分を含む差分を対象として処理を実行することができる。
【０４２３】
なお、平面による近似の処理において算出される、棄却した場合の標準誤差、棄却しない場合の標準誤差、画素の棄却された回数、平面の空間方向Ｘの傾き（式（２４）におけるaハット）、平面の空間方向Ｙの傾き（式（２４）におけるbハット）、平面で置き換えたときのレベル（式（２４）におけるcハット）、および入力画像の画素値と平面で示される近似値との差分は、特徴量として利用することができる。
【０４２４】
図６９は、ステップＳ２０１に対応する非定常成分の抽出の処理に代わる、図５８に構成を示す非定常成分抽出部２０１による、定常成分の抽出の処理を説明するフローチャートである。ステップＳ２４１乃至ステップＳ２４５の処理は、ステップＳ２２１乃至ステップＳ２２５の処理と同様なので、その説明は省略する。
【０４２５】
ステップＳ２４６において、繰り返し判定部２２３は、平面で示される近似値と入力画像の画素値との差分を、入力画像の定常成分として出力する。すなわち、繰り返し判定部２２３は、平面による近似値と、真値である画素値との差分を出力する。
【０４２６】
なお、繰り返し判定部２２３は、平面で示される近似値と入力画像の画素値との差分が、所定の閾値以上である画素の画素値を、入力画像の定常成分として出力するようにしてもよい。
【０４２７】
ステップＳ２４７の処理は、ステップＳ２２７の処理と同様なので、その説明は省略する。
【０４２８】
平面が非定常成分を近似しているので、非定常成分抽出部２０１は、入力画像の各画素の画素値から、画素値を近似する平面で示される近似値を引き算することにより、入力画像から非定常成分を除去することができる。この場合、頂点検出部２０２乃至連続性検出部２０４は、入力画像の定常成分、すなわち細線の画像が射影された値のみを処理の対象とすることができ、頂点検出部２０２乃至連続性検出部２０４における処理がより容易になる。
【０４２９】
図７０は、ステップＳ２０１に対応する非定常成分の抽出の処理に代わる、図５８に構成を示す非定常成分抽出部２０１による、定常成分の抽出の他の処理を説明するフローチャートである。ステップＳ２６１乃至ステップＳ２６５の処理は、ステップＳ２２１乃至ステップＳ２２５の処理と同様なので、その説明は省略する。
【０４３０】
ステップＳ２６６において、繰り返し判定部２２３は、画素毎の、棄却の回数を記憶し、ステップＳ２６２に戻り、処理を繰り返す。
【０４３１】
ステップＳ２６４において、標準誤差が閾値以上でないと判定された場合、ブロックが平面で近似されたので、ステップＳ２６７に進み、繰り返し判定部２２３は、入力画像の１つの画面の全画素について処理を終了したか否かを判定し、まだ処理の対象となってない画素があると判定された場合、ステップＳ２６１に戻り、まだ処理の対象となっていない画素についてブロックを抽出して、上述した処理を繰り返す。
【０４３２】
ステップＳ２６７において、入力画像の１つの画面の全画素について、処理を終了したと判定された場合、ステップＳ２６８に進み、繰り返し判定部２２３は、まだ選択されていない画素から１つの画素を選択し、選択された画素について、棄却の回数が、閾値以上であるか否かを判定する。例えば、繰り返し判定部２２３は、ステップＳ２６８において、選択された画素について、棄却の回数が、予め記憶している閾値以上であるか否かを判定する。
【０４３３】
ステップＳ２６８において、選択された画素について、棄却の回数が、閾値以上であると判定された場合、選択された画素が定常成分を含むので、ステップＳ２６９に進み、繰り返し判定部２２３は、選択された画素の画素値（入力画像における画素値）を入力画像の定常成分として出力し、ステップＳ２７０に進む。
【０４３４】
ステップＳ２６８において、選択された画素について、棄却の回数が、閾値以上でないと判定された場合、選択された画素が定常成分を含まないので、ステップＳ２６９の処理をスキップして、手続きは、ステップＳ２７０に進む。すなわち、棄却の回数が、閾値以上でないと判定された画素は、画素値が出力されない。
【０４３５】
なお、棄却の回数が、閾値以上でないと判定された画素について、繰り返し判定部２２３は、0を設定した画素値を出力するようにしてもよい。
【０４３６】
ステップＳ２７０において、繰り返し判定部２２３は、入力画像の１つの画面の全画素について、棄却の回数が閾値以上であるか否かの判定の処理を終了したか否かを判定し、全画素について処理を終了していないと判定された場合、まだ処理の対象となってない画素があるので、ステップＳ２６８に戻り、まだ処理の対象となっていない画素から１つの画素を選択して、上述した処理を繰り返す。
【０４３７】
ステップＳ２７０において、入力画像の１つの画面の全画素について処理を終了したと判定された場合、処理は終了する。
【０４３８】
このように、非定常成分抽出部２０１は、定常成分情報として、入力画像の画素のうち、定常成分を含む画素の画素値を出力することができる。すなわち、非定常成分抽出部２０１は、入力画像の画素のうち、細線の画像の成分を含む画素の画素値を出力することができる。
【０４３９】
図７１は、ステップＳ２０１に対応する非定常成分の抽出の処理に代わる、図５８に構成を示す非定常成分抽出部２０１による、定常成分の抽出のさらに他の処理を説明するフローチャートである。ステップＳ２８１乃至ステップＳ２８８の処理は、ステップＳ２６１乃至ステップＳ２６８の処理と同様なので、その説明は省略する。
【０４４０】
ステップＳ２８９において、繰り返し判定部２２３は、平面で示される近似値と、選択された画素の画素値との差分を入力画像の定常成分として出力する。すなわち、繰り返し判定部２２３は、入力画像から非定常成分を除去した画像を定常性情報として出力する。
【０４４１】
ステップＳ２９０の処理は、ステップＳ２７０の処理と同様なので、その説明は省略する。
【０４４２】
このように、非定常成分抽出部２０１は、入力画像から非定常成分を除去した画像を定常性情報として出力することができる。
【０４４３】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、第１の画像データの複数の画素の画素値の不連続部を検出し、検出された不連続部からデータの定常性を検出し、検出されたデータの定常性を基に、現実世界の光信号の定常性を推定することにより光信号を推定し、推定された光信号を第２の画像データに変換するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０４４４】
図７２は、データ定常性検出部１０１の他の構成を示すブロック図である。
【０４４５】
図７２に構成を示すデータ定常性検出部１０１においては、注目している画素である注目画素について、入力画像の空間方向に対する画素値の変化、すなわち入力画像の空間方向のアクティビティが検出され、検出されたアクティビティに応じて、注目画素および基準軸を基準とした角度毎に、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組が、複数抽出され、抽出された画素の組の相関が検出され、相関に基づいて、入力画像における、基準軸を基準としたデータの定常性の角度が検出される。
【０４４６】
データの定常性の角度とは、基準軸と、データ３が有している、一定の特徴が繰り返し現れる所定の次元の方向とがなす角度をいう。一定の特徴が繰り返し現れるとは、例えば、データ３における位置の変化に対する値の変化、すなわち断面形状が同じである場合などをいう。
【０４４７】
基準軸は、例えば、空間方向Ｘを示す軸（画面の水平方向）、または空間方向Ｙを示す軸（画面の垂直方向）などとすることができる。
【０４４８】
入力画像は、アクティビティ検出部４０１およびデータ選択部４０２に供給される。
【０４４９】
アクティビティ検出部４０１は、入力画像の空間方向に対する画素値の変化、すなわち空間方向のアクティビティを検出して、検出した結果を示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０４５０】
例えば、アクティビティ検出部４０１は、画面の水平方向に対する画素値の変化、および画面の垂直方向に対する画素値の変化を検出し、検出された水平方向に対する画素値の変化および垂直方向に対する画素値の変化を比較することにより、垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きいか、または水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きいかを検出する。
【０４５１】
アクティビティ検出部４０１は、検出の結果である、垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きいことを示すか、または水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きいことを示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０４５２】
垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きい場合、例えば、図７３で示されるように、垂直方向に１列の画素に円弧形状（かまぼこ型）またはつめ形状が形成され、円弧形状またはつめ形状が垂直により近い方向に繰り返して形成されている。すなわち、垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きい場合、基準軸を空間方向Ｘを示す軸とすると、入力画像における、基準軸を基準としたデータの定常性の角度は、４５度乃至９０度のいずれかの値である。
【０４５３】
水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きい場合、例えば、水平方向に１列の画素に円弧形状またはつめ形状が形成され、円弧形状またはつめ形状が水平方向により近い方向に繰り返して形成されている。すなわち、水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きい場合、基準軸を空間方向Ｘを示す軸とすると、入力画像における、基準軸を基準としたデータの定常性の角度は、０度乃至４５度のいずれかの値である。
【０４５４】
例えば、アクティビティ検出部４０１は、図７４で示される、注目画素を中心とした３×３の９つの画素からなるブロックを入力画像から抽出する。アクティビティ検出部４０１は、縦に隣接する画素についての画素値の差分の和、および横に隣接する画素についての画素値の差分の和を算出する。横に隣接する画素についての画素値の差分の和h_diffは、式（２７）で求められる。
【０４５５】
h_diff=Σ(P_i+1,j-P_i,j) ・・・（２７）
【０４５６】
同様に、縦に隣接する画素についての画素値の差分の和v_diffは、式（２８）で求められる。
【０４５７】
v_diff=Σ(P_i,j+1-P_i,j) ・・・（２８）
【０４５８】
式（２７）および式（２８）において、Pは、画素値を示し、iは、画素の横方向の位置を示し、jは、画素の縦方向の位置を示す。
【０４５９】
アクティビティ検出部４０１は、算出された横に隣接する画素についての画素値の差分の和h_diffおよび縦に隣接する画素についての画素値の差分の和v_diffを比較して、入力画像における、基準軸を基準としたデータの定常性の角度の範囲を判定するようにしてもよい。すなわち、この場合、アクティビティ検出部４０１は、空間方向の位置に対する画素値の変化で示される形状が水平方向に繰り返して形成されているか、垂直方向に繰り返して形成されているかを判定する。
【０４６０】
例えば、横に１列の画素上に形成された円弧についての横方向の画素値の変化は、縦方向の画素値の変化に比較して大きく、横に１列の画素上に形成された円弧についての縦方向の画素値の変化は、横方向の画素値の変化に比較して大きく、データの定常性の方向、すなわち、データ３である入力画像が有している、一定の特徴の所定の次元の方向の変化は、データの定常性に直交する方向の変化に比較して小さいと言える。言い換えれば、データの定常性の方向の差分に比較して、データの定常性の方向に直交する方向（以下、非定常方向とも称する）の差分は大きい。
【０４６１】
例えば、図７５に示すように、アクティビティ検出部４０１は、算出された横に隣接する画素についての画素値の差分の和h_diffおよび縦に隣接する画素についての画素値の差分の和v_diffを比較して、横に隣接する画素についての画素値の差分の和h_diffが大きい場合、基準軸を基準としたデータの定常性の角度が、４５度乃至１３５度のいずれかの値であると判定し、縦に隣接する画素についての画素値の差分の和v_diffが大きい場合、基準軸を基準としたデータの定常性の角度が、０度乃至４５度のいずれかの値、または１３５度乃至１８０度のいずれかの値であると判定する。
【０４６２】
例えば、アクティビティ検出部４０１は、判定の結果を示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０４６３】
なお、アクティビティ検出部４０１は、５×５の２５の画素からなるブロック、または７×７の４９の画素からなるブロックなど、任意の大きさのブロックを抽出して、アクティビティを検出することができる。
【０４６４】
データ選択部４０２は、入力画像の画素から注目画素を順に選択し、アクティビティ検出部４０１から供給されたアクティビティ情報を基に、注目画素および基準軸を基準とした角度毎に、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４６５】
例えば、アクティビティ情報が垂直方向に対する画素値の変化に比較して、水平方向に対する画素値の変化が大きいことを示しているとき、データの定常性の角度が、４５度乃至１３５度のいずれかの値なので、データ選択部４０２は、注目画素および基準軸を基準とした４５度乃至１３５度の範囲の所定の角度毎に、垂直方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４６６】
アクティビティ情報が水平方向に対する画素値の変化に比較して、垂直方向に対する画素値の変化が大きいことを示しているとき、データの定常性の角度が、０度乃至４５度または１３５度乃至１８０度のいずれかの値なので、データ選択部４０２は、注目画素および基準軸を基準とした０度乃至４５度または１３５度乃至１８０度の範囲の所定の角度毎に、水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４６７】
また、例えば、データの定常性の角度が４５度乃至１３５度のいずれかの値であることを、アクティビティ情報が示しているとき、データ選択部４０２は、注目画素および基準軸を基準とした４５度乃至１３５度の範囲の所定の角度毎に、垂直方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４６８】
データの定常性の角度が０度乃至４５度または１３５度乃至１８０度のいずれかの値であることを、アクティビティ情報が示しているとき、データ選択部４０２は、注目画素および基準軸を基準とした０度乃至４５度または１３５度乃至１８０度の範囲の所定の角度毎に、水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０４６９】
データ選択部４０２は、抽出した画素からなる複数の組を誤差推定部４０３に供給する。
【０４７０】
誤差推定部４０３は、抽出した画素からなる複数の組について、角度毎に、画素の組の相関を検出する。
【０４７１】
例えば、誤差推定部４０３は、１つの角度に対応する、垂直方向に１列の所定の数の画素からなる画素の複数の組について、画素の組における対応する位置の画素の画素値の相関を検出する。誤差推定部４０３は、１つの角度に対応する、水平方向に１列の所定の数の画素からなる画素の複数の組について、組における対応する位置の画素の画素値の相関を検出する。
【０４７２】
誤差推定部４０３は、検出した相関を示す相関情報を定常方向導出部４０４に供給する。誤差推定部４０３は、相関を示す値として、データ選択部４０２から供給された、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出し、差分の絶対値の和を相関情報として定常方向導出部４０４に供給する。
【０４７３】
定常方向導出部４０４は、誤差推定部４０３から供給された相関情報に基いて、欠落した実世界１の光信号の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。例えば、定常方向導出部４０４は、誤差推定部４０３から供給された相関情報に基いて、データの定常性の角度として、最も相関の強い画素の組に対する角度を検出し、検出された最も相関の強い画素の組に対する角度を示すデータ定常性情報を出力する。
【０４７４】
以下の説明において、適宜、０度乃至９０度の範囲（いわゆる第１象限）のデータの定常性の角度を検出するものとして説明する。
【０４７５】
図７６は、図７２に示すデータ定常性検出部１０１のより詳細な構成を示すブロック図である。
【０４７６】
データ選択部４０２は、画素選択部４１１−１乃至画素選択部４１１−Ｌを含む。誤差推定部４０３は、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌを含む。定常方向導出部４０４は、最小誤差角度選択部４１３を含む。
【０４７７】
まず、アクティビティ情報で示される、データの定常性の角度が４５度乃至１３５度のいずれかの値であるときの画素選択部４１１−１乃至画素選択部４１１−Ｌの処理を説明する。
【０４７８】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、空間方向Ｘを示す軸を基準軸として、注目画素を通る、それぞれ異なる所定の角度の直線を設定する。画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列に属する画素であって、注目画素の上側の所定の数の画素、および注目画素の下側の所定の数の画素、並びに注目画素を画素の組として選択する。
【０４７９】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列に属する画素から、注目画素を中心として９つの画素を画素の組として選択する。
【０４８０】
図７７において、マス目状の１つの四角（１つのマス目）は、１つの画素を示す。図７７において、中央に示す丸は、注目画素を示す。
【０４８１】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側の縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、注目画素の左下側の丸は、選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側の縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４８２】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側の縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４８３】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側に２つめの縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、最も左側の丸は、選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側に２つめの縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４８４】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、左側に２つめの縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４８５】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側の縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、注目画素の右上側の丸は、選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側の縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４８６】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側の縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４８７】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側に２つめの縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。図７７において、最も右側の丸は、このように選択された画素の例を示す。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側に２つめの縦に１列の画素の列に属する画素であって、選択された画素の上側の所定の数の画素、および選択された画素の下側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０４８８】
例えば、図７７で示されるように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する縦に１列の画素の列の、右側に２つめの縦に１列の画素の列に属する画素から、直線に最も近い位置の画素を中心として９つの画素を画素の組として選択する。
【０４８９】
このように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、それぞれ、画素の組を５つ選択する。
【０４９０】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、互いに異なる角度（に設定された直線）についての、画素の組を選択する。例えば、画素選択部４１１−１は、４５度についての、画素の組を選択し、画素選択部４１１−２は、４７．５度についての、画素の組を選択し、画素選択部４１１−３は、５０度についての、画素の組を選択する。画素選択部４１１−１乃至画素選択部４１１−Ｌは、５２．５度から１３５度までの、２．５度毎の角度についての、画素の組を選択する。
【０４９１】
なお、画素の組の数は、例えば、３つ、または７つなど、任意の数とすることができ、本発明を限定するものではない。また、１つの組として選択された画素の数は、例えば、５つ、または１３など、任意の数とすることができ、本発明を限定するものではない。
【０４９２】
なお、画素選択部４１１−１乃至画素選択部４１１−Ｌは、縦方向に所定の範囲の画素から、画素の組を選択するようにすることができる。例えば、画素選択部４１１−１乃至画素選択部４１１−Ｌは、縦方向に１２１個の画素（注目画素に対して、上方向に６０画素、下方向に６０画素）から、画素の組を選択する。この場合、データ定常性検出部１０１は、空間方向Ｘを示す軸に対して、８８．０９度まで、データの定常性の角度を検出することができる。
【０４９３】
画素選択部４１１−１は、選択した画素の組を推定誤差算出部４１２−１に供給し、画素選択部４１１−２は、選択した画素の組を推定誤差算出部４１２−２に供給する。同様に、画素選択部４１１−３乃至画素選択部４１１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４１２−３乃至推定誤差算出部４１２−Ｌのそれぞれに供給する。
【０４９４】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。例えば、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、相関を示す値として、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出する。
【０４９５】
より具体的には、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の左側の縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、最も上の画素の画素値の差分を算出し、上から２番目の画素の画素値の差分を算出するように、上の画素から順に画素値の差分の絶対値を算出して、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の左に２つめの縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、上の画素から順に画素値の差分の絶対値を算出して、算出された差分の絶対値の和を算出する。
【０４９６】
そして、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の右側の縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、最も上の画素の画素値の差分を算出し、上から２番目の画素の画素値の差分を算出するように、上の画素から順に画素値の差分の絶対値を算出して、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、注目画素を含む組の画素の画素値と、注目画素の右に２つめの縦に１列の画素の列に属する画素からなる組の画素の画素値とを基に、上の画素から順に画素値の差分の絶対値を算出して、算出された差分の絶対値の和を算出する。
【０４９７】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、このように算出された画素値の差分の絶対値の和を全て加算して、画素値の差分の絶対値の総和を算出する。
【０４９８】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。例えば、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、算出された画素値の差分の絶対値の総和を最小誤差角度選択部４１３に供給する。
【０４９９】
なお、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素値の差分の絶対値の和に限らず、画素値の差分の自乗の和、または画素値を基にした相関係数など他の値を相関値として算出するようにすることができる。
【０５００】
最小誤差角度選択部４１３は、互いに異なる角度についての、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌにおいて検出された相関に基いて、欠落した実世界１の光信号である画像の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。すなわち、最小誤差角度選択部４１３は、互いに異なる角度についての、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌにおいて検出された相関に基いて、最も強い相関を選択し、選択された相関が検出された角度を、基準軸を基準としたデータの定常性の角度とすることにより、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。
【０５０１】
例えば、最小誤差角度選択部４１３は、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌから供給された、画素値の差分の絶対値の総和のうち、最小の総和を選択する。最小誤差角度選択部４１３は、選択された総和が算出された画素の組について、注目画素に対して、左側に２つめの縦に１列の画素の列に属する画素であって、直線に最も近い位置の画素の位置、および、注目画素に対して、右側に２つめの縦に１列の画素の列に属する画素であって、直線に最も近い位置の画素の位置を参照する。
【０５０２】
図７７で示されるように、最小誤差角度選択部４１３は、注目画素の位置に対する、参照する画素の位置の縦方向の距離Sを求める。最小誤差角度選択部４１３は、図７８で示すように、式（２９）から、欠落した実世界１の光信号の定常性に対応する、画像データである入力画像における、基準軸である空間方向Ｘを示す軸を基準としたデータの定常性の角度θを検出する。
【０５０３】
θ=tan^-1(s/2) ・・・（２９）
【０５０４】
次に、アクティビティ情報で示される、データの定常性の角度が０度乃至４５度および１３５度乃至１８０度のいずれかの値であるときの画素選択部４１１−１乃至画素選択部４１１−Ｌの処理を説明する。
【０５０５】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、空間方向Ｘを示す軸を基準軸として、注目画素を通る、所定の角度の直線を設定し、注目画素が属する横に１列の画素の列に属する画素であって、注目画素の上側の所定の数の画素、および注目画素の下側の所定の数の画素、並びに注目画素を画素の組として選択する。
【０５０６】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側の横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側の横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５０７】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側に２つめの横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、上側に２つめの横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５０８】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側の横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側の横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５０９】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側に２つめの横に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択する。そして、画素選択部４１１−１乃至画素選択部４１１−Ｌは、注目画素が属する横に１列の画素の列の、下側に２つめの横に１列の画素の列に属する画素であって、選択された画素の左側の所定の数の画素、および選択された画素の右側の所定の数の画素、並びに選択された画素を画素の組として選択する。
【０５１０】
このように、画素選択部４１１−１乃至画素選択部４１１−Ｌは、それぞれ、画素の組を５つ選択する。
【０５１１】
画素選択部４１１−１乃至画素選択部４１１−Ｌは、互いに異なる角度についての、画素の組を選択する。例えば、画素選択部４１１−１は、０度についての、画素の組を選択し、画素選択部４１１−２は、２．５度についての、画素の組を選択し、画素選択部４１１−３は、５度についての、画素の組を選択する。画素選択部４１１−１乃至画素選択部４１１−Ｌは、７．５度から４５度および１３５度から１８０度までの、２．５度毎の角度についての、画素の組を選択する。
【０５１２】
画素選択部４１１−１は、選択した画素の組を推定誤差算出部４１２−１に供給し、画素選択部４１１−２は、選択した画素の組を推定誤差算出部４１２−２に供給する。同様に、画素選択部４１１−３乃至画素選択部４１１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４１２−３乃至推定誤差算出部４１２−Ｌのそれぞれに供給する。
【０５１３】
推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、画素選択部４１１−１乃至画素選択部４１１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。
【０５１４】
最小誤差角度選択部４１３は、推定誤差算出部４１２−１乃至推定誤差算出部４１２−Ｌにおいて検出された相関に基いて、欠落した実世界１の光信号である画像の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。
【０５１５】
次に、図７９のフローチャートを参照して、ステップＳ１０１の処理に対応する、図７２で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０５１６】
ステップＳ４０１において、アクティビティ検出部４０１およびデータ選択部４０２は、入力画像から、注目している画素である注目画素を選択する。アクティビティ検出部４０１およびデータ選択部４０２は、同一の注目画素を選択する。例えば、アクティビティ検出部４０１およびデータ選択部４０２は、入力画像から、ラスタスキャン順に、注目画素を選択する。
【０５１７】
ステップＳ４０２において、アクティビティ検出部４０１は、注目画素に対するアクティビティを検出する。例えば、アクティビティ検出部４０１は、注目画素を中心とした所定の数の画素からなるブロックの縦方向に並ぶ画素の画素値の差分および横方向に並ぶ画素の画素値の差分を基に、アクティビティを検出する。
【０５１８】
アクティビティ検出部４０１は、注目画素に対する空間方向のアクティビティを検出して、検出した結果を示すアクティビティ情報をデータ選択部４０２および定常方向導出部４０４に供給する。
【０５１９】
ステップＳ４０３において、データ選択部４０２は、注目画素を含む画素の列から、注目画素を中心とした所定の数の画素を、画素の組として選択する。例えば、データ選択部４０２は、注目画素が属する縦または横に１列の画素の列に属する画素であって、注目画素の上側または左側の所定の数の画素、および注目画素の下側または右側の所定の数の画素、並びに注目画素を画素の組として選択する。
【０５２０】
ステップＳ４０４において、データ選択部４０２は、ステップＳ４０２の処理で検出されたアクティビティを基にした、所定の範囲の角度毎に、所定の数の画素の列から、それぞれ所定の数の画素を、画素の組として選択する。例えば、データ選択部４０２は、所定の範囲の角度を有し、空間方向Ｘを示す軸を基準軸として、注目画素を通る直線を設定し、注目画素に対して、横方向または縦方向に１列または２列離れた画素であって、直線に最も近い画素を選択し、選択された画素の上側または左側の所定の数の画素、および選択された画素の下側または右側の所定の数の画素、並びに線に最も近い選択された画素を画素の組として選択する。データ選択部４０２は、角度毎に、画素の組を選択する。
【０５２１】
データ選択部４０２は、選択した画素の組を誤差推定部４０３に供給する。
【０５２２】
ステップＳ４０５において、誤差推定部４０３は、注目画素を中心とした画素の組と、角度毎に選択した画素の組との相関を計算する。例えば、誤差推定部４０３は、角度毎に、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出する。
【０５２３】
角度毎に選択された、画素の組の相互の相関を基に、データの定常性の角度を検出するようにしてもよい。
【０５２４】
誤差推定部４０３は、算出された相関を示す情報を、定常方向導出部４０４に供給する。
【０５２５】
ステップＳ４０６において、定常方向導出部４０４は、ステップＳ４０５の処理で算出された相関を基に、相関が最も強い画素の組の位置から、欠落した実世界１の光信号の定常性に対応する、画像データである入力画像における、基準軸を基準としたデータの定常性の角度を検出する。例えば、定常方向導出部４０４は、画素値の差分の絶対値の総和のうち、最小の総和を選択し、選択された総和が算出された画素の組の位置から、データの定常性の角度θを検出する。
【０５２６】
定常方向導出部４０４は、検出したデータの定常性の角度を示すデータ定常性情報を出力する。
【０５２７】
ステップＳ４０７において、データ選択部４０２は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ４０１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０５２８】
ステップＳ４０７において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０５２９】
このように、データ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出することができる。
【０５３０】
なお、図７２で構成が示されるデータ検出部１０１は、注目しているフレームである注目フレームの、注目している画素である注目画素について、入力画像の空間方向のアクティビティを検出し、検出されたアクティビティに応じて、注目画素および空間方向の基準軸を基準とした角度、並びに動きベクトル毎に、注目フレームおよび注目フレームの時間的に前または後ろのフレームのそれぞれから、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組を、複数抽出し、抽出された画素の組の相関を検出し、相関に基づいて、入力画像における、時間方向および空間方向のデータの定常性の角度を検出するようにしてもよい。
【０５３１】
例えば、図８０に示すように、データ選択部４０２は、検出されたアクティビティに応じて、注目画素および空間方向の基準軸を基準とした角度、並びに動きベクトル毎に、注目フレームであるフレーム#n、フレーム#n-1、およびフレーム#n+1のそれぞれから、垂直方向に１列または水平方向に１列の所定の数の画素からなる画素の組を、複数抽出する。
【０５３２】
フレーム#n-1は、フレーム#nに対して時間的に前のフレームであり、フレーム#n+1は、フレーム#nに対して時間的に後のフレームである。すなわち、フレーム#n-1、フレーム#n、およびフレーム#n+1は、フレーム#n-1、フレーム#n、およびフレーム#n+1の順で表示される。
【０５３３】
誤差推定部４０３は、抽出した画素からなる複数の組について、１つの角度および１つの動きベクトル毎に、画素の組の相関を検出する。定常方向導出部４０４は、画素の組の相関に基づいて、欠落した実世界１の光信号の定常性に対応する、入力画像における、時間方向および空間方向のデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。
【０５３４】
図８１は、図７２に示すデータ定常性検出部１０１のより詳細な他の構成を示すブロック図である。図７６に示す場合と同様の部分には、同一の番号を付してあり、その説明は省略する。
【０５３５】
データ選択部４０２は、画素選択部４２１−１乃至画素選択部４２１−Ｌを含む。誤差推定部４０３は、推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌを含む。
【０５３６】
図８１で示すデータ定常性検出部１０１においては、角度の範囲に対する数の画素からなる、画素の組であって、角度の範囲に対する数の組が抽出されて、抽出された画素の組の相関が検出され、検出された相関に基づいて、入力画像における、基準軸を基準としたデータの定常性の角度が検出される。
【０５３７】
まず、アクティビティ情報で示される、データの定常性の角度が４５度乃至１３５度のいずれかの値であるときの画素選択部４２１−１乃至画素選択部４２１−Ｌの処理を説明する。
【０５３８】
図８２の左側に示すように、図７６で示されるデータ定常性検出部１０１においては、設定された直線の角度によらず、一定の数の画素からなる画素の組が抽出されるのに対して、図８１で示されるデータ定常性検出部１０１においては、図８２の右側に示すように、設定された直線の角度の範囲に応じた数の画素からなる画素の組が抽出される。また、図８１で示されるデータ定常性検出部１０１においては、画素の組が、設定された直線の角度の範囲に応じた数だけ抽出される。
【０５３９】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、４５度乃至１３５度の範囲の、空間方向Ｘを示す軸を基準軸として、注目画素を通る、それぞれ互いに異なる所定の角度の直線を設定する。
【０５４０】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する縦に１列の画素の列に属する画素であって、それぞれに設定された直線の角度の範囲に応じた数の、注目画素の上側の画素、および注目画素の下側の画素、並びに注目画素を画素の組として選択する。
【０５４１】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する縦に１列の画素の列に対して、画素を基準とした横方向に所定の距離にある、左側および右側の縦に１列の画素の列に属する画素であって、それぞれに設定された直線に最も近い位置の画素を選択し、選択された画素に対して縦に１列の画素から、設定された直線の角度の範囲に応じた数の、選択された画素の上側の画素、および選択された画素の下側の画素、並びに選択された画素を画素の組として選択する。
【０５４２】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の画素を、画素の組として選択する。画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の、画素の組を選択する。
【０５４３】
例えば、空間方向Ｘに対してほぼ４５度の角度に位置する、検出素子の検出領域の幅とほぼ同じ幅の細線の画像がセンサ２で撮像された場合、細線の画像は、空間方向Ｙに１列に並ぶ３つの画素に円弧形状が形成されるように、データ３に射影される。これに対して、空間方向Ｘに対してほぼ垂直に位置する、検出素子の検出領域の幅とほぼ同じ幅の細線の画像がセンサ２で撮像された場合、細線の画像は、空間方向Ｙに１列に並ぶ、多数の画素に円弧形状が形成されるように、データ３に射影される。
【０５４４】
画素の組に同じ数の画素が含まれるとすると、細線が空間方向Ｘに対してほぼ４５度の角度に位置する場合、画素の組において、細線の画像が射影された画素の数が少なくなり、分解能が低下することになる。逆に、細線が空間方向Ｘに対してほぼ垂直に位置する場合、画素の組において、細線の画像が射影された画素のうちの、一部の画素について処理が実行されることになり、正確さが低下する恐れがある。
【０５４５】
そこで、細線の画像が射影された画素がほぼ同等になるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定する直線が空間方向Ｘに対して４５度の角度により近いとき、それぞれ画素の組に含まれる画素の数を少なくして、画素の組の数を多くし、設定する直線が空間方向Ｘに対して垂直により近い場合、それぞれの画素の組に含まれる画素の数を多くして、画素の組の数を少なくするように、画素および画素の組を選択する。
【０５４６】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、４５度以上６３．４度未満の範囲（図８３および図８４において、Ａで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした５つの画素を画素の組として選択すると共に、注目画素に対して、横方向に５画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、５つの画素を画素の組として選択する。
【０５４７】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、４５度以上６３．４度未満の範囲にあるとき、入力画像から、それぞれ５つの画素からなる、１１の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素は、注目画素に対して、縦方向に５画素乃至９画素離れた位置にある。
【０５４８】
図８４において、列の数は、注目画素の左側または右側の、画素の組として画素が選択される画素の列の数を示す。図８４において、１列の画素の数は、注目画素に対して、縦に１列の画素の列、または注目画素の左側または右側の列から、画素の組として選択される画素の数を示す。図８４において、画素の選択範囲は、注目画素に対する、設定された直線に最も近い位置の画素として、選択される画素の縦方向の位置を示す。
【０５４９】
図８５で示されるように、例えば、画素選択部４２１−１は、設定された直線の角度が、４５度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした５つの画素を画素の組として選択すると共に、注目画素に対して、横方向に５画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、５つの画素を画素の組として選択する。すなわち、画素選択部４２１−１は、入力画像から、それぞれ５つの画素からなる、１１の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に５画素離れた位置にある。
【０５５０】
なお、図８５乃至図９２において、点線で表された四角（点線で仕切られた１つのマス目）は、１つの画素を示し、実線で表された四角は、画素の組を示す。図８５乃至図９２において、注目画素の空間方向Ｘの座標を０とし、注目画素の空間方向Ｙの座標を０とした。
【０５５１】
また、図８５乃至図９２において、斜線で表された四角は、注目画素または設定された直線に最も近い位置の画素を示す。図８５乃至図９２において、太線で表された四角は、注目画素を中心として選択された画素の組を示す。
【０５５２】
図８６で示されるように、例えば、画素選択部４２１−２は、設定された直線の角度が、６０．９度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした５つの画素を画素の組として選択すると共に、注目画素に対して、横方向に５画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、５つの画素を画素の組として選択する。すなわち、画素選択部４２１−２は、入力画像から、それぞれ５つの画素からなる、１１の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に９画素離れた位置にある。
【０５５３】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、６３．４度以上７１．６度未満の範囲（図８３および図８４において、Ｂで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした７つの画素を画素の組として選択すると共に、注目画素に対して、横方向に４画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、７つの画素を画素の組として選択する。
【０５５４】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、６３．４度以上７１．６度未満の範囲囲にあるとき、入力画像から、それぞれ７つの画素からなる、９つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素の縦方向の位置は、注目画素に対して、８画素乃至１１画素である。
【０５５５】
図８７で示されるように、例えば、画素選択部４２１−３は、設定された直線の角度が、６３．４度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした７つの画素を画素の組として選択すると共に、注目画素に対して、横方向に４画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、７つの画素を画素の組として選択する。すなわち、画素選択部４２１−３は、入力画像から、それぞれ７つの画素からなる、９つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に８画素離れた位置にある。
【０５５６】
また、図８８で示されるように、例えば、画素選択部４２１−４は、設定された直線の角度が、７０．０度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした７つの画素を画素の組として選択すると共に、注目画素に対して、横方向に４画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、７つの画素を画素の組として選択する。すなわち、画素選択部４２１−４は、入力画像から、それぞれ７つの画素からなる、９つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に１１画素離れた位置にある。
【０５５７】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７１．６度以上７６．０度未満の範囲（図８３および図８４において、Ｃで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした９つの画素を画素の組として選択すると共に、注目画素に対して、横方向に３画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、９つの画素を画素の組として選択する。
【０５５８】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７１．６度以上７６．０度未満の範囲にあるとき、入力画像から、それぞれ９つの画素からなる、７つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素の縦方向の位置は、注目画素に対して、９画素乃至１１画素である。
【０５５９】
図８９で示されるように、例えば、画素選択部４２１−５は、設定された直線の角度が、７１．６度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした９つの画素を画素の組として選択すると共に、注目画素に対して、横方向に３画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、９つの画素を画素の組として選択する。すなわち、画素選択部４２１−５は、入力画像から、それぞれ９つの画素からなる、７つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に９画素離れた位置にある。
【０５６０】
また、図９０で示されるように、例えば、画素選択部４２１−６は、設定された直線の角度が、７４．７度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした９つの画素を画素の組として選択すると共に、注目画素に対して、横方向に３画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、９つの画素を画素の組として選択する。すなわち、画素選択部４２１−６は、入力画像から、それぞれ９つの画素からなる、７つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に１１画素離れた位置にある。
【０５６１】
例えば、図８３および図８４で示されるように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７６．０度以上８７．７度以下の範囲（図８３および図８４において、Ｄで示す範囲）にあるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした１１の画素を画素の組として選択すると共に、注目画素に対して、横方向に２画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、１１の画素を画素の組として選択する。すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度が、７６．０度以上８７．７度以下の範囲にあるとき、入力画像から、それぞれ１１の画素からなる、５つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素の縦方向の位置は、注目画素に対して、８画素乃至５０画素である。
【０５６２】
図９１で示されるように、例えば、画素選択部４２１−７は、設定された直線の角度が、７６．０度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした１１の画素を画素の組として選択すると共に、注目画素に対して、横方向に２画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、１１の画素を画素の組として選択する。すなわち、画素選択部４２１−７は、入力画像から、それぞれ１１の画素からなる、５つの画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に８画素離れた位置にある。
【０５６３】
また、図９２で示されるように、例えば、画素選択部４２１−８は、設定された直線の角度が、８７．７度であるとき、注目画素に対して、縦に１列の画素の列から、注目画素を中心とした１１の画素を画素の組として選択すると共に、注目画素に対して、横方向に２画素以内の距離にある、左側および右側の縦に１列の画素の列に属する画素から、それぞれ、１１の画素を画素の組として選択する。すなわち、画素選択部４２１−８は、入力画像から、それぞれ１１の画素からなる、５の画素の組を選択する。この場合において、設定された直線に最も近い位置の画素として、選択される画素のうち、注目画素から最も遠い位置にある画素は、注目画素に対して、縦方向に５０画素離れた位置にある。
【０５６４】
このように、画素選択部４２１−１乃至画素選択部４２１−Ｌは、それぞれ、角度の範囲に対応した所定の数の画素からなる、角度の範囲に対応した所定の数の画素の組を選択する。
【０５６５】
画素選択部４２１−１は、選択した画素の組を推定誤差算出部４２２−１に供給し、画素選択部４２１−２は、選択した画素の組を推定誤差算出部４２２−２に供給する。同様に、画素選択部４２１−３乃至画素選択部４２１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４２２−３乃至推定誤差算出部４２２−Ｌのそれぞれに供給する。
【０５６６】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、画素選択部４２１−１乃至画素選択部４２１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。例えば、推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、画素選択部４２１−１乃至画素選択部４２１−Ｌのいずれかから供給された、注目画素を含む画素の組の画素の画素値と、他の画素の組における対応する位置の画素の画素値の差分の絶対値の和を算出し、注目画素を含む画素の組以外の画素の組に含まれる画素の数で、算出された和を割り算する。算出された和を、注目画素を含む組以外の組に含まれる画素の数で、割り算するのは、設定された直線の角度に応じて選択される画素の数が異なるので、相関を示す値を正規化するためである。
【０５６７】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。例えば、推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、正規化された画素値の差分の絶対値の和を最小誤差角度選択部４１３に供給する。
【０５６８】
次に、アクティビティ情報で示される、データの定常性の角度が０度乃至４５度および１３５度乃至１８０度のいずれかの値であるときの画素選択部４２１−１乃至画素選択部４２１−Ｌの処理を説明する。
【０５６９】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、０度乃至４５度または１３５度乃至１８０度の範囲の、空間方向Ｘを示す軸を基準軸として、注目画素を通る、それぞれ互いに異なる所定の角度の直線を設定する。
【０５７０】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する横に１列の画素の列に属する画素であって、設定された直線の角度の範囲に応じた数の、注目画素の左側の画素、および注目画素の右側の画素、並びに注目画素を画素の組として選択する。
【０５７１】
画素選択部４２１−１乃至画素選択部４２１−Ｌは、注目画素が属する横に１列の画素の列に対して、画素を基準とした縦方向に所定の距離にある、上側および下側の横に１列の画素の列に属する画素であって、設定された直線に最も近い位置の画素を選択し、選択された画素に対して横に１列の画素から、設定された直線の角度の範囲に応じた数の、選択された画素の左側の画素、および選択された画素の右側の画素、並びに選択された画素を画素の組として選択する。
【０５７２】
すなわち、画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の画素を、画素の組として選択する。画素選択部４２１−１乃至画素選択部４２１−Ｌは、設定された直線の角度の範囲に応じた数の、画素の組を選択する。
【０５７３】
画素選択部４２１−１は、選択した画素の組を推定誤差算出部４２２−１に供給し、画素選択部４２１−２は、選択した画素の組を推定誤差算出部４２２−２に供給する。同様に、画素選択部４２１−３乃至画素選択部４２１−Ｌのそれぞれは、選択した画素の組を推定誤差算出部４２２−３乃至推定誤差算出部４２２−Ｌのそれぞれに供給する。
【０５７４】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、画素選択部４２１−１乃至画素選択部４２１−Ｌのいずれかから供給された、複数の組における対応する位置の画素の画素値の相関を検出する。
【０５７５】
推定誤差算出部４２２−１乃至推定誤差算出部４２２−Ｌは、検出された相関を示す情報を、最小誤差角度選択部４１３に供給する。
【０５７６】
次に、図９３のフローチャートを参照して、ステップＳ１０１の処理に対応する、図８１で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０５７７】
ステップＳ４２１およびステップＳ４２２の処理は、ステップＳ４０１およびステップＳ４０２の処理と同様なので、その説明は省略する。
【０５７８】
ステップＳ４２３において、データ選択部４０２は、ステップＳ４２２の処理で検出されたアクティビティに対する所定の範囲の角度毎に、注目画素を含む画素の列から、注目画素を中心とした、角度の範囲に対して定めた数の画素を、画素の組として選択する。例えば、データ選択部４０２は、注目画素が属する縦または横に１列の画素の列に属する画素であって、設定する直線の角度に対して、角度の範囲により定めた数の、注目画素の上側または左側の画素、および注目画素の下側または右側の画素、並びに注目画素を画素の組として選択する。
【０５７９】
ステップＳ４２４において、データ選択部４０２は、ステップＳ４２２の処理で検出されたアクティビティを基にした、所定の範囲の角度毎に、角度の範囲に対して定めた数の画素の列から、角度の範囲に対して定めた数の画素を、画素の組として選択する。例えば、データ選択部４０２は、所定の範囲の角度を有し、空間方向Ｘを示す軸を基準軸として、注目画素を通る直線を設定し、注目画素に対して、横方向または縦方向に、設定する直線の角度の範囲に対して所定の範囲だけ離れた画素であって、直線に最も近い画素を選択し、選択された画素の上側または左側の、設定する直線の角度の範囲に対する数の画素、および選択された画素の下側または右側の、設定する直線の角度の範囲に対する数の画素、並びに選択された線に最も近い画素を画素の組として選択する。データ選択部４０２は、角度毎に、画素の組を選択する。
【０５８０】
データ選択部４０２は、選択した画素の組を誤差推定部４０３に供給する。
【０５８１】
ステップＳ４２５において、誤差推定部４０３は、注目画素を中心とした画素の組と、角度毎に選択した画素の組との相関を計算する。例えば、誤差推定部４０３は、注目画素を含む組の画素の画素値と、他の組における対応する位置の画素の画素値の差分の絶対値の和を算出し、他の組に属する画素の数で、画素値の差分の絶対値の和を割り算することにより、相関を計算する。
【０５８２】
角度毎に選択された、画素の組の相互の相関を基に、データの定常性の角度を検出するようにしてもよい。
【０５８３】
誤差推定部４０３は、算出された相関を示す情報を、定常方向導出部４０４に供給する。
【０５８４】
ステップＳ４２６およびステップＳ４２７の処理は、ステップＳ４０６およびステップＳ４０７の処理と同様なので、その説明は省略する。
【０５８５】
このように、データ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を、より正確に、より精度良く検出することができる。図８１に構成を示すデータ定常性検出部１０１は、特に、データの定常性の角度が４５度付近である場合において、細線の画像が射影された、より多くの画素の相関を評価することができるので、より精度良くデータの定常性の角度を検出することができる。
【０５８６】
なお、図８１で構成が示されるデータ定常性検出部１０１においても、注目しているフレームである注目フレームの、注目している画素である注目画素について、入力画像の空間方向のアクティビティを検出し、検出されたアクティビティに応じて、注目画素および空間方向の基準軸を基準とした角度、並びに動きベクトル毎に、注目フレームおよび注目フレームの時間的に前または後ろのフレームのそれぞれから、垂直方向に１列または水平方向に１列の、空間的な角度の範囲に対して定めた数の画素からなる画素の組を、空間的な角度の範囲に対して定めた数だけ抽出し、抽出された画素の組の相関を検出し、相関に基づいて、入力画像における、時間方向および空間方向のデータの定常性の角度を検出するようにしてもよい。
【０５８７】
図９４は、データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【０５８８】
図９４に構成を示すデータ定常性検出部１０１においては、注目している画素である注目画素について、所定の数の画素からなる、注目画素を中心としたブロックと、注目画素の周辺の、それぞれ、所定の数の画素からなる複数のブロックが抽出され、注目画素を中心としたブロックと周辺のブロックとの相関が検出され、相関に基づいて、入力画像における、基準軸を基準としたデータの定常性の角度が検出される。
【０５８９】
データ選択部４４１は、入力画像の画素から注目画素を順に選択し、注目画素を中心とした、所定の数の画素からなるブロック、および、注目画素の周辺の、所定の数の画素からなる複数のブロックを抽出し、抽出したブロックを誤差推定部４４２に供給する。
【０５９０】
例えば、データ選択部４４１は、注目画素を中心とした５×５画素からなるブロック、注目画素の周辺から、注目画素および基準軸を基準とした所定の角度の範囲毎に、５×５画素からなる２つのブロックを抽出する。
【０５９１】
誤差推定部４４２は、データ選択部４４１から供給された、注目画素を中心としたブロックと、注目画素の周辺のブロックとの相関を検出して、検出した相関を示す相関情報を定常方向導出部４４３に供給する。
【０５９２】
例えば、誤差推定部４４２は、角度の範囲毎に、注目画素を中心とした５×５画素からなるブロックと、１つの角度の範囲に対応する、５×５画素からなる２つのブロックとについて、画素値の相関を検出する。
【０５９３】
定常性方向導出部４４３は、誤差推定部４４２から供給された相関情報に基いて、相関の最も強い、注目画素の周辺のブロックの位置から、欠落した実世界１の光信号の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。例えば、定常方向導出部４４３は、誤差推定部４４２から供給された相関情報に基いて、注目画素を中心とした５×５画素からなるブロックに対して最も相関の強い、５×５画素からなる２つのブロックに対する角度の範囲を、データの定常性の角度として検出し、検出された角度を示すデータ定常性情報を出力する。
【０５９４】
図９５は、図９４に示すデータ定常性検出部１０１のより詳細な構成を示すブロック図である。
【０５９５】
データ選択部４４１は、画素選択部４６１−１乃至画素選択部４６１−Ｌを含む。誤差推定部４４２は、推定誤差算出部４６２−１乃至推定誤差算出部４６２−Ｌを含む。定常方向導出部４４３は、最小誤差角度選択部４６３を含む。
【０５９６】
例えば、データ選択部４４１には、画素選択部４６１−１乃至画素選択部４６１−８が設けられる。例えば、誤差推定部４４２には、推定誤差算出部４６２−１乃至推定誤差算出部４６２−８が設けられる。
【０５９７】
画素選択部４６１−１乃至画素選択部４６１−Ｌのそれぞれは、注目画素を中心とした、所定の数の画素からなるブロック、並びに注目画素および基準軸を基準とした所定の角度の範囲に対応した、所定の数の画素からなる２つのブロックを抽出する。
【０５９８】
図９６は、画素選択部４６１−１乃至画素選択部４６１−Ｌにより抽出される、５×５画素のブロックの例を説明する図である。図９６における中央の位置は、注目画素の位置を示す。
【０５９９】
なお、５×５画素のブロックは、一例であって、ブロックに含まれる画素の数は、本発明を限定するものではない。
【０６００】
例えば、画素選択部４６１−１は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲に対応した、注目画素に対して、右側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ａで示す）を抽出し、注目画素に対して、左側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ａ’で示す）を抽出する。画素選択部４６１−１は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−１に供給する。
【０６０１】
画素選択部４６１−２は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１８．４度乃至３３．７度の範囲に対応した、注目画素に対して、右側に１０画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｂで示す）を抽出し、注目画素に対して、左側に１０画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｂ’で示す）を抽出する。画素選択部４６１−２は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−２に供給する。
【０６０２】
画素選択部４６１−３は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、３３．７度乃至５６．３度の範囲に対応した、注目画素に対して、右側に５画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｃで示す）を抽出し、注目画素に対して、左側に５画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｃ’で示す）を抽出する。画素選択部４６１−３は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−３に供給する。
【０６０３】
画素選択部４６１−４は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、５６．３度乃至７１．６度の範囲に対応した、注目画素に対して、右側に５画素移動し、上側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｄで示す）を抽出し、注目画素に対して、左側に５画素移動し、下側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｄ’で示す）を抽出する。画素選択部４６１−４は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−４に供給する。
【０６０４】
画素選択部４６１−５は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、７１．６度乃至１０８．４度の範囲に対応した、注目画素に対して、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｅで示す）を抽出し、注目画素に対して、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｅ’で示す）を抽出する。画素選択部４６１−５は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−５に供給する。
【０６０５】
画素選択部４６１−６は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１０８．４度乃至１２３．７度の範囲に対応した、注目画素に対して、左側に５画素移動し、上側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｆで示す）を抽出し、注目画素に対して、右側に５画素移動し、下側に１０画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｆ’で示す）を抽出する。画素選択部４６１−６は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−６に供給する。
【０６０６】
画素選択部４６１−７は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１２３．７度乃至１４６．３度の範囲に対応した、注目画素に対して、左側に５画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｇで示す）を抽出し、注目画素に対して、右側に５画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｇ’で示す）を抽出する。画素選択部４６１−７は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−７に供給する。
【０６０７】
画素選択部４６１−８は、注目画素を中心とした、５×５画素のブロックを抽出すると共に、１４６．３度乃至１６１．６度の範囲に対応した、注目画素に対して、左側に１０画素移動し、上側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｈで示す）を抽出し、注目画素に対して、右側に１０画素移動し、下側に５画素移動した位置にある画素を中心とした、５×５画素のブロック（図９６中Ｈ’で示す）を抽出する。画素選択部４６１−８は、抽出した、５×５画素の３つのブロックを推定誤差算出部４６２−８に供給する。
【０６０８】
以下、注目画素を中心とした、所定の数の画素からなるブロックを注目ブロックと称する。
【０６０９】
以下、注目画素および基準軸を基準とした所定の角度の範囲に対応した、所定の数の画素からなるブロックを参照ブロックと称する。
【０６１０】
このように、画素選択部４６１−１乃至画素選択部４６１−８は、例えば、注目画素を中心として、２５×２５画素の範囲から、注目ブロックおよび参照ブロックを抽出する。
【０６１１】
推定誤差算出部４６２−１乃至推定誤差算出部４６２−Ｌは、画素選択部４６１−１乃至画素選択部４６１−Ｌから供給された、注目ブロックと、２つの参照ブロックとの相関を検出して、検出した相関を示す相関情報を最小誤差角度選択部４６３に供給する。
【０６１２】
例えば、推定誤差算出部４６２−１は、注目画素を中心とした、５×５画素からなる注目ブロックと、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲に対応して抽出された、注目画素に対して、右側に５画素移動した位置にある画素を中心とした、５×５画素の参照ブロックとについて、注目ブロックに含まれる画素の画素値と、参照ブロックに含まれる画素の画素値との差分の絶対値を算出する。
【０６１３】
この場合において、推定誤差算出部４６２−１は、図９７に示されるように、注目ブロックの中央の画素と参照ブロックの中央の画素とが重なる位置を基準として、画素値の差分の絶対値の算出に、注目画素の画素値が使用されるように、参照ブロックに対して、注目ブロックの位置を、左側に２画素乃至右側に２画素のいずれか、上側に２画素乃至下側に２画素のいずれか移動させた場合に重なる位置となる画素の画素値の差分の絶対値を算出する。すなわち、注目ブロックと参照ブロックとの２５種類の位置における、対応する位置の画素の画素値の差分の絶対値が算出される。言い換えれば、画素値の差分の絶対値が算出される場合において、相対的に移動される注目ブロックおよび参照ブロックとからなる範囲は、９×９画素である。
【０６１４】
図９７において、四角は、画素を示し、Ａは、参照ブロックを示し、Ｂは、注目ブロックを示す。図９７において、太線は、注目画素を示す。すなわち、図９７は、参照ブロックに対して、注目ブロックが右側に２画素、および上側に１画素移動した場合の例を示す図である。
【０６１５】
さらに、推定誤差算出部４６２−１は、注目画素を中心とした、５×５画素からなる注目ブロックと、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲に対応して抽出された、注目画素に対して、左側に５画素移動した位置にある画素を中心とした、５×５画素の参照ブロックとについて、注目ブロックに含まれる画素の画素値と、参照ブロックに含まれる画素の画素値との差分の絶対値を算出する。
【０６１６】
そして、推定誤差算出部４６２−１は、算出された差分の絶対値の和を求めて、差分の絶対値の和を、相関を示す相関情報として最小誤差角度選択部４６３に供給する。
【０６１７】
推定誤差算出部４６２−２は、５×５画素からなる注目ブロックと、１８．４度乃至３３．７度の範囲に対応して抽出された、５×５画素の２つの参照ブロックとについて、画素値の差分の絶対値を算出し、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４６２−２は、算出された差分の絶対値の和を、相関を示す相関情報として最小誤差角度選択部４６３に供給する。
【０６１８】
同様に、推定誤差算出部４６２−３乃至推定誤差算出部４６２−８のそれぞれは、５×５画素からなる注目ブロックと、所定の角度の範囲に対応して抽出された、５×５画素の２つの参照ブロックとについて、画素値の差分の絶対値を算出し、さらに、算出された差分の絶対値の和を算出する。推定誤差算出部４６２−３乃至推定誤差算出部４６２−８のそれぞれは、算出された差分の絶対値の和を、相関を示す相関情報として最小誤差角度選択部４６３に供給する。
【０６１９】
最小誤差角度選択部４６３は、推定誤差算出部４６２−１乃至推定誤差算出部４６２−８から供給された、相関情報としての画素値の差分の絶対値の和のうち、最も強い相関を示す、最小の値が得られた参照ブロックの位置から、２つの参照ブロックに対する角度をデータの定常性の角度として検出し、検出された角度を示すデータ定常性情報を出力する。
【０６２０】
ここで、参照ブロックの位置と、データの定常性の角度の範囲との関係について説明する。
【０６２１】
実世界の信号を近似する近似関数f（x）をｎ次の１次元多項式で近似した場合、近似関数f（x）は、式（３０）で表すことができる。
【０６２２】
【数２１】

【０６２３】
近似関数f（x）で近似される実世界１の信号の波形が、空間方向Ｙに対して一定の傾き（角度）を有する場合、式（３０）における、xをx+γyとすることにより得られた式（３１）で、実世界１の信号を近似する近似関数（x,y）は、表現される。
【０６２４】
【数２２】

【０６２５】
γは、空間方向Ｙの位置の変化に対する、空間方向Ｘの位置の変化の割合を示す。以下、γをシフト量とも称する。
【０６２６】
図９８は、注目画素の位置と、角度θを有する直線との空間方向Ｘの距離を０としたとき、すなわち、注目画素を直線が通るときの、注目画素の周辺の画素の位置と、角度θを有する直線との空間方向Ｘの距離を示す図である。ここで、画素の位置は、画素の中心の位置である。また、位置と直線との距離は、位置が直線に対して左側にあるとき、負の値で示され、位置が直線に対して右側にあるとき、正の値で示される。
【０６２７】
例えば、注目画素の右側に隣接する画素の位置、すなわち空間方向Ｘの座標xが１増加する位置と、角度θを有する直線との空間方向Ｘの距離は、１であり、注目画素の左側に隣接する画素の位置、すなわち空間方向Ｘの座標xが１減少する位置と、角度θを有する直線との空間方向Ｘの距離は、−１である。注目画素の上側に隣接する画素の位置、すなわち空間方向Ｙの座標yが１増加する位置と、角度θを有する直線との空間方向Ｘの距離は、-γであり、注目画素の下側に隣接する画素の位置、すなわち空間方向Ｙの座標yが１減少する位置と、角度θを有する直線との空間方向Ｘの距離は、γである。
【０６２８】
角度θが４５度を超え、９０度未満であり、シフト量γが、０を超え、１未満であるとき、シフト量γと角度θとの間には、γ=1/tanθの関係式が成り立つ。図９９は、シフト量γと角度θとの関係を示す図である。
【０６２９】
ここで、シフト量γの変化に対する、注目画素の周辺の画素の位置と、注目画素を通り、角度θを有する直線との空間方向Ｘの距離の変化に注目する。
【０６３０】
図１００は、シフト量γに対する、注目画素の周辺の画素の位置と、注目画素を通り、角度θを有する直線との空間方向Ｘの距離を示す図である。図１００において、右上がりの一点鎖線は、シフト量γに対する、注目画素の下側に隣接する画素の位置と直線との空間方向Ｘの距離を示し、右下がりの一点鎖線は、シフト量γに対する、注目画素の上側に隣接する画素の位置と直線との空間方向Ｘの距離を示す。
【０６３１】
図１００において、右上がりの二点鎖線は、シフト量γに対する、注目画素から、２画素下側で、１画素左側に位置する画素の位置と直線との空間方向Ｘの距離を示し、右下がりの二点鎖線は、シフト量γに対する、注目画素から、２画素上側で、１画素右側に位置する画素の位置と直線との空間方向Ｘの距離を示す。
【０６３２】
図１００において、右上がりの三点鎖線は、シフト量γに対する、注目画素から、１画素下側で、１画素左側に位置する画素の位置と直線との空間方向Ｘの距離を示し、右下がりの三点鎖線は、シフト量γに対する、注目画素から、１画素上側で、１画素右側に位置する画素の位置と直線との空間方向Ｘの距離を示す。
【０６３３】
図１００から、シフト量γに対して、距離が最も小さい画素がわかる。
【０６３４】
すなわち、シフト量γが０乃至１／３であるとき、注目画素の上側に隣接する画素および注目画素の下側に隣接する画素から、直線までの距離が最小である。すなわち、角度θが７１．６度乃至９０度であるとき、注目画素の上側に隣接する画素および注目画素の下側に隣接する画素から、直線までの距離が最小である。
【０６３５】
シフト量γが１／３乃至２／３であるとき、注目画素に対して、２画素上側で、１画素右側に位置する画素、および注目画素に対して、２画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。すなわち、角度θが５６．３度乃至７１．６度であるとき、注目画素に対して、２画素上側で、１画素右側に位置する画素、および注目画素に対して、２画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。
【０６３６】
また、シフト量γが２／３乃至１であるとき、注目画素に対して、１画素上側で、１画素右側に位置する画素、および注目画素に対して、１画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。すなわち、角度θが４５度乃至５６．３度であるとき、注目画素に対して、１画素上側で、１画素右側に位置する画素、および注目画素に対して、１画素下側で、１画素左側に位置する画素から、直線までの距離が最小である。
【０６３７】
角度θが０度から４５度までの範囲の直線と画素との関係も、同様に考えることができる。
【０６３８】
図９８に示す画素を、注目ブロックおよび参照ブロックに置き換えて、参照ブロックと直線との空間方向Ｘの距離を考えることができる。
【０６３９】
図１０１に、注目画素を通り、空間方向Ｘの軸に対して角度θの直線との距離が最小の参照ブロックを示す。
【０６４０】
図１０１におけるＡ乃至ＨおよびＡ’乃至Ｈ’は、図９６におけるＡ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックを示す。
【０６４１】
すなわち、注目画素を通り、空間方向Ｘの軸を基準とした、０度乃至１８．４度および１６１．６度乃至１８０．０度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＡおよびＡ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＡおよびＡ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＡおよびＡ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、０度乃至１８．４度および１６１．６度乃至１８０．０度の範囲にあると言える。
【０６４２】
注目画素を通り、空間方向Ｘの軸を基準とした、１８．４度乃至３３．７度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＢおよびＢ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＢおよびＢ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＢおよびＢ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１８．４度乃至３３．７度の範囲にあると言える。
【０６４３】
注目画素を通り、空間方向Ｘの軸を基準とした、３３．７度乃至５６．３度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＣおよびＣ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＣおよびＣ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＣおよびＣ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、３３．７度乃至５６．３度の範囲にあると言える。
【０６４４】
注目画素を通り、空間方向Ｘの軸を基準とした、５６．３度乃至７１．６度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＤおよびＤ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＤおよびＤ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＤおよびＤ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、５６．３度乃至７１．６度の範囲にあると言える。
【０６４５】
注目画素を通り、空間方向Ｘの軸を基準とした、７１．６度乃至１０８．４度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＥおよびＥ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＥおよびＥ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＥおよびＥ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、７１．６度乃至１０８．４度の範囲にあると言える。
【０６４６】
注目画素を通り、空間方向Ｘの軸を基準とした、１０８．４度乃至１２３．７度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＦおよびＦ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＦおよびＦ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＦおよびＦ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１０８．４度乃至１２３．７度の範囲にあると言える。
【０６４７】
注目画素を通り、空間方向Ｘの軸を基準とした、１２３．７度乃至１４６．３度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＧおよびＧ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＧおよびＧ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＧおよびＧ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１２３．７度乃至１４６．３度の範囲にあると言える。
【０６４８】
注目画素を通り、空間方向Ｘの軸を基準とした、１４６．３度乃至１６１．６度のいずれかの角度θを有する直線と、Ａ乃至ＨおよびＡ’乃至Ｈ’の参照ブロックのそれぞれとの空間方向Ｘの距離のうち、直線とＨおよびＨ’の参照ブロックとの距離が最小となる。従って、逆に考えれば、注目ブロックと、ＨおよびＨ’の参照ブロックとの相関が最も強いとき、注目ブロックと、ＨおよびＨ’の参照ブロックとを結ぶ方向に、一定の特徴が繰り返し現れているので、データの定常性の角度は、１４６．３度乃至１６１．６度の範囲にあると言える。
【０６４９】
このように、データ定常性検出部１０１は、注目ブロックと参照ブロックとの相関を基に、データの定常性の角度を検出することができる。
【０６５０】
なお、図９４に構成を示すデータ定常性検出部１０１においては、データの定常性の角度の範囲をデータ定常性情報として出力するようにしても良く、データの定常性の角度の範囲を示す代表値をデータ定常性情報として出力するようにしても良い。例えば、データの定常性の角度の範囲の中央値を代表値とすることができる。
【０６５１】
さらに、図９４に構成を示すデータ定常性検出部１０１は、相関が最も強い参照ブロックの周辺の参照ブロックの相関を利用することにより、検出するデータの定常性の角度の範囲を１／２に、すなわち、検出するデータの定常性の角度の分解能を２倍にすることができる。
【０６５２】
例えば、注目ブロックと、ＥおよびＥ’の参照ブロックとの相関が最も強いとき、最小誤差角度選択部４６３は、図１０２で示されるように、注目ブロックに対する、ＤおよびＤ’の参照ブロックの相関と、注目ブロックに対する、ＦおよびＦ’の参照ブロックの相関とを比較する。注目ブロックに対する、ＤおよびＤ’の参照ブロックの相関が、注目ブロックに対する、ＦおよびＦ’の参照ブロックの相関に比較して、強い場合、最小誤差角度選択部４６３は、データの定常性の角度に、７１．６度乃至９０度の範囲を設定する。また、この場合、最小誤差角度選択部４６３は、データの定常性の角度に、代表値として８１度を設定するようにしてもよい。
【０６５３】
注目ブロックに対する、ＦおよびＦ’の参照ブロックの相関が、注目ブロックに対する、ＤおよびＤ’の参照ブロックの相関に比較して、強い場合、最小誤差角度選択部４６３は、データの定常性の角度に、９０度乃至１０８．４度の範囲を設定する。また、この場合、最小誤差角度選択部４６３は、データの定常性の角度に、代表値として９９度を設定するようにしてもよい。
【０６５４】
最小誤差角度選択部４６３は、同様の処理で、他の角度の範囲についても、検出するデータの定常性の角度の範囲を１／２にすることができる。
【０６５５】
尚、図１０２を参照して説明した手法を、簡易１６方位検出手法とも称する。
【０６５６】
このように、図９４に構成を示すデータ定常性検出部１０１は、簡単な処理で、より範囲の狭い、データの定常性の角度を検出することができる。
【０６５７】
次に、図１０３のフローチャートを参照して、ステップＳ１０１の処理に対応する、図９４で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０６５８】
ステップＳ４４１において、データ選択部４４１は、入力画像から、注目している画素である注目画素を選択する。例えば、データ選択部４４１は、入力画像から、ラスタスキャン順に、注目画素を選択する。
【０６５９】
ステップＳ４４２において、データ選択部４４１は、注目画素を中心とする所定の数の画素からなる注目ブロックを選択する。例えば、データ選択部４４１は、注目画素を中心とする５×５画素からなる注目ブロックを選択する。
【０６６０】
ステップＳ４４３において、データ選択部４４１は、注目画素の周辺の所定の位置の所定の数の画素からなる参照ブロックを選択する。例えば、データ選択部４４１は、注目画素および基準軸を基準とした所定の角度の範囲毎に、注目ブロックの大きさを基準とした、所定の位置の画素を中心とする５×５画素からなる参照ブロックを選択する。
【０６６１】
データ選択部４４１は、注目ブロックおよび参照ブロックを誤差推定部４４２に供給する。
【０６６２】
ステップＳ４４４において、誤差推定部４４２は、注目画素および基準軸を基準とした所定の角度の範囲毎に、注目ブロックと、角度の範囲に対応した参照ブロックとの相関を計算する。誤差推定部４４２は、算出された相関を示す相関情報を定常方向導出部４４３に供給する。
【０６６３】
ステップＳ４４５において、定常方向導出部４４３は、注目ブロックに対して、相関が最も強い参照ブロックの位置から、欠落した実世界１の光信号である画像の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。
【０６６４】
定常方向導出部４４３は、検出したデータの定常性の角度を示すデータ定常性情報を出力する。
【０６６５】
ステップＳ４４６において、データ選択部４４１は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ４４１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０６６６】
ステップＳ４４６において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０６６７】
このように、図９４に構成を示すデータ定常性検出部１０１は、より簡単な処理で、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出することができる。また、図９４に構成を示すデータ定常性検出部１０１は、入力画像の中の、比較的狭い範囲の画素の画素値を使用して、データの定常性の角度を検出することができるので、入力画像にノイズ等が含まれていても、より正確にデータの定常性の角度を検出することができる。
【０６６８】
なお、図９４で構成が示されるデータ検出部１０１は、注目しているフレームである注目フレームの、注目している画素である注目画素について、注目フレームから、所定の数の画素からなる、注目画素を中心としたブロックと、注目画素の周辺の、それぞれ、所定の数の画素からなる複数のブロックとを抽出すると共に、注目フレームに対して時間的に前または後ろのフレームから、所定の数の画素からなる、注目画素に対応する位置の画素を中心としたブロックと、注目画素に対応する位置の画素の周辺の、それぞれ、所定の数の画素からなる複数のブロックとを抽出し、注目画素を中心としたブロックと空間的または時間的に周辺のブロックとの相関を検出し、相関に基づいて、入力画像における、時間方向および空間方向のデータの定常性の角度を検出するようにしてもよい。
【０６６９】
例えば、図１０４に示すように、データ選択部４４１は、注目フレームであるフレーム#nから注目画素を順に選択し、フレーム#nから、注目画素を中心とした、所定の数の画素からなるブロック、および、注目画素の周辺の、所定の数の画素からなる複数のブロックを抽出する。また、データ選択部４４１は、フレーム#n-1およびフレーム#n+1のそれぞれから、注目画素の位置に対応する位置の画素を中心とした、所定の数の画素からなるブロック、および、注目画素の位置に対応する位置の画素の周辺の、所定の数の画素からなる複数のブロックを抽出する。データ選択部４４１は、抽出したブロックを誤差推定部４４２に供給する。
【０６７０】
誤差推定部４４２は、データ選択部４４１から供給された、注目画素を中心としたブロックと、空間的または時間的に周辺のブロックとの相関を検出して、検出した相関を示す相関情報を定常方向導出部４４３に供給する。定常性方向導出部４４３は、誤差推定部４４２から供給された相関情報に基いて、相関の最も強い、空間的または時間的に周辺のブロックの位置から、欠落した実世界１の光信号の定常性に対応する、入力画像における、時間方向および空間方向のデータの定常性の角度を検出し、角度を示すデータ定常性情報を出力する。
【０６７１】
また、データ定常性検出部１０１は、入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行することができる。
【０６７２】
図１０５は、入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の構成を示すブロック図である。
【０６７３】
データ定常性検出部４８１−１乃至４８１−３のそれぞれは、上述した、または後述するデータ定常性検出部１０１と同様の構成を有し、入力画像のコンポーネント信号のそれぞれを処理の対象として、上述した、または後述する処理を実行する。
【０６７４】
データ定常性検出部４８１−１は、入力画像の第１のコンポーネント信号を基に、データの定常性を検出し、第１のコンポーネント信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。例えば、データ定常性検出部４８１−１は、入力画像の輝度信号を基に、データの定常性を検出し、輝度信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。
【０６７５】
データ定常性検出部４８１−２は、入力画像の第２のコンポーネント信号を基に、データの定常性を検出し、第２のコンポーネント信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。例えば、データ定常性検出部４８１−２は、入力画像の色差信号であるＩ信号を基に、データの定常性を検出し、Ｉ信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。
【０６７６】
データ定常性検出部４８１−３は、入力画像の第３のコンポーネント信号を基に、データの定常性を検出し、第３のコンポーネント信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。例えば、データ定常性検出部４８１−３は、入力画像の色差信号であるＱ信号を基に、データの定常性を検出し、Ｑ信号から検出されたデータの定常性を示す情報を決定部４８２に供給する。
【０６７７】
決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性を示す情報を基に、入力画像における最終的なデータの定常性を検出して、検出したデータの定常性を示すデータ定常性情報を出力する。
【０６７８】
例えば、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、最大のデータの定常性を最終的なデータの定常性とする。また、例えば、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、最小のデータの定常性を最終的なデータの定常性とする。
【０６７９】
さらに、例えば、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性の平均値を最終的なデータの定常性とする。決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のメディアン（中央値）を最終的なデータの定常性とするようにしてもよい。
【０６８０】
また、例えば、決定部４８２は、外部から入力された信号を基に、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、外部から入力された信号で指定されるデータの定常性を最終的なデータの定常性とする。決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号から検出されたデータの定常性のうち、予め定めたデータの定常性を最終的なデータの定常性とするようにしてもよい。
【０６８１】
なお、決定部４８２は、データ定常性検出部４８１−１乃至４８１−３から供給された、各コンポーネント信号のデータの定常性の検出の処理で求めた誤差を基に、最終的なデータの定常性を決定するようにしてもよい。データの定常性の検出の処理で求められる誤差については、後述する。
【０６８２】
図１０６は、入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の他の構成を示す図である。
【０６８３】
コンポーネント処理部４９１は、入力画像のコンポーネント信号を基に、１つの信号を生成し、データ定常性検出部４９２に供給する。例えば、コンポーネント処理部４９１は、入力画像の各コンポーネント信号における値を、画面上で同じ位置の画素について、加算することにより、コンポーネント信号の値の和からなる信号を生成する。
【０６８４】
例えば、コンポーネント処理部４９１は、入力画像の各コンポーネント信号における画素値を、画面上で同じ位置の画素について、平均することにより、コンポーネント信号の画素値の平均値からなる信号を生成する。
【０６８５】
データ定常性検出部４９２は、コンポーネント処理部４９１から供給された、信号を基に、入力画像における、データの定常性を検出し、検出したデータの定常性を示すデータ定常性情報を出力する。
【０６８６】
データ定常性検出部４９２は、上述した、または後述するデータ定常性検出部１０１と同様の構成を有し、コンポーネント処理部４９１から供給された信号を対象として、上述した、または後述する処理を実行する。
【０６８７】
このように、データ定常性検出部１０１は、コンポーネント信号を基に、入力画像のデータの定常性を検出することにより、入力画像にノイズなどが含まれていても、より正確に、データの定常性を検出することができる。例えば、データ定常性検出部１０１は、コンポーネント信号を基に、入力画像のデータの定常性を検出することにより、より正確に、データの定常性の角度（傾き）、混合比、またはデータの定常性を有する領域を検出することができる。
【０６８８】
なお、コンポーネント信号は、輝度信号および色差信号に限らず、RGB信号、またはYUV信号など他の方式のコンポーネント信号であっても良い。
【０６８９】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの、欠落した現実世界の光信号の定常性に対応するデータの定常性の、基準軸に対する角度を検出し、検出された角度に基づいて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０６９０】
また、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している注目画素および基準軸を基準とした角度毎に、所定の数の画素からなる画素の組であって、複数の組を抽出し、角度毎に抽出された、複数の組における対応する位置の画素の画素値の相関を検出し、検出された相関に基いて、欠落した現実世界の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出し、検出された画像データにおける基準軸に対するデータの定常性の角度に基づいて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０６９１】
図１０７は、データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【０６９２】
図１０７に示されるデータ定常性検出部１０１においては、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域が選択され、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数が設定されることにより、領域に属する画素の度数が検出され、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データのデータの定常性が検出される。
【０６９３】
フレームメモリ５０１は、入力画像をフレーム単位で記憶し、記憶されているフレームを構成する画素の画素値を画素取得部５０２に供給する。フレームメモリ５０１は、１つのページに入力画像の現在のフレームを記憶し、他のページに記憶している、現在のフレームに対して１つ前（過去）のフレームの画素の画素値を画素取得部５０２に供給し、入力画像のフレームの切り換えの時刻において、ページを切り換えることにより、画素取得部５０２に、動画である入力画像のフレームの画素の画素値を供給することができる。
【０６９４】
画素取得部５０２は、フレームメモリ５０１から供給された画素の画素値を基に、注目している画素である注目画素を選択し、選択された注目画素に対応する、所定の数の画素からなる領域を選択する。例えば、画素取得部５０２は、注目画素を中心とする５×５画素からなる領域を選択する。
【０６９５】
画素取得部５０２が選択する領域の大きさは、本発明を限定するものではない。
【０６９６】
画素取得部５０２は、選択した領域の画素の画素値を取得して、選択した領域の画素の画素値を度数検出部５０３に供給する。
【０６９７】
度数検出部５０３は、画素取得部５０２から供給された、選択された領域の画素の画素値を基に、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。度数検出部５０３における、相関値に基づく度数の設定の処理の詳細は、後述する。
【０６９８】
度数検出部５０３は、検出した度数を回帰直線演算部５０４に供給する。
【０６９９】
回帰直線演算部５０４は、度数検出部５０３から供給された度数に基づいて、回帰線を演算する。例えば、回帰直線演算部５０４は、度数検出部５０３から供給された度数に基づいて、回帰直線を演算する。また、例えば、回帰直線演算部５０４は、度数検出部５０３から供給された度数に基づいて、所定の曲線である回帰線を演算する。回帰直線演算部５０４は、演算された回帰線および演算の結果を示す演算結果パラメータを角度算出部５０５に供給する。演算パラメータが示す演算の結果には、後述する変動および共変動などが含まれる。
【０７００】
角度算出部５０５は、回帰直線演算部５０４から供給された演算結果パラメータで示される、回帰線に基づいて、欠落した現実世界の光信号の定常性に対応する、画像データである入力画像のデータの定常性を検出する。例えば、角度算出部５０５は、回帰直線演算部５０４から供給された演算結果パラメータで示される、回帰直線に基づいて、欠落した実世界１の光信号の定常性に対応する、入力画像における、基準軸を基準としたデータの定常性の角度を検出する。角度算出部５０５は、力画像における、基準軸を基準としたデータの定常性の角度を示すデータ定常性情報を出力する。
【０７０１】
図１０８乃至図１１０を参照して、入力画像における、基準軸を基準としたデータの定常性の角度について説明する。
【０７０２】
図１０８において、丸は、１つの画素を示し、２重丸は、注目画素を示す。丸の色は、画素の画素値の概略を示し、より明るい色は、より大きい画素値を示す。例えば、黒は、３０である画素値を示し、白は、１２０である画素値を示す。
【０７０３】
図１０８で示される画素からなる画像を人間が見た場合、画像を見た人間は、斜め右上方向に直線が伸びていると認識することができる。
【０７０４】
図１０７に構成を示すデータ定常性検出部１０１は、図１０８で示される画素からなる入力画像を入力したとき、斜め右上方向に直線が伸びていることを検出する。
【０７０５】
図１０９は、図１０８で示される画素の画素値を数値で表した図である。丸は、１つの画素を示し、丸の中の数値は、画素値を示す。
【０７０６】
例えば、注目画素の画素値は、１２０であり、注目画素の上側の画素の画素値は、１００であり、注目画素の下側の画素の画素値は、１００である。また、注目画素の左側の画素の画素値は、８０であり、注目画素の右側の画素の画素値は、８０である。同様に、注目画素の左下側の画素の画素値は、１００であり、注目画素の右上側の画素の画素値は、１００である。注目画素の左上側の画素の画素値は、３０であり、注目画素の右下側の画素の画素値は、３０である。
【０７０７】
図１０７に構成を示すデータ定常性検出部１０１は、図１０９で示される入力画像に対して、図１１０で示されるように、回帰直線Ａを引く。
【０７０８】
図１１１は、入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線Ａとの関係を示す図である。データの定常性を有する領域における画素の画素値は、例えば、図１１１に示すように、山脈状に変化している。
【０７０９】
図１０７に構成を示すデータ定常性検出部１０１は、データの定常性を有する領域における画素の画素値を重みとして、最小自乗法により回帰直線Ａを引く。データ定常性検出部１０１により求められた回帰直線Ａは、注目画素の周辺におけるデータの定常性を表現している。
【０７１０】
入力画像における、基準軸を基準としたデータの定常性の角度は、図１１２で示されるように、回帰直線Ａと、例えば、基準軸である空間方向Ｘを示す軸との角度θを求めることにより、検出される。
【０７１１】
次に、図１０７に構成を示すデータ定常性検出部１０１における、回帰直線の具体的な算出方法について説明する。
【０７１２】
度数検出部５０３は、例えば、画素取得部５０２から供給された、注目画素を中心とする、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなる領域の画素の画素値から、領域に属する画素の座標に対応する度数を検出する。
【０７１３】
例えば、度数検出部５０３は、式（３２）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０７１４】
【数２３】

【０７１５】
式（３２）において、P_0,0は、注目画素の画素値を示し、P_i,jは、座標（x_i,y_j）の画素の画素値を示す。Thは、閾値を示す。
【０７１６】
iは、領域内における、空間方向Ｘの画素の順番を示し、1≦i≦kである。jは、領域内における、空間方向Ｙの画素の順番を示し、1≦j≦lである。
【０７１７】
kは、領域における、空間方向Ｘの画素の数を示し、lは、領域における、空間方向Ｙの画素の数を示す。例えば、領域が、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなるとき、kは、９であり、lは、５である。
【０７１８】
図１１３は、画素取得部５０２において取得される領域の例を示す図である。図１１３において、点線の四角は、１つの画素を示す。
【０７１９】
例えば、図１１３で示されるように、領域が、空間方向Ｘについて、注目画素を中心とした９画素、空間方向Ｙについて、注目画素を中心とした５画素からなり、注目画素の座標（x,y）が（0,0）であるとき、領域の左上の画素の座標（x,y）は、（-4,2）であり、領域の右上の画素の座標（x,y）は、（4,2）であり、領域の左下の画素の座標（x,y）は、（-4,-2）であり、領域の右下の画素の座標（x,y）は、（4,-2）である。
【０７２０】
領域の左側の画素の、空間方向Ｘにおける、画素の順番iは、1であり、領域の右側の画素の、空間方向Ｘにおける、画素の順番iは、9である。領域の下側の画素の、空間方向Ｙにおける、画素の順番jは、1であり、領域の上側の画素の、空間方向Ｙにおける、画素の順番jは、5である。
【０７２１】
すなわち、注目画素の座標（x₅,y₃）を（0,0）としたとき、領域の左上の画素の座標（x₁,y₅）は、（-4,2）であり、領域の右上の画素の座標（x₉,y₅）は、（4,2）であり、領域の左下の画素の座標（x₁,y₁）は、（-4,-2）であり、領域の右下の画素の座標（x₉,y₁）は、（4,-2）である。
【０７２２】
度数検出部５０３は、式（３２）において、相関値として、注目画素の画素値と、領域に属する画素の画素値との差分の絶対値を算出するので、実世界１の細線の画像が射影された、入力画像における、データの定常性を有する領域のみならず、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が射影された、入力画像における、２値エッジのデータの定常性を有する領域における、画素値の空間的な変化の特徴を示す度数を検出することができる。
【０７２３】
なお、度数検出部５０３は、画素の画素値との差分の絶対値に限らず、相関係数など他の相関値を基に、度数を検出するようにしてもよい。
【０７２４】
また、式（３２）において、指数関数を適用しているのは、画素値の差に対して、度数に大きく差をつけるためであり、他の関数を適用するようにしてもよい。
【０７２５】
閾値Thは、任意の値とすることができる。例えば、閾値Thは、３０とすることができる。
【０７２６】
このように、度数検出部５０３は、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。
【０７２７】
また、例えば、度数検出部５０３は、式（３３）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０７２８】
【数２４】

【０７２９】
座標（x_i,y_j）における度数をL_i,j（1≦i≦k,1≦j≦l）としたとき、座標x_iにおける、空間方向Ｙの度数L_i,jの和q_iは、式（３４）で表され、座標y_jにおける、空間方向Ｘの度数L_i,jの和h_jは、式（３５）で表される。
【０７３０】
【数２５】

【０７３１】
【数２６】

【０７３２】
度数の総和uは、式（３６）で表される。
【０７３３】
【数２７】

【０７３４】
図１１３で示される例において、注目画素の座標の度数L_5,3は、３であり、注目画素の上側の画素の座標の度数L_5,4は、１であり、注目画素の右上側の画素の座標の度数L_6,4は、４であり、注目画素に対して、２画素上側であって、１画素右側の画素の座標の度数L_6,5は、２であり、注目画素に対して、２画素上側であって、２画素右側の画素の座標の度数L_7,5は、３である。また、注目画素の下側の画素の座標の度数L_5,2は、２であり、注目画素の左側の画素の座標の度数L_4,3は、１であり、注目画素の左下側の画素の座標の度数L_4,2は、３であり、注目画素に対して、１画素下側であって、２画素左側の画素の座標の度数L_3,2は、２であり、注目画素に対して、２画素下側であって、２画素左側の画素の座標の度数L_3,1は、４である。図１１３で示される領域の他の画素の座標の度数は、０であり、図１１３において、０である度数の記載は省略する。
【０７３５】
図１１３で示される領域において、空間方向Ｙの度数の和q₁は、iが１である度数Lが全て０なので、０であり、q₂は、iが２である度数Lが全て０なので、０である。q₃は、度数L_3,2が２であり、度数L_3,1が４なので、６である。同様に、q₄は、４であり、q₅は、６であり、q₆は、６であり、q₇は、３であり、q₈は、０であり、q₉は、０である。
【０７３６】
図１１３で示される領域において、空間方向Ｘの度数の和h₁は、度数L_3,1が４なので、４である。h₂は、度数L_3,2が２であり、度数L_4,2が３であり、度数L_5,2が２なので、７である。同様に、h₃は、４であり、h₄は、５であり、h₅は、５である。
【０７３７】
図１１３で示される領域において、度数の総和uは、２５である。
【０７３８】
空間方向Ｙの度数L_i,jの和q_iに、座標x_iを乗じた結果を加算した和T_xは、式（３７）で表される。
【０７３９】
【数２８】

【０７４０】
空間方向Ｘの度数L_i,jの和h_jに、座標y_jを乗じた結果を加算した和T_yは、式（３７）で表される。
【０７４１】
【数２９】

【０７４２】
例えば、図１１３で示される領域において、q₁が０であり、x₁が−４なので、q₁x₁は０であり、q₂が０であり、x₂が−３なので、q₂x₂は０である。同様に、q₃が６であり、x₃が−２なので、q₃x₃は−１２であり、q₄が４であり、x₄が−１なので、q₄x₄は、−４であり、q₅が６であり、x₅が０なので、q₅x₅は０である。同様に、q₆が６であり、x₆が１なので、q₆x₆は６であり、q₇が３であり、x₇が２なので、q₇x₇は６であり、q₈が０であり、x₈が3なので、q₈x₈は０であり、q₉が０であり、x₉が４なので、q₉x₉は０である。従って、q₁x₁乃至q₉x₉の和であるT_xは、−４である。
【０７４３】
例えば、図１１３で示される領域において、h₁が４であり、y₁が−２なので、h₁y₁は−８であり、h₂が７であり、y₂が−１なので、h₂y₂は−７である。同様に、h₃が４であり、y₃が０なので、h₃y₃は０であり、h₄が５であり、y₄が１なので、h₄y₄は、５であり、h₅が５であり、y₅が２なので、h₅y₅は１０である。従って、h₁y₁乃至h₅y₅の和であるT_yは、0である。
【０７４４】
また、Q_iを以下のように定義する。
【０７４５】
【数３０】

【０７４６】
xの変動S_xは、式（４０）で表される。
【０７４７】
【数３１】

【０７４８】
yの変動S_yは、式（４１）で表される。
【０７４９】
【数３２】

【０７５０】
共変動S_xyは、式（４２）で表される。
【０７５１】
【数３３】

【０７５２】
式（４３）に示す１次の回帰直線を求めることを考える。
【０７５３】
y=ax+b ・・・（４３）
【０７５４】
傾きaおよび切片bは、最小自乗法により、以下のように求めることができる。
【０７５５】
【数３４】

【０７５６】
【数３５】

【０７５７】
ただし、正しい回帰直線を求めるための必要条件は、度数L_i,jが、回帰直線に対して、ガウス分布状に、分布していることである。逆に言えば、度数検出部５０３は、度数L_i,jがガウス分布するように、領域の画素の画素値を度数L_i,jに変換する必要がある。
【０７５８】
回帰直線演算部５０４は、式（４４）および式（４５）で示される演算を実行して、回帰直線を求める。
【０７５９】
角度算出部５０５は、式（４６）に示す演算により、回帰直線の傾きaを、基準軸である空間方向Ｘの軸に対する角度θに変換する。
【０７６０】
θ=tan^-1(a) ・・・（４６）
【０７６１】
なお、回帰直線演算部５０４が所定の曲線である回帰線を演算する場合、角度算出部５０５は、基準軸に対する、注目画素の位置における回帰線の角度θを求める。
【０７６２】
ここで、画素毎にデータの定常性を検出するためには、切片bは、不要である。そこで、式（４７）に示す１次の回帰直線を求めることを考える。
【０７６３】
y=ax ・・・（４７）
【０７６４】
この場合、回帰直線演算部５０４は、最小自乗法により、傾きaを式（４８）で求めることができる。
【０７６５】
【数３６】

【０７６６】
図１１４のフローチャートを参照して、ステップＳ１０１の処理に対応する、図１０７で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０７６７】
ステップＳ５０１において、画素取得部５０２は、まだ注目画素とされていない画素の中から注目画素を選択する。例えば、画素取得部５０２は、ラスタスキャン順に、注目画素を選択する。ステップＳ５０２において、画素取得部５０２は、注目画素を中心とする領域に含まれる画素の画素値を取得し、取得した画素の画素値を度数検出部５０３に供給する。例えば、画素取得部５０２は、注目画素を中心とした、９×５画素からなる領域を選択し、領域に含まれる画素の画素値を取得する。
【０７６８】
ステップＳ５０３において、度数検出部５０３は、領域に含まれる画素の画素値を度数に変換することにより、度数を検出する。例えば、度数検出部５０３は、式（３２）に示される演算により、画素値を度数L_i,jに変換する。この場合において、度数L_i,jがガウス分布するように、領域の画素の画素値が度数L_i,jに変換される。度数検出部５０３は、変換された度数を回帰直線演算部５０４に供給する。
【０７６９】
ステップＳ５０４において、回帰直線演算部５０４は、度数検出部５０３から供給された度数を基に、回帰線を求める。例えば、回帰直線演算部５０４は、度数検出部５０３から供給された度数を基に、回帰直線を求める。より具体的には、回帰直線演算部５０４は、式（４４）および式（４５）で示される演算を実行して、回帰直線を求める。回帰直線演算部５０４は、算出された結果である回帰直線を示す演算結果パラメータを角度算出部５０５に供給する。
【０７７０】
ステップＳ５０５において、角度算出部５０５は、基準軸に対する回帰直線の角度を算出することにより、欠落した現実世界の光信号の定常性に対応する、画像データのデータの定常性を検出する。例えば、角度算出部５０５は、式（４６）に示す演算により、回帰直線の傾きaを、基準軸である空間方向Ｘの軸に対する角度θに変換する。角度算出部５０５は、基準軸に対する回帰直線の角度を示すデータ定常性情報を出力する。
【０７７１】
なお、角度算出部５０５は、傾きaを示すデータ定常性情報を出力するようにしてもよい。
【０７７２】
ステップＳ５０６において、画素取得部５０２は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ５０１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０７７３】
ステップＳ５０６において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０７７４】
このように、図１０７に構成を示すデータ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、基準軸を基準としたデータの定常性の角度を検出することができる。
【０７７５】
特に、図１０７に構成を示すデータ定常性検出部１０１は、比較的狭い領域の画素の画素値を基に、画素以下の角度を求めることができる。
【０７７６】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域を選択し、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出し、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データのデータの定常性を検出し、検出された画像データのデータの定常性に基いて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０７７７】
なお、図１０７に構成を示すデータ定常性検出部１０１は、注目画素の属する注目フレームと、注目フレームの時間的に前後のフレームについて、所定の領域に属する画素の画素値を度数に変換し、度数を基に、回帰平面を求めるようにすれば、空間方向のデータの定常性の角度と共に、時間方向のデータの定常性の角度を検出することができる。
【０７７８】
図１１５は、データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【０７７９】
図１１５に示されるデータ定常性検出部１０１においては、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域が選択され、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数が設定されることにより、領域に属する画素の度数が検出され、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データにおけるデータの定常性を有する領域を検出する。
【０７８０】
フレームメモリ６０１は、入力画像をフレーム単位で記憶し、記憶されているフレームを構成する画素の画素値を画素取得部６０２に供給する。フレームメモリ６０１は、１つのページに入力画像の現在のフレームを記憶し、他のページに記憶している、現在のフレームに対して１つ前（過去）のフレームの画素の画素値を画素取得部６０２に供給し、入力画像のフレームの切り換えの時刻において、ページを切り換えることにより、画素取得部６０２に、動画である入力画像のフレームの画素の画素値を供給することができる。
【０７８１】
画素取得部６０２は、フレームメモリ６０１から供給された画素の画素値を基に、注目している画素である注目画素を選択し、選択された注目画素に対応する、所定の数の画素からなる領域を選択する。例えば、画素取得部６０２は、注目画素を中心とする５×５画素からなる領域を選択する。
【０７８２】
画素取得部６０２が選択する領域の大きさは、本発明を限定するものではない。
【０７８３】
画素取得部６０２は、選択した領域の画素の画素値を取得して、選択した領域の画素の画素値を度数検出部６０３に供給する。
【０７８４】
度数検出部６０３は、画素取得部６０２から供給された、選択された領域の画素の画素値を基に、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。度数検出部６０３における、相関値に基づく度数の設定の処理の詳細は、後述する。
【０７８５】
度数検出部６０３は、検出した度数を回帰直線演算部６０４に供給する。
【０７８６】
回帰直線演算部６０４は、度数検出部６０３から供給された度数に基づいて、回帰線を演算する。例えば、回帰直線演算部６０４は、度数検出部６０３から供給された度数に基づいて、回帰直線を演算する。また、例えば、回帰直線演算部６０４は、度数検出部６０３から供給された度数に基づいて、所定の曲線である回帰線を演算する。回帰直線演算部６０４は、演算された回帰線および演算の結果を示す演算結果パラメータを領域算出部６０５に供給する。演算パラメータが示す演算の結果には、後述する変動および共変動などが含まれる。
【０７８７】
領域算出部６０５は、回帰直線演算部６０４から供給された演算結果パラメータで示される、回帰線に基づいて、欠落した現実世界の光信号の定常性に対応する、画像データである入力画像においてデータの定常性を有する領域を検出する。
【０７８８】
図１１６は、入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線Ａとの関係を示す図である。データの定常性を有する領域における画素の画素値は、例えば、図１１６に示すように、山脈状に変化している。
【０７８９】
図１１５に構成を示すデータ定常性検出部１０１は、データの定常性を有する領域における画素の画素値を重みとして、最小自乗法により回帰直線Ａを引く。データ定常性検出部１０１により求められた回帰直線Ａは、注目画素の周辺におけるデータの定常性を表現している。
【０７９０】
回帰直線を引くということは、ガウス関数を前提とした近似を意味する。図１１７に示すように、図１１５に構成を示すデータ定常性検出部１０１は、例えば、標準偏差を求めることで、細線の画像が射影された、データ３における領域の、おおよその幅を知ることができる。また、例えば、図１１５に構成を示すデータ定常性検出部１０１は、相関係数を基に、細線の画像が射影された、データ３における領域の、おおよその幅を知ることができる。
【０７９１】
次に、図１１５に構成を示すデータ定常性検出部１０１における、回帰直線の具体的な算出方法について説明する。
【０７９２】
度数検出部６０３は、例えば、画素取得部６０２から供給された、注目画素を中心とする、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなる領域の画素の画素値から、領域に属する画素の座標に対応する度数を検出する。
【０７９３】
例えば、度数検出部６０３は、式（４９）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０７９４】
【数３７】

【０７９５】
式（４９）において、P_0,0は、注目画素の画素値を示し、P_i,jは、座標（x_i,y_j）の画素の画素値を示す。Thは、閾値を示す。
【０７９６】
iは、領域内における、空間方向Ｘの画素の順番を示し、1≦i≦kである。jは、領域内における、空間方向Ｙの画素の順番を示し、1≦j≦lである。
【０７９７】
kは、領域における、空間方向Ｘの画素の数を示し、lは、領域における、空間方向Ｙの画素の数を示す。例えば、領域が、空間方向Ｘに９画素、空間方向Ｙに５画素、計４５画素からなるとき、Kは、９であり、lは、５である。
【０７９８】
図１１８は、画素取得部６０２において取得される領域の例を示す図である。図１１８において、点線の四角は、１つの画素を示す。
【０７９９】
例えば、図１１８で示されるように、領域が、空間方向Ｘについて、注目画素を中心とした９画素、空間方向Ｙについて、注目画素を中心とした５画素からなり、注目画素の座標（x,y）が（0,0）であるとき、領域の左上の画素の座標（x,y）は、（-4,2）であり、領域の右上の画素の座標（x,y）は、（4,2）であり、領域の左下の画素の座標（x,y）は、（-4,-2）であり、領域の右下の画素の座標（x,y）は、（4,-2）である。
【０８００】
領域の左側の画素の、空間方向Ｘにおける、画素の順番iは、1であり、領域の右側の画素の、空間方向Ｘにおける、画素の順番iは、9である。領域の下側の画素の、空間方向Ｙにおける、画素の順番jは、1であり、領域の上側の画素の、空間方向Ｙにおける、画素の順番jは、5である。
【０８０１】
すなわち、注目画素の座標（x₅,y₃）を（0,0）としたとき、領域の左上の画素の座標（x₁,y₅）は、（-4,2）であり、領域の右上の画素の座標（x₉,y₅）は、（4,2）であり、領域の左下の画素の座標（x₁,y₁）は、（-4,-2）であり、領域の右下の画素の座標（x₉,y₁）は、（4,-2）である。
【０８０２】
度数検出部６０３は、式（４９）において、相関値として、注目画素の画素値と、領域に属する画素の画素値との差分の絶対値を算出するので、実世界１の細線の画像が射影された、入力画像における、データの定常性を有する領域のみならず、背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像が射影された、入力画像における、２値エッジのデータの定常性を有する領域における、画素値の空間的な変化の特徴を示す度数を検出することができる。
【０８０３】
なお、度数検出部６０３は、画素の画素値との差分の絶対値に限らず、相関係数など他の相関値を基に、度数を検出するようにしてもよい。
【０８０４】
また、式（４９）において、指数関数を適用しているのは、画素値の差に対して、度数に大きく差をつけるためであり、他の関数を適用するようにしてもよい。
【０８０５】
閾値Thは、任意の値とすることができる。例えば、閾値Thは、３０とすることができる。
【０８０６】
このように、度数検出部６０３は、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出する。
【０８０７】
また、例えば、度数検出部６０３は、式（５０）で示される演算により、度数を算出することにより、領域に属する、座標（x_i,y_j）の度数L_i,jを検出する。
【０８０８】
【数３８】

【０８０９】
座標（x_i,y_j）における度数をL_i,j（1≦i≦k,1≦j≦l）としたとき、座標x_iにおける、空間方向Ｙの度数L_i,jの和q_iは、式（５１）で表され、座標y_jにおける、空間方向Ｘの度数L_i,jの和h_jは、式（５２）で表される。
【０８１０】
【数３９】

【０８１１】
【数４０】

【０８１２】
度数の総和uは、式（５３）で表される。
【０８１３】
【数４１】

【０８１４】
図１１８で示される例において、注目画素の座標の度数L_5,3は、３であり、注目画素の上側の画素の座標の度数L_5,4は、１であり、注目画素の右上側の画素の座標の度数L_6,4は、４であり、注目画素に対して、２画素上側であって、１画素右側の画素の座標の度数L_6,5は、２であり、注目画素に対して、２画素上側であって、２画素右側の画素の座標の度数L_7,5は、３である。また、注目画素の下側の画素の座標の度数L_5,2は、２であり、注目画素の左側の画素の座標の度数L_4,3は、１であり、注目画素の左下側の画素の座標の度数L_4,2は、３であり、注目画素に対して、１画素下側であって、２画素左側の画素の座標の度数L_3,2は、２であり、注目画素に対して、２画素下側であって、２画素左側の画素の座標の度数L_3,1は、４である。図１１８で示される領域の他の画素の座標の度数は、０であり、図１１８において、０である度数の記載は省略する。
【０８１５】
図１１８で示される領域において、空間方向Ｙの度数の和q₁は、iが１である度数Lが全て０なので、０であり、q₂は、iが２である度数Lが全て０なので、０である。q₃は、度数L_3,2が２であり、度数L_3,1が４なので、６である。同様に、q₄は、４であり、q₅は、６であり、q₆は、６であり、q₇は、３であり、q₈は、０であり、q₉は、０である。
【０８１６】
図１１８で示される領域において、空間方向Ｘの度数の和h₁は、度数L_3,1が４なので、４である。h₂は、度数L_3,2が２であり、度数L_4,2が３であり、度数L_5,2が２なので、７である。同様に、h₃は、４であり、h₄は、５であり、h₅は、５である。
【０８１７】
図１１８で示される領域において、度数の総和uは、２５である。
【０８１８】
空間方向Ｙの度数L_i,jの和q_iに、座標x_iを乗じた結果を加算した和T_xは、式（５４）で表される。
【０８１９】
【数４２】

【０８２０】
空間方向Ｘの度数L_i,jの和h_jに、座標y_jを乗じた結果を加算した和T_yは、式（５５）で表される。
【０８２１】
【数４３】

【０８２２】
例えば、図１１８で示される領域において、q₁が０であり、x₁が−４なので、q₁x₁は０であり、q₂が０であり、x₂が−３なので、q₂x₂は０である。同様に、q₃が６であり、x₃が−２なので、q₃x₃は−１２であり、q₄が４であり、x₄が−１なので、q₄x₄は、−４であり、q₅が６であり、x₅が０なので、q₅x₅は０である。同様に、q₆が６であり、x₆が１なので、q₆x₆は６であり、q₇が３であり、x₇が２なので、q₇x₇は６であり、q₈が０であり、x₈が3なので、q₈x₈は０であり、q₉が０であり、x₉が４なので、q₉x₉は０である。従って、q₁x₁乃至q₉x₉の和であるT_xは、−４である。
【０８２３】
例えば、図１１８で示される領域において、h₁が４であり、y₁が−２なので、h₁y₁は−８であり、h₂が７であり、y₂が−１なので、h₂y₂は−７である。同様に、h₃が４であり、y₃が０なので、h₃y₃は０であり、h₄が５であり、y₄が１なので、h₄y₄は、５であり、h₅が５であり、y₅が２なので、h₅y₅は１０である。従って、h₁y₁乃至h₅y₅の和であるT_yは、0である。
【０８２４】
また、Q_iを以下のように定義する。
【０８２５】
【数４４】

【０８２６】
xの変動S_xは、式（５７）で表される。
【０８２７】
【数４５】

【０８２８】
yの変動S_yは、式（５８）で表される。
【０８２９】
【数４６】

【０８３０】
共変動S_xyは、式（５９）で表される。
【０８３１】
【数４７】

【０８３２】
式（６０）に示す１次の回帰直線を求めることを考える。
【０８３３】
y=ax+b ・・・（６０）
【０８３４】
傾きaおよび切片bは、最小自乗法により、以下のように求めることができる。
【０８３５】
【数４８】

【０８３６】
【数４９】

【０８３７】
ただし、正しい回帰直線を求めるための必要条件は、度数L_i,jが、回帰直線に対して、ガウス分布状に、分布していることである。逆に言えば、度数検出部６０３は、度数L_i,jがガウス分布するように、領域の画素の画素値を度数L_i,jに変換する必要がある。
【０８３８】
回帰直線演算部６０４は、式（６１）および式（６２）で示される演算を実行して、回帰直線を求める。
【０８３９】
また、画素毎にデータの定常性を検出するためには、切片bは、不要である。そこで、式（６３）に示す１次の回帰直線を求めることを考える。
【０８４０】
y=ax ・・・（６３）
【０８４１】
この場合、回帰直線演算部６０４は、最小自乗法により、傾きaを式（６４）で求めることができる。
【０８４２】
【数５０】

【０８４３】
データの定常性を有する領域を特定する第１の手法においては、式（６０）に示す回帰直線の推定誤差が利用される。
【０８４４】
yの変動S_y・xは、式（６５）で示される演算で求められる。
【０８４５】
【数５１】

【０８４６】
推定誤差の分散は、変動を用いて、式（６６）で示される演算で求められる。
【０８４７】
【数５２】

【０８４８】
よって、標準偏差は、以下の式で導出される。
【０８４９】
【数５３】

【０８５０】
ただし、標準偏差は、細線の画像が射影された領域を対象とする場合、細線の幅に値する量なので、一概に、標準偏差が大きいことをもって、データの定常を有する領域ではないという判断をすることはできない。しかしながら、例えば、クラス分類適応処理が破綻するのは、データの定常を有する領域の中でも、細線の幅が狭い部分なので、クラス分類適応処理が破綻する可能性が大きい領域を検出するために、標準偏差を用いて検出された領域を示す情報を利用することができる。
【０８５１】
領域算出部６０５は、式（６７）で示される演算により、標準偏差を算出して、標準偏差を基に、入力画像における、データの定常性を有する領域を算出する。例えば、領域算出部６０５は、標準偏差に所定の係数を乗じて距離を求め、回帰直線から、求めた距離以内の領域を、データの定常性を有する領域とする。例えば、領域算出部６０５は、回帰直線を中心として、回帰直線から標準偏差以内の距離の領域を、データの定常性を有する領域として算出する。
【０８５２】
第２の手法においては、度数の相関をデータの定常を有する領域の検出に用いる。
【０８５３】
相関係数r_xyは、xの変動S_x、yの変動S_y、および共変動S_xyを基に、式（６８）で示される演算で求めることができる。
【０８５４】
【数５４】

【０８５５】
相関には、正の相関と負の相関があるので、領域算出部６０５は、相関係数r_xyの絶対値を求めて、相関係数r_xyの絶対値が１に近いほど、相関が強いと判定する。より具体的には、領域算出部６０５は、閾値と、相関係数r_xyの絶対値とを比較し、相関係数r_xyの絶対値が閾値以上である領域を、データの定常性を有する領域として検出する。
【０８５６】
図１１９のフローチャートを参照して、ステップＳ１０１の処理に対応する、図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明する。
【０８５７】
ステップＳ６０１において、画素取得部６０２は、まだ注目画素とされていない画素の中から注目画素を選択する。例えば、画素取得部６０２は、ラスタスキャン順に、注目画素を選択する。ステップＳ６０２において、画素取得部６０２は、注目画素を中心とする領域に含まれる画素の画素値を取得し、取得した画素の画素値を度数検出部６０３に供給する。例えば、画素取得部６０２は、注目画素を中心とした、９×５画素からなる領域を選択し、領域に含まれる画素の画素値を取得する。
【０８５８】
ステップＳ６０３において、度数検出部６０３は、領域に含まれる画素の画素値を度数に変換することにより、度数を検出する。例えば、度数検出部６０３は、式（４９）で示される演算により、画素値を度数L_i,jに変換する。この場合において、度数L_i,jがガウス分布状に分布するように、領域の画素の画素値が度数L_i,jに変換される。度数検出部６０３は、変換された度数を回帰直線演算部６０４に供給する。
【０８５９】
ステップＳ６０４において、回帰直線演算部６０４は、度数検出部５０３から供給された度数を基に、回帰線を求める。例えば、回帰直線演算部６０４は、度数検出部６０３から供給された度数を基に、回帰直線を求める。より具体的には、回帰直線演算部６０４は、式（６１）および式（６２）で示される演算を実行して、回帰直線を求める。回帰直線演算部６０４は、算出された結果である回帰直線を示す演算結果パラメータを領域算出部６０５に供給する。
【０８６０】
ステップＳ６０５において、領域算出部６０５は、回帰直線についての標準偏差を算出する。例えば、領域算出部６０５は、式（６７）に示す演算により、回帰直線に対する標準偏差を算出する。
【０８６１】
ステップＳ６０６において、領域算出部６０５は、標準偏差から、入力画像における、データの定常性を有する領域を特定する。例えば、領域算出部６０５は、標準偏差に所定の係数を乗じて距離を求め、回帰直線から、求めた距離以内の領域を、データの定常性を有する領域として特定する。
【０８６２】
領域算出部６０５は、データの定常性を有する領域を示すデータ定常性情報を出力する。
【０８６３】
ステップＳ６０７において、画素取得部６０２は、全ての画素の処理を終了したか否かを判定し、全ての画素の処理を終了していないと判定された場合、ステップＳ６０１に戻り、まだ注目画素として選択されていない画素から注目画素を選択して、上述した処理を繰り返す。
【０８６４】
ステップＳ６０７において、全ての画素の処理を終了したと判定された場合、処理は終了する。
【０８６５】
図１２０のフローチャートを参照して、ステップＳ１０１の処理に対応する、図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の他の処理を説明する。ステップＳ６２１乃至ステップＳ６２４の処理は、ステップＳ６０１乃至ステップＳ６０４の処理と同様なので、その説明は省略する。
【０８６６】
ステップＳ６２５において、領域算出部６０５は、回帰直線についての相関係数を算出する。例えば、領域算出部６０５は、式（６８）で示される演算により、回帰直線に対する相関係数を算出する。
【０８６７】
ステップＳ６２６において、領域算出部６０５は、相関係数から、入力画像における、データの定常性を有する領域を特定する。例えば、領域算出部６０５は、予め記憶している閾値と相関係数の絶対値とを比較し、相関係数の絶対値が閾値以上である領域を、データの定常性を有する領域として特定する。
【０８６８】
領域算出部６０５は、データの定常性を有する領域を示すデータ定常性情報を出力する。
【０８６９】
ステップＳ６２７の処理は、ステップＳ６０７の処理と同様なので、その説明は省略する。
【０８７０】
このように、図１１５に構成を示すデータ定常性検出部１０１は、欠落した実世界１の光信号の定常性に対応する、画像データにおける、データの定常性を有する領域を検出することができる。
【０８７１】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの注目している画素である注目画素に対応する領域を選択し、注目画素の画素値と、選択された領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数を設定することにより、領域に属する画素の度数を検出し、検出された度数に基いて回帰線を検出することにより、欠落した現実世界の光信号の定常性に対応する、画像データにおけるデータの定常性を有する領域を検出し、検出された画像データのデータの定常性に基づいて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【０８７２】
図１２１は、データ定常性検出部１０１のその他の実施の形態の構成を示している。
【０８７３】
図１２１のデータ定常性検出部１０１は、データ選択部７０１、データ足し込み部７０２、および、定常方向導出部７０３より構成される。
【０８７４】
データ選択部７０１は、入力画像の各画素を注目画素として、その注目画素毎に対応する画素の画素値データを選択して、データ足し込み部７０２に出力する。
【０８７５】
データ足し込み部７０２は、データ選択部７０１より入力されたデータに基づいて、最小自乗法における足し込み演算を行い、足し込み演算結果を定常方向導出部７０３に出力する。このデータ足し込み部７０２による足し込み演算とは、後述する最小自乗法の演算に用いるサメーションの項における演算であり、その演算結果は、定常性の角度を検出するための画像データの特徴であると言える。
【０８７６】
定常方向導出部７０３は、データ足し込み部７０２より入力された足し込み演算結果から定常方向、すなわち、データの定常性が有する基準軸からの角度（例えば、細線、または２値エッジなどの傾き、または方向）を演算し、これをデータ定常性情報として出力する。
【０８７７】
次に、図１２２を参照して、データ定常性検出部１０１における定常性（方向、または、角度）を検出する動作の概要について説明する。尚、図１２２，図１２３中、図６，図７における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【０８７８】
図１２２で示されるように、実世界１の信号（例えば、画像）は、光学系１４１（例えば、レンズ、またはLPF（Low Pass Filter）などからなる）により、センサ２（例えば、CCD（Charge Coupled Device）、または、CMOS（Complementary Metal-Oxide Semiconductor）など）の受光面に結像される。センサ２は、例えば、CCDやCMOSのような積分特性を有する素子から構成される。このような構成により、センサ２から出力されるデータ３から得られる画像は、実世界１の画像とは異なる画像となる（実世界１の画像とは差が生じることになる）。
【０８７９】
そこで、データ定常性検出部１０１は、図１２３で示されるように、モデル７０５を用いて、実世界１を近似式により近似的に記述して、その近似式からデータ定常性を抽出する。モデル７０５は、例えば、Ｎ個の変数で表現される。より正確には、モデル７０５は、実世界１の信号を近似（記述）する。
【０８８０】
データ定常性検出部１０１は、モデル７０５を予測するために、データ３から、Ｍ個のデータ７０６を抽出する。その結果、モデル７０５は、データの定常性に拘束されることになる。
【０８８１】
すなわち、モデル７０５は、センサ２で取得されたとき、データ３においてデータのデータ定常性を生じさせる、定常性（所定の次元の方向に一定の特徴）を有する実世界１の事象（を示す情報（信号））を近似する。
【０８８２】
ここで、データ７０６の数Ｍが、モデル７０５の変数の数Ｎ以上であれば、Ｍ個のデータ７０６から、Ｎ個の変数で表現されるモデル７０５を予測することができる。
【０８８３】
さらに、データ定常性検出部１０１は、実世界１（の信号）を近似（記述）するモデル７０５を予測することにより、実世界１の情報である信号に含まれるデータ定常性を、例えば、細線や２値エッジの方向（傾き、または、所定の方向を軸としたときの軸とのなす角度）として導出し、データ定常性情報として出力する。
【０８８４】
次に、図１２４を参照して、入力画像より細線の方向（角度）をデータ定常性情報として出力するデータ定常性検出部１０１について説明する。
【０８８５】
データ選択部７０１は、水平・垂直判定部７１１、および、データ取得部７１２から構成されている。水平・垂直判定部７１１は、注目画素とその周辺の画素間の画素値の差分から、入力画像の細線の水平方向に対する角度が、水平方向に近い細線か、垂直方向に近い細線かを判定し、判定結果をデータ取得部７１２、および、データ足し込み部７０２にそれぞれ出力する。
【０８８６】
より詳細には、例えば、この手法という意味で、他の手法でもよい。例えば、簡易１６方位検出手法をここで使用してもよい。図１２５で示されるように、水平・垂直判定部７１１は、注目画素と、その注目画素に隣接する画素間の差分（画素間の画素値の差分）のうち、水平方向の画素間の差分（アクティビティ）の和（hdiff）と、垂直方向の画素間の差分（アクティビティ）の和（ vdiff ）の差分（hdiff-vdiff）を求めて、注目画素が垂直方向に隣接する画素間との差分の和が大きいか、または、水平方向に隣接する画素間との差分の和が大きいかを判定する。ここで、図１２５においては、各マス目が画素を示し、図中の中央の画素が注目画素である。また、図中の点線の矢印で示す画素間の差分が、水平方向の画素間の差分であり、その和がhdiffで示される。さらに、図中の実線の矢印で示す画素間の差分が、垂直方向の画素間の差分であり、その和がvdiffで示される。
【０８８７】
このように求められた水平方向の画素間の画素値の差分和hdiffと、垂直方向の画素間の画素値の差分和vdiffに基づいて、水平・垂直判定部７１１は、（hdiff−vdiff）が正であれば、垂直方向よりも水平方向の画素間の画素値の変化（アクティビティ）が大きいので、図１２６で示されるように、水平方向に対する角度がθ（0度≦θ≦180度）で示される場合、45度＜θ≦135度、すなわち、垂直方向に近い角度の細線に属している画素であると判定し、逆に負であれば垂直方向の画素間の画素値の変化（アクティビティ）が大きいので、0度≦θ＜45度、または、135度＜θ≦180度、すなわち、水平方向に近い角度の細線に属している画素であると判定する（細線が続く方向（角度）に存在する画素は、いずれも細線を表現する画素であるので、その画素間の変化（アクティビティ）は小さくなるはずである）。
【０８８８】
また、水平・垂直判定部７１１は、入力画像の各画素を識別するカウンタ（図示せず）を備えており、適宜必要に応じて使用する。
【０８８９】
尚、図１２５においては、注目画素を中心として、３画素×３画素の範囲における垂直方向と水平方向の画素間の画素値の差分の和を比較して、細線が垂直方向に近いか、または、水平方向に近いかを判定する例について説明したが、それ以上の画素数を用いて同様の手法で細線の方向を判定するようにしてもよく、例えば、注目画素を中心として５画素×５画素や、７画素×７画素など、それ以上の画素数のブロックに基づいて判定するようにしてもよい。
【０８９０】
データ取得部７１２は、水平・垂直判定部７１１より入力された細線の方向の判定結果に基づいて、注目画素に対応する水平方向に並ぶ複数の画素からなるブロック単位、または、垂直方向に並ぶ複数の画素のブロック単位で画素値を読み出し（取得し）、読み出した（取得した）注目画素毎に対応する複数の画素間における、水平・垂直方向判定部７１１の判定結果の方向に隣接する画素間の差分データとともに、所定の画素数のブロックに含まれる画素から、画素値の最大値と最小値のデータをデータ足し込み部７０２に出力する。尚、以下においては、データ取得部７１２により、注目画素に対応して取得される複数の画素のブロックを取得ブロックと称する（取得ブロックは、例えば、後述する図１３９で示される複数の画素（各マス目で示される）のうち、黒線の正方形が示された画素を注目画素とするとき、その上下３画素分と、左右１画素分の合計１５画素などである）。
【０８９１】
データ足し込み部７０２の差分足し込み部７２１は、データ選択部７０１より入力された差分データを検出し、データ選択部７０１の水平・垂直判定部７１１より入力される水平方向、または、垂直方向の判定結果に基づいて、後述する最小自乗法の解法に必要な足し込み処理を実行し、その足し込み結果を定常方向導出部７０３に出力する。より具体的には、複数の画素のうち水平・垂直判定部７１１による判定方向に隣接する画素iと画素（ｉ＋１）の画素間の画素値の差分データをyiとし、注目画素に対応する取得ブロックがｎ個の画素から構成された場合、差分足し込み部７２１は、水平方向、または、垂直方向毎に（ｙ１）²＋（ｙ２）²＋（ｙ３）²＋・・・を足し込んで演算し、定常方向導出部７０３に出力する。
【０８９２】
MaxMin取得部７２２は、データ選択部７０１より入力される注目画素に対応する取得ブロックに含まれる各画素毎に設定されるブロック（以下、ダイナミックレンジブロックと称する（ダイナミックレンジブロックは、後述する図１３９で示される取得ブロックの画素のうち、例えば、画素pix１２について、黒の実線で囲まれている、ダイナミックレンジブロックＢ１で示される、画素pix１２の上下３画素分の合計７画素などである））に含まれる画素の画素値の最大値と最小値を取得すると、その差分からダイナミックレンジDri（取得ブロック内のｉ番目の画素に対応する、ダイナミックレンジブロックに含まれる画素の画素値の最大値と最小値の差分）を演算（検出）して、差分足し込み部７２３に出力する。
【０８９３】
差分足し込み部７２３は、MaxMin取得部７２２より入力されたダイナミックレンジDriと、データ選択部７０１より入力された差分データを検出し、検出したダイナミックレンジDriと差分データに基づいて、データ選択部７０１の水平・垂直判定部７１１より入力される水平方向、または、垂直方向毎に、ダイナミックレンジDriと差分データｙｉを乗じた値を足し込んで、演算結果を定常方向導出部７０３に出力する。すなわち、差分足し込み部７２３が出力する演算結果は、水平方向、または、垂直方向毎にｙ１×Dr１＋ｙ２×Dr２＋ｙ３×Dr３＋・・・となる。
【０８９４】
定常方向導出部７０３の定常方向演算部７３１は、データ足し込み部７０２より入力されてくる、水平方向、または、垂直方向毎の足し込み演算結果に基づいて、細線の角度（方向）を演算し、演算された角度を定常性情報として出力する。
【０８９５】
ここで、細線の方向（細線の傾き、または、角度）の演算方法について説明する。
【０８９６】
図１２７Ａで示されるような入力画像中の白線により囲まれる部分を拡大すると、細線（図中、右上がりで、かつ斜め方向の白線）は、実際には、図１２７Ｂで示されるように表示されている。すなわち、現実世界においては、図１２７Ｃで示されるように、画像は、細線のレベル（図１２７Ｃ中では濃度の薄い斜線部）と背景レベルの２種類のレベルが境界を形成し、その他のレベルが存在しない状態となる。これに対して、センサ２により撮像された画像、すなわち、画素単位で撮像された画像は、図１２７Ｂで示されるように、その積分効果により背景レベルと細線レベルとが空間的に混合した画素が、その比率（混合比）を一定のパターンで変化するように縦方向に配置された複数の画素からなるブロックが細線方向に繰り返して配置されたような画像となる。尚、図１２７Ｂにおいて、各正方形状のマス目は、CCDの１画素を示し、各辺の長さをd_CCDであるものとする。また、マス目は、格子状に塗りつぶされた部分が背景のレベルに相当する画素値の最小値であり、その他の斜線状に塗りつぶされた部分は、斜線の密度が低くなるに連れて画素値が高くなるものとする（従って、斜線のない白色のマス目が画素値の最大値となる）。
【０８９７】
図１２８Ａで示されるように、現実世界の背景上に細線が存在する場合、現実世界の画像は、図１２８Ｂで示されるように、横軸にレベル、縦軸にそのレベルに対応する部分の画像上の面積を示すと、画像中の背景に相当する面積と、細線に相当する部分の面積との、画像上における占有面積の関係が示される。
【０８９８】
同様にして、センサ２で撮像された画像は、図１２９Ａで示されるように、背景レベルの画素の中に、縦に並んだ背景レベルと細線レベルとが混合した画素が、その混合比を所定のパターンで変化させながら縦方向に配置されたブロックが、細線の存在する方向に繰り返して配置されたような画像となるため、図１２９Ｂで示すように、背景のレベルとなる領域（背景領域）と、細線のレベルの中間のレベルをとる、背景と細線が空間的に混合した結果生じる画素からなる空間混合領域が存在する。ここで、図１２９Ｂにおいて縦軸は、画素数であるが、１画素の面積は（d_CCD）²となるため、図１２９Ｂの画素値のレベルと画素数の関係は、画素値のレベルと面積の分布の関係と同様であるといえる。
【０８９９】
これは、図１３０Ａの実際の画像中の白線で囲まれる部分（３１画素×３１画素の画像）においても、図１３０Ｂで示されるように同様の結果が得られる。すなわち、図１３０Ａで示される背景部分（図１３０Ａ中では、黒色に見える部分）は、図１３０Ｂで示されるように、画素値レベルの低い（画素値が２０付近の）画素が多く分布しており、これらの変化の少ない部分が、背景領域の画像を形成する。これに対して、図１３０Ｂの画素値レベルが低くない部分、すなわち、画素値レベルが４０付近乃至１６０付近に分布する画素は、細線の画像を形成する、空間混合領域に属する画素であり、各画素値毎の画素数は少ないが、広い画素値の範囲に分布している。
【０９００】
ところで、現実世界の画像における背景と細線のそれぞれのレベルは、例えば、図１３１Ａで示される矢印方向（Ｙ座標方向）に見ると、図１３１Ｂで示されるように変化することになる。すなわち、矢印の起点から細線までの背景領域では、比較的レベルの低い背景レベルとなり、細線の領域では、レベルの高い細線のレベルとなり、細線領域を通過して再び背景領域に戻ると、レベルの低い背景のレベルとなる。結果として、細線領域のみが高いレベルとなるパルス状の波形となる。
【０９０１】
これに対して、センサ２で撮像された画像のうち、図１３１Ａ中の矢印の向きに対応する、図１３２Ａの空間方向Ｘ＝Ｘ１上の画素（図１３２Ａにおいては、黒丸で示されている画素）の画素値と、その画素の空間方向Ｙの関係は、図１３２Ｂに示されるようになる。尚、図１３２Ａにおいて、右上がりの２本の白線の間が、現実世界の画像上における細線を示している。
【０９０２】
すなわち、図１３２Ｂで示されるように、図１３２Ａ中の中央の画素に対応する画素が最も高い画素値をとるため、各画素の画素値は、空間方向Ｙの位置が、図中の下部から中央の画素に向かうに連れて高くなり、中央の位置を通過すると、徐々に減少することになる。結果として、図１３２Ｂで示すように、山型の波形が形成される。また、図１３２Ａの空間方向Ｘ＝Ｘ０，Ｘ２に対応する各画素の画素値の変化は、空間方向Ｙのピーク位置が、細線の傾きに応じてずれるものの、同様の外形となる。
【０９０３】
例えば、図１３３Ａで示されるような、実際にセンサ２により撮像された画像における場合においても、図１３３Ｂで示されるように、同様の結果が得られる。すなわち、図１３３Ｂは、図１３３Ａの画像中の白線で囲まれる範囲の細線付近の画素値を所定の空間方向Ｘ（図中では、Ｘ＝５６１，５６２，５６３）毎の、空間方向Ｙに対応した画素値の変化を示している。このように、実際のセンサ２により撮像された画像においても、Ｘ＝５６１においては、Ｙ＝７３０付近で、Ｘ＝５６２においては、Ｙ＝７０５付近で、Ｘ＝５６３においては、Ｙ＝６８５付近で、それぞれピークとなる山型の波形となっている。
【０９０４】
このように、現実世界の画像の細線付近のレベルの変化を示す波形はパルス状の波形となるのに対して、センサ２により撮像された画像の画素値の変化を示す波形は山型の波形となる。
【０９０５】
すなわち、換言すれば、現実世界の画像のレベルは、図１３１Ｂで示されるような波形になるべきところが、センサ２により撮像されることにより、撮像された画像は、図１３２Ｂで示されるように、その変化に歪が生じて、現実世界の画像とは異なる（現実世界の情報が欠落した）波形に変化していると言える。
【０９０６】
そこで、このセンサ２により撮像された画像から、現実世界の画像の定常性情報を取得するため、センサ２より取得された画像のデータから現実世界を近似的に記述するためのモデル（図１２３のモデル７０５に相当する）を設定する。例えば、細線の場合、図１３４で示されるように、現実世界の画像を設定する。すなわち、図中左部の背景部分のレベルをＢ１、図中右側の背景部分のレベルをＢ２、細線部分のレベルをＬ、細線の混合比をα、細線の幅をＷ、細線の水平方向に対する角度をθとしてパラメータを設定し、モデル化して、現実世界を近似的に表現する関数を設定し、各パラメータを求めることにより現実世界を近似的に表現する近似関数を求め、その近似関数から細線の方向（傾き、または、基準軸に対する角度）を求める。
【０９０７】
このとき、背景領域は、左部、および、右部は、同一であるものとして近似することができるので、図１３５で示されるように、統一してＢ（＝Ｂ１＝Ｂ２）とする。また、細線の幅を１画素以上であるものとする。このように設定された現実世界をセンサ２で撮像するとき、撮像された画像は、図１３６Ａで示されるように撮像されることになる。尚、図１３６Ａにおいて、右上がりの２本の白線の間が、現実世界の画像上における細線を示している。
【０９０８】
すなわち、現実世界の細線上の位置に存在する画素は、細線のレベルに最も近いレベルとなり、垂直方向（空間方向Ｙの方向）に対して細線から離れるに従って画素値が減少し、細線領域に接することのない位置に存在する画素の画素値、すなわち、背景領域の画素は、背景レベルの画素値となる。このとき、細線領域と背景領域に跨る位置に存在する画素の画素値は、背景レベルの画素値Ｂと、細線レベルの画素値Ｌが、混合比αで混合された画素値となっている。
【０９０９】
このように、撮像された画像の各画素を注目画素とした場合、データ取得部７１２は、その注目画素に対応する取得ブロックの画素を抽出し、その抽出した取得ブロックを構成する画素毎に、ダイナミックレンジブロックを抽出し、そのダイナミックレンジブロックを構成する画素のうちの最大値となる画素値をとる画素と、最小値となる画素値をとる画素とを抽出する。すなわち、図１３６Ａで示すように、取得ブロック中の所定の画素（図中の1マスの中に黒の実線で正方形が記述された画素pix４）に対応したダイナミックレンジブロックの画素（例えば、図中の黒の実線で囲まれた画素pix１乃至７の７画素））が抽出された場合、その各画素に対応する現実世界の画像は、図１３６Ｂで示されるようになる。
【０９１０】
すなわち、図１３６Ｂで示されるように、画素pix１は、左部の略１／８の面積を占める部分が背景領域となり、右部の略７／８の面積を占める部分が細線領域となる。画素pix２は、略全領域が細線領域となる。画素pix３は、左部の略７／８の面積を占める部分が細線領域となり、右部１／８の面積を占める部分が背景領域となる。画素pix４は、左部の略２／３の面積を占める部分が細線領域となり、右部の略１／３の面積を占める部分が背景領域となる。画素pix５は、左部の略１／３の面積を占める部分が細線領域となり、右部の略２／３の面積を占める部分が背景領域となる。画素pix６は、左部の略１／８の面積を占める部分が細線領域となり、右部の略７／８の面積を占める部分が背景領域となる。さらに、画素pix７は、全体が背景領域となる。
【０９１１】
結果として、図１３６で示されるダイナミックレンジブロックの各画素pix１乃至７の画素値は、細線領域と背景領域の面積の比率に対応した混合比で、背景レベルと細線レベルが混合された画素値となる。すなわち、背景レベル：前景レベルの混合比は、画素pix１が略１：７、画素pix２が略０：１、画素pix３が略１：７、画素pix４が略１：２、画素pix５が略２：１、画素pix６が略７：１、および、画素pix７が略１：０となる。
【０９１２】
従って、抽出されたダイナミックレンジブロックの画素pix１乃至７の各画素の画素値は、画素pix２が最も高く、次いで画素pix１，３が続き、以下画素値が高い順に画素pix４，５，６，７となる。従って、図１３６Ｂで示される場合、最大値は、画素pix２の画素値であり、最小値は、画素pix７の画素値となる。
【０９１３】
また、図１３７Ａで示されるように、細線の方向は、画素値の最大値をとる画素が連続する方向であると言えるので、この最大値をとる画素が配置された方向が細線の方向となる。
【０９１４】
ここで、細線の方向を示す傾きＧ_flは、空間方向Ｘの単位距離に対する、空間方向Ｙへの変化（距離の変化）の比であるので、図１３７Ａで示されるような場合、図中の空間方向Ｘへの１画素の距離に対する、空間方向Ｙの距離が傾きＧ_flとなる。
【０９１５】
空間方向Ｘ０乃至Ｘ２の各々の空間方向Ｙに対する画素値の変化は、図１３７Ｂで示されるように、各空間方向Ｘ毎に所定の間隔で山型の波形が繰り返されることになる。上述のように、センサ２により撮像された画像において、細線は、最大値をとる画素が連続する方向であるので、各空間方向Ｘの最大値となる空間方向Ｙの間隔Ｓが、細線の傾きＧ_flとなる。すなわち、図１３７Ｃで示されるように、水平方向に１画素の距離に対する垂直方向の変化量が傾きＧ_flとなる。従って、この細線の傾きＧ_fl（水平方向を基準軸としたときの角度に対応する）は、図１３７Ｃで示すように、その傾きに対応する水平方向を基準軸とした細線の角度をθとして表現する場合、以下の式（６９）で示される関係が成立することになる。
【０９１６】
θ＝Tan^-1（Ｇ_fl）（＝Tan^-1（Ｓ））・・・（６９）
【０９１７】
また、図１３５で示されるようなモデルを設定し、さらに、空間方向Ｙの画素と画素値の関係が、図１３７Ｂで示される山型の波形が、完全な三角波形（立ち上がり、または、立下りが直線的に変化する、二等辺三角形状の波形）であると仮定する場合、図１３８で示すように、所定の注目画素の空間方向Ｘにおける、空間方向Ｙ上に存在する各画素の画素値の最大値をMax＝Ｌ（ここでは、現実世界の細線のレベルに対応する画素値）、最小値をMin＝Ｂ（ここでは、現実世界の背景のレベルに対応する画素値）とするとき、以下の式（７０）で示される関係が成立する。
【０９１８】
Ｌ−Ｂ＝Ｇ_fl×d_y・・・（７０）
【０９１９】
ここで、d_yは、空間方向Ｙの画素間の画素値の差分を示す。
【０９２０】
すなわち、空間方向の傾きＧ_flは、大きいほど細線がより垂直なものに近づくため、山型の波形は、底辺の大きな二等辺三角形状の波形となり、逆に、傾きＳが小さいほど底辺の小さな二等辺三角形状の波形となる。この結果、傾きＧ_flが大きいほど、空間方向Ｙの画素間の画素値の差分d_yは小さく、傾きＳが小さいほど、空間方向Ｙの画素間の画素値の差分d_yは大きくなる。
【０９２１】
そこで、上述の式（７０）の関係が成立する傾きＧ_flを求めることにより、細線の基準軸に対する角度θを求めることが可能となる。式（７０）は、傾きＧ_flを変数とする１変数の関数であるため、注目画素について、周辺の画素間の画素値の（垂直方向の）差分d_y、並びに、最大値、および、最小値の差分（Ｌ−Ｂ）を１組用いれば求めることが可能であるが、上述のように、空間方向Ｙの画素値の変化が完全な三角波形であることを前提とした近似式を用いたものであるので、注目画素に対応する抽出ブロックの各画素についてダイナミックレンジブロックを抽出し、さらに、その最大値と最小値からダイナミックレンジDrを求めるとともに、抽出ブロックの各画素毎の空間方向Ｙの画素間の画素値の差分d_yを用いて、最小自乗法により統計的に求める。
【０９２２】
ここで、最小自乗法による統計的な処理の説明にあたり、まず、抽出ブロック、および、ダイナミックレンジブロックについて、詳細を説明する。
【０９２３】
抽出ブロックは、例えば、図１３９で示すように、注目画素（図中の黒の実線で正方形が描かれているマス目の画素）の、空間方向Ｙについて上下３画素分、空間方向Ｘについて、左右１画素分の合計１５画素などでもよい。また、この場合、抽出ブロックの各画素の画素間の画素値の差分d_yは、例えば、画素pix１１に対応する差分がd_y１１で示されるとき、空間方向Ｘ＝Ｘ０の場合、画素pix１１とpix１２、pix１２とpix１３、pix１３とpix１４、pix １４と pix １５、pix１５とpix１６、pix１６とpix１７の画素間の画素値の差分d_y１１乃至d_y１６が得られることになる。このとき、空間方向Ｘ＝Ｘ１，Ｘ２についても、同様にして画素間の画素値の差分が得られる。結果として、この場合、画素間の画素値の差分d_yは、１８個存在することになる。
【０９２４】
さらに、抽出ブロックの各画素について、ダイナミックレンジブロックの画素が、例えば、画素pix１１については、水平・垂直判定部７１１の判定結果に基づいて、今の場合、垂直方向であると判定されるので、図１３９で示されるように、画素pix１１を含めて、垂直方向（空間方向Ｙ）の上下方向にそれぞれ３画素分のダイナミックレンジブロックＢ１の範囲の７画素であるものとすると、このダイナミックレンジブロックＢ１の画素の画素値の最大値と最小値を求め、さらに、この最大値と最小値から得られるダイナミックレンジをダイナミックレンジDr１１とする。同様にして、抽出ブロックの画素pix１２については、図１３９中のダイナミックレンジブロックＢ２の７画素から同様にしてダイナミックレンジDr１２を求める。このようにして、抽出ブロック内の１８個の画素間差分d_yｉと、対応するダイナミックレンジDrｉとの組み合わせに基づいて、最小自乗法を用いて統計的に傾きＧ_flが求められる。
【０９２５】
次に、１変数の最小自乗法の解法について説明する。尚、ここでは、水平・垂直判定部７１１の判定結果が垂直方向であったものとする。
【０９２６】
１変数の最小自乗法による解法は、例えば、図１４０で示される黒点で示される全ての実測値に対しての距離を最小とする、予測値Dri_cからなる直線の傾きＧ_flを求めるものである。そこで、上述の式（７０）で示される関係から以下のような手法により、傾きＳが求められる。
【０９２７】
すなわち、上述の式（７０）は、最大値と最小値の差分をダイナミックレンジDrとするとき、以下の式（７１）で示すように記述される。
【０９２８】
Dr＝Ｇ_fl×d_y
・・・（７１）
【０９２９】
上述の式（７１）に、抽出ブロックの各画素間についての差分d_yiを代入することによりダイナミックレンジDri_cが求められることになる。従って、各画素について、以下の式（７２）の関係が満たされることになる。
【０９３０】
Dri_c＝Ｇ_fl×d_yi・・・（７２）
【０９３１】
ここで、差分d_yiは、各画素ｉの空間方向Ｙの画素間の画素値の差分（例えば、画素ｉに対して、上方向、または、下方向に隣接した画素との画素間の画素値の差分）であり、Dri_cは、画素ｉについて式（７０）が成立するときに得られるダイナミックレンジである。
【０９３２】
上述のように、ここでいう最小自乗法は、抽出ブロックの画素ｉのダイナミックレンジDri_cと、図１３６を参照して説明した方法で得られる、画素ｉの実測値となるダイナミックレンジDri_rとの差分自乗和Ｑが、画像内のすべての画素において最小となるときの傾きＧ_flを求める方法である。従って、差分自乗和Ｑは以下の式（７３）により求められることになる。
【０９３３】
【数５５】

【０９３４】
式（７３）で示される差分自乗和Ｑは、２次関数であるので、変数Ｇ_fl（傾きＧ_fl）について図１４１で示すような下に凸の曲線となるため、傾きＧ_flが最小となるＧ_flminが最小自乗法の解となる。
【０９３５】
式（７３）で示される差分自乗和Ｑは、変数Ｇ_flで微分されると、以下に示す式（７４）で示されるｄＱ／ｄＧ_flとなる。
【０９３６】
【数５６】

【０９３７】
式（７４）が、０となるＧ_flが図１４１で示す差分自乗和Ｑの最小値をとるＧ_flminとなるので、式（７４）が０となるときの式を展開することにより、以下の式（７５）で傾きＧ_flが求められることになる。
【０９３８】
【数５７】

【０９３９】
上述の式（７５）は、いわゆる、１変数（傾きＧ_fl）の正規方程式となる。
【０９４０】
このようにして、得られた傾きＧ_flを上述の式（６９）に代入することにより、細線の傾きＧ_flに対応する、水平方向を基準軸としたときの細線の角度θを得ることができる。
【０９４１】
尚、以上の説明においては、注目画素が、水平方向を基準軸としたときの角度θが45度≦θ＜135度の範囲となる細線上の画素である場合の例について説明してきたが、例えば、注目画素が、水平方向を基準軸に対する細線の角度θが0度≦θ＜45度、または、135度≦θ＜108度となる、水平方向に近い細線上の画素である場合、画素ｉに隣接する画素間の画素値の差分は、水平方向に隣接する画素間の画素値の差分d_xｉとなり、同様に、画素ｉに対応する複数の画素から画素値の最大値、または、最小値を求める際に、抽出するダイナミックレンジブロックの画素についても、画素ｉに対して水平方向に存在する複数の画素のうちから選択されることになる。この場合の処理については、上述の説明における水平方向と垂直方向の関係が入れ替わるのみであるので、その説明は省略する。
【０９４２】
また、同様の手法により、２値エッジの傾きに対応する角度を求めることも可能である。
【０９４３】
すなわち、図１４２Ａで示されるような入力画像中の白線により囲まれる部分を拡大すると、画像中のエッジ部分（図中、黒地の旗に描かれた「十」という白で描かれた文字の下の部分）（以下、このように、２値のレベルからなる画像上のエッジ部分を２値エッジとも称する）は、実際には、図１４２Ｂで示されるように表示されている。すなわち、現実世界においては、図１４２Ｃで示されるように、画像では、第１のレベル（旗の地のレベル）と、第２のレベル（文字のレベル（図１４２Ｃ中では濃度の薄い斜線部））との２種類のレベルからなる境界が形成されており、その他のレベルが存在しない。これに対して、センサ２により撮像された画像、すなわち、画素単位で撮像された画像は、図１４２Ｂで示されるように、第１のレベルと第２のレベルとが空間的に混合した画素が、その比率（混合比）を一定のパターンで変化するように縦方向に配置された複数の画素からなるブロックがエッジが構成されている方向に繰り返して配置されたような領域を境とした第１のレベルの画素が配置される部分と、第２のレベルの画素が配置される部分とが存在する画像となる。
【０９４４】
すなわち、図１４３Ａで示されるように、空間方向Ｘ＝Ｘ０，Ｘ１，Ｘ２について、それぞれの空間方向Ｙへの画素値の変化は、図１４３Ｂ中では、各画素値は、図中の下から２値エッジ（図１４３Ａ中の右上がりの直線）の境界手前付近までは、所定の最小値の画素値になっているが、２値エッジの境界手前付近で、画素値が徐々に増大し、エッジを越えると図中の点Ｐ_Eにおいて、画素値が所定の最大値となる。より詳細には、空間方向Ｘ＝Ｘ０の変化は、図１４３Ｂで示されるように、画素値の最小値となる点Ｐ_Sを通過した後、徐々に画素値が増大し、画素値の最大値となる点Ｐ０となる。これに対して、空間方向Ｘ＝Ｘ１に対応する各画素の画素値の変化は、空間方向にずれた波形となるため、図１４３Ｂで示されるように、画素値の最小値から徐々に画素値が増大する位置が空間方向Ｙの正方向にずれて、図中の点Ｐ１を経由して、画素値の最大値にまで増大する。さらに、空間方向Ｘ＝Ｘ２における空間方向Ｙの画素値の変化は、空間方向Ｙの正の方向にさらにずれ込んだ図中の点Ｐ２を経由して減少し、画素値の最大値から最小値となる。
【０９４５】
これは、実際の画像中の白線で囲まれる部分においても、同様の傾向が見られる。すなわち、図１４４Ａの実際の画像中の白線で囲まれる部分（３１画素×３１画素の画像）において、背景部分（図１４４Ａ中では、黒色に見える部分）は、図１４４Ｂで示されるように、画素値の低い（画素値が９０付近の）画素数が多く分布しており、これらの変化の少ない部分が、背景領域の画像を形成する。これに対して、図１４４Ｂの画素値が低くない部分、すなわち、画素値が１００付近乃至２００付近に分布する画素は、文字領域と背景領域との空間混合領域に属する画素の分布であり、各画素値毎の画素数は少ないが、広い画素値の範囲に分布している。さらに、画素値の高い文字領域（図１４４Ａ中では、白色に見える部分）の画素が、２２０で示される画素値の付近に多く分布している。
【０９４６】
この結果、図１４５Ａで示されるエッジ画像における所定の空間方向Ｘに対する、空間方向Ｙの画素値の変化は、図１４５Ｂで示されるようになものとなる。
【０９４７】
すなわち、図１４５Ｂは、図１４５Ａの画像中の白線で囲まれる範囲のエッジ付近の画素値を所定の空間方向Ｘ（図中では、Ｘ＝６５８，６５９，６６０）毎の、空間方向Ｙに対応した画素値の変化を示している。このように、実際のセンサ２により撮像された画像においても、Ｘ＝６５８において、画素値は、Ｙ＝３７４付近で増大を開始し（図中、黒丸で示される分布）、Ｘ＝３８２付近で最大画素値に到達する。また、Ｘ＝６５９においては、空間方向Ｙに対して正方向にずれ込んで、画素値は、Ｙ＝３７８付近で増大を開始し（図中、黒三角で示される分布）、Ｘ＝３８６付近で最大画素値に到達する。さらに、Ｘ＝６６０においては、空間方向Ｙに対して、さらに、正方向にずれ込んで、画素値は、Ｙ＝３８２付近で増大を開始し（図中、黒四角で示される分布）、Ｘ＝３９０付近で最大画素値に到達する。
【０９４８】
そこで、このセンサ２により撮像された画像から、現実世界の画像の定常性情報を取得するため、センサ２より取得された画像のデータから現実世界を近似的に記述するためのモデルを設定する。例えば、２値エッジの場合、図１４６で示すように、現実世界の画像を設定する。すなわち、図中左部の背景部分のレベルをＶ１、図中右側の文字部分のレベルをＶ２、２値エッジ付近の画素間の混合比をα、エッジの水平方向に対する角度をθとしてパラメータを設定し、モデル化して、現実世界を近似的に表現する関数を設定し、各パラメータを求めることにより現実世界を近似的に表現する関数を求め、その近似関数からエッジの方向（傾き、または、基準軸に対する角度）を求める。
【０９４９】
ここで、エッジの方向を示す傾きは、空間方向Ｘの単位距離に対する、空間方向Ｙへの変化（距離の変化）の比であるので、図１４７Ａで示されるような場合、図中の空間方向Ｘへの１画素の距離に対する、空間方向Ｙの距離が傾きとなる。
【０９５０】
空間方向Ｘ０乃至Ｘ２の各々の空間方向Ｙに対する画素値の変化は、図１４７Ｂで示されるように、各空間方向Ｘ毎に所定の間隔で同様の波形が繰り返されることになる。上述のように、センサ２により撮像された画像において、エッジは、類似した画素値の変化（今の場合、最小値から最大値へと変化する、所定の空間方向Ｙ上の画素値の変化）が空間的に連続する方向であるので、各空間方向Ｘにおいて、空間方向Ｙの画素値の変化が開始される位置、または、変化が終了する位置となる空間方向Ｙの間隔Ｓが、エッジの傾きＧ_feとなる。すなわち、図１４７Ｃで示されるように、水平方向に１画素の距離に対する垂直方向の変化量が傾きＧ_feとなる。
【０９５１】
ところで、この関係は、図１３７Ａ乃至Ｃを参照して上述した細線の傾きＧ_flにおける関係と同様である。従って、その関係式についても、同様のものとなる。すなわち、２値エッジにおける場合の関係式は、図１４８で示すものとなり、背景領域の画素値をＶ１、文字領域の画素値をＶ２、それぞれは最小値、および、最大値となる。また、エッジ付近の画素の混合比をαとし、エッジの傾きをＧ_feとおけば、成立する関係式は、上述の式（６９）乃至式（７１）と同様となる（ただし、Ｇ_flは、Ｇ_feに置き換えられる）。
【０９５２】
このため、図１２４で示されるデータ定常性検出部１０１は、同様の処理により、細線の傾きに対応する角度、および、エッジの傾きに対応する角度を、データ定常性情報として検出することができる。そこで、以下においては、傾きは、細線の傾きと、２値エッジの傾きとを総称して、傾きＧ_fと称する。また、上述の式（７３）乃至式（７５）の式における傾きＧ_flは、Ｇ_feであってもよいものであり、結果として、傾きＧ_fと置き換えて考えるものとする。
【０９５３】
次に、図１４９のフローチャートを参照して、データ定常性の検出の処理を説明する。
【０９５４】
ステップＳ７０１において、水平・垂直判定部７１１は、入力画像の各画素を識別するカウンタＴを初期化する。
【０９５５】
ステップＳ７０２において、水平・垂直判定部７１１は、後段の処理に必要なデータの抽出処理を実行する。
【０９５６】
ここで、図１５０のフローチャートを参照して、データを抽出する処理について説明する。
【０９５７】
ステップＳ７１１において、データ選択部７０１の水平・垂直判定部７１１は、各注目画素Ｔについて、図１２５を参照して説明したように、水平方向、垂直方向、および対角方向に隣接する９画素の水平方向に隣接する画素間の画素値の差分（アクティビティ）の和hdiffと、垂直方向に隣接する画素間の画素値の差分（アクティビティ）の和vdiffとを演算し、さらに、その差分（hdiff−vdiff）を求め、差分（hdiff−vdiff）≧０の場合、その注目画素Ｔが、水平方向を基準軸としたとき、その基準軸との角度θが45度≦θ＜135度となる、垂直方向に近い細線、または、２値エッジ付近の画素であるものとみなし、使用する抽出ブロックを垂直方向に対応したものとする判定結果をデータ取得部７１２、および、データ足し込み部７０２に出力する。
【０９５８】
一方、差分（hdiff−vdiff）＜０の場合、水平・垂直判定部７１１は、その注目画素が、水平方向を基準軸にしたとき、その基準軸との細線、または、２値エッジのなす角度θが0度≦θ＜45度、または、135度≦θ＜180度となる、水平方向に近い細線、または、エッジ付近の画素であるものとみなし、使用する抽出ブロックを水平方向に対応したものとする判定結果をデータ取得部７１２、および、データ足し込み部７０２に出力する。
【０９５９】
すなわち、細線、または、２値エッジの傾きが垂直方向に近いと言うことは、例えば、図１３１Ａで示されているように、図中の矢印が細線と交差する部分が増えることになるため、垂直方向の画素数を多めにした抽出ブロックを設定する（縦長な抽出ブロックを設定する）。同様にして、細線の傾きが水平方向に近い場合についても、水平方向の画素数を多めにした抽出ブロックを設定するようにする（横長な抽出ブロックを設定する）。このようにすることにより、不要な計算量を増やすことなく、正確な最大値と最小値の演算が可能となる。
【０９６０】
ステップＳ７１２において、データ取得部７１２は、注目画素について水平・垂直判定部７１１より入力される水平方向、または、垂直方向の判定結果に対応した抽出ブロックの画素を抽出する。すなわち、例えば、図１３９で示されるように、注目画素を中心として、（水平方向に３画素）×（垂直方向に７画素）の合計２１画素を抽出ブロックとして抽出し、記憶する。
【０９６１】
ステップＳ７１３において、データ取得部７１２は、抽出ブロックの各画素について、水平・垂直判定部７１１の判定結果に対応した方向に対応するダイナミックレンジブロックの画素を抽出し、記憶する。すなわち、図１３９を参照して、上述したように、例えば、抽出ブロックの画素pix１１については、今の場合、水平・垂直判定部７１１の判定結果が垂直方向になるので、データ取得部７１２は、垂直方向に、ダイナミックレンジブロックＢ１を、同様にして、画素pix１２は、ダイナミックレンジブロックＢ２を抽出する。その他の抽出ブロックについても同様にしてダイナミックレンジブロックが抽出される。
【０９６２】
すなわち、このデータ抽出処理により、所定の注目画素Ｔについて、正規方程式の演算に必要な画素の情報がデータ取得部７１２に蓄えられることになる（処理される領域が選択されることになる）。
【０９６３】
ここで、図１４９のフローチャートの説明に戻る。
【０９６４】
ステップＳ７０３において、データ足し込み部７０２は、正規方程式（ここでは、式（７４））の演算の各項に必要な値の足し込み処理を実行する。
【０９６５】
ここで、図２４のフローチャートを参照して、正規方程式への足し込み処理について説明する。
【０９６６】
ステップＳ７２１において、差分足し込み部７２１は、データ選択部７０１の水平・垂直判定部７１１の判定結果に応じて、データ取得部７１２に記憶されている抽出ブロックの画素間の画素値の差分を求め（検出し）、さらに、２乗（自乗）して足し込む。すなわち、水平・垂直判定部７１１の判定結果が垂直方向である場合、差分足し込み部７２１は、抽出ブロックの各画素について垂直方向に隣接する画素間の画素値の差分を求めて、さらに２乗して足し込む。同様にして、水平・垂直判定部７１１の判定結果が水平方向である場合、差分足し込み部７２１は、抽出ブロックの各画素について水平方向に隣接する画素間の画素値の差分を求めて、さらに２乗して足し込む。結果として、差分足し込み部７２１は、上述の式（７５）の分母となる項の差分の自乗和を生成し、記憶する。
【０９６７】
ステップＳ７２２において、MaxMin取得部７２２は、データ取得部７１２に記憶されたダイナミックレンジブロックに含まれる画素の画素値の最大値と最小値を取得し、ステップＳ７２３において、その最大値と最小値との差分からダイナミックレンジを求め（検出し）、差分足し込み部７２３に出力する。すなわち、図１３６Ｂで示されているような、画素pix１乃至７からなる７画素のダイナミックレンジブロックの場合、pix２の画素値が最大値として検出され、pix７の画素が最小値として検出され、これらの差分がダイナミックレンジとして求められる。
【０９６８】
ステップＳ７２４において、差分足し込み部７２３は、データ取得部７１２に記憶されている抽出ブロックの画素間のうち、データ選択部７０１の水平・垂直判定部７１１の判定結果に対応する方向に隣接する画素間の画素値の差分を求め（検出し）、MaxMin取得部７２２より入力されたダイナミックレンジを乗じた値を足し込む。すなわち、差分足し込み部７２１は、上述の式（７５）の分子となる項の和を生成し、記憶する。
【０９６９】
ここで、図１４９のフローチャートの説明に戻る。
【０９７０】
ステップＳ７０４において、差分足し込み部７２１は、抽出ブロックの全ての画素の画素間の画素値の差分（水平・垂直判定部７１１の判定結果に対応する方向に隣接する画素間の画素値の差分）を足し込んだか否かを判定し、例えば、抽出ブロックの全ての画素の画素間の差分を足し込んでいないと判定した場合、その処理は、ステップＳ７０２に戻り、それ以降の処理が繰り返される。すなわち、抽出ブロックの全ての画素の画素間の画素値の差分が足し込まれたと判定されるまで、ステップＳ７０２乃至Ｓ７０４の処理が繰り返される。
【０９７１】
ステップＳ７０４において、抽出ブロックの全ての画素の画素間の画素値の差分が足し込まれたと判定された場合、ステップＳ７０５にいて、差分足し込み部７２１，７２３は、自らで記憶している足し込み結果を定常方向導出部７０３に出力する。
【０９７２】
ステップＳ７０６において、定常方向演算部７３１は、データ足し込み部７０２の差分足し込み部７２１より入力された、取得ブロックの各画素間のうち、水平・垂直判定部７１１により判定された方向に隣接する画素間の画素値の差分の自乗和、差分足し込み部７２３より入力された、取得ブロックの各画素間のうち、水平・垂直判定部７１１により判定された方向に隣接する画素間の画素値の差分、および、取得ブロックの各画素に対応するダイナミックレンジとの積の和に基づいて、上述の式（７５）で示した正規方程式を解くことにより、最小自乗法を用いて統計的に注目画素のデータ定常性情報である、定常性の方向を示す角度（細線、または、２値エッジの傾きを示す角度）を演算し、出力する。
【０９７３】
ステップＳ７０７において、データ取得部７１２は、入力画像の全ての画素について処理が行われたか否かを判定し、例えば、入力画像の全ての画素について処理が行われていない、すなわち、入力画像の全ての画素について、細線、または、２値エッジの角度の情報を出力していないと判定した場合、ステップＳ７０８において、カウンタＴを１インクリメントして、その処理は、ステップＳ７０２に戻る。すなわち、入力画像のうちの処理しようとする画素が変更されて、入力画像の全ての画素について処理がなされるまで、ステップＳ７０２乃至Ｓ７０８の処理が繰り返されることになる。このカウンタＴによる画素の変化は、例えば、ラスタスキャンなどであってもよいし、それ以外の規則により順次変化していくものであってもよい。
【０９７４】
ステップＳ７０７において、入力画像の全ての画素について処理がなされたと判定された場合、ステップＳ７０９において、データ取得部７１２は、次の入力画像があるか否かを判定し、次の入力画像があると判定された場合、その処理は、ステップＳ７０１に戻り、それ以降の処理が繰り返される。
【０９７５】
ステップＳ７０９において、次の入力画像はないと判定された場合、その処理は、終了する。
【０９７６】
以上の処理により、細線、または、２値エッジの角度が、定常性情報として検出されて、出力される。
【０９７７】
このように統計的処理により得られる細線、または、エッジの傾きの角度は、相関を用いて得られる細線、または、２値エッジの角度とほぼ一致する。すなわち、図１５２Ａで示すような画像の白線で囲まれる範囲の画像について、細線上の所定の水平方向の座標上の空間方向Ｙへの傾きの変化は、図１５２Ｂで示されるように、相関を用いた方法により得られる細線の傾きを示す角度（図中の黒丸印）と、図１２４で示されたデータ定常性検出部１０１により統計処理により得られる細線の角度（図中の黒三角印）は、細線近傍の空間方向Ｙの座標上で、それぞれがほぼ一致している。尚、図１５２Ｂにおいては、図中の黒実線で挟まれた空間方向Ｙ＝６８０乃至７３０が細線上の座標である。
【０９７８】
同様にして、図１５３Ａで示すような画像の白線で囲まれる範囲の画像について、２値エッジ上の所定の水平方向の座標上の空間方向Ｙへの傾きの変化は、図１５３Ｂで示されるように、相関を用いた方法により得られる２値エッジの傾きを示す角度（図中の黒丸印）と、図１２４で示されたデータ定常性検出部１０１により統計処理により得られる２値エッジの角度（図中の黒三角印）は、細線近傍の空間方向Ｙの座標上で、それぞれがほぼ一致している。尚、図１５３Ｂにおいては、空間方向Ｙ＝３７６（付近）乃至３８８（付近）が細線上の座標であるである。
【０９７９】
結果として、図１２４に示されるデータ定常性検出部１０１は、データの定常性として細線、または、２値エッジの角度を求める際、所定の画素からなるブロックによる相関を用いる方法と異なり、各画素の周辺の情報を用いて、統計的に細線、または、２値エッジの傾きを示す角度（ここでは、水平方向を基準軸とした角度）を求めることができるので、相関を用いた方法に見られるように、所定の角度の範囲に応じて切り替わることが無いので、全ての細線、または、２値エッジの傾きの角度を同一の処理により求めることが可能となるため、処理を簡単なものとすることが可能となる。
【０９８０】
また、以上においては、データ定常性検出部１０１は、細線、または、２値エッジの所定の基準軸とのなす角度を定常性情報として出力する例について説明してきたが、後段の処理によっては、傾きをそのまま出力する方が、処理効率が向上することも考えられる。そのような場合、データ定常性検出部１０１の定常方向導出部７０３の定常方向演算部７３１は、最小自乗法により求められた細線、または、２値エッジの傾きＧ_fを、そのまま定常性情報として出力するようにしてもよい。
【０９８１】
さらに、以上においては、式（７５）において、ダイナミックレンジDri_rは、抽出ブロックの各画素について求められるものとして演算してきたが、このダイナミックレンジは、ダイナミックレンジブロックを十分に大きく設定することにより、すなわち、多くの注目画素について、その周辺の多くの画素を用いて設定することにより、画像中の画素の画素値の最大値と最小値が、常に選択されることになるはずである。従って、ダイナミックレンジDri_rは、抽出ブロックの各画素について演算することなく、抽出ブロック中、または、画像データ中の画素の最大値と最小値から得られるダイナミックレンジを固定値として演算するようにしてもよい。
【０９８２】
すなわち、以下の式（７６）のように、画素間の画素値の差分のみを足し込むことにより細線の角度θ（傾きＧ_f）を求めるようにしてもよい。このように、ダイナミックレンジを固定することにより、演算処理をより簡素化することができ、高速で処理を行うことが可能となる。
【０９８３】
【数５８】

【０９８４】
次に、図１５４を参照して、データ定常性情報として、各画素の混合比を検出するデータ定常性検出部１０１について説明する。
【０９８５】
尚、図１５４のデータ定常性検出部１０１においては、図１２４のデータ定常性検出部１０１における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【０９８６】
図１５４のデータ定常性検出部１０１において、図１２４のデータ定常性検出部１０１と異なるのは、データ足し込み部７０２、および、定常性方向導出部７０３に代えて、データ足し込み部７５１、および、混合比導出部７６１が設けられている点である。
【０９８７】
データ足し込み部７５１のMaxMin取得部７５２は、図１２４におけるMaxMin取得部７２２と同様の処理を行うものであるが、ダイナミックレンジブロックの各画素の画素値の最大値と最小値を取得し、最大値と最小値の差分（ダイナミックレンジ）を求め、足し込み部７５３，７５５に出力すると共に、最大値を差分演算部７５４に出力する。
【０９８８】
足し込み部７５３は、MaxMin取得部より入力された値を自乗して、抽出ブロックの全ての画素について足し込み、その和を求めて、混合比導出部７６１に出力する。
【０９８９】
差分演算部７５４は、データ取得部７１２の取得ブロックの各画素について、対応するダイナミックレンジブロックの最大値との差分を求めて、足し込み部７５５に出力する。
【０９９０】
足し込み部７５５は、取得ブロックの各画素について、MaxMin取得部７５２より入力された最大値と最小値の差分（ダイナミックレンジ）と、差分演算部７５４より入力された取得ブロックの各画素の画素値と、対応するダイナミックレンジブロックの最大値との差分と乗じて、その和を求め、混合比導出部７６１に出力する。
【０９９１】
混合比導出部７６１の混合比算出部７６２は、データ足し込み部の足し込み部７５３，７５５のそれぞれより入力された、値に基づいて、注目画素の混合比を最小自乗法により統計的に求め、データ定常性情報として出力する。
【０９９２】
次に、混合比の導出方法について説明する。
【０９９３】
図１５５Ａで示されるように、画像上に細線が存在する場合、センサ２で撮像された画像は、図１５５Ｂで示されるような画像となる。個の画像について、図１５５Ｂの空間方向Ｘ＝Ｘ１上の黒の実線で囲まれた画素について注目する。尚、図１５５Ｂの白線ではさまれた範囲は、細線領域に対応する位置を示す。この画素の画素値Ｍは、背景領域のレベルに対応する画素値Ｂと、細線領域のレベルに対応する画素値Ｌの中間色となっているはずであり、さらに詳細には、この画素値Ｐ_Sは、背景領域と細線領域の面積比で、それぞれのレベルが混合されているはずである。従って、この画素値Ｐ_Sは、以下の式（７７）により表現される。
【０９９４】
Ｐ_S＝α×B＋（１−α）×L・・・（７７）
【０９９５】
ここで、αは、混合比であり、より具体的には、注目されている画素中の背景領域の占める面積の割合を示すものである。従って、（１−α）は、細線領域の占める面積の割合を示しているともいえる。尚、背景領域の画素は、背景に存在するオブジェクトの成分とも考えられるので、背景オブジェクト成分とも言える。また、細線領域の画素は、背景オブジェクトに対して前景オブジェクトの成分であると考えられるので、前景オブジェクト成分とも言える。
【０９９６】
この結果、混合比αは、式（７７）を展開することにより、以下の式（７８）で表現できることになる。
【０９９７】
α＝（Ｐ_S−L）／（B−L）・・・（７８）
【０９９８】
さらに、今の場合、画素値は、第１の画素値（画素値Ｂ）の領域と第２の画素値（画素値Ｌ）の領域とをまたいだ位置に存在することが前提であるので、画素値Ｌは、画素値の最大値Maxで置き換えることができ、さらに、画素値Ｂは、画素値の最小値と置き換えることができる。従って、混合比αは、以下の式（７９）でも表現することができる。
【０９９９】
α＝（Ｐ_S−Max）／（Min−Max）・・・（７９）
【１０００】
以上の結果、混合比αは、注目画素についてのダイナミックレンジブロックのダイナミックレンジ（（Min−Max）に相当する）と、注目画素と、ダイナミックレンジブロック内の画素の最大値との差分から求めることが可能となるが、より精度を向上させるため、ここでは、最小自乗法により統計的に混合比αを求める。
【１００１】
すなわち、上述の式（７９）は、展開すると以下の式（８０）となる。
【１００２】
（Ｐ_S−Max）＝α×（Min−Max）・・・（８０）
【１００３】
この式（８０）は、上述の式（７１）と同様の１変数の最小自乗法の式となる。すなわち、式（７１）においては、最小自乗法により傾きＧ_fが求められていたが、ここでは、混合比αが求められることになる。従って、以下の式（８１）で示される正規方程式を解くことにより、混合比αは、統計的に求められる。
【１００４】
【数５９】

【１００５】
ここで、ｉは、抽出ブロックの各画素を識別するものである。従って、式（８１）においては、抽出ブロックの画素数はｎである。
【１００６】
次に、図１５６のフローチャートを参照して、混合比をデータ定常性としたときのデータ定常性の検出の処理について説明する。
【１００７】
ステップＳ７３１において、水平・垂直判定部７１１は、入力画像の各画素を識別するカウンタｕを初期化する。
【１００８】
ステップＳ７３２において、水平・垂直判定部７１１は、後段の処理に必要なデータの抽出処理を実行する。尚、ステップＳ７３２の処理は、図１５０のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
【１００９】
ステップＳ７３３において、データ足し込み部７５１は、正規方程式（ここでは、式（８１））の演算の各項に必要な値の足し込み処理を実行する。
【１０１０】
ここで、図１５７のフローチャートを参照して、正規方程式への足し込み処理について説明する。
【１０１１】
ステップＳ７５１において、MaxMin取得部７５２は、データ取得部７１２に記憶されたダイナミックレンジブロックに含まれる画素の画素値の最大値と最小値を取得し、そのうち、最小値を差分演算部７５４に出力する。
【１０１２】
ステップＳ７５２において、MaxMin取得部７５２は、その最大値と最小値との差分からダイナミックレンジを求め、差分足し込み部７５３，７５５に出力する。
【１０１３】
ステップＳ７５３において、足し込み部７５３は、MaxMin取得部７５２より入力されたダイナミックレンジ（Max−Min）を自乗して、足し込む。すなわち、足し込み部７５３は、上述の式（８１）の分母に相当する値を足し込みにより生成する。
【１０１４】
ステップＳ７５４において、差分演算部７５４は、MaxMin取得部７５２より入力されたダイナミックレンジブロックの最大値と、抽出ブロックにおける今現在処理中の画素の画素値との差分を求めて、足し込み部７５５に出力する。
【１０１５】
ステップＳ７５５において、足し込み部７５５は、MaxMin取得部７５２より入力されたダイナミックレンジと、差分演算部７５４より入力された、今現在処理している画素の画素値と、ダイナミックレンジブロックの画素のうち最大値となる値との差分を乗じて、足し込む。すなわち、足し込み部７５５は、上述の式（８１）の分子の項に相当する値を生成する。
【１０１６】
以上のように、データ足し込み部７５１は、足し込み処理により、上述の式（８１）の各項の演算を実行する。
【１０１７】
ここで、図１５６のフローチャートの説明に戻る。
【１０１８】
ステップＳ７３４において、差分足し込み部７２１は、抽出ブロックの全ての画素について、足し込みが終了したか否かを判定し、例えば、抽出ブロックの全ての画素についての足し込み処理が終了していないと判定した場合、その処理は、ステップＳ７３２に戻り、それ以降の処理が繰り返される。すなわち、抽出ブロックの全ての画素について、足し込み処理が終了したと判定されるまで、ステップＳ７３２乃至Ｓ７３４の処理が繰り返される。
【１０１９】
ステップＳ７３４において、抽出ブロックの全ての画素について足し込みが終了したと判定された場合、ステップＳ７３５にいて、足し込み部７５３，７５５は、自らで記憶している足し込み結果を混合比導出部７６１に出力する。
【１０２０】
ステップＳ７３６において、混合比導出部７６１の混合比算出部７６２は、データ足し込み部７５１の足し込み部７５３，７５５より入力された、ダイナミックレンジの自乗和、および、抽出ブロックの各画素の画素値とダイナミックレンジブロックの最大値との差分と、ダイナミックレンジとを乗じた和に基づいて、上述の式（８１）で示した正規方程式を解くことにより、最小自乗法を用いて統計的に注目画素のデータ定常性情報である、混合比を演算し、出力する。
【１０２１】
ステップＳ７３７において、データ取得部７１２は、入力画像の全ての画素について処理が行われたか否かを判定し、例えば、入力画像の全ての画素について処理が行われていない、すなわち、入力画像の全ての画素について、混合比を出力していないと判定した場合、ステップＳ７３８において、カウンタｕを１インクリメントして、その処理は、ステップＳ７３２に戻る。
【１０２２】
すなわち、入力画像のうちの処理しようとする画素が変更されて、入力画像の全ての画素について混合比が演算されるまで、ステップＳ７３２乃至Ｓ７３８の処理が繰り返されることになる。このカウンタｕによる画素の変化は、例えば、ラスタスキャンなどであってもよいし、それ以外の規則により順次変化していくものであってもよい。
【１０２３】
ステップＳ７３７において、入力画像の全ての画素について処理がなされたと判定された場合、ステップＳ７３９において、データ取得部７１２は、次の入力画像があるか否かを判定し、次の入力画像があると判定された場合、その処理は、ステップＳ７３１に戻り、それ以降の処理が繰り返される。
【１０２４】
ステップＳ７３９において、次の入力画像はないと判定された場合、その処理は、終了する。
【１０２５】
以上の処理により、各画素の混合比が、定常性情報として検出されて、出力される。
【１０２６】
以上の手法により、例えば、図１５８Ａで示される画像中の白線内の細線の画像について、所定の空間方向Ｘ（＝５６１，５６２，５６３）上の混合比の変化が、図１５８Ｂに示されている。図１５８Ｂで示されるように、水平方向に連続する空間方向Ｙの混合比の変化は、それぞれ、空間方向Ｘ＝５６３の場合、混合比は、空間方向Ｙ＝６６０付近で立ち上がり、Ｙ＝６８５付近でピークとなり、Ｙ＝７１０まで減少する。また、空間方向Ｘ＝５６２の場合、混合比は、空間方向Ｙ＝６８０付近で立ち上がり、Ｙ＝７０５付近でピークとなり、Ｙ＝７３５まで減少する。さらに、空間方向Ｘ＝５６１の場合、混合比は、空間方向Ｙ＝７０５付近で立ち上がり、Ｙ＝７２５付近でピークとなり、Ｙ＝７５５まで減少する。
【１０２７】
このように、図１５８Ｂで示されるように、連続する空間方向Ｘのそれぞれの混合比の変化は、混合比により変化する画素値の変化（図１３３Ｂで示した画素値の変化）と同様の変化であり、周期的に連続していることから、細線近傍の画素の混合比が正確に表現されていることが分かる。
【１０２８】
また、同様にして、図１５９Ａで示される画像中の白線内の２値エッジの画像について、所定の空間方向Ｘ（＝６５８，６５９，６６０）上の混合比の変化が、図１５９Ｂに示されている。図１５９Ｂで示されるように、水平方向に連続する空間方向Ｙの混合比の変化は、それぞれ、空間方向Ｘ＝６６０の場合、混合比は、空間方向Ｙ＝７５０付近で立ち上がり、Ｙ＝７６５付近でピークとなる。また、空間方向Ｘ＝６５９の場合、混合比は、空間方向Ｙ＝７６０付近で立ち上がり、Ｙ＝７７５付近でピークとなる。さらに、空間方向Ｘ＝６５８の場合、混合比は、空間方向Ｙ＝７７０付近で立ち上がり、Ｙ＝７８５付近でピークとなる。
【１０２９】
このように、図１５９Ｂで示されるように、２値エッジの混合比の変化は、混合比により変化する画素値の変化（図１４５Ｂで示した画素値の変化）と同様の変化とほぼ同様であり、周期的に連続していることから、２値エッジ近傍の画素値の混合比が正確に表現されていることが分かる。
【１０３０】
以上によれば、最小自乗法により統計的にデータ定常性情報として、各画素の混合比を求めることが可能となる。さらに、この混合比に基づいて、各画素の画素値を直接生成することが可能となる。
【１０３１】
また、混合比の変化が、定常性を有するものであり、さらに、この混合比の変化が直線的なもので近似すると、以下の式（８２）で示されるような関係が成立する。
【１０３２】
α＝ｍ×ｙ＋ｎ・・・（８２）
【１０３３】
ここで、ｍは、混合比αが、空間方向Ｙに対して変化するときの傾きを示し、また、ｎは、混合比αが直線的に変化するときの切片に相当するものである。
【１０３４】
すなわち、図１６０で示されるように、混合比を示す直線は、背景領域のレベルに相当する画素値Ｂと、細線のレベルに相当するレベルＬの境界を示す直線であり、この場合、空間方向Ｙについて単位距離進んだときの混合比の変化量が傾きｍとなる。
【１０３５】
そこで、式（８２）を、式（７７）に代入すると以下の式（８３）が導出される。
【１０３６】
M＝（ｍ×ｙ＋ｎ）×Ｂ＋（１−（ｍ×ｙ＋ｎ））×Ｌ・・・（８３）
【１０３７】
さらに、この式（８３）を展開すると、以下の式（８４）が導出される。
【１０３８】
M−L＝（ｙ×B−ｙ×L）×ｍ＋（B−L）×ｎ・・・（８４）
【１０３９】
式（８４）においては、第１項のｍが、混合比の空間方向の傾きを示し、第２項ｎが混合比の切片を示す項である。従って、上述の式（８４）のｍ，ｎを２変数の最小自乗法を用いて、正規方程式を生成し、求めるようにすることもできる。
【１０４０】
しかしながら、混合比αの傾きｍは、上述した細線や２値エッジの傾き（上述の傾きＧ_f）そのものであるので、予め、上述の方法を用いて、細線、または、２値エッジの傾きＧ_fを求めた後、その傾きを用いて、式（８４）に代入することにより、切片の項についての１変数の関数とし、上述した手法と同様に、１変数の最小自乗法により求めるようにしてもよい。
【１０４１】
以上の例においては、空間方向の細線、または、２値エッジの角度（傾き）、または、混合比をデータ定常性情報として検出するデータ定常性検出部１０１について説明してきたが、例えば、空間内の軸（空間方向Ｘ，Ｙ）のいずれかを、時間方向（フレーム方向）Ｔの軸に置き換えることにより得られる、空間方向における角度に対応するものであってもよい。すなわち、空間内の軸（空間方向Ｘ，Ｙ）のいずれかを、時間方向（フレーム方向）Ｔの軸に置き換えることにより得られる角度に対応するものとは、物体の動きベクトル（動きベクトルの方向）である。
【１０４２】
より具体的には、図１６１Ａで示すように、物体が、時間が進むにつれて空間方向Ｙについて、図中の上方向に移動している場合、図中の細線に相当する部分（図１３１Ａとの比較）には、物体の移動の軌跡が現れることになる。従って、時間方向Ｔの細線における傾きは、図１６１Ａにおいては、物体の動く方向（物体の動きを示す角度）を示すもの（動きベクトルの方向と同値のもの）である。従って、現実世界において、図１６１Ａ中の矢印で示される、所定の時刻におけるフレームでは、図１６１Ｂで示すように物体の軌跡となる部分が、物体の（色の）レベルとなり、それ以外の部分が、背景のレベルとなったパルス状の波形となる。
【１０４３】
このように、センサ２により動きのある物体を撮像したした場合、図１６２Ａで示されるように、時刻Ｔ１乃至Ｔ３におけるフレームの各画素の画素値の分布は、図１６２Ｂで示されるように、空間方向Ｙに対して、それぞれ山型の波形をとる。この関係は、図１３２Ａ，Ｂを参照して、説明した空間方向Ｘ，Ｙにおける関係と同様であるものと考えることができる。従って、フレーム方向Ｔに対して、物体に動きがある場合、上述した細線の傾き、または、２値エッジの角度（傾き）の情報と同様の手法により、物体の動きベクトルの方向をデータ定常性情報として求めることも可能である。尚、図１６２Ｂにおいては、フレーム方向Ｔ（時間方向Ｔ）について、各マス目は、１フレームの画像を構成するシャッタ時間となる。
【１０４４】
また、同様にして、図１６３Ａで示されるように、フレーム方向Ｔ毎に、空間方向Ｙについて物体に動きがある場合、図１６３Ｂで示されるように、所定の時刻Ｔ１に相当するフレーム上で空間方向Ｙに向けて、物体の動きに対応して、各画素値が得られることになる。このとき、例えば、図１６３Ｂにおける、黒の実線で囲まれた画素の画素値は、図１６３Ｃで示されるように、物体の動きに対応して、背景のレベルと物体のレベルがフレーム方向に混合比βで混合している画素値である。
【１０４５】
この関係は、図１５５Ａ，Ｂ，Ｃを参照して説明した関係と同様である。
【１０４６】
さらに、図１６４で示されるように、物体のレベルＯと背景のレベルＢとは、フレーム方向（時間方向）の混合比βにより直線近似することも可能である。この関係は、図１６０を参照して説明した空間方向の混合比の直線近似と同様の関係である。
【１０４７】
従って、空間方向の混合比αと同様の手法により、時間（フレーム）方向の混合比βをデータ定常性情報として求めることも可能である。
【１０４８】
また、フレーム方向、または、空間方向のいずれか１次元を選択して、定常性の角度、または、動きベクトルの方向を求めるようにしてもよいし、同様にして混合比α，βを選択的に求めるようにしてもよい。
【１０４９】
以上によれば、現実世界の光信号を射影し、現実世界の光信号の定常性の一部が欠落した画像データ内の注目画素に対応する領域を選択し、選択した領域内の、欠落した現実世界の光信号の定常性に対応する画像データの定常性の基準軸に対する角度を検出するための特徴を検出し、検出した特徴に基いて統計的に角度を検出し、検出した画像データの定常性の基準軸に対する角度に基いて、欠落した現実世界の光信号の定常性を推定することにより光信号を推定するようにしたので、定常性の角度（動きベクトルの方向）、または、（時空間の）混合比を求めることが可能となる。
【１０５０】
次に、図１６５を参照して、データ定常性情報としてデータ定常性情報を用いた処理を行うべき領域の情報を出力する、データ定常性情報検出部１０１について説明する。
【１０５１】
角度検出部８０１は、入力された画像のうち、定常性を有する領域、すなわち、画像上において定常性を有する細線や２値エッジを構成する部分の空間方向の角度を検出し、検出した角度を実世界推定部８０２に出力する。尚、この角度検出部８０１は、図３におけるデータ定常性検出部１０１と同様のものである。
【１０５２】
実世界推定部８０２は、角度検出部８０１より入力されたデータ定常性の方向を示す角度と、入力画像の情報に基づいて実世界を推定する。すなわち、実世界推定部８０２は、入力された角度と、入力画像の各画素から実世界の光信号の強度分布を近似的に記述する近似関数の係数を求めて、求めた係数を実世界の推定結果として誤差演算部８０３に出力する。尚、この実世界推定部８０２は、図３における実世界推定部１０２と同様のものである。
【１０５３】
誤差演算部８０３は、実世界推定部８０２より入力された係数に基づいて、近似的に記述された現実世界の光の強度分布を示す近似関数を構成し、さらに、この近似関数に基づいて各画素位置に相当する光の強度を積分して、近似関数により推定された光の強度分布から各画素の画素値を生成し、実際に入力された画素値との差分を誤差として比較部８０４に出力する。
【１０５４】
比較部８０４は、各画素について誤差演算部８０３より入力された誤差と、予め設定された閾値とを比較することにより、定常性情報を用いた処理を施す画素の存在する処理領域と、非処理領域とを識別して、この定常性情報を用いた処理をする処理領域と非処理領域の識別がなされた領域情報を定常性情報として出力する。
【１０５５】
次に、図１６６のフローチャートを参照して、図１６５のデータ定常性検出部１０１による、定常性の検出の処理について説明する。
【１０５６】
ステップＳ８０１において、角度検出部８０１は、入力された画像を取得し、ステップＳ８０２において、定常性の方向を示す角度を検出する。より詳細には、角度検出部８０１は、例えば、水平方向を基準軸としたときの細線、または、２値エッジの有する定常性の方向を示す角度を検出して、実世界推定部８０２に出力する。
【１０５７】
ステップＳ８０３において、実世界推定部８０２は、角度検出部８０１より入力される角度の情報と、入力画像の情報に基づいて、現実世界を表現する関数F(x)に近似的に記述する、多項式からなる近似関数f(x)の係数を求めて、誤差演算部８０３に出力する。すなわち、現実世界を表現する近似関数f(x)は、以下の式（８５）のような１次元多項式で示される。
【１０５８】
【数６０】

【１０５９】
ここで、ｗｉは、多項式の係数であり、実世界推定部８０２は、この係数ｗｉを求めて、誤差演算部８０３に出力する。さらに、角度検出部８０１より入力される角度により、定常性の方向から傾きを求めることができる（Ｇ_f＝tan^-1θ，Ｇ_f：傾き，θ：角度）ので、この傾きＧ_fの拘束条件を代入することにより、上述の式（８５）の式は、以下の式（８６）で示されるように、２次元多項式で記述することができる。
【１０６０】
【数６１】

【１０６１】
すなわち、上述の式（８６）は、式（８５）で記述される１次元の近似関数f(x)が、空間方向Ｙに平行移動することにより生じるずれ幅をシフト量α（＝−ｄｙ／Ｇ_f：ｄｙは、空間方向Ｙへの変化量）で表現することにより得られる２次元の関数f(x,y)を記述している。
【１０６２】
したがって、実世界推定部８０２は、入力画像と、定常性方向の角度の情報を用いて、上述の式（８６）の各係数ｗｉを解いて、求められた係数ｗｉを誤差演算部８０３に出力する。
【１０６３】
ここで、図１６６のフローチャートの説明に戻る。
【１０６４】
ステップＳ８０４において、誤差演算部８０３は、実世界推定部８０２より入力された係数から、各画素について再積分を実行する。すなわち、誤差演算部８０３は、実世界推定部８０２より入力された係数から、上述の式（８６）を、以下の式（８７）で示されるように、各画素について積分する。
【１０６５】
【数６２】

【１０６６】
ここで、Ｓ_Sは、図１６７で示される空間方向の積分結果を示す。また、その積分範囲は、図１６７で示すように、空間方向Ｘについては、ｘ_m乃至ｘ_m+Bであり、空間方向Ｙについては、ｙ_m乃至ｙ_m+Aである。また、図１６７においては、各マス目（正方形）は、１画素を示すものとし、空間方向Ｘ，Ｙについて、いずれも１であるものとする。
【１０６７】
従って、誤差演算部８０３は、図１６８で示されるように、近似関数f(x,y)で示される曲面の空間方向Ｘについてｘ_m乃至ｘ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1（Ａ＝Ｂ＝１）で、以下の式（８８）で示されるような積分演算を各画素について実行し、実世界を近似的に表現する近似関数を空間的に積分することにより得られる各画素の画素値Ｐ_Sを演算する。
【１０６８】
【数６３】

【１０６９】
すなわち、この処理により、誤差演算部８０３は、言わば一種の画素値生成部として機能し、近似関数から画素値を生成する。
【１０７０】
ステップＳ８０５において、誤差演算部８０３は、上述の式（８８）で示したような積分により得られた画素値と、入力画像の画素値との差分を演算し、これを誤差として比較部８０４に出力する。すなわち、誤差演算部８０３は、上述の図１６７，図１６８で示した積分範囲（空間方向Ｘについてｘ_m乃至ｘ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1）に対応する画素の画素値と、画素に対応する範囲の積分結果により得られた画素値との差分を、誤差として求めて比較部８０４に出力する。
【１０７１】
ステップＳ８０６において、比較部８０４は、誤差演算部８０３より入力される積分により得られた画素値と入力画像の画素値との誤差の絶対値が、所定の閾値以下であるか否かを判定する。
【１０７２】
ステップＳ８０６において、誤差が所定の閾値以下であると判定された場合、ステップＳ８０７において、比較部８０４は、積分により得られた画素値が、入力画像の画素の画素値と近い値が得られているので、その画素の画素値を演算するにあたり設定した近似関数が、現実世界の光信号の光の強度分布と十分に近似しているとみなし、今処理した画素の領域は、定常性情報に基づいた近似関数による処理を行う処理領域として認識する。より詳細には、比較部８０４は、図示せぬメモリに今処理した画素が、以降の処理領域の画素であることを記憶させる。
【１０７３】
一方、ステップＳ８０６において、誤差が所定の閾値以下ではないと判定された場合、ステップＳ８０８において、比較部８０４は、積分により得られた画素値が、実際の画素値と離れた値となっているので、その画素の画素値を演算するにあたり設定した近似関数が、現実世界の光信号の光の強度分布と十分に近似していないとみなし、今処理した画素の領域は、後段において定常性情報に基づいた近似関数による処理を行わない非処理領域として認識する。より詳細には、比較部８０４は、図示せぬメモリに今処理した画素の領域が、以降の非処理領域であることを記憶させる。
【１０７４】
ステップＳ８０９において、比較部８０４は、全ての画素で処理が実行されたか否かを判定し、全ての画素で処理が実行されていないと判定された場合、その処理は、ステップＳ８０２に戻り、それ以降の処理が繰り返される。すなわち、全ての画素について、積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了するまで、ステップＳ８０２乃至Ｓ８０９の処理が繰り返される。
【１０７５】
ステップＳ８０９において、全ての画素について、再積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了したと判定された場合、ステップＳ８１０において、比較部８０４は、図示せぬメモリに記憶されている、入力画像について、後段の処理において空間方向の定常性情報に基づいた処理がなされる処理領域と、空間方向の定常性情報に基づいた処理がなされない非処理領域が識別された領域情報を、定常性情報として出力する。
【１０７６】
以上の処理によれば、定常性情報に基づいて演算された近似関数f(x)を用いて各画素に対応する範囲の積分結果により得られた画素値と、実際の入力画像中の画素値との誤差に基づいて、近似関数の表現の確からしさの評価が領域毎（画素毎に）にされることになり、誤差の小さい領域、すなわち、近似関数に基づいた積分により得られる画素値が確からしい画素の存在する領域のみを処理領域とし、それ以外の領域を非処理領域とすることになるので、確からしい領域にのみ空間方向の定常性情報に基づいた処理を施すことができ、必要な処理だけを実行させるようにすることができるため、処理速度を向上させることができると共に、確からしい領域にのみ処理を実行させることができるので、この処理による画質劣化を抑制することが可能となる。
【１０７７】
次に、図１６９を参照して、データ定常性情報としてデータ定常性情報を用いた処理を行う画素の存在する領域情報を出力する、データ定常性情報検出部１０１のその他の実施例について説明する。
【１０７８】
動き検出部８２１は、入力された画像のうち、定常性を有する領域、すなわち、画像上においてフレーム方向に定常性を有する動き（動きベクトルの方向：Ｖ_f）を検出し、検出した動きを実世界推定部８２２に出力する。尚、この動き検出部８２１は、図３におけるデータ定常性検出部１０１と同様のものである。
【１０７９】
実世界推定部８２２は、動き検出部８２１より入力されたデータ定常性の動きと、入力画像の情報に基づいて実世界を推定する。すなわち、実世界推定部８２２は、入力された動きと、入力画像の各画素からフレーム方向（時間方向）の実世界の光信号の強度分布を近似的に記述する近似関数の係数を求めて、求めた係数を実世界の推定結果として誤差演算部８２３に出力する。尚、この実世界推定部８２２は、図３における実世界推定部１０２と同様のものである。
【１０８０】
誤差演算部８２３は、実世界推定部８２２より入力された係数に基づいて、近似的に記述されたフレーム方向の現実世界の光の強度分布を示す近似関数を構成し、さらに、この近似関数からフレーム毎に各画素位置に相当する光の強度を積分して、近似関数により推定された光の強度分布から各画素の画素値を生成し、実際に入力された画素値との差分を誤差として比較部８２４に出力する。
【１０８１】
比較部８２４は、各画素について誤差演算部８２３より入力された誤差と、予め設定された閾値とを比較することにより、定常性情報を用いた処理を施す画素の存在する処理領域と、非処理領域とを識別して、この定常性情報を用いた処理をする処理領域と非処理領域の識別がなされた領域情報を定常性情報として出力する。
【１０８２】
次に、図１７０のフローチャートを参照して、図１６９のデータ定常性検出部１０１による、定常性の検出の処理について説明する。
【１０８３】
ステップＳ８２１において、動き検出部８０１は、入力された画像を取得し、ステップＳ８２２において、定常性を示す動きを検出する。より詳細には、動き検出部８０１は、例えば、入力画像中で動く物体の動き（動きベクトルの方向：Ｖ_f）を検出して、実世界推定部８２２に出力する。
【１０８４】
ステップＳ８２３において、実世界推定部８２２は、動き検出部８２１より入力される動きの情報と、入力画像の情報に基づいて、現実世界を表現するフレーム方向の関数F(t)に近似的に記述する、多項式からなる関数f(t)の係数を求めて、誤差演算部８２３に出力する。すなわち、現実世界を表現する関数f(t)は、以下の式（８９）のような１次元多項式で示される。
【１０８５】
【数６４】

【１０８６】
ここで、ｗｉは、多項式の係数であり、実世界推定部８２２は、この係数ｗｉを求めて、誤差演算部８２３に出力する。さらに、動き検出部８２１より入力される動きにより、定常性の動きを求めることができる（Ｖ_f＝tan^-1θｖ，Ｖ_f：動きベクトルのフレーム方向の傾き，θｖ：動きベクトルのフレーム方向の角度）ので、この傾きの拘束条件を代入することにより、上述の式（８９）の式は、以下の式（９０）で示されるように、２次元多項式で記述することができる。
【１０８７】
【数６５】

【１０８８】
すなわち、上述の式（９０）は、式（８９）で記述される１次元の近似関数f(t)が、空間方向Ｙに平行移動することにより生じるずれ幅を、シフト量αｔ（＝−ｄｙ／Ｖ_f：ｄｙは、空間方向Ｙへの変化量）で表現することにより得られる２次元の関数f(t,y)を記述している。
【１０８９】
したがって、実世界推定部８２２は、入力画像と、定常性の動きの情報を用いて、上述の式（９０）の各係数ｗｉを解いて、求められた係数ｗｉを誤差演算部８２３に出力する。
【１０９０】
ここで、図１７０のフローチャートの説明に戻る。
【１０９１】
ステップＳ８２４において、誤差演算部８２３は、実世界推定部８２２より入力された係数から、各画素についてフレーム方向に積分を実行する。すなわち、誤差演算部８２３は、実世界推定部８２２より入力された係数から、上述の式（９０）を、以下の式（９１）で示されるように、各画素について積分する。
【１０９２】
【数６６】

【１０９３】
ここで、Ｓ_tは、図１７１で示されるフレーム方向の積分結果を示す。また、その積分範囲は、図１７１で示すように、フレーム方向Ｔについては、Ｔ_m乃至Ｔ_m+Bであり、空間方向Ｙについては、ｙ_m乃至ｙ_m+Aである。また、図１７１においては、各マス目（正方形）は、１画素を示すものとし、フレーム方向Ｔ、および、空間方向Ｙのいずれも１であるものとする。ここで、フレーム方向Ｔについて１であるとは、１フレーム分のシャッタ時間を１とすることである。
【１０９４】
従って、誤差演算部８２３は、図１７２で示されるように、近似関数f(t，y)で示される曲面の空間方向ＴについてＴ_m乃至Ｔ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1（Ａ＝Ｂ＝１）で、以下の式（９２）で示されるような積分演算を各画素について実行し、実世界を近似的に表現する関数から得られる各画素の画素値Ｐ_tを演算する。
【１０９５】
【数６７】

【１０９６】
すなわち、この処理により、誤差演算部８２３は、言わば一種の画素値生成部として機能し、近似関数から画素値を生成する。
【１０９７】
ステップＳ８２５において、誤差演算部８２３は、上述の式（９２）で示したような積分により得られた画素値と、入力画像の画素値との差分を演算し、これを誤差として比較部８２４に出力する。すなわち、誤差演算部８２３は、上述の図１７１，図１７２で示した積分範囲（空間方向ＴについてＴ_m乃至Ｔ_m+1、および、空間方向Ｙについてｙ_m乃至ｙ_m+1）に対応する画素の画素値と、画素に対応する範囲の積分結果により得られた画素値との差分を、誤差として求めて比較部８２４に出力する。
【１０９８】
ステップＳ８２６において、比較部８２４は、誤差演算部８２３より入力された積分により得られた画素値と入力画像の画素値との誤差の絶対値が、所定の閾値以下であるか否かを判定する。
【１０９９】
ステップＳ８２６において、誤差が所定の閾値以下であると判定された場合、ステップＳ８２７において、比較部８２４は、積分により得られた画素値が、入力画像の画素値と近い値が得られているので、その画素の画素値を演算するにあたり設定した近似関数が、実世界の光信号の光の強度分布と十分に近似されているとみなし、今処理した画素の領域は、処理領域として認識する。より詳細には、比較部８２４は、図示せぬメモリに今処理した画素が、以降の処理領域の画素であることを記憶させる。
【１１００】
一方、ステップＳ８２６において、誤差が所定の閾値以下ではないと判定された場合、ステップＳ８２８において、比較部８２４は、積分により得られた画素値が、実際の画素値と離れた値となっているので、その画素の画素値を演算するにあたり設定した近似関数が、現実世界の光の強度分布と十分に近似していないとみなし、今処理した画素の領域は、後段において定常性情報に基づいた近似関数による処理を行わない非処理領域として認識する。より詳細には、比較部８２４は、図示せぬメモリに今処理した画素の領域が、以降の非処理領域であることを記憶させる。
【１１０１】
ステップＳ８２９において、比較部８２４は、全ての画素で処理が実行されたか否かを判定し、全ての画素で処理が実行されていないと判定された場合、その処理は、ステップＳ８２２に戻り、それ以降の処理が繰り返される。すなわち、全ての画素について、積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了するまで、ステップＳ８２２乃至Ｓ８２９の処理が繰り返される。
【１１０２】
ステップＳ８２９において、全ての画素について、再積分による画素値と、入力された画素値との比較がなされ、処理領域であるか否かの判定処理が完了したと判定された場合、ステップＳ８３０において、比較部８２４は、図示せぬメモリに記憶されている、入力画像について、後段の処理においてフレーム方向の定常性情報に基づいた処理がなされる処理領域と、フレーム方向の定常性情報に基づいた処理がなされない非処理領域が識別された領域情報を、定常性情報として出力する。
【１１０３】
以上の処理によれば、定常性情報に基づいて演算された近似関数f(t)を用いた各画素に対応する範囲の積分結果により得られた画素値と、実際の入力画像中の画素値との誤差に基づいて、近似関数の表現の確からしさの評価が領域毎（画素毎に）にされることになり、誤差の小さい領域、すなわち、近似関数に基づいて積分により得られる画素値が確からしい画素の存在する領域のみを処理領域とし、それ以外の領域を非処理領域とすることになるので、確からしい領域にのみフレーム方向の定常性情報に基づいた処理を施すことができ、必要な処理だけを実行させるようにすることができるため、処理速度を向上させることができると共に、確からしい領域にのみ処理を実行させることができるので、この処理による画質劣化を抑制することが可能となる。
【１１０４】
図１６５および図１６９のデータ定常性情報検出部１０１の構成を組み合わせて、時空間方向のうち、いずれか１次元を選択して、選択的に領域情報を出力させるようにしてもよい。
【１１０５】
以上によれば、それぞれ時空間積分効果を有する、センサの複数の検出素子により現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる画像データにおけるデータの定常性を検出し、検出した定常性に対応して、画像データの時空間方向のうち少なくとも１次元方向の位置に対応する各画素の画素値が少なくとも１次元方向の積分効果により取得された画素値であるとして現実世界の光信号に対応する関数を近似することにより、現実世界の光信号に対応する関数を推定し、推定した関数を少なくとも１次元方向の各画素に対応する単位で積分することにより取得される画素値と、各画素の画素値との差分値を検出し、差分値に応じて関数を選択的に出力するようにしたので、近似関数に基づいて積分により得られる画素値が確からしい画素の存在する領域のみを処理領域とし、それ以外の領域を非処理領域とすることが可能となり、確からしい領域にのみフレーム方向の定常性情報に基づいた処理を施すことができ、必要な処理だけを実行させるようにすることができるため、処理速度を向上させることができると共に、確からしい領域にのみ処理を実行させることができるので、この処理による画質劣化を抑制することが可能となる。
【１１０６】
次に、図１７３を参照して、定常性の角度をより高精度に、かつ、より高速で求められるようにした定常性検出部１０１について説明する。
【１１０７】
簡易式角度検出部９０１は、実質的に、図９５を参照して説明した定常性検出部１０１と同様のものであり、注目画素に対応するブロックと、周辺画素のブロックとを比較し、注目画素に対応するブロックと周辺画素のブロックとの相関が最も強い注目画素と周辺画素との角度の範囲を検出する、いわゆる、ブロックマッチングにより、例えば、１６方位（例えば、データの定常性の角度をθとする場合、後述する図１７８における0≦θ＜18.4，18.4≦θ＜26.05，26.05≦θ＜33.7，33.7≦θ＜45，45≦θ＜56.3，56.3≦θ＜63.95，63.95≦θ＜71.6，71.6≦θ＜90，90≦θ＜108.4，108.4≦θ＜116.05，116.05≦θ＜123.7，123.7≦θ＜135，135≦θ＜146.3，146.3≦θ＜153.95，153.95≦θ＜161.6、および、161.6≦θ＜180の１６個の範囲）の何れかの範囲であるかを簡易的に定常性の角度を検出して、それぞれの中央値（または、その範囲内の代表値）を判定部９０２に出力する。
【１１０８】
判定部９０２は、簡易式角度検出部９０１より入力された、簡易的に求められている定常性の角度の情報に基づいて、入力された角度が、垂直方向に近い角度であるか、または、水平方向に近い角度であるか、それ以外かを判定し、判定結果に応じて、スイッチ９０３を制御して、端子９０３ａ，ｂのいずれかに接続して、入力画像を回転式角度検出部９０４、または、勾配式角度検出部９０５に供給すると共に、スイッチ９０３を端子９０３ａに接続するとき、簡易式角度検出部９０１より入力された簡易式に求められた角度の情報を回帰式角度検出部９０４に供給する。
【１１０９】
より詳細には、判定部９０２は、簡易式角度検出部９０１より供給された定常性の方向が、水平方向、または、垂直方向に近い角度であると判定した場合（例えば、簡易式角度検出部９０１より入力された定常性の角度θが、0≦θ≦18.4，71.6≦θ≦108.4、または、161.6≦θ≦180の場合）、スイッチ９０３を端子９０３ａに接続して入力画像を回帰式角度検出部９０４に供給し、それ以外の場合、すなわち、定常性の方向が４５度、または、１３５度に近い場合、スイッチ９０３を端子９０３ｂに接続して入力画像を勾配式角度検出部９０５に供給する。
【１１１０】
回帰式角度検出部９０４は、実質的には、上述の図１０７を参照して説明した定常性検出部１０１に類似した構成であり、回帰的に（注目画素の画素値と、注目画素に対応する領域に属する画素の画素値との相関値が閾値以上である画素に、相関値に基づく度数が設定されることにより、領域に属する画素の度数が検出され、検出された度数に基いて検出された回帰線により求められる）データの定常性の角度検出を実行し、検出した角度をデータ定常性情報として実世界推定部１０２に出力する。ただし、回帰式角度検出部９０４は、角度の検出にあたり、判定部９０２より供給された角度に基づいて、注目画素に対応する範囲（スコープ）を限定して、度数を設定し、回帰的に角度を検出する。
【１１１１】
勾配式角度検出部９０５は、実質的には、図１２４を参照して説明した定常性検出部１０１と同様のものであり、注目画素に対応するブロック（上述のダイナミックレンジブロック）の画素値の最大値と最小値の差分、すなわち、ダイナミックレンジに基づいて（実質的に、ダイナミックレンジブロックの画素値の最大値と最小値の勾配に基づいて）、データの定常性の角度を検出し、データの定常性情報として実世界推定部１０２に出力する。
【１１１２】
次に、図１７４を参照して、簡易式角度検出部９０１の構成について説明するが、実質的に、簡易式角度検出部９０１は、図９５を参照して説明したデータ定常性検出部１０１の構成と同様のものである。従って、図１７４の簡易式角度検出部９０１のデータ選択部９１１、誤差推定部９１２、定常方向導出部９１３、画素選択部９２１−１乃至９２１−Ｌ、推定誤差算出部９２２−１乃至９２２−Ｌ、および、最小誤差角度選択部９２３は、図９５のデータ定常性検出部１０１のデータ選択部４４１、誤差推定部４４２、定常方向導出部４４３、画素選択部４６１−１乃至４６１−Ｌ、推定誤差算出部４６２−１乃至４６２−Ｌ、および、最小誤差角度選択部４４３と同様のものであるので、個々の部位の説明は省略する。
【１１１３】
次に、図１７５を参照して、回帰式角度検出部９０４の構成について説明するが、実質的に、回帰式角度検出部９０４は、図１０７を参照して説明したデータ定常性検出部１０１の構成と類似したものである。従って、図１７５の回帰式角度検出部９０４のフレームメモリ９３１、画素取得部９３２、回帰直線演算部９３４、および、角度算出部９３５は、図１０７のデータ定常性検出部１０１のフレームメモリ５０１、画素取得部５０２、回帰直線演算部５０４、および、角度算出部５０５と同様であるので、その説明は省略する。
【１１１４】
ここで、回帰式角度検出部９０４において、図１０７のデータ定常性検出部１０１と異なるのは、度数検出部９３３である。度数検出部９３３は、図１０７の度数検出部５０３と同様の機能を有するものであるが、さらに、スコープメモリ９３３ａを備えており、判定部９０２より入力された簡易式角度検出部９０１により検出されたデータの定常性の角度に基づいて、スコープメモリ９３３ａに記憶されている注目画素に対する度数を検出する角度の範囲の情報に基づいて、度数を検出して、検出した度数の情報を回帰直線演算部９３４に供給する。
【１１１５】
次に、図１７６を参照して、勾配式角度検出部９０５の構成について説明するが、実質的に、勾配式角度検出部９０５は、図１２４を参照して説明したデータ定常性検出部１０１の構成と同様のものである。従って、図１７６のデータ選択部９４１、データ足し込み部９４２、定常方向導出部９４３、水平・垂直判定部９５１、データ取得部９５２、差分足し込み部９６１、MaxMin取得部９６２、差分足し込み部９６３、および、定常方向演算部９７１は、図１２４のデータ定常性検出部１０１のデータ選択部７０１、データ足し込み部７０２、定常方向導出部７０３、水平・垂直判定部７１１、データ取得部７１２、差分足し込み部７２１、MaxMin取得部７２２、差分足し込み部７２３、および、定常方向演算部７３１と同様のものであるので、その説明は省略する。
【１１１６】
次に、図１７７のフローチャートを参照して、データの定常性の検出の処理について説明する。
【１１１７】
ステップＳ９０１において、簡易式角度検出部９０１は、簡易式角度検出処理を実行し、検出した角度の情報を判定部９０２に出力する。尚、簡易式角度検出処理は、図１０３のフローチャートを参照して説明したデータの定常性の検出の処理と同様であるので、その説明は省略する。
【１１１８】
ステップＳ９０２において、判定部９０２は、簡易式角度検出部９０１より入力されたデータの定常性の角度の情報に基づいて、データの定常性の角度が、水平方向、または、垂直方向に近い角度であるか否かを判定する。より詳細には、判定部９０２は、例えば、データの定常性の角度が、簡易式角度検出部９０１より入力された定常性の角度θが、0≦θ≦18.4，71.6≦θ≦108.4、または、161.6≦θ≦180となる範囲である場合、データの定常性の角度が、水平方向、または、垂直方向に近い角度であると判定する。
【１１１９】
ステップＳ９０２において、データの定常性の角度が水平方向、または、垂直方向の角度であると判定された場合、その処理は、ステップＳ９０３に進む。
【１１２０】
ステップＳ９０３において、判定部９０２は、スイッチ９０３を制御して、端子９０３ａに接続すると共に、簡易式角度検出部９０１より供給されたデータの定常性の角度の情報を回帰式角度検出部９０４に供給する。この処理により、回帰式角度検出部９０４に、入力画像と簡易式角度検出部９０１で検出されたデータの定常性の角度の情報が供給される。
【１１２１】
ステップＳ９０４において、回帰式角度検出部９０４は、回帰式角度検出処理を実行し、検出された角度をデータ定常性情報として実世界推定部１０２に出力する。尚、回帰式角度検出処理については、図１７９を参照して後述する。
【１１２２】
ステップＳ９０５において、簡易式角度検出部９０１のデータ選択部９１１は、全ての画素について処理が終了したか否かを判定し、全ての画素についてその処理が終了していないと判定した場合、その処理は、ステップＳ９０１に戻り、それ以降の処理が繰り返される。
【１１２３】
一方、ステップＳ９０２において、データの定常性の方向が、水平方向、または、垂直方向ではないと判定された場合、その処理は、ステップＳ９０６に進む。
【１１２４】
ステップＳ９０６において、判定部９０２は、スイッチ９０３を制御して、端子９０３ｂに接続する。この処理により、勾配式角度検出部９０５に、入力画像が供給される。
【１１２５】
ステップＳ９０７において、勾配式角度検出部９０５は、勾配式角度検出処理を実行して、角度を検出し、定常性情報として実世界推定部１０２に出力する。尚、勾配式角度検出処理は、実質的に、図１４９のフローチャートを参照して説明したデータの定常性の検出の処理と同様の処理であるので、その説明は、省略する。
【１１２６】
すなわち、ステップＳ９０２の処理により、簡易式角度検出部９０１により検出されたデータの定常性の角度が、図１７８で示されるように図中中心の注目画素を中心とした場合、斜線の無い白色の領域に対応する角度（18.4＜θ＜71.6、または、108.4＜θ＜161.6）であるとき、ステップＳ９０３の処理により、判定部９０２がスイッチ９０３を制御して、端子９０３ａに接続することにより、ステップＳ９０４の処理により、回帰式角度検出部９０４が、相関を利用して回帰直線を求めて、その回帰直線からデータの定常性の角度を検出する。
【１１２７】
また、ステップＳ９０２の処理により、簡易式角度検出部９０１により検出されたデータの定常性の角度が、図１７８で示されるように図中中心の注目画素を中心とした場合、斜線部の領域に対応する角度（0≦θ≦18.4，71.6≦θ≦108.4、または、161.6≦θ≦180）であるとき、ステップＳ９０６の処理により、判定部９０２がスイッチ９０３を制御して、端子９０３ｂに接続することにより、ステップＳ９０７の処理により、勾配式角度検出部９０５が、データの定常性の角度を検出する。
【１１２８】
回帰式角度検出部９０４は、注目画素に対応するブロックと周辺画素に対応したブロック間の相関を比較し、最も相関の強いブロックに対応する画素との角度からデータの定常性の角度を求めているため、データの定常性の角度が、水平方向、または、垂直方向に近い場合、最も相関の高いブロックとなる画素は、注目画素から遠く離れた位置となってしまう可能性があるため、正確に相関の強い周辺画素のブロックを検出するには、探索する領域を広くしなければならず、処理が膨大なものとなってしまう恐れがあり、さらには、探索領域を広げることにより、本来定常性の存在しない位置に、偶然にして、注目画素に対応するブロックと相関の強いブロックが検出されてしまう恐れがあり、角度の検出精度が低下してしまう恐れがある。
【１１２９】
これに対して、勾配式角度検出部９０５は、データの定常性の角度が、水平方向、または、垂直方向に近くなるほど、ダイナミックレンジブロック内の画素値の最大値と最小値をとる画素との距離が離れるため、抽出ブロック内に同じ傾き（画素値の変化を示す勾配）を持つ画素が増えることになるので、統計的に処理をすることによりデータの定常性の角度をより高精度に検出することが可能となる。
【１１３０】
一方、勾配式角度検出部９０５は、データの定常性の角度が、４５度、または、１３５度に近い場合、ダイナミックレンジブロック内の最大値と最小値をとる画素間の距離が近くなってしまうため、抽出ブロック内で、同じ傾き（画素値の変化を示す勾配）を持つ画素が減ることになるので、統計的な処理により、データの定常性の角度の精度は低下してしまう。
【１１３１】
これに対して、回帰式角度検出部９０４は、データの定常性の角度が、４５度、または、１３５度付近の場合、注目画素に対応するブロックと、相関の強い画素に対応するブロックの距離が近い位置に存在することになるため、定常性の角度を、より高い精度で検出することが可能である。
【１１３２】
結果として、簡易式角度検出部９０１により検出された角度に基づいて、回帰式角度検出部９０４と、勾配式角度検出部９０５のそれぞれの持つ特性により、処理を切り替えることにより、全ての範囲でデータの定常性の角度を高精度で検出することが可能となる。さらに、高精度でデータの定常性の角度を検出できることから、実世界を正確に推定することができ、最終的に、現実世界の事象に対して、より正確で、より精度の高い（画像）処理結果を得ることが可能となる。
【１１３３】
次に、図１７９のフローチャートを参照して、図１７７のフローチャートにおけるステップＳ９０４の処理である、回帰式角度検出処理について説明する。
【１１３４】
尚、回帰式角度検出部９０４による回帰式角度検出処理は、図１１４のフローチャートを参照して説明したデータの定常性の検出の処理と類似しており、図１７９のフローチャートにおけるステップＳ９２１乃至Ｓ９２２、および、ステップＳ９２４乃至Ｓ９２７の処理は、図１１４のフローチャートにおけるステップＳ５０１乃至Ｓ５０６の処理と同様であるので、その説明は省略する。
【１１３５】
ステップＳ９２３において、度数検出部９３３は、スコープメモリ９３３ａを参照して、判定部９０２より供給された簡易式角度検出部９０１により検出されたデータの定常性の角度の情報に基づいて、スコープ範囲外の画素を処理対象から排除する。
【１１３６】
すなわち、例えば、簡易式角度検出部９０１により検出された角度θの範囲が、45≦θ＜56.3である場合、スコープメモリ９３３ａには、その範囲に対応するスコープとして、図１８０で示される斜線部分に対応する画素の範囲を記憶しており、度数検出部９３３は、スコープに対応する範囲以外の画素は処理対象範囲から排除する。
【１１３７】
より詳細な、各角度に応じたスコープの範囲の例としては、例えば、簡易式角度検出部９０１により検出されたデータの定常性の角度が50度の場合、図１８１で示されるように、スコープ範囲の画像とスコープ範囲外の画素が予め定義される。尚、図１８１においては、注目画素を中心とした３１画素×３１画素の範囲の場合の例であり、０と１で示される各配置が画素位置を示し、図中中央の丸印で囲まれた位置が注目画素の位置である。また、１で示される位置の画素がスコープ範囲内の画素であり、０で示される位置の画素がスコープ範囲外の画素である。尚、以下、図１８２乃至図１８３においても同様である。
【１１３８】
すなわち、図１８１で示されるように、スコープ範囲となる画素が注目画素を中心として約角度５０度に沿って、一定の範囲の幅を持って配置されている。
【１１３９】
また、同様にして、簡易式角度検出部９０１により検出された角度が、６０度であった場合、図１８２で示されるように、スコープ範囲となる画素が注目画素を中心として約角度６０度に沿って、一定の範囲の幅を持って配置されている。
【１１４０】
さらに、簡易式角度検出部９０１により検出された角度が、６７度であった場合、図１８３で示されるように、スコープ範囲となる画素が注目画素を中心として約角度６７度に沿って、一定の範囲の幅を持って配置されている。
【１１４１】
また、簡易式角度検出部９０１により検出された角度が、８１度であった場合、図１８４で示されるように、スコープ範囲となる画素が注目画素を中心として約角度８１度に沿って、一定の範囲の幅を持って配置されている。
【１１４２】
以上のように、スコープ範囲外の画素が処理対象範囲から排除されることにより、ステップＳ９２４の処理である各画素値を度数に変換する処理において、データの定常性から離れた位置に存在する画素の処理を省くことができ、処理の対象とすべきデータの定常性の方向に沿った相関の高い画素のみを処理することになるので、処理速度を向上させることができる。さらに、処理の対象とすべきデータの定常性の方向に沿った相関の高い画素のみを用いて、度数を求めることができるので、より高い精度でデータの定常性の角度を検出することが可能となる。
【１１４３】
尚、スコープ範囲に属する画素は、図１８１乃至図１８４で示した範囲に限るものではなく、注目画素を中心として、簡易式角度検出部９０１により検出された角度に沿った位置に存在する様々な幅を持った範囲の複数の画素からなる範囲であってよい。
【１１４４】
また、図１７３を参照して説明したデータ定常性検出部１０１においては、判定部９０２が、簡易式角度検出部９０１により検出されたデータの定常性の角度の情報に基づいて、スイッチ９０３を制御して、入力画像の情報を回帰式角度検出部９０４、または、勾配式角度検出部９０５のいずれかに入力させるようにしていたが、回帰式角度検出部９０４、または、勾配式角度検出部９０５のいずれにも入力画像を入力させて、角度検出処理をさせた後、簡易式角度検出部９０１により検出されたデータの定常性の角度の情報に基づいて、いずれかの処理で検出された角度の情報を出力させるようにしてもよい。
【１１４５】
図１８５は、回帰式角度検出部９０４、または、勾配式角度検出部９０５のいずれにも入力画像を入力させて、角度検出処理をさせた後、簡易式角度検出部９０１により検出されたデータの定常性の角度の情報に基づいて、いずれかの処理で検出された角度の情報を出力させるようにしたデータ定常性検出部１０１の構成を示している。尚、図１７３のデータ定常性検出部１０１と同様の構成については、同一の符号を付しており、その説明は適宜省略する。
【１１４６】
図１８５のデータ定常性検出部１０１の構成において、図１７３のデータ定常性検出部１０１の構成と異なるのは、スイッチ９０３を削除して、入力画像のデータを回帰式角度検出部９０４、または、勾配式角度検出部９０５のいずれにも入力させ、それぞれの出力側にスイッチ９８２を設けて、それぞれ端子９８２ａ，ｂの接続を切り替えることにより、いずれかの方法で検出された角度の情報を出力するようにしている点である。尚、図１８５のスイッチ９８２は、実質的に、図１７３のスイッチ９０３と同様のものであるので、その説明は省略する。
【１１４７】
次に、図１８６のフローチャートを参照して、図１８５のデータ定常性検出部１０１による、データの定常性の検出の処理について説明する。尚、図１８６のフローチャートにおけるステップＳ９４１，Ｓ９４３乃至Ｓ９４５，Ｓ９４７の処理は、図１７７のフローチャートにおけるステップＳ９０１，Ｓ９０４，Ｓ９０７，Ｓ９０２，Ｓ９０５の処理と同様であるので、その説明は省略する。
【１１４８】
ステップＳ９４２において、判定部９０２は、簡易式角度検出部９０１より入力されたデータの定常性の角度の情報を回帰式角度検出部９０４に出力する。
【１１４９】
ステップＳ９４６において、判定部９０２は、スイッチ９８２を制御して、端子９８２ａに接続する。
【１１５０】
ステップＳ９４８において、判定部９０２は、スイッチ９８２を制御して、端子９８２ｂに接続する。
【１１５１】
尚、図１８６のフローチャートにおいて、ステップＳ９４３，Ｓ９４４の処理順序は入れ替わってもよい。
【１１５２】
以上によれば、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データ内の、欠落した現実世界の光信号の定常性に対応する画像データの定常性の基準軸に対する角度を、簡易式角度検出部９０１がマッチング処理により検出し、検出した角度に対応する所定領域内の画像データに基いて、回帰式角度検出部９０４か、または、勾配式角度検出部９０５が統計処理により角度を検出するようにしたので、より高速で、かつ、より高精度でデータの定常性の角度を検出することが可能となる。
【１１５３】
次に、実世界１の信号の推定について説明する。
【１１５４】
図１８７は、実世界推定部１０２の構成を示すブロック図である。
【１１５５】
図１８７に構成を示す実世界推定部１０２においては、入力画像、および定常性検出部１０１から供給されたデータ定常性情報を基に、実世界１の信号である画像における、細線の幅が検出され、細線のレベル（実世界１の信号の光の強度）が推定される。
【１１５６】
線幅検出部２１０１は、定常性検出部１０１から供給された、細線の画像が射影された画素からなる、細線領域である定常領域を示すデータ定常性情報を基に、細線の幅を検出する。線幅検出部２１０１は、データ定常性情報と共に、検出された細線の幅を示す細線幅情報を信号レベル推定部２１０２に供給する。
【１１５７】
信号レベル推定部２１０２は、入力画像、線幅検出部２１０１から供給された細線の幅を示す細線幅情報、およびデータ定常性情報を基に、実世界１の信号である、細線の画像のレベル、すなわち光の強度のレベルを推定し、細線の幅および細線の画像のレベルを示す実世界推定情報を出力する。
【１１５８】
図１８８および図１８９は、実世界１の信号における、細線の幅を検出する処理を説明する図である。
【１１５９】
図１８８および図１８９において、太線で囲む領域（４つの四角からなる領域）は、１つの画素を示し、点線で囲む領域は、細線の画像が射影された画素からなる、細線領域を示し、丸は、細線領域の重心を示す。図１８８および図１８９において、斜線は、センサ２に入射された細線の画像を示す。斜線は、センサ２に、実世界１の細線の画像が射影された領域を示しているとも言える。
【１１６０】
図１８８および図１８９において、Sは、細線領域の重心の位置から算出される傾きを示し、Dは、細線領域の重複である。ここで、傾きSは、細線領域が隣接しているので、画素を単位とした、重心と重心との距離である。また、細線領域の重複Dとは、２つの細線領域において、隣接している画素の数である。
【１１６１】
図１８８および図１８９において、Wは、細線の幅を示す。
【１１６２】
図１８８において、傾きSは、２であり、重複Dは、２である。
【１１６３】
図１８９において、傾きSは、３であり、重複Dは、１である。
【１１６４】
細線領域が隣接し、細線領域が隣接する方向の重心と重心の距離は、１画素であるので、W:D=1:Sが成立し、細線の幅Wは、重複D/傾きSで求めることができる。
【１１６５】
例えば、図１８８で示されるように、傾きSは、２であり、重複Dは、２であるとき、2/2は、1であるから、細線の幅Wは、1である。また、例えば、図１８９で示されるように、傾きSは、３であり、重複Dは、１であるとき、細線の幅Wは、1/3である。
【１１６６】
線幅検出部２１０１は、このように、細線領域の重心の位置から算出される傾き、および細線領域の重複から、細線の幅を検出する。
【１１６７】
図１９０は、実世界１の信号における、細線の信号のレベルを推定する処理を説明する図である。
【１１６８】
図１９０において、太線で囲む領域（４つの四角からなる領域）は、１つの画素を示し、点線で囲む領域は、細線の画像が射影された画素からなる、細線領域を示す。図１９０において、Eは、細線領域の画素を単位とした、細線領域の長さを示し、Dは、細線領域の重複（他の細線領域に隣接している画素の数）である。
【１１６９】
細線の信号のレベルは、処理単位（細線領域）内で一定であると近似し、細線が射影された画素の画素値に射影された、細線以外の画像のレベルは、隣接している画素の画素値に対するレベルに等しいと近似する。
【１１７０】
細線の信号のレベルをCとしたとき、細線領域に射影された信号（画像）における、図中の、細線の信号が射影された部分の左側の部分のレベルをAとし、図中の、細線の信号が射影された部分の右側の部分のレベルをBとする。
【１１７１】
このとき、式（９３）が成立する。
【１１７２】
細線領域の画素値の総和=（E-D）/2*A+(E-D)/2*B+D*C ・・・（９３）
【１１７３】
細線の幅が一定であり、細線領域の幅は、１画素なので、細線領域の細線（の信号が射影された部分）の面積は、細線領域の重複Dに等しい。細線領域の幅は、１画素なので、細線領域の画素を単位とした、細線領域の面積は、細線領域の長さEに等しい。
【１１７４】
細線領域のうち、細線の左側の面積は、(E-D)/2である。細線領域のうち、細線の右側の面積は、(E-D)/2である。
【１１７５】
式（９３）の右辺の第１項は、左側に隣接している画素に射影された信号のレベルと同じレベルの信号が射影された画素値の部分であり、式（９４）で表すことができる。
【１１７６】
【数６８】

【１１７７】
式（９４）において、A_iは、左側に隣接している画素の画素値を示す。
【１１７８】
式（９４）において、α_iは、左側に隣接している画素に射影された信号のレベルと同じレベルの信号が、細線領域の画素に射影される面積の割合を示す。すなわち、α_iは、細線領域の画素の画素値に含まれている、左側に隣接している画素の画素値と同じ画素値の割合を示す。
【１１７９】
iは、細線領域の左側に隣接している画素の位置を示す。
【１１８０】
例えば、図１９０において、細線領域の画素の画素値に含まれている、細線領域の左側に隣接している画素の画素値A₀と同じ画素値の割合は、α₀である。図１９０において、細線領域の画素の画素値に含まれている、細線領域の左側に隣接している画素の画素値A₁と同じ画素値の割合は、α₁である。図１９０において、細線領域の画素の画素値に含まれている、細線領域の左側に隣接している画素の画素値A₂と同じ画素値の割合は、α₂である。
【１１８１】
式（９３）の右辺の第２項は、右側に隣接している画素に射影された信号のレベルと同じレベルの信号が射影された画素値の部分であり、式（９５）で表すことができる。
【１１８２】
【数６９】

【１１８３】
式（９５）において、B_jは、右側に隣接している画素の画素値を示す。
【１１８４】
式（９５）において、β_jは、右側に隣接している画素に射影された信号のレベルと同じレベルの信号が、細線領域の画素に射影される面積の割合を示す。すなわち、β_jは、細線領域の画素の画素値に含まれている、右側に隣接している画素の画素値と同じ画素値の割合を示す。
【１１８５】
jは、細線領域の右側に隣接している画素の位置を示す。
【１１８６】
例えば、図１９０において、細線領域の画素の画素値に含まれている、細線領域の右側に隣接している画素の画素値B₀と同じ画素値の割合は、β₀である。図１９０において、細線領域の画素の画素値に含まれている、細線領域の右側に隣接している画素の画素値B₁と同じ画素値の割合は、β₁である。図１９０において、細線領域の画素の画素値に含まれている、細線領域の右側に隣接している画素の画素値B₂と同じ画素値の割合は、β₂である。
【１１８７】
このように、信号レベル推定部２１０２は、式（９４）および式（９５）を基に、細線領域に含まれる画素値のうちの、細線以外の画像の画素値を算出し、式（９３）を基に、細線領域の画素値から細線以外の画像の画素値を除去することにより、細線領域に含まれる画素値のうちの、細線のみの画像の画素値を求める。そして、信号レベル推定部２１０２は、細線のみの画像の画素値と細線の面積とから、細線の信号のレベルを求める。より具体的には、信号レベル推定部２１０２は、細線領域に含まれる画素値のうちの、細線のみの画像の画素値を、細線領域の細線の面積、すなわち細線領域の重複Dで割り算することにより、細線の信号のレベルを算出する。
【１１８８】
信号レベル推定部２１０２は、実世界１の信号における、細線の幅、および細線の信号のレベルを示す実世界推定情報を出力する。
【１１８９】
本発明の手法では、細線の波形を画素ではなく幾何学的に記述しているので、どのような解像度でも使用することができる。
【１１９０】
次に、ステップＳ１０２の処理に対応する、実世界の推定の処理を図１９１のフローチャートを参照して説明する。
【１１９１】
ステップＳ２１０１において、線幅検出部２１０１は、データ定常性情報を基に、細線の幅を検出する。例えば、線幅検出部２１０１は、細線領域の重心の位置から算出される傾き、および細線領域の重複から、重複を傾きで割り算することにより、実世界１の信号における、細線の幅を推定する。
【１１９２】
ステップＳ２１０２において、信号レベル推定部２１０２は、細線の幅、および細線領域に隣接する画素の画素値を基に、細線の信号のレベルを推定し、推定された細線の幅および細線の信号のレベルを示す実世界推定情報を出力して、処理は終了する。例えば、信号レベル推定部２１０２は、細線領域に含まれる細線以外の画像が射影された画素値を算出し、細線領域から細線以外の画像が射影された画素値を除去することにより、細線のみの画像が射影された画素値を求めて、求められた細線のみの画像が射影された画素値と細線の面積とから、細線の信号のレベルを算出することにより、実世界１の信号における、細線のレベルを推定する。
【１１９３】
このように、実世界推定部１０２は、実世界１の信号の細線の幅およびレベルを推定することができる。
【１１９４】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した第１の画像データの、データの定常性を検出し、データの定常性に対応する現実世界の光信号の波形を表すモデルに基いて、第１の画像データの定常性から現実世界の光信号の波形を推定し、推定された光信号を第２の画像データに変換するようにした場合、現実世界の光信号に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【１１９５】
図１９２は、実世界推定部１０２の他の構成を示すブロック図である。
【１１９６】
図１９２に構成を示す実世界推定部１０２においては、入力画像、およびデータ定常性検出部１０１から供給されたデータ定常性情報を基に、領域が再度検出され、再度検出された領域を基に、実世界１の信号である画像における、細線の幅が検出され、実世界１の信号の光の強度（レベル）が推定される。例えば、図１９２に構成を示す実世界推定部１０２においては、細線の画像が射影された画素からなる定常性領域が再度検出され、再度検出された領域を基に、実世界１の信号である画像における、細線の幅が検出され、実世界１の信号の光の強度が推定される。
【１１９７】
データ定常性検出部１０１から供給され、図１９２に構成を示す実世界推定部１０２に入力されるデータ定常性情報には、データ３である入力画像のうちの、細線の画像が射影された定常成分以外の非定常成分を示す非定常成分情報、定常領域の中の単調増減領域を示す単調増減領域情報、および定常領域を示す情報などが含まれている。例えば、データ定常性情報に含まれる非定常成分情報は、入力画像における背景などの非定常成分を近似する平面の傾きおよび切片からなる。
【１１９８】
実世界推定部１０２に入力されたデータ定常性情報は、境界検出部２１２１に供給される。実世界推定部１０２に入力された入力画像は、境界検出部２１２１および信号レベル推定部２１０２に供給される。
【１１９９】
境界検出部２１２１は、データ定常性情報に含まれる非定常成分情報、および入力画像から、細線の画像が射影された定常成分のみからなる画像を生成し、定常成分のみからなる画像を基に、画素に射影された、実世界１の信号である細線の画像が射影された割合を示す分配比を算出し、算出された分配比から細線領域の境界を示す回帰直線を算出することにより、定常領域である細線領域を再び検出する。
【１２００】
図１９３は、境界検出部２１２１の構成を示すブロック図である。
【１２０１】
分配比算出部２１３１は、データ定常性情報、データ定常性情報に含まれる非定常成分情報、および入力画像から、細線の画像が射影された定常成分のみからなる画像を生成する。より具体的には、分配比算出部２１３１は、データ定常性情報に含まれる単調増減領域情報を基に、入力画像から、定常領域の中の隣り合う単調増減領域を検出し、検出された単調増減領域に属する画素の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、細線の画像が射影された定常成分のみからなる画像を生成する。
【１２０２】
なお、分配比算出部２１３１は、入力画像の画素の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、細線の画像が射影された定常成分のみからなる画像を生成するようにしてもよい。
【１２０３】
分配比算出部２１３１は、生成された定常成分のみからなる画像を基に、実世界１の信号である細線の画像が、定常領域の中の隣り合う単調増減領域に属する２つの画素に分配された割合を示す分配比を算出する。分配比算出部２１３１は、算出した分配比を回帰直線算出部２１３２に供給する。
【１２０４】
図１９４乃至図１９６を参照して、分配比算出部２１３１における、分配比の算出の処理を説明する。
【１２０５】
図１９４の左側の２列の数値は、入力画像の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、算出された画像のうち、縦に２列の画素の画素値を示す。図１９４の左側の四角で囲む２つの領域は、隣り合う２つの単調増減領域である、単調増減領域２１４１−１および単調増減領域２１４１−２を示す。すなわち、単調増減領域２１４１−１および単調増減領域２１４１−２に示す数値は、データ定常性検出部１０１において検出された定常性領域である単調増減領域に属する画素の画素値を示す。
【１２０６】
図１９４の右側の１列の数値は、図１９４の左側の２列の画素の画素値のうち、横に並ぶ画素の画素値を加算した値を示す。すなわち、図１９４の右側の１列の数値は、縦に１列の画素からなる単調増減領域であって、２つの隣接するものについて、横に隣接する画素毎に、細線の画像が射影された画素値を加算した値を示す。
【１２０７】
例えば、それぞれ、縦に１列の画素からなり、隣接する単調増減領域２１４１−１および単調増減領域２１４１−２のいずれかに属し、横に隣接する画素の画素値が、２および５８であるとき、加算した値は、６０である。それぞれ、縦に１列の画素からなり、隣接する単調増減領域２１４１−１および単調増減領域２１４１−２のいずれかに属し、横に隣接する画素の画素値が、１および６５であるとき、加算した値は、６６である。
【１２０８】
図１９４の右側の１列の数値、すなわち、縦に１列の画素からなり、２つの隣接する単調増減領域の横方向に隣接する画素について、細線の画像が射影された画素値を加算した値は、ほぼ一定となることがわかる。
【１２０９】
同様に、横に１列の画素からなり、２つの隣接する単調増減領域の縦方向に隣接する画素について、細線の画像が射影された画素値を加算した値は、ほぼ一定となる。
【１２１０】
分配比算出部２１３１は、２つの隣接する単調増減領域の隣接する画素について、細線の画像が射影された画素値を加算した値が、ほぼ一定となる性質を利用して、細線の画像が１列の画素の画素値にどのように分配されているかを算出する。
【１２１１】
分配比算出部２１３１は、図１９５に示すように、縦に１列の画素からなる単調増減領域であって、２つの隣接するものに属する画素の画素値を、横に隣接する画素毎に、細線の画像が射影された画素値を加算した値で割り算することにより、２つの隣接する単調増減領域に属する各画素について、分配比を算出する。ただし、算出された結果、１００を超える分配比には、１００が設定される。
【１２１２】
例えば、図１９５に示すように、縦に１列の画素からなる単調増減領域であって、２つの隣接するものに属する、横に隣接する画素の画素値が、それぞれ２および５８であるとき、加算した値が６０なので、それぞれの画素に対して、３．５および９５．０である分配比が算出される。縦に１列の画素からなる単調増減領域であって、２つの隣接するものに属する、横に隣接する画素の画素値が、それぞれ１および６５であるとき、加算した値が６６なので、それぞれの画素に対して、１．５および９８．５である分配比が算出される。
【１２１３】
この場合において、３つの単調増減領域が隣接する場合、どちらの列から計算するかは、図１９６で示されるように、横に隣接する画素毎に、細線の画像が射影された画素値を加算した、２つの値のうち、頂点Ｐの画素値により近い値を基に、分配比が算出される。
【１２１４】
例えば、頂点Ｐの画素値が８１であり、注目している単調増減領域に属する画素の画素値が７９であるとき、左側に隣接する画素の画素値が３であり、右側に隣接する画素の画素値が−１である場合、左側に隣接する画素の画素値を加算した値が、８２であり、右側に隣接する画素の画素値を加算した値が、７８なので、頂点Ｐの画素値８１により近い、８２が選択され、左側に隣接する画素を基に、分配比が算出される。同様に、頂点Ｐの画素値が８１であり、注目している単調増減領域に属する画素の画素値が７５であるとき、左側に隣接する画素の画素値が０であり、右側に隣接する画素の画素値が３である場合、左側に隣接する画素の画素値を加算した値が、７５であり、右側に隣接する画素の画素値を加算した値が、７８なので、頂点Ｐの画素値８１により近い、７８が選択され、右側に隣接する画素を基に、分配比が算出される。
【１２１５】
このように、分配比算出部２１３１は、縦に１列の画素からなる単調増減領域について、分配比を算出する。
【１２１６】
分配比算出部２１３１は、同様の処理で、横に１列の画素からなる単調増減領域について、分配比を算出する。
【１２１７】
回帰直線算出部２１３２は、単調増減領域の境界が直線であると仮定して、分配比算出部２１３１において算出された分配比を基に、単調増減領域の境界を示す回帰直線を算出することにより、定常領域の中の単調増減領域を再び検出する。
【１２１８】
図１９７および図１９８を参照して、回帰直線算出部２１３２における、単調増減領域の境界を示す回帰直線の算出の処理を説明する。
【１２１９】
図１９７において、白丸は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界に位置する画素を示す。回帰直線算出部２１３２は、回帰の処理により、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界について回帰直線を算出する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界に位置する画素との距離の自乗の和が最小となる直線Ａを算出する。
【１２２０】
また、図１９７において、黒丸は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界に位置する画素を示す。回帰直線算出部２１３２は、回帰の処理により、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界について回帰直線を算出する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界に位置する画素との距離の自乗の和が最小となる直線Ｂを算出する。
【１２２１】
回帰直線算出部２１３２は、算出された回帰直線を基に、単調増減領域の境界を決定することにより、定常領域の中の単調増減領域を再び検出する。
【１２２２】
図１９８に示すように、回帰直線算出部２１３２は、算出された直線Ａを基に、単調増減領域２１４１−１乃至単調増減領域２１４１−５の上側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ａに最も近い画素から上側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ａに最も近い画素が領域に含まれるように上側の境界を決定する。
【１２２３】
図１９８に示すように、回帰直線算出部２１３２は、算出された直線Ｂを基に、単調増減領域２１４１−１乃至単調増減領域２１４１−５の下側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ｂに最も近い画素から下側の境界を決定する。例えば、回帰直線算出部２１３２は、単調増減領域２１４１−１乃至単調増減領域２１４１−５のそれぞれについて、算出された直線Ｂに最も近い画素が領域に含まれるように下側の境界を決定する。
【１２２４】
このように、回帰直線算出部２１３２は、データ定常性検出部１０１により検出された定常領域の境界を回帰する回帰線に基づいて、頂点から単調に画素値が増加または減少している領域を再び検出する。すなわち、回帰直線算出部２１３２は、算出された回帰直線を基に、単調増減領域の境界を決定することにより、定常領域の中の単調増減領域である領域を再び検出し、検出した領域を示す領域情報を線幅検出部２１０１に供給する。
【１２２５】
以上のように、境界検出部２１２１は、画素に射影された、実世界１の信号である細線の画像が射影された割合を示す分配比を算出し、算出された分配比から単調増減領域の境界を示す回帰直線を算出することにより、定常領域の中の単調増減領域を再び検出する。このようにすることで、より正確な単調増減領域を検出することができる。
【１２２６】
図１９２に示す線幅検出部２１０１は、境界検出部２１２１から供給された、再度検出された領域を示す領域情報を基に、図１８７に示す場合と同様の処理で、細線の幅を検出する。線幅検出部２１０１は、データ定常性情報と共に、検出された細線の幅を示す細線幅情報を信号レベル推定部２１０２に供給する。
【１２２７】
図１９２に示す信号レベル推定部２１０２の処理は、図１８７に示す場合と同様の処理なので、その説明は省略する。
【１２２８】
図１９９は、ステップＳ１０２の処理に対応する、図１９２に構成を示す実世界推定部１０２による、実世界の推定の処理を説明するフローチャートである。
【１２２９】
ステップＳ２１２１において、境界検出部２１２１は、データ定常性検出部１０１により検出された定常領域に属する画素の画素値に基づいて、再び領域を検出する、境界検出の処理を実行する。境界検出の処理の詳細は、後述する。
【１２３０】
ステップＳ２１２２およびステップＳ２１２３の処理は、ステップＳ２１０１およびステップＳ２１０２の処理と同様なので、その説明は省略する。
【１２３１】
図２００は、ステップＳ２１２１の処理に対応する、境界検出の処理を説明するフローチャートである。
【１２３２】
ステップＳ２１３１において、分配比算出部２１３１は、単調増減領域を示すデータ定常性情報および入力画像を基に、細線の画像が射影された割合を示す分配比を算出する。例えば、分配比算出部２１３１は、データ定常性情報に含まれる単調増減領域情報を基に、入力画像から、定常領域の中の隣り合う単調増減領域を検出し、検出された単調増減領域に属する画素の画素値から、定常成分情報に含まれる傾きおよび切片で示される平面で近似される近似値を引き算することにより、細線の画像が射影された定常成分のみからなる画像を生成する。そして、分配比算出部２１３１は、１列の画素からなる単調増減領域であって、２つの隣接するものに属する画素の画素値を、隣接する画素の画素値の和で割り算することにより、２つの隣接する単調増減領域に属する各画素について、分配比を算出する。
【１２３３】
分配比算出部２１３１は、算出された分配比を回帰直線算出部２１３２に供給する。
【１２３４】
ステップＳ２１３２において、回帰直線算出部２１３２は、細線の画像が射影された割合を示す分配比を基に、単調増減領域の境界を示す回帰直線を算出することにより、定常領域の中の領域を再び検出する。例えば、回帰直線算出部２１３２は、単調増減領域の境界が直線であると仮定して、単調増減領域の一端の境界を示す回帰直線を算出し、単調増減領域の他の一端の境界を示す回帰直線を算出することにより、定常領域の中の単調増減領域を再び検出する。
【１２３５】
回帰直線算出部２１３２は、再び検出された、定常領域の中の領域を示す領域情報を線幅検出部２１０１に供給して、処理は終了する。
【１２３６】
このように、図１９２に構成を示す実世界推定部１０２は、細線の画像が射影された画素からなる領域を再度検出し、再度検出された領域を基に、実世界１の信号である画像における、細線の幅を検出し、実世界１の信号の光の強度（レベル）を推定する。このようにすることで、実世界１の信号に対して、より正確に、細線の幅を検出し、より正確に、光の強度を推定することができる。
【１２３７】
以上のように、現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した第１の画像データにおける、複数の画素の画素値の不連続部を検出し、検出された不連続部から、データの定常性を有する定常領域を検出し、検出された定常領域に属する画素の画素値に基づいて、再び領域を検出し、再び検出された領域に基づいて実世界を推定するようにした場合、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【１２３８】
次に、図２０１を参照して、定常性を有する領域における、画素毎の空間方向の近似関数の微分値を実世界推定情報として出力する実世界推定部１０２について説明する。
【１２３９】
参照画素抽出部２２０１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の角度、または、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から実世界の近似関数を求めるために必要な参照画素の情報（演算に必要な注目画素周辺の複数の画素の位置、および、画素値の情報）を抽出して、近似関数推定部２２０２に出力する。
【１２４０】
近似関数推定部２２０２は、参照画素抽出部２２０１より入力された参照画素の情報に基づいて注目画素周辺の現実世界を近似的に記述する近似関数を最小自乗法に基づいて推定し、推定した近似関数を微分処理部２２０３に出力する。
【１２４１】
微分処理部２２０３は、近似関数推定部２２０２より入力された近似関数に基づいて、データ定常性情報の角度（例えば、細線や２値エッジの所定の軸に対する角度：傾き）に応じて、注目画素から生成しようとする画素の位置のシフト量を求め、そのシフト量に応じた近似関数上の位置における微分値（定常性に対応する線からの１次元方向に沿った距離に対応する各画素の画素値を近似する関数の微分値）を演算し、さらに、注目画素の位置、画素値、および、定常性の傾きの情報を付加して、これを実世界推定情報として画像生成部１０３に出力する。
【１２４２】
次に、図２０２のフローチャートを参照して、図２０１の実世界推定部１０２による実世界推定の処理について説明する。
【１２４３】
ステップＳ２２０１において、参照画素抽出部２２０１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての角度、および、領域の情報を取得する。
【１２４４】
ステップＳ２２０２において、参照画素抽出部２２０１は、入力画像の未処理画素から注目画素を設定する。
【１２４５】
ステップＳ２２０３において、参照画像抽出部２２０１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２１０に進み、その注目画素については、処理領域外であることを近似関数推定部２２０２を介して、微分処理部２２０３に伝え、これに応じて、微分処理部２２０３が、対応する注目画素についての微分値を０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２１１に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２０４に進む。
【１２４６】
ステップＳ２２０４において、参照画素抽出部２２０１は、データ定常性情報に含まれる角度の情報から、データ定常性の有する方向が、水平方向に近い角度か、または、垂直に近い角度であるか否かを判定する。すなわち、参照画素抽出部２２０１は、データ定常性の有する角度θが、0度≦θ＜45度、または、135度≦θ＜180度となる場合、注目画素の定常性の方向は、水平方向に近いと判定し、データ定常性の有する角度θが、45度≦θ＜135度となる場合、注目画素の定常性の方向は、垂直方向に近いと判定する。
【１２４７】
ステップＳ２２０５において、参照画素抽出部２２０１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、近似関数推定部２２０２に出力する。すなわち、参照画素は、後述する近似関数を演算する際に使用されるデータとなるので、傾きに応じて抽出されることが望ましい。従って、水平方向、または、垂直方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、図２０３で示されるように、傾きＧ_fが垂直方向に近いと、垂直方向であると判定され、この場合、参照画素抽出部２２０１は、例えば、図２０３で示されるように、図２０３中の中央の画素（０，０）を注目画素とするとき、画素（−１，２），（−１，１），（−１，０），（−１，−１），（−１，−２），（０，２），（０，１），（０，０），（０，−１），（０，−２），（１，２），（１，１），（１，０），（１，−１），（１，−２）のそれぞれの画素値を抽出する。尚、図２０３においては、各画素の水平方向、および、垂直方向の大きさが１であるものとする。
【１２４８】
すなわち、参照画素抽出部２２０１は、注目画素を中心として垂直（上下）方向にそれぞれ２画素×水平（左右）方向にそれぞれ１画素の合計１５画素となるように、垂直方向に長い範囲の画素を参照画素として抽出する。
【１２４９】
逆に、水平方向であると判定された場合、注目画素を中心として垂直（上下）方向にそれぞれ１画素×水平（左右）方向にそれぞれ２画素の合計１５画素となるように、水平方向に長い範囲の画素を参照画素として抽出して、近似関数推定部２２０２に出力する。もちろん、参照画素は、上述のように１５画素に限定されるものではなく、それ以外の個数であってもよい。
【１２５０】
ステップＳ２２０６において、近似関数推定部２２０２は、参照画素抽出部２２０１より入力された参照画素の情報に基づいて、最小自乗法により近似関数f(x)を推定し、微分処理部２２０３に出力する。
【１２５１】
すなわち、近似関数f(x)は、以下の式（９６）で示されるような多項式である。
【１２５２】
【数７０】

【１２５３】
このように、式（９６）の多項式の各係数W₁乃至W_n+1が求められれば、実世界を近似する近似関数f(x)が求められることになる。しかしながら、係数の数よりも多くの参照画素値が必要となるので、例えば、参照画素が、図２０３で示されるような場合、合計１５画素であるので、多項式の係数は、１５個までしか求められない。そこで、この場合、多項式は、１４次までの多項式とし、係数W₁乃至W₁₅を求めることにより近似関数を推定するものとする。尚、今の場合、１５次の多項式からなる近似関数f(x)を設定して、連立方程式としてもよい。
【１２５４】
従って、図２０３で示される１５個の参照画素値を用いるとき、近似関数推定部２２０２は、以下の式（９７）を、最小自乗法を用いて解くことにより推定する。
【１２５５】

【１２５６】
尚、多項式の次数にあわせて、参照画素の数を変えるようにしてもよい。
【１２５７】
ここで、Cx(ty)は、シフト量であり、定常性の傾きがＧ_fで示されるとき、Cx(ty)＝ty／Ｇ_fで定義される。このシフト量Cx(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(x)が、傾きＧ_fに沿って、連続している（定常性を有している）ことを前提としたとき、空間方向Ｙ=tyの位置における、空間方向Ｘに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(x)として定義されている場合、この近似関数f(x)は、空間方向Ｙ=tyにおいては、傾きＧ_fに沿って空間方向ＸについてCx(ty)だけずれているはずなので、関数は、f(x−Cx(ty))（＝f(x−ty／Ｇ_f)）で定義されることになる。
【１２５８】
ステップＳ２２０７において、微分処理部２２０３は、近似関数推定部２２０２より入力された近似関数f(x)に基づいて、生成しようとする画素の位置における、シフト量を求める。
【１２５９】
すなわち、水平方向、および、垂直方向にそれぞれ２倍の密度（合計４倍の密度）となるように画素を生成する場合、微分処理部２２０３は、例えば、まず、垂直方向に２倍の密度となる画素Pa，Pbに２分割するために、図２０４で示されるように、注目画素の中心位置がPin（Xin，Yin）での微分値を求めるため、中心位置のPin（Xin，Yin）のシフト量を求める。このシフト量は、Cx(0)となるため、実質的には０となる。尚、図２０４中において、画素Pinは、（Xin，Yin）を略重心位置とする正方形であり、画素Pa，Pbは、（Xin，Yin+0.25）、（Xin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。
【１２６０】
ステップＳ２２０８において、微分処理部２２０３は、近似関数f(x)を微分して、近似関数の１次微分関数f(x)'を求め、求められたシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。すなわち、今の場合、微分処理部２２０３は、微分値f(Xin)'を求め、その位置（今の場合、注目画素（Xin，Yin））と、その画素値、および、定常性の方向の傾きの情報とを付加して出力する。
【１２６１】
ステップＳ２２０９において、微分処理部２２０３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、２倍の密度となるための微分値のみしか求められていない（空間方向Ｙ方向について２倍の密度となるための微分値のみしか求められていない）ので、求められている密度の画素を生成するのに必要なだけの微分値が求められていないと判定し、その処理は、ステップＳ２２０７に戻る。
【１２６２】
ステップＳ２２０７において、微分処理部２２０３は、再度、近似関数推定部２２０２より入力された近似関数f(x)に基づいて、生成しようとする画素の位置における、シフト量を求める。すなわち、微分処理部２２０３は、今の場合、２分割された画素Pa，Pbのそれぞれを２分割するために必要な微分値をそれぞれ求める。画素Pa，Pbの画素の位置は、図２０４における黒丸で示すそれぞれの位置であるので、微分処理部２２０３は、それぞれの位置に対応するシフト量を求める。画素Pa，Pbのシフト量は、それぞれCx（0.25），Cx(−0.25)となる。
【１２６３】
ステップＳ２２０８において、微分処理部２２０３は、近似関数f(x)を１次微分して、画素Pa，Pbのそれぞれに対応したシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。
【１２６４】
すなわち、図２０３で示した参照画素を使用する場合、微分処理部２２０３は、図２０５で示すように、求められた近似関数f(x)について微分関数f(x)'を求め、空間方向Ｘについて、シフト量Cx（0.25），Cx(−0.25)だけずれた位置となる（Xin−Cx（0.25））と（Xin−Cx（−0.25））の位置での微分値をそれぞれf（Xin−Cx（0.25））'，f（Xin−Cx（−0.25））'として求め、その微分値に対応する位置情報を付加して、これを実世界推定情報として出力する。尚、最初の処理で画素値の情報が出力されているので画素値の情報は付加されない。
【１２６５】
ステップＳ２２０９において、再び、微分処理部２２０３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、４倍の密度となるための微分値が求められたことになるので、求められている密度の画素を生成するのに必要なだけの微分値が求められたと判定し、その処理は、ステップＳ２２１１に進む。
【１２６６】
ステップＳ２２１１において、参照画素抽出部２２０１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２０２に戻る。また、ステップＳ２２１１において、全ての画素を処理したと判定した場合、その処理は、終了する。
【１２６７】
上述のように、入力画像について、水平方向、および、垂直方向に４倍の密度となるように画素を生成する場合、画素は、分割される画素の中央の位置の近似関数の微分値を用いて、外挿補間により分割されるので、４倍密度の画素を生成するには、合計３個の微分値の情報が必要となる。
【１２６８】
すなわち、図２０４で示されるように、1画素について最終的には、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４の４画素（図２０４において、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、それぞれ略０．５となる）の生成に必要な微分値が必要となるので、４倍密度の画素を生成するには、まず、水平方向、または、垂直方向（今の場合、垂直方向）に２倍密度の画素を生成し（上述の最初のステップＳ２２０７，Ｓ２２０８の処理）、さらに、分割された２画素を、それぞれ最初に分割した方向と垂直の方向（今の場合、水平方向）に分割する（上述の２回目のステップＳ２２０７，Ｓ２２０８の処理）ためである。
【１２６９】
尚、以上の例においては、４倍密度の画素を演算する際の微分値を例として説明してきたが、それ以上の密度の画素を演算する場合、ステップＳ２２０７乃至Ｓ２２０９の処理を繰り返すことにより、画素値の演算に必要なさらに多くの微分値を求めるようにしてもよい。また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(x)は連続関数であるので、倍密度以外の画素値についても必要な微分値を求めることが可能となる。
【１２７０】
以上によれば、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現する近似関数を求め、空間方向の画素の生成必要な位置の微分値を実世界推定情報として出力することが可能となる。
【１２７１】
以上の図２０１において説明した実世界推定部１０２においては、画像を生成するのに必要な微分値を実世界推定情報として出力していたが、微分値とは、必要な位置での近似関数f(x)の傾きと同値のものである。
【１２７２】
そこで、次は、図２０６を参照して、近似関数f(x)を求めることなく、画素生成に必要な近似関数f(x)上の傾きのみを直接求めて、実世界推定情報として出力する実世界推定部１０２について説明する。
【１２７３】
参照画素抽出部２２１１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の角度、または、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から傾きを求めるために必要な参照画素の情報（演算に必要な注目画素を含む垂直方向に並ぶ周辺の複数の画素、または、注目画素を含む水平方向に並ぶ周辺の複数の画素の位置、および、それぞれの画素値の情報）を抽出して、傾き推定部２２１２に出力する。
【１２７４】
傾き推定部２２１２は、参照画素抽出部２２１１より入力された参照画素の情報に基づいて、画素生成に必要な画素位置の傾きの情報を生成して、実世界推定情報として画像生成部１０３に出力する。より詳細には、傾き推定部２２１２は、画素間の画素値の差分情報を用いて、実世界を近似的に表現する近似関数f(x)上の注目画素の位置における傾きを求め、これに、注目画素の位置情報、画素値、および、定常性の方向の傾きの情報を実世界推定情報として出力する。
【１２７５】
次に、図２０７のフローチャートを参照して、図２０６の実世界推定部１０２による実世界推定の処理について説明する。
【１２７６】
ステップＳ２２２１において、参照画素抽出部２２１１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての角度、および、領域の情報を取得する。
【１２７７】
ステップＳ２２２２において、参照画素抽出部２２１１は、入力画像の未処理画素から注目画素を設定する。
【１２７８】
ステップＳ２２２３において、参照画像抽出部２２１１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２２８に進み、その注目画素については、処理領域外であることを傾き推定部２２１２に伝え、これに応じて、傾き推定部２２１２が、対応する注目画素についての傾きを０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２２９に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２２４に進む。
【１２７９】
ステップＳ２２２４において、参照画素抽出部２２１１は、データ定常性情報に含まれる角度の情報から、データ定常性の有する方向が、水平方向に近い角度か、または、垂直に近い角度であるか否かを判定する。すなわち、参照画素抽出部２２１１は、データ定常性の有する角度θが、0度≦θ＜45度、または、135度≦θ＜180度となる場合、注目画素の定常性の方向は、水平方向に近いと判定し、データ定常性の有する角度θが、45度≦θ＜135度となる場合、注目画素の定常性の方向は、垂直方向に近いと判定する。
【１２８０】
ステップＳ２２２５において、参照画素抽出部２２１１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、傾き推定部２２１２に出力する。すなわち、参照画素は、後述する傾きを演算する際に使用されるデータとなるので、定常性の方向を示す傾きに応じて抽出されることが望ましい。従って、水平方向、または、垂直方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、傾きが垂直方向に近いと判定された場合、参照画素抽出部２２１１は、図２０８で示されるように、図２０８中の中央の画素（０，０）を注目画素とするとき、画素（０，２），（０，１），（０，０），（０，−１），（０，−２）のそれぞれの画素値を抽出する。尚、図２０８においては、各画素の大きさが水平方向、および、垂直方向についてそれぞれ１であるものとする。
【１２８１】
すなわち、参照画素抽出部２２１１は、注目画素を中心として垂直（上下）方向にそれぞれ２画素の合計５画素となるように、垂直方向に長い範囲の画素を参照画素として抽出する。
【１２８２】
逆に、水平方向であると判定された場合、注目画素を中心として水平（左右）方向に２画素の合計５画素となるように、水平方向に長い範囲の画素を参照画素として抽出して、傾き推定部２２１２に出力する。もちろん、参照画素は、上述のように５画素に限定されるものではなく、それ以外の個数であってもよい。
【１２８３】
ステップＳ２２２６において、傾き推定部２２１２は、参照画素抽出部２２１１より入力された参照画素の情報と、定常性方向の傾きＧ_fに基づいて、それぞれの画素値のシフト量を演算する。すなわち、空間方向Ｙ=0に対応する近似関数f(x)を基準とした場合、空間方向Ｙ＝−２，−１，１，２に対応する近似関数は、図２０８で示されるように、定常性の傾きＧ_fに沿って連続していることになるので、各近似関数は、f(x−Cx(2))，f(x−Cx(1))，f(x−Cx(−1))，f(x−Cx(−2))のように記述され、空間方向Ｙ＝−２，−１，１，２毎に、各シフト量分だけ空間方向Ｘにずれた関数として表現される。
【１２８４】
そこで、傾き推定部２２１２は、これらのシフト量Cx（−２）乃至Cx（２）を求める。例えば、参照画素が、図２０８で示されるように抽出された場合、そのシフト量は、図中の参照画素（０，２）は、Cx(２)＝２／Ｇ_fとなり、参照画素（０，１）は、Cx(１)＝１／Ｇ_fとなり、参照画素（０，０）は、Cx(０)＝０となり、参照画素（０，−１）は、Cx(−１)＝−１／Ｇ_fとなり、参照画素（０，−２）は、Cx(−２)＝−２／Ｇ_fとなる。
【１２８５】
ステップＳ２２２７において、傾き推定部２２１２は、注目画素の位置における近似関数f(x)上の傾きを演算する（推定する）。例えば、図２０８で示されるように、注目画素について定常性の方向が、垂直方向に近い角度の場合、水平方向に隣接する画素間では画素値が大きく異なるので、垂直方向の画素間では、画素間の変化が小さく、変化が類似していることから、傾き推定部２２１２は、垂直方向の画素間の変化をシフト量による空間方向Ｘの変化と捕らえることにより、垂直方向の画素間の差分を水平方向の画素間の差分に置き換えて、注目画素の位置における近似関数f(x)上での傾きを求める。
【１２８６】
すなわち、現実世界を近似的に記述する近似関数f(x)が存在すると仮定すると、上述のシフト量と各参照画素の画素値との関係は、図２０９で示されるようなものとなる。ここで、図２０８の各画素の画素値は、上からP（０，２），P（０，１），P（０，０），P（０，−１），P（０，−２）で表される。結果として、注目画素（０，０）近傍の画素値Pとシフト量Cxは、（Ｐ，Ｃｘ）＝（Ｐ（０，２），−Cx（２）），（Ｐ（０，１），−Cx（１）），（Ｐ（０，−１），−Cx（−１）），（Ｐ（０，−２），−Cx（−２）），（Ｐ（０，０），０）の５組の関係が得られることになる。
【１２８７】
ところで、画素値Ｐ、シフト量Ｃx、および、傾きＫｘ（近似関数f(x)上の傾き）は、以下のような式（９８）のような関係が成立することになる。
【１２８８】
Ｐ＝Ｋｘ×Ｃx・・・（９８）
【１２８９】
上述の式（９８）は、変数Ｋｘについての１変数の関数であるので、傾き推定部２２１２は、この変数Ｋｘ（傾き）について、１変数の最小自乗法により傾きＫｘを求める。
【１２９０】
すなわち、傾き推定部２２１２は、以下に示すような式（９９）のような正規方程式を解くことにより、注目画素の傾きを求め、注目画素の画素値、および、定常性の方向の傾きの情報を付加して、実世界推定情報として画像生成部１０３に出力する。
【１２９１】
【数７１】

【１２９２】
ここで、ｉは、上述の参照画素の画素値Ｐとシフト量Ｃの組をそれぞれ識別する番号であり、１乃至ｍである。また、ｍは、注目画素を含む参照画素の個数となる。
【１２９３】
ステップＳ２２２９において、参照画素抽出部２２１１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２２２に戻る。また、ステップＳ２２２９において、全ての画素が処理されたと判定された場合、その処理は、終了する。
【１２９４】
尚、上述の処理により実世界推定情報として出力される傾きは、最終的に求めようとする画素値を外挿補間して演算する際に使用される。また、以上の例においては、２倍密度の画素を演算する際の傾きを例として説明してきたが、それ以上の密度の画素を演算する場合、画素値の演算に必要な、さらに多くの位置での傾きを求めるようにしてもよい。
【１２９５】
例えば、図２０４で示されるように、水平方向に２倍の密度で、かつ、垂直方向に２倍の密度の空間方向に合計４倍の密度の画素を生成する場合、上述したように、図２０４中のPin，Pa，Pbのそれぞれの位置に対応する近似関数f(x)の傾きＫｘを求めるようにすればよい。
【１２９６】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(x)は連続関数であるので、倍密度以外の位置の画素の画素値についても必要な傾きを求めることが可能となる。
【１２９７】
以上によれば、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現する近似関数を求めることなく、空間方向の画素の生成必要な位置の近似関数上の傾きを実世界推定情報として生成し、さらに出力することが可能となる。
【１２９８】
次に、図２１０を参照して、定常性を有する領域における、画素毎のフレーム方向（時間方向）の近似関数上の微分値を実世界推定情報として出力する実世界推定部１０２について説明する。
【１２９９】
参照画素抽出部２２３１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の動き（動きベクトル）、および、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から実世界の近似関数を求めるために必要な参照画素の情報（演算に必要な注目画素周辺の複数の画素の位置、および、画素値の情報）を抽出して、近似関数推定部２２３２に出力する。
【１３００】
近似関数推定部２２３２は、参照画素抽出部２２３１より入力されたフレーム方向の参照画素の情報に基づいて注目画素周辺の現実世界を近似的に記述する近似関数を最小自乗法に基づいて推定し、推定した関数を微分処理部２２３３に出力する。
【１３０１】
微分処理部２２３３は、近似関数推定部２２３２より入力されたフレーム方向の近似関数に基づいて、データ定常性情報の動きに応じて、注目画素から生成しようとする画素の位置のフレーム方向のシフト量を求め、そのシフト量に応じたフレーム方向の近似関数上の位置における微分値（定常性に対応する線からの１次元方向に沿った距離に対応する各画素の画素値を近似する関数の微分値）を演算し、さらに、注目画素の位置、画素値、および、定常性の動きの情報を付加して、これを実世界推定情報として画像生成部１０３に出力する。
【１３０２】
次に、図２１１のフローチャートを参照して、図２１０の実世界推定部１０２による実世界推定の処理について説明する。
【１３０３】
ステップＳ２２４１において、参照画素抽出部２２３１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての動き、および、領域の情報を取得する。
【１３０４】
ステップＳ２２４２において、参照画素抽出部２２３１は、入力画像の未処理画素から注目画素を設定する。
【１３０５】
ステップＳ２２４３において、参照画像抽出部２２３１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２５０に進み、その注目画素については、処理領域外であることを近似関数推定部２２３２を介して、微分処理部２２３３に伝え、これに応じて、微分処理部２２３３が、対応する注目画素についての微分値を０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２５１に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２４４に進む。
【１３０６】
ステップＳ２２４４において、参照画素抽出部２２３１は、データ定常性情報に含まれる動きの情報から、データ定常性の動きが、空間方向に近い動きか、または、フレーム方向に近い動きであるか否かを判定する。すなわち、図２１２で示されるように、フレーム方向Ｔと空間方向Ｙからなる面において、フレーム方向を基準軸とした、時間と空間の面内の方向を示す角度をθｖとすれば、参照画素抽出部２２３１は、データ定常性の有する角度θｖが、0度≦θｖ＜45度、または、135度≦θｖ＜180度となる場合、注目画素の定常性の動きは、フレーム方向（時間方向）に近いと判定し、データ定常性の有する角度θｖが、45度≦θｖ＜135度となる場合、注目画素の定常性の動きは、空間方向に近いと判定する。
【１３０７】
ステップＳ２２４５において、参照画素抽出部２２３１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、近似関数推定部２２３２に出力する。すなわち、参照画素は、後述する近似関数を演算する際に使用されるデータとなるので、角度に応じて抽出されることが望ましい。従って、フレーム方向、または、空間方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、図２１２で示されるように、動き方向Ｖ_fが空間方向に近いと、空間方向であると判定され、この場合、参照画素抽出部２２３１は、例えば、図２１２で示されるように、図２１２中の中央の画素（ｔ，ｙ）＝（０，０）を注目画素とするとき、画素（ｔ，ｙ）＝（−１，２），（−１，１），（−１，０），（−１，−１），（−１，−２），（０，２），（０，１），（０，０），（０，−１），（０，−２），（１，２），（１，１），（１，０），（１，−１），（１，−２）のそれぞれの画素値を抽出する。尚、図２１２においては、各画素のフレーム方向、および、空間方向の大きさが１であるものとする。
【１３０８】
すなわち、参照画素抽出部２２３１は、注目画素を中心として空間（図中の上下）方向にそれぞれ２画素×フレーム（図中の左右）方向にそれぞれ１フレーム分の合計１５画素となるように、フレーム方向に対して空間方向が長い範囲の画素を参照画素として抽出する。
【１３０９】
逆に、フレーム方向であると判定された場合、注目画素を中心として空間（図中の上下）方向にそれぞれ１画素×フレーム（図中の左右）方向にそれぞれ２フレーム分の合計１５画素となるように、フレーム方向に長い範囲の画素を参照画素として抽出して、近似関数推定部２２３２に出力する。もちろん、参照画素は、上述のように１５画素に限定されるものではなく、それ以外の個数であってもよい。
【１３１０】
ステップＳ２２４６において、近似関数推定部２２３２は、参照画素抽出部２２３１より入力された参照画素の情報に基づいて、最小自乗法により近似関数f(t)を推定し、微分処理部２２３３に出力する。
【１３１１】
すなわち、近似関数f(t)は、以下の式（１００）で示されるような多項式である。
【１３１２】
【数７２】

【１３１３】
このように、式（１００）の多項式の各係数W₁乃至W_n+1が求められれば、実世界を近似するフレーム方向の近似関数f(t)が求められることになる。しかしながら、係数の数よりも多くの参照画素値が必要となるので、例えば、参照画素が、図２１２で示されるような場合、合計１５画素であるので、多項式の係数は、１５個までしか求められない。そこで、この場合、多項式は、１４次までの多項式とし、係数W₁乃至W₁₅を求めることにより近似関数を推定するものとする。尚、今の場合、１５次の多項式からなる近似関数f(x)を設定して、連立方程式としてもよい。
【１３１４】
従って、図２１２で示される１５個の参照画素値を用いるとき、近似関数推定部２２３２は、以下の式（１０１）を、最小自乗法を用いて解くことにより推定する。
【１３１５】

【１３１６】
尚、多項式の次数にあわせて、参照画素の数を変えるようにしてもよい。
【１３１７】
ここで、Ct(ty)は、シフト量であり、上述のCx(ty)と同様のものであり、定常性の傾きがＶ_fで示されるとき、Ct(ty)＝ty／Ｖ_fで定義される。このシフト量Ct(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(t)が、傾きＶ_fに沿って、連続している（定常性を有している）ことを前提としたとき、空間方向Ｙ=tyの位置における、フレーム方向Ｔに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(t)として定義されている場合、この近似関数f(t)は、空間方向Ｙ=tyにおいては、フレーム方向（時間方向）ＴについてCt(ty)だけずれているはずなので、関数は、f(t−Ct(ty))（＝f(t−ty／Ｖ_f)）で定義されることになる。
【１３１８】
ステップＳ２２４７において、微分処理部２２３３は、近似関数推定部２２３２より入力された近似関数f(t)に基づいて、生成しようとする画素の位置における、シフト量を求める。
【１３１９】
すなわち、フレーム方向、および、空間方向にそれぞれ２倍の密度（合計４倍の密度）となるように画素を生成する場合、微分処理部２２３３は、例えば、まず、空間方向に２倍の密度となる画素Pat，Pbtに２分割するために、図２１３で示されるように、注目画素の中心位置がPin（Tin，Yin）での微分値を求めるため、中心位置のPin（Tin，Yin）のシフト量を求める。このシフト量は、Ct(0)となるため、実質的には０となる。尚、図２１３中において、画素Pinは、（Tin，Yin）を略重心位置とする正方形であり、画素Pat，Pbtは、（Tin，Yin+0.25）、（Tin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。また、注目画素Pinのフレーム方向Ｔの長さが１であるとは、１フレーム分のシャッタ時間に対応するものである。
【１３２０】
ステップＳ２２４８において、微分処理部２２３３は、近似関数f(t)を微分して、近似関数の１次微分関数f(t)'を求め、求められたシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。すなわち、今の場合、微分処理部２２３３は、微分値f(Tin)'を求め、その位置（今の場合、注目画素（Tin，Yin））と、その画素値、および、定常性の方向の動きの情報とを付加して出力する。
【１３２１】
ステップＳ２２４９において、微分処理部２２３３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、空間方向に２倍の密度となるための微分値のみしか求められていない（フレーム方向に２倍の密度となるための微分値が求められていない）ので、求められている密度の画素を生成するのに必要なだけの微分値が求められていないと判定し、その処理は、ステップＳ２２４７に戻る。
【１３２２】
ステップＳ２２４７において、微分処理部２２３３は、再度、近似関数推定部２２３２より入力された近似関数f(t)に基づいて、生成しようとする画素の位置における、シフト量を求める。すなわち、微分処理部２２３３は、今の場合、２分割された画素Pat，Pbtのそれぞれをさらに２分割するために必要な微分値をそれぞれ求める。画素Pat，Pbtの画素の位置は、図２１３における黒丸で示すそれぞれの位置であるので、微分処理部２２３３は、それぞれの位置に対応するシフト量を求める。画素Pat，Pbtのシフト量は、それぞれCt（0.25），Ct(−0.25)となる。
【１３２３】
ステップＳ２２４８において、微分処理部２２３３は、近似関数f(t)を微分して、画素Pat，Pbtのそれぞれに対応したシフト量に応じた位置での微分値を求めて、これを実世界推定情報として画像生成部１０３に出力する。
【１３２４】
すなわち、図２１２で示した参照画素を使用する場合、微分処理部２２３３は、図２１４で示すように、求められた近似関数f(t)について微分関数f(t)'を求め、空間方向Ｔについて、シフト量Ct（0.25），Ct(−0.25)だけずれた位置となる（Tin−Ct（0.25））と（Tin−Ct（−0.25））の位置での微分値をそれぞれf（Tin−Ct（0.25））'，f（Tin−Ct（−0.25））'として求め、その微分値に対応する位置情報を付加して、これを実世界推定情報として出力する。尚、最初の処理で画素値の情報が出力されているので画素値の情報は付加されない。
【１３２５】
ステップＳ２２４９において、再び、微分処理部２２３３は、求められている密度の画素を生成するのに必要なだけの微分値が求められているか否かを判定する。例えば、今の場合、空間方向Ｙとフレーム方向Ｔについてそれぞれ２倍（合計４倍）の密度となるための微分値が求められたことになるので、求められている密度の画素を生成するのに必要なだけの微分値が求められたと判定し、その処理は、ステップＳ２２５１に進む。
【１３２６】
ステップＳ２２５１において、参照画素抽出部２２３１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２４２に戻る。また、ステップＳ２２５１において、全ての画素を処理したと判定した場合、その処理は、終了する。
【１３２７】
上述のように、入力画像について、フレーム方向（時間方向）、および、空間方向に４倍の密度となるように画素を生成する場合、画素は、分割される画素の中央の位置の近似関数の微分値を用いて、外挿補間により分割されるので、４倍密度の画素を生成するには、合計３個の微分値の情報が必要となる。
【１３２８】
すなわち、図２１３で示されるように、1画素について最終的には、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔの４画素（図２１３において、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、それぞれ略０．５となる）の生成に必要な微分値が必要となるので、４倍密度の画素を生成するには、まず、フレーム方向、または、空間方向に２倍密度の画素を生成し（上述の最初のステップＳ２２４７，Ｓ２２４８の処理）、さらに、分割された２画素を、それぞれ最初に分割した方向と垂直の方向（今の場合、フレーム方向）に分割する（上述の２回目のステップＳ２２４７，Ｓ２２４８の処理）ためである。
【１３２９】
尚、以上の例においては、４倍密度の画素を演算する際の微分値を例として説明してきたが、それ以上の密度の画素を演算する場合、ステップＳ２２４７乃至Ｓ２２４９の処理を繰り返すことにより、画素値の演算に必要なさらに多くの微分値を求めるようにしてもよい。また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(t)は連続関数であるので、倍密度以外の画素値についても必要な微分値を求めることが可能となる。
【１３３０】
以上によれば、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現する近似関数を求め、画素の生成必要な位置の微分値を実世界推定情報として出力することが可能となる。
【１３３１】
以上の図２１０において説明した実世界推定部１０２においては、画像を生成するのに必要な微分値を実世界推定情報として出力していたが、微分値とは、必要な位置での近似関数f(t)の傾きと同値のものである。
【１３３２】
そこで、次は、図２１５を参照して、近似関数を求めることなく、画素生成に必要な、近似関数上のフレーム方向の傾きのみを直接求めて、実世界推定情報として出力する実世界推定部１０２について説明する。
【１３３３】
参照画素抽出部２２５１は、データ定常性検出部１０１より入力されるデータ定常性情報（定常性の動き、および、領域の情報）に基づいて、入力画像の各画素が処理領域であるか否かを判定し、処理領域である場合には、入力画像から傾きを求めるために必要な参照画素の情報（演算に必要な注目画素を含む空間方向に並ぶ周辺の複数の画素、または、注目画素を含むフレーム方向に並ぶ周辺の複数の画素の位置、および、それぞれの画素値の情報）を抽出して、傾き推定部２２５２に出力する。
【１３３４】
傾き推定部２２５２は、参照画素抽出部２２５１より入力された参照画素の情報に基づいて、画素生成に必要な画素位置の傾きの情報を生成して、実世界推定情報として画像生成部１０３に出力する。より詳細には、傾き推定部２２５２は、画素間の画素値の差分情報を用いて、実世界を近似的に表現する近似関数上の注目画素の位置におけるフレーム方向の傾きを求め、これに、注目画素の位置情報、画素値、および、定常性の方向の動きの情報を実世界推定情報として出力する。
【１３３５】
次に、図２１６のフローチャートを参照して、図２１５の実世界推定部１０２による実世界推定の処理について説明する。
【１３３６】
ステップＳ２２６１において、参照画素抽出部２２５１は、入力画像と共に、データ定常性検出部１０１よりデータ定常性情報としての動き、および、領域の情報を取得する。
【１３３７】
ステップＳ２２６２において、参照画素抽出部２２５１は、入力画像の未処理画素から注目画素を設定する。
【１３３８】
ステップＳ２２６３において、参照画像抽出部２２５１は、データ定常性情報の領域の情報に基づいて、注目画素が、処理領域のものであるか否かを判定し、処理領域の画素ではないと判定した場合、その処理は、ステップＳ２２６８に進み、その注目画素については、処理領域外であることを傾き推定部２２５２に伝え、これに応じて、傾き推定部２２５２が、対応する注目画素についての傾きを０として、さらに、その注目画素の画素値を付加して実世界推定情報として画像生成部１０３に出力すると共に、その処理は、ステップＳ２２６９に進む。また、注目画素が処理領域のものであると判定された場合、その処理は、ステップＳ２２６４に進む。
【１３３９】
ステップＳ２２６４において、参照画素抽出部２２５１は、データ定常性情報に含まれる動きの情報から、データ定常性の動きが、フレーム方向に近い動きか、または、空間方向に近い動きであるか否かを判定する。すなわち、フレーム方向Ｔと空間方向Ｙからなる面において、フレーム方向を基準軸とした、時間と空間の面内の方向を示す角度をθｖとすれば、参照画素抽出部２２５１は、データ定常性の動きの角度θｖが、0度≦θｖ＜45度、または、135度≦θｖ＜180度となる場合、注目画素の定常性の動きは、フレーム方向に近いと判定し、データ定常性の有する角度θｖが、45度≦θｖ＜135度となる場合、注目画素の定常性の動きは、空間方向に近いと判定する。
【１３４０】
ステップＳ２２６５において、参照画素抽出部２２５１は、判定した方向に対応した参照画素の位置情報、および、画素値をそれぞれ入力画像から抽出し、傾き推定部２２５２に出力する。すなわち、参照画素は、後述する傾きを演算する際に使用されるデータとなるので、定常性の動きに応じて抽出されることが望ましい。従って、フレーム方向、または、空間方向のいずれかの判定方向に対応して、その方向に長い範囲の参照画素が抽出される。より具体的には、例えば、動きが空間方向に近いと判定された場合、参照画素抽出部２２５１は、図２１７で示されるように、図２１７中の中央の画素（ｔ，ｙ）＝（０，０）を注目画素とするとき、画素（ｔ，ｙ）＝（０，２），（０，１），（０，０），（０，−１），（０，−２）のそれぞれの画素値を抽出する。尚、図２１７においては、各画素の大きさがフレーム方向、および、空間方向についてそれぞれ１であるものとする。
【１３４１】
すなわち、参照画素抽出部２２５１は、注目画素を中心として空間（図中の上下）方向にそれぞれ２画素の合計５画素となるように、空間方向に長い範囲の画素を参照画素として抽出する。
【１３４２】
逆に、フレーム方向であると判定された場合、注目画素を中心としてフレーム（図中の左右）方向に２画素の合計５画素となるように、フレーム方向に長い範囲の画素を参照画素として抽出して、近似関数推定部２２５２に出力する。もちろん、参照画素は、上述のように５画素に限定されるものではなく、それ以外の個数であってもよい。
【１３４３】
ステップＳ２２６６において、傾き推定部２２５２は、参照画素抽出部２２５１より入力された参照画素の情報と、定常性方向の動きＶ_fの方向に基づいて、それぞれの画素値のシフト量を演算する。すなわち、空間方向Ｙ=0に対応する近似関数f(t)を基準とした場合、空間方向Ｙ＝−２，−１，１，２に対応する近似関数は、図２１７で示されるように、定常性の傾きＶ_fに沿って連続していることになるので、各近似関数は、f(t−Ct(2))，f(t−Ct(1))，f(t−Ct(−1))，f(t−Ct(−2))のように記述され、空間方向Ｙ＝−２，−１，１，２毎に、各シフト量分だけフレーム方向Ｔにずれた関数として表現される。
【１３４４】
そこで、傾き推定部２２５２は、これらのシフト量Ct（−２）乃至Ct（２）を求める。例えば、参照画素が、図２１７で示されるように抽出された場合、そのシフト量は、図中の参照画素（０，２）は、Ct(２)＝２／Ｖ_fとなり、参照画素（０，１）は、Ct(１)＝１／Ｖ_fとなり、参照画素（０，０）は、Ct(０)＝０となり、参照画素（０，−１）は、Ct(−１)＝−１／Ｖ_fとなり、参照画素（０，−２）は、Ct(−２)＝−２／Ｖ_fとなる。傾き推定部２２５２は、これらのシフト量Ct（−２）乃至Ct（２）を求める。
【１３４５】
ステップＳ２２６７において、傾き推定部２２５２は、注目画素のフレーム方向の傾きを演算する（推定する）。例えば、図２１７で示されるように、注目画素について定常性の方向が、空間方向に近い角度の場合、フレーム方向に隣接する画素間では画素値が大きく異なるので、空間方向の画素間では、画素間の変化が小さく、変化が類似していることから、傾き推定部２２５２は、空間方向の画素間の変化をシフト量によるフレーム方向Ｔの変化と捕らえることにより、空間方向の画素間の差分をフレーム方向の画素間の差分に置き換えて、注目画素での傾きを求める。
【１３４６】
すなわち、現実世界を近似的に記述する関数f(t)が存在すると仮定すると、上述のシフト量と各参照画素の画素値との関係は、図２１８で示されるようなものとなる。ここで、図２１８の各画素の画素値は、上からP（０，２），P（０，１），P（０，０），P（０，−１），P（０，−２）で表される。結果として、注目画素（０，０）近傍の画素値Pとシフト量Ctは、（Ｐ，Ｃt）＝（Ｐ（０，２），−Ct（２）），（Ｐ（０，１），−Ct（１）），（Ｐ（０，−１）），−Ct（−１）），（Ｐ（０，−２），−Ct（−２）），（Ｐ（０，０），０）の５組の関係が得られることになる。
【１３４７】
ところで、画素値Ｐ、シフト量Ｃｔ、および、傾きＫｔ（近似関数f(t)上の傾き）は、以下のような式（１０２）のような関係が成立することになる。
【１３４８】
Ｐ＝Ｋｔ×Ｃｔ・・・（１０２）
【１３４９】
上述の式（１０２）は、変数Ｋｔについての１変数の関数であるので、傾き推定部２２５２は、この変数Ｋｔ（傾き）について、１変数の最小自乗法により傾きＫｔを求める。
【１３５０】
すなわち、傾き推定部２２５２は、以下に示すような式（１０３）のような正規方程式を解くことにより、注目画素の傾きを求め、注目画素の画素値、および、定常性の方向の傾きの情報を付加して、実世界推定情報として画像生成部１０３に出力する。
【１３５１】
【数７３】

【１３５２】
ここで、ｉは、上述の参照画素の画素値Ｐとシフト量Ｃｔの組をそれぞれ識別する番号であり、１乃至ｍである。また、ｍは、注目画素を含む参照画素の個数となる。
【１３５３】
ステップＳ２２６９において、参照画素抽出部２２５１は、全ての画素を処理したか否かを判定し、全ての画素を処理していないと判定した場合、その処理は、ステップＳ２２６２に戻る。また、ステップＳ２２６９において、全ての画素が処理されたと判定された場合、その処理は、終了する。
【１３５４】
尚、上述の処理により実世界推定情報として出力されるフレーム方向の傾きは、最終的に求めようとする画素値を外挿補間して演算する際に使用される。また、以上の例においては、２倍密度の画素を演算する際の傾きを例として説明してきたが、それ以上の密度の画素を演算する場合、画素値の演算に必要な、さらに多くの位置での傾きを求めるようにしてもよい。
【１３５５】
例えば、図２１３で示されるように、水平方向に２倍の密度で、かつ、フレーム方向に２倍の密度の時空間方向に合計４倍の密度の画素を生成する場合、上述したように、図２１３中のPin，Pat，Pbtのそれぞれの位置に対応する近似関数f(t)の傾きＫｔを求めるようにすればよい。
【１３５６】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(t)は連続関数であるので、倍密度以外の位置の画素の画素値についても必要な傾きを求めることが可能となる。
【１３５７】
言うまでもなく、フレーム方向、または、空間方向に対する近似関数上の傾き、または、微分値を求める処理の順序は問わない。さらに、空間方向において、上述の例においては、空間方向Ｙとフレーム方向Ｔとの関係を用いて、説明してきたが、空間方向Ｘとフレーム方向Ｔとの関係を用いたものであってもよい。さらに、時空間方向のいずれか２次元の関係から（いずれから１次元の方向の）傾き、または、微分値を選択的に求めるようにしてもよい。
【１３５８】
以上によれば、それぞれ時空間積分効果を有する、センサの複数の検出素子により現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる画像データにおけるデータの定常性を検出し、検出した定常性に対応して、画像データ内の注目画素に対して時空間方向のうち１次元方向の位置に対応する複数画素の画素値の傾きを、現実世界の光信号に対応する関数として推定するようにしたので、注目画素近傍の画素の画素値を使用して、実世界を近似的に表現するフレーム方向の近似関数を求めることなく、画素の生成必要な位置のフレーム方向（時間方向）の近似関数上の傾きを実世界推定情報として生成し、さらに出力することが可能となる。
【１３５９】
次に、図２１９乃至図２４９を参照して、実世界推定部１０２（図３）の実施の形態の他の例について説明する。
【１３６０】
図２１９は、この例の実施の形態の原理を説明する図である。
【１３６１】
図２１９で示されるように、センサ２に入射される画像である、実世界１の信号（光の強度の分布）は、所定の関数Ｆで表される。なお、以下、この例の実施の形態の説明においては、画像である、実世界１の信号を、特に光信号と称し、関数Ｆを、特に光信号関数Ｆと称する。
【１３６２】
この例の実施の形態においては、光信号関数Ｆで表される実世界１の光信号が所定の定常性を有する場合、実世界推定部１０２が、センサ２からの入力画像（定常性に対応するデータの定常性を含む画像データ）と、データ定常性検出部１０１からのデータ定常性情報（入力画像のデータの定常性に対応するデータ定常性情報）を使用して、光信号関数Ｆを所定の関数ｆで近似することによって、光信号関数Ｆを推定する。なお、以下、この例の実施の形態の説明においては、関数ｆを、特に近似関数fと称する。
【１３６３】
換言すると、この例の実施の形態においては、実世界推定部１０２が、近似関数fで表されるモデル１６１（図７）を用いて、光信号関数Ｆで表される画像（実世界１の光信号）を近似（記述）する。従って、以下、この例の実施の形態を、関数近似手法と称する。
【１３６４】
ここで、関数近似手法の具体的な説明に入る前に、本願出願人が関数近似手法を発明するに至った背景について説明する。
【１３６５】
図２２０は、センサ２がＣＣＤとされる場合の積分効果を説明する図である。
【１３６６】
図２２０で示されるように、センサ２の平面上には、複数の検出素子２−１が配置されている。
【１３６７】
図２２０の例では、検出素子２−１の所定の１辺に平行な方向が、空間方向の１方向であるＸ方向とされており、Ｘ方向に垂直な方向が、空間方向の他方向であるＹ方向とされている。そして、Ｘ−Ｙ平面に垂直な方向が、時間方向であるｔ方向とされている。
【１３６８】
また、図２２０の例では、センサ２の各検出素子２−１のそれぞれの空間的な形状は、１辺の長さが１の正方形とされている。そして、センサ２のシャッタ時間（露光時間）が１とされている。
【１３６９】
さらに、図２２０の例では、センサ２の所定の１つの検出素子２−１の中心が、空間方向（Ｘ方向とＹ方向）の原点（Ｘ方向の位置ｘ＝０、およびＹ方向の位置ｙ＝０）とされており、また、露光時間の中間時刻が、時間方向（ｔ方向）の原点（ｔ方向の位置ｔ＝０）とされている。
【１３７０】
この場合、空間方向の原点（ｘ＝０,ｙ＝０）にその中心が存在する検出素子２−１は、Ｘ方向に-0.5乃至0.5の範囲、Ｙ方向に-0.5乃至0.5の範囲、およびｔ方向に-0.5乃至0.5の範囲で光信号関数F(x,y,t)を積分し、その積分値を画素値Ｐとして出力することになる。
【１３７１】
即ち、空間方向の原点にその中心が存在する検出素子２−１から出力される画素値Ｐは、次の式（１０４）で表される。
【１３７２】
【数７４】

【１３７３】
その他の検出素子２−１も同様に、対象とする検出素子２−１の中心を空間方向の原点とすることで、式（１０４）で示される画素値Ｐを出力することになる。
【１３７４】
図２２１は、センサ２の積分効果の具体的な例を説明する図である。
【１３７５】
図２２１において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２２０）を表している。
【１３７６】
実世界１の光信号のうちの１部分（以下、このような部分を、領域と称する）２３０１は、所定の定常性を有する領域の１例を表している。
【１３７７】
なお、実際には、領域２３０１は連続した光信号の１部分（連続した領域）である。これに対して、図２２１においては、領域２３０１は、２０個の小領域（正方形の領域）に区分されているように示されている。これは、領域２３０１の大きさが、Ｘ方向に対して４個分、かつＹ方向に対して５個分のセンサ２の検出素子（画素）が並んだ大きさに相当することを表すためである。即ち、領域２３０１内の２０個の小領域（仮想領域）のそれぞれは１つの画素に相当する。
【１３７８】
また、領域２３０１のうちの図中白い部分は細線に対応する光信号を表している。従って、領域２３０１は、細線が続く方向に定常性を有していることになる。そこで、以下、領域２３０１を、細線含有実世界領域２３０１と称する。
【１３７９】
この場合、細線含有実世界領域２３０１（実世界１の光信号の１部分）がセンサ２により検出されると、センサ２からは、積分効果により、入力画像（画素値）の領域２３０２（以下、細線含有データ領域２３０２と称する）が出力される。
【１３８０】
なお、細線含有データ領域２３０２の各画素のそれぞれは、図中、画像として示されているが、実際には、所定の１つの値を表すデータである。即ち、細線含有実世界領域２３０１は、センサ２の積分効果により、所定の１つの画素値をそれぞれ有する２０個の画素（Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素）に区分された細線含有データ領域２３０２に変化してしまう（歪んでしまう）。
【１３８１】
図２２２は、センサ２の積分効果の具体的な他の例（図２２１とは異なる例）を説明する図である。
【１３８２】
図２２２において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２２０）を表している。
【１３８３】
実世界１の光信号の１部分（領域）２３０３は、所定の定常性を有する領域の他の例（図２２１の細線含有実世界領域２３０１とは異なる例）を表している。
【１３８４】
なお、領域２３０３は、細線含有実世界領域２３０１と同じ大きさを有する領域である。即ち、細線含有実世界領域２３０１と同様に、領域２３０３も、実際には連続した実世界１の光信号の１部分（連続した領域）であるが、図２２２においては、センサ２の１画素に相当する２０個の小領域（正方形の領域）に区分されているように示されている。
【１３８５】
また、領域２３０３は、所定の第１の光の強度（値）を有する第１の部分と、所定の第２の光の強度（値）を有する第２の部分のエッジを含んでいる。従って、領域２３０３は、エッジが続く方向に定常性を有していることになる。そこで、以下、領域２３０３を、２値エッジ含有実世界領域２３０３と称する。
【１３８６】
この場合、２値エッジ含有実世界領域２３０３（実世界１の光信号の１部分）がセンサ２により検出されると、センサ２からは、積分効果により、入力画像（画素値）の領域２３０４（以下、２値エッジ含有データ領域２３０４と称する）が出力される。
【１３８７】
なお、２値エッジ含有データ領域２３０４の各画素値のそれぞれは、細線含有データ領域２３０２と同様に、図中、画像として表現されているが、実際には、所定の値を表すデータである。即ち、２値エッジ含有実世界領域２３０３は、センサ２の積分効果により、所定の１つの画素値をそれぞれ有する２０個の画素（Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素）に区分された２値エッジ含有データ領域２３０４に変化してしまう（歪んでしまう）。
【１３８８】
従来の画像処理装置は、このような細線含有データ領域２３０２や２値エッジ含有データ領域２３０４等、センサ２から出力された画像データを原点（基準）とするとともに、画像データを処理の対象として、それ以降の画像処理を行っていた。即ち、センサ２から出力された画像データは、積分効果により実世界１の光信号とは異なるもの（歪んだもの）となっているにも関わらず、従来の画像処理装置は、その実世界１の光信号とは異なるデータを正として画像処理を行っていた。
【１３８９】
その結果、従来の画像処理装置では、センサ２から出力された段階で、実世界のディテールがつぶれてしまった波形（画像データ）を基準として、その波形から、元のディテールを復元することは非常に困難であるという課題があった。
【１３９０】
そこで、関数近似手法においては、この課題を解決するために、上述したように（図２１９で示されるように）、実世界推定部１０２が、細線含有データ領域２３０２や２値エッジ含有データ領域２３０４のようなセンサ２から出力された画像データ（入力画像）から、光信号関数Ｆ（実世界１の光信号）を近似関数fで近似することによって、光信号関数Ｆを推定する。
【１３９１】
これにより、実世界推定部１０２より後段において（いまの場合、図３の画像生成部１０３）、積分効果が考慮された画像データ、即ち、近似関数fにより表現可能な画像データを原点として、その処理を実行することが可能になる。
【１３９２】
以下、図面を参照して、このような関数近似手法のうちの３つの具体的な手法（第１乃至第３の関数近似手法）のそれぞれについて個別に説明していく。
【１３９３】
はじめに、図２２３乃至図２３７を参照して、第１の関数近似手法について説明する。
【１３９４】
図２２３は、上述した図２２１で示される細線含有実世界領域２３０１を再度表した図である。
【１３９５】
図２２３において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２２０）を表している。
【１３９６】
第１の関数近似手法は、例えば、図２２３で示されるような細線含有実世界領域２３０１に対応する光信号関数F(x,y,t)をＸ方向（図中矢印２３１１の方向）に射影した１次元の波形（以下、このような波形を、X断面波形F(x)と称する）を、n次（nは、任意の整数）の多項式である近似関数f(x)で近似する手法である。従って、以下、第１の関数近似手法を、特に、１次元多項式近似手法と称する。
【１３９７】
なお、１次元多項式近似手法において、近似の対象となるX断面波形F(ｘ)は、勿論、図２２３の細線含有実世界領域２３０１に対応するものに限定されない。即ち、後述するように、１次元多項式近似手法においては、定常性を有する実世界１の光信号に対応するX断面波形F(x)であれば、いずれのものでも近似することが可能である。
【１３９８】
また、光信号関数F(x,y,t)の射影の方向はＸ方向に限定されず、Ｙ方向またはｔ方向でもよい。即ち、１次元多項式近似手法においては、光信号関数F(x,y,t)をＹ方向に射影した関数F(y)を、所定の近似関数f(y)で近似することも可能であるし、光信号関数F(x,y,t)をt方向に射影した関数F(t)を、所定の近似関数f(t)で近似することも可能である。
【１３９９】
より詳細には、１次元多項式近似手法は、例えば、X断面波形F(x)を、次の式（１０５）で示されるような、ｎ次の多項式である近似関数f(x)で近似する手法である。
【１４００】
【数７５】

【１４０１】
即ち、１次元多項式近似手法においては、実世界推定部１０２が、式（１０５）のx^iの係数（特徴量）w_iを演算することで、X断面波形F(x)を推定する。
【１４０２】
この特徴量w_iの演算方法は、特に限定されず、例えば、次の第１乃至第３の方法が使用可能である。
【１４０３】
即ち、第１の方法は、従来から利用されている方法である。
【１４０４】
これに対して、第２の方法は、本願出願人が新たに発明した方法であって、第１の方法に対して、さらに、空間方向の定常性を考慮した方法である。
【１４０５】
しかしながら、後述するように、第１の方法と第２の方法においては、センサ２の積分効果が考慮されていない。従って、第１の方法または第２の方法により演算された特徴量w_iを上述した式（１０５）に代入して得られる近似関数f(x)は、入力画像の近似関数ではあるが、厳密には、X断面波形F(x)の近似関数とは言えない。
【１４０６】
そこで、本願出願人は、第２の方法に対して、センサ２の積分効果をさらに考慮して特徴量w_iを演算する第３の方法を発明した。この第３の方法により演算された特徴量w_iを、上述した式（１０５）に代入して得られる近似関数f(x)は、センサ２の積分効果を考慮している点で、X断面波形F(x)の近似関数であると言える。
【１４０７】
このように、厳密には、第１の方法と第２の方法は、１次元多項式近似手法とは言えず、第３の方法のみが１次元多項式近似手法であると言える。
【１４０８】
換言すると、図２２４で示されるように、第２の方法は、１次元多項式近似手法とは異なる、本発明の実世界推定部１０２の実施の形態である。即ち、図２２４は、第２の方法に対応する実施の形態の原理を説明する図である。
【１４０９】
図２２４で示されるように、第２の方法に対応する実施の形態においては、光信号関数Ｆで表される実世界１の光信号が所定の定常性を有する場合、実世界推定部１０２が、センサ２からの入力画像（定常性に対応するデータの定常性を含む画像データ）と、データ定常性検出部１０１からのデータ定常性情報（入力画像のデータの定常性に対応するデータ定常性情報）を使用して、Ｘ断面波形F(x)を近似するのではなく、センサ２からの入力画像を所定の近似関数f₂(x)で近似する。
【１４１０】
このように、第２の方法は、センサ２の積分効果を考慮せず、入力画像の近似に留まっている点で、第３の方法と同一レベルの手法であるとは言い難い。しかしながら、第２の方法は、空間方向の定常性を考慮している点で、従来の第１の方法よりも優れた手法である。
【１４１１】
以下、第１の方法、第２の方法、および第３の方法のそれぞれの詳細について、その順番で個別に説明していく。
【１４１２】
なお、以下、第１の方法、第２の方法、および第３の方法により生成される近似関数f(x)のそれぞれを、他の方法のものと区別する場合、特に、近似関数f₁(x)、近似関数f₂(x)、および近似関数f₃(x)とそれぞれ称する。
【１４１３】
はじめに、第１の方法の詳細について説明する。
【１４１４】
第１の方法においては、上述した式（１０５）で示される近似関数f₁(x)が、図２２５の細線含有実世界領域２３０１内で成り立つとして、次の予測方程式（１０６）を定義する。
【１４１５】
【数７６】

【１４１６】
式（１０６）において、xは、注目画素からのＸ方向に対する相対的な画素位置を表している。yは、注目画素からのＹ方向に対する相対的な画素位置を表している。ｅは、誤差を表している。具体的には、例えば、いま、図２２５で示されるように、注目画素が、細線含有データ領域２３０２（細線含有実世界領域２３０１（図２２３）がセンサ２により検出されて、出力されたデータ）のうちの、図中、左からＸ方向に２画素目であって、下からＹ方向に３画素目の画素であるとする。また、注目画素の中心を原点(0,0)とし、センサ２のＸ方向とＹ方向（図２２０）のそれぞれに平行なx軸とy軸を軸とする座標系（以下、注目画素座標系と称する）が設定されているとする。この場合、注目画素座標系の座標値(x,y)が、相対画素位置を表すことになる。
【１４１７】
また、式（１０６）において、P(x,y)は、相対画素位置(x,y)における画素値を表している。具体的には、いまの場合、細線含有データ領域２３０２内のP(x,y)は、図２２６で示されるようになる。
【１４１８】
図２２６は、この画素値P(x,y)をグラフ化したものを表している。
【１４１９】
図２２６において、各グラフのそれぞれの縦軸は、画素値を表しており、横軸は、注目画素からのＸ方向の相対位置xを表している。また、図中、上から1番目のグラフの点線は入力画素値P(x,-2)を、上から２番目のグラフの３点鎖線は入力画素値P(x,-1)を、上から３番目のグラフの実線は入力画素値P(x,0)を、上から４番目のグラフの１点鎖線は入力画素値P(x,1)を、上から５番目（下から１番目）のグラフの２点鎖線は入力画素値P(x,2)を、それぞれ表している。
【１４２０】
上述した式（１０６）に対して、図２２６で示される２０個の入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)（ただし、xは、−１乃至２のうちのいずれかの整数値）のそれぞれを代入すると、次の式（１０７）で示される２０個の方程式が生成される。なお、e_k（kは、１乃至２０のうちのいずれかの整数値）のそれぞれは、誤差を表している。
【１４２１】
【数７７】

【１４２２】
式（１０７）は、２０個の方程式より構成されているので、近似関数f₁(x)の特徴量w_iの個数が２０個より少ない場合、即ち、近似関数f₁(x)が１９次より少ない次数の多項式である場合、例えば、最小自乗法を用いて特徴量w_iの算出が可能である。なお、最小自乗法の具体的な解法は後述する。
【１４２３】
例えば、いま、近似関数f₁(x)の次数が５次とされた場合、式（１０７）を利用して最小自乗法により演算された近似関数f₁(x)（演算された特徴量w_iにより生成される近似関数f₁(x)）は、図２２７で示される曲線のようになる。
【１４２４】
なお、図２２７において、縦軸は画素値を表しており、横軸は注目画素からの相対位置ｘを表している。
【１４２５】
即ち、図２２５の細線含有データ領域２３０２を構成する２０個の画素値P(x,y）のそれぞれ（図２２６で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれ）を、例えば、ｘ軸に沿ってそのまま足しこむ（Ｙ方向の相対位置yを一定とみなして、図２２６で示される５つのグラフを重ねる）と、図２２７で示されるような、x軸に平行な複数の線（点線、３点鎖線、実線、１点鎖線、および２点鎖線）が分布する。
【１４２６】
ただし、図２２７においては、点線は入力画素値P(x,-2)を、３点鎖線は入力画素値P(x,-1)を、実線は入力画素値P(x,0)を、１点鎖線は入力画素値P(x,1)を、２点鎖線は入力画素値P(x,2)を、それぞれ表している。また、同一の画素値の場合、実際には２本以上の線が重なることになるが、図２２７においては、各線の区別がつくように、各線のそれぞれが重ならないように描画されている。
【１４２７】
そして、このように分布した２０個の入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれと、値f₁(x)の誤差が最小となるような回帰曲線（最小自乗法により演算された特徴量w_iを上述した式（１０４）に代入して得られる近似関数f₁(x)）が、図２２７で示される曲線（近似関数f₁(x)）となる。
【１４２８】
このように、近似関数f₁(x)は、Ｙ方向の画素値（注目画素からのＸ方向の相対位置xが同一の画素値）P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)の平均値を、Ｘ方向に結んだ曲線を単に表しているに過ぎない。即ち、光信号が有する空間方向の定常性を考慮することなく、近似関数f₁(x)が生成されている。
【１４２９】
例えば、いまの場合、近似の対象は、細線含有実世界領域２３０１（図２２３）とされている。この細線含有実世界領域２３０１は、図２２８で示されるように、傾きG_Fで表される空間方向の定常性を有している。なお、図２２８において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２２０）を表している。
【１４３０】
従って、データ定常性検出部１０１（図２１９）は、空間方向の定常性の傾きG_Fに対応するデータ定常性情報として、図２２８で示されるような角度θ（傾きG_Fに対応する傾きG_fで表されるデータの定常性の方向と、Ｘ方向のなす角度θ）を出力することができる。
【１４３１】
しかしながら、第１の方法においては、データ定常性検出部１０１より出力されるデータ定常性情報は一切用いられていない。
【１４３２】
換言すると、図２２８で示されるように、細線含有実世界領域２３０１の空間方向の定常性の方向は略角度θ方向である。しかしながら、第１の方法は、細線含有実世界領域２３０１の空間方向の定常性の方向はＹ方向であると仮定して（即ち、角度θが９０度であると仮定して）、近似関数f₁(x)の特徴量w_iを演算する方法である。
【１４３３】
このため、近似関数f₁(x)は、その波形が鈍り、元の画素値よりディテールが減少する関数となってしまう。換言すると、図示はしないが、第１の方法により生成される近似関数f₁(x)は、実際のＸ断面波形F(x)とは大きく異なる波形となってしまう。
【１４３４】
そこで、本願出願人は、第１の方法に対して、空間方向の定常性をさらに考慮して（角度θを利用して）特徴量w_iを演算する第２の方法を発明した。
【１４３５】
即ち、第２の方法は、細線含有実世界領域２３０１の定常性の方向は略角度θ方向であるとして、近似関数f₂(x) の特徴量w_iを演算する方法である。
【１４３６】
具体的には、例えば、空間方向の定常性に対応するデータの定常性を表す傾きG_fは、次の式（１０８）で表される。
【１４３７】
【数７８】

【１４３８】
なお、式（１０８）において、dxは、図２２８で示されるようなＸ方向の微小移動量を表しており、dyは、図２２８で示されるようなdxに対するＹ方向の微小移動量を表している。
【１４３９】
この場合、シフト量C_x(y)を、次の式（１０９）のように定義すると、第２の方法においては、第１の方法で利用した式（１０６）に相当する式は、次の式（１１０）のようになる。
【１４４０】
【数７９】

【１４４１】
【数８０】

【１４４２】
即ち、第１の方法で利用した式（１０６）は、画素の中心の位置(x、y)のうちのＸ方向の位置ｘが、同一の位置に位置する画素の画素値P(x,y)はいずれも同じ値であることを表している。換言すると、式（１０６）は、同じ画素値の画素がＹ方向に続いている（Ｙ方向に定常性がある）ことを表している。
【１４４３】
これに対して、第２の方法で利用する式（１１０）は、画素の中心の位置が(x,y)である画素の画素値P(x,y)は、注目画素（その中心の位置が原点(0,0)である画素）からＸ方向にxだけ離れた場所に位置する画素の画素値（≒f₂(x)）とは一致せず、その画素からさらにＸ方向にシフト量C_x(y)だけ離れた場所に位置する画素（注目画素からＸ方向にx＋C_x(y)だけ離れた場所に位置する画素）の画素値（≒f₂（x＋C_x(y)））と同じ値であることを表している。換言すると、式（１１０）は、同じ画素値の画素が、シフト量C_x(y)に対応する角度θ方向に続いている（略角度θ方向に定常性がある）ことを表している。
【１４４４】
このように、シフト量C_x(y)が、空間方向の定常性（いまの場合、図２２８の傾きG_Fで表される定常性（厳密には、傾きG_fで表されるデータの定常性））を考慮した補正量であり、シフト量C_x(y)により式（１０６）を補正したものが式（１１０）となる。
【１４４５】
この場合、図２２５で示される細線含有データ領域２３０２の２０個の画素値P(x,y)（ただし、xは、−１乃至２のうちのいずれかの整数値。yは、−２乃至２のうちのいずれかの整数値）のそれぞれを、上述した式（１１０）に代入すると次の式（１１１）で示される２０個の方程式が生成される。
【１４４６】
【数８１】

【１４４７】
式（１１１）は、上述した式（１０７）と同様に、２０個の方程式より構成されている。従って、第１の方法と同様に第２の方法においても、近似関数f₂(x)の特徴量w_iの個数が２０個より少ない場合、即ち、近似関数f₂(x)が１９次より少ない次数の多項式である場合、例えば、最小自乗法を用いて特徴量w_iの算出が可能である。なお、最小自乗法の具体的な解法は後述する。
【１４４８】
例えば、第１の方法と同様に近似関数f₂(x)の次数が５次とされた場合、第２の方法においては、次のようにして特徴量w_iが演算される。
【１４４９】
即ち、図２２９は、式（１１１）の左辺で示される画素値P(x,y)をグラフ化したものを表している。図２２９で示される５つのグラフのそれぞれは、基本的に図２２６で示されるものと同一である。
【１４５０】
図２２９で示されるように、最大の画素値（細線に対応する画素値）は、傾きG_fで表されるデータの定常性の方向に続いている。
【１４５１】
そこで、第２の方法においては、図２２９で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれを、例えば、ｘ軸に沿って足しこむ場合、第１の方法のようにそのまま足しこむ（yを一定とみなして、図２２９で示される状態のまま５つのグラフを重ねる）のではなく、図２３０で示される状態に変化させてから足しこむ。
【１４５２】
即ち、図２３０は、図２２９で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれを、上述した式（１０９）で示されるシフト量C_x(y)だけシフトさせた状態を表している。換言すると、図２３０は、図２２９で示される５つのグラフを、データの定常性の実際の方向を表す傾きG_Fを、あたかも傾きG_F'とするように（図中、点線の直線を実線の直線とするように）移動させた状態を表している。
【１４５３】
図２３０の状態で、入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれを、例えば、ｘ軸に沿って足しこむと（図２３０で示される状態で５つのグラフを重ねると）、図２３１で示されるような、x軸に平行な複数の線（点線、３点鎖線、実線、１点鎖線、および２点鎖線）が分布する。
【１４５４】
なお、図２３１において、縦軸は画素値を表しており、横軸は注目画素からの相対位置ｘを表している。また、点線は入力画素値P(x,-2)を、３点鎖線は入力画素値P(x,-1)を、実線は入力画素値P(x,0)を、１点鎖線は入力画素値P(x,1)を、２点鎖線は入力画素値P(x,2)を、それぞれ表している。さらに、同一の画素値の場合、実際には２本以上の線が重なることになるが、図２３１においては、各線の区別がつくように、各線のそれぞれが重ならないように描画されている。
【１４５５】
そして、このように分布した２０個の入力画素値P(x,y)のそれぞれ（ただし、ｘは、−１乃至２のうちのいずれかの整数値。yは、−２乃至２のうちのいずれかの整数値）と、値f₂(x+C_x(y))の誤差が最小となるような回帰曲線（最小自乗法により演算された特徴量w_iを上述した式（１０４）に代入して得られる近似関数f₂(x)）は、図２３１の実線で示される曲線f₂(x)となる。
【１４５６】
このように、第２の方法により生成された近似関数f₂(x)は、データ定常性検出部１０１（図２１９）より出力される角度θ方向（即ち、ほぼ空間方向の定常性の方向）の入力画素値Ｐ(x,y)の平均値をＸ方向に結んだ曲線を表すことになる。
【１４５７】
これに対して、上述したように、第１の方法により生成された近似関数f₁(x)は、Ｙ方向（即ち、空間方向の定常性とは異なる方向）の入力画素値Ｐ(x,y)の平均値を、Ｘ方向に結んだ曲線を単に表しているに過ぎない。
【１４５８】
従って、図２３１で示されるように、第２の方法により生成された近似関数f₂(x)は、第１の方法により生成された近似関数f₁(x)よりも、その波形の鈍り度合いが減少し、かつ、元の画素値に対するディテールの減り具合も減少する関数となる。換言すると、図示はしないが、第２の方法により生成される近似関数f₂(x)は、第１の方法により生成される近似関数f₁(x)よりも実際のＸ断面波形F(x)により近い波形となる。
【１４５９】
しかしながら、上述したように、近似関数f₂(x)は、空間方向の定常性が考慮されたものではあるが、入力画像（入力画素値）を原点（基準）として生成されたものに他ならない。即ち、上述した図２２４で示されるように、近似関数f₂(x)は、X断面波形F(x)とは異なる入力画像を近似したに過ぎず、Ｘ断面波形F(x)を近似したとは言い難い。換言すると、第２の方法は、上述した式（１１０）が成立するとして特徴量w_iを演算する方法であり、上述した式（１０４）の関係は考慮していない（センサ２の積分効果を考慮していない）。
【１４６０】
そこで、本願出願人は、第２の方法に対して、センサ２の積分効果をさらに考慮することで近似関数f₃(x)の特徴量w_iを演算する第３の方法を発明した。
【１４６１】
即ち、第３の方法は、空間混合領域の概念を導入した方法である。
【１４６２】
第３の方法の説明の前に、図２３２を参照して、空間混合領域について説明する。
【１４６３】
図２３２において、実世界１の光信号の１部分２３２１（以下、領域２３２１と称する）は、センサ２の１つの検出素子（画素）と同じ面積を有する領域を表している。
【１４６４】
領域２３２１がセンサ２に検出されると、センサ２からは、領域２３２１が時空間方向（X方向,Y方向,およびt方向）に積分された値（１つの画素値）２３２２が出力される。なお、画素値２３２２は、図中、画像として表現されているが、実際には、所定の値を表すデータである。
【１４６５】
実世界１の領域２３２１は、前景（例えば、上述した細線）に対応する光信号（図中白い領域）と、背景に対応する光信号（図中黒い領域）に明確に区分される。
【１４６６】
これに対して、画素値２３２２は、前景に対応する実世界１の光信号と、背景に対応する実世界１の光信号が積分された値である。換言すると、画素値２３２２は、前景に対応する光のレベルと背景に対応する光のレベルが空間的に混合されたレベルに対応する値である。
【１４６７】
このように、実世界１の光信号のうちの１画素（センサ２の検出素子）に対応する部分が、同一レベルの光信号が空間的に一様に分布する部分ではなく、前景と背景のように異なるレベルの光信号のそれぞれが分布する部分である場合、その領域は、センサ２により検出されると、センサ２の積分効果により、異なる光のレベルがあたかも空間的に混合されて（空間方向に積分されて）１つの画素値となってしまう。このように、前景に対する画像（実世界１の光信号）と、背景に対する画像（実世界１の光信号）が空間的に積分されている画素からなる領域を、ここでは、空間混合領域と称している。
【１４６８】
従って、第３の方法においては、実世界推定部１０２（図２１９）が、実世界１の元の領域２３２１（実世界１の光信号のうちの、センサ２の１画素に対応する部分２３２１）を表すＸ断面波形F(x)を、例えば、図２３３で示されるような、１次の多項式である近似関数f₃(x)で近似することによって、Ｘ断面波形F(x)を推定する。
【１４６９】
即ち、図２３３は、空間混合領域である画素値２３２２（図２３２）に対応する近似関数f₃(x)、即ち、実世界１の領域２３３１内の実線（図２３２）に対応するＸ断面波形Ｆ（ｘ）を近似する近似関数f₃(x)の例を表している。図２３３において、図中水平方向の軸は、画素値２３２２に対応する画素の左下端x_sから右下端x_eまでの辺（図２３２）に平行な軸を表しており、x軸とされている。図中垂直方向の軸は、画素値を表す軸とされている。
【１４７０】
図２３３において、近似関数f₃(x)をx_sからx_eの範囲（画素幅）で積分したものが、センサ２から出力される画素値Ｐ(x,y)とほぼ一致する（誤差ｅだけ存在する）として、次の式（１１２）を定義する。
【１４７１】
【数８２】

【１４７２】
いまの場合、図２２８で示される細線含有データ領域２３０２の２０個の画素値Ｐ(x,y)（ただし、xは、−１乃至２のうちのいずれかの整数値。yは、−２乃至２のうちのいずれかの整数値）から、近似関数f₃(x)の特徴量w_iが算出されるので、式（１１２）の画素値Ｐは、画素値P(x,y)となる。
【１４７３】
また、第２の方法と同様に、空間方向の定常性も考慮する必要があるので、式（１１２）の積分範囲の開始位置x_sと終了位置x_eのそれぞれは、シフト量C_x(y)にも依存することになる。即ち、式（１１２）の積分範囲の開始位置x_sと終了位置x_eのそれぞれは、次の式（１１３）のように表される。
【１４７４】
【数８３】

【１４７５】
この場合、図２２８で示される細線含有データ領域２３０２の各画素値それぞれ、即ち、図２２９で示される入力画素値P(x,-2),P(x,-1),P(x,0),P(x,1),P(x,2)のそれぞれ（ただし、ｘは、−１乃至２のうちのいずれかの整数値）を、上述した式（１１２）（積分範囲は、上述した式（１１３））に代入すると次の式（１１４）で示される２０個の方程式が生成される。
【１４７６】
【数８４】

【数８５】

【１４７７】
式（１１４）は、上述した式（１１１）と同様に、２０個の方程式より構成されている。従って、第２の方法と同様に第３の方法においても、近似関数f₃(x)の特徴量w_iの個数が２０個より少ない場合、即ち、近似関数f₃(x)が１９次より少ない次数の多項式である場合、例えば、最小自乗法を用いて特徴量w_iの算出が可能である。なお、最小自乗法の具体的な解法は後述する。
【１４７８】
例えば、近似関数f₃(x)の次数が５次とされた場合、式（１１４）を利用して最小自乗法により演算された近似関数f₃(x)（演算された特徴量w_iにより生成される近似関数f₃(x)）は、図２３４の実線で示される曲線のようになる。
【１４７９】
なお、図２３４において、縦軸は画素値を表しており、横軸は注目画素からの相対位置ｘを表している。
【１４８０】
図２３４で示されるように、第３の方法により生成された近似関数f₃(x)（図中、実線で示される曲線）は、第２の方法により生成された近似関数f₂(x)（図中、点線で示される曲線）と比較すると、ｘ＝０における画素値が大きくなり、また、曲線の傾斜の度合いも急な波形となる。これは、入力画素よりディテイルが増加して、入力画素の解像度とは無関係となっているためである。即ち、近似関数f₃（x）は、X断面波形F(x)を近似していると言える。従って、図示はしないが、近似関数f₃(x)は、近似関数f₂(x)よりもＸ断面波形F(x)に近い波形となる。
【１４８１】
図２３５は、このような１次多項式近似手法を利用する実世界推定部１０２の構成例を表している。
【１４８２】
図２３５において、実世界推定部１０２は、例えば、特徴量w_iを上述した第３の方法（最小自乗法）により演算し、演算した特徴量w_iを利用して上述した式（１０５）の近似関数f(x)を生成することで、Ｘ断面波形F(x)を推定する。
【１４８３】
図２３５で示されるように、実世界推定部１０２には、条件設定部２３３１、入力画像記憶部２３３２、入力画素値取得部２３３３、積分成分演算部２３３４、正規方程式生成部２３３５、および近似関数生成部２３３６が設けられている。
【１４８４】
条件設定部２３３１は、注目画素に対応するX断面波形F(x)を推定するために使用する画素の範囲（以下、タップ範囲と称する）や、近似関数f(x)の次数nを設定する。
【１４８５】
入力画像記憶部２３３２は、センサ２からの入力画像（画素値）を一次的に格納する。
【１４８６】
入力画素値取得部２３３３は、入力画像記憶部２３３２に記憶された入力画像のうちの、条件設定部２３３１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部２３３５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【１４８７】
ところで、ここでは、実世界推定部１０２は、上述した式（１１２）と式（１１３）を利用して最小自乗法により近似関数f(x)の特徴量w_iを演算するが、上述した式（１１２）は、次の式（１１５）のように表現することができる。
【１４８８】
【数８６】

【１４８９】
式（１１５）において、S_i（x_s,x_e）は、i次項の積分成分を表している。即ち、積分成分S_i(x_s,x_e)は、次の式（１１６）で示される。
【１４９０】
【数８７】

【１４９１】
積分成分演算部２３３４は、この積分成分S_i(x_s、x_e)を演算する。
【１４９２】
具体的には、式（１１６）で示される積分成分S_i(x_s,x_e)（ただし、値x_sと値x_eは、上述した式（１１２）で示される値）は、相対画素位置(x,y)、シフト量C_x(y)、および、i次項のiが既知であれば演算可能である。また、これらのうちの、相対画素位置(x,y)は注目画素とタップ範囲により、シフト量C_x(y)は角度θにより（上述した式（１０７）と式（１０９）により）、iの範囲は次数nにより、それぞれ決定される。
【１４９３】
従って、積分成分演算部２３３４は、条件設定部２３３１により設定されたタップ範囲および次数、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分S_i(x_s,x_e)を演算し、その演算結果を積分成分テーブルとして正規方程式生成部２３３５に供給する。
【１４９４】
正規方程式生成部２３３５は、入力画素値取得部２３３３より供給された入力画素値テーブルと、積分成分演算部２３３４より供給された積分成分テーブルを利用して、上述した式（１１２）、即ち、式（１１５）の右辺の特徴量w_iを最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部２３３６に供給する。なお、正規方程式の具体例については後述する。
【１４９５】
近似関数生成部２３３６は、正規方程式生成部２３３５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、上述した式（１１５）の特徴量w_i（即ち、１次元多項式である近似関数f(x)の係数w_i）のそれぞれを演算し、画像生成部１０３に出力する。
【１４９６】
次に、図２３６のフローチャートを参照して、１次元多項式近似手法を利用する実世界推定部１０２（図２３５）の実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【１４９７】
例えば、いま、センサ２から出力された１フレームの入力画像であって、上述した図２２１の細線含有データ領域２３０２を含む入力画像が、既に入力画像記憶部２３３２に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０）の定常性の検出の処理において、細線含有データ領域２３０２に対してその処理を施して、データ定常性情報として角度θを既に出力しているとする。
【１４９８】
この場合、図２３６のステップＳ２３０１において、条件設定部２３３１は、条件（タップ範囲と次数）を設定する。
【１４９９】
例えば、いま、図２３７で示されるタップ範囲２３５１が設定されるとともに、次数として５次が設定されたとする。
【１５００】
即ち、図２３７は、タップ範囲の１例を説明する図である。図２３７において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２２０）を表している。また、タップ範囲２３５１は、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、２０個の正方形）からなる画素群を表している。
【１５０１】
さらに、図２３７で示されるように、注目画素が、タップ範囲２３５１のうちの、図中、左から２画素目であって、下から３画素目の画素に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y)（注目画素の中心(0,0)を原点とする注目画素座標系の座標値）に応じて、図２３７で示されるような番号l（lは、０乃至１９のうちのいずれかの整数値）が付されるとする。
【１５０２】
図２３６に戻り、ステップＳ２３０２において、条件設定部２３３１は、注目画素を設定する。
【１５０３】
ステップＳ２３０３において、入力画素値取得部２３３３は、条件設定部２３３１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部２３３３は、細線含有データ領域２３０２（図２２５）を取得し、入力画素値テーブルとして、２０個の入力画素値P(l)からなるテーブルを生成する。
【１５０４】
なお、いまの場合、入力画素値P(l)と、上述した入力画素値P(x,y)の関係は、次の式（１１７）で示される関係とされる。ただし、式（１１７）において、左辺が入力画素値P（ｌ）を表し、右辺が入力画素値P(x,y)を表している。
【１５０５】
【数８８】

【１５０６】
ステップＳ２３０４において、積分成分演算部２３３４は、条件設定部２３３１により設定された条件（タップ範囲および次数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１５０７】
いまの場合、上述したように、入力画素値は、P(x,y)でなくP(l)といった、画素の番号lの値として取得されるので、積分成分演算部２３３４は、上述した式（１１６）の積分成分S_i(x_s,x_e)を、次の式（１１８）の左辺で示される積分成分S_i(l)といったlの関数として演算する。
【１５０８】
S_i(ｌ) ＝ S_i（x_s,x_e） ・・・（１１８）
【１５０９】
具体的には、いまの場合、次の式（１１９）で示される積分成分S_i(l)が演算される。
【１５１０】
【数８９】

【１５１１】
なお、式（１１９）において、左辺が積分成分S_i（ｌ)を表し、右辺が積分成分S_i(x_s,x_e)を表している。即ち、いまの場合、iは０乃至５であるので、２０個のS₀(l),２０個のS₁(l),２０個のS₂(l),２０個のS₃(l),２０個のS₄(l),２０個のS₅(l)の総計１２０個のS_i(l)が演算されることになる。
【１５１２】
より具体的には、はじめに、積分成分演算部２３３４は、データ定常性検出部１０１より供給された角度θを使用して、シフト量C_x(-2),C_x(-1),C_x(1),C_x(2)のそれぞれを演算する。次に、積分成分演算部２３３４は、演算したシフト量C_x(-2),C_x(-1),C_x(1),C_x(2)を使用して式（１１８）の右辺に示される２０個の積分成分S_i(x_s,x_e)のそれぞれを、i=０乃至５のそれぞれについて演算する。即ち、１２０個の積分成分S_i(x_s,x_e)が演算される。なお、この積分成分S_i(x_s,x_e)の演算においては、上述した式（１１６）が使用される。そして、積分成分演算部２３３４は、式（１１９）に従って、演算した１２０個の積分成分S_i(x_s,x_e)のそれぞれを、対応する積分成分S_i(l)に変換し、変換した１２０個の積分成分S_i(l)を含む積分成分テーブルを生成する。
【１５１３】
なお、ステップＳ２３０３の処理とステップＳ２３０４の処理の順序は、図２３６の例に限定されず、ステップＳ２３０４の処理が先に実行されてもよいし、ステップＳ２３０３の処理とステップＳ２３０４の処理が同時に実行されてもよい。
【１５１４】
次に、ステップＳ２３０５において、正規方程式生成部２３３５は、ステップＳ２３０３の処理で入力画素値取得部２３３３により生成された入力画素値テーブルと、ステップＳ２３０４の処理で積分成分演算部２３３４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【１５１５】
具体的には、いまの場合、最小自乗法により、上述した式（１１５）に対応する次の式（１２０）の特徴量w_iを演算する。で、それに対応する正規方程式は、次の式（１２１）のように表される。
【１５１６】
【数９０】

【１５１７】
【数９１】

【１５１８】
なお、式（１２１）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、多項式である近似関数f(x)の次数を表している。具体的には、いまの場合、n=5となり、L=１９となる。
【１５１９】
式（１２１）で示される正規方程式の各行列のそれぞれを、次の式（１２２）乃至（１２４）のように定義すると、正規方程式は、次の式（１２５）のように表される。
【１５２０】
【数９２】

【１５２１】
【数９３】

【１５２２】
【数９４】

【１５２３】
【数９５】

【１５２４】
式（１２３）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（１２５）において、左辺の行列Ｓ_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MAT（即ち、特徴量w_i）の算出が可能である。
【１５２５】
具体的には、式（１２２）で示されるように、行列Ｓ_MATの各成分は、上述した積分成分S_i(l)が既知であれば演算可能である。積分成分S_i(l)は、積分成分演算部２３３４より供給された積分成分テーブルに含まれているので、正規方程式生成部２３３５は、積分成分テーブルを利用して行列Ｓ_MATの各成分を演算することができる。
【１５２６】
また、式（１２４）で示されるように、行列Ｐ_MATの各成分は、積分成分S_i(l)と入力画素値P(l)が既知であれば演算可能である。積分成分S_i(l)は、行列Ｓ_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部２３３３より供給された入力画素値テーブルに含まれているので、正規方程式生成部２３３５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【１５２７】
このようにして、正規方程式生成部２３３５は、行列Ｓ_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列Ｓ_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部２３３６に出力する。
【１５２８】
正規方程式生成部２３３５より正規方程式テーブルが出力されると、ステップＳ２３０６において、近似関数生成部２３３６は、正規方程式テーブルに基づいて、上述した式（１２５）の行列W_MATの各成分である特徴量w_i（即ち、１次元多項式である近似関数f(x)の係数w_i）を演算する。
【１５２９】
具体的には、上述した式（１２５）の正規方程式は、次の式（１２６）のように変形できる。
【１５３０】
【数９６】

【１５３１】
式（１２６）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列S_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部２３３５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部２３３６は、正規方程式テーブルを利用して、式（１２６）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【１５３２】
ステップＳ２３０７において、近似関数生成部２３３６は、全画素の処理を終了したか否かを判定する。
【１５３３】
ステップＳ２３０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ２３０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ２３０２乃至Ｓ２３０７の処理が繰り返される。
【１５３４】
そして、全画素の処理が終了すると（ステップＳ２３０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【１５３５】
なお、以上のようにして演算された係数（特徴量）w_iにより生成される近似関数f(x)の波形は、上述した図２３４の近似関数f₃(x)のような波形となる。
【１５３６】
このように、１次元多項式近似手法においては、１次元のＸ断面波形F(x)と同一形状の波形が定常性の方向に連なっていると仮定して、１次元の多項式である近似関数f(x)の特徴量が演算される。従って、１次元多項式近似手法においては、他の関数近似手法に比較して、少ない演算処理量で近似関数f(x)の特徴量の算出が可能となる。
【１５３７】
換言すると、１次元多項式近似手法においては、例えば、図２１９（図３）のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサの複数の検出素子（例えば、図２２０のセンサ２の検出素子２−１）により実世界１の光信号（例えば、図２２１の実世界１の光信号の１部分２３０１）が射影され、実世界１の光信号の定常性（例えば、図２２８の傾きG_Fで表される定常性）の一部が欠落した、検出素子２−１により射影された画素値（例えば、図２２６の各グラフに示される入力画素値P(x,y)）を有する複数の画素からなる画像データ（例えば、図２２１の画像データ（入力画像の領域）２３０２）におけるデータの定常性（例えば、図２２８の傾きG_fで表されるデータの定常性）を検出する。
【１５３８】
例えば、図２１９（図３）の実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち１次元方向（例えば、図２２３の矢印２３１１、即ち、X方向）の位置に対応する画素の画素値（例えば、上述した式（１１２）の左辺である入力画素値Ｐ）が、１次元方向の積分効果により取得された画素値（例えば、式（１１２）の右辺に示されるように、近似関数f₃(x)がＸ方向に積分された値）であるとして、実世界１の光信号を表す光信号関数Ｆ（具体的には、Ｘ断面波形Ｆ（ｘ））を所定の近似関数ｆ（具体的には、例えば、図２３４の近似関数f₃(x)）で近似することで、光信号関数Fを推定する。
【１５３９】
詳細には、例えば、実世界推定部１０２は、データ定常性検出手部１０１により検出されたデータの定常性に対応する線（例えば、図２３０の傾きG_fに対応する線（点線））からの１次元方向（例えば、Ｘ方向）に沿った距離（例えば、図２３０のシフト量Cx(y)）に対応する画素の画素値が、１次元方向の積分効果により取得された画素値（例えば、上述した式（１１２）に示されるような積分範囲で、式（１１２）の右辺に示されるように、近似関数f₃(x)がＸ方向に積分された値）であるとして、光信号関数Fを近似関数ｆで近似することにより、光信号関数Fを推定する。
【１５４０】
従って、１次元多項式近似手法においては、他の関数近似手法に比較して、少ない演算処理量で近似関数f(x)の特徴量の算出が可能となる。
【１５４１】
次に、図２３８乃至図２４４を参照して、第２の関数近似手法について説明する。
【１５４２】
即ち、第２の関数近似手法とは、例えば、図２３８で示されるような、傾きG_Fで表される空間方向の定常性を有する実世界１の光信号を、Ｘ−Ｙ平面上（空間方向の１方向であるＸ方向と、Ｘ方向に垂直なＹ方向に水平な平面上）の波形F(x,y)とみなし、２次元の多項式である近似関数f(x,y)で波形F(x,y)を近似することによって、その波形F(x,y)を推定する手法である。従って、以下、第２の関数近似手法を、２次元多項式近似手法と称する。
【１５４３】
なお、図２３８において、図中、水平方向は、空間方向の１方向であるＸ方向を、右上方向は、空間方向の他方向であるＹ方向を、垂直方向は、光のレベルを、それぞれ表している。G_Fは、空間方向の定常性の傾きを表している。
【１５４４】
また、２次元多項式近似手法の説明においても、センサ２は、図２３９で示されるような、複数の検出素子２−１がその平面上に配置されて構成されるＣＣＤとされる。
【１５４５】
図２３９の例では、検出素子２−１の所定の１辺に平行な方向が、空間方向の１方向であるＸ方向とされており、Ｘ方向に垂直な方向が、空間方向の他方向であるＹ方向とされている。そして、Ｘ−Ｙ平面に垂直な方向が、時間方向であるｔ方向とされている。
【１５４６】
また、図２３９の例では、センサ２の各検出素子２−１のそれぞれの空間的な形状は、１辺の長さが１の正方形とされている。そして、センサ２のシャッタ時間（露光時間）が１とされている。
【１５４７】
さらに、図２３９の例では、センサ２の所定の１つの検出素子２−１の中心が、空間方向（Ｘ方向とＹ方向）の原点（Ｘ方向の位置ｘ＝０、およびＹ方向の位置ｙ＝０）とされており、また、露光時間の中間時刻が、時間方向（ｔ方向）の原点（ｔ方向の位置ｔ＝０）とされている。
【１５４８】
この場合、空間方向の原点（ｘ＝０,ｙ＝０）にその中心が存在する検出素子２−１は、Ｘ方向に-0.5乃至0.5の範囲、Ｙ方向に-0.5乃至0.5の範囲、およびｔ方向に-0.5乃至0.5の範囲で光信号関数F(x,y,t)を積分し、その積分値を画素値Ｐとして出力することになる。
【１５４９】
即ち、空間方向の原点にその中心が存在する検出素子２−１から出力される画素値Ｐは、次の式（１２７）で表される。
【１５５０】
【数９７】

【１５５１】
その他の検出素子２−１も同様に、対象とする検出素子２−１の中心を空間方向の原点とすることで、式（１２７）で示される画素値Ｐを出力することになる。
【１５５２】
ところで、上述したように、２次元多項式近似手法は、実世界１の光信号を、例えば、図２３８で示されるような波形F(x,y)として扱い、その２次元の波形F(x,y)を、２次元の多項式である近似関数f(x,y)に近似する手法である。
【１５５３】
そこで、はじめに、このような近似関数f(x,y)を２次元の多項式で表現する手法について説明する。
【１５５４】
上述したように、実世界１の光信号は、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする光信号関数F(x,y,t)で表される。この光信号関数F(x,y,t)を、Ｙ方向の任意の位置yにおいて、Ｘ方向に射影した１次元の波形を、ここでは、Ｘ断面波形F(x)と称している。
【１５５５】
このＸ断面波形Ｆ（ｘ）に注目すると、実世界１の信号が、空間方向の所定の方向に定常性を有している場合、Ｘ断面波形Ｆ（ｘ）と同一形状の波形がその定常性の方向に連なっていると考えることができる。例えば、図２３８の例では、Ｘ断面波形Ｆ（ｘ）と同一形状の波形が、傾きG_Fの方向に連なっている。換言すると、Ｘ断面波形Ｆ（ｘ）と同一形状の波形が傾きG_Fの方向に連なって、波形F(x,y)が形成されているとも言える。
【１５５６】
従って、波形F(x,y)を近似する近似関数f(x,y)の波形は、Ｘ断面波形F(x)を近似する近似関数f(x)と同一形状の波形が連なって形成されると考えることで、近似関数f(x,y)を２次元の多項式で表現することが可能になる。
【１５５７】
さらに詳細に、近似関数f(x,y)の表現方法について説明する。
【１５５８】
例えば、いま、上述した図２３８で示されるような、実世界１の光信号、即ち、傾きG_Fで表される空間方向の定常性を有する光信号が、センサ２（図２３９）により検出されて入力画像（画素値）として出力されたとする。
【１５５９】
さらに、図２４０で示されるように、データ定常性検出部１０１（図３）が、この入力画像のうちの、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、点線で表される２０個の正方形）から構成される入力画像の領域２４０１に対してその処理を実行し、データ定常性情報の１つとして角度θ（傾きG_Fに対応する傾きG_fで表されるデータの定常性の方向と、Ｘ方向とのなす角度θ）を出力したとする。
【１５６０】
なお、入力画像の領域２４０１において、図中水平方向は、空間方向の1方向であるＸ方向を表しており、図中垂直方向は、空間方向の他方向であるＹ方向を表している。
【１５６１】
また、図２４０中、左から２画素目であって、下から３画素目の画素が注目画素とされ、その注目画素の中心を原点(0,0)とするように(x,y)座標系が設定されている。そして、原点(0,0)を通る角度θの直線（データの定常性の方向を表す傾きG_fの直線）に対するＸ方向の相対的な距離（以下、断面方向距離と称する）がx'と記述されている。
【１５６２】
さらに、図２４０中、右側のグラフは、X断面波形F(x')が近似された関数であって、n次（nは、任意の整数）の多項式である近似関数f(x')を表している。右側のグラフの軸のうち、図中水平方向の軸は、断面方向距離を表しており、図中垂直方向の軸は、画素値を表している。
【１５６３】
この場合、図２４０で示される近似関数f(x')は、ｎ次の多項式であるので、次の式（１２８）のように表される。
【１５６４】
【数９８】

【１５６５】
また、角度θが決定されていることから、原点(0,0)を通る角度θの直線は一意に決まり、Ｙ方向の任意の位置yにおける、直線のＸ方向の位置x_lが、次の式（１２９）のように表される。ただし、式（１２９）において、sはcotθを表している。
【１５６６】
x_l ＝ ｓ×ｙ ・・・（１２９）
【１５６７】
即ち、図２４０で示されるように、傾きG_fで表されるデータの定常性に対応する直線上の点は、座標値(x_l,y)で表される。
【１５６８】
式（１２９）より、断面方向距離x'は、次の式（１３０）のように表される。
【１５６９】
x' ＝ x−x_l ＝ x−s×y ・・・（１３０）
【１５７０】
従って、入力画像の領域２４０１内の任意の位置(x,y)における近似関数f(x,y)は、式（１２８）と式（１３０）より、次の式（１３１）のように示される。
【１５７１】
【数９９】

【１５７２】
なお、式（１３１）において、w_iは、近似関数f(x,y)の係数を表している。なお、近似関数f(x,y)を含む近似関数ｆの係数w_iを、近似関数ｆの特徴量と位置づけることもできる。従って、以下、近似関数ｆの係数w_iを、近似関数ｆの特徴量w_iとも称する。
【１５７３】
このようにして、角度θが既知であれば、２次元波形の近似関数f(x,y)を、式（１３１）の多項式として表現することができる。
【１５７４】
従って、実世界推定部１０２は、式（１３１）の特徴量wiを演算することができれば、図２３８で示されるような波形F(x,y)を推定することができる。
【１５７５】
そこで、以下、式（１３１）の特徴量wiを演算する手法について説明する。
【１５７６】
即ち、式（１３１）で表される近似関数f(x,y)を、画素（センサ２の検出素子２−１（図２３９））に対応する積分範囲（空間方向の積分範囲）で積分すれば、その積分値が、画素の画素値の推定値となる。このことを、式で表現したものが、次の式（１３２）である。なお、２次元多項式近似手法においては、時間方向ｔは一定値とみなされるので、式（１３２）は、空間方向（Ｘ方向とＹ方法）の位置x,yを変数とする方程式とされている。
【１５７７】
【数１００】

【１５７８】
式（１３２）において、P(x,y)は、センサ２からの入力画像のうちの、その中心位置が位置(x,y)（注目画素からの相対位置(x,y)）に存在する画素の画素値を表している。また、ｅは、誤差を表している。
【１５７９】
このように、２次元多項式近似手法においては、入力画素値P(x,y)と、２次元の多項式である近似関数f(x,y)の関係を、式（１３２）で表現することが可能であるので、実世界推定部１０２は、式（１３２）を利用して、特徴量wiを、例えば、最小自乗法等により演算することで（演算した特徴量wiを式（１３０）に代入して近似関数f(x,y)を生成することで）、２次元の関数F(x,y)（傾きG_F（図２３８）で表される空間方向の定常性を有する実世界１の光信号を、空間方向に着目して表した波形F(x,y)）を推定することが可能となる。
【１５８０】
図２４１は、このような２次元多項式近似手法を利用する実世界推定部１０２の構成例を表している。
【１５８１】
図２４１で示されるように、実世界推定部１０２には、条件設定部２４２１、入力画像記憶部２４２２、入力画素値取得部２４２３、積分成分演算部２４２４、正規方程式生成部２４２５、および近似関数生成部２４２６が設けられている。
【１５８２】
条件設定部２４２１は、注目画素に対応する関数F(x,y)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y)の次数nを設定する。
【１５８３】
入力画像記憶部２４２２は、センサ２からの入力画像（画素値）を一次格納する。
【１５８４】
入力画素値取得部２４２３は、入力画像記憶部２４２２に記憶された入力画像のうちの、条件設定部２４２１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部２４２５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【１５８５】
ところで、上述したように、２次元多項式近似手法を利用する実世界推定部１０２は、上述した式（１３２）を最小自乗法で解くことにより、上述した式（１３１）で示される近似関数f(x,y)の特徴量w_iを演算する。
【１５８６】
式（１３２）は、次の式（１３３）乃至式（１３５）を用いることで得られる次の式（１３６）を使用することで、次の式（１３７）のように表現することができる。
【１５８７】
【数１０１】

【１５８８】
【数１０２】

【１５８９】
【数１０３】

【１５９０】
【数１０４】

【１５９１】
【数１０５】

【１５９２】
式（１３７）において、S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、i次項の積分成分を表している。即ち、積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、次の式（１３８）で示される通りである。
【１５９３】
【数１０６】

【１５９４】
積分成分演算部２４２４は、この積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）を演算する。
【１５９５】
具体的には、式（１３８）で示される積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、相対画素位置(x,y)、上述した式（１３１）における変数ｓ、および、i次項のiが既知であれば、演算可能である。これらのうちの、相対画素位置(x,y)は注目画素とタップ範囲により、変数sはcotθであるので角度θにより、iの範囲は次数nにより、それぞれ決定される。
【１５９６】
従って、積分成分演算部２４２４は、条件設定部２４２１により設定されたタップ範囲および次数、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部２４２５に供給する。
【１５９７】
正規方程式生成部２４２５は、入力画素値取得部２４２３より供給された入力画素値テーブルと、積分成分演算部２４２４より供給された積分成分テーブルを利用して、上述した式（１３２）、即ち、式（１３７）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部２４２６に出力する。なお、正規方程式の具体例については後述する。
【１５９８】
近似関数生成部２４２６は、正規方程式生成部２４２５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、上述した式（１３２）の特徴量w_i（即ち、２次元多項式である近似関数f(x,y)の係数w_i）のそれぞれを演算し、画像生成部１０３に出力する。
【１５９９】
次に、図２４２のフローチャートを参照して、２次元多項式近似手法が適用される実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【１６００】
例えば、いま、傾きG_Fで表される空間方向の定常性を有する実世界１の光信号が、センサ２（図２３９）により検出されて、１フレームに対応する入力画像として、入力画像記憶部２４２２に既に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０）の定常性の検出の処理において、入力画像のうちの、上述した図２４０で示される領域２４０１に対して処理を施して、データ定常性情報として角度θを既に出力しているとする。
【１６０１】
この場合、ステップＳ２４０１において、条件設定部２４２１は、条件（タップ範囲と次数）を設定する。
【１６０２】
例えば、いま、図２４３で示されるタップ範囲２４４１が設定されるとともに、次数として５次が設定されたとする。
【１６０３】
即ち、図２４３は、タップ範囲の１例を説明する図である。図２４３において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向（図２３９）を表している。また、タップ範囲２４４１は、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、２０個の正方形）からなる画素群を表している。
【１６０４】
さらに、図２４３に示されるように、注目画素が、タップ範囲２４４１のうちの、図中、左から２画素目であって、下から３画素目の画素に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y)（注目画素の中心(0,0)を原点とする注目画素座標系の座標値）に応じて、図２４３で示されるような番号l（lは、０乃至１９のうちのいずれかの整数値）が付されるとする。
【１６０５】
図２４２に戻り、ステップＳ２４０２において、条件設定部２４２１は、注目画素を設定する。
【１６０６】
ステップＳ２４０３において、入力画素値取得部２４２３は、条件設定部２４２１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部２４２３は、入力画像の領域２４０１（図２４０）を取得し、入力画素値テーブルとして、２０個の入力画素値P(l)からなるテーブルを生成する。
【１６０７】
なお、いまの場合、入力画素値P(l)と、上述した入力画素値P(x,y)の関係は、次の式（１３９）で示される関係とされる。ただし、式（１３９）において、左辺が入力画素値P（ｌ）を表し、右辺が入力画素値P(x,y)を表している。
【１６０８】
【数１０７】

【１６０９】
ステップＳ２４０４において、積分成分演算部２４２４は、条件設定部２４２１により設定された条件（タップ範囲および次数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１６１０】
いまの場合、上述したように、入力画素値は、P(x,y)でなくP(l)といった、画素の番号lの値として取得されるので、積分成分演算部２４２４は、上述した式（１３８）の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)を、次の式（１４０）の左辺で示される積分成分S_i(l)といったlの関数として演算する。
【１６１１】
S_i(ｌ) ＝ S_i(x-0.5,x+0.5,y-0.5,y+0.5) ・・・（１４０）
【１６１２】
具体的には、いまの場合、次の式（１４１）で示される積分成分S_i(l)が演算される。
【１６１３】
【数１０８】

【１６１４】
なお、式（１４１）において、左辺が積分成分S_i（ｌ)を表し、右辺が積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)を表している。即ち、いまの場合、iは０乃至５であるので、２０個のS₀(l),２０個のS₁(l),２０個のS₂(l),２０個のS₃(l),２０個のS₄(l),２０個のS₅(l)の総計１２０個のS_i(l)が演算されることになる。
【１６１５】
より具体的には、はじめに、積分成分演算部２４２４は、データ定常性検出部１０１より供給された角度θに対するcotθを演算し、それを変数ｓとする。次に、積分成分演算部２４２４は、演算した変数ｓを使用して式（１４０）の右辺で示される２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5) のそれぞれを、i=０乃至５のそれぞれについて演算する。即ち、１２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5) が演算されることになる。なお、この積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5) の演算においては、上述した式（１３８）が使用される。そして、積分成分演算部２４２４は、式（１４１）に従って、演算した１２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)のそれぞれを、対応するS_i(l)のそれぞれに変換し、変換した１２０個のS_i(l)を含む積分成分テーブルを生成する。
【１６１６】
なお、ステップＳ２４０３の処理とステップＳ２４０４の処理の順序は、図２４２の例に限定されず、ステップＳ２４０４の処理が先に実行されてもよいし、ステップＳ２４０３の処理とステップＳ２４０４の処理が同時に実行されてもよい。
【１６１７】
次に、ステップＳ２４０５において、正規方程式生成部２４２５は、ステップＳ２４０３の処理で入力画素値取得部２４２３により生成された入力画素値テーブルと、ステップＳ２４０４の処理で積分成分演算部２４２４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【１６１８】
具体的には、いまの場合、上述した式（１３７）を利用して最小自乗法により特徴量w_iが演算される（ただし、式（１３６）において、積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)は、式（１４０）により変換されるSi(l)が使用される）ので、それに対応する正規方程式は、次の式（１４２）のように表される。
【１６１９】
【数１０９】

【１６２０】
なお、式（１４２）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、多項式である近似関数f(x)の次数を表している。具体的には、いまの場合、n=5となり、L=１９となる。
【１６２１】
式（１４２）で示される正規方程式の各行列のそれぞれを、次の式（１４３）乃至（１４５）のように定義すると、正規方程式は、次の式（１４６）のように表現される。
【１６２２】
【数１１０】

【１６２３】
【数１１１】

【１６２４】
【数１１２】

【１６２５】
【数１１３】

【１６２６】
式（１４４）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（１４６）において、左辺の行列Ｓ_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MATの演算が可能になる。
【１６２７】
具体的には、式（１４３）で示されるように、行列Ｓ_MATの各成分は、上述した積分成分S_i(l)で演算可能である。即ち、積分成分S_i(l)は、積分成分演算部２４２４より供給された積分成分テーブルに含まれているので、正規方程式生成部２４２５は、積分成分テーブルを利用して行列Ｓ_MATの各成分を演算することができる。
【１６２８】
また、式（１４５）で示されるように、行列Ｐ_MATの各成分は、積分成分S_i(l)と入力画素値P(l)で演算可能である。即ち、積分成分S_i(l)は、行列Ｓ_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部２４２３より供給された入力画素値テーブルに含まれているので、正規方程式生成部２４２５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【１６２９】
このようにして、正規方程式生成部２４２５は、行列Ｓ_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列Ｓ_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部２４２６に出力する。
【１６３０】
正規方程式生成部２４２５より正規方程式テーブルが出力されると、ステップＳ２４０６において、近似関数生成部２４２６は、正規方程式テーブルに基づいて、上述した式（１４６）の行列W_MATの各成分である特徴量w_i（即ち、２次元多項式である近似関数f(x,y)の係数w_i）を演算する。
【１６３１】
具体的には、上述した式（１４６）の正規方程式は、次の式（１４７）のように変形できる。
【１６３２】
【数１１４】

【１６３３】
式（１４７）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列S_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部２４２５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部２４２６は、正規方程式テーブルを利用して、式（１４７）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【１６３４】
ステップＳ２４０７において、近似関数生成部２４２６は、全画素の処理を終了したか否かを判定する。
【１６３５】
ステップＳ２４０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ２４０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ２４０２乃至Ｓ２４０７の処理が繰り返される。
【１６３６】
そして、全画素の処理が終了すると（ステップＳ２４０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【１６３７】
以上、２次元多項式近似手法の説明として、空間方向（X方向とY方向）に対する近似関数f(x,y)の係数（特徴量）w_iを演算する例を用いたが、２次元多項式近似手法は、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対しても適用可能である。
【１６３８】
即ち、上述した例は、実世界１の光信号が、例えば、傾きG_F（図２３８）で表される空間方向の定常性を有する場合の例であったので、上述した式（１３２）で示されるような、空間方向（X方向とY方向）の２次元積分が含まれる式が利用された。しかしながら、２次元積分の考え方は、空間方向だけによるものではなく、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対して適用することも可能である。
【１６３９】
換言すると、２次元多項式近似手法においては、推定したい光信号関数F(x,y,t)が、空間方向の定常性のみならず、時空間方向（ただし、X方向とt方向、または、Y方向とｔ方向）の定常性を有している場合であっても、２次元の多項式により近似することが可能である。
【１６４０】
具体的には、例えば、X方向に水平に等速で動いている物体がある場合、その物体の動きの方向は、図２４４で示されるようなX-t平面においては、傾きV_Fのように表される。換言すると、傾きV_Fは、X-t平面における時空間方向の定常性の方向を表しているとも言える。従って、データ定常性検出部１０１は、上述した角度θ（X-Y平面における、傾きG_Fで表される空間方向の定常性に対応するデータ定常性情報）と同様に、X-t平面における時空間方向の定常性を表す傾きV_Fに対応するデータ定常性情報として、図２４４で示されるような動きθ（厳密には、図示はしないが、傾きV_Fに対応する傾きV_fで表されるデータの定常性の方向と、空間方向のＸ方向とのなす角度である動きθ）を出力することが可能である。
【１６４１】
従って、２次元多項式近似手法を利用する実世界推定部１０２は、動きθを上述した角度θの代わりとして使用すれば、上述した方法と同様な方法で、近似関数f(x,t)の係数（特徴量）w_iを演算することが可能になる。ただし、この場合、使用される式は、上述した式（１３２）ではなく、次の式（１４８）である。
【１６４２】
【数１１５】

【１６４３】
なお、式（１４８）において、ｓはcotθ（ただし、θは動きである）である。
【１６４４】
また、空間方向Ｘの変わりに、空間方向Ｙに注目した近似関数f（y,t)も、上述した近似関数f(x、t)と全く同様に取り扱うことが可能である。
【１６４５】
このように、２次元多項式近似手法においては、例えば、図２１９（図３）のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサの複数の検出素子（例えば、図２３９のセンサ２の検出素子２−１）により実世界１（図２１９）の光信号が射影され、実世界１の光信号の定常性（例えば、図２３８の傾きG_Fで表される定常性）の一部が欠落した、検出素子２−１により射影された画素値を有する複数の画素からなる画像データ（例えば、図２１９の入力画像）におけるデータの定常性（例えば、図２４０の傾きG_fで表されるデータの定常性）を検出する。
【１６４６】
そして、例えば、図２１９(図３)の実世界推定部１０２（構成は、図２４１）が、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも２次元方向（例えば、図２３８と図２３９の空間方向Ｘと、空間方向Ｙ）の位置に対応する画素の画素値（例えば、上述した式（１３１）の左辺である入力画素値Ｐ(x、y)）が、少なくとも２次元方向の積分効果により取得された画素値（例えば、式（１３２）の右辺に示されるように、上述した式（１３１）で示される近似関数f(x,y)がＸ方向とＹ方向に積分された値）であるとして、実世界１の光信号を表す光信号関数F（具体的には、図２３８の関数F(x,y)）を、多項式である近似関数ｆ（例えば、式（１３１）で示される近似関数f(x,y)）で近似することで、光信号関数Fを推定する。
【１６４７】
詳細には、例えば、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応する線（例えば、図２４０の傾きG_fに対応する線（矢印））からの少なくとも２次元方向に沿った距離（例えば、図２４０の断面方向距離ｘ‘）に対応する画素の画素値が、少なくとも２次元方向の積分効果により取得された画素値であるとして、現実世界の光信号を表す第１の関数を、多項式である第２の関数で近似することで、第１の関数を推定する。
【１６４８】
このように、２次元多項式近似手法は、１次元ではなく２次元の積分効果を考慮しているので、１次元多項式近似手法に比較して、より正確に実世界１の光信号を推定することが可能になる。
【１６４９】
次に、図２４５乃至図２４９を参照して、第３の関数近似手法について説明する。
【１６５０】
即ち、第３の関数近似手法とは、例えば、時空間方向のうちの所定の方向の定常性を有する実世界１の光信号が、光信号関数F(x,y,t)で表されることに注目して、近似関数f(x,y,t)で光信号関数F(x,y,t)を近似することによって、光信号関数F(x,y,t)を推定する手法である。従って、以下、第３の関数近似手法を、３次元関数近似手法と称する。
【１６５１】
また、３次元関数近似手法の説明においても、センサ２は、図２４５で示されるような、複数の検出素子２−１がその平面上に配置されて構成されるＣＣＤとされる。
【１６５２】
図２４５の例では、検出素子２−１の所定の１辺に平行な方向が、空間方向の１方向であるＸ方向とされており、Ｘ方向に垂直な方向が、空間方向の他方向であるＹ方向とされている。そして、Ｘ−Ｙ平面に垂直な方向が、時間方向であるｔ方向とされている。
【１６５３】
また、図２４５の例では、センサ２の各検出素子２−１のそれぞれの空間的な形状は、１辺の長さが１の正方形とされている。そして、センサ２のシャッタ時間（露光時間）が１とされている。
【１６５４】
さらに、図２４５の例では、センサ２の所定の１つの検出素子２−１の中心が、空間方向（Ｘ方向とＹ方向）の原点（Ｘ方向の位置ｘ＝０、およびＹ方向の位置ｙ＝０）とされており、また、露光時間の中間時刻が、時間方向（ｔ方向）の原点（ｔ方向の位置ｔ＝０）とされている。
【１６５５】
この場合、空間方向の原点（ｘ＝０,ｙ＝０）にその中心が存在する検出素子２−１は、Ｘ方向に-0.5乃至0.5の範囲、Ｙ方向に-0.5乃至0.5の範囲、およびｔ方向に-0.5乃至0.5の範囲で光信号関数F(x,y,t)を積分し、その積分値を画素値Ｐとして出力することになる。
【１６５６】
即ち、空間方向の原点にその中心が存在する検出素子２−１から出力される画素値Ｐは、次の式（１４９）で表される。
【１６５７】
【数１１６】

【１６５８】
その他の検出素子２−１も同様に、対象とする検出素子２−１の中心を空間方向の原点とすることで、式（１４９）で示される画素値Ｐを出力することになる。
【１６５９】
ところで、上述したように、３次元関数近似手法においては、光信号関数F(x,y,t)は、３次元の近似関数f(x,y,t)に近似される。
【１６６０】
具体的には、例えば、近似関数f(x,y,t)を、N個の変数（特徴量）を有する関数とし、式（１４９）に対応する入力画素値P(x,y,t)と近似関数f(x,y,t)の関係式を定義する。これにより、Nより大きいM個の入力画素値P(x,y,t)が取得されていれば、定義された関係式からN個の変数（特徴量）の算出が可能である。即ち、実世界推定部１０２は、M個の入力画素値P(x,y,t)を取得してN個の変数（特徴量）を演算することで、光信号関数F(x,y,t)を推定することが可能である。
【１６６１】
この場合、実世界推定部１０２は、センサ２からの入力画像（入力画素値）に含まれるデータの定常性を縛りとして（即ち、データ定常性検出部１０１より出力される入力画像に対するデータ定常性情報を利用して）、入力画像全体のうちの、M個の入力画像P(x,y,t)を抽出（取得）する。結果的に、予測関数f(x,y,t)は、データの定常性に拘束されることになる。
【１６６２】
例えば、図２４６で示されるように、入力画像に対応する光信号関数F(x,y,t)が、傾きG_Fで表される空間方向の定常性を有している場合、データ定常性検出部１０１は、入力画像に対するデータ定常性情報として、角度θ（傾きG_Fに対応する傾きG_f（図示せず）で表されるデータの定常性の方向と、Ｘ方向のなす角度θ）を出力することになる。
【１６６３】
この場合、光信号関数F(x,y,t)をX方向に射影した１次元の波形（ここでは、このような波形を、Ｘ断面波形と称している）は、Y方向のいずれの位置で射影した場合であっても同一の形状であるとする。
【１６６４】
即ち、同一形状のＸ断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっている２次元の（空間方向の）波形が存在するとし、そのような２次元波形が時間方向tに連なった３次元波形を、近似関数f(x,y,t)で近似する。
【１６６５】
換言すると、注目画素の中心からY方向に位置yだけずれたX断面波形は、注目画素の中心を通るX断面波形がX方向に所定の量（角度θに応じて変化する量）だけ移動した（シフトした）波形となる。なお、以下、このような量を、シフト量と称する。
【１６６６】
このシフト量は、次のようにして算出が可能である。
【１６６７】
即ち、傾きV_f（例えば、図２４６の傾きV_Fに対応する、データの定常性の方向を表す傾きV_f）と角度θは、次の式（１５０）のように表される。
【１６６８】
【数１１７】

【１６６９】
なお、式（１５０）において、dxは、Ｘ方向の微小移動量を表しており、dyは、dxに対するＹ方向の微小移動量を表している。
【１６７０】
従って、X方向に対するシフト量をC_x(y)と記述すると、次の式（１５１）のように表される。
【１６７１】
【数１１８】

【１６７２】
このようにして、シフト量C_x(y)を定義すると、式（１４９）に対応する入力画素値P(x,y,t)と近似関数f(x,y,t)の関係式は、次の式（１５２）のように表される。
【１６７３】
【数１１９】

【１６７４】
式（１５２）において、ｅは、誤差を表している。t_sは、ｔ方向の積分開始位置を表しており、t_eは、ｔ方向の積分終了位置を表している。同様に、y_sは、Ｙ方向の積分開始位置を表しており、y_eは、Ｙ方向の積分終了位置を表している。また、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。ただし、具体的な各積分範囲のそれぞれは、次の式（１５３）で示される通りになる。
【１６７５】
【数１２０】

【１６７６】
式（１５３）で示されるように、注目画素から空間方向に(x,y)だけ離れて位置する画素に対するX方向の積分範囲を、シフト量C_x(y)だけ移動させることで、同一形状のX断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっていることを表すことが可能になる。
【１６７７】
このように、３次元関数近似手法においては、画素値P(x,y、t)と、３次元の近似関数f(x,y,t)の関係を式（１５２）（積分範囲は、式（１５３））で表すことができるので、式（１５２）と式（１５３）を利用して、近似関数f(x,y,t)のN個の特徴量を、例えば、最小自乗法等により演算することで、光信号関数F(x,y,t)（例えば、図２４６で示されるような傾きV_F表される空間方向の定常性を有する光信号）の推定が可能となる。
【１６７８】
なお、光信号関数F(x,y,t)で表される光信号が、例えば、図２４６で示されるような傾きV_Fで表される空間方向の定常性を有している場合、次のようにして光信号関数F(x,y,t)を近似してもよい。
【１６７９】
即ち、光信号関数F(x,y,t)をY方向に射影した１次元の波形（以下、このような波形を、Y断面波形と称する）は、X方向のいずれの位置で射影した場合であっても同一の形状であるとする。
【１６８０】
換言すると、同一形状のY断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっている２次元の（空間方向の）波形が存在するとし、そのような２次元波形が時間方向tに連なった３次元波形を、近似関数f(x,y,t)で近似する。
【１６８１】
従って、注目画素の中心からX方向にxだけずれたY断面波形は、注目画素の中心を通るY断面波形がY方向に所定のシフト量（角度θに応じて変化するシフト量）だけ移動した波形となる。
【１６８２】
このシフト量は、次のようにして算出が可能である。
【１６８３】
即ち、傾きG_Fが、上述した式（１５０）のように表されるので、Y方向に対するシフト量をC_y(x)と記述すると、次の式（１５４）のように表される。
【１６８４】
【数１２１】

【１６８５】
このようにして、シフト量C_y(x)を定義すると、式（１４９）に対応する入力画素値P(x,y,t)と近似関数f(x,y,t)の関係式は、シフト量C_x(y)を定義したときと同様に、上述した式（１５２）で表される。
【１６８６】
ただし、今度は、具体的な各積分範囲のそれぞれは、次の式（１５５）で示される通りになる。
【１６８７】
【数１２２】

【１６８８】
式（１５５）（および上述した式（１５２））で示されるように、注目画素から(x,y)だけ離れて位置する画素に対するY方向の積分範囲を、シフト量C_y(x)だけ移動させることで、同一形状のY断面波形が、定常性の方向（X方向に対して角度θ方向）に連なっていることを表すことが可能になる。
【１６８９】
このように、３次元関数近似手法においては、上述した式（１５２）の右辺の積分範囲を式（１５３）のみならず式（１５５）とすることもできるので、積分範囲として式（１５５）が採用された式（１５２）を利用して、近似関数f(x,y,t)のｎ個の特徴量を、例えば、最小自乗法等により演算することで、光信号関数F(x,y,t)（傾きG_Fで表される空間方向の定常性を有する実世界１の光信号）の推定が可能となる。
【１６９０】
このように、積分範囲を表す式（１５３）と式（１５５）は、定常性の方向にあわせて周辺画素をX方向にシフトさせるか（式（１５３）の場合）、或いはY方向にシフトさせるか（式（１５５）の場合）の違いがあるだけであり、本質的には同じことを表している。
【１６９１】
しかしながら、定常性の方向（傾きG_F）に応じて、光信号関数F(x,y,t)を、X断面波形の集まりと捉えるか、Y断面波形の集まりと捉えるかが異なる。即ち、定常性の方向がY方向に近い場合、光信号関数F(x,y,t)を、X断面波形の集まりと捉えた方が好適である。これに対して、定常性の方向がX方向に近い場合、光信号関数F(x,y,t)を、Y断面波形の集まりと捉えた方が好適である。
【１６９２】
従って、実世界推定部１０２は、積分範囲として式（１５３）と式（１５５）の両方を用意しておき、定常性の方向に応じて、適宜式（１５２）の右辺の積分範囲として、式（１５３）と式（１５５）のうちのいずれか一方を選択するとよい。
【１６９３】
以上、光信号関数F(x,y,t)が空間方向（X方向とY方向）の定常性（例えば、図２４６の傾きG_Fで表される空間方向の定常性）を有する場合についての３次元関数手法について説明したが、３次元関数手法は、図２４７で示されるように、光信号関数F(x,y,t)が時空間方向（X方向、Y方向、およびｔ方向）の定常性（傾きV_Fで表される定常性）を有する場合についても適用可能である。
【１６９４】
即ち、図２４７において、フレーム番号＃N-1のフレームに対応する光信号関数がF(x、y、#N-1)とされ、フレーム番号＃Nのフレームに対応する光信号関数がF(x、y、#N)とされ、かつ、フレーム番号＃N+1のフレームに対応する光信号関数がF(x、y、#N+1)とされている。
【１６９５】
なお、図２４７において、図中、水平方向は、空間方向の1方向であるＸ方向とされており、右斜め上方向は、空間方向の他方向であるＹ方向とされており、かつ、垂直方向は、時間方向であるｔ方向とされている。
【１６９６】
また、フレーム#N-1は、フレーム#Nに対して時間的に前のフレームであり、フレーム#N+1は、フレーム#Nに対して時間的に後のフレームである。即ち、フレーム#N-1、フレーム#N、およびフレーム#N+1は、フレーム#N-1、フレーム#N、およびフレーム#N+1の順で表示される。
【１６９７】
図２４７の例では、傾きV_Fで示される方向（図中左下手前から右上奥の方向）に沿った断面の光のレベルがほぼ一定とされている。従って、図２４７の例では、光信号関数F(x,y,t)は、傾きV_Fで表される時空間方向の定常性を有していると言える。
【１６９８】
この場合、時空間方向の定常性を表す関数C(x,y,t)を定義し、かつ、定義された関数C(x,y,t)を利用して、上述した式（１５２）の積分範囲を定義すれば、上述した式（１５３）や式（１５５）と同様に、近似関数f(x,y,t)のN個の特徴量の算出が可能になる。
【１６９９】
関数C(x,y,t)は、定常性の方向を表す関数であれば特に限定されない。ただし、以下においては、直線的な定常性であるとして、それに対応する関数C(x,y,t)として、上述した空間方向の定常性を表す関数であるシフト量C_x(y)（式（１５１））やシフト量C_y(x)（式（１５３））に相当する、C_x(t)とC_y(t)を次のように定義するとする。
【１７００】
即ち、上述した空間方向のデータの定常性を表す傾きG_fに対応する、時空間方向のデータの定常性の傾きをV_fとすると、この傾きV_fをX方向の傾き（以下、V_fxと記述する）とY方向の傾き（以下、V_fyと記述する）に分割すると、傾きV_fxは次の式（１５６）で、傾きV_fyは次の式（１５７）で、それぞれ表される。
【１７０１】
【数１２３】

【１７０２】
【数１２４】

【１７０３】
この場合、関数C_x(t)は、式（１５６）で示される傾きV_fxを利用して、次の式（１５８）のように表される。
【１７０４】
【数１２５】

【１７０５】
同様に、関数C_y(t)は、式（１５７）で示される傾きV_fyを利用して、次の式（１５９）のように表される。
【１７０６】
【数１２６】

【１７０７】
このようにして、時空間方向の定常性２５１１を表す関数C_x(t)と関数C_y(t)を定義すると、式（１５２）の積分範囲は、次の式（１６０）のように表される。
【１７０８】
【数１２７】

【１７０９】
このように、３次元関数近似手法においては、画素値P(x,y、t)と、３次元の近似関数f(x,y,t)の関係を式（１５２）で表すことができるので、その式（１５２）の右辺の積分範囲として式（１６０）を利用して、近似関数f(x,y,t)のｎ＋１個の特徴量を、例えば、最小自乗法等により演算することで、光信号関数F(x,y,t)（時空間方向の所定の方向に定常性を有する実世界１の光信号）を推定することが可能となる。
【１７１０】
図２４８は、このような３次元関数近似手法を利用する実世界推定部１０２の構成例を表している。
【１７１１】
なお、３次元関数近似手法を利用する実世界推定部１０２が演算する近似関数f(x,y,t)（実際には、その特徴量（係数）を演算する）は、特に限定されないが、以下の説明においては、ｎ（n＝N-1）次の多項式とされる。
【１７１２】
図２４８で示されるように、実世界推定部１０２には、条件設定部２５２１、入力画像記憶部２５２２、入力画素値取得部２５２３、積分成分演算部２５２４、正規方程式生成部２５２５、および近似関数生成部２５２６が設けられている。
【１７１３】
条件設定部２５２１は、注目画素に対応する光信号関数F(x,y,t)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y,t)の次数nを設定する。
【１７１４】
入力画像記憶部２５２２は、センサ２からの入力画像（画素値）を一次格納する。
【１７１５】
入力画素値取得部２５２３は、入力画像記憶部２５２２に記憶された入力画像のうちの、条件設定部２５２１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部２５２５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。
【１７１６】
ところで、上述したように、３次元関数近似手法を利用する実世界推定部１０２は、上述した式（１５２）（ただし積分範囲は、式（１５３）、式（１５６）、または式（１６０））を利用して最小自乗法により近似関数f(x,y)のN個の特徴量（いまの場合、各次の係数）を演算する。
【１７１７】
式（１５２）の右辺は、その積分を演算することで、次の式（１６１）のように表現することができる。
【１７１８】
【数１２８】

【１７１９】
式（１６１）において、w_iは、i次項の係数（特徴量）を表しており、また、S_i（x_s,x_e,y_s,y_e,t_s,t_e）は、i次項の積分成分を表している。ただし、x_sはX方向の積分範囲の開始位置を、x_eはX方向の積分範囲の終了位置を、y_sはY方向の積分範囲の開始位置を、y_eはY方向の積分範囲の終了位置を、t_sはt方向の積分範囲の開始位置を、t_eはｔ方向の積分範囲の終了位置を、それぞれ表している。
【１７２０】
積分成分演算部２５２４は、この積分成分S_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算する。
【１７２１】
即ち、積分成分演算部２５２４は、条件設定部２５２１により設定されたタップ範囲および次数、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度若しくは動き（積分範囲として、上述した式（１５３）若しくは式（１５６）が利用される場合には角度であり、上述した式（１６０）が利用される場合には動きである）に基づいて積分成分S_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部２５２５に供給する。
【１７２２】
正規方程式生成部２５２５は、入力画素値取得部２５２３より供給された入力画素値テーブルと、積分成分演算部２５２４より供給された積分成分テーブルを利用して、上述した式（１６１）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部２５２６に出力する。正規方程式の例については、後述する。
【１７２３】
近似関数生成部２５２６は、正規方程式生成部２５２５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、特徴量w_i（いまの場合、３次元多項式である画素値関数f(x,y)の係数w_i）のそれぞれを演算し、画像生成部１０３に出力する。
【１７２４】
次に、図２４９のフローチャートを参照して、３次元関数近似手法が適用される実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【１７２５】
はじめに、ステップＳ２５０１において、条件設定部２５２１は、条件（タップ範囲と次数）を設定する。
【１７２６】
例えば、いま、Ｌ個の画素からなるタップ範囲が設定されたとする。また、各画素のそれぞれに対して、所定の番号l（lは、０乃至Ｌ−１のうちのいずれかの整数値）が付されるとする。
【１７２７】
次に、ステップＳ２５０２において、条件設定部２５２１は、注目画素を設定する。
【１７２８】
ステップＳ２５０３において、入力画素値取得部２５２３は、条件設定部２５２１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。いまの場合、Ｌ個の入力画素値P(x,y,t)からなるテーブルが生成されることになる。ここで、Ｌ個の入力画素値P(x,y,t)のそれぞれを、その画素の番号ｌの関数としてP(l)と記述することにする。即ち、入力画素値テーブルは、Ｌ個のP(l)が含まれるテーブルとなる。
【１７２９】
ステップＳ２５０４において、積分成分演算部２５２４は、条件設定部２５２１により設定された条件（タップ範囲および次数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度若しくは動き）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１７３０】
ただし、いまの場合、上述したように、入力画素値は、P(x,y,t)でなくP(l)といった、画素の番号lの値として取得されるので、積分成分演算部２５２４は、上述した式（１６１）の積分成分S_i（x_s,x_e,y_s,y_e,t_s,t_e）を、積分成分S_i(l)といったlの関数として演算することになる。即ち、積分成分テーブルは、Ｌ×ｉ個のS_i(l)が含まれるテーブルとなる。
【１７３１】
なお、ステップＳ２５０３の処理とステップＳ２５０４の処理の順序は、図２４９の例に限定されず、ステップＳ２５０４の処理が先に実行されてもよいし、ステップＳ２５０３の処理とステップＳ２５０４の処理が同時に実行されてもよい。
【１７３２】
次に、ステップＳ２５０５において、正規方程式生成部２５２５は、ステップＳ２５０３の処理で入力画素値取得部２５２３により生成された入力画素値テーブルと、ステップＳ２５０４の処理で積分成分演算部２５２４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【１７３３】
具体的には、いまの場合、最小自乗法により、上述した式（１６１）に対応する次の式（１６２）の特徴量w_iを演算する。で、それに対応する正規方程式は、次の式（１６３）のように表される。
【１７３４】
【数１２９】

【１７３５】
【数１３０】

【１７３６】
式（１６３）で示される正規方程式の各行列のそれぞれを、次の式（１６４）乃至（１６６）のように定義すると、正規方程式は、次の式（１６７）のように表される。
【１７３７】
【数１３１】

【１７３８】
【数１３２】

【１７３９】
【数１３３】

【１７４０】
【数１３４】

【１７４１】
式（１６５）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（１６７）において、左辺の行列Ｓ_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MAT（即ち、特徴量w_i）の算出が可能である。
【１７４２】
具体的には、式（１６４）で示されるように、行列Ｓ_MATの各成分は、上述した積分成分S_i(l)が既知であれば演算可能である。積分成分S_i(l)は、積分成分演算部２５２４より供給された積分成分テーブルに含まれているので、正規方程式生成部２５２５は、積分成分テーブルを利用して行列Ｓ_MATの各成分を演算することができる。
【１７４３】
また、式（１６６）で示されるように、行列Ｐ_MATの各成分は、積分成分S_i(l)と入力画素値P(l)が既知であれば演算可能である。積分成分S_i(l)は、行列Ｓ_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部２５２３より供給された入力画素値テーブルに含まれているので、正規方程式生成部２５２５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【１７４４】
このようにして、正規方程式生成部２５２５は、行列Ｓ_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列Ｓ_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部２５２６に出力する。
【１７４５】
正規方程式生成部２５２５より正規方程式テーブルが出力されると、ステップＳ２５０６において、近似関数生成部２５２６は、正規方程式テーブルに基づいて、上述した式（１６７）の行列W_MATの各成分である特徴量w_i（即ち、近似関数f(x,y,t)の係数w_i）を演算する。
【１７４６】
具体的には、上述した式（１６７）の正規方程式は、次の式（１６８）のように変形できる。
【１７４７】
【数１３５】

【１７４８】
式（１６８）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列S_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部２５２５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部２５２６は、正規方程式テーブルを利用して、式（１６８）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【１７４９】
ステップＳ２５０７において、近似関数生成部２５２６は、全画素の処理を終了したか否かを判定する。
【１７５０】
ステップＳ２５０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ２５０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ２５０２乃至Ｓ２５０７の処理が繰り返される。
【１７５１】
そして、全画素の処理が終了すると（ステップＳ２５０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【１７５２】
以上、説明したように、３次元関数近似手法は、１次元や２次元ではなく、時空間方向の３次元の積分効果を考慮しているので、１次元多項式近似手法や２次元多項式近似手法に比較して、より正確に実世界１の光信号を推定することが可能になる。
【１７５３】
換言すると、３次元関数近似手法においては、例えば、図２１９（図３）の実世界推定部１０２（構成は、例えば、図２４８）は、それぞれ時空間積分効果を有する、センサの複数の検出素子（例えば、図２４５のセンサ２の検出素子２−１）により実世界１の光信号が射影され、実世界１の光信号の定常性（例えば、図２４６の傾きG_F、または、図２４７の傾きV_Fで表される定常性）の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像の、時空間方向のうち少なくとも１次元方向（例えば、図２４７の空間方向Ｘ、空間方向Y、および、時間方向ｔの３次元方向）の位置に対応する前記画素の前記画素値（例えば、式（１５３）の左辺の入力画素値P(x,y,z)）が、少なくとも１次元方向の積分効果により取得された画素値（例えば、上述した式（１５３）の右辺に示されるように、近似関数f(x,y,t)がＸ方向、Ｙ方向、およびｔ方向の３次元に積分された値）であるとして、実世界の光信号を表す光信号関数F（具体的には、例えば、図２４６や図２４７の光信号関数F(x,y,t)）を所定の近似関数ｆ（具体的には、例えば、式（１５２）の右辺の近似関数f(x,y,t)）で近似することで、光信号関数Fを推定する。
【１７５４】
さらに、例えば、図２１９（図３）のデータ定常性検出部１０１が、入力画像のデータの定常性を検出した場合、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも１次元方向の位置に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Fを近似関数ｆで近似することで、光信号関数Fを推定する。
【１７５５】
詳細には、例えば、実世界推定部１０２は、定常性検出部１０１により検出されたデータの定常性に対応する線からの少なくとも１次元方向に沿った距離（例えば、上述した式（１５１）のシフト量Cx(y)）に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値（例えば、上述した式（１５３）で示されるような積分範囲で、式（１５２）の右辺に示されるように、近似関数f(x,y,t)がＸ方向、Ｙ方向、およびｔ方向の３次元に積分された値）であるとして、光信号関数Fを近似関数で近似することで、光信号関数を推定する。
【１７５６】
従って、３次元関数近似手法は、より正確に実世界１の光信号を推定することが可能になる。
【１７５７】
次に、図２５０乃至図２５９を参照して、実世界推定部１０２が、定常性を有する実世界１の信号をモデル１６１で近似する場合における、データ１６２を抽出する抽出手法の他の例について説明する。
【１７５８】
以下の例では、各画素のそれぞれの重要度に応じた重みが付けられて、各画素のそれぞれの画素値が抽出され、抽出された値がデータ１６２（図７）として利用されて、実世界１の信号がモデル１６１（図７）で近似される。
【１７５９】
具体的には、例えば、センサ２（図１）からの入力画像として、図２５０で示されるような入力画像２７０１が、実世界推定部１０２（図３）に入力されたとする。
【１７６０】
なお、図２５０において、図中水平方向が、空間方向の１方向であるＸ方向とされ、図中垂直方向が、空間方向の他方向であるＹ方向とされている。
【１７６１】
また、入力画像２７０１は、画素幅（縦幅および横幅）L_Cをそれぞれ有する、７×１６画素（図中、正方形）の画素値（図中、斜線で表現されているが、実際は、１つの値を有するデータである）で構成されている。
【１７６２】
注目画素は、画素値２７０１−１を有する画素（以下、画素値２７０１−１を有する画素を、注目画素２７０１−１と称する）とされており、注目画素２７０１−１におけるデータの定常性の方向は傾きG_fで表されている。
【１７６３】
図２５１は、注目画素２７０１−１の中心における実世界１の光信号のレベルと、断面方向距離x'における実世界１の光信号のレベルの差（以下、レベル差と称する）を表している。即ち、図中水平方向の軸が断面方向距離x'を表しており、図中垂直方向の軸がレベル差を表している。なお、図中水平方向の軸の数値は、画素幅L_cを１の長さとして付されている。
【１７６４】
ここで、図２５２と図２５３を参照して、断面方向距離x'について説明する。
【１７６５】
図２５２は、図２５０の入力画像２７０１のうちの、注目画素２７０１−１を中心とする５×５画素のブロックを表している。図２５２においても、図２５０と同様に、図中水平方向が、空間方向の１方向であるＸ方向とされ、図中垂直方向が、空間方向の他方向であるＹ方向とされている。
【１７６６】
このとき、例えば、注目画素２７０１−１の中心を空間方向の原点(0,0)とし、その原点を通り、かつ、データの定常性の方向（図２５２の例では、傾きG_fで表されるデータ定常性の方向）と平行な直線を引いたとすると、その直線に対するＸ方向の相対的な距離を、断面方向距離x'と称している。図２５２の例では、注目画素２７０１−１よりもY方向に２画素分離れた画素２７０１−２の中心点における断面方向距離x'が示されている。
【１７６７】
図２５３は、図２５０の入力画像２７０１のうちの、図２５２に示されるブロック内の各画素の断面方向距離を表した図である。即ち、図２５３において、入力画像２７０１の各画素（図中５×５＝２５個の正方形）内のそれぞれに記載されている値が、対応する画素の断面方向距離である。例えば、画素２７０１−２の断面方向距離x'は、−２βである。
【１７６８】
ただし、上述したように、各画素幅L_cは、Ｘ方向もＹ方向も１とされている。Ｘ方向の正方向は、図中右方向とされている。また、βは、注目画素２７０１−１のＹ方向に対して１つ隣（図中１つ下）の画素２７０１−３の断面方向距離を表している。このβは、図２５３で示されるような角度θ（傾きG_fで表されるデータ定常性の方向と、Ｘ方向のなす角度θ）が、データ定常性検出部１０１よりデータ定常性情報として出力されている場合、次の式（１６９）を利用して簡単に演算することが可能である。
【１７６９】
β ＝ １／tanθ ・・・（１６９）
【１７７０】
図２５１に戻り、実際のレベル差を描画することは困難であるので、図２５１の例では、図２５０の入力画像２７０１に対応する、入力画像２７０１よりも高解像度の画像（図示せず）を事前に生成し、高解像度の画像の画素のうちの、入力画像２７０１の注目画素２７０１−１の略中心に位置する画素（高解像度の画像の画素）の画素値と、空間方向Xに水平な直線であって、入力画像２７０１の注目画素２７０１−１の中心を通る直線上に位置する各画素（高解像度の画像の画素）のそれぞれの画素値との差が、レベル差としてプロットされている。
【１７７１】
図２５１において、プロットされたレベル差で示されるように、断面方向距離x'が略−0.5から略1.5の範囲に、傾きG_fで表されるデータの定常性を有する領域（以下、重み付けの説明において、このような領域を、定常領域と称する）が存在する。
【１７７２】
従って、断面方向距離x'が小さい画素（入力画像２７０１の画素）ほど、定常領域を含む確率が高くなる。即ち、断面方向距離x'が小さい画素（入力画像２７０１の画素）の画素値は、実世界推定部１０２が、定常性を有する実世界１の信号をモデル１６１で近似する場合に利用するデータ１６２として重要度が高いといえる。
【１７７３】
これに対して、断面方向距離x'が大きい画素（入力画像２７０１の画素）ほど、定常領域を含む確率が低くなる。即ち、断面方向距離x'が大きい画素（入力画像２７０１の画素）は、実世界推定部１０２が、定常性を有する実世界１の信号をモデル１６１で近似する場合に利用するデータ１６２として重要度が低いといえる。
【１７７４】
以上の重要度の関係については、入力画像２７０１に限らず、センサ２（図１）からの入力画像の全てに当てはまる。
【１７７５】
そこで、実世界推定部１０２は、定常性を有する実世界１の信号をモデル１６１で近似する場合、各画素（センサ２からの入力画像の画素）のそれぞれの画素値に対して、断面方向距離x'に応じて重み付けをして抽出し、抽出した値（重み付けされた画素値）をデータ１６２として利用することができる。即ち、データ１６２として、入力画像の画素値が抽出される場合、図２５１で示されるように、断面方向距離x'が大きくなるほど重みが小さくされて、画素値が抽出されることになる。
【１７７６】
さらに、図２５４で示されるように、実世界推定部１０２は、定常性を有する実世界１の信号をモデル１６１で近似する場合、各画素（センサ２からの入力画像の画素であって、図２５４の例では、入力画像２７０１の画素）のそれぞれの画素値に対して、空間相関に応じて（即ち、注目画素２７０１−１からの、傾きG_fで表される定常性の方向の距離に応じて）重み付けをして抽出し、抽出した値（重み付けされた画素値）をデータ１６２として利用することができる。即ち、データ１６２として、入力画像の画素値が抽出される場合、図２５４で示されるように、空間相関が小さくなるほど（傾きG_fで表される定常性の方向の距離が大きくなるほど）重みが小さくされて、画素値が抽出されることになる。なお、図２５４は、図２５０と同一の入力画像２７０１を表している。
【１７７７】
上述した２つの重み付け（図２５１で示される重み付けと、図２５４で示される重み付け）は、いずれか一方のみが使用されてもよいし、両方が同時に使用されてもよい。なお、両方が同時に使用される場合、最終的に利用される重みの算出方法は、特に限定されない。例えば、最終的な重みとして、両方の各重みの積が利用されてもよいし、図２５１で示される重み付けにより決定された重みに対して、傾きG_fで表されるデータの定常性の方向の距離に応じて補正された重み（例えば、データの定常性の方向の距離が１増えるたびに、所定の値ずつ減少されていく重み）が利用されてもよい。
【１７７８】
実世界推定部１０２は、このようにして決定された重みを用いて、各画素のそれぞれの画素値を抽出し、重み付けされた画素値をデータ１６２として利用することで、実世界１の信号により近いモデル１６１を生成することが可能になる。
【１７７９】
具体的には、例えば、実世界推定部１０２は、上述したように、S_MATW_MAT=P_MATで表される正規方程式を利用して（即ち、最小自乗法により）、モデル１６１である近似関数の特徴量（即ち、行列W_MATの各成分）を演算することで、実世界１の信号を推定することもできる。
【１７８０】
この場合、入力画像のうちの、画素の番号がｌ（ｌは、１乃至Mのうちのいずれかの整数値）の画素のそれぞれに対する重みをv_lと記述すると、実世界推定部１０２は、行列S_MATとして次の式（１７０）で示される行列を使用し、かつ、行列P_MATとして次の式（１７１）で示される行列を使用することができる。
【１７８１】
【数１３６】

【１７８２】
【数１３７】

【１７８３】
このように、上述した関数近似手法（図２１９）等、最小自乗法を利用する実世界推定部１０２は、重みを含む行列（即ち、上述した式（１７０）と上述した式（１７１））を使用することで、行列S_MATとして上述した式（１３）で示される行列を使用し、かつ、行列P_MATとして上述した式（１５）で示される行列を使用する場合に比較して、実世界１の信号により近い近似関数の特徴量を演算することが可能になる。
【１７８４】
即ち、最小自乗法を利用する実世界推定部１０２は、上述した重み付けの処理をさらに実行することで（正規方程式で使用する行列として、式（１７０）や式（１７１）で示されるような、重みv_lが含まれる行列を使用するだけで）、その構成を変えることなく、実世界１の信号により近い近似関数の特徴量を演算することが可能になる。
【１７８５】
具体的には、例えば、図２５５は、実世界推定部１０２が、正規方程式の行列として、重みv_lを含まない行列（例えば、上述した式（１３）と式（１５））を利用して近似関数を生成し（近似関数の特徴量を演算し）、画像生成部１０３（図３）が、その近似関数を再積分することで生成した画像の例を表している。
【１７８６】
これに対して、図２５６は、実世界推定部１０２が、正規方程式の行列として、重みv_lを含む行列（例えば、上述した式（１７０）と式（１７１））を利用して近似関数を生成し（近似関数の特徴量を演算し）、画像生成部１０３が、その近似関数を再積分することで生成した画像（図２５５に対応する画像）の例を表している。
【１７８７】
図２５５の画像と図２５６の画像を比較するに、例えば、図２５５の画像の領域２７１１と、図２５６の画像の領域２７１２のいずれも、フォークの先端の一部分（同一部分）を表している。
【１７８８】
図２５５の画像の領域２７１１においては、非連続の複数の線が重なるようにして表示されているが、図２５６の画像の領域２７１２においては、ほぼ１に連続した線が表示されている。
【１７８９】
フォークの先端は実際には連続して形成されている（連続した１つの線として人間の目に映る）ことを考えると、図２５６の画像の領域２７１２の方が、図２５５の画像の領域２７１１に比較して、実世界１の信号、即ち、フォークの先端の画像をより忠実に再現しているといえる。
【１７９０】
また、図２５７は、実世界推定部１０２が、正規方程式の行列として、重みv_lを含まない行列（例えば、上述した式（１３）と式（１５））を利用して近似関数を生成し（近似関数の特徴量を演算し）、画像生成部１０３が、その近似関数を再積分することで生成した画像の他の例（図２５５の画像とは異なる例）を表している。
【１７９１】
これに対して、図２５８は、実世界推定部１０２が、正規方程式の行列として、重みv_lを含む行列（例えば、上述した式（１７０）と式（１７１））を利用して近似関数を生成し（近似関数の特徴量を演算し）、画像生成部１０３が、その近似関数を再積分することで生成した画像の他の例（図２５７に対応する画像であって、図２５６の画像とは異なる例）を表している。
【１７９２】
図２５７の画像と図２５８の画像を比較するに、例えば、図２５７の画像の領域２７１３と、図２５８の画像の領域２７１４のいずれも、梁の一部分（同一部分）を表している。
【１７９３】
図２５７の画像の領域２７１３においては、非連続の複数の線が重なるように表示されているが、図２５８の画像の領域２７１４においては、ほぼ１つに連続した線が表示されている。
【１７９４】
梁は実際には連続して形成されている（連続した１つの線として人間の目に映る）ことを考えると、図２５８の画像の領域２７１４の方が、図２５７の画像の領域２７１３に比較して、実世界１の信号、即ち、梁の画像をより忠実に再現しているといえる。
【１７９５】
以上によれば、それぞれ時空間積分効果を有する、センサの複数の検出素子により現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる画像データにおけるデータの定常性を検出し、検出したデータの定常性に対応して、画像データ内の注目画素からの時空間方向のうちの少なくとも１次元方向の距離に応じて、画像データ内の各画素のそれぞれに対して重みが付けられるとともに、画像データ内の、少なくとも１次元方向の位置に対応する画素の重みが付けられた画素値を、少なくとも１次元方向の積分効果により取得された画素値であるとして、現実世界の光信号を表す第１の関数が多項式である第２の関数で近似することで、第１の関数を推定するようにしたので、画像をより忠実に表現することが可能となる。
【１７９６】
次に、図２５９乃至図２８０を参照して、画像生成部１０３（図３）の実施の形態の１例について説明する。
【１７９７】
図２５９は、この例の実施の形態の原理を説明する図である。
【１７９８】
図２５９で示されるように、この例の実施の形態においては、実世界推定部１０２が、関数近似手法を利用することが前提とされている。即ち、センサ２に入射される画像である、実世界１の信号（光の強度の分布）が、所定の関数Ｆで表されるとして、実世界推定部１０２が、センサ２から出力された入力画像（画素値Ｐ）と、データ定常性検出部１０１から出力されたデータ定常性情報を使用して、関数Ｆを所定の関数ｆで近似することによって、関数Ｆを推定することが前提とされている。
【１７９９】
なお、以下、この例の実施の形態の説明においても、画像である、実世界１の信号を、特に光信号と称し、関数Ｆを、特に光信号関数Ｆと称する。また、関数ｆを、特に近似関数fと称する。
【１８００】
そこで、この例の実施の形態においては、このような前提に基づいて、画像生成部１０３が、データ定常性検出部１０１から出力されたデータ定常性情報と、実世界推定部１０２から出力された実世界推定情報（図２５９の例では、近似関数fの特徴量）を使用して、近似関数fを所定の時空間範囲で積分し、その積分値を出力画素値Ｍ（出力画像）として出力する。なお、この例の実施の形態においては、入力画像の画素と出力画像の画素を区別するために、入力画素値をＰと記述し、出力画素値をＭと記述する。
【１８０１】
換言すると、光信号関数Ｆが１度積分されて入力画素値Ｐとなり、その入力画素値Ｐから光信号関数Ｆが推測され（近似関数fで近似され）、推測された光信号関数Ｆ（即ち、近似関数f）が再度積分されて、出力画素値Ｍが生成される。従って、以下、画像生成部１０３が実行する近似関数fの積分を、再積分と称する。また、この例の実施の形態を、再積分手法と称する。
【１８０２】
なお、後述するように、再積分手法において、出力画素値Ｍが生成される場合の近似関数fの積分範囲は、入力画素値Ｐが生成される場合の光信号関数Ｆの積分範囲（即ち、空間方向においては、センサ２の検出素子の縦幅と横幅であり、時間方向においては、センサ２の露光時間である）に限定されず、任意の積分範囲が可能である。
【１８０３】
例えば、出力画素値Ｍが生成される場合、近似関数fの積分範囲のうちの空間方向の積分範囲を可変することで、その積分範囲に応じて出力画像の画素ピッチを可変することが可能になる。即ち、空間解像度の創造が可能になる。
【１８０４】
同様に、例えば、出力画素値Ｍが生成される場合、近似関数fの積分範囲のうちの時間方向の積分範囲を可変することで、時間解像度の創造が可能になる。
【１８０５】
以下、図面を参照して、このような再積分手法のうちの３つの具体的な手法についてそれぞれ個別に説明していく。
【１８０６】
即ち、３つの具体的な手法とは、関数近似手法の３つの具体的な手法（実世界推定部１０２の実施の形態の上述した３つの具体的な例）のそれぞれに対応する再積分手法である。
【１８０７】
具体的には、１つ目の手法は、上述した１次元多項式近似手法（関数近似手法の１手法）に対応する再積分手法である。従って、１つ目の手法では１次元の再積分を行うことになるので、以下、このような再積分手法を、１次元再積分手法と称する。
【１８０８】
２つ目の手法は、上述した２次元多項式近似手法（関数近似手法の１手法）に対応する再積分手法である。従って、２つ目の手法では２次元の再積分を行うことになるので、以下、このような再積分手法を、２次元再積分手法と称する。
【１８０９】
３つ目の手法は、上述した３次元関数近似手法（関数近似手法の１手法）に対応する再積分手法である。従って、３つ目の手法では３次元の再積分を行うことになるので、以下、このような再積分手法を、３次元再積分手法と称する。
【１８１０】
以下、１次元再積分手法、２次元再積分手法、および３次元再積分手法のそれぞれの詳細について、その順番で説明していく。
【１８１１】
はじめに、１次元再積分手法について説明する。
【１８１２】
１次元再積分手法においては、１次元多項式近似手法により近似関数f(x)が既に生成されていることが前提とされる。
【１８１３】
即ち、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする光信号関数F(x,y,t)を、空間方向であるX方向、Y方向、およびZ方向、並びに時間方向であるｔ方向のうちの所定の１方向（例えば、X方向）に射影した１次元の波形（再積分手法の説明においても、このような波形のうちのX方向に射影した波形を、X断面波形F(x)と称することにする）が、n次（nは、任意の整数）の多項式である近似関数f(x)で近似されていることが前提とされる。
【１８１４】
この場合、１次元再積分手法においては、出力画素値Ｍは、次の式（１７２）のように演算される。
【１８１５】
【数１３８】

【１８１６】
なお、式（１７２）において、x_sは、積分開始位置を表しており、x_eは、積分終了位置を表している。また、G_eは、所定のゲインを表している。
【１８１７】
具体的には、例えば、いま、実世界推測部１０２が、図２６０で示されるような画素３１０１（センサ２の所定の１つの検出素子に対応する画素３１０１）を注目画素として、図２６０で示されるような近似関数f(x)（Ｘ断面波形F(x)の近似関数f(x)）を既に生成しているとする。
【１８１８】
なお、図２６０の例では、画素３１０１の画素値（入力画素値）がＰとされ、かつ、画素３１０１の形状が、１辺の長さが１の正方形とされている。また、空間方向のうちの、画素３１０１の１辺に平行な方向（図中水平方向）がＸ方向とされ、Ｘ方向に垂直な方向（図中垂直方向）がＹ方向とされている。
【１８１９】
また、図２６０の下側に、画素３１０１の中心が原点とされる空間方向（Ｘ方向とＹ方向）の座標系（以下、注目画素座標系と称する）と、その座標系における画素３１０１が示されている。
【１８２０】
さらに、図２６０の上方に、y＝０（yは、図中下側で示される注目画素座標系のY方向の座標値）における近似関数f(x)をグラフ化したものが示されている。このグラフにおいて、図中水平方向に平行な軸は、図中下側で示される注目画素座標系のX方向のx軸と同一の軸であり（原点も同一であり）、また、図中垂直方向に平行な軸は、画素値を表す軸とされている。
【１８２１】
この場合、近似関数f(x)と画素３１０１の画素値Pの間には、次の式（１７３）の関係が成立する。
【１８２２】
【数１３９】

【１８２３】
また、図２６０で示されるように、画素３１０１は、傾きG_fで表される空間方向のデータの定常性を有しているとする。そして、データ定常性検出部１０１（図２５９）が、傾きG_fで表されるデータの定常性に対応するデータ定常性情報として、図２６０で示されるような角度θを既に出力しているとする。
【１８２４】
この場合、例えば、１次元再積分方法においては、図２６１で示されるように、Ｘ方向に−０．５乃至０．５の範囲、かつＹ方向に−０．５乃至０．５の範囲（図２６０の画素３１０１が位置する範囲）に、４個の画素３１１１乃至画素３１１４を新たに創造することが可能である。
【１８２５】
なお、図２６１の下側に、図２６０のものと同一の注目画素座標系と、その注目画素座標系における画素３１１１乃至画素３１１４が示されている。また、図２６１の上側に、図２６０のものと同一のグラフ（y=0における近似関数f(x)をグラフ化したもの）が示されている。
【１８２６】
具体的には、図２６１で示されるように、１次元再積分方法においては、次の式（１７４）により画素３１１１の画素値Ｍ（１）の算出が、次の式（１７５）により画素３１１２の画素値Ｍ（２）の算出が、次の式（１７６）により画素３１１３の画素値Ｍ（３）の算出が、次の式（１７７）により画素３１１４の画素値Ｍ（４）の算出が、それぞれ可能である。
【１８２７】
【数１４０】

【１８２８】
【数１４１】

【１８２９】
【数１４２】

【１８３０】
【数１４３】

【１８３１】
なお、式（１７４）のx_s1、式（１７５）のx_s2、式（１７６）のx_s3、および式（１７７）のx_s4のそれぞれは、対応する式の積分開始位置を表している。また、式（１７４）のx_e1、式（１７５）のx_e2、式（１７６）のx_e3、および式（１７７）のx_e4のそれぞれは、対応する式の積分終了位置を表している。
【１８３２】
式（１７４）乃至式（１７７）のそれぞれの右辺の積分範囲は、画素３１１１乃至画素３１１４のそれぞれの画素幅（Ｘ方向の長さ）となる。即ち、x_e1-x_s1,x_e2-x_s2,x_e3-x_s3,x_e4-x_s4のそれぞれは、０．５となる。
【１８３３】
ただし、いまの場合、y=0における近似関数f(x)と同一形状の１次元の波形が、Ｙ方向ではなく、傾きG_fで表されるデータの定常性の方向（即ち、角度θ方向）に連なっていると考えられる（実際には、y=0におけるＸ断面波形F(x)と同一形状の波形が定常性の方向に連なっている）。即ち、図２６１の注目画素座標系における原点(0,0)（図２６０の画素３１０１の中心）における画素値f(0)を画素値f1とした場合、画素値f1が続く方向は、Y方向ではなく、傾きG_fで表されるデータの定常性の方向（角度θ方向）である。
【１８３４】
換言すると、Y方向の所定の位置y（ただし、yは０以外の数値）における近似関数f(x)の波形を考えた場合、画素値f1となる位置は、位置（0,y）ではなく、位置（0,y）からX方向に所定の量（ここでも、このような量をシフト量と称することにする。また、シフト量は、Y方向の位置ｙに依存する量であるので、このシフト量をC_x(y)と記述することにする）だけ移動した位置（C_x(y),y）である。
【１８３５】
従って、上述した式（１７４）乃至式（１７７）のそれぞれの右辺の積分範囲として、求めたい画素値M（l）（ただし、ｌは、１乃至４のうちのいずれかの整数値）の中心が存在するY方向の位置ｙを考慮した範囲、即ち、シフト量C_x(y)を考慮した積分範囲の設定が必要である。
【１８３６】
具体的には、例えば、画素３１１１と画素３１１２の中心が存在するY方向の位置yは、y=０ではなく、y=0.25である。
【１８３７】
従って、y=0.25における近似関数f(x)の波形は、y=０における近似関数f(x)の波形をX方向にシフト量C_x(0.25)だけ移動させた波形に相当する。
【１８３８】
換言すると、上述した式（１７４）において、画素３１１１に対する画素値M(1)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s1から終了位置x_e1まで）で積分したものであるとすると、その積分範囲は、開始位置x_s1＝-0.5から終了位置x_e1＝０までの範囲（画素３１１１がX方向に占める範囲そのもの）ではなく、図２６１で示される範囲、即ち、開始位置x_s1＝-0.5＋C_x(0.25)から終了位置x_e1＝０＋C_x(0.25)（シフト量C_x(0.25)だけ画素３１１１を仮に移動させた場合における、画素３１１１がX方向に占める範囲）となる。
【１８３９】
同様に、上述した式（１７５）において、画素３１１２に対する画素値M(2)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s2から終了位置x_e2まで）で積分したものであるとすると、その積分範囲は、開始位置x_s2＝０から終了位置x_e2＝0.5までの範囲（画素３１１２のX方向に占める範囲そのもの）ではなく、図２６１で示される範囲、即ち、開始位置x_s2＝０＋C_x(0.25)から終了位置x_e2 ＝0.5＋C_x(0.25)（シフト量C_x(0.25)だけ画素３１１２を仮に移動させた場合における、画素３１１２のX方向に占める範囲）となる。
【１８４０】
また、例えば、画素３１１３と画素３１１４の中心が存在するY方向の位置yは、y=０ではなく、y=-0.25である。
【１８４１】
従って、y=-0.25における近似関数f(x)の波形は、y=０における近似関数f(x)の波形をX方向にシフト量C_x(-0.25)だけ移動させた波形に相当する。
【１８４２】
換言すると、上述した式（１７６）において、画素３１１３に対する画素値M(3)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s3から終了位置x_e3まで）で積分したものであるとすると、その積分範囲は、開始位置x_s3＝-0.5から終了位置x_e3＝０までの範囲（画素３１１３のX方向に占める範囲そのもの）ではなく、図２６１で示される範囲、即ち、開始位置x_s3＝-0.5＋C_x(-0.25)から終了位置x_e3＝０＋C_x(-0.25)（シフト量C_x(-0.25)だけ画素３１１３を仮に移動させた場合における、画素３１１３のX方向に占める範囲）となる。
【１８４３】
同様に、上述した式（１７７）において、画素３１１４に対する画素値M(4)は、y=0における近似関数f(x)を所定の積分範囲（開始位置x_s4から終了位置x_e4まで）で積分したものであるとすると、その積分範囲は、開始位置x_s4＝０から終了位置x_e4＝0.5までの範囲（画素３１１４のX方向の占める範囲そのもの）ではなく、図２６１で示される範囲、即ち、開始位置x_s4＝０＋C_x(-0.25)から終了位置x_e4 ＝0.5＋C_x(-0.25)（シフト量C_x(-0.25)だけ画素３１１４を仮に移動させた場合における、画素３１１４のX方向に占める範囲）となる。
【１８４４】
従って、画像生成部１０２（図２５９）は、上述した式（１７４）乃至式（１７７）のそれぞれに、上述した積分範囲のうちの対応するものを代入してそれぞれ演算し、それらの演算結果を出力画素値M(1)乃至M（４）のそれぞれとして出力することになる。
【１８４５】
このように、画像生成部１０２は、１次元再積分手法を利用することで、センサ２（図２５９）からの出力画素３１０１（図２６０）における画素として、出力画素３１０１よりも空間解像度の高い４つの画素、即ち、画素３１１１乃至画素３１１４（図２６１）を創造することができる。さらに、図示はしないが、上述したように、画像生成部１０２は、画素３１１１乃至画素３１１４のみならず、積分範囲を適宜変えることで、出力画素３１０１に対して任意の倍率の空間解像度の画素を劣化することなく創造することができる。
【１８４６】
図２６２は、このような１次元再積分手法を利用する画像生成部１０３の構成例を表している。
【１８４７】
図２６２で示されるように、この例の画像生成部１０３には、条件設定部３１２１、特徴量記憶部３１２２、積分成分演算部３１２３、および出力画素値演算部３１２４が設けられている。
【１８４８】
条件設定部３１２１は、実世界推定部１０２より供給された実世界推定情報（図２６２の例では、近似関数f(x)の特徴量）に基づいて近似関数f(x)の次数nを設定する。
【１８４９】
条件設定部３１２１はまた、近似関数f(x)を再積分する場合（出力画素値を演算する場合）の積分範囲を設定する。なお、条件設定部３１２１が設定する積分範囲は、画素の幅である必要は無い。例えば、近似関数f（x）は空間方向（X方向）に積分されるので、センサ２（図２５９）からの入力画像の各画素の空間的な大きさに対する、出力画素（画像生成部１０３がこれから演算する画素）の相対的な大きさ（空間解像度の倍率）がわかれば、具体的な積分範囲の決定が可能である。従って、条件設定部３１２１は、積分範囲として、例えば、空間解像度倍率を設定することもできる。
【１８５０】
特徴量記憶部３１２２は、実世界推定部１０２より順次供給されてくる近似関数f(x)の特徴量を一次的に記憶する。そして、特徴量記憶部３１２２は、近似関数f（ｘ）の特徴量の全てを記憶すると、近似関数f(x)の特徴量を全て含む特徴量テーブルを生成し、出力画素値演算部３１２４に供給する。
【１８５１】
ところで、上述したように、画像生成部１０３は、上述した式（１７２）を利用して出力画素値Mを演算するが、上述した式（１７２）の右辺に含まれる近似関数f(x)は、具体的には、次の式（１７８）のように表される。
【１８５２】
【数１４４】

【１８５３】
なお、式（１７８）において、w_iは、実世界推定部１０２より供給される近似関数f(x)の特徴量を表している。
【１８５４】
従って、上述した式（１７２）の右辺の近似関数f(x)に、式（１７８）の近似関数f（x）を代入して、式（１７２）の右辺を展開（演算）すると、出力画素値Mは、次の式（１７９）のように表される。
【１８５５】
【数１４５】

【１８５６】
式（１７９）において、K_i（x_s,x_e）は、i次項の積分成分を表している。即ち、積分成分K_i（x_s,x_e）は、次の式（１８０）で示される通りである。
【１８５７】
【数１４６】

【１８５８】
積分成分演算部３１２３は、この積分成分K_i（x_s,x_e）を演算する。
【１８５９】
具体的には、式（１８０）で示されるように、積分成分K_i（x_s,x_e）は、積分範囲の開始位置x_s、および終了位置x_e、ゲインG_e、並びにi次項のiが既知であれば演算可能である。
【１８６０】
これらのうちの、ゲインG_eは、条件設定部３１２１により設定された空間解像度倍率（積分範囲）により決定される。
【１８６１】
iの範囲は、条件設定部３１２１により設定された次数nにより決定される。
【１８６２】
また、積分範囲の開始位置x_s、および終了位置x_eのそれぞれは、これから生成する出力画素の中心画素位置(x,y)および画素幅、並びにデータの定常性の方向を表すシフト量C_x(y)により決定される。なお、(x,y)は、実世界推定部１０２が近似関数f(x)を生成したときの注目画素の中心位置からの相対位置を表している。
【１８６３】
さらに、これから生成する出力画素の中心画素位置(x,y)および画素幅のそれぞれは、条件設定部３１２１により設定された空間解像度倍率（積分範囲）により決定される。
【１８６４】
また、シフト量C_x(y)と、データ定常性検出部１０１より供給された角度θは、次の式（１８１）と式（１８２）のような関係が成り立つので、シフト量C_x(y)は角度θにより決定される。
【１８６５】
【数１４７】

【１８６６】
【数１４８】

【１８６７】
なお、式（１８１）において、G_fは、データの定常性の方向を表す傾きを表しており、θは、データ定常性検出部１０１（図２５９）より出力されるデータ定常性情報の１つである角度（空間方向の１方向であるＸ方向と、傾きG_fで表されるデータの定常性の方向とのなす角度）を表している。また、dxは、Ｘ方向の微小移動量を表しており、dyは、dxに対するＹ方向（Ｘ方向と垂直な空間方向）の微小移動量を表している。
【１８６８】
従って、積分成分演算部３１２３は、条件設定部３１２１により設定された次数および空間解像度倍率（積分範囲）、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分K_i（x_s,x_e）を演算し、その演算結果を積分成分テーブルとして出力画素値演算部３１２４に供給する。
【１８６９】
出力画素値演算部３１２４は、特徴量記憶部３１２２より供給された特徴量テーブルと、積分成分演算部３１２３より供給された積分成分テーブルを利用して、上述した式（１７９）の右辺を演算し、その演算結果を出力画素値Mとして外部に出力する。
【１８７０】
次に、図２６３のフローチャートを参照して、１次元再積分手法を利用する画像生成部１０３（図２６２）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【１８７１】
例えば、いま、上述した図４０のステップＳ１０２の処理で、実世界推測部１０２が、上述した図２６０で示されるような画素３１０１を注目画素として、図２６０で示されるような近似関数f(x)を既に生成しているとする。
【１８７２】
また、上述した図４０のステップＳ１０１の処理で、データ定常性検出部１０１が、データ定常性情報として、図２６０で示されるような角度θを既に出力しているとする。
【１８７３】
この場合、図２６３のステップＳ３１０１において、条件設定部３１２１は、条件（次数と積分範囲）を設定する。
【１８７４】
例えば、いま、次数として５が設定されるとともに、積分範囲として空間４倍密（画素のピッチ幅が上下左右ともに1/2倍となる空間解像度倍率）が設定されたとする。
【１８７５】
即ち、この場合、図２６１で示されるように、Ｘ方向に−０．５乃至０．５の範囲、かつＹ方向に−０．５乃至０．５の範囲（図２６０の画素３１０１の範囲）に、４個の画素３１１１乃至画素３１１４を新たに創造することが設定されたことになる。
【１８７６】
ステップＳ３１０２において、特徴量記憶部３１２２は、実世界推定部１０２より供給された近似関数f(x)の特徴量を取得し、特徴量テーブルを生成する。いまの場合、５次の多項式である近似関数f(x)の係数w₀乃至w₅が実世界推定部１０２より供給されるので、特徴量テーブルとして、（w₀,w₁,w₂,w₃,w₄,w₅）が生成される。
【１８７７】
ステップＳ３１０３において、積分成分演算部３１２３は、条件設定部３１２１により設定された条件（次数および積分範囲）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１８７８】
具体的には、例えば、これから生成する画素３１１１乃至画素３１１４のそれぞれに対して、番号（このような番号を、以下、モード番号と称する）１乃至４のそれぞれが付されているとすると、積分成分演算部３１２３は、上述した式（１８０）の積分成分K_i（x_s,x_e）を、次の式（１８３）の左辺で示される積分成分K_i(l)といったl（ただし、ｌはモード番号を表している）の関数として演算する。
【１８７９】
K_i(ｌ) ＝ K_i（x_s,x_e） ・・・（１８３）
【１８８０】
具体的には、いまの場合、次の式（１８４）で示される積分成分K_i(l)が演算される。
【１８８１】
【数１４９】

【１８８２】
なお、式（１８４）において、左辺が積分成分K_i(l)を表し、右辺が積分成分K_i（x_s,x_e）を表している。即ち、いまの場合、lは、１乃至４のうちのいずれかであり、かつ、iは０乃至５のうちのいずれかであるので、６個のK_i(１),６個のK_i(２),６個のK_i(３),６個のK_i(４)の総計２４個のK_i(l)が演算されることになる。
【１８８３】
より具体的には、はじめに、積分成分演算部３１２３は、データ定常性検出部１０１より供給された角度θを使用して、上述した式（１８１）と式（１８２）よりシフト量C_x(-0.25)、およびC_x(0.25)のそれぞれを演算する。
【１８８４】
次に、積分成分演算部３１２３は、演算したシフト量C_x(-0.25)、およびC_x(0.25)を使用して、式（１８４）の４つの式の各右辺の積分成分K_i（x_s,x_e）のそれぞれを、i＝０乃至５についてそれぞれ演算する。なお、この積分成分K_i（x_s,x_e）の演算においては、上述した式（１８０）が使用される。
【１８８５】
そして、積分成分演算部３１２３は、式（１８４）に従って、演算した２４個の積分成分K_i（x_s,x_e）のそれぞれを、対応する積分成分K_i(l)に変換し、変換した２４個の積分成分K_i(l)（即ち、６個のK_i(1)、６個のK_i(2)、６個のK_i(3)、および６個のK_i(4)）を含む積分成分テーブルを生成する。
【１８８６】
なお、ステップＳ３１０２の処理とステップＳ３１０３の処理の順序は、図２６３の例に限定されず、ステップＳ３１０３の処理が先に実行されてもよいし、ステップＳ３１０２の処理とステップＳ３１０３の処理が同時に実行されてもよい。
【１８８７】
次に、ステップＳ３１０４において、出力画素値演算部３１２４は、ステップＳ３１０２の処理で特徴量記憶部３１２２により生成された特徴量テーブルと、ステップＳ３１０３の処理で積分成分演算部３１２３により生成された積分成分テーブルに基づいて出力画素値M(1)乃至M(4)のそれぞれを演算する。
【１８８８】
具体的には、いまの場合、出力画素値演算部３１２４は、上述した式（１７９）に対応する、次の式（１８５）乃至式（１８８）の右辺を演算することで、画素３１１１（モード番号１の画素）の画素値M(1)、画素３１１２（モード番号２の画素）の画素値M(2)、画素３１１３（モード番号３の画素）の画素値M(3)、および画素３１１４（モード番号４の画素）の画素値M(4)のそれぞれを演算する。
【１８８９】
【数１５０】

【１８９０】
【数１５１】

【１８９１】
【数１５２】

【１８９２】
【数１５３】

【１８９３】
ステップＳ３１０５において、出力画素値演算部３１２４は、全画素の処理を終了したか否かを判定する。
【１８９４】
ステップＳ３１０５において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３１０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３１０２乃至Ｓ３１０４の処理が繰り返される。
【１８９５】
そして、全画素の処理が終了すると（ステップＳ３１０５において、全画素の処理が終了されたと判定すると）、出力画素値演算部３１２４は、ステップＳ３１０６において、画像を出力する。その後、画像の生成の処理は終了となる。
【１８９６】
次に、図２６４乃至図２７１を参照して、所定の入力画像に対して、１次元再積分手法を適用して得られた出力画像と、他の手法（従来のクラス分類適応処理）を適用して得られた出力画像の違いについて説明する。
【１８９７】
図２６４は、入力画像の元の画像を示す図であり、図２６５は、図２６４の元の画像に対応する画像データを示している。図２６５において、図中垂直方向の軸は、画素値を示し、図中右下方向の軸は、画像の空間方向の一方向であるＸ方向を示し、図中右上方向の軸は、画像の空間方向の他の方向であるＹ方向を示す。なお、後述する図２６７、図２６９、および図２７１の軸のそれぞれは、図２６５の軸と対応している。
【１８９８】
図２６６は、入力画像の例を示す図である。図２６６で示される入力画像は、図２６４で示される画像の２×２の画素からなるブロックに属する画素の画素値の平均値を、１つの画素の画素値として生成された画像である。即ち、入力画像は、図２６４で示される画像に、センサの積分特性を模した、空間方向の積分を適用することにより得られた画像である。また、図２６７は、図２６６の入力画像に対応する画像データを示している。
【１８９９】
図２６４で示される元の画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。同様に、図２６６で示される入力画像において、上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれている。
【１９００】
図２６８は、図２６６で示される入力画像に、従来のクラス分類適応処理を適用して得られた画像（以下、図２６８で示される画像を、従来の画像と称する）を示す図である。また、図２６９は、従来の画像に対応する画像データを示している。
【１９０１】
なお、クラス分類適応処理は、クラス分類処理と適応処理とからなり、クラス分類処理によって、データを、その性質に基づいてクラス分けし、各クラスごとに適応処理を施すものである。適応処理では、例えば、低画質または標準画質の画像が、所定のタップ係数を用いてマッピング（写像）されることにより、高画質の画像に変換される。
【１９０２】
図２７０は、図２６６で示される入力画像に、本発明が適用される１次元再積分手法を適用して得られた画像（以下、図２７０で示される画像を、本発明の画像と称する）を示す図である。また、図２７１は、本発明の画像に対応する画像データを示している。
【１９０３】
図２６８の従来の画像と、図２７０の本発明の画像を比較するに、従来の画像においては、細線の画像が、図２６４の元の画像とは異なるものになっているのに対して、本発明の画像においては、細線の画像が、図２６４の元の画像とほぼ同じものになっていることがわかる。
【１９０４】
この違いは、従来のクラス分類適応処理は、あくまでも図２６６の入力画像を基準（原点）として処理を行う手法であるのに対して、本発明の１次元再積分手法は、細線の定常性を考慮して、図２６４の元の画像を推定し（元の画像に対応する近似関数f(x)を生成し）、推定した元の画像を基準（原点）として処理を行う（再積分して画素値を演算する）手法であるからである。
【１９０５】
このように、１次元再積分手法においては、１次元多項式近似手法により生成された１次元の多項式である近似関数f(x)（実世界のX断面波形F(x)の近似関数f(x)）を基準（原点）として、近似関数f(x)を任意の範囲に積分することで出力画像（画素値）が生成される。
【１９０６】
従って、１次元再積分手法においては、従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の光信号）により近い画像の出力が可能になる。
【１９０７】
換言すると、１次元再積分手法においては、図２５９のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサ２の複数の検出素子により実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像におけるデータの定常性を検出し、実世界推定部１０２が、検出されたデータの定常性に対応して、入力画像の時空間方向のうち１次元方向の位置に対応する画素の画素値が、その１次元方向の積分効果により取得された画素値であるとして、実世界１の光信号を表す光信号関数Ｆ（具体的には、Ｘ断面波形F(x)）を、所定の近似関数ｆ（ｘ）で近似することで、光信号関数Ｆを推定していることが前提とされている。
【１９０８】
詳細には、例えば、検出されたデータの定常性に対応する線からの１次元方向に沿った距離に対応する各画素の画素値が、その１次元方向の積分効果により取得された画素値であるとして、Ｘ断面波形F(x)が近似関数f(x)で近似されていることが前提とされている。
【１９０９】
そして、１次元再積分手法においては、このような前提に基づいて、例えば、図２５９（図３）の画像生成部１０３が、実世界推定部１０２により推定されたＸ断面波形Ｆ（ｘ）、即ち、近似関数ｆ(x)を、１次元方向の所望の単位で積分することにより所望の大きさの画素に対応する画素値Mを生成し、それを出力画像として出力する。
【１９１０】
従って、１次元再積分手法においては、従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の光信号）により近い画像の出力が可能になる。
【１９１１】
また、１次元再積分手法においては、上述したように、積分範囲は任意なので、積分範囲を可変することにより、入力画像の解像度とは異なる解像度（時間解像度、または空間解像度）を創造することも可能になる。即ち、入力画像の解像度に対して、整数値だけではなく任意の倍率の解像度の画像を生成することが可能になる。
【１９１２】
さらに、１次元再積分手法においては、他の再積分手法に比較して、より少ない演算処理量で出力画像（画素値）の算出が可能となる。
【１９１３】
次に、図２７２乃至図２７８を参照して、２次元再積分手法について説明する。
【１９１４】
２次元再積分手法においては、２次元多項式近似手法により近似関数f(x,y)が既に生成されていることが前提とされる。
【１９１５】
即ち、例えば、図２７２で示されるような、傾きG_Fで表される空間方向の定常性を有する実世界１（図２５９）の光信号を表す画像関数F(x,y,t)を、空間方向（Ｘ方向とＹ方向）に射影した波形、即ち、Ｘ−Ｙ平面上の波形F(x,y)が、n次（nは、任意の整数）の多項式である近似関数f(x,y)に近似されていることが前提とされる。
【１９１６】
図２７２において、図中、水平方向は、空間方向の１方向であるＸ方向を、右上方向は、空間方向の他方向であるＹ方向を、垂直方向は、光のレベルを、それぞれ表している。G_Fは、空間方向の定常性の傾きを表している。
【１９１７】
なお、図２７２の例では、定常性の方向は、空間方向（Ｘ方向とＹ方向）とされているため、近似の対象とされる光信号の射影関数は、関数F(x,y)とされているが、後述するように、定常性の方向に応じて、関数F(x,t)や関数F(y,t)が近似の対象とされてもよい。
【１９１８】
図２７２の例の場合、２次元再積分手法においては、出力画素値Ｍは、次の式（１８９）のように演算される。
【１９１９】
【数１５４】

【１９２０】
なお、式（１８９）において、y_sは、Ｙ方向の積分開始位置を表しており、y_eは、Ｙ方向の積分終了位置を表している。同様に、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。また、G_eは、所定のゲインを表している。
【１９２１】
式（１８９）において、積分範囲は任意に設定可能であるので、２次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２５９）からの入力画像の画素）に対して任意の倍率の空間解像度の画素を劣化することなく創造することが可能になる。
【１９２２】
図２７３は、２次元再積分手法を利用する画像生成部１０３の構成例を表している。
【１９２３】
図２７３で示されるように、この例の画像生成部１０３には、条件設定部３２０１、特徴量記憶部３２０２、積分成分演算部３２０３、および出力画素値演算部３２０４が設けられている。
【１９２４】
条件設定部３２０１は、実世界推定部１０２より供給された実世界推定情報（図２７３の例では、近似関数f(x,y)の特徴量）に基づいて近似関数f(x,y)の次数nを設定する。
【１９２５】
条件設定部３２０１はまた、近似関数f(x,y)を再積分する場合（出力画素値を演算する場合）の積分範囲を設定する。なお、条件設定部３２０１が設定する積分範囲は、画素の縦幅や横幅である必要は無い。例えば、近似関数f（x,y）は空間方向（X方向とY方向）に積分されるので、センサ２からの入力画像の各画素の空間的な大きさに対する、出力画素（画像生成部１０３がこれから生成する画素）の相対的な大きさ（空間解像度の倍率）がわかれば、具体的な積分範囲の決定が可能である。従って、条件設定部３２０１は、積分範囲として、例えば、空間解像度倍率を設定することもできる。
【１９２６】
特徴量記憶部３２０２は、実世界推定部１０２より順次供給されてくる近似関数f(x,y)の特徴量を一次的に記憶する。そして、特徴量記憶部３２０２は、近似関数f(x,y)の特徴量の全てを記憶すると、近似関数f(x,y)の特徴量を全て含む特徴量テーブルを生成し、出力画素値演算部３２０４に供給する。
【１９２７】
ここで、近似関数f(x,y)の詳細について説明する。
【１９２８】
例えば、いま、上述した図２７２で示されるような傾きG_Fで表される空間方向の定常性を有する実世界１（図２５９）の光信号（波形F(x,y）で表される光信号)が、センサ２（図２５９）により検出されて入力画像（画素値）として出力されたとする。
【１９２９】
さらに、例えば、図２７４で示されるように、データ定常性検出部１０１（図３）が、この入力画像のうちの、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、点線で表される２０個の正方形）から構成される入力画像の領域３２２１に対してその処理を実行し、データ定常性情報の１つとして角度θ（傾きG_Fに対応する傾きG_fで表されるデータの定常性の方向と、Ｘ方向とのなす角度θ）を出力したとする。
【１９３０】
なお、実世界推定部１０２から見ると、データ定常性検出部１０１は、注目画素における角度θを単に出力すればよいので、データ定常性検出部１０１の処理範囲は、上述した入力画像の領域３２２１に限定されない。
【１９３１】
また、入力画像の領域３２２１において、図中水平方向は、空間方向の1方向であるＸ方向を表しており、図中垂直方向は、空間方向の他方向であるＹ方向を表している。
【１９３２】
さらに、図２７４中、左から２画素目であって、下から３画素目の画素が注目画素とされ、その注目画素の中心を原点(0,0)とするように(x,y)座標系が設定されている。そして、原点(0,0)を通る角度θの直線（データの定常性の方向を表す傾きG_fの直線）に対するＸ方向の相対的な距離（以下、断面方向距離と称する）がx'とされている。
【１９３３】
さらに、図２７４中、右側のグラフは、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする画像関数F(x,y,t)を、Ｙ方向の任意の位置yにおいて、X方向に射影した１次元の波形（以下、このような波形を、X断面波形F(x')と称する）が近似された関数であって、n次（nは、任意の整数）の多項式である近似関数f(x')を表している。右側のグラフの軸のうち、図中水平方向の軸は、断面方向距離を表しており、図中垂直方向の軸は、画素値を表している。
【１９３４】
この場合、図２７４で示される近似関数f(x')は、ｎ次の多項式であるので、次の式（１９０）のように表される。
【１９３５】
【数１５５】

【１９３６】
また、角度θが決定されていることから、原点(0,0)を通る角度θの直線は一意に決まり、Ｙ方向の任意の位置yにおける、直線のＸ方向の位置x_lが、次の式（１９１）のように表される。ただし、式（１９１）において、sはcotθを表している。
【１９３７】
x_l ＝ ｓ×ｙ ・・・（１９１）
【１９３８】
即ち、図２７４で示されるように、傾きG_fで表されるデータの定常性に対応する直線上の点は、座標値(x_l,y)で表される。
【１９３９】
式（１９１）より、断面方向距離x'は、次の式（１９２）のように表される。
【１９４０】
x' ＝ x−x_l ＝ x−s×y ・・・（１９２）
【１９４１】
従って、入力画像の領域３２２１内の任意の位置(x,y)における近似関数f(x,y)は、式（１９０）と式（１９２）より、次の式（１９３）のように示される。
【１９４２】
【数１５６】

【１９４３】
なお、式（１９３）において、w_iは、近似関数f(x,y)の特徴量を表している。
【１９４４】
図２７３に戻り、式（１９３）に含まれる特徴量w_iが、実世界推定部１０２より供給され、特徴量記憶部３２０２に記憶される。特徴量記憶部３２０２は、式（１９３）で表される特徴量w_iの全てを記憶すると、特徴量w_iを全て含む特徴量テーブルを生成し、出力画素値演算部３２０４に供給する。
【１９４５】
また、上述した式（１８９）の右辺の近似関数f(x,y)に、式（１９３）の近似関数f（x,y）を代入して、式（１８９）の右辺を展開（演算）すると、出力画素値Mは、次の式（１９４）のように表される。
【１９４６】
【数１５７】

【１９４７】
式（１９４）において、K_i（x_s,x_e,y_s,y_e）は、i次項の積分成分を表している。即ち、積分成分K_i（x_s,x_e,y_s,y_e）は、次の式（１９５）で示される通りである。
【１９４８】
【数１５８】

【１９４９】
積分成分演算部３２０３は、この積分成分K_i（x_s,x_e,y_s,y_e）を演算する。
【１９５０】
具体的には、式（１９４）と式（１９５）で示されるように、積分成分K_i（x_s,x_e,y_s,y_e）は、積分範囲のＸ方向の開始位置x_s、およびＸ方向の終了位置x_e、積分範囲のＹ方向の開始位置y_s、およびＹ方向の終了位置y_e、変数ｓ、ゲインG_e、並びにi次項のiが既知であれば演算可能である。
【１９５１】
これらのうちの、ゲインG_eは、条件設定部３２０１により設定された空間解像度倍率（積分範囲）により決定される。
【１９５２】
iの範囲は、条件設定部３２０１により設定された次数nにより決定される。
【１９５３】
変数ｓは、上述したように、cotθであるので、データ定常性検出部１０１より出力される角度θにより決定される。
【１９５４】
また、積分範囲のＸ方向の開始位置x_s、およびＸ方向の終了位置x_e、並びに、積分範囲のＹ方向の開始位置y_s、およびＹ方向の終了位置y_eのそれぞれは、これから生成する出力画素の中心画素位置(x,y)および画素幅により決定される。なお、(x,y)は、実世界推定部１０２が近似関数f(x)を生成したときの注目画素の中心位置からの相対位置を表している。
【１９５５】
さらに、これから生成する出力画素の中心画素位置(x,y)および画素幅のそれぞれは、条件設定部３２０１により設定された空間解像度倍率（積分範囲）により決定される。
【１９５６】
従って、積分成分演算部３２０３は、条件設定部３２０１により設定された次数および空間解像度倍率（積分範囲）、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分K_i（x_s,x_e,y_s,y_e）を演算し、その演算結果を積分成分テーブルとして出力画素値演算部３２０４に供給する。
【１９５７】
出力画素値演算部３２０４は、特徴量記憶部３２０２より供給された特徴量テーブルと、積分成分演算部３２０３より供給された積分成分テーブルを利用して、上述した式（１９４）の右辺を演算し、その演算結果を出力画素値Mとして外部に出力する。
【１９５８】
次に、図２７５のフローチャートを参照して、２次元再積分手法を利用する画像生成部１０３（図２７４）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【１９５９】
例えば、いま、図２７２で示される関数F(x,y)で表される光信号がセンサ２に入射されて入力画像となり、上述した図４０のステップＳ１０２の処理で、実世界推測部１０２が、その入力画像のうちの、図２７６で示されるような１つの画素３２３１を注目画素として、関数F(x,y)を近似する近似関数f(x,y)を既に生成しているとする。
【１９６０】
なお、図２７６において、画素３２３１の画素値（入力画素値）がＰとされ、かつ、画素３２３１の形状が、１辺の長さが１の正方形とされている。また、空間方向のうちの、画素３２３１の１辺に平行な方向がＸ方向とされ、Ｘ方向に垂直な方向がＹ方向とされている。さらに、画素３２３１の中心が原点とされる空間方向（Ｘ方向とＹ方向）の座標系（以下、注目画素座標系と称する）が設定されている。
【１９６１】
また、図２７６において、上述した図４０のステップＳ１０１の処理で、データ定常性検出部１０１が、画素３２３１を注目画素として、傾きG_fで表されるデータの定常性に対応するデータ定常性情報として、角度θを既に出力しているとする。
【１９６２】
図２７５に戻り、この場合、ステップＳ３２０１において、条件設定部３２０１は、条件（次数と積分範囲）を設定する。
【１９６３】
例えば、いま、次数として５が設定されるとともに、積分範囲として空間４倍密（画素のピッチ幅が上下左右ともに1/2倍となる空間解像度倍率）が設定されたとする。
【１９６４】
即ち、この場合、図２７７で示されるように、Ｘ方向に−０．５乃至０．５の範囲、かつＹ方向に−０．５乃至０．５の範囲（図２７６の画素３２３１の範囲）に、４個の画素３２４１乃至画素３２４４を新たに創造することが設定されたことになる。なお、図２７７においても、図２７６のものと同一の注目画素座標系が示されている。
【１９６５】
また、図２７７において、M(1)は、これから生成される画素３２４１の画素値を、M(2)は、これから生成される画素３２４２の画素値を、M(3)は、これから生成される画素３２４３の画素値を、M(4)は、これから生成される画素３２４１の画素値を、それぞれ表している。
【１９６６】
図２７５に戻り、ステップＳ３２０２において、特徴量記憶部３２０２は、実世界推定部１０２より供給された近似関数f(x,y)の特徴量を取得し、特徴量テーブルを生成する。いまの場合、５次の多項式である近似関数f(x)の係数w₀乃至w₅が実世界推定部１０２より供給されるので、特徴量テーブルとして、（w₀,w₁,w₂,w₃,w₄,w₅）が生成される。
【１９６７】
ステップＳ３２０３において、積分成分演算部３２０３は、条件設定部３２０１により設定された条件（次数および積分範囲）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【１９６８】
具体的には、例えば、これから生成される画素３２４１乃至画素３２４４のそれぞれに対して、番号（このような番号を、以下、モード番号と称する）１乃至４のそれぞれが付されているとすると、積分成分演算部３２０３は、上述した式（１９４）の積分成分K_i（x_s,x_e,y_s,y_e）を、次の式（１９６）の左辺で示される積分成分K_i(l)といったl（ただし、ｌはモード番号を表している）の関数として演算する。
【１９６９】
K_i(ｌ) ＝ K_i（x_s,x_e,y_s,y_e） ・・・（１９６）
【１９７０】
具体的には、いまの場合、次の式（１９７）で示される積分成分K_i(l)が演算される。
【１９７１】
【数１５９】

【１９７２】
なお、式（１９７）において、左辺が積分成分K_i(l)を表し、右辺が積分成分K_i（x_s,x_e,y_s,y_e）を表している。即ち、いまの場合、lは、１乃至４のうちのいずれかであり、かつ、iは０乃至５のうちのいずれかであるので、６個のK_i(１),６個のK_i(２),６個のK_i(３),６個のK_i(４)の総計２４個のK_i(l)が演算されることになる。
【１９７３】
より具体的には、はじめに、積分成分演算部３２０３は、データ定常性検出部１０１より供給された角度θを使用して、上述した式（１９１）の変数ｓ（ｓ＝cotθ）を演算する。
【１９７４】
次に、積分成分演算部３２０３は、演算した変数ｓを使用して、式（１９７）の４つの式の各右辺の積分成分K_i（x_s,x_e,y_s,y_e）のそれぞれを、i＝０乃至５についてそれぞれ演算する。なお、この積分成分K_i（x_s,x_e,y_s,y_e）の演算においては、上述した式（１９４）が使用される。
【１９７５】
そして、積分成分演算部３２０３は、式（１９７）に従って、演算した２４個の積分成分K_i（x_s,x_e,y_s,y_e）のそれぞれを、対応する積分成分K_i(l)に変換し、変換した２４個の積分成分K_i(l)（即ち、６個のK_i(1)、６個のK_i(2)、６個のK_i(3)、および６個のK_i(4)）を含む積分成分テーブルを生成する。
【１９７６】
なお、ステップＳ３２０２の処理とステップＳ３２０３の処理の順序は、図２７５の例に限定されず、ステップＳ３２０３の処理が先に実行されてもよいし、ステップＳ３２０２の処理とステップＳ３２０３の処理が同時に実行されてもよい。
【１９７７】
次に、ステップＳ３２０４において、出力画素値演算部３２０４は、ステップＳ３２０２の処理で特徴量記憶部３２０２により生成された特徴量テーブルと、ステップＳ３２０３の処理で積分成分演算部３２０３により生成された積分成分テーブルに基づいて出力画素値M(1)乃至M(4)のそれぞれを演算する。
【１９７８】
具体的には、いまの場合、出力画素値演算部３２０４は、上述した式（１９４）に対応する、次の式（１９８）乃至式（２０１）の右辺のそれぞれを演算することで、図２７７で示される、画素３２４１（モード番号１の画素）の画素値M(1)、画素３２４２（モード番号２の画素）の画素値M(2)、画素３２４３（モード番号３の画素）の画素値M(3)、および画素３２４４（モード番号４の画素）の画素値M(4)のそれぞれを演算する。
【１９７９】
【数１６０】

【１９８０】
【数１６１】

【１９８１】
【数１６２】

【１９８２】
【数１６３】

【１９８３】
ただし、いまの場合、式（１９８）乃至式（２０１）のnは全て５となる。
【１９８４】
ステップＳ３２０５において、出力画素値演算部３２０４は、全画素の処理を終了したか否かを判定する。
【１９８５】
ステップＳ３２０５において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３２０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３２０２乃至Ｓ３２０４の処理が繰り返される。
【１９８６】
そして、全画素の処理が終了すると（ステップＳ３２０５において、全画素の処理が終了されたと判定すると）、出力画素値演算部３２０４は、ステップＳ３２０６において、画像を出力する。その後、画像の生成の処理は終了となる。
【１９８７】
このように、２次元再積分手法を利用することで、センサ２（図２５９）からの入力画像の画素３２３１（図２７６）における画素として、入力画素３２３１よりも空間解像度の高い４つの画素、即ち、画素３２４１乃至画素３２４４（図２７７）を創造することができる。さらに、図示はしないが、上述したように、画像生成部１０３は、画素３２４１乃至画素３２４４のみならず、積分範囲を適宜変えることで、入力画素３２３１に対して任意の倍率の空間解像度の画素を劣化することなく創造することができる。
【１９８８】
以上、２次元再積分手法の説明として、空間方向（X方向とY方向）に対する近似関数f(x,y)を２次元積分する例を用いたが、２次元再積分手法は、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対しても適用可能である。
【１９８９】
即ち、上述した例は、実世界１（図２５９）の光信号が、例えば、図２７２で示されるような傾きG_Fで表される空間方向の定常性を有する場合の例であったので、上述した式（１８９）で示されるような、空間方向（X方向とY方向）の２次元積分が含まれる式が利用された。しかしながら、２次元積分の考え方は、空間方向だけによるものではなく、時空間方向（X方向とt方向、または、Y方向とｔ方向）に対して適用することも可能である。
【１９９０】
換言すると、２次元再積分手法の前提となる２次元多項式近似手法においては、光信号を表す画像関数F(x,y,t)が、空間方向の定常性のみならず、時空間方向（ただし、X方向とt方向、または、Y方向とｔ方向）の定常性を有している場合であっても、２次元の多項式により近似することが可能である。
【１９９１】
具体的には、例えば、X方向に水平に等速で動いている物体がある場合、その物体の動きの方向は、図２７８で示されるようなX-t平面においては、傾きV_Fのように表される。換言すると、傾きV_Fは、X-t平面における時空間方向の定常性の方向を表しているとも言える。従って、データ定常性検出部１０１（図２５９）は、上述した角度θ（X-Y平面における、空間方向の定常性を表す傾きG_Fに対応するデータ定常性情報）と同様に、X-t平面における時空間方向の定常性を表す傾きV_Fに対応するデータ定常性情報として、図２７８で示されるような動きθ（厳密には、図示はしないが、傾きV_Fに対応する傾きV_fで表されるデータの定常性の方向と、空間方向のＸ方向とのなす角度である動きθ）を出力することが可能である。
【１９９２】
また、２次元多項式近似手法を利用する実世界推定部１０２（図２５９）は、動きθを上述した角度θの代わりとして使用すれば、上述した方法と同様な方法で、近似関数f(x,t)の係数（特徴量）wiを演算することが可能になる。ただし、この場合、使用される式は、上述した式（１９３）ではなく、次の式（２０２）である。
【１９９３】
【数１６４】

【１９９４】
なお、式（２０２）において、ｓはcotθ（ただし、θは動きである）である。
【１９９５】
従って、２次元再積分手法を利用する画像生成部１０３（図２５９）は、次の式（２０３）の右辺に、上述した式（２０２）のf(x,t)を代入して、演算することで、画素値Mを算出することが可能になる。
【１９９６】
【数１６５】

【１９９７】
なお、式（２０３）において、t_sは、ｔ方向の積分開始位置を表しており、t_eは、ｔ方向の積分終了位置を表している。同様に、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。G_eは、所定のゲインを表している。
【１９９８】
また、空間方向Ｘの変わりに、空間方向Ｙに注目した近似関数f（y,t)も、上述した近似関数f(x、t)と全く同様に取り扱うことが可能である。
【１９９９】
ところで、式（１９９）において、ｔ方向を一定とみなし、即ち、ｔ方向の積分を無視して積分することで、時間方向には積分されないデータ、即ち、動きボケのないデータを得ることが可能になる。換言すると、この手法は、２次元の多項式のうちの所定の１次元を一定として再積分する点で、２次元再積分手法の１つとみなしてもよいし、実際には、Ｘ方向の１次元の再積分をすることになるという点で、１次元再積分手法の１つとみなしてもよい。
【２０００】
また、式（２０３）において、積分範囲は任意に設定可能であるので、２次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２５９）からの入力画像の画素）に対して任意の倍率の解像度の画素を劣化することなく創造することが可能になる。
【２００１】
即ち、２次元再積分手法においては、時間方向ｔの積分範囲を適宜変えることで、時間解像度の創造が可能になる。また、空間方向Ｘ（または、空間方向Ｙ）の積分範囲を適宜変えることで、空間解像度の創造が可能になる。さらに、時間方向ｔと空間方向Ｘの積分範囲のそれぞれを適宜変えることで、時間解像度と空間解像度の両方の創造が可能になる。
【２００２】
なお、上述したように、時間解像度と空間解像度のうちのいずれか一方の創造は、１次元再積分手法でも可能であるが、両方の解像度の創造は、１次元再積分手法では原理上不可能であり、２次元以上の再積分を行うことではじめて可能になる。即ち、２次元再積分手法と後述する３次元再積分手法ではじめて、両方の解像度の創造が可能になる。
【２００３】
また、２次元再積分手法は、１次元ではなく２次元の積分効果を考慮しているので、より実世界１（図２５９）の光信号に近い画像を生成することも可能になる。
【２００４】
換言すると、２次元再積分手法においては、例えば、図２５９（図３）のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサ２の複数の検出素子により実世界１の光信号が射影され、実世界１の光信号の定常性（例えば、図２７２の傾きG_Fで表される定常性）の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像におけるデータの定常性（例えば、図２７４の傾きG_fで表されるデータの定常性）を検出する。
【２００５】
そして、例えば、図２５９(図３)の実世界推定部１０２が、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも２次元方向（例えば、図２７２の空間方向Ｘと、空間方向Ｙ）の位置に対応する画素の画素値が、少なくとも２次元方向の積分効果により取得された画素値であるとして、実世界１の光信号を表す光信号関数F（具体的には、図２７２の関数F(x,y)）を、多項式である近似関数ｆ(x,y)で近似することで、光信号関数Fを推定することが前提とされている。
【２００６】
詳細には、例えば、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応する線（例えば、図２７４の傾きG_fに対応する線（矢印））からの少なくとも２次元方向に沿った距離（例えば、図２７４の断面方向距離ｘ‘）に対応する画素の画素値が、少なくとも２次元方向の積分効果により取得された画素値であるとして、現実世界の光信号を表す第１の関数を、多項式である第２の関数で近似することで、第１の関数を推定することが前提とされている。
【２００７】
２次元再積分手法においては、このような前提に基づいて、例えば、図２５９（図３）の画像生成部１０３（構成は、図２７３）が、実世界推定部１０２により推定された関数F(x,y)、即ち、近似関数f(x,y)を、少なくとも２次元方向の所望の単位で積分する（例えば、上述した式（１８９）の右辺を演算する）ことにより所望の大きさの画素（例えば、図２５９の出力画像（画素値M）。具体的には、例えば、図２７７の画素３２４１乃至画素３２４４）に対応する画素値を生成する。
【２００８】
従って、２次元再積分手法においては、時間解像度と空間解像度のうちのいずれか一方の創造のみならず、両方の解像度の創造が可能になる。また、２次元再積分手法においては、１次元再積分手法に比較して、より実世界１（図２５９）の光信号に近い画像を生成することも可能になる。
【２００９】
次に、図２７９と図２８０を参照して、３次元再積分手法について説明する。
【２０１０】
３次元再積分手法においては、３次元関数近似手法により近似関数f(x,y,t)が既に生成されていることが前提とされる。
【２０１１】
この場合、３次元再積分手法においては、出力画素値Ｍは、次の式（２０４）のように演算される。
【２０１２】
【数１６６】

【２０１３】
なお、式（２０４）において、t_sは、ｔ方向の積分開始位置を表しており、t_eは、ｔ方向の積分終了位置を表している。同様に、y_sは、Ｙ方向の積分開始位置を表しており、y_eは、Ｙ方向の積分終了位置を表している。また、x_sは、Ｘ方向の積分開始位置を表しており、x_eは、Ｘ方向の積分終了位置を表している。さらに、G_eは、所定のゲインを表している。
【２０１４】
式（２０４）において、積分範囲は任意に設定可能であるので、３次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２５９）からの入力画像の画素）に対して任意の倍率の時空間解像度の画素を劣化することなく創造することが可能になる。即ち、空間方向の積分範囲を小さくすれば、画素ピッチを自由に細かくできる。逆に、空間方向の積分範囲を大きくすれば、画素ピッチを自由に大きくすることができる。また、時間方向の積分範囲を小さくすれば、実世界波形に基づいて時間解像度を創造できる。
【２０１５】
図２７９は、３次元再積分手法を利用する画像生成部１０３の構成例を表している。
【２０１６】
図２７９で示されるように、この例の画像生成部１０３には、条件設定部３３０１、特徴量記憶部３３０２、積分成分演算部３３０３、および出力画素値演算部３３０４が設けられている。
【２０１７】
条件設定部３３０１は、実世界推定部１０２より供給された実世界推定情報（図２７９の例では、近似関数f(x,y,t)の特徴量）に基づいて近似関数f(x,y,t)の次数nを設定する。
【２０１８】
条件設定部３３０１はまた、近似関数f(x,y,t)を再積分する場合（出力画素値を演算する場合）の積分範囲を設定する。なお、条件設定部３３０１が設定する積分範囲は、画素の幅（縦幅と横幅）やシャッタ時間そのものである必要は無い。例えば、センサ２（図２５９）からの入力画像の各画素の空間的な大きさに対する、出力画素（画像生成部１０３がこれから生成する画素）の相対的な大きさ（空間解像度の倍率）がわかれば、具体的な空間方向の積分範囲の決定が可能である。同様に、センサ２（図２５９）のシャッタ時間に対する出力画素値の相対的な時間（時間解像度の倍率）がわかれば、具体的な時間方向の積分範囲の決定が可能である。従って、条件設定部３３０１は、積分範囲として、例えば、空間解像度倍率や時間解像度倍率を設定することもできる。
【２０１９】
特徴量記憶部３３０２は、実世界推定部１０２より順次供給されてくる近似関数f(x,y,t)の特徴量を一次的に記憶する。そして、特徴量記憶部３３０２は、近似関数f(x,y,t)の特徴量の全てを記憶すると、近似関数f(x,y,t)の特徴量を全て含む特徴量テーブルを生成し、出力画素値演算部３３０４に供給する。
【２０２０】
ところで、上述した式（２０４）の右辺の近似関数f(x,y)の右辺を展開（演算）すると、出力画素値Mは、次の式（２０５）のように表される。
【２０２１】
【数１６７】

【２０２２】
式（２０５）において、K_i（x_s,x_e,y_s,y_e,t_s,t_e）は、i次項の積分成分を表している。ただし、x_sはX方向の積分範囲の開始位置を、x_eはX方向の積分範囲の終了位置を、y_sはY方向の積分範囲の開始位置を、y_eはY方向の積分範囲の終了位置を、t_sはt方向の積分範囲の開始位置を、t_eはｔ方向の積分範囲の終了位置を、それぞれ表している。
【２０２３】
積分成分演算部３３０３は、この積分成分K_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算する。
【２０２４】
具体的には、積分成分演算部３３０３は、条件設定部３３０１により設定された次数、および積分範囲（空間解像度倍率や時間解像度倍率）、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θまたは動きθに基づいて積分成分K_i（x_s,x_e,y_s,y_e,t_s,t_e）を演算し、その演算結果を積分成分テーブルとして出力画素値演算部３３０４に供給する。
【２０２５】
出力画素値演算部３３０４は、特徴量記憶部３３０２より供給された特徴量テーブルと、積分成分演算部３３０３より供給された積分成分テーブルを利用して、上述した式（２０５）の右辺を演算し、その演算結果を出力画素値Mとして外部に出力する。
【２０２６】
次に、図２８０のフローチャートを参照して、３次元再積分手法を利用する画像生成部１０３（図２７９）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【２０２７】
例えば、いま、上述した図４０のステップＳ１０２の処理で、実世界推測部１０２（図２５９）が、入力画像のうちの、所定の画素を注目画素として、実世界１（図２５９）の光信号を近似する近似関数f(x,y,t)を既に生成しているとする。
【２０２８】
また、上述した図４０のステップＳ１０１の処理で、データ定常性検出部１０１（図２５９）が、実世界推定部１０２と同じ画素を注目画素として、データ定常性情報として、角度θまたは動きθを既に出力しているとする。
【２０２９】
この場合、図２８０のステップＳ３３０１において、条件設定部３３０１は、条件（次数と積分範囲）を設定する。
【２０３０】
ステップＳ３３０２において、特徴量記憶部３３０２は、実世界推定部１０２より供給された近似関数f(x,y,t)の特徴量w_iを取得し、特徴量テーブルを生成する。
【２０３１】
ステップＳ３３０３において、積分成分演算部３３０３は、条件設定部３３０１により設定された条件（次数および積分範囲）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θまたは動きθ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【２０３２】
なお、ステップＳ３３０２の処理とステップＳ３３０３の処理の順序は、図２８０の例に限定されず、ステップＳ３３０３の処理が先に実行されてもよいし、ステップＳ３３０２の処理とステップＳ３３０３の処理が同時に実行されてもよい。
【２０３３】
次に、ステップＳ３３０４において、出力画素値演算部３３０４は、ステップＳ３３０２の処理で特徴量記憶部３３０２により生成された特徴量テーブルと、ステップＳ３３０３の処理で積分成分演算部３３０３により生成された積分成分テーブルに基づいて各出力画素値のそれぞれを演算する。
【２０３４】
ステップＳ３３０５において、出力画素値演算部３３０４は、全画素の処理を終了したか否かを判定する。
【２０３５】
ステップＳ３３０５において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３３０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３３０２乃至Ｓ３３０４の処理が繰り返される。
【２０３６】
そして、全画素の処理が終了すると（ステップＳ３３０５において、全画素の処理が終了されたと判定すると）、出力画素値演算部３３０４は、ステップＳ３３０６において、画像を出力する。その後、画像の生成の処理は終了となる。
【２０３７】
このように、上述した式（２０４）において、その積分範囲は任意に設定可能であるので、３次元再積分手法においては、この積分範囲を適宜変えることで、元の画素（センサ２（図２５９）からの入力画像の画素）に対して任意の倍率の解像度の画素を劣化することなく創造することが可能になる。
【２０３８】
即ち、３次元再積分手法においては、時間方向の積分範囲を適宜変えることで、時間解像度の創造が可能になる。また、空間方向の積分範囲を適宜変えることで、空間解像度の創造が可能になる。さらに、時間方向と空間方向の積分範囲のそれぞれを適宜変えることで、時間解像度と空間解像度の両方の創造が可能になる。
【２０３９】
具体的には、３次元再積分手法においては、２次元や１次元に落とすときの近似がないので精度の高い処理が可能になる。また、斜め方向の動きも２次元に縮退することなく処理することが可能になる。さらに、２次元に縮退していないので各次元の加工が可能になる。例えば、２次元再積分手法において、空間方向（Ｘ方向とＹ方向）に縮退している場合には時間方向であるｔ方向の加工ができなくなってしまう。これに対して、３次元再積分手法においては、時空間方向のいずれの加工も可能になる。
【２０４０】
なお、上述したように、時間解像度と空間解像度のうちのいずれか一方の創造は、１次元再積分手法でも可能であるが、両方の解像度の創造は、１次元再積分手法では原理上不可能であり、２次元以上の再積分を行うことではじめて可能になる。即ち、上述した２次元再積分手法と３次元再積分手法ではじめて、両方の解像度の創造が可能になる。
【２０４１】
また、３次元再積分手法は、１次元や２次元ではなく３次元の積分効果を考慮しているので、より実世界１（図２５９）の光信号に近い画像を生成することも可能になる。
【２０４２】
換言すると、３次元再積分似手法においては、例えば、図２５９（図３）の実世界推定部１０２は、それぞれ時空間積分効果を有する、センサ２の複数の検出素子により実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像の、時空間方向のうち少なくとも１次元方向の位置に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、実世界の光信号を表す光信号関数Fを所定の近似関数ｆで近似することで、光信号関数Fを推定することが前提とされる。
【２０４３】
さらに、例えば、図２５９（図３）のデータ定常性検出部１０１が、入力画像のデータの定常性を検出した場合、実世界推定部１０２は、データ定常性検出部１０１により検出されたデータの定常性に対応して、画像データの時空間方向のうち少なくとも１次元方向の位置に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Fを近似関数ｆで近似することで、光信号関数Fを推定することが前提とされる。
【２０４４】
詳細には、例えば、実世界推定部１０２は、定常性検出部１０１により検出されたデータの定常性に対応する線からの少なくとも１次元方向に沿った距離に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Fを近似関数で近似することで、光信号関数を推定することが前提とされる。
【２０４５】
３次元再積分手法においては、例えば、図２５９（図３）の画像生成部１０３（構成は、図２７９）が、実世界推定部１０２により推定された光信号関数F、即ち、近似関数ｆを、少なくとも１次元方向の所望の単位で積分する（例えば、上述した式（２０１）の右辺を演算する）ことにより所望の大きさの画素に対応する画素値を生成する。
【２０４６】
従って、３次元再積分手法は、従来の画像生成手法や、上述した１次元または２次元再積分手法に比較して、より実世界１（図２５９）の光信号に近い画像を生成することも可能になる。
【２０４７】
次に、図２８１を参照して、実世界推定部１０２より入力される実世界推定情報が、実世界を近似的に表現する近似関数f(x)上の、各画素の微分値、または、傾きの情報である場合、各画素の微分値、または、傾きに基づいて、新たに画素を生成し、画像を出力する画像生成部１０３について説明する。
【２０４８】
尚、ここでいう微分値は、現実世界を近似的に表現する近似関数f(x)を求めた後、その近似関数f(x)から得られる1次微分式f(x)'（近似関数がフレーム方向の場合、近似関数f(t)から得られる1次微分式f(t)'）を用いて、所定の位置で得られる値のことである。また、ここでいう傾きは、上述の近似関数f(x)（または、f(t)）を求めることなく、所定の位置における周辺画素の画素値から直接得られる近似関数f(x)上の所定の位置の傾きのことを示している。しかしながら、微分値は、近似関数f(x)の所定の位置での傾きなので、いずれも、現実世界を近似的に記述する近似関数f(x)上の所定の位置における傾きである。そこで、実世界推定部１０２より入力される実世界推定情報としての微分値と傾きについては、図２８１、および、図２８５の画像生成部１０３の説明においては、統一して近似関数f(x)（または、f(t)）上の傾きと称する。
【２０４９】
傾き取得部３４０１は、実世界推定部１０２より入力される実世界を近似的に表現する近似関数f(x)についての、各画素の傾きの情報と、対応する画素の画素値、および、定常性の方向の傾きを取得して、外挿補間部３４０２に出力する。
【２０５０】
外挿補間部３４０２は、傾き取得部３４０１より入力された各画素の近似関数f(x)上の傾きと、対応する画素の画素値、および、定常性の方向の傾きに基づいて、外挿補間により、入力画像よりも所定の倍率の高密度の画素を生成し、出力画像として出力する。
【２０５１】
次に、図２８２のフローチャートを参照して、図２８１の画像生成部１０３による画像の生成の処理について説明する。
【２０５２】
ステップＳ３４０１において、傾き取得部３４０１は、実世界推定部１０２より入力されてくる、各画素の近似関数f(x)上の傾き（微分値）、位置、画素値、および、定常性の方向の傾きの情報を実世界推定情報として取得する。
【２０５３】
このとき、例えば、入力画像に対して空間方向Ｘ、および、空間方向Ｙについてそれぞれ２倍（合計４倍）の密度の画素からなる画像を生成する場合、実世界推定部１０２からは、図２８３で示されるような画素Ｐinに対して、傾きf(Xin)'（画素Pinの中央位置における傾き），f(Xin−Cx(−0.25))'（画素PinからＹ方向に２倍密度の画素が生成されるときの画素Paの中央位置の傾き），f(Xin−Cx(0.25))' （画素PinからＹ方向に２倍密度の画素が生成されるときの画素Pｂの中央位置の傾き）、画素Pinの位置、画素値、および、定常性の方向の傾きＧ_fの情報が入力される。
【２０５４】
ステップＳ３４０２において、傾き取得部３４０１は、入力された実世界推定情報のうち、対応する注目画素の情報を選択し、外挿補間部３４０２に出力する。
【２０５５】
ステップＳ３４０３において、外挿補間部３４０２は、入力された画素の位置情報と定常性の方向の傾きＧ_fからシフト量を求める。
【２０５６】
ここで、シフト量Cx(ty)は、定常性の傾きがＧ_fで示されるとき、Cx(ty)＝ty／Ｇ_fで定義される。このシフト量Cx(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(x)が、空間方向Ｙ=tyの位置における、空間方向Ｘに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(x)として定義されている場合、この近似関数f(x)は、空間方向Ｙ=tyにおいては、空間方向ＸについてCx(ty)だけずれた関数となるので、近似関数は、f(x−Cx(ty))（＝f(x−ty／Ｇ_f)）で定義されることになる。
【２０５７】
例えば、図２８３で示されるような画素Ｐinの場合、図中の１画素（図中の1画素の大きさは、水平方向、および、垂直方向ともに１であるものとする）を垂直方向に２分割するとき（垂直方向に倍密度の画素を生成するとき）、外挿補間部３４０２は、求めようとする画素Pa，Pbのシフト量を求める。すなわち、今の場合、画素Pa，Pbは、画素Pinからみて、空間方向Ｙについて、それぞれ−0.25，0.25だけシフトしているので、画素Pa，Pbのシフト量は、それぞれCx（−0.25），Cx（0.25）となる。尚、図２８３中において、画素Pinは、（Xin，Yin）を略重心位置とする正方形であり、画素Pa，Pbは、（Xin，Yin+0.25）、（Xin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。
【２０５８】
ステップＳ３４０４において、外挿補間部３４０２は、ステップＳ３４０３の処理で求められたシフト量Cx、実世界推定情報として取得された画素Pinの近似関数f(x)上の注目画素上での傾きf(Xin)'、および、画素Pinの画素値に基づいて、以下の式（２０６），式（２０７）により外挿補間を用いて画素Pa，Pbの画素値を求める。
【２０５９】
Ｐa＝Pin−f(Xin)'×Cx(−0.25）・・・（２０６）
【２０６０】
Ｐb＝Pin−f(Xin)'×Cx(0.25）・・・（２０７）
【２０６１】
以上の式（２０６），式（２０７）において、Pa，Pb，Ｐinは、画素Pa，Pb，Ｐinの画素値を示す。
【２０６２】
すなわち、図２８４で示されるように、注目画素Pinにおける傾きf(Xin)'に、X方向の移動距離、すなわち、シフト量を乗じることにより画素値の変化量を設定し、注目画素の画素値を基準として、新たに生成する画素の画素値を設定する。
【２０６３】
ステップＳ３４０５において、外挿補間部３４０２は、所定の解像度の画素が得られたか否かを判定する。例えば、所定の解像度が入力画像の画素に対して、垂直方向に２倍の密度の画素であれば、以上の処理により、外挿補間部３４０２は、所定の解像度の画像が得られたと判定することになるが、例えば、入力画像の画素に対して、４倍の密度（水平方向に２倍×垂直方向に２倍）の画素が所望とされていた場合、以上の処理では、所定の解像度の画素が得られていないことになる。そこで、４倍の密度の画像が所望とされていた画像である場合、外挿補間部３４０２は、所定の解像度の画素が得られていないと判定し、その処理は、ステップＳ３４０３に戻る。
【２０６４】
ステップＳ３４０３において、外挿補間部３４０２は、２回目の処理で、求めようとする画素Ｐ０１，Ｐ０２，Ｐ０３，およびＰ０４（注目画素Pinに対して４倍となる密度の画素）を生成しようとする画素の中心位置からのシフト量をそれぞれ求める。すなわち、今の場合、画素Ｐ０１，Ｐ０２は、画素Paから得られるものなので、画素Paからのシフト量がそれぞれ求められることになる。ここで、画素Ｐ０１，Ｐ０２は、画素Paからみて空間方向Ｘについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる（空間方向Ｘについてシフトしているため）。同様にして、画素Ｐ０３，Ｐ０４は、画素Pbからみて空間方向Ｘについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる。尚、図２８３において、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４は、それぞれ略０．５となる。
【２０６５】
ステップＳ３４０４において、外挿補間部３４０２は、ステップＳ３４０３の処理で求められたシフト量Cx、実世界推定情報として取得された画素Pa，Pbの近似関数f(x)上の所定の位置での傾きf(Xin−Cx(−0.25))'，f(Xin−Cx(0.25))'、および、上述の処理で求められた画素Pa，Pbの画素値に基づいて、外挿補間により以下の式（２０８）乃至式（２１１）により画素Ｐ０１，Ｐ０２，Ｐ０３，Ｐ０４の画素値を求め、図示せぬメモリに記憶させる。
【２０６６】
Ｐ０１＝Pa＋f(Xin−Cx(−0.25))'×(−0.25）・・・（２０８）
【２０６７】
Ｐ０２＝Pa＋f(Xin−Cx(−0.25))'×(0.25）・・・（２０９）
【２０６８】
Ｐ０３＝Pb＋f(Xin−Cx(0.25))'×(−0.25）・・・（２１０）
【２０６９】
Ｐ０４＝Pb＋f(Xin−Cx(0.25))'×(0.25）・・・（２１１）
【２０７０】
上述の式（２０８）乃至式（２１１）において、Ｐ０１乃至Ｐ０４は、画素Ｐ０１乃至Ｐ０４のそれぞれの画素値を示す。
【２０７１】
ステップＳ３４０５において、外挿補間部３４０２は、所定の解像度の画素が得られたか否かを判定し、今の場合、所望とされていた４倍の密度の画素が得られたことになるので、外挿補間部３４０２は、所定の解像度の画素が得られたと判定し、その処理は、ステップＳ３４０６に進む。
【２０７２】
ステップＳ３４０６において、傾き取得部３４０１は、全ての画素で処理がなされたか否かを判定し、まだ、全ての画素について処理がなされていないと判定した場合、その処理は、ステップＳ３４０２に戻り、それ以降の処理が繰り返される。
【２０７３】
ステップＳ３４０６において、傾き取得部３４０１は、全ての画素について処理がなされたと判定した場合、ステップＳ３４０７において、外挿補間部３４０２は、図示せぬメモリに記憶されている、生成された画素からなる画像を出力する。
【２０７４】
すなわち、図２８４で示されるように、近似関数f(x)上の傾きf(x)'を用いて、その傾きを求めた注目画素から空間方向Ｘに離れた距離に応じて、新たな画素の画素値が外挿補間により求められる。
【２０７５】
尚、以上の例においては、４倍密度の画素を演算する際の傾き（微分値）を例として説明してきたが、さらに多くの位置における、傾きの情報が、実世界推定情報として得られれば、上述と同様の手法で、それ以上の空間方向の密度の画素を演算する事も可能である。
【２０７６】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(x)は連続関数であるので、倍密度以外の画素値についても必要な傾き（微分値）の情報が得られれば、さらに高密度の画素からなる画像を生成することが可能となる。
【２０７７】
以上によれば、実世界推定情報として供給される入力画像の各画素の実世界を空間方向に近似する近似関数f(x)の傾き（または、微分値）f(x)'の情報に基づいて、入力画像よりも高解像度の画像の画素を生成することが可能となる。
【２０７８】
次に、図２８５を参照して、実世界推定部１０２より入力される実世界推定情報が、実世界を近似的に表現するフレーム方向（時間方向）の関数f(t)上の、各画素の微分値、または、傾きの情報である場合、各画素の微分値、または、傾きに基づいて、新たに画素を生成し、画像を出力する画像生成部１０３について説明する。
【２０７９】
傾き取得部３４１１は、実世界推定部１０２より入力される実世界を近似的に表現する近似関数f(t)上の、各画素の位置における傾きの情報と、対応する画素の画素値、および、定常性の動きを取得して、外挿補間部３４１２に出力する。
【２０８０】
外挿補間部３４１２は、傾き取得部３４１１より入力された各画素の近似関数f(t)上の傾きと、対応する画素の画素値、および、定常性の動きに基づいて、外挿補間により、入力画像よりも所定の倍率の高密度の画素を生成し、出力画像として出力する。
【２０８１】
次に、図２８６のフローチャートを参照して、図２８５の画像生成部１０３による画像の生成の処理について説明する。
【２０８２】
ステップＳ３４２１において、傾き取得部３４１１は、実世界推定部１０２より入力されてくる、各画素の近似関数f(t)上の傾き（微分値）、位置、画素値、および、定常性の動きの情報を実世界推定情報として取得する。
【２０８３】
このとき、例えば、入力画像に対して空間方向、および、フレーム方向にそれぞれ２倍（合計４倍）の密度の画素からなる画像を生成する場合、実世界推定部１０２からは、図２８７で示されるような画素Ｐinに対して、傾きf(Tin)'（画素Pinの中央位置における傾き），f(Tin−Ct(−0.25))'（画素PinからＹ方向に２倍密度の画素が生成されるときの画素Patの中央位置の傾き），f(Tin−Ct(0.25))'（画素PinからＹ方向に２倍密度の画素が生成されるときの画素Pｂtの中央位置の傾き）、画素Pinの位置、画素値、および、定常性の動き（動きベクトル）の情報が入力される。
【２０８４】
ステップＳ３４２２において、傾き取得部３４１１は、入力された実世界推定情報のうち、対応する注目画素の情報を選択し、外挿補間部３４１２に出力する。
【２０８５】
ステップＳ３４２３において、外挿補間部３４１２は、入力された画素の位置情報と定常性の方向の傾きからシフト量を求める。
【２０８６】
ここで、シフト量Ct(ty)は、定常性の動き（フレーム方向と空間方向からなる面に対する傾き）がＶ_fで示されるとき、Ct(ty)＝ty／Ｖ_fで定義される。このシフト量Ct(ty)は、空間方向Ｙ＝0の位置上で定義される近似関数f(t)が、空間方向Ｙ=tyの位置における、フレーム方向Ｔに対するずれ幅を示すものである。従って、例えば、空間方向Ｙ＝0の位置上で近似関数がf(t)として定義されている場合、この近似関数f(t)は、空間方向Ｙ=tyにおいては、空間方向ＴについてCt(ty)だけずれた関数となるので、近似関数は、f(t−Ct(ty))（＝f(t−ty／Ｖ_f)）で定義されることになる。
【２０８７】
例えば、図２８７で示されるような画素Ｐinの場合、図中の１画素（図中の1画素の大きさは、フレーム方向、および、空間方向ともに１であるものとする）を空間方向に２分割するとき（空間方向に倍密度の画素を生成するとき）、外挿補間部３４１２は、求めようとする画素Pat，Pbｔのシフト量を求める。すなわち、今の場合、画素Pat，Pbtは、画素Pinからみて、空間方向Ｙについて、それぞれ−0.25，0.25だけシフトしているので、画素Pat，Pbtのシフト量は、それぞれCt（−0.25），Ct（0.25）となる。尚、図２８７中において、画素Pinは、（Xin，Yin）を略重心位置とする正方形であり、画素Pat，Pbtは、（Xin，Yin+0.25）、（Xin，Yin−0.25）をそれぞれ略重心位置とする図中水平方向に長い長方形である。
【２０８８】
ステップＳ３４２４において、外挿補間部３４１２は、ステップＳ３４２３の処理で求められたシフト量、実世界推定情報として取得された画素Pinの近似関数f(t)上の注目画素上での傾きf(Tin)'、および、画素Pinの画素値に基づいて、外挿補間により以下の式（２１２），式（２１３）により画素Pat，Pbtの画素値を求める。
【２０８９】
Pat＝Pin−f(Tin)'×Ct(−0.25）・・・（２１２）
【２０９０】
Pbt＝Pin−f(Xin)'×Ct(0.25）・・・（２１３）
【２０９１】
以上の式（２１２），式（２１３）において、Pat，Pbt，Ｐinは、画素Pat，Pbt，Ｐinの画素値を示す。
【２０９２】
すなわち、図２８８で示されるように、注目画素Pinにおける傾きf(Xin)'に、X方向の移動距離、すなわち、シフト量を乗じることにより画素値の変化量を設定し、注目画素の画素値を基準として、新たに生成する画素の画素値を設定する。
【２０９３】
ステップＳ３４２５において、外挿補間部３４１２は、所定の解像度の画素が得られたか否かを判定する。例えば、所定の解像度が入力画像の画素に対して、空間方向に２倍の密度の画素であれば、以上の処理により、外挿補間部３４０２は、所定の解像度の画像が得られたと判定することになるが、例えば、入力画像の画素に対して、４倍の密度（フレーム方向に２倍×空間方向に２倍）の画素が所望とされていた場合、以上の処理では、所定の解像度の画素が得られていないことになる。そこで、４倍の密度の画像が所望とされていた画像である場合、外挿補間部３４１２は、所定の解像度の画素が得られていないと判定し、その処理は、ステップＳ３４２３に戻る。
【２０９４】
ステップＳ３４２３において、外挿補間部３４１２は、２回目の処理で、求めようとする画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，およびＰ０４ｔ（注目画素Pinに対して４倍となる密度の画素）を生成しようとする画素の中心位置からのシフト量をそれぞれ求める。すなわち、今の場合、画素Ｐ０１ｔ，Ｐ０２ｔは、画素Patから得られるものなので、画素Patからのシフト量がそれぞれ求められることになる。ここで、画素Ｐ０１ｔ，０２ｔは、画素Patからみてフレーム方向Ｔについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる（空間方向Ｘについてシフトしているため）。同様にして、画素Ｐ０３ｔ，Ｐ０４ｔは、画素Pbtからみてフレーム方向Ｔについて、それぞれ−0.25，0.25だけシフトしているので、その値そのものがシフト量となる。尚、図２８７において、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、図中の４個のバツ印の位置を重心位置とする正方形であり、各辺の長さは、画素Pinが、それぞれ１であるので、画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔは、それぞれ略０．５となる。
【２０９５】
ステップＳ３４２４において、外挿補間部３４１２は、ステップＳ３４２３の処理で求められたシフト量Ct、実世界推定情報として取得された画素Pａｔ，Pbtの近似関数f(t)上の所定の位置での傾きf(Tin−Ct(−0.25))'，f(Tin−Ct(0.25))'、および、上述の処理で求められた画素Pat，Pbtの画素値に基づいて、外挿補間により以下の式（２１４）乃至式（２１７）により画素Ｐ０１ｔ，Ｐ０２ｔ，Ｐ０３ｔ，Ｐ０４ｔの画素値を求め、図示せぬメモリに記憶させる。
【２０９６】
Ｐ０１ｔ＝Pat＋f(Tin−Ct(−0.25))'×(−0.25）・・・（２１４）
【２０９７】
Ｐ０２ｔ＝Pat＋f(Tin−Ct(−0.25))'×(0.25）・・・（２１５）
【２０９８】
Ｐ０３ｔ＝Pbt＋f(Tin−Ct(0.25))'×(−0.25）・・・（２１６）
【２０９９】
Ｐ０４ｔ＝Pbt＋f(Tin−Ct(0.25))'×(0.25）・・・（２１７）
【２１００】
上述の式（２０８）乃至式（２１１）において、Ｐ０１ｔ乃至Ｐ０４ｔは、画素Ｐ０１ｔ乃至Ｐ０４ｔのそれぞれの画素値を示す。
【２１０１】
ステップＳ３４２５において、外挿補間部３４１２は、所定の解像度の画素が得られたか否かを判定し、今の場合、所望とされていた４倍密度の画素が得られたことになるので、外挿補間部３４１２は、所定の解像度の画素が得られたと判定し、その処理は、ステップＳ３４２６に進む。
【２１０２】
ステップＳ３４２６において、傾き取得部３４１１は、全ての画素で処理がなされたか否かを判定し、まだ、全ての画素について処理がなされていないと判定した場合、その処理は、ステップＳ３４２２に戻り、それ以降の処理が繰り返される。
【２１０３】
ステップＳ３４２６において、傾き取得部３４１１は、全ての画素について処理がなされたと判定された場合、ステップＳ３４２７において、外挿補間部３４１２は、図示せぬメモリに記憶されている、生成された画素からなる画像を出力する。
【２１０４】
すなわち、図２８８で示されるように、近似関数f(t)上の傾きf(t)'を用いて、その傾きを求めた注目画素からフレーム方向Ｔに離れたフレーム数に応じて、新たな画素の画素値が外挿補間により求められる。
【２１０５】
尚、以上の例においては、４倍密度の画素を演算する際の傾き（微分値）を例として説明してきたが、さらに多くの位置における、傾きの情報が、実世界推定情報として得られれば、上述と同様の手法で、それ以上のフレーム方向の密度の画素を演算する事も可能である。
【２１０６】
また、以上の例については、倍密度の画素値を求める例について説明してきたが、近似関数f(t)は連続関数であるので、倍密度以外の画素値についても必要な傾き（微分値）の情報が得られれば、さらに高密度の画素からなる画像を生成することが可能となる。
【２１０７】
以上の処理により、実世界推定情報として供給される入力画像の各画素の実世界をフレーム方向に近似する近似関数f(t)の傾き（または、微分値）f(t)'の情報に基づいて、入力画像よりも高解像度の画像の画素をフレーム方向にも生成することが可能となる。
【２１０８】
以上によれば、それぞれ時空間積分効果を有する、センサの複数の検出素子により現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる画像データにおけるデータの定常性を検出し、検出された定常性に対応して、画像データ内の注目画素に対して時空間方向のうち１次元方向にシフトした位置の複数画素の画素値の傾きを、現実世界の光信号に対応する関数として推定し、注目画素の中心位置から１次元方向にシフトした位置を中心とする傾きを有する直線の前記注目画素内に配される両端の値を注目画素よりも高解像度の画素の画素値として生成するようにしたので、入力画像よりも時空間方向に高解像度の画素を生成することが可能となる。
【２１０９】
次に、図２８９乃至図３１４を参照して、画像生成部１０３（図３）の実施の形態のさらに他の例について説明する。
【２１１０】
図２８９は、この例の実施の形態が適用される画像生成部１０３の構成例を表している。
【２１１１】
図２８９で示される画像生成部１０３には、従来のクラス分類適応処理を実行するクラス分類適応処理部３５０１、クラス分類適応処理に対する補正の処理（処理の詳細については後述する）を実行するクラス分類適応処理補正部３５０２、および、クラス分類適応処理部３５０１より出力された画像と、クラス分類適応処理補正部３５０２より出力された画像を加算し、加算した画像を出力画像として外部に出力する加算部３５０３が設けられている。
【２１１２】
なお、以下、クラス分類適応処理部３５０１より出力される画像を、予測画像と称し、クラス分類適応処理補正部３５０２より出力される画像を、補正画像、または、差分予測画像と称する。ただし、予測画像と差分予測画像の名称の由来についてはそれぞれ後述する。
【２１１３】
また、この例の実施の形態においては、クラス分類適応処理は、例えば、入力画像の空間解像度を向上する処理であるとする。即ち、標準解像度の画像である入力画像を、高解像度の画像である予測画像に変換する処理であるとする。
【２１１４】
なお、以下、標準解像度の画像を、適宜、ＳＤ(Standard Definition)画像と称する。また、ＳＤ画像を構成する画素を、適宜、ＳＤ画素と称する。
【２１１５】
これに対して、以下、高解像度の画像を、適宜、ＨＤ(High Definition)画像と称する。また、ＨＤ画像を構成する画素を、適宜、ＨＤ画素と称する。
【２１１６】
具体的には、この例の実施の形態においては、クラス分類適応処理とは、次のような処理である。
【２１１７】
即ち、はじめに、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるために、注目画素を含めた、その付近に配置されるＳＤ画素（以下、このようなＳＤ画素を、クラスタップと称する）の特徴量のそれぞれを求めて、その特徴量毎に予め分類されたクラスを特定する（クラスタップ群のクラスコードを特定する）
【２１１８】
そして、予め設定された複数の係数群（各係数群のそれぞれは、所定の１つのクラスコードに対応している）のうちの、特定されたクラスコードに対応する係数群を構成する各係数と、注目画素を含めた、その付近のＳＤ画素（以下、このような入力画像のＳＤ画素を、予測タップと称する。なお、予測タップは、クラスタップと同じこともある）とを用いて積和演算を実行することで、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるものである。
【２１１９】
従って、この例の実施の形態においては、入力画像（ＳＤ画像）は、クラス分類適応処理部３５０１において、従来のクラス分類適応処理が施されて予測画像（ＨＤ画像）となり、さらに、加算部３５０３において、その予測画像が、クラス分類適応処理補正部３５０２からの補正画像で補正されて（補正画像が加算されて）出力画像（ＨＤ画像）となる。
【２１２０】
即ち、この例の実施の形態は、定常性の観点からは、定常性を用いて処理を行う画像処理装置（図３）のうちの画像生成部１０３の１つの実施の形態であると言える。これに対して、クラス分類適応処理の観点からは、センサ２とクラス分類適応処理部３５０１から構成される従来の画像処理装置に対して、クラス分類適応処理の補正を行うために、データ定常性検出部１０１、実世界推定部１０２、クラス分類適応処理補正部３５０２、および加算部３５０３をさらに付加した画像処理装置の実施の形態であるとも言える。
【２１２１】
従って、以下、この例の実施の形態を、上述した再積分手法に対して、クラス分類適応処理補正手法と称する。
【２１２２】
クラス分類適応処理補正手法を利用する画像生成部１０３についてさらに詳しく説明する。
【２１２３】
図２８９において、画像である、実世界１の信号（光の強度の分布）がセンサ２に入射されると、センサ２からは入力画像が出力される。この入力画像は、データ定常性検出部１０１に入力されるとともに、画像生成部１０３のクラス分類適応処理部３５０１に入力される。
【２１２４】
クラス分類適応処理部３５０１は、入力画像に対して、従来のクラス分類適応処理を施して予測画像を生成し、加算部３５０３に出力する。
【２１２５】
このように、クラス分類適応処理部３５０１は、センサ２からの入力画像（画像データ）を基準とするとともに、入力画像そのものを処理の対象としている。即ち、センサ２からの入力画像は、上述した積分効果により実世界１の信号とは異なるもの（歪んだもの）となっているにも関わらず、クラス分類適応処理部３５０１は、その実世界１の信号とは異なる入力画像を正として処理を行っている。
【２１２６】
その結果、センサ２から出力された段階で実世界１のディテールがつぶれてしまった入力画像（ＳＤ画像）は、クラス分類適応処理によりたとえＨＤ画像とされても、元のディテールが完全に復元されないことがあるという課題が発生してしまう。
【２１２７】
そこで、この課題を解決するために、クラス分類適応処理補正手法においては、画像生成部１０３のクラス分類適応処理補正部３５０２が、センサ２からの入力画像ではなく、センサ２に入射される前の元の画像（所定の定常性を有する実世界１の信号）を推定する情報（実世界推定情報）を基準とするとともに、その実世界推定情報を処理の対象として、クラス分類適応処理部３５０１より出力された予測画像を補正するための補正画像を生成する。
【２１２８】
この実世界推定情報は、データ定常性検出部１０１と実世界推定部１０２により生成される。
【２１２９】
即ち、データ定常性検出部１０１は、センサ２からの入力画像に含まれるデータの定常性（センサ２に入射された実世界１の信号が有する定常性に対応するデータの定常性）を検出し、その検出結果をデータ定常性情報として実世界推定部１０２に出力する。
【２１３０】
なお、データ定常性情報は、図２８９の例では角度とされているが、角度に限定されず、上述した様々な情報が使用可能である。
【２１３１】
実世界推定部１０２は、入力された角度（データ定常性情報）に基づいて、実世界推定情報を生成し、画像生成部１０３のクラス分類適応処理補正部３５０２に出力する。
【２１３２】
なお、実世界推定情報は、図２８９の例では特徴量画像（その詳細は後述する）とされているが、特徴量画像に限定されず、上述した様々な情報が使用可能である。
【２１３３】
クラス分類適応処理補正部３５０２は、入力された特徴量画像（実世界推定情報）に基づいて補正画像を生成し、加算部３５０３に出力する。
【２１３４】
加算部３５０３は、クラス分類適応処理部３５０１より出力された予測画像と、クラス分類適応処理補正部３５０２より出力された補正画像を加算し、加算した画像（ＨＤ画像）を出力画像として外部に出力する。
【２１３５】
このようにして出力された出力画像は、予測画像よりもより実世界１の信号（画像）に近い画像となる。即ち、クラス分類適応処理補正手法は、上述した課題を解決することが可能な手法である。
【２１３６】
さらに、図２８９のように信号処理装置（画像処理装置）４を構成することで、１フレームの全体的に処理をアプライすることが可能になる。即ち、後述する併用手法を利用する信号処理装置（例えば、後述する図３１５）等では、画素の領域特定をした上で出力画像を生成する必要があるが、図２８９の信号処理装置４は、この領域特定が不要になるという効果を奏することが可能になる。
【２１３７】
次に、画像生成部１０３のうちのクラス分類適応処理部３５０１の詳細について説明する。
【２１３８】
図２９０は、クラス分類適応処理部３５０１の構成例を表している。
【２１３９】
図２９０において、センサ２より入力された入力画像（ＳＤ画像）は、領域抽出部３５１１と領域抽出部３５１５にそれぞれ供給される。領域抽出部３５１１は、供給された入力画像から、クラス分類を行うために必要なクラスタップ（注目画素（ＳＤ画素）を含む予め設定された位置に存在するＳＤ画素）を抽出し、パターン検出部３５１２に出力する。パターン検出部３５１２は、入力されたクラスタップに基づいて入力画像のパターンを検出する。
【２１４０】
クラスコード決定部３５１３は、パターン検出部３５１２で検出されたパターンに基づいてクラスコードを決定し、係数メモリ３５１４、および、領域抽出部３５１５に出力する。係数メモリ３５１４は、学習により予め求められたクラスコード毎の係数を記憶しており、クラスコード決定部３５１３より入力されたクラスコードに対応する係数を読み出し、予測演算部３５１６に出力する。
【２１４１】
なお、係数メモリ３５１４の係数の学習処理については、図２９２のクラス分類適応処理用学習部のブロック図を参照して後述する。
【２１４２】
また、係数メモリ３５１４に記憶される係数は、後述するように、予測画像（ＨＤ画像）を生成するときに使用される係数である。従って、以下、係数メモリ３５１４に記憶される係数を、他の係数と区別するために、予測係数と称する。
【２１４３】
領域抽出部３５１５は、クラスコード決定部３５１３より入力されたクラスコードに基づいて、センサ２より入力された入力画像（ＳＤ画像）から、予測画像（ＨＤ画像）を予測生成するのに必要な予測タップ（注目画素を含む予め設定された位置に存在するＳＤ画素）をクラスコードに対応して抽出し、予測演算部３５１６に出力する。
【２１４４】
予測演算部３５１６は、領域抽出部３５１５より入力された予測タップと、係数メモリ３５１４より入力された予測係数とを用いて積和演算を実行し、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を生成し、加算部３５０３に出力する。
【２１４５】
より詳細には、係数メモリ３５１４は、クラスコード決定部３５１３より供給されるクラスコードに対応する予測係数を、予測演算部３５１６に出力する。予測演算部３５１６は、領域抽出部３５１５より供給される入力画像の所定の画素位置の画素値から抽出された予測タップと、係数メモリ３５１４より供給された予測係数とを用いて、次の式（２１８）で示される積和演算を実行することにより、予測画像（ＨＤ画像）のＨＤ画素を求める（予測推定する）。
【２１４６】
【数１６８】

【２１４７】
式（２１８）において、q'は、予測画像（ＨＤ画像）のＨＤ画素を表している。c_i（iは、１乃至ｎの整数値）のそれぞれは、予測タップ（ＳＤ画素）のそれぞれを表している。また、d _iのそれぞれは、予測係数のそれぞれを表している。
【２１４８】
このように、クラス分類適応処理部３５０１は、ＳＤ画像（入力画像）から、それに対するＨＤ画像を予測推定するので、ここでは、クラス分類適応処理部３５０１から出力されるＨＤ画像を、予測画像と称している。
【２１４９】
図２９１は、このようなクラス分類適応処理部３５０１の係数メモリ３５１４に記憶される予測係数（式（２１８）におけるd _i）を決定するための学習装置（予測係数の算出装置）を表している。
【２１５０】
なお、クラス分類適応処理補正手法においては、係数メモリ３５１４の他に、クラス分類適応処理補正部３５０２の係数メモリ（後述する図２９９で示される補正係数メモリ３５５４）が設けられている。従って、図２９１で示されるように、クラス分類適応処理手法における学習装置３５０４には、クラス分類適応処理部３５０１の係数メモリ３５１４に記憶される予測係数（式（２１５）におけるd _i）を決定するための学習部３５２１（以下、クラス分類適応処理用学習部３５２１と称する）の他に、クラス分類適応処理補正部３５０２の補正係数メモリ３５５４に記憶される係数を決定するための学習部３５６１（以下、クラス分類適応処理補正用学習部３５６１と称する）が設けられている。
【２１５１】
従って、以下、クラス分類適応処理用学習部３５２１における教師画像を第１の教師画像と称するのに対して、クラス分類適応処理補正用学習部３５６１における教師画像を第２の教師画像と称する。同様に、以下、クラス分類適応処理用学習部３５２１における生徒画像を第１の生徒画像と称するのに対して、クラス分類適応処理補正用学習部３５６１における生徒画像を第２の生徒画像と称する。
【２１５２】
なお、クラス分類適応処理補正用学習部３５６１については後述する。
【２１５３】
図２９２は、クラス分類適応処理用学習部３５２１の詳細な構成例を表している。
【２１５４】
図２９２において、所定の画像が、第１の教師画像（ＨＤ画像）としてダウンコンバート部３５３１と正規方程式生成部３５３６のそれぞれに入力されるとともに、クラス分類適応処理補正用学習部３５６１（図２９１）に入力される。
【２１５５】
ダウンコンバート部３５３１は、入力された第１の教師画像（ＨＤ画像）から、第１の教師画像よりも解像度の低い第１の生徒画像（ＳＤ画像）を生成し（第１の教師画像をダウンコンバートしたものを第１の生徒画像とし）、領域抽出部３５３２、領域抽出部３５３５、およびクラス分類適応処理補正用学習部３５６１（図２９１）のそれぞれに出力する。
【２１５６】
このように、クラス分類適応処理用学習部３５２１には、ダウンコンバート部３５３１が設けられているので、第１の教師画像（ＨＤ画像）は、上述したセンサ２（図２８９）からの入力画像よりも高解像度の画像である必要は無い。なぜならば、第１の教師画像がダウンコンバートされた（解像度が下げられた）第１の生徒画像をＳＤ画像とすれば、第１の生徒画像に対する第１の教師画像がＨＤ画像になるからである。従って、第１の教師画像は、例えば、センサ２からの入力画像そのものとされてもよい。
【２１５７】
領域抽出部３５３２は、供給された第１の生徒画像（ＳＤ画像）から、クラス分類を行うために必要なクラスタップ（ＳＤ画素）を抽出し、パターン検出部３５３３に出力する。パターン検出部３５３３は、入力されたクラスタップのパターンを検出し、その検出結果をクラスコード決定部３５３４に出力する。クラスコード決定部３５３４は、入力されたパターンに対応するクラスコードを決定し、そのクラスコードを領域抽出部３５３５、および、正規方程式生成部３５３６のそれぞれに出力する。
【２１５８】
領域抽出部３５３５は、クラスコード決定部３５３４より入力されたクラスコードに基づいて、ダウンコンバート部３５３１より入力された第１の生徒画像（ＳＤ画像）から予測タップ（ＳＤ画素）を抽出し、正規方程式生成部３５３６と予測演算部３５５８のそれぞれに出力する。
【２１５９】
なお、以上の領域抽出部３５３２、パターン検出部３５３３、クラスコード決定部３５３４、および領域抽出部３５３５のそれぞれは、図２９０のクラス分類適応処理部３５０１の領域抽出部３５１１、パターン検出部３５１２、クラスコード決定部３５１３、および、領域抽出部３５１５のそれぞれと、基本的に同様の構成と機能を有するものである。
【２１６０】
正規方程式生成部３５３６は、クラスコード決定部３５３４より入力された全てのクラスコードに対して、クラスコード毎に、領域抽出部３５３５より入力される第１の生徒画像（ＳＤ画像）の予測タップ（ＳＤ画素）と、第１の教師画像（ＨＤ画像）のＨＤ画素とから正規方程式を生成し、係数決定部３５３７に供給する。係数決定部３５３７は、正規方程式生成部３５３７より所定のクラスコードに対応する正規方程式が供給されてきたとき、その正規方程式より予測係数のそれぞれを演算し、係数メモリ３５１４にクラスコードと関連付けて記憶させるとともに、予測演算部３５３８に供給する。
【２１６１】
正規方程式生成部３５３６と、係数決定部３５３７についてさらに詳しく説明する。
【２１６２】
上述した式（２１８）において、学習前は予測係数d_iのそれぞれが未定係数である。学習は、クラスコード毎に複数の教師画像（ＨＤ画像）のＨＤ画素を入力することによって行う。所定のクラスコードに対応するＨＤ画素がｍ個存在し、ｍ個のＨＤ画素のそれぞれを、q_k（ｋは、１乃至ｍの整数値）と記述する場合、式（２１８）から、次の式（２１９）が設定される。
【２１６３】
【数１６９】

【２１６４】
即ち、式（２１９）は、右辺の演算をすることで、所定のＨＤ画素q_kを予測推定することができることを表している。なお、式（２１９）において、e_kは誤差を表している。即ち、右辺の演算結果である予測画像（ＨＤ画像）のＨＤ画素q_k'が、実際のＨＤ画素q_kと厳密には一致せず、所定の誤差e_kを含む。
【２１６５】
そこで、式（２１９）において、例えば、誤差e_kの自乗和を最小にするような予測係数d_iが、学習により求まればよい。
【２１６６】
具体的には、例えば、ｍ＞ｎとなるように、ＨＤ画素q_kを学習により集めることができれば、最小自乗法によって予測係数d_iが一意に決定される。
【２１６７】
即ち、式（２１９）の右辺の予測係数d_iを最小自乗法で求める場合の正規方程式は、次の式（２２０）で表される。
【２１６８】
【数１７０】

【２１６９】
従って、式（２２０）で示される正規方程式が生成されれば、その正規方程式を解くことで予測係数d_iが一意に決定されることになる。
【２１７０】
具体的には、式（２２０）で示される正規方程式の各行列のそれぞれを、次の式（２２１）乃至（２２３）のように定義すると、正規方程式は、次の式（２２４）のように表される。
【２１７１】
【数１７１】

【２１７２】
【数１７２】

【２１７３】
【数１７３】

【２１７４】
【数１７４】

【２１７５】
式（２２２）で示されるように、行列Ｄ_MATの各成分は、求めたい予測係数d_iである。従って、式（２２４）において、左辺の行列Ｃ_MATと右辺の行列Ｑ_MATが決定されれば、行列解法によって行列Ｄ_MAT（即ち、予測係数d_i）の算出が可能である。
【２１７６】
より具体的には、式（２２１）で示されるように、行列Ｃ_MATの各成分は、予測タップc_ikが既知であれば演算可能である。予測タップc_ikは、領域抽出部３５３５により抽出されるので、正規方程式生成部３５３６は、領域抽出部３５３５より供給されてくる予測タップc_ikのそれぞれを利用して行列Ｃ_MATの各成分を演算することができる。
【２１７７】
また、式（２２３）で示されるように、行列Ｑ_MATの各成分は、予測タップc_ikとＨＤ画素q_kが既知であれば演算可能である。予測タップc_ikは、行列Ｃ_MATの各成分に含まれるものと同一のものであり、また、ＨＤ画素q_kは、予測タップc_ikに含まれる注目画素（第１の生徒画像のＳＤ画素）に対する第１の教師画像のＨＤ画素である。従って、正規方程式生成部３５３６は、領域抽出部３５３５より供給された予測タップc_ikと、第１の教師画像を利用して行列Ｑ_MATの各成分を演算することができる。
【２１７８】
このようにして、正規方程式生成部３５３６は、クラスコード毎に、行列Ｃ_MATと行列Ｑ_MATの各成分を演算し、その演算結果をクラスコードに対応付けて係数決定部３５３７に供給する。
【２１７９】
係数決定部３５３７は、供給された所定のクラスコードに対応する正規方程式に基づいて、上述した式（２２４）の行列Ｄ_MATの各成分である予測係数d_iを演算する。
【２１８０】
具体的には、上述した式（２２４）の正規方程式は、次の式（２２５）のように変形できる。
【２１８１】
【数１７５】

【２１８２】
式（２２５）において、左辺の行列Ｄ_MATの各成分が、求めたい予測係数d_iである。また、行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分は、正規方程式生成部３５３６より供給されるものである。従って、係数決定部３５３７は、正規方程式生成部３５３６より所定のクラスコードに対応する行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分が供給されてきたとき、式（２２５）の右辺の行列演算を行うことで行列Ｄ_MATを演算し、その演算結果（予測係数d_i）をクラスコードに対応付けて係数メモリ３５１４に記憶させるとともに、予測演算部３５３８に供給する。
【２１８３】
予測演算部３５３８は、領域抽出部３５３５より入力された予測タップと、係数決定部３５３７により決定された予測係数とを用いて積和演算を実行し、第１の生徒画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（第１の教師画像を予測する画像）のＨＤ画素を生成し、それを学習用予測画像としてクラス分類適応処理補正用学習部３５６１（図２９１）に出力する。
【２１８４】
より詳細には、予測演算部３５３８は、領域抽出部３５３５より供給される第１の生徒画像の所定の画素位置の画素値から抽出された予測タップを、c_i（iは、１乃至ｎの整数値）とし、係数決定部３５３７より供給された予測係数を、d _iとして、上述した式（２１８）で示される積和演算を実行することにより、学習用予測画像（ＨＤ画像）のＨＤ画素q'を求める（第１の教師画像を予測推定する）。
【２１８５】
ここで、図２９３乃至図２９８を参照して、上述した従来のクラス分類適応処理（クラス分類適応処理部３５０１）が有する課題、即ち、図２８９において、センサ２から出力された段階で実世界１のディテールがつぶれてしまった入力画像（ＳＤ画像）は、クラス分類適応処理部３５０１によりたとえＨＤ画像（実世界１の信号を予測する予測画像）とされても、元のディテールが完全に復元されないことがあるという課題について説明する。
【２１８６】
図２９３は、クラス分類適応処理部３５０１の処理結果の例を表している。
【２１８７】
図２９３において、ＨＤ画像３５４１は、図中上下方向から、ほぼ５度時計方向に傾いた細線の画像が含まれる画像である。また、ＳＤ画像３５４２は、ＨＤ画像３５４１の２×２の画素（HD画素）からなるブロックに属する画素（HD画素）の画素値の平均値を、１つの画素（ＳＤ画素）の画素値として生成された画像である。即ち、ＳＤ画像３５４２は、ＨＤ画像３５４１がダウンコンバートされた（解像度が落とされた）画像である。
【２１８８】
換言すると、ＨＤ画像３５４１は、センサ２（図２８９）に入射される前の画像（実世界１（図２８９）の信号）を模した画像であるとする。この場合、ＳＤ画像３５４２は、ＨＤ画像３５４１に、センサ２の積分特性を模した、空間方向の積分を適用することにより得られた画像に相当することなる。即ち、ＳＤ画像３５４２は、センサ２からの入力画像を模した画像となる。
【２１８９】
また、ＳＤ画像３５４２をクラス分類適応処理部３５０１（図２８９）に入力させ、クラス分類適応処理部３５０１より出力された予測画像が、予測画像３５４３である。即ち、予測画像３５４３は、従来のクラス分類適応処理により生成されたＨＤ画像（元のＨＤ画像３５４１と同一解像度の画像）である。ただし、クラス分類適応処理部３５０１が予測演算に使用した予測係数（係数メモリ３５１４（図２９０）に記憶された予測係数）は、ＨＤ画像３５４１を第１の教師画像とし、かつＳＤ画像３５４２を第１の生徒画像として、クラス分類適応処理用学習部３５６１（図２９２）に学習演算させたものである。
【２１９０】
ＨＤ画像３５４１、ＳＤ画像３５４２、および予測画像３５４３のそれぞれを比較するに、予測画像３５４３は、ＳＤ画像３５４２よりも、ＨＤ画像３５４１により近い画像となっていることがわかる。
【２１９１】
この比較結果は、クラス分類適応処理部３５０１が、ＨＤ画像３５４１のディテールがつぶれてしまったＳＤ画像３５４２に対して、従来のクラス分類適応処理を施すことで、元のディテールが復元された予測画像３５４３を生成することができるということを意味している。
【２１９２】
しかしながら、予測画像３５４３とＨＤ画像３５４１を比較するに、予測画像３５４３は、ＨＤ画像３５４１を完全に復元した画像であるとは言い難い。
【２１９３】
そこで、本願出願人は、予測画像３５４３がＨＤ画像３５４１を完全に復元できていない理由を調査するために、所定の加算器３５４６により、ＨＤ画像３５４１と、予測画像３５４３の反転入力との加算画像、即ち、ＨＤ画像３５４１と予測画像３５４３の差分画像（画素の差分が大の場合、白に近い画素とし、画素の差分が小の場合、黒に近い画素とした画像）３５４４を生成した。
【２１９４】
同様に、本願出願人は、所定の加算器３５４７により、ＨＤ画像３５４１と、ＳＤ画像３５４２の反転入力との加算画像、即ち、ＨＤ画像３５４１とＳＤ画像３５４２の差分画像（画素の差分が大の場合、白に近い画素とし、画素の差分が小の場合、黒に近い画素とした画像）３５４５を生成した。
【２１９５】
そして、本願出願人は、このようにして生成された差分画像３５４４と差分画像３５４５を比較することによって、次のような調査結果を得た。
【２１９６】
即ち、ＨＤ画像３５４１とＳＤ画像３５４２の差分の大きい領域（差分画像３５４５の白に近い領域）と、ＨＤ画像３５４１と予測画像３５４３の差分の大きい領域（差分画像３５４４の白に近い領域）はほぼ対応している。
【２１９７】
換言すると、予測画像３５４３がＨＤ画像３５４１を完全に復元できていない領域は、予測画像３５４３のうちの、ＨＤ画像３５４１とＳＤ画像３５４２の差分の大きい領域（差分画像３５４５の白に近い領域）にほぼ一致する。
【２１９８】
そこで、本願出願人は、この調査結果の要因を解明するために、さらに次のような調査を行った。
【２１９９】
即ち、本願出願人は、まず、ＨＤ画像３５４１と予測画像３５４３の差分の小さい領域（差分画像３５４４の黒に近い領域）において、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、およびＨＤ画像３５４１に対応する実際の波形（実世界１の信号）を調査した。その調査結果が、図２９４と図２９５に示されている。
【２２００】
図２９４は、調査した領域のうちの１例を示している。なお、図２９４において、図中、水平方向は、空間方向の１方向であるＸ方向とされており、また、垂直方向は、空間方向の他方向であるＹ方向とされている。
【２２０１】
即ち、本願出願人は、ＨＤ画像３５４１と予測画像３５４３の差分の小さい領域の１例として、図２９４で示される、差分画像３５４４の領域３５４４−１について調査した。
【２２０２】
図２９５は、図２９４で示される領域３５４４−１に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個分のＨＤ画素に対応する、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、および、実際の波形（実世界１の信号）のそれぞれをプロットしたものを表している。
【２２０３】
図２９５において、縦軸は画素値を、横軸は空間方向Ｘに平行なx軸を、それぞれ表している。x軸において、原点は、差分画像３５４４の６個のＨＤ画素のうちの図中左から３番目のＨＤ画素の左端の位置とされており、その原点を基準として座標値が付されている。ただし、ｘ軸の座標値は、差分画像３５４４のＨＤ画素の画素幅を0.5として付されている。即ち、差分画像３５４４はＨＤ画像であるので、ＨＤ画像３５４１の画素幅L_t（以下、ＨＤ画素幅L_tと称する）も0.5になる。従って、いまの場合、ＳＤ画像３５４２の画素幅（以下、ＳＤ画素幅L_sと称する）は、ＨＤ画素幅L_tの２倍になるので、ＳＤ画素幅L_sは１になる。
【２２０４】
また、図２９５において、実線は、ＨＤ画像３５４１の画素値を、点線は、ＳＤ画像３５４２の画素値を、一点鎖線は、実世界１の信号のＸ断面波形を、それぞれ表している。ただし、実世界１の信号の波形を実際に描写することは困難であるので、図２９５で示される一点鎖線は、上述した１次元多項式近似手法（図２８９の実世界推定部１０２の１実施形態）によりＸ断面波形が近似された近似関数f(x)が示されている。
【２２０５】
次に、本願出願人は、上述した差分の小さい領域の調査と同様に、ＨＤ画像３５４１と予測画像３５４３の差分の大きい領域（差分画像３５４４の白に近い領域）においても、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、およびＨＤ画像３５４１に対応する実際の波形（実世界１の信号）を調査した。その調査結果が、図２９６と図２９７に示されている。
【２２０６】
図２９６は、調査した領域のうちの１例を示している。なお、図２９６において、図中、水平方向は、空間方向の１方向であるＸ方向とされており、また、垂直方向は、空間方向の他方向であるＹ方向とされている。
【２２０７】
即ち、本願出願人は、ＨＤ画像３５４１と予測画像３５４３の差分の大きい領域の１例として、図２９６で示される、差分画像３５４４の領域３５４４−２について調査した。
【２２０８】
図２９７は、図２９６で示される領域３５４４−２に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個分のＨＤ画素に対応する、ＨＤ画像３５４１の具体的な画素値、ＳＤ画像３５４２の具体的な画素値、および実際の波形（実世界１の信号）のそれぞれをプロットしたものを表している。
【２２０９】
図２９７において、縦軸は画素値を、横軸は空間方向Ｘに平行なx軸を、それぞれ表している。x軸において、原点は、差分画像３５４４の６個のＨＤ画素のうちの図中左から３番目のＨＤ画素の左端の位置とされており、その原点を基準として座標値が付されている。ただし、ｘ軸の座標値は、ＳＤ画素幅L_sを１として付されている。
【２２１０】
図２９７において、実線は、ＨＤ画像３５４１の画素値を、点線は、ＳＤ画像３５４２の画素値を、一点鎖線は、実世界１の信号のＸ断面波形を、それぞれ表している。ただし、図２９７で示される一点鎖線は、図２９５で示される一点鎖線と同様に、Ｘ断面波形が近似された近似関数f(x)が示されている。
【２２１１】
図２９５と図２９７を比較するに、両者の近似関数f(x)の波形の形状より、いずれの領域も細線の領域を含んでいることがわかる。
【２２１２】
しかしながら、図２９５においては、細線の領域は、ほぼx=0からx=1の範囲に存在するのに対して、図２９７においては、細線の領域は、ほぼx=-0.5からx=0.5の範囲に存在する。即ち、図２９５においては、x=0からx=1の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素内に細線の領域がほぼ含まれることになる。これに対して、図２９７においては、x=0からx=1の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素内に、細線の領域が一部だけ含まれる（細線と背景の境目が含まれる）ことになる。
【２２１３】
従って、図２９５で示される状態の場合、x=0からx=1.0の範囲に存在するＨＤ画像３５４１の２つのＨＤ画素の画素値（図中、実線）の差は小さくなる。その結果、当然ながら、これら２つのＨＤ画素の画素値の平均値である、ＳＤ画像３５４２の１つのＳＤ画素の画素値（図中、点線）と、ＨＤ画像３５４１の２つのＨＤ画素の画素値のそれぞれとの差分は小さいものになる。
【２２１４】
このような状態で（図２９５で示される状態で）、x=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素が注目画素とされて、従来のクラス分類適応処理によりx=0からx=1.0の範囲に２つのＨＤ画素（予測画像３５４３の画素）が生成された場合について考える。この場合、図２９４で示されるように、生成された予測画像３５４３のＨＤ画素は、ＨＤ画像３５４１のＨＤ画素をほぼ正確に予測したものになる。即ち、図２９４で示されるように、領域３５４４−１においては、予測画像３５４３のＨＤ画素と、ＨＤ画像３５４１のＨＤ画素の差分も小さくなるので、黒に近い画像が表示される。
【２２１５】
これに対して、図２９７で示される状態の場合、x=0からx=1.0の範囲に存在するＨＤ画像３５４１の２つのＨＤ画素の画素値（図中、実線）の差は大きくなる。その結果、当然ながら、これら２つのＨＤ画素の画素値の平均値である、ＳＤ画像３５４２の１つのＳＤ画素の画素値（図中、点線）と、ＨＤ画像３５４１の２つのＨＤ画素の画素値のそれぞれとの差分は、図２９５の対応する差分に対して大きなものになる。
【２２１６】
このような状態で（図２９７で示される状態で）、x=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素が注目画素とされて、従来のクラス分類適応処理によりx=0からx=1.0の範囲にＨＤ画素（予測画像３５４３の画素）が生成された場合について考える。この場合、図２９６で示されるように、生成された予測画像３５４３のＨＤ画素は、ＨＤ画像３５４１のＨＤ画素を正確に予測したものとはならない。即ち、図２９６で示されるように、領域３５４４−２においては、予測画像３５４３のＨＤ画素と、ＨＤ画像３５４１のＨＤ画素の差分も大きなものになってしまうので、白に近い画像が表示される。
【２２１７】
ところで、図２９５と図２９７の実世界１の信号の近似関数f(x)（図中、一点鎖線）のそれぞれを比較するに、図２９５においては、x=0からx=1の範囲での近似関数f(x)の変化量は小さいのに対して、図２９７においては、x=0からx=1の範囲での近似関数f(x)の変化量は大きいことがわかる。
【２２１８】
従って、図２９５で示されるx=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素は、ＳＤ画素内での近似関数f(x)の変化量が小さい（即ち、実世界１の信号の変化量が小さい）ＳＤ画素と言える。
【２２１９】
このような観点から、上述した調査結果を言いなおすと、例えば、図２９５で示されるx=0からx=1.0の範囲に存在するＳＤ画素のような、ＳＤ画素内での近似関数f(x)の変化が少ない（即ち、実世界１の信号の変化が少ない）ＳＤ画素から、従来のクラス分類適応処理によりＨＤ画素が生成されると、生成されたＨＤ画素は、実世界１の信号（いまの場合、細線の画像）をほぼ正確に予測したものとなる。
【２２２０】
これに対して、図２９７で示されるx=0からx=1.0の範囲に存在するＳＤ画像３５４２の１つのＳＤ画素は、ＳＤ画素内での近似関数f(x)の変化量が大きい（即ち、実世界１の信号の変化量が大きい）ＳＤ画素と言える。
【２２２１】
このような観点から、上述した調査結果を言いなおすと、例えば、図２９７で示されるx=0からx=1.0の範囲に存在するＳＤ画素のような、ＳＤ画素内での近似関数f(x)の変化が大きい（即ち、実世界１の信号の変化が大きい）ＳＤ画素から、従来のクラス分類適応処理によりＨＤ画素が生成されると、生成されたＨＤ画素は、実世界１の信号（いまの場合、細線の画像）を正確に予測したものとはならない。
【２２２２】
以上の調査結果をまとめると、図２９８で示されるような状態の場合、従来の画素間の信号処理（例えば、クラス分類適応処理）では、画素内のディテールを復元することは困難であるということである。
【２２２３】
即ち、図２９８は、本願出願人が上述したような調査を行った結果として、得られた知見を説明する図である。
【２２２４】
図２９８において、図中水平方向は、センサ２（図２８９）の検出素子が並んでいる方向（空間方向）のうちの１方向であるＸ方向を表しており、図中垂直方向は、光のレベルまたは画素値を表している。点線は、画像である、実世界１（図２８９）の信号のＸ断面波形F(x)を表しており、実線は、Ｘ断面波形F(x)で表される実世界１の信号（画像）がセンサ２に入射された場合、センサ２から出力される画素値Ｐを表している。また、センサ２の１つの検出素子の幅（Ｘ方向の長さ）は、L_cと記述されており、△Ｐは、センサ２の１つの検出素子の幅L_c、即ち、センサ２の画素幅L_c内におけるＸ断面波形F(x)の変化量を表している。
【２２２５】
ところで、上述したＳＤ画像３５４２（図２９３）は、センサ２からの入力画像（図２８９）を模したものであるので、ＳＤ画像３５４２のＳＤ画素幅L_s（図２９５と図２９７）は、センサ２の画素幅（検出素子の幅）L_cとして考えることができる。
【２２２６】
また、上述した調査においては、細線に対応する実世界１の信号（近似関数f(x)）に対する調査であったが、細線に限らず、実世界１の信号のレベルの変化は存在する。
【２２２７】
従って、上述した調査結果を、図２９８で示される状態に当てはめると、次の通りになる。
【２２２８】
即ち、図２９８で示されるような、画素内において実世界１の信号の変化量（Ｘ断面波形F(x)の変化量）△Ｐが大きいＳＤ画素（センサ２からの出力画素）が注目画素とされて、従来のクラス分類適応処理によりＨＤ画素（例えば、図２８９のクラス分類適応処理部３５０１から出力される予測画像の画素）が生成された場合、生成されたＨＤ画素は、実世界１の信号（図２９８の例では、Ｘ断面波形F(x)）を正確に予測したものとはならない。
【２２２９】
具体的には、クラス分類適応処理をはじめとする従来の手法においては、センサ２の画素の画素間の画像処理が行われている。
【２２３０】
即ち、図２９８で示されるように、実世界１では、１画素内の領域でＸ断面波形F(x)の変化量△Ｐが大きい状態であっても、センサ２からは、Ｘ断面波形F(x)が積分された（厳密には、実世界１の信号が、時空間方向に積分された）１つの画素値Ｐ（１画素内で均一の値Ｐ）のみが出力される。
【２２３１】
従来の手法においては、その画素値Ｐが基準とされるとともに、画素値Ｐが処理の対象とされて画像処理が行われている。換言すると、従来の手法においては、画素内における実世界１の信号（Ｘ断面波形F(x)）の変化、即ち、画素内のディテールを無視して、画像処理が行われている。
【２２３２】
このように、画素を最小の単位として処理する限り、例えどのような画像処理（クラス分類適応処理でも）を施したとしても、画素内における実世界１の信号の変化を正確に再現することは困難である。特に、実世界１の信号の変化量△Ｐが大きい場合、その困難さはより顕著なものとなる。
【２２３３】
換言すると、上述したクラス分類適応処理が有する課題、即ち、図２８９において、センサ２から出力された段階で実世界１のディテールがつぶれてしまった入力画像（ＳＤ画像）は、クラス分類適応処理によりたとえＨＤ画像とされても、元のディテールが完全に復元されないことがあるという課題が発生する原因は、画素内における実世界１の信号の変化量△Ｐを考慮せずに、画素（１つの画素値しか有しない画素）を最小の単位としてクラス分類適応処理が行われているからである。
【２２３４】
この課題は、クラス分類適応処理に限らず従来の画像処理手法の全てが有する課題であり、課題が発生する原因も全く同じである。
【２２３５】
以上、従来の画像処理手法が有する課題と、その発生要因について説明した。
【２２３６】
ところで、上述したように、本発明のデータ定常性検出部１０１と実世界推定部１０２（図３）は、実世界１の信号が有する定常性を利用して、センサ２からの入力画像（即ち、画素内における、実世界１の信号の変化が無視された画像）から、実世界１の信号を推定することができる。即ち、実世界推定部１０２は、実世界１の信号を推定することが可能な実世界推定情報を出力することができる。
【２２３７】
従って、この実世界推定情報から、画素内における、実世界１の信号の変化量の推定も可能である。
【２２３８】
そこで、本願出願人は、従来のクラス分類適応処理により生成された予測画像（画素内における、実世界１の信号の変化を考慮せずに、実世界１を予測した画像）を、実世界推定情報に基づいて生成される所定の補正画像（画素内における、実世界１の信号の変化に起因する予測画像の誤差を推定した画像）で補正することで、上述した課題の解決が可能になるという思想に基づいて、例えば、図２８９で示されるような、クラス分類適応処理補正手法を発明した。
【２２３９】
即ち、図２８９において、データ定常性検出部１０１と実世界推定部１０２が、実世界推定情報を生成し、クラス分類適応処理補正部３５０２が、生成された実世界推定情報に基づいて所定の補正画像を生成する。そして、加算部３５０３が、クラス分類適応処理部３５０１より出力された予測画像を、クラス分類適応処理補正部３５０２より出力された補正画像で補正する（具体的には、予測画像に補正画像を加算した画像を出力画像として出力する）。
【２２４０】
クラス分類適応処理補正手法を利用する画像生成部１０３のうちの、クラス分類適応処理部３５０１の詳細については既に説明した。また、加算部３５０３は、予測画像と補正画像を加算することができるものであれば、その形態は特に限定されず、例えば、従来より存在する、様々な加算器やプログラム等を適用することが可能である。
【２２４１】
そこで、以下、残りのクラス分類適応処理補正部３５０２の詳細について説明する。
【２２４２】
はじめに、クラス分類適応処理補正部３５０２の原理について説明する。
【２２４３】
上述したように、図２９３において、ＨＤ画像３５４１を、センサ２（図２８９）に入射される前の元の画像（実世界１の信号）とみなし、かつ、ＳＤ画像３５４２を、センサ２からの入力画像とみなすと、予測画像３５４３が、クラス分類適応処理部３５０１より出力される予測画像（元の画像（ＨＤ画像３５４１）を予測した予測画像）となる。
【２２４４】
また、ＨＤ画像３５４１から、その予測画像３５４３を減算した画像が、差分画像３５４４である。
【２２４５】
従って、クラス分類適応処理補正部３５０２が、差分画像３５４４を生成し、その差分画像３５４４を補正画像として出力することができれば、加算部３５０３が、クラス分類適応処理部３５０１より出力された予測画像３５４３と、クラス分類適応処理補正部３５０２より出力された差分画像３５４４（補正画像）を加算することで、ＨＤ画像３５４１を復元することができる。
【２２４６】
即ち、クラス分類適応処理補正部３５０２が、画像である、実世界１の信号（センサ２に入射される前の元の画像）と、クラス分類適応処理部３５０１から出力される予測画像との差分画像（ただし、クラス分類適応処理部３５０１から出力される予測画像と同一解像度の画像）を適切に予測し、予測した差分画像（以下、差分予測画像と称する。これが、上述した差分予測画像の名称の由来である）を補正画像として出力することができれば、実世界１の信号（元の画像）をほぼ復元することができる。
【２２４７】
ところで、上述したように、実世界１の信号（センサ２に入射される前の元の画像）と、クラス分類適応処理部３５０１から出力される予測画像との差分（誤差）の度合いと、入力画像の１画素内における、実世界１の信号の変化量の度合いは対応している。また、実世界推定部１０２は、実世界１の信号自身を推定することができるので、当然ながら、入力画像の１画素内における、実世界１の信号の変化量の度合いを表す所定の特徴量を画素毎に算出することも可能である。
【２２４８】
従って、クラス分類適応処理補正部３５０２は、入力画像の各画素のそれぞれに対する特徴量を取得することで、差分予測画像を生成する（差分画像を予測する）ことができる。
【２２４９】
そこで、例えば、クラス分類適応処理補正部３５０２は、実世界推定部１０２より、特徴量を画素値とする画像（以下、このような画像を、特徴量画像と称する）を実世界推定情報として実世界推定部１０２より入力する。
【２２５０】
このとき、特徴量画像の解像度は、センサ２からの入力画像と同一の解像度である。また、補正画像（差分予測画像）は、クラス分類適応処理部３５０１より出力される予測画像と同一の解像度である。
【２２５１】
従って、クラス分類適応処理補正部３５０２が、特徴量画像をＳＤ画像とし、補正画像（差分予測画像）をＨＤ画像とし、従来のクラス分類適応処理を利用して、特徴量画像から差分画像を予測演算すれば、その予測演算の結果が、適切な差分予測画像となる。
【２２５２】
以上、クラス分類適応処理補正部３５０２の原理について説明した。
【２２５３】
図２９９は、このような原理で動作するクラス分類適応処理補正部３５０２の構成例を表している。
【２２５４】
図２９９において、実世界推定部１０２より入力された特徴量画像（ＳＤ画像）は、領域抽出部３５５１と領域抽出部３５５５にそれぞれ供給される。領域抽出部３５５１は、供給された特徴量画像から、クラス分類を行うために必要なクラスタップ（注目画素を含む予め設定された位置に存在するＳＤ画素）を抽出し、パターン検出部３５５２に出力する。パターン検出部３５５２は、入力されたクラスタップに基づいて特徴量画像のパターンを検出する。
【２２５５】
クラスコード決定部３５５３は、パターン検出部３５５２で検出されたパターンに基づいてクラスコードを決定し、補正係数メモリ３５５４、および、領域抽出部３５５５に出力する。補正係数メモリ３５５４は、学習により予め求められたクラスコード毎の係数を記憶しており、クラスコード決定部３５５３より入力されたクラスコードに対応する係数を読み出し、補正演算部３５５６に出力する。
【２２５６】
なお、補正係数メモリ３５５４の係数の学習処理については、図３００のクラス分類適応処理補正用学習部のブロック図を参照して後述する。
【２２５７】
また、補正係数メモリ３５５４に記憶される係数は、後述するように、差分画像を予測する（ＨＤ画像である差分予測画像を生成する）ときに使用される予測係数である。しかしながら、ここでは、クラス分類適応処理部３５０１の係数メモリ３５１４（図２９０）に記憶されている係数を、予測係数と称している。従って、以下、補正係数メモリ３５５４に記憶される予測係数を、係数メモリ３５１４に記憶される予測係数と区別するために、補正係数と称する。
【２２５８】
領域抽出部３５５５は、クラスコード決定部３５５３より入力されたクラスコードに基づいて、実世界推定部１０２より入力された特徴量画像（ＳＤ画像）から、差分画像（ＨＤ画像）を予測する（ＨＤ画像である差分予測画像を生成する）のに必要な予測タップ（注目画素を含む予め設定された位置に存在するＳＤ画素）をクラスコードに対応して抽出し、補正演算部３５５６に出力する。補正演算部３５５６は、領域抽出部３５５５より入力された予測タップと、補正係数メモリ３５５４より入力された補正係数とを用いて積和演算を実行し、特徴量画像（ＳＤ画像）の注目画素（ＳＤ画素）における、差分予測画像（ＨＤ画像）のＨＤ画素を生成する。
【２２５９】
より詳細には、補正係数メモリ３５５４は、クラスコード決定部３５５３より供給されるクラスコードに対応する補正係数を、補正演算部３５５６に出力する。補正演算部３５５６は、領域抽出部３５５５より供給される入力画像の所定の画素位置の画素値から抽出された予測タップ（ＳＤ画素）と、補正係数メモリ３５５４より供給された補正係数とを用いて、次の式（２２６）で示される積和演算を実行することにより、差分予測画像（ＨＤ画像）のＨＤ画素を求める（差分画像を予測推定する）。
【２２６０】
【数１７６】

【２２６１】
式（２２６）において、u'は、差分予測画像（ＨＤ画像）のＨＤ画素を表している。a_i（iは、１乃至ｎの整数値）のそれぞれは、予測タップ（ＳＤ画素）のそれぞれを表している。また、g _iのそれぞれは、補正係数のそれぞれを表している。
【２２６２】
従って、図２８９において、クラス分類適応処理部３５０１からは、上述した式（２１８）で示される予測画像のＨＤ画素q'が出力されるのに対して、クラス分類適応処理補正部３５０２からは、式（２２６）で示される差分予測画像のＨＤ画素u'が出力される。そして、加算部３５０３が、予測画像のＨＤ画素q'と、差分予測画像のＨＤ画素u'とを加算した画素（以下、o'と記述する）を、出力画像のＨＤ画素として外部に出力する。
【２２６３】
即ち、画像生成部１０３より最終的に出力される出力画像のＨＤ画素o'は、次の式（２２７）で示されるようになる。
【２２６４】
【数１７７】

【２２６５】
図３００は、このようなクラス分類適応処理補正部３５０２の補正係数メモリ３５５４に記憶される補正係数（上述した式（２２６）におけるg _i）を決定するための学習部、即ち、上述した図２９１の学習装置３５０４のクラス分類適応処理補正用学習部３５６１の詳細な構成例を表している。
【２２６６】
図２９１において、上述したように、クラス分類適応処理用学習部３５２１は、その学習処理を終了すると、クラス分類適応処理補正用学習部３５６１に対して、学習に利用した第１の教師画像（ＨＤ画像）と第１の生徒画像（ＳＤ画像）のそれぞれを出力するともに、学習により求められた予測係数を用いて第１の生徒画像から第１の教師画像を予測した画像である、学習用予測画像を出力してくる。
【２２６７】
図３００に戻り、これらのうちの第１の生徒画像は、データ定常性検出部３５７２に入力される。
【２２６８】
一方、これらのうちの第１の教師画像と学習用予測画像は、加算部３５７１に入力される。ただし、学習用予測画像は、反転入力される。
【２２６９】
加算部３５７１は、入力された第１の教師画像と、反転入力された学習用予測画像を加算し、即ち、第１の教師画像と学習用予測画像の差分画像を生成し、それをクラス分類適応処理補正用学習部３５６１における教師画像（この教師画像を、上述したように、第１の教師画像と区別するために、第２の教師画像と称する）として正規方程式生成部３５７８に出力する。
【２２７０】
データ定常性検出部３５７２は、入力された第１の生徒画像に含まれるデータの定常性を検出し、その検出結果をデータ定常性情報として実世界推定部３５７３に出力する。
【２２７１】
実世界推定部３５７３は、入力されたデータ定常性情報に基づいて、特徴量画像を生成し、それをクラス分類適応処理補正用学習部３５６１における生徒画像（この生徒画像を、上述したように、第１の生徒画像と区別するために、第２の生徒画像と称する）として領域抽出部３５７４と領域抽出部３５７７のそれぞれに出力する。
【２２７２】
領域抽出部３５７４は、供給された第２の生徒画像（ＳＤ画像）から、クラス分類を行うために必要なＳＤ画素（クラスタップ）を抽出し、パターン検出部３５７５に出力する。パターン検出部３５７５は、入力されたクラスタップのパターンを検出し、検出結果をクラスコード決定部３５７６に出力する。クラスコード決定部３５７６は、入力されたパターンに対応するクラスコードを決定し、そのクラスコードを領域抽出部３５７７、および、正規方程式生成部３５７８のそれぞれに出力する。
【２２７３】
領域抽出部３５７７は、クラスコード決定部３５７６より入力されたクラスコードに基づいて、実世界推定部３５７３より入力された第２の生徒画像（ＳＤ画像）から予測タップ（ＳＤ画素）を抽出し、正規方程式生成部３５７８に出力する。
【２２７４】
なお、以上の領域抽出部３５７４、パターン検出部３５７５、クラスコード決定部３５７６、および領域抽出部３５７７のそれぞれは、図２９９のクラス分類適応処理補正部３５０２の領域抽出部３５５１、パターン検出部３５５２、クラスコード決定部３５５３、および、領域抽出部３５５５のそれぞれと、基本的に同様の構成と機能を有するものである。また、以上のデータ定常性検出部３５７２、および実世界推定部３５７３のそれぞれは、図２８９のデータ定常性検出部１０１、および実世界推定部１０２のそれぞれと、基本的に同様の構成と機能を有するものである。
【２２７５】
正規方程式生成部３５７８は、クラスコード決定部３５７６より入力された全てのクラスコードに対して、クラスコード毎に、領域抽出部３５７７より入力される第２の生徒画像（ＳＤ画像）の予測タップ（ＳＤ画素）と、第２の教師画像（ＨＤ画像）のＨＤ画素とから正規方程式を生成し、補正係数決定部３５７９に供給する。補正係数決定部３５７９は、正規方程式生成部３５７８より所定のクラスコードに対応する正規方程式が供給されてきたとき、その正規方程式より補正係数のそれぞれを演算し、補正係数メモリ３５５４にクラスコードと関連付けて記憶させる。
【２２７６】
正規方程式生成部３５７８と、補正係数決定部３５７９についてさらに詳しく説明する。
【２２７７】
上述した式（２２６）において、学習前は補正係数g_iのそれぞれが未定係数である。学習は、クラスコード毎に複数の教師画像（ＨＤ画像）のＨＤ画素を入力することによって行う。所定のクラスコードに対応するＨＤ画素がｍ個存在し、ｍ個のＨＤ画素のそれぞれを、u_k（ｋは、１乃至ｍの整数値）と記述する場合、式（２２６）から、次の式（２２８）が設定される。
【２２７８】
【数１７８】

【２２７９】
即ち、式（２２８）は、右辺の演算をすることで、所定のＨＤ画素を予測推定することができることを表している。なお、式（２２８）において、e_kは誤差を表している。即ち、右辺の演算結果である差分予測画像（ＨＤ画像）のＨＤ画素u_k'が、実際の差分画像のＨＤ画素u_kと厳密には一致せず、所定の誤差e_kを含む。
【２２８０】
そこで、式（２２８）において、例えば、誤差e_kの自乗和を最小にするような補正係数a_iが、学習により求まればよい。
【２２８１】
例えば、ｍ＞ｎとなるように、差分画像のＨＤ画素u_kを学習により集めることができれば、最小自乗法によって補正係数a_iが一意に決定される。
【２２８２】
即ち、式（２２８）の右辺の補正係数a_iを最小自乗法で求める場合の正規方程式は、次の式（２２９）で示される通りになる。
【２２８３】
【数１７９】

【２２８４】
式（２２９）で示される正規方程式の各行列のそれぞれを、次の式（２３０）乃至（２３２）のように定義すると、正規方程式は、次の式（２３３）のように表される。
【２２８５】
【数１８０】

【２２８６】
【数１８１】

【２２８７】
【数１８２】

【２２８８】
【数１８３】

【２２８９】
式（２３１）で示されるように、行列Ｇ_MATの各成分は、求めたい補正係数g_iである。従って、式（２３３）において、左辺の行列Ａ_MATと右辺の行列Ｕ_MATが決定されれば、行列解法によって行列Ｇ_MAT（即ち、補正係数g_i）の算出が可能である。
【２２９０】
具体的には、式（２３０）で示されるように、行列Ａ_MATの各成分は、予測タップa_ikが既知であれば演算可能である。予測タップa_ikは、領域抽出部３５７７により抽出されるので、正規方程式生成部３５７８は、領域抽出部３５７７より供給されてくる予測タップa_ikのそれぞれを利用して行列Ａ_MATの各成分を演算することができる。
【２２９１】
また、式（２３２）で示されるように、行列Ｕ_MATの各成分は、予測タップa_ikと差分画像のＨＤ画素u_kが既知であれば演算可能である。予測タップa_ikは、行列Ａ_MATの各成分に含まれるものと同一のものであり、また、差分画像のＨＤ画素u_kは、加算部３５７１より出力される第２の教師画像のＨＤ画素である。従って、正規方程式生成部３５７８は、領域抽出部３５７７より供給された予測タップa_ikと、第２の教師画像（第１の教師画像と、学習用予測画像の差分画像）を利用して行列Ｕ_MATの各成分を演算することができる。
【２２９２】
このようにして、正規方程式生成部３５７８は、クラスコード毎に、行列Ａ_MATと行列Ｕ_MATの各成分を演算し、その演算結果をクラスコードに対応付けて補正係数決定部３５７９に供給する。
【２２９３】
補正係数決定部３５７９は、供給された所定のクラスコードに対応する正規方程式に基づいて、上述した式（２３３）の行列Ｇ_MATの各成分である補正係数g_iを演算する。
【２２９４】
具体的には、上述した式（２３３）の正規方程式は、次の式（２３４）のように変形できる。
【２２９５】
【数１８４】

【２２９６】
式（２３４）において、左辺の行列Ｇ_MATの各成分が、求めたい補正係数g_iである。また、行列Ａ_MATと行列Ｕ_MATのそれぞれの各成分は、正規方程式生成部３５７８より供給されるものである。従って、補正係数決定部３５７９は、正規方程式生成部３５７８より所定のクラスコードに対応する行列Ａ_MATと行列Ｕ_MATのそれぞれの各成分が供給されてきたとき、式（２３４）の右辺の行列演算を行うことで行列Ｇ_MATを演算し、その演算結果（補正係数g_i）をクラスコードに対応付けて補正係数メモリ３５５４に記憶させる。
【２２９７】
以上、クラス分類適応処理補正部３５０２と、それに付随する学習部である、クラス分類適応処理補正用学習部３５６１の詳細について説明した。
【２２９８】
ところで、上述した特徴量画像は、クラス分類適応処理補正部３５０２がそれに基づいて補正画像（差分予測画像）を生成することが可能なものであれば、その形態は特に限定されない。換言すると、特徴量画像の各画素の画素値、即ち、特徴量は、上述したように、画素（センサ２（図２８９）の画素）内における実世界１（図２８９）の信号の変化量の度合いを表すことができるものであれば、特に、限定されない。
【２２９９】
例えば、特徴量として、画素内傾斜を適用することが可能である。
【２３００】
画素内傾斜とは、ここで新しく定義した言葉である。そこで、以下、画素内傾斜について説明する。
【２３０１】
上述したように、図２８９において、画像である、実世界１の信号は、３次元の空間上の位置x,y、およびｚ、並びに時刻tを変数とする関数F(x,y,t)で表される。
【２３０２】
また、例えば、画像である、実世界１の信号が、空間方向の所定の方向に定常性を有する場合、関数F(x,y,t)を、空間方向であるX方向、Y方向、およびZ方向のうちの所定の１方向（例えば、X方向）に射影した１次元の波形（ここでも、このような波形のうちのX方向に射影した波形を、X断面波形F(x)と称することにする）と同一形状の波形が、定常性の方向に連なっていると考えることができる。
【２３０３】
従って、実世界推定部１０２は、例えば、データ定常性検出部１０１より出力される、実世界１の信号が有する定常性に対応するデータ定常性情報（例えば、角度）に基づいて、Ｘ断面波形F(x)を、n次（nは、任意の整数）の多項式である近似関数f(x)で近似することができる。
【２３０４】
図３０１は、このような近似関数f(x)の一例として、次の式（２３５）で示されるf₄(x)（５次の多項式であるf₄(x)）と、次の式（２３６）で示されるf₅(x)（１次の多項式であるf₅(x)）をプロットしたものを表している。
【２３０５】
【数１８５】

【２３０６】
【数１８６】

【２３０７】
なお、式（２３５）のw₀乃至w₅、並びに、式（２３６）のw₀'およびw₁'のそれぞれは、実世界推定部１０２が演算した各次の係数を表している。
【２３０８】
また、図３０１において、図中水平方向のx軸は、注目画素の左端を原点（x=0）とした場合における、注目画素からの空間方向Ｘの相対位置を表している。ただし、x軸においては、センサ２の検出素子の幅L_cが１とされている。また、図中垂直方向の軸は、画素値を表している。
【２３０９】
図３０１で示されるように、１次の近似関数f₅(x)（式（２３６）で示される近似関数f₅(x)）は、注目画素におけるX断面波形F(x)を直線近似したものである。この近似直線の傾きを、ここでは、画素内傾斜と称している。即ち、画素内傾斜とは、式（２３６）におけるxの係数w₁'である。
【２３１０】
画素内傾斜が急な場合、それは、注目画素における、Ｘ断面波形F(x)の変化量が大きいことを表している。これに対して、画素内傾斜が緩やかな場合、それは、注目画素における、Ｘ断面波形F(x)の変化量が小さいことを表している。
【２３１１】
このように、画素内傾斜は、画素（センサ２の画素）内における実世界１の信号の変化量の度合いを適切に表すことができる。従って、特徴量として、画素内傾斜を適用することができる。
【２３１２】
例えば、図３０２には、画素内傾斜を特徴量として実際に生成された特徴量画像が示されている。
【２３１３】
即ち、図３０２において、図中左側の画像は、上述した図２９３で示されるＳＤ画像３５４２と同一の画像を表している。また、図中右側の画像は、左側のＳＤ画像３５４２を構成する各画素のそれぞれに対して画素内傾斜を求め、画素内傾斜に対応する値を画素値としてプロットした特徴量画像３５９１を表している。ただし、特徴量画像３５９１は、画素内傾斜がない場合（近似直線が、Ｘ方向に平行な場合）、黒となり、これに対して、画素内傾斜が直角の場合（近似直線が、Ｙ方向に平行な場合）、白となるように生成されている。
【２３１４】
ＳＤ画像３５４２の領域３５４２−１は、上述した図２９４の差分画像３５４４の領域３５４４−１（上述した図２９５を参照して、画素内における実世界１の信号の変化量が小さい領域の１例として説明した領域）に対応する領域である。このＳＤ画像３５４２の領域３５４２−１に対応する特徴量画像３５９１の領域が、領域３５９１−１である。
【２３１５】
また、ＳＤ画像３５４２の領域３５４２−２は、上述した図２９６の差分画像３５４４の領域３５４４−２（上述した図２９７を参照して、画素内における実世界１の信号の変化量が大きい領域の1例として説明した領域）に対応する領域である。このＳＤ画像３５４２の領域３５４２−２に対応する特徴量画像３５９１の領域が、領域３５９１−２である。
【２３１６】
ＳＤ画像３５４２の領域３５４２−１と特徴量画像３５９１の領域３５９１−１とを比較するに、実世界１の信号の変化量が小さい領域は、特徴量画像３５９１においては、黒に近い領域（画素内傾斜が緩い領域）となっていることがわかる。
【２３１７】
これに対して、ＳＤ画像３５４２の領域３５４２−２と特徴量画像３５９１の領域３５９１−２とを比較するに、実世界１の信号の変化量が大きい領域は、特徴量画像３５９１においては、白に近い領域（画素内傾斜が急な領域）となっていることがわかる。
【２３１８】
このように、画素内傾斜に対応する値を画素として生成された特徴量画像は、各画素内のそれぞれにおける実世界１の信号の変化量の度合いを適切に表すことができる。
【２３１９】
次に、画素内傾斜の具体的な算出方法について説明する。
【２３２０】
即ち、注目画素における画素内傾斜を、gradと記述すると、画素内傾斜gradは、次の式（２３７）で表される。
【２３２１】
【数１８７】

【２３２２】
式（２３７）において、P_nは、注目画素の画素値を表している。P_cは、中心画素の画素値を表している。
【２３２３】
具体的には、例えば、図３０３で示されるように、センサ２からの入力画像のうちの、５×５の画素（図中５×５＝２５個の正方形）からなる領域であって、所定のデータの定常性を有する領域３６０１（以下、定常領域３６０１と称する）が存在した場合、この定常領域３６０１の中心の画素３６０２が中心画素とされる。従って、P_cは、中心画素３６０２の画素値となる。そして、例えば、画素３６０３が注目画素とされた場合、P_nは、注目画素３６０３の画素値となる。
【２３２４】
また、式（２３７）において、x_n'は、注目画素の中心点における断面方向距離を表している。なお、ここでは、中心画素（図３０３の例では、画素３６０２）の中心を空間方向の原点(0,0)とし、その原点を通るデータの定常性の方向と平行な直線（図３０３の例では、直線３６０４）を引いたとすると、その直線に対するＸ方向の相対的な距離を、断面方向距離と称している。
【２３２５】
図３０４は、図３０３の定常領域３６０１内の各画素の断面方向距離を表した図である。即ち、図３０４において、定常領域３６０１の各画素（図中５×５＝２５個の正方形）内のそれぞれに記載されている値が、対応する画素の断面方向距離である。例えば、注目画素３６０３の断面距離x_n'は、−２βである。
【２３２６】
ただし、各画素幅は、Ｘ方向もＹ方向も１とされている。Ｘ方向の正方向は、図中右方向とされている。また、βは、中心画素３６０２のＹ方向に対して１つ隣（図中１つ下）の画素３６０５の断面方向距離を表している。このβは、図３０４で示されるような角度θ（直線３６０４の方向と、Ｘ方向のなす角度θ）が、データ定常性検出部１０１よりデータ定常性情報として出力されている場合、次の式（２３８）を利用して簡単に演算することが可能である。
【２３２７】
【数１８８】

【２３２８】
このように、画素内傾斜は、中心画素（図３０４の例では画素３６０２）と注目画素（図３０４の例では画素３６０３）の２つの入力画素値と、角度θを利用する簡単な演算で算出可能である。従って、実世界推定部１０２は、画素内傾斜に対応する値を画素値とする画像を、特徴量画像として生成すれば、その処理量を大幅に低減することが可能になる。
【２３２９】
なお、さらに精度のよい画素内傾斜を求めたい場合、実世界推定部１０２は、注目画素の周辺画素を用いて最小自乗法により演算すればよい。具体的には、実世界推定部１０２は、注目画素を含むｍ個（ｍは２以上の整数）の画素に対して番号i（iは、１乃至ｍ）を付与し、番号iの画素のそれぞれの入力画素値P_iと断面方向距離x_i'を、次の式（２３９）の右辺に代入して注目画素における画素内傾斜gradを演算すればよい。即ち、式（２３９）は、上述した１変数を最小自乗法で求める式と同様の式である。
【２３３０】
【数１８９】

【２３３１】
次に、図３０５を参照して、クラス分類適応処理補正手法を利用する画像生成部１０３（図２８９）の画像の生成の処理（図４０のステップＳ１０３の処理）について説明する。
【２３３２】
図２８９において、画像である、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。この入力画像は、データ定常性検出部１０１に入力されるとともに、画像生成部１０３のクラス分類適応処理部３５０１に入力される。
【２３３３】
そこで、図３０５のステップＳ３５０１において、クラス分類適応処理部３５０１は、入力された入力画像（ＳＤ画像）に対してクラス分類適応処理を施して、予測画像（ＨＤ画像）を生成し、加算部３５０３に出力する。
【２３３４】
なお、以下、このようなクラス分類適応処理部３５０１が実行するステップＳ３５０１の処理を、「入力画像クラス分類適応処理」と称する。この例の「入力画像クラス分類適応処理」の詳細については、図３０６のフローチャートを参照して後述する。
【２３３５】
ステップＳ３５０１の処理とほぼ同時に、データ定常性検出部１０１は、入力画像に含まれるデータの定常性を検出し、その検出結果（いまの場合、角度）をデータ定常性情報として実世界推定部１０２に出力する（図４０のステップＳ１０１の処理）。
【２３３６】
実世界推定部１０２は、入力した角度（データ定常性情報）に基づいて、実世界推定情報（いまの場合、ＳＤ画像である特徴量画像）を生成し、画像生成部１０３のクラス分類適応処理補正部３５０２に供給する（図４０のステップＳ１０２の処理）。
【２３３７】
そこで、ステップＳ３５０２において、クラス分類適応処理補正部３５０２は、供給された特徴量画像（ＳＤ画像）に対してクラス分類適応処理を施して、差分予測画像（ＨＤ画像）を生成し（実際の画像（実世界１の信号）と、クラス分類適応処理部３５０１から出力された予測画像との差分画像（ただし、ＨＤ画像）を予測演算し）、それを補正画像として加算部３５０３に出力する。
【２３３８】
なお、以下、このようなクラス分類適応処理補正部３５０２が実行するステップＳ３５０２の処理を、「クラス分類適応処理の補正処理」と称する。この例の「クラス分類適応処理の補正処理」の詳細については、図３０７のフローチャートを参照して後述する。
【２３３９】
そして、ステップＳ３５０３において、加算部３５０３が、ステップＳ３５０１の処理でクラス分類適応処理部３５０１により生成された予測画像（ＨＤ画像）の注目画素（ＨＤ画素）と、その注目画素に対応する、ステップＳ３５０２の処理でクラス分類適応処理補正部３５０２により生成された補正画像（ＨＤ画像）の画素（ＨＤ画素）を加算し、出力画像（ＨＤ画像）の画素（ＨＤ画素）を生成する。
【２３４０】
ステップＳ３５０４において、加算部３５０３は、全画素の処理を終了したか否かを判定する。
【２３４１】
ステップＳ３５０４において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ３５０１に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ３５０１乃至Ｓ３５０３の処理が繰り返される。
【２３４２】
そして、全画素の処理が終了すると（ステップＳ３５０４において、全画素の処理が終了されたと判定すると）、加算部３５０４は、ステップＳ３５０５において、出力画像（ＨＤ画像）を外部に出力する。その後、画像の生成の処理は終了となる。
【２３４３】
次に、図面を参照して、この例における「入力画像クラス分類適応処理（ステップＳ３５０１の処理）」、および、「クラス分類適応処理の補正処理（ステップＳ３５０２の処理）」のそれぞれの詳細について、その順番で個別に説明する。
【２３４４】
はじめに、図３０６のフローチャートを参照して、クラス分類適応処理部３５０１（図２９０）が実行する「入力画像クラス分類適応処理」の詳細について説明する。
【２３４５】
入力画像（ＳＤ画像）がクラス分類適応処理部３５０１に入力されると、ステップＳ３５２１において、領域抽出部３５１１と領域抽出部３５１５のそれぞれは、入力画像を入力する。
【２３４６】
ステップＳ３５２２において、領域抽出部３５１１は、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置）のそれぞれに位置する画素（ＳＤ画素）を、クラスタップとして抽出し、パターン検出部３５１２に供給する。
【２３４７】
ステップＳ３５２３において、パターン検出部３５１２は、供給されたクラスタップのパターンを検出し、クラスコード決定部３５１３に供給する。
【２３４８】
ステップＳ３５２４において、クラスコード決定部３５１３は、予め設定されている複数のクラスコードの中から、供給されたクラスタップのパターンに適合するクラスコードを決定し、係数メモリ３５１４と領域抽出部３５１５のそれぞれに供給する。
【２３４９】
ステップＳ３５２５において、係数メモリ３５１４は、予め学習処理により決定された複数の予測係数（群）の中から、供給されたクラスコードに基づいてこれから使用する予測係数（群）を読み出し、予測演算部３５１６に供給する。
【２３５０】
なお、学習処理については、図３１１のフローチャートを参照して後述する。
【２３５１】
ステップＳ３５２６において、領域抽出部３５１５は、供給されたクラスコードに対応して、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置であって、クラスタップの位置とは独立して設定された位置。ただし、クラスタップの位置と同一の位置でもよい）のそれぞれに位置する画素（ＳＤ画素）を、予測タップとして抽出し、予測演算部３５１６に供給する。
【２３５２】
ステップＳ３５２７において、予測演算部３５１６は、領域抽出部３５１５より供給された予測タップを、係数メモリ３５１４より供給された予測係数を用いて演算し、予測画像（ＨＤ画像）を生成して加算部３５０３に出力する。
【２３５３】
具体的には、予測演算部３５１６は、領域抽出部３５１５より供給された予測タップのそれぞれをc_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、係数メモリ３５１４より供給された予測係数のそれぞれをd_iとして、上述した式（２１８）の右辺を演算することにより、注目画素（ＳＤ画素）におけるＨＤ画素q'を算出し、それを予測画像（ＨＤ画像）を構成する１つの画素として加算部３５０３に出力する。これにより、入力画像クラス分類適応処理が終了となる。
【２３５４】
次に、図３０７のフローチャートを参照して、クラス分類適応処理補正部３５０２（図２９９）が実行する「クラス分類適応処理の補正処理」の詳細について説明する。
【２３５５】
実世界推定部１０２より実世界推定情報として特徴量画像（ＳＤ画像）がクラス分類適応処理補正部３５０２に入力されると、ステップＳ３５４１において、領域抽出部３５５１と領域抽出部３５５５のそれぞれは、特徴量画像を入力する。
【２３５６】
ステップＳ３５４２において、領域抽出部３５５１は、特徴量画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置）のそれぞれに位置する画素（ＳＤ画素）を、クラスタップとして抽出し、パターン検出部３５５２に供給する。
【２３５７】
具体的には、この例においては、例えば、図３０８で示されるようなクラスタップ（群）３６２１が抽出されるとする。即ち、図３０８は、クラスタップ配置の１例を表している。
【２３５８】
図３０８において、図中水平方向は、空間方向の１方向であるＸ方向とされており、図中垂直方向は、空間方向の他方向であるＹ方向とされている。また、注目画素は、画素３６２１−２とされている。
【２３５９】
この場合、図３０８の例では、注目画素３６２１−２、Ｙ方向に対して注目画素３６２１−２の隣の画素３６２１−０および画素３６２１−４、並びに、Ｘ方向に対して注目画素３６２１−２の隣の画素３６２１−１および画素３６２１−３の総計５個の画素からなる画素群３６２１が、クラスタップとして抽出されることになる。
【２３６０】
勿論、クラスタップ配置は、注目画素３６２１−２を含む配置であれば、図３０８の例に限定されず、様々な配置が可能である。
【２３６１】
図３０７に戻り、ステップＳ３５４３において、パターン検出部３５５２は、供給されたクラスタップのパターンを検出し、クラスコード決定部３５５３に供給する。
【２３６２】
具体的には、この例においては、例えば、パターン検出部３５５２は、図３０８で示される５個のクラスタップ３６２１−０乃至３６２１−４のそれぞれの画素値、即ち、特徴量の値（例えば、画素内傾斜）のそれぞれが、予め設定された複数のクラスのうちのいずれのクラスに属するのかを検出し、それらの検出結果を１つにまとめたものをパターンとして出力する。
【２３６３】
例えば、いま、図３０９で示されるようなパターンが検出されたとする。即ち、図３０９は、クラスタップのパターンの１例を表している。
【２３６４】
図３０９において、図中水平方向の軸は、クラスタップを表しており、図中垂直方向の軸は、画素内傾斜を表している。また、画素内傾斜により、クラス
３６３１、クラス３６３２、およびクラス３６３３の３つのクラスが予め設定されているとする。
【２３６５】
この場合、図３０９で示されるパターンは、クラスタップ３６２１−０はクラス３６３１に、クラスタップ３６２１−１はクラス３６３１に、クラスタップ３６２１−２はクラス３６３３に、クラスタップ３６２１−３はクラス３６３１に、クラスタップ３６２１−４はクラス３６３２に、それぞれ属するパターンを表している。
【２３６６】
このように、５個のクラスタップ３６２１−０乃至３６２１−４のそれぞれは、３つのクラス３６３１乃至３６３３のうちのいずれかに属することになる。従って、この例においては、図３０９で示されるパターンを含めて総計２７３（＝３＾５）個のパターンが存在することになる。
【２３６７】
図３０７に戻り、ステップＳ３５４４において、クラスコード決定部３５５３は、予め設定されている複数のクラスコードの中から、供給されたクラスタップのパターンに適合するクラスコードを決定し、補正係数メモリ３５５４と領域抽出部３５５５のそれぞれに供給する。いまの場合、２７３個のパターンが存在するので、予め設定されているクラスコードの数も２７３個（または、それ以上）となる。
【２３６８】
ステップＳ３５４５において、補正係数メモリ３５５４は、予め学習処理により決定された複数の補正係数（群）の中から、供給されたクラスコードに基づいてこれから使用する補正係数（群）を読み出し、補正演算部３５５６に供給する。補正係数メモリ３５５４に記憶されている補正係数（群）のそれぞれは、予め設定されたクラスコードのうちのいずれかに対応付けられているので、いまの場合、補正係数（群）の数は、予め設定されているクラスコードの数と同数（２７３個以上）となる。
【２３６９】
なお、学習処理については、図３１１のフローチャートを参照して後述する。
【２３７０】
ステップＳ３５４６において、領域抽出部３５５５は、供給されたクラスコードに対応して、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置であって、クラスタップの位置とは独立して設定された位置。ただし、クラスタップの位置と同一の位置でもよい）のそれぞれに位置する画素（ＳＤ画素）を、予測タップとして抽出し、補正演算部３５５６に供給する。
【２３７１】
具体的には、この例においては、例えば、図３１０で示されるような予測タップ（群）３６４１が抽出されるとする。即ち、図３１０は、予測タップ配置の１例を表している。
【２３７２】
図３１０において、図中水平方向は、空間方向の１方向であるＸ方向とされており、図中垂直方向は、空間方向の他方向であるＹ方向とされている。また、注目画素は、画素３６４１−１とされている。即ち、画素３６４１−１は、クラスタップ３６２１−２（図３０８）に対応する画素である。
【２３７３】
この場合、図３１０の例では、注目画素３６４１−１を中心とする５×５の画素群（総計２５個の画素からなる画素群）３６４１が、予測タップ（群）として抽出されることになる。
【２３７４】
勿論、予測タップ配置は、注目画素３６４１−１を含む配置であれば、図３１０の例に限定されず、様々な配置が可能である。
【２３７５】
図３０７に戻り、ステップＳ３５４７において、補正演算部３５５６は、領域抽出部３５５５より供給された予測タップを、補正係数メモリ３５５４より供給された補正係数を用いて演算し、差分予測画像（ＨＤ画像）を生成し、補正画像として加算部３５０３に出力する。
【２３７６】
より詳細には、補正演算部３５５６は、領域抽出部３５５５より供給された予測タップのそれぞれをa_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、補正係数メモリ３５５４より供給された補正係数のそれぞれをg_iとして、上述した式（２２６）の右辺を演算することにより、注目画素（ＳＤ画素）におけるＨＤ画素u'を算出し、それを補正画像（ＨＤ画像）を構成する１つの画素として加算部３５０３に出力する。これにより、クラス分類適応処理の補正処理は終了となる。
【２３７７】
次に、図３１１のフローチャートを参照して、学習装置（図２９１）の学習処理、即ち、クラス分類適応処理部３５０１（図２９０）が使用する予測係数と、クラス分類適応処理補正部３５０２（図２９９）が使用する補正係数のそれぞれを学習により生成する学習処理について説明する。
【２３７８】
ステップＳ３５６１において、クラス分類適応処理用学習部３５２１は、クラス分類適応処理部３５０１が使用する予測係数を生成する。
【２３７９】
即ち、クラス分類適応処理用学習部３５２１は、所定の画像を第１の教師画像（ＨＤ画像）として入力し、その第１の教師画像の解像度を下げて第１の生徒画像（ＳＤ画像）を生成する。
【２３８０】
そして、クラス分類適応処理用学習部３５２１は、クラス分類適応処理により第１の生徒画像（ＳＤ画像）から第１の教師画像（ＨＤ画像）を適切に予測することが可能な予測係数を生成し、クラス分類適応処理部３５０１の係数メモリ３５１４（図２９０）に記憶させる。
【２３８１】
なお、以下、このようなクラス分類適応処理用学習部３５２１が実行するステップＳ３５６１の処理を、「クラス分類適応処理用学習処理」と称する。この例の「クラス分類適応処理用学習処理」の詳細については、図３１２のフローチャートを参照して後述する。
【２３８２】
クラス分類適応処理部３５０１が使用する予測係数が生成されると、ステップＳ３５６２において、クラス分類適応処理補正用学習部３５６１は、クラス分類適応処理補正部３５０２が使用する補正係数を生成する。
【２３８３】
即ち、クラス分類適応処理補正用学習部３５６１は、クラス分類適応処理用学習部３５２１より、第１の教師画像、第１の生徒画像、および学習用予測画像（クラス分類適応処理用学習部３５２１により生成された予測係数を用いて、第１の教師画像を予測した画像）のそれぞれを入力する。
【２３８４】
次に、クラス分類適応処理補正用学習部３５６１は、第２の教師画像として、第１の教師画像と学習用予測画像の差分画像を生成するとともに、第２の生徒画像として、第１の生徒画像から特徴量画像を生成する。
【２３８５】
そして、クラス分類適応処理補正用学習部３５６１は、クラス分類適応処理により第２の生徒画像（ＳＤ画像）から第２の教師画像（ＨＤ画像）を適切に予測することが可能な予測係数を生成し、それを補正係数としてクラス分類適応処理補正部３５０２の補正係数メモリ３５５４に記憶させる。これにより、学習処理は終了となる。
【２３８６】
なお、以下、このようなクラス分類適応処理補正用学習部３５６１が実行するステップＳ３５６２の処理を、「クラス分類適応処理補正用学習処理」と称する。この例の「クラス分類適応処理補正用学習処理」の詳細については、図３１３のフローチャートを参照して後述する。
【２３８７】
次に、図面を参照して、この例における「クラス分類適応処理用学習処理（ステップＳ３５６１の処理）」、および、「クラス分類適応処理補正用学習処理（ステップＳ３５６２の処理）」のそれぞれの詳細について、その順番で個別に説明する。
【２３８８】
はじめに、図３１２のフローチャートを参照して、クラス分類適応処理用学習部３５２１（図２９２）が実行する「クラス分類適応処理用学習処理」の詳細について説明する。
【２３８９】
ステップＳ３５８１において、ダウンコンバート部３５３１と正規方程式生成部３５３６のそれぞれは、供給された所定の画像を、第１の教師画像（ＨＤ画像）として入力する。なお、第１の教師画像は、上述したように、クラス分類適応処理補正用学習部３５６１にも入力される。
【２３９０】
ステップＳ３５８２において、ダウンコンバート部３５３１は、入力された第１の教師画像をダウンコンバートして（解像度を落として）第１の生徒画像（ＳＤ画像）を生成し、領域抽出部３５３２と領域抽出部３５３５のそれぞれに供給するとともに、クラス分類適応処理補正用学習部３５６１にも出力する。
【２３９１】
ステップＳ３５８３において、領域抽出部３５３２は、供給された第１の生徒画像からクラスタップを抽出してパターン検出部３５３３に出力する。なお、ステップＳ３５８３の処理は、ブロックに入力される情報と、ブロックから出力される情報は厳密には違う情報であるが（以下、このような違いを、単に、入出力の違いと称する）、上述したステップＳ３５２２（図３０６）の処理と基本的に同様の処理である。
【２３９２】
ステップＳ３５８４において、パターン検出部３５３３は、供給されたクラスタップよりクラスコードを決定するためのパターンを検出し、クラスコード決定部３５３４に供給する。なお、ステップＳ３５８４の処理は、入出力の違いはあるが、上述したステップＳ３５２３（図３０６）の処理と基本的に同様の処理である。
【２３９３】
ステップＳ３５８５において、クラスコード決定部３５３４は、供給されたクラスタップのパターンに基づいてクラスコードを決定し、領域抽出部３５３５と正規方程式生成部３５３６のそれぞれに供給する。なお、ステップＳ３５８５の処理は、入出力の違いはあるが、上述したステップＳ３５２４（図３０６）の処理と基本的に同様の処理である。
【２３９４】
ステップＳ３５８６において、領域抽出部３５３５は、供給されたクラスコードに対応して、第１の生徒画像の中から予測タップを抽出し、正規方程式生成部３５３６と予測演算部３５３８のそれぞれに供給する。なお、ステップＳ３５８６の処理は、入出力の違いはあるが、上述したステップＳ３５２６（図３０６）の処理と基本的に同様の処理である。
【２３９５】
ステップＳ３５８７において、正規方程式生成部３５３６は、領域抽出部３５３５より供給された予測タップ（ＳＤ画素）、および、第１の教師画像（ＨＤ画像）を構成するＨＤ画素のうちの所定のＨＤ画素から、上述した式（２２０）（即ち、式（２２４））で示される正規方程式を生成し、クラスコード決定部３５３４より供給されたクラスコードとともに係数決定部３５３７に供給する。
【２３９６】
ステップＳ３５８８において、係数決定部３５３７は、供給された正規方程式を解いて予測係数を決定し、即ち、上述した式（２２５）の右辺を演算することで予測係数を算出し、供給されたクラスコードに対応付けて係数メモリ３５１４に記憶させるとともに、予測演算部３５３８に供給する。
【２３９７】
ステップＳ３５８９において、予測演算部３５３８は、領域抽出部３５３５より供給された予測タップを、係数決定部３５３７より供給された予測係数を用いて演算し、学習用予測画像（ＨＤ画素）を生成する。
【２３９８】
具体的には、予測演算部３５３８は、領域抽出部３５３５より供給された予測タップのそれぞれをc_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、係数決定部３５３７より供給された予測係数のそれぞれをd_iとして、上述した式（２１８）の右辺を演算することにより、第１の教師画像の所定のＨＤ画素qを予測したＨＤ画素q'を算出し、たＨＤ画素q'を学習用予測画像の１つの画素とする。
【２３９９】
ステップＳ３５９０において、全ての画素について処理が施されたか否かが判定され、全ての画素について処理が施されていないと判定された場合、その処理は、ステップＳ３５８３に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ３５８３乃至Ｓ３５９０の処理が繰り返される。
【２４００】
そして、ステップＳ３５９０において、全ての画素について処理が施されたと判定された場合、ステップＳ３５９１において、予測演算部３５３８は、学習予測画像（ステップＳ３５８９の処理毎に生成された各ＨＤ画素q'から構成されるＨＤ画像）を、クラス分類適応処理補正用学習部３５６１に出力する。これにより、クラス分類適応処理用学習処理は終了となる。
【２４０１】
このように、この例においては、全ての画素の処理が終了された後、第１の教師画像を予測したＨＤ画像である学習用予測画像がクラス分類適応処理補正用学習部３５６１に出力される。即ち、全てのＨＤ画素（予測画素）が一括して出力される。
【２４０２】
しかしながら、全ての画素が一括して出力されることは必須ではなく、ステップＳ３５８９の処理でＨＤ画素（予測画素）が生成される毎に、クラス分類適応処理補正用学習部３５６１に出力されてもよい。この場合、ステップＳ３５９１の処理は省略される。
【２４０３】
次に、図３１３のフローチャートを参照して、クラス分類適応処理補正用学習部３５６１（図３００）が実行する「クラス分類適応処理補正用学習処理」の詳細について説明する。
【２４０４】
クラス分類適応処理用学習部３５２１より第１の教師画像（ＨＤ画像）と学習用予測画像（ＨＤ画像）が入力されると、ステップＳ３６０１において、加算部３５７１は、第１の教師画像から学習用予測画像を減算し、差分画像（ＨＤ画像）を生成し、それを第２の教師画像として正規方程式生成部３５７８に供給する。
【２４０５】
また、クラス分類適応処理用学習部３５２１より第１の生徒画像（ＳＤ画像）が入力されると、ステップＳ３６０２において、データ定常性検出部３５７２と実世界推定部３５７３は、入力された第１の生徒画像（ＳＤ画像）から特徴量画像を生成し、それを第２の生徒画像として領域抽出部３５７４と領域抽出部３５７７のそれぞれに供給する。
【２４０６】
即ち、データ定常性検出部３５７２は、第１の生徒画像に含まれるデータの定常性を検出し、その検出結果（いまの場合、角度）をデータ定常性情報として実世界推定部３５７３に出力する。なお、ステップＳ３６０２のデータ定常性検出部３５７２の処理は、入出力の違いはあるが、上述した図４０のステップＳ１０１の処理と基本的に同様の処理である。
【２４０７】
実世界推定部３５７３は、入力した角度（データ定常性情報）に基づいて、実世界推定情報（いまの場合、ＳＤ画像である特徴量画像）を生成し、それを第２の生徒画像として領域抽出部３５７４と領域抽出部３５７７のそれぞれに供給する。なお、ステップＳ３６０２の実世界推定部３５７３の処理は、入出力の違いはあるが、上述した図４０のステップＳ１０２の処理と基本的に同様の処理である。
【２４０８】
また、ステップＳ３６０１とＳ３６０２の処理の順番は、図３１３の例に限定されない。即ち、ステップＳ３６０２の処理が先に実行されてもよいし、ステップＳ３６０１とＳ３６０２の処理が同時に実行されてもよい。
【２４０９】
ステップＳ３６０３において、領域抽出部３５７４は、供給された第２の生徒画像（特徴量画像）からクラスタップを抽出してパターン検出部３５７５に出力する。なお、ステップＳ３６０３の処理は、入出力の違いはあるが、上述したステップＳ３５４２（図３０７）の処理と基本的に同様の処理である。即ち、いまの場合、図３０８で示される配置の画素群３６２１がクラスタップとして抽出される。
【２４１０】
ステップＳ３６０４において、パターン検出部３５７５は、供給されたクラスタップよりクラスコードを決定するためのパターンを検出し、クラスコード決定部３５７６に供給する。なお、ステップＳ３６０４の処理は、入出力の違いはあるが、上述したステップＳ３５４３（図３０７）の処理と基本的に同様の処理である。即ち、いまの場合、学習処理が終了されるときには、少なくとも２７３個のパターンが検出されることになる。
【２４１１】
ステップＳ３６０５において、クラスコード決定部３５７６は、供給されたクラスタップのパターンに基づいてクラスコードを決定し、領域抽出部３５７７と正規方程式生成部３５７８のそれぞれに供給する。なお、ステップＳ３６０５の処理は、入出力の違いはあるが、上述したステップＳ３５４４（図３０７）の処理と基本的に同様の処理である。即ち、いまの場合、学習処理が終了されるときには、少なくとも２７３個のクラスコードが決定されることになる。
【２４１２】
ステップＳ３６０６において、領域抽出部３５７７は、供給されたクラスコードに対応して、第２の生徒画像（特徴量画像）の中から予測タップを抽出し、正規方程式生成部３５７８に供給する。なお、ステップＳ３６０６の処理は、入出力の違いはあるが、上述したステップＳ３５４６（図３０７）の処理と基本的に同様の処理である。即ち、いまの場合、図３１０で示される配置の画素群３６４１が予測タップとして抽出される。
【２４１３】
ステップＳ３６０７において、正規方程式生成部３５７８は、領域抽出部３５７７より供給された予測タップ（ＳＤ画素）、および、第２の教師画像（ＨＤ画像である、第１の教師画像と学習用予測画像の差分画像）を構成するＨＤ画素のうちの所定のＨＤ画素から、上述した式（２２９）（即ち、式（２３３））で示される正規方程式を生成し、クラスコード決定部３５７６より供給されたクラスコードとともに補正係数決定部３５７９に供給する。
【２４１４】
ステップＳ３６０８において、補正係数決定部３５７９は、供給された正規方程式を解いて補正係数を決定し、即ち、上述した式（２３４）の右辺を演算することで補正係数を算出し、供給されたクラスコードに対応付けて補正係数メモリ３５５４に記憶させる。
【２４１５】
ステップＳ３６０９において、全ての画素について処理が施されたか否かが判定され、全ての画素について処理が施されていないと判定された場合、その処理は、ステップＳ３６０３に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ３６０３乃至Ｓ３６０９の処理が繰り返される。
【２４１６】
そして、ステップＳ３６０９において、全ての画素について処理が施されたと判定された場合、クラス分類適応処理補正用学習処理は終了となる。
【２４１７】
以上、説明したように、クラス分類適応補正処理手法においては、クラス分類適応処理部３５０１より出力された予測画像に対して、クラス分類適応処理補正部３５０２より出力された補正画像（差分予測画像）が加算されて出力される。
【２４１８】
例えば、上述した図２９３で示されるＨＤ画像３５４１の解像度を落とした画像であるＳＤ画像３５４２が入力画像とされた場合、クラス分類適応処理部３５０１からは、図３１４で示される予測画像３５４３が出力される。そして、この予測画像３５４３に、クラス分類適応処理補正部３５０２より出力された補正画像（図示せず）が加算されると（補正画像により補正されると）、図２９４で示される出力画像３６５１となる。
【２４１９】
出力画像３６５１、予測画像３５４３、および、元の画像であるＨＤ画像３５４１（図２９３）のそれぞれを比較するに、出力画像３６５１は、予測画像３５４３よりもＨＤ画像３５４１により近い画像になっていることがわかる。
【２４２０】
このように、クラス分類適応処理補正手法においては、クラス分類適応処理を含む従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の信号）により近い画像の出力が可能になる。
【２４２１】
換言すると、クラス分類適応処理補正手法においては、例えば、図２８９のデータ定常性検出部１０１が、それぞれ時空間積分効果を有する、センサ（例えば、図２８９のセンサ２）の複数の検出素子により図２８９の実世界１の光信号が射影され、現実世界の光信号の定常性の一部が欠落した、検出素子により射影された画素値を有する複数の画素からなる入力画像（図２８９）におけるデータの定常性を検出する。
【２４２２】
例えば、図２８９の実世界推定部１０２は、検出されたデータの定常性に対応して、実世界１の光信号を表す光信号関数Ｆ（ｘ）（図２９８）が有する実世界特徴（例えば、図２８９の特徴量画像を構成する画素に対応する特徴量）を検出することで、実世界１の光信号を推定する。
【２４２３】
詳細には、例えば、実世界推定部１０２は、出されたデータの定常性に対応する線（例えば、図３０３の線３６０４）からの少なくとも１次元方向に沿った距離（例えば、図３０３の断面方向距離Xn'）に対応する画素の画素値が、少なくとも１次元方向の積分効果により取得された画素値であるとして、光信号関数Ｆ（ｘ）を、例えば、図３０１の近似関数f₅（ｘ）で近似し、所定画素（例えば、図３０３の画素３６０３）内における近似関数f5（ｘ）の傾斜である画素内傾斜（例えば、上述した式（２３４）のgradであり、式（２３６）のｘの係数ｗ１‘）を、実世界特徴として検出することで、実世界１の光信号を推定する。
【２４２４】
そして、例えば、図２８９の画像生成部１０３が、実世界推定手段により検出された実世界特徴に基いて、入力画像よりも高質な出力画像（図２８９）を予測し生成する。
【２４２５】
詳細には、例えば、画像生成部１０３において、例えば、図２８９のクラス分類適応処理部３５０１が、出力画像における注目画素の周辺に位置する、実世界１の光信号の定常性が欠落した入力画像内の複数の画素の画素値から注目画素の画素値（例えば、図２８９の予測画像の画素であり、上述した式（２２７）のq'）を予測する。
【２４２６】
一方、例えば、図２８９のクラス分類適応処理補正部３５０２は、例えば、図２８９の実世界推定部１０２より供給された特徴量画像（実世界推定情報）から、クラス分類適応処理部３５０１により予測された予測画像の注目画素の画素値を補正する補正項（例えば、図２８９の補正画像（差分予測画像）の画素であり、式（２２７）のｕ‘）を予測する。
【２４２７】
そして、例えば、図２８９の加算部３５０３は、クラス分類適応処理部３５０１により予測された予測画像の注目画素の画素値を、クラス分類適応処理部３５０１により予測された補正項で補正する（例えば、式（２２７）のように演算する）。
【２４２８】
また、クラス分類適応処理補正手法においては、例えば、図２９０の係数メモリ３５１４に記憶される予測係数を学習により決定する図２９１のクラス分類適応処理学習部３５２１と、例えば、図２９９の補正係数メモリ３５５４に記憶される補正係数を学習により決定する図２９１のクラス分類適応処理補正用学習部３５６１を有する図２９１の学習装置３５０４が設けられている。
【２４２９】
詳細には、例えば、図２９２のクラス分類適応処理学習部３５２１には、学習用画像データをダウンコンバートするダウンコンバート部３５３１、並びに、学習用画像データを第１の教師画像とし、ダウンコンバート部３５３１によりダウンコンバートされた学習用画像データを第１の生徒画像とし、第１の教師画像と第１の生徒画像の関係を学習することにより、予測係数を生成する係数決定部３５３７、および、領域抽出部３５３２乃至正規方程式生成部３５３６が設けられている。
【２４３０】
クラス分類適応処理学習部３５２１にはさらに、例えば、係数決定部３５３７により生成（決定）された予測係数を使用して、第１の生徒画像から第１の教師画像を予測する画像データとして、学習用予測画像を生成する予測演算部３５３８が設けられている。
【２４３１】
また、例えば、図３００のクラス分類適応処理補正用学習部３５６１には、第１の生徒画像におけるデータの定常性を検出し、検出したデータの定常性に基づいて、第１の生徒画像を構成する各画素のそれぞれに対応する実世界特徴を検出し、検出した実世界特徴に対応する値を画素値とする特徴量画像（具体的には、例えば、図３０２の特徴量画像３５９１）を、第２の生徒画像（例えば、図３００の第２の生徒画像）として生成するデータ定常性検出部３５７２および実世界推定部３５７３、第１の教師画像と、学習用予測画像の差分からなる画像データ（差分画像）を、第２教師画像として生成する加算部３５７１、並びに、第２の教師画像と、第２の生徒画像の関係を学習することにより、補正係数を生成する補正係数決定部３５７９、および領域抽出部３５７４乃至正規方程式生成部３５７８が設けられている。
【２４３２】
従って、クラス分類適応処理補正手法においては、クラス分類適応処理を含む従来の他の手法に比較して、元の画像（センサ２に入射される前の実世界１の信号）により近い画像の出力が可能になる。
【２４３３】
なお、クラス分類適応処理は、上述したように、ＳＤ画像には含まれていないが、ＨＤ画像に含まれる成分が再現される点で、例えば、単なる補間処理とは異なる。即ち、上述した式（２１８）や式（２２６）だけを見る限りは、いわゆる補間フィルタを用いての補間処理と同一に見えるが、クラス分類適応処理では、その補間フィルタの係数に相当する予測係数d_iまたは補足係数g_iが、教師データと生徒データ（第１の教師画像と第１の生徒画像、または、第２の教師画像と第２の生徒画像）を用いての学習により求められるため、ＨＤ画像に含まれる成分を再現することができる。このことから、上述したようなクラス分類適応処理は、いわば画像の創造（解像度創造）作用がある処理と称することができる。
【２４３４】
さらに、上述した例では、空間解像度を向上させる場合を例にして説明したが、クラス分類適応処理によれば、教師データおよび生徒データを変えて学習を行うことにより得られる種々の係数を用いることで、例えば、Ｓ／Ｎ(Signal to Noise Ratio) の向上や、ぼけの改善、その他の各種の処理を行うことが可能である。
【２４３５】
即ち、例えば、Ｓ／Ｎの向上やぼけの改善を、クラス分類適応処理によって行うには、Ｓ／Ｎの高い画像データを教師データとするとともに、その教師データのＳ／Ｎを低下させた画像（あるいは、ぼかした画像）を生徒データとして、係数を求めればよい。
【２４３６】
以上、本発明の実施の形態として、図３の構成の信号処理装置について説明したが、本発明の実施の形態は、図３の例に限定されず、様々な形態を取ることが可能である。即ち、図１の信号処理装置４の実施の形態は、図３の例に限定されず、様々な形態を取ることが可能である。
【２４３７】
例えば、図３の構成の信号処理装置は、画像である、実世界１の信号が有する定常性に基づいて信号処理を行う。このため、図３の構成の信号処理装置は、実世界１の信号のうちの定常性が存在する部分に対しては、他の信号処理装置の信号処理に比べて、精度のよい信号処理を実行することができ、その結果、より実世界１の信号に近い画像データを出力することが可能になる。
【２４３８】
しかしながら、図３の構成の信号処理装置は、定常性に基づいて信号処理を実行する以上、実世界１の信号のうちの明確な定常性が存在しない部分に対しては、定常性が存在する部分に対する処理と同等の精度で、信号処理を実行することができず、その結果、実世界１の信号に対して誤差を含む画像データを出力することになる。
【２４３９】
そこで、図３の構成の信号処理装置に対してさらに、定常性を利用しない他の信号処理を行う装置（または、プログラム等）を付加することができる。この場合、実世界１の信号のうちの定常性が存在する部分については、図３の構成の信号処理装置が信号処理を実行し、実世界１の信号のうちの明確な定常性が存在しない部分については、付加した他の装置（または、プログラム等）が信号処理を実行することになる。なお、以下、このような実施形態を併用手法と称する。
【２４４０】
以下、図３１５乃至図３２８を参照して、具体的な５つの併用手法（以下、それぞれの併用手法を、第１乃至第５の併用手法と称する）について説明する。
【２４４１】
なお、各併用手法が適用される信号処理装置の各機能をハードウェアで実現するか、ソフトウェアで実現するかは問わない。つまり、後述する図３１５乃至図３１７、図３２１、図３２３、図３２５、および図３２７のそれぞれのブロック図は、ハードウェアのブロック図と考えても、ソフトウェアによる機能ブロック図と考えても良い。
【２４４２】
図３１５は、第１の併用手法が適用される信号処理装置の構成例を表している。
【２４４３】
図３１５の信号処理装置においては、データ３（図１）の一例である画像データが入力され、入力された画像データ（入力画像）に基づいて、後述する画像処理が施されて画像が生成され、生成された画像（出力画像）が出力される。即ち、図３１５は、画像処理装置である信号処理装置４（図１）の構成を示す図である。
【２４４４】
信号処理装置４に入力された入力画像（データ３の一例である画像データ）は、データ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０４のそれぞれに供給される。
【２４４５】
データ定常性検出部４１０１は、入力画像からデータの定常性を検出して、検出した定常性を示すデータ定常性情報を実世界推定部４１０２および画像生成部４１０３に供給する。
【２４４６】
このように、データ定常性検出部４１０１は、図３のデータ定常性検出部１０１と基本的に同様の構成と機能を有するものである。従って、データ定常性検出部４１０１は、上述した様々な実施の形態を取ることが可能である。
【２４４７】
ただし、データ定常性検出部４１０１はさらに、注目画素の領域を特定するための情報（以下、領域特定情報と称する）を生成し、領域検出部４１１１に供給する。
【２４４８】
この領域特定情報は、特に限定されず、データ定常性情報が生成された後に新たに生成された情報でもよいし、データ定常性情報が生成される場合に付帯して生成される情報でもよい。
【２４４９】
具体的には、例えば、領域特定情報として、推定誤差が使用可能である。即ち、例えば、データ定常性検出部４１０１が、データ定常性情報として角度を算出し、かつ、その角度を最小自乗法により演算する場合、最小自乗法の演算で推定誤差が付帯的に算出される。この推定誤差が、領域特定情報として使用可能である。
【２４５０】
実世界推定部４１０２は、入力画像、およびデータ定常性検出部４１０１から供給されたデータ定常性情報に基づいて、実世界１（図１）の信号を推定する。即ち、実世界推定部４１０２は、入力画像が取得されたときセンサ２（図１）に入射された、実世界１の信号である画像を推定する。実世界推定部４１０２は、実世界１の信号の推定の結果を示す実世界推定情報を画像生成部４１０３に供給する。
【２４５１】
このように、実世界推定部４１０２は、図３の実世界推定部１０２と基本的に同様の構成と機能を有するものである。従って、実世界推定部４１０２は、上述した様々な実施の形態を取ることが可能である。
【２４５２】
画像生成部４１０３は、実世界推定部４１０２から供給された、推定された実世界１の信号を示す実世界推定情報に基づいて、実世界１の信号により近似した信号を生成して、生成した信号をセレクタ４１１２に供給する。または、画像生成部４１０３は、データ定常性検出部４１０１から供給されたデータ定常性情報、および実世界推定部４１０２から供給された、推定された実世界１の信号を示す実世界推定情報に基づいて、実世界１の信号により近似した信号を生成して、生成した信号をセレクタ４１１２に供給する。
【２４５３】
即ち、画像生成部４１０３は、実世界推定情報に基づいて、実世界１の画像により近似した画像を生成し、セレクタ４１１２に供給する。または、画像生成部４１０３は、データ定常性情報、および実世界推定情報に基づいて、実世界１の画像により近似した画像を生成し、セレクタ４１１２に供給する。
【２４５４】
このように、画像生成部４１０３は、図３の画像生成部１０３と基本的に同様の構成と機能を有するものである。従って、画像生成部４１０３は、上述した様々な実施の形態を取ることが可能である。
【２４５５】
画像生成部４１０４は、入力画像に対して所定の画像処理を施して、画像を生成し、セレクタ４１１２に供給する。
【２４５６】
なお、画像生成部４１０４が実行する画像処理は、データ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０３が実行する画像処理とは異なる画像処理であれば、特に限定されない。
【２４５７】
例えば、画像生成部４１０４は、従来のクラス分類適応処理を行うことができる。このクラス分類適応処理を実行する画像生成部４１０４の構成例が、図３１６に示されている。なお、図３１６の説明、即ち、クラス分類適応処理を実行する画像生成部４１０４の詳細の説明については後述する。また、クラス分類適応処理についても、図３１６の説明をするときに併せて説明する。
【２４５８】
定常領域検出部４１０５には、領域検出部４１１１、およびセレクタ４１１２が設けられている。
【２４５９】
領域検出部４１１１は、データ定常性検出部４１０１より供給された領域特定情報に基づいて、セレクタ４１１２に供給された画像（注目画素）が、定常領域であるか、或いは非定常領域であるかを検出し、その検出結果をセレクタ４１１２に供給する。
【２４６０】
なお、領域検出部４１１１が実行する領域検出の処理は、特に限定されず、例えば、上述した推定誤差が領域特定情報として供給される場合、領域検出部４１１１は、供給された推定誤差が所定の閾値よりも小さいとき、入力画像の注目画素は定常領域であると検出し、一方、供給された推定誤差が所定の閾値以上であるとき、入力画像の注目画素は非定常領域であると検出する。
【２４６１】
セレクタ４１１２は、領域検出部４１１１より供給された検出結果に基づいて、画像生成部４１０３より供給された画像、または、画像生成部４１０４より供給された画像のうちのいずれか一方を選択し、選択した画像を出力画像として外部に出力する。
【２４６２】
即ち、領域検出部４１１１により注目画素が定常領域であると検出された場合、セレクタ４１１２は、画像生成部４１０３より供給された画像（入力画像の注目画素における、画像生成部４１０３により生成された画素）を出力画像として選択する。
【２４６３】
これに対して、領域検出部４１１１により注目画素が非定常領域であると検出された場合、セレクタ４１１２は、画像生成部４１０４より供給された画像（入力画像の注目画素における、画像生成部４１０４により生成された画素）を出力画像として選択する。
【２４６４】
なお、外部の出力先に応じて、セレクタ４１１２は、画素単位で、出力画像を出力する（選択した画素毎に出力する）こともできるし、全ての画素の処理が終了するまで処理済みの画素を格納しておき、全ての画素の処理が終了したとき、全ての画素を一括して（出力画像全体を１単位として）出力することもできる。
【２４６５】
次に、図３１６を参照して、画像処理の１例であるクラス分類適応処理を実行する画像生成部４１０４の詳細について説明する。
【２４６６】
図３１６において、画像生成部４１０４が実行するクラス分類適応処理は、例えば、入力画像の空間解像度を向上する処理であるとする。即ち、標準解像度の画像である入力画像を、高解像度の画像である予測画像に変換する処理であるとする。
【２４６７】
なお、以下の説明においても、標準解像度の画像を、適宜、ＳＤ(Standard Definition)画像と称するとともに、ＳＤ画像を構成する画素を、適宜、ＳＤ画素と称することにする。
【２４６８】
また、以下の説明においても、高解像度の画像を、適宜、ＨＤ(High Definition)画像と称するとともに、ＨＤ画像を構成する画素を、適宜、ＨＤ画素と称することにする。
【２４６９】
具体的には、画像生成部４１０４が実行するクラス分類適応処理とは、次のようなものである。
【２４７０】
即ち、はじめに、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるために、注目画素を含めた、その付近に配置されるＳＤ画素（以下の説明においても、このようなＳＤ画素を、クラスタップと称することにする）の特徴量のそれぞれを求めて、その特徴量毎に予め分類されたクラスを特定する（クラスタップ群のクラスコードを特定する）。
【２４７１】
そして、予め設定された複数の係数群（各係数群のそれぞれは、所定の１つのクラスコードに対応している）のうちの、特定されたクラスコードに対応する係数群を構成する各係数と、注目画素を含めた、その付近のＳＤ画素（以下の説明においても、このような入力画像のＳＤ画素を、予測タップと称することにする。なお、予測タップは、クラスタップと同じこともある）とを用いて積和演算を実行することで、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を求めるものである。
【２４７２】
より詳細には、図１において、画像である、実世界１の信号（光の強度の分布）がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２４７３】
図３１６において、この入力画像（ＳＤ画像）は、画像生成部４１０４のうちの領域抽出部４１２１と領域抽出部４１２５にそれぞれ供給される。領域抽出部４１２５は、供給された入力画像から、クラス分類を行うために必要なクラスタップ（注目画素（ＳＤ画素）を含む予め設定された位置に存在するＳＤ画素）を抽出し、パターン検出部４１２２に出力する。パターン検出部４１２２は、入力されたクラスタップに基づいて入力画像のパターンを検出する。
【２４７４】
クラスコード決定部４１２３は、パターン検出部４１２２で検出されたパターンに基づいてクラスコードを決定し、係数メモリ４１２４、および、領域抽出部４１２５に出力する。係数メモリ４１２４は、学習により予め求められたクラスコード毎の係数を記憶しており、クラスコード決定部４１２３より入力されたクラスコードに対応する係数を読み出し、予測演算部４１２６に出力する。
【２４７５】
なお、係数メモリ４１２４の係数の学習処理については、図３１７の学習装置のブロック図を参照して後述する。
【２４７６】
また、係数メモリ４１２４に記憶される係数は、後述するように、予測画像（ＨＤ画像）を生成するときに使用される係数である。従って、以下、係数メモリ４１２４に記憶される係数を予測係数と称する。
【２４７７】
領域抽出部４１２５は、クラスコード決定部４１２３より入力されたクラスコードに基づいて、センサ２より入力された入力画像（ＳＤ画像）から、予測画像（ＨＤ画像）を予測生成するのに必要な予測タップ（注目画素を含む予め設定された位置に存在するＳＤ画素）をクラスコードに対応して抽出し、予測演算部４１２６に出力する。
【２４７８】
予測演算部４１２６は、領域抽出部４１２５より入力された予測タップと、係数メモリ４１２４より入力された予測係数とを用いて積和演算を実行し、入力画像（ＳＤ画像）の注目画素（ＳＤ画素）における、予測画像（ＨＤ画像）のＨＤ画素を生成し、セレクタ４１１２に出力する。
【２４７９】
より詳細には、係数メモリ４１２４は、クラスコード決定部４１２３より供給されるクラスコードに対応する予測係数を、予測演算部４１２６に出力する。予測演算部４１２６は、領域抽出部４１２５より供給される入力画像の所定の画素位置の画素値から抽出された予測タップと、係数メモリ４１２４より供給された予測係数とを用いて、次の式（２４０）で示される積和演算を実行することにより、予測画像（ＨＤ画像）のＨＤ画素を求める（予測推定する）。
【２４８０】
【数１９０】

【２４８１】
式（２４０）において、q'は、予測画像（ＨＤ画像）のＨＤ画素を表している。c_i（iは、１乃至ｎの整数値）のそれぞれは、予測タップ（ＳＤ画素）のそれぞれを表している。また、d _iのそれぞれは、予測係数のそれぞれを表している。
【２４８２】
このように、画像生成部４１０４は、ＳＤ画像（入力画像）から、それに対するＨＤ画像を予測推定するので、ここでは、画像生成部４１０４から出力されるＨＤ画像を、予測画像と称している。
【２４８３】
図３１７は、このような画像生成部４１０４の係数メモリ４１２４に記憶される予測係数（式（２４０）におけるd _i）を決定するための学習装置（予測係数の算出装置）を表している。
【２４８４】
図３１７において、所定の画像が、教師画像（ＨＤ画像）としてダウンコンバート部４１４１と正規方程式生成部４１４６のそれぞれに入力される。
【２４８５】
ダウンコンバート部４１４６は、入力された教師画像（ＨＤ画像）から、教師画像よりも解像度の低い生徒画像（ＳＤ画像）を生成し（教師画像をダウンコンバートしたものを生徒画像とし）、領域抽出部４１４２と領域抽出部４１４５のそれぞれに出力する。
【２４８６】
このように、学習装置４１３１には、ダウンコンバート部４１４１が設けられているので、教師画像（ＨＤ画像）は、センサ２（図１）からの入力画像よりも高解像度の画像である必要は無い。なぜならば、教師画像がダウンコンバートされた（解像度が下げられた）生徒画像をＳＤ画像とすれば、生徒画像に対する教師画像がＨＤ画像になるからである。従って、教師画像は、例えば、センサ２からの入力画像そのものとされてもよい。
【２４８７】
領域抽出部４１４２は、ダウンコンバート部４１４１より供給された生徒画像（ＳＤ画像）から、クラス分類を行うために必要なクラスタップ（ＳＤ画素）を抽出し、パターン検出部４１４３に出力する。パターン検出部４１４３は、入力されたクラスタップのパターンを検出し、その検出結果をクラスコード決定部４１４４に出力する。クラスコード決定部４１４４は、入力されたパターンに対応するクラスコードを決定し、そのクラスコードを領域抽出部４１４５、および、正規方程式生成部４１４６のそれぞれに出力する。
【２４８８】
領域抽出部４１４５は、クラスコード決定部４１４４より入力されたクラスコードに基づいて、ダウンコンバート部４１４１より入力された生徒画像（ＳＤ画像）から予測タップ（ＳＤ画素）を抽出し、正規方程式生成部４１４６に出力する。
【２４８９】
なお、以上の領域抽出部４１４２、パターン検出部４１４３、クラスコード決定部４１４４、および領域抽出部４１４５のそれぞれは、図３１６の画像生成部４１０４の領域抽出部４１２１、パターン検出部４１２２、クラスコード決定部４１２３、および、領域抽出部４１２５のそれぞれと、基本的に同様の構成と機能を有するものである。
【２４９０】
正規方程式生成部４１４６は、クラスコード決定部４１４４より入力された全てのクラスコードに対して、クラスコード毎に、領域抽出部４１４５より入力される生徒画像（ＳＤ画像）の予測タップ（ＳＤ画素）と、教師画像（ＨＤ画像）のＨＤ画素とから正規方程式を生成し、係数決定部４１４７に供給する。
【２４９１】
係数決定部４１４７は、正規方程式生成部４１４６より所定のクラスコードに対応する正規方程式が供給されてきたとき、その正規方程式より予測係数のそれぞれを演算し、係数メモリ４１２４にクラスコードと関連付けて記憶させる。
【２４９２】
正規方程式生成部４１４６と、係数決定部４１４７についてさらに詳しく説明する。
【２４９３】
上述した式（２４０）において、学習前は予測係数d_iのそれぞれが未定係数である。学習は、クラスコード毎に複数の教師画像（ＨＤ画像）のＨＤ画素を入力することによって行う。所定のクラスコードに対応するＨＤ画素がｍ個存在し、ｍ個のＨＤ画素のそれぞれを、q_k（ｋは、１乃至ｍの整数値）と記述する場合、式（２４０）から、次の式（２４１）が設定される。
【２４９４】
【数１９１】

【２４９５】
即ち、式（２４１）は、右辺の演算をすることで、所定のＨＤ画素q_kを予測推定することができることを表している。なお、式（２４１）において、e_kは、誤差を表している。即ち、右辺の演算結果である予測画像（ＨＤ画像）のＨＤ画素q_k'が、実際のＨＤ画素q_kと厳密には一致せず、所定の誤差e_kを含む。
【２４９６】
そこで、式（２４１）において、誤差e_kの自乗和を最小にする予測係数d_iが学習により求まれば、その予測係数d_iは、実際のＨＤ画素q_kを予測するのに最適な係数であると言える。
【２４９７】
従って、例えば、学習により集められたｍ個（ただし、ｍは、ｎより大きい整数）のＨＤ画素q_kを用いて、最小自乗法により最適な予測係数d_iを一意に決定することができる。
【２４９８】
即ち、式（２４１）の右辺の予測係数d_iを最小自乗法で求める場合の正規方程式は、次の式（２４２）で表される。
【２４９９】
【数１９２】

【２５００】
従って、式（２４２）で示される正規方程式が生成されれば、その正規方程式を解くことで予測係数d_iが一意に決定されることになる。
【２５０１】
具体的には、式（２４２）で示される正規方程式の各行列のそれぞれを、次の式（２４３）乃至（２４５）のように定義すると、正規方程式は、次の式（２４６）のように表される。
【２５０２】
【数１９３】

【２５０３】
【数１９４】

【２５０４】
【数１９５】

【２５０５】
【数１９６】

【２５０６】
式（２４４）で示されるように、行列Ｄ_MATの各成分は、求めたい予測係数d_iである。従って、式（２４６）において、左辺の行列Ｃ_MATと右辺の行列Ｑ_MATが決定されれば、行列解法によって行列Ｄ_MAT（即ち、予測係数d_i）の算出が可能である。
【２５０７】
より具体的には、式（２４３）で示されるように、行列Ｃ_MATの各成分は、予測タップc_ikが既知であれば演算可能である。予測タップc_ikは、領域抽出部４１４５により抽出されるので、正規方程式生成部４１４６は、領域抽出部４１４５より供給されてくる予測タップc_ikのそれぞれを利用して行列Ｃ_MATの各成分を演算することができる。
【２５０８】
また、式（２４５）で示されるように、行列Ｑ_MATの各成分は、予測タップc_ikとＨＤ画素q_kが既知であれば演算可能である。予測タップc_ikは、行列Ｃ_MATの各成分に含まれるものと同一のものであり、また、ＨＤ画素q_kは、予測タップc_ikに含まれる注目画素（生徒画像のＳＤ画素）に対する教師画像のＨＤ画素である。従って、正規方程式生成部４１４６は、領域抽出部４１４５より供給された予測タップc_ikと、教師画像を利用して行列Ｑ_MATの各成分を演算することができる。
【２５０９】
このようにして、正規方程式生成部４１４６は、クラスコード毎に、行列Ｃ_MATと行列Ｑ_MATの各成分を演算し、その演算結果をクラスコードに対応付けて係数決定部４１４７に供給する。
【２５１０】
係数決定部４１４７は、供給された所定のクラスコードに対応する正規方程式に基づいて、上述した式（２４６）の行列Ｄ_MATの各成分である予測係数d_iを演算する。
【２５１１】
具体的には、上述した式（２４６）の正規方程式は、次の式（２４７）のように変形できる。
【２５１２】
【数１９７】

【２５１３】
式（２４７）において、左辺の行列Ｄ_MATの各成分が、求めたい予測係数d_iである。また、行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分は、正規方程式生成部４１４６より供給されるものである。従って、係数決定部４１４７は、正規方程式生成部４１４６より所定のクラスコードに対応する行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分が供給されてきたとき、式（２４７）の右辺の行列演算を行うことで行列Ｄ_MATを演算し、その演算結果（予測係数d_i）をクラスコードに対応付けて係数メモリ４１２４に記憶させる。
【２５１４】
なお、クラス分類適応処理は、上述したように、ＳＤ画像には含まれていないが、ＨＤ画像に含まれる成分が再現される点で、例えば、単なる補間処理とは異なる。即ち、適応処理では、上述した式（２４０）だけを見る限りは、いわゆる補間フィルタを用いての補間処理と同一に見えるが、その補間フィルタの係数に相当する予測係数d_iが、教師データと生徒データを用いての学習により求められるため、ＨＤ画像に含まれる成分を再現することができる。このことから、上述したようなクラス分類適応処理は、いわば画像の創造（解像度創造）作用がある処理と称することができる。
【２５１５】
さらに、上述した例では、空間解像度を向上させる場合を例にして説明したが、クラス分類適応処理によれば、教師データおよび生徒データを変えて学習を行うことにより得られる種々の係数を用いることで、例えば、Ｓ／Ｎ(Signal to Noise Ratio) の向上や、ぼけの改善、その他の各種の処理を行うことが可能である。
【２５１６】
即ち、例えば、Ｓ／Ｎの向上やぼけの改善を、クラス分類適応処理によって行うには、Ｓ／Ｎの高い画像データを教師データとするとともに、その教師データのＳ／Ｎを低下させた画像（あるいは、ぼかした画像）を生徒データとして、係数を求めればよい。
【２５１７】
以上、クラス分類適応処理を実行する画像生成部４１０４と、その学習装置４１３１のそれぞれの構成について説明した。
【２５１８】
なお、上述したように、画像生成部４１０４は、クラス分類適応処理以外の画像処理を実行する構成とすることも可能であるが、説明の簡略上、以下の説明においては、画像生成部４１０４の構成は、上述した図３１６の構成とされる。即ち、以下、画像生成部４１０４は、クラス分類適応処理を実行することで、入力画像より空間解像度の高い画像を生成し、セレクタ４１１２に供給するとする。
【２５１９】
次に、図３１８を参照して、第１の併用手法が適用される信号処理装置（図３１５）の信号の処理について説明する。
【２５２０】
なお、ここでは、データ定常性検出部４１０１は、角度（画像である、実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２５２１】
データ定常性検出部４１０１はまた、角度を演算するときに併せて算出される推定誤差（最小自乗法の誤差）を、領域特定情報として出力するとする。
【２５２２】
図１において、画像である、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２５２３】
図３１５において、この入力画像は、データ定常性検出部４１０１、および実世界推定部４１０２に入力されるとともに、画像生成部４１０４に入力される。
【２５２４】
そこで、図３１８のステップＳ４１０１において、画像生成部４１０４は、入力画像（ＳＤ画像）の所定のＳＤ画素を注目画素として、上述したクラス分類適応処理を実行し、予測画像（ＨＤ画像）のＨＤ画素（注目画素におけるＨＤ画素）を生成し、セレクタ４１１２に供給する。
【２５２５】
なお、以下、画像生成部４１０４より出力される画素と、画像生成部４１０３より出力される画素のそれぞれを区別する場合、画像生成部４１０４より出力される画素を第１の画素と称し、画像生成部４１０３より出力される画素を第２の画素と称する。
【２５２６】
また、以下、このような画像生成部４１０４が実行する処理（いまの場合、ステップＳ４１０１の処理）を、「クラス分類適応処理の実行処理」と称する。この例の「クラス分類適応処理の実行処理」の詳細については、図３１９のフローチャートを参照して後述する。
【２５２７】
一方、ステップＳ４１０２において、データ定常性検出部４１０１は、定常性の方向に対応する角度を検出するとともに、その推定誤差を演算する。検出された角度は、データ定常性情報として実世界推定部４１０２と画像生成部４１０３のそれぞれに供給される。また、演算された推定誤差は、領域特定情報として領域検出部４１１１に供給される。
【２５２８】
ステップＳ４１０３において、実世界推定部４１０２は、データ定常性検出部４１０１により検出された角度と、入力画像に基づいて、実世界１の信号を推定する。
【２５２９】
なお、上述したように、実世界推定部４１０２が実行する推定の処理は、特に限定されず、上述した様々な手法を利用することができる。ここでは、例えば、実世界推定部４１０２は、実世界１の信号を表す関数Ｆ（以下の説明においても、関数Ｆを光信号関数Ｆと称することにする）を、所定の関数ｆ（以下の説明においても、関数ｆを近似関数ｆと称することにする）で近似することで、実世界１の信号（光信号関数Ｆ）を推定するとする。
【２５３０】
また、ここでは、例えば、実世界推定部４１０２は、近似関数ｆの特徴量（係数）を、実世界推定情報として画像生成部４１０３に供給するとする。
【２５３１】
ステップＳ４１０４において、画像生成部４１０３は、実世界推定部４１０２により推定された実世界１の信号に基づいて、画像生成部４１０４のクラス分類適応処理により生成された第１の画素（ＨＤ画素）に対応する第２の画素（ＨＤ画素）を生成し、セレクタ４１１２に供給する。
【２５３２】
いまの場合、実世界推定部４１０２より近似関数ｆの特徴量（係数）が供給されてくるので、画像生成部４１０３は、例えば、供給された近似関数ｆの特徴量に基づいて、近似関数ｆを所定の積分範囲で積分することで、第２の画素（ＨＤ画素）を生成する。
【２５３３】
ただし、積分範囲は、画像生成部４１０４より出力される第１の画素（ＨＤ画素）と同一の大きさ（同一の解像度）の第２の画素が生成可能な範囲とされる。即ち、空間方向においては、積分範囲は、これから生成される第２の画素の画素幅となる。
【２５３４】
なお、ステップＳ４１０１の「クラス分類適応処理の実行処理」と、ステップＳ４１０２乃至Ｓ４１０４の一連の処理の順番は、図３１８の例に限定されず、ステップＳ４１０２乃至Ｓ４１０４の一連の処理が先に実行されても構わないし、ステップＳ４１０１の「クラス分類適応処理の実行処理」と、ステップＳ４１０２乃至Ｓ４１０４の一連の処理が同時に実行されても構わない。
【２５３５】
ステップＳ４１０５において、領域検出部４１１１は、ステップＳ４１０２の処理でデータ定常性検出部４１０１により演算された推定誤差（領域特定情報）に基づいて、ステップＳ４１０４の処理で画像生成部４１０３により生成された第２の画素（ＨＤ画素）の領域を検出する。
【２５３６】
即ち、第２の画素は、データ定常性検出部４１０１が注目画素として使用した入力画像のＳＤ画素におけるＨＤ画素である。従って、注目画素（入力画像のＳＤ画素）と第２の画素（ＨＤ画素）の領域の種類（定常領域、または非定常領域）は同一である。
【２５３７】
また、データ定常性検出部４１０１が出力する領域特定情報は、注目画素における角度が最小自乗法により算出された場合の推定誤差である。
【２５３８】
そこで、領域検出部４１１１は、データ定常性検出部４１０１より供給された注目画素（入力画像のＳＤ画素）に対する推定誤差と、予め設定された閾値を比較し、その比較の結果が、推定誤差が閾値よりも小さい場合、第２の画素は定常領域であると検出し、一方、推定誤差が閾値以上である場合、第２の画素は非定常領域であると検出する。そして、検出結果は、セレクタ４１１２に供給される。
【２５３９】
この領域検出部４１１１の検出結果がセレクタ４１１２に供給されると、ステップＳ４１０６において、セレクタ４１１２は、検出された領域が、定常領域であるか否かを判定する。
【２５４０】
ステップＳ４１０６において、検出された領域が、定常領域であると判定した場合、セレクタ４１１２は、ステップＳ４１０７において、画像生成部４１０３より供給された第２の画素を、出力画像として外部に出力する。
【２５４１】
これに対して、ステップＳ４１０６において、検出された領域が、定常領域ではない（非定常領域である）と判定した場合、セレクタ４１１２は、ステップＳ４１０８において、画像生成部４１０４より供給された第１の画素を、出力画像として外部に出力する。
【２５４２】
その後、ステップＳ４１０９において、全画素の処理を終了したか否かが判定され、全画素の処理がまだ終了していないと判定された場合、その処理は、ステップＳ４１０１に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４１０１乃至Ｓ４１０９の処理が繰り返される。
【２５４３】
そして、ステップＳ４１０９において、全画素の処理を終了したと判定された場合、その処理は終了となる。
【２５４４】
このように、図３１８のフローチャートの例においては、第１の画素（ＨＤ画素）と第２の画素（ＨＤ画素）が生成される毎に、出力画像として第１の画素または第２の画素が画素単位で出力される。
【２５４５】
しかしながら、上述したように、画素単位で出力されることは必須ではなく、全ての画素の処理が終了された後、出力画像として、全ての画素が一括して出力されてもよい。この場合、ステップＳ４１０７とステップＳ４１０８のそれぞれの処理においては、画素（第１の画素または第２の画素）は出力されずに、セレクタ４１１２に一次格納され、ステップＳ４１０９の処理の後、全ての画素を出力する処理が追加される。
【２５４６】
次に、図３１９のフローチャートを参照して、図３１６の構成の画像生成部４１０４が実行する「クラス分類適応処理の実行処理」（例えば、上述した図３１８のステップＳ４１０１の処理）の詳細について説明する。
【２５４７】
センサ２からの入力画像（ＳＤ画像）が画像生成部４１０４に入力されると、ステップＳ４１２１において、領域抽出部４１２１と領域抽出部４１２５のそれぞれは、入力画像を入力する。
【２５４８】
ステップＳ４１２２において、領域抽出部４１２１は、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置）のそれぞれに位置する画素（ＳＤ画素）を、クラスタップとして抽出し、パターン検出部４１２２に供給する。
【２５４９】
ステップＳ４１２３において、パターン検出部４１２２は、供給されたクラスタップのパターンを検出し、クラスコード決定部４１２３に供給する。
【２５５０】
ステップＳ４１２４において、クラスコード決定部４１２３は、予め設定されている複数のクラスコードの中から、供給されたクラスタップのパターンに適合するクラスコードを決定し、係数メモリ４１２４と領域抽出部４１２５のそれぞれに供給する。
【２５５１】
ステップＳ４１２５において、係数メモリ４１２４は、供給されたクラスコードに基づいて、予め学習処理により決定された複数の予測係数（群）の中から、これから使用する予測係数（群）を読み出し、予測演算部４１２６に供給する。
【２５５２】
なお、学習処理については、図３２０のフローチャートを参照して後述する。
【２５５３】
ステップＳ４１２６において、領域抽出部４１２５は、供給されたクラスコードに対応して、入力画像の中から、注目画素（ＳＤ画素）、および、予め設定された注目画素からの相対位置（１以上の位置であって、クラスタップの位置とは独立して設定された位置。ただし、クラスタップの位置と同一の位置でもよい）のそれぞれに位置する画素（ＳＤ画素）を、予測タップとして抽出し、予測演算部４１２６に供給する。
【２５５４】
ステップＳ４１２７において、予測演算部４１２６は、領域抽出部４１２５より供給された予測タップを、係数メモリ４１２４より供給された予測係数を用いて演算し、予測画像（第１の画素）を生成して外部（図３１５の例では、セレクタ４１１２）に出力する。
【２５５５】
具体的には、予測演算部４１２６は、領域抽出部４１２５より供給された予測タップのそれぞれをc_i（iは、１乃至ｎのうちのいずれかの整数）とし、かつ、係数メモリ４１２４より供給された予測係数のそれぞれをd_iとして、上述した式（２４０）の右辺を演算することにより、注目画素（ＳＤ画素）におけるＨＤ画素q'を算出し、それを予測画像（ＨＤ画像）の所定の１つの画素（第１の画素）として外部に出力する。その後、処理は終了となる。
【２５５６】
次に、図３２０のフローチャートを参照して、画像生成部４１０４に対する学習装置４１３１（図３１７）が実行する学習処理（画像生成部４１０４が使用する予測係数を学習により生成する処理）について説明する。
【２５５７】
ステップＳ４１４１において、ダウンコンバート部４１４１と正規方程式生成部４１４６のそれぞれは、供給された所定の画像を、教師画像（ＨＤ画像）として入力する。
【２５５８】
ステップＳ４１４２において、ダウンコンバート部４１４１は、入力された教師画像をダウンコンバートして（解像度を落として）生徒画像（ＳＤ画像）を生成し、領域抽出部４１４２と領域抽出部４１４５のそれぞれに供給する。
【２５５９】
ステップＳ４１４３において、領域抽出部４１４２は、供給された生徒画像からクラスタップを抽出してパターン検出部４１４３に出力する。なお、ステップＳ４１４３の処理は、上述したステップＳ４１２２（図３１９）の処理と基本的に同様の処理である。
【２５６０】
ステップＳ４１４４において、パターン検出部４１４３は、供給されたクラスタップよりクラスコードを決定するためのパターンを検出し、クラスコード決定部４１４４に供給する。なお、ステップＳ４１４４の処理は、上述したステップＳ４１２３（図３１９）の処理と基本的に同様の処理である。
【２５６１】
ステップＳ４１４５において、クラスコード決定部４１４４は、供給されたクラスタップのパターンに基づいてクラスコードを決定し、領域抽出部４１４５と正規方程式生成部４１４６のそれぞれに供給する。なお、ステップＳ４１４５の処理は、上述したステップＳ４１２４（図３１９）の処理と基本的に同様の処理である。
【２５６２】
ステップＳ４１４６において、領域抽出部４１４５は、供給されたクラスコードに対応して、生徒画像の中から予測タップを抽出し、正規方程式生成部４１４６に供給する。なお、ステップＳ４１４６の処理は、上述したステップＳ４１２６（図３１９）の処理と基本的に同様の処理である。
【２５６３】
ステップＳ４１４７において、正規方程式生成部４１４６は、領域抽出部４１４５より供給された予測タップ（ＳＤ画素）、および、教師画像（ＨＤ画像）の所定のＨＤ画素から、上述した式（２４２）（即ち、式（２４６））で示される正規方程式を生成し、生成した正規方程式と、クラスコード決定部４１４４より供給されたクラスコードを関連付けて係数決定部４１４７に供給する。
【２５６４】
ステップＳ４１４８において、係数決定部４１４７は、供給された正規方程式を解いて予測係数を決定し、即ち、上述した式（２４７）の右辺を演算することで予測係数を算出し、供給されたクラスコードに対応付けて係数メモリ４１２４に記憶させる。
【２５６５】
その後、ステップＳ４１４９において、全ての画素について処理が施されたか否かが判定され、全ての画素について処理が施されていないと判定された場合、その処理は、ステップＳ４１４３に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４１４３乃至Ｓ４１４９の処理が繰り返される。
【２５６６】
そして、ステップＳ４１４９において、全ての画素について処理が施されたと判定された場合、処理は終了となる。
【２５６７】
次に、図３２１と図３２２を参照して、第２の併用手法について説明する。
【２５６８】
図３２１は、第２の併用手法が適用される信号処理装置の構成例を表している。
【２５６９】
図３２１において、第１の併用手法が適用される信号処理装置（図３１５）と対応する部分には、対応する符号が付してある。
【２５７０】
図３１５の構成例（第１の併用手法）においては、領域特定情報は、データ定常性検出部４１０１より出力され、領域検出部４１１１に入力されていたが、図３２１の構成例（第２の併用手法）においては、領域特定情報は、実世界推定部４１０２より出力され、領域検出部４１１１に入力される。
【２５７１】
この領域特定情報は、特に限定されず、実世界推定部４１０２が実世界１（図１）の信号を推定した後に新たに生成された情報でもよいし、実世界１の信号が推定される場合に付帯して生成される情報でもよい。
【２５７２】
具体的には、例えば、領域特定情報として、推定誤差が使用可能である。
【２５７３】
ここで、推定誤差について説明する。
【２５７４】
上述したように、データ定常性検出部４１０１より出力される推定誤差（図３１５の領域特定情報）は、例えば、データ定常性検出部４１０１より出力されるデータ定常性情報が角度であり、かつ、その角度が最小自乗法により演算される場合、その最小自乗法の演算で付帯的に算出される推定誤差である。
【２５７５】
これに対して、実世界推定部４１０２より出力される推定誤差（図３２１の領域特定情報）は、例えば、マッピング誤差である。
【２５７６】
即ち、実世界推定部４１０２により実世界１の信号が推定されているので、推定された実世界１の信号から任意の大きさの画素を生成する（画素値を演算する）ことが可能である。ここでは、このように、新たな画素を生成することを、マッピングと称している。
【２５７７】
従って、実世界推定部４１０２は、実世界１の信号を推定した後、その推定した実世界１の信号から、入力画像の注目画素（実世界１が推定される場合に注目画素として使用された画素）が配置されていた位置における新たな画素を生成する（マッピングする）。即ち、実世界推定部４１０２は、推定した実世界１の信号から、入力画像の注目画素の画素値を予測演算する。
【２５７８】
そして、実世界推定部４１０２は、マッピングした新たな画素の画素値（予測した入力画像の注目画素の画素値）と、実際の入力画像の注目画素の画素値との差分を演算する。この差分を、ここでは、マッピング誤差と称している。
【２５７９】
このようにして実世界推定部４１０２は、マッピング誤差（推定誤差）を演算することで、演算したマッピング誤差（推定誤差）を、領域特定情報として領域検出部４１１１に供給することができる。
【２５８０】
なお、領域検出部４１１１が実行する領域検出の処理は、上述したように、特に限定されないが、例えば、実世界推定部４１０２が、上述したマッピング誤差（推定誤差）を領域特定情報として領域検出部４１１１に供給する場合、領域検出部４１１１は、供給されたマッピング誤差（推定誤差）が所定の閾値よりも小さいとき、入力画像の注目画素は定常領域であると検出し、一方、供給されたマッピング誤差（推定誤差）が所定の閾値以上であるとき、入力画像の注目画素は非定常領域であると検出する。
【２５８１】
その他の構成は、図３１５のそれと基本的に同様である。即ち、第２の併用手法が適用される信号処理装置（図３２１）においても、第１の併用手法が適用される信号処理装置（図３１５）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、画像生成部４１０４、並びに定常領域検出部４１０５（領域検出部４１１１およびセレクタ４１１２）が設けられている。
【２５８２】
図３２２は、図３２１の構成の信号処理装置の信号の処理（第２の併用手法の信号の処理）を説明するフローチャートである。
【２５８３】
第２の併用手法の信号の処理は、第１の併用手法の信号の処理（図３１８のフローチャートで示される処理）と類似している。そこで、ここでは、第１の併用手法において説明した処理については、その説明を適宜省略し、以下、図３２２のフローチャートを参照して、第１の併用手法とは異なる第２の併用手法の信号の処理を中心に説明する。
【２５８４】
なお、ここでは、データ定常性検出部４１０１は、第１の併用手法と同様に、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２５８５】
ただし、上述したように、第１の併用手法においては、データ定常性検出部４１０１が領域特定情報（例えば、推定誤差）を領域検出部４１１１に供給していたのに対して、第２の併用手法においては、実世界推定部４１０２が領域特定情報（例えば、推定誤差（マッピング誤差））を領域検出部４１１１に供給する。
【２５８６】
従って、第２の併用手法においては、データ定常性検出部４１０１の処理として、ステップＳ４１６２の処理が実行される。この処理は、第１の併用手法における、図３１８のステップＳ４１０２の処理に相当する。即ち、ステップＳ４１６２において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出し、検出した角度をデータ定常性情報として、実世界推定部４１０２と画像生成部４１０３のそれぞれに供給する。
【２５８７】
また、第２の併用手法においては、実世界推定部４１０２の処理として、ステップＳ４１６３の処理が実行される。この処理は、第１の併用手法における、図３１８のステップＳ４１０３の処理に相当する。即ち、ステップＳ４１６３において、実世界推定部４１０２は、ステップＳ４１６２の処理でデータ定常性検出部４１０１により検出された角度に基づいて、実世界１（図１）の信号を推定するとともに、推定された実世界１の信号の推定誤差、即ち、マッピング誤差を演算し、それを領域特定情報として領域検出部４１１１に供給する。
【２５８８】
その他の処理は、第１の併用手法の対応する処理（図３１８のフローチャートで示される処理のうちの対応する処理）と基本的に同様であるので、その説明は省略する。
【２５８９】
次に、図３２３と図３２４を参照して、第３の併用手法について説明する。
【２５９０】
図３２３は、第３の併用手法が適用される信号処理装置の構成例を表している。
【２５９１】
図３２３において、第１の併用手法が適用される信号処理装置（図３１５）と対応する部分には、対応する符号が付してある。
【２５９２】
図３１５の構成例（第１の併用手法）においては、定常領域検出部４１０５は、画像生成部４１０３と画像生成部４１０４の後段に配設されていたが、図３２３の構成例（第３の併用手法）においては、それに対応する定常領域検出部４１６１が、データ定常性検出部４１０１の後段であって、実世界推定部４１０２と画像生成部４１０４の前段に配設されている。
【２５９３】
このような配設位置の違いにより、第１の併用手法における定常領域検出部４１０５と、第３の併用手法における定常領域検出部４１６１は若干差異がある。そこで、この差異を中心に、定常領域検出部４１６１について説明する。
【２５９４】
定常領域検出部４１６１には、領域検出部４１７１と実行指令生成部４１７２が設けられている。このうちの領域検出部４１７１は、定常領域検出部４１０５の領域検出部４１１１（図３１５）と基本的に同様の構成と機能を有している。一方、実行指令生成部４１７２の機能は、定常領域検出部４１０５のセレクタ４１１２（図３１５）のそれと若干差異がある。
【２５９５】
即ち、上述したように、第１の併用手法におけるセレクタ４１１２は、領域検出部４１１１の検出結果に基づいて、画像生成部４１０３からの画像と、画像生成部４１０４からの画像のうちのいずれか一方を選択し、選択した画像を出力画像として出力する。このように、セレクタ４１１２は、領域検出部４１１１の検出結果の他に、画像生成部４１０３からの画像と、画像生成部４１０４からの画像を入力し、出力画像を出力する。
【２５９６】
一方、第３の併用手法における実行指令生成部４１７２は、領域検出部４１７１の検出結果に基づいて、入力画像の注目画素（データ定常性検出部４１０１が注目画素とした画素）における新たな画素の生成の処理を実行するのは、画像生成部４１０３であるのか画像生成部４１０４であるのかを選択する。
【２５９７】
即ち、領域検出部４１７１が、入力画像の注目画素は定常領域であるという検出結果を実行指令生成部４１７２に供給した場合、実行指令生成部４１７２は、画像生成部４１０３を選択し、実世界推定部４１０２に対して、その処理の実行を開始させる指令（このような指令を、以下、実行指令と称する）を供給する。すると、実世界推定部４１０２が、その処理を開始し、実世界推定情報を生成し、画像生成部４１０３に供給する。画像生成部４１０３は、供給された実世界推定情報（必要に応じて、それに加えてデータ定常性検出部４１０１より供給されたデータ定常性情報）に基づいて新たな画像を生成し、それを出力画像として外部に出力する。
【２５９８】
これに対して、領域検出部４１７１が、入力画像の注目画素は非定常領域であるという検出結果を実行指令生成部４１７２に供給した場合、実行指令生成部４１７２は、画像生成部４１０４を選択し、画像生成部４１０４に対して実行指令を供給する。すると、画像生成部４１０４が、その処理を開始し、入力画像に対して所定の画像処理（いまの場合、クラス分類適応処理）を施して、新たな画像を生成し、それを出力画像として外部に出力する。
【２５９９】
このように、第３の併用手法における実行指令生成部４１７２は、領域検出部４１７１の検出結果を入力し、実行指令を出力する。即ち、実行指令生成部４１７２は、画像を入出力しない。
【２６００】
なお、定常領域検出部４１６１以外の構成は、図３１５のそれと基本的に同様である。即ち、第３の併用手法が適用される信号処理装置（図３２３の信号処理装置）においても、第１の併用手法が適用される信号処理装置（図３１５）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、および、画像生成部４１０４が設けられている。
【２６０１】
ただし、第３の併用手法においては、実世界推定部４１０２と画像生成部４１０４のそれぞれは、実行指令生成部４１７２からの実行指令が入力されない限り、その処理を実行しない。
【２６０２】
ところで、図３２３の例では、画像の出力単位は画素単位とされている。そこで、図示はしないが、出力単位を１フレームの画像全体とするために（全ての画素を一括して出力するために）、例えば、画像生成部４１０３と画像生成部４１０４の後段に、画像合成部をさらに設けることもできる。
【２６０３】
この画像合成部は、画像生成部４１０３から出力された画素値と、画像生成部４１０４より出力された画素値を加算し（合成し）、加算した値を対応する画素の画素値とする。この場合、画像生成部４１０３と画像生成部４１０４のうちの、実行指令が供給されていない方は、その処理を実行せず、所定の一定値（例えば、０）を画像合成部に常時供給する。
【２６０４】
画像合成部は、このような処理を全ての画素について繰り返し実行し、全ての画素の処理を終了すると、全ての画素を一括して（１フレームの画像データとして）外部に出力する。
【２６０５】
次に、図３２４のフローチャートを参照して、第３の併用手法が適用される信号処理装置（図３２３）の信号の処理について説明する。
【２６０６】
なお、ここでは、第１の併用手法のときと同様に、データ定常性検出部４１０１は、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２６０７】
データ定常性検出部４１０１はまた、角度を演算するときに併せて算出される推定誤差（最小自乗法の誤差）を、領域特定情報として出力するとする。
【２６０８】
図１において、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２６０９】
図３２３において、この入力画像は、画像生成部４１０４に入力されるとともに、データ定常性検出部４１０１、および実世界推定部４１０２にも入力される。
【２６１０】
そこで、図３２４のステップＳ４１８１において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出するとともに、その推定誤差を演算する。検出された角度は、データ定常性情報として実世界推定部４１０２と画像生成部４１０３のそれぞれに供給される。また、演算された推定誤差は、領域特定情報として領域検出部４１７１に供給される。
【２６１１】
なお、ステップＳ４１８１の処理は、上述したステップＳ４１０２（図３１８）の処理と基本的に同様の処理である。
【２６１２】
また、上述したように、いまの時点においては（実行指令生成部４１７２から実行指令が供給されない限り）、実世界推定部４１０２も画像生成部４１０４もその処理を実行しない。
【２６１３】
ステップＳ４１８２において、領域検出部４１７１は、データ定常性検出部４１０１により演算された推定誤差（供給された領域特定情報）に基づいて、入力画像の注目画素（データ定常性検出部４１０１が角度を検出する場合に注目画素とした画素）の領域を検出し、その検出結果を実行指令生成部４１７２に供給する。なお、ステップＳ４１８２の処理は、上述したステップＳ４１０５（図３１８）の処理と基本的に同様の処理である。
【２６１４】
領域検出部４１７１の検出結果が実行指令生成部４１７２に供給されると、ステップＳ４１８３において、実行指令生成部４１７２は、検出された領域が、定常領域であるか否かを判定する。なお、ステップＳ４１８３の処理は、上述したステップＳ４１０６（図３１８）の処理と基本的に同様の処理である。
【２６１５】
ステップＳ４１８３において、検出された領域が定常領域ではないと判定した場合、実行指令生成部４１７２は、実行指令を画像生成部４１０４に供給する。すると、画像生成部４１０４は、ステップＳ４１８４において、「クラス分類適応処理の実行処理」を実行して、第１の画素（注目画素（入力画像のＳＤ画素）におけるＨＤ画素）を生成し、ステップＳ４１８５において、クラス分類適応処理により生成された第１の画素を、出力画像として外部に出力する。
【２６１６】
なお、ステップＳ４１８４の処理は、上述したステップＳ４１０１（図３１８）の処理と基本的に同様の処理である。即ち、図３１９のフローチャートは、ステップＳ４１８４の処理の詳細を説明するフローチャートでもある。
【２６１７】
これに対して、ステップＳ４１８３において、検出された領域が定常領域であると判定した場合、実行指令生成部４１７２は、実行指令を実世界推定部４１０２に供給する。すると、ステップＳ４１８６において、実世界推定部４１０２は、データ定常性検出部４１０１により検出された角度と、入力画像に基づいて、実世界１の信号を推定する。なお、ステップＳ４１８６の処理は、上述したステップＳ４１０３（図３１８）の処理と基本的に同様の処理である。
【２６１８】
そして、画像生成部４１０３は、ステップＳ４１８７において、実世界推定部４１０２により推定された実世界１の信号に基づいて、検出された領域（即ち、入力画像の注目画素（ＳＤ画素））における第２の画素（ＨＤ画素）を生成し、ステップＳ４１８８において、その第２の画素を出力画像として出力する。なお、ステップＳ４１８７の処理は、上述したステップＳ４１０４（図３１８）の処理と基本的に同様の処理である。
【２６１９】
第１の画素または第２の画素が出力画像として出力されると（ステップＳ４１８５、またはステップＳ４１８８の処理の後）、ステップＳ４１８９において、全画素の処理を終了したか否かが判定され、全画素の処理がまだ終了していないと判定された場合、その処理は、ステップＳ４１８１に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４１８１乃至Ｓ４１８９の処理が繰り返される。
【２６２０】
そして、ステップＳ４１８９において、全画素の処理を終了したと判定された場合、その処理は終了となる。
【２６２１】
このように、図３２４のフローチャートの例においては、第１の画素（ＨＤ画素）または第２の画素（ＨＤ画素）が生成される毎に、出力画像として第１の画素または第２の画素が画素単位で出力される。
【２６２２】
しかしながら、上述したように、図３２３の構成の信号処理装置の最終段（画像生成部４１０３と画像生成部４１０４の後段）に画像合成部（図示せず）をさらに設ければ、全ての画素の処理が終了された後、出力画像として、全ての画素を一括して出力することが可能になる。この場合、ステップＳ４１８５とステップＳ４１８８のそれぞれに処理においては、画素（第１の画素または第２の画素）は外部ではなく画像合成部に出力される。そして、ステップＳ４１８９の処理の前に、画像合成部が、画像生成部４１０３から供給される画素の画素値と、画像生成部４１０４から供給される画素の画素値を合成して、出力画像の画素を生成する処理と、ステップＳ４１８９の処理の後に、画像合成部が、全ての画素を出力する処理が追加される。
【２６２３】
次に、図３２５と図３２６を参照して、第４の併用手法について説明する。
【２６２４】
図３２５は、第４の併用手法が適用される信号処理装置の構成例を表している。
【２６２５】
図３２５において、第３の併用手法が適用される信号処理装置（図３２３）と対応する部分には、対応する符号が付してある。
【２６２６】
図３２３の構成例（第３の併用手法）においては、領域特定情報は、データ定常性検出部４１０１より出力され領域検出部４１７１に入力されていたが、図３２５の構成例（第４の併用手法）においては、領域特定情報は、実世界推定部４１０２より出力され領域検出部４１７１に入力される。
【２６２７】
その他の構成は、図３２３のそれと基本的に同様である。即ち、第４の併用手法が適用される信号処理装置（図３２５）においても、第３の併用手法が適用される信号処理装置（図３２３）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、画像生成部４１０４、並びに定常領域検出部４１６１（領域検出部４１７１および実行指令生成部４１７２）が設けられている。
【２６２８】
なお、第３の併用方法と同様に、図示はしないが、全ての画素を一括して出力するために、例えば、画像生成部４１０３と画像生成部４１０４の後段に、画像合成部をさらに設けることもできる。
【２６２９】
図３２６は、図３２５の構成の信号処理装置の信号の処理（第４の併用手法の信号の処理）を説明するフローチャートである。
【２６３０】
第４の併用手法の信号の処理は、第３の併用手法の信号の処理（図３２４のフローチャートで示される処理）と類似している。そこで、ここでは、第３の併用手法において説明した処理については、その説明を適宜省略し、以下、図３２６のフローチャートを参照して、第３の併用手法とは異なる第４の併用手法の信号の処理を中心に説明する。
【２６３１】
なお、ここでは、データ定常性検出部４１０１は、第３の併用手法と同様に、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２６３２】
ただし、上述したように、第３の併用手法においては、データ定常性検出部４１０１が領域特定情報（例えば、推定誤差）を領域検出部４１７１に供給していたのに対して、第４の併用手法においては、実世界推定部４１０２が領域特定情報（例えば、推定誤差（マッピング誤差））を領域検出部４１７１に供給する。
【２６３３】
従って、第４の併用手法においては、データ定常性検出部４１０１の処理として、ステップＳ４２０１の処理が実行される。この処理は、第３の併用手法における、図３２４のステップＳ４１８１の処理に相当する。即ち、ステップＳ４２０１において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出し、検出した角度をデータ定常性情報として、実世界推定部４１０２と画像生成部４１０３のそれぞれに供給する。
【２６３４】
また、第４の併用手法においては、実世界推定部４１０２の処理として、ステップＳ４２０２の処理が実行される。この処理は、第３の併用手法における、図３１８のステップＳ４１８２の処理に相当する。即ち、実世界推定部４１０２は、ステップＳ４２０２の処理でデータ定常性検出部４１０１により検出された角度に基づいて、実世界１（図１）の信号を推定するとともに、推定された実世界１の信号の推定誤差、即ち、マッピング誤差を演算し、それを領域特定情報として領域検出部４１７１に供給する。
【２６３５】
その他の処理は、第３の併用手法の対応する処理（図３２４のフローチャートで示される処理のうちの対応する処理）と基本的に同様であるので、その説明は省略する。
【２６３６】
次に、図３２７と図３２８を参照して、第５の併用手法について説明する。
【２６３７】
図３２７は、第５の併用手法が適用される信号処理装置の構成例を表している。
【２６３８】
図３２７において、第３と第４の併用手法が適用される信号処理装置（図３２３と図３２５）と対応する部分には、対応する符号が付してある。
【２６３９】
図３２３の構成例（第３の併用手法）においては、データ定常性検出部４１０１の後段であって、実世界推定部４１０２と画像生成部４１０４の前段に、１つの定常領域検出部４１６１が配設されている。
【２６４０】
また、図３２５の構成例（第４の併用手法）においては、実世界推定部４１０２の後段であって、画像生成部４１０３と画像生成部４１０４の前段に、１つの定常領域検出部４１６１が配設されている。
【２６４１】
これらに対して、図３２７の構成例（第５の併用手法）においては、第３の併用方法と同様に、データ定常性検出部４１０１の後段であって、実世界推定部４１０２と画像生成部４１０４の前段に、定常領域検出部４１８１が配設されている。さらに、第４の併用方法と同様に、実世界推定部４１０２の後段であって、画像生成部４１０３と画像生成部４１０４の前段に、定常領域検出部４１８２が配設されている。
【２６４２】
定常領域検出部４１８１と定常領域検出部４１８２のそれぞれは、定常領域検出部４１６１（図３２３または図３２５）と基本的に同様の構成と機能を有している。即ち、領域検出部４１９１と領域検出部４２０１はいずれも、領域検出部４１７１と基本的に同様の構成と機能を有している。また、実行指令生成部４１９２と実行指令生成部４２０２はいずれも、実行指令生成部４１７２と基本的に同様の構成と機能を有している。
【２６４３】
換言すると、第５の併用手法は、第３の併用手法と第４の併用手法を組み合わせたものである。
【２６４４】
即ち、第３の併用手法や第４の併用手法においては、１つの領域特定情報（第３の併用手法においては、データ定常性検出部４１０１からの領域特定情報であり、第４の併用手法においては、実世界推定部４１０２からの領域特定情報である）に基づいて、入力画像の注目画素が定常領域であるか非定常領域であるかが検出される。従って、第３の併用手法や第４の併用手法では、本来、非定常領域であるにも関わらず、定常領域であると検出される恐れもある。
【２６４５】
そこで、第５の併用手法においては、はじめにデータ定常性検出部４１０１からの領域特定情報（第５の併用手法の説明においては、第１の領域特定情報と称する）に基づいて、入力画像の注目画素が定常領域であるか非定常領域であるかが検出された後、さらに、実世界推定部４１０２からの領域特定情報（第５の併用手法の説明においては、第２の領域特定情報と称する）に基づいて、入力画像の注目画素が定常領域であるか非定常領域であるかが検出される。
【２６４６】
このように、第５の併用手法においては、領域の検出の処理が２回行われるので、第３の併用手法や第４の併用手法に比較して、定常領域の検出精度が上がることになる。さらに、第１の併用手法や第２の併用手法においても、第３の併用手法や第４の併用手法と同様に、１つの定常領域検出部４１０５（図３１５または図３２１）しか設けられていない。従って、第１の併用手法や第２の併用手法と比較しても、定常領域の検出精度が上がることになる。その結果、第１乃至第４の併用手法のいずれよりも実世界１（図１）の信号に近い画像データを出力することが可能になる。
【２６４７】
ただし、第１乃至第４の併用手法でも、従来の画像処理を行う画像生成部４１０４と、本発明が適用されるデータの定常性を利用して画像を生成する装置またはプログラム等（即ち、データ定常性検出部４１０１、実世界推定部４１０２、および、画像生成部４１０３）を併用していることに変わりはない。
【２６４８】
従って、第１乃至第４の併用手法でも、従来の信号処理装置や、図３の構成の本発明の信号処理のいずれよりも実世界１（図１）の信号に近い画像データを出力することが可能になる。
【２６４９】
一方、処理速度の観点からは、第１乃至第４の併用手法においては、領域の検出の処理が１回だけで済むので、領域の検出の処理を２回行う第５の併用手法よりも優れていることになる。
【２６５０】
従って、ユーザ（または製造者）等は、必要とされる出力画像の品質と、必要とされる処理時間（出力画像が出力されるまでの時間）に合致した併用手法を選択的に利用することができる。
【２６５１】
なお、図３２７におけるその他の構成は、図３２３、または、図３２５のそれと基本的に同様である。即ち、第５の併用手法が適用される信号処理装置（図３２７）においても、第３または第４の併用手法が適用される信号処理装置（図３２３、または図３２５）と基本的に同様の構成と機能を有する、データ定常性検出部４１０１、実世界推定部４１０２、画像生成部４１０３、および画像生成部４１０４が設けられている。
【２６５２】
ただし、第５の併用手法においては、実世界推定部４１０２は、実行指令生成部４１９２からの実行指令が入力されない限り、画像生成部４１０３は、実行指令生成部４２０２からの実行指令が入力されない限り、画像生成部４１０４は、実行指令生成部４１９２、または実行指令生成部４２０２からの実行指令が入力されない限り、その処理を実行しない。
【２６５３】
また、第５の併用手法においても、第３や第４の併用方法と同様に、図示はしないが、全ての画素を一括して出力するために、例えば、画像生成部４１０３と画像生成部４１０４の後段に、画像合成部をさらに設けることもできる。
【２６５４】
次に、図３２８のフローチャートを参照して、第５の併用手法が適用される信号処理装置（図３２７）の信号の処理について説明する。
【２６５５】
なお、ここでは、第３や第４の併用手法のときと同様に、データ定常性検出部４１０１は、角度（実世界１（図１）の信号の注目位置における、定常性の方向（空間方向）と、空間方向の１方向であるＸ方向（センサ２（図１）の検出素子の所定の一辺と平行な方向）とのなす角度）を最小自乗法により演算し、演算した角度をデータ定常性情報として出力するとする。
【２６５６】
また、ここでは、第３の併用手法のときと同様に、データ定常性検出部４１０１はまた、角度を演算するときに併せて算出される推定誤差（最小自乗法の誤差）を、第１の領域特定情報として出力するとする。
【２６５７】
さらに、ここでは、第４の併用手法のときと同様に、実世界推定部４１０２は、マッピング誤差（推定誤差）を、第２の領域特定情報として出力するとする。
【２６５８】
図１において、実世界１の信号がセンサ２に入射されると、センサ２からは入力画像が出力される。
【２６５９】
図３２７において、この入力画像は、データ定常性検出部４１０１、実世界推定部４１０２、および、画像生成部４１０４のそれぞれに入力される。
【２６６０】
そこで、図３２８のステップＳ４２２１において、データ定常性検出部４１０１は、入力画像に基づいて、定常性の方向に対応する角度を検出するとともに、その推定誤差を演算する。検出された角度は、データ定常性情報として実世界推定部４１０２と画像生成部４１０３のそれぞれに供給される。また、演算された推定誤差は、第１の領域特定情報として領域検出部４１９１に供給される。
【２６６１】
なお、ステップＳ４２２１の処理は、上述したステップＳ４１８１（図３２４）の処理と基本的に同様の処理である。
【２６６２】
また、上述したように、いまの時点においては（実行指令生成部４１９２から実行指令が供給されない限り）、実世界推定部４１０２も画像生成部４１０４もその処理を実行しない。
【２６６３】
ステップＳ４２２２において、領域検出部４１９１は、データ定常性検出部４１０１により演算された推定誤差（供給された第１の領域特定情報）に基づいて、入力画像の注目画素（データ定常性検出部４１０１が角度を検出する場合に注目画素とした画素）の領域を検出し、その検出結果を実行指令生成部４１９２に供給する。なお、ステップＳ４２２２の処理は、上述したステップＳ４１８２（図３２４）の処理と基本的に同様の処理である。
【２６６４】
領域検出部４１８１の検出結果が実行指令生成部４１９２に供給されると、ステップＳ４２２３において、実行指令生成部４１９２は、検出された領域が、定常領域であるか否かを判定する。なお、ステップＳ４２２３の処理は、上述したステップＳ４１８３（図３２４）の処理と基本的に同様の処理である。
【２６６５】
ステップＳ４２２３において、検出された領域が定常領域ではない（非定常領域である）と判定した場合、実行指令生成部４１９２は、実行指令を画像生成部４１０４に供給する。すると、画像生成部４１０４は、ステップＳ４２２４において、「クラス分類適応処理の実行処理」を実行して、第１の画素（注目画素（入力画像のＳＤ画素）におけるＨＤ画素）を生成し、ステップＳ４２２５において、クラス分類適応処理により生成された第１の画素を、出力画像として外部に出力する。
【２６６６】
なお、ステップＳ４２２４の処理は、上述したステップＳ４１８４（図３２４）の処理と基本的に同様の処理である。即ち、図３１９のフローチャートは、ステップＳ４１８６の処理の詳細を説明するフローチャートでもある。また、ステップＳ４２２５の処理は、上述したステップＳ４１８５（図３２４）の処理と基本的に同様の処理である。
【２６６７】
これに対して、ステップＳ４２２３において、検出された領域が定常領域であると判定した場合、実行指令生成部４１９２は、実行指令を実世界推定部４１０２に供給する。すると、ステップＳ４２２６において、実世界推定部４１０２は、ステップＳ４２２１の処理でデータ定常性検出部４１０１により検出された角度に基づいて、実世界１の信号を推定するとともに、その推定誤差（マッピング誤差）を演算する。推定された実世界１の信号は、実世界推定情報として画像生成部４１０３に供給される。また、演算された推定誤差は、第２の領域特定情報として領域検出部４２０１に供給される。
【２６６８】
なお、ステップＳ４２２６の処理は、上述したステップＳ４２０２（図３２６）の処理と基本的に同様の処理である。
【２６６９】
また、上述したように、いまの時点においては（実行指令生成部４１９２、または実行指令生成部４２０２から実行指令が供給されない限り）、画像生成部４１０３も画像生成部４１０４もその処理を実行しない。
【２６７０】
ステップＳ４２２７において、領域検出部４２０１は、実世界推定部４１０２により演算された推定誤差（供給された第２の領域特定情報）に基づいて、入力画像の注目画素（データ定常性検出部４１０１が角度を検出する場合に注目画素とした画素）の領域を検出し、その検出結果を実行指令生成部４２０２に供給する。なお、ステップＳ４２２７の処理は、上述したステップＳ４２０３（図３２６）の処理と基本的に同様の処理である。
【２６７１】
領域検出部４２０１の検出結果が実行指令生成部４２０２に供給されると、ステップＳ４２２８において、実行指令生成部４２０２は、検出された領域が、定常領域であるか否かを判定する。なお、ステップＳ４２２８の処理は、上述したステップＳ４２０４（図３２６）の処理と基本的に同様の処理である。
【２６７２】
ステップＳ４２２８において、検出された領域が定常領域ではない（非定常領域である）と判定した場合、実行指令生成部４２０２は、実行指令を画像生成部４１０４に供給する。すると、画像生成部４１０４は、ステップＳ４２２４において、「クラス分類適応処理の実行処理」を実行して、第１の画素（注目画素（入力画像のＳＤ画素）におけるＨＤ画素）を生成し、ステップＳ４２２５において、クラス分類適応処理により生成された第１の画素を、出力画像として外部に出力する。
【２６７３】
なお、いまの場合のステップＳ４２２４の処理は、上述したステップＳ４２０５（図３２６）の処理と基本的に同様の処理である。また、いまの場合のステップＳ４２２５の処理は、上述したステップＳ４２０６（図３２６）の処理と基本的に同様の処理である。
【２６７４】
これに対して、ステップＳ４２２８において、検出された領域が定常領域であると判定した場合、実行指令生成部４２０２は、実行指令を画像生成部４１０３に供給する。すると、ステップＳ４２２９において、画像生成部４１０３は、実世界推定部４１０２により推定された実世界１の信号（および、必要に応じてデータ定常性検出部４１０１からのデータ定常性情報）に基づいて、領域検出部４２０１により検出された領域（即ち、入力画像の注目画素（ＳＤ画素））における、第２の画素（ＨＤ画素）を生成する。そして、ステップＳ４２３０において、画像生成部４１０３は、生成された第２の画素を、出力画像として外部に出力する。
【２６７５】
なお、ステップＳ４２２９とＳ４２３０のそれぞれの処理は、上述したステップＳ４２０７とＳ４２０８（図３２６）のそれぞれの処理と基本的に同様の処理である。
【２６７６】
第１の画素または第２の画素が出力画像として出力されると（ステップＳ４２２５、またはステップＳ４２３０の処理の後）、ステップＳ４２３１において、全画素の処理を終了したか否かが判定され、全画素の処理がまだ終了していないと判定された場合、その処理は、ステップＳ４２２１に戻る。即ち、全ての画素の処理が終了されるまで、ステップＳ４２２１乃至Ｓ４２３１の処理が繰り返される。
【２６７７】
そして、ステップＳ４２３１において、全画素の処理を終了したと判定された場合、その処理は終了となる。
【２６７８】
以上、図３１５乃至図３２８を参照して、本発明の信号処理装置４（図１）の実施の形態の１例として、併用手法について説明した。
【２６７９】
上述したように、併用手法においては、図３の構成の本発明の信号処理装置に対してさらに、定常性を利用しない他の信号処理を行う装置（または、プログラム等）が付加されている。
【２６８０】
換言すると、併用手法においては、従来の信号処理装置（または、プログラム等）に対して、図３の構成の本発明の信号処理装置（または、プログラム等）が付加されている。
【２６８１】
即ち、併用手法においては、例えば、図３１５や図３２１の定常領域検出部４１０５が、実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した画像データ（例えば、図３１５や図３２１の入力画像）内において、画像データのデータの定常性を有する領域（例えば、図３１８のステップＳ４１０６や図３２２のステップＳ４１６６に記載の定常領域）を検出する。
【２６８２】
また、図３１５や図３２１の実世界推定部４１０２が、実世界１の光信号の定常性の一部が欠落した画像データのデータの定常性に基づいて、欠落した実世界１の光信号の定常性を推定することにより光信号を推定する。
【２６８３】
さらに、例えば、図３１５や図３２１のデータ定常性検出部４１０１が、実世界１の光信号が射影され、実世界１の光信号の定常性の一部が欠落した画像データ内において、画像データのデータの定常性の基準軸に対する角度（例えば、図３１８のステップＳ４１０２や図３２２のステップＳ４１６２に記載の角度）を検出する。この場合、例えば、図３１５や図３２１の定常領域検出部４１０５は、角度に基いて画像データのデータの定常性を有する領域を検出し、実世界推定部４１０２は、その領域に対して、欠落した実世界１の光信号の定常性を推定することにより光信号を推定する。
【２６８４】
ただし、図３１５においては、定常領域検出部４１０５は、角度に沿って定常であるモデルと入力画像との誤差（即ち、例えば、図中の領域特定情報であって、図３１８のステップＳ４１０２の処理で演算される推定誤差）に基づいて入力画像のデータの定常性を有する領域を検出する。
【２６８５】
これに対して、図３２１においては、定常領域検出部４１０５は、実世界推定部４１０２の後段に配され、実世界推定部４１０２により演算される、入力画像に対応する実世界１の光信号を表す実世界モデルと、入力画像との誤差（即ち、例えば、図中の領域特定情報であって、図３１８のステップＳ４１６３の処理で演算される実世界の信号の推定誤差（マッピング誤差））に基いて、実世界推定部４１０２により推定された実世界モデル、即ち、画像生成部４１０３から出力される画像を選択的に出力する（例えば、図３２１のセレクタ４１１２が、図３２２のステップＳ４１６６乃至Ｓ４１６８の処理を実行する）。
【２６８６】
以上、図３１５と図３２１の例で説明したが、以上のことは、図３２３、図３２５、および図３２７においても同様である。
【２６８７】
従って、併用手法においては、実世界１の信号のうちの定常性が存在する部分(画像データのデータの定常性を有する領域)については、図３の構成の信号処理装置に相当する装置（またはプログラム等）が信号処理を実行し、実世界１の信号のうちの明確な定常性が存在しない部分については、従来の信号処理装置（または、プログラム等）が信号処理を実行することが可能になる。その結果、従来の信号処理装置や、図３の構成の本発明の信号処理のいずれよりも実世界１（図１）の信号に近い画像データを出力することが可能になる。
【２６８８】
次に、図３２９，図３３０を参照して、データ定常性検出部１０１より直接画像を生成する例について説明する。
【２６８９】
図３２９のデータ定常性検出部１０１は、図１６５のデータ定常性検出部１０１に画像生成部４５０１を付加したものである。画像生成部４５０１は、実世界推定部８０２より出力される実世界の近似関数f(x)の係数を実世界推定情報として取得し、この係数に基づいて、各画素を再積分することにより画像を生成して出力する。
【２６９０】
次に、図３３０のフローチャートを参照して、図３２９のデータの定常性の検出の処理について説明する。尚、図３３０のフローチャートのステップＳ４５０１乃至Ｓ４５０４、および、ステップＳ４５０６乃至Ｓ４５１１の処理に付いては、図１６６のフローチャートのステップＳ８０１乃至Ｓ８１０の処理と同様であるのでその説明は省略する。
【２６９１】
ステップＳ４５０４において、画像生成部４５０１は、実世界推定部８０２より入力された係数に基づいて各画素を再積分して、画像を生成し出力する。
【２６９２】
以上の処理により、データ定常性検出部１０１は、領域情報のみならず、その領域判定に用いた（実世界推定情報に基づいて生成された画素からなる）画像を出力することができる。
【２６９３】
このように、図３２９のデータ定常性検出部１０１においては、画像生成部４５０１が設けられている。即ち、図３２９のデータ定常性検出部１０１は、入力画像のデータの定常性に基づいて出力画像を生成することができる。従って、図３２９で示される構成を有する装置を、データ定常性検出部１０１の実施の形態と捉えるのではなく、図１の信号処理装置（画像処理装置）４の他の実施の形態と捉えることもできる。
【２６９４】
さらに、上述した併用手法が適用される信号処理装置において、実世界１の信号のうちの定常性が存在する部分に対して信号処理を施す信号処理部として、図３２９で示される構成を有する装置（即ち、図３２９のデータ定常性検出部１０１と同様の機能と構成を有する信号処理装置）を適用することも可能である。
【２６９５】
具体的には、例えば、第１の併用手法が適用される図３１５の信号処理装置においては、実世界１の信号のうちの定常性が存在する部分に対して信号処理を施す信号処理部は、データ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０３とされている。図示はしないが、これらのデータ定常性検出部４１０１、実世界推定部４１０２、および画像生成部４１０３の代わりに、図３２９の構成の信号処理装置（画像処理装置）を適用することも可能である。この場合、図３２９の比較部８０４が、その出力を領域特定情報をとして領域検出部４１１１に供給し、また、画像生成部４５０１が、出力画像（第２の画素）をセレクタ４１１２に供給することになる。
【２６９６】
以上においては、画像の処理にあたり、積分効果を利用したセンサ２により取得された画像データを処理することにより、実世界を推定し、実世界に即した画像処理を行っていく例について説明してきた。
【２６９７】
しかしながら、センサ２に入射する光信号は、実際には、センサ２の直前に設けられたレンズなどからなる光学系を介して入射される。従って、センサ２により取得された画像から実世界を推定して画像を処理するには、光学系による影響を考慮する必要がある。
【２６９８】
図３３１は、センサ２の前段に設けられる光学系（光学ブロック５１１０）の構成例を示す図である。
【２６９９】
実世界の光信号は、光学ブロック５１１０のレンズ５１０１を経て、IRカットフィルタ５１０２に入射される。IRカットフィルタは、CCD５１０４（センサ２に対応する）で受光可能な光の周波数成分のうち、赤外領域の光の成分を除去する。この処理により、人の目では認識できない余分な光が除去される。さらに、光信号は、IRカットフィルタ５１０２を透過した後、OLPF（Optical Low Pass Filter）５１０３に入射する。
【２７００】
OLPF５１０３は、CCD５１０４の画素面積以下の範囲で変化する高周波の光信号を平滑化して、CCD５１０４の１画素分の面積内に入射される光の量のばらつきを小さくする。
【２７０１】
従って、光学ブロック５１１０による影響を考慮するには、IRカットフィルタ５１０２、および、OLPF５１０３のそれぞれについてなされる処理による影響を考慮する必要がある。ところで、このIRカットフィルタ５１０２、および、OLPF５１０３は、図３３２で示されるように、一体型のフィルタ５１１２となっており、その着脱は、一体的になされる形式となる場合がある。また、IRカットフィルタ５１０２の影響は、例えば、図３３２で示されるように、短波長の光のみを透過させるフィルタ５１１１を設けることによりその影響を抑制することができる。
【２７０２】
そこで、ここでは、OLPF５１０３による影響を考慮した画像処理について説明する。
【２７０３】
OLPF５１０３は、図３３３で示されるように２個の水晶５１２１ａ，ｂと、その２個の水晶５１２１ａ，ｂに挟まれるように位相板５１２２が設けられている。
【２７０４】
水晶板５１２１ａ，ｂは、図３３４で示されるように、それぞれの厚さがｔであり、また、光の進入方向に対して所定の角度で結晶軸が設定されている。この角度で水晶板５１２１ａに対して、ｚ方向に光が入射されると、その入射光と同じ方向に常光線を、また、入射光に対して所定の角度に異常光線をそれぞれ分離して、所定の間隔ｄ（ｘ方向に）で後段の結晶５１２１ｂに出射する。このとき、水晶板５１２１ａは、入射光のうち、相互に９０度異なる２つの波形の光を抽出して常光線（例えば、ｙ方向の波形）Ｌ１と異常光線Ｌ２（例えば、ｘ方向の波形）として出射する。
【２７０５】
位相板５１２２（図３３４においては、図示せず）は、常光線、および、異常光線のそれぞれの波形を入射された波形を透過させると共に、その波形と垂直方向の波形の光を発生して結晶板５１２１ｂに出射する。すなわち、今の場合、位相板５１２２は、入射された常光線がｙ方向の波形であるので、入射された常光線の波形を透過させると共に、ｘ方向の波形を発生し、異常光線については、入射される際にｘ方向の波形であるので、入射された異常光線そのものを透過させると共に、その波形と９０度ことなるｙ方向の波形を発生して、結晶板５１２１ｂに出射する。
【２７０６】
結晶板５１２１ｂは、入射された常光線Ｌ１と異常光線Ｌ２のそれぞれを入射位置で、それぞれ常光線と異常光線（Ｌ１とＬ３、および、Ｌ２とＬ４）に分離して、相互の距離がｄとなるように出射する。その結果、図３３５で示されるように、例えば、紙面裏側から入射される光Ｌ１は、水晶５１２１ａにより光Ｌ１，Ｌ２にそれぞれ分離され、さらに、水晶５１２１ｂによりＬ１とＬ３、および、Ｌ２とＬ４にそれぞれ分離される。尚、このとき光のエネルギーは、一回の分離で１／２に分離されているので、OLPF５１０３は、入射された光を２５％ずつ水平方向、および、垂直方向に距離ｄ（OLPF移動量ｄとも称する）だけ離れた位置に分散して出射している。結果として、CCD５１０４の各画素には、異なる４画素分の光が２５％ずつ重畳された光が受光されて画素値に変換され、画像データが生成されていることになる。
【２７０７】
このOLPF移動量ｄは、以下の式（２４８）により求められる。
【２７０８】
ｄ＝ｔ×（ｎ_e ²−ｎ_o ²）／（２×ｎ_e×ｎ_o）・・・（２４８）
【２７０９】
尚、OLPF５１０３は、上述のように、入射光を４画素に分散するのみではなく、さらに、多くの水晶を用いて、それ以外の画素数に分散させるようにしてもよい。
【２７１０】
このように光学ブロック５１１０により、センサ２に入射される光は実世界ものとは異なるものに変化している。そこで、上述した光学ブロック５１１０の特性を考慮した（ここでは、特に、OLPF５１０３の特性を考慮した）画像データの処理について説明する。
【２７１１】
図３３６は、上述の光学ブロック５１１０の特性を考慮して画像データを処理できるようにした信号処理装置の構成を示すブロック図である。尚、図３を参照して説明した構成と同様の部位については、同一の符号を付してあり、その説明は、適宜省略するものとする。
【２７１２】
OLPF除去部５１３１は、入力画像中に含まれている上述の光学ブロック５１１０のうち、特にOLPF５１０３の特性を考慮して、入力画像を光学ブロック５１１０に入射する前の画像に変換して（推定して）、データ定常性検出部１０２、および、実世界推定部１０２に出力する。
【２７１３】
次に、図３３７を参照して、図３３６のOLPF除去部５１３１の構成について説明する。
【２７１４】
クラスタップ抽出部５１４１は、入力された画像データの各画素について、対応する位置の複数の画素（例えば、図３３８で示されるような注目画素を含む水平方向、垂直方向、または、上下左右の斜方向に隣接した合計９画素。尚、図３３８においては、２重丸が注目画素であり、それ以外の画素は丸で示されている）の画素値をクラスタップとして抽出し、特徴量演算部５１４２に出力する。
【２７１５】
特徴量演算部５１４２は、クラスタップ抽出部５１４１より入力されたクラスタップの画素値に基づいて特徴量を演算して、クラス分類部５１４３に出力する。例えば、その特徴量は、クラスタップの各画素の画素値の総和であるとか、または、隣接する画素間の差分の和などである。
【２７１６】
クラス分類部５１４３は、特徴量演算部５１４２より入力された特徴量に基づいて、各画素のクラス（クラスコード）を決定し、決定したクラスの情報を予測タップ抽出部５１４５に抽出すると共に、係数メモリ５１４４を制御して、その決定したクラスに対応する予測係数を画素値演算部５１４６に供給させる。このクラスは、例えば、特徴量が隣接する画素間の差分の和であるとした場合、その和となる値の範囲に応じて設定されるものである。例えば、その和が０乃至１０の場合は、クラス１、和の値が１１乃至２０の場合は、クラス２といったようにクラスコードは設定される。
【２７１７】
係数メモリ５１４４に記憶されている、特徴量に基づいたクラスコード毎の予測係数は、図３４１を参照して、後述する学習装置５１５０により予め学習処理により演算されて記憶されている。
【２７１８】
予測タップ抽出部５１４５は、クラス分類部５１４３より入力されたクラスの情報に基づいて、入力画像の注目画素に対応する予測タップとなる複数の画素（クラスタップと同じこともある）の画素値を抽出して画素値演算部５１４６に出力する。予測タップは、クラス毎に設定されるものであり、例えば、クラス１の場合は、注目画素のみであり、クラス２の場合は、注目画素を中心とした３画素×３画素であり、クラス３の場合は、注目画素を中心とした５画素×５画素などといったものである。
【２７１９】
画素値演算部５１４６は、予測タップ抽出部５１４５より入力された予測タップとなる各画素の画素値と、係数メモリ５１４４より供給された予測係数の値に基づいて画素値を演算して、演算された画素値に基づいて出力画像を生成し、出力する。画素値演算部５１４６は、例えば、次の式（２４９）で示される積和演算を実行することにより、予測画像の画素を求める（予測推定する）。
【２７２０】
【数１９８】

【２７２１】
式（２４９）において、q'は、予測画像（生徒画像から予測される画像）の画素を表している。c_i（iは、１乃至ｎの整数値）のそれぞれは、予測タップのそれぞれを表している。また、d_iのそれぞれは、予測係数のそれぞれを表している。
【２７２２】
このように、OLPF除去部５１３１は、入力画像から、それに対するOLPFによる影響を除去した画像を予測推定する。
【２７２３】
次に、図３３９のフローチャートを参照して、図３３６を参照して説明した信号処理装置による信号の処理について説明する。尚、図３３９のフローチャートにおけるステップＳ５１０２乃至Ｓ５１０４の処理は、図４０を参照して説明した処理と同様であるので、その説明は省略する。
【２７２４】
ステップＳ５１０１において、OLPF除去部５１３１は、OLPFの除去の処理を実行する。
【２７２５】
ここで、図３４０のフローチャートを参照して、OLPFの除去の処理を説明する。
【２７２６】
ステップＳ５０１１において、クラスタップ抽出部５１４１は、入力画像の各画素についてクラスタップを抽出して、抽出したクラスタップの各画素の画素値を特徴量演算部５１４２に出力する。
【２７２７】
ステップＳ５０１２において、特徴量演算部５１４２は、クラスタップ抽出部５１４１より入力されたクラスタップの各画素の画素値に基づいて所定の特徴量を演算してクラス分類部５１４３に出力する。
【２７２８】
ステップＳ５０１３において、クラス分類部５１４３は、特徴量演算部５１４２より入力された特徴量に基づいてクラスを分類し、分類したクラスコードを予測タップ抽出部５１４５に出力する。
【２７２９】
ステップＳ５０１４において、予測タップ抽出部５１４５は、クラス分類部５１４３より入力されたクラスコードの情報に基づいて、入力画像より予測タップとなる複数の画素の画素値を抽出して、画素値演算部５１４６に出力する。
【２７３０】
ステップＳ５０１５において、クラス分類部５１４３は、係数メモリ５１４４を制御して、分類したクラス（クラスコード）に応じて、対応する予測係数を画素値演算部５１４６に読み出させる。
【２７３１】
ステップＳ５０１６において、画素値演算部５１４６は、予測タップ抽出部５１４５より入力された予測タップとなる各画素の画素値と、係数メモリ５１４４より供給された予測係数に基づいて、画素値を演算する。
【２７３２】
ステップＳ５０１７において、画素値演算部５１４６は、全画素について画素値を演算したか否かを判定し、全ての画素について画素値を演算していないと判定された場合、その処理は、ステップＳ５０１１に戻る。すなわち、全画素について、画素値が演算されたと判定されるまで、ステップＳ５０１１乃至Ｓ５０１７の処理が繰り返されることになる。
【２７３３】
ステップＳ５０１７において、全画素について画素値が演算されたと判定された場合、画素値演算部５１４６は、演算された画像を出力する。
【２７３４】
以上によれば、光学ブロック５１１０により生じたOLPF５１０３により生じる画像への影響を除去することが可能となる。
【２７３５】
次に、図３４１を参照して、図３３７の係数メモリ５１４４に予め記憶される予測係数を学習する学習装置５１５０について説明する。
【２７３６】
学習装置５１５０は、入力画像として高解像度画像を使用して、標準解像度画像からなる生徒画像と教師画像を生成して学習処理を実行する。なお、以下、標準解像度の画像を、適宜、ＳＤ(Standard Definition)画像と称する。また、ＳＤ画像を構成する画素を、適宜、ＳＤ画素と称する。また、これに対して、以下、高解像度の画像を、適宜、ＨＤ(High Definition)画像と称する。また、ＨＤ画像を構成する画素を、適宜、ＨＤ画素と称する。
【２７３７】
さらに、学習部５１５２のクラスタップ抽出部５１６２、特徴量演算部５１６３、および、予測タップ抽出部５１６５は、図３３７のOLPF除去部５１３１のクラスタップ抽出部５１４１、特徴量演算部５１４２、および、予測タップ抽出部５１４５と同様のものであるので、その説明は省略する。
【２７３８】
生徒画像生成部５１５１は、入力画像であるＨＤ画像をOLPF５１０３を考慮してＳＤ画像に変換し、OLPF５１０３により光学的に影響を受けた生徒画像を生成して、学習部５１５２の画像メモリ５１６１に出力する。
【２７３９】
学習部５１５２の画像メモリ５１６１は、入力されたＳＤ画像からなる生徒画像を一時的に記憶した後、順次クラスタップ抽出部５１６２、および、予測タップ抽出部５１６５に出力する。
【２７４０】
クラス分類部５１６４は、特徴量抽出部５１６３より入力された各画素毎のクラスの分類結果（上述のクラスコード）を予測タップ抽出部５１６５、および、学習メモリ５１６７に出力する。
【２７４１】
足し込み演算部５１６６は、予測タップ抽出部５１６５より入力される予測タップの各画素の画素値と、教師画像生成部５１５３より入力される画像の画素の画素値から後述する正規方程式を生成する際に必要とされる各項のサメーションの項を足し込みにより生成し、学習メモリ５１６７に出力する。
【２７４２】
学習メモリ５１６７は、クラス分類部５１６４より供給されるクラスコードと、足し込み演算部５１６６より入力される足し込み結果を対応付けて記憶し、適宜正規方程式演算部５１６８に供給する。
【２７４３】
正規方程式演算部５１６８は、学習メモリ５１６７に記憶されているクラスコードと、足し込み結果に基づいて正規方程式を生成すると共に、その正規方程式を演算して、各予測係数を求めて、係数メモリ５１５４にクラスコードに対応付けて記憶させる。尚、この係数メモリ５１５４に記憶された予測係数が、図３３７のOLPF除去部５１３１の係数メモリに記憶されることになる。
【２７４４】
正規方程式演算部５１６８についてさらに詳しく説明する。
【２７４５】
上述した式（２４９）において、学習前は予測係数d_iのそれぞれが未定係数である。学習は、クラスコード毎に複数の教師画像の画素を入力することによって行う。所定のクラスコードに対応する教師画像の画素がｍ個存在し、ｍ個の教師画像の画素のそれぞれを、q_k（ｋは、１乃至ｍの整数値）と記述する場合、式（２４９）から、次の式（２５０）が設定される。
【数１９９】

【２７４６】
即ち、式（２５０）は、右辺の演算をすることで、所定の教師画像の画素q_kを予測推定することができることを表している。なお、式（２５０）において、e_kは誤差を表している。即ち、右辺の演算結果である予測画像（生徒画像から予測演算することにより得られる画像）の画素q_k'が、実際の教師画像の画素q_kと厳密には一致せず、所定の誤差e_kを含む。
【２７４７】
そこで、式（２５０）において、例えば、誤差ekの自乗和を最小にするような予測係数d_iが、学習により求まればよい。
【２７４８】
具体的には、例えば、ｍ＞ｎとなるように、教師画像の画素q_kを学習により集めることができれば、最小自乗法によって予測係数d_iが一意に決定される。
【２７４９】
即ち、式（２５０）の右辺の予測係数d_iを最小自乗法で求める場合の正規方程式は、次の式（２５１）で表される。
【２７５０】
【数２００】

【２７５１】
従って、式（２５１）で示される正規方程式が生成されれば、その正規方程式を解くことで予測係数d_iが一意に決定されることになる。
【２７５２】
具体的には、式（２５１）で示される正規方程式の各行列のそれぞれを、次の式（２５２）乃至（２５４）のように定義すると、正規方程式は、次の式（２５５）のように表される。
【２７５３】
【数２０１】

【２７５４】
【数２０２】

【２７５５】
【数２０３】

【２７５６】
【数２０４】

【２７５７】
式（２５３）で示されるように、行列Ｄ_MATの各成分は、求めたい予測係数d_iである。従って、式（２５５）において、左辺の行列Ｃ_MATと右辺の行列Ｑ_MATが決定されれば、行列解法によって行列Ｄ_MAT（即ち、予測係数d_i）の算出が可能である。
【２７５８】
より具体的には、式（２５２）で示されるように、行列Ｃ_MATの各成分は、予測タップc_ikが既知であれば演算可能である。予測タップc_ikは、予測タップ抽出部５１６５により抽出されるので、足し込み演算部５１６６は、予測タップ抽出部５１６５より供給された予測タップc_ikのそれぞれを利用して行列Ｃ_MATの各成分を足し込み演算することができる。
【２７５９】
また、式（２５４）で示されるように、行列Ｑ_MATの各成分は、予測タップc_ikと教師画像の画素q_kが既知であれば演算可能である。予測タップc_ikは、行列Ｃ_MATの各成分に含まれるものと同一のものであり、また、教師画像の画素q_kは、予測タップc_ikに含まれる注目画素（生徒画像のＳＤ画素）に対する教師画像のＳＤ画素である。従って、足し込み演算部５１６６は、予測タップ抽出部５１６５より供給された予測タップc_ikと、教師画像を利用して行列Ｑ_MATの各成分を足し込み演算することができる。
【２７６０】
このようにして、足し込み演算部５１６６は、行列Ｃ_MATと行列Ｑ_MATの各成分を演算し、その演算結果をクラスコードに対応付けて、学習メモリ５１６７に記憶させる。
【２７６１】
正規方程式演算部５１６８は、学習メモリ５１６７に記憶されているクラスコードに対応して正規方程式を生成し、上述した式（２５５）の行列ＤMATの各成分である予測係数d_iを演算する。
【２７６２】
具体的には、上述した式（２５５）の正規方程式は、次の式（２５６）のように変形できる。
【２７６３】
【数２０５】

【２７６４】
式（２５６）において、左辺の行列Ｄ_MATの各成分が、求めたい予測係数d_iである。また、行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分は、学習メモリ５１６７より供給されるものである。従って、正規方程式演算部５１６８は、学習メモリに記憶された所定のクラスコードに対応する行列Ｃ_MATと行列Ｑ_MATのそれぞれの各成分が供給されてきたとき、式（２５５）の右辺の行列演算を行うことで行列Ｄ_MATを演算し、その演算結果（予測係数d_i）をクラスコードに対応付けて係数メモリ５１５４に記憶させる。
【２７６５】
次に、上述の図３３７のOLPF除去部５１３１と学習部５１３１との関係から、学習に用いられる生徒画像と教師画像について説明する。
【２７６６】
図３４２で示されるように、学習部５１５２は、OLPF５１０３によりフィルタ処理された画像（以下、OLPF有り画像と称する）と、OLPF５１０３によりフィルタ処理されていない画像（以下、OLPF無し画像と称する）を用いて学習により予測係数を求める。
【２７６７】
そして、学習部５１５２により予め学習で求められた予測係数を用いて、OLPF除去部５１３１は、OLPF有り画像をOLPF５１０３によるフィルタ処理の影響を除去した画像（以下、OLPF除去画像と称する）に変換する（上述の図３３９のフローチャートを参照して説明した処理）。
【２７６８】
すなわち、図３４３で示されているように、学習部５１５２でなされる学習処理は、OLPF無し画像である教師画像と、OLPF有り画像である生徒画像からなる学習対を用いて実行される。
【２７６９】
このため、OLPFを設けた状態で入射される光をセンサ２で受光した場合の画像と、OLPFを設けない状態でセンサ２で受光した画像とを生成して学習対とすることになるが、実際には、それぞれの画像を画素単位で正確に位置合わせして使用することが極めて困難である。
【２７７０】
そこで、学習装置５１１０は、入力画像に高解像度画像を用いて、OLPF有り画像とOLPF無し画像をシミュレーションにより生成している。
【２７７１】
ここでは、学習装置５１１０における教師画像生成部５１５３による教師画像の生成手法と、生徒画像生成部５１５１による生徒画像の生成手法について説明する。
【２７７２】
図３４４は、学習装置５１１０の教師画像生成部５１５３と、生徒画像生成部５１５１のそれぞれの詳細な構成を示すブロック図である。
【２７７３】
教師画像生成部５１５３の１／１６平均処理部５１５３ａは、入力画像である高解像度画像の全範囲において、４画素×４画素の合計１６画素の画素値の平均画素値を求め、その１６画素の全ての画素値を求められた平均画素値に置き換えて教師画像を生成して出力する。このように処理することにより、ＨＤ画像の画素数は、見かけ上１／１６の画素数（水平方向、および、垂直方向に各々１／４の画素数となる）となる。
【２７７４】
すなわち、この１／１６平均処理部５１５３ａは、入力画像であるＨＤ画像の各画素をセンサ２に入射される光に見立て、ＨＤ画像の４画素×４画素の範囲をＳＤ画像の１画素と見立てることにより、一種の空間的な積分効果を生じさせ、OLPF５１０３による影響のない、センサ２で生成される画像（OLPF無し画像）を仮想的に生成する。
【２７７５】
生徒画像生成部５１５１のOLPFシミュレーション処理部５１５１ａは、入力されたＨＤ画像の各画素について、図３３４、および、図３３５を参照して説明したように、各画素の画素値を２５％ずつ分散させて、重畳することにより、ＨＤ画像の各画素を光と見てたときにOLPF５１０３により生じる作用をシミュレーションする。
【２７７６】
１／１６平均処理部５１３５ｂは、教師画像生成部５１５３の１／１６平均処理部５１５３ａと同様のものであり、４画素×４画素の合計１６画素の平均画素値を１６画素の全ての画素値と置き換え、ＳＤ画像の生徒画像を生成する。
【２７７７】
より詳細には、OLPFシミュレーション処理部５１５１ａは、例えば、図３４５で示されるように、入射位置の画素Ｐ１の画素値を１／４にした値を画素Ｐ１乃至Ｐ４のそれぞれに分散し、この処理を全ての画素において実施し、それぞれに分散した値を重畳することにより画素値を求める。この処理により、例えば、図３４５における画素Ｐ４は、画素Ｐ１乃至Ｐ４の平均画素値となる。
【２７７８】
ここで、図３４５において、各マス目は、ＨＤ画像の１画素に対応する。また、点線で囲まれる４画素×４画素がＳＤ画像の１画素に対応する。
【２７７９】
すなわち、図３４５においては、画素Ｐ１，Ｐ２との距離、画素Ｐ１，Ｐ３との距離、および、画素Ｐ２，Ｐ４の距離は、図３３５で示されるOLPF５１０３による移動量ｄに相当する。
【２７８０】
画素Ｐ１，Ｐ２との距離、画素Ｐ１，Ｐ３との距離、および、画素Ｐ２，Ｐ４の距離が、２画素となるのは、図３４６で示されるように、実際のOLPF５１０３によるOLPF移動量ｄが3.35μｍであるのに対して、実際のCCD５１０４の画素のピッチ（画素間の水平方向、および、垂直方向の幅）が6.45μｍであり、その相対比が1.93であるからである。すなわち、図中の点線で囲まれているようにOLPF移動量を２画素に設定し、画素ピッチを４画素とすることにより、相対比が2.0となるので、実測値の1.93に近い状態で、センサ２に入射される前のOLPF５１０３により生じる現象をシミュレーションすることができる。
【２７８１】
同様にして、図３４６で示されているように、OLPF移動量を４画素にして、画素ピッチを８画素にしてもよく、この比率を維持しつつOLPF移動量と画素ピッチを設定すれば、その他のOLPF移動量と画素ピッチでもよい。さらに、OLPF移動量を６画素として、画素ピッチを１１画素にすることにしても、相対比は1.83とすることができるため、この比率による処理シミュレーションを行ってもよい。
【２７８２】
教師画像生成部５１５３が、図３４７で示されるような画像を生成する場合、生徒画像生成部５１５１は、図３４８で示されるような画像を生成する。両者ともＨＤ画像の４画素×４画素が実質的にＳＤ画像の１画素として表示されているので、モザイク状の画像となっているが、図３４７で示される教師画像は、図中の白で示されるエッジ部分が、図３４８で示される生徒画像に比べてはっきりとしており、生徒画像にOLPF５１０３の影響が生じたような画像が生成されている。
【２７８３】
次に、図３４９のフローチャートを参照して、学習の処理について説明する。
【２７８４】
ステップＳ５０３１において、生徒画像生成部５１５１のOLPFシミュレーション処理部５１５１ａは、入力されたＨＤ画像の各画素の画素値を図３４５を参照して説明したように、２５％ずつ４画素に分散し、各画素位置に分散された画素値を重畳することにより画素値を生成して、OLPF５１０３による作用をシミュレーションして、処理結果を１／１６平均処理部５１５１ｂに出力する。
【２７８５】
ステップＳ５０３２において、１／１６平均処理部５１５１ｂは、OLPFシミュレーション処理部５１５１ａより入力されたOLPFシミュレーション処理された画像を４画素×４画素の合計１６画素単位で平均画素値を求め、さらに、その１６画素の画素値をその平均画素値に順次置き換えて、見かけ上のＳＤ画像となった生徒画像を生成し学習部５１５２の画像メモリ５１６１に出力する。
【２７８６】
ステップＳ５０３３において、クラスタップ抽出部５１６２は、画像メモリ５１６１に記憶された画像データより注目画素のクラスタップとなる画素の画素値を抽出し、抽出した画素の画素値を特徴量演算部５１６３に出力する。
【２７８７】
ステップＳ５０３４において、特徴量抽出部５１６３は、クラスタップ抽出部５１６２より入力されたクラスタップの画素の画素値の情報を用いて、注目画素に対応する特徴量を演算し、クラス分類部５１６４に出力する。
【２７８８】
ステップＳ５０３５において、クラス分類部５１６４は、入力された特徴量に基づいて、注目画素となる画素に対応するクラスを分類してクラスコードを決定し、予測タップ抽出部５１６５に出力すると共に、学習メモリに記憶させる。
【２７８９】
ステップＳ５０３６において、予測タップ抽出部５１６５は、クラス分類部５１６４より入力されたクラスコードに基づいて、画像メモリ５１６１に記憶された画像データの注目画素に対応する予測タップの画素の画素値の情報を抽出して、足し込み演算部５１６６に出力する。
【２７９０】
ステップＳ５０３７において、教師画像生成部５１５３の１／１６平均処理部５１５３ａは、入力画像であるＨＤ画像を４画素×４画素の合計１６画素単位で平均画素値を求め、求められた平均画素値を、その１６画素の画素値に置き換えることにより、OLPF５１０３による影響を受けていないOLPF無し画像（見かけ上ＳＤ画像）を生成して足し込み演算部５１６６に出力する。
【２７９１】
ステップＳ５０３８において、足し込み演算部５１６６は、予測タップ抽出部５１６５より入力された予測タップの画素の画素値と、教師画像生成部５１５３より入力された教師画像の各画素の画素値に基づいて、正規方程式の各項のサメーションとなる値を足し込み、学習メモリ５１６７に出力して、クラスコードに対応付けて記憶させる。
【２７９２】
ステップＳ５０３９において、正規方程式演算部５１６８は、入力画像について、全画素について足し込み処理が終了したか否かを判定し、全画素について足し込み処理が終了していないと判定した場合、その処理は、ステップＳ５０３２に戻り、それ以降の処理が繰り返される。すなわち、全画素について足し込み処理が終了するまでステップＳ５０３２乃至Ｓ５０３９の処理が繰り返されることになる。
【２７９３】
ステップＳ５０３９において、全画素について足し込みが終了したと判定された場合、ステップＳ５０４０において、正規方程式演算部５１６８は、学習メモリ５１６７に記憶されている足し込み結果に基づいて、クラスコードに対応付けて正規方程式を演算し、予測係数を求め係数メモリ５１５４に出力する。
【２７９４】
ステップＳ５０４１において、正規方程式演算部５１６８は、全クラスの予測係数の演算が終了したか否かを判定し、全クラスについて予測係数の演算が終了していないと判定した場合、その処理は、ステップＳ５０４０に戻る。すなわち、全クラスについて予測係数の演算が終了するまで、ステップＳ５０４０の処理が繰り返される。
【２７９５】
ステップＳ５０４１において、全クラスについて予測係数の演算が終了したと判定された場合、その処理は終了する。
【２７９６】
以上の学習の処理により、係数メモリ５１５４に記憶されている予測係数を係数メモリ５１４４にコピーするなどして、使用することでOLPF除去部５１３１は、OLPF５１０３によりフィルタ処理された入力画像から、OLPFの処理効果を除去した実世界の画像に近い画像を生成することが可能となる。
【２７９７】
例えば、このようにして求められた予測係数を用いることにより、OLPF除去部５１３１は、図３４８で示されるような、OLPF５１０３によるフィルタ処理がなされた画像（OLPF５１０３による処理をシミュレーションして得られた画像）が入力された場合、図３４０のフローチャートを参照して説明したOLPFの除去の処理により図３５０で示されるような画像を生成する。
【２７９８】
このように処理された図３５０で示される画像は、図３４７で示されるようなOLPF５１０３によるフィルタ処理がない状態の入力画像と比較してもほぼ同様の画像となっているのがわかる。
【２７９９】
また、図３５１で示されるように、図３４７，図３４８、および、図３５０の画像のｙ方向の所定の同位置で、ｘ方向に画素値の変化を比較しても、OLPFによる効果を除去した画像は、OLPFによるフィルタ処理がなされた画像よりも、OLPFによる効果を与えなかった画像に近い値となっていることがわかる。
【２８００】
尚、図３５１においては、実線が、図３４７の画像（OLPF無し画像）に対応する画素値の変化であり、点線が、図３４８の画像（OLPF有り画像）であり、さらに、一点鎖線が、図３５０の画像（OLPF除去画像）である。
【２８０１】
以上によれば、それぞれ空間積分効果を有する複数の画素に現実世界の光信号が光学ローパスフィルタを介して射影された画像データが取得され、光学ローパスフィルタにより空間方向のうち少なくとも１次元方向に光信号が分散して積分されていることが考慮されて光学ローパスフィルタに入射される光信号を推定するようにしたので、データが取得された現実世界を考慮し、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることが可能となる。
【２８０２】
以上の例においては、データ定常性検出部１０１の前段で、OLPF５１０３によるフィルタ処理の影響を除去する例について説明してきたが、実世界推定部１０２によりOLPF５１０３の影響を考慮して実世界を推定するようにしてもよい。従って、この場合、信号処理装置の構成は、図３を参照して説明した構成となる。
【２８０３】
図３５２は、OLPF５１０３の影響を考慮して実世界を推定するようにした実世界推定部１０２の構成を示すブロック図である。
【２８０４】
図３５２で示されるように、実世界推定部１０２には、条件設定部５２０１、入力画像記憶部５２０２、入力画素値取得部５２０３、積分成分演算部５２０４、正規方程式生成部５２０５、および近似関数生成部５２０６が設けられている。
【２８０５】
条件設定部５２０１は、注目画素に対応する関数F(x,y)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y)，g(x,y)の次数nを設定する。
【２８０６】
入力画像記憶部５２０２は、センサ２からの入力画像（画素値）を一次格納する。
【２８０７】
入力画素値取得部５２０３は、入力画像記憶部５２０２に記憶された入力画像のうちの、条件設定部５２０１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部５２０５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【２８０８】
ところで、図３４４，図３４５を参照して説明したように、OLPF５１０３は、入射してきた光をOLPF移動量ｄで４点に分散している。従って、画像上の各画素は、図３５３で示されるように、自らの位置を含めた４点の画素値の２５％ずつが重畳されて画素値が生成される。尚、図３５３においては、点線で囲まれている範囲が異なる４画素のポイントを示しており、各々の２５％が重畳されていることが示されている。
【２８０９】
以上のことから、OLPF５１０３によって図３５４で示されるように４点に分散されており、この分散された、センサ２の直前の光の分布を示す近似関数g(x,y)は、実世界を近似する近似関数f(x,y)を用いて、以下の式（２５７）で示されるような関係式となる。尚、図３５４においては、各上に凸の曲線が近似関数f(x,y)を示しており、これらが４個に分散された後、重畳された近似関数がg(x,y)である。
【２８１０】
g(x,y)＝f(x,y)＋f(x−d,y)＋f(x,y−d)＋f(x−d,y−d)・・・（２５７）
【２８１１】
また、実世界の近似関数f(x,y)は、以下の式（２５８）で示される。
【数２０６】

【２８１２】
ここで、w_iは、近似関数の係数を示し、ｓ（＝cotθ：θは定常性の角度）は、定常性の傾きを示す。
【２８１３】
従って、センサ２直前の光の分布を示す近似関数g(x,y)は、以下の式（２５９）で示される。
【２８１４】
【数２０７】

実世界推定部１０２は、上述したように、近似関数f(x,y)の特徴量w_iを演算する。
【２８１５】
式（２５９）は、次の式（２６０）のように表現することができる。
【２８１６】
【数２０８】

【２８１７】
式（２６０）において、S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、i次項の積分成分を表している。即ち、積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、次の式（２６１）で示される通りである。
【２８１８】
【数２０９】

【２８１９】
積分成分演算部５２０４は、この積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）を演算する。
【２８２０】
具体的には、式（２６１）で示される積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）は、相対画素位置(x,y)、傾きｓ、および、i次項のiが既知であれば、演算可能である。これらのうちの、相対画素位置(x,y)は注目画素とタップ範囲により、変数sはcotθであるので角度θにより、iの範囲は次数nにより、それぞれ決定される。
【２８２１】
従って、積分成分演算部５２０４は、条件設定部５２０１により設定されたタップ範囲および次数、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分S_i（x-0.5,x+0.5,y-0.5,y+0.5）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部５２０５に供給する。
【２８２２】
正規方程式生成部５２０５は、入力画素値取得部５２０３より供給された入力画素値テーブルと、積分成分演算部５２０４より供給された積分成分テーブルを利用して、上述した式（２６０）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部５２０６に出力する。なお、正規方程式の具体例については後述する。
【２８２３】
近似関数生成部５２０６は、正規方程式生成部５２０５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、上述した式（２５９）の特徴量w_i（即ち、２次元多項式である近似関数f(x,y)の係数w_i）のそれぞれを演算し、画像生成部１０３に出力する。
【２８２４】
次に、図３５５のフローチャートを参照して、OLPF５１０３の影響を考慮した実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【２８２５】
例えば、いま、傾きG_Fで表される空間方向の定常性を有する実世界１の光信号が、センサ２により検出されて、１フレームに対応する入力画像として、入力画像記憶部５２０２に既に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０）の定常性の検出の処理において、入力画像のうちの、データ定常性情報として角度θを既に出力しているとする。
【２８２６】
この場合、ステップＳ５２０１において、条件設定部５２０１は、条件（タップ範囲と次数）を設定する。
【２８２７】
例えば、いま、図３５６で示されるタップ範囲５２４１が設定されるとともに、次数として５次が設定されたとする。
【２８２８】
即ち、図３５６は、タップ範囲の１例を説明する図である。図３５６において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向を表している。また、タップ範囲５２４１は、Ｘ方向に４画素分、かつＹ方向に５画素分の総計２０個の画素（図中、２０個の正方形）からなる画素群を表している。
【２８２９】
さらに、図３５６に示されるように、注目画素が、タップ範囲５２４１のうちの、図中、左から２画素目であって、下から３画素目の画素に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y)（注目画素の中心(0,0)を原点とする注目画素座標系の座標値）に応じて、図３５６で示されるような番号l（lは、０乃至１９のうちのいずれかの整数値）が付されるとする。
【２８３０】
図３５５に戻り、ステップＳ５２０２において、条件設定部５２０１は、注目画素を設定する。
【２８３１】
ステップＳ５２０３において、入力画素値取得部５２０３は、条件設定部５２０１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部５２０３は、入力画素値テーブルとして、２０個の入力画素値P(l)からなるテーブルを生成する。
【２８３２】
なお、いまの場合、入力画素値P(l)と、上述した入力画素値P(x,y)の関係は、次の式（２６２）で示される関係とされる。ただし、式（２６２）において、左辺が入力画素値P（ｌ）を表し、右辺が入力画素値P(x,y)を表している。
【２８３３】
【数２１０】

【２８３４】
ステップＳ５２０４において、積分成分演算部５２０４は、条件設定部５２０１により設定された条件（タップ範囲および次数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【２８３５】
いまの場合、上述したように、入力画素値は、P(x,y)でなくP(l)といった、画素の番号lの値として取得されるので、積分成分演算部５２０４は、上述した式（２６１）の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)を、次の式（２６３）の左辺で示される積分成分S_i(l)といったlの関数として演算する。
【２８３６】
Si(ｌ) ＝ Si(x-0.5,x+0.5,y-0.5,y+0.5) ・・・（２６３）
【２８３７】
具体的には、いまの場合、次の式（２６４）で示される積分成分S_i(l)が演算される。
【２８３８】
【数２１１】

【２８３９】
なお、式（２６４）において、左辺が積分成分S_i（ｌ)を表し、右辺が積分成分Si(x-0.5,x+0.5,y-0.5,y+0.5)を表している。即ち、いまの場合、iは０乃至５であるので、２０個のS₀(l),２０個のS₁(l),２０個のS₂(l),２０個のS₃(l),２０個のS₄(l),２０個のS₅(l)の総計１２０個のS_i(l)が演算されることになる。
【２８４０】
より具体的には、はじめに、積分成分演算部５２０４は、データ定常性検出部１０１より供給された角度θに対するcotθを演算し、それを変数ｓとする。次に、積分成分演算部５２０４は、演算した変数ｓを使用して式（２６４）の右辺で示される２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)のそれぞれを、i=０乃至５のそれぞれについて演算する。即ち、１２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)が演算されることになる。なお、この積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)の演算においては、上述した式（２６１）が使用される。そして、積分成分演算部５２０４は、式（２６４）に従って、演算した１２０個の積分成分S_i(x-0.5,x+0.5,y-0.5,y+0.5)のそれぞれを、対応するS_i(l)のそれぞれに変換し、変換した１２０個のS_i(l)を含む積分成分テーブルを生成する。
【２８４１】
なお、ステップＳ５２０３の処理とステップＳ５２０４の処理の順序は、図３５５の例に限定されず、ステップＳ５２０４の処理が先に実行されてもよいし、ステップＳ５２０３の処理とステップＳ５２０４の処理が同時に実行されてもよい。
【２８４２】
次に、ステップＳ５２０５において、正規方程式生成部５２０５は、ステップＳ５２０３の処理で入力画素値取得部５２０３により生成された入力画素値テーブルと、ステップＳ５２０４の処理で積分成分演算部５２０４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【２８４３】
具体的には、いまの場合、上述した式（２６０）を利用して最小自乗法により特徴量wiが演算される（ただし、式（２５８）において、積分成分Si(x-0.5,x+0.5,y-0.5,y+0.5)は、式（２６２）により変換されるSi(l)が使用される）ので、それに対応する正規方程式は、次の式（２６５）のように表される。
【２８４４】
【数２１２】

【２８４５】
なお、式（２６５）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、多項式である近似関数f(x)の次数を表している。具体的には、いまの場合、n=5となり、L=１９となる。
【２８４６】
式（２６５）で示される正規方程式の各行列のそれぞれを、次の式（２６６）乃至（２６８）のように定義すると、正規方程式は、次の式（２６９）のように表現される。
【２８４７】
【数２１３】

【２８４８】
【数２１４】

【２８４９】
【数２１５】

【２８５０】
【数２１６】

【２８５１】
式（２６７）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（２６９）において、左辺の行列Ｓ_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MATの演算が可能になる。
【２８５２】
具体的には、式（２６６）で示されるように、行列Ｓ_MATの各成分は、上述した積分成分S_i(l)で演算可能である。即ち、積分成分S_i(l)は、積分成分演算部５２０４より供給された積分成分テーブルに含まれているので、正規方程式生成部５２０５は、積分成分テーブルを利用して行列Ｓ_MATの各成分を演算することができる。
【２８５３】
また、式（２６８）で示されるように、行列Ｐ_MATの各成分は、積分成分S_i(l)と入力画素値P(l)で演算可能である。即ち、積分成分S_i(l)は、行列Ｓ_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部５２０３より供給された入力画素値テーブルに含まれているので、正規方程式生成部５２０５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【２８５４】
このようにして、正規方程式生成部５２０５は、行列Ｓ_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列Ｓ_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部５２０６に出力する。
【２８５５】
正規方程式生成部５２０５より正規方程式テーブルが出力されると、ステップＳ５２０６において、近似関数生成部５２０６は、正規方程式テーブルに基づいて、上述した式（２６７）の行列W_MATの各成分である特徴量w_i（即ち、２次元多項式である近似関数f(x,y)の係数w_i）を演算する。
【２８５６】
具体的には、上述した式（２６９）の正規方程式は、次の式（２７０）のように変形できる。
【２８５７】
【数２１７】

【２８５８】
式（２７０）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列S_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部５２０５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部５２０６は、正規方程式テーブルを利用して、式（２７０）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【２８５９】
ステップＳ５２０７において、近似関数生成部５２０６は、全画素の処理を終了したか否かを判定する。
【２８６０】
ステップＳ５２０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ５２０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ５２０２乃至Ｓ５２０７の処理が繰り返される。
【２８６１】
そして、全画素の処理が終了すると（ステップＳ５２０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【２８６２】
図３５７Ａは、高精細の入力画像（自転車のスポークの画像）を示しており、図３５７Ｂは、図３５７Ａの画像がOLPF５１０３により処理された画像であり、図３５７Ｃは、上述した図３５５のフローチャートを参照して説明した処理により図３５７Ｂの画像から推定された実世界の近似関数を用いて画素を生成した画像であり、図３５７Ｄは、図３５７Ｂの画像を従来のクラス分類適応処理により生成した画像である。
【２８６３】
図３５７Ｃの画像は、図３５７Ｄの画像に比べて、エッジが強く表示されスポークの輪郭がはっきりと表示されていることがわかる。
【２８６４】
また、図３５８は、図３５７Ａ乃至Ｄの画像の所定の垂直方向の位置における水平方向の画素値の変化を示した図である。図３５８においては、１点鎖線は、５２−６Ａの画像に、実線は、図３５７Ｂの画像に、点線は、図３５７Ｃの画像に、２点鎖線は、図３５７Ｄの画像にそれぞれ対応している。図３５８で示されるように、スポークの像を表示している空間方向Ｘ＝１０付近において、図３５２の実世界推定部１０２によりOLPF５１０３の影響を考慮した処理の画像である点線の方が、２点鎖線で示される従来のクラス分類適応処理により生成された画像よりも、入力画像に近い値が得られているのがわかる。
【２８６５】
特に、画素値の値が小さい部分は、スポークのエッジ部分の照り返し部分であるが、この部分については、OLPFを考慮した処理により表現力が向上している。
【２８６６】
図３５２の実世界推定部１０２によれば、OLPF５１０３による影響を考慮した実世界の近似関数f(x)を求めることが可能となり、さらに、OLPF５１０３による影響を考慮した実世界の近似関数f(x)からOLPF５１０３による影響を考慮した画素を生成することが可能となる。
【２８６７】
以上、２次元多項式近似手法の説明として、空間方向（X方向とY方向）に対する近似関数f(x,y)の係数（特徴量）w_iを演算する例を用いたが、もちろん、空間方向（X方向、または、Y方向）のいずれかのみに適用し、１次元多項式近似手法としてもよい。
【２８６８】
以上によれば、それぞれ空間積分効果を有する複数の画素に現実世界の光信号が光学ローパスフィルタを介して射影され、現実世界の光信号の定常性の一部が欠落した画像データの空間方向のうち少なくとも１次元方向の位置に対応する注目画素の画素値が、光学ローパスフィルタに対応した複数の実世界関数の少なくとも１次元方向の積分により取得された画素値であるとして複数の実世界関数を推定することにより、現実世界の光信号に対応する関数を推定するようにしたので、より忠実に実世界を推定することが可能となる。
【２８６９】
以上においては、図３３６の信号処理装置においては、センサ２から入力される画像よりOLPF５１０３の影響を除去するようにして信号処理を実行し、図３５２の実世界推定部１０２では、OLPF５１０３の影響を考慮して実世界の近似関数を推定する処理により、結果的に信号処理においてOLPF５１０３の影響を考慮した処理を行ってきたが、例えば、OLPF無しのＨＤ画像を教師画像とし、OLPF有りのＳＤ画像を生徒画像として学習により予測係数を設定し、クラス分類適応処理により画像を生成するようにしてもよい。
【２８７０】
図３５９は、OLPF無しのＨＤ画像を教師画像とし、OLPF有りのＳＤ画像を生徒画像として学習により予測係数を設定し、クラス分類適応処理により画像を生成するようにした信号処理装置５２２１の構成を示すブロック図である。
【２８７１】
尚、図３５９における信号処理装置５２２１は、実質的に、図３３７のOLPF除去部５１３１と同様の構成であり、信号処理装置５２２１のクラスタップ抽出部５２４１、特徴量演算部５２４２、クラス分類部５２４３、係数メモリ５２４４、予測タップ抽出部５２４５、および、画素値演算部５２４６は、OLPF除去部５１３１の信号処理装置５１４１のクラスタップ抽出部５１４１、特徴量演算部５１４２、クラス分類部５１４３、係数メモリ５１４４、予測タップ抽出部５１４５、および、画素値演算部５１４６は、同様のものであるのでその説明は省略する。ただし、係数メモリ５２４４に記憶されている予測係数は、係数メモリ５１４４とは異なる学習により得られたものであり、異なるものである。係数メモリ５２４４に記憶される予測係数の学習については、図３６１の学習装置を参照して後述する。
【２８７２】
次に、図３６０のフローチャートを参照して、図３５９の信号処理装置５２２１による信号の処理について説明するが、実質的に、図３４０のフローチャートにおける処理と同様であるので、その説明は省略する。
【２８７３】
以上によれば、それぞれ空間積分効果を有する複数の画素に現実世界の光信号が光学ローパスフィルタを介して射影されることにより取得される第１の画像データを取得し、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出し、第１の画像データから光学ローパスフィルタに入射される光信号が直接射影されることにより取得される第２の画像データを予測するように予め学習し、抽出した複数の画素と予測に基いて第２の画像データ内の注目画素の画素値を予測するようにしたので、実世界に忠実な画像を生成することが可能となる。
【２８７４】
次に、図３６１を参照して、図３５９の信号処理装置の係数メモリ５２４４に記憶される予測係数を学習する（上述における図３５９の信号処理装置は、予測係数を用いて画素値を予測する予測手段であるので、予測係数を学習することは、すなわち、この予測手段を学習することになる）学習装置について説明する。尚、図３６１の学習部５２５２は、図３４１の学習部５１５２と実質的に同様のものであり、学習部５２５２の画像メモリ５２６１、クラスタップ抽出部５２６２、特徴量抽出部５２６３、クラス分類部５２６４、予測タップ抽出部５２６５、足し込み演算部５２６６、学習メモリ５２６７、正規方程式演算部５２６８、および、係数メモリ５２５４は、学習部５１５２の画像メモリ５１６１、クラスタップ抽出部５１６２、特徴量抽出部５１６３、クラス分類部５１６４、予測タップ抽出部５１６５、足し込み演算部５１６６、学習メモリ５１６７、正規方程式演算部５１６８、および、係数メモリ５１５４と同様のものであるので、その説明は省略する。
【２８７５】
また、図３６２で示されるように、教師画像生成部５２５３の１／１６平均処理部５２５３ａ、および、生徒画像生成部５２５１のOLPFシミュレーション処理部５２５１ａは、図３４４の教師画像生成部５１５３の１／１６平均処理部５１５３ａ、および、生徒画像生成部５１５１のOLPFシミュレーション処理部５１５１ａと同様であるので、その説明も省略する。
【２８７６】
生徒画像生成部５２５１の１／６４平均処理部５２５１ｂは、OLPFシミュレーションによりOLPF５１０３による処理がなされたＨＤ画像の各画素をセンサ２に入射される光に見立て、ＨＤ画像の８画素×８画素の範囲をＳＤ画像の１画素と見立てることにより、一種の空間的な積分効果を生じさせ、OLPF５１０３による影響のない、センサ２で生成される画像（OLPF無しＳＤ画像）を仮想的に生成する。
【２８７７】
次に、図３６３のフローチャートを参照して、図３６１の学習装置による学習の処理について説明する。
【２８７８】
尚、ステップＳ５２３１の処理、および、Ｓ５２３３乃至Ｓ５２４１の処理は、図３４９のフローチャートを参照して説明したステップＳ５０３１の処理、および、ステップＳ５０３３乃至Ｓ５０４１の処理と同様であるので、その説明は省略する。
【２８７９】
ステップＳ５２３２において、１／６４平均処理部５２５１ｂは、OLPFシミュレーション処理部５２５１ａより入力されたOLPFシミュレーション処理された画像を８画素×８画素の合計６４画素単位で平均画素値を求め、さらに、その６４画素の画素値をその平均画素値に順次置き換えて、見かけ上のＳＤ画像となった生徒画像を生成し学習部５２５２の画像メモリ５２６１に出力する。
【２８８０】
以上の処理により、係数メモリ５２５４には、OLPF無しのＨＤ画像を教師画像とし、OLPF有りのＳＤ画像を生徒画像としたときの予測係数が記憶されることになる。さらに、この係数メモリ５２５４に記憶された予測係数を、信号処理装置５２２１の係数メモリ５２４４にコピーするなどすることにより、図３６０の信号の処理を実行することが可能となり、さらには、OLPF有りのＳＤ画像をOLPF無しのＨＤ画像に変換することが可能となる。
【２８８１】
以上の処理をまとめると、実世界の画像にOLPFの処理が施され、さらに、撮像素子（センサ２）撮像されたＳＤ画像（図中の実世界＋LPF＋撮像素子）は、図３３７のOLPF除去部５１３１により図３６４の矢印Ａで示されるように、OLPFによる処理が除去されたＳＤ画像（図中の実世界＋撮像素子）に変換され、さらに、定常性検出部１０１、および、実世界推定部１０２により、図３６４の矢印Ａ’で示されるように、OLPFによる処理前の実世界が推定される。
【２８８２】
また、図３５２で示される実世界推定部１０２は、ＳＤ画像（図中の実世界＋LPF＋撮像素子）から、図３６４の矢印Ｂで示されるようにOLPFによる処理前の実世界を推定する。
【２８８３】
さらに、図３５９で示される信号処理装置５２２１は、図３６４の矢印Ｃで示されるように、ＳＤ画像（図中の実世界＋LPF＋撮像素子）から実世界をOLPFの影響を受けない状態で撮像素子により撮像した画像を生成する。
【２８８４】
また、従来のクラス分類適応処理は、図３６４の矢印Ｄで示されるように、ＳＤ画像（図中の実世界＋LPF＋撮像素子）から実世界をOLPFを介した状態で撮像素子により撮像したＨＤ画像を生成する。
【２８８５】
さらに、図３の信号処理装置は、図３６４の矢印Ｅで示されるように、ＳＤ画像（図中の実世界＋LPF＋撮像素子）からOLPFにより影響を受けた実世界を推定する。
【２８８６】
以上によれば、第２の画像データに対応する光信号が光学ローパスフィルタを通過したときの光信号に対応する画像データを演算し、第１の画像データとして出力し、第２の画像データ内の注目画素に対応する複数の画素を第１の画像データから抽出し、抽出した複数の画素の画素値から、注目画素の画素値を予測するように学習するようにしたので、実世界に忠実な画像を生成することが可能となる。
【２８８７】
また、以上においては、実世界を近似する近似関数f(x)を連続関数として扱ってきたが、例えば、領域毎に不連続に近似関数f(x)を設定するようにしてもよい。
【２８８８】
すなわち、以上においては、図３６５で示されるように実世界の光の強度の分布を示す１次元の断面となる曲線（図中の点線で示された曲線）の関数（近似関数）を多項式により近似し、定常性の方向にこの曲線が連続して存在することを利用して実世界を推定していた。
【２８８９】
しかしながら、この断面となる曲線は、必ずしも多項式のような連続関数である必要はなく、例えば、図３６６で示されるように領域毎に異なる不連続な関数であってもよい。すなわち、図３６６の場合、領域a₁≦x＜a₂のとき、近似関数はf(x)＝w₁であり、領域a₂≦x＜a₃のとき、近似関数はf(x)＝w₂であり、領域a₃≦x＜a₄のとき、近似関数はf(x)＝w₃であり、領域a₄≦x＜a₅のとき、近似関数はf(x)＝w₄であり、さらに、領域a₅≦x＜a₆のとき、近似関数はf(x)＝w₅であり、それぞれ領域毎に異なる近似関数f(x)が設定されている。また、w_iは、実質的に、各領域における光の強度のレベルと考えることができる。
【２８９０】
このように図３６６で示されるような不連続関数は、以下の式（２７１）の一般式で定義される。
【２８９１】
f(x)＝w_i（a_i≦x＜a_i+1）・・・（２７１）
【２８９２】
ここで、iは、領域が設定された数を示している。
【２８９３】
このように図３６６で示されたような断面の分布（断面の曲線に対応するもの）は、各領域毎に定数として設定されている。尚、図３６６で示される、画素値の断面の分布は、図３６５の点線で示される曲線の分布と比較して、その形状が大きく異なるものとなっているが、実際には、各関数f(x)が設定される範囲（ここでは、a_i≦x＜a_i+1）の幅を微小なものとすることにより、不連続関数の断面の分布と、連続関数の断面の曲線は、幾何学的に近似できるレベルとすることが可能である。
【２８９４】
従って、式（２７１）で定義される、実世界の不連続関数からなる近似関数f(x)を用いることにより、以下の式（２７２）により画素値Ｐが求められることになる。
【数２１８】

【２８９５】
ここで、x_e，x_sは、Ｘ方向の積分範囲を示す値を示し、x_Sが積分開始位置を、x_eが積分終了位置をそれぞれ示している。
【２８９６】
しかしながら、実際には、上述の式（２７１）で示されるような実世界を近似する関数を直接求めることは困難である。
【２８９７】
図３６６で示されるような画素値の断面の分布は、定常性の方向に対して連続して存在するものと仮定されるので、空間における光の強度の分布は、図３６７で示されるようなものとなる。ここで、図３６７の左部は、連続関数からなる近似関数f(x)が定常性の方向に連続的に存在した場合の画素値の分布に対応したものであり、図３６７の右部は、左部に対応する同じ分布を、図３６６の不連続関数からなる近似関数f(x)を用いて、定常性の方向に対して連続して存在した場合の画素値の分布に対応したものである。
【２８９８】
すなわち、定常性の方向に沿って、図３６６で示された断面の形状が連続した状態となるため、不連続関数を用いた近似関数f(x)を用いた場合、各レベルw_iは、定常性の方向に沿って帯状に分布することになる。
【２８９９】
図３６７の右部で示されるような不連続関数により定義された近似関数f(x)を用いて、各領域のレベルを決定するには、各画素の総面積のうち、各レベル（各関数）が設定された範囲に占める、領域毎の面積の割合に応じた重みと、そのレベルとの積和を求め、対応する画素の画素値を用いて正規方程式を生成し、最小自乗法を用いて、各領域の画素値を求める必要がある。
【２９００】
すなわち、図３６８で示されるように、図３６８の左部に示されるように不連続関数が分布する場合、図３６８の太線で囲まれたマス目で示される注目画素（尚、図３６８は、紙面をＸＹ平面としたときの画素の配列を示す上面図であり、各マス目が画素に相当する）の画素値を求める場合、注目画素中の斜線部で示された部分より上部に存在する三角形状（底辺が上部の三角形）の範囲がf(x)=w₂で設定された範囲であり、斜線部がf(x)=w₃で設定された範囲であり、斜線部の下部に存在する三角形状（底辺が下部の三角形）の範囲がf(x)=w₄で設定された範囲となっている。注目画素の面積が１である場合、f(x)=w₂で設定された範囲の占める割合が0.2、f(x)=w₃で設定された範囲の占める割合が0.5、および、f(x)=w₄で設定された範囲の占める割合が0.3であるものとしたとき、注目画素の画素値Ｐは、各範囲の画素値と割合の積和で表されるので、以下の式（２７３）で示される演算により求められる。
【２９０１】
Ｐ＝0.2×w₂＋0.5×w₃＋0.3×w₄

【２９０２】
従って、各画素について、式（２７３）で示される関係を用いて画素値との関係式を生成することで、例えば、レベルw₁乃至w₅を求めるには、全てのレベルを含む最低５画素分の画素値との関係を示す式（２７３）が得られれば、例えば、最小自乗法（関係式の数と未知数が同数である場合は連立方程式）により画素値のレベルを示すw₁乃至w₅を得ることが可能となる。
【２９０３】
このように定常性を用いた２次元の関係を利用することにより、不連続関数からなる近似関数f(x)を求めることが可能となる。
【２９０４】
定常性検出部１０１により定常性の角度θが決定されていることから、原点(0,0)を通る角度θの直線は一意に決まり、Ｙ方向の任意の位置yにおける、直線のＸ方向の位置x_lが、次の式（２７４）のように表される。ただし、式（２７４）において、sは定常性の傾きを示しており、定常性の傾きが角度θで表されるとき、cotθ（＝ｓ）で表されるものである。
【２９０５】
x_l＝ｓ×ｙ・・・（２７４）
【２９０６】
即ち、データの定常性に対応する直線上の点は、座標値(x_l,y)で表される。
【２９０７】
式（２７４）より、断面方向距離x'（定常性の存在する直線に沿ってX方向にずれた距離）は、次の式（２７５）のように表される。
【２９０８】
x' ＝ x−x_l ＝ x−s×y・・・（２７５）
従って、入力画像の任意の位置(x,y)における近似関数f(x,y)は、式（２７１）と式（２７５）より、次の式（２７６）のように示される。
【２９０９】
f(x,y)＝w_i（a_i≦（x−s×y）＜a_i+1）・・・（２７６）
【２９１０】
なお、式（２７６）において、w_iは、各領域における光の強度のレベルを示す特徴量であるといえる。尚、以下において、w_iは、特徴量とも称する。
【２９１１】
従って、実世界推定部１０２は、式（２７６）の各領域毎の特徴量w_iを演算することができれば、不連続関数からなる近似関数f(x,y)を推定することにより、波形F(x,y)を推定することができる。
【２９１２】
そこで、以下、式（２７６）の特徴量w_iを演算する手法について説明する。
【２９１３】
即ち、式（２７６）で表される近似関数f(x,y)を、画素（センサ２の検出素子）に対応する積分範囲（空間方向の積分範囲）で積分すれば、その積分値が、画素の画素値の推定値となる。このことを、式で表現したものが、次の式（２７７）である。なお、不連続関数を用いた２次元の近似手法においては、フレーム方向Tは一定値とみなされるので、式（２７７）は、空間方向（Ｘ方向とＹ方法）の位置x,yを変数とする方程式とされている。
【２９１４】
【数２１９】

【２９１５】
式（２７７）において、P(x,y)は、センサ２からの入力画像のうちの、その中心位置が位置(x,y)（注目画素からの相対位置(x,y)）に存在する画素の画素値を表している。
【２９１６】
このように、２次元近似手法においては、入力画素値P(x,y)と、２次元の近似関数f(x,y)の関係を、式（２７７）で表現することが可能であるので、実世界推定部１０２は、式（２７７）を利用して、特徴量w_iを、例えば、最小自乗法等により演算することで、２次元の関数F(x,y)（空間方向の定常性を有する実世界１の光信号を、空間方向に着目して表した波形F(x,y)）を推定することが可能となる。
【２９１７】
ここで、図３６９を参照して、以上のような、不連続関数により近似関数f(x)を設定し、実世界を推定する実世界推定部１０２の構成について説明する。
【２９１８】
図３６９で示されるように、実世界推定部１０２には、条件設定部５３０１、入力画像記憶部５３０２、入力画素値取得部５３０３、積分成分演算部５３０４、正規方程式生成部５３０５、および近似関数生成部５３０６が設けられている。
【２９１９】
条件設定部５３０１は、注目画素に対応する関数F(x,y)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y)の範囲の（例えば、a_i≦x＜a_i+1の幅、ｉの数）を設定する。
【２９２０】
入力画像記憶部５３０２は、センサ２からの入力画像（画素値）を一時格納する。
【２９２１】
入力画素値取得部５３０３は、入力画像記憶部５３０２に記憶された入力画像のうちの、条件設定部５３０１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部５３０５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【２９２２】
ところで、上述したように、２次元近似手法を利用する実世界推定部１０２は、上述した式（２７７）を最小自乗法で解くことにより、上述した式（２７６）で示される近似関数f(x,y)の特徴量w_iを演算する。
【２９２３】
式（２７７）は、次の式（２７８）のように表現することができる。
【２９２４】
【数２２０】

【２９２５】
式（２７８）において、T_i（x_s,x_e,y_s,y_e）は、積分範囲となる領域のうち、特徴量w_iとなる領域（光のレベルw_iとなる領域）の積分結果、すなわち、面積を表している。尚、以下、T_i（x_s,x_e,y_s,y_e）は、積分成分と称する。
【２９２６】
積分成分演算部５３０４は、この積分成分T_i（x_s,x_e,y_s,y_e）（＝（x-0.5,x+0.5,y-0.5,y+0.5）：１画素分の領域を取る場合）を演算する。
【２９２７】
具体的には、式（２７８）で示される積分成分T_i（x_s,x_e,y_s,y_e）は、図３６８を参照して上述したように、求めようとする画素中の、所定の特徴量w_iの面積を求めるものである。従って、積分成分演算部５３０４は、積分成分T_i（x_s,x_e,y_s,y_e）を、各特長量毎の幅ｄとデータの定常性の角度θの情報に基づいて、幾何学的に各特徴量w_i毎に占める面積を求めるようにしてもよいし、シンプソンの公式に従って多重分割して積分して求めるようにしてもよく、面積を求める方法はそれらに限るものではなく、例えば、モンテカルロ法によって面積を求めるようにしてもよい。
【２９２８】
図３６８で説明したように、a_i≦（x−s×y）＜a_i+1の幅と、定常性の傾きを示す変数ｓ、および、相対画素位置(x,y)が既知であれば、特徴量w_iの演算は可能である。これらのうち、相対画素位置(x,y)は注目画素とタップ範囲により、変数sはcotθであるので角度θにより、a_i≦（x−s×y）＜a_i+1の幅は、予め設定されるため、それぞれの値は既知となる。
【２９２９】
従って、積分成分演算部５３０４は、条件設定部５３０１により設定されたタップ範囲および幅、並びにデータ定常性検出部１０１より出力されたデータ定常性情報のうちの角度θに基づいて積分成分Ti（x-0.5,x+0.5,y-0.5,y+0.5）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部５３０５に供給する。
【２９３０】
正規方程式生成部５３０５は、入力画素値取得部５３０３より供給された入力画素値テーブルと、積分成分演算部５３０４より供給された積分成分テーブルを利用して、上述した式（２７７）、即ち、式（２７８）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部５３０６に出力する。なお、正規方程式の具体例については後述する。
【２９３１】
近似関数生成部５３０６は、正規方程式生成部５３０５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、上述した式（２７８）の特徴量w_iのそれぞれを演算し、画像生成部１０３に出力する。
【２９３２】
次に、図３７０のフローチャートを参照して、不連続関数を用いた２次元の近似手法が適用される実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【２９３３】
例えば、いま、傾きG_Fで表される空間方向の定常性を有する実世界１の光信号が、センサ２により検出されて、１フレームに対応する入力画像として、入力画像記憶部５３０２に既に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０６）の定常性の検出の処理において、入力画像のうちのデータ定常性情報として角度θを既に出力しているものとする。
【２９３４】
この場合、ステップＳ５３０１において、条件設定部５３０１は、条件（タップ範囲、a_i≦x＜a_i+1の幅（同じ特徴量の幅）、および、ｉの数）を設定する。
【２９３５】
例えば、いま、図３７１で示されるタップ範囲が設定されるとともに、幅としてｄが設定されたとする。
【２９３６】
即ち、図３７１は、タップ範囲の１例を説明する図である。図３７１において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向を表している。また、タップ範囲は、図３７１の右部の総計１５個の画素（図中右部の太線で囲まれた１５個のマス目）からなる画素群を表している。
【２９３７】
さらに、図３７１に示されるように、注目画素が、タップ範囲のうちの、図中、斜線部の画素に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y)（注目画素の中心(0,0)を原点とする注目画素座標系の座標値）に応じて、図３７１で示されるような番号l（lは、０乃至１４のうちのいずれかの整数値）が付されるとする。
【２９３８】
図３７０に戻り、ステップＳ５３０２において、条件設定部５３０１は、注目画素を設定する。
【２９３９】
ステップＳ５３０３において、入力画素値取得部５３０３は、条件設定部５３０１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部５３０３は、入力画像の領域（図３７１中の番号０乃至１４が付された画素）の画素の画素値を取得し、入力画素値テーブルとして、１５個の入力画素値P(l)からなるテーブルを生成する。
【２９４０】
ステップＳ５３０４において、積分成分演算部５３０４は、条件設定部５３０１により設定された条件（タップ範囲、幅、ｉの数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報（角度θ）に基づいて積分成分を演算し、積分成分テーブルを生成する。
【２９４１】
いまの場合、積分成分演算部５３０４は、上述した式（２７８）の積分成分Ti（x_s,x_e,y_s,y_e）（＝Ti(x-0.5,x+0.5,y-0.5,y+0.5)：１画素の大きさを１×１で表現する場合）を、次の式（２７９）の左辺で示される積分成分Ti(l)といったlの関数として演算する。
【２９４２】
Ti(ｌ) ＝ Ti(x-0.5,x+0.5,y-0.5,y+0.5) ・・・（２７９）
【２９４３】
即ち、いまの場合、例えば、iが０乃至５であるとすれば、１５個のT₀(l),１５個のT₁(l),１５個のT₂(l),１５個のT₃(l),１５個のT₄(l),１５個のT₅(l)の総計９０個のT_i(l)が演算され、それらを含む積分成分テーブルが生成される。
【２９４４】
なお、ステップＳ５３０３の処理とステップＳ５３０４の処理の順序は、図３７０の例に限定されず、ステップＳ５３０４の処理が先に実行されてもよいし、ステップＳ５３０３の処理とステップＳ５３０４の処理が同時に実行されてもよい。
【２９４５】
次に、ステップ５３０５において、正規方程式生成部５３０５は、ステップＳ５３０３の処理で入力画素値取得部５３０３により生成された入力画素値テーブルと、ステップＳ５３０４の処理で積分成分演算部５３０４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【２９４６】
具体的には、いまの場合、上述した式（２７８）を利用して最小自乗法により特徴量w_iが演算されるので、それに対応する正規方程式は、次の式（２８０）のように表される。
【２９４７】
【数２２１】

【２９４８】
なお、式（２８０）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、近似関数f(x)を定義する特徴量w_iのiの数を表している。v_lは、重みを表している。具体的には、いまの場合、L=１５となる。
【２９４９】
式（２８０）で示される正規方程式の各行列のそれぞれを、次の式（２８１）乃至（２８３）のように定義すると、正規方程式は、次の式（２８４）のように表現される。
【２９５０】
【数２２２】

【２９５１】
【数２２３】

【２９５２】
【数２２４】

【２９５３】
【数２２５】

【２９５４】
式（２８２）で示されるように、行列W_MATの各成分は、求めたい特徴量w_iである。従って、式（２８４）において、左辺の行列T_MATと右辺の行列P_MATが決定されれば、行列解法によって行列W_MATの演算が可能になる。
【２９５５】
具体的には、式（２８１）で示されるように、行列T_MATの各成分は、上述した積分成分T_i(l)で演算可能である。即ち、積分成分T_i(l)は、積分成分演算部５３０４より供給された積分成分テーブルに含まれているので、正規方程式生成部５３０５は、積分成分テーブルを利用して行列T_MATの各成分を演算することができる。
【２９５６】
また、式（２８３）で示されるように、行列Ｐ_MATの各成分は、積分成分T_i(l)と入力画素値P(l)で演算可能である。即ち、積分成分T_i(l)は、行列T_MATの各成分に含まれるものと同一のものであり、また、入力画素値P(l)は、入力画素値取得部５３０３より供給された入力画素値テーブルに含まれているので、正規方程式生成部５３０５は、積分成分テーブルと入力画素値テーブルを利用して行列Ｐ_MATの各成分を演算することができる。
【２９５７】
このようにして、正規方程式生成部５３０５は、行列T_MATと行列Ｐ_MATの各成分を演算し、その演算結果（行列T_MATと行列Ｐ_MATの各成分）を正規方程式テーブルとして近似関数生成部５３０６に出力する。
【２９５８】
正規方程式生成部５３０５より正規方程式テーブルが出力されると、ステップＳ５３０６において、近似関数生成部５３０６は、正規方程式テーブルに基づいて、上述した式（２８４）の行列W_MATの各成分である特徴量w_i（即ち、不連続関数からなる２次元の近似関数f(x,y)の領域毎に定義される関数であるレベルw_i）を演算する。
【２９５９】
具体的には、上述した式（２８４）の正規方程式は、次の式（２８５）のように変形できる。
【２９６０】
【数２２６】

【２９６１】
式（２８５）において、左辺の行列W_MATの各成分が、求めたい特徴量w_iである。また、行列T_MATと行列P_MATのそれぞれの各成分は、正規方程式生成部５３０５より供給された正規方程式テーブルに含まれている。従って、近似関数生成部５３０６は、正規方程式テーブルを利用して、式（２８５）の右辺の行列演算を行うことで行列W_MATを演算し、その演算結果（特徴量w_i）を画像生成部１０３に出力する。
【２９６２】
ステップＳ５３０７において、近似関数生成部５３０６は、全画素の処理を終了したか否かを判定する。
【２９６３】
ステップＳ５３０７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ５３０２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ５３０２乃至Ｓ５３０７の処理が繰り返される。
【２９６４】
そして、全画素の処理が終了すると（ステップＳ５３０７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【２９６５】
以上、不連続関数を用いた２次元の近似手法の説明として、空間方向（X方向とY方向）に対する近似関数f(x,y)の特徴量w_iを演算する例を用いたが、不連続関数を用いた２次元の近似手法は、時空間方向（X方向とT方向、または、Y方向とT方向）に対しても適用可能である。
【２９６６】
即ち、上述した例は、実世界１の光信号が、例えば、空間方向の定常性を有する場合の例であったので、上述した式（２７７）で示されるような、空間方向（X方向とY方向）の２次元積分が含まれる式が利用された。しかしながら、２次元積分の考え方は、空間方向だけによるものではなく、時空間方向（X方向とT方向、または、Y方向とT方向）に対して適用することも可能である。
【２９６７】
換言すると、不連続関数を用いた２次元近似手法においては、推定したい光信号関数F(x,y,t)が、空間方向の定常性のみならず、時空間方向（ただし、X方向とT方向、または、Y方向とT方向）の定常性を有している場合であっても、２次元の不連続関数により近似することが可能である。
【２９６８】
具体的には、例えば、図３７２で示されるような、物体（図中のおもちゃの飛行機）Ｄ１（図中の下段のフレームの画像）が、X方向に水平に等速で動いて、物体Ｄ２（図中の中段のフレームの画像）まで移動する場合、X-T平面において、その物体の動きは図３７２の上部で示されるように、軌跡Ｌ１のように表される。尚、図３７２の上段は、図中のＯＰＱＲを各頂点とした面の画素値の変化を示したものである。
【２９６９】
換言すると、軌跡Ｌ１は、X-T平面における時空間方向の定常性の方向を表しているとも言える。従って、データ定常性検出部１０１は、上述した角度θ（X-Y平面における、所定の傾き（角度）で表される空間方向の定常性に対応するデータ定常性情報）と同様に、X-T平面における時空間方向の定常性を表す傾き（定常性の角度）に対応するデータ定常性情報として、図３７２で示されるような軌跡のなす角度（厳密には、図示はしないが、物体がＤ１からＤ２に移動するときの軌跡（上述した動き）としてのデータの定常性の方向と、空間方向のＸ方向とのなす角度）を出力することが可能である。
【２９７０】
従って、２次元の不連続関数を用いた近似手法を利用する実世界推定部１０２は、動きθを上述した角度θの代わりとして使用すれば、上述した方法と同様な方法で、近似関数f(x,t)の特徴量w_iを演算することが可能になる。ただし、この場合、使用される式は、上述した式（２７７）ではなく、次の式（２８６）である。
【２９７１】
【数２２７】

【２９７２】
X-T平面上の処理である場合、図３７１の右部で示されている各画素と不連続関数との関係は、図３７３で示されるようになる。すなわち、図３７３においては、空間方向Ｘの断面形状（不連続関数による断面形状）がフレーム方向Tに対して所定の定常性の方向に沿って連続することになる。結果として、レベルが、レベルw₁乃至w₅の5種類である場合、図３７１の左部で示したような同一のレベルとなる帯が定常性の方向に沿って分布することになる。
【２９７３】
従って、この場合、画素値は、図３７３の右部にあるようにX-T平面上に存在する画素を用いることで、求めることができる。尚、図３７３の右部において、各マス目は画素を示すが、Ｘ方向は、画素の幅であるが、フレーム方向については、各マス目の単位が1フレーム分に相当する。
【２９７４】
また、空間方向Ｘの代わりに、空間方向Ｙに注目した近似関数f（y,t）も、上述した近似関数f(x，t)と全く同様に取り扱うことが可能である。
【２９７５】
以上においては、不連続関数からなる２次元の近似関数を設定し、実世界を推定する手法について説明したが、さらに、不連続関数からなる３次元の近似関数による実世界の推定も可能である。
【２９７６】
例えば、図３７４で示されるように領域毎に異なる２次元の不連続な関数を考える。すなわち、図３７４の場合、領域a₁≦x＜a₂で、かつ、ｂ₁≦y＜ｂ₂とき、近似関数はf(x,y)＝w₁であり、領域a₂≦x＜a₃で、かつ、ｂ₃≦y＜ｂ₄とき、近似関数はf(x,y)＝w₂であり、領域a₃≦x＜a₄で、かつ、ｂ₅≦y＜ｂ₆とき、近似関数はf(x,y)＝w₃であり、領域a₄≦x＜a₅で、かつ、ｂ₇≦y＜ｂ₈とき、近似関数はf(x,y)＝w₄であり、さらに、領域a₃≦x＜a₄で、かつ、ｂ₉≦y＜ｂ₁₀とき、近似関数はf(x,y)＝w₅であるように、それぞれ領域毎に異なる近似関数f(x,y)が設定されている。また、w_iは、実質的に、各領域における光の強度のレベルと考えることができる。
【２９７７】
このように図３７４で示されるような不連続関数は、以下の式（２８７）の一般式で定義される。
【２９７８】
f(x,y)＝w_i（a_j≦x＜a_j+1 & b_2k-1≦y＜b_2k）・・・（２８７）
【２９７９】
尚、ここで、ｊ，ｋは、任意の整数であるが、ｉは、ｊとｋの組み合わせにより表現可能な領域を識別する通し番号である。
【２９８０】
このように図３７４で示されたような断面の分布（断面の曲線に対応するもの）は、各領域毎に定数として設定されている。
【２９８１】
従って、式（２８７）で定義される、実世界の、不連続関数からなる近似関数f(x,y)を用いることにより、以下の式（２８８）により画素値Ｐ(x,y)が求められることになる。
【数２２８】

【２９８２】
ここで、x_e，x_sは、Ｘ方向の積分範囲を示す値を示し、x_SがＸ方向の積分開始位置を、x_eがＸ方向の積分終了位置をそれぞれ示している。同様に、y_e，y_sは、Ｙ方向の積分範囲を示す値を示し、y_SがＹ方向の積分開始位置を、y_eがＹ方向の積分終了位置をそれぞれ示している。
【２９８３】
しかしながら、実際には、上述の式（２８７）で示されるような実世界を近似する関数を直接求めることは困難である。
【２９８４】
図３７４で示されるような画素値の断面の分布は、フレーム方向の定常性の方向に対して連続して存在するものと仮定されるので、空間における光の強度の分布は、図３７５で示されるようなものとなる。ここで、図３７５の左部は、不連続関数からなる近似関数f(x,y)がフレーム方向とX方向の定常性の方向に連続的に存在した場合の画素値の分布のX-T平面により表現したものであり、図中右部には、図３７４で、X-Y平面上の光の強度のレベルの断面が、フレーム方向に連続した分布が示されている。
【２９８５】
すなわち、定常性の方向に沿って、図３７４で示された断面の形状が連続した状態となるため、図３７５の右部に示されるように、各レベルw_iの領域は、定常性の方向に沿った棒状の分布となる。
【２９８６】
図３７５の右部で示されるような不連続関数により定義された近似関数f(x,y)を用いて、各３次元の領域の画素値を決定するには、上述した２次元において、面積を用いていた方法と同様にして、体積による割合を用いて計算する。すなわち、各画素の総体積（X方向、Y方向、および、T方向からなる３次元の体積）のうち、各レベルが設定された範囲の占める体積の割合に応じた重みと、そのレベルとの積和を求めて、対応する画素の画素値を用いることにより、例えば、最小自乗法を用いて、各領域の画素値を求める。
【２９８７】
すなわち、図３７６で示されるように、境界Ｒを境として、一方の領域のレベルがf(x,y)=w₁であり、他方の領域のレベルがf(x,y)=w₂であるものとする。また、XYT空間上で図中のABCDEFGHからなる立方体が、注目画素を示しているものとする。さらに、注目画素における境界Ｒとの断面は、IJKLからなる長方形であるものとする。
【２９８８】
また、画素Ｐの体積のうち、IBJ-KFLからなる三角柱となる部分の占める割合をM1、および、それ以外の部分（ADCJI-EGHLKからなる５角柱）の体積の占める割合をM2で表すものとする。尚、ここでいう体積とは、XYt空間上の専有領域の大きさを示すものである。
【２９８９】
このとき、注目画素の画素値Ｐは、各範囲の画素値と割合の積和で表されるので、以下の式（２８９）で示される演算により求められる。
【２９９０】
Ｐ＝M1×w₁＋M2×w₂・・・（２８９）
【２９９１】
従って、各画素について、式（２８９）で示される関係を用いて画素値との関係を示す式を生成することで、例えば、画素値を示す係数としてw₁乃至w₂を求めるには、それぞれの係数を含む最低２画素分以上の画素値と、その画素の式（２８９）の関係を示すが得られれば、例えば、最小自乗法（未知数と関係式が同数の場合は、連立方程式）により画素値のレベルを示すw₁乃至w₂を得ることが可能となる。
【２９９２】
このように定常性を用いた３次元の関係を利用することにより、不連続関数からなる近似関数f(x,y)を求めることが可能となる。
【２９９３】
例えば、定常性検出部１０１により出力されてくる、X-Y平面状の定常性の角度θに相当する、動きθに基づいて、X-T平面上、および、Y-T平面状の速度v_x,v_y（実質的に、X-T平面、および、Y-T平面の傾き）を求めることができることから、Ｘ方向およびＹ方向の任意の位置（x,y）における、定常性の直線のＸ方向の位置x_lおよびＹ方向の位置y_lが、次の式（２９０）のように表される。
【２９９４】
x_l＝v_x×ｔ，y_l＝v_y×ｔ・・・（２９０）
【２９９５】
即ち、データの定常性に対応する直線上の点は、座標値(x_l,y_l)で表される。
【２９９６】
式（２９０）より、断面方向距離x'，y'（定常性の存在する直線に沿ってX方向、および、Y方向にずれた距離）は、次の式（２９１）のように表される。
【２９９７】

従って、入力画像の任意の位置(x,y)における近似関数f(x,y)は、式（２８７）と式（２９１）より、次の式（２９２）のように示される。
【２９９８】

【２９９９】
従って、実世界推定部１０２は、式（２９２）の各領域毎の特徴量w_iを演算することができれば、不連続関数からなる近似関数f(x,y,t)を推定することにより、波形F(x,y,t)を推定することができる。
【３０００】
そこで、以下、式（２９２）の特徴量w_iを演算する手法について説明する。
【３００１】
即ち、式（２９２）で表される近似関数f(x,y,t)を、画素（センサ２の検出素子）に対応する積分範囲（空間方向の積分範囲）で積分すれば、その積分値が、画素の画素値の推定値となる。このことを、式で表現したものが、次の式（２９３）である。
【３００２】
【数２２９】

【３００３】
式（２９３）において、P(x,y,t)は、センサ２からの入力画像のうちの、その中心位置が位置(x,y,t)（注目画素からの相対位置(x,y,t)）に存在する画素の画素値を表している。
【３００４】
このように、３次元の近似手法においては、入力画素値P(x,y,t)と、不連続関数からなる３次元の近似関数f(x,y,t)の関係を、式（２９３）で表現することが可能であるので、実世界推定部１０２は、式（２９３）を利用して、特徴量w_iを、例えば、最小自乗法等により演算することで、３次元の関数F(x,y,t)（空間方向の定常性を有する実世界１の光信号を、時空間方向に着目して表した波形F(x,y,t)）を推定することが可能となる。
【３００５】
次に、図３７７を参照して、以上のような、不連続関数からなる３次元の近似関数f(x,y,t)を設定し、実世界を推定する実世界推定部１０２の構成について説明する。
【３００６】
図３７７で示されるように、実世界推定部１０２には、条件設定部５３２１、入力画像記憶部５３２２、入力画素値取得部５３２３、積分成分演算部５３０４、正規方程式生成部５３２５、および近似関数生成部５３２６が設けられている。
【３００７】
条件設定部５３２１は、注目画素に対応する関数F(x,y,t)を推定するために使用する画素の範囲（タップ範囲）や、近似関数f(x,y,t)の範囲の（例えば、a_j≦（x−v_x×ｔ）＜a_j+1、および、b_2k-1≦（y−v_y×ｔ）＜b_2kの幅、ｉの数）を設定する。
【３００８】
入力画像記憶部５３２２は、センサ２からの入力画像（画素値）を一時格納する。
【３００９】
入力画素値取得部５３２３は、入力画像記憶部５３２２に記憶された入力画像のうちの、条件設定部５３２１により設定されたタップ範囲に対応する入力画像の領域を取得し、それを入力画素値テーブルとして正規方程式生成部５３２５に供給する。即ち、入力画素値テーブルは、入力画像の領域に含まれる各画素のそれぞれの画素値が記述されたテーブルである。なお、入力画素値テーブルの具体例については後述する。
【３０１０】
ところで、上述したように、３次元近似手法を利用する実世界推定部１０２は、上述した式（２９３）を最小自乗法で解くことにより、上述した式（２９２）で示される近似関数f(x,y,t)の特徴量w_iを演算する。
【３０１１】
式（２９３）は、次の式（２９４）のように表現することができる。
【３０１２】
【数２３０】

【３０１３】
式（２９４）において、T_i（x_s,x_e,y_s,y_e,t_s,t_e）は、積分範囲となる領域のうち、特徴量w_iとなる領域（光のレベルw_iとなる領域）の積分結果、すなわち、体積を表している。尚、以下、T_i（x_s,x_e,y_s,y_e,t_s,t_e）は、積分成分と称する。尚、この式（２９４）は、２次元の演算における積分成分T_i（x_s,x_e,y_s,y_e）に対応するものである。
【３０１４】
積分成分演算部５３２４は、この積分成分T_i（x_s,x_e,y_s,y_e,t_s,t_e）（＝（x-0.5,x+0.5,y-0.5,y+0.5,t-0.5,t+0.5）：１画素分の領域を取る場合）を演算する。
【３０１５】
具体的には、式（２９４）で示される積分成分T_i（x_s,x_e,y_s,y_e,t_s,t_e）は、図３７６を参照して上述したように、求めようとする画素中の、所定の特徴量w_iの体積を求めるものである。従って、積分成分演算部５３２４は、積分成分T_i（x_s,x_e,y_s,y_e,t_s,t_e）を、各特長量毎の幅ｄ，ｅ、並びに、定常性の方向の情報（すなわち、例えば、速度v_x,v_y、または、定常性の所定の軸に対する角度θ）に基づいて、幾何学的に各特徴量w_i毎に占める体積を求めるようにしてもよいし、シンプソンの公式に従って多重分割して積分して求めるようにしてもよく、体積を求める方法はそれらに限るものではなく、例えば、モンテカルロ法によって体積を求めるようにしてもよい。
【３０１６】
図３７６で説明したように、a_j≦（x−v_x×ｔ）＜a_j+1、および、b_2k-1≦（y−v_y×ｔ）＜b_2kのそれぞれの幅と、定常性の方向の情報（すなわち、例えば、速度v_x,v_y、または、定常性の所定の軸に対する角度θ）、および、相対画素位置(x,y,t)が既知であれば、特徴量w_iの演算は可能である。これらのうち、相対画素位置(x,y,t)は注目画素とタップ範囲により、定常性の情報は、定常性検出部１０１により検出された情報より、また、a_j≦（x−v_x×ｔ）＜a_j+1、および、b_2k-1≦（y−v_y×ｔ）＜b_2kの幅は、予め設定されるため、それぞれの値は既知となる。
【３０１７】
従って、積分成分演算部５３２４は、条件設定部５３２１により設定されたタップ範囲および幅、並びにデータ定常性検出部１０１より出力されたデータ定常性情報に基づいて積分成分Ti（x-0.5,x+0.5,y-0.5,y+0.5,t-0.5,t+0.5）を演算し、その演算結果を積分成分テーブルとして正規方程式生成部５３２５に供給する。
【３０１８】
正規方程式生成部５３２５は、入力画素値取得部５３２３より供給された入力画素値テーブルと、積分成分演算部５３２４より供給された積分成分テーブルを利用して、上述した式（２９３）、即ち、式（２９４）を最小自乗法で求める場合の正規方程式を生成し、それを正規方程式テーブルとして近似関数生成部５３２６に出力する。
【３０１９】
近似関数生成部５３２６は、正規方程式生成部５３２５より供給された正規方程式テーブルに含まれる正規方程式を行列解法で解くことにより、上述した式（２９４）の特徴量w_iのそれぞれを演算し、画像生成部１０３に出力する。
【３０２０】
次に、図３７８のフローチャートを参照して、不連続関数を用いた３次元の近似手法が適用される実世界の推定処理（図４０のステップＳ１０２の処理）について説明する。
【３０２１】
例えば、いま、X-t平面、および、Y-t平面に対してそれぞれ速度v_x,v_yで表される時空間方向の定常性を有する実世界１の光信号が、センサ２により検出されて、１フレームに対応する入力画像として、入力画像記憶部５３２２に既に記憶されているとする。また、データ定常性検出部１０１が、ステップＳ１０１（図４０６）の定常性の検出の処理において、入力画像のうちのデータ定常性情報として速度v_x,v_yが得られているものとする。
【３０２２】
この場合、ステップＳ５３２１において、条件設定部５３２１は、条件（タップ範囲、a_j≦（x−v_x×ｔ）＜a_j+1、および、b_2k-1≦（y−v_y×ｔ）＜b_2kの幅（同じ特徴量（同じ近似関数となる領域の幅ｄ，ｅ））、および、ｉの数）を設定する。
【３０２３】
例えば、いま、図３７９で示されるタップ範囲が設定されるとともに、幅として水平方向の幅×垂直方向の幅＝ｄ×ｅが設定されたとする。
【３０２４】
設定されたタップの範囲は、例えば、図３７９で示されているものとする。図３７９において、Ｘ方向とＹ方向は、センサ２のＸ方向とＹ方向を表している。また、ｔは、フレームの番号を示しており、また、タップ範囲は、図３７９の右部各フレーム９個で３フレーム分となる画素Ｐ０乃至Ｐ２６の合計２７個の画素からなる画素群を表している。
【３０２５】
さらに、図３７９に示されるように、注目画素が、フレーム番号ｔ＝ｎの図中、中央部の画素Ｐ１３に設定されるとする。また、各画素のそれぞれに対して、注目画素からの相対画素位置(x,y,t)（注目画素の中心(0,0,0)を原点とする注目画素座標系の座標値）に応じて、図３７９で示されるような番号l（lは、Ｐ０乃至Ｐ２６のうちのいずれかを示す整数値）が付されるとする。
【３０２６】
図３７８に戻り、ステップＳ５３２２において、条件設定部５３２１は、注目画素を設定する。
【３０２７】
ステップＳ５３２３において、入力画素値取得部５３２３は、条件設定部５３２１により設定された条件（タップ範囲）に基づいて入力画素値を取得し、入力画素値テーブルを生成する。即ち、いまの場合、入力画素値取得部５３２３は、入力画像の領域（図３７９中の番号Ｐ０乃至Ｐ２６が付された画素）の画素の画素値を取得し、入力画素値テーブルとして、２７個の入力画素値P(l)からなるテーブルを生成する。
【３０２８】
ステップＳ５３２４において、積分成分演算部５３２４は、条件設定部５３２１により設定された条件（タップ範囲、幅、ｉの数）、並びにデータ定常性検出部１０１より供給されたデータ定常性情報に基づいて積分成分を演算し、積分成分テーブルを生成する。
【３０２９】
いまの場合、積分成分演算部５３２４は、上述した式（２９４）の積分成分Ti（x_s,x_e,y_s,y_e,t_s,t_e）（＝Ti(x-0.5,x+0.5,y-0.5,y+0.5,t-0.5,t+0.5)：１画素の大きさをX方向×Y方向×フレーム方向t＝１×１×１で表現する場合）を、次の式（２９５）の左辺で示される積分成分Ti(l)といったlの関数として演算する。
【３０３０】
Ti(ｌ) ＝ Ti(x-0.5,x+0.5,y-0.5,y+0.5,t-0.5,t+0.5)・・・（２９５）
【３０３１】
即ち、いまの場合、例えば、iが０乃至５であるとすれば、２７個のT₀(l),２７個のT₁(l),２７個のT₂(l),２７個のT₃(l),２７個のT₄(l),２７個のT₅(l)の総計１６２個のT_i(l)が演算され、それらを含む積分成分テーブルが生成される。
【３０３２】
なお、ステップＳ５３２３の処理とステップＳ５３２４の処理の順序は、図３７８の例に限定されず、ステップＳ５３２４の処理が先に実行されてもよいし、ステップＳ５３２３の処理とステップＳ５３２４の処理が同時に実行されてもよい。
【３０３３】
次に、ステップ５３２５において、正規方程式生成部５３２５は、ステップＳ５３２３の処理で入力画素値取得部５３２３により生成された入力画素値テーブルと、ステップＳ５３０４の処理で積分成分演算部５３２４により生成された積分成分テーブルに基づいて、正規方程式テーブルを生成する。
【３０３４】
具体的には、いまの場合、上述した式（２９５）を利用して最小自乗法により特徴量w_iが演算されるので、それに対応する正規方程式は、次の式（２９６）のように表される。
【３０３５】
【数２３１】

【３０３６】
なお、式（２９６）において、Lは、タップ範囲の画素の番号lのうちの最大値を表している。nは、近似関数f(x)を定義する特徴量w_iのiの数を表している。v_lは、重みを表している。具体的には、いまの場合、L=２７となる。
【３０３７】
この正規方程式は、上述した式（２８０）と同様の形式であり、上述した２次元における手法と同様であるので、以降の正規方程式の解法についての説明は省略する。
【３０３８】
ステップＳ５３２７において、近似関数生成部５３２６は、全画素の処理を終了したか否かを判定する。
【３０３９】
ステップＳ５３２７において、全画素の処理がまだ終了されていないと判定された場合、処理はステップＳ５３２２に戻り、それ以降の処理が繰り返される。即ち、まだ注目画素とされない画素が、順次注目画素とされて、ステップＳ５３２２乃至Ｓ５３２７の処理が繰り返される。
【３０４０】
そして、全画素の処理が終了すると（ステップＳ５３２７において、全画素の処理が終了されたと判定されると）、実世界１の推定処理は終了となる。
【３０４１】
結果として、例えば、図３８０で示されるように、定常性の方向（X方向の速度がv_x,Y方向の速度がv_y）に沿った太線で描かれた棒状の領域毎に各特徴量であるレベル（不連続関数）w₁乃至w₅が設定され、実世界の近似関数が推定される。今の場合、各棒状の領域はX-Y平面に対する断面の大きさはｄ×ｅである。
【３０４２】
また、細線で描かれた棒状の領域は、Y方向の速度がv_y＝０である場合を示している。すなわち、単純に水平方向に移動する場合は、各レベルw_iが設定される棒状の領域は、X-t平面に対して平行な関係を保つ。これは、X方向の速度がv_x＝０である場合も同様のことが言える。すなわち、この場合は、各棒状の領域が、Y-t平面に対して平行な関係が保たれることになる。
【３０４３】
さらに、時間方向に変化が無く、X-Y平面上に定常性がある場合、各関数毎の棒状の領域は、X-Y平面に対して平行な位置を保つことになる。すなわち、時間方向に変化が無く、X-Y平面に定常性が存在する場合、細線、または、２値エッジが存在する。
【３０４４】
また、以上においては、不連続に関数が設定される各領域が２次元空間に配置される（棒状の領域が、面を構成するように配置される）場合について説明してきたが、例えば、図３８１で示されるように、各領域は、XYTの３次元の空間内に立体的に配置されるようにしてもよい。
【３０４５】
また、以上の例においては、不連続関数として各領域毎に定数の特徴量w_iが設定される場合について説明してきたが、定数ではない連続関数であっても同様のことが可能である。すなわち、例えば、図３８２で示されるように、X方向についての関数であるとき、画像中のX0≦X＜X1の領域では、特徴量w₁は、w₁＝f₀(x)に設定し、画像中のX1≦X＜X2の領域では、特徴量w₂は、w₂＝f₁(x)に設定するようにしてもよい。連続する関数であっても、領域毎に異なる関数として設定するようにしてもよい。この場合、設定される関数は、例えば、多項式近似を用いてもよいし、それ以外の関数であってもよい。
【３０４６】
さらに、不連続関数として各領域毎に定数の特徴量w_iが設定される場合、それぞれの領域で全く連続することの無い関数を設定するようにしてもよい。すなわち、例えば、図３８３で示されるように、X方向についての関数であるとき、画像中のX0≦X＜X1の領域では、特徴量w₁は、w₁＝f₀(x)に設定し、画像中のX1≦X＜X2の領域では、特徴量w₂は、w₂＝f₁(x)に設定するようにして、それぞれの関数（例えば、f₀(x)とf₁(x)）が、それぞれ不連続であっても同様の処理をすることができる。この場合も、設定される関数は、例えば、多項式近似を用いてもよいし、それ以外の関数であってもよい。
【３０４７】
このように、図３７７の実世界推定部１０２は、各画素値を不連続関数により設定する場合、定常性の方向（角度、または、動き（動きから求められる速度の方向））に沿った棒状の領域毎に、不連続に関数を設定することで、実世界の近似関数を設定することが可能となる。
【３０４８】
次に、図３８４を参照して、上述の図３６９の実世界推定部１０２により推定された実世界推定情報に基づいて、画像を生成する画像生成部１０３について説明する。
【３０４９】
図３８４の画像生成部１０３は、実世界推定情報取得部５３４１、重み計算部５３４２、および、画素生成部５３４３から構成されている。
【３０５０】
実世界推定情報取得部５３４１は、図３６９の実世界推定部１０２より出力される実世界推定情報としての特徴量、すなわち、定常性の方向に沿って分割された領域毎に設定される画素値を設定する関数（不連続関数からなる近似関数f(x)）を取得し、重み計算部５３４２に出力する。
【３０５１】
重み計算部５３４２は、実世界推定情報取得部５３４１より入力される実世界推定情報である、定常性の方向に沿って分割された領域の情報に基づいて、生成しようとする画素に含まれる各領域の面積の割合を重みとして計算し、実世界推定情報取得部５３４１より入力された各領域毎に設定された関数の情報と共に画素生成部５３４３に出力する。
【３０５２】
画素生成部５３４３は、重み計算部より入力された生成しようとする画素に含まれる領域毎の面積の割合に基づいて計算された重みの情報と、各領域毎に設定されたレベルの関数（不連続関数からなる近似関数f(x)）に基づいて、レベルを求め、生成しようとする画素毎に、求められたレベルと重みの積和を求めて、その画素の画素値として出力する。
【３０５３】
次に、図３８５のフローチャートを参照して、図３８４の画像生成部１０３による画像生成の処理について説明する。
【３０５４】
ステップＳ５３４１において、実世界推定情報取得部５３４１は、図３６９の実世界推定部１０２より入力されてくる実世界推定情報（不連続関数からなる近似関数f(x)）を取得し、重み計算部５３４２に出力する。
【３０５５】
ステップＳ５３４２において、重み計算部５３４２は、生成しようとする画素を設定し、ステップＳ５３４３において、入力された実世界推定情報に基づいて、生成しようとする画素について、その生成しようとする画素に含まれる、設定された領域毎の、生成しようとする画素に対する面積の割合を求め、これを、各領域の重みとして計算し、実世界推定情報取得部５３４１より入力された、各領域毎のレベルを設定する関数と共に画素生成部５３４３に出力する。
【３０５６】
例えば、図３８６で示されるように、特徴量が設定された場合について説明する。ここで、入力された画像の画素が細線のマス目で示されており、生成しようとする画素が太線のマス目で示されているものとする。すなわち、今の場合、４倍密度の画素が生成される。また、w₁乃至w₅で示される画素の配列に対して右上がりに帯状に設定された５個の領域が定常性の方向に沿って設定された領域であり、各領域のレベルは、w₁乃至w₅であるものとする。
【３０５７】
図３８６で示される斜線状で塗られている画素を生成しようとする注目画素であるものとする場合、注目画素は、領域w₃,w₄に跨っているので、注目画素内の、各領域の占める面積がそれぞれm₁，m₂であったとき、生成される重みは、生成しようとする画素の面積がmであれば、それぞれ領域w₃の重みは、m₁/mとなり、領域w₄の重みは、m₂/mとなる。このように、重み計算部５３４２は、求められた領域毎の重みの情報と、各領域のレベルを設定する関数の情報を画素生成部５３４３に出力する。
【３０５８】
ステップＳ５３４４において、画素生成部５３４３は、重み計算部５３４２より入力された、注目画素に跨る領域毎の重みと、各領域毎のレベルに基づいて、画素値を決定し、画素を生成する。
【３０５９】
すなわち、図３８６を参照して説明した注目画素の場合、画素生成部５３４３には、それぞれ重みの情報として、領域w₃はm₁/mであり、領域w₄はm₂/mであるとの情報を取得することになる。さらに、同時に取得する各領域毎のレベルとの積和を求めて画素値を決定し、画素を生成する。
【３０６０】
すなわち、例えば、領域w₃,w₄のレベルを決定する近似関数が、それぞれの領域でw₃，w₄（いずれも、定数）であった場合、重みとの積和を求めることで、以下の式（２９７）で示されるように画素値が決定される。
【３０６１】
P＝w₃×m₁/m＋w₄×m₂/m・・・（２９７）
【３０６２】
ステップＳ５３４５において、実世界推定情報取得部５３４１は、生成しようとする画像の全ての画素について処理が終了したか否かを判定し、全ての画素について処理が終了していないと判定した場合、その処理は、ステップＳ５３４２に戻り、それ以降の処理が繰り返される。すなわち、全ての画素について処理が完了したと判定されるまで、ステップＳ５３４２乃至Ｓ５３４５の処理が繰り返される。
【３０６３】
ステップＳ５３４５において、全ての画素について処理が終了したと判定された場合、その処理は終了する。
【３０６４】
すなわち、例えば、水平方向に物体が時間的に右方向に移動する場合、実世界におけるX-T空間の実際の画素値の変化は、図３８７Ａで示されるように、定常性の方向に沿って、同一の画素値レベルとなる領域が続くことが分かっている。このため、図３８７Ｂで示されるようなモデルを用いて、それ以上の密度の画素生成を行うと、画素の形状が、実際の右上がりの直線的な動きを表現することができないため、例えば、拡大画像を生成しようとすると、画素値が変化する境界付近では幾何学的に階段状に配置された画素値の変化により正確な画素値を拡大画像の画素生成に反映することができなかった。
【３０６５】
これに対して、図３６９の実世界推定部１０２の実世界の近似関数の推定におけるモデルは、図３８７Ｃで示されるように、実際の動きに忠実なモデルを定常性の方向に沿って生成することになるので、画素以下の変化も正確に表現することができ、例えば、拡大画像に使用する、高密度画素をより正確に生成することが可能となる。
【３０６６】
以上の処理により、画素以下の領域における光の強度の分布を考慮して画素を生成することができ、より高密度の画素を正確に生成することが可能となるため、例えば、拡大画像を鮮明に生成することが可能となる。
【３０６７】
次に、図３８８を参照して、上述の図３７７の実世界推定部１０２により推定された実世界推定情報に基づいて、画像を生成する画像生成部１０３について説明する。
【３０６８】
図３８８の画像生成部１０３は、実世界推定情報取得部５３５１、重み計算部５３５２、および、画素生成部５３５３から構成されている。
【３０６９】
実世界推定情報取得部５３５１は、図３７７の実世界推定部１０２より出力される実世界推定情報としての特徴量、すなわち、定常性の方向に沿って分割された領域毎に設定される画素値を設定する関数（不連続関数からなる近似関数f(x)）を取得し、重み計算部５３５２に出力する。
【３０７０】
重み計算部５３５２は、実世界推定情報取得部５３５１より入力される実世界推定情報である、定常性の方向に沿って分割された領域の情報に基づいて、生成しようとする画素に含まれる各領域の体積（ここで言う体積は、X方向、Y方向、およびフレーム方向ｔの３次元空間上の体積）の割合を重みとして計算し、実世界推定情報取得部５３５１より入力された各領域毎に設定された関数の情報と共に画素生成部５３５３に出力する。
【３０７１】
画素生成部５３５３は、重み計算部より入力された生成しようとする画素に含まれる領域毎の体積の割合に基づいて計算された重みの情報と、各領域毎に設定されたレベルの関数（不連続関数からなる近似関数f(x)）に基づいて、レベルを求め、生成しようとする画素毎に、求められたレベルと重みの積和を求めて、その画素の画素値として出力する。
【３０７２】
次に、図３８９のフローチャートを参照して、図３８８の画像生成部１０３による画像生成の処理について説明する。
【３０７３】
ステップＳ５３５１において、実世界推定情報取得部５３５１は、図３７７の実世界推定部１０２より入力されてくる実世界推定情報（不連続関数からなる近似関数f(x)）を取得し、重み計算部５３５２に出力する。
【３０７４】
ステップＳ５３５２において、重み計算部５３５２は、生成しようとする画素を設定し、ステップＳ５３５３において、入力された実世界推定情報に基づいて、生成しようとする画素について、その生成しようとする画素に含まれる、設定された領域毎の、生成しようとする画素に対する体積の割合を求め、これを、各領域の重みとして計算し、実世界推定情報取得部５３５１より入力された、各領域毎のレベルを設定する関数と共に画素生成部５３５３に出力する。
【３０７５】
例えば、図３９０で示されるように、X方向、Y方向、および、フレーム方向Tの３次元空間内において、生成しようとする画素として注目画素が設定されるものとする。尚、図３９０においては、太線で示される立方体が注目画素ある。また、細線で描かれている立方体は、注目画素に隣接する画素を示している。
【３０７６】
例えば、図３９１で示されるように、特徴量が設定された場合について説明する。尚、図３９１で示されるw₁乃至w₃で示される棒状に設定された３個の領域が定常性の方向に沿って設定された領域であり、各領域のレベルは、w₁乃至w₃であるものとする。
【３０７７】
図３９１で示されるように、注目画素は、領域w₁乃至w₃に跨っているので、注目画素内の、各領域の占める体積がそれぞれM₁乃至M₃であったとき、生成される重みは、生成しようとする画素の体積がMであれば、それぞれ領域w₁の重みは、M₁/Mとなり、領域w₂の重みは、M₂/Mとなり、領域w₃の重みは、M₃/Mとなる。このように求められた領域毎の重みの情報と、各領域のレベルを設定する関数の情報を画素生成部５３５３に出力する。
【３０７８】
ステップＳ５３５４において、画素生成部５３５３は、重み計算部５３５２より入力された、注目画素に跨る領域毎の重みと、各領域毎のレベルに基づいて、画素値を決定し、画素を生成する。
【３０７９】
すなわち、図３９１を参照して説明した注目画素の場合、画素生成部５３５３には、それぞれ重みの情報として、領域w₁はM₁/Mであり、領域w₂はM₂/Mであり、領域w₃はM₃/Mであるとの情報を取得することになる。さらに、同時に取得する各領域毎のレベルとの積和を求めて画素値を決定し、画素を生成する。
【３０８０】
すなわち、例えば、領域w₁乃至w₃のレベルを決定する近似関数が、それぞれの領域でw₁乃至w₃（いずれも、定数）であった場合、重みとの積和を求めることで、以下の式（２９８）で示されるように画素値を決定する。
P＝w₁×M₁/M＋w₂×M₂/M＋w₃×M₃/M・・・（２９８）
【３０８１】
ステップＳ５３５５において、実世界推定情報取得部５３５１は、生成しようとする画像の全ての画素について処理が終了したか否かを判定し、全ての画素について処理が終了していないと判定した場合、その処理は、ステップＳ５３５２に戻り、それ以降の処理が繰り返される。すなわち、全ての画素について処理が完了したと判定されるまで、ステップＳ５３５２乃至Ｓ５３５５の処理が繰り返される。
【３０８２】
ステップＳ５３５５において、全ての画素について処理が終了したと判定された場合、その処理は終了する。
【３０８３】
図３９２Ａ乃至Ｄは、原画像に対して１６倍密度（水平方向、および、垂直方向にそれぞれ４倍の密度）の画素を生成した場合の処理結果を示している。ここで、図３９２Ａは、原画像であり、図３９２Ｂは、従来のクラス分類適応処理による処理結果であり、図３９２Ｃは、上述した多項式からなる実世界の近似関数による処理結果であり、さらに、図３９２Ｄは、不連続関数からなる実世界の近似関数による処理結果をそれぞれ示している。
【３０８４】
不連続関数からなる実世界の近似関数による処理結果は、画像のにじみが少なく、原画像に近い鮮明な画像が生成されることがわかる。
【３０８５】
また、図３９３は、高密度の原画像における、水平方向、および、垂直方向に４画素×４画素ずつ平均画素値を求め、さらに、その１６画素の画素値を求められた平均画素値として、空間解像度を１６分の１にまで低下させた後、上述した多項式からなる実世界の近似関数による処理結果と、不連続関数からなる実世界の近似関数による処理結果を比較したものである。尚、図３９３において、実線は、原画像であり、点線は、多項式からなる実世界の近似関数による処理結果であり、一点鎖線が、不連続関数からなる実世界の近似関数による処理結果である。また、図中横軸は、Ｘ方向の座標位置であり、縦軸は画素値を示している。
【３０８６】
不連続関数からなる実世界の近似関数による処理結果は、多項式からなる実世界の近似関数による処理結果と比べて、Ｘ＝６５１乃至６５５において、原画像と原画像に対してより一致しており、１６倍密度の画素生成においても正確に画素値を再現していることがわかる。
【３０８７】
以上の処理により、画素以下の領域における光の強度の分布を考慮して画素を生成することができ、より高密度の画素を正確に生成することが可能となるため、例えば、拡大画像を鮮明に生成することが可能となる。
【３０８８】
さらに、上述のように、不連続関数からなる実世界の近似関数を設定する方法により、画像に動きボケが生じても除去することができる。
【３０８９】
ここで、図３９４乃至図４０９を参照して、入力画像と動きボケについて説明する。
【３０９０】
図３９４は、センサ２による撮像を説明する図である。センサ２は、例えば、固体撮像素子であるCCD（Charge-Coupled Device）エリアセンサを備えたCCDビデオカメラなどで構成される。現実世界における、前景に対応するオブジェクトは、現実世界における、背景に対応するオブジェクトと、センサとの間を、例えば、図中の左側から右側に水平に移動する。
【３０９１】
センサ２は、前景に対応するオブジェクトを、背景に対応するオブジェクトと共に撮像する。センサ２は、撮像した画像を１フレーム単位で出力する。例えば、センサ２は、１秒間に３０フレームから成る画像を出力する。センサ２の露光時間は、１／３０秒とすることができる。露光時間は、センサ２が入力された光の電荷への変換を開始してから、入力された光の電荷への変換を終了するまでの期間である。以下、露光時間をシャッタ時間とも称する。
【３０９２】
図３９５は、画素の配置を説明する図である。図３９５中において、Ａ乃至Ｉは、個々の画素を示す。画素は、画像に対応する平面上に配置されている。１つの画素に対応する１つの検出素子は、センサ２上に配置されている。センサ２が画像を撮像するとき、１つの検出素子は、画像を構成する１つの画素に対応する画素値を出力する。例えば、検出素子のＸ方向の位置は、画像上の横方向の位置に対応し、検出素子のＹ方向の位置は、画像上の縦方向の位置に対応する。
【３０９３】
図３９６に示すように、例えば、CCDである検出素子は、シャッタ時間に対応する期間、入力された光を電荷に変換して、変換された電荷を蓄積する。電荷の量は、入力された光の強さと、光が入力されている時間にほぼ比例する。検出素子は、シャッタ時間に対応する期間において、入力された光から変換された電荷を、既に蓄積されている電荷に加えていく。すなわち、検出素子は、シャッタ時間に対応する期間、入力される光を積分して、積分された光に対応する量の電荷を蓄積する。検出素子は、時間に対して、積分効果があるとも言える。
【３０９４】
検出素子に蓄積された電荷は、図示せぬ回路により、電圧値に変換され、電圧値は更にデジタルデータなどの画素値に変換されて出力される。従って、センサ２から出力される個々の画素値は、前景または背景に対応するオブジェクトの空間的に広がりを有するある部分を、シャッタ時間について積分した結果である、１次元の空間に射影された値を有する。
【３０９５】
図３９７は、動いている前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像を説明する図である。図３９７Ａは、動きを伴う前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像を示している。図３９７Ａに示す例において、前景に対応するオブジェクトは、画面に対して水平に左から右に動いている。
【３０９６】
図３９７Ｂは、図３９７Ａに示す画像の１つのラインに対応する画素値を時間方向に展開したモデル図である。図３９７Ｂの横方向は、図３９７Ａの空間方向Ｘに対応している。
【３０９７】
背景領域の画素は、背景の成分、すなわち、背景のオブジェクトに対応する画像の成分のみから、その画素値が構成されている。前景領域の画素は、前景の成分、すなわち、前景のオブジェクトに対応する画像の成分のみから、その画素値が構成されている。
【３０９８】
混合領域の画素は、背景の成分、および前景の成分から、その画素値が構成されている。混合領域は、背景の成分、および前景の成分から、その画素値が構成されているので、歪み領域ともいえる。混合領域は、更に、カバードバックグラウンド領域およびアンカバードバックグラウンド領域に分類される。
【３０９９】
カバードバックグラウンド領域は、前景領域に対して、前景のオブジェクトの進行方向の前端部に対応する位置の混合領域であり、時間の経過に対応して背景成分が前景に覆い隠される領域をいう。
【３１００】
これに対して、アンカバードバックグラウンド領域は、前景領域に対して、前景のオブジェクトの進行方向の後端部に対応する位置の混合領域であり、時間の経過に対応して背景成分が現れる領域をいう。
【３１０１】
図３９８は、以上のような、背景領域、前景領域、混合領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域を説明する図である。図３９７に示す画像に対応する場合、背景領域は、静止部分であり、前景領域は、動き部分であり、混合領域のカバードバックグラウンド領域は、背景から前景に変化する部分であり、混合領域のアンカバードバックグラウンド領域は、前景から背景に変化する部分である。
【３１０２】
図３９９は、静止している前景に対応するオブジェクトおよび静止している背景に対応するオブジェクトを撮像した画像における、隣接して１列に並んでいる画素の画素値を時間方向に展開したモデル図である。例えば、隣接して１列に並んでいる画素として、画面の１つのライン上に並んでいる画素を選択することができる。
【３１０３】
図３９９に示すF01乃至F04の画素値は、静止している前景のオブジェクトに対応する画素の画素値である。図３９９に示すB01乃至B04の画素値は、静止している背景のオブジェクトに対応する画素の画素値である。
【３１０４】
図３９９における縦方向は、時間に対応し、図中の上から下に向かって時間が経過する。図３９９中の矩形の上辺の位置は、センサ２が入力された光の電荷への変換を開始する時刻に対応し、図３９９中の矩形の下辺の位置は、センサ２が入力された光の電荷への変換を終了する時刻に対応する。すなわち、図３９９中の矩形の上辺から下辺までの距離は、シャッタ時間に対応する。
【３１０５】
以下において、シャッタ時間とフレーム間隔とが同一である場合を例に説明する。
【３１０６】
図３９９における横方向は、図３９７で説明した空間方向Xに対応する。より具体的には、図３９９に示す例において、図３９９中の"F01"と記載された矩形の左辺から"B04"と記載された矩形の右辺までの距離は、画素のピッチの８倍、すなわち、連続している８つの画素の間隔に対応する。
【３１０７】
前景のオブジェクトおよび背景のオブジェクトが静止している場合、シャッタ時間に対応する期間において、センサ２に入力される光は変化しない。
【３１０８】
ここで、シャッタ時間に対応する期間を２つ以上の同じ長さの期間に分割する。仮想分割数は、前景に対応するオブジェクトのシャッタ時間内での動き量vなどに対応して設定される。例えば、図４００に示すように、４である動き量vに対応して、仮想分割数は、４とされ、シャッタ時間に対応する期間は４つに分割される。
【３１０９】
図４００中の最も上の行は、シャッタが開いて最初の、分割された期間に対応する。図中の上から２番目の行は、シャッタが開いて２番目の、分割された期間に対応する。図中の上から３番目の行は、シャッタが開いて３番目の、分割された期間に対応する。図中の上から４番目の行は、シャッタが開いて４番目の、分割された期間に対応する。
【３１１０】
以下、動き量vに対応して分割されたシャッタ時間をシャッタ時間/vとも称する。
【３１１１】
前景に対応するオブジェクトが静止しているとき、センサ２に入力される光は変化しないので、前景の成分F01/vは、画素値F01を仮想分割数で除した値に等しい。同様に、前景に対応するオブジェクトが静止しているとき、前景の成分F02/vは、画素値F02を仮想分割数で除した値に等しく、前景の成分F03/vは、画素値F03を仮想分割数で除した値に等しく、前景の成分F04/vは、画素値F04を仮想分割数で除した値に等しい。
【３１１２】
背景に対応するオブジェクトが静止しているとき、センサ２に入力される光は変化しないので、背景の成分B01/vは、画素値B01を仮想分割数で除した値に等しい。同様に、背景に対応するオブジェクトが静止しているとき、背景の成分B02/vは、画素値B02を仮想分割数で除した値に等しく、B03/vは、画素値B03を仮想分割数で除した値に等しく、B04/vは、画素値B04を仮想分割数で除した値に等しい。
【３１１３】
すなわち、前景に対応するオブジェクトが静止している場合、シャッタ時間に対応する期間において、センサ２に入力される前景のオブジェクトに対応する光が変化しないので、シャッタが開いて最初の、シャッタ時間/vに対応する前景の成分F01/vと、シャッタが開いて２番目の、シャッタ時間/vに対応する前景の成分F01/vと、シャッタが開いて３番目の、シャッタ時間/vに対応する前景の成分F01/vと、シャッタが開いて４番目の、シャッタ時間/vに対応する前景の成分F01/vとは、同じ値となる。F02/v乃至F04/vも、F01/vと同様の関係を有する。
【３１１４】
背景に対応するオブジェクトが静止している場合、シャッタ時間に対応する期間において、センサ２に入力される背景のオブジェクトに対応する光は変化しないので、シャッタが開いて最初の、シャッタ時間/vに対応する背景の成分B01/vと、シャッタが開いて２番目の、シャッタ時間/vに対応する背景の成分B01/vと、シャッタが開いて３番目の、シャッタ時間/vに対応する背景の成分B01/vと、シャッタが開いて４番目の、シャッタ時間/vに対応する背景の成分B01/vとは、同じ値となる。B02/v乃至B04/vも、同様の関係を有する。
【３１１５】
次に、前景に対応するオブジェクトが移動し、背景に対応するオブジェクトが静止している場合について説明する。
【３１１６】
図４０１は、前景に対応するオブジェクトが図中の右側に向かって移動する場合の、カバードバックグラウンド領域を含む、１つのライン上の画素の画素値を時間方向に展開したモデル図である。図４０１において、前景の動き量vは、４である。１フレームは短い時間なので、前景に対応するオブジェクトが剛体であり、等速で移動していると仮定することができる。図４０１において、前景に対応するオブジェクトの画像は、あるフレームを基準として次のフレームにおいて４画素分右側に表示されるように移動する。
【３１１７】
図４０１において、最も左側の画素乃至左から４番目の画素は、前景領域に属する。図４０１において、左から５番目乃至左から７番目の画素は、カバードバックグラウンド領域である混合領域に属する。図４０１において、最も右側の画素は、背景領域に属する。
【３１１８】
前景に対応するオブジェクトが時間の経過と共に背景に対応するオブジェクトを覆い隠すように移動しているので、カバードバックグラウンド領域に属する画素の画素値に含まれる成分は、シャッタ時間に対応する期間のある時点で、背景の成分から、前景の成分に替わる。
【３１１９】
例えば、図４０１中に太線枠を付した画素値Mは、式（２９９）で表される。
【３１２０】
M=B02/v+B02/v+F07/v+F06/v・・・（２９９）
【３１２１】
例えば、左から５番目の画素は、１つのシャッタ時間/vに対応する背景の成分を含み、３つのシャッタ時間/vに対応する前景の成分を含むので、左から５番目の画素の混合比αは、1/4である。左から６番目の画素は、２つのシャッタ時間/vに対応する背景の成分を含み、２つのシャッタ時間/vに対応する前景の成分を含むので、左から６番目の画素の混合比αは、1/2である。左から７番目の画素は、３つのシャッタ時間/vに対応する背景の成分を含み、１つのシャッタ時間/vに対応する前景の成分を含むので、左から７番目の画素の混合比αは、3/4である。
【３１２２】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図４０１中の左から４番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F07/vは、図４０１中の左から５番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F07/vは、図４０１中の左から６番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図４０１中の左から７番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【３１２３】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図４０１中の左から３番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分F06/vは、図４０１中の左から４番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F06/vは、図４０１中の左から５番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図４０１中の左から６番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【３１２４】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図４０１中の左から２番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分F05/vは、図４０１中の左から３番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F05/vは、図４０１中の左から４番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図４０１中の左から５番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【３１２５】
前景に対応するオブジェクトが、剛体であり、前景の画像が次のフレームにおいて４画素右側に表示されるように等速で移動すると仮定できるので、例えば、図４０１中の最も左側の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分F04/vは、図４０１中の左から２番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F04/vは、図４０１中の左から３番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図４０１中の左から４番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【３１２６】
このような動いているオブジェクトに対応する前景の領域の状態が、動きボケである。また、動いているオブジェクトに対応する前景の領域は、このように動きボケを含むので、歪み領域とも言える。
【３１２７】
図４０２は、前景が図中の右側に向かって移動する場合の、アンカバードバックグラウンド領域を含む、１つのライン上の画素の画素値を時間方向に展開したモデル図である。図４０２において、前景の動き量vは、４である。１フレームは短い時間なので、前景に対応するオブジェクトが剛体であり、等速で移動していると仮定することができる。図４０２において、前景に対応するオブジェクトの画像は、あるフレームを基準として次のフレームにおいて４画素分右側に移動する。
【３１２８】
図４０２において、最も左側の画素乃至左から４番目の画素は、背景領域に属する。図４０２において、左から５番目乃至左から７番目の画素は、アンカバードバックグラウンドである混合領域に属する。図４０２において、最も右側の画素は、前景領域に属する。
【３１２９】
背景に対応するオブジェクトを覆っていた前景に対応するオブジェクトが時間の経過と共に背景に対応するオブジェクトの前から取り除かれるように移動しているので、アンカバードバックグラウンド領域に属する画素の画素値に含まれる成分は、シャッタ時間に対応する期間のある時点で、前景の成分から、背景の成分に替わる。
【３１３０】
例えば、図４０２中に太線枠を付した画素値M'は、式（３００）で表される。
【３１３１】
M'=F02/v+F01/v+B26/v+B26/v・・・（３００）
【３１３２】
例えば、左から５番目の画素は、３つのシャッタ時間/vに対応する背景の成分を含み、１つのシャッタ時間/vに対応する前景の成分を含むので、左から５番目の画素の混合比αは、3/4である。左から６番目の画素は、２つのシャッタ時間/vに対応する背景の成分を含み、２つのシャッタ時間/vに対応する前景の成分を含むので、左から６番目の画素の混合比αは、1/2である。左から７番目の画素は、１つのシャッタ時間/vに対応する背景の成分を含み、３つのシャッタ時間/vに対応する前景の成分を含むので、左から７番目の画素の混合比αは、1/4である。
【３１３３】
式（２９９）および式（３００）をより一般化すると、画素値Mは、式（３０１）で表される。
【３１３４】
【数２３２】

ここで、αは、混合比である。Ｂは、背景の画素値であり、Fi/vは、前景の成分である。
【３１３５】
前景に対応するオブジェクトが剛体であり、等速で動くと仮定でき、かつ、動き量vが４であるので、例えば、図４０２中の左から５番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F01/vは、図４０２中の左から６番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、F01/vは、図４０２中の左から７番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分と、図４０２中の左から８番目の画素の、シャッタが開いて４番目のシャッタ時間/vに対応する前景の成分とに、それぞれ等しい。
【３１３６】
前景に対応するオブジェクトが剛体であり、等速で動くと仮定でき、かつ、仮想分割数が４であるので、例えば、図４０２中の左から６番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F02/vは、図４０２中の左から７番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。同様に、前景の成分F02/vは、図４０２中の左から８番目の画素の、シャッタが開いて３番目のシャッタ時間/vに対応する前景の成分に等しい。
【３１３７】
前景に対応するオブジェクトが剛体であり、等速で動くと仮定でき、かつ、動き量vが４であるので、例えば、図４０２中の左から７番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分F03/vは、図４０２中の左から８番目の画素の、シャッタが開いて２番目のシャッタ時間/vに対応する前景の成分に等しい。
【３１３８】
図４００乃至図４０２の説明において、仮想分割数は、４であるとして説明したが、仮想分割数は、動き量vに対応する。動き量vは、一般に、前景に対応するオブジェクトの移動速度に対応する。例えば、前景に対応するオブジェクトが、あるフレームを基準として次のフレームにおいて４画素分右側に表示されるように移動しているとき、動き量vは、４とされる。動き量vに対応し、仮想分割数は、４とされる。同様に、例えば、前景に対応するオブジェクトが、あるフレームを基準として次のフレームにおいて６画素分左側に表示されるように移動しているとき、動き量vは、６とされ、仮想分割数は、６とされる。
【３１３９】
図４０３および図４０４に、以上で説明した、前景領域、背景領域、カバードバックグラウンド領域若しくはアンカバードバックグラウンド領域から成る混合領域と、分割されたシャッタ時間に対応する前景の成分および背景の成分との関係を示す。
【３１４０】
図４０３は、静止している背景の前を移動しているオブジェクトに対応する前景を含む画像から、前景領域、背景領域、および混合領域の画素を抽出した例を示す。図４０３に示す例において、前景に対応するオブジェクトは、画面に対して水平に移動している。
【３１４１】
フレーム#n+1は、フレーム#nの次のフレームであり、フレーム#n+2は、フレーム#n+1の次のフレームである。
【３１４２】
フレーム#n乃至フレーム#n+2のいずれかから抽出した、前景領域、背景領域、および混合領域の画素を抽出して、動き量vを４として、抽出された画素の画素値を時間方向に展開したモデルを図４０４に示す。
【３１４３】
前景領域の画素値は、前景に対応するオブジェクトが移動するので、シャッタ時間/vの期間に対応する、４つの異なる前景の成分から構成される。例えば、図４０４に示す前景領域の画素のうち最も左側に位置する画素は、F01/v,F02/v,F03/v、およびF04/vから構成される。すなわち、前景領域の画素は、動きボケを含んでいる。
【３１４４】
背景に対応するオブジェクトが静止しているので、シャッタ時間に対応する期間において、センサ２に入力される背景に対応する光は変化しない。この場合、背景領域の画素値は、動きボケを含まない。
【３１４５】
カバードバックグラウンド領域若しくはアンカバードバックグラウンド領域から成る混合領域に属する画素の画素値は、前景の成分と、背景の成分とから構成される。
【３１４６】
次に、オブジェクトに対応する画像が動いているとき、複数のフレームにおける、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデルについて説明する。例えば、オブジェクトに対応する画像が画面に対して水平に動いているとき、隣接して１列に並んでいる画素として、画面の１つのライン上に並んでいる画素を選択することができる。
【３１４７】
図４０５は、静止している背景に対応するオブジェクトを撮像した画像の３つのフレームの、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。フレーム#nは、フレーム#n-1の次のフレームであり、フレーム#n+1は、フレーム#nの次のフレームである。他のフレームも同様に称する。
【３１４８】
図４０５に示すB01乃至B12の画素値は、静止している背景のオブジェクトに対応する画素の画素値である。背景に対応するオブジェクトが静止しているので、フレーム#n-1乃至フレームn+1において、対応する画素の画素値は、変化しない。例えば、フレーム#n-1におけるB05の画素値を有する画素の位置に対応する、フレーム#nにおける画素、およびフレーム#n+1における画素は、それぞれ、B05の画素値を有する。
【３１４９】
図４０６は、静止している背景に対応するオブジェクトと共に図中の右側に移動する前景に対応するオブジェクトを撮像した画像の３つのフレームの、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。図４０６に示すモデルは、カバードバックグラウンド領域を含む。
【３１５０】
図４０６において、前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、前景の動き量vは、４であり、仮想分割数は、４である。
【３１５１】
例えば、図４０６中のフレーム#n-1の最も左側の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F12/vとなり、図４０６中の左から２番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F12/vとなる。図４０６中の左から３番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０６中の左から４番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F12/vとなる。
【３１５２】
図４０６中のフレーム#n-1の最も左側の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分は、F11/vとなり、図４０６中の左から２番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分も、F11/vとなる。図４０６中の左から３番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F11/vとなる。
【３１５３】
図４０６中のフレーム#n-1の最も左側の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分は、F10/vとなり、図４０６中の左から２番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分も、F10/vとなる。図４０６中のフレーム#n-1の最も左側の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F09/vとなる。
【３１５４】
背景に対応するオブジェクトが静止しているので、図４０６中のフレーム#n-1の左から２番目の画素の、シャッタが開いて最初のシャッタ時間/vの背景の成分は、B01/vとなる。図４０６中のフレーム#n-1の左から３番目の画素の、シャッタが開いて最初および２番目のシャッタ時間/vの背景の成分は、B02/vとなる。図４０６中のフレーム#n-1の左から４番目の画素の、シャッタが開いて最初乃至３番目のシャッタ時間/vの背景の成分は、B03/vとなる。
【３１５５】
図４０６中のフレーム#n-1において、最も左側の画素は、前景領域に属し、左側から２番目乃至４番目の画素は、カバードバックグラウンド領域である混合領域に属する。
【３１５６】
図４０６中のフレーム#n-1の左から５番目の画素乃至１２番目の画素は、背景領域に属し、その画素値は、それぞれ、B04乃至B11となる。
【３１５７】
図４０６中のフレーム#nの左から１番目の画素乃至５番目の画素は、前景領域に属する。フレーム#nの前景領域における、シャッタ時間/vの前景の成分は、F05/v乃至F12/vのいずれかである。
【３１５８】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４０６中のフレーム#nの左から５番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F12/vとなり、図４０６中の左から６番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F12/vとなる。図４０６中の左から７番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０６中の左から８番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F12/vとなる。
【３１５９】
図４０６中のフレーム#nの左から５番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分は、F11/vとなり、図４０６中の左から６番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分も、F11/vとなる。図４０６中の左から７番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F11/vとなる。
【３１６０】
図４０６中のフレーム#nの左から５番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分は、F10/vとなり、図４０６中の左から６番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分も、F10/vとなる。図４０６中のフレーム#nの左から５番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F09/vとなる。
【３１６１】
背景に対応するオブジェクトが静止しているので、図４０６中のフレーム#nの左から６番目の画素の、シャッタが開いて最初のシャッタ時間/vの背景の成分は、B05/vとなる。図４０６中のフレーム#nの左から７番目の画素の、シャッタが開いて最初および２番目のシャッタ時間/vの背景の成分は、B06/vとなる。図４０６中のフレーム#nの左から８番目の画素の、シャッタが開いて最初乃至３番目の、シャッタ時間/vの背景の成分は、B07/vとなる。
【３１６２】
図４０６中のフレーム#nにおいて、左側から６番目乃至８番目の画素は、カバードバックグラウンド領域である混合領域に属する。
【３１６３】
図４０６中のフレーム#nの左から９番目の画素乃至１２番目の画素は、背景領域に属し、画素値は、それぞれ、B08乃至B11となる。
【３１６４】
図４０６中のフレーム#n+1の左から１番目の画素乃至９番目の画素は、前景領域に属する。フレーム#n+1の前景領域における、シャッタ時間/vの前景の成分は、F01/v乃至F12/vのいずれかである。
【３１６５】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４０６中のフレーム#n+1の左から９番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F12/vとなり、図４０６中の左から１０番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F12/vとなる。図４０６中の左から１１番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０６中の左から１２番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F12/vとなる。
【３１６６】
図４０６中のフレーム#n+1の左から９番目の画素の、シャッタが開いて２番目のシャッタ時間/vの期間の前景の成分は、F11/vとなり、図４０６中の左から１０番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分も、F11/vとなる。図４０６中の左から１１番目の画素の、シャッタが開いて４番目の、シャッタ時間/vの前景の成分は、F11/vとなる。
【３１６７】
図４０６中のフレーム#n+1の左から９番目の画素の、シャッタが開いて３番目の、シャッタ時間/vの前景の成分は、F10/vとなり、図４０６中の左から１０番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分も、F10/vとなる。図４０６中のフレーム#n+1の左から９番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F09/vとなる。
【３１６８】
背景に対応するオブジェクトが静止しているので、図４０６中のフレーム#n+1の左から１０番目の画素の、シャッタが開いて最初のシャッタ時間/vの背景の成分は、B09/vとなる。図４０６中のフレーム#n+1の左から１１番目の画素の、シャッタが開いて最初および２番目のシャッタ時間/vの背景の成分は、B10/vとなる。図４０６中のフレーム#n+1の左から１２番目の画素の、シャッタが開いて最初乃至３番目の、シャッタ時間/vの背景の成分は、B11/vとなる。
【３１６９】
図４０６中のフレーム#n+1において、左側から１０番目乃至１２番目の画素は、カバードバックグラウンド領域である混合領域に対応する。
【３１７０】
図４０７は、図４０６に示す画素値から前景の成分を抽出した画像のモデル図である。
【３１７１】
図４０８は、静止している背景と共に図中の右側に移動するオブジェクトに対応する前景を撮像した画像の３つのフレームの、隣接して１列に並んでいる画素であって、フレーム上で同一の位置の画素の画素値を時間方向に展開したモデル図である。図４０８において、アンカバードバックグラウンド領域が含まれている。
【３１７２】
図４０８において、前景に対応するオブジェクトは、剛体であり、かつ等速で移動していると仮定できる。前景に対応するオブジェクトが、次のフレームにおいて４画素分右側に表示されるように移動しているので、動き量vは、４である。
【３１７３】
例えば、図４０８中のフレーム#n-1の最も左側の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分は、F13/vとなり、図４０８中の左から２番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F13/vとなる。図４０８中の左から３番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０８中の左から４番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F13/vとなる。
【３１７４】
図４０８中のフレーム#n-1の左から２番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F14/vとなり、図４０８中の左から３番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F14/vとなる。図４０８中の左から３番目の画素の、シャッタが開いて最初の、シャッタ時間/vの前景の成分は、F15/vとなる。
【３１７５】
背景に対応するオブジェクトが静止しているので、図４０８中のフレーム#n-1の最も左側の画素の、シャッタが開いて２番目乃至４番目の、シャッタ時間/vの背景の成分は、B25/vとなる。図４０８中のフレーム#n-1の左から２番目の画素の、シャッタが開いて３番目および４番目の、シャッタ時間/vの背景の成分は、B26/vとなる。図４０８中のフレーム#n-1の左から３番目の画素の、シャッタが開いて４番目のシャッタ時間/vの背景の成分は、B27/vとなる。
【３１７６】
図４０８中のフレーム#n-1において、最も左側の画素乃至３番目の画素は、アンカバードバックグラウンド領域である混合領域に属する。
【３１７７】
図４０８中のフレーム#n-1の左から４番目の画素乃至１２番目の画素は、前景領域に属する。フレームの前景の成分は、F13/v乃至F24/vのいずれかである。
【３１７８】
図４０８中のフレーム#nの最も左側の画素乃至左から４番目の画素は、背景領域に属し、画素値は、それぞれ、B25乃至B28となる。
【３１７９】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４０８中のフレーム#nの左から５番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F13/vとなり、図４０８中の左から６番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F13/vとなる。図４０８中の左から７番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０８中の左から８番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F13/vとなる。
【３１８０】
図４０８中のフレーム#nの左から６番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F14/vとなり、図４０８中の左から７番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F14/vとなる。図４０８中の左から８番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F15/vとなる。
【３１８１】
背景に対応するオブジェクトが静止しているので、図４０８中のフレーム#nの左から５番目の画素の、シャッタが開いて２番目乃至４番目のシャッタ時間/vの背景の成分は、B29/vとなる。図４０８中のフレーム#nの左から６番目の画素の、シャッタが開いて３番目および４番目のシャッタ時間/vの背景の成分は、B30/vとなる。図４０８中のフレーム#nの左から７番目の画素の、シャッタが開いて４番目のシャッタ時間/vの背景の成分は、B31/vとなる。
【３１８２】
図４０８中のフレーム#nにおいて、左から５番目の画素乃至７番目の画素は、アンカバードバックグラウンド領域である混合領域に属する。
【３１８３】
図４０８中のフレーム#nの左から８番目の画素乃至１２番目の画素は、前景領域に属する。フレーム#nの前景領域における、シャッタ時間/vの期間に対応する値は、F13/v乃至F20/vのいずれかである。
【３１８４】
図４０８中のフレーム#n+1の最も左側の画素乃至左から８番目の画素は、背景領域に属し、画素値は、それぞれ、B25乃至B32となる。
【３１８５】
前景に対応するオブジェクトが、剛体であり、等速で移動すると仮定でき、前景の画像が次のフレームにおいて４画素右側に表示されるように移動するので、図４０８中のフレーム#n+1の左から９番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F13/vとなり、図４０８中の左から１０番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F13/vとなる。図４０８中の左から１１番目の画素の、シャッタが開いて３番目のシャッタ時間/vの前景の成分、および図４０８中の左から１２番目の画素の、シャッタが開いて４番目のシャッタ時間/vの前景の成分は、F13/vとなる。
【３１８６】
図４０８中のフレーム#n+1の左から１０番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F14/vとなり、図４０８中の左から１１番目の画素の、シャッタが開いて２番目のシャッタ時間/vの前景の成分も、F14/vとなる。図４０８中の左から１２番目の画素の、シャッタが開いて最初のシャッタ時間/vの前景の成分は、F15/vとなる。
【３１８７】
背景に対応するオブジェクトが静止しているので、図４０８中のフレーム#n+1の左から９番目の画素の、シャッタが開いて２番目乃至４番目の、シャッタ時間/vの背景の成分は、B33/vとなる。図４０８中のフレーム#n+1の左から１０番目の画素の、シャッタが開いて３番目および４番目のシャッタ時間/vの背景の成分は、B34/vとなる。図４０８中のフレーム#n+1の左から１１番目の画素の、シャッタが開いて４番目のシャッタ時間/vの背景の成分は、B35/vとなる。
【３１８８】
図４０８中のフレーム#n+1において、左から９番目の画素乃至１１番目の画素は、アンカバードバックグラウンド領域である混合領域に属する。
【３１８９】
図４０８中のフレーム#n+1の左から１２番目の画素は、前景領域に属する。フレーム#n+1の前景領域における、シャッタ時間/vの前景の成分は、F13/v乃至F16/vのいずれかである。
【３１９０】
図４０９は、図４０８に示す画素値から前景の成分を抽出した画像のモデル図である。
【３１９１】
入力画像と動きボケについて説明してきたが、以上においては、仮想分割数により画素内の成分の変化を説明してきたが、仮想分割数を無限にすることにより、各成分は、例えば、図３７３の右部にあるレベルw₁乃至w₅で示される帯状の領域と同様な構成となる。
【３１９２】
すなわち、X-T平面上（X-Y平面でも同じ）の定常性の方向に沿った領域毎に不連続関数としてレベルを設定することは、シャッタ時間内の成分の変化を分割数によらず、直線的な領域として設定したものであると言える。
【３１９３】
このため、定常性の方向に沿った領域毎に不連続関数からなる近似関数を用いて、実世界を推定することにより、上述の動きボケの生じるメカニズムを推定することができる。
【３１９４】
従って、この特性を利用することで、１回のシャッタ時間内の画素（フレーム方向に１画素以下の画素）を生成することにより、実質的に動きボケを除去することが可能となる。
【３１９５】
図４１０は、クラス分類適応処理により動きボケを除去した場合の処理結果と、定常性の方向に沿った領域毎に不連続関数を設定することにより得られる実世界の近似関数を用いて動きボケを除去した場合の処理結果を比較したものである。尚、図４１０においては、点線が、入力画像（動きボケの存在する画像）の画素値の変化を示したものであり、実線は、クラス分類適応処理により動きボケを除去した場合の処理結果を示したものであり、一点鎖線が、定常性の方向に沿った領域毎に不連続関数を設定することにより得られる実世界の近似関数を用いて動きボケを除去した場合の処理結果を示している。さらに、横軸は、入力画像のＸ方向の座標を示し、縦軸は、画素値を示している。
【３１９６】
領域毎の不連続関数からなる実世界の近似関数を用いて動きボケを除去した場合の処理結果は、クラス分類適応処理により動きボケを除去した場合の処理結果に比べて、Ｘ＝３７９，３７６付近を中心として、エッジ部分の画素値の変化が激しくなっており、動きボケが除去されて、画像のコントラストがはっきりした画像となっていることがわかる。
【３１９７】
また、図４１１で示されるように、おもちゃの飛行機状の物体が水平方向に移動する際に動きボケが生じたときの画像を、定常性の方向に沿った領域毎に不連続関数を設定して実世界の近似関数を用いて動きボケを除去した場合の処理結果（図３６９の実世界推定部１０２と図３８４の画像生成部１０３を用いて生成された動きボケが除去された画像）と、その他の方式で動きボケを除去した処理結果との比較が、図４１２Ａ乃至Ｄに示されている。
【３１９８】
すなわち、図４１２Ａは、図４１１中の黒枠部分の動きボケが生じた画像そのもの（ボケ除去の処理前の画像）であり、図４１２Ｂは、図４１２Ａの動きボケが生じた画像を、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去した画像であり、図４１２Ｃは、入力画像の被写体が静止した状態で撮像された画像であり、図４１２Ｄは、その他の方式で動きボケを除去した処理結果の画像である。
【３１９９】
領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去した画像（図４１２Ｂの画像）は、その他の方式で動きボケを除去した処理結果の画像（図４１２Ｄの画像）と比べて、図中の「Ｃ」と「Ａ」の隣接している部位が、より鮮明な画像となっており、また、文字の存在する領域が、よりはっきりと表示されているのがわかる。これにより、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去する処理により、細部が鮮明に表示されることがわかる。
【３２００】
さらに、図４１３で示されるように、おもちゃの飛行機状の物体が斜方向（斜右上がり方向）に移動する際に動きボケが生じたときの画像を、定常性の方向に沿った領域毎に不連続関数を設定して実世界の近似関数を用いて動きボケを除去した場合の処理結果（図３７７の実世界推定部１０２と図３８８の画像生成部１０３を用いて生成された動きボケが除去された画像）と、その他の方式で動きボケを除去した処理結果との比較が、図４１４Ａ乃至Ｄに示されている。
【３２０１】
すなわち、図４１４Ａは、図４１３中の黒枠部分の動きボケが生じたボケ除去の処理前の画像であり、図４１４Ｂは、図４１４Ａの動きボケが生じた画像を、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去した画像であり、図４１４Ｃは、入力画像の被写体が静止した状態で撮像された画像であり、図４１４Ｄは、その他の方式で動きボケを除去した処理結果の画像である。尚、画像は、図４１３の図中に太線で長方状の印のついた位置付近のものである。
【３２０２】
領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去した画像は、図４１２を参照して説明したように、その他の方式で動きボケを除去した処理結果の画像と比べて、図中の「Ｃ」と「Ａ」の隣接している部位が、より鮮明な画像となっており、また、文字の存在する領域が、よりはっきりと表示されているのがわかる。これにより、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去する処理により、細部が鮮明に表示されることがわかる。
【３２０３】
さらに、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去する場合、図４１５Ａで示される右上がりの方向に動きボケが生じた斜方向に上段の原画像が入力されると、図４１５Ｂで示されるような画像が出力される。すなわち、原画像の中央部の縦じまに動きボケが生じた画像の場合、領域毎に設定される不連続関数からなる実世界の近似関数を用いて動きボケを除去することにより、縦じま部分が、鮮明な画像となる。
【３２０４】
すなわち、図４１２Ａ乃至Ｄ、および、図４１５Ａ，Ｂで示されるように、図３７７の実世界推定部、および、図３８８の画像生成部１０３は、図３９１で示されるような３次元の棒状の領域毎に、それぞれに不連続な関数として実世界を推定する近似関数を設定することから、水平方向、および、垂直方向のみならず、それらの動きの組み合わせとなる斜方向の動きにより生じる動きボケをも除去することも可能である。
【３２０５】
以上によれば、それぞれ時空間積分効果を有する複数の画素に現実世界の光信号が射影され、現実世界の光信号の定常性の一部が欠落した画像データの定常性を検出し、画像データ定常性検出手段により検出された画像データの定常性に対応して、画像データの時空間方向のうち少なくとも１次元方向の位置に対応する各画素の画素値が少なくとも１次元方向の積分により取得された画素値であるとして画像データを不連続な関数で近似することにより、現実世界の光信号に対応する関数を推定するようにしたので、拡大画像に用いる高密度画素の生成や、新たなフレームの画素を生成することが可能となり、いずれにおいても、より鮮明な画像を生成することが可能となる。
【３２０６】
なお、センサ２は、固体撮像素子である、例えば、BBD（Bucket Brigade Device）、CID（Charge Injection Device）、またはCPD（Charge Priming Device）などのセンサでもよい。
【３２０７】
本発明の信号処理を行うプログラムを記録した記録媒体は、図２で示されるように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク５１（フレキシブルディスクを含む）、光ディスク５２（CD-ROM(Compaut Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む）、光磁気ディスク５３（ＭＤ（Mini-Disk）（商標）を含む）、もしくは半導体メモリ５４などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM２２や、記憶部２８に含まれるハードディスクなどで構成される。
【３２０８】
なお、上述した一連の処理を実行させるプログラムは、必要に応じてルータ、モデムなどのインタフェースを介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を介してコンピュータにインストールされるようにしてもよい。
【３２０９】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【３２１０】
【発明の効果】
以上のように、本発明によれば、正確で、精度の高い処理結果を得ることができるようになる。
【３２１１】
また、本発明によれば、現実世界の事象に対して、より正確で、より精度の高い処理結果を得ることができるようになる。
【図面の簡単な説明】
【図１】本発明の原理を示す図である。
【図２】信号処理装置４の構成の例を示すブロック図である。
【図３】信号処理装置４を示すブロック図である。
【図４】従来の信号処理装置１２１の処理の原理を説明する図である。
【図５】信号処理装置４の処理の原理を説明する図である。
【図６】本発明の原理をより具体的に説明する図である。
【図７】本発明の原理をより具体的に説明する図である。
【図８】イメージセンサ上の画素の配置の例を説明する図である。
【図９】 CCDである検出素子の動作を説明する図である。
【図１０】画素Ｄ乃至画素Ｆに対応する検出素子に入射される光と、画素値との関係を説明する図である。
【図１１】時間の経過と、１つの画素に対応する検出素子に入射される光と、画素値との関係を説明する図である。
【図１２】実世界１の線状の物の画像の例を示す図である。
【図１３】実際の撮像により得られた画像データの画素値の例を示す図である。
【図１４】画像データの模式図である。
【図１５】背景とは異なる色であって、単色の、直線状の縁を有する物の実世界１の画像の例を示す図である。
【図１６】実際の撮像により得られた画像データの画素値の例を示す図である。
【図１７】画像データの模式図である。
【図１８】本発明の原理を説明する図である。
【図１９】本発明の原理を説明する図である。
【図２０】高解像度データ１８１の生成の例を説明する図である。
【図２１】モデル１６１による近似を説明する図である。
【図２２】Ｍ個のデータ１６２によるモデル１６１の推定を説明する図である。
【図２３】実世界１の信号とデータ３との関係を説明する図である。
【図２４】式を立てるときに注目するデータ３の例を示す図である。
【図２５】式を立てる場合における、実世界１における２つの物体に対する信号および混合領域に属する値を説明する図である。
【図２６】式（１８）、式（１９）、および式（２２）で表される定常性を説明する図である。
【図２７】データ３から抽出される、Ｍ個のデータ１６２の例を示す図である。
【図２８】データ３である画素値が取得された領域を説明する図である。
【図２９】画素の時空間方向の位置の近似を説明する図である。
【図３０】データ３における、時間方向および２次元の空間方向の実世界１の信号の積分を説明する図である。
【図３１】空間方向により解像度の高い高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３２】時間方向により解像度の高い高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３３】動きボケを除去した高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３４】時間空間方向により解像度の高い高解像度データ１８１を生成するときの、積分の領域を説明する図である。
【図３５】入力画像の元の画像を示す図である。
【図３６】入力画像の例を示す図である。
【図３７】従来のクラス分類適応処理を適用して得られた画像を示す図である。
【図３８】細線の領域を検出した結果を示す図である。
【図３９】信号処理装置４から出力された出力画像の例を示す図である。
【図４０】信号処理装置４による、信号の処理を説明するフローチャートである。
【図４１】データ定常性検出部１０１の構成を示すブロック図である。
【図４２】背景の前に細線がある実世界１の画像を示す図である。
【図４３】平面による背景の近似を説明する図である。
【図４４】細線の画像が射影された画像データの断面形状を示す図である。
【図４５】細線の画像が射影された画像データの断面形状を示す図である。
【図４６】細線の画像が射影された画像データの断面形状を示す図である。
【図４７】頂点の検出および単調増減領域の検出の処理を説明する図である。
【図４８】頂点の画素値が閾値を超え、隣接する画素の画素値が閾値以下である細線領域を検出する処理を説明する図である。
【図４９】図４８の点線AA'で示す方向に並ぶ画素の画素値を表す図である。
【図５０】単調増減領域の連続性の検出の処理を説明する図である。
【図５１】平面での近似により定常成分を抽出した画像の例を示す図である。
【図５２】単調減少している領域を検出した結果を示す図である。
【図５３】連続性が検出された領域を示す図である。
【図５４】連続性が検出された領域の画素値を示す図である。
【図５５】細線の画像が射影された領域の検出の他の処理の例を示す図である。
【図５６】定常性検出の処理を説明するフローチャートである。
【図５７】時間方向のデータの定常性を検出の処理を説明する図である。
【図５８】非定常成分抽出部２０１の構成を示すブロック図である。
【図５９】棄却される回数を説明する図である。
【図６０】入力画像の例を示す図である。
【図６１】棄却をしないで平面で近似した結果得られる標準誤差を画素値とした画像を示す図である。
【図６２】棄却をして平面で近似した結果得られる標準誤差を画素値とした画像を示す図である。
【図６３】棄却された回数を画素値とした画像を示す図である。
【図６４】平面の空間方向Ｘの傾きを画素値とした画像を示す図である。
【図６５】平面の空間方向Ｙの傾きを画素値とした画像を示す図である。
【図６６】平面で示される近似値からなる画像を示す図である。
【図６７】平面で示される近似値と画素値との差分からなる画像を示す図である。
【図６８】非定常成分の抽出の処理を説明するフローチャートである。
【図６９】定常成分の抽出の処理を説明するフローチャートである。
【図７０】定常成分の抽出の他の処理を説明するフローチャートである。
【図７１】定常成分の抽出のさらに他の処理を説明するフローチャートである。
【図７２】データ定常性検出部１０１の他の構成を示すブロック図である。
【図７３】データの定常性を有する入力画像におけるアクティビティを説明する図である。
【図７４】アクティビティを検出するためのブロックを説明する図である。
【図７５】アクティビティに対するデータの定常性の角度を説明する図である。
【図７６】データ定常性検出部１０１のより詳細な構成を示すブロック図である。
【図７７】画素の組を説明する図である。
【図７８】画素の組の位置とデータの定常性の角度との関係を説明する図である。
【図７９】データの定常性の検出の処理を説明するフローチャートである。
【図８０】時間方向および空間方向のデータの定常性の角度を検出するとき、抽出される画素の組を示す図である。
【図８１】データ定常性検出部１０１のより詳細な他の構成を示すブロック図である。
【図８２】設定された直線の角度の範囲に応じた数の画素からなる画素の組を説明する図である。
【図８３】設定された直線の角度の範囲を説明する図である。
【図８４】設定された直線の角度の範囲と、画素の組の数、および画素の組毎の画素の数を説明する図である。
【図８５】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８６】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８７】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８８】画素の組の数および画素の組毎の画素の数を説明する図である。
【図８９】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９０】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９１】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９２】画素の組の数および画素の組毎の画素の数を説明する図である。
【図９３】データの定常性の検出の処理を説明するフローチャートである。
【図９４】データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【図９５】データ定常性検出部１０１のより詳細な構成を示すブロック図である。
【図９６】ブロックの例を説明する図である。
【図９７】注目ブロックと参照ブロックとの、画素値の差分の絶対値の算出の処理を説明する図である。
【図９８】注目画素の周辺の画素の位置と、角度θを有する直線との空間方向Ｘの距離を説明する図である。
【図９９】シフト量γと角度θとの関係を示す図である。
【図１００】シフト量γに対する、注目画素の周辺の画素の位置と、注目画素を通り、角度θを有する直線との空間方向Ｘの距離を示す図である。
【図１０１】注目画素を通り、空間方向Ｘの軸に対して角度θの直線との距離が最小の参照ブロックを示す図である。
【図１０２】検出するデータの定常性の角度の範囲を１／２にする処理を説明する図である。
【図１０３】データの定常性の検出の処理を説明するフローチャートである。
【図１０４】間方向および空間方向のデータの定常性の角度を検出するとき、抽出されるブロックを示す図である。
【図１０５】入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の構成を示すブロック図である。
【図１０６】入力画像のコンポーネント信号を基に、データの定常性の検出の処理を実行するデータ定常性検出部１０１の構成を示すブロック図である。
【図１０７】データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【図１０８】入力画像における、基準軸を基準としたデータの定常性の角度を説明する図である。
【図１０９】入力画像における、基準軸を基準としたデータの定常性の角度を説明する図である。
【図１１０】入力画像における、基準軸を基準としたデータの定常性の角度を説明する図である。
【図１１１】入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線との関係を示す図である。
【図１１２】回帰直線Ａと、例えば、基準軸である空間方向Ｘを示す軸との角度を説明する図である。
【図１１３】領域の例を示す図である。
【図１１４】図１０７で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明するフローチャートである。
【図１１５】データ定常性検出部１０１のさらに他の構成を示すブロック図である。
【図１１６】入力画像における、画素の空間方向の位置に対する、画素値の変化と、回帰直線との関係を示す図である。
【図１１７】標準偏差とデータの定常性を有する領域との関係を説明する図である。
【図１１８】領域の例を示す図である。
【図１１９】図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の処理を説明するフローチャートである。
【図１２０】図１１５で構成が示されるデータ定常性検出部１０１による、データの定常性の検出の他の処理を説明するフローチャートである。
【図１２１】本発明を適用した細線、または、２値エッジの角度をデータ定常性情報として検出するデータ定常性検出部の構成を示すブロック図である。
【図１２２】データ定常性情報の検出方法を説明する図である。
【図１２３】データ定常性情報の検出方法を説明する図である。
【図１２４】図１２１のデータ定常性検出部のより詳細な構成を示す図である。
【図１２５】水平・垂直判定処理を説明する図である。
【図１２６】水平・垂直判定処理を説明する図である。
【図１２７】現実世界の細線とセンサにより撮像される細線の関係を説明する図である。
【図１２８】現実世界の画像の細線と背景の関係を説明する図である。
【図１２９】センサにより撮像された画像の細線と背景の関係を説明する図である。
【図１３０】センサにより撮像された画像の細線と背景の関係の例を説明する図である。
【図１３１】現実世界の画像の細線と背景の関係を説明する図である。
【図１３２】センサにより撮像された画像の細線と背景の関係を説明する図である。
【図１３３】センサにより撮像された画像の細線と背景の関係の例を説明する図である。
【図１３４】細線の角度を求めるためのモデルを示す図である。
【図１３５】細線の角度を求めるためのモデルを示す図である。
【図１３６】注目画素に対応するダイナミックレンジブロックの画素値の最大値と最小値を説明する図である。
【図１３７】細線の角度の求め方を説明する図である。
【図１３８】細線の角度の求め方を説明する図である。
【図１３９】抽出ブロックとダイナミックレンジブロックを説明する図である。
【図１４０】最小自乗法の解法を説明する図である。
【図１４１】最小自乗法の解法を説明する図である。
【図１４２】２値エッジを説明する図である。
【図１４３】センサにより撮像された画像の２値エッジを説明する図である。
【図１４４】センサにより撮像された画像の２値エッジの例を説明する図である。
【図１４５】センサにより撮像された画像の２値エッジを説明する図である。
【図１４６】２値エッジの角度を求めるためのモデルを示す図である。
【図１４７】２値エッジの角度を求める方法を説明する図である。
【図１４８】２値エッジの角度を求める方法を説明する図である。
【図１４９】細線、または、２値エッジの角度をデータ定常性と検出する処理を説明するフローチャートである。
【図１５０】データ抽出処理を説明するフローチャートである。
【図１５１】正規方程式への足し込み処理を説明するフローチャートである。
【図１５２】本発明を適用して求めた細線の傾きと、相関を用いて求めた細線の角度とを比較する図である。
【図１５３】本発明を適用して求めた２値エッジの傾きと、相関を用いて求めた細線の角度とを比較する図である。
【図１５４】本発明を適用した混合比をデータ定常性情報として検出するデータ定常性検出部の構成を示すブロック図である。
【図１５５】混合比の求め方を説明する図である。
【図１５６】混合比をデータ定常性と検出する処理を説明するフローチャートである。
【図１５７】正規方程式への足し込み処理を説明するフローチャートである。
【図１５８】細線の混合比の分布例を示す図である。
【図１５９】２値エッジの混合比の分布例を示す図である。
【図１６０】混合比の直線近似を説明する図である。
【図１６１】物体の動きをデータ定常性情報として求める方法を説明する図である。
【図１６２】物体の動きをデータ定常性情報として求める方法を説明する図である。
【図１６３】物体の動きによる混合比をデータ定常性情報として求める方法を説明する図である。
【図１６４】物体の動きによる混合比をデータ定常性情報として求める際の混合比の直線近似を説明する図である。
【図１６５】本発明を適用した処理領域をデータ定常性情報として検出するデータ定常性検出部の構成を示すブロック図である。
【図１６６】図１６５のデータ定常性検出部による定常性の検出の処理を説明するフローチャートである。
【図１６７】図１６５のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１６８】図１６５のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１６９】本発明を適用した処理領域をデータ定常性情報として検出するデータ定常性検出部のその他の構成を示すブロック図である。
【図１７０】図１６９のデータ定常性検出部による定常性の検出の処理を説明するフローチャートである。
【図１７１】図１６９のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１７２】図１６９のデータ定常性検出部による定常性の検出の処理の積分範囲を説明する図である。
【図１７３】データ定常性検出部の他の実施の形態の構成を示すブロック図である。
【図１７４】図１７３のデータ定常性検出部の簡易式角度検出部の構成の例を示すブロック図である。
【図１７５】図１７３のデータ定常性検出部の回帰式角度検出部の構成の例を示すブロック図である。
【図１７６】図１７３のデータ定常性検出部の勾配式角度検出部の構成の例を示すブロック図である。
【図１７７】図１７３のデータ定常性検出部によるデータの定常性の検出の処理を説明するフローチャートである。
【図１７８】簡易式角度検出部により検出された角度に対応する角度の検出方法を説明する図である。
【図１７９】図１７７のフローチャートのステップＳ９０４の処理である回帰式角度検出処理を説明するフローチャートである。
【図１８０】度数の変換処理を行うスコープ範囲となる画素を説明する図である。
【図１８１】度数の変換処理を行うスコープ範囲となる画素を説明する図である。
【図１８２】度数の変換処理を行うスコープ範囲となる画素を説明する図である。
【図１８３】度数の変換処理を行うスコープ範囲となる画素を説明する図である。
【図１８４】度数の変換処理を行うスコープ範囲となる画素を説明する図である。
【図１８５】データ定常性検出部の他の実施の形態の構成を示すブロック図である。
【図１８６】図１８５のデータ定常性検出部によるデータの定常性の検出の処理を説明するフローチャートである。
【図１８７】実世界推定部１０２の構成を示すブロック図である。
【図１８８】実世界１の信号における、細線の幅を検出する処理を説明する図である。
【図１８９】実世界１の信号における、細線の幅を検出する処理を説明する図である。
【図１９０】実世界１の信号における、細線の信号のレベルを推定する処理を説明する図である。
【図１９１】実世界の推定の処理を説明するフローチャートである。
【図１９２】実世界推定部１０２の他の構成を示すブロック図である。
【図１９３】境界検出部２１２１の構成を示すブロック図である。
【図１９４】分配比の算出の処理を説明する図である。
【図１９５】分配比の算出の処理を説明する図である。
【図１９６】分配比の算出の処理を説明する図である。
【図１９７】単調増減領域の境界を示す回帰直線の算出の処理を説明する図である。
【図１９８】単調増減領域の境界を示す回帰直線の算出の処理を説明する図である。
【図１９９】実世界の推定の処理を説明するフローチャートである。
【図２００】境界検出の処理を説明するフローチャートである。
【図２０１】空間方向の微分値を実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図２０２】図２０１の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図２０３】参照画素を説明する図である。
【図２０４】空間方向の微分値を求める位置を説明する図である。
【図２０５】空間方向の微分値とシフト量の関係を説明する図である。
【図２０６】空間方向の傾きを実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図２０７】図２０６の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図２０８】空間方向の傾きを求める処理を説明する図である。
【図２０９】空間方向の傾きを求める処理を説明する図である。
【図２１０】フレーム方向の微分値を実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図２１１】図２１０の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図２１２】参照画素を説明する図である。
【図２１３】フレーム方向の微分値を求める位置を説明する図である。
【図２１４】フレーム方向の微分値とシフト量の関係を説明する図である。
【図２１５】フレーム方向の傾きを実世界推定情報として推定する実世界推定部の構成を示すブロック図である。
【図２１６】図２１５の実世界推定部による実世界推定の処理を説明するフローチャートである。
【図２１７】フレーム方向の傾きを求める処理を説明する図である。
【図２１８】フレーム方向の傾きを求める処理を説明する図である。
【図２１９】図３の実世界推定部の実施の形態の1例である、関数近似手法の原理を説明する図である。
【図２２０】センサがＣＣＤとされる場合の積分効果を説明する図である。
【図２２１】図２２０のセンサの積分効果の具体的な例を説明する図である。
【図２２２】図２２０のセンサの積分効果の具体的な他の例を説明する図である。
【図２２３】図２２１で示される細線含有実世界領域を表した図である。
【図２２４】図３の実世界推定部の実施の形態の１例の原理を、図２１９の例と対比させて説明する図である。
【図２２５】図２２１で示される細線含有データ領域を表した図である。
【図２２６】図２２５の細線含有データ領域に含まれる各画素値のそれぞれをグラフ化した図である。
【図２２７】図２２６の細線含有データ領域に含まれる各画素値を近似した近似関数をグラフ化した図である。
【図２２８】図２２１で示される細線含有実世界領域が有する空間方向の定常性を説明する図である。
【図２２９】図２２５の細線含有データ領域に含まれる各画素値のそれぞれをグラフ化した図である。
【図２３０】図２２９で示される入力画素値のそれぞれを、所定のシフト量だけシフトさせた状態を説明する図である。
【図２３１】空間方向の定常性を考慮して、図２２６の細線含有データ領域に含まれる各画素値を近似した近似関数をグラフ化した図である。
【図２３２】空間混合領域を説明する図である。
【図２３３】空間混合領域における、実世界の信号を近似した近似関数を説明する図である。
【図２３４】センサの積分特性と空間方向の定常性の両方を考慮して、図２２６の細線含有データ領域に対応する実世界の信号を近似した近似関数をグラフ化した図である。
【図２３５】図２１９で示される原理を有する関数近似手法のうちの、１次多項式近似手法を利用する実世界推定部の構成例を説明するブロック図である。
【図２３６】図２３５の構成の実世界推定部が実行する実世界の推定処理を説明するフローチャートである。
【図２３７】タップ範囲を説明する図である。
【図２３８】空間方向の定常性を有する実世界の信号を説明する図である。
【図２３９】センサがＣＣＤとされる場合の積分効果を説明する図である。
【図２４０】断面方向距離を説明する図である。
【図２４１】図２１９で示される原理を有する関数近似手法のうちの、２次多項式近似手法を利用する実世界推定部の構成例を説明するブロック図である。
【図２４２】図２４１の構成の実世界推定部が実行する実世界の推定処理を説明するフローチャートである。
【図２４３】タップ範囲を説明する図である。
【図２４４】時空間方向の定常性の方向を説明する図である。
【図２４５】センサがＣＣＤとされる場合の積分効果を説明する図である。
【図２４６】空間方向の定常性を有する実世界の信号を説明する図である。
【図２４７】時空間方向の定常性を有する実世界の信号を説明する図である。
【図２４８】図２１９で示される原理を有する関数近似手法のうちの、３次元関数近似手法を利用する実世界推定部の構成例を説明するブロック図である。
【図２４９】図２４８の構成の実世界推定部が実行する実世界の推定処理を説明するフローチャートである。
【図２５０】図３の実世界推定部に入力される入力画像の例を示す図である。
【図２５１】図２５０の注目画素の中心における実世界の光信号のレベルと、断面方向距離x'における実世界の光信号のレベルの差を示す図である。
【図２５２】断面方向距離x'について説明する図である。
【図２５３】断面方向距離x'について説明する図である。
【図２５４】ブロック内の各画素の断面方向距離を表した図である。
【図２５５】正規方程式において重みを考慮せずに処理した結果を示す図である。
【図２５６】正規方程式において重みを考慮して処理した結果を示す図である。
【図２５７】正規方程式において重みを考慮せずに処理した結果を示す図である。
【図２５８】正規方程式において重みを考慮して処理した結果を示す図である。
【図２５９】図３の画像生成部の実施の形態の1例である、再積分手法の原理を説明する図である。
【図２６０】入力画素と、その入力画素に対応する、実世界の信号を近似する近似関数の例を説明する図である。
【図２６１】図２６０で示される近似関数から、図２６０で示される１つの入力画素における、高解像度の４つの画素を創造する例を説明する図である。
【図２６２】図２５９で示される原理を有する再積分手法のうちの、１次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２６３】図２６２の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図２６４】入力画像の元の画像の例を表す図である。
【図２６５】図２６４の画像に対応する画像データの例を表す図である。
【図２６６】入力画像の例を表す図である。
【図２６７】図２６６の画像に対応する画像データの例を表す図である。
【図２６８】入力画像に対して従来のクラス分類適応処理を施して得られる画像の例を表す図である。
【図２６９】図２６８の画像に対応する画像データの例を表す図である。
【図２７０】入力画像に対して本発明の１次元再積分手法の処理を施して得られる画像の例を表す図である。
【図２７１】図２７０の画像に対応する画像データの例を表す図である。
【図２７２】空間方向の定常性を有する実世界の信号を説明する図である。
【図２７３】図２５９で示される原理を有する再積分手法のうちの、２次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２７４】断面方向距離を説明する図である。
【図２７５】図２７３の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図２７６】入力画素の１例を説明する図である。
【図２７７】２次元再積分手法により、図２７６で示される１つの入力画素における、高解像度の４つの画素を創造する例を説明する図である。
【図２７８】時空間方向の定常性の方向を説明する図である。
【図２７９】図２５９で示される原理を有する再積分手法のうちの、３次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２８０】図２７９の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図２８１】本発明を適用した画像生成部のその他の構成を示すブロック図である。
【図２８２】図２８１の画像生成部による画像の生成の処理を説明するフローチャートである。
【図２８３】入力画素から４倍密度の画素を生成する処理を説明する図である。
【図２８４】画素値を示す近似関数とシフト量との関係を示す図である。
【図２８５】本発明を適用した画像生成部のその他の構成を示すブロック図である。
【図２８６】図２８５の画像生成部による画像の生成の処理を説明するフローチャートである。
【図２８７】入力画素から４倍密度の画素を生成する処理を説明する図である。
【図２８８】画素値を示す近似関数とシフト量との関係を示す図である。
【図２８９】図３の画像生成部の実施の形態の1例である、クラス分類適応処理補正手法の１次元再積分手法を利用する画像生成部の構成例を説明するブロック図である。
【図２９０】図２８９の画像生成部のクラス分類適応処理部の構成例を説明するブロック図である。
【図２９１】図２８９のクラス分類適応処理部と、クラス分類適応処理補正部が使用する係数を学習により決定する学習装置の構成例を示すブロック図である。
【図２９２】図２９１のクラス分類適応処理用学習部の詳細な構成例を説明するブロック図である。
【図２９３】図２９０のクラス分類適応処理部の処理結果の例を示す図である。
【図２９４】図２９３の予測画像とHD画像の差分画像を示す図である。
【図２９５】図２９４で示される領域に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個のＨＤ画素に対応する、図２９３のＨＤ画像の具体的な画素値、ＳＤ画像の具体的な画素値、および、実際の波形（実世界の信号）のそれぞれをプロットしたものを示す図である。
【図２９６】図２９３の予測画像とHD画像の差分画像を示す図である。
【図２９７】図２９６で示される領域に含まれるＸ方向に連続した６個のＨＤ画素のうちの、図中左から４個のＨＤ画素に対応する、図２９３のＨＤ画像の具体的な画素値、ＳＤ画像の具体的な画素値、および、実際の波形（実世界の信号）のそれぞれをプロットしたものを示す図である。
【図２９８】図２９５乃至図２９７に示される内容に基づいて得られた知見を説明する図である。
【図２９９】図２８９の画像生成部のクラス分類適応処理補正部の構成例を説明するブロック図である。
【図３００】図２９１のクラス分類適応処理補正用学習部の詳細な構成例を説明するブロック図である。
【図３０１】画素内傾斜を説明する図である。
【図３０２】図２９３のSD画像と、そのSD画像の各画素の画素内傾斜を画素値とする特徴量画像を示す図である。
【図３０３】画素内傾斜の算出方法を説明する図である。
【図３０４】画素内傾斜の算出方法を説明する図である。
【図３０５】図２８９の構成の画像生成部が実行する画像の生成処理を説明するフローチャートである。
【図３０６】図３０５の画像の生成処理の入力画像クラス分類適応処理の詳細を説明するフローチャートである。
【図３０７】図３０５の画像の生成処理のクラス分類適応処理の補正処理の詳細を説明するフローチャートである。
【図３０８】クラスタップの配置例を説明する図である。
【図３０９】クラス分類の１例を説明する図である。
【図３１０】予測タップ配置例を説明する図である。
【図３１１】図２９１の学習装置の学習処理を説明するフローチャートである。
【図３１２】図３１１の学習処理のクラス分類適応処理用学習処理の詳細を説明するフローチャートである。
【図３１３】図３１１の学習処理のクラス分類適応処理補正用学習処理の詳細を説明するフローチャートである。
【図３１４】図２９３の予測画像と、その予測画像に補正画像を加算した画像（図２８９の画像生成部により生成される画像）を表した図である。
【図３１５】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第１の構成例を説明するブロック図である。
【図３１６】図３１５の信号処理装置の、クラス分類適応処理を実行する画像生成部の構成例を説明するブロック図である。
【図３１７】図３１６の画像生成部に対する学習装置の構成例を説明するブロック図である。
【図３１８】図３１５の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３１９】図３１８の信号の処理のクラス分類適応処理の実行処理の詳細を説明するフローチャートである。
【図３２０】図３１７の学習装置の学習処理を説明するフローチャートである。
【図３２１】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第２の構成例を説明するブロック図である。
【図３２２】図３１９の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３２３】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第３の構成例を説明するブロック図である。
【図３２４】図３２１の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３２５】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第４の構成例を説明するブロック図である。
【図３２６】図３２３の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３２７】図１の信号処理装置の実施の形態の他の例である、併用手法を利用する信号処理装置の第５の構成例を説明するブロック図である。
【図３２８】図３２５の構成の信号処理装置が実行する信号の処理を説明するフローチャートである。
【図３２９】データ定常性検出部の他の実施の形態の構成を示すブロック図である。
【図３３０】図３２９のデータ定常性検出部によるデータの定常性の検出処理を説明するフローチャートである。
【図３３１】光学ブロックの構成を説明する図である。
【図３３２】光学ブロックの構成を説明する図である。
【図３３３】 OLPFの構成を説明する図である。
【図３３４】 OLPFの機能を説明する図である。
【図３３５】 OLPFの機能を説明する図である。
【図３３６】本発明のその他の信号処理装置の構成を示すブロック図である。
【図３３７】図３３６のOLPF除去部の構成を示すブロック図である。
【図３３８】クラスタップの例を説明する図である。
【図３３９】図３３６の信号処理装置による信号の処理を説明するフローチャートである。
【図３４０】図３３９のフローチャートのステップＳ５１０１の処理である、OLPF除去の処理を説明するフローチャートである。
【図３４１】図３３７のOLPF除去部の係数を学習する学習装置である。
【図３４２】学習方法を説明する図である。
【図３４３】教師画像と生徒画像を説明する図である。
【図３４４】図３４２の学習装置の教師画像生成部と生徒画像生成部の構成を示すブロック図である。
【図３４５】生徒画像と教師画像の生成方法を説明する図である。
【図３４６】 OLPFのシミュレーション方法を説明する図である。
【図３４７】教師画像の例を示す図である。
【図３４８】生徒画像の例を示す図である。
【図３４９】学習の処理を説明するフローチャートである。
【図３５０】 OLPFの除去処理を行った画像を示す図である。
【図３５１】 OLPFの除去処理を行った画像と、除去していない画像との比較を説明する図である。
【図３５２】実世界推定部のその他の構成例を示すブロック図である。
【図３５３】 OLPFによる影響を説明する図である。
【図３５４】 OLPFによる影響を説明する図である。
【図３５５】図３５２の実世界推定部による実世界の推定処理を説明するフローチャートである。
【図３５６】抽出されるタップの例を示す図である。
【図３５７】図３５２の実世界推定部により推定された実世界の近似関数より生成された画像と、それ以外の手法で生成された画像を比較する図である。
【図３５８】図３５２の実世界推定部により推定された実世界の近似関数より生成された画像と、それ以外の手法で生成された画像を比較する図である。
【図３５９】信号処理装置のその他の構成を示すブロック図である。
【図３６０】図３５９の信号処理装置による信号の処理を説明すうフローチャートである。
【図３６１】図３５９の信号処理装置の係数を学習する学習装置の構成を示すブロック図である。
【図３６２】図３６１の教師画像生成部と生徒画像生成部の構成を示すブロック図である。
【図３６３】図３６１の学習装置による学習の処理を説明するフローチャートである。
【図３６４】各種の画像処理の関係を説明する図である。
【図３６５】連続関数からなる近似関数による実世界の推定を説明する図である。
【図３６６】不連続関数からなる近似関数を説明する図である。
【図３６７】連続関数と不連続関数からなる近似関数を説明する図である。
【図３６８】不連続関数からなる近似関数を用いた画素値の求め方を説明する図である。
【図３６９】実世界推定部のその他の構成を示すブロック図である。
【図３７０】図３６９の実世界推定部による実世界の推定処理を説明するフローチャートである。
【図３７１】抽出されるタップの例を示す図である。
【図３７２】 X-t平面上の不連続関数からなる近似関数を説明する図である。
【図３７３】抽出されるタップのその他の例を示す図である。
【図３７４】２次元の不連続関数からなる近似関数を説明する図である。
【図３７５】２次元の不連続関数からなる近似関数を説明する図である。
【図３７６】注目画素の領域毎の体積の割合を説明する図である。
【図３７７】実世界推定部のその他の構成を示すブロック図である。
【図３７８】図３７７の実世界推定部による実世界の推定処理を説明するフローチャートである。
【図３７９】抽出されるタップのその他の例を示す図である。
【図３８０】２次元の不連続関数からなる近似関数を説明する図である。
【図３８１】２次元の不連続関数からなる近似関数のその他の例を説明する図である。
【図３８２】領域毎の多項式の連続関数からなる近似関数を説明する図である。
【図３８３】領域毎の多項式の不連続関数からなる近似関数を説明する図である。
【図３８４】画像生成部のその他の構成を説明するブロック図である。
【図３８５】図３８４の画像生成部による画像生成の処理を説明するフローチャートである。
【図３８６】４倍密度の画素の生成手法を説明する図である。
【図３８７】従来の手法と、不連続関数からなる近似関数を用いた場合との関係を説明する図である。
【図３８８】画像生成部のその他の構成を説明するブロック図である。
【図３８９】図３８８の画像生成部による画像生成の処理を説明するフローチャートである。
【図３９０】注目画素を説明する図である。
【図３９１】注目画素の画素値を演算する方法を説明する図である。
【図３９２】空間方向の不連続関数からなる近似関数を用いた処理結果と、その他の処理結果を説明する図である。
【図３９３】不連続関数からなる近似関数を用いた処理結果と、その他の処理結果を説明する図である。
【図３９４】センサによる撮像を説明する図である。
【図３９５】画素の配置を説明する図である。
【図３９６】検出素子の動作を説明する図である。
【図３９７】動いている前景に対応するオブジェクトと、静止している背景に対応するオブジェクトとを撮像して得られる画像を説明する図である。
【図３９８】背景領域、前景領域、混合領域、カバードバックグラウンド領域、およびアンカバードバックグラウンド領域を説明する図である。
【図３９９】静止している前景に対応するオブジェクトおよび静止している背景に対応するオブジェクトを撮像した画像における、隣接して１列に並んでいる画素の画素値を時間方向に展開したモデル図である。
【図４００】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０１】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０２】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０３】前景領域、背景領域、および混合領域の画素を抽出した例を示す図である。
【図４０４】画素と画素値を時間方向に展開したモデルとの対応を示す図である。
【図４０５】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０６】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０７】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０８】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル図である。
【図４０９】画素値を時間方向に展開し、シャッタ時間に対応する期間を分割したモデル
【図４１０】時空間方向の不連続関数からなる近似関数を用いた処理結果と、その他の処理結果を説明する図である。
【図４１１】水平方向の動きボケを含む画像を説明する図である。
【図４１２】図４１１の画像を時空間方向の不連続関数からなる近似関数を用いた処理結果と、その他の処理結果を説明する図である。
【図４１３】斜方向の動きボケを含む画像を説明する図である。
【図４１４】図４１３の画像を時空間方向の不連続関数からなる近似関数を用いた処理結果と、その他の処理結果を説明する図である。
【図４１５】斜方向に動きボケを含む画像を時空間方向の不連続関数からなる近似関数を用いた処理結果を示す図である。
【符号の説明】
４ 信号処理装置， ２１ ＣＰＵ， ２２ ＲＯＭ， ２３ ＲＡＭ， ２８ 記憶部， ５１ 磁気ディスク， ５２ 光ディスク， ５３ 光磁気ディスク， ５４ 半導体メモリ， １０１ データ定常性検出部， １０２ 実世界推定部， １０３ 画像生成部， ２０１ 非定常成分抽出部， ２０２ 頂点検出部， ２０３ 単調増減検出部， ２０４ 連続性検出部， ２２１ ブロック抽出部， ２２２ 平面近似部， ２２３ 繰り返し判定部， ４０１ アクティビティ検出部， ４０２ データ選択部， ４０３ 誤差推定部， ４０４ 定常方向導出部， ４１１−１乃至４１１−Ｌ 画素選択部， ４１２−１乃至４１２−Ｌ 推定誤差算出部， ４１３ 最小誤差角度選択部， ４２１−１乃至４２１−Ｌ 画素選択部， ４２２−１乃至４２２−Ｌ 推定誤差算出部， ４４１ データ選択部， ４４２ 誤差推定部， ４４３ 定常方向導出部， ４６１−１乃至４６１−Ｌ 画素選択部， ４６２−１乃至４６２−Ｌ 推定誤差算出部， ４６３ 最小誤差角度選択部， ４８１−１乃至４８１−３データ定常性検出部， ４８２ 決定部， ４９１ コンポーネント処理部，４９２ データ定常性検出部， ５０２ 画素取得部， ５０３ 度数検出部， ５０４ 回帰直線演算部， ５０５ 角度算出部， ６０２ 画素取得部，６０３ 度数検出部， ６０４ 回帰直線演算部， ６０５ 領域算出部， ７０１ データ選択部， ７０２ データ足し込み部， ７０３ 定常方向導出部， ７１１ 水平・垂直判定部， ７１２ データ取得部， ７２１ 差分足し込み部， ７２２ MaxMin取得部， ７２３ 差分足し込み部， ７３１ 定常方向演算部， ７５１ データ足し込み部， ７５２ MaxMin取得部， ７５３ 足し込み部， ７５４ 差分演算部， ７５５ 足し込み部， ７６１ 混合比導出部， ７６２ 混合比算出部， ８０１ 角度検出部， ８０２ 実世界推定部， ８０３ 誤差演算部， ８０４ 比較部， ８２１ 動き検出部，８２２ 実世界推定部， ８２３ 誤差演算部， ８２４ 比較部， ９０１簡易式角度検出部， ９０２ 判定部， ９０３ スイッチ， ９０４ 回帰式角度検出部， ９０５ 勾配式角度検出部， ９１１ データ選択部， ９１２ 誤差推定部， ９１３ 定常方向導出部， ９２１−１乃至９２１−Ｌ 画素選択部， ９２２−１乃至９２２−Ｌ 推定誤差算出部， ９２３ 最小誤差角度選択部， ２１０１ 線幅検出部， ２１０２ 信号レベル推定部， ２１２１ 境界検出部， ２１３１ 分配比算出部， ２１３２ 回帰直線算出部，２２０１ 実世界推定部， ２２０２ 近似関数推定部， ２２０３ 微分処理部， ２２１１ 参照画素抽出部， ２２１２ 傾き推定部， ２２３１ 実世界推定部， ２２３２ 近似関数推定部， ２２３３ 微分処理部， ２２５１ 参照画素抽出部， ２２５２ 傾き推定部， ２３３１ 条件設定部, ２３３２ 入力画像記憶部, ２３３３ 入力画素値取得部, ２３３４ 積分成分演算部, ２３３５ 正規方程式生成部, ２３３６ 近似関数生成部, ２３４１ 入力画素値テーブル, ２３４２ 積分成分テーブル, ２３４３ 正規方程式テーブル， ２４２１ 条件設定部, ２４２２ 入力画像記憶部, ２４２３入力画素値取得部, ２４２４ 積分成分演算部, ２４２５ 正規方程式生成部, ２４２６ 近似関数生成部, ２４３１ 入力画素値テーブル, ２４３２積分成分テーブル, ２４３３ 正規方程式テーブル， ２５２１ 条件設定部, ２５２２ 入力画像記憶部, ２５２３ 入力画素値取得部, ２５２４ 積分成分演算部, ２５２５ 正規方程式生成部, ２５２６ 近似関数生成部,２５３１ 入力画素値テーブル, ２５３２ 積分成分テーブル, ２５３３ 正規方程式テーブル， ３１２１ 条件設定部, ３１２２ 特徴量記憶部, ３１２３ 積分成分演算部, ３１２４ 出力画素値演算部, ３１３１ 特徴量テーブル, ３１３２ 積分成分テーブル， ３２０１ 条件設定部, ３２０２ 特徴量記憶部, ３２０３ 積分成分演算部, ３２０４ 出力画素値演算部, ３２１１ 特徴量テーブル, ３２１２ 積分成分テーブル， ３３０１ 条件設定部, ３３０２ 特徴量記憶部, ３３０３ 積分成分演算部, ３３０４ 出力画素値演算部, ３３１１ 特徴量テーブル, ３３１２ 積分成分テーブル， ３２０１ 傾き取得部， ３２０２ 外挿補間部， ３２１１ 傾き取得部， ３２１２ 外挿補間部， ３５０１ クラス分類適応処理部， ３５０２ クラス分類適応処理補正部， ３５０３ 加算部， ３５０４ 学習装置， ３５２１ クラス分類適応処理用学習部， ３５６１ クラス分類適応処理補正用学習部， ４１０１ データ定常性検出部４１０１ 実世界推定部， ４１０３画像生成部， ４１０４ 画像生成部， ４１０５ 定常領域検出部， ４１１１ 領域検出部， ４１１２ セレクタ， ４１６１ 定常領域検出部， ４１７１ 領域検出部， ４１７２ 実行指令生成部， ４１８１，４１８２ 定常領域検出部， ４１９１ 領域検出部， ４１９２ 実行指令生成部， ４２０１ 領域検出部， ４２０２ 実行指令生成部， ４５０１ 画像生成部， ５１０１ レンズ， ５１０２ IRカットフィルタ， ５１０３ OLPF， ５１０４ CCD， ５１１０ 光学ブロック， ５１２１ａ，ｂ 水晶， ５１２２位相板， ５１３１ OLPF除去部， ５１４１ クラスタップ検出部， ５１４２ 特徴量抽出部， ５１４３ クラス分類部， ５１４４ 係数メモリ， ５１４５ 予測タップ抽出部， ５１４６ 画素値演算部， ５１５１ 生徒画像生成部， ５１５１ａ 1/16平均処理部， ５１５２ 学習部， ５１５３ 教師画像生成部， ５１５３ａ OLPFシミュレーション部， ５１５３ｂ 1/16平均処理部， ５１５４ 係数メモリ， ５１６１ 画像メモリ， ５１６２ クラスタップ抽出部， ５１６３ 特徴量抽出部， ５１６４ クラス分類部，５１６５ 予測タップ抽出部， ５１６６ 足し込み演算部， ５１６７ 学習メモリ， ５１６８ 正規方程式演算部， ５２０１ 条件設定部, ５２０２ 入力画像記憶部, ５２０３ 入力画素値取得部, ５２０４ 積分成分演算部, ５２０５ 正規方程式生成部, ５２０６ 近似関数生成部, ５２４１ クラスタップ抽出部， ５２４２ 特徴量演算部， ５２４３ クラス分類部，５２４４ 係数メモリ， ５２４５ 予測タップ抽出部， ５２４６ 画素値演算部， ５２５１ 生徒画像生成部， ５２５１ａ OLPFシミュレーション処理部， ５２５１ｂ 1/64平均処理部， ５２５２ 学習部， ５２５３ 教師画像生成部， ５２５３ 1/16平均処理部， ５２５４ 係数メモリ， ５２６１ 画像メモリ， ５２６２ クラスタップ抽出部， ５２６３ 特徴量演算部， ５２６４ クラス分類部， ５２６５ 予測タップ抽出部， ５２６６ 足し込み演算部， ５２６７ 学習メモリ， ５２６８ 正規方程式演算部， ５３０１ 条件設定部, ５３０２ 入力画像記憶部, ５３０３ 入力画素値取得部, ５３０４ 積分成分演算部, ５３０５ 正規方程式生成部, ５３０６ 近似関数生成部, ５３２１ 条件設定部, ５３２２ 入力画像記憶部, ５３２３ 入力画素値取得部, ５３２４ 積分成分演算部, ５３２５ 正規方程式生成部, ５３２６ 近似関数生成部, ５３４１ 実世界推定情報取得部， ５３４２ 重み計算部， ５３４３ 画素生成部， ５３５１ 実世界推定情報取得部， ５３５２ 重み計算部， ５３５３ 画素生成部

Claims (9)

1. 現実世界の光信号は、物からの光信号の強度の分布における前記物の長さ方向の任意の位置において、前記長さ方向に直交する方向の位置の変化に対応するレベルの変化としての断面形状が同じであるという現実世界の光信号の定常性を有し、前記現実世界の光信号が射影され、前記現実世界の光信号の定常性の一部が欠落した画像データ内の、前記現実世界の光信号の定常性から変化したに対応する所定の次元の方向に一定の特徴を有しているという画像データの定常性を有する画素の領域の基準軸に対する角度を、マッチング処理により検出する第１の角度検出手段と、
   前記第１の角度検出手段により検出された角度に対応する所定領域内の前記画像データに基いて、統計処理により前記角度を検出する第２の角度検出手段と、
   前記第２の角度検出手段により検出された前記角度に基いて、前記欠落した現実世界の光信号の定常性を推定することにより前記光信号を推定する実世界推定手段と
   を備えることを特徴とする画像処理装置。
2. 前記第１の角度検出手段は、
   前記画像データ内の注目画素を基準とした各角度の直線に近接する複数の画素を中心とした画像ブロックを検出する画素検出手段と、
   前記画素検出手段により検出された各画像ブロック同士の相関を検出する相関検出手段とをさらに備え、
   前記相関検出手段により検出された前記各画像ブロック同士の相関の値に応じて前記画像データの定常性の基準軸に対する角度を検出する
   ことを特徴とする請求項１に記載の画像処理装置。
3. 前記第２の角度検出手段は、
   複数の統計処理手段をさらに備え、
   前記第１の角度検出手段により検出された角度に応じて前記複数の統計処理手段のうちの１の統計処理手段により前記角度を検出する
   ことを特徴とする請求項１に記載の画像処理装置。
4. 前記複数の統計処理手段のうちの１の統計処理手段は、
   前記所定領域内の画素の画素値の最大値と最小値との差であるダイナミックレンジを検出するダイナミックレンジ検出手段と、
   前記所定領域内のアクティビティに応じた方向に隣接する画素間の差分値を検出する差分値検出手段と、
   前記ダイナミックレンジと前記差分値に応じて、前記欠落した現実世界の光信号の定常性に対応する画像データの定常性の基準軸に対する角度を統計的に検出する統計的角度検出手段とをさらに備える
   ことを特徴とする請求項３に記載の画像処理装置。
5. 前記複数の統計処理手段のうちの１の統計処理手段は、
   前記注目画素の画素値と、前記所定領域内の他の画素の画素値との相関値が閾値以上である画素の数を前記注目画素に対応する度数とする度数検出手段と、
   前記度数検出手段により検出された各注目画素の度数に基いて回帰線を検出することにより、前記画像データの定常性の基準軸に対する角度を統計的に検出する統計的角度検出手段とを備える
   ことを特徴とする請求項３に記載の画像処理装置。
6. 前記度数検出手段は、前記所定領域内以外の画素に対応する度数を０に設定する
   ことを特徴とする請求項５に記載の画像処理装置。
7. 現実世界の光信号は、物からの光信号の強度の分布における前記物の長さ方向の任意の位置において、前記長さ方向に直交する方向の位置の変化に対応するレベルの変化としての断面形状が同じであるという現実世界の光信号の定常性を有し、前記現実世界の光信号が射影され、前記現実世界の光信号の定常性の一部が欠落した画像データ内の、前記現実世界の光信号の定常性から変化したに対応する所定の次元の方向に一定の特徴を有しているという画像データの定常性を有する画素の領域の基準軸に対する角度を、マッチング処理により検出する第１の角度検出ステップと、
   前記第１の角度検出ステップの処理で検出された角度に対応する所定領域内の前記画像データに基いて、統計処理により前記角度を検出する第２の角度検出ステップと、
   前記第２の角度検出ステップの処理で検出された前記角度に基いて、前記欠落した現実世界の光信号の定常性を推定することにより前記光信号を推定する実世界推定ステップと
   を含むことを特徴とする画像処理方法。
8. 現実世界の光信号は、物からの光信号の強度の分布における前記物の長さ方向の任意の位置において、前記長さ方向に直交する方向の位置の変化に対応するレベルの変化としての断面形状が同じであるという現実世界の光信号の定常性を有し、前記現実世界の光信号が射影され、前記現実世界の光信号の定常性の一部が欠落した画像データ内の、前記現実世界の光信号の定常性から変化したに対応する所定の次元の方向に一定の特徴を有しているという画像データの定常性を有する画素の領域の基準軸に対する角度を、マッチング処理により検出する第１の角度検出ステップと、
   前記第１の角度検出ステップの処理で検出された角度に対応する所定領域内の前記画像データに基いて、統計処理により前記角度を検出する第２の角度検出ステップと、
   前記第２の角度検出ステップの処理で検出された前記角度に基いて、前記欠落した現実世界の光信号の定常性を推定することにより前記光信号を推定する実世界推定ステップと
   を含む処理を実行させるコンピュータが読み取り可能なプログラムが記録されていることを特徴とする記録媒体。
9. 現実世界の光信号は、物からの光信号の強度の分布における前記物の長さ方向の任意の位置において、前記長さ方向に直交する方向の位置の変化に対応するレベルの変化としての断面形状が同じであるという現実世界の光信号の定常性を有し、前記現実世界の光信号が射影され、前記現実世界の光信号の定常性の一部が欠落した画像データ内の、前記現実世界の光信号の定常性から変化したに対応する所定の次元の方向に一定の特徴を有しているという画像データの定常性を有する画素の領域の基準軸に対する角度を、マッチング処理により検出する第１の角度検出ステップと、
   前記第１の角度検出ステップの処理で検出された角度に対応する所定領域内の前記画像データに基いて、統計処理により前記角度を検出する第２の角度検出ステップと、
   前記第２の角度検出ステップの処理で検出された前記角度に基いて、前記欠落した現実世界の光信号の定常性を推定することにより前記光信号を推定する実世界推定ステップと
   を含む処理をコンピュータに実行させることを特徴とするプログラム。

Images